语言大模型 / LLM

Brain-Aligned Multi-Stream Video Transformers with Sparse Self-Selection

具有稀疏自选择的脑对齐多流视频变换器

Amir Hosein Fadaei, Mahyar Maleki, Mohammad-Reza A. Dehaqani

机构 * University of Tehran（德黑兰大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 研究针对现代视频变换器忽视灵长类视觉原理及缺乏神经数据评估的问题，提出含稀疏胜者全得令牌选择模块的脑对齐多流视频变换器，经实验其在精度与推理时间上表现优且鲁棒性强，脑模型相关性高，优于基线。

Comments 23 pages, 11 figures

Talaria: Session-Aware Serverless Serving of Hundred-Billion-Parameter LLMs

Talaria：面向千亿参数语言模型的会话感知无服务器服务

Utopia Meng, Unicornt Zhao, Derek Li, Goalen Gao, Frank Du

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究面向千亿参数语言模型的无服务器服务问题，提出会话感知的Talaria系统，通过联合放置和准入决策保证会话连续性，其路由器排序放置，软预留考虑返回，会话预填充等措施提升性能，实验显示相比其他调度器有显著加速。

Comments 19 pages, 15 figures

Bridging the Information Gap: Semantic Densification and Hindsight Distillation for Cold-Start Prediction

弥合信息差距：冷启动预测的语义致密化与事后蒸馏

Hao Duong Le, Yifei Gao, Huan Li, Lun Jiang, Chen Bai, Ke Xing, Chen Zhang

机构 * Tsinghua University（清华大学） ； Meituan（美团） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 针对电子商务平台新用户冷启动预测难题，SemRaD框架利用结构化语义推理管道和事后感知蒸馏网络，有效弥合信息差距，提升了LTV和CVR，减少训练数据用量，在工业数据集和在线测试中均取得良好效果。

Regularize or Localize: When Training-Time KV-Cache Geometry Pays Under Quantization

正则化还是本地化：训练时的KV缓存几何结构在量化下何时起作用

Libo Sun, Po-Wei Harn, Zewei Zhang, Peixiong He, Xiao Qin

机构 * Auburn University（奥本大学） ； National Central University（国立中央大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 研究LeJEPA的\sigreg在语言模型预训练中能否重塑表示及助于KV缓存量化，通过训练1.1亿参数模型发现，\sigreg能降隐藏状态各向异性，对K和V直接正则化可降缓存各向异性，特定配置下训练干预在量化器比例粗时有用，此为首次训练时分布正则化评估。

Comments 16 Pages, 4 Figures

Multi-level context Modeling for consistent expert selection in Mixture-of-Experts

用于混合专家模型中一致专家选择的多层次上下文建模

Shuhan Huang, Naifan Zhang, Yuanbo Tang, Yang Li, Wai Kin Victor Chan

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； School of AI, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）人工智能学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究混合专家模型中专家选择问题，提出多层次上下文融合MoE框架，通过整合跨层语义聚合和局部令牌级交互信号构建上下文感知表示，提升路由一致性和下游性能。

A${}^2$BM: Alignment-Aware Bridge Matching for Image-to-Image Translation

A²BM：用于图像到图像翻译的对齐感知桥接匹配

Aimi Okabayashi, Georges Le Bellier, Nicolas Audebert, Charlotte Pelletier, Thomas Corpetti, Nicolas Courty

专题命中 效率与部署 ：prompting(abstract)；分类 cs.AI

AI总结 研究图像到图像翻译中弱对齐数据问题，提出A²BM方法利用图像对对齐，在训练中纳入对齐分数区分真实对应，推理时控制翻译保真度，实验验证该方法比基线表现优，为弱对齐数据的图像翻译提供解决方案。

Shapley Context Pruning: A Cooperative Game Perspective for Context Reranking and Pruning

Shapley上下文剪枝：一种用于上下文重排和剪枝的合作博弈视角

Yanqiao Chen, Dongsheng Hou, Yuhan Rui, Zhen Cao, Yepang Liu

机构 * Southern University of Science and Technology（南方科技大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文针对检索增强生成系统上下文重排和剪枝缺乏可解释统一框架的问题，提出Shapley上下文剪枝框架，用合作博弈视角归因重要性，采用深度集架构和蒙特卡罗采样，经多实验验证，模型在下游问答性能上表现出色。

Rate-Utility Frontiers for Language Encodings: Comparing Tokens, Bytes, and Pixels Under Controlled Linguistic Content

语言编码的速率-效用前沿：在受控语言内容下比较词元、字节和像素

Ingo Ziegler, Martin Krebs, Desmond Elliott

机构 * Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究在内容和下游能力受控时语言编码保留了什么，利用多语言平行句子通过共享瓶颈比较词元、字节和像素以追踪速率-效用前沿，评估三种效用，发现各编码在不同方面表现不同，选择编码需考虑多因素进行速率-效用权衡。

Comments Preprint. Code available at https://github.com/ziegler-ingo/rate-utility-frontiers

DPNeXt: A Lightweight Multi-Scale Feature Fusion Framework for Efficient ViT-Based Multi-Task Dense Prediction

DPNeXt：用于基于高效视觉Transformer的多任务密集预测的轻量级多尺度特征融合框架

Jehun Kang, Jungha Wang, Youngjun Hwang, David Hyunchul Shim

机构 * School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院电气工程学院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 研究针对机器人感知系统多任务学习中现有解码策略瓶颈，提出DPNeXt框架，用双深度可分离倒置瓶颈及MTBG策略，在多任务密集预测上表现出色，相比DPT大幅减少参数并提升推理速度。

Comments 8 pages, 5 figures. Accepted to the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2026)

DSWorld: A Data Science World Model for Efficient Autonomous Agents

DSWorld：用于高效自主智能体的数据科学世界模型

Zherui Yang, Fan Liu, Hao Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究自主数据科学智能体依赖试错流程效率低的问题，提出数据科学世界模型概念及DSWorld框架，含多种技术。构建数据集并引入优化策略，实验显示其加速智能体训练和推理，在转换预测任务上超基线。

Von Mises-Fisher Mixture Model with Dynamic Shrinkage for Realistic Test-Time Transduction

用于现实测试时转导的具有动态收缩的冯·米塞斯-费舍尔混合模型

Jiazhen Huang, Zhiming Liu, Changhu Wang, Wei Ju, Ziyue Qiao, Xiao Luo

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究针对测试时视觉语言模型性能问题，从惩罚似然估计角度提出具有动态收缩的冯·米塞斯-费舍尔混合模型（MOON），该模型基于分布混合建模，能动态调整收缩强度处理不平衡，无需训练和特定超参，实验验证其性能和效率优势。

Comments Accepted by ICML 2026

Journal ref ICML 2026

Rethinking Transfer in Continual Learning: A Replay-Based Realisation

重新思考持续学习中的迁移：基于重放的实现

Yang Meng, Zhenya Liu, Zhuokai Zhao, Yuxin Chen

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 该研究重新思考持续学习中的迁移，提出三个条件框架，将其观点实例化为TSR，通过选择有益重放数据提升正向迁移，在低预算持续学习协议下优于现有基线，强调应把迁移作为持续学习首要目标先理解再设计。

Prediction-Only Distillation in Linear and Logistic Regression

线性回归和逻辑回归中的仅预测蒸馏

Hien Dang, Pratik Patil, Alessandro Rinaldo

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在仅能获取训练好的预测器和未标记协变量时的自蒸馏，通过新方案训练学生模型，推导岭回归最优混合预测风险的确定性等价物，证明其风险更小，还表明最优混合权重可估计，且二元逻辑回归中预测混合能有更好表现。

Comments 73 pages, 21 figures, 12 tables

The Energy Society: A Simulation Environment for Studying Agent Cooperation under Survival Pressure

能源社会：一个用于研究生存压力下智能体合作的模拟环境

Lucas Bergholdt Hansen, Federico Torrielli, Filippo Tonini, Lukas Galke Poech

机构 * University of Southern Denmark（丹麦南部大学） ； University of Turin（都灵大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 介绍能源社会模拟环境，研究生存压力下竞争与合作激励对智能体行为的影响，通过对比实验发现大模型能耗高，合作激励改变行为，相互推荐行动与记忆有作用，是研究令牌成本与群体激励关系的测试平台。

Comments Accepted at AITC 2026

Quantize with Confidence? An Empirical Study of Quantization for Code Generation

有信心量化？代码生成量化的实证研究

Saima Afrin, Md. Zahidul Haque, Antonio Mastropaolo

机构 * AURA Lab Department of Computer Science William \& Mary Williamsburg, VA, USA 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在资源受限硬件上运行大型代码模型时，六种量化方法对代码质量的影响，用多基准评估功能正确性等指标，引入提示复杂性分析，揭示不同量化技术在正确性、代码质量及鲁棒性上的差异，为选择量化策略提供指导。

Lyapunov Guidance: A Unified Framework for Stabilizing Generative Flows

李雅普诺夫引导：稳定生成流的统一框架

Jingdong Zhang, Xinze Li, Yize Jiang, Luan Yang, Minkai Xu, Junhong Liu

机构 * Imperial College London（伦敦帝国理工学院） ； Fudan University（复旦大学） ； Stanford University（斯坦福大学） ； MicroCyto（微赛生物） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究针对流匹配重新训练计算昂贵、现有训练后引导方法无稳定性保证的问题，提出LyaGuide框架，将流引导作为李雅普诺夫控制问题，统一多种引导策略，经实验验证其在多方面有改进且保持计算效率。

Comments 25 pages, 13 figures

Active Learning for Efficient Annotation of Surgical Videos with Weak Supervision

基于弱监督的主动学习在手术视频高效标注中的应用

Manasa Dendukuri, Matjaz Jogan, Daniel A. Hashimoto, Guiqiu Liao

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 针对腹腔镜视频标注难题，提出人在回路知识获取框架，结合主动学习与双损失优化，利用基础模型及互补训练目标生成CAMs，迭代提出伪掩码引导标注，减少标注工作量50%，实现模型开发可扩展性及高效知识获取。

Comments Accepted to IPCAI 2026

Self-Improving AI Coding Agents Through Accumulated Behavioral Rules: A Closed-Loop Framework

通过累积行为规则实现自我改进的人工智能编码代理：一个闭环框架

Aditya Aggarwal, Nahid Farhady Ghalaty

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究基于大语言模型的编码代理重复犯错问题，提出闭环框架，将审查评论编码为行为规则，经实验验证其能转移审查重点、降低错误复发率且跨接口转移，实现跨会话学习且不更新权重，积累人类工程智慧。

Comments Already presented and accepted in - 32nd ICE IEEE/ITMC Conference (ICE 2026)

Inference Economics of Enterprise Coding Agents: A Case Study of Cloud vs. On-Premise LLMs

企业编码代理的推理经济学：云与本地大语言模型的案例研究

Sheng-Wei Peng, Yi-Hsun Lin, Yi-Pei Lee

机构 * PEGAVERSE Pegatron Corporation（PEGAVERSE 联合科技公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究企业编码代理中云与本地大语言模型的权衡，通过案例研究对比两者，发现提示缓存可大幅降低API成本，本地配置缺陷修复负担高，不同场景下各有成本优劣，混合路由网关在成本与质量间有平衡表现。

Comments 20 pages, 13 figures, 14 tables. Industrial longitudinal case study

SPINE: Bridging the Cyber-Physical Gap with Agentic AI

SPINE：用智能体人工智能弥合网络物理差距

Minkyu Ham, Dongho Kim, Chan Lee, Jiayi Wang, Min Jun Kim, Yixi Zhang, Guo Ye, Jihai Zhao, Soyeon Park, Han Liu

机构 * Northwestern University（西北大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 研究针对机器人智能部署到物理平台存在的校准瓶颈，提出SPINE框架。该框架含两个多智能体工作流程，经实验验证，能跨双臂平台转移，减少对专家校准的依赖，提高操作成功率，缩短遥操作时间，推动具身人工智能向实际部署发展。

Toward Localizing and Repairing Bias in Transformer Attention Heads

迈向Transformer注意力头中偏差的定位与修复

Sigma Jahan

机构 * Sigma Jahan 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究Transformer语言模型中偏差输出难以定位和修复的问题，提出白盒头级公平性调试方法ROBIN，通过对注意力头排序并去除偏差子空间来修复偏差，在试点研究中减少WinoBias差距且更好保留语言建模质量。

Comments Accepted in ICSME NIER track, 2026

Policy-Conditioned Constrained Decoding for Column-Level Access Control in Text-to-SQL

文本到SQL中列级访问控制的策略条件约束解码

Ryoto Miyamoto, Xin Fan, Hayato Yamana

机构 * Waseda University（早稻田大学） 纠错

专题命中 效率与部署 ：prompting(abstract)；分类 cs.CL

AI总结 研究文本到SQL中列级访问控制问题，提出PCC-SQL系统，通过整合策略并应用逐令牌对数掩码，在单次解码中消除违规，在三个基准和开源模型上实现0%泄漏率与88.7%覆盖率，还评估了语义对齐。

We Hebben Een Serieus Translatie: Modeling Intercomprehension as Probabilistic Inference

我们有一个严肃的翻译：将互理解建模为概率推理

Thomas Hikaru Clark, Edward Gibson, Roger Levy

专题命中 效率与部署 ：prompting(abstract)；分类 cs.CL

AI总结 研究如何实现零样本跨语言理解，通过扩展噪声信道推理算法模型，在贝叶斯框架下建模互理解，用L1语言模型和通用噪声模型推断L2与L1单词映射，实验表明完整模型性能优于消融模型及大模型零样本提示。

Requential Coding: Pushing the Limits of Model Compression with Self-Generated Training Data

顺序编码：利用自生成训练数据突破模型压缩的极限

Shikai Qiu, Marc Finzi, Yujia Zheng, Kun Zhang, Andrew Gordon Wilson

机构 * New York University（纽约大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究利用自生成训练数据的顺序编码突破模型压缩极限，教师模型从学生分布选样本，学生代码记录选择，代码长度与参数和熵无关且更短，还能揭示现象、给出泛化保证、隔离可学习信息。

Comments Code available at https://github.com/shikaiqiu/requential-coding

Q-BridgeNet: A Quantization Network for Cross-Lingual Sign Language Translation

Q-BridgeNet：一种用于跨语言手语翻译的量化网络

Liqian Feng, Lintao Wang, Xiaochen Liu, Anusha Withana, Ken-Tye Yong, Dehui Kong, Zhiyong Wang, Kun Hu

机构 * The University of Sydney（悉尼大学） ； Beijing University of Technology（北京工业大学） ； Edith Cowan University（埃迪斯科文大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 针对多语言手语翻译中跨语言冲突问题，提出Q-BridgeNet框架，在手语侧用自适应分割等学习离散Q单元，口语侧微调多语言语言模型，实验证明该框架能有效减轻冲突，在多语言手语翻译上性能优异且泛化能力强。

MawForge: Memory-Bounded Expert Materialization for Local Mixture-of-Experts Inference

MawForge：用于局部专家混合推理的内存受限专家实例化

Craig Opie

机构 * Holocron Security, Inc（全息安全公司） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究局部MoE推理在受限内存机器上的可行性，提出MawForge方法，通过磁盘存储模型、按需实例化专家张量等实现，发现其可作为有界执行机制，但非缓存最大化策略，性能受多种因素影响。

Comments 7 pages

The evolution of AI from image interpretation toward scientific inference in nanoparticle electron microscopy

人工智能在纳米颗粒电子显微镜中从图像解释到科学推理的演变

Evropi Toulkeridou, Jiafei Li, Leonardo Lari, Panagiotis Grammatikopoulos

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 综述纳米颗粒电子显微镜中人工智能从图像解释到科学推理的演变，围绕颗粒表征挑战，回顾从传统机器学习到多种先进方法，探讨整合多方面数据，评估现有方法利弊，强调其在下一代纳米颗粒表征及加速材料发现中的作用。

Comments Main article: 34 pages, 8 figures (including Graphical Abstract), 5 tables. Appendix: 18 pages, 1 figure, 4 tables. This manuscript has been submitted (after invitation) to Advanced Intelligent Discovery for peer review

Parameter-Efficient Vision-Language Adaptation with Continuous Metadata Conditioning for Animal Re-Identification

基于连续元数据条件的参数高效视觉语言适配用于动物再识别

Anil Osman Tur, Tonje Knutsen Sordalen, Kim Tallaksen Halvorsen, Cigdem Beyan

机构 * Department of Computer Science, University of Verona（维罗纳大学计算机科学系） ； Institute of Marine Research（海洋研究所） ； University of Agder, Centre for Coastal Research（阿格德大学海岸研究中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 针对动物再识别中适应纵向生态环境的挑战，提出基于连续元数据条件的参数高效CLIP适配框架，通过保留元数据连续结构，在训练中平滑调制嵌入空间，提升了对外观变化和分布偏移的鲁棒性，实现纯视觉推理管道。

Comments This is the author's version of the paper accepted for publication in Expert Systems with Applications. The final authenticated version will be available from the publisher

KV-PRM: Efficient Process Reward Modeling via KV-Cache Transfer for Multi-Agent Test-Time Scaling

KV-PRM：通过KV缓存转移实现高效的过程奖励建模以进行多智能体测试时扩展

Peng Kuang, Haibo Jin, Xiaoyu Han, Yanli Wang, Xiaopeng Yuan, Ye Yu, Kaidi Xu, Haohan Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Imperial College London（伦敦帝国理工学院） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究针对现有基于文本的过程奖励模型在长多智能体展开中评分成本高的问题，提出KV-PRM，通过读取KV缓存降低评分成本，经理论证明和实验验证，该模型在多基准测试及多种TTS方法下表现优异，大幅减少计算资源消耗。

Beyond Backpropagation: Monte Carlo Method Can Train Deep Neural Networks

超越反向传播：蒙特卡罗方法可训练深度神经网络

Hong Zhao

机构 * Department of Physics, Xiamen University（厦门大学物理系） ； Lanzhou Center for Theoretical Physics, Lanzhou University（兰州大学理论物理中心） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究探索超越反向传播的方法，提出用简单蒙特卡罗算法训练深度网络，该无梯度方法无需常见技术，灵活性高，可用于多种网络架构，为理解神经网络机制及构建深度学习系统提供新视角和途径。

Comments 22 pages, 5 figures