语言大模型 / LLM

Same Predictions, Different Reasons: The Effect of Quantization on Model Explanations

相同预测，不同原因：量化对模型解释的影响

Kazi Kamruzzaman Rabbi, Md. Zami Al Zunaed Farabe, M. Sohel Rahman

机构 * BRAC University（BRAC大学） ； Bangladesh University of Engineering and Technology (BUET)（孟加拉国工程技术大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究训练后量化（PTQ）对五种CNN架构可解释性的影响，采用结合Grad - CAM和LIME的双重框架，在二分类数据集上比较全精度和量化模型，发现分类精度非可解释性稳定性可靠指标，架构选择与量化策略同样重要。

Comments 12 pages, 3 Figures

Real-Time Semantic Segmentation with Optimized RetinaNet Architectures for Embedded Automotive Systems

用于嵌入式汽车系统的优化RetinaNet架构的实时语义分割

Sai Sidharth D

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI

AI总结 针对嵌入式汽车系统对实时感知的需求，提出Opt-RetinaSeg架构，通过优化主干、FPN及引入分割头解决不平衡问题，经三阶段优化，在相关数据集和硬件上实现高速、小模型且高精度的实时语义分割。

Parameter-free Adaptive Sparse Attention via Compression-Based Content Selection

通过基于压缩的内容选择实现无参数自适应稀疏注意力

Debarshi Kundu, Swaroop Ghosh, Vasant Honavar

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究如何实现无参数自适应稀疏注意力，核心方法是利用gzip压缩率识别内容块来动态生成稀疏掩码，主要贡献是在语言建模实验中性能超越其他模型，无参数添加且随序列长度优势扩大、收敛更快。

Pixels for Programs? A Cross-Provider Case Study of Input-Token Accounting for Source Code as Text and Images

像素换程序？关于将源代码作为文本和图像的输入令牌计费的跨供应商案例研究

Ronak Bhalgami

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 研究将源代码作为文本和图像时商业API如何计费，通过可重复案例研究，涵盖五种编程语言、多种源长度及多个模型别名，得出不同模型的图像与文本比率及收支平衡行为差异，还发布了重现研究所需的资料。

From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

从概要到导向向量：用于个性化文本生成的全局稀疏先验和局部语义校准

Liuji Chen, Zeyu Zhang, Xinyuan Zhang, Shuai Nie, Qiang Liu, Shu Wu, Liang Wang

机构 * NLPR, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所模式识别国家重点实验室） ； Xiaomi（小米） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究个性化文本生成问题，提出无训练框架GLASS，通过全局-局部激活导向与稀疏先验实现。利用稀疏自动编码器提取全局先验、构建局部向量，推理时注入模型层。实验证明其性能优于基线，能更好分离风格与语义信息。

Comments Under review

Same Dangerous Objective, Opposite Advice: Direct Exposure versus Multi-Agent Mediation

相同危险目标，相反建议：直接暴露与多智能体调解

Linjun Li

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究通过测试发现，语言模型直接面对危险目标和经智能体转换传递指令时表现不同，存在行为反向转变及组合安全漏洞，高性能模型可用于特定自动化工作流程的用户端组件，却未明确其内部机制。

Comments 21 pages; welcome comments

Masked Topology Modeling for Self-Supervised Learning on Parametric CAD

用于参数化CAD自监督学习的掩码拓扑建模

Heinrich Jiang, Jennifer Jang

机构 * StoryGold AI（故事黄金人工智能公司） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 针对缺乏原生可编辑和参数化格式CAD数据集的问题，提出掩码拓扑建模（MTM）自监督预训练任务，结合多种方法在相关数据集预训练，在多个基准测试中表现出色。

BRIM: Workload-Balanced Dual-Sided Bit-Serial Sparse Inference Accelerator

BRIM：工作负载平衡的双边位串行稀疏推理加速器

Varun Manjunath, Ruokai Yin, Donghyun Lee, Arkapravo Ghosh, Priyadarshini Panda

机构 * University of Southern California（南加州大学） ； Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.AI

AI总结 研究针对双边位串行稀疏推理加速器工作负载不平衡问题，提出BRIM。它采用循环平衡剪枝和成对时隙捐赠两种机制，在等面积约束下评估，能提高PE利用率，实现显著加速和能效提升。

OPD-IAD: From Language Judgment to Industrial Anomaly Detection via On-Policy Self-Distillation

OPD-IAD：通过策略内自蒸馏从语言判断到工业异常检测

Shuimu Chen, Jing Jin, Nan Su, Hongbo Xu, Zebang Cheng, Wenming Yang, Fei Ma, Guijin Wang

机构 * Tsinghua University（清华大学） ； Guangdong Laboratory of Artificial Intelligence and Digital Economy (SZ)（广东省人工智能与数字经济实验室（深圳）） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 研究如何利用大型视觉语言模型进行工业异常检测，提出OPD-IAD框架，通过策略内自蒸馏和语言引导视觉锚定，将语言判断转化为像素级异常图，在相关方法中取得最佳性能。

HPD-Parsing: Hierarchical Parallel Document Parsing

HPD解析：分层并行文档解析

Shu Wei, Jingjing Wu, Lingshu Zhang, Qunyi Xie, Hao Zou, Le Xiang, Xu Fan, Yangliu Xu, Manhui Lin, Xiaolong Ma, Cheng Cui, Tengyu Du, YY

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究基于统一视觉语言模型的文档解析器顺序瓶颈问题，提出HPD解析，采用分层并行解码范式，含主要布局分支和P-MTP，实验显示其吞吐量高且精度有竞争力，为高效统一文档解析开辟新方向。

Using Fine-Tuned LLMs to Identify Indicators of Vulnerability in UK Police Incident Logs

使用微调的语言模型识别英国警方事件日志中的脆弱性指标

Sam Relins, Daniel Birks

机构 * ESRC Vulnerability and Policing Futures Research Centre（经济与社会研究理事会脆弱性与警务未来研究中心） ； School of Law, University of Leeds（利兹大学法学院） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 研究探讨基于美国开源警方数据的语言模型分类管道能否用于估计英国警方事件叙述中四种脆弱性指标流行率。通过多阶段管道分析近3000份日志，虽能产生流行率估计，但单纯部署不可靠，纠正偏差需大量人工和统计调整，强调了该方法的潜力与局限。

Comments 24 pages, 4 figures. Preprint. Under review

Patch Policy: Efficient Embodied Control via Dense Visual Representations

补丁策略：通过密集视觉表示实现高效具身控制

Gaoyue Zhou, Zichen Jeff Cui, Ada Langford, Bowen Tan, Yann LeCun, Lerrel Pinto

机构 * Courant Institute, New York University（纽约大学柯朗数学科学研究所） ； Meta-FAIR（Meta FAIR） ； AMI Labs（AMI 实验室） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究利用预训练密集视觉特征，提出补丁策略，通过块因果注意力掩码等实现高效具身控制。该策略轻量级、快速且高效，在模拟和真实环境中相比其他策略有显著提升，为机器人社区利用视觉表示学习提供新途径。

Empowering On-Device Model Adaptation with an Edge AI Inference Accelerator

利用边缘人工智能推理加速器实现设备端模型自适应

Mateusz Piechocki, Alessandro Capotondi, Marek Kraft

机构 * Poznan University of Technology（波兹南理工大学） ； University of Modena and Reggio Emilia（摩德纳大学和雷焦艾米利亚大学） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究针对资源受限硬件上设备端模型自适应难题，提出用异构自适应管道，借助Hailo-8L加速器提取冻结主干特征，划分计算图，在多架构和数据集上提升训练速度、吞吐量并降低能耗，证明该方法实用。

Comments Accepted at the ITEM Workshop, held in conjunction with ECML-PKDD 2026. To appear in the ECML-PKDD joint post-workshop proceedings

AutoEncoder-Compressed Parallel Split Learning for Pre-trained Model Fine-Tuning

用于预训练模型微调的自动编码器压缩并行分割学习

Bas Meuwissen, Vasileios Tsouvalas, Nirvana Meratnia

机构 * Eindhoven University of Technology（埃因霍温理工大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.LG

AI总结 针对资源受限边缘设备上大规模基础模型分布式微调的局限，提出AE-PSL框架，利用轻量级自动编码器压缩中间激活值和梯度，并引入两阶段对齐机制，提升通信效率与模型兼容性。

Comments Accepted to ECML-PKDD 2026, 4th Workshop on Advancements in Federated Learning (WAFL)

Brain-Aligned Multi-Stream Video Transformers with Sparse Self-Selection

具有稀疏自选择的脑对齐多流视频变换器

Amir Hosein Fadaei, Mahyar Maleki, Mohammad-Reza A. Dehaqani

机构 * University of Tehran（德黑兰大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 研究针对现代视频变换器忽视灵长类视觉原理及缺乏神经数据评估的问题，提出含稀疏胜者全得令牌选择模块的脑对齐多流视频变换器，经实验其在精度与推理时间上表现优且鲁棒性强，脑模型相关性高，优于基线。

Comments 23 pages, 11 figures

Talaria: Session-Aware Serverless Serving of Hundred-Billion-Parameter LLMs

Talaria：面向千亿参数语言模型的会话感知无服务器服务

Utopia Meng, Unicornt Zhao, Derek Li, Goalen Gao, Frank Du

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究面向千亿参数语言模型的无服务器服务问题，提出会话感知的Talaria系统，通过联合放置和准入决策保证会话连续性，其路由器排序放置，软预留考虑返回，会话预填充等措施提升性能，实验显示相比其他调度器有显著加速。

Comments 19 pages, 15 figures

Bridging the Information Gap: Semantic Densification and Hindsight Distillation for Cold-Start Prediction

弥合信息差距：冷启动预测的语义致密化与事后蒸馏

Hao Duong Le, Yifei Gao, Huan Li, Lun Jiang, Chen Bai, Ke Xing, Chen Zhang

机构 * Tsinghua University（清华大学） ； Meituan（美团） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 针对电子商务平台新用户冷启动预测难题，SemRaD框架利用结构化语义推理管道和事后感知蒸馏网络，有效弥合信息差距，提升了LTV和CVR，减少训练数据用量，在工业数据集和在线测试中均取得良好效果。

Regularize or Localize: When Training-Time KV-Cache Geometry Pays Under Quantization

正则化还是本地化：训练时的KV缓存几何结构在量化下何时起作用

Libo Sun, Po-Wei Harn, Zewei Zhang, Peixiong He, Xiao Qin

机构 * Auburn University（奥本大学） ； National Central University（国立中央大学） 纠错

专题命中 效率与部署 ：pretraining(abstract)；分类 cs.LG

AI总结 研究LeJEPA的\sigreg在语言模型预训练中能否重塑表示及助于KV缓存量化，通过训练1.1亿参数模型发现，\sigreg能降隐藏状态各向异性，对K和V直接正则化可降缓存各向异性，特定配置下训练干预在量化器比例粗时有用，此为首次训练时分布正则化评估。

Comments 16 Pages, 4 Figures

Multi-level context Modeling for consistent expert selection in Mixture-of-Experts

用于混合专家模型中一致专家选择的多层次上下文建模

Shuhan Huang, Naifan Zhang, Yuanbo Tang, Yang Li, Wai Kin Victor Chan

机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； School of AI, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）人工智能学院） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究混合专家模型中专家选择问题，提出多层次上下文融合MoE框架，通过整合跨层语义聚合和局部令牌级交互信号构建上下文感知表示，提升路由一致性和下游性能。

A${}^2$BM: Alignment-Aware Bridge Matching for Image-to-Image Translation

A²BM：用于图像到图像翻译的对齐感知桥接匹配

Aimi Okabayashi, Georges Le Bellier, Nicolas Audebert, Charlotte Pelletier, Thomas Corpetti, Nicolas Courty

专题命中 效率与部署 ：prompting(abstract)；分类 cs.AI

AI总结 研究图像到图像翻译中弱对齐数据问题，提出A²BM方法利用图像对对齐，在训练中纳入对齐分数区分真实对应，推理时控制翻译保真度，实验验证该方法比基线表现优，为弱对齐数据的图像翻译提供解决方案。

Shapley Context Pruning: A Cooperative Game Perspective for Context Reranking and Pruning

Shapley上下文剪枝：一种用于上下文重排和剪枝的合作博弈视角

Yanqiao Chen, Dongsheng Hou, Yuhan Rui, Zhen Cao, Yepang Liu

机构 * Southern University of Science and Technology（南方科技大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.AI

AI总结 本文针对检索增强生成系统上下文重排和剪枝缺乏可解释统一框架的问题，提出Shapley上下文剪枝框架，用合作博弈视角归因重要性，采用深度集架构和蒙特卡罗采样，经多实验验证，模型在下游问答性能上表现出色。

Rate-Utility Frontiers for Language Encodings: Comparing Tokens, Bytes, and Pixels Under Controlled Linguistic Content

语言编码的速率-效用前沿：在受控语言内容下比较词元、字节和像素

Ingo Ziegler, Martin Krebs, Desmond Elliott

机构 * Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.CL

AI总结 研究在内容和下游能力受控时语言编码保留了什么，利用多语言平行句子通过共享瓶颈比较词元、字节和像素以追踪速率-效用前沿，评估三种效用，发现各编码在不同方面表现不同，选择编码需考虑多因素进行速率-效用权衡。

Comments Preprint. Code available at https://github.com/ziegler-ingo/rate-utility-frontiers

DPNeXt: A Lightweight Multi-Scale Feature Fusion Framework for Efficient ViT-Based Multi-Task Dense Prediction

DPNeXt：用于基于高效视觉Transformer的多任务密集预测的轻量级多尺度特征融合框架

Jehun Kang, Jungha Wang, Youngjun Hwang, David Hyunchul Shim

机构 * School of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院电气工程学院） 纠错

专题命中 效率与部署 ：foundation model(abstract)；分类 cs.AI

AI总结 研究针对机器人感知系统多任务学习中现有解码策略瓶颈，提出DPNeXt框架，用双深度可分离倒置瓶颈及MTBG策略，在多任务密集预测上表现出色，相比DPT大幅减少参数并提升推理速度。

Comments 8 pages, 5 figures. Accepted to the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2026)

DSWorld: A Data Science World Model for Efficient Autonomous Agents

DSWorld：用于高效自主智能体的数据科学世界模型

Zherui Yang, Fan Liu, Hao Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.AI

AI总结 研究自主数据科学智能体依赖试错流程效率低的问题，提出数据科学世界模型概念及DSWorld框架，含多种技术。构建数据集并引入优化策略，实验显示其加速智能体训练和推理，在转换预测任务上超基线。

Von Mises-Fisher Mixture Model with Dynamic Shrinkage for Realistic Test-Time Transduction

用于现实测试时转导的具有动态收缩的冯·米塞斯-费舍尔混合模型

Jiazhen Huang, Zhiming Liu, Changhu Wang, Wei Ju, Ziyue Qiao, Xiao Luo

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 研究针对测试时视觉语言模型性能问题，从惩罚似然估计角度提出具有动态收缩的冯·米塞斯-费舍尔混合模型（MOON），该模型基于分布混合建模，能动态调整收缩强度处理不平衡，无需训练和特定超参，实验验证其性能和效率优势。

Comments Accepted by ICML 2026

Journal ref ICML 2026

Rethinking Transfer in Continual Learning: A Replay-Based Realisation

重新思考持续学习中的迁移：基于重放的实现

Yang Meng, Zhenya Liu, Zhuokai Zhao, Yuxin Chen

机构 * University of Chicago（芝加哥大学） 纠错

专题命中 效率与部署 ：language model(abstract)；分类 cs.LG

AI总结 该研究重新思考持续学习中的迁移，提出三个条件框架，将其观点实例化为TSR，通过选择有益重放数据提升正向迁移，在低预算持续学习协议下优于现有基线，强调应把迁移作为持续学习首要目标先理解再设计。

Prediction-Only Distillation in Linear and Logistic Regression

线性回归和逻辑回归中的仅预测蒸馏

Hien Dang, Pratik Patil, Alessandro Rinaldo

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在仅能获取训练好的预测器和未标记协变量时的自蒸馏，通过新方案训练学生模型，推导岭回归最优混合预测风险的确定性等价物，证明其风险更小，还表明最优混合权重可估计，且二元逻辑回归中预测混合能有更好表现。

Comments 73 pages, 21 figures, 12 tables

The Energy Society: A Simulation Environment for Studying Agent Cooperation under Survival Pressure

能源社会：一个用于研究生存压力下智能体合作的模拟环境

Lucas Bergholdt Hansen, Federico Torrielli, Filippo Tonini, Lukas Galke Poech

机构 * University of Southern Denmark（丹麦南部大学） ； University of Turin（都灵大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；分类 cs.CL

AI总结 介绍能源社会模拟环境，研究生存压力下竞争与合作激励对智能体行为的影响，通过对比实验发现大模型能耗高，合作激励改变行为，相互推荐行动与记忆有作用，是研究令牌成本与群体激励关系的测试平台。

Comments Accepted at AITC 2026

Quantize with Confidence? An Empirical Study of Quantization for Code Generation

有信心量化？代码生成量化的实证研究

Saima Afrin, Md. Zahidul Haque, Antonio Mastropaolo

机构 * AURA Lab Department of Computer Science William \& Mary Williamsburg, VA, USA 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究在资源受限硬件上运行大型代码模型时，六种量化方法对代码质量的影响，用多基准评估功能正确性等指标，引入提示复杂性分析，揭示不同量化技术在正确性、代码质量及鲁棒性上的差异，为选择量化策略提供指导。

Lyapunov Guidance: A Unified Framework for Stabilizing Generative Flows

李雅普诺夫引导：稳定生成流的统一框架

Jingdong Zhang, Xinze Li, Yize Jiang, Luan Yang, Minkai Xu, Junhong Liu

机构 * Imperial College London（伦敦帝国理工学院） ； Fudan University（复旦大学） ； Stanford University（斯坦福大学） ； MicroCyto（微赛生物） 纠错

专题命中 效率与部署 ：post-training(abstract)；分类 cs.LG

AI总结 研究针对流匹配重新训练计算昂贵、现有训练后引导方法无稳定性保证的问题，提出LyaGuide框架，将流引导作为李雅普诺夫控制问题，统一多种引导策略，经实验验证其在多方面有改进且保持计算效率。

Comments 25 pages, 13 figures