语言大模型 / LLM

OmniMem: Perturbation-aware Memory Compression for Streaming Audio-Visual LLMs

OmniMem: 面向流式音视频大语言模型的扰动感知记忆压缩

Guangzhi Sun, Yixuan Li, Yudong Yang, Chao Zhang

机构 * Tsinghua University（清华大学） ； ByteDance（字节跳动） ； Department of Engineering, University of Cambridge（剑桥大学工程系） 纠错

专题命中 效率与部署 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OmniMem，一种针对音视频LLM的流式记忆压缩框架，通过模态感知分配和扰动感知选择压缩KV缓存，在保持长视频理解的同时减少内存，在多个基准上提升2-4%准确率。

Comments Code: https://github.com/bytedance/SALMONN/tree/omni_mem

Watch, Remember, Reason: Human-View Video Understanding with MLLMs

Watch, Remember, Reason: 基于多模态大语言模型的人类视角视频理解

Jiahao Meng, Yue Tan, Qi Xu, Kuan Gao, Weisong Liu, Yanwei Li, Jason Li, Lingdong Kong, Haochen Wang, Qianyu Zhou, Jiangning Zhang, Guangliang Cheng, Yunhai Tong, Lu Qi, Minghsuan Yang

机构 * School of Intelligence Science and Technology, Peking University（北京理工大学智能科学与技术学院） ； Wuhan University（武汉大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； CASIA（中国科学院自动化研究所） ； University of Tokyo（东京大学） ； University of Liverpool（利物浦大学） ； Zhejiang University（浙江大学） ； National University of Singapore（新加坡国立大学） ； UC Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出人类视角下视频理解的三个功能能力（观看、记忆、推理），构建统一框架分析视频MLLM的感知、记忆、推理和预测，并总结挑战、方法、应用及未来方向。

The Three-Ring Architecture: Governing Agents in the Era of On-Platform Organisations

三环架构：平台型组织时代中的智能体治理

Sergio Alvarez-Telena, Marta Diez-Fernandez

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对企业AI部署中缺乏治理基础设施导致失败率高达95%的问题，提出三环架构：环1为现有生产架构，环2为基于策略的智能体联邦层，环3为LLM前沿智能层，其中环2作为智能体企业的操作系统，实现资源抽象、进程协调、权限执行和智能积累，并区分环2与环3的风险轮廓。

Comments 28 pages

Queen-Bee Agents: A BeeSpec-Centered Architecture for Governed Enterprise MCP Orchestration

蜂后智能体：一种以BeeSpec为中心的受治理企业MCP编排架构

Dutao Zhang, Liaotian

机构 * Polytechnic University（理工学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Queen-Bee多智能体架构，通过Queen控制平面检索能力、规划任务并编译BeeSpec，由Bee智能体在受限工具访问下执行，实现策略执行、租户隔离和边界内执行，在59个企业任务中达到0.964成功率且零治理失败。

Comments Technical report. Prototype-level systems evidence; 59 enterprise-style tasks

ADMIL: Attention-Distilled Multiple Instance Learning for Selective Foundation Model Inference in Pathology

ADMIL：用于病理学选择性基础模型推理的注意力蒸馏多实例学习

Duncan Stothers, Ren-Chin Wu, William Lotter

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 ADMIL是将ABMIL教师注意力蒸馏为轻量级图块选择模型PriorNet的选择性计算框架，在多个病理数据集上可移除>98%的基础模型图块编码且不损失切片级性能，提升了部署效率。

ReWEIGH the Evidence: Calibrating Token-Level Ordinal Visual Evidence to Mitigate Hallucinations in Large Vision-Language Models

重新权衡证据：校准令牌级有序视觉证据以减轻大型视觉语言模型的幻觉

Jihae Jeong, Junha Choi, Hwanjo Yu

机构 * Pohang University of Science and Technology (POSTECH)（浦项科技大学（POSTECH）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 ReWEIGH是一种无需训练的解码干预方法，通过聚合视觉位置的令牌排名并施加有界惩罚，在多个7B至32B规模的LVLM上减少了最多21.3%的幻觉对象提及，且延迟增加极少。

Backdoor Learning in Language Models and Vision-Language Models

语言模型与视觉-语言模型中的后门学习

Weimin Lyu

机构 * Stony Brook University（石溪大学） ； The Graduate School（研究生院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本论文针对NLP与VLMs面临的后门攻击安全威胁，研究了后门攻击的分析、检测与设计，并开发了适用于临床医学影像的多模态表示方法，助力可信AI与高效多模态学习。

Comments Ph.D. dissertation

Matryoshka Language Model Suites

套娃语言模型套件

Nathan Godey, Yoav Artzi

机构 * Cornell University（康奈尔大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出Matryoshka训练框架，将尺寸递增的子模型堆叠为端到端嵌套架构，训练含5亿、15亿、30亿参数子模型的套件，其性能与基线相当，训练计算量减少36%，推测解码吞吐量提升14-26%。

Depth-adaptive Inference of Looped Language Models via Continuous Depth Batching

基于连续深度批处理的循环语言模型深度自适应推理

Kristian Schwethelm, Daniel Rueckert, Georgios Kaissis

机构 * Technical University of Munich (TUM)（慕尼黑工业大学（TUM）） ； Imperial College London（帝国理工学院） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； University of Potsdam（波茨坦大学） ； Hasso Plattner Institute for Digital Engineering（哈索·普拉特纳数字工程研究所） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文针对循环语言模型深度自适应推理中标准批处理失效的问题，提出连续深度批处理（CDB）方案，在两个模型上实现了接近理论上限的加速比，显著提升了吞吐量并降低了延迟。

One Qubit Can Beat One Bit: Quantum Advantage for Post-Training Quantization

一个量子比特可胜过一个比特：后训练量化的量子优势

Yuma Ichikawa, Moeto Mishima

机构 * Fujitsu Limited（富士通公司） ； RIKEN（理化学研究所） 纠错

专题命中 效率与部署 ：post-training(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出量子随机存取量化（QRAQ）框架，证明其在重构风险等方面优于共享符号的1比特后训练量化，展现了后训练量化中的量子优势。

Comments 40 pages, 6 figures

FOUND-AF: Benchmarking ECG Foundation Models for Atrial Fibrillation Detection

FOUND-AF：用于心房颤动检测的心电基础模型基准测试

Amirhossein Taleshinosrati, Yangyang Wang, Atitaya Phoemsuk, Vahid Abolghasemi, Naser Hossein Motlagh, Sadasivan Puthusserypady, Daniel Teichmann, Abdolrahman Peimankar

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出FOUND-AF基准框架，在统一条件下评估9种心电基础模型在4种数据集上的心房颤动检测性能，发现ECGFounder综合表现最优，为相关模型选择提供可复现方案。

REFLEX: Rethinking MoE Inference as Refinement-Aware Compute Allocation in Diffusion Language Models

REFLEX：将MoE推理重新思考为扩散语言模型中的感知细化的计算分配

Xiang Xia, Cheng Yan, Yiming Zhang, Jiazheng Liu, Hongyu Zhang, Wuyang Zhang

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 REFLEX是一种无需训练的MoE推理方法，通过粗到细的专家预算分配和前沿进度分数，在扩散语言模型中平均减少15%专家计算量，同时保持或提升生成质量，实现更优的质量-计算权衡。

Stop When Memory Suffices: Evidence-Conditioned Progressive Execution for LLM Agents

当内存充足时停止：面向大语言模型智能体的证据条件渐进式执行

Yidan Lin, Kaixiang Wang, Jiong Lou, Jie Li

专题命中 效率与部署 ：LLM(title,abstract_cn)；分类 cs.AI、cs.LG

AI总结 该研究针对大语言模型智能体记忆系统的延迟与质量矛盾，提出Router-Mem框架，通过证据条件渐进式执行，在降低推理时间的同时保持了优异的任务性能。

Stemma: Induced Decision Regions Reveal LLM Provenance

Stemma：诱导决策区域揭示大语言模型的来源

Keyu Zhang, Vadim Safronov, Andrew Martin

机构 * University of Oxford（牛津大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究针对大语言模型来源测试中现有黑盒方法可靠性不足的问题，引入诱导决策区域，提出Stemma方法，以稳定性等为探针选择原则，在多组源-可疑对测试中表现出色，显著优于基线，对不同部署设置具鲁棒性。

Comments 25 pages, 4 figures

Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in recommendation systems

令牌即所需：用于在推荐系统中实现大语言模型级I/O效率的双用途语义ID

Baolei Li, Yiping Yuan, Yilin Zheng, Likang Yin, Ling Liu, Fabio Soldo, Romer Rosales, Xinyang Yi, Lichan Hong

机构 * Google（谷歌） ； Google Deepmind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大规模推荐系统的“内存墙”瓶颈，受计算机视觉数据压缩启发，提出双用途语义ID，用分层量化将连续嵌入压缩为离散语义ID执行协作身份和内容重建角色，经实验验证该方法能有效减少系统开销和数据占用，实现高效推荐。

Comments RecSys 2026

Bigger or Cheaper? Scale and Quantization Effects on Uncertainty Signals in Vision-Language Models Under Image Degradation

更大还是更便宜？图像退化下视觉语言模型中尺度和量化对不确定性信号的影响

M M Asif Ferdous

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究在图像退化下视觉语言模型中尺度和量化对不确定性信号的影响，通过对Qwen2-VL系列模型的实验发现，尺度提升内部不确定性信号，4位量化对准确性影响小但对置信信号影响大，建议固定内存预算下选更大量化模型，如7B-4bit。

Comments 12 pages, 4 figures. Code and data: https://github.com/Asif-Ferdous/vlm-scale-quant

Similarity Is Not Logic: Factored Inference for Dual-Encoder Vision-Language Models

相似性并非逻辑：双编码器视觉语言模型的因式推理

Sultan Alshehri, Zhantao Yang, Han Zhang, Marios Savvides

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究双编码器视觉语言模型组合约束失效问题，提出因式推理，将证据提取与约束执行分离，引入LCSE方法，在FACTOR-Bench上实验，提升了准确率并保持检索性能。

Comments Accepted at ICML 2026. 18 pages, 8 figures. Project page: https://sultanmo.github.io/factored-vlm Code and benchmark: https://github.com/SultanMo/factored-vlm

MXSens: Sensitivity-Aware Mixed-Precision Quantization for Efficient LLM Inference

MXSens：用于高效大语言模型推理的灵敏度感知混合精度量化

Simla Burcu Harma, Danila Mishin, Zhengyuan Su, Ayan Chakraborty, Elizaveta Kostenok, Dongho Ha, Babak Falsafi, Martin Jaggi, Yunho Oh, Amir Yazdanbakhsh

机构 * EPFL（洛桑联邦理工学院） ； Tsinghua University（清华大学） ； MangoBoost Inc.（芒果助推公司） ； Korea University（韩国大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对大语言模型推理中4位量化因异常值致精度降的问题，提出MXSens方法，基于列和层灵敏度分配混合尾数比特宽度，无需训练，利用MXINT块结构，在多模型任务中优于现有方法，平衡了量化的准确性与资源效率。

Adaptive Multi-Step Lookahead Decoding for Diffusion Language Models

扩散语言模型的自适应多步前瞻解码

Yingqian Cui, Wei Deng, Lantao Mei, Hang Li, Charu C. Aggarwal, Hui Liu, Yue Xing

机构 * Michigan State University（密歇根州立大学） ； Morgan Stanley（摩根士丹利） ； IBM T.J. Watson Research Center（IBM 托马斯·J·沃森研究中心） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究针对扩散语言模型解码，提出自适应多步前瞻框架AdaLook，基于候选分数方差动态决定是否继续展开及进行分支扩展，避免不必要的深度展开，实验证明其在准确性和解码步骤权衡上优于现有一步前瞻解码方法。

Predicting LLM Safety Before Release by Simulating Deployment

通过模拟部署预测大语言模型发布前的安全性

Marcus Williams, Hannah Sheahan, Cameron Raymond, Tomek Korbak, Deng Pan, Peilin Yang, Leon Maksin, Ningyi Xie, Phillip Guo, Ian Kivlichan, Micah Carroll

机构 * OpenAI（开放人工智能研究公司） 纠错

专题命中 效率与部署 ：LLM(title)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究通过模拟部署预测大语言模型发布前安全性的方法，从去识别化对话出发，固定前缀用候选模型生成回复来评估。该方法能估计行为不当率，优于基线，还能克服工具重新采样挑战，为外部研究提供途径，助力预测模型现实行为及评估部署风险。

Comments 31 pages

When Does Small Data Work? Accuracy and Efficiency Trade-offs Between Tabular Foundation Models and Conventional Methods for Crowd-State Classification at Hajj and Umrah

小数据何时起作用？朝觐和副朝人群状态分类中表格基础模型与传统方法之间的准确性和效率权衡

AlJawharh S. AlOtaibi, Mohamed Eltahir, Jude AlSubaie

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究在朝觐和副朝人群状态分类中，测试表格基础模型在标签稀缺时的作用，将其与传统机器学习方法比较，评估不同模型，揭示标签数量影响模型选择及两种方法在准确性和效率上的权衡。

Comments 6 pages, 3 figures, 10 tables

Variable Bit-width Quantization: Learning Per-Group Precision for "Bigger-but-Smaller" Language Models

可变比特宽度量化：为“更大但更小”的语言模型学习每组精度

Hamish Ogilvy

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究提出可变比特宽度量化（VBQ），通过Gumbel-Softmax松弛为每组64个权重学习分辨率，经交替优化联合训练。VBQ能实现强异构分配，有更好存储效率和推理加速，还揭示了深层自修复量化误差机制。

Comments 15 pages, 6 figures

Self-conditioned Flow Map Language Models via Fixed-point Flows

自条件流映射语言模型通过不动点流

Jaehoon Yoo, Wonjung Kim, Floor Eijkelboom, Chanhyuk Lee, Nicholas M. Boffi, Seunghoon Hong, Jinwoo Kim

机构 * KAIST（韩国科学技术院） ； University of Amsterdam（阿姆斯特丹大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出不动点流框架，将自条件机制解释为不动点迭代，并设计二维流模型同时压缩迭代与流过程，实现少步生成，在OpenWebText上超越现有模型。

The Simulacrum: Decision-Theoretic Pretraining for Near-Optimal Time-Series Forecasting and Inference

模拟体：面向近乎最优时间序列预测与推断的决策理论预训练

Pablo Montero-Manso, Marcel Scharth

机构 * Google（谷歌） 纠错

专题命中 效率与部署 ：pretraining(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出一种通过决策理论预训练学习时间序列估计器的神经网络框架，通过指定生成世界和决策目标，训练网络逼近最优决策规则，在零样本推断中实现近乎最优风险、偏差控制和均匀校准。

Automating Potential-based Reward Shaping with Vision Language Model Guidance

基于视觉语言模型引导的势能奖励塑形自动化

Henrik Müller, Daniel Kudenko

机构 * L3S Research Center Leibniz University Hannover（莱布尼茨汉诺威大学L3S研究中心） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出VLM-PBRS框架，利用轻量级视觉语言模型的偏好学习势能函数，实现自动化奖励塑形，保证最优策略不变，提升样本效率并避免奖励黑客。

Agentic evolution of physically constrained foundation models

物理约束基础模型的智能体演化

Jiangwei Zhang, Wen Sun, Chong Wang, Shiyao Li, Cheng Che, Chunjing Han, Dan Meng, Jian Yang, Yu Wang, Rui Hou

机构 * University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出基于演化知识图谱的多智能体发现引擎，自动设计硬件兼容计算系统，在基础模型部署中演化出超越人工的压缩方法，实现大规模模型高效部署。

Comments 29 pages, 5 main figures and 4 extended data figures

Dense Supervision Is Not Enough: The Readout Blind Spot in Looped Language Models

密集监督还不够：循环语言模型中的读出盲点

Rituraj Sharma, Tu Vu

机构 * Virginia Tech（弗吉尼亚理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文揭示循环语言模型中密集交叉熵损失仅控制读出变量，忽略隐藏状态尺度，导致尺度失控；提出尺度可见读出、显式范数惩罚或尺度移除循环的修复方法。

Protocol-Aware Tokenization and Architecture Co-Design for Wireless Packet Foundation Models

协议感知分词与架构协同设计用于无线数据包基础模型

Swadhin Pradhan, Shazal Irshad, Jerome Henry

机构 * Cisco Systems（思科系统） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过2x2对比实验发现，协议感知分词是无线数据包基础模型性能的主要杠杆，改变分词器可使准确率波动32个百分点，而改变架构仅影响2个百分点。

Comments 10 pages, 5 figures, 3 tables

Implicit vs. Explicit Prompting Strategies for LVLMs in Referential Communication

LVLMs在指称通信中的隐式与显式提示策略

Peter Zeng, Amie J. Paige, Weiling Li, Susan E. Brennan, Owen Rambow, Cameron R. Jones

机构 * Stony Brook University（石溪大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过控制任务差异，比较显式与隐式提示对LVLM生成高效指称表达的影响，发现显式提示下模型能协调高效表达，而隐式提示则失败，揭示了人机通信的关键差异。

Fast Speech Foundation Model Distillation Using Interleaved Stacking

快速语音基础模型蒸馏使用交错堆叠

Eungbeom Kim, Kyogu Lee

机构 * IPAI ； AIIS ； Dept. of Intelligence and Information（智能与信息系） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出交错堆叠方法加速语音基础模型蒸馏训练，通过保持层位置一致性解决性能下降问题，在SUPERB上验证有效性。

Comments Accepted by Interspeech 2026