语言大模型 / LLM

Compression Trinity: Exploring Sparsity, Quantization, and Low-Rank Approximations for LLM Compression

压缩三位一体：探索用于大语言模型（LLM）压缩的稀疏性、量化与低秩近似

Mohammad Mozaffari

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；pretraining(abstract)

AI总结 该研究提出联合稀疏性、量化、低秩近似的压缩三位一体框架，通过MKOR、SLoPe等技术实现LLM高效压缩，提升精度与效率，优于现有方法及未压缩密集模型。

Comments PhD thesis, University of Toronto, 2026. 156 pages. Chapters extend MKOR ( arXiv:2306.01685 (https://arxiv.org/abs/2306.01685) ), SLoPe ( arXiv:2405.16325 (https://arxiv.org/abs/2405.16325) ), OPTIMA ( arXiv:2512.13886 (https://arxiv.org/abs/2512.13886) ), PATCH ( arXiv:2509.23410 (https://arxiv.org/abs/2509.23410) ), and SLiM ( arXiv:2410.09615 (https://arxiv.org/abs/2410.09615) ). Official record: this https URL (https://utoronto.scholaris.ca/items/2cde1f98-6084-46b9-aae2-dbcd045f1215)

When "Must" Becomes "Maybe": Constraint Weakening in LLM Agent Workflows

当“必须”变为“可能”：LLM智能体工作流中的约束弱化

Yiheng Sun, Huifei Wang, Yancheng Zhu, Zhenyu Li, Zebin Zhao, Yifan Yuan

机构 * Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对LLM智能体工作流中交接转换弱化状态约束的问题，通过1296个受控合成场景实验，发现常规交接压缩会导致高失活和禁止动作率，恢复全部状态字段可解决该问题。

Comments 21 pages, 4 figures

Model Discovery Agent: LLM-assisted Bayesian experiment design for data-efficient discovery of mechanistic world models

模型发现智能体：用于数据高效发现机制世界模型的大语言模型辅助贝叶斯实验设计

Kevin Murphy

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract,abstract_cn)；language model(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究提出模型发现智能体（MDA），结合LLM与贝叶斯机制，在少量干预下发现机制世界模型，在三类基准上实现数据高效模型学习与可靠干预预测的SOTA性能。

Comments v4: Major update! Fixed a leak in the prompts for physics and chemistry benchmarks and re-ran experiments (fortunately results did not change much), added Boxing Gym benchmark (requires generating NumPyro code), significantly simplified the figures and evaluation protocol, reframed the narrative around SMC^3, polished the presentation

Learning to Grade Efficiently: A Bandit-Driven Prompt-Selection Framework for Low-Cost LLM Essay Scoring

高效评分学习：面向低成本大语言模型作文评分的多臂老虎机驱动提示选择框架

Olga Manakina, Igor Bogdanov

机构 * Carleton University（卡尔顿大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究针对自动作文评分的固定提示选择策略成本高的问题，提出多臂老虎机驱动的自适应提示选择框架，在保证准确率的同时减少78.4%的LLM调用，生成成本-可靠性学习曲线，为教育技术平台提供平衡成本与有效性的方案。

Comments Accepted as a presentation at the EDM 2025 Workshop on Educational Data Mining in Writing and Literacy Instruction

From Causal Plausibility to Causal Reliability: Evaluating LLMs as Calibrated Direct Causal-Edge Classifiers

从因果合理性到因果可靠性：评估大型语言模型（LLM）作为校准的直接因果边分类器

Amit Kumar, Elnur Adl Zarabi, Suranjana Trivedy, Zhiqian Chen, Lei Zhang, Kaiqun Fu, Taoran Ji

机构 * Texas A&M University-Corpus Christi（德克萨斯农工大学科珀斯克里斯蒂分校） ； BITS Pilani Goa（戈亚斯 pilani Bits 大学） ； Mississippi State University（密西西比州立大学） ； Northern Illinois University（北伊利诺伊大学） ； Texas Christian University（得克萨斯基督教大学） 纠错

专题命中 效率与部署 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究评估12个指令微调开放权重LLM作为直接因果边分类器的可靠性，发现其判断过度预测、置信度不可靠，仅跨提示/模型一致性更优，建议将其作为软因果先验来源而非因果结构直接证据。

Quasar: A Programming Language Specialized for LLM Code Actions

Quasar：一种专门用于LLM代码操作的编程语言

Stephen Mell, Botong Zhang, David Mell, Shuo Li, Ramya Ramalingam, Nathan Yu, Stephan Zdancewic, Osbert Bastani

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出专门用于LLM代码操作的编程语言Quasar，通过分离内部代码与外部调用实现新特性，还实现了访问控制、自动并行化、共形预测等增强代码操作的特性。

Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems

Simthesizer：面向LLM服务系统的智能体驱动仿真框架

Wonung Kim, Hyunmin Choi, Minsu Kim, Jaehong Cho, Yeongwook Kim, Jongse Park

专题命中 效率与部署 ：LLM(title,title_cn)；分类 cs.AI

AI总结 本文提出Borg框架，通过智能体驱动仿真器开发缩小LLM服务系统与仿真器的差距，其构建的扩展吞吐量误差更低，仿真速度显著优于现有仿真器。

AgentSpec: Speculative Decoding for Batch Inference of LLM Agents

AgentSpec：面向大语言模型智能体批量推理的推测解码算法

Xin Wang, Ziming Miao, Yi Zhu, Hui Shen, Zhongwei Wan, Fan Yang, Mi Zhang

机构 * The Ohio State University（俄亥俄州立大学） ； Microsoft Research（微软研究院） ； University of Michigan（密歇根大学） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对LLM智能体批量推理响应慢的问题，本研究提出AgentSpec推测解码算法，通过结构隔离的draft机制和感知冗余的预算分配提升效率，在多工作负载与模型上验证其性能优于现有最优方法。

Comments EMNLP 2026

Quantization Effects on Bangla Language Understanding in Large Language Models: A Systematic Evaluation

量化对大型语言模型孟加拉语理解能力的影响：一项系统评估

Ismail Hossain, Nafi Ullah Shafin, Mohammad Abdullah Al Mumin

机构 * Institute of Information and Communication Technology (IICT)（信息与通信技术研究所） ； Shahjalal University of Science and Technology (SUST)（沙赫贾拉勒科技大学） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；post-training(abstract)；分类 cs.CL

AI总结 本研究首次系统评估了三种量化格式对Qwen-2.5-7B等三个模型家族在五个孟加拉语NLU基准上的影响，发现架构和量化方法比位宽更关键，量化可用于孟加拉语部署。

Comments 8 pages, 1 table, 1 appendix

The Shadow Price of Intelligence: Quality Degradation in LLM Inference as a Supply Chain Problem

智能的影子价格：作为供应链问题的大语言模型推理质量退化

Elioth Sanabria

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文将LLM推理质量退化视为供应链问题，建模拥塞下的服务分配，揭示节流的反直觉影响，提出影子价格可毫秒级计算最优策略，证明拥塞时节流是需求杠杆而非成本杠杆。

Comments 40 pages, 12 figures. Numerical instances calibrated to public benchmark data for five LLM providers

Can Large Language Models Still Explain Themselves? Investigating the Impact of Quantization on Self-Explanations

大语言模型还能自我解释吗？探讨量化对自我解释的影响

Qianli Wang, Nils Feldhus, Pepa Atanasova, Fedor Splitt, Simon Ostermann, Sebastian Möller, Vera Schmitt

机构 * Quality and Usability Lab, Technische Universität Berlin（柏林技术大学质量与可用性实验室） ； University of Copenhagen（哥本哈根大学） ； Saarland Informatics Campus（萨尔州信息学校园） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Centre for European Research in Trusted AI (CERTAIN)（可信AI欧洲研究中心） ； BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究探讨量化对大语言模型自我解释质量及可信度的影响，发现量化会导致中等程度的下降，但不影响其作为压缩技术的有效性。

Comments EMNLP 2026 Findings; camera-ready version

Thermal Tuning Overhead in Wafer-Scale Optical Interconnects for LLM MoE Training: A Cross-Layer Analysis and Ferroelectric-Based Mitigation

面向大语言模型混合专家（MoE）训练的晶圆级光互连中的热调谐开销：跨层分析与基于铁电材料的缓解方案

Seongwon Yoon, Pin-Jun Chen, Shimeng Yu

专题命中 效率与部署 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究针对LLM MoE训练的晶圆级光互连，通过跨层分析发现热波动会引发调谐停滞，采用铁电电光调谐机制消除停滞，使三款MoE模型获2.7-3.8倍加速。

Smallholder Farmers on Remote Islands Receiving Retrieval-Grounded Multilingual LLM Assistance and Agronomic Advice

基于检索的多语言LLM辅助工具用于岛屿小农户

Nikolaos D. Tantaroudas, Ilias Karachalios, Andrew J. McCracken

专题命中 效率与部署 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)

AI总结 针对偏远岛屿小农户获取农业建议困难且方言知识缺乏全球语料支持的问题，提出嵌入双语电商平台的对话AI助手Falco eleonorae，通过工具增强检索（MCP）获取本地化数据，实现可信的多语言、语音和图像交互。

Comments 13, 4

VisCache: Visual KV Cache Pruning for Efficient Vision Large Language Model Inference

VisCache：用于高效视觉大语言模型推理的视觉键值缓存剪枝方法

Lyuke Wang, Zhuo Li, Guangxu Zhu

机构 * Shenzhen International Center for Industrial and Applied Mathematics（深圳国际工业与应用数学中心） ； Shenzhen Research Institute of Big Data（深圳大数据研究院） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 效率与部署 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 VisCache是一种无需训练的即插即用视觉KV缓存剪枝框架，通过两阶段协同操作提升VLLM长上下文推理效率，实现最高2.35倍加速，建立效率与性能的新帕累托前沿。

More GPUs or a Smaller Cache? Tensor Parallelism versus KV Compression for Memory-Bound LLM Serving

更多GPU还是更小的缓存？用于内存受限大语言模型服务的张量并行与KV压缩

Srikanta Datta Tumkur, Mehar Simhadri, Anshu Bansal, Jay Iyer, Sai Pavan Kumar, Sai Kapil Kumar, Ramesh Nampelly, Raj Dandekar

机构 * MIT（麻省理工学院） ； Vizuara（维祖拉公司） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 该研究对比LLM服务中张量并行与KV压缩的成本性能，发现压缩在多数场景成本更低，仅当模型规模超80GB卡对应36B参数时需用张量并行，且压缩提升容量、张量并行降低延迟。

ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping

ResiSpec：通过残差分布塑形增强多候选推测采样

Zhi-Kai Chen, Jun-Jie Tao, Wei-Xiang Mao, De-Chuan Zhan, Han-Jia Ye

机构 * School of Artificial Intelligence, Nanjing University（南京大学人工智能学院） ； National Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室） ； Nanjing University（南京大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 ResiSpec 框架针对多候选推测采样的残差漂移问题，通过重塑验证阶段的提议分布，实现最高1.92倍的加速，提升了LLM服务效率。

QABBA: Error-Guaranteed Symbolic Time-Series Compression via Integer-Quantized Aggregation

QABBA：通过整数量化聚合实现带误差保证的符号时间序列压缩

Erin Carson, Xinye Chen, Fei He, Cheng Kang

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出QABBA，一种带误差保证的整数量化ABBA，可将时间序列转为符号序列，无需嵌入层即可输入LLM，在三类数据集上实现存储、精度与预测性能的实用权衡，为时间序列分析提供新方案。

Tool-Making and Self-Evolving LLM Agents in Low-Latency Systems

低延迟系统中的工具制作与自我进化大语言模型智能体

Kalle Kujanpää, Ning Liu, Shahnawaz Alam, Yeshwanth Reddy Sura, Tianyu Yang, Kristina Klinkner, Shervin Malmasi

机构 * Amazon（亚马逊） 纠错

专题命中 效率与部署 ：LLM(title,summary_cn)；分类 cs.CL、cs.LG

AI总结 研究如何解决生产LLM智能体因重复生成代码浪费延迟和可靠性的问题，提出用智能工具制作管道取代推理时编码循环，部署该方法使系统更快、更可靠、易操作，降低延迟和错误率，提高可审计性。

Comments To appear at EMNLP 2026 Industry Track

Carbon-Aware Data Center Workload Allocation: Emission Disclosure, Capacity Leasing, and Contract Reshuffling

具有超大规模计算中心和模块化数据中心的电力市场模型

Yihsu Chen, Abel Souza, Fargol Nematkhah, Andrew L. Liu

专题命中 效率与部署 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文提出了一种电力市场模型，允许超大规模计算中心将LLM推理任务迁移到地理分布的模块化数据中心，以优化能源利用和减少排放。

HBF Sucks? A Full-Stack Characterization of High-Bandwidth Flash for KV-Centric LLM Serving

面向以KV为核心的大语言模型服务的高带宽闪存全栈表征

Zhuoran Li, Zhuohang Bian, Xin Huang, Yibo Zhao, Guangyu Sun, Youwei Zhuo

专题命中 效率与部署 ：LLM(title,summary_cn)

AI总结 该研究通过全栈表征发现，将高带宽闪存（HBF）直接替代SSD作为瞬态KV卸载层会降低LLM服务性能，HBF需作为感知复用的协调层使用而非SSD替代品。

The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models

隐形编辑层：形式化部署语言模型中未公开的推理时调控、概率置放与归因问题

Augusto Camargo

机构 * Bluecore Consulting（蓝芯咨询） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文针对部署语言模型提出隐形编辑层概念，形式化推理归因问题、概率置放等核心概念，探讨其与相关监管框架的关联，揭示未公开推理调控的潜在影响。

GAP-Prompt: Gated Adaptive Prompting for Efficient Continual Learning

GAP-Prompt：用于高效持续学习的门控自适应提示

Trung-Anh Dang, Duy-Cuong Bui, Ngoc-Son Vu, Christel Vrain, Vincent Nguyen

机构 * Université d’Orléans（奥尔良大学） ； INSA CVL（中央卢瓦尔河谷国立应用科学学院） ； CY Cergy Paris University（塞尔吉-蓬图瓦兹大学） ； ENSEA（法国高等电子与数字学院） ； CNRS（法国国家科学研究中心） ； Université de Technologie de Troyes（特鲁瓦技术大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；分类 cs.LG

AI总结 针对持续学习的灾难性遗忘问题，提出引入实例级适应性的GAP-Prompt方法，含三个协同模块，在多基准测试中性能最优，CUB-200数据集准确率达87.29%，接近联合训练上限。

GEAR: Generative Expansion and Real Anchoring for Two-Stage Distillation of Tabular Foundation Models

GEAR：面向表格基础模型两阶段蒸馏的生成式扩展与真实锚定

Qi Qin, Jiajie Zhu, Dali Chen, Yuzhao Zhang, Jia-Xing Han, Peng Zhang, Ying Yan, Yifan Sun, Yu Su

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 GEAR是一种两阶段蒸馏框架，可将表格基础模型蒸馏为轻量级预测器，在TALENT和TabArena上的实验显示其能显著降低推理开销并提升AUC，性能优于多种基准模型。

Comments 9 pages,5 figures

MAPLE: MoE Adaptive Plug-and-play Layer-wise Expert allocation

MAPLE：MoE自适应即插即用分层专家分配

Lie Li, Wen Li, Junxiao Shen, Guosheng Hu

机构 * University of Bristol（布里斯托尔大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 MAPLE是一种即插即用框架，可在不修改预训练MoE LLM权重或重新训练的情况下，异质性分配专家预算，在75%预算下超越基线，降低延迟并提升吞吐量，同时提升多项任务准确率。

MoTE: Mixture of Task Experts for Multi-Task Video Understanding

MoTE：面向多任务视频理解的任务专家混合模型

Muhammad Asad Ali, Umar Khan, Nadia Robertini, Didier Stricker

机构 * University of Kaiserslautern-Landau (RPTU)（凯泽斯劳滕-兰道大学（RPTU）） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对多任务视频理解中现有解码器的任务行为纠缠、能力扩展难等问题，提出MoTE架构，实例化为VideoLLM-MoTE，在COIN基准上表现优于基线，实现了可解释且计算高效的多任务视频-语言学习。

Comments Accepted at BMVC 2026. 32 pages, 4 figures, 15 tables, including supplementary material

IAPO: Influence-Aware Policy Optimization for Credit Assignment in Multi-Turn Service Agents

IAPO：面向多轮服务智能体信用分配的感知影响策略优化

Bo Ren, Yirong Mao, Yi Yang, Wenhui Que

机构 * Fudan University（复旦大学） ； WeChat, Tencent Inc.（腾讯公司微信业务） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究提出IAPO方法，将轨迹转化为影响依赖图以优化多轮服务智能体的信用分配，在三个服务智能体基准及BFCL-v4多轮任务上，性能优于多轮RL基线。

Comments 12 pages, 3 figures, 5 tables. Preprint

Minima-KV: Retention-Preserving KV Cache Compression with Mixed-Format Paged Attention

Minima-KV：采用混合格式分页注意力的保留保留KV缓存压缩技术

Sergii Kozyrev (1), Davyd Maiboroda (1) ((1) Minima AI, Inc.)

机构 * Minima AI, Inc.（Minima AI公司） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对长上下文LLM的KV缓存瓶颈，提出Minima-KV混合格式分页注意力压缩方案，在Qwen3.6-27B模型上实现3.50倍KV压缩，性能与密集控制相当，无需密集影子。

Comments 13 pages, 3 figures

Eluna: An Agentic LLM System for Automating Warehouse Operations with Reasoning and Task Execution

Eluna：一个用于通过推理和任务执行实现仓库运营自动化的智能语言模型系统

Ning Liu, P Aditya Sreekar, Kalle Kujanpää, Zhaoxuan Zhu, Kaiwen Liu, Chuanneng Sun, Jorge Marchena Menendez, Matthew Bales, Tianyu Yang, Shahnawaz Alam, Rose Yu, Baoyuan Liu, Kristina Klinkner, Shervin Malmasi

机构 * Amazon.com, Inc. Fulfillment Technologies and Robotics（亚马逊公司履约技术与机器人部门） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对仓库运营中SOP执行问题，提出Eluna智能体系统，它是图形引导多智能体框架，采用非对称情节蒸馏方法，在基准测试和生产应用中，微调模型表现出色，匹配或超教师模型，击败基线，在票务处理应用达94%专家一致性。

An Algebraic View of the Expressivity of Recurrent Language Models

循环语言模型表达能力的代数视角

Franz Nowak, Ryan Cotterell, Reda Boumasmoud

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文通过代数统一框架分析循环神经网络在不同算术模型下的表达能力，将形式语言识别问题归结为语法幺半群是否划分特定圈积的代数问题。

Comments Accepted at the 43rd International Conference on Machine Learning (ICML 2026). 28 pages, 2 figures

Test-Time Adaptation for EEG Foundation Models: A Systematic Study under Real-World Distribution Shifts

EEG基础模型的测试时间适应：在现实世界分布偏移下的系统研究

Gabriel Jason Lee, Jathurshan Pradeepkumar, Jimeng Sun

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文系统研究了EEG基础模型在现实分布偏移下的测试时间适应方法，发现标准方法效果不稳定且易退化，而无优化方法更稳定可靠。

Comments Accepted to MLHC 2026