语言大模型 / LLM

Inference Time Context Sparsity: Illusion or Opportunity?

推理时上下文稀疏性：幻觉还是机遇？

Sahil Joshi, Prithvi Dixit, Agniva Chowdhury, Anshumali Shrivastava, Joseph E. Gonzalez, Ion Stoica, Kumar Krishna Agrawal, Aditya Desai

机构 * Berkeley（伯克利） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 本文通过实证和理论证据论证，在长上下文LLM推理中采用极端但原则性的上下文维度稀疏性不仅是可行的，而且能显著加速处理（如H100上实现10倍加速），从而挑战了密集注意力机制的必要性。

Comments 19 pages, 8 figures

HARNESS-LM: A Three-Phase Training Recipe for Harnessing SLMs in Sponsored Search Retrieval

HARNESS-LM: 一种在赞助搜索中利用小语言模型的三阶段训练方案

Vipul Gupta, Shikhar Mohan, Lakshya Kumar, Pranjal Chitale, Nikit Begwani, Amit Singh, Manik Varma

机构 * Microsoft AI（微软人工智能） 纠错

专题命中 效率与部署 ：SLM(abstract,abstract_cn)；language model(abstract)；small language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出HARNESS-LM三阶段训练框架，通过知识蒸馏将大规模检索器能力迁移至紧凑模型，在Bing Ads上恢复98%以上精度并实现27倍延迟降低。

Comments 9 pages, 3 figures, 10 tables

Efficient and Transferable Agentic Knowledge Graph RAG via Reinforcement Learning

基于强化学习的高效可迁移智能知识图谱检索增强生成

Junhong Lin, Shicheng Liu, Jinyeop Song, Song Wang, Julian Shun, Yada Zhu

机构 * MIT CSAIL（麻省理工学院CSAIL） ； University of Virginia（弗吉尼亚大学） ； IBM Research（IBM研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出KG-R1框架，通过强化学习将单个智能体与知识图谱交互，统一检索、推理和生成过程，在KGQA基准上以更少生成token提升准确率，并展现跨图谱的零样本迁移能力。

END: Early Noise Dropping for Efficient and Effective Context Denoising

END：早期噪声丢弃以实现高效有效的上下文去噪

Hongye Jin, Pei Chen, Jingfeng Yang, Zhengyang Wang, Fangran Mo, Jinghan Zhang, Meng Jiang, Yifan Gao, Binxuan Huang, Xinyang Zhang, Zheng Li, Tianyi Liu, Huasheng Li, Bing Yin

机构 * Amazon（亚马逊） 纠错

专题命中 效率与部署 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出END方法，通过在早期层对输入序列进行分割和线性探针，有效识别并丢弃噪声部分，从而提升LLM在不同任务上的性能和效率，同时加深了对LLM内部上下文推理机制的理解。

Test-Time Speculation

测试时推测

Avinash Kumar, Sujay Sanghavi, Poulami Das

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了测试时推测方法，通过在线蒸馏技术提升长响应任务中推测器的接受长度，从而提高LLM推理效率。

Context Memorization for Efficient Long Context Generation

上下文记忆用于高效长上下文生成

Yasuyuki Okoshi, Hao Mark Chen, Guanxi Lu, Hongxiang Fan, Masato Motomura, Daichi Fujiki

机构 * Institute of Science Tokyo, Japan（东京科学研究所） ； Imperial College London, UK（伦敦帝国学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出了一种无需训练的上下文记忆方法，通过将前缀外部化为轻量级的预计算注意力状态查找表，以提高长上下文生成的准确性和效率，同时减少注意力计算的延迟。

Multi-agent AI systems outperform human teams in creativity

多智能体AI系统在创造力上超越人类团队

Tiancheng Hu, Yixuan Jiang, Haotian Li, José Hernández-Orallo, Xing Xie, Nigel Collier, David Stillwell, Luning Sun

机构 * Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了多智能体AI系统在创造力任务中的表现，发现其在四个多样化问题解决任务中，比单智能体和人类团队更具创造力，核心方法是通过语义空间路径分析生成过程，主要贡献是揭示了AI和人类团队在创造力预测上的不同机制。

Mistletoe: Stealthy Acceleration-Collapse Attacks on Speculative Decoding

毒藤：针对推测解码的隐秘加速-崩溃攻击

Shuoyang Sun, Chang Dai, Hao Fang, Kuofeng Gao, Xinhao Zhong, Yi Sun, Fan Mo, Shu-Tao Xia, Bin Chen

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； South China University of Technology（华南理工大学） ； Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） ； Huawei Technology（华为技术） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Mistletoe攻击，通过优化降质目标和语义保留目标，隐秘地降低推测解码的接受长度τ，从而减少加速效果，同时保持输出质量。

Orthrus: Memory-Efficient Parallel Token Generation via Dual-View Diffusion

Orthrus：通过双视角扩散实现内存高效的并行令牌生成

Chien Van Nguyen, Chaitra Hegde, Van Cuong Pham, Ryan A. Rossi, Franck Dernoncourt, Thien Huu Nguyen

机构 * University of Oregon（俄勒冈大学） ； Google DeepMind（谷歌DeepMind） ； Adobe Research（Adobe研究） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Orthrus结合自回归大语言模型的高保真生成与扩散模型的高速并行生成，通过双视角机制实现高效推理，提升速度7.8倍且内存开销极低。

MOSAIC: A Multilingual, Taxonomy-Agnostic, and Computationally Efficient Approach for Radiological Report Classification

MOSAIC：一种多语言、无类别依赖且计算高效的放射报告分类方法

Alice Schiavone, Marco Fraccaro, Lea Marie Pehrson, Silvia Ingala, Rasmus Bonnevie, Michael Bachmann Nielsen, Vincent Beliveau, Melanie Ganz, Desmond Elliott

机构 * Department of Computer Science, University of Copenhagen（哥本哈根大学计算机科学系） ； Neurobiology Research Unit, Copenhagen University Hospital（哥本哈根大学医院神经生物学研究单位） ； Unumed Aps（Unumed公司） ； Department of Diagnostic Radiology, Copenhagen University Hospital（哥本哈根大学医院诊断放射学系） ； Department of Clinical Medicine, University of Copenhagen（哥本哈根大学临床医学系） ； Cerebriu A/S（Cerebriu公司） ； Institute for Human Genetics, Medical University of Innsbruck（因斯布鲁克医学大学人类遗传学研究所） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 MOSAIC通过紧凑开放模型实现多语言、无类别依赖的放射报告分类，无需大量标注数据，且在多种影像模态和标签体系上表现优异，达到专家水平性能。

Comments 8 pages, 14 pages including references and appendix. 9 figures. Preprint

Journal ref Proceedings of the ClinicalNLP Workshop at LREC 2026

$f$-Trajectory Balance: A Loss Family for Tuning GFlowNets, Generative Models, and LLMs with Off- and On-Policy Data

$f$-轨迹平衡：一种用于调整GFlowNets、生成模型和LLMs的损失家族，结合on-policy和off-policy数据

Jake Fawkes, Jason Hartford

机构 * Department of Statistics, University College London, UK（伦敦大学学院统计学系） ； Valence Labs, London, UK（伦敦Valence实验室） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于$f$-散度的损失家族，通过on-policy和off-policy数据调整生成模型，提升模型覆盖性和泛化能力。

Comments Published at ICML 2026

AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices

AgentStop: 早期终止本地AI代理以在消费设备中节省能源

Dzung Pham, Kleomenis Katevas, Ali Shahin Shamsabadi, Hamed Haddadi

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Brave Software, Imperial College London（Brave软件公司，伦敦帝国学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究提出AgentStop方法，通过预测并提前终止可能失败的代理任务，减少能源消耗，提升本地AI代理的能效与隐私保护。

Comments ACM CAIS '26

Weight Concentration Regularization for Improving Pruning Robustness Under High Sparsity

权重集中正则化：提高在高稀疏度下的剪枝鲁棒性

Vincent-Daniel Yun, Junhyuk Jo, Sunwoo Lee

机构 * University of Southern California（美国南加州大学） ； Inha University（inha大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出权重集中正则化（WCR），通过放大少量参数的幅度并驱动其余参数趋近于零，提高模型在高稀疏度下的剪枝鲁棒性，通过在LLM微调、图像分类和医学分割中的实验验证了其有效性。

Streaming Speech-to-Text Translation with a SpeechLLM

流式语音到文本翻译与SpeechLLM

Titouan Parcollet, Shucong Zhang, Xianrui Zheng, Rogier C. van Dalen

机构 * Samsung, AI Center – Cambridge, United Kingdom（三星，人工智能中心——剑桥，英国） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于LLM的流式语音到文本翻译架构，通过学习输出token和判断音频充足性，实现低延迟的实时翻译，实验显示其翻译质量接近非流式基准，但延迟仅1-2秒。

Comments 9 pages of main text; 24 pages in total

Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection

单条消息能否瘫痪AI基础设施？通过针对性Mobius注入的AbO-DDoS攻击崛起

Zi Liang, Ronghua Li, Yanyun Wang, Qingqing Ye, Haibo Hu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； HKUST (GZ)（香港科技大学（广州）） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究揭示了通过Mobius注入攻击利用代理逻辑中的语义闭合漏洞，实现对AI基础设施的隐蔽攻击，展示了攻击的轻量、隐蔽性和高配置性，并提出基于组件能量分析的防御机制。

Inference-Time Code Selection via Symbolic Equivalence Partitioning

推理时通过符号等价划分进行代码选择

David Cho, Yifan Wang, Fanping Sui, Ananth Grama

机构 * Texas Instruments（德州仪器） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SEP框架，通过符号执行将候选程序划分为功能等价类，提升推理时代码选择的准确性，无需辅助测试生成或额外LLM推理。

Position: Avoid Overstretching LLMs for every Enterprise Task

位置：避免为每个企业任务过度使用大语言模型

Kuldeep Singh, Anson Bastos, Isaiah Onando Mulang'

机构 * Eka Labs AI ； Microsoft（微软） ； SAP 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出企业任务应避免过度依赖大语言模型，主张通过模块化架构提升可靠性与可维护性。

TELL-TALE: Task Efficient LLMs with Task Aware Layer Elimination

TELL-TALE：任务高效的大语言模型与任务感知的层消除

Omar Naim, Krish Sharma, Niyar R Barman, Nicholas Asher

机构 * IRIT Université de Toulouse（IRIT图卢兹大学） ； IRIT CNRS（IRIT国家科学研究中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 TELL-TALE通过任务感知的层消除方法优化任务性能，减少计算成本，同时在零样本和少样本设置下实现性能提升，适用于任务专用的大语言模型推理。

Comments ACL 2026 Findings

GraphMERT: Efficient and Scalable Distillation of Reliable Knowledge Graphs from Unstructured Data

GraphMERT：从非结构化数据中高效可扩展地蒸馏可靠知识图谱

Margarita Belova, Jiaxin Xiao, Shikhar Tuli, Niraj K. Jha

机构 * Department of Electrical and Computer Engineering, Princeton University（普林斯顿大学电气与计算机工程系） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出GraphMERT，一种高效的图神经网络模型，通过蒸馏高质量知识图谱提升领域知识的可靠性与有效性。

Comments Camera-ready version. Published in Transactions on Machine Learning Research (TMLR), 2026. Reviewed on OpenReview: https://openreview.net/forum?id=tnXSdDhvqc

Journal ref Transactions on Machine Learning Research, 2026

The Extrapolation Cliff in On-Policy Distillation of Near-Deterministic Structured Outputs

近确定性结构输出在线策略蒸馏中的外推悬崖

Xin Li, Hao Jiang, Annan Wang, Yichi Zhang, Chau Yuen

机构 * Nanyang Technological University（南洋理工大学） 纠错

专题命中 效率与部署 ：SFT(abstract,abstract_cn)；LLM(abstract)；post-training(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了在线策略蒸馏中近确定性结构输出任务的外推悬崖问题，推导了基于模态概率、预热质量及重要性采样剪切强度的闭式安全阈值，并展示了在Amazon Fashion数据集上通过调整参数实现模型性能提升。

PARD-2: Target-Aligned Parallel Draft Model for Dual-Mode Speculative Decoding

PARD-2：面向双模式推测解码的目标对齐并行草稿模型

Zihao An, Taichi Liu, Ziqiong Liu, Dong Li, Ruofeng Liu, Emad Barsoum

机构 * Advanced Micro Devices, Inc.（先进微器件公司） ； Rutgers University（罗格斯大学） ； Michigan State University（密歇根州立大学） 纠错

专题命中 效率与部署 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PARD-2，一种双模式推测解码框架，通过Confidence-Adaptive Token优化提升LLM推理效率，实验显示其在Llama3.1-8B上实现6.94倍无损加速。

Validity-Calibrated Reasoning Distillation

有效性校准的推理蒸馏

Khouloud Saadi, Di Wang

机构 * Department of Computer Science（计算机科学系） ； KAUST（科威特大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出有效性校准的推理蒸馏框架，通过动态监督机制优化学习信号分配，提升数学推理、代码生成和指令遵循任务的性能。

LatentRAG: Latent Reasoning and Retrieval for Efficient Agentic RAG

LatentRAG: 基于潜在空间的高效代理RAG推理与检索

Yijia Zheng, Marcel Worring

机构 * University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 LatentRAG通过将推理与检索从离散语言空间转移到连续潜在空间，提升代理RAG的效率，实验表明其在七种基准数据集上性能与显式方法相当，推理延迟降低约90%。

Latent Abstraction for Retrieval-Augmented Generation

检索增强生成的潜在抽象

Ha Lan N. T, Minh-Anh Nguyen, Dung D. Le

机构 * Center for AI Research, VinUniversity, Vietnam（越南Vin大学人工智能研究中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LAnR通过在潜在空间中联合执行编码、检索和生成，提升检索增强生成的效率与效果，减少检索调用次数并增强模型整合。

TwinGate: Stateful Defense against Decompositional Jailbreaks in Untraceable Traffic via Asymmetric Contrastive Learning

TwinGate: 通过非对称对比学习实现对不可追踪流量中分解性劫持的有状态防御

Bowen Sun, Chaozhuo Li, Yaodong Yang, Yiwei Wang, Chaowei Xiao

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Microsoft Research Asia（微软亚洲研究院） ； Peking University（北京大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 针对LLM中分解性劫持威胁，TwinGate通过非对称对比学习在共享潜在空间中聚类语义不同但意图匹配的恶意片段，同时利用冻结编码器抑制良性主题重叠导致的误报，实现高效防御。

Through a Compressed Lens: Investigating The Impact of Quantization on Factual Knowledge Recall

通过压缩镜头：探讨量化对事实知识回忆的影响

Qianli Wang, Mingyang Wang, Nils Feldhus, Simon Ostermann, Yuan Cao, Hinrich Schütze, Sebastian Möller, Vera Schmitt

机构 * Quality and Usability Lab, Technische Universität Berlin（柏林技术大学质量与可用性实验室） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Saarland Informatics Campus（萨尔州信息学院） ； LMU Munich（慕尼黑大学） ； Bosch Center for Artificial Intelligence (BCAI)（博世人工智能中心） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心） ； Centre for European Research in Trusted AI (CERTAIN)（可信人工智能欧洲研究中心） ； BIFOLD – Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究院） ； Technical University of Munich（慕尼黑技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过量化技术对大型语言模型的事实知识回忆能力影响，发现量化导致信息损失，但部分模型在低精度下表现更优，BitSandBytes保留最多原始精度的知识回忆能力。

Comments TrustNLP @ ACL 2026; camera-ready version

A Blueprint for AI-Driven Software Quality: Integrating LLMs with Established Standards

AI驱动软件质量的蓝图：整合大语言模型与现有标准

Avinash Patil

机构 * Juniper Networks Inc.（Juniper网络公司） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了利用大语言模型提升软件质量保证的过程，结合现有标准，分析AI在需求验证、缺陷检测等任务中的应用，并提出未来发展方向。

Comments 16 pages, 2 Table, 7 Figures

Latency and Cost of Multi-Agent Intelligent Tutoring at Scale

规模化多智能体智能辅导系统的延迟与成本

Iizalaarab Elhaimeur, Nikos Chrisochoides

机构 * Center for Real-Time Computing（实时计算中心） ； Computer Science Department（计算机科学系） ； Old Dominion University（旧 Dominion 大学） ； Physics Departments（物理系） 纠错

专题命中 效率与部署 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 研究探讨了多智能体LLM辅导系统在不同吞吐量层级和并发水平下的延迟与成本表现，发现优先付费层级在高负载下仍保持低延迟，而预留吞吐量在低并发时表现最佳但成本较高。

Comments 11 pages, 5 figures, 5 tables. Companion papers: arXiv:Q-ID (Quantum deployment), arXiv:A-ID (Architecture)

The High Cost of Incivility: Quantifying Interaction Inefficiency via Multi-Agent Monte Carlo Simulations

粗鲁的成本：通过多智能体蒙特卡洛模拟量化互动低效

Benedikt Mangold

机构 * Technische Hochschule Nürnberg（纽伦堡技术大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过多智能体蒙特卡洛模拟研究粗鲁对运营效率的影响，发现有毒参与者使对话持续时间增加25%，提出毒性延迟作为企业学术领域财务损失的代理指标。

Comments 8 figures, 3 tables

An Intelligent Fault Diagnosis Method for General Aviation Aircraft Based on Multi-Fidelity Digital Twin and FMEA Knowledge Enhancement

基于多保真度数字孪生和FMEA知识增强的通用航空飞机智能故障诊断方法

Zhihuan Wei, Yang Hu, Xinhang Chen, Yiming Zhang, Jie Liu, Wei Wang

机构 * Hangzhou International Innovation Institute, Beihang University（北京航空航天大学杭州国际创新研究院） ； School of Mechanical Engineering, Zhejiang University（浙江大学机械工程学院） ； School of Reliability and Systems Engineering, Beihang University（北京航空航天大学可靠性与系统工程学院） ； Department of Mechanical Engineering, City University of Hong Kong（香港城市大学机械工程系） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于多保真度数字孪生的智能故障诊断框架，通过高保真飞行动态仿真、FMEA驱动故障注入、多保真残差特征提取和大语言模型增强的可解释报告生成模块，解决通用航空飞机故障诊断中的数据稀缺、故障类型多样和故障特征弱等问题。