语言大模型 / LLM

CommCP: Efficient Multi-Agent Coordination via LLM-Based Communication with Conformal Prediction

CommCP：通过基于大语言模型的通信实现高效的多智能体协调

Xiaopan Zhang, Zejin Wang, Zhixu Li, Jianpeng Yao, Jiachen Li

机构 * Trustworthy Autonomous Systems Laboratory at the University of California, Riverside, CA, USA（加州大学河滨分校可信自主系统实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 CommCP通过基于大语言模型的通信框架，提升多智能体协作任务的成功率和探索效率。

Comments IEEE International Conference on Robotics and Automation (ICRA 2026); Project Website: https://comm-cp.github.io/

CompactRAG: Reducing LLM Calls and Token Overhead in Multi-Hop Question Answering

CompactRAG: 减少多跳问答中的LLM调用和令牌开销

Hao Yang, Zhiyu Yang, Xupeng Zhang, Wei Wei, Yunjie Zhang, Lin Yang

机构 * State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； Erik Jonsson School of Engineering and Computer Science, University of Texas at Dallas（埃里克·乔纳森工程与计算机科学学院，德克萨斯大学达拉斯分校） ； Isoftstone Information Technology (Group) Co.,Ltd.（伊软石信息技术（集团）有限公司） ； College of Electronic and Information Engineering, Tongji University（电子信息工程学院，同济大学） ； School of Electronic Information, Central South University（电子信息学院，中南大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 CompactRAG通过解耦离线语料重组与在线推理，减少多跳问答中的LLM调用和令牌消耗，提升效率。

TIDE: Temporal Incremental Draft Engine for Self-Improving LLM Inference

TIDE：面向自我改进LLM推理的时序增量草稿引擎

Jiyoung Park, Hankyu Jang, Changseok Song, Wookeun Jung

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 TIDE通过整合在线草稿适应和自适应运行时控制，提升LLM推理效率并减少训练时间。

Improving Diffusion Language Model Decoding through Joint Search in Generation Order and Token Space

通过生成顺序和令牌空间的联合搜索改进扩散语言模型解码

Yangyi Shen, Tianjian Feng, Jiaqi Han, Wen Wang, Tianlang Chen, Chunhua Shen, Jure Leskovec, Stefano Ermon

机构 * stanford（斯坦福大学） ； zju（浙江大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过联合搜索生成顺序和令牌空间，改进扩散语言模型的解码性能，在多个基准测试中取得显著优势。

Stingy Context: 18:1 Hierarchical Code Compression for LLM Auto-Coding

吝啬上下文：18:1的分层代码压缩用于LLM自动编码

David Linus Ostby

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 Stingy Context通过分层树状压缩技术实现18:1的上下文压缩，有效提升LLM自动编码任务的效率和准确性。

Comments 28 pages, 10 tables, 2 figures, 10 bibliographical references and 6 appendices

From Deferral to Learning: Online In-Context Knowledge Distillation for LLM Cascades

从延迟到学习：在线上下文知识蒸馏用于LLM级联

Yu Wu, Shuo Wu, Ye Tao, Yansong Li, Anand D. Sarwate

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） ； Department of Electrical and Computer Engineering, Rutgers University, NJ, USA（电气与计算机工程系，Rutgers大学，新泽西州，美国） ； Computer Engineering Department, University of Illinois Chicago, Illinois, USA（计算机工程系，伊利诺伊大学芝加哥分校，伊利诺伊州，美国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 Inter-Cascade通过在线上下文知识蒸馏提升LLM级联性能，实现弱模型在任务中学习，减少强模型调用并提高整体准确率。

Comments 32 pages, 6 figures, 23 tables, under review

Decipher-MR: A Vision-Language Foundation Model for 3D MRI Representations

Decipher-MR：一种用于3D MRI表示的视觉-语言基础模型

Zhijian Yang, Noel DSouza, Istvan Megyeri, Xiaojian Xu, Amin Honarmandi Shandiz, Farzin Haddadpour, Krisztian Koos, Laszlo Rusko, Emanuele Valeriano, Bharadwaj Swaninathan, Lei Wu, Parminder Bhatia, Taha Kass-Hout, Erhan Bas

机构 * GE Healthcare（通用电气医疗） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 Decipher-MR是一种专门针对3D MRI的视觉-语言基础模型，通过自监督学习和报告引导的文本监督，实现对多种医学任务的高效支持。

Insight Agents: An LLM-Based Multi-Agent System for Data Insights

洞察代理：基于LLM的多智能体数据洞察系统

Jincheng Bai, Zhenyu Zhang, Jennifer Zhang, Zhihuai Zhu

机构 * Amazon（亚马逊） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于LLM的洞察代理系统，通过多智能体架构实现高效的数据洞察与商业决策支持，准确率达90%且延迟低于15秒。

Comments Accepted to SIGIR 2025. DOI: 10.1145/3726302.3731959

SparseSwaps: Tractable LLM Pruning Mask Refinement at Scale

稀疏交换：在大规模上可计算的LLM剪枝掩码细化

Max Zimmer, Christophe Roux, Moritz Wagner, Deborah Hendrych, Sebastian Pokutta

机构 * Department for AI in Society, Science, and Technology, Zuse Institute Berlin, Germany（人工智能与社会、科学与技术部门，柏林Zuse研究所，德国） ； Institute of Mathematics, Technische Universität Berlin, Germany（数学研究所，柏林技术大学，德国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 稀疏交换通过高效算法在大规模LLM中优化剪枝掩码，显著降低剪枝误差并提升模型性能。

Comments 13 pages, 2 figures, 5 tables

StefaLand: An Efficient Geoscience Foundation Model That Improves Dynamic Land-Surface Predictions

StefaLand：一种高效的地球科学基础模型，提升动态陆地表层预测

Nicholas Kraabel, Jiangtao Liu, Yuchen Bian, Daniel Kifer, Chaopeng Shen

机构 * Department of Civil and Environmental Engineering, The Pennsylvania State University, University Park, PA 16802-1408, USA（土木与环境工程系，宾夕法尼亚州立大学，University Park分校） ； Department of Computer Science and Engineering, The Pennsylvania State University, University Park, PA 16802-1408, USA（计算机科学与工程系，宾夕法尼亚州立大学，University Park分校） ； Amazon.com, Inc.（亚马逊公司） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 StefaLand是一种通过学习跨域交互提升动态陆地表层预测的高效地球科学基础模型，具备强空间泛化能力和低计算需求。

VoxServe: Streaming-Centric Serving System for Speech Language Models

VoxServe：面向语音语言模型的流式服务系统

Keisuke Kamahori, Wei-Tzu Lee, Atindra Jha, Rohan Kadekodi, Stephanie Wang, Arvind Krishnamurthy, Baris Kasikci

机构 * University of Washington（华盛顿大学） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 VoxServe是一种面向语音语言模型的流式服务系统，通过模型执行抽象和流式感知调度提高吞吐量和流式传输性能。

Comments The code is available at https://github.com/vox-serve/vox-serve

Reversible Diffusion Decoding for Diffusion Language Models

可逆扩散解码用于扩散语言模型

Xinyun Wang, Min Zhang, Sen Cui, Zhikang Chen, Bo Jiang, Kun Kuang, Mingbao Lin

机构 * East China Normal University（华东师范大学） ； Tsinghua University（清华大学） ； Zhejiang University（浙江大学） ； University of Oxford（牛津大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 可逆扩散解码通过引入可逆性，提升扩散语言模型生成的鲁棒性和质量，同时保持并行效率。

Diffusion Language Model Inference with Monte Carlo Tree Search

扩散语言模型推理中的蒙特卡洛树搜索

Zheng Huang, Kiran Ramnath, Yueyan Chen, Aosong Feng, Sangmin Woo, Balasubramaniam Srinivasan, Zhichao Xu, Kang Zhou, Shuai Wang, Haibo Ding, Lin Lee Cheong

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 MEDAL通过蒙特卡洛树搜索初始化提升扩散语言模型推理质量，实现生成质量随搜索预算提升而改进，无需额外训练。

NAG: A Unified Native Architecture for Encoder-free Text-Graph Modeling in Language Models

NAG：一种用于语言模型中无编码文本图建模的统一原生架构

Haisong Gong, Zhibo Liu, Qiang Liu, Shu Wu, Liang Wang

机构 * New Laboratory of Pattern Recognition (NLPR), Institute of Automation, Chinese Academy of Sciences, Beijing, China ； School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS), Beijing, China ； School of Advanced Interdisciplinary Sciences, UCAS, Beijing, China 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 NAG提出一种统一的原生架构，将图处理内化于语言模型，通过自注意力机制和位置ID校准实现结构依赖和等价性，提升文本图建模的连贯性和效率。

SIGMA-PPG: Statistical-prior Informed Generative Masking Architecture for PPG Foundation Model

SIGMA-PPG：基于统计先验的生成掩码架构用于PPG基础模型

Zongheng Guo, Tao Chen, Yang Jiao, Yi Pan, Xiao Hu, Manuela Ferrario

机构 * Department of Electronics, Information and Bioengineering, Politecnico di Milano（电子工程与信息生物工程系，米兰理工大学） ； State Key Laboratory of Industrial Control Technology, Zhejiang University（工业控制技术国家重点实验室，浙江大学） ； Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（深圳先进技术研究院，中国科学院） ； Nell Hodgson Woodruff School of Nursing, Emory University（埃默里大学护理学院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 SIGMA-PPG通过统计先验引导的生成掩码架构，利用强化学习和向量化量化提升PPG信号基础模型的鲁棒性和性能。

Comments 31 pages, 9 figures, 14 tables

A Hybrid Supervised-LLM Pipeline for Actionable Suggestion Mining in Unstructured Customer Reviews

一种混合监督-大语言模型管道用于无结构客户评论中的可操作建议挖掘

Aakash Trivedi, Aniket Upadhyay, Pratik Narang, Dhruv Kumar, Praveen Kumar

机构 * Department of Computer Science & Information Systems, Birla Institute of Technology and Science, Pilani, India（印度比拉理工学院计算机科学与信息系统系） ； Birdeye Inc.（Birdeye公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种混合监督-大语言模型管道，用于从无结构客户评论中精准提取可操作建议，通过结合RoBERTa分类器和指令调优的LLM，提升提取准确性和聚类一致性，同时揭示领域适应与部署挑战。

Comments Accepted to EACL 2026 Industry Track (to appear)

Diversified Scaling Inference in Time Series Foundation Models

时间序列基础模型中的多样化缩放推理

Ruijin Hua, Zichuan Liu, Kun Zhang, Yiyuan Yang

机构 * University of Oxford（牛津大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文研究了时间序列基础模型中多样化缩放推理的影响，通过定制扰动扩展生成分布支持范围，并提出RobustMSE指标量化性能余量。

Comments 23 pages, 16 figures, 9 tables

GreedySnake: Accelerating SSD-Offloaded LLM Training with Efficient Scheduling and Optimizer Step Overlapping

GreedySnake: 通过高效调度和优化器步长重叠加速SSD卸载的LLM训练

Yishu Yin, Xuehai Qian

机构 * Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 GreedySnake通过高效调度和优化器步长重叠，显著提升了SSD卸载LLM训练的吞吐量，实验显示在不同规模的GPU上均取得显著性能提升。

FlexLLM: Composable HLS Library for Flexible Hybrid LLM Accelerator Design

FlexLLM：用于灵活混合LLM加速器设计的可组合HLS库

Jiahao Zhang, Zifan He, Nicholas Fraser, Michaela Blott, Yizhou Sun, Jason Cong

机构 * Computer Science, University of California, Los Angeles, California（计算机科学，加州大学洛杉矶分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 FlexLLM通过可组合的HLS库实现灵活混合LLM加速器设计，提供高效量化和长上下文处理，显著提升性能与能效。

Auditing Language Model Unlearning via Information Decomposition

通过信息分解审计语言模型去学习

Anmol Goel, Alan Ritter, Iryna Gurevych

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文通过信息分解方法，揭示语言模型去学习过程中残留知识的问题，并提出基于表示的风险评分以缓解隐私泄露。

Comments EACL 2026 Main

SmallKV: Small Model Assisted Compensation of KV Cache Compression for Efficient LLM Inference

SmallKV: 小模型辅助补偿KV缓存压缩以实现高效大语言模型推理

Yi Zhao, Yajuan Peng, Cam-Tu Nguyen, Zuchao Li, Xiaoliang Wang, Hai Zhao, Xiaoming Fu

机构 * AGI Institute, School of Computer Science, Shanghai Jiao Tong University（AGI研究院，计算机科学学院，上海交通大学） ； Shanghai Key Laboratory for Intelligent Information Processing, Fudan University（上海智能信息处理重点实验室，复旦大学） ； State Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学） ； School of Artificial Intelligence, Wuhan University（人工智能学院，武汉大学） ； Institute of Computer Science, University of Göttingen（计算机科学研究所，哥廷根大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 SmallKV通过小模型辅助补偿KV缓存压缩，提升大语言模型在资源受限环境下的推理效率和性能。

Memory-Efficient Acceleration of Block Low-Rank Foundation Models on Resource Constrained GPUs

基于资源受限GPU的块低秩基础模型的内存高效加速

Pierre Abillama, Changwoo Lee, Juechu Dong, David Blaauw, Dennis Sylvester, Hun-Seok Kim

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种内存高效的块低秩基础模型加速方法，通过自定义Triton内核优化，显著提升了在资源受限GPU上的推理速度和模型压缩效率。

Transferable Model-agnostic Vision-Language Model Adaptation for Efficient Weak-to-Strong Generalization

可迁移的模型无关视觉-语言模型适应方法用于高效的弱到强泛化

Jihwan Park, Taehoon Song, Sanghyeok Lee, Miso Choi, Hyunwoo J. Kim

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 TransMiter是一种轻量级适配器，通过无监督方式提升视觉-语言模型的泛化能力，实现高效的知识迁移。

Comments AAAI2026 Oral (camera ready version)

PatientVLM Meets DocVLM: Pre-Consultation Dialogue Between Vision-Language Models for Efficient Diagnosis

PatientVLM 与 DocVLM 相遇：为高效诊断的预咨询对话

K Lokesh, Abhirama Subramanyam Penamakuri, Uday Agarwal, Apoorva Challa, Shreya K Gowda, Somesh Gupta, Anand Mishra

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出预咨询对话框架，通过视觉语言模型模拟医生与患者对话，利用合成症状提升诊断效率。

Comments Accepted at AAAI 2026 Main Track

TinyMyo: a Tiny Foundation Model for Flexible EMG Signal Processing at the Edge

TinyMyo：一种用于边缘端灵活EMG信号处理的轻量级基础模型

Matteo Fasulo, Giusy Spacone, Thorir Mar Ingolfsson, Yawei Li, Luca Benini, Andrea Cossettini

机构 * Integrated Systems Laboratory of ETH Zürich（苏黎世联邦理工学院集成系统实验室） ； University of Bologna（博洛尼亚大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 TinyMyo是一种轻量级EMG基础模型，通过自监督预训练实现多任务泛化，适用于低功耗边缘设备的高效信号处理。

Image Complexity-Aware Adaptive Retrieval for Efficient Vision-Language Models

面向高效视觉-语言模型的图像复杂度感知自适应检索

Mikel Williams-Lekuona, Georgina Cosma

机构 * Computer Science, Loughborough University, Loughborough, UK（计算机科学，洛桑大学，洛桑，英国） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 ICAR通过自适应计算方法提升视觉-语言模型效率，实现高效图像-文本匹配与复杂度评估。

Comments Camera-ready version for ECIR 2026

Private LLM Inference on Consumer Blackwell GPUs: A Practical Guide for Cost-Effective Local Deployment in SMEs

在消费级Blackwell GPU上进行私有LLM推理：为中小企业实现低成本本地部署的实用指南

Jonathan Knoop, Hendrik Holtmann

机构 * IE Business University（IE商学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文评估了消费级Blackwell GPU在LLM推理中的性能，证明其在多数中小企业工作负载中可替代云服务，但长上下文RAG任务仍需高端GPU。

Comments 15 pages, 18 tables, 7 figures. Includes link to GitHub repository and Docker image for reproducibility

AutoContext: Instance-Level Context Learning for LLM Agents

AutoContext：LLM代理的实例级上下文学习

Kuntai Cai, Juncheng Liu, Xianglin Yang, Zhaojie Niu, Xiaokui Xiao, Xing Chen

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI

AI总结 AutoContext通过解耦探索与任务解决，为LLM代理构建结构化的实例上下文，显著提升了任务执行效率。

Policy-Guided Search on Tree-of-Thoughts for Efficient Problem Solving with Bounded Language Model Queries

基于树状思维的策略引导搜索以实现高效的有限语言模型查询问题解决

Sumedh Pendurkar, Guni Sharon

机构 * Texas A&M University（德克萨斯大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LTS算法，通过语言模型的启发式概率引导树状思维搜索，以在有限计算预算下提升问题解决效率。

Comments Published in Transactions on Machine Learning Research (TMLR), 2025. Available at https://openreview.net/forum?id=Rlk1bWe2ii

Journal ref Transactions on Machine Learning Research, 2025

IPA: An Information-Reconstructive Input Projection Framework for Efficient Foundation Model Adaptation

IPA: 一种信息重构的输入投影框架，用于高效的基础模型适应

Yuan Yin, Shashanka Venkataramanan, Tuan-Hung Vu, Andrei Bursuc, Matthieu Cord

机构 * Sorbonne Université（索邦大学） ； CNRS（国家科学研究中心） ； ISIR（信息科学研究所） 纠错

专题命中 效率与部署 ：foundation model(title)；pretraining(abstract)；分类 cs.AI、cs.LG

AI总结 IPA通过信息重构的输入投影框架提升基础模型适应效率，实现更高准确率与更少参数消耗。

Comments Accepted to TMLR