语言大模型 / LLM

CirrusBench: Evaluating LLM-based Agents Beyond Correctness in Real-World Cloud Service Environments

CirrusBench：在真实云服务环境中评估基于LLM的代理超越正确性的能力

Yi Yu, Guangquan Hu, Chenghuang Shen, Xingyan Liu, Jing Gu, Hangyi Sun, Junzhuo Ma, Weiting Liu, Jianfeng Liu, Mingyue Pu, Yu Wang, Zhengdong Xiao, Rui Xie, Longjiu Luo, Qianrong Wang, Gurong Cui, Honglin Qiao, Wenlian Lu

机构 * School of Mathematics and Sciences, Fudan University（复旦大学数学科学学院） ； Shanghai Center for Mathematical Sciences, Fudan University（复旦大学上海数学中心） ； Alibaba Group（阿里巴巴集团） ； Institute of Science and Technology for Brain-Inspired Intelligence, Fudan University（复旦大学类脑智能科学与技术研究院） ； Center for Applied Mathematics & Shanghai Key Laboratory of Contemporary Applied Mathematics, Fudan University（复旦大学应用数学中心暨上海市现代应用数学重点实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CirrusBench框架，基于真实云服务工单数据评估LLM代理的鲁棒性和解决效率，引入客户导向指标量化服务质量，揭示现有模型在复杂多轮任务中的不足。

Comments Submitted for SIGKDD 2026

Shadow in the Cache: Unveiling and Mitigating Privacy Risks of KV-cache in LLM Inference

缓存中的阴影：揭示和缓解LLM推理中KV缓存的隐私风险

Zhifan Luo, Shuo Shao, Su Zhang, Lijing Zhou, Yuke Hu, Chenxu Zhao, Zhihao Liu, Zhan Qin

机构 * State Key Laboratory of Blockchain and Data Security（区块链与数据安全国家重点实验室） ； Zhejiang University（浙江大学） ； Huawei Technology（华为技术） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security（杭州高新技术区（滨江）区块链与数据安全研究院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文揭示了KV缓存中存在严重的隐私泄露问题，设计了三种攻击方法并提出KV-Cloak防御机制，有效缓解了隐私风险且不影响模型精度。

Comments This paper is accepted by Network and Distributed System Security Symposium (NDSS) 2026. Code: https://github.com/SiO-2/kvcloak

Journal ref Published in the Proceedings of the 33rd Network and Distributed System Security Symposium (NDSS 2026)

TIDE: Token-Informed Depth Execution for Per-Token Early Exit in LLM Inference

TIDE：基于令牌的深度执行用于每令牌早退的LLM推理

Jaber Jaber, Osama Jaber

机构 * RightNow AI 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 TIDE通过在周期性检查点层添加小型学习路由器，在推理时为每个令牌选择最早收敛的隐藏状态层，实现令牌早退，提升推理效率。

Comments 9 pages, 5 tables, 2 figures. Code: https://github.com/RightNow-AI/TIDE

A Framework for Low-Latency, LLM-driven Multimodal Interaction on the Pepper Robot

一种用于Pepper机器人低延迟LLM驱动多模态交互的框架

Erich Studerus, Vivienne Jia Zhong, Stephan Vonschallen

机构 * Institute for Information Systems（信息系统研究所） ； University of Applied Sciences and Arts Northwestern Switzerland（西北瑞士应用科学与艺术大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一个开源Android框架，通过端到端语音模型和功能调用能力，实现低延迟多模态交互，提升Pepper机器人的人机交互性能。

Comments 4 pages, 2 figures. To appear in Proceedings of the 21st ACM/IEEE International Conference on Human-Robot Interaction (HRI '26), Edinburgh, Scotland, March 2026

KV Cache Optimization Strategies for Scalable and Efficient LLM Inference

用于可扩展和高效大语言模型推理的键值缓存优化策略

Yichun Xu, Navjot K. Khaira, Tejinder Singh

机构 * Dell Technologies（戴尔技术） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文系统回顾了键值缓存优化技术，探讨了缓存淘汰、压缩、混合内存方案等五个方向，分析了不同场景下的性能和部署权衡，指出适应性多阶段优化流程是未来研究方向。

Comments 24 pages, 14 figures

LLM-MRD: LLM-Guided Multi-View Reasoning Distillation for Fake News Detection

LLM-MRD: 基于大语言模型的多视角推理蒸馏用于虚假新闻检测

Weilin Zhou, Shanwen Tan, Enhao Gu, Yurong Qian

机构 * Xinjiang University, Urumqi, China（新疆大学） ； Sichuan University, Chengdu, China（四川大学） ； Joint International Research Laboratory of Silk Road Multilingual Cognitive Computing, Xinjiang University, Urumqi, China（丝绸之路多语种认知计算国际联合实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LLM-MRD框架，通过多视角推理蒸馏提升虚假新闻检测性能，实验显示在准确率和F1-Fake指标上均优于现有方法。

Comments Accepted at DASFAA 2026 (Oral)

Test-Time Adaptation via Many-Shot Prompting: Benefits, Limits, and Pitfalls

通过多示例提示进行测试时适应：益处、限制与陷阱

Shubhangi Upasani, Chen Wu, Jay Rainton, Bo Li, Urmish Thakker, Changran Hu, Qizheng Zhang

机构 * SambaNova Systems, Inc（SambaNova系统公司） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究通过多示例提示在不同任务和模型中分析测试时适应的性能变化，探讨其有效性及限制，指出其在结构化任务中的优势及在开放生成任务中的不足。

Can Linguistically Related Languages Guide LLM Translation in Low-Resource Settings?

语言上相关的语言能否在低资源环境下指导LLM翻译？

Aishwarya Ramasethu, Niyathi Allu, Rohin Garg, Harshwardhan Fartale, Dun Li Chan

机构 * Prediction Guard（预测守护） ； Scale AI ； Independent（独立） ； INTI International College Penang（INTI国际学院巴生） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本研究探讨在数据稀缺情况下，语言相似的pivot语言和少量示例能否指导LLM的即席适应，通过数据高效实验发现，pivot提示在某些配置下能提升翻译效果，但收益有限且依赖示例构建。

Comments 18 pages (9 main paper and 9 Appendix), 1 figure, 19 tables. Accepted at LoResMT 2026: EACL 2026 Workshop. OpenReview link: https://openreview.net/forum?id=mg0UfW2sdc#discussion

EoRA: Fine-tuning-free Compensation for Compressed LLM with Eigenspace Low-Rank Approximation

EoRA: 无需微调的压缩LLM补偿方法

Shih-Yang Liu, Maksim Khadkevich, Nai Chit Fung, Charbel Sakr, Chao-Han Huck Yang, Chien-Yi Wang, Saurav Muralidharan, Hongxu Yin, Kwang-Ting Cheng, Jan Kautz, Yu-Chiang Frank Wang, Pavlo Molchanov, Min-Hung Chen

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 EoRA提出一种无需微调的压缩LLM补偿方法，通过低秩矩阵增强模型性能，实现准确率与计算开销的灵活平衡，优于现有方法，显著提升压缩模型的准确率。

Comments ICLR 2026 workshops. Code: https://github.com/NVlabs/EoRA

Training-Free Agentic AI: Probabilistic Control and Coordination in Multi-Agent LLM Systems

无需训练的代理AI：多代理大语言模型系统的概率控制与协调

Mohammad Parsa Hosseini, Ankit Shah, Saiyra Qureshi, Alex Huang, Connie Miao, Wei Wei

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出REDEREF控制器，通过概率方法提升多代理LLM系统的路由效率与鲁棒性，减少资源消耗并提高任务成功率。

Comments under review, 13 pages

Quantization Meets dLLMs: A Systematic Study of Post-training Quantization for Diffusion LLMs

量化与扩散大语言模型：对后训练量化在扩散大语言模型上的系统研究

Haokun Lin, Haobo Xu, Yichen Wu, Ziyu Guo, Renrui Zhang, Zhichao Lu, Ying Wei, Qingfu Zhang, Zhenan Sun

专题命中 效率与部署 ：post-training(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文系统研究了扩散大语言模型的后训练量化，探讨了激活异常值对低比特量化的影响，并通过多维度评估提供了实用见解，为高效部署扩散大语言模型奠定基础。

Comments Published in Machine Intelligence Research, DOI: 10.1007/s11633-025-1624-x

When to Ensemble: Identifying Token-Level Points for Stable and Fast LLM Ensembling

何时进行集成：识别令牌级点以实现稳定且快速的LLM集成

Heecheol Yun, Kwangmin Ki, Junghyun Lee, Eunho Yang

机构 * KAIST（韩国科学技术院） ； Korea University（韩国大学） ； AITRICS 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出SAFE框架，通过考虑令牌化不匹配和下一个令牌概率分布的一致性，改进长形式生成中的模型集成，提升准确性和效率。

Comments ICLR 2026

Resource-Efficient Iterative LLM-Based NAS with Feedback Memory

高效迭代基于大语言模型的神经架构搜索与反馈记忆

Xiaojie Gu, Dmitry Ignatov, Radu Timofte

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于大语言模型的高效迭代神经架构搜索方法，通过反馈记忆机制和双LLM专业化，在单块消费级GPU上实现高效模型搜索，提升图像分类性能。

Beyond Linear LLM Invocation: An Efficient and Effective Semantic Filter Paradigm

超越线性LLM调用：一种高效且有效的语义过滤范式

Nan Hou, Kangfei Zhao, Jiadong Xie, Jeffrey Xu Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CSV框架，通过语义聚类、采样和投票策略，将LLM调用次数降低至次线性复杂度，提升语义过滤效率。

Bielik-Q2-Sharp: A Comparative Study of Extreme 2-bit Quantization Methods for a Polish 11B Language Model

Bielik-Q2-Sharp：极端2位量化方法在波兰11B语言模型上的比较研究

Jakub Prejzner

机构 * BitSharp 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；post-training(abstract)；分类 cs.CL、cs.AI

AI总结 Bielik-Q2-Sharp通过比较六种极端2位量化方法，评估其在波兰11B语言模型上的性能，发现QuIP# E8P12在高阶推理保留方面表现更优，同时在规模和效率上具有竞争力。

Comments 17 pages, 13 tables. All models and Hessians available at https://huggingface.co/Jakubrd4

A Multi-Dimensional Quality Scoring Framework for Decentralized LLM Inference with Proof of Quality

一种用于去中心化大语言模型推理的多维质量评分框架

Arther Tian, Alex Ding, Frank Chen, Simon Wu, Aaron Chan

机构 * DGrid AI 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种多维质量评分框架，用于去中心化LLM推理中的质量评估，通过分解输出质量为多个模块化维度，并通过实验验证其在不同任务中的有效性。

Entropy-Guided Dynamic Tokens for Graph-LLM Alignment in Molecular Understanding

熵引导的动态令牌用于分子理解中的图-语言模型对齐

Zihao Jing, Qiuhao Zeng, Ruiyi Fang, Yan Sun, Boyu Wang, Pingzhao Hu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EDT-Former通过熵引导的动态令牌生成，在无需微调LLM主干的情况下实现图编码器与LLM的对齐，提升分子图理解的效率和泛化能力。

Comments Accepted by ICLR 2026

EasySteer: A Unified Framework for High-Performance and Extensible LLM Steering

EasySteer: 一种高绩效且可扩展的LLM引导统一框架

Haolei Xu, Xinyu Mei, Yuchen Yan, Rui Zhou, Wenqi Zhang, Weiming Lu, Yueting Zhuang, Yongliang Shen

机构 * Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 EasySteer通过模块化架构和预计算引导向量，实现高效且可扩展的LLM引导，提升推理效率并支持多种应用场景。

Comments Functionality upgrade. Code: https://github.com/ZJU-REAL/EasySteer Demo: https://www.youtube.com/watch?v=3rRGzZmhrXg

LIDS: LLM Summary Inference Under the Layered Lens

LLM摘要推断的分层视角：LIDS

Dylan Park, Yingying Fan, Jinchi Lv

机构 * Department of Mathematics, University of Southern California（数学系，南加州大学） ； Data Sciences and Operations Department, Marshall School of Business, University of Southern California（数据科学与运营系，马歇尔商学院，南加州大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 LIDS是一种基于BERT-SVD方向度量和SOFARI的LLM摘要推断方法，通过可解释的关键字分析实现摘要准确性的评估，并通过实证研究验证其在大规模文本缩减中的有效性。

Comments 48 pages, 15 figures

RF-Agent: Automated Reward Function Design via Language Agent Tree Search

RF-Agent: 通过语言代理树搜索实现自动奖励函数设计

Ning Gao, Xiuhui Zhang, Xingyu Jiang, Mukang You, Mohan Zhang, Yue Deng

机构 * Beihang University（北航大学） 纠错

专题命中 效率与部署 ：language agent(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 RF-Agent通过语言代理树搜索实现自动奖励函数设计，利用蒙特卡洛树搜索和LLMs的上下文推理能力，提升低层控制任务的奖励函数设计效率和效果。

Comments 39 pages, 9 tables, 11 figures, Project page see https://github.com/deng-ai-lab/RF-Agent

AdaEvolve: Adaptive LLM Driven Zeroth-Order Optimization

AdaEvolve: 基于自适应LLM的零阶优化

Mert Cemri, Shubham Agrawal, Akshat Gupta, Shu Liu, Audrey Cheng, Qiuyang Mang, Ashwin Naren, Lutfi Eren Erdogan, Koushik Sen, Matei Zaharia, Alex Dimakis, Ion Stoica

机构 * University of California, Berkeley（加州大学伯克利分校） ； Bespoke Labs 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 AdaEvolve通过自适应优化框架提升LLM驱动的零阶优化性能，有效解决搜索过程中的非平稳动态问题。

KVComm: Enabling Efficient LLM Communication through Selective KV Sharing

KVComm: 通过选择性KV共享实现高效的LLM通信

Xiangyu Shi, Marco Chiesa, Gerald Q. Maguire, Dejan Kostic

机构 * KTH Royal Institute of Technology（皇家理工学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 KVComm通过选择性共享KV对，实现LLM间高效通信，实验显示其性能与上界方法相当，仅传输30%的KV对。

Comments ICLR 2026

The Unseen Frontier: Pushing the Limits of LLM Sparsity with Surrogate-Free ADMM

未被看见的前沿：通过无代理ADMM推动LLM稀疏性的极限

Kwanhee Lee, Hyeondo Jang, Dongyeop Lee, Dan Alistarh, Namhoon Lee

机构 * POSTECH ； ISTA 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Elsa通过无代理ADMM方法实现LLM高达90%的稀疏度，显著提升模型性能与效率。

Comments ICLR 2026

Language Model Representations for Efficient Few-Shot Tabular Classification

用于高效少样本表格分类的语言模型表示

Inwon Kang, Parikshit Ram, Yi Zhou, Horst Samulowitz, Oshani Seneviratne

机构 * Rensselaer Polytechnic Institute（罗格斯理工学院） ； IBM Research（IBM研究） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出TaRl方法，利用语言模型的语义嵌入进行少样本表格分类，通过移除公共组件和校准温度提升性能，实现高效利用现有LLM基础设施。

Comments Accepted to WWW'26

Socially-Weighted Alignment: A Game-Theoretic Framework for Multi-Agent LLM Systems

社交加权对齐：多智能体大语言模型系统的博弈论框架

Furkan Mumcu, Yasin Yilmaz

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出社交加权对齐框架，通过引入社交权重解决多智能体LLM系统中的个体理性与集体稳定矛盾，通过理论分析和模拟验证了关键阈值的存在。

WiSparse: Boosting LLM Inference Efficiency with Weight-Aware Mixed Activation Sparsity

WiSparse: 通过权重感知混合激活稀疏性提升大语言模型推理效率

Lei Chen, Yuan Meng, Xiaoyu Zhan, Zhi Wang, Wenwu Zhu

机构 * Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 WiSparse通过结合激活和权重信息，实现高效的大语言模型推理，以50%稀疏率保持97%性能并提升21.4%推理速度。

Pedagogically-Inspired Data Synthesis for Language Model Knowledge Distillation

教学启发式数据合成用于语言模型知识蒸馏

Bowei He, Yankai Chen, Xiaokun Zhang, Linghe Kong, Philip S. Yu, Xue Liu, Chen Ma

机构 * MBZUAI ； McGill（麦吉尔大学） ； CityUHK（城市大学香港分校） ； SJTU（上海交通大学） ； UIC（美国国际大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于教学原理的知识蒸馏框架，通过三阶段流程提升学生模型性能，在复杂推理任务中取得显著改进。

Comments Accepted by ICLR 2026

HybridRAG: A Practical LLM-based ChatBot Framework based on Pre-Generated Q&A over Raw Unstructured Documents

HybridRAG: 一种基于预生成问答的LLM聊天机器人框架

Sungmoon Kim, Hyuna Jeon, Dahye Kim, Mingyu Kim, Dong-Kyu Chae, Jiwoong Kim

机构 * Hanyang University（翰阳大学） ； Makebot Inc.（Makebot公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 HybridRAG通过预生成问答库和实时生成相结合，提升聊天机器人在处理无结构文档时的准确性和效率。

Deep Learning-based Method for Expressing Knowledge Boundary of Black-Box LLM

基于深度学习的知识边界表达方法：黑盒大语言模型

Haotian Sheng, Heyong Wang, Ming Hong, Hongman He, Junqiu Liu

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出LSCL方法，通过深度学习模型帮助黑盒LLMs准确表达其知识边界，显著提升准确率和召回率。

LLM-Mediated Guidance of MARL Systems

基于大语言模型的多智能体强化学习系统引导

Philipp D. Siedler, Ian Gemp

机构 * Aleph Alpha Research（Aleph Alpha研究机构） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出利用大语言模型介导的干预，通过自然语言和规则控制器提升多智能体强化学习系统的训练效率和性能。