语言大模型 / LLM

Beyond Variance: Knowledge-Aware LLM Compression via Fisher-Aligned Subspace Diagnostics

超越方差：通过Fisher对齐子空间诊断的知识感知LLM压缩

Ibne Farabi Shihab, Sanjeda Akter, Anuj Sharma

机构 * Department of Computer Science, Iowa State University（计算机科学系，爱荷华州立大学） ； Department of Civil, Construction & Environmental Engineering, Iowa State University（土木、建设与环境工程系，爱荷华州立大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 FASC通过Fisher对齐子空间诊断方法，在压缩LLM时提升知识保留能力，实验显示其在知识密集型基准测试中表现优于传统方差方法。

Detecting LLM-Generated Text with Performance Guarantees

具有性能保证的LLM生成文本检测

Hongyi Zhou, Jin Zhu, Ying Yang, Chengchun Shi

机构 * Tsinghua University（清华大学） ； University of Birmingham（伯明翰大学） ； London School of Economics and Political Science（伦敦政治经济学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种无需辅助信息的LLM生成文本检测方法，通过统计推断实现高准确率和低错误率的文本分类。

AIConfigurator: Lightning-Fast Configuration Optimization for Multi-Framework LLM Serving

AIConfigurator: 多框架LLM服务的闪电式配置优化

Tianhao Xu, Yiming Liu, Xianglong Lu, Yijia Zhao, Xuting Zhou, Aichen Feng, Yiyi Chen, Yi Shen, Qin Zhou, Xumeng Chen, Ilya Sherstyuk, Haorui Li, Rishi Thakkar, Ben Hamm, Yuanzhe Li, Xue Huang, Wenpeng Wu, Anish Shanbhag, Harry Kim, Chuan Chen, Junjie Lai

机构 * NVIDIA 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 AIConfigurator通过统一性能建模系统实现多框架LLM服务的快速配置优化，提升性能40%-50%并缩短搜索时间至30秒。

Breaking Model Lock-in: Cost-Efficient Zero-Shot LLM Routing via a Universal Latent Space

打破模型锁定：通过通用潜在空间实现成本效益的零样本LLM路由

Cheng Yan, Wuyang Zhang, Zhiyuan Ning, Fan Xu, Ziyang Tao, Lu Zhang, Bing Yin, Yanyong Zhang

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过通用潜在空间实现LLM零样本路由，提升模型集成的效率与成本效益

CALM: A CKA-Guided Adaptive Layer-Wise Modularization Framework for LLM Quantization

CALM: 一种基于CKA的自适应层级模块化框架用于LLM量化

Jinhao Zhang, Yunquan Zhang, Daning Chen, JunSun, Zicheng Yan

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； Zhejiang University（浙江大学） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 CALM提出一种基于CKA的自适应层级模块化框架，通过独立评估各层最佳量化策略，提升LLM量化效果。

LLM_annotate: A Python package for annotating and analyzing fiction characters

LLM_annotate: 一个用于标注和分析小说人物的Python包

Hannes Rosenbusch

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LLM_annotate是一个基于大语言模型的Python工具，用于高效、可重复地分析小说人物性格，支持多种LLM并提供交互式GUI验证

Joint Encoding of KV-Cache Blocks for Scalable LLM Serving

KV缓存块的联合编码以实现可扩展的LLM服务

Joseph Kampeas, Emir Haleva

机构 * Distributed and Parallel Software Lab（分布式并行软件实验室） ； Huawei Technologies（华为技术） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 通过联合编码KV缓存块，实现高并发LLM服务，提升吞吐量并减少内存消耗。

Comments 12 pages, 16 figures, 2 tables

Jailbreaking Attacks vs. Content Safety Filters: How Far Are We in the LLM Safety Arms Race?

对抗攻击与内容安全过滤：我们在LLM安全竞赛中走了多远？

Yuan Xin, Dingfan Chen, Linyi Yang, Michael Backes, Xiao Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA 欧洲信息安全中心） ； Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； Southern University of Science and Technology（南方科技大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文系统评估了针对LLM安全对齐的劫持攻击，发现大多数攻击可被安全过滤器检测到，同时指出需优化召回率和精确度以提升安全系统性能。

Comments 26 pages,11 tables, 7 figures

Entropy-Aware Speculative Decoding Toward Improved LLM Reasoning

基于熵的推测解码：改进大语言模型推理

Tiancheng Su, Meicong Zhang, Guoxiu He

机构 * School of Economics and Management（经济管理学院） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 基于熵的推测解码通过动态熵惩罚提升大语言模型推理性能，实验表明其在多数情况下优于目标模型。

Computational Basis of LLM's Decision Making in Social Simulation

大语言模型在社会模拟中的决策机制计算基础

Ji Ma

机构 * LBJ School of Public Affairs, University of Texas at Austin（德克萨斯大学奥斯汀分校公共事务学院LBJ学院） ； Gradel Institute of Charity, New College, University of Oxford（牛津大学格拉德尔慈善研究所） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本研究通过独裁者游戏探索LLM内部表示的变量变化，揭示社会概念在Transformer模型中的编码机制，为社会模拟和AI对齐提供新方法。

Comments Forthcoming: Sociological Methodology; USPTO patent pending

Journal ref Sociological Methodology, 2025

Efficient Multi-Adapter LLM Serving via Cross-Model KV-Cache Reuse with Activated LoRA

高效多适配器LLM服务通过跨模型KV缓存重用与激活LoRA

Allison Li, Kristjan Greenewald, Thomas Parnell, Navid Azizan

机构 * mit（麻省理工学院） ； ibm（国际商业机器公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种高效LLM服务引擎，通过激活LoRA实现跨模型KV缓存重用，显著降低推理延迟和时间到第一个token，提升多适配器任务的效率。

EVICPRESS: Joint KV-Cache Compression and Eviction for Efficient LLM Serving

EVICPRESS: 多存储层级的KV缓存联合压缩与驱逐以提高LLM服务效率

Shaoting Feng, Yuhan Liu, Hanchen Li, Xiaokun Chen, Samuel Shen, Kuntai Du, Zhuohan Gu, Rui Zhang, Yuyang Huang, Yihua Cheng, Jiayi Yao, Qizheng Zhang, Ganesh Ananthanarayanan, Junchen Jiang

机构 * University of Chicago（芝加哥大学） ； UC Berkeley（伯克利大学） ； Tensormesh, Inc.（Tensormesh公司） ； MIT（麻省理工学院） ； UC Santa Cruz（圣克拉拉大学） ； Stanford（斯坦福大学） ； Microsoft（微软公司） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EVICPRESS通过联合优化KV缓存压缩与驱逐策略，提高LLM服务效率，实现更低延迟和高质量生成。

EDGC: Entropy-driven Dynamic Gradient Compression for Efficient LLM Training

EDGC: 基于熵驱动的动态梯度压缩用于高效大语言模型训练

Qingao Yi, Jiaang Duan, Hanwen Hu, Qin Hua, Haiyan Zhao, Shiyou Qian, Dingyu Yang, Jian Cao, Jinghua Tang, Yinghao Yu, Chenzhi Liao, Kangjin Wang, Liping Zhang

机构 * University of Shanghai for Science and Technology（上海科学技术大学） ； Shanghai Jiao Tong University（上海交通大学） ； Zhejiang University（浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EDGC通过动态梯度压缩减少LLM训练的通信延迟和训练时间，提升效率的同时保持模型准确性。

Efficient Training-Free Online Routing for High-Volume Multi-LLM Serving

高吞吐量多LLM服务的高效无训练在线路由

Fangzhou Wu, Sandeep Silwal

机构 * University of Wisconsin–Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种无训练的高效在线路由算法，通过近似最近邻搜索和一次优化，提升多LLM服务的吞吐量、成本效率和整体性能。

Comments NeurIPS 2025

Uncertainty Distillation: Teaching Language Models to Express Semantic Confidence

不确定性蒸馏：教语言模型表达语义信心

Sophia Hager, David Mueller, Kevin Duh, Nicholas Andrews

机构 * Department of Computer Science（计算机科学系） ； Johns Hopkins University（约翰霍普金斯大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出不确定性蒸馏方法，通过微调使语言模型能准确表达语义信心，提升不确定性量化效果。

GFM-RAG: Graph Foundation Model for Retrieval Augmented Generation

基于图的检索增强生成模型：图基础模型

Linhao Luo, Zicheng Zhao, Gholamreza Haffari, Dinh Phung, Chen Gong, Shirui Pan

机构 * Monash University（墨尔本大学） ； Nanjing University of Science and Technology（南京理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； Griffith University（格里菲斯大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 GFM-RAG是一种基于图的检索增强生成模型，通过创新的图神经网络捕捉复杂查询-知识关系，实现了在未见数据集上的高效性能和泛化能力。

Comments Accepted by NeurIPS 2025

ThinkTrap: Denial-of-Service Attacks against Black-box LLM Services via Infinite Thinking

ThinkTrap: 通过无限思考对黑盒LLM服务发起拒绝服务攻击

Yunzhe Li, Jianan Wang, Hongzi Zhu, James Lin, Shan Chang, Minyi Guo

机构 * Shanghai Jiao Tong University（上海交通大学） ； Donghua University（东华大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 ThinkTrap是一种针对黑盒LLM服务的新型拒绝服务攻击方法，通过优化输入空间诱导无限生成，以最小token开销降低服务吞吐量甚至导致服务失败。

Comments This version includes the final camera-ready manuscript accepted by NDSS 2026

DP-LLM: Runtime Model Adaptation with Dynamic Layer-wise Precision Assignment

DP-LLM：基于动态层间精度分配的运行时模型适应

Sangwoo Kwon, Seong Hoon Seo, Jae W. Lee, Yeonhong Park

机构 * Seoul National University（首尔国立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 DP-LLM通过动态分配各层精度，优化设备端大语言模型的运行时性能与延迟权衡。

Comments NeurIPS 2025

LAET: A Layer-wise Adaptive Ensemble Tuning Framework for Pretrained Language Models

LAET: 一种用于预训练语言模型的分层自适应集成调优框架

Jawad Ibn Ahad, Muhammad Rafsan Kabir, Robin Krambroeckers, Sifat Momen, Nabeel Mohammed, Shafin Rahman

机构 * Artificial Intelligence Department, RobotBulls Labs（人工智能部门，RobotBulls实验室） ； Machine Intelligence Lab (MILab), North South University（机器智能实验室（MILab），北南大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

AI总结 LAET提出了一种分层自适应集成调优框架，通过选择性微调预训练语言模型的关键层，以提高金融NLP任务的性能并降低计算成本。

SLO-aware GPU Frequency Scaling for Energy Efficient LLM Inference Serving

具有SLO意识的GPU频率缩放用于能源高效的LLM推理服务

Andreas Kosmas Kakolyris, Dimosthenis Masouros, Petros Vavaroutsos, Sotirios Xydis, Dimitrios Soudris

机构 * ETH Zürich（苏黎世联邦理工学院） ； National Technical University of Athens（雅典国家技术大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 throttLL'eM通过预测KV缓存使用和批处理大小，利用机器学习模型减少GPU频率和实例规模，从而在满足SLOs的前提下降低LLM推理的能耗达43.8%并提升能效1.71倍。

TokenPowerBench: Benchmarking the Power Consumption of LLM Inference

TokenPowerBench：评估大语言模型推理的能耗基准

Chenxu Niu, Wei Zhang, Jie Li, Yongjian Zhao, Tongyang Wang, Xi Wang, Yong Chen

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 TokenPowerBench是首个用于评估大语言模型推理能耗的轻量可扩展基准，通过测量和分析不同设置对能效指标的影响，帮助用户优化能耗和可持续性。

Comments Accepted by the AAAI'26 Conference Main Track

iMAD: Intelligent Multi-Agent Debate for Efficient and Accurate LLM Inference

iMAD: 智能多智能体辩论用于高效准确的LLM推理

Wei Fan, JinYi Yoon, Bo Ji

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 iMAD通过智能触发多智能体辩论，高效减少令牌消耗并提升LLM推理准确性

Comments Accepted in AAAI 2026 (Oral)

Efficient LLM-Jailbreaking via Multimodal-LLM Jailbreak

通过多模态大语言模型 jailbreak 实现高效的 LLM-jailbreaking

Haoxuan Ji, Zheng Lin, Zhenxing Niu, Xinbo Gao, Gang Hua

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种通过多模态大语言模型实现高效 LLM-jailbreaking 的方法，结合图像-文本语义匹配提升攻击成功率，并在效率和泛化能力上优于现有方法。

PeerCoPilot: A Language Model-Powered Assistant for Behavioral Health Organizations

PeerCoPilot: 一种基于语言模型的助手法师，用于行为健康组织

Gao Mo, Naveen Raman, Megan Chai, Cindy Peng, Shannon Pagdon, Nev Jones, Hong Shen, Peggy Swarbrick, Fei Fang

机构 * Behavioral Health Organizations（心理健康组织） 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 PeerCoPilot是一种基于语言模型的助手，帮助行为健康组织的同伴提供者制定健康计划和目标，提高服务质量和效率。

Comments Accepted at IAAI'26

Efficient Multi-Hop Question Answering over Knowledge Graphs via LLM Planning and Embedding-Guided Search

通过LLM规划和嵌入引导搜索实现高效的多跳知识图谱问答

Manil Shrestha, Edward Kim

机构 * Department of Computer Science, Drexel University, Philadelphia, PA, USA（计算机科学系，德雷塞尔大学，费城，宾夕法尼亚州，美国） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出两种混合算法，通过LLM规划和嵌入引导搜索实现高效且可验证的多跳知识图谱问答，提升推理效率与准确性。

Xmodel-2.5: 1.3B Data-Efficient Reasoning SLM

Xmodel-2.5: 1.3B数据高效推理SLM

Yang Liu, Xiaolong Zhong, Ling Jiang

机构 * Xiaoduo AI Lab（小多人工智能实验室） 纠错

专题命中 效率与部署 ：SLM(title)；large language model(abstract)；language model(abstract)；small language model(abstract)

AI总结 Xmodel-2.5通过最大更新参数化和混合精度训练，实现了1.3B参数高效推理模型，提升下游任务性能。

FHE-Agent: Automating CKKS Configuration for Practical Encrypted Inference via an LLM-Guided Agentic Framework

FHE-Agent：通过LLM引导的代理框架自动化CKKS配置以实现实用的加密推断

Nuo Xu, Zhaoting Gong, Ran Ran, Jinwei Tang, Wujie Wen, Caiwen Ding

机构 * University of Minnesota -- Twin Cities（明尼苏达大学-双城分校） ； North Carolina State University（北卡罗来纳州立大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 FHE-Agent通过LLM引导的代理框架自动化CKKS配置，提升加密推断的精度与效率

Shadows in the Code: Exploring the Risks and Defenses of LLM-based Multi-Agent Software Development Systems

代码中的阴影：探索基于LLM的多智能体软件开发系统的风险与防御

Xiaoqing Wang, Keman Huang, Bin Liang, Hongyu Li, Xiaoyong Du

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了基于LLM的多智能体软件开发系统中的安全风险，提出IMBIA攻击及Adv-IMBIA防御机制，揭示了恶意智能体对软件开发过程的威胁及防御策略。

Comments Accepted by AAAI 2026 Alignment Track

Towards Efficient LLM-aware Heterogeneous Graph Learning

面向高效LLM-aware异构图学习

Wenda Li, Tongya Zheng, Shunyu Liu, Yu Wang, Kaixuan Chen, Hanyang Yuan, Bingde Hu, Zujie Ren, Mingli Song, Gang Chen

机构 * State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Zhejiang Lab（浙江实验室） ； College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Zhejiang Provincial Engineering Research Center for Real-Time SmartTech in Urban Security Governance, School of Computer and Computing Science, Hangzhou City University（浙江省实时智能城市安全治理工程技术研究中心，杭州城市大学计算机与计算科学学院） ； Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security, Hangzhou, Zhejiang, China（杭州高新技术区（滨江）区块链与数据安全研究院，杭州，浙江，中国） ； Nanyang Technological University（南洋理工大学） ； Bangsun Technology（邦sun科技） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ELLA框架，通过LLM-aware关系分词器和层次关系图变压器，高效解决异构图中复杂关系语义建模和任务间语义间隙问题，实现性能与效率的提升。

From Projection to Prediction: Beyond Logits for Scalable Language Models

从投影到预测：超越logits的可扩展语言模型

Jianbing Dong, Jianbin Chang

机构 * NVIDIA 纠错

专题命中 效率与部署 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种将输出投影与损失预测整合的方法，通过直接计算损失减少内存和带宽消耗，提升大型语言模型的训练效率和可扩展性。

Comments 17 pages, 2 figures, 4 algorithms