语言大模型 / LLM

Breaking the Protocol: Security Analysis of the Model Context Protocol Specification and Prompt Injection Vulnerabilities in Tool-Integrated LLM Agents

打破协议：模型上下文协议规范的安全分析及工具集成LLM代理中的提示注入漏洞

Narek Maloyan, Dmitry Namiot

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文分析了模型上下文协议的安全漏洞，提出MCPSec协议扩展以提升安全性，减少攻击成功率。

BPMN Assistant: An LLM-Based Approach to Business Process Modeling

BPMN助手：基于大语言模型的业务流程建模方法

Josip Tomo Licardo, Nikola Tankovic, Darko Etinger

机构 * Faculty of Informatics（信息学院） ； Juraj Dobrila University of Pula（朱拉·多布里拉大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 BPMN助手通过基于JSON的中间表示和大语言模型，提升BPMN图编辑效率与可靠性

Comments 22 pages, 5 figures

LR-DWM: Efficient Watermarking for Diffusion Language Models

LR-DWM: 用于扩散语言模型的高效水印技术

Ofek Raban, Ethan Fetaya, Gal Chechik

机构 * Bar-Ilan University（巴伊兰大学） ； NVIDIA（英伟达） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 LR-DWM是一种用于扩散语言模型的高效水印技术，通过利用左右邻居信息偏移生成令牌，实现低开销的高可检测性水印方案。

Comments Submitted to ACL Rolling Review (ARR). 7 pages, 4 figures

Quantization Error Propagation: Revisiting Layer-Wise Post-Training Quantization

量化误差传播：重新审视分层后训练量化

Yamato Arai, Yuma Ichikawa

机构 * Fujitsu Limited（富士通有限公司） ； Department of Basic Science（基础科学系） ； The University of Tokyo（东京大学） ； RIKEN center for AIP（理化学研究所AIP中心） 纠错

专题命中 效率与部署 ：post-training(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出QEP框架，通过显式传播量化误差以提升分层后训练量化在低比特下的性能。

Comments 29 pages, 3 figures, Accepted at NeurIPS 2025

Overcoming the Retrieval Barrier: Indirect Prompt Injection in the Wild for LLM Systems

突破检索障碍：为LLM系统设计的野外间接提示注入

Hongyan Chang, Ergute Bao, Xinjian Luo, Ting Yu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究提出了一种高效且低成本的黑盒攻击算法，通过分解恶意内容为触发片段和攻击片段，实现了对LLM系统的间接提示注入攻击，揭示了检索过程中存在的关键安全漏洞。

CyberGFM: Graph Foundation Models for Lateral Movement Detection in Enterprise Networks

CyberGFM：用于企业网络横向移动检测的图基础模型

Isaiah J. King, Bernardo Trindade, Benjamin Bowman, H. Howie Huang

机构 * Cybermonic LLC（Cybermonic公司） ； The George Washington University（乔治·华盛顿大学） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；language model(abstract)；分类 cs.LG

AI总结 CyberGFM通过结合随机游走方法的效率和深度学习的语义表示，实现了网络异常检测的高效检测。

Comments 17 pages; 11 figures; 8 tables

FLRQ: Faster LLM Quantization with Flexible Low-Rank Matrix Sketching

FLRQ: 更快的LLM量化方法与灵活的低秩矩阵草图

Hongyaoxing Gul, Lijuan Hu, Shuzi Niu, Fangfang Liu

专题命中 效率与部署 ：LLM(title)；language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 FLRQ通过灵活的低秩矩阵草图技术，快速确定最优秩并提高LLM量化的效率和质量。

DNATokenizer: A GPU-First Byte-to-Identifier Tokenizer for High-Throughput DNA Language Models

DNATokenizer: 一种面向高吞吐量DNA语言模型的GPU优先字节到标识符分词器

Eliatan Niktab, Hardip Patel

专题命中 效率与部署 ：language model(title,abstract)；foundation model(abstract)；分类 cs.LG

AI总结 DNATok是一种高效的GPU优先分词系统，通过字节查找表和重叠H2D管道加速DNA语言模型的分词过程，显著提升编码和传输吞吐量。

Breaking AR's Sampling Bottleneck: Provable Acceleration via Diffusion Language Models

突破生成模型的采样瓶颈：通过扩散语言模型实现可证明的加速

Gen Li, Changxiao Cai

机构 * Department of Statistics and Data Science, Chinese University of Hong Kong, Hong Kong（统计与数据科学系，香港中文大学） ； Department of Industrial and Operations Engineering, University of Michigan, Ann Arbor, USA（工业与运营管理系，密歇根大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.LG

AI总结 本文从信息论角度为扩散语言模型提供收敛保证，证明采样误差随迭代次数减少而降低，从而突破自回归模型所需的L步瓶颈，为生成高质量样本提供理论支持。

Comments This is the full version of a paper published at NeurIPS 2025

PackKV: Reducing KV Cache Memory Footprint through LLM-Aware Lossy Compression

PackKV: 通过LLM-aware的有损压缩减少KV缓存内存占用

Bo Jiang, Taolue Yang, Youyuan Liu, Xubin He, Sheng Di, Sian Jin

机构 * Temple University（特伦大学） ； Argonne National Laboratory（阿贡国家实验室） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 PackKV通过LLM-aware的有损压缩技术，显著减少KV缓存内存占用并提升计算效率。

Adversarial Contrastive Learning for LLM Quantization Attacks

对抗对比学习用于大语言模型量化攻击

Dinghong Song, Zhiwei Xu, Hai Wan, Xibin Zhao, Pengfei Su, Dong Li

机构 * Tsinghua University（清华大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出对抗对比学习方法，通过最大化良性与有害响应概率差距，有效提升大语言模型量化攻击的成功率。

Comments 14 pages, 5 figures

LoRA-Drop: Temporal LoRA Decoding for Efficient LLM Inference

LoRA-Drop：用于高效LLM推理的时序LoRA解码

Hossein Rajabzadeh, Maryam Dialameh, Chul B. Park, Il-Min Kim, Hyock Ju Kwon

机构 * University of Waterloo（滑铁卢大学） ； University of Toronto（多伦多大学） ； Queen’s University（皇后大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 LoRA-Drop通过时序计算计划和低秩LoRA校正，实现高效LLM推理，提升解码速度2.6倍并减少45-55%的KV缓存占用。

CD4LM: Consistency Distillation and aDaptive Decoding for Diffusion Language Models

CD4LM：一致性蒸馏与自适应解码用于扩散语言模型

Yihao Liang, Ze Wang, Hao Chen, Ximeng Sun, Jialian Wu, Xiaodong Yu, Jiang Liu, Emad Barsoum, Zicheng Liu, Niraj K. Jha

机构 * Princeton University（普林斯顿大学） ； Advanced Micro Devices, Inc（先进微器件公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 CD4LM通过一致性蒸馏和自适应解码提升扩散语言模型的并行解码效率与生成质量。

Comments 33 pages, 7 figures

Exposing Hidden Interfaces: LLM-Guided Type Inference for Reverse Engineering macOS Private Frameworks

揭示隐藏接口：LLM引导的类型推断用于macOS私有框架逆向工程

Arina Kharlamova, Youcheng Sun, Ting Yu

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MOTIF通过LLM引导的类型推断技术，显著提升了对macOS私有框架的逆向工程能力，实现了更高的签名恢复率和更稳定的推断结果。

Comments IEEE S&P'26 under review

WeDLM: Reconciling Diffusion Language Models with Standard Causal Attention for Fast Inference

WeDLM：弥合扩散语言模型与标准因果注意力以实现快速推理

Aiwei Liu, Minghua He, Shaoxun Zeng, Sijun Zhang, Linhao Zhang, Chuhan Wu, Wei Jia, Yuan Liu, Xiao Zhou, Jie Zhou

机构 * WeChat AI, Tencent（腾讯微信AI） ； Peking University（北京大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 WeDLM通过使用标准因果注意力实现高效并行解码，显著提升推理速度，优于优化的AR引擎。

Comments 23 pages, 8 figures, project page: https://wedlm.github.io/

SpidR: Learning Fast and Stable Linguistic Units for Spoken Language Models Without Supervision

SpidR：无需监督学习快速稳定的语言单元用于语音语言模型

Maxime Poli, Mahi Luthra, Youssef Benchekroun, Yosuke Higuchi, Martin Gleize, Jiayi Shen, Robin Algayres, Yu-An Chung, Mido Assran, Juan Pino, Emmanuel Dupoux

机构 * ENS-PSL, EHESS, CNRS（ENS-PSL、EHESS、CNRS） ； FAIR at Meta（Meta的FAIR） 纠错

专题命中 效率与部署 ：language model(title,abstract)；pretraining(abstract)；分类 cs.CL

AI总结 SpidR通过自监督学习高效语音表示，提升无监督语音语言建模性能，减少预训练时间

Comments Published in Transactions on Machine Learning Research. 30 pages, 16 figures

BitRL-Light: 1-bit LLM Agents with Deep Reinforcement Learning for Energy-Efficient Smart Home Lighting Optimization

BitRL-Light: 1位LLM代理结合深度强化学习用于节能智能家庭照明优化

Ravi Gupta, Shabista Haider

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 BitRL-Light利用1位量化LLM与深度强化学习，在边缘设备上实现智能家庭照明优化，达到显著能耗降低和高用户满意度。

Comments Presented as poster in IPCCC 2025 at Austin

A Comparative Study of Light-weight Language Models for PII Masking and their Deployment for Real Conversational Texts

轻量语言模型在PII遮蔽中的比较研究及其在真实对话文本中的部署

Prabigya Acharya, Liza Shrestha

机构 * IOE, Pulchowk Campus（理工学院，普尔乔克校区） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 本文比较了轻量级语言模型在PII遮蔽中的性能，发现Mistral在F1和召回率上表现更优，但T5在实时对话中更高效且可控。

Compression is Routing: Reconstruction Error as an Intrinsic Signal for Modular Language Models

压缩即路由：重构误差作为模块化语言模型的内在信号

Zhongpan Tang

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.LG

AI总结 本文提出'压缩即路由'架构，通过端到端Transformer自编码器实现序列压缩，利用重构误差作为内在信号，提升领域辨别能力并简化路由机制。

LLMs on Drugs: Language Models Are Few-Shot Consumers

Alexander Doudkin

机构 * HFBK Hamburg（汉堡应用技术大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

Comments 8 pages, 2 figures, 2 tables

Dual-Density Inference for Efficient Language Model Reasoning

双密度推理用于高效语言模型推理

Zhengyi Zhao, Shubo Zhang, Yuxi Zhang, Huimin Wang, Binyang Li, Kam-Fai Wong

机构 * The Chinese University of Hong Kong（香港中文大学） ； University of International Relations（国际关系大学） ； Shenzhen University（深圳大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.CL

AI总结 Denser通过双密度推理框架，优化语言模型在推理和回答阶段的信息密度，减少token消耗达62%，提升复杂推理任务的效率。

Astraea: A State-Aware Scheduling Engine for LLM-Powered Agents

Astraea：一种面向LLM代理的基于状态的调度引擎

Hongqiu Ni, Jiabao Zhang, Guopeng Li, Zilong Wang, Ruiqi Wu, Chi Zhang, Haisheng Tan

机构 * University of Science and Technology of China（中国科学技术大学） ； Hefei University of Technology（合肥工业大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Astraea通过基于状态的分层调度算法优化LLM代理的全局作业完成时间，减少端到端延迟并提升系统效率与公平性。

Comments 12 pages, 8 figures

Lethe: Layer- and Time-Adaptive KV Cache Pruning for Reasoning-Intensive LLM Serving

Lethe：面向推理密集型大语言模型服务的层和时间自适应KV缓存剪枝

Hui Zeng, Daming Zhao, Pengfei Yang, WenXuan Hou, Tianyang Zheng, Hui Li, Weiye Ji, Jidong Zhai

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 Lethe通过引入时空自适应的KV缓存管理框架，在推理密集型大语言模型服务中实现高效的缓存剪枝，提升吞吐量的同时保持生成质量。

Comments aaai26 camera-ready version, 10 pages

Towards Privacy-Preserving Code Generation: Differentially Private Code Language Models

面向隐私保护的代码生成：差分隐私代码语言模型

Melih Catal, Pooja Rani, Harald C. Gall

机构 * University of Zurich（苏黎世大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)；分类 cs.AI

AI总结 本文提出在代码语言模型中应用差分隐私以缓解记忆风险，同时保持代码生成能力，验证了DP在隐私保护中的有效性。

Jupiter: Enhancing LLM Data Analysis Capabilities via Notebook and Inference-Time Value-Guided Search

木星：通过笔记本和推理时的价值引导搜索增强大语言模型的数据分析能力

Shuocheng Li, Yihao Liu, Silin Du, Wenxuan Zeng, Zhe Xu, Mengyu Zhou, Yeye He, Haoyu Dong, Shi Han, Dongmei Zhang

机构 * Microsoft（微软） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Jupiter通过将数据分析建模为搜索问题，并结合价值模型和节点访问次数，提升大语言模型在多步推理和工具使用方面的性能。

Comments Accepted to AAAI 2026 (Main Technical Track)

PARD: Accelerating LLM Inference with Low-Cost PARallel Draft Model Adaptation

PARD：通过低成本并行草稿模型适应加速大语言模型推理

Zihao An, Huajun Bai, Ziqiong Liu, Dong Li, Emad Barsoum

机构 * Advanced Micro Devices, Inc.（先进微器件公司） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 PARD通过低成本并行草稿模型适应技术，显著提升大语言模型推理速度，实现3.67倍加速。

Comments Submitted for possible publication

Scaling LLM Speculative Decoding: Non-Autoregressive Forecasting in Large-Batch Scenarios

扩展大语言模型推测解码：在大批次场景中的非自回归预测

Luohe Shi, Zuchao Li, Lefei Zhang, Baoyuan Qi, Guoming Liu, Hai Zhao

专题命中 效率与部署 ：LLM(title,abstract)；language model(abstract)；分类 cs.CL

AI总结 SpecFormer通过整合单向和双向注意力机制，实现大批次场景下的高效LLM推理，降低训练和计算成本。

Comments accepted by AAAI-2026

AttackPilot: Autonomous Inference Attacks Against ML Services With LLM-Based Agents

AttackPilot: 基于大语言模型的自主推断攻击对抗ML服务

Yixin Wu, Rui Wen, Chi Cui, Michael Backes, Yang Zhang

机构 * CISPA Helmholtz Center for Information Security（CISPA 欧洲信息安全中心） ； Institute of Science Tokyo（东京科学研究所） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 AttackPilot利用大语言模型开发自主代理，实现无需人工干预的推断攻击，展现高任务完成率和低成本，有效提升非专家对ML服务风险评估的能力。

SlimInfer: Accelerating Long-Context LLM Inference via Dynamic Token Pruning

SlimInfer: 通过动态令牌修剪加速长上下文LLM推理

Lingkun Long, Rubing Yang, Yushi Huang, Desheng Hui, Ao Zhou, Jianlei Yang

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SlimInfer通过动态令牌修剪技术，显著提升了长上下文LLM推理速度和效率，实现了性能与延迟的双重优化。

Selective Risk Certification for LLM Outputs via Information-Lift Statistics: PAC-Bayes, Robustness, and Skeleton Design

Sanjeda Akter, Ibne Farabi Shihab, Anuj Sharma

机构 * Department of Computer Science Iowa State University（计算机科学系爱荷华州立大学） ； Department of Civil, Construction and Environmental Engineering Iowa State University（土木、建设与环境工程系爱荷华州立大学） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG