语言大模型 / LLM

Quotation-Based Data Retention Mechanism for Data Privacy in LLM-Empowered Network Services

基于引用的数据保留机制用于LLM赋能网络服务中的数据隐私

Bin Han, Di Feng, Zexin Fang, Jie Wang, Hans D. Schotten

机构 * RPTU University Kaiserslautern-Landau（凯泽斯劳滕-兰道大学） ； Dongbei University of Finance and Economics（东北财经大学） ； Tongji University（同济大学） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） 纠错

专题命中 效率与部署 ：LLM(title)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种迭代价格发现机制，使MNOs通过连续报价补偿用户数据保留，无需预先了解用户隐私偏好，有效提升网络生态的社会福利。

Comments Accepted by IEEE ICC 2026 WKSPS

HOG-Layout: Hierarchical 3D Scene Generation, Optimization and Editing via Vision-Language Models

HOG-Layout：通过视觉-语言模型实现层次化3D场景生成、优化与编辑

Haiyan Jiang, Deyu Zhang, Dongdong Weng, Weitao Song, Henry Been-Lirn Duh

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Beijing Institute of Technology（北京理工大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；large language model(abstract)

AI总结 HOG-Layout利用大语言模型和视觉-语言模型实现文本驱动的层次化3D场景生成、优化与实时编辑，通过检索增强生成技术提升语义一致性，结合优化模块增强物理一致性，实现高效场景编辑。

Comments CVPR 2026

Skill-SD: Skill-Conditioned Self-Distillation for Multi-turn LLM Agents

Skill-SD：基于多轮LLM代理的技能条件自蒸馏

Hao Wang, Guozhi Wang, Han Xiao, Yufeng Zhou, Yue Pan, Jichao Wang, Ke Xu, Yafei Wen, Xiaohu Ruan, Xiaoxin Chen, Honggang Qi

机构 * Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences（中国科学院大学杭州高等研究院） ； The Chinese University of Hong Kong（香港中文大学） ； University of Science and Technology of China（中国科学技术大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； vivo AI Lab（vivo AI实验室） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Skill-SD通过将代理自身轨迹转化为动态训练监督，结合重要加权反KL损失稳定训练，提升多轮LLM代理性能，实验显示优于标准RL和OPD方法。

Comments Project page: https://k1xe.github.io/skill-sd/

FS-DFM: Fast and Accurate Long Text Generation with Few-Step Diffusion Language Models

FS-DFM: 一种快速且准确的长文本生成方法：基于少步扩散语言模型

Amin Karimi Monsefi, Nikhil Bhendawade, Manuel Rafael Ciosici, Dominic Culver, Yizhe Zhang, Irina Belousova

机构 * The Ohio State University（俄亥俄州立大学） ； Apple（苹果公司） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 FS-DFM通过减少采样步骤数提升生成速度，同时保持生成质量，在语言模型基准测试中实现与传统扩散模型相当的性能，显著降低采样延迟和吞吐量。

Comments Accepted to ICLR 2026

Powerful Training-Free Membership Inference Against Autoregressive Language Models

针对自回归语言模型的强大无训练成员推断

David Ilić, David Stanojević, Kostadin Cvejoski

机构 * JetBrains Research（JetBrains 研究院） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出EZ-MIA方法，通过分析错误位置的概率偏差来检测细调语言模型的隐私风险，实验表明其在WikiText和AG News数据集上显著提高了检测率，为隐私审计提供了更有效的工具。

Comments 9 pages, 2 figures; appendix with additional experiments and derivations

Towards Efficient Large Vision-Language Models: A Comprehensive Survey on Inference Strategies

迈向高效的大型视觉-语言模型：关于推理策略的综合调查

Surendra Pathak, Bo Han

机构 * George Mason University（乔治梅森大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文综述了提升大型视觉语言模型推理效率的最新方法，从视觉token压缩、内存管理、架构设计和解码策略四个维度进行分类，并指出当前方法的局限性及未来研究方向。

Comments 12 pages

SWE-Shepherd: Advancing PRMs for Reinforcing Code Agents

SWE-Shepherd：推进基于强化学习的代码代理的PRMs

Mahir Labib Dihan, Md Ashrafur Rahman Khan

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出SWE-Shepherd框架，通过引入过程奖励模型为代码代理提供密集的步骤级监督，提升代码代理在大型代码库中的交互效率和动作质量。

Comments Code is available at https://github.com/mahirlabibdihan/swe-shepherd

HetRL: Efficient Reinforcement Learning for LLMs in Heterogeneous Environments

HetRL：异构环境下高效的大语言模型强化学习

Yongjun He, Shuai Zhang, Jiading Gai, Xiyuan Zhang, Boran Han, Bernie Wang, Huzefa Rangwala, George Karypis

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 本文提出HetRL系统，通过混合调度算法和整数线性规划方法，解决异构GPU环境下大语言模型强化学习的调度问题，实验表明其在吞吐量上优于现有系统。

Comments To appear at MLSys 2026

CAGenMol: Condition-Aware Diffusion Language Model for Goal-Directed Molecular Generation

CAGenMol：面向目标的扩散语言模型用于定向分子生成

Yanting Li, Zhuoyang Jiang, Enyan Dai, Lei Wang, Wen-Cai Ye, Li Liu

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Jinan University, Guangzhou（暨南大学（广州）） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.LG

AI总结 本文提出CAGenMol，一种条件感知的离散扩散框架，用于解决分子生成中异构约束冲突问题，通过结合扩散与强化学习提升生成效果。

UBio-MolFM: A Universal Molecular Foundation Model for Bio-Systems

UBio-MolFM：一种通用的分子基础模型用于生物系统

Lin Huang, Arthur Jiang, XiaoLi Liu, Zion Wang, Jason Zhao, Chu Wang, HaoCheng Lu, ChengXiang Huang, JiaJun Cheng, YiYue Du, Jia Zhang

机构 * IQuest Research 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI

AI总结 UBio-MolFM通过引入三种创新方法，解决了量子力学精度与生物规模之间的平衡问题，实现了对大规模生物分子系统的高精度模拟。

Introspective Diffusion Language Models

反思式扩散语言模型

Yifan Yu, Yuqing Jian, Junxiong Wang, Zhongzhu Zhou, Donglin Zhuang, Xinyu Fang, Sri Yanamandra, Xiaoxia Wu, Qingyang Wu, Shuaiwen Leon Song, Tri Dao, Ben Athiwaratkun, James Zou, Fan Lai, Chenfeng Xu

机构 * Together AI ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Princeton University（普林斯顿大学） ； Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文提出反思式扩散语言模型，通过引入反思性解码算法，在保持并行解码的同时继承自回归训练的反思一致性，实现了与同规模自回归模型相当的质量并优于先前扩散模型。

Data-Efficient Surgical Phase Segmentation in Small-Incision Cataract Surgery: A Controlled Study of Vision Foundation Models

小切口白内障手术中数据高效的手术阶段分割：视觉基础模型的受控研究

Lincoln Spencer, Song Wang, Chen Chen

机构 * Institute of Artificial Intelligence, University of Central Florida（中佛罗里达大学人工智能研究所） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.AI

AI总结 本文通过对比视觉表示模型，研究了小切口白内障手术中数据高效的手术阶段分割，发现基础模型在低标注医疗视频设置中具有良好的迁移能力。

On Harnessing Idle Compute at the Edge for Foundation Model Training

在边缘计算中利用空闲计算资源进行基础模型训练

Leyang Xue, Meghana Madhyastha, Myungjin Lee, Amos Storkey, Randal Burns, Mahesh K. Marina

机构 * The University of Edinburgh（爱丁堡大学） ； Johns Hopkins University（约翰霍普金斯大学） ； Cisco Research（思科研究院） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)；分类 cs.LG

AI总结 本文提出Cleave框架，通过利用边缘设备的异构计算资源，实现与云训练相媲美的性能，并在设备异构性和故障恢复方面取得显著优势。

Comments Extended abstract version of this paper appeared in ACM MobiCom 2025. Workshop version of this paper appeared in EuroMLSys 2026

StreamServe: Adaptive Speculative Flows for Low-Latency Disaggregated LLM Serving

StreamServe: 低延迟解耦大语言模型服务中的自适应推测流

Satyam Kumar, Arpit Singh Gautam, Kailash Talreja, Saurabh Jha

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 StreamServe通过结合计算通道的指标感知路由和自适应推测解码，平衡吞吐量和延迟，实现低延迟的大语言模型服务。

Mem$^2$Evolve: Towards Self-Evolving Agents via Co-Evolutionary Capability Expansion and Experience Distillation

Mem$^2$Evolve：通过共进化能力扩展与经验蒸馏实现自进化智能体

Zihao Cheng, Zeming Liu, Yingyu Shan, Xinyi Wang, Xiangrong Zhu, Yunpu Ma, Hongru Wang, Yuhang Guo, Wei Lin, Yunhong Wang

机构 * Beihang University（北京航空航天大学） ； Beijing Institute of Technology（北京理工大学） ； Independent Researcher（独立研究者） ； Munich Center for Machine Learning（慕尼黑机器学习中心） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Mem$^2$Evolve框架，通过共进化能力扩展与经验蒸馏实现自进化智能体，实验显示其在多个任务和基准上的性能显著优于传统方法。

Comments Accepted by ACL 2026 Main

MoEITS: A Green AI approach for simplifying MoE-LLMs

MoEITS: 一种简化MoE-LLM的绿色AI方法

Luis Balderas, Miguel Lastra, José M. Benítez

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出MoEITS算法，通过信息论框架简化MoE-LLM，降低计算和能耗，实验表明其在准确性和效率上优于现有方法。

Exploring Structural Complexity in Normative RAG with Graph-based approaches: A case study on the ETSI Standards

探索规范性RAG中的结构性复杂性：基于图的方法的案例研究——以ETSI标准为例

Aiman Al Masoud, Marco Arazzi, Simone Germani, Antonino Nocera

机构 * Department of Electrical, Computer and Biomedical Engineering, University of Pavia（帕维亚大学电气、计算机与生物医学工程系） ； Comitato Elettrotecnico Italiano (CEI)（意大利电工委员会（CEI）） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了基于图的方法在处理规范性文档中的有效性，通过ETSI标准案例研究，提出了一种专为规范性文档设计的RAG方法，以提升检索性能。

Comments 6 pages, 7 figures

DA-PTQ: Drift-Aware Post-Training Quantization for Efficient Vision-Language-Action Models

DA-PTQ：面向视觉-语言-动作模型的漂移感知后训练量化

Siyuan Xu, Tianshi Wang, Fengling Li, Lei Zhu, Heng Tao Shen

机构 * Tongji University（同济大学） ； University of Technology Sydney（悉尼科技大学） 纠错

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 本文提出DA-PTQ，通过跨空间表示补偿和运动驱动混合精度分配，解决视觉-语言-动作模型中因量化扰动导致的轨迹漂移问题，实现低比特下的高效部署。

Comments 13 pages, 6 figures

Winner-Take-All Spiking Transformer for Language Modeling

胜者全取型脉冲变换器用于语言建模

Chenlin Zhou, Sihang Guo, Jiaqi Wang, Dongyang Ma, Kaiwei Che, Baiyu Chen, Qingyan Meng, Zhengyu Ma, Yonghong Tian

专题命中 效率与部署 ：language model(title,abstract)

AI总结 本文提出胜者全取机制的脉冲变换器模块，用于解决传统softmax基脉冲自注意力机制在语言建模中的高能耗问题，通过端到端训练实现高效的自然语言处理。

Comments 15 pages

Combating the Memory Walls: Optimization Pathways for Long-Context Agentic LLM Inference

突破内存瓶颈：长上下文代理LLM推理的优化路径

Haoran Wu, Can Xiao, Jiayi Nie, Xuan Guo, Binglei Lou, Jeffrey T. H. Wong, Zhiwen Mo, Cheng Zhang, Przemyslaw Forys, Chengyang Ai, Timi Adeniran, Wayne Luk, Hongxiang Fan, Jianyi Cheng, Timothy M. Jones, Rika Antonova, Robert Mullins, Aaron Zhao

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 本文提出PLENA系统，通过新型架构和量化方案提升代理LLM推理性能，实现比A100 GPU和TPU v6e更高的吞吐量和能效。

Beyond Message Passing: A Semantic View of Agent Communication Protocols

超越消息传递：代理通信协议的语义视角

Dun Yuan, Fuyuan Lyu, Ye Yuan, Weixu Zhang, Bowei He, Jiayi Geng, Linfeng Du, Zipeng Sun, Yankai Chen, Changjiang Han, Jikun Kang, Xi Chen, Haolun Wu, Xue Liu

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文从人类视角出发，将代理通信分为通信、语法和语义三层，分析18种协议在可靠传输、结构交互和语义协调中的不足，提出改进方向，旨在构建更安全、语义稳固的代理生态系统。

EmoMAS: Emotion-Aware Multi-Agent System for High-Stakes Edge-Deployable Negotiation with Bayesian Orchestration

EmoMAS：面向高风险边缘部署谈判的基于情感的多智能体系统

Yunbo Long, Yuhan Liu, Liming Xu

机构 * University of Cambridge（剑桥大学） ； University of Toronto（多伦多大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；small language model(abstract)；分类 cs.AI

AI总结 本文提出EmoMAS，一种基于贝叶斯协调的多智能体框架，通过融合情感决策模型提升高风险谈判性能，同时在隐私敏感的边缘设备上实现高效部署。

Do We Still Need GraphRAG? Benchmarking RAG and GraphRAG for Agentic Search Systems

我们仍然需要GraphRAG吗？对RAG和GraphRAG在代理搜索系统中的基准测试

Dongzhe Fan, Zheyi Xue, Siyuan Liu, Qiaoyu Tan

机构 * New York University Shanghai（上海纽约大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文通过RAGSearch基准测试，评估了代理搜索系统对密集RAG和代表性的GraphRAG方法的影响，发现代理搜索显著提升了密集RAG性能，但在复杂多跳推理中GraphRAG仍具优势。

MARS: Unleashing the Power of Speculative Decoding via Margin-Aware Verification

MARS：通过边距感知验证释放推测解码的潜力

Jingwei Song, Xinyu Wang, Hanbin Wang, Xiaoxuan Lei, Bill Shi, Shixin Han, Eric Yang, Xiao-Wen Chang, Lynn Ai

机构 * The University of Hong Kong（香港大学） ； McGill University（麦吉尔大学） ； Peking University（北京大学） ； gradient ； Alibaba Cloud（阿里云） ； Mila ； SimpleWay 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 MARS通过边距感知验证策略提升LLM推理效率，无需额外训练，适应目标模型的决策稳定性，减少验证过程中的回滚成本，实验证明在不同模型规模上显著提升推理速度同时保持生成质量。

Comments 12 pages, 4 figures, 7 tables

Pyramid MoA: A Probabilistic Framework for Cost-Optimized Anytime Inference

金字塔MoA：一种用于成本优化的任何时间推断概率框架

Arindam Khaled

专题命中 效率与部署 ：LLM(abstract)；SLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Pyramid MoA框架，通过概率方法优化任何时间推断，实现高效查询路由和计算节省。

Comments 12 pages, 6 figures, 4 tables. v3: corrected router direction, added multi-benchmark context-aware escalation analysis, added Dean & Boddy and Horvitz citations

WaveTune: Wave-aware Bilinear Modeling for Efficient GPU Kernel Auto-tuning

WaveTune: 基于波的双线性建模用于高效的GPU内核自动调优

Kaixuan Zhang, Chutong Ding, Shiyou Qian, Luping Wang, Jian Cao, Guangtao Xue, Cheng Huang, Guodong Yang, Liping Zhang

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)

AI总结 WaveTune通过波感知的双线性建模方法，实现高效的GPU内核自动调优，减少运行时开销并提升性能，实现内核级速度提升和端到端TTFT减少。

Discourse Diversity in Multi-Turn Empathic Dialogue

多轮共情对话中的语篇多样性

Hongli Zhan, Emma S. Gueorguieva, Javier Hernandez, Jina Suh, Desmond C. Ong, Junyi Jessy Li

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Microsoft Research（微软研究院） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了大型语言模型在多轮共情对话中语篇策略的多样性问题，提出MINT框架通过强化学习提升对话多样性，显著提高共情效果并减少重复。

Bottleneck Tokens for Unified Multimodal Retrieval

瓶颈令牌用于统一多模态检索

Siyu Sun, Jing Ren, Zhaohe Liao, Dongxiao Mao, Xiangyuan Ren, Yiyi Zhang, Haohua Zhao, Weixiong Lin, Jiang Shaohua, Liqing Zhang, Yuchao Zheng

机构 * Shanghai Jiao Tong University（上海交通大学） ； ByteDance（字节跳动） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出瓶颈令牌和生成信息压缩方法，解决多模态大语言模型在统一检索中的隐式池化和对比微调问题，提升语义压缩效果。

CASK: Core-Aware Selective KV Compression for Reasoning Traces

CASK：面向推理轨迹的核心感知选择性KV压缩

Buseong Kim, Heejun Gwon

机构 * d’strict Korea（d’strict 韩国） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 CASK通过核心保护与选择性擦除策略优化推理轨迹的KV缓存，提升内存效率和推理稳定性，在AIME24和AIME25测试中优于TriAttention。

Comments 25 pages, 8 figures, 3 main tables, appendices included

Detecting RAG Extraction Attack via Dual-Path Runtime Integrity Game

通过双路径运行时完整性游戏检测RAG提取攻击

Yuanbo Xie, Yingjie Zhang, Yulin Li, Shouyou Song, Xiaokun Chen, Zhihan Liu, Liya Su, Tingwen Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院） ； Beijing University of Post and Telecommunications（北京邮电大学） ； Stanford University（斯坦福大学） ； North China Electric Power University（华北电力大学） ； AI Sec Lab, Beijing Chaitin Technology Co.,Ltd（北京长亭科技有限公司AI安全实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CanaryRAG，一种基于栈canary的运行时防御机制，通过双路径完整性游戏实时检测RAG知识库泄露，有效降低攻击成功率，不影响任务性能和延迟。

Comments Accepted by ACL 2026 Main