语言大模型 / LLM

Clustering and Token Denoising for Faster and More Robust VLMs

用于更快、更鲁棒的视觉语言模型（VLM）的聚类与令牌去噪

Baptiste Rossigneux, Inna Kucher, Vincent Lorrain, Emmanuel Casseau

机构 * Université Paris-Saclay（巴黎-萨克雷大学） ； Univ. Rennes（雷恩大学） ； Vsora（沃索拉公司） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；language model(abstract)；分类 cs.LG

AI总结 本研究提出无需训练的ClustRS算法，通过聚类与残差收缩剪枝VLM的视觉令牌，在基准测试中实现显著性能提升，为高效抗噪VLM部署提供新方案。

FlashAttention for Scalable Vector Architectures

面向可扩展向量架构的FlashAttention

Sonia Rani Gupta, Nikela Papadopoulou, Miquel Pericàs

机构 * Chalmers University of Technology（查尔姆斯理工大学） ； University of Glasgow（格拉斯哥大学） 纠错

专题命中 效率与部署 ：language model(abstract)；small language model(abstract)；分类 cs.LG

AI总结 本文提出面向可扩展向量架构的FlashAttention-V，将其集成到ggml并在多模型与平台上评估，该方法在预填充、解码阶段均实现显著加速，但Q8_0量化线性层的结构性瓶颈制约了长向量可扩展性。

Efficient INT8 Inference of Small NLP Models on Server CPUs with PyTorch Native Stack

基于PyTorch原生栈在服务器CPU上实现小型NLP模型的高效INT8推理

Weiwen Xia, Yuxin Cui, E Cao

机构 * Intel Corporation（英特尔公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究将SmoothQuant集成到TorchAO，优化PyTorch原生栈在服务器CPU上的INT8推理，使小型NLP模型获最高5.8倍吞吐量加速且精度损失可忽略，已上游到PyTorch和TorchAO便于部署。

Comments 13 pages

Delegation Asymmetry in Agentic Recommender Systems: Measuring Two-Sided Receptivity in Online Dating

智能体推荐系统中的委托不对称性：在线约会中的双边接受度测量

Daria Leshchikova, Valentina V. Kuskova, Dmitry Zaytsev, Valerii Klimov

机构 * Fleamily, Inc.（弗利米利公司） ； Lucy Family Institute for Data & Society（露西数据与社会研究所） ； University of Notre Dame（圣母大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对约会平台智能体推荐系统，开发测量双边智能体接受度的模型，发现存在委托不对称性，量化了相关倾向及设计杠杆，为智能体推荐设计提供启示。

BayesPrompt: human readable prompts that make sense

BayesPrompt：符合人类可读性且有意义的提示词

Franky Kevin Nando Tezoh, Ali Hussaini Umar, Alessandro Laio, Guido Sanguinetti, Riccardo Rende

机构 * Scuola Internazionale Superiore di Studi Avanzati (SISSA)（国际高等研究学院（SISSA）） ； Flatiron Institute（弗拉蒂伦研究所） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 针对提示词优化任务的不适定性，本文提出BayesPrompt算法，将提示词优化重定义为贝叶斯后验推断以生成可读提示词，在真实数据集上较当前最优方法有显著指标提升。

LEGO-RL: Harness-Native Reinforcement Learning for Coding Agents

LEGO-RL：利用原生强化学习实现编码智能体

Yiming Du, Yuxin Jiang, Tao Yuan, Jianbo Dai, Shaowei Wang, Jierun Chen, Chaofan Tao, Xianzhi Yu, Lifeng Shang, Kam-Fai Wong, Xiaohui Li, Haoli Bai

机构 * Huawei Technologies Co., Ltd（华为技术有限公司） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 LEGO-RL 是桥接原生编码智能体 harness 与策略梯度优化的框架，通过三大支柱解决训练不匹配问题，提升 Qwen3.5-35B-A3B 在三个编码基准上的性能，且保持高概率相关性。

Comments Webpage: https://lego-rl.pages.dev

Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets

Fair ASR：在共享目标调用预算下重新评估黑盒越狱攻击

Zhida He, Xiaoyu Wen, Han Qi, Ziyuan Zhou, Peng Yu, Jiajia Li, Chaochao Lu, Qiaosheng Zhang

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究提出Fair-ASR评估协议，重新评估11种黑盒越狱攻击，发现攻击排名随预算变化，进而提出ReCode攻击，在20次目标调用预算下于GPT-5实现85% ASR且效率优异。

Comments 29 pages, 8 figures, 13 tables. Code: https://github.com/xsddys/Fair-ASR

LAVA: Logic-Aware Validation and Augmentation Framework for Large-Scale Financial Document Auditing

LAVA：面向大规模财务文档审计的逻辑感知验证与增强框架

Ruoqi Shu, Xuhui Wang, Isaac Wang, Yanming Mai, Bo Wan

机构 * BMO Financial Group（蒙特利尔银行金融集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对财务文档验证的异构性与业务规则处理难题，提出基于多模态大语言模型的LAVA框架，通过四阶段设计提升幻觉控制与边缘案例处理能力，适用于高风险财务审计场景。

Journal ref Proceedings of The 10th Workshop on Financial Technology and Natural Language Processing (FinNLP 2025), Association for Computational Linguistics, pp. 75-92, 2025

RAGas: Retrieval-Augmented Gas Optimization for Smart Contracts with Continuous Knowledge Integration

RAGas：结合持续知识整合的智能合约检索增强型 Gas 优化

Yishun Wang, Wenjin Yi, Wenkai Li, Zongwei Li, Xiaoqi Li

机构 * School of Cyberspace Security, Hainan University（海南大学网络空间安全学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对智能合约 Gas 优化的需求，研究人员提出 RAGas 三阶段检索增强型生成框架，分析导致 Gas 过度使用的反模式，实验显示其可降低多达 11% 的 Gas 使用量，且检测精度和召回率较高。

Comments 14 pages, 3 figures

Evaluating Multimodal LLMs across Text and Audio Modalities for Accessible Disaster Assistance

评估面向无障碍灾害援助的跨文本与音频模态多模态大语言模型

Anuridhi Gupta, Samara Mansoor, Hemant Purohit

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文评估了开放权重多模态大语言模型在灾害援助场景下跨文本与音频模态的响应一致性，发现其存在模态依赖的不公平性，为构建公平的灾害沟通AI工具提供了设计建议。

Comments 8 pages, 3 figures

Efficient Block-Layer Parallel Inference for Vision-Language-Action on Hybrid Architectures

面向混合架构的视觉-语言-动作（VLA）高效块级并行推理

Haibo HU, Lianming Huang, Qiao Li, Nan Guan, Chun Jason Xue

机构 * City University of Hong Kong（香港城市大学） ； Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对VLA模型部署于车载平台的延迟与内存压力问题，提出混合CPU-GPU推理框架，通过块级划分实现资源调度，在Bench2Drive数据集及实车部署中均取得性能提升。

MAG: MAnifold Guided Semi-Supervised Multi-modal In-Context Learning

MAG：流形引导的半监督多模态上下文学习

Zirui Cheng, Xun Xu, Tiankai Chen, Fady Rezk, Bowen Zheng, Xiaodong Shi, Shijie Li, Kangkang Lu, Bharadwaj Veeravalli, Nancy F. Chen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本研究提出MAG框架，通过将未标记多模态数据用于半监督传播的演示选择，提升多模态大语言模型的上下文学习性能，在8个基准的标签稀缺场景下优于强基线。

On the Structural Limits of Machine Learning Decision Systems: An Information-Theoretic, Interaction-Based, and Stochastic-Dynamical Perspective

机器学习决策系统的结构极限：基于信息论、交互与随机动力学的视角

Nestor R. Barraza, Gabriel Pena

机构 * Universidad Nacional de Tres de Febrero（国立三 Febrero 大学） ； Universidad de Buenos Aires（布宜诺斯艾利斯大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 本研究从信息论等视角分析机器学习决策系统的结构极限，通过Fano型边界等方法推导分类与参数估计的性能极限，指出合适的数据模型是拓展预测能力的前提。

Journal ref JAIIO 2026

AWARe: Mitigating Catastrophic Forgetting via Activation-Weighted Adaptive REtention

AWARe：基于激活加权的自适应保留缓解灾难性遗忘

Juncheng Liao, Jinfan Lv, Guoming Wang, Jupeng Zheng, Ling Xiao, Siliang Tang

机构 * School of Software Technology, Zhejiang University（浙江大学软件学院） ； College of Intelligent Robotics and Advanced Manufacturing, Fudan University（复旦大学智能机器人与先进制造学院） ； School of Artificial Intelligence, Sun Yat-Sen University（中山大学人工智能学院） ； Graduate School of Information Science, Hokkaido University（北海道大学信息科学研究院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对多模态大语言模型微调时的灾难性遗忘问题，提出无需修改架构的AWARe方法，通过激活加权控制参数更新，在保留上游能力的同时提升下游性能。

Learning from Online User Feedback for Shopping Agents

从在线用户反馈中学习购物智能体

Haobo Zhang, Kelong Mao, Sulong Xu, Simiu Gu, Zhicheng Dou

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出LOFA框架，结合强化学习与反馈感知的策略内蒸馏，利用真实在线用户反馈改进购物智能体，在电商日志实验中提升了推荐质量、回复有用性及用户满意度对齐效果。

A Gateway Architecture for Enterprise MCP Authentication: Unifying Heterogeneous Auth, Identity Delegation, and the User / Non-User Persona Problem

企业MCP认证的网关架构：统一异构认证、身份委托与用户/非用户角色问题

Suraj Kumar, Amy Wang, Srinivasan Manoharan

机构 * Enterprise AI Platform Engineering（企业人工智能平台工程） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出一种集中式MCP网关架构，通过双轴认证模型、多SSO授权与令牌供应模式、三类身份流及部署演进方案，解决企业MCP认证碎片化问题，已在数十个MCP服务器场景投入生产。

Mitigating Context Interference for Reliable and Efficient Search Agents

缓解可靠高效搜索智能体的上下文干扰

Boyang Xue, Bin Wu, Shuofei Qiao, Sheng Wang, Rui Wang, Yiming Du, Hongru Wang, Jeff Z. Pan, Emine Yilmaz, Kam-Fai Wong, Aldo Lipani

机构 * The Chinese University of Hong Kong（香港中文大学） ； University College London（伦敦大学学院） ； Zhejiang University（浙江大学） ； The University of Hong Kong（香港大学） ； The University of Edinburgh（爱丁堡大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文针对多轮搜索智能体的上下文干扰问题，提出基于蒸馏的上下文优化器，将其纳入RL训练后可显著提升搜索智能体的可靠性与效率，开创了AI智能体“先优化上下文再生成”的新范式。

Motif 3: Technical Report

Motif 3：技术报告

Junghwan Lim, Joon Son Chung, Sungmin Lee, Wai Ting Cheung, Gihun Cho, Minsu Ha, Sangho Kang, Beomgyu Kim, Dongseok Kim, Jangwoong Kim, Taehyun Kim, Taewhan Kim, Jeesoo Lee, Jeongdoo Lee, Junhyeok Lee, Dongpin Oh, Hyeyeon Cho, Dahye Choi, Jaeheui Her, Hanbin Jung, Changjin Kang, Minjae Kim, Youngrok Kim, Hyukjin Kweon, Hongjoo Lee, Yeongjae Park, Bokki Ryu

机构 * Motif Technologies（Motif科技公司） 纠错

专题命中 效率与部署 ：language model(abstract)；post-training(abstract)；分类 cs.AI

AI总结 本研究推出仅解码器的MoE语言模型Motif 3，采用GDLA等技术，经万亿token预训练及多阶段后训练，在长上下文、推理等任务上性能与领先开源模型相当。

Deferred Audio Pruning with Local Audio-Visual Dynamics for Omni-LLMs

面向全模态大语言模型（Omni-LLMs）的基于局部视听动态的延迟音频剪枝方法

Kyeongyoon Lee, Hongyeob Kim, Youngeun Kim, Sungeun Hong

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 针对全模态大语言模型的高开销问题，提出两阶段框架A-PACK，利用局部视听动态延迟音频剪枝，在Qwen2.5-Omni基准上实现性能最优，同时大幅降低预填充开销并提升解码吞吐量。

RoRA: Role-Oriented Regional Allocation for Visual Token Pruning in MLLMs

RoRA：面向角色的区域分配，用于多模态大语言模型中的视觉令牌剪枝

Qiyanhui Lu, Han Wu, Rongjian Xu, Tingzhang Luo, Cheng Fan, Xinghao Chen, Minjing Dong, Jufeng Yang, Jianyuan Guo

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究针对多模态大语言模型视觉令牌剪枝的高开销问题，提出无训练框架RoRA，通过角色导向的区域分配实现高效剪枝，在多个模型系列上优于基线，大幅降低推理时间且保留高准确率。

Comments 9 pages, 4 figures, 4 tables. Code is available at https://github.com/LukieLuu/RoRA

Characterizing the Quality Profile of AI-Generated C++ in Production

刻画生产环境中AI生成C++代码的质量特征

Michael Tran, Fred Lewis, Kun Yang, Saksham Thakur, Aditya Kini, Aditya Patil, Milad Hashemi, Parthasarathy Ranganathan

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 通过对大型企业2025-2026年352万次代码变更的分析，发现AI生成C++代码质量特征与人类代码不同，针对性反馈可降低其静态分析警告并提升效率。

Comments 21 pages, 5 figures, 6 tables

Learning to Predict Middle-Layer Attention in MLLMs for Visual Token Prunin

学习在多模态大语言模型（MLLMs）中预测中间层注意力以进行视觉token剪枝

Yuyao Sun, Tao Deng, Shuang Li, Deqing Wang, Hao Geng, Minjun Yu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对MLLMs视觉token剪枝的固定层非最优及计算成本高的问题，提出MAP方法，实现仅保留5.56%视觉token时维持97.5%性能，获3.09倍端到端加速。

Subliminal Learning is Non-Semantic Distillation

阈下学习（Subliminal Learning, SL）是非语义知识蒸馏

Ethan Hadley, Eren Gultepe

专题命中 效率与部署 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 该研究探究阈下学习（SL）的机制，发现非语义权重结构是关键，引导向量可生成阈下数据，相关梯度或助力数据审计，凸显识别训练数据潜在信号的重要性。

Comments Accepted as spotlight paper for the ICML 2026 Mechanistic Interpretability Workshop

DBLAST: Dependent Block Drafting for Stochastic Speculative Decoding

DBLAST：面向随机投机解码的依赖块草稿生成

Amirmohammad Karimi, Chao Gao, Negar Hassanpour

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文针对块扩散草稿模型在高熵投机解码下可接受草稿长度下降的问题，提出DBLast依赖块草稿模型，在多基准测试中相比独立块采样稳定提升可接受长度。

Search2Skill: Skill Distillation Beyond Knowledge Boundaries Via Rubric-Based Reinforcement Learning

Search2Skill：基于 rubric 强化学习的、突破知识边界的技能蒸馏

Muyang Ye, Tian Lan, Feihu Jiang, Yongshi Ye, Wuyunsiqin, Bin Zhu, Qianghuai Jia, Zhao Xu, Weihua Luo, Ye Wang, Jinyang Zhang, Longyue Wang, Lingfeng Bao

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对现有技能构建受限于模型已有知识的问题，提出Search2Skill框架，通过基于rubric的强化学习实现外部证据蒸馏为可复用技能，在多领域实验中优于基线且技能可跨模型规模迁移。

Architectural Implications of Agentic AI Workflows

智能体AI工作流的架构影响

Jirong Yang, Peizhe Liu, Chaojie Zhang, Jovan Stojkovic

机构 * Microsoft Azure（微软Azure） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究通过生产与受控研究分析智能体AI工作流的架构特性，揭示传统服务器的不匹配问题，提出Agora原型优化资源利用与吞吐量，为未来服务器架构指明方向。

AutoSND: From Execution Evidence to Structural Policies for Automated Network Dismantling Heuristic Discovery

AutoSND：从执行证据到结构策略的自动网络拆解启发式发现方法

Zhijing Hu, Changjun Fan, Yufan Deng, Zhiguang Cao

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 AutoSND是一种三阶段树搜索框架，通过将执行证据转化为结构策略，在真实网络上发现了更优的网络拆解启发式方法，性能与稳定性更佳且结构可解释。

Don't Let Me Ask for It: LLMs Show Deficiencies in Active Multi-Turn Information Acquisition for Abductive Inference

别让我主动索要：大语言模型在用于溯因推理的主动多轮信息获取中存在缺陷

Shahrukh Mohiuddin, Chalamalasetti Kranti, Sherzod Hakimov, David Schlangen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究通过Alien Abduction游戏探究LLMs的主动多轮信息获取能力，发现其在分轮提供证据、自行选择查询时表现欠佳，存在假设验证与停止决策的缺陷。

Comments Preprint

TaskPress: Query-Agnostic KV Cache Compression via Task-Guided Pruning

TaskPress：基于任务引导剪枝的查询无关键值缓存压缩

Wonpyo Park, Seung-won Hwang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 TaskPress是一种基于任务引导剪枝的查询无关KV缓存压缩框架，通过任务引导构建可复用缓存，在长上下文任务上实现了紧凑缓存的高效生成。

The Agent Operating System (AOS): A Reference Operating Architecture for Distributed Agentic Systems

智能体操作系统（AOS）：分布式智能体系统的参考操作架构

Ankur Sharma, Deep Shah

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出智能体操作系统（AOS），作为分布式智能体系统的参考操作架构，用于管控异构组件以构建可管控、可靠、可观测且互操作的智能体系统。