语言大模型 / LLM

PACE: Adaptive Budget Allocation for Time-Efficient Embodied Planning

PACE：面向时间高效具身规划的自适应预算分配

Yuchen Huang, Xijiang Ying, Zhenhua Ma, Xiaxiang Yuan, Zhijie Gao, Jiayi Huang, Ruichi Mao, Jiazheng Zhang, Hongsheng Ti, Maotao Tian, Rong Shi, Lu Zhao, Shizhuang Zhang, Zhuo Cui, He Wang, Ling Liu, Wei Zhang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 PACE框架通过交错式思考-执行架构和动态预算分配器，在Robotouille基准测试中较ReAct+Think基线提升规划成功率，同时大幅减少推理时间，实现具身规划的时间效率与质量同步提升。

Inverted Detection and Control in Steering Vectors

转向向量中的反向检测与控制

Max Torop, Aria Masoomi, Jennifer Dy

机构 * Northeastern University（东北大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究发现大型语言模型的反向转向向量（ISVs）会产生与预期相反的转向效果，提出无需生成即可区分ISVs的方法，通过推理时干预改进转向流程，在多数实验中提升了效果。

MedSAM2-Anatomy: Training-Free Inference-Time Optimization for Musculoskeletal Segmentation

MedSAM2-Anatomy：面向肌肉骨骼分割的无训练推理时优化方法

John Garcia Henao, Nicholas Bünger, Benedikt Herzog, Cindy Guerrero Toro, Benjamin Vella, Matthias Biner, Rico Brütsch, Carmen Castroviejo Fernandez, Felix Öttl, Norman Juchler, Armando Hoch, Bettina Hochreiter, Sven Hirsch, Sebastiano Caprara

机构 * Balgrist University Hospital（巴尔格里斯特大学医院） ； Zurich University of Applied Sciences (ZHAW)（苏黎世应用科技大学） 纠错

专题命中 效率与部署 ：foundation model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 MedSAM2-Anatomy是一种无训练的推理时优化框架，通过融合专家模型生成的自动解剖提示，提升冻结分割模型的髋部、肩部肌肉骨骼分割性能，无需人工提示或模型重训。

Comments Original research manuscript (13 pages, 4 figures, 2 tables). No prior publication

From Chains to Trees: Parent-Conditioned Drafting for Semi-Autoregressive Speculative Decoding

从链到树：用于半自回归投机解码的父条件生成方案

Zixian Li, Tong Li, Chi Xie, Xiaohui Song, Haonan Lu

机构 * OPPO AI Center（OPPO人工智能中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 该研究针对半自回归生成器DSpark的线性生成缺陷，提出父条件生成树（PCTree），通过为每个父节点生成多分支候选序列分配验证预算，在Qwen3系列模型及9个基准上显著提升了投机解码的推理加速效果。

Effective and Efficient Context Retrieval via Partial Dependency Graph for Repository-Level Code Generation

基于部分依赖图的高效上下文检索用于仓库级代码生成

Zhongxin Liu, Zhonghao Jiang, Zhifan Ye, Haoye Wang, Jiakun Liu, Xiaoxue Ren

机构 * Zhejiang University（浙江大学） ； Hangzhou City University（杭州城市大学） ； Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对仓库级代码生成中RAG方法的不足，提出基于部分依赖图的DyRetriever，构建DyCoder并在CoderEval、DevEval上取得显著性能提升且效率更高。

Comments Accepted by ASE 2026

PCSD: Persistent Consistency for Self-Distillation in Agentic Reinforcement Learning

PCSD：智能体强化学习中自蒸馏的持久一致性

Chunji Lv, Yangguang Wei, Junlin Liu, Yang Gao, Ming Liu, Xinming Wang, Jinyang Wu, Guoren Wang, Changsheng Li

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对智能体强化学习中奖励稀疏问题，提出PCSD方法，通过持久一致性推导蒸馏权重，结合GRPO优化，在ALFWorld等基准上取得优于GRPO、SDAR的性能。

Rethinking Video Token Compression with a Global Codebook: Learning Once, Compressing Everywhere

重新思考基于全局码本的视频令牌压缩：一次学习，处处压缩

Jiayang He, Tianling Xu, Diancheng Kang, Huaide Jiang, Junyan Bai, Shaoming Zheng, Xuan Song

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究提出即插即用框架ONCE，通过离线学习全局码本实现视频令牌的高效压缩，在保持性能的同时降低推理延迟，提升了视频大语言模型的效率与通用性。

FinHardBench: Can LLMs Generate Latency-Aware Hardware for Financial Computing?

FinHardBench：大语言模型能否生成面向金融计算的延迟感知硬件？

Weimin Fu, Hejia Zhang, Minghao Shao, Zeng Wang, Johann Knechtel, Ozgur Sinanoglu, Muhammad Shafique, Ramesh Karri, Xiaolong Guo

机构 * Lehigh University（里海大学） ； University of California, San Diego（加利福尼亚大学圣迭戈分校） ； NYU Tandon School of Engineering（纽约大学坦登工程学院） ； NYU Abu Dhabi（纽约大学阿布扎比分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出面向金融FPGA设计的开源基准FinHardBench，通过三类实验评估6种大语言模型，发现其在功能正确性、系统级配置优化等方面存在差异，策略级规格变更问题仍待解决。

Comments 16 pages (10 pages main text). Published as a conference paper at COLM 2026. Code and benchmark: https://github.com/owenfucell/FinHardBench

AOSpec: Action and Observation Co-Speculation for Low-Latency Agent Serving

AOSpec：用于低延迟智能体服务的动作与观测协同推测

Hao Mark Chen, Jinnan Guo, Wayne Luk, Hongxiang Fan

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 AOSpec是一种动作与观测协同推测的无损框架，通过EVD和JASV技术降低智能体服务延迟，在Terminal-Bench上较基线实现显著延迟缩减，且观测模型可跨基准迁移。

CURE: Local Uncertainty Repair for Block-Parallel Speculative Decoding

CURE：面向块并行推测解码的局部不确定性修复

Aofan Liu, Jingxiang Meng, Fangxin Liu, Yongbiao Chen

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对并行推测解码的长序列精度下降问题，提出预算感知动态修复树CURE，通过定位高不确定性token修复错误，在多个基准上提升平均接受长度并实现2.66-3.49倍端到端速度提升。

Comments 9 pages, 2 figures, 5 tables

Motif-Mamba: network motif improved mamba for long-range sequence modeling

Motif-Mamba：融合网络基序改进Mamba的长程序列建模模型

Chonghe Hao, Yue Sun, Jian Zhang, Yansong Wang, Wangzi Yao, Yunjie Yao, Tielin Zhang

机构 * Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences（中国科学院脑科学与智能技术卓越创新中心） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究提出融合网络基序的结构化状态空间模型Motif-Mamba，改进Mamba的对角状态转移限制，在长序列建模任务上性能优于原Mamba，为长程序列建模提供有效结构先验。

Comments 9 pages of main text, 8 pages of appendix, 6 figures. Submitted to NeurIPS 2026

Energy Efficiency of Locally Deployed LLMs: A Preliminary Quantitative GPU Power Benchmark on Consumer Hardware

本地部署大语言模型（LLMs）的能效：消费级硬件上的初步GPU功耗定量基准测试

Philipp M. Zähl, Anika Hennig

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文针对9款1B至7B参数的开源LLMs，在RTX 4060Ti 16GB GPU上开展能效基准测试，发现模型架构、量化策略等影响能效，gemma3:1b等模型能效最优，7B-Mistral能效最差，还需区分令牌生成模式。

MAGA: Multi-Platform Self-Fusion of GUI Agents via Structured Action Distillation

MAGA：基于结构化动作蒸馏的GUI智能体多平台自融合

Hang Yan, Zhangxuan GU, Beitong Zhou, Jiaxuan Chen, Runze Li, Yusong Hu, Shuheng Shen, Changhua Meng

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对GUI智能体跨平台部署受限问题，提出MAGA方法优化训练信号分配，在8B参数规模下性能优于基准模型，与教师模型表现接近。

Comments 13 pages, 4 figures

Tool Specifications Matter: Uncovering and Mitigating Safety Risks in AI Agents

工具规格很重要：揭示和缓解AI智能体中的安全风险

Minghui Pan, Jiayuxuan Yang, Yuanyuan Yuan, Yu Jiang, Zhenpeng Chen

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Beihang University（北京航空航天大学） ； Tsinghua University（清华大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究发现模式格式工具规格是AI智能体安全下降的主因，提出SafeKeep防护措施，可提升有害请求弃权率、降低攻击成功率，性能优于现有防护且保留任务处理能力。

A Sparse Glimpse of the Whole: Train-Free Self-Speculative Decoding

对整体的稀疏一瞥：无训练的自推测解码

Yuesong Liu, Yuan Zeng, Min Lyu, Ruilin Liu, Yu Guo, Yinlong Xu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 该研究针对推测解码加速受限问题，提出无训练的SparseSpec-L框架，通过动态稀疏KV缓存与熵控推测长度，在保留目标模型输出分布的同时实现长上下文推理的端到端加速。

Comments 9 pages, 4 figures, subbmited to AAAI 2027

Policy Gradient Steering: Interventions from Behavioral Objectives

策略梯度引导：来自行为目标的干预

Yoann Poupart, Aurélie Beynier, Nicolas Maudet

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对现有激活引导无法引导双路径网格世界简单策略的问题，提出PGS方法，经网格世界、国际象棋、竞技足球实验验证其校准性、可逆性及行为适配的可组合性与跨域迁移性。

Bridging Inference-Time Scaling and Episodic Memory with Action-Centric Graphs

基于动作中心图的推理时缩放与情景记忆的衔接

Xu Zheng, Chaohao Lin, Zhuomin Chen, Weijieying Ren, Haifeng Chen, Wei Cheng, Dongsheng Luo

机构 * Florida International University（佛罗里达国际大学） ； Stanford University（斯坦福大学） ； NEC Laboratories America（美国NEC实验室） ； Singapore Management University（新加坡管理大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出GAMER框架，通过动作中心图衔接推理缩放与情景记忆，采用双流时间差分学习优化决策，在多基准上较普通基线提升了20.81%的成功率与6.17%的进度率。

Beyond KV Reconstruction: Functional Reconstruction for MLA Draft Models in Speculative Decoding

超越KV重建：推测解码中MLA草稿模型的功能重建

Weiye Shi, Fanxu Meng, Muhan Zhang

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 针对推测解码中MHA/GQA转MLA导致草稿令牌接受率降低的问题，提出功能重建方法优化转换后的MLA注意力模块，在多数任务中提升了草稿令牌接受率。

The Confounder Trap: Treatment-Encoding Representations in Causal Inference with Text

混淆陷阱：文本因果推断中处理编码表征

Marie Neubrander, Graham Tierney, Alexander Volfovsky

机构 * Duke University（杜克大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文针对文本因果推断中因处理状态由文本编码引发的混淆陷阱，提出掩码调整表征方法，经模拟验证可改善重叠诊断、稳定因果效应估计并降低偏差。

Revisiting Lossy Verification in Speculative Decoding: Mechanisms, Trade-offs, and Failure Modes

重新审视推测解码中的有损验证：机制、权衡与失效模式

Tianyu Wang, Yuxuan Zhou, Wenbin Wang, Heng Li, Zikai Xiao, Junyuan Shang

机构 * Independent Researcher（独立研究者） ； Baidu Inc.（百度公司） ； Zhejiang University（浙江大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究分析有损推测解码的机制与失效模式，将其分为两类并构建评估框架，发现基于截断的有损方法会因分布失真致性能下降，协作类需控制概率超调以保障生成质量。

Steering Instruction Hierarchies at Inference Time

推理时的指令层级调控

Siqi Zeng, Sewoong Lee, Han Zhao, Julia Hockenmaier

专题命中 效率与部署 ：LLM(abstract_cn)；language model(abstract)；分类 cs.CL

AI总结 针对前沿大语言模型常违反指令层级的问题，提出无需训练的V-Steer方法，通过编辑缓存值向量调控指令层级，提升角色冲突基准准确率，性能优于仅提示基线，部分场景达到SoTA训练方法水平。

Comments Published as a conference paper at COLM '26; the first two authors contributed equally to the work. 24 pages, 9 figures

OmniDelta: Skill-Driven Budget Allocation for Token Compression in OmniLLMs

OmniDelta：用于OmniLLMs中令牌压缩的技能驱动预算分配

Haoyang Huang, Wenjie Huang, Tianqi Xu, Hongyaoxing Gu, Kang Tan, Yikai Fu, Yuhao Shen, Tianyu Liu, Baolin Zhang, Jun Zhang, Xinyi Hu, Jun Dai, Shuang Ge, Lei Chen, Yue Li, Mingchen Wang, Meng Zhang

机构 * Zhejiang University（浙江大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Chinese Academy of Sciences（中国科学院大学） ； University of Science and Technology of China（中国科学技术大学） ； Alibaba（阿里巴巴） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对OmniLLMs长音频-视频令牌序列成本高的问题，提出技能驱动的OmniDelta框架，通过构建技能池、结合意图与内容感知分配预算，能与现有策略结合，实验证明其在多个基准上建立新的准确性-效率前沿，减少内存并加速推理。

Comments 24 pages, 8 figures

Context-Adaptive Inference: A Unified Statistical and Foundation-Model View

上下文自适应推理：统一的统计和基础模型视角

Yue Yao, Caleb N. Ellington, Jingyun Jia, Baiheng Chen, Dong Liu, Rikhil Rao, Jiaqi Wang, Samuel Wales-McGrath, Yixin Yang, Zhiyuan Li, Eric P. Xing, Ben Lengerich

专题命中 效率与部署 ：foundation model(abstract)；prompting(abstract)；分类 cs.LG

AI总结 研究现代预测系统的上下文自适应推理，统一了统计、元学习和基础模型的相关方法，证明特定条件下显式与隐式自适应等价，提出设计原则、评估指标并识别开放问题。

Comments 90 pages, 13 figures. Manuscript source and living version: https://github.com/AdaptInfer/context-review

From Proprietary to Open-Source: Bridging the Distribution Gap via Multi-Agent Protocol Distillation in Agentic Search

从专有模型到开源模型：通过智能体搜索中的多智能体协议蒸馏弥合分布差距

Junlin Liu, Jiangwang Chen, Zixin Song, Shuaiyu Zhou, Chunji Lv, Hank Wu, Kailin Jiang, Jinyang Wu, Bohan Yu, Chenxi Zhou

机构 * Beijing Institute of Technology（北京理工大学） ； East China Normal University（华东师范大学） ； University of Science and Technology of China（中国科学技术大学） ； Tsinghua University（清华大学） ； University of Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究旨在弥合专有与开源模型分布差距，提出多智能体协议蒸馏（MAPD）框架，利用结构化协议作中间表示，结合蒸馏与强化学习，在问答基准测试中表现出色，有效减轻学生策略问题，优于其他竞争方法。

Visual Token Compression Enhances Robustness of MLLMs

视觉令牌压缩增强多模态大语言模型的鲁棒性

Shishen Gu, Jiequan Cui, Wenbo Hu, Zenglin Shi, Zhenzhen Hu, Richang Hong

机构 * Hefei University of Technology（合肥工业大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究如何增强多模态大语言模型的鲁棒性，核心方法是通过测量视觉令牌与语言特征空间的距离来识别并剪枝分布外视觉令牌，该方法能有效防御越狱攻击、减轻幻觉，提升模型在通用数据集上的表现。

Comments 20 pages, 16 figures. Accepted at ACM Multimedia 2026. Code: https://github.com/Eurek001/OOD-VTP

PTStore (Prefix Tensor Store): Distributed Prefix Caching and Replication for High Throughput Inference Serving

PTStore（前缀张量存储）：用于高吞吐量推理服务的分布式前缀缓存与复制

Meghana Maghyastha, Robert Underwood, Randal Burns, Bogdan Nicolae

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Argonne National Laboraotory（阿贡国家实验室） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 PTStore 受 CDN 客户端缓存设计启发，通过分发和复制流行张量形成可重用 KV 缓存前缀来加速推理，减少缓存访问延迟与负载不平衡，能大幅扩大 KV 缓存大小，使长文本问答推理效率比基线高 5 至 6 倍。

Journal ref Euro-Par 2026: 32nd International European Conference on Parallel and Distributed Computing

PRESTO: Prefix-Aligned Tree Drafting for Diffusion Speculative Decoding

PRESTO：用于扩散推测解码的前缀对齐树草稿生成

Zheng Wang, Zhifan Ye, Qi Cheng, Yonggan Fu, Ziyan Wang, Feng Zhu, Haozhe Zhao, Jan Kautz, Pavlo Molchanov, Humphrey Shi, Minjia Zhang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Georgia Institute of Technology（佐治亚理工学院） ； NVIDIA（英伟达） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对扩散大语言模型用于推测解码时现有方法的局限，提出PRESTO框架，通过前缀对齐评分和基于优先级的树搜索，解决扩散草稿与前缀验证不匹配问题，在多种基准测试中显著提升了端到端吞吐量。

Decentralized Granular Access Control for Agentic AI Systems in Critical Infrastructure

关键基础设施中智能体人工智能系统的去中心化粒度访问控制

Arun Malik, Deepal Jayasinghe, Bradley Klemick, Prachi Shah, Nitish Talasu, Vineet Tushar Trivedi

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 研究关键基础设施中智能体人工智能系统的安全挑战，提出去中心化多层访问控制架构，含复合身份模型等四项创新，基于OWASP威胁分类法设计，经云提供商生产验证，能有效实施粒度访问控制并防止特权升级。

Comments 7 pages, 9 figures, 7 tables

VecTree-RAG: An Agentic Retrieval-Augmented Generation Framework Combining Vector and Tree Retrieval for Efficiency and Accuracy

VecTree-RAG：一种结合向量和树检索的智能检索增强生成框架，以提高效率和准确性

Xinyan Zhong, Yuwei Shi, Yuqi Wei, Chen Shen, Tianhang Zhou, Zhenghao Wu

机构 * Xi’an Jiaotong-Liverpool University（西交利物浦大学） ； Suzhou Lab（苏州实验室） ； China University of Petroleum (Beijing)（中国石油大学（北京）） ； University of Liverpool（利物浦大学） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 研究针对科学问答中识别相关论文及找支持证据的问题，提出VecTree-RAG框架，结合向量与树检索机制。经多组问题评估，该框架在多个基准上获高分，证据页面精度高，且完整架构所需推理令牌少，为科学文献问答提供结构感知且可追溯的架构。

Towards Trustworthy and Cost-Efficient Data Integration: From Naïve RAG to Agentic RAG

迈向可信且经济高效的数据集成：从朴素检索增强生成到智能体检索增强生成

Chuangtao Ma, Arijit Khan

机构 * Aalborg University, Denmark（丹麦奥胡斯大学） ； Bowling Green State University, USA（美国布恩威尔州立大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 探讨大语言模型和人工智能智能体在企业数据集成中面临的挑战，介绍从经典RAG到智能体RAG的演变，研究经济高效集成的优化策略，为构建可靠、可解释和可扩展的数据集成系统指明方向。

Comments To Appear in the IEEE Data Engineering Bulletin