语言大模型 / LLM

Aborted but Not Forgotten: KV-Cache Retention Breaks Rollback Consistency in Language Agents

已中止但未被遗忘：KV缓存保留破坏语言智能体的回滚一致性

Guijia Zhang, Harry Yang

专题命中 效率与部署 ：language agent(title,abstract)；分类 cs.CL

AI总结 研究发现语言智能体中止分支时若保留KV缓存会破坏回滚一致性，引入同token/不同缓存审计方法验证该问题，提出事务局部缓存恢复方案可解决该结构性缺陷。

Comments 21 pages, 5 figures, 7 tables

MistyPilot: Enabling Social-Robot Control through Multi-Agent LLM Skill Orchestration

MistyPilot：通过多智能体大语言模型技能编排实现社交机器人控制

Xiao Wang, Lu Dong, Ifeoma Nwogu, Srirangaraj Setlur, Venu Govindaraju

机构 * State University of New York at Buffalo（纽约州立大学布法罗分校） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 该研究提出多智能体大语言模型框架MistyPilot，可解释自然语言指令并编排Misty社交机器人技能，经评估其在多项任务上准确率高、方差低，用户反馈积极，代码将公开。

Comments Accepted at the ECCV 2026 ACVR Workshop

Dynamic Multi-Byte Prediction With Hierarchical Language Models

基于分层语言模型的动态多字节预测

Abraham Toluwase Owodunni, Chibuzor Okocha, Christan Grant, Tomasz Limisiewicz, Sachin Kumar

机构 * The Ohio State University（俄亥俄州立大学） ； University of Florida（佛罗里达大学） ； University of Washington（华盛顿大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.AI

AI总结 本文针对分层语言模型逐字节生成推理速度慢的问题，提出多字节预测方法，通过可变长度预测窗口与因果注意力掩码实现并行字节预测，在多任务中达成性能与吞吐量的最优权衡。

$x$-Prediction Flow: Efficient Continuous Decoding for Masked Diffusion Language Models

掩码扩散解码作为 $x$-预测流

Weitian Wang, Lianlei Shan, Shubham Rai, Cecilia De La Parra, Akash Kumar

机构 * Robert Bosch GmbH（罗伯特博世集团） ； Ruhr University Bochum（博尔茨大学） ； University of the Chinese Academy of Sciences（中国科学院大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 针对掩码扩散语言模型标准解码中二元决策导致信息丢失和性能差的问题，提出连续解码框架，通过重新解释掩码预测为清洁状态预测，引入置信度驱动的异步更新和强化学习策略网络，在减少解码预算时保持高性能。

Comments under review

StreamOPD: A Post-Training Recipe with Spatio-Temporal Cue Gating for Streaming Video Understanding

StreamOPD：用于流视频理解的时空线索门控后训练方案

Keming Wu, Baoyi Wang, Kaichen Zhang, Xiang An, Zuhao Yang, Sudong Wang, Haowei Zhu, Tingxuan Huang, Hongcheng Gao, Bin Wang

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 本研究提出 StreamOPD 方案，结合可验证流视频数据、思考模式 OPD 与指令模式部署，提升了 StreamingBench、OVO-Bench 等流视频理解基准性能，为相关开源研究提供参考。

Comments Project page: https://unix-ai-lab.github.io/StreamOPD

VesselBridge3D: A Foundation Model Adaptation Framework for Label-Efficient 3D Vessel Segmentation

突破数据壁垒：利用基础模型实现鲁棒的少样本3D血管分割

Kirato Yoshihara, Yohei Sugawara, Yuta Tokuoka, Lihang Hong

机构 * The University of Osaka（大阪大学） ； Preferred Networks, Inc.（Preferred Networks公司） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出利用预训练视觉基础模型实现鲁棒的少样本3D血管分割，通过3D适配器和多尺度聚合器提升分割性能，在极端少样本情况下取得显著提升。

Comments Accepted at SWITCH+ MICCAI 2026. Code is available at https://github.com/pfnet-research/vesselbridge3d

PWLR: Pairwise Witness Local Rejection for Boundary-Aware Out-of-Distribution Detection

PWLR：用于边界感知分布外检测的成对见证局部拒绝

Chengyao Jia, Ruixuan Wang

机构 * Guangdong Provincial Key Laboratory of Stomatology（广东省口腔医学重点实验室） ； Key Laboratory of Machine Intelligence and Advanced Computing, MOE（教育部机器智能与先进计算重点实验室） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；prompting(abstract)；分类 cs.LG

AI总结 针对视觉语言检测器极少用语言作为混淆ID类别边界证据的问题，提出PWLR方法，结合MLLM生成的局部线索与全局类别得分，在多基准上改进了视觉语言基线的OOD检测性能。

Comments Accepted by ACM MM 2026

Rethinking Reverse KL as Adaptive Entropy Distillation

将反向KL重新思考为自适应熵蒸馏

Shizhen Li, Zhiyu Shen, Yuyin Lu, Yunhe Pang, Jielin Song, Yanghui Rao, Fu Lee Wang

机构 * School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院） ； School of Science and Technology, Hong Kong Metropolitan University（香港都会大学科技学院） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 该研究针对知识蒸馏难以平衡忠实模仿与鲁棒生成的问题，提出自适应熵蒸馏（AED）方法，通过分解反向KL目标函数并利用教师熵动态校准模仿强度，在指令遵循与数学推理基准上表现更优。

Hypergraph as Language

超图作为语言

Mengqi Lei, Guohuan Xie, Shihui Ying, Shaoyi Du, Jun-Hai Yong, Chuan Shi, Ling Tian, Siqi Li, Yue Gao

机构 * Tsinghua University（清华大学） ； Yangtze Delta Region Institute（长江三角洲研究院） ； Shanghai Institute of Applied Mathematics and Mechanics（上海应用数学和力学研究所） ； State Key Laboratory of Human-Machine Hybrid Augmented Intelligence（人机混合增强智能国家重点实验室） ； National Engineering Research Center for Visual Information and Applications（视觉信息与应用国家工程研究中心） ； Institute of Artificial Intelligence and Robotics（人工智能与机器人研究所） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出了一种基于超图的语言模型对齐框架Hyper-Align，通过将超图结构转换为可被大语言模型理解的超图令牌，以更有效地处理高阶关联关系，从而在结构建模任务中取得显著优势。

CodeQuant: Unified Clustering and Quantization for Enhanced Outlier Smoothing in Low-Precision Mixture-of-Experts

CodeQuant: 一种统一的聚类和量化方法以提升低精度混合专家模型中的异常值平滑

Xiangyang Yin, Xingyu Liu, Tianhua Xia, Bo Bao, Vithursan Thangarasa, Valavan Manohararajah, Eric Sather, Sai Qian Zhang

机构 * Courant Institute of Mathematical Sciences, New York University（纽约大学库朗数学科学研究所） ； Tandon School of Engineering, New York University（纽约大学坦登工程学院） ； Cerebras Systems Inc.（Cerebras系统公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 本文提出CodeQuant，通过可学习旋转平滑激活异常值并吸收权重异常值到细调的聚类中心，提升低精度混合专家模型的准确性与速度。

SMA: Who Said That? Auditing Membership Leakage in Semi-Black-box RAG Controlling

SMA：谁说的？半黑盒RAG控制中的成员泄露审计

Shixuan Sun, Siyuan Liang, Jianjie Huang, Jingzhi Li, Xiaochun Cao

机构 * Sun Yat-Sen University（孙中山大学） ； Nanyang Technological University（南洋理工大学） ； University of Chinese Academy of Science（中国科学院大学） ； Zhongguancun Academy（中关村学院） ； Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） 纠错

专题命中 效率与部署 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究针对半黑盒RAG控制中的成员泄露问题，提出首个源感知成员审计SMA，通过零阶优化归因估计机制与跨模态归因技术，实现生成内容的细粒度来源归因，为复杂生成系统的数据来源审计提供新视角。

Conjunctive Poisoning in AI Supply-Chain Applications

AI供应链应用中的联合中毒攻击

Nokimul Hasan Arif, Qian Lou, Mengxin Zheng

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；language model(abstract)

AI总结 本研究提出AI供应链中的联合中毒攻击，通过包装器与元数据的交互改变模型行为，提出TIF-BAH防御，揭示AI部署中存在未被现有防御覆盖的部署时行为风险。

Matched Outcomes, Divergent Gaze: How Foveated MLLMs Search Compared to Humans

匹配结果，不同注视：中央凹多模态大语言模型（MLLM）的搜索方式与人类的对比

Mohamed Amine Kerkouri, Marouane Tliba, Aladine Chetouani, Ulas Bagci, Alessandro Bruno

机构 * F-initiatives（F计划） ； Université Sorbonne Paris Nord（巴黎北索邦大学） ； Northwestern University（西北大学） ； IULM university（IULM大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究对比三款通用MLLM与人类在目标导向视觉搜索中的表现，发现模型在决策和目标获取上优于人类，但注视过程与人类不同，现有指标无法验证类人视觉，零样本模型不适用于过程层面问题。

Comments Paper accepted at 3rd HCV workshop at ECCV 2026. 12 pages main text, 16 pages supp

DumpsterCluster: From Dumpster Diving to Serving LLaMA-70B on $60 GPUs

DumpsterCluster：从“废品回收”到在60美元级GPU上部署LLaMA-70B

Zeyu Cao, Xuan Guo, Cheng Zhang, Cheuk Hang Lau, Ilia Shumailov, Yiren Zhao

机构 * University of Cambridge（剑桥大学） ； University of Oxford（牛津大学） ； Quettaflop AI 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 本文搭建了二手GPU组成的DumpsterCluster，可在60美元级GPU上支撑LLaMA-70B推理，经济优势显著，但需结合低价电力与清洁能源以保障可持续性。

Agentic Test-Time Scaling for WebAgents

代理测试时缩放 for WebAgents

Nicholas Lee, Lutfi Eren Erdogan, Chris Joseph John, Surya Krishnapillai, Michael W. Mahoney, Kurt Keutzer, Amir Gholami

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 CATTS 通过动态分配计算资源提升代理在 WebArena-Lite 和 GoBrowse 的性能，比 React 提高 9.1%，且更高效。

SEER: Long-Context Reasoning via Selective Visual-Text Compression

SEER：基于选择性视觉-文本压缩的长上下文推理

Jiawei Xu, Zhilin Zhai, Jinrui Fang, Ruohan Xu, Mingfei Lu, Yi Zhang, Guanchu Wang, Tianlong Chen, Ying Ding

机构 * The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； University of Cambridge（剑桥大学） ； University of Technology Sydney（悉尼科技大学） ； The University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 效率与部署 ：language model(abstract,comments)；large language model(abstract)；分类 cs.CL

AI总结 SEER是结合视觉压缩效率与文本推理精度的框架，经监督微调后在LongBench等长上下文基准测试中，准确率优于Glyph-9B、Qwen3-8B等基线模型，可提升提取精度并保留提示token节省量。

Comments COLM 2026, Third Conference on Language Modeling

SA-GEM: Scale-Adaptive and Geospatial Evidence-Modulated Token Pruning for Efficient Remote Sensing Large Vision-Language Models

SA-GEM：面向高效遥感大视觉语言模型的尺度自适应与地理空间证据调制型令牌剪枝

Kexin Ma, Jing Xiao, Bowen Xing, Liang Liao, Chia-Wen Lin

专题命中 效率与部署 ：language model(title)

AI总结 本文针对遥感大视觉语言模型高分辨率处理效率低的问题，提出SA-GEM即插即用剪枝框架，通过尺度自适应与地理空间证据调制实现效率与精度提升，在XLRS-Bench上超GeoLLaVA-8K 2.3%且推理提速2.4倍。

LAVA: Logic-Aware Validation and Augmentation Framework for Large-Scale Financial Document Auditing

LAVA：面向大规模财务文档审计的逻辑感知验证与增强框架

Ruoqi Shu, Xuhui Wang, Isaac Wang, Yanming Mai, Bo Wan

机构 * BMO Financial Group（蒙特利尔银行金融集团） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对财务文档验证的异构性与业务规则处理难题，提出基于多模态大语言模型的LAVA框架，通过四阶段设计提升幻觉控制与边缘案例处理能力，适用于高风险财务审计场景。

Journal ref Proceedings of The 10th Workshop on Financial Technology and Natural Language Processing (FinNLP 2025), Association for Computational Linguistics, pp. 75-92, 2025

RAGas: Retrieval-Augmented Gas Optimization for Smart Contracts with Continuous Knowledge Integration

RAGas：结合持续知识整合的智能合约检索增强型 Gas 优化

Yishun Wang, Wenjin Yi, Wenkai Li, Zongwei Li, Xiaoqi Li

机构 * School of Cyberspace Security, Hainan University（海南大学网络空间安全学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对智能合约 Gas 优化的需求，研究人员提出 RAGas 三阶段检索增强型生成框架，分析导致 Gas 过度使用的反模式，实验显示其可降低多达 11% 的 Gas 使用量，且检测精度和召回率较高。

Comments 14 pages, 3 figures

Evaluating Multimodal LLMs across Text and Audio Modalities for Accessible Disaster Assistance

评估面向无障碍灾害援助的跨文本与音频模态多模态大语言模型

Anuridhi Gupta, Samara Mansoor, Hemant Purohit

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文评估了开放权重多模态大语言模型在灾害援助场景下跨文本与音频模态的响应一致性，发现其存在模态依赖的不公平性，为构建公平的灾害沟通AI工具提供了设计建议。

Comments 8 pages, 3 figures

Efficient Block-Layer Parallel Inference for Vision-Language-Action on Hybrid Architectures

面向混合架构的视觉-语言-动作（VLA）高效块级并行推理

Haibo HU, Lianming Huang, Qiao Li, Nan Guan, Chun Jason Xue

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对VLA模型部署于车载平台的延迟与内存压力问题，提出混合CPU-GPU推理框架，通过块级划分实现资源调度，在Bench2Drive数据集及实车部署中均取得性能提升。

Decode-Branch Transformers: Decoupling the Primary Prefill Path from Additional Decode Computation

双流式Transformer：将主预填路径与额外解码计算解耦

Liming Liu, Mingze Wang, Tuo Zhao

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Peking University（北京大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究提出双流式Transformer，将主预填路径与额外解码计算解耦，通过共享权重与缓存降低推理成本，在多架构与数据配置下实现更低验证损失，且可灵活分配MoE专家预算。

Comments 19 pages

Mitigating Bias in Locally Constrained Decoding via Tractable Proposals

通过可处理提议缓解局部约束解码中的偏差

Meihua Dang, Linxin Song, Honghua Zhang, Jieyu Zhao, Guy Van den Broeck, Stefano Ermon

机构 * Stanford University（斯坦福大学） ； University of California, Berkeley（加州大学伯克利分校） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对局部约束解码中因短视掩码导致的采样偏差，提出基于张量化有限自动机的全局约束解码提议和概率全局约束解码提议，结合序贯蒙特卡洛方法实现无偏采样，在函数调用、关键词生成和SQL生成任务中显著减少所需粒子数并加速收敛。

Comments ICML 2026

Leveraging Generative Artificial Intelligence for Causal Inference with Unstructured Data

生成式人工智能驱动的推断

Kosuke Imai, Kentaro Nakamura

机构 * Harvard University（哈佛大学） ； John F. Kennedy School of Government（约翰·F·肯尼迪政府学院） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究人员提出GPI统计框架，利用开源GenAI模型提取非结构化数据的低维表示，无需微调生成模型，通过三个应用验证其可用于因果与预测推断，开源软件包可实现该框架。

SQuad: Sub-Quadratic Attention Distillation for Efficient Video Generation

SQuad：用于高效视频生成的次二次注意力蒸馏

Animesh Karnewar, Denis Korzhenkov, Amirhossein Habibian, Mohsen Ghafoorian

专题命中 效率与部署 ：SFT(abstract,abstract_cn)

AI总结 针对视频扩散Transformer自注意力的二次复杂度瓶颈，提出SQuad次二次注意力蒸馏框架，通过两阶段蒸馏适配预训练模型，在保持生成质量的同时大幅提升效率。

OvDSGG: End-to-End Open-Vocabulary Dynamic Scene Graph Generation

OvDSGG：端到端开放词汇动态场景图生成

John Helsby, Yi Yang, Bodo Rosenhahn, Michael Ying Yang

机构 * Meta ； University of Bath（巴斯大学） ； Leibniz Universität Hannover（汉诺威莱布尼茨大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 OvDSGG是首个开放词汇DSGG的端到端框架，通过空间主干、时间主干及相关模块实现开放词汇识别，在开放词汇指标上显著优于基线，封闭集性能仍具竞争力，且构建了对应基准并公开代码。

Comments ECCVW'26 CONTEXTUS

MINT: Min-Selection Preference Distillation for Balanced Multi-Objective Alignment

MINT：用于平衡多目标对齐的最小选择偏好蒸馏

Tony Tu, Sayan Chakraborty, Ruomeng Xu, Tony Qin, Austin Tian

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Zillow Group（齐洛集团） 纠错

专题命中 效率与部署 ：language agent(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对多目标对齐的不平衡问题，提出MINT方法，通过按最弱目标排名候选替代加权和排名，在情感支持等任务中显著提升双目标表现并降低不平衡性。

U.S. Technological Containment and the Rise of China's Open AI Ecosystem

美国政策无意中加速了中国开放AI生态系统

Wang Jin, Nadav Kunievsky, Bowen Lou, Tianshu Sun, James Evans

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 研究发现，美国旨在遏制中国AI发展的出口管制等政策，反而促使中国转向开放AI生态系统，通过开源模型和社区建设加速创新，对全球AI领导地位产生意外影响。

An Empirical Study of Speculative Decoding on Software Engineering Tasks

对软件工程任务中投机解码的实证研究

Yijia Li, Junkai Chen, Xing Hu, Xin Xia

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)

AI总结 本文通过实证研究评估了投机解码在软件工程任务中的有效性，发现其在代码生成、修复和编辑任务中表现各异，模型基于方法适合生成，模型无关方法更适合仓库级任务，且任务重复性提升模型无关方法性能。

Comments Accepted by ISSTA 2026

Submodular Maximization under Supermodular Constraint: Greedy Guarantees

在超模约束下进行子模最大化：贪心保证

Ajitesh Srivastava, Shanghua Teng

专题命中 效率与部署 ：LLM(abstract,abstract_cn)

AI总结 在超模约束下，通过贪心算法和二分查找实现子模函数最大化，提供双标准近似方法，优于其他贪心启发法。

Comments 12 pages, 6 figures. Fixed typos. Accepted at the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V.2 (KDD '26) Fixed typos