语言大模型 / LLM

Accurate and Efficient Long-Term Memory for LLM Agents

用于大语言模型智能体的准确高效长期记忆

Zicheng Zhao, Xinyang Guo, Luyao Lv, Menghan Wang, Ming Li, Shuaicheng Li

机构 * Central China Research Institute for AI Technology（华中人工智能技术研究院） ； Guangdong Provincial Key Laboratory of Interdisciplinary Research and Application for Data Science, BNU-HKBU United International College, Zhuhai（北京师范大学-香港浸会大学联合国际学院数据科学跨学科研究与应用广东省重点实验室） ； City University of Hong Kong（香港城市大学） 纠错

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究大语言模型智能体长时记忆问题，提出MOSAIC框架，通过实体类型图存储、哈希加速双路径检索和主动冲突检测，提升了准确性和效率，在多项测试中取得更好结果，如准确率提高、冲突检测能力增强且检索延迟降低。

Semantic Register Compression in Multi-Agent LLM Cascades

多智能体大语言模型级联中的语义寄存器压缩

Manuele Tele Junior Fernandez

专题命中 效率与部署 ：LLM(title,abstract)；分类 cs.CL

AI总结 研究多智能体大语言模型级联中的语义寄存器压缩现象，用三智能体管道量化压缩，通过五个架构变体分析驱动因素，发现压缩在不同领域强度不同且可泛化，提示级回归可解释大部分方差，对高风险领域安全评估有意义。

Comments 16 pages, 2 figures, 4 tables. Revised version with corrected English-prompt experiments and updated cross-domain and prompt-gradient results

Rethinking Efficiency in Neural Combinatorial Optimization: Batched Preference Optimization with Mamba

重新思考神经组合优化中的效率：基于Mamba的批量偏好优化

Zhenxing Xu, Zeyuan Ma, Weidong Bao, Yan Zheng, Chongshuang Hu, Ji Wang, Zhiguang Cao

机构 * National Key Laboratory of Big Data and Decision, National University of Defense Technology（大数据与决策国家重点实验室，国防科技大学） ； School of Computer Science, South China University of Technology（华南理工大学计算机科学学院） ； School of Computing and Information Systems, Singapore Management University（新加坡管理学院计算机与信息系统学院） 纠错

专题命中 效率与部署 ：preference optimization(title,abstract)；分类 cs.LG

AI总结 本文提出ECO框架，通过分阶段的监督预热和批量偏好优化，提升神经组合优化的效率，实现更优的内存使用和吞吐量。

AutoNeural: Co-Designing Vision-Language Models for NPU Inference

AutoNeural：为 NPU 推理协同设计视觉语言模型

Wei Chen, Liangmin Wu, Yunhai Hu, Zhiyuan Li, Zhiyuan Cheng, Yicheng Qian, Lingyue Zhu, Zhipeng Hu, Luoyi Liang, Qiang Tang, Zhen Liu, Han Yang

机构 * Nexa AI ； Geely Auto 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 研究针对 NPU 推理的视觉语言模型硬件与模型不匹配问题，提出 AutoNeural 架构，用深度可分离卷积骨干替换 ViT 编码器，结合状态空间模型与 Transformer 层，提升效率，降低量化误差与延迟，验证了在实际应用中的实时性能。

Squid: Long Context as a New Modality for Energy-Efficient On-Device Language Models

Squid：长上下文作为节能设备端语言模型的新模态

Wei Chen, Zhiyuan Li, Shuo Xin, Yihao Wang

机构 * Nexa AI 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 研究针对设备端语言模型处理长上下文能耗高、延迟大的问题，提出Dolphin架构，用紧凑解码器提炼上下文信息，结合图像嵌入投影仪编码长文本，经实证评估，该方法提升了能源效率，降低了延迟，为设备端语言模型发展做贡献。

Octopus v2: On-device language model for super agent

章鱼v2：用于超级代理的设备端语言模型

Wei Chen, Zhiyuan Li

机构 * Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：language model(title,abstract)；分类 cs.CL

AI总结 章鱼v2通过设备端20亿参数模型，在准确性和延迟上超越GPT-4，同时将上下文长度减少95%，提升边缘设备应用性能。

ChipChat: Low-Latency Cascaded Conversational Agent in MLX

ChipChat：MLX 中的低延迟级联对话代理

Tatiana Likhomanenko, Richard He Bai, Zijin Gu, Zakaria Aldeneh, Shiladitya Dutta, Luke Carlson, Han Tran, Yizhe Zhang, Ruixiang Zhang, Huangjie Zheng, Navdeep Jaitly

机构 * Apple（苹果公司） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 探讨实时设备语音代理最佳架构问题，介绍低延迟级联系统 ChipChat，它通过架构创新和流优化克服传统瓶颈，集成多种技术，用 MLX 实现亚秒级响应延迟，为实用语音 AI 代理发展提供新路径。

Comments best demo paper award ASRU 2025

Journal ref ASRU 2025

Induce to Empower: Improving Lightweight Baselines via Foundation Model Induction for Generalized Polyp Segmentation

诱导赋能：通过基础模型归纳改进轻量级基线以实现广义息肉分割

Shivanshu Agnihotri, Snehashis Majhi, Deepak Ranjan Nayak, Dwarikanath Mahapatra, Debesh Jha

机构 * Malaviya National Institute of Technology Jaipur（斋浦尔马尔维亚国家技术学院） ； Côte d’Azur University（蔚蓝海岸大学） ； Khalifa University（哈里发大学） ； Biomedical Perception & Intelligence Lab, University of South Dakota（南达科他大学的生物医学感知与智能实验室） 纠错

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 针对结肠镜息肉分割难题，提出Lite-Polyp Inductor框架，通过基础模型归纳生成特定原型表示并语义对齐，引入Transformer融合突出相关表示，显著改进轻量级基线，以低计算开销实现卓越泛化性能。

Robust KV Cache Management for LLM Serving under Output Token Length Uncertainty

输出令牌长度不确定情况下用于大语言模型服务的鲁棒键值缓存管理

Jiaming Cheng, Duong The Do, Duong Tung Nguyen

专题命中 效率与部署 ：LLM(title,abstract)

AI总结 针对大语言模型服务中键值缓存管理难题，提出鲁棒框架，联合优化多项配置，纳入延迟SLO约束。开发DRO公式及算法应对输出令牌长度不确定等问题，分析出关键分位数结构，经评估比基线成本降56%，保持相关性能。

Comments 10 figures, 10 pages

Efficient Tuning Before Low-Bit Post-Training Quantization for Stochastic Gradient Descent-optimized Models

用于随机梯度下降优化模型的低位后训练量化前的高效调优

Peng Xia, Junbiao Pang, Muhammad Ayub Sabir

机构 * School of Information Science and Technology, Beijing University of Technology（北京工业大学信息科学与技术学院） 纠错

专题命中 效率与部署 ：post-training(title,abstract)

AI总结 研究针对低位后训练量化性能易降问题，提出ETBQ方法，在随机梯度下降优化模型的PTQ前进行预处理调优，通过从量化误差分布采样扰动优化全精度模型，实验证明该方法能提升不同任务的低位PTQ性能。

Comments v2 revision: Added hyperparameter settings of all experiments in appendix, fixed minor typos, adjusted figure layout, polished experimental analysis. 12 pages, 10 figures, submitted to IEEE Transactions on Neural Networks and Learning Systems (TNNLS). Code available at https://github.com/xpxpxp2001xpxpxp/ETBQ

Spectral Heat Flow for Conservative Token Condensation in Vision-Language Models

视觉语言模型中用于保守令牌压缩的谱热流

Zhaoyang Li, Yanjun Li, Wangkai Li, Yujia Chen, Tianzhu Zhang

机构 * School of Information Science/National Key Laboratory of Deep Space Exploration University of Science and Technology of China（中国科学技术大学信息科学学院/深空探测国家实验室） 纠错

专题命中 效率与部署 ：language model(title,abstract)

AI总结 研究针对视觉语言模型推理成本高及现有令牌剪枝方法的问题，提出无需训练的SpecFlow框架，通过谱热流等操作实现保守压缩，在多方面优于现有方法，平衡了效率与准确性。

Comments Accepted by ICML 2026

Foundation Model-Driven Semantic Change Detection in Remote Sensing Imagery

基于基础模型的遥感影像语义变化检测

Hengtong Shen, Li Yan, Hong Xie, Yaxuan Wei, Xinhao Li, Wenfei Shen, Peixian Lv, Fei Tan

专题命中 效率与部署 ：foundation model(title,abstract)

AI总结 本文提出PerASCD框架，通过模块化级联门控解码器整合多尺度特征，提升语义变化检测的鲁棒性和泛化能力，实验显示其在Sek评分上达到新高。

VDAR-Router: Adaptive LLMs Routing via Verbalized Query Difficulty Analysis Retrieval

VDAR-Router：通过语言化查询难度分析检索实现自适应语言模型路由

Yu-Chien Tang, Jun-Chen Hung, Wen-Chih Peng, An-Zi Yen

机构 * National Yang Ming Chiao Tung University（国立阳明交通大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对大语言模型路由中忽视查询潜在难度问题，提出VDAR-Router框架，通过生成难度分析、检索相似示例来估计模型适用性，经实验验证该方法能实现更好成本性能权衡，明确查询分析有助于做出更可靠路由决策。

Program Synthesis for Simulation-Based Inference: Joint Model Selection and Parameter Estimation

基于仿真推理的程序合成：联合模型选择与参数估计

Siddharth Mishra-Sharma

机构 * Anthropic 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究提出结合大语言模型与神经仿真推理的框架，用于联合模型选择与参数估计。给定自然语言描述，大语言模型提出候选程序，经反馈驱动变异和神经密度估计评估，能在一组模型上推理，在多基准测试中可从提示识别合理模型族。

Comments 15+7 pages, 4+2 figures

Autonomous Discovery of Wireless Communications Algorithms

无线通信算法的自主发现

Fayçal Aït Aoudia, Jakob Hoydis, Sebastian Cammerer, Gian Marti, Merlin Nimier-David, Nicolas Roussel, Alexander Keller

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究旨在探索大语言模型驱动的进化搜索在无线通信算法自主发现中的应用，通过AITE框架解决复杂通信问题，在两个物理层任务中取得成果，展现了该方法在发现下一代无线通信算法上的潜力。

SmartRAG: Native Graph-Based RAG for Mobile Device

SmartRAG：用于移动设备的基于原生图的RAG

Zhihan Jiang, Meng Li, Shenghao Liu, Keran Li, Ruiben Zhou, Wei Wang, Xianjun Deng, Shuai Wang, Haipeng Dai

机构 * Nanjing University（南京大学） ； HUST（华中科技大学） ； Southeast University（东南大学） 纠错

专题命中 效率与部署 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对移动设备部署大语言模型的问题，提出SmartRAG框架，围绕四个模块组织智能助手，核心是可持续学习的EvoNER，知识存于MRGraph，通过混合管道检索，实验表明其在多跳推理性能上有竞争力且能在普通智能手机上运行。

Comments 14 pages, 4 figures

Lomekwi: Resource-Bounded Tool Discovery in LLM Agents

洛梅奎：大语言模型智能体中资源受限的工具发现

Roshan Klein-Seetharaman, Daniel Wang, Andrew Xu

机构 * Sea12 Technologies（Sea12科技公司） ； Yale University（耶鲁大学） 纠错

专题命中 效率与部署 ：LLM(title)；分类 cs.AI

AI总结 研究受认知科学启发区分工具使用与发现，将工具发现分解为好奇心、识别和效率，表明该框架可用于现有任务，证明识别与模型大小成反比，还通过组合博弈及模拟环境观察到反比缩放。

Comments All authors contributed equally. 17 pages, 6 figures. Presented at the 2026 Conference on Learning Theory Workshop on Learning in an Agentic World

Do All Individual Layers Help? An Empirical Study of Task-Interfering Layers in Vision-Language Models

所有个体层都有帮助吗？视觉-语言模型中任务干扰层的实证研究

Zhiming Liu, Yujie Wei, Lei Feng, Xiu Su, Xiaobo Xia, Weili Guan, Zeke Xie, Shuo Yang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Harbin Institute of Technology（哈尔滨工业大学） ； Southeast University（东南大学） ； Central South University（中南大学） ； National University of Singapore（新加坡国立大学） ； The Hong Kong University of Science and Technology, Guangzhou（香港科学与技术大学（广州）） 纠错

专题命中 效率与部署 ：language model(title)；分类 cs.AI

AI总结 研究通过层干预发现部分层阻碍下游任务，提出任务自适应层剔除方法提升性能，揭示预训练VLM的意外模块化特性。

Journal ref Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) Findings, 2026, pp. 9597-9607

Lossless but Not Free: An Empirical Anatomy of Speculative Decoding on Consumer Hardware

无损但不免费：消费级硬件上推测性解码的实证剖析

Param Chordiya

机构 * University of California, San Diego（加利福尼亚大学圣地亚哥分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型单流自回归解码受内存带宽限制问题，核心方法是推测性解码，通过小草稿模型与目标模型配合及拒绝采样规则重构计算。在苹果硅笔记本上实证研究五种配置，验证分布等效性，揭示加速与减速原因，表明该方法在特定条件下才有效。

Comments 15 pages, 5 figures, 4 tables. Code, benchmark harness, and all result artifacts: https://github.com/ParamChordiya/speculative_decoding_engine

High-accuracy Low-Bit KV-Cache Quantization via Local Distribution Restoration

通过局部分布恢复实现高精度低比特 KV 缓存量化

Gradwell Dzikanyanga, Yanqi Pan, Weihao Yang, Donglei Wu, Wen Xia, Hao Huang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究长上下文大语言模型推理中 KV 缓存量化问题，提出局部分布恢复技术，实现 DGAP。该技术可检测高风险步骤并恢复 top-K 候选分布，实验证明在 Llama-3.1-8B 等模型上能提升准确率、降低分布漂移，保持低比特缓存占用。

Let the Data Decide: Supervision Analysis, Capability Trade-offs, and Adaptive Objective Routing in Continued Pre-Training via Off-Policy Distillation

让数据决定：通过离策略蒸馏进行持续预训练中的监督分析、能力权衡和自适应目标路由

Jiangan Yuan, Zhixuan Li, Han Xu

机构 * Baidu Inc.（百度公司） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究离策略蒸馏中训练数据、目标参数化和模型能力的相互作用，通过分解问题进行“目标到能力”和“数据到目标”分析，引入诊断指标量化张力，探讨自适应目标路由，表明有效路由取决于信号质量，将持续预训练重构为监督设计问题。

Towards AI epidemiology: a measurement standardisation framework for prospective risk detection

迈向人工智能流行病学：一种用于前瞻性风险检测的测量标准化框架

Kit Tempest-Walters

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种测量标准化框架，用于在没有访问模型内部信息的情况下，将专家-人工智能交互压缩为结构化、可比较的领域，以进行前瞻性风险检测。该框架旨在定义其范围，包括语义和统计层面，并指定未来工作的实证测试协议。

Comments 38 pages, 3 figures, 4 tables. Accepted for publication in AI & Society

When Fewer Layers Break More Chains: Layer Pruning Harms Test-Time Scaling in LLMs

当更少的层打破更多的链条：层剪枝损害大语言模型的测试时扩展性

Keyu Wang, Tian Lyu, Guinan Su, Lu Yin, Marco Canini, Jonas Geiping, Shiwei Liu

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究层剪枝对大语言模型长链推理中测试时扩展性的影响，经大量实验发现剪枝会严重损害其扩展性，标准微调补救无效，确定了扩展性脆弱机制及应用层剪枝的风险，呼吁重新思考策略并为保推理鲁棒性方法提供见解。

Persona-as-Configuration: Generative Stakeholder Reporting for Agricultural Floods

作为配置的角色：农业洪水的生成式利益相关者报告

Oliver Aleksander Larsen, Tiziano Santilli, Francesco Daghero, Mahyar T. Moghaddam

机构 * University of Southern Denmark（南丹麦大学） ； Maersk Mc-Kinney Moller Institute（马士基麦肯尼·莫勒研究所） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究网络物理系统决策日志解读问题，提出基于单向消费和角色即配置的架构模式，实例化为上下文感知仪表板层，经专家评审在多质量维度获好评，为后续农业利益相关者最终用户评估奠定基础。

Comments Accepted at CASA 2026 (9th Workshop on Context-Aware, Autonomous and Smart Architectures), co-located with ECSA 2026. 16 pages, 2 figures

Why Does Feedback-Augmented Self-Distillation Fail to Improve Retrieval-Interleaved Search Agents?

为什么反馈增强的自蒸馏不能改进检索交织搜索智能体？

Fan Yang, Rui Meng, Yuxin Wen

机构 * Chapman University（查普曼大学） ； Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究反馈增强的自蒸馏在智能体搜索中失效的原因，发现模型存在解码崩溃现象，因监督信号不一致致学习不稳定，将其分解为模型和提示不一致，引入EMA教师减轻不一致，最终提高模型性能。

Explaining and Tuning Transformer-based LLMs in Arithmetic Tasks with Human Strategies

用人类策略解释和调整基于Transformer的语言模型在算术任务中的表现

Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； The Hong Kong Polytechnic University（香港理工大学） ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究基于Transformer的语言模型在算术任务中的表现，通过分解任务、分析损失收敛等，应用人类策略和方法提升其性能，并经多种验证展示有效性，探索其与人类学习者相似性以增强关键应用中的信任。

RADD: Retrieval-Augmented Discrete Diffusion for Multi-Modal Knowledge Graph Completion

RADD：基于检索的离散扩散用于多模态知识图谱补全

Guanglin Niu, Bo Li

机构 * School of Artificial Intelligence, Beihang University（北航人工智能学院） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出RADD框架，通过分离检索与重排序过程，提升多模态知识图谱补全的性能，实验表明其在多个基准上表现最佳。

Comments 13 pages, 3 figures, 8 tables

Hippasus: Effective and Efficient Automatic Feature Augmentation for Machine Learning Tasks on Relational Data

Hippasus：用于关系数据上机器学习任务的有效且高效的自动特征增强

Serafeim Papadias, Kostas Patroumpas, Dimitrios Skoutas

机构 * Athena Research Center（阿提卡研究中心） 纠错

专题命中 效率与部署 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 Hippasus通过结合统计信号和语义推理，高效提升关系数据机器学习任务中的特征增强效果。

DisarmRAG: Stealthy Retriever-Centric Poisoning to Disable Self-Correction in Retrieval-Augmented Generation (Extended Version)

DisarmRAG：以检索器为中心的隐秘中毒攻击，以禁用检索增强生成中的自我纠正（扩展版）

Yanbo Dai, Zhenlan Ji, Zongjie Li, Kuan Li, Shuai Wang

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对实际部署中LLMs自我纠正能力削弱RAG攻击效果的问题，提出DisarmRAG这一专注检索器的新型中毒范式，构建含迭代协同优化与对比学习技术的攻击框架，经多模型和基准测试验证其有效性及隐秘性。

Comments This paper is an extended version of our original paper accepted by ACM CCS 2026

Octopus v3: Technical Report for On-device Sub-billion Multimodal AI Agent

章鱼v3：用于设备端低于十亿参数的多模态人工智能代理的技术报告

Wei Chen, Zhiyuan Li

机构 * Stanford University（斯坦福大学） 纠错

专题命中 效率与部署 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对多模态人工智能代理将图像数据转化为可行动结果的挑战，引入含功能令牌概念的多模态模型，优化至小于10亿参数，能处理中英文，可在多种边缘设备高效运行。