语言大模型 / LLM

When Personal Memory Has No Single Answer: Evaluating LLM Agents under Irreducible Conflict

当个人记忆没有唯一答案时：评估大语言模型智能体在不可约冲突下的表现

Lu Yang, Shusheng Xu, Zhuoran Li, Tongkai Yang, Longbo Huang

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 该研究针对大语言模型智能体的记忆冲突问题，提出了基准TANGLE并评估其表现，发现现有方法存在缺陷，进而提出冲突感知行动策略CAAP。

EvoGraph-Mem: Failure-Aware Editable Graph Memory for Long-Term Language Agents

EvoGraph-Mem：面向长期语言智能体的故障感知可编辑图记忆

Yuxi Qian, Yuxiang Ren

专题命中 长上下文与记忆 ：language agent(title,abstract)；分类 cs.AI

AI总结 本文针对长期语言智能体的记忆污染问题，提出故障感知可编辑图记忆框架，通过见解节点跟踪与图级编辑优化记忆，实验显示其性能优于现有记忆增强智能体基线。

Comments 10 pages, 3 figures

Memory Reward Inflation in Self-Improving LLM Agents

自改进大语言模型智能体中的记忆奖励膨胀

Mohammad Asadolahi, Amir Amini, Samira Talebi, Amirfarhad Farhadi, Azadeh Zamanifar

机构 * University Of North Texas（北得克萨斯大学） ； Edge Hill University（边山大学） ； University of Cincinnati（辛辛那提大学） ； Iran University of Science and Technology（伊朗科技大学） ； Islamic Azad University（伊斯兰阿扎德大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 该研究发现自改进大语言模型智能体存在记忆奖励膨胀的“回声差距”问题，提出误差独立性假设（EIA），并通过LUCID算法在BIRD文本到SQL基准上提升了执行准确率。

MemChain: Learning Interpretable Memory Traces for Memory-Augmented LLM Agents

MemChain：为内存增强型大语言模型智能体学习可解释的内存痕迹

Yiwen Ma, Songjun Tu, Qichao Zhang, Dong Li, Linjing Li, Dongbin Zhao

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学交叉科学学院） ； Memorax AI（Memorax人工智能公司） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对内存增强型大语言模型智能体检索内存回答查询存在的问题，提出MemChain可训练检索后内存策略，经两阶段学习框架训练，能生成有效证据上下文，实验证明其在多种模型上性能领先且减少内存上下文。

SF-AMS: Strategic Forgetting for Structured Memory in LLM Agent

SF-AMS：大语言模型智能体中结构化记忆的策略性遗忘

Ning Yang, Siqi Li, Miaoxin Shen, Yuan Zhou, Meng Zhang, Tong Li, Haijun Zhang

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究大语言模型智能体长上下文依赖瓶颈问题，提出SF-AMS框架，通过效用驱动机制和复合评分整合信号维护记忆，实验表明该方法在多跳推理等任务中相比基线有显著提升，证明建模记忆重要性对长上下文推理关键。

Auditing Provenance Sensitivity in LLM Agent Action Selection

审计大语言模型智能体动作选择中的溯源敏感性

Junchi Liao

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究大语言模型智能体动作选择中的溯源敏感性，引入针对特定目标的授权审计，通过改变命题源权威等测试行为，发现可信和不可信变体在部分案例中产生不同动作，模型对线索有反应但不可信证据仍影响行动。

Profile-Graph Memory for LLM Agents: Implicit Cross-Entity Traversal through Narrative Profiles

用于大语言模型智能体的概要图内存：通过叙事概要进行隐式跨实体遍历

Shengtong Zhu

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对大语言模型智能体长期记忆中多跳关联未被充分测量的问题，提出了MemHop基准和ProGraph两层内存架构，通过概要扩展与压缩残差实现跨实体遍历，提升了多跳推理及精确召回能力，在多个基准测试中表现优异并开源相关实现。

Comments 11 pages, 2 figures, 7 tables. Code and MemHop benchmark: https://github.com/ShengtongZhu/ProGraph

AgentBrew: Lifelong Knowledge Brewing from Strong Teachers to Weak LLM Agents

AgentBrew：从强大教师到弱小语言模型智能体的终身知识酿造

Yangqin Jiang, Chao Huang

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究语言模型智能体知识酿造问题，提出AgentBrew方法，含失败触发教师和学生感知合成两个组件，无需训练，能将教师交互经验提炼到学生外部记忆，经实验验证可产生强大且可部署的智能体。

From Memory to Skills: Evidence-Grounded Co-Evolution Governance for Long-Horizon LLM Agents

从记忆到技能：基于证据的长期大语言模型智能体协同进化治理

Bo Tang, Yang Zhang, Guomian Zhuang, Wenqiang Wei, Gaoyang Zheng, Lindong Xie, Yanchao Tan, Feiyu Xiong, Qingyu Yang, Edward Chung, Zhiyu li

机构 * University of Science and Technology of China（中国科学技术大学） ； Hong Kong Polytechnic University（香港理工大学） ； Fuzhou University（福州大学） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL

AI总结 针对长期大语言模型智能体记忆系统问题，提出无需训练的MSCE框架，将经验组织为多种形式，把证据支持的策略转化为可调用技能，引入反射加权值回填，实验证明其性能优于基线，有跨域转移性和终身进化能力。

Comments Submitted into EMNLP'2026

Isolation as a First-Class Principle for LLM-Agent System Safety: Concepts, Taxonomy, Challenges and Future Directions

隔离作为大语言模型智能体系统安全的头等原则：概念、分类法、挑战及未来方向

Huihao Jing, Wenbin Hu, Shaojin Chen, Haochen Shi, Sirui Zhang, Hanyu Yang, Changxuan Fan, Zhongwei Xie, Hongyu Luo, Wun Yu Chan, Wei Fan, Haoran Li, Yangqiu Song

机构 * HKUST（香港科技大学） ； NYU（纽约大学） ； SWUPL（西南政法大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 探讨大语言模型智能体系统安全问题，将隔离作为头等原则，用边界中心分类法组织文献，助于识别隔离丧失位置、妥协传播方式及相关防御，还总结了故障路径，讨论挑战并勾勒研究议程。

PM-Bench: Evaluating Prospective Memory in LLM Agents

PM-Bench：评估大语言模型智能体中的前瞻记忆

Genglin Liu, Saadia Gabriel

机构 * University of California, Los Angeles（加利福尼亚大学洛杉矶分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对智能体人工智能中的前瞻记忆挑战，引入PM-Bench基准，受认知科学启发评估大语言模型智能体相关能力。在模拟一周内比较八个先进模型，发现各模型在此基准测试中均具挑战性，且无单一改善策略占优，还发布该基准用于诊断与干预。

Comments Published as a conference paper at COLM 2026

Shared Selective Persistent Memory for Agentic LLM Systems

用于智能语言模型系统的共享选择性持久内存

Sanjana Pedada, Aditya Dhavala, Neelraj Patil

机构 * Apple Inc.（苹果公司） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 智能语言模型系统面临上下文问题，本文提出共享选择性持久内存架构，识别保留四类可重用上下文，丢弃特定会话推理痕迹，实现共享协作重用。在企业场景和公共数据集实验中验证其有效性，提高任务完成率，降低成本，优于全历史持久化等极端方式。

Comments 11 pages, 2 figures, 4 tables

FreqDepthKV: Frequency-Guided Depth Sharing for Robust KV Cache Compression in Long-Context LLM Inference

FreqDepthKV：用于长上下文语言模型推理中稳健的键值缓存压缩的频率引导深度共享

Anna Córdoba, Adam Puente Tercero, Nerea Angulo Hijo, Mar Linares Tercero, Julia Barrientos, Ainhoa Miranda, Jesús Olivera

机构 * Instituto de Investigación en Visión Artificial（人工视觉研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 研究针对长上下文语言模型推理中键值缓存成本问题，提出FreqDepthKV方法，将相邻层键值状态分解，通过在线探测器分配缓存模式，在多基准测试中保持任务准确性，提升解码吞吐量并降低内存，实现高效压缩。

Comments 11 pages, 2 figures

Brand-as-Memory: Vision-Language Models Encode Causal, Mechanistically Localizable Credibility Priors for News Sources

品牌即记忆：视觉语言模型为新闻来源编码因果性、可机制定位的可信度先验

Chih-Ting Liao, Xin Cao

机构 * University of New South Wales（新南威尔士大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.AI

AI总结 研究视觉语言模型中基于媒体身份的来源可信度先验，通过交叉模型基准测试和机制分析，揭示其特性及影响，如模型和规模依赖性、因果形成机制等。

The Past Is Prologue: A Plug-in Controller for Selective Updates in Sequentially Evolving LLM Memory

过去即序幕：面向顺序演化的大语言模型记忆的选择性更新插件控制器

Zihan Chen, Songwei Dong, Chengshuai Shi, Peng Wang, Song Wang, Cong Shen, Jundong Li

机构 * University of Virginia（弗吉尼亚大学） ； Princeton University（普林斯顿大学） ； University of Central Florida（中佛罗里达大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 提出Janus插件控制器，通过记忆动量触发器检测异常并基于紧凑混合评估集决定是否接受记忆更新，避免有害覆盖，在六个数据集上提升准确率2.7-4.6点。

AI Tokenomics: The Economics of Tokens, Computation, and Pricing in Foundation Models

AI Tokenomics：基础模型中的代币、计算与定价经济学

Quanyan Zhu

机构 * New York University Tandon School of Engineering（纽约大学坦登工程学院） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)；分类 cs.AI

AI总结 本文提出AI代币经济学框架，研究代币在AI系统中的生成、消耗、定价、分配与优化，揭示代币支出与经济价值的区别，并指出开放研究方向。

Learning What to Remember: Observability-Safe Memory Retention via Constrained Optimization for Long-Horizon Language Agents

学习记住什么：通过约束优化实现长时域语言代理的观测安全记忆保留

Qingcan Kang, Liu Mingyang, Shixiong Kai, Kaichao Liang, Tao Zhong, Mingxuan Yuan

机构 * Huawei Noah's Ark Lab（华为诺亚方舟实验室） ； Department of Computer Science, City University of Hong Kong（香港城市大学计算机科学系） 纠错

专题命中 长上下文与记忆 ：language agent(title,abstract)；分类 cs.AI

AI总结 针对长时域语言代理的有限上下文窗口，提出OSL-MR框架，将记忆保留建模为约束随机优化问题，通过在线可观测特征与离线监督的严格分离学习查询条件化的证据价值，实验表明在严格预算下优于现有方法。

Express Language Modeling

Express 语言建模

Albert Gong, Annabelle Michael Carrell, Raaz Dwivedi, Lester Mackey

机构 * Cornell Tech（康奈尔科技） ； University of Cambridge（剑桥大学） ； Microsoft Research（微软研究院） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.LG

AI总结 提出 Express 工具，将非因果注意力近似转换为因果近似，结合 Thinformer 实现最优因果注意力保证，并加速语言建模中的四个资源瓶颈。

When Does Latent Communication Pay? A Causal Audit of Relayed KV Caches in Multi-Agent LLMs

何时潜在通信能发挥作用？多智能体大语言模型中中继键值缓存的因果审计

Jiaming Cheng, Subhransu Das, Rajiv Ramnath

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI、cs.LG

AI总结 该研究通过因果审计多智能体LLM的中继KV缓存，发现仅当接收方需要发送方私有信息时，潜在通信才会发挥作用，且不匹配缓存审计是验证潜在想法传输的必要手段。

MemSFT: Mitigating Alignment Tax with an External Parametric Memory

MemSFT：使用外部参数内存减轻对齐代价

Jiarui Wang, Xiang Shi, Jiaqi Cao, Rubin Wei, Xiquan Wang, Hao Sun, Jingzhi Wang, Zhiqi Yang, Qipeng Guo, Bowen Zhou, Zhouhan Lin

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；SFT(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对大语言模型应用于特定领域产生的对齐代价问题，提出MemSFT方法，通过参数内存解耦领域专业化与主干参数更新，经多领域多模型评估，能提升领域性能且通用性能下降小，实现通用与专业能力解耦。

Comments 33 pages, 11 figures, 13 tables

A Formal Hierarchical Architecture for Agentic Orchestration with Stack-Based Execution and Lazy Discovery

一种用于智能体编排的形式化分层架构，基于栈的执行和惰性发现

Prashant Devadiga, Abhishek, Adithya Mishra, Alok Singh, Amisha Sinha, Asit Desai, Gaurang Dahad, Harshit Bhushan, Mandati Pramod Reddy, Prakhar Gupta, Rupesh Patil, Siddhi Behere

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 研究大语言模型智能体架构瓶颈，提出分层基于技能的编排架构，通过LIFO栈和惰性发现协议解决问题，防止输出泄漏，并进行数学形式化、算法分析及基准测试，为企业环境部署提供隔离保证。

Prompt Compression via Activation Aggregation

通过激活聚合进行提示压缩

Thibaud Ardoin, Semira Einsele, Evis Bregu, Gerhard Wunder

机构 * Freie Universität Berlin（柏林自由大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究探讨能否将指令提示的任务相关信息压缩成单个激活向量注入模型，利用中间层激活的学习加权和实现了这一点，压缩向量保留关键信息且准确率下降小，还揭示了语言模型激活空间的结构。

Hierarchical Sparse Attention Done Right: Toward Infinite Context Modeling

正确实现分层稀疏注意力：迈向无限上下文建模

Xiang Hu, Xinyu Wei, Hao Gu, Minshen Zhang, Tian Liang, Huayang Li, Lei Zhu, Yan Wang, Sirui Han, Yushi Bai, Kewei Tu, Haitao Mi, Leo Liang

机构 * Tencent HY Team（腾讯混元团队） ； ShanghaiTech University（上海科技大学） ； The Hong Kong University of Science and Technology（香港科技大学） ； University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；pretraining(abstract)；分类 cs.CL、cs.AI

AI总结 研究如何解决现代大语言模型扩展到长上下文时的计算成本和注意力长度外推问题。提出分层地标稀疏注意力机制，通过语言模型损失端到端学习块选择，实现高效长上下文建模。

Comments preprint

Homer: Understanding Long-form Videos with Hierarchical Memory and Agentic Reasoning

荷马：通过分层记忆和智能推理理解长视频

Yixin Ji, Fanghua Ye, Juntao Li, Bo Zhao, Zexuan Qiu, Zhaopeng Tu, Liefeng Bo, Min Zhang

机构 * Soochow University（苏州大学） ； Tencent Hunyuan Multimodal Department（腾讯混元多模态部） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究长视频理解问题，提出荷马分层在线记忆探索与推理框架，其记忆反映视频多尺度结构，智能推理器按人类方式探索记忆，通过多轮检索组合答案，性能优于此前最佳方法。

Comments under review

GateMem: Benchmarking Memory Governance in Multi-Principal Shared-Memory Agents

GateMem：多主体共享内存代理中的内存治理基准

Zhe Ren, Yibo Yang, Yimeng Chen, Zijun Zhao, Benshuo Fu, Zhihao Shu, Bingjie Zhang, Yangyang Xu, Dandan Guo, Shuicheng Yan

机构 * School of Artificial Intelligence, Jilin University（吉林大学人工智能学院） ； Shanghai Jiao Tong University（上海交通大学） ； King Abdullah University of Science and Technology (KAUST)（卡尔斯鲁厄大学） ； Tsinghua University（清华大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 提出GateMem基准，评估多主体共享内存代理在效用、访问控制和遗忘三方面的治理能力，发现现有方法无法同时满足三者。

Comments 24 pages, 8 figures. Code and dataset are available at https://github.com/rzhub/GateMem and https://huggingface.co/datasets/Ray368/GateMem

Contribution Weights: A Geometrical Analysis of Self-Attention Transformers

贡献权重：自注意力Transformer的几何分析

Harry Jake Cunningham, Nicola Muca Cirone

机构 * University of Cambridge（剑桥大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 提出基于投影的贡献权重度量，结合注意力权重、值向量大小和方向对齐，更准确识别关键令牌，并揭示注意力汇的主动抑制功能。

$τ_0$-VLA: a Hierarchical Robot Foundation Model with World-Model-Guided Test-Time Computation

$τ_0$-VLA：一种具有世界模型引导测试时计算能力的分层机器人基础模型

Xiaowei Cai, Yunuo Cai, Bingao Chen, Jingxiao Chen, Zhi Chen, Siyuan Feng, Tengyu Hou, Jingshun Huang, Han Jiang, Runkun Ju, Dong Li, Mingxiang Li, Shaowei Li, Xinchen Li, Yifan Li, Yi Liu, Zhongyuan Liu, Jianlan Luo, Junwen Miao, Ruiqi Ni, Buqing Nie, Mingjie Pan, Xinlin Ren, Jianheng Song, Jiaxu Wang, Peiqi Wang, Sen Wang, Xiaoyan Wang, Dafeng Wei, Dongming Wu, Pengwei Xie, Pu Yang, Hangjian Ye, Xiangyu Yue, Jinyu Zhang, Qinglin Zhang, Xueyong Zhao, Pengfei Zhou, Yue Zhou

机构 * Shanghai Innovation Institute（上海创新研究院） ； Agibot Finch（智元 Finch（智元鹦鹉）） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)

AI总结 $τ_0$-VLA是一种分层机器人基础模型，通过世界模型引导的测试时计算分配额外资源优化子任务生成，经40115小时异构真实数据训练后，可提升长时程机器人操作的闭环成功率。

Comments 18 pages, 5 figures. Project page: https://tau0-vla.github.io/

Discovering KV Cache Eviction Policies via LLM-Guided Program Evolution

通过大语言模型引导的程序演化发现KV缓存驱逐策略

Pratik Poudel, Yanzhao Wu, Sumit Jha, Jason Liu

专题命中 长上下文与记忆 ：LLM(title,abstract)

AI总结 本文提出CacheCraft方法，通过大语言模型引导的程序演化自动发现KV缓存驱逐策略，得到FRC评分器，在多模型多压缩率下性能优于基线，还提供了可迁移的自动策略发现方案。

Libra: Taming Attention Workload Skew in Long-Context LLM Training with Bounded Sequence Pool

天秤座：使用有界序列池驯服长上下文语言模型训练中的注意力工作负载倾斜

Yan Wang, Xiulong Yuan, Kaiming Yang, Jiaxuan Peng, Pengju Lu, Mingzhen Li, Zhipeng Zhang, Chang Si, Zhixiang Ruan, Hongqing Chen, Linlang Jiang, Siyu Wang, Langshi Chen, Rui Men, Man Yuan, Guangming Tan, Yong Li, Weile Jia, Jingren Zhou

专题命中 长上下文与记忆 ：LLM(title,abstract)

AI总结 研究长上下文语言模型训练的负载平衡问题，提出Libra方法，利用大数定律，通过有界序列池、方差减少序列放置和平铺注意力池化等技术，有效减少注意力工作负载倾斜，提高训练吞吐量。

Comments 15 pages, 15 figures

Reasoning with Memory: A Temporal Granularity-Adaptive Framework for Training-Free Long Video Understanding

利用记忆进行推理：一种用于免训练长视频理解的时间粒度自适应框架

Linghao Meng, Qiankun Li, Junyuan Mao, Pujin Liao, Zhicheng He, Enbo Zhang, Kun Wang, Yang Liu, Huazhu Fu, Yueming Jin

机构 * National University of Singapore（新加坡国立大学） ； Institute of High Performance Computing, Agency for Science, Technology and Research (A*STAR)（高性能计算研究所，科学、技术与研究机构（A*STAR）） ； Nanyang Technological University（南洋理工大学） ； University of Science and Technology of China（中国科学技术大学） ； Jilin University（吉林大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对多模态大语言模型长视频理解受限问题，提出ReMem框架，通过双级记忆增强自适应，在查询和视频级别分别处理，能适应不同时间粒度，经实验验证在多个基准测试中实现高效零样本性能，提升模型长视频推理能力。

Comments Accepted by ECCV 2026