语言大模型 / LLM

Knowledge Offloading: Decomposing LLMs into Sparse Backbones and Memory Modules

知识卸载：将大语言模型分解为稀疏骨干和记忆模块

Karim Galliamov, Rochelle Choenni, Ivan Titov

机构 * University of Amsterdam（阿姆斯特丹大学） ； University of Edinburgh（爱丁堡大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 提出知识卸载（KOFF）框架，通过结构化剪枝和轻量级恢复模块将预训练LLM分解为稀疏共享骨干和领域特定记忆，在约12%全局稀疏度下保持模型性能，并发现语言特定神经元优先被移除。

LiveBrowseComp: Are Search Agents Searching, or Just Verifying What They Already Know?

LiveBrowseComp: 搜索智能体是在搜索，还是仅仅在验证它们已知的信息？

HuiMing Fan, Xiao Wang, Zheng Chu, Qianyu Wang, Zhuoyao Wang, Ming Liu, Bing Qin, XingYu

机构 * Harbin Institute of Technology（哈尔滨理工大学） ； Xiaohongshu（小红书） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文通过诊断方法发现基于LLM的搜索智能体存在内在知识依赖（IKD），即依赖模型内部知识而非外部证据，并引入LiveBrowseComp基准来评估超越内在知识覆盖的深度搜索能力。

Learning When to Optimize: Verified Optimization Skills from Expert GPU-Kernel Lineages

学习何时优化：来自专家GPU内核谱系的验证优化技能

Shuoming Zhang, Qiuchu Yu, Yangyu Zhang, Ruiyuan Xu, Xiyu Shi, Guangli Li, Xiaobing Feng, Huimin Cui, Jiacheng Zhao

机构 * SKLP, Institute of Computing Technology, Chinese Academy of Sciences（SKLP，计算技术研究所，中国科学院） ； University of Chinese Academy of Sciences（中国科学院大学） ； University of New South Wales（新南威尔士大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 提出KLineage方法，通过反向遍历专家GPU内核实现并提取可重用的优化技能，学习优化的适用条件，从而提升LLM代理生成内核的优化质量与效率。

Comments Preprint, Under Review

MGRetrieval: Memory-Guided Reflective Retrieval for Long-Term Dialogue Agents

MGRetrieval: 面向长期对话代理的记忆引导反思检索

Tan Wang, Yunwei Dong

机构 * Northwestern Polytechnical University（西北工业大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出MGRetrieval方法，通过记忆引导的反思检索构建精确检索路径，逐步积累关键记忆，提升长期对话代理中相关证据的检索效果。

ENPMR-Bench: Benchmarking Proactive Memory Retrieval for Emotional Support Agents

ENPMR-Bench: 情感支持代理的主动记忆检索基准

Xing Fu, Yulin Hu, Mengtong Ji, Haozhen Li, Yixin Sun, Weixiang Zhao, Yanyan Zhao, Bing Qin

机构 * Research Center for Social Computing and Interactive Robotics（社会计算与交互机器人研究中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；prompting(abstract)；language agent(abstract)；分类 cs.CL

AI总结 提出ENPMR-Bench基准，基于马斯洛需求层次评估情感支持代理主动推断用户潜在情感需求并检索适当记忆的能力，实验表明当前检索范式存在显著缺陷。

Personalize-then-Store: Benchmarking and Learning Personalized Memory for Long-horizon Agents

个性化再存储：面向长时程智能体的个性化记忆基准测试与学习

Yeonjun In, Wonjoong Kim, Sangwu Park, Kanghoon Yoon, Chanyoung Park

机构 * KAIST（韩国科学技术院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对现有基于大语言模型的记忆系统采用通用静态策略忽略用户间存储上下文差异的问题，提出首个个性化记忆基准PerMemBench和会话级存储门控框架，验证个性化能显著提升记忆保留但精确门控仍是关键挑战。

Comments preprint

WhenLoss: Diagnosing Write and Retrieval Bottlenecks in Long-Context Memory Systems

WhenLoss: 诊断长上下文记忆系统中的写入与检索瓶颈

Jiangnan Yu, Kisson Songqi Lin, Jilong Wu

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 提出四条件诊断协议发现写入阶段是长上下文记忆系统的主要瓶颈，并基于此提出预期预测压缩（EPC）方法，在写入时利用LLM预测未来问题并保留关键证据，显著提升系统性能。

Comments 14 pages, 7 figures, 9 tables

MemAudit: Post-hoc Auditing of Poisoned Agent Memory via Causal Attribution and Structural Anomaly Detection

MemAudit：通过因果归因和结构异常检测对中毒代理记忆进行事后审计

Zhewen Tan, Yilun Yao, Huiyan Jin, Wenhan Yu, Guoan Wang, Mengyuan Fan, liang lu, Feng Liu, Xiangzheng Zhang, Duohe Ma, Tong Yang, Lin Sun

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； Qiyuan Tech（齐元科技） ； Laboratory of Multimedia Information Processing, School of Computer Science, Peking University（北京大学计算机科学学院多媒体信息处理实验室） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出MemAudit框架，结合反事实记忆影响评分和记忆一致性图，对记忆增强型LLM代理中的恶意注入记忆进行事后因果审计，显著降低攻击成功率。

Stage-Audit: Auditable Source-Frontier Discovery for Cross-Wiki Tables

Stage-Audit: 用于跨维基表的可审计源前沿发现

Chen Shen

机构 * Megagon Labs（梅加贡实验室） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 本文研究了LLM整理的表格可能存在的源不一致问题，提出Stage-Audit方法通过分离curator和auditor的写权限、行级源引用门禁以及12项审计分类学，提高了源前沿的精度和F1值，同时保持了每行的源可追溯性。

Comments 9 pages, 2 figures, 3 tables. Accepted at the ACM CAIS 2026 Workshop on AI Agents for Discovery in the Wild

Evaluating Memory Condensation Strategies for Coding Agents in Data-Driven Scientific Discovery

评估用于数据驱动科学发现的编码代理的记忆压缩策略

Renuka Chintalapati, Sid Raskar, Anurag Acharya, Jared Willard, Patrick Emami, Sameera Horawalavithana

机构 * Pacific Northwest National Laboratory（太平洋西北国家实验室） ； National Laboratory of the Rockies（落基山国家实验室） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 本文评估了八种记忆压缩策略在数据驱动科学发现任务中的表现，发现没有压缩器显著提升假设质量，但基于LLM的压缩器会增加24-94%的token成本，而屏蔽工具调用输出可实现8.6%的净节省，且最佳压缩器因科学领域和任务长度而异。

STRIDE: A Self-Reflective Agent Framework for Reliable Automatic Equation Discovery

STRIDE：一种用于可靠自动方程发现的自反思代理框架

Jiarui Su, Songjun Tu, Bei Sun, Xiaojun Liang

机构 * Central South University（中南大学） ； Pengcheng Laboratory（鹏城实验室） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出STRIDE框架，通过协调数据感知生成、混合拟合评估、批评-执行器修复和多样性保持语义记忆，提升自动方程发现的可靠性，实验表明其在多个LLM基础上提升了准确性、OOD鲁棒性和结构恢复能力。

Comments 23 pages, 15 figures

CORAL: Towards Autonomous Multi-Agent Evolution for Open-Ended Discovery

CORAL：迈向自主多智能体进化以实现开放性发现

Ao Qu, Han Zheng, Zijian Zhou, Yihao Yan, Yihong Tang, Shao Yong Ong, Fenglu Hong, Kaichen Zhou, Chonghe Jiang, Minwei Kong, Jiacheng Zhu, Xuan Jiang, Sirui Li, Cathy Wu, Bryan Kian Hsiang Low, Jinhua Zhao, Paul Pu Liang

机构 * MIT（麻省理工学院） ； NUS（新加坡国立大学） ； MiniMax ； McGill（麦吉尔大学） ； Stanford（斯坦福大学） ； SambaNova ； Meta ； Singapore-MIT Alliance for Research and Technology（新加坡-麻省理工联合研究技术联盟） ； Amazon（亚马逊） ； Microsoft（微软） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出CORAL框架，通过自主多智能体进化方法，实现了在开放性问题上的发现，展示了智能体自主性和多智能体进化对提升开放性发现的显著效果。

Some[Body] Must Receive That Pain for Agent Accountability

某些身体必须承受痛苦以实现代理问责

Botao Amber Hu, Helena Rong

机构 * University of Oxford（牛津大学） ； New York University Shanghai（纽约大学上海分校） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文研究了人工智能代理问责中的后果接收问题，指出当前LLM代理无法满足必要的身体条件，因此传统法律回应失效，提出需要建立社会技术基础设施来实现后果-代理耦合。

Vidya: An AI-Driven Modular Pipeline for Archival Automation and Semantic Metadata Enrichment

Vidya：一种由人工智能驱动的模块化流水线，用于档案自动化和语义元数据增强

Cloter Migliorini Filho, Julia Graciela Machado, Edson Armando Silva, Marcella Scoczynski

机构 * Laboratory for Digital Humanities and Innovation (LAMUHDI)（数字人文与创新实验室） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 Vidya利用大语言模型和开源工具实现大规模档案语义增强与自动化处理，通过YAML定义的本体和Pydantic验证生成结构化JSON输出，降低机构存储成本并符合相关标准。

Correctness-Aware Repository Filtering Under Maximum Effective Context Window Constraints

在最大有效上下文窗口约束下的正确性感知仓库过滤

Shweta Mishra

机构 * Independent Researcher（独立研究者） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出一种正确性感知的上下文卫生框架，通过预执行的大小基 heuristic 过滤器在 tokenization 前拦截仓库扫描，实现低开销的上下文优化，提升代码分析准确性。

MemReranker: Reasoning-Aware Reranking for Agent Memory Retrieval

MemReranker：面向智能体记忆检索的推理增强重排序

Chunyu Li, Mengyuan Zhang, Jingyi Kang, Ding Chen, Jiajun Shen, Bo Tang, Xuanhe Zhou, Feiyu Xiong, Zhiyu Li

机构 * China Telecom Research Institute（中国电信研究院） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 MemReranker通过多阶段LLM知识蒸馏构建，解决记忆检索中语义相关但缺乏关键信息的问题，提升重排序模型的推理能力与效率。

Useful Memories Become Faulty When Continuously Updated by LLMs

有用的记忆在由LLMs持续更新时会变得错误

Dylan Zhang, Yanshan Lin, Zhengkun Wu, Yihang Sun, Bingxuan Li, Dianqi Li, Hao Peng

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； IIIS, Tsinghua University（清华大学人工智能研究院） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究发现，即使基于有用经验，LLM生成的记忆在持续更新后可能失效，建议将原始事件作为首要证据并明确控制记忆巩固过程。

Harness Engineering as Categorical Architecture

利用工程作为范畴架构

Bogdan Banu

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出利用范畴架构三元组（G, Know, Phi）作为LLM代理的正式化框架，通过映射四个支柱到三元组组件，提供结构保证并验证了编译器在不同框架中的表现。

HAGE: Harnessing Agentic Memory via RL-Driven Weighted Graph Evolution

HAGE: 通过RL驱动的加权图进化利用代理记忆

Dongming Jiang, Yi Li, Guanpeng Li, Qiannan Li, Bingzhe Li

机构 * Department of Computer Science, The University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系） ； Department of Electrical and Computer Engineering, University of Florida（佛罗里达大学电气与计算机工程系） ； University of California, Davis（加州大学戴维斯分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 HAGE提出了一种加权多关系记忆框架，通过RL驱动的训练框架优化路由行为和边表示，提升长周期推理准确性和效率。

FocuSFT: Bilevel Optimization for Dilution-Aware Long-Context Fine-Tuning

FocuSFT：基于稀释意识的长上下文微调的双层优化

Zehua Pei, Hui-Ling Zhen, Xianzhi Yu, Sinno Jialin Pan, Mingxuan Yuan, Bei Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

专题命中 长上下文与记忆 ：SFT(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 FocuSFT通过双层优化框架解决长上下文微调中注意力稀释问题，提升模型在长上下文下的准确性和表现。

When Child Inherits: Modeling and Exploiting Subagent Spawn in Multi-Agent Networks

当子代理继承：在多代理网络中建模和利用子代理生成

Ziwen Cai, Yihe Zhang, Xiali Hei

机构 * University of Louisiana at Lafayette（路易斯安那州立大学拉弗奈分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文研究多代理网络中子代理继承带来的安全风险，指出继承内存可能传播恶意指令，提出通过显式安全不变量进行防御。

GASim: A Graph-Accelerated Hybrid Framework for Social Simulation

GASim：一种用于大规模社会模拟的图加速混合框架

Xuan Zhou, Yanhui Sun, Hantao Yao, Allen He, Yongdong Zhang, Wu Liu

机构 * University of Science and Technology of China（中国科学技术大学） ； BASIS International School（BASIS国际学校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出GASim框架，通过图优化内存和图消息传递提升大规模社会模拟效率，实现9.94倍速度提升并降低计算成本。

HMACE: Heterogeneous Multi-Agent Collaborative Evolution for Combinatorial Optimization

HMACE：异构多智能体协作进化用于组合优化

Yuping Yan, Jirui Han, Fei Ming, Yuanshuai Li, Yaochu Jin

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出HMACE框架，通过异构多智能体协作解决组合优化问题，通过策略探索、可执行启发式合成、经验评估和记忆更新四个智能体实现高效启发式搜索，提升搜索质量和效率。

Contextual Memory-Enhanced Source Coding for Low-SNR Communications

上下文记忆增强的信源编码用于低信噪比通信

Ziqiong Wang, Rongpeng Li

机构 * College of Information Science and Electronic Engineering（信息科学与电子工程学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出一种内存增强的信源编码方案，通过内部化上下文模式提升信源编码的鲁棒性，减少残余信道错误对解码的影响，实验验证其有效性。

AdaMem: Adaptive User-Centric Memory for Long-Horizon Dialogue Agents

AdaMem：面向长时对话代理的自适应用户导向记忆

Shannan Yan, Jingchen Ni, Leqi Zheng, Jiajun Zhang, Peixi Wu, Dacheng Yin, Jing Lyu, Chun Yuan, Fengyun Rao

机构 * Tsinghua University（清华大学） ； WeChat Vision, Tencent Inc.（腾讯微信视觉实验室） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 AdaMem通过自适应用户导向记忆框架提升长时对话代理的长时推理与用户建模能力，采用统一框架整合工作记忆、事件记忆、人格记忆和图记忆，实现高效信息组织与推理。

MultiHedge: Adaptive Coordination via Retrieval-Augmented Control

MultiHedge：通过检索增强控制实现自适应协调

Feliks Bańka, Jarosław A. Chudziak

机构 * The Faculty of Electronics and Information Technology（电子与信息技术学院） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出MultiHedge框架，通过检索增强的LLM协调提升模块化决策系统的鲁棒性，实验表明记忆增强比单纯扩大模型规模更有效。

Comments 8 pages, 2 figures. Accepted to the 26th International Conference on Computational Science (ICCS 2026), to appear in Springer LNCS proceedings

MemRec: Collaborative Memory-Augmented Agentic Recommender System

MemRec：协同记忆增强的代理推荐系统

Weixin Chen, Yuhan Zhao, Jingyuan Huang, Zihe Ye, Clark Mingxuan Ju, Tong Zhao, Neil Shah, Li Chen, Yongfeng Zhang

机构 * Hong Kong Baptist University（香港 Baptist大学） ； Rutgers University（罗格斯大学） ； Snap Inc.（Snap公司） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MemRec通过引入协同记忆机制，解决传统推荐系统中记忆隔离导致的上下文过载问题，通过轻量级语言模型管理动态记忆图谱，提升推荐精度与效率。

Comments Accepted at ACL 2026 Main Conference

BLASST: Dynamic BLocked Attention Sparsity via Softmax Thresholding

BLASST: 通过Softmax阈值实现动态阻塞注意力稀疏性

Jiayi Yuan, Cameron Shinn, Kai Xu, Jingze Cui, George Klimiashvili, Guangxuan Xiao, Perkz Zheng, Bo Li, Yuxin Zhou, Zhouhai Ye, Weijie You, Tian Zheng, Dominic Brown, Pengbo Wang, Markus Hoehnerbach, Richard Cai, Julien Demouth, John D. Owens, Xia Hu, Song Han, Timmy Liu, Huizi Mao

机构 * Anonymous Institution, Anonymous City, Anonymous Region, Anonymous Country（匿名机构，匿名城市，匿名地区，匿名国家） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 BLASST通过Softmax阈值实现动态稀疏注意力机制，提升LLM长上下文推理效率，无需训练，减少预计算，优化硬件支持，实现1.52x和1.48x的加速效果。

CHORUS: An Agentic Framework for Generating Realistic Deliberation Data

CHORUS：生成真实辩论数据的代理框架

A. Koursaris, G. Domalis, A. Apostolopoulou, K. Kanaris, D. Tsakalidis, I. E. Livieris

机构 * Novelcore 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出CHORUS框架，通过LLM驱动的代理生成真实辩论数据，结合记忆机制和泊松过程模型，提升讨论的现实性和分析价值。

Comments This paper has been accepted for presentation at Engineering Applications and Advances of Artificial Intelligence 2026

The OpenHands Software Agent SDK: A Composable and Extensible Foundation for Production Agents

OpenHands软件代理SDK：一种可组合且可扩展的生产代理基础

Xingyao Wang, Simon Rosenberg, Juan Michelini, Calvin Smith, Hoang Tran, Engel Nyst, Rohit Malhotra, Xuhui Zhou, Valerie Chen, Robert Brennan, Graham Neubig

机构 * MLSys 2026 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出OpenHands SDK，提供灵活的代理实现接口、安全可靠执行及用户交互接口，整合了本地到远程执行、多LLM路由和安全分析，验证了其在生产部署中的有效性。

Comments Accepted at MLSys 2026