语言大模型 / LLM

StateFlow: Sequence Pipeline Parallelism for Long-Context Modeling with Linear Recurrence

StateFlow：用于长上下文建模的序列流水线并行方法，基于线性循环

Wenxuan Zhao, Yingfa Chen, Xu Han, Wenjing Han, Tianbo Huang, Zhiyu Li, Ao Sun, Jingheng Xu, Lin Gan, Guangwen Yang

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 针对长上下文训练并行化难题，提出StateFlow序列流水线并行系统，通过分块调度、非均匀分块等优化，在32B参数、256K上下文模型上实现吞吐量与内存性能提升。

Translation Tag Team: Formal Rules and LLMs Translate More Macros Together than Apart

翻译搭档团队：形式化规则与大语言模型协同翻译宏比单独翻译更有效

Brent Pappas, Joseph Zalusky, Zachary Burkett, Paul Gazzillo

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 该研究提出形式化翻译器MerC，结合MerC与大语言模型（LLMs）的搭档方法，在宏翻译任务中比单独使用任一技术更优，可降低失败率并提升翻译覆盖率。

Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026

EchoVLA: Robotic Vision-Language-Action Model with Synergistic Declarative Memory for Mobile Manipulation

EchoVLA：用于VLA驱动移动操作的协同声明记忆

Min Lin, Xiwen Liang, Bingqian Lin, Jingzhi Liu, Zijian Jiao, Kehan Li, Ziang Yan, Yu Sun, Weijia Liufu, Yuhan Ma, Jiarui Hu, Yuecheng Liu, Shen Zhao, Yuzheng Zhuang, Xiaodan Liang

机构 * Shenzhen Campus of Sun Yat-sen University, Shenzhen, China（中山大学深圳校区） ； Shanghai Jiao Tong University, Shanghai, China（上海交通大学） ； Huawei Noah's Ark Lab, China（华为诺亚方舟实验室） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 EchoVLA通过协同声明记忆提升移动操作性能，结合场景与事件记忆，利用注意力融合指导基臂策略，实现高效导航与操作。

MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off

MemoryCPT：用于成本-性能权衡的端到端智能体记忆框架

Songxin Lei, Kun Ouyang, Weilin Ruan, Yuqian Wu, Zhijiang Guo, Yushi Sun, Fugee Tsung

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 MemoryCPT是一种端到端可训练的智能体记忆框架，通过QAD和QAR阶段优化记忆处理，在LoCoMo和LongMemEval数据集上实现了更优的成本-性能权衡。

MESH: Memory-Efficient Sinkhorn Optimization for Mixture-of-Experts Training

MESH：面向混合专家模型训练的内存高效Sinkhorn优化算法

Masato Fujitake

专题命中 长上下文与记忆 ：pretraining(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对MoE训练中直接应用内存高效Sinkhorn优化不可靠的问题，提出MESH算法，在降低优化器内存占用的同时保留接近AdamW的性能。

Comments 10 pages

Towards Autonomous Formulaic Alpha Discovery: An Evolutionary Computation Perspective

面向自主公式化阿尔法发现：进化计算视角

Xinwei Yu, Yiyang Fu, Mingcheng Fan, Enqi Li, Yilin Gao, Shugong Xu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文从进化计算视角，提出自动化公式化阿尔法发现的统一分析与评估框架，为开发可靠的自主阿尔法发现系统奠定基础。

Remember-R1: Mitigating Long-Context Visual Forgetting through Reinforcement Learning

Remember-R1：通过强化学习缓解长上下文视觉遗忘

Jianmin Chen, Jiaqi Tang, Wei Wei, Xiaogang Xu, Jiafei Wu, Zhe Liu, Qianzhou Wang, Yingying Yan, Botong Geng, Yuyang Xia, Lei Zhang, Qifeng Chen

机构 * Northwestern Polytechnical University（西北工业大学） ； Hong Kong University of Science and Technology（香港科技大学） ； Zhejiang University（浙江大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 该研究针对多模态大语言模型的长上下文视觉遗忘问题，提出强化学习框架Remember-R1，通过过程级监督优化视觉依赖与注意力，提升了多模态推理性能。

Comments Accepted by ACM Multimedia 2026

MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems

MAPLE-Guard：多智能体系统中针对内存链接投毒的内存感知链接执行防御机制

Wenjun Xiong, Yijin Zhou, Jiaqian Wang, Shangding Gu, Bo Tang, Zhiyu Li, Feiyu Xiong, Ying Wen, Muning Wen

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 MAPLE-Guard通过在多智能体系统内存生命周期的关键环节设置防御关卡，大幅降低内存链接投毒攻击的成功率，提升多智能体防御成功率，填补了现有防御的空白。

Comments 27 pages, 14 figures, 9 tables. Includes examples that may be misleading or harmful. Code: https://github.com/xiong-wenjun/MAPLE-Guard

HAM-VLN: Harnessing Hierarchical Agentic Memory for Zero-Shot Vision-and-Language Navigation

HAM-VLN：利用分层智能体记忆实现零样本视觉与语言导航

An Liu, Bingxi Liu, Hongyu Ding, Yixuan Jiang, Yaran Chen, Fulin Tang, Cong Leng, Hong Zhang, Jian Cheng

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本研究提出HAM-VLN零样本VLN方法，通过分层智能体记忆缓解长程导航的记忆与推理瓶颈，提升导航指标并缩短上下文长度，在多个基准数据集上取得优异零样本性能。

Thinking Once Is Enough: Intermediate-Layer Evidence Routing for High-Resolution VQA

一次思考足矣：面向高分辨率视觉问答的中间层证据路由

Zhongkuan Mao, Xianjie Liu, Tianyu Meng, Yidong Wang, Wenzhuo Zhao, Ronghao Xian, Yao Jiang, Fei Shen, Junfeng Fang, Yong Dai, Yi Zhang, Keren Fu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文针对高分辨率视觉问答提出无需训练的Thinking-Once证据路由方法，通过利用中间层留存的细粒度证据，在多个基准上提升性能并降低内存与推理时间。

Better Call Grep: Evaluating and Improving Grep-Like Lexical Retrieval for Repository-Level Code Completion

更好地调用Grep：评估和改进用于仓库级代码补全的类Grep词汇检索方法

Baoyi Wang, Xingliang Wang, Guochang Li, Chen Zhi, Junxiao Han, Xinkui Zhao, Nan Wang, Shuiguang Deng, Jianwei Yin

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文评估改进类Grep词汇检索，提出Naive GrepRAG基线，又结合后处理流水线的GrepRAG在代码补全任务上优于SOTA，为轻量检索支撑仓库级代码补全提供方案。

Comments ISSTA2026

LENS: Adaptive Spatio-Temporal Zooming for Keyframe Sampling in Long-Form Videos

LENS：用于长视频关键帧采样的自适应时空缩放

Ce Zhang, Jinxi He, Katia Sycara, Yaqi Xie

机构 * Robotics Institute, Carnegie Mellon University（卡内基梅隆大学机器人研究所） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 研究针对长视频理解受限于上下文窗口的问题，提出无需训练的关键帧采样框架LENS，它能基于文本查询动态分配帧预算，在时空缩放间平衡，提升关键帧采样效果，优于现有方法，提高了Video-MME准确率。

Comments Accepted at ECCV 2026. Project page: https://zhangce01.github.io/LENS/

HiMemVLN: Enhancing Reliability of Open-Source Zero-Shot Vision-and-Language Navigation with Hierarchical Memory System

HiMemVLN：通过分层记忆系统增强开源零样本视觉-语言导航的可靠性

Kailin Lyu, Kangyi Wu, Pengna Li, Xiuyu Hu, Qingyi Si, Cui Miao, Ning Yang, Zihang Wang, Long Xiao, Lianyu Hu, Jingyuan Sun, Ce Hao

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本文提出HiMemVLN，通过分层记忆系统提升开源零样本视觉-语言导航的可靠性，解决导航遗忘问题，实现实验环境下的性能提升。

Comments 9 pages, 7 figures

ETPDesigner: Multi-Agent Orchestration for Interactive Multimodal Electronic Theater Program

ETPDesigner：用于交互式多模态电子剧院节目的多智能体编排

Mengtian Li, Xinru Guo, Xiaoru Lin, Xiao Rong, Zhifeng Xie, Chaofeng Chen

机构 * Shanghai University（上海大学） ； Shanghai Engineering Research Center of Motion Picture Special Effects（上海电影特效工程技术研究中心） ； Institute for Math and AI, Wuhan School of Artificial Intelligence, Wuhan University（武汉大学数学与人工智能研究院武汉人工智能学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 研究针对电子剧院节目设计难题，提出ETPDesigner多智能体框架，能从戏剧脚本合成高质量ETP，通过全局风格锚定机制保证一致性，还实现交互功能，经ETP-Pro基准测试验证了方法在多方面的优越性。

TraceDev: A Traceability-Driven Multi-agent Framework for Requirement-to-Code Development

TraceDev：一种用于需求到代码开发的可追溯性驱动的多智能体框架

Mingyu Chen, Yakun Zhang, Zihao Xie, Yixing Luo, Jinrui Xu, Cuiyun Gao, Kaiqi Zhao, Yunming Ye

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 针对现有方法在自然语言需求到代码转换中存在的不足，提出TraceDev多智能体框架，通过五个特定角色智能体及可追溯性图，实现自动化软件开发，在两个数据集上的评估结果证明了其在需求到代码生成上的有效性。

Comments Accepted by ISSTA 2026

Sim-FA: A GPGPU Simulator Framework for Fine-Grained Asynchronous Pipeline Analysis

Sim-FA：异步流水线的模拟前端

Zhongchun Zhou, Yuhang Gu, Chengtao Lai, Ya Wang, Zeyu Han, Wei Zhang, Jun Liu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文提出Sim-FA模拟器，用于高效支持大语言模型，通过模拟流水线实现高精度性能评估，并分析FlashAttention-3的流量估计问题。

Comments This work has been submitted to the IEEE for possible publication

HiCI: Hierarchical Construction-Integration for Long-Context Attention

HiCI：层次化构造-整合用于长上下文注意力

Xiangyu Zeng, Qi Xu, Yunke Wang, Chang Xu

机构 * School of Computer Science, University of Sydney（悉尼大学计算机科学学院） ； Westlake University（西湖大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 HiCI通过层次化构造-整合模块，提升长上下文注意力模型的性能，通过参数高效适应LLaMA-2，将上下文长度扩展至10万和6.4万token，并在多个基准测试中超越现有模型。

Comments 20 pages, 5 figures

Who Needs DRAM? We Have Fiber

谁需要DRAM？我们有光纤

Hannah Atmer, Yuan Yao, Thiemo Voigt, Stefanos Kaxiras

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 针对生成式AI对高性能内存需求及超大规模数据中心扩张带来的DRAM压力，提出光纤内存架构，通过考虑光纤物理特性的架构设计及相关技术应用，可消除冗余存储并大幅降低权重传输能量。

A hierarchical memory architecture overcomes context limits in long-horizon multi-agent computational modeling

分层内存架构克服长期多智能体计算建模中的上下文限制

Shivendra G. Tewari, Holly Kimko

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 研究针对大语言模型在长期多智能体计算建模中因无状态架构受限的问题，提出Ensemble QSP多智能体框架，其分层内存架构可保持上下文稳定，经测试能自主进行药代动力学 - 药效学模型选择，提升参数恢复能力，且架构与领域无关。

Comments 19 pages, 4 figures, 2 tables. Preprint submitted for publication

SLVMBench: Skill Learning from Video Memory

SLVMBench：从视频记忆中学习技能

Yudong Yang, Guangzhi Sun, Yixuan Li, Chao Zhang

机构 * Tsinghua University（清华大学） ； University of Cambridge（剑桥大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 SLVMBench是首个用于评估视频大语言模型从长视频记忆学习技能并应用于实时任务能力的基准测试，通过特定视频流和人工标注进行测试，发现现有视频LLMs在此方面有局限。

NGM-RAG: Neural Graph Matching based Retrieval-Augmented Generation

NGM-RAG：基于神经图匹配的检索增强生成

Guo Chen, Ziwen Li, Maolin Zheng, Hao Gao, Junjie Huang, Tao Jia

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 研究针对传统RAG方法在处理复杂问题时的局限，提出基于神经图匹配的检索增强生成框架NGM-RAG，将图构建、匹配与答案生成统一，结合文本匹配和GNN，采用自适应加权策略，实验证明该模型在多跳问答等任务中性能优越。

Watts This Smell: A Comprehensive Taxonomy of Software Energy Smells

一种经过验证的软件能耗异味分类

Mohammadjavad Mehditabar, Saurabhsingh Rajput, Tushar Sharma

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本文提出了一种全面的软件能耗异味分类，通过系统文献综述和雪球抽样，将320种低效模式分类为12种主要能耗异味和65种根本原因。通过实证验证，发现71%的样本存在多种共存的异味，内存相关异味的修复节能效果最高。

pykci: A Compact Urban Knowledge Graph for Semantic and Spatial Queries using LLMs

pykci: 一个用于利用大语言模型进行语义和空间查询的紧凑城市知识图谱

Huynh Duc An Son Nguyen, Lukas Arzoumanidis, Youness Dehbi

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 提出pykci系统，将CityGML 2.0数据集转换为Neo4j紧凑城市知识图谱，通过大语言模型实现自然语言查询，支持语义和空间查询，减少幻觉并提供可审计来源。

Multi-Head Recurrent Memory Agents

多头递归记忆智能体

Jiatong Li, Samuel Yeh, Sharon Li

机构 * Department of Computer Science, University of Wisconsin-Madison（威斯康星大学麦迪逊分校计算机科学系） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对递归记忆智能体在长上下文中性能退化问题，提出多头递归记忆（MHM）框架，通过分阶段选择-更新策略隔离记忆头，显著提升记忆保持率和端到端准确性。

Comments 19 pages, 11 figures, 5 tables

The Organizational Behavior of Agentic AI: Collective Intelligence in Human-Agent Workflows

代理型人工智能的组织行为：人机协作中的集体智能

Canhui Liu

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本文探讨代理型AI集体在组织中的行为，提出其通过上下文架构而非人类动机维持组织模式，并发展上下文交易成本理论解释人机组织行为的异同。

KernelFlume: Elastic Core-Attention Scaling for Agentic Long-Context Decoding

KernelFlume: 面向智能体长上下文解码的弹性核心注意力扩展

Guangyu Xiang, Xueze Kang, Lin Zhang, Wenxiang Lin, Shaohuai Shi, Yuxin Wang, Xiaowen Chu

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 针对智能体长上下文解码中突发性长上下文需求超出部署容量的问题，提出KernelFlume架构，通过解耦投影/FFN路径与核心注意力计算，实现无权重注意力节点的弹性扩展，在降低延迟的同时显著降低输出成本。

From Determinism to Delegation: AI-Native Software Engineering and the Evolution of the Agentic Engineer

从确定性到委托：AI原生软件工程与智能体工程师的演进

Mamdouh Alenezi

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文提出AI原生软件工程是范式转变，定义新职业角色“智能体工程师”，其核心工件从程序转向智能体系统，并分析工作单元、正确性和问责制的三大转变。

Memory Shot for Long-Term Dialogue

长期对话的记忆快照

Chunyi Peng, Haidong Xin, Xuanshuo Sheng, Xin Dai, Zhenghao Liu, Shuo Wang, Yukun Yan, Zulong Chen, Yu Gu, Ge Yu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 提出MemShot方法，通过将对话片段渲染为结构化视觉记忆单元，利用模型内部视觉推理能力关联关键情节，实现高效长期对话建模，在LoCoMo和LongMemEval上取得稳定性能并实现70倍加速。

KISS Sorcar: A Stupidly-Simple General-Purpose and Software Engineering AI Assistant

KISS Sorcar：一个简单通用且软件工程友好的AI助手

Koushik Sen

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 KISS Sorcar基于KISS Agent Framework构建，通过五层代理架构解决传统AI助手的缺陷，实现高质量代码生成与多任务处理，测试显示其在Terminal Bench 2.0上的通过率较高。

Beyond Sequential Distance: Inter-Modal Distance Invariant Position Encoding

超越序列距离：模态间距离不变位置编码

Lin Chen, Bolin Ni, Qi Yang, Zili Wang, Kun Ding, Ying Wang, Houwen Peng, Shiming Xiang

机构 * MAIS, Institute of Automation, Chinese Academy of Sciences, China（MAIS，自动化研究所，中国科学院，中国） ； University of Chinese Academy of Sciences, China（中国科学院大学，中国） ； Tencent Hunyuan Team, China（腾讯文言团队，中国） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 针对多模态大模型在长上下文中的视觉衰减问题，提出模态间距离不变位置编码（DIPE），通过解耦模态间位置编码消除距离惩罚，保持视觉感知一致性，显著缓解视觉衰减。