arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 12698 信号源:cs.CL, cs.AI, cs.LG

1. 长上下文与记忆 665 篇

2608.21918 2026-08-25 cs.MA 新提交 67%

OptiMAS: Automatically Optimize Multi-Agent System

OptiMAS:自动优化多智能体系统

Yuxin Cheng, Chang Liu, Hanxin Yu, Haochen Tan, Taiqiang Wu, Weiqiang Jin, Jie Ran, Kaibo Wang, Xiaoguang Li, Haoli Bai, Graziano Chesi, Ngai Wong

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 针对现有多智能体系统演化方法的权衡问题,提出基于ReAct的OptiMAS优化器,通过双轨记忆机制在四类基准上优于或媲美手工系统与现有演化方法,为自动化MAS演化奠定里程碑。

Comments EMNLP 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.20709 2026-08-24 math.OC 新提交 67%

ResiliFlow: An Open Transport World Model for Infrastructure Perception and Disaster Resilience

ResiliFlow:面向基础设施感知与灾害韧性的开放交通世界模型

Junxiang Xu, Vinayak Dixit, S. Travis Waller, Divya Jayakumar Nair, Qianwen, Guo, Sisi Jian, Xiao Wen, Ashutosh Ashutosh, Sunhyung Yoo, Julius Secadiningrat, Jingni Guo

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 ResiliFlow是面向基础设施感知与灾害韧性的开放交通世界模型平台,整合两类工作空间功能,实现交通模型的可检查复用,支撑研究协作与公众监督。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19181 2026-08-20 cs.LG cs.AI cs.CL 新提交 67%

Beyond Teacher Likelihood: Group-Calibrated On-Policy Distillation for Long-Context Reasoning

超越教师似然:面向长上下文推理的组校准在线策略蒸馏

Zhu Zhang, Jixun Wang, Xiaoang Xu, Xiaorong Wang, Zihan Zhou, Zhiyuan Wang, Shuo Wang, Chaojun Xiao, Yuezhi Zhou

机构 * Tsinghua University(清华大学) Beijing University of Posts and Telecommunications(北京邮电大学) OpenBMB

专题命中 长上下文与记忆 :post-training(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对长上下文推理中 OPD 的教师-验证器分歧问题,提出 GC-OPD 方法,结合验证器结果优化 OPD,在五个长上下文基准上显著提升 Qwen3 模型性能。

Comments 20 pages, 5 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.19059 2026-08-20 cs.RO cs.CV 新提交 67%

LT-Mem: Volatility-Aware Spatio-Temporal Memory for Lifelong Scene Understanding

LT-Mem:面向终身场景理解的感知时间动态的时空记忆

Yumin Lee, Hyoseok Ju, Giseop Kim

机构 * DGIST(大邱庆北科学技术院)

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 该研究针对机器人长期场景理解的时间遗忘问题,提出LT-Mem时空记忆框架,结合多会话SLAM与Tri-Memory结构,在LT-VQA数据集上性能优于基线且token消耗更少。

Comments 8 pages, 8 figures, 6 tables. Accepted to the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16944 2026-08-19 cs.DS 新提交 67%

A Tight Linear Deterministic Competitive Ratio for Fully Online KV-Cache Scheduling

全在线KV缓存调度的紧线性确定性竞争比

Ian D'Ambrosio

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 该研究针对全在线KV缓存调度问题,通过构造困难实例得到确定性竞争比下界,利用均匀因果串行策略得到上界,在Lean 4中完成机器验证,证明其竞争比为紧线性的Θ(n)。

Comments 6 pages. The exact fully online model, fixed-memory-before-scheduler quantifier order, serial upper bound, and wide-short lower bound are checked in Lean 4. A separate reproducibility archive contains pinned-source bootstraps, exact finite controls, formal proofs, tests, and canonical SHA-256 manifests

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16844 2026-08-18 cs.LG cs.AI cs.CL 新提交 67%

Proteus: Incremental Memory Activation for Long-Context Sequence Modeling

Proteus:面向长上下文序列建模的增量式内存激活机制

Reza Bayat, Ali Behrouz, Vahab Mirrokni, Aaron Courville

机构 * Mila(米拉计算科学研究所) Google(谷歌公司)

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 Proteus 是一种增量式内存激活机制,可嵌入多种神经内存架构,应用于 SWLA 等模型后,能在长上下文相关任务上实现性能提升,证明调度有效容量对序列建模的适用性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.16551 2026-08-18 cs.CR 新提交 67%

What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents

该记住什么,该透露什么:面向对话智能体的隐私感知记忆

Wenjie Wang, Wenhe Si, Xinyue Xu, Yue Xu

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 该研究针对对话智能体的隐私风险,提出SP-Mem隐私感知记忆架构,通过全生命周期隐私设计实现更强个性化并减少不必要隐私暴露,还构建了相关基准。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.13578 2026-08-17 cs.CL cs.AI cs.LG 新提交 67%

BCMT: Blockwise Causal Memory Transformer

BCMT:分块因果记忆Transformer

Rachid Arezki

专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出BCMT架构,通过分块局部自注意力与指数因果记忆解耦长程依赖建模,在1024token上下文的语言建模中,性能与密集Transformer相当,且训练吞吐量更高、内存消耗更低。

Comments 19 pages. Official implementation: https://github.com/rachidlabs/BCMT

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09181 2026-08-11 cs.SE cs.CR 新提交 67%

Memoir: Learning, Verifying, and Evolving False-Positive Memories for Static Application Security Testing Tools

Memoir:针对静态应用安全测试工具的误报记忆学习、验证与演化

Shenyuan Guan, Qiaodan Hou, Yanjun Chen, Xincheng Wen, Jia Feng, Keke Lian, Cuiyun Gao

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 本研究针对SAST工具的误报问题,提出Memoir框架,通过构建与演化语义记忆实现误报识别,在CWE-Bench-Java上表现优异,且记忆库可跨工具泛化。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08995 2026-08-11 cs.MA 新提交 67%

Muscle Memory for Agents: Compile not Merely Retrieve

智能体的肌肉记忆:编译而非仅检索

Pouya Ghiasnezhad Omran, Soujanya Lanka, Qin Zhang, Tanya Dixit

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 本文提出将重复用户意图编译为专用专家智能体的肌肉记忆范式,通过四阶段流水线实现,在90个场景中专家触发时胜率达88.9%,优于传统检索模式,为智能体记忆设计提供新方向。

Comments 12 pages, 2 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.08075 2026-08-11 cs.IR cs.CV cs.MM 新提交 67%

Search over the Visual World: Persistent Visual Memory, Layered Indexes, and Source-Grounded Evidence

视觉世界的搜索:持久视觉记忆、分层索引与基于源的证据

Sankalp Nagaonkar, Rohit Garg, Ankit Raj, Ashish Choithani, Ashutosh Trivedi

机构 * VideoDB(视频数据库)

专题命中 长上下文与记忆 :foundation model(abstract);pretraining(abstract)

AI总结 该研究针对智能体持续观测视觉数据的场景,提出基于持久视觉记忆等的视频检索基础设施模型,经9800+查询对比,通用组件流水线在Recall@1/@3/@10上优于商业视频原生引擎

Comments 33 pages, 5 figures, 17 tables. Technical report. Benchmark configurations and reproduction instructions: https://github.com/video-db/search-over-the-visual-world

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.09508 2026-08-11 physics.app-ph cond-mat.mtrl-sci 新提交 67%

200 mm Wafer-Scale Monolithic 3D Integration of Atomic Layer-Deposited Oxide Semiconductors

200毫米晶圆级原子层沉积氧化物半导体的单片三维集成

Chang Niu, Linjia Long, Luqi Zheng, Shuting Du, Jian-Yu Lin, Kisoo Nam, Zehao Lin, Chang Liu, Juanjuan Lu, Haiyan Wang, Haitong Li, Peide D. Ye

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本研究实现200毫米晶圆级三层ALD InOx基器件的M3D集成,开发四层三维存算一体加速器,为下一代AI硬件提供可扩展且兼容CMOS的平台。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06838 2026-08-10 cs.DC 新提交 67%

StateFlow: Sequence Pipeline Parallelism for Long-Context Modeling with Linear Recurrence

StateFlow:用于长上下文建模的序列流水线并行方法,基于线性循环

Wenxuan Zhao, Yingfa Chen, Xu Han, Wenjing Han, Tianbo Huang, Zhiyu Li, Ao Sun, Jingheng Xu, Lin Gan, Guangwen Yang

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 针对长上下文训练并行化难题,提出StateFlow序列流水线并行系统,通过分块调度、非均匀分块等优化,在32B参数、256K上下文模型上实现吞吐量与内存性能提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.06705 2026-08-10 cs.SE 新提交 67%

Translation Tag Team: Formal Rules and LLMs Translate More Macros Together than Apart

翻译搭档团队:形式化规则与大语言模型协同翻译宏比单独翻译更有效

Brent Pappas, Joseph Zalusky, Zachary Burkett, Paul Gazzillo

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 该研究提出形式化翻译器MerC,结合MerC与大语言模型(LLMs)的搭档方法,在宏翻译任务中比单独使用任一技术更优,可降低失败率并提升翻译覆盖率。

Comments 13 pages, 7 figures, 2 tables, 8 listings, conference. To be published in ASE 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.04843 2026-08-06 cs.IR 新提交 67%

MemoryCPT: An End-to-End Agent Memory Framework for Cost-Performance Trade-off

MemoryCPT:用于成本-性能权衡的端到端智能体记忆框架

Songxin Lei, Kun Ouyang, Weilin Ruan, Yuqian Wu, Zhijiang Guo, Yushi Sun, Fugee Tsung

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 MemoryCPT是一种端到端可训练的智能体记忆框架,通过QAD和QAR阶段优化记忆处理,在LoCoMo和LongMemEval数据集上实现了更优的成本-性能权衡。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.04407 2026-08-06 cs.LG cs.AI cs.CL 新提交 67%

MESH: Memory-Efficient Sinkhorn Optimization for Mixture-of-Experts Training

MESH:面向混合专家模型训练的内存高效Sinkhorn优化算法

Masato Fujitake

专题命中 长上下文与记忆 :pretraining(abstract);分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对MoE训练中直接应用内存高效Sinkhorn优化不可靠的问题,提出MESH算法,在降低优化器内存占用的同时保留接近AdamW的性能。

Comments 10 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.01789 2026-08-04 cs.NE 新提交 67%

Towards Autonomous Formulaic Alpha Discovery: An Evolutionary Computation Perspective

面向自主公式化阿尔法发现:进化计算视角

Xinwei Yu, Yiyang Fu, Mingcheng Fan, Enqi Li, Yilin Gao, Shugong Xu

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文从进化计算视角,提出自动化公式化阿尔法发现的统一分析与评估框架,为开发可靠的自主阿尔法发现系统奠定基础。

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.01314 2026-08-04 cs.CV 新提交 67%

Remember-R1: Mitigating Long-Context Visual Forgetting through Reinforcement Learning

Remember-R1:通过强化学习缓解长上下文视觉遗忘

Jianmin Chen, Jiaqi Tang, Wei Wei, Xiaogang Xu, Jiafei Wu, Zhe Liu, Qianzhou Wang, Yingying Yan, Botong Geng, Yuyang Xia, Lei Zhang, Qifeng Chen

机构 * Northwestern Polytechnical University(西北工业大学) Hong Kong University of Science and Technology(香港科技大学) Zhejiang University(浙江大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 该研究针对多模态大语言模型的长上下文视觉遗忘问题,提出强化学习框架Remember-R1,通过过程级监督优化视觉依赖与注意力,提升了多模态推理性能。

Comments Accepted by ACM Multimedia 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2608.00426 2026-08-04 cs.MA cs.CR 新提交 67%

MAPLE-Guard: Memory-Aware Link Enforcement Against Memory-Link Poisoning in Multi-Agent Systems

MAPLE-Guard:多智能体系统中针对内存链接投毒的内存感知链接执行防御机制

Wenjun Xiong, Yijin Zhou, Jiaqian Wang, Shangding Gu, Bo Tang, Zhiyu Li, Feiyu Xiong, Ying Wen, Muning Wen

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 MAPLE-Guard通过在多智能体系统内存生命周期的关键环节设置防御关卡,大幅降低内存链接投毒攻击的成功率,提升多智能体防御成功率,填补了现有防御的空白。

Comments 27 pages, 14 figures, 9 tables. Includes examples that may be misleading or harmful. Code: https://github.com/xiong-wenjun/MAPLE-Guard

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.29600 2026-08-03 cs.RO 新提交 67%

HAM-VLN: Harnessing Hierarchical Agentic Memory for Zero-Shot Vision-and-Language Navigation

HAM-VLN:利用分层智能体记忆实现零样本视觉与语言导航

An Liu, Bingxi Liu, Hongyu Ding, Yixuan Jiang, Yaran Chen, Fulin Tang, Cong Leng, Hong Zhang, Jian Cheng

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 本研究提出HAM-VLN零样本VLN方法,通过分层智能体记忆缓解长程导航的记忆与推理瓶颈,提升导航指标并缩短上下文长度,在多个基准数据集上取得优异零样本性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.27830 2026-07-31 cs.CV 新提交 67%

Thinking Once Is Enough: Intermediate-Layer Evidence Routing for High-Resolution VQA

一次思考足矣:面向高分辨率视觉问答的中间层证据路由

Zhongkuan Mao, Xianjie Liu, Tianyu Meng, Yidong Wang, Wenzhuo Zhao, Ronghao Xian, Yao Jiang, Fei Shen, Junfeng Fang, Yong Dai, Yi Zhang, Keren Fu

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 本文针对高分辨率视觉问答提出无需训练的Thinking-Once证据路由方法,通过利用中间层留存的细粒度证据,在多个基准上提升性能并降低内存与推理时间。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.25125 2026-07-29 cs.CV 新提交 67%

LENS: Adaptive Spatio-Temporal Zooming for Keyframe Sampling in Long-Form Videos

LENS:用于长视频关键帧采样的自适应时空缩放

Ce Zhang, Jinxi He, Katia Sycara, Yaqi Xie

机构 * Robotics Institute, Carnegie Mellon University(卡内基梅隆大学机器人研究所)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 研究针对长视频理解受限于上下文窗口的问题,提出无需训练的关键帧采样框架LENS,它能基于文本查询动态分配帧预算,在时空缩放间平衡,提升关键帧采样效果,优于现有方法,提高了Video-MME准确率。

Comments Accepted at ECCV 2026. Project page: https://zhangce01.github.io/LENS/

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.19947 2026-07-23 cs.CV 新提交 67%

ETPDesigner: Multi-Agent Orchestration for Interactive Multimodal Electronic Theater Program

ETPDesigner:用于交互式多模态电子剧院节目的多智能体编排

Mengtian Li, Xinru Guo, Xiaoru Lin, Xiao Rong, Zhifeng Xie, Chaofeng Chen

机构 * Shanghai University(上海大学) Shanghai Engineering Research Center of Motion Picture Special Effects(上海电影特效工程技术研究中心) Institute for Math and AI, Wuhan School of Artificial Intelligence, Wuhan University(武汉大学数学与人工智能研究院武汉人工智能学院)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 研究针对电子剧院节目设计难题,提出ETPDesigner多智能体框架,能从戏剧脚本合成高质量ETP,通过全局风格锚定机制保证一致性,还实现交互功能,经ETP-Pro基准测试验证了方法在多方面的优越性。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.18886 2026-07-22 cs.SE 新提交 67%

TraceDev: A Traceability-Driven Multi-agent Framework for Requirement-to-Code Development

TraceDev:一种用于需求到代码开发的可追溯性驱动的多智能体框架

Mingyu Chen, Yakun Zhang, Zihao Xie, Yixing Luo, Jinrui Xu, Cuiyun Gao, Kaiqi Zhao, Yunming Ye

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 针对现有方法在自然语言需求到代码转换中存在的不足,提出TraceDev多智能体框架,通过五个特定角色智能体及可追溯性图,实现自动化软件开发,在两个数据集上的评估结果证明了其在需求到代码生成上的有效性。

Comments Accepted by ISSTA 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.11312 2026-07-14 cs.CV 新提交 67%

SLVMBench: Skill Learning from Video Memory

SLVMBench:从视频记忆中学习技能

Yudong Yang, Guangzhi Sun, Yixuan Li, Chao Zhang

机构 * Tsinghua University(清华大学) University of Cambridge(剑桥大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 SLVMBench是首个用于评估视频大语言模型从长视频记忆学习技能并应用于实时任务能力的基准测试,通过特定视频流和人工标注进行测试,发现现有视频LLMs在此方面有局限。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.11159 2026-07-14 cs.IR 新提交 67%

NGM-RAG: Neural Graph Matching based Retrieval-Augmented Generation

NGM-RAG:基于神经图匹配的检索增强生成

Guo Chen, Ziwen Li, Maolin Zheng, Hao Gao, Junjie Huang, Tao Jia

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 研究针对传统RAG方法在处理复杂问题时的局限,提出基于神经图匹配的检索增强生成框架NGM-RAG,将图构建、匹配与答案生成统一,结合文本匹配和GNN,采用自适应加权策略,实验证明该模型在多跳问答等任务中性能优越。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01605 2026-07-03 cs.DB 新提交 67%

pykci: A Compact Urban Knowledge Graph for Semantic and Spatial Queries using LLMs

pykci: 一个用于利用大语言模型进行语义和空间查询的紧凑城市知识图谱

Huynh Duc An Son Nguyen, Lukas Arzoumanidis, Youness Dehbi

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 提出pykci系统,将CityGML 2.0数据集转换为Neo4j紧凑城市知识图谱,通过大语言模型实现自然语言查询,支持语义和空间查询,减少幻觉并提供可审计来源。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01523 2026-07-03 cs.LG cs.AI cs.CL 新提交 67%

Multi-Head Recurrent Memory Agents

多头递归记忆智能体

Jiatong Li, Samuel Yeh, Sharon Li

机构 * Department of Computer Science, University of Wisconsin-Madison(威斯康星大学麦迪逊分校计算机科学系)

专题命中 长上下文与记忆 :LLM(abstract_cn);分类 cs.CL、cs.AI、cs.LG

AI总结 针对递归记忆智能体在长上下文中性能退化问题,提出多头递归记忆(MHM)框架,通过分阶段选择-更新策略隔离记忆头,显著提升记忆保持率和端到端准确性。

Comments 19 pages, 11 figures, 5 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.30986 2026-07-01 cs.CY cs.HC cs.MA econ.GN q-fin.EC 新提交 67%

The Organizational Behavior of Agentic AI: Collective Intelligence in Human-Agent Workflows

代理型人工智能的组织行为:人机协作中的集体智能

Canhui Liu

专题命中 长上下文与记忆 :LLM(abstract,abstract_cn)

AI总结 本文探讨代理型AI集体在组织中的行为,提出其通过上下文架构而非人类动机维持组织模式,并发展上下文交易成本理论解释人机组织行为的异同。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25658 2026-06-25 cs.CV 新提交 67%

Towards a Dynamic and Fixed-budget Memory Bank for Efficient Streaming Video Understanding

面向高效流式视频理解的动态固定预算记忆库

Baiyang Song, Yuli Lin, Qiong Wu, Tao Chen, Jun Peng, Xiao Chen, Yiyi Zhou, Rongrong Ji

机构 * Xiamen University(厦门大学)

专题命中 长上下文与记忆 :large language model(abstract);language model(abstract)

AI总结 提出无训练方法CausalMem,通过在线语义基动态更新记忆库,在有限预算下最大化流式视频信息量,实现20倍视觉令牌压缩和82MB存储。

详情

展开后加载摘要…

URL PDF HTML 收藏