Steady State Analysis of Episodic Reinforcement Learning
Rakuten Institute of Technology（乐天技术研究所）
本文证明了在任何行为策略下，每个有限时域决策任务的情景学习环境都具有唯一的稳态，并且在基本上所有的情景学习过程中，智能体输入的边际分布确实收敛于稳态分布。这一观察结果支持了一种与传统观点相反的有趣的思维方式：虽然在持续学习中经常假设存在独特的稳态，但在情景学习中却被认为不太相关，但事实证明，它们的存在对后者来说是有保证的。基于这一认识，本文围绕这两种强化学习形式主义中分别对待的几个重要概念，统一了情景强化学习和连续强化学习。在实践中，存在唯一的和可接近的稳定状态，使一个一般的方法来收集数据的情景RL任务，本文适用于策略梯度算法作为示范，基于一个新的稳态策略梯度定理。最后，本文还提出并实验验证了一种扰动方法，有利于在现实世界的RL任务的快速稳态收敛。
2021-01-13 cs.AI cs.LG
Digital Twin-Assisted Data-Driven Optimization for Reliable Edge Caching in Wireless Networks
North Carolina State University（北卡罗来纳州立大学）；University of Miami（迈阿密大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
针对 nextG 无线网络边缘缓存中数据驱动方法忽视过载与缓存不均衡等可靠性问题，提出 D-REC 框架，利用数字孪生、强化学习和约束干预实现可靠缓存优化。
2024-06-29 cs.LG cs.NI
CONF-KV: Confidence-Aware KV Cache Eviction with Mixed-Precision Storage for Long-Horizon LLM
Carnegie Mellon University（卡内基梅隆大学）
提出CONF-KV方法，利用模型当前不确定性（置信度）动态调整KV缓存预算，结合混合精度存储和分块在线softmax注意力，在长序列推理中显著降低显存占用并保持高精度。
2026-05-24 cs.AI cs.LG
Still: Amortized KV Cache Compaction in a Single Forward Pass
Baseten
提出Still方法，通过单次前向传递的轻量级Perceiver层实现KV缓存压缩，在8×至200×压缩比和8k至128k上下文长度下兼顾速度与质量，长上下文任务超越最强基线8-22分。
2026-06-05 cs.LG
In-context KV-Cache Eviction for LLMs via Attention-Gate
Shanghai Jiao Tong University（上海交通大学）；Huawei（华为）；University of California, San Diego（加利福尼亚大学圣迭戈分校）
针对KV缓存成为大语言模型推理瓶颈的问题，本文提出通过注入轻量级注意力门模块实现动态KV缓存淘汰策略，可有效淘汰冗余token，在多场景下既提升推理效率又增强模型性能。
2025-04-17 cs.CL cs.LG
KVarN: Variance-Normalized KV-Cache Quantization Mitigates Error Accumulation in Reasoning Tasks
Huawei（华为）
提出KVarN，一种无校准的KV缓存量化方法，通过Hadamard旋转和双尺度方差归一化减少自回归解码中的量化误差累积，在2位精度下达到生成基准测试的最新水平。
2026-06-02 cs.LG
Infinite dSprites for Disentangled Continual Learning: Separating Memory Edits from Generalization
Tübingen AI Center（蒂宾根人工智能中心）；University of Tübingen（蒂宾根大学）；KU Leuven（天主教鲁汶大学）；IDEAS NCBR；Tooploox；Warsaw University of Technology（华沙理工大学）
本文提出 Infinite dSprites 基准工具，揭示持续学习方法在长任务序列下性能下降问题，并通过学习类不可知变换来规避灾难性遗忘，实现显式控制记忆与遗忘的开放集分类及单样本泛化。
2024-07-29 cs.CV cs.LG
Continual and Sliding Window Release for Private Empirical Risk Minimization
University of Edinburgh（爱丁堡大学）；University of Cambridge（剑桥大学）
很难在保持隐私的同时用新数据不断更新私有机器学习模型。当数据被用于重复计算时，它们会导致越来越多的隐私损失--这是通过差分隐私来衡量的。在本文中，我们描述了正则化的经验风险最小化算法，该算法不断发布最近数据窗口的模型。该算法的一个版本使用整个数据历史来改进最近窗口的模型。第二个版本使用恒定大小的滑动窗口来改进模型，确保在数据不断变化的情况下模型更相关。该算法在随机梯度下降的框架内运行。我们证明了，即使在无限时间范围内的每个时间步释放一个模型，任何数据点的隐私成本是有界的常数$ε$差分隐私，输出模型的准确性接近最优。在MNIST和Arxiv数据上的实验结果与理论一致。
2022-03-07 cs.LG
ST-Lite: Training-Free KV Cache Compression with Spatio-Trajectory Guidance for Long-Horizon GUI Agents
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；The Chinese University of Hong Kong（香港中文大学）
ST-Lite通过无训练的KV缓存压缩方法，提升GUI代理的解码效率，实现2.45倍加速并保持性能优势。
2026-08-27 cs.AI cs.CV cs.LG
Root-Cause Attribution Is a Search Problem: Continual Search for Long-Horizon Agent Failures
Scale AI
针对长时程AI智能体失败诊断中信息稀疏、分布广导致根因归因困难的问题，提出持续搜索迭代框架，在多个基准上显著提升归因性能，并证明有效搜索优于模型规模。
2026-09-30 cs.AI cs.HC cs.LG
AhaBench: Do Agents Turn Experience into Reusable Insights? A Long-Horizon Benchmark for Continual Learning
Princeton University（普林斯顿大学）；Tencent Hy（腾讯Hy）；Tsinghua University（清华大学）；Shanghai Jiaotong University（上海交通大学）；Hong Kong University（香港大学）
AhaBench提出长时程持续学习基准，通过三个任务测试智能体在支持移除或延迟后能否利用经验提升表现，并引入初始分数、经验后分数和学习提升三部分评分，揭示模型能力差异。
2026-09-22 cs.CL cs.LG
Low-Discrepancy Dither for Quantized Recurrent State Caches
本文提出使用确定性黄金比例Weyl抖动替代随机舍入来量化Mamba风格模型的循环状态缓存，在多种模型和长序列生成中始终更接近全精度结果，且无需额外成本。
2026-10-01 cs.LG
A Thermodynamic Theory of Learning Part II: History-Dependent Reachability and Continual Learning
Daisuke Okanohara（独立研究者）
本研究提出学习的热力学理论，揭示了连续学习中由于动态不可逆性导致的重新配置能力损耗，从而建立轨迹层面的容量限制。
2026-09-09 cs.LG
Alchemist: Towards the Design of Efficient Online Continual Learning System
The University of Chicago（芝加哥大学）；Microsoft Research（微软研究院）
针对在线持续学习中训练与服务分离导致的重复计算问题，提出Alchemist系统，通过复用服务激活、选择性存储及智能卸载，最高提升1.72倍训练吞吐并降低47%内存。
2025-03-14 cs.CL cs.DC cs.LG
RDumb++: Drift-Aware Continual Test-Time Adaptation
Department of Computer Science（计算机科学系）；University of British Columbia（不列颠哥伦比亚大学）
针对持续测试时自适应中分布快速变化或长期漂移导致性能崩溃的问题，提出RDumb++方法，通过熵和KL散度漂移检测机制与自适应重置策略，在CCC基准上实现约3%的绝对准确率提升。
2026-01-22 cs.AI cs.LG
Predicting Future Utility: Global Combinatorial Optimization for Task-Agnostic KV Cache Eviction
Fudan University（复旦大学）；Baige AI Team, Baidu inc（百度AI团队）；Work done during an internship at Baidu（百度实习）
提出LU-KV框架，通过全局组合优化分配注意力头预算以最大化长期边际贡献，实现80%的KV缓存压缩且性能损失极小。
2026-06-01 cs.AI cs.LG
Continual Learning of Large Language Models: A Comprehensive Survey
Rutgers University（罗格斯大学）；Google Cloud AI Research（谷歌云人工智能研究）
该综述系统梳理了大型语言模型持续学习的研究进展，提出垂直与水平连续性框架，总结持续预训练、领域自适应预训练和持续微调三个阶段，并概述评估协议与数据源。
2024-11-25 cs.AI cs.CL cs.LG
p-Spin Glass Network Efficient Single-Batch Continual Learning
本研究提出p-自旋玻璃网络架构，通过三元量化等技术实现内存与样本效率，支持单批次稳定收敛，消除深度学习对大批次的需求，为持续学习和边缘AI奠定基础。
2026-08-18 cs.LG
Quant VideoGen: Auto-Regressive Long Video Generation via 2-Bit KV-Cache Quantization
University of California, Berkeley（加州大学伯克利分校）；NVIDIA；Massachusetts Institute of Technology（麻省理工学院）；Amazon（亚马逊）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出Quant VideoGen，通过语义感知平滑和渐进残差量化技术，有效降低KV缓存内存消耗，提升长视频生成质量与效率。
2026-05-01 cs.LG
StepKV: Step-Aware KV Cache Compression for LLM Agents
The Chinese University of Hong Kong（香港中文大学）；Huawei Technologies Co., Ltd（华为技术有限公司）
StepKV提出以推理步骤为保留单元的KV缓存压缩方法，结合步骤效用与令牌显著性，在多跳问答和长时程网络推理中于低预算下保持准确率，优于令牌级基线。
2026-09-23 cs.LG
Data-Free Reservoir Features for Efficient Long-Horizon Cold-Start Continual Learning
University of Oxford（牛津大学）；Department of Computer Science（计算机科学系）；Department of Engineering Sciences（工程科学系）
提出CIRCLE方法，使用固定的双向二维储备特征和流式线性判别分析头，无需重放、预训练或骨干网络反向传播，在长任务序列中显著优于现有冷启动无样本类增量学习方法。
2026-06-26 cs.AI cs.LG
CACHE-UK: A Stability-Aware Memory Editor for Sequentially Updated Quantized LLMs in Finance
Indian Institute of Technology Madras（马德拉斯印度理工学院）；University of Birmingham（伯明翰大学）
针对动态金融环境中量化大语言模型的顺序内存编辑退化问题，提出CACHE-UK框架，将知识退化降低11%-17%，测试泛化率达28%，提升6个百分点。
2026-07-31 cs.AI cs.CE cs.CL
Retrospective Sparse Attention for Efficient Long-Context Generation
Seoul National University（首尔国立大学）
本文提出RetroAttention，一种新的KV缓存更新技术，通过回顾后续解码步骤的KV条目来修正过去的注意力输出，从而提高长上下文生成的效率和准确性。
2026-05-20 cs.AI cs.CL cs.LG
On Neural Scaling Laws for Weather Emulation through Continual Training
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文研究了科学机器学习中神经扩展定律，通过最小化设置的Swin Transformer架构和持续训练策略，展示了模型在预测天气中的性能提升及计算优化。
2026-11-10 cs.LG
PromptDSI: Prompt-based Rehearsal-free Continual Learning for Document Retrieval
Department of Data Science \& AI, Monash University, Australia Department of Human-Centred Computing, Monash University, Australia
PromptDSI 提出基于提示的无排练持续学习文档检索方法，通过可学习提示和主题感知提示池高效索引新文档，移除前向传递降低延迟，显著提升新语料库检索性能并有效缓解遗忘。
2025-06-28 cs.AI cs.CL cs.IR
ReFold: Training-Free Reversible Inter-Turn Context Folding for Long-Horizon Agents
University of California, Santa Barbara（加州大学圣塔芭芭拉分校）；Intel（英特尔）
ReFold是一种免训练的渲染层方法，通过可逆地折叠回合间冗余内容来压缩长时程智能体的上下文，在保持任务成功率的同时显著降低token消耗、内存和推理成本。
2026-10-07 cs.AI cs.CL cs.LG
Efficient On-Device Agents via Adaptive Context Management
Language Technologies Institute, Carnegie Mellon University（语言技术研究所，卡内基梅隆大学）；Samsung Research America（三星美国研究）
本文提出了一种通过自适应上下文管理实现高效设备端代理的框架，通过动态内存系统、极简序列化格式和即时模式传递机制，显著压缩上下文并提升性能。
2026-09-15 cs.AI cs.LG
BeaconKV: Key-Value Cache Compression Guided by Beacon Queries for Efficient Large Reasoning Model Inference
Hanyang University（汉阳大学）；Sungkyunkwan University（成均馆大学）
BeaconKV是一种无需训练的KV缓存压缩方法，通过维护代表查询聚类的信标查询预测需重访的KV对，在4种开源LRMs上实现最高5.8倍内存缩减，同时保留高准确率并提升4.3倍以上吞吐量，性能优于现有方法。
2026-09-07 cs.CL cs.LG
Cache What Lasts: Token Retention for Memory-Bounded KV Cache in LLMs
Department of Computer Science, Yale University（耶鲁大学计算机科学系）；JPMorganChase AI Research（摩根大通人工智能研究）
TRIM-KV通过学习令牌的内在重要性实现内存受限的KV缓存优化，有效提升LLM在低内存环境下的推理性能。
2026-03-01 cs.AI cs.LG
Addressable Memory for Video World Models
NVIDIA（英伟达）；Princeton University（普林斯顿大学）；University of Toronto（多伦多大学）；Vector Institute（矢量研究院）
针对交互式视频世界模型超出训练时序后内存寻址失效及压缩缓存破坏内存的问题，提出无训练框架 WorldTrace，含两种压缩方法，在新基准 LoopBench 上分别提升时序一致性 15.5%、情景回忆 19.5%。
2026-11-13 cs.CV cs.LG
Continual Test-Time Adaptation via Entropy Sensitivity-Guidance in Strict Online Setting
Norwegian University of Life Sciences (NMBU)（挪威生命科学大学）；Tulane University（杜兰大学）
本文提出SEGA方法，用于严格在线持续测试时适应，通过结构化擦除探测熵变化以协调恢复与样本选择，在多数据集上提升了鲁棒性与稳定性并减少反向传播次数。
2026-09-01 cs.CV cs.LG
Rethinking Continual Experience Internalization for Self-Evolving LLM Agents
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院 Gallagher 学院）；School of Software, Beihang University（北航软件学院）；Meituan（美团）
本文通过经验粒度、注入模式和内化机制三个维度，提出一种稳定可持续的经验内化方法，解决多轮经验学习中的能力崩溃问题。
2026-06-03 cs.CL cs.LG
E-Commerce Bench: Evaluating LLM Agents on Long-Horizon Autonomous Business Operation
Qwen Team, Alibaba Group（通义千问团队，阿里巴巴集团）；Department of Computer Science and Engineering, HKUST（香港科技大学计算机科学与工程系）；Taobao & Tmall Group, Alibaba Group（阿里巴巴集团淘宝天猫集团）
该研究推出首个开源电商长周期自主商业运营基准E-Commerce Bench，评估18个前沿LLM智能体，发现无单一模型占优，GPT-5.6 Sol盈利最高，Qwen3.8-Max-Preview为开源模型最优。
2026-09-01 cs.CL cs.LG
InfiniPot: Infinite Context Processing on Memory-Constrained LLMs
Hanyang University（汉阳大学）；Qualcomm AI Research（高通人工智能研究部门）
本文提出InfiniPot框架，通过持续上下文蒸馏和重要性度量在固定内存约束下实现LLMs对无限长上下文的高效处理，无需额外训练，并在多种NLP任务中优于长上下文训练模型。
2024-10-02 cs.CL cs.LG
End-to-End Context Compression at Scale
New York University（纽约大学）；Modal Labs（Modal实验室）；University of Maryland（马里兰大学）；Princeton University（普林斯顿大学）；Columbia University（哥伦比亚大学）；Harvard University（哈佛大学）；Lawrence Livermore National Laboratory（劳伦斯利弗莫尔国家实验室）；FAIR at Meta（Meta FAIR实验室）
本研究通过架构搜索和持续预训练，提出潜在上下文语言模型（LCLMs），一种端到端编码器-解码器压缩器，在通用任务性能、压缩速度和峰值内存上改进帕累托前沿，并可作为长时智能体的高效骨干。
2026-10-20 cs.AI cs.CL cs.LG
SCLATE: a Substrate for Continual-Learning Agent Training and Evaluation
SCLATE是一个统一事件调度与回滚引擎的基础设施，支持持续学习智能体的训练评估；实验表明附加记忆系统并非总优于原生记忆，且后训练Qwen3.5-4B显著提升性能。
2026-10-01 cs.AI cs.DC cs.LG
Context by Distinct Information: An Auditable Dirichlet-Process Working Memory for Long, Redundant Context Streams
研究针对上下文工程中以令牌计量信息的问题，基于特定机制开发按新颖性分配的缓存作为工作记忆组件，依任务对过去的依赖组织上下文，通过实验验证该方法在不同场景下的有效性及优势，可实现可审计的上下文管理。
2026-07-14 cs.AI cs.CL cs.IR
PHOTON: Hierarchical Autoregressive Modeling for Lightspeed and Memory-Efficient Language Generation
Fujitsu Limited（富士通株式会社）；RIKEN Center for AIP（理化学研究所先进信息研究中心）；Institute of Science Tokyo（东京科学研究所）；Tokai University（立命馆大学）
PHOTON 提出了一种分层自回归模型，通过垂直多分辨率上下文扫描提高语言生成的吞吐量与内存效率。
2026-01-08 cs.AI cs.CL cs.DC
PSO-MISMO Modeling Strategy for Multi-Step-Ahead Time Series Prediction
多步时间序列预测是时间序列建模与预测领域中最具挑战性的研究课题之一，一直处于研究之中。最近，多输入多输出（MISMO）建模策略已被提出作为一个有前途的替代多步提前时间序列预测，表现出的优势相比，目前的两个主要策略，迭代和直接的策略。建立在已建立的MISMO策略，本研究提出了一种基于粒子群优化（PSO）的MISMO建模策略，这是能够确定的子模型的数量在一个自适应的模式，具有不同的预测视野。而不是从已建立的MISMO中获得具有相等大小的预测范围的清晰划分，所提出的PSO-MISMO策略，用神经网络实现，采用启发式方法来创建具有不同大小的预测范围的灵活划分，并生成相应的子模型，在模型构建中提供了相当大的灵活性，这已经用模拟和真实数据集进行了验证。
2013-12-31 cs.AI cs.LG cs.NE
The Physics of Multi-Turn Long-Horizon Planning: From Pre-training to Post-training via Single- and Multi-Teacher On-Policy Agentic Distillation
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
研究多轮长期规划问题，通过引入统一可控环境，利用预训练、GRPO、OPD及MOPD等方法，研究规划能力在不同阶段的获取、塑造与整合，展示了多教师策略蒸馏对跨环境能力整合的作用。
2026-07-28 cs.AI cs.CL cs.LG
Anytime Training with Schedule-Free Spectral Optimization
Global Technology Applied Research（全球技术应用研究）
提出SF-NorMuon无调度谱优化器，通过单一超参数配置在语言模型上匹配或超越调优的AdamW，实现任意时间高质量检查点获取。
2026-09-29 cs.AI cs.LG math.OC
DOTA: Distributional Test-Time Adaptation of Vision-Language Models
State Key Laboratory of Networking and Switching Technology（网络与交换技术国家重点实验室）；Beijing University of Posts and Telecommunications（北京邮电大学）；College of Intelligence and Computing（智能与计算学院）；Tianjin University（天津大学）；School of Computer Science and Technology（计算机科学与技术学院）；Harbin Institute of Technology Shenzhen（哈尔滨工业大学深圳学院）；Institute for Infocomm Research, A*STAR（信息通信研究机构，A*STAR）；Show Lab, National University of Singapore（新加坡国立大学Show实验室）；National University of Singapore（新加坡国立大学）
DOTA提出一种分布性测试时自适应方法，通过持续估计测试数据分布并利用贝叶斯定理计算后验概率，缓解缓存方法的灾难性遗忘，实现最先进性能。
2025-09-26 cs.AI cs.CL cs.CV
