A Wholistic View of Continual Learning with Deep Neural Networks: Forgotten Lessons and the Bridge to Active and Open World Learning
Goethe University（歌德大学）；Yonsei University（延世大学）；TU Darmstadt（达姆施塔特工业大学）
当前的深度学习方法如果在专门的测试集上凭经验表现良好，则被认为是有利的。这种心态无缝地反映在持续学习的重铺区域中，在该区域中，对连续到达的数据进行调查。核心挑战是保护以前获得的表征不被灾难性地遗忘。然而，个别方法的比较仍然是通过监控累积的基准测试集的性能来与现实世界隔离进行的。封闭世界假设仍然占主导地位，即模型是在保证来自与用于训练相同的分布的数据上进行评估的。这带来了巨大的挑战，因为众所周知，神经网络会对未知和损坏的实例提供过度自信的错误预测。在这项工作中，我们批判性地调查了文献，并认为显着的经验教训，从开集识别，识别未知的例子以外的观察集，和相邻领域的主动学习，查询数据，以最大限度地提高预期的性能增益，经常被忽视的深度学习时代。因此，我们提出了一个统一的观点来桥接深度神经网络中的持续学习、主动学习和开集识别。最后，建立的协同作用的经验支持，显示联合改善缓解灾难性遗忘，查询数据，选择任务顺序，同时表现出强大的开放世界的应用程序。
2023-01-23 cs.LG stat.ML
Continual Learning with Fully Probabilistic Models
Fulda University of Applied Sciences（富尔达应用科学大学）
我们提出了一种基于机器学习的完全概率（或生成）模型的持续学习（CL）方法。与之相反，例如，GANs是“生成”的，因为它们可以生成样本，完全概率模型旨在直接对数据分布进行建模。因此，它们提供了与持续学习高度相关的功能，例如密度估计（离群值检测）和样本生成。作为生成式持续学习的一种具体实现，我们提出了高斯混合重放（GMR）算法。GMR是使用高斯混合模型（GMM）实例用于生成器和分类器功能的伪排练方法。依赖于MNIST，FashionMNIST和Devanagari基准，我们首先展示了无监督的任务边界检测GMM密度估计，我们也用它来拒绝不典型的生成样本。此外，我们证明了GMR能够以cGAN的方式进行类条件采样。最后，我们验证了GMR，尽管它的结构简单，实现了最先进的性能在非常有竞争力的时间和内存复杂性的常见类增量学习问题。
2021-04-19 cs.LG stat.ML
Live and Learn: Continual Action Clustering with Incremental Views
School of Computer and Artificial Intelligence, Zhengzhou University（郑州大学计算机与人工智能学院）；School of Creative Technologies, University of Portsmouth（朴茨茅斯大学创意技术学院）
针对多视图动作聚类中视图增量获取及多视图不变信息学习难的问题，提出带类别记忆库和共识划分矩阵的持续动作聚类方法，经6个真实数据集验证，性能和时空效率优于15种现有基线方法。
2024-03-23 cs.CV cs.LG
Continual Learning in Generative Adversarial Nets
Princeton University（普林斯顿大学）
深度生成模型的发展允许对高维数据分布进行易于处理的学习。虽然所采用的学习过程通常假设训练数据是独立同分布绘制的。根据感兴趣的分布，例如当随着时间的推移遇到不同的类时，可能期望对顺序观察到的不同分布进行建模。尽管深度生成模型的条件变体允许单个网络以分离的方式对多个分布进行建模，但当连续遇到分布时，它们容易受到灾难性遗忘的影响。在本文中，我们将最近在减少灾难性遗忘方面的工作调整为在一系列不同分布上训练生成对抗网络的任务，从而实现连续的生成建模。
2017-05-23 cs.AI cs.LG stat.ML
Continual Learning of Range-Dependent Transmission Loss for Underwater Acoustic using Conditional Convolutional Neural Net
The University of British Columbia（不列颠哥伦比亚大学）
针对现有深度学习模型预测水下远场噪声的不足，本研究提出融入海底地形数据的距离条件卷积神经网络，结合持续学习框架适配全球不同地形，可实现远场传输损失的准确预测及水下噪声的实时端到端映射。
2024-04-11 cs.LG eess.SP physics.flu-dyn
CPR: Classifier-Projection Regularization for Continual Learning
Sungkyunkwan University（成均馆大学）；Harvard University（哈佛大学）；Seoul National University（首尔大学）
我们提出了一个通用的，但简单的补丁，可以应用到现有的正则化为基础的持续学习方法称为分类投影正则化（CPR）。受最近关于具有宽局部最小值的神经网络和信息论的结果的启发，CPR添加了一个额外的正则化项，该正则化项最大化分类器的输出概率的熵。我们证明，这个额外的术语可以被解释为一个投影的条件概率由一个分类器的输出均匀分布。通过应用KL散度的勾股定理，我们证明了这种投影可以（在理论上）提高持续学习方法的性能。在我们广泛的实验结果中，我们将CPR应用于几种最先进的基于正则化的持续学习方法，并在流行的图像识别数据集上进行基准测试。我们的研究结果表明，CPR确实促进了广泛的局部极小值，并显着提高了准确性和可塑性，同时减轻了基线持续学习方法的灾难性遗忘。该工作的代码和脚本可在https://github.com/csm9493/CPR_CL上获得。
2021-04-19 cs.CV cs.LG stat.ML
ChainLoRA: Geometry-Preserving Task Vector Merging for Continual Learning in LLMs
Shanghai Jiao Tong University（上海交通大学）；Shanghai Innovation Institute（上海创新研究院）；Beijing Zhongguancun Academy（北京中关村学院）；StepFun（阶跃星辰）；Huazhong University of Science and Technology（华中科技大学）；IAAR（智能自动化研究院）
ChainLoRA提出一种基于链式更新任务向量几何的无重放持续合并框架，通过自适应SVD合并与Procrustes适应实现几何近似分离，在多个基准上达到先进性能。
2026-10-02 cs.LG stat.ML
Mixture-of-Variational-Experts for Continual Learning
Ulm University（乌尔姆大学）；Institute of Neural Information Processing（神经信息处理研究所）
机器学习算法的一个弱点是模型在不忘记先前获得的知识的情况下解决新问题的能力很差。持续学习（CL）范式已经成为一种系统地研究环境的协议，其中模型顺序观察由一系列任务生成的样本。在这项工作中，我们采取任务不可知论的观点持续学习，并制定了一个分层的信息理论的最优性原则，促进学习和遗忘之间的权衡。我们从贝叶斯的角度讨论这一原则，并显示其连接到以前的方法CL。基于这一原则，我们提出了一个神经网络层，称为混合变分专家层，通过创建一组信息处理路径通过网络，这是由门控策略，它消除了遗忘。由于基于通用效用函数的一般公式，我们可以将此最优性原则应用于各种各样的学习问题，包括监督学习，强化学习和生成式建模。我们证明了我们的方法在连续监督学习和连续强化学习中的竞争力。
2022-03-01 cs.LG stat.ML
SPeCiaL: Self-Supervised Pretraining for Continual Learning
McGill University（麦吉尔大学）；Facebook AI Research（脸书人工智能研究院）
本文介绍了SPeciaL：一种为持续学习量身定制的表示的无监督预训练方法。我们的方法设计了一个元学习目标，通过顺序学习过程区分。具体来说，我们训练一个线性模型的表示，以匹配不同的增强视图相同的图像在一起，每个视图顺序呈现。然后评估线性模型对它刚刚看到的图像进行分类的能力，以及对来自先前迭代的图像进行分类的能力。这就产生了有利于快速记忆知识和最小遗忘的表征。我们在连续少样本学习设置中评估SPeciaL，并表明它可以匹配或优于其他监督预训练方法。
2021-06-16 cs.CV cs.LG
Hierarchically Structured Task-Agnostic Continual Learning
Ulm University（乌尔姆大学）
当前机器学习算法的一个显著弱点是模型在不忘记先前获得的知识的情况下解决新问题的能力很差。持续学习范式已经成为一种系统地研究环境的协议，其中模型顺序地观察由一系列任务生成的样本。在这项工作中，我们采取任务不可知论的观点持续学习，并制定了一个分层的信息理论的最优性原则，促进学习和遗忘之间的权衡。我们从贝叶斯的角度推导出这一原则，并展示了它与以前的持续学习方法的联系。基于这一原则，我们提出了一个神经网络层，称为混合变分专家层，通过创建一组信息处理路径通过网络，这是由门控策略，它消除了遗忘。每个路径都配备了一组不同的专门参数，可以被视为一个不同的子网络，学习解决任务。为了改善专家分配，我们引入了多样性目标，我们在额外的消融研究中进行了评估。重要的是，我们的方法可以以任务不可知的方式操作，即，它不像许多现有的持续学习算法那样需要特定于任务的知识。由于基于通用效用函数的一般公式，我们可以将此最优性原则应用于各种各样的学习问题，包括监督学习，强化学习和生成式建模。我们证明了我们的方法在连续强化学习和MNIST，CIFAR-10和CIFAR-100数据集的变体上的竞争性能。
2022-11-14 cs.LG stat.ML
Pre-trained Word Embeddings for Goal-conditional Transfer Learning in Reinforcement Learning
University of Antwerp（安特卫普大学）；imec（比利时微电子研究中心）
强化学习（RL）算法通常从白板开始，没有任何环境的先验知识，也没有任何先验技能。然而，这通常导致低样本效率，需要与环境的大量相互作用。在终身学习环境中尤其如此，在这种环境中，代理需要不断扩展其能力。在本文中，我们研究了预训练的任务无关的语言模型如何使目标条件RL代理更具样本效率。我们通过促进不同相关任务之间的迁移学习来做到这一点。我们实验证明我们的方法对一组对象导航任务。
2020-07-10 cs.AI cs.LG stat.ML
Biologically-Inspired Continual Learning of Human Motion Sequences
Starmind AG（Starmind公司）；University of Zurich（苏黎世大学）
这项工作提出了一个模型，持续学习的任务，涉及时间序列，特别是人类的运动。它通过构建一个生物启发的条件时间变分自编码器（BI-CTVAE）来改进最近提出的大脑启发的重放模型（BI-R），BI-CTVAE实例化潜在的高斯混合用于类表示。我们研究了一种新的连续学习生成（CL 2Gen）的情况下，该模型生成不同类别的运动序列。该模型的生成精度进行了测试，在一组任务。在顺序学习所有动作类后，BI-CTVAE对人体运动数据集的最终分类准确率为78%，比使用无重放高63%，仅比最先进的离线训练GRU模型低5.4%。
2023-03-15 cs.AI cs.CV cs.LG
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning
Humboldt-Universität zu Berlin（柏林洪堡大学）；University of Trento（特伦托大学）；SAP ML Research（SAP机器学习研究院）
在持续学习（CL）环境中训练的模型应该能够在未定义的时间段内从数据流中学习。这里的主要挑战是：1）维护旧知识，同时在学习新任务时从中受益，2）保证模型的可扩展性，并从越来越多的数据中学习。为了应对这些挑战，我们引入了动态生成记忆（DGM）-一个突触可塑性驱动的持续学习框架。DGM依赖于有条件的生成对抗网络，具有通过神经掩蔽实现的可学习连接可塑性。具体来说，我们评估了神经掩蔽的两种变体：（i）应用于层激活和（ii）直接应用于连接权重。此外，我们提出了一个动态的网络扩展机制，确保足够的模型容量，以适应不断传入的任务。增加的容量的量根据学习的二进制掩码动态地确定。我们在视觉分类任务的连续类增量设置中评估DGM。
2019-12-02 cs.CV cs.LG cs.NE
Learning Dynamics of Continual Learning: A Unified View of Data Attribution, Forgetting, and Plasticity Loss
OATML；University of Oxford（牛津大学）；UBC（英属哥伦比亚大学）；Google DeepMind（谷歌DeepMind）
本文提出统一视角，通过token与层级的交互分解，揭示持续学习中数据归因、遗忘与可塑性损失同源于演化动力学，并据此实现数据选择、干扰控制及可学习性诊断。
2026-09-29 cs.AI cs.LG
Fast and Flexible Multi-Task Classification Using Conditional Neural Adaptive Processes
University of Cambridge（剑桥大学）；Invenia Labs（Invenia实验室）；Google Research Berlin（谷歌研究院柏林）；Microsoft Research（微软研究院）
本文的目标是设计图像分类系统，经过初始的多任务训练阶段，可以自动适应在测试时遇到的新任务。为此，我们引入了一种基于条件神经过程的方法来进行多任务分类设置，并与元学习和Few-Shot学习文献建立了联系。由此产生的方法，称为CNAPs，包括一个分类器，其参数由一个适应网络调制，该网络将当前任务的数据集作为输入。我们证明了CNAP在具有挑战性的元数据集基准上取得了最先进的结果，表明高质量的迁移学习。我们表明，该方法是强大的，避免过度拟合在低拍摄制度和下拟合在高拍摄制度。定时实验表明，CNAPs是计算效率在测试时，因为它不涉及基于梯度的适应。最后，我们表明，经过训练的模型可以立即部署到持续学习和主动学习中，在这种情况下，它们的性能优于现有的不利用迁移学习的方法。
2020-01-07 cs.LG stat.ML
Mode-Aware Continual Learning for Conditional Generative Adversarial Networks
Duke University（杜克大学）
针对条件GAN持续学习中新模式样本有限且易遗忘旧模式的问题，提出基于模式亲和度与标签加权生成、记忆回放的方法，在更少样本下优于现有方法。
2023-09-23 cs.LG stat.ML
Local vs Global continual learning
ETH AI Center（ETH AI中心）；ETH Zurich（苏黎世联邦理工学院）；University of Zurich（苏黎世大学）；Institute of Neuroinformatics - University of Zurich and ETH Zurich（苏黎世大学与苏黎世联邦理工学院神经信息学研究所）
本文从多任务损失近似视角比较局部与全局策略，对现有持续学习算法进行分类评估，并研究了局部多项式近似下的最优目标及实现示例。
2024-07-23 cs.AI cs.LG
Reflecting on the State of Rehearsal-free Continual Learning with Pretrained Models
Tübingen AI Center, University of Tübingen（图宾根人工智能中心，图宾根大学）；Helmholtz Munich, MCML（海德堡医学院，MCML）；Google DeepMind（谷歌DeepMind）；TU Munich（慕尼黑技术大学）
本文系统反思了基于预训练模型的无排练持续学习方法，揭示其高性能主要源于轻量级 PEFT 基线而非复杂查询机制，并厘清了持续适配与首个任务适配及传统正则化方法的关系。
2025-09-21 cs.CV cs.LG
Approximate Bayesian Class-Conditional Models under Continuous Representation Shift
School of Informatics（信息学院）；University of Edinburgh（爱丁堡大学）
针对在线持续学习中表征漂移导致分类器失配的问题，提出经验贝叶斯方法 DeepCCG，通过类条件高斯后验一步适配并选择最小化 KL 散度的记忆子集。
2024-05-07 cs.LG stat.ML
Incremental Multi-Scene Modeling via Continual Neural Graphics Primitives
CVIG Lab IIT Gandhinagar Gujarat, India（IIT Gandhinagar 研究所）
针对NeRF多场景建模的可扩展性问题，提出持续学习框架C-NGP，采用生成回放将多个场景增量集成到单个神经辐射场，在不增加参数的情况下实现高质量渲染，Real-LLFF数据集8个场景联合建模PSNR仅降2.2%。
2025-08-26 cs.CV cs.LG
Task Agnostic Continual Learning via Meta Learning
DeepMind（深度思维）
虽然神经网络是功能强大的函数逼近器，但当数据分布不稳定时，它们会遭受灾难性的遗忘。研究非平稳分布下的学习的一种特殊形式是由连续学习提供的，其中非平稳性是由一系列不同的任务施加的。然而，这一领域的大多数方法都假设任务边界的知识，并专注于减轻灾难性遗忘。在这项工作中，我们从这一观点出发，将重点转向更快的记忆-即测量网络恢复性能的速度，而不是测量没有任何适应的网络性能。我们认为，在许多情况下，这可能是更有效的，它打开了大门，结合元学习和持续学习技术，利用其互补优势。我们提出了一个框架，具体的情况下，没有关于任务边界或任务身份的信息。它依赖于将关注点分离为正在解决的任务和应该如何解决任务。该框架通过区分任务特定参数和任务不可知参数来实现，其中后者以连续Meta学习的方式进行优化，而无需同时访问多个任务。我们展示了这个框架在监督学习的情况下，并讨论了所提出的形式主义的含义。
2019-06-12 cs.LG cs.NE stat.ML
Do Your Best and Get Enough Rest for Continual Learning
Ajou University（亚洲大学）；KAIST（韩国科学技术院）
本研究借鉴艾宾浩斯遗忘曲线理论，提出view-batch模型，通过最优回忆间隔重放与单样本自监督学习两种方法，有效缓解持续学习中的灾难性遗忘问题，显著提升了多种现有SOTA方法的性能。
2025-03-24 cs.CV cs.LG
Continual Learning via Bit-Level Information Preserving
National University of Singapore（新加坡国立大学）；YITU Technology（依图科技）
持续学习解决了按顺序学习不同任务的设置问题。尽管有很多以前的解决方案，他们中的大多数仍然遭受严重的遗忘或昂贵的内存成本。在这项工作中，针对这些问题，我们首先研究了持续学习过程中，通过信息论的镜头，并观察到遗忘的模型源于\emph{information gain}的参数从以前的任务时，学习一个新的任务。从这个角度来看，我们然后提出了一种新的持续学习的方法，称为比特级信息保持（BLIP），保持信息增益的模型参数，通过更新的参数在比特级，这可以方便地实现参数量化。更具体地说，BLIP首先对新输入的任务训练具有权重量化的神经网络，然后估计由任务数据提供的每个参数的信息增益，以确定要冻结以防止遗忘的位。我们进行了广泛的实验，从分类任务到强化学习任务，结果表明，我们的方法产生更好的或与以前的国家的最先进的结果相比。事实上，BLIP实现了接近零遗忘，而在整个持续学习过程中只需要恒定的内存开销。
2022-03-16 cs.LG
Selective Amnesia: A Continual Learning Approach to Forgetting in Deep Generative Models
National University of Singapore（新加坡国立大学）；Smart Systems Institute, National University of Singapore（新加坡国立大学智能系统研究所）
针对文本到图像模型可能被滥用以生成有害内容的问题，提出基于持续学习的“选择性遗忘”方法，实现可控遗忘，可应用于变分自编码器和扩散模型，实验证明能有效遗忘多种概念。
2023-10-17 cs.AI cs.LG
Towards Continuous Power Forecasting: Practical Continual Learning for Real-World Energy Systems in Nonstationary Time Series
University of Kassel（卡塞尔大学）
针对实际能源市场中功率预测模型面临的数据非平稳性和操作约束，提出连续功率预测范式，将预测视为持续学习问题，系统评估六种代表性持续学习方法，证明其能自适应分布漂移、积累知识并缓解灾难性遗忘。
2026-07-13 cs.LG
Learning Invariant Representation for Continual Learning
Eindhoven University of Technology（埃因霍温理工大学）；University of Twente（特文特大学）
持续学习的目的是提供能够在先前学习的知识的基础上持续学习一系列任务的智能代理。这种学习范式的一个关键挑战是，当智能体面对一个新的任务时，会灾难性地忘记以前学习过的任务。目前的排练为基础的方法表明，他们成功地减轻了灾难性遗忘的问题，在学习一个新的过程中重放样本从以前的任务。然而，当先前任务的数据不可访问时，这些方法是不可行的。在这项工作中，我们提出了一个新的伪排练为基础的方法，命名为学习不变表示持续学习（IRCL），其中类不变的表示是从一个条件生成模型中分离出来，并与类特定的表示联合使用来学习顺序任务。解开共享不变表示有助于不断学习一系列任务，同时对遗忘更鲁棒，并具有更好的知识转移。我们专注于类增量学习，在推理过程中没有关于任务身份的知识。我们经验评估我们提出的方法对两个著名的基准持续学习：分裂MNIST和分裂时尚MNIST。实验结果表明，我们提出的方法优于基于正则化的方法，由一个大的利润，是优于最先进的伪排练为基础的方法。最后，我们分析了共享不变表示在减轻遗忘问题中的作用，特别是当每个先前任务的重放样本的数量很小时。
2021-01-15 cs.AI cs.CV cs.LG
Ex-Model: Continual Learning from a Stream of Trained Models
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学校）
从非平稳数据流中持续学习是一个具有挑战性的研究课题，在过去的几年里越来越受欢迎。能够以高效，有效和可扩展的方式不断学习，适应和概括是人工智能系统可持续发展的基础。然而，以代理为中心的持续学习的观点需要直接从原始数据中学习，这限制了独立代理之间的交互，效率和当前方法的隐私。相反，我们认为，持续学习系统应该利用压缩信息的训练模型的形式的可用性。在本文中，我们介绍并正式命名为"前模型持续学习"（ExML），其中一个代理学习从一个序列的先前训练的模型，而不是原始数据的新范式。我们进一步贡献了三个前模型持续学习算法和经验设置，包括三个数据集（MNIST，CIFAR-10和CORe50），和八个场景，其中所提出的算法进行了广泛的测试。最后，我们突出了前模型范式的特点，我们指出有趣的未来研究方向。
2021-12-13 cs.AI cs.CV cs.LG
Gradient based sample selection for online continual learning
KU Leuven（鲁汶大学）；Mila（米拉研究所）
一个持续学习的智能体通过非固定的、永无止境的数据流在线学习。这种学习过程的关键是克服对先前看到的数据的灾难性遗忘，这是神经网络的一个众所周知的问题。为了防止遗忘，通常采用重放缓冲器来存储先前的数据以用于排练。以往的工作往往依赖于任务边界和独立同分布。假设以适当地选择用于重放缓冲器的样本。在这项工作中，我们制定样本选择作为一个约束减少问题的基础上的约束优化观点的持续学习。我们的目标是选择一个固定的子集的约束，最好的近似的可行域定义的原始约束。我们表明，它相当于最大化的多样性的样本在重放缓冲区与参数梯度的功能。我们进一步开发了一个贪婪的替代品，是廉价和有效的。在持续学习环境下，通过与其他方法的比较，证明了该方法的优越性。进一步的比较，对国家的最先进的方法，依赖于任务边界，显示可比的，甚至更好的结果，我们的方法。
2019-10-31 cs.AI cs.CV cs.LG
Design of Explainability Module with Experts in the Loop for Visualization and Dynamic Adjustment of Continual Learning
University of Kassel（卡塞尔大学）
持续学习可以使神经网络通过在任务变化的场景中顺序地学习新任务来进化。然而，在我们将这种技术应用于现实世界的应用之前，在进一步的研究中应该克服两个普遍和相关的挑战。首先，从应用程序中的数据流中新收集的新奇内容可能包含对持续学习没有意义的异常。我们不应将其视为更新的新任务，而是必须过滤掉这些异常，以减少极高熵数据对收敛进程的干扰。其次，较少的努力已经投入到持续学习的可解释性的研究，这导致了缺乏透明度和可信度的更新神经网络。对持续学习的过程和结果进行详尽的解释，可以帮助专家进行判断和决策。因此，我们提出了一个可解释性模块的概念设计与专家在回路的基础上的技术，如降维，可视化和评价策略。这项工作旨在通过充分解释和可视化所识别的异常和更新的神经网络来克服上述挑战。通过该模块，专家可以在异常过滤、超参数动态调整、数据备份等方面更有信心地进行决策。
2022-02-14 cs.LG
Stable-Plastic Subspace Construction for Differentially Private Continual LoRA
Xidian University（西安电子科技大学）；Tianjin University（天津大学）
针对差分隐私持续LoRA的稳定-塑性子空间构建方法DP-SPA，通过分离稳定与塑性子空间优化LoRA因子，在多数据集实验中提升了平均准确率并减少了遗忘。
2026-10-14 cs.LG
Putting a Face to Forgetting: Continual Learning meets Mechanistic Interpretability
KU Leuven（根特大学）；University of Groningen（Groningen大学）；Amazon（亚马逊）
本文提出一个机制框架，从几何角度解释持续学习中的灾难性遗忘，通过玩具模型分析并验证了深度对遗忘的影响，展示了如何利用Crosscoders分析实际模型。
2026-08-12 cs.LG
Continual Learning as Shared-Manifold Continuation Under Compatible Shift
本文提出基于共享流形延续的持续学习方法，通过稀疏重放、输出蒸馏等技术提升旧任务保留和表示保持，同时在新任务准确率上保持竞争力。
2026-03-20 cs.LG
The Need for a Big World Simulator: A Scientific Challenge for Continual Learning
Stanford University（斯坦福大学）；University of Alberta（阿尔伯塔大学）
本文针对现有持续学习合成基准分布偏移不自然且偏离“小智能体，大世界”设定的问题，提出未来模拟环境设计的两项形式化标准，以兼顾现实复杂性与小规模快速原型验证。
2024-08-06 cs.AI cs.LG
Principal Gradient Direction and Confidence Reservoir Sampling for Continual Learning
Georgia Institute of Technology（佐治亚理工学院）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
无任务在线持续学习旨在减轻学习者在非iid数据流上的灾难性遗忘。经验重放（Experience Replay，ER）是一种SOTA持续学习方法，被广泛用作其它基于重放的方法的骨干算法。然而，ER的训练策略过于简单，不能充分利用重放的例子，其水库采样策略也是次优的。在这项工作中，我们提出了一个一般的近端梯度框架，使ER可以被视为一个特殊的情况。我们进一步提出了两个相应的改进：主梯度方向（PGD）和置信水库采样（CRS）。在主梯度方向中，我们优化了一个目标梯度，它不仅代表了过去梯度的主要贡献，而且还保留了当前梯度的新知识。然后，我们提出了信心水库采样维护一个更翔实的内存缓冲区的基础上，基于保证金的度量，衡量存储的例子的价值。实验证实了我们的改进和我们的新算法的有效性一致提高了MIR-replay，SOTA ER为基础的方法的性能：我们的算法提高了平均精度高达7.9%，并减少遗忘高达15.4%的四个数据集。
2021-08-21 cs.LG
Class-Incremental Experience Replay for Continual Learning under Concept Drift
Virginia Commonwealth University（弗吉尼亚联邦大学）
现代机器学习系统需要能够应对不断到达和变化的数据。处理这种情况的两个主要研究领域是持续学习和数据流挖掘。持续学习的重点是积累知识和避免遗忘，假设一旦学习的信息应该被存储。数据流挖掘的重点是适应概念漂移和丢弃过时的信息，假设只有最新的数据是相关的。虽然这两个领域主要是分开开发的，但它们为从动态数据中学习的问题提供了互补的观点。有必要通过提供能够学习和存储新信息的架构来统一它们，以及重新访问和适应以前看到的概念的变化。我们提出了一种新的持续学习方法，可以处理这两个任务。我们的体验重播方法由存储增量到达类的不同实例的重心驱动内存提供动力。这通过一个反应式子空间缓冲器来增强，该缓冲器跟踪先前看到的类中的概念漂移事件并相应地调整聚类。因此，所提出的架构能够记住有效的和忘记过时的信息，提供了一个整体的框架下的概念漂移持续学习。
2021-04-24 cs.CV cs.LG
Continual Learning with Dirichlet Generative-based Rehearsal
Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Institute of Science & Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院）
提出Dirichlet持续学习（DCL）方法，利用Dirichlet分布建模CVAE潜变量并引入JSKD知识蒸馏，有效解决面向任务对话系统持续学习中的灾难性遗忘问题。
2023-09-13 cs.AI cs.CL cs.LG
Rethinking Transfer in Continual Learning: A Replay-Based Realisation
University of Chicago（芝加哥大学）
该研究重新思考持续学习中的迁移，提出三个条件框架，将其观点实例化为TSR，通过选择有益重放数据提升正向迁移，在低预算持续学习协议下优于现有基线，强调应把迁移作为持续学习首要目标先理解再设计。
2026-07-20 cs.LG
Conditional Online Learning for Keyword Spotting
SiDi（SiDi研究所）
提出一种基于SGD的设备端在线持续学习方法，通过条件模型更新机制在动态音频流中提升关键词检测模型性能并缓解灾难性遗忘。
2023-05-19 cs.LG cs.SD eess.AS
Learning to Learn without Forgetting by Maximizing Transfer and Minimizing Interference
IBM Research（IBM研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Stanford University（斯坦福大学）；MIT（麻省理工学院）
在非平稳数据分布上的持续学习方面缺乏性能仍然是将神经网络学习扩展到更人性化的现实环境中的主要挑战。在这项工作中，我们提出了一个新的概念的持续学习问题的时间对称的转移和干扰之间的权衡，可以通过实施梯度对齐的例子进行优化。然后，我们提出了一个新的算法，元经验重放（MER），直接利用这一观点相结合的经验重放优化为基础的元学习。该方法学习使基于未来梯度的干扰不太可能和基于未来梯度的传输更可能的参数。我们在持续终身监督学习基准和非平稳强化学习环境中进行实验，证明我们的方法始终优于最近提出的持续学习基准。我们的实验表明，MER和基线算法的性能之间的差距增长的环境变得更加非平稳和存储的总经验的比例变小。
2019-05-03 cs.AI cs.LG stat.ML
G2LoRA: Gradient Orthogonal Low-Rank Adaptation Framework for Graph Continual Learning on Text-Attributed Graphs
School of Computer Science and Engineering, Beihang University（北航计算机科学与工程学院）；Department of Statistics, Columbia University（哥伦比亚大学统计系）；College of Computer Science, Beijing University of Technology（北京理工大学计算机学院）
针对LLM-as-Aligner模型在文本属性图持续学习中的灾难性遗忘问题，提出G2LoRA框架，通过统一图-文本对齐目标、类别感知梯度投影和梯度幅度调制，实现任务间正向迁移并缓解模态漂移。
2026-06-01 cs.LG
Capacity-Constrained Continual Learning
Google DeepMind（谷歌DeepMind）
针对智能体容量有限但资源分配研究不足的问题，本文研究容量约束LQG序列预测问题，推导了对应解，还给出可分解问题的稳态容量最优分配方法，为容量约束学习的理论研究奠定初步基础。
2025-07-29 cs.AI cs.IT cs.LG
Little by Little: Continual Learning via Incremental Mixture of Rank-1 Associative Memory Experts
University of New South Wales（新南威尔士大学）
针对持续学习中专家粒度粗糙导致的冗余、干扰和遗忘问题，提出MoRAM方法，将秩-1适配器作为细粒度专家和联想记忆单元，通过自激活机制实现增量扩展，显著提升塑性-稳定性权衡和泛化能力。
2026-05-29 cs.LG
The Stable Recovery Manifold: Geometric Principles Governing Recoverability in Continual Learning
ResNet-18；Split CIFAR-100
通过分析Split CIFAR-100上ResNet-18的顺序学习，发现遗忘知识在表示重组后仍可紧凑解码，提出稳定恢复流形假说，表明灾难性遗忘主要是可访问性和流形对齐问题。
2026-06-12 cs.LG
Generative and Discriminative Text Classification with Recurrent Neural Networks
DeepMind
我们以经验为基础描述了用于文本分类的判别式和生成式LSTM模型的性能。我们发现，尽管基于RNN的生成模型比它们的词袋祖先更强大（例如，它们考虑了文档中单词之间的条件依赖性），它们具有比区分训练的RNN模型更高的渐近错误率。然而，我们也发现生成模型比它们的判别模型更快地接近它们的渐近错误率--Ng & Jordan（2001）证明的模式同样适用于做出更天真的条件独立假设的线性分类模型。基于这一发现，我们假设基于RNN的生成分类模型对数据分布的变化更鲁棒。这一假设在zero-shot和连续学习设置中的一系列实验中得到了证实，这些实验表明生成模型的性能大大优于判别模型。
2017-05-26 cs.CL cs.LG stat.ML
Contrastive Consolidation of Top-Down Modulations Achieves Sparsely Supervised Continual Learning
Peter Grünberg Institute（彼得·格林贝格研究所）；Forschungszentrum Jülich（于利希研究中心）；RWTH Aachen（亚琛工业大学）
任务调节对比学习通过上行调节实现稀疏监督下的连续学习，提升类别增量和迁移学习性能。
2026-01-26 cs.AI cs.LG q-bio.NC
Predicting Plasticity in Deep Continual Learning: A Theoretical Perspective
University of Virginia（弗吉尼亚大学）；Cisco Research（思科研究）；California Institute of Technology（加州技术研究院）；Purdue University（普渡大学）
本文从理论角度探讨深度持续学习中塑性预测问题，提出新的度量标准优化准备度，证明其在回归和分类任务中能更可靠地预测可训练性。
2026-05-09 cs.LG
A Fusion of Variational Distribution Priors and Saliency Map Replay for Continual 3D Reconstruction
Indian Institute of Technology Bombay（印度理工学院孟买分校）；Monash University（莫纳什大学）
本文提出一种融合变分先验与显著性图回放的持续三维重建方法，以缓解灾难性遗忘并降低存储开销，实验证明其性能具有竞争力。
2024-11-21 cs.CV cs.LG
Unlearning-based sliding window for continual learning under concept drift
本文提出一种基于机器未学习的滑动窗口方法，用于解决概念漂移下的持续学习问题，通过有效遗忘旧数据并更新模型，提高计算效率。
2026-03-15 cs.LG
Learning to Forget: Continual Learning with Adaptive Weight Decay
The Swiss AI Lab, IDSIA USI-SUPSI（瑞士人工智能实验室，IDSIA USI-SUPSI）；University of Alberta, Alberta Machine Intelligence Institute（阿尔伯塔大学，阿尔伯塔机器智能研究所）；Center of Excellence for Generative AI, KAUST（生成人工智能卓越中心，KAUST）
本文提出FADE方法，通过自适应调整权重衰减率，在持续学习中平衡新旧知识的获取与保留，提升在线跟踪和流分类任务的性能。
2026-04-29 cs.LG cs.NE
Diffusion-Driven Data Replay: A Novel Approach to Combat Forgetting in Federated Class Continual Learning
China University of Petroleum（中国石油大学）；WeBank（微众银行）；Pazhou Laboratory（琶洲实验室）；South China University of Technology（华南理工大学）；The Hong Kong University of Science and Technology（香港科技大学）
针对联邦类增量学习中的灾难性遗忘问题，本文提出利用预训练条件扩散模型进行逆向数据重放，并结合对比学习提升生成数据质量，显著超越现有基线。
2024-09-04 cs.CV cs.LG
Catastrophic Forgetting is Low-Rank: A Function-Space Theory for Continual Adaptation
Tel Aviv University（特拉维夫大学）
本文在神经正切核（NTK）框架下提出函数空间理论，推导出新任务训练导致旧任务预测漂移的闭式表达式，揭示遗忘集中在少量旧任务NTK本征模式上，并给出低秩特性与Kronecker缩放规则。
2026-06-17 cs.AI cs.LG
HiTS-CL: A Continual Learning Framework for Long-Horizon Temporal Knowledge Graph Extrapolation
Beihang University（北京航空航天大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Hubei Engineering University（湖北工程学院）
针对时域知识图谱外推中固定前缀训练导致的长时域退化问题，提出HiTS-CL持续学习框架，通过持续微调、多教师蒸馏和选择性记忆，在五个骨干和四个基准上提升外推准确性。
2026-09-30 cs.AI cs.LG
Sequoia: A Software Framework to Unify Continual Learning Research
ElementAI, a ServiceNow Company（ElementAI（ServiceNow旗下公司））；Mila - Quebec AI Institute（Mila - 魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；McGill University（麦吉尔大学）；HEC Montréal（蒙特利尔高等商学院）；IBM Research（IBM研究院）
本文提出以假设集合刻画持续学习设置的树形分类体系，并发布统一 CSL 与 CRL 设置、方法及复用机制的开源软件框架 Sequoia。
2023-06-05 cs.LG
SPARCL: Spectral Partitioned Analytic Continual Learning
University of Sheffield（谢菲尔德大学）
SPARCL 是一种谱分区解析式持续学习方法，通过分解自相关为高能核心与残差，冻结旧类别分类器核心，更新残差块，在多数据集上缩小了经典解析式学习器与强表示匹配器的性能差距，且与 Fly-CL 等方法互补。
2026-10-28 cs.LG
