Improving Performance in Continual Learning Tasks using Bio-Inspired Architectures
Argonne National Laboratory（阿贡国家实验室）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出一种融合突触可塑性和神经调制的生物启发轻量级架构，通过局部误差信号实现无随机梯度下降的在线持续学习，在多个Split数据集上优于记忆约束方法并达到记忆密集型重放方法水平，同时可提升其他持续学习算法的准确率。
2023-08-08 cs.AI cs.LG cs.NE
The Effect of Architecture During Continual Learning
Mathematics and Computer Science Argonne National Laboratory（数学与计算机科学 阿贡国家实验室）
本文提出通过联合学习神经网络架构和权重来减少持续学习中的灾难性遗忘，通过双层优化和低秩转移机制提升模型性能和鲁棒性。
2026-01-27 cs.LG
CQural: A Novel CNN based Hybrid Architecture for Quantum Continual Machine Learning
Indian Institute of Technology, Jodhpur（印度理工学院焦特布尔分校）
本文提出了一种基于CNN的新型经典-量子混合神经网络架构CQural，通过利用可解释的特定特征来规避持续学习中的灾难性遗忘，并在MNIST和CIFAR-10数据集上证明了其优于经典架构的记忆能力。
2023-05-16 cs.AI cs.LG
Continual Learning at the Edge: An Agnostic IIoT Architecture
atlanTTic - I\&C Lab - Universidade de Vigo, Escola de Enxeñaría de Telecomunicación Campus Univesitario, Vigo 36310, Spain（atlanTTic - 信息与通信实验室 - 维戈大学，电信工程学院，维戈）
本文提出了一种面向工业物联网的边缘计算架构，利用持续学习技术实现制造系统的实时质量控制。
2025-12-16 cs.LG stat.ML
Adversarial Continual Learning
Facebook AI Research（Facebook 人工智能研究院）；UC Berkeley EECS（加州大学伯克利分校电气工程与计算机科学系）
持续学习的目的是学习新的任务而不忘记以前学过的。我们假设，在序列中学习解决每个任务的表示具有共享的结构，同时包含一些特定于任务的属性。我们发现，共享的功能是显着不太容易忘记，并提出了一种新的混合持续学习框架，学习不相交的表示任务不变和任务特定的功能，需要解决一系列的任务。我们的模型结合了架构增长，以防止忘记特定于任务的技能和经验重放的方法，以保持共享的技能。我们证明了我们的混合方法是有效的，在避免遗忘，并显示它是优于基于架构和基于内存的方法类增量学习的一个单一的数据集，以及一系列的多个数据集在图像分类。我们的代码可在\url{https://github.com/facebookresearch/Adversarial-Continual-Learning}上获得。
2020-07-21 cs.AI cs.CV cs.LG
The Art of Not Forgetting A Local Learning Architecture for Continual Learning
Arkadhi Research（阿卡迪研究机构）
该研究提出持续学习架构CMP，采用稀疏关系编码、两层竞争记忆与局部更新，在语言建模实验中较参数匹配的Transformer基线表现出更低的灾难性遗忘，为持续学习提供了新方向。
2026-07-30 cs.AI cs.LG
Interactive Continual Learning Architecture for Long-Term Personalization of Home Service Robots
University of Waterloo（滑铁卢大学）
针对家庭服务机器人需适应个性化动态环境的需求，提出结合持续学习、语义推理与人机交互的交互式持续学习架构，经两个月实验验证，可基于有限用户数据持续适应环境并完成抓取任务。
2024-03-06 cs.CV cs.LG cs.RO
Root-Cause Attribution Is a Search Problem: Continual Search for Long-Horizon Agent Failures
Scale AI
针对长时程AI智能体失败诊断中信息稀疏、分布广导致根因归因困难的问题，提出持续搜索迭代框架，在多个基准上显著提升归因性能，并证明有效搜索优于模型规模。
2026-09-30 cs.AI cs.HC cs.LG
Avalanche: A PyTorch Library for Deep Continual Learning
University of Pisa（比萨大学）；University of Bologna（博洛尼亚大学）；Scuola Normale Superiore（比萨高等师范学校）；University of St. Gallen（圣加仑大学）
持续学习是从非平稳数据流中学习的问题，这是随着时间的推移深度神经网络可持续和有效训练的基本问题。不幸的是，深度学习库只提供用于离线训练的原语，假设模型的架构和数据是固定的。Avalanche是一个由ContinualAI非营利组织维护的开源库，它通过为动态架构、数据流以及增量训练和评估方法提供一流的支持来扩展PyTorch。Avalanche提供了大量预定义的基准测试和训练算法，易于扩展和模块化，同时支持广泛的持续学习场景。文档可在\url{https://avalanche.continualai.org}上获得。
2023-02-02 cs.LG
Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal
University of Trento（特伦托大学）；University of Pisa（比萨大学）；University of Modena and Reggio Emilia（摩德纳-雷焦艾米利亚大学）
针对神经符号持续学习中现有方法易灾难性遗忘、易出现推理捷径的问题，提出概念级持续学习策略COOL，在三个新基准上实现了其他策略无法达到的持续高性能。
2023-12-19 cs.AI cs.LG
Minion Gated Recurrent Unit for Continual Learning
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；University of Baghdad（巴格达大学）
本文提出简化版GRU变体MiRU，用缩放系数替代门控机制，在保持性能的同时实现2.90倍训练加速和2.88倍参数缩减，并展现出更稳定的多任务持续学习能力，适合边缘设备部署。
2025-03-08 cs.AI cs.LG
Heterogeneous Continual Learning
NVIDIA（英伟达）；New York University（纽约大学）
针对持续学习中网络架构动态演进的新场景，提出异构持续学习范式，搭配弱教师强学生的改进知识蒸馏与快速深度反转方法，在数据受限下提升了多架构下的持续学习准确率。
2023-06-14 cs.CV cs.LG
Quantum Architecture Search via Continual Reinforcement Learning
Boston University（波士顿大学）；Brookhaven National Laboratory（布鲁克海文国家实验室）
量子计算已经承诺在解决困难的计算任务方面比经典计算机有显著的改进。然而，设计实用的量子线路并不是一个简单的目标，需要专家级的知识。为了帮助这一努力，本文提出了一种基于机器学习的方法来构建量子线路架构。以前的工作已经证明，经典的深度强化学习（DRL）算法可以成功地构建量子线路架构，而无需编码的物理知识。然而，这些基于DRL的工作不能推广到具有变化的设备噪声的设置，因此需要大量的训练资源来保持RL模型最新。考虑到这一点，我们结合了持续学习来提高算法的性能。在本文中，我们提出了带有深度Q学习的概率策略重用（PPR-DQL）框架来解决这一电路设计挑战。通过对各种噪声模式进行数值模拟，我们证明了具有PPR的RL代理能够比从头开始训练的代理更快地找到量子门序列来生成两个量子比特的Bell状态。所提出的框架是通用的，可以应用于其他量子门的合成或控制问题-包括量子器件的自动校准。
2021-12-10 cs.AI cs.ET cs.LG
Modular Continual Learning in a Unified Visual Environment
Stanford University（斯坦福大学）；Stanford Neurosciences Institute（斯坦福神经科学研究所）
人类智能的一个核心方面是快速学习新任务并灵活切换的能力。在这里，我们描述了一个模块化的连续强化学习范式的灵感来自这些能力。我们首先介绍一个可视化的交互环境，它允许许多类型的任务被统一在一个单一的框架。然后，我们描述了一个奖励地图预测方案，学习新的任务鲁棒性非常大的状态和动作空间所需的这样一个环境。我们研究了模块架构的属性如何影响任务学习的效率，表明模块基序结合特定的设计原则（如早期瓶颈，低阶多项式非线性和对称性）显着优于更标准的神经网络基序，需要更少的训练样本和更少的神经元，以实现高水平的性能。最后，我们提出了一个基于动态神经投票方案的任务切换元控制器架构，该架构允许新模块使用从以前看到的任务中学习到的信息来大幅提高自己的学习效率。
2017-12-12 cs.AI cs.LG q-bio.NC
Deep Generative Dual Memory Network for Continual Learning
University of Southern California（南加利福尼亚大学）
尽管深度学习取得了进展，但神经网络只能在联合训练时学习多个任务。当任务按顺序到达时，他们会在之前学习的任务上失去表现。这种被称为灾难性遗忘的现象是神经网络从输入数据中不断学习之前需要克服的一个基本挑战。在这项工作中，我们从人类记忆中获得灵感，开发一种能够从连续传入的任务中不断学习的架构，同时避免灾难性遗忘。具体来说，我们的贡献是：（i）模拟人类大脑中的互补学习系统（海马和新皮层）的双重记忆架构，（ii）通过生成重放过去的经验来巩固记忆，（iii）通过实验证明生成重放和双重记忆的优势，以及（iv）即使对于低容量模型，也能提高对挑战性任务的性能保持。我们的架构显示了哺乳动物记忆的许多特征，并提供了关于睡眠和学习之间联系的见解。
2018-05-25 cs.LG
Reinforced Continual Learning
Peking University（北京大学）；Beijing Institute of Big Data Research (BIBDR)（北京大数据研究院）
大多数人工智能模型在不忘记以前获得的知识的情况下更快地解决新任务的能力有限。最近出现的持续学习范式旨在解决这个问题，其中模型以顺序的方式学习各种任务。在这项工作中，提出了一种新的持续学习方法，它通过精心设计的强化学习策略为每个即将到来的任务搜索最佳的神经结构。我们称之为强化持续学习。我们的方法不仅在防止灾难性遗忘方面有很好的性能，而且也能很好地适应新的任务。对MNIST和CIFAR-100数据集变体的顺序分类任务的实验表明，所提出的方法优于现有的深度网络持续学习替代方案。
2018-05-31 cs.CV cs.LG stat.ML
HiCL: Hippocampal-Inspired Continual Learning
HiCL提出了一种基于海马体的持续学习架构，通过双记忆机制和稀疏路由策略减少任务干扰，实现高效多任务学习。
2026-02-10 cs.AI cs.LG
Continual Learning with Gated Incremental Memories for sequential data processing
University of Pisa（比萨大学）
在动态、非平稳环境中学习而不忘记先前知识的能力，也称为持续学习（CL），是自适应解决方案可扩展和可信赖部署的关键推动因素。虽然持续学习的重要性在机器视觉和强化学习问题中得到了广泛的认可，但对于序列处理任务，这一点大多没有得到充分的证明。这项工作提出了一个循环神经网络（RNN）模型CL，能够处理输入分布中的概念漂移，而不会忘记以前获得的知识。我们还在两种不同类型的RNN上实现和测试了一种流行的CL方法，弹性权重合并（EWC）。最后，我们在一组标准CL基准测试中比较了我们的增强型架构与EWC和RNN的性能，这些测试适用于顺序数据处理场景。结果显示了我们架构的卓越性能，并强调了为解决RNN中的CL而设计的特殊解决方案的必要性。
2020-04-08 cs.LG cs.NE stat.ML
Sequencing to Mitigate Catastrophic Forgetting in Continual Learning
Huawei Technologies Canada（华为技术加拿大公司）
本文提出通过最优任务序列缓解持续学习中的灾难性遗忘，结合零样本评分算法并增强性能与鲁棒性。
2025-12-18 cs.AI cs.LG
A Probabilistic Framework for Modular Continual Learning
MIT-IBM Watson AI Lab（MIT-IBM沃森人工智能实验室）；UT Austin（德克萨斯大学奥斯汀分校）；University of Edinburgh（爱丁堡大学）
PICLE提出用概率模型低成本评估模块组合适应度，首次在模块化持续学习中同时实现感知、少样本和潜在迁移，并在长问题序列上超越现有方法。
2024-05-02 cs.LG stat.ML
Logarithmic Continual Learning
Warsaw University of Technology（华沙理工大学）；Tooploox；Jagiellonian University（雅盖隆大学）
我们引入了一个神经网络架构，该架构在不断学习的模型的生成排练中，以数学方式减少了自排练步骤的数量。在持续学习（CL）中，训练样本进入后续任务，并且训练好的模型一次只能访问单个任务。为了重放以前的样本，当代CL方法引导生成模型，并用当前和再生的过去数据的组合递归地训练它们。由于在每个任务之后重新生成相同的过去样本，这种重复导致多余的计算，并且重建质量连续降低。在这项工作中，我们解决了这些限制，并提出了一个新的生成排练架构，需要在最多对数数量的再培训每个样本。我们的方法利用分配过去的数据在一组生成模型，使他们中的大多数不需要再训练后，一个~任务。我们的对数持续学习方法的实验评估显示了我们的方法相对于最先进的生成排练方法的优越性。
2022-01-17 cs.LG
M2RU: Memristive Minion Recurrent Unit for On-Chip Continual Learning at the Edge
NUAI Lab, Department of Electrical and Computer Engineering, University of Texas at San Antonio and Department of Electrical Engineering, University of Baghdad（NUAI实验室，电子与计算机工程系，德克萨斯大学圣安东尼奥分校和电子工程系，巴格达大学）
M2RU是一种用于边缘芯片持续学习的忆阻式Minion循环单元，通过混合信号架构实现高效时间处理和能效提升。
2025-12-26 cs.AI cs.ET cs.LG
On Understanding of the Dynamics of Model Capacity in Continual Learning
AI Foundations Capital One（AI基础资本一公司）；Mathematics and Computer Science（数学与计算机科学）；Argonne National Laboratory（阿贡国家实验室）
本文引入CLEMC刻画持续学习中稳定性-可塑性平衡的动态行为，通过差分方程建模证明有效容量本质非平稳，并在多种架构上验证了任务分布差异导致模型表示新任务能力下降。
2025-08-14 cs.AI cs.LG
Continual BERT: Continual Learning for Adaptive Extractive Summarization of COVID-19 Literature
Deerfield Academy（迪尔菲尔德学院）
科学界每天继续发表大量与COVID-19相关的新研究，导致许多文献几乎没有引起关注。为了帮助社区了解快速流动的COVID-19文献，我们提出了一种新颖的BERT架构，为冗长的论文提供简短而原始的摘要。该模型以在线方式不断学习新数据，同时最大限度地减少灾难性遗忘，从而适应社区的需求。基准测试和手动检查其性能表明，该模型提供了一个新的科学文献的声音总结。
2020-09-27 cs.CL cs.LG
Shapley Neuron Values for Continual Learning: Which Neurons Matter Most?
Department of Electrical and Computer Engineering, Aarhus University, Denmark（电气与计算机工程系，奥胡斯大学，丹麦）
本文提出Shapley神经元估值框架，通过量化持续学习中神经元重要性，实现无缓冲的持续学习，实验显示其在类别增量学习和任务增量学习中分别提升准确率2.88%和6.46%。
2026-05-15 cs.AI cs.LG
Hybrid Learners Do Not Forget: A Brain-Inspired Neuro-Symbolic Approach to Continual Learning
University of Southern California（南加州大学）
本文提出受 System 1/System 2 启发的 NeSyBiCL 框架，通过神经网络与符号推理器协同实现持续学习，并在两个新组合基准上验证其抗遗忘优势。
2025-03-16 cs.AI cs.LG
Generalized Variational Continual Learning
University of Cambridge（剑桥大学）
持续学习以在线方式处理新任务和数据集的训练模型。一系列研究使用概率正则化进行持续学习，其中两种主要方法是在线弹性权重合并（Online Elastic Weight Consolidation，Online EWC）和变分持续学习（Variational Continual Learning，VCL）。VCL采用变分推理，这在其他设置已通过应用似然回火经验改进。我们表明，应用这种修改VCL恢复在线EWC作为一个限制的情况下，允许两种方法之间的插值。我们称一般算法为广义VCL（GVCL）。为了减轻所观察到的过度修剪VI的影响，我们从一个常见的多任务架构，神经网络与特定任务的电影层的灵感，并发现，这种增加导致显着的性能增益，特别是变分方法。在小数据范围内，GVCL的表现远远优于现有的基线。在较大的数据集中，具有薄膜层的GVCL在准确性方面优于现有基线或具有竞争力，同时还提供了更好的校准。
2020-11-24 cs.LG stat.ML
Achieving Deep Continual Learning via Evolution
针对深度神经网络持续学习能力受限的问题，受人类群体学习启发提出ECL框架，通过进化多样化模型群体、为每个增量任务定制专用专家模型，解决稳定性与可塑性矛盾，性能显著优于现有个体级持续学习方法，开辟AI持续学习新路径。
2025-07-31 cs.LG
Online Continual Learning on Sequences
ContinualAI Research（ContinualAI研究院）；University of Hamburg（汉堡大学）；University of Bologna（博洛尼亚大学）
在线持续学习（OCL）是指系统能够随着时间的推移从连续的数据流中学习，而不必重新访问以前遇到的训练样本。在单一数据传递中持续学习对于在不断变化的环境中运行的智能体和机器人至关重要，并且需要从非i.i.d.获取，微调和传输越来越复杂的表示。输入分布解决OCL的机器学习模型必须缓解\textit{catastrophic forgetting}，其中隐藏的表示在从新输入流中学习时被破坏或完全覆盖。在本章中，我们总结并讨论了最近的深度学习模型，这些模型通过使用（和组合）突触正则化、结构可塑性和经验重放来解决顺序输入上的OCL。已经提出了不同的重放实现，通过输入序列（的潜在表征）的重现来减轻连接主义架构中的灾难性遗忘，并且在功能上类似于哺乳动物大脑中海马重放的机制。经验证据表明，具有经验重放的架构通常优于没有（在线）增量学习任务的架构。
2020-03-20 cs.CV cs.LG cs.NE
Recent Advances of Multimodal Continual Learning: A Comprehensive Survey
Tsinghua University（清华大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
本文综述了多模态持续学习的最新进展，分析了其核心挑战与方法分类，提出四种主要方法类别，并讨论了未来研究方向和开放资源。
2026-03-28 cs.AI cs.LG
DyTox: Transformers for Continual Learning with DYnamic TOken eXpansion
Sorbonne Université（索邦大学）；Heuritech；Meta AI
深度网络架构努力不断学习新任务，而不会忘记以前的任务。最近的趋势表明，基于参数扩展的动态结构可以有效地减少持续学习中的灾难性遗忘。然而，现有的方法通常需要在测试时的任务标识符，需要复杂的调整，以平衡不断增长的参数数量，几乎没有跨任务共享任何信息。因此，他们很难在没有显著开销的情况下扩展到大量任务。在本文中，我们提出了一个Transformer架构的基础上，一个专用的编码器/解码器框架。关键是，编码器和解码器在所有任务之间共享。通过特殊令牌的动态扩展，我们将解码器网络的每个转发专门用于任务分布。我们的策略可扩展到大量的任务，同时由于严格控制参数扩展，内存和时间开销可以忽略不计。此外，这种有效的策略不需要任何超参数调整来控制网络的扩展。我们的模型在CIFAR 100上达到了优异的结果，在大规模ImageNet 100和ImageNet 1000上达到了最先进的性能，同时具有比并发动态框架更少的参数。
2022-08-07 cs.CV cs.LG
Encoders and Ensembles for Task-Free Continual Learning
DeepMind（深度思维）；Imperial College London（伦敦帝国理工学院）
我们提出了一个架构，这是有效的持续学习在一个特别苛刻的设置，任务边界不存在或未知的，类必须在线学习（每个例子只出现一次）。为了在这些约束条件下获得良好的性能，同时减轻灾难性遗忘，我们利用对比自监督学习的最新进展，允许我们使用预先训练的通用图像编码器，其权重可以被冻结，从而防止遗忘。预训练的编码器还大大简化了分类的下游任务，我们用一组非常简单的分类器来解决这个问题。总的来说，集成表现出比任何单独的分类器更好的性能，通过专业化和竞争性选择放大的效果。我们评估的性能的编码器和合奏架构的标准持续学习基准，在那里它优于现有的最先进的最困难的问题，以及在不太熟悉的设置，数据分布逐渐变化或类是一次一个。
2021-10-07 cs.LG
NORACL: Neurogenesis for Oracle-free Resource-Adaptive Continual Learning
Institute of Neuroinformatics University of Zurich & ETH Zurich（神经信息学研究所 集中理工大学苏黎世分校 & 伯尔尼联邦理工学院）
NORACL通过生物神经发生机制解决持续学习中的稳定性与可塑性矛盾，动态扩展网络结构以适应不同任务需求，实现更高效的持续学习性能。
2026-07-17 cs.AI cs.LG cs.NE
Self-recovery of memory via generative replay
University of Pennsylvania（宾夕法尼亚大学）
大脑的一个非凡能力是它在离线期间自主重组记忆的能力。记忆重放是一种被假设为生物离线学习的基础的机制，它激发了在持续学习环境中减少人工神经网络遗忘的离线方法。一个记忆效率和神经合理的方法是生成重放，它在持续学习基准上实现了最先进的性能。然而，与大脑不同的是，标准的生成回放在离线训练自己的回放样本时不会自我重组记忆。我们提出了一种新的架构，增强了自适应的，类似大脑的能力，自主恢复记忆的生成重放。我们在几个持续学习任务和环境中展示了该架构的这种能力。
2023-01-15 cs.AI cs.LG cs.NE
Target Layer Regularization for Continual Learning Using Cramer-Wold Generator
Jagiellonian University in Krakow（克拉科夫雅盖隆大学）
我们提出了一种有效的正则化策略（CW-TaLaR）解决持续学习问题。它使用由所有任务共享的底层神经网络的目标层上定义的两个概率分布之间的Cramer-Wold距离表示的惩罚项，以及用于对输出数据表示进行建模的Cramer-Wold生成器的简单架构。我们的策略在学习新任务时保留了目标层分布，但不需要记住以前任务的数据集。我们进行实验，涉及几个常见的监督框架，这证明了竞争力的CW-TaLaR方法相比，一些现有的国家的最先进的持续学习模型。
2021-11-15 cs.AI cs.CV cs.LG
Continual Deep Active Learning for Medical Imaging: Replay-Base Architecture for Context Adaptation
Instituto de Sistemas e Robótica（系统与机器人研究所）；Instituto Superior Técnico（高等技术学院）；Universidade de Lisboa（里斯本大学）
针对医学影像深度学习的上下文适配难、标注数据不足问题，提出结合持续学习与主动学习的RBACA框架，设计IL-Score评估指标，实验证明其在心脏影像任务上优于基线和现有最优CAL方法。
2025-01-14 cs.CV cs.LG
A Definition of Continual Reinforcement Learning
Google DeepMind（谷歌DeepMind）
本文提出持续强化学习的正式定义，通过新的数学语言刻画永不停止学习的智能体，并将其与传统多任务强化学习和持续监督学习统一起来，为持续学习智能体研究开辟新方向。
2023-12-01 cs.AI cs.LG
Class-Incremental Experience Replay for Continual Learning under Concept Drift
Virginia Commonwealth University（弗吉尼亚联邦大学）
现代机器学习系统需要能够应对不断到达和变化的数据。处理这种情况的两个主要研究领域是持续学习和数据流挖掘。持续学习的重点是积累知识和避免遗忘，假设一旦学习的信息应该被存储。数据流挖掘的重点是适应概念漂移和丢弃过时的信息，假设只有最新的数据是相关的。虽然这两个领域主要是分开开发的，但它们为从动态数据中学习的问题提供了互补的观点。有必要通过提供能够学习和存储新信息的架构来统一它们，以及重新访问和适应以前看到的概念的变化。我们提出了一种新的持续学习方法，可以处理这两个任务。我们的体验重播方法由存储增量到达类的不同实例的重心驱动内存提供动力。这通过一个反应式子空间缓冲器来增强，该缓冲器跟踪先前看到的类中的概念漂移事件并相应地调整聚类。因此，所提出的架构能够记住有效的和忘记过时的信息，提供了一个整体的框架下的概念漂移持续学习。
2021-04-24 cs.CV cs.LG
Don't Look Back in Anger: MAGIC Net for Streaming Continual Learning with Temporal Dependence
MAGIC Net通过结合持续学习策略与循环神经网络，解决流式持续学习中的概念漂移、时间依赖性和灾难性遗忘问题，提升模型对新概念的适应能力并减少遗忘。
2026-03-09 cs.AI cs.LG
Revisiting Neural Networks for Continual Learning: An Architectural Perspective
Sichuan University（四川大学）；Tsinghua University（清华大学）；Zhejiang University（浙江大学）
本文从网络架构视角系统分析宽度、深度及跳跃连接等组件对持续学习的影响，提出 ArchCraft 方法将 AlexNet/ResNet 重构为 AlexAC/ResAC，在多种持续学习场景下以更少参数实现最先进性能。
2024-04-28 cs.CV cs.LG
Routing Networks with Co-training for Continual Learning
Google AI, Zurich（谷歌人工智能（苏黎世））
持续学习的核心挑战是灾难性遗忘，即当神经网络在一系列任务上训练时，它们会迅速忘记先前学习的任务。据观察，当任务彼此不相似时，灾难性遗忘最为严重。我们建议使用稀疏路由网络进行持续学习。对于每个输入，这些网络架构都会通过专家网络激活不同的路径。路由网络已经被证明可以学习将相似的任务路由到重叠的专家组，将不同的任务路由到不相交的专家组。在持续学习的背景下，这种行为是可取的，因为它最大限度地减少不同任务之间的干扰，同时允许相关任务之间的正迁移。在实践中，我们发现有必要开发一种新的路由网络的训练方法，我们称之为协同训练，它可以避免在提出新任务时初始化不佳的专家。当与一个小的情景记忆重放缓冲区相结合时，具有协同训练的稀疏路由网络在MNIST-置换和MNIST-旋转基准上的表现优于密集连接的网络。
2020-09-09 cs.LG stat.ML
Continual Learning with Adaptive Weights (CLAW)
University of Cambridge（剑桥大学）；Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）
持续学习的方法旨在成功地学习一系列以在线方式完成的相关任务。最近，已经开发了几个框架，使深度学习能够部署在这种学习场景中。一个关键的建模决策是架构应该在多大程度上跨任务共享。一方面，对每个任务单独建模可以避免灾难性遗忘，但它不支持迁移学习，并导致大型模型。另一方面，严格指定一个共享组件和一个特定于任务的部分，使任务转移，并限制了模型的大小，但它是容易发生灾难性的遗忘，并限制了可能发生的任务转移的形式。理想情况下，网络应该自适应地识别以数据驱动的方式共享网络的哪些部分。在这里，我们介绍这样一种方法，称为自适应权重的连续学习（CLAW），这是基于概率建模和变分推断。实验表明，CLAW在六个基准测试中实现了最先进的性能，包括整体持续学习性能（通过分类准确性衡量）和解决灾难性遗忘问题。
2020-06-16 cs.LG stat.ML
DeLo: Dual Decomposed Low-Rank Experts Collaboration for Continual Missing Modality Learning
DeLo通过双分解低秩专家架构解决持续缺失模态学习中的模态干扰问题，结合跨模态引导路由和任务键记忆实现高效推理。
2026-03-02 cs.AI cs.LG
Unicorn: Continual Learning with a Universal, Off-policy Agent
DeepMind（深度思维）；Technion Israel Institute of Technology（以色列理工学院）；University of Michigan（密歇根大学）
一些现实世界的领域最好描述为一个单一的任务，但对其他人来说，这种观点是有限的。相反，一些任务的复杂性会随着智能体的能力而不断增长。在持续学习中，也称为终身学习，没有明确的任务界限或课程。随着学习代理变得越来越强大，持续学习仍然是阻碍快速进步的前沿领域之一。为了测试持续学习的能力，我们考虑了一个具有挑战性的3D域，其中包含一系列隐含的任务和稀疏的奖励。我们提出了一种新的代理架构称为独角兽，它表现出强大的持续学习，并优于几个基线代理建议域。代理实现这一点，联合表示和学习多个政策有效地，使用并行离策略学习设置。
2018-07-03 cs.LG
Ada-QPacknet -- adaptive pruning with bit width reduction as an efficient continual learning method without forgetting
AGH-UST（AGH科技大学）；American University（美利坚大学）
本文提出 Ada-QPacknet，通过剪枝提取任务子网络并结合线性/非线性低比特量化缩减模型容量，在任务与类别增量场景中优于多数持续学习方法且无遗忘。
2023-10-01 cs.AI cs.LG
Learning an evolved mixture model for task-free continual learning
University of York（约克大学）
最近，持续学习（CL）引起了人们的极大兴趣，因为它使深度学习模型能够在不忘记先前学习的信息的情况下获取新知识。然而，大多数现有的工作需要知道的任务身份和边界，这是不现实的，在现实的情况下。在本文中，我们解决了CL中更具挑战性和现实性的设置，即无任务持续学习（TFCL），其中模型在没有明确任务信息的非平稳数据流上进行训练。为了解决TFCL，我们引入了一个进化的混合模型，其网络结构是动态扩展的，以适应数据分布偏移。我们实现这种扩展机制，通过评估存储在每个混合模型组件和当前的内存缓冲区使用希尔伯特施密特独立性准则（HSIC）的知识之间的概率距离。我们还引入了两个简单的dropout机制，选择性地删除存储的例子，以避免内存过载，同时保持内存的多样性。实验结果表明，该方法取得了良好的性能。
2022-07-11 cs.AI cs.LG
Task diversity produces systematic transfer but inhibits continual reinforcement learning
MIT（麻省理工学院）；University of California, Berkeley（加州大学伯克利分校）；Princeton University（普林斯顿大学）；Harvard University（哈佛大学）
通过引入GPU加速的持续强化学习领域Banyan，研究任务多样性（地图布局、交互对象、子目标层次结构）对智能体在分布变化下持续学习能力的影响，发现多样性促进局部迁移但导致长期任务性能停滞和遗忘。
2026-10-07 cs.AI cs.LG
Efficient Model Adaptation for Continual Learning at the Edge
SRI International（SRI国际公司）
提出EAR框架，利用固定编码器与浅层适配器，结合超维计算和零样本NAS，实现边缘设备上高效持续学习，应对域偏移并减少灾难性遗忘。
2023-10-13 cs.AI cs.CV cs.LG
Reinforced Continual Learning for Graphs
Nanyang Technological University（南洋理工大学）；University of South Australia（南澳大学）
图神经网络（GNN）已经成为与图和类似拓扑数据结构有关的无数任务的骨干。虽然许多作品已经建立在与节点和图分类/回归任务相关的领域中，但它们主要处理单个任务。图上的持续学习在很大程度上未被探索，并且现有的图持续学习方法限于任务增量学习场景。本文提出了一种结合基于结构和基于记忆的方法的图持续学习策略。结构学习策略由强化学习驱动，其中控制器网络以这样的方式训练，以确定当观察到新任务时要从基础网络添加/修剪的节点的最佳数量，从而确保足够的网络容量。参数学习策略的基础是黑暗经验重放方法的概念，以应对灾难性遗忘问题。我们的方法进行了数值验证与几个图持续学习基准问题在任务增量学习和类增量学习设置。与最近发表的作品相比，我们的方法在这两种设置中表现出更好的性能。实现代码可在\url{https://github.com/codexhammer/gcl}上找到。
2022-09-04 cs.AI cs.LG
Weight Clipping for Deep Continual and Reinforcement Learning
University of Alberta（阿尔伯塔大学）；Google DeepMind（谷歌DeepMind）；CIFAR AI（CIFAR人工智能研究院）
深度连续学习和强化学习中的许多失败都与权重大小的增加有关，这使得它们很难改变，并可能导致过拟合。虽然许多方法解决了这些学习失败，但它们通常会改变优化器或架构，这种复杂性阻碍了各种系统的广泛采用。在本文中，我们专注于学习失败，与增加权重范数，我们提出了一个简单的技术，可以很容易地添加到现有的学习系统：裁剪神经网络的权重，以限制它们到一个特定的范围。我们在一系列的监督和强化学习实验中研究了权重裁剪的有效性。我们的实证结果突出了权重裁剪的好处，泛化，解决可塑性和政策崩溃的损失，并促进学习与大重放比率。
2024-07-01 cs.AI cs.LG
Learning to Continually Learn with the Bayesian Principle
Seoul National University（首尔大学）
本文提出一种元持续学习框架，结合神经网络表示能力与统计模型贝叶斯更新的抗遗忘性，实现高性能且可扩展的持续学习。
2024-05-29 cs.AI cs.LG
Continual learning on 3D point clouds with random compressed rehearsal
University of Wroclaw（弗罗茨瓦夫大学）；Warsaw University of Technology（华沙工业大学）；Tooploox
当代深度神经网络在应用于视觉推理时提供了最先进的结果，例如，在3D点云数据的上下文中。点云是三维环境精确建模的重要数据类型，但有效处理这类数据被证明是具有挑战性的。在大型、高度参数化的网络架构和连续流式数据的世界中，越来越需要可以在额外数据上训练的机器学习模型。不幸的是，目前可用的模型无法在不丢失过去知识的情况下充分利用额外数据的训练。对抗这种被称为灾难性遗忘的现象是持续学习的主要目标之一。深度神经网络的持续学习一直是一个活跃的研究领域，主要在2D计算机视觉、自然语言处理、强化学习和机器人技术中。然而，在3D计算机视觉中，几乎没有任何专门设计用于利用点云结构的持续学习解决方案。提出了一种新的神经网络结构，能够对三维点云数据进行持续学习。我们利用点云结构的属性，以保留一组严重压缩的过去的数据。通过使用排练和重建作为学习过程的正则化方法，我们的方法实现了显着减少灾难性遗忘相比，现有的解决方案，考虑到两个持续学习设置的几个最流行的点云数据集：当一个任务是已知的，并在具有挑战性的情况下，当任务信息是未知的模型。
2022-05-20 cs.CV cs.LG
Preserving Plasticity in Continual Learning via Dynamical Isometry
University of Amsterdam（阿姆斯特丹大学）；ETH Zurich（苏黎世联邦理工学院）
本文通过动态等距机制保持深度神经网络在持续学习中的可塑性，提出等距正则化方法和AdamO优化器，在多个基准上匹配或超越现有方法。
2026-06-08 cs.AI cs.LG
AlterSGD: Finding Flat Minima for Continual Learning by Alternative Training
Tsinghua University（清华大学）；Northwestern University（西北大学）；Purdue University（普渡大学）；Nanyang Technological University（南洋理工大学）
深度神经网络在顺序学习多个知识时会遭受灾难性遗忘，并且已经提出了越来越多的方法来缓解这个问题。其中一些方法通过将平坦局部极小值与持续学习中的遗忘缓解相关联来实现相当大的性能。然而，它们不可避免地需要（1）繁琐的超参数调整，以及（2）额外的计算成本。为了缓解这些问题，在本文中，我们提出了一个简单而有效的优化方法，称为AlterSGD，寻找一个平坦的最小值的损失景观。在AlterSGD中，当网络在每次学习新知识时趋于收敛时，我们交替进行梯度下降和上升。此外，我们从理论上证明，这样的策略可以鼓励优化收敛到一个平坦的极小。我们在语义分割的持续学习基准上验证了AlterSGD，实验结果表明，在具有挑战性的持续学习协议下，我们可以显着减轻遗忘，并以较大的幅度优于最先进的方法。
2021-07-13 cs.AI cs.CV cs.LG
