Spiking Neural Predictive Coding for Continual Learning from Data Streams
Rochester Institute of Technology（罗切斯特理工学院）
为了在专门的神经形态硬件中进行节能计算，我们提出了尖峰神经编码，这是基于预测编码理论的一系列人工神经模型的实例。这种模型是同类模型中的第一个，其工作原理是在一个永无止境的“猜测和检查”过程中运行，其中神经元预测彼此的活动值，然后调整自己的活动以做出更好的未来预测。我们的系统的交互式，迭代的性质很好地适合到连续时间的制定的感觉流预测，正如我们所展示的，该模型的结构产生一个本地突触更新规则，它可以用来补充或作为替代在线尖峰定时依赖可塑性。在这篇文章中，我们实验了一个由泄漏的积分和点火单元组成的模型的实例。然而，我们的系统所处的框架可以自然地包含更复杂的神经元，例如Hodgkin-Huxley模型。我们在模式识别的实验结果表明，当二进制尖峰列车是神经元间通信的主要范例时，该模型的潜力。值得注意的是，尖峰神经编码在分类性能方面具有竞争力，并且在从任务序列学习时经历较少的遗忘，为流行的人工神经网络提供了一种计算上更经济，生物学上更合理的替代方案。
2022-08-08 cs.LG cs.NE q-bio.NC
Weight Friction: A Simple Method to Overcome Catastrophic Forgetting and Enable Continual Learning
近年来，深度神经网络在复制人类水平的认知技能方面取得了成功，但它们面临着几个主要障碍。一个重要的限制是无法在不忘记以前学习过的任务的情况下学习新任务，这种缺点被称为灾难性遗忘。在这项研究中，我们提出了一个简单的方法来克服灾难性遗忘，使神经网络的持续学习。我们从神经学和物理学的原理中汲取灵感，发展了重量摩擦的概念。权重摩擦通过对梯度下降优化方法中的更新规则的修改来操作。它的收敛速度与随机梯度下降算法相当，并且可以在多个任务域上运行。它执行与当前方法相同的操作，同时提供计算和内存效率的改进。
2019-08-17 cs.LG cs.NE stat.ML
Continual learning with the neural tangent ensemble
Cold Spring Harbor Laboratory（冷泉港实验室）
本文提出将神经网络视为神经正切专家的贝叶斯集成，其后验更新等价于缩放投影的SGD，为持续学习中缓解灾难性遗忘提供了新框架。
2025-02-27 cs.LG cs.NE
Continual Learning via Neural Pruning
New York University（纽约大学）；SLAC National Accelerator Laboratory（SLAC国家加速器实验室）；Facebook AI Research（Facebook人工智能研究）；CIFAR Azrieli Global Scholar（CIFAR Azrieli全球学者（注：CIFAR为机构，但此处为学者头衔，按要求不提取，仅保留前序明确机构））
我们介绍了持续学习通过神经修剪（CLNP），一种新的方法，旨在终身学习的固定容量模型的基础上，神经元模型稀疏。在这种方法中，后续任务使用稀疏网络的非活动神经元和滤波器进行训练，并且对先前任务的性能造成零恶化。为了处理模型稀疏性和性能之间可能存在的折衷，我们形式化并引入了优雅遗忘的概念：如果有助于恢复网络容量并防止在未来任务的训练过程中出现不受控制的性能损失，那么最好以受控的方式进行少量遗忘。CLNP还提供了简单的持续学习诊断工具，用于训练未来任务的自由神经元的数量以及被重用的神经元的数量。特别是，我们在实验中看到，CLNP验证并自动利用了早期层的特征更具可转移性的事实。我们的经验表明，CLNP导致显着改善的结果比目前的重量弹性为基础的方法。
2019-03-11 cs.LG cs.NE q-bio.NC
Certified Continual Learning for Neural Network Regression
School of Computing and Information Systems, Singapore Management University（新加坡管理大学计算与信息系统学院）
针对神经网络重训练后已验证正确性易因灾难性遗忘被破坏的问题，提出可认证持续学习方法，通过保留已验证网络的正确性属性改进现有方法，实验验证其高效且能兼顾认证正确性与高效用。
2024-07-09 cs.LG
Continual Competitive Memory: A Neural System for Online Task-Free Lifelong Learning
Rochester Institute of Technology（罗切斯特理工学院）
在这篇文章中，我们提出了一种新的无监督学习形式，连续竞争记忆（CCM），以及一个计算框架，以统一相关的神经模型下的竞争原则。所得到的神经系统提供了一个有效的方法，打击灾难性遗忘在线连续分类问题。我们证明了所提出的CCM系统不仅优于其他竞争性学习神经模型，而且在Split MNIST和Split NotMNIST等基准上与几种现代最先进的终身学习方法相比具有竞争力。CCM为获取对数据流干扰具有鲁棒性的表示提供了一条有希望的前进道路，特别是当任务对模型未知并且必须在没有外部指导的情况下推断时。
2021-06-24 cs.LG
Latent Space based Memory Replay for Continual Learning in Artificial Neural Networks
University of Cambridge（剑桥大学）
记忆重放可能是生物大脑学习的关键，它能够不断地学习新任务，而不会灾难性地干扰以前的知识。另一方面，人工神经网络遭受灾难性的遗忘，往往只表现良好的任务，他们最近trainedon.In这项工作中，我们探讨了应用潜在空间为基础的记忆重放分类使用人工神经网络。我们能够保持良好的性能，在以前的任务中存储只有一小部分的原始数据在压缩的潜在空间版本。
2022-01-05 cs.LG
Continual Learning Using Bayesian Neural Networks
Adobe（Adobe公司）
持续学习模型允许随着时间的推移学习和适应新的变化和任务。然而，在使用具有各种分布的不同数据训练模型的连续和顺序学习场景中，神经网络倾向于忘记先前学习的知识。这种现象通常被称为灾难性遗忘。灾难性遗忘是动态环境下持续学习模型不可避免的问题。为了解决这个问题，我们提出了一种方法，称为连续贝叶斯学习网络（CBLN），它使网络能够分配额外的资源，以适应新的任务，而不会忘记以前学习的任务。使用贝叶斯神经网络，CBLN保持与不同任务相关联的高斯后验分布的混合。所提出的方法试图优化学习每个任务所需的资源数量，并避免学习多个任务所涉及的资源数量呈指数级增加。该方法不需要访问过去的训练数据，并可以选择合适的权重来分类的数据点在测试时间的不确定性标准的基础上自动。我们已经评估了我们的方法上的MNIST和UCR时间序列数据集。评估结果表明，我们的方法可以解决灾难性遗忘的问题，在一个有前途的速度相比，国家的最先进的模型。
2020-08-14 cs.LG cs.NE stat.ML
SAMix: Calibrated and Accurate Continual Learning via Sphere-Adaptive Mixup and Neural Collapse
本文提出SAMix方法，通过球形自适应混合策略提升持续学习模型的校准与性能，减少过自信并提高准确性。
2026-04-22 cs.LG
Sparse Distributed Memory is a Continual Learner
Harvard University（哈佛大学）；Harvard College（哈佛学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；IBM Research（IBM研究院）；Harvard Medical School（哈佛医学院）
持续学习是人工神经网络的一个问题，而它们的生物学对应物擅长解决这个问题。在使用稀疏分布式存储器（SDM）将核心神经回路与强大的Transformer模型连接起来的基础上，我们创建了一个修改后的多层感知器（MLP），它是一个强大的连续学习器。我们发现，从生物学翻译而来的MLP变体的每一个组成部分都是持续学习所必需的。我们的解决方案也是免费的，从任何内存重放或任务信息，并介绍了新的方法来训练稀疏网络，可广泛适用。
2023-03-20 cond-mat.dis-nn cs.AI cs.LG
Continual Learning: Tackling Catastrophic Forgetting in Deep Neural Networks with Replay Processes
Thales（泰雷兹）
人类一生都在学习。他们从一系列的学习经验中积累知识，记住基本概念，而不会忘记以前所学的知识。人工神经网络也在努力学习。他们通常依赖于严格预处理的数据来学习特定问题的解决方案，如分类或回归。特别是，如果他们接受新的培训，他们会忘记过去的学习经验。因此，人工神经网络往往不适合处理现实生活中的设置，如一个笨拙的机器人，必须在线学习，以适应新的情况，克服新的问题，而不会忘记它过去的学习经验。持续学习（CL）是解决这类问题的机器学习的一个分支。连续算法的目的是在学习经验的课程中积累和提高知识，而不会忘记。在这篇论文中，我们提出了探索连续算法与重放过程。重放过程集合了排练方法和生成重放方法。生成性重放包括用生成模型重新生成过去的学习经验来记住它们。排练包括从过去的学习经验中保存一组核心样本，以便以后排练。重放过程可以在优化当前学习目标和过去的学习目标之间进行折衷，从而使学习不会忘记任务设置的顺序。我们表明，他们是非常有前途的方法，持续学习。值得注意的是，它们能够用新知识重新评估过去的数据，并对抗来自不同学习经验的数据。我们展示了他们通过无监督学习、监督学习和强化学习任务不断学习的能力。
2020-12-08 cs.AI cs.LG cs.NE
Bayesian Continual Learning via Spiking Neural Networks
生物智能的主要特征包括能源效率、持续适应能力以及通过不确定性量化进行风险管理。迄今为止，神经形态工程主要是由实现节能机器的目标驱动的，这些机器从生物大脑的基于时间的计算范式中获得灵感。在本文中，我们采取措施的神经形态系统的设计，能够适应不断变化的学习任务，同时产生校准良好的不确定性量化估计。为此，我们推导出脉冲神经网络（SNN）的贝叶斯持续学习框架内的在线学习规则。其中，每个突触权重由量化由先验知识和观测数据产生的当前认知不确定性的参数表示。所提出的在线规则更新的分布参数，在流的方式作为数据被观察。我们实例所提出的方法为实值和二进制突触权重。使用英特尔的Lava平台的实验结果表明，贝叶斯在适应能力和不确定性量化方面优于频率学习。
2022-11-01 cs.AI cs.LG cs.NE
Theories of synaptic memory consolidation and intelligent plasticity for continual learning
Friedrich Miescher Institute of Biomedical Research（弗里德里希·米歇尔生物医学研究所）；Faculty of Science, University of Basel（巴塞尔大学理学院）
本章综述了基于突触内部状态演化和智能调控单个突触可塑性的元可塑性理论，阐明其对实现神经网络持续学习的关键作用，并总结了在深度神经网络中的应用及未来研究方向。
2024-10-18 cs.AI cs.LG cs.NE
Continual learning using hash-routed convolutional neural networks
IRT Saint-Exupéry（圣埃克苏佩里研究所 (IRT Saint-Exupéry)）；Toulouse（图卢兹 (城市，此处作为机构所在地但本身非机构，按要求不提取城市，仅保留IRT Saint-Exupéry)）；France（法国 (国家，非机构，按要求不提取)）
持续学习可以将机器学习范式从以数据为中心转变为以模型为中心。持续学习模型需要有效地扩展以处理语义不同的数据集，同时避免不必要的增长。我们介绍了散列路由的卷积神经网络：一组数据流动态流动的卷积单元。使用特征散列比较特征图，并将相似的数据路由到相同的单元。散列路由网络由于其路由性质而提供了出色的可塑性，同时通过使用正交特征散列来生成稳定的特征。每个单位单独进化，并且可以添加新的单位（仅在必要时使用）。散列路由网络在各种典型的持续学习基准上实现了优异的性能，而无需存储原始数据，并且仅使用梯度下降进行训练。除了为有监督的任务提供一个持续学习框架外，我们的模型还可以用于无监督或强化学习。
2020-10-09 cs.AI cs.LG
Continual Lifelong Learning with Neural Networks: A Review
Universität Hamburg（汉堡大学）；Rochester Institute of Technology（罗切斯特理工学院）；Heriot-Watt University（赫瑞-瓦特大学）
人类和动物有能力在其一生中不断获得，微调和转移知识和技能。这种能力被称为终身学习，是由一套丰富的神经认知机制介导的，这些机制共同促进我们感觉运动技能的发展和专业化，以及长期记忆的巩固和检索。因此，终身学习能力是至关重要的自主智能体在现实世界中进行交互和处理连续的信息流。然而，终身学习仍然是机器学习和神经网络模型的长期挑战，因为从非平稳数据分布中不断获取增量可用信息通常会导致灾难性遗忘或干扰。这种限制代表了最先进的深度神经网络模型的主要缺点，该模型通常从静止批次的训练数据中学习表示，因此没有考虑到信息随着时间的推移变得增量可用的情况。在这篇综述中，我们批判性地总结了与人工学习系统终身学习相关的主要挑战，并比较了现有的神经网络方法，这些方法在不同程度上缓解了灾难性遗忘。我们讨论了成熟的和新兴的研究动机终身学习因素在生物系统，如结构可塑性，记忆重放，课程和迁移学习，内在动机，多感官整合。
2019-02-11 cs.LG q-bio.NC stat.ML
Robust Continual Learning through a Comprehensively Progressive Bayesian Neural Network
本文提出了一种全面渐进的贝叶斯神经网络，用于对一系列任务进行鲁棒的持续学习。贝叶斯神经网络被逐步修剪和生长，使得有足够的网络资源来表示任务序列，同时网络不会爆炸。它始于这样一种争论，即相似的任务应该具有相同数量的总网络资源，以确保持续学习场景中所有任务的公平表示。因此，作为新任务流的数据，足够的神经元被添加到网络，使得网络的每一层中的神经元的总数（包括与先前任务的共享表示和个体任务相关表示）对于所有任务都是相等的。在训练每个任务结束时冗余的权重也通过重新初始化进行修剪，以便在后续任务中有效地利用。因此，网络逐渐增长，但确保了网络资源的有效利用。我们将我们提出的方法称为“通过全面渐进贝叶斯神经网络（RCL-CPB）的鲁棒持续学习”，并在三种不同的持续学习场景下对MNIST数据集进行评估。此外，我们评估的性能RCL-CPB上的同质序列的任务使用分裂CIFAR 100（20个任务，每个5类），和一个异构序列的任务使用MNIST，SVHN和CIFAR 10数据集。实验结果表明，所提出的渐进式BNN学习策略能够实现鲁棒的持续学习。
2022-02-27 cs.LG
Continual Learning Through Synaptic Intelligence
Stanford University（斯坦福大学）
虽然深度学习在不同的应用程序中取得了显着的进步，但它在学习过程中数据分布发生变化的领域中仍然存在困难。与此形成鲜明对比的是，生物神经网络不断适应不断变化的领域，可能是通过利用复杂的分子机制来同时解决许多任务。在这项研究中，我们引入了智能突触，将这种生物复杂性带入人工神经网络。每个突触随着时间的推移积累与任务相关的信息，并利用这些信息快速存储新的记忆，而不会忘记旧的记忆。我们评估了我们的方法对分类任务的持续学习，并表明它大大减少了遗忘，同时保持计算效率。
2017-06-12 cs.LG q-bio.NC stat.ML
Frosting Weights for Better Continual Training
Northwestern University（西北大学）；Florida Atlantic University（佛罗里达大西洋大学）；Iowa State University（爱荷华州立大学）
训练神经网络模型可以是终身学习过程，并且是计算密集型过程。深度神经网络模型中可能发生的一个严重不利影响是，它们在对新数据进行再训练期间可能会遭受灾难性遗忘。为了避免连续学习中的这种中断，一个吸引人的属性是集成模型的加性。在本文中，我们提出了两个通用的集成方法，梯度提升和元学习，以解决灾难性遗忘问题，调整预先训练好的神经网络模型。
2020-01-07 cs.LG cs.NE stat.ML
Continual Learning in Neural Networks
University of Oxford（牛津大学）
人工神经网络在完成几个单独的任务（例如，话音识别，对象识别和视频游戏）方面已经超过了人类水平的性能。然而，与人类智能相比，这种成功仍然是有限的，人类智能可以学习和执行无限数量的任务。人类在一生中学习和积累知识的能力是其智力的一个重要方面。连续机器学习旨在通过为人工代理提供从非静态和永无止境的数据流在线学习的能力来实现更高水平的机器智能。这种永无止境的学习过程的一个关键组成部分是克服对先前看到的数据的灾难性遗忘，这是神经网络众所周知的问题。本论文的主要工作是研究神经网络中的持续学习和克服遗忘现象的方法。为了解决持续学习问题，我们首先假设一个任务增量设置，其中一次接收一个任务，并且不存储来自先前任务的数据。由于任务增量设置不能在所有的持续学习场景中假设，我们也研究了更一般的在线持续设置。我们考虑一个无限的数据流从一个非平稳分布与监督或自我监督的训练信号。本文提出的方法解决了持续学习的重要方面。他们根据不同的基准和不同的学习顺序进行评估。在持续学习的最新技术水平的进步已经显示出来，并严格确定了将持续学习付诸应用的挑战。
2019-10-18 cs.CV cs.LG stat.ML
Similarity-based context aware continual learning for spiking neural networks
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Chinese Academy of Sciences（中国科学院）；Center for Long-term Artificial Intelligence（长期人工智能中心）
提出SCA-SNN，一种基于任务相似性的上下文感知脉冲神经网络持续学习算法，通过选择性重用和扩展神经元，在多个数据集上优于现有SNN和DNN方法，并降低能耗。
2024-10-28 cs.AI cs.LG cs.NE
Generalisation Guarantees for Continual Learning with Orthogonal Gradient Descent
Aqemia；McGill University（麦吉尔大学）；Mila；RIKEN（理化学研究所）；The University of Tokyo（东京大学）
在持续学习环境中，深度神经网络容易发生灾难性遗忘。正交梯度下降法就是为了解决这一问题而提出的。然而，理论上的保证还没有得到证实。我们提出了一个理论框架来研究神经切线核机制中的连续学习算法。该框架包括通过任务和代理进行迁移学习，概括和任务相似性的模型的封闭形式表达。在这个框架中，我们证明了OGD对灾难性遗忘是鲁棒的，然后推导出SGD和OGD对持续学习的第一个推广界。最后，我们研究了这个框架在OGD实践中的局限性，并强调了神经切线核变化对OGD持续学习的重要性。
2020-12-04 cs.LG stat.ML
Efficient Continual Learning in Neural Networks with Embedding Regularization
Sapienza University of Rome（罗马第一大学）；University of Bologna（博洛尼亚大学）
深度神经网络的持续学习是将其扩展到更复杂的应用场景以及实现这些架构的真正终身学习的关键要求。以前解决这个问题的方法要么考虑了网络规模的逐步增加，要么试图将网络行为正则化，以使其与先前观察到的任务保持一致。在后一种情况下，了解什么类型的信息最能代表这种过去的行为是至关重要的。常见的技术包括正则化过去的输出、梯度或单个权重。在这项工作中，我们提出了一种新的，相对简单和有效的方法来执行持续学习，而不是正规化的网络内部嵌入。为了使该方法具有可扩展性，我们还提出了一个动态采样策略，以减少所需的外部存储的内存占用。我们表明，我们的方法表现良好，相对于国家的最先进的方法在文献中，同时需要显着更少的内存空间和计算时间。此外，灵感来自最近的作品，我们评估的影响，选择一个更灵活的模型内的网络激活功能，评估的影响灾难性遗忘的激活函数本身。
2020-02-11 cs.LG cs.NE stat.ML
Sparsity and Heterogeneous Dropout for Continual Learning in the Null Space of Neural Activations
Vanderbilt University（范德堡大学）；University of California, Davis（加州大学戴维斯分校）；Johns Hopkins University（约翰斯·霍普金斯大学）
从非平稳输入数据流中持续/终身学习是智能的基石。尽管深度神经网络在各种各样的应用中表现出色，但在学习新信息时，它很容易忘记以前学习过的信息。这种现象被称为"灾难性遗忘"，深深植根于稳定性-可塑性困境。克服深度神经网络中的灾难性遗忘已成为近年来活跃的研究领域。特别地，基于梯度投影的方法最近在克服灾难性遗忘方面显示出优异的性能。本文提出了两种基于稀疏性和异质性辍学的生物启发机制，显着提高了连续学习者在长序列任务中的表现。我们提出的方法建立在梯度投影记忆（GPM）框架。我们在神经网络的每一层中利用k-winner激活来为每个任务执行逐层稀疏激活，以及任务间的异构dropout，鼓励网络在不同任务之间使用非重叠的激活模式。此外，我们还介绍了两个新的分布式转移下的持续学习基准，即Continual Swiss Roll和ImageNet SuperDog-40。最后，我们提供了一个深入的分析，我们提出的方法，并证明了各种基准持续学习问题的显着性能提升。
2022-07-08 cs.AI cs.CV cs.LG
Plasticity of Growing and Elastic Neural Networks in Online Continual Learning
University of California, Los Angeles (UCLA)（加利福尼亚大学洛杉矶分校）；University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所）
本文研究在线持续学习中生长型与弹性型神经网络的可塑性，实验显示自适应生长型和弹性型神经网络可维持高准确率、不丧失可塑性，或为在线持续学习提供有前景的算法类别。
2026-08-04 cs.LG
Hybrid Learners Do Not Forget: A Brain-Inspired Neuro-Symbolic Approach to Continual Learning
University of Southern California（南加州大学）
本文提出受 System 1/System 2 启发的 NeSyBiCL 框架，通过神经网络与符号推理器协同实现持续学习，并在两个新组合基准上验证其抗遗忘优势。
2025-03-16 cs.AI cs.LG
A Study of Biologically Plausible Neural Network: The Role and Interactions of Brain-Inspired Mechanisms in Continual Learning
NavInfo Europe（纳维信息欧洲公司）；Eindhoven University of Technology（埃因霍温理工大学）
本文研究生物合理性神经网络中稀疏表征、赫布学习、突触巩固与激活回放等脑启发机制的协同作用，证明多机制互补架构可有效缓解人工神经网络的灾难性遗忘，实现持续学习。
2023-04-13 cs.AI cs.CV cs.LG
Continual Learning Using Multi-view Task Conditional Neural Networks
University of Surrey（萨里大学）；UK Dementia Research Institute（英国痴呆症研究所）；Imperial College London（帝国理工学院）；Adobe（奥多比公司）
传统的深度学习模型在顺序学习多个任务方面的能力有限。在持续学习中，忘记先前学习的任务的问题被称为灾难性遗忘或干扰。当输入数据或学习目标发生变化时，连续模型将学习并适应新的状态。然而，模型不会记住或识别对先前状态的任何重新访问。这会导致性能降低和重新训练曲线，以处理数据或目标中的周期性或不规则重复发生的变化。在持续学习模型中，目标或数据的变化被称为新任务。大多数持续学习方法具有任务已知设置，其中任务身份对于学习模型是预先已知的。提出了一种不需要预先知道重复任务的多视图任务条件神经网络（Mv-TCNN）。我们使用MNIST，CIFAR 10，CIFAR 100标准数据集以及我们在远程医疗监测研究中收集的真实数据集（即TIHM数据集）评估我们的模型。该模型在持续学习和适应未预先定义的新任务方面优于最先进的解决方案。
2020-07-13 cs.LG stat.ML
Continual Learning of Long Topic Sequences in Neural Information Retrieval
CNRS-ISIR, Sorbonne University（法国国家科学研究中心-智能系统与机器人研究所，索邦大学）
在信息检索（IR）系统中，趋势和用户的兴趣可能随时间改变，从而改变请求的分布或要推荐的内容。由于神经排序方法严重依赖于训练数据，因此了解最近IR方法的传输能力以解决长期的新领域是至关重要的。在本文中，我们首先提出了一个数据集的基础上MSMarco语料库，旨在建模一个很长的主题流以及IR属性驱动的控制设置。然后，我们深入分析最近的神经IR模型的能力，同时不断学习这些流。我们的实证研究强调了在哪些特定情况下会发生灾难性遗忘（例如，任务之间的相似性水平、文本长度的特殊性以及学习模型的方式），以提供模型设计方面的未来方向。
2022-01-10 cs.IR cs.LG
Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks
School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；School of Public Health, Peking University（北京大学公共卫生学院）；Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院）；Peng Cheng Laboratory（鹏城实验室）
针对脉冲神经网络的灾难性遗忘问题，提出基于侧向连接和赫布学习的正交投影方法，通过提取主子空间保护旧知识，在多种监督训练下实现接近零遗忘并优于现有方法。
2024-02-19 cs.AI cs.LG cs.NE
Learning to Continually Learn
University of Vermont（佛蒙特大学）；Uber AI Labs（优步人工智能实验室）；OpenAI（开放人工智能研究中心）
持续的终身学习要求智能体或模型学习许多顺序排列的任务，建立在以前的知识基础上，而不会灾难性地忘记它。许多工作都是为了防止机器学习模型的默认趋势灾难性地忘记，但几乎所有这些工作都涉及手动设计的问题解决方案。相反，我们提倡元学习，这是一种解决灾难性遗忘的方法，允许人工智能学习不断学习。受大脑中神经调节过程的启发，我们提出了一种神经调节元学习算法（ANML）。它通过顺序学习过程进行区分，以元学习激活门控功能，该功能能够在深度神经网络内实现上下文相关的选择性激活。具体来说，神经调节（NM）神经网络门控另一个（否则正常）称为预测学习网络（PLN）的神经网络的前向传递。因此，NM网络还间接地控制PLN的选择性可塑性（即，PLN的后向传递）。ANML能够实现持续学习，而不会大规模发生灾难性遗忘：它产生最先进的持续学习性能，连续学习多达600个类（超过9，000个SGD更新）。
2020-03-04 cs.CV cs.LG cs.NE
Continual Learning in Deep Neural Network by Using a Kalman Optimiser
University of Surrey（萨里大学）；Adobe（奥多比）
在持续学习模型中，学习和适应新的分布或顺序地学习新的任务而不忘记先前学习的知识是一个具有挑战性的现象。大多数传统的深度学习模型不能在一个模型中顺序地学习新任务而不忘记先前学习的任务。我们通过使用卡尔曼优化器来解决这个问题。卡尔曼优化器将神经网络分为两部分：长期记忆单元和短期记忆单元。长期记忆单元用于记忆已学任务，短期记忆单元用于适应新任务。我们在MNIST，CIFAR10，CIFAR100数据集上评估了我们的方法，并将我们的结果与最先进的基线模型进行了比较。结果表明，我们的方法使模型能够不断学习和适应新的变化，而不会忘记以前学习的任务。
2019-05-24 cs.LG stat.ML
Saliency-Augmented Memory Completion for Continual Learning
Emory University（埃默里大学）
持续学习被认为是迈向下一代人工智能的关键一步。在各种方法中，基于回放的方法保持和回放先前样本的小情景记忆是对抗灾难性遗忘的最成功的策略之一。然而，由于遗忘是不可避免的有限的记忆和无限的任务，如何忘记是持续学习必须解决的问题。因此，除了简单地避免灾难性遗忘之外，一个未充分探讨的问题是如何在确保人类记忆优点的同时合理地遗忘，包括1.存储效率，2.可推广性，3。一些可解释性。为了同时实现这些，我们的论文提出了一个新的显着性增强的记忆完成框架持续学习，最近发现的记忆完成分离的认知神经科学的启发。具体而言，我们创新性地提出了通过显著图提取和记忆编码将图像中对任务最重要的部分存储在情景记忆中。当学习新任务时，来自记忆的先前数据由自适应数据生成模块修复，该模块受到人类如何完成情景记忆的启发。该模块的参数在所有任务之间共享，并且可以与持续学习分类器联合训练，作为双层优化。在多个持续学习和图像分类基准上的实验证明了该方法的有效性。
2022-12-26 cs.LG
Continual Neural Topic Model
RPTU Kaiserslautern-Landau（凯撒斯劳滕-兰道大学）
本文提出持续神经主题模型CoNTM，通过持续更新的全局先验分布实现在线学习新主题而不遗忘旧主题，实验表明其在主题质量、预测困惑度和捕捉时间变化方面优于动态主题模型。
2025-08-21 cs.LG
Online Continual Learning via Spiking Neural Networks with Sleep Enhanced Latent Replay
针对边缘计算中在线持续学习的高内存开销和类别偏差问题，提出SESLR方法，结合脉冲神经网络与睡眠增强潜在重放，显著降低内存并提升准确率。
2025-10-16 cs.CV cs.LG cs.NE
Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting
North Carolina State University（北卡罗来纳州立大学）；Salesforce Research（赛富时研究院）
解决灾难性遗忘是持续学习的关键挑战之一，其中机器学习系统是用顺序或流式任务训练的。尽管最近在最先进的深度学习方面取得了显着进展，但深度神经网络（DNN）仍然受到灾难性遗忘问题的困扰。本文提出了一个概念上简单而通用的有效框架，用于处理持续学习中的灾难性遗忘。所提出的方法由两个部分组成：神经结构优化组件和参数学习和/或微调组件。通过分离显式神经结构学习和参数估计，该方法不仅能够以直观有意义的方式进化神经结构，而且在实验中显示出较强的缓解灾难性遗忘的能力。此外，所提出的方法优于所有其他基线上的排列MNIST数据集，分裂CIFAR 100数据集和视觉领域十项全能数据集在持续学习设置。
2019-05-21 cs.CV cs.LG
A Neural Network Model of Complementary Learning Systems: Pattern Separation and Completion for Continual Learning
Georgia Institute of Technology（佐治亚理工学院）
针对神经网络灾难性遗忘问题，结合变分自编码器与现代Hopfield网络构建互补学习系统模型，实现模式补全与分离，在Split-MNIST上准确率接近90%并大幅减少遗忘。
2025-07-15 cs.LG
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning
Humboldt-Universität zu Berlin（柏林洪堡大学）；University of Trento（特伦托大学）；SAP ML Research（SAP机器学习研究院）
在持续学习（CL）环境中训练的模型应该能够在未定义的时间段内从数据流中学习。这里的主要挑战是：1）维护旧知识，同时在学习新任务时从中受益，2）保证模型的可扩展性，并从越来越多的数据中学习。为了应对这些挑战，我们引入了动态生成记忆（DGM）-一个突触可塑性驱动的持续学习框架。DGM依赖于有条件的生成对抗网络，具有通过神经掩蔽实现的可学习连接可塑性。具体来说，我们评估了神经掩蔽的两种变体：（i）应用于层激活和（ii）直接应用于连接权重。此外，我们提出了一个动态的网络扩展机制，确保足够的模型容量，以适应不断传入的任务。增加的容量的量根据学习的二进制掩码动态地确定。我们在视觉分类任务的连续类增量设置中评估DGM。
2019-12-02 cs.CV cs.LG cs.NE
Storing Encoded Episodes as Concepts for Continual Learning
The Pennsylvania State University（宾夕法尼亚州立大学）
持续学习方法面临的两个主要挑战是灾难性遗忘和存储数据的记忆限制。为了应对这些挑战，我们提出了一种新颖的、受认知启发的方法，该方法利用神经风格转移训练自动编码器来编码和存储图像。当在新任务上训练分类器模型时，重放来自编码片段的重建图像，以避免灾难性遗忘。对重建图像的损失函数进行加权，以减小其在分类器训练过程中的影响，从而应对图像退化。当系统内存不足时，编码的片段被转换为质心和协方差矩阵，用于在分类器训练期间生成伪图像，从而以更少的内存保持分类器性能稳定。我们的方法在基准数据集上将分类准确率提高了13-17%，而需要的存储空间减少了78%。
2020-06-26 cs.CV cs.LG stat.ML
Saliency-Guided Replay for Continual Learning in Deep Spiking Neural Networks
Sapienza University of Rome（罗马大学）；Goethe University Frankfurt（法兰克福大学）
该研究针对深度脉冲神经网络的灾难性遗忘问题，提出结合VGG9 SNN与脉冲激活图（SAM）的显著性引导经验打包与重放策略，在Split CIFAR数据集上实现了更优的准确率-内存权衡。
2026-10-14 cs.AI cs.CV cs.LG
Learning Curves for Continual Learning in Neural Networks: Self-Knowledge Transfer and Forgetting
National Institute of Advanced Industrial Science and Technology (AIST)（国立先进工业科学技术研究院（产业技术综合研究所））
从任务到任务的顺序训练正在成为深度学习应用（如持续学习和迁移学习）的主要目标之一。然而，目前还不清楚在什么条件下训练模型的性能会提高或下降。为了加深我们对顺序训练的理解，本研究提供了一个理论分析的泛化性能在一个可解决的情况下的持续学习。我们认为神经网络在神经正切核（NTK）制度，不断学习目标函数从任务到任务，并研究通过使用一个既定的统计力学分析内核无脊回归的泛化。我们首先展示了从正迁移到负迁移的特征性转变。在特定的临界值以上，更相似的目标可以为随后的任务实现积极的知识转移，而灾难性的遗忘即使非常相似的目标也会发生。接下来，我们研究了一种持续学习的变体，它假设在多个任务中具有相同的目标函数。即使对于相同的目标，训练后的模型也会根据每个任务的样本量表现出一定的迁移和遗忘。我们可以保证，推广误差单调递减任务相同的样本量，而不平衡的样本量恶化的推广。我们将这些改善和恶化分别称为自我知识转移和遗忘，并在深度神经网络的实际训练中进行了经验验证。
2022-03-18 cond-mat.dis-nn cs.LG stat.ML
How Weight Resampling and Optimizers Shape the Dynamics of Continual Learning and Forgetting in Neural Networks
University of Vermont（佛罗里达大学）；University of British Columbia（不列颠哥伦比亚大学）；Vector Institute Canada（加拿大向量研究所）；CIFAR AI Chair（CIFAR人工智能主席）
本文研究了权重重采样（zapping）和优化器选择对神经网络持续学习与遗忘动态的影响，发现二者均能显著改变模型迁移后的恢复速度及多任务间的协同与干扰模式。
2025-07-02 cs.CV cs.LG
Optimization and Generalization of Regularization-Based Continual Learning: a Loss Approximation Viewpoint
DeepMind（深度思维）
神经网络在许多认知任务中取得了显著的成功。然而，当他们在不访问旧数据的情况下按顺序接受多个任务的训练时，他们在早期任务上的表现往往会显着下降。这个问题通常被称为灾难性遗忘，这是神经网络的持续学习中的一个关键挑战。基于正则化的方法是减轻灾难性遗忘的主要方法之一。在本文中，我们提供了一个新的观点，正则化为基础的持续学习，制定它作为一个二阶泰勒近似的损失函数的每个任务。这种观点导致了一个统一的框架，可以实例化，以获得许多现有的算法，如弹性权重合并和克罗内克因子拉普拉斯近似。基于这一观点，我们研究了优化方面（即，收敛）以及泛化特性（即，有限样本保证）的基于规则化的持续学习。我们的理论结果表明的重要性，准确逼近的海森矩阵。几个基准的实验结果提供了我们的理论研究结果的实证验证。
2021-02-08 cs.LG stat.ML
Uncertainty-guided Continual Learning with Bayesian Neural Networks
UC Berkeley（加州大学伯克利分校）；Facebook AI Research（脸书人工智能研究院）；KAUST（阿卜杜拉国王科技大学）；Stanford University（斯坦福大学）
持续学习的目的是学习新的任务而不忘记以前学过的。当无法访问先前任务的数据以及模型具有固定容量时，这尤其具有挑战性。目前基于正则化的持续学习算法需要一个外部表示和额外的计算来测量参数的\textit{importance}。相比之下，我们提出了不确定性指导的连续贝叶斯神经网络（UCB），其中学习率根据网络中权重的概率分布中定义的不确定性进行调整。不确定性是一种自然的方式来识别\textit{what to remember}和\textit{what to change}，因为我们不断学习，从而减轻灾难性遗忘。我们还展示了我们模型的一个变体，它使用不确定性进行权重修剪，并通过保存每个任务的二进制掩码来修剪后保留任务性能。我们在不同的对象分类数据集上广泛评估了我们的UCB方法，这些数据集具有短序列和长序列的任务，并报告了与现有方法相比的优越或同等的性能。此外，我们表明，我们的模型并不一定需要在测试时的任务信息，即它不假定知识的任务样本属于。
2020-02-20 cs.AI cs.CV cs.LG
Structural features of the fly olfactory circuit mitigate the stability-plasticity dilemma in continual learning
Tsinghua University（清华大学）；Tianjin University（天津大学）
针对持续学习的稳定性-可塑性困境，提出果蝇嗅觉回路模型Fly Model作为即插即用模块，增强记忆稳定性与学习可塑性，以极低计算成本提升机器学习持续学习能力。
2025-02-03 cs.AI cs.CV cs.LG
SpikeDyn: A Framework for Energy-Efficient Spiking Neural Networks with Continual and Unsupervised Learning Capabilities in Dynamic Environments
Technische Universität Wien (TU Wien)（维也纳工业大学）；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）
脉冲神经网络（SNN）由于其生物可扩展性而具有高效无监督和持续学习能力的潜力，但其复杂性仍然构成了一个严峻的研究挑战，以使其能够在资源受限的场景（如嵌入式系统，IoT边缘等）中进行节能设计。我们提出了SpikeDyn，一个全面的框架，能源效率的SNN与持续和无监督学习能力，在动态环境中，为训练和推理阶段。它是通过以下多种不同的机制实现的：1）通过用直接侧向抑制代替抑制性神经元来减少神经元操作; 2）记忆和能量受限的SNN模型搜索算法，其采用分析模型来估计不同候选SNN模型的记忆足迹和能量消耗，并选择帕累托最优SNN模型;以及3）轻量级的连续和无监督学习算法，其采用自适应学习率、自适应膜阈值电位、权重衰减以及虚假更新的减少。我们的实验结果表明，对于一个有400个兴奋性神经元的网络，我们的SpikeDyn减少了平均51%的训练能耗和37%的推理能耗，与最先进的。由于改进的学习算法，SpikeDyn提供了平均。与最先进的技术相比，对最近学习的任务进行分类的准确率提高了21%，对以前学习的任务的平均准确率提高了8%。
2021-02-28 cs.AI cs.AR cs.LG
Continual Reasoning: Non-Monotonic Reasoning in Neurosymbolic AI using Continual Learning
City, University of London（伦敦城市大学）
针对深度学习难以处理非单调推理的问题，提出将持续学习融入逻辑张量网络的持续推理方法，经实验验证可显著提升非单调推理任务准确率，在统计关系学习场景也有应用潜力。
2023-05-03 cs.AI cs.LG
Incremental Multi-Scene Modeling via Continual Neural Graphics Primitives
CVIG Lab IIT Gandhinagar Gujarat, India（IIT Gandhinagar 研究所）
针对NeRF多场景建模的可扩展性问题，提出持续学习框架C-NGP，采用生成回放将多个场景增量集成到单个神经辐射场，在不增加参数的情况下实现高质量渲染，Real-LLFF数据集8个场景联合建模PSNR仅降2.2%。
2025-08-26 cs.CV cs.LG
Hierarchical Indian Buffet Neural Networks for Bayesian Continual Learning
University of Oxford（牛津大学）；Amazon Adelaide（亚马逊阿德莱德分公司）
我们把一个印度巴菲特过程（IBP）之前的贝叶斯神经网络（BNN）的结构，从而使BNN的复杂性自动增加和减少。我们进一步扩展了这个模型，使每个隐藏层的结构上的先验全局共享所有层，使用分层IBP（H-IBP）。我们将此模型应用于持续学习（CL）中的资源分配问题，其中新任务的出现和网络需要额外的资源。我们的模型使用在线变分推断与重新参数化的伯努利和β分布，这构成了IBP和H-IBP先验。当我们自动学习BNN每层中的权重时，过拟合和欠拟合问题在很大程度上得到了克服。我们的经验表明，我们的方法提供了竞争优势，在CL现有的方法。
2021-08-02 cs.LG stat.ML
CoMetaPNS: Continually Meta-learning Personalized Neural Surrogates for Cardiac Electrophysiology Simulations
Golisano College of Computing and Information Sciences, Rochester Institute of Technology（罗切斯特理工学院戈利萨诺计算与信息科学学院）；Department of Computer Science, Rowan University（罗文大学计算机科学系）；The University of Utah（犹他大学）
提出持续元学习框架CoMetaPNS，通过贝叶斯高斯混合模型记忆缓冲区分辨数据来源，实现个性化神经代理的持续学习，避免灾难性遗忘，在心脏模拟预测中优于基线。
2026-06-05 cs.LG
lpSpikeCon: Enabling Low-Precision Spiking Neural Network Processing for Efficient Unsupervised Continual Learning on Autonomous Agents
Technische Universität Wien (TU Wien)（维也纳工业大学）；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校）
最近的进展表明，基于SNN的系统可以有效地执行无监督的持续学习，这是由于它们的生物合理的学习规则，例如，尖峰时间依赖可塑性（STDP）。这样的学习能力对于像自主智能体（例如，机器人和无人机），需要不断适应动态变化的场景/环境，其中直接从环境中收集的新数据可能具有应在线学习的新颖特征。当前的现有技术工作采用高精度权重（即，32位），这造成了高存储器和能量成本，从而阻碍了电池驱动的移动自主系统的这种系统的有效嵌入式实现。另一方面，由于信息丢失，精度降低可能危及无监督持续学习的质量。为此，我们提出了lpSpikeCon，一种新的方法，使低精度SNN处理资源受限的自主智能体/系统的有效的无监督持续学习。我们的lpSpikeCon方法采用以下关键步骤：（1）分析在无监督持续学习设置下训练SNN模型对推理准确性的影响，其中权重精度降低;（2）利用这项研究来识别对推理准确性有显著影响的SNN参数;以及（3）开发用于搜索各个SNN参数值的算法，该算法提高无监督持续学习的质量。实验结果表明，我们的lpSpikeCon可以将SNN模型的权重记忆减少8倍（即，通过明智地采用4位权重）来执行具有无监督持续学习的在线训练，并且与在不同网络大小上具有32位权重的基线模型相比，在推理阶段中没有实现准确性损失。
2022-05-24 cs.AI cs.AR cs.LG
Effective prevention of semantic drift as angular distance in memory-less continual deep neural networks
National University of Computer and Emerging Sciences（国立计算机与新兴科学大学）
终身机器学习或持续学习模型试图通过在一系列任务中积累知识来逐步学习。因此，这些模型学习得更好、更快。它们用于必须与人类或任何动态环境交互的各种智能系统中，聊天机器人和自动驾驶汽车。无记忆方法更常用于深度神经网络，该网络在其架构内容纳来自任务的传入信息。它允许他们在所有可见的任务上表现良好。这些模型遭受语义漂移或可塑性稳定性困境。现有的模型使用Minkowski距离度量来决定冻结、更新或复制哪些节点。这些距离度量不提供更好的节点分离，因为它们易受高维稀疏向量的影响。在我们提出的方法中，我们使用角距离来评估单个节点中的语义漂移，从而提供更好的节点分离，从而更好地平衡稳定性和可塑性。所提出的方法通过在标准数据集上保持更高的准确性而优于最先进的模型。
2021-12-16 cs.LG
Active, Continual Fine Tuning of Convolutional Neural Networks for Reducing Annotation Efforts
Arizona State University（亚利桑那州立大学）；Mayo Clinic（梅奥诊所）
卷积神经网络（CNN）在计算机视觉中的巨大成功在很大程度上归功于大量注释数据集的可用性，如ImageNet和Places。然而，在医学成像中，创建如此大的注释数据集是具有挑战性的，因为注释医学图像不仅繁琐、费力和耗时，而且还需要昂贵的、面向专业的技能，这些技能不容易获得。为了大大降低标注成本，本文提出了一种新的方法，将主动学习和迁移学习（微调）自然地集成到一个框架中，该方法直接从预训练的CNN开始寻找“有价值”的样本进行标注，并通过不断微调逐渐增强（微调）CNN。我们已经使用三种不同的医学成像应用程序评估了我们的方法，证明与随机选择相比，它可以减少至少一半的注释工作。
2021-04-10 cs.CV cs.LG stat.ML
A Theory for Knowledge Transfer in Continual Learning
The University of Auckland（奥克兰大学）
任务流的持续学习是深度神经网络中的一个活跃领域。研究的主要挑战是灾难性遗忘现象或新获得的知识与以前任务中的知识的干扰。最近的工作研究了向前知识转移到新的任务。后向迁移，以提高知识获得在以前的任务得到的关注要少得多。一般来说，知识转移如何帮助不断学习的任务的理解有限。我们提出了一个理论知识转移的连续监督学习，它考虑了向前和向后转移。我们的目标是了解他们的影响，越来越多的知识学习者。我们推导出这些传输机制的误差界。这些边界对于特定的实现（例如，深度神经网络）是不可知的。我们证明，对于一个不断学习者，观察相关的任务，向前和向后转移可以有助于提高性能，观察到更多的任务。
2022-08-14 cs.LG
Learning to Continually Learn with the Bayesian Principle
Seoul National University（首尔大学）
本文提出一种元持续学习框架，结合神经网络表示能力与统计模型贝叶斯更新的抗遗忘性，实现高性能且可扩展的持续学习。
2024-05-29 cs.AI cs.LG
