Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting
North Carolina State University(北卡罗来纳州立大学);Salesforce Research(赛富时研究院)
解决灾难性遗忘是持续学习的关键挑战之一,其中机器学习系统是用顺序或流式任务训练的。尽管最近在最先进的深度学习方面取得了显着进展,但深度神经网络(DNN)仍然受到灾难性遗忘问题的困扰。本文提出了一个概念上简单而通用的有效框架,用于处理持续学习中的灾难性遗忘。所提出的方法由两个部分组成:神经结构优化组件和参数学习和/或微调组件。通过分离显式神经结构学习和参数估计,该方法不仅能够以直观有意义的方式进化神经结构,而且在实验中显示出较强的缓解灾难性遗忘的能力。此外,所提出的方法优于所有其他基线上的排列MNIST数据集,分裂CIFAR 100数据集和视觉领域十项全能数据集在持续学习设置。
2019-05-21 cs.CV cs.LG
Wide Neural Networks Forget Less Catastrophically
Washington State University(华盛顿州立大学);DeepMind(深度思维)
持续学习研究的一个主要焦点领域是通过设计对分布偏移更鲁棒的新算法来减轻神经网络中的“灾难性遗忘“问题。虽然最近在持续学习文献方面的进展令人鼓舞,但我们对神经网络的哪些属性导致灾难性遗忘的理解仍然有限。为了解决这个问题,而不是专注于持续学习算法,在这项工作中,我们专注于模型本身,研究神经网络架构的“宽度”对灾难性遗忘的影响,并表明宽度对遗忘有着惊人的显著影响。为了解释这种效应,我们从各种角度研究了网络的学习动态,例如梯度正交性,稀疏性和懒惰训练机制。我们提供了潜在的解释,是一致的经验结果,在不同的架构和持续学习基准。
2022-07-14 cs.AI cs.CV cs.LG
Consistency is the key to further mitigating catastrophic forgetting in continual learning
NavInfo Europe(四维图新欧洲)
由于对先前学习的任务的灾难性遗忘,深度神经网络难以持续学习多个顺序任务。基于排练的方法显式地将先前的任务样本存储在缓冲区中,并将它们与当前任务样本交错,已被证明是最有效的减轻遗忘的方法。然而,经验重放(ER)没有表现出良好的低缓冲区制度和较长的任务序列,因为它的性能是相称的缓冲区大小。软目标预测的一致性可以帮助ER更好地保留与先前任务有关的信息,因为软目标捕获数据的丰富相似性结构。因此,我们研究了在各种持续学习场景下一致性正则化在ER框架中的作用。我们还建议将一致性正则化作为一个自监督的借口任务,从而使各种各样的自监督学习方法作为正则化。在同时增强模型校准和对自然破坏的鲁棒性的同时,正则化预测的一致性导致在所有持续学习场景中更少的遗忘。在不同的家庭的正则化,我们发现,更严格的一致性约束保持以前的任务信息ER更好。
2022-07-11 cs.AI cs.CV cs.LG
Localizing Catastrophic Forgetting in Neural Networks
University of Stuttgart(斯图加特大学)
人工神经网络(ANN)在训练一系列任务时会出现灾难性遗忘。虽然过去对这一现象进行了研究,但最近对这一现象的研究非常有限。我们提出了一种方法,用于确定在人工神经网络中的单个参数的贡献灾难性遗忘。该方法被用来分析三种不同的持续学习方案的人工神经网络的响应。
2019-06-06 cs.AI cs.LG cs.NE
Understanding Catastrophic Forgetting and Remembering in Continual Learning with Optimal Relevance Mapping
Johns Hopkins University(约翰斯·霍普金斯大学)
神经网络中的灾难性遗忘是持续学习的一个重要问题。目前的大多数方法在训练期间重放先前的数据,这违反了理想的持续学习系统的约束。此外,目前处理遗忘的方法忽略了灾难性记忆的问题,即区分来自不同任务的数据的能力越来越差。在我们的工作中,我们介绍了相关映射网络(RMN)的启发,最佳重叠假设。映射通过将大权重分配给基本参数来反映当前任务的权重的相关性。我们发现,RMNs学习一个优化的表示重叠,克服了灾难性遗忘和记忆的孪生问题。我们的方法在所有常见的持续学习数据集上实现了最先进的性能,甚至显著优于数据重放方法,同时不违反理想的持续学习系统的约束。此外,RMN保留了以无监督的方式从新任务中检测数据的能力,从而证明了它们对灾难性记忆的弹性。
2021-02-22 cs.CV cs.LG
Does the Adam Optimizer Exacerbate Catastrophic Forgetting?
The Swiss AI Lab IDSIA/USI/SUPSI(瑞士人工智能实验室IDSIA/瑞士意大利语区大学/瑞士意大利语应用科学大学);University of Alberta(阿尔伯塔大学)
灾难性遗忘仍然是人工神经网络(ANN)广泛应用的严重障碍,然而,它仍然是一个知之甚少的现象。尽管人们对灾难性遗忘做了大量的研究,但我们认为,目前还不清楚应该如何准确地量化这种现象,而且,我们在设计学习系统时所做的所有选择在多大程度上影响了灾难性遗忘的数量。我们使用强化学习和监督学习文献中的各种测试平台来(1)提供证据表明,选择哪种现代基于梯度的优化算法来训练ANN对灾难性遗忘的数量有显着影响,并显示令人惊讶的是,在许多情况下,经典算法(如香草SGD)比更现代的算法(如Adam)经历更少的灾难性遗忘。我们实证比较了四种不同的现有指标量化灾难性遗忘和(2)表明,学习系统的经验灾难性遗忘的程度是足够敏感的度量使用,从一个原则性的度量到另一个的变化是足以改变研究的结论显着。我们的研究结果表明,在研究灾难性遗忘时,需要更严格的实验方法。根据我们的结果,我们建议监督学习中的任务间遗忘必须同时使用保留和再学习指标来测量,而强化学习中的任务内遗忘至少必须使用成对干扰来测量。
2021-06-09 cs.AI cs.LG stat.ML
Anatomy of Catastrophic Forgetting: Hidden Representations and Task Semantics
Google(谷歌)
开发多功能机器学习系统的一个核心挑战是灾难性遗忘:在顺序任务上训练的模型将在早期任务上遭受显著的性能下降。尽管灾难性遗忘普遍存在,但人们对潜在过程及其原因的理解有限。在本文中,我们解决这个重要的知识差距,研究遗忘如何影响神经网络模型中的表示。通过表征分析技术,我们发现更深的层次是遗忘的不成比例的来源。支持这一点,一项关于减轻遗忘的方法的研究表明,它们可以稳定更深层的记忆。这些见解,使发展的分析参数和经验的图片有关的程度,遗忘任务之间的表征相似性。与此相一致的图片,我们观察到最大的遗忘发生在任务序列的中间相似性。我们进行了实证研究的标准分割CIFAR-10设置,也介绍了一种新的CIFAR-100为基础的任务近似现实的输入分布偏移。
2020-07-14 cs.CV cs.LG stat.ML
Catastrophic forgetting: still a problem for DNNs
Fulda University of Applied Sciences(富尔达应用科学大学)
我们研究了DNN在训练类增量视觉问题时的性能,这些问题包括初始训练,然后通过添加的视觉类进行再训练。灾难性遗忘(CF)的行为是衡量使用一个新的评估程序,旨在增量学习的应用为导向的观点。特别地,它强制必须单独对初始数据集执行模型选择,以及要求仅使用再训练数据集执行再训练控制,因为初始数据集通常太大而无法保留。实验进行类增量问题来自MNIST,使用各种不同的DNN模型,其中一些最近提出,以避免灾难性遗忘。当比较我们的新的评估程序,以前的方法来评估CF,我们发现他们的研究结果是完全否定的,没有测试的方法可以避免CF在所有的实验。这强调了现实的经验测量程序对灾难性遗忘的重要性,以及进一步研究DNN增量学习的必要性。
2019-05-20 cs.CV cs.LG
The impact of model size on catastrophic forgetting in Online Continual Learning
Massachusetts Institute of Technology(麻省理工学院)
该研究通过不同规模 ResNet 在 SplitCIFAR-10 上的在线类增量实验,发现更大模型未必能缓解灾难性遗忘,反而在在线适应新任务时表现更差,揭示了模型规模与持续学习效能之间的复杂关系。
2024-06-28 cs.CV cs.LG
Remembering for the Right Reasons: Explanations Reduce Catastrophic Forgetting
UC Berkeley(加州大学伯克利分校);Facebook AI Research(Facebook人工智能研究院)
持续学习的目标是在不遭受灾难性遗忘现象的情况下学习一系列任务。以前的工作表明,以重放缓冲区的形式利用内存可以减少先前任务的性能下降。我们假设,当模型被鼓励记住之前做出的决定的\textit{evidence}时,遗忘可以进一步减少。作为探索这一假设的第一步,我们提出了一种简单的新训练范式,称为“记住正确的原因”(RRR),它还将每个示例的视觉模型解释存储在缓冲区中,并通过鼓励其解释与训练时用于决策的解释保持一致来确保模型具有“正确的原因”。如果没有这个约束,在传统的持续学习算法学习新任务时,解释会发生漂移,遗忘会增加。我们演示了如何将RRR轻松添加到任何基于记忆或正则化的方法中,并减少遗忘,更重要的是,改进模型解释。我们在标准和Few-Shot设置中评估了我们的方法,并观察到使用不同架构和技术来生成模型解释的各种CL方法的一致改进,并展示了我们的方法,该方法显示了可解释性和持续学习之间有希望的联系。我们的代码可在\url{https://github.com/SaynaEbrahimi/Remembering-for-the-Right-Reasons}上找到。
2021-05-03 cs.AI cs.CV cs.LG
Overcoming Catastrophic Forgetting by XAI
Korea Advanced Institute of Science and Technology(韩国科学技术院)
解释深度神经网络(通常被认为是黑匣子)的行为至关重要,尤其是当它们现在被应用于人类生活的各个方面时。利用可解释的机器学习(可解释的ML)的优势,这项工作提出了一种新的工具,称为灾难性遗忘解剖器(或CFD)来解释持续学习设置中的灾难性遗忘。我们还介绍了一种新的方法,称为临界冻结的基础上,我们的工具的观察。ResNet上的实验阐明了灾难性遗忘是如何发生的,特别是显示了这个著名网络的哪些组成部分正在遗忘。我们的新的持续学习算法击败了各种最近的技术的显着保证金,证明了调查的能力。临界冻结不仅攻击了灾难性遗忘,而且还暴露了可解释性。
2022-11-25 cs.LG
Incremental Concept Formation over Visual Images Without Catastrophic Forgetting
Drexel University(德雷塞尔大学);Georgia Institute of Technology(佐治亚理工学院)
针对深度神经网络在顺序学习中的灾难性遗忘问题,提出基于类人学习系统Cobweb的Cobweb4V视觉分类方法,以更少数据实现稳定且无遗忘的增量概念学习。
2024-09-19 cs.AI cs.CV cs.IR
Deep Neural Linear Bandits: Overcoming Catastrophic Forgetting through Likelihood Matching
Technion Israel Institute of Technology(以色列理工学院)
研究了求解高维边信息序贯决策问题的神经线性强盗模型。神经线性强盗利用深度神经网络的表示能力,并将其与为线性上下文强盗设计的高效探索机制相结合,在最后一个隐藏层之上。由于表示在学习期间被优化,因此关于使用“旧”特征的探索的信息丢失。在这里,我们提出了第一个有限的记忆神经线性强盗,是弹性的这种现象,我们的术语灾难性遗忘。我们评估我们的方法在各种现实世界的数据集,包括回归,分类和情感分析,并观察到我们的算法是弹性的灾难性遗忘,并取得优异的性能。
2019-08-11 cs.AI cs.LG stat.ML
Do Not Forget to Attend to Uncertainty while Mitigating Catastrophic Forgetting
IIT Kanpur(印度理工学院坎普尔分校);University of Bath(巴斯大学)
深度学习模型的一个主要局限性是,它们在增量学习场景中面临灾难性遗忘。已经提出了几种方法来解决增量学习的问题。这些方法中的大多数基于知识蒸馏,并且没有充分利用由较旧的任务模型提供的信息,例如预测中的不确定性估计。预测不确定性提供了分布信息,可以应用于减轻深度学习框架中的灾难性遗忘。在建议的工作中,我们考虑贝叶斯公式来获得数据和模型的不确定性。我们还将自我注意力框架,以解决增量学习的问题。我们定义蒸馏损失的任意不确定性和自我注意。在拟议的工作中,我们调查这些损失的不同烧蚀分析。此外,我们能够在标准基准的准确性方面获得更好的结果。
2021-02-03 cs.CV cs.LG
Catastrophic Forgetting Mitigation Through Plateau Phase Activity Profiling
Department of Computer Science(计算机科学系);Bar-Ilan University(巴伊兰大学);Faculty of Engineering(工程学院)
针对深度神经网络中的灾难性遗忘问题,提出通过分析最终训练平台期的参数活动度来识别重要参数,在保留旧知识的同时适应新任务,实验证明该方法能有效平衡遗忘缓解与新任务性能。
2025-07-11 cs.AI cs.LG
ZeroFlow: Overcoming Catastrophic Forgetting is Easier than You Think
ZeroFlow
ZeroFlow 提出首个无梯度优化基准,证明仅靠前向传播即可缓解持续学习中的灾难性遗忘,并给出改进策略。
2025-06-06 cs.CV cs.LG
Overcoming Catastrophic Forgetting in Incremental Few-Shot Learning by Finding Flat Minima
The Hong Kong Polytechnic University(香港理工大学)
本文考虑了增量式少样本学习,它要求模型在只提供少量样本的情况下不断识别新的类别。我们的研究表明,现有的方法严重遭受灾难性遗忘,一个众所周知的问题,在增量学习,这是加剧由于数据稀缺和不平衡的Few-Shot设置。我们的分析进一步表明,为了防止灾难性遗忘,需要在原始阶段采取行动--训练基类,而不是以后的少样本学习。因此,我们建议搜索基本训练目标函数的平坦局部最小值,然后在新任务的平坦区域内微调模型参数。通过这种方式,模型可以有效地学习新类,同时保留旧类。综合实验结果表明,我们的方法优于所有现有的国家的最先进的方法,是非常接近的近似上限。源代码可在https://github.com/moukamisama/F2M上获得。
2021-11-04 cs.CV cs.LG
Catastrophic Forgetting in Kolmogorov-Arnold Networks
针对持续学习中KANs灾难性遗忘行为不明确的问题,本研究通过理论框架(关联遗忘与激活支持重叠、内在数据维度)和系统实验,揭示其在低维场景保留知识但高维领域仍易遗忘的特性,并提出KAN-LoRA适配器提升语言模型持续微调效率。
2025-11-16 cs.AI cs.LG
Meta-learnt priors slow down catastrophic forgetting in neural networks
Department of CSAI, Tilburg University(蒂尔堡大学CSAI系);Tilburg University(蒂尔堡大学)
当前的深度学习训练机制通常涉及一次暴露于单个任务/数据集。在这里,我们从观察开始,在这种情况下,训练模型没有被给予任何关于其(单任务)训练分布之外的任何知识,因此无法学习参数(即,特征检测器或策略),这可能有助于解决其他任务,并限制将来对所获得的知识的干扰,从而限制灾难性遗忘。在这里,我们表明,灾难性遗忘可以在元学习的背景下,通过暴露一个神经网络在训练过程中以顺序的方式多个任务来减轻。最后,我们提出了SeqFOMAML,一个Meta学习算法,实现这些原则,我们评估它的顺序学习问题组成的Omniglot和MiniImageNet分类任务。
2020-02-09 cs.AI cs.LG stat.ML
Behavioral Experiments for Understanding Catastrophic Forgetting
University of Cambridge(剑桥大学)
在本文中,我们探讨了实验心理学的基本工具,行为实验,是否有能力产生洞察力,不仅是人类和动物,但人工系统了。我们应用实验心理学的技术来研究神经网络中的灾难性遗忘。我们使用双层ReLU网络进行了一系列受控实验,探索性结果揭示了对灾难性遗忘行为的新理解。除了我们的实证研究结果,我们展示了一种替代的,行为第一的方法来调查神经网络现象。
2022-12-13 cs.LG
Catastrophic Forgetting in Deep Graph Networks: an Introductory Benchmark for Graph Classification
University of Pisa(比萨大学);Scuola Normale Superiore(高等师范学院)
在这项工作中,我们研究了图表示学习场景中的灾难性遗忘现象。分析的主要目的是了解经典的持续学习技术,平面和顺序数据有一个有形的影响性能时,应用于图形数据。为此,我们在三个不同的数据集上,在鲁棒和受控的环境中,使用结构不可知模型和深度图网络进行了实验。该基准的补充调查结构保持正则化技术对灾难性遗忘的影响。我们发现,重放是迄今为止最有效的策略,这也是最受益于正则化的使用。我们的研究结果表明,有趣的未来研究的交叉点的连续和图形表示学习领域。最后,我们为研究人员提供了一个灵活的软件框架来重现我们的结果,并进行进一步的实验。
2021-03-22 cs.AI cs.LG
On the Implicit Adversariality of Catastrophic Forgetting in Deep Continual Learning
本文揭示持续学习中灾难性遗忘源于新任务梯度对旧任务损失景观尖锐方向的隐式对抗性对齐,归因于训练的低秩偏差,并提出backGP方法缓解该问题,平均减少遗忘10.8%、提升准确率12.7%。
2025-10-10 cs.AI cs.LG
Intelligent Learning Rate Distribution to reduce Catastrophic Forgetting in Transformers
Bielefeld University(比勒费尔德大学)
本文针对Transformer微调中的灾难性遗忘问题,通过超参数优化寻找并组合优于平坦学习率的学习率分布,并在GLUE基准上验证其有效性。
2024-03-27 cs.AI cs.CL cs.LG
Quantifying Catastrophic Forgetting in IoT Intrusion Detection Systems
Ericsson Research(爱立信研究)
本研究提出了一种方法无关的IDS框架,通过持续学习缓解物联网入侵检测中的灾难性遗忘问题,并展示了突触智能方法在动态网络中的高效性能。
2026-02-27 cs.AI cs.LG
Continual Deep Reinforcement Learning to Prevent Catastrophic Forgetting in Jamming Mitigation
Nexcepta(内克塞克塔)
针对动态无线环境中DRL抗干扰系统的灾难性遗忘问题,提出基于PackNet的持续深度强化学习方法,使网络在学习新干扰模式时保留旧知识,显著提升抗干扰性能与鲁棒性。
2024-10-14 cs.AI cs.LG cs.NI
Explaining Robustness to Catastrophic Forgetting Through Incremental Concept Formation
Drexel University(德雷塞尔大学);Georgia Institute of Technology(佐治亚理工学院)
该研究针对持续学习中的灾难性遗忘问题,基于层级概念形成模型Cobweb/4V的鲁棒性检验三项稳定性假设,通过多数据集对比实验验证了自适应重组、稀疏更新及信息论学习的作用,为构建稳定自适应的持续学习系统提供新思路。
2025-10-27 cs.AI cs.LG
Addressing Catastrophic Forgetting in Few-Shot Problems
University College London(伦敦大学学院);Alan Turing Institute(艾伦·图灵研究所)
众所周知,神经网络在序列数据集上训练时会遭受灾难性遗忘。虽然已经有许多尝试来解决这个问题,在大规模的监督分类,几乎没有做克服灾难性遗忘在Few-Shot分类问题。我们证明了流行的基于梯度的模型不可知元学习算法(MAML)确实遭受灾难性遗忘,并引入贝叶斯在线元学习框架,解决这个问题。我们的框架利用贝叶斯在线学习和元学习以及拉普拉斯近似和变分推理来克服Few-Shot分类问题中的灾难性遗忘。实验评估表明,我们的框架可以有效地实现这一目标与各种基线相比。作为一个额外的实用程序,我们还证明了经验,我们的框架是能够元学习顺序到达Few-Shot任务从一个固定的任务分布。
2021-06-21 cs.LG stat.ML
EXACFS -- A CIL Method to mitigate Catastrophic Forgetting
Sri Sathya Sai Institute of Higher Learning(斯里·萨蒂亚·赛高等学习学院);Old Dominion University(奥多明尼昂大学)
本文提出EXACFS方法,通过损失梯度估计特征显著性并随任务老化,结合蒸馏损失在类增量学习中平衡稳定性与可塑性,有效缓解灾难性遗忘。
2025-03-03 cs.CV cs.LG
Overcoming Catastrophic Forgetting in Graph Neural Networks
Stevens Institute of Technology(史蒂文斯理工学院)
灾难性遗忘是指神经网络在学习新任务时“忘记”先前学习的知识的趋势。现有方法一直专注于克服卷积神经网络(CNN)上的这个问题,其中像图像这样的输入样本位于网格域中,但在很大程度上忽略了处理非网格数据的图神经网络(GNN)。在本文中,我们提出了一种新的计划,致力于克服灾难性遗忘问题,从而加强持续学习的GNNs。我们方法的核心是一个通用模块,称为拓扑感知权重保持~(TWP),以即插即用的方式适用于任意形式的GNN。与基于CNN的持续学习方法的主流不同,TWP仅依赖于减慢对下游任务重要的参数的更新,TWP明确地探索输入图的局部结构,并试图稳定在拓扑聚合中起关键作用的参数。我们在几个数据集上评估了不同GNN主干上的TWP,并证明了它产生的性能优于最先进的技术水平。代码在\url{https://github.com/hhliu79/TWP}上公开。
2020-12-10 cs.AI cs.LG
SNAP: Stopping Catastrophic Forgetting in Hebbian Learning with Sigmoidal Neuronal Adaptive Plasticity
McGill University(麦吉尔大学)
本文提出SNAP方法,通过S型权重增长模拟生物长时程增强,使权重在达到较大或较小值后巩固稳定,从而在赫布学习中完全防止灾难性遗忘。
2024-10-20 cs.AI cs.LG cs.NE
Dissecting Catastrophic Forgetting in Continual Learning by Deep Visualization
KAIST(韩国科学技术院);Ansan Institute for Life Sciences, Ansan Medical Center(安山医疗中心安山生命科学研究所)
解释深度神经网络(通常被认为是黑盒)的行为至关重要,特别是当它们现在被广泛应用于人类生活的各个方面时。借鉴可解释人工智能的研究成果,提出了一种新的技术Auto DeepVis,用于分析持续学习中的灾难性遗忘。在利用Auto DeepVis对这一困境进行研究的基础上,提出了一种新的处理灾难性遗忘的方法--临界冻结法。对字幕模型的实验细致地展示了灾难性遗忘是如何发生的,特别是显示了哪些组件正在遗忘或发生变化。然后评估我们的技术的有效性;更准确地说,临界冻结要求在基线上对先前和未来的任务进行最佳性能,证明了调查的能力。我们的技术不仅可以补充现有的解决方案,完全消除终身学习的灾难性遗忘,而且可以解释。
2020-01-07 cs.LG stat.ML
Overcoming Catastrophic Forgetting by Exemplar Selection in Task-oriented Dialogue System
Nanyang Technological University(南洋理工大学);University of Aberdeen(阿伯丁大学);Zhejiang University(浙江大学)
针对任务型对话系统持续学习中的灾难性遗忘问题,提出基于超梯度的示例选择方法HESIT,通过追踪超梯度选有影响力示例重训,无需估计Hessian,适配大预训练模型,在最大ToD持续学习基准上全指标达SOTA。
2024-05-16 cs.AI cs.LG
A Conformal Predictive Measure for Assessing Catastrophic Forgetting
Communication Systems Department, EURECOM, France(EURECOM通信系统部);Andalusian Institute of Data Science and Computational Intelligence (DaSCI)(安达卢西亚数据科学与计算智能研究所);Department of Computer Science and Artificial Intelligence, University of Granada, Spain(格拉纳达大学计算机科学与人工智能系)
本研究提出基于共形预测的新指标CPCF,通过监测模型对旧任务的置信度量化持续学习中的灾难性遗忘,经四个基准数据集验证其与旧任务准确率强相关,可作为动态学习环境下评估灾难性遗忘的可靠工具。
2025-05-15 cs.AI cs.LG
Towards Eliminating Catastrophic Forgetting in the Curriculum Learning of Math Reasoning Tasks
Zhejiang University(浙江大学);Ant Group(蚂蚁集团)
本文研究课程学习中的灾难性遗忘,理论证明其源于任务最优分歧而不可完全消除,提出IV-EWC方法,通过影响函数构建验证集并动态正则化,在数学推理任务上平均减少162%遗忘。
2026-09-29 cs.LG
Catastrophic Forgetting is Low-Rank: A Function-Space Theory for Continual Adaptation
Tel Aviv University(特拉维夫大学)
本文在神经正切核(NTK)框架下提出函数空间理论,推导出新任务训练导致旧任务预测漂移的闭式表达式,揭示遗忘集中在少量旧任务NTK本征模式上,并给出低秩特性与Kronecker缩放规则。
2026-06-17 cs.AI cs.LG
Revisiting Catastrophic Forgetting in Continual Knowledge Graph Embedding
Data-intensive Technologies and Knowledge Systems (DTAK), Department of Service and Information System Engineering, Universitat Politècnica de Catalunya(数据密集型技术与知识系统(DTAK),服务与信息系统工程系,巴塞罗那理工大学);Intelligent Data Science and Artificial Intelligence Research Center (IDEAI), Department of Computer Science, Universitat Politècnica de Catalunya(智能数据科学与人工智能研究中心(IDEAI),计算机科学系,巴塞罗那理工大学)
本文提出修正的连续知识图谱嵌入评估协议,揭示实体干扰对模型性能的影响,发现忽略该效应可能导致性能高估达25%。
2026-04-21 cs.AI cs.LG
Dynamic memory to alleviate catastrophic forgetting in continuous learning settings
Medical University of Vienna(维也纳医科大学);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院)
在医学成像中,技术进步或诊断程序的变化导致图像外观的连续变化。扫描仪制造商、重建内核、剂量、其他协议特定设置或造影剂的管理是独立于扫描生物学影响图像内容的示例。这种领域和任务转移通过使模型随着时间的推移而过时,限制了机器学习算法在临床常规中的适用性。在这里,我们解决的问题,在连续学习的情况下,通过调整模型,以看不见的变化,在源域,同时抵消灾难性遗忘的影响。我们的方法使用一个动态的记忆,以促进排练的不同训练数据子集,以减轻遗忘。我们评估了我们的方法在两种不同的扫描仪协议和合成分类任务获得的常规临床CT数据。实验表明,动态记忆计数器灾难性遗忘在设置与多个数据移位,而不需要明确的知识,当这些移位发生。
2020-07-07 cs.CV cs.LG stat.ML
REMIND Your Neural Network to Prevent Catastrophic Forgetting
Rochester Institute of Technology(罗切斯特理工学院);Adobe Research(Adobe研究院);Paige;Cornell Tech(康奈尔科技校区)
人们一生都在学习。然而,增量更新传统的神经网络会导致灾难性遗忘。一种常见的补救方法是重放,这是受到大脑如何巩固记忆的启发。重播涉及在新旧实例的混合上微调网络。虽然有神经科学证据表明大脑会重放压缩的记忆,但卷积网络的现有方法会重放原始图像。在这里,我们提出了REMIND,这是一种受大脑启发的方法,可以使用压缩表示进行高效重放。REMIND是以在线方式训练的,这意味着它一次学习一个例子,这更接近人类的学习方式。在相同的约束条件下,REMIND在ImageNet ILSVRC-2012数据集上的增量类学习性能优于其他方法。我们探测REMIND的鲁棒性的数据排序方案已知会导致灾难性遗忘。我们展示了REMIND的通用性,开创性的在线学习的视觉问答(VQA)。
2020-07-13 cs.CV cs.LG cs.NE
On Catastrophic Forgetting and Mode Collapse in Generative Adversarial Networks
Deakin University(迪肯大学)
在本文中,我们证明了生成对抗网络(GANs)即使在被训练为近似单个目标分布时也会遭受灾难性遗忘。我们表明,GAN训练是一个持续学习问题,其中改变模型分布的序列就是鉴别器的任务序列。序列中任务之间的不匹配程度决定了遗忘的程度。灾难性遗忘与模式坍塌相关,并且可以使GANs的训练不收敛。我们研究了GANs不同变体中的训练器输出的情况,发现当GAN收敛到一个良好的均衡时,真实的训练数据点是训练器的宽局部最大值。我们经验性地展示了局部最大值的锐度与GANs中的模式坍塌和泛化之间的关系。我们展示了灾难性遗忘如何防止真实数据点的局部极大值,从而导致不收敛。最后,我们研究了在GANs中防止灾难性遗忘的方法。
2020-03-21 cs.LG stat.ML
Alleviating Catastrophic Forgetting in Facial Expression Recognition with Emotion-Centered Models
Pontifícia Universidade Católica do Paraná (PUCPR)(巴拉那天主教大学);École de Technologie Supérieure (ÉTS)(高等技术学院)
提出情感中心生成回放(ECgr)方法,结合GAN合成图像与质量保证算法,缓解CNN在面部表情识别中的灾难性遗忘,在四个数据集上验证了其提升训练效果并保留旧知识的能力。
2024-04-18 cs.CV cs.LG
Overcoming Catastrophic Forgetting by Incremental Moment Matching
Seoul National University(首尔国立大学);Clova AI Research(克洛娃人工智能研究院);NAVER Corp(Naver公司);Surromind Robotics(Surromind机器人公司)
灾难性遗忘是神经网络在训练第二个任务后丢失第一个任务信息的问题。在这里,我们提出了一种方法,即增量矩匹配(IMM),来解决这个问题。IMM递增地匹配分别在第一和第二任务上训练的神经网络的后验分布的矩。为了使后验参数的搜索空间平滑,IMM过程中补充了各种迁移学习技术,包括权重转移,L2范数的旧的和新的参数,和一个变体的dropout与旧的参数。我们在各种数据集上分析了我们的方法,包括MNIST,CIFAR-10,Caltech-UCSD-Birds和Lifelog数据集。实验结果表明,IMM通过平衡新旧网络之间的信息,实现了最先进的性能。
2018-01-30 cs.AI cs.LG
Overcoming Catastrophic Forgetting in Visual Continual Learning with Reinforcement Fine-Tuning
The University of Hong Kong(香港大学);The Hong Kong University of Science and Technology(香港科学与技术大学);Hong Kong Generative AI Research and Development Center(香港生成式人工智能研究与开发中心)
本文提出RaPO方法,通过轨迹级奖励塑造缓解强化微调在连续学习中的遗忘问题,实验证明其在视觉连续学习中有效减少灾难性遗忘。
2026-10-14 cs.CV cs.LG
Neuro-Inspired Fragmentation and Recall to Overcome Catastrophic Forgetting in Curiosity
Massachusetts Institute of Technology(麻省理工学院)
本文针对基于预测的内在奖励方法在困难探索任务中的灾难性遗忘问题,提出 FARCuriosity 方法,通过环境碎片化和模块回忆机制减少遗忘,并在 Atari 基准上取得更好的整体性能。
2023-10-26 cs.AI cs.LG
Overcoming Catastrophic Forgetting in Tabular Data Classification: A Pseudorehearsal-based approach
Universidade de Vigo(维戈大学);Centro Tecnolóxico de Telecomunicacións de Galicia (GRADIANT)(加利西亚电信技术中心(GRADIANT))
针对表格数据分类的灾难性遗忘问题,提出基于伪排练的TRIL3框架,结合XuILVQ生成合成数据与增量式DNDF算法,无需存储旧样本,仅用50%合成数据性能就优于现有持续学习方案。
2024-07-12 cs.AI cs.LG
Alleviating catastrophic forgetting using context-dependent gating and synaptic stabilization
The University of Chicago(芝加哥大学)
人类和大多数动物都可以在不忘记旧任务的情况下学习新任务。然而,在新任务上训练人工神经网络(ANN)通常会导致它忘记以前学习的任务。这种现象是“灾难性遗忘“的结果,在这种情况下,训练ANN会破坏对解决先前任务很重要的连接权重,从而降低任务性能。最近的几项研究提出了稳定人工神经网络连接权重的方法,这些方法被认为对解决任务最重要,这有助于减轻灾难性遗忘。在这里,从被认为是在体内实现的算法的灵感,我们提出了一个补充的方法:添加一个上下文相关的门控信号,这样,只有稀疏的,大部分是不重叠的模式的单位是活跃的任何一个任务。这种方法易于实现,需要很少的计算开销,并允许ANN在与权重稳定相结合时在大量顺序呈现的任务中保持高性能。这项工作提供了另一个例子,说明神经科学启发的算法如何使ANN设计和能力受益。
2019-04-03 cs.AI cs.LG q-bio.NC
Quantum Continual Learning Overcoming Catastrophic Forgetting
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海期智研究院)
灾难性遗忘描述了这样一个事实,即机器学习模型在学习新任务的过程之后可能会忘记先前学习的任务的知识。它是持续学习场景中的一个重要问题,最近引起了不同社区的极大关注。在本文中,我们探讨了量子机器学习背景下的灾难性遗忘现象。我们发现,与基于神经网络的经典学习模型类似,量子学习系统在各种应用场景下的分类任务中同样存在遗忘问题。我们表明,基于局部几何信息的损失函数景观的训练模型,一个统一的策略,可以适应克服遗忘问题的增量学习设置。我们的研究结果揭示了量子机器学习中的灾难性遗忘现象,并提供了一种实用的方法来克服这个问题,这为探索潜在的量子优势走向持续学习开辟了一条新的途径。
2021-08-05 cond-mat.mes-hall cs.LG quant-ph
GradMA: A Gradient-Memory-based Accelerated Federated Learning with Alleviated Catastrophic Forgetting
East China Normal University(华东师范大学)
联邦学习(FL)已经成为一个事实上的机器学习领域,并受到了社会各界迅速增长的研究兴趣。然而,由于数据的异质性和部分参与所导致的灾难性遗忘对外语学习提出了独特的挑战,这对外语学习的性能是不利的。为了解决这些问题,我们提出了一种新的FL方法(即GradMA),它从持续学习的灵感,同时纠正服务器端和工人端的更新方向,以及充分利用服务器的丰富的计算和内存资源。此外,我们制定了一个内存减少策略,使GradMA,以适应FL与大规模的工人。然后,我们分析了GradMA的收敛性理论下的光滑非凸设置,并表明其收敛速度达到一个线性的速度w.r.t增加采样的活跃工人的数量。最后,我们在各种图像分类任务上的大量实验表明,与SOTA基线相比,GradMA在准确性和通信效率方面实现了显着的性能提升。
2023-03-15 cs.CV cs.LG
Jointly Exploring Client Drift and Catastrophic Forgetting in Dynamic Learning
Technical University Darmstadt(达姆施塔特工业大学);University of Cologne(科隆大学)
本研究提出统一分析框架,联合探索联邦学习中的客户端漂移与灾难性遗忘,发现两者性能下降相关(相关系数>0.94),且适度组合可提升模型泛化,开辟新研究路径。
2023-09-01 cs.AI cs.LG
Overcoming Catastrophic Forgetting by Generative Regularization
UCLA(加州大学洛杉矶分校);Google Cloud(谷歌云);Google Brain(谷歌大脑)
本文提出了一种新的方法来克服灾难性遗忘通过添加生成正则化贝叶斯推理框架。贝叶斯方法为持续学习提供了一个通用框架。我们可以进一步为所有给定的分类模型构建一个生成正则化项,通过利用基于能量的模型和Langevin动态采样来丰富每个任务中学习到的特征。通过将区分性损失和生成性损失结合在一起,我们的经验表明,所提出的方法在各种任务上优于最先进的方法,避免了持续学习中的灾难性遗忘。特别是,该方法优于基线方法超过15%的时尚MNIST数据集和10%的CUB数据集
2021-06-19 cs.LG stat.ML
Online Structured Laplace Approximations For Overcoming Catastrophic Forgetting
University College London(伦敦大学学院);Alan Turing Institute(艾伦·图灵研究所)
我们引入了Kronecker因子化的在线拉普拉斯近似来克服神经网络中的灾难性遗忘。该方法基于贝叶斯在线学习框架,在该框架中,我们递归地近似每个任务后的高斯后验,导致权重变化的二次惩罚。拉普拉斯近似需要计算模式周围的Hessian,这对于现代架构来说通常是棘手的。为了使我们的方法可扩展,我们利用最近的块对角Kronecker因子近似的曲率。我们的算法在排列的MNIST数据集的50个实例序列中实现了超过90%的测试准确度,大大优于克服灾难性遗忘的相关方法。
2018-05-20 cs.LG stat.ML
Catastrophic Forgetting in Continual Reinforcement Learning
UCL(伦敦大学学院)
本研究探究持续强化学习中任务相似性与灾难性遗忘的关系,采用Q-learning在图任务上实验,发现二者存在复杂动态关系,未证实任务相似性独立影响遗忘,需进一步研究。
2026-08-11 cs.LG
Natural Way to Overcome the Catastrophic Forgetting in Neural Networks
JSC InfoWatch(InfoWatch股份公司)
不久前,人们发现了一种方法,成功地克服了神经网络中的灾难性遗忘。虽然我们知道在使预训练网络适应特定任务时使用这种方法来保留技能的情况,但它还没有得到广泛的传播。在本文中,我们想提出一种替代的方法来克服灾难性遗忘的基础上,通过网络中的每个连接的总的绝对信号。这种方法有一个简单的实现,似乎对我们来说基本上接近的过程发生在动物的大脑中,以保留以前学到的技能在随后的学习。我们希望,这种方法易于实施将有助于其广泛应用。
2021-06-04 cs.LG stat.ML
Reducing catastrophic forgetting with learning on synthetic data
Tooploox;Polish-Japanese Academy of Information Technology(波兰-日本信息技术学院)
灾难性遗忘是由于神经网络无法按顺序学习数据而引起的问题。在连续学习两个任务后,第一个任务的表现会显著下降。这是一个严重的缺点,阻止了许多深度学习应用于现实生活中的问题,其中并非所有对象类都是事先已知的;或者数据的变化需要调整模型。为了减少这个问题,我们调查使用的合成数据,即我们回答一个问题:是否有可能产生这样的数据合成顺序学习不会导致灾难性遗忘?我们提出了一种方法来生成这样的数据在两步优化过程中通过元梯度。我们在Split-MNIST数据集上的实验结果表明,在这样的合成数据上按顺序训练模型不会导致灾难性遗忘。我们还表明,我们生成数据的方法对不同的学习场景是鲁棒的。
2020-04-29 cs.LG stat.ML
Continual Learning and Catastrophic Forgetting
Department of Electrical Engineering KU Leuven, Belgium(卢森堡鲁文大学电气工程系);Department of Electrical and Computer Engineering University of Texas at San Antonio, USA(德克萨斯大学圣安东尼奥分校电气与计算机工程系)
本书章节探讨持续学习从非平稳数据流增量学习的挑战,重点分析灾难性遗忘现象,并回顾该领域近十年的研究见解。
2024-03-08 cs.AI cs.CV cs.LG