Overcoming Catastrophic Forgetting in Visual Continual Learning with Reinforcement Fine-Tuning
The University of Hong Kong(香港大学);The Hong Kong University of Science and Technology(香港科学与技术大学);Hong Kong Generative AI Research and Development Center(香港生成式人工智能研究与开发中心)
本文提出RaPO方法,通过轨迹级奖励塑造缓解强化微调在连续学习中的遗忘问题,实验证明其在视觉连续学习中有效减少灾难性遗忘。
2026-10-14 cs.CV cs.LG
Probing Representation Forgetting in Supervised and Unsupervised Continual Learning
Concordia University(康考迪亚大学);Mila – Quebec AI Institute(米拉 - 魁北克人工智能研究所);Toyota Motor Europe(丰田汽车欧洲公司)
持续学习研究通常集中在解决神经网络中的灾难性遗忘现象。灾难性遗忘与当任务或更广泛地说数据分布在变化上训练时,模型先前学习的知识突然丢失有关。在监督学习问题中,这种遗忘是由模型表示的变化引起的,通常通过评估旧任务性能的下降来测量或观察。然而,模型的表示可以改变,而不会丢失关于先前任务的知识。在这项工作中,我们考虑表示遗忘的概念,观察到使用的最佳线性分类器的性能差异之前和之后引入一个新的任务。使用这个工具,我们重新审视了一些标准的持续学习基准,并观察到,通过这个镜头,没有任何显式控制遗忘训练的模型表示经常经历小的表示遗忘,有时可以与显式控制遗忘的方法相媲美,特别是在较长的任务序列中。我们还表明,表示遗忘可以导致新的见解的影响模型容量和损失函数中使用的持续学习。基于我们的研究结果,我们表明,一个简单而有竞争力的方法是学习表示不断与标准的监督对比学习,同时构建类样本的原型时,查询旧的样本。
2022-04-05 cs.AI cs.CV cs.LG
How Weight Resampling and Optimizers Shape the Dynamics of Continual Learning and Forgetting in Neural Networks
University of Vermont(佛罗里达大学);University of British Columbia(不列颠哥伦比亚大学);Vector Institute Canada(加拿大向量研究所);CIFAR AI Chair(CIFAR人工智能主席)
本文研究了权重重采样(zapping)和优化器选择对神经网络持续学习与遗忘动态的影响,发现二者均能显著改变模型迁移后的恢复速度及多任务间的协同与干扰模式。
2025-07-02 cs.CV cs.LG
What to Preserve, Where to Adapt: A Depth-Wise Analysis of Forgetting in Continual Gynecological Image Segmentation
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)(穆罕默德·本·扎耶德人工智能大学(MBZUAI))
针对妇科图像持续分割中灾难性遗忘问题,通过分块消融与受控适配实验,揭示网络深度上的更新位置对遗忘的影响,为解决该场景下的持续学习问题提供依据。
2026-11-09 cs.CV cs.LG
On robustness of generative representations against catastrophic forgetting
Warsaw University of Technology(华沙理工大学);Jagiellonian University(雅盖隆大学);Tooploox
在学习新任务时对先前学习的知识的灾难性遗忘是当代神经网络的广泛观察到的限制。虽然许多持续学习的方法被提出来减轻这个缺点,但主要的问题仍然没有答案:灾难性遗忘的根本原因是什么?在这项工作中,我们的目标是回答这个问题,提出和验证一组研究假设相关的表征的特异性内部建立的神经模型。更具体地说,我们设计了一组经验评估,比较的鲁棒性表示的歧视和生成模型对灾难性遗忘。我们观察到,通过判别模型学习的表征比生成模型更容易发生灾难性遗忘,这为开发用于持续学习的生成模型的优势提供了新的视角。最后,我们的工作开辟了新的研究途径和可能性,采用生成模型在持续学习超越单纯的重放机制。
2021-09-04 cs.CV cs.LG
Data-dependent and Oracle Bounds on Forgetting in Continual Learning
本文针对持续学习中的遗忘问题,为无样本回放方法提出数据依赖上界和吉布斯后验预言界,并据此设计算法,在多个持续学习问题上验证了界的紧致性与实用性。
2025-08-18 cs.LG
A Comprehensive Survey of Forgetting in Deep Learning Beyond Continual Learning
University of Maryland(马里兰大学);Northeastern University(东北大学);Sun Yat-sen University(中山大学)
本文综述了持续学习之外的深度学习遗忘现象,指出遗忘在生成模型和联邦学习等领域普遍存在,并强调其不仅是挑战,在隐私保护等场景下也具潜在优势,旨在促进跨领域解决方案与新策略的开发。
2024-11-18 cs.AI cs.CV cs.LG
Consistency is the key to further mitigating catastrophic forgetting in continual learning
NavInfo Europe(四维图新欧洲)
由于对先前学习的任务的灾难性遗忘,深度神经网络难以持续学习多个顺序任务。基于排练的方法显式地将先前的任务样本存储在缓冲区中,并将它们与当前任务样本交错,已被证明是最有效的减轻遗忘的方法。然而,经验重放(ER)没有表现出良好的低缓冲区制度和较长的任务序列,因为它的性能是相称的缓冲区大小。软目标预测的一致性可以帮助ER更好地保留与先前任务有关的信息,因为软目标捕获数据的丰富相似性结构。因此,我们研究了在各种持续学习场景下一致性正则化在ER框架中的作用。我们还建议将一致性正则化作为一个自监督的借口任务,从而使各种各样的自监督学习方法作为正则化。在同时增强模型校准和对自然破坏的鲁棒性的同时,正则化预测的一致性导致在所有持续学习场景中更少的遗忘。在不同的家庭的正则化,我们发现,更严格的一致性约束保持以前的任务信息ER更好。
2022-07-11 cs.AI cs.CV cs.LG
IF2Net: Innately Forgetting-Free Networks for Continual Learning
Huazhong University of Science and Technology(华中科技大学);Wuhan University of Technology(武汉理工大学);National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学);Qatar University(卡塔尔大学)
本文提出IF2Net,一种通过冻结重用权重和正交投影实现持续学习无遗忘的框架,无需任务身份即可增量学习,兼顾稳定性与可塑性。
2023-06-18 cs.CV cs.LG
Don't forget, there is more than forgetting: new metrics for Continual Learning
ENSTA ParisTech(巴黎高等先进技术学院);INRIA Flowers(法国国家信息与自动化研究所Flowers实验室);University of Bologna(博洛尼亚大学)
持续学习包括从数据/任务流中持续学习的算法和自适应的思考时间,从而实现更复杂知识和技能的增量开发。在评估持续学习算法方面缺乏共识,并且几乎只关注遗忘,这促使我们提出一套更全面的独立于实现的指标,考虑到我们认为在部署持续学习的真实AI系统时值得考虑的几个因素:随着时间的推移的准确性或性能,向后和向前的知识转移,内存开销以及计算效率。从标准的多属性值理论(MAVT)的启发,我们进一步提出将这些指标融合到一个单一的分数排名的目的,我们评估我们的建议与iCIFAR-100持续学习基准的五个持续学习策略。
2018-10-31 cs.AI cs.CV cs.LG
Shared and Private VAEs with Generative Replay for Continual Learning
Indian Institute of Science(印度科学研究院)
持续学习试图在不忘记以前学过的东西的情况下学习新的任务。事实上,大多数现有的人工神经网络(ANN)模型都失败了,而人类也是通过一生记住以前的作品来做到这一点。虽然简单地存储所有过去的数据可以缓解这个问题,但它需要大量的内存,并且在最后一次数据访问受限的实际应用中通常是不可行的。我们假设不断学习解决每个任务的模型具有一些特定于任务的特性和一些任务不变的特性。我们提出了一种更适合实际场景的混合持续学习模型,以解决具有任务不变的共享变分自编码器和T个任务特定的变分自编码器的问题。我们的模型结合了生成重放和架构增长,以防止灾难性遗忘。我们证明了我们的混合模型有效地避免了遗忘,并在视觉持续学习基准测试中获得了最先进的结果,如MNIST,Permuted MNIST(QMNIST),CIFAR 100和miniImageNet数据集。我们讨论了一些数据集上的结果,如SVHN,Fashion-MNIST,EMNIST和CIFAR 10。
2021-05-17 cs.CV cs.LG
ZeroFlow: Overcoming Catastrophic Forgetting is Easier than You Think
ZeroFlow
ZeroFlow 提出首个无梯度优化基准,证明仅靠前向传播即可缓解持续学习中的灾难性遗忘,并给出改进策略。
2025-06-06 cs.CV cs.LG
Formalizing Forgetting: Theory of Forgetting for Online Continual Learning
Boston College(波士顿学院);Sun Yat-sen University(中山大学)
该研究针对在线持续学习的遗忘问题,分析强凸与一般凸目标下的单次遍历Shuffle SGD,推导遗忘上界并通过Split-CIFAR-100等实验验证理论趋势,为理解遗忘的影响因素提供了理论支撑。
2026-10-14 cs.LG
Toward Understanding Catastrophic Forgetting in Continual Learning
Amazon Web Services(亚马逊云科技);Facebook Inc.(脸书公司)
研究了灾难性遗忘与任务序列性质的关系。特别是,给定一个任务序列,我们希望了解该序列的哪些属性会影响在该序列上训练的持续学习算法的出错率。为此,我们提出了一个新的程序,利用任务空间建模以及相关性分析的最新发展,指定和分析我们感兴趣的属性。作为一个应用,我们应用我们的程序来研究任务序列的两个性质:(1)总复杂性和(2)序列异质性。我们发现,出错率是强烈的,正相关的任务序列的总复杂性的一些国家的最先进的算法。我们还发现,令人惊讶的是,出错率没有,甚至在某些情况下,顺序异质性的负相关性。我们的研究结果提出了改进持续学习基准和方法的方向。
2019-08-02 cs.CV cs.LG stat.ML
Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting
Peking University(北京大学);Nankai University(南开大学)
本文综述了视觉语言模型的持续学习挑战,提出四种核心范式以解决跨模态特征漂移和灾难性遗忘问题,强调零样本学习和智能体生态系统的发展。
2026-07-31 cs.CV cs.LG
Forgetting of task-specific knowledge in model merging-based continual learning
Department of Electrical Engineering (ESAT), KU Leuven, Belgium(电气工程系(ESAT),鲁文大学,比利时)
该研究聚焦持续学习中的模型线性融合问题,通过视觉实验证实融合可保留增强共享知识但会导致任务特定知识退化,且增量训练模型的融合效果优于并行训练模型。
2025-07-31 cs.CV
Diffusion-Driven Data Replay: A Novel Approach to Combat Forgetting in Federated Class Continual Learning
China University of Petroleum(中国石油大学);WeBank(微众银行);Pazhou Laboratory(琶洲实验室);South China University of Technology(华南理工大学);The Hong Kong University of Science and Technology(香港科技大学)
针对联邦类增量学习中的灾难性遗忘问题,本文提出利用预训练条件扩散模型进行逆向数据重放,并结合对比学习提升生成数据质量,显著超越现有基线。
2024-09-04 cs.CV cs.LG
Measuring Representational Shifts in Continual Learning: A Linear Transformation Perspective
Department of Electrical \& Electronic Engineering, Yonsei University, Seoul, South Korea;Department of Statistics;Data Science, Yonsei University, Seoul, South Korea
该研究从线性变换视角提出表征差异指标以度量持续学习中的表征遗忘,通过理论分析得出层深度、网络宽度与遗忘速度的关联规律,并在Split-CIFAR100、ImageNet1K数据集上验证了理论结论。
2025-06-12 cs.LG
Representational Continuity for Unsupervised Continual Learning
New York University(纽约大学);KAIST(韩国科学技术院);Microsoft Research(微软研究院);AITRICS
持续学习(CL)的目的是在不忘记先前获得的知识的情况下学习一系列任务。然而,最近的CL进展仅限于监督持续学习(SCL)的情况。因此,它们不能扩展到真实世界的应用程序,其中数据分布通常是有偏见的和无注释的。在这项工作中,我们专注于无监督的持续学习(UCL),在那里我们学习的功能表示的一个未标记的任务序列,并表明依赖于注释数据是没有必要的持续学习。我们进行了一项系统的研究,分析了学习到的特征表示,并表明无监督的视觉表示对灾难性遗忘的鲁棒性令人惊讶,始终实现更好的性能,并且比SCL更好地推广到分布外任务。此外,我们发现,UCL实现了一个更平滑的损失景观,通过定性分析的学习表示和学习有意义的特征表示。此外,我们提出了终身无监督混淆(LUMP),一个简单而有效的技术,在当前任务和以前的任务的实例之间进行插值,以减轻无监督表示的灾难性遗忘。
2022-04-05 cs.CV cs.LG
Towards continual learning in medical imaging
Imperial College London(帝国理工学院)
本文研究了利用神经网络对脑MRI中两个分割任务进行持续学习的问题。为了探索在这种情况下,目前的方法,用于对抗灾难性遗忘的第一个任务时,一个新的学习的能力,我们调查弹性权重巩固,最近提出的方法的基础上费舍尔信息,最初评估强化学习的雅达利游戏。我们使用它来顺序学习正常大脑结构的分割,然后分割白质病变。我们的研究结果表明,这种最新的方法减少了灾难性遗忘,而在这些具有挑战性的持续学习环境中存在很大的改进空间。
2018-11-06 cs.CV cs.LG
Continual Pre-Training Mitigates Forgetting in Language and Vision
Scuola Normale Superiore(比萨高等师范学校);KU Leuven(鲁汶大学);University of Pisa(比萨大学)
预训练模型是当今机器学习研究的基本组成部分。在持续学习中,它们通常用于在对非平稳数据流进行训练之前初始化模型。然而,在持续学习过程中很少应用预训练。我们形式化并研究了语言和视觉环境中持续预训练场景的特征,其中模型在传入数据流上持续进行预训练,然后才针对不同的下游任务进行微调。我们证明了持续预训练的模型对灾难性遗忘具有鲁棒性,并且我们提供了强有力的经验证据,支持自我监督的预训练在保留以前的知识方面比监督协议更有效。代码在https://github.com/AndreaCossu/continual-pretraining-nlp-vision上提供。
2022-05-19 cs.AI cs.LG
Formalizing the Generalization-Forgetting Trade-off in Continual Learning
Argonne National Laboratory(阿贡国家实验室)
我们通过动态规划制定了持续学习(CL)问题,并将灾难性遗忘和泛化之间的权衡建模为两个玩家的顺序游戏。在这种方法中,参与人1由于缺乏泛化而使成本最大化,而参与人2由于灾难性遗忘而使成本最小化。我们从理论上证明了两个玩家之间的平衡点存在于每个任务中,并且这个点是稳定的(一旦达到平衡,两个玩家就会停留在平衡点上)。接下来,我们介绍平衡的持续学习(BCL),它的目的是实现泛化和遗忘之间的平衡,并实证证明,BCL是可比的,或优于最先进的。
2022-02-24 cs.AI cs.LG math.DS
Slowing Down Forgetting in Continual Learning
Bosch Center for Artificial Intelligence(博世人工智能中心);Munich Center for Machine Learning(慕尼黑机器学习中心);LMU Munich(慕尼黑大学)
本文提出名为ReCL的持续学习框架,利用基于梯度的神经网络的隐式偏置在间隔最大化点重建旧任务数据并与当前数据结合,有效减缓灾难性遗忘,在多种场景、数据集和架构上取得显著性能提升。
2025-03-03 cs.AI cs.CV cs.LG
ContCap: A scalable framework for continual image captioning
KAIST(韩国科学技术院)
虽然先进的图像描述系统越来越多地连贯和准确地描述图像,但持续学习的最新进展允许深度学习模型避免灾难性遗忘。然而,图像描述与持续学习一起工作的领域尚未被探索。我们将其中我们将持续学习和图像描述合并为持续图像描述的任务定义为。在这项工作中,我们提出了ContCap,一个框架生成一系列新的任务的标题来,无缝集成到图像描述除了解决灾难性遗忘的持续学习。在证明了图像描述中的遗忘之后,我们提出了各种技术来克服遗忘困境,以一个简单的微调模式为基线。我们拆分MS-COCO 2014数据集,在类增量设置中执行实验,而无需重新访问先前提供的任务的数据集。实验表明,在旧的任务的性能显着改善,而新的数字令人惊讶地超过微调。我们的框架还为连续图像或视频描述提供了可扩展的解决方案。
2020-04-21 cs.CV
AFEC: Active Forgetting of Negative Transfer in Continual Learning
Tsinghua University(清华大学);Tsinghua-Peking Center for Life Sciences(清华-北大生命科学联合中心);University College London(伦敦大学学院)
持续学习旨在从动态数据分布中学习一系列任务。在不访问旧训练样本的情况下,很难确定从旧任务到每个新任务的知识转移,这可能是积极的或消极的。如果旧知识干扰了新任务的学习,即,前向知识迁移是负向的,那么精确记忆旧任务会进一步加重干扰,从而降低持续学习的绩效。相比之下,生物神经网络可以通过调节学习触发的突触扩张和突触收敛,主动忘记与学习新经验相冲突的旧知识。受生物学主动遗忘理论的启发,我们提出主动遗忘限制新任务学习的旧知识,以利于持续学习。在贝叶斯持续学习的框架下,我们开发了一种新的方法,称为主动遗忘与突触扩张收敛(AFEC)。我们的方法动态地扩展参数来学习每个新任务,然后选择性地组合它们,这在形式上与生物主动遗忘的潜在机制一致。我们在各种持续学习基准上对AFEC进行了广泛的评估,包括CIFAR-10回归任务,视觉分类任务和Atari强化任务,其中AFEC有效地提高了新任务的学习,并以即插即用的方式实现了最先进的性能。
2021-11-04 cs.LG
Disentanglement of Color and Shape Representations for Continual Learning
Computer Vision Center(计算机视觉中心)
我们假设,解开特征表征遭受较少的灾难性遗忘。作为一个案例研究,我们执行明确的解纠缠的颜色和形状,通过调整网络架构。我们使用Oxford-102 Flowers数据集在任务增量设置中测试了分类准确性和遗忘。我们将我们的方法与弹性权重合并,学习而不忘记,突触智能和记忆感知突触相结合,并表明特征解纠缠对持续学习性能有积极影响。
2020-07-13 cs.CV
Quantum Continual Learning Overcoming Catastrophic Forgetting
Tsinghua University(清华大学);Shanghai Qi Zhi Institute(上海期智研究院)
灾难性遗忘描述了这样一个事实,即机器学习模型在学习新任务的过程之后可能会忘记先前学习的任务的知识。它是持续学习场景中的一个重要问题,最近引起了不同社区的极大关注。在本文中,我们探讨了量子机器学习背景下的灾难性遗忘现象。我们发现,与基于神经网络的经典学习模型类似,量子学习系统在各种应用场景下的分类任务中同样存在遗忘问题。我们表明,基于局部几何信息的损失函数景观的训练模型,一个统一的策略,可以适应克服遗忘问题的增量学习设置。我们的研究结果揭示了量子机器学习中的灾难性遗忘现象,并提供了一种实用的方法来克服这个问题,这为探索潜在的量子优势走向持续学习开辟了一条新的途径。
2021-08-05 cond-mat.mes-hall cs.LG quant-ph
Putting a Face to Forgetting: Continual Learning meets Mechanistic Interpretability
KU Leuven(根特大学);University of Groningen(Groningen大学);Amazon(亚马逊)
本文提出一个机制框架,从几何角度解释持续学习中的灾难性遗忘,通过玩具模型分析并验证了深度对遗忘的影响,展示了如何利用Crosscoders分析实际模型。
2026-08-12 cs.LG
FFNB: Forgetting-Free Neural Blocks for Deep Continual Visual Learning
Sorbonne University(索邦大学);CNRS(法国国家科学研究中心);LIP6(巴黎第六大学计算机科学实验室);XXII Group(XXII集团)
深度神经网络(DNN)最近在计算机视觉和几个相关领域取得了巨大成功。尽管取得了这样的进展,但当前的神经架构仍然遭受灾难性干扰(a.k.a.遗忘),这阻碍了DNN不断学习。虽然已经提出了几种最先进的方法来减轻遗忘,但这些现有的解决方案要么是高度刚性的(如规则化),要么是对时间/记忆要求很高的(如重播)。在文献中已经提出了基于动态网络的中间类方法,并且在任务记忆和计算足迹之间提供了合理的平衡。在本文中,我们设计了一个动态的网络结构的持续学习的基础上,一种新的遗忘自由神经块(FFNB)。训练FFNB功能的新任务是使用一种新的程序,约束的基本参数在零空间的先前的任务,而训练分类器参数相当于Fisher判别分析。后者提供了一个有效的增量过程,从贝叶斯的角度来看也是最佳的。使用增量的“端到端”微调进一步增强训练的特征和分类器。对不同的具有挑战性的分类问题进行了大量的实验,结果表明该方法具有很高的有效性。
2021-11-22 cs.CV
Predicting the Susceptibility of Examples to Catastrophic Forgetting
本文发现学习速度快的样本更不易被遗忘,据此提出基于学习速度的回放采样策略SBS,可广泛提升持续学习基准上的性能。
2025-07-03 cs.LG
Theory on Forgetting and Generalization of Continual Learning
The Ohio State University(俄亥俄州立大学)
持续学习(Continuallearning,CL)是一种旨在学习一系列任务的学习方法,近年来受到了广泛的关注。然而,大多数工作集中在实验性能的CL,和CL的理论研究仍然有限。特别是,缺乏对哪些因素是重要的,以及它们如何影响“灾难性遗忘“和泛化性能的理解。为了填补这一空白,我们的理论分析,在过参数化线性模型,提供了第一个已知的明确形式的预期遗忘和泛化误差。进一步的分析,这样一个关键的结果产生了一些理论解释如何overparameterization,任务相似性,任务排序影响遗忘和泛化误差的CL。更有趣的是,通过使用深度神经网络(DNN)在真实数据集上进行实验,我们发现其中一些见解甚至超越了线性模型,可以应用于实际设置。特别是,我们用具体的例子表明,我们的研究结果不仅解释了一些有趣的经验观察在最近的研究,但也激励更好的实用算法设计的CL。
2023-02-12 cs.LG
Spectral Imbalance Causes Forgetting in Low-Rank Continual Adaptation
本文从知识分解角度发现低秩适应存在奇异值谱不平衡,导致遗忘,并提出在受限Stiefel流形上解耦任务更新幅度与方向结构的约束优化方法,有效缓解前后向遗忘。
2026-07-03 cs.LG
Dissecting Catastrophic Forgetting in Continual Learning by Deep Visualization
KAIST(韩国科学技术院);Ansan Institute for Life Sciences, Ansan Medical Center(安山医疗中心安山生命科学研究所)
解释深度神经网络(通常被认为是黑盒)的行为至关重要,特别是当它们现在被广泛应用于人类生活的各个方面时。借鉴可解释人工智能的研究成果,提出了一种新的技术Auto DeepVis,用于分析持续学习中的灾难性遗忘。在利用Auto DeepVis对这一困境进行研究的基础上,提出了一种新的处理灾难性遗忘的方法--临界冻结法。对字幕模型的实验细致地展示了灾难性遗忘是如何发生的,特别是显示了哪些组件正在遗忘或发生变化。然后评估我们的技术的有效性;更准确地说,临界冻结要求在基线上对先前和未来的任务进行最佳性能,证明了调查的能力。我们的技术不仅可以补充现有的解决方案,完全消除终身学习的灾难性遗忘,而且可以解释。
2020-01-07 cs.LG stat.ML
Take Only What You Need: Rank Minimization as an Implicit Forgetting Regularizer in Continual Learning
University of New South Wales(新南威尔士大学);CSIRO(澳大利亚联邦科学工业研究组织)
本文提出CoDyRA方法,通过秩最小化作为隐式遗忘正则化器,在持续学习中平衡可塑性与稳定性,在多个基准上优于现有方法。
2026-09-05 cs.CV
Turning Back Without Forgetting: Selective Backward Refinement for Parameter-Efficient Continual Learning
University of California, Berkeley(加州大学伯克利分校)
提出SABER框架,通过基于提示梯度几何和损失分布相似性的任务相关性准则,在提示型参数高效持续学习中实现受控的正向反向知识迁移,无需重放。
2026-06-07 cs.LG
Continual Learning and Catastrophic Forgetting
Department of Electrical Engineering KU Leuven, Belgium(卢森堡鲁文大学电气工程系);Department of Electrical and Computer Engineering University of Texas at San Antonio, USA(德克萨斯大学圣安东尼奥分校电气与计算机工程系)
本书章节探讨持续学习从非平稳数据流增量学习的挑战,重点分析灾难性遗忘现象,并回顾该领域近十年的研究见解。
2024-03-08 cs.AI cs.CV cs.LG
Adversarial Continual Learning
Facebook AI Research(Facebook 人工智能研究院);UC Berkeley EECS(加州大学伯克利分校电气工程与计算机科学系)
持续学习的目的是学习新的任务而不忘记以前学过的。我们假设,在序列中学习解决每个任务的表示具有共享的结构,同时包含一些特定于任务的属性。我们发现,共享的功能是显着不太容易忘记,并提出了一种新的混合持续学习框架,学习不相交的表示任务不变和任务特定的功能,需要解决一系列的任务。我们的模型结合了架构增长,以防止忘记特定于任务的技能和经验重放的方法,以保持共享的技能。我们证明了我们的混合方法是有效的,在避免遗忘,并显示它是优于基于架构和基于内存的方法类增量学习的一个单一的数据集,以及一系列的多个数据集在图像分类。我们的代码可在\url{https://github.com/facebookresearch/Adversarial-Continual-Learning}上获得。
2020-07-21 cs.AI cs.CV cs.LG
Weight Friction: A Simple Method to Overcome Catastrophic Forgetting and Enable Continual Learning
近年来,深度神经网络在复制人类水平的认知技能方面取得了成功,但它们面临着几个主要障碍。一个重要的限制是无法在不忘记以前学习过的任务的情况下学习新任务,这种缺点被称为灾难性遗忘。在这项研究中,我们提出了一个简单的方法来克服灾难性遗忘,使神经网络的持续学习。我们从神经学和物理学的原理中汲取灵感,发展了重量摩擦的概念。权重摩擦通过对梯度下降优化方法中的更新规则的修改来操作。它的收敛速度与随机梯度下降算法相当,并且可以在多个任务域上运行。它执行与当前方法相同的操作,同时提供计算和内存效率的改进。
2019-08-17 cs.LG cs.NE stat.ML
Technical Report for ICCV 2021 Challenge SSLAD-Track3B: Transformers Are Better Continual Learners
Hikvision Research Institute(海康威视研究院)
在持续学习的SSLAD-Track 3B挑战赛中,我们提出了用Transformer进行持续学习的方法(COLT)。我们发现,Transformers遭受灾难性遗忘相比,卷积神经网络。我们的方法的主要原理是配备Transformer为基础的特征提取器与旧的知识蒸馏和头部扩展策略,以竞争灾难性遗忘。在这份报告中,我们首先介绍了目标检测的持续学习的总体框架。然后,分析了解决方案中关键要素对抵御灾难性遗忘的影响。我们的方法在SSLAD-Track 3B挑战测试集上实现了70.78 mAP。
2022-01-13 cs.CV
Mitigating Intra- and Inter-modal Forgetting in Continual Learning of Unified Multimodal Models
本文提出MoDE,通过解耦模态以缓解统一多模态模型中的模态内和模态间遗忘问题。
2025-12-02 cs.AI cs.LG
Spurious Forgetting in Continual Learning of Language Models
School of Computer Science and Engineering, South China University of Technology(华南理工大学计算机科学与工程学院)
本研究提出“虚假遗忘”概念,指出持续学习中性能下降源于任务对齐破坏而非知识丢失,并通过冻结底层策略在四个场景中显著提升性能。
2025-01-23 cs.LG
Out-of-distribution forgetting: vulnerability of continual learning to intra-class distribution shift
Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);School of Future Technology, University of Chinese Academy of Sciences (UCAS)(中国科学院大学未来技术学院);School of Artificial Intelligence, University of Chinese Academy of Sciences (UCAS)(中国科学院大学人工智能学院)
本文发现持续学习中类内分布偏移会引发一种特殊的灾难性遗忘现象,即分布外遗忘(OODF),并验证了未使用专用子网络的CL方法普遍易受其影响,揭示了持续学习在开放环境下面临的一个被忽视的重要风险。
2024-07-04 cs.AI cs.CV cs.LG
Elastic Weight Consolidation for Knowledge Graph Continual Learning: An Empirical Evaluation
School of Computing(计算学院);Information Systems(信息系统);Athabasca University(亚伯达大学)
本文通过实验证明,EWC在知识图谱持续学习中有效缓解灾难性遗忘,且任务划分策略影响遗忘程度。
2025-12-01 cs.LG
Sparsity and Heterogeneous Dropout for Continual Learning in the Null Space of Neural Activations
Vanderbilt University(范德堡大学);University of California, Davis(加州大学戴维斯分校);Johns Hopkins University(约翰斯·霍普金斯大学)
从非平稳输入数据流中持续/终身学习是智能的基石。尽管深度神经网络在各种各样的应用中表现出色,但在学习新信息时,它很容易忘记以前学习过的信息。这种现象被称为"灾难性遗忘",深深植根于稳定性-可塑性困境。克服深度神经网络中的灾难性遗忘已成为近年来活跃的研究领域。特别地,基于梯度投影的方法最近在克服灾难性遗忘方面显示出优异的性能。本文提出了两种基于稀疏性和异质性辍学的生物启发机制,显着提高了连续学习者在长序列任务中的表现。我们提出的方法建立在梯度投影记忆(GPM)框架。我们在神经网络的每一层中利用k-winner激活来为每个任务执行逐层稀疏激活,以及任务间的异构dropout,鼓励网络在不同任务之间使用非重叠的激活模式。此外,我们还介绍了两个新的分布式转移下的持续学习基准,即Continual Swiss Roll和ImageNet SuperDog-40。最后,我们提供了一个深入的分析,我们提出的方法,并证明了各种基准持续学习问题的显着性能提升。
2022-07-08 cs.AI cs.CV cs.LG
Exploring the Impact of Parameter Update Magnitude on Forgetting and Generalization of Continual Learning
Institute of Intelligent Information Processing, Shanxi University(山西大学智能信息处理研究所);Alliance Manchester Business School, The University of Manchester(曼彻斯特大学阿利安斯商学院)
本文提出了一种混合参数更新策略,通过理论分析和实验验证,改进持续学习中遗忘与泛化性能。
2026-02-24 cs.LG
Mitigating Forgetting in Continual Learning with Selective Gradient Projection
Algoverse AI Research(Algoverse AI 研究)
本文提出SFAO方法,通过余弦相似度和分层门控调节梯度方向,实现受控遗忘并平衡可塑性与稳定性,实验显示其在持续学习基准上表现优异,内存成本降低90%。
2026-02-08 cs.LG math.OC
Targeted Forgetting and False Memory Formation in Continual Learners through Adversarial Backdoor Attacks
Rowan University(罗文大学)
众所周知,人工神经网络在不断地从任务序列中学习时容易发生灾难性遗忘。已经提出了各种连续(或“增量”)学习方法来避免灾难性遗忘,但是它们通常是对手不可知的,即,他们不考虑恶意攻击的可能性。在这项工作中,我们探讨弹性权重合并(EWC),一个流行的持续学习算法,以避免灾难性遗忘的脆弱性。我们表明,智能对手可以绕过EWC的防御,而是通过在训练过程中向模型引入少量错误信息来引起逐渐和故意的遗忘。我们证明了这样一个对手的能力,通过注入“后门”攻击样本的MNIST数据集的置换和分裂基准变量的模型的控制。重要的是,一旦模型学习了对手的错误信息,对手就可以控制任何任务的遗忘量。同样,恶意行为者可以通过将精心设计的后门样本插入到该任务的测试实例的任何部分来创建关于该任务的“虚假记忆”。也许最具破坏性的是,我们发现这种漏洞非常严重;即使是单个任务的训练数据的1%,也可以通过添加后门样本来轻松损害神经网络内存。
2020-02-17 cs.AI cs.CR cs.LG
Unveiling the Tapestry: the Interplay of Generalization and Forgetting in Continual Learning
Nanyang Technological University(南洋理工大学);Agency for Science, Technology and Research(科学、技术与研究局);Hefei University of Technology(合肥工业大学);Sichuan University(四川大学)
该研究揭示持续学习中泛化与遗忘的正向相互作用,提出形状-纹理一致性正则化(STCR)技术,可无缝集成于现有持续学习方法,显著提升性能。
2025-03-23 cs.CV
Evaluating the Impact of Task Granularity on Catastrophic Forgetting in Continual Learning
College of Engineering(工程学院);College of Natural Science(自然科学学院)
研究任务粒度顺序对持续学习中灾难性遗忘的影响,通过CIFAR-100上的粗到细、细到粗和平坦三种训练策略,结合弹性权重巩固(EWC)方法,发现先学习一般类别可减少遗忘。
2026-06-06 cs.LG
Pretrained Vision-Language-Action Models are Surprisingly Resistant to Forgetting in Continual Learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Microsoft Superintelligence(微软超级智能)
研究发现预训练的视觉-语言-动作模型在持续学习中表现出较强的遗忘抵抗性,简单经验回放在这些模型上效果显著,即使数据量小也能实现零遗忘。
2026-03-17 cs.AI cs.LG cs.RO
Understanding Forgetting in Continual Learning with Linear Regression
State University of New York at Buffalo(纽约州立大学布法罗分校);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文通过SGD对线性回归模型进行理论分析,揭示任务序列与步长对遗忘的影响,并在线性回归和DNN模拟中验证了结论。
2024-05-27 cs.LG
Continual Learning with Guarantees via Weight Interval Constraints
Jagiellonian University(雅盖隆大学);Polish Academy of Sciences(波兰科学院);Warsaw University of Technology(华沙理工大学);Tooploox
我们引入了一种新的训练范式,对神经网络参数空间施加区间约束来控制遗忘。当代的持续学习(CL)方法专注于从数据流中有效地训练神经网络,同时减少灾难性遗忘的负面影响,但它们不能提供任何可靠的保证,即网络性能不会随着时间的推移而不受控制地恶化。在这项工作中,我们将展示如何通过将模型的持续学习重新表述为其参数空间的持续收缩来限制遗忘。为此,我们提出了超矩形训练,这是一种新的训练方法,其中每个任务都由参数空间中的超矩形表示,完全包含在先前任务的超矩形中。该公式将NP难CL问题降低到多项式时间,同时提供针对遗忘的完全弹性。我们通过开发InterContiNet(间隔持续学习)算法来验证我们的主张,该算法利用区间算术来有效地将参数区域建模为超矩形。通过实验结果,我们表明,我们的方法表现良好,在持续学习设置不存储数据从以前的任务。
2022-06-16 cs.LG
Wide Neural Networks Forget Less Catastrophically
Washington State University(华盛顿州立大学);DeepMind(深度思维)
持续学习研究的一个主要焦点领域是通过设计对分布偏移更鲁棒的新算法来减轻神经网络中的“灾难性遗忘“问题。虽然最近在持续学习文献方面的进展令人鼓舞,但我们对神经网络的哪些属性导致灾难性遗忘的理解仍然有限。为了解决这个问题,而不是专注于持续学习算法,在这项工作中,我们专注于模型本身,研究神经网络架构的“宽度”对灾难性遗忘的影响,并表明宽度对遗忘有着惊人的显著影响。为了解释这种效应,我们从各种角度研究了网络的学习动态,例如梯度正交性,稀疏性和懒惰训练机制。我们提供了潜在的解释,是一致的经验结果,在不同的架构和持续学习基准。
2022-07-14 cs.AI cs.CV cs.LG
Improving Replay Sample Selection and Storage for Less Forgetting in Continual Learning
University of Arizona(亚利桑那大学);University of Central Florida(中佛罗里达大学)
本研究通过比较多种样本选择策略并提供寻找最佳存储样本数量的详细分析,改进了持续学习中的重放样本选择与存储,以减少灾难性遗忘。
2023-08-03 cs.AI cs.LG