Recall-Oriented Continual Learning with Generative Adversarial Meta-Model
Inha University（仁荷大学）
针对持续学习的稳定性-可塑性困境，提出受脑机制启发的双层面向回忆持续学习框架及生成对抗元模型GAMM，通过增量学习任务参数而非样本，在两类场景下兼顾新知识学习与旧知识稳定性。
2024-03-05 cs.AI cs.CV cs.LG
Replay to Remember (R2R): An Efficient Uncertainty-driven Unsupervised Continual Learning Framework Using Generative Replay
Department of Computational Intelligence, SRM Institute of Science and Technology（计算智能系，SRM科学与技术学院）
本文提出R2R无监督持续学习框架，通过簇级不确定性反馈和生成回放机制在多个数据集上显著提升知识保留能力并取得领先性能。
2025-05-09 cs.AI cs.CV cs.LG
Shared and Private VAEs with Generative Replay for Continual Learning
Indian Institute of Science（印度科学研究院）
持续学习试图在不忘记以前学过的东西的情况下学习新的任务。事实上，大多数现有的人工神经网络（ANN）模型都失败了，而人类也是通过一生记住以前的作品来做到这一点。虽然简单地存储所有过去的数据可以缓解这个问题，但它需要大量的内存，并且在最后一次数据访问受限的实际应用中通常是不可行的。我们假设不断学习解决每个任务的模型具有一些特定于任务的特性和一些任务不变的特性。我们提出了一种更适合实际场景的混合持续学习模型，以解决具有任务不变的共享变分自编码器和T个任务特定的变分自编码器的问题。我们的模型结合了生成重放和架构增长，以防止灾难性遗忘。我们证明了我们的混合模型有效地避免了遗忘，并在视觉持续学习基准测试中获得了最先进的结果，如MNIST，Permuted MNIST（QMNIST），CIFAR 100和miniImageNet数据集。我们讨论了一些数据集上的结果，如SVHN，Fashion-MNIST，EMNIST和CIFAR 10。
2021-05-17 cs.CV cs.LG
Generative replay with feedback connections as a general strategy for continual learning
Baylor College of Medicine（贝勒医学院）；Rice University（莱斯大学）
开发能够真正终身学习的人工智能应用的一个主要障碍是，人工神经网络在接受新任务训练时会迅速或灾难性地忘记先前学习的任务。目前提出了许多缓解灾难性遗忘的方法，但评估协议的差异使得难以直接比较它们的性能。为了进行更有意义的比较，我们在这里根据任务身份是否已知以及是否需要推断确定了三种不同的持续学习场景。根据这些场景中的每一个执行拆分和置换的MNIST任务协议，我们发现基于正则化的方法（例如，弹性权重合并）在需要推断任务标识时失败。相比之下，生成重放结合蒸馏（即，使用类别概率作为“软目标”）在所有三种情况下都实现了优异的性能。为了解决效率问题，我们通过将生成模型集成到主模型中，并为其配备生成反馈或反向连接，从而降低了生成重放的计算成本。这种通过反馈回放的方法大大缩短了训练时间，而性能没有或可以忽略不计。我们相信这是使强大的生成重放技术可扩展到现实世界的持续学习应用程序的重要的第一步。
2019-04-17 cs.AI cs.CV cs.LG
Looking through the past: better knowledge retention for generative replay in continual learning
IDEAS NCBR；Gdańsk University of Technology（格但斯克工业大学）；Warsaw University of Technology（华沙工业大学）；Jagiellonian University（雅盖隆大学）；Tooploox；Computer Vision Center（计算机视觉中心）；Universitat Autònoma Barcelona（巴塞罗那自治大学）
本文针对持续学习中生成回放难以处理复杂数据的问题，提出潜在空间蒸馏、潜在匹配和生成循环三项改进，显著提升了生成回放在复杂场景下的知识保留能力。
2023-09-18 cs.AI cs.CV cs.LG
Continual Learning in Generative Adversarial Nets
Princeton University（普林斯顿大学）
深度生成模型的发展允许对高维数据分布进行易于处理的学习。虽然所采用的学习过程通常假设训练数据是独立同分布绘制的。根据感兴趣的分布，例如当随着时间的推移遇到不同的类时，可能期望对顺序观察到的不同分布进行建模。尽管深度生成模型的条件变体允许单个网络以分离的方式对多个分布进行建模，但当连续遇到分布时，它们容易受到灾难性遗忘的影响。在本文中，我们将最近在减少灾难性遗忘方面的工作调整为在一系列不同分布上训练生成对抗网络的任务，从而实现连续的生成建模。
2017-05-23 cs.AI cs.LG stat.ML
t-DGR: A Trajectory-Based Deep Generative Replay Method for Continual Learning in Decision Making
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Sony AI（索尼人工智能）
针对决策持续学习中自回归生成重放的轨迹误差累积问题，提出以轨迹时间步为条件的非自回归 t-DGR，并在 Continual World 平均成功率上达到最先进水平。
2024-06-17 cs.AI cs.LG cs.NE
Generative appearance replay for continual unsupervised domain adaptation
IBM Research Europe（IBM欧洲研究院）；ETH Zurich（苏黎世联邦理工学院）；Uppsala University（乌普萨拉大学）
深度学习模型在对大量标记数据进行训练时可以实现高精度。然而，现实世界的场景通常涉及几个挑战：训练数据可能会分期提供，可能来自多个不同的域，并且可能不包含用于训练的标签。某些设置，例如医疗应用，通常涉及由于隐私法规而禁止保留先前看到的数据的进一步限制。在这项工作中，为了解决这些挑战，我们研究了无监督分割在持续学习的情况下，涉及域转移。为此，我们引入了GarDA（连续领域自适应的生成外观重放），这是一种基于生成重放的方法，可以将分割模型顺序地适应于具有未标记数据的新领域。与单步无监督领域自适应（UDA）相比，对一系列领域的持续适应使得能够利用和整合来自多个领域的信息。与以前的增量UDA方法不同，我们的方法不需要访问以前看到的数据，使其适用于许多实际场景。我们在两个具有不同器官和模式的数据集上评估了GarDA，它大大优于现有技术。
2023-02-13 cs.AI cs.CV
Multiband VAE: Latent Space Alignment for Knowledge Consolidation in Continual Learning
Warsaw University of Technology（华沙理工大学）；Jagiellonian University（雅盖隆大学）；Tooploox
我们提出了一种新的无监督生成式持续学习方法，通过调整变分自动编码器的潜在空间。深度生成模型与其他神经结构一样，也会遭受灾难性遗忘。最近的生成式持续学习工作解决了这个问题，并试图从新的数据中学习，而不会忘记以前的知识。然而，这些方法通常专注于人工场景，其中示例在后续数据部分之间几乎没有相似性-这一假设在持续学习的实际应用中是不现实的。在这项工作中，我们确定了这一限制，并将生成性持续学习的目标作为知识积累的任务。我们通过不断调整新数据的潜在表示来解决这个问题，我们称之为额外潜在空间中的条带，其中示例独立于其源任务进行编码。此外，我们还介绍了一种控制遗忘过去数据的方法，该方法简化了这一过程。在标准的持续学习基准之上，我们提出了一种新的具有挑战性的知识整合方案，并表明所提出的方法在所有实验和额外的现实生活中的评估中的表现都超过了最先进的两倍。据我们所知，多波段VAE是第一种显示生成式持续学习中向前和向后知识转移的方法。
2022-06-03 cs.CV cs.LG
SPICED: A Synaptic Homeostasis-Inspired Framework for Unsupervised Continual EEG Decoding
State Key Laboratory of Brain-machine Intelligence（脑机智能国家重点实验室）；College of Computer Science and Technology（计算机科学与技术学院）；Department of Neurobiology, Affiliated Mental Health Center & Hangzhou Seventh People’s Hospital（神经生物学系、附属心理健康中心及杭州市第七人民医院）；MOE Frontier Science Center for Brain Science and Brain-machine Integration（教育部脑科学与脑机整合前沿科学中心）
本文提出受突触稳态启发的SPICED框架，通过关键记忆再激活、突触巩固与重归一化三种机制实现无监督连续脑电解码，在缓解灾难性遗忘的同时适应新个体。
2025-09-22 cs.AI cs.LG
Diffusion-TTA: Test-time Adaptation of Discriminative Models via Generative Feedback
Carnegie Mellon University（卡内基梅隆大学）
本文提出 Diffusion-TTA，利用扩散模型的生成反馈在测试时自适应判别模型，通过最大化图像似然反向传播梯度，显著提升分类、分割和深度预测等任务的准确率，优于 TTT-MAE 和 TENT 等现有方法。
2023-11-29 cs.AI cs.CV cs.LG
EVCL: Elastic Variational Continual Learning with Weight Consolidation
University of Oxford（牛津大学）
针对持续学习中的灾难性遗忘问题，提出融合VCL变分后验近似与EWC正则化参数保护的EVCL混合模型，在5个判别任务的两类增量学习场景中性能均优于现有基线。
2024-06-23 cs.LG stat.ML
Generative Negative Replay for Continual Learning
University of Bologna（博洛尼亚大学）；University of Pisa（比萨大学）
持续学习是智力的一个重要方面，也是解决许多现实问题的必要能力。控制灾难性遗忘（持续学习的阿喀琉斯之踵）的最有效策略之一是存储部分旧数据，并与新经验交叉重放（也称为重放方法）。生成式重放（Generative replay）使用生成模型按需提供重放模式，特别有趣，然而，它主要在简化的假设下被证明是有效的，例如简单的场景和低维数据。在本文中，我们表明，虽然生成的数据通常不能提高旧类的分类精度，但它们可以有效地作为负例（或拮抗剂），以更好地学习新类，特别是当学习经验很小时，包含一个或几个类的例子。所提出的方法在复杂的类增量和数据增量持续学习场景（CORe 50和ImageNet-1000）上进行了验证，这些场景由高维数据和大量训练经验组成：现有的生成重放方法通常会失败。
2022-04-12 cs.CV cs.LG stat.ML
Generative Continual Concept Learning
University of Pennsylvania（宾夕法尼亚大学）；HRL Laboratories, LLC（HRL实验室有限责任公司）；Stanford University（斯坦福大学）
在学习了一个概念之后，人类还能够通过只观察少数标记的实例而不干扰过去学习的知识来不断地将他们学习的概念推广到新的领域。相比之下，在持续学习环境中有效地学习概念仍然是当前人工智能算法的公开挑战，因为持续的模型再训练是必要的。受并行分布式处理学习和互补学习系统理论的启发，我们开发了一个计算模型，该模型能够使用少量标记样本有效地将先前学习的概念扩展到新的领域。我们将概念的新形式与其过去学习的形式结合在一个嵌入空间中，以实现有效的持续学习。这样做，生成分布被学习，使得它在嵌入空间中的任务之间共享，并对抽象概念进行建模。这个过程使模型能够生成伪数据点来重放过去的经验，以解决灾难性遗忘。
2019-09-07 cs.AI cs.LG stat.ML
Principled Hybrids of Generative and Discriminative Domain Adaptation
School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）；Silicon Valley AI Lab, Baidu Research（百度研究院硅谷人工智能实验室）
我们提出了一个概率框架领域自适应，混合生成和歧视性建模的原则性的方式。在这个框架下，生成和判别模型对应于先验参数的特定选择。这为我们提供了一种非常普遍的方法，通过不同的先验选择，在生成性和歧视性极端之间进行插值。通过最大化边际和条件对数似然，从这个框架导出的模型可以使用来自源域的标记实例以及来自源域和目标域的未标记实例。在这个框架下，我们表明，流行的重建损失的自动编码器对应于一个上界的负边缘对数似然的未标记的情况下，边缘分布由适当的内核密度估计。这提供了一种方法来解释自动编码器在领域自适应和半监督学习中的经验成功。我们使用神经网络实例化我们的框架，并建立一个具体的模型，DAuto。经验上，我们证明了DAuto在文本，图像和语音数据集上的有效性，表明当领域自适应是可能的时，它优于相关竞争对手。
2017-10-27 cs.AI cs.LG
Continual Learning for Generative AI: From LLMs to MLLMs and Beyond
School of Advanced Interdisciplinary Sciences, University of Chinese Academy of Sciences（中国科学院大学先进交叉学科学院）；MAIS, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所MAIS）；Centre for Artificial Intelligence and Robotics, Hong Kong Institute of Science and Innovation, Chinese Academy of Sciences（中国科学院香港科学与创新研究院人工智能与机器人中心）；School of Computer and Information Engineering, Xiamen University of Technology（厦门理工大学计算机与信息工程学院）
本文针对生成式AI模型的灾难性遗忘问题，全面综述主流生成式模型（含LLM、MLLM等）的持续学习方法，将其分为三类范式并分析学习设置，为该领域提供深入见解。
2025-08-24 cs.CV cs.LG
Selective Amnesia: A Continual Learning Approach to Forgetting in Deep Generative Models
National University of Singapore（新加坡国立大学）；Smart Systems Institute, National University of Singapore（新加坡国立大学智能系统研究所）
针对文本到图像模型可能被滥用以生成有害内容的问题，提出基于持续学习的“选择性遗忘”方法，实现可控遗忘，可应用于变分自编码器和扩散模型，实验证明能有效遗忘多种概念。
2023-10-17 cs.AI cs.LG
Dynamic VAEs with Generative Replay for Continual Zero-shot Learning
Indian Institute of Science（印度科学研究院）
连续零样本学习（Continual zero-shot learning，CSCL）是一个新的领域，用于对模型在训练过程中没有看到的对象进行顺序分类。它比zero-shot和持续学习方法更适用于实际情况，即数据可能连续地只具有少数类的属性和其他类的属性和特征。持续学习（CL）遭受灾难性遗忘，并且由于在训练期间缺乏实际数据（或特征），零样本学习（ZNL）模型不能像最先进的监督分类器那样对对象进行分类。本文提出了一种新的连续零样本学习（DVGR-CQML）模型，该模型随着每个任务的大小而增长，并使用生成重放来更新先前学习的类以避免遗忘。我们证明了我们的混合模型（DVGR-CNOL）优于基线，并且在几个数据集上是有效的，即，CUB、AWA 1、AWA 2和aPY。我们表明，我们的方法是优越的任务顺序学习的零样本学习（Zero-Shot Learning）。我们还讨论了我们的结果对太阳数据集。
2021-04-26 cs.CV
FoCL: Feature-Oriented Continual Learning for Generative Models
Imagia Inc.（Imagia公司）；Concordia University（康考迪亚大学）；McGill University（麦吉尔大学）
在本文中，我们提出了一个通用的框架，在持续学习的生成模型：面向任务的持续学习（FoCL）。与以前的作品，旨在解决灾难性遗忘问题，通过引入正则化的参数空间或图像空间，FoCL强加正则化的特征空间。我们在实验中表明，FoCL对顺序到达任务的分布变化具有更快的适应能力，并在任务增量学习中实现了生成模型的最新性能。我们讨论了针对不同用例场景的组合正则化空间的选择，以提高性能，例如，在背景中具有高度可变性的任务。最后，我们引入了一个遗忘度量，它公平地评估了模型遭受遗忘的程度。有趣的是，对我们提出的健忘评分的分析也表明，FoCL倾向于对未来任务的遗忘有所减轻。
2020-03-09 cs.CV
Brain-inspired feature exaggeration in generative replay for continual learning
University of Bath（巴斯大学）
灾难性遗忘以前学习过的类是成功开发可靠和准确的生成持续学习模型的主要障碍之一。当学习新的类时，以前学习的类的内部表示通常会被覆盖，导致模型对早期类的“记忆”随着时间的推移而丢失。神经科学的最新发展揭示了一种方法，通过这种方法，大脑可以避免自己的记忆干扰。通过有针对性地夸大相似但相互竞争的记忆特征之间的差异，大脑可以更容易地区分和回忆它们。在本文中，这种夸张的应用，通过属于竞争类的重放样本的排斥，探索。通过“重建排斥”损失的发展，本文提出了一种新的最先进的性能，在类增量学习数据集CIFAR100中的早期类的分类。
2021-11-23 cs.AI cs.LG cs.NE
Continual Zero-Shot Learning through Semantically Guided Generative Random Walks
KAUST（阿卜杜拉国王科技大学）；University of Moratuwa（莫拉图瓦大学）
针对训练阶段无未见类信息的持续零样本学习问题，提出带语义引导生成式随机游走损失的算法，从理论上解释生成式建模的作用，在多个数据集上取得3-7%的性能提升。
2023-08-23 cs.CV
Continual Learning of Generative Models with Limited Data: From Wasserstein-1 Barycenter to Adaptive Coalescence
Arizona State University（亚利桑那州立大学）
对于数据和计算能力有限的网络边缘节点来说，学习生成模型具有挑战性。由于类似环境中的任务具有模型相似性，因此可以利用来自云或其他边缘节点的预训练生成模型。呼吁最佳运输理论适合Wasserstein-1生成对抗网络（WGAN），这项研究的目的是开发一个框架，系统地优化生成模型的持续学习使用本地数据在边缘节点，同时利用预训练生成模型的自适应合并。具体而言，通过将来自其他节点的知识转移视为以其预训练模型为中心的Wasserstein球，生成模型的持续学习被转换为约束优化问题，该问题被进一步简化为Wasserstein-1重心问题。提出了一种两阶段的方法：1）离线计算预训练模型的重心，并以位移插值为理论基础，通过“递归”WGAN结构寻找自适应重心; 2）离线计算的重心作为Meta，模型初始化用于持续学习，然后执行快速自适应以使用目标边缘节点处的局部样本来找到生成模型。最后，提出了一种基于权值和量化阈值联合优化的权值三值化方法，进一步压缩生成模型。
2021-01-22 cs.LG eess.IV
On robustness of generative representations against catastrophic forgetting
Warsaw University of Technology（华沙理工大学）；Jagiellonian University（雅盖隆大学）；Tooploox
在学习新任务时对先前学习的知识的灾难性遗忘是当代神经网络的广泛观察到的限制。虽然许多持续学习的方法被提出来减轻这个缺点，但主要的问题仍然没有答案：灾难性遗忘的根本原因是什么？在这项工作中，我们的目标是回答这个问题，提出和验证一组研究假设相关的表征的特异性内部建立的神经模型。更具体地说，我们设计了一组经验评估，比较的鲁棒性表示的歧视和生成模型对灾难性遗忘。我们观察到，通过判别模型学习的表征比生成模型更容易发生灾难性遗忘，这为开发用于持续学习的生成模型的优势提供了新的视角。最后，我们的工作开辟了新的研究途径和可能性，采用生成模型在持续学习超越单纯的重放机制。
2021-09-04 cs.CV cs.LG
Adapt & Align: Continual Learning with Generative Models Latent Space Alignment
Warsaw University of Technology（华沙理工大学）；NCBR Ideas；Tooploox
提出Adapt & Align方法，通过生成模型潜在空间对齐，分两步更新模型以缓解持续学习中的灾难性遗忘，并可用于分类等下游任务。
2023-12-21 cs.LG
Self-recovery of memory via generative replay
University of Pennsylvania（宾夕法尼亚大学）
大脑的一个非凡能力是它在离线期间自主重组记忆的能力。记忆重放是一种被假设为生物离线学习的基础的机制，它激发了在持续学习环境中减少人工神经网络遗忘的离线方法。一个记忆效率和神经合理的方法是生成重放，它在持续学习基准上实现了最先进的性能。然而，与大脑不同的是，标准的生成回放在离线训练自己的回放样本时不会自我重组记忆。我们提出了一种新的架构，增强了自适应的，类似大脑的能力，自主恢复记忆的生成重放。我们在几个持续学习任务和环境中展示了该架构的这种能力。
2023-01-15 cs.AI cs.LG cs.NE
Gradient Regularized Contrastive Learning for Continual Domain Adaptation
The Chinese University of Hong Kong（香港中文大学）；SenseTime Research（商汤科技研究院）
人类可以通过利用学习经验快速适应环境变化。然而，适应动态环境的能力差仍然是人工智能模型面临的主要挑战。为了更好地理解这个问题，我们研究了连续领域自适应的问题，其中模型是由一个标记的源域和一系列未标记的目标域。在这个问题上有两个主要的障碍：领域转移和灾难性遗忘。在这项工作中，我们提出了梯度正则化对比学习，以解决上述障碍。在我们的方法的核心，梯度正则化起着两个关键作用：（1）强制对比损失的梯度不增加源域上的监督训练损失，这保持了学习特征的区分能力;（2）正则化新域上的梯度更新以不增加旧目标域上的分类损失，这使得模型能够适应即将到来的目标域，同时保持先前观察到的域的性能。因此，我们的方法可以与标记的源域和未标记的目标域联合学习语义区分和域不变的功能。在Digits、DomainNet和E-Caltech基准测试上的实验表明，与最先进的方法相比，我们的方法具有很强的性能。
2020-07-25 cs.CV cs.LG
Generative and Discriminative Text Classification with Recurrent Neural Networks
DeepMind
我们以经验为基础描述了用于文本分类的判别式和生成式LSTM模型的性能。我们发现，尽管基于RNN的生成模型比它们的词袋祖先更强大（例如，它们考虑了文档中单词之间的条件依赖性），它们具有比区分训练的RNN模型更高的渐近错误率。然而，我们也发现生成模型比它们的判别模型更快地接近它们的渐近错误率--Ng & Jordan（2001）证明的模式同样适用于做出更天真的条件独立假设的线性分类模型。基于这一发现，我们假设基于RNN的生成分类模型对数据分布的变化更鲁棒。这一假设在zero-shot和连续学习设置中的一系列实验中得到了证实，这些实验表明生成模型的性能大大优于判别模型。
2017-05-26 cs.CL cs.LG stat.ML
Logarithmic Continual Learning
Warsaw University of Technology（华沙理工大学）；Tooploox；Jagiellonian University（雅盖隆大学）
我们引入了一个神经网络架构，该架构在不断学习的模型的生成排练中，以数学方式减少了自排练步骤的数量。在持续学习（CL）中，训练样本进入后续任务，并且训练好的模型一次只能访问单个任务。为了重放以前的样本，当代CL方法引导生成模型，并用当前和再生的过去数据的组合递归地训练它们。由于在每个任务之后重新生成相同的过去样本，这种重复导致多余的计算，并且重建质量连续降低。在这项工作中，我们解决了这些限制，并提出了一个新的生成排练架构，需要在最多对数数量的再培训每个样本。我们的方法利用分配过去的数据在一组生成模型，使他们中的大多数不需要再训练后，一个~任务。我们的对数持续学习方法的实验评估显示了我们的方法相对于最先进的生成排练方法的优越性。
2022-01-17 cs.LG
Deep Generative Dual Memory Network for Continual Learning
University of Southern California（南加利福尼亚大学）
尽管深度学习取得了进展，但神经网络只能在联合训练时学习多个任务。当任务按顺序到达时，他们会在之前学习的任务上失去表现。这种被称为灾难性遗忘的现象是神经网络从输入数据中不断学习之前需要克服的一个基本挑战。在这项工作中，我们从人类记忆中获得灵感，开发一种能够从连续传入的任务中不断学习的架构，同时避免灾难性遗忘。具体来说，我们的贡献是：（i）模拟人类大脑中的互补学习系统（海马和新皮层）的双重记忆架构，（ii）通过生成重放过去的经验来巩固记忆，（iii）通过实验证明生成重放和双重记忆的优势，以及（iv）即使对于低容量模型，也能提高对挑战性任务的性能保持。我们的架构显示了哺乳动物记忆的许多特征，并提供了关于睡眠和学习之间联系的见解。
2018-05-25 cs.LG
Generative Replay-based Continual Zero-Shot Learning
Indian Institute of Science（印度科学学院）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）
零样本学习是一种新的范例，用于对训练时不可用的类中的对象进行分类。零样本学习（Zero-shot learning，简称ZRL）方法由于其能够对未知类样本进行分类，近年来引起了广泛关注。大多数现有的方法在可用于训练模型的所有可见类的样本时都有效，这并不适合现实生活。在本文中，我们解决了这个障碍，开发了一个生成的重放为基础的连续的可编程逻辑（GRCCARL）。该方法使传统的并行学习算法能够从流数据中学习并获得新的知识，而不会忘记以前任务的经验。我们处理灾难性遗忘在GRCXL通过重放的合成样本看到的类，这已经出现在早期的任务。这些合成样本是使用经过训练的条件变分自编码器（VAE）在刚刚过去的任务上合成的。此外，我们只需要在任何时候进行培训和测试的当前和前一个VAE。所提出的GRPGL方法是为单头设置的持续学习，模拟现实世界的问题设置。在这种设置中，任务标识在训练期间给出，但在测试期间不可用。在五个基准数据集上评估了GRCNOL的性能，这些基准数据集用于具有持续学习的固定和动态（增量类）设置的GRCNOL的广义设置。现有的类设置最近在文献中提出的是不适合类增量设置。因此，本文提出了一种新的设置来解决这个问题。实验结果表明，该方法明显优于基线和国家的最先进的方法，使它更适合于现实世界的应用。
2021-06-07 cs.CV cs.LG
BinPlay: A Binary Latent Autoencoder for Generative Replay Continual Learning
Warsaw University of Technology（华沙理工大学）；Tooploox
我们引入了一个二进制潜在空间自动编码器架构排练训练样本的持续学习的神经网络。用新数据扩展模型知识而不忘记先前学习的样本的能力是持续学习的基本要求。现有的解决方案通过从存储器重放过去的数据来解决它，这对于不断增长的训练数据是不可持续的，或者通过用生成模型来重建过去的样本来解决它，生成模型被训练为泛化超过训练数据，因此错过了各个样本的重要细节。在本文中，我们采取了两全其美，并介绍了一种新的生成排练方法，称为BinPlay。它的主要目标是找到一个质量保持编码过去的样本到预先计算的二进制代码生活在自动编码器的二进制潜在空间。由于我们仅根据训练样本的时间索引来参数化用于预计算代码的公式，因此自动编码器能够实时计算排练样本的二进制嵌入，而无需将它们保存在内存中。对三个基准数据集的评估显示，BinPlay与竞争性生成重放方法相比，准确性提高了两倍。
2020-11-25 cs.LG
Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot Learning
Duke University（杜克大学）
零样本学习（Zero-shot learning，简称ZRL）已被证明是一种很有前途的方法，可以通过利用类属性将模型推广到训练过程中看不到的类别，但挑战仍然存在。最近，使用生成模型来对抗训练期间出现的对类别的偏见的方法推动了ZSL的发展水平，但这些生成模型可能速度很慢，或者训练时计算成本很高。此外，虽然许多以前的CNOL方法假设一次性适应看不见的类，但实际上，世界总是在变化，需要不断调整部署的模型。没有准备好处理连续数据流的模型很可能会经历灾难性遗忘。我们提出了一个元连续零样本学习（MCSRL）的方法来解决这两个问题。特别是，通过将属性的自选通和缩放类归一化与基于元学习的训练配对，我们能够超越最先进的结果，同时能够比昂贵的基于生成的方法更快地训练我们的模型（$>100\times$）。我们证明了这一点，通过在五个标准的ARML数据集（CUB，aPY，AWA 1，AWA 2和SUN）在广义零样本学习和广义连续零样本学习设置进行实验。
2021-02-23 cs.AI cs.CV cs.LG
Continual Learning with Dirichlet Generative-based Rehearsal
Hong Kong University of Science and Technology（香港科技大学）；Hong Kong Institute of Science & Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院）
提出Dirichlet持续学习（DCL）方法，利用Dirichlet分布建模CVAE潜变量并引入JSKD知识蒸馏，有效解决面向任务对话系统持续学习中的灾难性遗忘问题。
2023-09-13 cs.AI cs.CL cs.LG
Dream2Learn: Structured Generative Dreaming for Continual Learning
PeRCeiVe Lab, University of Catania, Italy（卡塔尼亚大学PeRCeiVe实验室）
Dream2Learn通过生成梦中类别来提升持续学习的适应性，利用内部合成数据自我训练，实现更好的知识迁移和泛化能力。
2026-03-02 cs.AI cs.LG
Continual Classification Learning Using Generative Models
University of Geneva（日内瓦大学）；Geneva School of Business Administration, HES-SO（瑞士西部高等专业学院日内瓦工商管理学院）
持续学习是一种通过容纳知识同时保留先前学到的经验来随着时间顺序学习的能力。神经网络可以在联合训练时学习多个任务，但当一次呈现一个任务时，无法保持先前学习的任务的性能。这个问题被称为灾难性遗忘。在这项工作中，我们提出了一个分类模型，从连续观察的任务，同时防止灾难性遗忘不断学习。我们建立在[10]的终身生成能力的基础上，并通过推导联合对数似然$\log p(x; y)$的新变分界限将其扩展到分类设置。
2018-10-24 cs.LG stat.ML
Enhancing Generative Class Incremental Learning Performance with Model Forgetting Approach
Graduate School of Information Science and Technology, Hokkaido University（北海道大学信息科学与技术研究院）；Faculty of Information Science and Technology, Hokkaido University（北海道大学信息科学与技术学院）
本研究提出将遗忘机制引入生成式类增量学习（GCIL），以动态管理类信息并适应流数据，实验证明该机制显著提升了模型在持续学习中获取新知识的能力。
2024-03-27 cs.AI cs.CV
Variational Continual Learning
Department of Engineering, University of Cambridge（剑桥大学工程系）
本文发展了变分连续学习（VCL），一个简单但通用的框架，融合在线变分推断（VI）和蒙特卡罗VI的神经网络的最新进展。该框架可以在复杂的持续学习环境中成功地训练深度判别模型和深度生成模型，在复杂的持续学习环境中，现有的任务随着时间的推移而发展，全新的任务出现。实验结果表明，VCL在各种任务上的表现优于最先进的持续学习方法，以全自动的方式避免了灾难性遗忘。
2018-05-20 cs.LG stat.ML
Generative Feature Replay with Orthogonal Weight Modification for Continual Learning
School of Electronics Engineering and Computer Science, Peking University（北京大学电子工程与计算机科学学院）
智能代理连续学习和记住多个任务的能力对于实现人工通用智能至关重要。为了克服神经网络顺序学习过程中由于数据非独立性而导致的灾难性遗忘，人们提出了许多持续学习方法。在本文中，我们专注于类增量学习，一个具有挑战性的CL场景。对于这种情况，生成重放是一种很有前途的策略，它为以前的任务生成并重放伪数据，以减轻灾难性遗忘。然而，对于相对复杂的数据，很难连续地训练生成模型。基于最近提出的正交权重修改（OWM）算法，该算法在学习新任务时可以近似保持先前学习的特征不变，我们提出1）使用生成模型重放倒数第二层特征; 2）利用自监督辅助任务进一步增强特征的稳定性。几个数据集上的实验结果表明，我们的方法总是取得了显着的改善，而强大的OWM传统的生成重放总是导致负面影响。同时，我们的方法击败了几个强大的基线，包括一个基于真实数据存储的基线。此外，我们进行实验，研究为什么我们的方法是有效的。
2020-09-12 cs.LG stat.ML
Premonition: Using Generative Models to Preempt Future Data Changes in Continual Learning
Australian Institute for Machine Learning（澳大利亚机器学习研究所）；The University of Adelaide（阿德莱德大学）；School of Computer Science and Engineering（计算机科学与工程学院）；University of New South Wales（新南威尔士大学）
该研究提出Premonition方法，结合大语言模型与Stable Diffusion生成未来可能出现的类别的合成图像用于预训练，所得骨干网络可提升现有类别增量学习方法在细粒度分类任务上的性能。
2024-03-12 cs.CV cs.LG
Bayesian Flow Networks in Continual Learning
IDEAS NCBR（IDEAS国家计算智能研究中心）；Jagiellonian University（雅盖隆大学）；Warsaw University of Technology（华沙理工大学）；Autonomous University of Barcelona（巴塞罗那自治大学）
本文探究贝叶斯流网络（BFN）在持续学习中的适用性，通过实验验证其在非平稳数据上的生成能力。
2023-10-18 cs.CV cs.LG stat.ML
Unified Probabilistic Deep Continual Learning through Generative Replay and Open Set Recognition
Goethe University（歌德大学）；The University of Texas at Austin（得克萨斯大学奥斯汀分校）；Yonsei University（延世大学）
众所周知，现代深度神经网络在面对未知数据实例时是脆弱的，并且识别后者仍然是一个挑战。虽然持续学习系统不可避免地会遇到这些看不见的概念，但相应的文献似乎主要集中在减轻对学习表征的灾难性干扰上。在这项工作中，我们引入了一种概率方法，该方法基于变分推理在单个深度自动编码器模型中连接这些观点。具体而言，我们建议通过在正确分类的数据点的基础上拟合高密度区域来约束近似后验。这些界限具有双重目的：可以将看不见的未知分布数据与已经训练的已知任务区分开来，以实现强大的应用程序。同时，为了保留已经获得的知识，生成重放过程可以被缩小到严格分布内的样本，以便显著减轻灾难性干扰。
2022-04-01 cs.CV cs.LG cs.NE
Deep Generative Continual Learning using Functional LoRA: FunLoRA
Sorbonne University（索邦大学）；CNRS（法国国家科学研究中心）；LIP6（LIP6研究所）
针对深度生成模型增量训练的灾难性遗忘问题，提出仅用秩1矩阵、通过函数提升功能秩的FunLoRA条件机制，仅用当前任务数据训练即可避免遗忘，性能超越扩散模型SOTA且成本更低。
2025-10-03 cs.CV
Continual Learning of New Sound Classes using Generative Replay
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Mila--Quebec Artificial Intelligence Institute（米拉-魁北克人工智能研究所）；Adobe Research（奥多比研究院）
持续学习包括在一系列数据集上递增地训练模型，并在所有数据集的联合上进行测试。在本文中，我们研究了声音分类问题的持续学习，我们希望改进已经训练好的模型来学习新的声音类别。在实践中，人们并不想保留所有过去的训练数据并从头开始重新训练，但是天真地用新数据（集）更新模型会导致已经学习的任务的退化，这被称为“灾难性遗忘”。“我们开发了一个生成重放程序来生成训练音频频谱图数据，而不是保留旧的训练数据集。我们表明，通过逐步完善的分类器与生成重放一个发电机，是所有以前的训练数据的大小的4%匹配的性能，完善的分类器保持20%的所有以前的训练数据。因此，我们可以扩展经过训练的声音分类器来学习新的类，而不必保留以前使用的数据集。
2019-06-03 cs.LG cs.SD eess.AS
Class-Incremental Learning Using Generative Experience Replay Based on Time-aware Regularization
University of Southern California（南加州大学）
针对严格类增量持续学习的遗忘难题，提出基于时间感知正则化的生成式经验重放方法，动态微调三类训练目标，在主流基准上提升了记忆保留能力与持续任务平均性能。
2023-10-05 cs.LG
Generative Feature-driven Image Replay for Continual Learning
IBM Research Europe（IBM欧洲研究院）；ETH Zurich（苏黎世联邦理工学院）；Uppsala University（乌普萨拉大学）
当神经网络在不同的任务上进行增量训练时，容易出现灾难性遗忘。流行的增量学习方法通过保留先前看到的样本的子集并在后续任务的训练期间重放它们来减轻这种遗忘。然而，这并不总是可能的，例如，由于数据保护法规。在这样的受限场景中，可以采用生成模型来向分类器重放人工图像或隐藏特征。在这项工作中，我们提出了Genifer（GENeratIve特征驱动的图像回放），其中生成模型经过训练以回放图像，这些图像在通过分类器时必须诱导与真实样本相同的隐藏特征。因此，我们的技术结合了图像和特征重放的优点，即：(1)与传统的图像重放不同，我们的生成模型明确地学习与分类相关的特征的分布;（2）与特征重放相比，我们的整个分类器仍然是可训练的;（3）我们可以利用图像空间增强，这提高了蒸馏性能，同时也减轻了生成模型训练期间的过拟合。我们表明，Genifer大大优于以前的最先进的CIFAR-100和CUB-200数据集的各种设置。
2022-12-06 cs.CV
Caption, Create, Continue: Continual Learning with Pre-trained Generative Vision-Language Models
International Institute of Information Technology Bangalore (IIITB), India（国际信息技术研究所（班加罗尔））；Institute for Infocomm Research, Agency for Science, Technology and Research (A*STAR), Singapore（信息与通信研究所（A*STAR））
针对持续学习依赖大回放缓冲区或标注数据的问题，提出CLTS框架，利用预训练视觉-语言模型（BLIP和Stable Diffusion）生成文本和样本，无需存储真实数据，提升准确率达54%且内存效率高63倍。
2025-11-13 cs.LG
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning
Humboldt-Universität zu Berlin（柏林洪堡大学）；University of Trento（特伦托大学）；SAP ML Research（SAP机器学习研究院）
在持续学习（CL）环境中训练的模型应该能够在未定义的时间段内从数据流中学习。这里的主要挑战是：1）维护旧知识，同时在学习新任务时从中受益，2）保证模型的可扩展性，并从越来越多的数据中学习。为了应对这些挑战，我们引入了动态生成记忆（DGM）-一个突触可塑性驱动的持续学习框架。DGM依赖于有条件的生成对抗网络，具有通过神经掩蔽实现的可学习连接可塑性。具体来说，我们评估了神经掩蔽的两种变体：（i）应用于层激活和（ii）直接应用于连接权重。此外，我们提出了一个动态的网络扩展机制，确保足够的模型容量，以适应不断传入的任务。增加的容量的量根据学习的二进制掩码动态地确定。我们在视觉分类任务的连续类增量设置中评估DGM。
2019-12-02 cs.CV cs.LG cs.NE
CUCL: Codebook for Unsupervised Continual Learning
University of Electronic Science and Technology of China（电子科技大学）
针对无监督持续学习（UCL）中前几个任务结果欠佳的问题，提出CUCL方法，通过引入Product Quantization注入多样性并应用交叉量化对比损失学习判别特征，结合Codebook Rehearsal解决灾难性遗忘，在多个基准上显著提升性能。
2023-11-25 cs.CV
Continual Learning: Tackling Catastrophic Forgetting in Deep Neural Networks with Replay Processes
Thales（泰雷兹）
人类一生都在学习。他们从一系列的学习经验中积累知识，记住基本概念，而不会忘记以前所学的知识。人工神经网络也在努力学习。他们通常依赖于严格预处理的数据来学习特定问题的解决方案，如分类或回归。特别是，如果他们接受新的培训，他们会忘记过去的学习经验。因此，人工神经网络往往不适合处理现实生活中的设置，如一个笨拙的机器人，必须在线学习，以适应新的情况，克服新的问题，而不会忘记它过去的学习经验。持续学习（CL）是解决这类问题的机器学习的一个分支。连续算法的目的是在学习经验的课程中积累和提高知识，而不会忘记。在这篇论文中，我们提出了探索连续算法与重放过程。重放过程集合了排练方法和生成重放方法。生成性重放包括用生成模型重新生成过去的学习经验来记住它们。排练包括从过去的学习经验中保存一组核心样本，以便以后排练。重放过程可以在优化当前学习目标和过去的学习目标之间进行折衷，从而使学习不会忘记任务设置的顺序。我们表明，他们是非常有前途的方法，持续学习。值得注意的是，它们能够用新知识重新评估过去的数据，并对抗来自不同学习经验的数据。我们展示了他们通过无监督学习、监督学习和强化学习任务不断学习的能力。
2020-12-08 cs.AI cs.LG cs.NE
Continual Learning of Personalized Generative Face Models with Experience Replay
UNC Chapel Hill（北卡罗来纳大学教堂山分校）
针对个性化2D/3D生成式人脸模型顺序更新中的灾难性遗忘问题，提出结合随机采样与StyleGAN潜空间的凸包经验回放算法，在小存储长期部署下优于随机回放基线。
2024-12-03 cs.CV
Continual Learning with Invertible Generative Models
Sapienza University of Rome（罗马大学）
每当神经网络在接受新任务训练时覆盖过去的知识时，就会发生灾难性遗忘（CF）。处理CF的常见技术包括权重的正则化（使用例如，它们对过去任务的重要性），以及排练策略，其中网络不断地根据过去的数据进行重新训练。生成模型也适用于后者，以便拥有无穷无尽的数据来源。在本文中，我们提出了一种新的方法，结合了正则化和基于生成的排练方法的优势。我们的生成模型包括一个归一化流（NF），一个概率和可逆的神经网络，在网络的内部嵌入上训练。通过在整个训练过程中保持单个NF，我们表明我们的内存开销保持不变。此外，利用NF的可逆性，我们提出了一种简单的方法来正则化网络的嵌入相对于过去的任务。我们表明，我们的方法表现良好，相对于国家的最先进的方法在文献中，有界的计算能力和内存开销。
2022-12-27 cs.LG stat.ML
Continual Learning with Diffusion-based Generative Replay for Industrial Streaming Data
Shien-Ming Wu School of Intelligent Engineering, South China University of Technology（华南理工大学吴贤铭智能工程学院）；Pazhou Lab（琶洲实验室）；China Academy of Information and Communications Technology（中国信息通信研究院）
针对工业物联网动态环境下的数据漂移及资源受限问题，提出基于蒸馏自引导的扩散生成重放持续学习方法DSG，通过知识蒸馏提升生成器稳定性与数据质量以缓解灾难性遗忘，在多个数据集上准确率较最优基线提升2.9%-5.0%。
2024-06-22 cs.LG
Continual Learning with Fully Probabilistic Models
Fulda University of Applied Sciences（富尔达应用科学大学）
我们提出了一种基于机器学习的完全概率（或生成）模型的持续学习（CL）方法。与之相反，例如，GANs是“生成”的，因为它们可以生成样本，完全概率模型旨在直接对数据分布进行建模。因此，它们提供了与持续学习高度相关的功能，例如密度估计（离群值检测）和样本生成。作为生成式持续学习的一种具体实现，我们提出了高斯混合重放（GMR）算法。GMR是使用高斯混合模型（GMM）实例用于生成器和分类器功能的伪排练方法。依赖于MNIST，FashionMNIST和Devanagari基准，我们首先展示了无监督的任务边界检测GMM密度估计，我们也用它来拒绝不典型的生成样本。此外，我们证明了GMR能够以cGAN的方式进行类条件采样。最后，我们验证了GMR，尽管它的结构简单，实现了最先进的性能在非常有竞争力的时间和内存复杂性的常见类增量学习问题。
2021-04-19 cs.LG stat.ML
Adversarial Targeted Forgetting in Regularization and Generative Based Continual Learning Models
Rowan University（罗文大学）
当需要从后续批次或流数据中学习额外的知识或任务时，采用连续（或“增量”）学习方法。然而，这些方法通常是对手不可知的，即，他们不考虑恶意攻击的可能性。在我们之前的工作中，我们探讨了弹性权重合并（EWC）对可感知的错误信息的脆弱性。我们现在探索其他基于正则化以及基于生成重放的持续学习算法的漏洞，并将攻击扩展到无法感知的错误信息。我们表明，智能对手可以利用持续学习算法随着时间的推移保留现有知识的能力，并迫使它学习并保留故意引入的错误信息。为了证明此漏洞，我们将后门攻击样本注入训练数据。这些攻击样本构成了错误信息，允许攻击者在测试时捕获模型的控制权。我们在两个重要的域和类增量学习场景下，对MNIST数据集的旋转和分裂基准变体进行了评估。我们表明，对手可以创建一个“错误的记忆”的任何任务，通过插入精心设计的后门样本的测试实例，该任务，从而控制遗忘的任何任务的选择量。也许最重要的是，我们发现这个漏洞是非常严重和破坏性的：模型内存可以很容易地受到影响，只需将后门样本添加到训练数据的1%，即使错误信息是人眼无法察觉的。
2021-02-16 cs.CR cs.LG
