Rethinking Transfer in Continual Learning: A Replay-Based Realisation
University of Chicago(芝加哥大学)
该研究重新思考持续学习中的迁移,提出三个条件框架,将其观点实例化为TSR,通过选择有益重放数据提升正向迁移,在低预算持续学习协议下优于现有基线,强调应把迁移作为持续学习首要目标先理解再设计。
2026-07-20 cs.LG
AdaER: An Adaptive Experience Replay Approach for Continual Lifelong Learning
Mississippi State University(密西西比州立大学);Worcester Polytechnic Institute(伍斯特理工学院);Central South University(中南大学)
针对持续终身学习中的灾难性遗忘问题,本文提出AdaER算法,通过C-CMR选择性回放冲突记忆并以E-BRS最大化缓冲信息熵,在类别增量基准上优于现有基线。
2023-08-19 cs.LG
Canonicalized Stable-List Replay for Private Federated Continual Learning over Language-Model Embeddings
Department of Computer Science, Iowa State University(爱荷华州立大学计算机科学系);Department of Computer Science & Engineering, BRAC University(BRAC大学计算机科学与工程系);Department of Civil, Construction & Environmental Engineering, Iowa State University(爱荷华州立大学土木、建设与环境工程系)
针对联邦持续学习中差分隐私下回放列表无序的问题,提出规范化稳定列表回放(CSLR)方法,利用公共锚句的签名对齐客户端分布,在多个基准上提升性能。
2026-05-29 cs.LG
An Investigation of Replay-based Approaches for Continual Learning
Fulda University of Applied Sciences(富尔达应用科学大学)
持续学习(CL)是机器学习(ML)的一个主要挑战,它描述了在没有灾难性遗忘(CF)的情况下顺序学习多个任务的能力。最近的工作表明,CL是一个复杂的话题,甚至更是当涉及到多个约束的现实世界的场景。已经提出了几种解决方案,其中所谓的基于重放的方法似乎非常有前途,由于其简单性和鲁棒性。这种方法将过去样本的子集存储在专用存储器中以供以后处理:虽然这不能解决所有问题,但已经获得了良好的结果。在这篇文章中,我们实证研究基于重放的持续学习方法,并评估其应用潜力。选择最近的方法,以及自己的建议进行比较的一套共同的基准,特别侧重于评估不同的样本选择策略的性能。我们发现,当存储的样本数量较少时,样本选择的影响会增加。然而,不同的重放方法之间的性能变化很大。令人惊讶的是,我们发现,我们在这里提出的最天真的基于排练的方法可以优于最近的最先进的方法。
2021-08-15 cs.LG
Trust Region Continual Learning as an Implicit Meta-Learner
Georgia Institute of Technology(佐治亚理工学院)
本文提出信任区域持续学习,通过结合生成重放和Fisher度量信任区域约束,实现隐式元学习效果,在任务增量扩散图像生成和持续扩散策略控制中取得最佳性能。
2026-10-27 cs.LG
BinPlay: A Binary Latent Autoencoder for Generative Replay Continual Learning
Warsaw University of Technology(华沙理工大学);Tooploox
我们引入了一个二进制潜在空间自动编码器架构排练训练样本的持续学习的神经网络。用新数据扩展模型知识而不忘记先前学习的样本的能力是持续学习的基本要求。现有的解决方案通过从存储器重放过去的数据来解决它,这对于不断增长的训练数据是不可持续的,或者通过用生成模型来重建过去的样本来解决它,生成模型被训练为泛化超过训练数据,因此错过了各个样本的重要细节。在本文中,我们采取了两全其美,并介绍了一种新的生成排练方法,称为BinPlay。它的主要目标是找到一个质量保持编码过去的样本到预先计算的二进制代码生活在自动编码器的二进制潜在空间。由于我们仅根据训练样本的时间索引来参数化用于预计算代码的公式,因此自动编码器能够实时计算排练样本的二进制嵌入,而无需将它们保存在内存中。对三个基准数据集的评估显示,BinPlay与竞争性生成重放方法相比,准确性提高了两倍。
2020-11-25 cs.LG
Class-Incremental Learning Using Generative Experience Replay Based on Time-aware Regularization
University of Southern California(南加州大学)
针对严格类增量持续学习的遗忘难题,提出基于时间感知正则化的生成式经验重放方法,动态微调三类训练目标,在主流基准上提升了记忆保留能力与持续任务平均性能。
2023-10-05 cs.LG
Graph Continual Learning with Debiased Lossless Memory Replay
University of Technology Sydney(悉尼科技大学);Singapore Management University(新加坡管理大学)
本文提出图持续学习框架DeLoMe,通过学习无损合成节点表示作为记忆以保护隐私并捕获整体图信息,同时设计去偏损失函数缓解数据不平衡导致的任务偏差,在四个数据集上验证了其有效性。
2024-10-15 cs.LG
Marginal Replay vs Conditional Replay for Continual Learning
ENSTA ParisTech(巴黎高等先进技术学院);INRIA(法国国家信息与自动化研究所);Thales(泰雷兹集团);Fulda University of Applied Sciences(富尔达应用科学大学)
我们提出了一种新的基于重放的连续分类学习方法,我们称之为“条件重放”,它通过从以类为条件的分布中采样来生成样本和标签。我们将条件重放与另一种基于重放的持续学习范式(我们称之为“边际重放”)进行比较,后者独立于其类生成样本,并在单独的步骤中分配标签。条件重放的主要改进是不需要推断生成样本的标签,这减少了复杂的连续分类学习任务中的错误容限。我们证明了这种方法的有效性,使用新的和标准的基准构建从MNIST和FashionMNIST数据,并比较正则化为基础的\textit{elastic weight consolidation}(EWC)的方法。
2019-07-01 cs.AI cs.LG stat.ML
Prototype-Guided Memory Replay for Continual Learning
Deakin University(迪肯大学);Monash University(莫纳什大学)
持续学习(CL)是指一种机器学习范式,它在不忘记先前获得的知识的情况下持续学习。因此,CL的主要困难是由数据分布的变化引起的对先前任务的灾难性遗忘。现有的CL模型通常会保存大量的旧示例,并随机重新访问以前看到的数据以保留旧知识。然而,随着所见数据的积累,占用的存储器大小不断增大。因此,我们提出了一个内存有效的CL方法,通过存储一些样本,以实现良好的性能。我们设计了一个动态原型引导的记忆回放模块,并将其纳入在线元学习模型。我们对文本分类进行了广泛的实验,并研究了训练集顺序对CL模型性能的影响。实验结果证明了我们的方法在遗忘缓解和效率方面的优越性。
2023-03-04 cs.LG
Learn the Time to Learn: Replay Scheduling in Continual Learning
Aalto University(阿尔托大学);KTH Royal Institute of Technology(皇家理工学院);Microsoft Research(微软研究院)
针对处理时间受限下持续学习中的重放调度问题,提出通过蒙特卡洛树搜索和强化学习学习重放调度策略,在不增加计算成本下提升了泛化能力并优于固定策略。
2023-11-20 cs.CV cs.LG
Unsupervised Continual Learning with Growing Self-Organizing Maps and Synthetic Replay
Rochester Institute of Technology(罗切斯特理工学院)
本研究提出基于生长自组织映射与合成重放的无监督持续学习框架,无需原始数据与监督信息,在多基准测试中性能优于无内存方法,在单类增量场景表现突出,为相关研究提供参考。
2026-08-31 cs.LG
On the Limitation and Experience Replay for GNNs in Continual Learning
The University of Hong Kong(香港大学)
该研究首次探索节点级图持续学习中GNN的可学习性,发现结构偏移会严重影响其效果,进而提出结构演化感知经验回放方法SEA-ER,通过拓扑感知选样与结构对齐回放缓解遗忘与结构偏移影响,实验验证了理论与方法的有效性。
2024-07-09 cs.LG
Saliency-Guided Hidden Associative Replay for Continual Learning
Emory University(埃默里大学)
针对持续学习中回放方法内存开销大、现有局部数据检索机制不符合人类记忆规律的问题,提出结合联想记忆与回放策略的SHARC框架,通过稀疏编码存储显著片段、基于内容检索实现高效回忆,在多任务上验证了有效性。
2023-10-06 cs.LG
Task-Agnostic Federated Continual Learning via Replay-Free Gradient Projection
Department of Electrical and Computer Engineering(电气与计算机工程系);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出FedProTIP框架,通过随机奇异值分解提取客户端共享任务子空间,并利用梯度投影减少任务间干扰,实现无重放、任务无关的联邦持续学习。
2026-06-23 cs.LG
Prototype-Based Continual Learning with Label-free Replay Buffer and Cluster Preservation Loss
School of Computing and Communications, Lancaster University(兰卡斯特大学计算与通信学院)
本文提出一种基于无标签原型回放和聚类保持损失的持续学习方法,通过“推开”与“拉近”机制在类增量和域增量场景中保留旧知识并适应新任务,实验表明其性能优于现有持续学习方法,部分情况下甚至超过离线学习。
2025-04-09 cs.LG
Cut out and Replay: A Simple yet Versatile Strategy for Multi-Label Online Continual Learning
针对多标签在线持续学习中的遗忘、缺失标签和类别不平衡问题,提出CUTER策略,通过裁剪标签特定区域进行经验重放,提供细粒度监督,与现有方法兼容并显著提升性能。
2025-05-26 cs.LG
Unsupervised Replay Strategies for Continual Learning with Limited Data
Del Norte High School(德尔诺特高中);University of California, San Diego(加利福尼亚大学圣迭戈分校)
本文研究无监督“睡眠”回放对有限且不平衡数据下持续学习的影响,发现其能缓解灾难性遗忘并提升先前任务性能,尤其在数据有限时效果显著。
2024-10-21 cs.LG
Memory Replay with Data Compression for Continual Learning
Tsinghua University(清华大学);Tsinghua-Peking Center for Life Sciences(清华-北大生命科学联合中心);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Renmin University of China(中国人民大学)
持续学习需要克服对过去的灾难性遗忘。具有代表性的旧训练样本的记忆重放已被证明是一种有效的解决方案,并达到了最先进的(SOTA)性能。然而,现有的工作主要是建立在一个小的内存缓冲区包含一些原始数据,这不能完全表征旧数据的分布。在这项工作中,我们提出了内存重放与数据压缩(MRDC),以减少旧的训练样本的存储成本,从而增加它们的量,可以存储在内存缓冲区。观察到压缩数据的质量和数量之间的权衡是非常重要的内存重放的功效,我们提出了一种新的方法,基于决定点过程(DPP),以有效地确定一个适当的压缩质量为当前到达的训练样本。以这种方式,使用具有适当选择的质量的朴素数据压缩算法可以通过在有限的存储空间中保存更多的压缩数据来大大提高最近的强基线。我们在类增量学习的几个基准测试和自动驾驶的目标检测的实际场景中广泛验证了这一点。
2022-03-09 cs.LG
MGSER-SAM: Memory-Guided Soft Experience Replay with Sharpness-Aware Optimization for Enhanced Continual Learning
Tulane University(杜兰大学);Worcester Polytechnic Institute(伍斯特理工学院)
针对持续学习中的灾难性遗忘问题,提出结合SAM优化器、软logits与记忆梯度对齐的MGSER-SAM算法,在三类场景下均优于现有基线,显著提升准确率并降低遗忘率。
2024-05-15 cs.LG
Class Incremental Continual Learning with Self-Organizing Maps and Synthetic Replay
该研究提出基于自组织映射(SOM)与合成重放的类别增量持续学习框架,在多基准数据集上性能优于无内存方法,为类别增量持续学习提供了可扩展的无标签无示例方案。
2026-08-31 cs.LG
Replay-free Online Continual Learning with Self-Supervised MultiPatches
University of Pisa(比萨大学);Computer Vision Center (CVC)(计算机视觉中心(CVC))
针对在线持续学习(OCL)中回放策略因隐私限制无法使用的问题,提出持续多补丁(CMP)插件,通过生成单样本多补丁并投影到共享特征空间避免回放,性能优于回放及其他SSL策略。
2025-02-13 cs.CV cs.LG
Beyond Endpoint Scores: Time- and Capacity-Conditioned Evaluation of Continual Knowledge Updating
Yonsei University(延世大学);Sooil Development;NCreate
该研究指出持续知识更新方法的排名受评估时间和重放适应容量共同影响,提出需报告轨迹与容量扫描以确定稳健胜者,发现周期性层次结构是更新成本更低的操作点。
2026-09-04 cs.LG
Optimizing Class Distribution in Memory for Multi-Label Online Continual Learning
Nanjing University(南京大学)
在线持续学习,特别是当任务身份和任务边界不可用时,是一种具有挑战性的持续学习设置。在线持续学习的一种典型方法是基于重放的方法,该方法通过维护一个称为记忆的重放缓冲区来保存一小部分过去的样本,以克服灾难性遗忘。在处理在线持续学习时,大多数现有的基于回放的方法都集中在单标签问题上,其中数据流中的每个样本只有一个标签。但多标签问题也可能发生在在线持续学习设置中,其中每个样本可能有一个以上的标签。在具有多标签样本的在线设置中,数据流中的类别分布通常是高度不平衡的,并且由于改变属于一个类别的样本的数量可能影响属于其他类别的样本的数量,因此控制存储器中的类别分布是具有挑战性的。但是,存储器中的类分布对于基于重放的存储器获得良好的性能至关重要,特别是当数据流中的类分布高度不平衡时。在本文中,我们提出了一个简单而有效的方法,称为优化类分布在内存(OCDM),多标签在线持续学习。OCDM将内存更新机制表述为一个优化问题,通过求解该优化问题来更新内存。在两个广泛使用的多标签数据集上的实验表明,OCDM可以很好地控制内存中的类分布,并且性能优于其他最先进的方法。
2022-09-23 cs.LG
Failure Modes of Always-On Inter-Cluster Repulsion in Replay-Based Continual Learning
Independent Researcher(独立研究者)
研究基于重放的持续学习中簇感知重放(CAR)里始终开启的簇间排斥的失效模式,结合类平衡重放记忆与排斥项,通过实验得出其负面结果,表明几何分离与重放非自动互补,激发边际门控目标。
2026-07-23 cs.LG
Adiabatic replay for continual learning
University of Applied Sciences Fulda(富尔达应用科学大学)
传统的基于重放的持续学习(CL)方法对于具有新数据的每个学习阶段需要重放代表所有先前学习的知识的样本,以便避免灾难性遗忘。由于在CL问题中学习的知识量随着时间的推移而增长,因此生成重放花费越来越多的时间重新学习已经知道的内容。在这个概念验证研究中,我们提出了一种基于重放的CL策略,我们称之为绝热重放(AR),它的效率来自于每个新学习阶段是绝热的(合理)假设,即,这只是对现有知识的一个小小的补充。每一个新的学习阶段都会触发一个采样过程,从现有的知识中选择性地重放与新数据相似的样本,而不是重放所有的样本。不需要完全重放,因为AR代表了GARCH的数据分布,GARCH只有在数据统计发生变化时才能选择性地更新其内部表示。只要加法是绝热的,则要重放的样本的量根本不需要取决于先前获取的知识的量。我们通过实验验证了AR优于使用VAE的最先进的深度生成重放。
2023-03-23 cs.AI cs.LG
SHARP: Sparsity and Hidden Activation RePlay for Neuro-Inspired Continual Learning
Georgia Institute of Technology(佐治亚理工学院);The Cyprus Institute(塞浦路斯研究所)
SHARP提出一种神经启发式持续学习方法,利用稀疏动态连接和激活回放,仅回放最近见过的少数类别即可持续更新所有层,在类别增量学习中优于现有回放方法。
2023-05-29 cs.CV cs.LG
Neuroscience-Inspired Memory Replay for Continual Learning: A Comparative Study of Predictive Coding and Backpropagation-Based Strategies
Dartmouth College(达特茅斯学院)
本文提出一种受神经科学启发的持续学习框架,通过比较预测编码与反向传播策略,展示预测编码在提升模型保留性能方面的优势。
2025-11-29 cs.AI cs.LG
On-Policy Replay for Continual Supervised Fine-Tuning
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团)
提出在策略重放(OPR)方法,通过重放模型自身生成的高质量响应来缓解持续监督微调中的灾难性遗忘,在多个大语言模型上显著降低遗忘。
2026-05-28 cs.LG
Principal Gradient Direction and Confidence Reservoir Sampling for Continual Learning
Georgia Institute of Technology(佐治亚理工学院);Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
无任务在线持续学习旨在减轻学习者在非iid数据流上的灾难性遗忘。经验重放(Experience Replay,ER)是一种SOTA持续学习方法,被广泛用作其它基于重放的方法的骨干算法。然而,ER的训练策略过于简单,不能充分利用重放的例子,其水库采样策略也是次优的。在这项工作中,我们提出了一个一般的近端梯度框架,使ER可以被视为一个特殊的情况。我们进一步提出了两个相应的改进:主梯度方向(PGD)和置信水库采样(CRS)。在主梯度方向中,我们优化了一个目标梯度,它不仅代表了过去梯度的主要贡献,而且还保留了当前梯度的新知识。然后,我们提出了信心水库采样维护一个更翔实的内存缓冲区的基础上,基于保证金的度量,衡量存储的例子的价值。实验证实了我们的改进和我们的新算法的有效性一致提高了MIR-replay,SOTA ER为基础的方法的性能:我们的算法提高了平均精度高达7.9%,并减少遗忘高达15.4%的四个数据集。
2021-08-21 cs.LG
Continual Learning as Shared-Manifold Continuation Under Compatible Shift
本文提出基于共享流形延续的持续学习方法,通过稀疏重放、输出蒸馏等技术提升旧任务保留和表示保持,同时在新任务准确率上保持竞争力。
2026-03-20 cs.LG
Prototype-Sample Relation Distillation: Towards Replay-Free Continual Learning
Concordia University(康考迪亚大学);Mila - Quebec AI Institute(米拉 - 魁北克人工智能研究所);Toyota Motor Europe(丰田汽车欧洲公司)
针对持续学习中旧任务数据不可用的问题,提出原型-样本关系蒸馏,在监督对比嵌入空间中持续演化类别原型并保持其相对相似性,实现无回放的任务与类别增量学习。
2023-06-06 cs.LG
Continual Learning with Diffusion-based Generative Replay for Industrial Streaming Data
Shien-Ming Wu School of Intelligent Engineering, South China University of Technology(华南理工大学吴贤铭智能工程学院);Pazhou Lab(琶洲实验室);China Academy of Information and Communications Technology(中国信息通信研究院)
针对工业物联网动态环境下的数据漂移及资源受限问题,提出基于蒸馏自引导的扩散生成重放持续学习方法DSG,通过知识蒸馏提升生成器稳定性与数据质量以缓解灾难性遗忘,在多个数据集上准确率较最优基线提升2.9%-5.0%。
2024-06-22 cs.LG
Integrating Curricula with Replays: Its Effects on Continual Learning
Hwa Chong Institution(华侨中学);Agency for Science, Technology, and Research(新加坡科技研究局);Nanyang Technological University(南洋理工大学)
本研究受人类课程式学习行为启发,探索课程与重放方法整合对持续学习的影响,从交错频率、重放顺序、样例选择策略三方面设计课程,有效缓解灾难性遗忘并增强正向知识迁移。
2023-07-25 cs.AI cs.CV cs.LG
Online Curvature-Aware Replay: Leveraging $\mathbf{2^{nd}}$ Order Information for Online Continual Learning
University of Pisa(比萨大学)
本文提出在线曲率感知回放(OCAR)方法,将基于回放的在线持续学习形式化为带KL约束的二阶在线联合优化,利用K-FAC近似的Fisher信息矩阵预处理梯度以稳定优化并防止遗忘,在多个基准上取得最优性能。
2025-02-03 cs.AI cs.LG
Reliable Replay through Spatial Coherence in Online Continual Learning
提出SPHERE重放分配方法,利用表示核聚合损失变化并采用熵正则化传输,在多种持续学习任务中提升准确率并减少遗忘。
2026-09-29 cs.LG stat.ML
Improving Replay Sample Selection and Storage for Less Forgetting in Continual Learning
University of Arizona(亚利桑那大学);University of Central Florida(中佛罗里达大学)
本研究通过比较多种样本选择策略并提供寻找最佳存储样本数量的详细分析,改进了持续学习中的重放样本选择与存储,以减少灾难性遗忘。
2023-08-03 cs.AI cs.LG
Learning to Continually Learn Rapidly from Few and Noisy Data
The Australian National University(澳大利亚国立大学);Monash University(莫纳什大学);CSIRO(澳大利亚联邦科学与工业研究组织);University of Turku(图尔库大学)
神经网络遭受灾难性遗忘,并且在数据分布中没有保证平稳性的情况下无法顺序地学习新任务。持续学习可以通过重放来实现--在学习新任务的同时同时训练外部存储的旧数据。然而,当每个过去的任务分配较少的内存时,重放变得不那么有效。为了克服这个困难,我们补充了重放机制与元学习快速知识获取。通过采用元学习者,即\textit{learns a learning rate per parameter per past task},我们发现,基础学习者产生强大的结果时,较少的内存可用。此外,我们的方法继承了持续学习的几个元学习优势:它表现出很强的鲁棒性,在噪声的存在下不断学习,并在较少的更新中获得更高的准确性。
2021-03-06 cs.LG
Dual-LoRA and Quality-Enhanced Pseudo Replay for Multimodal Continual Food Learning
College of Computer Science and Artificial Intelligence, Fudan University, China(复旦大学计算机科学与人工智能学院);Singapore Management University, Singapore(新加坡国立管理学院)
针对多模态食品分析大模型学习新任务时的灾难性遗忘问题,提出融合Dual-LoRA架构与质量增强伪回放的持续学习框架,在Uni-Food数据集上验证了其优异的遗忘缓解效果。
2025-11-17 cs.AI cs.LG
Batch-level Experience Replay with Review for Continual Learning
University of Toronto(多伦多大学);LG Sciencepark(LG科学园)
持续学习是深度学习的一个分支,它寻求在学习稳定性和可塑性之间取得平衡。CVPR 2020 CLVision计算机视觉持续学习挑战赛致力于使用CORe 50数据集评估和推进当前最先进的持续学习方法,并提供三种不同的持续学习场景。本文提出了我们的方法,称为批量级经验回放与审查,这一挑战。我们的团队在79个参赛团队中获得了所有三个场景的第一名。我们实现的代码库可以在https://github.com/RaptorMai/CVPR20_CLVision_challenge上公开获得
2020-07-11 cs.AI cs.CV cs.LG
Revisiting Softmax Masking: Stop Gradient for Enhancing Stability in Replay-based Continual Learning
KAIST(韩国科学技术院)
本文针对持续学习中 softmax 交叉熵诱发遗忘的问题,提出可调节新旧类别梯度尺度的通用掩码 softmax,以提升回放方法的稳定性,并在极小缓冲区下验证其性能增益。
2024-01-24 cs.AI cs.LG
Continual Learning for non-stationary regression via Memory-Efficient Replay
atlanTTic - ICLAB - Universidade de Vigo, Escola de Enxeñaría de Telecomunicación, Campus Universitario(atlanTTic - ICLAB - 维戈大学,电信工程学院,大学校区);Centro Tecnolóxico de Telecomunicacións de Galicia (GRADIANT)(加利西亚电信技术中心(GRADIANT));Facultade de Informática, Universidade de Santiago de Compostela(圣地亚哥-德孔波斯特拉大学计算机学院)
本文提出了一种基于原型的生成回放框架,用于在线任务无关的持续回归,通过自适应输出空间离散化模型减少遗忘并提高稳定性。
2026-02-10 cs.LG stat.ML
Detachedly Learn a Classifier for Class-Incremental Learning
Peking University(北京大学)
在持续学习中,模型需要在一系列任务上持续学习特征提取器和分类器。本文主要研究在持续学习环境下,如何基于预训练的特征提取器学习分类器。我们提出了一个概率分析,香草经验重放(ER)的失败来自不必要的重新学习以前的任务和无能区分当前任务从以前的,这是知识退化和预测偏差的原因。为了克服这些缺点,我们提出了一种新的重放策略任务感知的经验重放。该算法重新平衡了重放损失,并将旧任务的分类器权重从更新过程中分离出来,既保持了原有知识的完整性,又减轻了对情景记忆的过拟合。实验结果表明,我们的方法优于当前国家的最先进的方法。
2023-02-23 cs.LG
Scalable Strategies for Continual Learning with Replay
Southwest Research Institute(西南研究 institute)
针对持续学习中回放方法可扩展性差的问题,该研究将低秩适配引入持续学习,提出分阶段回放的巩固方法与适配持续学习的顺序合并方法,三者协同形成的高可扩展工具集性能优于单一方法。
2025-05-18 cs.AI cs.CV cs.LG
Teaching AI to Remember: Insights from Brain-Inspired Replay in Continual Learning
School of Computing, KAIST(计算机学院,韩国科学技术院)
针对人工神经网络持续学习中的灾难性遗忘问题,研究探究脑启发内部重放机制,发现其结合SI可显著缓解遗忘但会降低初始任务准确率,揭示了表征重叠的局限与未来研究方向。
2025-08-24 cs.AI cs.LG
Generative Feature Replay with Orthogonal Weight Modification for Continual Learning
School of Electronics Engineering and Computer Science, Peking University(北京大学电子工程与计算机科学学院)
智能代理连续学习和记住多个任务的能力对于实现人工通用智能至关重要。为了克服神经网络顺序学习过程中由于数据非独立性而导致的灾难性遗忘,人们提出了许多持续学习方法。在本文中,我们专注于类增量学习,一个具有挑战性的CL场景。对于这种情况,生成重放是一种很有前途的策略,它为以前的任务生成并重放伪数据,以减轻灾难性遗忘。然而,对于相对复杂的数据,很难连续地训练生成模型。基于最近提出的正交权重修改(OWM)算法,该算法在学习新任务时可以近似保持先前学习的特征不变,我们提出1)使用生成模型重放倒数第二层特征; 2)利用自监督辅助任务进一步增强特征的稳定性。几个数据集上的实验结果表明,我们的方法总是取得了显着的改善,而强大的OWM传统的生成重放总是导致负面影响。同时,我们的方法击败了几个强大的基线,包括一个基于真实数据存储的基线。此外,我们进行实验,研究为什么我们的方法是有效的。
2020-09-12 cs.LG stat.ML
GCR: Gradient Coreset Based Replay Buffer Selection For Continual Learning
Indian Institute of Technology (ISM) - Dhanbad(印度理工学院(印度矿业学院)丹巴德分校);University of Texas at Dallas(德克萨斯大学达拉斯分校);Google Research, India(谷歌研究院(印度))
持续学习(CL)旨在开发技术,使单个模型适应顺序遇到的越来越多的任务,从而有可能以资源高效的方式利用跨任务的学习。CL系统面临的一个主要挑战是灾难性遗忘,即在学习新任务时忘记先前的任务。为了解决这个问题,基于重放的CL方法维护并重复重新训练在遇到的任务中选择的数据的小缓冲区。我们提出了梯度Coreset重放(GCR),重放缓冲区的选择和更新,使用精心设计的优化标准的一种新的策略。具体来说,我们选择并保持一个“coreset”,接近目前为止看到的所有数据的梯度相对于当前的模型参数,并讨论其有效应用到持续学习设置所需的关键策略。我们在经过充分研究的离线持续学习设置中显示出比最先进的显着增益(绝对值2%-4%)。我们的研究结果还有效地转移到在线/流媒体CL设置,显示出比现有方法高出5%的收益。最后,我们证明了监督对比损失的价值为持续学习,这产生了高达5%的准确性,当与我们的子集选择策略相结合的累积增益。
2022-04-15 cs.AI cs.LG
Generative Negative Replay for Continual Learning
University of Bologna(博洛尼亚大学);University of Pisa(比萨大学)
持续学习是智力的一个重要方面,也是解决许多现实问题的必要能力。控制灾难性遗忘(持续学习的阿喀琉斯之踵)的最有效策略之一是存储部分旧数据,并与新经验交叉重放(也称为重放方法)。生成式重放(Generative replay)使用生成模型按需提供重放模式,特别有趣,然而,它主要在简化的假设下被证明是有效的,例如简单的场景和低维数据。在本文中,我们表明,虽然生成的数据通常不能提高旧类的分类精度,但它们可以有效地作为负例(或拮抗剂),以更好地学习新类,特别是当学习经验很小时,包含一个或几个类的例子。所提出的方法在复杂的类增量和数据增量持续学习场景(CORe 50和ImageNet-1000)上进行了验证,这些场景由高维数据和大量训练经验组成:现有的生成重放方法通常会失败。
2022-04-12 cs.CV cs.LG stat.ML
Shared and Private VAEs with Generative Replay for Continual Learning
Indian Institute of Science(印度科学研究院)
持续学习试图在不忘记以前学过的东西的情况下学习新的任务。事实上,大多数现有的人工神经网络(ANN)模型都失败了,而人类也是通过一生记住以前的作品来做到这一点。虽然简单地存储所有过去的数据可以缓解这个问题,但它需要大量的内存,并且在最后一次数据访问受限的实际应用中通常是不可行的。我们假设不断学习解决每个任务的模型具有一些特定于任务的特性和一些任务不变的特性。我们提出了一种更适合实际场景的混合持续学习模型,以解决具有任务不变的共享变分自编码器和T个任务特定的变分自编码器的问题。我们的模型结合了生成重放和架构增长,以防止灾难性遗忘。我们证明了我们的混合模型有效地避免了遗忘,并在视觉持续学习基准测试中获得了最先进的结果,如MNIST,Permuted MNIST(QMNIST),CIFAR 100和miniImageNet数据集。我们讨论了一些数据集上的结果,如SVHN,Fashion-MNIST,EMNIST和CIFAR 10。
2021-05-17 cs.CV cs.LG
Distilled Replay: Overcoming Forgetting through Synthetic Samples
University of Pisa(比萨大学);Scuola Normale Superiore(比萨高等师范学校)
重放策略是一种持续学习技术,它通过保留来自先前经验的模式缓冲区来减轻灾难性遗忘,这些模式在训练期间与新数据交织。存储在缓冲区中的模式的数量是一个关键参数,它在很大程度上影响最终的性能和该方法的内存占用。这项工作介绍了蒸馏重放,一种新的重放策略持续学习,它能够通过保持一个非常小的缓冲区(1模式每类)的高度信息化的样本,以减轻遗忘。Distilled Replay通过蒸馏过程构建缓冲区,该过程将大型数据集压缩为一组信息丰富的示例。我们展示了我们的蒸馏重放对流行的重放为基础的策略的有效性四个持续学习基准。
2021-06-22 cs.AI cs.LG
Replay Can Provably Increase Forgetting
Columbia University(哥伦比亚大学);NVIDIA(NVIDIA公司);New York University(纽约大学);Stanford University(斯坦福大学)
本文从理论和实验上证明,样本重放在持续学习中并非总能减少遗忘,在过参数化线性回归及神经网络中,重放样本选择不当或任务子空间关系不利时反而会加剧遗忘。
2025-06-04 cs.LG
MA-DAR: Manifold-Aligned Dynamic Adaptive Routing for Continual Temporal Knowledge Graph Reasoning
研究持续时间知识图谱推理中表征冲突问题,提出MA-DAR框架,通过流形对齐减轻分布差异,用动态门控机制确定融合权重,经极化正则化器鼓励果断路由行为,实验证明该框架有效提升TKG编码器性能。
2026-07-27 cs.AI cs.LG
t-DGR: A Trajectory-Based Deep Generative Replay Method for Continual Learning in Decision Making
The University of Texas at Austin(德克萨斯大学奥斯汀分校);Sony AI(索尼人工智能)
针对决策持续学习中自回归生成重放的轨迹误差累积问题,提出以轨迹时间步为条件的非自回归 t-DGR,并在 Continual World 平均成功率上达到最先进水平。
2024-06-17 cs.AI cs.LG cs.NE
Experience Replay Addresses Loss of Plasticity in Continual Learning
University of Virginia(弗吉尼亚大学)
本文提出经验回放结合Transformer可解决持续学习中深度网络的可塑性丧失问题,并在回归、分类和策略评估任务中验证了该假设。
2025-03-25 cs.AI cs.LG cs.NE