Lifelong Wandering: A realistic few-shot online continual learning setting
Georgia Institute of Technology（佐治亚理工学院）
在线少样本学习描述了一种设置，其中模型在学习新兴类的同时在数据流上进行训练和评估。虽然在此设置之前的工作已经取得了非常有前途的性能时，从一个单一的室内环境组成的数据流学习的实例分类，我们建议扩展此设置，考虑对象分类的一系列几个室内环境，这是可能发生在应用中，如机器人。重要的是，我们的设置，我们称之为在线Few-Shot持续学习，将灾难性遗忘的充分研究问题注入Few-Shot在线学习范式。在这项工作中，我们基准几个现有的方法和适应基线在我们的设置，并显示存在一个权衡之间的灾难性遗忘和在线性能。我们的发现激发了在这种环境下进行未来工作的需求，这种环境可以在没有灾难性遗忘的情况下实现更好的在线性能。
2022-06-16 cs.CV cs.LG
Online Continual Learning Via Candidates Voting
Purdue University（普渡大学）
在线场景中的持续学习旨在使用每个数据仅一次用于训练来从数据流中学习一系列新任务，这比离线模式中假设来自新任务的数据全部可用更现实。然而，对于具有挑战性的类增量设置，这个问题仍然没有得到充分的探讨，在这种设置中，模型对迄今为止在推理过程中看到的所有类进行分类。特别是，性能与任务数量的增加或为每个任务学习的额外课程有关。此外，大多数现有方法需要存储原始数据作为知识重放的样本，这对于具有有限存储器预算或隐私问题的某些应用可能是不可行的。在这项工作中，我们介绍了一种有效的和内存效率的方法在线持续学习类增量设置下，通过候选人选择从每个学习任务连同先前的合并使用存储的特征嵌入，而不是原始数据作为样本。我们提出的方法实现的图像分类任务取得了最好的结果，在不同的基准数据集在线持续学习，包括CIFAR-10，CIFAR-100和CORE-50，而需要更少的内存资源相比，现有的作品。
2021-10-17 cs.CV cs.LG
Online Distillation with Continual Learning for Cyclic Domain Shifts
KAUST（阿卜杜拉国王科技大学）
本文针对在线蒸馏在域偏移下的灾难性遗忘问题，将多种最先进持续学习方法融入师生在线蒸馏框架，并在循环域偏移场景验证其可提升鲁棒性与准确率。
2023-04-03 cs.CV cs.LG
Online Continual Learning Without the Storage Constraint
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）；Apple（苹果公司）
针对计算预算有限而非存储受限的在线持续学习场景，提出固定预训练特征提取器并持续更新kNN分类器的简单算法，在CLOC和CGLM上以更低开销取得超过20%的准确率提升。
2023-11-02 cs.CV cs.LG
Online Coreset Selection for Rehearsal-based Continual Learning
KAIST（韩国科学技术院）；New York University（纽约大学）；AITRICS
数据集是描述一项任务的关键证据。然而，数据集中的每个数据点并不具有相同的潜力，因为一些数据点可能比其他数据点更具代表性或信息性。数据点之间的这种不平等的重要性可能会对基于排练的持续学习产生很大的影响，在这种情况下，我们存储训练样本的子集（coreset），以便稍后重播，以减轻灾难性遗忘。在持续学习中，核心集存储样本的质量直接影响模型的有效性和效率。核心集的选择问题变得更加重要的现实设置下，如不平衡的持续学习或嘈杂的数据场景。为了解决这个问题，我们提出了在线Coreset选择（OCS），一个简单而有效的方法，选择最具代表性和信息coreset在每次迭代和培训他们在网上的方式。我们提出的方法最大限度地提高了模型对当前数据集的适应性，同时选择了与过去任务具有高亲和力的样本，这直接抑制了灾难性遗忘。我们验证了我们的coreset选择机制的有效性，在各种标准的，不平衡的，和嘈杂的数据集对强大的持续学习基线，表明它提高了任务的适应性，并防止灾难性遗忘的样本效率的方式。
2022-03-18 cs.CV cs.LG
Selecting Related Knowledge via Efficient Channel Attention for Online Continual Learning
China University of Petroleum（中国石油大学）
持续学习的目标是通过在线学习的方式利用过去获得的知识学习一系列任务，同时能够很好地执行所有先前的任务，这种能力对于人工智能（AI）系统至关重要，因此与传统学习模式相比，持续学习更适合于大多数现实和复杂的应用场景。然而，目前的模型通常学习一个通用的表示的基础上的类标签的每一个任务，并选择一个有效的策略，以避免灾难性遗忘。我们假设，选择相关的和有用的部分，只从所获得的知识来执行每一个任务是更有效的比利用整个知识。基于这一事实，在本文中，我们提出了一个新的框架，命名为选择相关的知识在线持续学习（SRKOCL），它结合了一个额外的有效的通道注意力机制，以挑选特定的相关知识的每一个任务。我们的模型还结合了经验重放和知识蒸馏来规避灾难性遗忘。最后，在不同的基准上进行了大量的实验，具有竞争力的实验结果表明，我们提出的SRKOCL是一个有前途的方法对国家的最先进的。
2022-09-09 cs.CV cs.LG
Online Continual Learning under Extreme Memory Constraints
University of Trento（特伦托大学）；SAP AI Research（SAP人工智能研究院）；LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信LTCI实验室）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
持续学习（CL）旨在开发能够模仿人类顺序学习新任务的能力的智能体，同时能够保留从过去经验中获得的知识。在本文中，我们介绍了新的问题的内存约束在线持续学习（MC-OCL），它对内存开销施加了严格的限制，一个可能的算法可以用来避免灾难性遗忘。由于大多数（如果不是全部）以前的CL方法违反了这些约束，我们提出了MC-OCL的算法解决方案：批量级蒸馏（BLD），这是一种基于正则化的CL方法，它有效地平衡了稳定性和可塑性，以便从数据流中学习，同时保留了通过蒸馏解决旧任务的能力。我们广泛的实验评估，进行了三个公开的基准，经验表明，我们的方法成功地解决了MC-OCL问题，并实现了相当的准确性，需要更高的内存开销之前的蒸馏方法。
2022-01-12 cs.CV cs.LG
Replay-free Online Continual Learning with Self-Supervised MultiPatches
University of Pisa（比萨大学）；Computer Vision Center (CVC)（计算机视觉中心（CVC））
针对在线持续学习（OCL）中回放策略因隐私限制无法使用的问题，提出持续多补丁（CMP）插件，通过生成单样本多补丁并投影到共享特征空间避免回放，性能优于回放及其他SSL策略。
2025-02-13 cs.CV cs.LG
Rehearsal-free and Task-free Online Continual Learning With Contrastive Prompt
RMIT University（皇家墨尔本理工大学）；Machine Intelligence Center（人工智能中心）
针对在线持续学习的灾难性遗忘难题，提出无排练无任务的F2OCL方法，结合提示学习与NCM分类器，在无需存储样本和任务信息的情况下实现有效学习，经双基准实验验证效果。
2025-10-01 cs.CV cs.LG
New Insights for the Stability-Plasticity Dilemma in Online Continual Learning
Seoul National University（首尔大学）；DeepBrain AI Inc.（深脑人工智能公司）；Ewha Womans University（梨花女子大学）
持续学习的目的是不断地学习新的任务（即，可塑性）而不会忘记先前从旧任务中学习的知识（即，稳定性）。在在线持续学习的场景中，其中数据严格地以流的方式来，在线持续学习的可塑性比离线持续学习更脆弱，因为可以从单个数据点获得的训练信号是有限的。为了克服在线持续学习的稳定性和可塑性的困境，我们提出了一个在线持续学习框架命名为多尺度特征自适应网络（MuFAN），利用更丰富的上下文编码提取从不同级别的预训练网络。此外，我们引入了一种新的结构方面的蒸馏损失，并取代常用的批量归一化层与新提出的稳定性塑性归一化模块训练MuFAN，同时保持高的可塑性和稳定性。MuFAN在SVHN、CIFAR 100、miniImageNet和CORe 50数据集上的表现优于其他最先进的持续学习方法。广泛的实验和消融研究验证了每个组件的重要性和可扩展性：1）来自预训练编码器的多尺度特征图，2）结构方面的蒸馏损失，以及3）MuFAN中的稳定性-可塑性归一化模块。代码可在https://github.com/whitesnowdrop/MuFAN上公开获取。
2023-02-17 cs.AI cs.CV cs.LG
Online-LoRA: Task-free Online Continual Learning via Low Rank Adaptation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；AMD（超威半导体公司）
本文提出Online-LoRA，一种基于低秩适应和在线权重正则化的无任务在线持续学习框架，通过实时微调预训练ViT模型并自动识别数据分布偏移，在多个基准数据集上超越现有方法。
2024-11-08 cs.CV cs.LG
CLVOS23: A Long Video Object Segmentation Dataset for Continual Learning
University of Waterloo（滑铁卢大学）
本文首次将半监督在线视频目标分割（VOS）形式化为持续学习问题，提出CLVOS23长视频数据集，并在LWL基线上实现基于正则化的持续学习方法，验证了其有效性。
2023-04-09 cs.CV cs.LG
Contrastive Learning for Online Semi-Supervised General Continual Learning
Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；LIGM（马恩拉瓦莱信息与数学实验室）
我们研究在线持续学习与缺失标签，并提出SemiCon，一个新的对比损失设计的部分标记的数据。我们通过设计一种基于内存的方法来证明其效率，该方法在未标记的数据流上进行训练，其中添加到内存中的每个数据都使用Oracle进行标记。当可用标签很少时，我们的方法优于现有的半监督方法，并且在Split-CIFAR 10上仅使用2.6%的标签和Split-CIFAR 100上仅使用10%的标签的情况下，获得与最先进的监督方法相似的结果。
2022-11-22 cs.AI cs.CV cs.LG
Feature-based Graph Attention Networks Improve Online Continual Learning
NVIDIA（英伟达）；Singapore Institute of Technology（新加坡理工学院）
针对图像分类在线持续学习中传统CNN和Transformer的局限，提出基于图注意力网络（GATs）的框架，结合分层特征图转图、增强全局池化及排练记忆复制技术，在多基准数据集上性能优于现有方法。
2025-02-13 cs.CV cs.LG
Self-Supervised Training Enhances Online Continual Learning
Rochester Institute of Technology（罗切斯特理工学院）；Paige；Cornell Tech（康奈尔科技学院）
在持续学习中，系统必须从非平稳数据流中增量学习，而不会发生灾难性遗忘。最近，已经设计了多种方法用于在大规模图像分类任务（例如ImageNet）上增量学习类。最先进的持续学习方法使用初始监督预训练阶段，其中在新类的持续学习开始之前，数据集中的前10% - 50%的类用于以离线方式学习表示。我们假设自监督预训练可以产生比监督学习更好的泛化特征，特别是当用于预训练的样本数量很小时。我们使用自监督MoCo-V2、Barlow Twins和SwAV算法来测试这一假设。在ImageNet上，我们发现这些方法在在线持续学习中的表现大大优于监督预训练，并且当可用样本较少时，增益更大。我们的发现在三种在线持续学习算法中是一致的。我们最好的系统实现了14.95%的相对增加，在类增量ImageNet的前1名的准确性比现有技术的在线持续学习。
2021-10-22 cs.CV
Learning Equi-angular Representations for Online Continual Learning
Yonsei Univ.（延世大学）；LG AI Research（LG人工智能研究院）；Sungkyunkwan Univ.（成均馆大学）；Zhejiang Lab（浙江实验室）；Seoul National Univ.（首尔大学）
本文针对在线持续学习中单轮训练导致的欠拟合问题，提出利用神经坍缩形成单纯形等角紧框架结构，并通过预备数据训练与表示空间残差校正提升模型对流式数据的拟合能力，在多个数据集上显著超越现有方法。
2024-04-02 cs.AI cs.CV cs.LG
Online Continual Learning via the Meta-learning Update with Multi-scale Knowledge Distillation and Data Augmentation
China University of Petroleum Beijing (CUP)（中国石油大学（北京））
持续学习的目的是从一系列任务中快速、持续地学习当前任务。与其他方法相比，基于经验回放的方法在克服灾难性遗忘方面显示出了巨大的优势。这种方法的一个常见局限性是先前任务和当前任务之间的数据不平衡，这将进一步加剧遗忘。此外，如何有效地解决这种情况下的稳定性-塑性困境也是一个亟待解决的问题。在本文中，我们克服了这些挑战，提出了一种新的框架称为元学习更新通过多尺度知识蒸馏和数据增强（MMKDDA）。具体而言，我们应用多尺度知识蒸馏，以掌握在不同的功能级别的远程和短程的空间关系的演变，以缓解数据不平衡的问题。此外，该方法将情景记忆和当前任务的样本混合在一起进行在线连续训练，从而减轻了概率分布变化带来的负面影响。此外，我们通过元学习更新来优化我们的模型，这有助于在稳定性和可塑性之间保持更好的平衡。最后，我们在四个基准数据集上的实验评估显示了所提出的MMKDDA框架对其他流行基线的有效性，并且还进行了消融研究以进一步分析我们框架中每个组件的作用。
2022-09-12 cs.CV cs.LG
Online Class-Incremental Continual Learning with Adversarial Shapley Value
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
随着基于图像的深度学习在从手机到智能手表的每一种设备上变得普遍，越来越需要开发不断从数据中学习的方法，同时最大限度地减少内存占用和功耗。虽然记忆回放技术已经显示出对于这种持续学习任务的特殊承诺，但是选择回放哪些缓冲图像的最佳方法仍然是一个悬而未决的问题。在本文中，我们特别关注在线类增量设置，其中模型需要从在线数据流中不断学习新类。为此，我们贡献了一种新的对抗Shapley值评分方法，该方法根据记忆数据样本保留先前观察到的类的潜在决策边界的能力（以保持学习稳定性并避免遗忘），同时干扰正在学习的当前类的潜在决策边界（以鼓励新类边界的可塑性和最佳学习）。总的来说，我们观察到，我们提出的ASER方法提供了竞争力或改进的性能相比，国家的最先进的重放为基础的持续学习方法在各种数据集。
2021-03-22 cs.CV cs.LG stat.ML
Online Continual Learning with Contrastive Vision Transformer
The University of Sydney（悉尼大学）
在线连续学习（Online Continuous Learning，CL）研究从无任务边界的在线数据流中学习顺序任务的问题，旨在适应新数据的同时减轻对过去任务的灾难性遗忘。本文提出了一个框架对比视觉Transformer（CVT），它设计了一个基于Transformer架构的焦点对比学习策略，以实现在线CL的更好的稳定性和可塑性权衡。具体而言，我们设计了一个新的外部注意力机制在线CL隐式捕获以前的任务的信息。此外，CVT包含每个类的可学习焦点，可以积累以前课程的知识，以减少遗忘。基于可学习的焦点，我们设计了一个焦点对比损失，以重新平衡新类和旧类之间的对比学习，并巩固以前学习的表征。此外，CVT包含一个双分类器结构，用于解耦学习当前类和平衡所有观察到的类。大量的实验结果表明，我们的方法实现了最先进的性能，甚至更少的参数在线CL基准，并有效地消除了灾难性遗忘。
2022-07-24 cs.AI cs.CV cs.LG
Online Continual Learning in Image Classification: An Empirical Survey
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
图像分类的在线持续学习研究从在线数据流和任务中学习分类图像的问题，其中任务可能包括新的类（类增量）或数据非平稳性（域增量）。持续学习的关键挑战之一是避免灾难性遗忘（CF），即，在最近的任务面前忘记旧的任务。在过去的几年里，许多方法和技巧被引入来解决这个问题，但许多都没有在各种现实和实际的环境下进行公平和系统的比较。为了更好地了解各种方法的相对优势以及它们最有效的设置，本调查旨在（1）比较最先进的方法，如MIR，iCARL和GDumb，并确定哪种方法在不同的实验设置下效果最好;（2）确定最好的类增量方法是否在域增量设置中也具有竞争力;（3）评价“回顾”技巧和最近类均值（NCM）分类器等7种简单但有效的技巧的性能，以评估它们的相对影响。关于（1），我们观察到iCaRL在内存缓冲区较小时仍然具有竞争力; GDumb在中等大小的数据集中优于许多最近提出的方法，而MIR在较大规模的数据集中表现最好。对于（2），我们注意到GDumb的表现相当差，而MIR -已经在（1）中具有竞争力-在这个非常不同但重要的环境中也具有很强的竞争力。总的来说，这使我们可以得出结论，MIR总体上是一种强大而通用的方法，适用于各种环境。对于（3），我们发现所有7个技巧都是有益的，当使用“审查”技巧和NCM分类器时，MIR产生的性能水平使在线持续学习更接近其匹配离线训练的最终目标。
2021-10-04 cs.CV cs.LG
Continual Learning in Human Activity Recognition: an Empirical Analysis of Regularization
University of St Andrews（圣安德鲁斯大学）
考虑到专注于计算机视觉领域的深度神经网络的持续学习技术的增长趋势，需要确定这些技术中的哪一个可以很好地推广到其他任务，如人类活动识别（HAR）。由于最近的方法主要由丢失正则化项和记忆重放组成，因此我们对HAR数据集上使用这些技术的一些突出的任务增量学习技术进行了成分分析。我们发现，大多数正则化方法缺乏实质性的效果，并提供了一个直觉，当他们失败。因此，我们的情况下，持续学习算法的发展应该是由相当不同的任务域的动机。
2020-07-06 cs.CV cs.LG
Empirical Evidences for the Effects of Feature Diversity in Open Set Recognition and Continual Learning
TU Berlin（柏林技术大学）
本文通过实验证明增强特征多样性既能提升开放集样本识别能力，又能促进持续学习中旧知识保留与新数据整合，为相关方法设计提供依据。
2025-08-18 cs.CV cs.LG
Online Learned Continual Compression with Adaptive Quantization Modules
McGill（麦吉尔大学）；Mila（米拉研究所）；Facebook AI Research（Facebook人工智能研究院）；University of Montreal（蒙特利尔大学）；ElementAI（ElementAI公司）
我们介绍和研究的问题，在线连续压缩，其中一个试图同时学习压缩和存储一个代表性的数据集从一个非i.i.d数据流，而每个样本只观察一次。在这种情况下，自动编码器的天真应用遇到了一个主要挑战：从早期编码器状态导出的表示必须可用于后期解码器状态。我们展示了如何使用离散自动编码器来有效地解决这一挑战，并引入自适应量化模块（AQM）来控制模块在任何给定学习阶段的压缩能力变化。这使得能够为传入样本选择适当的压缩，同时考虑整体存储器约束和学习压缩的当前进度。与以前的方法不同，我们的方法不需要任何预训练，即使是在具有挑战性的数据集上。我们发现，使用主动质量管理，以取代标准的情景记忆在持续学习设置导致显着收益的持续学习基准。此外，我们用更大的图像，LiDAR和强化学习环境演示了这种方法。
2020-08-20 cs.CV cs.LG stat.ML
Natural Gradient Descent for Online Continual Learning
Ecole Polytechnique & Télécom Paris（巴黎高等理工学院与电信巴黎学院）；Sony Computer Science Laboratories（索尼计算机科学实验室）
本文提出利用自然梯度下降优化器和FIM近似方法改进在线持续学习性能，尤其在Split CIFAR-100等数据集上表现突出。
2026-03-21 cs.AI cs.CV cs.LG
Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries
NAVER CLOVA；NAVER AI Lab（NAVER人工智能实验室）；GIST（光州科学技术院）；Seoul National University（首尔国立大学）；Yonsei University（延世大学）
在具有不正确标签的连续变化的数据分布下学习是一个理想的现实世界问题，但具有挑战性。然而，大量的持续学习（CL）方法假设数据流具有干净的标签，并且在有噪声的数据流下的在线学习场景尚未被充分探索。我们考虑一个更实际的CL任务设置的在线学习从模糊的数据流与损坏的标签，现有的CL方法的斗争。为了解决这个问题，我们首先讨论了持续学习模型中情景记忆中样例的多样性和纯度的重要性。为了平衡情景记忆的多样性和纯度，我们提出了一种新的策略来管理和使用记忆的标签噪声感知不同的采样和鲁棒学习与半监督学习的统一方法。我们对四个真实世界或合成噪声数据集（CIFAR 10和100，mini-WebVision和Food-101 N）的经验验证表明，我们的方法在这种现实和具有挑战性的持续学习场景中显着优于现有技术。代码和数据分割可以在https://github.com/clovaai/puridiver上找到。
2022-03-30 cs.AI cs.CV cs.LG
Are Current Continual Learning Methods Truly Agnostic? Introducing OPRE, a Step Toward Agnostic Continual Learning
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Univ. Savoie Mont Blanc（萨瓦大学勃朗峰分校）；CNRS（法国国家科学研究中心）；U. de Bourgogne Europe（勃艮第欧洲大学）
研究持续学习中灾难性遗忘问题，指出多数方法有先验信息非不可知。提出在线补丁冗余消除器OPRE，通过输入空间标准丢弃信息，在CIFAR 10和CIFAR - 100上性能良好，优于GDumb，为持续学习提供新视角。
2026-07-10 cs.CV cs.LG
Task-Free Continual Learning via Online Discrepancy Distance Learning
University of York（约克大学）
从非平稳数据流中学习，也称为无任务持续学习（TFCL），由于缺乏明确的任务信息，仍然具有挑战性。虽然最近已经提出了一些方法，TFCL，他们缺乏理论保证。此外，在TFCL的遗忘分析，以前没有从理论上研究。本文提出了一种新的理论分析框架，该框架基于访问样本与可用于训练模型的全部信息之间的差异距离提供泛化界限。这种分析为分类任务中的遗忘行为提供了新的见解。受此理论模型的启发，我们提出了一种新的方法，即在线离散远程学习（ODDL）的混合模型的动态组件扩展机制。ODDL估计当前存储器缓冲区的概率表示与已经积累的知识之间的差异，并将其用作扩展信号，以确保具有最佳性能的紧凑网络架构。然后，我们提出了一种新的样本选择方法，选择性地存储到内存缓冲区中的最相关的样本，通过基于差异的措施，进一步提高性能。我们进行了几个TFCL实验与所提出的方法，这表明，所提出的方法达到了最先进的性能。
2022-10-12 cs.CV cs.LG
SIESTA: Efficient Online Continual Learning with Sleep
Rochester Institute of Technology（罗切斯特理工学院）；United States Space Force（美国太空军）；University of Rochester（罗切斯特大学）
本文提出基于 wake/sleep 框架的 SIESTA 持续学习方法，通过无重放、无反向传播的在线更新与睡眠阶段受限重放巩固，在单 GPU 上 2 小时内完成 ImageNet-1K 学习并达到离线性能。
2023-11-02 cs.CV cs.LG
I2CANSAY:Inter-Class Analogical Augmentation and Intra-Class Significance Analysis for Non-Exemplar Online Task-Free Continual Learning
Xi’an Jiaotong University（西安交通大学）；Nanyang Technological University（南洋理工大学）
针对在线无任务持续学习中记忆缓冲区带来的隐私与效率问题，提出 I2CANSAY，通过类间伪特征增强和类内显著性校正实现无缓冲区单次学习，并在四个图像数据集上显著超越现有方法。
2024-04-21 cs.CV cs.LG
Selective Replay Enhances Learning in Online Continual Analogical Reasoning
Rochester Institute of Technology（罗切斯特理工学院）；Paige；Cornell Tech（康奈尔科技学院）
在持续学习中，系统从非平稳数据流或批次中学习，而不会发生灾难性遗忘。虽然这个问题已经在监督图像分类和强化学习中得到了大量的研究，但为抽象推理而设计的神经网络中的持续学习还没有被研究。在这里，我们研究类比推理的持续学习。类比推理测试，如乌鸦的渐进矩阵（RPM）通常用于衡量人类的非语言抽象推理，最近离线神经网络的RPM问题已经提出。在本文中，我们建立了实验基线，协议，和向前和向后传输指标，以评估持续学习者的RPM。我们使用经验回放来减轻灾难性遗忘。使用重放用于图像分类任务的先前工作已经发现，选择性地选择要重放的样本提供的益处（如果有的话）比随机选择少得多。相比之下，我们发现，选择性重放可以显着优于随机选择的RPM任务。
2021-04-19 cs.AI cs.CV cs.LG
Online Continual Learning on Sequences
ContinualAI Research（ContinualAI研究院）；University of Hamburg（汉堡大学）；University of Bologna（博洛尼亚大学）
在线持续学习（OCL）是指系统能够随着时间的推移从连续的数据流中学习，而不必重新访问以前遇到的训练样本。在单一数据传递中持续学习对于在不断变化的环境中运行的智能体和机器人至关重要，并且需要从非i.i.d.获取，微调和传输越来越复杂的表示。输入分布解决OCL的机器学习模型必须缓解\textit{catastrophic forgetting}，其中隐藏的表示在从新输入流中学习时被破坏或完全覆盖。在本章中，我们总结并讨论了最近的深度学习模型，这些模型通过使用（和组合）突触正则化、结构可塑性和经验重放来解决顺序输入上的OCL。已经提出了不同的重放实现，通过输入序列（的潜在表征）的重现来减轻连接主义架构中的灾难性遗忘，并且在功能上类似于哺乳动物大脑中海马重放的机制。经验证据表明，具有经验重放的架构通常优于没有（在线）增量学习任务的架构。
2020-03-20 cs.CV cs.LG cs.NE
Patch-Based Contrastive Learning and Memory Consolidation for Online Unsupervised Continual Learning
Georgia Institute of Technology（佐治亚理工学院）；CYENS Centre of Excellence（CYENS卓越中心）；The Cyprus Institute（塞浦路斯研究所）
本文提出在线无监督持续学习范式O-UCL及方法PCMC，通过补丁级对比学习提取特征并聚类构建组合理解，在睡眠期巩固记忆以避免灾难性遗忘，在ImageNet和Places365数据流上表现优异。
2024-09-24 cs.CV cs.LG
DELTA: Decoupling Long-Tailed Online Continual Learning
School of Electrical and Computer Engineering, Purdue University（普渡大学电气与计算机工程学院）
针对长尾在线持续学习中的类别不平衡与灾难性遗忘问题，提出解耦方法 DELTA，结合监督对比学习与均衡损失平衡梯度，显著提升增量学习性能并超越现有 OCL 方法。
2024-04-06 cs.CV cs.LG
Dealing with Synthetic Data Contamination in Online Continual Learning
The University of Tokyo（东京大学）；Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；LIGM（LIGM实验室）
本文研究合成数据污染对在线持续学习的影响，提出ESRM方法，通过熵选择和真实-合成相似性最大化来缓解合成图像导致的性能下降，实验证明其在严重污染下效果显著。
2024-11-21 cs.CV cs.LG
Continual Variational Autoencoder Learning via Online Cooperative Memorization
University of York（约克大学）
变分自编码器（VAE）由于其推理、数据表示和重构特性，已成功地应用于持续学习分类任务中。然而，他们的能力，以产生相应的类和数据库在持续学习（CL）学习规范的图像还没有得到很好的理解和灾难性遗忘仍然是一个重大的挑战。在本文中，我们首先分析了遗忘行为的VAE制定一个新的理论框架，制定CL作为一个动态的最优运输问题。该框架在不需要任务信息的情况下证明了数据可能性的近似界限，并解释了先验知识在训练过程中如何丢失。然后，我们提出了一种新的内存缓冲的方法，即在线协同建模（OCM）框架，它包括一个短期记忆（STM），不断存储最近的样本，为模型提供未来的信息，和一个长期记忆（LTM），旨在保持广泛的多样性的样本。OCM根据信息多样性选择准则，在不需要任何监督信号的情况下，将特定样本从STM转移到LTM。然后，OCM框架与动态VAE扩展混合网络相结合，以进一步提高其性能。
2022-07-20 cs.AI cs.CV cs.LG
Dealing with Cross-Task Class Discrimination in Online Continual Learning
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；BIGAI（北京通用人工智能研究院）
本文指出了类增量学习中的跨任务类判别（CTCD）挑战，并发现回放方法存在动态训练偏差问题，为此提出了一种基于梯度的自适应优化目标，在在线持续学习中动态解决该问题并取得更优效果。
2023-05-24 cs.CV cs.LG
Online Continual Learning via Spiking Neural Networks with Sleep Enhanced Latent Replay
针对边缘计算中在线持续学习的高内存开销和类别偏差问题，提出SESLR方法，结合脉冲神经网络与睡眠增强潜在重放，显著降低内存并提升准确率。
2025-10-16 cs.CV cs.LG cs.NE
Supervised Contrastive Replay: Revisiting the Nearest Class Mean Classifier in Online Class-Incremental Continual Learning
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
在线类增量持续学习（CL）研究从在线非平稳数据流中持续学习新类的问题，旨在适应新数据的同时减轻灾难性遗忘。虽然记忆回放已经显示出有希望的结果，但由常用的Softmax分类器引起的在线学习中的近因偏差仍然是一个未解决的挑战。虽然最近类均值（NCM）分类器在CL社区中被严重低估，但我们证明了它是Softmax分类器的简单而有效的替代品。它解决了近因偏差，并避免了新类的全连接层的结构变化。此外，我们观察到相当大的和一致的性能增益时，用NCM分类器替换Softmax分类器的几个国家的最先进的重放方法。为了更有效地利用NCM分类器，属于同一类的数据嵌入应该被聚类，并与具有不同类标签的数据嵌入很好地分离。为此，我们贡献了监督对比重放（SCR），它明确鼓励来自同一类的样本在嵌入空间中紧密聚类，同时在基于重放的训练过程中将不同类的样本进一步分开。总的来说，我们观察到，我们提出的SCR大大减少了灾难性遗忘，并在各种数据集上显著优于最先进的CL方法。
2021-09-15 cs.AI cs.CV cs.LG
Sample Condensation in Online Continual Learning
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学院）
在线持续学习是一个具有挑战性的学习场景，模型必须从非平稳的数据流中学习，其中每个样本只看到一次。主要的挑战是在增量学习的同时避免灾难性遗忘，即在从新数据学习的同时忘记先前获得的知识的问题。在这些情况下，一个流行的解决方案是使用一个小内存来保留旧数据，并随着时间的推移排练它们。不幸的是，由于内存大小有限，内存的质量会随着时间的推移而恶化。在本文中，我们提出了OLCGM，一种新的重放为基础的持续学习策略，使用知识浓缩技术，不断压缩内存，实现更好地利用其有限的大小。样本压缩步骤压缩旧样本，而不是像其他重放策略那样删除它们。因此，实验表明，只要内存预算与数据的复杂性相比是有限的，OLCGM与最先进的重放策略相比，提高了最终的准确性。
2022-06-23 cs.AI cs.CV cs.LG
Exemplar-free Online Continual Learning
Purdue University（普渡大学）
在线持续学习是一种面向现实世界的学习方法，其目标是在学习者只观察一次数据的情况下，从连续可用的数据中学习新的任务。虽然最近的工作已经取得了显着的成就，通过存储部分学习任务数据作为知识重放的样本，性能很大程度上依赖于存储的样本的大小，而存储消耗是一个显着的限制在持续学习。此外，由于隐私问题，存储样本对于某些应用程序可能并不总是可行的。在这项工作中，我们提出了一种新的无样本方法，利用最近类均值（NCM）分类器，其中类均值是在训练阶段通过在线均值更新标准对迄今为止看到的所有数据进行估计的。我们专注于图像分类任务，并在基准数据集（包括CIFAR-100和Food-1 k）上进行了广泛的实验。结果表明，我们的方法，而不使用任何样本优于国家的最先进的基于样本的方法，在标准协议（每类20个样本）下具有较大的利润率，即使样本大小较大（每类100个样本），也能够实现有竞争力的性能。
2022-02-11 cs.CV
Online Continual Learning For Visual Food Classification
Purdue University（普渡大学）
食物图像分类对于现实世界的应用是具有挑战性的，因为现有的方法需要静态数据集进行训练，并且不能从顺序可用的新食物图像中学习。在线持续学习的目的是通过使用每个新数据一次而不忘记先前学习的知识来从数据流中学习新的类。然而，现有的作品都没有针对食物图像分析，这是更难以学习的增量，由于其高类内变化与未来的食物类分布的不平衡和不可预测的特性。在本文中，我们通过引入（1）一种新的基于聚类的样本选择算法来解决这些问题，该算法存储属于每个学习食物的最具代表性的数据以进行知识重放，以及（2）一种有效的在线学习制度，该制度使用平衡的训练批次以及对增强样本的知识蒸馏来保持所有学习类的模型性能。我们的方法进行了评估具有挑战性的大型食品图像数据库，食品-1K，通过改变新添加的食品类的数量。我们的研究结果表明，与现有的最先进的在线持续学习方法相比，显着的改善，显示出巨大的潜力，实现终身学习的食品图像分类在现实世界中。
2021-08-15 cs.CV
ACAE-REMIND for Online Continual Learning with Compressed Feature Replay
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）
在线持续学习旨在从来自许多不同任务的非IID数据流中学习，其中学习者仅允许考虑一次数据。方法通常允许使用有限的缓冲区来存储流中的一些图像。最近，发现特征重放（其中存储（或生成）图像的中间层表示）导致比图像重放更好的结果，同时需要更少的存储器。量化样本可以进一步减少内存使用。然而，这些方法的缺点是它们使用固定的（或非常不妥协的）骨干网络。这极大地限制了能够区分所有任务的表征的学习。为了解决这个问题，我们提出了一个辅助分类器自动编码器（ACAE）模块的特征重放在中间层具有高压缩率。减少每个图像的内存占用使我们能够保存更多的样本进行回放。在我们的实验中，我们在在线持续学习设置下进行了与任务无关的评估，并在ImageNet-Subset、CIFAR 100和CIFAR 10数据集上获得了最先进的性能。
2021-07-08 cs.CV
Density Distribution-based Learning Framework for Addressing Online Continual Learning Challenges
North China University of Technology（北方工业大学）
本文提出一种基于密度分布的学习框架，通过为每个任务构建独立的生成核密度估计模型来解决在线持续学习中的灾难性遗忘与高计算成本问题，在保持时空效率的同时显著提升了准确率。
2023-11-22 cs.CV cs.LG
Real-Time Evaluation in Online Continual Learning: A New Hope
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学（KAUST））；University of Oxford（牛津大学）
当前对持续学习（CL）方法的评估通常假设对训练时间和计算没有约束。对于任何现实世界的设置来说，这都是一个不切实际的假设，这促使我们提出：对持续学习进行实用实时的【形】评估，其中流在揭示下一个预测数据之前不会等待模型完成训练。要做到这一点，我们评估当前CL方法的计算成本。我们在CLOC上进行了广泛的实验，CLOC是一个包含3900万个带有地理位置标签的时间戳图像的大规模数据集。我们表明，一个简单的基线优于国家的最先进的CL方法在此评估，质疑现有方法在现实环境中的适用性。此外，我们还探讨了文献中常用的各种CL组件，包括内存采样策略和正则化方法。我们发现，所有考虑的方法都无法与我们的简单基线竞争。这令人惊讶地表明，大多数现有的CL文献是针对特定类别的流，这是不实际的。我们希望，我们提供的评估将是第一步的范式转变，考虑在线持续学习方法的发展中的计算成本。
2023-03-24 cs.AI cs.CV cs.LG
Rapid Adaptation in Online Continual Learning: Are We Evaluating It Right?
KAUST（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）；Meta AI
本文指出在线准确率指标因虚假标签相关性而不可靠，提出基于近未来样本准确率的新指标，发现保留和重用历史信息能实现更好的泛化。
2023-05-16 cs.AI cs.CV cs.LG
Online Continual Learning via the Knowledge Invariant and Spread-out Properties
China University of Petroleum Beijing（中国石油大学（北京））；College of Information Science and Engineering（信息科学与工程学院）
持续学习的目标是提供能够使用从先前任务获得的知识持续学习任务序列的智能代理，同时在先前任务上表现良好。然而，这种持续学习范式的一个关键挑战是灾难性遗忘，即使模型适应新任务通常会导致先前任务的严重性能下降。当前基于记忆的方法显示出它们在减轻灾难性遗忘问题上的成功，这是通过在学习新任务时重放过去任务中的例子来实现的。然而，这些方法对于从先前任务转移结构知识是不可行的，即，不同实例之间的相似性或不相似性。此外，当前任务和先前任务之间的学习偏差也是一个亟待解决的问题。在这项工作中，我们提出了一种新的方法，命名为在线持续学习通过知识不变和排除属性（OCLKISP），其中我们通过知识不变和排除属性（KISP）约束嵌入功能的演变。因此，我们可以进一步转移先前任务的实例间结构知识，同时减轻由于学习偏差而导致的遗忘。我们经验评估我们提出的方法在四个流行的基准持续学习：分裂CIFAR 100，分裂SVHN，分裂CUB 200和分裂Tiny-Image-Net。实验结果表明，我们提出的方法相比，国家的最先进的持续学习算法的有效性。
2023-02-02 cs.CV
Orchestrate Latent Expertise: Advancing Online Continual Learning with Multi-Level Supervision and Reverse Self-Distillation
Tsinghua University（清华大学）
针对在线持续学习中回放缓冲区导致的过拟合与欠拟合困境，提出多级在线顺序专家MOSE，通过多级监督与逆向自蒸馏提升新样本学习与旧知识保留能力。
2024-03-30 cs.AI cs.CV cs.LG
Gradient based sample selection for online continual learning
KU Leuven（鲁汶大学）；Mila（米拉研究所）
一个持续学习的智能体通过非固定的、永无止境的数据流在线学习。这种学习过程的关键是克服对先前看到的数据的灾难性遗忘，这是神经网络的一个众所周知的问题。为了防止遗忘，通常采用重放缓冲器来存储先前的数据以用于排练。以往的工作往往依赖于任务边界和独立同分布。假设以适当地选择用于重放缓冲器的样本。在这项工作中，我们制定样本选择作为一个约束减少问题的基础上的约束优化观点的持续学习。我们的目标是选择一个固定的子集的约束，最好的近似的可行域定义的原始约束。我们表明，它相当于最大化的多样性的样本在重放缓冲区与参数梯度的功能。我们进一步开发了一个贪婪的替代品，是廉价和有效的。在持续学习环境下，通过与其他方法的比较，证明了该方法的优越性。进一步的比较，对国家的最先进的方法，依赖于任务边界，显示可比的，甚至更好的结果，我们的方法。
2019-10-31 cs.AI cs.CV cs.LG
PROL : Rehearsal Free Continual Learning in Streaming Data via Prompt Online Learning
STEM University of South Australia（南澳大利亚STEM大学）；Institute for Infocomm Research, A*STAR & IPAL（信息与通信研究所，A*STAR及IPAL）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文提出PROL方法，通过轻量级提示生成器、可训练缩放移位器、PTM泛化保持和硬-软更新机制，在流数据在线持续学习中实现免排练并超越现有SOTA性能。
2025-07-16 cs.AI cs.CV cs.LG
Continual Prototype Evolution: Learning Online from Non-Stationary Data Streams
KU Leuven（鲁汶大学）
在表示学习中，获得代表类分布的原型特征是很好的。然而，从流数据在线学习原型证明了一项具有挑战性的工作，因为它们很快就会过时，这是由学习过程中不断变化的参数空间引起的。此外，持续学习并不假设数据流是静止的，这通常会导致对先前知识的灾难性遗忘。首先，我们介绍了一个解决这两个问题的系统，其中原型在共享的潜在空间中不断发展，使学习和预测在任何时间点。与持续学习中的主要工作相比，数据流以在线方式处理，而无需额外的任务信息，并且高效的存储器方案为不平衡的数据流提供了鲁棒性。除了基于最近邻的预测，学习是由一个新的目标函数，鼓励集群密度的类原型和增加类间方差。此外，潜在的空间质量提高了伪原型在每一批，构成重放的样本从记忆中。作为一个额外的贡献，我们概括了现有的范例，在持续学习纳入数据流的数据增量学习，通过形式化的两个代理学习者评估框架。我们在八个基准测试中获得了最先进的性能，其中包括三个高度不平衡的数据流。
2021-04-06 cs.AI cs.CV
Enhancing Online Continual Learning with Plug-and-Play State Space Model and Class-Conditional Mixture of Discretization
Harbin Institute Of Technology（哈尔滨工业大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Harbin Institute Of Technology (Shenzhen)（哈尔滨工业大学（深圳））；University of Oxford（牛津大学）
提出即插即用模块S6MOD，通过离散化混合和类条件路由算法动态调整状态空间模型参数，显著提升在线持续学习的模型适应性与性能。
2024-12-24 cs.AI cs.CV cs.LG
Improving information retention in large scale online continual learning
Intel Labs（英特尔实验室）；Apple（苹果公司）
在线持续学习（OCL）的目标是在保持现有知识的同时有效地适应新数据。解决信息保留（保留先前知识的能力）的典型方法是保持固定大小的重放缓冲区，并使用新数据和重放缓冲区的混合来计算梯度。令人惊讶的是，最近的工作（蔡等人，2021）表明，即使当重放缓冲器是无限的，即，使用所有过去的数据来计算梯度。本文着重于这一特点，以了解和解决信息保留。为了查明这个问题的根源，我们从理论上表明，在每个时间步有限的计算预算，即使没有严格的存储限制，天真地应用SGD恒定或不断降低的学习率未能优化信息保留的长期。我们建议使用移动平均方法族来改进非平稳目标的优化。具体来说，我们设计了一个自适应移动平均（AMA）优化器和一个基于移动平均的学习率调度（MALR）。我们在大规模基准测试中证明了AMA + MALR的有效性，包括持续本地化（CLOC），Google Landmarks和ImageNet。代码将在发布时发布。
2022-10-12 cs.CV
Summarizing Stream Data for Memory-Constrained Online Continual Learning
Zhejiang University（浙江大学）；National University of Singapore（新加坡国立大学）
本文提出SSD方法，通过蒸馏真实图像训练特征并保持训练梯度与过去任务一致性，将流数据知识摘要为高信息量样本，在受限存储下显著提升在线持续学习的重放效果。
2024-01-09 cs.CV
Online Prototype Learning for Online Continual Learning
Institute of Science and Technology for Brain-inspired Intelligence, Fudan University（复旦大学类脑智能科学与技术研究院）；School of Computer Science, Fudan University（复旦大学计算机科学技术学院）；MOE Frontiers Center for Brain Science, Fudan University（复旦大学教育部脑科学前沿中心）；Shanghai Center for Brain Science and Brain-inspired Technology（上海脑科学与类脑研究中心）
本文从捷径学习新视角分析在线持续学习泛化问题，提出 OnPro 框架，通过在线原型均衡学习代表性特征并利用自适应原型反馈机制增强易混淆类边界，显著超越现有基线方法。
2023-08-01 cs.CV
