Online Continual Learning for Embedded Devices
Rochester Institute of Technology（罗切斯特理工学院）；University of Rochester（罗切斯特大学）
家用机器人、智能手机上的用户个性化以及增强/虚拟现实头戴设备等新应用都需要设备上的实时持续学习。然而，这种设置带来了独特的挑战：嵌入式设备的内存和计算能力有限，传统的机器学习模型在非平稳数据流上更新时会出现灾难性遗忘。虽然已经开发了几种在线持续学习模型，但它们在嵌入式应用中的有效性尚未得到严格的研究。在本文中，我们首先确定了在线持续学习者必须满足的标准，以有效地执行实时，在设备上学习。然后，我们研究了几种在线持续学习方法与移动神经网络一起使用时的有效性。我们测量它们的性能、内存使用、计算需求以及泛化到域外输入的能力。
2022-07-15 cs.AI cs.LG
Random Representations Outperform Online Continually Learned Representations
IIIT Hyderabad（印度信息技术学院海得拉巴分校）；University of Oxford（牛津大学）；Apple（苹果公司）
本文提出RanDumb方法，用固定随机变换加线性分类器证明简单随机表示在在线持续学习中优于持续学习到的表示，并挑战了现有表示学习假设。
2024-11-20 cs.CV cs.LG
Natural Gradient Descent for Online Continual Learning
Ecole Polytechnique & Télécom Paris（巴黎高等理工学院与电信巴黎学院）；Sony Computer Science Laboratories（索尼计算机科学实验室）
本文提出利用自然梯度下降优化器和FIM近似方法改进在线持续学习性能，尤其在Split CIFAR-100等数据集上表现突出。
2026-03-21 cs.AI cs.CV cs.LG
Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries
NAVER CLOVA；NAVER AI Lab（NAVER人工智能实验室）；GIST（光州科学技术院）；Seoul National University（首尔国立大学）；Yonsei University（延世大学）
在具有不正确标签的连续变化的数据分布下学习是一个理想的现实世界问题，但具有挑战性。然而，大量的持续学习（CL）方法假设数据流具有干净的标签，并且在有噪声的数据流下的在线学习场景尚未被充分探索。我们考虑一个更实际的CL任务设置的在线学习从模糊的数据流与损坏的标签，现有的CL方法的斗争。为了解决这个问题，我们首先讨论了持续学习模型中情景记忆中样例的多样性和纯度的重要性。为了平衡情景记忆的多样性和纯度，我们提出了一种新的策略来管理和使用记忆的标签噪声感知不同的采样和鲁棒学习与半监督学习的统一方法。我们对四个真实世界或合成噪声数据集（CIFAR 10和100，mini-WebVision和Food-101 N）的经验验证表明，我们的方法在这种现实和具有挑战性的持续学习场景中显着优于现有技术。代码和数据分割可以在https://github.com/clovaai/puridiver上找到。
2022-03-30 cs.AI cs.CV cs.LG
The impact of model size on catastrophic forgetting in Online Continual Learning
Massachusetts Institute of Technology（麻省理工学院）
该研究通过不同规模 ResNet 在 SplitCIFAR-10 上的在线类增量实验，发现更大模型未必能缓解灾难性遗忘，反而在在线适应新任务时表现更差，揭示了模型规模与持续学习效能之间的复杂关系。
2024-06-28 cs.CV cs.LG
Selective Replay Enhances Learning in Online Continual Analogical Reasoning
Rochester Institute of Technology（罗切斯特理工学院）；Paige；Cornell Tech（康奈尔科技学院）
在持续学习中，系统从非平稳数据流或批次中学习，而不会发生灾难性遗忘。虽然这个问题已经在监督图像分类和强化学习中得到了大量的研究，但为抽象推理而设计的神经网络中的持续学习还没有被研究。在这里，我们研究类比推理的持续学习。类比推理测试，如乌鸦的渐进矩阵（RPM）通常用于衡量人类的非语言抽象推理，最近离线神经网络的RPM问题已经提出。在本文中，我们建立了实验基线，协议，和向前和向后传输指标，以评估持续学习者的RPM。我们使用经验回放来减轻灾难性遗忘。使用重放用于图像分类任务的先前工作已经发现，选择性地选择要重放的样本提供的益处（如果有的话）比随机选择少得多。相比之下，我们发现，选择性重放可以显着优于随机选择的RPM任务。
2021-04-19 cs.AI cs.CV cs.LG
Continual Variational Autoencoder Learning via Online Cooperative Memorization
University of York（约克大学）
变分自编码器（VAE）由于其推理、数据表示和重构特性，已成功地应用于持续学习分类任务中。然而，他们的能力，以产生相应的类和数据库在持续学习（CL）学习规范的图像还没有得到很好的理解和灾难性遗忘仍然是一个重大的挑战。在本文中，我们首先分析了遗忘行为的VAE制定一个新的理论框架，制定CL作为一个动态的最优运输问题。该框架在不需要任务信息的情况下证明了数据可能性的近似界限，并解释了先验知识在训练过程中如何丢失。然后，我们提出了一种新的内存缓冲的方法，即在线协同建模（OCM）框架，它包括一个短期记忆（STM），不断存储最近的样本，为模型提供未来的信息，和一个长期记忆（LTM），旨在保持广泛的多样性的样本。OCM根据信息多样性选择准则，在不需要任何监督信号的情况下，将特定样本从STM转移到LTM。然后，OCM框架与动态VAE扩展混合网络相结合，以进一步提高其性能。
2022-07-20 cs.AI cs.CV cs.LG
Online Fast Adaptation and Knowledge Accumulation: a New Approach to Continual Learning
ElementAI（ElementAI公司）；Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；Facebook AI Research（脸书人工智能研究院）；McGill University（麦吉尔大学）；HEC Montréal（蒙特利尔高等商学院）
持续学习研究的是在适应新任务的同时，从任务流中学习而不会忘记以前的任务的智能体。最近的两个持续学习方案开辟了新的研究途径。在Meta持续学习中，模型被预先训练以最小化先前任务的灾难性遗忘。在持续元学习中，目标是通过适应来训练代理更快地记住先前的任务。这两种方法在其最初的表述中都有局限性。我们站在他们的肩膀上，提出一个更一般的场景，大坂，代理必须快速解决新的（分布外）任务，同时还需要快速记忆。我们表明，目前的持续学习，元学习，Meta-持续学习，和持续元学习技术在这个新的情况下失败。我们建议连续MAML，流行的MAML算法的在线扩展作为一个强有力的基线，这种情况下。我们的经验表明，连续MAML比上述方法更适合新的场景，以及标准的持续学习和元学习方法。
2021-01-20 cs.AI cs.LG
Online Curvature-Aware Replay: Leveraging $\mathbf{2^{nd}}$ Order Information for Online Continual Learning
University of Pisa（比萨大学）
本文提出在线曲率感知回放（OCAR）方法，将基于回放的在线持续学习形式化为带KL约束的二阶在线联合优化，利用K-FAC近似的Fisher信息矩阵预处理梯度以稳定优化并防止遗忘，在多个基准上取得最优性能。
2025-02-03 cs.AI cs.LG
CBA: Improving Online Continual Learning via Continual Bias Adaptor
Xi’an Jiaotong University（西安交通大学）；City University of Hong Kong（香港城市大学）；Xidian University（西安电子科技大学）；Macau University of Science and Technology（澳门科技大学）
针对在线持续学习中的灾难性遗忘与新任务偏置问题，提出可在测试时移除的CBA模块以稳定分类器，并通过理论分析和多基准实验验证其有效性。
2023-08-14 cs.CV cs.LG
Continual Normalization: Rethinking Batch Normalization for Online Continual Learning
Singapore Management University（新加坡管理大学）；Salesforce Research Asia（Salesforce亚洲研究院）
现有的持续学习方法使用批量归一化（BN）来促进训练并改进跨任务的泛化。然而，持续学习数据的非i.i. d和非平稳性质，特别是在在线设置中，放大了BN中训练和测试之间的差异，并阻碍了旧任务的执行。在这项工作中，我们研究了BN在在线持续学习中的跨任务归一化效应，其中BN使用偏向当前任务的时刻对测试数据进行归一化，从而导致更高的灾难性遗忘。这种限制促使我们提出一种简单而有效的方法，我们称之为连续归一化（CN），以促进类似于BN的训练，同时减轻其负面影响。在不同的持续学习算法和在线场景上的大量实验表明，CN是BN的直接替代品，可以提供实质性的性能改进。我们的实现可在\url{https://github.com/phquang/Continual-Normalization}上获得。
2022-03-30 cs.LG
Supervised Contrastive Replay: Revisiting the Nearest Class Mean Classifier in Online Class-Incremental Continual Learning
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
在线类增量持续学习（CL）研究从在线非平稳数据流中持续学习新类的问题，旨在适应新数据的同时减轻灾难性遗忘。虽然记忆回放已经显示出有希望的结果，但由常用的Softmax分类器引起的在线学习中的近因偏差仍然是一个未解决的挑战。虽然最近类均值（NCM）分类器在CL社区中被严重低估，但我们证明了它是Softmax分类器的简单而有效的替代品。它解决了近因偏差，并避免了新类的全连接层的结构变化。此外，我们观察到相当大的和一致的性能增益时，用NCM分类器替换Softmax分类器的几个国家的最先进的重放方法。为了更有效地利用NCM分类器，属于同一类的数据嵌入应该被聚类，并与具有不同类标签的数据嵌入很好地分离。为此，我们贡献了监督对比重放（SCR），它明确鼓励来自同一类的样本在嵌入空间中紧密聚类，同时在基于重放的训练过程中将不同类的样本进一步分开。总的来说，我们观察到，我们提出的SCR大大减少了灾难性遗忘，并在各种数据集上显著优于最先进的CL方法。
2021-09-15 cs.AI cs.CV cs.LG
Sample Condensation in Online Continual Learning
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学院）
在线持续学习是一个具有挑战性的学习场景，模型必须从非平稳的数据流中学习，其中每个样本只看到一次。主要的挑战是在增量学习的同时避免灾难性遗忘，即在从新数据学习的同时忘记先前获得的知识的问题。在这些情况下，一个流行的解决方案是使用一个小内存来保留旧数据，并随着时间的推移排练它们。不幸的是，由于内存大小有限，内存的质量会随着时间的推移而恶化。在本文中，我们提出了OLCGM，一种新的重放为基础的持续学习策略，使用知识浓缩技术，不断压缩内存，实现更好地利用其有限的大小。样本压缩步骤压缩旧样本，而不是像其他重放策略那样删除它们。因此，实验表明，只要内存预算与数据的复杂性相比是有限的，OLCGM与最先进的重放策略相比，提高了最终的准确性。
2022-06-23 cs.AI cs.CV cs.LG
Online Continual Learning on Class Incremental Blurry Task Configuration with Anytime Inference
GIST（光州科学技术院）；NAVER AI Lab（NAVER人工智能实验室）；Upstage AI Research（Upstage人工智能研究院）；Yonsei University（延世大学）
尽管在持续学习方面取得了快速的进步，但大量的研究都致力于提高现有设置的性能。虽然少数工作确实提出了新的持续学习设置，但它们在某些方面仍然缺乏实用性。为了更好的实用性，我们首先提出了一种新的持续学习设置，是在线的，无任务，类增量，模糊的任务边界，并在任何时候受到推理查询。此外，我们提出了一个新的度量，以更好地衡量性能的持续学习方法的推理查询在任何时候。为了解决具有挑战性的设置和评估协议，我们提出了一种有效的方法，采用了新的存储管理计划和新的学习技术。我们的实证验证表明，所提出的方法优于现有技术的大利润率。代码和数据分割可在https://github.com/naver-ai/i-Blurry上获得。
2022-03-21 cs.CV cs.LG
Scalable Adversarial Online Continual Learning
University of New South Wales（新南威尔士大学）；University of South Australia（南澳大学）；Nanyang Technological University（南洋理工大学）
对抗性持续学习对于持续学习问题是有效的，因为特征对齐过程的存在产生对灾难性遗忘问题具有低敏感性的任务不变特征。然而，ACL方法带来了相当大的复杂性，因为它依赖于特定于任务的网络和鉴别器。它还经历了一个迭代的训练过程，这不适合在线（一个时期）持续学习的问题。提出了一种可扩展的对抗性持续学习（SCALE）方法，提出了一个参数生成器，将共同特征转化为特定任务的特征，并在对抗性博弈中引入一个参数生成器来归纳共同特征。使用三个损失函数的新组合以元学习方式进行训练过程。SCALE在准确性和执行时间方面都优于显著的基线。
2022-09-04 cs.AI cs.LG
Lifelong Wandering: A realistic few-shot online continual learning setting
Georgia Institute of Technology（佐治亚理工学院）
在线少样本学习描述了一种设置，其中模型在学习新兴类的同时在数据流上进行训练和评估。虽然在此设置之前的工作已经取得了非常有前途的性能时，从一个单一的室内环境组成的数据流学习的实例分类，我们建议扩展此设置，考虑对象分类的一系列几个室内环境，这是可能发生在应用中，如机器人。重要的是，我们的设置，我们称之为在线Few-Shot持续学习，将灾难性遗忘的充分研究问题注入Few-Shot在线学习范式。在这项工作中，我们基准几个现有的方法和适应基线在我们的设置，并显示存在一个权衡之间的灾难性遗忘和在线性能。我们的发现激发了在这种环境下进行未来工作的需求，这种环境可以在没有灾难性遗忘的情况下实现更好的在线性能。
2022-06-16 cs.CV cs.LG
Rapid Adaptation in Online Continual Learning: Are We Evaluating It Right?
KAUST（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）；Meta AI
本文指出在线准确率指标因虚假标签相关性而不可靠，提出基于近未来样本准确率的新指标，发现保留和重用历史信息能实现更好的泛化。
2023-05-16 cs.AI cs.CV cs.LG
Online Continual Learning Via Candidates Voting
Purdue University（普渡大学）
在线场景中的持续学习旨在使用每个数据仅一次用于训练来从数据流中学习一系列新任务，这比离线模式中假设来自新任务的数据全部可用更现实。然而，对于具有挑战性的类增量设置，这个问题仍然没有得到充分的探讨，在这种设置中，模型对迄今为止在推理过程中看到的所有类进行分类。特别是，性能与任务数量的增加或为每个任务学习的额外课程有关。此外，大多数现有方法需要存储原始数据作为知识重放的样本，这对于具有有限存储器预算或隐私问题的某些应用可能是不可行的。在这项工作中，我们介绍了一种有效的和内存效率的方法在线持续学习类增量设置下，通过候选人选择从每个学习任务连同先前的合并使用存储的特征嵌入，而不是原始数据作为样本。我们提出的方法实现的图像分类任务取得了最好的结果，在不同的基准数据集在线持续学习，包括CIFAR-10，CIFAR-100和CORE-50，而需要更少的内存资源相比，现有的作品。
2021-10-17 cs.CV cs.LG
Online Continual Learning of End-to-End Speech Recognition Models
Carnegie Mellon University（卡内基梅隆大学）
持续学习，也被称为终身学习，旨在不断地从新的数据中学习，因为它变得可用。虽然先前的研究在自动语音识别的持续学习集中在多个不同的语音识别任务的模型的适应，在本文中，我们提出了一个实验设置\textit{online continual learning}自动语音识别的一个单一的任务。特别关注的情况下，额外的训练数据为同一个任务变得越来越可用随着时间的推移，我们证明了执行增量模型更新到端到端的语音识别模型的有效性与在线梯度情景记忆（GEM）的方法。此外，我们表明，通过在线持续学习和选择性采样策略，我们可以保持类似于从头开始重新训练模型的准确性，同时需要显着降低计算成本。我们还验证了我们的方法与自监督学习（SSL）功能。
2022-07-11 cs.AI cs.LG cs.SD
Orchestrate Latent Expertise: Advancing Online Continual Learning with Multi-Level Supervision and Reverse Self-Distillation
Tsinghua University（清华大学）
针对在线持续学习中回放缓冲区导致的过拟合与欠拟合困境，提出多级在线顺序专家MOSE，通过多级监督与逆向自蒸馏提升新样本学习与旧知识保留能力。
2024-03-30 cs.AI cs.CV cs.LG
Online Distillation with Continual Learning for Cyclic Domain Shifts
KAUST（阿卜杜拉国王科技大学）
本文针对在线蒸馏在域偏移下的灾难性遗忘问题，将多种最先进持续学习方法融入师生在线蒸馏框架，并在循环域偏移场景验证其可提升鲁棒性与准确率。
2023-04-03 cs.CV cs.LG
SimCS: Simulation for Domain Incremental Online Continual Segmentation
Intel Labs（英特尔实验室）；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）
本文提出SimCS，一种无参数的在线领域增量持续分割方法，通过仿真数据正则化持续学习，解决自动驾驶等场景中无任务边界且计算受限的分割模型持续训练问题。
2024-02-15 cs.CV cs.LG
Online Continual Learning Without the Storage Constraint
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）；Apple（苹果公司）
针对计算预算有限而非存储受限的在线持续学习场景，提出固定预训练特征提取器并持续更新kNN分类器的简单算法，在CLOC和CGLM上以更低开销取得超过20%的准确率提升。
2023-11-02 cs.CV cs.LG
Hierarchically Gated Experts for Efficient Online Continual Learning
The University of New South Wales（新南威尔士大学）
针对在线持续学习中的未知任务流问题，提出层级门控专家（HGE）算法，通过动态增长的专家层级结构高效选择最佳专家，在标准基准上取得与现有方法相当且更高效的结果。
2024-12-22 cs.AI cs.LG
Dual-CBA: Improving Online Continual Learning via Dual Continual Bias Adaptors from a Bi-level Optimization Perspective
School of Mathematics and Statistics, Xi’an Jiaotong University（西安交通大学数学与统计学院）；City University of Hong Kong（香港城市大学）；School of Mathematics and Statistics, Xidian University（西安电子科技大学数学与统计学院）
本文提出Dual-CBA框架，通过结合类别特定与类别无关的持续偏置适配器及增量批归一化模块，从双层优化视角有效缓解在线持续学习中的灾难性遗忘与分布偏移问题。
2024-08-26 cs.AI cs.LG
Online Coreset Selection for Rehearsal-based Continual Learning
KAIST（韩国科学技术院）；New York University（纽约大学）；AITRICS
数据集是描述一项任务的关键证据。然而，数据集中的每个数据点并不具有相同的潜力，因为一些数据点可能比其他数据点更具代表性或信息性。数据点之间的这种不平等的重要性可能会对基于排练的持续学习产生很大的影响，在这种情况下，我们存储训练样本的子集（coreset），以便稍后重播，以减轻灾难性遗忘。在持续学习中，核心集存储样本的质量直接影响模型的有效性和效率。核心集的选择问题变得更加重要的现实设置下，如不平衡的持续学习或嘈杂的数据场景。为了解决这个问题，我们提出了在线Coreset选择（OCS），一个简单而有效的方法，选择最具代表性和信息coreset在每次迭代和培训他们在网上的方式。我们提出的方法最大限度地提高了模型对当前数据集的适应性，同时选择了与过去任务具有高亲和力的样本，这直接抑制了灾难性遗忘。我们验证了我们的coreset选择机制的有效性，在各种标准的，不平衡的，和嘈杂的数据集对强大的持续学习基线，表明它提高了任务的适应性，并防止灾难性遗忘的样本效率的方式。
2022-03-18 cs.CV cs.LG
Improving Online Continual Learning Performance and Stability with Temporal Ensembles
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）；University of Pisa（比萨大学）
本文针对在线持续学习中的性能下降与稳定性差距问题，提出一种轻量级时间集成方法，通过在测试时计算权重的指数移动平均（EMA），显著提升了在线持续学习的性能与稳定性。
2023-07-03 cs.AI cs.LG
Avalanche RL: a Continual Reinforcement Learning Library
University of Pisa（比萨大学）
持续强化学习（CRL）是一种具有挑战性的设置，在这种设置中，智能体学习与随时间不断变化的环境（经验流）进行交互。在本文中，我们描述了Avalanche RL，一个用于连续强化学习的库，它可以轻松地在连续的任务流上训练代理。Avalanche RL基于PyTorch，支持任何OpenAI Gym环境。它的设计基于Avalanche，这是一个比较流行的持续学习库，它允许我们重用大量的持续学习策略，并改善强化学习和持续学习研究人员之间的互动。此外，我们提出了连续的模拟实验室，一个新的基准和高层次的库，使使用的真实感模拟器模拟SIM的CRL研究。总体而言，Avalanche RL试图在一个通用框架下统一持续的强化学习应用，我们希望这将促进该领域的发展。
2022-03-24 cs.AI cs.CV cs.LG
Selecting Related Knowledge via Efficient Channel Attention for Online Continual Learning
China University of Petroleum（中国石油大学）
持续学习的目标是通过在线学习的方式利用过去获得的知识学习一系列任务，同时能够很好地执行所有先前的任务，这种能力对于人工智能（AI）系统至关重要，因此与传统学习模式相比，持续学习更适合于大多数现实和复杂的应用场景。然而，目前的模型通常学习一个通用的表示的基础上的类标签的每一个任务，并选择一个有效的策略，以避免灾难性遗忘。我们假设，选择相关的和有用的部分，只从所获得的知识来执行每一个任务是更有效的比利用整个知识。基于这一事实，在本文中，我们提出了一个新的框架，命名为选择相关的知识在线持续学习（SRKOCL），它结合了一个额外的有效的通道注意力机制，以挑选特定的相关知识的每一个任务。我们的模型还结合了经验重放和知识蒸馏来规避灾难性遗忘。最后，在不同的基准上进行了大量的实验，具有竞争力的实验结果表明，我们提出的SRKOCL是一个有前途的方法对国家的最先进的。
2022-09-09 cs.CV cs.LG
PROL : Rehearsal Free Continual Learning in Streaming Data via Prompt Online Learning
STEM University of South Australia（南澳大利亚STEM大学）；Institute for Infocomm Research, A*STAR & IPAL（信息与通信研究所，A*STAR及IPAL）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文提出PROL方法，通过轻量级提示生成器、可训练缩放移位器、PTM泛化保持和硬-软更新机制，在流数据在线持续学习中实现免排练并超越现有SOTA性能。
2025-07-16 cs.AI cs.CV cs.LG
Gradient based sample selection for online continual learning
KU Leuven（鲁汶大学）；Mila（米拉研究所）
一个持续学习的智能体通过非固定的、永无止境的数据流在线学习。这种学习过程的关键是克服对先前看到的数据的灾难性遗忘，这是神经网络的一个众所周知的问题。为了防止遗忘，通常采用重放缓冲器来存储先前的数据以用于排练。以往的工作往往依赖于任务边界和独立同分布。假设以适当地选择用于重放缓冲器的样本。在这项工作中，我们制定样本选择作为一个约束减少问题的基础上的约束优化观点的持续学习。我们的目标是选择一个固定的子集的约束，最好的近似的可行域定义的原始约束。我们表明，它相当于最大化的多样性的样本在重放缓冲区与参数梯度的功能。我们进一步开发了一个贪婪的替代品，是廉价和有效的。在持续学习环境下，通过与其他方法的比较，证明了该方法的优越性。进一步的比较，对国家的最先进的方法，依赖于任务边界，显示可比的，甚至更好的结果，我们的方法。
2019-10-31 cs.AI cs.CV cs.LG
Adaptive Shortcut Debiasing for Online Continual Learning
KAIST（韩国科学技术院）
针对在线持续学习中的捷径偏差问题，提出DropTop框架，通过特征图融合与自适应强度偏移技术自动确定去偏程度，在五个基准数据集上显著提升准确率并降低遗忘率。
2023-12-14 cs.AI cs.LG
Online Continual Learning under Extreme Memory Constraints
University of Trento（特伦托大学）；SAP AI Research（SAP人工智能研究院）；LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信LTCI实验室）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
持续学习（CL）旨在开发能够模仿人类顺序学习新任务的能力的智能体，同时能够保留从过去经验中获得的知识。在本文中，我们介绍了新的问题的内存约束在线持续学习（MC-OCL），它对内存开销施加了严格的限制，一个可能的算法可以用来避免灾难性遗忘。由于大多数（如果不是全部）以前的CL方法违反了这些约束，我们提出了MC-OCL的算法解决方案：批量级蒸馏（BLD），这是一种基于正则化的CL方法，它有效地平衡了稳定性和可塑性，以便从数据流中学习，同时保留了通过蒸馏解决旧任务的能力。我们广泛的实验评估，进行了三个公开的基准，经验表明，我们的方法成功地解决了MC-OCL问题，并实现了相当的准确性，需要更高的内存开销之前的蒸馏方法。
2022-01-12 cs.CV cs.LG
Continual Prototype Evolution: Learning Online from Non-Stationary Data Streams
KU Leuven（鲁汶大学）
在表示学习中，获得代表类分布的原型特征是很好的。然而，从流数据在线学习原型证明了一项具有挑战性的工作，因为它们很快就会过时，这是由学习过程中不断变化的参数空间引起的。此外，持续学习并不假设数据流是静止的，这通常会导致对先前知识的灾难性遗忘。首先，我们介绍了一个解决这两个问题的系统，其中原型在共享的潜在空间中不断发展，使学习和预测在任何时间点。与持续学习中的主要工作相比，数据流以在线方式处理，而无需额外的任务信息，并且高效的存储器方案为不平衡的数据流提供了鲁棒性。除了基于最近邻的预测，学习是由一个新的目标函数，鼓励集群密度的类原型和增加类间方差。此外，潜在的空间质量提高了伪原型在每一批，构成重放的样本从记忆中。作为一个额外的贡献，我们概括了现有的范例，在持续学习纳入数据流的数据增量学习，通过形式化的两个代理学习者评估框架。我们在八个基准测试中获得了最先进的性能，其中包括三个高度不平衡的数据流。
2021-04-06 cs.AI cs.CV
Replay-free Online Continual Learning with Self-Supervised MultiPatches
University of Pisa（比萨大学）；Computer Vision Center (CVC)（计算机视觉中心（CVC））
针对在线持续学习（OCL）中回放策略因隐私限制无法使用的问题，提出持续多补丁（CMP）插件，通过生成单样本多补丁并投影到共享特征空间避免回放，性能优于回放及其他SSL策略。
2025-02-13 cs.CV cs.LG
Enhancing Online Continual Learning with Plug-and-Play State Space Model and Class-Conditional Mixture of Discretization
Harbin Institute Of Technology（哈尔滨工业大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Harbin Institute Of Technology (Shenzhen)（哈尔滨工业大学（深圳））；University of Oxford（牛津大学）
提出即插即用模块S6MOD，通过离散化混合和类条件路由算法动态调整状态空间模型参数，显著提升在线持续学习的模型适应性与性能。
2024-12-24 cs.AI cs.CV cs.LG
Self-Supervised Training Enhances Online Continual Learning
Rochester Institute of Technology（罗切斯特理工学院）；Paige；Cornell Tech（康奈尔科技学院）
在持续学习中，系统必须从非平稳数据流中增量学习，而不会发生灾难性遗忘。最近，已经设计了多种方法用于在大规模图像分类任务（例如ImageNet）上增量学习类。最先进的持续学习方法使用初始监督预训练阶段，其中在新类的持续学习开始之前，数据集中的前10% - 50%的类用于以离线方式学习表示。我们假设自监督预训练可以产生比监督学习更好的泛化特征，特别是当用于预训练的样本数量很小时。我们使用自监督MoCo-V2、Barlow Twins和SwAV算法来测试这一假设。在ImageNet上，我们发现这些方法在在线持续学习中的表现大大优于监督预训练，并且当可用样本较少时，增益更大。我们的发现在三种在线持续学习算法中是一致的。我们最好的系统实现了14.95%的相对增加，在类增量ImageNet的前1名的准确性比现有技术的在线持续学习。
2021-10-22 cs.CV
Rehearsal-free and Task-free Online Continual Learning With Contrastive Prompt
RMIT University（皇家墨尔本理工大学）；Machine Intelligence Center（人工智能中心）
针对在线持续学习的灾难性遗忘难题，提出无排练无任务的F2OCL方法，结合提示学习与NCM分类器，在无需存储样本和任务信息的情况下实现有效学习，经双基准实验验证效果。
2025-10-01 cs.CV cs.LG
Online-LoRA: Task-free Online Continual Learning via Low Rank Adaptation
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；AMD（超威半导体公司）
本文提出Online-LoRA，一种基于低秩适应和在线权重正则化的无任务在线持续学习框架，通过实时微调预训练ViT模型并自动识别数据分布偏移，在多个基准数据集上超越现有方法。
2024-11-08 cs.CV cs.LG
Optimizing Class Distribution in Memory for Multi-Label Online Continual Learning
Nanjing University（南京大学）
在线持续学习，特别是当任务身份和任务边界不可用时，是一种具有挑战性的持续学习设置。在线持续学习的一种典型方法是基于重放的方法，该方法通过维护一个称为记忆的重放缓冲区来保存一小部分过去的样本，以克服灾难性遗忘。在处理在线持续学习时，大多数现有的基于回放的方法都集中在单标签问题上，其中数据流中的每个样本只有一个标签。但多标签问题也可能发生在在线持续学习设置中，其中每个样本可能有一个以上的标签。在具有多标签样本的在线设置中，数据流中的类别分布通常是高度不平衡的，并且由于改变属于一个类别的样本的数量可能影响属于其他类别的样本的数量，因此控制存储器中的类别分布是具有挑战性的。但是，存储器中的类分布对于基于重放的存储器获得良好的性能至关重要，特别是当数据流中的类分布高度不平衡时。在本文中，我们提出了一个简单而有效的方法，称为优化类分布在内存（OCDM），多标签在线持续学习。OCDM将内存更新机制表述为一个优化问题，通过求解该优化问题来更新内存。在两个广泛使用的多标签数据集上的实验表明，OCDM可以很好地控制内存中的类分布，并且性能优于其他最先进的方法。
2022-09-23 cs.LG
Online Class-Incremental Continual Learning with Adversarial Shapley Value
University of Toronto（多伦多大学）；LG AI Research（LG人工智能研究院）
随着基于图像的深度学习在从手机到智能手表的每一种设备上变得普遍，越来越需要开发不断从数据中学习的方法，同时最大限度地减少内存占用和功耗。虽然记忆回放技术已经显示出对于这种持续学习任务的特殊承诺，但是选择回放哪些缓冲图像的最佳方法仍然是一个悬而未决的问题。在本文中，我们特别关注在线类增量设置，其中模型需要从在线数据流中不断学习新类。为此，我们贡献了一种新的对抗Shapley值评分方法，该方法根据记忆数据样本保留先前观察到的类的潜在决策边界的能力（以保持学习稳定性并避免遗忘），同时干扰正在学习的当前类的潜在决策边界（以鼓励新类边界的可塑性和最佳学习）。总的来说，我们观察到，我们提出的ASER方法提供了竞争力或改进的性能相比，国家的最先进的重放为基础的持续学习方法在各种数据集。
2021-03-22 cs.CV cs.LG stat.ML
CLVOS23: A Long Video Object Segmentation Dataset for Continual Learning
University of Waterloo（滑铁卢大学）
本文首次将半监督在线视频目标分割（VOS）形式化为持续学习问题，提出CLVOS23长视频数据集，并在LWL基线上实现基于正则化的持续学习方法，验证了其有效性。
2023-04-09 cs.CV cs.LG
Is Prompt Selection Necessary for Task-Free Online Continual Learning?
Sungkyunkwan University（成均馆大学）
本文提出单提示方法，无需提示选择，通过优化分类器减少遗忘，实现无任务在线持续学习的最优性能。
2026-04-06 cs.AI cs.LG
PCR: Proxy-based Contrastive Replay for Online Class-Incremental Continual Learning
Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））
针对在线类增量持续学习中的灾难性遗忘问题，提出基于代理的对比重放方法（PCR），通过用代理替换对比样本解决类别不平衡并加速收敛，在三个基准数据集上优于现有方法。
2023-04-10 cs.AI cs.CV cs.LG
A neuro-inspired architecture for unsupervised continual learning based on online clustering and hierarchical predictive coding
Georgia Institute of Technology（佐治亚理工学院）
我们提出，持续学习desiderata可以通过神经启发的架构，蒙特卡斯尔的皮质柱假说的基础上实现。所提出的架构涉及一个单一的模块，称为自学联想记忆（STAM），它模拟了皮质柱的功能。STAM在涉及前馈、横向和反馈连接的多级层次结构中重复。STAM网络以无监督的方式学习，基于在线聚类和分层预测编码的组合。这篇简短的论文只介绍了架构及其与神经科学的联系。数学公式和实验结果将在本文的扩展版本。
2018-10-22 cs.AI cs.LG q-bio.NC
Semi-Discriminative Representation Loss for Online Continual Learning
University of Bristol（布里斯托大学）；Amazon Research（亚马逊研究院）
在持续学习中使用情景记忆已经证明了减轻灾难性遗忘的有效性。在最近的研究中，基于梯度的方法已经被开发出来，以更有效地利用紧凑的情景记忆。这种方法通过来自记忆样本的梯度来细化来自新样本的梯度，旨在减少来自不同任务的梯度的多样性。在本文中，我们阐明了梯度的多样性和表示的区分性之间的关系，显示了深度度量学习和持续学习之间的共同利益和冲突，从而展示了在持续学习中学习区分性表示的利弊。基于这些发现，我们提出了一种简单的方法-半判别表示损失（SDRL）-用于持续学习。与现有方法相比，SDRL在在线持续学习的环境下，在多个基准任务上表现出更好的性能和更低的计算成本。
2022-04-14 cs.LG stat.ML
Online Learned Continual Compression with Adaptive Quantization Modules
McGill（麦吉尔大学）；Mila（米拉研究所）；Facebook AI Research（Facebook人工智能研究院）；University of Montreal（蒙特利尔大学）；ElementAI（ElementAI公司）
我们介绍和研究的问题，在线连续压缩，其中一个试图同时学习压缩和存储一个代表性的数据集从一个非i.i.d数据流，而每个样本只观察一次。在这种情况下，自动编码器的天真应用遇到了一个主要挑战：从早期编码器状态导出的表示必须可用于后期解码器状态。我们展示了如何使用离散自动编码器来有效地解决这一挑战，并引入自适应量化模块（AQM）来控制模块在任何给定学习阶段的压缩能力变化。这使得能够为传入样本选择适当的压缩，同时考虑整体存储器约束和学习压缩的当前进度。与以前的方法不同，我们的方法不需要任何预训练，即使是在具有挑战性的数据集上。我们发现，使用主动质量管理，以取代标准的情景记忆在持续学习设置导致显着收益的持续学习基准。此外，我们用更大的图像，LiDAR和强化学习环境演示了这种方法。
2020-08-20 cs.CV cs.LG stat.ML
Feature-based Graph Attention Networks Improve Online Continual Learning
NVIDIA（英伟达）；Singapore Institute of Technology（新加坡理工学院）
针对图像分类在线持续学习中传统CNN和Transformer的局限，提出基于图注意力网络（GATs）的框架，结合分层特征图转图、增强全局池化及排练记忆复制技术，在多基准数据集上性能优于现有方法。
2025-02-13 cs.CV cs.LG
New Insights on Reducing Abrupt Representation Change in Online Continual Learning
在在线持续学习范例中，代理必须从不断变化的分布中学习，同时尊重内存和计算约束。经验重放（ER），其中一小部分过去的数据被存储并与新数据一起重放，已经成为一种简单而有效的学习策略。在这项工作中，我们专注于所观察到的数据表示的变化时，出现以前未观察到的类出现在传入的数据流中，新的类必须从以前的区别。我们揭示了新的光在这个问题上显示，应用ER导致新添加的类的表示与以前的类显着重叠，导致高度破坏性的参数更新。基于这种实证分析，我们提出了一种新的方法，通过屏蔽学习到的表示来适应新的类来缓解这个问题。我们表明，使用不对称的更新规则推动新的类，以适应旧的（而不是相反），这是更有效的，特别是在任务边界，其中大部分的遗忘通常发生。实证结果表明，在标准持续学习基准上，强基线有显著的收益
2022-04-25 cs.AI cs.LG
Continual Competitive Memory: A Neural System for Online Task-Free Lifelong Learning
Rochester Institute of Technology（罗切斯特理工学院）
在这篇文章中，我们提出了一种新的无监督学习形式，连续竞争记忆（CCM），以及一个计算框架，以统一相关的神经模型下的竞争原则。所得到的神经系统提供了一个有效的方法，打击灾难性遗忘在线连续分类问题。我们证明了所提出的CCM系统不仅优于其他竞争性学习神经模型，而且在Split MNIST和Split NotMNIST等基准上与几种现代最先进的终身学习方法相比具有竞争力。CCM为获取对数据流干扰具有鲁棒性的表示提供了一条有希望的前进道路，特别是当任务对模型未知并且必须在没有外部指导的情况下推断时。
2021-06-24 cs.LG
Evaluating Online Continual Learning with CALM
Naver Labs Europe（Naver欧洲实验室）；Pompeu Fabra University（庞培法布拉大学）；CIIRC CTU（捷克理工大学计算机科学研究所）
在线持续学习（OCL）研究在连续数据流上的学习，而不需要多次观察任何单个示例，这种设置更接近人类和系统必须“在野外”学习的经验。然而，通常可用的基准远离这些现实世界的条件，因为它们显式地表示不同的任务，缺乏潜在的相似性结构或假设不同示例之间的时间独立性。在这里，我们提出了一个基于语言建模的OCL新基准，其中输入在不同语言和域之间交替，而没有任何明确的界限。此外，我们提出了新的指标来研究灾难性遗忘在这种情况下，并评估多个基线模型的基础上组成的专家。最后，我们介绍了一种简单的门控技术，它可以学习不同输入之间的潜在相似性，从而提高专家产品模型的性能。
2021-02-01 cs.AI cs.CL cs.LG
Online Continual Graph Learning
Department of Mathematics, University of Padua（帕多瓦大学数学系）；Faculty of Informatics, Università della Svizzera Italiana（瑞士意大利大学信息学院）；Department of Electronics, Information and Bioengineering, Politecnico di Milano（米兰理工学院电子、信息与生物工程系）
本文提出在线持续图学习（OCGL）框架，通过严格资源约束下的节点级持续学习，实现对动态图的高效在线预测。
2025-12-18 cs.LG
Layerwise Proximal Replay: A Proximal Point Method for Online Continual Learning
University of British Columbia（不列颠哥伦比亚大学）；Inverted AI；Mila（米拉）；Vector Institute（矢量研究所）
针对在线持续学习中经验重放导致优化轨迹不稳定、影响准确率的问题，提出分层近端重放（LPR），通过修改优化几何、限制过去数据隐藏激活的渐进变化，在多种设置下稳定提升重放方法性能。
2024-07-19 cs.LG
Budgeted Online Continual Learning by Adaptive Layer Freezing and Frequency-based Sampling
Seoul National University（首尔大学）
针对在线持续学习中计算与存储预算不一致导致比较不公的问题，提出以 FLOPs 和总字节内存统一预算，并结合自适应层冻结与频率采样检索，在多个图像数据集上以同等总预算取得优于 SOTA 的效果。
2025-03-16 cs.AI cs.CV cs.LG
