Continual Learning on a Diet: Learning from Sparsely Labeled Streams Under Constrained Computation
King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；University of Oxford（牛津大学）
本文提出DietCL，针对计算预算受限且标注稀疏的持续学习场景，通过联合利用标注与未标注数据并精心分配计算资源，在多个大规模数据集上显著超越现有监督和半监督持续学习方法。
2024-06-08 cs.CV cs.LG
ImageHD: Energy-Efficient On-Device Continual Learning of Visual Representations via Hyperdimensional Computing
AMD Zynq ZCU104 FPGA
ImageHD基于超维度计算实现设备端视觉持续学习，通过硬件感知的持续学习方法和量化CNN前端，在严格时延和芯片内存限制下提升效率与能效。
2026-04-23 cs.CV
Robust Emotion Recognition via Bi-Level Self-Supervised Continual Learning
Deakin University（迪肯大学）；Monash University（莫纳什大学）
针对生理信号情绪识别中跨个体差异、标签噪声及无标签连续流式数据的挑战，提出基于动态记忆缓冲区的双层自监督持续学习框架SSOCL，经实验验证其跨被试泛化性与流数据适应能力优于现有方法。
2025-05-19 cs.CV cs.LG
Exploring Data Geometry for Continual Learning
Beijing Institute of Technology（北京理工大学）；Shenzhen MSU-BIT University（深圳北理莫斯科大学）；Monash University（莫纳什大学）；Data61（数据61研究院）
本文从数据几何的新视角研究持续学习，提出利用混合曲率空间动态扩展底层几何结构，并通过增量搜索方案及角度正则化与邻居鲁棒性损失来防止遗忘，实验证明其性能优于欧氏空间基线方法。
2023-04-08 cs.CV
Continual Neural Mapping: Learning An Implicit Scene Representation from Sequential Observations
Peking University（北京大学）；Beihang University（北京航空航天大学）；Intel Labs China（英特尔中国研究院）
最近的进展已经使得单个神经网络能够充当隐式场景表示，建立空间坐标和场景属性之间的映射函数。在本文中，我们进一步的持续学习的隐式场景表示直接从连续的观察，即连续神经映射。所提出的问题设置弥合了批量训练的隐式神经表示与机器人和视觉社区中常用的流数据之间的差距。我们介绍了一种经验重放方法来解决连续神经映射的示例性任务：从连续深度图像中近似连续的符号距离函数（SDF）作为场景几何表示。我们第一次表明，一个单一的网络可以表示场景几何随着时间的推移不断没有灾难性遗忘，同时实现有前途的准确性和效率之间的权衡。
2021-08-12 cs.CV
Selective Knowledge Control for Continual GUI Agent Learning over Application Streams
Beijing Institute of Technology（北京理工大学）；BIGAI（北京智源人工智能研究院）；Wuhan University（武汉大学）；Shenzhen MSU-BIT University（深圳北理莫斯科大学）
针对GUI智能体持续学习中的知识干扰问题，提出基于激活条件的神经元级梯度操控方法，实现选择性知识保留，缓解灾难性遗忘并保持对新应用的适应能力。
2026-10-14 cs.AI cs.CV
Avalanche RL: a Continual Reinforcement Learning Library
University of Pisa（比萨大学）
持续强化学习（CRL）是一种具有挑战性的设置，在这种设置中，智能体学习与随时间不断变化的环境（经验流）进行交互。在本文中，我们描述了Avalanche RL，一个用于连续强化学习的库，它可以轻松地在连续的任务流上训练代理。Avalanche RL基于PyTorch，支持任何OpenAI Gym环境。它的设计基于Avalanche，这是一个比较流行的持续学习库，它允许我们重用大量的持续学习策略，并改善强化学习和持续学习研究人员之间的互动。此外，我们提出了连续的模拟实验室，一个新的基准和高层次的库，使使用的真实感模拟器模拟SIM的CRL研究。总体而言，Avalanche RL试图在一个通用框架下统一持续的强化学习应用，我们希望这将促进该领域的发展。
2022-03-24 cs.AI cs.CV cs.LG
International Workshop on Continual Semi-Supervised Learning: Introduction, Benchmarks and Baselines
Oxford Brookes University（牛津布鲁克斯大学）；Huawei Technologies（华为技术有限公司）；University of Pisa（比萨大学）
本文的目的是形式化一种新的连续半监督学习（CSSL）范式，通过IJCAI 2021连续半监督学习国际研讨会（CSSL-IJCAI）引起机器学习社区的注意，旨在提高对这个问题的认识，并动员其在这个方向上的努力。在正式定义了持续半监督学习和适当的训练和测试协议后，本文介绍了两个新的基准，专门用于评估CSSL在两个重要的计算机视觉任务：活动识别和人群计数。我们描述了建立在这些基准之上的连续活动识别（CAR）和连续人群计数（CCC）挑战，为挑战提出的基线模型，并描述了一个简单的CSSL基线，该基线包括在有限数量的回合中在时间会话中应用批量自训练。结果表明，从未标记的数据流中学习是极具挑战性的，并刺激了对数据流动态编码方法的搜索。
2021-10-27 cs.AI cs.CV
PROL : Rehearsal Free Continual Learning in Streaming Data via Prompt Online Learning
STEM University of South Australia（南澳大利亚STEM大学）；Institute for Infocomm Research, A*STAR & IPAL（信息与通信研究所，A*STAR及IPAL）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文提出PROL方法，通过轻量级提示生成器、可训练缩放移位器、PTM泛化保持和硬-软更新机制，在流数据在线持续学习中实现免排练并超越现有SOTA性能。
2025-07-16 cs.AI cs.CV cs.LG
Self-Supervised Training Enhances Online Continual Learning
Rochester Institute of Technology（罗切斯特理工学院）；Paige；Cornell Tech（康奈尔科技学院）
在持续学习中，系统必须从非平稳数据流中增量学习，而不会发生灾难性遗忘。最近，已经设计了多种方法用于在大规模图像分类任务（例如ImageNet）上增量学习类。最先进的持续学习方法使用初始监督预训练阶段，其中在新类的持续学习开始之前，数据集中的前10% - 50%的类用于以离线方式学习表示。我们假设自监督预训练可以产生比监督学习更好的泛化特征，特别是当用于预训练的样本数量很小时。我们使用自监督MoCo-V2、Barlow Twins和SwAV算法来测试这一假设。在ImageNet上，我们发现这些方法在在线持续学习中的表现大大优于监督预训练，并且当可用样本较少时，增益更大。我们的发现在三种在线持续学习算法中是一致的。我们最好的系统实现了14.95%的相对增加，在类增量ImageNet的前1名的准确性比现有技术的在线持续学习。
2021-10-22 cs.CV
Replay-free Online Continual Learning with Self-Supervised MultiPatches
University of Pisa（比萨大学）；Computer Vision Center (CVC)（计算机视觉中心（CVC））
针对在线持续学习（OCL）中回放策略因隐私限制无法使用的问题，提出持续多补丁（CMP）插件，通过生成单样本多补丁并投影到共享特征空间避免回放，性能优于回放及其他SSL策略。
2025-02-13 cs.CV cs.LG
Generalising via Meta-Examples for Continual Learning in the Wild
Università di Trento（特伦托大学）；Università di Modena e Reggio Emilia（摩德纳雷焦艾米利亚大学）
未来的深度学习系统需要能够处理时态数据不断变化的性质以及在出现新问题时注释稀缺的技术。作为实现这一目标的一步，我们提出了FUSION（Few-Shot UnSupervised持续学习），这是一种学习策略，使神经网络能够在未标记的数据流和不平衡的任务上快速持续地学习。其目标是最大限度地提高从未标记数据流（无监督）中提取的知识，促进先前学习的任务和特征（连续）的向前传输，并在可用时尽可能多地利用监督信息（Few-Shot）。FUSION的核心是MEML -元示例元学习-通过在元优化阶段的单个内部循环中使用自我注意机制来巩固元表示。为了进一步提高MEML从少量数据中概括的能力，我们通过创建各种增强的代理任务和优化最困难的任务来扩展它。对公共计算机视觉基准的广泛实验评估表明，FUSION在Few-Shot和持续学习实验环境中的表现优于现有的最先进的解决方案。
2022-05-03 cs.CV cs.LG
Class-Incremental Experience Replay for Continual Learning under Concept Drift
Virginia Commonwealth University（弗吉尼亚联邦大学）
现代机器学习系统需要能够应对不断到达和变化的数据。处理这种情况的两个主要研究领域是持续学习和数据流挖掘。持续学习的重点是积累知识和避免遗忘，假设一旦学习的信息应该被存储。数据流挖掘的重点是适应概念漂移和丢弃过时的信息，假设只有最新的数据是相关的。虽然这两个领域主要是分开开发的，但它们为从动态数据中学习的问题提供了互补的观点。有必要通过提供能够学习和存储新信息的架构来统一它们，以及重新访问和适应以前看到的概念的变化。我们提出了一种新的持续学习方法，可以处理这两个任务。我们的体验重播方法由存储增量到达类的不同实例的重心驱动内存提供动力。这通过一个反应式子空间缓冲器来增强，该缓冲器跟踪先前看到的类中的概念漂移事件并相应地调整聚类。因此，所提出的架构能够记住有效的和忘记过时的信息，提供了一个整体的框架下的概念漂移持续学习。
2021-04-24 cs.CV cs.LG
Lifelong Wandering: A realistic few-shot online continual learning setting
Georgia Institute of Technology（佐治亚理工学院）
在线少样本学习描述了一种设置，其中模型在学习新兴类的同时在数据流上进行训练和评估。虽然在此设置之前的工作已经取得了非常有前途的性能时，从一个单一的室内环境组成的数据流学习的实例分类，我们建议扩展此设置，考虑对象分类的一系列几个室内环境，这是可能发生在应用中，如机器人。重要的是，我们的设置，我们称之为在线Few-Shot持续学习，将灾难性遗忘的充分研究问题注入Few-Shot在线学习范式。在这项工作中，我们基准几个现有的方法和适应基线在我们的设置，并显示存在一个权衡之间的灾难性遗忘和在线性能。我们的发现激发了在这种环境下进行未来工作的需求，这种环境可以在没有灾难性遗忘的情况下实现更好的在线性能。
2022-06-16 cs.CV cs.LG
Data Stream Sampling with Fuzzy Task Boundaries and Noisy Labels
The University of Melbourne（墨尔本大学）
针对模糊任务边界与噪声标签的数据流持续学习问题，提出 NTD 采样去偏方法，在四个数据集上以更少 GPU 内存和两倍以上加速保持或提升准确率。
2024-04-07 cs.AI cs.CV cs.LG
Continual Learning in Neural Networks
University of Oxford（牛津大学）
人工神经网络在完成几个单独的任务（例如，话音识别，对象识别和视频游戏）方面已经超过了人类水平的性能。然而，与人类智能相比，这种成功仍然是有限的，人类智能可以学习和执行无限数量的任务。人类在一生中学习和积累知识的能力是其智力的一个重要方面。连续机器学习旨在通过为人工代理提供从非静态和永无止境的数据流在线学习的能力来实现更高水平的机器智能。这种永无止境的学习过程的一个关键组成部分是克服对先前看到的数据的灾难性遗忘，这是神经网络众所周知的问题。本论文的主要工作是研究神经网络中的持续学习和克服遗忘现象的方法。为了解决持续学习问题，我们首先假设一个任务增量设置，其中一次接收一个任务，并且不存储来自先前任务的数据。由于任务增量设置不能在所有的持续学习场景中假设，我们也研究了更一般的在线持续设置。我们考虑一个无限的数据流从一个非平稳分布与监督或自我监督的训练信号。本文提出的方法解决了持续学习的重要方面。他们根据不同的基准和不同的学习顺序进行评估。在持续学习的最新技术水平的进步已经显示出来，并严格确定了将持续学习付诸应用的挑战。
2019-10-18 cs.CV cs.LG stat.ML
Patch-Based Contrastive Learning and Memory Consolidation for Online Unsupervised Continual Learning
Georgia Institute of Technology（佐治亚理工学院）；CYENS Centre of Excellence（CYENS卓越中心）；The Cyprus Institute（塞浦路斯研究所）
本文提出在线无监督持续学习范式O-UCL及方法PCMC，通过补丁级对比学习提取特征并聚类构建组合理解，在睡眠期巩固记忆以避免灾难性遗忘，在ImageNet和Places365数据流上表现优异。
2024-09-24 cs.CV cs.LG
Online Continual Learning on Sequences
ContinualAI Research（ContinualAI研究院）；University of Hamburg（汉堡大学）；University of Bologna（博洛尼亚大学）
在线持续学习（OCL）是指系统能够随着时间的推移从连续的数据流中学习，而不必重新访问以前遇到的训练样本。在单一数据传递中持续学习对于在不断变化的环境中运行的智能体和机器人至关重要，并且需要从非i.i.d.获取，微调和传输越来越复杂的表示。输入分布解决OCL的机器学习模型必须缓解\textit{catastrophic forgetting}，其中隐藏的表示在从新输入流中学习时被破坏或完全覆盖。在本章中，我们总结并讨论了最近的深度学习模型，这些模型通过使用（和组合）突触正则化、结构可塑性和经验重放来解决顺序输入上的OCL。已经提出了不同的重放实现，通过输入序列（的潜在表征）的重现来减轻连接主义架构中的灾难性遗忘，并且在功能上类似于哺乳动物大脑中海马重放的机制。经验证据表明，具有经验重放的架构通常优于没有（在线）增量学习任务的架构。
2020-03-20 cs.CV cs.LG cs.NE
Prior-free Balanced Replay: Uncertainty-guided Reservoir Sampling for Long-Tailed Continual Learning
Shenzhen Research Institute of Big Data (SRIBD)（深圳大数据研究院）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；The Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong Polytechnic University（香港理工大学）
针对长尾持续学习中的灾难性遗忘问题，提出无先验平衡回放（PBR）框架，通过不确定性引导的蓄水池采样及边界与原型约束，在无需先验信息下有效减少遗忘并超越现有方法。
2024-08-27 cs.AI cs.CV cs.LG
CBA: Improving Online Continual Learning via Continual Bias Adaptor
Xi’an Jiaotong University（西安交通大学）；City University of Hong Kong（香港城市大学）；Xidian University（西安电子科技大学）；Macau University of Science and Technology（澳门科技大学）
针对在线持续学习中的灾难性遗忘与新任务偏置问题，提出可在测试时移除的CBA模块以稳定分类器，并通过理论分析和多基准实验验证其有效性。
2023-08-14 cs.CV cs.LG
Rehearsal revealed: The limits and merits of revisiting samples in continual learning
KU Leuven（鲁汶大学）
从非平稳数据流中学习和克服灾难性遗忘仍然是机器学习研究的一个严峻挑战。在这项工作中，我们不是为了提高最先进的水平，而是深入了解排练的局限性和优点，这是持续学习最成熟的方法之一。我们假设，在任务完成后，通过排练顺序训练的模型倾向于停留在同一个低损失区域，但有过度拟合样本记忆的风险，因此会损害泛化。我们为这两种行为的三个基准提供了概念和强有力的经验证据，为排练和持续学习的动态带来了新的见解。最后，我们根据我们的研究结果解释了重要的持续学习作品，以便更深入地了解他们的成功。
2021-04-15 cs.CV cs.LG
Label Delay in Online Continual Learning
University of Oxford（牛津大学）；Intel Labs（英特尔实验室）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Meta
针对在线持续学习中被忽视的标签延迟问题，提出显式建模标签延迟的框架及一种简单高效的基线方法，通过排练与未标记样本最相似的已标记记忆样本，有效弥合了标签延迟造成的准确率差距。
2024-04-25 cs.CV cs.LG
Contrastive Learning for Online Semi-Supervised General Continual Learning
Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；CNRS（法国国家科学研究中心）；LIGM（马恩拉瓦莱信息与数学实验室）
我们研究在线持续学习与缺失标签，并提出SemiCon，一个新的对比损失设计的部分标记的数据。我们通过设计一种基于内存的方法来证明其效率，该方法在未标记的数据流上进行训练，其中添加到内存中的每个数据都使用Oracle进行标记。当可用标签很少时，我们的方法优于现有的半监督方法，并且在Split-CIFAR 10上仅使用2.6%的标签和Split-CIFAR 100上仅使用10%的标签的情况下，获得与最先进的监督方法相似的结果。
2022-11-22 cs.AI cs.CV cs.LG
Real-Time Evaluation in Online Continual Learning: A New Hope
King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学（KAUST））；University of Oxford（牛津大学）
当前对持续学习（CL）方法的评估通常假设对训练时间和计算没有约束。对于任何现实世界的设置来说，这都是一个不切实际的假设，这促使我们提出：对持续学习进行实用实时的【形】评估，其中流在揭示下一个预测数据之前不会等待模型完成训练。要做到这一点，我们评估当前CL方法的计算成本。我们在CLOC上进行了广泛的实验，CLOC是一个包含3900万个带有地理位置标签的时间戳图像的大规模数据集。我们表明，一个简单的基线优于国家的最先进的CL方法在此评估，质疑现有方法在现实环境中的适用性。此外，我们还探讨了文献中常用的各种CL组件，包括内存采样策略和正则化方法。我们发现，所有考虑的方法都无法与我们的简单基线竞争。这令人惊讶地表明，大多数现有的CL文献是针对特定类别的流，这是不实际的。我们希望，我们提供的评估将是第一步的范式转变，考虑在线持续学习方法的发展中的计算成本。
2023-03-24 cs.AI cs.CV cs.LG
Online Continual Learning with Natural Distribution Shifts: An Empirical Study with Visual Data
Intel Labs（英特尔实验室）
持续学习是在多个任务和环境中通过时间学习和保留知识的问题。研究主要集中在增量分类设置，其中新的任务/类以离散的时间间隔添加。这种“离线”设置不会评估代理有效和高效学习的能力，因为代理可以在添加任务时执行多个学习时期而没有任何时间限制。我们认为，“在线”持续学习，其中数据是一个单一的连续流没有任务边界，使评估信息保留和在线学习的功效。在在线持续学习中，每个传入的小批量数据首先用于测试，然后添加到训练集中，使问题真正在线。经过训练的模型随后会在历史数据上进行评估，以评估信息保留情况。我们介绍了一个新的基准在线持续视觉学习，表现出大规模和自然的分布偏移。通过大规模的分析，我们确定关键的和以前未观察到的现象，基于梯度的优化持续学习，并提出有效的策略，以改善基于梯度的在线持续学习与真实数据。源代码和数据集可在：https://github.com/IntelLabs/continuallearning。
2021-09-22 cs.CV cs.LG
CLAD: A realistic Continual Learning benchmark for Autonomous Driving
KU Leuven（鲁汶大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
在本文中，我们描述的设计和思想，激励一个新的持续学习基准自动驾驶（CLAD），重点是对象分类和目标检测的问题。该基准测试使用SODA 10 M，这是一个最近发布的大规模数据集，涉及自动驾驶相关问题。首先，我们回顾和讨论现有的持续学习基准，它们是如何相关的，并表明大多数是持续学习的极端情况。为此，我们调查了在三个高排名的计算机视觉会议的持续学习论文中使用的基准。接下来，我们介绍CLAD-C，一个在线分类基准实现通过按时间顺序的数据流，构成类和域增量的挑战;和CLAD-D，域增量连续目标检测基准。我们通过对ICCV 2021年CLAD挑战研讨会前3名参与者使用的技术和方法的调查，研究了基准测试带来的固有困难和挑战。我们的结论与可能的途径，以改善目前的持续学习的艺术状态，以及我们认为有前途的未来研究的方向。
2022-10-07 cs.CV cs.LG
SIESTA: Efficient Online Continual Learning with Sleep
Rochester Institute of Technology（罗切斯特理工学院）；United States Space Force（美国太空军）；University of Rochester（罗切斯特大学）
本文提出基于 wake/sleep 框架的 SIESTA 持续学习方法，通过无重放、无反向传播的在线更新与睡眠阶段受限重放巩固，在单 GPU 上 2 小时内完成 ImageNet-1K 学习并达到离线性能。
2023-11-02 cs.CV cs.LG
Task Arithmetic with LoRA for Continual Learning
Pune Institute of Computer Technology（浦那计算机技术学院）
针对持续学习中的灾难性遗忘和计算成本高的问题，提出结合LoRA与任务算术的Transformer视觉模型持续训练方法，可规避遗忘、降低计算量，小内存辅助下性能接近全量微调。
2023-11-04 cs.CV cs.LG
Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting
North Carolina State University（北卡罗来纳州立大学）；Salesforce Research（赛富时研究院）
解决灾难性遗忘是持续学习的关键挑战之一，其中机器学习系统是用顺序或流式任务训练的。尽管最近在最先进的深度学习方面取得了显着进展，但深度神经网络（DNN）仍然受到灾难性遗忘问题的困扰。本文提出了一个概念上简单而通用的有效框架，用于处理持续学习中的灾难性遗忘。所提出的方法由两个部分组成：神经结构优化组件和参数学习和/或微调组件。通过分离显式神经结构学习和参数估计，该方法不仅能够以直观有意义的方式进化神经结构，而且在实验中显示出较强的缓解灾难性遗忘的能力。此外，所提出的方法优于所有其他基线上的排列MNIST数据集，分裂CIFAR 100数据集和视觉领域十项全能数据集在持续学习设置。
2019-05-21 cs.CV cs.LG
Don't forget, there is more than forgetting: new metrics for Continual Learning
ENSTA ParisTech（巴黎高等先进技术学院）；INRIA Flowers（法国国家信息与自动化研究所Flowers实验室）；University of Bologna（博洛尼亚大学）
持续学习包括从数据/任务流中持续学习的算法和自适应的思考时间，从而实现更复杂知识和技能的增量开发。在评估持续学习算法方面缺乏共识，并且几乎只关注遗忘，这促使我们提出一套更全面的独立于实现的指标，考虑到我们认为在部署持续学习的真实AI系统时值得考虑的几个因素：随着时间的推移的准确性或性能，向后和向前的知识转移，内存开销以及计算效率。从标准的多属性值理论（MAVT）的启发，我们进一步提出将这些指标融合到一个单一的分数排名的目的，我们评估我们的建议与iCIFAR-100持续学习基准的五个持续学习策略。
2018-10-31 cs.AI cs.CV cs.LG
Projected Latent Distillation for Data-Agnostic Consolidation in Distributed Continual Learning
University of Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学校）；Computer Vision Center（计算机视觉中心）
边缘上的分布式学习通常包括以自我为中心的设备（SCD），它们独立地学习本地任务，并且不愿意为其他SDC的性能做出贡献。我们如何以零成本实现单个SCD的前向传输？我们将此问题形式化为分布式持续学习场景，其中SCD适应本地任务，CL模型从所产生的模型流中整合知识，而无需查看SCD的私有数据。不幸的是，目前的CL方法不直接适用于这种情况。我们提出了数据不可知的合并（DAC），一种新的双重知识蒸馏方法，合并流的SC模型，而不使用原始数据。DAC通过一种新的投影潜在蒸馏损失在潜在空间中执行蒸馏。实验结果表明，DAC能够在SCD之间进行前向传输，并在Split CIFAR100，CORe50和Split TinyImageNet上达到最先进的准确性，无论是在无再骚扰和分布式CL场景中。令人惊讶的是，即使是一个单独的分发映像也足以作为整合过程中的唯一数据源。
2023-03-28 cs.AI cs.CV cs.LG
Renate: A Library for Real-World Continual Learning
Amazon Web Services（亚马逊云科技）；University College London（伦敦大学学院）
本文提出持续学习库 Renate，面向 PyTorch 模型的真实世界增量更新流水线，依据实践需求设计组件与接口，并通过实验展示其优势。
2023-04-24 cs.AI cs.CV cs.LG
VERSE: Virtual-Gradient Aware Streaming Lifelong Learning with Anytime Inference
IIT Kanpur（坎普尔印度理工学院）；Amazon（亚马逊公司）；University Of Bath（巴斯大学）
针对流式终身学习中的灾难性遗忘问题，提出基于虚拟梯度的持续表示学习方法，结合指数移动平均语义记忆，支持单次遍历、类增量学习与随时推理，在多数据集上表现优于现有方法。
2024-02-19 cs.AI cs.CV cs.LG
Learning to Remember: A Synaptic Plasticity Driven Framework for Continual Learning
Humboldt-Universität zu Berlin（柏林洪堡大学）；University of Trento（特伦托大学）；SAP ML Research（SAP机器学习研究院）
在持续学习（CL）环境中训练的模型应该能够在未定义的时间段内从数据流中学习。这里的主要挑战是：1）维护旧知识，同时在学习新任务时从中受益，2）保证模型的可扩展性，并从越来越多的数据中学习。为了应对这些挑战，我们引入了动态生成记忆（DGM）-一个突触可塑性驱动的持续学习框架。DGM依赖于有条件的生成对抗网络，具有通过神经掩蔽实现的可学习连接可塑性。具体来说，我们评估了神经掩蔽的两种变体：（i）应用于层激活和（ii）直接应用于连接权重。此外，我们提出了一个动态的网络扩展机制，确保足够的模型容量，以适应不断传入的任务。增加的容量的量根据学习的二进制掩码动态地确定。我们在视觉分类任务的连续类增量设置中评估DGM。
2019-12-02 cs.CV cs.LG cs.NE
Label-Efficient Online Continual Object Detection in Streaming Video
Show Lab（Show实验室）；National University of Singapore（新加坡国立大学）；Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research（科学技术研究局）
针对流式视频持续目标检测标注成本高的问题，提出即插即用模块Efficient-CLS，可嵌入现有持续学习器，在低标注量下实现更优检测性能与更低遗忘。
2023-08-23 cs.CV
Continual Learning and Catastrophic Forgetting
Department of Electrical Engineering KU Leuven, Belgium（卢森堡鲁文大学电气工程系）；Department of Electrical and Computer Engineering University of Texas at San Antonio, USA（德克萨斯大学圣安东尼奥分校电气与计算机工程系）
本书章节探讨持续学习从非平稳数据流增量学习的挑战，重点分析灾难性遗忘现象，并回顾该领域近十年的研究见解。
2024-03-08 cs.AI cs.CV cs.LG
DeepCoT: Deep Continual Transformers for Real-Time Inference on Data Streams
Aarhus University（奥胡斯大学）；Tampere University（坦佩雷大学）
本文提出DeepCoT，一种无需冗余的编码器注意力机制，适用于现有深度编码器架构，实现线性计算成本，显著提升实时推理效率。
2026-03-31 cs.CL cs.CV cs.LG
StrLoRA: Towards Streaming Continual Visual Instruction Tuning for MLLMs
Hefei University of Technology（合肥工业大学）；Tsinghua University（清华大学）
本文提出StrLoRA，一种流式连续视觉指令微调方法，旨在解决动态任务流中模型持续学习的问题，通过任务感知的专家路由框架提升模型在不断变化的数据流中的表现。
2026-05-19 cs.AI cs.CV
Generalized Robust Test-Time Adaptation in Continuous Dynamic Scenarios
Beijing Institute of Technology（北京理工大学）；Xi’an Jiaotong University（西安交通大学）
针对实际场景中持续协变量偏移与标签偏移共存的测试时自适应难题，提出GRoTTA方法，通过鲁棒参数适配和偏差引导输出适配实现稳定适配，性能显著优于现有方法。
2023-10-07 cs.CV
Continual Active Learning for Efficient Adaptation of Machine Learning Models to Changing Image Acquisition
Medical University of Vienna（维也纳医科大学）
临床常规中的成像受制于改变的扫描仪协议、硬件或在典型的异构采集硬件集合中的策略。深度学习模型的准确性和可靠性受到这些变化的影响，因为数据和目标变得与其初始静态训练集不一致。持续学习可以适应变化的成像环境的连续数据流。在这里，我们提出了一种方法，连续主动学习的数据流的医学图像。它识别新成像源（域）的变化或添加，相应地调整训练，并选择最佳示例进行标记。模型训练必须应对有限的标签预算，类似于典型的现实世界场景。我们证明了我们的方法T1加权磁共振图像从三个不同的扫描仪的任务，脑年龄估计。结果表明，所提出的方法优于天真的主动学习，同时需要较少的人工标记。
2021-06-07 cs.CV cs.LG
Wanderlust: Online Continual Object Detection in the Real World
Carnegie Mellon University（卡内基梅隆大学）；Microsoft Research（微软研究院）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
动态环境下数据流的在线持续学习是计算机视觉领域的一个重要研究方向。然而，在这方面仍然缺乏现实的基准和基本研究。为了弥补这一差距，我们提出了一个新的在线连续目标检测基准与自我中心的视频数据集，对象周围克里希纳（OAK）。OAK采用了KrishnaCAM视频，这是一个以自我为中心的视频流，由一名研究生在九个月内收集。OAK为户外场景中的105个对象类别提供了80个视频片段（约17.5小时）的详尽限界框注释。在我们的基准测试中，新对象类别的出现遵循的模式类似于一个人在日常生活中可能看到的模式。该数据集还捕获了当人旅行到不同地方时的自然分布偏移。这些以自我为中心的长时间视频为持续学习算法提供了一个现实的操场，特别是在在线嵌入式设置中。我们还引入了新的评估指标来评估模型的性能和灾难性遗忘，并提供在线连续目标检测的基线研究。我们相信这个基准将为在持续学习中从非平稳数据中学习带来新的令人兴奋的挑战。OAK数据集和相关基准在https://oakdata.github.io/上发布。
2021-09-07 cs.CV cs.LG
Continual Visual and Verbal Learning Through a Child's Egocentric Input
Agentic Learning AI Lab, New York University（代理学习人工智能实验室，纽约大学）；Department of Psychology, Princeton University（心理学系，普林斯顿大学）
提出BabyCL持续多模态学习框架，在单一时间顺序处理SAYCam数据集，通过流式视觉表示学习和图像-文本对比目标，在SAYCam Labeled-S 4AFC基准上优于流式学习基线，缩小了与离线训练上限的差距。
2026-06-03 cs.AI cs.CL cs.CV
Continual Active Learning Using Pseudo-Domains for Limited Labelling Resources and Changing Acquisition Characteristics
Medical University of Vienna（维也纳医科大学）
临床常规期间医学成像中的机器学习因扫描仪协议、硬件或策略的变化而受损，导致采集设置的异构集。当在初始静态训练集上训练深度学习模型时，由于数据和目标可能变得不一致，模型性能和可靠性会受到采集特征变化的影响。持续学习可以通过在连续数据流上进行训练来帮助模型适应不断变化的环境。然而，医学成像的连续手动专家标记需要大量的工作。因此，如何有效地使用标签资源的一个精心挑选的子集的新的例子是必要的，使这一战略可行。在这里，我们提出了一种用于在多扫描仪设置中对医学图像流进行连续主动学习操作的方法。该方法自动识别图像采集特征的变化-新的领域-，选择最佳的例子进行标记，并相应地调整训练。标签是有限的预算，类似于典型的现实世界的情况。为了证明推广性，我们评估了我们的方法在三个任务上的有效性：心脏分割，肺结节检测和大脑年龄估计。实验结果表明，该方法在有效抑制灾难性遗忘的同时，优于其他主动学习方法。
2022-03-15 cs.AI cs.CV cs.LG
Continual Test-Time Adaptation via Entropy Sensitivity-Guidance in Strict Online Setting
Norwegian University of Life Sciences (NMBU)（挪威生命科学大学）；Tulane University（杜兰大学）
本文提出SEGA方法，用于严格在线持续测试时适应，通过结构化擦除探测熵变化以协调恢复与样本选择，在多数据集上提升了鲁棒性与稳定性并减少反向传播次数。
2026-09-01 cs.CV cs.LG
