Continual Lifelong Learning with Neural Networks: A Review
Universität Hamburg（汉堡大学）；Rochester Institute of Technology（罗切斯特理工学院）；Heriot-Watt University（赫瑞-瓦特大学）
人类和动物有能力在其一生中不断获得，微调和转移知识和技能。这种能力被称为终身学习，是由一套丰富的神经认知机制介导的，这些机制共同促进我们感觉运动技能的发展和专业化，以及长期记忆的巩固和检索。因此，终身学习能力是至关重要的自主智能体在现实世界中进行交互和处理连续的信息流。然而，终身学习仍然是机器学习和神经网络模型的长期挑战，因为从非平稳数据分布中不断获取增量可用信息通常会导致灾难性遗忘或干扰。这种限制代表了最先进的深度神经网络模型的主要缺点，该模型通常从静止批次的训练数据中学习表示，因此没有考虑到信息随着时间的推移变得增量可用的情况。在这篇综述中，我们批判性地总结了与人工学习系统终身学习相关的主要挑战，并比较了现有的神经网络方法，这些方法在不同程度上缓解了灾难性遗忘。我们讨论了成熟的和新兴的研究动机终身学习因素在生物系统，如结构可塑性，记忆重放，课程和迁移学习，内在动机，多感官整合。
2019-02-11 cs.LG q-bio.NC stat.ML
Self-Net: Lifelong Learning via Continual Self-Modeling
Georgia State University（佐治亚州立大学）
随着时间的推移学习一组任务，也称为持续学习（CL），是人工智能中最具挑战性的问题之一。虽然最近的方法在深度神经网络中实现了一定程度的CL，但它们要么（1）随着任务的数量线性增长网络参数，要么（2）需要存储来自先前任务的训练数据，要么（3）限制网络学习新任务的能力。为了解决这些问题，我们提出了一个新的框架，Self-Net，它使用自动编码器来学习一组为不同任务学习的权重的低维表示。我们证明，这些低维向量，然后可以用来生成高保真回忆的原始权重。Self-Net可以随着时间的推移整合新任务，几乎不需要重新训练，并且旧任务的性能损失最小。我们的系统不需要存储先前的训练数据，并且其参数仅随着任务的数量而几何地增长。我们证明了我们的技术在许多数据集上的表现优于当前最先进的方法--包括MNIST，CIFAR 10，CIFAR 100和Atari的连续版本--并且我们证明了我们的方法可以以连续的方式实现超过10倍的存储压缩。据我们所知，我们是第一个使用自动编码器来顺序编码网络权重集以实现持续学习的人。
2019-07-12 cs.AI cs.LG stat.ML
SOLAR: A Self-Optimizing Open-Ended Autonomous Agent for Lifelong Learning and Continual Adaptation
Department of Ophthalmology, Yong Loo Lin School of Medicine, National University of Singapore, Singapore（眼科学系，Yong Loo Lin医学院，新加坡国立大学，新加坡）；Department of Computational and Data Sciences, Indian Institute of Science, Bangalore, Karnataka, India（计算与数据科学系，印度科学研究院，班加罗尔，卡纳塔克邦，印度）
本文提出SOLAR，一种自优化的开放式自主代理，通过参数级元学习实现自我改进，解决了动态真实世界中概念漂移和梯度基适应成本高的问题，展示了在常识、数学、医学、编程、社交和逻辑推理任务上的优越性能。
2026-03-23 cs.AI cs.LG
Adaptive Online Planning for Continual Lifelong Learning
UC Berkeley（加州大学伯克利分校）；Google Brain（谷歌大脑）
我们在一个在线的免重置终身学习场景中研究学习控制，在这个场景中，错误可能会在未来灾难性地复合，环境的潜在动态可能会发生变化。传统的无模型策略学习方法由于其广泛的灵活性而在困难的任务中取得了成功，但在这种情况下却很困难，因为它们可以在其生命周期的早期激活故障模式，这些故障模式难以恢复，并且随着动态变化而面临性能下降。另一方面，基于模型的规划方法学习和适应速度快，但需要高水平的计算资源。我们提出了一种新的算法，自适应在线规划（AOP），在这种情况下，通过结合基于模型的规划与无模型学习，实现强大的性能。通过近似无模型组件和规划器性能的不确定性，AOP能够仅在必要时调用更广泛的规划，从而减少计算时间，同时在面对世界上不可预测的变化时仍然优雅地适应行为-即使传统的RL失败。
2020-06-27 cs.AI cs.LG cs.RO
Continual evaluation for lifelong learning: Identifying the stability gap
KU Leuven（鲁汶大学）
本文针对持续学习模型在开始学习新任务时出现的暂时性遗忘现象（即“稳定性间隙”），提出了基于每次迭代评估的持续评估框架和新指标，揭示了多种主流方法均存在该问题，并给出了概念性解释。
2023-03-30 cs.AI cs.CV cs.LG
Lifelong Wandering: A realistic few-shot online continual learning setting
Georgia Institute of Technology（佐治亚理工学院）
在线少样本学习描述了一种设置，其中模型在学习新兴类的同时在数据流上进行训练和评估。虽然在此设置之前的工作已经取得了非常有前途的性能时，从一个单一的室内环境组成的数据流学习的实例分类，我们建议扩展此设置，考虑对象分类的一系列几个室内环境，这是可能发生在应用中，如机器人。重要的是，我们的设置，我们称之为在线Few-Shot持续学习，将灾难性遗忘的充分研究问题注入Few-Shot在线学习范式。在这项工作中，我们基准几个现有的方法和适应基线在我们的设置，并显示存在一个权衡之间的灾难性遗忘和在线性能。我们的发现激发了在这种环境下进行未来工作的需求，这种环境可以在没有灾难性遗忘的情况下实现更好的在线性能。
2022-06-16 cs.CV cs.LG
Neural Topic Modeling with Continual Lifelong Learning
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
针对短文档数据稀疏导致主题建模效果不佳的问题，提出终身神经主题建模（LNTM）框架，通过共享生成同源和选择性数据增强等方法持续积累主题并减少灾难性遗忘，在困惑度、主题连贯性和信息检索上取得显著提升。
2023-06-27 cs.CL cs.IR cs.LG
VERSE: Virtual-Gradient Aware Streaming Lifelong Learning with Anytime Inference
IIT Kanpur（坎普尔印度理工学院）；Amazon（亚马逊公司）；University Of Bath（巴斯大学）
针对流式终身学习中的灾难性遗忘问题，提出基于虚拟梯度的持续表示学习方法，结合指数移动平均语义记忆，支持单次遍历、类增量学习与随时推理，在多数据集上表现优于现有方法。
2024-02-19 cs.AI cs.CV cs.LG
How to Reuse and Compose Knowledge for a Lifetime of Tasks: A Survey on Continual Learning and Functional Composition
Massachusetts Institute of Technology（麻省理工学院）；University of Pennsylvania（宾夕法尼亚大学）
本文针对人工智能智能体终身积累知识的需求，综述了持续学习与组合式学习的研究现状，探讨二者的关联，以推动跨领域研究发展。
2023-06-13 cs.AI cs.LG
Lifelong Adaptive Machine Learning for Sensor-based Human Activity Recognition Using Prototypical Networks
University of Texas at Austin（德克萨斯大学奥斯汀分校）
持续学习，也称为终身学习，是机器学习领域的一个新兴的研究课题。随着人类活动识别（HAR）在众多现实世界应用中发挥关键作用，长期部署此类识别系统的重要一步是扩展活动模型，以动态适应人们日常行为的变化。目前应用于HAR领域的持续学习的研究仍处于探索阶段，研究人员正在探索HAR中为计算机视觉开发的现有方法。此外，到目前为止，分析集中在任务增量或类增量学习范式的任务边界是已知的。这阻碍了这种方法对现实世界系统的适用性，因为数据以随机流的方式呈现。为了推动这一领域的发展，我们建立在持续机器学习领域的最新进展的基础上，并设计了一个终身自适应学习框架，使用原型网络，LAPNet-HAR，以无任务的数据增量方式处理基于传感器的数据流，并使用经验重放和持续的原型适应来减轻灾难性遗忘。在线学习进一步促进使用对比损失，以加强类间分离。LAPNet-HAR在5个公开的活动数据集上进行评估，评估框架在保留以前知识的同时获取新信息的能力。我们广泛的实证结果表明LAPNet-HAR在无任务持续学习中的有效性，并为未来的挑战揭示了有用的见解。
2022-03-11 cs.LG eess.SP
Lifelong and Continual Learning Dialogue Systems
Intel Labs（英特尔实验室）；University of Illinois at Chicago (UIC)（伊利诺伊大学芝加哥分校）；Indian Institute of Technology (IIT) - Roorkee（印度理工学院鲁尔基分校）
本书提出终身学习对话系统范式，使聊天机器人能在与用户和环境的自主交互中持续学习语言、知识、样本与对话技能，并综述相关技术进展与未来挑战。
2024-06-17 cs.AI cs.CL cs.HC
Learning from Mistakes: Rollout-Retrieval Lifelong Policy Learning for Autonomous Driving
School of Mechanical Engineering, Beijing Institute of Technology（北京理工大学机械工程学院）；School of Mechanical and Aerospace Engineering, Nanyang Technological University（南洋理工大学机械与航空航天工程学院）
提出R²LPL框架，通过从可恢复的闭环驾驶错误中检索纠正目标并进行终身学习，将稀疏失败证据转化为监督知识，持续提升自动驾驶策略性能。
2026-06-29 cs.AI cs.CV cs.LG
Regularize, Expand and Compress: Multi-task based Lifelong Learning via NonExpansive AutoML
Arizona State University（亚利桑那州立大学）；University of Southern California（南加利福尼亚大学）；Samsung Research America（三星美国研究院）
终身学习，即任务按顺序到达的持续学习问题，最近在计算机视觉界引起了越来越多的关注。终身学习的目标是开发一个系统，可以学习新的任务，同时保持以前学习的任务的性能。然而，深度神经网络的终身学习存在两个障碍：灾难性遗忘和容量限制。为了解决上述问题，受到最近自动学习良好神经网络架构的突破的启发，我们通过非扩展的AutoML框架开发了一个基于多任务的终身学习，称为正则化，扩展和压缩（REC）。REC由三个阶段组成：1）通过新提出的多任务权重合并（MWC）算法，在没有已学习任务数据的情况下持续学习顺序任务; 2）通过基于网络转换的AutoML扩展网络，以帮助终身学习，从而潜在地提高模型能力和性能; 3）在学习每个新任务后压缩扩展的模型，以保持模型的效率和性能。建议MWC和REC算法实现优于其他终身学习算法在四个不同的数据集上的性能。
2019-03-20 cs.CV cs.LG
Lifelong Learning Without a Task Oracle
University of Southern California（南加州大学）
已知有监督的深度神经网络在学习新任务时，旧任务的准确性会急剧下降，称为“灾难性遗忘“。持续学习的许多最先进的解决方案依赖于偏置和/或划分模型来增量地适应连续的任务。然而，这些方法在很大程度上依赖于任务预言机的可用性，以赋予每个测试样本的任务身份，没有它的模型是完全无法执行的。为了解决这个缺点，我们提出并比较了几个候选任务分配映射器，需要很少的内存开销：（1）增量无监督原型分配使用最近的平均值，高斯混合模型或模糊ART骨干;（2）监督增量原型分配快速模糊ARTMAP;（3）浅感知器通过动态coreset训练。我们提出的模型变体是从预训练的特征提取器或主分类器网络的任务相关特征嵌入中训练的。我们将这些管道变体应用于持续学习基准，这些基准由多个数据集的序列或单个数据集组成。总的来说，这些方法，尽管它们的简单性和紧凑性，执行非常接近地面真理预言，特别是在数据集间任务分配的实验中。此外，性能最佳的变体仅增加了1.7%的参数内存平均成本。
2020-11-09 cs.AI cs.LG
RECALL: Recovery Experience Collection for Active Lifelong Learning in Vision-Language-Action Models
Yale University（耶鲁大学）
提出主动不确定性引导的数据收集方法，结合持续学习技术，解决VLA模型被动模仿学习中的效率低和灾难性遗忘问题。
2026-06-23 cs.AI cs.LG cs.RO
Neuro-Logic Lifelong Learning
针对神经符号AI中现有ILP研究多聚焦单任务网络设计、缺乏序列问题学习范式探索的问题，本文提出可复用前期任务逻辑规则的神经逻辑终身学习框架，通过实验验证了该范式的可行性与优势。
2025-11-16 cs.AI cs.LG
In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models
Monash University（莫纳什大学）；CSIRO（联邦科学与工业研究组织）；Cerenaut（塞雷诺特公司）
本文针对机器学习的持续学习挑战，提出4MAS架构，结合经验重放、REM睡眠与双侧性，利用不对称半球的长短时记忆机制，在三个分割数据集上取得有竞争力的准确率。
2026-09-29 cs.AI cs.LG
Towards Lifelong Learning of Large Language Models: A Survey
South China University of Technology（华南理工大学）
本文综述了大语言模型终身学习的研究，提出将方法分为内部知识与外部知识两大类，并建立覆盖12种场景的新分类法，系统梳理持续预训练、持续微调、检索与工具等策略，以提升模型在动态环境中的适应性与可靠性。
2024-06-10 cs.CL cs.LG
Towards Principled Continual Anomaly Detection: A Systematic Framework and Benchmark Scenarios
AGH University of Krakow（克拉科夫AGH科技大学）；American University（美国大学）
研究持续异常检测，提出从现有表格异常检测数据集设计可重复基准场景的系统框架，能发现候选任务、过滤不合适任务并得出有原则排序，还能从三个数据集提供五个基准场景，涵盖单数据集和多数据集设置。
2026-07-22 cs.AI cs.LG
InCLAD: A Continual Learning Benchmark for Industrial Visual Anomaly Detection
AGH University of Krakow（克拉科夫AGH科技大学）；American University（美利坚大学）
InCLAD基准针对工业视觉异常检测的静态基准缺陷，构建任务增量式半监督持续学习场景，从图像级和像素级评估性能，为工业环境下的知识保留等研究提供路径。
2026-10-14 cs.AI cs.LG
Lifelong Learning using Eigentasks: Task Separation, Skill Acquisition, and Selective Transfer
SRI International（SRI国际）
我们介绍了终身学习的特征任务框架。特征任务是解决一组相关任务的技能配对，与可以从技能的输入空间中采样的生成模型配对。该框架扩展了生成重放方法，主要用于避免灾难性遗忘，也可以解决其他终身学习目标，如向前知识转移。在我们的框架中，我们提出了一个交替任务学习和知识巩固学习的唤醒-睡眠周期，并将其实例化为终身监督学习和终身RL。我们在监督持续学习中实现了最先进的性能改进，并在游戏星际争霸2中的终身RL应用中显示了向前知识转移的证据。
2020-07-14 cs.AI cs.CV cs.LG
Explainable Lifelong Stream Learning Based on "Glocal" Pairwise Fusion
Universiti Malaya（马来亚大学）；Universität Hamburg（汉堡大学）
本文提出可解释终身学习模型ExLL，采用自组织原型架构和全局-局部成对融合，在资源受限设备上实现单次流式学习，并在多个数据集上超越现有在线学习算法。
2023-06-23 cs.LG
Task-Aware Information Routing from Common Representation Space in Lifelong Learning
Advanced Research Lab, NavInfo Europe（四维图新欧洲先进研究实验室）；Eindhoven University of Technology（埃因霍温理工大学）
部署在现实世界中的智能系统在面对一系列任务时会遭受灾难性遗忘。另一方面，人类在任务之间获取、巩固和转移知识，很少干扰巩固的知识。伴随着自我调节的神经发生，大脑中的持续学习由一组丰富的神经生理过程控制，这些过程包含不同类型的知识，然后通过意识加工整合。因此，受大脑中有意识信息访问的全局工作空间理论的启发，我们提出了TAMiL，一种持续学习方法，该方法需要任务注意模块从公共表征空间中捕获特定于任务的信息。我们采用简单的，欠完备的自编码器之间的公共表示空间和全局工作空间，只允许任务相关的信息的全局工作空间，从而大大减少了任务的干扰。实验结果表明，我们的方法优于国家的最先进的排练为基础的和动态稀疏的方法和固定容量和参数隔离方法之间的差距，同时是可扩展的。我们还表明，我们的方法有效地减轻了灾难性遗忘，同时被很好地校准，减少任务近因偏见。
2023-02-14 cs.AI cs.CV cs.LG
Lifelong Learning with Sketched Structural Regularization
Johns Hopkins University（约翰斯·霍普金斯大学）；HRL Laboratories, LLC（HRL实验室有限责任公司）
在不断学习新任务的同时防止灾难性遗忘是终身学习的一个基本问题。结构正则化（SR）是指一系列算法，通过惩罚网络在学习新任务时改变先前任务的“关键参数”来减轻灾难性遗忘。惩罚通常通过由\emph{importance matrix}定义的二次正则化子来诱导，例如，弹性权重合并框架中的（经验）Fisher信息矩阵。在实践中，由于计算的限制，大多数SR方法粗略地近似的重要性矩阵的对角线。在本文中，我们提出了\emph{Sketched Structural Regularization}（草图SR）作为一种替代方法来压缩用于正则化SR方法的重要性矩阵。具体来说，我们应用\emph{linear sketching methods}更好地近似SR算法中的重要性矩阵。我们表明，草图SR：（i）计算上高效并且易于实现，（ii）提供理论上合理的近似误差，以及（iii）是构造上不经意的方法，并且可以适用于属于结构正则化类的任何方法。我们表明，我们提出的方法一致地提高各种SR算法的合成实验和基准持续学习任务，包括置换MNIST和CIFAR-100的性能。
2021-04-17 cs.LG
A Probabilistic Framework for Lifelong Test-Time Adaptation
Indian Institute of Technology Kanpur（印度理工学院坎普尔分校）
本文提出PETAL框架解决终身测试时适应问题，通过结合学生-教师模型与源模型正则化，并引入数据驱动的参数恢复技术防止模型漂移，在多个基准上取得优于现有方法的预测与不确定性估计表现。
2023-04-04 cs.AI cs.CV cs.LG
LiBOG: Lifelong Learning for Black-Box Optimizer Generation
Victoria University of Wellington（怀特伍德大学）；Lingnan University（岭南大学）
针对现有元黑盒优化依赖平稳问题分布、无法应对现实中持续出现的分布漂移问题的缺陷，提出终身学习方法LiBOG，通过跨任务与任务内知识巩固缓解灾难性遗忘，可从序列问题中持续学习生成高性能黑盒优化器。
2025-05-19 cs.AI cs.LG
Beyond Unimodal Learning: The Importance of Integrating Multiple Modalities for Lifelong Learning
Eindhoven University of Technology (TU/e)（埃因霍温理工大学）；Wayve Technologies Ltd（Wayve科技有限公司）
本文研究多模态信息整合对缓解深度神经网络灾难性遗忘的作用，提出多模态持续学习基准及基于关系结构相似性的模态对齐方法，并验证其能显著提升持续学习鲁棒性。
2024-05-04 cs.AI cs.CV cs.LG
Provable Lifelong Learning of Representations
Georgia Tech（佐治亚理工学院）；University of Cambridge（剑桥大学）；MPI-IS（马克斯·普朗克智能系统研究所）
在终身学习中，要学习的任务（或课程）以任意顺序随着时间的推移而顺序到达。在训练期间，可以捕获来自先前任务的知识并将其转移到后续任务以提高样本效率。我们考虑的设置，其中所有的目标任务可以表示在一个小数目的未知的线性或非线性特征的输入数据的跨度。我们提出了一个终身的学习算法，保持和完善的内部特征表示。我们证明，对于所有任务的任何期望的准确性，表示的维度仍然接近底层表示的维度。由此产生的样本复杂性显着改善现有的界限。在线性特征的设置中，我们的算法是可证明有效的，并且对于具有$k$特征的输入维$d$、$m$任务直到错误$ε$的样本复杂度为$\tilde{O}(dk^{1.5}/ε+km/ε)$。我们还证明了一个匹配的下限为任何终身学习算法，使用一个单一的任务学习者作为一个黑盒子。我们用实证研究来补充我们的分析，包括深度神经网络的启发式终身学习算法。与最先进的持续学习方法相比，我们的方法在具有挑战性的现实图像数据集上表现良好。
2022-03-01 cs.AI cs.LG stat.ML
Regularization-based Continual Learning for Anomaly Detection in Discrete Manufacturing
University of Stuttgart（斯图加特大学）
对离散制造过程中发生的异常进行早期和稳健的检测，使操作员能够防止伤害，例如生产机械或产品中的缺陷。虽然目前用于数据驱动异常检测的方法在它们所训练的确切过程上提供了良好的结果，但它们通常缺乏灵活适应变化的能力，例如在产品中。持续学习保证了这种灵活性，允许将以前学到的知识自动适应新的任务。因此，本文讨论了不同的持续学习方法从组的正则化策略，这是实现，评估和比较的基础上，一个真正的工业金属成形数据集。
2021-01-02 cs.AI cs.LG cs.NE
Multi-Agent Distributed Lifelong Learning for Collective Knowledge Acquisition
University of Pennsylvania（宾夕法尼亚大学）；HRL Laboratories, LLC（HRL实验室有限责任公司）
终身机器学习方法通过一系列连续的任务获取知识，不断地建立在他们的经验之上。当前的终身学习算法依赖于对所有数据具有集中访问的单个学习代理。在本文中，我们将终身学习的思想从单个代理扩展到多个代理的网络，这些代理共同学习一系列任务。每个代理都面临一些（可能是唯一的）任务集;关键思想是从这些任务中学习到的知识可能会使其他试图学习不同（但相关）任务的代理受益。我们的集体终身学习算法（CoLLA）提供了一种有效的方式，代理网络，以分布式和分散的方式分享他们学到的知识，同时保护本地观察到的数据的隐私。注意，分散式方案是分布式算法的子类，其中不存在中央服务器，除了数据之外，计算也分布在代理之间。我们为算法的鲁棒性能提供了理论保证，并以经验证明CoLLA在各种数据集上的分布式多任务学习优于现有方法。
2018-02-20 cs.LG
Continuous Coordination As a Realistic Scenario for Lifelong Learning
Mila（米拉人工智能研究所）；Université de Montréal（蒙特利尔大学）；École Polytechnique de Montréal（蒙特利尔工程学院）
目前的深度强化学习（RL）算法仍然具有高度的任务特定性，并且缺乏推广到新环境的能力。而终身学习的目标是通过在任务之间有效地转移和使用知识来顺序地解决多个任务。尽管近年来对终身RL的兴趣激增，但缺乏现实的测试平台使得LLL算法的鲁棒性评估变得困难。另一方面，多智能体强化学习（MARL）由于其固有的非平稳性，可以被视为终身强化学习的自然场景，因为智能体的策略会随着时间的推移而变化。在这项工作中，我们引入了一个多智能体终身学习测试平台，支持zero-shot和Few-Shot设置。我们的设置是基于Hanabi -一个部分可观察的，完全合作的多智能体游戏，已被证明是具有挑战性的zero-shot协调。其大的策略空间使其成为终身RL任务的理想环境。我们评估了最近的几种MARL方法，并在有限的内存和计算机制中对最先进的LLL算法进行了基准测试，以揭示它们的优点和缺点。这种持续学习范式也为我们提供了一种实用的方法，可以超越集中式培训，这是MARL中最常用的培训协议。我们的经验表明，在我们的设置中训练的代理能够很好地协调与看不见的代理，没有任何额外的假设，以前的作品。代码和所有预训练模型可在https://github.com/chandar-lab/Lifelong-Hanabi上获得。
2021-06-14 cs.AI cs.LG cs.MA
To Retain or to Adapt? Generalizing Continual Learning
ETH AI Center, Department of Computer Science, ETH Zürich（苏黎世联邦理工学院人工智能中心，计算机科学系）；Mila - Quebec AI Institute, School of Computer Science, McGill University（魁北克人工智能研究所，麦吉尔大学计算机科学系）；University of Technology Nuremberg（纽伦堡技术大学）
该研究挑战持续学习以保留知识为中心的前提，将其形式化为在线优化问题，引入转移效率指标，得出关键任务持续时间，验证理论预测，还提出预测持续学习算法类别及窗口算法，在受控分布漂移下有良好表现。
2026-10-22 cs.AI cs.LG stat.ML
Expert Routing with Synthetic Data for Continual Learning
本文提出 G2D 领域增量持续学习方法，用合成数据训练领域判别器并在推理时路由样本给专用专家，在视觉和语言任务上优于竞争方法。
2025-08-28 cs.LG
ARCADe: A Rapid Continual Anomaly Detector
University of Munich（慕尼黑大学）；Siemens AG（西门子股份公司）
虽然持续学习和异常检测已经分别在以前的作品中得到了很好的研究，他们的交集仍然相当未被探索。目前的工作解决了一个学习的情况下，一个模型必须逐步学习一系列的异常检测任务，即任务，只有正常（多数）类的例子可用于训练。我们定义了这种新的学习问题的连续异常检测（CAD），并制定它作为一个元学习问题。此外，我们提出了一种快速连续异常检测器（ARCADe），一种训练神经网络的方法，以应对这种新的学习问题的主要挑战，即灾难性遗忘和过度拟合多数类。我们在三个数据集上的实验结果表明，在CAD问题设置中，ARCADe大大优于持续学习和异常检测文献的基线。最后，我们提供了更深入的了解所提出的元学习算法产生的学习策略。
2020-10-18 cs.LG stat.ML
Lifelong 3D Object Recognition and Grasp Synthesis Using Dual Memory Recurrent Self-Organization Networks
University of Groningen（格罗宁根大学）
人类在终身的环境中学习识别和操纵新物体，而不会忘记在非平稳和连续条件下先前获得的知识。在自治系统中，智能体还需要减轻类似的行为，以不断学习新的对象类别并适应新的环境。在大多数传统的深度神经网络中，由于灾难性遗忘的问题，这是不可能的，新获得的知识会覆盖现有的表示。此外，大多数最先进的模型在识别物体或抓握预测方面都很出色，而这两项任务都使用视觉输入。处理这两项任务的组合架构非常有限。在本文中，我们提出了一种混合模型架构，包括一个动态增长的双记忆递归神经网络（GDM）和一个自动编码器，以解决对象识别和抓取同时进行。自动编码器网络负责为给定的对象提取一个紧凑的表示，作为GDM学习的输入，并负责预测逐像素对跖抓取配置。GDM部分被设计为在实例和类别级别上识别对象。我们使用内在记忆重放来解决灾难性遗忘的问题，其中情景记忆在没有外部感觉信息的情况下周期性地重放神经激活轨迹。为了在终身环境中广泛评估所提出的模型，由于缺乏连续的3D对象数据集，我们生成了一个合成数据集。实验结果表明，该模型可以在持续学习的场景中同时学习物体表征和抓取。
2022-01-23 cs.CV cs.LG cs.RO
U-TELL: Unsupervised Task Expert Lifelong Learning
International Institute of Information Technology Bangalore（班加罗尔国际信息技术学院）；Mphasis Cognitive Computing Centre of Excellence（美菲西斯认知计算卓越中心）；Agency for Science, Technology and Research（科技研究局）
U-TELL提出一种无监督持续学习框架，通过任务专家、结构化数据生成器和任务分配器解决灾难性遗忘问题，在多个基准上优于现有方法且训练速度显著更快。
2024-06-10 cs.LG
Resolving Conflicts in Lifelong Learning via Aligning Updates in Subspaces
Zhejiang University（浙江大学）；Harvard University（哈佛大学）
PS-LoRA通过在优化子空间中对齐更新，解决终身学习中的冲突问题，提升模型在新领域适应时的稳定性与效率。
2025-11-28 cs.AI cs.CL cs.LG
Evaluating Pretrained models for Deployable Lifelong Learning
University of Southern California（南加州大学）
该研究构建了评估视觉强化学习可部署终身学习系统的新基准，提出基于FSCIL任务映射器与预训练骨干网络的可扩展终身学习系统，在Atari游戏DeLL基准上验证了其低资源、高可扩展的优势。
2023-12-17 cs.LG
Deep Bayesian Unsupervised Lifelong Learning
Northeastern University（东北大学）
终身学习（LL）指的是不断学习和解决新问题的能力，随着时间的推移，随着可用信息的增加，同时保留以前的知识。最近，人们对带有标签数据流的监督式终身学习（SLL）给予了很大的关注。相比之下，我们专注于解决无监督终身学习（Unsupervised Lifelong Learning，简称EML）中的挑战，当数据分布和未知类标签随着时间的推移而演变时，使用未标记的数据流。贝叶斯框架很自然地结合了过去的知识，并用新的数据顺序地更新信念。我们开发了一个完整的贝叶斯推理框架，用于使用一种新型的端到端深度贝叶斯无监督终身学习（DBSTO）算法，该算法可以在学习潜在表示的同时逐步发现新的聚类，而不会忘记过去的未标记数据。为了有效地维护过去的知识，我们开发了一种新的知识保存机制，通过充分的统计数据的潜在表示的原始数据。为了检测潜在的新集群的飞行，我们开发了一个自动集群发现和冗余删除策略，在我们的推理启发非参数贝叶斯统计技术。我们在LL和批处理设置中使用图像和文本语料库基准数据集证明了我们方法的有效性。
2021-06-13 cs.LG stat.ML
Streaming LifeLong Learning With Any-Time Inference
IIT Kanpur（印度理工学院坎普尔分校）；Duke University（杜克大学）；University Of Bath（巴斯大学）
尽管在终身学习（LLL）的研究进展迅速，大量的研究主要集中在提高现有的\textit{static}持续学习（CL）设置的性能。这些方法缺乏在快速变化的\textit{dynamic}环境中取得成功的能力，其中人工智能智能体需要从非i.i. d（也可能是时间上连续/相干的）数据流中快速地“单次通过”学习新的实例，而不会遭受灾难性遗忘。为了实用性，我们提出了一种新的终身学习方法，即流，单个输入样本在每个时间步长、单次通过、类增量中到达，并且在任何时刻被评估。为了解决这个具有挑战性的设置和各种评估协议，我们提出了一个贝叶斯框架，使快速参数更新，给定一个单一的训练样本，并使任何时间的推理。我们还提出了一个隐式正则化的形式快照自蒸馏，有效地减少了遗忘进一步。我们进一步提出了一种有效的方法，有效地选择一个子集的样本在线内存排练，并采用了一种新的重放缓冲区管理方案，显着提高整体性能。我们的经验评估和消融表明，所提出的方法优于以前的作品大幅度。
2023-01-27 cs.AI cs.CV cs.LG
Memory Bounds for Continual Learning
Columbia University（哥伦比亚大学）
持续学习或终身学习是当前机器学习面临的一个巨大挑战。它要求学习者一个接一个地解决一系列$k$不同的学习任务，同时保留其对早期任务的能力;连续学习者应该比为每个$k$任务开发和维护单独学习者的明显解决方案更好地扩展。本文在PAC框架下对持续学习进行了复杂性理论研究。我们使用新的通信复杂性，以建立任何持续的学习者，即使是一个不适当的，需要与$k$线性增长的内存，强烈表明这个问题是棘手的。当在学习任务中允许多次传递时，我们提供了一种基于乘法权重更新的算法，其内存需求扩展良好;我们还建立了不适当的学习对于这种性能是必要的。我们推测，这些结果可能会导致新的有前途的方法，持续学习。
2022-04-22 cs.AI cs.DS cs.LG
Towards General Purpose Robots at Scale: Lifelong Learning and Learning to Use Memory
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本论文针对机器人在非结构化环境中长时间运行的挑战，提出t-DGR方法推进终身学习，并利用人类演示教导记忆利用，提升Memory Gym任务表现，旨在实现大规模通用机器人。
2024-12-28 cs.AI cs.LG cs.RO
Unicorn: Continual Learning with a Universal, Off-policy Agent
DeepMind（深度思维）；Technion Israel Institute of Technology（以色列理工学院）；University of Michigan（密歇根大学）
一些现实世界的领域最好描述为一个单一的任务，但对其他人来说，这种观点是有限的。相反，一些任务的复杂性会随着智能体的能力而不断增长。在持续学习中，也称为终身学习，没有明确的任务界限或课程。随着学习代理变得越来越强大，持续学习仍然是阻碍快速进步的前沿领域之一。为了测试持续学习的能力，我们考虑了一个具有挑战性的3D域，其中包含一系列隐含的任务和稀疏的奖励。我们提出了一种新的代理架构称为独角兽，它表现出强大的持续学习，并优于几个基线代理建议域。代理实现这一点，联合表示和学习多个政策有效地，使用并行离策略学习设置。
2018-07-03 cs.LG
Online Continual Learning of End-to-End Speech Recognition Models
Carnegie Mellon University（卡内基梅隆大学）
持续学习，也被称为终身学习，旨在不断地从新的数据中学习，因为它变得可用。虽然先前的研究在自动语音识别的持续学习集中在多个不同的语音识别任务的模型的适应，在本文中，我们提出了一个实验设置\textit{online continual learning}自动语音识别的一个单一的任务。特别关注的情况下，额外的训练数据为同一个任务变得越来越可用随着时间的推移，我们证明了执行增量模型更新到端到端的语音识别模型的有效性与在线梯度情景记忆（GEM）的方法。此外，我们表明，通过在线持续学习和选择性采样策略，我们可以保持类似于从头开始重新训练模型的准确性，同时需要显着降低计算成本。我们还验证了我们的方法与自监督学习（SSL）功能。
2022-07-11 cs.AI cs.LG cs.SD
Simple Lifelong Learning Machines
Johns Hopkins University（约翰霍普金斯大学）；Baylor College of Medicine（贝勒医学院）；University of Cambridge（剑桥大学）；Microsoft Research（微软研究院）
针对终身学习中现有方法多仅追求避免遗忘、目标偏低的问题，提出表示集成的简单方法，在多类基准场景中同时实现前向和后向迁移，且可灵活适配有无计算预算的情况。
2025-07-31 cs.AI cs.LG stat.ML
Lifelong Learning of Compositional Structures
University of Pennsylvania（宾夕法尼亚大学）
人类智能的一个标志是能够构建独立的知识块，并在新的组合中充分重用它们，以解决不同但结构相关的问题。学习这样的组成结构一直是人工系统的一个重大挑战，由于潜在的搜索问题的组合性质。到目前为止，对组合学习的研究在很大程度上是与终身学习或持续学习的研究分开进行的。我们整合这两条线的工作，提出了一个通用的框架，终身学习的组成结构，可用于解决相关的任务流。我们的框架将学习过程分为两个大的阶段：学习如何最好地结合现有的组件，以吸收一个新的问题，并学习如何适应现有的组件，以适应新的问题。这种分离明确地处理了记住如何解决早期任务所需的稳定性和解决新任务所需的灵活性之间的权衡，正如我们在广泛的评估中所展示的那样。
2021-03-17 cs.LG stat.ML
A Conceptual Framework for Lifelong Learning
Western University（韦仕敦大学）
人类可以在一生中逐步学习各种概念和技能，同时表现出许多理想的特性，例如持续学习而不会忘记，知识的向前转移和向后转移，以及学习新概念或任务只有几个例子。一些机器学习研究，如终身学习，少样本学习和迁移学习，试图捕捉这些属性。然而，大多数以前的方法只能证明这些属性的子集，往往是通过不同的复杂机制。在这项工作中，我们提出了一个简单而强大的统一框架，通过一个中央机制支持几乎所有这些属性和方法。我们还在人类学习的许多特性（如记忆丧失和“雨人”）与我们的框架之间建立了联系。虽然我们没有提出任何最先进的结果，但我们希望这个概念框架为现有工作提供了一个新的视角，并提出了许多新的研究方向。
2020-06-15 cs.LG stat.ML
UltraEdit: Training-, Subject-, and Memory-Free Lifelong Editing in Language Models
UltraEdit通过无训练、无主题、无内存的方法实现高效语言模型终身编辑，速度快7倍且内存占用低4倍，支持大规模编辑任务。
2026-03-10 cs.AI cs.CL cs.LG
Unveiling the Anomalies in an Ever-Changing World: A Benchmark for Pixel-Level Anomaly Detection in Continual Learning
University of Padova（帕多瓦大学）
本研究探讨了持续学习环境下的像素级异常检测问题，通过将多种最先进的技术适配至持续学习环境，并利用真实世界图像数据集提供可靠基准和全面分析，为该领域进一步发展奠定基础。
2024-03-19 cs.CV cs.LG
Continual Learning for Anomaly Detection in Surveillance Videos
University of South Florida（南佛罗里达大学）
监控视频中的异常检测最近受到关注。视频监控等高维应用的一个挑战性方面是持续学习。虽然目前最先进的深度学习方法在现有的公共数据集上表现良好，但由于计算和存储问题，它们无法在持续学习框架中工作。此外，在线决策是一个重要的，但大多数被忽视的因素在这一领域。基于这些研究空白，我们提出了一种使用迁移学习和持续学习的监控视频在线异常检测方法，这反过来又显着降低了训练复杂度，并提供了一种从最近的数据中不断学习而不会遭受灾难性遗忘的机制。我们提出的算法利用了基于神经网络的模型的特征提取能力进行迁移学习，以及统计检测方法的持续学习能力。
2020-04-15 cs.CV cs.LG eess.IV
Frosting Weights for Better Continual Training
Northwestern University（西北大学）；Florida Atlantic University（佛罗里达大西洋大学）；Iowa State University（爱荷华州立大学）
训练神经网络模型可以是终身学习过程，并且是计算密集型过程。深度神经网络模型中可能发生的一个严重不利影响是，它们在对新数据进行再训练期间可能会遭受灾难性遗忘。为了避免连续学习中的这种中断，一个吸引人的属性是集成模型的加性。在本文中，我们提出了两个通用的集成方法，梯度提升和元学习，以解决灾难性遗忘问题，调整预先训练好的神经网络模型。
2020-01-07 cs.LG cs.NE stat.ML
TAG: Task-based Accumulated Gradients for Lifelong learning
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；École Polytechnique de Montréal（蒙特利尔综合理工大学）；Robert Bosch Center for Data Science and Artificial Intelligence（罗伯特·博世数据科学与人工智能中心）；IIT Madras（印度理工学院马德拉斯分校）
当智能体在终身学习环境中遇到一系列新任务时，它会利用从早期任务中获得的知识来帮助更好地学习新任务。在这种情况下，识别有效的知识表示成为一个具有挑战性的问题。大多数研究工作建议要么存储一个子集的例子，从过去的任务中的重放缓冲区，专用于一个单独的一组参数，每个任务或惩罚过度更新的参数通过引入一个正则化项。虽然现有的方法采用一般的任务不可知的随机梯度下降更新规则，我们提出了一个任务感知的优化，适应学习率的基础上的任务之间的相关性。我们通过累积每个任务特定的梯度来利用参数在更新期间所采取的方向。这些基于任务的累积梯度充当在整个流中维护和更新的知识库。我们的经验表明，我们提出的自适应学习率不仅占灾难性遗忘，但也允许正向向后转移。我们还表明，我们的方法在具有大量任务的复杂数据集上的终身学习中比几种最先进的方法表现得更好。
2022-08-29 cs.LG
Continual Classification Learning Using Generative Models
University of Geneva（日内瓦大学）；Geneva School of Business Administration, HES-SO（瑞士西部高等专业学院日内瓦工商管理学院）
持续学习是一种通过容纳知识同时保留先前学到的经验来随着时间顺序学习的能力。神经网络可以在联合训练时学习多个任务，但当一次呈现一个任务时，无法保持先前学习的任务的性能。这个问题被称为灾难性遗忘。在这项工作中，我们提出了一个分类模型，从连续观察的任务，同时防止灾难性遗忘不断学习。我们建立在[10]的终身生成能力的基础上，并通过推导联合对数似然$\log p(x; y)$的新变分界限将其扩展到分类设置。
2018-10-24 cs.LG stat.ML
Structural features of the fly olfactory circuit mitigate the stability-plasticity dilemma in continual learning
Tsinghua University（清华大学）；Tianjin University（天津大学）
针对持续学习的稳定性-可塑性困境，提出果蝇嗅觉回路模型Fly Model作为即插即用模块，增强记忆稳定性与学习可塑性，以极低计算成本提升机器学习持续学习能力。
2025-02-03 cs.AI cs.CV cs.LG
