Compression-aware Continual Learning using Singular Value Decomposition
University of Tübingen(蒂宾根大学);Yale University(耶鲁大学)
我们提出了一种基于压缩的连续任务学习方法,可以动态地增长一个神经网络。从最近的模型压缩技术的启发,我们采用压缩感知训练和执行低秩权重近似使用奇异值分解(SVD),以实现网络压缩。通过鼓励网络学习低秩权重滤波器,我们的方法以最小的性能下降实现了压缩表示,而不需要昂贵的微调。具体来说,我们使用SVD分解权重过滤器,并以其分解形式在增量任务上训练网络。这样的因式分解允许我们直接在奇异值上施加稀疏诱导正则化器,并允许我们为每个任务使用更少的参数。我们进一步介绍了一种新的共享表征空间为基础的学习任务之间。这促进了传入的任务仅在先前学习的权重过滤器之上学习剩余的任务特定信息,并且极大地有助于在固定容量约束下的学习。我们的方法在三个基准数据集上的性能明显优于之前的持续学习方法,在20分裂CIFAR-100,miniImageNet和5序列数据集上的准确率分别提高了10.3%,12.3%,15.6%。此外,我们的方法产生的压缩模型具有约3.64倍,2.88倍,与基线个体任务模型相比,上述数据集上的参数数量分别少5.91倍。我们的源代码可以在https://github.com/pavanteja295/CACL上找到。
2020-09-14 cs.CV cs.LG
Continual learning on 3D point clouds with random compressed rehearsal
University of Wroclaw(弗罗茨瓦夫大学);Warsaw University of Technology(华沙工业大学);Tooploox
当代深度神经网络在应用于视觉推理时提供了最先进的结果,例如,在3D点云数据的上下文中。点云是三维环境精确建模的重要数据类型,但有效处理这类数据被证明是具有挑战性的。在大型、高度参数化的网络架构和连续流式数据的世界中,越来越需要可以在额外数据上训练的机器学习模型。不幸的是,目前可用的模型无法在不丢失过去知识的情况下充分利用额外数据的训练。对抗这种被称为灾难性遗忘的现象是持续学习的主要目标之一。深度神经网络的持续学习一直是一个活跃的研究领域,主要在2D计算机视觉、自然语言处理、强化学习和机器人技术中。然而,在3D计算机视觉中,几乎没有任何专门设计用于利用点云结构的持续学习解决方案。提出了一种新的神经网络结构,能够对三维点云数据进行持续学习。我们利用点云结构的属性,以保留一组严重压缩的过去的数据。通过使用排练和重建作为学习过程的正则化方法,我们的方法实现了显着减少灾难性遗忘相比,现有的解决方案,考虑到两个持续学习设置的几个最流行的点云数据集:当一个任务是已知的,并在具有挑战性的情况下,当任务信息是未知的模型。
2022-05-20 cs.CV cs.LG
LANCE: Low Rank Activation Compression for Efficient On-Device Continual Learning
Delft University of Technology(代尔夫特理工大学);Purdue University(普渡大学)
LANCE通过低秩分解实现激活压缩,减少内存和计算成本,提升设备端持续学习效率,实验表明在多个数据集上效果优于传统方法。
2026-03-17 cs.AI cs.LG cs.NE
FETCH: A Memory-Efficient Replay Approach for Continual Learning in Image Classification
Faculty of Electrical Engineering and Information Technology, Chemnitz University of Technology(德国 Chemnitz 工业大学 电气工程与信息技术学院);Institute for Computational Visualistics, University of Koblenz(科布伦茨大学 计算视觉学研究所)
FETCH提出两阶段压缩回放方法,在GDumb流程中评估压缩技术,通过预训练编码和压缩存储提高CIFAR10和CIFAR100的准确率,简单压缩优于深度自编码器。
2024-07-17 cs.CV cs.LG
RDumb: A simple approach that questions our progress in continual test-time adaptation
University of Tübingen(蒂宾根大学);EPFL(洛桑联邦理工学院)
本文提出 CCC 基准评估长期持续 TTA,并设计周期性重置模型的简单基线 RDumb,发现多数先进方法最终崩溃,而 RDumb 达到或超过最佳性能。
2024-04-03 cs.CV cs.LG
SPACE: Structured Compression and Sharing of Representational Space for Continual Learning
Purdue University(普渡大学)
人类在一生中不断地适应性地、有效地学习。然而,增量学习任务会导致人工神经网络覆盖关于旧任务学习到的相关信息,导致“灾难性遗忘”。克服这种现象的努力往往利用资源不佳,例如,通过增长网络架构或需要保存参数重要性分数,或违反任务之间的数据隐私。为了解决这个问题,我们提出了SPACE,一种算法,通过将学习空间划分为核心空间和剩余空间,使网络能够持续有效地学习,核心空间作为先前学习任务的浓缩知识库,剩余空间类似于用于学习当前任务的暂存空间。在学习每个任务之后,残差被分析其自身内以及与学习的核心空间的冗余。解释当前任务所需的最小数量的额外维度被添加到核心空间,剩余的残差被释放用于学习下一个任务。我们评估我们的算法P-MNIST,CIFAR和一系列的8个不同的数据集,并实现可比的准确性,以国家的最先进的方法,同时克服灾难性遗忘。此外,我们的算法非常适合于实际使用。分区算法一次性分析所有层,确保可扩展到更深的网络。此外,对维度的分析转化为过滤器级别的稀疏性,并且由此产生的架构的结构化性质使我们在任务推理期间的能源效率比当前最先进的技术提高了5倍。
2021-02-03 cs.CV cs.LG stat.ML
Pathway-based Progressive Inference (PaPI) for Energy-Efficient Continual Learning
Tokyo International University(东京国际大学);University of Turku(图尔库大学)
本文提出基于路径的渐进推理(PaPI)框架,通过能量约束优化和路径路由机制,在持续学习中实现节能并防止灾难性遗忘,理论上优于EWC和GEM。
2025-06-21 cs.AI cs.LG
CRAM: Large-scale Video Continual Learning with Bootstrapped Compression
Visual Geometry Group, University of Oxford(牛津大学视觉几何组)
针对视频持续学习的高内存需求问题,提出CRAM方法,通过在线压缩存储视频编码并定期刷新以缓解遗忘,在大型基准上以低内存实现更优性能。
2025-08-07 cs.CV cs.LG cs.PF
Low-Complexity Inference in Continual Learning via Compressed Knowledge Transfer
Nokia Bell Labs(诺基亚贝尔实验室)
针对持续学习中大型预训练模型推理成本高的问题,提出结合剪枝与知识蒸馏的两种类别增量学习框架,在准确率和推理复杂度间取得更优权衡。
2025-05-13 cs.AI cs.LG
Memory Bank Compression for Continual Adaptation of Large Language Models
University of Thessaly(塞萨洛尼基大学)
MBC通过代码本优化策略和键值低秩适应,实现大型语言模型持续适应中的记忆库压缩,有效减少内存占用并保持高准确性。
2026-01-02 cs.CL cs.LG
Learning Mamba as a Continual Learner: Meta-Learning Selective State Space Models for Continual Learning
University of New South Wales (UNSW Sydney)(新南威尔士大学(UNSW悉尼))
该研究提出MambaCL,将Mamba作为固定大小状态序列模型,通过选择性正则化元训练,在元持续学习任务中实现了良好性能与强泛化性,展现了固定状态学习器用于高效持续学习的潜力。
2026-08-25 cs.LG
Compressed Latent Replays for Lightweight Continual Learning on Spiking Neural Networks
Universitá di Bologna(博洛尼亚大学);Politecnico di Torino(都灵理工大学);ETH Zurich(苏黎世联邦理工学院)
本文首次为脉冲神经网络引入了基于潜在重放的高内存效率持续学习方法,通过时域压缩将内存需求降低两个数量级,并在多项增量任务中验证了其有效性和低遗忘率。
2024-07-04 cs.AI cs.ET cs.LG
Compacting, Picking and Growing for Unforgetting Continual Learning
Institute of Information Science, Academia Sinica(中央研究院信息科学研究所);MOST Joint Research Center for AI Technology and All Vista Healthcare(科技部人工智能技术与全视角医疗联合研究中心)
持续的终身学习对许多应用至关重要。在本文中,我们提出了一种简单但有效的持续深度学习方法。我们的方法利用了深度模型压缩、临界权重选择和渐进式网络扩展的原则。通过以迭代的方式执行它们的集成,我们引入了一种增量学习方法,该方法可扩展到持续学习过程中的顺序任务的数量。我们的方法很容易实现,并拥有几个有利的特点。首先,它可以避免忘记(即,学习新的任务,同时记住所有以前的任务)。其次,它允许模型扩展,但在处理顺序任务时可以保持模型的紧凑性。此外,通过我们的压缩和选择/扩展机制,我们表明,通过学习以前的任务积累的知识有助于为新任务建立一个更好的模型,而不是独立地训练模型。实验结果表明,我们的方法可以增量学习处理多个任务的深度模型而不会忘记,同时保持模型的紧凑性,性能比单个任务训练更令人满意。
2019-10-30 cs.LG stat.ML
Latent Space based Memory Replay for Continual Learning in Artificial Neural Networks
University of Cambridge(剑桥大学)
记忆重放可能是生物大脑学习的关键,它能够不断地学习新任务,而不会灾难性地干扰以前的知识。另一方面,人工神经网络遭受灾难性的遗忘,往往只表现良好的任务,他们最近trainedon.In这项工作中,我们探讨了应用潜在空间为基础的记忆重放分类使用人工神经网络。我们能够保持良好的性能,在以前的任务中存储只有一小部分的原始数据在压缩的潜在空间版本。
2022-01-05 cs.LG
Rethinking Continual Learning with Progressive Neural Collapse
Department of Computer Science, University of Houston, USA(德克萨斯大学休斯顿分校计算机科学系);Department of Computer Science, University of North Carolina at Charlotte, USA(北卡罗来纳大学夏洛特分校计算机科学系)
本文提出渐进神经崩溃(ProNC)框架,通过动态扩展ETF目标,缓解连续学习中的灾难性遗忘问题,实现更灵活高效的模型学习。
2026-03-06 cs.LG
TailLoR: Protecting Principal Components in Parameter-Efficient Continual Learning
Bitdefender
提出TailLoR方法,利用预训练权重的奇异基作为固定参考系,对奇异值矩阵进行低秩更新,并通过软谱惩罚抑制与主导奇异方向对齐的更新,从而减少干扰并实现细粒度适应。
2026-06-04 cs.LG
Autonomous Deep Learning: Continual Learning Approach for Dynamic Environments
Nanyang Technological University(南洋理工大学)
由于传统深度学习方法的静态和离线性质,深度神经网络(DNN)解决数据流问题的可行性仍然需要深入研究。提出了一种深度持续学习算法--自主深度学习(ADL)。与传统的深度学习方法不同,ADL具有灵活的结构,其网络结构可以在没有初始网络结构的情况下通过自构建网络结构从头开始构建。ADL通过具有能够在可塑性和稳定性之间实现权衡的不同深度结构来专门解决灾难性遗忘。提出了网络重要性公式来驱动隐节点的生长和修剪机制。漂移检测方案(DDS)是为了信号的分布变化,导致一个新的隐藏层的创建数据流。最大信息压缩指数(MICI)方法作为消除冗余层的复杂度降低模块起着重要的作用。ADL的有效性进行了数值验证下,在终身环境中使用九个流行的数据流问题的prequential测试,然后训练程序。数值结果表明,ADL始终优于最近的持续学习方法,同时表征网络结构的自动构建。
2020-01-09 cs.LG stat.ML
Pruned Adaptation Modules: A Simple yet Strong Baseline for Continual Foundation Models
AMOR/e Lab, Eindhoven University of Technology(埃因霍温理工大学AMOR/e实验室)
本文提出剪枝适应模块(PAM),通过冻结大部分预训练ResNet参数,利用稀疏任务特定层实现可扩展的连续学习,显著降低持续学习成本并减少遗忘。
2026-03-22 cs.LG
Dynamic Sub-graph Distillation for Robust Semi-supervised Continual Learning
Tianjin University(天津大学);College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);Haihe Laboratory of Information Technology Application Innovation(海河信息技术应用创新实验室)
针对半监督持续学习中未标注数据分布不可靠导致训练不稳定、性能受影响的问题,提出动态子图蒸馏方法,结合语义与结构信息实现稳定蒸馏,适配多种场景,经多数据集验证可有效缓解灾难性遗忘。
2025-01-14 cs.CV cs.LG
Continual Learning on Graphs: Challenges, Solutions, and Opportunities
The University of Sydney(悉尼大学);School of Computer Science(计算机学院);Faculty of Engineering(工程学院);University of Connecticut(康涅狄格大学)
本文系统综述了图上持续学习(CGL)的任务设置、算法分类、基准及与传统持续学习的对比,并探讨了未来研究方向。
2024-02-18 cs.AI cs.LG
EXPANSE: A Deep Continual / Progressive Learning System for Deep Transfer Learning
Franklin College of Arts and Sciences(富兰克林文理学院);University of Georgia(佐治亚大学);Institute for Artificial Intelligence(人工智能研究所);Mary Frances Early College of Education(玛丽·弗朗西斯·厄尔利教育学院)
EXPANSE通过扩展预训练层节点并采用两步训练,解决深度迁移学习中的灾难性遗忘和过度偏置问题,能处理远距离源目标数据并保持源数据有效性。
2022-05-24 cs.CV cs.LG
Unicorn: Continual Learning with a Universal, Off-policy Agent
DeepMind(深度思维);Technion Israel Institute of Technology(以色列理工学院);University of Michigan(密歇根大学)
一些现实世界的领域最好描述为一个单一的任务,但对其他人来说,这种观点是有限的。相反,一些任务的复杂性会随着智能体的能力而不断增长。在持续学习中,也称为终身学习,没有明确的任务界限或课程。随着学习代理变得越来越强大,持续学习仍然是阻碍快速进步的前沿领域之一。为了测试持续学习的能力,我们考虑了一个具有挑战性的3D域,其中包含一系列隐含的任务和稀疏的奖励。我们提出了一种新的代理架构称为独角兽,它表现出强大的持续学习,并优于几个基线代理建议域。代理实现这一点,联合表示和学习多个政策有效地,使用并行离策略学习设置。
2018-07-03 cs.LG
Plasticity of Growing and Elastic Neural Networks in Online Continual Learning
University of California, Los Angeles (UCLA)(加利福尼亚大学洛杉矶分校);University of Alberta(阿尔伯塔大学);Alberta Machine Intelligence Institute (Amii)(阿尔伯塔机器智能研究所)
本文研究在线持续学习中生长型与弹性型神经网络的可塑性,实验显示自适应生长型和弹性型神经网络可维持高准确率、不丧失可塑性,或为在线持续学习提供有前景的算法类别。
2026-08-04 cs.LG
When Does Continual Learning Require Learning
UC Berkeley(加州大学伯克利分校);Capital Fund Management(资本基金管理公司)
研究大语言模型持续学习问题,从空间和时间轴分解变化,通过重新设置基准和引入协议评估多种方法,发现持续学习非单一能力,不同环境变化需不同更新行为,为设计更强持续学习系统提供指导。
2026-07-10 cs.LG
Sample Condensation in Online Continual Learning
University of Pisa(比萨大学);Scuola Normale Superiore(比萨高等师范学院)
在线持续学习是一个具有挑战性的学习场景,模型必须从非平稳的数据流中学习,其中每个样本只看到一次。主要的挑战是在增量学习的同时避免灾难性遗忘,即在从新数据学习的同时忘记先前获得的知识的问题。在这些情况下,一个流行的解决方案是使用一个小内存来保留旧数据,并随着时间的推移排练它们。不幸的是,由于内存大小有限,内存的质量会随着时间的推移而恶化。在本文中,我们提出了OLCGM,一种新的重放为基础的持续学习策略,使用知识浓缩技术,不断压缩内存,实现更好地利用其有限的大小。样本压缩步骤压缩旧样本,而不是像其他重放策略那样删除它们。因此,实验表明,只要内存预算与数据的复杂性相比是有限的,OLCGM与最先进的重放策略相比,提高了最终的准确性。
2022-06-23 cs.AI cs.CV cs.LG
CoDeC: Communication-Efficient Decentralized Continual Learning
Purdue University(普渡大学)
边缘训练利用在不同位置生成的不断变化的数据。隐私问题禁止这种空间和时间分布数据的协同定位,因此设计训练算法至关重要,这些算法可以在分散的私有数据上实现有效的持续学习。分散式学习允许使用空间分布的数据进行无服务器培训。这种分布式学习的一个基本障碍是代理之间通信模型更新的高带宽成本。此外,现有的作品在这种训练模式下是不是天生适合学习的时间序列的任务,同时保留以前获得的知识。在这项工作中,我们提出了CoDeC,一种新的通信效率分散的持续学习算法,解决了这些挑战。我们减轻灾难性遗忘,而学习任务序列在分散的学习设置相结合的正交梯度投影与分散代理的流言平均。此外,CoDeC包括基于梯度子空间的新颖的无损通信压缩方案。我们将逐层梯度表示为这些梯度子空间的基向量的线性组合,并传递相关系数。我们从理论上分析了我们的算法的收敛速度,并通过大量的实验证明,CoDeC成功地学习分布式连续任务,最小的遗忘。所提出的压缩方案导致高达4.8倍的通信成本降低,以等性能作为完整的通信基线。
2023-03-27 cs.DC cs.LG cs.MA
Defining Benchmarks for Continual Few-Shot Learning
University of Edinburgh(爱丁堡大学)
由于采用了适当的基准,Few-Shot和持续学习在过去几年中都取得了重大进展。话虽如此,该领域仍然需要为持续Few-Shot学习的高度理想设置构建一套基准,其中学习者被一个接一个地呈现许多Few-Shot任务,然后被要求在源于所有先前看到的任务的验证集上表现良好。连续少样本学习具有较小的计算占用空间,因此是高效调查和实验的绝佳设置。在本文中,我们首先定义了一个连续少样本学习的理论框架,考虑到最近的文献,然后我们提出了一系列灵活的基准,统一的评估标准,并允许从多个角度探索问题。作为基准测试的一部分,我们引入了ImageNet的一个紧凑型变体,称为SlimageNet64,它保留了所有原始的1000个类,但只包含每个类的200个实例(总共20万个数据点),缩小到64 x 64像素。我们使用一些流行的少样本学习算法为建议的基准提供基线,因此,在连续和数据有限的设置中暴露了这些算法以前未知的优点和缺点。
2020-04-15 cs.CV cs.LG stat.ML
Temporal Memory for Resource-Constrained Agents: Continual Learning via Stochastic Compress-Add-Smooth
Graduate Inter-Disciplinary Program in Applied Mathematics, & Department of Mathematics, University Arizona, Tucson, AZ 85721(亚利桑那大学应用数学跨学科研究生项目与数学系,图森,AZ 85721)
本文提出一种基于随机过程的时序记忆框架,通过压缩-添加-平滑递归实现持续学习,无需反向传播和存储数据,适用于轻量控制器硬件。
2026-03-31 cond-mat.stat-mech cs.AI cs.LG
Self-Net: Lifelong Learning via Continual Self-Modeling
Georgia State University(佐治亚州立大学)
随着时间的推移学习一组任务,也称为持续学习(CL),是人工智能中最具挑战性的问题之一。虽然最近的方法在深度神经网络中实现了一定程度的CL,但它们要么(1)随着任务的数量线性增长网络参数,要么(2)需要存储来自先前任务的训练数据,要么(3)限制网络学习新任务的能力。为了解决这些问题,我们提出了一个新的框架,Self-Net,它使用自动编码器来学习一组为不同任务学习的权重的低维表示。我们证明,这些低维向量,然后可以用来生成高保真回忆的原始权重。Self-Net可以随着时间的推移整合新任务,几乎不需要重新训练,并且旧任务的性能损失最小。我们的系统不需要存储先前的训练数据,并且其参数仅随着任务的数量而几何地增长。我们证明了我们的技术在许多数据集上的表现优于当前最先进的方法--包括MNIST,CIFAR 10,CIFAR 100和Atari的连续版本--并且我们证明了我们的方法可以以连续的方式实现超过10倍的存储压缩。据我们所知,我们是第一个使用自动编码器来顺序编码网络权重集以实现持续学习的人。
2019-07-12 cs.AI cs.LG stat.ML
Human Inspired Progressive Alignment and Comparative Learning for Grounded Word Acquisition
University of Michigan(密歇根大学);ASAPP(ASAPP公司)
受人类婴儿语言习得启发,提出一种通过比较学习进行具身词汇习得的计算方法,无需固定词汇量,实验显示其在持续学习中的潜力。
2023-07-05 cs.AI cs.CL cs.LG
Neural Subspace Reallocation: Continual Learning as Retrieval-Based Subspace Memory Management
Independent Researcher(独立研究者)
提出神经子空间重分配(NSR),通过SVD压缩、相似性检索和重分配循环管理参数子空间内存,在循环环境中实现10倍恢复速度提升,并证明记忆机制比学习策略更关键。
2026-06-29 cs.AI cs.CV cs.LG
Certified Continual Learning for Neural Network Regression
School of Computing and Information Systems, Singapore Management University(新加坡管理大学计算与信息系统学院)
针对神经网络重训练后已验证正确性易因灾难性遗忘被破坏的问题,提出可认证持续学习方法,通过保留已验证网络的正确性属性改进现有方法,实验验证其高效且能兼顾认证正确性与高效用。
2024-07-09 cs.LG
The Barbados 2018 List of Open Issues in Continual Learning
我们希望在人工通用智能方面取得进展,即自主学习如何在复杂环境中胜任工作的通用代理。这份报告的目的是勾勒出一个研究大纲,分享我们面临的一些最重要的开放问题,并激发社会的进一步讨论。内容基于2018年2月在巴巴多斯举行的为期一周的研讨会上的一些讨论。
2018-11-16 cs.AI cs.LG
Ex-Model: Continual Learning from a Stream of Trained Models
University of Pisa(比萨大学);Scuola Normale Superiore(比萨高等师范学校)
从非平稳数据流中持续学习是一个具有挑战性的研究课题,在过去的几年里越来越受欢迎。能够以高效,有效和可扩展的方式不断学习,适应和概括是人工智能系统可持续发展的基础。然而,以代理为中心的持续学习的观点需要直接从原始数据中学习,这限制了独立代理之间的交互,效率和当前方法的隐私。相反,我们认为,持续学习系统应该利用压缩信息的训练模型的形式的可用性。在本文中,我们介绍并正式命名为"前模型持续学习"(ExML),其中一个代理学习从一个序列的先前训练的模型,而不是原始数据的新范式。我们进一步贡献了三个前模型持续学习算法和经验设置,包括三个数据集(MNIST,CIFAR-10和CORe50),和八个场景,其中所提出的算法进行了广泛的测试。最后,我们突出了前模型范式的特点,我们指出有趣的未来研究方向。
2021-12-13 cs.AI cs.CV cs.LG
Holographic Knowledge Manifolds: A Novel Pipeline for Continual Learning Without Catastrophic Forgetting in Large Language Models
全息知识流形通过分形量化等技术实现大语言模型持续学习中零灾难性遗忘,提升知识压缩效率并降低训练成本。
2025-11-21 cs.LG
Bridging Streaming Continual Learning via In-Context Large Tabular Models
本文提出通过大规模上下文表格模型实现流式持续学习,结合流式学习与持续学习的核心原则,平衡塑性与稳定性,并控制内存大小。
2025-12-12 cs.LG
Hyperbolic Multimodal Continual Learning
The Chinese University of Hong Kong(香港中文大学);National University of Singapore(新加坡国立大学);Yale University(耶鲁大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
本研究针对双曲多模态持续学习的遗忘问题,建立理论基础推导了保留几何结构的持续学习框架,经实验验证其有效性。
2026-08-11 cs.LG
The Effectiveness of Memory Replay in Large Scale Continual Learning
University of Maryland(马里兰大学);DeepMind(深度思维)
本文研究了大规模环境下的持续学习问题,其中输入序列中的任务不限于分类,输出可以是高维的。在多种最先进的方法中,我们发现vanilla experience replay(ER)在性能和可扩展性方面仍然非常具有竞争力,尽管它很简单。然而,观察到性能下降的ER与小内存。特征空间的进一步可视化揭示了中间表示经历了分布漂移。虽然现有的方法通常只重放输入输出对,但我们假设它们的正则化效果对于复杂的深度模型和重放缓冲区大小较小的各种任务来说是不够的。根据这一观察,我们建议除了输入输出对之外,还重放中间层的激活。考虑到保存原始激活图会大大增加内存和计算成本,我们提出了压缩激活重放技术,其中层激活的压缩表示保存到重放缓冲区。我们表明,这种方法可以实现优越的正则化效果,同时增加可以忽略不计的内存开销重放方法。在具有不同任务集的大型Taskonomy基准测试和标准公共数据集(Split-CIFAR和Split-miniImageNet)上的实验证明了所提出方法的有效性。
2020-10-06 cs.AI cs.CV cs.LG
Sequence Transferability and Task Order Selection in Continual Learning
VinUniversity;Durham University(杜伦大学);VNU-HCM, University of Science(越南胡志明市国家大学科学大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究所)
本研究针对持续学习中任务序列属性研究不足的问题,提出正向和反向总迁移性度量指标,据此开发新的任务顺序选择方法,其性能优于随机选择策略。
2025-02-10 cs.CV cs.LG
Regularize, Expand and Compress: Multi-task based Lifelong Learning via NonExpansive AutoML
Arizona State University(亚利桑那州立大学);University of Southern California(南加利福尼亚大学);Samsung Research America(三星美国研究院)
终身学习,即任务按顺序到达的持续学习问题,最近在计算机视觉界引起了越来越多的关注。终身学习的目标是开发一个系统,可以学习新的任务,同时保持以前学习的任务的性能。然而,深度神经网络的终身学习存在两个障碍:灾难性遗忘和容量限制。为了解决上述问题,受到最近自动学习良好神经网络架构的突破的启发,我们通过非扩展的AutoML框架开发了一个基于多任务的终身学习,称为正则化,扩展和压缩(REC)。REC由三个阶段组成:1)通过新提出的多任务权重合并(MWC)算法,在没有已学习任务数据的情况下持续学习顺序任务; 2)通过基于网络转换的AutoML扩展网络,以帮助终身学习,从而潜在地提高模型能力和性能; 3)在学习每个新任务后压缩扩展的模型,以保持模型的效率和性能。建议MWC和REC算法实现优于其他终身学习算法在四个不同的数据集上的性能。
2019-03-20 cs.CV cs.LG
Task Arithmetic with LoRA for Continual Learning
Pune Institute of Computer Technology(浦那计算机技术学院)
针对持续学习中的灾难性遗忘和计算成本高的问题,提出结合LoRA与任务算术的Transformer视觉模型持续训练方法,可规避遗忘、降低计算量,小内存辅助下性能接近全量微调。
2023-11-04 cs.CV cs.LG
Learn to Grow: A Continual Structure Learning Framework for Overcoming Catastrophic Forgetting
North Carolina State University(北卡罗来纳州立大学);Salesforce Research(赛富时研究院)
解决灾难性遗忘是持续学习的关键挑战之一,其中机器学习系统是用顺序或流式任务训练的。尽管最近在最先进的深度学习方面取得了显着进展,但深度神经网络(DNN)仍然受到灾难性遗忘问题的困扰。本文提出了一个概念上简单而通用的有效框架,用于处理持续学习中的灾难性遗忘。所提出的方法由两个部分组成:神经结构优化组件和参数学习和/或微调组件。通过分离显式神经结构学习和参数估计,该方法不仅能够以直观有意义的方式进化神经结构,而且在实验中显示出较强的缓解灾难性遗忘的能力。此外,所提出的方法优于所有其他基线上的排列MNIST数据集,分裂CIFAR 100数据集和视觉领域十项全能数据集在持续学习设置。
2019-05-21 cs.CV cs.LG
SequeL: A Continual Learning Library in PyTorch and JAX
EPFL(洛桑联邦理工学院);University of Geneva(日内瓦大学)
本文提出同时支持 PyTorch 与 JAX 的开源持续学习库 SequeL,通过统一接口集成正则化、回放及混合算法,提升模块化、可复现性与可扩展性。
2023-04-21 cs.LG
Efficient Continual Learning in Neural Networks with Embedding Regularization
Sapienza University of Rome(罗马第一大学);University of Bologna(博洛尼亚大学)
深度神经网络的持续学习是将其扩展到更复杂的应用场景以及实现这些架构的真正终身学习的关键要求。以前解决这个问题的方法要么考虑了网络规模的逐步增加,要么试图将网络行为正则化,以使其与先前观察到的任务保持一致。在后一种情况下,了解什么类型的信息最能代表这种过去的行为是至关重要的。常见的技术包括正则化过去的输出、梯度或单个权重。在这项工作中,我们提出了一种新的,相对简单和有效的方法来执行持续学习,而不是正规化的网络内部嵌入。为了使该方法具有可扩展性,我们还提出了一个动态采样策略,以减少所需的外部存储的内存占用。我们表明,我们的方法表现良好,相对于国家的最先进的方法在文献中,同时需要显着更少的内存空间和计算时间。此外,灵感来自最近的作品,我们评估的影响,选择一个更灵活的模型内的网络激活功能,评估的影响灾难性遗忘的激活函数本身。
2020-02-11 cs.LG cs.NE stat.ML
Continual learning with hypernetworks
Institute of Neuroinformatics(神经信息学研究所);University of Zürich(苏黎世大学);ETH Zürich(苏黎世联邦理工学院)
当人工神经网络在多个任务上连续训练时,它们会遭受灾难性遗忘。为了克服这个问题,我们提出了一种新的方法基于任务条件超网络,即,基于任务标识生成目标模型的权重的网络。由于一个简单的关键功能:而不是回顾所有先前看到的数据的输入输出关系,任务条件超网络只需要排练特定于任务的权重实现,可以使用简单的正则化器在内存中维护。除了在标准CL基准上实现最先进的性能外,长任务序列上的其他实验表明,任务条件超网络显示出非常大的保留先前记忆的能力。值得注意的是,当可训练超网络权重的数量与目标网络大小相当或小于目标网络大小时,在压缩机制中实现了这种长的存储器寿命。我们提供了深入了解低维任务嵌入空间(超网络的输入空间)的结构,并表明任务条件超网络演示迁移学习。最后,前向信息传输进一步支持的经验结果的基础上具有挑战性的CL基准的CIFAR-10/100图像数据集。
2022-04-11 cs.AI cs.LG stat.ML
Enabling Continual Learning with Differentiable Hebbian Plasticity
University of Guelph(圭尔夫大学);Vector Institute for Artificial Intelligence(矢量人工智能研究所);Uber AI
持续学习是在保护先前获得的知识的同时顺序地学习新任务或知识的问题。然而,灾难性遗忘对执行这种学习过程的神经网络提出了巨大的挑战。因此,部署在现实世界中的神经网络经常在数据分布是非平稳的(概念漂移)、不平衡的或不总是完全可用的情况下挣扎,即,罕见的边缘病例我们提出了一个微分赫布巩固模型,它是由一个微分赫布可塑性(DHP)Softmax层,增加了一个快速学习的塑料组件(压缩情景记忆)的固定(缓慢变化)参数的Softmax输出层,使学习表示保留更长的时间尺度。我们证明了我们的方法的灵活性,通过整合众所周知的特定任务的突触巩固方法,惩罚的变化,缓慢的权重是重要的每个目标任务。我们在Permuted MNIST、Split MNIST和Vision Datasets Mixture基准上评估了我们的方法,并介绍了Permuted MNIST的一个不平衡变体--一个结合了类别不平衡和概念漂移挑战的数据集。我们提出的模型不需要额外的超参数,并通过减少遗忘来优于可比基线。
2020-06-30 cs.LG cs.NE stat.ML
Design of Explainability Module with Experts in the Loop for Visualization and Dynamic Adjustment of Continual Learning
University of Kassel(卡塞尔大学)
持续学习可以使神经网络通过在任务变化的场景中顺序地学习新任务来进化。然而,在我们将这种技术应用于现实世界的应用之前,在进一步的研究中应该克服两个普遍和相关的挑战。首先,从应用程序中的数据流中新收集的新奇内容可能包含对持续学习没有意义的异常。我们不应将其视为更新的新任务,而是必须过滤掉这些异常,以减少极高熵数据对收敛进程的干扰。其次,较少的努力已经投入到持续学习的可解释性的研究,这导致了缺乏透明度和可信度的更新神经网络。对持续学习的过程和结果进行详尽的解释,可以帮助专家进行判断和决策。因此,我们提出了一个可解释性模块的概念设计与专家在回路的基础上的技术,如降维,可视化和评价策略。这项工作旨在通过充分解释和可视化所识别的异常和更新的神经网络来克服上述挑战。通过该模块,专家可以在异常过滤、超参数动态调整、数据备份等方面更有信心地进行决策。
2022-02-14 cs.LG
Rethinking Continual Learning for Autonomous Agents and Robots
Apprente, Inc.(Apprente公司);University of Hamburg(汉堡大学);PaigeAI(PaigeAI公司);Rochester Institute of Technology(罗切斯特理工学院);Cornell Tech(康奈尔科技学院)
持续学习是指生物或人工系统从连续的信息流中无缝学习同时防止灾难性遗忘的能力,即,新的信息强烈干扰先前学习的表征的情况。由于为人工智能提供所有必要的先验知识以在现实世界条件下有效运作是不现实的,因此它们必须表现出丰富的学习能力,使它们能够在复杂的环境中进行交互,以处理和理解连续的(通常不确定的)信息流。虽然绝大多数持续学习模型的目的是减轻灾难性遗忘简化分类任务,在这里,我们专注于持续学习的自主智能体和机器人需要在更具挑战性的实验设置操作。特别是,我们讨论了完善的生物学习因素,如发展和课程学习,迁移学习,和内在动机和他们的计算对应模型的逐步收购越来越复杂的知识和技能,在一个持续的时尚。
2019-07-02 cs.AI cs.LG
Are Current Continual Learning Methods Truly Agnostic? Introducing OPRE, a Step Toward Agnostic Continual Learning
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Univ. Savoie Mont Blanc(萨瓦大学勃朗峰分校);CNRS(法国国家科学研究中心);U. de Bourgogne Europe(勃艮第欧洲大学)
研究持续学习中灾难性遗忘问题,指出多数方法有先验信息非不可知。提出在线补丁冗余消除器OPRE,通过输入空间标准丢弃信息,在CIFAR 10和CIFAR - 100上性能良好,优于GDumb,为持续学习提供新视角。
2026-07-10 cs.CV cs.LG
Kaizen: Practical Self-supervised Continual Learning with Continual Fine-tuning
Nokia Bell Labs(诺基亚贝尔实验室);University of Cambridge(剑桥大学)
Kaizen提出一种实用的自监督持续学习框架,通过精心设计的损失函数缓解特征提取器和分类器的灾难性遗忘,在分割CIFAR-100上准确率提升16.5%,实现端到端持续学习。
2024-02-07 cs.LG
Is Continual Learning Ready for Real-world Challenges?
ETH Zurich(苏黎世联邦理工学院)
本文指出持续学习评估协议与现实挑战存在错位,提出新基准OCL-3DSS评估发现现有方法表现不佳,呼吁采用更贴近现实的实验协议以推动领域突破。
2024-02-15 cs.AI cs.CV cs.LG
Anytime Continual Learning for Open Vocabulary Classification
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究提出面向开放词汇图像分类的随时持续学习方法,通过动态加权融合预测与注意力加权PCA特征压缩,实现任意时间灵活预测更新且低开销,性能优于现有方法。
2024-09-13 cs.CV cs.LG
p-Spin Glass Network Efficient Single-Batch Continual Learning
本研究提出p-自旋玻璃网络架构,通过三元量化等技术实现内存与样本效率,支持单批次稳定收敛,消除深度学习对大批次的需求,为持续学习和边缘AI奠定基础。
2026-08-18 cs.LG
MM-Prompt: Cross-Modal Prompt Tuning for Continual Visual Question Answering
Khoury College of Computer Sciences, Northeastern University(东北大学克劳尔计算机科学学院);New Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所模式识别新实验室)
MM-Prompt通过跨模态提示查询与恢复,解决持续视觉问答中的模态不平衡问题,提升准确性与知识保留。
2025-09-11 cs.AI cs.CV cs.LG