Complementary Learning Subnetworks for Parameter-Efficient Class-Incremental Learning
Huazhong University of Science and Technology（华中科技大学）
本文提出一种无需重放的类增量学习方法，通过互补学习子网络协同优化CNN特征提取器与解析分类器，以少量参数实现持续学习，在精度、内存和训练效率上取得竞争力。
2023-06-21 cs.CV cs.LG
iPINNs: Incremental learning for Physics-informed neural networks
Delft University of Technology（代尔夫特理工大学）；Brown University（布朗大学）
本文提出增量物理信息神经网络（iPINNs），通过子网络重叠和从简到繁的顺序训练，在不增加参数的情况下依次学习多个 PDE，并在对流与反应-扩散方程场景中取得优于普通 PINNs 的泛化与预测误差。
2023-04-10 cs.LG cs.NA math.NA
Demystifying the Base and Novel Performances for Few-shot Class-incremental Learning
KAIST（韩国科学技术院）
Few-Shot类增量学习（FSCIL）解决了具有挑战性的现实世界场景，其中看不见的新类不断到达很少的样本。在这些情况下，需要开发一个模型，在不忘记先前知识的情况下识别新的类。换句话说，FSCIL旨在保持基本性能并同时提高新性能。然而，很少有研究分别调查这两个性能。在本文中，我们首先将整个模型分解成四种类型的参数，并证明了这两个性能的趋势变化很大的更新参数时，新的类出现。基于分析，我们提出了一种简单的方法FSCIL，创造了NoNPC，它使用规范化的原型分类器，而无需进一步训练增量新类。结果表明，我们的简单的方法具有相当的性能与先进的先进算法。
2022-06-18 cs.AI cs.LG
Few-shot Class-incremental Learning for Classification and Object Detection: A Survey
College of Intelligence Science and Technology, National University of Defense Technology（国防科技大学智能科学学院）；University of Oulu（奥卢大学）
本文系统综述 FSCIL，梳理其问题定义、核心挑战、通用方案、数据集与指标，并分类总结 FSCIC 和 FSCIOD 方法及未来方向。
2025-01-09 cs.AI cs.LG
Few-Shot Class-Incremental Learning with Prior Knowledge
East China Normal University（华东师范大学）；DiDi（滴滴）；Shanghai Jiao Tong University（上海交通大学）；Tsinghua Berkeley Shenzhen Institute（清华伯克利深圳学院）；Toronto Metropolitan University（多伦多都会大学）
针对小样本类别增量学习的灾难性遗忘与过拟合问题，提出LwPK方法，利用后续增量类少量无标注数据的先验知识，通过聚类生成伪标签并与基类联合训练分配嵌入空间，有效提升模型抗遗忘能力并经理论验证。
2024-02-02 cs.AI cs.LG
Aggregated f-average Neural Network applied to Few-Shot Class Incremental Learning
Inria Saclay（法国国家信息与自动化研究所萨克雷中心）；CentraleSupélec（中央高等电力学院）；Université Paris Saclay（巴黎萨克雷大学）；École de Technologie Supérieure（高等技术学院）
本文提出聚合f-平均（AFA）浅层神经网络，融合基础平均与堆叠模型两种集成框架，以可解释架构和简单训练策略实现弱学习器预测的最优聚合，并在少样本类增量学习任务中表现良好。
2024-09-19 cs.AI cs.LG
An experimental approach on Few Shot Class Incremental Learning
本文针对小样本类别增量学习，系统比较多种方法，并提出用 CLOOB 替换 CLIP 的实验改进方案，以缓解灾难性遗忘并增强模型适应性。
2025-03-14 cs.AI cs.LG
Does Prior Data Matter? Exploring Joint Training in the Context of Few-Shot Class-Incremental Learning
Yonsei University（延世大学）；Sogang University（成均馆大学）；Carnegie Mellon University（卡内基梅隆大学）
本文针对少样本类增量学习中基类与增量类严重不平衡导致联合训练基准不可靠的问题，提出一种不平衡感知的联合训练基准，并通过与现有FSCIL方法的广泛比较，为现实场景下的训练策略选择提供指导。
2025-08-18 cs.AI cs.LG
XtarNet: Learning to Extract Task-Adaptive Representation for Incremental Few-Shot Learning
Ulsan National Institute of Science and Technology（蔚山国立科学技术院）；Korea Advanced Institute of Science and Technology（韩国科学技术院）
在学习新概念的同时保留先验知识是机器学习中的一个长期挑战。当一个新的任务只有几个标记的例子时，挑战会变得更大，这个问题被称为增量少样本学习。我们提出了XtarNet，它学习提取任务自适应表示（TAR），以促进增量少样本学习。该方法利用在一组基本类别上预训练的骨干网络，同时还采用跨剧集进行元训练的附加模块。给定一个新任务，从元训练模块中提取的新特征与从预训练模型中获得的基本特征混合。组合两个不同特征的过程提供了TAR，并且也由元训练模块控制。《第三次评估报告》载有对新类别和基本类别进行分类的有效信息。基础和新的分类器快速适应一个给定的任务，利用TAR。在标准图像数据集上的实验表明，XtarNet实现了最先进的增量少样本学习性能。TAR的概念也可以与现有的增量少样本学习方法结合使用;实际上，大量的仿真结果表明，应用TAR显著增强了已知的方法。
2020-07-01 cs.AI cs.LG cs.NE
Few-Shot Class-Incremental Learning with Non-IID Decentralized Data
Shenyang Aerospace University（沈阳航空航天大学）；The University of Electro-Communications（电气通信大学）
本文提出联邦少样本类增量学习范式及合成数据驱动框架，通过噪声感知生成重放和类特定加权聚合，应对非独立同分布数据下的少样本学习、灾难性遗忘和数据异质性挑战。
2024-09-18 cs.AI cs.LG
Few-Shot Class Incremental Learning with Attention-Aware Self-Adaptive Prompt
University of Maryland（马里兰大学）
提出注意力感知自适应提示（ASP）框架，通过任务不变与任务特定提示结合信息瓶颈目标，解决少样本类增量学习的过拟合与遗忘问题，并在三个基准上超越现有方法。
2024-07-17 cs.AI cs.CV cs.LG
Cream of the Crop: Distilling Prioritized Paths For One-Shot Neural Architecture Search
City University of Hong Kong（香港城市大学）；Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Chinese Academy of Sciences（中国科学院）
一次权值共享方法由于其高效性和竞争性的性能，近年来在神经网络结构搜索中引起了极大的关注。然而，跨模型的权重共享具有固有的缺陷，即，超网络中的子网络训练不足。为了缓解这个问题，我们提出了一个简单而有效的架构蒸馏方法。其核心思想是，子网络可以在整个训练过程中协同学习并相互教导，旨在促进单个模型的收敛。我们引入了优先路径的概念，它是指在训练过程中表现出优异性能的架构候选者。从优先路径中提取知识能够促进子网络的训练。由于优先级路径根据其性能和复杂性动态变化，因此最终获得的路径是作物中的精华。我们直接从优先路径中选择最有希望的一个作为最终架构，而不使用其他复杂的搜索方法，如强化学习或进化算法。在ImageNet上的实验表明，这种路径蒸馏方法可以提高超网络的收敛速度和性能，并促进子网络的训练。与最近的MobileNetV3和EfficientNet系列相比，所发现的架构在对齐设置下实现了卓越的性能。在目标检测和更复杂的搜索空间上的实验表明了该方法的通用性和鲁棒性。代码和模型可在https://github.com/microsoft/cream.git上获得。
2021-04-12 cs.CV cs.LG
Exemplar-Based Contrastive Self-Supervised Learning with Few-Shot Class Incremental Learning
IBM（国际商业机器公司）
人类能够从少数（标记的）样本中学习新概念，增量和持续。这发生在我们可以区分样本的上下文中，以及样本和大量其他数据（未标记和标记）之间。这表明，在人类学习中，基于范例的概念监督学习发生在基于未标记和标记数据的对比自监督学习（CSSL）的更大背景下。我们讨论扩展CSSL（1）主要基于样本，其次是数据增强，（2）适用于未标记的数据（一般有大量可用）和标记的数据（一些样本可以获得有价值的监督知识）。这些扩展的主要好处是基于范例的CSSL，具有监督微调，支持Few-Shot类增量学习（CIL）。具体来说，我们讨论了基于样本的CSSL，包括：最近邻CSSL，监督预训练的邻域CSSL，以及监督微调的样本CSSL。我们进一步讨论使用基于范例的CSSL，以促进少样本学习，特别是，Few-Shot CIL。
2022-02-05 cs.LG
Few-shot Class-variable Incremental Audio Classification via Prototype Adaptation and Pseudo Class-variable Training
School of Electronic and Information Engineering, South China University of Technology（华南理工大学电子与信息学院）
针对实际中类别数量增减的少样本类变量增量音频分类问题，提出一种结合原型适应网络和伪类变量训练策略的方法，在三个公开数据集上平均准确率超过现有方法。
2026-06-16 cs.AI cs.LG eess.AS
Few-Shot Class Incremental Learning via Robust Transformer Approach
University of South Australia（南澳大学）；University of Gadjah Mada（加札马达大学）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文提出基于 Compact Convolution Transformer 的 ROBUSTA，通过随机分类器、batch-norm、delta 参数与原型校正缓解小样本过拟合和灾难性遗忘，并在基准上大幅超越既有方法。
2024-05-08 cs.AI cs.LG
Latest Advancements Towards Catastrophic Forgetting under Data Scarcity: A Comprehensive Survey on Few-Shot Class Incremental Learning
University of South Australia（南澳大学）；University of Ljubljana（卢布尔雅那大学）
本文综述少样本类别增量学习（FSCIL）的最新进展，涵盖其目标、原型修正、预训练模型及语言引导新范式、性能分析与实际应用，提出挑战、解决方案与未来方向，助力应对数据稀缺下的持续学习问题。
2025-02-12 cs.AI cs.CV cs.LG
Learning to better see the unseen: Broad-Deep Mixed Anti-Forgetting Framework for Incremental Zero-Shot Fault Diagnosis
College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院）
针对工业场景下零样本故障诊断的持续学习需求，提出增量零样本故障诊断范式及宽深混合防遗忘框架，通过深度生成模型与宽学习系统建立双记忆机制，无需存储历史样本即可学习新故障类别与属性并防止遗忘。
2024-03-18 cs.AI cs.LG
NTK-Guided Few-Shot Class Incremental Learning
Shanghai Artificial Intelligence Laboratory（上海人工智能实验室）；College of Information Science and Electronic Engineering, Zhejiang University（浙江大学信息科学与电子工程学院）
本文从NTK视角建模FSCIL抗遗忘问题，通过元学习、自监督预训练、课程对齐和双重NTK正则化实现最优收敛与更低泛化损失，准确率较现有方法提升2.9%至9.3%。
2024-09-24 cs.AI cs.LG
One-Shot Domain Incremental Learning
Toyota Central R&D Labs., Inc.（丰田中央研发实验室）
本研究提出一次性域增量学习问题，发现现有方法因批归一化统计量失效，并提出相应技术，在开放数据集上验证了有效性。
2025-02-24 cs.AI cs.CV cs.LG
Few-shot Class-incremental Learning for Cross-domain Disease Classification
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Pengcheng Laboratory（鹏城实验室）
本文针对跨域小样本增量学习问题，提出跨域增强约束与数据增强方法，在MedMNIST上取得优于现有增量学习方法的分类性能。
2023-04-12 cs.CV cs.LG
Few-Shot Incremental Learning with Continually Evolved Classifiers
Nanyang Technological University（南洋理工大学）；Alibaba DAMO Academy（阿里巴巴达摩院）
Few-Shot类增量学习（FSCIL）旨在设计机器学习算法，该算法可以从几个数据点中不断学习新概念，而不会忘记旧类的知识。困难在于来自新类的有限数据不仅导致显著的过拟合问题，而且还加剧了臭名昭著的灾难性遗忘问题。此外，由于训练数据在FSCIL中按顺序出现，学习的分类器只能在单个会话中提供区分信息，而FSCIL要求所有类都参与评估。在本文中，我们从两个方面解决FSCIL问题。首先，我们采用了一种简单但有效的表示和分类器的解耦学习策略，在每个增量会话中只更新分类器，这避免了表示中的知识遗忘。通过这样做，我们证明了预训练的骨干加上非参数类均值分类器可以击败最先进的方法。其次，为了使在各个会话上学习的分类器适用于所有类，我们提出了一种持续进化分类器（CEC），该分类器采用图模型在分类器之间传播上下文信息以进行适应。为了实现CEC的学习，我们设计了一个伪增量学习范式，该范式通过从基础数据集采样数据来逐段构建伪增量学习任务以优化图参数。在CIFAR 100、miniImageNet和Caltech-USCD Birds-200-2011（CUB 200）三个流行的基准数据集上的实验表明，我们的方法显著优于基线，并具有显著的优势。
2021-04-07 cs.AI cs.CV cs.LG
Controllable Forgetting Mechanism for Few-Shot Class-Incremental Learning
Samsung Research（三星研究院）；Samsung R&D Institute UK (SRUK)（英国三星研发研究院）
针对少样本类增量学习中新类与基类准确率失衡问题，提出新类检测规则以先验控制遗忘程度，在保持基类2%遗忘率的同时将新类准确率提升达30%。
2025-01-27 cs.AI cs.CV cs.LG
GP-Tree: A Gaussian Process Classifier for Few-Shot Incremental Learning
Bar-Ilan University（巴伊兰大学）；Nvidia（英伟达）
高斯过程（GP）是一种非参数的、灵活的模型，在许多任务中都能很好地工作。通过深度内核学习（DKL）将GP与深度学习方法相结合尤其引人注目，因为网络具有强大的代表性。然而，在GP中的推断，无论是否具有DKL，在大型数据集上都可能具有计算挑战性。在这里，我们提出了GP树，一种新的方法，多类分类高斯过程和DKL。我们开发了一个基于树的层次模型，其中树的每个内部节点适合一个GP的数据使用Pólya伽马增强计划。因此，我们的方法可以很好地扩展类的数量和数据大小。我们证明了我们的方法对其他高斯过程训练基线的有效性，我们展示了我们的通用GP方法如何在标准增量少样本学习基准测试中实现更高的准确性。
2021-07-13 cs.LG
Few-Shot Class-Incremental Learning
Xi’an Jiaotong University（西安交通大学）；Peng Cheng Laboratory（鹏城实验室）
增量学习新类的能力对于开发真实世界的人工智能系统至关重要。在本文中，我们专注于一个具有挑战性的，但实际的Few-Shot类增量学习（FSCIL）问题。FSCIL要求CNN模型从很少的标记样本中增量学习新的类，而不会忘记以前学习的类。为了解决这个问题，我们使用神经气体（NG）网络来表示知识，该网络可以学习和保存由不同类形成的特征流形的拓扑结构。在此基础上，我们提出了拓扑保持知识增量（TOPIC）框架。TOPIC通过稳定NG的拓扑结构来减轻对旧类的遗忘，并通过增长NG并使其适应新的训练样本来改进对Few-Shot新类的表示学习。综合实验结果表明，我们提出的方法在CIFAR100，miniImageNet和CUB200数据集上的性能明显优于其他最先进的类增量学习方法。
2020-04-24 cs.CV cs.LG stat.ML
Cognitively-Inspired Model for Incremental Learning Using a Few Examples
The Pennsylvania State University（宾夕法尼亚州立大学）
增量学习试图开发一种分类器，它从分成不同类别的数据流中不断学习。深度学习方法在增量学习类时遭受灾难性遗忘，而大多数增量学习方法需要每个类大量的训练数据。我们只使用几个训练样本来研究增量学习的问题，称为Few-Shot增量学习（FSIL）。为了解决这个问题，我们提出了一种新的方法，灵感来自概念学习模型的海马和新皮层，代表每个图像类的质心，并不遭受灾难性遗忘。我们评估了我们的方法在三个类增量学习基准：加州理工学院-101，CUBS-200-2011和CIFAR-100增量和Few-Shot增量学习，并表明我们的方法在所有学习类的分类准确性方面达到了最先进的结果。
2020-07-30 cs.AI cs.CV cs.LG
Overcoming Catastrophic Forgetting in Incremental Few-Shot Learning by Finding Flat Minima
The Hong Kong Polytechnic University（香港理工大学）
本文考虑了增量式少样本学习，它要求模型在只提供少量样本的情况下不断识别新的类别。我们的研究表明，现有的方法严重遭受灾难性遗忘，一个众所周知的问题，在增量学习，这是加剧由于数据稀缺和不平衡的Few-Shot设置。我们的分析进一步表明，为了防止灾难性遗忘，需要在原始阶段采取行动--训练基类，而不是以后的少样本学习。因此，我们建议搜索基本训练目标函数的平坦局部最小值，然后在新任务的平坦区域内微调模型参数。通过这种方式，模型可以有效地学习新类，同时保留旧类。综合实验结果表明，我们的方法优于所有现有的国家的最先进的方法，是非常接近的近似上限。源代码可在https://github.com/moukamisama/F2M上获得。
2021-11-04 cs.CV cs.LG
Graph Few-shot Class-incremental Learning
Arizona State University（亚利桑那州立大学）；City University of Hong Kong（香港城市大学）
增量学习新类的能力对所有现实世界的人工智能系统都至关重要。很大一部分高影响力的应用程序，如社交媒体，推荐系统，电子商务平台等，都可以用图模型表示。在本文中，我们调查的挑战性，但实际的问题，图Few-Shot类增量（图FCL）的问题，图模型的任务是分类新遇到的类和以前学习的类。为此，我们提出了一个图伪增量学习范式，通过从基类中循环采样任务，从而产生任意数量的训练集，供我们的模型练习增量学习技能。在此基础上，设计了一个基于层次注意力的图元学习框架HAG-Meta。我们提出了一个根据任务级注意力和节点类原型计算的任务敏感的正则化器，以减轻对新类或基类的过拟合。为了利用拓扑知识，我们增加了一个节点级的注意力模块来调整原型表示。我们的模型不仅实现了更大的稳定性，旧的知识巩固，但也获得了有利的适应性，以非常有限的数据样本的新知识。在Amazon-clothing、Reddit和DBLP三个真实世界数据集上的大量实验表明，与基线和其他相关的最先进方法相比，我们的框架具有显着的优势。
2021-12-23 cs.LG
Subspace Regularizers for Few-Shot Class Incremental Learning
Boston University（波士顿大学）
Few-Shot类增量学习-更新训练分类器以区分具有有限标记数据的扩展类集的问题-是部署在非静态环境中的机器学习系统的关键挑战。解决这个问题的现有方法依赖于复杂的模型架构和难以调整和重用的训练过程。在本文中，我们提出了一个非常简单的方法，使普通的逻辑回归分类器的Few-Shot增量学习。这种方法的关键是一个新的家庭的子空间正则化计划，鼓励新类的权重向量接近现有类的权重所跨越的子空间。当与预训练的卷积特征提取器相结合时，使用子空间正则化训练的逻辑回归模型在miniImageNet数据集上的性能优于专用的最先进的Few-Shot增量图像分类方法高达22%。由于其简单性，子空间正则化可以直接扩展到包含有关新类的额外背景信息（包括自然语言中指定的类名和描述）;这些进一步提高精度高达2%。我们的研究结果表明，类表示的简单几何正则化为持续学习提供了一个有效的工具。
2022-02-20 cs.CV cs.LG
SuperSAM: Crafting a SAM Supernetwork via Structured Pruning and Unstructured Parameter Prioritization
Iowa State University（爱荷华州立大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）；Intel Labs（英特尔实验室）
本研究针对一次性NAS搜索空间设计难题，提出通过逐层结构化剪枝与参数优先级排序将SAM转化为超网络SuperSAM的策略，所得子网络比原SAM ViT-B小30%-70%且性能更优，为ViT NAS搜索空间设计提供了新方法。
2025-01-15 cs.CV cs.LG
Few-Shot Class-Incremental Learning by Sampling Multi-Phase Tasks
Nanjing University（南京大学）；Hikvision Research Institute（海康威视研究院）
在我们不断变化的世界中，新的阶级经常出现，例如，社交媒体中的新兴话题和电子商务中的新型产品。模型应该识别新类，同时保持对旧类的可区分性。在严重的情况下，只有有限的新实例可用于增量更新模型。识别Few-Shot新类而不忘记旧类的任务称为Few-Shot类增量学习（FSCIL）。在这项工作中，我们提出了一个新的范式FSCIL元学习的基础上学习多阶段增量任务（LIMIT），合成假FSCIL任务的基础数据集。伪任务的数据格式与“真实”增量任务一致，通过元学习可以为不可见任务建立可泛化的特征空间。此外，LIMIT还构建了一个基于Transformer的标定模块，将旧的类分类器和新的类原型标定到相同的尺度上，填补了语义鸿沟。校准模块还利用集合到集合函数自适应地将特定于实例的嵌入上下文化。LIMIT有效地适应新类，同时防止遗忘旧类。在三个基准数据集（CIFAR100，miniImageNet和CUB200）和大规模数据集上的实验，即，ImageNet ILSVRC 2012验证了LIMIT实现了最先进的性能。
2022-08-19 cs.CV cs.LG
Towards Robust Few-shot Class Incremental Learning in Audio Classification using Contrastive Representation
IISER Bhopal（印度博帕尔印度科学教育与研究学院）
本文针对音频分类中的少样本类增量学习问题，提出在基会话训练中引入监督对比学习以优化表示空间，从而提升判别力和泛化能力，并在多个音频数据集上取得最先进性能。
2024-08-07 cs.LG cs.SD eess.AS
Incremental Few-Shot Adaptation for Non-Prehensile Object Manipulation using Parallelizable Physics Simulators
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Augsburg（奥格斯堡大学）
提出一种利用可并行物理模拟器增量适应动力学模型的方法，通过少样本交互示例优化模型参数，实现非抓取操作的模型预测控制，并在仿真和真实机器人上验证。
2025-03-29 cs.LG cs.RO
Accelerated Training via Incrementally Growing Neural Networks using Variance Transfer and Learning Rate Adaptation
University of Chicago（芝加哥大学）；TTI-Chicago（芝加哥丰田技术研究院）
提出一种增量增长神经网络的训练加速方法，通过参数化方案稳定训练动态并设计学习率自适应机制，在保持精度的同时显著节省计算成本，实现实际训练加速。
2023-06-22 cs.LG
Coarse-To-Fine Incremental Few-Shot Learning
Huazhong University of Science and Technology（华中科技大学）
与在预设类的大规模数据集上预训练的微调模型不同，类增量学习（CIL）旨在随着时间的推移识别新的类，而不会忘记预训练的类。然而，给定的模型将受到具有更细粒度类的测试图像的挑战，例如，巴辛吉人最多被认为是狗。这样的图像形成新的训练集（即，支持集）以便希望增量模型识别Basenji（即，下一篇：作为一个basenji本文将这种由粗到细的Few-Shot（C2FS）识别的混合自然问题表述为CIL问题C2FSCIL，并提出了一种简单、有效、理论上合理的策略Knowe：一旦从粗标签中对比学习嵌入空间，就从细标签中学习、规范化和冻结分类器的权重。此外，由于CIL的目标是稳定性和可塑性的平衡，提出了新的整体性能指标。从这个意义上说，在CIFAR-100、BREEDS和tieredImageNet上，Knowe的表现优于所有最近的相关CIL/FSCIL方法，这些方法首次针对新的问题设置进行了定制。
2021-11-24 cs.CV cs.LG
Inductive Graph Few-shot Class Incremental Learning
The University of Queensland（昆士兰大学）；CSIRO（联邦科学与工业研究组织）；University of Oxford（牛津大学）；Data61, CSIRO（Data61（联邦科学与工业研究组织下属机构））
针对归纳式图少样本类增量学习中的灾难性遗忘和过拟合问题，提出基于拓扑的类增强与原型校准方法（TAP），通过多拓扑类增强、迭代原型校准和原型偏移补偿，在四个数据集上有效提升了模型泛化与增量学习性能。
2024-11-11 cs.LG
AnchorInv: Few-Shot Class-Incremental Learning of Physiological Signals via Representation Space Guided Inversion
University of Oxford（牛津大学）
针对生理信号数据有限且增量到达的挑战，提出AnchorInv方法，通过特征空间锚点引导生成合成样本进行缓冲区重放，有效保护隐私并正则化模型，在三个数据集上超越基线，实现防遗忘与提升新类适应性的双重目标。
2024-12-18 cs.LG
Decoupled and Distilled: Task-Adaptive LoRA-Teachers with Ensemble Knowledge Transfer for Few-Shot Class-Incremental Learning
Beihang University（北京航空航天大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
TALON通过为每个增量任务分配独立LoRA教师并蒸馏至统一学生，实现推理高效的少样本类增量学习，在四个基准上取得领先精度且大幅降低部署参数与推理时间。
2026-10-01 cs.LG
Catastrophic Forgetting Resilient One-Shot Incremental Federated Learning
Linköping University（利厄普大学）
OSI-FL通过一次通信轮次生成类别特定嵌入并结合选择性样本保留技术，有效解决增量联邦学习中的通信开销和灾难性遗忘问题。
2026-02-19 cs.DC cs.LG
A Lightweight Plastic-Memory Framework for Graph Few-Shot Class-Incremental Learning
University of Electronic Science and Technology of China（电子科技大学）
本文提出一种轻量级塑性记忆框架，通过演化微聚类结构动态更新类原型，结合记忆驱动的元学习，解决图少样本类增量学习中的灾难性遗忘，并在四个基准数据集上验证了其优越性。
2026-09-23 cs.LG
Hyperbolic Coarse-to-Fine Few-Shot Class-Incremental Learning
HUST AI and Visual Learning Lab (HAIV Lab)（华中科技大学人工智能与视觉学习实验室）；Huazhong University of Science and Technology (HUST)（华中科技大学）
本文提出将特征提取器嵌入庞加莱球双曲空间，并引入双曲对比损失、双曲全连接层及最大熵分布增强特征，以提升由粗到细小样本类增量学习的粗类和细类分类准确率。
2025-09-23 cs.AI cs.CV cs.LG
Evolving Dictionary Representation for Few-shot Class-incremental Learning
Carleton University（卡尔顿大学）
针对少样本类别增量学习易遗忘旧类、新类标注少的问题，提出结合深度字典学习的方法，基础阶段同训字典与骨干网并加入伪类别预留空间，增量阶段仅微调字典，在多个数据集上效果优于现有SOTA方法。
2023-05-03 cs.CV cs.LG
Active Class Selection for Few-Shot Class-Incremental Learning
Pennsylvania State University（宾夕法尼亚州立大学）；University of Waterloo（滑铁卢大学）
本文提出FIASco框架，将少样本类增量学习与主动类别选择相结合，并集成势场导航，使机器人能自主选择并标注环境中最具信息量的对象进行持续学习，在模拟和真实机器人上验证了其有效性。
2023-07-05 cs.CV cs.LG cs.RO
MAGIC: Topology-Aware Analytic Graph Few-Shot Class-Incremental Learning
Beihang University（北京航空航天大学）
针对图小样本类增量学习中的过拟合与表示漂移问题，提出MAGIC框架，利用拓扑先验与解析式蒸馏，在多个数据集上显著提升准确率并降低训练时间。
2026-10-06 cs.LG
MgSvF: Multi-Grained Slow vs. Fast Framework for Few-Shot Class-Incremental Learning
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Cloud BU, Huawei Technologies（华为技术有限公司云业务部）
针对少样本类别增量学习中旧知识慢速遗忘与新知识快速适应的SvF两难问题，提出多粒度MgSvF框架，从空间内、空间间两粒度设计频率感知正则化与特征空间组合操作，性能大幅超越现有最优方法。
2024-03-12 cs.CV cs.LG
Forward Compatible Few-Shot Class-Incremental Learning
Nanjing University（南京大学）；Hikvision Research Institute（海康威视研究院）
在我们这个动态变化的世界中，新的类经常出现，例如，认证系统中的新用户，并且机器学习模型应该识别新类而不会忘记旧类。当新的类实例不足时，这种情况变得更具挑战性，这被称为Few-Shot类增量学习（FSCIL）。目前的方法通过使更新后的模型与旧模型相似来处理增量学习。相比之下，我们建议前瞻性地学习，为未来的更新做准备，并为FSCIL提出ForwArd兼容培训（FACT）。前向兼容性要求未来的新类可以根据当前阶段的数据轻松地合并到当前模型中，我们试图通过为未来的新类保留嵌入空间来实现这一点。详细地说，我们分配虚拟原型来挤压已知类的嵌入并为新类保留。此外，我们预测可能出现的新类别，并为更新过程做好准备。虚拟原型允许模型在未来接受可能的更新，这些更新充当分散在嵌入空间中的代理，以在推理过程中构建更强大的分类器。FACT有效地整合了具有向前兼容性的新类，同时阻止了对旧类的遗忘。大量的实验验证了FACT的最先进的性能。代码可在：https://github.com/zhoudw-zdw/CVPR22-Fact
2022-03-14 cs.CV cs.LG
12 mJ per Class On-Device Online Few-Shot Class-Incremental Learning
ETH Zurich（苏黎世联邦理工学院）；IBM Research-Zurich（IBM苏黎世研究院）；University of Bologna（博洛尼亚大学）
针对边缘端电池供电、内存受限系统的小样本类别增量学习需求，提出基于冻结特征提取器+可扩展显式原型内存的O-FSCIL方法，在CIFAR100基准上达SOTA，且在GAP9微控制器上实现每新类仅12mJ的在线学习。
2024-03-12 cs.CV cs.LG
Neural Collapse Inspired Feature-Classifier Alignment for Few-Shot Class Incremental Learning
Peking University（北京大学）；University of Oxford（牛津大学）；JD Explore Academy（京东探索研究院）；Wuhan University（武汉大学）；Peng Cheng Laboratory（鹏城实验室）
Few-Shot类增量学习（FSCIL）一直是一个具有挑战性的问题，因为在新的会话中，对于每个新的类，只有少数训练样本是可访问的。微调主干或调整在先前会话中训练的分类器原型将不可避免地导致旧类的特征和分类器之间的不对准，这解释了众所周知的灾难性遗忘问题。在本文中，我们处理FSCIL中的这种错位困境的灵感来自最近发现的现象命名为神经崩溃，这表明，同一类的最后一层功能将崩溃成一个顶点，所有类的顶点与分类器原型对齐，形成一个简单的等角紧框架（ETF）。它对应于一个最佳的几何结构分类由于最大化的Fisher判别比。我们提出了一个神经崩溃的启发框架FSCIL。一组分类器原型被预先分配为整个标签空间的单纯形ETF，包括基本会话和所有增量会话。在训练过程中，分类器原型是不可学习的，我们采用了一种新的损失函数，将特征驱动到相应的原型中。理论分析表明，我们的方法保持神经崩溃的最优性，并没有打破特征分类器对齐的增量方式。在miniImageNet、CUB-200和CIFAR-100数据集上的实验表明，我们提出的框架优于最先进的性能。代码地址：https://github.com/NeuralCollapseApplications/FSCIL
2023-02-06 cs.CV cs.LG
Tripartite Weight-Space Ensemble for Few-Shot Class-Incremental Learning
Qualcomm AI Research（高通人工智能研究）
针对少样本类增量学习中的遗忘和过拟合问题，提出三元权重空间集成方法，通过插值基模型、前一模型和当前模型的权重并利用增强数据蒸馏，在多个基准上取得最优性能。
2025-06-04 cs.CV cs.LG
SAFA-SNN: Sparsity-Aware On-Device Few-Shot Class-Incremental Learning with Fast-Adaptive Structure of Spiking Neural Network
Zhejiang University（浙江大学）；Shanghai Innovation Institute（上海创新研究院）；Southern University of Science and Technology（南方科技大学）；Fudan University（复旦大学）
本文提出SAFA-SNN，通过稀疏性感知的神经动力学和快速自适应结构，解决设备端少样本类增量学习中的灾难性遗忘问题，实验表明在多个数据集上优于基线方法。
2026-05-10 cs.LG
Automatic Attack Discovery for Few-Shot Class-Incremental Learning via Large Language Models
School of Computer and Communication Engineering（计算机与通信工程学院）；School of Information and Communication（信息与通信学院）；University of Electronic Science and Technology of China（电子科学与技术大学）；Department of Strategic and Advanced Interdisciplinary Research（战略与先进跨学科研究部）；Pengcheng Laboratory（鹏城实验室）
本文提出ACraft方法，利用大语言模型自动发现针对少样本类增量学习的最优攻击方法，有效提升攻击性能并降低成本。
2025-12-03 cs.LG
Few-Shot Class-Incremental Learning via Training-Free Prototype Calibration
State Key Laboratory for Novel Software Technology（新型软件技术国家重点实验室）；Nanjing University（南京大学）
针对小样本类别增量学习中新类易被误判为基类的问题，本文提出免训练原型校准策略TEEN，通过融合加权基类原型增强新类判别力，并在多个基准上取得一致提升。
2023-12-08 cs.CV cs.LG
Incremental Few-Shot Learning with Attention Attractor Networks
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Uber ATG（优步先进技术集团）
机器学习分类器通常被训练为识别一组预定义的类。然而，在许多应用中，通常希望具有学习额外概念的灵活性，具有有限的数据并且无需在整个训练集上重新训练。本文解决了这个问题，增量少样本学习，其中一个常规的分类网络已经被训练来识别一组基类，并正在考虑几个额外的新类，每个类只有几个标记的例子。在学习新类之后，然后评估模型在基础类和新类上的总体分类性能。为此，我们提出了一个元学习模型，注意力吸引网络，它使新类的学习规则化。在每一集，我们训练一组新的权重，以识别新的类，直到他们收敛，我们表明，经常性的反向传播技术可以通过反向传播的优化过程，并促进这些参数的学习。我们证明了学习吸引子网络可以帮助识别新的类，同时记住旧的类，而不需要审查原始的训练集，优于各种基线。
2019-10-06 cs.CV cs.LG stat.ML
Few-Shot Vision-Language Action-Incremental Policy Learning
School of Computer Science and Technology, Harbin Institute of Technology (Shenzhen)（计算机科学与技术学院，哈尔滨工业大学（深圳））；Department of Computer Science and Technology, Ocean University of China（计算机科学与技术系，中国海洋大学）；Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出任务提示图演化策略（TOPIC），通过任务特定提示和连续演化策略，实现机器人操控中的少样本动作增量学习，成功率比现有方法高26%以上。
2025-04-22 cs.LG cs.RO
SCOPE: Scene-Contextualized Incremental Few-Shot 3D Segmentation
University of Surrey, UK（英国萨里大学）；University of Wollongong, Australia（澳大利亚沃拉彭大学）；University of Copenhagen, Denmark（丹麦哥本哈根大学）；University of Exeter, UK（英国埃克塞特大学）；Singapore University of Technology and Design, Singapore（新加坡科技与设计大学）
SCOPE通过背景引导原型丰富框架，在3D分割中实现增量少量样本学习，提升新类别和平均IoU性能，同时减少遗忘。
2026-03-09 cs.CV cs.LG
