Faster ILOD: Incremental Learning for Object Detectors based on Faster RCNN
School of ITEE, The University of Queensland（昆士兰大学ITEE学院）
人类的视觉和感知系统本质上是渐进的，随着时间的推移，新的知识不断学习，而现有的知识被保留。另一方面，深度学习网络不适合增量学习。当一个经过良好训练的网络适应新的类别时，它在旧类别上的性能将急剧下降。为了解决这个问题，已经探索了保留深度学习模型的旧知识的增量学习方法。然而，最先进的增量对象检测器采用外部固定区域提议方法，与基于区域提议网络（RPN）的对象检测器（例如Faster RCNN）相比，该方法增加了总计算时间并降低了准确性。本文的目的是利用知识蒸馏设计一个高效的端到端增量式目标检测器。我们首先评估和分析基于RPN的检测器的性能与经典的蒸馏增量检测任务。然后，我们引入了多网络自适应蒸馏，当针对新任务微调模型时，可以适当地保留旧类别的知识。在基准数据集PASCAL VOC和COCO上的实验表明，基于Faster RCNN的增量检测器更准确，比基线检测器快13倍。
2020-10-07 cs.CV
Static-Dynamic Co-Teaching for Class-Incremental 3D Object Detection
National University of Singapore（新加坡国立大学）
基于深度学习的方法在3D目标检测任务中表现出卓越的性能。然而，当增量学习新类而不重新访问旧数据时，它们会在最初训练的类上遭受灾难性的性能下降。这种“灾难性遗忘“现象阻碍了3D目标检测方法在现实世界场景中的部署，其中需要连续学习系统。在本文中，我们研究了尚未探索的重要类增量三维目标检测问题，并提出了第一个解决方案- SDCoT，一种新的静态-动态协同教学方法。我们的SDCoT通过静态教师消除了旧类的灾难性遗忘，该静态教师为新样本中的旧类提供伪注释，并通过提取具有蒸馏损失的先前知识来正则化当前模型。与此同时，SDCoT通过动态教师从新数据中不断学习底层知识。我们在两个基准数据集上进行了广泛的实验，并在几个增量学习场景中展示了SDCoT比基线方法的优越性能。
2021-12-14 cs.CV
Symbiosis-Inspired Knowledge Distillation for Incremental Object Detection
研究增量目标检测问题，提出共生启发的知识蒸馏方法（SIKD），通过空间共生蒸馏和语义共生蒸馏在两个层面利用对象共生，有效解决现有方法不足，实验验证了该方法的有效性和优越性。
2026-07-16 cs.AI cs.CV
Towards Class-incremental Object Detection with Nearest Mean of Exemplars
增量学习是在线学习的一种形式。增量学习可以修改深度学习模型的参数和结构，使模型在学习新知识的同时不会忘记旧知识。防止灾难性遗忘是增量学习最重要的任务。然而，目前的增量学习往往只针对一种类型的输入。例如，如果输入图像是相同类型的，则当前增量模型可以学习新知识，同时不忘记旧知识。但是，如果在输入图形中添加几个类别，当前模型将无法正确处理，准确率将显著下降。为此，本文提出了一种增量式的方法，通过识别原型向量和增加向量的距离来调整模型的参数，使模型能够在不发生灾难性遗忘的情况下学习新的知识。实验证明了该方法的有效性。
2020-10-09 cs.CV
iFS-RCNN: An Incremental Few-shot Instance Segmenter
VinAI Research（VinAI研究院）；Oregon State University（俄勒冈州立大学）
本文讨论了增量式Few-Shot实例分割，当访问旧类的训练样本不再可用时，新对象类的一些示例到达，目标是在旧类和新类上都表现良好。我们通过在第二阶段扩展常见的Mask-RCNN框架做出了两个贡献-即，我们指定了一个基于probit函数的新对象类分类器和一个新的不确定性指导的边界框预测器。前者利用贝叶斯学习来解决新类的训练样本缺乏的问题。后者不仅学习预测对象边界框，而且还学习估计预测的不确定性作为限界框细化的指导。我们还指定了两个新的损失函数的估计对象类分布和边界框的不确定性。我们的贡献在COCO数据集上产生了显着的性能增益，特别是在AP实例分割度量中，新类的增益为+6，旧类的增益为+16。此外，我们是第一个在更具挑战性的LVIS数据集上评估增量Few-Shot设置的人。
2022-05-31 cs.CV
Mitigating Background Shift in Class-Incremental Semantic Segmentation
Sungkyunkwan University（成均馆大学）
针对类增量语义分割中的背景偏移问题，提出背景-类别分离框架，结合选择性伪标签、自适应特征蒸馏、正交目标和标签引导输出蒸馏，实现最先进性能。
2024-07-16 cs.CV
Federated Incremental Semantic Segmentation
University of Chinese Academy of Sciences（中国科学院大学）；ETH Zürich（苏黎世联邦理工学院）
针对联邦语义分割中新类别增量引入导致的灾难性遗忘问题，提出遗忘平衡学习模型，通过伪标签引导的损失函数和任务转换监视器，从客户端内和客户端间两方面缓解异构遗忘，显著提升模型性能。
2023-04-10 cs.CV
Delving into Transformer for Incremental Semantic Segmentation
Tsinghua University（清华大学）；Tencent（腾讯）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
增量语义分割（ISS）是一项新兴任务，其中通过增量添加新类来更新旧模型。目前，基于卷积神经网络的方法在ISS中占主导地位。然而，研究表明，这种方法很难在学习新任务的同时保持对旧任务的良好表现（灾难性遗忘）。相比之下，基于Transformer的方法在抑制灾难性遗忘方面具有天然优势，因为它能够对长期和短期任务进行建模。在这项工作中，我们探讨了为什么Transformer为基础的架构更适合于ISS，并相应地提出了TISS，一个基于Transformer的增量语义分割的方法。此外，为了更好地缓解灾难性遗忘，同时保持ISS上的可传递性，我们引入了两个分片对比损失，分别模仿相似特征和增强特征多样性，这可以进一步提高TISS的性能。在Pascal-VOC 2012和ADE 20 K数据集的广泛实验设置下，我们的方法显着优于最先进的增量语义分割方法。
2022-11-18 cs.CV
CoMBO: Conflict Mitigation via Branched Optimization for Class Incremental Segmentation
Beijing Institute of Technology（北京理工大学）；University of Birmingham（伯明翰大学）；Beijing Jiaotong University（北京交通大学）
针对类增量分割中旧类遗忘与新类学习之间的冲突，提出CoMBO方法，通过查询冲突减少模块及HDHL和IKD两种分支优化策略，在保留旧知识的同时有效吸收新类，并在全景和语义分割任务中取得优越性能。
2025-04-05 cs.CV
Knowledge Distillation for Incremental Learning in Semantic Segmentation
University of Padova（帕多瓦大学）
深度学习架构在场景理解问题中表现出了显着的效果，但是当它们需要在不忘记旧任务的情况下渐进地学习新任务时，它们的性能会出现严重下降。这种灾难性遗忘现象影响了人工智能在现实世界场景中的部署，其中系统需要随着时间的推移学习新的和不同的表示。目前的增量学习方法只处理图像分类和目标检测任务，而在这项工作中，我们正式引入增量学习语义分割。我们解决这个问题，应用各种知识蒸馏技术在以前的模型。通过这种方式，我们保留了关于学习类的信息，同时更新当前模型以学习新的类。我们开发了四种主要的知识蒸馏方法，工作在输出层和内部特征表示。我们不存储任何属于先前训练阶段的图像，只使用最后一个模型来保持先前学习的类的高准确性。在Pascal VOC 2012和MSRC-v2数据集上进行的大量实验结果表明了所提方法在几种增量学习场景下的有效性。
2021-01-20 cs.CV cs.LG eess.IV
Incrementally Zero-Shot Detection by an Extreme Value Analyzer
Academy for Engineering & Technology, Fudan University（复旦大学工程技术学院）；School of Data Science, Fudan University（复旦大学数据科学学院）
人类不仅有能力识别新的看不见的类，而且还可以逐步将新的类纳入现有的知识保存。然而，零样本学习模型假设所有可见的类都应该事先知道，而增量学习模型不能识别未见过的类。本文介绍了一个新的和具有挑战性的任务增量零拍检测（IZSD），一个实用的策略，零样本学习和类增量学习在现实世界中的目标检测。提出了一种创新的端到端模型-- IZSD-EVer来解决这个需要增量检测新类和检测从未见过的类的任务。具体来说，我们提出了一种新的极值分析器，以检测对象从旧的，新的看到，和看不见的类，同时。此外，在技术上，我们提出了两个创新的损失，即，背景-前景均方误差损失减轻了图像的背景和前景的极端不平衡，而投影距离损失对准了旧的可见类的视觉空间和语义空间。实验证明了我们的模型在检测可见和不可见类中的对象方面的有效性，在Pascal VOC和MSCOCO数据集上优于替代模型。
2021-03-29 cs.CV
DiffusePast: Diffusion-based Generative Replay for Class Incremental Semantic Segmentation
The Hong Kong Polytechnic University（香港理工大学）；Center for Artificial Intelligence and Robotics, HKISI, CAS（中国科学院香港创新研究院人工智能与机器人创新中心）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
提出DiffusePast框架，通过基于扩散模型的双生成器范式生成语义准确的旧类图像及可靠掩码，结合逐类令牌嵌入和背景伪标签分配，有效缓解了类别增量语义分割中的灾难性遗忘问题。
2023-08-02 cs.CV
Prototype-based Incremental Few-Shot Semantic Segmentation
Politecnico di Torino（都灵理工大学）；Italian Institute of Technology（意大利理工学院）；University of Tübingen（图宾根大学）；ETH Zurich（苏黎世联邦理工学院）
语义分割模型有两个基本的弱点：i）它们需要大量的训练集，具有昂贵的像素级注释，ii）它们具有静态输出空间，受限于训练集的类。为了解决这两个问题，我们引入了一个新的任务，增量Few-Shot分割（iFSS）。iFSS的目标是扩展一个预先训练的分割模型，其中包含来自少量注释图像的新类别，并且无需访问旧的训练数据。为了克服现有模型inIFS的局限性，我们提出了基于原型的增量Few-Shot分割（PIFS），耦合原型学习和知识蒸馏。PIFS利用原型来初始化新类的分类器，微调网络以改进其特征表示。我们设计了一个基于原型的蒸馏损失的分数，旧的和新的类原型，以避免过度拟合和遗忘，和批量重整，以应付非独立同分布的Few-Shot数据。我们为iFSS创建了一个广泛的基准测试，表明PIFS在所有情况下都优于几种Few-Shot和增量学习方法。
2021-10-18 cs.CV
Focus, Align, and Sustain: Counteracting Gradient Dilution in Incremental Object Detection
University of Science and Technology of China（中国科学技术大学）
提出FAS框架，通过注入先验的查询聚焦判别信号、确定性锚点蒸馏对齐分配、流形支持回放维持旧类分布，解决增量目标检测中梯度稀释导致的性能下降问题。
2026-06-16 cs.CV
Multi-Domain Incremental Learning for Semantic Segmentation
IIIT Hyderabad（海得拉巴国际信息技术研究所）；IIT Hyderabad（海得拉巴印度理工学院）；IIT Delhi（德里印度理工学院）
最近在多领域学习的努力语义分割尝试学习多个地理数据集在一个通用的，联合模型。在三个流行的道路场景分割数据集上顺序执行的简单微调实验表明，现有的分割框架无法在一系列视觉上不同的地理域上进行增量学习。当学习一个新的领域时，模型会灾难性地忘记以前学到的知识。在这项工作中，我们提出的问题，多域增量学习的语义分割。给定在特定地理域上训练的模型，目标是（i）增量学习新的地理域，（ii）同时保留旧域上的性能，（iii）给定先前域的数据集不可访问。我们提出了一个动态的架构，分配普遍共享的，域不变的参数，以捕捉同质的语义特征存在于所有领域，而专用的域特定的参数学习每个域的统计数据。我们新的优化策略有助于在保留旧知识（稳定性）和获取新知识（可塑性）之间实现良好的平衡。我们证明了我们提出的解决方案的有效性域增量设置有关的现实世界的驾驶场景从德国（城市景观），美国（BDD 100k）和印度（IDD）的道路。
2021-10-23 cs.CV
Self-Training for Class-Incremental Semantic Segmentation
Tianjin University of Technology（天津理工大学）；Nankai University（南开大学）；Autonomous University of Barcelona（巴塞罗那自治大学）；Computer Vision Center（计算机视觉中心）
在类增量语义分割中，我们无法访问先前任务的标记数据。因此，当增量学习新类时，深度神经网络会对先前学习的知识产生灾难性遗忘。为了解决这个问题，我们建议应用一种自我训练的方法，利用未标记的数据，这是用于排练以前的知识。具体来说，我们首先学习当前任务的临时模型，然后通过融合来自先前任务的旧模型和当前临时模型的信息来计算未标记数据的伪标签。此外，提出了冲突减少，以解决从旧的和临时的模型产生的伪标签的冲突。我们表明，最大化自熵可以通过平滑过度自信的预测来进一步改善结果。有趣的是，在实验中，我们表明，辅助数据可以不同于训练数据，即使是通用的，但不同的辅助数据可以导致大的性能增益。实验证明了最先进的结果：与以前的最先进方法相比，在Pascal-VOC 2012上获得了高达114%的相对增益，在更具挑战性的ADE 20 K上获得了8.5%的相对增益。
2022-03-11 cs.AI cs.CV cs.LG
Incremental Learning for Semantic Segmentation of Large-Scale Remote Sensing Data
Université Côte d’Azur（蔚蓝海岸大学）；INRIA（法国国家信息与自动化研究所）
尽管卷积神经网络在语义分割方面取得了显着的成功，但它们遭受了灾难性遗忘：当在数据上添加新类时，已经学习的类的性能显着下降，旧类没有注释。我们提出了一种增量学习方法，使学习分割新的类，而不妨碍密集的标记能力，为以前的类，虽然整个以前的数据是不可访问的。所提出的方法的关键点是适应网络学习新的以及旧的类在新的训练数据，并允许它记住以前学到的信息，为旧的类。为了适应，我们保留了之前训练的网络的冻结副本，在没有以前类的注释的情况下，它被用作更新网络的记忆。更新后的网络使损失函数最小化，该损失函数平衡来自存储器和更新后的网络的先前类别的输出之间的差异，以及来自更新后的网络的新类别的输出和新的地面实况之间的误分类率。为了记忆，我们要么定期从存储的数据中提取样本，要么使用记忆网络，这取决于新数据是从完全不同的地理区域还是从同一个城市收集的。我们的实验结果证明，它是可以添加新的类到网络，同时保持其性能为以前的类，尽管整个以前的训练数据是不可用的。
2018-10-29 cs.CV cs.LG stat.ML
Early Preparation Pays Off: New Classifier Pre-tuning for Class Incremental Semantic Segmentation
Nankai University（南开大学）；NKIARI
本文提出NeST新分类器预调优方法，通过学习旧分类器到新分类器的变换来初始化新分类器，防止特征提取器剧烈变化，并在Pascal VOC 2012和ADE20K上显著提升类增量语义分割性能。
2024-07-19 cs.CV cs.LG
Balanced Residual Distillation Learning for 3D Point Cloud Class-Incremental Semantic Segmentation
School of Computer Science and Cyber Engineering, Guangzhou University（广州大学计算机科学与网络工程学院）
本文提出均衡残差蒸馏学习框架BRDL，通过残差蒸馏动态精炼旧知识并利用均衡伪标签缓解类别偏差，在三维点云类增量语义分割中取得新基准性能。
2025-01-03 cs.CV
RILOD: Near Real-Time Incremental Learning for Object Detection at the Edge
Samsung Research America（三星美国研究院）；Apple Inc（苹果公司）；University of Southern California（南加州大学）
配备摄像头的边缘设备附带的目标检测型号无法覆盖每个用户感兴趣的对象。因此，增量学习能力是一个强大的和个性化的对象检测系统，许多应用程序将依赖于在本文中，我们提出了一个高效而实用的系统，RILOD，增量训练现有的目标检测模型，使其可以检测新的对象类，而不会失去其检测旧类的能力的一个重要特征。RILOD的关键组件是一种新型的增量学习算法，该算法仅使用新对象类的训练数据来训练一阶段深度目标检测模型的端到端。为了避免灾难性遗忘，该算法从旧模型中提取三种类型的知识，以模仿旧模型在对象分类、限界框回归和特征提取方面的行为。此外，由于新类的训练数据可能不可用，因此实时的【形】数据集构建管道被设计为实时收集训练图像，并使用类别和限界框注释自动标记图像。我们已经在边缘云和仅边缘设置下实现了RILOD。实验结果表明，该系统可以在几分钟内学会检测一个新的对象类，包括数据集的构建和模型训练。相比之下，传统的基于微调的方法可能需要几个小时的训练，并且在大多数情况下还需要繁琐且昂贵的手动数据集标记步骤。
2019-09-23 cs.AI cs.CV stat.ML
Towards Generalized and Incremental Few-Shot Object Detection
National University of Singapore（新加坡国立大学）；SIMTech, Agency for Science, Technology and Research（新加坡科技研究局智能系统研究院(SIMTech)）
现实世界的目标检测是非常需要配备的学习可扩展性，可以逐步扩大其检测类。此外，这种仅从少量注释训练样本的学习进一步增加了对象检测器的灵活性，这在诸如自动驾驶、机器人等许多应用中是高度期望的。然而，这种具有Few-Shot训练样本的顺序学习场景通常会导致灾难性遗忘和显著的过拟合。针对上述增量式少样本学习问题，提出了一种新的增量式Few-Shot目标检测（iFSOD）方法，能够有效地从Few-Shot样本中进行持续学习。具体而言，提出了一种双分支框架（DBF）的基础和新的（Few-Shot）类的特征表示解耦，这有利于旧的知识保留和新的类适应同时进行。此外，采用渐进式模型更新规则，在适应连续的新类时有效地保留旧类的长期记忆。此外，任务间的类分离损失，提出了扩大新来的类的决策区域，更好的特征区分。我们在Pascal VOC和MS-COCO上进行了实验，实验结果表明，该方法可以有效地解决增量式Few-Shot检测问题，显著提高了基本类和新类的检测精度。
2021-09-23 cs.CV
DualTeacher: Bridging Coexistence of Unlabelled Classes for Semi-supervised Incremental Object Detection
Tsinghua University（清华大学）；SAIC AI Lab（上汽人工智能实验室）
针对半监督增量目标检测中旧新类别无标签实例共存导致教师模型识别不全的问题，本文提出 DualTeacher 方法，通过分别为旧类别和新类别构建教师模型并拼接其预测来指导学生，在多个基准上以有限开销取得显著性能提升。
2023-12-13 cs.AI cs.CV
Tendency-driven Mutual Exclusivity for Weakly Supervised Incremental Semantic Segmentation
Shanghai Jiao Tong University（上海交通大学）
针对弱监督增量语义分割中新旧类别预测冲突问题，提出倾向驱动的互斥关系，通过生成伪掩码并联合双层优化，缓解灾难性遗忘并建立新基准。
2024-04-19 cs.CV
I3DOD: Towards Incremental 3D Object Detection via Prompting
State Key Laboratory of Robotics, Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所机器人学国家重点实验室）；Institutes for Robotics and Intelligent Manufacturing, Chinese Academy of Sciences（中国科学院机器人与智能制造研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Microsystem and Information Technology, Chinese Academy of Sciences（中国科学院微系统与信息技术研究所）
针对增量3D目标检测中的灾难性遗忘问题，提出带任务共享提示机制与可靠蒸馏策略的I3DOD框架，在两个基准数据集上mAP@0.25较SOTA提升0.6%-2.7%。
2023-08-24 cs.AI cs.CV
Organizing Background to Explore Latent Classes for Incremental Few-shot Semantic Segmentation
University of Chinese Academy of Sciences（中国科学院大学）；Nanjing University of Posts and Telecommunications（南京邮电大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对增量小样本语义分割中旧类分布易遭破坏、新类样本少难学表征的问题，提出OINet，通过组织背景嵌入空间、预留子类原型并让新类继承匹配原型空间，在Pascal-VOC和COCO上取得新SOTA。
2024-05-29 cs.CV
SDDGR: Stable Diffusion-based Deep Generative Replay for Class Incremental Object Detection
UNIST（蔚山科学技术院）；LG Electronics（LG电子）；KETI（韩国电子技术研究院）
针对类别增量目标检测中的灾难性遗忘与多标签复杂性，提出 SDDGR，利用 Stable Diffusion 生成旧类图像，并结合迭代细化、L2 知识蒸馏和伪标签，在 COCO 2017 上取得最优性能。
2024-05-07 cs.CV
Learn the new, keep the old: Extending pretrained models with new anatomy and images
Computer-assisted Applications in Medicine, ETH Zurich（苏黎世联邦理工学院计算机辅助医学应用）；CARD Group, University Hospital Balgrist, University of Zurich（苏黎世大学巴格里斯特大学医院CARD小组）
深度学习已被广泛接受为用于医学图像分割的有前景的解决方案，给定具有相应注释的足够大的代表性图像数据集。随着标注的医学数据集数量的不断增加，总是从头开始用所有数据训练学习方法是不可行的。这也注定要达到计算极限，例如，内存或运行时可行的训练。增量学习可能是一种潜在的解决方案，其中迭代地引入新信息（图像或解剖结构）。然而，为了保存集体信息，必须保留过去的一些“重要”（即代表性）图像和注释，同时添加新的信息。在本文中，我们介绍了一个框架，应用增量学习分割，并提出了新的方法来选择其中的代表性数据。我们比较评估我们的方法在不同的情况下，使用MR图像和验证使用我们的方法增加学习能力。
2018-06-01 cs.CV stat.ML
Bridge Past and Future: Overcoming Information Asymmetry in Incremental Object Detection
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；Peng Cheng Laboratory（鹏城实验室）
针对增量目标检测中因多阶段类别共现导致的信息不对称问题，提出BPF方法对齐模型优化方向，并设计DwF损失利用背景概率平衡旧类遗忘与新类学习，在Pascal VOC和MS COCO上超越现有方法。
2024-07-16 cs.CV
Energy-based Latent Aligner for Incremental Learning
Indian Institute of Technology Hyderabad（印度理工学院海得拉巴分校）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）；Australian National University（澳大利亚国立大学）；Linköping University（林雪平大学）；Aalto University（阿尔托大学）
深度学习模型往往会忘记他们以前的知识，同时逐渐学习新的任务。出现此行为是因为为新任务优化的参数更新可能无法与适用于旧任务的更新很好地对齐。由此产生的潜在表征不匹配导致遗忘。在这项工作中，我们提出了ELI：基于能量的增量学习潜在对齐器，它首先学习潜在表示的能量流形，使得先前的任务潜伏期具有低能量，当前任务潜伏期具有高能量值。这种学习的流形用于对抗增量学习期间发生的表征转变。我们提出的方法提供的隐式正则化可以用作现有增量学习方法中的即插即用模块。我们通过对CIFAR-100，ImageNet子集，ImageNet 1 k和Pascal VOC数据集的广泛评估来验证这一点。我们观察到一致的改善时，ELI被添加到三个突出的方法在类增量学习，在多个增量设置。此外，当添加到现有技术的增量对象检测器时，ELI提供超过5%的检测准确度改进，证实了其有效性和对现有技术的补充优势。
2022-03-28 cs.AI cs.CV cs.LG
SID: Incremental Learning for Anchor-Free Object Detection via Selective and Inter-Related Distillation
The University of Queensland（昆士兰大学）
增量学习需要一个模型来从流数据中不断学习新任务。然而，传统的对训练良好的深度神经网络在新任务上的微调会大大降低旧任务的性能--这一问题被称为灾难性遗忘。在本文中，我们在无锚点目标检测的背景下解决了这个问题，这是计算机视觉的新趋势，因为它简单、快速且灵活。简单地调整当前的增量学习策略，由于缺乏对它们特定模型结构的考虑，在这些无锚检测器上失败。为了应对无锚对象检测器增量学习的挑战，我们提出了一种新的增量学习范式，称为选择性和相互关联蒸馏（SID）。此外，提出了一种新的评价指标，以更好地评估增量学习条件下的检测器的性能。通过在适当的位置进行选择性提取，并进一步转移额外的实例关系知识，我们的方法在基准数据集PASCAL VOC和COCO上表现出显着的优势。
2020-12-31 cs.CV
Dynamic Object Queries for Transformer-based Incremental Object Detection
Tsinghua University（清华大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
本文提出基于Transformer的DyQ-DETR模型，通过动态目标查询扩展表示能力、隔离二部匹配及风险平衡校准，有效解决增量目标检测中的灾难性遗忘问题，以有限参数开销显著超越现有方法。
2024-08-27 cs.AI cs.CV
AWF: Adaptive Weight Fusion for Enhanced Class Incremental Semantic Segmentation
The University of Adelaide（阿德莱德大学）；The University of Sydney（悉尼大学）
本文提出自适应权重融合（AWF）方法，通过引入融合参数的交替训练策略，更灵活地整合模型权重，在类增量语义分割任务中有效平衡新旧知识并显著提升性能。
2025-06-30 cs.CV
STAR-IOD: Scale-decoupled Topology Alignment with Pseudo-label Refinement for Remote Sensing Incremental Object Detection
School of Computer Science, Northwestern Polytechnical University, Xi’an 710072, China（计算机科学学院，西北工业大学，西安710072，中国）；School of Artificial Intelligence, OPtics and ElectroNics (iOPEN), Northwestern Polytechnical University, Xi’an 710072, China（人工智能学院，光学与电子学（iOPEN），西北工业大学，西安710072，中国）
本文提出STAR-IOD框架，通过子空间解耦拓扑蒸馏模块和聚类驱动伪标签生成器，解决遥感增量目标检测中类别间拓扑关系对齐和尺度变化导致的表示差异问题，同时通过动态识别类别特定阈值来缓解旧类标注缺失问题，实验表明在DIOR-IOD和DOTA-IOD数据集上，方法在mAP上分别优于现有方法1.7%和2.1%。
2026-05-20 cs.CV
RECALL: Replay-based Continual Learning in Semantic Segmentation
University of Padova（帕多瓦大学）
深度网络允许在语义分割中获得出色的结果，但是它们需要在具有大量数据的Single Shot中进行训练。由于灾难性遗忘现象，以增量步骤学习新类并且先前训练数据不再可用的持续学习设置具有挑战性。现有的方法通常在执行几个增量步骤或存在背景类的分布偏移时失败。我们通过为旧类重新创建不再可用的数据并在后台类上概述内容修复方案来解决这些问题。我们提出了两个来源的重播数据。第一种方法采用生成对抗网络从过去学习步骤的类空间中采样。第二个依赖于网络抓取的数据，从在线数据库中检索包含旧类示例的图像。在这两种情况下，都没有存储过去步骤的样本，从而避免了隐私问题。然后在增量步骤期间将重放数据与新样本混合。我们的方法RECALL优于最先进的方法。
2021-09-19 cs.CV
Foundation Model Drives Weakly Incremental Learning for Semantic Segmentation
Alibaba Group（阿里巴巴集团）；University of the Chinese Academy of Sciences（中国科学院大学）
本文针对语义分割弱增量学习中图像级标签缺乏定位细节且易遗忘旧类的问题，提出FMWISS框架，利用基础模型协同分割、师生伪掩码优化和记忆复制粘贴增强，在VOC与COCO上显著优于现有方法。
2023-04-20 cs.CV
Incremental Few-Shot Semantic Segmentation via Embedding Adaptive-Update and Hyper-class Representation
Hohai University（河海大学）；Singapore University of Technology and Design（新加坡科技设计大学）；University of Electronic Science and Technology of China（电子科技大学）；Shanghai AI Laboratory（上海人工智能实验室）；Nanjing University（南京大学）
增量式Few-Shot语义分割（IFSS）的目标是逐步扩展模型的分割能力，以分割仅由少量样本监督的新类别图像。然而，在旧类上学习的特征可能会显著漂移，导致灾难性遗忘。此外，新类的像素级分割样本很少，导致每个学习会话中臭名昭著的过拟合问题。在本文中，我们明确表示基于类的知识语义分割作为一个类别嵌入和超类嵌入，其中前者描述了排他性的语义属性，后者表示超类知识类共享的语义属性。为了解决IFSS问题，我们提出了EHNet，从自适应更新和超类表示网络两个方面进行了嵌入。首先，我们提出了一种嵌入自适应更新策略，以避免特征漂移，它保持了旧的知识，超类表示，并自适应更新类别嵌入类注意力计划，涉及在个别会话中学习的新类。其次，为了抵抗由少量训练样本引起的过拟合问题，通过聚类所有类别嵌入来学习超类别嵌入以用于初始化，并且与新类别的类别嵌入对齐以用于增强，其中所学习的知识有助于学习新知识，从而减轻对训练数据规模的性能依赖。值得注意的是，这两个设计提供了表示能力的类具有足够的语义和有限的偏见，使执行分割任务需要高语义依赖。在PASCAL-5i和COCO数据集上的实验表明，EHNet具有新的性能，具有显著的优势。
2022-07-26 cs.CV
Multi-Task Incremental Learning for Object Detection
Computer Vision Center UAB（巴塞罗那自治大学计算机视觉中心）；Amazon Web Services（亚马逊云科技）；UCLA（加州大学洛杉矶分校）
多任务学习多个任务，同时在它们之间共享知识和计算。然而，它遭受灾难性遗忘的以前的知识时，学习增量没有访问旧的数据。大多数现有的对象检测器是特定于域的和静态的，而一些是增量学习的，但仅在单个域内。训练对象检测器增量跨各个领域很少被探索。在这项工作中，我们提出了三个增量学习方案，在不同的领域和类别的目标检测。为了缓解灾难性遗忘，提出了注意特征提取，利用自下而上和自上而下的注意力来提取用于提取的重要信息。然后，我们系统地分析了所提出的蒸馏方法在不同的情况下。我们发现，与一般的理解相反，领域差距对增量检测的负面影响较小，而类别差异是有问题的。对于困难的情况下，领域差距，特别是类别差异很大，我们探讨了三种不同的样本采样方法，并表明所提出的自适应采样方法是有效的，从整个数据集选择多样的和信息丰富的样本，以进一步防止遗忘。实验结果表明，我们实现了显着的改善，在三个不同的情况下，在七个目标检测基准数据集。
2020-11-18 cs.CV
Few-Shot Batch Incremental Road Object Detection via Detector Fusion
PES University（PES大学）；Intel Corporation（英特尔公司）
增量少样本学习已经成为深度学习中一个新的具有挑战性的领域，其目标是使用很少的新类数据样本来训练深度学习模型，而不使用旧类数据。在这项工作中，我们解决了批量增量Few-Shot道路目标检测使用的数据从印度驾驶数据集（IDD）的问题。我们的方法DualFusion以一种允许我们学习用非常有限的数据检测稀有对象的方式结合了对象检测器，所有这些都不会严重降低检测器在丰富类上的性能。在IDD OpenSet增量Few-Shot检测任务中，我们在基类上实现了40.0的mAP50得分，总体mAP50得分为38.8，这两个得分都是迄今为止最高的。在COCO批量增量Few-Shot检测任务中，我们实现了9.9的新颖AP得分，超过了最先进的新颖类性能超过6.6倍。
2021-08-18 cs.AI cs.CV
Incremental Learning of Object Detectors without Catastrophic Forgetting
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；LJK（让·昆茨曼实验室）
尽管卷积神经网络在目标检测方面取得了成功，但它们对于增量学习来说装备不足，即，在没有初始训练数据的情况下，调整在一组类别上训练的原始模型以额外地检测新类别的对象。他们遭受“灾难性遗忘“--当训练目标适应新的类时，原始类集的性能突然下降。我们提出了一种方法来解决这个问题，并学习对象检测器增量，既不是原始的训练数据，也不是注释的原始类在新的训练集。我们提出的解决方案的核心是一个损失函数，以平衡对新类的预测和新的蒸馏损失之间的相互作用，最大限度地减少来自原始和更新网络的旧类的响应之间的差异。这种增量学习可以多次执行，在每个步骤中针对一组新的类，与在数据集合上训练的基线网络相比，性能略有下降。我们目前的目标检测结果的PASCAL VOC 2007年和COCO数据集，以及详细的实证分析的方法。
2017-08-23 cs.CV
Adaptive Prototype Replay for Class Incremental Semantic Segmentation
Huazhong University of Science and Technology（华中科技大学）；Hunan Normal University（湖南师范大学）
本文提出自适应原型回放（Adapter）方法，通过动态更新原型和不确定性约束损失，解决类增量语义分割中表示更新与固定原型不匹配的问题，在Pascal VOC和ADE20K上达到最先进性能。
2024-12-17 cs.CV
Background Adaptation with Residual Modeling for Exemplar-Free Class-Incremental Semantic Segmentation
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）
针对类增量语义分割中的背景偏移挑战，提出基于残差建模的背景自适应机制及配套损失与蒸馏策略，在多个数据集上优于现有无样本最优方法，兼顾新类准确率与旧类记忆保留。
2024-07-13 cs.CV
Self-Paced Imbalance Rectification for Class Incremental Learning
基于样本的类增量学习是在识别新类的同时不忘记旧类，其样本只能保存在有限的内存中。不同环境下内存容量的变化会导致新样本与旧样本的比例波动，这将给增量优化过程的稳定性带来挑战。为了解决这个问题，我们提出了一种新的自定步调的不平衡整流方案，动态地保持增量平衡在表示学习阶段。具体来说，我们提出的方案包括一个频率补偿策略，调整logits的差距与相应的数量比，以加强旧类的表达能力，和继承转移策略，以减少表示混乱，通过估计不同的类在旧的嵌入空间的相似性。此外，提出了一种时间顺序衰减机制，以减轻重复优化的老类在多个逐步增量。在三个基准上的大量实验表明，稳定的增量性能，显着优于国家的最先进的方法。
2022-02-19 cs.CV
Co-Transport for Class-Incremental Learning
Nanjing University（南京大学）
传统的学习系统是在封闭世界中训练固定数量的类，并且需要预先收集数据集。然而，新的类经常出现在现实世界的应用程序中，应该逐步学习。例如，在电子商务中，每天都有新的产品出现，在社交媒体社区中，新的主题经常出现。在这种情况下，增量模型应该一次学习几个新类，而不会忘记。我们发现，在增量学习中，新老类之间存在很强的相关性，可以应用于相互关联和促进不同的学习阶段。因此，我们提出了类增量学习（COIL）的CO-运输，它学习跨增量任务与类明智的语义关系。具体来说，协同传输有两个方面：预期传输试图用最佳传输知识来增强旧的分类器，作为快速模型自适应。回溯传输的目的是将新的类分类器作为旧的类分类器向后传输，以克服遗忘。通过这些传输，COIL有效地适应新的任务，并稳定地抵抗遗忘。在基准数据集和真实多媒体数据集上的实验验证了该方法的有效性。
2021-07-27 cs.CV cs.LG
PASS++: A Dual Bias Reduction Framework for Non-Exemplar Class-Incremental Learning
Centre for Artificial Intelligence and Robotics, Hong Kong Institute of Science and Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院人工智能与机器人中心）；Institute of Automation of Chinese Academy of Sciences（中国科学院自动化研究所）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）
提出PASS++双偏差减少框架，通过自监督变换和原型增强解决无样本类增量学习中的表示与分类器偏差，无需旧样本即可媲美基于样本的方法。
2024-07-19 cs.CV cs.LG
Few-Shot Class-Incremental Learning by Sampling Multi-Phase Tasks
Nanjing University（南京大学）；Hikvision Research Institute（海康威视研究院）
在我们不断变化的世界中，新的阶级经常出现，例如，社交媒体中的新兴话题和电子商务中的新型产品。模型应该识别新类，同时保持对旧类的可区分性。在严重的情况下，只有有限的新实例可用于增量更新模型。识别Few-Shot新类而不忘记旧类的任务称为Few-Shot类增量学习（FSCIL）。在这项工作中，我们提出了一个新的范式FSCIL元学习的基础上学习多阶段增量任务（LIMIT），合成假FSCIL任务的基础数据集。伪任务的数据格式与“真实”增量任务一致，通过元学习可以为不可见任务建立可泛化的特征空间。此外，LIMIT还构建了一个基于Transformer的标定模块，将旧的类分类器和新的类原型标定到相同的尺度上，填补了语义鸿沟。校准模块还利用集合到集合函数自适应地将特定于实例的嵌入上下文化。LIMIT有效地适应新类，同时防止遗忘旧类。在三个基准数据集（CIFAR100，miniImageNet和CUB200）和大规模数据集上的实验，即，ImageNet ILSVRC 2012验证了LIMIT实现了最先进的性能。
2022-08-19 cs.CV cs.LG
Remind of the Past: Incremental Learning with Analogical Prompts
Chinese Academy of Science（中国科学院）；Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）；Xi’an Jiaotong University（西安交通大学）；Jinan University（暨南大学）
虽然无数据增量学习方法对内存友好，但在缺乏历史数据的情况下，准确估计和抵消表示变化是具有挑战性的。本文通过提出一种受人类类比能力启发的新的增量学习方法来解决这个棘手的问题。具体来说，我们设计了一个类比生成机制，通过提示微调将新数据重新映射到旧类中。它只使用新类的样本来模拟旧模型上目标旧类的特征分布。学习的提示进一步用于估计和抵消由历史原型微调引起的表征转移。所提出的方法建立了新的国家的最先进的性能在四个增量学习基准下的类和域增量学习设置。它始终优于数据重放方法，因为它只保存每个类的功能原型。通过在Core50基准上进行联合训练，它几乎达到了经验上限。代码将在\url{https://github.com/ZhihengCV/A-Prompts}发布。
2023-03-24 cs.CV cs.LG
TLCE: Transfer-Learning Based Classifier Ensembles for Few-Shot Class-Incremental Learning
Jilin University（吉林大学）；Engineering Research Center of Knowledge-Driven Human-Machine Intelligence, MOE, China（教育部知识驱动人机智能工程研究中心）
针对 FSCIL 的遗忘与过拟合问题，本文提出 TLCE，利用情景训练构造准正交原型并集成多个预训练模型，在多个数据集上超过现有最先进方法。
2023-12-07 cs.CV
M2KD: Multi-model and Multi-level Knowledge Distillation for Incremental Learning
University of Maryland（马里兰大学）；Adobe Research（奥多比研究中心）
增量学习的目标是在新类别上取得良好的性能，而不会忘记旧类别。知识蒸馏已被证明是至关重要的，在保留旧类的性能。然而，传统方法仅从最后一个模型中顺序地提取知识，导致在稍后的增量学习步骤中旧类的性能下降。本文提出了一种多模型、多层次的知识蒸馏策略。我们不是只从最后一个模型中顺序地提取知识，而是直接利用所有以前的模型快照。此外，我们采用了辅助蒸馏，以进一步保留在中间特征级别编码的知识。为了提高模型的内存效率，我们采用基于掩码的修剪来重建所有以前的模型，占用的内存很小。在标准增量学习基准上的实验表明，我们的方法更好地保留了旧类的知识，并提高了标准蒸馏技术的整体性能。
2020-09-05 cs.CV
Incremental Object Keypoint Learning
Northwestern University（西北大学）；Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Huazhong University of Science and Technology（华中科技大学）
本文提出增量式物体关键点学习（IKL），通过两阶段方案利用新旧关键点关联，缓解灾难性遗忘并实现正迁移，在低样本下提升性能。
2025-03-26 cs.CV cs.LG
Self-Sustaining Representation Expansion for Non-Exemplar Class-Incremental Learning
University of Science and Technology of China（中国科学技术大学）；Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院）；University of Rochester（罗切斯特大学）
非样本类增量学习是指在旧类样本无法保存的情况下，同时识别新类和旧类。这是一个具有挑战性的任务，因为表示优化和特征保留只能在新类的监督下实现。为了解决这个问题，我们提出了一种新的自我维持的表示扩展方案。我们的计划包括一个结构重组策略，融合主分支扩展和侧分支更新，以保持旧的功能，和一个主分支蒸馏计划转移不变的知识。此外，提出了一种原型选择机制，通过选择性地将新的样品纳入蒸馏过程中，以增强新旧类之间的区分。在三个基准上进行的大量实验表明，性能显著提高，分别比最先进的方法高出3%、3%和6%。
2022-03-16 cs.CV
Memory-Free Generative Replay For Class-Incremental Learning
Australian National University（澳大利亚国立大学）
基于正则化的方法有利于缓解类增量学习中的灾难性遗忘问题。在没有旧任务图像的情况下，他们通常假设如果分类器在新图像上产生类似的输出，则旧知识被很好地保留。在本文中，我们发现它们的有效性在很大程度上取决于旧类的性质：它们在容易区分的类上工作得很好，但在更细粒度的类上可能会失败，例如，男孩和女孩。从本质上讲，这种方法将新数据投影到全连接层中的权重向量所覆盖的特征空间上，对应于旧类。由此产生的投影在细粒度的旧类上是相似的，因此新的分类器将逐渐失去对这些类的区分能力。为了解决这个问题，我们提出了一种无记忆的生成重放策略，通过直接从旧分类器生成具有代表性的旧图像并结合新数据进行新分类器训练来保留细粒度的旧类特征。为了解决所生成的样本的均匀化问题，我们还提出了一个多样性损失，最大限度地提高所生成的样本之间的Kullback Leibler（KL）分歧。我们的方法是最好的补充，事先正则化为基础的方法被证明是有效的，易于区分的旧类。我们在CUB-200-2011，Caltech-101，CIFAR-100和Tiny ImageNet上验证了上述设计和见解，并表明我们的策略明显优于现有的无内存方法。代码可在https://github.com/xmengxin/MFGR上获得
2021-09-01 cs.CV
Slightly Shift New Classes to Remember Old Classes for Video Class-Incremental Learning
University of Electronic Science and Technology of China（电子科技大学）
针对视频类增量学习中的灾难性遗忘问题，本文提出SNRO方法，通过稀疏采样构建记忆集和提前终止训练来偏移新类特征，在相同内存消耗下提升旧类记忆能力。
2024-04-01 cs.CV
Exemplar-Free Class Incremental Learning via Incremental Representation
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；School of Mathematics and Statistics, Beijing Technology and Business University（北京工商大学数学与统计学院）
提出无需构建旧伪特征的简单增量表示（IR）框架，通过数据集增强和L2空间维持损失防止遗忘，并使用1近邻分类器推理，在多个数据集上取得相当性能且显著防止模型遗忘。
2024-03-24 cs.CV
Towards Non-Exemplar Semi-Supervised Class-Incremental Learning
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Centre for Artificial Intelligence and Robotics, Hong Kong Institute of Science and Innovation, Chinese Academy of Sciences（中国科学院香港创新研究院人工智能与机器人中心）
针对类增量学习依赖旧数据和大量标注的问题，提出无样本半监督CIL框架，结合对比学习与Semi-IPC原型分类器，在仅用不到1%标签且不存旧样本下超越先进方法。
2024-03-27 cs.CV
