Efficient Multimodal 3D Object Detector via Instance-Level Contrastive Distillation
College of Electrical and Information Engineering, Hunan University（湖南大学电气与信息工程学院）
针对多模态3D检测中的模态异构、错位及大BEV特征融合效率问题，提出ICD实例级对比蒸馏与CLFM交叉线性注意力融合，在KITTI和nuScenes上以更高效率超越SOTA。
2025-03-17 cs.CV
X-PDNet: Accurate Joint Plane Instance Segmentation and Monocular Depth Estimation with Cross-Task Distillation and Boundary Correction
Hanyang University（汉阳大学）；Seoul National University（首尔大学）；MAXST Co., Ltd（MAXST公司）
本文提出X-PDNet多任务框架，通过跨任务蒸馏与基于深度信息的边界校正提升平面实例分割和单目深度估计，并发布3000余张人工标注图像。
2023-09-24 cs.CV
P2Seg: Pointly-supervised Segmentation via Mutual Distillation
University of Chinese Academy of Sciences（中国科学院大学）；Xiaomi AI Lab（小米人工智能实验室）
本文提出 P2Seg 方法，通过互蒸馏模块融合实例位置信息与语义边界信息，在点级监督下实现更精确的实例分割，并在 PASCAL VOC 和 MS COCO 上显著超越现有方法。
2024-01-18 cs.CV
Generative Denoise Distillation: Simple Stochastic Noises Induce Efficient Knowledge Transfer for Dense Prediction
Huazhong University of Science and Technology（华中科技大学）；University of Michigan（密歇根大学）
本文提出生成式去噪蒸馏GDD，通过向学生概念特征注入随机噪声并生成实例特征与教师对齐，在检测与分割任务上取得新SOTA。
2024-01-17 cs.CV
Object-Aware Distillation Pyramid for Open-Vocabulary Object Detection
Beihang University（北京航空航天大学）；Alibaba Group（阿里巴巴集团）
开放词汇表目标检测的目标是提供对象检测器训练的一组固定的对象类别的泛化能力，以检测任意文本查询描述的对象。以前的方法采用知识蒸馏从预训练的视觉和语言模型（PVLM）中提取知识并将其传递给检测器。然而，由于非自适应的建议裁剪和单级特征模仿过程中，他们遭受信息破坏的知识提取和低效的知识转移。为了弥补这些局限性，我们提出了一个对象感知蒸馏金字塔（OADP）框架，包括一个对象感知知识提取（OAKE）模块和蒸馏金字塔（DP）机制。在从PVLM中提取对象知识时，前者自适应地转换对象建议，并采用对象感知的掩码注意，以获得精确和完整的对象知识。后者引入了全局和分块的知识提取，以实现更全面的知识转移，弥补对象提取中缺失的关系信息。大量的实验表明，我们的方法实现了显着的改善相比，目前的方法。特别是在MS-COCO数据集上，我们的OADP框架达到了$35.6$ mAP $^{\text{N}}_{50}$，超过了目前最先进的方法$3.3$ mAP $^{\text{N}}_{50}$。代码发布于www.example.com。
2023-03-10 cs.CV
GAN-Knowledge Distillation for one-stage Object Detection
Startdt AI Lab（星图数据AI实验室）；Zeusee Technology（智视科技）
卷积神经网络在目标检测的精度上有显著的提高。随着卷积神经网络的深入，检测的准确性也明显提高，需要更多的浮点计算。在目标检测中，许多研究者采用知识蒸馏的方法，将知识从更深更大的教师网络转移到较小的学生网络中，从而提高学生网络的准确性。大多数知识蒸馏方法都需要设计复杂的代价函数，并且都是针对两阶段目标检测算法的。针对一阶段目标检测，提出了一种简洁有效的知识蒸馏方法。将教师网络和学生网络生成的特征图分别作为真样本和假样本，并对两者进行对抗训练，以提高学生网络在一阶段目标检测中的性能。
2019-07-04 cs.CV
Bridging Cross-task Protocol Inconsistency for Distillation in Dense Object Detection
College of Computer Science & Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Polytechnic Institute, Zhejiang University（浙江大学理工学院）；Hikvision Research Institute（海康威视研究院）；ZJU – UIUC Institute, Zhejiang University（浙江大学-伊利诺伊大学厄巴纳-香槟分校研究院）；Shanghai Institute for Advanced Study of Zhejiang University（浙江大学上海高等研究院）
针对密集目标检测中知识蒸馏与分类任务的协议不一致问题，提出基于二分类图的分类蒸馏与IoU-based定位蒸馏损失的跨任务一致蒸馏方法，性能优于现有方法。
2024-03-12 cs.CV
AMD: Adaptive Masked Distillation for Object Detection
Nanjing Normal University（南京师范大学）；Nanjing Tech University（南京工业大学）
作为一种通用的模型压缩范例，基于特征的知识蒸馏允许学生模型从教师模型中学习表达特征。在本文中，我们主要集中在设计一个有效的特征提取框架，并提出了一个空间通道自适应掩蔽蒸馏（AMD）网络的目标检测。更具体地说，为了准确地重建重要的特征区域，我们首先在学生网络的特征图上执行注意力引导的特征掩蔽，这样我们就可以通过空间自适应特征掩蔽来识别重要特征，而不是以前方法中的随机掩蔽。此外，我们采用了一个简单而有效的模块，使学生网络通道是自适应的，提高其模型在对象感知和检测的能力。与以往的方法相比，该网络能够重构和学习更多的目标感知特征，有利于准确的目标检测。实证实验证明了我们的方法的优越性：在我们提出的蒸馏方法的帮助下，当RetinaNet，Cascade Mask-RCNN和RepPoints分别用作目标检测的教师框架时，学生网络报告41.3%，42.4%和42.7%的mAP分数，这优于以前的最先进的蒸馏方法，包括FGD和MGD。
2023-02-10 cs.CV
SAMKD: Spatial-aware Adaptive Masking Knowledge Distillation for Object Detection
School of Computer and Electronic Information, Nanjing Normal University（南京师范大学计算机与电子信息学院）
针对现有注意力引导特征掩码蒸馏缺乏细粒度线索的问题，提出空间感知自适应掩码知识蒸馏框架SAMKD，结合空间分层特征掩码与掩码logit蒸馏，显著提升目标检测学生模型性能。
2025-03-24 cs.CV
Response-based Distillation for Incremental Object Detection
Alibaba Group（阿里巴巴集团）
传统的目标检测不适合增量学习。然而，直接在一个训练良好的检测模型上进行微调，只使用新数据将导致灾难性遗忘。知识蒸馏是减轻灾难性遗忘的一种直接方法。在增量式目标检测（IOD）中，以往的工作主要集中在特征级的知识蒸馏，而检测器的不同响应尚未得到充分的研究。在本文中，我们提出了一个完全基于响应的增量蒸馏方法，专注于学习响应检测边界框和分类预测。首先，我们的方法转移类别知识，同时为学生模型提供在增量学习过程中保留本地化知识的能力。此外，我们进一步评估所有位置的质量，并提供有价值的响应自适应伪标签选择（APS）策略。最后，我们阐明了知识从不同的反应，应分配不同的重要性，在增量蒸馏。在MS COCO上进行的大量实验证明了我们的方法的显着优势，这大大缩小了全面训练的性能差距。
2021-10-26 cs.CV
Smooth and Stepwise Self-Distillation for Object Detection
Baidu Research（百度研究院）
提出面向目标检测的平滑逐步自蒸馏 SSSD，利用隐式教师、Jensen-Shannon 距离和自适应蒸馏系数，在 COCO 上多数设置中提升平均精度。
2024-01-19 cs.CV
Task Integration Distillation for Object Detectors
South China Normal University（华南师范大学）
针对目标检测知识蒸馏忽略回归任务导致性能不佳的问题，提出一种集成分类与回归任务并引入任务重要性策略的蒸馏方法，以均衡利用检测器输出并提升蒸馏效果。
2024-04-02 cs.CV
nVFNet-RDC: Replay and Non-Local Distillation Collaboration for Continual Object Detection
Tencent Youtu Lab（腾讯优图实验室）
持续学习（CL）专注于开发具有适应新环境和学习新技能能力的算法。近年来，这一极具挑战性的任务引起了人们的极大兴趣，新的解决方案也迅速出现。在本文中，我们提出了一个nVFNet-RDC方法连续目标检测。我们的nVFNet-RDC由教师-学生模型组成，并采用重放和特征提取策略。作为第一名的解决方案，我们在第三届CLVision挑战赛第二和第三轨道上分别实现了55.94%和54.65%的平均mAP。
2022-09-08 cs.CV
Localization Distillation for Dense Object Detection
Tianjin University（天津大学）；Harbin Institute of Technology（哈尔滨工业大学）；Nankai University（南开大学）
知识蒸馏（KD）在目标检测中具有学习紧凑模型的强大能力。以往用于目标检测的KD方法大多集中在模仿区域内的深层特征，而不是模仿分类logit，这是由于其在提取定位信息方面的效率低下和微不足道的改进。本文通过对本地化知识蒸馏过程的重新表述，提出了一种新的本地化蒸馏方法，该方法可以有效地将本地化知识从教师转移到学生。此外，我们还详细介绍了有价值的本地化区域的概念，可以帮助有选择地提取的语义和本地化知识的某一区域。结合这两个新的组件，第一次，我们表明，logit模仿可以优于特征模仿和本地化知识蒸馏是更重要和更有效的比语义知识提取对象检测器。我们的蒸馏方案是简单有效的，可以很容易地应用到不同的密集目标探测器。实验表明，我们的LD可以提高GFocal-ResNet-50的AP分数，在COCO基准测试中，单尺度1x训练时间表从40.1提高到42.1，而不会牺牲推理速度。我们的源代码和训练模型可在https://github.com/HikariTJU/LD上公开获取
2022-03-31 cs.CV
Efficient Feature Distillation for Zero-shot Annotation Object Detection
University of Southern California（南加州大学）
提出零样本标注目标检测设定 ZAD 及高效特征蒸馏方法 EZAD，通过重归一化 CLIP、生成含新类名的蒸馏建议并利用语义回归，在更短训练时间内提升 COCO 与 LVIS 性能。
2023-11-02 cs.CV
DFMSD: Dual Feature Masking Stage-wise Knowledge Distillation for Object Detection
Nanjing Normal University（南京师范大学）；East China Normal University（华东师范大学）；Jiangsu University（江苏大学）
提出DFMSD双特征掩蔽异构知识蒸馏框架，通过分阶段自适应学习、掩蔽增强和FPN层语义对齐，提升目标检测中学生模型的重建特征质量，超越现有异构与同构蒸馏方法。
2024-07-18 cs.CV
Overcoming Catastrophic Forgetting in Incremental Object Detection via Elastic Response Distillation
Alibaba Group（阿里巴巴集团）；Zhejiang University（浙江大学）
传统的对象检测器不适合增量学习。然而，直接在一个只包含新数据的经过良好训练的检测模型上进行微调将导致灾难性遗忘。知识蒸馏是缓解灾难性遗忘的一种灵活方法。在增量式目标检测（IOD）中，以往的工作主要集中在提取特征和响应的组合。然而，他们对答案中包含的信息探索不足。在本文中，我们提出了一种基于响应的增量蒸馏方法，称为弹性响应蒸馏（ERD），其重点是弹性学习分类头和回归头的响应。首先，我们的方法转移类别知识，同时为学生检测器提供在增量学习过程中保留定位信息的能力。此外，我们进一步评估所有位置的质量，并通过弹性响应选择（ERS）策略提供有价值的响应。最后，我们阐明了在增量蒸馏过程中，来自不同响应的知识应该被赋予不同的重要性。在MS COCO上进行的大量实验表明，我们的方法达到了最先进的结果，大大缩小了与完全训练的性能差距。
2022-04-05 cs.CV
M^2C-EvDet: Multi-Domain Multi-Order Cross-Modal Knowledge Distillation for Event-based Object Detection
BNRist, THUIBCS, BLBCI, School of Software, Tsinghua University（清华大学软件学院、北京信息科学与技术国家研究中心、清华-英特尔先进计算与智能技术联合研究中心、北京国家区块链与物联网技术研究中心）；Yangtze Delta Region Institute, Tsinghua University（清华大学长三角研究院）；School of Economics and Management, Beijing Forestry University（北京林业大学经济管理学院）
提出M^2C-EvDet框架，通过频率学习和超图计算，结合自适应频率解耦特征蒸馏和多阶关系蒸馏，缩小事件数据与帧数据在目标检测上的性能差距。
2026-06-24 cs.CV
Guided Distillation for Semi-Supervised Instance Segmentation
FAIR, Meta（Meta 基础人工智能研究院）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）
针对实例分割依赖全标注数据的问题，提出带引导预热阶段的师生蒸馏半监督方法，结合未标注数据利用，在Cityscapes、COCO数据集低标注比例下实现mask-AP大幅提升。
2023-12-14 cs.AI cs.CV cs.LG
Two-Level Residual Distillation based Triple Network for Incremental Object Detection
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；TAL Education Group（好未来教育集团）
基于卷积神经网络的现代目标检测方法在学习新的类时，在没有原始数据的情况下，存在严重的灾难性遗忘。由于时间消耗、存储负担和旧数据的隐私性，当模型训练后出现新的对象类时，不建议使用新旧数据从头开始训练模型。在本文中，我们提出了一种基于Faster R-CNN的新型增量对象检测器，可以在不使用旧数据的情况下从新对象类中不断学习。它是一个三重网络，其中旧模型和剩余模型作为辅助，以帮助在新类上进行增量模型学习，而不会忘记以前学习的知识。为了更好地保持新旧类之间的特征区分，在增量学习过程中，残差模型在新类上进行联合训练。此外，设计了相应的蒸馏方案来指导训练过程，该方案由两级剩余蒸馏损失和联合分类蒸馏损失组成。在VOC 2007和COCO上进行了大量的实验，实验结果表明，该方法能够有效地学习增量式检测新类别的对象，并在此背景下缓解了灾难性遗忘问题.
2020-07-27 cs.CV
TOIST: Task Oriented Instance Segmentation Transformer with Noun-Pronoun Distillation
AIR, Tsinghua University（清华大学智能产业研究院（AIR））；Peking University（北京大学）；Intel Labs（英特尔实验室）
目前的指称理解算法能够有效地检测或分割名词所指的对象，但如何理解动词指称仍然是一个有待研究的问题。因此，我们研究了具有挑战性的问题，面向任务的检测，其目的是找到对象，最能承受的动词，如sit comfortable on. Towards一个更好的本地化，更好地服务于下游的应用程序，如机器人交互，我们扩展到面向任务的实例分割的问题。这项任务的一个独特要求是在可能的备选方案中选择首选的候选方案。因此，我们求助于Transformer架构，它自然地对关注的查询关系进行建模，从而产生TOIST方法。为了利用预先训练的名词指称表达理解模型以及我们可以在训练期间访问特权名词基础事实的事实，提出了一种新的名词-代词蒸馏框架。名词原型以无监督的方式生成，并训练上下文代词特征来选择原型。因此，网络在推理过程中保持名词不可知。我们在大规模面向任务的数据集COCO-Tasks上评估TOIST，并实现了比最佳报告结果高出$\rm{mAP^{box}}$ 10.9%的结果。所提出的名词-代词蒸馏可以将$\rm{mAP^{box}}$和$\rm{mAP^{mask}}$提高+2.8%和+3.8%。代码和模型可在https://github.com/AIR-DISCOVER/TOIST上公开获取。
2022-10-19 cs.AI cs.CV
Intra-class Patch Swap for Self-Distillation
Hongjun Choi（洪俊金）；Eun Som Jeon（金恩 Somerset）；Ankita Shukla（阿尼塔·舒克拉）；Pavan Turaga（帕万·图拉加）
针对传统知识蒸馏依赖预训练教师网络、现有自蒸馏方法通用性受限的问题，提出基于类内图像块交换增强的无教师自蒸馏框架，仅用单学生网络即可实现蒸馏，在多视觉任务上性能优于现有方法。
2025-05-20 cs.CV
WSOD^2: Learning Bottom-up and Top-down Objectness Distillation for Weakly-supervised Object Detection
Sun Yat-sen University（中山大学）；Microsoft Research（微软研究院）
我们研究了弱监督目标检测（WSOD），它在减轻人类参与对象级注释中起着至关重要的作用。主要的工作集成区域建议机制与卷积神经网络（CNN）。尽管CNN精通于提取有区别的局部特征，但是仍然存在巨大的挑战来测量包含完整对象的限界框的可能性（即，"客体"）。在本文中，我们提出了一个新的WSOD框架与对象蒸馏（即，WSOD ^2）通过为弱监督目标检测设计定制的训练机制。通过联合考虑来自低水平测量的自下而上（BU）和自上而下（TD）对象性以及具有自适应线性组合的CNN置信度来具体确定多个回归目标。由于边界框回归可以促进区域建议学习在训练期间以高对象性接近其回归目标，因此可以通过优化将从自底向上证据学习的深度对象性表示逐渐提取到CNN中。我们探索了BU/TD对象的不同自适应训练曲线，并表明所提出的WSOD ^[2]可以实现最先进的结果。
2019-09-11 cs.CV
Spatial Self-Distillation for Object Detection with Inaccurate Bounding Boxes
University of Chinese Academy of Sciences（中国科学院大学）
针对不精确边界框监督检测中的目标漂移等问题，提出SSD-Det，通过SPSD与SISD两个空间自蒸馏模块融合空间和类别信息并优选提议，在噪声标注的MS-COCO和VOC上达到最先进性能。
2023-08-15 cs.CV
Efficient Object Detection in Optical Remote Sensing Imagery via Attention-based Feature Distillation
East China Normal University（华东师范大学）；Université Grenoble Alpes（格勒诺布尔大学）；University of Leicester（莱斯特大学）
本文提出基于注意力的特征蒸馏方法AFD，通过多实例注意力局部蒸馏和注意力全局蒸馏，同时传递局部与全局信息，在遥感目标检测中实现高效且高精度的轻量化模型。
2023-10-28 cs.CV
Cross Domain Object Detection by Target-Perceived Dual Branch Distillation
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Beihang University（北京航空航天大学）；Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人研究院）；SenseTime Research（商汤科技研究院）；Shanghai AI Laboratory（上海人工智能实验室）
跨域目标检测是一个现实而又具有挑战性的课题。由于目标域中数据分布的大偏移和缺乏实例级注释，它的性能下降。现有的方法主要集中在这两个困难中的任何一个，即使它们在跨域目标检测中是紧密耦合的。为了解决这个问题，我们提出了一种新的目标感知的双分支蒸馏（TDD）框架。通过将源域和目标域的检测分支集成在统一的师生学习方案中，可以有效地减少域偏移并产生可靠的监督。特别是，我们首先介绍了两个域之间的一个不同的目标提案感知器。它可以自适应地增强源检测器感知目标图像中的对象，通过利用目标建议上下文从迭代交叉注意。在此基础上，设计了一种简洁的双分支自蒸馏模型训练策略，该策略通过两个分支的自蒸馏逐步整合不同领域的互补对象知识。最后，我们在跨领域目标检测中广泛使用的场景上进行了大量的实验。结果表明，我们的TDD显着优于国家的最先进的方法在所有的基准测试。我们的代码和模型将在https://github.com/Feobi1999/TDD上提供。
2022-05-03 cs.CV
Distilling Knowledge from Refinement in Multiple Instance Detection Networks
Federal University of Rio Grande do Sul（南里奥格兰德联邦大学）
弱监督目标检测（WSOD）的目的是解决目标检测的问题，只使用标记的图像类别作为监督。WSOD中用于处理缺乏本地化信息的常见方法是多实例学习，近年来，方法开始采用多实例检测网络（MIDN），它允许以端到端的方式进行训练。一般来说，这些方法的工作原理是从候选实例池中选择最佳实例，然后根据相似性聚合其他实例。在这项工作中，我们声称，仔细选择的聚合标准可以大大提高学习检测器的准确性。我们首先提出了一个额外的细化步骤，现有的方法（OICR），我们称之为细化知识蒸馏。然后，我们提出了一个自适应的监督聚合功能，动态地改变聚合标准的选择框相关的地面实况类，背景，甚至忽略在每个细化模块的监督生成。在Pascal VOC 2007中的实验表明，我们的知识蒸馏和平滑聚合函数显著提高了OICR在弱监督目标检测和弱监督目标定位任务中的性能。这些改进使Boosted-OICR与其他最先进的方法相比再次具有竞争力。
2020-04-23 cs.CV
Selective Transfer Learning of Cross-Modality Distillation for Monocular 3D Object Detection
Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University（人工智能与机器人研究所，西安交通大学）
本文提出MonoSTL方法，通过解决跨模态蒸馏中的模态差距问题，提升单目3D物体检测的准确性。
2026-03-08 cs.CV
Localization Distillation for Object Detection
Nankai University（南开大学）；Tianjin University（天津大学）；Harbin Institute of Technology（哈尔滨工业大学）
现有的目标检测的知识蒸馏（KD）方法大多集中在特征模仿上，而不是模仿预测逻辑，这是由于其在提取定位信息方面的效率较低。在本文中，我们调查是否logit模仿总是落后于功能模仿。为此，我们首先提出了一种新的本地化蒸馏（LD）方法，可以有效地将本地化知识从教师转移到学生。其次，我们引入了有价值的本地化区域的概念，可以帮助有选择地提取的分类和本地化知识的某一区域。结合这两个新的组成部分，第一次，我们表明，logit模仿可以优于功能模仿和本地化蒸馏的缺乏是为什么logit模仿多年来表现不佳的一个关键原因。深入的研究表明，Logit模仿具有极大的潜力，可以显著缓解局部模糊，学习鲁棒的特征表示，并在早期阶段减轻训练难度。我们还提供了建议的LD和分类KD之间的理论联系，他们共享等效的优化效果。我们的蒸馏方案是简单有效的，可以很容易地应用到密集的水平目标检测器和旋转目标检测器。在MS COCO，PASCAL VOC和DOTA基准上的大量实验表明，我们的方法可以在不牺牲推理速度的情况下实现相当大的AP改进。我们的源代码和预训练模型可在https://github.com/HikariTJU/LD上公开获取。
2022-12-08 cs.CV
Object detection at 200 Frames Per Second
United Technologies Research Center-Ireland（联合技术研究中心-爱尔兰）
在本文中，我们提出了一种高效，快速的目标检测器，每秒可以处理数百帧。为了实现这一目标，我们调查的目标检测框架的三个主要方面：网络架构，损失函数和训练数据（标记和未标记）。为了获得紧凑的网络架构，我们在最近工作的基础上引入了各种改进，以开发一种计算量轻并实现合理性能的架构。为了进一步提高性能，同时保持相同的复杂度，我们利用蒸馏损失函数。使用蒸馏损失，我们将更精确的教师网络的知识转移到提出的轻量级学生网络。我们提出了各种创新，使蒸馏有效的建议一级检测器管道：对象缩放蒸馏损失，特征图非最大抑制和一个单一的统一蒸馏损失函数检测。最后，在蒸馏损失的基础上，我们探讨了利用未标记数据可以在多大程度上提高性能。我们使用教师网络的软标签，用未标记的数据训练我们的模型。我们最终的网络由比基于VGG的目标检测网络少10倍的参数组成，它实现了超过200 FPS的速度，并且提出的更改将Pascal数据集上的检测精度提高了14 mAP。
2018-05-16 cs.CV
Multi-Faceted Distillation of Base-Novel Commonality for Few-shot Object Detection
Harbin Institute of Technology（哈尔滨工业大学）；Shenyang Institute of Automation, Chinese Academy of Sciences（中国科学院沈阳自动化研究所）；Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies（广东省新型安全智能技术重点实验室）
现有的大多数用于Few-Shot目标检测的方法遵循微调范例，其潜在地假设可以通过这样的两阶段训练策略从具有丰富样本的基类隐式地学习和转移类不可知的可泛化知识到具有有限样本的新类。然而，这并不一定是真的，因为对象检测器很难区分类不可知的知识和类特定的知识自动没有明确的建模。在这项工作中，我们建议明确学习三种类型的基础类和新类之间的类不可知的共性：关联相关的语义共性，本地化相关的语义共性和分布共性。我们设计了一个基于存储体的统一蒸馏框架，它能够联合有效地对所有三种类型的共性进行蒸馏。大量的实验表明，我们的方法可以很容易地集成到大多数现有的微调为基础的方法，并不断提高性能的大幅度。
2022-11-04 cs.CV
DMKD: Improving Feature-based Knowledge Distillation for Object Detection Via Dual Masking Augmentation
Nanjing Normal University（南京师范大学）；Nanjing Tech University（南京工业大学）；East China Normal University（华东师范大学）
本文提出双重掩码知识蒸馏框架DMKD，通过双重注意力机制同时捕获空间和通道线索进行特征重建，并采用自可调加权策略融合特征，在目标检测任务中显著提升学生网络性能并超越现有蒸馏方法。
2023-09-07 cs.CV
Dense Relation Distillation with Context-aware Aggregation for Few-Shot Object Detection
Peking University（北京大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
用于目标检测的传统的基于深度学习的方法需要大量的限界框注释用于训练，这对于获得这样的高质量注释数据是昂贵的。Few-Shot目标检测是一种非常具有挑战性的方法，它只需要很少的注释样本就可以适应新的类，因为新对象的细粒度特征很容易被忽略，只有很少的数据可用。在这项工作中，为了充分利用带注释的新对象的特征并捕获查询对象的细粒度特征，我们提出了具有上下文感知聚合的密集关系蒸馏（DCNet）来解决少镜头检测问题（Few-Shot detection problem）。基于元学习的框架，稠密关系蒸馏模块的目标是充分利用支持特征，其中支持特征和查询特征是密集匹配的，以前馈方式覆盖所有空间位置。引导信息的大量使用赋予模型处理常见挑战的能力，例如外观变化和遮挡。此外，为了更好地捕获尺度感知特征，上下文感知聚合模块自适应地利用不同尺度的特征，以获得更全面的特征表示。大量的实验表明，我们提出的方法在PASCAL VOC和MS COCO数据集上实现了最先进的结果。代码将在https://github.com/hzhupku/DCNet上提供。
2021-03-30 cs.CV
Task-Balanced Distillation for Object Detection
Zhejiang University（浙江大学）；SenseTime Research（商汤科技研究院）
主流的目标检测器通常由两个子任务组成，包括分类和回归任务，由两个并行的头来实现。这种经典的设计范例不可避免地导致分类分数和本地化质量（IOU）之间的不一致的空间分布。因此，本文从知识蒸馏的角度对这种错位现象进行了解释。首先，我们观察到，大规模的教师实现了更高比例的和谐预测比轻量级的学生。基于这一有趣的观察，一种新的和谐分数（HS）的设计，以估计对齐的分类和回归质量。HS模型两个子任务之间的关系，并被视为先验知识，以促进和谐的预测，为学生。其次，这种空间错位会导致提取特征时区域选择不协调。为了缓解这个问题，一个新的任务解耦的特征提取（TFD），提出了灵活的平衡分类和回归任务的贡献。最终，HD和TFD构成了所提出的方法，命名为任务平衡蒸馏（TBD）。大量的实验表明，所提出的方法的相当大的潜力和推广。具体而言，当配备TBD时，RetinaNet与ResNet-50在COCO基准下达到41.0 mAP，优于最近的FGD和FRS。
2022-08-05 cs.CV
OD3: Optimization-free Dataset Distillation for Object Detection
Mohamed bin Zayed University of Artificial Intelligence（莫扎德·本·扎耶德人工智能大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出OD3，一种专门用于目标检测的无优化数据蒸馏框架，通过候选选择和筛选过程提升精度，实现新的SOTA结果，压缩比1.0%时COCO mAP50提升超14%。
2026-09-24 cs.CV
FD-CanKD: Frequency-Decoupled Cross-Attention Distillation as a Refinement Prior for Compact Object Detectors
Gachon University（嘉泉大学）
本研究提出FD-CanKD框架，通过预测、关系、频域三级知识迁移实现紧凑检测器的高效蒸馏，在COCO数据集上达到48.87 mAP50:95，移除蒸馏模块后学生模型参数为19.7M且性能优于基线。
2026-08-20 cs.CV
LGD: Label-guided Self-distillation for Object Detection
MEGVII Technology（旷视科技）；Xi’an Jiaotong University（西安交通大学）
在本文中，我们提出了第一个自蒸馏框架一般目标检测，称为LGD（标签引导自蒸馏）。以前的研究依赖于一个强大的预先培训的教师提供指导性的知识，可能无法在现实世界的情况下。相反，我们只根据学生的表示和常规标签生成一个有指导意义的知识。我们的框架包括稀疏标签外观编码器，对象间关系适配器和对象内知识映射器，共同形成一个隐式教师在训练阶段，动态依赖于标签和不断发展的学生表示。它们通过检测器进行端到端的训练，并在推理中被丢弃。实验上，LGD在各种检测器、数据集和诸如实例分割等广泛任务上获得了不错的结果。例如，在MS-COCO数据集中，LGD使用ResNet-50在2x单尺度训练下将RetinaNet从36.2%提高到39.0% mAP（+ 2.8%）。它在2倍多尺度训练下将ResNeXt-101 DCN v2的FCOS等更强大的检测器从46.1%提升到47.9%（+ 1.8%）。与经典的基于教师的方法FGFI相比，LGD不仅在不需要预先培训的教师的情况下表现更好，而且在固有的学生学习之外还减少了51%的培训成本。代码可在https://github.com/megvii-research/LGD上获得。
2022-04-24 cs.CV
Relation Distillation Networks for Video Object Detection
University of Science and Technology of China（中国科学技术大学）；JD AI Research（京东人工智能研究院）
已经很好地认识到，建模对象到对象关系将有助于目标检测。然而，这个问题并不是微不足道的，特别是当探索对象之间的相互作用，以提高视频对象检测器。困难源于视频中的可靠对象关系应该不仅取决于当前帧中的对象，而且还取决于在视频的长范围跨度上提取的所有支持对象的方面。在本文中，我们介绍了一种新的设计，以捕捉跨对象的时空背景下的相互作用。具体来说，我们提出了关系蒸馏网络（RDN）-一种新的架构，新颖的聚合和传播对象的关系，以增加对象的功能检测。从技术上讲，对象提案首先通过区域提案网络（RPN）生成。然后，RDN，一方面，模型对象关系，通过多阶段推理，另一方面，逐步提炼关系，通过细化支持对象的建议，以级联的方式与高客观分数。所学习的关系验证了在改进每个帧中的目标检测和跨帧的框链接两者上的功效。在ImageNet VID数据集上进行了广泛的实验，与最先进的方法相比，报告了优越的结果。更值得注意的是，我们的RDN分别使用ResNet-101和ResNeXt-101实现了81.8%和83.2%的mAP。当进一步配备连接和rescoring，我们获得迄今为止最好的报告mAP的83.8%和84.7%。
2019-08-26 cs.CV
SID: Incremental Learning for Anchor-Free Object Detection via Selective and Inter-Related Distillation
The University of Queensland（昆士兰大学）
增量学习需要一个模型来从流数据中不断学习新任务。然而，传统的对训练良好的深度神经网络在新任务上的微调会大大降低旧任务的性能--这一问题被称为灾难性遗忘。在本文中，我们在无锚点目标检测的背景下解决了这个问题，这是计算机视觉的新趋势，因为它简单、快速且灵活。简单地调整当前的增量学习策略，由于缺乏对它们特定模型结构的考虑，在这些无锚检测器上失败。为了应对无锚对象检测器增量学习的挑战，我们提出了一种新的增量学习范式，称为选择性和相互关联蒸馏（SID）。此外，提出了一种新的评价指标，以更好地评估增量学习条件下的检测器的性能。通过在适当的位置进行选择性提取，并进一步转移额外的实例关系知识，我们的方法在基准数据集PASCAL VOC和COCO上表现出显着的优势。
2020-12-31 cs.CV
Object-centric Cross-modal Feature Distillation for Event-based Object Detection
Huawei ZRC, Switzerland（华为苏黎世研究中心）；ETH Zurich, Switzerland（苏黎世联邦理工学院）
针对基于事件的目标检测性能弱于RGB检测器的问题，提出以目标为中心的槽注意力跨模态特征蒸馏方法，聚焦蒸馏最优区域，在合成与真实数据集上验证可将与教师模型的性能差距缩小近一半。
2023-11-09 cs.CV cs.RO
Label Assignment Distillation for Object Detection
这篇文章已被删除arXiv管理员由于版权侵权索赔
2021-09-18 cs.AI cs.CV
Comprehensive Attention Self-Distillation for Weakly-Supervised Object Detection
Carnegie Mellon University（卡内基梅隆大学）
弱监督目标检测（WSOD）已经成为一种有效的工具，训练对象检测器使用的图像级类别标签。然而，如果没有对象级别的标签，WSOD检测器很容易检测到显着的对象，聚类对象和歧视性的对象部分的边界框。此外，图像级类别标签不强制跨相同图像的不同变换的一致的目标检测。针对上述问题，我们提出了一个全面的注意力自我蒸馏（CASD）训练方法的WSOD。为了平衡所有对象实例之间的特征学习，CASD计算从相同图像的多个变换和特征层聚合的综合注意力。为了对对象进行一致的空间监督，CASD在WSOD网络上进行自蒸馏，使得综合注意力同时由相同图像的多个变换和特征层来近似。CASD在PASCAL VOC 2007/2012和MS-COCO等标准基准上生成最新的WSOD结果。
2020-10-22 cs.CV cs.LG
Multi-Frame to Single-Frame: Knowledge Distillation for 3D Object Detection
MIT（麻省理工学院）；Google（谷歌）；Stanford（斯坦福大学）
自动驾驶3D目标检测中的一个常见困境是，高质量、密集的点云仅在训练期间可用，而在测试期间不可用。我们使用知识蒸馏来弥合在训练时对高质量输入进行训练的模型与在推理时对低质量输入进行测试的模型之间的差距。特别是，我们设计了一个两阶段的训练管道点云目标检测。首先，我们在密集点云上训练一个目标检测模型，这些点云是使用仅在训练时可用的额外信息从多个帧生成的。然后，我们训练模型的相同副本上稀疏的单帧点云与一致性正则化的功能，从两个模型。我们表明，这个过程提高了性能低质量的数据在测试过程中，没有额外的开销。
2020-09-24 cs.CV cs.LG
Dual-Stream Spectral Decoupling Distillation for Remote Sensing Object Detection
Beihang University（北京航空航天大学）
DS2D2通过双流光谱解耦蒸馏提升遥感目标检测性能，解决混合特征和细微特征差异问题，实现更准确的检测效果。
2025-12-04 cs.AI cs.CV
Re-examining Distillation For Continual Object Detection
KU Leuven（鲁汶大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
训练模型不断检测和分类对象，从新的类和新的领域，仍然是一个悬而未决的问题。在这项工作中，我们进行了彻底的分析，为什么以及如何目标检测模型忘记灾难性的。我们专注于两阶段网络中基于蒸馏的方法;当代连续目标检测工作中最常用的策略。蒸馏旨在将在先前任务上训练的模型（教师）的知识转移到新模型（学生），同时学习新任务。我们发现，这对于区域建议网络效果很好，但是错误的，但过于自信的教师预测会阻止学生模型有效地学习分类头。我们的分析提供了一个基础，使我们能够通过检测不正确的教师预测，根据当前的地面实况标签，并通过采用自适应Huber损失，而不是在分类头蒸馏损失的均方误差，提出对现有技术的改进。我们的证据表明，我们的策略不仅适用于类增量设置，而且在域增量设置，这构成了一个现实的背景下，可能是代表性的现实世界的问题的设置。
2022-10-07 cs.CV cs.LG
MonoSKD: General Distillation Framework for Monocular 3D Object Detection via Spearman Correlation Coefficient
Beihang University（北京航空航天大学）
针对单目3D检测跨模态知识蒸馏难题，提出基于斯皮尔曼相关系数的通用蒸馏框架MonoSKD，以宽松损失学习特征相对相关性，在KITTI基准上实现最先进性能且不增加推理成本。
2023-10-17 cs.AI cs.CV
Symbiosis-Inspired Knowledge Distillation for Incremental Object Detection
研究增量目标检测问题，提出共生启发的知识蒸馏方法（SIKD），通过空间共生蒸馏和语义共生蒸馏在两个层面利用对象共生，有效解决现有方法不足，实验验证了该方法的有效性和优越性。
2026-07-16 cs.AI cs.CV
CD-FKD: Cross-Domain Feature Knowledge Distillation for Robust Single-Domain Generalization in Object Detection
Advanced Robotics Lab, LG Electronics（LG电子先进机器人实验室）；Place AI Flatform, Naver（NAVER人工智能平台）；Department of AI Convergence, Gwangju Institute of Science and Technology (GIST)（全州科学技术院人工智能融合系）
本文提出CD-FKD方法，通过全局和实例级特征蒸馏提升学生网络的泛化能力，有效应对跨域变化，实验表明其在目标域泛化和源域性能上优于现有方法。
2026-03-17 cs.AI cs.CV
X$^3$KD: Knowledge Distillation Across Modalities, Tasks and Stages for Multi-Camera 3D Object Detection
Qualcomm Technologies, Inc.（高通技术公司）；Qualcomm AI Research（高通人工智能研究院）；QT Technologies Ireland Limited（QT科技爱尔兰有限公司）
3D目标检测（3DOD）的最新进展已经针对基于LiDAR的模型获得了非常强的结果。相比之下，基于多个相机图像的环绕视图3DOD模型由于从透视图（PV）到3D世界表示的特征的必要视图变换而表现不佳，所述3D世界表示由于缺少深度信息而模糊。本文介绍了X $^3$ KD，一个全面的知识蒸馏框架，跨不同的模态，任务和阶段的多相机3DOD。具体而言，我们提出了跨任务蒸馏从一个实例分割教师（X-IS）在PV特征提取阶段提供监督，而不模糊的错误反向传播通过视图变换。转换后，我们应用交叉模态特征提取（X-FD）和对抗训练（X-AT），通过基于LiDAR的3DOD教师中包含的信息来改进多相机特征的3D世界表示。最后，我们还使用这个老师进行跨模态输出蒸馏（X-OD），在预测阶段提供密集监督。我们在多相机3DOD的不同阶段执行广泛的知识蒸馏消融。我们最终的X $^3$ KD模型在nuScenes和Waymo数据集上的表现优于之前最先进的方法，并推广到基于雷达的3DOD。定性结果视频，请访问https://youtu.be/1do9DPFmr38。
2023-03-03 cs.CV cs.RO
Prediction-Guided Distillation for Dense Object Detection
University of Edinburgh（爱丁堡大学）；Heriot-Watt University（赫瑞-瓦特大学）
真实世界的目标检测模型应该是廉价和准确的。知识蒸馏（KD）可以通过利用来自较大教师模型的有用信息来提高小型廉价检测模型的准确性。然而，一个关键的挑战是识别教师产生的最具信息性的特征以进行提炼。在这项工作中，我们表明，只有一个非常小的一部分功能内的地面实况限界框负责教师的高检测性能。在此基础上，我们提出了预测引导蒸馏（PGD），它将蒸馏集中在教师的这些关键预测区域上，并在许多现有KD基线上获得相当大的性能增益。此外，我们提出了一个自适应加权方案的关键区域，以平滑它们的影响，并实现更好的性能。我们提出的方法在各种先进的一级检测架构上优于当前最先进的KD基线。具体来说，在COCO数据集上，我们的方法分别使用ResNet-101和ResNet-50作为教师和学生骨干，实现了+3.1%到+4.6%的AP改进。在CrowdHuman数据集上，我们在MR和AP上实现了+3.2%和+2.0%的改进，也使用了这些骨干。我们的代码可在https://github.com/ChenhongyiYang/PGD上获得。
2022-07-18 cs.CV cs.LG
Optimizing YOLOv5s Object Detection through Knowledge Distillation algorithm
University of Chicago（芝加哥大学）；University of Michigan（密歇根大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；Shanghai Jiao Tong University（上海交通大学）；Tulane University（杜兰大学）；Northeastern University（东北大学）
本文研究了知识蒸馏在YOLOv5s目标检测中的应用，发现使用YOLOv5l作为教师网络并调节蒸馏温度，能有效提升学生模型的检测精度、可靠性与稳定性。
2024-10-16 cs.CV cs.LG
Semantic Distillation Guided Salient Object Detection
OPPO Research Institute（OPPO研究院）；Xmotors（小鹏汽车）
现有的大多数基于CNN的显著性目标检测方法可以识别毛发和动物皮毛等局部分割细节，但由于SOD任务的主观性和卷积层的局部性导致缺乏全局上下文信息，因此经常误解真实的显著性。此外，由于不切实际的昂贵的标签成本，目前现有的SOD数据集不足以覆盖真实的数据分布。训练数据的限制和偏差增加了充分探索给定图像中的对象到对象和对象到环境之间的语义关联的额外困难。在本文中，我们提出了一个语义蒸馏引导SOD（SDG-SOD）方法，产生准确的结果，通过融合语义提取的知识，从生成的图像描述到视觉变压器为基础的SOD框架。SDG-SOD可以更好地揭示对象间和对象与环境的显着性，并弥补SOD的主观本质与其昂贵的标签之间的差距。在五个基准数据集上的综合实验表明，SDG-SOD在四个评估指标上优于最先进的方法，并大大提高了DUTS，ECSSD，DUT，HKU-IS和PASCAL-S数据集上的模型性能。
2022-03-08 cs.CL cs.CV
Scale-Equivalent Distillation for Semi-Supervised Object Detection
The University of Hong Kong（香港大学）；Tsinghua University（清华大学）
最近的半监督目标检测（SS-OD）方法主要基于自训练，即，通过教师模型在未标记的数据上生成硬伪标记作为监督信号。虽然他们取得了一定的成功，有限的标记数据在半监督学习规模的目标检测的挑战。我们分析了这些方法遇到的挑战与实证实验结果。我们发现大量的假阴性样本和较差的定位精度缺乏考虑。此外，对象大小和类不平衡的大方差（即，背景和对象之间的极端比例）阻碍了现有技术的表现。此外，我们克服了这些挑战，通过引入一种新的方法，规模等效蒸馏（SED），这是一个简单而有效的端到端的知识蒸馏框架强大的大对象大小的变化和类的不平衡。与以前的作品相比，SED有几个吸引人的好处。(1)SED施加一致性正则化来处理大规模方差问题。(2)SED消除了假阴性样本的噪声问题和较差的定位精度。(3)重新加权策略可以隐式地筛选未标记数据的潜在前景区域，以减少类别不平衡的影响。大量的实验表明，SED始终优于最近的国家的最先进的方法在不同的数据集显着的利润率。例如，当在MS-COCO上使用5%和10%的标记数据时，它超过了有监督的对应物超过10 mAP。
2022-03-26 cs.AI cs.CV
Adaptive Instance Distillation for Object Detection in Autonomous Driving
Bowling Green State University（鲍灵格林州立大学）
近年来，知识蒸馏（KD）被广泛用于获得有效的模型。通过模仿大型教师模型，轻量级学生模型可以以更高的效率实现相当的性能。然而，大多数现有的知识蒸馏方法集中在分类任务。只有有限数量的研究将知识蒸馏应用于目标检测，特别是在时间敏感的自动驾驶场景中。在本文中，我们提出了自适应实例蒸馏（AID）有选择地传授教师的知识给学生，以提高知识蒸馏的性能。与以往的KD方法，平等地对待所有的实例，我们的AID可以用心调整的基础上，教师模型的预测损失的实例的蒸馏权重。通过在KITTI和COCO流量数据集上的实验，验证了该方法的有效性。结果表明，我们的方法提高了最先进的注意力引导和非局部蒸馏方法的性能，并在单级和两级检测器上实现了更好的蒸馏结果。与基线相比，我们的AID使单级和两级探测器的平均mAP分别增加了2.7%和2.1%。此外，我们的AID也被证明是有用的自蒸馏，以提高教师模型的性能。
2023-03-22 cs.CV
