Semi-Supervised Semantic Segmentation with Cross Teacher Training
Ningbo University(宁波大学);Ningbo Institute of Materials Technology & Engineering, Chinese Academy of Sciences(中国科学院宁波材料技术与工程研究所);Jiaochuan Academy(蛟川书院)
卷积神经网络在语义分割任务中可以取得显著的性能。然而,这种神经网络方法严重依赖于昂贵的像素级注释。半监督学习是解决这一问题的有效方法,但其性能仍远远落后于全监督学习。这项工作提出了一个跨教师培训框架,三个模块,显着改善传统的半监督学习方法。其核心是一个跨教师模块,它可以同时减少对等网络之间的耦合和教师和学生网络之间的错误积累。此外,我们提出了两个互补的对比学习模块。高级模块可以将高质量的知识从标记数据转移到未标记数据,并促进特征空间中类之间的分离。低层模块可以鼓励低质量特征从对等网络中的高质量特征学习。在实验中,跨教师模块显着提高了传统的学生-教师方法的性能,我们的框架在基准数据集上的性能优于最先进的方法。我们的CTT源代码将被发布。
2022-09-03 cs.CV
Dual Teacher-Student Learning for Semi-supervised Medical Image Segmentation
Center for Applied Mathematics, Tianjin University(应用数学中心,天津大学);Department of Radiology, Tianjin Hospital of Tianjin University(放射科,天津大学医院);Department of Hip Trauma, Tianjin Hospital of Tianjin University(骨科创伤科,天津大学医院)
本文提出双教师-学生学习(DTSL)方法,通过组内时间平均信号与跨架构学生信号的一致性生成伪标签,实现半监督医学图像分割的自步学习,在多个基准上超越现有方法。
2025-11-07 cs.CV
Certainty Driven Consistency Loss on Multi-Teacher Networks for Semi-Supervised Learning
National University of Singapore(新加坡国立大学);Yale-NUS College(耶鲁-新加坡国立大学学院)
基于一致性正则化的半监督学习是一种成功的学习方法。通常,学生模型被训练成在不同扰动下与教师对输入的预测一致。教师给出的预测指标要具有良好的质量,否则会误导学生。不幸的是,现有的方法不评估教师目标的质量。在本文中,我们提出了一种新的可靠性驱动的一致性损失(CCL),利用一致性损失的预测不确定性,让学生动态地学习可靠的目标。具体来说,我们提出了两种方法,即过滤CCL和温度CCL,以过滤掉不确定的预测或在一致性正则化中较少关注它们。我们还引入了一个新的解耦框架,以鼓励模型差异。在SVHN、CIFAR-10和CIFAR-100上的实验结果证明了该方法优于现有的几种方法。
2021-05-07 cs.CV
Pairwise Teacher-Student Network for Semi-Supervised Hashing
Tsinghua University(清华大学)
哈希方法将相似的高维数据映射成具有较小汉明距离的二进制哈希码,由于其存储代价低、检索速度快而受到广泛关注。成对相似性很容易获得,并广泛用于检索,大多数监督哈希算法都是针对成对监督而精心设计的。由于标记所有数据对是困难的,提出了半监督哈希,旨在学习有效的代码有限的标记对和丰富的未标记的。现有的方法构建图来捕获数据集的结构,但它们不能很好地工作,因为图是基于数据表示来构建的,并且确定复杂数据的表示是困难的。在本文中,我们提出了一种新的教师-学生半监督哈希框架,在该框架中,学生使用教师网络产生的成对信息进行训练。该网络遵循平滑性假设,该假设实现了相似数据对的一致距离,使得邻域查询的检索结果相似。在大规模数据集上的实验表明,该方法在监督基线上获得了令人印象深刻的增益,优于最先进的半监督哈希方法。
2019-02-02 cs.CV
Humble Teachers Teach Better Students for Semi-Supervised Object Detection
Carnegie Mellon University(卡内基梅隆大学);Amazon Web Services(亚马逊云科技)
我们提出了一个半监督的方法,当代对象检测器以下的师生双模型框架。我们的方法的特点是:1)指数移动平均策略,以在线更新教师从学生,2)使用大量的区域建议和软伪标签作为学生的训练目标,和3)一个轻量级的检测特定的数据集成,为教师生成更可靠的伪标签。与最近的国家的最先进的- STAC,它使用稀疏选择的硬伪样本的硬标签,在我们的模型中的教师暴露更丰富的信息,学生与软标签的许多建议。当使用VOC 12作为未标记数据时,我们的模型在VOC 07 val集上实现了53.04%的COCO风格AP,比STAC好8.4%。在MS-COCO上,当只有一小部分数据被标记时,它的性能优于以前的工作。它在MS-COCO测试开发中也达到了53.8%的AP,比完全监督的ResNet-152级联R-CNN有3.1%的增益,通过利用与标记数据大小相似的未标记数据。
2021-06-19 cs.CV
Dense Teacher: Dense Pseudo-Labels for Semi-supervised Object Detection
MEGVII Technology(旷视科技);Harbin Institute of Technology(哈尔滨工业大学);Waseda University(早稻田大学)
迄今为止,最强大的半监督对象检测器(SS-OD)是基于伪框的,这需要一系列具有微调超参数的后处理。在这项工作中,我们建议用密集预测代替稀疏伪框作为统一和直接的伪标签形式。与伪盒相比,我们的密集伪标签(DPL)不涉及任何后处理方法,从而保留了更丰富的信息。我们还介绍了一个区域选择技术,突出的关键信息,同时抑制密集标签携带的噪声。我们将我们提出的利用DPL的SS-OD算法命名为Dense Teacher。在COCO和VOC上,与基于伪框的方法相比,Dense Teacher在各种设置下都表现出优异的性能。
2022-07-19 cs.CV
Exploring The Role of Mean Teachers in Self-supervised Masked Auto-Encoders
Electronics and Telecommunications Research Institute (ETRI)(电子与电信研究所);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);AITRICS
基于视觉Transformer的视觉表征自监督学习~(SSL)中,掩码图像建模(MIM)已成为一种流行的策略。一个代表性的MIM模型,掩蔽自动编码器(MAE),随机屏蔽图像补丁的子集,并重建被掩蔽的补丁给定的未掩蔽的补丁。同时,自监督学习中的许多最近的作品利用学生/教师范例,其基于由先前学生的指数移动平均(EMA)组成的教师的输出为学生提供额外的目标。虽然常见的,相对较少的学生和教师之间的互动的动态所知。通过对一个简单的线性模型的分析,我们发现,教师有条件地删除以前的梯度方向的基础上的特征相似性,有效地作为一个条件动量正则化。从这个分析中,我们提出了一个简单的SSL方法,重建一致性掩蔽自动编码器(RC-MAE),通过添加一个EMA教师MAE。我们发现,RC-MAE收敛速度更快,需要更少的内存使用比国家的最先进的自蒸馏方法在预训练,这可能会提供一种方法来提高昂贵的自监督学习的实用性的视觉Transformer模型。此外,我们还证明了RC-MAE在ImageNet-1 K分类、目标检测和实例分割等下游任务上比MAE具有更高的鲁棒性和更好的性能。
2022-10-05 cs.CV
DMT: Comprehensive Distillation with Multiple Self-supervised Teachers
DAMO Academy(达摩院)
针对现有自监督模型预训练未考虑表征互补性的问题,提出多自监督教师综合蒸馏方法DMT,利用多现成自监督模型优势实现模型压缩,在分类及密集预测任务上均取得更优性能。
2023-12-19 cs.CV
DualFete: Revisiting Teacher-Student Interactions from a Feedback Perspective for Semi-supervised Medical Image Segmentation
针对半监督医学图像分割中师生范式易受错误监督导致自我强化偏差的问题,本研究引入反馈机制及双教师反馈模型,通过学生反馈优化教师伪标签,在三个基准上有效缓解错误传播。
2025-11-12 cs.CV
Temporal Self-Ensembling Teacher for Semi-Supervised Object Detection
Keya Medical Technology(科亚医疗科技);Cambricon(寒武纪);Tencent(腾讯);National University of Defense Technology(国防科技大学);University of Oulu(奥卢大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
本文主要研究半监督目标检测(SSOD)。知识蒸馏(KD)已广泛应用于半监督图像分类。然而,为裁军特别联大调整这些方法有以下障碍。(1)教师模型充当教师和学生的双重角色,使得教师对未标记图像的预测可能非常接近学生的预测,这限制了学生的上限。(2)SSOD中的班级不平衡问题阻碍了教师向学生的有效知识转移。为了解决这些问题,我们提出了一种新的方法时间自我集成教师(TSE-T)的SSOD。与以前基于KD的方法不同,我们设计了一个时间进化的教师模型。首先,我们的教师模型在随机扰动下对未标记图像进行时间预测。其次,我们的教师模型集成其时间模型权重与学生模型权重的指数移动平均(EMA),这使得教师逐渐从学生学习。这些自集成策略增加了数据和模型的多样性,从而提高了教师对未标记图像的预测。最后,我们使用焦点损失来制定一致性正则化项来处理数据不平衡问题,这是一种更有效的方式来利用来自未标记图像的有用信息,而不是简单的硬阈值方法,该方法仅保留置信预测。在广泛使用的VOC和COCO基准测试中,我们的方法在VOC 2007测试集和COCO 2014 minval 5 k集上的mAP分别达到80.73%和40.52%,比强全监督检测器高出2.37%和1.49%。在VOC 2007测试集上,我们的方法比基线SSOD方法提高了1.44%。这项工作的源代码可在http://github.com/syangdong/…
2020-09-02 cs.CV
First-frame Supervised Video Polyp Segmentation via Propagative and Semantic Dual-teacher Network
Wuhan National Laboratory for Optoelectronics(武汉光电国家研究中心);Huazhong University of Science and Technology(华中科技大学);Tongji Medical College(同济医学院)
本文提出首帧监督视频息肉分割任务及双教师网络PSDNet,通过传播教师与语义教师融合伪标签,在大幅降低标注成本的同时实现优于稀疏帧监督方法的分割性能。
2024-12-21 cs.CV
Semi-Supervised Biomedical Image Segmentation via Diffusion Models and Teacher-Student Co-Training
本文提出了一种基于扩散模型的半监督生物医学图像分割框架,通过教师-学生协同训练和多轮伪标签生成策略,在有限标注数据下提升分割性能。
2026-09-02 cs.CV
Semi-Supervised Teacher-Reference-Student Architecture for Action Quality Assessment
State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术国家重点实验室)
针对AQA标注昂贵问题,提出半监督教师-参考-学生架构,利用双网络伪标签、额外动作信息和置信度记忆训练学生,在三个基准上优于现有半监督方法。
2025-03-17 cs.CV
Semi-supervised Learning with a Teacher-student Network for Generalized Attribute Prediction
Search Solutions Inc.(搜索解决方案公司)
提出了一种基于半监督学习的视觉属性预测方法。在视觉算法的许多应用中,物体视觉属性的精确识别是重要的,但仍然具有挑战性。这是因为定义属性的类层次结构是模糊的,因此训练数据不可避免地遭受类不平衡和标签稀疏,导致缺乏有效的注释。一个直观的解决方案是找到一种方法,通过利用未标记的图像来有效地学习图像表示。考虑到这一点,我们提出了一个多教师-单学生(MTSS)的方法,灵感来自多任务学习和半监督学习的升华。我们的MTSS使用标签嵌入技术学习特定于任务的领域专家,称为教师网络,并通过强制模型模仿领域专家学习的分布来学习称为学生网络的统一模型。我们的实验表明,我们的方法不仅在各种时尚属性预测的基准测试中取得了有竞争力的性能,而且还提高了对未知领域的鲁棒性和跨领域适应性。
2020-07-14 cs.CV
Learning Efficient Detector with Semi-supervised Adaptive Distillation
Sensetime Research(商汤科技研究院)
知识蒸馏(KD)已被用于图像分类的模型压缩。然而,很少有研究将这种技术应用于单级物体检测器。焦点损失表明,容易分类的样本的累积误差在训练过程中占主导地位的整体损失。在检测任务中应用KD时也会遇到这个问题。对于KD来说,教师定义的硬样本比其他任何样本都重要。我们提出ADL来解决这个问题,通过自适应地模仿教师的逻辑,更多的注意力放在两种类型的硬样本:难以学习的样本,教师预测的低确定性和难以模仿的样本,教师和学生的预测之间有很大的差距。ADL扩大了难以学习和难以模仿的样品的蒸馏损失,并减少了占主导地位的简单样品的蒸馏损失,使蒸馏能够在单级检测器上首次工作,即使学生和教师是相同的。此外,ADL是有效的监督设置和半监督设置,即使当标记数据和未标记数据是来自不同的分布。对于未标记数据的蒸馏,ADL比现有的简单利用硬目标的数据蒸馏实现了更好的性能,使学生检测器超过其老师。在COCO数据库上,半监督自适应蒸馏(SAD)使得以ResNet-50为骨干的学生检测器超过以ResNet-101为骨干的老师检测器,而学生检测器的计算复杂度只有老师检测器的一半。该代码可在www.example.com上获得
2019-01-14 cs.CV
ATSO: Asynchronous Teacher-Student Optimization for Semi-Supervised Medical Image Segmentation
University of Science and Technology of China(中国科学技术大学);Huawei Inc.(华为公司);Chinese Academy of Sciences(中国科学院)
在医学图像分析中,半监督学习是从少量标记数据和大量未标记数据中提取知识的有效方法。本文重点介绍了一种流行的管道,称为自学习,并指出了一个名为懒惰学习的弱点,指的是模型很难从自己生成的伪标签中学习。为了缓解这个问题,我们提出了ATSO,一个异步版本的师生优化。ATSO将未标记的数据划分为两个子集,并交替使用一个子集来微调模型并更新另一个子集上的标签。我们在两个流行的医学图像分割数据集上评估了ATSO,并在各种半监督设置中显示了其优越的性能。经过轻微修改,ATSO可以很好地转换为自动驾驶数据的自然图像分割。
2020-08-07 cs.CV
Reflective Teacher: Semi-Supervised Multimodal 3D Object Detection in Bird's-Eye-View via Uncertainty Measure
Indian Statistical Institute(印度统计学院);Valeo India(法雷奥印度公司);IIT Madras(印度马德拉斯理工学院);University of Limerick(利默里克大学);Valeo Vision Systems(法雷奥视觉系统公司)
本文提出Reflective Teacher框架,通过正则化缓解EMA教师网络的灾难性遗忘,并结合GA-BEVFusion对齐相机与LiDAR的BEV特征,在nuScenes和Waymo上以少量标注达到全监督同等性能。
2024-12-05 cs.CV
Dual-Teacher Ensemble Models with Double-Copy-Paste for 3D Semi-Supervised Medical Image Segmentation
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学计算机软件新技术国家重点实验室);National Institute of Healthcare Data Science, Nanjing University(南京大学国家医疗数据科学研究院);Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications(Ministry of Education), Southeast University(东南大学新一代人工智能技术及交叉应用教育部重点实验室);School of Data and Computer Science, Shandong Women’s University(山东女子学院数据与计算机科学学院)
针对3D半监督医学图像分割中师生模型的耦合问题,提出双重复制粘贴技术增强双教师模型多样性,并引入分阶段选择性集成模块优化伪标签质量,有效提升了分割精度。
2024-10-15 cs.CV
Efficient Teacher: Semi-Supervised Object Detection for YOLOv5
Alibaba Group(阿里巴巴集团)
半监督目标检测(SSOD)已经成功地提高了R-CNN系列和无锚检测器的性能。然而,单级锚点检测器缺乏生成高质量或灵活的伪标签的结构,导致SSOD中严重的不一致性问题。在本文中,我们提出了一个高效的教师框架,可扩展的和有效的一阶段基于锚的SSOD训练,由密集检测器,伪标签分配器,和时代适配器。Dense Detector是一个基线模型,它使用受YOLOv 5启发的密集采样技术扩展了RetinaNet。Efficient Teacher框架引入了一种新的伪标签分配机制,称为伪标签分配器,它可以更精确地使用来自Dense Detector的伪标签。Epoch Adaptor是一种为Dense Detector实现稳定和高效的端到端半监督训练计划的方法。伪标签分配器避免了师生互学机制中大量低质量伪标签对密集检测器的干扰而产生偏差,历元适配器利用域和分布自适应,使密集检测器学习全局分布的一致特征,使得训练与标签数据的比例无关。我们的实验表明,高效的教师框架实现了最先进的结果VOC,COCO标准,COCO附加使用更少的FLOP比以前的方法。据我们所知,这是首次尝试将半监督目标检测应用于YOLOv 5。代码可在https://github.com/AlibabaResearch/efficientteacher上找到
2023-03-14 cs.CV
Turning to a Teacher for Timestamp Supervised Temporal Action Segmentation
Nanjing University of Science and Technology(南京理工大学)
视频中的时间动作分割是近年来研究的热点。时间戳监督是完成此任务的一种经济有效的方法。为了获得更多的信息来优化模型,现有方法基于分割模型的输出和时间戳注释迭代地生成伪逐帧标签。然而,这种做法可能会在训练过程中引入噪声和振荡,并导致性能退化。为了解决这个问题,我们提出了一个新的框架,时间戳监督的时间动作分割,通过引入一个教师模型平行的分割模型,以帮助稳定的模型优化过程。教师模型可以被看作是分割模型的集成,这有助于抑制噪声并提高伪标签的稳定性。我们还引入了一个分段平滑损失,这是更集中和凝聚力,以执行动作实例内的预测概率的平滑过渡。在三个数据集上的实验表明,我们的方法优于最先进的方法,并以更低的标注成本对全监督方法进行了验证。
2022-07-02 cs.CV
BSNet: Box-Supervised Simulation-assisted Mean Teacher for 3D Instance Segmentation
University of Science and Technology of China(中国科学技术大学);Deep Space Exploration Lab(深空探测实验室)
提出BSNet,通过引入仿真辅助均值教师和局部-全局感知注意力机制,生成高质量伪标签,实现更精确的弱监督3D实例分割。
2024-03-22 cs.CV
Momentum^2 Teacher: Momentum Teacher with Momentum Statistics for Self-Supervised Learning
MEGVII Technology(旷视科技)
在本文中,我们提出了一种新的方法,动量$^2$教师,学生-教师为基础的自监督学习。该方法对网络权值和批量归一化(BN)统计量进行动量更新。教师的权重是学生的动量更新,而教师的BN统计是历史上那些的动量更新。Momentum $^2$ Teacher简单高效。它可以在使用小批量(\eg,128)的ImageNet线性评估协议下实现最先进的结果(74.5%),而不需要在TPU等特殊硬件上进行大批量训练或低效的跨GPU操作(\eg,洗牌BN,同步BN)。我们的实现和预训练模型将在GitHub \footnote{https://github.com/zengarden/momentum2-teacher}上提供。
2021-01-19 cs.CV cs.LG
KD-MVS: Knowledge Distillation Based Self-supervised Learning for Multi-view Stereo
Megvii Research(旷视研究院);Tsinghua University(清华大学)
针对有监督多视图立体方法需大量真实深度数据的难题,提出基于知识蒸馏的自监督训练框架KD-MVS,经自监督教师训练与概率知识迁移,学生模型性能超越教师及有监督方法。
2023-08-20 cs.CV
Credible Teacher for Semi-Supervised Object Detection in Open Scene
Sun Yat-sen University(中山大学);Research Institute of Sun Yat-sen University in Shenzhen(中山大学深圳研究院)
针对开放场景半监督目标检测中未知目标增加预测不确定性并降低伪标签精度的问题,提出端到端框架Credible Teacher,采用交互式教学机制和灵活标签防止不确定伪标签误导模型,并利用可信伪标签逐步降低不确定性,显著优于现有方法。
2024-01-03 cs.CV
Power of Cooperative Supervision: Multiple Teachers Framework for Enhanced 3D Semi-Supervised Object Detection
DGIST(大邱庆北科学技术院);FutureDrive Inc.(FutureDrive公司)
本文构建了多类3D LiDAR数据集,并提出基于多教师框架的3D半监督目标检测方法,通过类别专门化教师协作监督和PieAug增强技术提升伪标签质量,在多个数据集上优于现有方法。
2024-05-31 cs.CV
Seeking Flat Minima with Mean Teacher on Semi- and Weakly-Supervised Domain Generalization for Object Detection
Institute of Industrial Science(产业技术研究所);The University of Tokyo(东京大学)
针对目标检测的域泛化问题,提出在半监督、弱监督两种设定下采用Mean Teacher框架训练检测器,从平坦极小值角度解释其有效性,并加入正则化进一步提升性能。
2024-10-07 cs.CV
Uncertainty-Guided Cross Attention Ensemble Mean Teacher for Semi-supervised Medical Image Segmentation
Northwestern University(西北大学);Bennett University(班尼特大学)
本文提出UG-CEMT框架,结合交叉注意力集成均值教师、不确定性引导一致性正则化与锐度感知最小化,通过增强子网络差异提升半监督医学图像分割性能,仅用10%标注数据即逼近全监督效果。
2024-12-19 cs.CV
Scribble-Supervised Medical Image Segmentation with Dynamic Teacher Switching and Hierarchical Consistency
1 Carnegie Mellon University, PA 15213, United States 2 PASSIO Lab, North Carolina A\&T State University, NC 27401, United States 3 University of Houston, TX 77004, United States 4 Northwestern University, IL 60611, United States
SDT-Net通过动态教师切换和层次一致性机制,提升人工书写监督下医学图像分割的准确性和解剖合理性。
2026-01-23 cs.CV
A Teacher-Student Framework for Semi-supervised Medical Image Segmentation From Mixed Supervision
Xiamen University(厦门大学);Chinese PLA General Hospital(中国人民解放军总医院);Deepwise AI Laboratory(深度智耀人工智能实验室)
基于全监督卷积网络的医学图像标准分割需要精确的密集注释。这种学习框架建立在费力的手动注释上,对专业知识的要求有限,导致高质量标签不足。为了克服这种局限性,利用大量的弱标记数据,我们放松了严格的标记要求,并开发了一个半监督学习框架的基础上,教师-学生的时尚与部分密集标记的监督和补充松散的边界盒监督,更容易获得的器官和病变分割。在大多数情况下,观察器官及其内部病变的几何关系,我们提出了一个分层的器官病变(O2 L)注意模块在教师分割器产生伪标签。然后,用手动标记和伪标记注释的组合训练学生分割器。我们进一步提出了一个定位分支,通过在深度解码器中聚合高级特征来预测器官和病变的位置,从而丰富了学生分割器的精确定位信息。我们通过消融研究在LiTS挑战数据集上验证了我们模型中的每个设计,并与最近的方法相比显示了其最先进的性能。我们证明了我们的模型对限界框的质量是鲁棒的,并且与全监督学习方法相比具有相当的性能。
2020-10-23 cs.CV
MixTeacher: Mining Promising Labels with Mixed Scale Teacher for Semi-Supervised Object Detection
Ningbo Research Institute, Zhejiang University(浙江大学宁波研究院);Rongcheer Co., Ltd(融澈有限公司);Youtu Lab, Tencent(腾讯优图实验室);Shanghai Jiao Tong University(上海交通大学)
跨对象实例的尺度变化仍然是目标检测任务中的关键挑战。尽管现代检测模型取得了显着的进步,但这种挑战在半监督的情况下尤其明显。虽然现有的半监督目标检测方法依赖于严格的条件来过滤网络预测中的高质量伪标签,但我们观察到,具有极端规模的对象往往具有较低的置信度,从而导致缺乏对这些对象的积极监督。在本文中,我们提出了一种新的框架,通过引入混合规模教师来改善伪标签生成和规模不变学习,从而解决规模变化问题。此外,我们建议使用跨尺度预测的分数提升来挖掘伪标签,这得益于混合尺度特征的更好预测。我们在各种半监督设置下对MS COCO和PASCAL VOC基准进行了广泛的实验,证明我们的方法达到了最先进的性能。代码和型号可在\url{https://github.com/lliuz/MixTeacher}上获得。
2023-03-16 cs.CV
Boosting Facial Expression Recognition by A Semi-Supervised Progressive Teacher
Beijing University of Posts and Telecommunications(北京邮电大学)
在本文中,我们的目标是提高在野外人脸表情识别(FER)的性能,通过利用半监督学习。大规模标记数据和深度学习方法极大地提高了图像识别的性能。然而,由于缺乏训练数据和不正确的注释(例如,标签噪声)。在现有的野外FER数据集中,可靠的数据集包含的数据不足以训练鲁棒的深度模型,而大规模的数据集则以较低的质量进行注释。为了解决这个问题,我们提出了一个半监督学习算法名为渐进式教师(PT),利用可靠的FER数据集以及大规模的未标记的表情图像进行有效的训练。一方面,PT引入了半监督学习的方法来缓解FER中数据不足的问题。另一方面,它自动和渐进地选择有用的标记训练样本,以减轻标签噪声。PT使用选定的干净标记数据来计算监督分类损失,使用未标记数据来计算无监督一致性损失。在广泛使用的数据库RAF-DB和FERPlus上的实验验证了该方法的有效性,在RAF-DB上取得了89.57%的准确率。此外,当合成噪声率甚至达到30%时,我们的PT算法的性能仅下降了4.37%。
2022-05-28 cs.CV
Semi-Supervised Brain Lesion Segmentation with an Adapted Mean Teacher Model
Peng Cheng Laboratory(鹏城实验室);Xidian University(西安电子科技大学);Beijing Institute of Technology(北京理工大学);Deepwise AI Lab(深度智耀人工智能实验室);The People’s Hospital of Nantong(南通市人民医院);Peking University Third Hospital(北京大学第三医院)
自动脑病变分割为患者的分析和干预提供了有价值的信息。特别地,基于卷积神经网络(CNN)的方法已经实现了最先进的分割性能。然而,CNN通常需要大量的注释数据,这可能是昂贵和耗时的。由于未注释的数据通常是丰富的,因此当有限的注释数据可用时,希望使用未注释的数据来提高CNN的分割性能。在这项工作中,我们提出了一种半监督学习(SSL)的方法来分割脑病变,其中未注释的数据被纳入CNN的训练。我们适应的平均教师模型,这是最初开发的基于SSL的图像分类,脑病变分割。假设网络应该为类似的输入产生一致的输出,分割一致性的损失被设计并集成到一个自集成框架中。具体来说,我们构建了一个学生模型和一个教师模型,它们共享相同的CNN分割架构。学生和教师模型交替更新。在每一步中,学生模型通过最小化从注释数据计算的分割损失和从未注释数据计算的教师和学生模型之间的分割一致性损失的加权和来从教师模型学习。然后,教师模型的更新是通过使用指数移动平均策略更新的学生模型与教师模型的历史信息相结合。为了证明,所提出的方法进行了评估,缺血性中风病变分割,其中它提高了中风病变分割与未注释的数据。
2019-03-04 cs.CV
CoDTS: Enhancing Sparsely Supervised Collaborative Perception with a Dual Teacher-Student Framework
Beijing Jiaotong University(北京交通大学);School of Computer Science and Technology, Beijing Jiaotong University(北京交通大学计算机科学与技术学院)
针对稀疏监督协同感知中伪标签质量与数量难以兼顾的问题,本文提出CoDTS双师生框架,通过MFM、SFM、NAS和分阶段训练实现自适应互补学习,并达到新的最先进性能。
2025-03-18 cs.CV
You Are Your Best Teacher: Semi-Supervised Surgical Point Tracking with Cycle-Consistent Self-Distillation
University of Tübingen(图宾根大学)
本文提出 SurgTracker,通过固定教师生成伪标签并结合循环一致性过滤的自蒸馏方法,仅用 80 个未标注手术视频即可将合成训练的点跟踪器有效适配到高偏移的手术场景。
2025-05-09 cs.CV
MVAT: Multi-View Aware Teacher for Weakly Supervised 3D Object Detection
Université Paris-Saclay, CEA, List(巴黎-萨克雷大学、欧洲原子能机构、List)
针对弱监督3D检测中2D框投影歧义和单视角部分可见问题,提出MVAT框架,利用时序多视图聚合和教师-学生蒸馏生成伪标签,在nuScenes和Waymo上达到SOTA,缩小与全监督差距。
2025-09-09 cs.CV
Perturbed and Strict Mean Teachers for Semi-supervised Semantic Segmentation
Australian Institute for Machine Learning(澳大利亚机器学习研究所);University of Adelaide(阿德莱德大学);Universität Ulm(乌尔姆大学)
使用输入图像、特征或网络扰动的一致性学习在半监督语义分割中显示出显著的效果,但这种方法可能受到未标记训练图像的不准确预测的严重影响。这些不准确的预测有两个后果:1)基于“严格”交叉熵(CE)损失的训练很容易过拟合预测错误,导致确认偏差; 2)应用于这些不准确预测的扰动将使用潜在的错误预测作为训练信号,降低一致性学习。在本文中,我们解决的预测精度问题的一致性学习方法与新的扩展的均值-教师(MT)模型,其中包括一个新的辅助教师,并更换MT的均方误差(MSE)由一个更严格的置信加权交叉熵(Conf-CE)损失。该模型的准确预测使我们能够使用网络,输入数据和特征扰动的具有挑战性的组合来提高一致性学习泛化,其中特征扰动由新的对抗性扰动组成。公共基准测试的结果表明,我们的方法取得了显着的改进,在该领域的以前的SOTA方法。我们的代码可在https://github.com/yyliu01/PS-MT上获得。
2022-03-26 cs.CV
A New Teacher-Reviewer-Student Framework for Semi-supervised 2D Human Pose Estimation
针对半监督二维人体姿态估计忽视历史训练信息的问题,提出 Teacher-Reviewer-Student 框架,并结合多层次特征学习与 Keypoint-Mix 增强,显著提升性能。
2025-01-16 cs.CV
LMT-GP: Combined Latent Mean-Teacher and Gaussian Process for Semi-supervised Low-light Image Enhancement
School of Computer and Information, Hefei University of Technology(合肥工业大学计算机与信息学院);Department of Automation, University of Science and Technology of China(中国科学技术大学自动化系)
本文提出LMT-GP半监督低光图像增强方法,通过潜在均值教师框架和高斯过程学习策略结合有标签与无标签数据,并引入伪标签自适应模块,在多个数据集上验证了其高泛化性能与图像质量。
2024-08-29 cs.CV
DTG-SSOD: Dense Teacher Guidance for Semi-Supervised Object Detection
Nanjing University of Science Technology(南京理工大学);SenseTime Research(商汤科技研究院)
在半监督目标检测(SSOD)中,均值-教师(MT)方案被广泛采用。在MT中,由教师的最终预测提供的稀疏伪标签(例如,在非最大抑制(NMS)后处理之后),通过手工制作的标签分配用于对学生的密集监督。然而,稀疏到密集的范式使SSOD的管道复杂化,同时忽视了强大的直接,密集的教师监督。在本文中,我们试图直接利用教师的密集指导来监督学生的培训,即,密集到密集的模式。具体来说,我们提出了反向NMS聚类(INC)和排名匹配(RM)来实例化密集监督,而无需广泛使用的传统稀疏伪标签。INC引导学生像教师一样在NMS中对候选框进行聚类,这是通过学习教师在NMS过程中透露的分组信息来实现的。在通过INC获得与教师相同的分组方案后,学生通过秩匹配进一步模仿教师在聚类候选人上的秩分布。通过拟议的INC和RM,我们将密集教师指导集成到半监督目标检测(称为DTG-SSOD)中,成功地放弃了稀疏的伪标签,并在未标记的数据上实现了更多信息的学习。在COCO基准上,我们的DTG-SSOD在各种标签比率下均达到最先进的性能。例如,在10%的标签比率下,DTG-SSOD将监督基线从26.9 mAP提高到35.9 mAP,比之前最好的方法Soft Teacher高出1.9个点。
2022-07-12 cs.AI cs.CV
Cycle Self-Training for Semi-Supervised Object Detection with Distribution Consistency Reweighting
State Grid Smart Grid Research Institute Co., Ltd.(国网智能电网研究院有限公司);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
近年来,许多半监督目标检测(SSOD)方法采用师生框架,取得了很好的效果。然而,教师网络与学生网络紧密耦合,因为教师是学生的指数移动平均(EMA),这导致了性能瓶颈。为了解决耦合问题,我们提出了一个循环自我训练(CST)框架SSOD,其中包括两个教师T1和T2,两个学生S1和S2。在此基础上建立了循环自训练机制,S1 ${\rightarrow}$ T1 ${\rightarrow}$ S2 ${\rightarrow}$ T2 ${\rightarrow}$ S1.对于S ${\rightarrow}$ T,我们还利用学生的EMA权重来更新教师。对于T ${\rightarrow}$ S,教师T1(T2)不是直接为其自己的学生S1(S2)提供监督,而是为学生S2(S1)生成伪标签,这失去了耦合效应。此外,由于EMA的性质,教师最有可能积累来自学生的偏见,使错误不可逆转。为了缓解这个问题,我们还提出了一种分布一致性重新加权策略,其中伪标签基于教师T1和T2之间的分布一致性进行重新加权。通过该策略,两个学生S2和S1可以用噪声伪标签进行鲁棒训练,以避免确认偏差。大量的实验证明了CST的优越性,通过不断提高AP超过基线,并通过2.1%的绝对AP改进与稀缺的标记数据超过最先进的方法。
2022-07-12 cs.CV
Masked Video Distillation: Rethinking Masked Feature Modeling for Self-supervised Video Representation Learning
Microsoft Cloud + AI(微软云与人工智能部门)
得益于掩蔽视觉建模,自监督视频表示学习取得了显著的进展。然而,现有的方法专注于通过重建原始像素RGB值等低级特征从头开始学习表示。在本文中,我们提出了掩蔽视频蒸馏(MVD),这是一种简单而有效的用于视频表示学习的两阶段掩蔽特征建模框架:首先,我们通过恢复掩蔽补丁的低级特征来预训练图像(或视频)模型,然后我们使用得到的特征作为掩蔽特征建模的目标。对于教师模型的选择,我们观察到,由视频教师教授的学生在时间繁重的视频任务上表现更好,而图像教师在空间繁重的视频任务中转移了更强的空间表征。可视化分析还表明,不同的教师对学生产生不同的学习模式。基于这一观察,我们设计了一种时空协同教学的MVD方法。具体来说,我们提取学生模型从视频教师和图像教师掩蔽特征建模。大量的实验结果表明,用时空协同教学预训练的视频Transformers在大量视频数据集上的表现优于用单个教师提取的模型。与以前的监督或自监督方法相比,我们的MVD与vanilla ViT在几个具有挑战性的视频下游任务上实现了最先进的性能。例如,使用ViT-Large模型,我们的MVD在Kinetics-400和Something-Something-v2上达到了86.4%和76.7%的Top-1准确率,分别比VideoMAE高出1.2%和2.4%。当采用更大的ViT-Huge模型时,MVD在Something-Something-v2上实现了…
2023-03-06 cs.CV
Semi-supervised 3D Object Detection with Proficient Teachers
Baidu Research(百度研究院);National Engineering Laboratory of Deep Learning Technology and Application(深度学习技术及应用国家工程实验室);University of Macau(澳门大学);University of Technology Sydney(悉尼科技大学);Beijing Institute of Technology(北京理工大学)
自动驾驶场景中基于点云的3D物体检测器主要依赖于大量准确标记的样本,然而,点云中的3D标注非常繁琐,昂贵且耗时。为了减少对大监督的依赖,已经提出了基于半监督学习(SSL)的方法。伪标签方法通常用于SSL框架,然而,教师模型的低质量预测严重限制了其性能。在这项工作中,我们提出了一个新的伪标记框架的半监督三维目标检测,通过增强教师模型,一个熟练的几个必要的设计。首先,为了提高伪标签的召回率,提出了一个时空Entrance(STE)模块来生成足够的种子框。其次,为了提高召回盒子的准确率,设计了一个基于聚类的盒子投票(CBV)模块,从聚类的种子盒子中获得聚合投票。这也消除了选择伪标签的复杂阈值的必要性。此外,为了减少错误的伪标记样本在训练过程中的负面影响,提出了一种软监督信号,考虑盒式对比学习(BCL)。我们的模型的有效性在ONCE和Waymo数据集上都得到了验证。例如,在ONCE上,我们的方法将基线显著提高了9.51 mAP。此外,在半注释的情况下,我们的模型在Waymo上的性能优于带有完整注释的Oracle模型。
2022-07-26 cs.CV
Unbiased Teacher for Semi-Supervised Object Detection
Georgia Tech(佐治亚理工学院);Facebook Inc.(脸书公司)
半监督学习,即,训练网络的标记和未标记的数据,最近取得了重大进展。然而,现有的工作主要集中在图像分类任务和忽视目标检测,需要更多的注释工作。在这项工作中,我们重新审视了半监督目标检测(SS-OD),并确定伪标记偏见问题的SS-OD。为了解决这个问题,我们引入了无偏见的教师,这是一种简单而有效的方法,以互利的方式共同培养学生和逐渐进步的教师。再加上类平衡损失,以降低过度自信的伪标签,Unbiased Teacher在COCO标准,COCO附加和VOC数据集上不断改进最先进的方法。具体而言,当使用MS-COCO上1%的标记数据时,无偏见的教师实现了6.8个绝对mAP的改进,当使用MS-COCO上仅0.5%,1%,2%的标记数据时,实现了约10个mAP的改进。
2021-02-18 cs.CV cs.LG
Dual-Teacher: Integrating Intra-domain and Inter-domain Teachers for Annotation-efficient Cardiac Segmentation
The Chinese University of Hong Kong(香港中文大学);Stanford University(斯坦福大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
医学图像注释是非常耗时和昂贵的获得。为了缓解注释稀缺性,已经开发了许多方法来有效地利用额外信息,例如,半监督学习进一步挖掘大量的未标记数据,领域自适应包括多模态学习和无监督领域自适应借助附加模态的先验知识。在本文中,我们的目标是调查的可行性,同时利用丰富的未标记的数据和完善的跨模态数据的注释有效的医学图像分割。为此,我们提出了一种新的半监督领域自适应方法,即Dual-Teacher,其中学生模型不仅从标记的目标数据(例如,CT),而且还探索未标记的目标数据和标记的源数据(例如,(二)教师的两种模式。具体而言,学生模型通过鼓励预测一致性从域内教师学习未标记目标数据的知识,以及通过知识蒸馏从域间教师学习嵌入在标记源数据中的形状先验。因此,学生模型可以有效地利用来自所有三个数据资源的信息,并全面整合它们,以提高性能。我们在MM-WHS 2017数据集上进行了大量的实验,证明了我们的方法能够同时利用未标记数据和跨模态数据,性能优越,优于半监督学习和领域自适应方法。
2020-07-13 cs.CV
You've Got Two Teachers: Co-evolutionary Image and Report Distillation for Semi-supervised Anatomical Abnormality Detection in Chest X-ray
Xiamen University(厦门大学);Tencent Healthcare (Shenzhen) Co., LTD(腾讯医疗(深圳)有限公司);The Chinese University of Hong Kong(香港中文大学)
针对胸部X光异常检测全监督标注成本高、弱监督性能不足的问题,提出协同进化图像与报告蒸馏框架,通过跨模态伪标签互精炼和模态内自适应抑制提升半监督检测性能,在MIMIC-CXR上表现优于现有方法。
2023-07-18 cs.CV
Retro: Reusing teacher projection head for efficient embedding distillation on Lightweight Models via Self-supervised Learning
National Cancer Center(国家癌症中心)
提出Retro方法,通过为学生模型重用教师投影头解决嵌入蒸馏中的尺寸不匹配问题,在轻量级模型上显著优于现有技术并减少参数量。
2024-08-24 cs.AI cs.CV
Hybrid Dual Mean-Teacher Network With Double-Uncertainty Guidance for Semi-Supervised Segmentation of MRI Scans
University of New South Wales(新南威尔士大学);Neuroscience Research Australia (NeuRA)(澳大利亚神经科学研究所(NeuRA))
半监督学习在医学图像分割中取得了重大进展。然而,现有方法主要利用从单维(2D/3D)获取的信息,导致对具有挑战性的数据(诸如具有多个对象和高度各向异性分辨率的磁共振成像(MRI)扫描)的次优性能。为了解决这个问题,我们提出了一个混合双均值教师(HD-Teacher)模型,该模型具有混合,半监督和多任务学习,以实现高效的半监督分割。HD-Teacher采用2D和3D均值-教师网络从两个维度捕获的混合信息中生成分割标签和带符号距离场。这种混合学习机制允许HD-Teacher结合“两全其美”,利用从2D,3D或两个维度提取的特征来产生它认为合适的输出。来自2D和3D教师模型的输出也基于其各自的不确定性分数动态地组合成单个混合预测,其中估计混合不确定性。然后,我们提出了一个混合正则化模块,以鼓励两个学生模型产生接近不确定性加权混合预测的结果。混合不确定性抑制了混合预测中的不可靠知识,只留下有用的信息来进一步提高网络性能。在三个MRI数据集上进行的大量二值和多类分割实验证明了该框架的有效性。代码可在https://github.com/ThisGame42/Hybrid-Teacher上获得。
2023-03-09 cs.CV eess.IV
Knowledge Distillation from Cross Teaching Teachers for Efficient Semi-Supervised Abdominal Organ Segmentation in CT
Armed Forces Yangju Hospital(杨州武装部队医院);Seoul National University(首尔国立大学)
对于用于医学图像分割的深度学习模型的更多临床应用,必须解决对标记数据和计算资源的高要求。该研究提出了一个由粗到细的框架,其中包含两个教师模型和一个学生模型,该框架结合了知识蒸馏和交叉教学,基于伪标签的一致性正则化,用于有效的半监督学习。在MICCAI FLARE 2022挑战下,在CT图像中的腹部多器官分割任务上证明了所提出的方法,验证集和测试集中的平均Dice分数分别为0.8429和0.8520。
2022-11-11 cs.CV eess.IV
Distilling Knowledge from Self-Supervised Teacher by Embedding Graph Alignment
University of Tübingen(蒂宾根大学);MPI for Informatics(马克斯·普朗克信息学研究所);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所);University of Heidelberg(海德堡大学)
最近的进展表明,自我监督预训练的优势,以改善下游任务的表示学习。现有的工作通常通过对下游任务进行微调来利用自我监督的预训练模型。然而,当需要构建不同于自监督模型的自定义模型架构时,微调并不能推广到这种情况。在这项工作中,我们制定了一个新的知识蒸馏框架,通过一种名为嵌入图对齐的新方法将知识从自监督预训练模型转移到任何其他学生网络。具体而言,受自监督学习中实例区分的精神的启发,我们在特征嵌入空间中通过图公式化来建模实例-实例关系,并通过对齐教师图和学生图来将自监督教师知识提取到学生网络。我们的蒸馏方案可以灵活地应用于传输自监督知识,以增强各种学生网络上的表示学习。我们证明了我们的模型优于三个基准数据集,包括CIFAR 100,STL 10和TinyImageNet的多个代表性的知识蒸馏方法。代码在这里:https://github.com/yccm/EGA。
2022-11-23 cs.CV cs.LG
JEDI: Joint Expert Distillation in a Semi-Supervised Multi-Dataset Student-Teacher Scenario for Video Action Recognition
University of Bucharest(布加勒斯特大学);Politehnica University of Bucharest(布加勒斯特理工大学);Institute of Mathematics of the Romanian Academy(罗马尼亚科学院数学研究所)
JEDI提出一种多数据集半监督学习方法,通过联合端到端的学生-教师蒸馏框架融合多个专家知识,在四个视频动作识别数据集上显著提升了模型泛化性能。
2023-08-09 cs.CV cs.LG
Diverse Teacher-Students for Deep Safe Semi-Supervised Learning under Class Mismatch
School of Software, Shandong University(山东大学软件学院);Shandong International Talent Exchange Service Center(山东省国际人才交流服务中心);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室)
针对半监督学习中未标记数据包含未见类别样本导致分类性能下降的问题,提出DTS框架,利用双教师-学生模型分别处理已见类分类和未见类检测,通过不确定性分数软分离数据并创建额外类别监督信号,实验验证其优于基线方法。
2024-05-25 cs.CV
DSTCS: Dual-Student Teacher Framework with Segment Anything Model for Semi-Supervised Pubic Symphysis Fetal Head Segmentation
School of Information Science and Technology(信息科学与技术学院)
本文提出DSTCS框架,结合CNN和SAM模型,通过协同学习机制和优化的数据增强策略,提升PSFH分割的准确性和鲁棒性,优于现有方法。
2026-01-27 cs.CV
Improving Localization for Semi-Supervised Object Detection
University of Parma(帕尔马大学)
如今,半监督目标检测(SSOD)是一个热门话题,因为,虽然它是相当容易收集图像创建一个新的数据集,标记它们仍然是一个昂贵和耗时的任务。在半监督学习(Semi-Supervised Learning,SSL)环境下利用原始图像的成功方法之一是Mean Teacher技术,其中教师的伪标记操作和从学生到教师的知识转移同时发生。然而,通过阈值化的伪标记不是最佳解决方案,因为置信度值与预测不确定性不严格相关,不允许安全地过滤预测。在本文中,我们为限界框定位引入了一个额外的分类任务,以改善预测边界框的过滤,并在学生训练中获得更高的质量。此外,我们的经验证明,限界框回归的无监督的一部分,可以同样有助于训练类别分类。我们的实验表明,我们的IL-网络(改进定位网络)提高了1.14% AP在有限的注释制度COCO数据集上的SSOD性能。代码可在https://github.com/IMPLabUniPr/unbiased-teacher/tree/ilnet上获得
2022-06-21 cs.CV
S$^2$Teacher: Step-by-step Teacher for Sparsely Annotated Oriented Object Detection
School of Informatics, Xiamen University(厦门大学信息学院)
针对稀疏标注定向目标检测(SAOOD)的过拟合和假阴性干扰问题,提出S²Teacher模型,通过从易到难挖掘伪标签及损失重加权,在DOTA数据集仅用10%标注即接近全监督性能,平衡精度与效率。
2025-04-15 cs.CV