Self-Supervised Learning for Semi-Supervised Temporal Action Proposal
Huazhong University of Science and Technology（华中科技大学）
自监督学习在利用未标记数据进行各种视频任务方面表现出了显著的性能。在本文中，我们专注于应用自我监督方法的力量，以提高半监督行动建议生成。特别地，我们设计了一个有效的自监督半监督时态动作建议（SSTAP）框架。SSTAP包含两个关键分支，即，时间感知半监督分支和关系感知自监督分支。半监督分支通过引入两个时间扰动来改进提议模型，即，时间特征转移和时间特征翻转，在平均教师框架。自监督分支定义了两个托词任务，包括掩蔽特征重构和裁剪顺序预测，以学习时间线索之间的关系。通过这种方式，SSTAP可以更好地探索未标记的视频，并提高学习的动作特征的区分能力。我们在THUMOS 14和ActivityNet v1.3数据集上广泛评估了所提出的SSTAP。实验结果表明，SSTAP显着优于最先进的半监督方法，甚至匹配全监督方法。代码可在https://github.com/wangxiang1230/SSTAP上获得。
2021-04-07 cs.CV
EnAET: A Self-Trained framework for Semi-Supervised and Supervised Learning with Ensemble Transformations
Purdue University（普渡大学）；University of Rochester（罗切斯特大学）；Futurewei Seattle Cloud Lab（华为西雅图云实验室）
深度神经网络已成功应用于许多现实世界的应用。然而，这样的成功在很大程度上依赖于大量的标记数据，而这些数据的获取成本很高。近年来，人们提出了许多半监督学习的方法，并取得了很好的效果。在这项研究中，我们提出了一个新的EnAET框架，以进一步改善现有的半监督方法与自我监督的信息。据我们所知，目前所有的半监督方法都通过预测一致性和置信度来提高性能。我们是第一个探索{ \bf自我监督}表示在{ \bf半监督}学习中的作用的丰富的家庭的转换。因此，我们的框架可以集成自监督信息作为正则化项，以进一步改进{ \it all}当前的半监督方法。在实验中，我们使用MixMatch，这是当前最先进的半监督学习方法，作为基线来测试所提出的EnAET框架。在不同的数据集上，我们采用相同的超参数，这大大提高了EnAET框架的泛化能力。在不同数据集上的实验结果表明，所提出的EnAET框架大大提高了现有半监督算法的性能.此外，该框架还可以大幅提高{ \bf监督学习}，包括每个类只有10张图像的极具挑战性的场景。代码和实验记录可在\url{https://github.com/maple-research-lab/EnAET}中获得。
2021-02-01 cs.CV
SemiSAM: Enhancing Semi-Supervised Medical Image Segmentation via SAM-Assisted Consistency Regularization
Artificial Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与孵化研究院）；Shanghai Academy of Artificial Intelligence for Science（上海人工智能科学研究院）
本文提出SemiSAM策略，利用SAM生成的伪标签作为额外监督，在标注极少时显著提升半监督医学图像分割性能，并具备即插即用效率。
2024-10-23 cs.CV
A Benchmark for Semi-supervised Multi-modal Crowd Counting
Harbin Institute of Technology（哈尔滨工业大学）；Pengcheng Laboratory（鹏城实验室）
本文构建了首个半监督多模态人群计数基准，通过制定标准化协议和评估多种基线方法，为该任务奠定基础。
2026-06-02 cs.CV
Semi-Supervised Semantic Segmentation with High- and Low-level Consistency
University of Freiburg（弗莱堡大学）
从有限的标记数据中理解视觉信息的能力是机器学习的一个重要方面。虽然图像级分类已经在半监督环境中被广泛研究，但具有有限数据的密集像素级分类最近才引起注意。在这项工作中，我们提出了一种半监督语义分割的方法，学习有限的像素明智的注释样本，同时利用额外的无注释图像。它使用两个网络分支，将半监督分类与半监督分割（包括自训练）联系起来。双分支方法减少了在使用少量标签进行训练时典型的低级和高级伪影。该方法与现有方法相比有了显着的改进，特别是在使用很少的标记样本进行训练时。在几个标准基准测试中- PASCAL VOC 2012，PASCAL-Context和Cityscapes -该方法在半监督学习中达到了最先进的水平。
2019-08-15 cs.CV
Semi-MAE: Masked Autoencoders for Semi-supervised Vision Transformers
Meituan Inc.（美团公司）
视觉Transformer（ViT）在半监督学习（SSL）中面临数据稀缺的问题。为了缓解这个问题，受到掩码自编码器（MAE）的启发，这是一个数据高效的自监督学习器，我们提出了Semi-MAE，一个纯粹的基于ViT的SSL框架，由一个并行MAE分支组成，以帮助视觉表示学习，使伪标签更准确。MAE分支被设计为由轻量级解码器和共享权重编码器组成的非对称架构。我们将具有高掩蔽比的弱增强未标记数据馈送到MAE分支，并重建丢失的像素。Semi-MAE在ImageNet上实现了75.9%的top-1准确率，标签为10%，超过了半监督图像分类的现有技术水平。此外，大量的实验表明，半MAE可以很容易地用于其他ViT模型和掩码图像建模方法。
2023-01-04 cs.CV
Self-supervised Mean Teacher for Semi-supervised Chest X-ray Classification
University of Adelaide（阿德莱德大学）；Universidade Federal Rural de Pernambuco（伯南布哥联邦农村大学）；Universität Ulm（乌尔姆大学）；South Australian Health and Medical Research Institute（南澳大利亚健康与医学研究所）
深度学习模型的训练通常需要大量的注释数据，以实现有效的收敛和泛化。然而，获得高质量的注释是一个费力和昂贵的过程，由于需要专业的放射科医生的标签任务。医学图像分析中的半监督学习的研究是至关重要的，因为获得未标记的图像比获得由放射科专家标记的图像便宜得多。从本质上讲，半监督方法利用大量未标记的数据集来实现比仅使用少量标记图像更好的训练收敛和泛化。在本文中，我们提出了半监督（S $^2$ MTS $^2$）学习的自监督均值教师，它将自监督均值教师预训练与半监督微调相结合。S $^2$ MTS $^2$的主要创新点是基于联合对比学习的自监督平均教师预训练，它使用无限数量的正查询和关键特征对来改进平均教师表示。然后使用经过半监督学习训练的指数移动平均教师框架对模型进行微调。我们验证了S $^2$ MTS $^2$在胸部X射线14和CheXpert的多标签分类问题上的有效性，以及ISIC 2018的多类分类，我们表明它大大优于以前的SOTA半监督学习方法。
2021-11-04 cs.CV
Semi-Supervised Semantic Matching
Aalto University（阿尔托大学）
卷积神经网络（CNN）已成功地应用于解决语义相关图像之间的对应性估计问题。由于无法获得大规模的训练数据集，现有的方法采用自监督或无监督的训练范式。在本文中，我们提出了一个半监督学习框架，施加循环一致性约束的未标记的图像对。与监督损失一起，所提出的模型在基准语义匹配数据集上达到了最先进的水平。
2019-01-24 cs.CV
Semi-supervised Learning of Fetal Anatomy from Ultrasound
Imperial College London（帝国理工学院）
半监督学习方法在标准基准数据集上使用很少的标记图像取得了优异的性能。胎儿2D超声中的解剖分类是测试这些结果是否转化为非理想数据的理想问题设置。我们的研究结果表明，包含一个具有挑战性的背景类可能是有害的，半监督学习主要受益于已经不同的类，有时以牺牲更相似的类。
2019-08-30 cs.CV
Budget-aware Semi-Supervised Semantic and Instance Segmentation
Barcelona Supercomputing Center（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
转向较少监督场景的方法是图像分割的关键，因为密集标签需要大量的人为干预。一般来说，通过用较弱的监督形式标记数据集来减轻注释负担，例如图像级标签或边界框。另一种选择是半监督设置，通常利用一些强注释和大量未标记/弱标记数据。在本文中，我们重新审视了半监督分割方案，并与以前的方法相比显着缩小了注释预算（就训练集的总标记时间而言）。通过一个非常简单的管道，我们证明了在低注释预算下，半监督方法在语义和实例分割方面都远远优于弱监督方法。我们的方法也优于以前的半监督作品，大大降低了标签成本。我们提出了Pascal VOC基准测试的结果，并通过考虑总注释预算来统一弱监督和半监督方法，从而使方法之间的比较更加公平。
2019-05-23 cs.CV
Confidence-Guided Semi-supervised Learning in Land Cover Classification
Cardiff University（卡迪夫大学）
本文提出置信度引导半监督学习方法CGSSL，通过利用高置信度伪标签并引入多网络架构提升伪标签多样性，在Potsdam土地覆盖分类基准上超越经典半监督和全监督方法。
2023-05-30 cs.CV
Semi-Supervised Relational Contrastive Learning
University of California, Los Angeles（加州大学洛杉矶分校）；Stanford University（斯坦福大学）；University of Kentucky（肯塔基大学）
针对医学图像监督学习标注成本高的问题，提出结合自监督对比损失与样本关系一致性的半监督关系对比学习SRCL模型，在ISIC 2018皮肤病变数据集上验证了不同标注量下的有效性。
2023-06-13 cs.CV
Semi-Supervised Disparity Estimation with Deep Feature Reconstruction
University of Freiburg（弗莱堡大学）
尽管深度学习在差异估计方面取得了成功，但领域泛化差距仍然是一个问题。我们提出了一个半监督管道，通过对标记的合成数据进行联合监督训练和对未标记的真实数据进行自我监督训练，成功地将DispNet适应于真实世界的领域。此外，考虑到广泛使用的光度损失的局限性，我们分析了深度特征重建作为视差估计的有前途的监督信号的影响。
2021-06-01 cs.CV
Interpolation-based semi-supervised learning for object detection
Seoul National University（首尔国立大学）；Aalto University（阿尔托大学）；Mila Université de Montréal（蒙特利尔大学米拉研究所）；SK hynix（SK海力士）
尽管目标检测任务的数据标记成本远高于分类任务，但用于目标检测的半监督学习方法还没有得到太多的研究。本文提出了一种基于插值的半监督学习目标检测方法（ISD），该方法考虑并解决了传统的插值正则化（IR）直接应用于目标检测所带来的问题。我们根据IR中混合的两个原始补丁的对象性得分将模型的输出分为两种类型。然后，我们以无监督的方式应用适合于每种类型的单独损失。提出的损失显着提高性能的半监督学习以及监督学习。在监督学习设置中，我们的方法显著地改进了基线方法。在半监督学习环境中，我们的算法提高了性能的基准数据集（PASCAL VOC和MSCOCO）在基准架构（SSD）。
2020-12-29 cs.CV
Not-so-supervised: a survey of semi-supervised, multi-instance, and transfer learning in medical image analysis
Eindhoven University of Technology（埃因霍温理工大学）；Erasmus Medical Center（伊拉斯谟医学中心）；University of Copenhagen（哥本哈根大学）；University Medical Center Utrecht（乌得勒支大学医学中心）
机器学习（ML）算法在医学成像领域产生了巨大的影响。虽然医学成像数据集的规模一直在增长，但经常提到的监督ML算法面临的挑战是缺乏注释数据。因此，已经提出了可以在较少/其他类型的监督下学习的各种方法。我们回顾了医学成像中的半监督、多实例和迁移学习，无论是在诊断/检测还是分割任务中。我们还讨论了这些学习场景之间的联系，以及未来研究的机会。
2018-09-14 cs.CV
SelfPrompt: Confidence-Aware Semi-Supervised Tuning for Robust Vision-Language Model Adaptation
Queen’s University, Canada（女王大学）
本文提出SelfPrompt，一种用于视觉语言模型的半监督提示微调方法，通过聚类引导的伪标签和置信度感知学习模块解决伪标签噪声问题，并在13个数据集上显著超越现有方法。
2025-01-28 cs.CV
Analysis of Semi-Supervised Methods for Facial Expression Recognition
Queen’s University（女王大学）；Ingenuity Labs Research Institute（Ingenuity Labs研究院）
训练用于图像识别的深度神经网络通常需要大规模的人类注释数据。为了减少深度神经解决方案对标记数据的依赖，文献中已经提出了最先进的半监督方法。尽管如此，这种半监督方法的使用在面部表情识别（FER）领域中还是相当罕见的。在本文中，我们提出了一个全面的研究，最近提出的国家的最先进的半监督学习方法的背景下，FER。我们对八种半监督学习方法进行了比较研究，即Pi模型，伪标签，平均教师，增值税，混合匹配，ReMixMatch，UDA和FixMatch，在三个FER数据集（FER 13，RAF-DB和AffectNet）上，当使用不同数量的标记样本时。我们还比较了这些方法与完全监督训练的性能。我们的研究表明，当训练现有的半监督方法时，每个类只有250个标记样本，可以产生与在完整标记数据集上训练的全监督方法相当的性能。为了方便在这一领域的进一步研究，我们将我们的代码公开在：https://github.com/ShuvenduRoy/SSL_FER
2022-07-31 cs.CV
UniMoCo: Unsupervised, Semi-Supervised and Full-Supervised Visual Representation Learning
Tencent Wechat AI（腾讯微信AI）；South China University of Technology（华南理工大学）
动量对比度（MoCo）在无监督视觉表示方面取得了巨大的成功。然而，有很多监督和半监督数据集已经被标记。为了充分利用标签注释，我们提出了统一动量对比（UniMoCo），它扩展了MoCo以支持任意比例的标记数据和未标记数据训练。与MoCo相比，UniMoCo有以下两个改进：（1）与MoCo中的单个正对不同，我们通过将查询标签与标签队列进行比较来动态维护多个正对。(2)我们提出了一个统一的对比（UniCon）损失，以支持任意数量的积极和消极的统一成对优化的角度。我们的UniCon算法在理论和实践上都比监督对比损失算法更加合理和有效。在我们的实验中，我们使用不同比例的ImageNet标签预训练多个UniMoCo模型，并评估各种下游任务的性能。实验结果表明，UniMoCo对无监督、半监督和有监督的视觉表示学习都有很好的泛化能力。
2021-03-19 cs.CV
Boosting Semi-Supervised 3D Object Detection with Semi-Sampling
Zhejiang University（浙江大学）；Beijing Aircraft Technology Research Institute（北京飞机技术研究院）；Shanghai AI Laboratory（上海人工智能实验室）
当前的3D目标检测方法严重依赖于大量的注释。半监督学习可以用来缓解这个问题。以前的半监督3D目标检测方法直接遵循全监督方法的实践来增强标记和未标记的数据，这是次优的。在本文中，我们设计了一个数据增强方法的半监督学习，我们称之为半采样。具体来说，我们使用地面真值标签和伪标签分别在标记帧和未标记帧上裁剪gt样本和伪样本。然后我们可以生成一个gt样本数据库和一个伪样本数据库。在训练教师-学生半监督框架时，我们随机选取gt样本和伪样本到标记帧和未标记帧中，对它们进行强数据增强。我们的半采样可以看作是gt采样到半监督学习的一个扩展。我们的方法简单但有效。我们不断改进ScanNet、SUN-RGBD和KITTI基准测试的最先进方法。例如，当在ScanNet上仅使用10%的标记数据进行训练时，我们在mAP@0.25和mAP@0.5方面比3DIoUMatch提高了3.1 mAP和6.4 mAP。当在KITTI上仅使用1%的标记数据进行训练时，我们在汽车、行人和骑自行车的类别上将3DIoUMatch提高了3.5 mAP、6.7 mAP和14.1 mAP。代码将在https://github.com/LittlePey/Semi-Sampling上公布。
2022-11-15 cs.CV
Semi-supervised learning via Feedforward-Designed Convolutional Neural Networks
University of Southern California（南加州大学）
提出了一种基于前馈设计的卷积神经网络（FF-CNN）的半监督学习框架用于图像分类。FF-CNN的一个独特特性是在模型参数确定中不使用反向传播。由于未标记数据可能并不总是增强半监督学习，我们定义了一个有效的质量分数，并使用它来选择一个子集的未标记数据在训练过程中。我们在MNIST、SVHN和CIFAR-10数据集上进行了实验，结果表明，当标记数据量减少时，所提出的半监督FF-CNN解决方案的性能优于反向传播训练的CNN（BP-CNN）。此外，我们开发了一个集成系统，该系统结合了不同半监督FF-CNN的输出决策向量，以提高分类精度。集成系统可以在所有三个基准数据集上实现进一步的性能增益。
2019-02-06 cs.CV
Revisiting Deep Semi-supervised Learning: An Empirical Distribution Alignment Framework and Its Generalization Bound
The University of Sydney（悉尼大学）；Swiss Federal Institute of Technology in Zürich（苏黎世联邦理工学院）；University of Electronic Science and Technology of China（电子科技大学）
在这项工作中，我们重新审视半监督学习（SSL）的问题，从一个新的角度明确减少标记和未标记的样本之间的经验分布不匹配。受益于这种新的视角，我们首先提出了一种新的深度半监督学习框架，称为经验分布对齐（SLEDA）的半监督学习，其中来自领域自适应社区的现有技术可以很容易地用于通过减少标记和未标记数据之间的经验分布距离来解决半监督学习问题。在此基础上，我们提出了一种新的理论推广方法，通过最小化标记数据的训练误差和标记数据与未标记数据之间的经验分布距离，可以有效地约束半监督学习的泛化误差，从而更好地理解半监督学习问题.基于我们的新框架和理论界限，我们开发了一种简单有效的深度半监督学习方法，称为增强分布对齐网络（ADA-Net），同时采用领域自适应社区的成熟对抗训练策略和简单的样本插值策略进行数据增强。此外，我们将这两种策略在我们的ADA-Net到两个现有的SSL方法，以进一步提高其泛化能力，这表明我们的新框架提供了一个互补的解决方案，解决SSL问题。我们在两个基准数据集SVHN和CIFAR-10上进行的半监督图像识别任务以及另外两个基准数据集ModelNet 40和ShapeNet 55上进行的半监督点云识别任务的综合实验结果证明了我们提出的SSL框架的有效性。
2022-03-13 cs.CV
Semi-Supervised Deep Learning for Fully Convolutional Networks
Technical University of Munich（慕尼黑工业大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
深度学习通常需要大量标记的训练数据，但是注释数据是昂贵且繁琐的。半监督学习的框架提供了使用标记数据和任意数量的未标记数据进行训练的方法。最近，半监督深度学习已被广泛研究用于标准CNN架构。然而，全卷积网络（FCN）为许多图像分割任务提供了最先进的技术。据我们所知，还没有现有的半监督学习方法用于这种FCN。本文借助随机特征嵌入的思想，将半监督学习中的辅助流形嵌入的概念提升到模糊控制网络中。在我们的实验中，具有挑战性的任务MS病变分割，我们利用所提出的框架的目的领域自适应和报告的基线模型的实质性改进。
2017-07-25 cs.CV
A Studious Approach to Semi-Supervised Learning
Manipal Institute of Technology（马尼帕尔理工学院）
在使用大量未标记数据的情况下，从少量标记样本中学习的问题已经通过各种半监督方法来解决。虽然这些方法可以实现卓越的性能，但由于大量的参数，模型通常是不可部署的。本文是半监督环境中蒸馏的消融研究，它不仅减少了模型的参数数量，而且可以实现这一目标，同时提高了基线监督模型的性能，并使其更好地概括。在监督预训练之后，网络被用作教师模型，学生网络在教师模型在整个未标记数据上生成的软标签上进行训练。我们发现，标签越少，这种方法从更小的学生网络中受益越多。这带来了蒸馏作为一种有效的解决方案，以提高半监督计算机视觉任务的性能，同时保持可部署性的潜力。
2021-09-18 cs.CV
S4L: Self-Supervised Semi-Supervised Learning
Google Research（谷歌研究院）
这项工作解决了图像分类器的半监督学习问题。我们的主要观点是，半监督学习领域可以受益于快速发展的自监督视觉表示学习领域。结合这两种方法，我们提出了自监督半监督学习的框架，并使用它来获得两个新的半监督图像分类方法。我们证明了这些方法的有效性相比，精心调整的基线，和现有的半监督学习方法。然后，我们证明了我们的方法和现有的半监督方法可以联合训练，在半监督ILSVRC-2012上产生了一个新的最先进的结果，标签数为10%。
2019-07-23 cs.CV cs.LG
Vehicle Trajectory Prediction by Transfer Learning of Semi-Supervised Models
Columbia University（哥伦比亚大学）
在这项工作中，我们表明，用于车辆轨迹预测的半监督模型显着提高了最先进的现实世界基准上的监督模型的性能。从监督模型到半监督模型允许通过使用未标记数据进行扩展，将预训练中的图像数量从数百万增加到10亿。我们进行消融研究，比较半监督和监督模型的迁移学习，同时保持所有其他因素相同。在半监督模型中，我们比较了对比学习与师生方法，以及预测少量轨迹的网络与预测大轨迹集上概率的网络。我们的结果使用低级别和中级表示的驾驶环境证明了半监督方法的适用性，为现实世界的车辆轨迹预测。
2020-10-10 cs.CV cs.LG
Semi-supervised Learning with Robust Loss in Brain Segmentation
University of Southern California（南加州大学）
在这项工作中，我们使用半监督学习方法来训练深度学习模型，可以分割大脑MRI图像。半监督模型使用较少的标记数据，并且性能与全标记数据的监督模型竞争。该框架可以降低标记MRI图像的成本。我们还引入了鲁棒损失来减少半监督学习中产生的不准确标签的噪声影响。
2022-12-03 cs.CV eess.IV
Colour augmentation for improved semi-supervised semantic segmentation
University of East Anglia（东英吉利大学）
一致性正则化描述了一类已经产生了最先进的半监督分类结果的方法。虽然半监督语义分割被证明是更具挑战性的，但最近已经提出了许多成功的方法。最近的工作探讨了使用一致性正则化分割问题所涉及的挑战。Chen等人在他们的自监督工作中发现，颜色增强阻止了分类网络使用图像颜色统计作为通过实例判别进行自监督学习的捷径。从中汲取灵感，我们发现类似的问题阻碍了半监督语义分割，并提供颜色增强作为解决方案，提高了半监督语义分割在具有挑战性的摄影图像上的性能。
2021-10-09 cs.CV cs.LG
SelfMatch: Combining Contrastive Self-Supervision and Consistency for Semi-Supervised Learning
Samsung SDS（三星数据系统）
本文介绍了SelfMatch，一种结合对比自监督学习和一致性正则化的半监督学习方法。SelfMatch包括两个阶段：（1）基于对比学习的自监督预训练和（2）基于增强一致性正则化的半监督微调。我们通过经验证明，SelfMatch在标准基准数据集（如CIFAR-10和SVHN）上实现了最先进的结果。例如，对于包含40个标记示例的CIFAR-10，SelfMatch实现了93.19%的准确率，优于MixMatch（52.46%），UDA（70.95%），ReMixMatch（80.9%）和FixMatch（86.19%）等强大的先前方法。我们注意到，SelfMatch可以缩小监督学习（95.87%）和半监督学习（93.19%）之间的差距，因为每个类只使用几个标签。
2021-01-16 cs.CV cs.LG
Semi-Supervised Learning with Mutual Distillation for Monocular Depth Estimation
Korea University（高丽大学）
我们提出了一个半监督学习框架的单目深度估计。与现有的半监督学习方法相比，该方法继承了稀疏监督和无监督损失函数的局限性，通过为每个损失建立两个独立的网络分支，并通过相互蒸馏损失函数来实现两个损失函数的优势互补。我们还提出了应用不同的数据增强到每个分支，这提高了鲁棒性。我们进行实验，以证明我们的框架在最新方法的有效性，并提供广泛的消融研究。
2022-03-18 cs.CV cs.RO
Dense FixMatch: a simple semi-supervised learning method for pixel-wise prediction tasks
KTH Royal Institute of Technology（瑞典皇家理工学院）；Univrses AB（Univrses公司）
我们提出了Dense FixMatch，这是一种简单的方法，用于密集和结构化预测任务的在线半监督学习，通过强数据增强结合伪标记和一致性正则化。通过在伪标签上添加匹配操作，我们使FixMatch在图像分类之外的半监督学习问题中的应用成为可能。这使得我们仍然可以使用数据增强管道的全部功能，包括几何变换。我们评估它的半监督语义分割城市景观和Pascal VOC与不同百分比的标记数据和消融设计选择和超参数。与仅使用标记数据的监督学习相比，Dense FixMatch显著改善了结果，接近其使用1/4标记样本的性能。
2022-10-18 cs.CV cs.LG
S5CL: Unifying Fully-Supervised, Self-Supervised, and Semi-Supervised Learning Through Hierarchical Contrastive Learning
Technical University Munich（慕尼黑工业大学）；Helmholtz AI（亥姆霍兹人工智能研究院）
在计算病理学中，我们经常面临着缺乏注释和大量未标记数据的问题。处理这种情况的一种方法是半监督学习，它通常分为自我监督的借口任务和随后的模型微调。在这里，我们通过引入S5 CL将这两个阶段的训练压缩为一个，S5 CL是一个用于全监督、自监督和半监督学习的统一框架。通过为标记图像、未标记图像和伪标记图像定义三种对比度损失，S5 CL可以学习反映距离关系层次的特征表示：相似图像和增强嵌入最接近，其次是同一类的不同外观图像，而来自不同类的图像具有最大的距离。此外，S5 CL允许我们灵活地组合这些损失，以适应不同的场景。在两个公共组织病理学数据集上对我们的框架进行的评估显示，在稀疏标签的情况下，我们的框架有了很大的改进：对于H& E染色的结直肠癌数据集，与监督交叉熵损失相比，准确度提高了9%;对于来自白血病患者血涂片的单个白细胞的高度不平衡数据集，F1分数提高了6%。
2022-03-14 cs.CV stat.ML
Semi-supervised learning for joint SAR and multispectral land cover classification
Politecnico di Torino（都灵理工大学）
半监督学习技术由于其构建有效模型的能力而越来越受欢迎，即使在标记数据稀缺的情况下也是如此。在本文中，我们提出了一个框架和具体任务的自我监督预训练的\textit{multichannel}模型，如多光谱和合成孔径雷达图像的融合。我们表明，所提出的自监督方法在学习与土地覆盖分类标签相关的特征方面非常有效。这是通过预训练任务的明确设计实现的，该任务促进弥合感测模态和利用输入的光谱特性之间的差距。在半监督设置中，当有限的标签可用时，使用所提出的自监督预训练，然后使用SAR和多光谱数据对土地覆盖分类进行监督微调，优于传统方法，如纯监督学习，ImageNet训练初始化和其他最近的自监督方法。
2022-07-28 cs.CV eess.IV
Self-semi-supervised Learning to Learn from NoisyLabeled Data
New York University（纽约大学）
当今深度神经网络的巨大成功高度依赖于大量正确标记的数据。然而，获得高质量的人类标记数据的成本相当高，导致对噪声标签鲁棒的训练模型的研究领域非常活跃。为了实现这一目标，一方面，许多论文致力于区分噪声标签和干净标签，以提高DNN的泛化能力。另一方面，越来越流行的自半监督学习方法已被证明有利于标签不完整时的任务。通过“semi”，我们将检测到的错误标记数据视为未标记数据;通过“self”，我们选择一种自监督技术进行半监督学习。在这个项目中，我们设计了一些方法来更准确地区分干净和有噪声的标签，并借用自半监督学习的智慧来训练有噪声的标签数据。
2020-11-03 cs.CV cs.LG
EC-GAN: Low-Sample Classification using Semi-Supervised Algorithms and GANs
Saratoga High School（萨拉托加高中）
半监督学习已经获得关注，因为它允许执行图像分析任务，例如使用有限的标记数据进行分类。使用生成对抗网络（GANs）进行半监督分类的一些流行算法共享用于分类和区分的单个架构。然而，这可能需要模型为每个任务收敛到单独的数据分布，这可能会降低整体性能。虽然半监督学习已经取得了进展，但小规模的全监督任务却很少得到解决，即使是未标记的数据也无法获得。因此，我们提出了一种新的GAN模型，即外部分类器GAN（EC-GAN），它利用GANs和半监督算法来改善全监督机制中的分类。我们的方法利用GAN来生成用于补充监督分类的人工数据。更具体地说，我们将外部分类器（因此命名为EC-GAN）附加到GAN的生成器，而不是与GAN共享架构。我们的实验表明，EC-GAN的性能与共享架构方法相当，远优于标准的数据增强和基于正则化的方法，并且在小的真实数据集上有效。
2021-06-21 cs.CV cs.LG
Scaling Up Semi-supervised Learning with Unconstrained Unlabelled Data
Queen’s University（女王大学）
本文提出UnMixMatch半监督学习框架，通过强增强有监督学习、对比一致性正则化和自监督损失三个组件，有效利用无约束无标签数据，在4个数据集上实现4.79%的性能提升。
2024-01-13 cs.CV cs.LG
Hypernetworks for Continual Semi-Supervised Learning
IIT Kanpur（印度理工学院坎普尔分校）；Duke University（杜克大学）
从顺序到达的数据中学习，可能在非独立同分布中。随着时间的推移不断变化的任务分配称为持续学习。到目前为止，持续学习的大部分工作都集中在监督学习和无监督学习上。在许多领域中，每个任务都包含标记（通常很少）和未标记（通常很多）的训练样本，这需要半监督学习方法。为了在持续学习环境中解决这个问题，我们提出了一个半监督持续学习的框架，称为连续半监督学习的元巩固（MCSSL）。我们的框架有一个超网络，它学习元分布，生成半监督辅助分类器生成对抗网络$(\textit{Semi-ACGAN})$的权重作为基础网络。我们在超网络中巩固顺序任务的知识，基础网络学习半监督学习任务。此外，我们提出了$\textit{Semi-Split CIFAR-10}$，一个新的基准连续半监督学习，通过修改$\textit{Split CIFAR-10}$数据集，其中的任务与标记和未标记的数据顺序到达。我们提出的模型在连续半监督学习设置中产生了显着的改进。我们比较了几种现有的持续学习方法的性能，提出了持续半监督学习基准的半分裂CIFAR-10数据集。
2021-10-05 cs.CV cs.LG stat.ML
Exploring Self-Supervised Regularization for Supervised and Semi-Supervised Learning
Flyreel AI Research（Flyreel人工智能研究院）
半监督学习的最新进展在克服现代机器学习算法成功的主要障碍方面显示出巨大的潜力：访问大量人类标记的训练数据。基于一致性正则化的先前算法可以利用大量未标记数据在许多半监督基准上产生令人印象深刻的结果，仅使用一小部分可用标记数据就接近强监督基线的性能。在这项工作中，我们通过引入自监督正则化作为组合来自未标记数据的语义特征表示的基础，挑战了一致性正则化的长期成功。我们进行了广泛的比较实验，以证明自监督正则化的有效性，监督和半监督图像分类SVHN，CIFAR-10和CIFAR-100基准数据集。我们提出了两个主要结果：（1）使用自监督正则化增强的模型显着改进了传统的监督分类器，而不需要未标记的数据;（2）与未标记的数据一起，我们的模型产生了半监督性能，与现有的最先进的一致性基线竞争，并且在许多情况下超过了它。最后，我们的模型具有端到端有效训练的实用性，并且不需要额外的超参数来调整训练神经网络的标准集之外的最佳性能。参考代码和数据可在https://github.com/vuptran/sesemi上获得
2019-11-21 cs.CV cs.LG stat.ML
Semi-supervised Vision Transformers at Scale
AWS AI Labs（亚马逊云科技人工智能实验室）
我们研究半监督学习（SSL）的视觉Transformer（ViT），尽管广泛采用的ViT架构不同的任务，一个未充分探讨的话题。为了解决这个问题，我们提出了一个新的SSL管道，包括第一个非/自我监督的预训练，其次是监督微调，最后是半监督微调。在半监督微调阶段，我们采用指数移动平均（EMA）-教师框架，而不是流行的FixMatch，因为前者更稳定，并提供更高的精度为半监督视觉Transformer。此外，我们提出了一种概率伪混淆机制来内插未标记的样本及其伪标签，以改进正则化，这对于训练具有弱归纳偏差的ViT非常重要。我们提出的方法，被称为半ViT，实现了可比或更好的性能比CNN同行在半监督分类设置。Semi-ViT还享有ViT的可扩展性优势，可以轻松扩展到大尺寸模型，并提高精度。例如，Semi-ViT-Huge在ImageNet上仅使用1%的标签就达到了令人印象深刻的80%的top-1准确率，这与使用100% ImageNet标签的Inception-v4相当。
2022-08-11 cs.AI cs.CV cs.LG
Ladder Networks for Semi-Supervised Hyperspectral Image Classification
Purdue University（普渡大学）；ETH Zürich（苏黎世联邦理工学院）
我们使用梯形网络[Rasmus et al.（2015）]在半监督设置中执行高光谱图像分类。梯形网络通过联合优化监督和非监督成本来将自己与其他半监督方法区分开来。在许多情况下，这已被证明比其他半监督技术更成功，例如使用未标记数据进行预训练。我们还表明，卷积梯形网络的性能优于目前大多数用于高光谱图像分类的技术，并在帕维亚大学数据集上实现了新的最先进的性能，每个类只有5个标记的数据点。
2018-12-04 cs.CV cs.LG stat.ML
SaaS: Speed as a Supervisor for Semi-supervised Learning
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
我们介绍了用于半监督学习的SaaS算法，该算法使用深度神经网络中随机梯度下降期间的学习速度来衡量未知标签的后验概率的迭代估计的质量。在监督学习中，训练速度与正确标签的百分比密切相关，因此我们将其用作未知标签的推理标准，而不试图首先推断模型参数。尽管简单，SaaS在半监督学习基准测试中取得了最先进的结果。
2018-05-02 cs.CV cs.LG stat.ML
Empirical Perspectives on One-Shot Semi-supervised Learning
US Naval Research Laboratory（美国海军研究实验室）
在新应用中采用深度神经网络的最大障碍之一是，训练网络通常需要大量手动标记的训练样本。我们根据经验研究了这样一种场景，其中可以访问大量未标记的数据，但只需要标记每个类的单个原型样本，以便训练深度网络（即，一次性半监督学习）。具体来说，我们调查了FixMatch中报道的一次性半监督学习的最新结果，以了解影响和阻碍Cifar-10一次性半监督学习的高准确性和可靠性的因素。例如，我们发现，一次半监督学习的高性能图像分类的一个障碍是在训练过程中的类精度的不均匀性。这些结果指出了解决方案，可以使一次性半监督训练方法在新应用中得到更广泛的采用。
2020-04-08 cs.CV cs.LG stat.ML
Exponential Moving Average Normalization for Self-supervised and Semi-supervised Learning
Amazon Web Services（亚马逊云科技）
我们提出了一个插件替代批量归一化（BN）称为指数移动平均归一化（EMAN），它提高了现有的基于学生-教师的自我和半监督学习技术的性能。与标准BN不同，在每个批次中计算统计数据，教师中使用的EMAN通过学生BN统计数据的指数移动平均来更新其统计数据。这种设计降低了BN固有的交叉样本依赖性，增强了教师的泛化能力。当ImageNet上有1%/10%的监督标签时，EMAN将自监督学习的强基线提高了4-6/1-2个点，半监督学习提高了约7/2个点。这些改进在方法、网络架构、训练持续时间和数据集上是一致的，证明了这种技术的普遍有效性。该代码可在https://github.com/amazon-research/exponential-moving-average-normalization上获得。
2021-06-18 cs.AI cs.CV cs.LG
Recent Deep Semi-supervised Learning Approaches and Related Works
Ulsan National Institute of Science and Technology (UNIST)（蔚山科学技术院）
本文综述了近期深度半监督学习方法，基于流形、聚类和连续性假设对现有工作进行分类，并重点介绍了统一多种思想的整体性方法。
2024-08-08 cs.AI cs.CV cs.LG
Integration of Self-Supervised BYOL in Semi-Supervised Medical Image Recognition
The University of Sydney（悉尼大学）；North University of China（中北大学）；University of Technology Sydney（悉尼科技大学）
针对医学图像标注数据稀缺问题，提出将自监督BYOL集成到半监督模型的方法，经无标注预训练、伪标与标注数据合并训练及迭代微调，在三个数据集上准确率优于现有方法。
2024-04-16 cs.AI cs.CV cs.LG
Consistency-Based Semi-supervised Evidential Active Learning for Diagnostic Radiograph Classification
National University of Singapore（新加坡国立大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）；Singapore University of Technology and Design（新加坡科技设计大学）
深度学习方法实现了对放射学图像进行分类的最先进性能，但依赖于需要专家进行资源密集型注释的大型标记数据集。半监督学习和主动学习都可以用来减轻这种注释负担。然而，在结合半监督和主动学习方法的优点用于多标签医学图像分类方面的工作有限。在这里，我们介绍了一种新的基于一致性的半监督证据主动学习框架（CSEAL）。具体来说，我们利用基于证据理论和主观逻辑的预测不确定性来开发一种端到端的集成方法，该方法将基于一致性的半监督学习与基于不确定性的主动学习相结合。我们应用我们的方法来增强四种领先的基于一致性的半监督学习方法：伪标签，虚拟对抗训练，平均教师和NoTeacher。对多标签胸部X射线分类任务的广泛评估表明，CSEAL在两个领先的半监督主动学习基线上实现了实质性的性能改进。此外，对结果的分类分解表明，我们的方法可以用更少的标记样本大幅提高对罕见异常的准确性。
2022-09-05 cs.AI cs.CV cs.LG
Semi-Supervised Monocular Depth Estimation with Left-Right Consistency Using Deep Neural Network
从单目摄像机图像中估计场景的深度已经取得了巨大的研究进展。用于单图像深度预测的现有方法完全基于深度神经网络，并且它们的训练可以使用立体图像对进行无监督，使用LiDAR点云进行监督，或者使用立体和LiDAR进行半监督。一般来说，半监督训练是优选的，因为它不会受到监督训练的弱点的影响，这是由于相机和LiDAR视场的差异造成的，或者是由于可以从立体对恢复的差的深度精度造成的无监督训练。在本文中，我们提出了我们的研究在单图像深度预测使用半监督训练，优于国家的最先进的。我们实现了这一点，通过一个损失函数，明确利用左，右的一致性，在立体重建，这还没有被采用在以前的半监督训练。此外，我们描述了正确使用来自LiDAR的地面真实深度，可以显着减少预测误差。在流行的数据集上评估了我们的深度预测模型的性能，并通过实验结果证明了我们的半监督训练方法的每个方面的重要性。我们的深度神经网络模型已经公开。
2019-05-18 cs.AI cs.CV cs.RO
Building One-Shot Semi-supervised (BOSS) Learning up to Fully Supervised Performance
US Naval Research Laboratory（美国海军研究实验室）
使用未标记的数据达到完全监督学习的性能并且每个类仅标记一个样本对于深度学习应用来说可能是理想的。我们首次展示了在Cifar-10和SVHN上构建一次性半监督（BOSS）学习的潜力，以达到与完全监督学习相当的测试精度。我们的方法结合了类原型提炼，类平衡和自我训练。一个好的原型选择是必不可少的，我们提出了一种技术，以获得图标的例子。此外，我们证明了类平衡方法大大提高了半监督学习的准确性，使自我训练达到完全监督学习性能的水平。严格的经验评估提供了证据，证明标记大型数据集对于训练深度神经网络是不必要的。我们在https://github.com/lnsmith54/BOSS上提供了我们的代码，以便于复制和用于未来的实际应用程序。
2021-01-26 cs.CV cs.LG cs.NE
