FixMatchSeg: Fixing FixMatch for Semi-Supervised Semantic Segmentation
NepAl Applied Mathematics and Informatics Institute for research (NAAMII)（尼泊尔应用数学与信息学研究所（NAAMII））
在过去的几年里，用于语义医学图像分割的有监督深度学习方法越来越流行。然而，在资源受限的情况下，获取大量带注释的图像非常困难，因为它主要需要专家，成本高且耗时。半监督分割是一种有吸引力的解决方案，其中使用很少的标记图像以及大量未标记图像。虽然在过去的几年里，监督和半监督方法之间的差距已经大大缩小，但在分割方法方面仍然存在较大的差距。在这项工作中，我们采用了最先进的半监督分类方法FixMatch的语义分割任务，引入FixMatchSeg。FixMatchSeg在不同解剖结构和不同模态的四个不同的公开可用数据集中进行评估：心脏超声、胸部X射线、视网膜眼底图像和皮肤图像。当标签很少时，我们表明FixMatchSeg的表现与强监督基线相当。
2022-08-02 cs.CV
Semi-supervised semantic segmentation needs strong, varied perturbations
NVIDIA（英伟达公司）
一致性正则化描述了一类在半监督分类问题中取得突破性成果的方法。先前的工作已经建立了集群假设-在此假设下，数据分布由低密度区域分隔的样本的均匀类集群组成-对其成功至关重要。我们分析了语义分割的问题，发现它的分布并没有表现出低密度区域分离类，并提供这作为解释为什么半监督分割是一个具有挑战性的问题，只有少数报告的成功。然后，我们确定选择增强作为关键，以获得可靠的性能，没有这样的低密度区域。我们发现，最近提出的CutOut和CutMix增强技术的适应变体在标准数据集中产生最先进的半监督语义分割结果。此外，鉴于其具有挑战性的性质，我们建议语义分割作为一个有效的酸测试评估半监督正则化。执行网址：https://github.com/Britefury/cutmix-semisup-seg。
2020-08-11 cs.CV
Semi- and Weakly-supervised Human Pose Estimation
Toyota Technological Institute（丰田工业大学）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
针对静止图像中的人体姿态估计，本文提出了三种半监督和弱监督学习方案。虽然卷积神经网络的最新进展使用监督训练数据改进了人体姿势估计，但我们的重点是探索半监督和弱监督方案。我们提出的方案最初从少量带有人类姿势注释的标准训练图像中学习用于姿势估计的传统模型。对于第一种半监督学习方案，这种传统的姿态模型在没有人类注释的情况下检测训练图像中的候选姿态。从这些候选姿势中，只有真阳性被分类器使用表示所有身体部位的配置的姿势特征选择。这些候选姿势估计和真阳性姿势选择的准确性通过在我们的第二和第三学习方案中向这些图像提供动作标签来提高，所述第二和第三学习方案是半和弱监督学习。虽然第一和第二学习方案仅选择与监督训练数据中的姿态相似的姿态，但是第三方案选择与任何监督姿态显著不同的更真实肯定的姿态。该姿势选择通过使用具有Dirichlet过程混合物和贝叶斯因子的离群姿势检测的姿势聚类来实现。所提出的方案进行了验证与大规模的人体姿势数据集。
2019-06-04 cs.CV
SESS: Self-Ensembling Semi-Supervised 3D Object Detection
National University of Singapore（新加坡国立大学）
现有的基于点云的3D目标检测方法的性能严重依赖于大规模高质量的3D注释。然而，这样的注释往往是繁琐和昂贵的收集。半监督学习是一个很好的替代方案，以减轻数据注释问题，但在3D目标检测仍然在很大程度上未被探索。受自集成技术在半监督图像分类任务中的成功启发，我们提出了SESS，一个自集成半监督3D目标检测框架。具体来说，我们设计了一个彻底的扰动方案，以增强网络在未标记和新的未知数据上的泛化能力。此外，我们提出了三个一致性损失，以加强两组预测的3D对象建议之间的一致性，以促进学习的结构和语义不变的对象。在SUN RGB-D和ScanNet数据集上进行的大量实验证明了SESS在归纳和转换半监督3D目标检测中的有效性。与最先进的全监督方法相比，我们的SESS仅使用50%的标记数据就实现了具有竞争力的性能。我们的代码可在https://github.com/Na-Z/sess上获得。
2021-03-17 cs.CV
Colour augmentation for improved semi-supervised semantic segmentation
University of East Anglia（东英吉利大学）
一致性正则化描述了一类已经产生了最先进的半监督分类结果的方法。虽然半监督语义分割被证明是更具挑战性的，但最近已经提出了许多成功的方法。最近的工作探讨了使用一致性正则化分割问题所涉及的挑战。Chen等人在他们的自监督工作中发现，颜色增强阻止了分类网络使用图像颜色统计作为通过实例判别进行自监督学习的捷径。从中汲取灵感，我们发现类似的问题阻碍了半监督语义分割，并提供颜色增强作为解决方案，提高了半监督语义分割在具有挑战性的摄影图像上的性能。
2021-10-09 cs.CV cs.LG
Dense FixMatch: a simple semi-supervised learning method for pixel-wise prediction tasks
KTH Royal Institute of Technology（瑞典皇家理工学院）；Univrses AB（Univrses公司）
我们提出了Dense FixMatch，这是一种简单的方法，用于密集和结构化预测任务的在线半监督学习，通过强数据增强结合伪标记和一致性正则化。通过在伪标签上添加匹配操作，我们使FixMatch在图像分类之外的半监督学习问题中的应用成为可能。这使得我们仍然可以使用数据增强管道的全部功能，包括几何变换。我们评估它的半监督语义分割城市景观和Pascal VOC与不同百分比的标记数据和消融设计选择和超参数。与仅使用标记数据的监督学习相比，Dense FixMatch显著改善了结果，接近其使用1/4标记样本的性能。
2022-10-18 cs.CV cs.LG
SemiSegECG: A Multi-Dataset Benchmark for Semi-Supervised Semantic Segmentation in ECG Delineation
VUNO Inc.（VUNO公司）
本文提出SemiSegECG，首个心电图分割半监督语义分割基准，统一多数据集，评估五种算法在两种架构和两种设置下的性能，发现Transformer优于卷积网络。
2025-08-05 cs.AI cs.CV cs.LG
More unlabelled data or label more data? A study on semi-supervised laparoscopic image segmentation
University College London（伦敦大学学院）；InstaDeep（InstaDeep公司）
改进半监督图像分割任务可以选择添加更多未标记的图像，标记未标记的图像或组合两者，因为在大多数临床应用中，图像采集和专家标记都不是微不足道的。腹腔镜肝脏图像分割应用程序，我们调查的性能影响，通过改变标记和未标记的训练数据的数量，使用半监督分割算法的基础上的平均教师学习范式。我们首先报告了一个显着更高的分割精度，与监督学习相比。有趣的是，这种比较表明，除了添加的未标记数据之外，半监督算法中采用的训练策略也是这种观察到的改进的原因。然后，我们比较了不同的组合的标记和未标记的数据集大小训练半监督分割网络，提供了一个定量的例子，这两个数据规划策略之间的实际有用的权衡在这个手术指导应用。
2019-08-20 cs.CV cs.LG eess.IV
Color-$S^{4}L$: Self-supervised Semi-supervised Learning with Image Colorization
Harbin Institute of Technology（哈尔滨工业大学）
本工作提出自监督半监督学习框架Color-$S^{4}L$，通过引入图像着色代理任务，在CIFAR-10等数据集上验证了其优于以往监督与半监督方法的图像分类性能。
2024-01-08 cs.CV
Self-Supervised Learning for Semi-Supervised Temporal Action Proposal
Huazhong University of Science and Technology（华中科技大学）
自监督学习在利用未标记数据进行各种视频任务方面表现出了显著的性能。在本文中，我们专注于应用自我监督方法的力量，以提高半监督行动建议生成。特别地，我们设计了一个有效的自监督半监督时态动作建议（SSTAP）框架。SSTAP包含两个关键分支，即，时间感知半监督分支和关系感知自监督分支。半监督分支通过引入两个时间扰动来改进提议模型，即，时间特征转移和时间特征翻转，在平均教师框架。自监督分支定义了两个托词任务，包括掩蔽特征重构和裁剪顺序预测，以学习时间线索之间的关系。通过这种方式，SSTAP可以更好地探索未标记的视频，并提高学习的动作特征的区分能力。我们在THUMOS 14和ActivityNet v1.3数据集上广泛评估了所提出的SSTAP。实验结果表明，SSTAP显着优于最先进的半监督方法，甚至匹配全监督方法。代码可在https://github.com/wangxiang1230/SSTAP上获得。
2021-04-07 cs.CV
EnAET: A Self-Trained framework for Semi-Supervised and Supervised Learning with Ensemble Transformations
Purdue University（普渡大学）；University of Rochester（罗切斯特大学）；Futurewei Seattle Cloud Lab（华为西雅图云实验室）
深度神经网络已成功应用于许多现实世界的应用。然而，这样的成功在很大程度上依赖于大量的标记数据，而这些数据的获取成本很高。近年来，人们提出了许多半监督学习的方法，并取得了很好的效果。在这项研究中，我们提出了一个新的EnAET框架，以进一步改善现有的半监督方法与自我监督的信息。据我们所知，目前所有的半监督方法都通过预测一致性和置信度来提高性能。我们是第一个探索{ \bf自我监督}表示在{ \bf半监督}学习中的作用的丰富的家庭的转换。因此，我们的框架可以集成自监督信息作为正则化项，以进一步改进{ \it all}当前的半监督方法。在实验中，我们使用MixMatch，这是当前最先进的半监督学习方法，作为基线来测试所提出的EnAET框架。在不同的数据集上，我们采用相同的超参数，这大大提高了EnAET框架的泛化能力。在不同数据集上的实验结果表明，所提出的EnAET框架大大提高了现有半监督算法的性能.此外，该框架还可以大幅提高{ \bf监督学习}，包括每个类只有10张图像的极具挑战性的场景。代码和实验记录可在\url{https://github.com/maple-research-lab/EnAET}中获得。
2021-02-01 cs.CV
A Benchmark for Semi-supervised Multi-modal Crowd Counting
Harbin Institute of Technology（哈尔滨工业大学）；Pengcheng Laboratory（鹏城实验室）
本文构建了首个半监督多模态人群计数基准，通过制定标准化协议和评估多种基线方法，为该任务奠定基础。
2026-06-02 cs.CV
Adversarial Self-Supervised Learning for Semi-Supervised 3D Action Recognition
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；National University of Singapore（新加坡国立大学）
我们考虑的问题，半监督的3D动作识别，以前很少探索。它的主要挑战在于如何有效地从未标记的数据中学习运动表示。自监督学习（Self-supervised learning，SSL）是一种非常有效的学习方法。然而，对于3D动作识别，几乎没有有效的自监督方法存在，并且直接将SSL应用于半监督学习遭受从SSL和监督学习任务学习的表示的不对准。为了解决这些问题，我们提出了对抗性自监督学习（ASSL），一个新的框架，紧密耦合SSL和半监督方案通过邻居关系探索和对抗性学习。具体来说，我们设计了一个有效的SSL方案，以提高3D动作识别的学习表示的鉴别能力，通过探索一个邻域内的数据关系。我们进一步提出了对抗性正则化来对齐标记和未标记样本的特征分布。为了证明所提出的ASSL在半监督3D动作识别中的有效性，我们在NTU和N-UCLA数据集上进行了广泛的实验。结果证实了其优越的性能超过国家的最先进的半监督方法在几个标签制度的3D动作识别。
2020-07-12 cs.CV
Semi-MAE: Masked Autoencoders for Semi-supervised Vision Transformers
Meituan Inc.（美团公司）
视觉Transformer（ViT）在半监督学习（SSL）中面临数据稀缺的问题。为了缓解这个问题，受到掩码自编码器（MAE）的启发，这是一个数据高效的自监督学习器，我们提出了Semi-MAE，一个纯粹的基于ViT的SSL框架，由一个并行MAE分支组成，以帮助视觉表示学习，使伪标签更准确。MAE分支被设计为由轻量级解码器和共享权重编码器组成的非对称架构。我们将具有高掩蔽比的弱增强未标记数据馈送到MAE分支，并重建丢失的像素。Semi-MAE在ImageNet上实现了75.9%的top-1准确率，标签为10%，超过了半监督图像分类的现有技术水平。此外，大量的实验表明，半MAE可以很容易地用于其他ViT模型和掩码图像建模方法。
2023-01-04 cs.CV
Self-supervised Mean Teacher for Semi-supervised Chest X-ray Classification
University of Adelaide（阿德莱德大学）；Universidade Federal Rural de Pernambuco（伯南布哥联邦农村大学）；Universität Ulm（乌尔姆大学）；South Australian Health and Medical Research Institute（南澳大利亚健康与医学研究所）
深度学习模型的训练通常需要大量的注释数据，以实现有效的收敛和泛化。然而，获得高质量的注释是一个费力和昂贵的过程，由于需要专业的放射科医生的标签任务。医学图像分析中的半监督学习的研究是至关重要的，因为获得未标记的图像比获得由放射科专家标记的图像便宜得多。从本质上讲，半监督方法利用大量未标记的数据集来实现比仅使用少量标记图像更好的训练收敛和泛化。在本文中，我们提出了半监督（S $^2$ MTS $^2$）学习的自监督均值教师，它将自监督均值教师预训练与半监督微调相结合。S $^2$ MTS $^2$的主要创新点是基于联合对比学习的自监督平均教师预训练，它使用无限数量的正查询和关键特征对来改进平均教师表示。然后使用经过半监督学习训练的指数移动平均教师框架对模型进行微调。我们验证了S $^2$ MTS $^2$在胸部X射线14和CheXpert的多标签分类问题上的有效性，以及ISIC 2018的多类分类，我们表明它大大优于以前的SOTA半监督学习方法。
2021-11-04 cs.CV
Semi-Supervised Semantic Matching
Aalto University（阿尔托大学）
卷积神经网络（CNN）已成功地应用于解决语义相关图像之间的对应性估计问题。由于无法获得大规模的训练数据集，现有的方法采用自监督或无监督的训练范式。在本文中，我们提出了一个半监督学习框架，施加循环一致性约束的未标记的图像对。与监督损失一起，所提出的模型在基准语义匹配数据集上达到了最先进的水平。
2019-01-24 cs.CV
Semi-supervised Learning of Fetal Anatomy from Ultrasound
Imperial College London（帝国理工学院）
半监督学习方法在标准基准数据集上使用很少的标记图像取得了优异的性能。胎儿2D超声中的解剖分类是测试这些结果是否转化为非理想数据的理想问题设置。我们的研究结果表明，包含一个具有挑战性的背景类可能是有害的，半监督学习主要受益于已经不同的类，有时以牺牲更相似的类。
2019-08-30 cs.CV
Confidence-Guided Semi-supervised Learning in Land Cover Classification
Cardiff University（卡迪夫大学）
本文提出置信度引导半监督学习方法CGSSL，通过利用高置信度伪标签并引入多网络架构提升伪标签多样性，在Potsdam土地覆盖分类基准上超越经典半监督和全监督方法。
2023-05-30 cs.CV
Semi-Supervised Relational Contrastive Learning
University of California, Los Angeles（加州大学洛杉矶分校）；Stanford University（斯坦福大学）；University of Kentucky（肯塔基大学）
针对医学图像监督学习标注成本高的问题，提出结合自监督对比损失与样本关系一致性的半监督关系对比学习SRCL模型，在ISIC 2018皮肤病变数据集上验证了不同标注量下的有效性。
2023-06-13 cs.CV
Semi-Supervised Disparity Estimation with Deep Feature Reconstruction
University of Freiburg（弗莱堡大学）
尽管深度学习在差异估计方面取得了成功，但领域泛化差距仍然是一个问题。我们提出了一个半监督管道，通过对标记的合成数据进行联合监督训练和对未标记的真实数据进行自我监督训练，成功地将DispNet适应于真实世界的领域。此外，考虑到广泛使用的光度损失的局限性，我们分析了深度特征重建作为视差估计的有前途的监督信号的影响。
2021-06-01 cs.CV
Not-so-supervised: a survey of semi-supervised, multi-instance, and transfer learning in medical image analysis
Eindhoven University of Technology（埃因霍温理工大学）；Erasmus Medical Center（伊拉斯谟医学中心）；University of Copenhagen（哥本哈根大学）；University Medical Center Utrecht（乌得勒支大学医学中心）
机器学习（ML）算法在医学成像领域产生了巨大的影响。虽然医学成像数据集的规模一直在增长，但经常提到的监督ML算法面临的挑战是缺乏注释数据。因此，已经提出了可以在较少/其他类型的监督下学习的各种方法。我们回顾了医学成像中的半监督、多实例和迁移学习，无论是在诊断/检测还是分割任务中。我们还讨论了这些学习场景之间的联系，以及未来研究的机会。
2018-09-14 cs.CV
SelfPrompt: Confidence-Aware Semi-Supervised Tuning for Robust Vision-Language Model Adaptation
Queen’s University, Canada（女王大学）
本文提出SelfPrompt，一种用于视觉语言模型的半监督提示微调方法，通过聚类引导的伪标签和置信度感知学习模块解决伪标签噪声问题，并在13个数据集上显著超越现有方法。
2025-01-28 cs.CV
Analysis of Semi-Supervised Methods for Facial Expression Recognition
Queen’s University（女王大学）；Ingenuity Labs Research Institute（Ingenuity Labs研究院）
训练用于图像识别的深度神经网络通常需要大规模的人类注释数据。为了减少深度神经解决方案对标记数据的依赖，文献中已经提出了最先进的半监督方法。尽管如此，这种半监督方法的使用在面部表情识别（FER）领域中还是相当罕见的。在本文中，我们提出了一个全面的研究，最近提出的国家的最先进的半监督学习方法的背景下，FER。我们对八种半监督学习方法进行了比较研究，即Pi模型，伪标签，平均教师，增值税，混合匹配，ReMixMatch，UDA和FixMatch，在三个FER数据集（FER 13，RAF-DB和AffectNet）上，当使用不同数量的标记样本时。我们还比较了这些方法与完全监督训练的性能。我们的研究表明，当训练现有的半监督方法时，每个类只有250个标记样本，可以产生与在完整标记数据集上训练的全监督方法相当的性能。为了方便在这一领域的进一步研究，我们将我们的代码公开在：https://github.com/ShuvenduRoy/SSL_FER
2022-07-31 cs.CV
UniMoCo: Unsupervised, Semi-Supervised and Full-Supervised Visual Representation Learning
Tencent Wechat AI（腾讯微信AI）；South China University of Technology（华南理工大学）
动量对比度（MoCo）在无监督视觉表示方面取得了巨大的成功。然而，有很多监督和半监督数据集已经被标记。为了充分利用标签注释，我们提出了统一动量对比（UniMoCo），它扩展了MoCo以支持任意比例的标记数据和未标记数据训练。与MoCo相比，UniMoCo有以下两个改进：（1）与MoCo中的单个正对不同，我们通过将查询标签与标签队列进行比较来动态维护多个正对。(2)我们提出了一个统一的对比（UniCon）损失，以支持任意数量的积极和消极的统一成对优化的角度。我们的UniCon算法在理论和实践上都比监督对比损失算法更加合理和有效。在我们的实验中，我们使用不同比例的ImageNet标签预训练多个UniMoCo模型，并评估各种下游任务的性能。实验结果表明，UniMoCo对无监督、半监督和有监督的视觉表示学习都有很好的泛化能力。
2021-03-19 cs.CV
Semi-supervised learning via Feedforward-Designed Convolutional Neural Networks
University of Southern California（南加州大学）
提出了一种基于前馈设计的卷积神经网络（FF-CNN）的半监督学习框架用于图像分类。FF-CNN的一个独特特性是在模型参数确定中不使用反向传播。由于未标记数据可能并不总是增强半监督学习，我们定义了一个有效的质量分数，并使用它来选择一个子集的未标记数据在训练过程中。我们在MNIST、SVHN和CIFAR-10数据集上进行了实验，结果表明，当标记数据量减少时，所提出的半监督FF-CNN解决方案的性能优于反向传播训练的CNN（BP-CNN）。此外，我们开发了一个集成系统，该系统结合了不同半监督FF-CNN的输出决策向量，以提高分类精度。集成系统可以在所有三个基准数据集上实现进一步的性能增益。
2019-02-06 cs.CV
Revisiting Deep Semi-supervised Learning: An Empirical Distribution Alignment Framework and Its Generalization Bound
The University of Sydney（悉尼大学）；Swiss Federal Institute of Technology in Zürich（苏黎世联邦理工学院）；University of Electronic Science and Technology of China（电子科技大学）
在这项工作中，我们重新审视半监督学习（SSL）的问题，从一个新的角度明确减少标记和未标记的样本之间的经验分布不匹配。受益于这种新的视角，我们首先提出了一种新的深度半监督学习框架，称为经验分布对齐（SLEDA）的半监督学习，其中来自领域自适应社区的现有技术可以很容易地用于通过减少标记和未标记数据之间的经验分布距离来解决半监督学习问题。在此基础上，我们提出了一种新的理论推广方法，通过最小化标记数据的训练误差和标记数据与未标记数据之间的经验分布距离，可以有效地约束半监督学习的泛化误差，从而更好地理解半监督学习问题.基于我们的新框架和理论界限，我们开发了一种简单有效的深度半监督学习方法，称为增强分布对齐网络（ADA-Net），同时采用领域自适应社区的成熟对抗训练策略和简单的样本插值策略进行数据增强。此外，我们将这两种策略在我们的ADA-Net到两个现有的SSL方法，以进一步提高其泛化能力，这表明我们的新框架提供了一个互补的解决方案，解决SSL问题。我们在两个基准数据集SVHN和CIFAR-10上进行的半监督图像识别任务以及另外两个基准数据集ModelNet 40和ShapeNet 55上进行的半监督点云识别任务的综合实验结果证明了我们提出的SSL框架的有效性。
2022-03-13 cs.CV
A Studious Approach to Semi-Supervised Learning
Manipal Institute of Technology（马尼帕尔理工学院）
在使用大量未标记数据的情况下，从少量标记样本中学习的问题已经通过各种半监督方法来解决。虽然这些方法可以实现卓越的性能，但由于大量的参数，模型通常是不可部署的。本文是半监督环境中蒸馏的消融研究，它不仅减少了模型的参数数量，而且可以实现这一目标，同时提高了基线监督模型的性能，并使其更好地概括。在监督预训练之后，网络被用作教师模型，学生网络在教师模型在整个未标记数据上生成的软标签上进行训练。我们发现，标签越少，这种方法从更小的学生网络中受益越多。这带来了蒸馏作为一种有效的解决方案，以提高半监督计算机视觉任务的性能，同时保持可部署性的潜力。
2021-09-18 cs.CV
Semi-supervised Contrastive Learning with Similarity Co-calibration
Shanghai Jiao Tong University（上海交通大学）；Huawei Inc.（华为公司）
半监督学习是利用大量未标记数据的有效方法。在本文中，我们提出了一种新的训练策略，称为半监督对比学习（SsCL），它结合了著名的对比损失在自监督学习和交叉熵损失在半监督学习，并联合优化这两个目标在一个端到端的方式。与基于自训练的半监督学习对相同模型权值进行预测和再训练不同，SsCL在两个分支之间交换了对未标记数据的预测，从而制定了一个协同校准过程，我们发现这有利于更好地预测并避免陷入局部最小值。为了实现这个目标，对比损失分支使用从交叉熵分支生成的最近邻域对样本之间的成对相似性进行建模，并且进而用对比相似性校准交叉熵分支的预测分布。我们表明，SsCL产生更多的歧视性表示，是有益的少样本学习。值得注意的是，在以ResNet 50为主干的ImageNet上，SsCL分别在1%和10%的标记样本中实现了60.2%和72.1%的top-1准确率，显著优于基线，并且优于以前的半监督和自监督方法。
2021-05-16 cs.CV
Hyperspectral Unmixing with Endmember Variability using Semi-supervised Partial Membership Latent Dirichlet Allocation
University of Florida（佛罗里达大学）；University of Missouri（密苏里大学）
提出了一种半监督的部分隶属度潜在狄利克雷分配方法，用于高光谱混合分解和端元估计，同时考虑了光谱变异性和空间信息。部分隶属度潜在狄利克雷分配是一种有效的光谱分解方法，同时表示光谱变异性和利用空间信息。在这项工作中，我们扩展了部分成员潜在狄利克雷分配，将任何可用的（不精确的）标签信息，以帮助指导解混。在两个高光谱数据集上的实验结果表明，所提出的半监督PM-LDA可以得到更好的高光谱解混和端元估计结果。
2017-03-17 cs.CV
Semi-supervised dictionary learning with graph regularization and active points
Institut LIST, CEA（法国原子能与替代能源委员会 LIST 研究所）；Université Paris-Saclay（巴黎-萨克雷大学）；Astrophysics Department, CEA（法国原子能与替代能源委员会天体物理部）
监督字典学习在近十年来获得了很大的兴趣，并在图像分类中表现出显着的性能改善。然而，一般来说，监督学习需要每个类大量的标记样本来实现可接受的结果。为了处理每类只有少量标记样本的数据库，使用了半监督学习，该学习在训练阶段也利用了未标记样本。事实上，未标记的样本可以帮助正则化学习模型，从而提高分类精度。本文提出了一种新的基于两个支柱的半监督字典学习方法：一方面，我们使用局部线性嵌入将原始数据的流形结构保持到稀疏代码空间中，这可以被认为是稀疏代码的正则化;另一方面，我们在稀疏代码空间中训练半监督分类器。我们表明，我们的方法提供了一个最先进的半监督字典学习方法的改进。
2020-09-13 cs.CV
Semi-supervised learning made simple with self-supervised clustering
University of Trento（特伦托大学）；Inria（法国国家信息与自动化研究所）；SAP AI Research（SAP人工智能研究院）；Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）
本研究提出一种将基于聚类的自监督方法转化为半监督学习器的简易多任务框架，融合监督与自监督目标，在CIFAR100和ImageNet上取得了最优性能。
2023-06-13 cs.CV
Semi-supervised Learning: Fusion of Self-supervised, Supervised Learning, and Multimodal Cues for Tactical Driver Behavior Detection
Honda Research Institute, USA（美国本田研究院）
在本文中，我们提出了一个初步的研究，从未经修剪的自然驾驶记录的战术驾驶员行为检测。虽然基于监督学习的检测是一种常见的方法，但当标记数据稀缺时，它会受到影响。手动注释既耗时又昂贵。为了强调这个问题，我们在一个104小时的真实自然驾驶数据集上进行了实验，其中标注了一组预定义的驾驶行为。数据集中有三个挑战。首先，预定义的驾驶行为在自然驾驶环境中是稀疏的。第二，驾驶行为的分布是长尾的。第三，观察到巨大的类内变化。为了解决这些问题，最近的自我监督和监督学习和融合的多模态线索利用到我们的架构设计。初步的实验和讨论报告。
2018-07-02 cs.CV
Semi-supervised Learning with Adaptive Neighborhood Graph Propagation Network
Anhui University（安徽大学）
图卷积网络（GCN）已被广泛研究用于紧凑数据表示和半监督学习任务。然而，现有的GCN通常使用固定的邻域图，这不能保证对于半监督学习任务是最优的。本文首先将GCN中的图卷积运算重新解释为特征传播和（非线性）变换的组合。在此基础上，我们提出了一个统一的自适应邻域特征传播模型，并推导出一个新的自适应邻域图传播网络（ANGPN）的数据表示和半监督学习。ANGPN的目标是在统一的公式中同时协作地进行图构造和图卷积，从而可以学习最适合于数据表示和半监督学习的图卷积的最佳邻域图。ANGPN的一个主要好处是，学习的（卷积）表示可以提供有用的弱监督信息，用于构建更好的邻域图，同时便于数据表示和学习。在四个基准数据集上的实验结果证明了所提出的ANGPN的有效性和优势。
2019-11-21 cs.CV
Iterative Contrast-Classify For Semi-supervised Temporal Action Segmentation
National University of Singapore（新加坡国立大学）
时间动作分割是对长视频序列中每一帧的动作进行分类。由于逐帧标记的成本很高，我们提出了第一个半监督的时间动作分割方法。我们的方法取决于无监督的表示学习，这对于时间动作分割来说是一个独特的挑战。未修剪视频中的动作长度各不相同，并且具有未知的标签和开始/结束时间。跨视频的动作的顺序也可能不同。我们提出了一种新的方法来学习从时间卷积网络（TCN）的逐帧表示通过聚类输入功能添加时间接近条件和多分辨率相似性。通过将表示学习与传统的监督学习相结合，我们提出了一种“迭代-对比-分类（ICC）”的半监督学习方案。随着更多的标记数据，ICC的性能逐渐提高; ICC半监督学习，40%的标记视频，表现类似于完全监督的同行。对于100%标记的视频，我们的ICC在早餐、50份沙拉和GTEA上分别将MoF提高{+1.8，+5.6，+2.5}%。
2021-12-08 cs.CV
Comment on "Ensemble Projection for Semi-supervised Image Classification"
在Dai及其同事的一系列论文[1，2]中，为半监督和无监督学习引入了特征映射（或内核）。该特征图是从在不使用地面真实类标签的情况下训练的分类器集合的输出构建的。在这篇评论中，我们分析了这一系列论文的最新版本，即所谓的包围投影[2]。我们证明了[2]中报道的结果没有很好地进行，并且包围投影对于半监督学习表现不佳。
2014-08-29 cs.CV
Iterative Self-Learning: Semi-Supervised Improvement to Dataset Volumes and Model Accuracy
Kingston University（金斯顿大学）
介绍了一种新的半监督学习技术的基础上，一个简单的迭代学习周期，学习阈值技术和集成决策支持系统。通过在训练深度学习的分类模型时使用未标记的数据，展示了最先进的模型性能和增加的训练数据量。在评估半监督学习技术以及一些更具挑战性的图像分类数据集（CIFAR-100和ImageNet的200类子集）时，对常用数据集进行了评估。
2019-06-06 cs.CV
Graph Laplacian Regularized Graph Convolutional Networks for Semi-supervised Learning
School of Computer Science and Technology（计算机科学与技术学院）；Anhui University（安徽大学）
最近，图卷积网络（GCN）已被广泛用于图结构数据的半监督分类和深度特征表示。然而，现有的GCN在学习和表示过程中通常没有考虑局部不变性约束。也就是说，如果两个数据点Xi和Xj在数据分布的固有几何结构中接近，则它们的标签/表示也应该彼此接近。局部不变性假设在机器学习领域的降维、半监督学习等传统算法的发展中起着至关重要的作用。为了克服这一限制，我们引入了一个图拉普拉斯GCN（gLGCN）的方法图数据表示和半监督分类。所提出的gLGCN模型能够将图结构和节点特征编码在一起，同时自然地保持局部不变性约束，以实现鲁棒的数据表示和半监督分类。实验结果表明了gLGCN网络的优点。
2018-09-26 cs.CV
Barely-Supervised Learning: Semi-Supervised Learning with very few labeled images
Naver Labs Europe（Naver实验室欧洲）
本文解决的问题，半监督学习时，一组标记的样本是有限的，每个类的图像数量很少，通常小于10，我们称之为勉强监督学习的问题。我们深入分析了最先进的半监督方法FixMatch的行为，该方法依赖于图像的弱增强版本来获得更强增强版本的监督信号。我们表明，它经常在几乎没有监督的情况下失败，由于缺乏训练信号时，没有伪标签可以预测具有高置信度。我们提出了一种利用自监督方法的方法，该方法在缺乏自信伪标签的情况下提供训练信号。然后，我们提出了两种方法来完善的伪标签选择过程，导致进一步的改进。第一个依赖于模型预测的每个样本历史，类似于投票方案。第二个迭代更新类相关的置信度阈值，以更好地探索在伪标签中表示不足的类。我们的实验表明，我们的方法在几乎没有监督的情况下在STL-10上表现得更好，例如，每个类有4或8个标记的图像。
2021-12-22 cs.CV
Small Data Challenges in Big Data Era: A Survey of Recent Progress on Unsupervised and Semi-Supervised Methods
Futurewei Technologies（未来技术公司）；University of Rochester（罗切斯特大学）
由于深度神经网络的成功通常依赖于大量的标记数据的可用性，因此使用小标记数据的表示学习已经出现了许多问题。为了解决这个问题，已经在无监督和半监督方式下使用少量标记数据训练复杂模型。本文将对这两大类方法的最新进展进行综述。一个广泛的模型将被归类在一个大的图片，在那里我们将展示他们如何相互作用，以激发新的想法的探索。我们将回顾学习变换等变、解纠缠、自监督和半监督表示的原理，所有这些都是最近进展的基础。许多无监督和半监督生成模型的实现都是在这些标准的基础上开发的，通过探索未标记数据的分布以获得更强大的表示，极大地扩展了现有自编码器、生成对抗网络（GANs）和其他深度网络的领域。我们将通过揭示无监督学习和半监督学习之间的内在联系来讨论新出现的主题，并提出未来的方向，以弥合无监督学习的变换等变性和监督学习的监督不变性之间的算法和理论差距，并统一无监督预训练和监督微调。我们还将对未来的方向提供更广阔的前景，以统一表示学习的变换和实例等方差，连接无监督和半监督增强，并探索自监督正则化在许多学习问题中的作用。
2021-01-02 cs.CV
Semi-supervised Hashing for Semi-Paired Cross-View Retrieval
Jiangnan University（江南大学）；University of Surry（萨里大学）
最近，散列技术在大规模检索任务中获得了重要性，因为它们的检索速度。大多数现有的交叉视图框架都假设数据是良好配对的。然而，完全配对的多视图情况在实际应用中并不普遍。本文提出的方法的目的是学习半成对跨视图检索任务的哈希函数。为了利用部分数据的标签信息，我们提出了一个半监督哈希学习框架，联合执行特征提取和分类器学习。两个数据集上的实验结果表明，我们的方法优于几个国家的最先进的方法在检索精度。
2018-06-19 cs.CV
Self-supervised Learning for Semi-supervised Temporal Language Grounding
Shanghai Key Lab of Intelligent Information Processing, School of Computer Science, Fudan University（复旦大学计算机科学技术学院上海市智能信息处理重点实验室）
给定文本描述，时间语言基础（TLG）的目的是本地化的片段，包含指定的语义在一个未修剪的视频的时间边界。TLG本质上是一项具有挑战性的任务，因为它需要全面理解句子语义和视频内容。以前的作品要么在需要大量时间注释的完全监督设置中处理此任务，要么在通常无法实现令人满意的性能的弱监督设置中处理此任务。由于人工标注的成本很高，为了处理有限的标注，我们通过引入自监督学习以半监督的方式处理TLG，并提出了自监督半监督时态语言基础（S^4TLG）。S^4TLG由两部分组成：（1）伪标签生成模块，基于教师模型的预测自适应地为未标记的样本生成即时伪标签;（2）具有模态间和模态内对比损失的自监督特征学习模块，以在视频内容一致性和视频-文本对齐的约束下学习视频特征表示。我们在ActivityNet-CD-OOD和Charades-CD-OOD数据集上进行了广泛的实验。结果表明，我们提出的S^4TLG可以实现有竞争力的性能相比，完全监督的国家的最先进的方法，而只需要一小部分的时间注释。
2021-12-06 cs.CV
SemiTooth: a Generalizable Semi-supervised Framework for Multi-Source Tooth Segmentation
本文提出SemiTooth框架，通过多教师多学生结构和更严格的加权置信度约束，实现多源牙齿分割的高精度与高效性。
2026-03-12 cs.CV
Semi-Supervised Vision Transformers
Fudan University（复旦大学）；Meta AI；Baidu Apollo（百度阿波罗）
研究了用于半监督图像分类的视觉Transformer的训练问题。Transformers最近在众多的监督学习任务中表现出令人印象深刻的性能。令人惊讶的是，当只有一小部分标记数据可用时，我们发现视觉Transformer的性能明显低于卷积神经网络。受此观察的启发，我们引入了一个联合半监督学习框架Semiformer，它包含一个Transformer流，一个卷积流和一个精心设计的融合模块，用于这些流之间的知识共享。卷积流在有限的标记数据上训练，并进一步用于生成伪标记以监督Transformer流在未标记数据上的训练。在ImageNet上进行的大量实验表明，Semiformer实现了75.5%的top-1准确率，明显优于最先进的技术。此外，我们还展示了Semiformer是一个通用框架，与大多数现代Transformer和卷积神经架构兼容。代码可在https://github.com/wengzejia1/Semiformer上获得。
2022-07-17 cs.CV
S4L: Self-Supervised Semi-Supervised Learning
Google Research（谷歌研究院）
这项工作解决了图像分类器的半监督学习问题。我们的主要观点是，半监督学习领域可以受益于快速发展的自监督视觉表示学习领域。结合这两种方法，我们提出了自监督半监督学习的框架，并使用它来获得两个新的半监督图像分类方法。我们证明了这些方法的有效性相比，精心调整的基线，和现有的半监督学习方法。然后，我们证明了我们的方法和现有的半监督方法可以联合训练，在半监督ILSVRC-2012上产生了一个新的最先进的结果，标签数为10%。
2019-07-23 cs.CV cs.LG
Vehicle Trajectory Prediction by Transfer Learning of Semi-Supervised Models
Columbia University（哥伦比亚大学）
在这项工作中，我们表明，用于车辆轨迹预测的半监督模型显着提高了最先进的现实世界基准上的监督模型的性能。从监督模型到半监督模型允许通过使用未标记数据进行扩展，将预训练中的图像数量从数百万增加到10亿。我们进行消融研究，比较半监督和监督模型的迁移学习，同时保持所有其他因素相同。在半监督模型中，我们比较了对比学习与师生方法，以及预测少量轨迹的网络与预测大轨迹集上概率的网络。我们的结果使用低级别和中级表示的驾驶环境证明了半监督方法的适用性，为现实世界的车辆轨迹预测。
2020-10-10 cs.CV cs.LG
Semi-supervised Learning with Robust Loss in Brain Segmentation
University of Southern California（南加州大学）
在这项工作中，我们使用半监督学习方法来训练深度学习模型，可以分割大脑MRI图像。半监督模型使用较少的标记数据，并且性能与全标记数据的监督模型竞争。该框架可以降低标记MRI图像的成本。我们还引入了鲁棒损失来减少半监督学习中产生的不准确标签的噪声影响。
2022-12-03 cs.CV eess.IV
SelfMatch: Combining Contrastive Self-Supervision and Consistency for Semi-Supervised Learning
Samsung SDS（三星数据系统）
本文介绍了SelfMatch，一种结合对比自监督学习和一致性正则化的半监督学习方法。SelfMatch包括两个阶段：（1）基于对比学习的自监督预训练和（2）基于增强一致性正则化的半监督微调。我们通过经验证明，SelfMatch在标准基准数据集（如CIFAR-10和SVHN）上实现了最先进的结果。例如，对于包含40个标记示例的CIFAR-10，SelfMatch实现了93.19%的准确率，优于MixMatch（52.46%），UDA（70.95%），ReMixMatch（80.9%）和FixMatch（86.19%）等强大的先前方法。我们注意到，SelfMatch可以缩小监督学习（95.87%）和半监督学习（93.19%）之间的差距，因为每个类只使用几个标签。
2021-01-16 cs.CV cs.LG
Semi-Supervised Learning with Mutual Distillation for Monocular Depth Estimation
Korea University（高丽大学）
我们提出了一个半监督学习框架的单目深度估计。与现有的半监督学习方法相比，该方法继承了稀疏监督和无监督损失函数的局限性，通过为每个损失建立两个独立的网络分支，并通过相互蒸馏损失函数来实现两个损失函数的优势互补。我们还提出了应用不同的数据增强到每个分支，这提高了鲁棒性。我们进行实验，以证明我们的框架在最新方法的有效性，并提供广泛的消融研究。
2022-03-18 cs.CV cs.RO
S5CL: Unifying Fully-Supervised, Self-Supervised, and Semi-Supervised Learning Through Hierarchical Contrastive Learning
Technical University Munich（慕尼黑工业大学）；Helmholtz AI（亥姆霍兹人工智能研究院）
在计算病理学中，我们经常面临着缺乏注释和大量未标记数据的问题。处理这种情况的一种方法是半监督学习，它通常分为自我监督的借口任务和随后的模型微调。在这里，我们通过引入S5 CL将这两个阶段的训练压缩为一个，S5 CL是一个用于全监督、自监督和半监督学习的统一框架。通过为标记图像、未标记图像和伪标记图像定义三种对比度损失，S5 CL可以学习反映距离关系层次的特征表示：相似图像和增强嵌入最接近，其次是同一类的不同外观图像，而来自不同类的图像具有最大的距离。此外，S5 CL允许我们灵活地组合这些损失，以适应不同的场景。在两个公共组织病理学数据集上对我们的框架进行的评估显示，在稀疏标签的情况下，我们的框架有了很大的改进：对于H& E染色的结直肠癌数据集，与监督交叉熵损失相比，准确度提高了9%;对于来自白血病患者血涂片的单个白细胞的高度不平衡数据集，F1分数提高了6%。
2022-03-14 cs.CV stat.ML
Semi-supervised learning for joint SAR and multispectral land cover classification
Politecnico di Torino（都灵理工大学）
半监督学习技术由于其构建有效模型的能力而越来越受欢迎，即使在标记数据稀缺的情况下也是如此。在本文中，我们提出了一个框架和具体任务的自我监督预训练的\textit{multichannel}模型，如多光谱和合成孔径雷达图像的融合。我们表明，所提出的自监督方法在学习与土地覆盖分类标签相关的特征方面非常有效。这是通过预训练任务的明确设计实现的，该任务促进弥合感测模态和利用输入的光谱特性之间的差距。在半监督设置中，当有限的标签可用时，使用所提出的自监督预训练，然后使用SAR和多光谱数据对土地覆盖分类进行监督微调，优于传统方法，如纯监督学习，ImageNet训练初始化和其他最近的自监督方法。
2022-07-28 cs.CV eess.IV
Hypernetworks for Continual Semi-Supervised Learning
IIT Kanpur（印度理工学院坎普尔分校）；Duke University（杜克大学）
从顺序到达的数据中学习，可能在非独立同分布中。随着时间的推移不断变化的任务分配称为持续学习。到目前为止，持续学习的大部分工作都集中在监督学习和无监督学习上。在许多领域中，每个任务都包含标记（通常很少）和未标记（通常很多）的训练样本，这需要半监督学习方法。为了在持续学习环境中解决这个问题，我们提出了一个半监督持续学习的框架，称为连续半监督学习的元巩固（MCSSL）。我们的框架有一个超网络，它学习元分布，生成半监督辅助分类器生成对抗网络$(\textit{Semi-ACGAN})$的权重作为基础网络。我们在超网络中巩固顺序任务的知识，基础网络学习半监督学习任务。此外，我们提出了$\textit{Semi-Split CIFAR-10}$，一个新的基准连续半监督学习，通过修改$\textit{Split CIFAR-10}$数据集，其中的任务与标记和未标记的数据顺序到达。我们提出的模型在连续半监督学习设置中产生了显着的改进。我们比较了几种现有的持续学习方法的性能，提出了持续半监督学习基准的半分裂CIFAR-10数据集。
2021-10-05 cs.CV cs.LG stat.ML
Self-semi-supervised Learning to Learn from NoisyLabeled Data
New York University（纽约大学）
当今深度神经网络的巨大成功高度依赖于大量正确标记的数据。然而，获得高质量的人类标记数据的成本相当高，导致对噪声标签鲁棒的训练模型的研究领域非常活跃。为了实现这一目标，一方面，许多论文致力于区分噪声标签和干净标签，以提高DNN的泛化能力。另一方面，越来越流行的自半监督学习方法已被证明有利于标签不完整时的任务。通过“semi”，我们将检测到的错误标记数据视为未标记数据;通过“self”，我们选择一种自监督技术进行半监督学习。在这个项目中，我们设计了一些方法来更准确地区分干净和有噪声的标签，并借用自半监督学习的智慧来训练有噪声的标签数据。
2020-11-03 cs.CV cs.LG
EC-GAN: Low-Sample Classification using Semi-Supervised Algorithms and GANs
Saratoga High School（萨拉托加高中）
半监督学习已经获得关注，因为它允许执行图像分析任务，例如使用有限的标记数据进行分类。使用生成对抗网络（GANs）进行半监督分类的一些流行算法共享用于分类和区分的单个架构。然而，这可能需要模型为每个任务收敛到单独的数据分布，这可能会降低整体性能。虽然半监督学习已经取得了进展，但小规模的全监督任务却很少得到解决，即使是未标记的数据也无法获得。因此，我们提出了一种新的GAN模型，即外部分类器GAN（EC-GAN），它利用GANs和半监督算法来改善全监督机制中的分类。我们的方法利用GAN来生成用于补充监督分类的人工数据。更具体地说，我们将外部分类器（因此命名为EC-GAN）附加到GAN的生成器，而不是与GAN共享架构。我们的实验表明，EC-GAN的性能与共享架构方法相当，远优于标准的数据增强和基于正则化的方法，并且在小的真实数据集上有效。
2021-06-21 cs.CV cs.LG
Scaling Up Semi-supervised Learning with Unconstrained Unlabelled Data
Queen’s University（女王大学）
本文提出UnMixMatch半监督学习框架，通过强增强有监督学习、对比一致性正则化和自监督损失三个组件，有效利用无约束无标签数据，在4个数据集上实现4.79%的性能提升。
2024-01-13 cs.CV cs.LG
