Dense FixMatch: a simple semi-supervised learning method for pixel-wise prediction tasks
KTH Royal Institute of Technology（瑞典皇家理工学院）；Univrses AB（Univrses公司）
我们提出了Dense FixMatch，这是一种简单的方法，用于密集和结构化预测任务的在线半监督学习，通过强数据增强结合伪标记和一致性正则化。通过在伪标签上添加匹配操作，我们使FixMatch在图像分类之外的半监督学习问题中的应用成为可能。这使得我们仍然可以使用数据增强管道的全部功能，包括几何变换。我们评估它的半监督语义分割城市景观和Pascal VOC与不同百分比的标记数据和消融设计选择和超参数。与仅使用标记数据的监督学习相比，Dense FixMatch显著改善了结果，接近其使用1/4标记样本的性能。
2022-10-18 cs.CV cs.LG
Wearable-based behaviour interpolation for semi-supervised human activity recognition
Durham University（杜伦大学）；Newcastle University（纽卡斯尔大学）；Tencent YouTu Lab（腾讯优图实验室）；Chinese Academy of Sciences R&D Center for Internet of Things（中国科学院物联网研究发展中心）
提出深度半监督HAR方法MixHAR，通过线性插值混合标记与未标记数据，并设计校准机制解决活动入侵问题，显著提升识别性能。
2024-05-24 cs.CV
SelfDRSC++: Self-Supervised Dual Reversed Rolling Shutter Correction via Video Interpolation
Singapore Management University（新加坡管理大学）；Tianjin University（天津大学）；Harbin Institute of Technology（哈尔滨工业大学）；Southeast University（东南大学）
本研究针对卷帘快门动态畸变问题，提出自监督框架SelfDRSC++，通过轻量网络与物理约束循环策略实现单阶段训练，在合成及真实数据上取得良好校正效果，生成高时间一致性的全局快门序列。
2026-08-14 cs.CV
STint: Self-supervised Temporal Interpolation for Geospatial Data
University of Colorado Boulder（科罗拉多大学博尔德分校）；National Renewable Energy Laboratory（美国国家可再生能源实验室）；INRIA Paris（法国国家信息与自动化研究所巴黎中心）
针对地理空间数据时间插值依赖光流的问题，提出无监督自监督双循环一致性方法STint，无需光流或真值，实验表明显著优于现有方法。
2023-08-31 cs.CV eess.IV
EVDI++: Event-based Video Deblurring and Interpolation via Self-Supervised Learning
School of Electronic Information, Wuhan University（武汉大学电子信息学院）；Peng Cheng Laboratory（鹏城实验室）；Computer Graphics Lab of ETH Zurich（苏黎世联邦理工学院计算机图形实验室）；School of Artificial Intelligence, Wuhan University（武汉大学人工智能学院）
EVDI++提出统一自监督框架，利用事件相机高时间分辨率，通过可学习双重积分网络与融合策略，实现视频去模糊与插值，在合成及真实数据集上达到最先进性能。
2025-09-10 cs.CV
Enhanced Low-resolution LiDAR-Camera Calibration Via Depth Interpolation and Supervised Contrastive Learning
Arizona State University（亚利桑那州立大学）；U.S. Army DEVCOM Research Laboratory（美国陆军作战能力发展司令部研究实验室）；U.S. Army DEVCOM C5ISR Center（美国陆军作战能力发展司令部指挥、控制、通信、计算机、网络、情报、监视与侦察中心）
受低分辨率激光雷达应用日益广泛的影响，本文针对低分辨率激光雷达相机标定问题展开研究。主要的挑战有两个方面：点云中的稀疏性和噪声。为了解决这个问题，我们建议应用深度插值来增加点密度，并使用监督式对比学习来学习抗噪特征。在RELLIS-3D上的实验表明，该方法在32通道LiDAR点云数据上的平均绝对旋转/平移误差为0.15 cm/0.33 \textdegree，明显优于所有参考方法。
2022-11-08 cs.CV cs.MM
Video Shadow Detection via Spatio-Temporal Interpolation Consistency Training
Hunan Normal University（湖南师范大学）；Meta Reality Labs（Meta现实实验室）；Wuhan University（武汉大学）；Lakehead University（湖首大学）；Vector Institute for Artificial Intelligence（矢量人工智能研究所）
对大规模数据集进行注释是有监督视频阴影检测方法的一个挑战。将在标记图像上训练的模型直接用于视频帧可能导致高泛化误差和时间不一致的结果。在本文中，我们通过提出时空插值一致性训练（STICT）框架来解决这些挑战，以合理地将未标记的视频帧与标记的图像一起送入图像阴影检测网络训练。具体来说，我们提出了空间和时间的ICT，其中我们定义了两个新的插值方案，\textit{i.e.}，空间内插和时间内插。然后，我们推导出相应的空间和时间插值一致性约束，以提高泛化的像素分类任务和鼓励时间一致的预测，分别。此外，我们还设计了一个用于图像中多尺度阴影知识学习的尺度感知网络，并提出了一个尺度一致性约束，以最小化不同尺度下预测结果之间的差异。我们提出的方法在ViSha数据集和自注释数据集上进行了广泛的验证。实验结果表明，即使没有视频标签，我们的方法是优于大多数国家的最先进的监督，半监督或无监督的图像/视频阴影检测方法和其他方法在相关的任务。代码和数据集可在\url{https://github.com/yihong-97/STICT}获得。
2022-06-17 cs.CV
Learning to Plan via Supervised Contrastive Learning and Strategic Interpolation: A Chess Case Study
Baylor University（贝勒大学）
本文提出用监督对比学习训练Transformer编码器，将国际象棋局面嵌入评估结构化的潜在空间，并证明可在该空间内直接进行着法选择，仅用6层束搜索即达到2593 Elo，展示了潜在规划替代传统搜索的可行性。
2025-06-05 cs.CV
Interpolation-based Contrastive Learning for Few-Label Semi-Supervised Learning
半监督学习（Semi-supervised learning，SSL）一直被证明是一种有效的技术来构建具有有限标签的强大模型。在现有的文献中，基于一致性正则化的方法，它迫使扰动样本具有与原始样本相似的预测，其有前途的精度受到了广泛的关注。然而，我们观察到，当标签变得非常有限时，这种方法的性能急剧下降，例如，每个类别2或3个标签。通过实证研究发现，数据增强过程中语义信息的漂移是主要问题。当提供足够的监督时，问题可以得到缓解。然而，当几乎没有指导时，不正确的正则化会误导网络并破坏算法的性能。针对这一问题，提出了一种基于插值的方法来构造更可靠的正样本对;设计了一种新的对比度损失来引导学习网络的嵌入在样本之间线性变化，从而通过扩大裕度决策边界来提高网络的判别能力。由于没有引入破坏性的正则化，我们提出的算法的性能大大提高。具体而言，该算法优于第二最好的算法（Comatch）5.3%，实现88.73%的分类准确率时，只有两个标签可用于CIFAR-10数据集上的每个类。此外，我们进一步证明了所提出的方法的通用性，通过提高现有的国家的最先进的算法的性能与我们提出的策略。
2022-06-22 cs.CV
Detecting Outliers with Poisson Image Interpolation
Imperial College London（帝国理工学院）；King’s College London（伦敦国王学院）；Friedrich–Alexander University Erlangen–Nürnberg（埃尔朗根-纽伦堡弗里德里希-亚历山大大学）
对每一种可能的病理进行监督学习对于许多初级保健应用（如健康筛查）来说是不现实的。图像异常检测方法，学习正常的外观，只有健康的数据，最近显示出可喜的成果。我们提出了一种基于图像重建和基于图像嵌入的方法的替代方案，并提出了一种新的自监督方法来解决病理异常检测。我们的方法起源于外国补丁插值（FPI）的策略，已表现出优越的性能，对脑MRI和腹部CT数据。我们建议使用一个更好的补丁插值策略，泊松图像插值（PII），这使得我们的方法适用于具有挑战性的数据制度的应用程序。PII在替代任务（如在胸部X光检查中识别常见肺部异常或在产前胎儿心脏超声图像中识别左心发育不良综合征）上的测试结果优于最先进的方法。代码可在https://github.com/jemtan/PII获得。
2021-07-06 cs.CV
Matrix Completion-Informed Deep Unfolded Equilibrium Models for Self-Supervised k-Space Interpolation in MRI
Inner Mongolia University（内蒙古大学）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
针对加速MRI缺乏全采样标签的问题，提出融合k空间低秩结构与非扩张不动点约束的自监督深度展开均衡模型，可借矩阵补全理论重建缺失数据，性能接近监督方法。
2023-09-24 cs.CV eess.IV
Self-supervised Learning of Event-guided Video Frame Interpolation for Rolling Shutter Frames
AI Thrust, HKUST(GZ)（香港科技大学（广州）人工智能方向）；school of software Shandong University（山东大学软件学院）；School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore（新加坡南洋理工大学电子与电气工程学院）
本文提出一种结合事件相机与卷帘快门相机的自监督框架，利用位移场恢复无畸变全局快门高帧率视频，实现32倍插帧、降低94%带宽并达到每帧16毫秒。
2025-06-03 cs.CV cs.RO
An Embarrassingly Simple Consistency Regularization Method for Semi-Supervised Medical Image Segmentation
Jadavpur University（贾达布尔大学）
像素级标注的缺乏是医学图像分割任务中普遍存在的问题。在本文中，我们介绍了一种新的正则化策略，涉及基于插值的混合半监督医学图像分割。该方法是一种新的一致性正则化策略，鼓励两个未标记数据的插值分割与这些数据的分割图的插值一致。该方法代表了一种特定类型的数据自适应正则化范式，有助于在高置信度值下最小化标记数据的过拟合。所提出的方法优于对抗和生成模型，因为它不需要额外的计算。在两个公开的MRI数据集：ACDC和MMWHS，实验结果表明，该方法的优越性相比，现有的半监督模型。代码可在：https://github.com/hritam-98/ICT-MedSeg
2022-02-03 cs.AI cs.CV eess.IV
Color-$S^{4}L$: Self-supervised Semi-supervised Learning with Image Colorization
Harbin Institute of Technology（哈尔滨工业大学）
本工作提出自监督半监督学习框架Color-$S^{4}L$，通过引入图像着色代理任务，在CIFAR-10等数据集上验证了其优于以往监督与半监督方法的图像分类性能。
2024-01-08 cs.CV
Self-Supervised Learning for Semi-Supervised Temporal Action Proposal
Huazhong University of Science and Technology（华中科技大学）
自监督学习在利用未标记数据进行各种视频任务方面表现出了显著的性能。在本文中，我们专注于应用自我监督方法的力量，以提高半监督行动建议生成。特别地，我们设计了一个有效的自监督半监督时态动作建议（SSTAP）框架。SSTAP包含两个关键分支，即，时间感知半监督分支和关系感知自监督分支。半监督分支通过引入两个时间扰动来改进提议模型，即，时间特征转移和时间特征翻转，在平均教师框架。自监督分支定义了两个托词任务，包括掩蔽特征重构和裁剪顺序预测，以学习时间线索之间的关系。通过这种方式，SSTAP可以更好地探索未标记的视频，并提高学习的动作特征的区分能力。我们在THUMOS 14和ActivityNet v1.3数据集上广泛评估了所提出的SSTAP。实验结果表明，SSTAP显着优于最先进的半监督方法，甚至匹配全监督方法。代码可在https://github.com/wangxiang1230/SSTAP上获得。
2021-04-07 cs.CV
EnAET: A Self-Trained framework for Semi-Supervised and Supervised Learning with Ensemble Transformations
Purdue University（普渡大学）；University of Rochester（罗切斯特大学）；Futurewei Seattle Cloud Lab（华为西雅图云实验室）
深度神经网络已成功应用于许多现实世界的应用。然而，这样的成功在很大程度上依赖于大量的标记数据，而这些数据的获取成本很高。近年来，人们提出了许多半监督学习的方法，并取得了很好的效果。在这项研究中，我们提出了一个新的EnAET框架，以进一步改善现有的半监督方法与自我监督的信息。据我们所知，目前所有的半监督方法都通过预测一致性和置信度来提高性能。我们是第一个探索{ \bf自我监督}表示在{ \bf半监督}学习中的作用的丰富的家庭的转换。因此，我们的框架可以集成自监督信息作为正则化项，以进一步改进{ \it all}当前的半监督方法。在实验中，我们使用MixMatch，这是当前最先进的半监督学习方法，作为基线来测试所提出的EnAET框架。在不同的数据集上，我们采用相同的超参数，这大大提高了EnAET框架的泛化能力。在不同数据集上的实验结果表明，所提出的EnAET框架大大提高了现有半监督算法的性能.此外，该框架还可以大幅提高{ \bf监督学习}，包括每个类只有10张图像的极具挑战性的场景。代码和实验记录可在\url{https://github.com/maple-research-lab/EnAET}中获得。
2021-02-01 cs.CV
A Benchmark for Semi-supervised Multi-modal Crowd Counting
Harbin Institute of Technology（哈尔滨工业大学）；Pengcheng Laboratory（鹏城实验室）
本文构建了首个半监督多模态人群计数基准，通过制定标准化协议和评估多种基线方法，为该任务奠定基础。
2026-06-02 cs.CV
Adversarial Self-Supervised Learning for Semi-Supervised 3D Action Recognition
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；National University of Singapore（新加坡国立大学）
我们考虑的问题，半监督的3D动作识别，以前很少探索。它的主要挑战在于如何有效地从未标记的数据中学习运动表示。自监督学习（Self-supervised learning，SSL）是一种非常有效的学习方法。然而，对于3D动作识别，几乎没有有效的自监督方法存在，并且直接将SSL应用于半监督学习遭受从SSL和监督学习任务学习的表示的不对准。为了解决这些问题，我们提出了对抗性自监督学习（ASSL），一个新的框架，紧密耦合SSL和半监督方案通过邻居关系探索和对抗性学习。具体来说，我们设计了一个有效的SSL方案，以提高3D动作识别的学习表示的鉴别能力，通过探索一个邻域内的数据关系。我们进一步提出了对抗性正则化来对齐标记和未标记样本的特征分布。为了证明所提出的ASSL在半监督3D动作识别中的有效性，我们在NTU和N-UCLA数据集上进行了广泛的实验。结果证实了其优越的性能超过国家的最先进的半监督方法在几个标签制度的3D动作识别。
2020-07-12 cs.CV
MiVID: Multi-Strategic Self-Supervision for Video Frame Interpolation using Diffusion Model
School of Computer Engineering, KIIT Deemed to be University（计算机工程学院，KIIT被认定大学）；Department of Computer Science and Engineering, National Institute of Technology（计算机科学与工程系，国家理工学院）
MiVID提出一种轻量级自监督扩散框架，通过3D U-Net与Transformer时间注意力及渐进掩码策略，在无高帧率监督下实现视频帧插值，仅用CPU训练50个epoch即可达到与有监督基线相当的性能。
2025-11-08 cs.AI cs.CV
Semi-MAE: Masked Autoencoders for Semi-supervised Vision Transformers
Meituan Inc.（美团公司）
视觉Transformer（ViT）在半监督学习（SSL）中面临数据稀缺的问题。为了缓解这个问题，受到掩码自编码器（MAE）的启发，这是一个数据高效的自监督学习器，我们提出了Semi-MAE，一个纯粹的基于ViT的SSL框架，由一个并行MAE分支组成，以帮助视觉表示学习，使伪标签更准确。MAE分支被设计为由轻量级解码器和共享权重编码器组成的非对称架构。我们将具有高掩蔽比的弱增强未标记数据馈送到MAE分支，并重建丢失的像素。Semi-MAE在ImageNet上实现了75.9%的top-1准确率，标签为10%，超过了半监督图像分类的现有技术水平。此外，大量的实验表明，半MAE可以很容易地用于其他ViT模型和掩码图像建模方法。
2023-01-04 cs.CV
Self-supervised Mean Teacher for Semi-supervised Chest X-ray Classification
University of Adelaide（阿德莱德大学）；Universidade Federal Rural de Pernambuco（伯南布哥联邦农村大学）；Universität Ulm（乌尔姆大学）；South Australian Health and Medical Research Institute（南澳大利亚健康与医学研究所）
深度学习模型的训练通常需要大量的注释数据，以实现有效的收敛和泛化。然而，获得高质量的注释是一个费力和昂贵的过程，由于需要专业的放射科医生的标签任务。医学图像分析中的半监督学习的研究是至关重要的，因为获得未标记的图像比获得由放射科专家标记的图像便宜得多。从本质上讲，半监督方法利用大量未标记的数据集来实现比仅使用少量标记图像更好的训练收敛和泛化。在本文中，我们提出了半监督（S $^2$ MTS $^2$）学习的自监督均值教师，它将自监督均值教师预训练与半监督微调相结合。S $^2$ MTS $^2$的主要创新点是基于联合对比学习的自监督平均教师预训练，它使用无限数量的正查询和关键特征对来改进平均教师表示。然后使用经过半监督学习训练的指数移动平均教师框架对模型进行微调。我们验证了S $^2$ MTS $^2$在胸部X射线14和CheXpert的多标签分类问题上的有效性，以及ISIC 2018的多类分类，我们表明它大大优于以前的SOTA半监督学习方法。
2021-11-04 cs.CV
Semi-Supervised Semantic Matching
Aalto University（阿尔托大学）
卷积神经网络（CNN）已成功地应用于解决语义相关图像之间的对应性估计问题。由于无法获得大规模的训练数据集，现有的方法采用自监督或无监督的训练范式。在本文中，我们提出了一个半监督学习框架，施加循环一致性约束的未标记的图像对。与监督损失一起，所提出的模型在基准语义匹配数据集上达到了最先进的水平。
2019-01-24 cs.CV
Semi-supervised Learning of Fetal Anatomy from Ultrasound
Imperial College London（帝国理工学院）
半监督学习方法在标准基准数据集上使用很少的标记图像取得了优异的性能。胎儿2D超声中的解剖分类是测试这些结果是否转化为非理想数据的理想问题设置。我们的研究结果表明，包含一个具有挑战性的背景类可能是有害的，半监督学习主要受益于已经不同的类，有时以牺牲更相似的类。
2019-08-30 cs.CV
Confidence-Guided Semi-supervised Learning in Land Cover Classification
Cardiff University（卡迪夫大学）
本文提出置信度引导半监督学习方法CGSSL，通过利用高置信度伪标签并引入多网络架构提升伪标签多样性，在Potsdam土地覆盖分类基准上超越经典半监督和全监督方法。
2023-05-30 cs.CV
Semi-Supervised Relational Contrastive Learning
University of California, Los Angeles（加州大学洛杉矶分校）；Stanford University（斯坦福大学）；University of Kentucky（肯塔基大学）
针对医学图像监督学习标注成本高的问题，提出结合自监督对比损失与样本关系一致性的半监督关系对比学习SRCL模型，在ISIC 2018皮肤病变数据集上验证了不同标注量下的有效性。
2023-06-13 cs.CV
Semi-Supervised Disparity Estimation with Deep Feature Reconstruction
University of Freiburg（弗莱堡大学）
尽管深度学习在差异估计方面取得了成功，但领域泛化差距仍然是一个问题。我们提出了一个半监督管道，通过对标记的合成数据进行联合监督训练和对未标记的真实数据进行自我监督训练，成功地将DispNet适应于真实世界的领域。此外，考虑到广泛使用的光度损失的局限性，我们分析了深度特征重建作为视差估计的有前途的监督信号的影响。
2021-06-01 cs.CV
S4L: Self-Supervised Semi-Supervised Learning
Google Research（谷歌研究院）
这项工作解决了图像分类器的半监督学习问题。我们的主要观点是，半监督学习领域可以受益于快速发展的自监督视觉表示学习领域。结合这两种方法，我们提出了自监督半监督学习的框架，并使用它来获得两个新的半监督图像分类方法。我们证明了这些方法的有效性相比，精心调整的基线，和现有的半监督学习方法。然后，我们证明了我们的方法和现有的半监督方法可以联合训练，在半监督ILSVRC-2012上产生了一个新的最先进的结果，标签数为10%。
2019-07-23 cs.CV cs.LG
SPU-IMR: Self-supervised Arbitrary-scale Point Cloud Upsampling via Iterative Mask-recovery Network
Northwestern Polytechnical University（西北工业大学）；Shenzhen University（深圳大学）
提出一种将点云上采样视为全局形状补全的自监督方法，通过分块、掩码和迭代恢复网络实现任意尺度上采样，实验证明优于现有自监督和监督方法。
2025-02-26 cs.CV eess.IV
Vehicle Trajectory Prediction by Transfer Learning of Semi-Supervised Models
Columbia University（哥伦比亚大学）
在这项工作中，我们表明，用于车辆轨迹预测的半监督模型显着提高了最先进的现实世界基准上的监督模型的性能。从监督模型到半监督模型允许通过使用未标记数据进行扩展，将预训练中的图像数量从数百万增加到10亿。我们进行消融研究，比较半监督和监督模型的迁移学习，同时保持所有其他因素相同。在半监督模型中，我们比较了对比学习与师生方法，以及预测少量轨迹的网络与预测大轨迹集上概率的网络。我们的结果使用低级别和中级表示的驾驶环境证明了半监督方法的适用性，为现实世界的车辆轨迹预测。
2020-10-10 cs.CV cs.LG
Semi-supervised Learning with Robust Loss in Brain Segmentation
University of Southern California（南加州大学）
在这项工作中，我们使用半监督学习方法来训练深度学习模型，可以分割大脑MRI图像。半监督模型使用较少的标记数据，并且性能与全标记数据的监督模型竞争。该框架可以降低标记MRI图像的成本。我们还引入了鲁棒损失来减少半监督学习中产生的不准确标签的噪声影响。
2022-12-03 cs.CV eess.IV
SelfMatch: Combining Contrastive Self-Supervision and Consistency for Semi-Supervised Learning
Samsung SDS（三星数据系统）
本文介绍了SelfMatch，一种结合对比自监督学习和一致性正则化的半监督学习方法。SelfMatch包括两个阶段：（1）基于对比学习的自监督预训练和（2）基于增强一致性正则化的半监督微调。我们通过经验证明，SelfMatch在标准基准数据集（如CIFAR-10和SVHN）上实现了最先进的结果。例如，对于包含40个标记示例的CIFAR-10，SelfMatch实现了93.19%的准确率，优于MixMatch（52.46%），UDA（70.95%），ReMixMatch（80.9%）和FixMatch（86.19%）等强大的先前方法。我们注意到，SelfMatch可以缩小监督学习（95.87%）和半监督学习（93.19%）之间的差距，因为每个类只使用几个标签。
2021-01-16 cs.CV cs.LG
Semi-Supervised Learning with Mutual Distillation for Monocular Depth Estimation
Korea University（高丽大学）
我们提出了一个半监督学习框架的单目深度估计。与现有的半监督学习方法相比，该方法继承了稀疏监督和无监督损失函数的局限性，通过为每个损失建立两个独立的网络分支，并通过相互蒸馏损失函数来实现两个损失函数的优势互补。我们还提出了应用不同的数据增强到每个分支，这提高了鲁棒性。我们进行实验，以证明我们的框架在最新方法的有效性，并提供广泛的消融研究。
2022-03-18 cs.CV cs.RO
S5CL: Unifying Fully-Supervised, Self-Supervised, and Semi-Supervised Learning Through Hierarchical Contrastive Learning
Technical University Munich（慕尼黑工业大学）；Helmholtz AI（亥姆霍兹人工智能研究院）
在计算病理学中，我们经常面临着缺乏注释和大量未标记数据的问题。处理这种情况的一种方法是半监督学习，它通常分为自我监督的借口任务和随后的模型微调。在这里，我们通过引入S5 CL将这两个阶段的训练压缩为一个，S5 CL是一个用于全监督、自监督和半监督学习的统一框架。通过为标记图像、未标记图像和伪标记图像定义三种对比度损失，S5 CL可以学习反映距离关系层次的特征表示：相似图像和增强嵌入最接近，其次是同一类的不同外观图像，而来自不同类的图像具有最大的距离。此外，S5 CL允许我们灵活地组合这些损失，以适应不同的场景。在两个公共组织病理学数据集上对我们的框架进行的评估显示，在稀疏标签的情况下，我们的框架有了很大的改进：对于H& E染色的结直肠癌数据集，与监督交叉熵损失相比，准确度提高了9%;对于来自白血病患者血涂片的单个白细胞的高度不平衡数据集，F1分数提高了6%。
2022-03-14 cs.CV stat.ML
Hypernetworks for Continual Semi-Supervised Learning
IIT Kanpur（印度理工学院坎普尔分校）；Duke University（杜克大学）
从顺序到达的数据中学习，可能在非独立同分布中。随着时间的推移不断变化的任务分配称为持续学习。到目前为止，持续学习的大部分工作都集中在监督学习和无监督学习上。在许多领域中，每个任务都包含标记（通常很少）和未标记（通常很多）的训练样本，这需要半监督学习方法。为了在持续学习环境中解决这个问题，我们提出了一个半监督持续学习的框架，称为连续半监督学习的元巩固（MCSSL）。我们的框架有一个超网络，它学习元分布，生成半监督辅助分类器生成对抗网络$(\textit{Semi-ACGAN})$的权重作为基础网络。我们在超网络中巩固顺序任务的知识，基础网络学习半监督学习任务。此外，我们提出了$\textit{Semi-Split CIFAR-10}$，一个新的基准连续半监督学习，通过修改$\textit{Split CIFAR-10}$数据集，其中的任务与标记和未标记的数据顺序到达。我们提出的模型在连续半监督学习设置中产生了显着的改进。我们比较了几种现有的持续学习方法的性能，提出了持续半监督学习基准的半分裂CIFAR-10数据集。
2021-10-05 cs.CV cs.LG stat.ML
Exploring Self-Supervised Regularization for Supervised and Semi-Supervised Learning
Flyreel AI Research（Flyreel人工智能研究院）
半监督学习的最新进展在克服现代机器学习算法成功的主要障碍方面显示出巨大的潜力：访问大量人类标记的训练数据。基于一致性正则化的先前算法可以利用大量未标记数据在许多半监督基准上产生令人印象深刻的结果，仅使用一小部分可用标记数据就接近强监督基线的性能。在这项工作中，我们通过引入自监督正则化作为组合来自未标记数据的语义特征表示的基础，挑战了一致性正则化的长期成功。我们进行了广泛的比较实验，以证明自监督正则化的有效性，监督和半监督图像分类SVHN，CIFAR-10和CIFAR-100基准数据集。我们提出了两个主要结果：（1）使用自监督正则化增强的模型显着改进了传统的监督分类器，而不需要未标记的数据;（2）与未标记的数据一起，我们的模型产生了半监督性能，与现有的最先进的一致性基线竞争，并且在许多情况下超过了它。最后，我们的模型具有端到端有效训练的实用性，并且不需要额外的超参数来调整训练神经网络的标准集之外的最佳性能。参考代码和数据可在https://github.com/vuptran/sesemi上获得
2019-11-21 cs.CV cs.LG stat.ML
Semi-supervised Vision Transformers at Scale
AWS AI Labs（亚马逊云科技人工智能实验室）
我们研究半监督学习（SSL）的视觉Transformer（ViT），尽管广泛采用的ViT架构不同的任务，一个未充分探讨的话题。为了解决这个问题，我们提出了一个新的SSL管道，包括第一个非/自我监督的预训练，其次是监督微调，最后是半监督微调。在半监督微调阶段，我们采用指数移动平均（EMA）-教师框架，而不是流行的FixMatch，因为前者更稳定，并提供更高的精度为半监督视觉Transformer。此外，我们提出了一种概率伪混淆机制来内插未标记的样本及其伪标签，以改进正则化，这对于训练具有弱归纳偏差的ViT非常重要。我们提出的方法，被称为半ViT，实现了可比或更好的性能比CNN同行在半监督分类设置。Semi-ViT还享有ViT的可扩展性优势，可以轻松扩展到大尺寸模型，并提高精度。例如，Semi-ViT-Huge在ImageNet上仅使用1%的标签就达到了令人印象深刻的80%的top-1准确率，这与使用100% ImageNet标签的Inception-v4相当。
2022-08-11 cs.AI cs.CV cs.LG
Ladder Networks for Semi-Supervised Hyperspectral Image Classification
Purdue University（普渡大学）；ETH Zürich（苏黎世联邦理工学院）
我们使用梯形网络[Rasmus et al.（2015）]在半监督设置中执行高光谱图像分类。梯形网络通过联合优化监督和非监督成本来将自己与其他半监督方法区分开来。在许多情况下，这已被证明比其他半监督技术更成功，例如使用未标记数据进行预训练。我们还表明，卷积梯形网络的性能优于目前大多数用于高光谱图像分类的技术，并在帕维亚大学数据集上实现了新的最先进的性能，每个类只有5个标记的数据点。
2018-12-04 cs.CV cs.LG stat.ML
SaaS: Speed as a Supervisor for Semi-supervised Learning
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
我们介绍了用于半监督学习的SaaS算法，该算法使用深度神经网络中随机梯度下降期间的学习速度来衡量未知标签的后验概率的迭代估计的质量。在监督学习中，训练速度与正确标签的百分比密切相关，因此我们将其用作未知标签的推理标准，而不试图首先推断模型参数。尽管简单，SaaS在半监督学习基准测试中取得了最先进的结果。
2018-05-02 cs.CV cs.LG stat.ML
Empirical Perspectives on One-Shot Semi-supervised Learning
US Naval Research Laboratory（美国海军研究实验室）
在新应用中采用深度神经网络的最大障碍之一是，训练网络通常需要大量手动标记的训练样本。我们根据经验研究了这样一种场景，其中可以访问大量未标记的数据，但只需要标记每个类的单个原型样本，以便训练深度网络（即，一次性半监督学习）。具体来说，我们调查了FixMatch中报道的一次性半监督学习的最新结果，以了解影响和阻碍Cifar-10一次性半监督学习的高准确性和可靠性的因素。例如，我们发现，一次半监督学习的高性能图像分类的一个障碍是在训练过程中的类精度的不均匀性。这些结果指出了解决方案，可以使一次性半监督训练方法在新应用中得到更广泛的采用。
2020-04-08 cs.CV cs.LG stat.ML
Exponential Moving Average Normalization for Self-supervised and Semi-supervised Learning
Amazon Web Services（亚马逊云科技）
我们提出了一个插件替代批量归一化（BN）称为指数移动平均归一化（EMAN），它提高了现有的基于学生-教师的自我和半监督学习技术的性能。与标准BN不同，在每个批次中计算统计数据，教师中使用的EMAN通过学生BN统计数据的指数移动平均来更新其统计数据。这种设计降低了BN固有的交叉样本依赖性，增强了教师的泛化能力。当ImageNet上有1%/10%的监督标签时，EMAN将自监督学习的强基线提高了4-6/1-2个点，半监督学习提高了约7/2个点。这些改进在方法、网络架构、训练持续时间和数据集上是一致的，证明了这种技术的普遍有效性。该代码可在https://github.com/amazon-research/exponential-moving-average-normalization上获得。
2021-06-18 cs.AI cs.CV cs.LG
Building One-Shot Semi-supervised (BOSS) Learning up to Fully Supervised Performance
US Naval Research Laboratory（美国海军研究实验室）
使用未标记的数据达到完全监督学习的性能并且每个类仅标记一个样本对于深度学习应用来说可能是理想的。我们首次展示了在Cifar-10和SVHN上构建一次性半监督（BOSS）学习的潜力，以达到与完全监督学习相当的测试精度。我们的方法结合了类原型提炼，类平衡和自我训练。一个好的原型选择是必不可少的，我们提出了一种技术，以获得图标的例子。此外，我们证明了类平衡方法大大提高了半监督学习的准确性，使自我训练达到完全监督学习性能的水平。严格的经验评估提供了证据，证明标记大型数据集对于训练深度神经网络是不必要的。我们在https://github.com/lnsmith54/BOSS上提供了我们的代码，以便于复制和用于未来的实际应用程序。
2021-01-26 cs.CV cs.LG cs.NE
