Linking data separation, visual separation, and classifier performance using pseudo-labeling by contrastive learning
University of Campinas（坎皮纳斯大学）；Utrecht University（乌得勒支大学）
缺乏监督数据是训练深度神经网络（DNN）时的一个问题，主要是在考虑监督成本高昂的医学和生物数据时。最近，嵌入式伪标签（EPL）通过使用从DNN的特征空间到2D空间的非线性投影（t-SNE），然后使用基于连接性的方法（OPFSemi）进行半监督标签传播来解决这个问题。我们认为，最终分类器的性能取决于数据分离存在于潜在空间和视觉分离存在于投影。我们首先提出使用对比学习产生的潜在空间EPL的两种方法（Simplified和SupCon）和它们的组合，其次通过显示，通过一组广泛的实验，上述数据分离，视觉分离和分类器性能之间的相关性。我们证明了我们的研究结果的分类，只有1%的监督样本的人类肠道寄生虫的五个现实世界的挑战性的图像数据集。
2023-02-06 cs.LG
Improving Mispronunciation Detection with Wav2vec2-based Momentum Pseudo-Labeling for Accentedness and Intelligibility Assessment
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Northern Arizona University（北亚利桑那大学）；Pennsylvania State University（宾夕法尼亚州立大学）
当前领先的发音错误检测和诊断（MDD）系统通过端到端音素识别实现了有前途的性能。这种端到端解决方案的一个挑战是自然L2语音上人类注释的音素的稀缺性。在这项工作中，我们通过伪标记（PL）程序利用未标记的L2语音，并基于预训练的自监督学习（SSL）模型扩展微调方法。具体来说，我们使用Wav 2 vec 2.0作为我们的SSL模型，并使用原始标记的L2语音样本加上创建的伪标记L2语音样本对其进行微调。我们的伪标签是动态的，由在线模型的集成动态生成，这确保了我们的模型对伪标签噪声具有鲁棒性。我们发现，微调与伪标签实现了5.35%的音素错误率降低和2.48%的MDD F1分数提高标记样本的微调基线。建议的PL方法也被证明优于传统的离线PL方法。与最先进的MDD系统相比，我们的MDD解决方案可以产生更准确和一致的语音错误诊断。此外，我们对一个单独的UTD-4Accents数据集进行了开放测试，其中我们的系统识别输出显示出与人类感知的强相关性，基于重音和可理解性。
2022-07-12 cs.CL cs.LG eess.AS
Unsupervised Multiview Contrastive Language-Image Joint Learning with Pseudo-Labeled Prompts Via Vision-Language Model for 3D/4D Facial Expression Recognition
提出 MultiviewVLM，通过伪标签文本提示、联合嵌入、稳定正负采样和梯度友好损失实现3D/4D面部表情的无监督多视图对比学习，性能超过现有方法。
2025-05-14 cs.CV
Towards a Pseudo-Labeling Workflow for Celltype-Classification from Explanted Brain Slice Recordings
RWTH University Hospital, Department of Neurosurgery（RWTH大学医院神经外科部门）；RWTH University Hospital, Department of Epileptology（RWTH大学医院癫痫学部门）；University of Duisburg-Essen, Intelligent Embedded Systems Lab（杜伊斯堡-埃森大学智能嵌入式系统实验室）
该研究针对人脑切片MEA记录的细胞外尖峰分类问题，提出无监督工作流程，涵盖数据预处理、机器学习降维聚类等，考虑在线系统方法，通过多种指标评估管道，严格策展可提高分离度。
2026-07-09 cs.LG q-bio.QM
Toward unlabeled multi-view 3D pedestrian detection by generalizable AI: techniques and performance analysis
Universidade Federal Rural de Pernambuco（伯南布哥联邦农村大学）；Universidade Federal de Pernambuco（伯南布哥联邦大学）；Kyushu University（九州大学）；NARA Institute of Science and Technology (NAIST)（奈良先端科学技术大学院大学）
本文研究利用可泛化AI自动标注未标注目标场景数据以改进多视角3D行人检测，提出基于未经训练检测器的自动标注训练框架，并在WILDTRACK和MultiviewX上取得优于现有未标注方法的性能。
2023-08-08 cs.CV
LentiAvatar: Pseudo-Multiview Reconstruction and Subpixel Prism Rendering for Real-Time Stereoscopic Communication
Sun Yat-sen University（中山大学）
提出PrismAvatar系统，通过单目视频重建可控头部化身，并利用亚像素编码光栅实现实时裸眼立体通信，采用伪多视图监督和轮廓感知损失提升侧视质量。
2026-06-16 cs.CV cs.GR
EnergyMatch: Energy-based Pseudo-Labeling for Semi-Supervised Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
半监督学习（SSL）中的最新方法将一致性正则化与基于置信度的伪标记相结合。为了获得高质量的伪标签，通常采用高置信度阈值。然而，已经表明，对于远离训练数据的样本，深度网络中基于softmax的置信度分数可以任意高，因此，即使是高置信度的未标记样本的伪标签也可能仍然不可靠。在这项工作中，我们提出了一个新的伪标签视角：而不是依赖于模型置信度，我们而是衡量未标记的样本是否可能是“分布中”;即，接近当前的训练数据。为了分类未标记的样本是“分布内”还是“分布外”，我们采用来自分布外检测文献的能量得分。随着训练的进行，越来越多的未标记样本变得分布并有助于训练，组合的标记和伪标记数据可以更好地近似真实分布以改进模型。实验表明，我们的基于能量的伪标记方法，虽然概念上很简单，显着优于基于信心的方法不平衡的SSL基准，并实现类平衡数据的竞争力的表现。例如，当不平衡比高于50时，它会使CIFAR 10-LT的绝对精度提高4-6%。当与最先进的长尾SSL方法相结合时，可以得到进一步的改进。
2022-06-13 cs.AI cs.CV cs.LG
Learning from Semantic Alignment between Unpaired Multiviews for Egocentric Video Recognition
University of Delaware（特拉华大学）；Google Research（谷歌研究院）
针对非配对多视角视频语义有差异的难题，提出SUM-L方法，通过构建跨视角伪对做视角不变对齐，并结合视频-文本对齐提升表征，在多基准上优于现有方法。
2023-08-23 cs.CV
In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label Selection Framework for Semi-Supervised Learning
Center for Research in Computer Vision（计算机视觉研究中心）；University of Central Florida（中佛罗里达大学）
目前半监督学习的研究主要集中在基于一致性正则化的学习方法上，这些方法具有很好的性能。然而，它们严重依赖于特定领域的数据增强，这并不容易为所有数据模式生成。伪标记（PL）是一种通用的SSL方法，它没有这种约束，但在其原始公式中表现相对较差。我们认为PL表现不佳是由于校准不良的模型的错误高置信度预测;这些预测生成许多不正确的伪标签，导致噪声训练。我们提出了一个不确定性感知的伪标签选择（UPS）框架，通过大幅减少训练过程中遇到的噪声量来提高伪标签的准确性。此外，UPS概括了伪标签过程，允许创建负伪标签;这些负伪标签可用于多标签分类以及负学习以改进单标签分类。与最近的SSL方法相比，我们在CIFAR-10和CIFAR-100数据集上实现了强大的性能。此外，我们证明了我们的方法在视频数据集UCF-101和多标签数据集Pascal VOC上的多功能性。
2021-04-19 cs.CV cs.LG
Curriculum Labeling: Revisiting Pseudo-Labeling for Semi-Supervised Learning
University of Virginia（弗吉尼亚大学）
在本文中，我们重新审视伪标签的思想，在半监督学习的上下文中，学习算法可以访问一个小的一组标记的样本和一个大的未标记的样本。伪标记的工作原理是通过使用在标记样本和任何先前伪标记样本的组合上训练的模型将伪标记应用于未标记集合中的样本，并在自训练周期中迭代地重复该过程。当前的方法似乎已经放弃了这种方法，而倾向于一致性正则化方法，该方法在未标记样本上的不同类型的自监督损失和标记样本上的标准监督损失的组合下训练模型。我们的经验表明，伪标记实际上可以与最先进的竞争，同时对未标记集中的分布外样本更具弹性。我们确定了两个关键因素，使伪标签，以取得如此显着的结果（1）应用课程学习原则和（2）避免概念漂移，通过重新启动模型参数之前，每个自我训练周期。我们在CIFAR-10上仅使用4，000个标记样本获得了94.91%的准确度，在Imagenet-ILSVRC上仅使用10%的标记样本获得了68.87%的top-1准确度。代码可在https://github.com/uvavision/Curriculum-Labeling上获得
2020-12-10 cs.CV cs.LG stat.ML
Analysis of Pseudo-Labeling for Online Source-Free Universal Domain Adaptation
Institute of Signal Processing and System Theory , University of Stuttgart, Germany（信号处理与系统理论研究所，斯图加特大学）
本文系统分析了在线无源通用域适应（SF-UniDA）中伪标签对适应结果的影响，发现伪标签准确率比数量更关键，对比损失对中等准确率鲁棒而交叉熵损失在接近完美时更优，揭示了当前方法与理论上界间的差距。
2025-05-30 cs.CV cs.LG
Robust Character Labeling in Movie Videos: Data Resources and Self-supervised Feature Adaptation
University of Southern California（南加州大学）
鲁棒的人脸聚类是实现媒体中视觉角色刻画的计算理解的重要一步。长格式内容的人脸聚类是具有挑战性的，因为外观的变化和缺乏支持的大规模标记数据。我们在本文中的工作集中在这个问题的两个关键方面：缺乏特定领域的训练或基准数据集，以及将在Web图像上学习的人脸嵌入适应于长格式内容，特别是电影。首先，我们展示了一个包含240部好莱坞电影中超过169，000个面部轨迹的数据集，其中包含关于一对面部轨迹是否属于相同或不同角色的弱标签。我们提出了一个离线算法的基础上最近邻搜索嵌入空间挖掘这些轨道的硬例子。然后，我们研究三重损失和基于多视图相关性的方法，以适应人脸嵌入硬的例子。我们的实验结果突出了弱标记数据对特定领域特征自适应的有用性。总的来说，我们发现，基于多视图相关性的自适应产生更多的歧视性和鲁棒性的人脸嵌入。它在下游人脸验证和聚类任务上的性能与该领域的最新成果相当。我们还提出了帆船电影字符基准语料库开发，以增强现有的基准。它由不同种族的演员组成，并为后续的错误分析提供了面部质量标签。我们希望在这项工作中开发的大规模数据集可以进一步推进视频中的自动字符标记。所有资源都可以在https://sail.usc.edu/~ccmi/multiface上免费获得。
2022-02-25 cs.CV eess.IV
InPL: Pseudo-labeling the Inliers First for Imbalanced Semi-supervised Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
不平衡半监督学习（SSL）中的最新方法依赖于具有一致性正则化的基于置信度的伪标记。为了获得高质量的伪标签，通常采用高置信度阈值。然而，已经表明，对于远离训练数据的样本，深度网络中基于softmax的置信度分数可以任意高，因此，即使是高置信度的未标记样本的伪标签也可能仍然不可靠。在这项工作中，我们提出了一个新的视角的伪标记不平衡的SSL。在不依赖于模型置信度的情况下，我们建议衡量未标记样本是否可能是“分布内”;即，接近当前的训练数据。为了确定未标记的样本是"分布内“还是"分布外”，我们采用来自分布外检测文献的能量分数。随着训练的进行，越来越多的未标记样本变得分布并有助于训练，组合的标记和伪标记数据可以更好地近似真实的类分布，以改进模型。实验表明，我们的基于能量的伪标记方法，\textbf{InPL}，虽然概念上简单，显着优于基于信心的方法不平衡的SSL基准。例如，它产生约3\%的绝对精度提高CIFAR 10-LT。当与最先进的长尾SSL方法相结合时，进一步的改进。特别是，在最具挑战性的场景之一，InPL实现了6.9\%的准确性比最好的竞争对手。
2023-03-13 cs.CV cs.LG
Improving Unsupervised Domain Adaptive Re-Identification via Source-Guided Selection of Pseudo-Labeling Hyperparameters
Université Paris-Saclay（巴黎-萨克雷大学）；CEA（法国原子能和替代能源委员会）；Normandie Univ（诺曼底大学）；INSA Rouen（鲁昂国立应用科学学院）；LITIS（信息处理与系统实验室）
用于重新识别（re-ID）的无监督领域自适应（UDA）是一项具有挑战性的任务：为了避免额外数据的昂贵注释，它旨在将知识从具有注释数据的领域转移到仅具有未标记数据的感兴趣领域。伪标签方法已被证明是有效的UDA重新ID。然而，这些方法的有效性在很大程度上取决于一些超参数（HP）的选择，影响通过聚类生成伪标签。在感兴趣的领域中缺乏注释使得这种选择变得重要。目前的方法简单地重复使用相同的经验值用于所有适应任务，而不管通过伪标记训练阶段改变的目标数据表示。由于这种简单化的选择可能会限制他们的表现，我们的目标是解决这个问题。我们提出了新的理论基础上的HP选择聚类UDA重新ID以及方法的自动和循环HP调整伪标记UDA聚类：HyPASS。HyPASS包括在伪标记方法中结合两个模块：（i）基于标记的源验证集的HP选择和（ii）特征区分度的条件域对齐以改进基于源样本的HP选择。在常用的人员re-ID和车辆re-ID数据集上的实验表明，与常用的经验HP设置相比，我们提出的HyPASS始终改进了re-ID中最先进的方法。
2021-11-04 cs.CV cs.LG
OR-NeRF: Object Removing from 3D Scenes Guided by Multiview Segmentation with Neural Radiance Fields
Nanyang Technological University（南洋理工大学）
本文提出OR-NeRF，利用单视图点或文本提示，结合3D几何传播、SAM分割、2D修复及深度与感知监督，高效实现一致的3D场景物体移除。
2023-09-29 cs.CV
PseCo: Pseudo Labeling and Consistency Training for Semi-Supervised Object Detection
Nanjing University of Science and Technology（南京理工大学）；SenseTime Research（商汤科技研究院）
本文研究了半监督目标检测（SSOD）中的两个关键技术：伪标记和一致性训练。我们观察到，这两种技术目前忽略了目标检测的一些重要属性，阻碍了对未标记数据的有效学习。具体而言，对于伪标签，现有的算法只关注分类得分，无法保证伪盒的定位精度;对于一致性训练，广泛采用的随机调整大小训练只考虑标签级的一致性，而忽略了特征级的一致性，这对保证尺度不变性也有重要作用。为了解决噪声伪盒所带来的问题，我们设计了噪声伪盒学习（NPL），包括预测引导标签分配（PLA）和积极建议一致性投票（PCV）。PLA依赖于模型预测来分配标签，并使其对甚至粗糙的伪框都具有鲁棒性;而PCV利用正建议的回归一致性来反映伪框的本地化质量。此外，在一致性训练中，我们提出了多视图尺度不变学习（MSL），它包括标签级和特征级一致性机制，其中特征一致性是通过对齐两个具有相同内容但不同尺度的图像之间的移位特征金字塔来实现的。在COCO基准测试中，我们的方法，称为PSEudo标记和COnsidertraining（PseCo），在1%，5%和10%的标记比率下分别比SOTA（Soft Teacher）高出2.0，1.8，2.0分。它还大大提高了裁军特别联大的学习效率，例如，PseCo将SOTA方法的训练时间减半，但实现了更好的性能。代码可在https://github.com/ligang-cs/PseCo上获得。
2022-07-20 cs.AI cs.CV
Improving 3D Few-Shot Segmentation with Inference-Time Pseudo-Labeling
Sharif University of Technology（谢里夫理工大学）
本文提出一种推理时伪标签策略，通过置信度感知将查询切片的高价值信息转移至支持集，有效提升了医学图像3D少样本分割的准确性和性能。
2024-10-13 cs.AI cs.CV cs.LG
A formal approach to good practices in Pseudo-Labeling for Unsupervised Domain Adaptive Re-Identification
Université Paris-Saclay, CEA, List（巴黎萨克雷大学，法国原子能和替代能源委员会，List研究所）；Normandie Univ, INSA Rouen, LITIS（诺曼底大学，鲁昂国立应用科学学院，信息处理与系统实验室）
伪标签的使用是为了以最佳性能解决无监督域自适应（UDA）重新识别（re-ID）。事实上，这一系列方法已经产生了几个有效的UDA re-ID特定框架。在这些工作中，提高伪标签UDA re-ID性能的研究方向多种多样，主要基于直觉和实验：细化伪标签，减少伪标签中错误的影响......很难从中推断出可以在任何伪标签方法中实现的一般良好实践，以持续提高其性能。针对这一关键问题，提出了一种新的伪标记UDA re-ID理论观点。贡献有三方面：（i）伪标记UDA re-ID的新理论框架，通过UDA re-ID性能的新的通用学习上限进行形式化。(ii)伪标记的一般良好实践，直接推导出所提出的理论框架的解释，以提高目标的重新识别性能。(iii)对具有挑战性的人员和车辆跨数据集重新识别任务进行了广泛的实验，显示了各种最先进的方法和各种建议的良好实践实现的一致性能改进。
2022-02-02 cs.CV
Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling
Durham University（杜伦大学）
无监督领域自适应的目的是解决分类问题的未标记的样本从目标域，而标记的样本只能从源域和数据分布在这两个领域是不同的。因此，当直接应用于来自目标域的样本时，从源域中的标记样本训练的分类器遭受显著的性能下降。为了解决这个问题，已经提出了不同的方法来学习域不变特征或域特定分类器。在任何一种情况下，目标域中缺少标记的样本可能是一个问题，通常通过伪标记来克服。然而，不准确的伪标记可能会导致学习过程中灾难性的错误积累。在本文中，我们提出了一种新的基于结构化预测的选择性伪标记策略。结构化预测的想法受到以下事实的启发：目标域中的样本在深度特征空间内被很好地聚类，使得可以使用无监督聚类分析来促进准确的伪标记。在四个数据集（即EST-Caltech，EST 31，ImageCLEF-DA和EST-Home）上的实验结果验证了我们的方法优于当代最先进的方法。
2019-11-18 cs.CV cs.LG cs.MM
Revisiting Domain-Adaptive 3D Object Detection by Reliable, Diverse and Class-balanced Pseudo-Labeling
The University of Queensland（昆士兰大学）；University of Electronic Science and Technology of China（电子科技大学）
针对多类别领域自适应3D检测中的伪标签噪声与类别不平衡问题，提出ReDB框架，通过CDE、OBC和类别平衡增强实现可靠多样的伪标签自训练，并显著提升跨域检测性能。
2023-08-17 cs.AI cs.CV cs.LG
Unpaired Modality Translation for Pseudo Labeling of Histology Images
Mila - Québec Artificial Intelligence Institute（米拉 - 魁北克人工智能研究所）；Polytechnique Montréal（蒙特利尔理工学院）
本文提出基于无监督图像转换的显微图像伪标签流程，在无需目标域标注的情况下跨模态生成伪标签，并在三个差异递增的图像域验证其有效性。
2024-12-03 cs.AI cs.CV eess.IV
Pseudo Pixel-level Labeling for Images with Evolving Content
The University of Tennessee Knoxville（田纳西大学诺克斯维尔分校）
注释图像的语义分割需要大量的手工劳动，是一项耗时且昂贵的任务，特别是对于缺乏专家的领域，如法医人类学。我们利用不断发展的性质，描绘人类分解数据的衰减过程中的图像，设计一个简单而有效的伪像素级标签生成技术，以减少人工注释这些图像的工作量。我们首先确定序列的图像与最小的变化，最适合使用无监督的方法来共享相同或相似的注释。给定每个序列中的一个用户注释图像，我们通过将其与最先进的基于CAM的伪标签生成技术生成的注释合并，将注释传播到序列中的其余图像。为了评估我们的伪像素级标签的质量，我们训练了两个语义分割模型，分别使用我们的伪标签方法和最先进的方法对图像进行了VGG和ResNet骨干。结果表明，在训练过程中使用我们的伪标签而不是使用最先进的方法生成的伪标签，分别将基于VGG和ResNet的语义分割模型的平均IoU和频率加权IoU提高了3.36%，2.58%，10.39%和12.91%。
2021-05-20 cs.AI cs.CV
A Review of Pseudo-Labeling for Computer Vision
School of Informatics, The University of Edinburgh（信息学院，爱丁堡大学）；School of Computer Science, The University of Oklahoma（计算机科学学院，俄克拉荷马大学）
本文综述了伪标签在计算机视觉中的应用，探讨了其在自监督和无监督方法中的更广泛解释，并指出不同领域间的发展可能带来的新方向。
2025-05-23 cs.CV cs.LG
BoostMIS: Boosting Medical Image Semi-supervised Learning with Adaptive Pseudo Labeling and Informative Active Annotation
National University of Singapore（新加坡国立大学）；National University Hospital（国立大学医院）；Zhejiang University（浙江大学）
本文提出了一种新的半监督学习（SSL）框架BoostMIS，该框架结合了自适应伪标记和信息主动标注，充分发挥了医学图像SSL模型的潜力：（1）BoostMIS能够根据当前学习状态自适应地利用聚类假设和未标记数据的一致性正则化。该策略可以自适应地生成从任务模型预测转换的独热“硬”标签，以更好地进行任务模型训练。(2)对于低置信度的未标记图像，我们引入了主动学习（AL）算法，通过利用虚拟对抗扰动和模型的密度感知熵来寻找信息样本作为注释候选。这些信息候选者随后被馈送到下一个训练周期，以更好地进行SSL标签传播。值得注意的是，自适应伪标记和信息主动注释形成了相互协作以提高医学图像SSL的学习闭环。为了验证所提出的方法的有效性，我们收集了转移性硬膜外脊髓压迫（MESCC）数据集，旨在优化MESCC诊断和分类，以改善专科转诊和治疗。我们在MESCC和另一个公共数据集COVIDx上对BoostMIS进行了广泛的实验研究。实验结果验证了我们的框架的有效性和普适性不同的医学图像数据集与各种国家的最先进的方法有显着的改善。
2022-03-21 cs.AI cs.CV cs.LG
SemiFed: Semi-supervised Federated Learning with Consistency and Pseudo-Labeling
University of Southern California（南加州大学）；Emory University（埃默里大学）；Xidian University（西安电子科技大学）
联邦学习使移动电话和组织等多个客户端能够协作学习共享模型进行预测，同时保护本地数据隐私。然而，联邦学习的最新研究和应用假设所有客户端都有完全标记的数据，这在现实世界中是不切实际的。在这项工作中，我们专注于跨筒仓联邦学习的新场景，其中每个客户端的数据样本被部分标记。我们借鉴了半监督学习方法的思想，在这种方法中，尽管对标记示例的访问有限，但仍利用大量未标记数据来提高模型的准确性。我们提出了一个名为SemiFed的新框架，它统一了半监督学习的两种主要方法：一致性正则化和伪标记。SemiFed首先应用先进的数据增强技术来执行一致性正则化，然后在训练期间使用模型的预测生成伪标签。SemiFed利用了联邦的优势，因此对于给定的图像，只有当来自不同客户端的多个模型产生高置信度预测并同意相同的标签时，伪标签才有效。在两个图像基准上的大量实验证明了我们的方法在同质和异构数据分布设置下的有效性
2021-08-21 cs.CV cs.LG
PseudoSeg: Designing Pseudo Labels for Semantic Segmentation
Virginia Tech（弗吉尼亚理工大学）；Google Cloud AI（谷歌云AI）；Google Brain（谷歌大脑）
半监督学习（SSL）的最新进展表明，一致性正则化和伪标记相结合可以有效地提高低数据状态下图像分类的准确率。与分类相比，语义分割任务需要更密集的标记成本。因此，这些任务极大地受益于数据高效的训练方法。然而，分割中的结构化输出带来了特殊的困难（例如，设计伪标记和增强）以应用现有的SSL策略。为了解决这个问题，我们提出了一种简单而新颖的伪标签重新设计，以生成经过良好校准的结构化伪标签，用于使用未标记或弱标记数据进行训练。我们提出的伪标签策略是网络结构不可知的，适用于一个阶段的一致性训练框架。我们证明了所提出的伪标签策略在低数据和高数据制度的有效性。大量的实验已经证明，通过明智地融合不同的源和强大的数据增强产生的伪标签是至关重要的一致性训练分割。源代码可在https://github.com/googleinterns/wss上获得。
2021-03-30 cs.CV
Pseudo-labeling for Scalable 3D Object Detection
Google Brain（谷歌大脑）；Waymo（威摩科技）
为了安全地部署自动驾驶汽车，车载感知系统必须在各种环境和地理位置上以高精度可靠地工作。在新领域中提高这种系统的功效的最常见的技术之一涉及收集大的标记数据集，但是获得这种数据集可能非常昂贵，特别是如果每个新的部署地理位置需要具有昂贵的3D限界框注释的附加数据。我们证明了用于3D目标检测的伪标记是利用更便宜和更广泛可用的未标记数据的有效方法，并且可以在各种架构，数据增强策略和标记数据集的大小上获得性能增益。总的来说，我们表明，更好的教师模型会导致更好的学生模型，我们可以将昂贵的教师提炼成高效，简单的学生。具体来说，我们证明了伪标签训练的学生模型可以优于在3-10倍的标签样本量上训练的监督模型。使用PointPillars [24]，一个已有两年历史的架构，作为我们的学生模型，我们能够通过利用大量的伪标记数据来实现最先进的准确性。最后，我们证明了这些学生模型比监督模型更好地推广到一个新的领域，在这个领域中，我们只有未标记的数据，使伪标签训练成为无监督领域自适应的有效形式。
2021-03-02 cs.CV cs.LG
PseudoAugment: Learning to Use Unlabeled Data for Data Augmentation in Point Clouds
Waymo（Waymo公司）；Google（谷歌）
数据增强是点云数据三维检测中提高数据利用率、节省标注成本的重要技术。然而，到目前为止，现有的增强策略被设计为仅利用标记数据，这限制了数据的多样性。在本文中，我们认识到伪标记和数据增强是互补的，因此提出利用未标记的数据进行数据增强，以丰富训练数据。特别是，我们设计了三种新的基于伪标签的数据增强策略（PseudoAugments）来融合标记和伪标记的场景，包括帧（PseudoFrame），对象（PseudoBBox）和背景（PseudoBackground）。通过减少伪标记错误和生成不同的融合训练场景，伪增强优于伪标记。我们展示了基于点和基于体素的架构，不同的模型容量以及KITTI和Waymo开放数据集的伪增强。为了减轻超参数调整和迭代伪标记的成本，我们开发了一个基于人口的数据增强框架的三维检测，名为AutoPseudoAugment。与以前离线执行伪标记的工作不同，我们的框架一次性执行伪增广和超参数调整，以降低计算成本。在大规模Waymo开放数据集上的实验结果表明，我们的方法优于最先进的自动数据增强方法（PPBA）和自训练方法（伪标签）。特别地，与现有技术相比，AutoPseudoAugment在车辆和行人任务上的数据效率约为3倍和2倍。值得注意的是，AutoPseudoAugment几乎匹配完整的数据集训练结果，在车辆检测任务中只有10%的标记运行段。
2022-10-24 cs.CV
Selective Pseudo-Labeling with Reinforcement Learning for Semi-Supervised Domain Adaptation
Didi Chuxing（滴滴出行）；Carleton University（卡尔顿大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
最近的领域自适应方法在无监督领域自适应问题上取得了令人瞩目的进步。然而，在半监督领域自适应（SSDA）设置中，其中目标域具有几个可用的标记实例，这些方法可能无法提高性能。受领域自适应中伪标签有效性的启发，提出了一种基于强化学习的半监督领域自适应选择性伪标签方法.传统的伪标记方法很难平衡伪标记数据的正确性和代表性。为了解决这一限制，我们开发了一个深度Q学习模型来选择准确和有代表性的伪标记实例。此外，由于大间隔损失在学习小数据的判别特征时的能力，我们进一步提出了一种新的目标间隔损失用于我们的基础模型训练，以提高其判别能力。我们提出的方法进行了评估的几个基准数据集SSDA，并表现出优越的性能，所有的比较方法。
2020-12-07 cs.CV
POPCORN: Progressive Pseudo-labeling with Consistency Regularization and Neighboring
Univ. Bordeaux（波尔多大学）；Bordeaux INP（波尔多国立高等综合理工学院）；CNRS（法国国家科学研究中心）；LaBRI（波尔多计算机科学实验室）；IMB（波尔多数学研究所）；ITACA（信息与通信技术应用研究所）；Universitat Politècnica de València（瓦伦西亚理工大学）
半监督学习（SSL）使用未标记的数据来补偿注释图像的稀缺性和缺乏对未知领域的方法泛化，这是医学分割任务中的两个常见问题。在这项工作中，我们提出了POPCORN，一种新的方法相结合的一致性正则化和伪标记设计的图像分割。所提出的框架使用高级正则化来约束我们的分割模型，以便对具有相似分割的图像使用相似的潜在特征。POPCORN估计一个邻近图来选择从最简单的数据到更困难的数据，以确保准确的伪标签并限制确认偏差。应用于多发性硬化病变分割，我们的方法表现出竞争力的结果相比，其他国家的最先进的SSL策略。
2021-09-13 cs.CV
Non-iterative optimization of pseudo-labeling thresholds for training object detection models from multiple datasets
Visual Intelligence Research Laboratories NEC Corporation Kawasaki, Kanagawa, Japan
我们提出了一种非迭代法来优化伪标记阈值，用于从低成本数据集的集合中学习目标检测，每个数据集仅针对所有对象类的子集进行注释。解决这个问题的一种流行方法是首先训练教师模型，然后在训练学生模型时使用他们的自信预测作为伪地面实况标签。然而，为了获得最佳结果，必须调整预测置信度的阈值。这个过程通常涉及迭代搜索和学生模型的重复训练，并且非常耗时。因此，我们开发了一种方法，通过最大化验证数据集上的$F_β$分数来优化阈值，而无需迭代优化，该方法可以测量伪标签的质量，并且可以在不训练学生模型的情况下进行测量。我们的实验表明，我们提出的方法实现了一个mAP可比的COCO和VOC数据集上的网格搜索。
2022-10-19 cs.CV cs.LG eess.IV
Pseudo-Labeling Curriculum for Unsupervised Domain Adaptation
为了学习目标区分表示，使用伪标签是一种简单而有效的无监督领域自适应方法。然而，虚假伪标签的存在，这可能会对学习目标表示产生不利影响，仍然是一个重大挑战。为了克服这个问题，我们提出了一个伪标签课程的基础上，基于密度的聚类算法。由于具有高密度值的样本更有可能具有正确的伪标签，因此我们在早期阶段利用这些子集来训练我们的目标网络，并在后期阶段利用具有低密度值的数据子集。我们可以逐步提高网络生成伪标签的能力，因此这些带有伪标签的目标样本对于训练我们的模型是有效的。此外，我们提出了一个聚类约束，以提高学习的目标特征的区分能力。我们的方法在三个基准测试中实现了最先进的性能：Office-31，imageCLEF-DA和MPEG-Home。
2019-08-01 cs.CV
Pseudo-Labeling and Confirmation Bias in Deep Semi-Supervised Learning
Dublin City University（都柏林城市大学）
半监督学习，即对标记样本和未标记样本的联合学习，由于其在放松人类监督方面的关键作用，是一个活跃的研究课题。在图像分类的背景下，最近的进展，从未标记的样本学习主要集中在一致性正则化方法，鼓励不变的预测不同扰动的未标记的样本。相反，我们建议通过使用网络预测生成软伪标签来从未标记的数据中学习。我们发现，由于所谓的确认偏差，一个天真的伪标签过拟合到不正确的伪标签，并证明混合增强和设置每个小批量的最小标记样本数是有效的正则化技术，以减少它。所提出的方法实现了最先进的结果在CIFAR-10/100，SVHN，和Mini-ImageNet，尽管比其他方法简单得多。这些结果表明，单独的伪标记可以优于一致性正则化方法，而在以前的工作中假设相反。源代码可在https://git.io/fjQsC上获得。
2020-06-29 cs.CV
Dual Moving Average Pseudo-Labeling for Source-Free Inductive Domain Adaptation
Carleton University（卡尔顿大学）；CIFAR AI Chair（CIFAR人工智能讲席）；Amii（阿尔伯塔机器智能研究所）
无监督领域自适应通过将知识从源领域适应到目标领域来减少对深度学习中数据注释的依赖。出于隐私和效率考虑，无源领域自适应通过在不访问源数据的情况下将预训练的源模型适配到未标记的目标域来扩展无监督的领域自适应。然而，大多数现有的无源领域自适应方法集中在转导设置，其中目标训练集也是测试集。在本文中，我们解决无源领域自适应在更现实的归纳设置，目标训练和测试集是互斥的。提出了一种新的半监督微调方法--双滑动平均伪标记法（DMAPL），用于无源归纳领域自适应。我们首先根据预训练源模型的预测置信度得分将目标域中的未标记训练集分为伪标记置信子集和未标记置信度较低的子集。然后，我们提出了一个软标签的移动平均更新策略的基础上的移动平均原型分类器的未标记的子集，逐渐适应的源模型向目标域。实验表明，我们提出的方法达到了最先进的性能，并大大优于以前的方法。
2022-12-15 cs.CV cs.LG
Cross Pseudo Labeling For Weakly Supervised Video Anomaly Detection
本文提出CPL-VAD框架，通过跨伪标签实现视频异常检测与类别分类的双重提升，实验表明其在异常检测和类别识别上达到最优性能。
2026-03-13 cs.CV
Refined Pseudo labeling for Source-free Domain Adaptive Object Detection
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Nanjing Artificial Intelligence Research of IA（IA南京人工智能研究院）
域自适应目标检测（DAOD）假设标记的源数据和未标记的目标数据都可用于训练，但这种假设在现实世界的场景中并不总是成立。因此，提出了无源DAOD，以使源训练的检测器适应仅具有未标记目标数据的目标域。现有的无源DAOD方法通常使用伪标记，其中性能严重依赖于置信度阈值的选择。然而，大多数现有的工作采用一个单一的固定阈值的所有类来生成伪标签，忽略了不平衡的类分布，导致偏见的伪标签。在这项工作中，我们提出了一个完善的伪标签框架的无源DAOD。首先，为了生成无偏的伪标签，我们提出了一个类别感知的自适应阈值估计模块，它自适应地为每个类别提供合适的阈值。其次，为了减少不正确的盒回归，引入了一种定位感知的伪标签分配策略，将标签分为确定和不确定的标签，并分别进行优化。最后，在四个自适应任务上的大量实验证明了我们的方法的有效性。
2023-03-07 cs.CV
Action Images: End-to-End Policy Learning via Multiview Video Generation
UMass Amherst（马萨诸塞大学阿默斯特分校）；NVIDIA（英伟达）；Harvard University（哈佛大学）；Genesis AI
本文提出Action Images，通过多视图视频生成实现策略学习，利用像素化的动作表示，使视频模型本身成为零样本策略，提升视频-动作联合生成质量。
2026-04-15 cs.CV cs.RO
General Domain Adaptation Through Proportional Progressive Pseudo Labeling
University of Colorado Boulder（科罗拉多大学博尔德分校）
领域自适应是将已有标记的源领域知识转移到未标记的目标领域的过程。在过去的几年中，不同的领域自适应技术已经公布。这些方法的一个共同缺陷是，虽然它们可能在一种输入类型（如图像）上工作得很好，但当应用于其他输入类型（如文本或时间序列）时，它们的性能会下降。在本文中，我们介绍了比例渐进伪标记（PPPL），一个简单的，但有效的技术，可以在几行代码中实现，以建立一个更通用的领域自适应技术，可以应用于几种不同的输入类型。在训练阶段开始时，PPPL通过直接用伪标记的目标域样本训练模型，同时从训练集中排除更可能错误伪标记的样本，并推迟对这些样本的训练，从而逐步减少目标域分类错误。在6个不同的数据集上进行的实验表明，PPPL可以击败其他基线，并且具有更好的泛化能力，这些数据集包括异常检测、文本情感分析和图像分类等任务。
2020-12-23 cs.CR cs.CV cs.LG
3D-PL: Domain Adaptive Depth Estimation with 3D-aware Pseudo-Labeling
National Chiao Tung University（国立交通大学）；Phiar Technologies（Phiar科技公司）
对于单目深度估计，获取真实数据的地面实况并不容易，因此通常采用使用监督合成数据的领域自适应方法。然而，由于缺乏来自真实数据的监督，这仍然可能导致很大的域缺口。在本文中，我们开发了一个领域自适应框架，通过生成可靠的伪地面实况的深度从实际数据提供直接的监督。具体来说，我们提出了两种伪标签机制：1）基于2D的伪标签，通过测量图像内容相同但风格不同时深度预测的一致性; 2）3D感知的伪标签，通过点云完成网络学习在3D空间中完成深度值，从而在场景中提供更多的结构信息，以改进和生成更可靠的伪标签。在实验中，我们证明了我们的伪标记方法在各种设置中改善了深度估计，包括在训练期间使用立体声对。此外，所提出的方法在现实世界的数据集上表现良好，对几个国家的最先进的无监督领域自适应方法。
2022-09-19 cs.CV
Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning
Inception Institute of Artificial Intelligence（初始人工智能研究院）；University of Macau（澳门大学）；Terminus Group（特斯联集团）
无监督元学习的开创性方法CACTU是一种基于聚类的伪标记方法。这种方法是模型不可知的，可以与监督算法相结合，从未标记的数据中学习。然而，它经常遭受标签不一致或有限的多样性，这导致性能不佳。在这项工作中，我们证明，这是一个集群的嵌入空间中缺乏友好的属性的核心原因。我们通过最小化类间到类内的相似性比率来解决这个问题，以提供聚类友好的嵌入功能，并通过全面的实验来验证我们的方法。请注意，尽管在我们的嵌入空间中只使用了一个简单的聚类算法（k-means）来获得伪标签，但我们取得了显着的改进。此外，我们采用了渐进的评估机制，以获得更多的多样性样本，以进一步缓解有限的多样性问题。最后，我们的方法也是模型不可知的，可以很容易地集成到现有的监督方法。为了证明它的泛化能力，我们将其集成到两个代表性的算法：MAML和EP。三个主要的Few-Shot基准测试的结果清楚地表明，所提出的方法实现了显着的改进相比，国家的最先进的模型。值得注意的是，我们的方法在两个任务中也优于相应的监督方法。
2022-09-27 cs.CV cs.LG
Semi-supervised Medical Image Segmentation Method Based on Cross-pseudo Labeling Leveraging Strong and Weak Data Augmentation Strategies
Hangzhou Dianzi University（杭州电子科技大学）；Zhejiang University of Finance and Economics（浙江财经大学）；Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Shenzhen Children's Hospital（深圳市儿童医院）；Shenzhen Research Institute of Big Data（深圳市大数据研究院）
本文提出半监督模型DFCPS，结合Fixmatch概念与强弱数据增强策略，引入交叉伪监督机制，在Kvasir-SEG数据集上显著提升了医学图像分割的性能与泛化能力。
2024-02-17 cs.AI cs.CV
One-Shot Federated Unsupervised Domain Adaptation with Scaled Entropy Attention and Multi-Source Smoothed Pseudo Labeling
University of Windsor（温莎大学）
针对联邦域适应中的数据隐私、域偏移和多轮通信开销问题，提出单轮FUDA方法，通过SEA聚合可靠模型并结合MSPL与SSCE生成、净化伪标签，在四个基准上以更低成本超越现有方法。
2025-03-13 cs.CV cs.LG
Decoupled Pseudo-labeling for Semi-Supervised Monocular 3D Object Detection
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；Baidu Inc.（百度公司）；GuangDong Province Key Laboratory of Information Security Technology（广东省信息安全技术重点实验室）
本文提出解耦伪标签方法，通过分别处理2D/3D属性生成伪标签并投影深度梯度，解决半监督单目3D检测中预测错位和噪声深度监督问题，在KITTI上超越现有方法。
2024-11-05 cs.CV
Efficient Pre-trained Features and Recurrent Pseudo-Labeling in Unsupervised Domain Adaptation
Lehigh University（理海大学）
领域自适应（DA）在将知识从一个标注领域转移到另一个相似但不同的未标注领域时缓解了领域转移问题。然而，现有的模型通常使用一个ImageNet模型作为骨干，而不探索其他模型，并且微调或重新训练骨干ImageNet模型也很耗时。此外，伪标记已被用来提高在目标域中的性能，而如何生成可信的伪标签和显式对齐域分布还没有得到很好的解决。在本文中，我们展示了如何在无监督DA问题中有效地从17个著名的ImageNet模型中选择最佳的预训练特征。此外，我们还提出了一种使用最佳预训练特征（称为PRPL）的递归伪标记模型，以提高分类性能。为了显示PRPL的有效性，我们在三个基准数据集上进行了评估，Office+Caltech-10，Office-31和P2P-Home。大量的实验表明，我们的模型减少了计算时间，并将平均准确率分别提高到98.1%，92.4%和81.2%，大大超过了最先进的水平。
2021-05-01 cs.CV
Enhancing Close-up Novel View Synthesis via Pseudo-labeling
Australian Institute for Machine Learning, The University of Adelaide（阿德莱德大学澳大利亚机器学习研究院）
针对现有新视角合成方法在特写视角下渲染效果差的问题，提出基于伪标签的学习策略，同时构建专用数据集，实验验证了方法有效性。
2025-03-20 cs.AI cs.CV
Towards Micro-Action Recognition with Limited Annotations: An Asynchronous Pseudo Labeling and Training Approach
Hefei University of Technology（合肥工业大学）
本文针对微动作识别标注困难的问题，提出异步伪标签与训练框架APLT，通过半监督聚类生成更准确的伪标签、自适应阈值过滤噪声，并交替进行伪标签生成与模型训练，在三个MAR数据集上显著超越现有半监督学习方法。
2025-04-10 cs.CV
Open-Vocabulary Instance Segmentation via Robust Cross-Modal Pseudo-Labeling
Northeastern University（东北大学）；Adobe Research（奥多比研究院）
开放词汇表实例分割的目标是在没有掩码注释的情况下分割新的类。这是朝着减少费力的人工监督迈出的重要一步。大多数现有的作品首先在覆盖许多新类的标题图像上预训练模型，然后在具有掩码注释的有限基类上对其进行微调。然而，仅从字幕预训练中学习的高级文本信息不能有效地编码像素分割所需的细节。为了解决这个问题，我们提出了一个跨模态伪标签框架，它通过将标题中的单词语义与图像中对象掩码的视觉特征对齐来生成训练伪掩码。因此，我们的框架能够通过标题中的单词语义来标记新的类，以自我训练学生模型。为了解释伪掩模中的噪声，我们设计了一个强大的学生模型，该模型通过估计掩模噪声水平来选择性地提取掩模知识，从而减轻噪声伪掩模的不利影响。通过大量的实验，我们证明了我们的框架的有效性，其中我们显着提高了4.5%的MS-COCO和5.1%的大规模开放图像和概念字幕数据集相比，最先进的mAP得分。
2022-04-19 cs.CV
MMCIG: Multimodal Cover Image Generation for Text-only Documents and Its Dataset Construction via Pseudo-labeling
Chungnam National University（Chungnam 国立大学）；Nara Institute of Science and Technology (NAIST)（Nara 科学技术研究所）；Institute of Science Tokyo（东京科学研究所）
针对纯文本文档封面图像生成任务缺乏数据集的问题，提出多模态伪标签方法构建高质量数据集，通过对图像和字幕独立排序标注伪标签，实验证明其数据集更精准、生成图像质量更高。
2025-08-24 cs.CV
Towards Cross-Granularity Few-Shot Learning: Coarse-to-Fine Pseudo-Labeling with Visual-Semantic Meta-Embedding
Shanghai Jiao Tong University（上海交通大学）
少样本学习的目标是在测试时仅用少量样本快速适应新类别，这主要是通过元学习的思想来解决的。然而，元学习方法本质上是跨各种Few-Shot任务进行学习，因此仍然需要具有细粒度监督的大规模训练数据来导出广义模型，从而涉及过高的注释成本。在本文中，我们将Few-Shot分类范式推向一个更具挑战性的场景，即，交叉粒度Few-Shot分类，其中模型在训练期间仅观察粗标签，而预期在测试期间执行细粒度分类。这项任务在很大程度上减轻了注释成本，因为细粒度的标记通常需要强大的特定于领域的专业知识。为了弥合跨粒度的差距，我们近似细粒度的数据分布的贪婪聚类的每个粗类到伪细类根据图像嵌入的相似性。然后，我们提出了一个元嵌入器，共同优化视觉和语义歧视，在实例和粗类明智的，以获得一个良好的特征空间，这个粗到细的伪标记过程。广泛的实验和消融研究进行了三个代表性的数据集上证明我们的方法的有效性和鲁棒性。
2021-07-20 cs.CV cs.LG stat.ML
Semi-Supervised Variational Adversarial Active Learning via Learning to Rank and Agreement-Based Pseudo Labeling
The University of Texas at Arlington（德克萨斯大学阿灵顿分校）
针对变分对抗主动学习未利用任务信息和未标记数据训练的局限，提出基于排序的损失预测模块和半监督伪标签算法，在分类与分割基准上取得更优性能。
2024-08-23 cs.CV cs.LG
ProtoPur: Prototype-Purity Pseudo-Labeling for Weakly Supervised Instance Learning in Pathology
Sichuan University（四川大学）；Pittsburgh Institute, Sichuan University（四川大学匹兹堡学院）；West China Hospital, Sichuan University（四川大学华西医院）
针对病理学全切片图像实例级标注成本高的问题，提出ProtoPur原型纯度伪标签方法，利用冻结基础模型特征提升弱监督多实例学习的实例级性能，无需密集实例标注即可获取强实例监督信号。
2026-10-15 cs.CV cs.LG
Semi-supervised 3D Object Detection via Adaptive Pseudo-Labeling
Shanghai Jiao Tong University（上海交通大学）；East China Normal University（华东师范大学）；East China University of Science and Technology（华东理工大学）
三维目标检测是计算机视觉中的一项重要任务。现有的方法大多需要大量高质量的3D标注，采集成本高，特别是对于室外场景，由于点云的稀疏性和城市场景的复杂性，问题变得更加严重。半监督学习是一种很有前途的技术，以减轻数据注释问题。受此启发，我们提出了一种新的基于伪标记的半监督框架，用于室外3D目标检测任务。我们设计了自适应类置信度选择模块（ACCS）来生成高质量的伪标签。此外，我们提出了整体点云增强（HPCA）的未标记的数据，以提高鲁棒性。在KITTI基准测试上的实验证明了该方法的有效性。
2021-08-15 cs.CV
When Noise Meets Long-Tail: Feature-Threshold Dual Calibration for Robust Pseudo-Labeling
Waseda University（早稻田大学）；Dalian University of Technology（大连理工大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
针对语义分割中噪声与长尾分布共存导致伪标签退化的问题，提出FTC-Seg框架，通过特征级正交原型重建和阈值级自适应校准，在四个基准上显著提升尾部类别性能。
2026-09-29 cs.AI cs.CV
Cross-Model Pseudo-Labeling for Semi-Supervised Action Recognition
The Chinese University of Hong Kong（香港中文大学）；Microsoft Research Asia（微软亚洲研究院）；Nanyang Technological University（南洋理工大学）
半监督动作识别是一个具有挑战性但重要的任务，由于数据标注的高成本。解决这个问题的一种常见方法是为未标记的数据分配伪标签，然后将其用作训练中的额外监督。通常在最近的工作中，伪标签是通过在标记数据上训练模型来获得的，然后使用模型的置信预测来自我学习。在这项工作中，我们提出了一个更有效的伪标签计划，称为跨模型伪标签（CMPL）。具体地说，我们引入了一个轻量级的辅助网络，除了主骨干，并要求他们预测对方的伪标签。我们观察到，由于它们不同的结构偏差，这两个模型倾向于从相同的视频片段中学习互补的表示。因此，每个模型都可以通过利用跨模型预测作为监督来从其对应模型中受益。不同的数据分区协议上的实验表明，我们的框架显着改善现有的替代品。例如，CMPL仅使用RGB模态和$1\%$标记数据在Kinetics-400和UCF-101上实现了$17.6\%$和$25.1\%$ Top-1精度，分别通过$9.0\%$和$10.3\%$优于我们的基线模型FixMatch。
2022-04-18 cs.CV
