When Noise Meets Long-Tail: Feature-Threshold Dual Calibration for Robust Pseudo-Labeling
Waseda University(早稻田大学);Dalian University of Technology(大连理工大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
针对语义分割中噪声与长尾分布共存导致伪标签退化的问题,提出FTC-Seg框架,通过特征级正交原型重建和阈值级自适应校准,在四个基准上显著提升尾部类别性能。
2026-09-29 cs.AI cs.CV
Decoupled Pseudo-labeling for Semi-Supervised Monocular 3D Object Detection
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院);Baidu Inc.(百度公司);GuangDong Province Key Laboratory of Information Security Technology(广东省信息安全技术重点实验室)
本文提出解耦伪标签方法,通过分别处理2D/3D属性生成伪标签并投影深度梯度,解决半监督单目3D检测中预测错位和噪声深度监督问题,在KITTI上超越现有方法。
2024-11-05 cs.CV
MixPro: Data Augmentation with MaskMix and Progressive Attention Labeling for Vision Transformer
Beijing University of Chemical Technology(北京化工大学);Microsoft Research Asia(微软亚洲研究院);Singapore University of Technology and Design(新加坡科技设计大学)
针对TransMix在图像裁剪和早期注意力图不可靠的问题,提出MaskMix与渐进注意力标签(PAL)相结合的数据增强方法MixPro,在ImageNet分类及多种下游任务上提升ViT模型的性能、迁移性和鲁棒性。
2023-08-07 cs.CV
Open-Vocabulary Instance Segmentation via Robust Cross-Modal Pseudo-Labeling
Northeastern University(东北大学);Adobe Research(奥多比研究院)
开放词汇表实例分割的目标是在没有掩码注释的情况下分割新的类。这是朝着减少费力的人工监督迈出的重要一步。大多数现有的作品首先在覆盖许多新类的标题图像上预训练模型,然后在具有掩码注释的有限基类上对其进行微调。然而,仅从字幕预训练中学习的高级文本信息不能有效地编码像素分割所需的细节。为了解决这个问题,我们提出了一个跨模态伪标签框架,它通过将标题中的单词语义与图像中对象掩码的视觉特征对齐来生成训练伪掩码。因此,我们的框架能够通过标题中的单词语义来标记新的类,以自我训练学生模型。为了解释伪掩模中的噪声,我们设计了一个强大的学生模型,该模型通过估计掩模噪声水平来选择性地提取掩模知识,从而减轻噪声伪掩模的不利影响。通过大量的实验,我们证明了我们的框架的有效性,其中我们显着提高了4.5%的MS-COCO和5.1%的大规模开放图像和概念字幕数据集相比,最先进的mAP得分。
2022-04-19 cs.CV
Semi-supervised 3D Object Detection via Adaptive Pseudo-Labeling
Shanghai Jiao Tong University(上海交通大学);East China Normal University(华东师范大学);East China University of Science and Technology(华东理工大学)
三维目标检测是计算机视觉中的一项重要任务。现有的方法大多需要大量高质量的3D标注,采集成本高,特别是对于室外场景,由于点云的稀疏性和城市场景的复杂性,问题变得更加严重。半监督学习是一种很有前途的技术,以减轻数据注释问题。受此启发,我们提出了一种新的基于伪标记的半监督框架,用于室外3D目标检测任务。我们设计了自适应类置信度选择模块(ACCS)来生成高质量的伪标签。此外,我们提出了整体点云增强(HPCA)的未标记的数据,以提高鲁棒性。在KITTI基准测试上的实验证明了该方法的有效性。
2021-08-15 cs.CV
An Empirical Study of Pseudo-Labeling for Image-based 3D Object Detection
University of Sydney(悉尼大学);Tsinghua University(清华大学);Shanghai AI Lab(上海人工智能实验室);SenseTime(商汤科技)
基于图像的3D检测是自动驾驶感知系统不可或缺的组成部分。然而,该算法的性能仍不尽如人意,其中一个主要原因是训练数据有限。不幸的是,在3D空间中注释对象非常耗时/消耗资源,这使得很难任意扩展训练集。在这项工作中,我们专注于半监督的方式,并探讨一种更便宜的替代方案,即伪标签,利用未标记的数据的可行性。为此,我们进行了大量的实验,以调查是否伪标签可以提供有效的监督基线模型在不同的设置。实验结果不仅验证了伪标记机制在基于图像的三维检测中的有效性(例如,在单眼设置下,我们在KITTI-3D测试集上实现了20.23 AP的中等水平,没有铃声和口哨声,将基线模型提高了6.03 AP),而且还显示了几个有趣和值得注意的发现(例如,使用伪标签训练的模型比基于相同训练数据使用地面实况注释训练的模型表现更好)。我们希望这项工作可以为半监督环境下基于图像的3D检测社区提供见解。代码、伪标签和预训练模型将公开提供。
2022-08-15 cs.CV
COARSE: Collaborative Pseudo-Labeling with Coarse Real Labels for Off-Road Semantic Segmentation
Jet Propulsion Laboratory, California Institute of Technology(喷气推进实验室,加州理工学院);EPFL, Ecole Polytechnique Federale de Lausanne(苏黎世联邦理工学院)
COARSE通过协作伪标签与粗略真实标签提升越野语义分割的域适应能力,实验证明在多生物环境下的有效性。
2025-03-05 cs.AI cs.CV cs.RO
Source-Free Domain Adaptive Fundus Image Segmentation with Denoised Pseudo-Labeling
The Chinese University of Hong Kong(香港中文大学)
域适配通常需要访问源域数据以利用它们的分布信息来与目标数据进行域对齐。然而,在许多现实世界的场景中,由于隐私问题,在目标域中的模型适配期间,源数据可能不可访问。研究了无源无监督域自适应问题,即只有源模型和未标记的目标数据可用于模型自适应。针对这一问题,提出了一种新的去噪伪标签方法,该方法有效地利用了源模型和未标记的目标数据,以促进模型自适应伪标签。重要的是,考虑到从源模型生成的伪标签不可避免地由于域移位而带有噪声,我们进一步引入了两种互补的像素级和类级去噪方案,其具有不确定性估计和原型估计,以减少噪声伪标签,并选择可靠的伪标签以提高伪标签的功效。跨域眼底图像分割的实验结果表明,在不使用任何源图像或改变源训练,我们的方法实现了可比的,甚至更高的性能比最先进的源依赖无监督域自适应方法。
2021-09-19 cs.CV eess.IV
MSPL: Multi-Step Pseudo-Labeling for Open-Vocabulary Object Detection
KAIST AI(韩国韩世大学AI研究所);Boston University(波士顿大学)
提出MSPL框架,通过多步视觉推理(目标定位、类别识别、背景确认)生成伪标签,解决开放词汇检测中单步图像-文本匹配忽略中间推理步骤的问题,在OV-COCO和OV-LVIS上取得最优性能。
2026-06-24 cs.CV
Data-Efficient Semantic Segmentation of 3D Point Clouds via Open-Vocabulary Image Segmentation-based Pseudo-Labeling
University of Yamanashi(山梨大学)
本文提出PLOVIS算法,利用开放词汇图像分割模型生成伪标签,解决3D点云分割中训练数据不足的问题,通过两阶段过滤和类平衡内存银行提升训练效果,实验表明在数据稀缺条件下优于现有方法。
2026-10-22 cs.CV
HPL-ESS: Hybrid Pseudo-Labeling for Unsupervised Event-based Semantic Segmentation
Shanghai AI Laboratory(上海人工智能实验室);Loughborough University(拉夫堡大学);Northwestern Polytechnical University(西北工业大学);CUHK-Shenzhen(香港中文大学(深圳));Institute of Artificial Intelligence (TeleAI)(人工智能研究所(腾讯人工智能实验室))
本文提出用于无监督事件相机语义分割的混合伪标签框架HPL-ESS,通过结合自训练与离线事件图像重建生成双源伪标签,并利用噪声标签学习策略与软原型对齐模块提升标签质量与特征一致性,在DSEC-Semantic数据集上大幅超越现有方法。
2024-03-25 cs.CV
A Sensor Agnostic Domain Generalization Framework for Leveraging Geospatial Foundation Models: Enhancing Semantic Segmentation viaSynergistic Pseudo-Labeling and Generative Learning
University of Houston(休斯敦大学);Purdue University(普渡大学)
本文提出一种传感器无关的域泛化框架,结合软对齐伪标签与源到目标生成式预训练,利用地理空间基础模型提升遥感语义分割的跨传感器适应性与性能。
2025-05-02 cs.CV
Teachers in concordance for pseudo-labeling of 3D sequential data
Czech Technical University in Prague(布拉格捷克理工大学)
本文提出Concordance方法,通过训练多个利用不同时间信息的教师模型并融合其伪标签,在仅使用20%人工标签的情况下提升3D语义分割与目标检测性能,超越部分全监督方法。
2023-07-05 cs.CV cs.RO
Online pseudo labeling for polyp segmentation with momentum networks
Sun Asterisk R&D Unit(Sun Asterisk研发部);Hanoi University of Science and Technology(河内理工大学)
语义分割是医学图像诊断系统开发中的一项重要任务。然而,构建带注释的医疗数据集是昂贵的。因此,在这种情况下,半监督方法是有意义的。在半监督学习中,标签的质量对模型的性能起着至关重要的作用。在这项工作中,我们提出了一种新的伪标签策略,提高了用于训练学生网络的伪标签的质量。我们遵循多阶段半监督训练方法,该方法在标记的数据集上训练教师模型,然后使用经过训练的教师渲染伪标签以进行学生训练。通过这样做,伪标签将随着训练的进行而更新和更精确。以前的方法和我们的方法之间的关键区别是,我们在学生培训过程中更新教师模型。因此,在学生训练过程中提高了伪标签的质量。我们还提出了一种简单但有效的策略,使用动量模型来提高伪标签的质量-在训练过程中原始模型的缓慢复制版本。通过在学生训练期间应用动量模型并结合重新渲染伪标签,我们在五个数据集上实现了平均84.1%的Dice Score(即,Kvarsir、CVC-ClinicDB、ETIS-LaribPolypDB、CVC-ColonDB和CVC-300),只有20%的数据集用作标记数据。我们的结果超过了3%,甚至在某些数据集上接近完全监督的结果。我们的源代码和预训练模型可在https://github.com/sun-asterisk-research/在线学习ssl上获得
2022-09-29 cs.CV
UniLiPs: Unified LiDAR Pseudo-Labeling with Geometry-Grounded Dynamic Scene Decomposition
TORC Robotics(TORC机器人公司);Politecnico of Milan(米兰理工学院);Princeton University(普林斯顿大学)
本文提出UniLiPs方法,通过利用激光雷达扫描的时空几何一致性,将文本和2D视觉模型的线索直接融合到3D中,生成3D语义标签、包围盒和密集点云,验证了其在三个数据集上的鲁棒性。
2026-01-08 cs.CV
Non-iterative optimization of pseudo-labeling thresholds for training object detection models from multiple datasets
Visual Intelligence Research Laboratories NEC Corporation Kawasaki, Kanagawa, Japan
我们提出了一种非迭代法来优化伪标记阈值,用于从低成本数据集的集合中学习目标检测,每个数据集仅针对所有对象类的子集进行注释。解决这个问题的一种流行方法是首先训练教师模型,然后在训练学生模型时使用他们的自信预测作为伪地面实况标签。然而,为了获得最佳结果,必须调整预测置信度的阈值。这个过程通常涉及迭代搜索和学生模型的重复训练,并且非常耗时。因此,我们开发了一种方法,通过最大化验证数据集上的$F_β$分数来优化阈值,而无需迭代优化,该方法可以测量伪标签的质量,并且可以在不训练学生模型的情况下进行测量。我们的实验表明,我们提出的方法实现了一个mAP可比的COCO和VOC数据集上的网格搜索。
2022-10-19 cs.CV cs.LG eess.IV
Foundation Model-guided Iteratively Prompting and Pseudo-Labeling for Partially Labeled Medical Image Segmentation
Department of Biomedical Engineering, Columbia University(哥伦比亚大学生物医学工程系);Department of Radiation Oncology, Columbia University Irving Medical Center(哥伦比亚大学欧文医学中心放射肿瘤科);Data Science Institute, Columbia University(哥伦比亚大学数据科学研究所);Herbert Irving Comprehensive Cancer Center, Columbia University(哥伦比亚大学赫伯特·欧文综合癌症中心);Department of Radiation Oncology, Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院放射肿瘤科)
本文提出IPnP框架,通过训练网络与冻结基础模型协作,迭代生成并优化未标注器官的伪标签,提升部分标注条件下医学图像分割性能。
2026-04-01 cs.CV
Pseudo-labeling for Scalable 3D Object Detection
Google Brain(谷歌大脑);Waymo(威摩科技)
为了安全地部署自动驾驶汽车,车载感知系统必须在各种环境和地理位置上以高精度可靠地工作。在新领域中提高这种系统的功效的最常见的技术之一涉及收集大的标记数据集,但是获得这种数据集可能非常昂贵,特别是如果每个新的部署地理位置需要具有昂贵的3D限界框注释的附加数据。我们证明了用于3D目标检测的伪标记是利用更便宜和更广泛可用的未标记数据的有效方法,并且可以在各种架构,数据增强策略和标记数据集的大小上获得性能增益。总的来说,我们表明,更好的教师模型会导致更好的学生模型,我们可以将昂贵的教师提炼成高效,简单的学生。具体来说,我们证明了伪标签训练的学生模型可以优于在3-10倍的标签样本量上训练的监督模型。使用PointPillars [24],一个已有两年历史的架构,作为我们的学生模型,我们能够通过利用大量的伪标记数据来实现最先进的准确性。最后,我们证明了这些学生模型比监督模型更好地推广到一个新的领域,在这个领域中,我们只有未标记的数据,使伪标签训练成为无监督领域自适应的有效形式。
2021-03-02 cs.CV cs.LG
Unified Unsupervised and Sparsely-Supervised 3D Object Detection by Semantic Pseudo-Labeling and Prototype Learning
Institute of Medical Robotics, Shanghai Jiao Tong University(上海交通大学医疗机器人研究院);Key Laboratory of System Control and Information Processing, Ministry of Education of China(系统控制与信息处理教育部重点实验室)
本文提出SPL框架,通过语义伪标签和原型学习统一无监督和稀疏监督3D目标检测,生成高质量伪标签并稳定特征学习,实验表明在KITTI和nuScenes数据集上优于现有方法。
2026-04-12 cs.CV
Class-Balanced Pixel-Level Self-Labeling for Domain Adaptive Semantic Segmentation
The Hong Kong Polytechnic University(香港理工大学);Dalian University of Technology(大连理工大学)
领域自适应语义分割的目的是在源领域数据的监督下学习模型,并在未标记的目标领域上产生令人满意的稠密预测。这个具有挑战性的任务的一个流行的解决方案是自我训练,它选择目标样本上的高分预测作为训练的伪标签。然而,产生的伪标签往往包含大量的噪声,因为该模型偏向于源域以及大多数类别。为了解决上述问题,我们建议直接探索目标域数据的固有像素分布,而不是严重依赖于源域。具体来说,我们同时聚类像素和纠正伪标签与获得的集群分配。这个过程是以在线方式完成的,因此伪标签可以与分割模型共同进化,而无需额外的训练轮。为了克服长尾类别上的类不平衡问题,我们采用了分布对齐技术来强制集群分配的边缘类分布接近伪标签。所提出的方法,即类平衡像素级自标记(CPSL),提高了目标域上的分割性能比国家的最先进的大幅度,特别是长尾类别。
2022-03-18 cs.CV
Striving for Simplicity: Simple Yet Effective Prior-Aware Pseudo-Labeling for Semi-Supervised Ultrasound Image Segmentation
Wuhan University of Technology(武汉理工大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);MedAI Technology (Wuxi) Co. Ltd.(MedAI科技(无锡)有限公司);Technical University of Munich(慕尼黑工业大学)
针对半监督超声图像分割中标注数据稀缺、现有方法复杂且易生成不合理分割结果的问题,提出结合对抗学习形状先验的简单伪标记方法,通过编码器-双解码器网络实现正则化,在两个基准上达到最优性能,提供强基线。
2025-03-18 cs.CV eess.IV
ProPL: Universal Semi-Supervised Ultrasound Image Segmentation via Prompt-Guided Pseudo-Labeling
MedAI Technology (Wuxi) Co. Ltd.(MedAI技术(无锡)有限公司)
本文针对现有超声分割方法泛用性不足的问题,提出通用半监督分割框架ProPL,配套构建多器官多任务超声数据集,实验证明其性能优于现有最优方法。
2025-11-19 cs.CV
Pseudo-Labeling Enhanced by Privileged Information and Its Application to In Situ Sequencing Images
Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所)
本文提出PLePI通用策略,将特权信息融入教师-学生自训练中的伪标签生成,以解决标签稀缺目标检测问题,并在ISS图像和COCO基准上验证了其有效性。
2023-06-28 cs.CV
ChessMix: Spatial Context Data Augmentation for Remote Sensing Semantic Segmentation
Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学)
与图像分类和目标检测等任务相比,标记语义分割数据集是一个昂贵且费力的过程。对于遥感应用尤其如此,因为这些应用不仅处理极高空间分辨率的数据,而且通常还需要该领域专家的知识来进行人工标记。数据增强技术有助于在标记样本少且不平衡的情况下改进深度学习模型。在这项工作中,我们提出了一种新的数据增强方法,侧重于探索遥感语义分割的空间背景。这种方法ChessMix通过将数据集中变换的小面片混合在棋盘状网格中,从现有训练集中创建新的合成图像。ChessMix优先考虑具有更多最稀有类示例的补丁,以缓解不平衡问题。在三个不同的知名遥感数据集的结果表明,这是一个有前途的方法,有助于提高网络的性能,特别是在数据集的可用数据很少。结果还表明,与广泛使用的最常见的数据增强方法相比,ChessMix能够改善标记像素较少的对象的分割。
2021-08-26 cs.CV cs.LG
Negative Pseudo Labeling using Class Proportion for Semantic Segmentation in Pathology
Kyushu University(九州大学);Kyoto University Hospital(京都大学医院);National Institute of Informatics(国立信息学研究所)
我们提出了一种弱监督细胞跟踪方法,该方法可以训练仅使用“细胞检测”的注释(即,细胞位置的坐标),其中细胞位置可以通过核染色容易地获得。首先,我们训练一个联合检测CNN,它通过使用弱标签来检测连续帧中的细胞。我们的关键假设是,协同检测CNN除了检测之外,还隐式地学习关联。为了获得关联信息,我们提出了一种向后和向前传播的方法,该方法分析了协同检测CNN输出的检测图中细胞位置的对应关系。实验结果表明,该方法通过对协同检测CNN的分析,能够实现位置匹配。即使该方法只使用弱监督,我们的方法的性能几乎是相同的国家的最先进的监督方法。
2020-07-16 cs.CV
PseudoAugment: Learning to Use Unlabeled Data for Data Augmentation in Point Clouds
Waymo(Waymo公司);Google(谷歌)
数据增强是点云数据三维检测中提高数据利用率、节省标注成本的重要技术。然而,到目前为止,现有的增强策略被设计为仅利用标记数据,这限制了数据的多样性。在本文中,我们认识到伪标记和数据增强是互补的,因此提出利用未标记的数据进行数据增强,以丰富训练数据。特别是,我们设计了三种新的基于伪标签的数据增强策略(PseudoAugments)来融合标记和伪标记的场景,包括帧(PseudoFrame),对象(PseudoBBox)和背景(PseudoBackground)。通过减少伪标记错误和生成不同的融合训练场景,伪增强优于伪标记。我们展示了基于点和基于体素的架构,不同的模型容量以及KITTI和Waymo开放数据集的伪增强。为了减轻超参数调整和迭代伪标记的成本,我们开发了一个基于人口的数据增强框架的三维检测,名为AutoPseudoAugment。与以前离线执行伪标记的工作不同,我们的框架一次性执行伪增广和超参数调整,以降低计算成本。在大规模Waymo开放数据集上的实验结果表明,我们的方法优于最先进的自动数据增强方法(PPBA)和自训练方法(伪标签)。特别地,与现有技术相比,AutoPseudoAugment在车辆和行人任务上的数据效率约为3倍和2倍。值得注意的是,AutoPseudoAugment几乎匹配完整的数据集训练结果,在车辆检测任务中只有10%的标记运行段。
2022-10-24 cs.CV
SPICE: Semantic Pseudo-labeling for Image Clustering
Rensselaer Polytechnic Institute(伦斯勒理工学院);Fudan University(复旦大学);Shanghai Center for Brain Science and Brain-Inspired Technology(上海脑科学与类脑研究中心)
样本间的相似性和类间的差异性是图像聚类的两个重要方面。然而,目前的深度聚类方法遭受的特征相似性或语义差异的不准确估计。在本文中,我们提出了一个基于语义伪标记的图像聚类(SPICE)框架,该框架将聚类网络划分为一个特征模型,用于测量实例级的相似性和聚类头,用于确定集群级的差异。我们设计了两个语义感知的伪标签算法,原型伪标签,和可靠的伪标签,使准确和可靠的自我监督聚类。在不使用任何真实标记的情况下,我们分三个阶段对聚类网络进行优化:1)通过对比学习训练特征模型,以度量实例相似度; 2)使用原型伪标记算法训练聚类头,以识别聚类语义; 3)使用可靠的伪标记算法联合训练特征模型和聚类头,以提高聚类性能。大量的实验结果表明,SPICE实现了显着的改进(~10%),现有的方法,并建立了新的国家的最先进的聚类结果在六个图像基准数据集方面的三个流行的指标。重要的是,SPICE大大减少了无监督分类和全监督分类之间的差距;例如,在CIFAR-10上只有2%(91.8%对93.8%)的准确性差异。我们的代码已在https://github.com/niuchuangnn/SPICE上公开。
2022-01-14 cs.AI cs.CV
Multiview Pseudo-Labeling for Semi-supervised Learning from Video
Facebook AI Research (FAIR)(脸书人工智能研究院)
我们提出了一个多视图伪标记的方法来视频学习,一个新的框架,使用互补的意见的形式的外观和运动信息的半监督学习在视频。互补视图有助于在未标记的视频上获得更可靠的伪标签,以学习比纯监督数据更强的视频表示。虽然我们的方法利用了多个视图,但它仍然训练了一个跨外观和运动输入共享的模型,因此,通过设计,在推理时不会产生额外的计算开销。在多个视频识别数据集上,我们的方法大大优于其监督对应,并与以前在自监督视频表示学习中的标准基准上的工作相比毫不逊色。
2021-04-01 cs.AI cs.CV cs.LG
A formal approach to good practices in Pseudo-Labeling for Unsupervised Domain Adaptive Re-Identification
Université Paris-Saclay, CEA, List(巴黎萨克雷大学,法国原子能和替代能源委员会,List研究所);Normandie Univ, INSA Rouen, LITIS(诺曼底大学,鲁昂国立应用科学学院,信息处理与系统实验室)
伪标签的使用是为了以最佳性能解决无监督域自适应(UDA)重新识别(re-ID)。事实上,这一系列方法已经产生了几个有效的UDA re-ID特定框架。在这些工作中,提高伪标签UDA re-ID性能的研究方向多种多样,主要基于直觉和实验:细化伪标签,减少伪标签中错误的影响......很难从中推断出可以在任何伪标签方法中实现的一般良好实践,以持续提高其性能。针对这一关键问题,提出了一种新的伪标记UDA re-ID理论观点。贡献有三方面:(i)伪标记UDA re-ID的新理论框架,通过UDA re-ID性能的新的通用学习上限进行形式化。(ii)伪标记的一般良好实践,直接推导出所提出的理论框架的解释,以提高目标的重新识别性能。(iii)对具有挑战性的人员和车辆跨数据集重新识别任务进行了广泛的实验,显示了各种最先进的方法和各种建议的良好实践实现的一致性能改进。
2022-02-02 cs.CV
EnergyMatch: Energy-based Pseudo-Labeling for Semi-Supervised Learning
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
半监督学习(SSL)中的最新方法将一致性正则化与基于置信度的伪标记相结合。为了获得高质量的伪标签,通常采用高置信度阈值。然而,已经表明,对于远离训练数据的样本,深度网络中基于softmax的置信度分数可以任意高,因此,即使是高置信度的未标记样本的伪标签也可能仍然不可靠。在这项工作中,我们提出了一个新的伪标签视角:而不是依赖于模型置信度,我们而是衡量未标记的样本是否可能是“分布中”;即,接近当前的训练数据。为了分类未标记的样本是“分布内”还是“分布外”,我们采用来自分布外检测文献的能量得分。随着训练的进行,越来越多的未标记样本变得分布并有助于训练,组合的标记和伪标记数据可以更好地近似真实分布以改进模型。实验表明,我们的基于能量的伪标记方法,虽然概念上很简单,显着优于基于信心的方法不平衡的SSL基准,并实现类平衡数据的竞争力的表现。例如,当不平衡比高于50时,它会使CIFAR 10-LT的绝对精度提高4-6%。当与最先进的长尾SSL方法相结合时,可以得到进一步的改进。
2022-06-13 cs.AI cs.CV cs.LG
Unpaired Modality Translation for Pseudo Labeling of Histology Images
Mila - Québec Artificial Intelligence Institute(米拉 - 魁北克人工智能研究所);Polytechnique Montréal(蒙特利尔理工学院)
本文提出基于无监督图像转换的显微图像伪标签流程,在无需目标域标注的情况下跨模态生成伪标签,并在三个差异递增的图像域验证其有效性。
2024-12-03 cs.AI cs.CV eess.IV
Enhancing Nighttime Vehicle Detection with Day-to-Night Style Transfer and Labeling-Free Augmentation
Smart Mobility and Infrastructure Lab(智能交通与基础设施实验室);College of Engineering(工程学院);University of Georgia(佐治亚大学)
针对夜间低光条件下目标检测训练数据标注困难的问题,提出一种结合 CARLA 合成数据与 Efficient Attention GAN 进行日间到夜间风格迁移的免标注数据增强框架,通过微调 YOLO11 模型显著提升了乡村夜间环境下的车辆检测性能。
2024-12-21 cs.AI cs.CV stat.ML
Selective Pseudo-Labeling with Reinforcement Learning for Semi-Supervised Domain Adaptation
Didi Chuxing(滴滴出行);Carleton University(卡尔顿大学);Beijing University of Posts and Telecommunications(北京邮电大学)
最近的领域自适应方法在无监督领域自适应问题上取得了令人瞩目的进步。然而,在半监督领域自适应(SSDA)设置中,其中目标域具有几个可用的标记实例,这些方法可能无法提高性能。受领域自适应中伪标签有效性的启发,提出了一种基于强化学习的半监督领域自适应选择性伪标签方法.传统的伪标记方法很难平衡伪标记数据的正确性和代表性。为了解决这一限制,我们开发了一个深度Q学习模型来选择准确和有代表性的伪标记实例。此外,由于大间隔损失在学习小数据的判别特征时的能力,我们进一步提出了一种新的目标间隔损失用于我们的基础模型训练,以提高其判别能力。我们提出的方法进行了评估的几个基准数据集SSDA,并表现出优越的性能,所有的比较方法。
2020-12-07 cs.CV
Enhancing Close-up Novel View Synthesis via Pseudo-labeling
Australian Institute for Machine Learning, The University of Adelaide(阿德莱德大学澳大利亚机器学习研究院)
针对现有新视角合成方法在特写视角下渲染效果差的问题,提出基于伪标签的学习策略,同时构建专用数据集,实验验证了方法有效性。
2025-03-20 cs.AI cs.CV
Curriculum Labeling: Revisiting Pseudo-Labeling for Semi-Supervised Learning
University of Virginia(弗吉尼亚大学)
在本文中,我们重新审视伪标签的思想,在半监督学习的上下文中,学习算法可以访问一个小的一组标记的样本和一个大的未标记的样本。伪标记的工作原理是通过使用在标记样本和任何先前伪标记样本的组合上训练的模型将伪标记应用于未标记集合中的样本,并在自训练周期中迭代地重复该过程。当前的方法似乎已经放弃了这种方法,而倾向于一致性正则化方法,该方法在未标记样本上的不同类型的自监督损失和标记样本上的标准监督损失的组合下训练模型。我们的经验表明,伪标记实际上可以与最先进的竞争,同时对未标记集中的分布外样本更具弹性。我们确定了两个关键因素,使伪标签,以取得如此显着的结果(1)应用课程学习原则和(2)避免概念漂移,通过重新启动模型参数之前,每个自我训练周期。我们在CIFAR-10上仅使用4,000个标记样本获得了94.91%的准确度,在Imagenet-ILSVRC上仅使用10%的标记样本获得了68.87%的top-1准确度。代码可在https://github.com/uvavision/Curriculum-Labeling上获得
2020-12-10 cs.CV cs.LG stat.ML
Pseudo-Labeling Curriculum for Unsupervised Domain Adaptation
为了学习目标区分表示,使用伪标签是一种简单而有效的无监督领域自适应方法。然而,虚假伪标签的存在,这可能会对学习目标表示产生不利影响,仍然是一个重大挑战。为了克服这个问题,我们提出了一个伪标签课程的基础上,基于密度的聚类算法。由于具有高密度值的样本更有可能具有正确的伪标签,因此我们在早期阶段利用这些子集来训练我们的目标网络,并在后期阶段利用具有低密度值的数据子集。我们可以逐步提高网络生成伪标签的能力,因此这些带有伪标签的目标样本对于训练我们的模型是有效的。此外,我们提出了一个聚类约束,以提高学习的目标特征的区分能力。我们的方法在三个基准测试中实现了最先进的性能:Office-31,imageCLEF-DA和MPEG-Home。
2019-08-01 cs.CV
Pseudo-Labeling and Confirmation Bias in Deep Semi-Supervised Learning
Dublin City University(都柏林城市大学)
半监督学习,即对标记样本和未标记样本的联合学习,由于其在放松人类监督方面的关键作用,是一个活跃的研究课题。在图像分类的背景下,最近的进展,从未标记的样本学习主要集中在一致性正则化方法,鼓励不变的预测不同扰动的未标记的样本。相反,我们建议通过使用网络预测生成软伪标签来从未标记的数据中学习。我们发现,由于所谓的确认偏差,一个天真的伪标签过拟合到不正确的伪标签,并证明混合增强和设置每个小批量的最小标记样本数是有效的正则化技术,以减少它。所提出的方法实现了最先进的结果在CIFAR-10/100,SVHN,和Mini-ImageNet,尽管比其他方法简单得多。这些结果表明,单独的伪标记可以优于一致性正则化方法,而在以前的工作中假设相反。源代码可在https://git.io/fjQsC上获得。
2020-06-29 cs.CV
Cross Pseudo Labeling For Weakly Supervised Video Anomaly Detection
本文提出CPL-VAD框架,通过跨伪标签实现视频异常检测与类别分类的双重提升,实验表明其在异常检测和类别识别上达到最优性能。
2026-03-13 cs.CV
In Defense of Pseudo-Labeling: An Uncertainty-Aware Pseudo-label Selection Framework for Semi-Supervised Learning
Center for Research in Computer Vision(计算机视觉研究中心);University of Central Florida(中佛罗里达大学)
目前半监督学习的研究主要集中在基于一致性正则化的学习方法上,这些方法具有很好的性能。然而,它们严重依赖于特定领域的数据增强,这并不容易为所有数据模式生成。伪标记(PL)是一种通用的SSL方法,它没有这种约束,但在其原始公式中表现相对较差。我们认为PL表现不佳是由于校准不良的模型的错误高置信度预测;这些预测生成许多不正确的伪标签,导致噪声训练。我们提出了一个不确定性感知的伪标签选择(UPS)框架,通过大幅减少训练过程中遇到的噪声量来提高伪标签的准确性。此外,UPS概括了伪标签过程,允许创建负伪标签;这些负伪标签可用于多标签分类以及负学习以改进单标签分类。与最近的SSL方法相比,我们在CIFAR-10和CIFAR-100数据集上实现了强大的性能。此外,我们证明了我们的方法在视频数据集UCF-101和多标签数据集Pascal VOC上的多功能性。
2021-04-19 cs.CV cs.LG
3D-PL: Domain Adaptive Depth Estimation with 3D-aware Pseudo-Labeling
National Chiao Tung University(国立交通大学);Phiar Technologies(Phiar科技公司)
对于单目深度估计,获取真实数据的地面实况并不容易,因此通常采用使用监督合成数据的领域自适应方法。然而,由于缺乏来自真实数据的监督,这仍然可能导致很大的域缺口。在本文中,我们开发了一个领域自适应框架,通过生成可靠的伪地面实况的深度从实际数据提供直接的监督。具体来说,我们提出了两种伪标签机制:1)基于2D的伪标签,通过测量图像内容相同但风格不同时深度预测的一致性; 2)3D感知的伪标签,通过点云完成网络学习在3D空间中完成深度值,从而在场景中提供更多的结构信息,以改进和生成更可靠的伪标签。在实验中,我们证明了我们的伪标记方法在各种设置中改善了深度估计,包括在训练期间使用立体声对。此外,所提出的方法在现实世界的数据集上表现良好,对几个国家的最先进的无监督领域自适应方法。
2022-09-19 cs.CV
MAPL: Memory Augmentation and Pseudo-Labeling for Semi-Supervised Anomaly Detection
Hebei University of Technology(河北工业大学)
针对工业表面缺陷检测中未标注数据多、异常难识别的问题,提出MAPL,结合异常模拟、单分类器集成伪标签和记忆增强机制,在BHAD上较MemSeg提升5.1% AUROC。
2025-05-11 cs.CV eess.IV
Efficient Pre-trained Features and Recurrent Pseudo-Labeling in Unsupervised Domain Adaptation
Lehigh University(理海大学)
领域自适应(DA)在将知识从一个标注领域转移到另一个相似但不同的未标注领域时缓解了领域转移问题。然而,现有的模型通常使用一个ImageNet模型作为骨干,而不探索其他模型,并且微调或重新训练骨干ImageNet模型也很耗时。此外,伪标记已被用来提高在目标域中的性能,而如何生成可信的伪标签和显式对齐域分布还没有得到很好的解决。在本文中,我们展示了如何在无监督DA问题中有效地从17个著名的ImageNet模型中选择最佳的预训练特征。此外,我们还提出了一种使用最佳预训练特征(称为PRPL)的递归伪标记模型,以提高分类性能。为了显示PRPL的有效性,我们在三个基准数据集上进行了评估,Office+Caltech-10,Office-31和P2P-Home。大量的实验表明,我们的模型减少了计算时间,并将平均准确率分别提高到98.1%,92.4%和81.2%,大大超过了最先进的水平。
2021-05-01 cs.CV
Towards Micro-Action Recognition with Limited Annotations: An Asynchronous Pseudo Labeling and Training Approach
Hefei University of Technology(合肥工业大学)
本文针对微动作识别标注困难的问题,提出异步伪标签与训练框架APLT,通过半监督聚类生成更准确的伪标签、自适应阈值过滤噪声,并交替进行伪标签生成与模型训练,在三个MAR数据集上显著超越现有半监督学习方法。
2025-04-10 cs.CV
MMCIG: Multimodal Cover Image Generation for Text-only Documents and Its Dataset Construction via Pseudo-labeling
Chungnam National University(Chungnam 国立大学);Nara Institute of Science and Technology (NAIST)(Nara 科学技术研究所);Institute of Science Tokyo(东京科学研究所)
针对纯文本文档封面图像生成任务缺乏数据集的问题,提出多模态伪标签方法构建高质量数据集,通过对图像和字幕独立排序标注伪标签,实验证明其数据集更精准、生成图像质量更高。
2025-08-24 cs.CV
Analysis of Pseudo-Labeling for Online Source-Free Universal Domain Adaptation
Institute of Signal Processing and System Theory , University of Stuttgart, Germany(信号处理与系统理论研究所,斯图加特大学)
本文系统分析了在线无源通用域适应(SF-UniDA)中伪标签对适应结果的影响,发现伪标签准确率比数量更关键,对比损失对中等准确率鲁棒而交叉熵损失在接近完美时更优,揭示了当前方法与理论上界间的差距。
2025-05-30 cs.CV cs.LG
Cross-Model Pseudo-Labeling for Semi-Supervised Action Recognition
The Chinese University of Hong Kong(香港中文大学);Microsoft Research Asia(微软亚洲研究院);Nanyang Technological University(南洋理工大学)
半监督动作识别是一个具有挑战性但重要的任务,由于数据标注的高成本。解决这个问题的一种常见方法是为未标记的数据分配伪标签,然后将其用作训练中的额外监督。通常在最近的工作中,伪标签是通过在标记数据上训练模型来获得的,然后使用模型的置信预测来自我学习。在这项工作中,我们提出了一个更有效的伪标签计划,称为跨模型伪标签(CMPL)。具体地说,我们引入了一个轻量级的辅助网络,除了主骨干,并要求他们预测对方的伪标签。我们观察到,由于它们不同的结构偏差,这两个模型倾向于从相同的视频片段中学习互补的表示。因此,每个模型都可以通过利用跨模型预测作为监督来从其对应模型中受益。不同的数据分区协议上的实验表明,我们的框架显着改善现有的替代品。例如,CMPL仅使用RGB模态和$1\%$标记数据在Kinetics-400和UCF-101上实现了$17.6\%$和$25.1\%$ Top-1精度,分别通过$9.0\%$和$10.3\%$优于我们的基线模型FixMatch。
2022-04-18 cs.CV
Foreground-Aware Stylization and Consensus Pseudo-Labeling for Domain Adaptation of First-Person Hand Segmentation
Institute of Industrial Science, The University of Tokyo(东京大学生产技术研究所);OMRON SINIC X Corporation(欧姆龙SINIC X公司)
手部分割是第一人称视觉中的一项重要任务。由于第一人称图像在不同的环境中表现出强烈的外观偏差,因此在手部分割中需要将预训练的分割模型适应新的领域。在这里,我们分别关注手部区域和背景的外观间隙。我们提出了(i)前景感知图像风格化和(ii)共识伪标记的领域自适应的手分割。我们使用目标图像作为样式,为前景和背景独立地对源图像进行样式化。为了解决风格化没有解决的领域转移,我们通过在源图像和风格化的源图像上训练的模型之间取得共识来应用谨慎的伪标签。我们验证了我们的方法领域自适应的手分割从真实和模拟图像。我们的方法在这两种情况下都达到了最先进的性能。我们还展示了具有挑战性的多目标领域自适应和领域泛化设置有前途的结果。代码可在https://github.com/ut-vision/FgSty-CPL上获得。
2022-03-27 cs.CV
VLM-PL: Advanced Pseudo Labeling Approach for Class Incremental Object Detection via Vision-Language Model
UNIST(韩国蔚山科学技术院);MODULABS(MODULABS公司)
针对类别增量目标检测中的伪标签遗忘问题,本文提出VLM-PL,利用视觉-语言模型和提示查询验证并精炼伪标签,融合新旧知识,在Pascal VOC与MS COCO上达到最先进性能。
2024-05-09 cs.CV
Unsupervised Domain Adaptation via Structured Prediction Based Selective Pseudo-Labeling
Durham University(杜伦大学)
无监督领域自适应的目的是解决分类问题的未标记的样本从目标域,而标记的样本只能从源域和数据分布在这两个领域是不同的。因此,当直接应用于来自目标域的样本时,从源域中的标记样本训练的分类器遭受显著的性能下降。为了解决这个问题,已经提出了不同的方法来学习域不变特征或域特定分类器。在任何一种情况下,目标域中缺少标记的样本可能是一个问题,通常通过伪标记来克服。然而,不准确的伪标记可能会导致学习过程中灾难性的错误积累。在本文中,我们提出了一种新的基于结构化预测的选择性伪标记策略。结构化预测的想法受到以下事实的启发:目标域中的样本在深度特征空间内被很好地聚类,使得可以使用无监督聚类分析来促进准确的伪标记。在四个数据集(即EST-Caltech,EST 31,ImageCLEF-DA和EST-Home)上的实验结果验证了我们的方法优于当代最先进的方法。
2019-11-18 cs.CV cs.LG cs.MM
Unsupervised Domain Adaptation for Person Re-Identification through Source-Guided Pseudo-Labeling
CEA, LIST(法国原子能和替代能源委员会 科学信息与互动技术研究所);Normandie Univ, INSA Rouen, LITIS(诺曼底大学 鲁昂国立应用科学学院 计算机科学与信息技术实验室)
人的重新识别(re-ID)旨在检索不同相机拍摄的同一个人的图像。re-ID的一个挑战是当模型用于与训练数据域(源数据)属于不同域的感兴趣数据(目标数据)时的性能保持。无监督领域自适应(UDA)是一个有趣的研究方向,因为它避免了昂贵的目标数据的注释。伪标记方法在基于UDA的re-ID中获得了最好的结果。令人惊讶的是,标记的源数据在该初始化步骤之后被丢弃。然而,我们认为伪标记可以进一步利用标记的源数据,以改善初始化后的训练步骤。为了提高对错误伪标签的鲁棒性,我们提倡在所有训练迭代期间利用标记的源数据和伪标记的目标数据。为了支持我们的指导方针,我们引入了一个框架,它依赖于一个两个分支架构优化分类和三元组损失为基础的度量学习,分别在源和目标域,以允许\emph{adaptability to the target domain},同时确保\emph{robustness to noisy pseudo-labels}。事实上,共享的低和中级别参数受益于源分类和三重丢失信号,而目标分支的高级别参数学习特定于域的特征。我们的方法很简单,可以很容易地与现有的伪标记UDA方法相结合。我们的实验表明,它是有效的,并提高了性能时,基本方法没有机制来处理伪标签噪声或硬适应任务。我们的方法在常用数据集Market-1501和DukeMTMC-reID上进行评估时达到了最先进的性能,并且在针对更大,更具挑战…
2020-09-20 cs.CV
Unsupervised Domain Adaptation for 3D LiDAR Semantic Segmentation Using Contrastive Learning and Multi-Model Pseudo Labeling
Universität Stuttgart(斯图加特大学)
针对3D LiDAR语义分割中的域偏移问题,提出两阶段无监督域适应框架,结合片段级对比预训练与多架构硬投票伪标签微调,在多个目标数据集上显著优于直接迁移和单模型方法。
2025-07-24 cs.CV
InPL: Pseudo-labeling the Inliers First for Imbalanced Semi-supervised Learning
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
不平衡半监督学习(SSL)中的最新方法依赖于具有一致性正则化的基于置信度的伪标记。为了获得高质量的伪标签,通常采用高置信度阈值。然而,已经表明,对于远离训练数据的样本,深度网络中基于softmax的置信度分数可以任意高,因此,即使是高置信度的未标记样本的伪标签也可能仍然不可靠。在这项工作中,我们提出了一个新的视角的伪标记不平衡的SSL。在不依赖于模型置信度的情况下,我们建议衡量未标记样本是否可能是“分布内”;即,接近当前的训练数据。为了确定未标记的样本是"分布内“还是"分布外”,我们采用来自分布外检测文献的能量分数。随着训练的进行,越来越多的未标记样本变得分布并有助于训练,组合的标记和伪标记数据可以更好地近似真实的类分布,以改进模型。实验表明,我们的基于能量的伪标记方法,\textbf{InPL},虽然概念上简单,显着优于基于信心的方法不平衡的SSL基准。例如,它产生约3\%的绝对精度提高CIFAR 10-LT。当与最先进的长尾SSL方法相结合时,进一步的改进。特别是,在最具挑战性的场景之一,InPL实现了6.9\%的准确性比最好的竞争对手。
2023-03-13 cs.CV cs.LG
Pseudo-Labeling by Multi-Policy Viewfinder Network for Image Cropping
Huazhong University of Science and Technology(华中科技大学);School of Artificial Intelligence and Automation(人工智能与自动化学院);Key Laboratory of Image Processing and Intelligent Control, Ministry of Education(图像处理与智能控制教育部重点实验室)
针对图像裁剪标注数据稀缺问题,本文提出多策略取景器网络MPV-Net,通过多样化精修策略纠正教师模型伪标签中的错误,并基于对边界框抖动的鲁棒性选择最可靠策略生成可信伪标签,在FCDB和FLMS数据集上取得最先进结果。
2024-07-04 cs.CV
Improving Unsupervised Domain Adaptive Re-Identification via Source-Guided Selection of Pseudo-Labeling Hyperparameters
Université Paris-Saclay(巴黎-萨克雷大学);CEA(法国原子能和替代能源委员会);Normandie Univ(诺曼底大学);INSA Rouen(鲁昂国立应用科学学院);LITIS(信息处理与系统实验室)
用于重新识别(re-ID)的无监督领域自适应(UDA)是一项具有挑战性的任务:为了避免额外数据的昂贵注释,它旨在将知识从具有注释数据的领域转移到仅具有未标记数据的感兴趣领域。伪标签方法已被证明是有效的UDA重新ID。然而,这些方法的有效性在很大程度上取决于一些超参数(HP)的选择,影响通过聚类生成伪标签。在感兴趣的领域中缺乏注释使得这种选择变得重要。目前的方法简单地重复使用相同的经验值用于所有适应任务,而不管通过伪标记训练阶段改变的目标数据表示。由于这种简单化的选择可能会限制他们的表现,我们的目标是解决这个问题。我们提出了新的理论基础上的HP选择聚类UDA重新ID以及方法的自动和循环HP调整伪标记UDA聚类:HyPASS。HyPASS包括在伪标记方法中结合两个模块:(i)基于标记的源验证集的HP选择和(ii)特征区分度的条件域对齐以改进基于源样本的HP选择。在常用的人员re-ID和车辆re-ID数据集上的实验表明,与常用的经验HP设置相比,我们提出的HyPASS始终改进了re-ID中最先进的方法。
2021-11-04 cs.CV cs.LG