Meta Label Correction for Noisy Label Learning
Microsoft Research（微软研究院）
利用弱监督或噪声监督来构建有效的机器学习模型一直是一个重要的研究问题。最近，由于越来越需要大规模数据集来训练深度学习模型，其重要性进一步增加。弱或嘈杂的监督可能来自多个来源，包括非专家注释者或基于语义或用户交互信号的自动标记。以前有大量的工作集中在利用嘈杂的标签。最值得注意的是，最近的工作已经显示出令人印象深刻的收益，通过使用元学习的实例重新加权方法，其中元学习框架用于分配实例权重到嘈杂的标签。在本文中，我们扩展了这种方法，通过提出的问题作为标签校正问题的元学习框架内。我们将标签校正过程视为一个元过程，并提出了一个新的基于元学习的框架MLC（Meta Label Correction），用于带噪声标签的学习。具体而言，采用标签校正网络作为元模型，以产生噪声标签的校正标签，同时训练主模型以利用校正标签。这两个模型通过解决双层优化问题来联合训练。我们在图像识别和文本分类任务中使用不同的标签噪声水平和类型进行了广泛的实验。我们比较了重新加权和校正方法，表明校正框架解决了重新加权的一些局限性。我们还表明，建议的MLC方法实现了很大的改进，在许多设置比以前的方法。
2021-08-06 cs.LG stat.ML
ExpertNet: Adversarial Learning and Recovery Against Noisy Labels
TU Delft（代尔夫特理工大学）；ABB Future Labs（ABB未来实验室）；Beijing Institute of Technology（北京理工大学）
目前可用的野外数据集，例如，来自社交媒体和开放平台的图像，为深度学习带来了巨大的机遇和挑战，因为有很大一部分标记的图像，但通常带有噪声，即错误的标签。最近的研究提高了深度模型对噪声标签的鲁棒性，而无需了解真实标签。在本文中，我们主张导出一个更强大的分类器，它除了原始图像外还主动利用噪声标签-将噪声标签转化为学习特征。为此，我们提出了一个新的框架，ExpertNet，由业余和专家，迭代地相互学习。Amateur是一个通过Expert的反馈训练的常规图像分类器，它模仿人类专家如何使用从噪声和地面真实标签的知识中学习的噪声模式来校正来自Amateur的预测标签。训练有素的业余爱好者和专家主动利用图像及其噪声标签来推断图像类别。我们对噪声版本的CIFAR-10、CIFAR-100和Clothing 1 M的真实数据进行的经验评估表明，与只专注于提取噪声标签影响的最先进的深度模型相比，所提出的模型可以在宽范围的噪声比下实现鲁棒的分类，并且只需20-50%的训练数据。
2020-07-13 cs.LG stat.ML
Multi-Class Classification from Noisy-Similarity-Labeled Data
University of Sydney（悉尼大学）；Xidian University（西安电子科技大学）；RIKEN（理化学研究所）；Hong Kong Baptist University（香港浸会大学）；The University of Melbourne（墨尔本大学）；Brain-Inspired Technology Co., Ltd.（脑启发科技有限公司）
相似性标签指示两个实例是否属于同一个类，而类标签显示实例的类。在没有类标签的情况下，可以通过Meta分类学习从相似性标记的成对数据中学习多类分类器。然而，由于相似性标签比类别标签信息量少，因此它更有可能是嘈杂的。深度神经网络可以很容易地记住有噪声的数据，从而导致分类中的过拟合。在本文中，我们提出了一种方法来学习只有噪声相似性标记的数据。具体来说，为了对噪声进行建模，我们采用噪声转移矩阵来桥接干净数据和噪声数据之间的类后验概率。我们进一步估计的转移矩阵，从只有噪声的数据，并建立一个新的学习系统来学习分类器，可以分配无噪声的类标签的实例。此外，我们从理论上证明了我们提出的方法如何推广学习分类器。实验结果表明，该方法优于国家的最先进的方法对基准模拟和现实世界的噪声标签数据集。
2020-02-16 cs.LG stat.ML
CleaR: Towards Robust and Generalized Parameter-Efficient Fine-Tuning for Noisy Label Learning
Korea University（高丽大学）
针对PEFT在噪声标签环境下的脆弱性，提出基于路由的CleaR方法，自适应激活模块以优先学习干净样本，实验证明其显著提升噪声环境下的性能。
2024-10-31 cs.AI cs.LG
Noisy multi-label semi-supervised dimensionality reduction
UiT The Arctic University of Norway（挪威北极大学）；Universidad Rey Juan Carlos（胡安·卡洛斯国王大学）
噪声标记数据代表了丰富的信息源，这些信息通常很容易获得，而且获取成本很低，但如果不考虑标签噪声，也可能产生许多负面后果。如何充分利用噪声标签已经在标准监督机器学习的框架内被广泛研究了几十年。然而，很少有研究已经进行了解决在非标准的设置嘈杂的标签所带来的挑战。这包括只有一小部分样本被标记（半监督）并且每个高维样本与多个标签相关联的情况。在这项工作中，我们提出了一种新的半监督和多标签的降维方法，有效地利用信息，从嘈杂的多标签和未标记的数据。提出的噪声多标签半监督降维（NMLSDR）方法，通过专门设计的标签传播算法对噪声多标签进行去噪，同时对未标记数据进行标记。然后，NMLSDR学习投影矩阵，通过最大化放大和去噪的多标签空间与投影空间中的特征之间的依赖性来降低维度。在合成数据、基准数据集以及真实案例研究上的大量实验证明了该算法的有效性，并表明其性能优于最先进的多标签特征提取算法。
2019-02-20 cs.LG stat.ML
Learning to Clean: Reinforcement Learning for Noisy Label Correction
School of Computer Science, Carleton University（卡莱顿大学计算机科学学院）；CIFAR AI Chair, Amii（CIFAR人工智能主席，Amii）
本文提出了一种基于强化学习的噪声标签纠正方法，通过深度特征表示策略网络实现标签纠正，实验表明其在多个数据集上优于现有技术。
2025-11-25 cs.AI cs.LG
Semi-Supervised Cascaded Clustering for Classification of Noisy Label Data
TCS Research（塔塔咨询服务研究院）；Tata Consultancy Services Ltd.（塔塔咨询服务有限公司）
监督分类技术的性能往往恶化时，数据有噪声标签。即使是半监督分类方法也主要集中在处理丢失标签的问题上。大多数处理噪声标签数据的方法都依赖于深度神经网络（DNN），这需要大量的数据集来执行分类任务。这是一个严峻的挑战，特别是在加工和制造行业，其中数据有限，标签嘈杂。我们提出了一个半监督级联聚类（SSCC）算法来提取模式，并生成一个级联树的类在这样的数据集。引入一种新的超参数可配置的聚类评价矩阵（CEM）来定位和消除噪声标签，并调用级联聚类的修剪准则。该算法减少了对昂贵的人类专业知识的依赖，以评估标签的准确性。基于SSCC生成的分类器被发现是准确和一致的，即使在嘈杂的标签数据集上训练。当在多个噪声标签数据集（包括工业数据集）上进行测试时，与支持向量机（SVM）相比，它表现得更好。所提出的方法可以有效地用于在工业环境中以最少的人类专业知识获得可操作的见解。
2022-05-04 cs.AI cs.LG
Coresets for Robust Training of Neural Networks against Noisy Labels
University of California Los Angeles（加州大学洛杉矶分校）；Stanford University（斯坦福大学）
现代神经网络有能力过拟合在现实世界的数据集中经常发现的噪声标签。虽然已经取得了很大的进展，现有的技术是有限的，在提供理论保证的神经网络的性能与噪声标签。在这里，我们提出了一种新的方法，该方法具有强大的理论保证，可以对使用噪声标签训练的深度网络进行鲁棒训练。我们的方法背后的关键思想是选择干净的数据点，提供一个近似低秩雅可比矩阵的加权子集（coresets）。然后，我们证明了梯度下降适用于子集不过拟合嘈杂的标签。我们广泛的实验证实了我们的理论，并证明在我们的子集上训练的深度网络与现有技术相比具有显著优越的性能，例如，在CIFAR-10上，80%噪声标签的准确性提高6%，在迷你Webvision上的准确性提高7%。
2020-11-15 cs.LG stat.ML
Towards Understanding Deep Learning from Noisy Labels with Small-Loss Criterion
National Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）
深度神经网络需要大量的标记数据来实现良好的性能。在现实世界的应用中，标签通常是从非专家（如众包）收集的，以节省成本，因此是嘈杂的。在过去的几年中，已经开发了用于处理噪声标签的深度学习方法，其中许多方法是基于小损失标准的。然而，很少有理论分析来解释为什么这些方法可以从噪声标签中学习。在本文中，我们从理论上解释了为什么广泛使用的小损耗准则的作品。在此基础上，我们重新定义了小损失准则，以更好地处理噪声标签。实验结果验证了我们的理论解释，也证明了改革的有效性。
2021-06-17 cs.LG stat.ML
Design-Based Supervised Learning with Noisy Human Labels
RTI International（RTI国际）；U.S. Bureau of Labor Statistics（美国劳动统计局）
研究针对自动分类器标记非结构化数据时人类审核标签有噪声的问题，提出PA-DSL方法，利用裁决案例纠正标签并校正分析偏差，在合成和维基百科解毒半合成实验中取得降低均方根误差10%-17%的效果。
2026-07-20 cs.AI cs.LG stat.AP
Class2Simi: A Noise Reduction Perspective on Learning with Noisy Labels
The University of Sydney（悉尼大学）；Hong Kong Baptist University（香港浸会大学）；The University of Melbourne（墨尔本大学）；Xidian University（西安电子科技大学）；Brain-Inspired Technology Co., Ltd.（脑启发技术有限公司）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）
近年来，带噪声标签的学习吸引了很多关注，其中主流方法是逐点方式。同时，成对方式在有监督的度量学习和无监督的对比学习中显示出巨大的潜力。因此，一个自然的问题被提出来了：以成对的方式学习是否可以减轻标签噪声？为了给出肯定的答案，在本文中，我们提出了一个名为Class2Simi的框架：它将具有噪声类标签的数据点转换为具有噪声相似性标签的数据对，其中相似性标签表示一对是否共享类标签。通过这种变换，理论上保证了噪声率的降低，因此原则上更容易处理有噪声的相似性标签。令人惊讶的是，预测干净类别标签的DNN可以从嘈杂的数据对中训练出来，如果它们首先从嘈杂的数据点中进行预训练的话。Class2Simi在计算上是高效的，因为这种转换不仅是在小批量中进行的，而且它只是将模型预测之上的损失计算改为成对的方式。通过大量的实验验证了其有效性。
2021-06-17 cs.LG stat.ML
Learning with Noisy Labels Revisited: A Study Using Real-World Human Annotations
University of California Santa Cruz（加州大学圣克鲁兹分校）；University of Sydney（悉尼大学）；RIKEN（理化学研究所）
现有的研究主要集中在合成标签噪声的噪声标签学习。合成噪声虽然具有清晰的结构，极大地促进了统计分析，但往往无法模拟真实世界的噪声模式。最近的文献已经观察到一些提供真实世界噪声数据集的努力，但现有的努力受到两个警告的影响：（1）缺乏地面真实验证使得难以从理论上研究真实世界标签噪声的属性和处理;（2）这些努力通常是大规模的，这可能导致在合理和可访问的计算能力内对鲁棒方法进行不公平的比较。为了更好地理解真实世界的标签噪声，构建具有真实和噪声标签的可控和中等大小的真实世界噪声数据集至关重要。这项工作提出了两个新的基准数据集CIFAR-10 N，CIFAR-100 N，为CIFAR-10，CIFAR-100的训练数据集配备了我们从Amazon Mechanical Turk收集的人类注释的真实世界噪声标签。我们定量和定性地表明，真实世界的噪声标签遵循依赖于实例的模式，而不是经典假设和采用的模式（例如，类相关标签噪声）。然后，我们开始使用CIFAR-10 N和CIFAR-100 N对现有解决方案的子集进行基准测试。我们进一步研究了正确和错误预测的记忆，这进一步说明了人类噪声和类相关合成噪声之间的差异。我们确实表明，与合成标签噪声相比，现实世界的噪声模式带来了新的和突出的挑战。这些观察结果要求我们重新考虑噪声标签的处理，我们希望这两个数据集的可用性将有助于开发和评估未来使用噪声标签解决方案的学习。…
2022-03-27 cs.LG stat.ML
Addressing Long-Tail Noisy Label Learning Problems: a Two-Stage Solution with Label Refurbishment Considering Label Rarity
College of Artificial Intelligence and Green Energy, National Yang Ming Chiao Tung University（国立阳明交通大学人工智慧与绿色能源学院）；University at Albany, SUNY（纽约州立大学奥尔巴尼分校）
针对真实数据集的长尾噪声标签学习问题，提出结合软标签翻新与多专家集成学习的两阶段LR²方法，通过对比学习获无偏特征、BANC损失训练分类器初步预测，再翻新标签用于集成学习，在多个基准数据集上准确率超越现有最优方法。
2024-03-04 cs.AI cs.LG
A Meta Approach to Defend Noisy Labels by the Manifold Regularizer PSDR
The Chinese University of Hong Kong（香港中文大学）；Tencent（腾讯）
噪声标签在现实世界的数据集中无处不在，这对鲁棒训练深度神经网络（DNN）提出了挑战，因为DNN很容易过拟合噪声标签。最近的努力已经致力于通过从训练集中丢弃噪声样本或向训练样本分配权重来保护噪声标签，其中与噪声样本相关联的权重预计是小的。因此，这些先前的努力导致样本的浪费，特别是那些分配有小权重的样本。输入$x$总是有用的，无论其观察到的标签$y$是否干净。为了充分利用所有样本，我们引入了一个流形正则化器，称为配对Softmax发散正则化（PSDR），以惩罚类似输入的softmax输出之间的Kullback-Leibler（KL）发散。特别地，可以通过数据增强有效地生成类似的输入。PSDR可以在任何类型的DNN上轻松实现，以提高对噪声标签的鲁棒性。正如在基准数据集上的经验证明的那样，我们的PSDR显著提高了最先进的结果。
2019-06-13 cs.LG stat.ML
From Noisy Prediction to True Label: Noisy Prediction Calibration via Generative Model
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；University of Seoul（首尔大学）
在机器学习社会中，嘈杂的标签是不可避免的，但也是有问题的。它通过使分类器过度拟合噪声标签来破坏分类器的泛化。现有的噪声标记方法主要集中在训练过程中对分类器进行修改。它有两个潜在的问题。首先，这些方法不适用于未经进一步训练的预训练分类器。其次，训练分类器并同时使来自噪声标签的所有负面影响规则化并不容易。我们提出了一个新的分支的方法，噪声预测校准（NPC）的学习与噪声标签。通过生成模型引入和估计一种新型的转移矩阵，NPC将噪声预测从预训练分类器校正为真实标签作为后处理方案。我们证明了NPC理论上与基于转移矩阵的方法一致。然而，NPC经验上提供了更准确的途径来估计真实标签，即使不参与分类器学习。此外，如果训练实例及其预测可用，则NPC适用于使用噪声标签方法训练的任何分类器。我们的方法NPC提高了所有基线模型在合成和真实数据集上的分类性能。实现的代码可在https://github.com/BaeHeeSun/NPC上获得。
2022-05-26 cs.AI cs.CV cs.LG
Learning Discriminative Dynamics with Label Corruption for Noisy Label Detection
POSTECH（浦项科技大学）；Yonsei University（延世大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
本文提出DynaCor框架，通过引入标签腐败策略扩充数据集并利用训练动力学潜在表示形成可分簇，有效检测噪声标签，提升了对多种噪声类型和噪声率的鲁棒性。
2024-05-30 cs.LG stat.ML
Joint Optimization Framework for Learning with Noisy Labels
The University of Tokyo（东京大学）
在大规模数据集上训练的深度神经网络（DNN）在图像分类中表现出了显著的性能。许多大规模的数据集是从网站上收集的，但是它们往往包含不准确的标签，称为噪声标签。在这种嘈杂的标签数据集上训练会导致性能下降，因为DNN很容易过拟合到嘈杂的标签。为了克服这个问题，我们提出了一个学习DNN参数和估计真实标签的联合优化框架。我们的框架可以在训练过程中通过交替更新网络参数和标签来纠正标签。我们在有噪声的CIFAR-10数据集和Clothing 1 M数据集上进行了实验。结果表明，我们的方法显着优于其他国家的最先进的方法。
2018-03-30 cs.CV cs.LG stat.ML
Uncertainty Based Detection and Relabeling of Noisy Image Labels
Bosch Center for Artificial Intelligence（博世人工智能中心）；BCAI（博世人工智能中心）；University of Ulm（乌尔姆大学）
深度神经网络（DNN）是计算机视觉任务中的强大工具。然而，在许多现实场景中，标签噪声在训练图像中普遍存在，对这些噪声标签的过拟合会严重损害DNN的泛化性能。我们提出了一种新的技术来识别带有噪声标签的数据，该技术基于DNN在干净数据和噪声数据上的预测不确定性的不同分布。此外，在训练过程中的不确定性行为有助于识别最适合用于重新标记噪声标签的网络权重。因此，可以在迭代过程中清理带有噪声标签的数据。我们所提出的方法可以很容易地实现，并显示出有前途的性能上的任务的噪声标签检测CIFAR-10和CIFAR-100。
2019-05-29 cs.CV cs.LG stat.ML
Learning from Noisy Labels with Distillation
从噪声标签中学习的能力在许多视觉识别任务中非常有用，因为大量带有噪声标签的数据相对容易获得。传统上，标签噪声被视为统计离群值，并提出了重要性重新加权和自举等方法来缓解这个问题。根据我们的观察，真实世界中的噪声标签表现出多模式特性作为真正的标签，而不是表现得像独立的随机离群值。在这项工作中，我们提出了一个统一的蒸馏框架，使用边信息，包括一个小的干净的数据集和标签关系的知识图谱，“对冲风险”的学习噪声标签。此外，与基于模拟标签噪声评估的传统方法不同，我们在体育，物种和人工制品领域提出了一套新的基准数据集，以评估在实际环境中从噪声标签中学习的任务。实证研究表明，我们提出的方法在所有领域的有效性。
2017-04-07 cs.CV cs.LG stat.ML
A Deep Generative Model for Semi-Supervised Classification with Noisy Labels
École Polytechnique（巴黎综合理工学院）；University of California, Berkeley（加州大学伯克利分校）
由于错误和类之间真正的歧义，类标签经常不能被完美地观察到。我们提出了一种新的半监督深度生成模型，该模型显式地对噪声标签进行建模，称为Mislabeled VAE（M-VAE）。M-VAE可以比现有的不考虑标签噪声的深度生成模型表现得更好。此外，M-VAE的推导为流行的M1+M2半监督模型提供了新的理论见解。
2018-09-16 cs.LG stat.ML
Learning with Noisy Labels by Efficient Transition Matrix Estimation to Combat Label Miscorrection
Hyperconnect Inc.（Hyperconnect公司）
最近关于噪声标签学习的研究通过利用一个小的干净数据集表现出了显着的性能。特别是，基于模型不可知元学习的标签校正方法通过实时校正噪声标签来进一步提高性能。然而，没有对标签错误的保护措施，导致不可避免的性能下降。此外，每个训练步骤至少需要三次反向传播，大大降低了训练速度。为了缓解这些问题，我们提出了一种鲁棒且高效的方法，该方法可以实时学习标签转换矩阵。采用转移矩阵使分类器对所有校正的样本都持怀疑态度，从而避免了误校正问题。我们还引入了一个双头架构，以有效地估计标签转移矩阵的每次迭代内的一个单一的反向传播，使估计矩阵密切关注标签校正引起的移位噪声分布。大量的实验表明，我们的方法在训练效率方面表现最好，同时具有与现有方法相当或更好的准确性。
2022-07-12 cs.AI cs.LG
Understanding and Utilizing Deep Neural Networks Trained with Noisy Labels
The Chinese University of Hong Kong（香港中文大学）；Tencent Technology（腾讯科技）
噪声标签在现实世界的数据集中无处不在，这对鲁棒训练深度神经网络（DNN）提出了挑战，因为DNN通常具有高容量来记住噪声标签。在本文中，我们发现，测试精度可以定量表征的数据集的噪声比。特别是，在对称噪声的情况下，测试精度是噪声比的二次函数，这解释了先前发表的实验结果。基于我们的分析，我们将交叉验证应用于随机分割的噪声数据集，从而识别出具有正确标签的大多数样本。然后，我们采用协同教学策略，充分利用已识别的样本来针对有噪标签鲁棒地训练DNN。与广泛的最先进的方法相比，我们的策略始终提高了DNN在合成和真实世界训练噪声下的泛化性能。
2019-05-13 cs.LG stat.ML
Co-teaching: Robust Training of Deep Neural Networks with Extremely Noisy Labels
University of Technology Sydney（悉尼科技大学）；RIKEN（理化学研究所）；Stanford University（斯坦福大学）；University of Tokyo（东京大学）；Paradigm Inc.（第四范式公司）
带噪声标签的深度学习实际上具有挑战性，因为深度模型的容量非常高，以至于它们迟早可以在训练过程中完全记住这些噪声标签。尽管如此，最近对深度神经网络记忆效果的研究表明，它们会首先记忆干净标签的训练数据，然后是有噪声标签的数据。因此，在本文中，我们提出了一种新的深度学习范式，称为Co-teaching，用于对抗噪声标签。也就是说，我们同时训练两个深度神经网络，并让它们在每个小批量中相互教导：首先，每个网络前馈所有数据并选择一些可能干净标签的数据;其次，两个网络相互交流该小批量中的哪些数据应该用于训练;最后，每个网络反向传播其对等网络选择的数据并更新自己。在有噪声版本的MNIST、CIFAR-10和CIFAR-100上的实验结果表明，在训练的深度模型的鲁棒性方面，协同教学远远优于最先进的方法。
2018-10-30 cs.LG stat.ML
Noisy-Label Calibration with Multiple Unreliable Labels
Wakayama Medical University（和歌山医科大学）；RIKEN AIP（理化学研究所先进智能研究中心）；The University of Osaka（大阪大学）；The University of Tokyo（东京大学）
针对医学标注和众包中多标注者噪声标签导致的校准偏差问题，提出NC-ECE估计量及两类带保证的重新校准方法，经半合成基准验证可有效改善潜在标签校准。
2026-10-15 cs.LG stat.ML
Online Multi-Label Classification under Noisy and Changing Label Distribution
School of Computer Science and Information Engineering, Hefei University of Technology（合肥工业大学计算机与信息工程学院）；School of Computing, National University of Singapore（新加坡国立大学计算学院）
针对多标签数据流中噪声标签与标签分布变化问题，提出NCLD算法，通过局部特征图重建标签评分、无偏排序损失和分布变化检测实现鲁棒的在线多标签分类。
2024-10-03 cs.AI cs.LG
Robust Self-Training with Closed-loop Label Correction for Learning from Noisy Labels
本文提出一种基于解耦双层优化的自训练标签修正框架，通过分类器和神经修正函数的协同进化，在小规模干净数据基础上利用噪声后验模拟和中间特征转移真实知识，形成闭环反馈系统以防止误差放大，实验表明其在CIFAR和Clothing1M等数据集上具有更优性能。
2026-03-14 cs.AI cs.CV cs.LG
Multi-Label Noise Transition Matrix Estimation with Label Correlations: Theory and Algorithm
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；The University of Sydney（悉尼大学）
本文研究噪声多标签学习中类别相关转移矩阵的估计问题，提出一种利用标签相关性且无需锚点和精确后验拟合的新估计器，通过求解双线性分解问题实现可识别估计，并从理论和实验上验证了其有效性和分类性能。
2023-09-22 cs.AI cs.CV cs.LG
Learning Graph Neural Networks with Noisy Labels
Tokyo Institute of Technology（东京工业大学）
我们研究了GNNs训练过程对对称标签噪声的鲁棒性。通过结合非线性神经消息传递模型（如图同构网络，GraphSAGE等），与损失校正方法，我们提出了一个噪声容忍的方法的图分类任务。实验结果表明，在对称噪声环境下，该方法可以提高测试精度.
2019-05-05 cs.LG stat.ML
FedNoisy: Federated Noisy Label Learning Benchmark
University of Michigan（密歇根大学）；Artifical Intelligence Innovation and Incubation Institute, Fudan University（复旦大学人工智能创新与产业研究院）；Michigan State University（密歇根州立大学）
本研究推出首个标准化联邦噪声标签学习基准FedNoisy，涵盖6个数据集的20种基础设置、标准化模拟流程及9种基线实现，通过全面实验为该领域方法开发提供参考与验证支持。
2025-02-22 cs.AI cs.LG
Joint Negative and Positive Learning for Noisy Labels
KAIST（韩国科学技术院）
用带有噪声标签的数据训练卷积神经网络（CNN）是一个挑战。基于直接为数据提供标签（正学习; PL）有允许CNN记住噪声数据情况下的污染标签的风险，使用互补标签的间接学习方法（噪声标签的负学习; NLNL）已被证明在防止过度拟合噪声数据方面非常有效，因为它降低了提供错误目标的风险。NLNL进一步采用三级流水线来提高收敛性。因此，通过NLNL管道过滤噪声数据很麻烦，增加了训练成本。在这项研究中，我们提出了一种新的改进NLNL，命名为联合消极和积极的学习（JNPL），将过滤管道统一到一个单一的阶段。JNPL通过两个损失NL+和PL+训练CNN，这两个损失分别在NL和PL损失函数上进行了改进。我们分析了NL损失函数的基本问题，并开发了新的NL+损失函数，产生梯度，提高噪声数据的收敛。此外，PL+损失函数的设计，使更快的收敛到预期要干净的数据。我们表明，NL+和PL+训练CNN的同时，显着简化管道，允许更大的易用性相比，NLNL的实际使用。通过一个简单的半监督训练技术，我们的方法实现了最先进的精度为噪声数据分类的基础上优越的过滤能力。
2021-04-14 cs.LG stat.ML
Deep k-NN for Noisy Labels
Google Research（谷歌研究院）
现代机器学习模型通常在带有噪声标签的示例上进行训练，这些标签会损害性能并且难以识别。在本文中，我们提供了一个实证研究表明，一个简单的$k$ -最近的邻居为基础的过滤方法上的logit层的初步模型可以删除错误标记的训练数据，并产生更准确的模型比许多最近提出的方法。我们还为它的功效提供了新的统计保证。
2020-04-26 cs.LG stat.ML
Learning from Noisy Labels for Long-tailed Data via Optimal Transport
Beijing University of Posts and Telecommunications（北京邮电大学）
本文针对长尾分布与噪声标签并存的数据，提出损失-距离交叉选择模块结合最优传输生成伪标签的半监督方法，有效提升模型鲁棒性并超越现有最优方法。
2024-08-07 cs.AI cs.LG
Temporal Calibrated Regularization for Robust Noisy Label Learning
Tsinghua University（清华大学）；Shanghai Jiao Tong University（上海交通大学）；Peng Cheng Laboratory（鹏城实验室）
深度神经网络（DNN）在大规模良好注释数据集的帮助下在许多任务上取得了巨大成功。然而，标记大规模数据可能非常昂贵且容易出错，使得难以保证注释质量（即，具有噪声标签）。在这些带噪声的标记数据集上进行训练可能会不利地降低其泛化性能。现有的方法要么依赖于复杂的训练阶段划分，要么带来太多的计算，边际性能的改善。在本文中，我们提出了一种时间校准正则化（TCR），其中我们将原始标签和前一个时期的预测结合在一起，使DNN继承它以很少的开销学习的简单模式。我们对各种神经网络架构和数据集进行了广泛的实验，发现它始终增强了DNN对标签噪声的鲁棒性。
2020-07-01 cs.LG stat.ML
Peer Loss Functions: Learning from Noisy Labels without Knowing Noise Rates
UC Santa Cruz（加州大学圣克鲁兹分校）；Shanghai Jiao Tong University（上海交通大学）
带噪声标签的学习是监督学习中的一个常见挑战。现有的方法通常要求从业者指定噪声率，即，一组控制问题中标签噪声严重性的参数，以及假定给定或使用附加步骤估计的规格。在这项工作中，我们引入了一个新的家庭的损失函数，我们命名为同行的损失函数，这使得学习噪声标签，不需要先验规范的噪声率。对等损失函数在标准经验风险最小化（ERM）框架内工作。我们表明，在温和的条件下，执行ERM与同行损失函数的噪声数据集导致最佳或接近最佳的分类，如果执行ERM的干净的训练数据，我们没有访问。我们将我们的结果与一组广泛的实验配对。当面对潜在的噪声训练标签时，对等点损失提供了一种简化模型开发的方法，并且在这种情况下可以被提升为鲁棒的候选损失函数。
2020-08-14 cs.LG stat.ML
Unleashing the Potential of Regularization Strategies in Learning with Noisy Labels
The University of Sydney（悉尼大学）；New York University（纽约大学）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织Data61）；University of Science and Technology of China（中国科学技术大学）；Hong Kong Baptist University（香港浸会大学）
本文证明交叉熵损失结合学习率衰减、权重平均和数据增强等常规正则化策略，可超越复杂的噪声标签学习算法，呼吁重新评估该领域的基准与专用算法的作用。
2023-07-11 cs.AI cs.CV cs.LG
NCSAM Noise-Compensated Sharpness-Aware Minimization for Noisy Label Learning
Beijing University of Technology（北京理工大学）
提出NCSAM方法，通过噪声补偿扰动修正噪声标签引起的优化偏差，缓解对噪声标签的记忆，在合成和真实噪声标签基准上优于SAM基线。
2026-05-28 cs.AI cs.CV cs.LG
Potential Energy based Mixture Model for Noisy Label Learning
Dell Technologies（戴尔科技）
本文提出基于势能的混合模型PEMM，通过在类中心上引入势能正则化的距离分类器，保留数据内在结构，从而提升深度网络对噪声标签的鲁棒性并取得最先进性能。
2024-05-02 cs.AI cs.LG
When Noisy Labels Meet Class Imbalance on Graphs: A Graph Augmentation Method with LLM and Pseudo Label
本文针对含噪声标签的类别不平衡图节点分类，提出融合 LLM 过采样、动态加权伪标签与二次 LLM 过采样的 GraphALP 框架，性能优于现有方法。
2025-07-25 cs.AI cs.LG
Expertise-based Weighting for Regression Models with Noisy Labels
本文提出一种两阶段加权回归方法，先估计各标注者专业水平并学习权重，再对加权标签回归，以灵活处理多专家噪声标签，理论证明且实验优于现有方法。
2023-05-12 cs.LG stat.ML
Robust Inference via Generative Classifiers for Handling Noisy Labels
KAIST（韩国科学技术院）；Google Brain（谷歌大脑）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；AItrics
大规模数据集可能包含相当大比例的噪声（不正确）类标签，并且众所周知，现代深度神经网络（DNN）很难从这种噪声训练数据集进行泛化。为了缓解这个问题，我们提出了一种新的推理方法，称为鲁棒生成分类器（RoG），适用于任何有区别的（例如，softmax）在噪声数据集上预训练的神经分类器。特别是，我们在预训练的DNN的隐藏特征空间之上引入了一个生成分类器，以获得更鲁棒的决策边界。通过使用最小协方差行列式估计器估计生成式分类器的参数，我们显着提高了分类精度，而无需重新训练深度模型，也无需改变其架构。假设特征为高斯分布，我们证明了RoG在噪声标签下比基线更好地推广。最后，我们提出了RoG的集成版本，通过研究DNN的逐层特性来提高其性能。我们广泛的实验结果证明了RoG的优越性，给出了通过多种训练技术优化的不同学习模型，以处理不同的噪声标签场景。
2019-05-13 cs.LG stat.ML
Towards Harnessing Feature Embedding for Robust Learning with Noisy Labels
Nanjing University of Science and Technology（南京理工大学）；JD Explore Academy（京东探索研究院）；Nankai University（南开大学）
深度神经网络（DNN）的记忆效应在最近的标签噪声学习方法中起着关键作用。为了利用这种效果，基于模型预测的方法被广泛采用，其目的是在学习的早期阶段利用DNN的输出来纠正噪声标签。然而，我们观察到模型在标签预测过程中会出错，导致性能不理想。相比之下，在学习的早期阶段产生的特征表现出更好的鲁棒性。受这一观察的启发，在本文中，我们提出了一种新的基于特征嵌入的标签噪声深度学习方法，称为LabEl NoiseDilution（LEND）。具体来说，我们首先根据当前嵌入的特征计算一个相似性矩阵，以捕获训练数据的局部结构。然后，由错误标记的数据携带的噪声监督信号被附近正确标记的信号（\textit{i.e.}，标签噪声稀释）淹没，其有效性由特征嵌入的固有鲁棒性保证。最后，稀释标签的训练数据进一步用于训练鲁棒分类器。从经验上讲，我们进行了广泛的实验合成和现实世界的噪声数据集比较我们的LEND与几个代表性的强大的学习方法。实验结果验证了LEND算法的有效性。
2022-06-27 cs.AI cs.LG
Countering Noisy Labels By Learning From Auxiliary Clean Labels
Tsinghua University（清华大学）
我们考虑从噪声标签（NL）的学习问题，出现在许多现实世界的应用。除了NL文献中广泛研究的合成噪声之外，我们还将半监督学习（Semi-SL）中的伪标签视为NL的特殊情况。对于这两种类型的噪声，我们认为，现有方法的泛化性能是高度耦合的噪声标签的质量。因此，我们从一个新颖而统一的角度来解决这个问题：从辅助清洁标签中学习。具体来说，我们提出了旋转解耦一致性正则化（RDCR）框架，该框架将基于一致性的方法与自监督旋转任务相结合，以学习噪声容忍表示。实验结果表明，在小噪声条件下，RDCR方法的性能与现有方法相当或更优，而在大噪声条件下，RDCR方法的性能明显优于现有方法。
2019-09-12 cs.CV cs.LG stat.ML
Meta Soft Label Generation for Noisy Labels
Middle East Technical University（中东技术大学）；ASELSAN（阿瑟尔桑公司）
数据集中噪声标签的存在会导致深度神经网络（DNN）的性能显著下降。为了解决这个问题，我们提出了一种称为MSLG的Meta软标签生成算法，它可以使用元学习技术联合生成软标签，并以端到端的方式学习DNN参数。我们的方法采用元学习范式，通过检查有噪训练数据和无噪元数据的梯度方向来估计最佳标签分布。为了迭代地更新软标签，对估计的标签执行Meta梯度下降步骤，这将使无噪声Meta样本的损失最小化。在每次迭代中，基础分类器在估计的Meta标签上进行训练。MSLG与模型无关，可以轻松地添加到任何现有模型之上。我们在CIFAR10，Clothing1M和Food101N数据集上进行了广泛的实验。结果表明，我们的方法优于其他国家的最先进的方法，由一个很大的保证金。
2021-01-19 cs.CV cs.LG stat.ML
Towards Federated Learning against Noisy Labels via Local Self-Regularization
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
联邦学习（FL）旨在以隐私保护的方式从具有标记数据的大规模分散设备中学习联合知识。然而，由于高质量的标记数据需要昂贵的人工智能和努力，具有不正确标签的数据（称为噪声标签）在现实中无处不在，这不可避免地导致性能下降。虽然有很多方法被提出来直接处理噪声标签，这些方法要么需要过多的计算开销或违反隐私保护原则的FL。为此，我们专注于这个问题，在FL的目的是减轻性能下降所产生的噪声标签，同时保证数据的隐私。具体来说，我们提出了一种局部自正则化方法，它通过隐式地阻止模型记住噪声标签并使用自蒸馏显式地缩小原始和增强实例之间的模型输出差异来有效地正则化局部训练过程。实验结果表明，我们提出的方法可以实现显着的阻力对噪声标签在不同的噪声水平在三个基准数据集。此外，我们将我们的方法与现有的最先进的技术相结合，并在现实世界的数据集Clothing1M上实现了卓越的性能。该代码可在https://github.com/Sprinter1999/FedLSR上获得。
2022-08-25 cs.AI cs.DC cs.LG
Learning to Learn from Noisy Labeled Data
National University of Singapore（新加坡国立大学）；University of Minnesota（明尼苏达大学）
尽管深度神经网络（DNN）在图像分类任务中取得了成功，但人类水平的性能依赖于具有高质量手动注释的大量训练数据，这些数据收集起来既昂贵又耗时。网络上存在许多廉价的数据源，但它们往往包含不准确的标签。在有噪声的标记数据集上训练会导致性能下降，因为DNN很容易过拟合标签噪声。为了克服这个问题，我们提出了一个噪声容忍的训练算法，其中元学习更新之前，传统的梯度更新。所提出的元学习方法通过生成合成噪声标签来模拟实际训练，并且训练模型，使得在使用每组合成噪声标签进行一次梯度更新之后，模型不会过拟合到特定噪声。我们在嘈杂的CIFAR-10数据集和Clothing 1 M数据集上进行了大量的实验。结果表明，所提出的方法相比，几个国家的最先进的基线的优越性能。
2019-04-12 cs.CV cs.LG stat.ML
Mitigating Memorization in Sample Selection for Learning with Noisy Labels
Pohang University of Science and Technology（浦项科技大学）；Seoul National University of Science and Technology (SeoulTech)（首尔国立科技大学（首尔科技大学））
由于深度学习容易受到噪声标签的影响，因此仅使用干净标记数据训练网络的样本选择技术引起了极大的关注。然而，如果标签被少数类别占主导地位，这些噪声样本被称为显性噪声标记样本，网络也通过内容感知优化快速学习显性噪声标记样本。在这项研究中，我们提出了一个令人信服的标准，惩罚显性噪声标记的样本集中通过类明智的惩罚标签。通过对每个观察到的标签的预测置信度进行平均，我们获得了合适的惩罚标签，如果标签在很大程度上被某些类别损坏，则这些标签具有较高的值。使用基准测试（CIFAR-10，CIFAR-100，Tiny-ImageNet）和真实世界的数据集（ANIMAL-10 N，Clothing 1 M）进行实验，以评估在不同噪声率的各种场景下提出的标准。使用所提出的样本选择，网络的学习过程变得显着鲁棒的噪声标签相比，现有的方法在几种噪声类型。
2021-07-08 cs.LG
Context-based Virtual Adversarial Training for Text Classification with Noisy Labels
ShinhanCard（新韩卡公司）；Deargen Inc.（Deargen公司）；GC Company（GC公司）
深度神经网络（DNN）具有很高的能力，可以在足够的训练时间内完全记忆噪声标签，不幸的是，它的记忆会导致性能下降。最近，虚拟对抗训练（VAT）引起了人们的关注，因为它可以进一步提高DNN在半监督学习中的泛化能力。VAT背后的驱动力是通过强制输入和扰动输入之间的一致性来防止模型过度拟合数据点。这种策略可以帮助从噪声标签中学习，如果它阻止神经模型学习噪声样本，同时鼓励模型泛化干净样本。在本文中，我们提出了基于上下文的虚拟对抗训练（ConVAT），以防止文本分类器过度拟合噪声标签。与以前的工作不同，所提出的方法在上下文级别而不是输入级别执行对抗训练。它使分类器不仅学习它的标签，而且学习它的上下文邻居，这通过保留每个数据点上的上下文语义来简化对噪声标签的学习。我们进行了广泛的实验，四个文本分类数据集与两种类型的标签噪声。综合实验结果清楚地表明，所提出的方法工作得很好，即使在非常嘈杂的设置。
2022-05-29 cs.AI cs.CL cs.LG
SplitNet: Learnable Clean-Noisy Label Splitting for Learning with Noisy Labels
Samsung Electro-Mechanics（三星电机）；Korea University（高丽大学）
用高质量的标签标注数据集对于深度网络的性能至关重要，但在现实世界中，标签往往被噪声污染。为了解决这个问题，提出了一些方法来自动分割干净和有噪声的标签，并在有噪声标签的学习（LNL）框架中学习半监督学习器。然而，他们利用一个手工制作的模块来进行干净的噪声标签分割，这在半监督学习阶段引起了确认偏差，并限制了性能。在本文中，我们首次提出了一个用于清洁噪声标签拆分的可学习模块，称为SplitNet，以及一个新的LNL框架，该框架补充训练SplitNet和LNL任务的主网络。我们建议使用SplitNet基于分裂置信度的动态阈值来更好地优化半监督学习器。为了增强SplitNet训练，我们还提出了一种风险对冲方法。我们提出的方法在最先进的水平，特别是在高噪声比设置在各种LNL基准。
2022-12-19 cs.CV cs.LG
SELC: Self-Ensemble Label Correction Improves Learning with Noisy Labels
McMaster University（麦克马斯特大学）
深度神经网络容易过拟合噪声标签，导致泛化性能差。为了克服这个问题，我们提出了一个简单而有效的方法自集成标签校正（SELC），逐步纠正噪声标签和完善的模型。我们更深入地研究了使用噪声标签进行训练的记忆行为，并观察到网络输出在早期阶段是可靠的。为了保持这种可靠的知识，SELC使用由网络输出的指数移动平均形成的集合预测来更新原始的噪声标签。我们表明，使用SELC进行训练可以通过逐渐减少来自噪声标签的监督并增加来自集合预测的监督来改进模型。尽管它的简单性，与许多国家的最先进的方法相比，SELC获得更有前途和稳定的结果，在存在类条件，实例依赖，和现实世界的标签噪声。该代码可在https://github.com/MacLLL/SELC上获得。
2022-05-02 cs.CV cs.LG
Estimating Noisy Class Posterior with Part-level Labels for Noisy Label Learning
School of Physics, Xi’an Jiaotong University（西安交通大学物理学院）；School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院）；School of Distance Education, Xi’an Jiaotong University（西安交通大学远程教育学院）
本文针对噪声标签导致类别后验估计偏差的问题，引入部件级标签和单对多转移矩阵，构建分类器一致框架以更准确估计噪声类别后验并提升分类性能。
2024-07-02 cs.CV cs.LG
Selective-Supervised Contrastive Learning with Noisy Labels
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；The University of Sydney（悉尼大学）
深度网络具有很强的将数据嵌入到潜在表示中并完成后续任务的能力。然而，这些能力主要来自高质量的标注标签，这些标签的收集成本很高。噪声标签更便宜，但会导致损坏的表示，导致泛化性能差。为了学习鲁棒表示和处理噪声标签，本文提出了选择监督对比学习（Sel-CL）。具体来说，Sel-CL扩展了监督对比学习（Sup-CL），它在表示学习中很强大，但在有噪声标签时会降级。Sel-CL解决了Sup-CL问题的直接原因。也就是说，由于Sup-CL以\textit{pair-wise}方式工作，因此由噪声标签构建的噪声对会误导表示学习。为了缓解这个问题，我们选择置信对噪声的Sup-CL不知道噪声率。在选择过程中，通过测量学习的表示和给定的标签之间的一致性，我们首先确定用于构建置信对的置信示例。然后，利用所建立的置信对中的表示相似性分布来从噪声对中识别出更多的置信对。所有获得的置信对最终用于Sup-CL以增强表示。在多个噪声数据集上的实验证明了我们的方法学习的表示的鲁棒性，遵循最先进的性能。源代码可在https://github.com/ShikunLi/Sel-CL上获得
2022-03-08 cs.AI cs.CV cs.LG
How Does a Neural Network's Architecture Impact Its Robustness to Noisy Labels?
University of Maryland（马里兰大学）；Massachusetts Institute of Technology（麻省理工学院）；University of Toronto（多伦多大学）
噪声标签在大型真实世界数据集中是不可避免的。在这项工作中，我们探索了一个以前研究不足的领域-网络的架构如何影响其对噪声标签的鲁棒性。我们提供了一个正式的框架连接网络的鲁棒性，其架构和目标/噪声函数之间的对齐。我们的框架通过其表示中的预测能力来衡量网络的鲁棒性-使用一小组干净标签在学习的表示上训练线性模型的测试性能。我们假设，如果网络的架构与目标函数比噪声更一致，则网络对噪声标签更鲁棒。为了支持我们的假设，我们提供了各种神经网络架构和不同领域的理论和经验证据。我们还发现，当网络与目标函数很好地对齐时，其表示的预测能力可以在测试准确性方面改善最先进的（SOTA）噪声标签训练方法，甚至优于使用干净标签的复杂方法。
2021-11-28 cs.CV cs.LG stat.ML
Dimensionality-Driven Learning with Noisy Labels
The University of Melbourne（墨尔本大学）；Tsinghua University（清华大学）；National Institute of Informatics（国立信息学研究所）
具有大量噪声（不正确）类别标签的数据集对训练准确的深度神经网络（DNN）提出了挑战。我们提出了一个新的角度来理解DNN泛化这样的数据集，通过研究训练样本的深层表示子空间的维数。我们表明，从维度的角度来看，DNN在使用干净标签进行训练时，与使用一定比例的嘈杂标签进行训练时相比，表现出非常独特的学习风格。基于这一发现，我们开发了一种新的维度驱动的学习策略，它在训练过程中监控子空间的维度，并相应地调整损失函数。我们的经验表明，我们的方法是高度容忍显着比例的嘈杂标签，并可以有效地学习低维局部子空间，捕捉数据分布。
2018-07-31 cs.CV cs.LG stat.ML
A Novel Perspective for Positive-Unlabeled Learning via Noisy Labels
University of Tokyo（东京大学）；NTT Communication Science Laboratories（NTT通信科学实验室）
正-未标记学习是指仅使用正和未标记数据来训练二元分类器的过程。虽然未标记数据中可以包含正数据，但现有的正-未标记学习方法将所有未标记数据都视为负数据，导致性能下降。我们对这个问题提供了一个新的视角-将未标记的数据视为噪声标记的数据，并将PU学习的一个新公式引入噪声标记数据的联合优化问题。该研究提出了一种方法，分配初始伪标签的未标记的数据被用作噪声标记的数据，并使用噪声标记的数据训练一个深度神经网络。实验结果表明，该方法显着优于国家的最先进的方法在几个基准数据集。
2021-03-08 cs.LG
