Hyperbolic Geometric Graph Representation Learning for Hierarchy-imbalance Node Classification
Beihang University（北京航空航天大学）；Guangxi Normal University（广西师范大学）；Macquarie University（麦考瑞大学）；Zhongguancun Lab（中关村实验室）
本文针对图神经网络节点分类中的层级不平衡问题，提出基于双曲几何的HyperIMBA框架，通过建模全局层级结构缓解标记节点层级不均和跨层级连接模式带来的偏差，实验验证了其优越性。
2023-04-11 cs.LG cs.SI
Network Embedding with Completely-imbalanced Labels
Department of Computer Science and Technology, University of Science and Technology Beijing（计算机科学与技术系，北京科技大学）；School of Software, Tsinghua University（软件学院，清华大学）；Department of Computer Science, University of Illinois at Chicago（计算机科学系，伊利诺伊大学香槟分校）
针对完全不平衡标签下网络嵌入性能不佳的问题，提出RSDNE和RECT两种半监督方法，分别通过近似类内相似性与类间不相似性及类语义知识提升性能，实验验证其优越性。
2025-08-04 cs.LG cs.SI stat.ML
DIGRAC: Digraph Clustering Based on Flow Imbalance
University of Oxford（牛津大学）；The Alan Turing Institute（艾伦·图灵研究所）
节点聚类是网络分析中的一个强有力的工具。我们引入了一个图神经网络框架，命名为DIGRAC，以获得节点嵌入有向网络在一个自我监督的方式，包括一个新的概率不平衡损失，它可以用于网络聚类。在这里，我们提出了\textit{directed flow imbalance}措施，这是密切相关的方向性，揭示集群在网络中，即使集群之间没有密度差。与文献中的标准方法相比，本文中，方向性不被视为滋扰，而是包含主要信号。与现有的图神经网络方法不同，DIGRAC优化了用于聚类的有向流不平衡，而不需要标签监督，并且与现有的谱方法不同，DIGRAC可以自然地结合节点特征。在合成数据上的广泛实验结果，以有向随机块模型的形式，以及不同尺度的真实数据，表明我们的方法，基于流量不平衡，在与文献中的10种最先进的方法相比时，在有向图聚类上获得了最先进的结果，对于各种各样的噪声和稀疏水平，图结构和拓扑结构，甚至优于监督方法。
2022-11-29 cs.AI cs.IR cs.LG
Geometric Imbalance in Semi-Supervised Node Classification
Fudan University（复旦大学）；Shanghai Innovation Institute（上海创新研究院）；MBZUAI；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Logs AI Project（Logs AI项目）
本文提出几何失衡概念，通过伪标签对齐、节点重排和模糊过滤缓解类别不平衡问题，实验表明在严重类别不平衡下性能优于现有方法。
2026-03-21 cs.LG
Imbalanced Semi-supervised Learning with Bias Adaptive Classifier
Xi’an Jiaotong University（西安交通大学）；Xidian University（西安电子科技大学）；City University of Hong Kong（香港城市大学）；Macau University of Science and Technology（澳门科技大学）；Peng Cheng Laboratory（鹏城实验室）
伪标记已被证明是一种很有前途的半监督学习（SSL）范式。现有的伪标记方法通常假设训练数据的类分布是平衡的。然而，这样的假设是远离现实的场景，从而严重限制了当前的伪标记方法的性能下的类不平衡。为了缓解这个问题，我们设计了一个偏置自适应分类器，目标是不平衡的SSL设置。其核心思想是通过一种新的偏差吸引子和原有的线性分类器组成的偏差自适应分类器，自动吸收类不平衡引起的训练偏差。偏置吸引子被设计为一个轻量级的残差网络，并通过双层学习框架进行优化。这种学习策略使得偏置自适应分类器能够拟合不平衡的训练数据，而线性分类器可以为每个类别提供无偏的标签预测。我们在各种不平衡半监督设置下进行了广泛的实验，结果表明我们的方法可以应用于不同的伪标记模型，并且优于当前最先进的方法。
2023-03-02 cs.LG
Twice Class Bias Correction for Imbalanced Semi-Supervised Learning
Nanjing University（南京大学）
针对类别不平衡半监督学习的双重类别偏差问题，提出两次类别偏差校正（TCBC）方法，通过先校正模型后校正伪标签，在多个长尾数据集上显著提升性能。
2023-12-27 cs.LG
BASIL: Balanced Active Semi-supervised Learning for Class Imbalanced Datasets
University of Texas at Dallas（德克萨斯大学达拉斯分校）；Indian Institute of Technology, Bombay（印度理工学院孟买分校）
当前的半监督学习（SSL）方法假设在标记数据集和未标记数据集中每个类可用的数据点的数量之间的平衡。然而，在大多数真实世界的数据集中自然存在着类不平衡。众所周知，在这种不平衡的数据集上训练模型会导致有偏见的模型，这反过来又会导致对更频繁的类的有偏见的预测。这个问题在SSL方法中更加突出，因为它们会在训练过程中使用这种有偏模型来获得伪标签（在未标记的数据上）。在本文中，我们通过尝试为SSL选择一个平衡的标记数据集来解决这个问题，这将导致一个无偏模型。不幸的是，从一个类不平衡分布中一次性获得平衡的标记数据集是具有挑战性的。我们提出了BASIL（平衡主动半监督学习），一种新的算法，优化的子模块互信息（SMI）功能，在每类的方式，逐步选择一个平衡的数据集在一个主动学习循环。重要的是，我们的技术可以有效地用于提高任何SSL方法的性能。我们在Path-MNIST和Organ-MNIST医学数据集上进行的实验表明了Basil的有效性。此外，我们观察到Basil优于最先进的基于多样性和不确定性的主动学习方法，因为SMI函数选择了更平衡的数据集。
2022-03-10 cs.LG
Class-Imbalanced Semi-Supervised Learning
Seoul National University（首尔国立大学）；SK hynix（SK海力士）
半监督学习（Semi-Supervised Learning，SSL）在克服标注困难和充分利用未标注数据方面取得了巨大成功。然而，SSL有一个有限的假设，在不同类别的样本数量是平衡的，许多SSL算法表现出较低的性能与不平衡的类分布的数据集。在本文中，我们介绍了类不平衡的半监督学习（CISSL），这是指半监督学习类不平衡的数据的任务。在这样做时，我们考虑了标记和未标记集合中的类不平衡。首先，我们分析了现有的SSL方法在不平衡的环境中，并研究如何类的不平衡影响SSL方法。然后，我们提出了抑制一致性损失（SCL），一个正则化方法鲁棒类不平衡。我们的方法表现出更好的性能比传统的方法在CISSL环境。特别是，类不平衡越严重，标记数据的大小越小，我们的方法执行得越好。
2020-02-17 cs.CV cs.LG stat.ML
Mixture Experts with Test-Time Self-Supervised Aggregation for Tabular Imbalanced Regression
National Yang Ming Chiao Tung University（国立阳明交通大学）
针对表格回归中连续标签边界不清及测试分布未知不平衡的问题，提出 MATI，通过区域感知高斯混合专家与测试时自监督聚合动态适配分布，在三类测试设置下平均将 MAE 改善 7.1%。
2025-06-08 cs.LG
Offline Clustering Approach to Self-supervised Learning for Class-imbalanced Image Data
Korea University（高丽大学）；Mimbres Corp.（Mimbres公司）
已知类别不平衡的数据集会导致模型偏向大多数类别的问题。在这个项目中，我们设置了两个研究问题：1）在自我监督的预训练中，类不平衡问题何时更普遍？以及2）特征表示的离线聚类是否有助于在类别不平衡的数据上进行预训练？我们的实验通过调整{ \it class-balance}的程度来研究前一个问题，当训练基线模型时，即CIFAR-10数据库上的Simplified和SimSiam。为了回答后一个问题，我们对每个专家模型在特征聚类的每个子集上进行训练。然后，我们将专家模型的知识提取到一个模型中，这样我们就能够将这个模型的性能与我们的基线进行比较。
2022-12-22 cs.CV cs.LG
Semi-supervised learning for medical image classification using imbalanced training data
La Trobe University（拉筹伯大学）
医学图像分类通常具有挑战性，原因有两个：由于昂贵且耗时的注释协议而缺乏标记的示例，以及由于更广泛人群中疾病阳性个体的相对稀缺而导致的不平衡的类别标签。半监督学习（SSL）方法存在用于处理标签的缺乏，但是它们通常不解决类不平衡的问题。在这项研究中，我们提出了自适应混合一致性损失（ABCL），在扰动为基础的SSL方法的一致性损失的下降替代。ABCL抵消数据倾斜，根据类频率自适应混合的目标类分布的一致性损失。我们的实验与ABCL揭示了改进未加权平均召回两个不同的不平衡的医学图像分类数据集相比，现有的一致性损失，不是为了抵消类的不平衡。
2021-08-20 cs.CV cs.LG
Weakly Supervised-Based Oversampling for High Imbalance and High Dimensionality Data Classification
Tsinghua University（清华大学）
随着工业数据集的日益丰富，不平衡分类问题已成为许多应用领域的普遍问题。过采样是解决不平衡分类问题的一种有效方法。现有过采样方法的主要挑战之一是准确标记新的合成样本。合成样本的不准确标签会扭曲数据集的分布，并可能恶化分类性能。本文引入弱监督学习的思想来处理传统过采样方法造成的合成样本标记不准确的问题。为了提高合成样本标签的可信度，提出了图半监督SMOTE算法。此外，我们提出了成本敏感的邻域成分分析的高维数据集和自举集成框架高度不平衡的数据集。该方法在8个合成数据集和3个真实数据集上取得了良好的分类性能，尤其是对高不平衡和高维问题。平均性能和鲁棒性优于基准方法。
2020-10-06 cs.LG stat.ML
Imbalanced Semi-Supervised Learning via Label Refinement and Threshold Adjustment
College of Biomedical Engineering, Fudan University, Shanghai, China（复旦大学生物医学工程学院，上海，中国）；FMRIB Centre, Oxford Centre for Integrative Neuroimaging (OxCIN), University of Oxford, Oxford, UK（牛津大学FMRIB研究中心，牛津大学整合神经影像中心（OxCIN），牛津，英国）；School of Computer Science, University of Sheffield, Sheffield, UK（谢菲尔德大学计算机科学学院，谢菲尔德，英国）；Department of Engineering Science, University of Oxford, Oxford, UK（牛津大学工程科学系，牛津，英国）
针对半监督学习在类别不平衡数据上性能下降的问题，提出SEVAL框架，通过从类别平衡的子集学习标签精炼和阈值调整参数，联合优化生成更准确的伪标签，在多种不平衡场景下超越现有方法。
2026-06-16 cs.LG
Semi-Supervised Graph Imbalanced Regression
University of Notre Dame（圣母大学）；Snap Inc.（Snap公司）
针对图回归任务中稀有标签样本缺乏导致的数据不平衡问题，提出一种半监督框架，通过回归置信度伪标注和潜在空间标签锚定 mixup 数据增强逐步平衡训练数据，显著降低了图属性预测误差。
2023-05-20 cs.LG
Self-supervised Learning is More Robust to Dataset Imbalance
Stanford University（斯坦福大学）；Toyota Research Institute（丰田研究所）
自监督学习（SSL）是一种学习一般视觉表示的可扩展方式，因为它在没有标签的情况下学习。然而，大规模的未标记数据集通常具有长尾标签分布，我们对SSL的行为知之甚少。在这项工作中，我们系统地研究了数据集不平衡下的自监督学习。首先，我们通过大量的实验发现，现成的自监督表示已经比监督表示对类不平衡更鲁棒。在不同样本量下，使用SSL的平衡和不平衡预训练之间的性能差距明显小于使用监督学习的差距，无论是域内还是域外评估。其次，为了理解SSL的鲁棒性，我们假设SSL从频繁数据中学习更丰富的特征：它可以学习与标签无关但可转移的特征，这些特征有助于对稀有类和下游任务进行分类。相反，监督学习没有动机从频繁的例子中学习与标签无关的特征。我们验证了这一假设与半合成实验和理论分析的简化设置。第三，受理论见解的启发，我们设计了一种重新加权的正则化技术，该技术通过几个评估标准不断提高不平衡数据集上的SSL表示质量，用相同数量的例子缩小平衡和不平衡数据集之间的差距。
2022-05-22 cs.CV cs.LG stat.ML
Distribution Aligning Refinery of Pseudo-label for Imbalanced Semi-supervised Learning
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；Samsung Advanced Institute of Technology（三星综合技术院）；AItrics
虽然半监督学习（SSL）已被证明是一种很有前途的方法，利用未标记的数据时，标记的数据是稀缺的，现有的SSL算法通常假设训练类分布是平衡的。然而，这些在不平衡类分布下训练的SSL算法在推广到平衡测试标准时可能会受到严重影响，因为它们使用了偏向多数类的未标记数据的伪标签。为了缓解这个问题，我们制定了一个凸优化问题，以软细化从有偏模型生成的伪标签，并开发了一个简单的算法，名为伪标签的分布对齐精炼（DARP），可证明和有效地解决它。在各种类不平衡的半监督场景下，我们证明了DARP的有效性及其与最先进的SSL方案的兼容性。
2021-09-13 cs.LG stat.ML
Imbalanced Learning-based Automatic SAR Images Change Detection by Morphologically Supervised PCA-Net
Xidian University（西安电子科技大学）；Wuhan University（武汉大学）
变化检测是一个相当具有挑战性的任务，由于不变和变化的类之间的不平衡。另外，传统的对数比差分方法容易受到散斑的影响，降低了精度。本文提出了一种基于PCA网络的非平衡学习变化检测算法（PCA-Net），该算法设计了一个有监督的PCA网络，直接从给定的多时相SAR图像中获取鲁棒特征，而不是通过差分图来获取。此外，为了解决变化和不变类之间的不平衡，我们提出了一种形态学监督学习方法，其中两个类之间的边界附近的像素中的知识被利用来指导网络训练。最后，我们提出的PCA网络可以通过具有可用参考地图的数据集进行训练，并应用于新的数据集，这在变化检测项目中非常实用。我们提出的方法进行了验证，对五套多时间SAR图像。实验结果表明，利用边界训练样本中的知识，学习到的特征有利于变化检测，使该方法优于随机抽取样本训练的有监督方法。
2019-06-19 cs.CV cs.LG
ABC: Auxiliary Balanced Classifier for Class-imbalanced Semi-supervised Learning
KAIST（韩国科学技术院）
现有的半监督学习（SSL）算法通常假设类平衡的数据集，虽然许多现实世界的数据集的类分布是不平衡的。一般来说，在类不平衡数据集上训练的分类器偏向于大多数类。对于SSL算法来说，这个问题变得更成问题，因为它们利用未标记数据的有偏预测进行训练。然而，传统的类不平衡学习技术，这是专为标记的数据，不能很容易地与SSL算法相结合。我们提出了一个可扩展的类不平衡SSL算法，可以有效地使用未标记的数据，同时通过引入一个辅助平衡分类器（ABC）的单层，这是附加到现有的SSL算法的表示层减轻类不平衡。ABC是用一个小批量的类平衡损失来训练的，同时使用从小批量中的所有数据点学习的高质量表示，使用主干SSL算法来避免过拟合和信息丢失。此外，我们使用一致性正则化，这是一种最新的SSL技术，用于以修改的方式利用未标记的数据，通过为每个类选择具有相同概率的未标记数据来训练ABC以在类之间平衡。该算法在使用四个基准数据集的各种类不平衡SSL实验中实现了最先进的性能。
2021-10-20 cs.CV cs.LG
A*HAR: A New Benchmark towards Semi-supervised learning for Class-imbalanced Human Activity Recognition
The University of Edinburgh（爱丁堡大学）；Nanyang Technological University（南洋理工大学）
尽管有大量关于可穿戴惯性传感器数据的人类活动识别（HAR）的文献，但令人惊讶的是，很少有研究调查HAR的半监督学习，特别是在具有类别不平衡问题的挑战性场景中。在这项工作中，我们提出了一个新的基准，称为A*HAR，对类不平衡HAR的半监督学习。我们评估了最先进的半监督学习方法的A*HAR，通过结合平均教师和卷积神经网络。有趣的是，我们发现Mean Teacher在使用较少的标记样本和大量未标记样本训练分类器时提高了整体性能，但分类器在处理不平衡活动时表现不佳。这些发现导致了一个有趣的开放问题，即，开发半监督HAR算法，该算法是类不平衡感知的，而无需关于未标记样本的类分布的任何先验知识。数据集和基准评估在https://github.com/I2RDL2/ASTAR-HAR上发布，以供未来研究。
2021-01-13 cs.LG eess.SP
CoSSL: Co-Learning of Representation and Classifier for Imbalanced Semi-Supervised Learning
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland Informatics Campus（萨尔兰信息学园区）
在本文中，我们提出了一种新的协同学习框架（CoSSL）与解耦的表示学习和分类器学习的不平衡SSL。为了处理数据不平衡，我们设计了尾类特征增强（TFE）分类器学习。此外，目前的不平衡SSL的评估协议只关注平衡测试集，这在现实世界的场景中具有有限的实用性。因此，我们进一步在各种移位测试分布下进行综合评估。在实验中，我们证明了我们的方法在大范围的偏移分布上优于其他方法，在从CIFAR-10，CIFAR-100，ImageNet到Food-101的基准数据集上实现了最先进的性能。我们的代码将公开提供。
2022-05-19 cs.CV cs.LG
Balanced Semi-Supervised Generative Adversarial Network for Damage Assessment from Low-Data Imbalanced-Class Regime
University of California, Berkeley（加州大学伯克利分校）；Tsinghua University（清华大学）；Pacific Earthquake Engineering Research Center（太平洋地震工程研究中心）
近年来，应用深度学习（DL）评估结构损伤在基于视觉的结构健康监测（SHM）中越来越受欢迎。然而，数据不足和类别不平衡阻碍了深度学习在SHM实际应用中的广泛应用。常见的缓解策略包括迁移学习、过采样和欠采样，但这些临时方法只能提供有限的性能提升，并且因情况而异。在这项工作中，我们介绍了生成对抗网络（GAN）的一种变体，称为平衡半监督GAN（BSS-GAN）。它采用半监督学习的概念，并在训练中采用平衡批量采样，以解决低数据和不平衡类问题。在有限计算能力的低数据不平衡分类条件下，进行了一系列混凝土开裂和剥落分类的计算机实验。实验结果表明，BSS-GAN在召回率和$F_β$评分方面均优于传统的损伤检测方法，具有较好的性能。
2022-11-29 cs.LG eess.IV
Addressing Class Variable Imbalance in Federated Semi-supervised Learning
School of Data Science and Application, Inner Mongolia University of Technology（内蒙古工业大学数据科学与应用学院）
本文提出FCVI算法，通过类别变量学习机制缓解联邦半监督学习中因设备更迭与类别数量变化导致的数据不平衡问题，在保护隐私的同时显著优于基线方法。
2023-03-21 cs.AI cs.LG
Iterative Nearest Neighborhood Oversampling in Semisupervised Learning from Imbalanced Data
Dalian University of Technology（大连理工大学）
基于Transductive图的半监督学习方法通常利用标记和未标记样本作为顶点来构建无向图。这些方法将标记样本的标签信息通过相邻样本的边缘传播到相邻样本，从而得到未标记样本的预测标签。大多数流行的半监督学习方法对不平衡标记数据集的初始标记分布敏感。在不平衡的分类中，大多数类将严重倾斜类边界。在本文中，我们提出了一种简单而有效的方法来减轻不平衡问题的不利影响，通过迭代选择一些未标记的样本，并将它们添加到少数类，形成一个平衡的标记数据集的学习方法之后。在UCI数据集和MNIST手写数字数据集上的实验表明，该方法的性能优于现有的其他方法。
2013-12-24 cs.LG
Leveraging Label Proportion Prior for Class-Imbalanced Semi-Supervised Learning
Kyushu University, Fukuoka, Japan（九州大学）
本文提出比例损失用于半监督学习，以缓解类别不平衡问题，在长尾CIFAR-10数据集上验证了其有效性。
2026-03-03 cs.CV cs.LG
Matrix sketching for supervised classification with imbalanced classes
University of Bologna（博洛尼亚大学）
矩阵素描是近年来发展起来的一种数据压缩技术。一个输入矩阵A可以用一个较小的矩阵B有效地近似，这样B就可以保持A的大部分属性，直到某个保证的近似比。这样，对大数据集的数值运算变得更快。草图绘制算法通常使用随机投影来压缩原始数据集，并且这种随机生成过程使它们适合于统计分析。在多元线性回归的背景下，草绘算法的统计特性已经被广泛研究。在本文中，我们提出了矩阵素描作为一种工具，用于重新平衡类的监督分类与不平衡类的大小。事实上，类不平衡可能导致分类性能不佳，尤其是对于少数类而言。
2019-12-02 cs.LG stat.ME stat.ML
Multimodal Deep Generative Model for Semi-Supervised Learning under Class Imbalance
Department of Industrial and Systems Engineering, Korea Advanced Institute of Science and Technology (KAIST), Daejeon, Republic of Korea（工业与系统工程系，韩国科学技术院（KAIST），大田，大韩民国）
本文提出一种多模态深度生成模型，通过共享潜在变量和t分布改进类别不平衡问题，提升半监督学习性能。
2026-05-07 cs.AI cs.LG stat.ML
SC-MIL: Supervised Contrastive Multiple Instance Learning for Imbalanced Classification in Pathology
PathAI Inc（PathAI公司）；University of Massachusetts（马萨诸塞大学）
针对病理图像标签与像素双重不平衡及OOD挑战，提出联合训练框架SC-MIL，通过解耦特征与分类器学习并引入有监督对比学习，在非小细胞肺癌和肾细胞癌亚型分类上取得显著提升。
2023-09-09 cs.CV cs.LG
NodeReg: Mitigating the Imbalance and Distribution Shift Effects in Semi-Supervised Node Classification via Norm Consistency
Soochow University（苏州大学）；Westlake University（西湖大学）
提出NodeReg正则化方法，通过强制节点表示范数一致性，有效缓解半监督节点分类中邻居不平衡与噪声引发的分布外泛化问题，显著提升分类性能。
2025-03-05 cs.AI cs.LG
Sampling Control for Imbalanced Calibration in Semi-Supervised Learning
Corresponding author（通讯作者）
SC-SSL通过解耦采样控制减轻半监督学习中的类别不平衡问题，通过自适应调整采样概率和后处理校准logits，提升模型性能。
2025-11-24 cs.CV cs.LG stat.ML
Ensemble of Unsupervised Deep Learning for Clustering Imbalanced Tabular Data
Tennessee State University（田纳西州立大学）；Enosis Solutions（伊诺西斯解决方案公司）；North Carolina A&T State University（北卡罗来纳农工州立大学）
本文针对不平衡表格数据，提出两种无监督深度聚类集成方法，经16个二分类表格数据集实验，其在ACC、NMI、ARI指标上优于单个方法，可作为监督分类的有力替代方案。
2026-08-04 cs.LG
Federated Model Aggregation via Self-Supervised Priors for Highly Imbalanced Medical Image Classification
The Hong Kong University of Science and Technology（香港科技大学）；University of Girona（赫罗纳大学）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局）
本文针对高度不平衡医学图像数据集的联邦学习问题，提出基于自监督先验的动态平衡模型聚合方法 Fed-MAS，利用共享辅助预训练模型测量类内差异，指导全局模型优化，实现鲁棒且无偏的分类。
2023-07-27 cs.CV cs.LG
SemiGPC: Distribution-Aware Label Refinement for Imbalanced Semi-Supervised Learning Using Gaussian Processes
University of Bern（伯尔尼大学）；AWS AI Labs（AWS AI 实验室）
提出基于高斯过程后验标签分布并带全局归一化项的 SemiGPC 标签精炼方法，以增强类别不平衡半监督学习的鲁棒性，并在多个方法、预训练策略和长尾基准上验证其性能提升。
2023-11-03 cs.CV cs.LG
VIGraph: Generative Self-supervised Learning for Class-Imbalanced Node Classification
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Kuaishou Technology（快手科技）
本文提出生成式自监督学习方法VIGraph，基于变分图自编码器为少数类生成高质量节点，并结合跨视图对比学习、邻接矩阵重建和对齐策略，有效解决类别不平衡节点分类问题。
2024-03-27 cs.AI cs.LG
Exploiting Synthetically Generated Data with Semi-Supervised Learning for Small and Imbalanced Datasets
University College London（伦敦大学学院）；University of Birmingham（伯明翰大学）；University of Cambridge（剑桥大学）；University of Córdoba（科尔多瓦大学）
数据增强在机器学习中迅速获得关注。合成数据可以通过简单的转换或通过数据分布来生成。在后一种情况下，主要的挑战是估计与新的合成模式相关联的标签。本文研究了通过模式的凸组合生成合成数据的效果，并将这些作为无监督信息使用在具有支持向量机的半监督学习框架中，从而避免了标记合成示例的需要。我们在总共53个二进制分类数据集上进行了实验。我们的研究结果表明，这种类型的数据过采样支持半监督学习中著名的聚类假设，对于小的高维数据集和不平衡学习问题显示出出色的结果。
2019-03-24 cs.AI cs.LG stat.ML
Rethinking the Value of Labels for Improving Class-Imbalanced Learning
Massachusetts Institute of Technology（麻省理工学院）；EECS（电气工程与计算机科学系（麻省理工学院））
现实世界的数据往往呈现出具有严重类别不平衡的长尾分布，这对深度识别模型提出了巨大的挑战。我们确定了一个持续的困境标签的价值在不平衡学习的背景下：一方面，监督标签通常会导致更好的结果比其无监督的同行;另一方面，严重不平衡的数据自然会引起“标签偏见”的分类，其中决策边界可以大大改变多数类。在这项工作中，我们系统地研究这两个方面的标签。我们从理论和经验上证明，类不平衡学习可以在半监督和自我监督的方式中显着受益。具体来说，我们确认（1）积极的，不平衡的标签是有价值的：给定更多的未标记数据，原始标签可以与额外的数据一起利用，以半监督的方式减少标签偏差，这大大提高了最终的分类器;（2）然而，消极的，我们认为不平衡的标签并不总是有用的：首先以自监督方式预训练的分类器始终优于其相应的基线。在大规模不平衡数据集上进行的大量实验验证了我们的理论基础策略，显示出比以前的最先进技术更优越的性能。我们有趣的发现强调了重新思考现实长尾任务中不平衡标签的使用的必要性。代码可在https://github.com/YyzHarry/imbalanced-semi-self上获得。
2020-09-26 cs.CV cs.LG stat.ML
A Study on Semi-Supervised Detection of DDoS Attacks under Class Imbalance
Department of ECE University of Windsor（电子工程系 温莎大学）；Faculty of Computer Science University of New Brunswick（计算机科学学院 新 Brunswick大学）
本文研究了在类别不平衡情况下利用半监督学习检测DDoS攻击的方法，并评估了13种算法的性能，以改进入侵检测系统的设计。
2025-06-28 cs.AI cs.CR cs.LG
SuperCon: Supervised Contrastive Learning for Imbalanced Skin Lesion Classification
University of South Florida（南佛罗里达大学）
卷积神经网络（CNN）在皮肤病变分类中取得了巨大的成功。需要平衡的数据集来训练好的模型。然而，由于在实践中不同皮肤病变的出现，严重或甚至最致命的皮肤病变类型（例如，黑色素瘤）在数据集中自然具有相当小的量。在这种情况下，分类性能的下降发生广泛，这是非常重要的CNN，工作在类不平衡的皮肤病变图像数据集。在本文中，我们提出了SuperCon，一个两阶段的训练策略，以克服类不平衡的皮肤病变分类问题。它包含两个阶段：（i）表示训练，其试图学习在类内紧密对齐并且远离类间的特征表示，以及（ii）分类器微调，其旨在学习基于所学习的表示正确预测标签的分类器。在实验评估中，我们的方法和其他现有的皮肤病变基准数据集的方法进行了广泛的比较。结果表明，我们的两阶段训练策略有效地解决了类不平衡分类问题，并显着提高了现有的作品在F1得分和AUC得分，从而导致国家的最先进的性能。
2022-02-11 cs.CV cs.LG
DHC: Dual-debiased Heterogeneous Co-training Framework for Class-imbalanced Semi-supervised Medical Image Segmentation
The Hong Kong University of Science and Technology（香港科技大学）
针对半监督3D医学图像分割中的类别不平衡问题，提出含两种去偏损失加权策略的DHC协同训练框架，性能优于现有最优半监督方法。
2023-07-22 cs.CV cs.LG eess.IV
An Embarrassingly Simple Baseline for Imbalanced Semi-Supervised Learning
针对有标注与无标注数据均类别不平衡的SSL问题，论文提出仅按类别分布差异用伪标签补充有标注数据的简单基线SimiS，在多个长尾基准上显著超越SOTA。
2024-01-18 cs.AI cs.CV cs.LG
DASO: Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning
KAIST（韩国科学技术院）；UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
传统的半监督学习（SSL）方法由于类别不平衡和类别分布不匹配导致伪标签严重偏差，其性能与实际应用相差甚远。本文解决了这样一个相对不足的问题。首先，我们提出了一个一般的伪标签框架，类自适应地混合语义伪标签从基于相似性的分类器的线性分类器的线性，观察后，这两种类型的伪标签具有互补的属性的偏见。我们进一步引入了一种新的语义对齐损失，建立平衡的特征表示，以减少有偏见的预测分类。我们称整个框架为分布式感知面向语义（DASO）伪标签。我们在广泛的不平衡基准测试中进行了广泛的实验：CIFAR 10/100-LT，STL 10-LT和具有开集类的大规模长尾Semi-Aves，并证明，所提出的DASO框架可靠地改进了具有未标记数据的SSL学习器，特别是当（1）类不平衡和（2）分布不匹配占主导地位时。
2022-06-02 cs.AI cs.CV cs.LG
BaCon: Boosting Imbalanced Semi-supervised Learning via Balanced Feature-Level Contrastive Learning
Peking University（北京大学）
针对类别不平衡半监督学习中伪标签偏差加剧、现有方法依赖有偏表征或引入噪声的问题，提出BaCon方法，通过特征级对比学习平衡特征分布，在多个长尾数据集上取得准确率提升与更强鲁棒性。
2024-07-12 cs.CV cs.LG
Scope Loss for Imbalanced Classification and RL Exploration
RBC CM（加拿大皇家银行资本市场）；University of Toronto（多伦多大学）
本文提出Scope Loss，通过揭示强化学习探索-利用权衡与监督分类数据不平衡的等价性，以梯度调整方式同时缓解过度利用和类别不平衡问题，无需调参，并在强化学习基准和偏斜分类数据集上验证其优于现有损失函数。
2023-08-08 cs.AI cs.LG
InPL: Pseudo-labeling the Inliers First for Imbalanced Semi-supervised Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
不平衡半监督学习（SSL）中的最新方法依赖于具有一致性正则化的基于置信度的伪标记。为了获得高质量的伪标签，通常采用高置信度阈值。然而，已经表明，对于远离训练数据的样本，深度网络中基于softmax的置信度分数可以任意高，因此，即使是高置信度的未标记样本的伪标签也可能仍然不可靠。在这项工作中，我们提出了一个新的视角的伪标记不平衡的SSL。在不依赖于模型置信度的情况下，我们建议衡量未标记样本是否可能是“分布内”;即，接近当前的训练数据。为了确定未标记的样本是"分布内“还是"分布外”，我们采用来自分布外检测文献的能量分数。随着训练的进行，越来越多的未标记样本变得分布并有助于训练，组合的标记和伪标记数据可以更好地近似真实的类分布，以改进模型。实验表明，我们的基于能量的伪标记方法，\textbf{InPL}，虽然概念上简单，显着优于基于信心的方法不平衡的SSL基准。例如，它产生约3\%的绝对精度提高CIFAR 10-LT。当与最先进的长尾SSL方法相结合时，进一步的改进。特别是，在最具挑战性的场景之一，InPL实现了6.9\%的准确性比最好的竞争对手。
2023-03-13 cs.CV cs.LG
As easy as APC: overcoming missing data and class imbalance in time series with self-supervised learning
University of Amsterdam（阿姆斯特丹大学）；Clue by BioWink GmbH（Clue by BioWink有限责任公司）；Stanford University（斯坦福大学）
高水平的缺失数据和严重的类别不平衡是普遍存在的挑战，通常同时存在于现实世界的时间序列数据中。现有的方法分别处理这些问题，经常对底层数据生成过程做出重大假设，以减少缺失信息的影响。在这项工作中，我们演示了如何利用一般的自监督训练方法，即自回归预测编码（APC），在没有强假设的情况下同时克服缺失数据和类不平衡。具体来说，在一个合成数据集上，我们表明，通过使用APC，标准基线得到了大幅改善，在高缺失和严重类别不平衡的组合设置中获得了最大的收益。我们进一步将APC应用于两个真实世界的医疗时间序列数据集，并表明APC提高了所有设置中的分类性能，最终在Physionet基准上实现了最先进的AUPRC结果。
2022-01-26 cs.AI cs.LG cs.NE
SIFT-DBT: Self-supervised Initialization and Fine-Tuning for Imbalanced Digital Breast Tomosynthesis Image Classification
Yale University（耶鲁大学）；Yale School of Medicine（耶鲁医学院）
针对数字乳腺断层合成（DBT）图像分类中的数据不平衡问题，提出SIFT-DBT方法，结合视图级对比自监督初始化与微调及patch级多实例学习，在970项研究中实现92.69%的体积级AUC。
2024-03-19 cs.CV cs.LG eess.IV
Anomaly Detection in Additive Manufacturing Processes using Supervised Classification with Imbalanced Sensor Data based on Generative Adversarial Network
Virginia Tech（弗吉尼亚理工大学）；NJIT（新泽西理工学院）
监督分类方法已被广泛用于先进制造过程的质量保证，例如用于异常（缺陷）检测的增材制造（AM）。然而，由于在制造过程中异常状态（有缺陷）比正常状态（无缺陷）发生的频率低得多，因此从正常状态收集的传感器数据样本的数量通常比从异常状态收集的传感器数据样本的数量多得多。这个问题导致分类分析的训练数据不平衡，从而降低了过程中检测异常状态的性能。为异常状态生成有效的人工样本数据有利于训练集的均衡。为了实现这一目标，本文提出了一种新的数据增强方法的基础上生成对抗网络（GAN）使用增材制造过程图像传感器数据。我们的方法的新颖之处在于，一个标准的GAN和分类器的技术，以稳定的标准GAN的学习过程进行了联合优化。所生成的多样且高质量的样本为分类器提供了平衡的训练数据。GAN和分类器之间的迭代优化提供了高性能的分类器。通过聚合物和金属AM过程的公开源数据和实际案例研究，验证了所提出方法的有效性。
2022-11-25 cs.LG stat.AP
Imbalances in Neurosymbolic Learning: Characterization and Mitigating Strategies
Huawei Labs（华为实验室）；University of Pennsylvania（宾夕法尼亚大学）
本文提出了一种缓解神经符号学习中学习不平衡问题的方法，通过估计隐藏标签的边际并将其作为约束，提升模型性能达14%。
2025-12-17 cs.LG stat.ML
Federated Self-Supervised Modulation Classification under Non-IID and Imbalanced Data
Department of Electrical and Computer Engineering（电气与计算机工程系）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Qualcomm Technologies Inc.（高通技术公司）
该研究针对非独立同分布与不平衡数据场景，提出FedSSL-AMC联邦自监督框架，结合因果时间膨胀CNN编码器与轻量级本地SVM，在调制分类任务上取得优于监督联邦学习基线的性能。
2026-08-18 cs.AI cs.LG eess.SP
Self-Supervised Learning Featuring Small-Scale Image Dataset for Treatable Retinal Diseases Classification
Rice University（莱斯大学）；Boston University（波士顿大学）；Microsoft（微软公司）
本文针对小规模OCT视网膜图像数据，评估SSL与TL模型，证明MoCo-v2等自监督方法在平衡、不平衡及极少样本条件下分类性能更优。
2024-04-15 cs.CV cs.LG
Enhanced semi-supervised stamping process monitoring with physically-informed feature extraction
Sun Yat-sen University（中山大学）
本文针对高速冲压过程批次异常问题，提出融合物理信息与数据驱动的半监督异常监控框架，仅用正常样本建模并设计偏差分数，在真实冲压数据上验证了其优越性。
2025-05-09 cs.LG
Class Incremental Fault Diagnosis under Limited Fault Data via Supervised Contrastive Knowledge Distillation
ZJU-UIUC Joint Institute at Zhejiang University（浙江大学-伊利诺伊大学厄巴纳-香槟分校联合研究所）；ZJU-UoE Institute at Zhejiang University（浙江大学-爱丁堡大学联合研究所）；College of Biomedical Engineering and Instrument Science at Zhejiang University（浙江大学生物医学工程与仪器科学学院）；College of Computer Science and Technology in Zhejiang University（浙江大学计算机科学与技术学院）
提出SCLIFD框架，通过监督对比知识蒸馏、优先样本选择和随机森林分类器，解决类增量故障诊断中少样本、灾难性遗忘和类别不平衡问题，在模拟和真实工业数据集上表现优于现有方法。
2025-01-19 cs.AI cs.LG
Transfer and Share: Semi-Supervised Learning from Long-Tailed Data
Southeast University（东南大学）；Nanjing University（南京大学）；Paradigm Inc.（第四范式公司）
长尾半监督学习（LTSSL）旨在从只有少数样本被注释的类不平衡数据中学习。现有的解决方案通常需要大量的成本来解决复杂的优化问题，或者可能导致信息丢失的类平衡欠采样。在本文中，我们提出了TRAS（TRAnsfer and Share），以有效地利用长尾半监督数据。TRAS通过一个微妙的功能来改变传统SSL模型中不平衡的伪标签分布，以增强少数类的监督信号。然后，它将分布转移到目标模型，以便少数类将得到显着的关注。有趣的是，TRAS表明，更平衡的伪标签分布可以大大有利于少数类训练，而不是像以前的作品那样寻求生成准确的伪标签。为了简化方法，TRAS通过共享特征提取器将传统SSL模型和目标模型的训练合并到单个过程中，其中两个分类器有助于改善表示学习。根据大量的实验，TRAS提供了更高的准确性比国家的最先进的方法，在整个类以及少数类。
2022-05-26 cs.LG
Time-Series Contrastive Learning against False Negatives and Class Imbalance
Beijing Jiaotong University（北京交通大学）
本文分析了时间序列对比学习中被忽视的假负样本和类别不平衡问题，基于SimCLR框架提出构建实例图模拟监督对比学习以减轻假负样本影响，并结合图结构和少量标签进行半监督分类以增强少数类表征，在四个真实数据集上显著提升了整体性能。
2024-08-24 cs.AI cs.LG
Correcting Data Imbalance for Semi-Supervised Covid-19 Detection Using X-ray Chest Images
Centre for Computational Intelligence (CCI), De Montfort University（德蒙福特大学计算智能中心）；Instituto Tecnologico de Costa Rica（哥斯达黎加理工学院）；School of Computer Science, University of Nottingham（诺丁汉大学计算机科学学院）；Imágenes Médicas Dr Chavarría Estrada（查瓦里亚·埃斯特拉达医学影像中心）；Biomedic Research Institute of Málaga (IBIMA)（马拉加生物医学研究所）
冠状病毒（COVID-19）是一种国际性大流行病，已迅速在全世界传播。将深度学习应用于Covid-19患者胸部X射线图像的图像分类，可能成为一种新型的诊断前检测方法。然而，深度学习架构需要大型标记数据集。当研究主题相对较新时，这通常是一个限制，例如在病毒爆发的情况下，处理小的标记数据集是一个挑战。此外，在一种新的高度传染性疾病的背景下，数据集也是高度不平衡的，几乎没有新疾病的阳性病例的观察结果。在这项工作中，我们使用数量非常有限的标记观测和高度不平衡的标记数据集来评估称为MixMatch的半监督深度学习架构的性能。我们提出了一种简单的方法来纠正数据不平衡，重新加权损失函数中的每个观察，给一个更高的权重，观察对应于代表性不足的类。对于未标记的观测，我们建议使用MixMatch计算的伪标签和增强标签来选择适当的权重。MixMatch方法与所提出的基于伪标签的平衡校正相结合，相对于非平衡MixMatch算法，将分类精度提高了10%，具有统计学意义。我们测试了我们提出的方法与几个可用的数据集使用10，15和20 labelledobservations。此外，在测试数据集中还包括一个新的数据集，由哥斯达黎加成人患者的胸部X射线图像组成
2020-08-20 cs.CV cs.LG eess.IV
