A Novel Hybrid Sampling Framework for Imbalanced Learning
Islamic University of Technology（伊斯兰技术大学）；Robi Axiata Limited（Robi Axiata有限公司）
类别不平衡是分类任务中经常出现的情况。从不平衡的数据中学习是一个重大挑战，这引发了这一领域的大量研究。使用抽样技术的数据预处理是处理数据中存在的不平衡的标准方法。由于标准分类算法在不平衡的数据上表现不佳，因此数据集在训练之前需要充分平衡。这可以通过对少数类进行过采样或对多数类进行欠采样来实现。在这项研究中，提出了一种新的混合采样算法。为了克服抽样技术的局限性，同时确保保留的抽样数据集的质量，已经开发了一个复杂的框架，以适当地结合三种不同的抽样技术。首先应用邻域清理规则来减少不平衡。然后将随机欠采样策略性地与SMOTE算法相结合，以获得数据集中的最佳平衡。这种建议的混合方法，称为“SMOTE-RUS-NC”，已与其他国家的最先进的采样技术进行了比较。该策略被进一步纳入集成学习框架，以获得一个更强大的分类算法，称为“SRN-BRF”。在26个不平衡数据集上进行了严格的实验，这些数据集具有不同程度的不平衡。在几乎所有的数据集，提出的两种算法优于现有的采样策略，在许多情况下，由一个相当大的利润。特别是在高度不平衡的数据集，流行的采样技术完全失败，他们取得了无与伦比的性能。优越的结果表明，所提出的模型的有效性和它们的潜力，在不平衡域的强大的采样算法。
2022-08-20 cs.AI cs.LG
Sampling Control for Imbalanced Calibration in Semi-Supervised Learning
Corresponding author（通讯作者）
SC-SSL通过解耦采样控制减轻半监督学习中的类别不平衡问题，通过自适应调整采样概率和后处理校准logits，提升模型性能。
2025-11-24 cs.CV cs.LG stat.ML
UGRWO-Sampling for COVID-19 dataset: A modified random walk under-sampling approach based on graphs to imbalanced data classification
Amirkabir University of Technology（阿米尔卡比尔理工大学）；University of Zanjan（赞詹大学）
本文提出了一种新的基于图的RWO-采样（随机游走过采样）方法。在该方法中，引入了基于欠采样和过采样的两种方案，以保持邻近信息对噪声和野值的鲁棒性。在少数类上构建第一个图之后，将对选定的样本进行RWO采样，其余的保持不变。第二个图是为多数类构建的，并且移除低密度区域（离群值）中的样本。最后，在所提出的方法中，在高密度区域中的大多数类的样本被选择，其余的被淘汰。此外，利用RWO抽样，少数类的边界增加，但没有提高离群值。对该方法进行了测试，并在9个具有不同过采样率的连续属性数据集和一个用于诊断COVID-19疾病的数据集上将评估指标的数量与以前的方法进行了比较。实验结果表明，该方法对不平衡数据的分类具有较高的效率和灵活性
2021-12-02 cs.CV cs.LG stat.ML
Overlapping oriented imbalanced ensemble learning method based on projective clustering and stagewise hybrid sampling
School of Microelectronics and Communication Engineering, Chongqing University（重庆大学微电子与通信工程学院）
非均衡学习的挑战不仅在于类的不均衡问题，还在于类的重叠问题，这是一个复杂的问题。然而，现有的算法大多集中在前者。这一局限性阻碍了现有方法的突破。针对这一缺陷，提出了一种基于双聚类和分段混合采样的集成学习算法（DCSHS）。DCSHS有三个部分。首先，设计了一个基于Davies-Bouldin聚类有效性指标（DBI）的投影聚类组合框架（PCC），用于获得高质量的聚类，并将其组合得到一组类均衡、重叠度低的交叉完备子集（CCS）。其次，根据子集类的特点，设计了一种分阶段混合采样算法，实现了子集的去重叠和均衡。最后，通过迁移学习为所有处理后的子集构造投影聚类迁移映射机制（CTM），从而减少类重叠，挖掘样本的结构信息.该算法的主要优点是可以利用CCS的交叉性实现重叠多数样本的软消除，并学习尽可能多的重叠样本信息，从而在类平衡的同时增强类重叠。在实验部分，我们选取了30多个公共数据集和十多个有代表性的算法进行验证。实验结果表明，DCSHS是显着最好的各种评价标准。
2022-11-30 cs.AI cs.CV cs.LG
A Study imbalance handling by various data sampling methods in binary classification
Cork Institute of Technology（科克理工学院）
本研究报告的目的是展示我们的学习曲线和机器学习生存周期，使用Kaggle二进制分类数据集，并探索从预处理到最终优化和模型评估的各种技术，此外，我们强调了数据不平衡问题，我们讨论了处理数据水平上的不平衡的不同方法，采样和欠采样不仅要达到平衡的类表示，而且要提高整体性能。这项工作也为今后的工作开辟了一些空白。
2021-05-23 cs.LG
Imbalanced Continual Learning with Partitioning Reservoir Sampling
Neural Processing Research Center, Seoul National University（首尔大学神经处理研究中心）
从连续的数据流中进行持续学习是机器学习研究的一个关键挑战。大多数研究都是在单标签分类设置下进行的，并假设标签分布均衡。这项工作扩展了多标签分类的研究视野。在这样做的过程中，我们发现了许多多标签数据集中固有的意料之外的逆境，即长尾分布。我们共同解决这两个独立解决的问题，灾难性的遗忘和长尾标签分布，首先经验性地显示了一个新的挑战，破坏性遗忘的少数概念的尾巴。然后，我们策划了两个基准数据集，COCOseq和NUS-WIDEseq，允许研究任务内和任务间的不平衡。最后，我们提出了一种新的采样策略，称为分区水库采样（PRS），它允许模型保持平衡的头和尾类的知识。我们在项目页面中公开发布数据集和代码。
2020-09-08 cs.AI cs.CV cs.LG
CUSBoost: Cluster-based Under-sampling with Boosting for Imbalanced Classification
United International University（联合国际大学）
类不平衡分类是数据采掘和机器学习中的一个具有挑战性的研究问题，因为大多数现实生活中的数据集往往是不平衡的。现有的学习算法通过正确分类多数类而最大化分类精度，但是错误分类少数类。然而，在现实生活中的应用程序中，少数类实例比多数类实例更感兴趣地表示概念。最近，一些技术的基础上的抽样方法（欠采样的多数类和过采样的少数类），成本敏感的学习方法，集成学习已被用于在文献中分类不平衡的数据集。在本文中，我们介绍了一种新的基于聚类的欠采样方法与升压（AdaBoost）算法，称为ADABoost，有效的不平衡分类。该算法提供了一种替代RUSBoost（随机欠采样与AdaBoost）和SMOTEBoost（合成少数过采样与AdaBoost）算法。我们使用基于集成学习的最先进的方法，如AdaBoost，RUSBoost，SMOTEBoost，在13个具有不同不平衡率的不平衡二进制和多类数据集上评估了RUSBoost算法的性能。实验结果表明，该算法是一种有效的处理高度不平衡数据集的方法。
2017-12-12 cs.LG stat.ML
T2ID-CAS: Diffusion Model and Class Aware Sampling to Mitigate Class Imbalance in Neck Ultrasound Anatomical Landmark Detection
Department of Computer Science, University of Central Florida（计算机科学系，中央佛罗里达大学）；Department of Otolaryngology Head Neck Surgery, University of Cincinnati College of Medicine（耳鼻喉科与头颈外科系，辛辛那提大学医学院）；Department of Internal Medicine, University of Central Florida College of Medicine（内科系，中央佛罗里达大学医学院）
针对颈部超声解剖标志检测中的类别不平衡问题，提出结合文本到图像潜在扩散模型与类别感知采样的T2ID-CAS方法生成高质量合成样本，有效提升了少数类表示，使YOLOv9检测的平均精度均值从66基线显著提升至88.2。
2025-04-29 cs.AI cs.CV cs.LG
An Empirical Analysis of the Efficacy of Different Sampling Techniques for Imbalanced Classification
Islamic University of Technology（伊斯兰技术大学）；Robi Axiata Limited（Robi Axiata有限公司）
从不平衡的数据中学习是一项具有挑战性的任务。标准分类算法在不平衡数据上训练时往往表现不佳。需要采用一些特殊的策略，通过修改数据分布或重新设计底层分类算法来实现期望的性能。现实世界数据集中普遍存在的不平衡导致了针对类不平衡问题的多种策略的产生。然而，并不是所有的策略都是有用的，或者在不同的不平衡场景中提供良好的性能。处理不平衡数据的方法有很多，但这些技术的有效性或这些技术之间的实验比较尚未进行。在这项研究中，我们提出了一个全面的分析26个流行的抽样技术，以了解他们在处理不平衡数据的有效性。在50个具有不同程度不平衡的数据集上进行了严格的实验，以彻底研究这些技术的性能。详细讨论了这些技术的优点和局限性，以及如何克服这些局限性。我们确定了一些影响采样策略的关键因素，并就如何为特定应用选择合适的采样技术提供了建议。
2022-08-25 cs.LG
Removing Class Imbalance using Polarity-GAN: An Uncertainty Sampling Approach
NVIDIA（英伟达）；IIIT Guwahati（古瓦哈提印度信息技术学院）
类不平衡是深度学习模型和传统模型在实际分类问题中的一个具有挑战性的问题。传统上成功的对策，如合成过采样，在深度学习模型处理的复杂结构化数据方面取得了有限的成功。在这项工作中，我们建议使用生成对抗网络（GAN）配备了一个生成器网络G，一个神经网络D和一个分类器网络C，以消除视觉数据集的类不平衡。发电机网络采用自动编码器进行初始化，使其稳定。该算法保证了G服从不平衡类的类分布。在传统方法中，生成器G与鉴别器D在最小-最大游戏中竞争，我们建议进一步向原始网络添加一个额外的分类器网络。现在，生成器网络试图与鉴别器以及我们引入的新分类器进行最小-最大博弈。在生成器网络G上施加附加条件以在期望的不平衡类的凸包中产生点。此外，对抗游戏与分类器C的竞争，将G学习到的条件分布推向相应类的外围，补偿了类不平衡的问题。实验证据表明，这种初始化导致网络的稳定训练。我们在FashionMNIST、MNIST、SVHN、ExDark、MVTec异常检测数据集、胸部X射线数据集等极端视觉分类任务上实现了最先进的性能。
2020-12-09 cs.CV cs.LG
Sampling Based Approaches to Handle Imbalances in Network Traffic Dataset for Machine Learning Techniques
Panjab University（旁遮普大学）
网络流量数据是巨大的，变化和不平衡的，因为各种类别不是均匀分布的。用于流量分析的机器学习（ML）算法使用来自该数据的样本来推荐网络管理员要采取的动作以及训练。由于数据集的不平衡，很难训练用于流量分析的机器学习算法，并且这些算法可能给出有偏差或错误的结果，导致这些算法的性能严重下降。在采样期间可以应用各种技术来最小化不平衡实例的影响。在本文中，各种采样技术进行了分析，以比较减少这些算法采样的网络流量数据集的不平衡的变化。各种参数，如样本中的缺失类，不同实例的采样概率已被考虑用于比较。
2013-11-12 cs.CR cs.LG cs.NI
Multi-Label Sampling based on Local Label Imbalance
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Ioannina（约阿尼纳大学）
类别不平衡是多标签数据的固有特征，它阻碍了大多数多标签学习方法。处理这个问题的一个有效而灵活的策略是在训练多标签学习模型之前采用采样技术。虽然现有的多标签采样方法缓解了多标签数据集的全局不平衡，但实际上是少数类样本的局部邻域内的不平衡水平在性能下降中起着关键作用。为了解决这个问题，我们提出了一种新的措施来评估的局部标签不平衡的多标签数据集，以及两个多标签抽样方法的基础上的局部标签不平衡，即MLSOL和MLUL。通过考虑所有信息标签，MLSOL为困难的示例创建了更多样化和更好标记的合成实例，而MLUL则消除了对其本地区域有害的实例。在13个多标签数据集上的实验结果证明了所提出的测量和采样方法对各种评估指标的有效性，特别是在原始数据的重复样本上训练的分类器集合的情况下。
2020-05-19 cs.LG stat.ML
A binary PSO based ensemble under-sampling model for rebalancing imbalanced training data
本文提出一种结合二进制PSO实例选择与集成分类器的多目标欠采样方法，通过优化多数类样本组合重平衡训练数据，在不平衡分类中优于单一集成方法、现有欠采样方法及其与传统PSO实例选择的组合。
2025-01-31 cs.AI cs.LG cs.NE
A Synthetic Over-sampling method with Minority and Majority classes for imbalance problems
University of Melbourne（墨尔本大学）
类别不平衡是对许多现实世界案例进行分类的一个重大挑战。合成过采样方法已经有效地提高了分类器的性能不平衡的问题。然而，大多数合成过采样方法产生的凸包内的现有少数实例形成的非多样化的合成实例，因为他们只集中在少数类，而忽略了大量的信息提供的多数类。它们通常也不能很好地处理极不平衡的数据，因为少数实例越少，生成合成实例的信息就越少。此外，现有的方法，生成合成实例使用多数类分布信息不能有效地执行时，多数类具有多模态分布。我们提出了一种新的方法来生成多样性和适应性的合成实例，使用合成过采样与少数和多数类（SOMM）。SOMM在少数数据空间内生成合成实例。它更新生成的实例自适应包括两个类的邻域。因此，SOMM表现良好的二进制和多类不平衡问题。我们研究的性能SOMM的二进制和多类问题使用基准数据集不同的不平衡水平。实验结果表明，SOMM的优越性相比，其他现有的方法。
2021-08-10 cs.LG
Partial Resampling of Imbalanced Data
Canadian University Dubai（迪拜加拿大大学）；Cairo University（开罗大学）
不平衡数据是机器学习中经常遇到的问题。尽管有大量的文献对不平衡数据的抽样技术，有一个有限的研究，解决问题的最佳抽样率。在本文中，我们试图填补空白，在文献中进行了大规模的研究抽样率对分类精度的影响。我们考虑了10种流行的采样方法，并基于20个数据集在一定范围内评估了它们的性能。数值实验的结果表明，最佳的采样率是0.7和0.8之间，虽然确切的比例取决于数据集。此外，我们发现，虽然诸如原始不平衡比率或特征数量等因素在确定最佳比率方面没有发挥明显的作用，但数据集中的样本数量可能会产生切实的影响。
2022-07-11 cs.LG
Rebalanced Multimodal Learning with Data-aware Unimodal Sampling
School of Computer Science and Engineering, Nanjing University of Science and Technology（南京理工大学计算机科学与工程学院）；School of Computer Science and Technology, Zhejiang Sci-Tech University（浙江理工大学计算机科学与技术学院）；School of Computer Science and Communication Engineering, Jiangsu University（江苏大学计算机科学与通信工程学院）
针对单模态等量采样引发的多模态不平衡问题，提出数据感知单模态采样方法（DUS），通过累积模态差异监控并结合启发式与强化学习自适应调整采样量，有效缓解模态不平衡并提升了多模态学习性能。
2025-03-05 cs.AI cs.LG
Survey of Imbalanced Data Methodologies
Wells Fargo（富国银行）
不平衡数据集是金融业中经常发现和研究的问题。本文回顾和比较了几种常用的数据不平衡处理方法。然后，我们将欠采样/过采样方法应用于UCI和Keel数据集上的几种建模算法。性能进行了分析类不平衡的方法，建模算法和网格搜索标准的比较。
2021-04-06 cs.LG stat.ML
Sampling To Improve Predictions For Underrepresented Observations In Imbalanced Data
DTU Compute（丹麦技术大学计算学院）
数据不平衡在生产数据中很常见，其中受控的生产设置要求数据落入较窄的变化范围内，并且数据收集时考虑的是质量评估，而不是数据分析见解。这种不平衡对模型在代表性不足的观测值上的预测性能产生了负面影响。我们提出了采样来调整这种不平衡，目的是提高在历史生产数据上训练的模型的性能。我们调查使用三种抽样方法来调整不平衡。目标是对训练数据中的协变量进行下采样，然后拟合回归模型。我们研究了当使用采样数据或原始数据进行训练时，模型的预测能力如何变化。我们将我们的方法应用于来自青霉素生产高级模拟的大型生物制药制造数据集，并发现使用采样数据拟合模型会使整体预测性能略有降低，但在代表性不足的观察结果上会产生系统性更好的性能。此外，结果强调需要替代，公平和平衡的模型评估。
2021-12-16 cs.LG stat.ML
Deep Over-sampling Framework for Classifying Imbalanced Data
Tokyo University of Science（东京理科大学）
类不平衡是深度学习模型和传统模型在实际分类问题中的一个具有挑战性的问题。传统上成功的对策，如合成过采样，在深度学习模型处理的复杂结构化数据方面取得了有限的成功。在本文中，我们提出了深度过采样（DOS），这是一个扩展合成过采样方法的框架，可以利用卷积神经网络（CNN）获取的深度特征空间。它的关键特征是显式的、有监督的表示学习，其中训练数据在深特征空间中向每个原始输入样本呈现合成嵌入目标，该深特征空间从类内邻居的线性子空间中采样。我们实现了训练CNN和更新目标的迭代过程，这在嵌入之间引起了较小的类内方差，以增加深度表示的区分能力。我们提出了一个实证研究，使用公共基准，这表明，DOS框架不仅抵消类不平衡比现有的方法更好，但也提高了性能的CNN在标准的，平衡的设置。
2017-07-12 cs.LG stat.ML
Kernel density estimation based sampling for imbalanced class distribution
Canadian University Dubai（迪拜加拿大大学）
不平衡的响应变量分布在数据科学中很常见。在欺诈检测、医疗诊断、系统入侵检测等领域，很少观察到异常行为，研究中的数据通常具有不成比例的目标类分布。解决阶级不平衡的一个常见方法是通过重新安置少数阶级来实现更平衡的分配。本文研究了基于核密度估计（KDE）的采样方法的性能。我们相信KDE提供了一种更自然的方法来生成少数类的新实例，与其他标准采样技术相比，这种方法不太容易过度拟合。它是基于一个完善的非参数统计估计理论。数值实验表明，KDE可以优于其他采样技术在一系列现实生活中的数据集测量F1分数和G均值。实验中使用的许多分类算法的结果保持一致。此外，该方法优于基准方法，无论类分布比例。我们的结论是，基于坚实的理论基础和强大的实验结果，该方法将是一个有价值的工具，涉及不平衡的类分布的问题。
2019-11-20 cs.LG stat.ML
Classification of Imbalanced Credit scoring data sets Based on Ensemble Method with the Weighted-Hybrid-Sampling
Beijing Jiaotong University（北京交通大学）
大数据时代，利用信用评分模型准确判断申请人的信用风险成为未来的趋势。传统的机器学习对信用评分数据集的分类往往对少数类别的分类效果不佳，这可能给银行带来巨大的商业危害。为了对不平衡数据集进行分类，提出了一种新的集成算法，即加权混合采样增强算法（WHSBoost）。在数据采样方面，我们采用加权SMOTE方法和欠采样加权方法对不平衡的数据集进行处理，从而得到一个等权的平衡训练样本数据集。在集成算法中，每次对基分类器进行训练时，均采用上述方法得到平衡数据集。为了验证WHSBoost算法的适用性和鲁棒性，在仿真数据集、真实基准数据集和真实信用评分数据集上进行了实验，并与基于SVM、BPNN、DT和KNN的SMOTE、SMOTEBoost和HSBoost算法进行了比较。
2021-02-09 cs.LG stat.ML
Gamma distribution-based sampling for imbalanced data
Canadian University Dubai（迪拜加拿大大学）；Deloitte（德勤）
不平衡的类分布是包括医疗诊断、欺诈检测等许多领域中的常见问题。它会导致分类算法的偏差，导致少数类数据的性能不佳。在本文中，我们提出了一种新的方法来平衡类分布的数据，通过智能的少数类实例的重新排序。所提出的方法是基于通过伽马分布在现有的少数点的邻域中生成新的少数实例。我们的方法提供了一种自然和连贯的方法来平衡数据。我们进行了全面的数值分析的新的采样技术。实验结果表明，该方法优于现有的国家的最先进的方法不平衡的数据。具体来说，新的采样技术在24个真实生活和合成数据集中的12个上产生了最好的结果。相比之下，SMOTE方法仅在1个数据集上获得最高分。我们的结论是，新技术提供了一个简单而有效的采样方法来平衡数据。
2020-09-22 cs.LG stat.ML
Multi-granularity Relabeled Under-sampling Algorithm for Imbalanced Data
North China University of Science and Technology（华北理工大学）
不平衡分类问题是数据采掘和机器学习中的一个重要而又具有挑战性的问题。传统分类器的性能会受到许多数据问题的严重影响，如类不平衡问题、类重叠和噪声。Tomek-Link算法在被提出时仅用于清洗数据。近年来，已经有将Tomek-Link算法与采样技术相结合的报道。Tomek-Link抽样算法可以有效减少数据上的类重叠，去除大部分难以区分的实例，提高算法分类精度。然而，Tomek-Links欠采样算法仅考虑全局上彼此最近的边界实例，而忽略潜在的局部重叠实例。当少数样本数量较少时，欠采样效果不理想，分类模型的性能改善不明显。为此，在Tomek-Link的基础上，提出了一种多粒度重标记欠采样算法（MGRU）。该算法在局部粒度子空间中充分考虑数据集的局部信息，检测出数据集中的局部潜在重叠实例。然后根据全局重标记索引值剔除重叠的多数实例，有效地扩大了Tomek-Links的检测范围。仿真结果表明，当选取最优的全局重标记索引值进行欠采样时，所提出的欠采样算法的分类精度和泛化性能明显优于其他基线算法。
2022-01-11 cs.LG
Two-Level Softmax Sampling Done Right: Correcting Bias from Size Imbalance and Dispersion
Spotify；SJTU Paris Elite Institute of Technology（上海交通大学巴黎卓越工程师学院）
针对两级softmax采样因忽略簇大小不平衡和簇内离散度而产生的偏差，提出S-2LS和SD-2LS两种校正方法，在五个大规模数据集上验证了改进的采样性能，建议替代标准2LS。
2026-10-08 cs.IR cs.LG stat.ML
Conductor Galloping Prediction on Imbalanced Datasets: SVM with Smart Sampling
Tsinghua University（清华大学）；Institute for Interdisciplinary Information Sciences（交叉信息研究院）
导线舞动是架空电力线路在风的作用下产生的高幅、低频振荡。这种移动可能导致输电线路的严重损坏，并因此对电力系统运行构成重大风险。在本文中，我们的目标是设计一个预测框架导线舞动。困难来自不平衡的数据集，因为驰骋很少发生。通过研究数据平衡和数据量对预测性能的影响，我们建议采用适当的样本调整方法来实现更好的性能。数值研究表明，仅使用三个特征，以及过采样，基于SVM的预测框架实现了98.9%的F_1得分。
2019-11-09 cs.LG cs.SY eess.SP
Beyond Uniform Sampling: Offline Reinforcement Learning with Imbalanced Datasets
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Lab（麻省理工学院-IBM实验室）；Aalto University（阿尔托大学）；University of Washington（华盛顿大学）
针对离线强化学习在不均衡数据集上因均匀采样导致策略模仿次优动作的问题，提出一种仅约束于优质数据的采样策略，作为即插即用模块显著提升性能。
2023-10-12 cs.AI cs.LG
Sampling Imbalanced Data with Multi-objective Bilevel Optimization
Department of Mathematics University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校数学系）；Mathematics and Computer Sciences Division Argonne National Laboratory（阿贡国家实验室数学与计算机科学 division）
针对二分类数据不平衡问题，提出多目标双层优化框架MOODS指导过采样与欠采样，并引入非重叠多样化指标量化采样优劣，使F1分数提升1-15%。
2025-07-10 cs.LG
Kernel density estimation-based sampling for neural network classification
Canadian University Dubai（迪拜加拿大大学）；University of Sharjah（沙迦大学）
不平衡的数据发生在广泛的场景中。目标变量的偏斜分布会引起机器学习算法的偏差。对抗不平衡数据的一种流行方法是通过重新分配来人为地平衡数据。在本文中，我们比较了最近提出的核密度估计（KDE）采样技术的人工神经网络的上下文中的功效。我们基准的KDE采样方法对两个基本的采样技术，并进行比较实验，使用8个数据集和3个神经网络架构。结果表明，KDE采样在8个数据集中的6个上产生最佳性能。但是，在图像数据集上必须谨慎使用。我们的结论是KDE采样能够显着提高神经网络的性能。
2021-10-25 cs.CV cs.LG
Improved Sampling Techniques for Learning an Imbalanced Data Set
Institute of Computer Science（计算机科学研究所）；University of the Philippines Los Baños（菲律宾大学洛斯巴诺斯分校）
本文介绍了使用stackingC算法在九个不同的数据集建立的分类器的性能。每个数据集都是使用应用于原始不平衡数据集的采样技术生成的。本文提出了五种新的采样技术（即，SMOTERandRep、Lax随机过采样、Lax随机欠采样、Combined-Lax随机过采样欠采样和Combined-Lax随机欠采样过采样），它们基于三种采样技术（即，随机欠采样，随机过采样和合成少数过采样技术）通常用作不平衡学习的解决方案。用于评估分类器性能的指标是F-测量和G-均值。F-measure确定分类器对每个类的性能，而G-mean测量分类器的整体性能。使用F-测度的结果表明，对于没有抽样技术的数据，分类器的性能是好的，只有大多数类。它还表明，在八种采样技术中，RU和LRU的性能最差，而其他技术（即，RO、C-LRUO和C-LROU）仅在某些类别上表现良好。在所有数据集中表现最好的技术是SMOTE，SMOTERandRep，和LRO具有最低的F-测量值在0.5和0.65之间。结果表明，获得最高G均值的过采样技术是LRO（0.86），其次是C-LROU（0.85），然后是SMOTE（0.84），最后是SMOTERandRep（0.83）。结合两个度量（F-测量和G-均值）的结果，只有三种采样技术被认为是良好的表现（即，LRO、SMOTE和SMOTERandRep）。
2016-01-18 cs.LG
Imbalance-Robust and Sampling-Efficient Continuous Conditional GANs via Adaptive Vicinal Learning and Auxiliary Regularization
School of Artificial Intelligence/School of Future Technology, Nanjing University of Information Science & Technology, Nanjing, China（人工智能学院/未来技术学院，南京信息科学技术大学）；Perceptual and Generative AI Lab, Nanjing University of Information Science & Technology, Nanjing, China（感知与生成人工智能实验室，南京信息科学技术大学）；College of Media, Zhejiang University, Hangzhou, China（传媒学院，浙江大学）；College of Computer Science and Technology, Zhejiang University, Hangzhou, China（计算机科学与技术学院，浙江大学）
研究针对CcGAN固定大小邻域训练对标签密度敏感及CCDM计算昂贵问题，提出结合软/混合自适应邻域与辅助判别器引导正则化的CcGAN-AVAR，实验表明其能保持GAN采样效率，提升生成质量和标签一致性，推理速度远超CCDM。
2026-07-08 cs.CV cs.LG
Generative Oversampling for Imbalanced Data via Majority-Guided VAE
University of Electronic Science and Technology of China（电子科技大学）；Huawei Technologies（华为技术有限公司）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Peng Cheng Lab（鹏城实验室）
不平衡数据学习是深度学习中的一个挑战性问题。过采样是一种广泛使用的重新平衡训练数据的采样分布的技术。然而，现有的过采样方法大多只利用少数类的类内信息对数据进行扩充，而忽略了与多数类的类间关系，容易产生过拟合，尤其是当不平衡率较大时。为了解决这个问题，我们提出了一种新的过采样模型，称为多数导向VAE~（MGVAE），它产生新的少数样本的指导下，基于多数的先验。通过这种方式，新生成的少数样本可以继承多数样本的多样性和丰富性，从而减轻下游任务中的过拟合。此外，为了防止模型在有限的数据下崩溃，我们首先在足够多的多数样本上预训练MGVAE，然后基于少数样本进行弹性权重合并（EWC）正则化微调。在基准图像数据集和真实世界表格数据上的实验结果表明，MGVAE在下游分类任务中与其他过采样方法相比取得了有竞争力的改进，证明了该方法的有效性。
2023-02-14 cs.LG
Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated Learning via Class-Imbalance Reduction
Duke University（杜克大学）；University of Maryland, College Park（马里兰大学帕克分校）；George Mason University（乔治梅森大学）；Yale University（耶鲁大学）；The State University of New York at Buffalo（纽约州立大学布法罗分校）
针对联邦学习中随机选择客户端在 non-IID 数据上造成类别不平衡和性能下降的问题，提出 Fed-CBS，利用同态加密隐私计算不平衡度量并进行有理论保证的类别平衡采样。
2023-06-06 cs.LG
Learning Classifiers for Imbalanced and Overlapping Data
这项研究是关于使用不平衡的数据来诱导分类器，少数阶层相对于多数阶层来说代表性不足。本研究的第一部分侧重于产生此问题的数据的主要特征。在对以前的相关研究进行研究之后，创建了受重要因素影响的各种人为的不平衡数据集。这些数据集用于创建决策树和基于规则的分类器。本研究的第二部分探讨了如何通过使用重新排序方法对数据进行预处理来改进分类器。以下试验的结果进行了比较，不同的预处理重新采样方法的性能：两个变量的随机过采样和集中的采样不足NCR。本文进一步优化类的不平衡与一个新的方法称为稀疏。数据从其类中心变得更加稀疏，从而使其更加同质。
2022-10-22 cs.IT cs.LG math.IT
A Method for Handling Multi-class Imbalanced Data by Geometry based Information Sampling and Class Prioritized Synthetic Data Generation (GICaPS)
Tata Consultancy Services（塔塔咨询服务公司）；IIT Kanpur（印度理工学院坎普尔分校）
本文研究了多标签分类问题中不平衡数据的处理问题。这个问题的解决，提出了两种新的方法，主要利用特征向量之间的几何关系。第一种是欠采样算法，它使用特征向量之间的角度来选择信息量更大的样本，同时拒绝信息量较小的样本。提出了一个合适的标准来定义给定样本的信息量。第二种是过采样算法，它使用生成算法来创建尊重所有类边界的新合成数据。这是通过基于特征向量之间的欧几里得距离找到\emph{no man's land}来实现的。通过求解一个基于混合高斯的通用多类识别问题，分析了所提方法的有效性。通过与其他最先进的方法，包括SMOTE和ADASYN，超过10个不同的公开数据集表现出高到极端的数据不平衡的比较，建立了所提出的算法的优越性。这两种方法被结合到一个单一的数据处理框架中，并被称为“GICaPS”，以突出基于几何信息（GI）的采样和类优先综合（CaPS）在处理多类数据不平衡问题中的作用，从而在该领域做出了新的贡献。
2020-10-11 cs.LG stat.ML
Progressive Boosting for Class Imbalance
University of Cagliari（卡利亚里大学）
模式识别应用程序经常遭受类之间的偏斜数据分布，这可能在操作期间变化。设计数据。使用倾斜数据设计的两类分类系统倾向于识别大多数类，而不是少数类。已经提出了几种数据级技术，通过对少数样本进行上采样或对多数样本进行下采样来缓解这个问题。然而，随机欠采样可能会忽略一些信息样本，并且通过上采样添加合成正样本会增加训练复杂度。在本文中，提出了一种新的集成学习算法称为渐进式提升（PBoost），逐步插入不相关的样本组到一个提升过程中，以避免信息丢失，同时产生一个不同的池的分类器。该集成中的基本分类器是从一次迭代到下一次迭代生成的，使用来自验证集的子集，该验证集在大小和不平衡方面逐渐增长。因此，PBoost是更强大的未知和可变水平的偏斜的操作数据，并具有较低的计算复杂度比文献中的Boosting集成。在PBoost中，提出了一个新的损耗因子，以避免性能偏向负类。使用该损失因子，基于识别两个类的能力来设置样本的权重更新和最终预测中的分类器贡献。使用所提出的损耗因子而不是标准精度可以避免任何Boosting集成中的偏置性能。使用合成数据、来自模拟人脸重新识别应用的FIA数据集的视频和KEEL数据集对所提出的方法进行了验证和比较。结果表明，在不同程度的不平衡和类间重叠的情况下，PBoost在准确性和复杂性方面都优于最先进的技术。
2017-06-05 cs.CV cs.LG
Survival Prediction from Imbalance colorectal cancer dataset using hybrid sampling methods and tree-based classifiers
K. N. Toosi University of Technology（科努图西理工大学）
针对结直肠癌临床数据不平衡问题，提出混合采样流水线与树类分类器结合，显著提升少数类生存预测灵敏度。
2023-09-04 cs.LG
Balance-aware Sequence Sampling Makes Multi-modal Learning Better
Nanjing University of Science and Technology（南京理工大学）
本文针对多模态学习中训练顺序引发的模态不平衡问题，提出平衡感知序列采样方法，通过多视角平衡度量、课程学习式调度和基于学习的动态概率采样，在多个数据集上取得了优于现有方法的性能。
2025-01-01 cs.AI cs.LG
Synthetic Over-sampling for Imbalanced Node Classification with Graph Neural Networks
The Pennsylvania State University（宾夕法尼亚州立大学）
近年来，图神经网络（GNN）已经实现了节点分类的最新性能。然而，大多数现有的GNN都会受到图不平衡问题的困扰。在许多现实场景中，节点类是不平衡的，一些多数类构成了图的大部分。GNN中的消息传播机制将进一步放大这些多数类的优势，导致分类性能次优。在这项工作中，我们试图通过生成少数类的伪实例来平衡训练数据，扩展以前的基于过采样的技术来解决这个问题。这个任务是不平凡的，因为这些技术是在假设实例是独立的情况下设计的。忽视关系信息会使这种过采样过程变得复杂。此外，节点分类任务通常采用仅具有少数标记节点的半监督设置，从而为少数实例的生成提供不足的监督。生成的低质量的新节点会损害训练好的分类器。在这项工作中，我们解决这些困难，通过合成新的节点在一个构建的嵌入空间，编码节点属性和拓扑信息。此外，边生成器同时被训练来对图结构进行建模并为新样本提供关系。为了进一步提高数据效率，我们还探索合成混合的“中间”节点，以利用在这个过采样过程中的大多数类的节点。在真实数据集上的实验验证了该框架的有效性。
2022-06-10 cs.LG cs.SI
On the Importance of Diversity in Re-Sampling for Imbalanced Data and Rare Events in Mortality Risk Models
School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息系统学院）；Metabolic Medicine, The University of Melbourne（墨尔本大学代谢医学学院）
当患者存在合并症时，手术风险显著增加。这导致了许多风险分层工具的创建，其目的是制定相关的手术风险，以帮助外科医生和患者做出决策。手术结局风险工具（SORT）是为预测英国主要择期住院患者手术整个围手术期的死亡风险而开发的工具之一。在这项研究中，我们通过解决数据集内的类不平衡来增强原始SORT预测模型（UK SORT）。我们所提出的方法研究了基于多样性的选择上常见的重采样技术，以提高分类器的能力，在检测少数（死亡）事件的应用。训练数据集之间的多样性是确保重新采样的数据保持少数/多数类区域的准确描述的重要因素，从而解决主流采样方法的泛化问题。我们将索洛-波拉斯基措施的使用作为一个下拉功能来评估多样性，除了贪心算法，以确定和丢弃共享最相似的子集。此外，通过实证实验，我们证明了在基于多样性的数据集上训练的分类器的性能优于原始分类器超过10个外部数据集。我们的多样性为基础的重采样方法提升英国排序算法的性能由1.4$。
2020-12-15 cs.LG
From Data to Decision: A Multi-Stage Framework for Class Imbalance Mitigation in Optical Network Failure Analysis
Aston Institute of Photonic Technologies（阿斯顿光电技术研究所）；Aston University（阿斯顿大学）；Scuola Superiore Sant’Anna（圣安娜高等学院）；Nokia, Optical Networks（诺基亚光网络部门）；Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico（技术高级学院）
该研究针对光网络故障分析中的类别不平衡问题，对比了三类缓解方法在不同任务与场景下的表现，给出了适配不同约束条件的方法选择参考。
2025-08-25 cs.AI cs.CV cs.LG
Adaptive Subspace Sampling for Class Imbalance Processing-Some clarifications, algorithm, and further investigation including applications to Brain Computer Interface
National Chiao Tung University（国立交通大学）；Indian Statistical Institute（印度统计研究所）；University of Technology Sydney（悉尼科技大学）；University of Pennsylvania（宾夕法尼亚大学）
Kohonen的自适应子空间自组织映射（ASSOM）学习数据的几个子空间，每个子空间代表数据的一些不变特征。为了处理不平衡的分类问题，早些时候，我们提出了一种方法，使用Kohonen的ASSOM过采样的少数类。这项调查扩展了这项研究，澄清了一些问题，我们以前的工作，提供了算法生成的过样本，应用该方法在几个基准数据集，并使应用程序的三个脑机接口（BCI）的应用。首先，我们使用一些基准数据集与几个国家的最先进的方法比较我们的方法的性能。最后，我们应用ASSOM为基础的技术来分析三个基于BCI的应用程序使用脑电图（EEG）数据集。这些任务是运动想象、驾驶员疲劳状态和偏头痛阶段的分类。我们的实验结果表明了基于ASSOM的方法在处理不平衡分类问题上的有效性。
2020-10-07 cs.LG eess.SP
Balanced Semi-Supervised Generative Adversarial Network for Damage Assessment from Low-Data Imbalanced-Class Regime
University of California, Berkeley（加州大学伯克利分校）；Tsinghua University（清华大学）；Pacific Earthquake Engineering Research Center（太平洋地震工程研究中心）
近年来，应用深度学习（DL）评估结构损伤在基于视觉的结构健康监测（SHM）中越来越受欢迎。然而，数据不足和类别不平衡阻碍了深度学习在SHM实际应用中的广泛应用。常见的缓解策略包括迁移学习、过采样和欠采样，但这些临时方法只能提供有限的性能提升，并且因情况而异。在这项工作中，我们介绍了生成对抗网络（GAN）的一种变体，称为平衡半监督GAN（BSS-GAN）。它采用半监督学习的概念，并在训练中采用平衡批量采样，以解决低数据和不平衡类问题。在有限计算能力的低数据不平衡分类条件下，进行了一系列混凝土开裂和剥落分类的计算机实验。实验结果表明，BSS-GAN在召回率和$F_β$评分方面均优于传统的损伤检测方法，具有较好的性能。
2022-11-29 cs.LG eess.IV
Rebalancing the Scales: A Systematic Mapping Study of Generative Adversarial Networks (GANs) in Addressing Data Imbalance
Indian Institute of Technology Jodhpur（印度理工学院焦特布尔分校）；UPHF（法国北部省高等师范学院）；CNRS（法国国家科学研究中心）
本研究通过系统映射方法分析3041篇论文，梳理了GAN在数据不平衡处理中的应用领域、技术与变体，发现过采样有效且GAN变体适应性强，并指出混合扩散模型或强化学习的未来方向。
2025-02-23 cs.AI cs.LG
Towards Automated Imbalanced Learning with Deep Hierarchical Reinforcement Learning
Rice University（莱斯大学）；Texas A&M University（德州农工大学）
不平衡学习是数据采掘中的一个基本挑战，其中每个类中的训练样本的比例不成比例。过采样是一种通过为少数类生成合成样本来解决不平衡学习的有效技术。虽然已经提出了许多过采样算法，但它们严重依赖于统计学，这可能是次优的，因为我们可能需要不同的采样策略用于不同的数据集和基本分类器，并且它们不能直接优化性能指标。基于此，我们研究开发一种基于学习的过采样算法来优化分类性能，这是一项具有挑战性的任务，因为决策空间巨大且具有层次性。在高层次上，我们需要决定生成多少合成样本。在低级别，我们需要确定合成样本应该位于何处，这取决于高级别决策，因为样本的最佳位置可能因样本数量不同而不同。为了应对这些挑战，我们提出了AutoSMOTE，这是一种自动过采样算法，可以联合优化不同级别的决策。受SMOTE~ \cite{chawla2002smote}及其扩展的成功启发，我们将生成过程表示为马尔可夫决策过程（MDP），该过程由三个级别的策略组成，以在SMOTE搜索空间内生成合成样本。然后，我们利用深层强化学习来优化验证数据的性能指标。在六个真实数据集上的大量实验表明，AutoSMOTE的性能明显优于最先进的恢复算法。代码位于https://github.com/daochenzha/autosmote
2022-08-26 cs.LG
VOS: a Method for Variational Oversampling of Imbalanced Data
类不平衡数据集在现实世界的应用中很常见，从信用卡欺诈检测到罕见疾病诊断。几种流行的分类算法假设类是近似平衡的，因此建立了相应的目标函数，以最大限度地提高整体准确率。在这些情况下，优化整体准确性将导致对大多数类的高度倾斜预测。此外，由误报（阳性样本被错误地分类为阴性）导致的负面业务影响可能是有害的。已经提出了许多方法来解决类不平衡问题，包括过采样方法、欠采样方法和成本敏感方法。在本文中，我们考虑过采样方法，其目的是增加原始数据集与综合创建的少数类的意见。特别是，受生成建模技术（例如，变分推断和生成对抗网络），我们介绍了一种新的基于变分自编码器的过采样技术。我们的实验表明，与传统的过采样方法相比，新方法在增强下游分类任务的数据集方面更优越。
2018-09-07 cs.LG stat.ML
Simplicial SMOTE: Oversampling Solution to the Imbalanced Learning Problem
Sber AI Lab（Sber AI实验室）；HSE University（高等经济大学）
本文提出 Simplicial SMOTE，通过从几何邻域单纯复形的单纯形而非图中边进行采样，生成更贴合数据分布的少数类合成点，实验证明其及扩展算法优于现有几何采样方法。
2025-03-05 cs.AI cs.LG
Imbalanced Classification through the Lens of Spurious Correlations
Machine Learning Group（机器学习组）；TU Berlin（柏林技术大学）；BASLEARN–TU Berlin/BASF Joint Laboratory（柏林技术大学/巴斯夫联合实验室）
本文将类别不平衡视为放大少数类Clever Hans效应的数据条件，提出利用Explainable AI基于反事实解释联合识别并消除该效应，在三个数据集上取得具竞争力的性能。
2025-10-31 cs.CV cs.LG
RADS: Reinforcement Learning-Based Sample Selection Improves Transfer Learning in Low-resource and Imbalanced Clinical Settings
School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院）；School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息学院）；National Centre for Infections in Cancer, Melbourne（癌症感染国家研究中心，墨尔本）；Department of Infectious Disease, Peter MacCallum Cancer Centre（彼得·麦克卡伦癌症中心感染病科）；Sir Peter MacCallum Department of Oncology, The University of Melbourne（彼得·麦克卡伦肿瘤学系，墨尔本大学）
本文提出RADS方法，利用强化学习选择最有信息量的样本，提升迁移学习在低资源和不平衡临床数据集中的性能。
2026-04-22 cs.CL cs.LG
Overly Optimistic Prediction Results on Imbalanced Data: a Case Study of Flaws and Benefits when Applying Over-sampling
Ghent University – imec（根特大学–imec）；Ghent University Hospital（根特大学医院）；Analytical Minds Ltd.（Analytical Minds有限公司）
从子宫电描记记录中提取的信息可能被证明是一个有趣的额外信息来源，以估计早产的风险。最近，大量的研究报告了近乎完美的结果，以区分使用公共资源（称为术语/早产子宫电图数据库）的足月或早产患者的记录。然而，我们认为，这些结果过于乐观，由于方法上的缺陷。在这项工作中，我们专注于一种特定类型的方法缺陷：在将数据划分为相互排斥的训练集和测试集之前应用过采样。我们使用两个人工数据集展示了这是如何导致结果有偏差的，并重现了发现该缺陷的研究结果。此外，我们评估过采样对预测性能的实际影响，当应用之前的数据划分，使用相同的方法相关研究，提供一个现实的观点，这些方法的泛化能力。我们通过在开放许可证下提供所有代码来使我们的研究具有可复制性。
2020-11-28 cs.LG eess.SP stat.ML
Fair Robust Active Learning by Joint Inconsistency
National Taiwan University（国立台湾大学）；Mobile Drive Technology（移动驱动科技公司）
公平性和鲁棒性在可信的机器学习中起着至关重要的作用。在各种注释昂贵的视觉应用中观察安全关键的需求，我们引入了一种新的学习框架，公平鲁棒主动学习（FRAL），将传统的主动学习推广到公平和对抗性的鲁棒场景。这个框架使我们能够实现标准和强大的极大极小公平有限收购标签。在FRAL中，我们观察到现有的公平感知数据选择策略在严重的数据不平衡下无效，或者由于对抗训练的巨大计算而效率低下。为了解决这两个问题，我们开发了一种新的联合不一致性（JIN）方法，利用良性和敌对输入之间以及标准和鲁棒模型之间的预测不一致性。这两个不一致性可用于识别潜在的公平性增益和数据不平衡缓解。因此，通过使用基于不一致性的排名指标执行标签获取，我们可以缓解类不平衡问题，并以有限的计算增强极大极小公平性。在不同数据集和敏感组上的大量实验表明，与现有的主动数据选择基线相比，我们的方法在白盒PGD攻击下获得了标准和鲁棒公平性的最佳结果。
2022-11-17 cs.CV cs.LG
Methods for Class-Imbalanced Learning with Support Vector Machines: A Review and an Empirical Evaluation
Toronto Metropolitan University（多伦多都会大学）；Deakin University（迪肯大学）；University of Windsor（温莎大学）
本文综述并实证比较了SVM类别不平衡学习的重采样、算法和融合三类方法，发现融合方法性能最优但计算成本高，算法方法效率高但性能稍逊。
2024-06-12 cs.LG
Malicious Web Domain Identification using Online Credibility and Performance Data by Considering the Class Imbalance Issue
目的：恶意域名识别对于保护互联网用户的安全具有重要意义。利用在线可信度和性能数据，本文旨在通过考虑类不平衡问题（即，存在比恶意网域更多的良性网域）。设计/方法/办法：我们提出了一个综合的reservation方法来处理类不平衡相结合的合成少数过采样技术（SMOTE）和粒子群优化（PSO），基于人口的元启发式算法。我们使用SMOTE的过采样和PSO的欠采样。调查结果：通过应用八个著名的机器学习分类器，建议的综合检索方法进行了全面检查，使用几个不平衡的Web域数据集具有不同的不平衡比率。实验结果表明，该方法与其他五种常见的检索方法相比，具有较高的检索效率.实际影响：该研究不仅为在线可信度和性能数据在恶意域名识别中的实际应用提供了启发，而且为处理恶意域名识别领域的类不平衡问题提供了一种有效的解决方法。创意/价值：在线可信度和性能数据被应用于使用机器学习技术来构建恶意Web域识别模型。提出了一种综合的再分配方法来解决类不平衡问题。基于具有不同不平衡比的真实世界数据集，证实了所提出的方法的性能。
2018-10-19 cs.CR cs.LG cs.NE
Influence-Balanced Loss for Imbalanced Visual Classification
Seoul National University（首尔大学）；ASRI（ASRI（首尔大学先进科学技术研究所））
在本文中，我们提出了一种平衡训练方法来解决不平衡数据学习中的问题。为此，我们推导出一个新的损失用于平衡训练阶段，消除样本的影响，导致过拟合的决策边界。所提出的损失有效地提高了任何类型的不平衡学习方法的性能。在多个基准数据集上的实验中，我们证明了我们的方法的有效性，并揭示了所提出的损失优于最先进的成本敏感损失方法。此外，由于我们的损失不限于特定的任务、模型或训练方法，因此它可以很容易地与其他最近的重采样、元学习和成本敏感学习方法结合使用，以解决类不平衡问题。
2021-10-06 cs.CV cs.LG
Disentangling Sampling and Labeling Bias for Learning in Large-Output Spaces
Google Research（谷歌研究院）；New York（纽约）
负采样方案通过提供一种方法来近似考虑所有标签的计算上昂贵的损失函数，从而在给定大量类的情况下实现有效的训练。在本文中，我们提出了一个新的连接这些计划和损失修改技术，以对抗标签的不平衡。我们发现，不同的负采样方案隐含的权衡优势与罕见的标签上的性能。此外，我们还提供了一种统一的方法来明确解决采样偏差和标签偏差，前者是由于使用所有标签的子集而产生的，后者是由于标签不平衡而导致的数据固有的。我们实证验证我们的研究结果长尾分类和检索基准。
2021-05-12 cs.LG stat.ML
