MIME: Minority Inclusion for Majority Group Enhancement of AI Performance
UCLA(加州大学洛杉矶分校)
有几篇论文正确地将少数群体纳入人工智能(AI)训练数据中,以改善少数群体和/或整个社会的测试推理。整个社会由少数和多数利益攸关方组成。一个常见的误解是,少数群体的纳入并不能单独提高多数群体的业绩。在本文中,我们做出了令人惊讶的发现,包括少数样本可以改善大多数群体的测试误差。换句话说,少数群体的包容性导致了多数群体的性能增强(MIME)。MIME效应的理论存在性证明,并发现与实验结果在六个不同的数据集是一致的。项目网页:https://visual.ee.ucla.edu/mime.htm/
2022-09-01 cs.CV cs.LG
Adaptive Cluster-Based Synthetic Minority Oversampling Technique for Traffic Mode Choice Prediction with Imbalanced Dataset
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
针对交通方式选择预测中不平衡数据集的分类挑战,本研究提出自适应聚类合成少数过采样技术,通过密度聚类识别少数类子组并按局部比例过采样,结合机器学习模型显著提升少数类F1分数,实现准确分类。
2025-04-13 cs.LG
CIGAN: A Python Package for Handling Class Imbalance using Generative Adversarial Networks
George Washington University(乔治华盛顿大学)
机器学习中的一个关键挑战是类不平衡,其中某些类(多数类)的样本量远远高于其他类(少数类)。如果我们直接在不平衡数据上训练分类器,则分类器更有可能将新样本预测为多数类之一。在极端情况下,分类器可以完全忽略少数类。这可能对医疗保健产生严重的社会学影响,因为少数群体通常是疾病群体(例如,死亡或阳性临床试验结果)。在本文中,我们介绍了一个软件,使用生成对抗网络过采样少数类,以改善下游分类。据我们所知,这是第一个允许多类分类的工具(目标可以有任意数量的类)。该工具的代码在我们的github存储库(https://github.com/yuxiaohuang/research/tree/master/gwu/working/cigan/code)中公开提供。
2022-08-04 cs.LG
G-SMOTE: A GMM-based synthetic minority oversampling technique for imbalanced learning
College of Information Science and Technology(信息科学技术学院);Dalian Maritime University(大连海事大学)
不平衡学习是一种重要的分类模型学习算法,在许多应用中得到了广泛的应用。通常,不平衡学习算法可以被划分为两种类型,即,数据级方法和算法级方法。在本文中,重点是开发一个强大的合成少数过采样技术属于数据级方法的保护伞。一方面,我们提出了一种在高维特征空间而不是线性采样空间中生成合成样本的方法。另一方面,在所提出的不平衡学习框架中,高斯混合模型被用来区分少数类实例中的离群值,并过滤掉合成的多数类实例。最后,提出了一种自适应优化方法,对采样过程中的参数进行优化。通过这样做,一个有效性和效率不平衡的学习框架的发展。
2018-10-24 cs.LG stat.ML
Imbalanced Classification via Explicit Gradient Learning From Augmented Data
University of Tel-Aviv(特拉维夫大学);Bar Ilan University(巴伊兰大学)
从不平衡数据中学习是现实世界分类任务中最重要的挑战之一。在这种情况下,神经网络的性能由于对多数类的偏好而大大受损。现有的方法试图通过数据重新采样或重新加权学习过程中的损失来消除偏差。尽管如此,这些方法往往过拟合少数民族样本,并表现不佳时,少数民族类的结构是高度不规则的。在这里,我们提出了一种新的深度元学习技术,用新的少数实例来增强给定的不平衡数据集。这些额外的数据被纳入分类器的深度学习过程中,并明确学习它们的贡献。所提出的方法的优点是证明在合成和现实世界的数据集与各种不平衡比。
2022-10-28 cs.LG
Fast Convergence through Distributed Augmentation for Class-Imbalanced Federated Learning
Amar Nath and Shashi Khosla School of Information Technology, Indian Institute of Technology Delhi(印度理工学院德里分校 Amar Nath and Shashi Khosla 信息技术学院);Department of Electrical Engineering, Indian Institute of Technology Delhi(印度理工学院德里分校电气工程系);College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院)
针对联邦学习类不平衡问题,提出DAFL分布式增强框架,通过理论建立增强与收敛关系并联合优化增强量和训练时间,提升少数类F1分数并显著减少训练时间。
2026-10-06 cs.LG
The Influence of Multiple Classes on Learning Online Classifiers from Imbalanced and Concept Drifting Data Streams
Poznan University of Technology(波兹南理工大学);Institute of Computing Science(计算科学研究所)
本文主要研究了局部数据特征和漂移对多类不平衡数据流中各种在线分类器学习难度的影响。首先,我们提出了一个分类的不平衡流的背景下,这些数据的因素和漂移,然后我们介绍了合成流的生成器,这些因素和漂移的模型。合成生成的数据流的许多实验的结果表明,许多少数类(边界示例的类型)之间的重叠比具有一个少数类的流的作用大得多。流中罕见的例子的存在是最困难的单一因素。第三个影响因素是少数民族阶层分化的地方性漂移。与二进制流不同,专门的UOB和OOB分类器即使在高不平衡率下也能表现良好。所有分类器最具挑战性的是复杂的情况下,同时集成的漂移的确定的因素,恶化的情况下,几个少数民族类强于二进制的评估措施。这是在ECMLPKDD 2022的LIDTA'2022研讨会上发表的简短论文的扩展版本。
2022-10-15 cs.LG
A Novel Adaptive Minority Oversampling Technique for Improved Classification in Data Imbalanced Scenarios
TCS Research, Tata Consultancy Services Ltd.(塔塔咨询服务有限公司TCS研究院)
不同类别的训练样本比例的不平衡往往会导致传统分类器的性能下降。这主要是由于分类器倾向于偏向不平衡数据集中的大多数类。在本文中,我们提出了一种新的三步技术来解决不平衡的数据。作为第一步,我们显着过采样的少数类分布采用传统的合成少数过采样技术(SMOTE)算法使用的少数类样本的邻域,在下一步中,我们分区生成的样本使用高斯混合模型基于聚类算法。在最后的步骤中,基于与聚类相关联的权重来选择合成数据样本,权重本身由多数类样本的分布来确定。从不同领域的几个标准数据集上的广泛实验表明,所提出的技术与原来的SMOTE和它的国家的最先进的变种算法相比,是有用的。
2021-03-26 cs.AI cs.LG
Addressing Class Imbalance with Probabilistic Graphical Models and Variational Inference
University of Rochester(罗切斯特大学);University of Minnesota(明尼苏达大学);Northeastern University(东北大学);University of California(加利福尼亚大学);Cornell University(康奈尔大学)
本文提出基于深度概率图模型与变分推断的不平衡分类方法,结合类别感知权重和隐空间对抗生成少数类样本,在信用卡欺诈检测数据集上取得最优AUC、Precision、Recall和F1-score。
2025-04-08 cs.LG
An Adaptive Oversampling Learning Method for Class-Imbalanced Fault Diagnostics and Prognostics
数据驱动的故障诊断和故障诊断在工业系统中存在类别不平衡问题,这对普通机器学习算法提出了挑战,因为它很难学习少数类别样本的特征。合成过采样方法通常用于解决这些问题,通过生成少数类样本来平衡多数类和少数类之间的分布。然而,许多过采样方法都存在着不恰当的地方,无法根据数据的不同分布产生有效的、有用的少数类样本,使得样本学习过程更加复杂。因此,本文提出了一种新的自适应过采样技术:基于EM的加权少数过采样技术(EWMOTE)的工业故障诊断和故障诊断。该方法包括一个加权少数抽样策略,以确定难以学习的信息少数故障样本和期望最大化(EM)为基础的插补算法生成故障样本。为了验证所提出的方法的性能,在两个真实数据集上进行了实验。实验结果表明,该方法在不同不平衡率的二分类和多分类不平衡学习任务中均能取得比其他基于过采样的基线模型更好的性能。
2018-11-19 cs.LG stat.ML
Enhancement Encoding: A Novel Imbalanced Classification Approach via Encoding the Training Labels
School of Information Science and Engineering(信息科学与工程学院);Shandong University(山东大学)
类不平衡,也称为长尾分布,是基于机器学习的分类任务中常见的问题。如果发生这种情况,少数数据将被大多数数据淹没,这对数据科学提出了相当大的挑战。为了解决类不平衡问题,研究人员提出了很多方法:一些人使数据集平衡(SMOTE),一些人改进损失函数(Focal Loss),甚至有人注意到标签的值影响类不平衡学习(Yang和Xu)。重新思考标签对改善班级不平衡学习的价值。在NeurIPS 2020中),但还没有人改变对数据标签进行编码的方式。目前,最流行的标签编码技术是独热编码,因为它在一般情况下具有良好的性能。然而,对于不平衡的数据,它不是一个好的选择,因为分类器将平等地对待多数和少数样本。本文创新性地提出了针对非平衡分类的增强编码技术。增强编码结合了重加权和成本敏感性,可以反映硬类和易类(或少数类和多数类)之间的差异。为了减少验证样本的数量和计算成本,我们还将混淆矩阵替换为一种新的软混淆矩阵,该矩阵在较小的验证集下效果更好。在实验中,我们评估了增强编码与三种不同类型的损失。结果表明,增强编码对提高非平衡数据训练网络的性能是非常有效的。特别是在少数民族班级的表现更好。
2023-03-28 cs.LG
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University(汉阳大学)
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题,如合成少数过采样技术(SMOTE)。然而,由于诸如SMOTE的方法通过线性插值生成实例,因此合成数据空间可能看起来像多边形。此外,过采样方法产生少数类的离群值。在本文中,我们提出了基于高斯的少数过采样技术(GMOTE)的统计角度不平衡数据集。为了避免线性插值和考虑离群点,该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值(CMGOS)的启发,我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法,如SMOTE进行了比较。当GMOTE与分类回归树(CART)或支持向量机(SVM)相结合时,它表现出更好的准确性和F1得分。实验结果表明,鲁棒性能。
2021-05-09 cs.LG stat.ML
Generative Oversampling for Imbalanced Data via Majority-Guided VAE
University of Electronic Science and Technology of China(电子科技大学);Huawei Technologies(华为技术有限公司);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Peng Cheng Lab(鹏城实验室)
不平衡数据学习是深度学习中的一个挑战性问题。过采样是一种广泛使用的重新平衡训练数据的采样分布的技术。然而,现有的过采样方法大多只利用少数类的类内信息对数据进行扩充,而忽略了与多数类的类间关系,容易产生过拟合,尤其是当不平衡率较大时。为了解决这个问题,我们提出了一种新的过采样模型,称为多数导向VAE~(MGVAE),它产生新的少数样本的指导下,基于多数的先验。通过这种方式,新生成的少数样本可以继承多数样本的多样性和丰富性,从而减轻下游任务中的过拟合。此外,为了防止模型在有限的数据下崩溃,我们首先在足够多的多数样本上预训练MGVAE,然后基于少数样本进行弹性权重合并(EWC)正则化微调。在基准图像数据集和真实世界表格数据上的实验结果表明,MGVAE在下游分类任务中与其他过采样方法相比取得了有竞争力的改进,证明了该方法的有效性。
2023-02-14 cs.LG
Learning Majority-to-Minority Transformations with MMD and Triplet Loss for Imbalanced Classification
Suman Cha;Hyunjoong Kim
提出一种通过最小化MMD和引入三元组损失正则化器,将多数类样本映射为少数类样本的过采样框架,有效提升了不平衡分类任务的性能。
2025-09-15 cs.LG stat.ML
CAMO: A Class-Aware Minority-Optimized Ensemble for Robust Language Model Evaluation on Imbalanced Data
October University for Modern Science & Arts(十月现代科学与艺术大学);Qatar University(卡塔尔大学)
CAMO通过整合投票分布、置信度校准和模型不确定性,提升少数类表现,验证于两个领域特定的不平衡基准,展现优于传统集成方法的严格宏F1分数。
2026-04-11 cs.CL cs.LG
GraphSR: A Data Augmentation Algorithm for Imbalanced Node Classification
University of Macau(澳门大学);Guangdong-Macau Joint Laboratory for Advanced and Intelligent Computing(粤澳先进与智能计算联合实验室)
针对图神经网络中类别不平衡导致少数类分类性能差的问题,提出数据增强算法GraphSR,通过基于相似性和强化学习的双模块从未标记节点中选取代表性节点增强少数类,自适应确定采样规模,在多个不平衡数据集上优于基线方法。
2023-06-27 cs.LG
Random Walk-steered Majority Undersampling
TCG Crest(TCG创新研究中心);University College Dublin(都柏林大学学院)
在这项工作中,我们提出了随机Walk-steered Majority Undersampling(RWMaU),它对类别不平衡数据集的多数点进行欠采样,以平衡类别。我们感兴趣的不是标记属于少数点的邻域的多数点,而是感知多数点与少数类的接近程度。随机游走是一种感知图中连通点邻近性的有力工具,它被用来识别类不平衡数据集中靠近少数类的多数点。行走中多数点的访问频率和访问顺序使我们能够感知多数点与少数类的总体接近程度。那些接近少数群体的人随后被抽样不足。对21个数据集和3个分类器的实证评估表明,RWMaU的性能比竞争方法有很大的改善。
2021-09-25 cs.AI cs.LG
Synthetic Tabular Data Generation for Imbalanced Classification: The Surprising Effectiveness of an Overlap Class
Indian Institute of Technology, Bombay(印度理工学院孟买分校)
针对表格不平衡分类中深度生成模型少数类样本质量偏低的问题,本文提出将二分类标签重构为含重叠类别的三分类标签,并在分类器训练前移除该类,实验证明可同时提升多种扩散与GAN模型及分类器性能。
2025-02-19 cs.LG
Geometric SMOTE: Effective oversampling for imbalanced learning through a geometric extension of SMOTE
NOVA Information Management School, Universidade Nova de Lisboa(里斯本新大学信息管理学院)
不平衡数据集的分类对于标准算法来说是一项具有挑战性的任务。虽然有许多方法可以以不同的方式解决这个问题,但与算法修改相比,为少数类生成人工数据是一种更通用的方法。SMOTE算法及其变体沿着连接少数类实例的线段生成合成样本。在本文中,我们提出几何SMOTE(G-SMOTE)作为一个推广的SMOTE数据生成机制。G-SMOTE在输入空间的几何区域中生成合成样本,围绕每个选定的少数实例。虽然在基本配置中,该区域是一个超球体,但G-SMOTE允许其变形为超球体,最后变形为线段,在最后一种情况下,模仿SMOTE机制。G-SMOTE的性能进行了比较,对多个标准的过采样算法。我们目前的实证结果表明,G-SMOTE被用作过采样算法时,所生成的数据的质量显着改善。
2017-09-21 cs.LG
Minority Class Oriented Active Learning for Imbalanced Datasets
Université Paris-Saclay(巴黎萨克雷大学);CEA(法国原子能和替代能源委员会);CentraleSupélec(巴黎中央理工-高等电力学院)
主动学习的目标是在资源受限的情况下优化数据集标注过程。大多数现有的方法都是针对平衡数据集设计的。它们的实际适用性受到大多数现实生活数据集实际上是不平衡的事实的限制。在这里,我们介绍了一种新的主动学习方法,它是专为不平衡的数据集。它有利于样本可能是在少数类,以减少标记的子集的不平衡,并为这些类创建一个更好的表示。我们还比较了两种主动学习的训练方案:(1)通常在深度主动学习中使用模型微调进行每次迭代的方案,以及(2)受迁移学习启发并利用通用预训练模型和训练每次迭代的浅层分类器的方案。使用三个不平衡的数据集进行评估。实验结果表明,所提出的主动学习方法优于竞争基线。同样有趣的是,他们还指出,如果特征可以从通用数据集转移到未标记数据集,则迁移学习训练方案优于模型微调。最后的结果令人惊讶,应该鼓励社区探索深度主动学习方法的设计。
2022-02-01 cs.CV cs.LG
Extrapolated Markov Chain Oversampling Method for Imbalanced Text Classification
Aalto University(阿尔托大学)
针对文本数据不平衡且样本量增加会扩大特征空间的问题,提出一种结合少数类与多数类转移概率的马尔可夫链过采样方法,在多真实数据集尤其严重不平衡场景下效果极具竞争力。
2025-09-02 cs.LG
Class Imbalance Problem in Data Mining Review
G. H. Raisoni College of Engineering(G. H. 莱索尼工程学院)
在过去几年中,数据分类发生了重大变化和演变。随着技术应用领域的扩大,数据量也随之增加。由于数据的无限大小和不平衡性,数据分类变得困难。类不平衡问题成为数据采掘中最大的问题。不平衡问题发生在两个类中的一个类比其他类具有更多的样本。大多数算法都侧重于对大样本的分类,而忽略或误分小样本。少数样本是那些很少出现但非常重要的样本。对于不平衡数据集的分类,有不同的方法,主要分为三大类,算法方法,数据预处理方法和特征选择方法。每种技术都有自己的优点和缺点。本文对每种方法进行了系统的研究,为班级不平衡问题的研究指明了方向。
2013-05-08 cs.LG
SMOGAN: Synthetic Minority Oversampling with GAN Refinement for Imbalanced Regression
针对不平衡回归中数据分布复杂非线性导致现有合成数据不准确的问题,提出两步过采样框架SMOGAN,利用分布感知GAN(DistGAN)作为过滤层优化初始合成样本,使其对齐真实联合分布,在23个数据集上显著优于默认方法。
2025-08-08 cs.AI cs.LG
Adaptive kernel-density approach for imbalanced binary classification
Graduate School of Science and Technology, Nara Institute of Science and Technology, Japan(科学技术研究生院,科学与技术国立研究所,日本);Data Science Center, Nara Institute of Science and Technology, Japan(数据科学中心,科学与技术国立研究所,日本)
针对极端不平衡场景下传统二分类方法性能不佳的问题,提出基于核密度估计的KOTARO方法,通过动态调整高斯基带宽和决策边界提升少数类识别能力,在多数据集上验证了其在严重不平衡场景下的性能优势。
2025-10-05 cs.LG
CUSBoost: Cluster-based Under-sampling with Boosting for Imbalanced Classification
United International University(联合国际大学)
类不平衡分类是数据采掘和机器学习中的一个具有挑战性的研究问题,因为大多数现实生活中的数据集往往是不平衡的。现有的学习算法通过正确分类多数类而最大化分类精度,但是错误分类少数类。然而,在现实生活中的应用程序中,少数类实例比多数类实例更感兴趣地表示概念。最近,一些技术的基础上的抽样方法(欠采样的多数类和过采样的少数类),成本敏感的学习方法,集成学习已被用于在文献中分类不平衡的数据集。在本文中,我们介绍了一种新的基于聚类的欠采样方法与升压(AdaBoost)算法,称为ADABoost,有效的不平衡分类。该算法提供了一种替代RUSBoost(随机欠采样与AdaBoost)和SMOTEBoost(合成少数过采样与AdaBoost)算法。我们使用基于集成学习的最先进的方法,如AdaBoost,RUSBoost,SMOTEBoost,在13个具有不同不平衡率的不平衡二进制和多类数据集上评估了RUSBoost算法的性能。实验结果表明,该算法是一种有效的处理高度不平衡数据集的方法。
2017-12-12 cs.LG stat.ML
Escaping Saddle Points for Effective Generalization on Class-Imbalanced Data
Indian Institute of Science(印度科学学院)
真实世界的数据集表现出不同类型和程度的不平衡。基于重新加权和损失的边际调整的几种技术经常被用来提高神经网络的性能,特别是在少数类上。在这项工作中,我们分析类不平衡的学习问题,通过检查损失景观的神经网络训练与重新加权和基于边缘的技术。具体来说,我们研究了类间损失的Hessian谱密度,通过该谱密度,我们观察到网络权重收敛到少数类损失景观中的鞍点。根据这一观察,我们还发现,设计用于逃离鞍点的优化方法可以有效地用于提高少数类的泛化能力。我们进一步从理论上和经验上证明,夏普意识最小化(SAM),最近的技术,鼓励收敛到一个平坦的最小值,可以有效地用于逃避鞍点少数类。使用SAM导致少数类的准确性比最先进的矢量缩放损失增加6.2%,导致不平衡数据集的总体平均增加4%。该代码可从以下网址获得:https://github.com/val-iisc/Saddle-LongTail。
2022-12-28 cs.CV cs.LG
GenSample: A Genetic Algorithm for Oversampling in Imbalanced Datasets
UCLA(加州大学洛杉矶分校)
不平衡的数据集无处不在。不平衡数据集上的分类性能通常对于少数类是差的,因为分类器不能很好地学习决策边界。然而,在欺诈检测、医疗诊断和垃圾邮件识别等敏感应用中,对少数实例进行正确分类是极其重要的。在本文中,我们提出了一种新的技术的基础上,遗传算法,GenSample,过采样的少数类不平衡数据集。GenSample通过考虑学习该示例的难度以及通过过采样实现的性能改善来决定对少数示例的过采样率。该技术在分类器的性能开始恶化时终止过采样过程。因此,它只在获得性能提升时才产生合成数据。该算法在9个不同大小和不平衡比率的真实不平衡数据集上进行了测试。它在9个数据集中的8个数据集上获得了最高的F-Score,证实了与其他现有方法相比,它能够更好地处理不平衡数据。
2019-10-23 cs.LG cs.NE stat.ML
Imbalanced Data Learning by Minority Class Augmentation using Capsule Adversarial Networks
Shanghai Jiao Tong University(上海交通大学);Shenzhen University(深圳大学);Brunel University(布鲁内尔大学)
图像数据集通常是不平衡的,这一事实对深度学习技术提出了严峻的挑战。在本文中,我们提出了一种方法来恢复不平衡图像的平衡,通过合并两个并发的方法,生成对抗网络(GANs)和胶囊网络。在我们的模型中,生成和判别网络玩一种新的竞争游戏,其中生成器从多变量概率分布中生成针对特定类别的样本。该模型的分类器在识别真假样本的同时,还需要对输入进行分类。由于GAN方法在训练过程中需要完全观测的数据,当训练样本不平衡时,该方法可能会产生相似的样本,导致数据过拟合。通过在对抗训练中联合提供来自两个类组件的所有可用信息来解决这个问题。它通过在生成新的少数样本时引入多数分布结构来改进对不平衡数据的学习。此外,为了提高训练的收敛性,采用特征匹配损失函数对生成器进行训练。此外,防止产生离群值,并且不影响多数类空间。评估表明了我们提出的方法的有效性;特别是,与卷积GAN相比,胶囊GAN的合并在识别高度重叠的类别时具有更少的参数。
2020-04-08 cs.LG stat.ML
Correcting Performance Estimation Bias in Imbalanced Classification with Minority Subconcepts
本文提出一种实用的效用加权评估方法,通过多类子概念模型的预测后验概率替代不可用的子概念标签,提出预测加权平衡准确率(pBA)以应对类别内异质性,实验表明pBA在子概念分布不均时更稳定可靠。
2026-04-28 cs.AI cs.LG
How does promoting the minority fraction affect generalization? A theoretical study of the one-hidden-layer neural network on group imbalance
Rensselaer Polytechnic Institute(伦斯勒理工学院);New Jersey Institute of Technology(新泽西理工学院);Michigan State University(密歇根州立大学);IBM Research(IBM研究院)
本研究通过高斯混合模型理论分析单隐层神经网络在群体不平衡下的泛化,首次给出ERM的群体层面泛化界,发现中等协方差和近零均值时性能最优,且增加少数群体比例不一定改善其泛化。
2024-03-19 cs.LG stat.ML
SMOClust: Synthetic Minority Oversampling based on Stream Clustering for Evolving Data Streams
Keele University(基尔大学);University of Birmingham(伯明翰大学)
针对数据流中概念漂移与类不平衡的联合挑战,提出基于流聚类的过采样策略SMOClust,利用流聚类压缩信息生成合成少数类样本,实验证明其优于现有方法,尤其在严重不平衡场景下。
2023-08-28 cs.DB cs.LG
Sampling Imbalanced Data with Multi-objective Bilevel Optimization
Department of Mathematics University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校数学系);Mathematics and Computer Sciences Division Argonne National Laboratory(阿贡国家实验室数学与计算机科学 division)
针对二分类数据不平衡问题,提出多目标双层优化框架MOODS指导过采样与欠采样,并引入非重叠多样化指标量化采样优劣,使F1分数提升1-15%。
2025-07-10 cs.LG
Clustering and Learning from Imbalanced Data
Indian Institute of Technology Ropar(印度理工学院罗巴尔分校)
一个学习分类器必须优于一个平凡的解决方案,在不平衡数据的情况下,这个条件通常不成立。为了克服这个问题,我们提出了一种新的数据级重采样方法-基于聚类的过采样,用于改进从类不平衡数据集的学习。所提出的方法背后的基本思想是使用少数类样本和其各自的聚类质心之间的距离来推断要为该少数类样本生成的新样本点的数量。所提出的算法对用于寻找聚类中心的技术的依赖性很小,并且不会以任何方式影响多数类学习。它还通过将少数类样本的分布结构结合到新数据样本的生成中来改进对不平衡数据的学习。新生成的少数类数据以防止离群值产生和过拟合的方式处理。使用深度神经网络作为学习分类器对不同数据集的实现分析显示了该方法与其他合成数据恢复技术相比在几个评估指标上的有效性。
2018-11-12 cs.LG stat.ML
Evo-TFS: Evolutionary Time-Frequency Domain-Based Synthetic Minority Oversampling Approach to Imbalanced Time Series Classification
Evo-TFS通过整合时间和频率域特征,提出了一种进化过采样方法,有效提升不平衡时间序列分类性能。
2026-01-03 cs.LG cs.NE
A Model for Imbalanced Label Aggregation: A Focus on Minority-Class Detection
SNCF(法国国家铁路公司);Tampere University(坦佩雷大学)
研究不平衡众包中依赖类别的注释器准确性问题,引入结合项目难度与注释器能力的生成聚合模型,在33个真实世界众包数据集上评估,该模型在少数类召回率上表现出色,平衡准确率也具竞争力。
2026-07-28 cs.LG stat.ML
RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification
Columbia University(哥伦比亚大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University of Melbourne(墨尔本大学)
研究类别不平衡问题,提出RUBRIC框架,将合成样本选择设为质量优化问题,用现实-效用权衡排序,能收紧泛化边界,经实验验证其在信用卡欺诈检测等任务中可提升F1宏和召回率,保持ROC-AUC并可进行lambda敏感性分析。
2026-10-08 cs.LG
GraphSB: Boosting Imbalanced Node Classification on Graphs through Structural Balance
针对图学习中不平衡节点分类问题,提出GraphSB框架,通过结构增强和关系扩散两阶段优化不平衡图结构,在节点合成前平衡结构分布,显著提升分类性能,且可作为即插即用模块平均提升现有方法准确率3.67%。
2025-11-13 cs.LG cs.SI
Semantic-aware Node Synthesis for Imbalanced Heterogeneous Information Networks
The University of Queensland(昆士兰大学);Peking University(北京大学);Griffith University(格里菲斯大学)
针对异质信息网络中少数类节点的数量与语义不平衡问题,本文提出SNS,通过自适应选择异质邻居并合成节点,结合语义与类别正则化提升少数节点分类性能。
2023-08-15 cs.AI cs.LG
Sharp error bounds for imbalanced classification: how many examples in the minority class?
Télécom Paris, Institut Polytechnique de Paris(巴黎综合理工学院电信学院);Ensai(法国国立统计与信息分析学院);Université Paris Cité(巴黎西岱大学);CNRS(法国国家科学研究中心)
针对稀有类概率趋于零的不平衡分类,本文给出约束平衡经验风险最小化的非渐近快速率界及平衡最近邻估计的一致上界。
2024-04-16 cs.LG stat.ML
Gamma distribution-based sampling for imbalanced data
Canadian University Dubai(迪拜加拿大大学);Deloitte(德勤)
不平衡的类分布是包括医疗诊断、欺诈检测等许多领域中的常见问题。它会导致分类算法的偏差,导致少数类数据的性能不佳。在本文中,我们提出了一种新的方法来平衡类分布的数据,通过智能的少数类实例的重新排序。所提出的方法是基于通过伽马分布在现有的少数点的邻域中生成新的少数实例。我们的方法提供了一种自然和连贯的方法来平衡数据。我们进行了全面的数值分析的新的采样技术。实验结果表明,该方法优于现有的国家的最先进的方法不平衡的数据。具体来说,新的采样技术在24个真实生活和合成数据集中的12个上产生了最好的结果。相比之下,SMOTE方法仅在1个数据集上获得最高分。我们的结论是,新技术提供了一个简单而有效的采样方法来平衡数据。
2020-09-22 cs.LG stat.ML
Ultra-imbalanced classification guided by statistical information
Center for data Science, Zhejiang university(浙江大学数据科学中心);Tiansuan Lab, Ant group(蚂蚁集团天算实验室)
针对少数类样本也可能充足的超不平衡分类问题,提出UIC框架,从统计信息角度比较损失函数,并设计可证明抗不平衡且实验高效的Tunable Boosting Loss。
2024-09-06 cs.LG
When majority rules, minority loses: bias amplification of gradient descent
University of Lille(里尔大学);Toulouse School of Economics(图卢兹经济学院);Institut Universitaire de France (IUF)(法国大学研究院(IUF));ANITI;Université de Toulouse(图卢兹大学);INRIA(法国国家信息与自动化研究所)
本研究建立多数-少数学习任务的正式框架,揭示标准训练如何偏向多数群体并放大偏差,通过理论分析给出三个关键发现,并在深度学习的表格和图像分类实验中验证。
2026-09-16 cs.AI cs.LG math.OC
Concept Drift Detection from Multi-Class Imbalanced Data Streams
Virginia Commonwealth University(弗吉尼亚联邦大学)
从数据流中进行持续学习是当代机器学习中最重要的主题之一。该领域最大的挑战之一在于创建能够不断适应到达数据的算法。然而,以前学到的知识可能会过时,因为流随着时间的推移而演变。这种现象被称为概念漂移,并且必须被检测以促进学习模型的有效适应。虽然存在过多的漂移检测器,但它们都假设我们处理的是大致平衡的类。在不平衡数据流的情况下,这些检测器将偏向于大多数类,忽略少数类中发生的变化。此外,阶级不平衡可能会随着时间的推移而演变,阶级可能会改变他们的角色(多数人成为少数人,反之亦然)。这在多类环境中尤其具有挑战性,其中类之间的关系变得复杂。在本文中,我们提出了一个详细的分类多类不平衡数据流中的概念漂移所带来的挑战,以及一种新的可训练的概念漂移检测器的基础上限制玻尔兹曼机。它能够一次监控多个类,并使用重建误差来独立地检测每个类的变化。我们的检测器利用一个偏斜不敏感的损失函数,使其能够处理多个不平衡的分布。由于其可训练的性质,它能够跟踪流中的变化和不断变化的班级角色,并且可以处理少数班级中发生的局部概念漂移。对多类漂移数据流进行了广泛的实验研究,详细分析了局部漂移和变化的不平衡比率的影响,证实了我们的方法的高效率。
2021-04-20 cs.LG
Synthesising Multi-Modal Minority Samples for Tabular Data
Amazon(亚马逊公司)
现实世界的二进制分类任务在许多情况下是不平衡的,其中少数类比多数类小得多。这种偏斜对机器学习算法来说是一个挑战,因为它们往往关注大多数人,而对少数人进行错误分类。在训练模型之前向数据集添加合成少数样本是解决这一困难的流行技术,通常通过插值少数样本来实现。表格数据集通常是多模态的,并且除了连续的特征之外还包含离散(分类)特征,这使得样本的插值非平凡。为了解决这个问题,我们提出了一个潜在空间插值框架,该框架(1)使用自动编码器将多模态样本映射到密集的连续潜在空间;(2)通过在潜在空间中插值来应用过采样;以及(3)将合成样本映射回原始特征空间。我们定义了直接评估少数数据质量的指标,并表明我们的框架比现有方法生成更好的合成数据。此外,在下游二进制分类任务中,优越的合成数据产生更好的预测质量,如在使用27个公开可用的真实世界数据集的广泛实验中所证明的那样
2021-05-17 cs.LG
Generative Adversarial Minority Oversampling
Indian Statistical Institute(印度统计研究所);Duke University(杜克大学)
类不平衡是一个长期存在的问题,与深度学习的许多实际应用有关。过采样技术在经典学习系统中对处理类不平衡是有效的,但不能直接应用于端到端的深度学习系统。我们提出了一个凸生成器,多类分类器网络和真/假分类器之间的三人对抗游戏,以在深度学习系统中执行过采样。凸生成器从少数类中生成新的样本作为现有实例的凸组合,旨在欺骗分类器和分类器对生成的样本进行错误分类。因此,在类的外围附近的关键位置处生成人工样本。这反过来又以更有可能减少来自少数类的误分类的方式调整分类器引起的边界。在多类不平衡图像数据集上进行的大量实验证实了该方法的有效性。
2020-08-26 cs.CV cs.LG
SMOTified-GAN for class imbalanced pattern classification problems
The University of the South Pacific(南太平洋大学);IIT (BHU) Varanasi(印度理工学院(瓦拉纳西分校));University of New South Wales(新南威尔士大学)
数据集中的类别不平衡是分类器的一个主要问题,它导致大多数阳性训练数据集的真阳性率(TPR)很高,但真阴性率(TNR)很低。通常采用少数类过采样的预处理技术来克服这一缺陷。我们的重点是使用生成对抗网络(GAN)和合成少数过采样技术(SMOTE)的混合来解决类不平衡问题。我们提出了一种新的两阶段过采样方法,涉及知识转移,具有协同作用的SMOTE和GAN。在少数类数据不足的情况下,GAN将SMOTE中不切实际或过度泛化的样本转化为真实的数据分布。我们将其命名为SMOTified-GAN,因为GAN对SMOTE产生的预采样少数数据进行处理,而不是随机生成样本本身。实验结果表明,在多种测试基准数据集上,少数类的样本质量得到了提高。它的性能提高了9%,从下一个最好的算法测试F1分数测量。它的时间复杂度也是合理的,对于顺序算法来说大约是$O(N^2d^2T)$。
2022-03-27 cs.AI cs.LG
On the Impact of Class Imbalance on the Learning Dynamics of Deep Neural Networks:An Intuitive Insight
Faculty of Computing(计算机学院);Universiti Teknologi Malaysia(技术大学);Adejkunle Ajasin University(阿德吉库内勒·阿贾辛大学);Johor, Malaysia(马来西亚 Johor);Akungba-Akoko, Nigeria(尼日利亚 Akungba-Akoko)
通过监测不同不平衡比率下深度神经网络对多数类和少数类的学习模式,系统研究了类别不平衡如何导致模型早期欠拟合少数类并仅学习多数类,最终造成少数类表示过拟合而非泛化。
2026-05-24 cs.AI cs.LG
How to train your draGAN: A task oriented solution to imbalanced classification
为小型和不平衡数据集构建有效分类模型的长期挑战自20多年前合成少数过采样技术(SMOTE)创建以来几乎没有改善。虽然基于GAN的模型看起来很有前途,但由于大多数以前的研究都集中在应用已经存在的模型上,因此缺乏用于解决上述问题的专用架构。本文提出了一种独特的,面向性能的,数据生成策略,利用一个新的架构,创造draGAN,产生少数和多数样本。生成样本的目的是优化分类模型的性能,而不是与真实数据的相似性。我们基准我们的方法对国家的最先进的方法从SMOTE家庭和竞争GAN的方法在94个表格数据集具有不同程度的不平衡和线性。我们在实践中展示了draGAN的优越性,但也强调了它的一些缺点。所有代码都可以在https://github.com/LeonGuertler/draGAN上找到。
2022-11-18 cs.LG
WOTBoost: Weighted Oversampling Technique in Boosting for imbalanced learning
University of California, Los Angeles(加州大学洛杉矶分校)
机器学习分类器经常在不平衡的数据集上绊倒,其中类没有被平等地表示。这种对多数类的固有偏见可能导致标记少数类的准确性低。不平衡学习在许多现实世界的应用中是普遍存在的,例如医学研究、网络入侵检测、信用卡交易中的欺诈检测等。例如,合成少数过采样技术(SMOTE)和自适应合成采样方法(ADASYN)使用过采样技术来平衡偏斜的数据集。在本文中,我们提出了一种新的方法,结合加权过采样技术和集成提升方法(WOTBoost),以提高少数数据的分类精度,而不牺牲多数类的准确性。WOTBoost在每一轮提升中调整其过采样策略,以合成更有针对性的少数数据样本。使用加权分布强制执行调整。我们将WOTBoost与其他四种分类模型(即,决策树、SMOTE+决策树、ADASYN+决策树、SMOTEBoost)广泛地在18个公共可访问的不平衡数据集上进行。WOTBoost在6个数据集上实现了最佳G均值,在7个数据集上实现了最高的AUC评分。
2019-11-12 cs.LG stat.ML
PIMPC-GNN: Physics-Informed Multi-Phase Consensus Learning for Enhancing Imbalanced Node Classification in Graph Neural Networks
School of Information and Communication Technology, Griffith University(信息与通信技术学院,格里菲斯大学)
PIMPC-GNN通过融合物理信息的多阶段共识学习,提升图神经网络在不平衡节点分类中的性能,实现少数类召回率和平衡准确率的显著提升。
2026-02-02 cs.AI cs.LG
CTTVAE: Latent Space Structuring for Conditional Tabular Data Generation on Imbalanced Datasets
Computer Research Institute of Montreal (CRIM)(蒙特利尔计算机研究院)
CTTVAE通过潜在空间结构和目标采样策略,提升不平衡数据集下条件表格数据生成的下游实用性。
2026-02-03 cs.LG
Conditional Wasserstein GAN-based Oversampling of Tabular Data for Imbalanced Learning
类不平衡是监督学习中的一个常见问题,它影响了分类模型的预测性能。流行的对策包括对少数族裔进行过度抽样。像SMOTE这样的标准方法依赖于寻找最近邻和线性插值,这在高维复杂数据分布的情况下是有问题的。生成对抗网络(GANs)已被提出作为生成人工少数样本的替代方法,因为它们可以对复杂分布进行建模。然而,先前对基于GAN的过采样的研究并没有结合文献中关于使用GANs生成现实表格数据的最新进展。以前的研究也集中在数值变量,而分类功能是常见的许多商业应用的分类方法,如信用评分。该文提出了一种基于条件Wasserstein GAN的过采样方法,该方法能够有效地对包含数值和分类变量的表格数据集进行建模,并通过辅助分类器损失来关注下游分类任务。我们对我们的方法进行基准测试,对标准的过采样方法和七个真实世界的数据集上的不平衡基线。实证结果证明了基于GAN的过采样的竞争力。
2020-08-20 cs.LG
Minimum Enclosing Ball Synthetic Minority Oversampling Technique from a Geometric Perspective
本文从几何视角提出MEB-SMOTE方法,通过引入最小包围球构造代表性点并与现有样本插值合成高质量少数类样本,在15个真实不平衡数据集上验证了其分类性能提升效果。
2024-08-07 cs.CG cs.LG
LoRAS: An oversampling approach for imbalanced datasets
University of Rostock(罗斯托克大学);Grenoble Alps University(格勒诺布尔阿尔卑斯大学);Grenoble Institute of Technology(格勒诺布尔理工学院);Stellenbosch Institute for Advanced Study (STIAS)(斯泰伦博斯高等研究院);Stellenbosch University(斯泰伦博斯大学)
合成少数过采样技术(SMOTE)被广泛用于不平衡数据集的分析。众所周知,SMOTE经常过度概括少数类,导致对多数类的错误分类,并影响模型的整体平衡。在这篇文章中,我们提出了一种方法,克服了SMOTE的这一限制,采用局部随机仿射阴影采样(LoRAS)从少数类的近似数据流形过采样。我们使用三种不同的机器学习(ML)算法对我们的算法进行了基准测试,并比较了LoRAS,SMOTE和几个SMOTE扩展的性能,这些扩展共享使用少数类数据点的凸组合进行过采样的概念。我们观察到,LoRAS在F1分数和平衡准确性方面平均生成更好的ML模型。另一个关键的观察结果是,虽然我们测试的大多数SMOTE扩展平均提高了SMOTE的F1分数,但它们在分类模型的平衡准确性上妥协了。相反,LoRAS提高了F1得分和平衡准确性,从而产生更好的分类模型。此外,为了解释该算法的成功,我们构建了一个数学框架来证明LoRAS过采样技术提供了一个更好的估计的少数类数据空间的潜在的局部数据分布的平均值。
2020-08-15 cs.LG stat.ML