GraphSB: Boosting Imbalanced Node Classification on Graphs through Structural Balance
China University of Mining and Technology(中国矿业大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
GraphSB通过结构平衡策略解决图结构不平衡问题,提升图上不平衡节点分类的性能。
2026-01-27 cs.LG
GraphSB: Boosting Imbalanced Node Classification on Graphs through Structural Balance
针对图学习中不平衡节点分类问题,提出GraphSB框架,通过结构增强和关系扩散两阶段优化不平衡图结构,在节点合成前平衡结构分布,显著提升分类性能,且可作为即插即用模块平均提升现有方法准确率3.67%。
2025-11-13 cs.LG cs.SI
BaCon: Boosting Imbalanced Semi-supervised Learning via Balanced Feature-Level Contrastive Learning
Peking University(北京大学)
针对类别不平衡半监督学习中伪标签偏差加剧、现有方法依赖有偏表征或引入噪声的问题,提出BaCon方法,通过特征级对比学习平衡特征分布,在多个长尾数据集上取得准确率提升与更强鲁棒性。
2024-07-12 cs.CV cs.LG
LIUBoost : Locality Informed Underboosting for Imbalanced Data Classification
United International University(联合国际大学)
类不平衡和类重叠问题已经成为监督学习领域的一个主要问题。大多数监督学习算法在优化成本函数时假设所考虑的类的基数相等,并且这种假设对于导致次优分类的不平衡数据集不成立。因此,各种方法,如欠采样,过采样,成本敏感的学习和集成的方法已被提出来处理不平衡的数据集。然而,欠采样遭受信息丢失,过采样遭受增加的运行时间和潜在的过拟合,而成本敏感的方法由于定义不充分的成本分配方案而遭受。在本文中,我们提出了一种新的基于增强的方法称为LIUBoost。LIUBoost使用欠采样来平衡每个boosting迭代中的数据集,如RUSBoost,同时根据每个实例的硬度将其成本项纳入权重更新公式,最大限度地减少欠采样引起的信息损失。LIUBoost已经在18个不平衡数据集上进行了广泛的评估,结果表明比现有的最佳性能方法RUSBoost有显着的改进。
2017-11-15 cs.LG stat.ML
Online Ensemble Learning for Imbalanced Data Streams
McGill University(麦吉尔大学)
虽然对成本敏感的学习和在线学习都进行了广泛的研究,但同时处理这两个问题的努力有限。针对这一挑战性任务,本文提出了一种新的学习框架。其核心思想是基于在线集成算法和最先进的批处理模式成本敏感的装袋/升压算法的融合。在此框架下,两个独立发展的研究领域被桥接在一起,并首次提出了一批理论上合理的在线成本敏感装袋和在线成本敏感的提升算法。与其他在线代价敏感学习算法缺乏渐近性质的理论分析不同,所提算法在一定条件下保证了收敛性,基准数据集的实验证据也验证了所提方法的有效性和效率。
2013-10-30 cs.LG stat.ML
Predicting class-imbalanced business risk using resampling, regularization, and model ensembling algorithms
Kennesaw State University(肯尼索州立大学)
我们的目标是开发和改进不平衡的业务风险建模,通过联合使用适当的评估标准,重新分配,交叉验证,分类器正则化,和集成技术。基于10倍交叉验证,使用受试者工作特征曲线下面积(ROC的AUC)进行模型比较。采用了两种欠采样策略:随机欠采样(RUS)和聚类质心欠采样(CCUS),以及两种过采样方法:随机过采样(ROS)和合成少数过采样技术(SMOTE)。三个高度可解释的分类器,包括逻辑斯谛回归没有正则化(LR),L1正则化LR(L1 LR),和决策树(DT)的实现。两个集成技术,包括Bagging和Boosting,被应用在DT分类器上以进一步改进模型。实验结果表明,基于SMOTE的50%阳性过采样数据的Boosting是最优的DT模型,其AUC、召回率和F1得分分别为0.8633、0.9260和0.8907。
2019-03-13 cs.LG stat.ML
Diversifying Support Vector Machines for Boosting using Kernel Perturbation: Applications to Class Imbalance and Small Disjuncts
Indian Statistical Institute(印度统计研究所);Jadavpur University(贾达沃大学)
针对Boosting中SVM难以多样化的问题,提出基于核扰动的Boosting方案,同时提出无规则依赖的析取项识别方法与GSDI性能指标,实验证明该方法在多类不平衡数据集上性能优于现有最优算法。
2017-12-22 cs.LG stat.ML
Factorized MultiClass Boosting
JetBrains Research(JetBrains研究院);Higher School of Economics(高等经济学院);Yandex(Yandex公司)
在本文中,我们介绍了一种新的方法来解决多类分类问题。我们将问题分解为一系列回归任务,并使用CART树来解决这些任务。所提出的方法比最先进的解决方案工作得更快,同时提供相同水平的模型质量。该算法对不平衡的数据集也是鲁棒的,允许在显著更短的时间内获得高质量的结果,而无需重新平衡类。
2019-09-11 cs.LG stat.ML
CW-B: Class Weighted Boosting Framework for Imbalance Resilient Multi Class Cardiac Phenotyping
提出CW-B框架,通过类加权XGBoost、缺失指示增强和分类错误审计,解决真实世界心脏出院表型数据中的类别不平衡和缺失问题,在五类分类中优于基线模型。
2026-06-29 cs.AI cs.LG
Tree Boosting Methods for Balanced andImbalanced Classification and their Robustness Over Time in Risk Assessment
Vodafone GmbH(沃达丰公司);International University of Applied Sciences GmbH(国际应用科学大学)
本文评估XGBoost和Imbalance-XGBoost在不同数据规模和类别分布下的性能,提出结合超参数优化的树提升方法,在风险评估中显著优于基线,且对时间变化具有一定鲁棒性。
2025-04-25 cs.LG
Cold Start Active Learning Strategies in the Context of Imbalanced Classification
Luxembourg Institute of Science and Technology(卢森堡科学技术研究所);University of Geneva(日内瓦大学)
我们提出了新的主动学习策略,致力于提供一个解决方案的冷启动阶段,即初始化分类的一个大的数据集没有附加标签。此外,所提出的策略旨在处理随机选择效率极低的不平衡环境。具体来说,我们的主动学习迭代使用元素得分来解决标签稀缺性和不平衡性,将从聚类结构中提取的信息结合到标签传播模型中。该战略说明了一个案例研究,对Twitter的内容w.r.t.一个真实的洪水事件的证词。我们表明,我们的方法有效地应对类不平衡,通过提高少数类的样本的召回。
2022-01-25 cs.LG
Beyond Synthetic Augmentation: Group-Aware Threshold Calibration for Robust Balanced Accuracy in Imbalanced Learning
Pine Crest School(皮尼特里学校)
针对类别不平衡问题,提出群组感知阈值校准方法,通过为不同群组设置差异化决策阈值优化帕累托前沿,在7类模型上相比SMOTE、CT-GAN等合成增强方法实现了1.5-4%更高的平衡准确率且更简单可解释。
2025-08-29 cs.AI cs.LG
Ultra-imbalanced classification guided by statistical information
Center for data Science, Zhejiang university(浙江大学数据科学中心);Tiansuan Lab, Ant group(蚂蚁集团天算实验室)
针对少数类样本也可能充足的超不平衡分类问题,提出UIC框架,从统计信息角度比较损失函数,并设计可证明抗不平衡且实验高效的Tunable Boosting Loss。
2024-09-06 cs.LG
Improving GBDT Performance on Imbalanced Datasets: An Empirical Study of Class-Balanced Loss Functions
The Fields Institute for Research in Mathematical Sciences(数学科学研究所);Data Science Research Center, Duke Kunshan University(昆山杜克大学数据科学研究中心)
本文首次系统研究类别平衡损失函数对三种GBDT算法在不平衡表格数据分类任务中的影响,实验证明其能提升性能,并发布了Python包以促进应用。
2024-07-19 cs.LG
Evaluating Supervised Learning Models for Fraud Detection: A Comparative Study of Classical and Deep Architectures on Imbalanced Transaction Data
Rice University(莱斯大学);Georgia Institute of Technology(佐治亚理工学院);Duke University(杜克大学)
本研究系统比较了四种监督学习模型在大规模不平衡交易数据集上的欺诈检测性能,发现集成方法表现最佳,GRU召回率高但精确度低,强调应根据风险承受能力选择模型。
2025-09-17 cs.AI cs.LG
The SAMME.C2 algorithm for severely imbalanced multi-class classification
Towson University(陶森大学);University of Connecticut(康涅狄格大学)
分类预测建模涉及将数据集中的观测值准确分配给目标类别或类别。有一个现实世界的分类问题,严重不平衡的类分布的增长。在这种情况下,少数类比多数类有更少的观察来学习。尽管这种稀疏性,少数类通常被认为是更有趣的类,但开发适合观察的科学学习算法带来了无数的挑战。在这篇文章中,我们提出了一种新的多类分类算法,专门处理严重不平衡的类的基础上,我们称为SAMME. C2的方法。它融合了SAMME算法(一种多类分类器)和Ada.C2算法(一种成本敏感的二进制分类器,旨在解决高度类不平衡问题)的增强技术的灵活机制。我们不仅提供了由此产生的算法,但我们也建立了我们提出的SAMME. C2算法的科学和统计公式。通过数值实验研究不同程度的分类器的难度,我们证明了我们提出的模型一致的优越性能。
2021-12-30 cs.LG stat.ML
Online Fairness-Aware Learning with Imbalanced Data Streams
L3S Research Center(L3S研究中心);Leibniz University of Hannover(汉诺威莱布尼茨大学);Carnegie Mellon University(卡内基梅隆大学)
数据驱动的学习算法在许多在线应用中被采用,其中数据随着时间的推移变得可用,如网络监控、股票价格预测、工作应用等。随着新实例的到来和旧实例的过时,底层数据分布可能会随着时间的推移而演变,从而需要模型自适应。在这种动态环境中,即所谓的数据流中,公平性感知学习不能被认为是一次性的要求,而是应该包括对数据流的持续要求。最近的公平感知流分类器忽略了类不平衡的问题,这体现在许多现实生活中的应用,并减轻歧视,主要是因为他们“拒绝”少数情况下,由于他们无法有效地学习所有类。在这项工作中,我们提出了\ours,一个在线的公平意识的方法,保持一个有效的和公平的流分类。\ours ~是一种在线提升方法,通过监控流的类别不平衡并调整其决策边界以减轻流上的歧视性结果,以在线方式改变训练分布。在8个真实世界和1个来自不同领域的具有不同类别不平衡的合成数据集上的实验表明,我们的方法优于最先进的公平感知流方法,平衡准确率(相对)提高[11.2%~ 14.2%],gmean(相对)提高[22.6%~ 31.8%],回忆率(相对)提高[42.5%~ 49.6%],Kappa值为14.3%~ 25.7%,统计公平性为89.4%~ 96.6%。
2021-08-13 cs.AI cs.LG
On multi-class learning through the minimization of the confusion matrix norm
CNRS(法国国家科学研究中心)
在不平衡的多类分类问题中,误分类率作为一个错误的措施可能不是一个相关的选择。已经开发了几种方法,其中的性能指标保留更丰富的信息比单纯的误分类率:误分类成本,基于ROC的信息,等等。按照这种想法处理替代措施的性能,我们建议使用一个新的措施来解决不平衡的分类问题进行优化:规范的混淆矩阵。事实上,最近的结果表明,使用混淆矩阵的范数作为错误度量可能是非常有趣的,因为矩阵中包含的细粒度信息,特别是在不平衡类的情况下。然后,我们的第一个贡献在于表明,基于混淆矩阵的优化标准产生了一个共同的背景成本敏感的方法,旨在处理不平衡类学习问题。作为我们的第二个贡献,我们提出了一个扩展的最近的多类提升方法-即AdaBoost.MM -不平衡类问题,通过greetly最小化混淆矩阵的经验范数。所提出的方法的属性的理论分析,而实验结果说明了该算法的行为,并显示与其他方法相比,该方法的相关性。
2013-11-03 cs.LG
Survival Prediction from Imbalance colorectal cancer dataset using hybrid sampling methods and tree-based classifiers
K. N. Toosi University of Technology(科努图西理工大学)
针对结直肠癌临床数据不平衡问题,提出混合采样流水线与树类分类器结合,显著提升少数类生存预测灵敏度。
2023-09-04 cs.LG
Deep Learning-Based Strategy for Macromolecules Classification with Imbalanced Data from Cellular Electron Cryotomography
Beijing University of Posts and Telecommunications(北京邮电大学);Carnegie Mellon University(卡内基梅隆大学);Tsinghua University(清华大学)
由不平衡数据训练的深度学习模型可能无法令人满意地工作,因为它可能由主要类别确定,因此可能会忽略具有少量数据的类别。在本文中,我们首次将基于深度学习的不平衡数据分类应用于冷冻电子断层扫描(Cryo-ET)捕获的细胞大分子复合物。我们采用了一系列的策略来处理不平衡数据,包括数据采样,装袋,助推,基于遗传编程的方法和。特别是,受Inception 3D网络的启发,我们提出了一种多路径CNN模型,该模型在Cryo-ET数据集上结合了焦点丢失和混淆来扩展数据集,其中每个路径对应于每种类型的数据都有其最佳性能,并让网络学习路径的组合以提高分类性能。此外,大量的实验表明,我们提出的方法是灵活的,足以应付不同数量的类,通过调整我们的多路径模型中的路径数。据我们所知,这项工作是处理不平衡数据的深度学习方法首次应用于细胞大分子复合物的内部组织分类,为计算生物学领域的细胞分类开辟了新的道路。
2019-08-27 cs.CV cs.LG eess.IV
Enhancing Machine Learning for Imbalanced Medical Data: A Quantum-Inspired Approach to Synthetic Oversampling (QI-SMOTE)
National Institute of Technology, Hamirpur(国立技术学院,哈米尔普尔)
针对医疗领域机器学习的类别不平衡问题,提出量子启发式合成过采样方法QI-SMOTE,在MIMIC数据集上验证其可提升多类模型性能,增强医疗预测模型的可靠性。
2025-09-02 cs.AI cs.LG
Using Explainable Boosting Machine to Compare Idiographic and Nomothetic Approaches for Ecological Momentary Assessment Data
Maastricht University(马斯特里赫特大学);University of Amsterdam(阿姆斯特丹大学)
以往对精神障碍EMA数据的研究主要集中在基于多元回归的方法对每个个体单独建模。本文进一步探索了在分类问题中使用非线性可解释的机器学习(ML)模型。ML模型可以通过识别数据中变量之间的复杂模式来提高准确预测不同行为发生的能力。为了评估这一点,使用不平衡的合成和真实世界的数据集的线性模型的树的各种合奏的性能进行比较。在检查所有情况下AUC评分的分布后,非线性模型似乎优于基线线性模型。此外,除了个性化的方法外,组级预测模型也可能提供更好的性能。在此基础上,研究了两种不同的规则方法来整合多个个体的数据,一种是在训练过程中直接使用所有数据,另一种是基于知识蒸馏。有趣的是,观察到在两个真实世界数据集中的一个中,知识蒸馏方法实现了改善的AUC分数(与个性化相比,平均相对变化为+17\%),显示了它如何有益于EMA数据分类和性能。
2022-04-04 cs.LG
Boosting rare benthic macroinvertebrates taxa identification with one-class classification
Tampere University(坦佩雷大学);Finnish Environment Institute(芬兰环境研究所)
昆虫监测对于了解快速生态变化的后果至关重要,但分类鉴定目前需要繁琐的人工专家工作,无法有效地扩大规模。深度卷积神经网络(CNN)提供了一种可行的方法来显着增加生物监测量。然而,分类群丰度通常非常不平衡,最稀有类别的训练图像数量对于深度CNN来说太低了。因此,稀有类别的样本往往完全被遗漏,而检测它们具有生物学意义。在本文中,我们提出将训练好的深度CNN与单类分类器相结合,以提高稀有物种识别。单类分类模型传统上是用少得多的样本训练的,它们可以提供一种机制来指示可能属于人类检查的稀有类别的样本。我们的实验证实,所提出的方法可能确实支持走向部分自动化的分类群识别任务。
2020-02-12 cs.CV cs.LG eess.IV
A Case Study on the Classification of Lost Circulation Events During Drilling using Machine Learning Techniques on an Imbalanced Large Dataset
University of Louisiana at Lafayette(路易斯安那大学拉斐特分校)
这项研究提出了机器学习模型,预测和分类的井漏严重程度先发制人地使用一个大类不平衡钻井数据集。我们展示了利用易于解释的机器学习方法解决大型钻井工程挑战所涉及的可重复核心技术。我们利用了来自伊朗阿扎德甘油田地层的65,000多个记录数据,这些数据存在类别不平衡问题。选择数据集的17个参数中的11个用于5个井漏事件的分类。为了生成分类模型,我们使用了六种基本的机器学习算法和四种集成学习方法。线性判别分析(LDA)、逻辑回归(LR)、支持向量机(SVM)、分类和回归树(CART)、k-最近邻(KNN)和高斯朴素贝叶斯(GNB)是六种基本技术。我们还使用了bagging和boosting集成学习技术来研究提高预测性能的解决方案。这些算法的性能使用四个指标来衡量:准确度,精确度,召回率和F1分数。F1评分加权代表数据不平衡被选为首选的评价标准。CART模型被认为是同类中识别钻井液循环漏失事件的最佳模型,平均加权F1分数为0.9904,标准差为0.0015。集成学习技术的应用,随机森林集成的决策树表现出最好的预测性能。它以1.0的完美加权F1分数识别和分类井漏事件。使用排列特征重要性(PFI),测得的深度被认为是最有影响力的因素,在准确地识别漏失事件,而钻井。
2022-09-07 cs.LG physics.geo-ph
An Oversampling-enhanced Multi-class Imbalanced Classification Framework for Patient Health Status Prediction Using Patient-reported Outcomes
University of Texas at El Paso(得克萨斯大学埃尔帕索分校)
针对放疗癌症患者报告结局数据不完整和多类不平衡问题,提出一种结合过采样策略与六种机器学习分类器的预测框架,实验表明Random Forest和XGBoost在健康状况分类中表现稳健,具有临床应用潜力。
2024-11-16 cs.LG
Robust-GBDT: GBDT with Nonconvex Loss for Tabular Classification in the Presence of Label Noise and Class Imbalance
Data Science Research Center, Duke Kunshan University(昆山杜克大学数据科学研究中心)
Robust-GBDT将梯度提升决策树与非凸损失函数结合,并引入鲁棒焦点损失,以应对表格分类中的标签噪声和类别不平衡,显著提升泛化能力并确立新标准。
2024-03-16 cs.LG
Multi-fairness under class-imbalance
Free University of Berlin(柏林自由大学);Leibniz University Hannover(莱布尼茨汉诺威大学);L3S Research Center(L3S研究中心)
最近的研究表明,用于多个受保护属性的公平感知机器学习(以下称为多歧视)的数据集通常是不平衡的。对于往往代表性不足的受保护群体(如女性、非白人等),阶级不平衡问题更为严重。关键的少数民族阶级。尽管如此,现有的方法只关注整体的错误歧视权衡,忽略了不平衡的问题,从而放大了少数群体中普遍存在的偏见。因此,需要解决多重歧视和阶级不平衡的综合问题。为此,我们引入了一个新的公平性措施,多最大误处理(MMM),它认为(多属性)保护组和类成员的实例来衡量歧视。为了解决这一问题,我们提出了一种提升方法,该方法将MMM成本纳入分布更新和后训练中,以在准确、平衡和公平的解决方案中选择最佳权衡。实验结果表明,我们的方法对国家的最先进的方法,在产生最佳的平衡性能跨组和类和最佳的准确性为保护组的少数类的优越性。
2022-06-21 cs.CY cs.LG
Ensemble Classifier Design Tuned to Dataset Characteristics for Network Intrusion Detection
University of Toledo(托莱多大学)
基于机器学习的监督方法需要高度定制和微调的方法来提供出色的性能。针对网络入侵数据集UNSW-NB 15,提出了一种基于数据集驱动的机器学习分类器设计和性能评估。对数据集的分析表明,它在特征空间中存在类表示不平衡和类重叠。我们采用集成方法,使用平衡装袋(BB),极限梯度提升(XGBoost),和随机森林授权的Hellinger距离决策树(RF-HDDT)。BB和XGBoost被调整以处理不平衡数据,并且随机森林(RF)分类器由Hellinger度量补充以解决不平衡问题。提出了两种新的算法来解决数据集中的类重叠问题。这两种算法被用来帮助提高测试数据集的性能,通过修改由三个基本分类器作为集成分类器的一部分,采用多数表决组合器的最终分类决策。所提出的设计进行评估,为二进制和多类别分类。将所提出的模型与文献中相同数据集上报告的模型进行比较,表明所提出的模型在二进制和多类别分类情况下均显著优于其他模型。
2022-05-08 cs.AI cs.CR cs.DB
GAT-COBO: Cost-Sensitive Graph Neural Network for Telecom Fraud Detection
National Digital Switching System Engineering and Technological Research Center(国家数字交换系统工程技术研究中心);University of Toronto(多伦多大学);Fudan University(复旦大学)
本文提出GAT-COBO模型,通过结合图注意力网络和成本敏感提升方法解决电信欺诈检测中的图不平衡问题,实验证明其优于现有方法并缓解了过平滑现象。
2023-03-29 cs.AI cs.LG
Comparative Evaluation of Machine Learning Approaches for Minority-Class Financial Distress Prediction Under Class Imbalance Constraints
Kent Business School(肯特商学院);University of Kent(肯特大学)
本文比较了统计方法、集成学习和神经网络模型在类不平衡数据下的少数类财务困境预测效果,验证了梯度提升方法在严重不平衡情况下的优越性。
2026-05-13 cs.LG
The Hidden Cost of Resampling: How Imbalance Correction Degrades Probability Calibration in Tree Ensembles
研究SMOTE和随机欠采样对树集成模型概率校准的影响,发现SMOTE校准成本小但欠采样损害严重,后验重校准可有效修复。
2026-06-29 cs.CL cs.LG
Exploring Data Augmentation and Resampling Strategies for Transformer-Based Models to Address Class Imbalance in AI Scoring of Scientific Explanations in NGSS Classroom
Michigan State University(密歇根州立大学);CREATE for STEM(STEM创新计划);University of Houston(休斯顿大学)
本文研究了通过数据增强策略提升Transformer模型对科学解释评分的性能,发现GPT生成数据和ALP方法在处理严重类别不平衡时效果显著,优于传统过采样方法。
2026-03-21 cs.AI cs.LG
Long-Tailed Data Classification by Increasing and Decreasing Neurons During Training
Meijo-University(名古屋大学)
针对类别不平衡导致少数类识别准确率降低的问题,提出一种在训练期间周期性增减神经元的动态容量调整方法,在保持最终网络结构不变的前提下,有效提升了少数类的表示能力及整体分类性能。
2025-07-14 cs.LG stat.AP
Beyond Rebalancing: Benchmarking Binary Classifiers Under Class Imbalance Without Rebalancing Techniques
Department of Information Systems and Security, College of Information Technology and Center for Artificial Intelligence and Digital Innovation, United Arab Emirates University(信息系统与安全系,信息技术学院和人工智能与数字创新中心,阿联酋大学);College of Engineering and Technology, American University of the Middle East(工程与技术学院,中东大学)
本研究系统评估了多种二分类器在无显式重平衡技术下对类别不平衡的鲁棒性,发现TabPFN和基于提升的集成模型在极端不平衡下仍保持较高性能。
2026-06-16 cs.AI cs.IT cs.LG