VOS: a Method for Variational Oversampling of Imbalanced Data
类不平衡数据集在现实世界的应用中很常见,从信用卡欺诈检测到罕见疾病诊断。几种流行的分类算法假设类是近似平衡的,因此建立了相应的目标函数,以最大限度地提高整体准确率。在这些情况下,优化整体准确性将导致对大多数类的高度倾斜预测。此外,由误报(阳性样本被错误地分类为阴性)导致的负面业务影响可能是有害的。已经提出了许多方法来解决类不平衡问题,包括过采样方法、欠采样方法和成本敏感方法。在本文中,我们考虑过采样方法,其目的是增加原始数据集与综合创建的少数类的意见。特别是,受生成建模技术(例如,变分推断和生成对抗网络),我们介绍了一种新的基于变分自编码器的过采样技术。我们的实验表明,与传统的过采样方法相比,新方法在增强下游分类任务的数据集方面更优越。
2018-09-07 cs.LG stat.ML
Counterfactual-based minority oversampling for imbalanced classification
ChongQing University(重庆大学)
不平衡分类中过采样的一个关键挑战是,新的少数样本的生成往往忽略了大多数类的使用,导致大多数新的少数样本分布在整个少数空间。有鉴于此,我们提出了一个新的基于反事实理论的过采样框架。我们的框架引入了一个反事实的目标,利用丰富的固有信息的多数类和显式扰动多数样本在少数空间的领土上生成新的样本。分析表明,新的少数样本满足最小反演,因此它们中的大多数位于决策边界附近。对基准数据集的实证评估表明,我们的方法显着优于国家的最先进的方法。
2020-12-23 cs.LG stat.ML
BSGAN: A Novel Oversampling Technique for Imbalanced Pattern Recognitions
University of Oklahoma(俄克拉荷马大学)
针对类别不平衡问题中现有边界SMOTE技术导致数据多样性受限的缺陷,提出结合边界SMOTE与生成对抗网络的混合过采样技术BSGAN,在四个高度不平衡数据集上验证其优于现有方法并能生成遵循正态分布的更多样化数据。
2023-05-16 cs.LG
Improving Credit Card Fraud Detection through Transformer-Enhanced GAN Oversampling
提出一种结合Transformer编码器的GAN过采样方法,生成高质量合成少数类样本,在信用卡欺诈数据集上显著提升召回率、F1分数和AUC,有效解决类别不平衡问题。
2025-09-24 cs.LG
SMOTE-VAR: An Uncertainty-Aware Oversampling Method for Predicting Depression Remission in University Students
Deakin University(迪肯大学);Black Dog Institute(黑狗研究所);University of New South Wales(新南威尔士大学)
针对大学生抑郁预测中ML模型的类别不平衡问题,本文提出SMOTE-VAR过采样方法,通过高斯过程方差函数估计样本不确定性减少假阳性,在抑郁数据集上表现优于现有方法,助力优化精神健康护理。
2026-09-01 cs.LG
SMOTified-GAN for class imbalanced pattern classification problems
The University of the South Pacific(南太平洋大学);IIT (BHU) Varanasi(印度理工学院(瓦拉纳西分校));University of New South Wales(新南威尔士大学)
数据集中的类别不平衡是分类器的一个主要问题,它导致大多数阳性训练数据集的真阳性率(TPR)很高,但真阴性率(TNR)很低。通常采用少数类过采样的预处理技术来克服这一缺陷。我们的重点是使用生成对抗网络(GAN)和合成少数过采样技术(SMOTE)的混合来解决类不平衡问题。我们提出了一种新的两阶段过采样方法,涉及知识转移,具有协同作用的SMOTE和GAN。在少数类数据不足的情况下,GAN将SMOTE中不切实际或过度泛化的样本转化为真实的数据分布。我们将其命名为SMOTified-GAN,因为GAN对SMOTE产生的预采样少数数据进行处理,而不是随机生成样本本身。实验结果表明,在多种测试基准数据集上,少数类的样本质量得到了提高。它的性能提高了9%,从下一个最好的算法测试F1分数测量。它的时间复杂度也是合理的,对于顺序算法来说大约是$O(N^2d^2T)$。
2022-03-27 cs.AI cs.LG
Anchor-based oversampling for imbalanced tabular data via contrastive and adversarial learning
Amirkabir University of Technology (Tehran Polytechnic)(阿米尔卡比尔理工大学(德黑兰理工大学))
针对表格数据不平衡导致分类器偏向多数类的问题,提出基于边界锚点的Anch-SCGAN框架,结合对比与对抗学习生成样本,在16个真实数据集上性能优于现有知名方法。
2025-03-24 cs.AI cs.LG
An Adaptive Oversampling Learning Method for Class-Imbalanced Fault Diagnostics and Prognostics
数据驱动的故障诊断和故障诊断在工业系统中存在类别不平衡问题,这对普通机器学习算法提出了挑战,因为它很难学习少数类别样本的特征。合成过采样方法通常用于解决这些问题,通过生成少数类样本来平衡多数类和少数类之间的分布。然而,许多过采样方法都存在着不恰当的地方,无法根据数据的不同分布产生有效的、有用的少数类样本,使得样本学习过程更加复杂。因此,本文提出了一种新的自适应过采样技术:基于EM的加权少数过采样技术(EWMOTE)的工业故障诊断和故障诊断。该方法包括一个加权少数抽样策略,以确定难以学习的信息少数故障样本和期望最大化(EM)为基础的插补算法生成故障样本。为了验证所提出的方法的性能,在两个真实数据集上进行了实验。实验结果表明,该方法在不同不平衡率的二分类和多分类不平衡学习任务中均能取得比其他基于过采样的基线模型更好的性能。
2018-11-19 cs.LG stat.ML
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University(汉阳大学)
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题,如合成少数过采样技术(SMOTE)。然而,由于诸如SMOTE的方法通过线性插值生成实例,因此合成数据空间可能看起来像多边形。此外,过采样方法产生少数类的离群值。在本文中,我们提出了基于高斯的少数过采样技术(GMOTE)的统计角度不平衡数据集。为了避免线性插值和考虑离群点,该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值(CMGOS)的启发,我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法,如SMOTE进行了比较。当GMOTE与分类回归树(CART)或支持向量机(SVM)相结合时,它表现出更好的准确性和F1得分。实验结果表明,鲁棒性能。
2021-05-09 cs.LG stat.ML
Imbalanced Classification via a Tabular Translation GAN
Tel Aviv University(特拉维夫大学);Playtika Ltd.(Playtika公司);Bar-Ilan University(巴伊兰大学)
当数据表现出严重的类别不平衡的二元分类问题时,大多数标准预测方法可能无法准确地对少数类别进行建模。我们提出了一个基于生成对抗网络的模型,该模型使用额外的正则化损失将多数样本映射到相应的合成少数样本。这种转换机制鼓励合成的样本接近类边界。此外,我们探索了一个选择标准,以保留最有用的合成样本。实验结果表明,该方法提高了平均精度相比,替代的重新加权和过采样技术时,在各种表格类不平衡的数据集上使用几个下游分类器。
2022-04-19 cs.LG stat.ML
Boosting Predictive Performance on Tabular Data through Data Augmentation with Latent-Space Flow-Based Diffusion
Md. Tawfique Ihsan(独立研究者);Md. Rakibul Hasan Rafi(独立研究者);Ahmed Shoyeb Raihan(独立研究者);Imtiaz Ahmed(独立研究者);Abdullahil Azeem(独立研究者)
本文提出基于潜在空间和树驱动扩散的方法,通过数据增强提升表格数据预测性能,实现高召回率和隐私保护。
2025-11-20 cs.LG
G-SMOTE: A GMM-based synthetic minority oversampling technique for imbalanced learning
College of Information Science and Technology(信息科学技术学院);Dalian Maritime University(大连海事大学)
不平衡学习是一种重要的分类模型学习算法,在许多应用中得到了广泛的应用。通常,不平衡学习算法可以被划分为两种类型,即,数据级方法和算法级方法。在本文中,重点是开发一个强大的合成少数过采样技术属于数据级方法的保护伞。一方面,我们提出了一种在高维特征空间而不是线性采样空间中生成合成样本的方法。另一方面,在所提出的不平衡学习框架中,高斯混合模型被用来区分少数类实例中的离群值,并过滤掉合成的多数类实例。最后,提出了一种自适应优化方法,对采样过程中的参数进行优化。通过这样做,一个有效性和效率不平衡的学习框架的发展。
2018-10-24 cs.LG stat.ML
Uncertainty-Aware Generative Oversampling Using an Entropy-Guided Conditional Variational Autoencoder
针对高维生物医学数据的类别不平衡问题,提出融合局部不确定性的LEO-CVAE生成式过采样框架,通过熵加权损失和熵引导采样提升分类性能,优于传统与生成式基线方法。
2025-10-04 cs.AI cs.LG
Imbalanced Class Data Performance Evaluation and Improvement using Novel Generative Adversarial Network-based Approach: SSG and GBO
University of Oklahoma(俄克拉荷马大学);Islamic University(伊斯兰大学)
数据集中的类不平衡是一个主要的挑战,它会显著影响机器学习模型的性能,导致有偏见的预测。已经提出了许多技术来解决类不平衡问题,包括但不限于过采样、欠采样和成本敏感方法。由于其生成合成数据的能力,过采样技术(如合成少数过采样技术(SMOTE))是研究人员最广泛使用的方法之一。然而,SMOTE的一个潜在缺点是新创建的次要样本可能与主要样本重叠。作为一种效果,ML模型偏向主要类别的性能的概率增加了。最近,生成对抗网络(GAN)由于其能够创建几乎真实的样本而受到广泛关注。然而,GAN虽然有很大的潜力,但却很难进行训练。本研究提出两种新的技术:基于GAN的过采样(GBO)和支持向量机-SMOTE-GAN(SSG),以克服现有过采样方法的局限性。初步计算结果表明,SSG和GBO在扩展的不平衡八个基准数据集上的性能优于原始SMOTE。该研究还表明,SSG生成的次要样本呈现高斯分布,这通常很难使用原始SMOTE实现。
2022-10-23 cs.LG
Evo-TFS: Evolutionary Time-Frequency Domain-Based Synthetic Minority Oversampling Approach to Imbalanced Time Series Classification
Evo-TFS通过整合时间和频率域特征,提出了一种进化过采样方法,有效提升不平衡时间序列分类性能。
2026-01-03 cs.LG cs.NE
Minority Oversampling for Imbalanced Time Series Classification
Changsha University(长沙学院);Hunan University of Finance and Economics(湖南财政经济学院);Jiangxi Vocational Technical College of Industry and Trade(江西工业贸易职业技术学院);Zhejiang Gongshang University(浙江工商大学)
许多重要的实际应用都涉及具有偏态分布的时间序列数据。与传统的不平衡学习问题相比,不平衡时间序列数据的高维性和变量间的高度相关性使其分类更具挑战性。针对高维不平衡时间序列分类问题,提出了一种结构保持的过采样方法。OHIT首先利用基于密度比的共享最近邻聚类算法来捕获高维空间中少数类的模式。然后对每个模式应用大维协方差矩阵的收缩技术,获得准确可靠的协方差结构。最后,OHIT通过使用估计的协方差矩阵生成基于多元高斯分布的结构保持的合成样本。在几个公开的时间序列数据集(包括单峰和多峰)上的实验结果证明了OHIT在F1,G-mean和AUC方面优于最先进的过采样算法。
2021-08-20 cs.LG stat.ML
Minority Class Oversampling for Tabular Data with Deep Generative Models
University of Luxembourg(卢森堡大学);Delft University of Technology(代尔夫特理工大学)
在实践中,机器学习专家经常面临不平衡的数据。如果不考虑这种不平衡,常见的分类器表现不佳,标准的评估指标误导了从业者对模型性能的看法。处理不平衡数据集的一种常见方法是欠采样和过采样。在这个过程中,样本要么从多数类中删除,要么将合成样本添加到少数类中。在本文中,我们将跟踪深度学习的最新发展。我们提出了深度生成模型的建议,包括我们自己的模型,并研究了这些方法提供真实样本的能力,这些样本通过过采样来提高不平衡分类任务的性能。在160K+的实验中,我们表明,所有的新方法往往比简单的基线方法(如SMOTE)表现更好,但需要不同的过采样率和欠采样率。我们的实验表明,采样方式的方法并不影响质量,但运行时间相差很大。我们还观察到,在性能指标方面的改进,虽然在对方法进行排名时显示出显着性,但在绝对值方面往往是次要的,特别是与所需的努力相比。此外,我们注意到,很大一部分改进是由于欠采样,而不是过采样。我们提供代码和测试框架。
2020-07-20 cs.LG stat.ML
Fraud is Not Just Rarity: A Causal Prototype Attention Approach to Realistic Synthetic Oversampling
University of Catania(卡塔尼亚大学)
提出因果原型注意力分类器(CPAC),结合VAE-GAN编码器,通过原型注意力机制改善潜在空间聚类分离,在信用卡欺诈检测中实现93.74%的F1分数和92.85%的召回率。
2026-07-02 cs.AI cs.LG
CGMOS: Certainty Guided Minority OverSampling
Illinois Institute of Technology(伊利诺伊理工学院)
处理不平衡的数据集是一个具有挑战性的问题,如果不正确处理,会导致分类性能下降。不平衡数据集通常使用少数过采样来处理,而SMOTE算法是一种成功的过采样算法,具有许多扩展。SMOTE扩展在训练期间没有理论保证比SMOTE更好地工作,并且在许多情况下,它们的性能取决于数据。在本文中,我们提出了一种新的扩展SMOTE算法的理论保证,提高分类性能。所提出的方法考虑了多数和少数类的分类性能。在所提出的方法CGMOS(随机引导少数过采样)中,通过考虑数据集中的确定性变化来添加新的数据点。证明了该算法在训练数据上的性能优于SMOTE算法。在30个真实数据集上的进一步实验结果表明,CGMOS在使用6种不同分类器时比现有算法效果更好。
2016-07-21 cs.LG
Handling Imbalanced Data: A Case Study for Binary Class Problems
Southern Illinois University(南伊利诺伊大学);Department of Mathematics(数学系);Edwardsville, IL 62026(爱德华兹维尔,IL 62026(注意:这是地址,非机构,不应提取))
几年来,解决分类问题的主要问题是不平衡数据的问题。由于大多数机器学习算法默认假设所有数据都是平衡的,因此这些算法不考虑数据样本类的分布。结果往往不令人满意,并偏向于大多数样本类分布。这意味着,使用不平衡数据构建的模型而不处理数据中的不平衡,其结果可能在实践和理论上都具有误导性。大多数研究者的工作集中在合成少数过采样技术(SMOTE)和自适应合成(ADASYN)采样方法在处理数据不平衡独立的应用,并没有更好地解释这些技术背后的算法计算的例子。本文重点介绍了合成过采样技术和人工计算合成数据点,以提高算法的容易理解。我们分析了这些合成过采样技术在不同不平衡比率和样本量的二进制分类问题上的应用。
2020-10-09 cs.AI cs.LG stat.AP
A Novel Resampling Technique for Imbalanced Dataset Optimization
University of L’Aquila(拉奎拉大学);School Of AI(人工智能学院)
尽管数据量巨大,但感兴趣的特定事件仍然非常罕见。稀有事件分类是欺诈交易、恶意软件流量分析、网络入侵检测等领域的一个普遍问题。许多研究已经开发了恶意软件检测使用各种数据集上的机器学习方法,但据我们所知,只有MTA-KDD'19数据集具有每天更新恶意流量的代表集的特性。这种每日更新是数据集的附加值,但由于RRw优化的MTA-KDD '19将发生的类不平衡问题,它转化为潜在的。我们通过考虑四种类型的少数类例子来捕捉真实数据集中类分布的困难:安全,边界,罕见和离群值。在这项工作中,我们开发了两个版本的生成轮廓恢复1-最近邻(G1 Nos)过采样算法来处理类不平衡问题。G1 Nos算法的第一个模块执行基于系数的实例选择轮廓,确定不平衡度的临界阈值。(ID),第二模块使用类SMOTE过采样算法生成合成样本。类的平衡由我们的G1 Nos算法完成,以重新建立所使用数据集的两个类之间的比例。实验结果表明,我们的过采样算法的工作优于其他两个SOTA方法在所有考虑的指标。
2020-12-30 cs.LG stat.ML
DeepSMOTE: Fusing Deep Learning and SMOTE for Imbalanced Data
University of Notre Dame(圣母大学);Virginia Commonwealth University(弗吉尼亚联邦大学)
尽管经过二十多年的发展,不平衡的数据仍然被认为是当代机器学习模型的重大挑战。深度学习的现代进步放大了数据不平衡问题的重要性。解决此问题的两种主要方法是基于损失函数修改和实例恢复。实例采样通常基于生成对抗网络(GANs),其可能遭受模式坍塌。因此,需要一种过采样方法,该方法专门针对深度学习模型定制,可以在原始图像上工作,同时保留其属性,并且能够生成高质量的人工图像,可以增强少数类别并平衡训练集。我们提出了DeepSMOTE -一种用于深度学习模型的新型过采样算法。它很简单,但在设计上很有效。它由三个主要部分组成:(i)编码器/解码器框架;(ii)基于SMOTE的过采样;以及(iii)用惩罚项增强的专用损失函数。与基于GAN的过采样相比,DeepSMOTE的一个重要优势是,DeepSMOTE不需要图像处理器,它可以生成高质量的人工图像,这些图像信息丰富,适合视觉检查。DeepSMOTE代码可在https://github.com/dd1github/DeepSMOTE上公开获取
2021-05-05 cs.CV cs.LG
WOTBoost: Weighted Oversampling Technique in Boosting for imbalanced learning
University of California, Los Angeles(加州大学洛杉矶分校)
机器学习分类器经常在不平衡的数据集上绊倒,其中类没有被平等地表示。这种对多数类的固有偏见可能导致标记少数类的准确性低。不平衡学习在许多现实世界的应用中是普遍存在的,例如医学研究、网络入侵检测、信用卡交易中的欺诈检测等。例如,合成少数过采样技术(SMOTE)和自适应合成采样方法(ADASYN)使用过采样技术来平衡偏斜的数据集。在本文中,我们提出了一种新的方法,结合加权过采样技术和集成提升方法(WOTBoost),以提高少数数据的分类精度,而不牺牲多数类的准确性。WOTBoost在每一轮提升中调整其过采样策略,以合成更有针对性的少数数据样本。使用加权分布强制执行调整。我们将WOTBoost与其他四种分类模型(即,决策树、SMOTE+决策树、ADASYN+决策树、SMOTEBoost)广泛地在18个公共可访问的不平衡数据集上进行。WOTBoost在6个数据集上实现了最佳G均值,在7个数据集上实现了最高的AUC评分。
2019-11-12 cs.LG stat.ML
Adaptive Cluster-Based Synthetic Minority Oversampling Technique for Traffic Mode Choice Prediction with Imbalanced Dataset
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
针对交通方式选择预测中不平衡数据集的分类挑战,本研究提出自适应聚类合成少数过采样技术,通过密度聚类识别少数类子组并按局部比例过采样,结合机器学习模型显著提升少数类F1分数,实现准确分类。
2025-04-13 cs.LG
Generative Adversarial Minority Oversampling
Indian Statistical Institute(印度统计研究所);Duke University(杜克大学)
类不平衡是一个长期存在的问题,与深度学习的许多实际应用有关。过采样技术在经典学习系统中对处理类不平衡是有效的,但不能直接应用于端到端的深度学习系统。我们提出了一个凸生成器,多类分类器网络和真/假分类器之间的三人对抗游戏,以在深度学习系统中执行过采样。凸生成器从少数类中生成新的样本作为现有实例的凸组合,旨在欺骗分类器和分类器对生成的样本进行错误分类。因此,在类的外围附近的关键位置处生成人工样本。这反过来又以更有可能减少来自少数类的误分类的方式调整分类器引起的边界。在多类不平衡图像数据集上进行的大量实验证实了该方法的有效性。
2020-08-26 cs.CV cs.LG
Contrastive Representation-Guided Genetic Minority Oversampling for Imbalanced Time-Series Classification
Dalian University of Technology(大连理工大学);Nanyang Technological University(南洋理工大学)
针对不平衡时间序列分类中现有过采样方法泛化与多样性不足的问题,提出FreMGP方法,结合对比学习的频域判别表示引导多树遗传规划,实验证明其性能优于现有方法并提升各类分类器表现。
2026-08-25 cs.LG
Do we need rebalancing strategies? A theoretical and empirical study around SMOTE and its variants
Artefact Research Center;CNRS(国家科学研究中心);LPSM(概率与统计实验室)
本文通过理论分析和实证研究,探讨SMOTE及其变体在处理不平衡数据集中的有效性,发现多数情况下无需再平衡策略即可获得良好预测性能。
2026-03-17 cs.LG stat.ML
A Novel Adaptive Minority Oversampling Technique for Improved Classification in Data Imbalanced Scenarios
TCS Research, Tata Consultancy Services Ltd.(塔塔咨询服务有限公司TCS研究院)
不同类别的训练样本比例的不平衡往往会导致传统分类器的性能下降。这主要是由于分类器倾向于偏向不平衡数据集中的大多数类。在本文中,我们提出了一种新的三步技术来解决不平衡的数据。作为第一步,我们显着过采样的少数类分布采用传统的合成少数过采样技术(SMOTE)算法使用的少数类样本的邻域,在下一步中,我们分区生成的样本使用高斯混合模型基于聚类算法。在最后的步骤中,基于与聚类相关联的权重来选择合成数据样本,权重本身由多数类样本的分布来确定。从不同领域的几个标准数据集上的广泛实验表明,所提出的技术与原来的SMOTE和它的国家的最先进的变种算法相比,是有用的。
2021-03-26 cs.AI cs.LG
Integrating Unsupervised Clustering and Label-specific Oversampling to Tackle Imbalanced Multi-label Data
TCG Crest Kolkata, India(印度加尔各答TCG Crest);School of Computer Science, University College Dublin, Ireland(爱尔兰都柏林大学学院计算机科学学院);Indian Statistical Institute Kolkata, India(印度统计研究所加尔各答分所)
在多标签数据集中,经常存在非常频繁标签和非常不频繁标签的混合。标签频率的这种变化,类型类别的不平衡,为构建高效的多标签分类算法带来了重大挑战。在本文中,我们解决这个问题,提出了一个少数类过采样方案,UCLSO,它集成了无监督聚类和标签特定的数据过采样。执行聚类以找出多标签数据集的关键不同和局部连接的区域(与标签信息无关)。接下来,对于每个标签,我们探索聚类集中少数点的分布。只有聚类中的少数点用于生成用于过采样的合成少数点。即使所有标签的聚类集都是相同的,合成少数点的分布也会在标签中有所不同。训练数据集用特定于标签的合成少数点的集合来增强,并且训练分类器以独立地预测每个标签的相关性。在12个多标签数据集和几种多标签算法上的实验结果表明,该方法与其他同类算法相比具有很好的性能。
2021-09-25 cs.AI cs.LG
Concentration and excess risk bounds for imbalanced classification with synthetic oversampling
Univ Rennes, Ensai, CNRS, CREST—UMR 9194(里昂大学、ENSAI、CNRS、CREST—UMR 9194);Univ Angers, CNRS, LAREMA, SFR MATHSTIC(昂热大学、CNRS、LAREMA、SFR MATHSTIC)
本文为SMOTE合成过采样方法建立理论框架,推导经验风险与总体风险的一致集中界及核分类器的非参数超额风险保证,为参数调优提供指导并经数值实验验证。
2025-10-23 cs.LG stat.ML
SMOClust: Synthetic Minority Oversampling based on Stream Clustering for Evolving Data Streams
Keele University(基尔大学);University of Birmingham(伯明翰大学)
针对数据流中概念漂移与类不平衡的联合挑战,提出基于流聚类的过采样策略SMOClust,利用流聚类压缩信息生成合成少数类样本,实验证明其优于现有方法,尤其在严重不平衡场景下。
2023-08-28 cs.DB cs.LG
Minimum Enclosing Ball Synthetic Minority Oversampling Technique from a Geometric Perspective
本文从几何视角提出MEB-SMOTE方法,通过引入最小包围球构造代表性点并与现有样本插值合成高质量少数类样本,在15个真实不平衡数据集上验证了其分类性能提升效果。
2024-08-07 cs.CG cs.LG
Credit Card Fraud Detection Using Autoencoder Neural Network
University of Western Ontario(西安大略大学)
不平衡数据分类问题一直是机器学习研究领域的热门话题。为了平衡多数和少数群体之间的样本。过采样算法用于合成新的少数类样本,但会带来噪声。针对噪声问题,提出了一种去噪自编码神经网络(DAE)算法,该算法不仅可以通过误分类代价对少数类样本进行过采样,而且可以对采样数据集进行去噪和分类。实验结果表明,与带过采样过程的去噪自动编码神经网络(DAE)和传统的全连接神经网络相比,该算法提高了不平衡数据集少数类的分类精度。
2019-08-30 cs.LG stat.ML
A Quantum Approach to Synthetic Minority Oversampling Technique (SMOTE)
University of Technology Sydney(悉尼科技大学);Bikash’s Quantum (OPC) Pvt. Ltd.(比卡什量子(OPC)私人有限公司)
提出量子SMOTE方法,利用量子计算生成合成少数类样本,解决类别不平衡问题,并在电信数据集上验证其有效性。
2024-07-04 cs.AI cs.LG quant-ph
Geometric SMOTE: Effective oversampling for imbalanced learning through a geometric extension of SMOTE
NOVA Information Management School, Universidade Nova de Lisboa(里斯本新大学信息管理学院)
不平衡数据集的分类对于标准算法来说是一项具有挑战性的任务。虽然有许多方法可以以不同的方式解决这个问题,但与算法修改相比,为少数类生成人工数据是一种更通用的方法。SMOTE算法及其变体沿着连接少数类实例的线段生成合成样本。在本文中,我们提出几何SMOTE(G-SMOTE)作为一个推广的SMOTE数据生成机制。G-SMOTE在输入空间的几何区域中生成合成样本,围绕每个选定的少数实例。虽然在基本配置中,该区域是一个超球体,但G-SMOTE允许其变形为超球体,最后变形为线段,在最后一种情况下,模仿SMOTE机制。G-SMOTE的性能进行了比较,对多个标准的过采样算法。我们目前的实证结果表明,G-SMOTE被用作过采样算法时,所生成的数据的质量显着改善。
2017-09-21 cs.LG
Extrapolated Markov Chain Oversampling Method for Imbalanced Text Classification
Aalto University(阿尔托大学)
针对文本数据不平衡且样本量增加会扩大特征空间的问题,提出一种结合少数类与多数类转移概率的马尔可夫链过采样方法,在多真实数据集尤其严重不平衡场景下效果极具竞争力。
2025-09-02 cs.LG
Stop Oversampling for Class Imbalance Learning: A Critical Review
Mutah University(穆塔大学);Eötvös Loránd University(厄特沃什·罗兰大学);King Abdulaziz City for Science and Technology(阿卜杜勒阿齐兹国王科技城)
在过去的二十年里,过采样被用来克服从不平衡数据集学习的挑战。文献中已经提供了许多解决这一挑战的方法。另一方面,过度采样是一个问题。也就是说,在虚拟数据上训练的模型在遇到现实问题时可能会失败。过采样方法的根本困难在于,给定真实的人口,合成的样本可能并不真正属于少数群体。因此,在这些样本上训练分类器,同时假装它们代表少数群体,可能会导致模型在现实世界中使用时的错误预测。本文分析了大量的过采样方法,设计了一种新的过采样评价系统,该系统基于隐藏大量的多数样本,并将其与过采样过程产生的样本进行比较。基于我们的评估系统,我们根据它们错误生成的示例对所有这些方法进行排名以进行比较。我们使用70多种过采样方法和三个不平衡的真实世界数据集进行的实验表明,所有研究过的过采样方法都生成了最有可能成为多数的少数样本。鉴于现有的数据和方法,我们认为,过采样在其目前的形式和方法是不可靠的学习类不平衡的数据,并应避免在现实世界中的应用。
2022-06-08 cs.AI cs.LG
FinGAN: Generative Adversarial Network for Analytical Customer Relationship Management in Banking and Insurance
Institute for Development and Research in Banking Technology(银行技术发展与研究所);University of Hyderabad(海得拉巴大学);Mathworks(MathWorks公司)
信用卡客户流失预测、保险欺诈检测和贷款违约预测是分析型客户关系管理中的重要问题。由于欺诈、流失和违约发生的频率较低,这些问题的数据集自然是高度不平衡的。因此,所有监督机器学习分类器在这种不平衡的数据集上训练时往往会产生大量的误报率。我们提出了两种数据平衡的方法。首先,我们提出了一种过采样的方法来产生合成样本的少数类生成对抗网络(GAN)。我们分别采用Vanilla GAN [1]、Wasserstein GAN [2]和CT GAN [3]对少数类样本进行过采样。为了评估我们所提出的方法的有效性,我们使用了许多机器学习分类器,包括随机森林,决策树,支持向量机(SVM)和逻辑回归对GANs平衡的数据。在第二种方法中,我们引入了一种混合方法来处理数据不平衡。在第二种方式中,我们通过使用一类支持活力机(OCSVM)获得的欠采样多数类数据来增强GAN过采样的合成少数类数据,从而同时利用欠采样和过采样的能力[4]。我们结合了GAN生成的过采样数据和OCSVM [4]欠采样的数据,并将结果数据传递给分类器。当我们将我们的结果与Farquad等人的结果进行比较时。[5],Sundarkumar,Ravi和Siddeshwar [6],我们提出的方法在所有数据集的ROC曲线下面积(AUC)方面优于以前的结果。
2022-01-27 cs.CE cs.LG cs.NE
GAT-RWOS: Graph Attention-Guided Random Walk Oversampling for Imbalanced Data Classification
College of Information Technology, United Arab Emirates University(阿拉伯联合酋长国大学信息技术学院);KU Leuven(鲁汶大学)
针对类别不平衡导致模型偏向多数类的问题,提出GAT-RWOS方法,利用图注意力网络引导随机游走并在路径上插值生成少数类样本,有效提升分类性能并优于现有过采样技术。
2024-12-20 cs.LG stat.ML
Data Balancing Strategies: A Systematic Survey of Resampling and Augmentation Methods
Department of Mathematics and Computer Science(数学与计算机科学系);Amirkabir University of Technology (Tehran Polytechnic)(阿美尔卡比大学(德黑兰理工大学));Iran(伊朗)
本文系统回顾了数据平衡方法,涵盖重采样、增强、欠采样及混合策略,分析其适用场景与优劣,指出无一方法普适,需根据数据特征和模型选择优化。
2026-07-21 cs.AI cs.LG stat.ML
Leveraging Generative Adversarial Networks for Addressing Data Imbalance in Financial Market Supervision
New York University(纽约大学);University of Southern California(南加州大学);Columbia University(哥伦比亚大学);Rice University(莱斯大学)
本研究提出利用生成对抗网络(GAN)生成合成数据以平衡金融市场数据集,显著提升了模型对市场操纵等少数高风险事件的预测准确性,优于传统采样方法。
2024-12-04 cs.LG q-fin.CP
Imbalanced Graph Classification with Multi-scale Oversampling Graph Neural Networks
University of Technology Sydney(悉尼科技大学);Singapore Management University(新加坡管理大学)
针对不平衡图分类中少数类图表示学习难、现有方法忽略图内及图间判别信息的问题,提出多尺度过采样图神经网络MOSGNN,通过多尺度过采样与多任务联合学习提升少数类表示,在16个数据集上优于5个SOTA模型且支持损失函数灵活接入。
2024-05-17 cs.LG
Efficient Augmentation for Imbalanced Deep Learning
University of Notre Dame(圣母大学);National Research Council of Canada(加拿大国家研究委员会);Virginia Commonwealth University(弗吉尼亚联邦大学)
深度学习模型倾向于记忆训练数据,这会损害它们推广到代表性不足的类的能力。我们实证研究了卷积神经网络对不平衡图像数据的内部表示,并测量了模型在训练集和测试集中的特征嵌入之间的泛化差距,结果表明少数类的差距更大。这种见解使我们能够为不平衡数据设计一个有效的三阶段CNN训练框架。该框架涉及在不平衡数据上训练网络端到端以学习准确的特征嵌入,在学习的嵌入空间中执行数据增强以平衡训练分布,以及在嵌入的平衡训练数据上微调分类器头。我们提出了扩展过采样(EOS)作为一种数据增强技术,用于训练框架。EOS将合成训练实例形成为嵌入空间中少数类样本与其最近敌人之间的凸组合,以减少泛化间隙。所提出的框架提高了领先的成本敏感和rescovery方法中常用的不平衡学习的准确性。此外,它比标准的数据预处理方法(如SMOTE和基于GAN的过采样)更有效,因为它需要更少的参数和更少的训练时间。
2022-10-17 cs.LG
Learning Majority-to-Minority Transformations with MMD and Triplet Loss for Imbalanced Classification
Suman Cha;Hyunjoong Kim
提出一种通过最小化MMD和引入三元组损失正则化器,将多数类样本映射为少数类样本的过采样框架,有效提升了不平衡分类任务的性能。
2025-09-15 cs.LG stat.ML
Imputing Missing Observations with Time Sliced Synthetic Minority Oversampling Technique
Institute for Systems Biology(系统生物学研究所)
我们提出了一种简单而新颖的时间序列插补技术,其目标是构建一个不规则的时间序列,在数据集中的每个样本都是均匀的。具体来说,我们固定了一个由观察时间的非重叠箱(称为“切片”)的中点定义的网格,并确保每个样本在给定时间具有所有特征的值。这允许一个既填补完全缺失的观察,以允许统一的时间序列分类在整个数据,并在特殊情况下,填补个别缺失的功能。要做到这一点,我们稍微概括了著名的类不平衡算法SMOTE \cite{smote},允许组件明智的最近邻插值,保留相关性时,没有丢失的功能。我们可视化的方法在简化设置的2维非耦合谐振子。接下来,我们使用tSMOTE来训练具有逻辑回归的编码器/解码器长短期记忆(LSTM)模型,以预测和分类不同2D振荡器的不同轨迹。在说明了tSMOTE在此背景下的实用性之后,我们使用相同的架构在插补数据集上训练COVID-19疾病严重程度的临床模型。我们的实验表明,通过允许模型识别更广泛的患者轨迹类别,以及改进聚合分类模型,可以改进标准的平均值和中位数插补技术。
2022-01-14 cs.LG physics.bio-ph q-bio.QM
A review of ensemble learning and data augmentation models for class imbalanced problems: combination, implementation and evaluation
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校);University of New South Wales(新南威尔士大学);Pingala Institute of Artificial Intelligence(平加拉人工智能研究所)
本文评估了9种数据增强与9种集成学习方法在类别不平衡基准问题上的组合效果,发现传统方法(如SMOTE和ROS)结合集成学习能显著提升分类性能且计算成本低于GANs。
2023-11-27 cs.AI cs.LG stat.ML
IB-GAN: A Unified Approach for Multivariate Time Series Classification under Class Imbalance
Cornell University(康奈尔大学);Amazon Search(亚马逊搜索)
具有强类别不平衡性的大型多变量时间序列的分类是实际应用中的一项重要任务。类权重,过采样或参数数据增强的标准方法并不总是产生显着的改善预测少数类的兴趣。使用生成对抗网络(GANs)的非参数数据增强提供了一个很有前途的解决方案。本文提出了一种新的估算平衡GAN(IB-GAN)方法,它通过估算平衡的方法将数据扩充和分类结合在一个一步的过程中。IB-GAN使用插补和重采样技术从随机掩码向量中生成比白噪声更高质量的样本,并通过一组类平衡的真实和合成样本来增强分类。插补超参数$p_{miss}$允许通过调整经由生成器插补引入的创新来正则化分类器可变性。IB-GAN易于训练和模型不可知,将任何深度学习分类器与生成器配对,并为未被观察到的类提供更高的准确性。对开源UCR数据和专有90 K产品数据集的实证实验显示,与最先进的参数和GAN基线相比,性能有了显著提高。
2021-10-14 cs.LG stat.ML
Spam filtering on forums: A synthetic oversampling based approach for imbalanced data classification
Pune Institute of Computer Technology(浦那计算机技术学院)
论坛在为社区互动提供平台方面发挥着重要作用。个人为了商业和社会利益而引入不相关的内容或垃圾邮件往往会降低论坛用户的专业体验。期望对所发布的内容的相关性进行自动调节。机器学习用于文本分类,并在垃圾邮件检测、欺诈性交易检测等中找到应用。在分类算法的情况下,训练数据中的类的平衡是必不可少的,以使学习高效且准确。然而,在论坛的情况下,与相关内容相比,垃圾内容是稀疏的,从而在训练时产生对后者的偏见。在这种有偏见的数据上训练的模型将无法对垃圾邮件样本进行分类。针对训练数据不均衡的问题,提出了一种基于综合少数过采样技术(SMOTE)的训练方法。它涉及从现有样本中综合创建新的少数类样本,直到实现数据平衡。然后,增强的数据通过各种分类器,记录其性能。结果是在标准性能指标上对IIT孟买Spoken Bombay论坛的数据进行分析的,结果显示,在合成少数民族过采样后训练的模型比在不平衡数据上训练的模型表现更好。本文提出了一种经验比较的结果,通过SMOTE和没有SMOTE的各种监督分类算法。合成过采样被证明是实现均匀类分布的关键技术,从而在文本分类中产生值得称赞的结果。所提出的方法可以进一步扩展到教育网站的内容分类,从而有助于改善整体数字学习体验。
2019-09-10 cs.IR cs.LG stat.ML
CopulaSMOTE: A Copula-Based Oversampling Approach for Imbalanced Classification in Diabetes Prediction
Stanford University School of Medicine(斯坦福大学医学院);Minnesota State University(明尼苏达州立大学);University of Louisiana at Lafayette(路易斯安那大学拉斐特分校);Southern Utah University(犹他州南方大学)
提出CopulaSMOTE方法,利用截断藤copula建模少数类联合依赖结构生成合成样本,在三个糖尿病数据集上结合多种分类器评估,显示能改善大表格数据集的少数类恢复。
2026-05-25 cs.LG stat.AP stat.ML
Breaking the Homogeneity Assumption: Specialized Multi-Generator Adversarial Learning for Rare Failure Detection in Predictive Maintenance
研究预测性维护中罕见故障检测,提出故障类型感知生成增强程序,采用专门多生成器GAN架构,通过防泄漏实验设计比较多种不平衡处理方法,实验表明该框架能产生更真实少数样本,提升PR-AUC和召回分数。
2026-07-22 cs.AI cs.LG
Does Adversarial Oversampling Help us?
University of New South Wales Canberra(新南威尔士大学堪培拉分校);Institute for Infocomm Research, Agency for Science, Technology and Research (A*STAR)(资讯通信研究院,新加坡科技研究局(A*STAR))
传统的过采样方法通常用于处理数据集的类不平衡。这种过采样方法独立于分类器;因此,它不提供端到端解决方案。为了克服这一点,我们提出了一种基于三人对抗游戏的端到端方法,其中使用了生成器,搜索引擎和多类分类器的域约束混合。我们提出了一种对抗性过采样(AO)和数据空间过采样(DO)方法,而不是对抗性少数过采样。在AO中,生成器通过欺骗分类器和训练器来更新,然而,在DO中,它通过支持分类器和欺骗训练器来更新。在更新分类器时,它考虑了AO中的真实样本和合成生成的样本。但是,在DO中,它倾向于真实样本,而欺骗特定于子集类的生成样本。为了减轻分类器对多数类的偏差,少数样本以分数率过采样。这样的实现被示出为提供更鲁棒的分类边界。我们提出的方法的有效性已被验证与高维,高度不平衡和大规模的多类表数据集。通过平均类特定准确度(ACSA)测量的结果清楚地表明,与基线分类器相比,所提出的方法提供了更好的分类准确度(在0.7%至49.27%的范围内的改进)。
2021-08-20 cs.AI cs.LG
Confronting Discrimination in Classification: Smote Based on Marginalized Minorities in the Kernel Space for Imbalanced Data
University of Michigan(密歇根大学)
针对金融欺诈检测中类别不平衡导致主流分类器对少数类“隐性歧视”的问题,提出基于决策边界和样本邻近关系的核空间自适应过采样方法,有效提升了少数类的分类准确率。
2024-02-13 cs.LG
Heartbeat Anomaly Detection using Adversarial Oversampling
Universidade Federal de Pernambuco(伯南布哥联邦大学)
心血管疾病是世界上最常见的死亡原因之一。预防、了解家庭中以前的病例和早期发现是减少这一事实的最佳策略。不同的机器学习方法自动诊断正在提出这项任务。与大多数健康问题一样,示例和类之间的不平衡在这个问题中占主导地位,并影响自动化解决方案的性能。在本文中,我们解决了不同的心血管疾病的心跳图像的分类。我们提出了一个二维的卷积神经网络分类后,使用InfoGAN架构生成合成图像的不平衡类。我们称之为对抗性过采样,并将其与经典的过采样方法SMOTE,ADASYN和RandomOversampling进行比较。结果表明,该方法提高了分类器的性能为少数类,而不损害在平衡类的性能。
2019-01-28 cs.AI cs.CV cs.LG
AnyThreat: An Opportunistic Knowledge Discovery Approach to Insider Threat Detection
由于越来越多的恶意内部事件,内部威胁检测越来越受到学术界、工业界和政府的关注。现有的方法提出的检测内部威胁仍然有一个共同的缺点,这是大量的误报(误报)。这些方法面临的挑战是,必须检测属于特定威胁的所有异常行为。为了解决这个缺点,我们提出了一个机会主义的知识发现系统,即AnyThreat,目的是检测所有恶意内部威胁中的任何异常行为。我们设计的AnyThreat系统有四个组件。(1)一个功能工程组件,它从具有相同角色的一组用户的活动日志中构造社区数据集。(2)在过采样部分,我们提出了一种新的过采样技术,称为人工少数过采样和捕获器REMOVAL(AMOTRE)。AMOTRE首先去除与正常(多数)实例相似度高的少数(异常)实例,以减少虚警数量,然后通过屏蔽多数类的边界对少数类进行综合过采样。(3)引入类分解组件,将多数类的实例聚类为子类,在不损失信息的情况下削弱多数类的影响。(4)分类组件,它对子类应用分类方法,以实现多数类和少数类之间更好的分离。AnyThreat基于卡内基梅隆大学生成的合成数据集进行评估。它检测到大约87.5%的恶意内部威胁,并实现最低误报率= 3.36%。
2018-12-01 cs.CR cs.LG stat.ML