Synthesising Multi-Modal Minority Samples for Tabular Data
Amazon（亚马逊公司）
现实世界的二进制分类任务在许多情况下是不平衡的，其中少数类比多数类小得多。这种偏斜对机器学习算法来说是一个挑战，因为它们往往关注大多数人，而对少数人进行错误分类。在训练模型之前向数据集添加合成少数样本是解决这一困难的流行技术，通常通过插值少数样本来实现。表格数据集通常是多模态的，并且除了连续的特征之外还包含离散（分类）特征，这使得样本的插值非平凡。为了解决这个问题，我们提出了一个潜在空间插值框架，该框架（1）使用自动编码器将多模态样本映射到密集的连续潜在空间;（2）通过在潜在空间中插值来应用过采样;以及（3）将合成样本映射回原始特征空间。我们定义了直接评估少数数据质量的指标，并表明我们的框架比现有方法生成更好的合成数据。此外，在下游二进制分类任务中，优越的合成数据产生更好的预测质量，如在使用27个公开可用的真实世界数据集的广泛实验中所证明的那样
2021-05-17 cs.LG
Self-Improving Diffusion Classifiers with Minority Preference Optimization
Korea University（韩国大学）；Kook Min University（国民大学）；Kyung Hee University（庆熙大学）
研究发现扩散分类器感知偏向多数区域，提出MiPO方法，利用少数偏好奖励微调预训练扩散模型，无需额外图像数据等，经实验验证可缓解偏差并提升零样本扩散分类性能。
2026-07-07 cs.AI cs.CV cs.LG
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University（汉阳大学）
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题，如合成少数过采样技术（SMOTE）。然而，由于诸如SMOTE的方法通过线性插值生成实例，因此合成数据空间可能看起来像多边形。此外，过采样方法产生少数类的离群值。在本文中，我们提出了基于高斯的少数过采样技术（GMOTE）的统计角度不平衡数据集。为了避免线性插值和考虑离群点，该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值（CMGOS）的启发，我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法，如SMOTE进行了比较。当GMOTE与分类回归树（CART）或支持向量机（SVM）相结合时，它表现出更好的准确性和F1得分。实验结果表明，鲁棒性能。
2021-05-09 cs.LG stat.ML
A Quantum Approach to Synthetic Minority Oversampling Technique (SMOTE)
University of Technology Sydney（悉尼科技大学）；Bikash’s Quantum (OPC) Pvt. Ltd.（比卡什量子（OPC）私人有限公司）
提出量子SMOTE方法，利用量子计算生成合成少数类样本，解决类别不平衡问题，并在电信数据集上验证其有效性。
2024-07-04 cs.AI cs.LG quant-ph
SMOClust: Synthetic Minority Oversampling based on Stream Clustering for Evolving Data Streams
Keele University（基尔大学）；University of Birmingham（伯明翰大学）
针对数据流中概念漂移与类不平衡的联合挑战，提出基于流聚类的过采样策略SMOClust，利用流聚类压缩信息生成合成少数类样本，实验证明其优于现有方法，尤其在严重不平衡场景下。
2023-08-28 cs.DB cs.LG
Improving Predictions on Highly Unbalanced Data Using Open Source Synthetic Data Upsampling
MOSTLY AI
本文通过基准研究评估MOSTLY AI开源Synthetic Data SDK对高度不平衡表格数据进行合成上采样的效果，证明其优于朴素过采样和SMOTE-NC，能显著提升少数类预测准确性。
2025-07-22 cs.LG
Synthetic minority data is redundant or invalid: a data-dependent validity theory and a de-biased test
Faculty of Information Technology, Mutah University（穆塔大学信息技术学院）；Department of Accounting, Mutah University（穆塔大学会计系）
研究类别不平衡学习中合成少数群体数据的有效性，提出去偏检验方法，证明有效性取决于数据，通过实验表明多数方法不满足标准，发布检验工具并颠倒举证责任，要求合成数据证明有效性和信息增益。
2026-07-24 cs.AI cs.LG
Beyond Generative Priors: Minority Sampling with JEPA-Guided Diffusion
Department of Artificial Intelligence, Kookmin University, Seoul, South Korea（人工智能系，韩国全州大学，首尔）
提出一种基于世界模型JEPA引导的扩散采样框架，通过近似策略实现高效计算，在无条件、类别条件和文本到图像生成中提升少数样本的保真度和语义有效性。
2026-05-23 cs.AI cs.CV cs.LG
Minimum Enclosing Ball Synthetic Minority Oversampling Technique from a Geometric Perspective
本文从几何视角提出MEB-SMOTE方法，通过引入最小包围球构造代表性点并与现有样本插值合成高质量少数类样本，在15个真实不平衡数据集上验证了其分类性能提升效果。
2024-08-07 cs.CG cs.LG
Synthetic Augmentation in Imbalanced Learning: When It Helps, When It Hurts, and How Much to Add
Department of Electrical & Computer Engineering, Duke University（电气与计算机工程系，杜克大学）；Department of Biostatistics & Bioinformatics and Department of Computer Science, Duke University（生物统计学与生物信息学系和计算机科学系，杜克大学）
本文提出了一种统一的统计框架，研究了不平衡学习中合成增强的效果，揭示了合成样本数量对模型性能的影响，并提出了验证调优的合成大小方法。
2026-03-07 cs.LG stat.ME stat.ML
SMOGAN: Synthetic Minority Oversampling with GAN Refinement for Imbalanced Regression
针对不平衡回归中数据分布复杂非线性导致现有合成数据不准确的问题，提出两步过采样框架SMOGAN，利用分布感知GAN（DistGAN）作为过滤层优化初始合成样本，使其对齐真实联合分布，在23个数据集上显著优于默认方法。
2025-08-08 cs.AI cs.LG
Evo-TFS: Evolutionary Time-Frequency Domain-Based Synthetic Minority Oversampling Approach to Imbalanced Time Series Classification
Evo-TFS通过整合时间和频率域特征，提出了一种进化过采样方法，有效提升不平衡时间序列分类性能。
2026-01-03 cs.LG cs.NE
Generative Oversampling for Imbalanced Data via Majority-Guided VAE
University of Electronic Science and Technology of China（电子科技大学）；Huawei Technologies（华为技术有限公司）；Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳））；Peng Cheng Lab（鹏城实验室）
不平衡数据学习是深度学习中的一个挑战性问题。过采样是一种广泛使用的重新平衡训练数据的采样分布的技术。然而，现有的过采样方法大多只利用少数类的类内信息对数据进行扩充，而忽略了与多数类的类间关系，容易产生过拟合，尤其是当不平衡率较大时。为了解决这个问题，我们提出了一种新的过采样模型，称为多数导向VAE~（MGVAE），它产生新的少数样本的指导下，基于多数的先验。通过这种方式，新生成的少数样本可以继承多数样本的多样性和丰富性，从而减轻下游任务中的过拟合。此外，为了防止模型在有限的数据下崩溃，我们首先在足够多的多数样本上预训练MGVAE，然后基于少数样本进行弹性权重合并（EWC）正则化微调。在基准图像数据集和真实世界表格数据上的实验结果表明，MGVAE在下游分类任务中与其他过采样方法相比取得了有竞争力的改进，证明了该方法的有效性。
2023-02-14 cs.LG
An Adaptive Oversampling Learning Method for Class-Imbalanced Fault Diagnostics and Prognostics
数据驱动的故障诊断和故障诊断在工业系统中存在类别不平衡问题，这对普通机器学习算法提出了挑战，因为它很难学习少数类别样本的特征。合成过采样方法通常用于解决这些问题，通过生成少数类样本来平衡多数类和少数类之间的分布。然而，许多过采样方法都存在着不恰当的地方，无法根据数据的不同分布产生有效的、有用的少数类样本，使得样本学习过程更加复杂。因此，本文提出了一种新的自适应过采样技术：基于EM的加权少数过采样技术（EWMOTE）的工业故障诊断和故障诊断。该方法包括一个加权少数抽样策略，以确定难以学习的信息少数故障样本和期望最大化（EM）为基础的插补算法生成故障样本。为了验证所提出的方法的性能，在两个真实数据集上进行了实验。实验结果表明，该方法在不同不平衡率的二分类和多分类不平衡学习任务中均能取得比其他基于过采样的基线模型更好的性能。
2018-11-19 cs.LG stat.ML
MCRAGE: Synthetic Healthcare Data for Fairness
Emory University（埃默里大学）；Rice University（莱斯大学）
针对医疗数据敏感属性不平衡导致模型对少数群体不公平的问题，提出MCRAGE方法，利用CDDPM生成高质量少数类合成EHR数据来增强数据集，有效降低下游模型偏见并提供了理论证明。
2024-03-20 cs.LG stat.ML
WOTBoost: Weighted Oversampling Technique in Boosting for imbalanced learning
University of California, Los Angeles（加州大学洛杉矶分校）
机器学习分类器经常在不平衡的数据集上绊倒，其中类没有被平等地表示。这种对多数类的固有偏见可能导致标记少数类的准确性低。不平衡学习在许多现实世界的应用中是普遍存在的，例如医学研究、网络入侵检测、信用卡交易中的欺诈检测等。例如，合成少数过采样技术（SMOTE）和自适应合成采样方法（ADASYN）使用过采样技术来平衡偏斜的数据集。在本文中，我们提出了一种新的方法，结合加权过采样技术和集成提升方法（WOTBoost），以提高少数数据的分类精度，而不牺牲多数类的准确性。WOTBoost在每一轮提升中调整其过采样策略，以合成更有针对性的少数数据样本。使用加权分布强制执行调整。我们将WOTBoost与其他四种分类模型（即，决策树、SMOTE+决策树、ADASYN+决策树、SMOTEBoost）广泛地在18个公共可访问的不平衡数据集上进行。WOTBoost在6个数据集上实现了最佳G均值，在7个数据集上实现了最高的AUC评分。
2019-11-12 cs.LG stat.ML
Kernel density estimation based sampling for imbalanced class distribution
Canadian University Dubai（迪拜加拿大大学）
不平衡的响应变量分布在数据科学中很常见。在欺诈检测、医疗诊断、系统入侵检测等领域，很少观察到异常行为，研究中的数据通常具有不成比例的目标类分布。解决阶级不平衡的一个常见方法是通过重新安置少数阶级来实现更平衡的分配。本文研究了基于核密度估计（KDE）的采样方法的性能。我们相信KDE提供了一种更自然的方法来生成少数类的新实例，与其他标准采样技术相比，这种方法不太容易过度拟合。它是基于一个完善的非参数统计估计理论。数值实验表明，KDE可以优于其他采样技术在一系列现实生活中的数据集测量F1分数和G均值。实验中使用的许多分类算法的结果保持一致。此外，该方法优于基准方法，无论类分布比例。我们的结论是，基于坚实的理论基础和强大的实验结果，该方法将是一个有价值的工具，涉及不平衡的类分布的问题。
2019-11-20 cs.LG stat.ML
A Novel Adaptive Minority Oversampling Technique for Improved Classification in Data Imbalanced Scenarios
TCS Research, Tata Consultancy Services Ltd.（塔塔咨询服务有限公司TCS研究院）
不同类别的训练样本比例的不平衡往往会导致传统分类器的性能下降。这主要是由于分类器倾向于偏向不平衡数据集中的大多数类。在本文中，我们提出了一种新的三步技术来解决不平衡的数据。作为第一步，我们显着过采样的少数类分布采用传统的合成少数过采样技术（SMOTE）算法使用的少数类样本的邻域，在下一步中，我们分区生成的样本使用高斯混合模型基于聚类算法。在最后的步骤中，基于与聚类相关联的权重来选择合成数据样本，权重本身由多数类样本的分布来确定。从不同领域的几个标准数据集上的广泛实验表明，所提出的技术与原来的SMOTE和它的国家的最先进的变种算法相比，是有用的。
2021-03-26 cs.AI cs.LG
Integrating Unsupervised Clustering and Label-specific Oversampling to Tackle Imbalanced Multi-label Data
TCG Crest Kolkata, India（印度加尔各答TCG Crest）；School of Computer Science, University College Dublin, Ireland（爱尔兰都柏林大学学院计算机科学学院）；Indian Statistical Institute Kolkata, India（印度统计研究所加尔各答分所）
在多标签数据集中，经常存在非常频繁标签和非常不频繁标签的混合。标签频率的这种变化，类型类别的不平衡，为构建高效的多标签分类算法带来了重大挑战。在本文中，我们解决这个问题，提出了一个少数类过采样方案，UCLSO，它集成了无监督聚类和标签特定的数据过采样。执行聚类以找出多标签数据集的关键不同和局部连接的区域（与标签信息无关）。接下来，对于每个标签，我们探索聚类集中少数点的分布。只有聚类中的少数点用于生成用于过采样的合成少数点。即使所有标签的聚类集都是相同的，合成少数点的分布也会在标签中有所不同。训练数据集用特定于标签的合成少数点的集合来增强，并且训练分类器以独立地预测每个标签的相关性。在12个多标签数据集和几种多标签算法上的实验结果表明，该方法与其他同类算法相比具有很好的性能。
2021-09-25 cs.AI cs.LG
Minority Oversampling for Imbalanced Time Series Classification
Changsha University（长沙学院）；Hunan University of Finance and Economics（湖南财政经济学院）；Jiangxi Vocational Technical College of Industry and Trade（江西工业贸易职业技术学院）；Zhejiang Gongshang University（浙江工商大学）
许多重要的实际应用都涉及具有偏态分布的时间序列数据。与传统的不平衡学习问题相比，不平衡时间序列数据的高维性和变量间的高度相关性使其分类更具挑战性。针对高维不平衡时间序列分类问题，提出了一种结构保持的过采样方法。OHIT首先利用基于密度比的共享最近邻聚类算法来捕获高维空间中少数类的模式。然后对每个模式应用大维协方差矩阵的收缩技术，获得准确可靠的协方差结构。最后，OHIT通过使用估计的协方差矩阵生成基于多元高斯分布的结构保持的合成样本。在几个公开的时间序列数据集（包括单峰和多峰）上的实验结果证明了OHIT在F1，G-mean和AUC方面优于最先进的过采样算法。
2021-08-20 cs.LG stat.ML
UGRWO-Sampling for COVID-19 dataset: A modified random walk under-sampling approach based on graphs to imbalanced data classification
Amirkabir University of Technology（阿米尔卡比尔理工大学）；University of Zanjan（赞詹大学）
本文提出了一种新的基于图的RWO-采样（随机游走过采样）方法。在该方法中，引入了基于欠采样和过采样的两种方案，以保持邻近信息对噪声和野值的鲁棒性。在少数类上构建第一个图之后，将对选定的样本进行RWO采样，其余的保持不变。第二个图是为多数类构建的，并且移除低密度区域（离群值）中的样本。最后，在所提出的方法中，在高密度区域中的大多数类的样本被选择，其余的被淘汰。此外，利用RWO抽样，少数类的边界增加，但没有提高离群值。对该方法进行了测试，并在9个具有不同过采样率的连续属性数据集和一个用于诊断COVID-19疾病的数据集上将评估指标的数量与以前的方法进行了比较。实验结果表明，该方法对不平衡数据的分类具有较高的效率和灵活性
2021-12-02 cs.CV cs.LG stat.ML
Synthetic Sampling for Multi-Class Malignancy Prediction
DePaul University（德保罗大学）
我们探讨了几种过采样技术的不平衡的多标签分类问题，经常遇到的设置时，开发模型的计算机辅助诊断（CADx）系统。虽然大多数CADx系统的目标是优化分类器的整体准确性，而不考虑每个类别的相对分布，但我们研究使用合成采样来提高预测恶性程度时的每类性能。使用低级别的图像特征和一个随机森林分类器，我们表明，使用合成过采样技术增加了敏感性的少数民族类的平均7.22%的点，高达19.88%的点增加敏感性为一个特定的少数民族类。此外，对合成结节的低级图像特征分布的分析表明，这些结节可以提供关于如何预处理图像数据以获得更好的分类性能或如何在更多数据采集可行时补充原始数据集的见解。
2018-07-07 cs.CV cs.LG stat.ML
Imputing Missing Observations with Time Sliced Synthetic Minority Oversampling Technique
Institute for Systems Biology（系统生物学研究所）
我们提出了一种简单而新颖的时间序列插补技术，其目标是构建一个不规则的时间序列，在数据集中的每个样本都是均匀的。具体来说，我们固定了一个由观察时间的非重叠箱（称为“切片”）的中点定义的网格，并确保每个样本在给定时间具有所有特征的值。这允许一个既填补完全缺失的观察，以允许统一的时间序列分类在整个数据，并在特殊情况下，填补个别缺失的功能。要做到这一点，我们稍微概括了著名的类不平衡算法SMOTE \cite{smote}，允许组件明智的最近邻插值，保留相关性时，没有丢失的功能。我们可视化的方法在简化设置的2维非耦合谐振子。接下来，我们使用tSMOTE来训练具有逻辑回归的编码器/解码器长短期记忆（LSTM）模型，以预测和分类不同2D振荡器的不同轨迹。在说明了tSMOTE在此背景下的实用性之后，我们使用相同的架构在插补数据集上训练COVID-19疾病严重程度的临床模型。我们的实验表明，通过允许模型识别更广泛的患者轨迹类别，以及改进聚合分类模型，可以改进标准的平均值和中位数插补技术。
2022-01-14 cs.LG physics.bio-ph q-bio.QM
Sampling Imbalanced Data with Multi-objective Bilevel Optimization
Department of Mathematics University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校数学系）；Mathematics and Computer Sciences Division Argonne National Laboratory（阿贡国家实验室数学与计算机科学 division）
针对二分类数据不平衡问题，提出多目标双层优化框架MOODS指导过采样与欠采样，并引入非重叠多样化指标量化采样优劣，使F1分数提升1-15%。
2025-07-10 cs.LG
Synthetic Tabular Data Generation for Imbalanced Classification: The Surprising Effectiveness of an Overlap Class
Indian Institute of Technology, Bombay（印度理工学院孟买分校）
针对表格不平衡分类中深度生成模型少数类样本质量偏低的问题，本文提出将二分类标签重构为含重叠类别的三分类标签，并在分类器训练前移除该类，实验证明可同时提升多种扩散与GAN模型及分类器性能。
2025-02-19 cs.LG
Contrastive Representation-Guided Genetic Minority Oversampling for Imbalanced Time-Series Classification
Dalian University of Technology（大连理工大学）；Nanyang Technological University（南洋理工大学）
针对不平衡时间序列分类中现有过采样方法泛化与多样性不足的问题，提出FreMGP方法，结合对比学习的频域判别表示引导多树遗传规划，实验证明其性能优于现有方法并提升各类分类器表现。
2026-08-25 cs.LG
Spam filtering on forums: A synthetic oversampling based approach for imbalanced data classification
Pune Institute of Computer Technology（浦那计算机技术学院）
论坛在为社区互动提供平台方面发挥着重要作用。个人为了商业和社会利益而引入不相关的内容或垃圾邮件往往会降低论坛用户的专业体验。期望对所发布的内容的相关性进行自动调节。机器学习用于文本分类，并在垃圾邮件检测、欺诈性交易检测等中找到应用。在分类算法的情况下，训练数据中的类的平衡是必不可少的，以使学习高效且准确。然而，在论坛的情况下，与相关内容相比，垃圾内容是稀疏的，从而在训练时产生对后者的偏见。在这种有偏见的数据上训练的模型将无法对垃圾邮件样本进行分类。针对训练数据不均衡的问题，提出了一种基于综合少数过采样技术（SMOTE）的训练方法。它涉及从现有样本中综合创建新的少数类样本，直到实现数据平衡。然后，增强的数据通过各种分类器，记录其性能。结果是在标准性能指标上对IIT孟买Spoken Bombay论坛的数据进行分析的，结果显示，在合成少数民族过采样后训练的模型比在不平衡数据上训练的模型表现更好。本文提出了一种经验比较的结果，通过SMOTE和没有SMOTE的各种监督分类算法。合成过采样被证明是实现均匀类分布的关键技术，从而在文本分类中产生值得称赞的结果。所提出的方法可以进一步扩展到教育网站的内容分类，从而有助于改善整体数字学习体验。
2019-09-10 cs.IR cs.LG stat.ML
Enhancing crop classification accuracy by synthetic SAR-Optical data generation using deep learning
University of Isfahan（伊斯法罕大学）
本研究提出使用条件表格生成对抗网络（CTGAN）合成SAR-光学融合数据，以解决作物分类中少数类训练样本不足的问题，实验证明该方法能生成高质量数据，显著提升分类性能。
2024-02-03 cs.CV cs.LG eess.IV
When Does Synthetic Data Augmentation Improve Score-Based Imbalanced Classification?
Department of Electrical & Computer Engineering, Duke University（电气与计算机工程系，杜克大学）；Department of Biostatistics & Bioinformatics, Duke University（生物统计学与生物信息学系，杜克大学）；Department of Biostatistics & Bioinformatics and Department of Computer Science, Duke University（生物统计学与生物信息学系和计算机科学系，杜克大学）
本文理论分析合成数据增强对基于评分的类别不平衡分类的影响，区分了在模型正确设定与错误设定下的不同作用，揭示了增强在正确设定下仅能减少方差，而在错误设定下可通过改变类别平衡修正排序错误。
2026-06-25 cs.LG stat.ML
Minority Class Oversampling for Tabular Data with Deep Generative Models
University of Luxembourg（卢森堡大学）；Delft University of Technology（代尔夫特理工大学）
在实践中，机器学习专家经常面临不平衡的数据。如果不考虑这种不平衡，常见的分类器表现不佳，标准的评估指标误导了从业者对模型性能的看法。处理不平衡数据集的一种常见方法是欠采样和过采样。在这个过程中，样本要么从多数类中删除，要么将合成样本添加到少数类中。在本文中，我们将跟踪深度学习的最新发展。我们提出了深度生成模型的建议，包括我们自己的模型，并研究了这些方法提供真实样本的能力，这些样本通过过采样来提高不平衡分类任务的性能。在160K+的实验中，我们表明，所有的新方法往往比简单的基线方法（如SMOTE）表现更好，但需要不同的过采样率和欠采样率。我们的实验表明，采样方式的方法并不影响质量，但运行时间相差很大。我们还观察到，在性能指标方面的改进，虽然在对方法进行排名时显示出显着性，但在绝对值方面往往是次要的，特别是与所需的努力相比。此外，我们注意到，很大一部分改进是由于欠采样，而不是过采样。我们提供代码和测试框架。
2020-07-20 cs.LG stat.ML
Clustering and Learning from Imbalanced Data
Indian Institute of Technology Ropar（印度理工学院罗巴尔分校）
一个学习分类器必须优于一个平凡的解决方案，在不平衡数据的情况下，这个条件通常不成立。为了克服这个问题，我们提出了一种新的数据级重采样方法-基于聚类的过采样，用于改进从类不平衡数据集的学习。所提出的方法背后的基本思想是使用少数类样本和其各自的聚类质心之间的距离来推断要为该少数类样本生成的新样本点的数量。所提出的算法对用于寻找聚类中心的技术的依赖性很小，并且不会以任何方式影响多数类学习。它还通过将少数类样本的分布结构结合到新数据样本的生成中来改进对不平衡数据的学习。新生成的少数类数据以防止离群值产生和过拟合的方式处理。使用深度神经网络作为学习分类器对不同数据集的实现分析显示了该方法与其他合成数据恢复技术相比在几个评估指标上的有效性。
2018-11-12 cs.LG stat.ML
Synthetic Information towards Maximum Posterior Ratio for deep learning on Imbalanced Data
University of South Florida（南佛罗里达大学）
本文针对类别不平衡数据，提出通过优化类别后验比在高熵少数类邻域生成合成数据的方法，并在41个数据集上验证其提升深度学习性能的有效性。
2024-01-05 cs.AI cs.LG
CopulaSMOTE: A Copula-Based Oversampling Approach for Imbalanced Classification in Diabetes Prediction
Stanford University School of Medicine（斯坦福大学医学院）；Minnesota State University（明尼苏达州立大学）；University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）；Southern Utah University（犹他州南方大学）
提出CopulaSMOTE方法，利用截断藤copula建模少数类联合依赖结构生成合成样本，在三个糖尿病数据集上结合多种分类器评估，显示能改善大表格数据集的少数类恢复。
2026-05-25 cs.LG stat.AP stat.ML
The Influence of Multiple Classes on Learning Online Classifiers from Imbalanced and Concept Drifting Data Streams
Poznan University of Technology（波兹南理工大学）；Institute of Computing Science（计算科学研究所）
本文主要研究了局部数据特征和漂移对多类不平衡数据流中各种在线分类器学习难度的影响。首先，我们提出了一个分类的不平衡流的背景下，这些数据的因素和漂移，然后我们介绍了合成流的生成器，这些因素和漂移的模型。合成生成的数据流的许多实验的结果表明，许多少数类（边界示例的类型）之间的重叠比具有一个少数类的流的作用大得多。流中罕见的例子的存在是最困难的单一因素。第三个影响因素是少数民族阶层分化的地方性漂移。与二进制流不同，专门的UOB和OOB分类器即使在高不平衡率下也能表现良好。所有分类器最具挑战性的是复杂的情况下，同时集成的漂移的确定的因素，恶化的情况下，几个少数民族类强于二进制的评估措施。这是在ECMLPKDD 2022的LIDTA'2022研讨会上发表的简短论文的扩展版本。
2022-10-15 cs.LG
Achieving Representative Data via Convex Hull Feasibility Sampling Algorithms
University of Michigan（密歇根大学）
训练数据中的采样偏差是机器学习系统中算法偏差的主要来源。尽管有许多方法试图在训练过程中减轻这种算法偏差，但最直接和最明显的方法是简单地收集更具代表性的训练数据。在本文中，我们考虑的任务是从一组给定的数据源中组装一个训练数据集，其中少数群体得到充分的代表。本质上，这是一个自适应采样问题，以确定给定点是否位于一组未知分布的均值的凸包中。我们提出了自适应采样方法，以确定，具有高置信度，是否有可能从给定的数据源组装一个代表性的数据集。我们还证明了我们的政策在伯努利和多项式设置的模拟的有效性。
2022-04-13 cs.LG stat.ML
LoRAS: An oversampling approach for imbalanced datasets
University of Rostock（罗斯托克大学）；Grenoble Alps University（格勒诺布尔阿尔卑斯大学）；Grenoble Institute of Technology（格勒诺布尔理工学院）；Stellenbosch Institute for Advanced Study (STIAS)（斯泰伦博斯高等研究院）；Stellenbosch University（斯泰伦博斯大学）
合成少数过采样技术（SMOTE）被广泛用于不平衡数据集的分析。众所周知，SMOTE经常过度概括少数类，导致对多数类的错误分类，并影响模型的整体平衡。在这篇文章中，我们提出了一种方法，克服了SMOTE的这一限制，采用局部随机仿射阴影采样（LoRAS）从少数类的近似数据流形过采样。我们使用三种不同的机器学习（ML）算法对我们的算法进行了基准测试，并比较了LoRAS，SMOTE和几个SMOTE扩展的性能，这些扩展共享使用少数类数据点的凸组合进行过采样的概念。我们观察到，LoRAS在F1分数和平衡准确性方面平均生成更好的ML模型。另一个关键的观察结果是，虽然我们测试的大多数SMOTE扩展平均提高了SMOTE的F1分数，但它们在分类模型的平衡准确性上妥协了。相反，LoRAS提高了F1得分和平衡准确性，从而产生更好的分类模型。此外，为了解释该算法的成功，我们构建了一个数学框架来证明LoRAS过采样技术提供了一个更好的估计的少数类数据空间的潜在的局部数据分布的平均值。
2020-08-15 cs.LG stat.ML
GraphSR: A Data Augmentation Algorithm for Imbalanced Node Classification
University of Macau（澳门大学）；Guangdong-Macau Joint Laboratory for Advanced and Intelligent Computing（粤澳先进与智能计算联合实验室）
针对图神经网络中类别不平衡导致少数类分类性能差的问题，提出数据增强算法GraphSR，通过基于相似性和强化学习的双模块从未标记节点中选取代表性节点增强少数类，自适应确定采样规模，在多个不平衡数据集上优于基线方法。
2023-06-27 cs.LG
Imbalanced Classification via a Tabular Translation GAN
Tel Aviv University（特拉维夫大学）；Playtika Ltd.（Playtika公司）；Bar-Ilan University（巴伊兰大学）
当数据表现出严重的类别不平衡的二元分类问题时，大多数标准预测方法可能无法准确地对少数类别进行建模。我们提出了一个基于生成对抗网络的模型，该模型使用额外的正则化损失将多数样本映射到相应的合成少数样本。这种转换机制鼓励合成的样本接近类边界。此外，我们探索了一个选择标准，以保留最有用的合成样本。实验结果表明，该方法提高了平均精度相比，替代的重新加权和过采样技术时，在各种表格类不平衡的数据集上使用几个下游分类器。
2022-04-19 cs.LG stat.ML
Geometric SMOTE: Effective oversampling for imbalanced learning through a geometric extension of SMOTE
NOVA Information Management School, Universidade Nova de Lisboa（里斯本新大学信息管理学院）
不平衡数据集的分类对于标准算法来说是一项具有挑战性的任务。虽然有许多方法可以以不同的方式解决这个问题，但与算法修改相比，为少数类生成人工数据是一种更通用的方法。SMOTE算法及其变体沿着连接少数类实例的线段生成合成样本。在本文中，我们提出几何SMOTE（G-SMOTE）作为一个推广的SMOTE数据生成机制。G-SMOTE在输入空间的几何区域中生成合成样本，围绕每个选定的少数实例。虽然在基本配置中，该区域是一个超球体，但G-SMOTE允许其变形为超球体，最后变形为线段，在最后一种情况下，模仿SMOTE机制。G-SMOTE的性能进行了比较，对多个标准的过采样算法。我们目前的实证结果表明，G-SMOTE被用作过采样算法时，所生成的数据的质量显着改善。
2017-09-21 cs.LG
Solving the Class Imbalance Problem Using a Counterfactual Method for Data Augmentation
School of Computer Science, University College Dublin（都柏林大学学院计算机科学学院）；Insight Centre for Data Analytics, University College Dublin（都柏林大学学院洞察数据分析中心）；VistaMilk SFI Research Centre, University College Dublin（都柏林大学学院VistaMilk SFI研究中心）
从类别不平衡的数据集中学习对许多机器学习算法提出了挑战。根据定义，许多现实世界的域都是类不平衡的，因为大多数类自然比少数类拥有更多的实例（例如，真正的银行交易比欺诈交易发生得更频繁）。已经提出了许多方法来解决类不平衡问题，其中最流行的是过采样技术（如SMOTE）。这些方法在少数类中生成合成实例，以平衡数据集，执行数据增强，从而提高预测机器学习（ML）模型的性能。在本文中，我们提出了一种新的数据增强方法（改编自eXplainable AI），在少数类中生成合成的反事实实例。与其他过采样技术不同，该方法自适应地组合数据集中的现有实例，使用实际的特征值，而不是在实例之间插值。使用4个不同的分类器和25个数据集的几个实验报告，这表明这种反事实增强方法（CFA）产生有用的合成数据点的少数类。实验还表明，CFA与许多其他过采样方法，其中许多是SMOTE的变种是有竞争力的。CFAs性能的基础进行了讨论，随着条件下，它可能会在未来的测试中表现得更好或更差。
2021-11-05 cs.AI cs.LG
EvoSampling: A Granular Ball-based Evolutionary Hybrid Sampling with Knowledge Transfer for Imbalanced Learning
School of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；Key Laboratory of Social Computing and Cognitive Intelligence (Dalian University of Technology), Ministry of Education（社会计算与认知智能重点实验室（大连理工大学））；School of Engineering and Computer Science, Victoria University of Wellington（惠灵顿维多利亚大学工程与计算机科学学院）；Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机科学系）
针对类别不平衡问题，提出EvoSampling混合采样方法，结合遗传规划多任务过采样与粒度球欠采样，在20个数据集上提升分类性能，知识迁移加速进化。
2024-12-12 cs.AI cs.LG cs.NE
SMOTE-ENC: A novel SMOTE-based method to generate synthetic data for nominal and continuous features
University of Sydney（悉尼大学）
现实世界的数据集严重倾斜，其中一些类的数量明显超过其他类。在这些情况下，机器学习算法在预测这些代表性不足的实例时无法实现实质性的功效。为了解决这个问题，已经提出了许多变体的合成少数过采样方法（SMOTE）来平衡处理连续特征的数据集。然而，对于同时具有标称和连续特征的数据集，SMOTE-NC是唯一基于SMOTE的过采样技术来平衡数据。本文提出了一种新的少数类过采样方法SMOTE-ENC（SMOTE - Encoded Nominal and Continuous），该方法将名词性特征编码为数值，两个数值之差反映了与少数类关联的变化量。我们的实验表明，使用SMOTE-ENC方法的分类模型比使用SMOTE-NC的模型提供更好的预测时，数据集有大量的名义功能，也有一些分类功能和目标类之间的关联。此外，我们提出的方法解决了SMOTE-NC算法的主要局限性之一。SMOTE-NC只能应用于具有由连续和名义特征组成的特征的混合数据集，并且如果数据集的所有特征都是名义特征，则无法运行。我们的新方法已被推广应用于混合数据集和名义上只有数据集。代码可从mkhushi.github.io获得
2021-03-13 cs.AI cs.LG
GenSample: A Genetic Algorithm for Oversampling in Imbalanced Datasets
UCLA（加州大学洛杉矶分校）
不平衡的数据集无处不在。不平衡数据集上的分类性能通常对于少数类是差的，因为分类器不能很好地学习决策边界。然而，在欺诈检测、医疗诊断和垃圾邮件识别等敏感应用中，对少数实例进行正确分类是极其重要的。在本文中，我们提出了一种新的技术的基础上，遗传算法，GenSample，过采样的少数类不平衡数据集。GenSample通过考虑学习该示例的难度以及通过过采样实现的性能改善来决定对少数示例的过采样率。该技术在分类器的性能开始恶化时终止过采样过程。因此，它只在获得性能提升时才产生合成数据。该算法在9个不同大小和不平衡比率的真实不平衡数据集上进行了测试。它在9个数据集中的8个数据集上获得了最高的F-Score，证实了与其他现有方法相比，它能够更好地处理不平衡数据。
2019-10-23 cs.LG cs.NE stat.ML
Bias-Corrected Data Synthesis for Imbalanced Learning
Department of Biostatistics & Bioinformatics, Duke University（生物统计学与生物信息学系，杜克大学）；Department of Electrical & Computer Engineering, Duke University（电气与计算机工程系，杜克大学）；Department of Statistics, Rutgers University（统计学系，罗格斯大学）；Department of Computer Science, Duke University（计算机科学系，杜克大学）
本文提出一种偏差校正的数据合成方法，用于提高不平衡学习中分类模型的预测准确性并减少过拟合风险。
2026-09-14 cs.LG stat.ME stat.ML
RUBRIC: Realism--Utility Balanced Ranking for Imbalanced Classification
Columbia University（哥伦比亚大学）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；University of Melbourne（墨尔本大学）
研究类别不平衡问题，提出RUBRIC框架，将合成样本选择设为质量优化问题，用现实-效用权衡排序，能收紧泛化边界，经实验验证其在信用卡欺诈检测等任务中可提升F1宏和召回率，保持ROC-AUC并可进行lambda敏感性分析。
2026-10-08 cs.LG
Synthetic Oversampling of Multi-Label Data based on Local Label Distribution
School of Informatics Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学信息学院）
类别不平衡是多标签数据的一个固有特性，它影响了大多数多标签学习方法的预测精度。处理这个问题的一个有效策略是在训练分类器之前采用重定位技术。现有的多标签采样方法缓解了多标签数据集的（全局）不平衡。然而，性能下降主要是由于罕见的子概念和类的重叠，可以通过查看少数示例的局部特征来分析，而不是整个数据集的不平衡。我们提出了一种新的方法，多标签数据的合成过采样，专注于本地标签分布，以产生更多样化和更好的标记实例。在13个多标签数据集上的实验结果证明了所提出的方法在各种评估措施中的有效性，特别是在原始数据的重复样本上训练的分类器集合的情况下。
2019-06-20 cs.LG stat.ML
A Self-Adaptive Synthetic Over-Sampling Technique for Imbalanced Classification
School of Computing and Communications, Lancaster University（兰开斯特大学计算与通信学院）；Lancaster Intelligent, Robotic and Autonomous Systems Centre, Lancaster University（兰开斯特大学智能、机器人与自主系统中心）；Technical University, Sofia（索非亚技术大学）
传统上，在有监督的机器学习中，可用数据的（重要）部分（通常为50%至80%）用于训练，其余部分用于验证。然而，在许多问题中，数据在不同的类方面是高度不平衡的，或者没有很好地覆盖可行的数据空间，这反过来又在验证和使用阶段产生了问题。在本文中，我们提出了一种技术，用于合成可行的和可能的数据，以帮助平衡类，以及提高混淆矩阵方面的性能以及整体。简而言之，这个想法是专门为代表性较低（少数）的类别合成与实际数据样本非常接近的数据样本。这也影响了所谓的机器学习的公平性。在本文中，我们提出了一种特定的方法来合成数据，以平衡类和提高性能，特别是少数类。它是通用的，可以应用于不同的基础算法，例如支持向量机，k-最近邻，深度网络，基于规则的分类器，决策树等结果表明：i）可以实现更平衡（和公平）的分类结果; ii）可以提高整体性能以及通过混淆矩阵测量的每个类的性能。此外，这种方法对于实际可用的标记数据的数量很小的情况是非常有价值的，这本身就是当代机器学习的问题之一。
2019-11-25 cs.LG stat.ML
Diffusion-Driven Synthetic Tabular Data Generation for Enhanced DoS/DDoS Attack Classification
本文提出利用扩散模型生成合成表格数据以解决网络入侵检测中的类别不平衡问题，通过增强少数类样本提升攻击分类性能。
2026-01-30 cs.AI cs.CR cs.LG
CTTVAE: Latent Space Structuring for Conditional Tabular Data Generation on Imbalanced Datasets
Computer Research Institute of Montreal (CRIM)（蒙特利尔计算机研究院）
CTTVAE通过潜在空间结构和目标采样策略，提升不平衡数据集下条件表格数据生成的下游实用性。
2026-02-03 cs.LG
Classification of Imbalanced Credit scoring data sets Based on Ensemble Method with the Weighted-Hybrid-Sampling
Beijing Jiaotong University（北京交通大学）
大数据时代，利用信用评分模型准确判断申请人的信用风险成为未来的趋势。传统的机器学习对信用评分数据集的分类往往对少数类别的分类效果不佳，这可能给银行带来巨大的商业危害。为了对不平衡数据集进行分类，提出了一种新的集成算法，即加权混合采样增强算法（WHSBoost）。在数据采样方面，我们采用加权SMOTE方法和欠采样加权方法对不平衡的数据集进行处理，从而得到一个等权的平衡训练样本数据集。在集成算法中，每次对基分类器进行训练时，均采用上述方法得到平衡数据集。为了验证WHSBoost算法的适用性和鲁棒性，在仿真数据集、真实基准数据集和真实信用评分数据集上进行了实验，并与基于SVM、BPNN、DT和KNN的SMOTE、SMOTEBoost和HSBoost算法进行了比较。
2021-02-09 cs.LG stat.ML
Cardiac mortality prediction in patients undergoing PCI based on real and synthetic data
HSE University（高等经济大学）；Meshalkin National Medical Research Center, Ministry of Health of Russian Federation（俄罗斯联邦卫生部梅沙尔金国家医学研究中心）；Tyumen Cardiology Research Center, Tomsk National Research Medical Center, Russian Academy of Sciences（俄罗斯科学院托木斯克国家研究医学中心秋明心脏病学研究中心）
本研究通过生成合成数据增强真实数据，开发了预测PCI患者心脏死亡风险的模型，发现年龄、射血分数等四个特征对死亡风险影响最大。
2025-12-24 cs.LG
Multi-Label Sampling based on Local Label Imbalance
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；University of Ioannina（约阿尼纳大学）
类别不平衡是多标签数据的固有特征，它阻碍了大多数多标签学习方法。处理这个问题的一个有效而灵活的策略是在训练多标签学习模型之前采用采样技术。虽然现有的多标签采样方法缓解了多标签数据集的全局不平衡，但实际上是少数类样本的局部邻域内的不平衡水平在性能下降中起着关键作用。为了解决这个问题，我们提出了一种新的措施来评估的局部标签不平衡的多标签数据集，以及两个多标签抽样方法的基础上的局部标签不平衡，即MLSOL和MLUL。通过考虑所有信息标签，MLSOL为困难的示例创建了更多样化和更好标记的合成实例，而MLUL则消除了对其本地区域有害的实例。在13个多标签数据集上的实验结果证明了所提出的测量和采样方法对各种评估指标的有效性，特别是在原始数据的重复样本上训练的分类器集合的情况下。
2020-05-19 cs.LG stat.ML
Self-Guided Generation of Minority Samples Using Diffusion Models
KAIST（韩国科学技术院）
提出基于扩散模型的自引导采样方法，无需外部分类器即可生成低密度区域的少数类样本，通过最小化估计似然并采用时间调度技术，在基准数据集上显著提升生成能力。
2024-07-16 cs.AI cs.CV cs.LG
Parsimonious Computing: A Minority Training Regime for Effective Prediction in Large Microarray Expression Data Sets
PES University（PES大学）；BITS Pilani K K Birla Goa Campus（比尔拉科学技术学院K K比拉果阿校区）；North Carolina State University（北卡罗来纳州立大学）；IIT Patna（印度理工学院巴特那分校）
在浅层神经网络中，对反向传播中使用的学习率进行严格的数学研究已经成为一种必要。这是因为实验证据需要理论背景的支持。这样的理论可能有助于减少实验工作量，以实现预期的结果。我们利用均方误差的函数性质，即Lipschitz连续性来计算浅层神经网络的学习率。我们声称，我们的方法减少了调优工作，特别是当一个重要的语料库的数据进行处理。我们取得了显着的改善，节省计算成本，同时超过文献报道的预测精度。这里提出的学习率是Lipschitz常数的倒数。这项工作的结果在一个新的方法进行基因表达推断的大型微阵列数据集与有限的计算资源约束的浅架构。数据集的随机子采样，自适应Lipschitz常数启发学习率和新的激活函数A-ReLU的组合帮助实现了论文中报告的结果。
2020-05-18 cs.LG q-bio.QM stat.ML
