Robust Support Vector Machines for Imbalanced and Noisy Data via Benders Decomposition
Montana State University（蒙大拿州立大学）；Ferdowsi University of Mashhad（马什哈德费尔多西大学）
本研究提出一种基于Benders分解的新型SVM模型，通过二元变量量化约束违反次数以处理类别不平衡与噪声，实验验证其在F1分数、准确率等方面优于现有模型，并具备多项优良特性。
2025-03-19 cs.LG
Behavioral analysis of support vector machine classifier with Gaussian kernel and imbalanced data
Frankfurt University of Applied Sciences（法兰克福应用科学大学）
支持向量机的惩罚参数和核参数等参数对支持向量机模型的分类精度和复杂度有很大影响。因此，SVM中的模型选择涉及这些参数的调整。然而，这些参数通常被调整并用作黑盒，而不了解数学背景或内部细节。在本文中，SVM分类模型的行为时，这些参数采取不同的值与平衡和不平衡的数据进行了分析。该分析包括可视化，数学和几何解释以及说明性的数值示例，旨在为SVM提供高斯和线性核函数的基础知识。在此基础上，提出了一种新的搜索算法。在该算法中，我们搜索到两个一维空间的最佳SVM参数，而不是搜索到一个二维空间。这大大减少了计算时间。此外，在我们的算法中，从数据的分析，核函数的范围可以预期。这也减少了搜索空间，因此减少了所需的计算时间。不同的实验进行了评估我们的搜索算法使用不同的平衡和不平衡的数据集。实验结果表明，该策略比其他搜索策略更快速、更有效.
2020-07-09 cs.LG stat.ML
Primal Estimated Subgradient Solver for SVM for Imbalanced Classification
本研究提出代价敏感PEGASOS SVM，在不平衡数据集（比率8.6:1至130:1）上验证性能，通过学习曲线和验证曲线诊断过拟合/欠拟合，并扩展Ding的工作引入核函数，使用Python实现。该研究旨在提供比SMOTE计算强度更低的方法。
2023-11-09 cs.LG stat.AP
Weighted Least Squares Twin Support Vector Machine with Fuzzy Rough Set Theory for Imbalanced Data Classification
University of Isfahan（伊斯法罕大学）
支持向量机（SVM）是为解决分类问题而开发的强大的监督学习工具。然而，支持向量机在不平衡数据的分类中可能表现不佳。粗糙集理论提供了一种在不确定情况下进行推理的数学工具，它提供了从数据中删除不相关信息的方法。在这项工作中，我们提出了一种方法，有效地利用模糊粗糙集理论的加权最小二乘双支持向量机称为FRLSTSVM分类的不平衡数据。第一个创新是引入了一种新的基于模糊粗糙集的欠采样策略，使分类器对不平衡数据具有鲁棒性。为了构造FRLSTSVM中的两个邻近超平面，少数类的数据点保持不变，而多数类中的数据点的子集使用一种新的方法来选择。在这个模型中，我们嵌入的LSTSVM配方的权重偏差，以克服在原来的双SVM的不平衡数据的分类偏差现象。为了确定这些权重在这个配方中，我们引入了一个新的策略，使用模糊粗糙集理论作为第二次创新。在著名的不平衡数据集上的实验结果表明，与传统的SVM方法相比，该模型在不平衡数据分类方面具有明显的优势。
2021-05-21 cs.CV cs.LG
Fast Imbalanced Classification of Healthcare Data with Missing Values
Geisinger Health System（盖辛格医疗系统）
在医学领域，数据特征往往包含缺失值。这可能会在预测建模中产生严重的偏差。典型的标准数据挖掘方法通常产生较差的性能度量。在本文中，我们提出了一种新的方法，同时分类大型数据集，并减少缺失值的影响。该方法是基于成本敏感的SVM和期望最大化填补缺失值的方法，它依赖于迭代回归分析的多级框架。我们比较了基于多级SVM的算法在具有不平衡类和缺失值的公共基准数据集以及健康应用中的真实数据上的分类结果，并表明我们的基于多级SVM的方法产生快速，更准确和鲁棒的分类结果。
2015-03-21 cs.LG stat.ML
Projection based fuzzy least squares twin support vector machine for class imbalance problems
Indian Institute of Technology Indore（印度理工学院印多尔分校）；BITS Pilani（比尔拉科学技术学院皮拉尼分校）
针对含噪类别不平衡分类中SVM偏向多数类的问题，提出IF-RELSTSVM与基于超平面投影隶属度的F-RELSTSVM，并在基准和合成数据集上验证其优于基线。
2023-09-27 cs.LG
Handling Imbalanced Classification Problems With Support Vector Machines via Evolutionary Bilevel Optimization
Centro de Investigación en Matemáticas（数学研究中心）；Andalusian Research Institute in Data Science and Computational Intelligence（安达卢西亚数据科学与计算智能研究所）；University of Granada（格拉纳达大学）
支持向量机（Support Vector Machines，SVMs）是处理二进制分类问题的一种流行的学习算法。他们传统上假设每个类的错误分类成本相等;然而，现实世界的问题可能有不均匀的类分布。本文介绍了EBCS-SVM：进化双层代价敏感支持向量机。EBCS-SVM通过同时学习支持向量和优化SVM超参数（包括核参数和误分类代价）来处理不平衡分类问题。由此产生的优化问题是一个双层问题，其中较低的水平确定的支持向量和超参数的上层。这个优化问题的解决，使用进化算法（EA）在上层和顺序最小优化（SMO）在较低的水平。这两种方法以嵌套的方式工作，即最优支持向量帮助指导超参数的搜索，并且基于先前的成功解决方案初始化较低的级别。使用70个不平衡分类数据集对所提出的方法进行评估，并与几种最先进的方法进行比较。实验结果，贝叶斯测试的支持下，EBCS-SVM的有效性提供了证据时，高度不平衡的数据集。
2022-04-21 cs.AI cs.LG cs.NE
Unsupervised Real Time Prediction of Faults Using the Support Vector Machine
为了提高支持向量机（SVM）分类器的分类精度，采用序贯最小优化（SMO）训练算法对油气设备数据进行故障和正常分类。最近的应用程序的故障分析利用SVM技术，而不实施SMO训练算法，而在我们的研究中，我们表明，所提出的解决方案可以更好地执行时，使用SMO训练算法。此外，我们实现了集成方法，这是一个混合的基于规则和神经网络分类器，以提高性能的SVM分类器（SMO训练算法）。优化研究是由于分类器在处理不平衡数据集时性能不佳。通过使用堆叠集成方法将所选择的最佳性能分类器与SVM分类器（具有SMO训练算法）结合在一起，以创建可以处理不平衡数据问题的高效集成预测模型。该预测模型的分类性能明显优于支持向量机与SMO训练算法和许多其他传统的分类器。
2020-12-30 cs.LG
Equipment Failure Analysis for Oil and Gas Industry with an Ensemble Predictive Model
School of Computer Science, University of Nottingham Malaysia Campus（诺丁汉大学马来西亚校区计算机科学学院）；Tentacle Technologies（触手科技公司）
针对油气设备故障分类中不平衡数据导致分类器性能不佳的问题，提出结合SMO训练算法的SVM与混合规则-神经网络分类器的堆叠集成预测模型，分类性能显著优于传统分类器。
2020-12-30 cs.LG
Face Detection Using Adaboosted SVM-Based Component Classifier
Amirkabir University of Technology（阿米尔卡比尔理工大学）
最近，Adaboost已被广泛用于提高任何给定的学习算法的精度。在本文中，我们专注于设计一种算法，采用Adaboost与支持向量机相结合的弱成分分类器用于人脸检测任务。该算法不使用固定的核参数，而是自适应地调整支持向量机的核参数，从而得到一组有效的SVM-弱学习分类器。在不平衡分类问题上，与SVM相比，该组合具有更好的泛化能力。在CMU+MIT人脸数据库上，将本文提出的方法与其他常用的Adaboost方法（如决策树和神经网络）在分类精度方面进行了比较。结果表明，所提出的方法的性能总体上优于以前的Adaboost方法。
2008-12-13 cs.CV cs.LG
Wasserstein Distributionally Robust Multiclass Support Vector Machine
Georgia Institute of Technology（佐治亚理工学院）
针对数据特征与标签不确定、不平衡数据下一对多分布鲁棒分类器表现不佳的问题，提出基于Crammer-Singer损失的Wasserstein分布鲁棒多分类SVM，含核版本与投影次梯度优化算法，在不平衡数据及真实数据集上表现更优。
2024-09-12 cs.LG stat.ML
Diversifying Support Vector Machines for Boosting using Kernel Perturbation: Applications to Class Imbalance and Small Disjuncts
Indian Statistical Institute（印度统计研究所）；Jadavpur University（贾达沃大学）
针对Boosting中SVM难以多样化的问题，提出基于核扰动的Boosting方案，同时提出无规则依赖的析取项识别方法与GSDI性能指标，实验证明该方法在多类不平衡数据集上性能优于现有最优算法。
2017-12-22 cs.LG stat.ML
A Study of Data Pre-processing Techniques for Imbalanced Biomedical Data Classification
Swinburne University of Technology（斯威本科技大学）；Deakin University（迪肯大学）；Harvard Medical School（哈佛医学院）
生物医学数据在开发用于识别特定肿瘤、药物发现和人类癌症分类的预测模型中被广泛接受。然而，以往的研究通常集中在不同的分类器，而忽略了类不平衡的问题，在现实世界的生物医学数据集。目前缺乏对不平衡生物医学数据学习的数据预处理技术（如重排序和特征选择）的评价研究。数据预处理技术和数据分布之间的关系在以前的研究中从未被分析过。本文主要回顾和评价了一些流行的和最近发展起来的类不平衡学习的特征选择方法。我们从数据分布的角度分析了每种技术的有效性。基于五个分类器，四个性能指标，八种学习技术，在二十个真实世界的数据集上进行了广泛的实验。实验结果表明：（1）使用支持向量机（SVM）分类器时，再分类和特征选择技术表现出更好的性能。然而，当使用C4.5决策树和线性判别分析分类器时，恢复和特征选择技术的性能较差;（2）对于具有不同分布的数据集，当使用SVM和KNN（K-最近邻）分类器时，随机欠采样和特征选择等技术的性能优于T位置-尺度分布的数据预处理方法。在负二项分布上，随机过采样方法的不平衡率较低，优于其他方法;（3）特征选择方法在大多数情况下优于其他数据预处理方法，因此，特征选择SVM分类器是不平衡生物医学数据学习的最佳选择。
2019-11-04 cs.LG q-bio.QM stat.ML
Learning from Imbalanced Multiclass Sequential Data Streams Using Dynamically Weighted Conditional Random Fields
The University of Adelaide（阿德莱德大学）
本研究介绍了一种方法，用于提高不平衡的多类数据流从无线体戴传感器的分类性能。数据不平衡是活动识别中的一个固有问题，它是由活动的不规则时间分布引起的，这些活动是连续的，依赖于以前的运动。我们使用条件随机场（CRF），结构化分类的图形模型，以利用序列中的活动之间的依赖关系。然而，CRF没有考虑训练期间班级不平衡的负面影响。我们提出了一个类的动态加权CRF（dWCRF），其中的权重是在训练过程中自动确定的，通过最大化预期的整体F分数。我们的研究结果的基础上三个案例研究，从医疗保健应用程序使用无电池的身体磨损传感器，表明我们的方法，在一般情况下，提高整体和少数类F-分数相比，其他基于CRF的分类器，并实现类似或更好的整体和类的性能相比，基于SVM的分类器在有限的训练数据的条件下。我们还使用额外的电池供电的身体穿戴传感器数据集来确认我们的方法的性能，在高级不平衡的情况下实现了类似的结果。
2016-03-11 cs.LG
On the Implicit Geometry of Cross-Entropy Parameterizations for Label-Imbalanced Data
University of British Columbia（不列颠哥伦比亚大学）；University of California, Santa Barbara（加州大学圣巴巴拉分校）
各种logit调整参数化的交叉熵（CE）损失已被提出作为替代加权CE的标签不平衡数据远远超过零训练误差制度的训练大型模型。这些设计背后的驱动力是隐式偏差理论，对于线性（化）模型，它解释了为什么它们成功地在优化路径上诱导偏向少数群体的解决方案。为了将这一理论扩展到非线性模型，我们研究了通过不同CE参数化学习的分类器和嵌入的隐式几何。我们的主要结果描述了无约束特征模型的非凸成本敏感SVM分类器的全局最小值，该模型作为深度网络的抽象。我们推导出了分类器和嵌入的角度和范数作为类数、不平衡和少数比率以及损失超参数的函数的封闭形式公式。使用这些，我们表明，logit调整参数化可以适当调整，学习对称的几何形状，而不管不平衡比。我们通过实验和深度网络收敛精度的实证研究来补充我们的分析。
2023-03-14 cs.LG
CSMOUTE: Combined Synthetic Oversampling and Undersampling Technique for Imbalanced Data Classification
AGH University of Science and Technology（AGH科技大学）
在本文中，我们提出了一种新的数据级算法来处理数据不平衡的分类任务，合成多数欠采样技术（SMUTE）。SMUTE利用了邻近实例的插值概念，这是以前在SMOTE中的过采样设置中引入的。此外，我们结合两者的合成过采样和欠采样技术（CSMOUTE），它集成了SMOTE过采样与SMUTE欠采样。所进行的实验研究的结果表明，SMUTE和CSMOUTE算法的有用性，特别是当与更复杂的分类器，即MLP和SVM相结合时，以及当应用于由大量离群值组成的数据集时。这使我们得出一个结论，所提出的方法显示出进一步扩展的承诺，以适应本地数据的特点，在本文中更详细地讨论了一个方向。
2021-04-17 cs.LG stat.ML
Enhancing Machine Learning for Imbalanced Medical Data: A Quantum-Inspired Approach to Synthetic Oversampling (QI-SMOTE)
National Institute of Technology, Hamirpur（国立技术学院，哈米尔普尔）
针对医疗领域机器学习的类别不平衡问题，提出量子启发式合成过采样方法QI-SMOTE，在MIMIC数据集上验证其可提升多类模型性能，增强医疗预测模型的可靠性。
2025-09-02 cs.AI cs.LG
Cost-Sensitive Support Vector Machines
Shiraz University（设拉子大学）；University of California, San Diego（加州大学圣地亚哥分校）
提出了一种新的代价敏感支持向量机（CS-SVM）分类器的学习方法。SVM铰链损失扩展到成本敏感的设置，CS-SVM推导出作为相关风险的最小化。铰链损失的扩展利用了风险最小化和概率启发之间的最新联系。这些连接推广到成本敏感的分类，在某种程度上，保证与成本敏感的贝叶斯风险，和相关的贝叶斯决策规则的一致性。这确保了在新的铰链损失下，最优决策规则实现贝叶斯最优成本敏感分类边界。新的铰链损失最小化被证明是一个经典的SVM优化问题的推广，并可以通过相同的程序来解决。通过正则化理论和灵敏度分析，详细分析了CS-SVM的对偶问题，并对CS-SVM算法进行了验证。该算法还扩展到成本敏感的学习与示例相关的成本。提出了最小成本敏感风险作为性能度量，并通过向量优化将其与ROC分析相连接。由此产生的算法避免了以前的方法成本敏感的SVM设计的缺点，并被证明具有优越的实验性能，大量的成本敏感和不平衡的数据集。
2015-02-15 cs.LG stat.ML
Classification of Imbalanced Credit scoring data sets Based on Ensemble Method with the Weighted-Hybrid-Sampling
Beijing Jiaotong University（北京交通大学）
大数据时代，利用信用评分模型准确判断申请人的信用风险成为未来的趋势。传统的机器学习对信用评分数据集的分类往往对少数类别的分类效果不佳，这可能给银行带来巨大的商业危害。为了对不平衡数据集进行分类，提出了一种新的集成算法，即加权混合采样增强算法（WHSBoost）。在数据采样方面，我们采用加权SMOTE方法和欠采样加权方法对不平衡的数据集进行处理，从而得到一个等权的平衡训练样本数据集。在集成算法中，每次对基分类器进行训练时，均采用上述方法得到平衡数据集。为了验证WHSBoost算法的适用性和鲁棒性，在仿真数据集、真实基准数据集和真实信用评分数据集上进行了实验，并与基于SVM、BPNN、DT和KNN的SMOTE、SMOTEBoost和HSBoost算法进行了比较。
2021-02-09 cs.LG stat.ML
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University（汉阳大学）
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题，如合成少数过采样技术（SMOTE）。然而，由于诸如SMOTE的方法通过线性插值生成实例，因此合成数据空间可能看起来像多边形。此外，过采样方法产生少数类的离群值。在本文中，我们提出了基于高斯的少数过采样技术（GMOTE）的统计角度不平衡数据集。为了避免线性插值和考虑离群点，该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值（CMGOS）的启发，我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法，如SMOTE进行了比较。当GMOTE与分类回归树（CART）或支持向量机（SVM）相结合时，它表现出更好的准确性和F1得分。实验结果表明，鲁棒性能。
2021-05-09 cs.LG stat.ML
PET-TURTLE: Deep Unsupervised Support Vector Machines for Imbalanced Data Clusters
University of Michigan（密歇根大学）
PET-TURTLE通过引入幂律先验和稀疏logits，改进了传统TURTLE在处理不平衡数据时的聚类性能。
2026-01-06 cs.LG eess.IV stat.ML
PCA-Based Missing Information Imputation for Real-Time Crash Likelihood Prediction Under Imbalanced Data
Hong Kong University of Science and Technology（香港科技大学）；Zhejiang University（浙江大学）
实时的【形】的碰撞可能性预测一直是一个重要的研究课题。各种分类器，如支持向量机（SVM）和基于树的提升算法，已被提出在交通安全研究。然而，在实时的【形】碰撞可能性预测中，由于传感器故障或外部干扰等原因，经常会出现数据缺失的情况，但很少有研究关注数据缺失的填补问题。此外，不平衡数据的分类也是实时的【形】碰撞可能性预测中的一个难题，因为很难区分构成大多数观察样本的易碰撞案例和非碰撞案例。在本文中，主成分分析（PCA）为基础的方法，包括LS-PCA，PPCA，VBPCA，用于填补缺失值，而两种解决方案，以解决不平衡数据的问题。结果表明，PPCA和VBPCA不仅在均方根误差（RMSE）方面优于LS-PCA和其他填充方法（包括均值填充和k-means聚类填充），而且有助于分类器获得更好的预测性能。两种解决方案，即，代价敏感学习和合成少数过采样技术（SMOTE），通过调整分类器以更多地关注少数类来帮助提高灵敏度。
2018-02-11 cs.LG stat.ML
Vehicle Behavior Prediction and Generalization Using Imbalanced Learning Techniques
Linköping University（林雪平大学）
使用基于学习的方法进行车辆行为预测是一个很有前途的研究课题。然而，许多公开可用的数据集遭受类分布偏斜，如果不解决，这将限制学习性能。本文提出了一种由LSTM自动编码器和SVM分类器组成的交互感知预测模型。此外，提出了一种不平衡学习技术，多类平衡集成。评估表明，该方法增强了模型的性能，从而提高了分类精度。学习模型的良好泛化特性很重要，因此进行泛化研究，其中模型在看不见的交通数据上进行评估，这些数据具有源于不同道路配置的不同交通行为。这是通过使用两个不同的公路交通记录，公开可用的NGSIM US-101和I80数据集来实现的。此外，结构和静态特征编码到学习过程中，以提高泛化的方法进行评估。由此产生的方法在分类和泛化性能方面都有很大的改进。
2021-09-22 cs.CV cs.HC cs.LG
Concept Drift Visualization of SVM with Shifting Window
Transilvania University of Braşov（布拉索夫特兰西瓦尼亚大学）；FotoNation SRL - Tobii AB；Central Washington University（中华盛顿大学）
针对机器学习中概念漂移的可视化需求，提出基于平行坐标的时间平行直方图模型，结合带滑动窗口的增量/减量SVM，可检测并描绘概念漂移以解释模型决策。
2024-06-19 cs.LG
BuffGraph: Enhancing Class-Imbalanced Node Classification via Buffer Nodes
National University of Singapore（新加坡国立大学）
BuffGraph通过在图结构中插入缓冲节点来调节多数类影响，从而缓解类别不平衡节点分类中的偏差问题，并在多个数据集上取得优于现有方法的性能。
2024-02-20 cs.AI cs.LG
Instance-based entropy fuzzy support vector machine for imbalanced data
Seoul National University（首尔大学）
不平衡分类一直是机器学习的一个主要挑战，因为许多标准分类器主要关注平衡数据集，并且倾向于对大多数类有偏见的结果。本文对熵模糊支持向量机进行了改进，提出了基于实例的熵模糊支持向量机。EFSVM和IEFSVM都使用k-最近邻的熵信息来确定每个样本的模糊隶属度值，从而优先考虑每个样本的重要性。IEFSVM在增加邻域大小k时考虑每个样本熵模式的多样性，而EFSVM对所有样本使用固定邻域大小的单一熵信息。在模糊值隶属度的确定中，通过改变k值，可以反映样本近邻的成分由近到远的变化。在35个公开数据集和12个真实非平衡数据集上进行了数值实验，验证了IEFSVM的有效性，并利用受试者工作特征曲线下面积（AUC）与其他SVM和机器学习方法进行了性能比较。IEFSVM在不平衡率较高的数据集上显示出更高的AUC值，这意味着IEFSVM在处理类不平衡问题上是有效的。
2018-07-11 cs.IT cs.LG math.IT
Self-paced Ensemble for Highly Imbalanced Massive Data Classification
Jilin University（吉林大学）；Microsoft Research（微软研究院）
许多现实世界的应用揭示了从不平衡数据中学习分类器的困难。随着大数据时代的到来，越来越多的分类任务需要处理大规模但极不平衡和低质量的数据集。大多数现有的学习方法在这种情况下性能不佳或计算效率低。为了解决这个问题，我们对类不平衡的本质进行了深入的研究，结果表明，不仅类之间的不平衡，而且嵌入在数据性质中的其他困难，特别是噪声和类重叠，阻止我们学习有效的分类器。考虑到这些因素，我们提出了一个新的框架不平衡分类，旨在通过自步调协调数据硬度通过欠采样产生一个强大的合奏。大量的实验表明，这种新的框架，而计算效率非常高，可以导致强大的性能，即使在高度重叠的类和非常偏斜的分布。请注意，我们的方法可以很容易地适应大多数现有的学习方法（例如，C4.5、SVM、GBDT和神经网络），以提高其在不平衡数据上的性能。
2020-10-17 cs.AI cs.LG stat.ML
Population structure-learned classifier for high-dimension low-sample-size class-imbalanced problem
Dalian Maritime University（大连海事大学）
高维低样本数据的分类是一个具有挑战性的问题，在许多应用领域中，类别不平衡数据是普遍存在的。我们称之为不平衡HDLSS（IHDLSS）。最近的理论研究表明，分类标准和容忍相似度是关键的HDLSS，它强调类内方差的最大化的前提下，类可分性。基于这一思想，提出了一种新的线性二元分类器，称为群体结构学习分类器（PSC）。该方法在保证类可分性的前提下，通过最大化类间散布矩阵和类内散布矩阵之和，并对多数类和少数类分配不同的截距值，使PSC在IHDLSS上具有更好的泛化性能。该方法的显著特点是：（1）在IHDLSS上工作良好;（2）高维矩阵的逆可以在低维空间求解;（3）对每类的截距项的确定具有自适应性;（4）具有与SVM相同的计算复杂性。在IHDLSS上对一个模拟数据集和八个真实世界的基准数据集进行了一系列的基因分析评估。实验结果表明，PSC是优于国家的最先进的方法在IHDLSS。
2020-09-10 cs.LG math.OC stat.ML
Fully Bayesian Analysis of the Relevance Vector Machine Classification for Imbalanced Data
相关向量机（RVM）是一种基于贝叶斯稀疏模型的支持向量机（SVM）的监督学习算法。与回归问题相比，RVM分类问题由于权参数的后验不存在封闭形式的解而难以进行。原有的RVM分类算法采用牛顿法进行优化，得到权值参数的后验模，然后用拉普拉斯法用高斯分布近似权值参数后验模。它会工作，但只是在贝叶斯框架中应用频率方法。本文提出了一种通用贝叶斯方法的RVM分类。我们猜想，我们的算法实现了收敛估计的数量相比，原来的RVM分类算法的非收敛估计。在此基础上，提出了一种基于层次超先验结构的全贝叶斯RVM分类方法，提高了分类性能，尤其是在不平衡数据问题中。通过数值实验，我们提出的算法获得了很高的分类准确率。对于不平衡数据的分类，全贝叶斯层次超先验方法优于一般方法。
2022-10-27 cs.LG stat.CO stat.ML
Enhancing Foundation Models for Imbalanced SAR Ship Classification via Targeted Oversampling
针对SAR船舶分类中的长尾不平衡问题，本文在冻结骨干的协议下，对DOFA和SAR-JEPA在嵌入空间对少数类应用过采样，显著提升Macro-F1，并提供了可复现代码。
2026-09-29 cs.AI cs.CV cs.LG
Engineering fast multilevel support vector machines
Clemson University（克莱姆森大学）；New Mexico State University（新墨西哥州立大学）
求解非线性支持向量机（SVM）的计算复杂性在大规模数据下是难以承受的。特别是，当数据代表额外的困难，如高度不平衡的班级规模时，这个问题变得非常敏感。通常，非线性内核产生比线性内核显著更高的分类质量，但引入额外的内核和模型参数，这需要计算上昂贵的拟合。这提高了质量，但也大大降低了性能。我们介绍了一个通用的快速多级框架，定期和加权SVM，并讨论了几个版本的算法组件，导致质量和时间之间的良好权衡。我们的框架是使用PETSc，它允许一个简单的集成与科学计算任务。实验结果表明，显着的速度相比，最先进的非线性SVM库。复制：我们的源代码，文档和参数可在https：//www.example.com上获得。github.com/esadr/mlsvm
2019-04-06 cs.DS cs.LG stat.CO
From SMOTE to Mixup for Deep Imbalanced Classification
National Taiwan University（国立台湾大学）
本文揭示 SMOTE 在深度不平衡学习中的局限，通过软标签将其与 Mixup 统一，并提出间隔感知 Mixup，显式形成多数类与少数类间的不均匀间隔，取得最先进性能。
2023-11-03 cs.AI cs.LG
Multilevel Weighted Support Vector Machine for Classification on Healthcare Data with Missing Values
Clemson University（克莱姆森大学）；Geisinger Health System（盖辛格健康系统）
这项工作的动机是对以电子病历为代表的医疗数据进行预测分析的需求。这样的数据总是有问题的：嘈杂，缺少条目，兴趣类别不平衡，导致预测建模中的严重偏差。由于标准的数据挖掘方法往往会产生不良的性能指标，我们主张开发的数据预处理和分类的专门技术。在本文中，我们提出了一种新的方法，同时分类大型数据集，并减少缺失值的影响。它是基于一个多层次的框架的成本敏感的SVM和期望最大化填补方法的缺失值，这依赖于迭代回归分析。我们比较了基于多级SVM的算法在具有不平衡类和缺失值的公共基准数据集以及健康应用中的真实数据上的分类结果，并表明我们的基于多级SVM的方法产生快速，更准确和鲁棒的分类结果。
2016-04-07 cs.LG stat.AP stat.ML
A Novel Use of Discrete Wavelet Transform Features in the Prediction of Epileptic Seizures from EEG Data
African Institute for Mathematical Sciences（非洲数学科学研究所）；Stellenbosch University（斯泰伦博斯大学）；Rochester Institute of Technology（罗切斯特理工学院）
本文证明了离散小波变换（DWT）的预测优势，以前使用的特征提取方法在诊断癫痫发作的EEG数据。分类准确性、特异性和灵敏度被用作评估指标。我们特别展示了2种组合（DWT-db 4与SVM组合和DWT-db2与RF组合）在平衡或不平衡数据集中诊断癫痫发作时与其他组合相比的巨大潜力。结果还强调，MFCC的表现低于本研究中使用的所有DWT，并且在不平衡和平衡数据集中，平均差异分别具有统计学显著性。最后，无论是在平衡或不平衡的数据集，特征提取技术，模型，以及它们之间的相互作用有统计上显着的分类精度的影响。
2021-01-31 cs.CE cs.LG eess.SP
An Oversampling-enhanced Multi-class Imbalanced Classification Framework for Patient Health Status Prediction Using Patient-reported Outcomes
University of Texas at El Paso（得克萨斯大学埃尔帕索分校）
针对放疗癌症患者报告结局数据不完整和多类不平衡问题，提出一种结合过采样策略与六种机器学习分类器的预测框架，实验表明Random Forest和XGBoost在健康状况分类中表现稳健，具有临床应用潜力。
2024-11-16 cs.LG
Cost-sensitive probabilistic predictions for support vector machines
University Carlos III of Madrid（马德里卡洛斯三世大学）；Instituto de Matemáticas de la Universidad de Sevilla（塞维利亚大学数学研究所）；University of Sevilla（塞维利亚大学）；University of Cádiz（加的斯大学）
提出一种代价敏感的SVM概率输出方法，结合集成学习与自助法估计，有效处理不平衡数据，提升分类性能。
2023-10-09 cs.LG stat.ML
Federated Self-Supervised Modulation Classification under Non-IID and Imbalanced Data
Department of Electrical and Computer Engineering（电气与计算机工程系）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Qualcomm Technologies Inc.（高通技术公司）
该研究针对非独立同分布与不平衡数据场景，提出FedSSL-AMC联邦自监督框架，结合因果时间膨胀CNN编码器与轻量级本地SVM，在调制分类任务上取得优于监督联邦学习基线的性能。
2026-08-18 cs.AI cs.LG eess.SP
A Case Study on the Classification of Lost Circulation Events During Drilling using Machine Learning Techniques on an Imbalanced Large Dataset
University of Louisiana at Lafayette（路易斯安那大学拉斐特分校）
这项研究提出了机器学习模型，预测和分类的井漏严重程度先发制人地使用一个大类不平衡钻井数据集。我们展示了利用易于解释的机器学习方法解决大型钻井工程挑战所涉及的可重复核心技术。我们利用了来自伊朗阿扎德甘油田地层的65，000多个记录数据，这些数据存在类别不平衡问题。选择数据集的17个参数中的11个用于5个井漏事件的分类。为了生成分类模型，我们使用了六种基本的机器学习算法和四种集成学习方法。线性判别分析（LDA）、逻辑回归（LR）、支持向量机（SVM）、分类和回归树（CART）、k-最近邻（KNN）和高斯朴素贝叶斯（GNB）是六种基本技术。我们还使用了bagging和boosting集成学习技术来研究提高预测性能的解决方案。这些算法的性能使用四个指标来衡量：准确度，精确度，召回率和F1分数。F1评分加权代表数据不平衡被选为首选的评价标准。CART模型被认为是同类中识别钻井液循环漏失事件的最佳模型，平均加权F1分数为0.9904，标准差为0.0015。集成学习技术的应用，随机森林集成的决策树表现出最好的预测性能。它以1.0的完美加权F1分数识别和分类井漏事件。使用排列特征重要性（PFI），测得的深度被认为是最有影响力的因素，在准确地识别漏失事件，而钻井。
2022-09-07 cs.LG physics.geo-ph
Scalable Twin Neural Networks for Classification of Unbalanced Data
Indian Institute of Technology Delhi（德里印度理工学院）
双支持向量机（TWSVM）已经成为一种有效的替代支持向量机（SVM）的学习不平衡数据集。TWSVM通过解决几个较小的问题来学习两个非平行的分类超平面。然而，它不适合大型数据集，因为它涉及矩阵运算。在本文中，我们讨论了一个双神经网络（双NN）的结构，从大型非平衡数据集的学习。Twin NN还学习最佳特征映射，从而更好地区分类别。我们还提出了一个扩展的多类数据集的网络架构。本文中提出的结果表明，双神经网络的推广和规模以及大型不平衡数据集。
2018-01-27 cs.LG
Quantum-Enhanced Synthetic Data Generation Using Quantum Circuit Born Machines for Imbalanced Tabular Learning
Department of Computer Engineering King Mongkut's University of Technology Thonburi Bangkok, Thailand
针对机器学习中数据稀缺和类不平衡问题，提出用QCBM的混合量子 - 经典框架生成合成数据。利用量子特性建模复杂概率分布，经实验验证其在扩充训练数据、提升分类性能及结构相似性上效果良好，可作为数据增强的补充工具用于不平衡表格数据。
2026-07-13 cs.LG quant-ph
A Topological Data Analysis Based Classifier
University of Chile（智利大学）；Universidad de Oriente（东方大学）；Center for Research in Mathematics（数学研究中心）
拓扑数据分析（TDA）是一个新兴的领域，旨在发现隐藏在数据集的拓扑信息。TDA工具通常用于创建过滤器和拓扑描述符以改进机器学习（ML）方法。本文提出了一种直接将TDA应用于多类分类问题的算法，无需任何进一步的ML阶段，显示出对不平衡数据集的优势。该算法在数据集上构建一个过滤单纯复形。应用持久同源性（PH）来指导子复合体的选择，其中未标记的点从标记的相邻点获得具有大多数投票的标签。我们选择了8个不同维度的数据集，类重叠程度和每个类的样本不平衡。平均而言，建议TDABC方法优于KNN和加权KNN。在平衡数据集中，它与局部SVM和随机森林基线分类器具有竞争力，并且它优于所有分类纠缠类和少数类的基线方法。
2022-02-04 cs.CG cs.LG
Evaluating Anomaly Detectors for Simulated Highly Imbalanced Industrial Classification Problems
Department of Computing and Software, McMaster University（计算与软件系，麦斯特大学）；Center for Mechatronics and Hybrid Technologies, McMaster University（机电与混合技术中心，麦斯特大学）
本文评估了不同异常检测器在高度不平衡工业分类问题中的性能，发现最佳检测器依赖于训练数据中的故障示例数量，半监督和监督方法在特定条件下表现更优。
2026-01-14 cs.AI cs.LG
GANsemble for Small and Imbalanced Data Sets: A Baseline for Synthetic Microplastics Data
Vector Institute（向量研究所）；Toronto Metropolitan University（多伦多都会大学）
本文提出GANsemble双模块框架，结合数据增强与条件生成对抗网络，针对小样本不平衡微塑料数据生成合成数据，并建立SYMP基线及过滤算法，首次将生成式AI应用于微塑料数据合成。
2024-04-30 cs.AI cs.CV cs.LG
Imbalanced Classification under Capacity Constraints
Departamento de Matemática y Ciencias Universidad de San Andrés（数学与科学系，圣安德烈斯大学）；CONICET Argentina（阿根廷国家科研委员会）；PEDECIBA Matemática Uruguay（乌拉圭PEDECIBA数学）
针对少数类检测中容量约束问题，提出形式化分类框架，通过重加权先验概率等价于贝叶斯分类器，并引入容量调整性能指标，实验表明优于传统方法和SMOTE。
2026-06-16 cs.LG math.ST stat.ML
An extended asymmetric sigmoid with Perceptron (SIGTRON) for imbalanced linear classification
Logitron X
本文提出SIGTRON扩展非对称sigmoid及其SIC凸模型，通过内部参数替代外部$π$-权重以自适应类别不平衡变化，并设计L-BFGS优化框架，在多个数据集上取得优于或可比于现有代价敏感和平衡分类器的准确率。
2024-04-30 cs.AI cs.CV cs.LG
Twin Augmented Architectures for Robust Classification of COVID-19 Chest X-Ray Images
Indian Institute of Technology Delhi（印度理工学院德里分校）；Max Hospital（马克斯医院）；All India Institute of Medical Sciences（全印度医学科学研究所）
COVID-19的黄金标准是RT-PCR，其检测设施有限，并且并不总是最佳分布。测试结果延迟，影响治疗。放射科专家（其中一位是合著者）能够通过胸部X光（CXR）和CT扫描诊断COVID-19阳性，这有助于及时治疗。这种诊断在缺乏具有足够专业知识和熟悉COVID-19患者的放射科医生的地方特别有价值。本文有两个贡献。首先，我们分析了基于CXR的COVID-19诊断的文献。我们表明，受欢迎的数据集选择的选择遭受数据同质性，导致误导性的结果。我们编译和分析一个可行的基准数据集，从多个现有的异构源。这样的基准对于真实地测试模型是很重要的。我们的第二个贡献涉及从不平衡数据中学习。用于COVID X射线分类的数据集面临严重的类别不平衡，因为大多数受试者是COVID-ve。双支持向量机（Twin SVM）和双神经网络（Twin NN）近年来已经成为处理偏斜数据的有效方法。我们引入了一种最先进的技术，称为Twin Augmentation，用于修改流行的预训练深度学习模型。Twin Augmentation可以提高预训练深度神经网络的性能，而无需重新训练。实验表明，在众多分类器中，Twin Augmentation在提高给定预训练模型在不平衡环境中的分类性能方面非常有效。
2021-02-16 cs.CV cs.LG
Protein Classification using Machine Learning and Statistical Techniques: A Comparative Analysis
Dr. A. P. J. Abdul Kalam Technical University（阿卜杜勒·卡拉姆博士技术大学）；National Institute of Technology Patna（巴特那国家理工学院）；R.E. C. Ambedkar Nagar（安贝德卡纳尔工程学院）
从未知蛋白质中预测酶的种类是近年来生物信息学中的一项挑战性任务。随着蛋白质数量的不断增加，酶类的预测给生物信息学工作者带来了新的机遇。本文的主要目标是实现机器学习分类技术的特征选择和预测，并找到一个适当的分类技术的功能预测。本文采用CRT、QUEST、CHAID、C5.0、ANN（Artificial神经网络）、SVM和Bayesian等七种不同的分类技术对UniprotKB数据库中的4368个蛋白质数据进行分类，并将其分为六类。蛋白质数据是高维序列数据，最多包含48个特征，为了对高维序列蛋白质数据进行不同的分类，本文使用SPSS作为实验工具。不同的分类技术对每个模型给出不同的结果，并显示C4、C5和C6类的数据不平衡。数据的不平衡影响模型的性能。在这三个类中，查准率和查全率值非常小或可以忽略不计。实验结果表明，C5.0分类技术的准确性更适合于蛋白质特征分类和预测。C5.0分类技术给出了95.56%的准确率，也给出了高精度和召回值。最后，我们得出结论，所选择的功能可以用于功能预测。
2019-01-18 cs.LG q-bio.QM stat.ML
Comparative performance of ensemble models in predicting dental provider types: insights from fee-for-service data
Jadara University（贾达拉大学）；Zarqa University（扎尔卡大学）；Qassim University（卡西姆大学）
本研究基于2018年按服务付费数据比较多种机器学习模型对牙科服务提供者类型的分类性能，发现神经网络和随机森林表现最优，证明集成与深度学习方法能显著提升牙科劳动力分类和资源配置效果。
2025-06-04 cs.AI cs.LG
Clinical Domain Classification from Medical Transcriptions
Yeshiva University（叶史瓦大学）
本研究比较了传统机器学习、Transformer模型及少样本提示方法在医疗转录文本临床领域分类中的表现，发现数据平衡显著提升性能，其中BERT在SMOTE平衡数据上取得最高F1分数0.996。
2026-09-22 cs.CL cs.LG
Connecting Meteorite Spectra to Lunar Surface Composition Using Hyperspectral Imaging and Machine Learning
Leiden Institute of Advanced Computer Science（莱顿高级计算机科学研究所）；Leiden University（莱顿大学）；Delft University of Technology（代尔夫特理工大学）；Leiden Observatory（莱顿天文台）；Dipartimento di Fisica e Astronomia ``G. Galilei'', Università di Padova（帕多瓦大学盖·伽利略物理与天文学系）；INFN-Padova（意大利国家核物理研究所-帕多瓦分部）；Huygens-Kamerlingh Onnes Laboratory（胡伊gens-卡默林赫夫实验室）；ERA Chair of Space Photonics（空间光子学ERA教授职位）；Latvia University（拉脱维亚大学）；National Technical University of Athens（雅典国家技术大学）
本文提出一种整合实验室超光谱成像与地面月球超光谱成像及监督机器学习的方法，生成高保真的矿物图。利用支持向量机等算法对陨石样本进行分类，识别关键波长并验证月球表面矿物分布。
2026-03-25 astro-ph.EP astro-ph.IM cs.LG
