Local Binary and Multiclass SVMs Trained on a Quantum Annealer
University of Trento（特伦托大学）；Jülich Supercomputing Centre（于利希超级计算中心）；University of Iceland（冰岛大学）；Trento Institute for Fundamental Physics and Applications（特伦托基础物理与应用研究所）；Alma Mater Studiorum - Università di Bologna（博洛尼亚大学）；AIDAS（艾达斯）
针对量子退火机训练的SVM受硬件连通性限制训练集规模的问题，结合FaLK-SVM局部方法提出量子训练的局部二分类与多分类SVM，经遥感真实数据集实验验证其有效性、可扩展性与大规模场景实用性。
2024-03-13 cs.ET cs.LG quant-ph
Performance Analysis of Multiclass Support Vector Machine Classification for Diagnosis of Coronary Heart Diseases
Sebelas Maret University（塞贝拉斯·马雷特大学）；Gadjah Mada University（加查马达大学）
冠心病的自动诊断有助于医生做出诊断决策。冠心病有一定的类型和程度。参考UCI Repository数据集，它分为4种类型或级别，标记为1-4（低，中，高和严重）。诊断模型可以用多类分类方法进行分析。多类分类方法之一，其中之一是一个支持向量机（SVM）。支持向量机的使用是由于支持向量机在二进制分类中的强大性能。本研究研究应用多类性能分类支持向量机诊断冠心病的类型或程度。冠状动脉心脏病患者数据取自UCI Repository。本研究的阶段是预处理，包括对数据进行规范化处理，将数据分为数据训练和数据测试。多类分类和性能分析的下一阶段。本研究使用多分类支持向量机演算法，分别为：二元树支持向量机（BTSVM）、一对一（OAO）、一对全（OAA）、决策直接无环图（DDAG）及穷举输出错误校正码（ECOC）。使用的性能参数是召回率，精度，F-测量和整体准确度。
2015-11-16 cs.LG
A Unified Framework for Multiclass and Multilabel Support Vector Machines
University of Florida（佛罗里达大学）
我们提出了一种新的多类和多标签支持向量机（SVMs）的综合制定。已经提出了许多方法来将原始的二进制SVM扩展到多类SVM。然而，它的直接扩展到一个统一的多标签SVM还没有得到广泛的研究。我们提出了一个简单的扩展支持向量机，以应付在一个统一的框架内的多类和多标签分类问题。我们的框架偏离了传统的软间隔SVM框架，其直接对立的结构。在我们的公式中，特定于类的权重向量（法向量）是通过最大化它们相对于原点的余量来学习的，并且当它们太接近原点时会惩罚模式。因此，每个权重向量选择相对于该原点的方向和幅度，以使其最好地表示属于其相应类别的模式。类之间的对立引入到制定通过最小化成对的权重向量的内积。我们还扩展了我们的框架，以应付通过标准再生核希尔伯特空间（RKHS）的非线性可分性。与原点密切相关的偏差需要在原始特征空间和Hilbert空间中适当处理。我们可以灵活地将约束纳入公式（如果它们更好地反映了底层几何结构），并提高分类器的性能。为此，解决了具体问题和技术性问题，如RKHS的起源。结果表明，多类和多标签分类问题的竞争力的分类。
2020-03-25 cs.LG stat.ML
SVM based Multiclass Classifier for Gait phase Classification using Shank IMU Sensor
PSG College of Technology（PSG技术学院）
本研究提出基于SVM多分类的步态相位分类方法，利用小腿IMU传感器数据识别七个步态相位，准确率约90.3%，可应用于外骨骼和假肢等领域。
2023-10-15 cs.LG cs.RO
A novel multiclassSVM based framework to classify lithology from well logs: a real-world application
IIT Kharagpur（印度理工学院卡拉格普尔分校）
支持向量机（SVMs）已被公认为一个潜在的工具，监督分类分析在不同的研究领域。本质上，SVM是一个二元分类器。因此，在多类问题的情况下，问题被分成一系列的二元问题，这些二元问题由二元分类器来解决，最后分类结果按照一对一或一对所有策略进行组合。在本文中，已尝试分类岩性使用多类支持向量机为基础的框架，使用测井曲线作为预测变量。这里，根据地质专家建议的砂和页岩分数的相对值，将岩性分为四类，例如砂、泥质砂、砂质页岩和页岩。可用的数据集包括测井（伽马射线，中子孔隙度，密度，和P-声波）和类信息从四个紧密间隔的井从陆上油气田分为训练和测试集。我们使用了一个对所有的策略来结合多个二进制分类器的结果。报告的结果建立了多类SVM的优越性相比，其他分类器的分类精度。对核函数和相关参数的选择也进行了研究。可以设想，从本研究中取得的结果，所提出的框架的基础上多类SVM可以进一步用于解决分类问题。在未来的研究工作中，可以在框架中引入地震属性，从地震输入中对整个研究区域的岩性进行分类。
2016-12-02 cs.LG stat.AP stat.ML
Weston-Watkins Hinge Loss and Ordered Partitions
University of Michigan（密歇根大学）
支持向量机（SVM）的多类扩展已经以各种方式制定。最近对9种此类公式进行的经验比较[Dobalan等人，2016]推荐了Weston和Watkins（WW）提出的变体，尽管事实上WW铰链损失未相对于0-1损失进行校准。在这项工作中，我们引入了一种新的离散损失函数的多类分类，有序分区损失，并证明了相对于此损失的WW-hinge损失校准。我们还认为，有序分区损失是最大的离散损失满足这一属性的信息。最后，我们应用我们的理论来证明Dopelan等人的经验观察，即WW-SVM即使在大规模标签噪声下也能很好地工作，这对多类SVM来说是一个挑战。
2020-06-12 cs.LG math.OC stat.ML
Enhancing Pattern Classification in Support Vector Machines through Matrix Formulation
South Asian University（南亚大学）
针对传统向量型SVM在多类多标签场景下灵活性不足的问题，提出矩阵形式的SVM并采用对偶加速梯度下降法求解，在保证效果相当的同时提升了时间效率，为多标签学习模型发展奠定基础。
2023-07-18 cs.LG
Benign Overfitting in Multiclass Classification: All Roads Lead to Interpolation
University of California, Santa Barbara（加州大学圣巴巴拉分校）；Georgia Institute of Technology（佐治亚理工学院）；University of British Columbia（不列颠哥伦比亚大学）
本文研究多类线性分类中的良性过拟合，证明交叉熵ERM、最小二乘ERM与一对多SVM在充分条件下均实现插值且准确率相同，并给出MNI泛化界。
2023-07-11 cs.IT cs.LG math.IT
A Unified Optimization Framework for Multiclass Classification with Structured Hyperplane Arrangements
Institute of Mathematics (IMAG), Universidad de Granada（格拉纳达大学数学研究所）；Dept. Industrial & Systems Engineering, University of Wisconsin-Madison（威斯康星大学麦迪逊分校工业与系统工程系）
本文提出一个基于超平面排列的统一优化框架，用于多类分类，支持核扩展、分类树等结构，并开发动态聚类启发式算法，在合成及UCI基准上表现优异。
2025-10-06 cs.LG math.OC
Toward Near-Real-Time Marine Oil Spill Detection in SAR Imagery using Quantum-Assisted SVM
Division of Computer Science \& Engineering Louisiana State University Baton Rouge, United States；Department of Petroleum Engineeering Louisiana State University Baton Rouge, United States
本研究提出一种量子辅助SVM集成方法，用于近实时检测SAR影像中的海洋油污，通过量子退火优化小数据集中的SVM支持向量，实现高效准确的油污检测。
2026-05-17 cs.LG quant-ph
On the Impact of Weight Discretization in QUBO-Based SVM Training
Lamarr Institute（拉马尔研究所）
训练支持向量机（SVM）可以被公式化为一个QUBO问题，使得能够使用量子退火进行模型优化。在这项工作中，我们研究了量子位的数量-与双权重的离散化水平相关-如何影响数据集的预测性能。我们将基于QUBO的SVM训练与经典的LIBSVM求解器进行了比较，发现即使是低精度的QUBO编码（例如，每个参数1位）产生有竞争力的，有时是优越的精度。虽然增加的位深度可以实现更大的正则化参数，但它并不总是改善分类。我们的研究结果表明，选择正确的支持向量可能比精确的权重更重要。虽然目前的硬件限制了可解QUBO的大小，但我们的研究结果突出了量子退火在量子设备规模化时用于有效SVM训练的潜力。
2025-10-30 cs.LG
Chance constrained conic-segmentation support vector machine with uncertain data
Xidian University（西安电子科技大学）；KTH Royal Institute of Technology（KTH皇家理工学院）
支持向量机（Support Vector Machines，SVM）是一种著名的有监督的学习算法。此外，圆锥分割SVM（CS-SVM）是标准二进制SVM的自然多类模拟，因为CS-SVM模型处理的是数据点的精确值已知的情况。本文研究了数据点不确定或错误标记时的CS-SVM。利用概率分布的一些已知性质，采用机会约束CS-SVM方法来保证不确定数据的小误分类概率。几何解释CS-SVM的工作原理。最后，我们提出了实验结果，调查机会约束CS-SVM的性能。
2022-09-22 cs.LG math.OC
Analysis and Optimization of Loss Functions for Multiclass, Top-k, and Multilabel Classification
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；Saarland University（萨尔大学）
Top-k错误目前是ImageNet和Places等大规模图像分类基准测试中流行的性能指标。尽管它被广泛接受，但我们对这个指标的理解是有限的，因为大多数以前的研究都集中在它的特殊情况下，前1错误。在这项工作中，我们探索了两个方向，揭示了top-k错误。首先，我们提供了一个深入的分析，建立和最近提出的单标签多类方法，以及详细说明有效的优化算法。我们的研究结果表明，softmax loss和平滑多类SVM在所有k中的top-k误差方面具有惊人的竞争力，这可以通过我们对多类top-k校准的分析来解释。对于特定k的进一步改进是可能的，具有多个提议的前k损失函数。其次，我们使用top-k方法来探索从多类到多标签学习的过渡。特别是，我们发现，它是可能的，以获得有效的多标签分类Pascal VOC使用一个单一的标签，每个图像的训练，而MS COCO的多类和多标签方法之间的差距是更显着的。最后，我们的贡献与所考虑的top-k和多标签损失函数训练的有效算法是独立的利益。
2016-12-12 cs.CV cs.LG stat.ML
Multiclass Learning Approaches: A Theoretical Comparison with Implications
The Hebrew University（希伯来大学）
我们从理论上分析和比较了以下五种流行的多类分类方法：One vs. All，All Pairs，Tree-based classifiers，带有随机生成代码矩阵的纠错输出代码（ECOC）和MulticlassSVM。在前四种方法中，分类是基于二进制分类的简化。我们考虑的情况下，二元分类器来自一类VC维$d$，特别是从类的半空间在$\reals^d$。我们分析了这些方法的估计误差和近似误差。我们的分析揭示了有趣的结论的实际意义，在各种条件下的不同方法的成功。我们的证明技术采用VC理论的工具来分析假设类的\emph{approximation error}。这与大多数（如果不是全部的话）以前使用VC理论形成鲜明对比，这些理论只处理估计误差。
2012-06-01 cs.LG
Adaptive Kernel Value Caching for SVM Training
National University of Singapore（新加坡国立大学）
支持向量机（SVM）可以解决结构化的多输出学习问题，如多标签分类、多类分类和向量回归等。SVM训练是昂贵的，特别是对于大型和高维数据集。支持向量机训练的瓶颈往往在于核值的计算。在许多现实世界的问题中，在训练期间的许多迭代中使用相同的内核值，这使得内核值的缓存可能有用。大多数现有的研究只是采用LRU（最近最少使用）替换策略来缓存内核值。然而，正如我们在本文中分析的，LRU策略通常在训练的最后阶段附近实现高命中率，但在整个训练过程中效果不佳。因此，我们提出了一种新的缓存策略，称为EFU（不经常使用），它取代了不经常使用的内核值，增强了LFU（最不经常使用）。实验结果表明，在高斯核函数的训练下，EFU的命中率通常比LRU高20%左右。为了进一步优化策略，我们提出了一种缓存策略称为HCST（混合缓存的SVM训练），它有一个新的机制，自动适应更好的缓存策略在不同的阶段的训练。我们已经将缓存策略集成到ThunderSVM中，ThunderSVM是众核处理器上的最新SVM库。实验结果表明，HCST在多标签分类、多类分类和回归等问题中自适应地实现了高命中率，且运行时开销很小。与现有的其他缓存策略相比，HCST的训练时间平均减少了20%.
2019-11-08 cs.LG cs.PF stat.ML
Centroid Based Binary Tree Structured SVM for Multi Classification
BITS-Pilani（比尔拉科学技术学院皮拉尼分校）
支持向量机（Support Vector Machines，SVMs）主要用于两类分类。但在实际应用中，基于多类分类的需求，它们也被扩展到N类分类。虽然使用SVM的N类分类有相当大的研究关注，在训练和测试时获得最小数量的分类器仍然是一个持续的研究。我们提出了一种新的算法CBTS-SVM（基于质心的二叉树结构的SVM），解决了这个问题。在此，我们建立了一个二叉树的SVM模型的基础上的相似性的类标签，找到他们的距离，从相应的质心在根级别。实验结果表明，CBTS与OVO具有合理的伽马值和成本值的可比精度。另一方面，当CBTS与OVA相比，它提供了更好的准确性，减少了训练时间和测试时间。此外，CBTS也是可扩展的，因为它能够处理大型数据集。
2015-12-02 cs.LG
Confusion Matrix Stability Bounds for Multiclass Classification
Aix-Marseille Université（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）
在本文中，我们提供了新的理论结果的泛化性能的学习算法多类分类问题。我们工作的独创性在于，我们建议使用分类器的混淆矩阵作为其质量的衡量标准;我们的贡献是在试图建立和研究新的评估措施（例如ROC曲线）的统计特性的工作中。在我们提出的基于混淆的学习框架中，我们声称有针对性的目标是最小化混淆矩阵C的大小，通过其算子范数来测量||C||.我们推导出广义界的混淆矩阵（大小）的一致稳定性的扩展框架，适用于矩阵值损失的情况下。我们的研究是一个非常新的矩阵浓度不等式，推广McDiarmid不等式。作为我们的理论结果的相关性的说明，我们展示了两个SVM学习过程可以被证明是混淆友好的。据我们所知，本论文是第一个从理论角度研究混淆矩阵。
2012-05-24 cs.LG
Learning from Imbalanced Multiclass Sequential Data Streams Using Dynamically Weighted Conditional Random Fields
The University of Adelaide（阿德莱德大学）
本研究介绍了一种方法，用于提高不平衡的多类数据流从无线体戴传感器的分类性能。数据不平衡是活动识别中的一个固有问题，它是由活动的不规则时间分布引起的，这些活动是连续的，依赖于以前的运动。我们使用条件随机场（CRF），结构化分类的图形模型，以利用序列中的活动之间的依赖关系。然而，CRF没有考虑训练期间班级不平衡的负面影响。我们提出了一个类的动态加权CRF（dWCRF），其中的权重是在训练过程中自动确定的，通过最大化预期的整体F分数。我们的研究结果的基础上三个案例研究，从医疗保健应用程序使用无电池的身体磨损传感器，表明我们的方法，在一般情况下，提高整体和少数类F-分数相比，其他基于CRF的分类器，并实现类似或更好的整体和类的性能相比，基于SVM的分类器在有限的训练数据的条件下。我们还使用额外的电池供电的身体穿戴传感器数据集来确认我们的方法的性能，在高级不平衡的情况下实现了类似的结果。
2016-03-11 cs.LG
Automated Classification of Dry Bean Varieties Using XGBoost and SVM Models
University of Sussex（萨塞克斯大学）
本文基于12,909份干豆样本，结合PCA降维与嵌套交叉验证，比较XGBoost和SVM对七个干豆品种的自动分类性能，分别取得94.00%和94.39%的准确率。
2024-08-02 cs.LG
Probabilistic Quantum SVM Training on Ising Machine
针对现有QUBO基QSVM模糊边界识别弱、量子比特受限的问题，提出适用于CIM的概率QSVM训练框架，结合玻尔兹曼概率方法与批处理集成策略，在多数据集上实现准确率与训练速度的显著提升。
2025-03-20 cs.LG quant-ph
A Computationally Efficient Multiclass Time-Frequency Common Spatial Pattern Analysis on EEG Motor Imagery
Virginia Tech（弗吉尼亚理工大学）
共同空间模式（CSP）是一种流行的脑电（EEG）运动想象（MI）特征提取方法。本文对传统的CSP算法进行了改进，提高了多类MI分类的精度，并保证了计算过程的高效性。EEG MI数据是从脑机接口（BCI）竞赛IV中收集的。首先，对每一次实验进行带通滤波和时频分析。然后，根据信号能量的大小选择最优的脑电信号进行CSP特征提取。最后，提取的特征进行分类的三个分类器，线性判别分析（LDA），朴素贝叶斯（NVB），支持向量机（SVM），在并行的分类精度比较。实验结果表明，该算法的平均计算时间比第四届BCI竞赛第一名FBCSP算法减少了37.22%，比传统CSP算法增加了4.98%。对于分类率，与BCI竞赛IV的前3名获奖者相比，所提出的算法kappa值达到第二高。
2020-08-25 cs.LG eess.SP
A Predicting Phishing Websites Using Support Vector Machine and MultiClass Classification Based on Association Rule Techniques
University of Ibadan（伊巴丹大学）
本研究提出一种结合支持向量机（SVM）和基于关联规则的多类分类（MCAR）的混合方法，通过MCAR进行特征提取与规则生成、SVM进行分类预测，在11056个网站上实现了98.30%的钓鱼网站分类准确率。
2025-05-27 cs.LG
ODTE -- An ensemble of multi-class SVM-based oblique decision trees
提出以 STree 斜决策树为基分类器、在节点中利用多类 SVM 划分超平面的 ODTE 集成，并在 49 个数据集上验证其性能与模型紧凑性优势。
2025-03-16 cs.LG
Skin Lesion Segmentation and Classification for ISIC 2018 by Combining Deep CNN and Handcrafted Features
University of Dayton（代顿大学）
这份简短的报告描述了我们提交给ISIC 2018挑战的任务1和任务3的皮肤病变分析对黑色素瘤检测。这项工作由代顿大学信号和图像处理实验室的一组研究人员完成。我们提出的方法在计算上是高效的，结合了来自深度学习和手工特征的信息。对于Task3，我们形成了一种新型的图像特征，称为混合特征，它比单一方法特征具有更强的区分能力。这些功能被用作一个决策模型，是基于多类支持向量机（SVM）分类器的输入。所提出的技术进行评估在线验证数据库。我们的得分是0.841与SVM分类器的验证数据集。
2019-08-14 cs.CV cs.LG eess.IV
Wasserstein Distributionally Robust Multiclass Support Vector Machine
Georgia Institute of Technology（佐治亚理工学院）
针对数据特征与标签不确定、不平衡数据下一对多分布鲁棒分类器表现不佳的问题，提出基于Crammer-Singer损失的Wasserstein分布鲁棒多分类SVM，含核版本与投影次梯度优化算法，在不平衡数据及真实数据集上表现更优。
2024-09-12 cs.LG stat.ML
Homotopy Continuation Approaches for Robust SV Classification and Regression
Nagoya Institute of Technology（名古屋工业大学）；The University of Tokyo（东京大学）
在支持向量机（SVM）应用中，当数据不可靠且含有一部分离群值时，SVM的非鲁棒性往往会导致性能下降。虽然已经研究了许多提高支持向量机鲁棒性的方法，但在鲁棒支持向量机学习中仍然存在两个主要挑战。首先，鲁棒学习算法本质上是非凸优化问题。因此，重要的是发展一种非凸优化方法的鲁棒支持向量机，可以找到一个很好的局部最优解。第二个实际问题是如何调整控制鲁棒性和效率之间平衡的超参数。不幸的是，由于非凸性，具有稍微不同的超参数值的鲁棒SVM解决方案可能会显著不同，这使得模型选择非常不稳定。在本文中，我们同时解决这两个问题，通过引入一种新的同伦方法来非凸鲁棒SVM学习。我们的基本思想是引入参数化的鲁棒支持向量机的公式，它通过代表离群值影响的参数来连接标准支持向量机和完全鲁棒支持向量机。给出了鲁棒支持向量机局部最优解存在的充要条件，并提出了一种算法，该算法在野值影响逐渐减小的情况下，能够跟踪局部最优解的路径。我们的同伦方法的一个优点是，它可以被解释为模拟退火，一种常见的方法，找到一个很好的局部最优解的非凸优化问题。此外，我们的同伦方法允许稳定和有效的模型选择的基础上的路径的局部最优解。所提出的方法的经验表现，通过密集的数值实验，无论是强大的分类和回归问题。
2015-07-12 cs.LG stat.ML
How to tune the RBF SVM hyperparameters?: An empirical evaluation of 18 search algorithms
Computing Institute University of Campinas（坎皮纳斯大学计算研究所）；Facultad de Ciencias y Filosofía Universidad Peruana Cayetano Heredia（秘鲁卡耶塔诺埃雷迪亚大学科学与哲学学院）
具有RBF核的SVM通常是大多数数据集的最佳分类算法之一，但重要的是要根据数据本身调整两个超参数$C$和$γ$。通常，超参数的选择是一个非凸优化问题，因此已经提出了许多算法来解决它，其中包括：网格搜索，随机搜索，贝叶斯优化，模拟退火，粒子群优化，Nelder Mead等。也有人建议将$γ$和$C$的选择分开。我们在115个现实生活中的二进制数据集上实证比较了18个这些建议的搜索算法（共47种组合具有不同的参数化）。我们发现（除其他事项外），树的Parzen估计和粒子群优化选择更好的超参数，只有轻微增加计算时间相对于网格搜索具有相同数量的评价。我们还发现，花费太多的计算精力搜索超参数将不太可能导致更好的性能，为未来的数据，并有没有显着的差异，不同的程序来选择最好的一组超参数时，发现一个以上的搜索算法。
2020-08-26 cs.LG stat.ML
Evaluating Large Language Models for Gait Classification Using Text-Encoded Kinematic Waveforms
研究评估了将连续步态运动学波形编码为文本数值序列时，通用大语言模型在步态分类中的性能，并与传统机器学习方法进行比较。
2026-03-04 cs.HC cs.LG
The Severity Prediction of The Binary And Multi-Class Cardiovascular Disease -- A Machine Learning-Based Fusion Approach
Rajshahi University of Engineering & Technology（拉杰沙希工程技术大学）
在当今世界，几乎每个部门都有大量的数据。这些数据已经成为一种资产，因为我们可以使用这些庞大的数据来查找信息。主要是医疗保健行业包含许多数据，包括患者和疾病相关信息。通过使用机器学习技术，我们可以寻找隐藏的数据模式来预测各种疾病。最近，CVD或心血管疾病已成为世界各地死亡的主要原因。死于心血管疾病的人数令人恐惧。这就是为什么许多研究人员正在尽最大努力设计一个预测模型，可以挽救许多生命使用数据采掘模型。在这项研究中，一些融合模型已被构建来诊断心血管疾病及其严重程度。人工神经网络、SVM、逻辑回归、决策树、随机森林和AdaBoost等机器学习（ML）算法已应用于心脏病数据集以预测疾病。针对多类分类中存在的类不平衡问题，采用了随机过采样的方法。为了提高分类性能，采用加权评分融合方法。首先，对模型进行训练。经过训练后，两种算法的决策采用加权求和规则相结合。共三个融合模型已开发的六个ML算法。实验结果表明，该系统具有良好的性能指标。所提出的方法已经实验了不同的测试训练比的二进制和多类分类问题，并为他们两个，融合模型表现良好。多类分类的最高准确率为75%，二进制为95%。该代码可以在：https://github.com/hafsa-kibria/Weighted_score_fusion_model_heart_disease_prediction中找到
2022-03-09 cs.AI cs.LG
Scalable Twin Neural Networks for Classification of Unbalanced Data
Indian Institute of Technology Delhi（德里印度理工学院）
双支持向量机（TWSVM）已经成为一种有效的替代支持向量机（SVM）的学习不平衡数据集。TWSVM通过解决几个较小的问题来学习两个非平行的分类超平面。然而，它不适合大型数据集，因为它涉及矩阵运算。在本文中，我们讨论了一个双神经网络（双NN）的结构，从大型非平衡数据集的学习。Twin NN还学习最佳特征映射，从而更好地区分类别。我们还提出了一个扩展的多类数据集的网络架构。本文中提出的结果表明，双神经网络的推广和规模以及大型不平衡数据集。
2018-01-27 cs.LG
Complex Support Vector Machines for Regression and Quaternary Classification
University of Athens（雅典大学）；Research Academic Computer Technology Institute（学术计算机技术研究所）；Boston University（波士顿大学）
本文提出了一个新的框架复杂的支持向量回归机以及支持向量机的四元分类。该方法利用宽线性估计的概念来建模复值数据的输入-输出关系，并考虑两种情况：a）将复数据分成其实部和虚部，并采用典型的实核将复数据映射到复杂的特征空间; b）使用纯复核将数据直接映射到诱导的复特征空间。最近开发的Wirtinger的演算复再生核希尔伯特空间（RKHS），以计算拉格朗日和导出的对偶优化问题。作为我们的主要成果之一，我们证明了任何复杂的SVM/SVR任务是等效的解决两个真正的SVM/SVR任务利用一个特定的实内核，这是由所选择的复杂的内核。特别是，纯复杂内核的情况下，导致新的内核，这是以前没有考虑过的。在分类的情况下，所提出的框架固有地将复杂空间分成四个部分。这自然导致解决四类任务（四元分类），而不是真正SVM的典型两类。反过来，这个原理可以在多类问题中使用，作为基于四个类的分裂类场景，而不是一个对所有的方法;这可以导致显着的计算节省。实验表明，所提出的框架的回归和分类任务，涉及复杂的数据的有效性。
2014-07-15 cs.LG stat.ML
Formulation-Level Auto-Tuning for QUBO-Based Machine Learning: A Case Study Across Multiple Quantum-Inspired Annealers
研究基于QUBO的机器学习公式级自动调优，通过Optuna框架解决多量子启发退火器上SVM参数联合选择问题，有内外两个优化级别，经实验对比传统网格搜索，在分类任务中平均增益显著，表明要联合评估公式与后端能力。
2026-07-22 cs.LG cs.PF
Geometric Mixture Classifier (GMC): A Discriminative Per-Class Mixture of Hyperplanes
The Nilgiris, Tamil Nadu, India - 643005（印度泰米尔纳德邦尼尔吉里斯）；SunitechAI
本文提出几何混合分类器（GMC），用逐类超平面混合建模多模态类别，结合软或组合与softmax后验，并配合几何初始化、平面预算和正则化等训练策略，在保持可解释性和低推理成本的同时取得优于线性模型且接近核方法与深度模型的性能。
2025-09-20 cs.AI cs.CL cs.LG
Gaussian Robust Classification
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
监督学习是关于概括知识的能力。具体地，学习的目标是使用训练数据来训练分类器，以使得它将能够正确地分类新的不可见数据。为了实现这一目标，仔细设计学习器非常重要，这样它就不会过拟合训练数据。后者通常通过添加正则化项来完成。统计学习理论解释了这种方法的成功，声称它限制了学习模型的复杂性。然而，这种解释是相当抽象的，没有几何直观。分类器的泛化误差可以被认为与其对数据扰动的鲁棒性相关：处理扰动的分类器预计会很好地泛化。事实上，Xu等人[2009]已经表明SVM公式等同于鲁棒优化（RO）公式，其中对手在预定半径的球内置换训练和测试点。在这项工作中，我们探索了一种不同的鲁棒性，即用以样本为中心的高斯云来改变每个数据点。损失被评估为云上的基础损失函数的期望。这种设置符合这样一个事实，即在许多应用中，数据与噪声一起采样。我们开发了一个RO框架，其中对手选择噪声的协方差。在我们的算法GURU中，调谐参数是噪声的谱界，因此可以使用物理或应用考虑来估计。我们的实验表明，该框架的性能以及SVM，甚至在某些情况下略好。Mercer内核和多类的情况下，以及推广。我们还表明，我们的框架可以进一步推广，使用凸透视函数的技术。
2011-04-01 cs.LG
A Robust Support Vector Machine Approach for Raman COVID-19 Data Classification
Department of Informatics, Systems and Communication, University of Milano-Bicocca（信息学、系统与通信系，米兰-比科卡大学）；Department of Management, Information and Production Engineering, University of Bergamo（管理、信息与生产工程系，博尔盖塞大学）
本文提出一种基于鲁棒优化的支持向量机方法，用于拉曼光谱 COVID-19 数据分类，通过范数有界不确定性集增强模型鲁棒性，并在意大利医院数据集上验证了其优于传统分类器的性能。
2025-01-29 cs.LG q-bio.QM
