Ensemble of Binary Classifiers Combined Using Recurrent Correlation Associative Memories
University of Campinas(坎皮纳斯大学)
集成方法应该巧妙地将一组基本分类器组合起来,以产生改进的分类器。多数投票是用于在集成方法中组合分类器的方法的示例。在本文中,我们建议使用联想记忆模型来组合分类器。准确地说,我们介绍集成方法的基础上,经常相关联想记忆(RCAMs)的二进制分类问题。我们表明,基于RCAM的集成分类器可以被视为多数投票分类器,其权重取决于基本分类器和所得集成方法之间的相似性。更确切地说,基于RCAM的集成使用循环咨询和投票方案来组合分类器。此外,计算实验证实了基于RCAM的集成方法在二元分类问题中的潜在应用。
2020-09-18 cs.LG stat.ML
How to Control the Error Rates of Binary Classifiers
University of Belgrade(贝尔格莱德大学);Studentski trg 1, 11000 Belgrade
传统的二进制分类框架构造的分类器可能具有良好的准确性,但其假阳性和假阴性错误率不受用户的控制。在许多情况下,其中一个错误是更严重的,只有相应的比率低于预定义的阈值的分类器是可接受的。在这项研究中,我们结合二进制分类与统计假设检验,以控制目标错误率已经训练的分类器。特别是,我们将展示如何将二进制分类器转换为统计测试,计算分类p值,并使用它们来限制目标错误率。
2020-10-21 cs.LG stat.ML
From Uncertainty to Precision: Enhancing Binary Classifier Performance through Calibration
Université du Québec à Montréal(蒙特利尔大学);Aix Marseille Univ(艾克斯-马赛大学);CNRS(法国国家科学研究中心);AMSE(马赛经济与管理科学研究院);Université de Montréal(蒙特利尔大学)
本文提出Local Calibration Score改进指标,通过局部回归方法提升二分类器校准,并在信用违约预测中验证其有效性。
2024-02-12 cs.LG
Don't Label Twice: Quantity Beats Quality when Comparing Binary Classifiers on a Budget
Max Planck Institute for Intelligent Systems, Tübingen(马克斯·普朗克智能系统研究所,蒂宾根);Tübingen AI Center(蒂宾根人工智能中心);ETH Zürich(苏黎世联邦理工学院)
研究如何在预算内有效利用噪声标签比较两个二分类器的准确性,证明在选择更优分类器时,应优先收集更多样本的单一标签而非多个标签的多数投票。
2026-04-08 cs.LG
Zero-failure testing of binary classifiers
Durham University(杜伦大学);Serve Legal Ltd(Serve Legal有限公司)
本文提出基于零失败测试的二元分类器评估方法,通过非对称处理两类错误并构建难度递增的嵌套测试序列,以负样本成功率衡量性能,并在法定年龄估计场景中验证其有效性。
2024-07-04 cs.LG
Unfolding Projection-free SDP Relaxation of Binary Graph Classifier via GDPA Linearization
Shanghai Jiaotong University(上海交通大学);York University(约克大学);Cisco Systems(思科系统)
算法展开通过将基于模型的算法的每次迭代实现为神经层来创建可解释且简约的神经网络架构。然而,由于需要全矩阵特征分解,因此每次迭代使用半正定(PSD)锥投影算子展开邻近分裂算法是昂贵的。在本文中,利用最近的线性代数定理称为Gershgorin盘完美对齐(GDPA),我们展开的二进制图分类器的半定规划松弛(SDR)的无投影算法,其中PSD锥约束被替换为一组“最紧密的可能”的线性约束每次迭代。因此,每次迭代只需要计算一个线性规划(LP)和一个极端的特征向量。在展开的网络内部,我们通过随机梯度下降(SGD)优化参数,SGD以两种方式确定图边缘权重:i)计算特征距离的度量矩阵,以及ii)通过局部线性嵌入(LLE)计算的稀疏权重矩阵。实验结果表明,我们的展开网络优于纯基于模型的图分类器,并实现了与纯数据驱动网络相当的性能,但使用的参数要少得多。
2021-09-10 cs.LG
Challenges in Binary Classification
Beijing Jiaotong University(北京交通大学)
该研究将最优二分类器求解转化为基于两类欧氏距离极大极小的变分问题,证明SVM是其线性特例,同时指出该框架在非线性分类上的局限,明确最优二分类器设计仍是开放问题并梳理相关挑战。
2024-06-19 cs.LG
Confusion Matrices and Accuracy Statistics for Binary Classifiers Using Unlabeled Data: The Diagnostic Test Approach
University of Minnesota(明尼苏达大学)
医学研究人员已经解决了在没有金标准测试进行比较的情况下估计二元医学诊断测试的灵敏度和特异性的问题。这个问题与在未标记数据上估计分类器的混淆矩阵相同。本文描述了如何修改诊断测试解决方案,以估计无标记数据上监督或无监督二元分类器的混淆矩阵和准确性统计。
2022-12-27 cs.LG stat.AP stat.ML
Supervised Classification: Quite a Brief Overview
Delft University of Technology(代尔夫特理工大学);University of Copenhagen(哥本哈根大学)
监督分类的原始问题考虑的任务是根据来自这些对象的数值测量值自动将对象分配到它们各自的类。分类器是实现从这些测量(也称为特征或输入)到所谓的类标签或输出的实际功能映射的工具。模式识别和机器学习领域研究构造这种分类器的方式。监督方法背后的主要思想是从示例中学习:给定一些示例输入-输出关系,在多大程度上可以学习将任何新的和不可见的特征向量带到其正确类的一般映射?本章提供了一个基本的介绍如何来监督分类问题的基本思想。此外,它还概述了一些特定的分类技术,深入研究了对象表示和分类器评估的问题,并(非常)简要地介绍了一些基本监督分类任务的变化,这些变化也可能是从业者感兴趣的。
2017-10-25 cs.CV cs.LG stat.ML
On the Minimal Supervision for Training Any Binary Classifier from Only Unlabeled Data
The University of Tokyo(东京大学);RIKEN(理化学研究所);Google(谷歌)
经验风险最小化(ERM)是监督分类的常用方法,它具有适当的损失函数和正则化。在本文中,我们研究训练任意(从线性到深度)的二元分类器从只有未标记的(U)数据的ERM。我们证明,这是不可能的,以无偏的方式估计任意的二元分类器的风险,给定一组U数据,但它成为可能给定两组U数据与不同的类先验。这两个事实回答了一个基本的问题-对于只从U数据训练任何二元分类器来说,最小的监督是什么。根据这些发现,我们提出了一个基于ERM的学习方法,从两组U数据,然后证明它是一致的。实验表明,该方法可以训练深度模型,并优于从两组U数据中学习的最新方法。
2019-03-12 cs.LG stat.ML
Very Simple Classifier: a Concept Binary Classifier toInvestigate Features Based on Subsampling and Localility
University of Trento(特伦托大学)
我们提出了非常简单的分类器(VSC)的一种新的方法,旨在将子采样和局部性的概念,在定义的功能被用作一个感知器的输入。基本原理是局部性理论上保证了泛化误差的界。VSC中的每个特征都是基于随机选择的样本对构建的最大间隔分类器。VSC中的局部性是通过将特征的值乘以可以用Chebichev不等式表征的置信度来实现的。然后,该层的输出被馈送到神经元的输出层。然后,输出层的权重由正则化伪逆确定。在二元分类任务中,对9个竞争对手进行了广泛的比较。在22个固定参数的基准数据集上的测试结果表明,VSC与多层感知器(MLP)相比具有竞争力,并且优于其他竞争对手。参数空间的探索表明,VSC可以优于MLP。
2016-09-14 cs.LG stat.ML
Attributing AUC-ROC to Analyze Binary Classifier Performance
Google(谷歌)
受试者工作特征曲线下的面积(AUC-ROC)是二进制分类器的一个流行的评估指标。在本文中,我们讨论的技术,以分割AUC-ROC沿人类可解释的尺寸。AUC-ROC不是数据样本上的加性/线性函数,因此对总体AUC-ROC的这种分段不同于对数据段的AUC-ROC制表。为了分割整体AUC-ROC,我们必须首先解决一个\emph{attribution}问题,以识别各个示例的信用。我们观察到,尽管AUC-ROC在示例上是非线性的,但在示例的\emph{pairs}上是线性的。这一观察导致了一个简单,有效的归因技术的例子(例如归因),并为成对的例子(对归因)。我们使用决策树通过树预测属性来自动切片这些属性;我们使用诚实估计的概念以及t检验来减轻错误发现。我们使用该方法的实验表明,在劣势模型自己的训练目标上,劣势模型可以胜过优势模型(经过训练以优化不同的训练目标),这是古德哈特定律的体现。相比之下,AUC属性可以进行合理的比较。可以使用示例属性来划分这种比较。配对属性用于对项目配对进行分类-一个正面标记,一个负面标记-模型难以分离。这些类别标识分类器的决策边界和净空以改进AUC。
2022-05-24 cs.LG
An Online Universal Classifier for Binary, Multi-class and Multi-label Classification
Nanyang Technological University(南洋理工大学);Dalian Maritime University(大连海事大学)
分类涉及将输入样本与相应的目标标签相关联的映射函数的学习。分类问题有两大类:单标签分类和多标签分类。传统的二元和多类分类是单标签分类的子类别。几个分类器被开发用于二进制,多类和多标签分类问题,但在文献中没有分类器能够执行所有三种类型的分类。在本文中,提出了一种新的在线通用分类器能够执行所有三种类型的分类。作为一种高速在线分类器,该技术可以应用于流数据应用。所开发的分类器的性能进行评估,使用数据集从二进制,多类和多标签的问题。所获得的结果进行比较,与国家的最先进的技术,从每个分类类型。
2016-09-03 cs.AI cs.LG cs.NE
Unbiased Estimations based on Binary Classifiers: A Maximum Likelihood Approach
Statistics Netherlands(荷兰统计局);Radboud University(拉德堡德大学);Eindhoven Univ. of Technology(埃因霍温理工大学)
在一定比例的正项上训练的二元分类器在应用于具有不同比例的正项的数据集时会引入偏差。处理这个问题的大多数解决方案都假设关于后一种分布的一些信息是已知的。然而,情况并非总是如此,当这一比例是目标变量时当然如此。本文提出了一种数据集中阳性真比例的极大似然估计,并在合成数据和真实世界数据上进行了检验。
2021-02-17 cs.LG stat.ML
A game-theoretic framework for classifier ensembles using weighted majority voting with local accuracy estimates
National Kapodistrian Univ. of Athens (NKUA/UoA)(雅典国立卡波季斯特里安大学);University of Houston (UH)(休斯顿大学)
本文提出了一种新的二值分类器优化组合方法。从博弈论的角度来处理分类器组合问题。建议的框架,适应加权多数规则(WMR)进行测试,对常见的排名为基础的,贝叶斯和简单多数模型,以及两个软输出平均规则。在基准数据集上对支持向量机(SVM)、普通二叉树分类器(OBTC)和加权k-最近邻(w/k-NN)模型进行的实验表明,采用局部精度估计器和解析计算的最优权值的自适应WMR模型优于所有其他简单的组合规则。
2013-02-03 cs.LG
Search Strategies for Binary Feature Selection for a Naive Bayes Classifier
Université Paris 1 Panthéon-Sorbonne(巴黎第一大学先贤祠-索邦大学);Snecma Groupe Safran(赛峰集团斯奈克玛公司)
本文比较了几种特征选择方法的朴素贝叶斯分类器(NBC)时,所研究的数据描述了大量的冗余二进制指标。由分类错误概率的NBC估计指导的包装器方法优于过滤器方法,同时保持合理的计算成本。
2015-06-12 cs.LG stat.ML
Binary Classifier Inspired by Quantum Theory
University of Padova(帕多瓦大学);Department of Information Engineering(信息工程系);Via Gradenigo 6/b 35131 - Padova, Italy(意大利帕多瓦市Gradenigo街6/b号,邮编35131)
机器学习(ML)帮助我们从原始数据中识别模式。ML被用于许多领域,即生物医学,农业,食品技术等,尽管最近的技术进步,预测仍有很大的改进空间。目前的ML模型基于概率和统计的经典理论,现在可以用量子理论(QT)取代,以提高ML的有效性。在本文中,我们提出了由量子理论启发的二进制分类器(BCIQT)模型,它在每个类别的召回率方面都优于最先进的分类。
2019-03-04 cs.LG stat.ML
Constructing Multiclass Classifiers using Binary Classifiers Under Log-Loss
School of Computer Science and Engineering, Hebrew University of Jerusalem(希伯来大学计算机科学与工程学院)
本文研究了从二进制元素构造多类分类器的方法,并通过后悔度来量化分类器的性能,后悔度是相对于贝叶斯最优对数损失定义的。我们讨论两种已知的方法。第一个是一对所有(OVA),我们证明了多类遗憾的上界的组成分类器的二进制遗憾的总和。第二种是基于二叉树的层次分类。对于这种方法,我们证明了多类遗憾是一个加权和的成分二进制遗憾的权重是由树结构。我们还介绍了一个存储层次分类方法,这可能会产生较小的日志损失和遗憾。这些分类方法的优点是通过模拟合成和现实生活中的数据集。
2021-08-12 cs.IT cs.LG math.IT
Binary Classifier Calibration using an Ensemble of Near Isotonic Regression Models
在数据采掘的许多实际任务中,从数据中学习精确的概率模型是至关重要的。在本文中,我们提出了一种新的非参数校准方法称为\textit{ensemble of near isotonic regression}(ENIR)。该方法可以被认为是BBQ,最近提出的校准方法,以及常用的基于保序回归的校准方法的扩展。ENIR旨在解决保序回归的关键限制,即预测的单调性假设。与BBQ类似,该方法对二元分类器的输出进行后处理以获得校准的概率。因此,它可以与许多现有的分类模型相结合。我们证明了ENIR的性能合成和真实的数据集上常用的二进制分类模型。实验结果表明,该方法优于几种常用的二元分类器标定方法。特别是在真实数据上,ENIR通常在统计学上显著优于其他方法,并且永远不会更差。它能够提高分类器的校准能力,同时保持其区分能力。该方法对于大规模数据集也是计算上易处理的,因为它是$O(N \log N)$时间,其中$N$是样本的数量。
2015-11-16 cs.LG stat.ML
Federated Calibration and Evaluation of Binary Classifiers
Meta AI
我们解决了两个主要的障碍,实际使用的监督分类分布式私人数据。无论分类器是由合作客户端的联合训练还是集中训练,(1)输出分数必须校准,(2)性能指标必须评估-所有这些都没有在一个地方组装标签。特别是,我们展示了如何在三种隐私模型下在联邦设置中执行校准和计算精度,召回率,准确率和ROC-AUC(i)安全聚合,(ii)分布式差分隐私,(iii)本地差分隐私。我们的定理和实验澄清了隐私,准确性和数据效率之间的权衡。它们还有助于确定给定应用程序是否有足够的数据来支持联合校准和评估。
2022-10-22 cs.CR cs.LG
Biased Binary Attribute Classifiers Ignore the Majority Classes
University of Zurich(苏黎世大学)
本文将基于梯度的CAM方法扩展至二元分类器,发现不平衡数据训练的有偏分类器主要依赖偏置激活来预测多数类,而采用类别权重训练的平衡分类器则能对各类别均产生合理的预期激活。
2024-03-21 cs.AI cs.CV cs.LG
Efficient Constrained Graph Search for Post-hoc Error Correction in Binary Classifiers
Leidos Holdings Inc.(莱多斯控股公司);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
提出模型无关的约束事后纠错框架,通过图搜索和动态约束为冻结二分类器生成可解释规则,高效消除假阳性并控制新错误。
2026-10-14 cs.LG
Chi-Square Test Neural Network: A New Binary Classifier based on Backpropagation Neural Network
School of Information Science and Engineering(信息科学与工程学院);Lanzhou University(兰州大学)
我们介绍了卡方检验神经网络:一个单隐层反向传播神经网络使用卡方检验定理重新定义的成本函数和误差函数。使用标准反向传播算法修改权重和阈值。该方法的优点是在训练集和测试集上进行一致的数据分布。它可以用于二进制分类。在真实数据集上的实验结果表明,与相关方法相比,该算法能显著提高分类精度。
2018-09-04 cs.LG stat.ML
Heuristic Ternary Error-Correcting Output Codes Via Weight Optimization and Layered Clustering-Based Approach
Tsinghua University(清华大学)
多类分类问题的一个重要分类器集成是纠错输出码(ECOCs)。它通过将多类问题分解为一系列的二值类问题,将多类问题与二值类分类器连接起来。在本文中,我们提出了一个启发式的三元代码,命名为重量优化和分层排序为基础的ECOC(WOLC-ECOC)。它从一个任意有效的ECOC开始,迭代以下两个步骤,直到训练风险收敛。第一步,命名为基于分层聚类的ECOC(LC-ECOC),构造多个强分类器上最混乱的二进制类问题。第二步通过一种新的优化加权(OW)解码算法将新的分类器加入到ECOC中,其中解码的优化问题通过割平面算法来解决。从技术上讲,LC-ECOC使得启发式训练过程不会被一些困难的二元类问题所阻碍。OW译码保证了训练风险的不增加,从而保证了较小的码长。在14个UCI数据集和一个音乐流派分类问题上的实验结果证明了WOLC-ECOC的有效性。
2014-04-23 cs.LG
The Entire Quantile Path of a Risk-Agnostic SVM Classifier
Canberra Research Laboratory, NICTA(堪培拉研究实验室,NICTA);Australian National University(澳大利亚国立大学)
分位数二元分类器使用以下规则:如果P(Y = 1),则将x分类为+1| X = x)>= t,否则为-1,对于固定分位数参数t {[0,1]。已经证明,支持向量机(SVM)在极限下是t = 1/2的分位数分类器。在本文中,我们表明,通过使用不对称的错误分类成本支持向量机可以适当地扩展到恢复,在限制下,分位数二进制分类器的任何t。然后,我们提出了一个原则性的算法来解决扩展的SVM分类器的所有值的t同时。这有两个含义:第一,可以恢复整个条件分布P(Y = 1| X = X)= t,对于t {[0,1]。其次,我们可以建立一个风险不可知的SVM分类器,其中的错误分类成本不需要先验已知。初步的数值实验表明了该算法的有效性。
2012-05-09 cs.LG
Bridging the Gap: Unifying the Training and Evaluation of Neural Network Binary Classifiers
虽然神经网络二进制分类器通常根据诸如准确度和$F_1$分数之类的指标进行评估,但它们通常使用交叉熵目标进行训练。如何解决培训与评价之间的这一差距?虽然已经采用了特定的技术来优化某些基于混淆矩阵的度量,但是在某些情况下,将这些技术推广到其他度量是具有挑战性的或不可能的。对抗性学习方法也被提出来通过基于混淆矩阵的指标来优化网络,但它们往往比常见的训练方法慢得多。在这项工作中,我们提出了一个统一的方法来训练神经网络二进制分类器,结合了一个可微近似的Heaviside函数的概率视图的典型混淆矩阵值使用软集。我们的理论分析表明,使用我们的方法来优化一个给定的评价指标,如$F_1$分数,软集的好处,我们广泛的实验表明,我们的方法在几个领域的有效性。
2022-06-02 cs.LG stat.ML
Unsupervised Causal Binary Concepts Discovery with VAE for Black-box Model Explanation
University of Tsukuba(筑波大学);Riken AIP(日本理化学研究所革新智能综合研究中心)
我们的目的是解释一个黑盒分类器的形式:“数据X被归类为类Y,因为X \textit{has} A,B和\textit{does not have} C”,其中A,B和C是高级概念。挑战在于,我们必须以无监督的方式发现一组概念,即,A、B和C,这对解释分类器很有用。我们首先介绍了一个结构生成模型,适合表达和发现这样的概念。然后,我们提出了一个学习过程,同时学习的数据分布,并鼓励某些概念有一个很大的因果关系的分类器输出的影响。我们的方法还允许用户的先验知识,以诱导高的概念的可解释性容易集成。使用多个数据集,我们证明了我们的方法可以发现有用的二进制概念进行解释。
2021-09-09 cs.LG
Unsupervised Representation Learning for Binary Networks by Joint Classifier Learning
Upstage AI Research(Upstage人工智能研究院);NAVER AI Lab.(NAVER人工智能实验室);Yonsei University(延世大学)
自监督学习是一种很有前途的无监督学习框架,它在大型浮点网络中取得了成功。但是这样的网络并不容易部署到边缘设备。为了加速部署模型的好处,无监督的表示学习,这样的资源有限的设备的各种下游任务,我们提出了一个自监督学习方法,使用移动目标网络的二进制网络。特别是,我们建议联合训练一个随机初始化的分类器,附加到一个预训练的浮点特征提取器,与二进制网络。此外,我们提出了一个特征相似性损失,一个动态的损失平衡和修改的多阶段训练,以进一步提高准确性,并呼吁我们的方法烧伤。我们使用七个数据集对五个下游任务进行的经验验证表明,BURN优于二进制网络的自监督基线,有时优于监督预训练。代码可在https://github.com/naver-ai/burn上获得。
2022-03-29 cs.CV cs.LG
Binary Classifier Calibration: Non-parametric approach
University of Piuttsburgh(匹兹堡大学);University of Pittsburgh(匹兹堡大学)
准确校准学习的概率预测模型对于许多实际预测和决策任务至关重要。有两个主要类别的方法用于构建校准的分类器。一种方法是开发用于学习概率模型的方法,这些方法是从头开始的。另一种方法是使用一些后处理方法来转换分类器的输出以进行良好校准,例如直方图分箱,普拉特缩放和保序回归。后处理方法的一个优点是它可以应用于使用任何机器学习方法构建的任何现有概率分类模型。在本文中,我们首先介绍了两个措施,以及如何评估一个分类器校准。我们证明了三个定理表明,使用一个简单的直方图分箱后处理方法,它是可能的,使分类器进行良好的校准,同时保留其歧视能力。此外,通过将直方图分箱方法铸造为基于密度的非参数二元分类器,我们可以使用两个简单的非参数密度估计方法对其进行扩展。我们证明了所提出的校准方法在合成和真实数据集上的性能。实验结果表明,所提出的方法优于或相当于现有的校准方法。
2014-01-14 cs.LG stat.ML
Don't Fear the Bit Flips: Optimized Coding Strategies for Binary Classification
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
经过训练后,分类器必须经常对被噪声破坏的数据进行操作。在本文中,我们考虑这样的噪声对二进制分类器的功能的影响。受分类器鲁棒性工具的启发,我们引入了相同的分类概率(SCP)来测量分类器输出的失真。我们介绍了一个低复杂度的估计的SCP的基础上量化和多项式乘法。我们还研究了基于复制纠错码的信道编码技术。在传统的信道编码方法,纠错是为了保存数据,是不可知的应用程序相比,我们的计划的具体目标是最大限度地提高SCP(相当于最小化的分类器输出的失真)相同的冗余开销。
2017-03-08 cs.LG stat.ML
Fundamental Limits of Deep Learning-Based Binary Classifiers Trained with Hinge Loss
École de Technologie Supérieure (ETS)(高等技术学院(École de Technologie Supérieure));University of Oulu(奥卢大学)
针对深度学习(DL)实证成功的理论基础不明问题,本文推导并验证了基于铰链损失训练的深度ReLU前馈神经网络及结合ReLU与Tanh激活的深度FNN二分类器的渐近测试性能极限。
2025-04-15 cs.AI cs.LG
A Brief History of Learning Classifier Systems: From CS-1 to XCS
University of the West of England(西英格兰大学)
现代学习分类器系统的特征在于它们使用规则准确性作为搜索算法发现有用规则的效用度量。这种搜索通常发生在有限的空间内的共同活动的规则效率。本文给出了这样的系统的演变XCS的历史概述,然后XCS的一些后续发展不同类型的学习。
2014-02-07 cs.LG cs.NE
Trinary Tools for Continuously Valued Binary Classifiers
University of Wisconsin – Madison(威斯康星大学麦迪逊分校)
二元(是/否)任务的分类方法通常会产生一个连续值的分数。机器学习从业者必须执行模型选择、校准、离散化、性能评估、调优和公平性评估。这些任务涉及检查分类器结果,通常使用汇总统计和手动检查细节。在本文中,我们提供了一个交互式的可视化方法来支持这样的连续值分类器检查任务。我们的方法解决了这些任务的三个阶段:校准,工作点选择和检查。我们增强了标准视图并引入了特定于任务的视图,以便它们可以集成到多视图协调(MVC)系统中。我们建立在现有的基于比较的方法,将其扩展到连续分类器,将连续值视为三元(积极,不确定,消极),即使分类器最终不会使用3路分类。我们提供的用例演示了我们的方法如何使机器学习从业者完成关键任务。
2022-04-18 cs.AI cs.HC cs.LG
Using theoretical ROC curves for analysing machine learning binary classifiers
Durham University(杜伦大学)
大多数二进制分类器的工作原理是处理输入以产生标量响应并将其与阈值进行比较。分类器性能的各种度量明确地或隐含地假设属于任一类别的响应的概率分布$P_s$和$P_n$、每种类型的误分类的成本的概率分布,并且从预期成本计算性能分数。在机器学习中,分类器响应是通过实验获得的,性能分数是直接从它们中计算出来的,对$P_s$和$P_n$没有任何假设。在这里,我们认为,省略的步骤估计理论分布的$P_s$和$P_n$可能是有用的。在一个生物识别安全的例子中,我们将beta分布拟合到两个分类器的响应中,一个基于逻辑回归,一个基于ANN,并使用它们来建立一个分类,将其分类为在ROC曲线末端具有不同极端行为的少量类别。
2019-09-21 cs.CV cs.LG stat.ML
Robustifying Binary Classification to Adversarial Perturbation
California Institute of Technology(加州理工学院)
尽管机器学习模型在各种应用中取得了巨大的成功,但这些模型中的大多数都缺乏对输入数据中(即使是很小的)扰动的弹性。因此,增强机器学习模型的新方法似乎非常重要。为此,在本文中,我们考虑的问题,二进制分类与对抗扰动。研究最小-最大优化的解决方案(考虑存在对抗性扰动的最坏情况下的损失),我们引入了一个最大边缘分类器的泛化,该分类器考虑了对手在操纵数据时的能力。我们将该分类器称为“鲁棒最大边缘”(RM)分类器。在损失函数的一些温和的假设下,我们从理论上证明了梯度下降迭代(具有足够小的步长)在其方向上收敛到RM分类器。因此,可以研究RM分类器以计算具有对抗性扰动的二进制分类的各种性能度量(例如,泛化误差)。
2020-10-29 cs.LG math.OC
Shortcut Learning in Binary Classifier Black Boxes: Applications to Voice Anti-Spoofing and Biometrics
TCG CREST;Carnegie Mellon University(卡内基梅隆大学);School of Computing, University of Eastern Finland(东部芬兰大学计算机学院);University of Eastern Finland(东部芬兰大学);University of Oulu(奥卢大学)
本文提出了一种分析二分类黑箱分类器的框架,通过实验验证了在语音反伪装和生物识别任务中减少数据偏见的有效性。
2026-01-25 cs.AI cs.LG
Dynamic Feature Scaling for Online Learning of Binary Classifiers
University of Liverpool(利物浦大学)
缩放特征值是许多机器学习任务中的重要步骤。不同的特征可以具有不同的值范围,并且为了学习准确的分类器,通常需要某种形式的特征缩放。然而,特征缩放作为学习之前的预处理任务进行。这在在线设置中是有问题的,因为两个原因。首先,当我们只观察到少量训练实例时,在学习的初始阶段可能无法准确确定特征的值范围。其次,数据的分布可能会随着时间的推移而变化,这使得我们在预处理步骤中执行的任何特征缩放都变得过时。我们提出了一种简单但有效的方法,在训练时动态缩放功能,从而快速适应数据流中的任何变化。我们比较建议的动态特征缩放方法对更复杂的方法估计缩放参数使用几个基准数据集的二进制分类。我们提出的特征缩放方法在所有基准数据集上的性能始终优于更复杂的方法,并提高了最先进的在线二元分类器算法的分类精度。
2014-07-28 cs.LG stat.ML
Do Fairness Interventions Come at the Cost of Privacy: Evaluations for Binary Classifiers
Australian Artificial Intelligence Institute and the School of Computer Science, University of Technology Sydney(澳大利亚人工智能研究所和悉尼技术大学计算机学院);Data61, CSIRO(Data61和澳大利亚联邦科学与工业研究组织);City University of Macau(澳门城市大学)
本文通过成员推理攻击和属性推理攻击评估公平性增强二元分类器的隐私风险,发现公平性干预通常能增强抵御能力,但揭露了利用公平与有偏差模型预测差异的新型威胁机制,暴露了重大隐私风险。
2025-03-11 cs.LG
On Learning and Enforcing Latent Assessment Models using Binary Feedback from Human Auditors Regarding Black-Box Classifiers
Missouri University of Science and Technology(密苏里科技大学)
算法公平性文献提出了许多数学概念和度量,并且还指出在同时满足它们中的一些或全部的同时在它们之间进行权衡。此外,公平概念的上下文性质使得难以在不同的算法系统中自动进行偏差评估。因此,在本文中,我们提出了一种新的模型,称为潜在的评估模型(LAM)来描述由人类审计师提供的二进制反馈,假设审计师比较分类器的输出,他或她自己的内在判断,为每个输入。我们证明,个人和团体的公平性概念是保证,只要审计师的内在判断本质上满足手头的公平性概念,并相对相似的分类器的评价。我们还证明了LAM和传统的公平概念之间的关系,在三个著名的数据集,即COMPAS,德国信贷和成人人口普查收入数据集。此外,我们还推导出获得PAC学习保证所需的最小反馈样本数,以估计黑盒分类器的LAM。这些保证也通过训练标准的机器学习算法来验证,这些算法基于400名人类审计员关于COMPAS的真实二进制反馈。
2022-02-16 cs.HC cs.LG
Optimal Binary Classifier Aggregation for General Losses
University of California, San Diego(加州大学圣地亚哥分校)
我们解决了在半监督二进制分类设置中聚集具有已知损失界限的预测器集合的问题,以最小化未标记数据上发生的预测损失。我们找到了一个非常一般的一类损失函数,包括所有凸和许多非凸损失的最小最大最优预测,扩展了最近的分析问题的误分类错误。其结果是一个家庭的半监督集成聚合算法是有效的线性学习凸优化,但极小极大最优没有任何松弛。他们的决策规则采用决策理论中熟悉的形式-将sigmoid函数应用于集成裕度的概念-而没有基于裕度的学习中通常所做的假设。
2016-11-07 cs.LG stat.ML
On the pragmatism of using binary classifiers over data intensive neural network classifiers for detection of COVID-19 from voice
Carnegie Mellon University(卡内基梅隆大学);Merlin Inc(梅林公司)
最近,多个研究小组在全球范围内努力从语音中检测COVID-19。不同的研究人员使用来自语音信号的不同类型的信息来实现这一点。各种类型的发声声音以及咳嗽和呼吸的声音都已在基于语音的COVID-19自动检测应用程序中获得不同程度的成功。在本文中,我们表明,从语音中检测COVID-19不需要定制的非标准特征或复杂的神经网络分类器,而只需标准特征和简单的二进制分类器就可以成功完成。事实上,我们表明,后者不仅更准确,更可解释,而且计算效率更高,因为它们可以在小型设备上本地运行。我们在超过1000名受试者的人工数据集上证明了这一点,这些受试者在临床环境中收集和校准。
2022-10-25 cs.LG cs.MM cs.SD
The perils of being unhinged: On the accuracy of classifiers minimizing a noise-robust convex loss
Google(谷歌);Columbia University(哥伦比亚大学)
Van Rooyen等人引入了凸损失函数对随机分类噪声具有鲁棒性的概念,并建立了“无铰链”损失函数在这个意义上是鲁棒的。在本说明中,我们研究了通过最小化精神错乱损失获得的二元分类器的准确性,并观察到即使对于简单的线性可分数据分布,最小化精神错乱损失也可能只会产生准确性并不比随机猜测更好的二元分类器。
2022-03-04 cs.LG stat.ML
Autoencoding Binary Classifiers for Supervised Anomaly Detection
NTT Secure Platform Laboratories(NTT安全平台实验室);NTT Communication Science Laboratories(NTT通信科学实验室);NTT Software Innovation Center(NTT软件创新中心)
我们提出了自动编码二进制分类器(ABC),一种新的监督异常检测器的基础上的自动编码器(AE)。异常检测主要有两种方法:有监督的和无监督的。监督方法可以准确地检测训练数据中包含的已知异常,但无法检测未知异常。同时,无监督方法可以检测远离正常数据点的已知和未知异常。然而,它不能像监督方法那样准确地检测已知的异常。此外,即使我们标记了正常数据点和异常数据点,无监督方法也无法利用这些标签。ABC是一种概率二元分类器,它有效地利用了标签信息,其中使用AE作为组件对正常数据点进行建模。通过最大化可能性,所提出的ABC中的AE被训练以最小化正常数据点的重建误差,并最大化已知异常的重建误差。由于我们的方法能够准确地重建正常数据点,而无法重建已知和未知的异常,因此它可以准确地将已知和未知的异常与正常数据点区分开来。实验结果表明,该算法比已有的监督和非监督方法具有更高的检测性能.
2019-03-26 cs.LG stat.ML
Recalibrating binary probabilistic classifiers
Centre for Business Mathematics and Informatics(商业数学与信息学中心)
本文提出两种新的重新校准方法,用于在分布偏移视角下改进二元概率分类器的性能。
2026-01-21 cs.LG q-fin.RM
The Quantum Version of Prediction for Binary Classification Problem by Ensemble Methods
Kazan Federal University(喀山联邦大学);Zavoisky Physical-Technical Institute, FRC Kazan Scientific Center of RAS(俄罗斯科学院喀山科学中心联邦研究中心扎沃伊斯基物理技术研究所)
在这项工作中,我们考虑使用量子算法来预测二进制分类问题的结果的性能,如果机器学习模型是来自任何简单分类器的集成。这种方法比经典预测更快,并且使用量子和经典计算,但它基于概率算法。令$N$是来自集成模型的分类器的数量,并且$O(T)$是在一个分类器上的预测的运行时间。在经典的情况下,集成模型从每个分类器获得答案并对结果进行“平均”。经典情况下的运行时间为$O\left( N \cdot T \right)$。我们提出了一个算法,它的工作在$O\left(\sqrt{N} \cdot T\right)$。
2021-12-26 cs.LG quant-ph
Evaluating Nonlinear Decision Trees for Binary Classification Tasks with Other Existing Methods
Michigan State University(密歇根州立大学)
将数据集分类为两个或多个不同的类是一项重要的机器学习任务。许多方法能够在测试数据上以非常高的精度对二进制分类任务进行分类,但是不能为用户提供任何容易解释的解释,以更深入地理解将数据分成两类的原因。在本文中,我们强调和评估最近提出的非线性决策树的方法与一些常用的分类方法在一些数据集,涉及几个到大量的功能。该研究揭示了关键问题,如分类方法的参数值,分类器的复杂性与实现的准确性,以及所得分类器的可解释性的影响。
2020-08-25 cs.LG
Latenrgy: Model Agnostic Latency and Energy Consumption Prediction for Binary Classifiers
University of Maryland Global Campus(马里兰大学全球校区)
本文提出一个模型无关的理论框架,综合分类器特征、数据集属性与负责任AI护栏,通过两个预测方程预测二元分类器推理时的延迟和能耗,为高效且负责任的机器学习系统设计提供理论基础。
2024-12-26 cs.AI cs.LG
Binary Classifier Optimization for Large Language Model Alignment
Kakao Corp(Kakao公司);LBOX
本文提出 BCO,仅利用点赞/点踩等二元反馈训练分类器并以 logit 作为隐式奖励对齐 LLM,通过奖励偏移逼近 DPO 损失,在多模型多数据集上取得稳健且可比的效果。
2025-06-09 cs.AI cs.CL cs.LG
Reduced Dilation-Erosion Perceptron for Binary Classification
University of Campinas(坎皮纳斯大学)
膨胀和腐蚀是数学形态学的两个基本运算,数学形态学是一种广泛用于图像处理和分析的非线性格计算方法。膨胀-腐蚀感知器(DEP)是一种形态学神经网络,它是通过对膨胀和腐蚀进行凸组合,然后对二进制分类任务应用硬限制器函数而得到的。DEP分类器可以使用凹凸过程以及铰链损失函数的最小化来训练。作为一种格计算模型,DEP分类器假设特征空间和类空间是偏序集。然而,在许多实际情况下,特征模式没有自然的顺序。利用多值数学形态学的概念,本文介绍了减少膨胀侵蚀(r-DEP)分类器。通过赋予特征空间一个适当的降序,得到一个r-DEP分类器。可以使用两种方法来确定这种减少的排序:一种基于具有不同内核的支持向量分类器(SVC)的集合,另一种基于使用训练集的不同样本训练的类似SVC的装袋。使用OpenML存储库中的几个二进制分类数据集,集成和装袋r-DEP分类器平均比线性,多项式和径向基函数(RBF)SVC以及它们的集成和RBF SVC装袋产生更高的平衡准确度分数。
2020-04-14 cs.LG stat.ML
Partial VOROS: A Cost-aware Performance Metric for Binary Classifiers with Precision and Capacity Constraints
Department of Mathematics, Tufts University(塔夫茨大学数学系);Department of Computer Science, Tufts University(塔夫茨大学计算机科学系)
本文提出部分VOROS,一种考虑成本的二分类器性能度量方法,用于在精度和容量限制下评估分类器性能,通过在ROC空间中定义可行区域并计算部分体积来改进传统ROC分析。
2026-04-02 cs.LG stat.ME
Binary and Multiclass Classifiers based on Multitaper Spectral Features for Epilepsy Detection
Federal University of Technology(联邦理工大学);University of São Paulo(圣保罗大学)
癫痫是最常见的神经系统疾病之一,可以通过脑电图(EEG)进行诊断,其中可以观察到以下癫痫事件:发作前、发作、发作后和发作间期。在本文中,我们提出了一种新的方法,癫痫检测到两个分化的背景下:二进制和多类分类。对于特征提取,从功率谱、频谱图和双频谱图中提取总共105个测量值。对于分类器构建,使用了八种不同的机器学习算法。我们的方法被应用在一个广泛使用的EEG数据库。因此,随机森林和反向传播的多层感知器算法的基础上达到最高的精度为二进制(98.75%)和多类(96.25%)分类问题,分别。随后,统计测试没有找到一个模型,将实现比其他分类器更好的性能。在基于混淆矩阵的评估中,也不可能识别出与用于EEG分类的其他模型相比突出的分类器。即便如此,我们的结果是有希望的,并与文献中的发现竞争。
2020-04-02 cs.LG eess.SP stat.ML
Construction of non-convex polynomial loss functions for training a binary classifier with quantum annealing
Google(谷歌)
量子退火是一种启发式量子算法,它利用量子资源来最小化嵌入可编程物理系统的能量水平的目标函数。为了利用潜在的量子优势,需要能够以合理的低开销将感兴趣的问题映射到本地硬件。由于实验的考虑约束我们的目标函数采取的形式,一个低的程度PUBO(多项式无约束二进制优化),我们采用非凸的损失函数,这是多项式函数的利润。我们表明,这些损失函数是强大的标签噪声,并提供了一个明显的优势,凸方法。这些损失函数对于经典方法也可能是有用的,因为它们编译成正则化的风险表达式,该正则化的风险表达式可以相对于训练样本的数量在恒定时间内进行评估。
2014-06-17 cs.LG quant-ph
Adversarial and Clean Data Are Not Twins
Auburn University(奥本大学)
对抗攻击给深度神经网络的巨大成功蒙上了阴影。尽管在视觉上与干净的数据几乎相同,但对抗性图像可以以非常高的置信度欺骗深度神经网络进行错误的预测。然而,在本文中,我们证明了我们可以建立一个简单的二元分类器,将对抗性数据与干净数据分开,准确率超过99%。我们还经验表明,二进制分类器是强大的第二轮对抗攻击。换句话说,很难伪装对抗样本以绕过二元分类器。此外,我们实证研究的泛化限制,徘徊在所有当前的防御方法,包括二元分类器的方法。我们假设这是对抗性手工算法的内在属性的结果。
2017-04-17 cs.LG cs.NE
Quantum Speedup in Adaptive Boosting of Binary Classification
Shenzhen Institute for Quantum Science and Engineering(深圳量子科学与工程研究院);University of Science and Technology, Shenzhen(深圳理工大学);University of Technology Sydney(悉尼科技大学);Center for Quantum Information, Institute for Interdisciplinary Information Sciences, Tsinghua University(清华大学交叉信息研究院量子信息中心);Central Research Institute, Huawei Technologies(华为技术有限公司中央研究院)
在经典机器学习中,一组弱分类器可以自适应地组合成一个强分类器,以提高整体性能,这种技术称为自适应增强(或AdaBoost)。然而,为大数据集构造强分类器通常是消耗资源的。在这里,我们提出了一个量子扩展的AdaBoost,展示了一个量子算法,可以输出最佳的强分类器的查询的数量的二次加速。我们的研究结果还包括一个泛化的标准AdaBoost的情况下,每个分类器的输出可能是概率,即使是相同的输入。我们证明了非确定性分类器的更新规则和查询复杂度与确定性分类器相同,这可能是经典机器学习界独立感兴趣的。此外,AdaBoost算法也可以应用于以量子态形式编码的数据;我们展示了如何通过使用t-设计工具来简化训练集。我们的方法描述了一个量子机器学习模型,其中在寻找最佳分类器时实现了量子加速,然后可以将其应用于经典机器学习应用。
2019-02-03 cs.LG quant-ph