Manitest: Are classifiers really invariant?
在许多图像识别任务中,对几何变换的不变性是自动分类器非常期望的特性。然而,目前还不清楚在何种程度上最先进的分类器是不变的基本变换,如旋转和平移。这主要是由于缺乏适当测量这种不变性的一般方法。在本文中,我们提出了一个严格的和系统的方法来量化的不变性的几何变换的任何分类。我们的主要思想是把评估分类器的不变性的问题转化为沿着变换图像的流形计算测地线的问题。我们提出了Manitest方法,建立在高效的快速行军算法计算分类器的不变性。我们的新方法特别量化了数据增强对于从数据中学习不变性的重要性,以及卷积神经网络随深度增加的不变性。我们可以预见,所提出的通用工具,用于测量不变性的一大类的几何变换和任意分类器将有许多应用程序的基础上,他们的不变性的分类器进行评估和比较,并帮助提高现有的分类器的不变性。
2015-07-23 cs.CV cs.LG stat.ML
Sequential Maximum Margin Classifiers for Partially Labeled Data
University of Michigan(密歇根大学)
在许多现实世界的应用中,数据不是作为一个批次,但随着时间的推移,它往往是不可能的或可取的,直到数据被完全收集之前分析it.Thus,我们提出了一个框架,利用最大熵歧视原则顺序更新的最大间距分类器。我们的最大间隔分类器允许内核表示来表示大量的特征,并且还可以相对于平滑的子流形进行正则化,从而允许它包含未标记的观测。我们比较了我们的分类器的性能,其非连续的等价物在模拟和真实的数据集。
2018-03-07 cs.LG stat.ML
Nonlinear classifiers for ranking problems based on kernelized SVM
Czech Technical University in Prague(布拉格捷克理工大学);Czech Academy of Sciences(捷克科学院)
许多分类问题只关注最大化具有最高相关性的样本而不是所有样本的性能。作为一个例子,我们可以提到排名问题,在顶部或搜索引擎的准确性,只有前几个查询的问题。在我们以前的工作中,我们得出了一个一般的框架,包括几类这些线性分类问题。在本文中,我们扩展的框架,非线性分类。利用与SVM的相似性,我们将问题二元化,增加核函数,并提出了一种分量对偶上升方法。
2023-03-27 cs.LG stat.ML
ICLabel: An automated electroencephalographic independent component classifier, dataset, and website
University of California San Diego(加利福尼亚大学圣地亚哥分校)
脑电图(EEG)提供了一种非侵入性的,最低限度的限制,和相对低成本的测量中尺度脑动力学与高时间分辨率。虽然由多个邻近的EEG头皮电极通道并行记录的信号是高度相关的,并且组合了来自许多不同来源(生物和非生物)的信号,但独立分量分析(ICA)已被示出为隔离这些记录下的各种源发生器过程。ICA分解发现的独立成分(IC)可以手动检查,选择和解释,但这样做需要时间和实践,因为IC没有特定的顺序或内在解释,因此需要进一步研究其属性。或者,可以使用精确的自动IC分类器将IC分类为广泛的源类别,从而加快对许多受试者的EEG研究的分析,并使ICA分解能够在近实时应用中使用。虽然最近已经提出了许多这样的分类器,但这项工作提出了ICLabel项目,该项目包括(1)一个IC数据集,其中包含来自6,000多个EEG记录的200,000多个IC的时空测量值,(2)一个收集众包IC标签并教育EEG研究人员和从业者关于IC解释的网站,以及(3)自动ICLabel分类器。分类器在两个方面改进了现有的方法:通过提高计算的标签估计的准确性和通过提高其计算效率。对于所有测量的IC类别,ICLabel分类器的性能优于或优于先前最好的公开可用方法,同时计算这些标签的速度比该分类器快十倍,如与所有其他公开可用的EEG IC分类器进行严格比较所示。
2019-02-04 cs.LG eess.SP stat.ML
An Efficient Large-scale Semi-supervised Multi-label Classifier Capable of Handling Missing labels
Sharif University of Technology(谢里夫理工大学)
多标签分类近年来受到了广泛的关注。多标签分类器必须解决许多问题,包括:处理具有许多实例和大量标签的大规模数据集,补偿训练集中缺失的标签分配,考虑标签之间的相关性,以及利用未标记的数据来提高预测性能。为了处理具有大量标签的数据集,已经提出了基于嵌入的方法,该方法寻求在低维空间中表示标签分配。许多最先进的基于嵌入的方法使用线性降维来表示低维空间中的标签分配。然而,通过这样做,这些方法实际上忽略了尾部标签-很少分配给实例的标签。我们提出了一种基于嵌入的方法,使用随机方法非线性地嵌入标签向量,从而更准确地预测尾部标签。此外,该方法具有良好的机制,处理丢失的标签,处理大规模的数据集,以及利用未标记的数据。据我们所知,我们提出的方法是第一个同时解决所有上述挑战的多标签分类器。在真实世界数据集上的实验表明,我们的方法在预测性能和训练时间方面大大优于最先进的多标签分类器。
2016-06-18 cs.AI cs.LG stat.ML
E Pluribus Unum Ex Machina: Learning from Many Collider Events at Once
最近有一些建议,通过将许多不同的事件组合成一个单一的集合特征,来提高对撞机物理学的机器学习策略的性能。为了评估这些建议的有效性,我们研究了单事件分类器和多事件分类器之间的连接,假设碰撞事件是独立同分布的(IID)。我们展示了如何从单事件分类器构建最佳多事件分类器,我们还展示了如何构建多事件分类器,使其产生最佳单事件分类器。这说明了一个高斯的例子,以及在大型强子对撞机的搜索和测量相关的分类任务。我们将讨论扩展到回归任务,展示它们如何在参数化分类器方面进行措辞。从经验上讲,我们发现训练单事件(每个实例)分类器比训练多事件(每个集成)分类器更有效,至少对于我们研究的情况,我们将这一事实与这两种情况下损失函数梯度的性质联系起来。虽然我们没有确定一个明确的好处,使用多事件分类器在对撞机的情况下,我们推测这些方法的潜在价值的情况下,只涉及近似独立,相关的喷气子结构研究。
2021-06-20 hep-ex hep-ph physics.data-an
Unsupervised Evaluation and Weighted Aggregation of Ranked Predictions
Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院);IBM T.J. Watson Research Center(IBM托马斯·J·沃森研究中心)
从不同基础分类器的集合中聚合预测的学习算法始终优于单个方法。这些策略中的许多已经在监督设置中开发,其中每个基础分类器的准确性可以凭经验测量,并且这些信息被纳入训练过程中。然而,对标记数据的依赖排除了集成方法应用于许多现实世界的问题,标记数据尚未策划。为此,我们开发了一个新的理论框架,二进制分类,无监督的多方法聚合(SUMMA)的战略,估计性能的基础分类器和集成学习的最佳策略,从未标记的数据。
2018-02-13 cs.LG stat.ML
Classifier Chains: A Review and Perspectives
Ecole Polytechnique, Institut Polytechnique de Paris(巴黎理工学院巴黎综合理工学院);University of Waikato(怀卡托大学)
统称为分类器链的方法家族已经成为多标签学习问题的流行方法。这种方法涉及将现成的二进制分类器以链结构链接在一起,使得类标签预测成为其他分类器的特征。这些方法已被证明是灵活和有效的,并在许多数据集和多标签评估指标上获得了最先进的经验性能。这种性能导致了对它的工作原理以及如何改进的进一步研究,并且在最近十年中,许多研究在理论层面上探索了分类器链机制,并且对训练和推理过程进行了许多改进,因此这种方法仍然是多标签学习的最新选择之一。鉴于这种过去和正在进行的兴趣,它涵盖了广泛的应用和研究主题,这项工作的目标是提供一个分类器链的审查,在文献中提供的技术和扩展的调查,以及这种方法在多标签分类领域的前景在未来。我们得出积极的结论,为研究人员和从业人员提出了一些建议,并概述了未来研究的一些领域。
2020-04-15 cs.AI cs.LG stat.ML
Notes on Margin Training and Margin p-Values for Deep Neural Network Classifiers
Pennsylvania State University(宾夕法尼亚州立大学)
我们为Lipschitz连续DNN分类器提供了一个新的局部类纯度定理。此外,我们还讨论了如何获得训练样本的分类裕度。最后,我们描述如何计算测试样本的边际p值。
2019-12-05 cs.LG stat.ML
Conformal Prediction of Classifiers with Many Classes based on Noisy Labels
Bar-Ilan University(巴伊兰大学)
针对仅有噪声标签校准集的多类分类器保形预测校准问题,提出噪声感知保形预测(NACP)方法,通过估计无噪声保形阈值并推导有限样本覆盖保证,在大量类别的图像分类任务中验证了有效性。
2025-08-13 cs.AI cs.LG stat.ML
How many faces can be recognized? Performance extrapolation for multi-class classification
Stanford University(斯坦福大学);Hebrew University(希伯来大学)
多类分类的难度一般随着类的数量增加而增加。使用来自类的子集的数据,我们可以预测分类器随着类数量的增加而扩展的程度吗?假设类是采样交换,并假设分类器是生成的(如QDA或朴素贝叶斯),我们表明,预期的准确性时,分类器训练$k$类是$k-1$的第一时刻的\emph{conditional accuracy distribution},这可以从数据中估计。这为基于伪验概率、无偏估计和高维渐近性的性能外推提供了理论基础。我们研究了我们的方法的鲁棒性非生成分类器在模拟和一个光学字符识别的例子。
2016-06-16 cs.CV cs.IT cs.LG
Training Confidence-calibrated Classifiers for Detecting Out-of-Distribution Samples
Korea Advanced Institute of Science and Technology(韩国科学技术院);University of Michigan(密歇根大学);Google Brain(谷歌大脑)
检测测试样品是否来自分销(即,分类器的训练分布)或与其充分不同的分布外(out-of-distribution)在许多现实世界的机器学习应用中出现。然而,已知最先进的深度神经网络在其预测中高度过度自信,即,不区分内部和外部分布。最近,为了处理这个问题,已经提出了几个基于阈值的检测器,给出了预先训练的神经分类器。然而,以前的工作的性能在很大程度上取决于如何训练的分类器,因为他们只专注于改善推理过程。在本文中,我们开发了一种新的分类器的训练方法,使这样的推理算法可以更好地工作。特别是,我们建议在原始损失中添加两个额外条款(例如,交叉熵)。第一个是强制样本从分布外不太相信分类器和第二个是(隐式)生成最有效的训练样本的第一个。从本质上讲,我们的方法联合训练分类和生成神经网络用于分布外。我们使用深度卷积神经网络在各种流行的图像数据集上证明了其有效性。
2018-02-23 cs.LG stat.ML
A Deep Neural Network for Audio Classification with a Classifier Attention Mechanism
University of Ottawa(渥太华大学)
音频分类被认为是模式识别中的一个具有挑战性的问题。最近,已经提出了许多使用深度神经网络的算法。在本文中,我们介绍了一种新的基于注意力的神经网络架构,称为基于分类器注意力的卷积神经网络(CAB-CNN)。该算法使用了一个新设计的架构,包括一个简单的分类器和一个注意力机制作为一个分类器选择器的列表。这种设计大大减少了分类器所需的参数数量,从而降低了它们的复杂性。以这种方式,变得更容易训练分类器并实现高且稳定的性能。实验结果证实了我们的主张。与最先进的算法相比,我们的算法在所有选定的测试成绩上都有超过10%的改进。
2020-06-14 cs.LG cs.SD eess.AS
GanDef: A GAN based Adversarial Training Defense for Neural Network Classifier
New Jersey Institute of Technology(新泽西理工学院);Qatar Computing Research Institute(卡塔尔计算研究所)
机器学习模型,特别是神经网络(NN)分类器,被广泛用于包括自然语言处理、计算机视觉和网络安全的许多应用中。它们在无攻击场景的假设下提供高准确性。然而,这一假设已经被引入对抗性示例所挑战-精心扰动的输入样本通常被错误分类。许多研究人员试图开发一种防御对抗性例子的方法;然而,我们离实现这一目标还很远。在本文中,我们设计了一个基于生成对抗网络(GAN)的对抗训练防御,称为GanDef,它利用竞争游戏来调节训练过程中的特征选择。我们分析表明,GanDef可以训练分类器,使其能够抵御对抗性的例子。通过对不同白盒对抗示例的广泛评估,GanDef训练的分类器显示出与最先进的对抗训练防御训练的分类器相同的测试准确度。更重要的是,GanDef的变体GanDef-Comb可以利用GanDef来实现正确分类原始示例和对抗示例之间的动态权衡。因此,当对抗性示例的比例超过41.7%时,它实现了最高的整体测试准确率。
2019-03-06 cs.CR cs.CV cs.LG
Practical Fast Gradient Sign Attack against Mammographic Image Classifier
Tennessee Technological University(田纳西理工大学);Department of Computer Science(计算机科学系);Cookeville, TN, United States of America(美国田纳西州库克维尔)
人工智能(AI)多年来一直是一个重要的研究课题。特别是随着深度神经网络(DNN)的出现,这些研究取得了巨大的成功。今天,机器能够比人类做出更快、更准确的决策。由于机器学习(ML)技术的巨大发展,ML已被用于许多不同的领域,如教育,医学,恶意软件检测,自动驾驶汽车等。尽管有这种程度的兴趣和许多成功的研究,ML模型仍然容易受到对抗攻击。攻击者可以操纵干净的数据,以欺骗ML分类器来实现他们的目标。比如说,良性样本可以被修改为恶意样本,或者恶意样本可以被改变为良性样本,而这种修改不能被人类观察者识别。这可能导致许多经济损失,或严重伤害,甚至死亡。本文背后的动机是我们强调这个问题,并希望提高认识。因此,证明了乳腺X线图像分类器对抗对抗攻击的安全漏洞。我们使用乳腺摄影图像来训练我们的模型,然后评估我们的模型性能的准确性。稍后,我们毒化原始数据集并生成被模型错误分类的对抗样本。然后,我们使用结构相似性指数(SSIM)分析干净图像和对抗图像之间的相似性。最后,我们展示了如何成功地使用不同的中毒因素,我们是误用。
2020-01-27 cs.CV cs.LG eess.IV
Distance-based Confidence Score for Neural Network Classifiers
Hebrew University of Jerusalem(耶路撒冷希伯来大学)
分类器预测可信度的可靠度量对于许多应用都是非常重要的,因此也是分类器设计的一个重要部分。然而,尽管近年来深度学习受到了极大的关注,但在量化神经网络分类器的预测置信度方面没有取得太大进展。贝叶斯模型提供了一个数学基础的框架来推理模型的不确定性,但通常伴随着高昂的计算成本。在本文中,我们提出了一个简单的,可扩展的方法来实现一个可靠的置信度得分,基于数据嵌入来自网络的倒数第二层。我们研究了两种方法来实现理想的嵌入,通过使用基于距离的损失或对抗训练。然后,我们测试我们的方法的好处时,用于分类错误预测,加权集成的分类器,和新奇的检测。在所有的任务中,我们都显示出比传统的、常用的置信度分数有显着的提高。
2017-09-28 cs.AI cs.CV cs.LG
Non-Parametric Calibration for Classification
University of Tuebingen(蒂宾根大学);TU Munich(慕尼黑工业大学);KTH Royal Institute of Technology(瑞典皇家理工学院);German Aerospace Center (DLR)(德国航空航天中心)
分类方法的许多应用不仅要求高精度,而且要求对预测不确定性进行可靠的估计。然而,尽管许多当前的分类框架,特别是深度神经网络,实现了高准确性,但它们往往会错误地估计不确定性。在本文中,我们提出了一种方法,调整一般分类器的置信度估计,使它们接近正确分类的概率。与现有的方法相比,我们的校准方法采用了一个非参数表示,使用一个潜在的高斯过程,是专门为多类分类。它可以应用于输出置信度估计的任何分类器,并且不限于神经网络。我们还提供了一个理论分析的过度和信心不足的分类器及其校准的关系,以及校准的主动学习的实证前景。在实验中,我们展示了我们的方法在不同分类器和基准数据集上的普遍强大性能,特别是对于最先进的神经网络架构。
2020-02-27 cs.CV cs.LG stat.ML
Supervised Learning via Ensembles of Diverse Functional Representations: the Functional Voting Classifier
University of Campania Luigi Vanvitelli(坎帕尼亚路易吉·万维泰利大学);Universitas Mercatorum(墨卡托大学)
本文提出函数投票分类器(FVC),通过利用多种函数型数据表示训练集成成员并以多数投票组合预测,在多个真实数据集上显著提升了函数型数据分类精度。
2024-03-23 cs.LG stat.ME stat.ML
Dark solitons in Bose-Einstein condensates: a dataset for many-body physics research
National Institute of Standards and Technology(美国国家标准与技术研究院)
我们建立了一个数据集超过$1.6\times10^4$实验图像的玻色-爱因斯坦凝聚体包含孤子激发,使机器学习(ML)的多体物理研究。此数据集中约有$33~\%$具有手动分配和精心策划的标签。其余部分使用SolDet自动标记-物理信息ML数据分析框架的实现-由基于卷积神经网络的分类器和OD以及统计激励的物理信息分类器和质量度量组成。本技术说明构成了数据集的权威参考,为数据科学界提供了开发更复杂的分析工具的机会,以进一步了解非线性多体物理学,甚至推进冷原子实验。
2023-02-11 cond-mat.quant-gas cs.CV cs.LG
Mixing autoencoder with classifier: conceptual data visualization
Chukyo University(中京大学)
在这篇简短的论文中,神经网络,是能够形成一个低维的拓扑隐藏表示进行说明。神经网络可以被训练为自动编码器、分类器或两者的混合,并且为它们中的每一个产生不同的低维拓扑图。当它被训练成自动编码器时,数据的固有拓扑结构可以被可视化,而当它被训练成分类器时,拓扑结构进一步受到概念的约束,例如数据的标签,因此可视化不仅是结构性的,而且是概念性的。所提出的神经网络显着不同于许多降维模型,主要是在其执行监督和无监督降维的能力。神经网络允许数据的多视角可视化,从而在数据分析中给予更多的灵活性。本文是支持初步的,但直观的可视化实验。
2020-02-21 cs.CV cs.LG cs.NE
How Do Classifiers Induce Agents To Invest Effort Strategically?
Cornell University(康奈尔大学)
算法通常用于产生对个体进行分类或评估的决策规则。当这些人有动机以某种方式被分类时,他们可能会采取策略性的行为来影响他们的结果。我们开发了一个模型,战略代理可以投资的努力,以改变他们收到的结果,我们给出了一个严格的表征时,这样的代理可以激励投资指定形式的努力,以改善他们的结果,而不是“游戏”的分类器。我们表明,只要任何“合理”的机制可以这样做,一个简单的线性机制就足够了。
2019-08-01 cs.CY cs.DS cs.GT
Learning Likelihood Ratios with Neural Network Classifiers
针对数据/模拟驱动模型似然比计算困难的问题,本研究利用似然比技巧,通过实证对比不同损失函数与输出参数化的神经网络分类器在高斯分布及高能物理模拟数据集上的似然比近似性能。
2024-01-08 hep-ph physics.data-an stat.AP