Anomaly Detection based on Zero-Shot Outlier Synthesis and Hierarchical Feature Distillation
University of Campinas(坎皮纳斯大学);Innopolis University(因诺波利斯大学)
异常检测受到不平衡数据的影响,因为异常非常罕见。综合生成的异常是这种不好或不完全定义的数据的解决方案。然而,合成需要一个有表现力的表示,以保证生成的数据的质量。在本文中,我们提出了一个两级层次的潜在空间表示,提取内点的特征描述符(通过自动编码器)到更强大的表示的基础上的变分家庭的分布(通过变分自编码器)的zero-shot异常生成。从学习的潜在分布中,我们选择那些位于训练数据外围的分布作为合成离群值生成器。我们从它们中合成,即,生成之前没有见过的负样本,以训练二进制分类器。我们发现,使用所提出的分层结构的特征蒸馏和融合创建强大的和一般的表示,使我们能够合成伪离群样本。反过来,训练鲁棒的二进制分类器用于真正的离群值检测(在训练期间不需要实际的离群值)。我们证明了我们的建议的性能异常检测的几个基准。
2020-10-10 cs.CV stat.ML
XGBOD: Improving Supervised Outlier Detection with Unsupervised Representation Learning
University of Toronto(多伦多大学);PricewaterhouseCoopers(普华永道)
提出了一种新的半监督集成算法XGBOD(Extreme梯度提升Outlier Detection),描述并演示了该算法在实际数据集上对正态观测数据中的离群点的增强检测。建议的框架结合了监督和无监督机器学习方法的优势,通过创建一个混合的方法,利用他们各自的性能能力在离群值检测。XGBOD使用多个无监督离群值挖掘算法从底层数据中提取有用的表示,以增强嵌入式监督分类器在改进的特征空间上的预测能力。新的方法相比,竞争的个人检测器,完整的合奏和两个现有的表示学习为基础的算法在七个离群数据集提供卓越的性能。
2019-12-01 cs.DB cs.IR cs.LG
Minimum Variance Embedded Auto-associative Kernel Extreme Learning Machine for One-class Classification
Indian Institute of Technology Indore(印度理工学院印多尔分校)
单类分类(OCC)只需要一个类的样本来训练分类器。最近,一个自联想核极端学习机开发的OCC任务。本文介绍了一种新的扩展,这种分类器通过嵌入最小方差信息在其架构,被称为VAAKELM。最小方差嵌入迫使网络输出权重集中在低方差区域,并减少类内方差。这导致更好地分离目标样本和离群值,从而提高分类器的泛化性能。该分类器遵循基于重构的OCC方法,并通过使用核极端学习机作为基础分类器来最小化重构误差。它使用重建误差的偏差来识别异常值。我们在15个小型和10个中型单类基准数据集上进行了实验,以证明所提出的分类器的效率。我们将结果与13个现有的一类分类器进行比较,考虑平均F1分数作为比较指标。实验结果表明,VAAKELM始终优于现有的分类器,使其成为一个可行的替代OCC任务。
2020-11-24 cs.LG
Graph-Embedded Multi-layer Kernel Extreme Learning Machine for One-class Classification or (Graph-Embedded Multi-layer Kernel Ridge Regression for One-class Classification)
Indian Institute of Technology Indore(印度理工学院印多尔分校)
大脑可以通过只使用正常样本来检测异常值。类似地,单类分类(OCC)也仅使用正常样本来训练模型,并且经训练的模型可用于离群值检测。在本文中,OCC的多层架构提出了堆叠各种图形嵌入核岭回归(KRR)为基础的自动编码器在一个层次的方式。这些自动编码器在两种类型的图形嵌入下制定,即基于局部和全局方差的嵌入。这个图形嵌入探索样本和自动编码器的多层之间的关系,将输入特征投影到新的特征空间中。该架构的最后一层是基于图嵌入回归的单类分类器。自动编码器使用无监督学习方法,最后一层使用半监督(仅通过正样本进行训练并获得封闭形式的解决方案)学习方法。该方法在21个公开的基准数据集上进行了实验评估。实验结果验证了所提出的单类分类器的有效性超过11个现有的最先进的基于核的单类分类器。弗里德曼测试也进行了验证的统计显着性的索赔的优越性,建议的一类分类器比现有的国家的最先进的方法。本文利用两种图嵌入方法,提出了4种基于图嵌入多层KRR的单类分类器变体。所有4种变体在本文讨论的各种标准方面都比现有的一类分类器表现得更好。因此,它可以是OCC任务的可行替代方案。在未来,各种其他类型的自动编码器可以在所提出的架构中进行探索。
2019-04-13 cs.LG stat.ML
Anomaly Detection by Robust Statistics
真实数据通常包含异常情况,也称为离群值。这些可能会破坏分析结果,但它们也可能包含有价值的信息。在这两种情况下,检测这种异常的能力是必不可少的。一个有用的工具,用于此目的是强大的统计,其目的是检测离群值,首先拟合的大部分数据,然后标记数据点偏离它。我们提出了几个强大的方法和由此产生的图形离群值检测工具的概述。我们讨论单变量,低维和高维数据,如估计位置和分散,线性回归,主成分分析,分类,聚类和功能数据分析的强大程序。此外,具有挑战性的新课题的细胞野值的介绍。
2017-10-14 stat.ML
OCKELM+: Kernel Extreme Learning Machine based One-class Classification using Privileged Information (or KOC+: Kernel Ridge Regression or Least Square SVM with zero bias based One-class Classification using Privileged Information)
IIT Indore(印度理工学院印多尔分校)
基于核方法的单类分类器主要用于离群点或新颖性检测。在这封信中,基于核岭回归(KRR)的一类分类器(KOC)已被扩展为使用特权信息的学习(LUPI)。基于LUPI的KOC方法被称为KOC+。此特权信息可作为数据集的一个特征,但仅用于训练(不用于测试)。KOC+通过使用所谓的校正功能,与正常特征信息相比,以不同的方式利用特权信息。隐藏的信息有助于KOC+实现更好的泛化性能,这是在这封信中通过测试分类器与没有特权信息。现有的和建议的分类器进行评估的数据集从UCI机器学习库和MNIST数据集。实验结果表明,KOC+算法优于KOC算法和基于支持向量机(SVM)的单类分类器。
2019-04-13 cs.LG stat.ML
A Robust AUC Maximization Framework with Simultaneous Outlier Detection and Feature Selection for Positive-Unlabeled Classification
University of Rochester(罗切斯特大学);Baylor College of Medicine(贝勒医学院);University of Texas Health Science Center at Houston(休斯顿德克萨斯大学健康科学中心);University of Washington(华盛顿大学)
阳性-未标记(PU)分类是现实世界应用中的常见场景,例如医疗保健,文本分类和生物信息学,其中我们只观察到少数标记为“阳性”的样本以及大量可能包含阳性和阴性样本的“未标记”样本。针对PU问题构建鲁棒的分类器是非常具有挑战性的,特别是对于负样本压倒和错误标记样本或损坏特征存在的复杂数据。为了解决这三个问题,我们提出了一个强大的学习框架,统一AUC最大化(一个强大的指标,有偏见的标签),离群值检测(排除错误的标签),和特征选择(排除损坏的功能)。为所提出的模型提供了泛化误差界,该模型对该方法的理论性能提供了有价值的见解,并导致有用的实践指导,例如,为了训练模型,我们发现,只要样本大小与训练过程中的正样本数量相当,所包括的未标记样本就足够了。实证比较和手术部位感染(SSI)和EEG癫痫发作检测的两个现实世界的应用程序也进行了显示所提出的模型的有效性。
2018-03-18 cs.LG stat.ML
Linear classifier, least-squares cost function, and outliers
Macquarie University(麦考瑞大学)
一组介绍性说明,介绍了使用线性分类器和最小二乘成本函数进行数据分类的主题,以及异常值对线性判别式决策边界的负面影响。我们还展示了如何一个简单的缩放可以使离群值不那么重要,从而获得一个更好的决策边界。我们提出了一些数值结果。
2022-01-07 cs.LG physics.data-an stat.ML
OneFlow: One-class flow for anomaly detection based on a minimal volume region
Jagiellonian University(雅盖隆大学)
我们提出了OneFlow -一个基于流的一类分类器,用于异常(离群值)检测,找到一个最小的体积边界区域。与基于密度的方法相反,OneFlow的构造方式使得其结果通常不依赖于离群值的结构。这是由以下事实引起的:在训练期间,成本函数的梯度仅在位于决策边界附近的点上传播(行为类似于SVM中的支持向量)。流模型和伯恩斯坦分位数估计器的组合允许OneFlow找到边界区域的参数形式,这在各种应用中非常有用,包括从3D点云描述形状。实验表明,该模型在实际异常检测问题上优于相关方法。
2021-09-22 cs.LG stat.ML
SSDBCODI: Semi-Supervised Density-Based Clustering with Outliers Detection Integrated
DePaul University(德保罗大学);College of Computing and Digital Media, DePaul University(德保罗大学计算与数字媒体学院)
聚类分析是机器学习的关键任务之一。传统上,聚类是一项独立的任务,与离群值检测分离。由于离群点会严重影响聚类的性能,因此有少数算法尝试在聚类过程中加入离群点检测。然而,这些算法中的大多数都是基于无监督的基于分区的算法,如k-means。鉴于这些算法的性质,它们通常无法处理复杂的非凸形状的集群。为了应对这一挑战,我们提出了SSDBCODI,一种基于密度的半监督算法。SSDBCODI结合了基于密度的算法的优势,能够处理复杂形状的聚类,具有半监督元素,可以根据一些用户标签灵活地调整聚类结果。我们还将离群值检测组件与聚类过程合并。基于在该过程期间生成的三个分数来检测潜在的离群值:(1)可达性分数,其测量点到标记的正常对象的密度可达性,(2)局部密度分数,其测量数据对象的相邻密度,以及(3)相似性分数,其测量点到其最近的标记离群值的接近度。然后在接下来的步骤中,在用于训练分类器以进行进一步聚类和离群值检测之前,基于这三个分数为每个数据实例生成实例权重。为了增强对所提出算法的理解,为了进行评估,我们在多个数据集上对一些最先进的方法运行了我们提出的算法,并分别列出了聚类之外的离群值检测结果。我们的研究结果表明,我们的算法可以实现优越的结果与一个小的标签百分比。
2022-08-10 cs.AI cs.LG
Collective Outlier Detection and Enumeration with Conformalized Closed Testing
University of Milano-Bicocca(米兰比可卡大学);University of Southern California(南加州大学);Ca’ Foscari University of Venice(威尼斯福斯卡里大学)
本文提出一种分布无关方法,用于集体异常检测与枚举,结合符合推断和多重检验等思想,通过自动选择分类器和检验程序,有效检测稀疏、弱或隐蔽的异常信号。
2026-05-17 stat.ME
A Robust Classification-autoencoder to Defend Outliers and Adversaries
Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);University of Chinese Academy of Sciences(中国科学院大学)
本文提出了一种鲁棒的分类自动编码器(CAE),它具有很强的识别离群点和防御攻击者的能力。其主要思想是将自动编码器从无监督学习模型转变为分类器,其中编码器用于将具有不同标签的样本压缩到不相交的压缩空间中,解码器用于从其压缩空间中恢复样本。编码器既用作压缩特征学习器又用作分类器,解码器用于通过比较输入样本与输出来决定编码器给出的分类是否正确。针对当前DNN框架中不可避免地会出现攻击样本的问题,引入基于CAE的列表分类器来防御攻击者,该列表分类器输出多个标签和相应的样本。大量的实验结果表明,CAE实现了最先进的识别离群值,找到几乎所有的离群值;列表分类器给出了近无损分类的意义上说,输出列表包含正确的标签,几乎所有的对手和输出列表的大小是合理的小。
2022-06-07 cs.LG stat.ML
An outlier map for Support Vector Machine classification
支持向量机是一种广泛使用的分类技术。它们计算效率高,即使对于高维数据也能提供出色的预测。此外,支持向量机是非常灵活的,由于纳入核函数。后者允许非线性模型,但也可以处理非数值数据,如蛋白质串。然而,支持向量机可能会受到不干净数据的影响,例如,离群值或错误标记的观察。虽然在文献中已经提出了几种离群值检测方案,但离群值与非离群值的选择通常是特别的,并且不能提供对数据的深入了解。在稳健多元统计中,离群值图是评估所考虑数据质量的非常流行的工具。它们提供了描述几种类型异常值的数据的可视化表示。本文提出了一种用于支持向量机分类的离群图。将多元统计中的Stahel-Donoho离群度测度推广到任意核空间。裁剪支持向量机定义为对具有最大离群值的样本进行裁剪。基于该分类器,构造了一个离群点图,可以可视化任何类型的高维核空间中的数据。离群值图在4个生物学示例中进行了说明,显示其在探索性数据分析中的用途。
2010-09-29 stat.AP
Robust estimation of heteroscedastic regression models: a brief overview and new proposals
针对数据分析中非线性与异方差性共存导致异常值处理困难的问题,本文梳理了异方差回归模型的稳健估计方案,并提出结合加权MM-回归估计量与稳健方差函数参数估计的迭代估计方法。
2023-11-07 stat.ME
On Soft Power Diagrams
Technische Universität München(慕尼黑工业大学)
数据分析中的许多应用都是从欧氏空间中的一组点开始的,这些点被划分为聚类。然后,常见的任务是设计一个分类器,决定新点与哪个聚类相关联,找到关于聚类的离群值,或者识别用于分区的聚类类型。一种常见的聚类是相对于一组给定站点的(平衡)最小二乘分配。对于这些,有一个“分离功率图”,其中每个集群位于其自己的单元中。在本文中,我们的目标是有效的算法离群值检测和阈值的计算,衡量如何相似的聚类是一个最小二乘分配固定的网站。为此,我们设计了一个新的模型,用于计算一个“软实力”,它允许一个软分离的集群与“点计数属性”,例如,我们能够规定有多少点,我们要分类为离群值。由于我们的结果持有一个更一般的非凸模型的自由网站,我们描述它和我们的证明,在这种更一般的方式。其局部最优解满足上述点计数性质。对于使用固定站点的目标应用程序,我们的算法可以通过线性规划有效地求解全局最优解。
2014-06-24 cs.LG math.OC stat.ML
Autoencoder Watchdog Outlier Detection for Classifiers
Baylor University(贝勒大学)
神经网络通常被描述为黑盒子。一个被训练来区分小猫和小狗的通用神经网络会把一张橘子的照片分类为小猫或小狗。自动编码器看门狗在处理之前筛选经训练的分类器/回归机器输入候选,例如,以首先测试神经网络输入是小狗还是小猫。使用卷积神经网络和卷积自动编码器看门狗使用MNIST图像的初步结果。
2021-02-10 cs.LG
Anti-spoofing Methods for Automatic SpeakerVerification System
Speech Technology Center Limited(语音技术中心有限公司);ITMO University(ITMO大学)
自动说话人确认(ASV)系统引起了人们越来越大的兴趣,这使得对ASV系统的欺骗攻击的质量得到了显著的提高。许多研究工作证实,尽管ASV系统的等误率(EER)很低,但它仍然容易受到欺骗攻击。在这项工作中,我们概述了不同的声学特征空间和分类器,以确定可靠和强大的对策,对欺骗攻击。在2015年ASVspoof挑战赛(AutomaticSpeakerVerification Spoofing and Countermeasures Challenge 2015)的开发和评估数据集上,比较了目前提出的几种欺骗检测系统。此外,基于小波的功能显示令人印象深刻的结果,在平等的出错率。在我们的概述中,我们比较了基于不同分类器的系统的欺骗性能。比较结果表明,线性SVM分类器优于传统的GMM方法。然而,许多研究人员受到深度神经网络(DNN)方法在自动语音识别中取得的巨大成功的启发,将DNN应用于欺骗检测任务,并针对已知和未知类型的欺骗攻击获得了相当低的EER。
2017-05-24 cs.LG cs.SD stat.ML
One-class classifiers based on entropic spanning graphs
Politecnico di Milano(米兰理工大学);Università della Svizzera Italiana(瑞士意大利语大学)
单类分类器为评估数据中离群值的存在提供了有价值的工具。本文提出了一种基于熵生成图的单类分类器的设计方法。我们的方法考虑到处理非数值数据的嵌入过程的方式的可能性。生成图在嵌入的输入数据上学习,并且顶点的输出分区定义分类器。最后的分区是通过利用基于互信息最小化的标准。在这里,我们通过使用一个方便的配方提供的$α$ -詹森差异计算的互信息。一旦训练完成,为了将置信水平与分类器决策相关联,构建基于图的模糊模型。模糊化过程仅基于熵生成图的顶点的拓扑信息。因此,所提出的一类分类器也适用于具有复杂几何结构的数据。我们提供的实验,著名的基准包含特征向量和标记图。此外,我们将该方法应用于蛋白质溶解度识别问题,通过考虑几种表示的输入样本。实验结果表明,相对于其他国家的最先进的方法所提出的方法的有效性和通用性。
2016-08-12 cs.CV cs.IT cs.LG
An Overview of General Performance Metrics of Binary Classifier Systems
本文档简要概述了用于衡量二元分类系统性能的不同指标和术语。
2014-10-17 cs.LG
A One-Sided Classification Toolkit with Applications in the Analysis of Spectroscopy Data
College of Engineering and Informatics, National University of Ireland, Galway(爱尔兰国立高威大学工程与信息学院)
本文研究了基于拉曼光谱的单边分类算法在危险氯化溶剂分离中的应用。实验是使用一个新的单边分类工具包进行的,该工具包是从头开始设计和开发的。在单侧分类范例中,目标是将目标类的元素与所有离群值分开。在实践中,当训练样本中存在某种缺陷时,通常会选择这些单侧分类器。有时候,异常的例子可能很罕见,标签昂贵,甚至完全不存在。然而,作者想指出的是,当异常值示例丰富但在统计上不能代表完整的异常值概念时,它们同样适用。正是这种情况下,是明确处理在这项研究工作。在这些情况下,已经发现单侧分类器比传统的多类分类器更鲁棒。引入术语“意外”离群值来表示测试集中遇到的离群值示例,这些离群值示例取自与训练集示例不同的分布。这些例子是由于训练集中所有可能的离群值的代表性不足而导致的。通常不可能完全排除异常值的例子,因为它们可以代表不可估量数量的“其他一切”,而不是目标。研究结果表明,当测试数据来自与训练样本完全不同的分布时,使用传统的多类分类算法存在潜在的缺陷。
2018-06-12 cs.LG stat.ML
Recent Advances in Algorithmic High-Dimensional Robust Statistics
存在离群值时的学习是统计学中的一个基本问题。直到最近,所有已知的有效的无监督学习算法都对高维中的离群值非常敏感。特别是,即使对于自然分布假设下的鲁棒均值估计任务,也没有已知的有效算法。最近的工作在理论计算机科学给出了第一个有效的鲁棒估计的一些基本的统计任务,包括均值和协方差估计。从那时起,有一系列的研究活动的算法高维鲁棒估计在一系列的设置。在这篇综述文章中,我们介绍了算法高维稳健统计新兴领域的核心思想和算法技术,重点是稳健均值估计。我们还提供了一个概述的方法,导致计算效率的强大的估计范围更广泛的统计任务,并讨论新的方向和机会,为未来的工作。
2019-11-14 cs.CC cs.DS math.ST
The Familiarity Hypothesis: Explaining the Behavior of Deep Open Set Methods
Collaborative Robotics and Intelligent Systems (CoRIS) Institute(协作机器人与智能系统研究所);Oregon State University(俄勒冈州立大学)
在许多对象识别应用中,可能类别的集合是开放集合,并且所部署的识别系统将遇到属于在训练期间未见过的类别的新对象。检测这种“新类别”对象通常被公式化为异常检测问题。特征向量数据的异常检测算法将异常识别为离群值,但离群值检测在深度学习中并不有效。相反,基于视觉对象分类器的计算逻辑的方法提供了最先进的性能。本文提出了熟悉性假设,这些方法之所以成功,是因为它们检测到了熟悉的学习特征的缺失,而不是新颖性的存在。这种区别很重要,因为在许多情况下,基于熟悉度的检测会失败,其中存在新颖性。例如,当一个图像包含一个新的对象和一个熟悉的对象时,熟悉度得分将很高,因此新的对象将不会被注意到。本文回顾了文献中的证据,并从我们自己的实验中提供了更多的证据,为这一假设提供了强有力的支持。本文最后讨论了基于熟悉度的检测是否是表示学习的必然结果。
2022-07-27 cs.CV cs.LG stat.ML
Backdooring Outlier Detection Methods: A Novel Attack Approach
Ludwig-Maximilians-Universität München (LMU)(慕尼黑大学(LMU));École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院(EPFL))
针对现有后门攻击只影响闭集分类、难以破坏开集离群点检测的问题,本文提出 BATOD,通过两类触发器混淆闭集与开集边界,并在多个真实数据集及防御条件下验证其攻击效果。
2024-12-06 cs.AI cs.CR cs.CV
A probabilistic view on Riemannian machine learning models for SPD matrices
LAMSADE, CNRS, PSL Univ. Paris-Dauphine, France(LAMSADE、CNRS、巴黎-第纳夫大学);LITIS, INSA Rouen-Normandy, Rouen, France(LITIS、 Rouen-诺曼底大学);Inria center, University of Bordeaux / LaBRI, Talence, France(Inria中心、波尔多大学 / LaBRI);TAU, LISN, University Paris-Saclay, France(TAU、LISN、巴黎-萨克雷大学)
本文提出将SPD矩阵黎曼流形上的机器学习工具统一在概率框架下,通过高斯分布重新解释分类器并用于异常检测与降维,为扩展其他方法奠定基础。
2025-11-03 cs.LG math.ST stat.ML
RA-GCN: Graph Convolutional Network for Disease Prediction Problems with Imbalanced Data
Sharif University of Technology(谢里夫理工大学);Technical University of Munich(慕尼黑工业大学);Johns Hopkins University(约翰斯·霍普金斯大学)
疾病预测是医学应用中众所周知的分类问题。GCN提供了一个强大的工具,用于分析患者的功能相对于彼此。这可以通过将问题建模为图节点分类任务来实现,其中每个节点都是患者。由于这种医疗数据集的性质,类不平衡是疾病预测领域的一个普遍问题,其中类的分布是偏斜的。当数据中存在类别不平衡时,现有的基于图的分类器倾向于偏向主类而忽略次类中的样本。另一方面,对所有患者中罕见阳性病例的正确诊断在医疗保健系统中至关重要。在常规方法中,通过向损失函数中的类分配适当的权重来解决这种不平衡,所述损失函数仍然依赖于权重的相对值,对离群值敏感,并且在某些情况下偏向于次要类。在本文中,我们提出了一个重新加权对抗图卷积网络(RA-GCN),以防止基于图的分类器强调任何特定类别的样本。这是通过将基于图的神经网络与每个类相关联来实现的,该网络负责对类样本进行加权并改变每个样本对于分类器的重要性。因此,分类器会自我调整并确定类之间的边界,更多地关注重要样本。分类器和加权网络的参数通过对抗方法进行训练。我们展示了合成和三个公开的医疗数据集上的实验。RA-GCN证明了与最近的方法相比,在所有三个数据集上识别患者状态的优越性。详细的分析是作为定量和定性实验合成数据集。
2021-11-07 cs.LG
Dealing with Class Imbalance using Thresholding
University of Pittsburgh(匹兹堡大学);Robert Bosch LLC(罗伯特·博世有限公司)
我们提出阈值作为一种方法来处理类不平衡。我们定义的阈值的概念作为一个过程中确定一个决策边界在一个可调参数的存在。阈值是满足某个决策的条件时该可调参数的最大值。我们表明,阈值不仅适用于线性分类器,而且适用于非线性分类器。我们表明,这是许多方法来处理线性分类器中的类不平衡的隐含假设。然后,我们扩展这种范式超越线性分类,并显示如何非线性分类可以处理这个伞框架下的阈值。所提出的方法可以用于离群值检测在许多现实生活中的场景,如在制造业。在先进的制造单元中,制造过程随着时间的推移已经成熟,需要被拒绝的产品实例(或部件)的数量(基于严格的质量测试制度)变得相对较少,并被定义为离群值。如何事先检测这些罕见的部分或异常值?如何检测导致这些异常值的条件组合?这些问题激发了我们的研究。本文主要研究了用分类方法预测异常值和异常值产生的条件。我们使用分类解决离群点检测问题。这些类是好零件(通过质量测试的零件)和坏零件(未通过质量测试的零件,可被视为离群值)。异常值的罕见性将这个问题转化为类不平衡分类问题。
2016-07-10 cs.LG
Exposing Outlier Exposure: What Can Be Learned From Few, One, and Zero Outlier Images
TU Kaiserslautern(凯泽斯劳滕工业大学);Aignostics(Aignostics公司);TU Berlin(柏林工业大学);Berlin Institute for the Foundations of Learning and Data(柏林学习与数据基础研究所);Google Research(谷歌研究院);MPII(马克斯·普朗克信息学研究所);Korea University(高丽大学)
由于难以表征所有看起来不像正常数据的东西,异常检测(AD)传统上被视为仅利用正常样本的无监督问题。然而,最近发现,通过利用大量的随机图像来表示不确定性,可以大大改善无监督图像AD;这种技术被称为离群暴露。在本文中,我们表明,专业的AD学习方法似乎不需要最先进的性能,而且可以实现强大的性能,只需少量的离群暴露数据,这与AD领域的常见假设相矛盾。我们发现,标准分类器和半监督单类方法经过训练,可以区分正常样本和相对较少的随机自然图像,在ImageNet的AD基准测试中,它们的表现优于当前最先进的技术。进一步的实验表明,即使是一个精心选择的离群值样本也足以在该基准测试中实现良好的性能(79.3% AUC)。我们研究了这种现象,发现单类方法对训练离群值的选择更鲁棒,这表明在某些情况下,这些方法仍然比标准分类器更有用。此外,我们还包括实验,描绘的情况下,我们的结果举行。最后,当使用CLIP学习的表示时,不需要训练样本,CLIP是最近的基础模型,它在zero-shot设置中在CIFAR-10和ImageNet上实现了最先进的AD结果。
2022-11-14 cs.CV cs.LG stat.ML
Do Outliers Ruin Collaboration?
Institute for Interdisciplinary Information Sciences (IIIS)(跨学科信息科学研究所(IIIS));Tsinghua University(清华大学)
我们考虑从$n$不同的数据源中学习一个二元分类器的问题,其中至多有一个$η$分数是对抗的。开销被定义为在此设置中学习的样本复杂度与在单个数据分布上学习相同假设类的样本复杂度之间的比率。我们提出了一种算法,实现了$O(ηn + \ln n)$开销,这被证明是最坏情况下的最佳。我们还讨论了潜在的挑战,设计一个计算效率高的学习算法与小开销。
2018-05-12 cs.DS cs.LG stat.ML
How Does Unlabeled Data Provably Help Out-of-Distribution Detection?
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);University of Technology Sydney(悉尼科技大学);Australian Artificial Intelligence Institute(澳大利亚人工智能研究所)
本文提出SAL框架,通过分离无标签数据中的候选异常值并训练OOD分类器,从理论和实证两方面证明无标签数据可有效提升分布外检测性能。
2024-02-05 cs.LG stat.ML
Supervised Classification: Quite a Brief Overview
Delft University of Technology(代尔夫特理工大学);University of Copenhagen(哥本哈根大学)
监督分类的原始问题考虑的任务是根据来自这些对象的数值测量值自动将对象分配到它们各自的类。分类器是实现从这些测量(也称为特征或输入)到所谓的类标签或输出的实际功能映射的工具。模式识别和机器学习领域研究构造这种分类器的方式。监督方法背后的主要思想是从示例中学习:给定一些示例输入-输出关系,在多大程度上可以学习将任何新的和不可见的特征向量带到其正确类的一般映射?本章提供了一个基本的介绍如何来监督分类问题的基本思想。此外,它还概述了一些特定的分类技术,深入研究了对象表示和分类器评估的问题,并(非常)简要地介绍了一些基本监督分类任务的变化,这些变化也可能是从业者感兴趣的。
2017-10-25 cs.CV cs.LG stat.ML
Improving Vertical Positioning Accuracy with the Weighted Multinomial Logistic Regression Classifier
Beijing University of Posts and Telecommunications(北京邮电大学)
本文提出了一种利用全球定位系统(GPS)信息和气压值提高垂直定位精度的方法。首先,我们清除在各种环境中收集的原始数据的空值,并使用3 $σ$ -规则来识别离群值。其次,训练加权多项逻辑回归(WMLR)分类器以获得异常值的预测高度。最后,为了验证其效果,我们比较了MLR方法,WMLR方法,和支持向量机(SVM)方法的清洁数据集作为测试基线。数值结果表明,在67%的测试点上,垂直定位精度从MLR方法的5.9米、SVM方法的5.4米提高到WMLR方法的5米。
2020-06-18 cs.CE cs.LG eess.SP
Semi-Supervised Anomaly Detection Based on Quadratic Multiform Separation
AEM Technology Taiwan Corporation(AEM科技台湾公司);National Taiwan University(国立台湾大学)
在本文中,我们提出了一种新的方法半监督异常检测(SSAD)。我们的分类器被命名为QMS 22,因为它的成立日期是2022年,在最近引入的分类模型二次多形式分离(QMS)的框架。QMS 22通过解决涉及原始问题的训练集和测试集的多类分类问题来解决SSAD。分类问题有意地包括具有重叠样本的类。其中一个类包含正态样本和离群值的混合,所有其他类仅包含正态样本。然后使用分类问题的结果为测试集中的每个样本计算离群值分数。我们还包括QMS 22对顶级性能分类器的性能评估,使用来自KEEL存储库的95个基准不平衡数据集。这些分类器是BRM(Bagging-Random Miner),OCKRA(One-Class K-means with Randomly-projected features Algorithm),ISOF(Isolation Forest)和ocSVM(One-Class Support Vector Machine)。以受试者工作特征曲线的曲线下面积作为性能指标,QMS 22的性能明显优于ISOF和ocSVM。此外,Wilcoxon符号秩检验显示,当检验QMS 22与BRM或QMS 22与OCKRA时,无统计学显著差异。
2022-08-17 cs.LG stat.ML
Skin cancer detection based on deep learning and entropy to detect outlier samples
Federal University of Espírito Santo(圣埃斯皮里图联邦大学);Dalhousie University(达尔豪斯大学);University of Stirling(斯特林大学)
我们描述了我们的方法,分别在ISIC挑战2019中的任务1和任务2中获得第三和第四名。这项挑战的目标是使用图像和元数据提供皮肤癌的诊断。数据集中有九个类,然而,其中一个是异常值,并且不存在于数据集中。为了解决这个问题,我们应用了一个分类器集成,它有13个卷积神经网络(CNN),我们开发了两种方法来处理异常值类,我们提出了一种简单的方法来使用元数据和图像。在本报告中,我们详细介绍了每种方法和参数,以便轻松复制我们的工作。所得到的结果是根据以前的挑战和方法来检测离群类和解决元数据似乎是正常工作。
2020-01-05 cs.CV cs.LG stat.ML
Unsupervised Instance Selection with Low-Label, Supervised Learning for Outlier Detection
Elder Research, Inc.(埃尔德研究公司)
标记数据的费力过程通常会阻碍旨在利用监督机器学习的能力的项目。主动学习(AL)已经建立了一种技术,以改善这种情况下,通过一个迭代的框架,查询人类注释的标签的实例与最不确定的类分配。通过这种机制,AL产生了一个二元分类器,该分类器在较少的标记数据上训练,但预测性能几乎没有损失。尽管AL具有优势,但它在处理类别不平衡的数据集时可能会遇到困难,并导致标记过程效率低下。为了解决这些缺点,我们研究了我们的无监督实例选择(UNISEL)技术,然后在低标签条件下对10个离群值检测数据集进行随机森林(RF)分类。将这些结果与在相同数据集上执行的AL进行比较。此外,我们调查的UNISEL和AL的组合。结果表明,UNISEL其次是RF执行与RF和UNISEL和AL的组合表现出优越的性能。这些调查结果的实际影响,在节省时间和普遍性UNISEL提供了讨论。
2022-03-17 cs.AI cs.LG
Does Your Dermatology Classifier Know What It Doesn't Know? Detecting the Long-Tail of Unseen Conditions
Google Health(谷歌健康);Google Research(谷歌研究院);DeepMind(深度思维)
我们开发并严格评估了一个基于深度学习的系统,该系统可以准确地对皮肤状况进行分类,同时检测没有足够数据可用于训练自信分类器的罕见状况。我们框架这个任务作为一个外的分布(OOD)检测问题。我们的新方法,分层离群值检测(HOD)为每个训练离群值类分配多个分类类,并联合执行内点与离群值的粗分类,以及各个类的细粒度分类。我们证明了HOD损失的有效性与现代表示学习方法(BiT,Simplified,MICLe),并探索不同的集成策略,以进一步改善结果。我们在不同风险水平和不同皮肤类型的条件下进行了广泛的亚组分析,以研究OOD检测性能在每个亚组中的变化,并证明我们的框架与基线相比的收益。最后,我们引入了一个成本指标来近似下游临床影响。我们使用这个成本指标来比较所提出的方法与基线系统,从而使一个更强的情况下,在现实世界的部署方案的整体系统的有效性。
2021-04-08 cs.CV cs.LG
Active Learning for One-Class Classification Using Two One-Class Classifiers
Institute of Signal Processing(信号处理研究所)
本文介绍了一种新的,通用的主动学习方法的一类分类。在机器学习领域,主动学习方法在减少人工标注的工作量方面发挥着重要作用。虽然在过去的几年里已经提出了许多主动学习方法,他们大多数是限制在二进制或多类问题。单类分类器在训练过程中只使用来自一个类(所谓的目标类)的样本,因此需要特殊的主动学习策略。为一类分类提出的少数策略要么受到特定一类分类器的限制,要么其性能取决于对数据集的特定假设,如不平衡。我们提出的方法基于使用两个单类分类器,一个用于所需的目标类,一个用于所谓的离群值类。它允许发明新的查询策略,使用二进制查询策略和定义简单的停止标准。在此基础上提出了两种查询策略。所提供的实验将所提出的方法与各种数据集上的已知策略进行比较,并在几乎所有情况下显示出改进的结果。
2019-01-10 cs.LG stat.ML
Symbiotic Hybrid Neural Network Watchdog For Outlier Detection
Baylor University(贝勒大学)
神经网络在很大程度上是黑箱。被训练来对水果进行分类的神经网络可以将长颈鹿的图片分类为香蕉。一个神经网络看门狗的工作是识别这些输入,允许分类器忽略这些数据。我们研究看门狗是否应该从神经网络分离或共生连接。我们提出的经验证据表明,共生看门狗的性能优于当神经网络是不相交的。
2021-04-21 cs.LG eess.IV
ECO-AMLP: A Decision Support System using an Enhanced Class Outlier with Automatic Multilayer Perceptron for Diabetes Prediction
National University of Sciences & Technology(国家科学与技术大学);Manchester Metropolitan University(曼彻斯特城市大学)
随着先进的数据分析技术,为疾病预测提供更准确的决策支持系统的努力正在增加。世界卫生组织(WHO)的调查表明,糖尿病患者和相关死亡人数每年都在大幅增加。糖尿病的早期诊断是研究人员和从业人员的主要关注点。本文提出了一个应用\textit{Automatic Multilayer Perceptron },\textit{ }结合离群检测方法\textit{Enhanced Class Outlier Detection using distance based algorithm },创建一个预测框架命名为增强类离群自动多层感知器(ECO-AMLP)。一系列的实验进行公开的皮马印度糖尿病数据集比较ECO-AMLP与其他个人分类器以及集成为基础的方法。与其他预处理和分类技术相比,我们框架中使用的离群值技术得到了更好的结果。最后,将结果与文献中报道的其他最先进的方法进行比较,预测PIDD糖尿病的准确性为88.7%,优于所有其他报道的研究。
2017-06-23 cs.LG
Out-of-Scope Intent Detection with Self-Supervision and Discriminative Training
The Hong Kong Polytechnic University(香港理工大学);Fano Labs(Fano实验室)
超范围意图检测在面向任务的对话系统中具有重要的实际意义。由于离群话语的分布是任意的并且在训练阶段是未知的,现有方法通常依赖于对数据分布的强假设(例如高斯混合)来进行推断,从而导致复杂的多步训练过程或手工制作的规则(例如用于离群检测的置信阈值选择)。在本文中,我们提出了一种简单而有效的方法,训练的范围外的意图分类器在一个完全端到端的方式,通过模拟测试场景的训练,这需要对数据分布的假设,没有额外的后处理或阈值设置。具体来说,我们在训练阶段构建了一组伪离群值,通过自我监督使用内联特征生成合成离群值,并从容易获得的开放域数据集中采样范围外的句子。伪离群值被用来训练一个判别分类器,该分类器可以直接应用于测试任务,并具有很好的泛化能力。我们在四个基准对话数据集上对我们的方法进行了广泛的评估,并观察到了比最先进方法的显着改进。我们的代码已在https://github.com/liam0949/DCLOOS上发布。
2021-06-17 cs.CL cs.LG
Open Set Recognition Through Deep Neural Network Uncertainty: Does Out-of-Distribution Detection Require Generative Classifiers?
Goethe University(歌德大学)
我们提出了一个基于预测不确定性的分析分布外检测的不同方法来估计各种模型的认知不确定性,并将其与基于极值理论的开集识别。虽然前者似乎不足以克服这一挑战,我们证明,不确定性与后者的方法齐头并进。这似乎特别反映在生成模型方法中,我们表明基于后验的开集识别优于判别模型和基于预测不确定性的离群值拒绝,提出了一个问题,即分类器是否需要生成,以便知道他们没有看到什么。
2019-08-26 cs.CV cs.LG stat.ML
FodFoM: Fake Outlier Data by Foundation Models Creates Stronger Visual Out-of-Distribution Detector
Peng Cheng Laboratory(鹏城实验室);Key Laboratory of Machine Intelligence and Advanced Computing(机器智能与先进计算重点实验室);China United Network Communications Corporation Limited Guangdong Branch(中国联合网络通信有限公司广东省分公司)
针对现有视觉OOD检测方法依赖高成本辅助数据或假设简化的问题,提出FodFoM框架,结合多类基础模型生成两种伪造离群图像用于训练,在多个基准上取得当前最优检测性能。
2024-11-22 cs.CV cs.LG
Metrics for Multi-Class Classification: an Overview
CRIF S.p.A.(CRIF股份公司);Università degli Studi di Bologna(博洛尼亚大学);University of Bologna(博洛尼亚大学)
机器学习中涉及两个以上类的分类任务被称为“多类分类”。当目标是评估和比较不同的分类模型或机器学习技术时,性能指标非常有用。许多指标都可以用来测试多类分类器的能力。这些指标在开发过程的不同阶段都很有用,例如,比较两个不同模型的性能或通过调整不同参数来分析同一模型的行为。在本白皮书中,我们回顾了一系列最有前途的多类指标,强调了它们的优点和缺点,并展示了它们在分类模型开发过程中的可能用途。
2020-08-13 cs.LG stat.ML
OpenMix: Exploring Outlier Samples for Misclassification Detection
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学)
深度神经分类器的可靠置信度估计在高风险应用中是一个具有挑战性的基本要求。不幸的是,现代深度神经网络往往对错误的预测过于自信。在这项工作中,我们利用容易获得的离群样本,即,来自非目标类的未标记样本,用于帮助检测误分类错误。特别是,我们发现,众所周知的离群暴露,这是强大的检测出的分布(OOD)样本从未知的类,不提供任何增益识别误分类错误。基于这些观察结果,我们提出了一种新的方法,称为OpenMix,它通过学习拒绝通过离群值变换生成的不确定伪样本来融合开放世界知识。OpenMix显著提高了各种场景下的置信可靠性,建立了一个强大而统一的框架,用于检测来自已知类的错误分类样本和来自未知类的OOD样本。该代码可在https://github.com/Impression2805/OpenMix上公开获取。
2023-03-30 cs.AI cs.LG
Quantile-based Maximum Likelihood Training for Outlier Detection
University of Zagreb(萨格勒布大学);Carl Zeiss Meditec AG(卡尔蔡司医疗技术公司)
针对图像分类中离群值假阳性问题,提出基于分位数的最大似然目标,通过将归一化流拟合到预训练判别特征上学习内点分布,有效提升离群值检测性能并减少对负训练数据的依赖。
2024-06-02 cs.CV cs.LG
An Isolation Forest Learning Based Outlier Detection Approach for Effectively Classifying Cyber Anomalies
Chittagong University of Engineering & Technology(吉大港工程技术大学);Jahangirnagar University(贾汉吉尔纳加尔大学);Canberra Institute of Technology(堪培拉理工学院);Kuwait University(科威特大学)
由于物联网(IoT)的普及、移动网络的大幅增长以及许多相关应用程序,网络安全最近对当今的安全问题产生了相当大的兴趣。因此,检测网络中的大量网络攻击并创建有效的入侵检测系统在当今的安全中起着至关重要的作用。在本文中,我们提出了一个隔离森林学习为基础的离群检测模型,有效地分类网络异常。为了评估所得到的离群点检测模型的有效性,我们还使用了几种传统的机器学习方法,如Logistic回归(LR),支持向量机(SVM),AdaBoost分类器(ABC),朴素贝叶斯(NB)和K-最近邻(KNN)。我们提出的离群检测模型的有效性进行评估进行实验的网络入侵数据集的评价指标,如精度,召回率,F1分数,和准确性。实验结果表明,去除离群点后,网络异常的分类精度得到了提高。
2020-12-09 cs.CR cs.LG
From Misclassifications to Outliers: Joint Reliability Assessment in Classification
Intellindust AI Lab(智联工业人工智能实验室);Samsung AI Center(三星人工智能中心)
本文提出联合评估框架和双评分函数,提升分类器可靠性,适用于不同场景的稳健模型部署。
2026-03-04 cs.CV cs.LG
Out-of-Distribution Detection with Hilbert-Schmidt Independence Optimization
SUN YAT-SEN University(中山大学);Qiyuan Lab(启元实验室);JD AI Research(京东人工智能研究院)
异常值检测任务在人工智能安全中发挥着关键作用。处理这项任务是一项巨大的挑战。观察表明,深度神经网络分类器通常倾向于以高置信度将分布外(OOD)输入错误地分类到分布内类中。现有的作品试图解决这个问题,明确施加不确定性的分类时,OOD输入暴露在训练过程中的分类。在本文中,我们提出了一种替代的概率范式,这是实际上有用的和理论上可行的OOD检测任务。特别是,我们在训练过程中对内点和离群点数据之间施加统计独立性,以确保内点数据在训练过程中向深度估计器透露很少关于OOD数据的信息。具体来说,我们通过Hilbert-Schmidt独立性准则(HSIC)估计内点和离群点数据之间的统计依赖性,并在训练过程中惩罚这种度量。我们还将我们的方法与一种新的统计测试在推理时间加上我们的原则性动机。实验结果表明,我们的方法是有效的和鲁棒的OOD检测在各种基准。与SOTA模型相比,我们的方法在FPR 95,AUROC和AUPR指标方面取得了显着的改进。代码可用:\url{https://github.com/jylins/hood}。
2022-09-26 cs.CV cs.LG
Medix: Out-of-Distribution Detection from Unlabeled Wild Data via Robust Gradient Statistics
IBM(IBM公司);University of Waterloo(多伦多大学);CUHK(香港中文大学);Rensselaer Polytechnic Institute(罗切斯特理工学院)
研究利用未标记野生数据进行分布外检测的问题,提出Medix框架,通过基于中位数的稳健梯度统计识别异常值,结合标记InD数据训练分类器,理论推导与实证结果表明该方法全面优于现有方法。
2026-07-08 cs.AI cs.LG math.OC
Class Introspection: A Novel Technique for Detecting Unlabeled Subclasses by Leveraging Classifier Explainability Methods
University of Edinburgh(爱丁堡大学)
检测数据集内的潜在结构是执行数据集分析的关键步骤。然而,现有的最先进的子类发现技术是有限的:要么他们是有限的检测非常少量的离群值,或者他们缺乏统计能力来处理复杂的数据,如图像或音频。本文提出了一种解决这个子类发现问题的方法:通过利用实例解释方法,现有的分类器可以扩展到通过分类器的内部决策对每个实例的差异来检测潜在类。这不仅适用于简单的分类技术,也适用于深度神经网络,从而提供了一种强大而灵活的方法来检测数据集中的潜在结构。实际上,这代表了数据集到分类器的“解释空间”的投影,初步结果表明,即使在有限的处理下,这种技术也优于潜在类检测的基线。本文还包含一个自动分析分类器的管道,以及一个用于交互式探索该技术结果的Web应用程序。
2021-11-08 cs.LG
Machine Learning Suites for Online Toxicity Detection
PeopleTec, Inc.(PeopleTec公司)
为了识别和分类有毒的在线评论,数据科学的现代工具将原始文本转换为关键特征,阈值或学习算法可以从中做出预测,以监控攻击性对话。我们系统地评估了62个分类器,代表了19个主要的算法家族,从维基百科评论的Jigsaw数据集中提取的特征。我们比较分类器的基础上统计上显着差异的准确性和相对执行时间。在这些用于识别有毒评论的分类器中,基于树的算法提供了最透明的可解释规则,并对每个特征的预测贡献进行了排序。在句法、情感、情感和离群词词典的28个特征中,一个简单的坏词列表被证明是最能预测攻击性评论的。
2018-10-03 cs.CL cs.LG cs.NE
Detection of data drift and outliers affecting machine learning model performance over time
IBM Research(IBM研究院)
一个经过训练的ML模型被部署在另一个“测试”数据集上,其中目标特征值(标签)是未知的。漂移是训练数据和部署数据之间的分布变化,这与模型性能是否发生变化有关。例如,对于猫/狗图像分类器,部署期间的漂移可能是兔子图像(新类)或具有变化特征的猫/狗图像(分布变化)。我们希望检测这些更改,但如果没有部署数据标签,则无法测量准确性。相反,我们通过非参数化测试模型预测置信度变化的分布来间接检测漂移。这概括了我们的方法和回避特定领域的功能表示。我们使用变点模型(CPM;参见Adams and Ross 2012)解决重要的统计问题,特别是序贯检验中的1型错误控制。我们还使用非参数离群值方法来显示用户可疑的观察模型诊断,因为之前/之后的变化置信分布重叠显着。在证明鲁棒性的实验中,我们对MNIST数字类的子集进行训练,然后插入漂移(例如,看不见的数字类)在各种设置(漂移比例的逐渐/突然变化)中的部署数据中。引入一种新的损失函数来比较漂移检测器在不同水平的漂移类污染下的性能(检测延迟、1型和2型误差)。
2022-09-06 cs.LG stat.AP stat.ML
Non-Linear Outlier Synthesis for Out-of-Distribution Detection
University of Bern(伯尔尼大学)
本文提出NCIS方法,通过在扩散模型嵌入空间中直接合成离群点并利用条件体积保持网络建模类条件流形,在ImageNet100和CIFAR100上取得最先进的OOD检测性能。
2024-11-20 cs.AI cs.CV cs.LG
Enhancing Sentiment Analysis Results through Outlier Detection Optimization
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文研究利用 Deep SVDD 离群点检测优化主观标签文本的情感分析,结合 DistilBERT、传统机器学习及 DeBERTa v3 large 分类器,发现移除离群点在多数数据集上可提升分类性能。
2023-11-25 cs.AI cs.CL cs.LG
Classifier Calibration: A survey on how to assess and improve predicted class probabilities
Federal University of Paraíba(帕拉伊巴联邦大学);University of Bristol(布里斯托尔大学);University of Tartu(塔尔图大学)
该综述系统介绍分类器校准的原理与实践,涵盖评估指标、可视化、二分类及多分类事后校准方法等内容,为相关研究提供概念与工具支撑。
2023-02-16 cs.LG stat.ML