Statistical Depth based Normalization and Outlier Detection of Gene Expression Data
归一化和离群点检测属于基因表达数据的预处理。我们提出了一个自然的归一化过程的基础上的统计数据深度归一化的基因表达的分布的最具代表性的基因表达的组。这与分位数归一化的标准方法不同，该方法基于坐标中位数数组，缺乏一维中位数的众所周知的属性。统计数据深度保持了这些良好的特性。已知基因表达数据含有离群值。尽管已经广泛地研究了在给定基因表达数据集中检测离群基因，但是这些方法不适用于检测离群样本，这是由于数据的高维度但低样本量结构造成的困难。用于检测异常值样本的标准程序是可视化的，并基于降维技术;实例是多维缩放和光谱图。为了检测给定基因表达数据集中的离群基因，我们提出了一种分析方法，并基于Tukey的离群值概念和统计深度概念，因为以前的方法会导致不自信和错误的离群值。我们揭示了四个数据集的离群值，作为进一步研究的必要步骤。
2022-06-28 stat.ME
ChauBoxplot and AdaptiveBoxplot: Two R packages for boxplot-based outlier detection
Hong Kong Baptist University（香港浸会大学）；Shanghai University of International Business and Economics（上海对外经贸大学）；Fudan University（复旦大学）
本文提出 ChauBoxplot 和 AdaptiveBoxplot 两个 R 包，用于改进基于箱线图的异常检测方法，通过模拟和实证分析展示其稳健性和实用性。
2026-03-03 stat.ME
Pointwise Data Depth for Univariate and Multivariate Functional Outlier Detection
针对传统函数型数据深度单值表征不足的问题，提出基于逐点深度分布与成对深度相关性的单/双变量函数型异常值检测方法，经模拟和光伏数据集验证性能优于传统方法。
2023-11-05 stat.ME
Kernel Random Projection Depth for Outlier Detection
Aichi Institute of Technology（爱知工业大学）
本文提出一种核随机投影深度方法，在再生核希尔伯特空间中计算RPD，以应对数据多模态和非凸性，实验表明其在基准数据集上优于RPD且与其他检测模型相当。
2023-09-06 cs.LG stat.AP stat.ME
Multivariate Functional Outlier Detection using the FastMUOD Indices
我们提出了快速大规模无监督离群值检测（FastMUOD）指标的定义和属性，用于函数数据中的离群值检测（OD）。FastMUOD通过计算每条曲线的振幅、幅度和形状指数来检测异常值，这些指数旨在针对相应类型的异常值。提出了将FastMUOD应用于多元函数数据离群点检测的方法。这些包括将FastMUOD应用于多变量数据的分量和使用随机投影。此外，这些技术在各种模拟和真实的多元函数数据集上进行了测试。与多元函数OD的最新技术水平相比，使用随机投影显示出最有效的结果，具有相似的OD性能，并且在某些情况下改善了OD性能。
2022-07-26 stat.AP stat.CO stat.ME
Functional Outlier Detection and Taxonomy by Sequential Transformations
功能数据分析可能会受到异常观测值的严重影响，这些异常观测值可以根据其偏离大部分数据的方式被分类为幅度或形状异常值。识别幅度异常值相对容易，而检测形状异常值则更具挑战性。我们建议通过数据转换将形状异常值转化为幅度异常值，并使用功能箱形图检测它们。除了简化检测过程外，顺序应用几个转换还为标记的离群值提供了合理的分类。一个联合功能排名，其中包括几个转换，也定义在这里。仿真研究进行了评估所提出的方法使用不同的功能深度的概念的性能。在几个实际应用中得到有趣的结果。
2020-03-21 stat.CO stat.ME
Robust Outlier Detection and Low-Latency Concept Drift Adaptation for Data Stream Regression: A Dual-Channel Architecture
School of Mathematical Sciences（数学科学学院）；School of Future Science and Engineering（未来科学与工程学院）
本文提出了一种双通道架构，用于数据流回归中的鲁棒异常检测和低延迟概念漂移适应，通过EWMAD-DT检测器实现对突发和渐进漂移的区分。
2025-12-13 cs.LG stat.ME
Nonparametric framework for the definition, adaptive detection and probabilistic interpretation of outliers
Sapienza University of Rome（罗马大学）
本文提出一种基于伪隔离分数的非参数离群值检测框架，实现概率定义与几何分类，并集成到K-means中形成ODK-means，通过理论与实证验证其有效性。
2026-09-09 stat.CO stat.ME
Detecting and Classifying Outliers in Big Functional Data
我们提出了两种新的离群点检测方法，用于识别和分类（大）函数数据集中不同类型的离群点。所提出的方法是基于现有的方法称为大规模无监督离群点检测（MUOD）。MUOD通过为每条曲线计算三个指数来检测和分类异常值，所有这些指数都基于线性回归和相关性的概念，这些指数相对于数据中的其他曲线在形状、大小和幅度方面测量异常值。第一种方法“Semifast-MUOD”使用观测样本计算指数，而第二种方法“Fast-MUOD”使用逐点或$L_1$中值计算指数。经典的箱形图被用来从典型观测值中分离出异常值的指数。所提出的方法使用模拟数据的性能评估显示显着的改进相比，MUOD，无论是在离群值检测和计算时间。我们表明，Fast-MUOD特别适合于处理大而密集的功能数据集，与其他方法相比，计算时间非常短。与最近的一些离群值检测方法的功能数据的进一步比较也显示出优越的或可比的离群值检测精度的方法。我们将所提出的方法应用于天气，人口增长和视频数据。
2021-10-14 stat.AP stat.ME
Boundary Peeling: Outlier Detection Method Using One-Class Peeling
Miami University（迈阿密大学）
提出一类边界剥离算法，利用一类SVM迭代剥离边界，实现高效稳健的无监督异常值检测，并在多种数据分布及基准数据集上表现优异。
2024-09-20 cs.LG stat.ME stat.ML
Localized Kernel Projection Outlyingness: A Two-Stage Approach for Multi-Modal Outlier Detection
Department of Computer Science, Aichi Institute of Technology（爱知技术大学计算机科学系）
提出两阶段LKPLO框架，结合自适应损失函数、全局核PCA和局部聚类，解决多模态离群检测问题，在10个基准数据集上取得最优性能。
2026-06-16 cs.LG stat.ML
ICS for complex data with application to outlier detection for density data
本文在抽象欧几里得空间中提出ICS的无坐标定义，将其扩展到函数型和分布型复杂数据，用于异常检测，并在低异常比例模拟及越南气温分布数据中验证了有效性。
2025-05-26 math.ST stat.ME stat.TH
MCODE: Multivariate Conditional Outlier Detection
University of Pittsburgh（匹兹堡大学）
离群值检测的目的是识别偏离预期模式的异常数据实例。当异常值是上下文相关的并且当它们由多个结果变量值的不寻常组合定义时，异常值检测特别具有挑战性。在本文中，我们开发和研究了一种新的条件离群值检测方法的多元结果空间，其工作原理是（1）转换的条件检测到离群值检测问题在一个新的（无条件）空间和（2）定义离群值得分通过分析数据在新的空间。我们的方法依赖于多维分类问题的分类器链分解，该分类器链分解让我们将输出空间转换为概率向量，输出空间的每个维度都有一个概率。然后，应用于这些变换向量的离群值分数用于检测离群值。多个多维分类问题与不同的离群值注入率的实验表明，我们的方法是强大的，能够成功地识别离群值时，离群值是稀疏（表现在一个或很少的维度）或密集（影响多个维度）。
2015-05-15 cs.AI cs.LG stat.ML
A boosted outlier detection method based on the spectrum of the Laplacian matrix of a graph
提出了一种基于图的拉普拉斯矩阵谱的离群点检测算法。与基于稀疏数据的学习器一起利用boosting。Laplacian矩阵的稀疏性显著降低了计算负担，使得基于谱的离群点检测方法能够应用于与谱聚类相比更大的数据集。该方法在合成数据集上与常用的孤立森林和局部离群因子等离群点检测算法具有竞争力。
2020-08-10 cs.LG stat.ML
Outlier Detection Using Nonconvex Penalized Regression
Florida State University（佛罗里达州立大学）；Stanford University（斯坦福大学）
本文从惩罚回归的角度研究了异常值检测问题。我们的回归模型为每个$n$数据点添加了一个均值漂移参数。然后，我们应用有利于稀疏向量的均值漂移参数的正则化。通常的$L_1$惩罚产生一个凸的标准，但我们发现，它不能提供一个强大的估计。$L_1$惩罚对应于软阈值。我们介绍了一个阈值（表示为$Θ$）为基础的离群值检测（$Θ$-IPOD）的迭代过程。基于硬阈值的版本正确识别一些硬测试问题的离群值。我们发现，$Θ$-IPOD比迭代重加权最小二乘大数据快得多，因为每次迭代的成本最多$O(np)$（有时少得多），避免了$O(np^2)$最小二乘估计。我们描述了$Θ$-IPOD和$M$-估计之间的连接。我们提出的方法有一个调整参数，既识别离群值和估计回归系数。可以基于BIC做出依赖于数据的选择。与其他现有方法相比，调整后的$Θ$-IPOD在识别各种情况下的离群值方面表现出出色的性能。如果系数向量和离群模式都是稀疏的，则该方法扩展到使用$p\gg n$的高维建模。
2011-10-17 cs.LG stat.CO stat.ME
Automated detection of business-relevant outliers in e-commerce conversion rate
我们评估了现代离群值检测方法在识别电子商务转化率数据中的离群值方面的表现。基于所发现的局限性，我们提出了一种新的方法来检测电子商务转化率中的异常值。这种无监督的方法通过让它根据在电子商务平台上观察到的活动自动调整灵敏度，使其更具业务相关性。我们称这种异常值检测方法为流体IQR。使用从已知商店获得的真实电子商务转换数据，我们比较了现有的和新的离群值检测方法的性能。当涉及到业务相关性时，Fluid IQR方法比现有的离群值检测方法有更大的优势。此外，流体IQR方法是在存在极端异常值或水平偏移的集群的情况下最稳健的异常值检测方法。未来的研究将评估如何流体IQR方法在不同的电子商务环境中执行。
2019-05-16 stat.AP stat.ML
Multiple outlier detection tests for parametric models
我们提出了一个简单的多离群点识别方法参数的位置-尺度和形状-尺度模型时，可能的离群点的数量是不指定的。该方法是基于一个结果给出的渐近性质的极端z分数。使用模型参数的鲁棒估计来定义z分数。为了与现有方法进行比较，进行了大量的仿真研究。对于正规族，将该方法与著名的Davies-Gather、Rosner、Hawking和Bolshev的多重离群点识别方法进行了比较。讨论了Rosner检验应用中可能的异常值数目的上极限的选择。对于其他的家庭，所提出的方法进行了比较的方法推广Gather-Davies方法。在大多数情况下，新方法在掩蔽和淹没值方面具有最高的离群值识别能力。我们还为建议的测试创建了R包outliersTests。
2019-10-23 math.ST stat.AP stat.ME
Benchmarking Unsupervised Outlier Detection with Realistic Synthetic Data
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
对无监督离群值检测进行基准测试是困难的。离群值是罕见的，现有的基准数据包含具有各种未知特征的离群值。完全合成数据通常由异常值和具有明确特征的规则实例组成，因此原则上允许对检测方法进行更有意义的评估。尽管如此，只有很少的尝试，包括合成数据的基准离群检测。这可能是由于离群值的概念不精确，或者是由于难以用合成数据很好地覆盖不同的领域。在这项工作中，我们提出了一个通用的过程中产生的数据集，这样的基准。其核心思想是从现有的真实世界的基准数据中重建常规实例，同时生成离群值，以便它们表现出有洞察力的特征。这既可以很好地覆盖域，又可以对结果进行有帮助的解释。我们还描述了生成具有特定特征的离群值（如局部离群值）的通用过程的三个实例。采用最先进检测方法的基准测试证实了我们的通用工艺确实实用。
2020-04-15 cs.LG stat.ML
Shape Outlier Detection and Visualization for Functional Data: the Outliergram
提出了一种新的曲线形状异常点的可视化和检测方法。在函数数据分析中，我们观察定义在给定实区间上的曲线，形状异常值是那些表现出与样本其余部分不同形状的曲线。虽然幅度异常值，即在某些点或整个区间上表现出极高或极低值的曲线，通常很容易识别，但形状异常值通常被掩盖在其余曲线中，因此难以检测。在这篇文章中，我们利用函数数据的两个深度之间的关系，以帮助可视化曲线的形状，并开发一个算法的形状离群检测。我们说明了使用的可视化工具，outliergram，通过几个例子和评估的性能的算法上的模拟研究。我们将它们应用于儿童生长数据集中的异常值检测，其中女孩样本被男孩曲线污染，反之亦然。
2013-09-30 stat.CO
Randomized PCA Forest for Unsupervised Outlier Detection
Department of Mathematics and Computer Science（数学与计算机科学系）；University of Southern Denmark（南丹麦大学）；Faculty of Information Technology and Communication Sciences（信息科技与通信科学学院）；Tampere University（塔尔库大学）
本文提出一种基于随机PCA的无监督异常检测方法，利用RPCA森林的内在特性生成异常评分，在多个数据集上优于经典和最新方法，展现出鲁棒性和高效性。
2026-05-08 cs.AI cs.LG stat.ML
XGBOD: Improving Supervised Outlier Detection with Unsupervised Representation Learning
University of Toronto（多伦多大学）；PricewaterhouseCoopers（普华永道）
提出了一种新的半监督集成算法XGBOD（Extreme梯度提升Outlier Detection），描述并演示了该算法在实际数据集上对正态观测数据中的离群点的增强检测。建议的框架结合了监督和无监督机器学习方法的优势，通过创建一个混合的方法，利用他们各自的性能能力在离群值检测。XGBOD使用多个无监督离群值挖掘算法从底层数据中提取有用的表示，以增强嵌入式监督分类器在改进的特征空间上的预测能力。新的方法相比，竞争的个人检测器，完整的合奏和两个现有的表示学习为基础的算法在七个离群数据集提供卓越的性能。
2019-12-01 cs.DB cs.IR cs.LG
Outlier Detection through Null Space Analysis of Neural Networks
University of Florida（佛罗里达大学）
许多机器学习分类系统缺乏能力意识。具体地，许多系统缺乏识别何时异常值（例如，与训练数据分布不同且未在其中表示的样本）被呈现给系统。检测异常值的能力具有实际意义，因为它可以帮助系统在遇到意外数据时以合理的方式运行。在先前的工作中，离群值检测通常在与分类模型不同的处理管道中进行。因此，对于一个包含离群值检测和分类的完整系统，必须训练两个模型，从而增加了该方法的整体复杂性。在本文中，我们使用的零空间的概念，集成离群值检测方法直接到一个神经网络用于分类。我们的方法，称为神经网络的空间分析（NuSA），其工作原理是计算和控制的零空间投影的大小，数据通过网络。使用这些预测，我们可以计算出一个可以区分正常和异常数据的分数。结果表明，用NuSA训练的网络保留了它们的分类性能，同时也能够以类似于常用离群值检测算法的速度检测离群值。
2020-07-02 cs.LG stat.ML
Outlier Detection Using a Novel method: Quantum Clustering
Tiangong University（天津工业大学）；Shanghai Library（上海图书馆）
提出了一种新的离群点检测假设：正常数据实例通常位于数据密度几乎没有波动的区域，而离群点通常出现在数据密度波动剧烈的区域。基于这一假设，我们提出了一种新的基于密度的方法来进行无监督离群点检测。这种方法被称为量子聚类（QC），处理未标记的数据处理，并构造一个势函数来找到聚类的质心和离群点。实验表明，势函数能有效地发现数据点中隐藏的异常点。此外，通过使用QC，我们可以通过调整参数$σ$来发现更多的细微异常值。此外，我们的方法也评估了两个数据集（空气质量检测和达尔文对应项目）从两个不同的研究领域，结果表明，我们的方法的广泛适用性。
2020-06-08 cs.AI cs.LG stat.ML
Homophily Outlier Detection in Non-IID Categorical Data
Australian Institute for Machine Learning, University of Adelaide（阿德莱德大学澳大利亚机器学习研究所）；Center of Artificial Intelligence, University of Technology Sydney（悉尼科技大学人工智能中心）；Data Science Lab, University of Technology Sydney（悉尼科技大学数据科学实验室）
大多数现有的离群值检测方法假设离群值因子（即，离群值评分测量）（例如，特征值和数据对象）是独立且相同分布的（IID）。这个假设在现实世界的应用中并不成立，在现实世界的应用中，不同实体的离群值相互依赖和/或来自不同的概率分布（非IID）。这可能导致无法检测到重要的离群值，这些离群值太细微，无法在不考虑非IID性质的情况下识别。在更具挑战性的情况下，这一问题甚至更加突出，例如，具有许多噪声特征的高维数据。本文提出了一种新的离群点检测框架，并通过捕获非IID离群点因子来识别分类数据中的离群点。我们的方法首先定义并将分布敏感的离群因素及其相互依赖性纳入基于值-值图的表示中。然后，它在值图中建模离群传播过程以学习特征值的离群性。学习值离群允许直接离群值检测或离群特征选择。图表示和挖掘的方法，在这里很好地捕捉丰富的非IID特征。我们在15个具有不同数据复杂度的真实数据集上的实证结果表明：（i）在95%/99%的置信水平下，本文提出的离群点检测方法显著优于五种最先进的方法，在10个最复杂的数据集上实现了10%-28%的AUC改善;以及（ii）所提出的特征选择方法在实现两个不同现有检测器的后续离群值检测方面显著优于三种竞争方法。
2021-03-21 cs.AI cs.LG stat.ML
PyODDS: An End-to-end Outlier Detection System with Automated Machine Learning
Texas A&M University（得克萨斯农工大学）
离群点检测是各种数据采掘应用的重要任务。目前的异常值检测技术通常是针对特定领域手动设计的，需要大量的人工努力来设置数据库，选择算法和调整超参数。为了填补这一空白，我们提出了PyODDS，这是一个自动化的端到端Python系统，用于离群值检测和数据库支持，它可以自动优化手头新数据源的离群值检测管道。具体来说，我们在离群点检测流水线中定义搜索空间，并在给定的搜索空间内产生搜索策略。PyODDS支持基于Apache Spark后端服务器和轻量级数据库的端到端执行。它还为具有或不具有数据科学或机器学习背景的用户提供统一的界面和可视化。特别是，我们在几个真实世界的数据集上演示了PyODDS，并给出了量化分析和可视化结果。
2020-03-12 cs.AI cs.LG stat.ML
Robust Variational Autoencoders for Outlier Detection and Repair of Mixed-Type Data
University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）；Google Research（谷歌研究院）
研究了混合类型表格数据中的无监督单元离群点检测与修复问题。传统的方法只关心检测数据集中哪些行是离群值。然而，识别特定行中哪些单元格被损坏是实践中的一个重要问题，也是修复它们的第一步。我们引入了鲁棒变分自编码器（RVAE），这是一种深度生成模型，可以学习干净数据的联合分布，同时识别离群细胞，允许对其进行填补（修复）。RVAE显式地学习每个单元格是离群值的概率，平衡行离群值得分中的不同似然模型，使该方法适用于混合类型数据集中的离群值检测。我们的实验表明，RVAE不仅表现得比几个国家的最先进的方法在细胞离群检测和修复表格数据，但也是强大的对初始超参数的选择。
2020-03-03 cs.LG stat.ML
Outlier Detection Ensemble with Embedded Feature Selection
National University of Defense Technology（国防科技大学）
特征选择在提高离群点检测的性能方面发挥着重要作用，特别是对于噪声数据。现有的方法通常分别进行特征选择和离群值评分，这会选择可能不适合离群值检测的特征子集，导致性能不令人满意。在本文中，我们提出了一个孤立点检测集成框架与嵌入式特征选择（ODEFS），以解决这个问题。具体而言，对于每个基于随机子采样的学习组件，ODEFS将特征选择和离群值检测统一到成对排序公式中，以学习为离群值检测方法定制的特征子集。此外，我们采用阈值化的自定进度学习，同时优化特征选择和样本选择，这有助于提高训练集的可靠性。之后，我们设计了一个交替算法，证明了收敛性，以解决由此产生的优化问题。此外，我们还分析了该框架的泛化误差界，为该方法提供了理论保证和实践指导。在不同领域的12个真实数据集上的综合实验结果验证了所提出的ODEFS的优越性。
2020-01-15 cs.LG stat.ML
Achieving differential privacy for $k$-nearest neighbors based outlier detection by data partitioning
University of Applied Sciences Osnabrück（奥斯纳布吕克应用科学大学）；Leibniz University Hannover（莱布尼茨汉诺威大学）
当在数据敏感的环境中应用离群值检测时，需要保证底层数据隐私的机制。$k$-最近邻（$k$-NN）算法是一种简单有效的离群点检测方法。到目前为止，还没有尝试开发用于基于$k$-NN的离群值检测的差分私有（$ε$-DP）方法。现有的方法通常放宽$ε$-DP的概念，并采用除$k$-NN之外的其他方法。我们提出了一种基于$k$-NN的离群点检测方法，该方法通过将该过程分离为对参考内点数据的拟合步骤，然后将离群点分类器应用于新数据。我们实现了$ε$-DP的拟合算法和离群值分类器相对于参考数据的数据集划分成一个统一的网格，这产生低的全局灵敏度。我们的方法在不同维度的真实数据上产生了接近最佳的性能，与非私有版本的$k$-NN相比。
2021-04-16 cs.CR cs.LG stat.AP
PyODDS: An End-to-End Outlier Detection System
Texas A&M University（德州农工大学）
PyODDS是一个端到端的Python系统，用于数据库支持的离群值检测。PyODDS提供离群点检测算法，满足不同领域用户的需求，w/wo数据科学或机器学习背景。PyODDS提供了在数据库中执行机器学习算法的能力，而无需将数据移出数据库服务器或通过网络。它还提供了广泛的离群值检测算法，包括统计分析和最近的基于深度学习的方法。PyODDS是在MIT开源许可下发布的，目前可在（https：//github.com/datamllab/pyodds）获得，官方文档在（https：//pyodds.github.io/）。
2019-10-11 cs.DB cs.LG stat.ML
Outlier Detection on Mixed-Type Data: An Energy-based Approach
Centre for Pattern Recognition；Data Analytics Deakin University, Geelong, Australia
离群值检测相当于找到与正常值显著不同的数据点。经典的离群点检测方法主要是针对连续或离散等单一数据类型设计的。然而，现实世界的数据越来越异构，其中一个数据点可以同时具有离散和连续属性。以规范的方式处理混合类型的数据仍然是一个巨大的挑战。本文提出了一种新的基于混合变量限制玻尔兹曼机（Mv.RBM）的无监督混合数据离群点检测方法。Mv.RBM是一种对数据密度进行建模的原则性概率方法。我们建议使用来自Mv.RBM的\emph{free-energy}作为离群值得分来检测位于低密度区域的数据点的离群值。该方法学习和计算速度快，可扩展到大规模数据集。同时，离群值得分与数据负对数密度相同，直到一个附加常数。我们在合成数据集和真实数据集上对所提出的方法进行了评估，并证明了（a）正确处理混合类型在离群值检测中是必要的，以及（b）Mv的自由能。RBM是一种强大而有效的离群值评分方法，与最先进的方法相比具有很强的竞争力。
2016-08-17 cs.LG stat.ML
Detection of Thin Boundaries between Different Types of Anomalies in Outlier Detection using Enhanced Neural Networks
Islamic Azad University（伊斯兰阿扎德大学）；Institute for Advanced Studies in Basic Sciences（基础科学高级研究所）；Petanux GmbH（佩塔努克斯有限公司）
离群点检测在各个领域都受到了特别的关注，主要是那些处理机器学习和人工智能的领域。异常作为强异常，分为点异常、上下文异常和集体异常。异常值检测中最重要的挑战包括远程点和自然区域之间的薄边界、新数据和噪声模仿真实数据的趋势、未标记的数据集以及不同应用中异常值的不同定义。考虑到上述挑战，我们定义了新类型的异常，称为集合正态异常和集合点异常，以提高对不同类型异常之间的薄边界的更好检测。基本的领域独立的方法被引入到检测这些定义的异常在无监督和监督数据集。利用遗传算法对多层感知器神经网络进行了增强，以更高的精度检测新定义的异常，从而确保测试误差小于传统多层感知器神经网络的计算误差。在基准数据集上的实验结果表明，与基线相比，异常检测过程的错误减少。
2020-01-24 cs.LG cs.NE stat.ML
Quantum Entropy Scoring for Fast Robust Mean Estimation and Improved Outlier Detection
Microsoft Research（微软研究院）；UC Berkeley（加州大学伯克利分校）；Simons Institute for Theory of Computing（西蒙斯计算理论研究所）
我们研究了高维稳健统计中的两个问题：\emph{robust mean estimation}和\emph{outlier detection}。在鲁棒均值估计中，目标是估计给定$n$独立样本的$\mathbb{R}^d$上的分布的均值$μ$，其中$\varepsilon$部分已被恶意攻击者破坏。在离群值检测中，目标是为数据集的每个元素分配一个\emph{outlier score}，以便为更可能是离群值的元素分配更高的分数。这两个问题的算法是基于一个新的离群值评分方法，我们称之为QUE评分的基础上\emph{quantum entropy regularization}。对于鲁棒均值估计，这产生了第一个在所有参数中具有最佳错误率和接近线性运行时间$\widetilde{O}(nd)$的算法，改进了先前的最快运行时间$\widetilde{O}(\min(nd/\varepsilon^6, nd^2))$。对于离群值检测，我们通过对合成数据和真实数据的大量实验来评估QUE评分的性能，并证明它通常比以前提出的算法表现得更好。这些实验的代码可在https://github.com/twistedcubic/que-outlier-detection上获得。
2019-06-26 cs.DS cs.LG math.ST
Provable Self-Representation Based Outlier Detection in a Union of Subspaces
Johns Hopkins University（约翰斯·霍普金斯大学）
许多计算机视觉任务涉及处理大量被离群值污染的数据，这些离群值需要被检测和拒绝。虽然基于鲁棒统计的离群点检测方法已经存在了几十年，但直到最近才开发出基于稀疏和低秩表示的方法，以及当内点位于一个或多个低维子空间中时正确离群点检测的保证。本文提出了一种新的离群点检测方法，结合稀疏表示和图上的随机游走的工具。通过利用数据点可以表示为彼此的稀疏线性组合的属性，我们得到了数据点之间的非对称亲和矩阵，我们使用它来构造一个加权有向图。通过从这个图中定义一个合适的马尔可夫链，我们建立了马尔可夫链的内点/离群点和本质/非本质状态之间的联系，这使我们能够通过使用随机游走来检测离群点。我们提供了一个理论分析，证明我们的方法的正确性，几何和连通性假设。图像数据库上的实验结果表明，相对于最先进的稀疏和低秩离群点检测方法的优越性。
2017-04-12 cs.CV stat.ML
Outlier Detection and Spatial Analysis Algorithms
Vellore Institute of Technology（韦洛尔理工学院）
离群点检测是数据挖掘中的一个重要领域。它可以用于在分析之前对数据进行预处理，也可以用于在处理阶段之后（可视化之前）进行处理，具体取决于离群值的有效性及其重要性。离群点检测广泛应用于信用卡欺诈检测、网络入侵检测、机器故障预测、潜在的恐怖袭击等领域，离群点是指那些具有显著不同特征的数据点。它们偏离数据集，导致分析过程中的不一致、噪音和异常，并导致原始点的修改。然而，一个常见的误解是，离群值必须立即从数据集中消除或替换。如果单独分析，这些点可以被认为是有用的，因为它们可以从一个单独的机制中获得，这对研究问题很重要。本文综述了空间分析中异常值检测的不同方法。空间数据或地理空间数据是那些表现出地理属性或属性（如位置或区域）的数据。一个例子是为定义的区域收集的天气数据，如降水、温度、风速等。
2021-06-20 cs.LG stat.ML
Outlier Detection Using Generative Models with Theoretical Performance Guarantees
University of Iowa（爱荷华大学）
本文提出利用生成模型进行异常值检测，通过ADMM和梯度下降算法在稀疏异常值下重建信号，并给出理论保证，实验验证优于传统方法。
2023-10-16 cs.LG eess.SP stat.ML
Are Outlier Detection Methods Resilient to Sampling?
UMR ESPACE-DEV, IRD（法国发展研究所UMR ESPACE-DEV研究所）；New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute, Hamad Bin Khalifa University（哈马德·本·哈利法大学卡塔尔计算研究所）
离群点检测是数据采掘中的一项基本任务，在数据库错误检测中有着广泛的应用。虽然在离群值检测方法方面已经有了大量的工作，但现代数据集的大小通常超出了常用方法在合理时间内处理数据的能力。为了克服这个问题，可以在全尺寸数据集的样本上训练离群值检测方法。然而，目前尚不清楚在样本上训练的模型如何与在整个数据集上训练的模型进行比较。在本文中，我们介绍了离群点检测方法的抽样弹性的概念。与传统的性能指标（如精度/召回率）正交，弹性表示应用于采样方案中的样本的方法检测到的离群值与应用于整个数据集时的离群值相匹配的程度。我们提出了一种新的方法来估计弹性抽样的个别离群值的方法和他们的合奏。我们对合成和真实世界的数据集进行了广泛的实验研究，研究了七种不同的具有代表性的离群值检测方法，比较了从样本中获得的结果与从整个数据集获得的结果，并评估了我们的弹性估计的准确性。我们观察到，这些方法对给定的采样方案并不具有同等的弹性，并且通常情况下，仔细联合选择采样方案和离群值检测方法是必要的。我们希望，本文开始研究设计离群点检测算法，是弹性的采样。
2019-07-31 cs.LG stat.ML
Explainable outlier detection through decision tree conditioning
这项工作描述了一个离群值检测程序（名为“离群树”）松散的基础上开发的GritBot软件的RuleQuest研究，其工作原理是通过评估和以下监督决策树分裂的变量，在其分支1-D置信区间构建的目标变量和潜在的离群值标记根据这些置信区间。在这种逻辑下，通过考虑决策树分支条件以及落入同一分支的非离群值观测值之间的一般分布统计数据，可以产生人类可读的解释，说明为什么观测值中的给定变量值可以被视为离群值，然后可以将其与CI之外的值进行对比。监督分割有助于确保生成的条件不是虚假的，而是与目标变量相关并具有逻辑断点。
2020-01-02 cs.LG stat.ML
A geometric perspective on functional outlier detection
Ludwig-Maximilians-University（慕尼黑大学）
我们考虑从几何角度的功能异常检测，特别是：功能数据集从一个功能流形，这是由数据的振幅和相位的变化模式定义。基于这个流形，我们开发了一个概念化的功能异常检测，是更广泛的适用性和现实比以前提出的。我们的理论和实验分析证明了这种观点的几个重要优势：它大大提高了理论理解，并允许描述和分析复杂的功能异常情况一致，并在充分的一般性，通过区分结构异常异常的异常数据是离流形和分布离群数据是流形上，但在其边缘。这提高了实际可行性的功能异常检测：我们表明，简单的流形学习方法可以用来可靠地推断和可视化的几何结构的功能数据集。我们还表明，标准的离群值检测方法，需要表格数据输入可以应用到功能数据非常成功地简单地使用他们的向量值表示学习流形学习方法作为输入功能。我们在合成数据集和真实数据集上的实验表明，这种方法导致离群值检测性能至少与各种设置中现有的功能数据特定方法相当，而无需这些方法通常需要的高度专业化，复杂的方法和狭窄的应用领域。
2021-09-14 cs.LG stat.CO stat.ML
Kernel Outlier Detection
提出核异常检测（KOD）方法，通过核变换和投影寻踪解决高维环境下的异常检测问题，克服了现有方法对分布假设和超参数的依赖，在多个数据集上验证了其有效性。
2025-06-28 cs.LG stat.ML
Partial Wasserstein and Maximum Mean Discrepancy distances for bridging the gap between outlier detection and drift detection
MathInf GmbH（MathInf有限公司）
随着机器学习和基于深度学习的应用在实践中的兴起，监控（即验证这些在规范内操作）已成为重要的实际问题。这种监测的一个重要方面是检查输入（或中间体）是否偏离了它们被验证的分布，这可能使测试期间获得的性能保证无效。对此有两种常见的方法。也许，更经典的是离群值检测或新颖性检测，其中，对于单个输入，我们询问它是否是离群值，即极不可能源自参考分布。第二种方法，可能是最近的方法，是考虑大量的输入，并将其分布与参考分布（例如在测试期间采样）进行比较。这在标签漂移检测下完成。在这项工作中，我们通过将给定数量的输入与自动选择的参考分布部分进行比较，弥合了离群值检测和漂移检测之间的差距。
2021-06-28 cs.LG stat.ML
Robust Subspace Outlier Detection in High Dimensional Space
大型数据库中的稀有数据被称为离群值，它们揭示了现实世界中的重要信息。基于子空间的离群点检测被认为是一种可行的方法。然而，在子空间中发现的异常值实际上只是高维空间中真实异常值的一部分。在投影维子空间中，隐藏在正常聚类点中的离群点有时会被忽略。在本文中，我们提出了一个强大的子空间方法来检测这样的内部离群点在一个给定的数据集，它使用二维的投影：检测离群点的子空间中的局部密度比在第一个投影的维度;发现离群点通过比较邻居的位置在第二个投影的维度。每个点的权重是通过将两步投影维度中得到的所有相关值相加来计算的，然后将得分最大的权重值的点作为离群值。通过对维数从10到10000的一系列实验，结果表明，该方法在极高维空间中具有较高的精度，在低维空间中具有较好的效果。
2014-05-05 cs.AI cs.LG stat.ML
A Local Density-Based Approach for Local Outlier Detection
University of Rhode Island（罗德岛大学）
提出了一种简单有效的基于密度的局部核密度估计（KDE）离群点检测方法。提出了一种基于相对密度的离群值（RDOS）来度量目标的局部离群性，该方法基于目标的扩展最近邻，采用局部KDE方法来估计目标位置的密度分布。而不是只使用$k$最近的邻居，我们进一步考虑反向最近的邻居和共享最近的邻居的对象的密度分布估计。推导了该RDOS的期望值和虚警概率等理论性质。综合实验研究的合成和现实生活中的数据集表明，我们的方法是更有效的比国家的最先进的离群值检测方法。
2016-06-28 cs.AI cs.LG stat.ML
RCC-Dual-GAN: An Efficient Approach for Outlier Detection with Few Identified Anomalies
Hefei University of Technology（合肥工业大学）
离群点检测是数据采掘中的一项重要任务，在各种应用中，人们已经探索了许多技术。然而，由于离群值是非集中的默认假设，无监督离群值检测可能无法正确检测具有较高密度水平的组异常。对于有监督的离群点检测，虽然通常可以获得较高的检测率和最佳参数，但获得足够的正确标签是一项耗时的任务。为了解决这些问题，我们专注于半监督离群点检测与少数识别异常，希望使用有限的标签，以实现高检测精度。首先，我们提出了一种新的检测模型Dual-GAN，它可以直接利用已识别异常中的潜在信息来同时检测离散离群点和部分识别的群体异常。然后，考虑到在复杂的数据结构中，具有相似输出值的实例并不都是相似的，我们用RCC和M-GAN的组合（RCC-Dual-GAN）代替Dual-GAN中的两个MO-GAN组件。另外，为了处理纳什均衡的评价和最优模型的选择，在两个模型中引入了两个评价指标，使检测过程更加智能化。在基准数据集和两个实际任务上的广泛实验表明，我们提出的方法（即，Dual-GAN和RCC-Dual-GAN）可以显著提高离群值检测的准确性，即使只有少数识别出的异常。此外，与Dual-GAN中的两个MO-GAN组件相比，RCC和M-GAN组合的网络结构在各种情况下具有更大的稳定性。
2020-03-07 cs.LG stat.ML
Random Subspace Learning Approach to High-Dimensional Outliers Detection
我们介绍并开发了一种新的方法，离群点检测的基础上适应随机子空间学习。我们提出的方法处理高维低样本量和传统的低维高样本量数据集。从本质上讲，我们避免了计算瓶颈的技术，如最小协方差行列式（MCD）的计算所需的行列式和相关的措施，在低得多的维子空间。我们的方法的理论和计算的发展表明，它是计算上更有效的高维低样本量的正则化方法，并经常有利地竞争与现有的方法，就正确的离群点检测的百分比而言。
2015-05-03 stat.ML
Adaptive Double-Exploration Tradeoff for Outlier Detection
The Chinese University of Hong Kong（香港中文大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tencent（腾讯）
我们研究了一个变种的阈值强盗问题（TBP）的背景下，离群值检测，其目标是确定离群值的奖励高于阈值。与传统的TBP算法不同的是，阈值被定义为所有臂的回报的函数，这是由识别异常值的标准所驱动的。学习者需要探索手臂的回报以及门槛。我们把这个问题称为“离群点检测的双重探索”。我们构造一个自适应更新的置信区间的阈值，在前几轮的阈值的估计值的基础上。此外，通过自动权衡探索各个臂和探索离群阈值，我们提供了一个有效的算法的样本复杂度。在人工数据集和真实数据集上的实验结果表明了该算法的有效性。
2022-03-21 cs.LG stat.ML
Simple robust genomic prediction and outlier detection for a multi-environmental field trial
植物育种试验的目的通常是鉴定出能很好地适应目标环境的种质。这些细菌是通过使用线性混合模型从多环境田间试验（MET）分析中进行基因组预测来鉴定的。MET中异常值的出现是常见的，并且已知会对基因组预测的准确性产生不利影响，但异常值的检测及其随后的处理往往被忽视。有许多原因支持这一点-MET等复杂数据会产生不同水平的残差，因此提供了离群值检测方法的额外挑战，并且许多线性混合模型软件无法进行稳健的预测。我们提出了离群值检测方法，使用一个整体的方法，借用跨试验的力量。我们还评估了一个简单的鲁棒的基因组预测，适用于任何线性混合模型软件。这些都证明了使用模拟的基础上，两个真正的面包小麦产量MET与部分复制的设计和α晶格设计。
2018-07-19 q-bio.QM stat.AP
Outlier Detection using Generative Models with Theoretical Performance Guarantees
University of Iowa（爱荷华大学）；University of Texas, Austin（德克萨斯大学奥斯汀分校）
本文考虑了在许多应用中出现的从被稀疏野值污染的压缩测量中恢复信号的问题。在本文中，我们提出了一个生成模型神经网络方法重建稀疏离群的地面真值信号。我们提出了一种迭代交替方向乘子法（ADMM）算法来解决基于$\ell_1$范数最小化的离群点检测问题，并提出了一种梯度下降算法来解决基于平方$\ell_1$范数最小化的离群点检测问题.我们建立了恢复保证重建的信号使用生成模型中存在的离群值，并给出了一个上限的离群值允许恢复的数量。我们的结果适用于线性生成神经网络和任意层数的非线性生成神经网络。我们使用变分自动编码器和深度卷积生成对抗网络进行了广泛的实验，实验结果表明，使用我们的方法可以在离群值下成功重建信号。我们的方法优于传统的Lasso和$\ell_2$最小化方法。
2018-10-26 cs.CV cs.IT eess.IV
Outlier-Detection Based Robust Information Fusion for Networked Systems
我们考虑状态估计的网络系统中的传感器节点的测量被污染的离群值。通过将无离群值测量模型与二元指标变量相结合，提出了一种新的离群值检测层次测量模型。被分配了β-伯努利先验的二进制指示变量用于表征传感器的测量值是标称值还是离群值。基于提出的离群检测测量模型，集中式和分散式信息融合滤波器的开发。具体地，在集中式方法中，所有测量被发送到融合中心，在融合中心，通过以迭代方式采用平均场变分贝叶斯推断来联合估计状态和离群值指标。然而，在去中心化方法中，每个节点仅基于混合共识策略与其邻居共享其信息，包括先验和似然。然后，每个节点独立地执行估计任务的基础上自己的和共享的信息。此外，提出了一种近似分布式解决方案，以减少本地计算复杂度和通信开销。仿真结果表明，所提出的算法是有效的，在处理野值相比，最近的几个强大的解决方案。
2022-11-07 stat.AP
Unsupervised Outlier Detection using Random Subspace and Subsampling Ensembles of Dirichlet Process Mixtures
Nexon（奈森（韩国游戏公司））；Danggeun Market（당근마켓（韩国电商公司））；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Yonsei University（延世大学）
针对 Dirichlet Process Mixtures 计算低效且对非高斯数据建模困难的问题，提出一种结合随机子空间与子采样集成及变分推断的无监督离群点检测方法，有效提升了计算效率、鲁棒性和检测性能。
2024-07-25 cs.AI cs.LG stat.ML
Size Matters: Cardinality-Constrained Clustering and Outlier Detection via Conic Optimization
普通的K均值聚类在实践中已经被证明是成功的，但它受到离群值敏感性的影响，并且可能产生高度不平衡的聚类。为了减轻这两个缺点，我们制定了一个联合离群值检测和聚类问题，它分配了一个规定数量的数据点的辅助离群值集群，并执行基数约束的K均值聚类的残差数据集，处理集群基数作为一个给定的输入。我们把这个问题作为一个混合整数线性规划（MILP），承认易处理的半定和线性规划松弛。我们提出了确定性舍入方案，将松弛的解决方案，可行解的MILP。我们还证明了这些解决方案是最佳的MILP，如果集群分离条件成立。
2019-01-10 math.OC stat.ML
Generative Adversarial Active Learning for Unsupervised Outlier Detection
Hefei University of Technology（合肥工业大学）；Worcester Polytechnic Institute（伍斯特理工学院）；University of Science and Technology of China（中国科学技术大学）
离群点检测是机器学习中的一个重要课题，并有着广泛的应用。在本文中，我们将离群点检测作为一个二进制分类问题，通过从均匀参考分布中采样潜在的离群点。然而，由于高维空间中数据的稀疏性，有限数量的潜在异常值可能无法提供足够的信息来帮助分类器描述可以有效地将异常值与正常数据分离的边界。为了解决这个问题，我们提出了一种新的单目标生成式对抗主动学习（SO-GAAL）离群点检测方法，它可以直接生成信息的潜在离群点之间的最小-最大博弈的基础上的发电机和发电机。此外，为了防止发生器陷入模式崩溃问题，应该在SO-GAAL能够提供足够信息的情况下确定训练的停止节点。但在没有任何先验信息的情况下，这对SO-GAAL来说是极其困难的。因此，我们扩展了SO-GAAL的网络结构，从一个单一的发电机到多个发电机与不同的目标（MO-GAAL），它可以产生一个合理的参考分布的整个数据集。我们经验比较所提出的方法与几个国家的最先进的离群值检测方法在合成和真实世界的数据集。结果表明，MO-GAAL在大多数情况下优于其竞争对手，特别是对于具有各种聚类类型或高不相关变量比率的数据集。
2019-03-18 cs.LG stat.ML
Further Analysis of Outlier Detection with Deep Generative Models
Tsinghua University（清华大学）；Jiangsu Normal University（江苏师范大学）；Samsung Research China（三星中国研究院）；AWS AI Lab（亚马逊云科技人工智能实验室）
最近，反直觉的发现，即深度生成模型（DGMs）可以经常为离群值分配更高的可能性，这对离群值检测应用以及我们对生成建模的整体理解都有影响。在这项工作中，我们从观察到模型的典型集合和高密度区域可能不重合开始，为这种现象提供了一个可能的解释。从这个有利的角度来看，我们提出了一种新的离群值测试，其经验的成功表明，现有的基于似然的离群值测试的失败并不一定意味着相应的生成模型是未校准的。我们还进行了额外的实验，以帮助解开低层次的纹理与高层次的语义在区分离群值的影响。总的来说，这些结果表明，修改的标准评价的做法和基准通常适用于文献中是必要的。
2020-10-25 cs.LG stat.ML
Sequential Ensemble Learning for Outlier Detection: A Bias-Variance Perspective
Stony Brook University（石溪大学）
用于分类和聚类的集成方法已经有效地使用了几十年，而用于离群点检测的集成学习只是最近才被研究。在这项工作中，我们设计了一个新的集成方法在多维点数据中的离群点检测，它提供了更高的精度，通过减少偏差和方差的错误。虽然分类和异常值检测看起来是不同的问题，但它们的理论基础在偏差-方差权衡方面非常相似[1]，其中异常值检测被认为是具有未观察到的标签的二进制分类任务，但类似的偏差-方差误差分解。在本文中，我们提出了一个顺序集成的方法，称为照顾，采用两个阶段的聚合的中间结果，在每次迭代，以达到最终的结果。与现有的离群值集成不同，现有的离群值集成仅通过聚合独立基础检测器的结果来合并并行框架以减少方差，我们的集成合并了并行和顺序构建块以减少偏差以及方差，（$i$）从原始数据集中连续地消除离群值以建立更好的数据模型，在该数据模型上估计离群值（顺序地），以及（$ii$）组合来自各个基本检测器的结果和跨迭代（重复）。通过对主要来自UCI机器学习库[2]的16个真实世界数据集进行广泛的实验，我们表明CARE的表现明显优于或至少类似于单个基线。我们还将CARE与最先进的离群值合奏进行了比较，当它是赢家时，它也提供了显着的改进，否则仍然接近。
2016-09-18 cs.LG stat.ML
Outlier Detection by Consistent Data Selection Method
eBay Inc（eBay公司）
通常，与欺诈和垃圾邮件检测等任务相关的挑战[1]是缺乏训练合适的监督学习模型所需的所有可能模式。为了克服这种限制，尝试将这样的任务作为离群值或异常检测任务。我们还假设离群者的行为模式会随着时间的推移而改变。有限的数据和不断变化的模式使学习变得非常困难。在这项工作中，我们提出了一种方法，通过依赖于一致的数据点来检测大型数据集中的离群值。这项工作的主要贡献是，它将快速帮助检索一致和非离群数据集的样本，并注意到新的离群模式。提取样本不需要每个集合的先验知识。该方法分为两个阶段，第一阶段采用无监督聚类技术的集成方法检索一致数据点（非离群点），第二阶段采用在一致数据点集上训练的一类分类器对剩余样本集进行离群点识别。该方法在三个公开的数据集上进行了测试，性能得分具有竞争力。
2018-08-21 cs.LG stat.ML
