MCODE: Multivariate Conditional Outlier Detection
University of Pittsburgh（匹兹堡大学）
离群值检测的目的是识别偏离预期模式的异常数据实例。当异常值是上下文相关的并且当它们由多个结果变量值的不寻常组合定义时，异常值检测特别具有挑战性。在本文中，我们开发和研究了一种新的条件离群值检测方法的多元结果空间，其工作原理是（1）转换的条件检测到离群值检测问题在一个新的（无条件）空间和（2）定义离群值得分通过分析数据在新的空间。我们的方法依赖于多维分类问题的分类器链分解，该分类器链分解让我们将输出空间转换为概率向量，输出空间的每个维度都有一个概率。然后，应用于这些变换向量的离群值分数用于检测离群值。多个多维分类问题与不同的离群值注入率的实验表明，我们的方法是强大的，能够成功地识别离群值时，离群值是稀疏（表现在一个或很少的维度）或密集（影响多个维度）。
2015-05-15 cs.AI cs.LG stat.ML
Randomized PCA Forest for Unsupervised Outlier Detection
Department of Mathematics and Computer Science（数学与计算机科学系）；University of Southern Denmark（南丹麦大学）；Faculty of Information Technology and Communication Sciences（信息科技与通信科学学院）；Tampere University（塔尔库大学）
本文提出一种基于随机PCA的无监督异常检测方法，利用RPCA森林的内在特性生成异常评分，在多个数据集上优于经典和最新方法，展现出鲁棒性和高效性。
2026-05-08 cs.AI cs.LG stat.ML
Homophily Outlier Detection in Non-IID Categorical Data
Australian Institute for Machine Learning, University of Adelaide（阿德莱德大学澳大利亚机器学习研究所）；Center of Artificial Intelligence, University of Technology Sydney（悉尼科技大学人工智能中心）；Data Science Lab, University of Technology Sydney（悉尼科技大学数据科学实验室）
大多数现有的离群值检测方法假设离群值因子（即，离群值评分测量）（例如，特征值和数据对象）是独立且相同分布的（IID）。这个假设在现实世界的应用中并不成立，在现实世界的应用中，不同实体的离群值相互依赖和/或来自不同的概率分布（非IID）。这可能导致无法检测到重要的离群值，这些离群值太细微，无法在不考虑非IID性质的情况下识别。在更具挑战性的情况下，这一问题甚至更加突出，例如，具有许多噪声特征的高维数据。本文提出了一种新的离群点检测框架，并通过捕获非IID离群点因子来识别分类数据中的离群点。我们的方法首先定义并将分布敏感的离群因素及其相互依赖性纳入基于值-值图的表示中。然后，它在值图中建模离群传播过程以学习特征值的离群性。学习值离群允许直接离群值检测或离群特征选择。图表示和挖掘的方法，在这里很好地捕捉丰富的非IID特征。我们在15个具有不同数据复杂度的真实数据集上的实证结果表明：（i）在95%/99%的置信水平下，本文提出的离群点检测方法显著优于五种最先进的方法，在10个最复杂的数据集上实现了10%-28%的AUC改善;以及（ii）所提出的特征选择方法在实现两个不同现有检测器的后续离群值检测方面显著优于三种竞争方法。
2021-03-21 cs.AI cs.LG stat.ML
PyODDS: An End-to-end Outlier Detection System with Automated Machine Learning
Texas A&M University（得克萨斯农工大学）
离群点检测是各种数据采掘应用的重要任务。目前的异常值检测技术通常是针对特定领域手动设计的，需要大量的人工努力来设置数据库，选择算法和调整超参数。为了填补这一空白，我们提出了PyODDS，这是一个自动化的端到端Python系统，用于离群值检测和数据库支持，它可以自动优化手头新数据源的离群值检测管道。具体来说，我们在离群点检测流水线中定义搜索空间，并在给定的搜索空间内产生搜索策略。PyODDS支持基于Apache Spark后端服务器和轻量级数据库的端到端执行。它还为具有或不具有数据科学或机器学习背景的用户提供统一的界面和可视化。特别是，我们在几个真实世界的数据集上演示了PyODDS，并给出了量化分析和可视化结果。
2020-03-12 cs.AI cs.LG stat.ML
Robust Subspace Outlier Detection in High Dimensional Space
大型数据库中的稀有数据被称为离群值，它们揭示了现实世界中的重要信息。基于子空间的离群点检测被认为是一种可行的方法。然而，在子空间中发现的异常值实际上只是高维空间中真实异常值的一部分。在投影维子空间中，隐藏在正常聚类点中的离群点有时会被忽略。在本文中，我们提出了一个强大的子空间方法来检测这样的内部离群点在一个给定的数据集，它使用二维的投影：检测离群点的子空间中的局部密度比在第一个投影的维度;发现离群点通过比较邻居的位置在第二个投影的维度。每个点的权重是通过将两步投影维度中得到的所有相关值相加来计算的，然后将得分最大的权重值的点作为离群值。通过对维数从10到10000的一系列实验，结果表明，该方法在极高维空间中具有较高的精度，在低维空间中具有较好的效果。
2014-05-05 cs.AI cs.LG stat.ML
A Local Density-Based Approach for Local Outlier Detection
University of Rhode Island（罗德岛大学）
提出了一种简单有效的基于密度的局部核密度估计（KDE）离群点检测方法。提出了一种基于相对密度的离群值（RDOS）来度量目标的局部离群性，该方法基于目标的扩展最近邻，采用局部KDE方法来估计目标位置的密度分布。而不是只使用$k$最近的邻居，我们进一步考虑反向最近的邻居和共享最近的邻居的对象的密度分布估计。推导了该RDOS的期望值和虚警概率等理论性质。综合实验研究的合成和现实生活中的数据集表明，我们的方法是更有效的比国家的最先进的离群值检测方法。
2016-06-28 cs.AI cs.LG stat.ML
Linear-time Outlier Detection via Sensitivity
ETH Zurich（苏黎世联邦理工学院）
离群值在现代数据集中无处不在。基于距离的技术是一种流行的非参数离群值检测方法，因为它们不需要对数据生成分布进行先验假设，并且易于实现。将这些技术扩展到大规模数据集而不牺牲准确性是一项具有挑战性的任务。我们提出了一种新的算法的基础上的直觉，离群值有显着的影响质量的分歧为基础的聚类解决方案。我们提出了敏感性-最坏情况下的数据点的聚类目标的影响-作为离群值的度量。然后，我们证明了影响，（非平凡的）上界的灵敏度，可以通过一个简单的线性时间算法计算。为了扩展到单个机器之外，我们提出了一种通信高效的分布式算法。在广泛的实验评估中，我们证明了所提出的方法的有效性，并建立统计意义。特别是，它优于最流行的基于距离的方法，同时快了几个数量级。
2016-05-02 cs.LG stat.ML
A boosted outlier detection method based on the spectrum of the Laplacian matrix of a graph
提出了一种基于图的拉普拉斯矩阵谱的离群点检测算法。与基于稀疏数据的学习器一起利用boosting。Laplacian矩阵的稀疏性显著降低了计算负担，使得基于谱的离群点检测方法能够应用于与谱聚类相比更大的数据集。该方法在合成数据集上与常用的孤立森林和局部离群因子等离群点检测算法具有竞争力。
2020-08-10 cs.LG stat.ML
Benchmarking Unsupervised Outlier Detection with Realistic Synthetic Data
Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）
对无监督离群值检测进行基准测试是困难的。离群值是罕见的，现有的基准数据包含具有各种未知特征的离群值。完全合成数据通常由异常值和具有明确特征的规则实例组成，因此原则上允许对检测方法进行更有意义的评估。尽管如此，只有很少的尝试，包括合成数据的基准离群检测。这可能是由于离群值的概念不精确，或者是由于难以用合成数据很好地覆盖不同的领域。在这项工作中，我们提出了一个通用的过程中产生的数据集，这样的基准。其核心思想是从现有的真实世界的基准数据中重建常规实例，同时生成离群值，以便它们表现出有洞察力的特征。这既可以很好地覆盖域，又可以对结果进行有帮助的解释。我们还描述了生成具有特定特征的离群值（如局部离群值）的通用过程的三个实例。采用最先进检测方法的基准测试证实了我们的通用工艺确实实用。
2020-04-15 cs.LG stat.ML
Robust Variational Autoencoders for Outlier Detection and Repair of Mixed-Type Data
University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）；Google Research（谷歌研究院）
研究了混合类型表格数据中的无监督单元离群点检测与修复问题。传统的方法只关心检测数据集中哪些行是离群值。然而，识别特定行中哪些单元格被损坏是实践中的一个重要问题，也是修复它们的第一步。我们引入了鲁棒变分自编码器（RVAE），这是一种深度生成模型，可以学习干净数据的联合分布，同时识别离群细胞，允许对其进行填补（修复）。RVAE显式地学习每个单元格是离群值的概率，平衡行离群值得分中的不同似然模型，使该方法适用于混合类型数据集中的离群值检测。我们的实验表明，RVAE不仅表现得比几个国家的最先进的方法在细胞离群检测和修复表格数据，但也是强大的对初始超参数的选择。
2020-03-03 cs.LG stat.ML
Outlier Detection Ensemble with Embedded Feature Selection
National University of Defense Technology（国防科技大学）
特征选择在提高离群点检测的性能方面发挥着重要作用，特别是对于噪声数据。现有的方法通常分别进行特征选择和离群值评分，这会选择可能不适合离群值检测的特征子集，导致性能不令人满意。在本文中，我们提出了一个孤立点检测集成框架与嵌入式特征选择（ODEFS），以解决这个问题。具体而言，对于每个基于随机子采样的学习组件，ODEFS将特征选择和离群值检测统一到成对排序公式中，以学习为离群值检测方法定制的特征子集。此外，我们采用阈值化的自定进度学习，同时优化特征选择和样本选择，这有助于提高训练集的可靠性。之后，我们设计了一个交替算法，证明了收敛性，以解决由此产生的优化问题。此外，我们还分析了该框架的泛化误差界，为该方法提供了理论保证和实践指导。在不同领域的12个真实数据集上的综合实验结果验证了所提出的ODEFS的优越性。
2020-01-15 cs.LG stat.ML
Outlier Detection on Mixed-Type Data: An Energy-based Approach
Centre for Pattern Recognition；Data Analytics Deakin University, Geelong, Australia
离群值检测相当于找到与正常值显著不同的数据点。经典的离群点检测方法主要是针对连续或离散等单一数据类型设计的。然而，现实世界的数据越来越异构，其中一个数据点可以同时具有离散和连续属性。以规范的方式处理混合类型的数据仍然是一个巨大的挑战。本文提出了一种新的基于混合变量限制玻尔兹曼机（Mv.RBM）的无监督混合数据离群点检测方法。Mv.RBM是一种对数据密度进行建模的原则性概率方法。我们建议使用来自Mv.RBM的\emph{free-energy}作为离群值得分来检测位于低密度区域的数据点的离群值。该方法学习和计算速度快，可扩展到大规模数据集。同时，离群值得分与数据负对数密度相同，直到一个附加常数。我们在合成数据集和真实数据集上对所提出的方法进行了评估，并证明了（a）正确处理混合类型在离群值检测中是必要的，以及（b）Mv的自由能。RBM是一种强大而有效的离群值评分方法，与最先进的方法相比具有很强的竞争力。
2016-08-17 cs.LG stat.ML
Outlier Detection and Spatial Analysis Algorithms
Vellore Institute of Technology（韦洛尔理工学院）
离群点检测是数据挖掘中的一个重要领域。它可以用于在分析之前对数据进行预处理，也可以用于在处理阶段之后（可视化之前）进行处理，具体取决于离群值的有效性及其重要性。离群点检测广泛应用于信用卡欺诈检测、网络入侵检测、机器故障预测、潜在的恐怖袭击等领域，离群点是指那些具有显著不同特征的数据点。它们偏离数据集，导致分析过程中的不一致、噪音和异常，并导致原始点的修改。然而，一个常见的误解是，离群值必须立即从数据集中消除或替换。如果单独分析，这些点可以被认为是有用的，因为它们可以从一个单独的机制中获得，这对研究问题很重要。本文综述了空间分析中异常值检测的不同方法。空间数据或地理空间数据是那些表现出地理属性或属性（如位置或区域）的数据。一个例子是为定义的区域收集的天气数据，如降水、温度、风速等。
2021-06-20 cs.LG stat.ML
Are Outlier Detection Methods Resilient to Sampling?
UMR ESPACE-DEV, IRD（法国发展研究所UMR ESPACE-DEV研究所）；New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute, Hamad Bin Khalifa University（哈马德·本·哈利法大学卡塔尔计算研究所）
离群点检测是数据采掘中的一项基本任务，在数据库错误检测中有着广泛的应用。虽然在离群值检测方法方面已经有了大量的工作，但现代数据集的大小通常超出了常用方法在合理时间内处理数据的能力。为了克服这个问题，可以在全尺寸数据集的样本上训练离群值检测方法。然而，目前尚不清楚在样本上训练的模型如何与在整个数据集上训练的模型进行比较。在本文中，我们介绍了离群点检测方法的抽样弹性的概念。与传统的性能指标（如精度/召回率）正交，弹性表示应用于采样方案中的样本的方法检测到的离群值与应用于整个数据集时的离群值相匹配的程度。我们提出了一种新的方法来估计弹性抽样的个别离群值的方法和他们的合奏。我们对合成和真实世界的数据集进行了广泛的实验研究，研究了七种不同的具有代表性的离群值检测方法，比较了从样本中获得的结果与从整个数据集获得的结果，并评估了我们的弹性估计的准确性。我们观察到，这些方法对给定的采样方案并不具有同等的弹性，并且通常情况下，仔细联合选择采样方案和离群值检测方法是必要的。我们希望，本文开始研究设计离群点检测算法，是弹性的采样。
2019-07-31 cs.LG stat.ML
Explainable outlier detection through decision tree conditioning
这项工作描述了一个离群值检测程序（名为“离群树”）松散的基础上开发的GritBot软件的RuleQuest研究，其工作原理是通过评估和以下监督决策树分裂的变量，在其分支1-D置信区间构建的目标变量和潜在的离群值标记根据这些置信区间。在这种逻辑下，通过考虑决策树分支条件以及落入同一分支的非离群值观测值之间的一般分布统计数据，可以产生人类可读的解释，说明为什么观测值中的给定变量值可以被视为离群值，然后可以将其与CI之外的值进行对比。监督分割有助于确保生成的条件不是虚假的，而是与目标变量相关并具有逻辑断点。
2020-01-02 cs.LG stat.ML
Kernel Outlier Detection
提出核异常检测（KOD）方法，通过核变换和投影寻踪解决高维环境下的异常检测问题，克服了现有方法对分布假设和超参数的依赖，在多个数据集上验证了其有效性。
2025-06-28 cs.LG stat.ML
Partial Wasserstein and Maximum Mean Discrepancy distances for bridging the gap between outlier detection and drift detection
MathInf GmbH（MathInf有限公司）
随着机器学习和基于深度学习的应用在实践中的兴起，监控（即验证这些在规范内操作）已成为重要的实际问题。这种监测的一个重要方面是检查输入（或中间体）是否偏离了它们被验证的分布，这可能使测试期间获得的性能保证无效。对此有两种常见的方法。也许，更经典的是离群值检测或新颖性检测，其中，对于单个输入，我们询问它是否是离群值，即极不可能源自参考分布。第二种方法，可能是最近的方法，是考虑大量的输入，并将其分布与参考分布（例如在测试期间采样）进行比较。这在标签漂移检测下完成。在这项工作中，我们通过将给定数量的输入与自动选择的参考分布部分进行比较，弥合了离群值检测和漂移检测之间的差距。
2021-06-28 cs.LG stat.ML
RCC-Dual-GAN: An Efficient Approach for Outlier Detection with Few Identified Anomalies
Hefei University of Technology（合肥工业大学）
离群点检测是数据采掘中的一项重要任务，在各种应用中，人们已经探索了许多技术。然而，由于离群值是非集中的默认假设，无监督离群值检测可能无法正确检测具有较高密度水平的组异常。对于有监督的离群点检测，虽然通常可以获得较高的检测率和最佳参数，但获得足够的正确标签是一项耗时的任务。为了解决这些问题，我们专注于半监督离群点检测与少数识别异常，希望使用有限的标签，以实现高检测精度。首先，我们提出了一种新的检测模型Dual-GAN，它可以直接利用已识别异常中的潜在信息来同时检测离散离群点和部分识别的群体异常。然后，考虑到在复杂的数据结构中，具有相似输出值的实例并不都是相似的，我们用RCC和M-GAN的组合（RCC-Dual-GAN）代替Dual-GAN中的两个MO-GAN组件。另外，为了处理纳什均衡的评价和最优模型的选择，在两个模型中引入了两个评价指标，使检测过程更加智能化。在基准数据集和两个实际任务上的广泛实验表明，我们提出的方法（即，Dual-GAN和RCC-Dual-GAN）可以显著提高离群值检测的准确性，即使只有少数识别出的异常。此外，与Dual-GAN中的两个MO-GAN组件相比，RCC和M-GAN组合的网络结构在各种情况下具有更大的稳定性。
2020-03-07 cs.LG stat.ML
Outlier Detection through Null Space Analysis of Neural Networks
University of Florida（佛罗里达大学）
许多机器学习分类系统缺乏能力意识。具体地，许多系统缺乏识别何时异常值（例如，与训练数据分布不同且未在其中表示的样本）被呈现给系统。检测异常值的能力具有实际意义，因为它可以帮助系统在遇到意外数据时以合理的方式运行。在先前的工作中，离群值检测通常在与分类模型不同的处理管道中进行。因此，对于一个包含离群值检测和分类的完整系统，必须训练两个模型，从而增加了该方法的整体复杂性。在本文中，我们使用的零空间的概念，集成离群值检测方法直接到一个神经网络用于分类。我们的方法，称为神经网络的空间分析（NuSA），其工作原理是计算和控制的零空间投影的大小，数据通过网络。使用这些预测，我们可以计算出一个可以区分正常和异常数据的分数。结果表明，用NuSA训练的网络保留了它们的分类性能，同时也能够以类似于常用离群值检测算法的速度检测离群值。
2020-07-02 cs.LG stat.ML
Adaptive Double-Exploration Tradeoff for Outlier Detection
The Chinese University of Hong Kong（香港中文大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tencent（腾讯）
我们研究了一个变种的阈值强盗问题（TBP）的背景下，离群值检测，其目标是确定离群值的奖励高于阈值。与传统的TBP算法不同的是，阈值被定义为所有臂的回报的函数，这是由识别异常值的标准所驱动的。学习者需要探索手臂的回报以及门槛。我们把这个问题称为“离群点检测的双重探索”。我们构造一个自适应更新的置信区间的阈值，在前几轮的阈值的估计值的基础上。此外，通过自动权衡探索各个臂和探索离群阈值，我们提供了一个有效的算法的样本复杂度。在人工数据集和真实数据集上的实验结果表明了该算法的有效性。
2022-03-21 cs.LG stat.ML
PyODDS: An End-to-End Outlier Detection System
Texas A&M University（德州农工大学）
PyODDS是一个端到端的Python系统，用于数据库支持的离群值检测。PyODDS提供离群点检测算法，满足不同领域用户的需求，w/wo数据科学或机器学习背景。PyODDS提供了在数据库中执行机器学习算法的能力，而无需将数据移出数据库服务器或通过网络。它还提供了广泛的离群值检测算法，包括统计分析和最近的基于深度学习的方法。PyODDS是在MIT开源许可下发布的，目前可在（https：//github.com/datamllab/pyodds）获得，官方文档在（https：//pyodds.github.io/）。
2019-10-11 cs.DB cs.LG stat.ML
Detection of Thin Boundaries between Different Types of Anomalies in Outlier Detection using Enhanced Neural Networks
Islamic Azad University（伊斯兰阿扎德大学）；Institute for Advanced Studies in Basic Sciences（基础科学高级研究所）；Petanux GmbH（佩塔努克斯有限公司）
离群点检测在各个领域都受到了特别的关注，主要是那些处理机器学习和人工智能的领域。异常作为强异常，分为点异常、上下文异常和集体异常。异常值检测中最重要的挑战包括远程点和自然区域之间的薄边界、新数据和噪声模仿真实数据的趋势、未标记的数据集以及不同应用中异常值的不同定义。考虑到上述挑战，我们定义了新类型的异常，称为集合正态异常和集合点异常，以提高对不同类型异常之间的薄边界的更好检测。基本的领域独立的方法被引入到检测这些定义的异常在无监督和监督数据集。利用遗传算法对多层感知器神经网络进行了增强，以更高的精度检测新定义的异常，从而确保测试误差小于传统多层感知器神经网络的计算误差。在基准数据集上的实验结果表明，与基线相比，异常检测过程的错误减少。
2020-01-24 cs.LG cs.NE stat.ML
Outlier Detection Using Generative Models with Theoretical Performance Guarantees
University of Iowa（爱荷华大学）
本文提出利用生成模型进行异常值检测，通过ADMM和梯度下降算法在稀疏异常值下重建信号，并给出理论保证，实验验证优于传统方法。
2023-10-16 cs.LG eess.SP stat.ML
A geometric perspective on functional outlier detection
Ludwig-Maximilians-University（慕尼黑大学）
我们考虑从几何角度的功能异常检测，特别是：功能数据集从一个功能流形，这是由数据的振幅和相位的变化模式定义。基于这个流形，我们开发了一个概念化的功能异常检测，是更广泛的适用性和现实比以前提出的。我们的理论和实验分析证明了这种观点的几个重要优势：它大大提高了理论理解，并允许描述和分析复杂的功能异常情况一致，并在充分的一般性，通过区分结构异常异常的异常数据是离流形和分布离群数据是流形上，但在其边缘。这提高了实际可行性的功能异常检测：我们表明，简单的流形学习方法可以用来可靠地推断和可视化的几何结构的功能数据集。我们还表明，标准的离群值检测方法，需要表格数据输入可以应用到功能数据非常成功地简单地使用他们的向量值表示学习流形学习方法作为输入功能。我们在合成数据集和真实数据集上的实验表明，这种方法导致离群值检测性能至少与各种设置中现有的功能数据特定方法相当，而无需这些方法通常需要的高度专业化，复杂的方法和狭窄的应用领域。
2021-09-14 cs.LG stat.CO stat.ML
XGBOD: Improving Supervised Outlier Detection with Unsupervised Representation Learning
University of Toronto（多伦多大学）；PricewaterhouseCoopers（普华永道）
提出了一种新的半监督集成算法XGBOD（Extreme梯度提升Outlier Detection），描述并演示了该算法在实际数据集上对正态观测数据中的离群点的增强检测。建议的框架结合了监督和无监督机器学习方法的优势，通过创建一个混合的方法，利用他们各自的性能能力在离群值检测。XGBOD使用多个无监督离群值挖掘算法从底层数据中提取有用的表示，以增强嵌入式监督分类器在改进的特征空间上的预测能力。新的方法相比，竞争的个人检测器，完整的合奏和两个现有的表示学习为基础的算法在七个离群数据集提供卓越的性能。
2019-12-01 cs.DB cs.IR cs.LG
Boundary Peeling: Outlier Detection Method Using One-Class Peeling
Miami University（迈阿密大学）
提出一类边界剥离算法，利用一类SVM迭代剥离边界，实现高效稳健的无监督异常值检测，并在多种数据分布及基准数据集上表现优异。
2024-09-20 cs.LG stat.ME stat.ML
Automated detection of business-relevant outliers in e-commerce conversion rate
我们评估了现代离群值检测方法在识别电子商务转化率数据中的离群值方面的表现。基于所发现的局限性，我们提出了一种新的方法来检测电子商务转化率中的异常值。这种无监督的方法通过让它根据在电子商务平台上观察到的活动自动调整灵敏度，使其更具业务相关性。我们称这种异常值检测方法为流体IQR。使用从已知商店获得的真实电子商务转换数据，我们比较了现有的和新的离群值检测方法的性能。当涉及到业务相关性时，Fluid IQR方法比现有的离群值检测方法有更大的优势。此外，流体IQR方法是在存在极端异常值或水平偏移的集群的情况下最稳健的异常值检测方法。未来的研究将评估如何流体IQR方法在不同的电子商务环境中执行。
2019-05-16 stat.AP stat.ML
Quantum Entropy Scoring for Fast Robust Mean Estimation and Improved Outlier Detection
Microsoft Research（微软研究院）；UC Berkeley（加州大学伯克利分校）；Simons Institute for Theory of Computing（西蒙斯计算理论研究所）
我们研究了高维稳健统计中的两个问题：\emph{robust mean estimation}和\emph{outlier detection}。在鲁棒均值估计中，目标是估计给定$n$独立样本的$\mathbb{R}^d$上的分布的均值$μ$，其中$\varepsilon$部分已被恶意攻击者破坏。在离群值检测中，目标是为数据集的每个元素分配一个\emph{outlier score}，以便为更可能是离群值的元素分配更高的分数。这两个问题的算法是基于一个新的离群值评分方法，我们称之为QUE评分的基础上\emph{quantum entropy regularization}。对于鲁棒均值估计，这产生了第一个在所有参数中具有最佳错误率和接近线性运行时间$\widetilde{O}(nd)$的算法，改进了先前的最快运行时间$\widetilde{O}(\min(nd/\varepsilon^6, nd^2))$。对于离群值检测，我们通过对合成数据和真实数据的大量实验来评估QUE评分的性能，并证明它通常比以前提出的算法表现得更好。这些实验的代码可在https://github.com/twistedcubic/que-outlier-detection上获得。
2019-06-26 cs.DS cs.LG math.ST
Random Subspace Learning Approach to High-Dimensional Outliers Detection
我们介绍并开发了一种新的方法，离群点检测的基础上适应随机子空间学习。我们提出的方法处理高维低样本量和传统的低维高样本量数据集。从本质上讲，我们避免了计算瓶颈的技术，如最小协方差行列式（MCD）的计算所需的行列式和相关的措施，在低得多的维子空间。我们的方法的理论和计算的发展表明，它是计算上更有效的高维低样本量的正则化方法，并经常有利地竞争与现有的方法，就正确的离群点检测的百分比而言。
2015-05-03 stat.ML
Noisy Subspace Clustering via Thresholding
ETH Zurich（苏黎世联邦理工学院）
我们考虑的问题聚类噪声高维数据点到一个联盟的低维子空间和一组离群值。子空间的数量、维度和方向都是未知的。最近在[1]中引入的基于阈值的子空间聚类（TSC）算法的概率性能分析表明，TSC成功的噪声情况下，即使当子空间相交。我们的研究结果揭示了一个明确的权衡之间的允许的噪声水平和亲和力的子空间。我们还发现，简单的离群值检测方案介绍[1]证明成功的噪声情况下。
2013-07-18 cs.IT cs.LG math.IT
Provable Self-Representation Based Outlier Detection in a Union of Subspaces
Johns Hopkins University（约翰斯·霍普金斯大学）
许多计算机视觉任务涉及处理大量被离群值污染的数据，这些离群值需要被检测和拒绝。虽然基于鲁棒统计的离群点检测方法已经存在了几十年，但直到最近才开发出基于稀疏和低秩表示的方法，以及当内点位于一个或多个低维子空间中时正确离群点检测的保证。本文提出了一种新的离群点检测方法，结合稀疏表示和图上的随机游走的工具。通过利用数据点可以表示为彼此的稀疏线性组合的属性，我们得到了数据点之间的非对称亲和矩阵，我们使用它来构造一个加权有向图。通过从这个图中定义一个合适的马尔可夫链，我们建立了马尔可夫链的内点/离群点和本质/非本质状态之间的联系，这使我们能够通过使用随机游走来检测离群点。我们提供了一个理论分析，证明我们的方法的正确性，几何和连通性假设。图像数据库上的实验结果表明，相对于最先进的稀疏和低秩离群点检测方法的优越性。
2017-04-12 cs.CV stat.ML
Achieving differential privacy for $k$-nearest neighbors based outlier detection by data partitioning
University of Applied Sciences Osnabrück（奥斯纳布吕克应用科学大学）；Leibniz University Hannover（莱布尼茨汉诺威大学）
当在数据敏感的环境中应用离群值检测时，需要保证底层数据隐私的机制。$k$-最近邻（$k$-NN）算法是一种简单有效的离群点检测方法。到目前为止，还没有尝试开发用于基于$k$-NN的离群值检测的差分私有（$ε$-DP）方法。现有的方法通常放宽$ε$-DP的概念，并采用除$k$-NN之外的其他方法。我们提出了一种基于$k$-NN的离群点检测方法，该方法通过将该过程分离为对参考内点数据的拟合步骤，然后将离群点分类器应用于新数据。我们实现了$ε$-DP的拟合算法和离群值分类器相对于参考数据的数据集划分成一个统一的网格，这产生低的全局灵敏度。我们的方法在不同维度的真实数据上产生了接近最佳的性能，与非私有版本的$k$-NN相比。
2021-04-16 cs.CR cs.LG stat.AP
Robust Outlier Detection and Low-Latency Concept Drift Adaptation for Data Stream Regression: A Dual-Channel Architecture
School of Mathematical Sciences（数学科学学院）；School of Future Science and Engineering（未来科学与工程学院）
本文提出了一种双通道架构，用于数据流回归中的鲁棒异常检测和低延迟概念漂移适应，通过EWMAD-DT检测器实现对突发和渐进漂移的区分。
2025-12-13 cs.LG stat.ME
Robust fuzzy clustering with cellwise outliers
University of Milano-Bicocca（米兰比可卡大学）；University of Valladolid（巴利亚多利德大学）
本文提出一种鲁棒模糊聚类方法，通过处理单元异常值并控制聚类模糊度，提升聚类效果。
2026-04-24 stat.ME
Functional outlier detection for density-valued data with application to robustify distribution to distribution regression
分布数据分析是在功能数据分析（FDA）框架下对随机概率密度函数（PDF）组成的数据对象进行统计分析和建模的研究，近年来受到了广泛的关注。然而，许多重要的方面仍然没有探索，如离群值检测和鲁棒性。现有的函数离群点检测方法主要用于普通函数数据，应用于PDF时通常表现不佳。为了填补这一空白，本研究的重点是PDF值离群检测，以及其在稳健分布回归中的应用。与普通函数数据类似，检测由大量PDF形成的“曲线网”掩盖的形状异常值是PDF异常值检测中的主要挑战。为此，我们提出了一个树结构的转换系统的特征提取以及转换的形状离群值容易检测的幅度离群值，相关的离群值检测器设计的特定的转换数据。还提出了一种多重检测策略，以考虑检测的不确定性，并将不同的检测器结合起来，形成一个更可靠的检测工具。此外，我们提出了一种基于分布回归的方法来检测PDF值二元组的异常关联。作为一个具体的应用，建议的离群值检测方法适用于robustify的分布到分布回归方法，我们开发了一个强大的估计器的回归算子通过降低检测到的离群值。所提出的方法进行了验证和评估，通过广泛的模拟研究或实际数据的应用。相关的比较研究表明，与其他竞争对手的分布式离群检测方法的优越性。
2021-10-02 stat.ME
Shape Outlier Detection and Visualization for Functional Data: the Outliergram
提出了一种新的曲线形状异常点的可视化和检测方法。在函数数据分析中，我们观察定义在给定实区间上的曲线，形状异常值是那些表现出与样本其余部分不同形状的曲线。虽然幅度异常值，即在某些点或整个区间上表现出极高或极低值的曲线，通常很容易识别，但形状异常值通常被掩盖在其余曲线中，因此难以检测。在这篇文章中，我们利用函数数据的两个深度之间的关系，以帮助可视化曲线的形状，并开发一个算法的形状离群检测。我们说明了使用的可视化工具，outliergram，通过几个例子和评估的性能的算法上的模拟研究。我们将它们应用于儿童生长数据集中的异常值检测，其中女孩样本被男孩曲线污染，反之亦然。
2013-09-30 stat.CO
Multivariate Functional Outlier Detection using the FastMUOD Indices
我们提出了快速大规模无监督离群值检测（FastMUOD）指标的定义和属性，用于函数数据中的离群值检测（OD）。FastMUOD通过计算每条曲线的振幅、幅度和形状指数来检测异常值，这些指数旨在针对相应类型的异常值。提出了将FastMUOD应用于多元函数数据离群点检测的方法。这些包括将FastMUOD应用于多变量数据的分量和使用随机投影。此外，这些技术在各种模拟和真实的多元函数数据集上进行了测试。与多元函数OD的最新技术水平相比，使用随机投影显示出最有效的结果，具有相似的OD性能，并且在某些情况下改善了OD性能。
2022-07-26 stat.AP stat.CO stat.ME
Streaming robust covariance estimation and sequential outlier detection
CREST, CNRS, ENSAE, IP Paris（法国国家科学研究中心经济与统计研究中央实验室，国立经济与应用学院，巴黎理工学院）
本文提出了一种在线方法，用于同时估计协方差矩阵和检测异常值，通过稳健估计几何中位数和方差来提高鲁棒性。
2026-11-10 stat.ME
Functional Outlier Detection and Taxonomy by Sequential Transformations
功能数据分析可能会受到异常观测值的严重影响，这些异常观测值可以根据其偏离大部分数据的方式被分类为幅度或形状异常值。识别幅度异常值相对容易，而检测形状异常值则更具挑战性。我们建议通过数据转换将形状异常值转化为幅度异常值，并使用功能箱形图检测它们。除了简化检测过程外，顺序应用几个转换还为标记的离群值提供了合理的分类。一个联合功能排名，其中包括几个转换，也定义在这里。仿真研究进行了评估所提出的方法使用不同的功能深度的概念的性能。在几个实际应用中得到有趣的结果。
2020-03-21 stat.CO stat.ME
Penalized Weighted Least Squares for Outlier Detection and Robust Regression
为了对含有异常值的数据进行回归分析，已经提出了许多同时进行异常值检测和稳健回归的方法，本文提出的方法也是如此。这种新方法被称为“惩罚加权最小二乘”（PWLS）。通过为每个观察分配单独的权重并在权重向量的对数变换上引入套索类型的惩罚，PWLS能够同时执行离群值检测和鲁棒回归。一个贝叶斯的PWLS的观点，它表明，PWLS可以被看作是一个例子的M-估计。提出了两种选择PWLS调谐参数的方法。PWLS的性能通过仿真和实际应用证明。
2016-03-24 stat.ME
Robust Clustering Using Outlier-Sparsity Regularization
University of Minnesota（明尼苏达大学）
尽管传统的聚类算法，如K-means和概率聚类的流行，他们的聚类结果是敏感的离群数据的存在。即使是一些离群值也会损害这些算法识别有意义的隐藏结构的能力，从而使其结果不可靠。本文提出了鲁棒的聚类算法，不仅旨在聚类的数据，但也确定离群值。新的方法依赖于罕见的离群值在数据中的存在，这转化为稀疏在一个明智的选择域。利用孤立点域的稀疏性，提出了孤立点感知的鲁棒K均值和概率聚类方法。他们的新颖之处在于识别离群值，同时通过精心选择的正则化在离群值域中实现稀疏性。一个块坐标下降的方法来获得迭代算法的收敛性保证和小的额外的计算复杂性相对于他们的非鲁棒同行。还开发了鲁棒聚类算法的内核化版本，以有效地处理高维数据，识别非线性可分离的聚类，甚至是未用向量表示的聚类对象。在人工和真实数据集上的数值试验验证了新算法的性能和适用性。
2011-04-22 cs.LG stat.ML
SSDBCODI: Semi-Supervised Density-Based Clustering with Outliers Detection Integrated
DePaul University（德保罗大学）；College of Computing and Digital Media, DePaul University（德保罗大学计算与数字媒体学院）
聚类分析是机器学习的关键任务之一。传统上，聚类是一项独立的任务，与离群值检测分离。由于离群点会严重影响聚类的性能，因此有少数算法尝试在聚类过程中加入离群点检测。然而，这些算法中的大多数都是基于无监督的基于分区的算法，如k-means。鉴于这些算法的性质，它们通常无法处理复杂的非凸形状的集群。为了应对这一挑战，我们提出了SSDBCODI，一种基于密度的半监督算法。SSDBCODI结合了基于密度的算法的优势，能够处理复杂形状的聚类，具有半监督元素，可以根据一些用户标签灵活地调整聚类结果。我们还将离群值检测组件与聚类过程合并。基于在该过程期间生成的三个分数来检测潜在的离群值：（1）可达性分数，其测量点到标记的正常对象的密度可达性，（2）局部密度分数，其测量数据对象的相邻密度，以及（3）相似性分数，其测量点到其最近的标记离群值的接近度。然后在接下来的步骤中，在用于训练分类器以进行进一步聚类和离群值检测之前，基于这三个分数为每个数据实例生成实例权重。为了增强对所提出算法的理解，为了进行评估，我们在多个数据集上对一些最先进的方法运行了我们提出的算法，并分别列出了聚类之外的离群值检测结果。我们的研究结果表明，我们的算法可以实现优越的结果与一个小的标签百分比。
2022-08-10 cs.AI cs.LG
funOCLUST: Clustering Functional Data with Outliers
Department of Mathematics & Statistics, Trent University, Ontario, Canada（数学与统计学系，特伦特大学，安大略省，加拿大）；Department of Mathematics & Statistics, McMaster University, Ontario, Canada（数学与统计学系，麦斯特大学，安大略省，加拿大）
针对函数数据聚类难题，提出扩展OCLUST算法到函数设置，利用该框架创建稳健方法聚类曲线并剔除离群值，经模拟和真实数据集评估，展现出在聚类及离群值识别方面的强大性能。
2026-11-10 cs.LG stat.ME stat.ML
Clustering Three-Way Data with Outliers
Department of Mathematics & Statistics, Trent University, Ontario, Canada（数学与统计学系，特伦特大学，安大略，加拿大）；Department of Mathematics & Statistics, McMaster University, Ontario, Canada（数学与统计学系，麦斯特大学，安大略，加拿大）
针对含离群值的矩阵变量正态数据，本文将OCLUST算法扩展至该类数据，利用子集对数似然分布，采用迭代方法检测并修剪离群值，实现聚类。
2026-09-03 cs.LG stat.ME stat.ML
Linear Programming based Approximation to Individually Fair k-Clustering with Outliers
Indian Institute of Technology, Gandhinagar（印度理工学院甘地纳格尔分校）
本文针对含离群点的k均值聚类，提出基于线性规划识别离群点并排除，再通过舍入算法计算中心，满足个体公平性约束，提供理论近似保证并实证验证。
2024-12-14 cs.DS cs.LG stat.ML
Scalable Clustering: Large Scale Unsupervised Learning of Gaussian Mixture Models with Outliers
Florida State University（佛罗里达州立大学）
本文提出一种基于损失最小化的鲁棒聚类算法，解决带异常值的高斯混合模型的大规模聚类问题，提供理论保证并可作为 k-means 初始化策略，在 ImageNet 等大规模数据集上表现优异。
2023-02-28 cs.LG stat.ML
A Robust Spectral Clustering Algorithm for Sub-Gaussian Mixture Models with Outliers
University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们考虑的问题，聚类数据集的任意离群值的存在。传统的聚类算法，如k-means和谱聚类是已知的，即使是少量的离群值污染的数据集表现不佳。在本文中，我们开发了一个可证明的强大的谱聚类算法，适用于一个简单的舍入方案去噪的高斯核矩阵建立从数据点，并使用香草谱聚类恢复数据点的聚类标签。我们分析我们的算法的性能的假设下，“好”的数据点产生的混合物的亚高斯（我们称这些“内点”），而离群点可以来自任何任意的概率分布。对于这类一般的模型，我们表明，误分类误差衰减的信号噪声比的指数率，提供的离群点的数量是一个小部分的内点。令人惊讶的是，这个派生的错误界匹配的半定规划（SDP）在相同的设置下，没有离群值的最知名的界。我们在各种模拟和真实世界的数据集上进行了广泛的实验，以证明我们的算法与文献中提出的其他最先进的算法相比，对离群值不那么敏感。
2021-01-31 cs.LG math.ST stat.ML
Deep Clustering based Fair Outlier Detection
Brandeis University（布兰迪斯大学）；Michtom School of Computer Science（米奇托姆计算机科学学院）
在本文中，我们专注于无监督离群点检测的公平性问题。传统的算法，没有一个具体的设计，算法公平性，可以隐含编码和传播数据中的统计偏差，并引起社会的关注。为了纠正这种不公平并提供一组公平的潜在离群点候选者，我们提出了基于深度聚类的公平离群点检测（DCFOD），它学习一个好的表示以实现效用最大化，同时强制可学习的表示在敏感属性上保持子群不变。考虑到聚类和离群点检测之间的耦合和互惠性质，我们利用深度聚类来发现内在的聚类结构和结构外实例。同时，对抗性训练擦除实例的敏感模式以进行公平性自适应。从技术上讲，我们提出了一种实例级加权表示学习策略来增强联合深度聚类和离群点检测，其中动态权重模块重新强调了可能的内点的贡献，同时减轻了离群点的负面影响。通过对8个数据集和17个离群点检测算法的实验表明，我们的DCFOD方法在离群点检测有效性和两种类型的公平性概念上都取得了优异的性能。
2021-06-09 cs.CY cs.LG
Clustering Degree-Corrected Stochastic Block Model with Outliers
Northwestern University（西北大学）；Cornell University（康奈尔大学）
对于度校正的随机块模型中存在的任意甚至对抗性离群点，我们开发了一个基于凸优化的聚类算法，其中包括一个惩罚项取决于一个节点的正偏差从预期的边缘数到其他内点。我们证明，在温和的条件下，这种方法实现了准确的恢复的基础集群。我们的合成实验表明，我们的算法在异构网络上表现良好，特别是那些具有Pareto度分布的网络，离群值具有广泛的可能度，可以增强其对抗能力。我们还表明，我们的方法允许恢复显着较低的出错率相比，现有的算法。
2019-06-07 cs.LG q-fin.ST stat.ML
Some issues in robust clustering
University of Bologna（博洛尼亚大学）
该研究聚焦基于高斯混合模型的鲁棒聚类，探讨了异常值定义、异常值与簇的模糊性、簇数估计交互、调参依赖及稳定性度量缺陷等关键问题。
2023-08-28 cs.LG stat.ME stat.ML
The Effectiveness of Uniform Sampling for Center-Based Clustering with Outliers
University of Science and Technology of China（中国科学技术大学）
聚类在计算机科学中有许多重要的应用，但现实世界的数据集往往包含离群值。此外，离群值的存在会使聚类问题更具挑战性。为了降低复杂性，在过去的几年中，已经提出了各种采样方法。也就是说，我们从输入中取一个小样本（均匀或非均匀），并对该样本运行现有的近似算法。与现有的非均匀采样方法相比，均匀采样方法具有几个显著的优点。例如，它只需要在一次通过中读取数据，并且在实践中非常容易实现。因此，均匀抽样在孤立点聚类中的有效性是一个自然的和基本的问题，值得在理论和实践中研究。本文提出了一个新的统一的框架来分析均匀抽样对三种典型的基于中心的离群点聚类问题的有效性，即$k$ -中心/中值/均值离群点聚类。我们引入了一个“显著性”准则，并证明了均匀采样的性能取决于给定实例的显著程度。特别是，我们表明，样本大小可以是独立的比例$n/z$和维数。更重要的是，据我们所知，我们的方法是第一个统一的采样方法，允许丢弃正是$z$离群值为这三个基于中心的聚类离群值的问题。本文的结果也可以看作是以前的次线性时间算法的普通聚类问题（无离群点）的推广。实验结果表明，均匀采样方法可以达到与其他现有方法相当的聚类结果，但大大减少了运行时间。
2020-05-01 cs.DS cs.LG
Integer Programming Relaxations for Integrated Clustering and Outlier Detection
University of Sydney（悉尼大学）
在本文中，我们提出了基于样本的聚类与离群点选择的基础上，设施位置制定的方法。给定距离函数和要找到的离群值的数量，该方法自动确定聚类和离群值的数量。我们制定的问题作为一个整数规划，我们目前放宽，允许解决方案，规模大的数据集。结合聚类和离群值选择的优点包括：（i）所得到的聚类往往是紧凑的和语义上一致的（ii）聚类对数据扰动更鲁棒，以及（iii）离群值被聚类上下文化并且更可解释，即，更容易区分作为数据误差的结果的离群值与可能指示在数据中出现的新模式的离群值。数据我们提出并对比了三种松弛的整数规划公式：（i）线性规划公式（LP）（ii）扩展的亲和传播离群值检测（APOC）和（iii）拉格朗日对偶的公式（LD）。对合成数据和真实数据的评估表明了这些不同方法的质量和可扩展性。
2014-03-06 cs.LG
Outlier Detection using Improved Genetic K-means
Assiut University（艾斯尤特大学）
在某些情况下，离群点检测问题类似于分类问题。例如，基于聚类的离群点检测算法的主要关注点是找到聚类和离群点，这些聚类和离群点通常被视为噪声，为了进行更可靠的聚类，应该将其去除。在这篇文章中，我们提出了一个算法，同时提供离群点检测和数据聚类。该算法在聚类和孤立点发现过程中改进了生成分布的质心估计。该算法由两个阶段组成。第一阶段采用改进的遗传k-means算法（IGK），第二阶段迭代去除远离聚类中心的向量。
2014-02-27 cs.DB cs.LG
Simple KNN-Based Outlier Detection Achieves Robust Clustering
Duke University（杜克大学）
本文证明在合理假设下，简单移除KNN距离大的点可将稳健k均值转化为标准k均值，且在聚类成本和运行时间上优于其他算法。
2026-05-08 cs.DS cs.LG
