BOND: Benchmarking Unsupervised Outlier Node Detection on Static Attributed Graphs
University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Visa Research（Visa研究院）；Carnegie Mellon University（卡内基梅隆大学）；Beihang University（北京航空航天大学）；Arizona State University（亚利桑那州立大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Lehigh University（理海大学）；University of Virginia（弗吉尼亚大学）
检测图中哪些节点是离群值是一项相对较新的机器学习任务，具有许多应用。尽管近年来为这项任务开发的算法激增，但一直没有标准的综合设置用于性能评估。因此，很难理解哪种方法效果好，以及在广泛的环境下效果如何。为了弥合这一差距，我们提出-据我们所知-第一个全面的基准无监督离群节点检测静态属性图称为BOND，具有以下亮点。(1)我们基准测试了从经典矩阵分解到最新图神经网络的14种方法的离群值检测性能。(2)使用九个真实的数据集，我们的基准测试评估了不同的检测方法如何响应两种主要类型的合成离群值，并分别对“有机”（真正的非合成）离群值。(3)使用现有的随机图生成技术，我们产生了一个家庭的合成生成的数据集的不同的图形大小，使我们能够比较不同的离群值检测算法的运行时间和内存使用。基于我们的实验结果，我们讨论了现有的图离群点检测算法的优点和缺点，我们强调了未来研究的机会。重要的是，我们的代码是免费提供的，并且易于扩展：https://github.com/pygod-team/pygod/tree/main/benchmark
2022-10-16 cs.LG cs.SI
Fuzzy Granule Density-Based Outlier Detection with Multi-Scale Granular Balls
College of Computer Science and Software Engineering, Shenzhen University（深圳大学计算机与软件学院）；National Engineering Laboratory for Big Data System Computing Technology, Shenzhen University（深圳大学大数据系统计算技术国家工程实验室）；School of Artificial Intelligence and Computer Science, Nantong University（南通大学人工智能与计算机科学学院）；Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院）；Department of Electrical and Computer Engineering, University of Alberta（阿尔伯塔大学电气与计算机工程系）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）；Department of Electrical and Computer Engineering, King Abdulaziz University（阿卜杜勒阿齐兹大学电气与计算机工程系）；Department of Computer Engineering, Istinye University（伊斯提尼耶大学计算机工程系）
该研究提出融合相对模糊粒密度、粒球多尺度视图与三支决策加权SVM的半监督离群点检测方法，可适配多种离群类型，AUROC至少提升8.48%。
2025-01-06 cs.AI cs.LG
Are all outliers alike? On Understanding the Diversity of Outliers for Detecting OODs
University of Pennsylvania（宾夕法尼亚大学）；SRI International（SRI国际）
众所周知，深度神经网络（DNN）会对分布外（OOD）输入产生非常高置信度的错误预测。这种限制是在自动驾驶、空中交通管理和医疗诊断等高保证系统中采用深度学习模型的关键挑战之一。这一挑战最近受到了极大的关注，已经开发了几种技术来检测模型预测不可信的输入。这些技术使用不同的统计、几何或拓扑签名。本文提出了一种基于其来源和性质的不确定性的OOD离群输入的分类。我们展示了不同的现有检测方法无法检测到某些类型的离群值。我们利用这些见解，开发一种新的综合检测方法，使用对应于不同类型的离群值的多个属性。我们的结果包括CIFAR 10，SVHN和MNIST作为分布数据的实验，以及Imagenet，LSUN，SVHN（CIFAR 10），CIFAR 10（SVHN），KMNIST和F-MNIST作为不同DNN架构（如ResNet 34，WideResNet，DenseNet和LeNet 5）的OOD数据的实验。
2021-03-23 cs.LG
Detecting and handling outlying trajectories in irregularly sampled functional datasets
离群曲线经常出现在函数或纵向数据集中，并且可能对参数估计器产生非常大的影响，并且很难视觉检测。在这篇文章中，我们将介绍估计的平均值和主成分是抵抗，然后可以用于检测，离群样本轨迹。估计是基于降秩t模型，并专门针对稀疏和不规则采样的功能数据。从理论上和模拟上研究了非污染数据下估计的抗野值性质及其相对效率。互联网流量数据和糖化血红蛋白水平的糖尿病儿童的分析应用。
2010-11-02 stat.AP
EMORF-II: Adaptive EM-based Outlier-Robust Filtering with Correlated Measurement Noise
University of Wisconsin Madison（威斯康星大学麦迪逊分校）；University of Engineering and Technology（工程与技术大学）；Lahore University of Management Sciences（拉合尔管理科学大学）
提出EMORF-II，一种学习型抗异常值滤波器，处理相关测量噪声，通过推理时学习异常值特征提升缓解能力，精度优于现有方法且计算复杂度不变。
2025-09-09 cs.LG eess.SP
Robust Subspace Outlier Detection in High Dimensional Space
大型数据库中的稀有数据被称为离群值，它们揭示了现实世界中的重要信息。基于子空间的离群点检测被认为是一种可行的方法。然而，在子空间中发现的异常值实际上只是高维空间中真实异常值的一部分。在投影维子空间中，隐藏在正常聚类点中的离群点有时会被忽略。在本文中，我们提出了一个强大的子空间方法来检测这样的内部离群点在一个给定的数据集，它使用二维的投影：检测离群点的子空间中的局部密度比在第一个投影的维度;发现离群点通过比较邻居的位置在第二个投影的维度。每个点的权重是通过将两步投影维度中得到的所有相关值相加来计算的，然后将得分最大的权重值的点作为离群值。通过对维数从10到10000的一系列实验，结果表明，该方法在极高维空间中具有较高的精度，在低维空间中具有较好的效果。
2014-05-05 cs.AI cs.LG stat.ML
A Fast Algorithm for Robust Regression with Penalised Trimmed Squares
由于掩蔽效应，包含高杠杆离群值的组的存在使得线性回归成为一个困难的问题。现有的基于最小二乘的高崩溃估计往往不能成功地检测有限样本中的掩蔽高杠杆离群值。作者在\cite{ZiouAv:05,ZiAvPi:07}中引入了一种替代LTS估计量的方法，称为惩罚修剪平方（PTS）估计量，它似乎对掩蔽问题不太敏感。该估计量定义为二次混合线性规划（QMIP）问题，在目标函数中包含每个观测值的惩罚成本，作为任意可行回归线的残差上限。由于PTS不需要预先设定从数据集中删除的离群值的数量，因此相对于其他估计量，它具有更好的效率。然而，由于所得QMIP问题的计算复杂性很高，中等规模回归问题的精确解是不可行的。在本文中，我们进一步建立的PTS估计的理论性质，如高故障和效率，并提出了一个近似算法称为快速PTS计算PTS估计大数据集有效。在具有不同程度的离群点污染的基准实例集上进行的大量计算实验表明，该算法在合理的计算时间内识别高杠杆离群点组方面表现良好。
2009-01-07 stat.CO
Unsupervised Graph Outlier Detection: Problem Revisit, New Insight, and Superior Method
East China Normal University（华东师范大学）；Guangzhou University（广州大学）；Shanghai Jiao tong University（上海交通大学）
本文指出现有UNOD方法存在严重数据泄露且忽视两类离群点检测平衡性，提出基于方差的VGOD框架，在5个数据集上实现最优且平衡的检测性能。
2023-01-09 cs.LG
Robust Variational Autoencoders for Outlier Detection and Repair of Mixed-Type Data
University of Edinburgh（爱丁堡大学）；The Alan Turing Institute（艾伦·图灵研究所）；Google Research（谷歌研究院）
研究了混合类型表格数据中的无监督单元离群点检测与修复问题。传统的方法只关心检测数据集中哪些行是离群值。然而，识别特定行中哪些单元格被损坏是实践中的一个重要问题，也是修复它们的第一步。我们引入了鲁棒变分自编码器（RVAE），这是一种深度生成模型，可以学习干净数据的联合分布，同时识别离群细胞，允许对其进行填补（修复）。RVAE显式地学习每个单元格是离群值的概率，平衡行离群值得分中的不同似然模型，使该方法适用于混合类型数据集中的离群值检测。我们的实验表明，RVAE不仅表现得比几个国家的最先进的方法在细胞离群检测和修复表格数据，但也是强大的对初始超参数的选择。
2020-03-03 cs.LG stat.ML
Using Anomaly Feature Vectors for Detecting, Classifying and Warning of Outlier Adversarial Examples
University of Michigan（密歇根大学）；Ford Motor Company（福特汽车公司）
我们提出了DeClaW，一个系统，用于检测，分类和警告的对抗性输入的分类神经网络。与当前最先进的方法相比，在给定输入的情况下，检测输入是干净的还是敌对的，我们的目标是还识别对抗攻击的类型（例如，PGD，Carlini-Wagner或清洁）。为了实现这一点，我们提取的统计配置文件，我们术语异常特征向量，从一组潜在的功能。初步研究结果表明，AFV可以帮助区分几种类型的对抗攻击（例如，PGD与Carlini-Wagner），在CIFAR-10数据集上的准确率接近93%。结果打开了大门，使用AFV为基础的方法，探索不仅对抗攻击检测，但也分类的攻击类型，然后设计攻击特定的缓解策略。
2021-07-01 cs.CR cs.LG
RECol: Reconstruction Error Columns for Outlier Detection
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））；Deutsche Bundesbank（德意志联邦银行）
检测离群值或异常是一项常见的数据分析任务。作为无监督机器学习的一个子领域，存在大量的方法，但绝大多数将输入特征视为独立的，并且通常无法识别输入特征空间中甚至简单的（线性）关系。因此，我们引入RECol，一种通用的数据预处理方法，以leave-one-out-fashion的方式生成额外的列：对于每一列，我们尝试基于其他列预测其值，生成重建错误列。我们在各种常见的基线方法和基准数据集上进行了实验，使用和不使用我们的RECol预处理方法，并表明生成的重建误差特征空间通常似乎支持常见的离群值检测方法，并且通常大大提高了它们的ROC-AUC和PR-AUC值。
2021-02-04 cs.LG stat.ML
Event Outlier Detection in Continuous Time
University of Pittsburgh（匹兹堡大学）；Borealis AI
连续时间事件序列表示在连续时间内发生的离散事件。这样的序列在现实生活中经常出现。通常我们期望序列随着时间的推移遵循某种规律。然而，有时这些模式可能会被意外的缺失或事件的发生所打断。识别这些意外情况可能非常重要，因为它们可能指向需要人类注意的异常情况。在这项工作中，我们研究和开发的方法检测连续时间事件序列中的离群值，包括意外的缺席和意外发生的事件。由于事件序列倾向于遵循的模式可能会在不同的上下文中发生变化，我们开发了基于点过程的离群值检测方法，可以考虑上下文信息。我们的方法是基于贝叶斯决策理论和假设检验的理论保证。为了测试方法的性能，我们对合成数据和真实世界的临床数据进行了实验，并显示了所提出的方法的有效性。
2021-06-12 cs.LG stat.ML
OpenMix: Exploring Outlier Samples for Misclassification Detection
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）
深度神经分类器的可靠置信度估计在高风险应用中是一个具有挑战性的基本要求。不幸的是，现代深度神经网络往往对错误的预测过于自信。在这项工作中，我们利用容易获得的离群样本，即，来自非目标类的未标记样本，用于帮助检测误分类错误。特别是，我们发现，众所周知的离群暴露，这是强大的检测出的分布（OOD）样本从未知的类，不提供任何增益识别误分类错误。基于这些观察结果，我们提出了一种新的方法，称为OpenMix，它通过学习拒绝通过离群值变换生成的不确定伪样本来融合开放世界知识。OpenMix显著提高了各种场景下的置信可靠性，建立了一个强大而统一的框架，用于检测来自已知类的错误分类样本和来自未知类的OOD样本。该代码可在https://github.com/Impression2805/OpenMix上公开获取。
2023-03-30 cs.AI cs.LG
Are Outlier Detection Methods Resilient to Sampling?
UMR ESPACE-DEV, IRD（法国发展研究所UMR ESPACE-DEV研究所）；New Jersey Institute of Technology（新泽西理工学院）；Qatar Computing Research Institute, Hamad Bin Khalifa University（哈马德·本·哈利法大学卡塔尔计算研究所）
离群点检测是数据采掘中的一项基本任务，在数据库错误检测中有着广泛的应用。虽然在离群值检测方法方面已经有了大量的工作，但现代数据集的大小通常超出了常用方法在合理时间内处理数据的能力。为了克服这个问题，可以在全尺寸数据集的样本上训练离群值检测方法。然而，目前尚不清楚在样本上训练的模型如何与在整个数据集上训练的模型进行比较。在本文中，我们介绍了离群点检测方法的抽样弹性的概念。与传统的性能指标（如精度/召回率）正交，弹性表示应用于采样方案中的样本的方法检测到的离群值与应用于整个数据集时的离群值相匹配的程度。我们提出了一种新的方法来估计弹性抽样的个别离群值的方法和他们的合奏。我们对合成和真实世界的数据集进行了广泛的实验研究，研究了七种不同的具有代表性的离群值检测方法，比较了从样本中获得的结果与从整个数据集获得的结果，并评估了我们的弹性估计的准确性。我们观察到，这些方法对给定的采样方案并不具有同等的弹性，并且通常情况下，仔细联合选择采样方案和离群值检测方法是必要的。我们希望，本文开始研究设计离群点检测算法，是弹性的采样。
2019-07-31 cs.LG stat.ML
A New Local Distance-Based Outlier Detection Approach for Scattered Real-World Data
Australian National University（澳大利亚国立大学）；National ICT Australia (NICTA)（澳大利亚国家信息与通信技术研究院（NICTA））；CSIRO Mathematical and Information Sciences（联邦科学与工业研究组织数学与信息科学研究所）
检测与其余数据集完全不同或不一致的离群值是现实世界KDD应用中的一个主要挑战。现有的离群点检测方法由于隐含的数据模式和参数设置问题，在分散的真实世界数据集上是无效的。我们定义了一种新的“基于局部距离的离群因子”（LDOF）来度量分散数据集中对象的离群性，从而解决了这些问题。LDOF使用对象与其邻居的相对位置来确定对象偏离其邻居的程度。从理论上分析了LDOF的性质，包括LDOF的下界和误检概率，以及参数设置。为了方便在现实世界中的应用程序中的参数设置，我们采用了top-n技术在我们的离群值检测方法，其中只有最高LDOF值的对象被视为离群值。与传统的方法（如top-nKNN和top-nLOF）相比，我们的方法top-nLDOF在检测散乱数据中的离群点时更有效。它也更容易设置参数，因为它的性能在很大的参数值范围内相对稳定，正如真实世界和合成数据集上的实验结果所示。
2009-03-18 cs.IR cs.LG
Distribution Density, Tails, and Outliers in Machine Learning: Metrics and Applications
Google Research（谷歌研究院）
我们开发了一些技术来量化给定（训练或测试）示例在底层分布中的离群值。我们评估了五种方法来对数据集中的示例进行评分，这些方法是通过示例的代表性来衡量的，对于“代表性”的不同合理定义，并将其应用于四个常见的数据集：MNIST，Fashion-MNIST，CIFAR-10和ImageNet。尽管是独立的方法，我们发现所有五个是高度相关的，这表明，良好的代表性的概念可以量化。在其他用途中，我们发现这些方法可以组合起来识别（a）原型示例（符合人类期望）;（b）记忆的训练样本;以及（c）数据集的不常见子模式。此外，我们展示了如何利用我们的指标来确定课程学习的改进排序，并影响对抗鲁棒性。我们在我们研究的训练集和测试集上发布所有度量值。
2019-10-29 cs.LG stat.ML
Learning Representations for Outlier Detection on a Budget
Aarhus University（奥胡斯大学）；ETH Zürich（苏黎世联邦理工学院）
在大数据集中检测少量离群点的问题是从欺诈检测到高能物理等许多领域的重要任务。有两种方法可以解决这个问题：无监督和监督。有监督的方法需要足够数量的标记数据，并且受到新型离群值和固有类别不平衡的挑战，而无监督的方法不利用可用的标记训练样本，并且通常表现出较差的预测性能。我们提出了BORE（一个袋装离群值表示环境），它使用无监督离群值评分函数（OSF）作为监督学习框架中的特征。BORE能够适应任意的OSF特征表示，标签数据的不平衡以及预测时间对计算成本的限制。我们证明了良好的性能的孔相比，各种竞争的方法在非预算和预算的离群值检测问题的12个真实世界的数据集。
2015-07-29 cs.LG
MSD-Kmeans: A Novel Algorithm for Efficient Detection of Global and Local Outliers
Massey University（梅西大学）；Central Queensland University（中央昆士兰大学）
提出MSD-Kmeans算法，结合均值和标准差统计方法与K-means聚类，分两阶段消除噪声并获取局部最优聚类，在出租车费用过高检测中优于其他算法，实现高效离群点检测。
2019-10-15 cs.LG stat.ML
A Multi-criteria Approach for Fast and Outlier-aware Representative Selection from Manifolds
University of Central Florida（中佛罗里达大学）
代表性选择的问题相当于从大型数据集中抽取少量信息样本。本文介绍了MOSAIC，一种新的代表性选择方法，从高维数据，可能表现出非线性结构。依靠一种新的二次公式，我们的方法提出了一种多标准选择方法，最大限度地提高了采样子集的全局表示能力，确保多样性，并通过有效地检测离群值拒绝破坏性信息。通过理论分析，我们所得到的草图的特点，并揭示了采样的代表最大限度地提高了一个定义良好的概念，数据覆盖在一个变换的空间。此外，我们提出了一个高度可扩展的随机实现所提出的算法，带来大幅加速。MOSAIC的优越性，同时表现出显着的鲁棒性，以各种离群值类型的代表性子集的所需的特性，通过大量的实验进行了证明真实的和合成数据与国家的最先进的算法比较。
2020-03-12 cs.LG eess.SP stat.ML
Robust Data Clustering with Outliers via Transformed Tensor Low-Rank Representation
Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院）
针对含异常值的张量数据，提出基于t-SVD框架的异常值鲁棒张量低秩表示方法（OR-TLRR），实现异常值检测与数据聚类，并具备行空间精确恢复的理论保证。
2024-04-26 cs.CV cs.LG stat.ML
ATOM: Robustifying Out-of-distribution Detection Using Outlier Mining
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Google（谷歌）
检测分发外（OOD）输入对于在开放世界环境中安全部署深度学习模型至关重要。然而，现有的OOD检测解决方案在开放世界中可能很脆弱，面临各种类型的对抗性OOD输入。虽然已经出现了利用辅助OOD数据的方法，但我们对启发性示例的分析揭示了一个关键见解，即大多数辅助OOD示例可能不会有意义地改善甚至损害OOD检测器的决策边界，这也在真实数据的经验结果中观察到。在本文中，我们提供了一个理论上的动机的方法，对抗训练与信息离群挖掘（ATOM），提高了OOD检测的鲁棒性。我们发现，通过挖掘信息丰富的辅助OOD数据，可以显着提高OOD检测性能，并有点令人惊讶的是，推广到看不见的对抗攻击。ATOM在广泛的经典和对抗性OOD评估任务下实现了最先进的性能。例如，在CIFAR-10分布数据集上，ATOM在对抗性OOD输入下将FPR（TPR 95%）降低了57.99%，大大超过了之前的最佳基线。
2021-06-30 cs.LG stat.ML
Homophily Outlier Detection in Non-IID Categorical Data
Australian Institute for Machine Learning, University of Adelaide（阿德莱德大学澳大利亚机器学习研究所）；Center of Artificial Intelligence, University of Technology Sydney（悉尼科技大学人工智能中心）；Data Science Lab, University of Technology Sydney（悉尼科技大学数据科学实验室）
大多数现有的离群值检测方法假设离群值因子（即，离群值评分测量）（例如，特征值和数据对象）是独立且相同分布的（IID）。这个假设在现实世界的应用中并不成立，在现实世界的应用中，不同实体的离群值相互依赖和/或来自不同的概率分布（非IID）。这可能导致无法检测到重要的离群值，这些离群值太细微，无法在不考虑非IID性质的情况下识别。在更具挑战性的情况下，这一问题甚至更加突出，例如，具有许多噪声特征的高维数据。本文提出了一种新的离群点检测框架，并通过捕获非IID离群点因子来识别分类数据中的离群点。我们的方法首先定义并将分布敏感的离群因素及其相互依赖性纳入基于值-值图的表示中。然后，它在值图中建模离群传播过程以学习特征值的离群性。学习值离群允许直接离群值检测或离群特征选择。图表示和挖掘的方法，在这里很好地捕捉丰富的非IID特征。我们在15个具有不同数据复杂度的真实数据集上的实证结果表明：（i）在95%/99%的置信水平下，本文提出的离群点检测方法显著优于五种最先进的方法，在10个最复杂的数据集上实现了10%-28%的AUC改善;以及（ii）所提出的特征选择方法在实现两个不同现有检测器的后续离群值检测方面显著优于三种竞争方法。
2021-03-21 cs.AI cs.LG stat.ML
Does Your Dermatology Classifier Know What It Doesn't Know? Detecting the Long-Tail of Unseen Conditions
Google Health（谷歌健康）；Google Research（谷歌研究院）；DeepMind（深度思维）
我们开发并严格评估了一个基于深度学习的系统，该系统可以准确地对皮肤状况进行分类，同时检测没有足够数据可用于训练自信分类器的罕见状况。我们框架这个任务作为一个外的分布（OOD）检测问题。我们的新方法，分层离群值检测（HOD）为每个训练离群值类分配多个分类类，并联合执行内点与离群值的粗分类，以及各个类的细粒度分类。我们证明了HOD损失的有效性与现代表示学习方法（BiT，Simplified，MICLe），并探索不同的集成策略，以进一步改善结果。我们在不同风险水平和不同皮肤类型的条件下进行了广泛的亚组分析，以研究OOD检测性能在每个亚组中的变化，并证明我们的框架与基线相比的收益。最后，我们引入了一个成本指标来近似下游临床影响。我们使用这个成本指标来比较所提出的方法与基线系统，从而使一个更强的情况下，在现实世界的部署方案的整体系统的有效性。
2021-04-08 cs.CV cs.LG
Coherence Pursuit: Fast, Simple, and Robust Principal Component Analysis
University of Central Florida（中佛罗里达大学）
本文提出了一种非常简单，但功能强大，算法称为相干追踪（CoP）的强大的主成分分析（PCA）。由于内点位于低维子空间中并且大部分是相关的，因此内点可能与大量数据点具有强的互相关性。相比之下，离群值要么不承认低维结构，要么形成小集群。在这两种情况下，离群值不太可能与大量数据点有很强的相似性。考虑到这一点，CoP通过比较它们与其余数据点的一致性来将离群值与内点区分开来。通过形成归一化数据点的Gram矩阵来计算相互相干性。随后，从与其余数据表现出强相干性的数据点的子集的跨度中恢复所寻找的子空间。由于CoP仅涉及一个简单的矩阵乘法，因此它比最先进的鲁棒PCA算法快得多。我们得到分析性能保证CoP在不同的模型下的分布的内点和离群点在无噪声和噪声设置。CoP是第一个鲁棒的PCA算法，它同时是非迭代的，可证明对非结构化和结构化离群值都是鲁棒的，并且可以容忍大量的非结构化离群值。
2017-07-13 cs.LG stat.ML
Positive Difference Distribution for Image Outlier Detection using Normalizing Flows and Contrastive Data
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Heidelberg（海德堡大学）
针对生成模型似然难以检测图像异常值的问题，本文利用无标签对比数据训练自监督特征与归一化流，提出等价于学习两类特征密度归一化正差的概率异常值得分，并在基准上验证其优于多种方法。
2023-04-26 cs.LG
Automatically detecting anomalous exoplanet transits
University of Amsterdam（阿姆斯特丹大学）；European Space Agency（欧洲空间局）；Leiden Observatory（莱顿天文台）；VU Amsterdam（阿姆斯特丹自由大学）；ISU（国际空间大学）
来自系外行星凌日的原始光变曲线数据太复杂，无法简单地应用传统的离群值检测方法。我们提出了一个架构，估计一对变分自编码器的主要过境和残余偏差的潜在表示。我们表明，使用两个制造的数据集，我们的潜在表示异常过境残差显着更适合离群值检测比原始数据或传统的变分自编码器的潜在表示。然后，我们将我们的方法应用到真正的系外行星过境数据。我们的研究是第一个自动识别异常系外行星过境光变曲线的研究。此外，我们还发布了三个同类数据集，以进行进一步的研究。
2021-11-16 astro-ph.IM cs.AI cs.LG
Unsupervised Outlier Detection using Random Subspace and Subsampling Ensembles of Dirichlet Process Mixtures
Nexon（奈森（韩国游戏公司））；Danggeun Market（당근마켓（韩国电商公司））；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Yonsei University（延世大学）
针对 Dirichlet Process Mixtures 计算低效且对非高斯数据建模困难的问题，提出一种结合随机子空间与子采样集成及变分推断的无监督离群点检测方法，有效提升了计算效率、鲁棒性和检测性能。
2024-07-25 cs.AI cs.LG stat.ML
K-NS: Section-Based Outlier Detection in High Dimensional Space
从互联网上的海量数据中寻找隐藏在其中的稀有信息是一个必要但复杂的问题。许多研究者对这一问题进行了研究，并找到了有效的方法来检测低维空间中的异常数据。然而，随着维数的增加，这些现有的方法中的大多数表现不佳检测离群点，因为“高维诅咒”。尽管有些方法旨在解决高维空间中的这个问题，但它们只能检测到低维空间中出现的一些异常数据，而无法检测到所有在高维空间中以不同方式出现的异常数据。为了解决这个问题，我们提出了一个新的基于k-最近的截面的方法（k-NS）在一个基于截面的空间。我们提出的方法不仅检测离群点在低维空间中的截面密度比，但也检测离群点在高维空间中的k-最近的部分与平均值的比率。在10 ~ 10000维的数据集上进行了一系列实验，实验结果表明，该方法在极高维的情况下取得了100%的准确率和100%的召回率，在低维的情况下取得了较好的效果。
2014-05-05 cs.AI cs.LG stat.ML
InFlow: Robust outlier detection utilizing Normalizing Flows
HZDR – Helmholtz-Zentrum Dresden-Rossendorf（亥姆霍兹德累斯顿罗森多夫研究中心）；TU Dresden（德累斯顿工业大学）；CASUS（高级系统理解中心）
规范化流是重要的深度生成模型，提供易于处理的概率分布和有效的密度估计。然而，众所周知，它们在检测分布外（OOD）输入时会失败，因为它们直接在其潜在空间中对输入表示的局部特征进行编码。在本文中，我们解决了这个过度自信的问题，规范化流，证明流，如果扩展的注意力机制，可以可靠地检测离群值，包括对抗攻击。我们的方法不需要离群数据进行训练，我们通过报告不同实验环境中最先进的性能来展示我们的方法用于OOD检测的效率。代码可在https://github.com/ComputationalRadiationPhysics/InFlow获得。
2021-11-16 cs.AI cs.CR cs.LG
Transferable Unsupervised Outlier Detection Framework for Human Semantic Trajectories
Emory University（埃默里大学）
针对传统异常检测依赖领域知识且缺乏多模态综合考量的问题，提出可迁移无监督异常检测框架TOD4Traj，通过模态特征统一与对比学习实现跨数据集的人类轨迹异常检测，性能优于现有模型。
2024-10-11 cs.LG
CFOF: A Concentration Free Measure for Anomaly Detection
University of Calabria（卡拉布里亚大学）
我们提出了一种新的离群值概念，称为无浓度离群值因子或CFOF。作为一个主要的贡献，我们形式化的概念集中的离群分数，并从理论上证明CFOF不集中在欧氏空间中的任何任意大的维度。据我们所知，没有其他与欧几里得距离相关的数据分析措施的建议，已经提供了理论证据表明它们不受浓度效应的影响。我们确定的封闭形式的分布的CFOF分数在任意大的维度，并表明，CFOF分数的一个点取决于其平方范数标准分数和峰度的数据分布，从而提供了一个明确的和统计上成立的表征这一概念。此外，我们利用这个封闭的形式提供的证据表明，定义不受影响其他措施的枢纽问题。我们证明了来自每个聚类的CFOF离群值的数量与聚类大小和峰度成正比，这是一个我们称之为半局部性的属性。我们确定，半局部性的特点现有的反向最近邻为基础的离群值定义，从而澄清其观察到的本地行为的确切性质。我们还正式证明了经典的基于距离和基于密度的离群值集中有界和无界的样本大小和固定和可变值的邻域参数。本文提出了一种快速的CFOF算法来检测高维数据中的离群点。该算法具有线性代价，支持多分辨率分析，并具有良好的并行性。实验表明，该技术能够有效地处理大型数据集，甚至处理大的邻域参数值，避免集中，并获得良好的精度。
2019-09-17 cs.LG stat.ML
zGAN: An Outlier-focused Generative Adversarial Network For Realistic Synthetic Data Generation
针对黑天鹅现象下机器学习模型性能受异常值影响的问题，提出zGAN生成对抗网络，可生成带异常值的逼真表格合成数据，增强特征相关性，在公私数据集上验证了其数据生成与模型性能提升效果。
2024-10-29 cs.LG
Detecting Change Intervals with Isolation Distributional Kernel
Deakin University（迪肯大学）；Nanjing University（南京大学）；University of New South Wales（新南威尔士大学）
针对现有变点检测方法在细微变化识别、可扩展性和异常值敏感性上的不足，提出基于孤立分布核的变化区间检测方法iCID，通过计算相邻时序区间的相异度高效识别多种变点，并支持在线与离线参数优化。
2024-01-18 cs.LG
WePaMaDM-Outlier Detection: Weighted Outlier Detection using Pattern Approaches for Mass Data Mining
Nirma University（尼尔玛大学）
该研究提出面向海量数据挖掘领域的WePaMaDM-Outlier Detection加权异常检测方法，验证了异常检测技术的领域依赖性，并探讨了数据建模在监控等领域异常/新颖性检测中的重要性。
2023-06-09 cs.AI cs.CV cs.LG
An Entropy Based Outlier Score and its Application to Novelty Detection for Road Infrastructure Images
CARISSMA, Technische Hochschule Ingolstadt（因戈尔施塔特应用技术大学 CARISSMA）；Technical University Munich（慕尼黑工业大学）
本文提出了一种新的无监督离群值，它可以嵌入到基于图的降维技术中。分数使用这些技术的有向最近邻图。因此，用于将数据投影到较低维度的相同相似性度量也用于确定离群值分数。通过相似性的加权归一化熵来实现离群值得分。该分数适用于道路基础设施图像。其目的是在预先收集的基础数据集的情况下识别新观察到的基础设施。检测未知场景是自动驾驶车辆加速验证的关键。结果表明，所提出的技术的高潜力。为了验证离群值分数的泛化能力，它还被应用于各种真实世界的数据集。与最先进的方法相比，使用所提出的方法识别离群值的总体平均性能更高。为了生成基础设施图像，开发了一个用于Matlab的openDRIVE解析和绘图工具作为这项工作的一部分。该工具以及基于熵的离群值得分与均匀流形近似和投影相结合的实现是公开可用的。
2021-05-05 cs.CV cs.LG stat.ML
Unsupervised Event Outlier Detection in Continuous Time
McGill University（麦吉尔大学）；Borealis AI（博雷亚利斯人工智能公司）
本文提出首个基于GAN和强化学习的无监督事件异常检测框架，通过生成器在线纠正异常并辅助判别器学习，实验证明其检测准确率优于现有方法。
2024-11-25 cs.AI cs.LG
A method for outlier detection based on cluster analysis and visual expert criteria
Madrid Open University, UDIMA（马德里开放大学）；Universidad Politécnica de Madrid（马德里理工大学）
本文提出一种基于聚类分析和视觉专家准则的异常值检测方法，利用四个准则模拟专家视觉识别，在稳定测量和脑电图数据上验证，假阳性率低于2%，可靠性超99%。
2025-10-27 cs.LG
Global Outlier Detection in a Federated Learning Setting with Isolation Forest
IDSIA (USI-SUPSI)（IDSIA（瑞士意大利语区大学与瑞士应用科学与艺术大学卢加诺分校联合机构））
提出一种基于 Isolation Forest 的联邦学习全局异常检测策略，通过双服务器、数据掩码与置换机制保护隐私，使客户端能在模型训练前移除本地异常，效果与集中式执行相当。
2024-09-20 cs.AI cs.LG
Human Texts Are Outliers: Detecting LLM-generated Texts via Out-of-distribution Detection
MBZUAI；UCLA（加州大学洛杉矶分校）；NEC Lab（日本电装实验室）
本文提出将大语言模型文本检测重新定义为分布外检测问题，将人类文本视为离群点，采用一类学习和基于分数的方法，在DeepFake数据集上达到98.3% AUROC，并验证了跨语言、攻击及未见模型的稳健性。
2025-10-07 cs.CL cs.LG
An empirical comparison of some outlier detection methods with longitudinal data
Italian National Institute of Statistics – Istat（意大利国家统计研究所）
本研究针对纵向数据异常值检测问题，对比官方统计传统方法与数据挖掘、机器学习领域的相关方法，通过面板调查数据实验验证了后者灵活性更强、可处理多维数据且部分场景效果更优。
2025-07-28 cs.LG stat.AP stat.ME
An Isolation Forest Learning Based Outlier Detection Approach for Effectively Classifying Cyber Anomalies
Chittagong University of Engineering & Technology（吉大港工程技术大学）；Jahangirnagar University（贾汉吉尔纳加尔大学）；Canberra Institute of Technology（堪培拉理工学院）；Kuwait University（科威特大学）
由于物联网（IoT）的普及、移动网络的大幅增长以及许多相关应用程序，网络安全最近对当今的安全问题产生了相当大的兴趣。因此，检测网络中的大量网络攻击并创建有效的入侵检测系统在当今的安全中起着至关重要的作用。在本文中，我们提出了一个隔离森林学习为基础的离群检测模型，有效地分类网络异常。为了评估所得到的离群点检测模型的有效性，我们还使用了几种传统的机器学习方法，如Logistic回归（LR），支持向量机（SVM），AdaBoost分类器（ABC），朴素贝叶斯（NB）和K-最近邻（KNN）。我们提出的离群检测模型的有效性进行评估进行实验的网络入侵数据集的评价指标，如精度，召回率，F1分数，和准确性。实验结果表明，去除离群点后，网络异常的分类精度得到了提高。
2020-12-09 cs.CR cs.LG
UniOD: A Universal Model for Outlier Detection across Diverse Domains
UniOD通过统一特征提取和图神经网络实现跨领域异常检测，无需超参数调优，提升实际应用的便捷性和准确性。
2026-03-14 cs.LG
Outlier-Detection for Reactive Machine Learned Potential Energy Surfaces
University of Basel（巴塞尔大学）
本文针对反应性分子势能面，比较集成模型、深度证据回归和高斯混合模型三种不确定性量化方法检测离群点的效果，发现集成模型最优，并提出一种基于结构的指标用于快速筛选有利于神经网络改进的结构。
2024-02-27 cs.LG physics.chem-ph
CoMadOut -- A Robust Outlier Detection Algorithm based on CoMAD
Christian-Albrechts-Universität zu Kiel（基尔大学）
本文提出基于CoMAD的鲁棒离群点检测算法CoMadOut，通过comedian PCA和分布内/外度量实现鲁棒评分，在AP、AUPRC和AUROC指标上与传统及深度方法具有竞争力。
2024-07-01 cs.LG
Label-Informed Outlier Detection Based on Granule Density
College of Computer Science, Sichuan University（四川大学计算机学院）；School of Computing and Artificial Intelligence, Southwest Jiaotong University（西南交通大学计算机与人工智能学院）；Sichuan National Innovation New Vision UHD Video Technology Co., Ltd.（四川国家创新新视野UHD视频技术有限公司）
本文提出基于粒计算和模糊集的标签引导异常检测方法GDOF，通过粒度密度估计和属性相关性评估，在少量标记异常体情况下有效检测异质数据中的异常。
2025-12-21 cs.LG
Learning Representations of Ultrahigh-dimensional Data for Random Distance-based Outlier Detection
University of Technology Sydney（悉尼科技大学）；Arizona State University（亚利桑那州立大学）
学习超高维数据的表达性低维表示，例如，具有数千/数百万特征的数据，已经成为使学习方法能够解决维数灾难的主要方式。然而，现有的无监督表示学习方法主要集中在保留数据规律性信息和独立于后续离群值检测方法学习表示，这可能导致检测不规则性的次优和不稳定性能（即，离群值）。本文介绍了一种基于模型的排名框架，称为RAMODO，来解决这个问题。RAMODO统一了表示学习和离群值检测，以学习为最先进的离群值检测方法（基于随机距离的方法）量身定制的低维表示。这种定制的学习为目标离群值检测器产生更优化和稳定的表示。此外，RAMODO可以利用很少的标记数据作为先验知识来学习更具表现力和应用相关的表示。我们将RAMODO实例化为一个称为REPEN的有效方法来演示RAMODO的性能。在八个真实世界的多维数据集上的大量经验结果表明，REPEN（i）使基于随机距离的检测器能够获得显著更好的AUC性能和两个数量级的加速;（ii）比四种最先进的表示学习方法表现得更好，更稳定;（iii）利用不到1%的标记数据实现高达32%的AUC改进。
2018-06-13 cs.AI cs.DB cs.LG
Outlier Detection of Poisson-Distributed Targets Using a Seabed Sensor Network
Georgia Southern University（佐治亚南方大学）；Virginia Polytechnic Institute and State University（弗吉尼亚理工大学和州大学）；Johns Hopkins University Applied Physics Laboratory（约翰霍普金斯大学应用物理实验室）
本文提出基于海底声学传感器网络和对数高斯考克斯过程的异常检测框架，通过二阶概率近似和动态传感器部署，提高海事空间异常的分类与检测性能。
2025-08-18 cs.IT cs.LG math.IT
Detecting Chronic Kidney Disease(CKD) at the Initial Stage: A Novel Hybrid Feature-selection Method and Robust Data Preparation Pipeline for Different ML Techniques
City University（城市大学）
慢性肾脏病（CKD）已感染全球近8亿人。每年约有170万人死于慢性肾脏病。在早期发现慢性肾脏病对于挽救数百万人的生命至关重要。许多研究人员已经应用了不同的机器学习（ML）方法来早期检测CKD，但仍然缺乏详细的研究。我们提出了一种结构化和彻底的方法来处理具有最佳性能的复杂的医疗数据。此外，这项研究将有助于研究人员在医疗数据准备管道上产生清晰的想法。在本文中，我们采用KNN填补填补缺失值，局部离群因子删除离群值，SMOTE处理数据不平衡，K分层K折交叉验证验证ML模型，和一种新的混合特征选择方法来删除冗余特征。在这项研究中应用的算法是支持向量机，高斯朴素贝叶斯，决策树，随机森林，逻辑回归，K-最近邻，梯度提升，自适应提升，和极端梯度提升。最后，随机森林可以100%准确地检测CKD而没有任何数据泄漏。
2022-03-02 cs.AI cs.LG
Detecting and explaining clinical-omics inconsistencies to improve patient cohort stratification: an application to Parkinson's disease
University of Murcia（穆尔西亚大学）；UCL Queen Square Institute of Neurology（伦敦大学学院皇后广场神经学研究所）；UK Dementia Research Institute（英国痴呆症研究所）；University of Cambridge（剑桥大学）；Washington University School of Medicine（华盛顿大学医学院）
提出MLASDO工具，通过无监督方法检测临床-组学不一致性，在帕金森病队列中识别异常样本，揭示潜在误诊和亚组，辅助患者分层。
2026-09-09 cs.LG
What do we learn? Debunking the Myth of Unsupervised Outlier Detection
Technical University of Munich（慕尼黑工业大学）；Helmholtz Center Munich（亥姆霍兹慕尼黑中心）；Helmholtz AI（亥姆霍兹人工智能研究所）；Klinikum Rechts der Isar（伊萨尔河右岸医院）；Imperial College London（帝国理工学院）；King’s College London（伦敦国王学院）
尽管自动编码器（AE）具有学习没有标签的紧凑表示的期望特性并且已被广泛应用于分布外（OoD）检测，但它们通常仍然被理解得很差并且被错误地用于检测正常和异常分布强烈重叠的离群值。一般来说，学习流形被假设为包含仅对描述训练分布内的样本重要的关键信息，并且离群值的重建导致高残差。然而，最近的工作表明，AE可能更好地重建某些类型的OoD样本。在这项工作中，我们挑战了这一假设，并研究了当自动编码器被要求解决两个不同的任务时，它们实际上学到了什么。首先，我们提出了基于Fréchet起始距离（FID）和训练分类器的置信度分数的两个度量，以评估AE是否可以学习训练分布并可靠地识别来自其他领域的样本。其次，我们研究AE是否能够从具有异常区域的样本中合成正常图像，这是一项更具挑战性的肺部病理检测任务。我们已经发现，最先进的（SOTA）AE要么无法约束潜在的流形，并允许异常模式的重建，或者它们无法准确地从其潜在的分布恢复输入，导致模糊或未对齐的重建。我们提出了新的可变形自动编码器（MorphAEus）来学习感知感知的全局图像先验，并根据估计的密集变形场局部调整其形态。我们在检测OoD和病理学方面表现出优于无监督方法的性能。
2023-02-08 cs.CV cs.LG eess.IV
Outlier Detection from Network Data with Subnetwork Interpretation
University of California Santa Barbara（加州大学圣塔芭芭拉分校）；Army Research Laboratory（陆军研究实验室）；Raytheon BBN Technologies（雷神BBN科技公司）
从一组数据观测中检测少量离群值总是具有挑战性的。这个问题在多个网络样本的设置中更加困难，其中计算网络样本的异常程度通常是不够的。事实上，解释为什么网络是例外的，以子网络的形式表达，也同样重要。在本文中，我们开发了一种新的算法来解决这两个关键问题。我们将每个网络样本视为潜在的离群值，并识别出主要将其与附近的常规样本区分开来的子网络。该算法在网络回归的框架下，结合网络拓扑和L1范数收缩的约束条件进行子网发现。因此，我们的方法超越了子空间/子图发现，我们表明，它收敛到一个全局最优。对各种真实网络数据集的评估表明，我们的算法不仅在网络和高维环境中优于基线，而且还发现了高度相关和可解释的局部子网络，进一步增强了我们对异常网络的理解。
2016-09-30 cs.AI cs.LG
Outlier detection for patient monitoring and alerting
Department of Computer Science, University of Pittsburgh（匹兹堡大学计算机科学系）；The Intelligent Systems Program, University of Pittsburgh（匹兹堡大学智能系统计划）；Inria Lille-Nord Europe, equipe SequeL（Inria里尔-北欧洲研究中心，SequeL团队）；Department of Biomedical Informatics, University of Pittsburgh（匹兹堡大学生物医学信息学系）；CRISMA Center, Department of Critical Care Medicine, University of Pittsburgh School of Medicine（匹兹堡大学医学院重症医学科CRISMA中心）
本文提出了一种基于数据的异常检测方法，用于识别不寻常的患者管理决策，通过电子健康记录中的历史病例数据进行评估，研究发现基于异常的警报能有效提高真实警报率。
2026-05-09 cs.LG
Robust Anomaly Detection in Images using Adversarial Autoencoders
Ludwig-Maximilians-University Munich（路德维希-马克西米利安慕尼黑大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
可靠地检测给定图像集合中的异常对于视觉质量检查、监视或医学图像分析而言是具有高度实际相关性的任务。自动编码器神经网络学习重建正常图像，因此可以将这些图像分类为异常，其中重建误差超过某个阈值。在这里，我们分析了这种方法的一个基本问题，当训练集被一小部分离群值污染时。我们发现，持续训练的自编码器不可避免地减少异常值的重建误差，从而降低异常检测性能。为了抵消这种影响，采用了对抗性自动编码器架构，该架构对潜在表示施加了先验分布，通常将异常放置在低可能性区域中。利用似然模型，可以在训练期间识别和拒绝潜在的异常，这导致异常检测器在训练期间对异常值的存在显著更鲁棒。
2019-01-18 cs.CV cs.LG stat.ML
A flexible outlier detector based on a topology given by graph communities
Computer Vision Center - Dept. of Computer Science（计算机视觉中心 - 计算机科学系）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）
离群值或异常检测对于机器学习方法和统计预测模型的最佳性能至关重要。它不仅是数据清理过程中的一个技术步骤，而且是许多领域的关键主题，例如欺诈性文档检测，医疗应用和辅助诊断系统或检测安全威胁。与基于群体的方法相比，基于邻域的局部方法是简单灵活的方法，具有在小样本量不平衡问题中表现良好的潜力。然而，局部方法的一个主要问题是每个样本邻域的计算对方法性能的影响。大多数方法使用特征空间中的距离来定义单个邻域，这需要仔细选择几个参数。这项工作提出了一种局部方法的基础上的局部措施的异质性的样本标签的特征空间被认为是一个拓扑流形。拓扑计算使用加权图的社区编码在特征空间中的相互最近的邻居。通过这种方式，我们提供了一组多个邻域，能够描述复杂空间的结构，而无需参数微调。在真实数据集上的大量实验表明，我们的方法在多视图和单视图设置中的整体性能优于局部和全局策略。
2020-02-18 cs.LG cs.SI stat.ML
