Outlier Elimination for Robust Ellipse and Ellipsoid Fitting
提出了一种椭圆/椭球拟合的野值剔除算法。该两阶段算法采用基于邻近度的离群值检测算法（使用图拉普拉斯算子），然后是类似于随机样本一致性（RANSAC）的基于模型的离群值检测算法。这两个阶段相互补偿，从而可以通过合理的计算来消除各种类型的异常值。仿真结果表明，该算法大大提高了椭圆/椭球拟合的鲁棒性。
2009-10-24 stat.ME
Localized Kernel Projection Outlyingness: A Two-Stage Approach for Multi-Modal Outlier Detection
Department of Computer Science, Aichi Institute of Technology（爱知技术大学计算机科学系）
提出两阶段LKPLO框架，结合自适应损失函数、全局核PCA和局部聚类，解决多模态离群检测问题，在10个基准数据集上取得最优性能。
2026-06-16 cs.LG stat.ML
Outlier Detection through Null Space Analysis of Neural Networks
University of Florida（佛罗里达大学）
许多机器学习分类系统缺乏能力意识。具体地，许多系统缺乏识别何时异常值（例如，与训练数据分布不同且未在其中表示的样本）被呈现给系统。检测异常值的能力具有实际意义，因为它可以帮助系统在遇到意外数据时以合理的方式运行。在先前的工作中，离群值检测通常在与分类模型不同的处理管道中进行。因此，对于一个包含离群值检测和分类的完整系统，必须训练两个模型，从而增加了该方法的整体复杂性。在本文中，我们使用的零空间的概念，集成离群值检测方法直接到一个神经网络用于分类。我们的方法，称为神经网络的空间分析（NuSA），其工作原理是计算和控制的零空间投影的大小，数据通过网络。使用这些预测，我们可以计算出一个可以区分正常和异常数据的分数。结果表明，用NuSA训练的网络保留了它们的分类性能，同时也能够以类似于常用离群值检测算法的速度检测离群值。
2020-07-02 cs.LG stat.ML
Randomized PCA Forest for Unsupervised Outlier Detection
Department of Mathematics and Computer Science（数学与计算机科学系）；University of Southern Denmark（南丹麦大学）；Faculty of Information Technology and Communication Sciences（信息科技与通信科学学院）；Tampere University（塔尔库大学）
本文提出一种基于随机PCA的无监督异常检测方法，利用RPCA森林的内在特性生成异常评分，在多个数据集上优于经典和最新方法，展现出鲁棒性和高效性。
2026-05-08 cs.AI cs.LG stat.ML
Functional outlier detection for density-valued data with application to robustify distribution to distribution regression
分布数据分析是在功能数据分析（FDA）框架下对随机概率密度函数（PDF）组成的数据对象进行统计分析和建模的研究，近年来受到了广泛的关注。然而，许多重要的方面仍然没有探索，如离群值检测和鲁棒性。现有的函数离群点检测方法主要用于普通函数数据，应用于PDF时通常表现不佳。为了填补这一空白，本研究的重点是PDF值离群检测，以及其在稳健分布回归中的应用。与普通函数数据类似，检测由大量PDF形成的“曲线网”掩盖的形状异常值是PDF异常值检测中的主要挑战。为此，我们提出了一个树结构的转换系统的特征提取以及转换的形状离群值容易检测的幅度离群值，相关的离群值检测器设计的特定的转换数据。还提出了一种多重检测策略，以考虑检测的不确定性，并将不同的检测器结合起来，形成一个更可靠的检测工具。此外，我们提出了一种基于分布回归的方法来检测PDF值二元组的异常关联。作为一个具体的应用，建议的离群值检测方法适用于robustify的分布到分布回归方法，我们开发了一个强大的估计器的回归算子通过降低检测到的离群值。所提出的方法进行了验证和评估，通过广泛的模拟研究或实际数据的应用。相关的比较研究表明，与其他竞争对手的分布式离群检测方法的优越性。
2021-10-02 stat.ME
Doubly Robust Feature Selection with Mean and Variance Outlier Detection and Oracle Properties
我们提出了一个通用的方法来处理数据污染，可能会破坏性能的特征选择和估计过程的高维线性模型。具体来说，我们认为共同出现的均值漂移和方差膨胀离群值，这可以建模为额外的固定和随机组件，分别独立评估。我们的建议执行特征选择，同时检测和降低方差膨胀离群值的权重，检测和排除均值漂移离群值，并保留具有全权重的非离群情况。特征选择和均值漂移离群值检测是通过一类鲁棒的非凹惩罚方法进行的。方差膨胀离群值检测是基于惩罚的限制后验模式。由此产生的方法满足一个强大的Oracle属性的特征选择中存在的数据污染-这使得功能的数量以指数方式增加的样本量-和检测真正离群的情况下，每种类型的渐近概率1。这提供了高击穿点和效率之间的最佳折衷。计算效率的启发式程序。我们通过广泛的模拟研究和实际应用说明了我们的建议的有限样本性能。
2021-06-22 stat.ME
Random Subspace Learning Approach to High-Dimensional Outliers Detection
我们介绍并开发了一种新的方法，离群点检测的基础上适应随机子空间学习。我们提出的方法处理高维低样本量和传统的低维高样本量数据集。从本质上讲，我们避免了计算瓶颈的技术，如最小协方差行列式（MCD）的计算所需的行列式和相关的措施，在低得多的维子空间。我们的方法的理论和计算的发展表明，它是计算上更有效的高维低样本量的正则化方法，并经常有利地竞争与现有的方法，就正确的离群点检测的百分比而言。
2015-05-03 stat.ML
Robust Subspace Outlier Detection in High Dimensional Space
大型数据库中的稀有数据被称为离群值，它们揭示了现实世界中的重要信息。基于子空间的离群点检测被认为是一种可行的方法。然而，在子空间中发现的异常值实际上只是高维空间中真实异常值的一部分。在投影维子空间中，隐藏在正常聚类点中的离群点有时会被忽略。在本文中，我们提出了一个强大的子空间方法来检测这样的内部离群点在一个给定的数据集，它使用二维的投影：检测离群点的子空间中的局部密度比在第一个投影的维度;发现离群点通过比较邻居的位置在第二个投影的维度。每个点的权重是通过将两步投影维度中得到的所有相关值相加来计算的，然后将得分最大的权重值的点作为离群值。通过对维数从10到10000的一系列实验，结果表明，该方法在极高维空间中具有较高的精度，在低维空间中具有较好的效果。
2014-05-05 cs.AI cs.LG stat.ML
Kernel Outlier Detection
提出核异常检测（KOD）方法，通过核变换和投影寻踪解决高维环境下的异常检测问题，克服了现有方法对分布假设和超参数的依赖，在多个数据集上验证了其有效性。
2025-06-28 cs.LG stat.ML
Unsupervised Outlier Detection using Random Subspace and Subsampling Ensembles of Dirichlet Process Mixtures
Nexon（奈森（韩国游戏公司））；Danggeun Market（당근마켓（韩国电商公司））；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Yonsei University（延世大学）
针对 Dirichlet Process Mixtures 计算低效且对非高斯数据建模困难的问题，提出一种结合随机子空间与子采样集成及变分推断的无监督离群点检测方法，有效提升了计算效率、鲁棒性和检测性能。
2024-07-25 cs.AI cs.LG stat.ML
Learning Representations of Ultrahigh-dimensional Data for Random Distance-based Outlier Detection
University of Technology Sydney（悉尼科技大学）；Arizona State University（亚利桑那州立大学）
学习超高维数据的表达性低维表示，例如，具有数千/数百万特征的数据，已经成为使学习方法能够解决维数灾难的主要方式。然而，现有的无监督表示学习方法主要集中在保留数据规律性信息和独立于后续离群值检测方法学习表示，这可能导致检测不规则性的次优和不稳定性能（即，离群值）。本文介绍了一种基于模型的排名框架，称为RAMODO，来解决这个问题。RAMODO统一了表示学习和离群值检测，以学习为最先进的离群值检测方法（基于随机距离的方法）量身定制的低维表示。这种定制的学习为目标离群值检测器产生更优化和稳定的表示。此外，RAMODO可以利用很少的标记数据作为先验知识来学习更具表现力和应用相关的表示。我们将RAMODO实例化为一个称为REPEN的有效方法来演示RAMODO的性能。在八个真实世界的多维数据集上的大量经验结果表明，REPEN（i）使基于随机距离的检测器能够获得显著更好的AUC性能和两个数量级的加速;（ii）比四种最先进的表示学习方法表现得更好，更稳定;（iii）利用不到1%的标记数据实现高达32%的AUC改进。
2018-06-13 cs.AI cs.DB cs.LG
Model-Agnostic Influential Outlier Detection for Mixed Effects and Multi-Level Models
Institute for Data Science, Carleton University（卡尔顿大学数据科学研究所）；School of Computer Science, Carleton University（卡尔顿大学计算机科学学院）；Department of Psychology, Carleton University（卡尔顿大学心理系）
针对混合效应模型提出模型无关的影响力异常值检测方法，结合SHAP值与残差并利用归一化流，在多种模型中验证其优势与局限。
2026-10-02 stat.CO stat.ME
Provable Self-Representation Based Outlier Detection in a Union of Subspaces
Johns Hopkins University（约翰斯·霍普金斯大学）
许多计算机视觉任务涉及处理大量被离群值污染的数据，这些离群值需要被检测和拒绝。虽然基于鲁棒统计的离群点检测方法已经存在了几十年，但直到最近才开发出基于稀疏和低秩表示的方法，以及当内点位于一个或多个低维子空间中时正确离群点检测的保证。本文提出了一种新的离群点检测方法，结合稀疏表示和图上的随机游走的工具。通过利用数据点可以表示为彼此的稀疏线性组合的属性，我们得到了数据点之间的非对称亲和矩阵，我们使用它来构造一个加权有向图。通过从这个图中定义一个合适的马尔可夫链，我们建立了马尔可夫链的内点/离群点和本质/非本质状态之间的联系，这使我们能够通过使用随机游走来检测离群点。我们提供了一个理论分析，证明我们的方法的正确性，几何和连通性假设。图像数据库上的实验结果表明，相对于最先进的稀疏和低秩离群点检测方法的优越性。
2017-04-12 cs.CV stat.ML
Large Dimensional Analysis of Robust M-Estimators of Covariance with Outliers
假设数据集包括独立的（本质上是高斯的）合法样本以及任意确定性样本（称为离群值），提供了协方差（或散布）的鲁棒M-估计量的高维特征。建立在最近的随机矩阵的鲁棒统计领域的进展，我们特别表明，所谓的Maronna M-估计的散布渐近行为类似于众所周知的随机矩阵时，人口和样本量一起增长到无穷大。离群值的引入使得鲁棒估计渐近地表现为样本外积的加权和，对于所有合法样本具有恒定的权重，而对于离群值具有不同的权重。对这种结构的精细分析揭示了重要的是，M估计量衰减（或增强）离群值影响的倾向主要取决于离群值与合法样本的逆总体协方差阵的对齐。因此，鲁棒M-估计量可以带来实质性的好处，更简单的估计，如每样本归一化版本的样本协方差阵，这是不能够区分离群样本。分析表明，在一类的Maronna的估计的散布，Huber估计是最有利的拒绝离群值。相反，更类似于泰勒尺度不变估计量的估计量（通常在文献中更受欢迎）有可能无意中增强一些离群值。
2015-03-04 cs.IT math.IT math.ST
Isolation forests: looking beyond tree depth
孤立森林算法的离群值检测利用了一个简单而有效的观察：如果采取一些多元数据，并在整个特征空间递归地均匀随机切割，它将采取更少的随机切割离群值被单独留在一个给定的子空间相比，定期观察。最初的想法提出了基于隔离所需的树深度（随机切割的数量）的离群值得分，但这里的实验表明，使用有关所取特征空间大小和分配给它的点数的信息可以在许多情况下改善结果，而无需对树结构进行任何修改，特别是在存在分类特征的情况下。
2021-11-23 cs.LG stat.ML
Outlier Detection Ensemble with Embedded Feature Selection
National University of Defense Technology（国防科技大学）
特征选择在提高离群点检测的性能方面发挥着重要作用，特别是对于噪声数据。现有的方法通常分别进行特征选择和离群值评分，这会选择可能不适合离群值检测的特征子集，导致性能不令人满意。在本文中，我们提出了一个孤立点检测集成框架与嵌入式特征选择（ODEFS），以解决这个问题。具体而言，对于每个基于随机子采样的学习组件，ODEFS将特征选择和离群值检测统一到成对排序公式中，以学习为离群值检测方法定制的特征子集。此外，我们采用阈值化的自定进度学习，同时优化特征选择和样本选择，这有助于提高训练集的可靠性。之后，我们设计了一个交替算法，证明了收敛性，以解决由此产生的优化问题。此外，我们还分析了该框架的泛化误差界，为该方法提供了理论保证和实践指导。在不同领域的12个真实数据集上的综合实验结果验证了所提出的ODEFS的优越性。
2020-01-15 cs.LG stat.ML
An Evaluation of Classification and Outlier Detection Algorithms
Digital Creativity Labs, Department of Computer Science, University of York（约克大学计算机科学系数字创意实验室）；University of York（约克大学）；EPSRC（工程与物理科学研究委员会）；AHRC（艺术与人文研究委员会）；InnovateUK（创新英国）
本文评估算法的分类和离群检测精度的时间数据。我们专注于快速训练和分类的算法，可用于需要定期合并新数据的系统。因此，我们使用一系列知名的时间序列数据集比较了六种快速算法的准确性。分析表明，算法的选择是特定的任务和数据，但我们可以推导出选择的算法。梯度提升机通常是最好的分类，但没有一个单一的赢家离群检测，虽然梯度提升机（再次）和随机森林更好。因此，我们建议使用我们的算法对许多算法进行评估。
2018-05-02 cs.LG stat.ML
Topological data analysis for random sets and its application in detecting outliers and goodness of fit testing
提出基于有符号距离函数滤流、持续同调汇总函数、函数深度与全局包络检验的随机集异常值检测及拟合优度检验方法，并经germ-grain模型模拟验证。
2024-04-06 stat.ME
Multiscale principal component analysis
主成分分析（PCA）是一种重要的数据挖掘工具。PCA的传统方法导致有利于具有大方差的结构的解决方案。这对异常值很敏感，可能会混淆有趣的底层结构。PCA的一个等价定义是，它寻找最大化数据投影之间的平方成对距离之和的子空间。这一定义为主成分分析提供了更大的灵活性，这对增强主成分分析很有用。在本文中，我们引入PCA尺度最大化的距离在选定的区间内的值[l，u]的数据点对的投影之间的成对距离的总和。在多尺度PCA中得到的主成分分解取决于平面上的点（l，u），并且对于每个点，我们定义投影到主成分上。这些投影仪的聚类分析揭示了数据在不同尺度上的结构。每个结构由代表该结构的簇的中心点处的特征向量来描述。我们还使用预测的失真作为选择适当尺度的标准，特别是对于具有离群值的数据。该方法在人工分布数据和真实数据上进行了测试。对于具有多尺度结构的数据，该方法能够揭示数据的不同结构，并能减少主成分分析中离群值的影响。
2013-07-31 stat.ME
A two-component normal mixture alternative to the Fay-Herriot model
本文考虑了一种稳健的分层贝叶斯方法来处理小面积均值的随机效应，当这些效应中的一些假设极值，导致离群值。在存在离群值的情况下，在随机效应的正态假设下，用于对地区水平数据建模的标准Fay-Herriot模型可能高估随机效应方差，从而提供了低于理想的合成回归预测收缩，并抑制了借用信息。即使是少量的随机效应的实质性离群值也会导致Fay-Herriot模型中随机效应方差的较大估计值，从而对模型的合成部分几乎没有收缩，或者对任何小区域的常规贝叶斯估计值相关的后验方差几乎没有减少。虽然已发现随机效应的具有已知混合分布的正态分布的尺度混合在存在离群值的情况下是有效的，但解决方案取决于混合分布。作为一个可能的替代解决方案的问题，一个两个组件的正常混合模型已被提出的基础上的模型方差参数，回归系数和混合概率的非信息先验。基于真实、模拟和合成数据的数据分析和仿真研究表明，该方法优于随机效应正态分布下的标准贝叶斯Fay-Herriot解。
2015-10-22 stat.ME
An approximate zero bias transformation for random sums: Applications to sampling with outliers, auto insurance, and generative AI
Chulalongkorn University（朱拉隆功大学）；King Mongkut’s University of Technology Thonburi（蒙库特国王理工大学）
该研究针对独立未必同分布的随机和，开发新型近似零偏变换推导$L^1$界，将其应用于含异常值抽样、汽车保险索赔及生成式AI响应时间等实际场景。
2026-10-30 math.PR stat.ME
High-dimensional clustering via Random Projections
在这项工作中，我们解决了无监督的分类问题，利用随机投影包围的一般思想。具体来说，我们建议生成一组低维独立的随机投影，并对每个投影进行基于模型的聚类。然后保留顶部$B^*$投影，即示出最佳分组结构的投影。最终的分区是通过共识聚合投影中发现的聚类来获得的。在真实和模拟数据集上评估了该方法的性能。所得到的结果表明，该建议是一个很有前途的工具，高维聚类。
2020-11-23 stat.ME
Bayesian Node-Level Outlier Detection for Graph Signals
Human-Centered Artificial Intelligence Research Institute, Ewha Womans University（梨花女子大学以人为本人工智能研究所）；Department of Statistics and Actuarial Science, Soongsil University（崇实大学统计与精算科学系）
本文提出一种完全贝叶斯框架用于图信号中的节点级异常检测，通过图结构关系依赖性识别破坏底层平滑性的异常。方法结合图平滑组件和稀疏异常组件模型，提供后验概率不确定性量化。
2026-04-16 stat.ME
Random-projection ensemble classification
我们介绍了一个非常普遍的方法，高维分类，基于仔细组合的结果，应用任意的基础分类随机投影的特征向量到一个较低的维空间。在我们详细研究的一种特殊情况下，随机投影被分成不相交的组，在每个组中，我们选择产生最小估计的测试误差的投影。然后，我们的随机投影集成分类器将基础分类器应用于选定投影的结果进行汇总，并使用数据驱动的投票阈值来确定最终分配。我们的理论结果阐明了增加预测数量对性能的影响。此外，在充分降降维假设所隐含的边界条件下，我们证明了随机投影集成分类器的测试超额风险可以由不依赖于原始数据维度的项和随着投影数量的增加而变得可以忽略不计的项来控制。通过大量的仿真研究，该分类器还与其他几种流行的高维分类器进行了经验比较，揭示了其出色的有限样本性能。
2017-06-05 stat.ME
Robust Principal Components by Casewise and Cellwise Weighting
University of Naples Federico II（那不勒斯费德里科二世大学）；KU Leuven（荷语鲁汶大学）
提出 cellPCA 方法，通过结合两种稳健损失函数和迭代重加权最小二乘算法，同时处理案例异常值、单元异常值和缺失数据，实现稳健的主成分分析。
2025-10-31 stat.CO stat.ME
A novel robust meta-analysis model using the $t$ distribution for outlier accommodation and detection
本文提出tMeta模型，利用t分布使效应量边际分布服从t分布，从而以简单自适应方式同时适应和检测离群研究，并通过EM算法实现高效最大似然估计，在轻度与严重离群值场景下均表现稳健。
2024-06-06 stat.ME stat.ML
Random projections: data perturbation for classification problems
随机预测为大范围的大规模统计问题提供了一种有吸引力和灵活的方法。它们在高维环境中特别有用，在高维环境中，我们为每个观察记录了许多协变量。在分类问题中，有两种使用随机投影的一般技术。第一种方法涉及到一个集合中的许多投影--这里的想法是在应用不同的随机投影后聚合结果，目的是实现更高的统计准确性。第二类方法包括散列和草图技术，这是降低问题复杂性的直接方法，因此可能节省大量计算，同时近似保留统计效率。
2019-11-25 stat.ME stat.ML
