Convex programming approach to robust estimation of a multivariate Gaussian model
多元高斯通常用作高维数据分布的第一近似。在各种约束条件下确定该分布的参数是统计学中广泛研究的问题,并且通常被认为是测试新算法或理论框架的原型。在本文中,我们开发了一个非渐近的方法来估计的多元高斯分布的参数时,数据被破坏的离群值的问题。我们提出了一个估计-有效地计算通过解决凸规划-鲁棒估计的人口平均值和人口协方差阵,即使样本包含一个显着比例的离群值。我们的腐败矩阵的估计是可证明的率最优的同时为条目明智的$\ell_1$ -范数,Frobenius范数和混合$\ell_2/\ell_1$范数。此外,这种最优性是通过具有通用调谐参数(校准惩罚强度)的惩罚平方根最小二乘法实现的。在逆协方差阵稀疏的附加条件下,将这些结果部分地推广到$p$可能大于$n$的情形.
2016-02-06 math.ST stat.TH
Detecting Unusual Input-Output Associations in Multivariate Conditional Data
University of Pittsburgh(匹兹堡大学)
尽管近年来离群点检测研究取得了巨大的进展,但大多数现有方法仅被设计用于检测与所有数据属性的联合空间中表达的异常数据模式相对应的无条件离群点。当我们试图检测反映与给定上下文或条件相关的异常反应的条件离群值时,此类方法不适用。这项工作的重点是多变量条件离群值检测,一种特殊类型的条件离群值检测问题,其中数据实例包括多维输入(上下文)和输出(响应)对。我们提出了一种新的离群值检测框架,该框架可以在从所有数据实例中学习的可分解条件概率模型的帮助下识别数据中的异常输入-输出关联。由于该模型的组成部分可能在质量上有所不同,因此我们将它们与权重相结合,以反映其在评估离群值时的可靠性。我们研究了两种计算组件权重的方法:依赖于所有数据的全局方法和仅依赖于与目标实例相似的实例的局部方法。对不同领域数据的实验结果表明,我们的框架能够成功识别多变量条件离群值。
2016-12-21 cs.LG stat.ML
Multivariate Functional Data Visualization and Outlier Detection
本文提出了一种新的图形工具--幅度-形状(MS)图,用于可视化多元函数数据的幅度和形状异常度。所提出的工具建立在最近的概念的功能方向outlyingness,同时考虑的水平和方向的偏离中心区域的功能数据的中心性的措施。MS图不仅直观地呈现水平轴或平面上的幅度异常度的水平,而且还呈现方向,并且在垂直轴上展示形状异常度。提供分割曲线或曲面以将非离群数据与离群值分开。模拟数据和实际例子都证实了MS图优于现有的工具,用于可视化中心性和检测函数数据的异常值。
2018-04-22 stat.CO stat.ME
Multivariate outlier detection based on a robust Mahalanobis distance with shrinkage estimators
基于收缩的概念,提出了一组用于多变量离群点检测的鲁棒马氏距离。稳健的强度和缩放因子被最佳地估计以定义收缩。研究了仿射等方差和击穿值等性质。通过与文献中的其他技术的比较,在模拟研究和真实数据集的性能的建议说明。当基础分布是重尾或偏态时的行为表明,当我们偏离常见的正态性假设时,该方法是适当的。在绝大多数情况下,所得到的高正确检测率和低错误检测率,以及显着更小的计算时间显示了我们的建议的优点。
2019-04-04 stat.ME
A robust multivariate, non-parametric outlier identification method for scrubbing in fMRI
Indiana University(印第安纳大学)
针对fMRI数据清洗需求,提出两种基于鲁棒距离的非参数多元异常值检测阈值方案,经降维、异常值插补等步骤实现,适用于非正态数据,效果优于现有多种清洗方法。
2026-10-22 stat.ME
Multivariate cumulants in outlier detection for financial data analysis
有许多研究论文产生了金融数据模型,其中回报与基本面分析或投资者的个人行为(通常是非理性的)有关。在第二种情况下,市场上可能会出现泡沫,然后是危机。这种泡沫或危机反映在许多资产的交叉相关的极端正或负回报上。此类回报由具有有意义的尾部依赖关系的copula建模。这种互相关的典型模型提供了t-Student copula。作者证明了与该Copula相关的互信息可以用四阶多元累积量来度量。通过对人工数据的检验,将四阶累积量方法成功地应用于金融危机的检测。为此,作者介绍了离群点检测算法。此外,该算法显示了潜在的应用危机预测,交叉相关的极端事件可能会出现在危机之前,在类比的自相关的赫斯特指数测量。
2020-02-26 stat.ME
On the use of the M-quantiles for outlier detection in multivariate data
本文研究了用于异常值检测的M-quantiles,K-transform,证明了在奇数维度d>=3中其与密度成正比的是多重拉普拉斯算子而非梯度,,揭示了该机制在异常值检测中的存在放大效应缺陷。
2024-01-10 math.OC math.ST stat.TH
Pointwise Data Depth for Univariate and Multivariate Functional Outlier Detection
针对传统函数型数据深度单值表征不足的问题,提出基于逐点深度分布与成对深度相关性的单/双变量函数型异常值检测方法,经模拟和光伏数据集验证性能优于传统方法。
2023-11-05 stat.ME
ICS for Multivariate Outlier Detection with Application to Quality Control
在汽车、航空电子或航空航天等高可靠性标准领域,异常检测至关重要。介绍了一种自动检测多变量异常值的有效方法。它利用了不变坐标选择(ICS)方法的显着特性。基于两个散射矩阵的同时谱分解,ICS导致仿射不变坐标系中的欧氏距离对应于原始坐标中的马氏距离(MD)。MD的局限性突出使用的背景下,数据的维度是大的理论参数。与MD不同,ICS可以选择相关组件,从而消除限制。由于得到的降维,该方法有望提高离群检测规则,如基于MD的标准的权力。它还大大简化了异常值的解释。该文件包括实际的指导方针,使用ICS的背景下,一个小比例的离群值,这是相关的高可靠性标准领域。通过平行分析和正态性检验的散射矩阵的选择以及相关的不变分量的选择得到解决。推荐使用规则的协方差阵和所谓的四阶矩矩阵作为散布对。这种选择结合了实现的简单性和导出理论结果的可能性。仿真研究证实了该建议的良好性能,并将其与其他散射对进行了比较。本研究也提供了一个比较与主成分分析和MD。我们的建议的性能也评估了几个真实的数据集,使用用户友好的R包随附的文件。
2018-02-02 stat.ME
High-dimensional outlier detection using random projections
文献中存在多种检测多变量数据中异常值的方法,但大多数方法都需要估计协方差阵。维数越高,矩阵的估计越复杂,在高维中变得不可能。为了避免估计这个矩阵,我们提出了一种新的随机投影为基础的程序来检测高斯多元数据中的离群值。它包括在几个一维子空间中投影数据,其中应用了适当的单变量离群值检测方法,类似于Tukey的方法,但阈值取决于初始尺寸和样本量。所需的投影数是使用序贯分析确定的。模拟和真实数据集说明了所提出的方法的性能。
2020-11-27 stat.ME
Breakdown Properties of the M-Estimators of Multivariate Scatter
已知多元散布的M-估计的崩溃点不大于大于1/(p+1),其中p是数据的维数。在高维中,击穿点通常被认为是令人惊讶的低。本文对故障问题进行了较为详细的研究。精确的击穿点的M-估计的散布得到,它表明,它们的低值主要是由于污染限制到一些平面。如果这种“共面”污染不存在,则存在M-估计量,其故障点接近1/2。共面污染的影响被进一步研究,并示出相关的散射矩阵的奇异性。最后,本文的结果是否低击穿点一定是一个坏的功能和多变量离群值检测的影响进行了简要讨论。这篇论文是一份未发表的1986年罗格斯技术报告的再版。
2014-06-18 math.ST stat.TH
Detection and treatment of outliers for multivariate robust loss reserving
本文提出两种稳健双变量链梯法(基于调整离群度和袋距离)处理异常值,并扩展至N维,在三变量数据集上验证效果。
2023-06-16 q-fin.RM stat.AP stat.ME
ICS for complex data with application to outlier detection for density data
本文在抽象欧几里得空间中提出ICS的无坐标定义,将其扩展到函数型和分布型复杂数据,用于异常检测,并在低异常比例模拟及越南气温分布数据中验证了有效性。
2025-05-26 math.ST stat.ME stat.TH
Robust estimation of principal components from depth-based multivariate rank covariance matrix
从多变量数据的空间符号协方差阵(SCM)分析主成分已被提出作为计算简单和鲁棒的替代正常PCA,但它具有较差的效率属性,并且实际上对于最大似然估计是不可接受的。在这里,我们使用基于数据深度的空间秩代替空间符号来获得正交等变深度协方差阵(DCM),并将其特征向量估计用于PCA。我们导出了样本DCM的渐近性质及其特征向量的影响函数。这些影响函数的形状表明估计的主成分的鲁棒性,以及与SCM相比的良好的效率特性。有限样本仿真研究表明,样本DCM的主成分是强大的偏离正态分布,以及更有效的SCM和仿射等变版本,泰勒的形状矩阵。通过两个实际数据的例子,我们还展示了基于DCM的PCA在分析高维数据和异常检测方面的有效性,并与其他方法进行了比较。
2016-03-09 math.ST stat.TH
Multivariate Mean Comparison under Differential Privacy
多元总体均值的比较是统计推断的一项中心任务。虽然统计理论提供了各种分析工具,但它们通常不保护个人隐私。这种知识可能会激励研究参与者隐藏他们的真实数据(特别是离群值),这可能导致扭曲的分析。在本文中,我们解决这个问题,通过开发一个假设检验多变量均值比较,保证不同的隐私用户。检验统计量是基于流行的霍特林的$t^2$ -统计量,它有一个自然的解释方面的马氏距离。为了控制1型错误,我们提出了一个引导算法下的差分隐私,可证明产生一个可靠的测试决策。在实证研究中,我们证明了这种方法的适用性。
2021-10-15 cs.CR math.ST stat.ME
An outlier map for Support Vector Machine classification
支持向量机是一种广泛使用的分类技术。它们计算效率高,即使对于高维数据也能提供出色的预测。此外,支持向量机是非常灵活的,由于纳入核函数。后者允许非线性模型,但也可以处理非数值数据,如蛋白质串。然而,支持向量机可能会受到不干净数据的影响,例如,离群值或错误标记的观察。虽然在文献中已经提出了几种离群值检测方案,但离群值与非离群值的选择通常是特别的,并且不能提供对数据的深入了解。在稳健多元统计中,离群值图是评估所考虑数据质量的非常流行的工具。它们提供了描述几种类型异常值的数据的可视化表示。本文提出了一种用于支持向量机分类的离群图。将多元统计中的Stahel-Donoho离群度测度推广到任意核空间。裁剪支持向量机定义为对具有最大离群值的样本进行裁剪。基于该分类器,构造了一个离群点图,可以可视化任何类型的高维核空间中的数据。离群值图在4个生物学示例中进行了说明,显示其在探索性数据分析中的用途。
2010-09-29 stat.AP
Sparse Functional Boxplots for Multivariate Curves
This paper introduces the sparse functional boxplot and the intensity sparse functional boxplot as practical exploratory tools. Besides being available for complete functional data, they can be used in sparse univariate and multivariate functional data. The sparse functional boxplot, based on the functional boxplot, displays sparseness proportions within the 50\% central region. The intensity sparse functional boxplot indicates the relative intensity of fitted sparse point patterns in the central region. The two-stage functional boxplot, which derives from the functional boxplot to detect outl…
2022-05-27 stat.AP stat.ME
Area-based epigraph and hypograph indices for functional outlier detection
Universidad Carlos III de Madrid(马德里卡洛斯三世大学);uc3m-Santander Big Data Institute(uc3m-桑坦德大数据研究所);Universidad Complutense de Madrid(马德里康普顿斯大学);Instituto de Matemática Interdisciplinar (IMI)(跨学科数学研究所);Ludwig-Maximilians-Universität München(慕尼黑路德维希-马克西米利安大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出基于面积的epigraph和hypograph指数,用于同时检测函数的幅度和形状异常,通过将函数异常检测转化为多变量问题,提高了鲁棒性和性能。
2025-07-08 stat.ME
Mixtures of multivariate linear asymmetric Laplace regressions with multiple asymmetric Laplace covariates
本文提出污染移位非对称拉普拉斯聚类加权模型(cSALCWM),通过引入离群值和杠杆点控制参数,实现对偏态响应与协变量的联合聚类及精细组内分类,并开发期望-条件最大化算法进行参数估计,显著提升离群点检测与推断可靠性。
2025-05-09 stat.ME
On Using Classification Datasets to Evaluate Graph-Level Outlier Detection: Peculiar Observations and New Insights
Carnegie Mellon University(卡内基梅隆大学)
离群值挖掘社区的常见做法是将分类数据集重新用于评估各种检测模型。为此,通常使用二进制分类数据集,其中来自一个类的样本被指定为内点样本,而另一个类被大幅下采样以创建地面实况离群样本。图级离群点检测(GLOD)很少被研究,但有许多潜在的影响现实世界的应用。在这项研究中,我们确定了一个有趣的问题,重新利用图分类数据集的GLOD。我们发现模型的ROC-AUC性能会发生显着变化(从高翻转到非常低,甚至比随机更差),具体取决于哪个类被下采样。有趣的是,这两个变体的ROC-AUC约为1,并且对于某个基于传播的离群值检测模型家族,它们的性能差距随着传播的增加而放大。我们仔细研究了基于传播的模型产生的图嵌入空间,并发现了两个驱动因素:(1)传播放大的类内密度之间的差异,以及(2)跨类的重叠支持(嵌入的混合)。我们还研究了其他图嵌入方法和下游离群值检测器,发现有趣的性能翻转问题仍然广泛存在,但哪个版本的下采样实现更高的性能可能会有所不同。对综合结果的深入分析进一步加深了我们对既定问题的理解。
2021-05-18 cs.LG stat.ML
Robust Estimation for Multivariate Wrapped Models
本文提出了一种对p维环面上的数据点进行多元包裹正态分布的加权似然稳健估计的方法。手头样本中离群值的出现会严重损害标准技术(如极大似然方法)的推断。因此,有必要处理这种模型的不足之处,在拟合过程中,一个强大的技术和有效的降低权重的观察不遵循假设的模型。此外,采用一个强大的方法可以帮助在数据中隐藏和意外的子结构的情况。在此,建议建立一个基于皮尔逊残差的数据依赖的权重集,并解决相应的加权似然估计方程。特别地,通过使用分类期望最大化算法来执行稳健估计,该算法的M步通过基于当前参数值的权重计算来增强。通过蒙特卡罗数值研究和实际数据的例子,研究了所提出的方法的有限样本行为。
2020-10-16 math.ST stat.ME stat.TH
On Weighted Multivariate Sign Functions
多元符号函数常用于稳健估计和推理。我们建议使用数据相关的权重与这些功能。建议的加权符号函数保留了理想的鲁棒性,同时显着提高效率的估计和推理相比,未加权的多元符号为基础的方法。使用加权符号,我们展示了鲁棒的位置估计和鲁棒的主成分分析方法。我们扩展了使用鲁棒多变量方法的范围,包括鲁棒充分的降维和功能异常检测。一些数值研究和实际数据的应用表明,所提出的方法的有效性。
2020-12-25 stat.ME
On the Adversarial Robustness of Multivariate Robust Estimation
University of Michigan(密歇根大学);University of California, Davis(加利福尼亚大学戴维斯分校)
本文研究了多元$M$ -估计量的对抗鲁棒性。在所考虑的模型中,在观察整个数据集之后,对手可以修改所有数据点,以最大化推理错误。我们使用对抗影响函数(AIF)来衡量对手可以改变推理结果的渐近速率。我们首先描述对手的最佳修改策略和相应的AIF。从防御者的角度来看,我们希望设计一个具有小AIF的估计器。对于联合位置和规模估计问题的情况下,我们刻画了最佳的$M$估计,具有最小的AIF。我们进一步确定了对抗性修改的鲁棒性和对离群值的鲁棒性之间的权衡,并推导出最佳的$M$估计,实现最佳的权衡。
2019-03-27 cs.IT cs.LG math.IT
PyOD: A Python Toolbox for Scalable Outlier Detection
Carnegie Mellon University(卡内基梅隆大学);University of Toronto(多伦多大学);Northeastern University Toronto(东北大学多伦多校区)
PyOD是一个开源的Python工具箱,用于对多变量数据执行可扩展的离群值检测。独特的是,它提供了对广泛的离群值检测算法的访问,包括已建立的离群值集合和最近的基于神经网络的方法,在一个单一的,文档齐全的API下,专为从业者和研究人员使用。考虑到健壮性和可扩展性,单元测试、持续集成、代码覆盖率、可维护性检查、交互式示例和并行化等最佳实践被强调为工具箱开发的核心组成部分。PyOD与Python 2和3兼容,可以通过Python包索引(PyPI)或https://github.com/yzhao062/pyod安装。
2019-06-10 cs.IR cs.LG stat.ML
Global Depths for Irregularly Observed Multivariate Functional Data
Two frameworks for multivariate functional depth based on multivariate depths are introduced in this paper. The first framework is multivariate functional integrated depth, and the second framework involves multivariate functional extremal depth, which is an extension of the extremal depth for univariate functional data. In each framework, global and local multivariate functional depths are proposed. The properties of population multivariate functional depths and consistency of finite sample depths to their population versions are established. In addition, finite sample depths under irregularl…
2022-11-28 stat.AP stat.ME
Nonparametric directional variogram estimation in the presence of outlier blocks
本文提出基于最小协方差行列式估计量的稳健方向变差函数估计方法,联合估计多个滞后,在离群块存在时优于现有方法,并通过卫星数据应用验证。
2025-03-28 stat.ME
Edgewise outliers of network indexed signals
Institute of Statistics and Mathematical Methods in Economics(经济统计与数学方法研究所);TU Wien(维也纳工业大学);Toulouse School of Economics(图卢兹经济学院)
针对存在变量和节点依赖的网络索引多变量数据,提出边异常值概念,推导马氏距离平方等分布以确定检测阈值,提出鲁棒的边MCD算法,模拟和真实数据实验均验证了其有效性。
2023-07-20 cs.LG stat.AP stat.ME
Outlier detection in multivariate functional data through a contaminated mixture model
在工业环境中,传感器的活动以高频率被记录。一个挑战是自动检测异常测量行为。将传感器测量值视为函数数据,问题可以表述为多变量函数数据集中的异常值检测。由于该数据集的异质性,所提出的污染混合模型既聚类到同质组的多元函数数据,并检测离群值。与竞争对手相比,该方法的主要优点是不需要指定离群值的比例。通过期望条件最大化算法进行模型推断,并使用BIC来选择聚类的数量。模拟数据的数值实验表明,高性能的推理算法实现。特别是,所提出的模型优于竞争对手。它的应用程序的真实数据,促使这项研究允许正确地检测异常行为。
2022-03-08 math.ST stat.ML stat.TH
Directional Outlyingness for Multivariate Functional Data
离群度的方向是描述多元函数数据中心性的关键。受此启发,我们将经典深度推广到函数数据的方向性outlyingness。我们研究了函数的方向性离群度的理论性质,发现总的离群度可以自然地分解为两部分:幅度离群度和形状离群度,它们分别表示曲线的幅度和形状的中心性。使用这种分解,我们提供了一个可视化工具的曲线的中心。此外,我们设计了一个基于函数方向离群度的离群点检测过程。该准则适用于单变量和多变量曲线,仿真研究表明,它优于竞争的方法。天气和心电图数据证明了我们提出的框架的实际应用。
2018-04-22 stat.ME
Cluster analysis and outlier detection with missing data
San José State University(圣何塞州立大学)
针对多元污染正态(MCN)分布混合模型仅能处理完整数据的局限,提出适配随机缺失不完整数据集的拟合框架,采用期望-条件最大化算法估参,并通过模拟对比其与Student's t分布混合模型的效果。
2020-12-10 stat.ME
A Measure of Directional Outlyingness with Applications to Image Data and Video
函数数据涵盖了广泛的数据类型。它们都有一个共同点,即观察到的对象是单变量参数(例如时间或波长)或多变量参数(例如空间位置)的函数。这些函数采用的值可以是单变量(如吸光度水平)或多变量(如图像的红/绿/蓝颜色水平)。在实践中,重要的是能够检测到这些数据中的异常值。为此,我们引入了一个新的测量outlyingness,我们计算在每个网格点的功能的域。拟议的方向外向度(DO)度量考虑了数据的偏斜度,并且每个方向仅需要O(n)计算时间。我们推导出DO的影响函数,并计算出离群值检测的截止值。由此产生的热图和函数离群图反映了函数的局部和全局离群度。为了说明该方法在实际数据上的性能,将其应用于光谱,MRI图像和视频监控数据。
2017-03-03 stat.ME
Isolation forests: looking beyond tree depth
孤立森林算法的离群值检测利用了一个简单而有效的观察:如果采取一些多元数据,并在整个特征空间递归地均匀随机切割,它将采取更少的随机切割离群值被单独留在一个给定的子空间相比,定期观察。最初的想法提出了基于隔离所需的树深度(随机切割的数量)的离群值得分,但这里的实验表明,使用有关所取特征空间大小和分配给它的点数的信息可以在许多情况下改善结果,而无需对树结构进行任何修改,特别是在存在分类特征的情况下。
2021-11-23 cs.LG stat.ML
Multivariate Location and Scatter Matrix Estimation Under Cellwise and Casewise Contamination
本文研究了当数据中含有单元式和个案式离群点时的多元定位和散布矩阵估计问题。Agostinelli等人(2015)提出了一种两步方法来处理这个问题:首先,应用单变量滤波器来去除单元离群值,其次,应用广义S估计器来降低casewise离群值的权重。我们在三个主要方向改进这一建议。首先,我们引入了一个一致的二元过滤器,在第一步中与单变量过滤器结合使用。其次,我们提出了一个新的快速子采样过程中产生的广义S-估计在第二步的起点。第三,我们考虑了一个非单调的权函数的广义S-估计,以更好地处理高维的逐例离群值。仿真研究和实际数据的例子表明,与原来的两步程序,修改后的两步方法的性能和规模以及高维。此外,修改后的程序优于原来的一个和其他国家的最先进的强大的程序下cellwise和casewise数据污染。
2016-12-25 math.ST stat.TH
COPOD: Copula-Based Outlier Detection
Northeastern Univ. & Arima Inc.(东北大学与Arima公司);Carnegie Mellon Univ.(卡内基梅隆大学);PIK Potsdam(波茨坦气候影响研究所);THD(德根多夫应用技术大学)
离群值检测是指识别偏离一般数据分布的罕见项目。现有的方法存在计算复杂度高、预测能力低和可解释性有限的问题。作为一种补救措施,我们提出了一种新的离群点检测算法COPOD,这是受Copula建模多元数据分布。COPOD首先构造一个经验Copula函数,然后用它来预测每个给定数据点的尾部概率,以确定其“极值”水平。直觉上,我们认为这是计算一个异常的p值。这使得COPOD既无参数,高度可解释,计算效率。在这项工作中,我们做出了三个关键贡献,1)提出了一种新的,无参数的离群值检测算法,具有很好的性能和可解释性,2)在30个基准数据集上进行了广泛的实验,以表明COPOD在大多数情况下都优于其他算法,也是最快的算法之一,3)发布了一个易于使用的Python实现,以实现可重复性。
2020-09-20 cs.IR cs.LG stat.ML
Total Variation Depth for Functional Data
基于数据深度的方法在稳健的多变量数据分析方面已经有了大量的工作。最近的发展已经转移到无限维对象,如功能数据。在这项工作中,我们提出了一个新的概念的深度,总的变化深度,功能数据。作为深度的度量,其性质进行了理论研究,并通过仿真研究了相关的离群点检测性能。与幅度异常值相比,形状异常值往往被其他样本掩盖,更难识别。我们表明,建议的总变化深度有许多可取的功能,非常适合离群值检测。特别是,我们建议将总变化深度分解为两个分量,分别与形状和幅度outlyingness。这种分解使我们能够开发出一种有效的离群值检测程序和有用的可视化工具,同时自然地解释函数数据中的相关性。最后,使用曲线,图像和视频帧的真实数据集证明了所提出的方法。
2016-11-15 stat.ME
Explainable Outlier Detection for Interval-valued Data
Instituto Superior Técnico, Universidade de Lisboa(里斯本大学技术学院);Faculdade de Economia, Universidade do Porto(波尔图大学经济系);LIAAD-INESC TEC
基于区间最小协方差行列式估计器,利用Shapley值对区间值观测的异常性进行解释,推导出鲁棒区间马氏距离平方的闭式表达式,实现变量贡献的高效计算,并通过Shapley交互指数捕捉变量对交互作用。
2026-06-26 stat.ME stat.ML
Robust selection of predictors and conditional outlier detection in a perturbed large-dimensional regression context
本文提出了一种快速的方法,称为ROBOUT,识别异常值的响应变量条件下的一组线性相关的预测,从一个大的粒度数据集检索。ROBOUT被证明是有效的,特别是通用的现有方法相比,在存在一些数据特质的功能。当数据集包含元素稀疏变量,并且预测变量集包含多变量离群值时,ROBOUT能够识别具有离群条件方差的观测值。在这些条件下,SPARSE-LTS和RLARS等现有综合方法在系统上是次优的。ROBOUT需要统计相关预测因子的稳健选择阶段(通过使用Huber或分位数损失),基于所选预测因子(通过LTS,GS或MM)的稳健回归模型的估计,以及基于残差离散度的稳健测量来识别条件离群值的标准。我们进行了全面的模拟研究,在该算法的不同变体进行了测试下,一个详尽的一组不同的扰动情况。该方法也适用于粒度监管银行数据集收集的欧洲中央银行。
2021-04-25 stat.CO stat.ME
On making optimal transport robust to all outliers
Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);McGill University(麦吉尔大学)
最优运输(OT)是已知的,因为它的边际约束,对离群值是敏感的。离群值鲁棒OT变体已经基于离群值是移动昂贵的样本的定义而被提出。在本文中,我们表明,这个定义是限制考虑的情况下,离群值比干净的样本更接近目标测量。我们表明,离群鲁棒OT完全传输这些离群值,导致在实践中的性能不佳。为了解决这些离群值,我们建议依靠经过对抗训练的分类器来对源样本和目标样本进行分类。如果来自分类器的预测与其分配的标签不同,则将样本视为离群值。为了减少这些离群值在运输问题中的影响,我们建议将它们从问题中删除,或者通过使用分类器预测来增加移动它们的成本。我们表明,我们成功地检测到这些离群值,他们不影响几个实验,如梯度流,生成模型和标签传播的运输问题。
2022-06-23 cs.LG math.PR stat.ML
Outlier detection in non-elliptical data by kernel MRCD
KU Leuven(鲁汶大学)
本文提出核最小正则化协方差行列式(KMRCD)估计器,通过在核特征空间中计算MRCD并利用核技巧加速,实现对非椭圆高维数据的快速稳健离群点检测。
2021-03-29 cs.LG stat.CO stat.ML
Minimum Covariance Determinant and Extensions
最小协方差行列式(MCD)方法是一种高度稳健的多元位置和分散度估计方法,具有快速算法。由于估计协方差阵是许多多元统计方法的基石,因此MCD是开发稳健多元技术时的重要构建块。它也是一种方便有效的离群值检测工具。MCD估计的审查,以及它的主要性质,如仿射等方差,击穿值,和影响函数。我们讨论了它的计算,并列出应用和方法的多元统计的MCD的应用和扩展。两个最近的扩展MCD的描述。第一个是一个快速的确定性算法,继承了MCD的鲁棒性,同时几乎仿射等变。第二个是针对高维数据,可能比情况下更多的维度,并结合正则化,以防止奇异矩阵。
2017-09-20 stat.ME
An Approximate Bayesian Long Short-Term Memory Algorithm for Outlier Detection
University of South Carolina(南卡罗来纳大学)
采用梯度下降和反向传播训练的长短期记忆网络在各种应用中获得了巨大的成功。然而,网络权重的点估计容易出现过拟合问题,并且缺乏与估计相关的重要不确定性信息。然而,精确贝叶斯神经网络方法是棘手的,不适用于现实世界的应用。在这项研究中,我们提出了一个近似估计的权重的不确定性,使用Entrance卡尔曼滤波器,这是很容易扩展到大量的权重。此外,我们优化的协方差的噪声分布在合奏更新步骤中使用最大似然估计。为了评估所提出的算法,我们将其应用于从Twitter平台检索的五个真实事件中的离群值检测。
2019-06-04 cs.LG stat.ML
Homophily Outlier Detection in Non-IID Categorical Data
Australian Institute for Machine Learning, University of Adelaide(阿德莱德大学澳大利亚机器学习研究所);Center of Artificial Intelligence, University of Technology Sydney(悉尼科技大学人工智能中心);Data Science Lab, University of Technology Sydney(悉尼科技大学数据科学实验室)
大多数现有的离群值检测方法假设离群值因子(即,离群值评分测量)(例如,特征值和数据对象)是独立且相同分布的(IID)。这个假设在现实世界的应用中并不成立,在现实世界的应用中,不同实体的离群值相互依赖和/或来自不同的概率分布(非IID)。这可能导致无法检测到重要的离群值,这些离群值太细微,无法在不考虑非IID性质的情况下识别。在更具挑战性的情况下,这一问题甚至更加突出,例如,具有许多噪声特征的高维数据。本文提出了一种新的离群点检测框架,并通过捕获非IID离群点因子来识别分类数据中的离群点。我们的方法首先定义并将分布敏感的离群因素及其相互依赖性纳入基于值-值图的表示中。然后,它在值图中建模离群传播过程以学习特征值的离群性。学习值离群允许直接离群值检测或离群特征选择。图表示和挖掘的方法,在这里很好地捕捉丰富的非IID特征。我们在15个具有不同数据复杂度的真实数据集上的实证结果表明:(i)在95%/99%的置信水平下,本文提出的离群点检测方法显著优于五种最先进的方法,在10个最复杂的数据集上实现了10%-28%的AUC改善;以及(ii)所提出的特征选择方法在实现两个不同现有检测器的后续离群值检测方面显著优于三种竞争方法。
2021-03-21 cs.AI cs.LG stat.ML
Improving the Peña-Prieto "KSD" procedure
Peña和Prieto(2007)提出了“峰度加特定方向”(KSD)方法,用于稳健的多变量位置和散布估计以及离群值检测。Maronna和Yohai(2017)将其用作多变量S-和MM-估计量的初始估计量,他们的模拟表明KSD通常优于基于子采样的初始估计量。然而,进一步的模拟表明,当污染率为“高”(>=0.2),样本与变量的比率为“低”(<10)时,KSD可能变得不稳定,并在极端情况下给出错误的结果。提出了两个简单的修改程序,大大提高了该方法的性能作为一个初始估计,只有一个小的增加计算时间。
2017-08-10 stat.ME
On the Conditional Distribution of the Multivariate $t$ Distribution
$t$分布作为正态分布的替代分布,被广泛应用于具有异常值或重尾数据的稳健分析。多元$t$分布的性质在Kotz和Nadarajah的书中有很好的记载,然而,这本书陈述了关于多元$t$分布的条件分布的错误结论。以前的文献已经认识到,多元$t$分布的条件分布也遵循多元$t$分布。我们提供了一个直观的证明,而不直接操纵复杂的密度函数的多元$t$分布。
2016-04-02 math.ST stat.TH
Applications of robust estimators of covariance in examination of inter-laboratory study data
本文阐述了使用选定的稳健估计的协方差或相关性在识别异常的实验室间数据的实验室结果。结果表明,鲁棒估计可以大大减少离群值对多元置信区域的影响,从而导致更尖锐的异常识别,即使在传统的离群值检测可能无法定位异常的结果。
2018-11-08 stat.AP
Cellwise and Casewise Robust Multivariate Regression with Inference
KU Leuven(荷语鲁汶大学)
本文提出cellMR估计器,同时处理案例和单元异常值、缺失数据和高维性,引入cellBoot推断方法,提供稳健的置信区间。
2026-10-20 math.ST stat.ME stat.TH
Finite Sample Breakdown of PCS
投影同余子集法是一种新的发现多元离群点的方法。PCS返回一个outlyingness指数,可用于构建多变量位置和散布的仿射同变估计。在本文中,我们得到了这些估计的有限样本崩溃点。
2014-07-29 math.ST stat.TH
Robust Reduced Rank Regression
在高维多元回归问题中,对系数矩阵进行低秩处理可以有效地降低维数,极大地方便了参数估计和模型解释。然而,常用的降秩方法是敏感的数据损坏,因为响应变量和预测变量之间的低秩相关结构很容易被离群值扭曲。我们提出了一个强大的降秩回归方法的联合建模和离群点检测。该问题被表述为具有稀疏均值漂移参数化的正则化多元回归,它概括和统一了一些流行的鲁棒多元方法。一个有效的阈值为基础的迭代过程中开发的优化。我们证明了该算法是保证收敛的,并且在正则条件下产生的坐标方向极小点是统计准确的。我们的理论研究集中在非渐近鲁棒分析,这表明联合降秩和离群值检测导致提高预测精度。特别是,我们发现,redescending $ψ$ -功能,基本上可以达到最小最大最优的差错率,并在一些挑战性较小的问题,凸正则化保证同样低的差错率。所提出的方法的性能进行了检查,通过模拟研究和实际数据的例子。
2017-07-15 math.ST stat.AP stat.ME
Robust regression estimation and inference in the presence of cellwise and casewise contamination
在现代大维数数据集中,单元离群值很可能与个案离群值同时出现。最近的工作表明,传统的鲁棒回归方法可能会失败的数据集在这种模式。所提出的方法,称为三步回归,进行如下:第一,它使用一个一致的单变量过滤器来检测和消除极端cellwise离群值;第二,它适用于一个强大的估计多变量的位置和分散过滤后的数据向下加权casewise离群值;第三,它计算强大的回归系数从第二步中获得的估计。在对连续协变量的尾分布作一些假设的情况下,证明了三步估计在中心模型下是相合的和渐近正态的。估计扩展到处理数值和虚拟协变量使用迭代算法。大量的模拟结果表明,三步估计是弹性的细胞离群值。与传统的高崩溃点估计相比,它也表现良好的情况下污染。
2016-12-26 math.ST stat.TH
Outliers in dynamic factor models
动态因子模型在计量经济学和应用经济学中有着广泛的应用。其基本动机在于它们有能力将大量的时间序列缩减为几个指标(因素)。如果时间序列的数量与观测的可用数量相比较大,则大多数信息可以被传送到因子。这样,低维模型可以被估计用于解释和预测一个或多个感兴趣的时间序列。期望无异常值的时间序列可用于估计。在实践中,由于外部异常事件或严重的数据输入错误等原因,可能会在未知日期出现异常观察结果。时间序列中异常值检测的几种方法是可用的。然而,大多数方法适用于单变量时间序列,而即使是设计用于处理多变量框架的方法也没有明确地包括动态因子模型。提出了一种基于观测数据线性变换的动态因子模型中异常点的发现方法。讨论了一些分离加入模型的离群值和公共分量内离群值的策略。模拟和真实数据集的应用程序来检查所提出的方法的有效性。
2007-10-19 math.ST stat.TH
Optimization techniques for multivariate least trimmed absolute deviation estimation
给定一个数据集,离群值可以定义为不太可能遵循大多数数据的统计特性的观察结果。的位置估计的计算是数据分析中的基础,并且在统计学中众所周知,经典方法,例如取样本平均值,会受到数据中存在的离群值的极大影响。使用中位数而不是平均值可以部分解决这个问题,但不能完全解决。在单变量情形下,稳健的中位数是\cite{Tableman1994}中引入的最小截尾绝对偏差(Least Trimmed Absolute Deviation,LSDs)稳健估计,它具有稳健性、一致性、高崩溃性和正态性等渐近性质。根据范数的选择,多变量数据的线性回归有不同的推广。在~ \cite{ChaPitZiou:2015},我们提出了这样一个推广使用欧几里德规范,并提出了一个解决方案的技术,由此产生的组合最优化问题的基础上,一个必要条件,结果在一个高度收敛的局部搜索算法。在随后的工作中,我们使用的$L^1$规范推广的LIFE到更高的维度,并表明,由此产生的混合整数规划问题有一个积分松弛后,应用适当的数据变换。此外,我们利用问题的结构表明,由此产生的LP的可以有效地解决使用次梯度优化方法。大量的计算结果验证了所提出的估计器的强大的统计特性。
2015-11-13 math.ST stat.CO stat.TH
Homogeneity and change-point detection tests for multivariate data using rank statistics
检测和定位高度多变量数据中的变化是当前几种统计应用中的主要问题。在这种情况下,本文的第一个贡献是一个新的非参数双样本齐性检验的基础上,著名的Wilcoxon秩统计量的多变量数据。本文提出的两样本齐性检验统计量可以推广到处理有序数据或截尾数据,以及检验两个以上样本的同质性。本文的第二个贡献涉及使用拟议的检验统计量进行回顾性变点分析。它首先表明,该方法是计算上可行的,即使当寻找大量的变点由于使用动态规划。然后,在要检测单个潜在变点的情况下,提供用于测试的可计算渐近$p$值。与现有的替代品相比,所提出的方法似乎是非常可靠和强大的。在数据被离群值污染或被噪声破坏以及潜在变化仅影响数据坐标子集的情况下尤其如此。
2012-02-09 math.ST stat.TH
The Influence Function of Graphical Lasso Estimators
精度矩阵是多元分析中一个重要的研究对象,它描述了一组变量之间的条件线性依赖关系。稀疏估计程序的精度矩阵,如图形套索(Glasso)获得普及,因为它们有助于解释,从而分离的变量对是有条件的依赖从那些是独立的(给定所有其他变量)。然而,Glasso缺乏对离群值的鲁棒性。为了克服这个问题,通常应用鲁棒插件程序,其中Glasso是从鲁棒协方差估计而不是样本协方差计算的,从而提供针对离群值的保护。本文从理论上研究了这类估计,推导并比较了它们的影响函数、灵敏度曲线和渐近方差。
2023-03-08 math.ST stat.ME stat.TH
Bayesian Model for Multiple Change-points Detection in Multivariate Time Series
本文研究了多变量时间序列中的变点检测问题。所提出的方法与现有的同行不同,只做弱假设的变点结构跨系列,和统计信号分布。具体而言,不假设变化点发生在跨系列的同时时刻,并且不假设单个信号的特定分布。它依赖于对单个时间段进行的局部鲁棒统计测试与能够从多个局部统计(从唯一时间序列或多个时间序列的段)优化配置的全局贝叶斯框架的组合。使用广泛的实验设置,我们的算法表现良好的高斯数据,与经典的方法,如融合套索和伯努利高斯模型的召回率和精度相同的结果。此外,它优于参考模型的情况下,非正态数据与离群值。确认通过验收水平对错误发现率的控制。在多变量数据的情况下,学习同时变化点被某些特定时间序列共享的概率。最后,我们用来自能源监测和基因组学的真实数据集来说明我们的算法。分割相比,国家的最先进的方法的基础上融合套索和组融合套索。
2014-07-11 math.ST stat.ME stat.TH