Minimum Covariance Determinant Estimator and Outlier Detection for Interval-valued Data
Instituto Superior Técnico, Universidade de Lisboa（里斯本理工大学）；Faculdade de Economia e Gestão, Universidade do Porto（波尔图大学经济管理学院）；LIAAD-INESC TEC（INESC TEC LIAAD实验室）
本文提出一种针对区间值数据的鲁棒估计方法，通过扩展最小协方差行列式估计器，改进了协方差矩阵估计和异常检测性能。
2026-08-12 stat.CO stat.ME
Nonparametric directional variogram estimation in the presence of outlier blocks
本文提出基于最小协方差行列式估计量的稳健方向变差函数估计方法，联合估计多个滞后，在离群块存在时优于现有方法，并通过卫星数据应用验证。
2025-03-28 stat.ME
Outlier detection in non-elliptical data by kernel MRCD
KU Leuven（鲁汶大学）
本文提出核最小正则化协方差行列式（KMRCD）估计器，通过在核特征空间中计算MRCD并利用核技巧加速，实现对非椭圆高维数据的快速稳健离群点检测。
2021-03-29 cs.LG stat.CO stat.ML
Outlier detection and trimmed estimation for general functional data
本文介绍了一般函数型数据均值和协方差函数的截尾估计。估计是基于一个新的措施outlyingness或数据深度，是很好地定义在任何度量空间，虽然本文重点是欧几里德空间。我们计算故障点的估计，并表明，最佳的故障点是可以达到适当的选择调谐参数。通过模拟研究了估计量的小样本行为，证明了它们比其他估计量具有更好的抗离群值特性。这是证实了两个真实数据的应用程序，也表明，outlyingness措施可以被用作一个图形离群检测工具的功能空间中的视觉筛选的数据是困难的。
2012-11-30 stat.ME
Robust machine learning by median-of-means : theory and practice
我们引入了新的鲁棒机器学习估计的基础上中值均值（中值）估计实值随机变量的平均值。这些估计在对数据集的最小假设下实现了最优收敛速度。数据集也可能被不允许假设的离群值破坏。我们还分析了这些新的估计与标准工具，从强大的统计。特别是，我们重新审视了崩溃点的概念。我们通过研究数据集可以包含的离群值的数量来修改原始定义，而不会恶化给定估计量的估计特性。考虑到估计量的统计性能，这种新的分解数概念本质上是非渐近的，适用于机器学习目的。我们证明了我们的估计的分解数是（观测数）*（收敛速率）的数量级。例如，对于一个具有噪声方差σ ^2的d维向量的估计问题，我们的估计量的分解数是σ ^2d，当这个向量只有s个非零分量时，它就变成σ ^2 s log（d/s）。超过这个崩溃点，我们证明了我们的估计量所达到的收敛速率是（离群值的数量）除以（观测值的数量）。除了这些理论上的保证，这些新的估计带来的主要改进是，他们很容易计算在实践中。事实上，基本上任何用于近似标准经验风险最小化（或其正则化版本）的算法都有一个近似我们估计量的鲁棒版本。作为概念的证明，我们研究了经典的LASSO估计的许多算法。MOM算法的副产品是可用于检测异常值的数据深度度量。
2017-11-30 math.ST stat.TH
Robust Estimation of Change-Point Location
我们引入了一个强大的估计的位置参数的变化点的均值的Wilcoxon统计量的基础上，并建立其一致性$L_1$近历元依赖过程。结果表明，一致率取决于变化的幅度。进行模拟研究，以评估有限样本性质的Wilcoxon型估计在标准情况下，以及重尾分布和干扰下的离群值，并比较它与一个Cumium型估计。结果表明，在标准情况下，Wilcoxon型估计量与Cumsum型估计量等价，但在数据中存在重尾或离群值时，Wilcoxon型估计量优于Cumsum型估计量。
2017-01-09 math.ST stat.TH
Multivariate outlier detection based on a robust Mahalanobis distance with shrinkage estimators
基于收缩的概念，提出了一组用于多变量离群点检测的鲁棒马氏距离。稳健的强度和缩放因子被最佳地估计以定义收缩。研究了仿射等方差和击穿值等性质。通过与文献中的其他技术的比较，在模拟研究和真实数据集的性能的建议说明。当基础分布是重尾或偏态时的行为表明，当我们偏离常见的正态性假设时，该方法是适当的。在绝大多数情况下，所得到的高正确检测率和低错误检测率，以及显着更小的计算时间显示了我们的建议的优点。
2019-04-04 stat.ME
Applications of robust estimators of covariance in examination of inter-laboratory study data
本文阐述了使用选定的稳健估计的协方差或相关性在识别异常的实验室间数据的实验室结果。结果表明，鲁棒估计可以大大减少离群值对多元置信区域的影响，从而导致更尖锐的异常识别，即使在传统的离群值检测可能无法定位异常的结果。
2018-11-08 stat.AP
SCOPE: Spectral Concentration by Distributionally Robust Joint Covariance-Precision Estimation
Chinese University of Hong Kong（香港中文大学）
针对随机向量的协方差矩阵与精度矩阵联合估计问题，提出基于凸谱散度模糊集的分布鲁棒模型，将其简化为凸优化问题得到准解析非线性收缩估计器，通过调参纠正谱偏差并改善条件数，实验显示其性能优于现有方法。
2025-11-18 cs.LG math.OC stat.ML
Real-time outlier detection for large datasets by RT-DetMCD
现代工业机器可以在几秒钟内生成千兆字节的数据，经常突破可用计算能力的界限。再加上工业处理的时间关键性，这对任何数据分析程序都是一个具有挑战性的问题。我们专注于确定性最小协方差行列式方法（DetMCD），它通过拟合一个强大的协方差阵检测离群值。我们构建了一个更快的版本DetMCD通过两种新的方法取代其初始估计，并将基于更新的浓度步骤。通过并行计算进一步减少了计算时间，并使用一种新的鲁棒聚合方法来组合来自线程的结果。所提出的实时DetMCD方法（RT-DetMCD）的速度和准确性说明了模拟和实际工业应用食品分拣。
2020-01-24 stat.ME
A Stability Framework for Parameter Selection in the Minimum Covariance Determinant Problem
本文提出基于稳定性的 MCD 模型选择框架，利用统计深度和集中步骤构建 bootstrap 程序评估最佳子集算法的不稳定性，以辅助子集大小选择，并在真实数据集上验证了其有效性。
2025-07-01 stat.CO stat.ME
The Minimum Regularized Covariance Determinant estimator
最小协方差行列式（MCD）方法使用具有最低样本协方差行列式的给定大小的子集稳健地估计位置和散布矩阵。它的主要缺点是当维度超过子集大小时无法应用。我们提出了最小正则协方差行列式（MRCD）的方法，它不同于MCD的散射矩阵是一个凸组合的目标矩阵和样本协方差阵的子集。数据驱动的过程设置目标矩阵的权重，以便仅在需要时使用正则化。的MRCD估计定义在任何维度，是良好的条件建设，并保持良好的稳健性的MCD。我们证明了所谓的浓度步骤可以执行，以减少MRCD目标函数，我们利用这一事实，构建一个快速算法。我们验证的准确性和鲁棒性的MRCD估计在模拟研究中，并说明其实际用途异常值检测和回归分析在现实生活中的高维数据集化学和犯罪学。
2018-12-01 stat.ME
Partial estimators and application to covariance estimation of gaussian and elliptical distributions
对离群值的鲁棒性通常是统计估计量的理想属性。事实上，许多著名的估计提供了非常好的最优性能在理论上，但在应用环境中是不可用的，因为它们的敏感性离群值。作者特别感兴趣的是协方差估计器的情况下，在自适应匹配滤波方案的信号处理应用，如雷达和声纳检测，估计噪声协方差的离群值的污染可能会导致很大的影响性能，特别是当这些离群值是类似的匹配滤波器的目标信号。本文提出了一种通用的方法，从已知的估计量，其目的是避免这些问题，所产生的算法显示了一些选定的情况下。
2016-11-30 math.ST stat.TH
Spiked separable covariance matrices and principal components
我们引入了一类可分离的样本协方差阵的形式$\widetilde{\mathcal{Q}}_1:=\widetilde A^{1/2} X \widetilde B X^* \widetilde A^{1/2}.$这里$\widetilde{A}$和$\widetilde{B}$是正定矩阵，其频谱包括大量的频谱加上几个尖峰，即较大的本征值，从散装分开。从概念上讲，我们将$\widetilde{\mathcal{Q}}_1$称为\emph{spiked separable covariance matrix model}。一方面，该模型包括加标协方差矩阵作为$\widetilde{B}=I$的特殊情况。另一方面，它允许数据集的更一般的相关性。特别地，对于时空数据集，$\widetilde{A}$和$\widetilde{B}$分别表示空间和时间相关性。本文研究了加标可分离协方差模型$\widetilde{\mathcal{Q}}_1$的异常特征值和特征向量，即主成分。我们证明了离群特征值$\widetilde λ_i$和广义分量（即$\langle \mathbf v, \widetilde{\mathbfξ}_i \rangle$任何确定性向量$\mathbf v$）的离群特征向量$\widetilde{\mathbfξ}_i$的最佳收敛速度。此外，我们还证明了非离群特征向量的离域性…
2020-06-28 math.PR math.ST stat.TH
Inference robust to outliers with l1-norm penalization
本文考虑了具有异常值的线性回归模型中的推断问题，其中异常值的数量可以随着样本量的增加而增加，但它们的比例趋于0。我们应用平方根套索估计惩罚l1范数的随机向量，这是非零的离群值。我们得到的收敛速度和渐近正态性。我们的估计量具有与标准线性模型中的OLS估计量相同的渐近方差。这使得能够以通常和简单的方式构建测试和置信度集。所提出的程序也是计算上的优势，因为它相当于解决一个凸优化计划。总的来说，建议的方法构成了一个实用的强大的替代普通最小二乘估计。
2019-06-04 math.ST stat.TH
ERM and RERM are optimal estimators for regression problems when malicious outliers corrupt the labels
本文研究了具有凸损失函数和$L$ -Lipschitz损失函数的回归问题的经验风险最小化算法（ERM）和正则化经验风险最小化算法（RERM）。我们考虑$|\cO|$恶意离群值污染标签的设置。在这种情况下，在一个本地伯恩斯坦条件下，我们表明，$L_2$ -错误率是有界的$ r_N + AL |\cO|/N$，其中$N$是观察的总数，$r_N$是$L_2$ -错误率在非污染设置和$A$是一个参数来自本地伯恩斯坦条件。当$r_N$在非污染设置中为最小最大速率最优时，当$|\cO|$离群值污染标签时，速率$r_N + AL|\cO|/N$也为最小最大速率最优。本文的主要结果可以用于许多非正则化和正则化的程序在弱假设的噪声。我们目前的结果Huber的M-估计（没有惩罚或正则化的$\ell_1$规范）和一般正则化学习问题的可再生核希尔伯特空间时，噪声可以重尾。
2020-09-25 math.ST stat.ML stat.TH
Performance Bounds for Sparse Parametric Covariance Estimation in Gaussian Models
我们考虑估计的稀疏参数向量，确定高斯随机向量的协方差矩阵通过稀疏扩展到已知的“基矩阵”。利用再生核Hilbert空间的理论，我们得到了一个给定的均值函数的估计方差的下界。这包括作为特殊情况的无偏估计。我们还提出了一个数值比较我们的下限与两个标准估计（硬阈值估计和最大似然估计）的方差。
2011-01-20 cs.IT math.IT math.ST
Robustness and Tractability for Non-convex M-estimators
在线性回归背景下，研究了观测值被任意野值污染时M-估计的两个重要性质，即稳健性和易处理性。具体地说，鲁棒性意味着估计量应始终接近基本真实参数{ \em，而不管异常值的分布如何}的统计特性，易处理性表示即使M估计量的目标函数是{ \em非凸}，也可以有效地计算估计量的计算特性。在这篇文章中，通过学习经验风险的景观，我们表明，在温和的条件下，许多M-估计同时享有良好的鲁棒性和易处理性，当离群值的百分比很小。我们进一步扩展我们的分析，高维设置，其中参数的数量大于样本个数，$p \gg n$，并证明了当离群值的比例是小的，惩罚M-估计{ \em $L_1$ }惩罚将享受鲁棒性和易处理性的同时。我们的研究提供了一个分析方法，看看离群值和调整参数的影响，一些家庭的M-估计的鲁棒性和易处理性。模拟和案例研究来说明我们的理论结果的有用性的M-估计下Welsch的指数平方损失。
2019-06-05 math.ST stat.TH
Admissible Estimator of the Eigenvalues of Variance-Covariance Matrix for Multivariate Normal Distributions--Detailed Proof--
在尺度不变平方误差损失下，给出了多元正态分布的方差-协方差阵特征值的一个可容许估计。
2011-01-13 math.ST stat.TH
Outliers in INAR(1) models
本文对带有可加性或新息野值的一阶整数值自回归模型进行了较详细的研究。此外，还讨论了参数估计。在离群点的时间点已知但其大小未知的条件下，证明了后代均值和新息均值的条件最小二乘（CLS）估计是强相合的.然而，与此相反，异常值大小的CLS估计并不强一致，尽管它们以概率1收敛到随机极限。该随机限度取决于离群值时间点的工艺值和之前时间点的值，如果是加性离群值，还取决于随后时间点的值。我们还证明了后代和新息均值的联合CLS估计是渐近正态的。与上述过程的值相一致，离群值大小的联合CLS估计量也是渐近正态的。
2010-02-28 math.PR math.ST stat.TH
A Theory of Nonparametric Covariance Function Estimation for Discretely Observed Data
Graduate School of Engineering Science, The University of Osaka（大阪大学大学院工程学研究科）；Center for Advanced Integrated Intelligence Research, RIKEN（理化学研究所先进智能集成研究中心）
本文研究了在离散位置观测功能数据时的非参数协方差函数估计问题，提出了一种统一的自适应估计器理论，揭示了深度学习估计器在高维设置中的适应性与方差权衡。
2026-03-24 math.ST stat.ML stat.TH
On the orthogonally equivariant estimators of a covariance matrix
针对高维场景下的总体协方差矩阵估计问题，本文利用Marčenko-Pastur方程推导的显式等式构建新型正交等变估计量，证明其特征值估计的一致性及归一化Stein损失下的最优性。
2024-11-02 math.ST stat.TH
Existence and uniqueness of the maximum likelihood estimator for models with a Kronecker product covariance structure
本文讨论了多元高斯模型，其中协方差阵是两个矩阵的Kronecker积。我们考虑模型参数的极大似然估计，特别是协方差阵。Kronecker乘积协方差阵的极大似然估计量没有明确的表达式。本文的主要问题是协方差阵的极大似然估计是否存在以及它是否唯一。对于我们考虑的不同模型，答案是不同的。
2014-10-08 math.ST stat.TH
On the theoretic and practical merits of the banding estimator for large covariance matrices
本文考虑Bickel和Levina（2008）提出的用于估计大协方差阵的带估计量。我们证明了对于一类近似带状协方差阵，带状估计在算子范数下达到率最优，改进了Bickel和Levina（2008）的已有结果.此外，我们提出了一个斯坦的无偏风险估计（当然）类型的方法来选择带宽的带状估计。仿真结果表明，Sure-tuned带估计优于竞争估计。
2014-02-04 math.ST stat.ME stat.TH
Robust covariance estimation with missing values and cell-wise contamination
针对含缺失值和逐单元污染的数据集协方差估计难题，提出无需插补的无偏协方差估计量，结合异常值检测处理高维低秩场景污染，理论与实验均验证其优于现有方法。
2023-11-10 math.ST stat.TH
High-dimensional inference robust to outliers with l1-norm penalization
本文研究了具有异常值的高维线性回归模型的推断问题。稀疏约束施加在协变量的系数向量上。离群值的数量可以随着样本量的增加而增加，而它们的比例则为0。我们提出了一个两步的过程中推断的系数的一个固定的子集的回归。第一步是基于几个平方根套索l1-范数惩罚估计，而第二步是普通的最小二乘估计应用于一个良好的选择回归。我们建立了两步估计量的渐近正态性。该方法是有效的，在这个意义上说，它达到半参数的有效界时，应用到模型没有离群值下的同方差。这种方法在计算上也是有利的，它相当于求解有限数量的凸优化程序。
2021-02-05 math.ST stat.TH
Generalized Bayes Estimators with Closed forms for the Normal Mean and Covariance Matrices
在多元正态分布均值矩阵的估计中，给出了具有封闭形式的广义Bayes估计，并给出了关于矩阵损失函数和标量平方损失函数的极大极小的充分条件.给出了协方差阵的广义Bayes估计的封闭形式，并讨论了Stein损失函数的优势性质。
2021-08-13 math.ST stat.TH
Asymptotic analysis of ML-covariance parameter estimators based on covariance approximations
针对高斯随机场的协方差参数估计，提出截断似然函数近似方法，证明在紧支撑情形下估计量的一致性和渐近正态性，并推广至锥化情形，实现渐近最小化KL散度。
2023-11-15 math.ST stat.TH
Tuned Regularized Estimators for Linear Regression via Covariance Fitting
本研究针对线性模型正则化估计器的最优权重选择问题，提出用协方差拟合SPICE方法获取数据自适应权重，统一了岭回归、LASSO等多种重要估计器，并通过数值实验验证了其实际有效性。
2022-01-21 math.ST stat.ML stat.TH
On the principal components of sample covariance matrices
我们引入了一类$M \times M$样本协方差阵$\mathcal Q$，它包含和推广了几个以前的模型。假设相关的总体协方差矩阵$Σ= \mathbb E \cal Q$与单位元之间存在有界秩矩阵差异。除了$Σ- I_M$的秩之外的所有量可以以任意方式取决于$M$。我们研究主成分，即$\mathcal Q$的顶部特征值和特征向量。我们得到精确的大偏差估计广义组件$\langle \mathbf w, \boldsymbol ξ_i \rangle$的离群值和非离群值特征向量$\boldsymbol ξ_i$。我们的研究结果也持有所谓的BBP过渡附近，其中离群值被创建或消灭，并为退化或近退化离群值。我们相信得到的收敛速度是最优的。此外，我们还得到了非离群特征向量广义分量的渐近分布。从我们的研究结果中产生的一个新的观察是，与特征值不同，主成分的特征向量包含有关$Σ$的\emph{subcritical}尖峰的信息。证明使用了满足$\mathbb E \mathcal Q = I_M$的不相关矩阵$\mathcal Q$的特征值和特征向量的几个结果作为输入：[9]中建立的各向同性局域Marchenko-Pastur定律，能级排斥和特征向量的量子唯一遍历性。后者是联合特征值-特征向量分布的一个新的普适性结果的特殊情况。
2015-01-16 math-ph math.MP math.PR
Robust test statistics for the two-way MANOVA based on the minimum covariance determinant estimator
基于最小协方差行列式（MCD）估计量的双向MANOVA稳健检验统计量被提出作为经典Wilks' Lambda检验统计量的替代，后者是基于广义方差的经典正态理论估计量，对异常值非常敏感。经典的Wilks' Lambda统计量的鲁棒性，取代经典的估计高度鲁棒和有效的加权MCD估计。此外，Monte Carlo模拟被用来评估各种设计下的新的检验统计量的性能，通过调查他们的有限样本精度，功率和鲁棒性对离群值。最后，将这些稳健检验统计量应用于一个实际数据实例。
2018-06-11 math.ST stat.TH
Robust regression estimation and inference in the presence of cellwise and casewise contamination
在现代大维数数据集中，单元离群值很可能与个案离群值同时出现。最近的工作表明，传统的鲁棒回归方法可能会失败的数据集在这种模式。所提出的方法，称为三步回归，进行如下：第一，它使用一个一致的单变量过滤器来检测和消除极端cellwise离群值;第二，它适用于一个强大的估计多变量的位置和分散过滤后的数据向下加权casewise离群值;第三，它计算强大的回归系数从第二步中获得的估计。在对连续协变量的尾分布作一些假设的情况下，证明了三步估计在中心模型下是相合的和渐近正态的。估计扩展到处理数值和虚拟协变量使用迭代算法。大量的模拟结果表明，三步估计是弹性的细胞离群值。与传统的高崩溃点估计相比，它也表现良好的情况下污染。
2016-12-26 math.ST stat.TH
On the asymptotic normality of kernel estimators of the long run covariance of functional time series
考虑平稳泛函时间序列长期协方差核估计的$L^2$中的渐近正态性。我们的结果是建立在弱相关的伯努利位移结构的基础上的观察，其中包含大多数平稳功能时间序列模型，在温和的条件下。作为推论，我们得到了联合渐近的功能主成分计算的经验长期协方差算子，表明他们有良好的性能是渐近独立的。
2015-03-09 math.ST stat.TH
Central limit theorems for pre-averaging covariance estimators under endogenous sampling times
本文考虑两个带噪声的连续Itô半鞅在停时非同步采样.本文在一般的内生时间背景下，建立了它们的积分协方差的预平均Hayashi-Yoshida估计的中心极限定理。特别是，我们表明，时间endoadministration的前平均Hayashi-Yoshida估计，对比的情况下，在纯扩散设置已实现的波动率的渐近分布没有影响。我们还建立了调制实现协方差的中心极限定理，这是另一种基于预平均的集成协方差估计器，并证明了上述性质似乎是预平均技术的一个特殊功能。
2013-07-03 math.ST stat.TH
Asymptotic normality of wavelet covariances and of multivariate wavelet Whittle estimators
具有长程相关特性的多变量过程在许多应用领域中都会遇到。这种框架的两个基本特征是长期相关参数和各组成部分时间序列之间的相关性。我们考虑多变量长程相关线性过程，不一定是高斯过程。我们表明，在这种设置的小波系数之间的协方差是渐近高斯。我们还研究了基于小波的Whittle过程的长期相关参数和长期协方差估计的渐近分布。我们证明了估计量的渐近正态性，并给出了渐近协方差的显式表达式。这一结果的实证说明提出了一个真实的数据集上的大鼠大脑的连接。
2022-04-06 math.ST stat.TH
Performance Analysis of Tyler's Covariance Estimator
本文分析了椭圆总体中散布矩阵的泰勒M-估计的性能。我们专注于非渐近设置，并推导出估计误差界取决于样本个数n和维数p。我们表明，在相当温和的条件下，逆估计误差的平方Frobenius范数以很高的概率像p^2/n那样衰减。
2014-09-11 math.ST stat.TH
Analysis of a multi-target linear shrinkage covariance estimator
Université Dauphine-PSL（巴黎多芬大学-PSL）；Société Générale Corporate and Investment Banking（法国兴业银行企业与投资银行）
本文提出多目标线性收缩协方差估计方法，将多个常数目标矩阵与样本协方差矩阵结合，推导出 oracle 和 bona fide 估计器，证明其在 Kolmogorov 渐近下收敛，并通过实验验证其优于标准估计器。
2025-03-12 cs.LG math.PR math.ST
Convex Banding of the Covariance Matrix
我们引入了一个新的稀疏估计的协方差阵的高维模型中的变量有一个已知的顺序。我们的估计，这是一个凸优化问题的解决方案，等价地表示为一个估计，该估计由Toeplitz，稀疏带状，数据自适应矩阵的样本协方差阵。由于这种自适应性，凸带状估计享有理论上的最优性能没有达到以前的带状或锥形估计。特别是，我们的凸带估计是极小极大率自适应Frobenius和运营商的规范，对数因子，在共同研究类的协方差阵，并在更一般的类。此外，它正确地恢复带宽时，真正的协方差是完全带状。我们的凸公式承认一个简单而有效的算法。实证研究证明了它的实际有效性，并说明我们的确切带状估计工作良好，即使当真正的协方差阵只是接近带状矩阵，证实了我们的理论结果。我们的方法与所有现有的方法相比，在精度和速度方面。我们说明了凸带估计的实际优点，它可以用来提高性能的判别分析分类录音。
2014-05-23 math.ST stat.CO stat.ME
Asymptotic expansion of the minimum covariance determinant estimators
在Cator和Lopuhaa的arXiv：0907.0079中，在非常一般的框架中建立了MCD估计量的渐近展开。这种展开要求一阶泰勒展开中导数的存在性和非奇异性。在本文中，我们证明了这种衍生物的存在性的多元分布的密度，并提供了一个明确的表达。此外，在适当的对称性条件下的密度，我们表明，该衍生物是非奇异的。这些对称条件包括椭圆轮廓的多元位置散射模型，在这种情况下，我们表明，最小协方差行列式（MCD）估计的多元位置和协方差渐近等价于一个独立的同分布向量和矩阵值随机元，分别。这提供了渐近正态性的证明和MCD估计量的极限协方差结构的精确描述。
2009-08-26 math.ST stat.TH
A New Sparse and Robust Adaptive Lasso Estimator for the Independent Contamination Model
信号处理中的许多问题需要找到欠定或病态的线性系方程的稀疏解。在处理真实世界的数据时，还必须考虑异常值和脉冲噪声的存在。在过去的几十年里，绝大多数稳健线性回归估计都集中在对行污染的稳健性上。即使是所谓的“高细分”估计数也依赖于这样的假设，即回归矩阵的大多数行不受离群值的影响。直到最近，才开发出第一个单元稳健回归估计方法。在本文中，我们定义了强大的预言性质，估计必须有，以执行鲁棒的模型选择欠定，或病态的线性回归模型中的回归矩阵中的单元离群值污染。我们提出并分析了一个鲁棒加权和自适应的Lasso型正则化项，该项考虑了用于模型选择的单元格离群值。建议的正则化项被集成到MM估计器的目标函数中，这产生了建议的MM-鲁棒加权自适应套索（MM-RWAL），我们证明了至少弱鲁棒预言属性。现有的强大的Lasso估计的性能比较，使用Monte Carlo实验。此外，MM-RWAL应用于确定欧洲示踪剂实验（ETEX）在源位置的时间释放。这个病态线性逆问题包含单元和行的离群值，并且在回归矩阵和参数向量中都是稀疏的。建议的RWAL惩罚不限于MM估计，但可以很容易地集成到其他鲁棒估计的目标函数。
2017-05-05 math.ST stat.TH
Tracy-Widom at each edge of real covariance and MANOVA estimators
本文研究了一般总体协方差下实值数据的样本协方差阵，以及全局球形零假设下方差分量模型的MANOVA型协方差估计。在矩阵维数成比例增加的极限下，这种估计量的渐近谱可能有多个不相交的区间支持，可能与负射线相交。我们证明了极值特征值在支撑的每个正则边的分布具有GOE Tracy-Widom极限。我们的证明扩展了李智渊和凯文Schnelli的比较参数，取代了连续的格林函数流的离散Lindeberg交换计划。
2020-06-09 math.PR math.ST stat.TH
Unbiased risk estimation method for covariance estimation
考虑随机过程协方差的模型选择估计。使用无偏风险估计（URE）方法，我们建立了一个估计的风险，允许选择一个估计的模型集合。然后，我们提出了一个预言不等式，确保所选择的估计的风险接近的预言的风险。仿真结果表明了该方法的有效性。
2011-12-20 math.ST stat.TH
A Well-Conditioned and Sparse Estimation of Covariance and Inverse Covariance Matrices Using a Joint Penalty
我们开发了一种方法来估计良态和稀疏的协方差矩阵和逆协方差阵从一个样本的向量从一个亚高斯分布在高维设置。通过最小化平方损失函数和特征值的1范数及其方差的联合惩罚，得到了估计量。与现有的一些协方差和逆协方差阵估计方法相比，通常感兴趣的是估计稀疏矩阵，所提出的方法在同时估计稀疏和良态的协方差阵方面是灵活的。所提出的估计量是最优的意义上，他们实现了最小的最大估计率在运营商的标准为基础类的协方差矩阵和逆协方差阵。我们给出了一个非常快速的算法计算这些协方差矩阵和逆协方差阵，这是很容易扩展到大规模的数据分析问题。对不同样本量和变量的模拟研究表明，对于不同的结构协方差阵和逆协方差阵选择，所提出的估计比其他几种估计性能更好。我们还使用我们提出的估计肿瘤组织的基因表达数据的分类，并比较其性能与其他一些分类方法。
2016-04-03 math.ST stat.TH
On the consistent estimators of the population covariance matrix and its reparameterizations
本研究证明Tsai等人提出的正交同变协方差估计量在高维渐近下是总体协方差矩阵的一致估计，且为c∈(0,1)时的MLE，可用于构建最优分解检验及无稀疏假设的高维主成分分析推断，并补充了p>n情形的评述。
2024-11-03 math.ST stat.TH
Robust multiple-set linear canonical analysis based on minimum covariance determinant estimator
通过推导与多集线性典型分析（MSLCA）相关的影响函数，我们证明了基于经验协方差算子的经典分析方法是不稳健的。然后，我们引入了一个强大的版本的MSLCA通过使用MCD估计的协方差算子的随机向量。相关的影响函数，然后推导出，并证明是有界的。渐近性质的引入强大的MSLCA获得，并允许提出一个强大的相互不相关的测试。通过研究原假设下的相关二阶影响函数，证明该检验具有稳健性。
2018-11-06 math.ST stat.TH
Multivariate MM-estimators with auxiliary Scale for Linear Models with Structured Covariance Matrices
Delft University of Technology（代尔夫特理工大学）
本文提出一种统一的带辅助尺度的MM估计方法，用于具有结构化协方差矩阵的平衡线性模型，证明其兼具高稳健性和高效率，并建立了存在性、渐近性质及崩溃点和影响函数等稳健性理论。
2025-11-07 math.ST stat.TH
Estimation of a high-dimensional covariance matrix with the Stein loss
从决策理论的角度考虑了正态协方差阵的估计问题，其中协方差阵的维数大于样本量。本文不仅讨论了非奇异的情况，也讨论了奇异的情况下的协方差阵。基于James和Stein的极小极大估计和正交不变估计，对协方差阵的维数、样本容量和秩的任意可能的排序，统一定义了几类估计.统一的优势，这样的类的结果下提供斯坦型熵损失。将统一优势结果应用于改进高维协方差阵的经验Bayes估计。
2015-06-02 math.ST stat.TH
Robust censored regression with l1-norm regularization
研究了带有随机右删失和异常值的线性回归模型中的推断问题。离群值的数量可以随着样本量的增加而增加，而它们的比例趋于零。该模型是半参数的，我们只做非常温和的假设误差项的分布，与文献中大多数其他现有的方法。本文提出了对删失线性回归的Stute估计进行l1-范数惩罚的方法。我们得到的收敛速度和建立渐近正态性态估计的回归系数。在无异常值的删失线性模型中，我们的估计量与Stute的估计量具有相同的渐近方差.因此，不存在由于鲁棒性而导致的效率损失。因此，测试和置信集可以依赖于Stute开发的理论。概述的过程在计算上也是有利的，因为它相当于求解凸优化程序。我们还提出了第二个估计，它使用建议的惩罚Stute估计作为第一步，以检测离群值。它具有相似的理论性质，但在有限样本中的性能更好，通过模拟评估。
2021-10-05 math.ST stat.TH
Asymptotics of estimators for structured covariance matrices
本文研究结构化协方差矩阵估计量的渐近性质，给出极限方差、影响函数及尺度不变映射的分布刻画，并用单一标量和指标比较不同估计量的效率与粗差敏感度，进而分析 S 估计量截断值对效率、敏感度和崩溃点的影响。
2024-07-02 math.ST stat.TH
Eigenvector distributions and optimal shrinkage estimators for large covariance and precision matrices
本文研究了高维环境下大型样本协方差矩阵和精度矩阵的Stein不变收缩估计量，在近乎任意总体协方差矩阵模型下建立了广泛损失函数的收缩量渐近极限，其关键贡献是推导出非尖峰特征向量的渐近分布。
2024-04-23 math.PR math.ST stat.TH
Heavy-tailed Contamination is Easier than Adversarial Contamination
CSAIL, Massachusetts Institute of Technology（麻省理工学院计算机科学与人工智能实验室）
本文证明任何对抗性鲁棒估计器对重尾离群值同样有效，并构造反例说明重尾估计器无法直接用于对抗性设定，从而表明重尾估计比对抗性鲁棒估计更容易，为重尾场景开辟了新算法方向。
2024-11-22 cs.DS cs.LG math.ST
Fluctuations of an improved population eigenvalue estimator in sample covariance matrix models
本文给出了基于样本协方差阵的大重数总体特征值相合估计的中心极限定理。重点是有限的样本量的情况下，可用的观测的数量是已知的，并在规模上的观测维。一个精确的表达式，以及经验，渐近准确，近似的极限方差。模拟证实了理论主张。开发了一个无线传感器网络的具体应用。
2011-08-26 math.PR math.ST stat.TH
Block-diagonal covariance estimation and application to the Shapley effects in sensitivity analysis
本文研究了高维和固定维高斯数据的块对角协方差阵的估计问题。我们首先利用理论上和实际上一致的估计量来估计协方差阵的块对角结构。我们推导出，建议估计的协方差阵在高维收敛速度相同的速度比，如果真正的分解是已知的。在固定维数下，我们证明了所提出的估计量是渐近有效的。然后，我们集中在高维高斯线性框架中的敏感性指标的估计称为“Shapley效应”。从估计的协方差阵，我们得到一个估计的Shapley效应的相对误差，它去为零的参数率的对数因子。利用估计的协方差阵的块对角结构，只要最大块不是太大，该估计器仍然可以用于数千个输入变量。
2020-02-13 math.ST stat.TH
Robust Sparse Covariance Estimation by Thresholding Tyler's M-Estimator
从有限的样本个数中估计高维稀疏协方差阵是当代数据分析中的一个基本问题。然而，到目前为止，大多数提案对离群值或重尾都不稳健。为了弥合这一差距，在这项工作中，我们考虑估计一个稀疏的形状矩阵从$n$样本可能重尾椭圆分布。我们提出的估计阈值的基础上泰勒的M-估计或其正规化的变体。我们推导出我们的估计和形状矩阵的联合限制的尺寸$p$和样本量$n$趋于无穷大与$p/n\toγ>0$之间的谱范数的差异的界限。这些界限是极小极大率最优的。模拟数据的结果支持我们的理论分析。
2018-09-19 math.ST stat.TH
