An Invariant Test for Equality of Two Large Scale Covariance Matrices
在这项工作中，我们受到Zhang et al.（2019）最近工作的启发，并研究了两个大规模协方差阵相等的新不变检验。Zhang et al.（2019）的两种改进的似然比检验（LRT）基于Beta矩阵特征值（或1-特征值）的对数之和。然而，随着维数的增加，Beta矩阵的许多特征值接近于0或1，并且修改的LRT受它们的影响很大。在这项工作中，相反，我们考虑简单的总和的特征值（β矩阵），并计算其渐近正态性时，所有$n_1, n_2, p$增加以相同的速度。我们在数值上表明，在我们和他们考虑的所有情况下，我们的检验具有比Zhang等人（2019）的两个修改的似然比检验更高的功效。
2019-11-14 math.ST stat.TH
A CLT for the LSS of large dimensional sample covariance matrices with unbounded dispersions
在总体协方差阵不一致有界的情况下，建立了高维样本协方差阵线性谱统计量的中心极限定理，它是Bai-Silverstein定理（BST）（2004）的非平凡推广.后者有力地促进了高维统计学的发展，特别是随机矩阵理论在统计学中的应用。但是，总体协方差阵一致有界的假设被发现强烈地限制了BST的应用。本文的目的是消除BST应用的障碍。新的CLT允许尖峰特征值存在并趋于无穷大。有趣的是，注意到尖峰特征值或批量特征值或两者的作用在CLT中占主导地位。此外，通过各种人口设置的模拟研究来检查结果。然后应用LSS的CLT来检验协方差阵$ \bSi $等于单位矩阵的假设。为此，我们导出了修正的似然比检验（LRT）和Nagao迹检验（NT）在选择项下的渐近分布，并给出了LRT和NT在某些选择项下的渐近功效。
2022-05-15 math.PR math.ST stat.TH
Cauchy Aggregation of Ridge-Regularized Hotelling Tests for High-Dimensional Change-Point Detection
School of Mathematical Science, Tiangong University（天津工业大学数学科学学院）；Department of Mathematics, Hong Kong Baptist University（香港浸会大学数学系）；School of Statistics and Data Science, Nankai University（南开大学统计与数据科学学院）
针对岭正则化Hotelling型变点检验中依赖未知参数的岭参数问题，提出在固定网格上计算p值并用柯西组合规则聚合，避免选择单一岭值，理论证明联合弱收敛并保证检验有效性，实验表明该方法在多种协方差和信号配置下具有稳定尺寸和接近最优的检验功效。
2026-06-15 stat.ME
Transposable regularized covariance models with an application to missing data imputation
缺失数据估计是以矩阵形式排列的高维数据的重要挑战。通常，这个数据矩阵是可转置的，这意味着行、列或两者都可以被视为特征。为了对可转置数据进行建模，我们提出了一种改进的矩阵-变量正态分布，即均值约束矩阵-变量正态分布，其中行和列都有一个单独的均值向量和协方差阵。通过对行和列的逆协方差矩阵施加附加惩罚，这些所谓的可转置正则化协方差模型允许对均值和非奇异协方差阵进行极大似然估计。使用这些模型，我们制定EM型算法的缺失数据插补在多变量和转座框架。我们目前的理论结果，利用我们的转座模型，使这些模型和插补方法被应用到高维数据的结构。对微阵列数据和Netflix数据的模拟和结果表明，这些插补技术通常优于现有方法，并提供更大程度的灵活性。
2010-11-09 stat.AP stat.ME stat.ML
Testing for nodal dependence in relational data matrices
关系数据通常表示为方阵，其条目记录了对象对之间的关系。许多分析这些数据的统计方法都假设对象之间在相互关联的方式上存在某种程度的相似性或依赖性。然而，这种依赖性的正式测试尚未开发。我们提供了一个测试这种依赖性使用的框架下的矩阵正态模型，一种类型的多元正态分布参数化的行和列特定的协方差阵。我们发展了一个似然比检验（LRT）的行和列依赖的基础上观察一个单一的关系数据矩阵。我们得到的LRT统计量的参考分布，从而提供了一个确切的测试在一个正方形的关系数据矩阵的行或列的相关性的存在。此外，我们提供了扩展的测试，以适应这些数据的共同特点，如未定义的对角线条目，非零均值，多个观察，并偏离正态性。
2013-06-24 math.ST stat.ME stat.TH
A new approach to Cholesky-based covariance regularization in high dimensions
在本文中，我们提出了对协方差阵的Cholesky因子的新回归解释，与众所周知的逆协方差的Cholesky因子的回归解释相反，这导致了一类新的适用于高维问题的正则化协方差估计量。通过这种回归解释正则化协方差的Cholesky因子总是得到正定估计量。特别地，可以以与Bickel和Levina（2008 b）提出的流行的带状估计相同的计算成本获得协方差阵的正定带状估计，其不能保证是正定的。本文还建立了协方差阵及其逆矩阵的带状Cholesky因子与带状约束下的约束极大似然估计之间的理论联系，并在仿真和声纳数据实例中比较了几种方法的数值性能。
2009-03-03 stat.ME
Tuned Regularized Estimators for Linear Regression via Covariance Fitting
本研究针对线性模型正则化估计器的最优权重选择问题，提出用协方差拟合SPICE方法获取数据自适应权重，统一了岭回归、LASSO等多种重要估计器，并通过数值实验验证了其实际有效性。
2022-01-21 math.ST stat.ML stat.TH
Regularized maximum likelihood estimation of covariance matrices of elliptical distributions
极大似然原理在统计学中有着广泛的应用，其估计量往往具有良好的性质。实际上，极大似然估计量在温和的条件下保证是渐近有效的。然而，在某些设置中，样本太少而无法获得良好的估计。然后，需要考虑关于想要估计的分布的先验信息。一种可能的方法是在贝叶斯背景下扩展最大似然原理，然后变成最大后验估计;然而，这需要分布参数的分布模型。因此，我们将集中在正则化估计的替代方法在本文中，我们将展示如何自然地引入极大似然估计的框架，以及如何将它们扩展到形成强大的估计，可以拒绝离群值。
2016-11-30 math.ST stat.TH
Elliptical Regularized Hotelling Tests for High-Dimensional Change-Point Detection
School of Statistics and Data Science, Nankai University（南开大学统计与数据科学学院）
该研究针对高维序列位置变化检测提出椭圆正则化霍特林检验（ERHT），通过特定方法结合稳健性与加权，建立高斯过程极限，嵌入野生二元分割，模拟显示其校准良好、功效强，还分析投资组合找出结构断点。
2026-07-27 stat.ME
Elliptical Regularized Hotelling Testing for High Dimensional Data
School of Statistics and Data Science, Nankai University（南开大学统计与数据科学学院）；Department of Mathematics, Hong Kong Baptist University（香港浸会大学数学系）；Advanced Institute of Natural Sciences, Beijing Normal University（北京师范大学前沿交叉科学研究院）
针对重尾和广泛截面相关的高维椭圆对称分布，提出基于样本空间位中数和空间符号协方差矩阵的椭圆正则化Hotelling检验（ERHT-CC），并推导其渐近正态性、中心与方差的一致估计及局部功效函数。
2026-06-25 stat.ME
A unified approach to penalized likelihood estimation of covariance matrices in high dimensions
本文提出一种统一框架，将稀疏模式最大似然、l_1惩罚对数似然和岭正则化三种协方差矩阵估计方法结合，通过双惩罚项约束优化实现高效稳定的高维稀疏估计，并提供R包gicf。
2024-10-03 stat.ME
Regularized Fingerprinting in Detection and Attribution of Climate Change with Weight Matrix Optimizing the Efficiency in Scaling Factor Estimation
本文提出用非线性收缩估计误差协方差矩阵构造权重矩阵，以优化气候变化检测与归因中尺度因子的估计效率，并在渐近和有限样本下验证其优于现有线性收缩方法。
2020-12-08 stat.AP stat.ME
Sparse Inverse Covariance Matrix Estimation Using Quadratic Approximation
University of Texas, Austin（德克萨斯大学奥斯汀分校）
L1-正则化高斯最大似然估计（MLE）已被证明具有很强的统计保证，在恢复稀疏逆协方差矩阵，或替代的高斯马尔可夫随机场的底层图形结构，从非常有限的样本。我们提出了一种新的算法来解决由此产生的优化问题，这是一个正则化的对数行列式程序。与最近的最先进的方法，主要使用一阶梯度信息，我们的算法是基于牛顿的方法，并采用二次近似，但有一些修改，利用稀疏高斯MLE问题的结构。我们证明了我们的方法是超线性收敛的，并使用合成和真实世界的应用数据，证明了我们的方法的性能相比，其他国家的最先进的方法有相当大的改善目前的实验结果。
2013-06-13 cs.LG stat.ML
Stochastic Block Covariance Matrix Estimation
针对神经科学中的高维块结构协方差矩阵估计问题，提出分层贝叶斯方法同时恢复潜在块并估计矩阵，数值实验证明分层结构与收缩先验对多块准确恢复至关重要。
2025-02-28 stat.AP stat.ME
Cellwise and Casewise Robust Covariance in High Dimensions
Section of Statistics and Data Science, Department of Mathematics, KU Leuven, Belgium（统计与数据科学系，数学系，卢森堡大学，比利时）
提出cellRCov方法，通过主成分和正交子空间分解结合岭正则化，同时处理高维数据中的案例异常值、细胞异常值和缺失数据，并建立了理论性质。
2026-05-31 cs.LG stat.ME
The delta method for analytic functions of random operators with application to functional data
本文给出了正则化函数典型相关估计和总体变量估计的渐近分布。该方法是基于表达这些正则化量的最大本征值和相应的本征函数的相关对正则化算子的可能性，类似于欧几里德的情况。已知的样本协方差算子的弱收敛性，再加上协方差算子的解析函数的δ-方法，得到了相关算子对的弱收敛性。从后者的弱收敛性出发，借助于进一步的扰动理论，可以导出所关心的正则量的极限分布。
2007-11-28 math.ST stat.TH
A New Perspective on Debiasing Linear Regressions
在本文中，我们提出了一个抽象的过程去偏约束或正则化潜在的高维线性模型。这是基本的，以显示所提出的程序可以产生$\frac{1}{\sqrt{n}}$ -置信区间的个别坐标（甚至有界的对比度）的模型与未知的协方差，假设协方差有界的频谱。虽然我们的程序的统计保证的证明是简单的，但由于我们需要解决的优化程序的复杂性，它的实现需要更多的关注。我们花了大量的本文给出的例子中，所提出的算法可以在实践中实现。一类相当普遍的情况下，这是服从我们的程序的应用程序，包括凸约束最小二乘。我们能够翻译的过程中，这一类模型的抽象算法，我们给出了具体的例子，有效的多项式时间的方法存在的去偏置。这些包括约束版本的组LASSO，回归单调约束下，正单调约束和非负最小二乘回归。我们还证明了我们的方法可以在一定条件下消除Minkowski规范选择器的偏置，例如Cai等人提出的。（2016）。这解决了Cai等人提出的一个开放问题。（2016）关于如何在协方差未知时消除此类选择器的偏差。此外，我们表明，我们的抽象过程可以应用于有效地去偏置组LASSO，SLOPE和平方根SLOPE，在某些假设下，在其他流行的正则化程序。我们提供了全面的模拟结果，以支持我们的理论研究结果。
2023-01-11 math.ST stat.ME stat.TH
Nonparametric Operator-Regularized Covariance Function Estimation for Functional Data
在函数型数据分析中，协方差函数不仅是理解函数型数据基本特征的关键量，而且是许多先进的函数型数据分析方法中不可缺少的组成部分。本文利用再生核Hilbert空间中算子的谱正则化方法，构造了一类新的非参数协方差函数估计.尽管它们具有非参数性质，但协方差估计量是自动半正定的，无需任何额外的修改步骤。建立了一个非传统的表示定理，为这类协方差估计量提供了一个有限维表示，从而得到了相应的$L^2$特征分解的封闭形式表达式。迹范数正则化是特别研究，以进一步实现低秩表示，另一个理想的属性，导致降维，往往需要在先进的FDA方法。在加速邻近梯度法的基础上提出了一种有效的算法。结果表明，在固定设计和随机设计下，该估计量都具有很好的收敛速度。通过仿真研究和对交通数据集的分析，证明了迹范数正则化协方差估计器的出色的实际性能。
2017-01-23 stat.ME
The Minimum Regularized Covariance Determinant estimator
最小协方差行列式（MCD）方法使用具有最低样本协方差行列式的给定大小的子集稳健地估计位置和散布矩阵。它的主要缺点是当维度超过子集大小时无法应用。我们提出了最小正则协方差行列式（MRCD）的方法，它不同于MCD的散射矩阵是一个凸组合的目标矩阵和样本协方差阵的子集。数据驱动的过程设置目标矩阵的权重，以便仅在需要时使用正则化。的MRCD估计定义在任何维度，是良好的条件建设，并保持良好的稳健性的MCD。我们证明了所谓的浓度步骤可以执行，以减少MRCD目标函数，我们利用这一事实，构建一个快速算法。我们验证的准确性和鲁棒性的MRCD估计在模拟研究中，并说明其实际用途异常值检测和回归分析在现实生活中的高维数据集化学和犯罪学。
2018-12-01 stat.ME
Regularized Spatial Maximum Covariance Analysis
在气候和大气研究中，许多现象涉及到多个空间共变的气象空间过程。为了了解一个过程如何受到另一个过程的影响，通常应用最大协方差分析（MCA）。然而，从MCA获得的模式有时可能难以解释。在本文中，我们提出了一个正则化的方法，以促进空间特征的主导耦合模式，通过引入平滑和稀疏的惩罚，同时考虑到他们的正交性。我们开发了一个有效的算法来解决由此产生的优化问题，通过使用交替方向法的乘子。所提出的方法的有效性示出了几个数值例子，包括应用程序，研究如何在东非的降水在印度洋的海面温度的影响。
2017-05-08 stat.ME
Regularized tapered sample covariance matrix
协方差阵锥在信号处理及相关领域有着悠久的历史。应用的示例包括自回归模型（促进带状结构）或波束成形（加宽与波束成形器相关联的频谱零宽度）。在本文中，重点是高维设置，其中维度$p$高，而数据纵横比$n/p$低。我们提出了一种称为Tabasco（锥形或BAnded收缩协方差矩阵）的估计量，它将锥形样本协方差阵缩小到一个缩放的单位矩阵。我们推导出最佳和估计的（数据自适应）正则化参数，这些参数旨在最小化建议的收缩估计量和真实的协方差阵之间的均方误差（MSE）。这些参数的一般假设下得出的数据是从一个未指定的椭圆对称分布有限的四阶矩（实值和复值的情况下解决）。仿真研究表明，建议Tabasco优于所有竞争的锥形协方差阵估计在不同的设置。空时自适应处理（STAP）的应用程序也说明了所提出的估计在一个实际的信号处理设置的好处。
2021-09-03 stat.ME
Regularized Fingerprinting with Linearly Optimal Weight Matrix in Detection and Attribution of Climate Change
针对现有正则化最优指纹法置信区间覆盖率不足的问题，提出线性收缩权重矩阵下的一致方差估计量及线性最优权重矩阵，提升了气候变化检测归因分析的可靠性与区间精度。
2025-05-20 physics.ao-ph physics.data-an stat.ME
Testing for Principal Component Directions under Weak Identifiability
我们考虑的问题的测试，$p$变量高斯随机样本的基础上，零假设${\cal H}_0: {\pmb θ}_1= {\pmb θ}_1^0$对替代${\cal H}_1: {\pmb θ}_1 \neq {\pmb θ}_1^0$，其中${\pmb θ}_1$是“第一”特征向量的基础协方差矩阵和${\pmb θ}_1^0$是一个固定的单位$p$ -向量。在特征值$λ_1>λ_2\geq \ldots\geq λ_p$固定的经典设置中，Anderson（1963）似然比检验（LRT）和Hallin，Paindaveine和Verdebout（2010）Le Cam最优检验在零假设下是渐近等价的，因此在连续备选项序列下也是如此。我们表明，这种等效性不生存渐近的情况下，$λ_{n1}/λ_{n2}=1+O(r_n)$与$r_n=O(1/\sqrt{n})$。对于这种情况下，乐卡姆最优检验仍然渐近满足标称水平的约束，而LRT严重overrejects零假设。因此，当两个最大样本特征值彼此接近时，前一种检验应优于后一种检验。通过依赖于Le Cam的统计实验的渐近理论，我们研究了Le Cam最优检验在上述渐近情形下的非零和最优性质，并表明该检验的零鲁棒性不是以牺牲功率为代价获得的。我们的渐近调查是广泛的意义上，它允许$r_n$收敛到零，在任意的速度。虽然我们限制单尖峰频谱的形式$λ_{n1}>λ_…
2018-12-30 math.ST stat.TH
Minimum regularized covariance trace estimator and outlier detection for functional data
提出MRCT估计量，利用基于中心性子集的fast-MCD型算法和自动选择的正则化参数α，实现高维或稀疏函数型数据的稳健协方差估计与自动异常值检测。
2023-07-25 stat.ME
Inference with Transposable Data: Modeling the Effects of Row and Column Correlations
我们考虑的问题的大规模推断的行或列变量的数据的形式的矩阵。通常，这些数据是可转置的，这意味着行变量和列变量都是潜在的。这种情况的一个例子是检测微阵列中的重要基因时，样品或阵列可能是依赖于由于潜在的关系。我们研究了常用的检验统计量，零分布，和多重检验程序的行和列的相关性的影响，明确建模的协方差与矩阵变量正态分布。使用这个模型，我们给出了理论和模拟结果，揭示了与使用标准的统计方法学对可转置数据的问题。我们通过同时估计行和列协方差，使用可转置的正则化协方差模型，并将数据去相关或球化作为预处理步骤来解决这些问题。在合理的假设下，我们的方法给出的检验统计量遵循缩放的理论零分布，近似独立。模拟的基础上，从真正的微阵列数据的结构化和观察到的协方差的各种模型表明，我们的方法提供了实质性的改进，在两个方面：1）增加统计功效和2）正确估计的错误发现率。
2010-04-01 stat.AP stat.ME stat.ML
Robust and Resistant Regularized Covariance Matrices
本文提出一类具有高崩溃点的多元散度正则化 M-估计量，并设计基于中位数的交叉验证准则来选择调节参数，以确保估计量兼具良好数据拟合与高崩溃点。
2023-07-28 stat.ME
Regularized Block Toeplitz Covariance Matrix Estimation via Kronecker Product Expansions
在这项工作中，我们考虑在低样本非高斯制度的时空协方差阵的估计。我们以Kronecker乘积分解（Tsiligkarnut et al. 2013，Greenewald et al. 2013）和对角校正（Greenewald et al.）的形式施加协方差结构，在多帧协方差阵的估计中，我们将其称为DC-KronPCA。本文扩展了（Tsiligkarnut等人）的方法。两个方向。首先，我们修改对角校正的方法（Greenewald等人）。以包括施加时间平稳性结构的块Toeplitz约束。第二，我们通过使用类似于（Chen，Hero et al. 2010）的Ledoit-Wolf型收缩正则化来改进非常低样本区域中估计的条件。为了提高对重尾分布的鲁棒性，我们修改了KronPCA，以纳入鲁棒收缩估计（Chen，Hero等人，2011）。数值模拟的结果建立在估计MSE方面的好处相比，以前的方法。最后，我们将我们的方法应用于现实世界的网络时空异常检测问题，并取得了优异的成绩。
2014-05-13 stat.ME
Statistical Inference in Classification of High-dimensional Gaussian Mixture
Auburn University（奥本大学）
本文针对一般协方差下的高维二元高斯混合分类，利用副本方法分析正则化凸分类器的渐近泛化与变量选择性质，并构造去偏估计量进行假设检验。
2024-10-25 cs.LG stat.ML
Efficient Estimation of Approximate Factor Models via Regularized Maximum Likelihood
研究了同时存在横截面依赖和异方差的高维近似因子模型的估计问题。经典的主成分分析方法（PCA）不能有效地估计因子载荷或公共因子，因为它本质上将特质误差视为同向同性和横截面不相关的。为了有效地估计，必须估计大误差协方差阵。我们假设该模型是有条件的稀疏，并提出了两种方法来估计共同的因素和因素负荷，这两种方法都是基于最大化高斯准似然，并涉及正则化一个大的协方差稀疏矩阵。在第一种方法中，因子载荷和误差协方差是分别估计的，而在第二种方法中，它们是联合估计的。已进行了广泛的渐近分析。特别是，我们开发的两步估计的推理理论。由于所提出的方法考虑到大误差协方差阵，他们产生更有效的估计比经典的PCA方法或基于严格的因子模型的方法。
2012-09-28 stat.ME
Cellwise robust regularized discriminant analysis
二次和线性判别分析（QDA/LDA）是最常用的正态分类规则。在QDA中，为每个组估计单独的协方差阵。如果组中的变量比观测值多，通常的估计是奇异的，不能再使用。假设同方差性，如LDA中，减少了要估计的参数的数量。然而，这一相当强有力的假设在实践中很少得到证实。文献中已经提出了在高维中可计算并且覆盖两个极端QDA和LDA之间的路径的正则化判别技术。然而，这些程序依赖于样本协方差阵。因此，它们在存在单元格离群值的情况下变得不合适，这是一种很可能出现在高维数据集中的离群值。在本文中，我们提出了这些正则化判别技术的单元鲁棒对应插入单元鲁棒协方差阵。我们的方法导致了一系列判别方法，这些方法（i）对外围细胞具有鲁棒性，（ii）覆盖LDA和QDA之间的差距，以及（iii）在高维中可计算。通过仿真和实际数据的例子说明了新方法的良好性能。作为一个副产品，视觉工具提供了检测离群值。
2016-12-23 stat.ME
Tuning Parameter Selection in Regularized Estimations of Large Covariance Matrices
最近提出了许多大协方差阵的正则化估计，这些估计中的调整参数通常通过交叉验证来选择。然而，没有关于进行交叉验证的折叠次数的指导方针，也没有交叉验证与基于自助法的方法之间的比较。通过大量的模拟，我们建议10倍交叉验证（十分之九用于训练，十分之一用于验证）是合适的，当估计精度在Frobenius范数中测量时，而2倍交叉验证（一半用于训练，一半用于验证）或反向3倍交叉验证（三分之一用于训练，三分之二用于验证）在算子范数中是合适的。我们还建议“最优”交叉验证比基于自举的方法更适合这两种类型的范数。
2013-08-15 stat.CO stat.ME
Fixed support positive-definite modification of covariance matrix estimators via linear shrinkage
本文研究了协方差阵估计的正定性问题。对于高维数据，在包含稀疏性的真协方差阵的结构假设下，提出了许多正则化估计。它们被证明是渐近一致的和速率最优的估计真实的协方差阵及其结构。然而，他们中的许多人没有考虑估计量的PD性，并产生非PD估计。为了实现PD性，研究人员考虑对特征值进行额外的正则化（或约束），这使得渐近分析和计算更加困难。在本文中，我们提出了一个简单的修改正则化的协方差阵估计，使其PD，同时保持支持。我们重新审视线性收缩的思想，并建议采取第一阶段估计（正则化的协方差阵没有PD）和给定形式的对角矩阵之间的凸组合。所提出的修改，我们表示为FSPD（固定支持和正相关性）估计，保持第一阶段估计的渐近性质，如果收缩参数是仔细选择的。它有一个封闭的形式表达和它的计算是优化自由，不同于现有的PD稀疏估计。此外，FSPD是通用的，因为它可以应用于任何非PD矩阵，包括精度矩阵。FSPD估计与其他稀疏PD估计进行了数值比较，以了解其有限样本特性以及计算增益。它也适用于两个多变量程序依赖于协方差阵估计-线性极小极大分类问题和Markowitz投资组合优化问题-并显示出大大提高这两个程序的性能。
2017-04-28 stat.ME
Robust regularized covariance matrix estimation: well-posedness and convergent algorithm
School of Statistics, Beijing Normal University（北京师范大学统计学院）；Department of Statistics, Rutgers University（罗格斯大学统计系）
本文研究了基于几何凸但非光滑惩罚函数的正则化和结构M估计的性质，提出新的加权算法以保证收敛性。
2026-03-29 stat.CO stat.ME
Coupled regularized sample covariance matrix estimator for multiple classes
Aalto University（阿尔托大学）
在有限的训练数据下估计多类数据的协方差阵是一个困难的问题。已知当变量的数目与可用的样本数目相比较大时，样本协方差阵（SCM）表现不佳。为了减小SCM的均方误差（MSE），经常使用正则化（收缩）SCM估计器。在这项工作中，我们考虑正则化SCM（RSCM）估计的多类问题，耦合在一起的两个不同的目标矩阵正则化：池（平均）SCM的类和缩放的单位矩阵。当总体协方差相似时，对合并SCM的正则化是有益的，而对单位矩阵的正则化保证了估计量是正定的。我们推导出的MSE最优调谐参数的估计，以及提出了一种方法，他们的估计假设下，类人口遵循（未指定）椭圆分布有限的四阶矩。建议耦合RSCMs的MSE性能进行了评估与模拟和正则化判别分析（RDA）的分类设置上的真实数据。基于三个不同的真实数据集的结果表明，交叉验证的性能相当，但在计算时间上有显着的加速。
2021-11-09 cs.LG stat.ME stat.ML
Ridge-Regularized Largest Root Test For High-Dimensional General Linear Hypotheses
Department of Mathematics and Statistics, Auburn University（奥本大学数学与统计系）
针对高维多元线性模型中一般线性假设检验问题，提出岭正则化Roy最大根检验，通过岭项稳定协方差估计，建立正则化F矩阵最大特征值的渐近Tracy-Widom分布，并开发高效参数估计方法。
2026-06-11 stat.ME
Regularized covariance estimation from partially observed interferometric data
Politecnico di Milano（米兰理工大学）；Istituto per il Rilevamento Elettromagnetico dell’Ambiente, National Research Council（环境电磁探测研究所，国家研究委员会）
针对部分观测干涉数据中系统缺失的问题，提出一种基于拉普拉斯正则化的矩阵补全方法进行非参数协方差估计，无需平稳性或各向同性假设，在模拟和实地数据中均表现优异。
2026-06-18 stat.AP stat.ME
Regularized Parameter Estimation in Mixed Model Trace Regression
提出混合模型迹回归MMTR，结合lasso、低秩Kronecker协方差结构与group lasso秩选择，并通过稳定EM算法估计参数，在模拟和图像数据上表现优异。
2025-03-18 stat.CO stat.ME
Missing values: sparse inverse covariance estimation and an extension to sparse regression
提出了一种估计高维多元正态模型中存在缺失数据的逆协方差阵的l1正则化似然方法。我们的方法是基于假设的数据是随机缺失（MAR），这也需要完全随机缺失的情况下。该方法的实现是非平凡的，因为观察到的负对数似然一般是一个复杂的非凸函数。我们提出了一个有效的期望最大化算法的优化与可证明的数值收敛性能。此外，我们扩展的方法来处理稀疏回归上下文中的缺失值。我们证明了这两种方法的模拟和真实数据。
2012-02-27 stat.ME
Optimal shrinkage covariance matrix estimation under random sampling from elliptical distributions
本文考虑了当样本量小于或不大于数据的维数时估计高维（HD）协方差阵的问题。本文提出了一种正则化的样本协方差阵（RSCM）估计器，它可以应用于常见的稀疏数据问题。建议的RSCM估计是基于未知的最佳（oracle）收缩参数，产生最小均方误差（MMSE）之间的RSCM和真正的协方差阵的数据是从一个未指定的椭圆对称分布采样时的估计。我们提出了两种变体的RSCM估计不同的方法，他们估计的基础球度参数中涉及的理论最佳收缩参数。建议RSCM估计的性能进行了评估与数值模拟研究。特别是当样本量较低时，建议的RSCM估计量通常比Ledoit和Wolf（2004）的传统RSCM估计量有显著改善。我们进一步评估所提出的估计在分类和投资组合优化问题与真实数据的性能，其中所提出的方法能够优于基准方法。
2018-08-30 stat.ME
Shrinking the eigenvalues of M-estimators of covariance matrix
一种非常流行的正则化（收缩）协方差阵估计是收缩样本协方差阵（SCM），它与SCM共享相同的特征向量集，但将其特征值向SCM特征值的总均值收缩。本文提出了一种更一般的方法，即用散布矩阵的M-估计量代替SCM，并提出了一种全自动的数据自适应方法来计算最优收缩参数，使均方误差最小。我们的方法允许使用任何权重函数，如高斯，胡贝尔，泰勒，或t-权重函数，所有这些都是常用的M-估计框架。我们的仿真例子表明，收缩M-估计的基础上提出的最佳调整结合鲁棒权函数不松动的性能收缩SCM估计时，数据是高斯，但提供显着改善的性能时，数据是从一个未指定的重尾椭圆对称分布。最后，通过真实数据和模拟数据验证了该方法在实际应用中的有效性。
2020-10-28 stat.ME
Geodesic Convexity and Regularized Scatter Estimators
正如Auderset et al.（2005）和Wielton（2012）所观察到的，将协方差阵视为黎曼流形的元素并使用测地凸性的概念为研究多元散布的M-估计提供了有用的工具。在本文中，我们首先从一个严格的数学自包含的黎曼几何的对称正定矩阵的空间和测地凸的概念的概述。概述既包括审查，也包括新的成果。特别是，我们引入和利用一阶和二阶泰勒展开相对于测地线参数化。这使我们能够给出一个函数是测地线凸的充分条件。此外，我们还引入了测地凸性的概念，这对于证明测地凸函数的极小值的存在性是很重要的。我们还开发了一个一般的部分牛顿算法，以最小化光滑和严格测地线凸函数。然后，我们使用这些结果来生成一个相当完整的图片的存在性，唯一性和计算的正则化M-估计定义使用添加剂测地线凸惩罚条款的分散。各种这样的处罚证明收缩估计对单位矩阵或单位矩阵的倍数。最后，我们提出了一个交叉验证的方法来选择的尺度参数的惩罚函数，并说明我们的结果使用一个数值例子。
2016-07-26 stat.ME
Robust Estimation of Sparse Precision Matrix using Adaptive Weighted Graphical Lasso Approach
精度矩阵的估计（即，逆协方差阵）被广泛用于利用连续变量之间的条件独立性。随着维数的增加，异常观测的影响在高维环境中加剧。在这项工作中，我们提出了稳健估计的逆协方差矩阵的$l_1$正则化的目标函数的基础上加权样本协方差阵。建议的目标函数的鲁棒性可以证明由非参数技术的综合平方误差准则。为了解决目标函数的非凸性，我们开发了一个有效的算法，在类似的精神优化最小化。估计的渐近相合性也被建立。所提出的方法的性能进行了比较，通过数值模拟与现有的几种方法。我们进一步证明了所提出的方法的优点与遗传网络推理的应用。
2021-05-14 stat.ME
The Exact Risks of Reference Panel-based Regularized Estimators
本文基于 AMP 统一框架分析参考面板 L1/L2 正则化估计量的精确风险，揭示训练与参考样本量、信噪比、稀疏性和协方差的影响，并用模拟及 UK Biobank 验证。
2024-01-21 math.ST stat.ME stat.TH
Flexible Regularized Estimation in High-Dimensional Mixed Membership Models
提出一种高维连续数据混合成员模型的概率框架，通过多元特征近似和收缩先验实现可扩展性，建立条件弱后验一致性，并在自闭症和乳腺癌数据上验证其优势。
2023-10-21 stat.ME
Covariance Estimation for Matrix-valued Data
矩阵值数据的协方差估计在应用中受到越来越多的关注。不同于以往的工作，严重依赖于矩阵正态分布假设和固定的矩阵大小的要求，我们提出了一类分布无关的正则化的协方差估计方法，用于高维矩阵数据在一个可分离的条件和一个带宽的协方差结构.在这些条件下，原始协方差矩阵被分解成两个可带小协方差阵的克罗内克积，表示行和列方向上的变异性。我们制定了一个统一的框架，估计带协方差，并介绍了一个有效的算法的基础上秩一无约束克罗内克积近似。建立了估计量的收敛速度，导出的Minimax下界表明我们提出的估计量在一定的矩阵大小的发散制度下是速率最优的。我们进一步引入了一类稳健协方差估计，为处理重尾数据提供了理论保证。我们展示了优越的有限样本性能，我们的方法使用模拟和实际应用，从网格化的温度异常数据集和标准普尔500指数的股票数据分析。
2022-04-18 stat.ME stat.ML
Discriminant Analysis with Adaptively Pooled Covariance
线性和二次判别分析（LDA/QDA）是分类问题的常用工具。对于这些方法，我们假设观测值在组内呈正态分布。我们估计每个组的均值和协方差阵，并使用贝叶斯定理进行分类。对于LDA，我们估计单个合并的协方差阵，而对于QDA，我们估计每个组的单独协方差阵。我们很少相信组间存在齐次协方差结构，但通常没有足够的数据来分别估计协方差阵。我们提出了L1- PDA，一个正则化模型，自适应池的精度矩阵的元素。自适应地汇集这些矩阵可以降低我们估计的方差（如LDA），而不会过度偏置它们。在本文中，我们提出并讨论了这种方法，给出了一个有效的算法，以适应中等规模的问题，并显示其在真实和模拟数据集上的有效性。
2011-12-06 stat.CO stat.ME stat.ML
Regularized estimation for highly multivariate spatial Gaussian random fields
Universidad Técnica Federico Santa María（费德里科Santa María技术大学）；Technische Universität Berlin（柏林工业大学）；Universidad de Chile（智利大学）
本文提出一种LASSO正则化框架，通过在Cholesky因子中引入稀疏性，自动识别无关变量对，减少估计误差。通过Geo化学数据集验证方法的有效性，使传统方法无法处理的空间预测成为可能。
2026-04-08 stat.CO stat.ME
Sparse Approximate Factor Estimation for High-Dimensional Covariance Matrices
提出了一种基于$l_1$正则化近似因子模型的协方差矩阵估计方法。我们的稀疏近似因子（SAF）协方差估计允许弱因子的存在，因此放松了标准近似因子模型通常采用的普遍性假设。我们证明了协方差矩阵估计在Frobenius范数下的相合性以及因子载荷和因子的相合性。我们的蒙特卡罗模拟表明，SAF协方差估计具有优越的性能，在有限样本的低，高维和不同的协方差矩阵的设计。此外，在样本外的投资组合预测应用的估计一致优于替代的投资组合策略的基础上，替代协方差估计方法和建模策略，包括$1/N$ -战略。
2019-06-13 econ.EM math.ST q-fin.PM
Regularized estimation of large-scale gene association networks using graphical Gaussian models
图形高斯模型是从微阵列数据估计（无向）基因关联网络的流行工具。当变量的数目大大超过样本的数目时，一个关键问题是偏相关矩阵的估计。由于样本协方差阵的（Moore-Penrose）逆矩阵在这种情况下会导致较差的估计，因此标准方法是不合适的，需要适当的正则化技术。在这篇文章中，我们研究了一个通用的框架，结合正则化回归方法与图形高斯模型的估计。该框架包括各种现有的方法，以及两个新的方法的基础上岭回归和自适应套索，分别。这些方法进行了广泛的比较，定性和定量的模拟研究，并通过应用到六个不同的真实数据集。此外，所有提出的算法都在R软件包“parcor”中实现，可从R存储库CRAN获得。
2009-08-30 stat.AP stat.CO stat.ME
Compressive Regularized Discriminant Analysis of High-Dimensional Data with Applications to Microarray Studies
我们提出了一种线性判别分析的修改，称为压缩正则化判别分析（CRDA），用于分析高维数据集。CRDA是专门设计用于特征消除的，可以用作基因芯片研究中的基因选择方法。CRDA借鉴了多测量向量（MMV）模型中的$\ell_{q,1}$范数最小化算法的思想，并利用联合稀疏促进硬阈值进行特征消除。当我们考虑具有挑战性的场景时，也需要正则化样本协方差阵，其中特征（变量）的数量与训练数据集的样本量相当或超过该样本量。模拟研究和四个例子的真实生活中的微阵列数据集评估的性能CRDA分类。总的来说，所提出的方法给出了更少的误分类错误比它的竞争对手，而在同一时间实现准确的特征选择。
2018-04-11 stat.AP stat.ME stat.ML
Simultaneous penalized M-estimation of covariance matrices using geodesically convex optimization
从$K$不同组中采样$p$维观测时的常见假设是协方差阵相等。在本文中，我们提出了两个惩罚的$M$估计方法的协方差或散布矩阵的估计下，更广泛的假设，他们可能只是彼此接近，因此大致偏离一些正定的“中心”。第一种方法首先基于所有数据生成分散度的池化$M$ -估计量，然后是每个组的分散度的惩罚$M$ -估计量，选择惩罚项，使得个体分散度矩阵朝向池化分散度矩阵收缩。在第二种方法中，我们最小化的总和的个别组$M$估计成本函数连同一个附加的联合惩罚项，强制执行一些相似性之间的个别散布估计，即收缩到一个共同的中心。在这两种方法中，我们利用测地凸性的概念，证明了惩罚解的存在性和唯一性在一般条件下。我们考虑三个具体的罚函数的基础上的欧几里德，黎曼和Kullback-Leibler距离。在第二种方法中，基于距离的惩罚，导致相互中心的估计，是有关的算术，黎曼和调和的正定矩阵的平均值，分别。基于椭圆度的惩罚措施也被认为是特别有用的形状矩阵估计。不动点方程推导出每个罚函数和效益的估计说明正则判别分析问题。
2016-08-29 stat.CO stat.ME
A-optimal design of experiments for infinite-dimensional Bayesian linear inverse problems with regularized $\ell_0$-sparsification
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出了一种高效方法，用于计算由偏微分方程支配的无限维贝叶斯线性逆问题的A-最优实验设计，通过正则化ℓ0-稀疏化技术减少参数估计的不确定性。
2014-05-27 cs.NA math.NA math.OC
