首页/论文/1402.0844

arXiv 1402.08442014-02-04math.STstat.MEstat.TH

关于大协方差阵的带估计的理论和实用价值

On the theoretic and practical merits of the banding estimator for large covariance matrices

Luo Xiao, Florentina Bunea

备注：: 19 pages, 1 figure

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

本文考虑Bickel和Levina（2008）提出的用于估计大协方差阵的带估计量。我们证明了对于一类近似带状协方差阵，带状估计在算子范数下达到率最优，改进了Bickel和Levina（2008）的已有结果.此外，我们提出了一个斯坦的无偏风险估计（当然）类型的方法来选择带宽的带状估计。仿真结果表明，Sure-tuned带估计优于竞争估计。

英文摘要：

This paper considers the banding estimator proposed in Bickel and Levina (2008) for estimation of large covariance matrices. We prove that the banding estimator achieves rate-optimality under the operator norm, for a class of approximately banded covariance matrices, improving the existing results in Bickel and Levina (2008). In addition, we propose a Stein's unbiased risk estimate (Sure)-type approach for selecting the bandwidth for the banding estimator. Simulations indicate that the Sure-tuned banding estimator outperforms competing estimators.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

协方差阵的凸带

Convex Banding of the Covariance Matrix

我们引入了一个新的稀疏估计的协方差阵的高维模型中的变量有一个已知的顺序。我们的估计，这是一个凸优化问题的解决方案，等价地表示为一个估计，该估计由Toeplitz，稀疏带状，数据自适应矩阵的样本协方差阵。由于这种自适应性，凸带状估计享有理论上的最优性能没有达到以前的带状或锥形估计。特别是，我们的凸带估计是极小极大率自适应Frobenius和运营商的规范，对数因子，在共同研究类的协方差阵，并在更一般的类。此外，它正确地恢复带宽时，真正的协方差是完全带状。我们的凸公式承认一个简单而有效的算法。实证研究证明了它的实际有效性，并说明我们的确切带状估计工作良好，即使当真正的协方差阵只是接近带状矩阵，证实了我们的理论结果。我们的方法与所有现有的方法相比，在精度和速度方面。我们说明了凸带估计的实际优点，它可以用来提高性能的判别分析分类录音。

2014-05-23math.STstat.COstat.ME

协方差阵的图引导带化

Graph-Guided Banding of the Covariance Matrix

正则化已成为一个主要的工具，发展可靠的估计的协方差阵在高维设置。为了抑制维数灾难，许多方法假设总体协方差（或逆协方差）矩阵是稀疏的，而对所需的稀疏模式没有特别的结构假设。一个高度相关的，但互补的，文献研究的具体设置中，测量的变量有一个已知的顺序，在这种情况下，带状人口矩阵往往是假设。虽然带状方法在概念上和计算上比要求“无模式稀疏性”更容易，但它只适用于非常特定的情况（例如当数据随时间或一维空间测量时）。这项工作提出了一个概括的带状的概念，大大扩大了带状估计适用的问题的范围。我们开发凸正则化占据广泛的中间地带之间的前一种方法的“无模式稀疏性”和后者依赖于有一个已知的顺序。我们的框架定义带状相对于一个已知的图形上的测量变量。这样的图是在不同的情况下，我们提供了一个理论，计算和应用治疗两个新的估计。一个名为ggb的R包实现了这些新方法。

2018-02-15math.STstat.COstat.ME

大型协方差阵的正则化估计

Regularized estimation of large covariance matrices

本文考虑通过对样本协方差阵进行条带化或锥形化，或者通过估计协方差矩阵的倒数的条带化版本，从$n$观测值估计$p$变量的协方差矩阵。我们证明了这些估计在算子范数下只要$(\log p)/n\to0$是一致的，并得到了显式的速率。结果是一致的一些相当自然的良好条件的家庭的协方差阵。我们还介绍了一个模拟的高斯白噪声模型，并表明，如果人口协方差是嵌入在该模型和良好的条件，然后带状近似产生相合估计的特征值和相关的特征向量的协方差阵。结果可以扩展到光滑版本的带状和非高斯分布与足够短的尾巴。提出了一种在实际应用中选择条带参数的方法。这种方法是数值模拟和真实数据。

2008-03-13math.STstat.TH

大精度矩阵的块惩罚估计

Estimation of Large Precision Matrices Through Block Penalization

本文主要探讨逆协方差矩阵$\bSigma^{-1}$或精度矩阵的稀疏性。我们根据其修改的Cholesky分解的Cholesky因子的每个非对角带形成参数块，并使用$L_2$范数而不是单个元素来惩罚每个参数块。我们开发了一个一步估计，并证明了一个预言性质，其中包括块符号一致性和渐近正态性的概念。特别地，假设Cholesky因子的初始估计量足够好，并且真正的Cholesky具有有限数量的非零非对角带，则即使$p_n \gg n$，Oracle属性也适用于一步估计量，并且甚至可以与$\log p_n = o(n)$一样大，其中数据$\y$具有平均值零，尾概率$P(|y_j| > x) \leq K\exp(-Cx^d)$，$d > 0$和$p_n$是变量的数量。我们还证明了一个算子范数收敛的结果，表明维数的成本是$\log p_n$。与Bickel和Levina（2008）的条带法或Levina \emph{et al.}（2007）的嵌套LASSO法相比，该方法的优势在于，它允许消除Cholesky因子中先于较强信号的较弱信号。讨论了求取Cholesky因子初始估计量的方法，并给出了求取一步估计量的梯度投影算法。仿真结果表明，新方法是有效的，并利用新方法和条带法对一组实际数据进行了分析。

2008-05-26math.STstat.MEstat.TH

大协方差阵估计的SURE信息准则及其渐近性质

SURE Information Criteria for Large Covariance Matrix Estimation and Their Asymptotic Properties

考虑具有协方差阵$Σ.$的独立同分布的$p$ -维高斯随机向量当$p$远大于$n$时估计$Σ$的问题近年来受到了很多关注.然而，很少有人知道的协方差阵估计的信息准则。如何正确定义这样一个标准，统计特性是什么？本文主要研究$p>n$和$\log(p)=o(n)$同时存在时的可带协方差矩阵的估计问题。基于Stein无偏风险估计（SURE）与回归模型中AIC之间的密切联系，本文提出了一类广义SURE（$\text{SURE}_c$）协方差阵估计，其中$c$为常数.当$c$为2时，$\text{SURE}_2$提供协方差阵估计量的Frobenious风险的无偏估计量。此外，我们表明，通过最小化$\text{SURE}_2$在所有可能的带状协方差阵估计，我们达到最小最优收敛速度和所得的估计行为像协方差阵估计获得所谓的Oracle调整。另一方面，我们还表明，$\text{SURE}_2$是选择不一致时，真正的协方差阵是完全带状。为了解决选择的不一致性，我们考虑使用SURE与$c=\log(n)$，并证明通过最小化$\text{SURE}_{\log(n)}$，我们选择的概率趋于一的真实带宽。因此，我们的分析表明，$\text{SURE}_2$和$\text{SURE}_{\log(n)}$可以被视为大协方差阵估计的AIC和BIC。

2016-03-04cs.ITmath.ITmath.ST

降秩总体矩阵的样本协方差阵估计及其在fPCA中的应用

On the sample covariance matrix estimator of reduced effective rank population matrices, with applications to fPCA

本文对降秩$r_e(Σ)$的一类$p\times p$总体协方差矩阵$Σ$上的样本协方差阵$Σ_n$的性质进行了统一的分析。这一类包括比例因子模型和具有衰减谱的协方差阵。我们考虑$r_e(Σ)$作为矩阵复杂性的一个度量，得到了$Σ_n-Σ$的算子和Frobenius范数的极小极大率，作为$r_e(Σ)$和$\|Σ\|_2$的函数，$\|Σ\|_2$是$Σ$的算子范数.与最优利率提供的指导方针，我们定义类矩阵的有效秩减少，其中$Σ_n$是一个准确的估计。在这些类的框架内，我们进行了详细的有限样本理论分析的优点和局限性的经验scree图程序中经常使用的PCA。我们发现，识别跳跃的经验谱一致估计跳跃的$Σ$的频谱不一定是为其他目标提供信息，例如选择的样本特征值和特征向量是相合估计他们的人口同行。对于适当的阈值水平，碎石图方法仍然可以用于选择一致的特征值。我们提供了一个阈值结构，也给出了相应的样本特征向量的一致性检查规则。我们将这些结果和分析专门应用于具有多项式衰减谱的总体协方差阵，并将其推广到具有多项式衰减谱的协方差算子。fPCA的应用程序说明了我们的结果可以用于功能数据分析。

2015-06-01math.STstat.MEstat.TH

更多相关论文收起更多论文

稀疏低秩协方差阵估计

Sparse and Low-Rank Covariance Matrices Estimation

本文的目的是从半定总体协方差阵中获得同时稀疏和低秩的估计。我们首先受益于一个凸优化开发$l_1$ -范数惩罚，鼓励稀疏性和核范数有利于低秩属性。对于所提出的估计量，我们证明了估计率的Frobenious范数在一般情况下可以是$O(\sqrt{s(\log{r})/n})$阶，其中$s$和$r$分别表示稀疏条目数和总体协方差的秩，$n$表示样本容量.最后提出了一种有效的具有全局收敛性的乘子交替方向法，并通过数值模拟说明了该方法的优点.

2014-08-07math.OCmath.STstat.ML

球面上各向异性协方差与自协方差算子的函数估计

Functional Estimation of Anisotropic Covariance and Autocovariance Operators on the Sphere

我们提出了非参数估计的二阶中心矩矩的可能各向异性的球形随机场，在一个功能性的数据分析的上下文中。我们考虑一个测量框架，其中每个随机场之间的一个相同分布的球形随机场的集合是在几个随机方向采样，可能会受到测量误差。随机场的集合可以是独立同分布的。或连续依赖。虽然类似的设置已经探索了随机函数定义在单位区间上，非参数估计在文献中提出的往往依赖于当地的多项式，不容易扩展到（产品）球面设置。因此，我们制定我们的估计过程作为一个变分问题涉及广义Tikhonov正则化项。后者倾向于平滑协方差/自协方差函数，其中平滑度通过合适的Sobolev类伪微分算子来指定。利用再生核希尔伯特空间的机制，我们建立了表示定理，充分刻画了我们的估计的形式。我们确定他们的一致收敛速度的随机场的数量发散，无论是密集（增加空间样本的数量）和稀疏（有限数量的空间样本）制度。此外，我们证明了计算的可行性和实际的优点，我们的估计过程中的模拟设置，假设一个固定的样本个数每随机场。我们的数值估计过程利用我们设置的稀疏性和二阶Kronecker结构，与天真的实现相比，将计算和内存要求降低了大约三个数量级。

2022-06-25math.STstat.MEstat.TH

尖峰协方差矩阵的最优差分隐私PCA与估计

Optimal Differentially Private PCA and Estimation for Spiked Covariance Matrices

本文研究了尖峰协方差模型下的最优差分隐私主成分分析和协方差估计，刻画了特征量敏感度并建立了极小极大收敛速度，提出了计算高效且在对数因子范围内最优的差分隐私估计器，适用于发散秩、更广信号强度及小样本高维场景。

2024-09-27cs.ITmath.ITmath.ST