Eigenvectors of some large sample covariance matrix ensembles
我们考虑样本协方差矩阵$S_N=\frac{1}{p}Σ_N^{1/2}X_NX_N^* Σ_N^{1/2}$，其中$X_N$是具有i.i.d.的$N \times p$实数或复数矩阵。元素具有有限的$12^{\rm th}$矩，并且$Σ_N$是$N \times N$正定矩阵。此外，我们还假设$Σ_N$的谱测度几乎必然收敛于某个极限概率分布，如$N \to \infty$和$p/N \to γ>0.$。我们通过研究$\frac{1}{N} \text{Tr} (g(Σ_N) (S_N-zI)^{-1})),$型泛函的渐近性来量化样本和总体特征向量之间的关系，其中$I$是单位矩阵，$g$是有界函数，$z$是复数。然后，这是用来计算样本特征值的渐近最优偏差校正，铺平了道路，新一代的协方差矩阵及其逆的改进估计。
2009-11-16 math.PR math.ST stat.TH
Quantifying the Estimation Error of Principal Components
主成分分析是一种重要的模式识别和降维工具。主成分被计算为最大似然协方差$\widehatΣ$的特征向量，该最大似然协方差近似于总体协方差$Σ$，并且这些特征向量通常用于提取关于所研究的总体的变量（或属性）的结构信息。由于PCA基于代理协方差$\widehatΣ$的特征分解，而不是地面实况$Σ$，因此理解每个个体特征向量中的近似误差作为可用样本数量的函数是很重要的。Kolchinskii和Lounici最近的结果给出了这样的界限。在本文中，我们锐化这些界限，并表明，特征向量往往可以重建到所需的精度从一个样本的严格较小的大小顺序。
2017-10-27 math.ST stat.TH
Inference on the eigenvalues of the covariance matrix of a multivariate normal distribution--geometrical view--
本文考虑多元正态分布协方差阵特征值的一个推论。具有固定均值的多元正态分布族被看作是一个具有Fisher信息度量的黎曼流形。两个子流形自然产生;一个是由协方差阵的固定特征向量给出的子流形，另一个是由固定特征值给出的子流形。我们分析了这些流形在$e$ -联络和$m$ -联络下的度量、嵌入曲率等几何结构。在此基础上，我们研究了1）样本特征值的偏差，2）忽略样本特征向量所造成的信息损失，3）从几何角度自然导出的新估计。
2018-10-11 math.ST stat.TH
Ensemble-based estimates of eigenvector error for empirical covariance matrices
协方差阵是经济、物理和生物系统分析和预测的基础。虽然协方差矩阵的特征值$\{λ_i\}$和特征向量$\{{\bf u}_i\}$是这种努力的核心，但在实践中，必须不可避免地基于具有有限样本大小$n$的数据来近似协方差矩阵，以获得经验特征值$\{\tildeλ_i\}$和特征向量$\{\tilde{\bf u}_i\}$，因此理解如此引入的误差是至关重要的。我们分析特征向量误差$\|{\bf u}_i - \tilde{\bf u}_i \|^2$，同时利用的假设，即真正的协方差矩阵具有大小$p$是从一个矩阵合奏与已知的频谱特性-特别是，我们假设人口特征值的分布弱收敛为$p\to\infty$的频谱密度$ρ(λ)$和人口特征值之间的间距是类似的高斯正交合奏。我们的方法补充了以前的特征向量误差的分析，需要完整的特征值是已知的，这可能是计算上不可行的$p$是大的。为了提供一个可扩展的方法，特征向量误差的不确定性量化，我们考虑一个固定的特征值$λ$和近似的分布的预期平方误差$r= \mathbb{E}\left[\| {\bf u}_i - \tilde{\bf u}_i \|^2\right]$在整个矩阵合奏与$λ_i=λ$相关的所有${\bf u}_i$。例如，我们发现，对于足够大的矩阵大小$p$和样本大小$n>p$，$r$的概率密度缩放为$1/nr^2$。这种幂律缩放意味着特征向量误…
2018-02-28 cond-mat.dis-nn math.PR math.ST
Inference for eigenvalues and eigenvectors of Gaussian symmetric matrices
本文给出了任意维高斯随机对称矩阵的特征值和特征向量的极大似然估计和对数似然比检验，其中观测值是来自一个或两个总体的独立重复样本。这些推断问题在扩散张量成像数据和偏振宇宙背景辐射数据的分析中是相关的，其中观测分别是$3\times3$和$2\times2$对称正定矩阵。在特征值和特征向量的推断问题中涉及的参数集是欧几里得空间的子集，这些子集是仿射子空间、在正交变换下不变的嵌入子流形或多面体凸锥。我们表明，对于一类集，包括在本文中考虑的，MLE的平均参数不依赖于协方差参数的当且仅当协方差结构是正交不变的。封闭形式的表达式的MLE和相关的LLR推导出此协方差结构。
2009-01-21 math.ST stat.TH
Eigenvalues and eigenvectors of heavy-tailed sample covariance matrices with general growth rates: the iid case
本文研究了当$p$和样本量$n$一起收敛到无穷大时，具有iid项的$p$维时间序列样本协方差阵的最大特征值的联合分布收敛性.我们只考虑重尾时间序列，在这个意义上，条目满足一些定期的变化条件，确保他们的四阶矩是无限的。在这种情况下，Soshnikov [31，32]和Auffinger等人[2]证明了样本协方差阵的归一化特征值的点过程向非齐次泊松过程的弱收敛，这反过来意味着最大特征值按分布收敛到Fréchet分布的随机变量。他们在假设$p$和$n$彼此成比例的情况下证明了这些结果。在本文中，我们表明，上述结果仍然有效，如果$p$增长在任何多项式的速度。这些证明与文献[2，31，32]中的证明不同，我们采用了大偏差技术。证明表明，只有样本协方差阵的对角线与最大特征值及其对应的特征向量的渐近行为有关，这些特征值和特征向量接近于标准基向量。我们还讨论了样本自协方差矩阵的结果的扩展。
2016-08-24 math.PR math.ST stat.TH
An $\ell_{\infty}$ Eigenvector Perturbation Bound and Its Application to Robust Covariance Estimation
Princeton University（普林斯顿大学）
本文提出一个基于ℓ∞范数的特征向量扰动界，用于鲁棒协方差估计，尤其适用于数据具有重尾分布的情况，通过理论分析和数值实验验证了其有效性。
2017-06-02 cs.NA math.NA math.ST
Principal components of spiked covariance matrices in the supercritical regime
本文研究了超临界条件下尖峰协方差阵的极值特征值和特征向量的渐近性态。具体地说，我们推导出在这个政权的极端特征值和广义分量的特征向量的联合分布。
2020-08-28 math.PR math.ST stat.TH
High-Dimensional Block Diagonal Covariance Structure Detection Using Singular Vectors
针对高维数据中子向量数量与划分未知、组合检验不可行的问题，本文提出利用右奇异向量的稀疏近似揭示分块对角协方差结构，无需估计协方差矩阵，并通过模拟和真实数据验证性能。
2024-01-22 math.ST stat.ME stat.TH
Linear spectral statistics of eigenvectors of anisotropic sample covariance matrices
本文研究各向异性样本协方差矩阵的特征向量经验谱分布，证明其线性谱统计在全局与局部尺度上的泛函中心极限定理，并首次给出极限 Gaussian 过程协方差对协方差矩阵和方向向量的显式依赖。
2023-06-08 math.PR math.ST stat.TH
Recovery Limits for Eigenvector Alignment in HDLSS Spiked Covariance Models
University of California, Los Angeles（加州大学洛杉矶分校）；University of California, Santa Barbara（加州大学圣塔芭芭拉分校）
该研究证明在高维低样本量尖峰协方差模型中，尽管行格拉姆矩阵可逐模型一致估计，但完整的特征向量对齐矩阵无法在嵌套路径上实现均匀可靠的几乎必然恢复。
2026-09-22 math.ST stat.TH
Spiked covariances and principal components analysis in high-dimensional random effects models
我们研究了多变量随机和混合效应线性模型中的主成分分析，假设每个随机效应的协方差阵具有球形加尖峰结构。我们刻画了高维渐近条件下MANOVA方差分量估计的离群样本特征值和特征向量的行为。我们的研究结果表明，混叠现象可能会发生在高维，其中一个方差分量的MANOVA估计的特征值和特征向量可能会受到其他组件。我们提出了一种替代的方法来估计真正的主特征值和特征向量，渐近纠正这个混叠问题。
2018-06-25 math.PR math.ST stat.ME
On the principal components of sample covariance matrices
我们引入了一类$M \times M$样本协方差阵$\mathcal Q$，它包含和推广了几个以前的模型。假设相关的总体协方差矩阵$Σ= \mathbb E \cal Q$与单位元之间存在有界秩矩阵差异。除了$Σ- I_M$的秩之外的所有量可以以任意方式取决于$M$。我们研究主成分，即$\mathcal Q$的顶部特征值和特征向量。我们得到精确的大偏差估计广义组件$\langle \mathbf w, \boldsymbol ξ_i \rangle$的离群值和非离群值特征向量$\boldsymbol ξ_i$。我们的研究结果也持有所谓的BBP过渡附近，其中离群值被创建或消灭，并为退化或近退化离群值。我们相信得到的收敛速度是最优的。此外，我们还得到了非离群特征向量广义分量的渐近分布。从我们的研究结果中产生的一个新的观察是，与特征值不同，主成分的特征向量包含有关$Σ$的\emph{subcritical}尖峰的信息。证明使用了满足$\mathbb E \mathcal Q = I_M$的不相关矩阵$\mathcal Q$的特征值和特征向量的几个结果作为输入：[9]中建立的各向同性局域Marchenko-Pastur定律，能级排斥和特征向量的量子唯一遍历性。后者是联合特征值-特征向量分布的一个新的普适性结果的特殊情况。
2015-01-16 math-ph math.MP math.PR
Limiting Laws for Divergent Spiked Eigenvalues and Largest Non-spiked Eigenvalue of Sample Covariance Matrices
研究了一般协方差阵模型下样本协方差阵的尖峰特征值和最大非尖峰特征值的渐近分布，该模型的尖峰特征值和最大非尖峰特征值是有界的，而其它特征值是任意的.建立了加标样本特征值的极限正态分布。它的显著特点是渐近均值不仅依赖于种群尖峰，还依赖于非尖峰，渐近方差一般依赖于种群特征向量。此外，还得到了最大非加标样本特征值的极限Tracy-Widom律。尖峰的数量和领先的特征向量的收敛估计也被认为是。即使尖峰的数量不同，结果也是成立的。作为一个关键技术工具，我们建立了一类随机二次型的中心极限定理，其中所涉及的随机向量和随机矩阵是相依的。这个结果可能是独立的利益。
2017-11-06 math.ST stat.TH
Spiked separable covariance matrices and principal components
我们引入了一类可分离的样本协方差阵的形式$\widetilde{\mathcal{Q}}_1:=\widetilde A^{1/2} X \widetilde B X^* \widetilde A^{1/2}.$这里$\widetilde{A}$和$\widetilde{B}$是正定矩阵，其频谱包括大量的频谱加上几个尖峰，即较大的本征值，从散装分开。从概念上讲，我们将$\widetilde{\mathcal{Q}}_1$称为\emph{spiked separable covariance matrix model}。一方面，该模型包括加标协方差矩阵作为$\widetilde{B}=I$的特殊情况。另一方面，它允许数据集的更一般的相关性。特别地，对于时空数据集，$\widetilde{A}$和$\widetilde{B}$分别表示空间和时间相关性。本文研究了加标可分离协方差模型$\widetilde{\mathcal{Q}}_1$的异常特征值和特征向量，即主成分。我们证明了离群特征值$\widetilde λ_i$和广义分量（即$\langle \mathbf v, \widetilde{\mathbfξ}_i \rangle$任何确定性向量$\mathbf v$）的离群特征向量$\widetilde{\mathbfξ}_i$的最佳收敛速度。此外，我们还证明了非离群特征向量的离域性…
2020-06-28 math.PR math.ST stat.TH
Statistical inference for principal components of spiked covariance matrices
本文研究了高维尖峰样本协方差阵的极值特征值和特征向量在超临界情形下的渐近行为，当尖峰信号的可靠检测是可能的时候.特别地，我们导出了极值特征值和相关特征向量广义分量的联合分布，即，假设维数和样本量很大，特征向量在任意给定方向上的投影。一般来说，联合分布是根据多个高斯和卡方变量的线性组合给出的，参数取决于投影方向和尖峰。我们对尖峰的假设是完全通用的。首先，尖峰的强度仅需要稍微高于临界阈值，并且不需要强度的上界。第二，多个尖峰，即，具有相同强度的钉子是允许的。第三，没有对尖峰施加结构性假设。由于一般的设置，我们可以将结果应用到各种高维统计假设检验问题，涉及的特征值和特征向量。具体而言，我们提出了准确和强大的统计进行假设检验的主成分。这些统计数据依赖于数据，并适应于潜在的真实尖峰。数值模拟也证实了我们提出的统计的准确性和强大性，并说明了显着更好的性能相比，现有的方法在文献中。特别是，我们的方法是准确和强大的，即使是尖峰是小的或尺寸是大的。
2020-09-03 math.ST stat.TH
Surprising Asymptotic Conical Structure in Critical Sample Eigen-Directions
本文的目的是建立多分量穗协方差模型的主成分分析的几个深层次的理论性质。当样本量和/或变量数（或维数）趋于无穷大时，在特征值可区分（或不可区分）的尖峰模型下，我们的新结果揭示了临界样本特征方向上令人惊讶的渐近圆锥结构.样本特征向量相对于其总体特征向量的一致性由维度与样本量与尖峰大小的乘积之间的比率确定。当这个比值收敛到一个非零常数时，样本特征向量收敛到一个与其相应的总体特征向量成一定夹角的圆锥上，在高维低样本量的情况下，样本特征向量与其总体特征向量之间的夹角收敛到一个极限分布上.
2013-03-25 math.ST stat.TH
Convergence rate of eigenvector empirical spectral distribution of large Wigner matrices
本文采用特征向量经验谱分布（VESD）研究了高维Wigner矩阵W_n的特征向量的极限行为。特别地，在有限阶矩的假设下，我们得到了W_n的期望VESD收敛到周期律的收敛速率的最优界，其阶数为O（n^{-1/2}）.进一步证明了在有限8阶矩条件下，VESD的收敛速度按概率和几乎必然分别为O（n^{-1/4}）和O（n^{-1/6}）.数值研究表明，VESD函数的收敛速度不依赖于单位向量的选择，VESD函数的收敛速率的最佳可能界为O（n^{-1/2}）阶.
2016-11-21 math.ST stat.TH
Asymptotics of ultra-high-dimensional generalized spiked sample covariance matrix
University of California, Davis（加州大学戴维斯分校）
本文研究了在超高维设置下尖峰协方差矩阵模型中样本协方差矩阵的特征结构渐进行为，建立了适当缩放后的样本协方差矩阵特征值位置和特征向量投影的一阶收敛极限。
2026-04-28 math.ST stat.TH
Robust estimation of principal components from depth-based multivariate rank covariance matrix
从多变量数据的空间符号协方差阵（SCM）分析主成分已被提出作为计算简单和鲁棒的替代正常PCA，但它具有较差的效率属性，并且实际上对于最大似然估计是不可接受的。在这里，我们使用基于数据深度的空间秩代替空间符号来获得正交等变深度协方差阵（DCM），并将其特征向量估计用于PCA。我们导出了样本DCM的渐近性质及其特征向量的影响函数。这些影响函数的形状表明估计的主成分的鲁棒性，以及与SCM相比的良好的效率特性。有限样本仿真研究表明，样本DCM的主成分是强大的偏离正态分布，以及更有效的SCM和仿射等变版本，泰勒的形状矩阵。通过两个实际数据的例子，我们还展示了基于DCM的PCA在分析高维数据和异常检测方面的有效性，并与其他方法进行了比较。
2016-03-09 math.ST stat.TH
On confidence intervals for precision matrices and the eigendecomposition of covariance matrices
KU Leuven（鲁汶大学）；University of Oulu（奥卢大学）；IPSOS（益普索）
矩阵的特征分解是基于矩阵分解的概率模型的核心过程，例如主成分分析和主题模型。基于有限样本估计量化此类分解的不确定性对于在使用此类模型时在不确定性下进行推理至关重要。本文解决了计算固定维数的协方差阵的特征向量的各个元素的置信界的挑战。此外，我们推导出一种方法来界定逆协方差阵，所谓的精度矩阵的元素。我们的方法背后的假设是最小的，并要求协方差阵存在，其经验估计收敛到真正的协方差。我们利用U-统计量的理论来限制经验协方差阵的$L_2$扰动。从这个结果，我们得到的特征向量上的界限，使用Weyl定理和特征值特征向量的身份，我们推导出置信区间的条目的精度矩阵使用矩阵求逆扰动界。作为这些结果的应用，我们展示了一个新的统计检验，它允许我们测试精度矩阵的非零值。我们比较这个测试著名的Fisher-Z测试的偏相关，并证明了建议的统计测试的合理性和可扩展性，以及它的应用程序从医学和物理领域的真实世界的数据。
2022-08-25 cs.LG math.ST stat.TH
Minimax bounds for sparse PCA with noisy high-dimensional data
研究了基于独立高斯观测的高维总体协方差阵的首特征向量的估计问题。我们建立了一个下界估计的极小极大风险下的$l_2$损失，在联合限制的维数和样本量增加到无穷大，在各种模型的稀疏人口特征向量。风险的下界表明存在不同的特征向量稀疏性状态。我们还提出了一种新的方法估计的特征向量的两阶段坐标选择计划。
2012-03-05 math.ST stat.TH
Notes on asymptotics of sample eigenstructure for spiked covariance models with non-Gaussian data
这些简要说明可作为Morales-Jimenez et al. [2018]随附文章的参考。在尖峰协方差模型中，我们得到了样本首特征值的渐近正态性和相应样本特征向量的某些投影的结果。结果与Paul [2007]的结果相似，但使用Bai和Yao [2008]的非高斯模型给出。结果并不新鲜，并给出了引用，但证据被收集和组织作为Morales-Jimenez等人的出发点。
2018-10-25 math.ST stat.TH
Bayesian Analysis of Spiked Covariance Models: Correcting Eigenvalue Bias and Determining the Number of Spikes
本文针对尖峰协方差模型提出贝叶斯推断框架，通过逆Wishart先验推导后验分布，设计两种特征值偏差修正策略，并基于BIC型边际似然近似推断尖峰数量，在高维情形下证明后验相合性与极小极大最优性。
2025-08-19 math.ST stat.ME stat.TH
An Orthogonally Equivariant Estimator of the Covariance Matrix in High Dimensions and for Small Sample Sizes
我们介绍了一种在高维环境下的协方差阵的估计方法，即，当矩阵的维数大于样本量时，具体来说，我们提出了一个正交等变估计。这种估计量的特征向量与样本协方差阵的特征向量相同。特征值估计是从调整后的轮廓似然函数获得的，该函数是通过近似样本协方差阵的密度函数在其特征向量上的积分得到的，这本身就是一个具有挑战性的问题。近似似然方程的精确解，获得和构造估计，涉及一个调整参数。提出了基于自举和交叉验证的算法，以在各种损失函数下选择该调谐参数。最后，给出了与两个著名的正交同变估计的协方差阵，这是基于模拟数据的Monte-Carlo风险估计和实际数据分析中的误分类误差的比较。此外，蒙特卡罗风险估计也提供了比较我们的估计的特征值的人口特征值的一致估计。
2020-12-03 math.ST stat.ME stat.TH
On the covariance of the asymptotic empirical copula process
给出了在何种条件下，与二元连续分布中的随机样本相关联的经验Copula过程具有比基于Copula观测值的标准经验过程更小的渐近协方差函数.插图和推理的后果进行了概述。
2010-03-16 math.ST stat.TH
Estimating eigenvectors and eigenspaces of covariance matrices: Optimal Bounds and Conditions for Consistency
The University of Hong Kong（香港大学）
研究大维度零均值随机向量协方差矩阵特征向量和特征空间估计问题，通过对样本协方差矩阵进行最优误差分析，给出匹配量级上下界，得到估计量一致性新充要条件，样本数\(n\)只需线性依赖\(M\)的有效秩。
2026-09-22 cs.NA math.NA math.PR
Asymptotic independence of spiked eigenvalues and linear spectral statistics for large sample covariance matrices
考虑一般的高维加标样本协方差模型，证明了当样本量与维数成正比时，其首样本加标特征值与线性谱统计量是渐近独立的.作为一个副产品，我们还建立了中心极限定理的领先样本尖峰特征值通过删除块对角假设的人口协方差阵，这是通常需要在文献中。此外，我们提出了一致的估计的$L_4$规范的尖峰人口特征向量。基于这些结果，我们发展了一个新的统计量来检验两个加标总体协方差阵的相等性。数值研究表明，新的测试程序是更强大的比一些现有的方法。
2020-09-24 math.ST stat.TH
Multi Anchor Point Shrinkage for the Sample Covariance Matrix (Extended Version)
面对有限的样本量，投资组合经理必须使用因子模型来估计高维收益向量的协方差矩阵。对于最简单的单因素市场模型，成功取决于估计的领先特征向量“beta”的质量。当只观察到收益本身时，从业者可以获得等于样本协方差矩阵的前导特征向量的“PCA”估计。这个估计器在很多方面表现不佳。为了解决这个问题，在高维，有限的样本量渐近制度和估计最小方差投资组合的背景下，戈德堡，Papanicolau和Shkolnik开发了一种收缩方法（“GPS估计”），通过将其缩小到一个恒定的目标单位向量来改进β的PCA估计。在本文中，我们继续他们的工作，开发一个更一般的框架收缩目标，允许从业者利用进一步的信息，以改善估计。例子包括股票贝塔的部门分离，以及来自先前估计的最新信息。我们证明了一些精确的陈述，并通过一些数值实验说明了由此产生的相对于GPS估计器的改进。
2021-09-11 math.ST q-fin.CP stat.TH
Sparse principal component analysis and iterative thresholding
主成分分析（PCA）是一种经典的降维方法，它将数据投影到由协方差阵的前导特征向量所构成的主子空间上。然而，当特征数量p与样本量n相当或甚至比其大得多时，其表现较差。在本文中，我们提出了一个新的迭代阈值方法估计主子空间的设置中的领导特征向量稀疏。在尖峰协方差模型下，我们发现新方法在一系列高维稀疏设置中一致地恢复了主子空间和前导特征向量，甚至是最优的。仿真算例也证明了该算法的优越性。
2013-05-24 math.ST stat.ME stat.TH
Asymptotic limits of spiked eigenvalues and eigenvectors of signal-plus-noise matrices with weak signals and heteroskedastic noise
本文在高维信号加噪声模型中，针对弱信号和异方差噪声，推导了尖峰奇异向量与 Gram 矩阵尖峰特征值的渐近极限，并提出一种新的聚类簇数估计准则。
2025-05-11 math.ST stat.TH
Nonlinear spiked covariance matrices and signal propagation in deep neural networks
University of California San Diego（加州大学圣地亚哥分校）；New York University（纽约大学）；Flatiron Institute（弗拉蒂伦研究所）；Yale University（耶鲁大学）
本文研究了深度神经网络中非线性尖峰协方差模型的信号特征值与特征向量，定量描述了输入数据尖峰特征结构在随机权重网络隐藏层中的传播机制，并分析了表示学习中目标函数与 CK 尖峰特征向量的对齐情况。
2024-02-15 cs.LG math.PR math.ST
Asymptotics of Empirical Eigen-structure for Ultra-high Dimensional Spiked Covariance Model
我们推导出的渐近分布的尖峰特征值和特征向量的广义和统一的渐近制度下，考虑到尖峰幅度的领先特征值，样本量，和维数。这种新的制度允许高维和发散的特征值尖峰，并提供了新的见解的主导特征值，样本量，和维度发挥主成分分析的作用。结果证明了一个技术设备，它交换的行和列的作用，并将高维问题转化为低维的。我们的结果是Paul（2007）中的结果的自然扩张，以新的见解扩展到更一般的环境，并解决了Shen等人（2013）中的收敛率问题。揭示了用主成分分析估计主特征值和特征向量时存在的偏差，并提出了一种新的近似因子模型协方差估计量--收缩主正交补阈值法（S-POET），以纠正这种偏差.我们的结果被成功地应用于大投资组合的风险估计和相关检验统计量的错误发现比例的突出问题，并通过模拟研究加以说明。
2015-09-12 math.ST stat.ME stat.TH
The eigenstructure of the sample covariance matrices of high-dimensional stochastic volatility models with heavy tails
我们考虑一个$p$维时间序列，其中维度$p$随着样本量$n$而增加。由此产生的数据矩阵$X$遵循随机波动率模型：每个条目由正随机波动率项乘以独立噪声项组成。波动率乘数在每一行和各行之间引入相关性。本文研究了在噪声为正则变化的假设下，样本协方差阵$XX'$的特征值和特征向量的渐近行为。特别是，我们证明了泊松收敛的点过程的中心和规范化的特征值，并得出极限理论的泛函作用于他们，如跟踪。我们证明了随机波动率模型与额外的线性相关结构和随机波动率模型的时变波动率项被熄灭时，高概率$n$增加的相关结果。我们提供明确的近似的特征向量是一个惊人的简单的结构。证明这些结果的主要工具是重尾时间序列的大偏差定理，主张用统一的方法研究重尾随机矩阵的特征结构。
2020-01-14 math.PR math.ST stat.TH
Connecting Dots -- from Local Covariance to Empirical Intrinsic Geometry and Locally Linear Embedding
流形下的局部协方差结构在机器学习中有着广泛的应用。基于已有的理论结果，我们提供了两个相关的流形学习算法，经验内在几何（EIG）和局部线性嵌入（LLE）下的流形设置的广泛研究。特别是，我们表明，没有一个准确的尺寸估计，EIG的测地线距离估计可能会被损坏。此外，我们表明，通过考虑局部协方差阵，我们可以更准确地估计局部测地距离。当基于局部协方差结构理解LLE时，其与曲率的密切关系表明LLE取决于“截断方案”的变化。我们提供了一个理论分析的变化。
2019-02-08 math.ST stat.TH
Asymptotics of eigenstructure of sample correlation matrices for high-dimensional spiked models
样本相关阵在统计学中被广泛应用。然而，相当令人惊讶的是，很少有人知道他们的渐近谱特性的高维数据，特别是超出的情况下，“空模型”的数据被假定为独立的。在这里，考虑到流行的一类尖峰模型，我们应用随机矩阵理论推导出渐近的一阶和分布的结果为主导的特征值和特征向量的样本相关阵。这些结果是在高维设置下获得的，其中样本样本个数n和变量p接近无穷大，p/n趋于常数。对于一阶，样本相关阵的谱特性与样本协方差阵的谱特性相一致;然而，它们的渐近分布可以显著不同，样本特征值和特征向量的波动通常显著小于它们的样本协方差的波动。
2019-03-12 math.ST stat.TH
Limiting behavior of bilinear forms for the resolvent of sample covariance matrices under elliptical distribution with applications
本文为椭圆分布下样本协方差矩阵预解式的双线性形式建立联合中心极限定理，发现极限参数的相变，并应用于特征向量统计和尖峰特征值，推广了Haar猜想。
2023-12-27 math.ST stat.TH
Regularized estimation of large covariance matrices
本文考虑通过对样本协方差阵进行条带化或锥形化，或者通过估计协方差矩阵的倒数的条带化版本，从$n$观测值估计$p$变量的协方差矩阵。我们证明了这些估计在算子范数下只要$(\log p)/n\to0$是一致的，并得到了显式的速率。结果是一致的一些相当自然的良好条件的家庭的协方差阵。我们还介绍了一个模拟的高斯白噪声模型，并表明，如果人口协方差是嵌入在该模型和良好的条件，然后带状近似产生相合估计的特征值和相关的特征向量的协方差阵。结果可以扩展到光滑版本的带状和非高斯分布与足够短的尾巴。提出了一种在实际应用中选择条带参数的方法。这种方法是数值模拟和真实数据。
2008-03-13 math.ST stat.TH
Correlation Based Principal Loading Analysis
主载荷分析是一种降维方法，它丢弃对协方差阵只有很小失真影响的变量。我们补充了主载荷分析，并建议使用两者的混合，相关性和协方差阵代替。此外，我们建议使用重新缩放的特征向量，并为所有拟议的更改提供更新的算法。
2021-02-19 math.ST stat.ME stat.TH
Wasserstein distance bounds on the normal approximation of empirical autocovariances and cross-covariances under non-stationarity and stationarity
本文推导了非平稳与平稳条件下经验自协方差和互协方差估计量有限样本分布与高斯极限的Wasserstein距离界，并给出AR(1)过程实例及模拟验证。
2023-05-07 math.ST stat.TH
Some convergence results on quadratic forms for random fields and application to empirical covariances
证明了长记忆高斯随机场的二次型的极限定理。在最小可积条件下，我们得到了一个非中心极限定理，它允许各向同性和各向异性模型。应用我们的极限定理和Ginovian（99）的极限定理，得到了高斯场经验协方差的渐近性质，这是二次型的一个特例.我们表明，它是可能的，以获得一个高斯极限时，谱密度不在$L^2$。因此，由于$d>1$中可能的各向异性强依赖性，在中心和非中心极限定理之间的维度$d=1$中观察到的二分法不能如此容易地陈述。
2010-01-08 math.ST stat.TH
Eigenstructure inference for high-dimensional covariance with generalized shrinkage inverse-Wishart prior
本文提出广义收缩逆Wishart先验用于高维协方差估计，在尖峰假设下推导后验渐近性质，模拟显示对尖峰特征值估计更准确，区间更窄、覆盖率更高。
2025-10-23 math.ST stat.ME stat.TH
Distance covariance for stochastic processes
两个随机向量的距离协方差是它们的相关性的度量。经验距离协方差和相关性可以作为检验两个随机向量是否独立的统计工具。我们提出了一个类似的距离协方差的两个随机过程定义在一定的时间间隔。它们的经验类比可以用来检验两个过程的独立性。
2017-03-30 math.ST stat.TH
Universality of sample covariance matrices: CLT of the smoothed empirical spectral distribution
建立了样本协方差阵的光滑经验谱分布的中心极限定理。此外，还发展了Marcenko和Pastur定律的光滑分位数的CLT。
2011-11-23 math.PR math.ST stat.TH
PAC-Bayesian bounds for Principal Component Analysis in Hilbert spaces
基于一些新的稳健估计的协方差阵，我们提出了稳定的版本的主成分分析（PCA），我们有资格独立于周围空间的维数。首先，我们提供了一个强大的估计正交投影的最大特征向量的协方差阵。这种估计器的行为与协方差阵的谱中的间隙的大小有关，并且特别地需要大的间隙以便获得良好的近似。为了避免假设的一个大的特征间隙的频谱的协方差阵，我们提出了一个强大的版本的PCA，包括在执行一个平滑的截止通过Lipschitz函数的频谱。我们提供的近似误差的经营者规范和Frobenius规范的界限。
2015-11-19 math.ST stat.TH
Asymptotic Behaviour of the Empirical Distance Covariance for Dependent Data
在不对样本作任何iid假设的情况下，给出了可分度量空间上经验距离协方差的两个渐近结果。特别是，我们证明了经验距离协方差的几乎必然收敛的任何措施，有限的一阶矩，提供的样本形成一个严格平稳和遍历过程。在样本绝对正则的假设下，我们进一步给出了经验距离协方差的渐近分布的一个结果，并将这些结果推广到某些类型的伪度量空间.在这个过程中，我们得到了一个一般定理，关于渐近分布的退化V-统计量的二阶下的强混合条件。
2021-01-05 math.PR math.ST stat.TH
On the sample covariance matrix estimator of reduced effective rank population matrices, with applications to fPCA
本文对降秩$r_e(Σ)$的一类$p\times p$总体协方差矩阵$Σ$上的样本协方差阵$Σ_n$的性质进行了统一的分析。这一类包括比例因子模型和具有衰减谱的协方差阵。我们考虑$r_e(Σ)$作为矩阵复杂性的一个度量，得到了$Σ_n-Σ$的算子和Frobenius范数的极小极大率，作为$r_e(Σ)$和$\|Σ\|_2$的函数，$\|Σ\|_2$是$Σ$的算子范数.与最优利率提供的指导方针，我们定义类矩阵的有效秩减少，其中$Σ_n$是一个准确的估计。在这些类的框架内，我们进行了详细的有限样本理论分析的优点和局限性的经验scree图程序中经常使用的PCA。我们发现，识别跳跃的经验谱一致估计跳跃的$Σ$的频谱不一定是为其他目标提供信息，例如选择的样本特征值和特征向量是相合估计他们的人口同行。对于适当的阈值水平，碎石图方法仍然可以用于选择一致的特征值。我们提供了一个阈值结构，也给出了相应的样本特征向量的一致性检查规则。我们将这些结果和分析专门应用于具有多项式衰减谱的总体协方差阵，并将其推广到具有多项式衰减谱的协方差算子。fPCA的应用程序说明了我们的结果可以用于功能数据分析。
2015-06-01 math.ST stat.ME stat.TH
About limiting spectral distributions of block-rescaled empirical covariance matrices
我们建立了块重标经验协方差阵的极限谱分布是一个反正弦定律之间的比例的维数和潜在的样本量收敛到1时，对应于每个块的样本是独立的。我们进一步提出了一个猜想的情况下，后者的比例收敛到一个常数的单位区间。
2022-01-19 math.PR math.ST stat.TH
Nonlinear shrinkage estimation of large-dimensional covariance matrices
许多统计应用需要估计协方差阵和/或其逆矩阵。当矩阵维数与样本量相比较大时（这种情况经常发生），已知样本协方差阵表现不佳，并且可能出现病态。已经有大量的文献关于在这种情况下改进的估计。在缺乏关于真实协方差阵的结构的进一步知识的情况下，迄今为止最成功的方法可以说是收缩估计。通过对样本协方差阵和单位元进行加权平均，将样本协方差矩阵缩小到单位元的倍数，结果等同于将样本特征值线性缩小到其总均值，同时保留样本特征向量。本文通过考虑样本特征值的非线性变换扩展了这种方法。我们将展示如何构建一个估计，是渐近等价的Oracle估计建议在以前的工作。如在广泛的Monte Carlo模拟中所示，所得到的真实估计量可以导致样本协方差阵和线性收缩的相当大的改进。
2012-07-23 math.ST stat.TH
The joint density of top k sample eigenvectors and principal subspace inference
Tokyo University of Science（东京科学大学）；Nankai University（南开大学）
本文推导了任意总体协方差矩阵下前k个样本特征向量的精确联合密度，利用对称函数和Kummer变换得到全局收敛级数，并为主子空间推断提供有限样本基准。
2026-09-09 math.ST stat.TH
Weak convergence of the empirical spectral distribution of ultra-high-dimensional banded sample covariance matrices
本文研究了高维带状样本协方差阵，在样本量$n$，维数$p$和带宽$d$同时趋于无穷大的情况下，使得$$n/p\to 0 \ \ \text{and} \ \ 2d/n\to y>0.$$.结果表明，这些矩阵的经验谱分布几乎必然弱收敛于某个确定性的概率测度，该测度由其矩表征.自然数的某些限制组合在经验谱分布的期望矩的估计中起着至关重要的作用。
2015-08-26 math.PR math.ST stat.TH
Asymptotics and Concentration Bounds for Bilinear Forms of Spectral Projectors of Sample Covariance
设$X,X_1,\dots, X_n$为i.i.d.。具有零均值和协方差算子$Σ={\mathbb E}(X\otimes X)$的高斯随机变量取值于可分希尔伯特空间${\mathbb H}.$令$$ {\bf r}(Σ):=\frac{{\rm tr}(Σ)}{\|Σ\|_{\infty}} $$为$Σ,$的有效秩${\rm tr}(Σ)$为$Σ$的迹，$\|Σ\|_{\infty}$为其算子范数。设$$\hat Σ_n:=n^{-1}\sum_{j=1}^n (X_j\otimes X_j)$$是基于$(X_1,\dots, X_n).$的样本（经验）协方差算子，本文讨论了协方差算子$Σ$的谱投影算子由其经验对应算子$\hat Σ_n$的谱投影算子（empirical spectral projectors）估计的问题。重点是样本量$n$和有效秩${\bf r}(Σ)$都很大的问题。该框架包括并推广了众所周知的高维尖峰协方差模型。给定对应于协方差算子$Σ$的特征值$μ_r$的谱投影算子$P_r$及其经验对应物$\hat P_r,$，我们根据样本大小$n$和有效维数${\bf r}(Σ).$导出经验谱投影算子$\hat P_r$的双线性型的精确浓度界。本文证明了随机算子$\hat P_r -{\mathbb E}\hat P_r$的双线性型的渐近正态性，并在$n\to \inft…
2015-08-07 math.ST stat.TH
Numerical reconstruction of the covariance matrix of a spherically truncated multinormal distribution
本文将球面截尾正态多元二阶矩矩阵$S_B$与其全协方差阵$Σ$联系起来，提出了一种由$S_B$反演$Σ$的算法。虽然$Σ$的特征向量是左不变的截断，其特征值是非均匀阻尼。我们表明，$Σ$的特征值可以重建从他们的截断同行通过一个不动点迭代，其收敛性，我们证明了解析。该过程需要计算多维高斯积分的欧几里德球，我们扩展了一个数值技术，最初提出的鲁本在1962年，基于一系列的扩展χ 2分布。为了研究我们的方法的可行性，我们检查的收敛速度的一些迭代计划适当选择的合奏Wishart矩阵。最后，我们讨论了在样本空间中出现的实际困难，并概述了正则化的问题的基础上扰动理论。
2014-04-18 math.ST stat.TH
Finite sample approximation results for principal component analysis: a matrix perturbation approach
主成分分析（PCA）是一种标准工具，用于对一组$n$观测值（样本）进行降维，每个观测值具有$p$变量。本文利用矩阵摄动方法，研究了有限样本$n$上的主成分分析的特征值和特征向量与有限样本$n\to\infty$上的主成分分析的特征值和特征向量之间的非渐近关系.在机器学习中，我们提出了一个有限样本定理，在尖峰协方差模型下，样本PCA和总体PCA的前导特征值和特征向量之间的接近性具有很高的概率。此外，我们还考虑了有限样本PCA与联合极限$p,n\to\infty$中的渐近结果之间的关系，其中有$p/n=c$ .我们提出了一个矩阵扰动的“相变现象”，和一个简单的线性代数为基础的推导的本征值和本征向量重叠在这个渐近极限。此外，我们的分析也适用于有限的$p,n$，我们表明，虽然没有尖锐的相变，在无限的情况下，无论是作为一个函数的噪声水平或作为一个函数的样本量$n$，样本PCA的特征向量可能会表现出尖锐的“失去跟踪”，突然失去其关系的（真正的）特征向量的人口PCA矩阵。这是由于信号的特征值和噪声的最大特征值之间的交叉而发生的，噪声的特征向量指向随机方向。
2009-01-21 math.ST stat.TH
