Generalized Four Moment Theorem and an Application to CLT for Spiked Eigenvalues of Large-dimensional Covariance Matrices
我们考虑一个更广义的尖峰协方差阵$Σ$,这是一个一般的不定矩阵与尖峰特征值分散到几个散装和最大的允许趋于无穷大。通过将四阶矩的匹配放松为尾概率衰减,提出了{ \it广义四阶矩定理}(G4 MT),以证明广义尖峰协方差阵的局部谱统计量的渐近律的普适性,这意味着广义尖峰协方差阵的尖峰特征值的极限分布与样本的实际分布无关,满足我们的宽松的假设。此外,将其应用于广义尖峰协方差阵尖峰特征值的中心极限定理(CLT),将Bai和Yao(2012)的结果推广到一般形式的总体协方差阵,其中不要求4阶矩存在,允许尖峰特征值依赖于非尖峰特征值,从而更符合实际情况.
2019-04-25 math.ST stat.ME stat.TH
Optimal Shrinkage of Eigenvalues in the Spiked Covariance Model
我们发现,在一个常见的高维协方差模型中,损失函数的选择对最优估计有着深远的影响。在一个渐近框架的基础上的尖峰协方差模型和使用正交不变估计,我们表明,最佳估计的人口协方差阵归结为一个最佳收缩$η$,作用于样本特征值的elementwise设计。事实上,每个损失函数对应于一个唯一的容许特征值收缩器$η^*$支配所有其他收缩器。最优收缩器的形状由损失函数的选择决定,并且关键地由样本协方差阵的特征值和特征向量的不一致性决定。详细的这些现象和封闭形式的最佳特征值收缩公式制定了一个动物园的26个损失函数的协方差估计发现在文献中,包括Stein,熵,发散,Frechet,Bhattacharya/Matusita,Frobenius范数,算子范数,核范数和条件数损失。
2017-06-04 math.ST stat.TH
On spiked eigenvalues of a renormalized sample covariance matrix from multi-population
本文研究超高维多总体重归一化样本协方差矩阵的尖峰特征值渐近性质,建立其一二阶收敛性,应用于子群数确定与无标签聚类评估,并提出整合高低维结果的统一框架。
2024-09-13 math.ST stat.TH
Asymptotic joint distribution of extreme eigenvalues and trace of large sample covariance matrix in a generalized spiked population model
研究了广义Spiked总体模型中大样本协方差阵的极值特征值和迹的联合极限性态,其中渐近状态是维数和样本量成比例增长.联合极限分布的形式被应用于进行约翰逊-格雷比尔型测试,一个家庭的方法测试的信号在统计模型。为此,进一步进行高阶校正,有助于减轻有限样本偏差的影响。证明依赖于确定两类谱过程的联合渐近行为,分别对应于极值和线性谱统计量。
2019-06-23 math.ST stat.TH
Principal components of spiked covariance matrices in the supercritical regime
本文研究了超临界条件下尖峰协方差阵的极值特征值和特征向量的渐近性态。具体地说,我们推导出在这个政权的极端特征值和广义分量的特征向量的联合分布。
2020-08-28 math.PR math.ST stat.TH
Statistical inference for principal components of spiked covariance matrices
本文研究了高维尖峰样本协方差阵的极值特征值和特征向量在超临界情形下的渐近行为,当尖峰信号的可靠检测是可能的时候.特别地,我们导出了极值特征值和相关特征向量广义分量的联合分布,即,假设维数和样本量很大,特征向量在任意给定方向上的投影。一般来说,联合分布是根据多个高斯和卡方变量的线性组合给出的,参数取决于投影方向和尖峰。我们对尖峰的假设是完全通用的。首先,尖峰的强度仅需要稍微高于临界阈值,并且不需要强度的上界。第二,多个尖峰,即,具有相同强度的钉子是允许的。第三,没有对尖峰施加结构性假设。由于一般的设置,我们可以将结果应用到各种高维统计假设检验问题,涉及的特征值和特征向量。具体而言,我们提出了准确和强大的统计进行假设检验的主成分。这些统计数据依赖于数据,并适应于潜在的真实尖峰。数值模拟也证实了我们提出的统计的准确性和强大性,并说明了显着更好的性能相比,现有的方法在文献中。特别是,我们的方法是准确和强大的,即使是尖峰是小的或尺寸是大的。
2020-09-03 math.ST stat.TH
Limiting laws for extreme eigenvalues of large-dimensional spiked Fisher matrices with a divergent number of spikes
考虑一个$p\times p$矩阵,它是一个总体协方差阵与另一个总体协方差阵的逆矩阵的乘积。假设它们的差异相对于$p$具有发散秩,当来自两个总体的大小为$n$和$T$的两个样本可用时,我们构造其相应的样本版本。在$n$和$T$都与$p$成比例的高维情形下,研究了当尖峰数目发散且尖峰是无界时样本Fisher矩阵的极值特征值的极限律.
2020-09-22 math.ST stat.TH
Eigenvalues of Large Sample Covariance Matrices of Spiked Population Models
考虑了Johnstone提出的一类尖峰种群模型,其种群特征值除少数固定特征值外均为单位。问题是当样本量和总体规模都变大时,样本特征值如何依赖于非单位总体特征值。本文完全确定了一般样本的几乎必然极限。
2004-08-12 math.PR math.ST stat.TH
Spiked separable covariance matrices and principal components
我们引入了一类可分离的样本协方差阵的形式$\widetilde{\mathcal{Q}}_1:=\widetilde A^{1/2} X \widetilde B X^* \widetilde A^{1/2}.$这里$\widetilde{A}$和$\widetilde{B}$是正定矩阵,其频谱包括大量的频谱加上几个尖峰,即较大的本征值,从散装分开。从概念上讲,我们将$\widetilde{\mathcal{Q}}_1$称为\emph{spiked separable covariance matrix model}。一方面,该模型包括加标协方差矩阵作为$\widetilde{B}=I$的特殊情况。另一方面,它允许数据集的更一般的相关性。特别地,对于时空数据集,$\widetilde{A}$和$\widetilde{B}$分别表示空间和时间相关性。本文研究了加标可分离协方差模型$\widetilde{\mathcal{Q}}_1$的异常特征值和特征向量,即主成分。我们证明了离群特征值$\widetilde λ_i$和广义分量(即$\langle \mathbf v, \widetilde{\mathbfξ}_i \rangle$任何确定性向量$\mathbf v$)的离群特征向量$\widetilde{\mathbfξ}_i$的最佳收敛速度。此外,我们还证明了非离群特征向量的离域性…
2020-06-28 math.PR math.ST stat.TH
Limiting eigen-structure of spiked sample covariance matrices under missing observations
Chongqing University(重庆大学);Nanjing Audit University(南京审计大学);University of Macau(澳门大学)
本文针对带缺失观测的尖峰总体模型,利用随机矩阵理论研究高维PCA的渐近行为,证明其样本特征值的渐近正态性与完整数据情形存在差异,并基于此提出尖峰总体独立结构的检验方法。
2026-08-11 math.ST stat.TH
On determining the number of spikes in a high-dimensional spiked population model
在加标总体模型中,总体协方差阵的所有特征值都等于单位,只有少数固定特征值(加标)除外。确定尖峰的数量是许多科学领域中出现的基本问题,包括信号处理(线性混合模型)或经济学(因子模型)。最近的几篇论文研究了当观测值维数和样本量都增长到无穷大,使得它们的比值收敛到一个正常数时,样本协方差阵的特征值(样本特征值)的渐近行为。利用这些结果,我们提出了一个新的估计的基础上的两个连续样本特征值之间的差异。
2011-04-14 math.ST stat.TH
Bayesian Analysis of Spiked Covariance Models: Correcting Eigenvalue Bias and Determining the Number of Spikes
本文针对尖峰协方差模型提出贝叶斯推断框架,通过逆Wishart先验推导后验分布,设计两种特征值偏差修正策略,并基于BIC型边际似然近似推断尖峰数量,在高维情形下证明后验相合性与极小极大最优性。
2025-08-19 math.ST stat.ME stat.TH
A CLT for the LSS of large dimensional sample covariance matrices with diverging spikes
本文将 Bai-Silverstein 定理推广到总体协方差矩阵含发散尖峰的情形,建立线性谱统计量的新中心极限定理,并应用于单位矩阵及广义尖峰模型检验,证明其渐近功效通常高于 Roy 最大根检验。
2023-08-10 math.ST stat.TH
On the Eigenstructure of Covariance Matrices with Divergent Spikes
对于Johnstone的尖峰模型的推广,特征值都是1的协方差阵,除了其中的$M$,特征$N$的数量与样本$n: N=N(n), M=M(n), γ^{-1} \leq \frac{N}{n} \leq γ$的数量相当,其中$γ\in (0,\infty),$我们以CLT的形式获得一致性率,用于当$M$比$n: \lim_{n \to \infty}{\frac{\sqrt{\log{n}}}{\log{\frac{n}{M(n)}}}}=0.$增长稍慢时,分离的尖峰趋于无穷快。已经被$o(n^{1/6})$覆盖的尖峰数量,并揭示了在这些CLT中的定中心的一定程度的灵活性,因为它可以是经验的、确定的或两者的总和。此外,我们推导出相应的经验特征向量的一致性率,他们真正的同行,这原来取决于这些特征值的相对增长。
2021-12-14 math.PR math.ST stat.TH
Edgeworth corrections for the spiked eigenvalues of non-Gaussian sample covariance matrices with applications
KLASMOE and School of Mathematics and Statistics, Northeast Normal University(东北师范大学数学与统计学院)
本文为非高斯数据下的单尖刺和多尖刺场景建立了尖刺特征值的一阶 Edgeworth 展开,借此构建更准确的置信区间并估计尖刺数量,在稳健性和准确性上优于现有方法。
2026-09-24 math.PR math.ST stat.ME
Detecting Spectral Breaks in Spiked Covariance Models
本文研究高维尖峰协方差模型中序列经验协方差矩阵最大特征值的极限过程,证明其弱收敛于非高斯过程,并基于中心化尖峰特征值构造极大统计量以检测协方差结构断点,证明检验一致性并通过模拟验证其表现。
2024-04-30 math.ST stat.TH
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化,其中加载矩阵配备了新型矩阵钉板LASSO先验,这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失,一种新的损失函数测量子空间之间的距离,能够捕获元素的特征向量扰动。我们表明,后验收缩率相对于2到无穷大的范数损失是严格的,比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外,提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估,通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
A Lanczos-Based Algorithmic Approach for Spike Detection in Large Sample Covariance Matrices
本文提出基于兰茨算法的高效方法,用于估计大型样本协方差矩阵中的尖峰数量,具有更高的计算效率和鲁棒性。
2025-12-29 math.PR math.ST stat.CO
High-dimensional tests for spherical location and spiked covariance
p维单位超球面上的旋转对称分布在方向统计学中非常流行,它涉及一个表示对称轴方向的位置参数θ。解决球面定位问题H_0:theta=theta_0(其中theta_0是固定位置)的最经典方法是所谓的沃森检验,其基于观测值的样本均值。该测试具有许多期望的特性,但是其实现要求样本量n与维度p相比是大的。这是严重的限制,因为现在越来越多的问题涉及高维方向数据(例如,在遗传学或文本挖掘中)。因此,在这项工作中,我们引入了一个修改后的沃森统计,可以应付高维。当n和p都趋于无穷大时,我们得到它的渐近零分布。这是在一个通用的渐近框架中实现的,该框架允许p作为n的函数任意快(或慢)地走向无穷大。我们进一步表明,我们的结果也提供了高维测试的问题,最近引起了很大的关注,即测试的协方差阵的多正态分布有一个“theta_0-spiked”的结构。最后,蒙特卡罗模拟研究证实了我们的渐近结果。
2014-02-12 math.ST stat.TH
Spiked covariances and principal components analysis in high-dimensional random effects models
我们研究了多变量随机和混合效应线性模型中的主成分分析,假设每个随机效应的协方差阵具有球形加尖峰结构。我们刻画了高维渐近条件下MANOVA方差分量估计的离群样本特征值和特征向量的行为。我们的研究结果表明,混叠现象可能会发生在高维,其中一个方差分量的MANOVA估计的特征值和特征向量可能会受到其他组件。我们提出了一种替代的方法来估计真正的主特征值和特征向量,渐近纠正这个混叠问题。
2018-06-25 math.PR math.ST stat.ME
Asymptotics of Empirical Eigen-structure for Ultra-high Dimensional Spiked Covariance Model
我们推导出的渐近分布的尖峰特征值和特征向量的广义和统一的渐近制度下,考虑到尖峰幅度的领先特征值,样本量,和维数。这种新的制度允许高维和发散的特征值尖峰,并提供了新的见解的主导特征值,样本量,和维度发挥主成分分析的作用。结果证明了一个技术设备,它交换的行和列的作用,并将高维问题转化为低维的。我们的结果是Paul(2007)中的结果的自然扩张,以新的见解扩展到更一般的环境,并解决了Shen等人(2013)中的收敛率问题。揭示了用主成分分析估计主特征值和特征向量时存在的偏差,并提出了一种新的近似因子模型协方差估计量--收缩主正交补阈值法(S-POET),以纠正这种偏差.我们的结果被成功地应用于大投资组合的风险估计和相关检验统计量的错误发现比例的突出问题,并通过模拟研究加以说明。
2015-09-12 math.ST stat.ME stat.TH
Testing in high-dimensional spiked models
我们考虑由James(1964)确定的五类多元统计问题,它们一起涵盖了许多经典的多元分析,加上一个更简单的极限情况,对称矩阵去噪。James的每个问题都涉及到$E^{-1}H$的特征值,其中$H$和$E$与高维Wishart矩阵成比例。在原假设下,两个Wisharts都是具有同一协方差的中心。在另一种情况下,$H$的非中心性或协方差参数具有独立的单个特征值,即尖峰。当尖峰信号小于特定情况下的相变阈值时,没有一个样本本征值与体相分离,这使得测试问题具有挑战性。使用一个统一的策略的六种情况下,我们表明,由次临界尖峰值参数化的对数似然比过程收敛到高斯过程的对数相关。然后,我们推导出渐近功率包络测试的存在一个尖峰。
2018-02-03 math.ST stat.TH
Sampling Spiked Wishart Eigenvalues
该研究将现有Wishart矩阵特征值高效采样方案推广到任意尖峰数的spiked Wishart及pseudo-Wishart分布,并给出采样过程的求导方法以支持随机梯度下降拟合目标分布。
2024-09-25 math.ST stat.CO stat.TH
Extreme eigenvalues of large-dimensional spiked Fisher matrices with application
考虑两个$p$ -变量总体,不一定是高斯的,分别具有协方差矩阵$Σ_1$和$Σ_2$,并让$S_1$和$S_2$分别是来自具有自由度$T$和$n$的总体样本的样本协方差矩阵。当$Σ_1$和$Σ_2$之间的差异$Δ$与$p,T$和$n$相比具有小秩时,Fisher矩阵$F=S_2^{-1}S_1$被称为{ \em加标Fisher矩阵}。当$p,T$和$n$成比例地增长到无穷大时,我们建立了$F$的极端特征值的相变:当$Δ$的特征值({ \em spikes})高于在某一临界值(或在某一临界值下),Fisher矩阵的相关极值特征值将收敛到其它特征值的全局极限(LSD)的支持之外的某个点;否则,它们将收敛到LSD的边缘点。此外,我们推导出这些极端特征值的尖峰Fisher矩阵的中心极限定理。极限分布被发现是高斯当且仅当相应的人口尖峰特征值在$Δ$是{ \em简单}。数值例子证明了结果的有限样本性能。除了经典的Fisher矩阵在高维数据分析中的应用,我们提出了一种新的方法,用于检测信号,允许任意协方差结构的噪声。仿真实验验证了该检测器的性能。
2015-04-20 math.ST stat.TH
Testing the number of common factors by bootstrapped sample covariance matrix in high-dimensional factor models
本文研究了高维因子模型中自助法对样本协方差矩阵特征值分布的影响,利用尖刺与非尖刺特征值的不同渐近行为,提出了检验公共因子数目的创新方法,并证明了其在弱因子和截面相关误差下的可靠性。
2023-11-20 math.PR math.ST stat.ME
Optimal Covariance Estimation for Condition Number Loss in the Spiked Model
研究了相对条件数损失$κ(Σ^{-1/2} \hatΣ Σ^{-1/2})$下协方差矩阵的估计问题,其中$κ(Δ)$是矩阵$Δ$的条件数,$\hatΣ$和$Σ$是估计的协方差矩阵和理论协方差矩阵. $κ$中的最优性-损失在两个程式化应用中提供最优保证:多用户协方差估计和多任务线性判别分析。我们假设所谓的尖峰协方差模型$Σ$,并利用最近的进展,了解该模型,推导出一个非线性收缩,这是渐近最优的正交等变程序。在我们的渐近研究中,变量$p$的数量与观测$n$的数量相当。最佳非线性的形式取决于数据矩阵的纵横比$γ=p/n$和$Σ$的顶部特征值。对于$γ> 0.618...$,甚至可以避免对顶部特征值的依赖。最佳收缩剂具有两个显著的性质。第一,当$p/n \rightarrow γ\gg 1$较大时,它甚至将非常大的特征值实质上缩小因子$1/(1+γ)$。第二,即使对于中度$γ$,某些高度统计显著的特征分量也将被完全抑制。我们发现,当$γ\gg 1$是大的,纯对角协方差矩阵可以是最佳的,尽管顶部的特征值是大的,经验特征值是高度统计显着的。这与从业者的经验一致。我们直观地确定合理的程序与小的最坏情况下的相对遗憾-最简单的是广义软阈值的阈值在散装边缘和斜率$(1+γ)^{-1}$以上的散装。对于$γ< 2$,它最多有百分之几的相对遗憾。
2018-10-17 math.ST stat.ME stat.TH
The limits of the sample spiked eigenvalues for a high-dimensional generalized Fisher matrix and its applications
本文考虑了一类广义的spiked Fisher矩阵。建立了高维广义Fisher矩阵极限谱分布的支撑度的描述准则,研究了总体协方差阵为任意时样本尖峰特征值的几乎必然极限,从而消除了以往工作中不切实际的条件,即假设协方差阵为对角或对角块结构.此外,我们还给出了总体尖峰特征值的一个相合估计。一系列的模拟进行支持的理论结果,并说明我们的估计的准确性。
2019-12-06 math.ST stat.OT stat.TH
Nonlinear spiked covariance matrices and signal propagation in deep neural networks
University of California San Diego(加州大学圣地亚哥分校);New York University(纽约大学);Flatiron Institute(弗拉蒂伦研究所);Yale University(耶鲁大学)
本文研究了深度神经网络中非线性尖峰协方差模型的信号特征值与特征向量,定量描述了输入数据尖峰特征结构在随机权重网络隐藏层中的传播机制,并分析了表示学习中目标函数与 CK 尖峰特征向量的对齐情况。
2024-02-15 cs.LG math.PR math.ST
Limit theorems for sample eigenvalues in a generalized spiked population model
在Johnstone(2001)提出的加样总体模型中,总体协方差阵除了少数固定特征值(加样值)外,其余特征值都等于单位。问题是量化尖峰特征值引起的扰动的影响。Baik和Silverstein(2006)建立了当总体和样本量变大时与尖峰特征值相关的极端样本特征值的几乎必然极限。在最近的工作(白和姚,2008年),我们已经提供了这些极端样本特征值的极限分布。在本文中,我们将这一理论推广到一个{ \em广义}的加标人口模型,其中的基础人口协方差阵是任意的,而不是在Johnstone的情况下的单位矩阵。引入新的数学工具来建立由尖峰产生的样本特征值的几乎必然收敛。
2008-06-06 math.PR math.ST stat.TH
Limiting behavior of bilinear forms for the resolvent of sample covariance matrices under elliptical distribution with applications
本文为椭圆分布下样本协方差矩阵预解式的双线性形式建立联合中心极限定理,发现极限参数的相变,并应用于特征向量统计和尖峰特征值,推广了Haar猜想。
2023-12-27 math.ST stat.TH
Eigenvector distributions and optimal shrinkage estimators for large covariance and precision matrices
本文研究了高维环境下大型样本协方差矩阵和精度矩阵的Stein不变收缩估计量,在近乎任意总体协方差矩阵模型下建立了广泛损失函数的收缩量渐近极限,其关键贡献是推导出非尖峰特征向量的渐近分布。
2024-04-23 math.PR math.ST stat.TH
Optimal Differentially Private PCA and Estimation for Spiked Covariance Matrices
本文研究了尖峰协方差模型下的最优差分隐私主成分分析和协方差估计,刻画了特征量敏感度并建立了极小极大收敛速度,提出了计算高效且在对数因子范围内最优的差分隐私估计器,适用于发散秩、更广信号强度及小样本高维场景。
2024-09-27 cs.IT math.IT math.ST
Optimal Test-Data Piling in HDLSS Classification with Covariance Heterogeneity
本文研究了异质协方差结构下高维低样本量分类中的数据堆积现象,提出了最大化测试数据堆积分离度的第二最大数据堆积方向,并设计了基于数据划分的求解算法,揭示了尾部特征值不平衡是实现最优方向的主要障碍。
2025-08-10 math.ST stat.TH
Bias-Corrected Multiplier Bootstrap Inference for Spectral Edges of Large Covariance Matrices
University of California, Davis(加州大学戴维斯分校)
针对大协方差矩阵谱边缘推断难题,提出偏差校正乘子自助程序,通过校准乘子扰动构建置信区间并校正偏移,证明其渐近有效性,能产生无阈值的尖峰数量估计器及数据驱动的碎石图截止值。
2026-07-31 math.ST stat.ME stat.TH
Invariance principle and CLT for the spiked eigenvalues of large-dimensional Fisher matrices and applications
在不作高斯假设和协方差阵的限制性假设的情况下,得到了高维尖峰Fisher矩阵尖峰特征值的渐近分布.我们首先建立了Fisher矩阵的尖峰特征值的不变原理。也就是说,我们证明了尖峰特征值的极限分布在满足一定条件的一大类总体分布上是不变的。利用不变原理,我们进一步建立了尖峰特征值的中心极限定理。作为一些有趣的应用,我们使用CLT导出了线性模型中线性假设的Roy最大根检验和信号检测中的检验的幂函数。我们进行了一些Monte Carlo模拟,比较所提出的测试与现有的。
2022-03-27 math.ST stat.TH
Inference on testing the number of spikes in a high-dimensional generalized spiked Fisher matrix
本文针对放宽高斯假设与对角约束的高维广义尖峰Fisher矩阵,提出基于部分线性谱统计量的尖峰数量检验方法,建立中心极限定理,并应用于变量选择与变点检测,模拟与实证验证了方法的有效性和通用性。
2025-02-25 math.ST stat.TH
Multiplier Bootstrap and Edge Phase Transitions of High-Dimensional Covariance Matrices
University of California, Davis(加州大学戴维斯分校)
本文研究乘子自助法对高维样本协方差矩阵最大特征值渐近分布的影响,揭示其在不同乘子下的边缘相变,验证其用于高维谱推断的可行性与有效性。
2026-08-18 math.ST stat.ME stat.TH
Generalized Linear Spectral Statistics of High-dimensional Sample Covariance Matrices and Its Applications
本文提出了一种基于高维样本协方差矩阵广义线性谱统计量的新方法,用于检验总体尖峰协方差矩阵的特征空间,展示了尖峰幅度的普遍现象,并通过数值实验验证了方法的准确性与有效性。
2025-12-02 math.ST stat.TH
Federated PCA and Estimation for Spiked Covariance Matrices: Optimal Rates and Efficient Algorithm
本文研究差分隐私约束下尖峰协方差矩阵的联邦PCA与估计,证明中心服务器最优速率为各客户端极小极大速率的调和平均,并推导矩阵版van Trees不等式作为下界工具,提出达到近最优速率的高效隐私保护算法。
2024-11-23 cs.IT math.IT math.ST
Asymptotic limits of spiked eigenvalues and eigenvectors of signal-plus-noise matrices with weak signals and heteroskedastic noise
本文在高维信号加噪声模型中,针对弱信号和异方差噪声,推导了尖峰奇异向量与 Gram 矩阵尖峰特征值的渐近极限,并提出一种新的聚类簇数估计准则。
2025-05-11 math.ST stat.TH
The Quadratic Optimization Bias Of Large Covariance Matrices
本文研究高维尖峰协方差矩阵在二次优化中的偏差问题,提出通过估计“二次优化偏差”函数的根来微调plug-in估计量,从而设计出适用于二次优化场景的新协方差估计方法,并拓展到主成分分析等低维表示改进。
2024-10-04 math.ST stat.AP stat.TH
Asymptotic distribution of spiked eigenvalues in the large signal-plus-noise models
本文研究大型各向异性信号加噪声矩阵,在一般结构与噪声分布假设下建立超临界尖峰奇异值的渐近联合分布,揭示其非普适性并用于混合模型及均值异质性检测。
2024-01-22 math.ST stat.TH
A CLT for the LSS of large dimensional sample covariance matrices with unbounded dispersions
在总体协方差阵不一致有界的情况下,建立了高维样本协方差阵线性谱统计量的中心极限定理,它是Bai-Silverstein定理(BST)(2004)的非平凡推广.后者有力地促进了高维统计学的发展,特别是随机矩阵理论在统计学中的应用。但是,总体协方差阵一致有界的假设被发现强烈地限制了BST的应用。本文的目的是消除BST应用的障碍。新的CLT允许尖峰特征值存在并趋于无穷大。有趣的是,注意到尖峰特征值或批量特征值或两者的作用在CLT中占主导地位。此外,通过各种人口设置的模拟研究来检查结果。然后应用LSS的CLT来检验协方差阵$ \bSi $等于单位矩阵的假设。为此,我们导出了修正的似然比检验(LRT)和Nagao迹检验(NT)在选择项下的渐近分布,并给出了LRT和NT在某些选择项下的渐近功效。
2022-05-15 math.PR math.ST stat.TH
Optimal Eigenvalue Shrinkage in the Semicircle Limit
本文研究了非比例增长渐近框架下的尖峰协方差模型,针对15种损失函数推导出封闭形式的最优特征值收缩与阈值化规则,并基于spiked Wigner模型提出统一框架实现渐近最优性。
2023-07-30 math.ST stat.TH
Geometric Fluctuations of the $\sinΘ$ Distance in High-Dimensional Principal Subspace Estimation
University of Science and Technology of China(中国科学技术大学);School of Management, University of Science and Technology of China(中国科学技术大学管理学院)
本文通过平方Frobenius $\sin\Theta$距离研究高维协方差矩阵主子空间的几何波动,建立一阶展开和中心极限定理,并应用于PCA风险与分布式PCA误差分析,发现误差可随尖峰增强而减小。
2026-09-09 math.ST stat.TH
Joint density of eigenvalues in spiked multivariate models
经典的多变量分析方法是基于一个或两个样本协方差阵的特征值。在这些方法的许多应用中,例如对于高维数据,考虑与原假设低秩偏离的备择假设是很自然的。对于秩为1的方案,本文给出了用单个围道积分表示的联合特征值密度。这将用于推导测试中使用的似然比和线性统计量的近似分布。
2014-06-14 cs.IT math.IT math.ST
Matrix Denoising with Partial Noise Statistics: Optimal Singular Value Shrinkage of Spiked F-Matrices
针对未知协方差噪声下的低秩矩阵估计,提出利用纯噪声侧信息的 WSC 工作流,并推导尖峰 F 矩阵的渐近最优闭式奇异值收缩。
2023-07-15 cs.IT eess.SP math.IT
Inconsistency of diagonal scaling under high-dimensional limit: a replica approach
本文证明了当总体为高斯分布且具有尖峰协方差模型时,如果样本协方差矩阵的维数与样本量之比收敛于一个正常数,则样本协方差阵的对角标度是渐近不相容的.我们的非严格证明依赖于统计物理学中开发的复制方法。与文献中已知的主成分分析的类似结果相比,没有观察到强烈的不一致性。数值实验结果支持所推导的公式。
2018-08-17 math.ST stat.TH
A new approach for estimating the number of spikes in high-dimensional Gaussian models
Laboratoire de l’Intégration du Matériau au Système (Univ. Bordeaux, Bordeaux INP, CNRS)(材料-系统整合实验室(波尔多大学、波尔多理工学院、法国国家科学研究中心));Laboratoire des Signaux et Systèmes (CNRS, Univ. Paris-Saclay, CentraleSupélec)(信号与系统实验室(法国国家科学研究中心、巴黎萨克雷大学、中央理工高等学院));Laboratoire d’Informatique, Systèmes, Traitement de l’Information et de la Connaissance (Univ. Savoie/Mont-Blanc, Polytech Annecy)(信息处理与知识计算信息系统实验室(萨瓦/勃朗峰大学、阿讷西理工学院))
针对高维高斯模型信号子空间维度估计中经典方法依赖先验上界易误指定的问题,提出基于样本协方差矩阵最小特征值构建阈值的新方法,该方法在误指定情形下仍一致且性能更优。
2026-10-14 math.ST stat.ME stat.TH
An Improvement on the Hotelling $T^2$ Test Using the Ledoit-Wolf Nonlinear Shrinkage Estimator
Hotelling的$T^2$检验是一种经典的方法,用于区分共享总体协方差阵的两个多元正态样本的均值。Hotelling检验对于高维样本并不理想,因为估计的样本协方差阵的特征值对于其总体对应矩阵是不一致的估计量。我们用Ledoit和Wolf 2020的非线性收缩估计量代替了样本协方差阵。我们根据经验观察到,对于亚高斯数据,所得算法优于过去的方法(Bai和Saranadasa 1996,Chen和Qin 2010,以及Li等人2020),适用于一系列人口协方差阵,其中包括具有高或低条件数和许多或少数非平凡的矩阵-即,峰值特征值
2022-06-03 math.ST stat.TH
CLT for LSS of sample covariance matrices with unbounded dispersions
在数据维数与样本量成比例趋于无穷大的高维情形下,得到了高维样本协方差阵线性谱统计量的中心极限定理.与现有文献不同的是,我们的结果不需要假设总体协方差阵是有界的。此外,本文还允许实数据中的许多常见核函数,如对数函数和多项式函数。在我们的模型中,尖峰特征值的数量可以是固定的或趋于无穷大。我们提出的中心极限定理中的渐近均值和协方差的一个显著特点是它与总体谱范数的发散阶有关。
2021-06-18 math.PR math.ST stat.ME
Spectral Thresholds in Correlated Spiked Models and Fundamental Limits of Partial Least Squares
Pierre Mergny Information, Learning and Physics Laboratory (IdePHICS), EPFL, 1015 Lausanne, Switzerland(Pierre Mergny 信息、学习与物理实验室(IdePHICS),EPFL);Lenka Zdeborová Statistical Physics of Computation Laboratory (SPOC), EPFL, 1015 Lausanne, Switzerland(Lenka Zdeborová 统计物理计算实验室(SPOC),EPFL)
该研究通过随机矩阵理论分析,揭示了部分最小二乘法在相关尖峰模型中的谱阈值及性能极限,发现PLS在特定条件下无法恢复信号,与贝叶斯最优估计器存在性能差距。
2025-10-20 cond-mat.dis-nn cs.LG math.ST
Detection limits in the high-dimensional spiked rectangular model
我们研究的问题,检测一个单一的未知的尖峰在一个矩形数据矩阵的存在下,在一个高维制度,尖峰具有固定的强度和矩阵的纵横比收敛到一个有限的限制。该设置包括Johnstone的加标协方差模型。我们分析的似然比的尖峰模型对一个“所有噪声”的零模型的参考,并显示它有渐近高斯波动在一个区域以下-但在一般情况下不高达-所谓的BBP阈值从随机矩阵理论。我们的结果与Onatski等人的早期发现相似。(2013)和Johnstone-Onatski(2015)的球形钉。我们提出了一个概率的方法能够处理通用产品的先验。特别地,允许尖峰中的稀疏性。我们的方法是基于Talagrand的解释腔方法从自旋玻璃理论。渐近正态性预期保持的最大参数区域的问题是开放的。该区域由先验以非平凡的方式形成。我们推测这是一个相关的自旋玻璃模型的整个顺磁相,并且是由Lebanon等人的复制对称解的消失来定义的。(2015年)。
2018-06-14 math.PR math.ST stat.ML
The Beta-Mixture Shrinkage Prior for Sparse Covariances with Posterior Minimax Rates
稀疏协方差阵的统计推断对于揭示大型多元数据集的相关结构至关重要,但缺乏可扩展的和理论支持的贝叶斯方法。在本文中,我们提出了β-混合收缩先验,计算效率比尖峰和板坯先验,稀疏协方差阵,并建立其在高维设置的极大极小最优性。建议的先验由β混合收缩和伽马先验的非对角和对角条目,分别。为了保证所得到的协方差阵的正定性,我们进一步将先验的支持度限制在正定矩阵的子空间中。在Frobenius范数下,我们得到了诱导后验估计的后验收敛速度,并建立了稀疏协方差阵的极大极小下界。本文所考虑的极小极大下界的稀疏协方差阵类由非零非对角元素的个数控制,比文献中出现的稀疏协方差矩阵类具有更直观的吸引力.除非真的协方差阵是非常稀疏的,否则所得到的后验收敛速度与极大极小下界一致。在模拟研究中,我们表明,所提出的方法是计算效率比竞争对手,同时实现可比的性能。基于两个真实数据集的收缩先验的优点证明。
2021-01-12 math.ST stat.ME stat.TH