Large sample behaviour of high dimensional autocovariance matrices
当观测值来自无穷维向量线性过程且对系数矩阵作适当(强)假设时,已知$\hatΓ_u+\hatΓ_u^*$($u$阶样本自协方差矩阵$\hatΓ_u$的对称和)极限谱分布(LSD)的存在性.在较弱的条件下,统一地证明了$\hatΓ_u+\hatΓ_u^*$,$\hatΓ_u\hatΓ_u^*$,$\hatΓ_u\hatΓ_u^*+\hatΓ_k\hatΓ_k^*$等矩阵中任意对称多项式的LSD都存在.我们的方法是通过更直观的代数方法的自由概率结合矩量法。因此,我们能够提供一个一般的描述的限制,在一些自由的自变量。前面的结果都是特例。我们建议统计使用这些LSD和相关结果的顺序确定和白噪声测试。
2016-03-30 math.ST stat.TH
On tail-robust autocovariance matrix estimation for high-dimensional and potentially nonstationary time series
Auburn University(奥本大学);University of Geneva(日内瓦大学);Pennsylvania State University(宾夕法尼亚州立大学);University of Georgia(佐治亚大学)
本文针对高维且可能非平稳的重尾时间序列,提出逐元素Huber M估计量与逐元素截断估计量,证明其非渐近性质等理论结果,通过数值实验及月度宏观经济数据变点检测验证方法有效性。
2026-09-07 math.ST stat.ME stat.TH
Separation of uncorrelated stationary time series using autocovariance matrices
盲源分离(Blind Source Separation,BSS)是一种信号处理工具,广泛应用于各个领域。例子包括生物医学信号分离、脑成像和经济时间序列应用。在BSS中,假设观测到的$p$时间序列是$p$潜在不相关弱平稳时间序列的线性组合。然后,目标是找到解混矩阵的估计,该解混矩阵将观察到的时间序列变换回不相关的潜在时间序列。在二阶盲辨识(SOBI)中,利用协方差阵和多滞后自协方差矩阵的联合对角化来估计解混矩阵。解混矩阵的行可以一个接一个地导出(基于紧缩的方法)或同时导出(对称方法)。后者是众所周知的,特别是在信号处理文献中,然而,严格的分析,其统计特性一直缺失。本文填补了这一空白,详细研究了对称SOBI估计的统计性质,并在一般条件下找到了它的极限分布。在一般的多元MA $(\infty)$过程下,比较了对称SOBI估计和最近引入的基于收缩的SOBI估计的渐近效率.一些有限样本的仿真研究,以及一个真正的EEG数据的例子说明了理论。
2014-05-14 math.ST stat.TH
Spectral analysis of spatial-sign covariance matrices for heavy-tailed data with dependence
针对具有一般协方差结构的α-正则变化重尾相依总体数据,本文研究空间符号协方差矩阵的谱特性,建立其极限谱分布及线性谱统计量的中心极限定理,并给出几乎最弱的条件(α≥2时Marčenko-Pastur方程成立,α>4时中心极限定理有效)。
2025-02-16 math.ST stat.TH
Exact minimax risk for linear least squares, and the lower tail of sample covariance matrices
我们考虑随机设计线性预测及随机矩阵下尾的相关问题。已知在有界性约束下,极小极大风险在$n$样本的维度$d$上是$d/n$阶的。在这里,我们研究了全线性类上的极大极小期望超额风险,这取决于协变量的分布。首先,对于协变量的每个分布,最小二乘估计量在良好指定的情况下都是极小极大最优的。我们用单个样本的统计杠杆得分的分布来表示极大极小风险,并推导出对于任何协变量分布的$d/(n-d+1)$的极大下界,几乎与高斯设计的风险相匹配。然后,我们得到尖锐的非渐近上界协变量,满足“小球”型正则性条件,在指定和错误的情况下。我们的主要技术贡献是研究经验协方差阵在小值时的最小奇异值的下尾。我们建立了一个下界在这个较低的尾部,有效的任何分布在尺寸$d \geq 2$,连同一个匹配的上界在一个必要的正则性条件。我们的证明依赖于PAC贝叶斯技术控制经验过程,并扩展了奥利维拉致力于下尾的不同部分的分析。
2022-02-24 math.PR math.ST stat.ML
A large deviations approach to limit theory for heavy-tailed time series
本文推广了一种大偏差方法来证明(一般)具有重尾的多元时间序列的极限定理。我们通过引入有规律变化的时间序列来使这个概念精确。我们提供了一般的大偏差结果的泛函作用在一个样本路径和消失在一些邻域的起源。我们研究了这类泛函,包括随机游动的大偏差,它们的上界,破产泛函,并进一步导出了极大值,点过程,簇泛函和尾经验过程的弱极限理论.本文的主要结果之一涉及各种重尾模型,包括GARCH模型,随机波动率模型和随机递归方程的解的破产概率的界。1.在过去的几十年里,人们已经投入了大量的努力来理解相关序列的极限理论,包括马尔可夫链(Meyn和Tweedie [42]),弱依赖序列(Dedecker等人[21]),长距离依赖序列(Doukhan等人[23],Samorodnitsky [54]),经验过程(Dehling等人[22])和更一般的结构(Eberlein和Taqqu [25]),仅举几个参考文献。一小部分的理论致力于极限理论下极值依赖点过程,最大值,部分和,尾部经验过程。Resnick [49,50]开始系统地研究点过程的收敛性、和与极大值之间的关系,最近的一个解释也见Resnick [51]。他提倡使用多元规则变分作为一种灵活的工具,结合先进的连续映射技术来描述重尾现象。例如,最大值和和被理解为作用于基础点过程的泛函,如果点过程收敛,则这些泛函也收敛,并且它们的极限被描述为极限点过程的点。Da…
2015-09-01 math.ST stat.TH
Central Limit Theorem for Linear Spectral Statistics of Large Dimensional Kendall's Rank Correlation Matrices and its Applications
本文研究了独立分量和连续分量样本生成的高维Kendall秩相关阵的极限谱行为。我们不要求分量同分布,也不需要任何矩条件,这与随机矩阵理论文献中的假设有很大不同。本文中的统计设置涵盖了广泛的高度偏态和重尾分布。在Marchenko-Pastur渐近条件下,建立了Kendall秩相关阵的线性谱统计量的中心极限定理(CLT),其中维数与样本量成正比地趋于无穷大.我们进一步提出了三种高维独立检验的非参数方法,并通过实现该方法得到了它们的极限零分布。我们的数值比较表明,我们提出的检验统计量在各种混合和重尾情况下的鲁棒性和优越性。
2019-12-13 math.ST stat.ME stat.TH
Asymptotics for Duration-Driven Long Range Dependent Processes
我们考虑具有重尾持续时间的二阶长程相关过程。我们把这种现象称为持续时间驱动的长程相关性(DDLRD),而不是更广泛研究的线性长程相关性的基础上的分数差分的$iid$过程。我们详细考虑了两个具有DDLRD的特定过程,最初在Taqqu和Levy(1986)以及Parke(1999)中提出。对于这些过程,我们得到了适当标准化的离散傅里叶变换(DFT)和样本自协方差的极限分布。在低频,标准化DFT收敛到一个稳定的规律,在固定滞后的标准化样本自协方差。在一个固定的滞后集的标准化样本自协方差的有限集合收敛到一个退化分布。标准化DFT在高频下收敛于高斯定律。我们的渐近结果是惊人的相似的两个DDLRD过程的研究。我们通过模拟研究校准了我们的渐进结果,该研究还研究了记忆参数的半参数对数周期图回归估计量的性质。
2007-05-18 math.ST stat.TH
On the Marčenko-Pastur law for linear time series
本文研究了经典的Marčenko-Pastur定律在时间序列中的推广。具体而言,$p$维线性过程被认为是建立从独立的,相同分布的(实或复值)条目具有零均值,单位方差和有限的四阶矩的创新向量。线性过程的系数矩阵被假定为同时可对角化。在此设置中,样本协方差矩阵和对称化样本自协方差矩阵的经验谱分布的限制行为在高维设置$p/n\to c\in (0,\infty)$中确定,其中维度$p$和样本量$n$以相同的速率发散到无穷大。结果扩展了现有的贡献,在文献中的协方差的情况下,是第一个为自协方差的情况下。
2015-04-02 math.ST stat.TH
Eigenvalues and eigenvectors of heavy-tailed sample covariance matrices with general growth rates: the iid case
本文研究了当$p$和样本量$n$一起收敛到无穷大时,具有iid项的$p$维时间序列样本协方差阵的最大特征值的联合分布收敛性.我们只考虑重尾时间序列,在这个意义上,条目满足一些定期的变化条件,确保他们的四阶矩是无限的。在这种情况下,Soshnikov [31,32]和Auffinger等人[2]证明了样本协方差阵的归一化特征值的点过程向非齐次泊松过程的弱收敛,这反过来意味着最大特征值按分布收敛到Fréchet分布的随机变量。他们在假设$p$和$n$彼此成比例的情况下证明了这些结果。在本文中,我们表明,上述结果仍然有效,如果$p$增长在任何多项式的速度。这些证明与文献[2,31,32]中的证明不同,我们采用了大偏差技术。证明表明,只有样本协方差阵的对角线与最大特征值及其对应的特征向量的渐近行为有关,这些特征值和特征向量接近于标准基向量。我们还讨论了样本自协方差矩阵的结果的扩展。
2016-08-24 math.PR math.ST stat.TH
Deep learning estimation of the spectral density of functional time series on large domains
University of Texas El Paso(德克萨斯大学埃尔帕索分校);Indian Statistical Institute(印度统计研究所);Colorado State University(科罗拉多州立大学)
本文提出了一种基于深度学习的功能时间序列谱密度估计方法,解决了大域上计算自相关核的难题,通过并行化加速估计过程,并在模拟和fMRI图像中验证了其有效性。
2026-01-01 math.ST stat.ME stat.ML
Marcinkiewicz Law of Large Numbers for Outer-products of Heavy-tailed, Long-range Dependent Data
Marcinkiewicz Strong Law,$\displaystyle\lim_{n\to\infty}\frac{1}{n^{\frac1p}}\sum_{k=1}^n (D_{k}- D)=0$ a.s.其中$p\in(1,2)$均为双边(多元)线性过程(系数矩阵为$(C_l), (\overline{C}_l)$和i.i.d.)零均值新息$\{Ξ\}$、$\{\overlineΞ\}$)。矩阵序列$C_l$和$\overline{C}_l$可以足够慢地衰减(如$|l|\to\infty$),使得$\{X_k,\overline{X}_k\}$具有长程相关性,而$\{D_k\}$可以具有重尾。特别是,重尾和长程依赖现象$\{D_k\}$同时处理和一个新的解耦性能证明,表明收敛速度是由最坏的重尾或长程依赖,但不是组合。主要结果被应用于随机逼近、非线性函数形式和自协方差的Marcinkiewicz强大数定律。
2015-01-11 math.ST stat.TH
Tails of bivariate stochastic recurrence equation with triangular matrices
研究了具有三角形矩阵系数的二元随机递归方程,刻画了其平稳解${\bf W} =(W_1,W_2)$的尾部行为。最近,人们已经观察到,$W_1,W_2$可能会表现出有规律地变化的尾巴与不同的指数,这是在著名的凯斯滕型的结果。然而,只有部分结果已经得出。在典型的“Kesten-Goldie”和“Grey”条件下,我们完全描述了$W_1,W_2$的尾部行为。我们得到的尾渐近性在以前的随机递归方程中是没有观察到的。
2022-05-03 math.PR math.ST stat.TH
Concentration and moment inequalities for sums of independent heavy-tailed random matrices
University of Southern California(南加州大学)
本文针对仅存在低阶有限矩的独立重尾随机矩阵和,证明了依赖有效秩等内在维度的Fuk-Nagaev型与Rosenthal型不等式,并通过多个应用验证了结果优势。
2025-11-19 math.PR math.ST stat.TH
On the spectral norm of large heavy-tailed random matrices with strongly dependent rows and columns
本文研究了一种新的随机矩阵系综$X$,它是通过对具有无限四阶矩的iid随机变量矩阵应用二维线性滤波器而构造的。当$X$的列数和行数趋于无穷大时,我们的结果给出了(中心化)样本协方差阵$XX^\T$的谱范数的渐近上下上界.
2012-11-30 math.PR math.ST stat.TH
Small deviation estimates for the largest eigenvalue of Wigner matrices
本文建立了实对称复埃尔米特矩阵最大特征值的精确右尾小偏差估计,其中矩阵元为独立的具有一致有界矩的随机变量.证明依赖于一个格林函数比较沿连续插值矩阵流很长一段时间。在左尾也获得了较不精确的估计。
2022-03-31 math.PR math.ST stat.TH
Spectral analysis of linear time series in moderately high dimensions
本文研究了中等高维情形下$p$ -维线性过程的谱行为,当维数$p$和样本量$n$趋于无穷大时,使得$p/n\to0$ .结果表明,在一组适当的假设下,经验谱分布的重正化和对称化的样本自协方差矩阵几乎必然收敛到一个非随机的极限分布上支持的实数线。关键假设是线性过程由一系列具有i.i.d.的$p$维实数或复数随机向量驱动。项具有零均值、单位方差和有限四阶矩,并且$p\times p$线性过程系数矩阵是厄米特的并且同时可对角化。这些假设的几个放宽进行了讨论。本文的研究结果有助于对模型参数的推断、模型诊断和线性过程未来值的预测。
2015-04-23 math.ST stat.TH
The eigenstructure of the sample covariance matrices of high-dimensional stochastic volatility models with heavy tails
我们考虑一个$p$维时间序列,其中维度$p$随着样本量$n$而增加。由此产生的数据矩阵$X$遵循随机波动率模型:每个条目由正随机波动率项乘以独立噪声项组成。波动率乘数在每一行和各行之间引入相关性。本文研究了在噪声为正则变化的假设下,样本协方差阵$XX'$的特征值和特征向量的渐近行为。特别是,我们证明了泊松收敛的点过程的中心和规范化的特征值,并得出极限理论的泛函作用于他们,如跟踪。我们证明了随机波动率模型与额外的线性相关结构和随机波动率模型的时变波动率项被熄灭时,高概率$n$增加的相关结果。我们提供明确的近似的特征向量是一个惊人的简单的结构。证明这些结果的主要工具是重尾时间序列的大偏差定理,主张用统一的方法研究重尾随机矩阵的特征结构。
2020-01-14 math.PR math.ST stat.TH
Limit Theory for the largest eigenvalues of sample covariance matrices with heavy-tails
研究了基于大$p\times n$矩阵$X$的$p\times p$样本协方差矩阵$XX^\T$的最大特征值的联合极限分布. $X$的行由线性过程$X_{it}=\sum_j c_j Z_{i,t-j}$的独立副本给出,该过程具有带尾部索引$α\in(0,4)$的规则变化噪声$(Z_{it})$。证明了基于$XX^\T$特征值的点过程以适当的速度收敛于强度测度依赖于$α$和$\sum c_j^2$的Poisson分布点过程,收敛于$n\to\infty$和$p\to\infty$.这一结果被扩展到随机系数模型的线性过程$(X_{it})$的系数由$c_j(θ_i)$给出,对于一些遍历序列$(θ_i)$,因此在每一行的$X$不同。作为我们的技术的一个副产品,我们得到了相应的结果的证明,在$p/n$为零或无穷大和$α\in(0,2)$的情况下,矩阵与iid条目。
2012-10-29 math.PR math.ST stat.TH
Componentwise different tail solutions for bivariate stochastic recurrence equations -- with application to GARCH(1,1) processes --
我们研究了二元随机递归方程(SRE)的应用程序的GRESS(1,1)过程的动机。如果SRE的系数矩阵有严格的正元素,那么Kesten结果适用,它给出了有规律变化的尾部的解决方案。此外,所有坐标的尾部索引都相同。然而,对于应用程序来说,这个框架限制太多。研究了系数为三角形矩阵时的SRE问题,证明了解的坐标可能具有不同指数的规则变化尾。我们还指定每个尾部索引及其常量。所得结果可用于刻画二元平稳Gestival(1,1)过程的正则变化。
2017-06-19 math.PR math.ST stat.TH
Covariance matrix estimation and linear process bootstrap for multivariate time series of possibly increasing dimension
多元时间序列提出了许多挑战,特别是当它们是高维的。本文的重点是双重的。首先,我们解决了一致估计自协方差序列的问题;这是一个矩阵序列,我们可以方便地堆叠成一个巨大的矩阵。然后,我们能够显示的一致性的估计的基础上,所谓的平顶锥,最重要的是,即使当时间序列维度被允许增加与样本量的一致性仍然成立。其次,我们重新审视McMurry和Politis [J.时间序列Anal. 31(2010)471-482]中描述。基于上述堆叠自协方差矩阵估计器,我们能够定义对多元时间序列有效的LPB版本。在相当一般的假设下,我们证明了我们的多元线性过程自助法(MLPB)在两种重要情况下对样本均值具有渐近有效性:(a)当时间序列维数固定时,以及(b)当它被允许随样本量增加时。另外,在情况(a)中,我们表明MLPB也适用于谱密度估计,即使在单变量情况下,这也是一个新的结果。最后,我们进行了模拟研究,证明了MLPB在某些重要情况下的优越性。
2015-06-02 math.ST stat.TH
Variational Tail Bounds for Norms of Random Vectors and Matrices
提出基于一维边际矩条件的随机向量和矩阵范数的变分尾界,通过高斯分布的推送实现聚合分布参数化,导出KL与Rényi散度组合的PAC-Bayes型界。
2026-06-24 math.PR math.ST stat.ML
Dimension-free Bounds for Sum of Dependent Matrices and Operators with Heavy-Tailed Distribution
本文针对相依且重尾的高维随机矩阵与算子之和,推导出依赖有效秩而非维度的无维数偏差上界,利用矩母函数对偶变分近似与特征值截断技术,推广了现有研究并应用于协方差估计等问题,同时附上对原定理的勘误。
2025-06-25 math.ST stat.TH
Limiting distributions for eigenvalues of sample correlation matrices from heavy-tailed populations
考虑一个$p$维总体${\mathbf x} \in\mathbb{R}^p$,其iid坐标在一个指数为$α\in (0,2)$的稳定分布的吸引域中.由于${\mathbf x}$的方差是无穷大的,因此基于来自总体的样本${\mathbf x}_1,\ldots,{\mathbf x}_n$的样本协方差矩阵${\mathbf S}_n=n^{-1}\sum_{i=1}^n {{\mathbf x}_i}{\mathbf x}'_i$表现不佳,因此有必要使用样本相关矩阵${\mathbf R}_n= \{\operatorname{diag}({\mathbf S}_n)\}^{-1/2}\, {\mathbf S}_n \{\operatorname{diag}({\mathbf S}_n)\}^{-1/2}$。当维数$p$和样本容量$n$都增长到无穷大时,本文找到了${\mathbf R}_n$的特征值的极限分布,使得$p/n\to γ\in (0,\infty)$ .极限分布族$\{H_{α,γ}\}$是新的,取决于两个参数$α$和$γ$。$H_{α,γ}$的矩被完全确定为两个贡献的总和:第一个来自经典的马琴科-帕斯托尔定律,第二个来自重尾。此外,家族$\{H_{α,γ}\}$在边界$α=2$和$α=0$处具有连续扩展,分别导致Marčenko-Pastur定律和修改的泊松分布…
2022-09-19 math.PR math.ST stat.TH
Eigenvalues of sample covariance matrices of non-linear processes with infinite variance
我们研究$k$ -重尾样本协方差阵的形式$\bX\bX^\T$在渐近框架中,其中的数据和样本量的维度趋于无穷大的最大特征值。为此,我们假设$\bX$的行是由一些平稳过程的独立副本与定期变化的边缘指数$α\in(0,2)$满足大偏差和混合条件。我们将这些一般结果应用于随机波动率和Gesthem过程。
2013-09-11 math.PR math.ST stat.TH
Extremal bounds for Gaussian trace estimation
本文通过定义特征值偏序关系,为高斯迹估计器建立了极值尾部界,覆盖有界有效秩半正定矩阵和有界2-范数且固定Frobenius范数的不定矩阵两类情形。
2024-11-23 cs.NA math.NA math.PR
On Dimension-free Tail Inequalities for Sums of Random Matrices and Applications
Dalian University of Technology(大连理工大学);University of Technology Sydney(悉尼科技大学);The University of Sydney(悉尼大学)
本文给出了一个新的框架来获得随机矩阵和的尾不等式。与已有的工作相比,我们的尾不等式具有以下特点:1)高可行性--它们可以用来研究各种矩阵函数的尾行为,例如,任意矩阵范数,$j$最大奇异值之和的绝对值(分别为特征值)的复矩阵(分别. Hermitian矩阵);(2)矩阵维数无关性--它们没有矩阵维数项作为乘积因子,因而适用于高维或无穷维随机矩阵的情形。我们为获得这些优点所付出的代价是,当被加数随机矩阵的数目很大时,所得不等式的收敛速度会变慢。本文还建立了矩阵随机序列和矩阵鞅差序列的尾不等式。我们还证明了有用的我们的尾部边界在几个领域。在压缩感知中,我们使用所得到的尾部不等式来实现当测量矩阵是随机矩阵的和而不对矩阵元素的分布做任何假设时的受限等距性的证明。在概率论中,我们得到了一个新的随机过程最大值的上界。在机器学习中,我们证明了随机矩阵和的新的期望界,并通过随机抽样得到了矩阵逼近方案。在量子信息中,我们给出了一个新的分析有关的分数覆盖数的量子超图。在理论计算机科学中,我们使用矩阵扩展器图获得随机有效的采样器,这些采样器可以在不依赖于矩阵维度的情况下及时有效地实现。
2019-10-08 cs.LG math-ph math.MP
Local Tail Statistics of Heavy-Tailed Random Matrix Ensembles with Unitary Invariance
我们研究酉不变的重尾埃尔米特随机矩阵。不变性意味着特征值和特征向量统计量是解耦的。激励问题一直是一个自由稳定的随机矩阵是否有稳定的特征值统计的最大特征值的尾巴。我们调查这个问题,通过使用数值和分析手段,后者利用超对称方法。一个令人惊讶的行为是发现,一个自由稳定的随机矩阵不一定产生稳定的统计,如果它这样做,那么它可能会表现出泊松或泊松样统计。泊松统计已经被观察到的重尾维格纳矩阵。最后,我们对这种特殊的行为做了两个解释。
2021-03-01 cond-mat.dis-nn math-ph math.MP
AR-sieve Bootstrap for High-dimensional Time Series
Hunan University(湖南大学);Macquarie University(麦考瑞大学);Australian National University(澳大利亚国立大学);Xiamen University(厦门大学)
本文提出一种新的高维时间序列AR-筛bootstrap方法,通过因子建模降低维度并捕捉时间依赖性,建立基于因子的bootstrap流程,并在高维场景中验证其有效性。
2025-12-08 math.ST stat.ME stat.TH
Dimension-free PAC-Bayesian bounds for matrices, vectors, and linear least squares regression
在弱多项式矩假设下,考虑重尾样本分布,研究了无量纲PAC贝叶斯边界。它涵盖了向量或矩阵的平均值的估计,以及最小二乘线性回归的应用。特别的努力致力于估计的格拉姆矩阵,由于其突出的作用,在高维数据分析。
2017-12-31 math.ST stat.TH
On Tail Dependence Matrices -- The Realization Problem for Parametric Families
在双变量尾部相关度量中,尾部相关系数已成为流行的选择。类似于相关阵,使用这些二元度量构造多元依赖度量,并且这在文献中被称为尾部依赖矩阵(TDM)。虽然确定给定的${d\times d}$矩阵是否是相关阵的问题在复杂度上是$O(d^3)$的阶,但是确定矩阵是否是TDM(实现问题)被认为在复杂度上是非多项式的。使用一个线性规划(LP)制定,我们表明,组合结构的约束有关的棘手的最大割问题的加权图。这种联系为构造参数类提供了一种途径,该参数类允许$d$算法中的多项式用于确定其约束多面体中的成员。一般实现问题的复杂性无疑具有很大的理论意义。由于在实践中,一个诉诸于较低的维度参数化的TDM,我们认为,这是相当复杂的实现问题限制到参数类的TDM,和算法,更实际相关。在本文中,我们将展示如何利用参数化中固有的对称性和稀疏性来实现LP公式的显着减少,这可能导致此类实现问题的多项式复杂性-某些参数化甚至导致约束多面体独立于$d$。我们还探讨了使用概率的观点TDM推导出的约束多面体。
2019-08-01 math.ST stat.AP stat.TH
Large deviations of extreme eigenvalues of generalized sample covariance matrices
本文提出了一种计算随机矩阵的最大特征值为无穷大的罕见事件概率的分析方法。其大偏差的右尾)。结果也转移到了左尾最小特征值的大偏差上。该技术改进了过去的方法,不需要明确的法律的特征值,我们将其应用到一个大类的随机矩阵,以前遥不可及。特别是,我们解决了一个开放的问题,与性能的主成分分析高度相关的数据,并打开了道路,分析复杂的推理模型的高维景观。我们使用重要性抽样方法来探测我们的结果,有效地模拟概率小至$10^{-100}$的事件。
2021-02-08 cond-mat.dis-nn cond-mat.stat-mech math.PR
On the tail behavior of a class of multivariate conditionally heteroskedastic processes
考虑了具有BEKK(Baba,Engle,Kraft,and Kroner)参数化的多元自回归条件异方差过程的几何遍历性条件.我们证明了一类BEKK过程的不变分布是规则变化的。为了解释边缘值的不同尾指数的可能性,我们考虑向量标度规则变化的概念,本着Perfekt(1997,Advances in Applied Probability,29,pp. 138-164)。过程尾部行为的特征用于推导样本协方差阵的渐近性质。
2017-12-05 math.PR math.ST q-fin.ST
A generalized Lieb's theorem and its applications to spectrum estimates for a sum of random matrices
本文证明了$k$ -迹函数$A\mapsto (\text{Tr}_k[\exp(H+\ln A)])^{1/k}$在所有正定矩阵的凸锥上的唯一性. $\text{Tr}_k[A]$表示$A$的特征值的$k_{\mathrm{th}}$初等对称多项式。作为一个应用,我们使用这些$k$跟踪函数的尾界和期望估计的$k$最大(或最小)的随机矩阵的特征值的总和。
2018-11-30 cs.IT math.IT math.PR
User-Friendly Covariance Estimation for Heavy-Tailed Distributions
我们提供了一个调查最近的结果重尾分布的协方差估计。通过统一分散在文献中的想法,我们提出了用户友好的方法,便于实际实施。具体来说,我们引入元素和频谱截断算子,以及它们的$M$估计对应物,以鲁棒化样本协方差阵。与经典的鲁棒性概念不同的是,本文重点研究了尾部鲁棒性,它是由非渐近偏差和置信水平之间的关系来证明的。关键的观察是,估计器需要适应样本量,数据的维数和噪声水平,以实现偏差和鲁棒性之间的最佳权衡。此外,为了方便他们的实际使用,我们提出了数据驱动的程序,自动校准的调谐参数。我们展示了它们在一系列高维结构模型中的应用,包括可带低秩协方差阵和稀疏精度矩阵。数值研究提供了强有力的支持所提出的方法。
2019-03-11 math.ST stat.ME stat.TH
The lower tail of random quadratic forms, with applications to ordinary least squares and restricted eigenvalue properties
随机协方差型矩阵的有限样本性质一直是许多研究的主题。在本文中,我们专注于这样的矩阵的“下尾”,并证明了它是次高斯在一个简单的四阶矩假设下的一维边缘的随机向量。类似的结果适用于更一般的随机正半定矩阵的和,并且(相对简单的)证明使用了所谓的PAC-贝叶斯方法的变体来限制经验过程。我们给出了主要结果的两个应用。第一部分给出了随机设计下线性回归中普通最小二乘估计的一个新的有限样本界。我们的结果是无模型的,需要相当弱的时刻假设,几乎是最优的。我们的第二个应用是限制特征值常数的某些随机系综与“重尾”。这些常数在压缩感知和高维统计中的问题分析中很重要,其中人们从少量线性测量中恢复稀疏向量。我们的研究结果表明,重尾仍然允许快速的恢复率,发现在有效的方法,如LASSO和Dantzig选择。一路上,我们加强,一个相当短的参数,最近的结果Rudelson和周的限制特征值属性。
2013-12-10 cs.IT math.IT math.PR
Sub-Gaussian Matrices on Sets: Optimal Tail Dependence and Applications
随机线性映射在现代信号处理、压缩感知和机器学习中有着广泛的应用。这些映射可以用于将数据嵌入到显著更低的维度中,同时保留有用的信息。这是通过近似保留数据点之间的距离来完成的,这些数据点被假定属于$\mathbb{R}^n$。因此,这些映射的性能通常通过它们与数据上的等距的接近程度来捕获。高斯线性映射一直是许多研究的对象,而亚高斯设置尚未完全理解。在后一种情况下,性能取决于行的次高斯范数。在许多应用中,例如,在压缩感测中,该范数可能很大,或者甚至随着维度而增长,并且因此表征该依赖性是重要的。我们研究了次高斯矩阵何时可以成为集合上的近等距,证明了以前最好的依赖于次高斯范数是次优的,并提出了最优的依赖。我们的结果不仅回答了Liaw,Mehrabian,Plan和Vershynin在2017年提出的一个遗留问题,而且还推广了他们的工作。我们还开发了一个新的Bernstein型不等式的次指数随机变量,和一个新的Hanson-Wright不等式的二次型的次高斯随机变量,在这两种情况下,改善了在矩约束下的次高斯制度的界限。最后,我们举例说明流行的应用,如约翰逊-林登施特劳斯嵌入,零空间性质的0-1矩阵,随机草图和盲解调,其理论保证可以提高我们的结果(在亚高斯的情况下)。
2021-01-20 cs.IT math.IT math.ST