Near-Optimal Estimation of Simultaneously Sparse and Low-Rank Matrices from Nested Linear Measurements
本文考虑了由嵌套线性测量同时估计低秩和行稀疏矩阵的问题，其中线性算子由线性算子$\mathcal{W}$和矩阵$\mathbf{\varPsi}$的乘积组成.利用测量算子的嵌套结构，我们提出了一个计算效率高的两阶段算法，用于估计同时结构化的目标矩阵。假设$\mathcal{W}$是低秩矩阵的限制等距和$\mathbf{\varPsi}$是行式稀疏矩阵的限制等距，我们建立了一个精度保证，保持一致的所有足够低秩和行式稀疏矩阵具有高概率。此外，使用标准的工具，从信息论，我们建立了一个极小极大下界估计同时低秩和行式稀疏矩阵的线性测量，不需要嵌套。建立的算法，也作为一个极大上界的准确性界限，从派生的极大极小下界不同，只是由一个多对数因子的尺寸。因此，该算法几乎是极小极大最优的。我们还讨论了所提出的观测模型的一些应用，并通过数值模拟评估我们的算法。
2016-03-21 cs.IT math.IT math.OC
Optimal Estimation and Completion of Matrices with Biclustering Structures
数据矩阵中的双聚类结构首先在John Hartigan（1972）的一篇开创性论文中正式化，其中试图同时聚类案例和变量。这种结构在网络的块建模中也很普遍。在本文中，我们开发了一个统一的理论估计和完成矩阵的双聚类结构，其中的数据是一个部分观察和噪声污染的数据矩阵具有一定的双聚类结构。特别是，我们表明，约束最小二乘估计实现最小最大速率最优性能在几个最重要的情况下。为此，我们得到统一的高概率上界的所有子高斯数据，并提供匹配的极大极小下界在高斯和二进制的情况下。由于图子与随机块模型的密切联系，我们的一般结果的直接后果是稀疏图子的极小极大率最优估计。
2018-10-22 math.ST stat.ML stat.TH
Efficient nonparametric estimation of Toeplitz covariance matrices
本文提出一种基于数据变换的Toeplitz协方差矩阵非参数估计量，将其转化为近似高斯回归的均值估计，该方法正定、数据驱动且计算极快，并在谱范数下达到最小最大最优，同时扩展至逆矩阵估计。
2024-01-05 math.ST stat.ME stat.TH
Estimation of functionals of sparse covariance matrices
高维统计检验通常忽略相关性以获得简单性和稳定性，从而导致依赖于相关阵的泛函（例如其Frobenius范数和其他$\ell_r$范数）的零分布。受这类检验临界值计算的启发，我们研究了稀疏相关阵泛函估计的困难。具体而言，我们表明，简单的插件程序的基础上阈值估计的相关阵是稀疏自适应和极大极小最优的一类相关阵。类似于以前的结果功能估计，极大极小利率表现出肘现象。我们的研究结果进一步说明了模拟数据以及金融计量经济学中产生的数据的实证研究。
2015-11-17 math.ST stat.ME stat.TH
Inference for High-dimensional Differential Correlation Matrices
受基因组学中差异共表达分析的启发，本文考虑高维差异相关矩阵的估计和检验。一个自适应阈值的过程中引入和理论保证。极小极大收敛速度的建立和建议的估计是自适应率最优的集合的成对相关矩阵与近似稀疏的差异。仿真结果表明，该过程显着优于其他两个自然的方法，是基于单独的相关矩阵的估计。该程序还说明了通过分析的乳腺癌数据集，它提供了证据，在基因共表达水平的几个基因，其中的一个子集已被事先验证，与乳腺癌。还考虑了对差分相关矩阵的假设检验。一个测试，这是特别适合于测试对稀疏的替代品，介绍。此外，还讨论了其它相关问题，包括单个稀疏相关矩阵的估计、差分协方差阵的估计和差分互相关矩阵的估计。
2015-10-21 math.ST stat.ME stat.TH
Multilevel maximum likelihood estimation with application to covariance matrices
证明了当最大化被限制在包含真参数值的子空间时，最大似然估计的渐近方差减小。极大似然估计允许协方差模型与样本的系统拟合，这在数据同化中是重要的。分层最大似然方法被应用到谱对角协方差模型与不同的参数化的特征值衰减，和稀疏逆协方差模型与指定的参数值上的不同的非零条目。计算表明，使用较小的参数集可以大大降低高维采样噪声。
2018-01-12 math.ST stat.TH
Local Whittle estimation of high-dimensional long-run variance and precision matrices
这项工作开发的非渐近理论估计的长期方差矩阵及其逆，所谓的精度矩阵，为高维时间序列的依赖结构，包括长期依赖的一般假设下。估计涉及收缩技术，阈值和惩罚版本的经典多元本地Whittle估计。结果确保一致的估计，在一个双渐近制度的组件时间序列的数量允许增长的样本量，只要真正的模型参数是稀疏的。关键技术结果是真实模型参数周围长期方差矩阵的局部Whittle估计的集中不等式。特别是，它同时处理进入底层模型的记忆参数的估计。提出了新的算法所考虑的程序，并提供了模拟研究和数据应用。
2022-12-28 math.ST stat.TH
Minimax Rate-optimal Estimation of High-dimensional Covariance Matrices with Incomplete Data
缺失数据在广泛的应用中经常出现。本文考虑了在一般完全随机缺失模型下，缺失观测值存在时高维协方差阵的估计问题，在这个意义下，缺失度不依赖于数据的值.基于不完全数据，提出了可带稀疏协方差阵的估计，并研究了它们的理论和数值性质。在谱范数损失下证明了极小极大收敛速度，并在较弱的正则条件下证明了所提出的估计量是率优的。仿真研究表明，估计执行良好的数值。该方法还说明了通过应用程序的数据，从四个卵巢癌研究。本文中开发的关键技术工具是独立的兴趣和潜在的有用的一系列相关问题的高维统计推断与缺失数据。
2016-05-14 math.ST stat.ME stat.TH
Adaptive Estimation of Graphical Models under Total Positivity
The Hong Kong University of Science and Technology（香港科技大学）；HKUST Shenzhen-Hong Kong Collaborative Innovation Research Institute（港科大深港协同创新研究院）
针对全正性下高斯图模型的M矩阵及对角占优M矩阵精度矩阵估计问题，提出自适应多阶段估计方法，构建梯度投影统一求解框架并给出误差分析，在精度估计与边识别上优于现有方法。
2023-06-08 cs.LG eess.SP stat.ML
Minimax Estimation of Bandable Precision Matrices
逆协方差阵为理解多变量设置中的统计模型提供了相当多的见解。特别地，当假设变量的分布为多元正态分布时，逆协方差阵（通常称为精度矩阵）中的稀疏模式对应于高斯-马尔可夫图的邻接矩阵表示，其编码变量之间的条件独立性陈述。谱范数下的极大极小结果以前已经建立了协方差阵，稀疏和带状，稀疏精度矩阵。我们建立了谱范数下带状精度矩阵的极大极小估计界。我们的研究结果大大提高了现有的界限，特别是，我们发现，估计带状精度矩阵的极大极小率估计带状协方差阵相匹配。在我们的分析中，关键的见解是，我们能够获得几乎没有噪声的估计$k \times k$子块的精度矩阵反转略宽块的经验协方差阵沿对角线。我们的理论结果是补充实验证明我们的界限的清晰度。
2017-10-19 stat.ML
S-estimation in Linear Models with Structured Covariance Matrices
本文给出了结构协方差阵平衡线性模型中S-估计的统一方法。主要的兴趣是线性混合效应模型的S-估计，但我们的方法也包括其他几个标准的多元模型，如多元回归，多元回归，多元位置和分散的S-估计。给出了S-泛函和S-估计存在的充分条件，建立了相合性和渐近正态性等渐近性质，并利用崩溃点和影响函数导出了它们的稳健性.所有的结果得到一般可识别的协方差结构，并建立在温和的条件下的分布的观察，这远远超出了模型的椭圆轮廓密度。我们的一些结果是新的，其他的是更普遍的比现有的文献。通过这种方式，本文完成并改进了各种多元模型中S-估计的结果。我们通过模拟研究和应用程序来说明我们的结果，从铅暴露儿童的治疗试验的数据。
2022-08-03 math.ST stat.TH
Regularized maximum likelihood estimation of covariance matrices of elliptical distributions
极大似然原理在统计学中有着广泛的应用，其估计量往往具有良好的性质。实际上，极大似然估计量在温和的条件下保证是渐近有效的。然而，在某些设置中，样本太少而无法获得良好的估计。然后，需要考虑关于想要估计的分布的先验信息。一种可能的方法是在贝叶斯背景下扩展最大似然原理，然后变成最大后验估计;然而，这需要分布参数的分布模型。因此，我们将集中在正则化估计的替代方法在本文中，我们将展示如何自然地引入极大似然估计的框架，以及如何将它们扩展到形成强大的估计，可以拒绝离群值。
2016-11-30 math.ST stat.TH
Estimation for an additive growth curve model with orthogonal design matrices
本文提出了一种具有正交设计矩阵的可加生长曲线模型，其中观测值可以具有不同的剖面形状。该模型允许我们拟合数据，然后估计参数在一个更简约的方式比传统的增长曲线模型。本文导出了回归系数的两阶段广义最小二乘估计，其中观测值协方差的二次估计量作为第一阶段估计量。研究了这些估计量的相合性、渐近正态性和渐近独立性。仿真研究和一个数值例子来说明所提出的模型规格的效率和简约性的意义上最小化赤池的信息准则（AIC）。
2012-01-05 math.ST stat.TH
An Empirical Bayes Approach to Shrinkage Estimation on the Manifold of Symmetric Positive-Definite Matrices
James-Stein估计量是多元正态均值的估计量，在平方误差损失下优于极大似然估计量（MLE）。最初的工作激发了人们对开发各种问题的收缩估计器的极大兴趣。然而，流形值数据的收缩估计的研究很少。本文给出了定义在$N \times N$对称正定矩阵流形上的对数正态分布参数的收缩估计。对于这个流形，我们选择对数欧几里德度量作为它的黎曼度量，因为它易于计算并且在应用中被广泛使用。通过在损失函数中使用对数欧几里德距离，我们导出了一个解析形式的收缩估计，并证明了它在一个大类估计中是渐近最优的，包括MLE，这是数据的样本Fréchet均值。我们通过几个模拟数据实验证明了所提出的收缩估计的性能。此外，我们应用收缩估计进行统计推断扩散磁共振成像问题。
2020-10-27 math.ST stat.TH
Maximum Likelihood Estimation for Markov Chains
提出了一种新的具有稀疏转移矩阵的马尔可夫链的最优估计方法。
2009-05-26 math.ST stat.CO stat.TH
Fast Spectrum Estimation of Some Kernel Matrices
Emory University（埃默里大学）
提出一种无需显式构造完整核矩阵即可估计其所有特征值量级的框架，适用于均匀分布点集上快速衰减核函数生成的矩阵，并给出理论保证和实验验证。
2026-05-25 cs.NA math.NA stat.ML
Cleaning large-dimensional covariance matrices for correlated samples
我们阐明的问题，估计高维协方差矩阵中存在的样本之间的相关性。为此，我们推广的Marcenko-Pastur方程和Ledoit-Peche收缩估计使用随机矩阵理论和自由概率的方法。我们开发了一个有效的算法，实现相应的解析公式，基于Ledoit-Wolf核估计技术。我们还提供了一个相关的开源Python库，称为“收缩”，具有用户友好的API，以帮助估计大型协方差矩阵的实际任务。我们提出了一个例子，它的使用根据指数衰减的自相关生成的合成数据。
2022-02-01 math-ph math.MP math.ST
Intrinsic minimum average variance estimation for sufficient dimension reduction with symmetric positive definite matrices and beyond
本文研究了响应值为对称正定矩阵的充分降维问题。我们提出的内在最小平均方差估计方法和内在外积梯度方法，充分利用响应所在的黎曼流形的几何结构。我们提出的算法，我们新开发的方法下的对数欧几里德度量和对数Cholesky度量。这两个度量中的每一个都与一个阿贝尔李群结构相关联，该结构将我们在流形上定义的模型转换为欧几里得模型。所提出的方法，然后进一步推广到一般的黎曼流形。我们建立了严格的渐近结果，包括收敛速度和渐近正态性。我们还开发了一个交叉验证算法的结构维度的估计与理论保证全面的模拟研究和应用程序的纽约出租车网络数据进行显示所提出的方法的优越性。
2023-02-25 stat.ME
Scalable Physics-based Maximum Likelihood Estimation using Hierarchical Matrices
基于物理的协方差模型提供了一种系统的方法来构建与高斯过程分析中的基本物理定律一致的协方差模型。协方差模型中的未知参数可以使用极大似然估计来估计，但是协方差矩阵的直接构造和用其计算的经典策略需要$n$物理模型运行、$n^2$存储复杂性和$n^3$计算复杂性。为了解决这样的挑战，我们提出了近似的离散协方差函数使用分层矩阵。通过对单个非对角块进行随机化范围绘制，分层协方差近似的构建过程需要$O(\log{n})$物理模型应用程序，并且极大似然计算每次迭代需要$O(n\log^2{n})$。我们提出了一种新的方法来精确计算层次矩阵的乘积的迹，这使得期望的Fischer信息矩阵也可以在$O(n\log^2{n})$中计算。构造是完全无矩阵的，并且协方差矩阵的导数可以通过区分整个过程而近似于相同的分层结构。数值结果表明，该方法的有效性，准确性和效率的参数估计和不确定性量化。
2023-03-17 cs.NA math.NA stat.CO
Nonparametric Estimation of Large Spot Volatility Matrices for High-Frequency Financial Data
University of Liverpool（利物浦大学）；University of York（约克大学）；University of Cambridge（剑桥大学）；Shandong University（山东大学）
本文研究了高频金融数据中大规模斑点波动率矩阵的非参数估计，结合核平滑与通用收缩技术，在假设均匀稀疏性下提出统一一致性估计方法，并考虑微结构噪声下的局部预平均估计，同时探讨了高维噪声向量的时间变化波动率矩阵估计及因子模型中的大规模波动率矩阵估计。
2023-07-03 econ.EM stat.ME
Mismatched estimation of non-symmetric rank-one matrices corrupted by structured noise
Tsinghua University（清华大学）；Institute of Science and Technology, Austria（奥地利科学技术研究所）；Huawei Technologies Co., Ltd.（华为技术有限公司）
我们研究了贝叶斯统计学家的性能，他估计了一个被非对称旋转不变噪声破坏的秩一信号，该噪声具有奇异值的通用分布。由于信噪比和噪声结构是未知的，因此错误地假设了高斯设置。我们推导出不匹配贝叶斯估计误差的精确解析表达式，并提供了近似消息传递（AMP）算法的分析。第一个结果利用了矩形矩阵和低秩矩阵扰动的球积分的渐近行为;第二个结果依赖于辅助AMP的设计和分析。数值实验表明，AMP和贝叶斯估计器之间存在性能差距，这是由于不正确的估计信号范数。
2023-02-08 cs.IT cs.LG math.IT
Slicing: Nonsingular Estimation of High Dimensional Covariance Matrices Using Multiway Kronecker Delta Covariance Structures
高维协方差阵的非奇异估计是分类、聚类、变量选择和抽取等统计过程中的重要步骤。在回顾了基本的背景材料之后，本文介绍了一种我们称之为切片的技术，用于获得高维数据的非奇异协方差阵。切片本质上是假设数据具有克罗内克符号协方差结构。最后，我们讨论了本文结果的意义，并提供了一个高维基因表达数据分类的例子。
2011-04-15 math.ST stat.ML stat.TH
Estimation of Covariance Matrices under Sparsity Constraints
证明了Frobenius范数下协方差阵估计的最优稀疏预言不等式。特别是，我们探索各种稀疏结构的基础矩阵。
2012-05-06 math.ST stat.TH
Estimation of positive definite M-matrices and structure learning for attractive Gaussian Markov Random fields
考虑一个二阶矩有限的随机向量。如果其精度矩阵是M矩阵，则所有偏相关是非负的。如果该随机向量另外是高斯的，则对应的马尔可夫随机场（GMRF）被称为吸引的。本文研究了利用符号约束对数行列式发散最小化方法估计M-矩阵的逆二阶矩或精度矩阵。我们还处理高维的情况下，变量的数量超过样本量。额外的符号约束大大简化了估计问题：我们提供的证据表明，显式正则化不再需要。为了解决由此产生的凸优化问题，我们提出了一种基于块坐标下降的算法，其中每个子问题可以转化为非负最小二乘问题。提供了模拟和真实世界数据的插图。
2014-04-26 math.ST stat.ML stat.TH
Estimation of Large Covariance and Precision Matrices from Temporally Dependent Observations
本文考虑了高维次高斯或双尾观测数据的大协方差阵和精度阵的估计问题。时间依赖性被允许是长范围的，因此具有比当前文献中考虑的更长的记忆。我们表明，几种常用的独立观测方法可以适用于时间依赖的数据。特别地，给出了协方差矩阵和相关阵的广义门限估计，精度矩阵的约束$\ell_1$极小化和$\ell_1$惩罚似然估计的收敛速度.稀疏性和符号一致性的性质也被建立。提出了一种间隙-块交叉验证的方法来选择调谐参数，在仿真中取得了很好的效果。作为一个启发性的例子，我们使用具有长程时间依赖性的静息态fMRI时间序列数据来研究脑功能连接。
2017-07-18 math.ST stat.ML stat.TH
Estimation and inference for precision matrices of non-stationary time series
在本文中，我们考虑的估计和推断的精度矩阵的丰富的局部平稳和非线性时间序列的一类假设只有一个实现的时间序列观察。使用Cholesky分解技术，我们表明，精度矩阵可以直接估计通过一系列的最小二乘线性回归平滑时变系数。筛子的方法被用于估计，并被证明是有效的和最佳自适应的估计精度和计算复杂性方面。建立了一类基于非参数筛分估计的${\cal L}^2$检验的渐近理论。后者用于检验精度矩阵是对角矩阵还是带状矩阵。对一类广泛的非平稳非线性过程的二次型建立了高维高斯近似结果。
2019-03-25 math.ST stat.TH
Estimation for the Linear Model with Uncertain Covariance Matrices
在信号和噪声协方差阵均为不确定的线性观测模型下，得到了最大后验估计。不确定性处理概率建模的协方差阵与前逆Wishart分布。联合估计的信号和协方差阵的非凸问题是解决了计算效率的固定点迭代，以及近似变分贝叶斯解决方案。估计的统计性能进行了数值比较，从文献中的国家的最先进的估计，表现良好。
2014-01-28 math.ST stat.TH
Improved estimation of the MSEs and the MSE matrices for shrinkage estimators of multivariate normal means and their applications
在这篇文章中，我们提供了一些非负和正估计的均方误差（MSE）的收缩估计多元正态平均。建议的估计，以改善一致最小方差无偏估计（UMVUE）下的二次损失准则。对于收缩估计量的MSE矩阵的估计量也得到了类似的改进。我们还提出了估计的MSE矩阵，形成以收缩估计为中心的置信集，并通过数值实验显示其有用性。
2007-10-05 math.ST stat.TH
Optimal Estimation and Rank Detection for Sparse Spiked Covariance Matrices
本文研究了高维稀疏加样协方差阵模型，研究了协方差阵和主子空间的Minimax估计以及Minimax秩检测。建立了在谱范数下估计尖峰协方差矩阵的最优收敛速率，这需要与估计其他结构化协方差阵（如可带或稀疏协方差阵）的技术显著不同的技术。我们还建立了谱范数下的极小极大率，用于估计主成分分析中的主要感兴趣对象主子空间。此外，最佳速率的秩检测边界得到。这一结果也解决了Berthet和Rigollet [1]最近的一篇论文中的空白，其中考虑了秩1的特殊情况。
2016-03-25 math.ST stat.TH
Sparse and Low-Rank Covariance Matrices Estimation
本文的目的是从半定总体协方差阵中获得同时稀疏和低秩的估计。我们首先受益于一个凸优化开发$l_1$ -范数惩罚，鼓励稀疏性和核范数有利于低秩属性。对于所提出的估计量，我们证明了估计率的Frobenious范数在一般情况下可以是$O(\sqrt{s(\log{r})/n})$阶，其中$s$和$r$分别表示稀疏条目数和总体协方差的秩，$n$表示样本容量.最后提出了一种有效的具有全局收敛性的乘子交替方向法，并通过数值模拟说明了该方法的优点.
2014-08-07 math.OC math.ST stat.ML
Estimation When Both Covariance And Precision Matrices Are Sparse
我们提供了一种方法来估计协方差矩阵的特殊情况下，\textit{both}的协方差阵和精度矩阵是稀疏的--一个约束，我们称之为双稀疏。估计方法是极大似然，服从双稀疏约束。在我们的方法中，只允许一类特殊的稀疏模式：矩阵及其逆矩阵必须从属于同一个弦图。与双重稀疏性的天真执行相比，我们的弦图方法利用了一个特殊的代数局部逆公式。该局部逆属性使得通常涉及逆（精度矩阵或协方差阵的逆）的计算快得多。在协方差阵估计的背景下，我们的建议似乎是第一次找到这样的特殊对协方差和精度矩阵。
2021-08-15 math.ST stat.CO stat.ME
Estimation of low rank density matrices: bounds in Schatten norms and other distances
令${\mathcal S}_m$是所有$m\times m$密度矩阵（单位迹的Hermitian半正定矩阵）的集合。考虑基于观测量$X_1,\dots, X_n\in {\mathbb H}_m$的$n$测量结果的未知密度矩阵$ρ\in {\mathcal S}_m$的估计问题（${\mathbb H}_m$是$m\times m$ Hermitian矩阵的空间）对于相同制备的量子系统，$n$在状态中的时间$ρ.$结果$Y_1,\dots, Y_n$可以通过迹线回归模型来描述，其中${\mathbb E}_ρ(Y_j|X_j)={\rm tr}(ρX_j), j=1,\dots, n.$设计变量$X_1,\dots, X_n$通常从均匀分布随机采样。分布在${\mathbb H}_m$的正交基$\{E_1,\dots, E_{m^2}\}$（例如泡利基）中。目标是基于数据$(X_1,Y_1), \dots, (X_n,Y_n).$估计未知密度矩阵$ρ$令$$ \hat Z:=\frac{m^2}{n}\sum_{j=1}^n Y_j X_j $$和令$\check ρ$是$\hat Z$在密度矩阵的凸集${\mathcal S}_m$上的投影。它表明，估计$\check ρ$类的低秩密度矩阵（建立较早）的极大极小下界达到对数因子的所有Schatten $p$ -范数距离，$p\i…
2016-04-15 math.ST stat.ML stat.TH
A Well-Conditioned and Sparse Estimation of Covariance and Inverse Covariance Matrices Using a Joint Penalty
我们开发了一种方法来估计良态和稀疏的协方差矩阵和逆协方差阵从一个样本的向量从一个亚高斯分布在高维设置。通过最小化平方损失函数和特征值的1范数及其方差的联合惩罚，得到了估计量。与现有的一些协方差和逆协方差阵估计方法相比，通常感兴趣的是估计稀疏矩阵，所提出的方法在同时估计稀疏和良态的协方差阵方面是灵活的。所提出的估计量是最优的意义上，他们实现了最小的最大估计率在运营商的标准为基础类的协方差矩阵和逆协方差阵。我们给出了一个非常快速的算法计算这些协方差矩阵和逆协方差阵，这是很容易扩展到大规模的数据分析问题。对不同样本量和变量的模拟研究表明，对于不同的结构协方差阵和逆协方差阵选择，所提出的估计比其他几种估计性能更好。我们还使用我们提出的估计肿瘤组织的基因表达数据的分类，并比较其性能与其他一些分类方法。
2016-04-03 math.ST stat.TH
Estimation of large covariance matrices via free deconvolution: computational and statistical aspects
本文利用自由概率论中的自由反卷积方法，通过复分析求$S$-变换的逆，解决大协方差矩阵估计的高维偏差问题，并兼顾计算与统计方面。
2023-05-09 math.PR math.ST stat.CO
Efficient estimation of conditional covariance matrices for dimension reduction
设$\boldsymbol{X}\in \mathbb{R}^p$和$Y\in \mathbb{R}$。在本文中，我们提出了一个估计的条件协方差阵，$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$，在逆回归设置。基于二次函数的估计，该方法从半参数的角度提供了一个有效的估计。我们考虑了$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$在一些温和的条件下的功能泰勒展开和使用未知的联合分布的估计的效果。并给出了该估计量的渐近性质。
2014-08-19 math.ST stat.ME stat.TH
Nonasymptotic estimation and support recovery for high dimensional sparse covariance matrices
我们提出了一个一般性的框架，利用集中不等式为基础的信心集的非渐近协方差阵估计。我们指定这个框架的估计大型稀疏协方差阵，通过将过去的阈值估计与支持恢复的重点。这种技术超越了过去的阈值估计的结果，允许广泛的分布假设超出仅仅是次高斯尾巴。这种方法还可以适用于广泛的其他估计和设置。非渐近无量纲置信集的使用产生良好的理论性能。通过大量的模拟，它被证明具有优越的性能时，与其他这样的方法相比。在支持恢复的上下文中，我们能够指定误报率并进行优化以最大化真实恢复。
2019-03-26 math.ST stat.CO stat.ME
High-dimensional covariance matrices under dynamic volatility models: asymptotics and shrinkage estimation
本文研究了动态波动率模型下高维协方差阵及其特征值的估计问题。这种模型下的数据具有非线性依赖性的横截面和时间。首先研究了标量BEKK模型下样本协方差矩阵的经验谱分布（ESD），建立了极限谱分布（LSD）与独立同分布（i.i.d.）相同或不同的条件。案子然后，我们提出了一个时变调整（TV-adj）的样本协方差矩阵，并证明其LSD遵循相同的Marcenko-Pasturlaw作为i.i.d.案子基于TV-adj样本协方差阵的渐近性，我们给出了无条件协方差阵的相合总体谱估计和渐近最优非线性收缩估计
2022-11-21 math.ST stat.TH
Robust $M$-Estimation of Scatter Matrices via Precision Structure Shrinkage
Joint Graduate School of Mathematics for Innovation, Kyushu University（九州大学数学创新联合研究生院）；Faculty of Mathematics, Kyushu University（九州大学数学学院）
本文提出了一种通过精度结构收缩改进散射矩阵M估计的鲁棒方法，解决了高维数据下估计性能下降的问题。
2026-02-17 math.ST stat.CO stat.ME
Test for bandedness of high-dimensional covariance matrices and bandwidth estimation
激励的最新努力，采用带状矩阵估计高维协方差$Σ$，我们提出了一个测试$Σ$被带状可能的发散带宽。该检验适用于“大$p$、小$n$“情况，无需假设数据的特定参数分布。我们还制定了一个一致的估计带状高维协方差阵的带宽。通过理论评估和仿真研究，以及对蛋白质质谱数据的实证分析，研究了测试和带宽估计的性质。
2012-08-16 math.ST stat.TH
On The Variance of Schatten $p$-Norm Estimation with Gaussian Sketching Matrices
本文研究高斯随机向量下 Schatten $p$-范数估计的方差，针对 Kong 和 Valiant 提出的估计量给出方差计算方法，并得到比已有结果更紧的界。
2024-10-21 cs.NA math.NA math.PR
Partial estimation of covariance matrices
精确估计p变量正态分布协方差矩阵的经典方法是抽取一个大小为n > p的样本，并形成一个样本协方差阵。然而，许多现代应用程序操作的小得多的样本量，从而要求在制度n <<p的估计保证。我们表明，一个样本的大小n = O（m log^6 p）是足够的，以准确地估计在运营商范数的任意对称部分组成的m < n个条目每行。这是由估计Hadamard积M. M的一般结果得出的，其中M是任意对称矩阵。
2011-02-11 math.PR math.ST stat.TH
Group Lasso estimation of high-dimensional covariance matrices
本文考虑加性噪声污染下随机过程协方差阵的Group Lasso估计。我们建议估计的协方差阵在高维设置的假设下，该过程具有稀疏表示在一个大的字典的基函数。使用矩阵回归模型，我们提出了一种新的方法，用于高维协方差阵估计的经验对比正则化的组Lasso惩罚。使用这样的惩罚，该方法在用于近似处理的字典中选择稀疏的基函数集合，导致协方差阵近似到低维空间中。估计的一致性研究在Frobenius和运营商的规范和稀疏PCA的应用程序提出。
2011-10-24 math.ST stat.TH
Nonparametric homogeneity tests and multiple change-point estimation for analyzing large Hi-C data matrices
我们提出了一种新的非参数方法估计的位置的块边界（变点）的非重叠块在随机对称矩阵，其中包括随机变量，其分布从一个块到另一个。我们的方法是基于一个非参数的双样本齐性检验的矩阵，我们扩展到更一般的情况下，几个群体。我们首先提供了一些理论结果，为两个相关的检验统计量，我们解释如何获得变点位置估计。然后，为了支持我们的主张，给出了一些数值实验。最后，我们的方法被应用到Hi-C数据，用于分子生物学，以更好地了解染色体构象对细胞功能的影响。
2016-05-12 math.ST stat.TH
Dimension-free PAC-Bayesian bounds for matrices, vectors, and linear least squares regression
在弱多项式矩假设下，考虑重尾样本分布，研究了无量纲PAC贝叶斯边界。它涵盖了向量或矩阵的平均值的估计，以及最小二乘线性回归的应用。特别的努力致力于估计的格拉姆矩阵，由于其突出的作用，在高维数据分析。
2017-12-31 math.ST stat.TH
New challenges in covariance estimation: multiple structures and coarse quantization
在这一章中，我们将重温多元统计的一个基本问题：从多个独立样本中估计协方差阵。以大规模多输入多输出（MIMO）系统为例，说明了在实际应用中估计协方差阵时利用结构和考虑样本量化的必要性。然后，我们提供了一个选择性的调查，在过去十年的理论进展，侧重于结构协方差阵的估计。这篇评论是香料的一些尚未发表的见解如何受益于组合结构约束。最后，我们总结了我们最近出版的预印本“协方差估计下一位量化”的结果，以显示如何保证协方差估计是可能的，即使在粗量化的样本。
2021-06-11 math.ST stat.TH
Estimation of (near) low-rank matrices with noise and high-dimensional scaling
高维推断指的是统计估计问题，其中数据的环境维度可能与样本量相当或甚至可能大于样本量。我们研究了一个高维推理的例子，其目标是估计一个矩阵$Θ^* \in \real^{k \times p}$的基础上$N$噪声观测，和未知矩阵$Θ^*$被假定为要么是完全低秩，或"近“低秩，这意味着它可以很好地近似的矩阵与低秩。我们考虑了一个基于矩阵迹或核范数正则化的$M$ -估计器，并分析了它在高维尺度下的性能。我们提供了非渐近界的Frobenius范数误差，持有一般类的噪声观测模型，然后说明其后果的一些特定的矩阵模型，包括低秩多变量或多任务回归，向量自回归过程中的系统辨识，和恢复低秩矩阵随机投影。仿真结果表明，与我们的理论预测的误差的高维标度非常吻合。
2009-12-27 math.ST stat.TH
Sparse Approximate Factor Estimation for High-Dimensional Covariance Matrices
提出了一种基于$l_1$正则化近似因子模型的协方差矩阵估计方法。我们的稀疏近似因子（SAF）协方差估计允许弱因子的存在，因此放松了标准近似因子模型通常采用的普遍性假设。我们证明了协方差矩阵估计在Frobenius范数下的相合性以及因子载荷和因子的相合性。我们的蒙特卡罗模拟表明，SAF协方差估计具有优越的性能，在有限样本的低，高维和不同的协方差矩阵的设计。此外，在样本外的投资组合预测应用的估计一致优于替代的投资组合策略的基础上，替代协方差估计方法和建模策略，包括$1/N$ -战略。
2019-06-13 econ.EM math.ST q-fin.PM
Adaptive estimation of covariance matrices via Cholesky decomposition
本文研究了大协方差阵的估计问题。我们介绍了一种新的程序，称为ChoSelect的逆协方差的Cholesky因子的基础上。该方法通过选择Cholesky因子的零模式来使用降维策略。或者，ChoSelect可以被解释为有向高斯图形模型的图形估计过程。我们的方法是特别相关的，当研究中的变量有一个自然的顺序（例如时间序列）或更一般的乔莱斯基因子是近似稀疏。ChoSelect实现了关于Kullback-Leibler熵的非渐近预言不等式。此外，从极大极小的角度来看，它满足各种自适应特性。我们还介绍和研究了一个两阶段的程序，结合ChoSelect与套索。最后一种方法使从业者能够在统计效率和计算复杂性之间选择自己的折衷。此外，它在比Lasso更弱的假设下是一致的。不同的程序的实际性能进行评估的数值例子。
2010-10-08 math.ST stat.TH
Shrinkage Estimation of Functions of Large Noisy Symmetric Matrices
我们研究的问题时，我们只能获得一个嘈杂的对称矩阵$\hat{A}_n=A_n+σZ_n/\sqrt{n}.$我们感兴趣的情况下，$Z_n$是一个维格纳合奏，并建议一个算法的基础上非线性收缩的特征值的$\hat{A}_n.$作为一个中间步骤，我们解释如何恢复的频谱的$A_n$是可能的，只使用频谱的$\hat{A}_n$。我们的算法有重要的应用，例如，在解决高维噪声方程组或对称矩阵去噪。在整个分析过程中，我们依赖于随机矩阵理论的工具。
2021-06-09 math.PR math.ST stat.TH
Joint Covariance Estimation with Mutual Linear Structure
本文考虑结构协方差阵的联合估计问题。假设结构是未知的，估计实现使用异构训练集。也就是说，给定来自具有不同协方差的中心总体的测量组，我们的目标是确定这些协方差阵的相互结构并估计它们。假设协方差在对称矩阵空间中跨越一个低维仿射子空间，我们提出了一种新的发现结构并利用它来改进估计的有效算法。我们的技术是基于主成分分析在矩阵空间中的应用。我们还推导出该算法在高斯场景下的性能上界，并将其与Cramer-Rao下界进行比较。数值模拟来说明所提出的方法的性能优势。
2015-07-01 math.ST stat.AP stat.TH
Minimax Estimation of Large Precision Matrices with Bandable Cholesky Factor
过去十年见证了重大的方法和理论进展，估计大型精度矩阵。特别是，有一些科学应用，如纵向数据，气象学和光谱学，其中变量的排序可以通过精度矩阵的Cholesky因子上的可带结构来解释。然而，极大极小理论仍然在很大程度上是未知的，而不是在相应的可带协方差阵上建立的极大极小结果。在本文中，我们集中在两种常用的类型的参数空间，并制定了最佳的收敛速度下的运营商范数和Frobenius范数。发现了一个显著的现象：两类参数空间在算子范数下性质不同，但在Frobenius范数下具有相同的速率最优性，这与相应的两类可带协方差阵在这两种范数下的等价性形成了鲜明的对比.这个根本的区别是通过仔细构造相应的极大极小下界来建立的。开发了两个新的估计程序：对于算子范数，我们的最优程序是基于一种新的局部裁剪估计器，针对精度矩阵的所有主要子矩阵，而对于Frobenius范数，我们的最优程序依赖于一个微妙的基于回归的阈值规则。Lepski的方法被认为是实现最佳适应。我们进一步建立率最优的非paranormal模型。数值研究证实了我们的理论研究结果。
2019-08-19 math.ST stat.ME stat.TH
Estimation of inverse autocovariance matrices for long memory processes
这项工作的目的是估计逆自协方差矩阵的长记忆过程承认的线性表示。一个修改后的Cholesky分解结合使用的一个递增阶自回归模型来实现这一目标。建立了估计的谱模相合性。然后，我们将这一结果推广到具有长记忆时间序列误差的线性回归模型。特别是，我们表明，当目标是一致地估计误差过程的逆自协方差矩阵时，如果使用估计（最小二乘）误差代替不可观测误差，则同样的方法仍然有效。最后给出了这一结果在估计上述回归模型中未知参数方面的应用。最后，进行了模拟研究，以说明我们的理论研究结果。
2016-03-17 math.ST stat.TH
Extremal bounds for Gaussian trace estimation
本文通过定义特征值偏序关系，为高斯迹估计器建立了极值尾部界，覆盖有界有效秩半正定矩阵和有界2-范数且固定Frobenius范数的不定矩阵两类情形。
2024-11-23 cs.NA math.NA math.PR
Entrywise Estimation of Singular Vectors of Low-Rank Matrices with Heteroskedasticity and Dependence
本文提出了一种高维低秩矩阵奇异向量的估计方法，其中噪声矩阵允许行内相关和行间异方差.我们证明有限样本$\ell_{2,\infty}$界和Berry-Esseen定理的估计的各个条目，我们将这些结果应用到高维混合模型。我们的Berry-Esseen定理清楚地显示了信号矩阵，噪声的协方差结构和奇异向量估计任务中的误差分布之间的几何关系。这些结果在数值模拟中得到了说明。与以前的结果不同，这种类型的结果依赖于高斯性或加性噪声条目之间的独立性的假设，处理这些结果的证明中条目之间的依赖性需要仔细的留一分析和条件参数。我们的结果只依赖于信噪比，样本量，和信号矩阵的频谱特性。
2022-09-13 math.OC math.SP math.ST
