Fast Covariance Estimation for Sparse Functional Data
含噪样本协方差的平滑是函数数据分析中的一个重要组成部分。本文提出了一种基于惩罚样条函数的协方差平滑方法及其软件。所提出的方法是一个二元样条平滑器，设计用于协方差平滑，可用于稀疏的功能或纵向数据。我们提出了一个快速算法的协方差平滑使用留一主题交叉验证。我们的模拟结果表明，该方法与几种常用的方法相比，毫不逊色。该方法被应用到一项由共同作者之一领导的儿童生长研究和纵向CD4计数的公共数据集。
2017-04-06 stat.ME
High dimensional sparse covariance estimation via directed acyclic graphs
我们提出了一个基于图的技术估计稀疏的协方差阵及其逆高维数据。该方法基于学习有向无环图（DAG）和基于DAG估计多元高斯分布的参数。为了推断底层DAG，我们使用PC算法，并且为了估计基于DAG的协方差阵及其逆，我们使用提供正（半）定稀疏估计的Cholesky分解方法。我们提出了一个一致性的结果，在高维框架，我们比较我们的方法与Glasso模拟和真实数据。
2009-11-17 stat.ME
Missing values: sparse inverse covariance estimation and an extension to sparse regression
提出了一种估计高维多元正态模型中存在缺失数据的逆协方差阵的l1正则化似然方法。我们的方法是基于假设的数据是随机缺失（MAR），这也需要完全随机缺失的情况下。该方法的实现是非平凡的，因为观察到的负对数似然一般是一个复杂的非凸函数。我们提出了一个有效的期望最大化算法的优化与可证明的数值收敛性能。此外，我们扩展的方法来处理稀疏回归上下文中的缺失值。我们证明了这两种方法的模拟和真实数据。
2012-02-27 stat.ME
Sparse covariance thresholding for high-dimensional variable selection
在高维空间中，许多变量选择方法，如套索，往往受到样本协方差阵的过度变异性和秩不足的限制。协方差稀疏性是高维应用中的自然现象，例如微阵列分析、图像处理等，其中大量的预测因子是独立的或弱相关的。在本文中，我们提出了协方差阈值套索，一类新的回归方法，可以利用协方差稀疏性，以改善变量的选择。我们建立的理论结果，在随机设计的设置，相关的协方差稀疏变量选择。实际数据和仿真实例表明，我们的方法可以有效地提高变量选择性能。
2010-06-06 stat.ME
Fast Covariance Estimation for Multivariate Sparse Functional Data
协方差估计在多元函数数据分析中是必不可少的，但还不成熟。提出了一种基于二元惩罚样条的多元稀疏函数数据协方差快速估计方法。所提出的方法的张量积B样条制定一个简单的谱分解相关的协方差算子和显式表达式的特征函数的线性组合的B样条基地，从而大大方便了随后的主成分分析。我们推导出一个快速算法，用于选择平滑参数的协方差平滑使用留一主题交叉验证。该方法通过广泛的数值研究进行评估，并应用于具有多个纵向结果的阿尔茨海默病研究。
2019-06-09 stat.CO stat.ME
Sparse inverse covariance estimation with the lasso
我们考虑的问题估计稀疏图的套索惩罚施加到逆协方差阵。使用套索的坐标下降过程，我们开发了一个非常快的简单算法：在最坏的情况下，它在大约一分钟内解决了1000个节点的问题（~ 500，000个参数），并且比竞争方法快50到2000倍。它还提供了精确问题和Meinhausen和Buhlmann（2006）建议的近似之间的概念联系。我们说明了一些细胞信号数据的蛋白质组学的方法。
2007-08-27 stat.ME
Sparse Positive-Definite Estimation for Covariance Matrices with Repeated Measurements
针对重复测量数据的分层结构特性，本文提出可高效求解的凸优化方法实现对象间与对象内协方差/相关矩阵的稀疏正定估计，验证了其误差性能并应用于血液透析临床变量协方差图构建。
2023-06-11 stat.ME
Bayesian Sparse Covariance Structure Analysis for Correlated Count Data
The University of Electro-Communications（电气通信大学）；National Police Agency Info-Communications Bureau（警察厅信息通信局）
在本文中，我们提出了一个贝叶斯图LASSO相关的可数数据，并将其应用于空间犯罪数据。在所提出的模型中，我们假设一个高斯图形模型的潜变量，占主导地位的潜在犯罪风险。为了评估所提出的模型，我们确定了更好地代表样本的最佳超参数。我们应用所提出的模型估计的稀疏逆协方差的潜在变量和评估的部分相关系数。最后，我们说明了犯罪现场数据的结果，并考虑估计的潜在变量和部分相关系数的稀疏逆协方差。
2020-06-05 cs.LG stat.ME
The Beta-Mixture Shrinkage Prior for Sparse Covariances with Posterior Minimax Rates
稀疏协方差阵的统计推断对于揭示大型多元数据集的相关结构至关重要，但缺乏可扩展的和理论支持的贝叶斯方法。在本文中，我们提出了β-混合收缩先验，计算效率比尖峰和板坯先验，稀疏协方差阵，并建立其在高维设置的极大极小最优性。建议的先验由β混合收缩和伽马先验的非对角和对角条目，分别。为了保证所得到的协方差阵的正定性，我们进一步将先验的支持度限制在正定矩阵的子空间中。在Frobenius范数下，我们得到了诱导后验估计的后验收敛速度，并建立了稀疏协方差阵的极大极小下界。本文所考虑的极小极大下界的稀疏协方差阵类由非零非对角元素的个数控制，比文献中出现的稀疏协方差矩阵类具有更直观的吸引力.除非真的协方差阵是非常稀疏的，否则所得到的后验收敛速度与极大极小下界一致。在模拟研究中，我们表明，所提出的方法是计算效率比竞争对手，同时实现可比的性能。基于两个真实数据集的收缩先验的优点证明。
2021-01-12 math.ST stat.ME stat.TH
Sparse Covariance Estimation in Logit Mixture Models
本文介绍了一种新的数据驱动的方法估计稀疏协方差阵的随机系数的Logit混合模型。研究人员通常在两个极端假设之一下指定logit混合模型中的协方差阵：不受限制的完整协方差阵（允许所有随机系数之间的相关性）或限制的对角矩阵（完全不允许相关性）。我们的目标是找到相关系数的最佳子集，我们估计协方差。我们提出了一个新的估计，称为MISC，使用混合整数优化（MIO）程序找到一个最佳的块对角结构规范的协方差矩阵，对应于相关系数的子集，为任何所需的稀疏水平，使用马尔可夫链蒙特卡罗（MCMC）后提请从不受限制的完整的协方差阵。使用样本外验证确定协方差阵的最佳稀疏水平。我们证明了MISC从合成数据中正确恢复真实协方差结构的能力。在一个实证说明中，我们使用MISC来获得一个稀疏的协方差阵，表明属性的偏好是如何相互关联的。
2020-01-14 econ.EM stat.ME stat.ML
Intrinsic Riemannian Functional Data Analysis for Sparse Longitudinal Observations
一个新的框架，本质上分析稀疏观测黎曼函数数据。它具有四个创新的组成部分：一个帧独立的协方差函数，称为协方差向量束的平滑向量束，并行传输和协方差向量束上的平滑束度量。引入的内在协方差函数链接估计的协方差结构的平滑问题，涉及来自稀疏观测的黎曼函数数据的原始协方差观测，而协方差向量束提供了一个严格的数学基础，制定这样的平滑问题。并行传输和束度量一起使得可以测量拟合到协方差函数的保真度。它们在量化协方差函数估计量的质量方面也起着关键作用。作为一个例子，基于所提出的框架，我们开发了一个局部线性平滑估计的协方差函数，分析其理论性质，并通过模拟和真实数据集提供数值演示。该框架的内在特征使得它不仅适用于欧氏子流形，而且也适用于没有正则环境空间的流形。
2022-05-17 math.ST stat.ME stat.TH
A novel smoothing-based goodness-of-fit test of covariance for multivariate sparse functional data
本文提出一种基于平滑的多元稀疏函数型数据协方差拟合优度检验，扩展单变量检验并引入多元统计量，提高功效，应用于ADNI和PPMI数据验证实用性。
2025-03-27 stat.AP stat.ME
Estimation When Both Covariance And Precision Matrices Are Sparse
我们提供了一种方法来估计协方差矩阵的特殊情况下，\textit{both}的协方差阵和精度矩阵是稀疏的--一个约束，我们称之为双稀疏。估计方法是极大似然，服从双稀疏约束。在我们的方法中，只允许一类特殊的稀疏模式：矩阵及其逆矩阵必须从属于同一个弦图。与双重稀疏性的天真执行相比，我们的弦图方法利用了一个特殊的代数局部逆公式。该局部逆属性使得通常涉及逆（精度矩阵或协方差阵的逆）的计算快得多。在协方差阵估计的背景下，我们的建议似乎是第一次找到这样的特殊对协方差和精度矩阵。
2021-08-15 math.ST stat.CO stat.ME
Bayesian Low Rank and Sparse Covariance Matrix Decomposition
本文研究了一类特殊结构的高维协方差阵的估计问题，该结构是低秩稀疏矩阵的和。该协方差结构具有广泛的应用，包括因子分析和随机效应模型。我们提出了一种估计协方差阵的贝叶斯方法，通过将协方差模型表示为潜在因子个数未知的因子模型的形式。我们引入二元指标的因素选择和秩估计的低秩分量结合贝叶斯套索方法的稀疏分量估计。仿真结果表明，该方法可以恢复的秩以及稀疏的两个组件分别。我们进一步将我们的方法扩展到图形因子模型，其中残差的图形模型以及选择因子的数量是感兴趣的。我们采用超逆Wishart先验建模的残差可分解的图形，和贝叶斯图形套索选择方法的不受限制的图形。我们通过模拟表明，扩展模型可以恢复的潜在因素的数量和图形模型的残差成功时，样本量是足够的相对于尺寸。
2013-10-15 stat.ME
Adaptive Thresholding for Sparse Covariance Matrix Estimation
在本文中，我们考虑估计稀疏的协方差阵，并提出了一个阈值的过程，这是自适应的个别项目的变异性。估计器是完全数据驱动的，在理论和数值上都具有出色的性能。证明了在谱范数下，估计量在一类稀疏协方差阵上自适应地达到最优收敛速度。与此相反，常用的通用阈值估计被证明是次优的相同的参数空间。支持恢复也进行了讨论。自适应阈值估计器易于实现。数值性能的估计研究使用模拟和真实数据。仿真结果表明，自适应阈值估计一致优于通用阈值估计。该方法还说明了在一个小的圆形蓝细胞肿瘤微阵列实验的数据集上的分析。本文的补充，其中包含额外的技术证明，可在网上查阅。
2011-02-10 stat.ME
Post-Processed Posteriors for Sparse Covariances and Its Application to Global Minimum Variance Portfolio
我们考虑稀疏协方差阵的贝叶斯推断，并提出了一个后处理后验。该方法包括两个步骤。在第一步中，后验样本是从共轭逆Wishart后验得到的，不考虑稀疏结构假设。在第二步中，通过硬阈值函数对后验样本进行变换以满足稀疏结构假设。这种非传统的贝叶斯过程是合理的，表明后处理后的后验达到最佳的极大极小率。我们还研究了后处理后的应用程序的全局极小值方差组合的估计。我们证明了在稀疏协方差假设下，全局极小值投资组合的后处理后验概率也达到了最优极大极小化率。通过模拟研究和标准普尔400指数的实际数据分析，证明了后处理后验方法在全局极小值方差投资组合中的优越性。
2021-08-21 math.ST stat.ME stat.TH
Model-based Clustering with Sparse Covariance Matrices
有限高斯混合模型被广泛用于连续数据的基于模型的聚类。然而，由于模型参数的数量与变量的数量成二次方关系，这些模型很容易被过度参数化。为此，通过协方差阵分解或假设局部独立性，开发了简约模型。然而，这些补救措施不允许稀疏协方差阵的直接估计，也没有考虑到变量之间的关联结构可以从一个集群到另一个集群而变化。为此，我们引入混合高斯协方差图模型的基于模型的聚类稀疏协方差阵。一个惩罚似然估计的方法和一般的惩罚项的图形配置可以用来诱导不同程度的稀疏性，并结合先验知识。模型估计进行使用结构-期望最大化算法的参数和图形结构估计，其中两种替代策略的基础上的遗传算法和一个有效的逐步搜索提出的推理。该方法直接得到稀疏分量的协方差阵。该框架通过变量组内联合分布的灵活模型，对数据进行简约的基于模型的聚类。大量的模拟数据实验和示例数据集的应用表明，该方法获得了良好的分类性能和模型质量。
2018-09-23 stat.CO stat.ME
Adaptive Long-Run Variance Thresholding for Sparse Covariance Estimation in High-Dimensional Time Series
University of Electronic Science and Technology of China（电子科技大学）
本文研究了弱依赖高维时间序列稀疏协方差估计，提出基于长期方差的阈值方法，实现对时间依赖性的适应，证明了估计器在谱范数下的一致性及最优收敛速度，并展示了支持恢复一致性。
2026-05-14 math.ST stat.ME stat.TH
A convex framework for high-dimensional sparse Cholesky based covariance estimation
高维数据的协方差估计是现代统计学中的一个基本问题，有着广泛的应用。在这些高维数据集中，变量p的数量通常大于样本量n。解决这一挑战的一种流行方法是在协方差阵、其逆矩阵或相关变换中引入稀疏性。特别地，在逆协方差阵的Cholesky参数中引入稀疏性的方法可以是有用的，因为它们保证给出协方差阵的正定估计。此外，估计的稀疏模式对应于高斯数据的有向无环图（DAG）模型。近年来，已经开发了两种有用的惩罚似然方法，用于稀疏估计这个Cholesky参数（对稀疏模式没有限制）。然而，这些方法要么考虑非凸优化问题，当p > n时，这可能导致收敛问题和协方差阵的奇异估计，要么通过对条件方差参数施加严格约束来实现凸公式化。在本文中，我们提出了一个新的惩罚似然方法的逆协方差Cholesky参数的稀疏估计，旨在克服目前的方法的一些缺点，但保留各自的优势。我们得到了一个联合凸公式为我们的目标函数，这导致收敛保证，即使当p > n。该方法总是导致协方差阵的正定和对称估计。我们建立了高维估计和图选择的一致性，并在模拟/真实数据上证明了有限样本性能。
2016-10-07 stat.ME
Sparse Bayesian time-varying covariance estimation in many dimensions
我们通过对潜在的时变随机因素对时间序列向量的潜在协波动动态进行建模，解决了动态协方差估计中的维数灾难问题。对因子载荷矩阵的元素使用全局-局部收缩先验将多余因子上的载荷拉向零。为了证明所提出的框架的优点，该模型被应用到模拟数据，以及每日日志回报的300个标准普尔500指数的成员。我们的方法产生精确的相关性估计，较强的隐含最小方差投资组合的性能和卓越的预测精度的日志预测得分相比，典型的基准。
2017-11-11 econ.EM q-fin.PM stat.AP
Robust and Well-conditioned Sparse Estimation for High-dimensional Covariance Matrices
本文提出了一种稳健且良好条件的稀疏协方差矩阵估计方法，通过直接整合条件数约束，确保正定性、数值稳定性和稀疏结构，同时在理论和实验上均表现出优越的性能。
2025-12-29 stat.ME
Towards a sparse, scalable, and stably positive definite (inverse) covariance estimator
高维协方差估计和图形模型是统计学和机器学习领域的一个当代课题，具有广泛的应用。在这方面的一个重要的研究路线是缩小极值谱的协方差阵估计。在文献中的一个单独的研究线已经考虑稀疏逆协方差估计，这反过来又引起图形模型。然而，在实践中，需要同时良好调节且同时计算上易处理的稀疏协方差或逆协方差阵。在这三个主题的交汇处几乎没有研究。在本文中，我们考虑施加一个条件数约束的各种类型的损失使用的协方差和逆协方差阵估计。当损失函数可以被分解为一个正交不变函数的估计和它的内积与样本协方差阵的函数的总和，我们表明，解决方案的路径算法可以推导出，涉及一系列的常微分方程。路径算法是有吸引力的，因为它提供了整个家庭的估计的所有可能的值的条件数界，在相同的计算成本的一个单一的估计与一个固定的上限。一个重要的发现是，条件数约束，这原来是非常有用的正则化损失函数，不是正交不变的，可能会产生非正定的估计，可以有效地计算这种路径算法的邻近算子。作为一个具体的说明其实际的重要性，我们开发了一个运营商分裂算法，最近提出的凸伪似然基于图形模型选择方法，以及空调以及正定性的保证。
2016-06-27 stat.ME
Sparse signal recovery and source localization via covariance learning
本文提出基于协方差学习的稀疏信号恢复方法，通过不动点方程刻画似然解，并结合块坐标下降与贪婪追踪算法，在稀疏恢复和波达方向估计中优于现有方法。
2024-08-01 stat.ME
A path following algorithm for Sparse Pseudo-Likelihood Inverse Covariance Estimation (SPLICE)
给定p维随机向量的n个观测值，在许多应用中需要得到协方差阵及其逆矩阵（精度矩阵）。当p与样本量n相当时，样本协方差（例如，其特征结构）可能会表现不佳。正则化经常被用来缓解这个问题。本文提出了逆协方差阵的l1-模惩罚伪似然估计。由于l1-范数惩罚，这种估计是稀疏的，我们称这种方法为SPLICE。它的正则化路径可以通过基于同伦/LARS-Lasso算法的算法来计算。对p=15和n=20，1000的各种逆协方差结构进行了模拟研究。我们比较SPLICE与l1-范数惩罚似然估计和l1-范数惩罚Cholesky分解为基础的方法。SPLICE在精确度矩阵和ROC曲线的三个指标方面为模型选择提供了最佳的整体性能。此外，我们的模拟结果表明，SPLICE估计是正定的正则化路径的大部分，即使没有强制执行的限制。
2008-07-23 stat.CO stat.ME
Adaptive First-Order Methods for General Sparse Inverse Covariance Selection
在本文中，我们考虑估计稀疏逆协方差的高斯图模型，其条件独立性假设是部分已知的。与[5]类似，我们将其表示为$l_1$ -范数惩罚极大似然估计问题。此外，我们提出了一个算法框架，并开发了两个一阶方法，即自适应谱投影梯度（ASPG）方法和自适应Nesterov平滑（ANS）方法，解决这个估计问题。最后，我们在一组随机生成的实例上比较了这两种方法的性能。我们的计算结果表明，这两种方法都能够在合理的时间内解决至少一千个大小和近五十万个约束的问题，ASPG方法通常优于ANS方法。
2009-04-04 stat.CO stat.ME
Generalized Sparse Covariance-based Estimation
在这项工作中，我们扩展了稀疏迭代协方差估计（SPICE），通过推广配方，允许不同的范数约束的信号和噪声参数的协方差模型。对于一个给定的规范，由此产生的扩展SPICE方法享有相同的好处，定期SPICE方法，包括超参数自由，虽然规范的选择，以管理稀疏的解决方案。此外，我们发现，解决扩展SPICE方法相当于解决惩罚回归问题，这提供了另一种解释所提出的方法和更深入的了解扩展和原始SPICE制定之间的稀疏性的差异。我们检查的性能的方法为不同的选择规范，并将结果与原来的SPICE方法，使用扩展配方的好处。我们还提供了两种方法来解决扩展SPICE方法;一个基于网格的方法，给出了一个有效的实现，和一个无网格的正弦曲线的情况下，这导致在一个半定规划问题的方法。
2017-04-20 stat.ME
Two new algorithms for maximum likelihood estimation of sparse covariance matrices with applications to graphical modeling
本文提出两种基于协方差图的两阶段稀疏协方差矩阵最大似然估计算法，分别采用块坐标下降与近端距离法，在样本数低于维度时仍有效，且估计精度优于两种现有方法。
2023-05-11 eess.SP stat.ME
Nonasymptotic estimation and support recovery for high dimensional sparse covariance matrices
我们提出了一个一般性的框架，利用集中不等式为基础的信心集的非渐近协方差阵估计。我们指定这个框架的估计大型稀疏协方差阵，通过将过去的阈值估计与支持恢复的重点。这种技术超越了过去的阈值估计的结果，允许广泛的分布假设超出仅仅是次高斯尾巴。这种方法还可以适用于广泛的其他估计和设置。非渐近无量纲置信集的使用产生良好的理论性能。通过大量的模拟，它被证明具有优越的性能时，与其他这样的方法相比。在支持恢复的上下文中，我们能够指定误报率并进行优化以最大化真实恢复。
2019-03-26 math.ST stat.CO stat.ME
Scalable and optimal Bayesian inference for sparse covariance matrices via screened beta-mixture prior
本文提出一种结合连续收缩先验与筛选过程的可扩展贝叶斯方法，用于稀疏协方差矩阵估计，解决了“大p，小n”高维问题，并具备确定筛选性质与最优收敛速率。
2023-11-21 stat.ME
Handling cellwise outliers by sparse regression and robust covariance
提出结合 lasso 回归、逐步截断和 EM 式检测—插补的 cellHandler 方法，用于逐单元异常值检测与稳健协方差估计。
2020-12-07 stat.CO stat.ME
Sparse covariance matrix estimation in high-dimensional deconvolution
研究了在加性噪声污染的$n$独立观测值下，$p$维正态随机向量的协方差阵$Σ$的估计问题.对噪声的分布只作一般的非参数假设，而对其协方差阵没有任何稀疏性约束。在这个高维半参数反卷积问题中，我们提出了自适应的$Σ$的稀疏性的谱阈值估计。我们建立了一个预言不等式，这些估计下的模型miss规格，并获得非渐近极小极大收敛速度，证明是对数的$n/\log p$。我们还讨论了基于间接观测的低秩矩阵的估计以及对椭圆分布的推广。数值例子说明了阈值估计的有限样本性能。
2018-03-26 math.ST stat.ME stat.TH
Empirical Bayes Covariance Decomposition, and a Solution to the Multiple Tuning Problem in Sparse PCA
University of Chicago（芝加哥大学）
本文提出利用经验贝叶斯方法解决稀疏PCA中的多重调优问题，通过协方差分解提升模型性能。
2026-02-22 stat.ME stat.ML
Using Empirical Covariance Matrix in Enhancing Prediction Accuracy of Linear Models with Missing Information
缺失信息情形下的推理与估计是统计学习理论和机器学习的重要研究课题。在ML文献中，已经尝试通过精确的特征选择方法来增强预测。在稀疏线性模型中，LASSO在提取信号的期望支持和抵抗噪声系统方面是众所周知的。当稀疏模型也遭受MI时，稀疏恢复和缺失模型的推理同时考虑。在本文中，我们将介绍一种方法，享有稀疏回归协方差阵估计，以提高矩阵完成的准确性，从而提高特征选择的精度，从而导致减少预测均方误差（MSE）。我们将比较采用协方差阵在提高估计精度的情况下，它不用于特征选择的效果。仿真结果表明，与不使用协方差阵估计的情况相比，该方法的性能得到了改善。
2017-07-25 stat.ME stat.ML
Efficient Covariance Approximations for Large Sparse Precision Matrices
Linköping University（林雪平大学）；The University of Edinburgh（爱丁堡大学）；Chalmers and University of Gothenburg（查尔姆斯理工大学和哥德堡大学）
本文提出一种快速Rao-Blackwell化蒙特卡罗采样方法，用于高效近似协方差矩阵元素，同时通过子域迭代减少误差，适用于高维模型中的联合推断。
2017-12-05 cs.NA math.NA stat.CO
Penalized Sparse Covariance Regression with High Dimensional Covariates
针对高维预测变量下的协方差回归问题，提出稀疏协方差回归方法，结合Lasso及折叠凹惩罚（SCAD和MCP）进行变量选择与系数估计，推导非渐近误差界并证实神谕性质，经模拟与中国股市数据验证有效。
2024-10-05 stat.AP stat.ME
Robust Kronecker Product PCA for Spatio-Temporal Covariance Estimation
Kronecker PCA涉及使用空间与时间Kronecker乘积分解来估计时空协方差。在这项工作中，被认为是一个稀疏的校正因子，这对应于一个模型的协方差作为一个低（分离）秩和稀疏矩阵的克罗内克产品的总和。这种稀疏校正扩展了[Greenewald et al 2013，2014]的对角校正Kronecker PCA，以允许协方差阵中任何地方的稀疏非结构化“离群值”，例如，由不适合Kronecker模型的变量或相关性引起，或由传感器噪声或传感器故障等来源引起。我们引入了一种稳健的基于PCA的算法来估计该模型下的协方差，扩展了[Greenewald et al 2014，Tsiligkarnovel et al 2013]的重排核范数惩罚LS Kronecker PCA方法。还提供了一个扩展Toeplitz时间因素，产生一个参数减少时间平稳的测量建模。高维MSE性能界限给出了这些扩展。最后，建议的扩展KronPCA的酵母细胞周期实验的模拟和真实数据进行评估。这确立了鲁棒Kronecker PCA在生物和其他应用中的实际效用。
2015-07-29 stat.ME
BLOC: A Global Optimization Framework for Sparse Covariance Estimation with Non-Convex Penalties
Virginia Commonwealth University（弗吉尼亚联邦大学）；University of Kansas（堪萨斯大学）；Indian Institute of Management, India（印度管理学院）
BLOC框架通过角Cholesky映射将相关矩阵流形重新参数化，实现非凸惩罚下的稀疏协方差估计，具有全局优化能力与并行加速，实验显示其在低维和高维情况下均优于现有方法。
2026-09-24 stat.CO stat.ME
Adaptive Functional Thresholding for Sparse Covariance Function Estimation in High Dimensions
Covariance function estimation is a fundamental task in multivariate functional data analysis and arises in many applications. In this paper, we consider estimating sparse covariance functions for high-dimensional functional data, where the number of random functions p is comparable to, or even larger than the sample size n. Aided by the Hilbert--Schmidt norm of functions, we introduce a new class of functional thresholding operators that combine functional versions of thresholding and shrinkage, and propose the adaptive functional thresholding estimator by incorporating the variance effects o…
2022-07-14 math.ST stat.ME stat.TH
Tensor Covariance Estimation via Kronecker-Structured Sparse Inverse Cholesky
University of Wisconsin–Madison（威斯康星大学麦迪逊分校）
针对高维张量数据协方差估计的维度灾难问题，提出基于克罗内克结构稀疏逆乔列斯基的统一估计框架，兼具统计可解释性与计算效率，在时空温度异常等多类数据上实现最优精度与可扩展性。
2026-08-18 stat.ME
A Proximal Distance Algorithm for Likelihood-Based Sparse Covariance Estimation
本文讨论的任务，估计协方差阵下的无模式稀疏性假设。与现有的基于阈值或收缩惩罚的方法相比，我们提出了一种基于似然的方法，该方法将协方差估计到对称稀疏集的距离正则化。该公式避免了由更常见的范数惩罚引起的不必要的收缩，并通过求解一系列光滑，无约束的子问题来优化所得到的非凸目标。这些子问题的产生和解决，通过最近距离版本的优化最小化原则。由此产生的算法执行迅速，优雅地处理设置的参数的数量超过的情况下，产生一个正定的解决方案，并享有理想的收敛性能。从经验上讲，我们证明了我们的方法优于竞争方法的几个指标在一套模拟实验。它的优点说明了一个国际移民数据集和一个经典的案例研究流式细胞术。我们的研究结果表明，细胞信号数据的边缘和条件依赖网络比以前得出的结论更相似。
2021-09-09 stat.ME
On Block Cholesky Decomposition for Sparse Inverse Covariance Estimation
本文提出分块 Cholesky 分解（BCD），在仅已知组间排序、组内无排序的条件下估计稀疏逆协方差矩阵，统一修正 Cholesky 分解与 Graphical lasso，并保证正定性和可解释性。
2023-08-18 stat.ME
Positive Definite $\ell_1$ Penalized Estimation of Large Covariance Matrices
门限协方差估计对于估计稀疏的大协方差阵具有很好的渐近性质，但在实际数据分析中往往具有负的特征值。为了同时实现稀疏性和正定性，我们提出了一种正定的$\ell_1$ -惩罚协方差估计器来估计稀疏的大协方差阵。提出了一种有效的交替方向法来求解这一具有挑战性的优化问题，并证明了该方法的收敛性。在弱正则条件下，建立了估计量的非渐近统计理论。仿真和实际应用表明，我们的建议的有限样本的竞争力的性能。
2012-08-28 math.OC stat.ME
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化，其中加载矩阵配备了新型矩阵钉板LASSO先验，这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失，一种新的损失函数测量子空间之间的距离，能够捕获元素的特征向量扰动。我们表明，后验收缩率相对于2到无穷大的范数损失是严格的，比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外，提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估，通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
Smooth Optimization Approach for Sparse Covariance Selection
本文首先研究了一类非光滑严格凹极大化问题的光滑优化方法，该问题的目标函数允许光滑凸极小化变换。特别地，我们应用Nesterov的平滑优化技术[Y.E.涅斯捷罗夫，Dokl。阿卡德Nauk SSSR，269（1983），pp. 543 - 547; Y. e. Nesterov，Math.Programming，103（2005），pp. 127--152]到它们的对偶对应物是光滑凸问题。结果表明，所得到的方法有${\cal O}(1/{\sqrtε})$迭代复杂性，找到一个$ε$-最优解的原始和对偶问题。然后，我们讨论了这种方法的应用稀疏协方差选择，近似解决了作为一个$l_1$-范数惩罚极大似然估计的问题，并提出了这种方法的一个变种，大大优于后者在我们的计算实验。最后，我们将这些方法的性能与其他一阶方法，即Nesterov的${\cal O}(1/ε)$光滑逼近方案和块坐标下降方法进行了比较。d'Aspremont，O. Banerjee和L. El Ghaoui，SIAM J. Matrix Anal.应用程序、30（2008），pp. 56 - 66; J. Friedman，T. Hastie和R. Tibshirani，Biostatistics，9（2008），pp. 432 - 441]，用于在一组随机生成的实例上进行稀疏协方差选择。它表明，我们的平滑优化方法大大优于上…
2009-04-04 stat.CO stat.ME
De-biased sparse PCA: Inference and testing for eigenstructure of large covariance matrices
稀疏主成分分析（sparse principal component analysis，sPCA）已成为高维数据降维中应用最广泛的技术之一。sPCA的主要挑战是估计总体协方差矩阵的第一个负载向量，前提是只有一定数量的负载是非零的。在本文中，我们提出了置信区间的个人负荷和人口的协方差矩阵的最大特征值。给定一个独立的样本$X^i \in\mathbb R^p, i = 1,...,n,$从一个未知的分布与一个未知的协方差矩阵$Σ_0$，我们的目的是估计的第一个向量的负载和最大的特征值的$Σ_0$在设置$p\gg n$。除了高维性之外，另一个挑战在于问题固有的非凸性。我们基于我们的方法上的拉索惩罚M-估计，尽管非凸性，可以解决一个多项式时间的算法，如坐标或梯度下降。我们证明了我们的估计量在$\ell_1$和$\ell_2$ -范数下达到了极大极小最优速率。我们确定在拉索为基础的估计偏差，并提出了一个去偏稀疏PCA估计的负载向量和协方差矩阵$Σ_0$的最大特征值。我们的主要结果为去偏估计量的渐近正态性提供了理论保证。我们施加的主要条件是稀疏的第一个特征向量的小阶$\sqrt{n}/\log p$和稀疏的同阶的逆Hessian矩阵的列的人口风险。
2018-01-31 math.ST stat.ME stat.TH
Principal components analysis for sparsely observed correlated functional data using a kernel smoothing approach
本文考虑了从稀疏、不规则观测、噪声污染和（可能）相关的函数数据中估计协方差核及其特征值和特征函数的问题。我们提出了一种方法的基础上，通过适当的内核的个人样本曲线的预平滑。我们表明，朴素的经验协方差的预平滑的样本曲线给出了高度有偏估计的协方差核沿其对角线。我们通过分别估计协方差核的对角和非对角部分来解决这个问题。然后，我们提出了一个实用和有效的方法，通过使用近似的留一曲线交叉验证得分选择的内核的带宽。我们证明，在标准的正则条件下的协方差核和假设独立同分布。样本，我们估计的风险，在$L^2$损失下，当每条曲线的测量数有界时，达到最优的非参数率。我们还表明，即使当样本曲线相关的无噪声数据具有可分离的协方差结构的方式，所提出的方法仍然是一致的，我们量化的作用，这种相关性的估计的风险。
2008-07-07 math.ST stat.ME stat.TH
On estimation in varying coefficient models for sparse and irregularly sampled functional data
本文研究了一种基于稀疏不规则采样函数数据的变系数模型的光滑正则化方法，该模型含有一定的测量误差。基于再生核Hilbert空间方法，我们估计了潜在随机过程的一维协方差和互协方差函数。然后，我们得到系数函数的最小二乘估计。仿真结果表明，该方法具有良好的性能。我们通过分析原发性胆汁性肝硬化的纵向数据来说明我们的方法。
2017-11-27 stat.ME
Estimation of functionals of sparse covariance matrices
高维统计检验通常忽略相关性以获得简单性和稳定性，从而导致依赖于相关阵的泛函（例如其Frobenius范数和其他$\ell_r$范数）的零分布。受这类检验临界值计算的启发，我们研究了稀疏相关阵泛函估计的困难。具体而言，我们表明，简单的插件程序的基础上阈值估计的相关阵是稀疏自适应和极大极小最优的一类相关阵。类似于以前的结果功能估计，极大极小利率表现出肘现象。我们的研究结果进一步说明了模拟数据以及金融计量经济学中产生的数据的实证研究。
2015-11-17 math.ST stat.ME stat.TH
Multi-level Thresholding Test for High Dimensional Covariance Matrices
我们考虑测试的平等的两个高维协方差阵进行多级阈值的程序，这是为了检测稀疏和微弱的差异之间的协方差。一种新的U-统计组合的开发，建立与矩阵分块和耦合技术的阈值统计的渐近分布。我们提出了一个多阈值测试，被证明是强大的，在检测两个协方差阵之间的稀疏和弱的差异。测试结果表明，有吸引力的检测边界，并达到最佳的最小最大速率在不同的制度下的高维和稀疏的信号强度。仿真研究进行了演示所提出的测试的效用。
2019-10-29 math.ST stat.ME stat.TH
Sparse covariance estimation in heterogeneous samples
标准高斯图模型（GGM）隐含地假设变量之间的条件独立性对样本中的所有观测值是共同的。然而，在实践中，观测通常是从异质总体收集的，这样的假设是不满足的，从而导致变量之间的非线性关系。为了解决这些问题，我们探索混合GGM，特别是，我们认为GGM和无限隐马尔可夫模型GGM排放分布的无限混合模型。这样的模型允许我们将异质群体划分为同质群体，每个集群都有自己的条件独立结构。考虑无限混合的主要优点是，它们使我们能够很容易地估计样本中的子种群的数量。作为一个例子，我们研究了前欧元时代汇率波动的趋势。这个例子表明，模型是非常灵活的，同时提供了非常有趣的见解到现实生活中的应用程序。
2010-01-23 stat.AP stat.CO stat.ME
A large covariance matrix estimator under intermediate spikiness regimes
本文在低秩稀疏结构的假设下，研究了大协方差阵协方差阵的复合极小化估计问题。在该方法中，通过核范数加$l_1$范数惩罚下的最小二乘极小化来恢复协方差阵的低秩加稀疏分解。本文提出了一种新的估计，该家庭的基础上，一个额外的最小二乘再优化步骤，旨在不收缩的低秩分量的特征值估计在第一步。我们证明，这种非收缩导致最终估计接近目标尽可能接近Frobenius范数，同时准确地恢复底层的低秩和稀疏模式。当$n$至少为$O(p^{\frac{3}{2}δ})$时，保证一致性，前提是稀疏组件中每行的最大非零数为具有$δ\leq \frac{1}{2}$的$O(p^δ)$。如果潜在特征值缩放到$p^α$、$α\in[0,1]$，则确保一致的恢复，而如果$δ\leq α$，则确保秩一致性。由此产生的估计量被称为UNALCE（UNshrinked ALgeorge协方差估计），并表现出优于最先进的估计，特别是对于什么样的拟合特性和稀疏模式检测。UNALCE的有效性突出了一个真实的例子，关于欧洲央行银行监管数据。
2018-10-20 stat.ME
Learning Large Causal Structures from Inverse Covariance Matrix via Sparse Matrix Decomposition
INRIA（法国国家信息与自动化研究所）；Université Paris-Saclay（巴黎-萨克雷大学）；Fujitsu（富士通公司）；Fujitsu Laboratories Ltd.（富士通实验室有限公司）
本文提出 ICID 方法，通过保持逆协方差矩阵非零模式的稀疏矩阵分解，高效地从逆协方差矩阵中学习大规模线性 SEM 的有向无环图，并在噪声方差有界误设下保持鲁棒，在模拟 fMRI 数据上优于现有算法。
2024-02-19 cs.LG math.OC stat.ME
Sparse Inverse Covariance Estimation for High-throughput microRNA Sequencing Data in the Poisson Log-Normal Graphical Model
我们介绍了泊松对数正态图模型的计数数据，并提出了一个正态变换的数据从这个分布。该模型和转换对于高通量microRNA（miRNA）测序数据是可行的，并且直接解释了该数据集中存在的已知过度分散关系。该模型允许对网络依赖关系进行建模，并且我们提供了一种算法，该算法利用基于EM的一步结果，以便在确定网络结构时允许可证明的性能增加。该模型被证明提供了一个范围内的网络结构在模拟设置的性能增加。该模型应用于癌症基因组图谱（TCGA）乳腺癌患者的高通量miRNA测序数据。通过选择拟合网络中连接最紧密的miRNA分子，我们发现几乎所有的miRNA分子都参与了乳腺癌的调控。
2017-08-15 stat.AP stat.CO stat.ME
A geometric approach to maximum likelihood estimation of the functional principal components from sparse longitudinal data
在本文中，我们考虑协方差核的特征值和特征函数的估计问题（即，函数主成分）从稀疏和不规则观测的纵向数据。我们通过假设协方差核是光滑的和有限维的极大似然方法来处理这个问题。我们利用本征函数的光滑性，通过将它们限制在光滑函数的低维空间来降低维数。该估计方案是基于牛顿-拉夫逊程序，使用的事实，即基础系数代表的本征函数位于Stiefel流形上。我们还解决了选择正确数量的基函数，以及协方差核的维度的二阶近似的留一曲线交叉验证得分，这是计算上非常有效的。我们的程序的有效性证明了模拟研究和应用程序的CD 4计数数据集。在仿真研究中，我们的方法在估计和模型选择方面都有很好的表现。它也优于现有的两种方法：一种是基于经验协方差的局部多项式平滑，另一种是使用期望最大化算法。
2007-10-29 stat.CO stat.ME
