A Sparse Linear Model for Positive Definite Estimation of Covariance Matrices
Baylor University(贝勒大学);University of Michigan(密歇根大学)
本文提出了一种稀疏线性模型用于估计正定协方差矩阵,通过惩罚回归方法解决样本协方差矩阵中的相关性、正定性和无偏估计问题,并通过实验验证了方法的有效性。
2026-02-28 stat.ME
A hierarchical eigenmodel for pooled covariance estimation
虽然对应于不同群体的一组协方差阵不太可能完全相等,但它们仍然可以表现出高度的相似性。例如,某些变量对在大多数组中可能是正相关的,而其他对之间的相关性可能始终是负的。在这种情况下,协方差阵之间的大部分相似性可以通过其主轴的相似性来描述,主轴由协方差阵的特征向量定义。估计跨总体特征向量异质性的程度可以有助于各种估计任务。特征向量矩阵可以合并以形成主轴的中心集,并且在轴相似的程度上,具有小样本量的总体的协方差估计可以通过朝向总体中心收缩其主轴来稳定。为此,本文开发了一个分层模型和估计程序,在几个人口汇集主轴。跨组异质性的模型是基于矩阵值的反足对称宾汉分布,可以灵活地描述人口的正交矩阵的“中心”和“蔓延”的概念。
2008-03-31 stat.ME
An Empirical Bayes Jackknife Regression Framework for Covariance Matrix Estimation
本文将协方差矩阵估计构建为复合决策问题,提出结合刀切技术与机器学习回归的算法,在不依赖数据分布假设下逼近最优决策规则,实验表明其性能达到或超越现有最先进方法。
2025-03-03 stat.ME
Sparse Positive-Definite Estimation for Covariance Matrices with Repeated Measurements
针对重复测量数据的分层结构特性,本文提出可高效求解的凸优化方法实现对象间与对象内协方差/相关矩阵的稀疏正定估计,验证了其误差性能并应用于血液透析临床变量协方差图构建。
2023-06-11 stat.ME
Fast Covariance Estimation for Sparse Functional Data
含噪样本协方差的平滑是函数数据分析中的一个重要组成部分。本文提出了一种基于惩罚样条函数的协方差平滑方法及其软件。所提出的方法是一个二元样条平滑器,设计用于协方差平滑,可用于稀疏的功能或纵向数据。我们提出了一个快速算法的协方差平滑使用留一主题交叉验证。我们的模拟结果表明,该方法与几种常用的方法相比,毫不逊色。该方法被应用到一项由共同作者之一领导的儿童生长研究和纵向CD4计数的公共数据集。
2017-04-06 stat.ME
Mean and Covariance Estimation for Functional Snippets
我们考虑估计的平均值和协方差函数的功能片段,这是短段的功能可能会观察到不规则的一个单独的特定的子区间,这是远远短于整个研究间隔。函数片段的协方差函数的估计是具有挑战性的,因为协方差结构的远非对角区域的信息完全缺失。我们通过将协方差函数分解为方差函数分量和相关函数分量来解决这个困难。方差函数可以有效地估计非参数化,而相关部分的参数化建模,可能与越来越多的参数,以处理丢失的信息在远非对角区域。理论分析和数值模拟都表明这种混合策略是有效的。此外,我们还提出了一种新的测量误差方差的估计量,并分析了它的渐近性质。这个估计器是需要从噪声测量的方差函数的估计。
2020-06-05 stat.ME
An Overview on the Estimation of Large Covariance and Precision Matrices
估计大的协方差矩阵和精度矩阵是现代多元分析的基础。这些问题来自于对大型面板经济和金融数据的统计分析。协方差阵显示变量之间的边际相关性,而精度矩阵在给定其余变量的情况下对变量对之间的条件相关性进行编码。在本文中,我们提供了一个选择性的审查最近的几个发展估计大协方差和精度矩阵。我们重点介绍了两种常用的方法:基于秩的方法和基于因素模型的方法。这两种方法的理论和应用。这些方法有望广泛应用于经济和金融数据的分析。
2015-04-15 stat.ME
Spatially smoothed robust covariance estimation for local outlier detection
针对存在空间依赖的多元数据,提出一种空间平滑的稳健协方差估计方法,通过折中全局与局部协方差实现局部异常值检测,并给出理论性质、高效算法及模拟与奥地利气象站数据验证。
2023-05-09 stat.ME
Streaming robust covariance estimation and sequential outlier detection
CREST, CNRS, ENSAE, IP Paris(法国国家科学研究中心经济与统计研究中央实验室,国立经济与应用学院,巴黎理工学院)
本文提出了一种在线方法,用于同时估计协方差矩阵和检测异常值,通过稳健估计几何中位数和方差来提高鲁棒性。
2026-11-10 stat.ME
A permutation-based Bayesian approach for inverse covariance estimation
多维数据集的协方差估计与选择是现代统计学中的一个基本问题。高斯图形模型是用于此目的的一类流行的模型。目前高斯图形模型下逆协方差阵估计的贝叶斯方法需要底层图形,因此变量的排序是已知的。然而,在实践中,关于真正的基本模型的这种信息往往是不可用的。因此,我们提出了一种新的基于置换的贝叶斯方法来解决未知变量排序问题。特别是,我们对每个排列利用DAG-Wishart先验下的多个最大后验估计,然后构造逆协方差阵的最终估计。该估计量具有较小的变异性并具有阶不变性质。我们建立后验收敛率在温和的假设下,并通过仿真研究表明,我们的方法优于现有的方法在估计逆协方差阵。
2019-02-26 stat.ME
Shared Subspace Models for Multi-Group Covariance Estimation
我们开发了一个基于模型的方法来评估在大p,小n设置的几个p × p的协方差阵之间的异质性。这是通过假设每个组的尖峰协方差模型和共享有关组级特征向量所跨越的空间的信息来实现的。我们使用一个经验贝叶斯方法,以确定一个低维的子空间,解释所有群体之间的变化,并使用MCMC算法来估计后验不确定性的特征向量和特征值在这个子空间。我们的模型的实施和效用说明与高维多变量基因表达的分析。
2019-10-21 stat.ME
Large Covariance Estimation for Compositional Data via Composition-Adjusted Thresholding
高维组成数据在诸如宏基因组数据分析等许多应用中自然出现。观测数据是一个高维的单纯形,传统的统计方法往往无法产生合理的结果,由于单位和约束。本文研究了高维成分数据的协方差估计问题,并在基协方差阵稀疏的假设下,提出了一种成分调整阈值(COAT)方法。我们的方法是基于一个分解有关的组成协方差的基础协方差,这是近似可识别的维数趋于无穷大。由此产生的过程可以被视为阈值的样本中心的对数比协方差矩阵,因此是可扩展的大协方差阵。我们严格的协方差参数的可识别性的特点,得到的频谱范数下的收敛速度,并提供理论保证支持恢复。模拟研究表明,COAT估计优于一些天真的阈值估计,忽略了独特的组成数据的功能。我们将所提出的方法应用于微生物组数据集的分析,以了解人类肠道中细菌类群之间的依赖结构。
2016-01-18 stat.ME
Covariance Estimation: The GLM and Regularization Perspectives
寻找一个无约束的和统计上可解释的协方差阵的重新参数化仍然是一个开放的问题,在统计。它的解决方案是至关重要的协方差估计,特别是在最近的高维数据环境中,强制执行的正定性约束可能是计算昂贵的。我们从两个相对互补的角度对协方差阵建模的进展进行了综述:(1)广义线性模型(GLM)或简约性和低维协变量的使用,以及(2)高维数据的正则化或稀疏性。一个新兴的,统一的和强大的趋势,在这两个方面是减少协方差估计问题,估计一系列回归问题。我们指出几个实例的回归为基础的配方。一个值得注意的情况是在稀疏估计的精度矩阵或高斯图形模型,导致快速图形LASSO算法。一些基于回归的Cholesky分解相对于经典的谱(特征值)和方差相关分解的优点和局限性突出。前者提供了一个无约束的和统计上可解释的重新参数化,并保证了正定性的估计协方差阵。它减少了不直观的任务,协方差估计的回归序列建模的成本强加一个先验秩序的变量。样本协方差阵的逐元素正则化(如条带化、锥形化和阈值化)具有期望的渐近性质,并且稀疏估计的协方差阵是正定的,对于大样本和大维度,概率趋于1。
2012-02-08 stat.ME
Regularized Block Toeplitz Covariance Matrix Estimation via Kronecker Product Expansions
在这项工作中,我们考虑在低样本非高斯制度的时空协方差阵的估计。我们以Kronecker乘积分解(Tsiligkarnut et al. 2013,Greenewald et al. 2013)和对角校正(Greenewald et al.)的形式施加协方差结构,在多帧协方差阵的估计中,我们将其称为DC-KronPCA。本文扩展了(Tsiligkarnut等人)的方法。两个方向。首先,我们修改对角校正的方法(Greenewald等人)。以包括施加时间平稳性结构的块Toeplitz约束。第二,我们通过使用类似于(Chen,Hero et al. 2010)的Ledoit-Wolf型收缩正则化来改进非常低样本区域中估计的条件。为了提高对重尾分布的鲁棒性,我们修改了KronPCA,以纳入鲁棒收缩估计(Chen,Hero等人,2011)。数值模拟的结果建立在估计MSE方面的好处相比,以前的方法。最后,我们将我们的方法应用于现实世界的网络时空异常检测问题,并取得了优异的成绩。
2014-05-13 stat.ME
High-dimensional covariance matrix estimation using a low-rank and diagonal decomposition
在协方差/精度矩阵可分解为低秩分量L和对角分量D的假设下,研究了高维协方差/精度矩阵的估计. L的秩可以选择为小的或由惩罚函数控制。在适当的条件下,人口协方差/精度矩阵本身和惩罚函数,我们证明了一些一致性结果,我们的估计。一个分块坐标下降算法,迭代更新L和D,然后提出在实践中获得的估计。最后,各种数值实验:使用模拟数据,我们表明,我们的估计表现相当不错的Kullback-Leibler损失方面,使用股票收益率数据,我们表明,我们的方法可以应用于获得增强的解决方案的Markowitz投资组合选择问题。
2018-02-16 stat.ME
Covariance Matrix Estimation for High-Throughput Biomedical Data with Interconnected Communities
针对高通量生物医学数据依赖模式的互联社区结构,提出利用该结构估计协方差和精度矩阵的方法,推导闭合形式估计量并分析其渐近性质,在模拟与真实数据中均优于现有方法。
2024-10-06 stat.ME
Bayesian Covariance Matrix Estimation using a Mixture of Decomposable Graphical Models
贝叶斯方法用于估计高斯数据的协方差阵。从高斯图形模型和模型选择的想法被用来构建一个先验的协方差阵,是一个混合在所有可分解的图。对于该先验,每个图大小的概率由用户指定,并且相同大小的图被分配相同的概率。大多数以前的方法假设所有的图都是同样可能的。我们的经验表明,分配相等的概率在图形大小的先验优于分配相等的概率在所有图形的先验,无论是在识别正确的可分解图,并在更有效地估计的协方差阵。
2007-06-09 stat.ME
High dimensional sparse covariance estimation via directed acyclic graphs
我们提出了一个基于图的技术估计稀疏的协方差阵及其逆高维数据。该方法基于学习有向无环图(DAG)和基于DAG估计多元高斯分布的参数。为了推断底层DAG,我们使用PC算法,并且为了估计基于DAG的协方差阵及其逆,我们使用提供正(半)定稀疏估计的Cholesky分解方法。我们提出了一个一致性的结果,在高维框架,我们比较我们的方法与Glasso模拟和真实数据。
2009-11-17 stat.ME
Nonparametric covariance estimation with bias correction for spatial lattice processes
TU Dortmund University(多特蒙德工业大学)
本文针对$\boldsymbol{Z}^2$上平稳格点过程,推导样本协方差估计量的有限样本偏差公式,提出联合偏差校正的几乎无偏协方差估计量,经模拟和地形数据克里金应用验证了其降低偏差等优势。
2026-10-09 stat.ME
Difference-Based High-Dimensional Long-Run Covariance Matrix Estimation for Mean-shift Time Series
Guangzhou University(广州大学);Nankai University(南开大学)
本文提出基于差分的初始估计器,结合硬阈值、软阈值和 tapering 方法,用于高维数据的稀疏长期协方差估计,在非常数均值时间序列中实现稳健估计。
2026-03-18 stat.ME
Sparse inverse covariance estimation with the lasso
我们考虑的问题估计稀疏图的套索惩罚施加到逆协方差阵。使用套索的坐标下降过程,我们开发了一个非常快的简单算法:在最坏的情况下,它在大约一分钟内解决了1000个节点的问题(~ 500,000个参数),并且比竞争方法快50到2000倍。它还提供了精确问题和Meinhausen和Buhlmann(2006)建议的近似之间的概念联系。我们说明了一些细胞信号数据的蛋白质组学的方法。
2007-08-27 stat.ME
Bayesian Quantification of Covariance Matrix Estimation Uncertainty in Optimal Fingerprinting
用于气候变化检测和归因的基于回归的最佳指纹技术需要估计强迫信号以及内部变率协方差阵,以便区分它们对观测记录的影响。虽然以前开发的方法已经考虑到了与强迫信号的估计相关的不确定性,但很少关注描述自然变异性的协方差阵中的不确定性,尽管已知该协方差阵的规格对结果有意义的影响。在这里,我们提出了一个贝叶斯最优指纹框架使用拉普拉斯基函数参数化的协方差阵。与基于主成分的传统方法不同,这种参数化不需要根据气候模型数据估计基向量本身,这允许估计协方差结构的不确定性传播到最佳指纹回归参数。我们通过CMIP6验证研究表明,该方法比基于主成分的方法实现了更好的校准覆盖率的真实回归参数。当应用于HadCRUT观测数据,所提出的方法检测人为变暖具有较高的置信水平,并在气候模型的选择较低的变异性,比基于主成分的方法。
2022-08-04 stat.ME
A convex framework for high-dimensional sparse Cholesky based covariance estimation
高维数据的协方差估计是现代统计学中的一个基本问题,有着广泛的应用。在这些高维数据集中,变量p的数量通常大于样本量n。解决这一挑战的一种流行方法是在协方差阵、其逆矩阵或相关变换中引入稀疏性。特别地,在逆协方差阵的Cholesky参数中引入稀疏性的方法可以是有用的,因为它们保证给出协方差阵的正定估计。此外,估计的稀疏模式对应于高斯数据的有向无环图(DAG)模型。近年来,已经开发了两种有用的惩罚似然方法,用于稀疏估计这个Cholesky参数(对稀疏模式没有限制)。然而,这些方法要么考虑非凸优化问题,当p > n时,这可能导致收敛问题和协方差阵的奇异估计,要么通过对条件方差参数施加严格约束来实现凸公式化。在本文中,我们提出了一个新的惩罚似然方法的逆协方差Cholesky参数的稀疏估计,旨在克服目前的方法的一些缺点,但保留各自的优势。我们得到了一个联合凸公式为我们的目标函数,这导致收敛保证,即使当p > n。该方法总是导致协方差阵的正定和对称估计。我们建立了高维估计和图选择的一致性,并在模拟/真实数据上证明了有限样本性能。
2016-10-07 stat.ME
Fast Covariance Estimation for Multivariate Sparse Functional Data
协方差估计在多元函数数据分析中是必不可少的,但还不成熟。提出了一种基于二元惩罚样条的多元稀疏函数数据协方差快速估计方法。所提出的方法的张量积B样条制定一个简单的谱分解相关的协方差算子和显式表达式的特征函数的线性组合的B样条基地,从而大大方便了随后的主成分分析。我们推导出一个快速算法,用于选择平滑参数的协方差平滑使用留一主题交叉验证。该方法通过广泛的数值研究进行评估,并应用于具有多个纵向结果的阿尔茨海默病研究。
2019-06-09 stat.CO stat.ME
Practical Realization of Bessel's Correction for a Bias-Free Estimation of the Auto-Covariance and the Cross-Covariance Functions
为了从采样和时间限制的信号导出自协方差函数或从两个这样的信号导出互协方差函数,必须估计平均值并从信号中去除。如果没有关于正确平均值的先验信息,而平均值必须从时间序列本身得出,则估计值将有偏差。对于独立数据的方差估计,适当的校正被广泛称为贝塞尔校正。这里示出了自协方差和互协方差函数的类似校正,包括样本的单独加权。然后,在相关数据的情况下,校正后的估计值还可以用于校正方差估计值。此处使用的程序可在http://sigproc.nambis.de/programs上在线获得。
2023-03-20 eess.SP stat.ME
Covariance Estimation in High Dimensions via Kronecker Product Expansions
本文提出了一种估计高维协方差阵的新方法。该方法,置换秩惩罚最小二乘(PRLS),是基于真实的协方差阵的克罗内克积级数展开。假设有身份证。高斯随机样本,我们建立高维收敛到真正的协方差的速度,因为样本数和变量数都趋于无穷大。对于低分离秩的协方差矩阵,我们的研究结果表明,PRLS具有显着更快的收敛速度比标准的样本协方差阵(SCM)估计。收敛速率捕获估计误差和近似误差之间的基本折衷,从而提供在分离秩方面的可缩放协方差估计框架,类似于协方差阵的低秩近似。MSE收敛速度推广了最近得到的Kronecker乘积协方差估计的ML触发器算法的高维速度。我们证明了一类块Toeplitz协方差阵是近似的低分离秩,并给出了最小分离秩$r$,以确保一个给定的偏差水平的界限。仿真验证了理论界。作为一个现实世界的应用程序,我们说明了实用的建议克罗内克协方差估计时空线性最小二乘预测的多变量风速测量。
2013-12-23 stat.ME stat.ML
Estimation and Testing for Covariance-Spectral Spatial-Temporal Models
本文探讨了一种时空过程的协方差谱建模策略,它在时间上采用谱方法,在空间上采用协方差方法,便于分析不同空间点的时间频率分量之间的相干性。Stein(2005)在此框架内建立了一个半参数模型,本文旨在更深入地了解该模型的性质,并提出简单直观的估计和检验方法。使用爱尔兰风速数据给出了一个例子。
2014-09-16 stat.AP stat.ME
Covariance Estimation for Matrix-valued Data
矩阵值数据的协方差估计在应用中受到越来越多的关注。不同于以往的工作,严重依赖于矩阵正态分布假设和固定的矩阵大小的要求,我们提出了一类分布无关的正则化的协方差估计方法,用于高维矩阵数据在一个可分离的条件和一个带宽的协方差结构.在这些条件下,原始协方差矩阵被分解成两个可带小协方差阵的克罗内克积,表示行和列方向上的变异性。我们制定了一个统一的框架,估计带协方差,并介绍了一个有效的算法的基础上秩一无约束克罗内克积近似。建立了估计量的收敛速度,导出的Minimax下界表明我们提出的估计量在一定的矩阵大小的发散制度下是速率最优的。我们进一步引入了一类稳健协方差估计,为处理重尾数据提供了理论保证。我们展示了优越的有限样本性能,我们的方法使用模拟和实际应用,从网格化的温度异常数据集和标准普尔500指数的股票数据分析。
2022-04-18 stat.ME stat.ML
Efficient Distributed Estimation of Inverse Covariance Matrices
在分布式系统中,由于其脆弱性或效率等问题,通信是一个主要问题。本文研究了样本分布到不同机器上时稀疏逆协方差阵的估计问题。我们提出了一种方法,其中,在单轮的通信,每台机器转移的逆协方差阵的条目的一个小的子集的通信效率。我们表明,这种有效的分布式方法,错误率可以与估计在非分布设置,正确的模型选择仍然是可能的。通过模拟显示了实际性能。
2016-05-03 stat.ME stat.ML
Robust Covariance and Scatter Matrix Estimation under Huber's Contamination Model
协方差阵估计是统计学中最重要的问题之一。为了适应现代数据集的复杂性,期望具有不仅可以结合协方差阵的结构假设,而且对来自任意源的离群值具有鲁棒性的估计过程。在本文中,我们定义了一个新的概念称为矩阵深度,然后提出了一个强大的协方差阵估计最大化的经验深度函数。所提出的估计,以实现最小最大最优率下Huber的$ε$污染模型估计协方差/散射矩阵的各种结构,包括带状和稀疏。
2017-06-12 math.ST stat.ME stat.TH
Positive Definite $\ell_1$ Penalized Estimation of Large Covariance Matrices
门限协方差估计对于估计稀疏的大协方差阵具有很好的渐近性质,但在实际数据分析中往往具有负的特征值。为了同时实现稀疏性和正定性,我们提出了一种正定的$\ell_1$ -惩罚协方差估计器来估计稀疏的大协方差阵。提出了一种有效的交替方向法来求解这一具有挑战性的优化问题,并证明了该方法的收敛性。在弱正则条件下,建立了估计量的非渐近统计理论。仿真和实际应用表明,我们的建议的有限样本的竞争力的性能。
2012-08-28 math.OC stat.ME
Covariance Estimation and its Application in Large-Scale Online Controlled Experiments
在过去的几十年里,在线控制实验(也称为A/B测试)已被采纳为衡量行业业务改进的黄金标准。在我们公司,有超过10亿用户同时参与数千个实验,并且在这些实验中对数千个在线指标进行常规的统计推断和估计,计算成本将成为一个大问题。在本文中,我们提出了一种新的算法估计的协方差的在线指标,它引入了更多的灵活性之间的权衡计算成本和精度的协方差估计。该协方差估计方法降低了大规模环境下度量计算的计算成本,有利于进一步应用于在线受控实验和自适应实验场景,如方差缩减、连续监控、贝叶斯优化等,易于工程实现。
2021-08-05 stat.AP stat.ME
Semiparametric Estimation of Cross-covariance Functions for Multivariate Random Fields
空间参考多变量数据的流行促使研究人员开发一个多个空间过程的联合建模过程。这通常涉及使用多变量空间协方差函数对任意位置对的边际和跨进程依赖性进行建模。然而,构建非负定的灵活的多变量空间协方差函数具有挑战性。在这里,我们提出了一个半参数的方法来估计多变量空间协方差函数的近似Matérn边缘和高度灵活的交叉协方差函数,通过他们的谱表示。我们的交叉协方差函数中的灵活性是由于底层相干函数的基于B样条的规范而产生的,这反过来又允许我们捕获非平凡的交叉谱特征。然后,我们开发了一个基于似然的估计过程,并进行了多次仿真研究,以证明我们的方法的性能,特别是在相干函数估计。最后,我们分析了颗粒物浓度($\text{PM}_{2.5}$)和风速数据在美国东北部地区,在那里我们说明了我们提出的方法优于常用的全双变量Matérn模型和线性模型的空间预测的协区域化。
2019-11-06 stat.AP stat.ME
On the Estimation of Anisotropic Covariance Functions on Compact Two-Point Homogeneous Spaces
本文将二维球面上样条型各向异性协方差估计的渐近理论推广到连通紧致两点齐性空间,拓展了该方法的适用范围。
2025-07-04 math.ST stat.ME stat.TH
A Compound Decision Approach to Covariance Matrix Estimation
协方差阵估计是许多应用中的基本统计任务,但是当样本量与特征数量相当或小于特征数量时,样本协方差阵是次优的。这种高维设置在现代基因组学中是常见的,其中协方差阵估计经常被用作推断基因网络的方法。为了在这些设置中实现估计精度,现有方法通常假设总体协方差阵具有某种特定结构,例如稀疏性,或者应用收缩以更好地估计总体特征值。本文研究了一种估计高维协方差阵的新方法。我们首先将协方差阵估计作为一个复合决策问题。这促使定义一类决策规则,并使用非参数经验贝叶斯g-建模方法来估计类中的最优规则。在小鼠RNA-seq实验中的模拟结果和基因网络推断表明,我们的方法与许多最先进的提议相当或优于它们。
2022-06-02 math.ST stat.ME stat.TH
Estimation of Constrained Mean-Covariance of Normal Distributions
均值向量和协方差阵的估计在多元数据分析中具有重要意义。在广义线性模型框架下,方差通常是均值的某个函数,但正态分布是个例外。本文研究了多元正态分布在联合约束$\bmΣ\bmμ = \bmμ$下的均值-协方差的极大似然估计和贝叶斯估计.通过重新参数化包含特征值和$\bmμ$的$\bmΣ$的谱分解,提出了一种新的结构协方差。这是为了解决具有挑战性的正定性问题,并减少协方差参数的数量从二次到线性函数的维度。我们提出了一种快速(非迭代)的方法近似的极大似然估计最大化的下限的配置文件似然函数,这是凹的。我们使用正常和反伽玛先验的平均值和特征值,并近似的最大后验估计的MH内吉布斯抽样和更快的迭代方法。仿真研究表明,我们的估计性能良好。
2021-10-07 stat.CO stat.ME
Mixture-based Nonparametric Estimation of Spatial Covariance Functions with Applications to HIV Key Population Size Estimation across Sub-Saharan Africa
Pennsylvania State University(宾夕法尼亚州立大学)
本研究提出基于混合表示的非参数协方差函数估计方法,用于改进撒哈拉以南非洲女性性工作者人群规模的空间估计,以支持HIV资源分配。
2026-09-11 stat.AP stat.ME
Robust low-rank covariance matrix estimation with a general pattern of missing values
本文研究了不完全数据下的抗差协方差阵估计问题。经典的统计估计方法通常建立在高斯假设的基础上,而现有的稳健估计方法假设非结构化的信号模型。前者在真实世界的数据集中可能是不准确的,其中异质性导致重尾分布,而后者不能从通常的低秩信号结构中获益。利用这两个世界的优势,一个协方差阵估计程序设计的鲁棒(混合缩放高斯)低秩模型,利用期望最大化算法内的离散数据似然函数。它还被设计为处理缺失值的一般模式。所提出的方法首先验证模拟数据集。然后,它的分类和聚类应用的兴趣进行评估,在两个真正的数据集与缺失值,其中包括多光谱和高光谱时间序列。
2021-11-23 eess.SP stat.ME
Covariance estimation for multivariate conditionally Gaussian dynamic linear models
在多变量时间序列中,观测新息的协方差阵的估计在预测中起着重要的作用,因为它使得能够计算标准化的预测误差向量,以及它使得能够计算预测的置信界限。我们开发了一个在线的,非迭代贝叶斯算法的估计和预测。实验结果表明,对于一定范围的模拟时间序列,所提出的协方差估计器具有良好的性能收敛到未知观测协方差阵的真值。在一个模拟的时间序列,新的方法近似正确的估计,产生的非序贯蒙特卡罗模拟程序,这是在这里使用的黄金标准。特殊的,但重要的,向量自回归(VAR)和随时间变化的VAR模型说明考虑伦敦金属交易所的数据组成的现货价格的铝,铜,铅和锌。
2008-02-01 stat.AP stat.ME
Noise Estimation in the Spiked Covariance Model
研究了Frobenius损失下高维加样协方差阵的估计问题和加样PCA中噪声估计的并行问题。我们提出了一个估计的噪声参数最小化的无偏估计的不变Frobenius风险使用变分法。由此产生的估计,使用随机矩阵理论,是强一致的,基本上是渐近正常和极小极大的噪声估计问题。我们应用该构造构造了一个特征值一致的鲁棒尖峰协方差阵估计。
2014-08-27 math.ST stat.ME stat.TH
Efficient nonparametric estimation of Toeplitz covariance matrices
本文提出一种基于数据变换的Toeplitz协方差矩阵非参数估计量,将其转化为近似高斯回归的均值估计,该方法正定、数据驱动且计算极快,并在谱范数下达到最小最大最优,同时扩展至逆矩阵估计。
2024-01-05 math.ST stat.ME stat.TH
Sparse Approximate Factor Estimation for High-Dimensional Covariance Matrices
提出了一种基于$l_1$正则化近似因子模型的协方差矩阵估计方法。我们的稀疏近似因子(SAF)协方差估计允许弱因子的存在,因此放松了标准近似因子模型通常采用的普遍性假设。我们证明了协方差矩阵估计在Frobenius范数下的相合性以及因子载荷和因子的相合性。我们的蒙特卡罗模拟表明,SAF协方差估计具有优越的性能,在有限样本的低,高维和不同的协方差矩阵的设计。此外,在样本外的投资组合预测应用的估计一致优于替代的投资组合策略的基础上,替代协方差估计方法和建模策略,包括$1/N$ -战略。
2019-06-13 econ.EM math.ST q-fin.PM
Sparse Kalman Filtering Approaches to Covariance Estimation from High Frequency Data in the Presence of Jumps
由于收益率的非同步性、市场微观结构噪声和跳跃等因素的影响,高频数据下资产收益率协方差矩阵的估计变得复杂。一种用于解决异步回报和市场微观结构的技术是卡尔曼EM(KEM)算法。然而,KEM方法假设对数正态价格,并没有解决跳跃的回报过程中,可能会损坏估计的协方差矩阵。在本文中,我们扩展了KEM算法的价格模型,包括跳跃。我们提出了两种稀疏卡尔曼滤波方法来解决这个问题。在第一种方法中,我们开发了卡尔曼期望条件最大化(KECM)算法来确定未知的协方差以及检测跳跃。对于该算法,我们考虑拉普拉斯和尖峰和平板跳跃模型,这两个促进稀疏估计的跳跃。在第二种方法中,我们采取贝叶斯方法,并使用吉布斯抽样的协方差矩阵的后验分布下的尖峰和板跳模型的样本。使用模拟数据的数值结果表明,这些方法中的每一个都提供了改进的协方差估计相对于KEM方法在各种设置的跳跃发生。
2016-04-14 q-fin.ST stat.ME
Efficient Covariance Estimation for Sparsified Functional Data
Tsinghua University(清华大学);Pattern Recognition Center, WeChat AI, Tencent Inc.(腾讯公司微信人工智能模式识别中心)
本文提出高效的随机knots和B-样条协方差估计方法,用于处理稀疏函数数据的主成分分析,通过蒙特卡洛实验验证其有效性。
2025-11-23 stat.ME stat.ML
Estimation When Both Covariance And Precision Matrices Are Sparse
我们提供了一种方法来估计协方差矩阵的特殊情况下,\textit{both}的协方差阵和精度矩阵是稀疏的--一个约束,我们称之为双稀疏。估计方法是极大似然,服从双稀疏约束。在我们的方法中,只允许一类特殊的稀疏模式:矩阵及其逆矩阵必须从属于同一个弦图。与双重稀疏性的天真执行相比,我们的弦图方法利用了一个特殊的代数局部逆公式。该局部逆属性使得通常涉及逆(精度矩阵或协方差阵的逆)的计算快得多。在协方差阵估计的背景下,我们的建议似乎是第一次找到这样的特殊对协方差和精度矩阵。
2021-08-15 math.ST stat.CO stat.ME
Stochastic Block Covariance Matrix Estimation
针对神经科学中的高维块结构协方差矩阵估计问题,提出分层贝叶斯方法同时恢复潜在块并估计矩阵,数值实验证明分层结构与收缩先验对多块准确恢复至关重要。
2025-02-28 stat.AP stat.ME
Localized covariance estimation: A Bayesian perspective
数值天气预报中的一个主要问题是从少量样本中估计高维协方差阵。当总体维数远大于样本数时,极大似然估计不能提供可靠的估计。幸运的是,NWP从业者已经找到了巧妙的方法,通过利用相关性随空间距离衰减的假设来提高协方差估计的准确性。在这项工作中,贝叶斯统计是用来提供一个新的理由和分析的实际数值预报协方差估计。贝叶斯框架涉及操纵对称正定矩阵上的分布,它导致两个主要发现:(i)协方差阵的常用“混合估计量”具有自然的贝叶斯解释;(ii)非常常用的“舒尔乘积估计量”不是贝叶斯的,但它可以在贝叶斯框架内进行研究和理解。作为实际意义,贝叶斯框架显示了如何减少协方差估计所需的调整量,它表明有效的协方差估计应该植根于理解和惩罚条件相关性,而不是相关性。
2023-01-12 cs.NA math.NA physics.ao-ph
Non-Parametric Estimation of Spot Covariance Matrix with High-Frequency Data
特别是随着高频金融数据的日益可用,估计现货协方差是一个重要的研究问题。本文研究了高频数据点协方差的核方法估计。特别是,我们考虑第一核加权版本的实现协方差估计的价格过程所支配的一个连续的多元半鞅。接下来,我们将其扩展到阈值核估计的现货协方差时,潜在的价格过程是一个不连续的多元半鞅有限活动跳跃。我们得到了固定和收缩带宽的估计量的渐近分布。在一个设置与跳跃的估计有相同的速度收敛的扩散过程的估计没有跳跃。一个模拟研究检查估计的有限样本性质。此外,我们研究的估计量的协方差预测的背景下的应用。我们发现,预测模型与我们的估计优于基准模型在文献中。
2019-05-20 stat.AP stat.ME stat.OT
Sparse covariance matrix estimation in high-dimensional deconvolution
研究了在加性噪声污染的$n$独立观测值下,$p$维正态随机向量的协方差阵$Σ$的估计问题.对噪声的分布只作一般的非参数假设,而对其协方差阵没有任何稀疏性约束。在这个高维半参数反卷积问题中,我们提出了自适应的$Σ$的稀疏性的谱阈值估计。我们建立了一个预言不等式,这些估计下的模型miss规格,并获得非渐近极小极大收敛速度,证明是对数的$n/\log p$。我们还讨论了基于间接观测的低秩矩阵的估计以及对椭圆分布的推广。数值例子说明了阈值估计的有限样本性能。
2018-03-26 math.ST stat.ME stat.TH
Efficient estimation of conditional covariance matrices for dimension reduction
设$\boldsymbol{X}\in \mathbb{R}^p$和$Y\in \mathbb{R}$。在本文中,我们提出了一个估计的条件协方差阵,$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$,在逆回归设置。基于二次函数的估计,该方法从半参数的角度提供了一个有效的估计。我们考虑了$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$在一些温和的条件下的功能泰勒展开和使用未知的联合分布的估计的效果。并给出了该估计量的渐近性质。
2014-08-19 math.ST stat.ME stat.TH
Reduced-Rank Covariance Estimation in Vector Autoregressive Modeling
本文研究了高维向量自回归模型中白噪声协方差阵的降秩建模问题。首先,我们提出了降秩协方差估计的设置下,独立的观察。本文推导了向量观测值基于隐变量模型的降秩估计,并给出了其最大似然估计的解析形式。仿真结果表明,降秩协方差估计优于两个竞争的协方差估计的大规模的协方差阵从独立的观察。然后,我们描述了如何将所提出的降秩估计融入到高维VAR模型的拟合中,在这里我们考虑了两种需要不同模型拟合程序的情况。在VAR建模的背景下,我们的降秩协方差估计不仅提供了VAR过程的依赖结构的可解释的描述,但也导致改进模型拟合和预测不受限制的协方差估计。两个实际数据的例子来说明这些拟合程序。
2014-12-05 stat.AP stat.CO stat.ME
High-dimensional Covariance Estimation by Pairwise Likelihood Truncation
提出基于成对似然截断的高维稀疏协方差矩阵估计方法,通过最小化似然得分 L2 距离与 L1 惩罚选择成对项,保留估计无偏性并具有选择一致性。
2024-07-24 math.ST stat.ME stat.TH
Sparse Covariance Estimation in Logit Mixture Models
本文介绍了一种新的数据驱动的方法估计稀疏协方差阵的随机系数的Logit混合模型。研究人员通常在两个极端假设之一下指定logit混合模型中的协方差阵:不受限制的完整协方差阵(允许所有随机系数之间的相关性)或限制的对角矩阵(完全不允许相关性)。我们的目标是找到相关系数的最佳子集,我们估计协方差。我们提出了一个新的估计,称为MISC,使用混合整数优化(MIO)程序找到一个最佳的块对角结构规范的协方差矩阵,对应于相关系数的子集,为任何所需的稀疏水平,使用马尔可夫链蒙特卡罗(MCMC)后提请从不受限制的完整的协方差阵。使用样本外验证确定协方差阵的最佳稀疏水平。我们证明了MISC从合成数据中正确恢复真实协方差结构的能力。在一个实证说明中,我们使用MISC来获得一个稀疏的协方差阵,表明属性的偏好是如何相互关联的。
2020-01-14 econ.EM stat.ME stat.ML
Nonasymptotic estimation and support recovery for high dimensional sparse covariance matrices
我们提出了一个一般性的框架,利用集中不等式为基础的信心集的非渐近协方差阵估计。我们指定这个框架的估计大型稀疏协方差阵,通过将过去的阈值估计与支持恢复的重点。这种技术超越了过去的阈值估计的结果,允许广泛的分布假设超出仅仅是次高斯尾巴。这种方法还可以适用于广泛的其他估计和设置。非渐近无量纲置信集的使用产生良好的理论性能。通过大量的模拟,它被证明具有优越的性能时,与其他这样的方法相比。在支持恢复的上下文中,我们能够指定误报率并进行优化以最大化真实恢复。
2019-03-26 math.ST stat.CO stat.ME