Shared Subspace Models for Multi-Group Covariance Estimation
我们开发了一个基于模型的方法来评估在大p,小n设置的几个p × p的协方差阵之间的异质性。这是通过假设每个组的尖峰协方差模型和共享有关组级特征向量所跨越的空间的信息来实现的。我们使用一个经验贝叶斯方法,以确定一个低维的子空间,解释所有群体之间的变化,并使用MCMC算法来估计后验不确定性的特征向量和特征值在这个子空间。我们的模型的实施和效用说明与高维多变量基因表达的分析。
2019-10-21 stat.ME
Large Covariance Estimation for Compositional Data via Composition-Adjusted Thresholding
高维组成数据在诸如宏基因组数据分析等许多应用中自然出现。观测数据是一个高维的单纯形,传统的统计方法往往无法产生合理的结果,由于单位和约束。本文研究了高维成分数据的协方差估计问题,并在基协方差阵稀疏的假设下,提出了一种成分调整阈值(COAT)方法。我们的方法是基于一个分解有关的组成协方差的基础协方差,这是近似可识别的维数趋于无穷大。由此产生的过程可以被视为阈值的样本中心的对数比协方差矩阵,因此是可扩展的大协方差阵。我们严格的协方差参数的可识别性的特点,得到的频谱范数下的收敛速度,并提供理论保证支持恢复。模拟研究表明,COAT估计优于一些天真的阈值估计,忽略了独特的组成数据的功能。我们将所提出的方法应用于微生物组数据集的分析,以了解人类肠道中细菌类群之间的依赖结构。
2016-01-18 stat.ME
Covariance Estimation: The GLM and Regularization Perspectives
寻找一个无约束的和统计上可解释的协方差阵的重新参数化仍然是一个开放的问题,在统计。它的解决方案是至关重要的协方差估计,特别是在最近的高维数据环境中,强制执行的正定性约束可能是计算昂贵的。我们从两个相对互补的角度对协方差阵建模的进展进行了综述:(1)广义线性模型(GLM)或简约性和低维协变量的使用,以及(2)高维数据的正则化或稀疏性。一个新兴的,统一的和强大的趋势,在这两个方面是减少协方差估计问题,估计一系列回归问题。我们指出几个实例的回归为基础的配方。一个值得注意的情况是在稀疏估计的精度矩阵或高斯图形模型,导致快速图形LASSO算法。一些基于回归的Cholesky分解相对于经典的谱(特征值)和方差相关分解的优点和局限性突出。前者提供了一个无约束的和统计上可解释的重新参数化,并保证了正定性的估计协方差阵。它减少了不直观的任务,协方差估计的回归序列建模的成本强加一个先验秩序的变量。样本协方差阵的逐元素正则化(如条带化、锥形化和阈值化)具有期望的渐近性质,并且稀疏估计的协方差阵是正定的,对于大样本和大维度,概率趋于1。
2012-02-08 stat.ME
High-dimensional covariance matrix estimation using a low-rank and diagonal decomposition
在协方差/精度矩阵可分解为低秩分量L和对角分量D的假设下,研究了高维协方差/精度矩阵的估计. L的秩可以选择为小的或由惩罚函数控制。在适当的条件下,人口协方差/精度矩阵本身和惩罚函数,我们证明了一些一致性结果,我们的估计。一个分块坐标下降算法,迭代更新L和D,然后提出在实践中获得的估计。最后,各种数值实验:使用模拟数据,我们表明,我们的估计表现相当不错的Kullback-Leibler损失方面,使用股票收益率数据,我们表明,我们的方法可以应用于获得增强的解决方案的Markowitz投资组合选择问题。
2018-02-16 stat.ME
Covariance Matrix Estimation for High-Throughput Biomedical Data with Interconnected Communities
针对高通量生物医学数据依赖模式的互联社区结构,提出利用该结构估计协方差和精度矩阵的方法,推导闭合形式估计量并分析其渐近性质,在模拟与真实数据中均优于现有方法。
2024-10-06 stat.ME
High dimensional sparse covariance estimation via directed acyclic graphs
我们提出了一个基于图的技术估计稀疏的协方差阵及其逆高维数据。该方法基于学习有向无环图(DAG)和基于DAG估计多元高斯分布的参数。为了推断底层DAG,我们使用PC算法,并且为了估计基于DAG的协方差阵及其逆,我们使用提供正(半)定稀疏估计的Cholesky分解方法。我们提出了一个一致性的结果,在高维框架,我们比较我们的方法与Glasso模拟和真实数据。
2009-11-17 stat.ME
Nonparametric covariance estimation with bias correction for spatial lattice processes
TU Dortmund University(多特蒙德工业大学)
本文针对$\boldsymbol{Z}^2$上平稳格点过程,推导样本协方差估计量的有限样本偏差公式,提出联合偏差校正的几乎无偏协方差估计量,经模拟和地形数据克里金应用验证了其降低偏差等优势。
2026-10-09 stat.ME
Sparse inverse covariance estimation with the lasso
我们考虑的问题估计稀疏图的套索惩罚施加到逆协方差阵。使用套索的坐标下降过程,我们开发了一个非常快的简单算法:在最坏的情况下,它在大约一分钟内解决了1000个节点的问题(~ 500,000个参数),并且比竞争方法快50到2000倍。它还提供了精确问题和Meinhausen和Buhlmann(2006)建议的近似之间的概念联系。我们说明了一些细胞信号数据的蛋白质组学的方法。
2007-08-27 stat.ME
A hierarchical eigenmodel for pooled covariance estimation
虽然对应于不同群体的一组协方差阵不太可能完全相等,但它们仍然可以表现出高度的相似性。例如,某些变量对在大多数组中可能是正相关的,而其他对之间的相关性可能始终是负的。在这种情况下,协方差阵之间的大部分相似性可以通过其主轴的相似性来描述,主轴由协方差阵的特征向量定义。估计跨总体特征向量异质性的程度可以有助于各种估计任务。特征向量矩阵可以合并以形成主轴的中心集,并且在轴相似的程度上,具有小样本量的总体的协方差估计可以通过朝向总体中心收缩其主轴来稳定。为此,本文开发了一个分层模型和估计程序,在几个人口汇集主轴。跨组异质性的模型是基于矩阵值的反足对称宾汉分布,可以灵活地描述人口的正交矩阵的“中心”和“蔓延”的概念。
2008-03-31 stat.ME
A convex framework for high-dimensional sparse Cholesky based covariance estimation
高维数据的协方差估计是现代统计学中的一个基本问题,有着广泛的应用。在这些高维数据集中,变量p的数量通常大于样本量n。解决这一挑战的一种流行方法是在协方差阵、其逆矩阵或相关变换中引入稀疏性。特别地,在逆协方差阵的Cholesky参数中引入稀疏性的方法可以是有用的,因为它们保证给出协方差阵的正定估计。此外,估计的稀疏模式对应于高斯数据的有向无环图(DAG)模型。近年来,已经开发了两种有用的惩罚似然方法,用于稀疏估计这个Cholesky参数(对稀疏模式没有限制)。然而,这些方法要么考虑非凸优化问题,当p > n时,这可能导致收敛问题和协方差阵的奇异估计,要么通过对条件方差参数施加严格约束来实现凸公式化。在本文中,我们提出了一个新的惩罚似然方法的逆协方差Cholesky参数的稀疏估计,旨在克服目前的方法的一些缺点,但保留各自的优势。我们得到了一个联合凸公式为我们的目标函数,这导致收敛保证,即使当p > n。该方法总是导致协方差阵的正定和对称估计。我们建立了高维估计和图选择的一致性,并在模拟/真实数据上证明了有限样本性能。
2016-10-07 stat.ME
Fast Covariance Estimation for Multivariate Sparse Functional Data
协方差估计在多元函数数据分析中是必不可少的,但还不成熟。提出了一种基于二元惩罚样条的多元稀疏函数数据协方差快速估计方法。所提出的方法的张量积B样条制定一个简单的谱分解相关的协方差算子和显式表达式的特征函数的线性组合的B样条基地,从而大大方便了随后的主成分分析。我们推导出一个快速算法,用于选择平滑参数的协方差平滑使用留一主题交叉验证。该方法通过广泛的数值研究进行评估,并应用于具有多个纵向结果的阿尔茨海默病研究。
2019-06-09 stat.CO stat.ME
Covariance Estimation in High Dimensions via Kronecker Product Expansions
本文提出了一种估计高维协方差阵的新方法。该方法,置换秩惩罚最小二乘(PRLS),是基于真实的协方差阵的克罗内克积级数展开。假设有身份证。高斯随机样本,我们建立高维收敛到真正的协方差的速度,因为样本数和变量数都趋于无穷大。对于低分离秩的协方差矩阵,我们的研究结果表明,PRLS具有显着更快的收敛速度比标准的样本协方差阵(SCM)估计。收敛速率捕获估计误差和近似误差之间的基本折衷,从而提供在分离秩方面的可缩放协方差估计框架,类似于协方差阵的低秩近似。MSE收敛速度推广了最近得到的Kronecker乘积协方差估计的ML触发器算法的高维速度。我们证明了一类块Toeplitz协方差阵是近似的低分离秩,并给出了最小分离秩$r$,以确保一个给定的偏差水平的界限。仿真验证了理论界。作为一个现实世界的应用程序,我们说明了实用的建议克罗内克协方差估计时空线性最小二乘预测的多变量风速测量。
2013-12-23 stat.ME stat.ML
Covariance Estimation for Matrix-valued Data
矩阵值数据的协方差估计在应用中受到越来越多的关注。不同于以往的工作,严重依赖于矩阵正态分布假设和固定的矩阵大小的要求,我们提出了一类分布无关的正则化的协方差估计方法,用于高维矩阵数据在一个可分离的条件和一个带宽的协方差结构.在这些条件下,原始协方差矩阵被分解成两个可带小协方差阵的克罗内克积,表示行和列方向上的变异性。我们制定了一个统一的框架,估计带协方差,并介绍了一个有效的算法的基础上秩一无约束克罗内克积近似。建立了估计量的收敛速度,导出的Minimax下界表明我们提出的估计量在一定的矩阵大小的发散制度下是速率最优的。我们进一步引入了一类稳健协方差估计,为处理重尾数据提供了理论保证。我们展示了优越的有限样本性能,我们的方法使用模拟和实际应用,从网格化的温度异常数据集和标准普尔500指数的股票数据分析。
2022-04-18 stat.ME stat.ML
Covariance Estimation and its Application in Large-Scale Online Controlled Experiments
在过去的几十年里,在线控制实验(也称为A/B测试)已被采纳为衡量行业业务改进的黄金标准。在我们公司,有超过10亿用户同时参与数千个实验,并且在这些实验中对数千个在线指标进行常规的统计推断和估计,计算成本将成为一个大问题。在本文中,我们提出了一种新的算法估计的协方差的在线指标,它引入了更多的灵活性之间的权衡计算成本和精度的协方差估计。该协方差估计方法降低了大规模环境下度量计算的计算成本,有利于进一步应用于在线受控实验和自适应实验场景,如方差缩减、连续监控、贝叶斯优化等,易于工程实现。
2021-08-05 stat.AP stat.ME
Frequentist-Bayes Hybrid Covariance Estimationfor Unfolding Problems
在本文中,我们提出了一个频率-贝叶斯混合方法估计展开分布的协方差使用伪实验。该方法与其他协方差估计方法进行了比较,使用无偏Rao-Cramer界(RCB)和频率伪实验。我们发现,无偏RCB方法偏离其他两种方法时,正则化。对于不同的正则化量,新的混合方法与频率伪实验方法吻合得很好。然而,混合方法具有不需要明确的似然定义的额外优点,并且可以与使用响应矩阵来对检测器响应进行建模的任何展开算法结合使用。
2021-10-15 hep-ex stat.ME
Covariance estimation for multivariate conditionally Gaussian dynamic linear models
在多变量时间序列中,观测新息的协方差阵的估计在预测中起着重要的作用,因为它使得能够计算标准化的预测误差向量,以及它使得能够计算预测的置信界限。我们开发了一个在线的,非迭代贝叶斯算法的估计和预测。实验结果表明,对于一定范围的模拟时间序列,所提出的协方差估计器具有良好的性能收敛到未知观测协方差阵的真值。在一个模拟的时间序列,新的方法近似正确的估计,产生的非序贯蒙特卡罗模拟程序,这是在这里使用的黄金标准。特殊的,但重要的,向量自回归(VAR)和随时间变化的VAR模型说明考虑伦敦金属交易所的数据组成的现货价格的铝,铜,铅和锌。
2008-02-01 stat.AP stat.ME
Noise Estimation in the Spiked Covariance Model
研究了Frobenius损失下高维加样协方差阵的估计问题和加样PCA中噪声估计的并行问题。我们提出了一个估计的噪声参数最小化的无偏估计的不变Frobenius风险使用变分法。由此产生的估计,使用随机矩阵理论,是强一致的,基本上是渐近正常和极小极大的噪声估计问题。我们应用该构造构造了一个特征值一致的鲁棒尖峰协方差阵估计。
2014-08-27 math.ST stat.ME stat.TH
Sparse Kalman Filtering Approaches to Covariance Estimation from High Frequency Data in the Presence of Jumps
由于收益率的非同步性、市场微观结构噪声和跳跃等因素的影响,高频数据下资产收益率协方差矩阵的估计变得复杂。一种用于解决异步回报和市场微观结构的技术是卡尔曼EM(KEM)算法。然而,KEM方法假设对数正态价格,并没有解决跳跃的回报过程中,可能会损坏估计的协方差矩阵。在本文中,我们扩展了KEM算法的价格模型,包括跳跃。我们提出了两种稀疏卡尔曼滤波方法来解决这个问题。在第一种方法中,我们开发了卡尔曼期望条件最大化(KECM)算法来确定未知的协方差以及检测跳跃。对于该算法,我们考虑拉普拉斯和尖峰和平板跳跃模型,这两个促进稀疏估计的跳跃。在第二种方法中,我们采取贝叶斯方法,并使用吉布斯抽样的协方差矩阵的后验分布下的尖峰和板跳模型的样本。使用模拟数据的数值结果表明,这些方法中的每一个都提供了改进的协方差估计相对于KEM方法在各种设置的跳跃发生。
2016-04-14 q-fin.ST stat.ME
Sparse Approximate Factor Estimation for High-Dimensional Covariance Matrices
提出了一种基于$l_1$正则化近似因子模型的协方差矩阵估计方法。我们的稀疏近似因子(SAF)协方差估计允许弱因子的存在,因此放松了标准近似因子模型通常采用的普遍性假设。我们证明了协方差矩阵估计在Frobenius范数下的相合性以及因子载荷和因子的相合性。我们的蒙特卡罗模拟表明,SAF协方差估计具有优越的性能,在有限样本的低,高维和不同的协方差矩阵的设计。此外,在样本外的投资组合预测应用的估计一致优于替代的投资组合策略的基础上,替代协方差估计方法和建模策略,包括$1/N$ -战略。
2019-06-13 econ.EM math.ST q-fin.PM
Efficient Covariance Estimation for Sparsified Functional Data
Tsinghua University(清华大学);Pattern Recognition Center, WeChat AI, Tencent Inc.(腾讯公司微信人工智能模式识别中心)
本文提出高效的随机knots和B-样条协方差估计方法,用于处理稀疏函数数据的主成分分析,通过蒙特卡洛实验验证其有效性。
2025-11-23 stat.ME stat.ML
Localized covariance estimation: A Bayesian perspective
数值天气预报中的一个主要问题是从少量样本中估计高维协方差阵。当总体维数远大于样本数时,极大似然估计不能提供可靠的估计。幸运的是,NWP从业者已经找到了巧妙的方法,通过利用相关性随空间距离衰减的假设来提高协方差估计的准确性。在这项工作中,贝叶斯统计是用来提供一个新的理由和分析的实际数值预报协方差估计。贝叶斯框架涉及操纵对称正定矩阵上的分布,它导致两个主要发现:(i)协方差阵的常用“混合估计量”具有自然的贝叶斯解释;(ii)非常常用的“舒尔乘积估计量”不是贝叶斯的,但它可以在贝叶斯框架内进行研究和理解。作为实际意义,贝叶斯框架显示了如何减少协方差估计所需的调整量,它表明有效的协方差估计应该植根于理解和惩罚条件相关性,而不是相关性。
2023-01-12 cs.NA math.NA physics.ao-ph
Slicing: Nonsingular Estimation of High Dimensional Covariance Matrices Using Multiway Kronecker Delta Covariance Structures
高维协方差阵的非奇异估计是分类、聚类、变量选择和抽取等统计过程中的重要步骤。在回顾了基本的背景材料之后,本文介绍了一种我们称之为切片的技术,用于获得高维数据的非奇异协方差阵。切片本质上是假设数据具有克罗内克符号协方差结构。最后,我们讨论了本文结果的意义,并提供了一个高维基因表达数据分类的例子。
2011-04-15 math.ST stat.ML stat.TH
Reduced-Rank Covariance Estimation in Vector Autoregressive Modeling
本文研究了高维向量自回归模型中白噪声协方差阵的降秩建模问题。首先,我们提出了降秩协方差估计的设置下,独立的观察。本文推导了向量观测值基于隐变量模型的降秩估计,并给出了其最大似然估计的解析形式。仿真结果表明,降秩协方差估计优于两个竞争的协方差估计的大规模的协方差阵从独立的观察。然后,我们描述了如何将所提出的降秩估计融入到高维VAR模型的拟合中,在这里我们考虑了两种需要不同模型拟合程序的情况。在VAR建模的背景下,我们的降秩协方差估计不仅提供了VAR过程的依赖结构的可解释的描述,但也导致改进模型拟合和预测不受限制的协方差估计。两个实际数据的例子来说明这些拟合程序。
2014-12-05 stat.AP stat.CO stat.ME
Unbiased risk estimation method for covariance estimation
考虑随机过程协方差的模型选择估计。使用无偏风险估计(URE)方法,我们建立了一个估计的风险,允许选择一个估计的模型集合。然后,我们提出了一个预言不等式,确保所选择的估计的风险接近的预言的风险。仿真结果表明了该方法的有效性。
2011-12-20 math.ST stat.TH
High-dimensional Covariance Estimation by Pairwise Likelihood Truncation
提出基于成对似然截断的高维稀疏协方差矩阵估计方法,通过最小化似然得分 L2 距离与 L1 惩罚选择成对项,保留估计无偏性并具有选择一致性。
2024-07-24 math.ST stat.ME stat.TH
New challenges in covariance estimation: multiple structures and coarse quantization
在这一章中,我们将重温多元统计的一个基本问题:从多个独立样本中估计协方差阵。以大规模多输入多输出(MIMO)系统为例,说明了在实际应用中估计协方差阵时利用结构和考虑样本量化的必要性。然后,我们提供了一个选择性的调查,在过去十年的理论进展,侧重于结构协方差阵的估计。这篇评论是香料的一些尚未发表的见解如何受益于组合结构约束。最后,我们总结了我们最近出版的预印本“协方差估计下一位量化”的结果,以显示如何保证协方差估计是可能的,即使在粗量化的样本。
2021-06-11 math.ST stat.TH
Adaptive Long-Run Variance Thresholding for Sparse Covariance Estimation in High-Dimensional Time Series
University of Electronic Science and Technology of China(电子科技大学)
本文研究了弱依赖高维时间序列稀疏协方差估计,提出基于长期方差的阈值方法,实现对时间依赖性的适应,证明了估计器在谱范数下的一致性及最优收敛速度,并展示了支持恢复一致性。
2026-05-14 math.ST stat.ME stat.TH
Asymptotic efficiency for covariance estimation under noise and asynchronicity
本文在高频渐近下,分析了离散观测的多变量高斯过程在随机性和噪声下的协方差结构的估计。渐近下限和上界建立了一个一般的高斯框架,提供基准的情况下,各种高斯过程模型的兴趣。参数界的存在导致了协变估计的无穷维卷积定理,这是金融学中的一个基本估计问题。
2020-04-18 math.ST stat.TH
A Well-Conditioned and Sparse Estimation of Covariance and Inverse Covariance Matrices Using a Joint Penalty
我们开发了一种方法来估计良态和稀疏的协方差矩阵和逆协方差阵从一个样本的向量从一个亚高斯分布在高维设置。通过最小化平方损失函数和特征值的1范数及其方差的联合惩罚,得到了估计量。与现有的一些协方差和逆协方差阵估计方法相比,通常感兴趣的是估计稀疏矩阵,所提出的方法在同时估计稀疏和良态的协方差阵方面是灵活的。所提出的估计量是最优的意义上,他们实现了最小的最大估计率在运营商的标准为基础类的协方差矩阵和逆协方差阵。我们给出了一个非常快速的算法计算这些协方差矩阵和逆协方差阵,这是很容易扩展到大规模的数据分析问题。对不同样本量和变量的模拟研究表明,对于不同的结构协方差阵和逆协方差阵选择,所提出的估计比其他几种估计性能更好。我们还使用我们提出的估计肿瘤组织的基因表达数据的分类,并比较其性能与其他一些分类方法。
2016-04-03 math.ST stat.TH
Active covariance estimation by random sub-sampling of variables
University of Southern California(南加州大学)
研究部分观测随机向量的协方差阵估计问题,其中不同样本包含不同的向量坐标子集。每个观测值都是目标变量与$0-1$伯努利随机变量的乘积。在此模型下,我们分析了一个无偏协方差估计,并推导出一个误差界,揭示了子采样概率和协方差阵的元素之间的关系。我们将我们的分析应用在主动学习框架中,其中观测变量的预期数量与感兴趣的向量的维度相比很小,并提出了最优子采样概率的设计和主动协方差阵估计算法。
2018-04-04 cs.LG stat.ML
Joint Covariance Estimation with Mutual Linear Structure
本文考虑结构协方差阵的联合估计问题。假设结构是未知的,估计实现使用异构训练集。也就是说,给定来自具有不同协方差的中心总体的测量组,我们的目标是确定这些协方差阵的相互结构并估计它们。假设协方差在对称矩阵空间中跨越一个低维仿射子空间,我们提出了一种新的发现结构并利用它来改进估计的有效算法。我们的技术是基于主成分分析在矩阵空间中的应用。我们还推导出该算法在高斯场景下的性能上界,并将其与Cramer-Rao下界进行比较。数值模拟来说明所提出的方法的性能优势。
2015-07-01 math.ST stat.AP stat.TH
Random Matrix Improved Covariance Estimation for a Large Class of Metrics
CentraleSupélec(巴黎中央理工-高等电力学院);University ParisSaclay(巴黎萨克雷大学);GIPSA-lab(格勒诺布尔图像、信号、自动化与控制实验室);University Grenoble-Alpes(格勒诺布尔阿尔卑斯大学);LISTIC(信息系统、系统集成与建模实验室);University Savoie Mont-Blanc(萨瓦大学)
基于随机矩阵理论的协方差距离统计估计的最新进展,本文提出了一种改进的协方差和精度矩阵估计的一个广泛的家庭的度量。该方法被证明在很大程度上优于样本协方差阵估计,并与国家的最先进的方法竞争,而在同一时间被计算简单。线性和二次判别分析的应用也表现出显着的收益,因此表明统计机器学习的实际利益。
2019-02-07 cs.LG stat.ML
Group Symmetry and non-Gaussian Covariance Estimation
我们考虑群对称约束下的稳健协方差估计。非高斯协方差估计,例如,泰勒散布估计和多元广义高斯分布方法,通常涉及非凸极小化问题。最近,它表明,其成功背后的基本原理是一个扩展形式的凸性的测地线在流形的正定矩阵。提高估计精度的现代方法是通过附加约束来利用先验知识,例如,将注意力限制在坚持先前对称结构的协方差的特定类别上。在本文中,我们证明了这样的群对称约束也测地线凸,因此可以纳入各种非高斯协方差估计。这些集合的实际例子包括:循环、过对称和复数/四元数固有结构。我们提供了一个简单的数值技术,找到最大似然估计在这样的约束下,并证明其性能优势,使用合成实验。
2013-06-18 stat.ML
Sparse Bayesian time-varying covariance estimation in many dimensions
我们通过对潜在的时变随机因素对时间序列向量的潜在协波动动态进行建模,解决了动态协方差估计中的维数灾难问题。对因子载荷矩阵的元素使用全局-局部收缩先验将多余因子上的载荷拉向零。为了证明所提出的框架的优点,该模型被应用到模拟数据,以及每日日志回报的300个标准普尔500指数的成员。我们的方法产生精确的相关性估计,较强的隐含最小方差投资组合的性能和卓越的预测精度的日志预测得分相比,典型的基准。
2017-11-11 econ.EM q-fin.PM stat.AP
Covariance estimation with nonnegative partial correlations
研究了在偏相关非负约束下的高维协方差估计问题。符号约束极大地简化了估计:高斯最大似然估计量被很好地定义为只有两个观测值,而不管变量的数量。我们分析了它的性能设置的维度可能远远大于样本量。我们建立的估计是高维一致的和极小极大最优的对称化斯坦损失。我们还证明了一个否定的结果,这表明符号约束可以引入大量的偏差估计的协方差阵的顶部特征值。
2020-07-30 math.ST stat.TH
Estimation of the sample covariance matrix from compressive measurements
University of Colorado Boulder(科罗拉多大学博尔德分校)
本文主要研究从被称为压缩测量的数据的低维随机投影中估计样本协方差阵。特别是,我们提出了一个无偏估计量,以提取协方差结构的压缩测量得到的一般类随机投影矩阵组成的独立同分布。零均值项和有限前四阶矩。与以前的工作相比,我们没有对底层的协方差阵进行结构性假设,例如低秩。事实上,我们的分析是基于非贝叶斯数据设置,不需要对数据样本集进行分布假设。此外,受投影矩阵的一般性的启发,我们提出了一种利用稀疏Rademacher矩阵的协方差估计方法。因此,我们的算法可以用来估计的协方差阵在有限的存储器和计算能力的采集设备的应用。实验结果表明,我们的方法允许精确估计的样本协方差阵在几个现实世界的数据集,包括视频数据。
2017-04-28 cs.LG stat.ML
Spectrum Estimation: A Unified Framework for Covariance Matrix Estimation and PCA in Large Dimensions
协方差阵估计和主成分分析(PCA)是多元分析的两大基石。当数据的维数与样本量相似或更大时,经典的教科书解决方案的性能很差。在这种情况下,有一个共同的补救措施,这两个统计问题:非线性收缩的特征值的样本协方差阵。最佳非线性收缩公式取决于未知的人口数量,因此不可用。然而,有可能一致地估计一个甲骨文的非线性收缩,这是出于渐近的理由。为此,一个关键的工具是一致的估计的一组特征值的人口协方差阵(也称为频谱),一个有趣的和具有挑战性的问题本身。大量的Monte Carlo模拟表明,我们的方法具有理想的有限样本特性,优于以前的建议。
2014-06-23 math.ST stat.OT stat.TH
Optimal Estimation and Rank Detection for Sparse Spiked Covariance Matrices
本文研究了高维稀疏加样协方差阵模型,研究了协方差阵和主子空间的Minimax估计以及Minimax秩检测。建立了在谱范数下估计尖峰协方差矩阵的最优收敛速率,这需要与估计其他结构化协方差阵(如可带或稀疏协方差阵)的技术显著不同的技术。我们还建立了谱范数下的极小极大率,用于估计主成分分析中的主要感兴趣对象主子空间。此外,最佳速率的秩检测边界得到。这一结果也解决了Berthet和Rigollet [1]最近的一篇论文中的空白,其中考虑了秩1的特殊情况。
2016-03-25 math.ST stat.TH
Performance Bounds for Sparse Parametric Covariance Estimation in Gaussian Models
我们考虑估计的稀疏参数向量,确定高斯随机向量的协方差矩阵通过稀疏扩展到已知的“基矩阵”。利用再生核Hilbert空间的理论,我们得到了一个给定的均值函数的估计方差的下界。这包括作为特殊情况的无偏估计。我们还提出了一个数值比较我们的下限与两个标准估计(硬阈值估计和最大似然估计)的方差。
2011-01-20 cs.IT math.IT math.ST
Robust Modifications of U-statistics and Applications to Covariance Estimation Problems
令$Y$是具有未知均值$μ$协方差阵$Σ$的$d$维随机向量。本文的动机是设计一个估计的$Σ$,承认紧偏差范围内的运营商的最低限度的假设下的基本分布,如存在的坐标$Y$只有四阶矩的操作规范的问题。为了解决这个问题,我们提出了强大的修改的运营商值U-统计量,获得非渐近保证其性能,并证明这些结果的协方差估计问题在各种结构假设下的影响。
2018-03-08 math.ST stat.TH
Geodesically parameterized covariance estimation
时空现象的统计建模通常需要从协方差类中选择一个协方差阵。然而,标准的参数协方差族对于实际应用来说可能不够灵活,而非参数方法可能不容易允许将某些类型的先验知识结合起来。相反,我们建议用测地线曲线构建协方差族。这些协方差提供了更大的灵活性,为特定问题的剪裁比经典的参数家庭,是最好的简单的凸组合。一旦选择了协方差族,通常需要通过求解优化问题来选择代表性成员,例如,通过最大化数据集的可能性。相反,我们考虑这个问题的微分几何解释:最小化到样本协方差阵的测地线距离(“自然投影”)。我们的方法是一致的距离的概念,用于建立协方差家庭,并不需要假设一个特定的概率分布的数据。我们证明了自然投影和协方差族中的极大似然估计在二阶以下是局部等价的。我们还证明了自然投影可能会产生更准确的估计与噪声破坏的数据。
2020-12-23 math.DG stat.CO
Multi-Level Restricted Maximum Likelihood Covariance Estimation and Kriging for Large Non-Gridded Spatial Datasets
本文提出了一种多水平约束高斯极大似然方法,用于估计协方差函数参数和计算最佳无偏预测量。我们的方法产生了一组新的多级对比,其中模型的确定性参数被过滤掉,从而使协方差参数的估计与确定性分量解耦。此外,对比度的多水平协方差阵表现出依赖于协方差函数的平滑度的快速衰减。由于多水平协方差阵系数的快速衰减,仅使用水平相关准则计算小的集合。我们使用Matern协方差函数和观测值的高度不规则放置来演示我们处理多达512,000个观测值问题的方法。此外,这些问题是数值上不稳定的,难以解决与传统的方法。
2016-03-28 stat.CO
Channel Covariance Estimation in Massive MIMO Frequency Division Duplex Systems
在频分双工(FDD)模式下的多用户Massive MIMO系统中,信道协方差是获取瞬时信道状态信息(CSI)的关键因素。在此上下文中,信道互易性不成立,并且通常预期关于下行链路信道的协方差信息必须由用户设备(UE)估计并反馈。作为另一种CSI获取技术,我们建议根据观测到的上行链路协方差来推断下行链路协方差。该推断过程依赖于上行链路/下行链路协方差矩阵的字典,以及对应的黎曼空间中的插值;一旦字典已知,估计就不依赖于来自UE的任何形式的反馈。在这篇文章中,我们提出了几种不同的插值方法,并通过模拟对它们进行基准测试。
2016-02-18 cs.IT math.IT stat.AP
Group Lasso estimation of high-dimensional covariance matrices
本文考虑加性噪声污染下随机过程协方差阵的Group Lasso估计。我们建议估计的协方差阵在高维设置的假设下,该过程具有稀疏表示在一个大的字典的基函数。使用矩阵回归模型,我们提出了一种新的方法,用于高维协方差阵估计的经验对比正则化的组Lasso惩罚。使用这样的惩罚,该方法在用于近似处理的字典中选择稀疏的基函数集合,导致协方差阵近似到低维空间中。估计的一致性研究在Frobenius和运营商的规范和稀疏PCA的应用程序提出。
2011-10-24 math.ST stat.TH
Adaptive Covariance Estimation with model selection
在本文中,我们提供了一个完全自适应的惩罚过程中选择一个协方差模型的集合中观察独立同分布复制的过程中,在固定的观察点。为此,我们推广了Bigot等人以前的结果,并建议使用数据驱动的惩罚来获得估计量的Oracle不等式。我们证明了这种方法是Baraud工作的矩阵回归模型的推广。
2012-03-01 math.ST stat.TH
Dimension-free Structured Covariance Estimation
本文研究可表示为少量 Kronecker 乘积之和的结构化高维协方差矩阵估计,证明惩罚置换最小二乘估计具有无维度依赖的高概率误差界,并获得快于标准情形的收敛速率。
2024-06-15 eess.SP math.ST stat.TH
Covariance Estimation under Missing Observations and $L_4-L_2$ Moment Equivalence
本文针对元素随机缺失的独立同分布样本,在$L_4-L_2$矩等价条件下提出首个关于缺失概率$p$最优的协方差估计量,并在$p=1$时恢复经典最优收敛速率。
2024-06-14 math.PR math.ST stat.TH
A Lepskiĭ-type stopping rule for the covariance estimation of multi-dimensional Lévy processes
我们假设在离散时间点上观察到一个Lévy过程。从Lévy Khinchine特征的连续部分的渐近极小极大估计族开始,即,协方差,我们得出一个数据驱动的参数选择的频率估计的协方差。我们研究了自适应过程的一个Lepskiet-type停止规则.因此,我们使用平衡原则来获得最佳的数据驱动参数。自适应估计器几乎达到最优速率。数值实验所提出的选择规则。
2020-11-25 math.ST stat.TH
Efficient covariance estimation for asynchronous noisy high-frequency data
本文主要研究了在市场微观结构噪声存在的情况下,对数价格过程的协方差估计问题。本文在市场微观结构噪声下观察到高频异步离散收益率的情形下,构造了两个伊藤过程的二次协方差的有效无偏估计.该估计器基于同步和多尺度方法,并获得最佳的收敛速率。蒙特卡洛研究分析了我们的估计的有限样本量特性。
2008-12-18 math.ST stat.TH
Covariance estimation under one-bit quantization
我们考虑经典的问题估计的协方差矩阵的亚高斯分布从独立同分布。在粗量化的新环境中的采样,即,不是完全了解采样,而是将它们量化为每个条目一个或两个比特。这个问题在信号处理应用中自然发生。我们引入新的估计在两个不同的量化方案,并获得非渐近估计误差界的运营商的范数。在第一种情况下,我们考虑一个简单的,尺度不变的一位量化器,并得出一个中心高斯分布的相关矩阵的估计结果。在第二种情况下,我们将随机抖动添加到量化器。在这种情况下,我们可以通过收集每个样本的每个条目的两个比特来准确地估计一般亚高斯分布的完整协方差矩阵。在这两种情况下,我们的界限适用于掩蔽协方差估计。我们证明了我们的误差界的近似最优性,推导相应的(极大极小)下界和使用数值模拟。
2022-04-22 cs.IT math.IT math.ST
Block-diagonal covariance estimation and application to the Shapley effects in sensitivity analysis
本文研究了高维和固定维高斯数据的块对角协方差阵的估计问题。我们首先利用理论上和实际上一致的估计量来估计协方差阵的块对角结构。我们推导出,建议估计的协方差阵在高维收敛速度相同的速度比,如果真正的分解是已知的。在固定维数下,我们证明了所提出的估计量是渐近有效的。然后,我们集中在高维高斯线性框架中的敏感性指标的估计称为“Shapley效应”。从估计的协方差阵,我们得到一个估计的Shapley效应的相对误差,它去为零的参数率的对数因子。利用估计的协方差阵的块对角结构,只要最大块不是太大,该估计器仍然可以用于数千个输入变量。
2020-02-13 math.ST stat.TH
Time endogeneity and an optimal weight function in pre-averaging covariance estimation
在一般的内生时间背景下,我们建立了一类预平均协方差估计的中心极限定理。特别是,我们表明,时间endoadministration的渐近分布没有影响,如果某些泛函的观测时间是渐近定义良好的。这与纯扩散环境中的已实现波动率的情况形成对比。我们还讨论了预平均中权函数的最佳选择。
2015-10-20 math.ST stat.TH
Cross-Fitted Clipped Covariance Estimation with a Data-Driven Tail-Energy Criterion
本文提出了一种基于可计算伯恩斯坦证书的交叉拟合截断协方差估计器,通过MinUpper选择器实现数据驱动调优,适应有效秩并在有限四阶矩条件下保持保证。
2026-11-02 cs.LG stat.ML
A Novel Approach to Sparse Inverse Covariance Estimation Using Transform Domain Updates and Exponentially Adaptive Thresholding
Advanced Communications Research Institute (ACRI)(高级通信研究所(ACRI));Sharif University of Technology(谢里夫理工大学)
稀疏逆协方差估计(SICE)在许多实际数据分析中是有用的。恢复协变量的连通性、非连通性图是数据采掘和学习中最重要的问题之一。在本文中,我们介绍了一种新的SICE方法,使用自适应阈值。我们的方法是基于所需矩阵的变换域中的更新和主域(逆协方差矩阵域)中的指数衰减自适应阈值。除了所提出的算法,收敛性分析也提供。在数值实验部分中,我们证明了所提出的方法在精度方面优于最先进的方法。
2019-04-04 cs.IR cs.LG stat.ML