Optimal Uncertainty Size in Distributionally Robust Inverse Covariance Estimation
在最近的一篇论文中,Nguyen,Kuhn和Esfahani(2018)为高斯分布的精度矩阵建立了一个分布鲁棒估计器。分布不确定性大小是构建此估计量的关键因素。我们开发了一个统计理论,它显示了如何最佳地选择不确定性的大小,以尽量减少相关的斯坦损失。令人惊讶的是,最佳不确定性大小与样本量呈线性关系,而不是期望的规范平方根缩放率。
2019-10-10 math.OC math.ST stat.TH
High-dimensional covariance matrix estimation using a low-rank and diagonal decomposition
在协方差/精度矩阵可分解为低秩分量L和对角分量D的假设下,研究了高维协方差/精度矩阵的估计. L的秩可以选择为小的或由惩罚函数控制。在适当的条件下,人口协方差/精度矩阵本身和惩罚函数,我们证明了一些一致性结果,我们的估计。一个分块坐标下降算法,迭代更新L和D,然后提出在实践中获得的估计。最后,各种数值实验:使用模拟数据,我们表明,我们的估计表现相当不错的Kullback-Leibler损失方面,使用股票收益率数据,我们表明,我们的方法可以应用于获得增强的解决方案的Markowitz投资组合选择问题。
2018-02-16 stat.ME
Covariance Matrix Estimation for High-Throughput Biomedical Data with Interconnected Communities
针对高通量生物医学数据依赖模式的互联社区结构,提出利用该结构估计协方差和精度矩阵的方法,推导闭合形式估计量并分析其渐近性质,在模拟与真实数据中均优于现有方法。
2024-10-06 stat.ME
A Bayesian Generalized Bridge Regression Approach to Covariance Estimation in the Presence of Covariates
提出分层贝叶斯广义桥回归框架,通过精度矩阵重参数化和两种MCMC算法,实现多元线性模型中系数矩阵与逆协方差矩阵的联合估计,并验证其在大规模光谱数据上的可行性。
2024-10-27 stat.ME
Block-diagonal idiosyncratic covariance estimation in high-dimensional factor models for financial time series
针对高维金融因子模型中的特质协方差估计,本文利用残差聚类与分块收缩构造两种分块对角估计量,在模拟和历史数据上优于阈值类方法。
2024-07-04 cs.CE q-fin.MF q-fin.ST
Covariance estimation for multivariate conditionally Gaussian dynamic linear models
在多变量时间序列中,观测新息的协方差阵的估计在预测中起着重要的作用,因为它使得能够计算标准化的预测误差向量,以及它使得能够计算预测的置信界限。我们开发了一个在线的,非迭代贝叶斯算法的估计和预测。实验结果表明,对于一定范围的模拟时间序列,所提出的协方差估计器具有良好的性能收敛到未知观测协方差阵的真值。在一个模拟的时间序列,新的方法近似正确的估计,产生的非序贯蒙特卡罗模拟程序,这是在这里使用的黄金标准。特殊的,但重要的,向量自回归(VAR)和随时间变化的VAR模型说明考虑伦敦金属交易所的数据组成的现货价格的铝,铜,铅和锌。
2008-02-01 stat.AP stat.ME
An algorithm for the multivariate group lasso with covariance estimation
本文研究了考虑相关误差项的多元线性回归模型的一个组Lasso估计。一个块坐标下降算法被用来计算这个估计。我们用分类数据和多变量时间序列数据进行了模拟研究,这些数据是预测变量之间自然分组的典型设置。我们的模拟研究表明,所提出的组套索估计的替代估计相比,具有良好的性能。我们说明了一个基因表达的时间序列数据集的方法。
2015-12-16 stat.CO stat.ME
Robust Expectation-Maximization for Covariance Estimation in SIRV Models with Missing Data: Application to InSAR Time Series
École Militaire Polytechnique (EMP)(军事理工学院);CentraleSupélec, Université Paris-Saclay(中央理工-巴黎萨克雷大学);LASTIG, IGN Géodata Paris, Université Gustave Eiffel(LASTIG,IGN地理数据巴黎,巴黎东加尔文大学);LISTIC, Polytech Annecy-Chambéry, Université Savoie Mont Blanc(LISTIC,安纳西-尚贝里理工学院,萨瓦蒙布朗大学)
提出一种鲁棒期望最大化框架,用于缺失数据下尺度不变随机向量模型的协方差估计,通过逆伽马先验和数值鲁棒技术实现有效缺失值重建与去噪。
2026-06-23 eess.SP stat.ME
CovNet: Covariance Networks for Functional Data on Multidimensional Domains
协方差估计在函数型数据分析中是普遍存在的。然而,多维域上的函数观测的情况引入了计算和统计挑战,使得标准方法实际上不适用。为了解决这个问题,我们引入了“协方差网络”(CovNet)作为建模和估计工具。CovNet模型是“通用的”-它可以用来近似任何协方差达到所需的精度。此外,该模型可以有效地拟合的数据和它的神经网络架构,使我们能够采用现代计算工具的实施。CovNet模型还允许一个封闭形式的特征分解,可以有效地计算,而无需构建协方差本身。这有助于在CovNet的上下文中轻松存储和随后操纵协方差。我们建立了一致性的估计,并推导出其收敛速度。所提出的方法的有用性证明了通过一个广泛的模拟研究和应用程序的静息状态fMRI数据。
2021-11-04 math.ST stat.ME stat.ML
Exact Hybrid Covariance Thresholding for Joint Graphical Lasso
Toyota Technological Institute at Chicago(芝加哥丰田理工学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文考虑了从由不同类组成的$p$维数据集中估计多个相关高斯图模型的问题。我们的工作是基于制定这个问题作为组图形套索。本文提出了一种新的混合协方差阈值算法,可以有效地识别零元素的精度矩阵和分裂一个大的联合图形套索问题分解成小的子问题。我们的混合协方差阈值方法优于现有的统一阈值方法,因为我们的方法可以使用不同的划分方案将每个类别的精度矩阵拆分,从而将组图形套索拆分为更小的子问题,每个子问题都可以非常快速地解决。此外,本文建立了我们的混合协方差阈值算法的必要条件和充分条件。我们的阈值方法的优越性能进行了深入的分析,并通过模拟数据和真实的基因表达数据的几个实验说明。
2015-06-18 cs.AI cs.LG stat.ML
Ridge Estimation of Inverse Covariance Matrices from High-Dimensional Data
本文研究了高维情形下精度矩阵的岭估计,其中变量个数相对于样本量较大。我们首先回顾了两个原型岭估计,并指出,他们利用的罚款不符合共同岭处罚。随后,从一个共同的岭惩罚,解析表达式推导出两个可选的岭估计精度矩阵。的替代估计相比,关于特征值收缩和风险的原型。在图形建模的背景下,替代品也比较图形套索。的比较可能会有理由更喜欢拟议的替代估计。
2015-09-24 stat.ME
A path following algorithm for Sparse Pseudo-Likelihood Inverse Covariance Estimation (SPLICE)
给定p维随机向量的n个观测值,在许多应用中需要得到协方差阵及其逆矩阵(精度矩阵)。当p与样本量n相当时,样本协方差(例如,其特征结构)可能会表现不佳。正则化经常被用来缓解这个问题。本文提出了逆协方差阵的l1-模惩罚伪似然估计。由于l1-范数惩罚,这种估计是稀疏的,我们称这种方法为SPLICE。它的正则化路径可以通过基于同伦/LARS-Lasso算法的算法来计算。对p=15和n=20,1000的各种逆协方差结构进行了模拟研究。我们比较SPLICE与l1-范数惩罚似然估计和l1-范数惩罚Cholesky分解为基础的方法。SPLICE在精确度矩阵和ROC曲线的三个指标方面为模型选择提供了最佳的整体性能。此外,我们的模拟结果表明,SPLICE估计是正定的正则化路径的大部分,即使没有强制执行的限制。
2008-07-23 stat.CO stat.ME
Random Matrix Improved Covariance Estimation for a Large Class of Metrics
CentraleSupélec(巴黎中央理工-高等电力学院);University ParisSaclay(巴黎萨克雷大学);GIPSA-lab(格勒诺布尔图像、信号、自动化与控制实验室);University Grenoble-Alpes(格勒诺布尔阿尔卑斯大学);LISTIC(信息系统、系统集成与建模实验室);University Savoie Mont-Blanc(萨瓦大学)
基于随机矩阵理论的协方差距离统计估计的最新进展,本文提出了一种改进的协方差和精度矩阵估计的一个广泛的家庭的度量。该方法被证明在很大程度上优于样本协方差阵估计,并与国家的最先进的方法竞争,而在同一时间被计算简单。线性和二次判别分析的应用也表现出显着的收益,因此表明统计机器学习的实际利益。
2019-02-07 cs.LG stat.ML
Convex Reparameterization and Self-Concordant Algorithms for Multivariate Regression with Covariance Estimation
School of Statistics, University of Minnesota Twin Cities(明尼苏达大学双城分校统计学院);Department of Applied Mathematics & Statistics, Stony Brook University(石溪大学应用数学与统计系)
该研究提出结合协方差估计的多元回归的凸重参数化方法,证明其缩放高斯损失为标准自协调,推导两种算法,模拟及蛋白质表达应用显示其预测误差相近且稠密精度矩阵时速度显著提升。
2026-08-20 stat.CO stat.ME
Real-time covariance estimation for the local level model
本文发展了多变量局部水平模型的在线推断,重点是新息的协方差估计。我们评估的应用程序的逆Wishart先验分布在这种情况下,发现它过于限制,因为串行相关结构的观察和状态的创新被迫是相同的。我们推广的逆Wishart分布,以允许一个更方便的相关结构,但仍保留近似共轭。我们证明了新的分布和我们开发的近似贝叶斯推断,它允许同时预测的时间序列数据和估计的协方差模型的创新的一些相关结果。我们提供的时间序列,这是部署,以实现计算节省的水平上的稳定状态的结果。使用蒙特卡罗实验,我们比较所提出的方法与现有的估计程序。给出了一个由工业过程的生产数据组成的实际数据的例子。
2013-11-04 stat.ME
On the asymptotic normality of kernel estimators of the long run covariance of functional time series
考虑平稳泛函时间序列长期协方差核估计的$L^2$中的渐近正态性。我们的结果是建立在弱相关的伯努利位移结构的基础上的观察,其中包含大多数平稳功能时间序列模型,在温和的条件下。作为推论,我们得到了联合渐近的功能主成分计算的经验长期协方差算子,表明他们有良好的性能是渐近独立的。
2015-03-09 math.ST stat.TH
High-Dimensional Bernstein Von-Mises Theorems for Covariance and Precision Matrices
Florida State University(佛罗里达州立大学);University of Florida(佛罗里达大学);University of Technology Sydney(悉尼科技大学)
本文研究了高维情况下协方差与精度矩阵后验分布的渐近正态性,提出在特定增长限制下,其极限分布为对称矩阵正态分布,并适用于广泛先验分布。
2026-01-30 math.ST stat.TH
Joint Estimation of Precision Matrices in Heterogeneous Populations
我们介绍了一个一般的框架,估计逆协方差,或精度,矩阵从异质人口。建议的框架使用拉普拉斯收缩惩罚,鼓励不同的,但相关的,亚群之间的估计相似,同时允许矩阵之间的差异。我们提出了一种有效的交替方向乘法器(ADMM)算法的参数估计,以及它的扩展更快的计算在高维阈值的经验协方差阵,以确定联合块对角结构的估计精度矩阵。我们建立了指数或多项式尾分布的变量选择和所提出的估计的范数一致性。此外,扩展该方法的适用性与未知的人口结构的设置,我们提出了一个基于层次聚类的拉普拉斯惩罚,并讨论了在何种条件下,这种数据驱动的选择结果在一致的估计精度矩阵在异质人口。广泛的数值研究和应用程序的基因表达数据亚型的癌症与不同的临床结果表明,所提出的方法比现有的方法的潜在优势。
2016-01-02 stat.ML
Forecasting Large Realized Covariance Matrices: The Benefits of Factor Models and Shrinkage
Duke University(杜克大学);State Farm(州立农业保险公司);The University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Insper(Insper 商学院)
我们提出了一个模型来预测大的已实现的协方差矩阵的回报,将其应用到标准普尔500指数的成分股。为了解决维度灾难,我们使用标准的公司层面因素(例如,规模、价值和盈利能力),并在残差协方差矩阵中使用部门限制。然后使用具有最小绝对收缩和选择算子(LASSO)的向量非均质自回归(VHAR)模型估计该受限模型。相对于标准基准,我们的方法提高了预测精度,并导致更好地估计最小方差投资组合。
2023-03-22 cs.LG econ.EM q-fin.ST
Bootstrapping Covariance Operators of Functional Time Series
对于函数时间序列协方差算子的假设检验,我们建议使用完整的函数信息,避免降维技术。将一般希尔伯特空间中部分和过程弱收敛的中心极限定理应用于积空间,得到了极限分布.为了得到检验的临界值,我们将自举结果从独立情形推广到相依情形。该结果可应用于协方差算子、自协方差算子和互协方差算子。我们讨论了单样本和变点测试,并给出了一些模拟结果。
2020-02-28 math.ST stat.TH
Robust Sparse Precision Matrix Estimation and its Application
针对高维重尾分布的精度矩阵估计问题,提出基于空间符号协方差的SCLIME和SGLASSO方法,证明了其一致性速率与现有方法匹配,并在模拟与真实数据中验证了其优越性。
2025-03-05 stat.ME
Diagonal Nonlinear Transformations Preserve Structure in Covariance and Precision Matrices
对于多元正态分布,协方差矩阵和精度矩阵的稀疏性编码了关于独立性和条件独立性的完整信息。对于一般分布,协方差矩阵和精度矩阵揭示了变量之间的相关性和所谓的偏相关,但这些一般不与独立性相关。在本文中,我们证明了,对于某一类非高斯分布,这些对应关系仍然成立,对于协方差来说是精确的,对于精度来说是近似的。这些分布--有时也被称为“非超常”分布--是由多元正态随机变量的对角变换给出的。我们提供了几个分析和数值例子说明这些结果。
2021-09-20 math.ST stat.ML stat.TH
On sample complexity for covariance estimation via the unadjusted Langevin algorithm
Komaba Institute for Science, University of Tokyo(东京大学驹场理学院)
本文通过未调整的兰格vin算法研究了协方差矩阵估计的样本复杂性,揭示了单链方法在样本复杂性上优于并行方法的结论。
2026-02-13 math.PR stat.ML
Bayesian nonstationary and nonparametric covariance estimation for large spatial data
在空间统计学中,经常假设感兴趣的空间场是平稳的,其协方差具有简单的参数形式,但这些假设在许多应用中并不合适。给出了高斯空间场的重复观测,我们提出了空间依赖性的非平稳和非参数贝叶斯推断。代替估计协方差阵的二次(在空间位置的数量上)条目,想法是推断精度矩阵的稀疏Cholesky因子中的非零条目的近线性数量。我们先前的假设的动机是最近的结果的指数衰减的条目,这个Cholesky因子的母亲型协方差下一个特定的排序方案。我们的方法是高度可扩展和并行化。我们进行数值比较,并将我们的方法应用于气候模型输出,使昂贵的物理模型的统计模拟。
2020-12-10 stat.AP stat.CO stat.ME
Detecting relevant differences in the covariance operators of functional time series -- a sup-norm approach
在本文中,我们提出了统计推断工具的协方差算子的功能时间序列在两个样本和变点问题。与大多数文献相反,我们的方法的重点不是检验协方差算子的精确相等的原假设。相反,我们建议制定他们的形式,“运营商之间的距离是小的”,在那里我们测量偏差的超规范的零假设。我们为这些类型的假设提供了强大的自举检验,研究它们的渐近性质,并通过模拟研究研究它们的有限样本性质。
2020-06-12 math.ST stat.TH
Covariance Estimation and its Application in Large-Scale Online Controlled Experiments
在过去的几十年里,在线控制实验(也称为A/B测试)已被采纳为衡量行业业务改进的黄金标准。在我们公司,有超过10亿用户同时参与数千个实验,并且在这些实验中对数千个在线指标进行常规的统计推断和估计,计算成本将成为一个大问题。在本文中,我们提出了一种新的算法估计的协方差的在线指标,它引入了更多的灵活性之间的权衡计算成本和精度的协方差估计。该协方差估计方法降低了大规模环境下度量计算的计算成本,有利于进一步应用于在线受控实验和自适应实验场景,如方差缩减、连续监控、贝叶斯优化等,易于工程实现。
2021-08-05 stat.AP stat.ME
Contrastive Structured Anomaly Detection for Gaussian Graphical Models
高斯图模型(GGM)是分析复杂系统中变量之间的条件依赖关系的概率工具。因此,在GGM的结构演化中找到变点对于检测由GGM建模的底层系统中的异常是至关重要的。为了检测GGM中的结构异常,我们考虑估计相应的高斯分布的精度矩阵的变化的问题。我们采取两步的方法来解决这个问题:-(i)估计一个背景精度矩阵使用系统的观察,从过去没有任何异常,以及(ii)估计一个前景精度矩阵使用滑动时间窗口异常监测期间。我们的主要贡献是在估计的前景精度使用一种新的对比逆协方差估计过程。为了准确地只学习GGM的结构变化,我们最大化惩罚的对数似然,其中惩罚是被估计的前景精度和已经学习的背景精度之间的差异的$l_1$范数。我们修改了交替方向乘子法(ADMM)稀疏逆协方差估计算法进行对比估计的前景精度矩阵。我们的模拟GGM数据的结果表明,显着改善的精度和召回检测GGM的结构变化,相比非对比滑动窗口基线。
2016-05-02 stat.ML
Covariance matrix estimation for stationary time series
我们得到了平稳过程的带状协方差阵估计的一个快收敛速度。推导了样本协方差阵谱半径的精确数量级。我们还考虑了一个阈值的协方差阵估计,可以更好地表征稀疏,如果真正的协方差阵是稀疏的。作为我们的主要工具,我们实现Toeplitz [Math.Ann.70(1911)351-376]的思想,并将协方差阵的特征值与协方差的谱密度或傅里叶变换联系起来。在因果表示和物理依赖测度的框架下,利用m-依赖近似,我们得到了平稳过程二次型的一个大偏差结果。
2012-05-30 math.ST stat.TH
Differentially Private Precision Matrix Estimation
Northwest University(西北大学);Macau University of Science and Technology(澳门科技大学)
本文研究了当数据集包含敏感信息时的精度矩阵估计问题。在差分隐私框架下,我们通过扰动样本协方差阵,构造了一个差分隐私岭估计器。然后,我们利用交替方向乘法(ADMM)算法建立了一个差分私有图形套索估计器。理论结果和实证结果表明,所提出的方法的实用性也提供。
2019-09-06 cs.CR cs.LG stat.ML
Simultaneous Inference for Covariance and Precision Matrices of Long-Range Dependent Time Series
Booth School of Business, The University of Chicago(芝加哥大学布斯商学院);Marshall School of Business, University of Southern California(南加州大学马歇尔商学院);Department of Statistics and Data Science, Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学统计与数据科学系);Department of Statistics, The University of Chicago(芝加哥大学统计学系)
本文提出一种Berry-Esseen型正态近似结果,用于长期依赖时间序列协方差和精度矩阵的有限样本界推断,采用鞅和m依赖近似及三元块构造方法,支持高维设置和自助法验证。
2026-04-17 math.ST stat.ME stat.TH
A Bootstrap Test for Independence of Time Series Based on the Distance Covariance
本文提出一种基于距离协方差的Bootstrap检验,用于检测两个严格平稳时间序列在任意滞后内的任何依赖,模拟中表现优于其他方法,并推广了Wasserstein距离界限至α-混合过程。
2024-02-05 math.ST stat.TH
Eigenvector distributions and optimal shrinkage estimators for large covariance and precision matrices
本文研究了高维环境下大型样本协方差矩阵和精度矩阵的Stein不变收缩估计量,在近乎任意总体协方差矩阵模型下建立了广泛损失函数的收缩量渐近极限,其关键贡献是推导出非尖峰特征向量的渐近分布。
2024-04-23 math.PR math.ST stat.TH
Estimation When Both Covariance And Precision Matrices Are Sparse
我们提供了一种方法来估计协方差矩阵的特殊情况下,\textit{both}的协方差阵和精度矩阵是稀疏的--一个约束,我们称之为双稀疏。估计方法是极大似然,服从双稀疏约束。在我们的方法中,只允许一类特殊的稀疏模式:矩阵及其逆矩阵必须从属于同一个弦图。与双重稀疏性的天真执行相比,我们的弦图方法利用了一个特殊的代数局部逆公式。该局部逆属性使得通常涉及逆(精度矩阵或协方差阵的逆)的计算快得多。在协方差阵估计的背景下,我们的建议似乎是第一次找到这样的特殊对协方差和精度矩阵。
2021-08-15 math.ST stat.CO stat.ME
Inference for the cross-covariance operator of stationary functional time series
当考虑两个或多个时间序列的函数或曲线时,例如那些来自于密集观察的几家公司的日内股票价格数据的函数或曲线时,经验互协方差算子由于其在函数滞后回归和探索性数据分析中的作用而具有根本的重要性。尽管它的相关性,统计程序来衡量这些估计的意义是不发达的。我们提出的方法的基础上进行统计推断的互协方差算子估计两个固定的,弱相关的,功能时间序列之间的功能中心极限定理。具体来说,我们考虑测试的原假设,两个系列具有指定的互协方差结构在给定的滞后。由于该测试假设该系列是联合平稳的,我们还开发了一个变点检测程序来验证这一假设,这是独立的利益。在实施所提出的测试中,最大的技术障碍涉及估计高维谱密度算子在频率零处的谱。我们提出了一个简单的降维过程的基础上的功能PCA来实现这一点,这是表现良好的一个小型的模拟研究。我们说明了所提出的方法与应用程序密集观察在纽约证券交易所上市的股票的日内价格数据。
2017-04-02 math.ST stat.TH
Estimating covariance and precision matrices along subspaces
研究了利用有限样本协方差估计$D$ -变量亚高斯分布沿指定子空间或方向的协方差和精度矩阵的精度。我们的研究结果表明,估计精度几乎完全取决于所需的子空间或方向对应的分布的组件。这对于数据在低维空间中的行为是特别感兴趣的问题是相关的和重要的,例如降维或结构化回归问题。我们还证明了精度矩阵的估计几乎与协方差阵的条件数无关。所提出的应用包括方向敏感的特征空间扰动界,最小特征值的相对界,和单指标模型的估计。对于后者,一个新的估计,来自分析,提出了强有力的理论保证和优越的数值性能。
2020-12-06 math.ST stat.ML stat.TH
Inverse covariance operators of multivariate nonstationary time series
对于多变量平稳时间序列,许多重要的性质,如偏相关,图形模型和自回归表示被编码在其谱密度矩阵的逆中。这对于非平稳时间序列是不正确的,其中相关信息位于与多元时间序列相关联的逆无穷维协方差阵运算符中。这就需要研究多变量非平稳时间序列的协方差及其与其逆的关系。我们表明,如果行/列的无限维的协方差阵衰减在一定的速度,然后率(高达一个因素)转移到行/列的逆协方差阵。这是用来获得一个非平稳的自回归表示的时间序列和自回归无限表示和相应的有限自回归投影的参数之间的边界类型。上述结果为后续的局部平稳时间序列分析奠定了基础。特别是,我们表明,平滑性能的协方差阵转移到(i)逆协方差(ii)向量自回归表示的参数和(iii)的偏协方差。所有结果都是以这样一种方式建立的,所涉及的常数只依赖于协方差阵的特征值,并可以应用于高维设置与非发散特征值。
2022-10-08 math.ST stat.ME stat.TH
Convergence of covariance and spectral density estimates for high-dimensional functional time series
Tsinghua University(清华大学);The University of Hong Kong(香港大学)
本文提出了一种非渐近集中界方法,用于高维非高斯函数时间序列中协方差和谱密度估计的收敛性分析,并通过两个应用验证其有效性。
2025-12-15 math.ST stat.TH
Study of power series distributions with specified covariances
University of California at Berkeley(加州大学伯克利分校);Volodymyr Vynnychenko Central Ukrainian State University(弗拉基米尔·温尼琴科中央乌克兰国立大学)
本文提出通过生成函数与协方差函数的解析关系,构造具有指定协方差结构的幂级数分布,并扩展了离散分布的理论框架。
2025-12-22 math.ST stat.TH
On confidence intervals for precision matrices and the eigendecomposition of covariance matrices
KU Leuven(鲁汶大学);University of Oulu(奥卢大学);IPSOS(益普索)
矩阵的特征分解是基于矩阵分解的概率模型的核心过程,例如主成分分析和主题模型。基于有限样本估计量化此类分解的不确定性对于在使用此类模型时在不确定性下进行推理至关重要。本文解决了计算固定维数的协方差阵的特征向量的各个元素的置信界的挑战。此外,我们推导出一种方法来界定逆协方差阵,所谓的精度矩阵的元素。我们的方法背后的假设是最小的,并要求协方差阵存在,其经验估计收敛到真正的协方差。我们利用U-统计量的理论来限制经验协方差阵的$L_2$扰动。从这个结果,我们得到的特征向量上的界限,使用Weyl定理和特征值特征向量的身份,我们推导出置信区间的条目的精度矩阵使用矩阵求逆扰动界。作为这些结果的应用,我们展示了一个新的统计检验,它允许我们测试精度矩阵的非零值。我们比较这个测试著名的Fisher-Z测试的偏相关,并证明了建议的统计测试的合理性和可扩展性,以及它的应用程序从医学和物理领域的真实世界的数据。
2022-08-25 cs.LG math.ST stat.TH
Estimation of Large Covariance and Precision Matrices from Temporally Dependent Observations
本文考虑了高维次高斯或双尾观测数据的大协方差阵和精度阵的估计问题。时间依赖性被允许是长范围的,因此具有比当前文献中考虑的更长的记忆。我们表明,几种常用的独立观测方法可以适用于时间依赖的数据。特别地,给出了协方差矩阵和相关阵的广义门限估计,精度矩阵的约束$\ell_1$极小化和$\ell_1$惩罚似然估计的收敛速度.稀疏性和符号一致性的性质也被建立。提出了一种间隙-块交叉验证的方法来选择调谐参数,在仿真中取得了很好的效果。作为一个启发性的例子,我们使用具有长程时间依赖性的静息态fMRI时间序列数据来研究脑功能连接。
2017-07-18 math.ST stat.ML stat.TH
Test for independence of long-range dependent time series using distance covariance
University of Twente(特温特大学);Ruhr-University Bochum(波鸿鲁尔大学)
本文提出基于距离协方差检验长程依赖时间序列独立性的方法,推导了渐近分布并提出子采样程序确定临界值,通过模拟验证了检验性能。
2026-01-27 math.ST stat.TH
Goodness-of-Fit Testing for Time Series Models via Distance Covariance
在许多统计建模框架中,通常对估计残差进行拟合优度检验。在时间序列设置中,使用样本自相关函数评估残差的白度。对于许多时间序列模型,特别是那些用于金融时间序列的模型,关于残差的关键假设是它们实际上是独立的,而不仅仅是不相关的。在本文中,我们应用自距离协方差函数(ADCV)来评估估计残差的序列相关性。距离协方差可以区分两个随机向量的相依性和独立性。对于一般的一类时间序列模型,导出了基于ADCV的检验统计量的极限行为。该理论的一个关键方面是调整由于参数估计而产生的相关性。无论型号规格如何,该调整基本上具有相同的形式。我们在模拟的例子中说明了结果。
2019-03-02 math.ST stat.ME stat.TH
Modeling of Stationary Periodic Time Series by ARMA Representations
这是一个调查的一些最近的结果理性循环协方差扩展问题:给定一个部分序列$(c_0,c_1,\dots,c_n)$的协方差滞后$c_k=\mathbb{E}\{y(t+k)\overline{y(t)}\}$源自一个平稳的周期过程$\{y(t)\}$与周期$2N>2n$,找到所有可能的合理的谱函数$\{y(t)\}$的程度最多$2n$,或等价地,所有双边和单边ARMA模型的阶最多$n$,有这个偏协方差序列。每个表示作为一对对偶凸优化问题的解而获得。这个理论,然后重新制定的循环矩阵和互惠过程的连接和协方差选择问题的解释。接下来,它是如何理论可以扩展到多变量的情况下。最后给出了一个在图像处理中的应用。
2015-12-17 math.ST stat.TH
Break detection in the covariance structure of multivariate time series models
在本文中,我们引入了一个渐近检验程序来评估线性和非线性多元时间序列模型的波动率和交叉波动率的稳定性。该测试是非常灵活的,因为它可以应用于,例如,在文献中建立的许多多变量GARCH模型,并且在基础数据的高维数的情况下也工作得很好。由于它是非参数的,该过程避免了与参数模型选择、模型拟合和参数估计相关的困难。我们提供了理论基础的测试,并证明其适用性,通过模拟研究和财务数据的分析。扩展到多个变化和无限四阶矩的情况下也进行了讨论。
2009-11-19 math.ST stat.TH
Spectral clustering of network time series via the sample covariance matrix
University of California, Los Angeles(加州大学洛杉矶分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Imperial College London(帝国理工学院)
本文针对依赖结构由未观测随机块模型决定的多变量时间序列,提出基于样本协方差矩阵的谱聚类方法,实现了潜在社区的精确恢复,其理论扩展了矩阵扰动理论至依赖数据场景。
2026-08-05 math.ST stat.ME stat.TH
Confidence intervals for high-dimensional inverse covariance estimation
我们提出的方法统计推断低维参数稀疏精度矩阵在高维设置。我们的方法导致一个非稀疏估计的精度矩阵,其条目具有高斯极限分布。在真精度矩阵项的稀疏性假设和正则性条件下,分析了亚高斯观测下新估计的渐近性质。保持去稀疏化估计量的不变保证了相关联的图形模型中的边选择。所提出的方法的性能示出在模拟研究。
2015-08-11 math.ST stat.ME stat.TH
Testing and Estimating Change-Points in the Covariance Matrix of a High-Dimensional Time Series
本文研究了高维线性时间序列协方差结构中变点的检验和估计方法。假设的框架允许一个大类的多元线性过程(包括向量自回归移动平均(VARMA)模型)的增长维度和尖峰协方差模型。该方法使用中心或非中心样本方差-协方差阵的双线性型。变点检验和估计是基于最大选择加权累积和(MANUUM)统计量。大样本近似下的变点制度,包括一个多变量的CRAMUM变换的增加的维度。对于未知的渐近方差和协方差参数(对)的统计量,我们提出了一致的估计。基于弱大数定律的顺序版本,我们还考虑停止样本估计的观察,直到估计的变点。有限样本性质的程序进行了研究,通过模拟和他们的应用程序进行了说明,通过分析一个真实的数据集,从cumbermetrics。
2020-01-13 math.PR math.ST stat.AP
A plug-in bandwidth selection procedure for long run covariance estimation with stationary functional time series
在包括环境科学、经济学和医学在内的应用领域中,考虑曲线或函数的时间序列越来越普遍。此类数据分析中采用的许多推理程序涉及长期协方差函数或运算符,其类似于有限维时间序列分析和计量经济学中熟悉的长期协方差阵。该函数可以使用在频率零处评估的平滑周期图类型估计器自然地估计,该平滑周期图类型估计器关键地依赖于带宽参数的选择。在有限维环境中的一些先前的贡献,我们提出了一种带宽选择方法,旨在最大限度地减少估计的渐近均方赋范误差(AMSNE)在$L^2[0,1]^2$。由于AMSNE取决于包括长期协方差函数本身的未知总体量,因此在初始步骤中插入对这些总体量的估计,之后可以最小化估计的AMSNE以产生经验最优带宽。我们表明,以这种方式产生的带宽是渐近一致的AMSNE最优带宽,量化率,温和的平稳性和矩条件下。这些结果和所提出的方法的有效性进行评估,通过全面的模拟研究,从中我们可以提供实用的建议,如何选择在这种设置中的带宽参数。
2016-04-10 math.ST stat.CO stat.TH
De-biased graphical Lasso for high-frequency data
本文提出了一种新的高维高频数据精度矩阵的统计推断理论。重点不仅在于点估计,而且在于精密度矩阵条目的区间估计和假设检验。为了实现这一目的,我们建立了一个抽象的渐近理论的加权图形Lasso和它的去偏版本没有指定的形式的初始协方差估计。我们还扩展了理论的范围的情况下,一个已知的因素结构是存在于数据中。将所发展的理论应用到可以使用已实现协方差阵作为初始协方差估计量的具体情形中,得到了构造精度阵项的(同时)置信区间和(多重)检验的可行渐近分布理论.
2019-05-04 math.ST stat.TH
Covariance matrix estimation and linear process bootstrap for multivariate time series of possibly increasing dimension
多元时间序列提出了许多挑战,特别是当它们是高维的。本文的重点是双重的。首先,我们解决了一致估计自协方差序列的问题;这是一个矩阵序列,我们可以方便地堆叠成一个巨大的矩阵。然后,我们能够显示的一致性的估计的基础上,所谓的平顶锥,最重要的是,即使当时间序列维度被允许增加与样本量的一致性仍然成立。其次,我们重新审视McMurry和Politis [J.时间序列Anal. 31(2010)471-482]中描述。基于上述堆叠自协方差矩阵估计器,我们能够定义对多元时间序列有效的LPB版本。在相当一般的假设下,我们证明了我们的多元线性过程自助法(MLPB)在两种重要情况下对样本均值具有渐近有效性:(a)当时间序列维数固定时,以及(b)当它被允许随样本量增加时。另外,在情况(a)中,我们表明MLPB也适用于谱密度估计,即使在单变量情况下,这也是一个新的结果。最后,我们进行了模拟研究,证明了MLPB在某些重要情况下的优越性。
2015-06-02 math.ST stat.TH
Large-sample approximations for variance-covariance matrices of high-dimensional time series
样本方差-协方差阵的(双-)线性函数的分布近似在分析向量时间序列中起着至关重要的作用,因为它们被用于各种目的,特别是根据二阶矩推断相关结构以及分析由主成分生成的低维空间上的投影。这特别适用于高维情况,其中维度$d$允许随着样本量$n$而增长,甚至可能大于$n$。我们建立了大样本近似的双线性型的样本方差-协方差阵的高维向量时间序列的强近似的布朗运动。结果涵盖弱相关以及许多长程相关的线性过程,并一致$ \ell_1 $有界的投影向量,这是有效的,出现,无论是自然或建设,在许多统计问题广泛研究的高维系列。这些问题包括稀疏金融投资组合选择、稀疏主成分、LASSO、高维时间序列的收缩估计和变点分析,这些问题对于大数据分析很重要,并进行了更详细的讨论。
2017-04-20 math.PR math.ST stat.ME
Identifying the Spectral Representation of Hilbertian Time Series
我们提供平方根n一致性结果估计的协方差算子的希尔伯特时间序列的谱表示,在设置与不完善的测量。这是Bathia等人(2010)开发的方法的推广。推广依赖于可分希尔伯特空间中的中心随机元的一个重要性质,即它们几乎必然位于相关协方差算子的闭线性跨度中。我们提供了一个简单的证明这一事实。据我们所知,这一结果在文献中被忽视了。附带地给出了希尔伯特空间中PCA的严格公式。
2016-04-10 math.ST stat.TH
Two-sample tests for relevant differences in the eigenfunctions of covariance operators
本文论述了功能性时间序列数据的双样本检验,随着现代复杂观测系统的出现,这种检验已变得广泛可用。在这里,特别感兴趣的是在评估是否两组功能时间序列观测共享的形状,其主要模式的变化编码的特征函数的各自的协方差算子。为此,引入了一种新的测试方法,连接,并扩展,现有的文献在两个主要方面。首先,在相关测试框架中建立测试,其中兴趣不是测试精确的原假设,而是检测被认为足够相关的偏差,相关性由从业者确定,并且可能由领域专家指导。其次,建议的检验统计量依赖于自归一化原则,这有助于避免众所周知的困难任务,估计长期的协方差结构的基本功能时间序列。本文的主要理论成果是推导出所提出的检验统计量的大样本行为。经验证据表明,所提出的程序在有限的样本和竞争的方法相比,毫不逊色,提供了通过模拟研究,并应用于年度温度数据。
2019-09-13 math.ST stat.TH
Local Whittle estimation with (quasi-)analytic wavelets
针对非高斯非平稳长记忆多元时间序列,提出基于拟解析小波表示的推断方法,利用小波系数协方差和局部 Whittle 近似构建一致估计量,有效估计长记忆、长期协方差及相位参数,并在仿真与神经科学数据中验证了其有效性。
2023-08-04 math.ST stat.TH