Variable selection in multivariate linear models with high-dimensional covariance matrix estimation
在本文中,我们提出了一种新的变量选择方法的框架下的多元线性模型考虑到可能存在的依赖性之间的响应。它包括预先估计响应的协方差阵,并将该估计量插入Lasso准则中,以获得系数矩阵的稀疏估计量。我们的方法的属性进行了研究,从理论和数值的角度来看。更确切地说,我们给出了一般条件,协方差阵及其逆的估计必须满足,以恢复零和非零元的系数矩阵的位置时,协方差阵的大小是不固定的,可以趋于无穷大。我们证明了这些条件是满足某些Toeplitz矩阵的特殊情况下。我们的方法是在R包MultiVarSel中实现的,可从综合R存档网络(CRAN)获得,并且非常有吸引力,因为它受益于低计算负载。我们还使用合成数据评估我们的方法的性能,并将其与其他方法进行比较。我们的数值实验表明,包括协方差阵的估计在Lasso准则显着提高了变量选择性能在许多情况下。
2017-07-13 math.ST stat.TH
Missing values: sparse inverse covariance estimation and an extension to sparse regression
提出了一种估计高维多元正态模型中存在缺失数据的逆协方差阵的l1正则化似然方法。我们的方法是基于假设的数据是随机缺失(MAR),这也需要完全随机缺失的情况下。该方法的实现是非平凡的,因为观察到的负对数似然一般是一个复杂的非凸函数。我们提出了一个有效的期望最大化算法的优化与可证明的数值收敛性能。此外,我们扩展的方法来处理稀疏回归上下文中的缺失值。我们证明了这两种方法的模拟和真实数据。
2012-02-27 stat.ME
Bayesian nonstationary and nonparametric covariance estimation for large spatial data
在空间统计学中,经常假设感兴趣的空间场是平稳的,其协方差具有简单的参数形式,但这些假设在许多应用中并不合适。给出了高斯空间场的重复观测,我们提出了空间依赖性的非平稳和非参数贝叶斯推断。代替估计协方差阵的二次(在空间位置的数量上)条目,想法是推断精度矩阵的稀疏Cholesky因子中的非零条目的近线性数量。我们先前的假设的动机是最近的结果的指数衰减的条目,这个Cholesky因子的母亲型协方差下一个特定的排序方案。我们的方法是高度可扩展和并行化。我们进行数值比较,并将我们的方法应用于气候模型输出,使昂贵的物理模型的统计模拟。
2020-12-10 stat.AP stat.CO stat.ME
Forecasting Large Realized Covariance Matrices: The Benefits of Factor Models and Shrinkage
Duke University(杜克大学);State Farm(州立农业保险公司);The University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Insper(Insper 商学院)
我们提出了一个模型来预测大的已实现的协方差矩阵的回报,将其应用到标准普尔500指数的成分股。为了解决维度灾难,我们使用标准的公司层面因素(例如,规模、价值和盈利能力),并在残差协方差矩阵中使用部门限制。然后使用具有最小绝对收缩和选择算子(LASSO)的向量非均质自回归(VHAR)模型估计该受限模型。相对于标准基准,我们的方法提高了预测精度,并导致更好地估计最小方差投资组合。
2023-03-22 cs.LG econ.EM q-fin.ST
Real-time covariance estimation for the local level model
本文发展了多变量局部水平模型的在线推断,重点是新息的协方差估计。我们评估的应用程序的逆Wishart先验分布在这种情况下,发现它过于限制,因为串行相关结构的观察和状态的创新被迫是相同的。我们推广的逆Wishart分布,以允许一个更方便的相关结构,但仍保留近似共轭。我们证明了新的分布和我们开发的近似贝叶斯推断,它允许同时预测的时间序列数据和估计的协方差模型的创新的一些相关结果。我们提供的时间序列,这是部署,以实现计算节省的水平上的稳定状态的结果。使用蒙特卡罗实验,我们比较所提出的方法与现有的估计程序。给出了一个由工业过程的生产数据组成的实际数据的例子。
2013-11-04 stat.ME
Functional PCA with Covariate Dependent Mean and Covariance Structure
提出均值与协方差结构均依赖协变量的CD-FPCA框架,利用样条基和粗糙度惩罚实现高效估计,并保证协方差函数对称半正定。
2023-08-19 stat.AP stat.CO stat.ME
Two sample test for covariance matrices in ultra-high dimension
针对维度远大于两样本量的超高维协方差矩阵相等性检验,本文提出基于数据分割和精选特征值比较的自适应检验,建立渐近分布与弱备择功效,并通过模拟、真实数据及 R 包 UHDtst 验证其优势。
2023-12-17 math.ST stat.ME stat.TH
Group Symmetry and non-Gaussian Covariance Estimation
我们考虑群对称约束下的稳健协方差估计。非高斯协方差估计,例如,泰勒散布估计和多元广义高斯分布方法,通常涉及非凸极小化问题。最近,它表明,其成功背后的基本原理是一个扩展形式的凸性的测地线在流形的正定矩阵。提高估计精度的现代方法是通过附加约束来利用先验知识,例如,将注意力限制在坚持先前对称结构的协方差的特定类别上。在本文中,我们证明了这样的群对称约束也测地线凸,因此可以纳入各种非高斯协方差估计。这些集合的实际例子包括:循环、过对称和复数/四元数固有结构。我们提供了一个简单的数值技术,找到最大似然估计在这样的约束下,并证明其性能优势,使用合成实验。
2013-06-18 stat.ML
A Geometric Unification of Distributionally Robust Covariance Estimators: Shrinking the Spectrum by Inflating the Ambiguity Set
本文提出了一种基于几何方法的分布鲁棒协方差估计器,通过优化分歧度量来实现收缩估计,具有高效计算和渐近一致性。
2025-11-23 cs.LG math.OC stat.ML
Block-diagonal idiosyncratic covariance estimation in high-dimensional factor models for financial time series
针对高维金融因子模型中的特质协方差估计,本文利用残差聚类与分块收缩构造两种分块对角估计量,在模拟和历史数据上优于阈值类方法。
2024-07-04 cs.CE q-fin.MF q-fin.ST
Fused-Lasso Regularized Cholesky Factors of Large Nonstationary Covariance Matrices of Longitudinal Data
Texas A&M University(德克萨斯A&M大学)
大协方差阵的Cholesky因子的次对角线的光滑性与时间序列和纵向数据的自回归模型的非平稳程度密切相关。启发式地,人们期望对于接近平稳的协方差阵,在连续项的绝对值之和很小的意义上,其逆的Cholesky因子的每个次对角线中的条目接近相同。从统计学上讲,这种平滑是通过使用融合型套索惩罚正则化每个次对角线来实现的。我们依赖于标准的Cholesky因子作为正则化正态似然设置中的新参数,该设置保证:(1)似然函数的联合凸性,(2)即使当$n<p$时,似然函数也严格凸于每个次对角线,以及(3)估计的协方差阵的正定性。提出了一种分块坐标下降算法,其中每个分块都是次对角线,并在较弱的条件下证明了算法的收敛性。缺乏解耦的罚似然函数到一个总和的功能,涉及个人subdiagals产生了一些计算上的挑战和优势,相对于最近的两个算法的稀疏估计的Cholesky因子,行式解耦。仿真结果和实际数据分析表明所提出的方法的范围和良好的性能。
2020-07-22 cs.LG stat.ML
Estimating a change point in a sequence of very high-dimensional covariance matrices
本文考虑高维向量序列中协方差阵的变点估计问题,其中维数远大于样本量。一个两阶段的方法,提出了有效地估计的位置的变化点。第一步包括降维以识别对应于显著变化的协方差阵的元素。在第二步中,我们使用降维后的组件来确定变化点的位置。理论特性的步骤和数值研究进行支持新的方法。
2018-07-27 math.ST stat.ME stat.TH
Efficient estimation of conditional covariance matrices for dimension reduction
设$\boldsymbol{X}\in \mathbb{R}^p$和$Y\in \mathbb{R}$。在本文中,我们提出了一个估计的条件协方差阵,$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$,在逆回归设置。基于二次函数的估计,该方法从半参数的角度提供了一个有效的估计。我们考虑了$\mathrm{Cov}(\mathbb{E}[\boldsymbol{X}\vert Y])$在一些温和的条件下的功能泰勒展开和使用未知的联合分布的估计的效果。并给出了该估计量的渐近性质。
2014-08-19 math.ST stat.ME stat.TH
Bayesian Estimation of Sparse Spiked Covariance Matrices in High Dimensions
我们提出了一个贝叶斯方法估计尖峰协方差阵的联合稀疏结构在高维。根据潜在因子模型对加标协方差阵进行重新参数化,其中加载矩阵配备了新型矩阵钉板LASSO先验,这是一种用于联合稀疏矩阵建模的连续收缩先验。我们建立了协方差阵关于算子范数的速率最优后验压缩以及主子空间关于投影算子范数损失的速率最优后验压缩。我们还研究了主子空间的后验收缩率相对于2到无穷范数损失,一种新的损失函数测量子空间之间的距离,能够捕获元素的特征向量扰动。我们表明,后验收缩率相对于2到无穷大的范数损失是严格的,比常规使用的投影算子范数损失在一定的低秩和有界相干条件下。此外,提出了一个主子空间的点估计与率最优风险界的投影算子范数损失。这些结果是基于矩阵尖峰和平板LASSO先验的浓度和大偏差不等式的集合。所提出的方法的数值性能进行评估,通过合成的例子和分析的一个真实世界的人脸数据的例子。
2019-01-30 math.ST stat.ME stat.TH
Confidence intervals for high-dimensional inverse covariance estimation
我们提出的方法统计推断低维参数稀疏精度矩阵在高维设置。我们的方法导致一个非稀疏估计的精度矩阵,其条目具有高斯极限分布。在真精度矩阵项的稀疏性假设和正则性条件下,分析了亚高斯观测下新估计的渐近性质。保持去稀疏化估计量的不变保证了相关联的图形模型中的边选择。所提出的方法的性能示出在模拟研究。
2015-08-11 math.ST stat.ME stat.TH
Predictive densities for multivariate normal models based on extended models and shrinkage Bayes methods
研究了均值向量未知且协方差阵已知的多元正态模型的预测密度。基于收缩先验的贝叶斯预测密度通常具有复杂的表示,尽管它们在各种问题中是有效的。我们考虑以均值向量和协方差阵为参数的扩展正态模型,并采用属于包括原正态模型在内的扩展模型的预测密度。我们采用的预测密度是最佳的后验贝叶斯风险的扩展模型。基于超调和收缩先验的预测密度在基于库尔贝克-莱布勒散度的损失函数下优于基于均匀先验的贝叶斯预测密度。我们的方法提供了一种替代经验贝叶斯方法,这是广泛用于构建易于处理的预测密度。
2022-12-07 math.ST stat.ME stat.TH
Gaussian dependence structure pairwise goodness-of-fit testing based on conditional covariance and the 20/60/20 rule
提出一种基于20/60/20规则和条件协方差的高斯依赖结构成对拟合优度检验框架,具有渐近枢轴分布,模拟和实证表明其优于流行基准。
2024-04-22 math.ST stat.ME stat.TH
Generalized Sparse Covariance-based Estimation
在这项工作中,我们扩展了稀疏迭代协方差估计(SPICE),通过推广配方,允许不同的范数约束的信号和噪声参数的协方差模型。对于一个给定的规范,由此产生的扩展SPICE方法享有相同的好处,定期SPICE方法,包括超参数自由,虽然规范的选择,以管理稀疏的解决方案。此外,我们发现,解决扩展SPICE方法相当于解决惩罚回归问题,这提供了另一种解释所提出的方法和更深入的了解扩展和原始SPICE制定之间的稀疏性的差异。我们检查的性能的方法为不同的选择规范,并将结果与原来的SPICE方法,使用扩展配方的好处。我们还提供了两种方法来解决扩展SPICE方法;一个基于网格的方法,给出了一个有效的实现,和一个无网格的正弦曲线的情况下,这导致在一个半定规划问题的方法。
2017-04-20 stat.ME
Interpretation and visualization of distance covariance through additive decomposition of correlations formula
Arizona State University(亚利桑那州立大学);Hong Kong University of Science and Technology(香港科技大学)
本文通过相关性公式加法分解解释距离协方差机制,提出可视化方法以直观展示距离协方差分数,解决其解释困难问题。
2023-05-24 stat.ME
A Kalman Filter Approach for Biomolecular Systems with Noise Covariance Updating
系统建模的一个重要部分是确定参数值,特别是对于生物分子系统,其中单个参数的直接测量通常是困难的。虽然扩展卡尔曼滤波器已用于此目的,过程噪声协方差的选择通常是不清楚的。在这一章中,我们解决这个问题的生物分子系统使用的Monte Carlo模拟和实验数据的组合,利用过程噪声协方差对状态和参数的依赖性,在朗之万框架。我们适应的混合扩展卡尔曼滤波技术更新的过程噪声协方差在每个时间步的基础上估计。我们比较这个框架的性能与不同的固定值的过程噪声协方差的生物分子系统模型,包括振荡器模型,以及在实验测量的数据为负的转录反馈电路。我们发现,这种过程噪声协方差更新的扩展卡尔曼滤波器更接近最优性条件的意义上说,新息序列成为白色,并在实现均方估计误差和参数收敛时间之间的平衡。本章的结果可能有助于在过程噪声协方差依赖于状态和/或参数的系统中使用扩展卡尔曼滤波器。
2018-11-12 q-bio.QM stat.ME
Nonasymptotic estimation and support recovery for high dimensional sparse covariance matrices
我们提出了一个一般性的框架,利用集中不等式为基础的信心集的非渐近协方差阵估计。我们指定这个框架的估计大型稀疏协方差阵,通过将过去的阈值估计与支持恢复的重点。这种技术超越了过去的阈值估计的结果,允许广泛的分布假设超出仅仅是次高斯尾巴。这种方法还可以适用于广泛的其他估计和设置。非渐近无量纲置信集的使用产生良好的理论性能。通过大量的模拟,它被证明具有优越的性能时,与其他这样的方法相比。在支持恢复的上下文中,我们能够指定误报率并进行优化以最大化真实恢复。
2019-03-26 math.ST stat.CO stat.ME
Permutation tests for the equality of covariance operators of functional data with applications to evolutionary biology
在本文中,我们推广了Pigoli et al.(2014)提出的协方差算子相等性的基于度量的置换检验到函数数据的多个样本的情况。为此,使用Pesarin和Salmaso(2010)的非参数组合方法将样本之间的所有成对比较组合为一个全局检验。对不同的组合函数和排列策略进行了详细的分析和评述。由此产生的测试允许进行推断的平等的协方差算子的多个组,如果有证据拒绝的原假设,以确定对组具有不同的协方差。结果表明,对于某些组合函数,降压调节程序可用于控制这种设置中的多重检验问题。这种新的测试的实证力量,然后通过模拟和现有的替代方法在不同的情况下进行比较。最后,所提出的方法被应用到从车轮运行活动实验,使用选择性育种研究小鼠运动行为的演变的数据。
2017-01-20 stat.AP stat.ME
Efficient nonparametric estimation of Toeplitz covariance matrices
本文提出一种基于数据变换的Toeplitz协方差矩阵非参数估计量,将其转化为近似高斯回归的均值估计,该方法正定、数据驱动且计算极快,并在谱范数下达到最小最大最优,同时扩展至逆矩阵估计。
2024-01-05 math.ST stat.ME stat.TH
A Test for Separability in Covariance Operators of Random Surfaces
可分性假设是时空或超曲面数据结构分析中的一个简化且非常流行的假设。它通常是在协方差结构不能很容易地估计的情况下进行的,例如由于小的样本量或由于计算存储问题。在本文中,我们提出了一个新的且非常简单的测试来验证这一假设。我们的方法是基于一个措施的可分性,这是零的情况下,可分性和积极的。可以在不计算完整的不可分离协方差运算符的情况下估计该度量。我们证明了相应的统计量的渐近正态性与有限的方差,这可以很容易地从现有的数据估计。因此,可以使用标准正态分布的分位数来获得临界值,并且新的可分性检验非常容易实现。特别是,我们的方法既不需要预测的协方差算子的本征函数所产生的子空间,也不reservation程序,以获得临界值,也不分布的假设所使用的其他可用的方法来构建测试的可分性。我们调查有限样本的性能通过模拟研究,并提供了一个比较与目前可用的方法。最后,通过对风速和温度数据的分析,说明了新方法的可行性。
2019-01-02 math.ST stat.ME stat.TH
Statistical Inference for Bures-Wasserstein Flows
本研究基于Bures-Wasserstein度量几何构建统计框架,实现希尔伯特空间上协方差流的统计推断与函数主成分分析,适用于函数型数据分析等场景,且在有限维矩阵情形下也有创新。
2024-06-24 math.ST stat.ME stat.TH
Marginal Inference for Hierarchical Generalized Linear Mixed Models with Patterned Covariance Matrices Using the Laplace Approximation
本文基于拉普拉斯近似和Newton-Raphson更新,为具有复杂模式化协方差结构的分层广义线性混合模型开发了完整的边际推断方法,支持六种分布并经模拟与真实数据验证了有效性。
2023-05-04 math.ST stat.ME stat.TH
Covariance Regression with High-Dimensional Predictors
本文提出融合数据分割、变量选择、低维估计聚合与稳健方差估计的高维协方差回归推断方法,可构建可靠置信区间,并在模拟和HCP衰老脑影像研究中验证有效。
2024-04-10 math.ST stat.ME stat.TH
Inference on covariance structure in high-dimensional multi-view data
Duke University(杜克大学)
本文提出基于谱分解的高维多视图数据协方差估计方法,通过联合共轭先验分布实现高效后验计算,证明了渐进性质并展示了在多组学数据中的应用效果。
2026-04-16 stat.CO stat.ME stat.ML
Structured prior distributions for the covariance matrix in latent factor models
针对潜因子模型协方差矩阵分解,提出一类结构化先验以编码共享变异矩阵的依赖结构,支持数据驱动的收缩与因子数量推断,并扩展至动态因子模型,通过参数扩展MCMC采样器实现高效计算。
2024-06-28 stat.ME
Covariance-based soft clustering of functional data based on the Wasserstein-Procrustes metric
我们考虑的问题,聚类功能数据根据其协方差结构。我们贡献了一个软聚类方法的基础上的Wasserstein-Procrustes距离,在集群之间的变化是由一个长期的分区分割的熵矩阵成比例的惩罚。通过这种方式,每个协方差运算符可以部分地分类到多个组中。这种软分类允许集群重叠,并且在所有或部分集群之间的分离没有明确定义的情况下自然会出现。我们还讨论了如何估计组的数量,并测试任何集群结构的存在。使用模拟和真实数据说明该算法。补充材料中提供了R实现。
2022-12-26 stat.ME
Time series models for realized covariance matrices based on the matrix-F distribution
针对时变已实现协方差矩阵,提出了一种新的条件BEKK矩阵-F(CBF)模型。该CBF模型能够捕获重尾RCOV,这是一个重要的程式化事实,但不能充分处理的Wishart为基础的模型。为了进一步模拟RCOV的长记忆特性,引入了一种特殊的具有条件异质自回归(HAR)结构的CBF模型。此外,我们还对CBF模型的概率性质和统计推断进行了系统的研究,包括探讨其平稳性,建立其极大似然估计的渐近性,并给出了一些新的基于内积的模型检验方法。为了处理高维RCOV矩阵,我们构造了两种简化的CBF模型--方差-目标CBF模型(适用于中等但固定维的RCOV矩阵)和因子CBF模型(适用于高维RCOV矩阵)。对于这两种降阶模型,导出了参数估计的渐近理论。仿真结果和两个实际例子说明了我们整个方法的重要性。
2020-07-09 econ.EM math.ST stat.ME
Log-density gradient covariance and automatic metric tensors for Riemann manifold Monte Carlo methods
本文提出一种基于对数密度梯度协方差(LGC)矩阵的Riemann流形Monte Carlo度量张量,适用于非线性贝叶斯分层模型,能够从复杂先验/潜变量结构自动构建度量张量,结合数值广义随机化Hamiltonian Monte Carlo过程在挑战性目标分布上表现优异。
2023-10-19 stat.CO stat.ME stat.ML
Multivariate Generalised Linear Mixed Models With Graphical Latent Covariance Structure
本文介绍了一种研究多元广义线性混合模型(MGLMM)模拟的一系列响应的相关结构的方法。该方法需要存在的集群的观察和研究的几个响应中的每一个建模使用广义线性混合模型(GLMM)包含随机组件代表集群。我们构造一个MGLMM假设的分布的每个随机组成部分代表的集群是边缘分布的(足够规则的)多变量椭圆轮廓分布。我们使用一个无向图模型来表示随机分量的相关性结构,这些随机分量表示每个响应的观测聚类。这种表示使我们能够得出关于与观测聚类相关的未知潜在决定因素的结论。使用无向图和有向无环图(DAG)的组合,我们共同表示的响应和相关的随机组件的相关结构。应用图形模型的理论,使我们能够描述和得出结论的相关性,在某些情况下,不同的统计性质(\eg以下不同的分布,不同的线性预测和链接函数)的响应之间的依赖性。我们提出了一些模拟研究,说明所提出的方法。
2021-07-30 stat.ME
Sparse Covariance Estimation in Logit Mixture Models
本文介绍了一种新的数据驱动的方法估计稀疏协方差阵的随机系数的Logit混合模型。研究人员通常在两个极端假设之一下指定logit混合模型中的协方差阵:不受限制的完整协方差阵(允许所有随机系数之间的相关性)或限制的对角矩阵(完全不允许相关性)。我们的目标是找到相关系数的最佳子集,我们估计协方差。我们提出了一个新的估计,称为MISC,使用混合整数优化(MIO)程序找到一个最佳的块对角结构规范的协方差矩阵,对应于相关系数的子集,为任何所需的稀疏水平,使用马尔可夫链蒙特卡罗(MCMC)后提请从不受限制的完整的协方差阵。使用样本外验证确定协方差阵的最佳稀疏水平。我们证明了MISC从合成数据中正确恢复真实协方差结构的能力。在一个实证说明中,我们使用MISC来获得一个稀疏的协方差阵,表明属性的偏好是如何相互关联的。
2020-01-14 econ.EM stat.ME stat.ML
Representation and reconstruction of covariance operators in linear inverse problems
我们介绍了一个框架的重建和表示功能的设置,这些对象不能直接观察到,但只有间接和嘈杂的测量,即逆问题设置。所提出的方法可以应用于间接观察到的功能图像的分析或相关的协方差算子,代表二阶信息,因此躺在一个非欧几里德空间。为了处理反问题的不适定性,我们利用样本数据的空间结构,通过引入一个灵活的正则化项嵌入到模型中。由于它的效率,所提出的模型被应用到脑磁图数据,导致一种新的方法来调查的功能连接。
2020-09-13 stat.AP stat.ME
A generalized distance covariance framework for genome-wide association studies
提出广义距离协方差框架检验SNP与表型关联,可覆盖经典遗传模型的全部依赖关系,并给出渐近分布、高斯条件精确p值及协变量回归扩展。
2025-01-04 stat.ME
Dirichlet-Neumann Averaging: The DNA of Efficient Gaussian Process Simulation
本研究提出基于Dirichlet-Neumann平均的高效高斯过程/随机场采样方法,结合离散余弦与正弦变换实现快速计算,同时建立其与SPDE方法的关联,可指导边界条件选择并在无域扩展下得到各向同性样本。
2024-12-10 cs.NA math.NA math.PR
Covariance Matrices for Mean Field Variational Bayes
University of California, Berkeley(加州大学伯克利分校)
平均场变分贝叶斯(MFVB)是一种流行的后验近似方法,由于其快速运行的大规模数据集。然而,众所周知,MFVB的一个主要缺点是它(有时严重)低估了模型变量的不确定性和缺乏有关模型变量协方差的信息。我们为指数族开发了一种快速,通用的方法,该方法增强了MFVB,为模型变量提供准确的不确定性估计-无论是单个变量还是跨变量的一致性。指数族的MFVB定义了一个近似后验均值的不动点方程,我们的方法通过扰动这个不动点来得到协方差估计。受线性响应理论的启发,我们称我们的方法为线性响应变分贝叶斯(LRVB)。我们证明了我们的方法在模拟数据集的准确性。
2014-12-08 cs.LG stat.ME stat.ML
The coverage probability of confidence intervals in one-way analysis of covariance after two F tests
考虑协方差模型的单向分析。假设目标参数θ是给定协变量值的期望响应的指定线性对比。还假设感兴趣的推断是theta的1-alpha置信区间。提出了以下两个阶段的程序来确定模型的形式。在第1阶段,我们对斜率均为零的零假设与斜率不均为零的备择假设进行F检验。如果这个原假设被接受,那么我们假设斜率都为零;否则我们进行到阶段2。在第二阶段,我们对零假设进行F检验,零假设是斜率都相等,而备择假设是斜率不相等。如果这个原假设被接受,那么我们假设斜率都是相等的;否则不做这个假设。我们提出了一个一般的方法来检查这两个阶段的模型选择程序的覆盖概率上的一个间接构造的置信区间θ,与名义覆盖1-α的影响。这种方法被应用到一个数值例子,它表明,这个置信区间是完全不够的。
2012-08-03 stat.ME
Bayesian covariance modeling of multivariate spatial random fields
在这项工作中,我们为多元空间数据的一类新的灵活的不可分离的互协方差函数提供了完整的贝叶斯推断。提出了一种协方差函数可分性的贝叶斯检验方法,该方法比与可分性相关的参数更具可解释性。空间模型越来越多地应用于环境科学、气候科学和农业等领域。这些数据通常在空间、时间上都是可用的,而且可能用于多个过程。在这种情况下,相关性建模对于正确的不确定性量化和可靠的预测至关重要。特别是,对于多变量空间数据,我们需要指定一个有效的互协方差函数,它定义了空间域中所有位置的响应向量分量之间的相关性。然而,交叉协方差函数不容易指定,并且计算负担是模型复杂性的限制。在这项工作中,我们提出了一个不可分离的协方差函数,是基于凸组合的可分离的协方差函数和潜在的维度表示的向量分量。提出的协方差结构是有效的和灵活的。我们模拟了四个不同的情况下,不同程度的可分性和计算的后验概率的可分性。事实证明,后验概率比实际模型参数更容易解释。我们说明了我们的方法,从塞阿拉,巴西的天气数据集。
2017-07-20 stat.ME
Estimation of large block structured covariance matrices: Application to "multi-omic" approaches to study seed quality
受高通量基因组学和代谢组学应用的启发,我们提出了一种新的,高效的和完全数据驱动的方法来估计大块结构的稀疏协方差阵的情况下,变量的数量远远大于样本的数量,而不限制自己的块对角矩阵。我们的方法包括近似这样的协方差阵的低秩稀疏矩阵和对角矩阵的总和。我们的方法也可以处理矩阵的块结构出现,只有当列和行根据一个未知的排列排列。我们的技术在R包\texttt{BlockCov}中实现,该包可从Comprehensive R Archive Network(CRAN)和GitHub获得。为了说明我们的包的统计和数值性能,提供了一些数值实验,以及与其他方法进行了彻底的比较。最后,我们的方法适用于使用“多组学”的方法研究种子质量。
2019-12-06 stat.ME
Statistical Estimation for Covariance Structures with Tail Estimates using Nodewise Quantile Predictive Regression Models
本文针对带尾部估计的协方差结构,提出用分位数预测回归估计VaR-CoVaR风险矩阵,还构建了无调优参数、具有一致性的FOCE变量选择算法,经真实与模拟数据集验证可用于网络系统性风险建模。
2023-07-24 econ.EM stat.ME
Factor-guided estimation of large covariance matrix function with conditional functional sparsity
Tsinghua University(清华大学);The University of Hong Kong(香港大学)
本文针对高维函数型数据,提出基于两种函数型因子结构及条件函数稀疏性的DIGIT和FPOET估计量,通过特征分析与自适应阈值化估计协方差矩阵函数,并给出理论保证与实证验证。
2025-10-27 stat.ME
Covariance Matrices and Influence Scores for Mean Field Variational Bayes
平均场变分贝叶斯(MFVB)是一种流行的后验近似方法,由于其在大规模数据集上的快速运行。然而,众所周知,MFVB的一个主要缺点是它低估了模型变量的不确定性(有时严重),并且没有提供关于模型变量协方差的信息。我们为指数族开发了一种快速,通用的方法,该方法增强了MFVB,为模型变量提供准确的不确定性估计-无论是单个变量还是跨变量的一致性。指数族的MFVB定义了一个近似后验均值的不动点方程,我们的方法通过扰动这个不动点来得到协方差估计。受线性响应理论的启发,我们称我们的方法为线性响应变分贝叶斯(LRVB)。我们还展示了LRVB如何用于快速计算单个数据点对参数点估计的影响。我们通过学习模拟和真实数据的高斯混合模型来证明我们方法的准确性和可扩展性。
2015-02-26 stat.ME stat.ML
Covariance Correction for Permutation Statistics in Multiple Testing Problems
Otto von Guericke University Magdeburg(马格德堡奥托·冯·格里克大学);TU Dortmund University(多特蒙德工业大学);RWTH Aachen University(亚琛工业大学)
本文提出一种更高效的协方差校正方法,恢复多重检验中排列统计的联合渐近依赖结构,适用于广泛的问题场景。
2026-04-08 stat.ME
Hypothesis testing under uniform-block covariance structures
针对均匀块协方差结构下的假设检验空白,提出基于块哈达玛积表示的联合检验框架,推导闭式统计量并控制FDP,经模拟验证并应用于高维成像数据。
2025-04-20 stat.ME
Robust Model Order Selection in Large Dimensional Elliptically Symmetric Noise
本文讨论了相关噪声背景下的模型阶数选择问题。更确切地说,考虑嵌入在加性复椭圆对称(CES)噪声中的源,参数未知。模型阶次估计的主要困难在于噪声相关性,即CES分布的散布矩阵。在这项工作中,为了解决这个问题,我们采用了两步的方法:首先,我们开发了两种不同的方法的基础上的Toeplitz结构模型估计这个未知的散射矩阵和白化相关噪声。然后,我们应用Maronna的$M$ -估计器的白化信号估计的协方差阵的“去相关”的信号,以估计模型阶。该方法是基于稳健估计理论和大随机矩阵理论,并得到了原始结果,证明了该方法的有效性。事实上,主要的理论贡献是在一个大的维度制度,得到一致的稳健估计的协方差阵的信号加相关噪声,并提出有效的方法来估计信号子空间的秩。最后,如分析中所示,这些结果显示了很大的改善相比,国家的最先进的,在模拟和真实的高光谱图像。
2017-10-18 stat.ME
Control of the False Discovery Rate Under Arbitrary Covariance Dependence
多重假设检验是高维推理中的一个基本问题,在许多科学领域有着广泛的应用。在全基因组关联研究中,成千上万的测试同时进行,以确定是否有任何基因与某些性状相关,并且这些测试是相关的。当检验统计量相关时,在任意依赖下的错误发现控制变得非常具有挑战性。在本文中,我们提出了一种新的方法的基础上,主因子近似,成功地减去共同的依赖性和显着削弱的相关性结构,以处理任意的依赖结构。本文推导了在大规模多重检验中,当使用公共门限时,错误发现率(FDP)的理论分布,并给出了一致的FDP。这一结果在FDR和FDP的控制中有重要的应用。我们对FDP的估计与Efron(2007)的方法相比毫不逊色,正如模拟示例所示。我们的方法进一步说明了一些实际数据的应用。
2010-12-20 stat.ME
MLE of Jointly Constrained Mean-Covariance of Multivariate Normal Distributions
估计无约束均值和协方差阵是统计学中的一个热门话题。然而,在诸如$Σμ= μ$的联合约束下的$N_p(μ,Σ)$的参数的估计没有受到太多的关注。它可以被看作是一个多变量对应的经典估计问题的$N(θ,θ^2)$分布。除了在参数(弯曲指数族)之间的这种非线性约束下的通常推断挑战之外,在估计协方差阵时,必须处理对称性和正定性的基本要求。我们推导了$(μ,Σ)$的约束极大似然估计的非线性似然方程,并使用迭代方法求解。通常,使用迭代方法计算的协方差阵的MLE不满足约束。我们提出了一种新的算法来修改这样的(不可行的)估计或任何其他(合理的)估计。关键步骤是使用回归的思想沿着协方差阵的特征向量重新对齐均值向量。在将拉格朗日函数用于约束MLE(Aitchison et al. 1958)时,拉格朗日乘子与感兴趣的参数纠缠在一起,并提出了另一个计算挑战。我们通过迭代或显式计算拉格朗日乘子来处理这个问题。利用随机矩阵理论的最新结果,在数据依赖的凸集内研究了约束极大似然估计的存在性和位置性质。仿真研究说明了我们的方法,并表明,修改后的估计比初始估计的迭代方法。
2020-12-22 stat.ME
Cross-Validated Loss-Based Covariance Matrix Estimator Selection in High Dimensions
针对高维协方差矩阵估计量选择问题,提出基于交叉验证损失的通用损失函数类,建立有限样本风险界与渐近最优性条件,并通过模拟和单细胞数据验证,提供cvCovEst R包实现。
2022-05-06 stat.ME
A grid-based methodology for fast online changepoint detection
University of Oslo(奥斯陆大学)
本文提出基于网格的在线突变点检测方法,通过动态更新的候选突变点网格实现低更新和存储成本。方法在广义测试统计量下具有对数增长的计算成本,并证明了离线测试的有限样本功效可转化为非渐近检测延迟上限。
2026-03-19 stat.ME
Covariance Model with General Linear Structure and Divergent Parameters
为了在有限样本量的情况下估计大的协方差阵,我们提出了具有一般线性结构的协方差模型(CMGL),通过使用一般连接函数将连续响应向量的协方差连接到权矩阵的线性组合。在不假设响应分布的情况下,并允许权矩阵中参数个数发散的情况下,得到了参数的拟极大似然估计,并证明了其渐近性质.此外,提出了一种扩展的贝叶斯信息准则(EBIC)来选择相关的权重矩阵,并证明了EBIC的一致性。在单位连接函数下,我们引入了具有封闭形式的普通最小二乘估计(OLS)。因此,它的计算负担相比,QMLE减少,和OLS的理论性质也进行了研究。为了评估链接函数的充分性,我们进一步提出了拟似然比检验,并获得其极限分布。模拟研究,以评估所提出的方法的性能,广义协方差模型的有用性说明了美国股市的分析。
2022-05-15 stat.ME
Joint estimation of high-dimensional spiked covariance matrices via a partially shared subspace
KAIST(韩国科学技术院);Institute for Data Innovation in Science, Seoul National University(首尔大学数据创新科学研究所);Department of Statistics, Seoul National University(首尔大学统计系)
研究高维数据统计分析问题,提出尖峰协方差模型捕捉部分共享结构,开发含联合估计、合并权重及渐近保证的完整估计程序,解决对比降维差距,并用于投资组合构建和脑肿瘤基因表达分析。
2026-07-10 stat.AP stat.ME stat.ML
Covariance Function Estimation for High-Dimensional Functional Time Series with Dual Factor Structures
本文提出双函数因子模型估计高维函数型时间序列的协方差函数,将主成分分析推广到函数“低秩加稀疏”结构,并用函数收缩估计特质分量的稀疏结构,同时给出大样本理论与模拟实证验证。
2024-01-12 econ.EM stat.ME