Convex Reparameterization and Self-Concordant Algorithms for Multivariate Regression with Covariance Estimation
School of Statistics, University of Minnesota Twin Cities(明尼苏达大学双城分校统计学院);Department of Applied Mathematics & Statistics, Stony Brook University(石溪大学应用数学与统计系)
该研究提出结合协方差估计的多元回归的凸重参数化方法,证明其缩放高斯损失为标准自协调,推导两种算法,模拟及蛋白质表达应用显示其预测误差相近且稠密精度矩阵时速度显著提升。
2026-08-20 stat.CO stat.ME
Bayesian Variable Selection in Multivariate Regression Under Collinearity in the Design Matrix
本文研究贝叶斯多元线性回归变量选择,揭示非对角误差协方差在弱信号、高相关和小样本场景下会损害估计,并提出分离估计均值与协方差的两步法及对角协方差补充分析。
2025-07-23 stat.CO stat.ME
New insights for the multivariate square-root lasso
本文研究了多元平方根Lasso方法,它是一种用于拟合具有相依误差的多元响应线性回归模型的方法。该估计器最小化残差矩阵的核范数加上凸罚。与现有的方法,需要显式估计的误差精度(逆协方差)矩阵,多元平方根套索隐式占误差的依赖性,是一个凸优化问题的解决方案。我们建立误差界,揭示了像一元平方根套索,多元平方根套索是关键的未知误差协方差阵。此外,我们提出了一种变化的交替方向方法的乘子算法来计算估计,并讨论了一个加速的一阶算法,可以应用在某些情况下。在模拟研究和基因组数据的应用中,我们表明,多元平方根套索可以优于更计算密集型的方法,需要明确估计的误差精度矩阵。
2022-04-05 stat.ME
Variable selection in multivariate linear models with high-dimensional covariance matrix estimation
在本文中,我们提出了一种新的变量选择方法的框架下的多元线性模型考虑到可能存在的依赖性之间的响应。它包括预先估计响应的协方差阵,并将该估计量插入Lasso准则中,以获得系数矩阵的稀疏估计量。我们的方法的属性进行了研究,从理论和数值的角度来看。更确切地说,我们给出了一般条件,协方差阵及其逆的估计必须满足,以恢复零和非零元的系数矩阵的位置时,协方差阵的大小是不固定的,可以趋于无穷大。我们证明了这些条件是满足某些Toeplitz矩阵的特殊情况下。我们的方法是在R包MultiVarSel中实现的,可从综合R存档网络(CRAN)获得,并且非常有吸引力,因为它受益于低计算负载。我们还使用合成数据评估我们的方法的性能,并将其与其他方法进行比较。我们的数值实验表明,包括协方差阵的估计在Lasso准则显着提高了变量选择性能在许多情况下。
2017-07-13 math.ST stat.TH
On the use of the Gram matrix for multivariate functional principal components analysis
针对函数型数据分析中协方差算子估计难度随数据规模上升而增加的问题,该研究利用空间对偶性提出基于曲线内积估计多元函数数据集特征元素的方法,明确了协方差算子与内积矩阵特征元素的关联,并给出方法适用指导。
2024-06-20 stat.ME stat.ML
Itemwise conditionally independent nonresponse modeling for incomplete multivariate data
我们引入了一个多变量缺失数据的无应答机制,其中每个研究变量及其无应答指标是条件独立的,其余的变量及其无应答指标。这是一种不可否认的缺失机制,因为任何项目的无响应都可能依赖于其他项目本身缺失的值。我们表明,在这种逐项条件独立无响应假设下,可以定义和识别非参数饱和类的联合多变量模型的研究变量和他们的缺失指标。我们还展示了如何执行敏感性分析违反条件独立性假设编码的缺失机制。在整个过程中,我们用数据分析来说明这种建模方法的使用。
2016-09-02 stat.ME
Quasi-parametric rates for Sparse Multivariate Functional Principal Components Analysis
本文给出了多元随机过程第一主成分估计的非渐近结果。我们首先定义多元情形下的协方差函数和协方差算子。然后我们定义一个投影算子。该运算符可以被视为在功能数据分析上下文中从原始数据的重建步骤。接下来,我们表明,本征元素可以表示为一个优化问题的解决方案,我们介绍了LASSO变量的优化问题和相关的插件估计。最后,我们评估估计的准确性。我们建立了一个极小极大下界的均方重构误差的特征元素,这证明了该程序有一个最佳的方差在极小极大意义下。
2022-12-19 math.ST stat.ME stat.ML
CoinPress: Practical Private Mean and Covariance Estimation
University of Waterloo(滑铁卢大学);Microsoft(微软);Northeastern University(东北大学)
CoinPress提出了一种在小样本下具有高准确性的差分隐私均值和协方差估计方法,通过理论和实证验证,优于现有方法。
2026-02-09 cs.CR cs.DS cs.IT
Semiparametric Estimation of Cross-covariance Functions for Multivariate Random Fields
空间参考多变量数据的流行促使研究人员开发一个多个空间过程的联合建模过程。这通常涉及使用多变量空间协方差函数对任意位置对的边际和跨进程依赖性进行建模。然而,构建非负定的灵活的多变量空间协方差函数具有挑战性。在这里,我们提出了一个半参数的方法来估计多变量空间协方差函数的近似Matérn边缘和高度灵活的交叉协方差函数,通过他们的谱表示。我们的交叉协方差函数中的灵活性是由于底层相干函数的基于B样条的规范而产生的,这反过来又允许我们捕获非平凡的交叉谱特征。然后,我们开发了一个基于似然的估计过程,并进行了多次仿真研究,以证明我们的方法的性能,特别是在相干函数估计。最后,我们分析了颗粒物浓度($\text{PM}_{2.5}$)和风速数据在美国东北部地区,在那里我们说明了我们提出的方法优于常用的全双变量Matérn模型和线性模型的空间预测的协区域化。
2019-11-06 stat.AP stat.ME
Multivariate Spatial Covariance Models: A Conditional Approach
多变量地质统计学的基础是对连续索引域中任意位置的两个或多个变量的所有可能组合之间的所有协方差进行建模。多变量空间协方差模型需要小心构建,因为从此类模型导出的任何协方差阵都必须是非负定的。在这篇文章中,我们开发了一个有条件的空间模型的建设,其有效性条件很容易检查的方法。我们从二元空间协方差模型开始,然后展示该方法与由空间变量网络定义的多变量模型的连接。在某些情况下,如模拟呼吸道疾病与空气污染的关系,条件依赖的方向是明确的。当它不是时,可以比较两个方向模型。更一般地,网络的图结构减少了要比较的可能模型的数量。因此,模型选择相当于在网络中找到可能的因果联系。我们证明了我们的条件方法表面温度和压力的数据,这两个变量的作用被认为是不对称的。
2016-10-07 stat.AP stat.ME
Local False Sign Rate and the Role of Prior Covariance Rank in Multivariate Empirical Bayes Multiple Testing
本文研究了多元经验贝叶斯多重检验中先验协方差矩阵秩对局部错误符号率的影响,提出使用满秩协方差矩阵的调整方法以缓解低秩导致的错误符号率膨胀,从而提升高维环境下的稳健性。
2025-04-01 stat.AP stat.ME
A novel smoothing-based goodness-of-fit test of covariance for multivariate sparse functional data
本文提出一种基于平滑的多元稀疏函数型数据协方差拟合优度检验,扩展单变量检验并引入多元统计量,提高功效,应用于ADNI和PPMI数据验证实用性。
2025-03-27 stat.AP stat.ME
Model-based bi-clustering using multivariate Poisson-lognormal with general block-diagonal covariance matrix and its applications
本文提出基于多元泊松-对数正态模型和块对角协方差矩阵的双聚类方法,支持列簇数跨组固定或变化,通过变分高斯近似估计参数,并在模拟数据和乳腺癌RNA测序数据上验证了准确性与计算效率。
2025-03-11 stat.AP stat.ME
On the Validity of Isotropic Covariance Functions for Set-indexed Random Fields
University of California Santa Cruz(加州大学圣克鲁兹分校);Universidade Federal de Minas Gerais(米纳斯吉拉斯联邦大学);Pontificia Universidad Católica de Chile(智利天主教 Pontificia 大学);University of Connecticut(康涅狄格大学)
本文提出球-豪斯多夫距离,用于解决集索引随机场中各向同性协方差函数的有效性问题,通过条件负定性保证了广泛协方差函数族的适用性。
2026-02-16 stat.ME
Rejoinder of ``Cross-Covariance Functions for Multivariate Geostatistics''
Genton和Kleiber对“多元地球物理学的交叉协方差函数”的反驳[arXiv:1507.08017]。
2015-07-30 stat.ME
Multivariate Gaussian Random Fields with Oscillating Covariance Functions using Systems of Stochastic Partial Differential Equations
本文提出了一种通过随机偏微分方程组构造具有振荡协方差函数的\emph{multivariate}高斯随机场随机场的新方法。我们讨论了如何建立系统的SPDE引入振荡特性的协方差函数的多元GRF。通过选择方程的不同参数化,一些GRF可以用振荡的协方差函数制成,但其他场可以具有Matérn协方差函数或接近Matérn协方差函数。通过求解随机偏微分方程组构造的多元GRF自动满足协方差函数非负定的硬性要求。用多元高斯\emph{Markov}随机场(GMRF)表示多元GRF,并利用SPDE方程组的近似弱解来表示多元GRF。由于多变量GMRF具有稀疏精度矩阵(协方差阵的逆),因此稀疏矩阵的数值算法可以应用于精度矩阵以进行采样和推断。因此,从计算的角度来看,\emph{big-n}问题可以部分地解决这些类型的模型。该方法的另一个优点是协方差函数的振荡可以直接由SPDE系统中的参数控制。我们展示了如何使用这种方法与模拟数据和真实数据的例子。
2013-07-04 stat.ME
On the Flexibility of Multivariate Covariance Models: Comment on the Paper by Genton and Kleiber
Genton和Kleiber对“多元地质统计学的交叉协方差函数”的讨论[arXiv:1507.08017]。
2015-07-30 stat.ME
Modelling the covariance structure in marginal multivariate count models: Hunting in Bioko Island
我们提出了一个灵活的统计建模框架来处理多变量计数数据以及纵向和重复测量结构。每个响应变量的协方差结构定义为协方差连接函数与涉及已知矩阵的矩阵线性预测。为了指定多变量响应向量的联合协方差阵,采用广义Kronecker积。的计数性质的数据被考虑到通过与泊松-特威迪分布相关联的功率分散函数。此外,得分信息准则的矩阵线性预测器的组件的选择进行了扩展。我们分析了一个数据集组成的猎物动物(主要的狩猎物种,蓝色小羚羊\textit{Philantomba monticola}和其他类群)拍摄或诱捕肉类的$52$商业猎人在一个$33$ -个月期间在皮科巴西莱,比奥科岛,赤道几内亚。考虑到严重不平衡的重复测量和纵向结构引起的猎人和一组潜在的协变量(这反过来又影响的平均值和协方差结构),我们的方法可以用来表明是否有统计证据表明,在研究期间,蓝色小羚羊和其他物种狩猎下降。确定观察到的被猎杀动物数量下降是否属实,对于评估世界任何地方的开发区是否正在发生物种枯竭效应至关重要。我们建议,我们的方法可以用来更准确地了解为商业或生计目的狩猎的动物的轨迹,并建立明确的政策,以确保可持续的狩猎行为。
2016-08-18 stat.AP stat.ME
Modeling Nonstationary and Asymmetric Multivariate Spatial Covariances via Deformations
多变量空间统计模型经常被用来模拟环境和社会人口过程。最常用的多元空间协方差模型假设互协方差具有平稳性和对称性,但这些假设在实践中很少成立。在这篇文章中,我们介绍了一个新的和高度灵活的非平稳和非对称的多元空间协方差模型,通过建模更简单,更熟悉的平稳和对称的多元协方差的翘曲域。受单变量情况下的最新发展的启发,我们提出将扭曲函数建模为深度学习框架中的许多简单单射扭曲函数的组合。重要的是,协方差模型的有效性是通过构建来保证的。我们建立了允许互协方差对称性和不对称性的变形类型,并且我们使用基于似然性的方法进行计算效率高的推理。这类新的模型的效用是通过两个数据插图:对非平稳数据的模拟研究和在两个不同深度的海洋温度的应用。
2021-01-27 stat.ME
Multivariate Confluent Hypergeometric Covariance Functions with Simultaneous Flexibility over Smoothness and Tail Decay
本文提出基于多元混合的合流超几何(CH)交叉协方差函数构建技术,解决了多元随机场建模中参数空间限制复杂的问题,新模型同时具备灵活的平滑度与尾部衰减特性,在缓慢衰减相关性下优于Matérn模型并有效应用于海洋数据。
2025-03-06 stat.ME
A Flexible Class of Non-separable Cross-Covariance Functions for Multivariate Space-Time Data
多变量时空数据在各个科学学科中越来越多。在分析这些数据时,一个关键的问题是描述多元时空依赖性。在高斯框架下,需要提出多元时空协方差函数的相关模型,即具有非负定性附加要求的矩阵值映射。本文提出了一种多变量时空高斯随机场互协方差函数的灵活参数类。时空分量属于时空协方差函数的(单变量)Gneiting类,在空间边缘具有Matérn或Cauchy协方差函数。对于每个变量,平滑度和尺度参数可以不同。我们给出了正定性的充分条件。仿真研究表明,该模型的参数可以有效地估计使用加权两两似然,这属于一类的复合似然方法。然后,我们说明了法国的天气变量数据集上的模型。
2016-02-09 stat.ME
Statistical Monitoring of the Covariance Matrix in Multivariate Processes: A Literature Review
在现代制造业和服务业中,监控过程的几个相关质量特性是常见的。尽管人们对监控多变量过程均值给予了很多关注,但可用于监控协方差阵的控制图并不多。本文对多元统计过程监控(MSPM)框架中监控协方差阵的控制图的文献进行了全面的综述。它对以前出现在文献中的研究进行了分类。我们强调了具有挑战性的研究领域,并为未来的研究提供了一些方向。
2021-04-15 math.ST stat.AP stat.ME
Estimation of within-study covariances in multivariate meta-analysis
当将研究组合在一起时,多变量荟萃分析可以适用于多种结局和多个治疗组的各种情况。在多变量荟萃分析中,效应量之间的研究内相关性通常被认为是已知的,但实际上并不总是已知的。本文提出了一种通用的方法来近似多变量荟萃分析中效应量的研究内协方差,并将该方法分别应用于多个结局和多个治疗组的一个结局的情景。
2020-03-11 cs.NA math.NA q-bio.QM
Multivariate Covariance Generalized Linear Models
我们提出了一个非正态多变量数据分析的一般框架,称为多变量协方差广义线性模型(McGLM),旨在处理多变量响应变量,以及广泛的时间和空间的相关性结构定义的协方差连接函数与矩阵线性预测,涉及已知的矩阵。该方法的动机是三个数据的例子,不容易处理现有的方法。第一个例子涉及多变量计数数据,第二个涉及混合类型的响应变量,结合重复测量和纵向结构,第三个涉及降雨数据的时空分析。该模型考虑到非正态性,在传统的方式通过方差函数,和平均结构建模的链接函数和线性预测。模型拟合使用一个有效的牛顿评分算法的基础上准似然和皮尔逊估计函数,只使用二阶矩假设。这提供了一个统一的方法,各种不同类型的响应变量和协方差结构,包括多变量的重复测量,时间序列,纵向,空间和时空结构的扩展。
2015-04-07 stat.ME
Connecting reflective asymmetries in multivariate spatial and spatio-temporal covariances
Purdue University(普渡大学)
本文提出了一种新的反射不对称时空协方差模型,通过扩展多元空间数据模型,提高了时空数据的拟合和预测性能。
2026-01-27 stat.ME
Scalable Fitting Methods for Multivariate Gaussian Additive Models with Covariate-dependent Covariance Matrices
本文提出在经验贝叶斯框架下拟合多变量高斯加性模型的高效计算方法,通过无约束参数化保证协方差矩阵正定性,并利用简约结构与面向块计算解决高维参数二次增长带来的计算挑战。
2025-04-04 stat.AP stat.CO stat.ME
Separable covariance arrays via the Tucker product, with applications to multivariate relational data
现代数据集通常采用矩阵或数组的形式,可能沿着每个数据索引集具有相关性。例如,涉及随时间重复测量几个变量的数据可能表现出时间相关性以及变量之间的相关性。矩阵值数据的一个可能模型是矩阵正态分布类,它由两个协方差阵参数化,每个协方差矩阵对应于数据的每个指标集。在这篇文章中,我们描述了矩阵正规模型的扩展,以适应多维数据数组或张量。通过对独立的标准正态随机变量数组进行一组多重线性变换,得到了一类数组正态分布。所得类的协方差结构采用特定于维度的协方差阵的外积的形式。我们推导出这些协方差结构和相应阵列正态分布的一些性质,讨论协方差参数的极大似然和贝叶斯估计,并在多元纵向网络数据分析中说明该模型。
2010-08-12 stat.ME
Bayesian covariance modeling of multivariate spatial random fields
在这项工作中,我们为多元空间数据的一类新的灵活的不可分离的互协方差函数提供了完整的贝叶斯推断。提出了一种协方差函数可分性的贝叶斯检验方法,该方法比与可分性相关的参数更具可解释性。空间模型越来越多地应用于环境科学、气候科学和农业等领域。这些数据通常在空间、时间上都是可用的,而且可能用于多个过程。在这种情况下,相关性建模对于正确的不确定性量化和可靠的预测至关重要。特别是,对于多变量空间数据,我们需要指定一个有效的互协方差函数,它定义了空间域中所有位置的响应向量分量之间的相关性。然而,交叉协方差函数不容易指定,并且计算负担是模型复杂性的限制。在这项工作中,我们提出了一个不可分离的协方差函数,是基于凸组合的可分离的协方差函数和潜在的维度表示的向量分量。提出的协方差结构是有效的和灵活的。我们模拟了四个不同的情况下,不同程度的可分性和计算的后验概率的可分性。事实证明,后验概率比实际模型参数更容易解释。我们说明了我们的方法,从塞阿拉,巴西的天气数据集。
2017-07-20 stat.ME
Test and Visualization of Covariance Properties for Multivariate Spatio-Temporal Random Fields
由于多变量时空数据的普遍存在,使得多变量时空统计模型受到了广泛关注,其中协方差函数在建模、推断和预测中起着关键作用。对于多变量时空数据,了解变量内部和变量之间的时空变异性对于采用现实的协方差模型至关重要。同时,一般协方差的复杂性往往使模型拟合非常具有挑战性,简化的协方差结构,包括对称性和可分性,可以降低模型的复杂性,并促进推理过程。然而,在实际应用中需要仔细检查这些属性。在这里介绍的工作中,我们正式定义这些属性的多变量时空随机场,并使用功能数据分析技术来可视化它们,从而提供直观的解释。然后,我们提出了一个严格的基于秩的检验程序,以得出结论是否简化的协方差属性是适合于底层的多元时空数据。我们的方法的良好性能说明通过合成数据,我们知道的真实结构。我们还调查了沙特阿拉伯沿海和内陆地区的双变量风速的协方差,这是可再生能源的一个关键变量。补充材料可在线获得,包括我们开发的方法的R代码。
2023-03-12 stat.CO stat.ME
Covariance pattern mixture models for the analysis of multivariate heterogeneous longitudinal data
我们提出了一种新的方法来建模多变量纵向数据在存在未观察到的异质性的健康和退休研究(HRS)数据的分析。我们的建议可以铸造的框架内的线性混合模型与离散的个人随机截距,然而,不同于标准配方,建议的协方差模式混合模型(CPMM)不需要通常的本地独立性假设。因此,该模型能够同时建模的异质性,响应和时间依赖结构之间的关联。我们专注于调查的时间模式相关的认知功能在退休的美国受访者。特别是,我们的目标是了解它是否会受到一些个人的社会经济特征,以及是否有可能确定一些同质群体的受访者,共享一个类似的认知概况。准确描述所发现的群体,使政府能够及时采取政策干预措施。结果确定三个同质集群的个人与特定的认知功能,符合类的协变量的条件分布。CPMM的灵活性允许根据组成员的不同,每个回归变量对响应的贡献不同。在这样做的过程中,被识别的群体得到了一个全球性的和准确的现象学特征。
2015-09-16 stat.AP stat.ME
A cautionary note on robust covariance plug-in methods
许多多元统计方法严重依赖于样本协方差阵。然而,众所周知,样本协方差阵是高度非稳健的。一种流行的“鲁棒”多元方法的替代方法是简单地用一些鲁棒的散布矩阵代替协方差阵的作用。本文的目的是指出,在某些情况下的协方差阵的某些属性是需要相应的强大的“插件”方法是一个有效的方法,并不是所有的散布矩阵一定拥有这些重要的属性。特别是,以下三个多变量的方法进行了讨论,本文:独立成分分析,观测回归和图形建模。对于每种情况下,它示出,使用对称化的强大的分散矩阵的位置的协方差阵的结果在一个适当的强大的多变量方法。
2014-04-03 stat.ME
Inside-out cross-covariance for spatial multivariate data
University of Michigan–Ann Arbor(密歇根大学安娜堡分校)
本文提出Inside-out交叉协方差模型,用于多变量空间数据的似然推断,提供直接边缘推断和灵活的降维能力,优于传统核心化模型。
2026-02-16 stat.ME
Removal of Multivariate Environmental Influences in Structural Health Monitoring through Conditional Covariances and Supervised Learning
Helmut Schmidt University(赫尔穆特·施密特大学)
针对结构健康监测中环境因素影响输出量高阶统计矩的问题,提出并比较了非参数核估计、随机森林、半参数加性模型和深度学习方法以识别和量化多变量混淆效应,并展示了条件协方差矩阵在SHM流程中的应用。
2026-06-03 stat.AP stat.ME
Bayesian semiparametric modelling of covariance matrices for multivariate longitudinal data
本文开发了多变量纵向响应的边际模型。总体而言,该模型由五个回归子模型组成,一个用于平均值,四个用于协方差阵,后者是通过考虑各种矩阵分解得到的。我们采用的分解是直观的,易于理解的,并且它们不依赖于任何假设,例如多变量响应之间存在排序。回归子模型是半参数的,未知函数由基函数展开表示。我们使用spike-slap先验的回归系数,以实现变量的选择和功能的正则化,并获得参数估计,考虑模型的不确定性。提出了一种有效的后验抽样马尔可夫链蒙特卡罗算法。模拟研究调查先验对后验的影响,当考虑多变量纵向分析而不是单变量分析时可能会获得的收益,以及这些收益是否可以抵消缺失数据的负面影响。我们将这些方法应用于一个高度不平衡的纵向数据集,该数据集在20年的时间内观察到四个响应
2020-12-17 stat.ME
Integral, mean and covariance of the simplex-truncated multivariate normal distribution
组成数据是由分数或概率组成的数据,在许多领域都很常见,包括生态学,经济学,物理学和政治学。如果这些数据是正态分布的,那么它们的分布可以方便地表示为在单位单纯形下截断到非负空间的多元正态分布。在这里,这种分布被称为单纯形截断的多元正态分布。对于截尾分布的计算,快速获得其积分、均值和协方差的估计值通常是有用的;表征截尾分布的这些量通常具有与相应的非截尾分布不同的值。本文描述了三种不同的方法,可以估计任何单纯形截断的多元正态分布的积分,均值和协方差。这三种方法是(1)朴素拒绝抽样,(2)由Gessner等人描述的方法,该方法将子集模拟和Holmes-Diaconis-Ross算法与椭圆切片抽样的分析版本统一起来,以及(3)半分析方法,该方法根据超矩形截断的多元正态分布的积分来表示积分、均值和协方差,后者在现代数学和统计软件包中很容易计算。所有三种方法之间表现出很强的一致性,但计算效率最高的方法强烈依赖于实施细节和单纯形截断的多元正态分布的维度。对于低维分布的计算,半解析方法是快速的,因此应该考虑。随着维数的增加,Gessner等人的方法成为这里测试的方法中唯一实际有效的方法。
2022-07-15 stat.ME
Dynamic Covariance Models for Multivariate Financial Time Series
时变协方差的准确预测是多元金融数据建模中的一个重要问题。然而,一些最流行的模型存在以下问题:a)过拟合问题和多个局部最优,b)无法捕捉市场条件的变化,c)计算成本高。为了解决这些问题,我们引入了一种新的动态模型的时变协方差。通过遵循贝叶斯方法而不是计算点估计来避免过度拟合和局部最优。通过假设参数值中的扩散过程来捕获市场条件的变化,并且最终使用粒子滤波器执行计算上高效且可扩展的推断。金融数据的实验表明,所提出的方法相对于当前的标准模型具有良好的性能。
2013-06-02 stat.ME stat.ML
Multivariate analysis of covariance when standard assumptions are violated
在应用研究中,当检验多组多元均值之间的差异时,考虑一个或多个协变量通常是明智的。然而,“经典”参数多变量协方差分析(MANCOVA)检验(例如,Wilks' Lambda)基于相当严格的假设(误差的同方差性和正态性),在小样本量设置中可能难以证明。此外,现有的潜在补救办法(例如,异方差稳健方法)在协方差阵是奇异的情况下变得不合适。然而,在生命科学和其他领域经常遇到这种情况,例如,在标准化评估的背景下,分析简要业绩计量及其相应的分量表。在本手稿中,我们考虑一个一般的MANCOVA模型,允许潜在的异方差,甚至奇异的协方差阵以及非正态误差。我们结合异方差一致的协方差阵估计方法与我们提出的修改MANCOVA方差型统计量(MANCATS),并应用两种不同的自助方法。我们提供的证据的渐近有效性的相应的测试程序,以及从一个广泛的模拟研究的结果,这表明,特别是参数引导版本的MANCATS优于其竞争对手在大多数情况下,无论是在第一类错误率和权力。这些考虑进一步说明和证实了检查标准化成绩测试的真实数据。
2019-02-26 stat.ME
Inverse covariance operators of multivariate nonstationary time series
对于多变量平稳时间序列,许多重要的性质,如偏相关,图形模型和自回归表示被编码在其谱密度矩阵的逆中。这对于非平稳时间序列是不正确的,其中相关信息位于与多元时间序列相关联的逆无穷维协方差阵运算符中。这就需要研究多变量非平稳时间序列的协方差及其与其逆的关系。我们表明,如果行/列的无限维的协方差阵衰减在一定的速度,然后率(高达一个因素)转移到行/列的逆协方差阵。这是用来获得一个非平稳的自回归表示的时间序列和自回归无限表示和相应的有限自回归投影的参数之间的边界类型。上述结果为后续的局部平稳时间序列分析奠定了基础。特别是,我们表明,平滑性能的协方差阵转移到(i)逆协方差(ii)向量自回归表示的参数和(iii)的偏协方差。所有结果都是以这样一种方式建立的,所涉及的常数只依赖于协方差阵的特征值,并可以应用于高维设置与非发散特征值。
2022-10-08 math.ST stat.ME stat.TH
Estimation of Multivariate Location and Covariance using the S -Hellinger Distance
本文描述了Hellinger距离的一个推广,我们称之为S-Hellinger距离;这个一般族通过调节参数$α$将Hellinger距离与$L_2$ -散度平滑地连接起来,并且确实是Ghosh等人的S-Divergence族的一个子族。我们使用这种一般的分歧的上下文中估计的位置和协方差下(连续)多变量模型,并表明,建议的最小S-Hellinger距离估计是仿射等变的,渐近一致的,并在适当的条件下具有高的崩溃点。我们还说明了它的性能,通过广泛的模拟研究表明,所提出的估计比最小Hellinger距离估计的位置和相关参数在不同类型的污染下的污染比例高达20%的更强大的估计。
2014-12-05 stat.ME
Flexible Validity Conditions for the Multivariate Matérn Covariance in any Spatial Dimension and for any Number of Components
本文讨论的问题,找到参数约束,确保有效性的多变量Mat{é}rn协方差模型的空间相关性结构的coregionalized变量定义在欧几里德空间。到目前为止,已经给予了双变量设置的关注,而多变量设置已被探索到有限的程度。现有的条件往往意味着严格的限制上界的同位相关系数,这使得多变量Mat{é}rn模型呼吁的情况下,弱空间交叉依赖。我们提供了一个集合的充分有效性条件的多元Mat{é}rn协方差,允许更灵活的参数化比目前可用的,并证明了一个可以达到相当高的上限的配置相关系数相比,我们的竞争对手。最后,我们用一个三变量地球化学数据集的例子说明,并表明我们扩大的参数空间产生更好的拟合性能。
2022-01-03 math.ST stat.ME stat.TH
Estimation of temporal covariances in pathogen dynamics using Bayesian multivariate autoregressive models
众所周知,动物和植物病原体在其宿主内形成相互作用的生物体的复杂生态群落。虽然社区生态学的方法已被应用到确定病原体的相互作用在宿主内的规模,方法,使强大的推断病原体相互作用的流行病学影响是缺乏的。在这里,我们开发了一种新的统计框架,以确定统计协方差从感染时间序列的多种病原体同时。我们的框架扩展了贝叶斯多变量疾病映射模型,通过考虑感染风险的年内和年间依赖性并结合我们估计的病原体间协方差阵来分析多变量时间序列数据。重要的是,我们的方法解释了病原体感染频率时间模式的可能混淆驱动因素,从而能够对病原体-病原体相互作用进行强有力的推断。我们使用模拟数据说明了我们的统计框架的有效性,并将其应用于2005年至2013年期间在主要城市人群中共同传播的五种呼吸道病毒的诊断数据:腺病毒,人类冠状病毒,人类偏肺病毒,乙型流感病毒和呼吸道合胞病毒。我们发现了正负协方差,表明特定病毒对之间的流行病学相互作用。这一统计框架使社区生态学的观点适用于传染病流行病学的公共卫生规划和准备的重要实用程序。
2019-04-13 stat.ME
Minimum Covariance Determinant and Extensions
最小协方差行列式(MCD)方法是一种高度稳健的多元位置和分散度估计方法,具有快速算法。由于估计协方差阵是许多多元统计方法的基石,因此MCD是开发稳健多元技术时的重要构建块。它也是一种方便有效的离群值检测工具。MCD估计的审查,以及它的主要性质,如仿射等方差,击穿值,和影响函数。我们讨论了它的计算,并列出应用和方法的多元统计的MCD的应用和扩展。两个最近的扩展MCD的描述。第一个是一个快速的确定性算法,继承了MCD的鲁棒性,同时几乎仿射等变。第二个是针对高维数据,可能比情况下更多的维度,并结合正则化,以防止奇异矩阵。
2017-09-20 stat.ME
Generalizing Distance Covariance to Measure and Test Multivariate Mutual Dependence
我们提出了三种多个随机向量之间相互依赖的度量。所有测度为零当且仅当随机向量相互独立。第一个度量将距离协方差从成对依赖推广到相互依赖,而另外两个度量是距离协方差的平方和。所有的措施共享类似的性质和渐近分布的距离协方差,并捕捉非线性和非单调的相互依赖的随机向量。受完全和不完全V-统计量的启发,我们定义了经验测度和简化的经验测度,作为检验相互独立性时复杂性和功效之间的权衡。仿真结果和实际数据的例子证明了测试的实施。
2018-02-25 math.ST stat.AP stat.CO
Sign-Flipping Score Tests for Fixed Effects in Multivariate Clustered Data
Ca’ Foscari University of Venice(威尼斯大学);University of Padova(帕多瓦大学)
本文提出一种无需估计Fisher信息且不依赖随机效应分布正确性的检验方法,用于多元线性混合模型中固定效应的推断。
2026-10-15 stat.ME
Explainable Outlier Detection for Multivariate Functional Data
TU Wien(维也纳工业大学);Infineon Technologies Austria AG(英飞凌奥地利股份公司)
本文针对具有分离协方差结构的多元函数数据的鲁棒协方差估计和可解释性异常检测挑战,提出了一种结合随机过程与矩阵变量分布的方法,通过改进鲁棒性和可解释性来估计均值和协方差,并利用Shapley值进行异常检测分解。
2026-09-17 stat.CO stat.ME
An explicit mean-covariance parameterization for multivariate response linear regression
我们开发了一种新的方法来拟合多变量响应线性回归模型,该模型利用了回归系数矩阵和误差协方差阵之间的参数联系。具体来说,我们假设多元误差随机向量中的条目之间的相关性与其对应的回归系数矩阵列之间的角度的余弦成比例,因此随着两个回归系数矩阵列之间的角度减小,对应误差之间的相关性增大。我们强调两种模型下,这种参数化出现:潜变量降秩回归模型和变量误差回归模型。我们提出了一种新的非凸加权残差平方和准则,利用这种参数化,并承认一类新的惩罚估计。该优化算法采用加速近端梯度下降算法求解。我们的方法用于研究在NCI-60细胞系上测量的microRNA表达和癌症药物活性之间的关联。实现我们的方法MCMVR的R包可以在github.com/ajmolstad/MCMVR上获得。
2021-12-08 stat.ME
A Multivariate Variance Components Model for Analysis of Covariance in Designed Experiments
传统的协变量调整的设计实验中的治疗手段的方法是固有的条件下观察到的协变量值。为了建立协方差分析的一般方法,我们提出了一个多变量方差分量模型的响应和协变量的联合分布。它表明,如果设计是正交的(随机)区组因子,然后适当的调整,治疗手段可以使用单变量方差分量模型通过调节所观察到的协变量值。然而,它揭示了一些广泛使用的模型是不正确的指定,导致有偏估计和不正确的标准误。这一方法澄清了统计文献中一直造成混乱的一些问题。
2010-01-18 stat.ME
Cross-Covariance Functions for Multivariate Geostatistics
具有多个变量的连续索引数据集在地球物理、生态、环境和气候科学中无处不在,给科学家和统计学家带来了巨大的分析挑战。多年来,科学家们开发了旨在捕捉单个过程的空间行为的模型;只有在过去的几十年里,联合建模多个过程才变得司空见惯。关键的困难在于指定互协方差函数,即负责不同变量之间关系的函数。实际上,这些互协方差函数必须选择为与边际协方差函数一致,使得二阶结构总是产生非负定的协方差阵。我们回顾了建立互协方差模型的主要方法,包括协区域化的线性模型,卷积方法,多变量Matérn和非平稳和时空扩展等。我们还涵盖了专门的结构,包括那些设计用于不对称,紧凑的支持和球形域,与物理约束模型的审查。我们举例说明选择模型的双变量区域气候模型输出的温度和压力的例子,以及双变量最低和最高温度观测数据集;我们比较模型的似然值,以及通过交叉验证协同克里格研究。文章最后讨论了尚未解决的问题。
2015-07-29 stat.ME
Multivariate Generalized Gaussian Distribution: Convexity and Graphical Models
本文研究了多元广义高斯分布(MGGD)和椭圆对称分布(ES)下的协方差估计。与此问题相关的极大似然优化是非凸的,但它已被证明,其全局解往往可以通过简单的不动点迭代计算。我们的第一个贡献是一个新的分析这种可能性的基础上测地凸,需要较弱的假设。我们的第二个贡献是稀疏约束下的结构协方差估计的广义框架。我们表明,只要MGGD形状参数大于一半,稀疏模式是弦,优化可以制定为凸最小化。这些包括,例如,极大似然估计的带状逆协方差在多变量拉普拉斯分布,这是与时变自回归过程。
2013-09-01 stat.ME
Graphical Gaussian Process Models for Highly Multivariate Spatial Data
对于多变量空间高斯过程(GP)模型,互协方差函数的常规规范没有利用相关变量间图来确保变量之间的过程级条件独立性。这是不期望的,特别是对于高度多变量的设置,其中流行的交叉协方差函数(诸如多变量Matérn)遭受“维数灾难”,因为参数的数量和浮点运算在变量的数量中分别以二次和三次顺序按比例增加。我们提出了一类多变量的“图形高斯过程”,使用一种称为“拼接”的一般结构,从图形中提取交叉协方差函数,并确保变量之间的过程级条件独立性。对于Matérn函数族,拼接产生多变量GP,其单变量分量是Matérn GP,并且符合由图形模型指定的过程级条件独立性。对于高度多变量设置和可分解的图形模型,拼接提供了大量的计算增益和参数降维。我们展示了图形Matérn GP的实用性,以联合建模高度多元的空间数据,使用模拟的例子和应用程序的空气污染建模。
2021-11-18 stat.ME
Simulating space-time random fields with nonseparable Gneiting-type covariance functions
提出了两种算法来模拟时空高斯随机场,其协方差函数属于扩展的Gneiting类,其定义取决于与空间结构相关的完全单调函数和与时间结构相关的条件负定函数。在这两种情况下,模拟的随机场被构造为余弦波的加权和,具有高斯空间频率矢量和均匀相位。不同之处在于处理时间分量的方式。第一种算法依赖于频谱分解,以模拟时间频率的条件下的空间,而在第二种算法的时间频率被替换为一个内在的随机场,其变差函数是成比例的有条件的负定函数与时间结构。这两种算法都是可扩展的,因为它们的计算成本与空间-时间位置的数量成比例,空间-时间位置可以在空间和/或时间上不均匀地间隔开。通过合成的例子说明和验证。
2019-12-04 stat.CO stat.ME
Finite-sample bounds for the multivariate Behrens-Fisher distribution with proportional covariances
在统计学中,关于两个样本均值比较,Beynes-Fisher问题是一个著名的假设检验问题。在这篇文章中,我们证实了Eaton和Olshen(1972)中的一个猜想,该猜想在原假设下为多元Beynolds-Fisher检验统计量提供了随机界。我们还将他们关于随机序的结果推广到任意有限维情形。这项工作也可以被看作是Hsu(1938)的推广,该工作为单变量Behrs-Fisher问题提供了边界。在这篇文章中得到的结果可以用来推导出一个测试程序的多变量Beynolds-Fisher问题,强烈控制第一类错误。
2017-12-29 math.ST stat.ME stat.TH
MLE of Jointly Constrained Mean-Covariance of Multivariate Normal Distributions
估计无约束均值和协方差阵是统计学中的一个热门话题。然而,在诸如$Σμ= μ$的联合约束下的$N_p(μ,Σ)$的参数的估计没有受到太多的关注。它可以被看作是一个多变量对应的经典估计问题的$N(θ,θ^2)$分布。除了在参数(弯曲指数族)之间的这种非线性约束下的通常推断挑战之外,在估计协方差阵时,必须处理对称性和正定性的基本要求。我们推导了$(μ,Σ)$的约束极大似然估计的非线性似然方程,并使用迭代方法求解。通常,使用迭代方法计算的协方差阵的MLE不满足约束。我们提出了一种新的算法来修改这样的(不可行的)估计或任何其他(合理的)估计。关键步骤是使用回归的思想沿着协方差阵的特征向量重新对齐均值向量。在将拉格朗日函数用于约束MLE(Aitchison et al. 1958)时,拉格朗日乘子与感兴趣的参数纠缠在一起,并提出了另一个计算挑战。我们通过迭代或显式计算拉格朗日乘子来处理这个问题。利用随机矩阵理论的最新结果,在数据依赖的凸集内研究了约束极大似然估计的存在性和位置性质。仿真研究说明了我们的方法,并表明,修改后的估计比初始估计的迭代方法。
2020-12-22 stat.ME
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种模拟方法,通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer(1992)开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法,提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME