Multivariate Priors and the Linearity of Optimal Bayesian Estimators under Gaussian Noise
该研究探讨高斯噪声下随机向量的贝叶斯估计问题,证明1≤p≤2时最优贝叶斯估计器线性正定等价于先验为非退化多元高斯,且p>2时存在无穷多先验可产生此类线性估计器。
2024-01-30 cs.IT math.IT math.ST
Graphical Gaussian Process Models for Highly Multivariate Spatial Data
对于多变量空间高斯过程(GP)模型,互协方差函数的常规规范没有利用相关变量间图来确保变量之间的过程级条件独立性。这是不期望的,特别是对于高度多变量的设置,其中流行的交叉协方差函数(诸如多变量Matérn)遭受“维数灾难”,因为参数的数量和浮点运算在变量的数量中分别以二次和三次顺序按比例增加。我们提出了一类多变量的“图形高斯过程”,使用一种称为“拼接”的一般结构,从图形中提取交叉协方差函数,并确保变量之间的过程级条件独立性。对于Matérn函数族,拼接产生多变量GP,其单变量分量是Matérn GP,并且符合由图形模型指定的过程级条件独立性。对于高度多变量设置和可分解的图形模型,拼接提供了大量的计算增益和参数降维。我们展示了图形Matérn GP的实用性,以联合建模高度多元的空间数据,使用模拟的例子和应用程序的空气污染建模。
2021-11-18 stat.ME
A Bayesian Semiparametric Gaussian Copula Approach to a Multivariate Normality Test
在本文中,贝叶斯半参数Copula方法被用来模拟潜在的多元分布$F_{true}$。首先,在$F_{true}$的未知边缘分布上构造Dirichlet过程。然后利用高斯copula模型来捕捉$F_{true}$的依赖结构。最后,结合相对置信比和能量距离建立了贝叶斯多元正态性检验。几个有趣的理论结果的方法。最后,通过几个模拟的例子和一个真实的数据集,所提出的方法显示出良好的性能。
2019-07-04 stat.AP stat.CO stat.ME
Gaussian mixture model decomposition of multivariate signals
KTH Royal Institute of Technology(KTH皇家理工学院);Schlumberger Cambridge Research(斯伦贝谢剑桥研究中心)
我们提出了一个贪婪的变分方法分解的非负的多元信号的加权和的高斯,借用统计学的术语,我们称为高斯混合模型。值得注意的是,我们的方法具有以下特点:(1)它接受多元信号,即采样的多元函数,直方图,时间序列,图像等作为输入。(2)该方法可以处理一般(即椭球)高斯。(3)不需要预先假设混合物组分的数量。据我们所知,没有以前的方法高斯混合模型分解同时享有所有这些功能。我们还证明了一个上界,这不能提高一个全球性的常数,从高斯混合模型的任何模式到相应的手段的集合的距离。对于具有共同方差$σ^2$的球面高斯的混合,界限采用简单形式$\sqrt{n}σ$。我们评估我们的方法上的一维和二维信号。最后,我们讨论了聚类和信号分解之间的关系,并将我们的方法与基线期望最大化算法进行了比较。
2020-05-20 cs.LG stat.ML
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注,特别是在处理具有偏态和重尾等特征的数据时。在这里,这样的混合分布,基于多元正态逆高斯(MNIG)分布。对于混合模型的参数估计,采用基于Gibbs抽样的贝叶斯方法,提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析,我们表明参数恢复,我们的方法提供了竞争力的聚类结果相比,其他聚类方法。
2020-05-06 stat.CO
Multiscale Information Decomposition: Exact Computation for Multivariate Gaussian Processes
利用状态空间模型理论,我们推导出了在多个时间尺度上观测到的耦合高斯过程的信息传递、冗余传递和协同传递的精确表达式。所有的条款,构成框架称为相互作用信息分解和部分信息分解,因此,可以分析获得不同的时间尺度从VAR模型的参数,适合的过程。我们报告的应用所提出的方法首先基准高斯系统,表明这类系统可能会产生模式的信息分解,其特征在于主要是冗余或协同信息传递持续跨多个时间尺度,甚至由交替流行的冗余和协同源相互作用取决于时间尺度。然后,我们将我们的方法应用于神经科学中的一个重要课题,即,人类癫痫网络中因果关系的检测,我们显示了部分信息分解的相关性,以检测从癫痫发作区传播的多尺度信息传递。
2017-08-18 math.ST stat.AP stat.ME
Bayesian inference for general Gaussian graphical models with application to multivariate lattice data
我们介绍了有效的马尔可夫链蒙特卡罗方法的推断和模型确定的多元和矩阵变量高斯图形模型。我们的框架是基于G-Wishart先验的精度矩阵与图,可以是可分解或不可分解的。我们扩展我们的抽样算法,一类新的条件自回归模型的稀疏估计在多元格数据,特别强调空间数据的分析。这些模型在估计跨结果的相关性结构和空间相关性结构方面具有很大的灵活性,从而允许自适应平滑和空间自相关参数。我们的方法使用模拟和现实世界的例子,包括癌症死亡率监测的应用程序进行说明。
2010-05-21 stat.ME
Nonstationary Multivariate Gaussian Processes for Electronic Health Records
我们提出了多变量非平稳高斯过程联合建模多个临床变量,其中的关键参数,长度尺度,标准差和观察到的输出之间的相关性,都是时间依赖的。我们通过哈密顿蒙特卡罗(HMC)进行后验推理。我们还提供了获得计算效率的基于梯度的最大后验概率(MAP)估计的方法。我们验证了我们的模型的合成数据以及电子健康记录(EHR)数据从凯撒永久(KP)。我们表明,所提出的模型提供了更好的预测性能超过一个固定的模型,以及发现有趣的潜在的相关性过程中的生命体征,这是潜在的预测患者的风险。
2019-10-13 stat.AP stat.ME stat.ML
Multivariate Gaussian Process Incorporated Predictive Model for Stream Turbine Power Plant
蒸汽动力涡轮发电厂约占美国总发电量的90%。汽轮机主要由汽轮机、锅炉、减温器、再热器等多种类型组成,通过汽轮机传导的高压高温蒸汽来发电。考虑到模型中的所有这些元素,电厂的总发电量是高度非线性的。我们进行预测建模的方法来检测发电从这些涡轮机的高斯过程(GP)模型。由于有多个相互连接的涡轮机,我们考虑了多变量高斯过程(MGP)建模来预测这些涡轮机的发电量,该模型可以捕获涡轮机之间的互相关。此外,还对每个涡轮机进行了输入参数的敏感性分析,以找出最重要的参数。
2021-04-10 stat.AP
Multivariate Gaussian and Student$-t$ Process Regression for Multi-output Prediction
向量值函数的高斯过程模型已被证明是有用的多输出预测。该模型的现有方法是将矩阵变量高斯分布重新表示为多元正态分布。虽然它在许多情况下是有效的,但重新公式化并不总是可行的,并且难以应用于其他分布,因为不是所有的矩阵变量分布都可以转换为相应的多变量分布,例如矩阵变量Student $-t$分布的情况。在本文中,我们提出了一个统一的框架,它不仅用于引入一个新的多元学生$-t$过程回归模型(MV-TPR)的多输出预测,但也重新制定的多元高斯过程回归(MV-GPR),克服了现有方法的一些局限性。MV-GPR和MV-TPR在这个统一的框架下都具有边缘似然和预测分布的封闭形式表达式,因此可以采用与常规GPR中使用的相同的优化方法。通过几个模拟和真实数据的例子说明了所提出的方法的实用性。特别是,我们通过经验验证MV-TPR对于所考虑的数据集具有优越性,包括空气质量预测和自行车租金预测。最后,所提出的方法被证明是在股票市场上产生有利可图的投资策略。
2019-01-06 stat.ML
Latent Gaussian Processes for Distribution Estimation of Multivariate Categorical Data
多变量分类数据出现在机器学习的许多应用中。这些分类变量向量的主要困难之一是稀疏性。可能的观测值数量随着向量长度呈指数增长,但相比之下,数据集的多样性可能较差。最近的模型在使用这些数据的监督任务中获得了显着的改进。这些模型将观测嵌入连续空间中,以捕捉它们之间的相似性。基于这些想法,我们提出了一个贝叶斯模型的无监督任务的分布估计的多元分类数据。我们对从连续潜在空间的非线性变换生成的分类变量向量进行建模。非线性捕获分布中的多模态。连续表示解决稀疏性。我们的模型将许多现有的模型联系在一起,将线性分类潜在高斯模型,高斯过程潜在变量模型和高斯过程分类联系在一起。我们推导出我们的模型的基础上,最近的事态发展,抽样为基础的变分推断。我们的经验表明,该模型优于其线性和离散的稀疏数据的插补任务。
2015-03-07 stat.ML
Metropolis-Hastings Sampling Using Multivariate Gaussian Tangents
我们提出了MH-MGT,从二次可微,对数凹概率密度函数抽样的多变量技术。MH-MGT是Metropolis-Hastings抽样,使用从对数密度函数的泰勒级数展开构造的非对称多元高斯建议函数。高斯建议函数的平均值表示完整的牛顿步骤,因此MH-MGT是牛顿优化的随机对应物。收敛性分析表明,MH-MGT是非常适合从计算昂贵的对数密度与许多独立的观察贡献的采样。我们采用的技术,吉布斯抽样分析的层次贝叶斯营销有效性模型建立了一个大型的美国食品服务分销商。与单变量切片采样相比,MH-MGT显示抽样效率提高了6倍,以“每个独立样本的功能评价当量”衡量。为了便于广泛适用的MH-MGT的统计模型,我们证明了二次可微分布的对数是不变的“线性投影”的转换,包括但不限于,广义线性模型。
2013-08-03 stat.ME
Bayesian nonparametric generative modeling of large multivariate non-Gaussian spatial fields
本文扩展了基于三角传输映射的贝叶斯方法,将多元非高斯空间场推断转化为独立高斯过程回归任务,实现了高可扩展的非参数贝叶斯建模,适用于少量样本场景。
2023-11-10 stat.ME
Multivariate Gaussian Process Regression for Multiscale Data Assimilation and Uncertainty Reduction
我们提出了一个多元高斯过程回归方法参数场重建的基础上,现场的测量收集在两个不同的尺度,粗和细尺度。所提出的方法将定义在细尺度和粗尺度上的参数场视为具有参数化多尺度协方差模型的双变量高斯过程。我们采用一个完整的双变量Matérn内核作为多尺度协方差模型,形状和光滑度超参数,占精细和粗糙字段之间的粗化关系。与假设尺度之间存在已知粗化关系的类似多尺度克里金方法相比,多尺度协方差模型的超参数通过伪似然最大化直接从数据中估计。我们说明了所提出的方法与预测模拟应用饱和多孔介质中的流动。多尺度高斯过程回归被用来估计二维对数饱和导水率分布。粗饱和电导率的随机模型,量化和减少压力预测的不确定性。
2018-04-17 stat.ME
Gaussian Process Vine Copulas for Multivariate Dependence
Copula允许学习边缘分布独立于多元依赖结构(copula),多元依赖结构将它们连接到一个密度函数中。藤因子分解通过构造条件二元copula的层次结构来简化高维copula的学习。然而,为了简化推理,通常假设这些条件二元Copula中的每一个都独立于其条件变量。在本文中,我们放松了这一假设,发现潜在的功能,指定的形状的条件Copula给定其条件变量我们学习这些功能的贝叶斯方法的基础上稀疏高斯过程的期望传播可扩展的,近似的推理。在真实世界数据集上的实验表明,当对所有条件依赖进行建模时,我们可以更好地估计数据的底层copula。
2013-02-16 stat.ME stat.ML
A Multivariate Non-Gaussian Bayesian Filter Using Power Moments
本研究将单变量幂矩非高斯贝叶斯滤波器拓展至多变量系统,提出满足正性等性质的密度替代参数化方法,分析矩误差,经仿真验证,是首个仅要求状态勒贝格可积的连续参数化多变量贝叶斯滤波器。
2023-11-10 cs.SY eess.SY math.OC
Data Analysis Recipes: Products of multivariate Gaussians in Bayesian inferences
两个高斯分布(或正态分布)的乘积是另一个高斯分布。这是一个有价值和有用的事实!在这里,我们使用它来推导多变量高斯的公共乘积的重构:高斯似然乘以高斯先验的乘积,其中一些或所有这些参数仅以平均值和线性方式进入似然。也就是说,线性高斯贝叶斯模型。这种可能性乘以先验概率密度函数的乘积可以重构为边缘化可能性(或贝叶斯证据)乘以后验概率密度函数的乘积,其中(在这种情况下)这两者也是高斯的。重构后的高斯的均值和方差张量可以直接作为封闭形式的表达式获得;在这里,我们提供这些表达式,并进行讨论。对于含有高斯先验的线性参数的推理,闭形式的表达式可以用来加速和提高精度。我们将这些方法与物理学和天文学中经常出现的推论联系起来。如果你想要的只是答案,这个问题在第3节的开头就已经提出并得到了回答。我们在第4节中以练习的形式展示了两个玩具例子。本说明中的解答、讨论和练习针对的是已经熟悉贝叶斯推断和概率的基本思想的人。
2020-05-28 astro-ph.IM physics.data-an stat.CO
The Non-Gaussian Weak-Lensing Likelihood: A Multivariate Copula Construction and Impact on Cosmological Constraints
Institute for Particle Physics and Astrophysics, ETH Zurich(苏黎世联邦理工学院粒子物理与天体物理研究所)
提出用Copula方法构建两点相关函数的非高斯似然,在大尺度上比高斯似然更准确,但对Stage-IV巡天影响可忽略。
2026-06-17 astro-ph.CO astro-ph.IM physics.data-an
Semiparametric fractional imputation using Gaussian mixture models for handling multivariate missing data
在实践中经常遇到项目无应答。忽略缺失数据会降低效率并导致误导性推断。分数插补是一种处理缺失数据的频率主义插补方法。然而,\cite{kim2011parametric}的参数部分插补可能会在模型误设下出现偏倚。在本文中,我们提出了一种新的半参数分数填补方法使用高斯混合模型。所提出的方法是计算效率,并导致稳健估计。所提出的方法进一步扩展到将分类辅助信息。并证明了半参数分式插补估计的渐近模型相合性和$\sqrt{n}$ -相合性。一些仿真研究,以检查所提出的方法的有限样本性能。
2018-09-16 stat.ME
Multilevel latent Gaussian process model for mixed discrete and continuous multivariate response data
我们提出了一个混合有序和连续多元数据的贝叶斯模型来评估一个潜在的空间高斯过程。我们提出的模型可以用于在许多情况下,在努力量化一个不可观察的连续测量观察到的混合连续和离散的多变量响应。在我们的例子中,潜在的,或不可观察的测量是湿地条件。虽然在每个位置的模型产生的潜在的湿地条件变量的预测值不持有任何内在的价值,湿地条件值的相对大小的兴趣。此外,通过在模型中包含点参考协变量,我们能够在新位置对潜在随机变量和多变量响应进行预测。最后,该模型生成与未观察到的潜在随机场相关的多变量响应的秩。这是一个重要的结果,因为它使我们能够确定哪些响应变量与潜变量最密切相关。我们的方法提供了一种替代传统的指数的基础上最好的专业判断,经常使用的生态学。我们应用我们的模型来评估在科罗拉多州的北普拉特河和格兰德河流域的湿地条件。该模型有利于在多个地点的湿地条件的比较,并在现场测量的重要性排名。
2013-03-23 stat.ME
Bayesian estimation of a multivariate TAR model when the noise process distribution belongs to the class of Gaussian variance mixtures
本文提出一种基于贝叶斯方法的多变量TAR模型估计与预测框架,采用高斯方差混合类分布描述噪声过程以增强对异常值的鲁棒性,并通过MCMC算法、DIC/WAIC准则及R语言包验证了方法有效性。
2025-03-06 stat.ME
Variational Bayesian Inference for Hidden Markov Models With Multivariate Gaussian Output Distributions
University of Kassel(卡塞尔大学)
隐马尔可夫模型(HMM)已被用于许多时间序列分析或模式识别任务多年。HMM通常通过Baum-Welch算法进行训练,该算法可以被视为期望最大化(EM)算法的特殊变体。二阶训练技术,如概率模型的变分贝叶斯推理(VI),将概率模型的参数视为随机变量,并定义这些分布参数的分布,因此该技术的名称。VI也可以被视为EM算法的特殊情况。在本文中,我们将两者结合起来,并使用VI训练具有多元高斯输出分布的HMM。本文定义了HMM的新训练技术。基于一些案例研究的评价和与相关方法的比较是我们正在进行的工作的一部分。
2016-05-27 cs.LG stat.ML
Minimum message length estimation of mixtures of multivariate Gaussian and von Mises-Fisher distributions
Monash University(莫纳什大学)
混合模型涉及使用概率分布的组合来解释一些观察到的证据。问题的关键是推断出最佳的混合物组分数及其相应的参数。本文讨论了混合模型的无监督学习,使用贝叶斯最小消息长度(MML)准则。为了证明使用所提出的方法搜索和推断混合参数的有效性,我们选择了两个关键的概率分布,每个概率分布处理根本不同类型的数据:多变量高斯分布,以解决分布在欧几里得空间中的数据的混合建模,以及多变量冯米塞斯-费舍尔(vMF)分布,以解决分布在单位超球面上的方向数据的混合建模。本文的主要贡献,除了一般的搜索和推理方法,包括推导MML表达式编码的数据使用多元高斯分布和冯米塞斯-费舍尔分布,和分析推导的MML估计的两个分布的参数。我们的方法进行了测试模拟和真实世界的数据集。例如,我们推断vMF混合物,简明地解释实验确定的三维蛋白质构象,提供了一个有效的空模型描述的蛋白质结构,是中央的许多推理问题,在结构生物信息学。实验结果表明,我们提出的搜索和推理方法的性能以及编码方案提高了最先进的混合建模技术。
2015-02-27 cs.LG stat.ML
Indiscriminate Disruption of Conditional Inference on Multivariate Gaussians
Air Force Institute of Technology(空军理工学院);Duke University(杜克大学)
本文研究攻击者通过破坏证据变量来扰乱多元高斯模型条件推断的问题,将攻击建模为二次规划或随机二次规划,并在房地产评估、利率估计和信号处理等场景中验证了白盒与灰盒攻击的有效性及行为差异。
2024-11-21 cs.CR cs.LG stat.AP
Accelerated Spatio-Temporal Bayesian Modeling for Multivariate Gaussian Processes
本文提出DALIA框架,通过稀疏逆协方差表示、GPU加速分块稠密计算和三层分布式并行方案,实现多元高斯过程时空贝叶斯推断的大规模加速,并在Alps超算上验证了显著扩展性能。
2025-08-27 cs.DC stat.CO
Predicting paleoclimate from compositional data using multivariate Gaussian process inverse prediction
多元成分计数数据出现在许多应用中,包括生态学、微生物学、遗传学和古气候。多元成分计数数据分析中常见的问题是协变量的哪些值会产生观察到的成分。学习协变量和成分计数之间的关系允许在给定成分计数观测值的情况下对未观测到的协变量进行逆预测。高斯过程提供了一个灵活的框架,用于对协变量的功能响应进行建模,而无需假设函数形式。许多科学学科使用高斯过程近似来改进预测并对潜在过程和参数进行推断。当期望在给定响应变量的实现的情况下对未观察到的协变量进行预测时,这称为逆预测。由于逆预测在数学和计算上具有挑战性,因此预测未观察到的协变量通常需要与假设的生成模型不同的拟合模型。我们提出了一种新的计算框架,允许使用生成模型的高斯过程近似进行有效的逆预测。我们的框架使科学学习的潜在过程如何与协变量的协变,同时提供缺失的协变量的预测。所提出的框架是能够有效地探索高维,多模态的潜在空间中出现的反问题。为了展示灵活性,我们应用我们的方法在一个广义线性模型框架来预测潜在的气候状态的多变量计数数据。交叉验证的基础上,我们的模型具有预测能力与目前的方法竞争,同时提供正式的,统计推断的生物系统的基础社区动态以前没有。
2019-03-12 stat.AP stat.ME
Semiparametric imputation using latent sparse conditional Gaussian mixtures for multivariate mixed outcomes
本文提出了一种灵活的贝叶斯方法,多重插补使用条件高斯混合。我们引入了新的收缩先验的协变量依赖的混合比例的混合模型,自动选择合适的数量的组件中使用的插补步骤。我们通过马尔可夫链蒙特卡罗方法开发了一种用于后验计算和多重插补的高效采样算法。所提出的方法可以很容易地扩展到的情况下,数据不仅包含连续变量,但也离散变量,如二进制和计数值。我们还提出了近似贝叶斯推断的损失函数定义的参数的基础上的后验预测分布的缺失观测,通过扩展基于Bootstrap的贝叶斯推断的完整数据。所提出的方法是通过模拟和真实数据的数值研究证明。
2022-08-16 stat.ME
Exact Bayesian inference in spatio-temporal Cox processes driven by multivariate Gaussian processes
在本文中,我们提出了一种新的推理方法来执行贝叶斯推断时空考克斯过程的强度函数依赖于一个多元高斯过程。动态高斯过程的引入,允许在离散时间的强度函数的演变。该方法的新颖之处在于,没有离散化错误涉及的事实,尽管非易处理的似然函数和无穷维的问题。该方法是基于一个马尔可夫链蒙特卡罗算法,从联合后验分布的参数和潜在变量的模型进行采样。模型的定义一般和灵活的方式,但他们是服从直接采样相关的分布,由于其组件的仔细表征。该模型还允许纳入回归协变量和/或时间分量,以解释强度函数的变异性。这些组件可能会受到与空间和/或时间的相关相互作用。真实和模拟的例子说明了方法,然后是结束语。
2019-03-10 stat.ME
Regression Analysis for Multivariate Dependent Count Data Using Convolved Gaussian Processes
非独立数据的Poisson回归分析的研究在近十年来得到了迅速的发展。在多变量情况下,如何构造互相关结构,同时保证协方差阵是正定的是一个难题。为了解决这个问题,我们提出使用卷积高斯过程(CGP)在本文中。该方法提供了一个半参数模型,并提供了一个自然的框架,共同的均值结构和协方差结构同时建模。CGP使模型能够为响应变量的每个分量定义不同的协方差结构。这种灵活性确保了模型能够处理来自不同资源或具有不同数据结构的数据,从而提供准确的估计和预测。此外,该模型能够容纳大尺寸的协变量。模型的定义,推理和实施,以及它的渐近性质,进行了讨论。全面的数值模拟研究和实际数据的例子。
2017-10-04 stat.ME
Optimal Non-Asymptotic Edgeworth Expansions for Multivariate Neural Network Outputs
Department of Mathematics, University of Luxembourg(卢森堡大学数学系)
针对有限宽度全连接神经网络输出,利用任意阶 Edgeworth 展开逼近其与高斯极限的偏差,并给出总变差距离的上下界。
2026-05-22 cs.LG math.PR stat.ML
Spatially Aggregated Gaussian Processes with Multivariate Areal Outputs
NTT Service Evolution Labs.(NTT服务演进实验室);Kyoto University(京都大学);NTT Communication Science Labs.(NTT通信科学实验室)
我们提出了一个概率模型推断的多元函数,从多个区域数据集与各种粒度。这里,面积数据不是在位置点而是在区域上观察的。现有的基于回归的模型只能利用相同域上的足够细粒度的辅助数据集(例如,一个城市)。与建议的模型,功能为各自的面积数据集被假定为一个多元相关的高斯过程(GP),被建模为一个独立的潜在GP的线性混合。在多个区域数据集之间共享潜在的GP使我们能够有效地估计每个区域数据集的空间相关性;此外,它可以很容易地扩展到跨多个领域的转移学习。为了处理多变量的面积数据,我们设计了一个观察模型与空间聚合过程中的每个面积数据集,这是一个积分的混合GP在相应的区域。通过推导后验GP,我们可以同时考虑区域数据集之间的空间相关性和依赖性来预测任意位置点的数据值。我们在真实世界数据集上的实验表明,我们的模型可以1)准确地细化粗粒度的区域数据,2)通过使用来自多个领域的区域数据集提供性能改进。
2020-01-07 cs.LG stat.ML
Joint Temperature-Precipitation Patterns in the U.S. South Central Region: Multivariate Functional Inference and Gaussian Mixture Modeling
Texas Tech University(德克萨斯理工大学);University of Louisiana at Lafayette(路易斯安那大学拉斐特分校)
本研究以美国中南部为对象,采用FMANOVA与高斯混合模型两种方法,揭示该区域冬夏两季气温-降水联合模式的显著差异,明确了冬夏气候 regime 的空间一致性及降水作用的差异。
2026-08-17 stat.AP
Bayesian Nonparametric Multivariate Spatial Mixture Mixed Effects Models with Application to American Community Survey Special Tabulations
针对美国社区调查数据在地理异质性或数据稀疏情形下高斯空间混合效应模型表现不佳的问题,本文提出一种贝叶斯非参数多元空间混合混合效应模型,以数据驱动方式自动确定聚类数,并通过模拟和实际应用验证其有效性。
2020-09-25 stat.AP
Modelling Data Dispersion Degree in Automatic Robust Estimation for Multivariate Gaussian Mixture Models with an Application to Noisy Speech Processing
Concordia University(康考迪亚大学)
具有前缀截断部分的修剪方案已知为通过减轻离群值的影响来提高统计模型(诸如多变量高斯混合模型(MG-Mixture Model,MG-Mixture))在小规模测试中的鲁棒性的方法。然而,当该方法应用于真实世界的数据时,例如噪声语音处理,很难知道去除离群值的最佳截止部分,并且有时也会去除有用的数据样本。本文提出了一种基于测量训练数据离散度(DD)的新方法,以避免这一问题,从而实现对MGbits的自动鲁棒估计。采用两种不同的测度对DD模型进行了研究。对于每一个,我们从理论上证明,DD的数据样本的背景下,MGC 10近似服从一个特定的(卡方或卡方)分布。所提出的方法进行评估,在现实世界中的应用程序与一个中等规模的说话人识别任务。实验表明,该方法可以显着提高说话人识别传统GMM训练方法的鲁棒性。
2014-05-19 cs.CL cs.LG stat.ML
DP-GP-LVM: A Bayesian Non-Parametric Model for Learning Multivariate Dependency Structures
University of Bath(巴斯大学);University of Bristol(布里斯托尔大学)
我们提出了一个非参数贝叶斯潜变量模型,能够在多变量环境中学习跨维度的依赖结构。我们的方法是基于灵活的高斯过程先验的生成映射和可互换的狄利克雷过程先验学习的结构。引入狄利克雷过程作为一个特定的结构先验,使我们的模型,以规避与以前的高斯过程潜变量模型的问题。推导出一个有效的变分边界上的边际对数似然模型进行推理。
2018-07-12 cs.LG stat.ML
Scalable computation of predictive probabilities in probit models with Gaussian process priors
二进制数据的预测模型是各个领域的基础,并且现代应用的日益复杂性激发了几种灵活的规范来建模所观察到的预测因子和二进制响应之间的关系。一个广泛实施的解决方案是通过预测指标索引的高斯过程的概率比特映射来表达概率参数。然而,与连续设置不同,在具有高斯过程先验的二元模型中,缺乏预测分布的封闭形式结果。马尔可夫链蒙特卡罗方法和近似策略为这个问题提供了常见的解决方案,但最先进的算法要么计算上难以处理,要么在中高维中不准确。在这篇文章中,我们的目标是通过推导概率单位高斯过程中的预测概率的封闭形式表达式来弥补这一差距,该过程依赖于多元高斯的累积分布函数或多元截断法线的泛函。为了评估这些数量,我们开发了新的可扩展的解决方案的基础上瓷砖低秩蒙特卡罗方法计算多元高斯概率,和平均场变分近似的多元截断法线。封闭形式的表达式的边缘似然和后验分布的高斯过程进行了讨论。如模拟和真实世界的实证研究所示,所提出的方法可扩展到最先进的解决方案不切实际的维度。
2022-01-27 stat.CO
A factor mixture analysis model for multivariate binary data
本文提出了一个潜在变量模型的二进制数据来自一个不可观测的异质人口。考虑到异质性,取代传统的假设高斯分布的因素,多元高斯的有限混合。该模型的目的是双重的:它允许实现降维时的数据是二分法,同时,它执行基于模型的聚类在潜在空间。通过期望最大化算法的广义版本,通过极大似然方法获得模型估计。为了评估该模型的性能的仿真研究和两个实际应用程序进行了说明。
2010-10-12 stat.ME
Infinite mixtures of multivariate normal-inverse Gaussian distributions for clustering of skewed data
多变量正态逆高斯(MNIG)分布的混合可以用于对表现出偏态和重尾等特征的数据进行聚类。然而,对于聚类分析,使用传统的有限混合模型框架,或者组分的数量需要是已知的$a$ - $priori$,或者需要在导出可能数量的组分的范围的结果之后使用某种模型选择标准来估计$a$ - $posteriori$。然而,不同的模型选择标准有时会导致不同数量的组件产生不确定性。在这里,一个无限混合模型框架,也被称为狄利克雷过程混合模型,提出了混合MNIG分布。该狄利克雷过程混合物模型方法允许组分数量从1到$\infty$(实际上从1到$N$)自由增长或衰减,并且组分数量与贝叶斯框架中的参数估计值一起推断,从而减轻了对模型选择标准的需求。我们提供了真实的数据应用程序与基准数据集,以及一个小的模拟实验,与其他现有的模型进行比较。所提出的方法提供了竞争力的聚类结果,其他聚类方法的模拟和真实的数据和参数恢复说明使用模拟研究。
2020-05-11 stat.ME
Imputation of missing data using multivariate Gaussian Linear Cluster-Weighted Modeling
本文提出一种基于多元高斯聚类加权建模的完全贝叶斯填补方法,利用完全观测的辅助变量联合建模响应变量,以提升缺失数据填补能力,并通过模拟和真实数据验证其优于现有方法。
2023-08-13 stat.ME
Standardization of multivariate Gaussian mixture models and background adjustment of PET images in brain oncology
在脑肿瘤学中,根据治疗前和治疗后正电子发射断层扫描(PET)之间的差异来评估疾病的进展或缓解是常规的。背景校正是必要的,以减少与疾病无关的组织依赖性变化的混杂。当将两个扫描的体素强度建模为双变量高斯混合时,背景调整转化为标准化每个体素处的混合,而肿瘤病变本身呈现为待检测的离群值。在本文中,我们解决了如何将混合物标准化为标准多元正态分布的问题,以便离群值(即,肿瘤病变)可以使用统计检验来检测。我们从理论上和数值上表明,尾部分布的标准化分数是有利的接近标准正态分布在广泛的情况下,而保守的尾巴,验证体素假设检验的基础上标准化分数。为了解决空间异构图像数据的标准化,我们提出了一个空间和强大的多元期望最大化(EM)算法,其中先验类成员资格概率提供的空间概率模板图的变换和类的均值和协方差的估计是强大的离群值。在单变量和双变量情况下的模拟表明,软分配的标准化分数具有非常接近或比标准正态更保守的尾部概率。所提出的方法被应用到一个真正的数据集从PET幻影实验,但他们是通用的,可以在其他情况下使用。
2018-02-13 stat.AP stat.ME
A simple proof of the Gaussian correlation conjecture extended to multivariate gamma distributions
对多元Γ分布(Krishnamoorthy和Parthasarathy意义下)证明了高斯相关猜想(GCC)的一个推广.在单自由度的特殊情况下,得到了高斯概率测度的经典GCC。
2014-08-13 math.PR math.ST stat.TH
Empirical Process of Multivariate Gaussian under General Dependence
本文探讨了多元高斯分量的某些经验过程。给出了多元高斯分布在一般相依下的有限样本界。给出了随机变量序列$\displaystyle\left\{\sup_t\vert\widehat{F}_n(t)-\mathbf{E}\widehat{F}_n(t)\vert\right\}_{n\in \mathbb{N}}$依概率收敛的充要条件,其中$\widehat{F}_n(t)$为经验分布.同时,我们也得到了几乎处处收敛的一个类似的充分条件。
2020-07-02 math.PR math.ST stat.TH
Product Inequalities for Multivariate Gaussian, Gamma, and Positively Upper Orthant Dependent Distributions
高斯积不等式是关于高斯随机向量矩的一个重要猜想。虽然所有的尝试证明高斯乘积不等式在充分的一般性已经不成功的日期,许多部分的结果已经在最近几十年来,我们在这里提供进一步的结果的问题。最重要的是,我们建立了多元Γ分布在非负相关情况下的高斯乘积不等式的一个强形式,从而推广了Genest和Ouimet [5]最近得到的一个结果。进一步,我们证明了高斯乘积不等式对所有具有正分量的随机向量都具有非负指数,只要其基础向量是正的上正交相关的。最后,我们证明了具有负指数的高斯乘积不等式直接从高斯相关不等式导出。
2022-04-25 math.PR math.ST stat.TH
A Proof of the Explicit Formula for Product Moments of Multivariate Gaussian Random Variables
本文给出了多元高斯随机变量乘积矩$E \left \{ X_1^{a_1} X_2^{a_2} \cdots X_n^{a_n}\right \}$的显式公式的一个新结果的详细证明。
2017-04-29 math.PR math.ST stat.CO
Multiplying a Gaussian Matrix by a Gaussian Vector
本文给出了多元广义拉普拉斯分布的一个新的简单的特征。特别地,该结果意味着具有独立且同分布列的高斯矩阵与独立各向同性高斯向量的乘积遵循对称多元广义拉普拉斯分布。
2017-04-05 math.PR math.ST stat.TH
Simulation of Multivariate Non-Gaussian Autoregressive Time Series with Given Autocovariance and Marginals
本文提出了一种半解析方法,用于生成给定线性相关结构和边缘分布的多元过程的实现。这是单变量过程的类似方法的扩展,基于从非高斯到高斯边缘的分段线性边缘变换,将非高斯过程的自相关变换为高斯过程的自相关。扩展到多变量过程涉及从边际变换中推导自相关矩阵,这决定了生成向量自回归过程。在不同的自协方差和边际情况下设计的系统上证明了该方法的有效性。
2014-03-13 math.PR math.ST stat.CO
An \ell_1-oracle inequality for the Lasso in finite mixture of multivariate Gaussian regression models
考虑高维数据的多元有限混合高斯回归模型,其中协变量的数量和响应的大小可能远大于样本量。在Kullback-Leibler损失下,给出了Lasso估计满足的一个$\ell_1$ -oracle不等式.这个结果是Meynet在\cite{Meynet}中建立的$\ell_1$ -oracle不等式在多元情形下的推广.我们专注于Lasso的$\ell_1$ -正则化属性,而不是变量选择过程,因为它是在\cite{Stadler}的Städler中完成的。
2014-10-17 math.ST stat.TH
Multivariate Gaussian Random Fields over Generalized Product Spaces involving the Hypertorus
本文研究了定义在广义积空间上的多元高斯随机场,它包含超环面。高斯性的假设意味着有限维分布完全由协方差函数指定,在这种情况下是矩阵值映射。我们首先考虑的谱表示,反过来允许这样的协方差函数的特性。然后给出了构造这些矩阵值映射的一些方法。最后,我们考虑策略,以避免径向对称性(空间统计称为各向同性),并提供这样一个更一般的情况下表示定理。
2022-02-22 math.ST stat.TH
Normal approximations for the multivariate inverse Gaussian distribution and asymmetric kernel smoothing on $d$-dimensional half-spaces
McGill University(麦吉尔大学)
本文提出了一种基于多维逆高斯分布的非对称核密度估计器,并开发了生成MIG随机向量的新算法,用于改进半空间数据的平滑和分析。
2025-06-17 math.PR math.ST stat.TH
Multivariate Gaussian Approximation for Random Forest via Region-based Stabilization
本文在温和假设下,利用区域稳定化几何性质和Malliavin-Stein方法,推导了基于k-PNN的随机森林预测的多元高斯近似界,并建立了一般Poisson过程泛函的概率近似结果,揭示了该方法的普适性。
2025-05-02 math.PR math.ST stat.ML
A Generalization of a Gaussian Semiparametric Estimator on Multivariate Long-Range Dependent Processes
在长相依多元时间序列的背景下,本文提出并研究了分数阶差分参数的一类广义高斯半参数估计。我们建立大样本性质的估计,而不假设高斯。这里考虑的一类模型满足简单的条件的频谱密度函数,限制在一个小的邻域的零频率,包括重要的VARFIMA过程。我们还提出了一个模拟研究,以评估所提出的估计的有限样本属性的基础上平滑版本的GSE,支持其竞争力。
2013-05-22 math.ST stat.OT stat.TH
A multivariate normal approximation for the Dirichlet density and some applications
本文证明了具有相同均值和协方差阵的Dirichlet密度与多元正态密度之比的一个渐近展开。然后使用展开式导出相应概率测度之间的全变差的上界,并重新导出由Aitchison & Lauder(1985)引入并在Ouimet(2020)中进行理论研究的Dirichlet核估计量的渐近方差。另一个潜在的应用相关的高斯方差回归问题和高斯白噪声问题之间的渐近等价性简要地提到,但留给未来的研究。
2022-02-28 math.PR math.ST stat.TH
Convex programming approach to robust estimation of a multivariate Gaussian model
多元高斯通常用作高维数据分布的第一近似。在各种约束条件下确定该分布的参数是统计学中广泛研究的问题,并且通常被认为是测试新算法或理论框架的原型。在本文中,我们开发了一个非渐近的方法来估计的多元高斯分布的参数时,数据被破坏的离群值的问题。我们提出了一个估计-有效地计算通过解决凸规划-鲁棒估计的人口平均值和人口协方差阵,即使样本包含一个显着比例的离群值。我们的腐败矩阵的估计是可证明的率最优的同时为条目明智的$\ell_1$ -范数,Frobenius范数和混合$\ell_2/\ell_1$范数。此外,这种最优性是通过具有通用调谐参数(校准惩罚强度)的惩罚平方根最小二乘法实现的。在逆协方差阵稀疏的附加条件下,将这些结果部分地推广到$p$可能大于$n$的情形.
2016-02-06 math.ST stat.TH
Multivariate Gaussians, Semidefinite Matrix Completion, and Convex Algebraic Geometry
我们研究了由协方差阵的逆矩阵上的线性约束描述的多元正态模型。这种模型的极大似然估计导致的问题,最大化的决定性功能在一个spectrahedron,并在任意线性投影下的正定锥的图像的特征的问题。这些问题的统计和优化的接口在这里检查凸代数几何的角度来看。
2009-06-18 math.AG math.OC math.ST