Fast Simulation of Hyperplane-Truncated Multivariate Normal Distributions
我们介绍了一个快速和易于实现的模拟算法的多元正态分布截断的一组超平面的交集,并进一步推广到有效地模拟随机变量的多元正态分布的协方差(精度)矩阵可以分解为一个正定矩阵减去(加上)一个低秩对称矩阵。算例结果验证了所提仿真算法的正确性和有效性。
2017-02-17 stat.CO
Linear-Cost Vecchia Approximation of Multivariate Normal Probabilities
University of Houston(休斯顿大学);Department of Statistics, University of Wisconsin–Madison(威斯康星大学麦迪逊分校统计学系)
本文提出了一种基于Vecchia近似的线性成本方法,用于高效估计多元正态概率及截断分布采样,同时保持与MET方法相同的收敛速率。
2026-01-26 stat.CO
Bayesian Boundary Trend Filtering
本文针对边界趋势估计问题,提出结合截断多元正态近似与Pólya-Gamma数据增广的贝叶斯趋势滤波方法,引入马蹄先验实现局部自适应收缩,还扩展了近似保序约束版本,经实验验证性能良好。
2023-11-10 stat.ME
Bayesian Multivariate Nonlinear State Space Copula Models
在本文中,我们提出了一个灵活的多变量非线性非高斯状态空间模型,基于copula。更准确地说,我们假设观测方程和状态方程由不一定相等的copula族定义。对于每个时间点,所得到的模型可以通过在第一棵树之后截断的C-vine copula来描述,其中根节点由潜在状态表示。在贝叶斯框架内进行推断,使用哈密顿蒙特卡罗方法,其中在第一棵树之后截断的另一个D-藤被用作先验分布以捕获潜在状态中的时间依赖性。仿真研究表明,所提出的基于Copula的方法是非常灵活的,因为它能够描述广泛的依赖结构,并在同一时间,允许我们处理缺失数据。大气污染物测量数据的应用表明,我们的方法是适合于准确的建模和预测的数据动态缺失值的存在。比较高斯线性状态空间模型和贝叶斯加性回归树显示了该模型的预测精度方面的优越性能。
2019-11-01 stat.ME
Nonparametric Bayesian label prediction on a large graph using truncated Laplacian regularization
本文描述了一个非参数贝叶斯方法来解决图上的二进制分类问题的实现。我们考虑一个分层贝叶斯方法与前,通过截断一系列扩展的软标签函数使用图形拉普拉斯特征函数作为基函数。我们比较我们的截断之前的未截断的拉普拉斯算子为基础的模拟和真实数据的例子,以说明改进的可扩展性方面的基础图形的大小。
2018-04-13 stat.CO stat.ML
Moments Calculation For the Doubly Truncated Multivariate Normal Density
本文导出了任意矩形双截尾下多元正态分布的截尾均值和方差的显式表达式。本文采用Tallis(1961)的矩生成方法,并将其推广到一般的μ,μ和所有的截断组合。作为解的一部分,我们还给出了截断多元正态变量的二元边际密度公式。我们还证明了截断后逆协方差的某些元素的不变性。计算机算法计算截断的平均值,方差和二元边际概率双截断多元正态变量已经写在R和三个例子一起。
2012-06-23 stat.AP stat.CO
Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors
我们处理贝叶斯全局优化算法的高效并行化,更具体地说,那些基于预期的改进标准及其变种。建立了基于多元高斯累积分布函数的多点期望改进准则的广义形式的封闭形式公式。反过来,后者依赖于中间的结果,可能是独立的利益有关的截断高斯向量的时刻。所得到的扩展的标准,使研究其可微性方面的点批和计算相应的梯度在封闭的形式。此外,我们得到快速数值逼近这个梯度,并提出有效的批量优化策略。数值实验表明,所提出的方法,使计算节省一个和两个数量级之间,因此,使基于导数的批量顺序采集函数最大化,成为一个切实可行的和有效的标准。
2016-09-09 stat.AP stat.ME stat.ML
Bayesian mixture modeling for multivariate conditional distributions
我们提出了一个贝叶斯混合模型,用于估计一组固定变量条件下的混合有序、名义和连续数据的联合分布。该模型对随机变量使用多元正态和分类混合核。它通过多变量正态混合核和截断局部Dirichlet过程来诱导随机变量和固定变量之间的依赖性。后者鼓励具有相似固定变量值的观测值共享混合分量。使用数据融合的模拟,我们说明,该模型可以估计潜在的关系,在数据和缺失值的分布更准确地比混合模型应用于随机和固定变量联合。我们使用该模型来分析消费者的阅读行为,使用配额样本,即,一个样本,其中一些变量的经验分布是固定的设计,所以不应该被建模为随机的,由图书出版商哈珀柯林斯进行。
2016-07-13 stat.ME
Objective priors for the number of degrees of freedom of a multivariate t distribution and the t-copula
提出了一种估计多变量$t$分布和$t$ -copula的自由度数$(ν)$的客观贝叶斯方法。对于多变量$t$和由于没有任何方法,对于$t$ -copula,对这个参数的推断是有问题的。采用了基于损失函数的客观标准,可以克服直接定义客观概率的问题。$ν$的先验的支持被截断,这来自于多变量$t$和$t$ -copula对于足够大的自由度收敛到正态的性质。先验的性能进行了测试模拟场景。R代码和复制材料可作为论文电子版的补充材料和真实数据:IBM和证券价格数据库研究中心的每日对数回报。
2018-03-13 stat.AP stat.ME
Bayesian Inference for Multivariate Spatial Models with R-INLA
用于空间数据分析的贝叶斯方法和软件现在在科学界已普遍成熟。尽管空间模型应用广泛,但在现有文献中,使用R-INLA分析多变量空间数据并没有被广泛描述。因此,本文的主要目的是证明R-INLA是一个方便的工具箱,分析不同类型的多元空间数据集。此外,这将通过分析三个公开的数据集来说明。此外,这些分析的细节和R代码提供给说明如何调整多变量空间数据集与R-INLA。
2022-12-21 stat.CO stat.ME
Uncertainty quantification for fault slip inversion
本文提出基于最优方向吉布斯的贝叶斯方法,从大地测量数据中高效反演慢滑移事件的断层滑移并量化不确定性,成功应用于2006年墨西哥格雷罗事件并估计其矩震级。
2021-03-20 physics.geo-ph stat.CO stat.ME
Clustering Multivariate Data using Factor Analytic Bayesian Mixtures with an Unknown Number of Components
最近的工作过拟合贝叶斯混合分布提供了一个强大的框架,使用潜在的高斯模型,类似于因子分析模型的聚类多变量数据。过拟合混合模型提供的灵活性产生了一个简单而有效的方法,以估计未知数量的集群和模型参数的马尔可夫链蒙特卡罗(MCMC)抽样。本研究通过考虑一组8个参数化扩展了这种方法,从而产生了每个聚类的协方差阵的简约表示。为了近似地从过拟合混合物的后验分布中采样,实现了与先前的并行回火方案相结合的Gibbs采样器。根据贝叶斯信息准则选择参数化和因子数。与标签切换相关的可识别性问题通过使用等价类代表算法对模拟输出进行后处理来处理。贡献的方法和软件进行了演示和比较,类似的模型估计使用期望最大化算法的模拟和真实的数据集。该软件可在https://CRAN.R-project.org/package=fabMix上在线获得。
2019-06-02 stat.CO stat.ME
Bayesian Multivariate Quantile Regression Using Dependent Dirichlet Process Prior
在这篇文章中,我们考虑了一个非参数贝叶斯方法的多元分位数回归。给定单变量协变量X的响应向量Y的相关条件分布的集合使用依赖狄利克雷过程(DDP)先验建模。DDP用于引入跨x的依赖性。由于Dirichlet过程先验的实现几乎肯定是离散的,我们需要将其与内核卷积。为了尽可能灵活地建模误差分布,我们使用多维正态分布的可数混合作为我们的内核。对于后验计算,我们使用DDP的截断棒断裂表示。这种近似使我们能够只处理1000个参数。我们使用一个块吉布斯采样器估计模型参数。我们用模拟研究和实际数据应用说明了我们的方法。最后,我们通过后验一致性为所提出的方法提供了理论依据。我们提出的方法是新的,即使当响应是单变量的。
2020-07-01 stat.ME
Exact Hamiltonian Monte Carlo for Truncated Multivariate Gaussians
我们提出了一个哈密顿蒙特卡罗算法来从多变量高斯分布中采样,其中目标空间受到线性和二次不等式或其乘积的约束。哈密顿运动方程可以精确积分,并且没有参数需要调整。该算法比吉布斯抽样混合速度快,效率高。运行时间取决于约束的数量和形状,但算法是高度并行化的。在许多情况下,我们可以利用特殊结构的协方差阵的非截断高斯进一步加快运行时间。该算法的一个简单的扩展允许从对数密度为分段二次的分布中采样,如在"贝叶斯套索"模型中。
2013-06-05 stat.AP stat.CO
Partial Separability and Functional Graphical Models for Multivariate Gaussian Processes
多元函数数据的协方差结构可能非常复杂,特别是如果多元维度很大,这使得将标准多元数据的统计方法扩展到函数数据设置具有挑战性。例如,高斯图形模型最近已被扩展到设置多元函数数据,通过应用多元方法截断基展开的系数。然而,与多变量数据相比,一个关键的困难是协方差算子是紧凑的,因此不可逆。在本文中的方法解决了一般问题的协方差建模的多元函数数据,特别是功能高斯图形模型。作为第一步,提出了一个新的概念的多元函数数据的协方差算子的可分性,称为部分可分性,导致一个新的Karhunen-Loève型扩展这样的数据。接下来,部分可分性结构被证明是特别有用的,以提供一个定义良好的功能高斯图形模型,可以确定与一系列的有限维图形模型,每个相同的固定尺寸。这促使一个简单而有效的估计程序,通过联合图形套索的应用。通过模拟和分析运动任务期间的功能性大脑连接来评估图形模型估计方法的经验性能。通过模拟和分析运动任务期间的功能性大脑连接来评估用于图形模型估计的方法的经验性能。
2022-01-04 math.ST stat.ME stat.ML
Filling the gaps: Gaussian mixture models from noisy, truncated or incomplete samples
天文学数据经常受到噪声和不完整性的影响。我们扩展了常见的混合高斯密度估计方法,考虑到一个已知的样本不完全的情况下,从当前模型的同时插补。该方法,称为GMMis,推广现有的截断数据的期望最大化技术,任意截断几何和概率拒绝过程,只要它们可以指定,并不依赖于密度本身。该方法占独立的多元正态测量误差为每个观察到的样品,并恢复的无误差分布的估计,从观察到的和未观察到的样品。它可以从一个特定的背景分布,其幅度可能是未知的高斯混合信号的分离。我们比较GMMis的标准高斯混合模型的简单测试用例与不同类型的不完整性,并将其应用于从美国宇航局钱德拉X射线望远镜的观测数据。python代码在www.example.com上作为开源包发布
2020-09-15 astro-ph.HE astro-ph.IM physics.data-an
SBAMDT: Bayesian Additive Decision Trees with Adaptive Soft Semi-multivariate Split Rules
Texas A&M University(德克萨斯农工大学);University of Cincinnati(辛辛那提大学);Shell International Exploration and Production Inc(壳牌国际勘探与生产公司)
针对标准决策树单变量确定性分裂规则难以捕捉复杂决策边界的问题,提出采用自适应软半多变量分裂规则的SBAMDT概率加性决策树模型,可适配不同平滑度,经多数据集对比验证了其实用性。
2025-01-17 cs.LG math.ST stat.ME
Colombian Women's Life Patterns: A Multivariate Density Regression Approach
哥伦比亚妇女面临的困难与其社会的父权制特点和自1948年以来困扰该国的众所周知的冲突有关。在这一关键的背景下,我们的目标是研究基线社会人口因素与生育率,伙伴关系模式和工作活动相关的变量之间的关系。为了最好地利用解释结构,我们提出了一个贝叶斯多变量密度回归模型,它可以容纳混合反应与删失,约束和二进制性状。模型的灵活性允许非线性回归函数和误差中的非标准特征,例如不对称或多模态。该模型具有通过归一化构建的可解释的协变量相关权重,允许分类和连续协变量的组合。通过自适应截断算法相结合的自适应Metropolis-Hastings和序贯蒙特卡罗创建一个序列的自动截断后验混合,克服了计算困难的推断。我们对哥伦比亚妇女的生活模式进行了研究,对各种数量进行了可视化和描述,特别是,我们的研究结果突出了家庭暴力对妇女的选择和行为的有害影响。
2021-01-20 stat.AP
Bayesian model averaging of risk set probabilities using a geometric representation of multivariate extremes
本研究针对多元极值建模,提出结合删失似然的贝叶斯模型平均方法,在小样本下提升尾风险概率预测性能,并通过火灾气象指数验证其环境应用价值。
2026-09-01 stat.AP stat.ME
Regularized Dikin Walks for Sampling Truncated Logconcave Measures, Mixed Isoperimetry and Beyond Worst-Case Analysis
ETH Zürich(苏黎世联邦理工学院)
本文提出正则化Dikin游走算法,用于从截断多胞体的对数凹分布采样,证明其混合时间优于先前方法,并扩展至弱对数凹分布及稀疏约束情形,同时给出实现细节。
2024-12-15 cs.DS cs.LG stat.CO
Moments and random number generation for the truncated elliptical family of distributions
本文提出了一种从具有严格递减密度母函数的截尾多元椭圆分布族中的任意成员生成随机数的算法。在Neal(2003)和Ho et al.(2012)的基础上,我们通过Gibbs采样器步骤的切片采样算法构建了一种有效的采样方法。我们还提供了一种更快的方法来近似截断多元椭圆分布的一阶和二阶矩,其中蒙特卡罗积分用于截断分区,以及非截断部分的显式表达式(Galarza等人,2020年)。实例和环境空间数据的应用说明了它的实用性。方法在新的R库椭圆中免费提供。
2021-12-17 stat.CO stat.ME
Partial membership models for soft clustering of multivariate football player performance data
本研究针对标准混合模型硬聚类假设的局限,将贝叶斯部分隶属度模型用于足球运动员表现计数数据的软聚类,通过马尔可夫链蒙特卡洛方法推理,基于2022/2023赛季意甲数据识别球员多位置属性,为足球领域相关决策提供支持。
2025-02-14 stat.AP stat.ME
alphastable: An R Package for Modelling Multivariate Stable and Mixture of Symmetric Stable Distributions
稳定分布族由于同时考虑了偏态和重尾,在许多研究领域得到了广泛的应用。在本文中,我们介绍了一个用R语言编写的软件包,称为Alphastable。Alphastable执行各种任务,包括:1-从单变量,截断和多变量稳定分布生成随机数。2-计算一元和多元椭圆等高稳定分布的概率密度函数,3-计算一元稳定分布的分布函数,4-估计一元对称稳定分布、一元柯西分布、柯西混合分布、一元对称稳定分布、多元椭圆等高稳定分布和多元严格稳定分布的参数。这个包,因为它将被证明,是非常有用的建模数据在单变量和多变量的情况下,出现在金融和经济领域。
2018-09-25 stat.CO
Simulation of truncated normal variables
本文给出了单侧和双侧截断正态分布的模拟算法。然后,这些算法被用来模拟多元正态变量与限制的参数空间的任何协方差结构。
2009-07-23 stat.CO stat.ME
Simultaneous Edit and Imputation for Household Data with Structural Zeros
嵌套在家庭中的多变量分类数据通常包括未通过编辑约束的报告值-例如,参与的家庭报告孩子的年龄大于其亲生父母的年龄-以及缺失值。一般来说,机构更喜欢数据集在分析它们或将它们传播给二级数据用户之前没有错误或缺失的值。我们提出了一个基于贝叶斯分层模型的家庭数据编辑和插补的基于模型的引擎,该模型包括(i)多项分布的嵌套数据Dirichlet过程混合物作为数据的真实潜在值的模型,截断以仅允许满足所有编辑约束的家庭,(ii)错误位置的模型,以及(iii)用于所观察到的错误响应的报告模型。该方法传播的不确定性,由于未知的位置的错误和缺失值,生成合理的数据集,满足所有的编辑约束,并可以保持多变量的关系内和跨个人在同一个家庭。我们使用2012年美国社区调查的数据来说明这种方法。
2018-09-11 stat.ME
hdtg: An R package for high-dimensional truncated normal simulation
从多元截断正态分布(MTN)进行模拟在各种统计应用中是必需的,但在高维中仍然具有挑战性。目前可用的算法和它们的实现往往失败时,参数的数量超过几百个。为了提供一个通用的计算工具,有效地从高维MTN采样,我们介绍了hdtg包,实现了两个国家的最先进的模拟算法:谐波哈密顿蒙特卡罗(谐波HMC)和锯齿形哈密顿蒙特卡罗(Zigzag-HMC)。这两种算法都利用解析解的哈密顿动力学下的二次势能与硬边界约束,导致拒绝自由的方法。我们比较他们的效率对另一个国家的最先进的算法MTN模拟,最小最大倾斜接受拒绝采样器(MET)。这三种方法的运行时间在很大程度上取决于底层的多元正态相关结构。Zigzag-HMC和harmonic-HMC都在3,600秒内实现了100个有效样本,所有测试的维度范围从100到1,600,而MET在几个高维示例中有困难。我们提供了如何选择一个适当的方法为特定情况下的指导,并说明了hdtg的用法。
2022-09-23 stat.AP stat.CO
Large-scale inference of correlation among mixed-type biological traits with phylogenetic multivariate probit models
在进化历史中推断生物性状之间的协同变化仍然是一个重要而具有挑战性的问题。除了调整由共享历史引起的虚假相关性之外,该任务还需要足够的灵活性和计算效率,以随着数据大小的增加而合并多个连续和离散特征。为了实现这一点,我们共同模型的混合型性状,假设潜在参数的二进制结果尺寸的提示未知树的分子序列。这就产生了一个系统发育的多变量概率单位模型。由于样本量较大,该模型下的后验计算存在问题,因为它需要从高维截断正态分布中重复采样。当前的最佳实践采用多次尝试拒绝抽样,其遭受缓慢混合和在样本量中二次缩放的计算成本。我们开发了一种新的推理方法,利用1)弹性粒子采样器(BPS)的基础上分段确定性马尔可夫过程,同时采样所有截断正常的尺寸,和2)新的动态规划,降低成本的似然和梯度评估BPS的线性样本量。在一个有535个HIV病毒和24个特征的应用程序中,需要从12,840维截断正常值中进行采样,我们的方法可以估计跨特征相关性并检测影响病原体致病能力的因素。这种推理框架也适用于比较生物学之外的更广泛的协方差结构。
2020-09-23 q-bio.PE stat.CO stat.ME
Multivariate Locally Stationary Wavelet Process Analysis with the mvLSW R Package
本文介绍了R软件包mvLSW。该软件包包含一套工具,用于分析多元局部平稳小波(LSW)时间序列。关键要素包括:(i)对于给定的多元演化小波谱(EWS)的多元LSW时间序列的模拟;(ii)对于给定的时间序列的时间依赖的多元EWS的估计;(iii)时间序列通道之间的时间依赖的相干性和部分相干性的估计;以及(iv)对于多元EWS估计的近似置信区间的估计。通过模拟的例子和案例研究与EuStockMarkets从数据集包的包演示。本文已被《统计软件杂志》接受。演示mvLSW包的代码摘录在版本1.2.1下执行。
2018-10-23 stat.CO
Efficient Statistics, in High Dimensions, from Truncated Samples
Massachusetts Institute of Technology(麻省理工学院);Max Plank Institute for Informatics(马克斯·普朗克信息研究所);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们提供了一个有效的算法的经典问题,可以追溯到高尔顿,皮尔逊和费舍尔,估计,任意精度的多元正态分布的参数,从截尾样本。来自$d$ -变量正态${\cal N}(\mathbfμ,\mathbfΣ)$的截尾样本意味着样本仅在其落入某个子集$S \subseteq \mathbb{R}^d$时才被显示;否则样本被隐藏,并且它们与所显示的样本成比例的计数也被隐藏。证明了在多项式时间内,只要我们有对$S$的oracle访问,就可以以任意精度估计均值$\mathbfμ$和协方差矩阵$\mathbfΣ$,并且在未知的$d$ -变量正态分布下,$S$具有非平凡测度.此外,我们表明,没有Oracle访问$S$,任何非平凡的估计是不可能的。
2020-10-22 cs.DS cs.LG math.ST
Multivariate-from-Univariate MCMC Sampler: R Package MfUSampler
R软件包MfUSApler提供蒙特卡罗马尔可夫链机制,用于使用单变量采样算法(如切片采样器和自适应拒绝采样器)从多变量概率分布生成样本。采样器函数执行单变量采样步骤的完整循环,每次一个坐标。在每个步骤中,使用针对其他坐标获得的最新样本值来形成条件分布。这个概念是吉布斯抽样的延伸,其中每一步涉及的不是来自条件分布的独立样本,而是条件分布不变的马尔可夫转换。该软件依赖于条件分布与联合分布的比例来实现用于产生条件的薄包装器。示例说明了基本用法以及提高性能的方法。通过封装多变量从单变量逻辑,MfUSApler提供了一个可靠的库,用于自定义贝叶斯模型的快速原型设计,同时允许增量性能优化,例如利用共轭性,条件独立性和将函数求值移植到编译语言。
2014-12-25 stat.CO
Exact distribution of selected multivariate test criteria by numerical inversion of their characteristic functions
精确统计推断的应用经常导致所考虑的估计量或检验统计量的非标准概率分布。许多估计量和检验统计量的精确分布可以用它们的特征函数来表示。通常,许多估计量和检验统计量的分布可以在结构上表示为具有已知分布和特征函数的独立随机变量的线性组合或乘积,这是许多标准多元检验准则的情况。特征函数表示随机变量的分布的完整表征。然而,如果可能的话,特征函数的解析反演经常导致对应的分布函数(CDF/PDF)和所需分位数的复杂且计算上相当奇怪的表达式。作为一个有效的替代方案,在这里,我们主张使用众所周知的方法的基础上的数值反演的特征函数-一种方法,然而,在流行的统计软件包中被忽略。通过计算Bartlett检验统计量的精确分布来说明该方法的适用性,该检验统计量用于检验多个正态总体中的方差齐性和用于多变量假设检验的Wilks $Λ$分布。
2018-01-07 stat.CO
MonteCarloMeasurements.jl: Nonlinear Propagation of Arbitrary Multivariate Distributions by means of Method Overloading
这份手稿概述了一个软件包,便于工作与概率分布的蒙特卡罗方法,在某种程度上,允许传播的多元概率分布通过任意函数。我们提供了一个\emph{type},表示概率分布的内部向量的未加权样本,\texttt{Particles},这是一个子类型的\texttt{Real}数和行为就像一个经常的实数在计算中的方法重载。这使得软件易于使用,并为用户提供最小的摩擦。我们强调这种设计如何促进SIMD指令的最佳使用,并展示了包的不确定性传播通过现成的ODE求解器,以及强大的概率优化与自动微分。
2020-01-21 cs.MS stat.CO stat.OT
Modeling Univariate and Multivariate Stochastic Volatility in R with stochvol and factorstochvol
随机波动率模型是一种非线性状态空间模型,在异方差时间序列的拟合和预测中得到了广泛的应用。然而,由于大量的潜在量,它们的有效估计是不平凡的,并且允许容易地将SV模型拟合到数据的软件是罕见的。我们的目标是通过提出在两个R包中交付的四个SV模型的新实现来缓解这个问题。几个独特的功能包括和记录。与以前的版本不同,stochvol现在能够处理线性均值模型,重尾SV和SV。此外,我们新引入factorstochvol迎合多元SV。这两个包都通过传统的R泛型和一系列定制的方法提供了用户友好的界面。计算效率是通过将R接口到C++并在后者中完成繁重的工作来实现的。在本文中,我们详细讨论了贝叶斯SV估计,并通过各种示例展示了新软件的使用。
2021-02-06 econ.EM q-fin.CP q-fin.ST