Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种模拟方法,通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer(1992)开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法,提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME
Multivariate strong invariance principles in Markov chain Monte Carlo
本文利用宽义再生性质,在无需1步小化条件下建立了多项式和几何遍历马尔可夫链的多元强不变性原理,并给出紧致显式收敛速率,为方差估计量的强一致性验证提供理论支撑。
2023-03-29 math.PR math.ST stat.CO
Sequential Monte Carlo EM for multivariate probit models
多变量概率模型(MPM)具有捕获多维二进制响应的组件之间的一些依赖结构的吸引人的功能。相关性建模的关键是潜在多变量高斯的协方差阵。大多数方法MLE在多变量概率回归依赖于MCEM算法,以避免计算密集的评估多变量正常正交概率。作为常用的Gibbs采样器的替代,提出了一种新的截断多元正态样本的SMC采样器。该算法分两个阶段进行,首先从截断的多变量学生$t$分布中提取样本,然后进一步向高斯方向发展。然后将采样器嵌入到MCEM算法中。可以利用SMC方法的顺序性质来设计EM的完全顺序版本,其中样本简单地从一次迭代更新到下一次迭代,而不是从头开始重新采样。以这种方式回收样本显著降低了计算成本。标准条件最大化步骤的另一种观点为迭代过程提供了基础,以完全执行期望最大化算法中所需的最大化。对MPM的可辨识性也进行了深入的讨论。特别地,似然不变性可以嵌入在期望最大化算法中,以确保约束和无约束最大化是等效的。一个简单的迭代过程,然后推导出任何最大化,有效地不需要计算时间。该方法通过应用于广泛分析的Six Cities数据集和高维模拟实例进行了验证。以前的方法,以六个城市过度限制参数空间,但通过考虑正确的不变性,极大似然是相当自然的改善时,治疗完全无限制的模型。
2013-11-14 stat.CO stat.ME
MonteCarloMeasurements.jl: Nonlinear Propagation of Arbitrary Multivariate Distributions by means of Method Overloading
这份手稿概述了一个软件包,便于工作与概率分布的蒙特卡罗方法,在某种程度上,允许传播的多元概率分布通过任意函数。我们提供了一个\emph{type},表示概率分布的内部向量的未加权样本,\texttt{Particles},这是一个子类型的\texttt{Real}数和行为就像一个经常的实数在计算中的方法重载。这使得软件易于使用,并为用户提供最小的摩擦。我们强调这种设计如何促进SIMD指令的最佳使用,并展示了包的不确定性传播通过现成的ODE求解器,以及强大的概率优化与自动微分。
2020-01-21 cs.MS stat.CO stat.OT
Efficient Multivariate Initial Sequence Estimators for MCMC
针对多元初始序列估计器计算过慢的问题,提出一种高效替代方案,在保留其渐近性质和有限样本优越性的同时显著提升计算效率,并扩展至并行MCMC链场景。
2025-07-07 stat.CO
A general Monte Carlo method for multivariate goodness-of-fit testing applied to elliptical families
本文介绍了一种构造多元拟合优度检验的一般且相对简单的方法。所提出的检验适用于椭圆分布。该方法是基于概率分布通过其特征函数的表征。研究了新的检验统计量的相合性及其它极限性质。此外,在模拟研究中,建议的测试进行了比较,与早期以及最近的竞争对手。
2022-06-18 stat.ME
Multivariate error modeling and uncertainty quantification using importance (re-)weighting for Monte Carlo simulations in particle transport
快速准确地预测计算剂量中的不确定性对于确定放射治疗中的稳健治疗计划至关重要。这就要求求解具有不确定参数或初始条件的粒子输运问题。蒙特卡罗方法经常被用来解决运输问题,特别是在需要高精度的应用。在这些情况下,涉及在参数空间中的不同点重复模拟问题的常见非侵入式解决方案策略由于其长运行时间而很快变得不可行。然而,侵入式方法限制了与专有仿真引擎组合的可用性。在我们之前的论文[51]中,我们展示了一种新的非侵入性不确定性量化方法在蒙特卡罗模拟质子剂量计算中的应用,该方法在实际患者数据上具有正态分布误差。在本文中,我们介绍了一个广义的配方,并专注于更深入的理论分析,这种方法的偏差,误差和收敛性的估计。所提出的方法的多变量输入模型进一步支持几乎任意的误差相关模型。我们演示了如何使用这个框架来建模和有效地量化复杂的自相关和时间相关的错误。
2022-02-15 physics.med-ph stat.AP
Auxiliary-variable Exact Hamiltonian Monte Carlo Samplers for Binary Distributions
我们提出了一种新的方法,从一般的二进制分布的样本,基于一个精确的哈密顿蒙特卡罗算法应用到一个分段连续扩增的二进制分布的兴趣。这个想法的扩展到混合物的二进制和可能截断高斯或指数变量的分布,使我们能够从后验的线性和概率回归模型与穗板先验和截断参数。我们说明了这些算法的优点,在几个例子中,他们优于大都会或吉布斯采样。
2015-10-12 cond-mat.stat-mech stat.CO
Malliavin-based Multilevel Monte Carlo Estimators for Densities of Max-stable Processes
本文对由高斯过程产生的极大稳定场的多元密度引入了一类无偏蒙特卡罗估计。我们的估计利用最近的结果,最大稳定领域的精确模拟与Malliavin演算文献和思想的多层蒙特卡罗文献中研究的身份相结合。我们的方法允许估计多变量密度的最大稳定领域的精度$\varepsilon $在计算成本为$O\left( \varepsilon ^{-2}\log \log \log \left( 1/\varepsilon \right) \right) $。
2017-02-27 math.PR stat.CO
On the fitting of mixtures of multivariate skew t-distributions via the EM algorithm
我们展示了如何期望最大化(EM)算法可以准确地适用于一般多元斜t(MST)分布的混合物的拟合,消除了计算昂贵的蒙特卡罗估计的需要。MST分布的有限混合已被证明是有用的非对称和重尾行为的异构数据建模。最近,他们已被利用作为一个有效的工具,流式细胞仪数据建模。然而,没有限制的成分的倾斜t分布的特征,蒙特卡罗方法已被用来拟合这些模型。在本文中,我们展示了如何期望最大化算法可以实现的迭代计算的最大似然估计的模型参数,而不诉诸蒙特卡罗方法与无限制的MST组件的混合物。半无限积分在期望最大化算法的E步上的快速计算是通过注意到它们可以以截断的多元t分布的矩的形式来实现的,随后可以根据快速算法可用的t分布函数的非截断形式来表示。我们证明了所提出的方法的实用性,通过一些应用程序,三个真实的数据集。
2012-09-05 stat.ME
Approximating the mean of a truncated normal distribution
在一些应用中出现的一个重要问题是截断正态分布的均值估计。在本文中,提出了一个迭代确定性计划近似这个平均值。它的灵感来自于一个迭代的马尔可夫链蒙特卡罗(MCMC)方案,解决了这个问题,它可以被看作是一个泛化最近提出的相关模型。给出了该格式收敛于唯一不动点的条件。最后,理论结果也支持计算机模拟,这也表明该方法的快速收敛的解向量是非常接近的截断正态分布的平均值的研究。
2014-04-02 stat.CO
Spectral Subsampling MCMC for Stationary Multivariate Time Series with Applications to Vector ARTFIMA Processes
谱子采样MCMC是近年来提出的一种通过在频域对周期图进行子采样来加速长平稳单变量时间序列的马尔可夫链蒙特卡罗(MCMC)的方法。本文扩展的方法,多变量时间序列使用多变量广义的惠特尔可能性。为了评估具有挑战性的问题,从频谱子采样的计算增益,多变量广义的自回归回火分数积分移动平均模型(ARTFIMA)的介绍和它的一些属性。贝叶斯推断的基础上的Whittle可能性被证明是一个快速和准确的替代精确的时域可能性。频谱子采样提供了两个数量级的额外的速度,同时保留MCMC抽样效率和精度,相比,频谱方法使用完整的数据集。关键词:贝叶斯,马尔可夫链蒙特卡罗,半长记忆,谱分析,惠特尔似然。
2022-09-18 stat.CO stat.ME
Fast Simulation of Hyperplane-Truncated Multivariate Normal Distributions
我们介绍了一个快速和易于实现的模拟算法的多元正态分布截断的一组超平面的交集,并进一步推广到有效地模拟随机变量的多元正态分布的协方差(精度)矩阵可以分解为一个正定矩阵减去(加上)一个低秩对称矩阵。算例结果验证了所提仿真算法的正确性和有效性。
2017-02-17 stat.CO
Nonlinear Statistical Learning with Truncated Gaussian Graphical Models
我们介绍了截断高斯图形模型(TGGM)作为一种新的框架设计统计模型的非线性学习。TGGM是一个高斯图模型(GGM),其中一个变量子集被截断为非负。截断变量被假定为潜在的,并整合出来,以诱导一个边际模型。我们证明了边际模型中的变量是非高斯分布的,它们的期望关系是非线性的。我们使用期望最大化的非线性模型的推理到一系列TGGM推理问题,其中每一个有效地解决了使用多元高斯分布的属性和数值方法。我们使用TGGM来设计用于非线性回归和分类的模型,这些模型的性能在广泛的基准数据集上得到了证明,并与最先进的竞争结果进行了比较。
2016-11-20 stat.ML
Strong Consistency of Multivariate Spectral Variance Estimators
马尔可夫链蒙特卡罗(MCMC)算法用于估计分布的感兴趣特征。估计中的Monte Carlo误差具有渐近正态分布,其多变量性质迄今为止在MCMC社区中被忽略。给出了马尔可夫链中心极限定理中渐近协方差阵的一类多元谱方差估计,并给出了强相合性的条件。本文研究了向量自回归过程中多元谱方差估计及其特征值的有限样本性质。
2016-07-02 math.ST stat.TH
The Soft Multivariate Truncated Normal Distribution with Applications to Bayesian Constrained Estimation
我们提出了一种新的分布,称为软tMVN分布,它提供了一个光滑的近似截断多元正态分布(tMVN)与线性约束。提出了一种高效的分块Gibbs采样器,用于对软tMVN分布进行高维采样。我们提供的软tMVN的逼近能力的理论支持,并提供进一步的经验证据。软tMVN分布可用于从具有线性约束的多变量截断正态分布近似模拟,或其本身作为形状约束问题中的先验。
2019-09-02 stat.CO
A truncated mean-parameterised Conway-Maxwell-Poisson model for the analysis of Test match bowlers
通过合适的统计模型评估职业生涯在时间上相距甚远的男女运动员的相对优点是一项复杂的任务,因为任何比较都会受到运动和社会的根本变化的影响,并且往往受到不适当的传统指标的流行的阻碍。在这项工作中,我们专注于板球和排名的测试比赛保龄球使用的数据,从1877年起的第一次测试。一个截断的,平均参数化的康威-麦克斯韦-泊松模型的开发,以处理下和过度分散的性质的数据,这是在小计数的形式,并提取个人投球手的先天能力。通过部署马尔可夫链蒙特卡罗算法,使用贝叶斯方法进行推断,以获得参数估计值和置信区间。该模型提供了一个很好的拟合,并表明常用的保龄球平均是一个有缺陷的措施。
2021-09-01 stat.AP stat.CO stat.OT
Estimation of the Parameters of Multivariate Stable Distributions
在本文中,我们开始我们的讨论与一些著名的方法在文献中提供的参数估计的一元/多元稳定分布。在现有方法的基础上,提出了一种新的混合方法,用于单变量稳定分布的参数估计。所提出的方法被进一步用于一个严格多元稳定分布的参数估计。通过蒙特卡罗模拟表明了新方法的有效性、准确性和简单性。最后,我们将所提出的方法应用到单变量和双变量的金融数据。
2019-02-26 stat.CO
On the bias of the Gini coefficient estimator for zero-truncated Poisson distributions
本文分析了零截断泊松总体基尼系数估计量的偏差,给出了偏差的数学表达式,并提出并经蒙特卡洛模拟评估了偏差校正估计量。
2025-04-06 math.ST stat.ME stat.TH
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数,通过非参数核密度估计和变分过程,获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Analytically Optimal Sample Allocations for Nested Multivariate Multifidelity Control Variate Estimators
Georgia Tech(佐治亚理工学院)
本研究针对嵌套多元多保真度控制 variate 估计器,推导了最优分数样本分配的闭式解,提出整数值预算分配新方法与控制 variate 系数鲁棒近似方法,经数值示例验证其估计精度优于现有方法。
2026-10-27 stat.CO
Estimation of Multivariate Wrapped Models for Data in Torus
多变量圆形观测,即环面上的点,现在非常常见。多变量包裹模型通常适合于描述分散在p维环面上的数据点。然而,基于该模型的统计推断是相当复杂的,因为对数似然中的每个贡献涉及Z^p中的指数的无限总和,其中p是问题的维数。为了克服这一点,提出了两个估计过程的基础上期望最大化和分类期望最大化算法,以及在中等尺寸的工作。通过蒙特卡罗模拟研究了所介绍的方法的性能,并在三个实际数据集上进行了说明。
2018-11-14 stat.CO
Bayesian inference for a single factor copula stochastic volatility model using Hamiltonian Monte Carlo
为了对多变量金融时间序列进行建模,我们提出了一个带有随机波动边际的单因子Copula模型。该模型推广了依赖于多元正态分布的单因子模型,并允许对称和非对称尾部依赖。在吉布斯抽样中,我们使用哈密顿蒙特卡罗(HMC)开发了联合贝叶斯推断。因此,我们避免了由Schamberger et al(2017)所遵循的Copula模型中的边际和依赖性的两步法引起的信息损失。此外,贝叶斯方法除了通过可信区间的不确定性量化之外,还允许高维参数空间,因为它们在这里存在。通过允许不同的Copula族的指标,Copula族在贝叶斯框架中自动选择。在第一次模拟研究中,将HMC的性能与Schamberger等人(2017)为copula部分开发的马尔可夫链蒙特卡罗(MCMC)方法进行了比较。结果表明,HMC大大优于这种方法的有效样本量,MSE和观察到的覆盖概率。在第二个模拟研究中,看到了令人满意的性能为完整的HMC内吉布斯过程。该方法说明了一个投资组合的金融资产方面的一天提前价值的风险预测。我们提供了对所提出的模型的两步估计过程和相关基准模型的比较:Schamberger等人(2017)提出的具有动态线性模型的模型和单因子Copula的依赖关系,以及Kastner等人(2017)提出的多变量因子随机波动模型。我们提出的方法表现出优越的性能。
2019-07-19 stat.CO
A parsimonious family of multivariate Poisson-lognormal distributions for clustering multivariate count data
多变量计数数据通常通过生物信息学、文本挖掘或体育分析中的高通量测序技术遇到。虽然泊松分布似乎很适合这些计数数据,但其多变量扩展在计算上是昂贵的。在大多数情况下,假设变量之间相互独立,但这没有考虑到数据中通常观察到的变量之间的相关性。最近,多元Poisson-lognormal(MPLN)模型的混合已被用于分析具有相关结构的此类多元计数测量。在MPLN模型中,使用以潜在多变量高斯变量为条件的独立泊松分布对每个计数进行建模。由于这种分层结构,MPLN模型可以解释过度分散,而不是传统的泊松分布,并允许变量之间的相关性。不是依赖于计算效率低的基于蒙特卡罗的估计框架,而是在此使用基于快速变分EM的框架来进行参数估计。此外,提出了一个简约的家庭的混合泊松对数正态分布的分解的协方差阵和这些分解施加约束。使用模拟和基准数据集,这些模型的效用。
2020-04-15 stat.CO
Probability Estimation with Truncated Inverse Binomial Sampling
本文给出了截尾逆二项抽样的一般理论。在该理论中,固定尺寸抽样和逆二项抽样作为特殊情况被容纳。特别是,经典的霍夫-霍夫丁界是该理论的直接结果。此外,我们提出了一种严格而有效的概率估计方法,这是一个自适应蒙特卡罗估计方法的截断逆二项抽样的基础上。我们提出的方法的概率估计可以是数量级更有效的文献和广泛使用的软件中的现有方法相比。
2019-08-19 cs.SY eess.SY math.ST
Parametric inference for the discretely observed multivariate Hawkes process using particle Markov Chain Monte Carlo
School of Mathematics and Statistics, UNSW Sydney(新南威尔士大学数学与统计学院);Defence Science and Technology Group(国防科学与技术集团)
针对离散观测的多元霍克斯过程,提出基于序贯蒙特卡洛的无偏似然估计,结合Metropolis-Hastings算法实现参数后验推断,在模拟和实际数据中优于现有方法。
2026-06-18 stat.ME
Smoothed residual stopping for statistical inverse problems via truncated SVD estimation
本文研究了在什么情况下截断SVD估计的自适应性可以通过基于平滑残差$ \| ( A A^{\top} )^{α/ 2} ( Y - A \hatμ^{( m )}) \|^{2} $的提前停止规则来实现。的风险的下限和上界,这表明,适度平滑的残差可以用来适应不同的平滑度的信号类,而过度平滑产生次优的收敛速度。Monte-Carlo模拟的理论结果说明。
2020-08-30 math.ST stat.TH
Portfolio Selection under Multivariate Merton Model with Correlated Jump Risk
研究了具有相依跳的多变量Merton模型下证券周期投资中的投资组合问题。当投资组合风险由条件风险价值($CVaR$)度量时,优化框架被设计为最大化期望的终端财富。针对蒙特卡罗模拟求解投资组合最优化问题计算量大、耗时长的问题,提出了一种基于终端财富风险测度$CVaR$的闭型共单调界的快速有效的投资组合最优化方法.
2021-04-20 math.ST stat.AP stat.TH
Statistical Analysis from the Fourier Integral Theorem
University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文以Fourier积分定理为出发点,研究了多元分布和条件分布函数的自然蒙特卡罗估计和完全非参数估计。我们这样做不需要任何估计的协方差阵或变量之间的依赖结构。这些方面直接从积分定理产生。能够使用条件分布函数建模多变量数据集,我们可以研究一些问题,如马尔可夫过程的预测,依赖于协变量的混合分布函数的估计,以及一般的多变量数据。估计是明确的蒙特卡罗为基础,不需要递归或迭代算法。
2021-06-11 cs.LG stat.CO stat.ME
Exploring the likelihood surface in multivariate Gaussian mixtures using Hamiltonian Monte Carlo
针对高斯混合模型似然多模态导致优化器易陷入局部最优的问题,提出用哈密顿蒙特卡洛探索高似然参数空间并结合拟牛顿优化的方法,经三分量二元混合模拟数据集测试,通过优化马尔可夫链混合性找到了对应数据集的全局最大似然估计。
2023-08-28 stat.ME
Roll-back Hamiltonian Monte Carlo
提出了一种新的哈密顿蒙特卡罗(HMC)框架,截断概率分布光滑的底层密度函数。传统的HMC需要计算与目标分布相关联的势函数的梯度,因此,由于缺乏连续性和可微性,因此不能对截尾分布执行其全部功率。在我们的框架中,我们在密度函数中引入了一个尖锐的S形因子来近似截断边界处的概率下降。目标势函数由一个新的势函数逼近,该势函数平滑地扩展到整个样本空间。然后对近似势进行HMC。虽然我们的方法很容易实现,并适用于广泛的问题,它也实现了可比的计算效率相比,其他基线方法在各种采样任务。RBHMC还为约束空间上的贝叶斯推断提供了一种新的方法。
2017-09-08 stat.ML
Multivariate Smoothing via the Fourier Integral Theorem and Fourier Kernel
从傅里叶积分定理出发,给出了多元函数的自然蒙特卡罗估计,包括密度、混合密度、转移密度、回归函数,以及多元密度函数的模式搜索(模式回归).收敛速率被建立,并且在许多情况下,提供优于当前标准估计器的速率,诸如基于核的那些,包括核密度估计器和核回归函数。数值例子。
2020-12-28 math.ST stat.ME stat.ML
Ensuring Reliable Monte Carlo Estimates of Network Properties
社会网络分析的文献主要集中在需要完整网络数据的方法和模型上;然而,由于网络的规模或复杂性,访问限制或感兴趣的人群难以达到,因此存在许多只能通过抽样方法进行研究的网络。在这种情况下,应用基于随机游动的马尔可夫链蒙特卡罗(MCMC)方法来估计多个网络特征是常见的。然而,这些估计的可靠性在很大程度上被忽视了。我们认为,并进一步发展多元MCMC输出分析方法的背景下,网络抽样直接解决的可靠性的多元估计。这种方法产生的原则,计算效率高,广泛适用的方法来评估的蒙特卡罗估计程序。特别是,相对于两个随机游走算法,一个简单的随机游动和大都市-黑斯廷斯随机游动,我们构建和比较网络参数估计,有效的样本量,覆盖概率,和停止规则,所有这些都谈到了估计的可靠性。
2019-11-22 cs.SI stat.AP stat.ME
An Effective Multivariate Normality Test via Hessians of Empirical Cumulant Generating Functions
在这篇文章中,我们提出了一类新的一致性测试$p$ -变量的正态性。这些测试是基于标准的多元正态分布的特征,即相应的累积量生成函数的Hessian是相同的$p\times p$单位矩阵和从联合分布的信息分解到依赖copula和所有边缘分布的想法。在多元正态性的原假设下,我们提出的检验统计量独立于未知的均值向量协方差阵,从而可以通过蒙特卡罗模拟得到检验的无分布临界值.我们还推导出了所提出的检验统计量的渐近零分布,并建立了对不同固定替代品的检验的一致性。最后但并非最不重要的是,一个全面和广泛的蒙特卡洛研究也表明,我们的测试是一个极好的,但计算方便的竞争对手,许多著名的现有检验统计量。
2023-03-20 stat.ME
Multi-purpose open-end monitoring procedures for multivariate observations based on the empirical distribution function
我们提出了非参数开放式序贯检验程序,可以检测到所有类型的变化,在当代分布函数可能的多变量观测。它们的渐近性质的理论研究下平稳和平稳的替代品。蒙特卡罗实验表明,在连续的单变量,双变量和三变量的情况下,他们良好的有限样本行为。一个简短的数据例子结束了这项工作。
2022-11-12 stat.ME
Monte Carlo Dependency Estimation
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院)
估计变量的相关性是数据分析中的一项基本任务。识别数据库中的相关属性可以更好地理解数据,并在运行时间和质量方面提高学习算法的性能。在数据流中,依赖性监控提供了对底层流程的关键洞察,但具有挑战性。在本文中,我们提出了蒙特卡罗依赖估计(MCDE),一个理论框架,以估计静态和动态数据中的多变量依赖。MCDE通过蒙特卡罗模拟将依赖性量化为边际分布和条件分布之间的平均差异。在此基础上,我们提出了一种新的依赖估计方法--Mann-Whitney P(MWP)。我们表明,MWP满足一些理想的属性,可以容纳任何类型的数值数据。我们证明了我们的估计的优越性,通过比较它的国家的最先进的多元依赖措施。
2018-10-04 cs.DS cs.LG stat.ML
Multivariate normality test based on the uniform distribution on the Stiefel manifold
Tokyo University of Science(东京科学大学)
本文提出基于Stiefel流形上均匀分布的多元正态性检验方法,通过残差矩阵与Wishart矩阵对称平方根的乘积构造检验统计量,证明其在原假设下服从矩阵正态分布,并通过蒙特卡洛模拟评估检验功效和一类错误率。
2026-03-13 math.ST stat.TH
CATVI: Conditional and Adaptively Truncated Variational Inference for Hierarchical Bayesian Nonparametric Models
London School of Economics(伦敦政治经济学院);JP Morgan Chase & Co.(摩根大通公司)
现有的多层贝叶斯非参数模型的变分推断方法由于均值场的设置,既不能刻画潜变量间的相关结构,又由于普遍截断,不能推断真实的后验维数。为了克服这些局限性,我们提出了条件和自适应截断变分推断方法(CATVI),通过最大化的非参数证据下限,并集成蒙特卡罗到变分推断框架。与传统方法相比,CATVI具有几个优点,包括变分后验和真后验之间的偏差较小,欠拟合或过拟合的风险降低,以及预测精度提高。在三个大型数据集上的实证研究表明,CATVI应用于贝叶斯非参数主题模型大大优于竞争模型,提供更低的困惑和更清晰的主题词聚类。
2022-04-05 cs.LG stat.ML
Minimum Relative Entropy Inference for Normal and Monte Carlo Distributions
ARPM
我们把指数族分布的仿射子流形表示为最小相对熵子流形。利用这种表示,我们推导出了多元正态分布的期望和协方差的部分信息推断的解析公式,并通过蒙特卡罗模拟改进了广义期望型部分信息推断的数值实现.
2020-07-13 cs.LG stat.ML
Closed-form likelihood expansions for multivariate diffusions
本文给出了离散时间间隔采样的多元扩散的对数似然函数的封闭展开式。利用扩散模型提供的特殊结构,显式地计算膨胀系数。在金融统计和蒙特卡洛证据的兴趣的例子包括在内,随着收敛的扩展到真正的似然函数。
2008-04-04 math.ST stat.TH
Scalable Sampling of Truncated Multivariate Normals Using Sequential Nearest-Neighbor Approximation
该研究提出一种基于序列最近邻近似的线性复杂度TMVN采样方法,通过调优维度参数m平衡保真度与效率,解决了现有方法接受率随维度骤降的问题,在数万维场景下性能优于前沿方法,还可用于部分删失高斯过程的后验推断。
2024-06-25 stat.CO
Specification procedures for multivariate stable-Paretian laws for independent and for conditionally heteroskedastic data
本文提出基于经验特征函数的多元稳定Paretian分布拟合优度检验方法,适用于独立同分布数据与GARCH模型新息,分析了渐近与有限样本性质并应用于金融市场数据。
2023-10-20 math.ST stat.TH
A Method Expanding 2 by 2 Contingency Table by Obtaining Tendencies of Boolean Operators: Boolean Monte Carlo Method
医学检验和诊断的准确性经常用2 × 2列联表来讨论。然而,很难将2 × 2列联表应用于多变量情况,因为可能的类别数量呈指数级增加。本研究的目的是介绍一种方法,通过它我们可以获得布尔算子的趋势,并建立一个2 × 2列联表,以多元情况。在这种方法中,我们随机分配布尔运算符之间的二元变量,并专注于频率的布尔运算符,可以正确地解释结果。我们通过卡方检验确定布尔算子的趋势。作为应用,我们对一个数据集,其中包括患者的年龄,体重指数(BMI),平均动脉压(MAP)和糖尿病进展的定量测量($Y$)进行了这种方法。我们为每个变量设置截止值,并将其视为二进制变量。年龄、BMI和MAP的交互作用被确定为年龄$and$ BMI $and$ MAP($p<0.0001$)在估计$Y$中的敏感性、特异性、阳性预测值和阴性预测值分别为0.50、0.85。0.59、0.80。用这种方法可以确定布尔算子的趋势,并构造多元情况下的2 × 2列联表。
2020-04-10 q-bio.QM stat.ME
A monotone data augmentation algorithm for longitudinal data analysis via multivariate skew-t, skew-normal or t distributions
重复测量混合效应模型(MMRM)已被广泛用于分析在多个固定时间点收集的纵向临床数据。本文在多元skew- t分布的基础上,提出了一种适用于偏态和重尾数据的MMRM的鲁棒扩展,并将多元正态分布、t分布和偏态正态分布作为特例。利用单调数据增广和参数扩展技术,提出了一种有效的马尔可夫链蒙特卡罗算法。我们采用该算法进行控制模式插补的敏感性分析的纵向临床试验与不可解释的脱落。所提出的方法说明了实际数据分析。在线补充材料中提供了用于分析的SAS程序示例。
2019-08-09 stat.ME
hdtg: An R package for high-dimensional truncated normal simulation
从多元截断正态分布(MTN)进行模拟在各种统计应用中是必需的,但在高维中仍然具有挑战性。目前可用的算法和它们的实现往往失败时,参数的数量超过几百个。为了提供一个通用的计算工具,有效地从高维MTN采样,我们介绍了hdtg包,实现了两个国家的最先进的模拟算法:谐波哈密顿蒙特卡罗(谐波HMC)和锯齿形哈密顿蒙特卡罗(Zigzag-HMC)。这两种算法都利用解析解的哈密顿动力学下的二次势能与硬边界约束,导致拒绝自由的方法。我们比较他们的效率对另一个国家的最先进的算法MTN模拟,最小最大倾斜接受拒绝采样器(MET)。这三种方法的运行时间在很大程度上取决于底层的多元正态相关结构。Zigzag-HMC和harmonic-HMC都在3,600秒内实现了100个有效样本,所有测试的维度范围从100到1,600,而MET在几个高维示例中有困难。我们提供了如何选择一个适当的方法为特定情况下的指导,并说明了hdtg的用法。
2022-09-23 stat.AP stat.CO
Simulation of truncated normal variables
本文给出了单侧和双侧截断正态分布的模拟算法。然后,这些算法被用来模拟多元正态变量与限制的参数空间的任何协方差结构。
2009-07-23 stat.CO stat.ME
alphastable: An R Package for Modelling Multivariate Stable and Mixture of Symmetric Stable Distributions
稳定分布族由于同时考虑了偏态和重尾,在许多研究领域得到了广泛的应用。在本文中,我们介绍了一个用R语言编写的软件包,称为Alphastable。Alphastable执行各种任务,包括:1-从单变量,截断和多变量稳定分布生成随机数。2-计算一元和多元椭圆等高稳定分布的概率密度函数,3-计算一元稳定分布的分布函数,4-估计一元对称稳定分布、一元柯西分布、柯西混合分布、一元对称稳定分布、多元椭圆等高稳定分布和多元严格稳定分布的参数。这个包,因为它将被证明,是非常有用的建模数据在单变量和多变量的情况下,出现在金融和经济领域。
2018-09-25 stat.CO
The Normal Law Under Linear Restrictions: Simulation and Estimation via Minimax Tilting
从高维截断的多元正态分布进行模拟是统计计算中经常出现的问题,并且通常仅使用近似MCMC抽样是可行的。在这篇文章中,我们提出了一个minimax倾斜方法,从截断的多元正态分布精确模拟iid。新的方法提供了一种模拟方法和一个有效的估计到目前为止棘手的高斯积分。证明了该估计量具有罕见的零相对误差渐近性质。数值实验表明,该方案是准确的,在广泛的设置竞争估计方案失败。我们给出了一个应用程序,以准确的iid模拟的概率回归模型的贝叶斯后验。
2016-03-14 stat.CO
Large-scale inference of correlation among mixed-type biological traits with phylogenetic multivariate probit models
在进化历史中推断生物性状之间的协同变化仍然是一个重要而具有挑战性的问题。除了调整由共享历史引起的虚假相关性之外,该任务还需要足够的灵活性和计算效率,以随着数据大小的增加而合并多个连续和离散特征。为了实现这一点,我们共同模型的混合型性状,假设潜在参数的二进制结果尺寸的提示未知树的分子序列。这就产生了一个系统发育的多变量概率单位模型。由于样本量较大,该模型下的后验计算存在问题,因为它需要从高维截断正态分布中重复采样。当前的最佳实践采用多次尝试拒绝抽样,其遭受缓慢混合和在样本量中二次缩放的计算成本。我们开发了一种新的推理方法,利用1)弹性粒子采样器(BPS)的基础上分段确定性马尔可夫过程,同时采样所有截断正常的尺寸,和2)新的动态规划,降低成本的似然和梯度评估BPS的线性样本量。在一个有535个HIV病毒和24个特征的应用程序中,需要从12,840维截断正常值中进行采样,我们的方法可以估计跨特征相关性并检测影响病原体致病能力的因素。这种推理框架也适用于比较生物学之外的更广泛的协方差结构。
2020-09-23 q-bio.PE stat.CO stat.ME
Simulating High-Dimensional Multivariate Data using the bigsimr R Package
在采用蒙特卡罗技术和评估统计方法学时,准确模拟数据至关重要。在这个大数据时代,测量通常是相关的和高维的,例如在高通量生物医学实验中获得的数据。由于计算的复杂性和缺乏用户友好的软件来模拟这些大规模的多变量结构,研究人员求助于模拟设计,独立或执行任意的数据转换。为了弥补这一差距,我们开发了带有R和Python接口的Bigsimr Julia包。本文主要讨论R接口。这些软件包通过Pearson、Spearman或Kendall相关矩阵支持任意边缘分布和相关性的高维随机向量模拟。bigsimr包含高性能功能,包括多核和图形处理单元加速算法,用于估计相关性和计算最接近的相关矩阵。蒙特卡罗研究量化的准确性和可扩展性,我们的方法,高达$d=10,000$。我们描述了示例工作流程,并应用于高维数据集-从乳腺癌肿瘤样本中获得的RNA测序数据。
2021-11-11 stat.AP stat.CO
Scalable computation of predictive probabilities in probit models with Gaussian process priors
二进制数据的预测模型是各个领域的基础,并且现代应用的日益复杂性激发了几种灵活的规范来建模所观察到的预测因子和二进制响应之间的关系。一个广泛实施的解决方案是通过预测指标索引的高斯过程的概率比特映射来表达概率参数。然而,与连续设置不同,在具有高斯过程先验的二元模型中,缺乏预测分布的封闭形式结果。马尔可夫链蒙特卡罗方法和近似策略为这个问题提供了常见的解决方案,但最先进的算法要么计算上难以处理,要么在中高维中不准确。在这篇文章中,我们的目标是通过推导概率单位高斯过程中的预测概率的封闭形式表达式来弥补这一差距,该过程依赖于多元高斯的累积分布函数或多元截断法线的泛函。为了评估这些数量,我们开发了新的可扩展的解决方案的基础上瓷砖低秩蒙特卡罗方法计算多元高斯概率,和平均场变分近似的多元截断法线。封闭形式的表达式的边缘似然和后验分布的高斯过程进行了讨论。如模拟和真实世界的实证研究所示,所提出的方法可扩展到最先进的解决方案不切实际的维度。
2022-01-27 stat.CO
Approximating multivariate posterior distribution functions from Monte Carlo samples for sequential Bayesian inference
贝叶斯统计的一个重要特征是有机会进行顺序推断:在看到数据集后获得的后验分布可以用作第二次推断的先验。然而,当使用蒙特卡罗抽样方法进行推断时,我们只有一组来自后验分布的样本。为了进行序贯推理,我们要么只在这些位置评估第二后验概率,并相应地重新加权样本,要么我们可以从样本中估计后验概率分布的函数描述,并将其用作第二次推理的先验。在这里,我们研究了在何种程度上,我们可以获得一个准确的联合后验从两个数据集,如果推理是顺序完成的,而不是联合,在每个推理步骤的条件下,使用蒙特卡罗采样。为了验证这一点,我们评估了核密度估计,高斯混合,藤copulas和高斯过程在近似后验分布的准确性,然后测试这些近似是否可以用于序贯推理。在低维情况下,高斯过程更准确,而在高维情况下,高斯混合或藤蔓Copula表现得更好。在我们的测试案例中,后验近似优于直接样本重新加权,尽管联合推理仍然优于顺序推理。由于性能是特定情况下,我们提供了一个R包mvdens与密度近似方法的统一接口。
2019-06-21 stat.CO
Linear-Cost Vecchia Approximation of Multivariate Normal Probabilities
University of Houston(休斯顿大学);Department of Statistics, University of Wisconsin–Madison(威斯康星大学麦迪逊分校统计学系)
本文提出了一种基于Vecchia近似的线性成本方法,用于高效估计多元正态概率及截断分布采样,同时保持与MET方法相同的收敛速率。
2026-01-26 stat.CO
Efficient Statistics, in High Dimensions, from Truncated Samples
Massachusetts Institute of Technology(麻省理工学院);Max Plank Institute for Informatics(马克斯·普朗克信息研究所);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们提供了一个有效的算法的经典问题,可以追溯到高尔顿,皮尔逊和费舍尔,估计,任意精度的多元正态分布的参数,从截尾样本。来自$d$ -变量正态${\cal N}(\mathbfμ,\mathbfΣ)$的截尾样本意味着样本仅在其落入某个子集$S \subseteq \mathbb{R}^d$时才被显示;否则样本被隐藏,并且它们与所显示的样本成比例的计数也被隐藏。证明了在多项式时间内,只要我们有对$S$的oracle访问,就可以以任意精度估计均值$\mathbfμ$和协方差矩阵$\mathbfΣ$,并且在未知的$d$ -变量正态分布下,$S$具有非平凡测度.此外,我们表明,没有Oracle访问$S$,任何非平凡的估计是不可能的。
2020-10-22 cs.DS cs.LG math.ST