Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算(ABC)是处理具有难处理的可能性的模型的一般方法。在这项工作中,我们推导出基于QMC(准蒙特卡罗)序列的ABC算法。我们表明,由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体,逐步适应提案分布和接受阈值。我们说明了我们的QMC方法,通过几个例子从ABC文学。保留字:近似贝叶斯计算,无似然推断,拟蒙特卡罗,随机化拟蒙特卡罗,自适应重要性抽样
2018-05-07 stat.CO
Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains
不可逆和无拒绝蒙特卡罗方法,最近在物理学中以事件链的名义开发,在统计学中称为分段确定性蒙特卡罗(PDMC),已被证明比标准蒙特卡罗方法产生明显的加速,这要归功于它们的随机游走行为的减少。然而,当将这样的方案应用于标准统计模型时,为了正确性,通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法,减少这种额外的随机化到最低限度。我们比较了这种新方法的效率,标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。
2020-04-27 stat.CO
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较,效率的各种复杂性的测试问题,其中解析求积。比较的方法是伪随机数的蒙特卡罗,拉丁超立方抽样,准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效,但后者的不等式适用于减少的函数类型集和少量的采样点。总之,拟蒙特卡罗方法将出现最安全的赌注时,集成功能的未知类型。
2015-05-10 stat.AP stat.CO
Identifying the Optimal Integration Time in Hamiltonian Monte Carlo
通过利用光滑概率系统的自然几何结构,哈密顿蒙特卡罗产生计算效率高的马尔可夫链蒙特卡罗估计。至少在算法足够好的情况下。在本文中,我将展示如何几何基础的哈密顿蒙特卡罗隐含地确定这些参数的最佳选择,特别是积分时间。然后,我认为这些原则在现有的算法和一个新的实现称为\emph{Exhaustive Hamiltonian Monte Carlo}的实际后果,然后在一些说明性的例子证明这些想法的效用。
2016-01-02 stat.CO stat.ME
Simple rejection Monte Carlo algorithm and its application to multivariate statistical inference
本文针对拒绝蒙特卡洛算法应用较少的问题,提出一种简化版本,并以多元分布抽样和多元积分为例展示其在统计推断中的具体应用。
2024-02-27 stat.CO
Zero Variance and Hamiltonian Monte Carlo Methods in GARCH Models
在本文中,我们发展了贝叶斯哈密顿蒙特卡罗方法的推断在非对称的Gestival模型在不同的分布的误差项。我们实现了零方差和哈密顿蒙特卡罗计划的参数估计,试图减少标准误的估计,从而获得更有效的结果,在一个小的额外的计算成本的价格。
2017-10-20 stat.CO
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究,在设置中,X的n个独立观测值被先验地给出,并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中,我们感兴趣的是,而不是在这种情况下,观察产生的蒙特卡罗模拟从一个模型。然后,可以利用方差缩减方法,如分层,条件蒙特卡罗,和随机准蒙特卡罗(RQMC),并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法,在最近的论文中提出,重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法,如平滑扰动分析或似然比方法,以获得cdf的连续估计量,其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法,并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
Multilevel Monte Carlo estimation of log marginal likelihood
University of Tokyo(东京大学)
在这个简短的说明中,我们提供了一个无偏的多级蒙特卡罗估计的对数边际似然,并讨论其应用变分贝叶斯。
2019-12-23 cs.LG stat.ML
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断,退火顺序蒙特卡罗方法,基于最近的进展,如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数,以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能,通过审查和比较与其他计算贝叶斯系统发育方法,特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中,我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动,因此受益于大量的库存,这种移动在文献中。因此,退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布,主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波,并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现,认为它们在统计中仍然没有得到充分的使用,尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
Monte Carlo Methods in Statistics
蒙特卡罗方法现在是统计学家工具箱的重要组成部分,对于研究生来说,它比它们所基于的测量理论概念更熟悉!我们在本说明中回顾了蒙特卡罗技术在统计学中的应用设计方面所取得的一些进展,并参考了Robert和Casella(2004,2010)的深入报道。
2009-09-02 stat.CO
Piecewise Deterministic Markov Processes for Scalable Monte Carlo on Restricted Domains
分段确定性蒙特卡罗算法允许从后验分布进行模拟,同时在每次迭代时仅需要访问数据的子样本。我们将展示如何在参数位于受限域的设置中实现它们。
2018-02-17 stat.CO stat.ME
Subspace Langevin Monte Carlo
Brandeis University(布兰迪大学)
针对高维分布采样的计算挑战,提出子空间朗之万蒙特卡洛方法,通过投影到子采样特征块推广现有方法,兼具适应性与效率,建立了误差保证并通过实验验证了其在病态分布采样中的有效性。
2025-05-19 cs.LG stat.ML
Rare Events via Cross-Entropy Population Monte Carlo
提出了一种基于交叉熵的群体蒙特卡罗算法。这种方法与之前的工作不同,因为我们没有优化混合分布。相反,我们利用确定性的混合权重,并通过重新解释交叉熵方法的典型推导来单独优化分布。数值算例表明,该算法的性能优于现有的种群蒙特卡罗方法,特别是对高维问题。
2021-10-12 stat.CO
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿,马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里,它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中,我将回顾马尔可夫链蒙特卡罗的历史,从一开始的大都会方法,今天的国家的最先进的哈密顿蒙特卡罗。在此过程中,我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
Introducing Monte Carlo Methods with R Solutions to Odd-Numbered Exercises
这是我们的书“Introducing蒙特卡罗Methods with R”中奇数练习的解决方案手册,由Springer Verlag于2009年12月10日出版,并免费提供给每个人。
2010-01-17 stat.CO stat.ME
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛(SMC)方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限,包括有限空间,产品措施,和对数凹分布,包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
On the effective dimension and multilevel Monte Carlo
我考虑在$d$维单位立方体上积分函数$f$的问题。我描述了一个多层次的蒙特卡罗方法,估计在最多$ε^{2}$在$O(d+\ln(d)d_{t}ε^{-2})$时间,为$ε>0$,其中$d_{t}$是截断维数的$f$的积分方差。相比之下,标准蒙特卡罗方法通常在$O(dε^{-2})$时间内实现这种变化。给出了一类多层蒙特卡罗方法$d+d_{t}ε^{-2}$阶数下界。
2021-11-05 cs.NA math.NA stat.CO
Quasi continuous level Monte Carlo for random elliptic PDEs
本文提出拟连续水平蒙特卡洛方法,用拟蒙特卡洛序列生成指数分布随机变量,显著降低方差,在随机椭圆偏微分方程示例中明显优于多水平和连续水平蒙特卡洛。
2023-10-12 cs.NA math.NA math.PR
Error estimation for quasi-Monte Carlo
本文介绍了量化拟蒙特卡罗估计误差的新旧方法,指出获取精度与估计精度之间的冲突及不确定性量化过于保守的挑战,并发现RQMC估计的近对称分布有望构建无需中心极限定理或一致方差估计的置信区间。
2025-07-15 cs.NA math.NA stat.CO
Markov Chain Monte Carlo Estimation of Quantiles
我们考虑分位数估计使用马尔可夫链蒙特卡罗和建立条件下的抽样分布的蒙特卡罗误差是近似正态的。此外,我们研究技术来估计相关的渐近方差,这使得建设一个渐近有效的区间估计。最后,我们通过实例探讨了这些方法的有限样本性质,并为从业者提供了一些建议。
2014-09-30 math.ST stat.CO stat.TH
Some Contributions to Sequential Monte Carlo Methods for Option Pricing
期权定价是金融工程中的一个重要问题。在许多具有实际意义的场景中,与标的资产相关的金融期权价格简化为计算w.r.t.~扩散过程。一般来说,这些期望值无法通过分析计算,而近似这些数量的一种方法是通过蒙特卡罗方法;蒙特卡罗方法至少从20世纪70年代开始就被用于期权定价。在Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗",序贯蒙特卡罗(SMC)方法是应用于这种情况的自然工具,可以大大改善标准蒙特卡罗。在本文中,本着类似的精神,Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗"我们表明,通过构建一系列人工目标密度随时间的推移使用SMC方法可以实现显着收益。特别是,我们近似的最佳重要性抽样分布的SMC算法,通过使用一系列的加权函数。这是证明了两个例子,障碍期权和目标应计赎回票据(TARN的)。我们还提供了我们的SMC估计的无偏性的证明。
2016-08-11 q-fin.CP q-fin.PR stat.CO
Extending Monte Carlo Methods to Factor Graphs with Negative and Complex Factors
因子图的配分函数有时可以用蒙特卡罗方法精确估计。在本文中,这样的方法被扩展到因子图的负和复杂的因素。
2012-10-07 cs.IT math.IT stat.AP
A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
The Geometry of Hamiltonian Monte Carlo
哈密顿蒙特卡罗是一种有效的马尔可夫链蒙特卡罗技术,它系统地探索了概率分布;然而,它最终取决于选择合适的哈密尔顿函数。通过考察哈密顿动力学的辛几何基础和马尔可夫链蒙特卡罗的要求,我们构造了可容许哈密顿量的一般形式,并提出了一种在贝叶斯推断中具有潜在应用的特殊选择.
2011-12-18 physics.data-an stat.ME
Sweave Documentation for "Implementing Markov chain Monte Carlo: Estimating with confidence"
该文件是Flegal,J.M. Jones,G. L.(2010),“Implementing马尔可夫链蒙特卡罗:Estimating with confidence”,in Handbook of马尔可夫链蒙特卡罗,edited by Brooks,S.,Gelman,A.,琼斯,G.,和Meng,X.出版社:Chapman & Hall/CRC Press
2010-06-24 stat.OT
The Fundamental Incompatibility of Hamiltonian Monte Carlo and Data Subsampling
利用哈密顿流的相干探索,哈密顿蒙特卡罗产生计算效率高的蒙特卡罗估计,即使对于复杂和高维的目标分布。然而,当遇到数据密集型应用程序时,该算法的实现可能过于昂贵,这让我们需要考虑数据二次采样等近似方法的实用性。在本文中,我演示了如何从根本上妥协的有效探索汉密尔顿流的数据二次采样,因此可扩展性能的哈密顿蒙特卡罗本身。
2015-02-05 stat.ME
Multilevel Monte Carlo simulation of a diffusion with non-smooth drift
我们表明,Lasso和贝叶斯Lasso是非常接近时,稀疏性是大的,噪声是小的。然后我们提出用多值随机微分方程求解贝叶斯套索。给出了三种离散化算法,并给出了计算蒙特卡罗(MC)、多级蒙特卡罗(MLMC)和MCMC算法的代价的方法。
2015-04-24 math.ST stat.TH
Covariance estimation using h-statistics in Monte Carlo and multilevel Monte Carlo methods
本文提出利用 h-statistics 的 MC 与 MLMC 无偏协方差估计方法,以闭式形式构造无偏均方误差,并通过一维随机椭圆 PDE 验证数值效果。
2024-05-08 cs.NA math.NA math.ST
Likelihood-free Markov chain Monte Carlo
出现在MCMC手册中,S。P. Brooks,A. Gelman,G.琼斯和X L. Meng(eds),Chapman & Hall.
2010-01-13 stat.ME
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种模拟方法,通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer(1992)开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法,提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME
A General Metric for Riemannian Manifold Hamiltonian Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种非常有用的复杂模型推理方法,而哈密顿蒙特卡罗,特别是黎曼流形哈密顿蒙特卡罗(RMHMC),在许多具有挑战性的问题上取得了令人瞩目的成功。然而,目前的RMHMC实现依赖于黎曼度量,这限制了其应用于分析方便的模型。在本文中,我提出了一个新的度量RMHMC没有这些限制,并验证其成功的分布,模拟许多层次和潜在的模型。
2013-09-18 physics.data-an stat.ME
A comparison of nonlinear population Monte Carlo and particle Markov chain Monte Carlo algorithms for Bayesian inference in stochastic kinetic models
本文讨论了随机动力学模型中后验概率分布的蒙特卡罗逼近问题。SKM是一种多变量马尔可夫跳过程,它根据一组不确定参数来模拟生物化学系统中物种之间的相互作用。马尔可夫链蒙特卡罗(MCMC)方法通常优选用于该贝叶斯推断问题。具体而言,粒子MCMC(pMCMC)方法最近已被证明是一种有效的,而计算要求,适用于这个问题的方法。在pMCMC框架内,重要性抽样(IS)仅用作Metropolis-Hastings内核中接受率的序贯蒙特卡罗(SMC)近似的基础。然而,最近提出的非线性人口蒙特卡罗(NPMC)算法,迭代IS计划的基础上,也已被证明是有效的贝叶斯推断工具,低维(捕食者-猎物)SKMs。在本文中,我们提供了一个广泛的性能比较pMCMC与NPMC,当应用到具有挑战性的原核自动调节网络。我们展示了如何NPMC方法可以大大优于pMCMC算法在这种情况下,与整体适度的计算工作。我们补充的两种技术的数值比较与渐近收敛分析的非线性IS计划的核心时,所提出的方法的重要性权重只能近似计算。
2014-04-21 stat.ME