Evaluating the Implicit Midpoint Integrator for Riemannian Manifold Hamiltonian Monte Carlo
黎曼流形的哈密顿蒙特卡罗传统上是用广义蛙跳积分器进行的。然而，该积分器不是唯一的选择，可以考虑产生有效的马尔可夫链转移算子的其他积分器。在这项工作中，我们研究了隐式中点积分作为替代广义蛙跳积分。我们讨论的优点和缺点的隐式中点积分哈密顿蒙特卡罗，其理论性质，和经验评估的关键属性，这样的积分哈密顿蒙特卡罗：能量守恒，体积守恒，可逆性。从经验上讲，我们发现，虽然蛙跳迭代更快，隐式中点积分器具有更好的能量守恒，导致更高的接受率，以及更好的体积守恒和更好的可逆性，可以说产生一个更准确的采样过程。
2021-07-09 stat.CO
On the effective dimension and multilevel Monte Carlo
我考虑在$d$维单位立方体上积分函数$f$的问题。我描述了一个多层次的蒙特卡罗方法，估计在最多$ε^{2}$在$O(d+\ln(d)d_{t}ε^{-2})$时间，为$ε>0$，其中$d_{t}$是截断维数的$f$的积分方差。相比之下，标准蒙特卡罗方法通常在$O(dε^{-2})$时间内实现这种变化。给出了一类多层蒙特卡罗方法$d+d_{t}ε^{-2}$阶数下界。
2021-11-05 cs.NA math.NA stat.CO
Error estimation for quasi-Monte Carlo
本文介绍了量化拟蒙特卡罗估计误差的新旧方法，指出获取精度与估计精度之间的冲突及不确定性量化过于保守的挑战，并发现RQMC估计的近对称分布有望构建无需中心极限定理或一致方差估计的置信区间。
2025-07-15 cs.NA math.NA stat.CO
Convergence Rate of Riemannian Hamiltonian Monte Carlo and Faster Polytope Volume Computation
我们给出了第一个严格的证明的收敛性的黎曼哈密顿蒙特卡罗，一般（和实用）的方法抽样吉布斯分布。我们的分析表明，收敛速度是有界的自然光滑参数的一个相关联的黎曼流形。然后，我们应用的方法与流形定义的对数障碍函数的问题（1）均匀采样的多面体和（2）计算其体积，后者通过扩展高斯冷却的流形设置。在这两种情况下，所需的总步骤数是O^{*}（mn^{ \frac{2}{3} }），提高了现有技术。我们分析的一个关键成分是证明流形上吉布斯分布的KLS猜想的模拟。
2017-10-17 cs.DS math.FA stat.ML
Introducing an Explicit Symplectic Integration Scheme for Riemannian Manifold Hamiltonian Monte Carlo
University of Oxford（牛津大学）
我们介绍了一个最近的辛积分方案，解决物理激励系统不可分的哈密顿。我们证明了它的相关性黎曼流形哈密顿蒙特卡罗（RMHMC），并提供了一种替代目前使用的广义蛙跳辛积分，这依赖于解决多个不动点迭代收敛。通过这种方法，我们能够减少每个蛙跳步骤的高阶导数计算的数量。我们探讨了这个积分器的影响，并证明了它的有效性，在减少计算负担的RMHMC。我们的代码在一个新的开源Python包hamiltorch中提供。
2019-10-14 cs.LG stat.ML
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛（SMC）方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
Adaptive Riemannian Manifold Hamiltonian Monte Carlo with Hierarchical Metric
University of Jyväskylä（于韦斯屈莱大学）；Lund University（隆德大学）
本文提出一种自适应分层黎曼流形哈希蒙特卡洛方法，通过分层度量改进混合效率，无需目标密度具有分层结构，适用于高维贝叶斯推断。
2026-04-15 stat.CO
Curvature and Concentration of Hamiltonian Monte Carlo in High Dimensions
在这篇文章中，我们分析哈密顿蒙特卡罗（HMC）通过放置在黎曼几何的设置使用雅可比度量，使每一步对应于一个合适的黎曼流形上的测地线。然后，我们结合的概念曲率的马尔可夫链由于Joulin和奥利维尔与经典的截面曲率从黎曼几何推导出误差界HMC在重要的情况下，我们有积极的曲率。这些情况包括几个经典的分布，如多元高斯分布，也出现在贝叶斯图像配准的研究中的分布。理论的发展表明，截面曲率作为一种新的诊断工具，某些马尔可夫链的收敛性。
2015-05-19 math.DG math.PR math.ST
Multilevel Monte Carlo simulation of a diffusion with non-smooth drift
我们表明，Lasso和贝叶斯Lasso是非常接近时，稀疏性是大的，噪声是小的。然后我们提出用多值随机微分方程求解贝叶斯套索。给出了三种离散化算法，并给出了计算蒙特卡罗（MC）、多级蒙特卡罗（MLMC）和MCMC算法的代价的方法。
2015-04-24 math.ST stat.TH
Adaptive Tuning Of Hamiltonian Monte Carlo Within Sequential Monte Carlo
序贯蒙特卡罗（SMC）采样器形成了一个有吸引力的替代MCMC贝叶斯计算。然而，它们的性能在很大程度上取决于用于恢复粒子的马尔可夫核。我们讨论了如何自动校准（使用当前粒子）哈密顿蒙特卡罗内核SMC。为此，我们建立在Fearnhead和Taylor（2013）的自适应SMC方法的基础上，我们还提出了替代方法。我们通过广泛的数值研究说明了在SMC采样器内使用HMC内核的优点。
2020-02-12 stat.CO
Condition-number-independent convergence rate of Riemannian Hamiltonian Monte Carlo with numerical integrators
Georgia Tech（佐治亚理工学院）；University of Washington（华盛顿大学）；Microsoft Research（微软研究院）
本文研究了凸体$\mathcal{M}\subset\mathbb{R}^{n}$上$e^{-f(x)}$形式分布采样下的离散化黎曼Hamilton Monte Carlo方法的收敛速度。我们发现，在$m$约束的多面体上的$e^{-α^{\top}x}$形式的分布，一个家庭的常用积分的收敛速度是独立的$\left\Vert α\right\Vert _{2}$和几何的多面体。特别地，隐式中点方法（IMM）和广义蛙跳方法（LM）具有混合时间$\widetilde{O}\left(mn^{3}\right)$以实现到目标分布的$ε$总变化距离。这些保证是基于一般的约束的收敛速度的形式$e^{-f(x)}$的流形和积分的参数方面的密度。我们的理论保证补充了[KLSV 22]的经验结果，这表明具有IMM的RHMC在实践中可以有效地采样非常高维的病态，非光滑和约束分布。
2023-02-11 cs.DS cs.LG cs.NA
Inference with Hamiltonian Sequential Monte Carlo Simulators
本文结合序贯蒙特卡罗模拟器和哈密顿蒙特卡罗模拟器的优点，提出了一种新的蒙特卡罗模拟器。结果是一种对多模态和复杂形状具有鲁棒性的方法，用于在存在困难的似然性或目标函数的情况下进行推理。提供了几个例子。
2018-12-19 stat.CO
A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
Discussion of "Sequential Quasi-Monte Carlo" by Mathieu Gerber and Nicolas Chopin
关于拟蒙特卡罗估计在应用中降低方差可能性的讨论。进一步的细节在随附的论文“拟蒙特卡罗的方差缩减“中提供。
2015-01-14 stat.CO
Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充，可在http://arxiv.org/abs/1106.5850上获得
2013-06-28 stat.CO
Riemannian Langevin Monte Carlo schemes for sampling PSD matrices with fixed rank
Brown University（布朗大学）；Purdue University（普渡大学）；Duke University（杜克大学）
本文提出两种显式数值格式，基于黎曼Langevin方程的Euler-Maruyama离散化，从固定秩半正定矩阵流形上的Gibbs分布中采样，并验证了其有效性。
2023-09-08 cs.LG cs.NA math.NA
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算（ABC）是处理具有难处理的可能性的模型的一般方法。在这项工作中，我们推导出基于QMC（准蒙特卡罗）序列的ABC算法。我们表明，由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体，逐步适应提案分布和接受阈值。我们说明了我们的QMC方法，通过几个例子从ABC文学。保留字：近似贝叶斯计算，无似然推断，拟蒙特卡罗，随机化拟蒙特卡罗，自适应重要性抽样
2018-05-07 stat.CO
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较，效率的各种复杂性的测试问题，其中解析求积。比较的方法是伪随机数的蒙特卡罗，拉丁超立方抽样，准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效，但后者的不等式适用于减少的函数类型集和少量的采样点。总之，拟蒙特卡罗方法将出现最安全的赌注时，集成功能的未知类型。
2015-05-10 stat.AP stat.CO
Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains
不可逆和无拒绝蒙特卡罗方法，最近在物理学中以事件链的名义开发，在统计学中称为分段确定性蒙特卡罗（PDMC），已被证明比标准蒙特卡罗方法产生明显的加速，这要归功于它们的随机游走行为的减少。然而，当将这样的方案应用于标准统计模型时，为了正确性，通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法，减少这种额外的随机化到最低限度。我们比较了这种新方法的效率，标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。
2020-04-27 stat.CO
Identifying the Optimal Integration Time in Hamiltonian Monte Carlo
通过利用光滑概率系统的自然几何结构，哈密顿蒙特卡罗产生计算效率高的马尔可夫链蒙特卡罗估计。至少在算法足够好的情况下。在本文中，我将展示如何几何基础的哈密顿蒙特卡罗隐含地确定这些参数的最佳选择，特别是积分时间。然后，我认为这些原则在现有的算法和一个新的实现称为\emph{Exhaustive Hamiltonian Monte Carlo}的实际后果，然后在一些说明性的例子证明这些想法的效用。
2016-01-02 stat.CO stat.ME
Simple rejection Monte Carlo algorithm and its application to multivariate statistical inference
本文针对拒绝蒙特卡洛算法应用较少的问题，提出一种简化版本，并以多元分布抽样和多元积分为例展示其在统计推断中的具体应用。
2024-02-27 stat.CO
Zero Variance and Hamiltonian Monte Carlo Methods in GARCH Models
在本文中，我们发展了贝叶斯哈密顿蒙特卡罗方法的推断在非对称的Gestival模型在不同的分布的误差项。我们实现了零方差和哈密顿蒙特卡罗计划的参数估计，试图减少标准误的估计，从而获得更有效的结果，在一个小的额外的计算成本的价格。
2017-10-20 stat.CO
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断，退火顺序蒙特卡罗方法，基于最近的进展，如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数，以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能，通过审查和比较与其他计算贝叶斯系统发育方法，特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中，我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动，因此受益于大量的库存，这种移动在文献中。因此，退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究，在设置中，X的n个独立观测值被先验地给出，并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中，我们感兴趣的是，而不是在这种情况下，观察产生的蒙特卡罗模拟从一个模型。然后，可以利用方差缩减方法，如分层，条件蒙特卡罗，和随机准蒙特卡罗（RQMC），并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法，在最近的论文中提出，重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法，如平滑扰动分析或似然比方法，以获得cdf的连续估计量，其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法，并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布，主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波，并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现，认为它们在统计中仍然没有得到充分的使用，尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿，马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里，它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中，我将回顾马尔可夫链蒙特卡罗的历史，从一开始的大都会方法，今天的国家的最先进的哈密顿蒙特卡罗。在此过程中，我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
Monte Carlo Methods in Statistics
蒙特卡罗方法现在是统计学家工具箱的重要组成部分，对于研究生来说，它比它们所基于的测量理论概念更熟悉！我们在本说明中回顾了蒙特卡罗技术在统计学中的应用设计方面所取得的一些进展，并参考了Robert和Casella（2004，2010）的深入报道。
2009-09-02 stat.CO
Introducing Monte Carlo Methods with R Solutions to Odd-Numbered Exercises
这是我们的书“Introducing蒙特卡罗Methods with R”中奇数练习的解决方案手册，由Springer Verlag于2009年12月10日出版，并免费提供给每个人。
2010-01-17 stat.CO stat.ME
Rare Events via Cross-Entropy Population Monte Carlo
提出了一种基于交叉熵的群体蒙特卡罗算法。这种方法与之前的工作不同，因为我们没有优化混合分布。相反，我们利用确定性的混合权重，并通过重新解释交叉熵方法的典型推导来单独优化分布。数值算例表明，该算法的性能优于现有的种群蒙特卡罗方法，特别是对高维问题。
2021-10-12 stat.CO
Combining Normalizing Flows and Quasi-Monte Carlo
本文提出将拟蒙特卡洛采样与归一化流相结合，用拟蒙特卡洛采样流的初始分布，实验表明该组合估计量方差显著低于经典蒙特卡洛采样。
2024-01-11 stat.CO stat.ML
Information-geometric Markov Chain Monte Carlo methods using Diffusions
最近的工作纳入几何思想的马尔可夫链蒙特卡罗进行审查，以突出这些进展和它们可能的应用范围超出统计领域。马尔可夫链及其在统计推断和分子动力学的蒙特卡罗模拟中的应用的充分阐述，特别强调基于朗之万扩散的方法。然后介绍了马尔可夫链蒙特卡罗中的几何概念。给出了黎曼流形上朗之万扩散的一个完整的推导过程，并讨论了在不同的问题中如何选择合适的黎曼度量。提供了一个调查的应用程序，并讨论了一些悬而未决的问题。
2014-04-18 stat.CO stat.ME
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限，包括有限空间，产品措施，和对数凹分布，包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
Generalizing the No-U-Turn Sampler to Riemannian Manifolds
哈密顿蒙特卡罗提供了有效的马尔可夫过渡的代价引入两个自由参数：步长和总积分时间。由于步长控制离散化误差，因此可以容易地对其进行调整以达到一定的精度标准，但总积分时间不受约束。最近Hoffman和Gelman提出了一个标准，用于调整某些系统中的积分时间，他们的无U形转弯采样器，或NUTS。本文研究了NUTS成功的动力学基础，并将其推广到黎曼流形的哈密顿蒙特卡罗。
2013-04-06 stat.ME
Extending Monte Carlo Methods to Factor Graphs with Negative and Complex Factors
因子图的配分函数有时可以用蒙特卡罗方法精确估计。在本文中，这样的方法被扩展到因子图的负和复杂的因素。
2012-10-07 cs.IT math.IT stat.AP
The Geometry of Hamiltonian Monte Carlo
哈密顿蒙特卡罗是一种有效的马尔可夫链蒙特卡罗技术，它系统地探索了概率分布;然而，它最终取决于选择合适的哈密尔顿函数。通过考察哈密顿动力学的辛几何基础和马尔可夫链蒙特卡罗的要求，我们构造了可容许哈密顿量的一般形式，并提出了一种在贝叶斯推断中具有潜在应用的特殊选择.
2011-12-18 physics.data-an stat.ME
Sweave Documentation for "Implementing Markov chain Monte Carlo: Estimating with confidence"
该文件是Flegal，J.M. Jones，G. L.（2010），“Implementing马尔可夫链蒙特卡罗：Estimating with confidence”，in Handbook of马尔可夫链蒙特卡罗，edited by Brooks，S.，Gelman，A.，琼斯，G.，和Meng，X.出版社：Chapman & Hall/CRC Press
2010-06-24 stat.OT
Multilevel Monte Carlo estimation of log marginal likelihood
University of Tokyo（东京大学）
在这个简短的说明中，我们提供了一个无偏的多级蒙特卡罗估计的对数边际似然，并讨论其应用变分贝叶斯。
2019-12-23 cs.LG stat.ML
The Fundamental Incompatibility of Hamiltonian Monte Carlo and Data Subsampling
利用哈密顿流的相干探索，哈密顿蒙特卡罗产生计算效率高的蒙特卡罗估计，即使对于复杂和高维的目标分布。然而，当遇到数据密集型应用程序时，该算法的实现可能过于昂贵，这让我们需要考虑数据二次采样等近似方法的实用性。在本文中，我演示了如何从根本上妥协的有效探索汉密尔顿流的数据二次采样，因此可扩展性能的哈密顿蒙特卡罗本身。
2015-02-05 stat.ME
Subspace Langevin Monte Carlo
Brandeis University（布兰迪大学）
针对高维分布采样的计算挑战，提出子空间朗之万蒙特卡洛方法，通过投影到子采样特征块推广现有方法，兼具适应性与效率，建立了误差保证并通过实验验证了其在病态分布采样中的有效性。
2025-05-19 cs.LG stat.ML
Likelihood-free Markov chain Monte Carlo
出现在MCMC手册中，S。P. Brooks，A. Gelman，G.琼斯和X L. Meng（eds），Chapman & Hall.
2010-01-13 stat.ME
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗（MCMC）是一种模拟方法，通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer（1992）开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法，提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME
Fast Riemannian-manifold Hamiltonian Monte Carlo for hierarchical Gaussian-process models
School of Medicine Nihon University（日本国立大学医学部）
本文针对基于高斯过程的分层贝叶斯模型推断缓慢问题，提出通过按模型结构优化计算顺序并动态规划特征分解来大幅提升黎曼流形哈密顿蒙特卡洛的性能，并在模拟数据与美国医疗支出数据上验证了其有效性。
2025-11-09 cs.LG stat.CO stat.ML
