arXiv 1702.083972017-02stat.CO

前向事件链蒙特卡罗：不可逆马尔可夫链中随机控制的快速采样

Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains

Manon Michel, Alain Durmus, Stéphane Sénécal

摘要：

不可逆和无拒绝蒙特卡罗方法，最近在物理学中以事件链的名义开发，在统计学中称为分段确定性蒙特卡罗（PDMC），已被证明比标准蒙特卡罗方法产生明显的加速，这要归功于它们的随机游走行为的减少。然而，当将这样的方案应用于标准统计模型时，为了正确性，通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法，减少这种额外的随机化到最低限度。我们比较了这种新方法的效率，标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。

英文摘要：

Irreversible and rejection-free Monte Carlo methods, recently developed in Physics under the name Event-Chain and known in Statistics as Piecewise Deterministic Monte Carlo (PDMC), have proven to produce clear acceleration over standard Monte Carlo methods, thanks to the reduction of their random-walk behavior. However, while applying such schemes to standard statistical models, one generally needs to introduce an additional randomization for sake of correctness. We propose here a new class of Event-Chain Monte Carlo methods that reduces this extra-randomization to a bare minimum. We compare the efficiency of this new methodology to standard PDMC and Monte Carlo methods. Accelerations up to several magnitudes and reduced dimensional scalings are exhibited.

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

广义弹性粒子采样器

Generalized Bouncy Particle Sampler

作为分段确定性马尔可夫过程的一个特例，弹性粒子采样器是一种无拒绝、不可逆的马尔可夫链蒙特卡罗算法，能有效地从目标分布中抽取样本。我们推广了弹性粒子采样器的过渡动力学。在BPS中，在事件时刻的转换动态是确定性的，而在GBPS中，它是随机的。在这种随机性的帮助下，GBPS可以克服BPS中的约简问题，而无需刷新。

2017-06-18stat.CO

改进可逆采样器的收敛性

Improving the convergence of reversible samplers

在蒙特卡罗方法中，用于对给定目标分布进行采样的马尔可夫过程通常满足详细平衡，即它们是时间可逆的。然而，相对较新的结果表明，适当的可逆和不可逆扰动可以加速收敛到平衡。在本文中，我们提出了一些一般的设计原则，适用于一般马尔可夫过程。与马尔可夫过程的生成器一起工作，我们证明了对于一些最常用的性能标准，即，谱隙、渐近方差和大偏差泛函，对某些初始给定的可逆采样器进行适当的可逆和不可逆扰动，改进了采样.此外，我们提供了各种常用的马尔可夫过程，如马尔可夫链和扩散的可逆和不可逆扰动的具体结构。在扩散的情况下，我们使用大偏差率函数作为性能的度量，使讨论更具体。

2016-06-09math-phmath.MPmath.PR

Preconditioned Discrete-HAMS：一种二阶不可逆离散采样器

Preconditioned Discrete-HAMS: A Second-order Irreversible Discrete Sampler

针对离散分布采样问题，研究团队提出引入势函数二阶二次近似、结合高斯积分技巧的PDHAMS算法，该算法满足广义细致平衡且对二次势目标分布无拒绝，实验表现优于现有同类方法。

2025-07-31stat.MEstat.ML

Hamilton辅助Metropolis抽样

Hamiltonian Assisted Metropolis Sampling

研究了各种马尔可夫链蒙特卡罗（MCMC）方法，以改进随机游动Metropolis抽样，用于模拟复杂分布。例子包括大都会调整朗之万算法，哈密顿蒙特卡罗，和其他最近的算法有关欠阻尼朗之万动力学。我们提出了广泛的一类不可逆采样算法，称为汉密尔顿辅助大都会采样（HAMS），并开发了两个特定的算法与适当的调整和预处理策略。我们的HAMS算法的目的是实现两个独特的属性，同时使用增强的目标密度与动量作为辅助变量。一种是广义的细节平衡，它导致对目标的不可逆探索。另一个是拒绝自由属性，这使得我们的算法执行令人满意的相对较大的步长。此外，我们制定了一个框架的广义Metropolis-黑斯廷斯采样，这不仅突出了我们的建设HAMS在一个更抽象的水平，但也有利于可能进一步发展的不可逆MCMC算法。我们提出了几个数值实验，发现所提出的算法始终产生优于现有的结果。

2020-05-17stat.CO

马尔可夫链转移核的几何分配方法

Geometric Allocation Approach for Transition Kernel of Markov Chain

提出一种几何分配方法构建马尔可夫链转移核，最小化平均拒绝率并在许多情况下实现零拒绝，同时支持不可逆转移核，显著降低自相关时间。

2012-07-01cond-mat.stat-mechcs.NAmath-ph

与Langevin动力学相关的不可逆Metropolis抽样

On Irreversible Metropolis Sampling Related to Langevin Dynamics

利用朗之万动力学的数值方法设计马尔可夫链蒙特卡罗算法已经引起了相当大的兴趣，朗之万动力学包括作为确定性情况的哈密顿动力学。一个突出的方法是哈密顿蒙特卡罗（HMC），其中采用了跳跃离散化的哈密尔顿动力学。我们研究了最近提出的一类不可逆采样算法，称为汉密尔顿辅助大都会采样（HAMS），它使用了增强的目标密度类似于在HMC，但涉及到一个灵活的建议方案和精心制定的接受拒绝计划，以实现广义可逆性。我们表明，作为步长趋于0，HAMS建议满足一类随机微分方程，包括朗之万动力学作为特殊情况。我们提供的理论结果HAMS下的单变量高斯设置，包括平稳方差，预期的接受率，和光谱半径。从这些结果中，我们得到默认的选择调谐参数的HAMS，这样，只有步长需要在应用程序中进行调整。各种相对较新的算法朗之万动力学也被证明属于类的HAMS建议可忽略不计的差异。我们对高维潜变量采样的数值实验证实，HAMS算法始终实现优越的性能，与几个大都市调整算法的基础上流行的积分朗之万动力学。

2021-06-06cs.NAmath.NAphysics.comp-ph

更多相关论文收起更多论文

高斯目标下不可逆建议MALA算法的最优尺度

Optimal Scaling of the MALA algorithm with Irreversible Proposals for Gaussian targets

众所周知，在许多情况下，限制势中的可逆朗之万扩散以指数速度收敛到平衡。在朗之万扩散的漂移中加入不可逆的扰动，保持不变的测度，加速了它向平稳性的收敛。因此，许多现有的作品主张使用这种不可逆的动态采样。当使用这样的随机微分方程（SDEs）的时间离散化来实现马尔可夫链蒙特卡罗算法（MCMC）时，人们可以在离散化之后附加通常的Metropolis-Hastings接受-拒绝步骤，并且这在实践中经常这样做，因为接受-拒绝步骤消除了偏差。另一方面，这样的步骤使所得的链可逆。不知道增加接受-拒绝步骤是否保留了不可逆动力学的更快混合特性。在本文中，我们解决了理论和实践之间的差距，通过分析的最佳尺度的MCMC算法构建的建议移动，是时间步欧拉离散化的不可逆的，高维高斯目标措施。与经典的MALA算法（这里{ \em ip}表示不可逆的提议）相比，我们将得到的算法称为\imala。为了量化成本的算法规模与尺寸$N$，我们证明了适当的重新缩放链的不变性原则。与通常的MALA算法相反，我们表明，可能有两个制度渐近：（i）扩散制度，如在MALA算法和（ii）一个“流体”制度的限制是一个常微分方程。我们提供了具体的例子，限制是一个扩散，在标准的MALA，但可证明更高的限制接受概率。数值结果也证实了理论。

2019-07-01math.PRmath.STstat.ME

基于马尔可夫链蒙特卡罗的复杂模型随机输入抽样

Random Input Sampling for Complex Models Using Markov Chain Monte Carlo

许多随机过程可以模拟为接受随机输入的确定性模型的输出。这种模型通常描述一个复杂的数学或物理随机系统，并且在模型的输入变量中引入随机性。当输出事件的统计信息已知时，必须以特定的方式选择这些输入变量，以使输出具有规定的统计信息。由于输入随机变量的概率分布不是直接已知的，而是由输出随机变量的统计量隐含地指示的，所以这个问题对于经典的抽样方法来说通常是棘手的。基于马尔可夫链蒙特卡罗方法，通过对标准梅特罗波利斯-黑斯廷斯算法的改进，提出了一种新的随机输入采样方法.作为一个例子，我们考虑一个随机微分方程（sde）描述的系统，并演示如何满足这个sde的随机过程的样本路径可以用我们的技术产生。

2012-11-20stat.ML