MCMC using $\textit{bouncy}$ Hamiltonian dynamics: A unifying framework for Hamiltonian Monte Carlo and piecewise deterministic Markov process samplers
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出基于弹性哈密顿动力学的无拒绝Metropolis提案框架，将哈密顿蒙特卡洛与分段确定性马尔可夫过程采样统一，提升贝叶斯推断的扩展性与创新性。
2026-03-09 stat.CO stat.ME
Randomized Hamiltonian Monte Carlo as Scaling Limit of the Bouncy Particle Sampler and Dimension-Free Convergence Rates
弹性粒子采样器是一种基于不可逆分段确定性马尔可夫过程的马尔可夫链蒙特卡罗方法。在该方案中，粒子探索的状态空间的利益，根据一个线性动力学，这是改变反弹的超平面切线的梯度的负对数目标密度在非齐次泊松过程（PP）的到达时间，并通过随机扰动其速度在齐次PP的到达时间。在正则条件下，我们在这里表明，对应于粒子的第一个组成部分和其相应的速度的过程收敛弱随机哈密顿蒙特卡罗（RHMC）过程的周围空间的维度趋于无穷大。RHMC是另一种分段确定性非可逆马尔可夫过程，其中通过随机扰动动量分量，在齐次PP的到达时间处改变Hamilton动力学。然后，我们建立了无量纲的RHMC的收敛速度强对数凹目标有界海森使用耦合的思想和hypoverrivity技术。
2020-12-23 math.PR stat.CO
Analysis of high-dimensional Continuous Time Markov Chains using the Local Bouncy Particle Sampler
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；University of British Columbia（不列颠哥伦比亚大学）
高维连续时间马尔可夫链（CTMC）的参数采样是一个具有挑战性的问题，在应用统计学的许多领域都有重要的应用。在这项工作中，最近提出的一种类型的不可逆拒绝免费的马尔可夫链蒙特卡罗（MCMC）采样器，弹性粒子采样器（BPS），承担这个问题。与MCMC算法相比，BPS算法具有良好的计算效率，但迄今为止在实际数据场景中的应用还很少。BPS实际实现的一个重要方面是事件时间的模拟。默认实现使用保守的细化界限。这样的界限会减慢算法并限制计算性能。我们的论文开发了一个算法，在CTMCs的背景下的随机事件时间的精确解析解。我们的本地版本的BPS算法利用目标因子图的稀疏结构，我们还提供了一个框架，用于评估本地BPS算法的计算复杂度。
2021-05-30 cs.LG stat.CO stat.ML
Bouncy particle sampler with infinite exchanging parallel tempering
Center for Mathematics and Data Science, Gunma University（数学与数据科学中心，gunma大学）；Graduate School of Science and Engineering, Ibaraki University（科学与工程研究生院，ibaraki大学）
本研究针对后验分布采样收敛问题，将并行回火引入弹性粒子采样器（BPS），提出逆温度交换率无穷大的BPS算法，经数值仿真验证其对多峰分布的采样有效性。
2026-10-14 cs.LG stat.ML
Geometric Ergodicity & Scanning Strategies For Two-Component Gibbs Samplers
在任何马尔可夫链蒙特卡罗分析中，链向其目标概率分布的快速收敛具有重要的理论和实践意义。以几何速率收敛的链是几何遍历的。在本文中，我们探讨了几何遍历两个组件的吉布斯采样器，根据选定的扫描策略，通过结合一次更新的两个组件。我们比较收敛行为之间和三个这样的战略：组成，随机序列扫描，随机扫描。我们的主要结果是双重的。首先，我们建立，如果吉布斯采样器是几何遍历下的任何一个这些策略，所以也是其他的。此外，我们建立了一个简单的和可验证的充分条件的几何遍历的吉布斯采样。我们的结果说明使用两个例子。
2012-10-04 stat.CO
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架，在马尔可夫链蒙特卡罗（MCMC）抽样连续的建议，试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法，包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法，如哈密顿蒙特卡罗（HMC）或弹性粒子采样器。在某些情况下，序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下，顺序提议方法已被提出为额外机会广义混合蒙特卡罗（XCGHMC）。我们开发了两种新的方法，其中的轨迹导致HMC的建议自动调整，以避免加倍回，在无掉头采样器（NUTS）。这些新方法的数值效率相比有利的NUTS。我们还表明，顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域，从而有利于更好地混合的链时，目标密度是多模态的。
2019-08-20 stat.CO stat.ML
The Bouncy Particle Sampler: A Non-Reversible Rejection-Free Markov Chain Monte Carlo Method
马尔可夫链蒙特卡罗方法已经成为统计学中从复杂的概率测度中采样的标准工具。许多可用的技术依赖于离散时间可逆马尔可夫链，其转移核建立在梅特罗波利斯-黑斯廷斯算法之上。我们探索并提出了Peters和de With（2012）最近引入的替代方法的几个原始扩展，其中使用连续时间马尔可夫过程探索感兴趣的目标分布。在梅特罗波利斯-黑斯廷斯算法中，可以以正概率拒绝向比当前状态更低目标密度（等效地“更高能量”）的区域的尝试移动。在这种替代方法中，粒子沿着直线连续地围绕空间移动，当面对高能量障碍时，它不会被拒绝，但它的路径会通过反弹这个障碍而被修改。由此产生的非可逆马尔可夫过程提供了无拒绝的MCMC采样方案。我们提出了几个原始的技术来模拟这个连续时间的过程，正是在广泛的场景感兴趣的统计学家。当目标分布分解为仅涉及变量子集的因子的乘积时，例如与概率图模型相关联的后验分布，可以修改原始算法以利用该结构并在每个团内并行更新变量。我们提出了几个扩展提出的方法来采样混合离散-连续分布和分布限制在一个连接的光滑域。我们还表明，它是可以使用一般的流动，而不是直线移动的粒子。我们证明了这种方法的效率，通过模拟各种应用程序，并表明它可以优于混合蒙特卡罗计划在有趣的情况下。
2017-02-17 math.ST stat.ME stat.TH
The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler
在这篇文章中，我们推导出一种新的不可逆的，连续时间的马尔可夫链蒙特卡罗（MCMC）采样器，称为坐标采样器，基于分段确定性的马尔可夫过程（PSEK），它可以被看作是锯齿形采样器的变体。除了证明这种新的采样算法的理论验证，我们表明，马尔可夫链诱导具有几何遍历收敛，分布的尾部衰减至少一样快的指数分布，最快的高斯分布。几个数值例子强调，我们的坐标采样器是更有效的比锯齿形采样器，在有效的样本量。
2019-04-11 stat.CO
Adaptive schemes for piecewise deterministic Monte Carlo algorithms
Bouncy Particle sampler（BPS）和Zig-Zag sampler（ZZS）是基于分段确定性马尔可夫过程的连续时间、不可逆的蒙特卡罗方法。实验表明，这些采样器的收敛速度可能受到目标分布形状的影响，例如在各向异性目标的情况下。我们提出了一种自适应方案，迭代学习目标的全部或部分协方差阵，并利用所获得的信息来修改底层过程，目的是提高收敛速度。此外，我们定义了一个自适应的计划，自动调整刷新率的BPS或ZZS。我们证明了所有提出的自适应算法的遍历性和大数定律。最后，我们展示了几个数值模拟的自适应采样器的好处。
2021-09-14 math.PR stat.CO
Scaling of Piecewise Deterministic Monte Carlo for Anisotropic Targets
本文通过多尺度分析研究分段确定性蒙特卡洛方法在各向异性高斯目标下的混合性能，证明 Bouncy Particle Sampler 的计算成本优于传统 MCMC 方法，揭示了 PDMPs 的鲁棒性优势。
2024-10-22 stat.CO stat.ME
Ergodicity of an Adaptive MCMC Sampler under a Probability Bound
Université du Littoral Côte d’Opale（滨海大学）
本文提出在概率界内放松自适应MCMC采样器的遍历性条件，无需假设样本和参数空间的紧致性。
2026-02-16 math.PR math.ST stat.CO
The Boomerang Sampler
Technische Universiteit Delft（代尔夫特理工大学）；Osaka University（大阪大学）；University of Warwick（华威大学）
本文介绍了Boomerang采样器作为一类新的连续时间不可逆马尔可夫链蒙特卡罗算法。该方法首先将目标密度表示为密度$e^{-U}$，相对于规定的（通常）高斯测度，并构造由分段椭圆路径组成的连续轨迹。该方法根据可以用$U$表示的速率函数从一个椭圆轨道移动到另一个椭圆轨道。我们证明了该方法易于实现，并证明经验，它可以优于现有的基准分段确定性马尔可夫过程，如弹性粒子采样器和锯齿形。在贝叶斯统计的背景下，这些竞争对手的算法是在大数据的背景下，由于它们可以采用精确的数据二次抽样技术（即诱导平稳分布中没有错误）的事实，有很大的兴趣。我们从理论上和经验上证明，我们也可以构建一个控制变量子采样回飞棒采样器，这也是准确的，并具有显着的标度特性的大数据限制。此外，我们说明了一个因式分解的版本的扩散桥的模拟。
2020-08-11 cs.LG stat.CO
Debiasing Piecewise Deterministic Markov Process samplers using couplings
本文将Jacob等人的耦合MCMC去偏估计器扩展到连续时间PDMP采样器，为bouncy、boomerang和coordinate采样器推导耦合，并通过初步实验验证方法随目标维度的可扩展性。
2024-09-06 cs.DC stat.CO stat.ME
Stochastic Bouncy Particle Sampler
我们介绍了一种新的随机版本的不可逆的，拒绝自由的弹性粒子采样器（BPS），一个马尔可夫过程的样本轨迹是分段线性的。该算法是基于模拟的首达时间在一个重随机泊松过程使用细化方法，并允许有效的采样贝叶斯后验在大数据集。我们证明，在BPS没有偏见的噪声评价的对数似然梯度。另一方面，我们认为，效率方面的考虑有利于一个小的，可控的偏见，在建设的细化建议，以换取更快的混合。我们引入了一个简单的基于回归的建议强度的细化方法，控制这种权衡。我们说明了算法在几个例子中，它优于无偏，但慢慢混合随机版本的BPS，以及有偏随机梯度为基础的采样器。
2017-06-14 stat.CO stat.ML
Fused $L_{1/2}$ prior for large scale linear inverse problem with Gibbs bouncy particle sampler
本文提出融合L_{1/2}先验的吉布斯弹跳粒子采样方法，用于高效解决大规模线性逆问题。
2025-12-16 stat.CO stat.ME
Hypocoercivity of Piecewise Deterministic Markov Process-Monte Carlo
在这项工作中，我们建立$\mathrm{L}^2$ -指数收敛的一类广泛的分段确定性马尔可夫过程最近提出的背景下，马尔可夫过程蒙特卡罗方法和覆盖特别是随机哈密顿蒙特卡罗，锯齿形过程和弹性粒子采样器。这种过程的生成元的对称部分的核是非平凡的，并且我们遵循最近由（Dolbeault et al.，2009年，2015年），以制定一个严格的框架hypocolvity在一个相当普遍和统一的设置，同时推导出易于处理的估计常数涉及的参数的动态。作为一个副产品，我们这些算法的尺度性质的特点方面的问题的类别的尺寸，因此提供了一些理论证据来支持其实际意义。
2021-08-02 stat.CO
Stereographic Markov Chain Monte Carlo
本文提出将高维采样问题球极投影到球面上的新MCMC方法，开发随机游走Metropolis和弹跳粒子采样器，实现轻尾与重尾分布的一致遍历，并在高维下收敛更快。
2024-02-21 stat.CO stat.ME stat.ML
Transient regime of piecewise deterministic Monte Carlo algorithms
本文研究分段确定性蒙特卡洛算法在凸势下的瞬态机制，通过生成元快慢分解和流体极限得到早期行为常微分方程描述，并分析各采样器的瞬态成本与方向选择，为大规模推断提供理论与实用指导。
2025-09-19 stat.CO
On the entropic convergence for piecewise deterministic samplers: speedup and obstruction
Université Gustave Eiffel（巴黎-塞纳大学）；National University of Singapore（新加坡国立大学）
研究分段确定性采样器（如RHMC、BPS、ZZP）在相对熵下的收敛速度，发现RHMC具有扩散到弹道的加速，而BPS和ZZP即使在标准高斯目标下也无法实现熵指数收敛。
2026-06-25 math.AP math.PR stat.CO
Uniform ergodicity of the Particle Gibbs sampler
粒子吉布斯（PG）采样器是在马尔可夫链蒙特卡罗（MCMC）中使用粒子滤波器的系统方法。这导致在状态轨迹的空间上的现成的马尔可夫核，其可用于从MCMC方案中的状态空间模型的全联合平滑分布进行模拟。我们表明，PG马尔可夫内核是一致遍历的相当一般的假设下，我们将仔细审查和讨论。特别是，我们提供了一个显式的收敛速率，它揭示了：（i）对于固定数量的数据点，可以通过增加粒子数量来使收敛速度任意好，以及（ii）在一般混合假设下，可以通过超线性地增加粒子数量来保持收敛速度恒定观察次数。通过对两种常见的非紧状态空间模型的详细研究，说明了本文结果的适用性。
2014-02-05 math.PR math.ST stat.TH
On explicit $L^2$-convergence rate estimate for piecewise deterministic Markov processes in MCMC algorithms
我们建立$L^2$指数收敛速度的三个流行的分段确定性马尔可夫过程的采样：随机化的哈密顿蒙特卡罗方法，锯齿形过程，和弹性粒子采样器。我们的分析是基于一个变分的框架hypovervity，它结合了一个庞加莱型不等式在时间增广的状态空间和一个标准的$L^2$能量估计。我们的分析提供了明确的收敛速度估计，这是更定量的比现有的结果。
2021-03-10 math.AP math.PR stat.CO
Adaptive Stereographic MCMC
Department of Statistics, University of Warwick（华威大学统计系）；CEREMADE, Unive（CEREMADE）
研究通过马尔可夫链蒙特卡罗方法从重尾、高维分布采样的问题，引入三种自适应球极平面MCMC算法，能自动更新参数，开发新框架证明其收敛性质，使算法在特定情况下更稳健且有相关收敛结果。
2026-07-08 stat.CO
PDMP Monte Carlo methods for piecewise-smooth densities
基于分段确定性马尔可夫过程的马尔可夫链蒙特卡罗算法的发展一直受到人们的极大关注。然而，现有的算法只能使用，如果感兴趣的目标分布是可微的无处不在。调整这些算法的关键是，当它遇到不连续性时，为过程定义适当的动态，以便它们可以从具有不连续性的密度进行采样。我们提出了一个简单的条件过渡的过程中的不连续性，可用于扩展任何现有的采样器的光滑密度，并给出具体的选择，这种过渡的流行算法，如弹性粒子采样器，坐标采样器和锯齿形过程。我们的理论结果扩展并提出了严格的论点，以前已经提出，例如构造采样器的连续密度限制在一个有界的域，我们提出了一个版本的曲折过程，可以在这样的情况下工作。我们的新方法来推导一个分段确定的马尔可夫过程的边界不变分布可能是独立的利益。
2021-11-10 math.PR math.ST stat.CO
Small World MCMC with Tempering: Ergodicity and Spectral Gap
当对多模态分布$π(x)$、$x\in \rr^d$进行采样时，具有局部建议的马尔可夫链通常是缓慢混合的;而小世界采样器\citep{guankrone} --一种使用局部和远程建议混合的马尔可夫链--是快速混合的。然而，小世界采样器遭受维数灾难，因为它的频谱间隙取决于每个模式的体积。我们提出了一个新的采样器，结合回火，小世界采样，并产生长期的建议，从同伴链中的样本（例如等能量采样器）。在最简单的形式中，采样器使用两个小世界链：探索链和采样链。探索链对$π_t(x) \propto π(x)^{1/t}$、$t\in [1,\infty)$进行采样，并建立经验分布。使用此经验分布作为其长期建议，采样链被设计为具有固定分布$π(x)$。证明了算法的遍历性，并研究了算法的收敛速度。结果表明，探测链的谱隙扩大了一个因子$t^{d}$，采样链的谱隙缩小了一个因子$t^{-d}$。重要的是，探测链的谱隙取决于$π_t(x)$的“大小”，而采样链的谱隙不取决于“大小”。总的来说，该采样器以缩小一个温和的瓶颈为代价扩大了一个严重的瓶颈，从而实现了更快的混合。当将算法扩展到温度$\{t_k\}$遵循几何级数的多个链时，可以显著减轻对采样链的谱间隙的惩罚。如果我们允许$t_k \rightarrow 0$，则采样器将成为全局优化器。
2012-11-20 math.PR stat.ME
Posterior computation with the Gibbs zig-zag sampler
最近提出了一类有趣的分段确定性马尔可夫过程（PDMP），作为马尔可夫链蒙特卡罗（MCMC）的替代方法。为了便于应用到更大的一类问题，我们提出了一类新的PDMP称为吉布斯之字形采样器，它允许参数更新块与之字形采样器应用于某些参数和传统的MCMC风格的更新其他。我们证明了这个框架的灵活性后验抽样的逻辑模型与收缩先验的高维回归和随机效应，并提供几何遍历性和有效性的中心极限定理的条件。
2022-05-22 math.ST stat.CO stat.TH
Windowed thinning and query complexity for the bouncy particle and Zigzag samplers
Duke University（杜克大学）
该研究针对强凸光滑目标分布，提出弹跳粒子采样器与Zigzag采样器的窗口化减薄精确模拟方法，推导得到两类采样器的高斯冷启动下的查询复杂度上界。
2026-09-03 cs.LG cs.NA math.NA
Cores for Piecewise-Deterministic Markov Processes used in Markov Chain Monte Carlo
我们展示了最近提出的MCMC算法的马尔可夫半群的基本性质，基于分段确定性马尔可夫过程（PDMP），如弹性粒子采样器，锯齿形过程或随机化的哈密顿蒙特卡罗方法。在MCMC设置通常满足的假设下，我们证明了PDMP是费勒和他们的生成器承认空间的无限可微函数作为一个核心的紧支持。正如我们所示，通过鞅问题和简化的目标分布的不变性证明，这些结果提供了一个基本的工具，这些算法和相应的随机过程的严格分析。
2022-12-31 math.PR math.ST stat.CO
Scaling Results for Piecewise Deterministic Monte Carlo : A Survey
Delft Institute of Applied Mathematics（代尔夫特应用数学研究所）
综述分段确定性蒙特卡罗算法，探讨弹跳粒子采样器和之字形过程，通过缩放极限论证理解其行为与效率，涉及泛函中心极限定理等多种缩放情况，是2024年相关项目会议记录一部分。
2026-07-27 math.PR stat.CO
Piecewise deterministic sampling with splitting schemes
本文提出基于分裂格式的MCMC算法，通过非可逆Metropolis-Hastings滤波器消除离散化误差，证明非调整格式具二阶弱误差且计算成本低，并验证了其有效性。
2025-11-02 math.PR stat.CO
Ergodicity of Approximate MCMC Chains with Applications to Large Data Sets
在许多现代应用中，评估后验密度的困难使得即使执行单个MCMC步骤也很慢。这种困难可能是由棘手的似然函数引起的，但也出现在大型数据集的常规问题中。许多研究人员通过运行MCMC算法的近似版本做出了回应。在这篇文章中，我们给出了这些近似采样器遍历性的定量界。然后，我们使用这些界限来研究近似MCMC算法的偏差方差权衡。我们将我们的研究结果简单的版本，最近提出的算法，包括一个变种的“紧缩”框架Korratikara等人。
2015-08-24 math.PR math.ST stat.CO
Adapting The Gibbs Sampler
自适应MCMC的流行一方面是由于其在应用中的成功，另一方面是由于Metropolis算法接受率（以及等效的提案规模）的数学吸引力和计算上简单的优化标准。迄今为止，还没有设计出用于优化随机扫描吉布斯采样器的选择概率的类似的原则和操作标准。在目前的工作中，我们关闭这一差距，并开发了一个通用的自适应随机扫描吉布斯采样器，适应选择概率。自适应是通过优化目标的高斯模拟的$L_2-$光谱间隙来引导的，逐渐地，因为目标的全局协方差是由采样器学习的。额外的计算成本的适应表示一小部分的总模拟工作。“我们提出了一些中等和高维的例子，包括截断高斯，贝叶斯层次模型和隐马尔可夫模型，其中显着的计算增益都是经验性观察，自适应吉布斯，自适应大都会内的自适应吉布斯版本的算法。我们认为，自适应随机扫描吉布斯采样器可以定期实施和大量的计算增益将观察到许多典型的吉布斯抽样问题。我们将给出自适应算法的遍历性可以成立的条件。
2018-01-28 stat.CO stat.ME
Population-Based Reversible Jump Markov Chain Monte Carlo
本文将基于种群的马尔可夫链蒙特卡罗（MCMC）推广到跨维情形。基于MCMC的推理的主要挑战之一是从高维和跨维目标测量进行模拟。在这种情况下，MCMC方法可能无法充分遍历目标的支持，模拟结果将是不可靠的。我们开发了人口的方法来处理这样的问题，并给出了一个结果证明这些人口算法的一致遍历性，在温和的假设。该结果用于证明对于贝叶斯变量选择问题，人口转变核在收敛速度方面优于可逆跳跃采样器。我们还给出了一个例子的人口算法的贝叶斯多元混合模型与未知数量的组件。这是适用于1000个数据点的基因表达数据在六个维度，它表明，我们的算法执行一些竞争的马尔可夫链采样器。
2007-11-01 stat.CO
Uniform ergodicity of geodesic slice sampling
本文证明了测地线切片采样在紧支撑且有界密度分布上的均匀遍历性，并显式给出了收敛常数及其对超参数、目标分布和定义域的依赖关系。
2025-10-08 math.PR math.ST stat.TH
Hug and Hop: a discrete-time, non-reversible Markov chain Monte-Carlo algorithm
我们介绍了拥抱和霍普马尔可夫链蒙特卡罗算法估计预期的一个棘手的分布。该算法在两个内核之间交替：Hug和Hop。拥抱是一个不可逆的内核，它重复应用最近提出的反弹粒子采样器的反弹机制，以产生一个远离当前位置的建议点，但在几乎相同的目标密度轮廓上，从而导致高接受概率。Hug由Hop补充，Hop故意提出轮廓之间的跳跃，并且具有随着维度增加而缓慢下降的效率。在Hugo和哈密顿蒙特卡罗之间有许多相似之处，包括积分方案的阶数，但是Hugo也能够利用局部Hessian信息而不需要隐式数值积分步骤，并且其性能不受对数后验的无界梯度的最终影响。我们在各种玩具目标和真实的统计模型上对Hug和Hop进行了经验测试，发现它可以而且经常优于哈密顿蒙特卡罗。
2022-04-25 stat.CO stat.ME
Smoothed Picard Hamiltonian Monte Carlo
Massachusetts Institute of Technology（麻省理工学院）；Yale University（耶鲁大学）；Duke University（杜克大学）
本文提出平滑Picard哈密顿蒙特卡洛采样器，结合高斯平滑、Picard迭代和高阶离散化，实现低精度对数凹采样，并通过递归热启动生成器升级为高精度采样，显著降低复杂度。
2026-09-30 cs.DS cs.LG cs.NA
Adaptive Equi-Energy Sampler : Convergence and Illustration
马尔可夫链蒙特卡罗（MCMC）方法允许对已知的直到乘法常数的分布进行采样。经典的MCMC采样器在对多峰分布进行采样时具有非常差的混合特性。等能量采样器是Kou，Zhou和Wong在2006年提出的一种交互MCMC采样器，用于对困难的多峰分布进行采样。该算法在不同温度下并行运行多个链，并允许较低温度的链从具有与当前状态“接近”的能量的较高温度的链跳转到一个状态。该算法的一个主要缺点是，它取决于许多设计参数，因此，需要一个显着的努力来调整这些参数。在本文中，我们介绍了一个自适应等能量（AEE）采样器，自动选择的选择机制时，跳转到一个状态的高温链。我们证明了AEE的遍历性和一个强大数律，以及原始的等能量采样器。最后，我们将我们的算法应用于DNA序列的模体采样。
2013-02-04 math.ST stat.TH
Boost your favorite Markov Chain Monte Carlo sampler using Kac's theorem: the Kick-Kac teleportation algorithm
本文提出Kick-Kac传送算法，一种基于Kac定理的新型不可逆马尔可夫链，用于从目标分布采样，结合全局与局部动力学，保证不可约、Harris常返及几何遍历性，数值实验显示优于现有MCMC算法。
2023-05-13 cs.NA math.NA math.PR
Rebalancing Markov jump processes for non-reversible continuous-time sampling
针对马尔可夫链蒙特卡罗方法因细致平衡导致类扩散探索需精细调参的问题，提出无需细致平衡的非可逆连续时间采样器构建机制，通过转化满足斜细致平衡的跳跃过程并利用无界平衡函数动态选跃迁，经实验验证其参数调整稳健性更优。
2025-11-13 math.ST stat.CO stat.TH
On the convergence of Hamiltonian Monte Carlo
本文讨论了哈密顿蒙特卡罗（HMC）算法的不可约性和几何遍历性。我们考虑的情况下，辛积分的步骤的数量是固定的或随机的。在温和的条件下，潜在的$\F$与目标分布$π$，我们首先表明，马尔可夫核与HMC算法是不可约的和经常性的。在更严格的条件下，我们建立马尔可夫核是哈里斯经常性的。最后，我们提供了可验证的条件下，HMC采样器是几何遍历的$\F$。
2019-05-10 math.PR stat.CO
Schr{ö}dinger-F{ö}llmer Sampler: Sampling without Ergodicity
从概率分布采样是统计学和机器学习中的一个重要问题，特别是在贝叶斯推断中，当关于后验分布的整合是难以处理的并且从后验分布采样是推断的唯一可行选择时。在本文中，我们提出了薛定谔-Föllmer采样器（SFS），一种新的方法，从可能的非归一化分布的采样。所提出的SFS是基于Schrödinger-Föllmer扩散过程的单位时间间隔与时间相关的漂移项，它传输的退化分布在时间0的目标分布在时间1。与现有的马尔可夫链蒙特卡罗采样器要求遍历性相比，SFS不需要遍历性。在计算上，SFS可以很容易地实现使用Euler-Maruyama离散。在理论分析中，我们在适当的条件下，建立了SFS在瓦瑟斯坦距离上的抽样分布的非渐近误差界。我们进行数值实验，以评估的性能SFS，并证明它是能够产生更好的质量比现有的几种方法的样本。
2021-09-04 stat.CO
Component-Wise Markov Chain Monte Carlo: Uniform and Geometric Ergodicity under Mixing and Composition
在马尔可夫链蒙特卡罗中，通常的做法是每次更新一个变量（或变量的子块），而不是进行单个全维更新。当可以从与目标相关联的每个全条件分布中提取时，这仅仅是吉布斯采样器。通常至少有一个吉布斯更新被替换为Metropolis-Hastings步骤，产生Metropolis-Hastings-within-Gibbs算法。组合组件更新的策略包括组合、随机序列和随机扫描。虽然这些策略可以简化MCMC的实现，并产生优越的经验性能相比，全维更新，相关的马尔可夫链的理论收敛性能受到了有限的关注。我们提出的条件下，一些组件明智的马尔可夫链收敛到平稳分布的几何速度。我们特别注意的各种组件明智的策略的收敛速度之间的连接。这一点很重要，因为它确保了MCMC从业者可以使用的工具的存在，以便对仿真结果充满信心，就好像它们是基于独立和相同分布的样本一样。我们说明我们的结果在两个例子，包括分层线性混合模型和一个涉及极大似然估计的混合模型。
2013-10-02 stat.CO stat.ME
Finite Sample Properties of Adaptive Markov Chains via Curvature
自适应马尔可夫链是从概率分布抽样的一类重要的蒙特卡罗方法。自适应算法的时间演化依赖于过去的样本，因此这些算法是非马尔可夫的。虽然有以前的工作建立其遍历性的条件，没有太多的理论上知道他们的有限样本性质。本文利用Ollivier提出的马尔可夫核离散里奇曲率的概念，建立了一类自适应马尔可夫链的集中不等式和有限样本界。在建立了一些一般性的结果，我们给出了定量界的“多级”自适应算法，如等能量采样器。我们还提供了第一个严格的证明，有限的样本性质的等能量采样器优于相关的平行回火和大都市黑斯廷斯采样器的学习期后，他们的混合时间。
2014-10-01 math.PR math.ST stat.CO
Stability of Conditional Sequential Monte Carlo
粒子吉布斯（PG）采样器是一种马尔可夫链蒙特卡罗（MCMC）算法，它使用相互作用的粒子系统来执行吉布斯步骤。每一步Gibbs都是模拟一个粒子系统，它依赖于一个条件序贯蒙特卡罗（cSMC）方法来创建粒子系统。我们提出了一种新的解释cSMC算法作为一个扰动的序贯蒙特卡罗（SMC）方法，并适用于伸缩分解SMC算法\cite{delmoral2004}的分析得出的预期采样路径从cSMC和MCMC算法的目标分布之间的距离的界限。这可以用来得到一致的遍历性结果。特别是，我们可以证明，cSMC的混合率可以保持恒定的线性增加粒子的数量与观察的数量。基于我们的分解，我们还证明了cSMC算法的中心极限定理，这不能使用\cite{Andrieu2013}和\cite{Lindsten2014}的方法。
2018-06-18 stat.CO
Channelling Multimodality Through a Unimodalizing Transport: Warp-U Sampler and Stochastic Bridge Sampling Estimator
本文针对多模态分布蒙特卡洛积分难题，提出基于广义 Warp-U 变换的 Warp-U 采样器和随机 Warp-U 桥采样估计器，实现多模态到单模态映射并提高归一化常数估计效率，在模拟与系外行星探测中验证了有效性。
2025-03-08 stat.CO stat.ME
Diffeomorphic Markov Chain Monte Carlo: fast mixing for heavy-tailed distributions
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University of Warwick（华威大学）
该研究提出微分同胚收缩采样器（DCS），解决MCMC采样器处理重尾分布时的梯度消失问题，实验显示其在PosteriorDB基准及高维示例中性能优于现有重尾采样器。
2026-08-06 math.PR stat.CO
Geometric Ergodicity of Gibbs Samplers in Bayesian Penalized Regression Models
我们考虑三个贝叶斯惩罚回归模型，并表明，各自的确定性扫描吉布斯采样器是几何遍历的回归问题的尺寸无关。我们证明了几何遍历的吉布斯采样贝叶斯融合套索，贝叶斯组套索，和贝叶斯稀疏组套索。几何遍历性与矩条件一起导致蒙特卡罗平均值的马尔可夫链中心极限定理的存在，并确保可靠的输出分析。我们的几何遍历性的结果，使我们也可以提供默认的吉布斯采样器的起始值。
2017-07-04 math.ST stat.CO stat.TH
Blocking Strategies and Stability of Particle Gibbs Samplers
在马尔可夫链蒙特卡罗方法的背景下，从隐马尔可夫模型的潜在状态的条件（或后验）概率分布中采样，给定所观察的过程的实现，是一个非平凡的问题。为此，Andrieu et al.（2010）构建了一个马尔可夫核，使用粒子滤波器保持这个条件分布不变。从从业者的角度来看，这个马尔可夫内核试图模拟的行为采样所有的潜在状态变量作为一个块从后验分布，但模型的精确模拟是不可能的。有一些最近的理论结果，建立了均匀遍历的马尔可夫核，混合率不会减少提供的粒子数至少线性增长的数量在后的潜在状态。这导致了内核的每次应用的成本，即潜在状态的数量是二次的，这对于长观测序列来说可能是禁止的。我们试图回答一个明显但重要的问题：是否有一个不同的实现，其每次迭代的成本随潜在状态的数量线性增长，但在这个意义上仍然是稳定的，它的混合率不会恶化？我们解决这个问题，使用阻塞策略，这是很容易并行化，并证明稳定的采样器。
2015-09-28 math.ST stat.TH
Efficient and Fast Sampling from Arbitrary Probability Kernels using Sliced Gibbs Sampler
North Carolina State University（北卡罗来纳州立大学）
本文提出自动切片吉布斯框架，实现对任意有限维概率核的自动马尔可夫链蒙特卡洛采样，无需用户指定截断界、提议尺度、步长调优或条件优化，适用于非标准化、非光滑、重尾和高多模态密度。
2026-10-06 stat.ME
Piecewise Deterministic Markov Processes for Bayesian Inference of PDE Coefficients
Delft University of Technology（代尔夫特理工大学）
本文提出了一种基于分段确定性马尔可夫过程的框架，利用代理模型提升贝叶斯推断效率，特别适用于PDE系数的非线性反问题。
2026-02-05 math.ST stat.AP stat.CO
Piecewise deterministic generative models
École Polytechnique（巴黎综合理工学院）；Institut Polytechnique de Paris（巴黎理工学院）；INRIA（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Ecole Normale Supérieure（巴黎高等师范学院）；PSL Research University（巴黎文理研究大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文提出一类基于分段确定性马尔可夫过程的生成模型，利用其时间反转性质，为三种具体过程推导显式跳跃率，并设计高效训练与近似模拟方法，给出分布距离界，数值实验验证了其潜力。
2024-11-05 cs.LG stat.ML
Fast Markov chain Monte Carlo for high dimensional Bayesian regression models with shrinkage priors
在过去的十年中，许多贝叶斯收缩模型已被开发的线性回归问题的协变量，$p$，是大的。计算难以处理的后验通常使用三块吉布斯采样器（3BG），基于将收缩先验表示为正态分布的尺度混合。另一种计算工具是最先进的哈密顿蒙特卡罗（HMC）方法，它可以很容易地在Stan软件中实现。然而，我们发现这两种现有的方法是低效的，往往不切实际的大型$p$的问题。遵循Rajaratnam等人的一般思想。（2018），我们为三种常用的收缩模型，即贝叶斯组套索，贝叶斯稀疏组套索和贝叶斯融合套索模型，提出了两块吉布斯采样器（2BG）。我们用模拟和真实数据的例子证明了2BG的马尔可夫链的收敛速度比3BG的快得多，并不比HMC差。同时，2BG的每次迭代的计算成本与3BG的一样低，并且可以比HMC低几个数量级。因此，新提出的2BG是唯一实用的计算解决方案做贝叶斯收缩分析的数据集与大$p$。此外，我们提供了理论上的理由的优越性能的2BG的。我们建立几何遍历（GE）的马尔可夫链与2BG的三个贝叶斯收缩模型。我们还证明了，对于大多数情况下的贝叶斯群套索和贝叶斯稀疏群套索模型，马尔可夫算子的2BG链是迹类。然而，对于所有三个贝叶斯收缩模型的所有情况下，3BG链的马尔可夫算子甚至不是希尔伯特-施密特。
2019-10-23 stat.CO stat.ME
Convergence Speed and Approximation Accuracy of Numerical MCMC
Monash University（莫纳什大学）；Columbia University（哥伦比亚大学）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；National University of Singapore（新加坡国立大学）
本文研究了数值MCMC中扰动对收敛速度和估计精度的影响，提出在特定条件下扰动采样器可保持良好性能，并展示了其在多种采样算法中的应用。
2022-03-07 math.PR stat.CO
Delayed Acceptance Slice Sampling
TU Bergakademie Freiberg（弗莱贝格工业大学）；Universität Passau（帕绍大学）
本文提出延迟接受切片采样方法，通过确定性近似提高计算效率，适用于贝叶斯推断中的昂贵似然函数场景。
2026-09-21 math.ST stat.CO stat.TH
Local-Global MCMC kernels: the best of both worlds
HSE University（高等经济大学）；Ecole Polytechnique（巴黎综合理工学院）；ENS Paris-Saclay（巴黎萨克雷高等师范学院）
最近利用学习来加强抽样的工作取得了可喜的成果，特别是通过设计有效的非本地移动和全球提案。然而，学习精度不可避免地局限于数据较少的区域，例如分布的尾部以及高维问题。在本文中，我们研究了一个探索-利用马尔可夫链蒙特卡罗策略（$Ex^2MCMC$），结合本地和全球的采样器显示，它享有这两种方法的优点。我们证明$V$ -均匀几何遍历的$Ex^2MCMC$，而不需要一个统一的适应全球采样器的目标分布。我们还计算明确的边界上的混合率的探索-利用策略在现实条件下。此外，我们还分析了自适应版本的策略（$FlEx^2MCMC$），其中一个规范化的流进行训练，同时采样作为一个建议的全球移动。我们说明了$Ex^2MCMC$及其自适应版本在经典采样基准上的效率，以及在生成对抗网络定义的高维分布采样中的效率。我们在链接https://github.com/svsamsonov/ex2mcmc_new上提供了复制实验的代码。
2022-10-04 cs.LG stat.ML
