Rebalancing Markov jump processes for non-reversible continuous-time sampling
针对马尔可夫链蒙特卡罗方法因细致平衡导致类扩散探索需精细调参的问题，提出无需细致平衡的非可逆连续时间采样器构建机制，通过转化满足斜细致平衡的跳跃过程并利用无界平衡函数动态选跃迁，经实验验证其参数调整稳健性更优。
2025-11-13 math.ST stat.CO stat.TH
Small World MCMC with Tempering: Ergodicity and Spectral Gap
当对多模态分布$π(x)$、$x\in \rr^d$进行采样时，具有局部建议的马尔可夫链通常是缓慢混合的;而小世界采样器\citep{guankrone} --一种使用局部和远程建议混合的马尔可夫链--是快速混合的。然而，小世界采样器遭受维数灾难，因为它的频谱间隙取决于每个模式的体积。我们提出了一个新的采样器，结合回火，小世界采样，并产生长期的建议，从同伴链中的样本（例如等能量采样器）。在最简单的形式中，采样器使用两个小世界链：探索链和采样链。探索链对$π_t(x) \propto π(x)^{1/t}$、$t\in [1,\infty)$进行采样，并建立经验分布。使用此经验分布作为其长期建议，采样链被设计为具有固定分布$π(x)$。证明了算法的遍历性，并研究了算法的收敛速度。结果表明，探测链的谱隙扩大了一个因子$t^{d}$，采样链的谱隙缩小了一个因子$t^{-d}$。重要的是，探测链的谱隙取决于$π_t(x)$的“大小”，而采样链的谱隙不取决于“大小”。总的来说，该采样器以缩小一个温和的瓶颈为代价扩大了一个严重的瓶颈，从而实现了更快的混合。当将算法扩展到温度$\{t_k\}$遵循几何级数的多个链时，可以显著减轻对采样链的谱间隙的惩罚。如果我们允许$t_k \rightarrow 0$，则采样器将成为全局优化器。
2012-11-20 math.PR stat.ME
The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler
在这篇文章中，我们推导出一种新的不可逆的，连续时间的马尔可夫链蒙特卡罗（MCMC）采样器，称为坐标采样器，基于分段确定性的马尔可夫过程（PSEK），它可以被看作是锯齿形采样器的变体。除了证明这种新的采样算法的理论验证，我们表明，马尔可夫链诱导具有几何遍历收敛，分布的尾部衰减至少一样快的指数分布，最快的高斯分布。几个数值例子强调，我们的坐标采样器是更有效的比锯齿形采样器，在有效的样本量。
2019-04-11 stat.CO
Mini-batch Metropolis-Hastings MCMC with Reversible SGLD Proposal
Stanford University（斯坦福大学）；University of Sydney（悉尼大学）
传统的MCMC算法是计算密集型的，并且不能很好地扩展到大数据。特别地，Metropolis-Hastings（MH）算法需要遍历整个数据集以在每次迭代中评估似然比。我们提出了一个通用的框架，用于执行MH-MCMC使用小批量的整个数据集，并表明，这会产生大约一个缓和的平稳分布。我们证明了该算法保留了原始目标分布的模式，并推导出一个近似的误差界，并对似然性做了温和的假设。为了进一步扩展该算法的效用，高维设置，我们构建了一个建议，使用随机梯度的向前和向后移动，并表明该建设导致合理的接受概率。我们证明了我们的算法在低维模型和高维神经网络应用的性能。特别是在后一种情况下，与流行的优化方法相比，我们的方法对学习率的选择更鲁棒，并提高了测试准确性。
2019-08-28 cs.LG stat.ML
Bayesian Detectability of Induced Polarisation in Airborne Electromagnetic Data using Reversible Jump Sequential Monte Carlo
在航空电磁（AEM）测量中检测感应极化（IP）效应还没有一个既定的方法。这一贡献开发了一种贝叶斯方法的IP-检测问题，使用解耦transdimensional分层模型，并适用于一种新的方法，其中transdimensional的建议是使用内的并行和强大的静态序贯蒙特卡罗（SMC）类算法的参数和模型的同时推理物理。尽管将该算法称为可逆跳跃序贯蒙特卡罗（RJSMC），但对该算法的统计方法贡献考虑了多个模型和建议类型的适应性考虑，特别是不太可能模型中的周围粒子扩散。固体地球物理学方法的贡献包括解耦模型的方法和建议的统计，使用后验模型的IP检测几率。一个案例研究包括调查IP效应的AEM数据在广泛的规模检测。
2021-09-02 physics.geo-ph stat.AP stat.CO
Informed reversible jump algorithms
在建议机制中描述关于目标分布的信息通常产生有效的马尔可夫链蒙特卡罗算法（或者至少，比不知情的对应方更有效的算法）。例如，它已被证明成功地将梯度信息纳入固定维算法，如哈密顿蒙特卡罗算法。在跨维算法中，Green（2003）建议在模型切换期间从具有信息性均值和协方差阵的正态分布采样参数建议。这些建议分布可以被视为参数分布的渐近近似，其中限制与样本量有关。模型通常是使用不知情的均匀分布提出的。在本文中，我们建立在Zanella（2020）的离散空间方法的基础上，以纳入有关相邻模型的信息。我们依赖于渐近精确的后验模型概率的近似值。我们证明了，在某些情况下，结合这种方法与格林（2003）的采样器表现得像理想的，使用精确的模型概率和样本从正确的参数分布，在大样本制度。我们表明，在某些情况下，所提出的采样器的实施是简单的。该方法被应用到一个真实的数据的例子。代码可在线获取。
2021-08-25 stat.CO stat.ME
Hamiltonian dynamics for sampling on discrete spaces
Bocconi University（博科尼大学）
该研究提出适用于离散空间的非可逆哈密顿蒙特卡洛动力学，推导其标度极限，设计模拟方案并通过数值示例验证，相比可逆采样器有加速效果。
2026-08-19 math.ST stat.TH
Population-Based Reversible Jump Markov Chain Monte Carlo
本文将基于种群的马尔可夫链蒙特卡罗（MCMC）推广到跨维情形。基于MCMC的推理的主要挑战之一是从高维和跨维目标测量进行模拟。在这种情况下，MCMC方法可能无法充分遍历目标的支持，模拟结果将是不可靠的。我们开发了人口的方法来处理这样的问题，并给出了一个结果证明这些人口算法的一致遍历性，在温和的假设。该结果用于证明对于贝叶斯变量选择问题，人口转变核在收敛速度方面优于可逆跳跃采样器。我们还给出了一个例子的人口算法的贝叶斯多元混合模型与未知数量的组件。这是适用于1000个数据点的基因表达数据在六个维度，它表明，我们的算法执行一些竞争的马尔可夫链采样器。
2007-11-01 stat.CO
Reversible and non-reversible Markov Chain Monte Carlo algorithms for reservoir simulation problems
我们数值比较可逆和不可逆的马尔可夫链蒙特卡罗算法高维油藏问题的性能，因为手头的问题的性质，我们的样本的目标措施支持有界域。我们比较了两种策略来处理有界域，即反映建议的边界和拒绝他们时，他们落在域之外。我们观察到，对于复杂的高维问题，反射机制优于拒绝的方法，并引入不可逆性的马尔可夫链用于采样的优势是越来越明显的参数空间的维数增加。
2019-03-16 stat.AP
Exponential Ergodicity of the Bouncy Particle Sampler
基于分段确定性马尔可夫过程的不可逆马尔可夫链蒙特卡罗方法近年来被广泛应用于概率论、自动控制、物理和统计等领域。虽然这些算法在实验上表现出良好的性能，并因此越来越多地用于广泛的应用，几何遍历性的结果，这些计划只建立到目前为止，在非常严格的假设。我们在这里给可验证的条件下，在\cite{P_dW_12}中引入的弹性粒子采样算法的目标分布是几何遍历。只要目标满足曲率条件，并且尾部的衰减速度至少与指数分布一样快，最多与高斯分布一样快，这一点就成立。这使我们能够提供一个中心极限定理相关的遍历平均。当目标的尾巴薄于高斯分布，我们提出了一个原始的修改，这个计划是几何遍历。对于厚尾的目标分布，如$t$ -分布，我们扩展了\cite{J_G_12}在随机游动大都会背景下开创的想法。我们应用一个变量的变化，以获得一个转换后的目标满足尾部条件的几何遍历。通过使用Bouncy粒子采样器对变换后的目标进行采样，并将马尔可夫过程映射回原始参数化，得到了一种几何遍历算法。
2017-08-27 stat.CO
Geometric ergodicity of the Random Walk Metropolis with position-dependent proposal covariance
考虑了一个Metropolis-Hastings方法的建议$\mathcal{N}(x, hG(x)^{-1})$，其中$x$是当前状态，并研究了它的遍历性.我们表明，适当的选择$G(x)$可以改变这些相比，随机游动大都会的情况下$\mathcal{N}(x, hΣ)$，无论是更好还是更坏。我们发现，如果建议的方差是允许无限增长的尾部的分布，然后几何遍历可以建立时，目标分布的算法有尾巴，比指数重，但必须仔细控制增长率，以防止拒绝率接近统一。我们还说明了$G(x)$的明智选择可以导致一个几何遍历链时，概率集中在一个越来越窄的脊的尾巴，这是不正确的随机游动大都会。
2021-01-19 math.ST stat.CO stat.ME
Foundations of locally-balanced Markov processes
本文引入并研究一般状态空间上的局部平衡马尔可夫跳跃过程（LBMJPs），解决离散参数及非光滑分布采样局限，确立其适定性、遍历性等性质，推导指数遍历条件与扩散极限，拓展蒙特卡洛采样应用。
2025-04-17 math.PR math.ST stat.TH
Non-reversible guided Metropolis kernel
我们构造了一类不可逆的Metropolis核作为Gustafson 1998年提出的引导行走核的多元扩展。我们的方法的主要思想是引入一个投影，将一个状态空间映射到一个全序群。利用Haar测度，我们构造了一个新的马尔可夫核称为Haar混合核，这是在其本身的权利感兴趣。这是通过将拓扑结构引入全序群来实现的。我们提出的方法，三角洲引导的大都市-哈尔内核，构造使用哈尔混合内核作为建议内核。对于逻辑斯谛回归和离散观测的随机过程，所提出的不可逆核在每秒有效样本量方面至少比随机行走Metropolis核和哈密顿蒙特卡罗核好10倍.
2021-03-12 math.PR stat.CO
Hug and Hop: a discrete-time, non-reversible Markov chain Monte-Carlo algorithm
我们介绍了拥抱和霍普马尔可夫链蒙特卡罗算法估计预期的一个棘手的分布。该算法在两个内核之间交替：Hug和Hop。拥抱是一个不可逆的内核，它重复应用最近提出的反弹粒子采样器的反弹机制，以产生一个远离当前位置的建议点，但在几乎相同的目标密度轮廓上，从而导致高接受概率。Hug由Hop补充，Hop故意提出轮廓之间的跳跃，并且具有随着维度增加而缓慢下降的效率。在Hugo和哈密顿蒙特卡罗之间有许多相似之处，包括积分方案的阶数，但是Hugo也能够利用局部Hessian信息而不需要隐式数值积分步骤，并且其性能不受对数后验的无界梯度的最终影响。我们在各种玩具目标和真实的统计模型上对Hug和Hop进行了经验测试，发现它可以而且经常优于哈密顿蒙特卡罗。
2022-04-25 stat.CO stat.ME
The Barker proposal: combining robustness and efficiency in gradient-based MCMC
在设计马尔可夫链蒙特卡罗（MCMC）采样算法时，存在鲁棒性和效率之间的矛盾。在这里，我们专注于调整参数的鲁棒性，表明更复杂的算法往往是更敏感的步长参数的选择和不太强大的异质性的分布的利益。我们通过研究光谱间隙的行为来消除这种现象，因为算法选择的步长越来越差。出于这些考虑，我们提出了一种新的和简单的基于梯度的MCMC算法，灵感来自经典的巴克接受拒绝规则，具有改进的鲁棒性。广泛的理论结果，处理的鲁棒性调整，几何遍历性和尺度与尺寸，表明新的计划结合了简单的计划的鲁棒性与基于梯度的效率。我们在数值上表明，这种类型的鲁棒性是特别有益的自适应MCMC的背景下，给出的例子，我们提出的方案显着优于国家的最先进的替代品。
2020-05-11 stat.CO stat.ME
Variable length trajectory compressible hybrid Monte Carlo
混合蒙特卡罗（HMC）通过模拟哈密顿动力学从配置空间中的指定概率分布生成样本，随后是Metropolis（-Hastings）接受/拒绝步骤。可压缩HMC（CHMC）将HMC推广到动力学可逆但不一定是哈密顿的情况。本文提出了一个框架，以进一步扩展该算法。在现有的框架内，动态的每个轨迹必须在相同的（随机）时间内进行整合，以生成有效的Metropolis提案。我们的广义接受/拒绝机制允许更慎重地选择每个轨迹的积分时间。该算法特别是使可变步长积分器的HMC型采样算法的基础上可逆动态的有效应用。我们的框架的潜力进一步证明了HMC的另一个扩展，减少了浪费的计算，由于不稳定的数值近似和相应的拒绝建议。
2016-04-04 physics.comp-ph stat.CO
Weighted shape-constrained estimation for the autocovariance sequence from a reversible Markov chain
针对可逆 Markov 链，本文提出在 Fourier 域依据周期图渐近方差加权的 ℓ2 形状约束估计方法，可强一致估计自协方差序列与谱密度，并提升 MCMC 不确定性量化效果。
2024-08-06 stat.CO stat.ME
Convergence of position-dependent MALA with application to conditional simulation in GLMMs
我们建立的条件下，Metropolis-Hastings（MH）算法与位置相关的建议协方差阵将或将不会有几何收敛速度。一些基于扩散的MH算法，如Metropolis调整的Langevin算法（MALA）和预处理的MALA（PCMALA）具有位置无关的建议方差。然而，对于MALA的其他现代变体，如适应目标分布几何形状的流形MALA（MMALA），建议的协方差阵在每次迭代中都会发生变化。因此，我们提供了几何遍历的不同变化的Langevin算法的条件。这些结果具有重要的实际意义，因为这些提供了至关重要的理由使用渐近有效的蒙特卡罗标准误误差为马尔可夫链为基础的估计。验证的一般条件的情况下，条件模拟从两个最流行的广义线性混合模型（GLMM），即二项式GLMM与logit链接和泊松GLMM与日志链接。在一些空间GLSINS的框架中的经验比较表明，计算成本较低的PCMALA与适当选择的预处理矩阵可能优于MMALA。
2022-08-21 stat.CO stat.ME
Haar-Weave-Metropolis kernel
近年来，受哈密顿蒙特卡罗方法的启发，许多马尔可夫链蒙特卡罗方法被发展为确定性可逆变换方法。确定性变换相对容易与局部信息（梯度等）协调。的目标分布。然而，遍历理论表明，这些确定性的建议方法似乎是不兼容的鲁棒性，并导致收敛性差，特别是在目标分布的情况下，厚尾。另一方面，使用Haar测度的马尔可夫核是相对鲁棒的，因为它学习关于目标分布的全局信息，引入全局参数。然而，它需要一个密度保持条件，许多确定性的建议打破了这个条件。在本文中，我们仔细选择的确定性变换，保持结构和创建一个马尔可夫核，编织大都会内核，使用确定性变换。结合Haar测度，我们还引入了Haar-Weave-Metropolis核。以这种方式，马尔可夫核可以使用确定性建议来使用目标分布的局部信息，并且由于Haar测度，它可以使用目标分布的全局信息。最后，我们通过数值实验表明，所提出的方法的性能优于其他方法的有效样本量和均方跳每秒的距离。
2021-11-11 stat.ME
Adaptive Metropolis-Hastings Sampling using Reversible Dependent Mixture Proposals
本文开发了一个通用的自适应采样器，它通过多变量t密度的混合来近似目标密度。自适应采样器是基于可逆的建议分布，其中每个具有多元t密度的混合物作为其不变密度。可逆的建议包括一个独立的和相关的步骤，允许采样器有效地遍历参数空间，以及允许采样器保持移动和局部探索参数空间的组合。我们采用了两链的方法，其中一个试验链是用来适应主链中使用的建议密度。在合理的条件下，证明了主链的收敛性和强大数定律，而不施加减适应条件。多元t密度的混合物由一个有效的变分近似算法拟合，其中组件的数量是自动确定的。采样器的性能进行评估，使用模拟和真实的例子。我们的自相关框架是相当普遍的，可以处理混合物以外的多元t。
2013-08-20 stat.ME
Quasi Markov Chain Monte Carlo Methods
用于估计积分的拟蒙特卡罗方法（QMC）是有吸引力的，因为所得估计量通常以比伪随机蒙特卡罗更快的速率收敛。然而，它们可能很难在贝叶斯框架内建立任意后验密度，特别是对于逆问题。我们引入了一个通用的并行马尔可夫链蒙特卡罗（MCMC）框架，我们证明了一个大数定律和一个中心极限定理。在这种情况下，不可逆的过渡进行了研究。然后，我们将这种方法扩展到使用自适应内核和状态条件，遍历性。作为进一步的推广，导出了一个重要抽样估计量，证明了它的渐近无偏性。我们考虑在上述算法中使用完全均匀分布（CUD）数，这导致了一般的并行准MCMC（QMCMC）方法。我们证明了所得到的估计的一致性，并证明了数值，这种方法的规模接近$n^{-2}$，因为我们增加并行化，而不是通常的$n^{-1}$，这是典型的标准MCMC算法。在实际的统计模型中，我们观察到多个数量级的改善相比，伪随机方法。
2018-10-02 math.PR math.ST stat.TH
Adaptive schemes for piecewise deterministic Monte Carlo algorithms
Bouncy Particle sampler（BPS）和Zig-Zag sampler（ZZS）是基于分段确定性马尔可夫过程的连续时间、不可逆的蒙特卡罗方法。实验表明，这些采样器的收敛速度可能受到目标分布形状的影响，例如在各向异性目标的情况下。我们提出了一种自适应方案，迭代学习目标的全部或部分协方差阵，并利用所获得的信息来修改底层过程，目的是提高收敛速度。此外，我们定义了一个自适应的计划，自动调整刷新率的BPS或ZZS。我们证明了所有提出的自适应算法的遍历性和大数定律。最后，我们展示了几个数值模拟的自适应采样器的好处。
2021-09-14 math.PR stat.CO
Adaptive MCMC with online relabeling
当目标分布是人为不变的一些排列下，马尔可夫链蒙特卡罗（MCMC）算法面临的标签切换问题，边际推理特别麻烦。例如，在有限混合模型的贝叶斯分析中就出现了这种情况。自适应MCMC算法也不例外，例如自适应Metropolis（AM），其使用目标的协方差阵的在线估计来自校准其建议分布。为了解决标签切换问题，重新标记算法将置换与每个MCMC样本相关联，试图获得合理的边际。在自适应Metropolis（Bernoulli 7（2001）223-242）的情况下，需要在线重新标记策略。本文致力于AMOR算法，可证明一致的变体AM，可以应付标签切换问题。其思想是基于单个协方差阵的估计在MCMC算法内嵌套重新标记步骤，该协方差矩阵用于调整Metropolis算法步骤中的建议分布的协方差和用于在线重新标记。我们比较了AMOR的行为与类似的重新标记方法。在紧支撑目标分布的情形下，我们证明了AMOR的一个强大数定律及其遍历性。这些是第一个结果的一致性的在线重新标记算法，以我们的知识。证明强调了重新标记和矢量量化之间的潜在关系。
2015-07-27 math.PR math.ST stat.CO
Parallel MCMC Algorithms: Theoretical Foundations, Algorithm Design, Case Studies
本文为并行MCMC算法建立测度论基础，推导多提议接受准则，提出多提议pCN算法，并通过并行化与贝叶斯反演案例验证其高效性。
2024-07-17 math.PR math.ST stat.CO
Efficient subsampling-rate selection for practical Multilevel Markov chain Monte Carlo
KU Leuven（荷语鲁汶大学）
本研究提出一种基于误差预算的成本误差准则，用于选择多层马尔可夫链蒙特卡洛中的高效子采样率，平衡多层采样误差而非强制独立性，显著降低计算成本。
2026-10-07 cs.NA math.NA stat.CO
Boost your favorite Markov Chain Monte Carlo sampler using Kac's theorem: the Kick-Kac teleportation algorithm
本文提出Kick-Kac传送算法，一种基于Kac定理的新型不可逆马尔可夫链，用于从目标分布采样，结合全局与局部动力学，保证不可约、Harris常返及几何遍历性，数值实验显示优于现有MCMC算法。
2023-05-13 cs.NA math.NA math.PR
Efficient strategy for the Markov chain Monte Carlo in high-dimension with heavy-tailed target probability distribution
介绍了一种新的马尔可夫链蒙特卡罗方法，并通过数值模拟和高维渐近理论证明了该方法的有效性。关键的事实是，我们的算法有一个可逆的建议过渡内核，这是设计有一个重尾不变的概率分布。研究了一类重尾目标概率分布的高维渐近理论。当状态空间的维数趋于无穷大时，我们将证明我们的算法比预条件Crank Nicolson（pCN）算法和随机行走Metropolis（RWM）算法有更好的收敛速度.我们还表明，我们的算法是至少一样好的pCN算法和优于RWM算法的轻尾目标概率分布。
2014-12-19 stat.ME
Adaptive Independent Sticky MCMC algorithms
本文提出自适应独立粘性MCMC算法，通过迭代构建基于支持点的非参数提议密度并控制其演化，实现从单变量到多变量目标分布的高效采样。
2016-01-02 stat.CO stat.ML
Bayesian variable selection using an informed reversible jump in imaging genetics: an application to schizophrenia
针对影像遗传学精神分裂症风险评估，本文为可逆跳MCMC贝叶斯变量选择提出数据驱动的知情提议，并用贝叶斯probit模型与模型平均实现判别变量选择和风险预测。
2025-01-10 stat.AP stat.CO stat.ME
Local-Global MCMC kernels: the best of both worlds
HSE University（高等经济大学）；Ecole Polytechnique（巴黎综合理工学院）；ENS Paris-Saclay（巴黎萨克雷高等师范学院）
最近利用学习来加强抽样的工作取得了可喜的成果，特别是通过设计有效的非本地移动和全球提案。然而，学习精度不可避免地局限于数据较少的区域，例如分布的尾部以及高维问题。在本文中，我们研究了一个探索-利用马尔可夫链蒙特卡罗策略（$Ex^2MCMC$），结合本地和全球的采样器显示，它享有这两种方法的优点。我们证明$V$ -均匀几何遍历的$Ex^2MCMC$，而不需要一个统一的适应全球采样器的目标分布。我们还计算明确的边界上的混合率的探索-利用策略在现实条件下。此外，我们还分析了自适应版本的策略（$FlEx^2MCMC$），其中一个规范化的流进行训练，同时采样作为一个建议的全球移动。我们说明了$Ex^2MCMC$及其自适应版本在经典采样基准上的效率，以及在生成对抗网络定义的高维分布采样中的效率。我们在链接https://github.com/svsamsonov/ex2mcmc_new上提供了复制实验的代码。
2022-10-04 cs.LG stat.ML
On Numerical Considerations for Riemannian Manifold Hamiltonian Monte Carlo
黎曼流形哈密顿蒙特卡罗（RMMMC）是一种采样算法，旨在适应局部几何的后验分布的建议。RMHMC中使用的哈密顿量的具体形式需要{ \it隐式定义}数值积分器，以维持可逆性和体积保持，这两个属性是建立RMHMC详细平衡所必需的。实际上，这些隐式方程通过不动点迭代求解到非零收敛容限。然而，这些收敛阈值的遍历性和计算效率的RMHMC属性的效果还没有很好地理解。本研究的目的是通过大量的案例研究来阐明这些关系。我们的分析揭示的情况下，RMHMC算法是敏感的，不敏感，这些收敛公差。我们的实证分析研究了几个方面的计算：（i）我们检查的遍历性RMHMC马尔可夫链采用统计方法比较概率测度的基础上收集的样本;（ii）我们调查的程度，详细的平衡是违反测量错误的可逆性和体积保存;（iii）我们评估RMHMC马尔可夫链在时间归一化ESS方面的效率。在每种情况下，我们研究这些指标对收敛阈值的敏感性，并进一步将我们的结果与欧几里得HMC进行比较。我们提出了一种方法，其中一个可以选择内的贝叶斯推断应用程序使用的技术，随机逼近的收敛容限，我们研究牛顿的方法，一种替代固定点迭代，它可以消除大部分的敏感性RMHMC的收敛阈值。
2021-11-19 stat.CO
MCMC Importance Sampling via Moreau-Yosida Envelopes
本文提出利用Moreau-Yosida包络作为重要性分布进行MCMC重要性采样，以解决不可微先验下基于梯度采样受限的问题，并证明其估计量渐近正态且数值上方差更低。
2025-07-23 stat.CO stat.ME
Piecewise deterministic sampling with splitting schemes
本文提出基于分裂格式的MCMC算法，通过非可逆Metropolis-Hastings滤波器消除离散化误差，证明非调整格式具二阶弱误差且计算成本低，并验证了其有效性。
2025-11-02 math.PR stat.CO
On an adaptive preconditioned Crank-Nicolson MCMC algorithm for infinite dimensional Bayesian inferences
Shanghai Jiao Tong University（上海交通大学）
本文提出一种适应性预条件Crank-Nicolson MCMC算法，通过调整提议分布的协方差算子提升效率，并证明其满足遍历性条件。
2016-04-01 cs.NA math.NA stat.CO
Adapting The Gibbs Sampler
自适应MCMC的流行一方面是由于其在应用中的成功，另一方面是由于Metropolis算法接受率（以及等效的提案规模）的数学吸引力和计算上简单的优化标准。迄今为止，还没有设计出用于优化随机扫描吉布斯采样器的选择概率的类似的原则和操作标准。在目前的工作中，我们关闭这一差距，并开发了一个通用的自适应随机扫描吉布斯采样器，适应选择概率。自适应是通过优化目标的高斯模拟的$L_2-$光谱间隙来引导的，逐渐地，因为目标的全局协方差是由采样器学习的。额外的计算成本的适应表示一小部分的总模拟工作。“我们提出了一些中等和高维的例子，包括截断高斯，贝叶斯层次模型和隐马尔可夫模型，其中显着的计算增益都是经验性观察，自适应吉布斯，自适应大都会内的自适应吉布斯版本的算法。我们认为，自适应随机扫描吉布斯采样器可以定期实施和大量的计算增益将观察到许多典型的吉布斯抽样问题。我们将给出自适应算法的遍历性可以成立的条件。
2018-01-28 stat.CO stat.ME
Parallel local approximation MCMC for expensive models
通过马尔可夫链蒙特卡罗（MCMC）执行贝叶斯推断可能是非常昂贵的后验评估调用的计算昂贵的模型，如偏微分方程系统的评估。在最近的工作[Conrad et al. JASA 2016，arXiv：1402.1694]中，我们描述了一个框架，用于在MCMC模拟期间构建和改进此类模型的局部近似。这些后适应近似利用模型的规律性，以减少推理的计算成本，同时保持马尔可夫链的渐近精确性。在这里，我们描述两个扩展的工作。首先，我们证明了并行运行的采样器可以协同构建一个共享的后验近似，同时确保每个关联链的遍历性，为MCMC中的并行计算提供了一个新的机会。第二，集中在大都会-调整Langevin算法，我们描述了如何建议分布可以成功地利用梯度和其他相关信息提取的近似。我们调查的实际表现，我们的策略使用两个具有挑战性的推理问题，第一次在地下水文学和冰川学。使用通过并行链构建的局部近似，我们成功地减少了所需的运行时间来表征这些问题的后验分布从几天到几个小时，从几个月到几天，分别大大提高了贝叶斯推断的易处理性。
2017-12-25 stat.AP stat.CO stat.ME
MCMC using $\textit{bouncy}$ Hamiltonian dynamics: A unifying framework for Hamiltonian Monte Carlo and piecewise deterministic Markov process samplers
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出基于弹性哈密顿动力学的无拒绝Metropolis提案框架，将哈密顿蒙特卡洛与分段确定性马尔可夫过程采样统一，提升贝叶斯推断的扩展性与创新性。
2026-03-09 stat.CO stat.ME
Geometric integrators and the Hamiltonian Monte Carlo method
Rutgers University（罗格斯大学）；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）
本文探讨了数值积分与哈密顿（或混合）蒙特卡洛方法（HMC）之间的关系，指出HMC的计算成本主要来自数值积分，因此需要高效的方法。然而，HMC要求具有体积守恒和可逆几何性质的方法，这限制了可用积分器的数量。同时，这些几何性质对积分误差有重要影响，进而影响提议接受率。尽管目前Velvet算法因其优点被广泛采用，但本文认为Velvet可以进一步改进。此外，本文还详细讨论了HMC在目标分布维度增加时的行为。
2017-11-14 cs.NA math.NA math.PR
A generalized Multiple-try Metropolis version of the Reversible Jump algorithm
可逆跳跃算法是贝叶斯估计和模型选择中最广泛使用的马尔可夫链蒙特卡罗算法之一。提出了该算法的一个广义多尝试版本。该算法基于在每个步骤中绘制几个建议，并根据可以任意选择的权重（选择概率）随机选择其中一个。在可能的选择中，采用基于选择概率的方法，该选择概率取决于后验分布的二次近似。此外，该算法的实施具有挑战性的模型选择问题，其中二次近似是不可行的，被认为是。由此产生的算法导致相对于可逆跳跃算法的效率的增益，并且还在计算工作量方面。这种方法的性能示出了真正的例子，涉及一个逻辑斯谛回归模型和一个潜在的类模型。
2013-10-11 stat.ME
A Metropolized adaptive subspace algorithm for high-dimensional Bayesian variable selection
提出了一种简单有效的自适应马尔可夫链蒙特卡罗（MCMC）方法--Metropolized Adaptive Subspace（MAdaSub）算法，用于贝叶斯变量选择中的高维后验模型分布采样. MAdaSub算法基于独立的Metropolis-Hastings采样器，其中解释变量的个体建议概率在每次迭代后使用贝叶斯自适应学习的形式进行更新，以最终收敛到各自协变量的后验包含概率的方式。我们证明了算法的遍历性，并提出了一个并行版本的MAdaSub的适应计划的建议概率的基础上，从多个链的信息组合。该算法的有效性通过各种模拟和真实数据的例子，包括一个高维问题，超过20,000协变量证明。
2022-07-07 stat.CO stat.ME
Bayesian Clustering for Continuous-Time Hidden Markov Models
我们开发了基于连续时间隐马尔可夫模型（CTHMM）和广义线性观测模型的纵向轨迹的聚类程序。具体而言，在本文中，我们进行有限和无限的混合模型为基础的聚类CTHMM和实现推理使用马尔可夫链蒙特卡罗（MCMC）。对于有限混合模型，我们实现了可逆跳MCMC，以促进不同数量的集群之间的跨维移动。对于Dirichlet过程混合模型，我们利用限制吉布斯抽样分裂合并建议，以加快MCMC算法。我们采用所提出的算法的模拟数据，以及一个真实的数据的例子，结果表明所需的性能的新的采样器。
2021-03-26 stat.AP stat.CO stat.ME
Bayesian inference for velocity-jump models for movement
本文提出一种可逆跳跃MCMC算法，通过重建轨迹对速度跳跃模型进行精确贝叶斯推断，并应用于遥测数据分析，支持测量误差和速度间的马尔可夫依赖。
2025-09-25 stat.ME
