Improving the Asymptotic Performance of Markov Chain Monte-Carlo by Inserting Vortices
提出了一种将有限可逆马尔可夫链转化为不可逆链的新方法，并从理论上保证了基于不可逆链的MCMC估计的渐近方差减小.该方法适用于任何状态不通过树连接的可逆链，并且可以图形化地解释为在状态转移图中插入涡旋。我们的结果证实了不可逆链的渐近性能从根本上优于可逆链，并提出了进一步改进MCMC有趣的方向。
2012-09-26 stat.ME
Reversible jump Markov chain Monte Carlo and multi-model samplers
本文将作为章节发表于MCMC手册第二版，探讨可逆跳转马尔可夫链蒙特卡罗与多模型采样器。
2024-08-29 stat.ME
Comparison of asymptotic variances of inhomogeneous Markov chains with application to Markov chain Monte Carlo methods
本文研究了按两种不同的$π$ --可逆马尔可夫转移核$P$和$Q$交替演化的非齐次马尔可夫链样本路径平均的渐近方差.更具体地说，我们的主要结果使我们能够直接比较与不同的内核$P_i$和$Q_i$，$i\in\{0,1\}$，只要每对$(P_0,P_1)$和$(Q_0,Q_1)$的内核的两个非齐次马尔可夫链的渐近方差可以在滞后一自协方差的意义下排序。作为一个重要的应用，我们使用这个结果比较不同的数据增强型Metropolis-Hastings算法。特别是，我们比较了一些伪边缘算法，并提出了一种新的精确算法，称为随机刷新算法，这是更有效的，在渐近方差方面，比分组独立大都市-黑斯廷斯算法，并具有不超过的Monte Carlo内大都市算法的计算复杂度。
2014-08-14 stat.CO stat.ME
Non-reversible Markov chain Monte Carlo for sampling of districting maps
在统计框架中评估党派划分（Gerrymandering）的程度通常需要从符合现实和非党派标准的规定概率分布中得出的一系列划分计划。在这篇文章中，我们介绍了新的不可逆的马尔可夫链蒙特卡罗（MCMC）的抽样方法，这样的分区计划，改善了混合性能相比，以前使用的（可逆）MCMC算法。在这样做，我们扩展了目前的框架，考虑广义的斜详细平衡的离散采样空间上的不可逆马尔可夫链的建设。我们提供了一个详细的描述所提出的算法，并评估其性能的数值实验。
2020-08-18 math.PR stat.CO
Non-reversible, tuning- and rejection-free Markov chain Monte Carlo via iterated random functions
在这项工作中，我们提出了一个不可逆的，调整和拒绝免费的马尔可夫链蒙特卡罗，自然适合在打了就跑的框架。采样器只需要访问对数密度函数的梯度，因此不需要归一化常数。我们证明了所提出的马尔可夫链是不变的目标分布，并说明其适用性，通过广泛的例子。我们表明，本文中介绍的采样器与Peters and de With（2012），Bouchard-Cote et al.（2017）的连续采样器密切相关。特别是，计算是非常相似的，在这个意义上，都是围绕模拟一个非均匀泊松过程。当对数密度的梯度允许将计算有效的方向分解为两个单调函数之和时，计算可以被简化。我们将我们的采样器应用于选择性推理，比以前使用的采样器有了显著的改进（Tian et al. 2016）。
2018-10-29 stat.CO
Population-Based Reversible Jump Markov Chain Monte Carlo
本文将基于种群的马尔可夫链蒙特卡罗（MCMC）推广到跨维情形。基于MCMC的推理的主要挑战之一是从高维和跨维目标测量进行模拟。在这种情况下，MCMC方法可能无法充分遍历目标的支持，模拟结果将是不可靠的。我们开发了人口的方法来处理这样的问题，并给出了一个结果证明这些人口算法的一致遍历性，在温和的假设。该结果用于证明对于贝叶斯变量选择问题，人口转变核在收敛速度方面优于可逆跳跃采样器。我们还给出了一个例子的人口算法的贝叶斯多元混合模型与未知数量的组件。这是适用于1000个数据点的基因表达数据在六个维度，它表明，我们的算法执行一些竞争的马尔可夫链采样器。
2007-11-01 stat.CO
Sparse Interaction Neighborhood Selection for Markov Random Fields via Reversible Jump and Pseudoposteriors
本文针对二维格点马尔可夫随机场，提出可逆跳转MCMC算法在最大邻域子集间跳转，利用边缘伪后验分布实现稀疏交互邻域选择，并通过模拟与真实纹理图像数据验证方法有效性。
2024-04-30 stat.CO stat.ML
Accelerated Sampling on Discrete Spaces with Non-Reversible Markov Processes
我们认为MCMC的任务是从离散空间上定义的分布进行采样。基于[Zan19]中提供的最新见解，我们设计了一类有效的连续时间，不可逆算法，这些算法积极利用底层空间的结构。特别强调的是如何对称性和其他群论的概念可以用来提高探索的空间。我们测试我们的算法的统计，计算物理，机器学习和密码学，这表明替代算法的改进范围内的例子。我们提供了实用的建议，如何设计和实施这些算法，并关闭评论的前景离散采样和连续时间蒙特卡罗更广泛。
2019-12-18 stat.CO
The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler
在这篇文章中，我们推导出一种新的不可逆的，连续时间的马尔可夫链蒙特卡罗（MCMC）采样器，称为坐标采样器，基于分段确定性的马尔可夫过程（PSEK），它可以被看作是锯齿形采样器的变体。除了证明这种新的采样算法的理论验证，我们表明，马尔可夫链诱导具有几何遍历收敛，分布的尾部衰减至少一样快的指数分布，最快的高斯分布。几个数值例子强调，我们的坐标采样器是更有效的比锯齿形采样器，在有效的样本量。
2019-04-11 stat.CO
Ergodicity of Markov chain Monte Carlo with reversible proposal
我们描述了一些Metropolis-Hastings（MH）算法的遍历性质的重尾目标分布。分析通常属于亚几何遍历框架，但我们证明了混合预处理Crank-Nicolson（MpCN）算法具有几何遍历性，即使是重尾目标分布。这个有用的属性来自于MpCN算法在适当的变换下变成随机行走Metropolis算法的事实。
2016-02-09 math.ST stat.ME stat.TH
Improving the convergence of reversible samplers
在蒙特卡罗方法中，用于对给定目标分布进行采样的马尔可夫过程通常满足详细平衡，即它们是时间可逆的。然而，相对较新的结果表明，适当的可逆和不可逆扰动可以加速收敛到平衡。在本文中，我们提出了一些一般的设计原则，适用于一般马尔可夫过程。与马尔可夫过程的生成器一起工作，我们证明了对于一些最常用的性能标准，即，谱隙、渐近方差和大偏差泛函，对某些初始给定的可逆采样器进行适当的可逆和不可逆扰动，改进了采样.此外，我们提供了各种常用的马尔可夫过程，如马尔可夫链和扩散的可逆和不可逆扰动的具体结构。在扩散的情况下，我们使用大偏差率函数作为性能的度量，使讨论更具体。
2016-06-09 math-ph math.MP math.PR
Supplement to "Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs"
这份补充材料包括三个部分：一些初步结果，四个例子，一个实验，三个新的算法，和所有的证明结果的文件“可逆MCMC对马尔可夫等价类的稀疏有向无环图”。
2013-08-10 math.CO stat.ML
Reversible and non-reversible Markov Chain Monte Carlo algorithms for reservoir simulation problems
我们数值比较可逆和不可逆的马尔可夫链蒙特卡罗算法高维油藏问题的性能，因为手头的问题的性质，我们的样本的目标措施支持有界域。我们比较了两种策略来处理有界域，即反映建议的边界和拒绝他们时，他们落在域之外。我们观察到，对于复杂的高维问题，反射机制优于拒绝的方法，并引入不可逆性的马尔可夫链用于采样的优势是越来越明显的参数空间的维数增加。
2019-03-16 stat.AP
Reversible Genetically Modified Mode Jumping MCMC
在本文中，我们介绍了一个可逆版本的遗传修改的模式跳跃马尔可夫链蒙特卡罗算法（GMJMCMC）的后验模型概率在复杂的模型空间，其中解释变量的数量是禁止的经典马尔可夫链蒙特卡罗方法大的推断。与先前提出的GMJMCMC算法不同，所引入的算法是适当的MCMC，并且其极限分布对应于在合理的正则条件下探索的模型空间中的后验边缘模型概率。
2021-10-15 stat.CO stat.ME stat.ML
Lifting -- A nonreversible Markov chain Monte Carlo Algorithm
马尔可夫链蒙特卡罗算法是探索物理系统平稳特性的宝贵工具，特别是在直接采样不可行的情况下。蒙特卡罗算法的常见实现采用可逆马尔可夫链。可逆链服从细致平衡，从而确保系统最终松弛到平衡。细致平衡对于收敛到平衡是不必要的。我们回顾不可逆马尔可夫链，违反细致平衡，但仍然放松到一个给定的目标平稳分布。在特定情况下，不可逆马尔可夫链在采样方面比传统的可逆马尔可夫链要好得多，在收敛到稳定状态的时间上有高达平方根的改进。通过扩大状态空间和修改、增加额外的转移率来产生不可逆的移动，从可逆的马尔可夫链构造出一种不可逆的马尔可夫链。由于状态空间的增加，这种链通常被称为提升马尔可夫链。我们说明了使用提升马尔可夫链的几个例子进行有效的采样。例子包括环上采样、环面上采样、完全图上的伊辛模型和一维伊辛模型。我们还提供了一个伪代码的实现，回顾相关的工作，并讨论这种方法的适用性。
2016-04-26 cond-mat.stat-mech physics.comp-ph stat.ME
A novel Empirical Bayes with Reversible Jump Markov Chain in User-Movie Recommendation system
IIT Guwahati（印度理工学院古瓦哈提分校）
在本文中，我们选择的未知维的特征，通过可逆跳MCMC内的模拟退火在协同过滤器的贝叶斯建立。我们在MovieLens小数据集中实现了相同的功能。我们还调整超参数，使用修改后的经验贝叶斯。它也可以用来猜测网格搜索过程中的超参数的初始选择，即使是MCMC在真值附近振荡或需要很长时间才能收敛的数据集。
2018-08-15 cs.IR cs.LG stat.CO
Rebalancing Markov jump processes for non-reversible continuous-time sampling
针对马尔可夫链蒙特卡罗方法因细致平衡导致类扩散探索需精细调参的问题，提出无需细致平衡的非可逆连续时间采样器构建机制，通过转化满足斜细致平衡的跳跃过程并利用无界平衡函数动态选跃迁，经实验验证其参数调整稳健性更优。
2025-11-13 math.ST stat.CO stat.TH
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具，用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而，与目前已知的算法，在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中，我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间，提出了一个完美的运营商，确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式，易于计算。具体来说，我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件，对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本，并研究了具有数千个顶点的稀疏有向无环图（DAG）的马尔可夫等价类的性质.我们通过实验发现，在大多数稀疏DAG的马尔可夫等价类中，（1）大多数边是有向的，（2）大多数无向子图是小的，（3）这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv：1303.0632，http://dx.doi.org/10.1214/13-AOS1125SUPP
2014-01-27 cs.DM stat.ME stat.ML
Peskun-Tierney ordering for Markov chain and process Monte Carlo: beyond the reversible scenario
从历史上看，支持马尔可夫链蒙特卡罗方法（MCMC）的过渡或过程的时间可逆性在其发展中发挥了关键作用，而相关算子的自伴性以及在希尔伯特空间上使用经典的泛函分析技术已经导致了强大的和实际上成功的工具来表征和比较它们的性能。依赖于不可逆马尔可夫过程的算法类似的结果是罕见的。我们表明，对于一种类型的不可逆蒙特卡罗马尔可夫链和过程，当前或重新感兴趣的物理和统计文献中，它是可能的开发比较结果，密切反映那些可在可逆的情况。我们表明，这些结果揭示了早期的文献，证明了一些假设，并加强了一些早期的结果。
2019-06-14 math.PR math.ST stat.TH
Non-Reversible Parallel Tempering: a Scalable Highly Parallel MCMC Scheme
并行回火（PT）方法是一类流行的马尔可夫链蒙特卡罗方法，用于对复杂的高维概率分布进行采样。它们依赖于以目标分布的调和版本为目标的$N$交互辅助链的集合来改进状态空间的探索。我们在这里提供了一个新的视角，这些高度并行的算法和他们的调整，确定和形式化的行为和性能的可逆与不可逆的PT计划的尖锐分歧。我们从理论上和经验表明，一类不可逆的PT方法占主导地位的可逆同行和识别不同的缩放限制的不可逆和可逆的计划，前者是一个分段确定性的马尔可夫过程和后者的扩散。利用这些结果来确定最佳的退火时间表为不可逆的PT和开发一个迭代方案近似这个时间表。我们提供了广泛的数值例子支持我们的理论和方法的贡献。所提出的方法适用于从相对于参考分布$π_0$具有密度$L$的分布$π$中采样并计算归一化常数。一个典型的用例是当$π_0$是先验分布，$L$是似然函数，而$π$是相应的后验分布时。
2021-07-26 stat.CO
Geometric ergodicity of trans-dimensional Markov chain Monte Carlo algorithms
本文研究了模型总数有限时跨维度MCMC算法的收敛性，证明在温和条件下，若模型内移动的马尔可夫链几何遍历，则可逆及部分非可逆跨维度链可保证几何收敛，并将该理论应用于三种贝叶斯模型。
2024-10-16 math.ST stat.TH
The Bouncy Particle Sampler: A Non-Reversible Rejection-Free Markov Chain Monte Carlo Method
马尔可夫链蒙特卡罗方法已经成为统计学中从复杂的概率测度中采样的标准工具。许多可用的技术依赖于离散时间可逆马尔可夫链，其转移核建立在梅特罗波利斯-黑斯廷斯算法之上。我们探索并提出了Peters和de With（2012）最近引入的替代方法的几个原始扩展，其中使用连续时间马尔可夫过程探索感兴趣的目标分布。在梅特罗波利斯-黑斯廷斯算法中，可以以正概率拒绝向比当前状态更低目标密度（等效地“更高能量”）的区域的尝试移动。在这种替代方法中，粒子沿着直线连续地围绕空间移动，当面对高能量障碍时，它不会被拒绝，但它的路径会通过反弹这个障碍而被修改。由此产生的非可逆马尔可夫过程提供了无拒绝的MCMC采样方案。我们提出了几个原始的技术来模拟这个连续时间的过程，正是在广泛的场景感兴趣的统计学家。当目标分布分解为仅涉及变量子集的因子的乘积时，例如与概率图模型相关联的后验分布，可以修改原始算法以利用该结构并在每个团内并行更新变量。我们提出了几个扩展提出的方法来采样混合离散-连续分布和分布限制在一个连接的光滑域。我们还表明，它是可以使用一般的流动，而不是直线移动的粒子。我们证明了这种方法的效率，通过模拟各种应用程序，并表明它可以优于混合蒙特卡罗计划在有趣的情况下。
2017-02-17 math.ST stat.ME stat.TH
Reversible jump MCMC for nonparametric drift estimation for diffusion processes
在非参数贝叶斯估计的背景下，马尔可夫链蒙特卡罗算法的设计和实施，从后验分布的漂移函数的连续或离散观察的一维扩散的样本。漂移是由一个缩放的线性组合的基函数与高斯先验的系数。尺度参数具有部分共轭先验。漂移中的基函数个数也具有先验分布。对于连续数据，可逆跳跃马尔可夫链算法使得能够在不同维度的模型上探索后验。随后，它解释了如何数据增强可以用来扩展算法，以处理离散观察到的时间扩散。算例表明，该方法能得到满意的结果.在这些示例中，还与另一种现有方法进行了比较。
2013-02-18 stat.CO
New inference strategies for solving Markov Decision Processes using reversible jump MCMC
University of British Columbia（不列颠哥伦比亚大学）
本文提出基于可逆跳跃MCMC的改进推理策略，通过新目标分布和打破参数-轨迹相关性，实现高维空间中的最优策略估计。
2012-05-09 cs.LG cs.SY eess.SY
Understanding Protein Dynamics with L1-Regularized Reversible Hidden Markov Models
我们提出了一个机器学习框架，用于蛋白质动力学建模。我们的方法使用L1正则化，可逆隐马尔可夫模型来理解通过分子动力学模拟生成的大型蛋白质数据集。我们的模型基于三个设计原则：（1）大规模可扩展性的要求;（2）遵守相关物理定律的需要;（3）提供可访问的解释的必要性，这对细胞生物学和合理的药物设计至关重要。我们提出了一个EM算法的学习，并介绍了一个模型选择标准的基础上的物理概念的收敛在松弛时间尺度。我们将我们的模型与生物物理学中的标准方法进行了对比，并证明了改进的鲁棒性。我们实现了我们的算法在GPU上，并将该方法应用于两个大的蛋白质模拟数据集分别产生的NCSA Bluewaters超级计算机和Folding@Home分布式计算网络。我们的分析确定的泛素蛋白质的构象动力学的细胞信号传导的关键，并阐明了逐步激活机制的c-Src激酶蛋白。
2014-05-06 q-bio.BM stat.AP stat.ML
Usefulness of the Reversible Jump Markov Chain Monte Carlo Model in Regional Flood Frequency Analysis
区域洪水频率分析是一种方便的方法，以减少估计的不确定性时，很少的数据在测量现场。在这项工作中，一个模型，允许一个非零概率区域固定的形状参数。该方法集成在贝叶斯框架内，并使用可逆跳跃技术。随机数据的性能，这个新的估计相比，其他两个模型：传统的贝叶斯分析和指数洪水的方法。结果表明，所提出的估计是绝对适合于区域估计时，只有少数数据在目标网站。此外，与指数洪水估计，目标网站指数洪水误差估计似乎有贝叶斯估计的影响较小。文中还提出了一些关于合并组配置的建议，以提高每个估计器的性能。
2008-02-04 stat.AP
Markov Chain CLTs: Resolving Open Problems
Texas A&M University（德克萨斯农工大学）；University of Toronto（多伦多大学）
本文解决了Häggström和Rosenthal提出的七个开放问题，证明了可逆链方差极限条件、非紧致性及Roberts条件排除CLT，并建立傅里叶系数与自协方差的一般原理。
2026-11-04 math.PR math.ST stat.CO
Convergence of off-policy TD(0) with linear function approximation for reversible Markov chains
研究反政策TD(0)在可逆马尔可夫链中使用线性函数逼近的收敛性，通过限制可逆性条件，证明在折扣因子上限下收敛，实现零投影Bellman误差。
2025-10-29 cs.LG stat.ML
Improving Asymptotic Variance of MCMC Estimators: Non-reversible Chains are Better
我展示了如何可逆的马尔可夫链在有限的状态空间是不可约的，因此适合于估计期望相对于其不变的分布，可以用来构建一个不可逆的马尔可夫链在相关的状态空间，也可以用来估计这些期望，渐近方差至少一样小，使用可逆链（通常较小）。不可逆链通过避免（尽可能地）回溯到链刚出现的状态的转换来实现这种改进。这种修改不能增加MCMC估计量的渐近方差的证明使用了一种新的技术，该技术也可以用于证明Peskun（1973）定理，即修改可逆链以减少停留在相同状态的概率不能增加渐近方差。避免回溯的不可逆链通常比原始可逆链每次转换花费很少或没有更多的计算时间，并且有时可以产生渐近方差的大幅减少，尽管对于其他链来说，这种改善是轻微的。除了具有一些实际意义之外，这种构造还表明，对于MCMC估计，不可逆链比可逆链具有根本优势。因此，对更好的MCMC方法的研究可能最好集中在不可逆链上。
2004-07-15 math.PR math.ST stat.TH
Non-reversible jump algorithms for Bayesian nested model selection
不可逆马尔可夫链蒙特卡罗方法在遍历平均的渐近方差和混合性质方面往往优于可逆方法。提升状态空间（Chen等人，1999; Diaconis等人，2000）是用于构造这种采样器的通用技术。我们的想法是把我们想要生成的随机变量看作是位置变量，并把它们与方向变量相关联，以便设计出不具有可逆方案经常表现出的扩散行为的马尔可夫链。在本文中，我们探讨了使用这样的想法的背景下，贝叶斯模型选择嵌套模型，一类模型的模型指标变量是一个有序的随机变量的好处。通过提升这个模型的指示变量，我们得到了不可逆跳跃算法，这是Green（1995）介绍的流行的可逆跳跃算法的不可逆版本。这种简单的算法修改提供了采样器，它可以在没有额外计算成本的情况下凭经验胜过它们的可逆对应物。复制所有实验的代码可在线获得。
2020-12-20 stat.CO stat.ME
Spectral clustering of Markov chain transition matrices with complex eigenvalues
鲁棒Perron聚类分析（RobustPerronClusterAnalysis，PCCA+）是一种常用的谱聚类算法，它可以对具有过渡状态的几乎可分解马尔可夫链的过渡矩阵进行粗粒度聚类。该算法最初是为可逆马尔可夫链开发的，但只适用于实特征值的转移矩阵。因此，在本文中，我们将PCCA+的理论框架扩展到具有复特征分解的马尔可夫链。我们表明，通过取代一个复共轭对的特征向量的实部和虚部，一个真正的表示相同的子空间，这是适合于聚类分析。我们表明，我们的方法导致相同的结果作为广义PCCA+（GenPCCA），它取代了复杂的特征分解的概念上更困难的真正的舒尔分解。我们将该方法应用于不可逆的马尔可夫链，包括循环链，并证明其效率相比，GenPCCA。实验在Matlab编程语言中进行，并提供代码。
2022-08-18 stat.ME
Calibrated Horizon-Weighted Local Projection Designs for Markov Switchbacks
RIKEN（理化学研究所）；Keio University（庆应义塾大学）
研究马尔可夫折返实验时间分配设计，开发校准选择器最小化相关风险，平衡同方差马尔可夫基准可得封闭形式，通过半合成评估设计风险，确定校准协方差选择时机，近边界设计用随机化优先推断。
2026-07-14 econ.EM stat.ME
