Ergodicity of Markov chain Monte Carlo with reversible proposal
我们描述了一些Metropolis-Hastings(MH)算法的遍历性质的重尾目标分布。分析通常属于亚几何遍历框架,但我们证明了混合预处理Crank-Nicolson(MpCN)算法具有几何遍历性,即使是重尾目标分布。这个有用的属性来自于MpCN算法在适当的变换下变成随机行走Metropolis算法的事实。
2016-02-09 math.ST stat.ME stat.TH
Sparse Interaction Neighborhood Selection for Markov Random Fields via Reversible Jump and Pseudoposteriors
本文针对二维格点马尔可夫随机场,提出可逆跳转MCMC算法在最大邻域子集间跳转,利用边缘伪后验分布实现稀疏交互邻域选择,并通过模拟与真实纹理图像数据验证方法有效性。
2024-04-30 stat.CO stat.ML
Reversible jump Markov chain Monte Carlo and multi-model samplers
本文将作为章节发表于MCMC手册第二版,探讨可逆跳转马尔可夫链蒙特卡罗与多模型采样器。
2024-08-29 stat.ME
Peskun-Tierney ordering for Markov chain and process Monte Carlo: beyond the reversible scenario
从历史上看,支持马尔可夫链蒙特卡罗方法(MCMC)的过渡或过程的时间可逆性在其发展中发挥了关键作用,而相关算子的自伴性以及在希尔伯特空间上使用经典的泛函分析技术已经导致了强大的和实际上成功的工具来表征和比较它们的性能。依赖于不可逆马尔可夫过程的算法类似的结果是罕见的。我们表明,对于一种类型的不可逆蒙特卡罗马尔可夫链和过程,当前或重新感兴趣的物理和统计文献中,它是可能的开发比较结果,密切反映那些可在可逆的情况。我们表明,这些结果揭示了早期的文献,证明了一些假设,并加强了一些早期的结果。
2019-06-14 math.PR math.ST stat.TH
Understanding Protein Dynamics with L1-Regularized Reversible Hidden Markov Models
我们提出了一个机器学习框架,用于蛋白质动力学建模。我们的方法使用L1正则化,可逆隐马尔可夫模型来理解通过分子动力学模拟生成的大型蛋白质数据集。我们的模型基于三个设计原则:(1)大规模可扩展性的要求;(2)遵守相关物理定律的需要;(3)提供可访问的解释的必要性,这对细胞生物学和合理的药物设计至关重要。我们提出了一个EM算法的学习,并介绍了一个模型选择标准的基础上的物理概念的收敛在松弛时间尺度。我们将我们的模型与生物物理学中的标准方法进行了对比,并证明了改进的鲁棒性。我们实现了我们的算法在GPU上,并将该方法应用于两个大的蛋白质模拟数据集分别产生的NCSA Bluewaters超级计算机和Folding@Home分布式计算网络。我们的分析确定的泛素蛋白质的构象动力学的细胞信号传导的关键,并阐明了逐步激活机制的c-Src激酶蛋白。
2014-05-06 q-bio.BM stat.AP stat.ML
Geometric ergodicity of trans-dimensional Markov chain Monte Carlo algorithms
本文研究了模型总数有限时跨维度MCMC算法的收敛性,证明在温和条件下,若模型内移动的马尔可夫链几何遍历,则可逆及部分非可逆跨维度链可保证几何收敛,并将该理论应用于三种贝叶斯模型。
2024-10-16 math.ST stat.TH
Lifting -- A nonreversible Markov chain Monte Carlo Algorithm
马尔可夫链蒙特卡罗算法是探索物理系统平稳特性的宝贵工具,特别是在直接采样不可行的情况下。蒙特卡罗算法的常见实现采用可逆马尔可夫链。可逆链服从细致平衡,从而确保系统最终松弛到平衡。细致平衡对于收敛到平衡是不必要的。我们回顾不可逆马尔可夫链,违反细致平衡,但仍然放松到一个给定的目标平稳分布。在特定情况下,不可逆马尔可夫链在采样方面比传统的可逆马尔可夫链要好得多,在收敛到稳定状态的时间上有高达平方根的改进。通过扩大状态空间和修改、增加额外的转移率来产生不可逆的移动,从可逆的马尔可夫链构造出一种不可逆的马尔可夫链。由于状态空间的增加,这种链通常被称为提升马尔可夫链。我们说明了使用提升马尔可夫链的几个例子进行有效的采样。例子包括环上采样、环面上采样、完全图上的伊辛模型和一维伊辛模型。我们还提供了一个伪代码的实现,回顾相关的工作,并讨论这种方法的适用性。
2016-04-26 cond-mat.stat-mech physics.comp-ph stat.ME
Efficient shape-constrained inference for the autocovariance sequence from a reversible Markov chain
针对可逆马尔可夫链自协方差序列估计问题,提出基于矩序列形状约束的新型估计器,证明其强一致性并通过实验验证优于现有主流方法。
2023-11-09 math.ST stat.ME stat.TH
A novel Empirical Bayes with Reversible Jump Markov Chain in User-Movie Recommendation system
IIT Guwahati(印度理工学院古瓦哈提分校)
在本文中,我们选择的未知维的特征,通过可逆跳MCMC内的模拟退火在协同过滤器的贝叶斯建立。我们在MovieLens小数据集中实现了相同的功能。我们还调整超参数,使用修改后的经验贝叶斯。它也可以用来猜测网格搜索过程中的超参数的初始选择,即使是MCMC在真值附近振荡或需要很长时间才能收敛的数据集。
2018-08-15 cs.IR cs.LG stat.CO
Non-reversible, tuning- and rejection-free Markov chain Monte Carlo via iterated random functions
在这项工作中,我们提出了一个不可逆的,调整和拒绝免费的马尔可夫链蒙特卡罗,自然适合在打了就跑的框架。采样器只需要访问对数密度函数的梯度,因此不需要归一化常数。我们证明了所提出的马尔可夫链是不变的目标分布,并说明其适用性,通过广泛的例子。我们表明,本文中介绍的采样器与Peters and de With(2012),Bouchard-Cote et al.(2017)的连续采样器密切相关。特别是,计算是非常相似的,在这个意义上,都是围绕模拟一个非均匀泊松过程。当对数密度的梯度允许将计算有效的方向分解为两个单调函数之和时,计算可以被简化。我们将我们的采样器应用于选择性推理,比以前使用的采样器有了显著的改进(Tian et al. 2016)。
2018-10-29 stat.CO
Population-Based Reversible Jump Markov Chain Monte Carlo
本文将基于种群的马尔可夫链蒙特卡罗(MCMC)推广到跨维情形。基于MCMC的推理的主要挑战之一是从高维和跨维目标测量进行模拟。在这种情况下,MCMC方法可能无法充分遍历目标的支持,模拟结果将是不可靠的。我们开发了人口的方法来处理这样的问题,并给出了一个结果证明这些人口算法的一致遍历性,在温和的假设。该结果用于证明对于贝叶斯变量选择问题,人口转变核在收敛速度方面优于可逆跳跃采样器。我们还给出了一个例子的人口算法的贝叶斯多元混合模型与未知数量的组件。这是适用于1000个数据点的基因表达数据在六个维度,它表明,我们的算法执行一些竞争的马尔可夫链采样器。
2007-11-01 stat.CO
Accelerated Sampling on Discrete Spaces with Non-Reversible Markov Processes
我们认为MCMC的任务是从离散空间上定义的分布进行采样。基于[Zan19]中提供的最新见解,我们设计了一类有效的连续时间,不可逆算法,这些算法积极利用底层空间的结构。特别强调的是如何对称性和其他群论的概念可以用来提高探索的空间。我们测试我们的算法的统计,计算物理,机器学习和密码学,这表明替代算法的改进范围内的例子。我们提供了实用的建议,如何设计和实施这些算法,并关闭评论的前景离散采样和连续时间蒙特卡罗更广泛。
2019-12-18 stat.CO
Rebalancing Markov jump processes for non-reversible continuous-time sampling
针对马尔可夫链蒙特卡罗方法因细致平衡导致类扩散探索需精细调参的问题,提出无需细致平衡的非可逆连续时间采样器构建机制,通过转化满足斜细致平衡的跳跃过程并利用无界平衡函数动态选跃迁,经实验验证其参数调整稳健性更优。
2025-11-13 math.ST stat.CO stat.TH
The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler
在这篇文章中,我们推导出一种新的不可逆的,连续时间的马尔可夫链蒙特卡罗(MCMC)采样器,称为坐标采样器,基于分段确定性的马尔可夫过程(PSEK),它可以被看作是锯齿形采样器的变体。除了证明这种新的采样算法的理论验证,我们表明,马尔可夫链诱导具有几何遍历收敛,分布的尾部衰减至少一样快的指数分布,最快的高斯分布。几个数值例子强调,我们的坐标采样器是更有效的比锯齿形采样器,在有效的样本量。
2019-04-11 stat.CO
Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs
图形模型是一种流行的统计工具,用于表示相关或因果的复杂系统。统计等价的因果或有向图模型被称为属于马尔可夫等价类。描述和理解这些类的空间是非常有趣的。然而,与目前已知的算法,在这样的类的采样是唯一可行的图形与少于约20个顶点。在本文中,我们设计可逆的不可约马尔可夫链的马尔可夫等价类的空间,提出了一个完美的运营商,确定的马尔可夫链的转移。本文提出的马尔可夫链的平稳分布具有封闭形式,易于计算。具体来说,我们构造了一个具体的完美集稀疏马尔可夫等价类的运营商通过引入适当的条件,对每个可能的运营商。给出了有效生成马尔可夫链的算法及其加速版本,并研究了具有数千个顶点的稀疏有向无环图(DAG)的马尔可夫等价类的性质.我们通过实验发现,在大多数稀疏DAG的马尔可夫等价类中,(1)大多数边是有向的,(2)大多数无向子图是小的,(3)这些无向子图的数量随着顶点的数量近似线性地增长。本文包含补充arXiv:1303.0632,http://dx.doi.org/10.1214/13-AOS1125SUPP
2014-01-27 cs.DM stat.ME stat.ML
Model comparison for Gibbs random fields using noisy reversible jump Markov chain Monte Carlo
可逆跳马尔可夫链蒙特卡罗(RJMCMC)方法通过探索由可能不同维度的几个模型组成的采样空间,为贝叶斯估计和模型比较提供了一种跨模型模拟方法。RJMCMC对吉布斯随机场等模型的简单实现存在计算困难:每个模型的后验分布被称为双重棘手,因为似然函数的计算很少可用。因此,在可能性难以处理的情况下,根本不可能模拟马尔可夫链的转移。RJMCMC的一个变种,称为噪声RJMCMC,其中底层的过渡内核被替换为基于无偏估计量的近似。基于以前的理论发展,收敛保证噪声RJMCMC算法。实验结果表明,如果采用控制蒙特卡罗方差的估计器,带噪声的RJMCMC算法比其他精确方法更有效,这与理论分析是一致的。
2018-07-13 stat.CO stat.ME
New inference strategies for solving Markov Decision Processes using reversible jump MCMC
University of British Columbia(不列颠哥伦比亚大学)
本文提出基于可逆跳跃MCMC的改进推理策略,通过新目标分布和打破参数-轨迹相关性,实现高维空间中的最优策略估计。
2012-05-09 cs.LG cs.SY eess.SY
Multivariate moment least-squares estimators for reversible Markov chains
本文针对可逆马尔可夫链的多元函数,基于单变量momentLS估计量提出新的自协方差序列和渐近方差矩阵估计量,证明其强相合性,并通过模拟与真实数据实验验证其优于现有方法。
2024-09-03 stat.ME
Hug and Hop: a discrete-time, non-reversible Markov chain Monte-Carlo algorithm
我们介绍了拥抱和霍普马尔可夫链蒙特卡罗算法估计预期的一个棘手的分布。该算法在两个内核之间交替:Hug和Hop。拥抱是一个不可逆的内核,它重复应用最近提出的反弹粒子采样器的反弹机制,以产生一个远离当前位置的建议点,但在几乎相同的目标密度轮廓上,从而导致高接受概率。Hug由Hop补充,Hop故意提出轮廓之间的跳跃,并且具有随着维度增加而缓慢下降的效率。在Hugo和哈密顿蒙特卡罗之间有许多相似之处,包括积分方案的阶数,但是Hugo也能够利用局部Hessian信息而不需要隐式数值积分步骤,并且其性能不受对数后验的无界梯度的最终影响。我们在各种玩具目标和真实的统计模型上对Hug和Hop进行了经验测试,发现它可以而且经常优于哈密顿蒙特卡罗。
2022-04-25 stat.CO stat.ME
Reversible Markov chain estimation using convex-concave programming
我们提出了一个凸-凹的可逆马尔可夫链估计问题,并概述了一个有效的数值方案的解决方案所产生的问题的基础上的原始-对偶内点方法的单调变分不等式。扩展的情况下,其中有关的静态矢量的信息是可用的,也可以解决通过凹凸重构。该方法可以推广应用到离散转移矩阵重加权分析方法中,以从固定概率之间具有指定耦合的独立链进行推断。所提出的方法提供了一个显着的速度相比,一个固定的点迭代的一些相关的应用程序。
2016-03-04 math.OC physics.data-an stat.AP