Projected Latent Markov Chain Monte Carlo: Conditional Sampling of Normalizing Flows
Department of Electrical and Computer Engineering(电气与计算机工程系);Duke University(杜克大学)
我们介绍了投影隐马尔可夫链蒙特卡罗(PL-MCMC),一种从归一化流学习的高维条件分布中采样的技术。我们证明了一个大都会黑斯廷斯实施PL-MCMC渐近样本从与规范化流的确切条件分布。作为一种条件采样方法,PL-MCMC支持蒙特卡洛期望最大化(MC-EM)训练,从不完整的数据中规范化流。通过对各种数据集的缺失数据任务应用规范化流的实验测试,我们证明了PL-MCMC对规范化流的条件采样的有效性。
2021-02-26 cs.LG stat.ML
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架,在马尔可夫链蒙特卡罗(MCMC)抽样连续的建议,试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法,包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法,如哈密顿蒙特卡罗(HMC)或弹性粒子采样器。在某些情况下,序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下,顺序提议方法已被提出为额外机会广义混合蒙特卡罗(XCGHMC)。我们开发了两种新的方法,其中的轨迹导致HMC的建议自动调整,以避免加倍回,在无掉头采样器(NUTS)。这些新方法的数值效率相比有利的NUTS。我们还表明,顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域,从而有利于更好地混合的链时,目标密度是多模态的。
2019-08-20 stat.CO stat.ML
Curved Markov Chain Monte Carlo for Network Learning
Imperial College London(伦敦帝国学院);ORT Braude College of Engineering(ORT Braude工程学院)
基于图上定义的离散曲率测度,提出了一种几何增强的网络马尔可夫链蒙特卡罗采样器。具体来说,我们将图形福尔曼曲率的概念纳入到网络的节点和边缘上的采样过程中,通过马尔可夫链的转移概率,以及隐式地,通过目标平稳分布,这给出了一种新的,弯曲的马尔可夫链蒙特卡罗方法来学习网络。我们表明,将曲率集成到采样器中会导致更快地收敛到从真实世界数据中提取的确定性网络上展示的各种网络统计数据。
2021-10-11 cs.LG stat.CO stat.ML
tfp.mcmc: Modern Markov Chain Monte Carlo Tools Built for Modern Hardware
马尔可夫链蒙特卡罗(MCMC)算法被广泛认为是20世纪最重要的算法之一。它的保证渐近收敛,稳定性,估计方差界仅使用非正规化概率函数使它不可或缺的概率规划。在本文中,我们介绍了TensorFlow Probability MCMC工具包,并讨论了促使其设计的一些考虑因素。
2020-02-04 cs.PL stat.CO stat.ML
Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充,可在http://arxiv.org/abs/1106.5850上获得
2013-06-28 stat.CO
A Short Review of Ergodicity and Convergence of Markov chain Monte Carlo Estimators
这篇短文回顾了量化马尔可夫链蒙特卡罗估计的渐近收敛和前渐近收敛的基本理论。
2021-10-13 math.PR math.ST stat.ME
Sweave Documentation for "Implementing Markov chain Monte Carlo: Estimating with confidence"
该文件是Flegal,J.M. Jones,G. L.(2010),“Implementing马尔可夫链蒙特卡罗:Estimating with confidence”,in Handbook of马尔可夫链蒙特卡罗,edited by Brooks,S.,Gelman,A.,琼斯,G.,和Meng,X.出版社:Chapman & Hall/CRC Press
2010-06-24 stat.OT
Ensemble preconditioning for Markov chain Monte Carlo simulation
University of Chicago(芝加哥大学);University of Edinburgh(爱丁堡大学)
本文提出并行马尔可夫链蒙特卡洛方法,通过集体路径集合和邻近副本计算的局部协方差信息,消除乘性噪声并稳定动态,解决高维各向异性采样问题。
2016-07-13 cs.NA math.NA stat.CO
Fractional Langevin Monte Carlo: Exploring Lévy Driven Stochastic Differential Equations for Markov Chain Monte Carlo
随着可扩展的马尔可夫链蒙特卡罗方法的最新进展,基于朗之万扩散的采样技术开始受到越来越多的关注。这些所谓的朗之万蒙特卡罗(LMC)方法是基于布朗运动驱动的扩散,这在所得到的算法中产生高斯建议分布。尽管这些方法在许多应用中已经证明是成功的,但它们的性能可能受到高斯建议的光尾性质的限制。在这项研究中,我们扩展了经典的LMC和开发一个新的分数LMC(FLMC)的框架,是基于一个家庭的重尾分布,称为$α$ -稳定的Lévy分布。与经典方法相比,所提出的方法可以具有大的跳跃,同时以正确的分布为目标,这将有利于有效地探索状态空间。我们开发了新的计算方法,可以扩展到大规模的问题,我们提供正式的收敛性分析所提出的计划。我们的实验支持我们的理论:FLMC可以提供卓越的性能,在多模态设置,提高收敛速度,算法参数的鲁棒性。
2017-06-12 stat.CO stat.ME stat.ML
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿,马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里,它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中,我将回顾马尔可夫链蒙特卡罗的历史,从一开始的大都会方法,今天的国家的最先进的哈密顿蒙特卡罗。在此过程中,我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
Inferring the Optimal Policy using Markov Chain Monte Carlo
University of California, Berkeley(加州大学伯克利分校)
本文研究了具有未知转移动态和未知报酬函数的马尔可夫决策过程的最优随机控制策略的估计方法。这种形式的无模型强化学习包括许多真实世界的系统,例如玩视频游戏,模拟控制任务和真实机器人运动。现有的方法估计的最优随机控制策略依赖于高方差估计的政策下降。然而,这些方法不能保证找到最优随机策略,并且高方差梯度估计使收敛不稳定。为了解决这些问题,我们提出了一种技术,使用马尔可夫链蒙特卡罗生成样本的后验分布的参数条件是最佳的。我们的方法可证明收敛到全局最优的随机策略,并与策略梯度相比具有经验相似的方差。
2019-11-16 cs.AI cs.LG stat.ML
Likelihood-free Markov chain Monte Carlo
出现在MCMC手册中,S。P. Brooks,A. Gelman,G.琼斯和X L. Meng(eds),Chapman & Hall.
2010-01-13 stat.ME
Coupling Control Variates for Markov Chain Monte Carlo
Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所);Department of Mathematics, University of Arizona(亚利桑那大学数学系)
提出利用马尔可夫耦合作为控制变量,在稳态分布未知时提高MCMC计算精度,并通过非平衡输运模型验证。
2008-09-12 cs.NA math.NA physics.comp-ph
Markov Chain Monte Carlo on Finite State Spaces
我们详细阐述了马尔可夫链蒙特卡罗(MCMC)方法背后的思想在数学上连贯,但简单和易于理解的方式。为此,我们证明了有限马尔可夫链的一个枢轴收敛定理和Perron-Frobenius定理的一个极小版本。随后,我们简要地讨论了两个基本的MCMC方法,吉布斯和大都会-黑斯廷斯采样器。只需要非常基本的知识,矩阵,收敛的实序列和概率论。
2019-07-28 math.ST stat.TH
Information-geometric Markov Chain Monte Carlo methods using Diffusions
最近的工作纳入几何思想的马尔可夫链蒙特卡罗进行审查,以突出这些进展和它们可能的应用范围超出统计领域。马尔可夫链及其在统计推断和分子动力学的蒙特卡罗模拟中的应用的充分阐述,特别强调基于朗之万扩散的方法。然后介绍了马尔可夫链蒙特卡罗中的几何概念。给出了黎曼流形上朗之万扩散的一个完整的推导过程,并讨论了在不同的问题中如何选择合适的黎曼度量。提供了一个调查的应用程序,并讨论了一些悬而未决的问题。
2014-04-18 stat.CO stat.ME
Convergence Bounds for Monte Carlo Markov Chains
本文为新手介绍马尔可夫链蒙特卡洛的收敛分析,重点通过耦合方法和基于电导与等周不等式的L2理论构建链分布与平稳分布间距离的界,并讨论识别缓慢收敛的策略。
2024-09-23 math.PR math.ST stat.TH
Cores for Piecewise-Deterministic Markov Processes used in Markov Chain Monte Carlo
我们展示了最近提出的MCMC算法的马尔可夫半群的基本性质,基于分段确定性马尔可夫过程(PDMP),如弹性粒子采样器,锯齿形过程或随机化的哈密顿蒙特卡罗方法。在MCMC设置通常满足的假设下,我们证明了PDMP是费勒和他们的生成器承认空间的无限可微函数作为一个核心的紧支持。正如我们所示,通过鞅问题和简化的目标分布的不变性证明,这些结果提供了一个基本的工具,这些算法和相应的随机过程的严格分析。
2022-12-31 math.PR math.ST stat.CO
A note on one of the Markov chain Monte Carlo novice's questions
我们介绍了一种新的时间齐次马尔可夫嵌入的一类时间非齐次马尔可夫链广泛使用的背景下,蒙特卡罗采样算法,使我们能够回答一个最基本的,但很难,这些技术的实际实施的问题。我们还表明,这种嵌入揭示了[#maire-douc-olsson 2013]最近的结果。我们将讨论该技术的进一步应用。
2015-04-14 stat.CO
Challenges in Markov chain Monte Carlo for Bayesian neural networks
The University of Manchester(曼彻斯特大学);Oak Ridge National Laboratory(橡树岭国家实验室)
马尔可夫链蒙特卡罗(MCMC)方法在贝叶斯神经网络(BNN)中尚未得到广泛应用。本文首先回顾了用MCMC从神经网络的参数后验中采样的主要挑战。这些挑战最终导致缺乏对参数后验的收敛。尽管如此,本文表明,通过从神经网络参数空间进行MCMC采样生成的非收敛马尔可夫链可以通过贝叶斯边缘化产生神经网络输出的有价值的后验预测分布。基于多层感知器的分类示例展示了高度准确的后验预测分布。在BNN中MCMC发展的有限范围的假设是部分有效的;渐近精确的参数后验似乎不太合理,但准确的后验预测分布是一个站得住脚的研究途径。
2021-10-01 cs.LG stat.CO stat.ME
Piecewise Deterministic Markov Processes for Continuous-Time Monte Carlo
最近有令人兴奋的发展,在蒙特卡罗方法,与新的MCMC和序贯蒙特卡罗(SMC)算法的发展是基于连续时间,而不是离散时间,马尔可夫过程。这导致了一些全新的蒙特卡罗算法,可以用来从后验分布中进行采样。有趣的是,连续时间算法似乎特别适合大数据环境中的贝叶斯分析,因为它们在每次迭代时只需要访问一小部分数据点,但仍然可以保证以真实的后验分布为目标。虽然连续时间MCMC和SMC方法已经独立开发,我们在这里表明,它们是相关的事实,都涉及到模拟一个分段确定性的马尔可夫过程。此外,我们表明,迄今为止开发的方法只是一个潜在的更广泛的一类连续时间蒙特卡罗算法的具体情况。我们给出了一个非正式的介绍分段确定性马尔可夫过程,涵盖这些新的蒙特卡罗算法的相关方面,以期使新的连续时间蒙特卡罗的发展更容易。我们专注于如何以及为什么子采样的想法可以与这些算法一起使用,并旨在深入了解这些新算法可以如何实现,以及影响其效率的一些问题。
2016-11-23 math.ST stat.CO stat.ME
Markov Chain Monte Carlo Estimation of Quantiles
我们考虑分位数估计使用马尔可夫链蒙特卡罗和建立条件下的抽样分布的蒙特卡罗误差是近似正态的。此外,我们研究技术来估计相关的渐近方差,这使得建设一个渐近有效的区间估计。最后,我们通过实例探讨了这些方法的有限样本性质,并为从业者提供了一些建议。
2014-09-30 math.ST stat.CO stat.TH
Differentially Private Markov Chain Monte Carlo
University of Halmstad(哈尔姆斯塔德大学);Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所 HIIT);University of Helsinki(赫尔辛基大学);Aalto University(阿尔托大学)
差分私有(DP)机器学习和DP贝叶斯学习的最新发展使得能够在训练数据主题的强隐私保证下进行学习。在本文中,我们进一步扩展了DP贝叶斯学习的适用性,提出了第一个通用的DP马尔可夫链蒙特卡罗(MCMC)算法的隐私保证不受不切实际的假设马尔可夫链收敛,适用于后验推理在任意模型。我们的算法是基于分解的巴克验收测试,允许评估的接受拒绝选择的Rényi DP隐私成本。我们进一步展示了如何通过数据二次抽样和近似验收测试来提高DP保证。
2019-06-17 cs.CR cs.LG stat.CO
Multivariate initial sequence estimators in Markov chain Monte Carlo
马尔可夫链蒙特卡罗(MCMC)是一种模拟方法,通常用于估计关于给定分布的期望。本文考虑估计样本均值向量的渐近多元正态分布的协方差阵。Geyer(1992)开发了一种用于估计单变量均值的蒙特卡罗误差估计方法。我们提出了一种新的多元版本的Geyer的方法,提供了一个渐近有效的估计的协方差阵和稳定的蒙特卡罗估计的结果。通过仿真实验研究了该方法的有限样本性质。
2017-06-02 stat.ME
Merge-split Markov chain Monte Carlo for community detection
Central European University(中欧大学);ISI Foundation(ISI基金会);University of Bath(巴斯大学)
我们提出了一个马尔可夫链蒙特卡罗计划的基础上合并和分裂的群体,能够有效地从后验分布的网络分区,根据随机块模型(SBM)定义的采样。我们演示了如何基于组之间的单个节点的移动的方案系统地失败,即使在小网络上,正确地从后验分布采样,以及我们的合并-分裂方法如何表现得更好,并在典型情况下将马尔可夫链的混合时间提高了几个数量级。我们还展示了如何该计划可以直接扩展到嵌套版本的SBM,产生渐进精确的分层网络分区的样本。
2020-07-13 cs.LG cs.SI physics.data-an
An introduction to computational complexity in Markov Chain Monte Carlo methods
介绍了马尔可夫链蒙特卡罗方法的理论背景和计算复杂性。大多数与收敛性相关的数学结果在大多数统计参考文献中都没有找到,并且计算复杂度对于大多数MCMC方法来说仍然是一个悬而未决的问题。在这项工作中,我们提供了一个总体概述,参考文献,并讨论所有这些理论课题。
2020-04-14 stat.CO
Constrained Monte Carlo Markov Chains on Graphs
本文提出了一种新的理论蒙特卡罗马尔可夫链程序的框架图。它具体涉及的马尔可夫链的经验分布收敛到一个给定的参考一个建设。马尔可夫链被约束在一个底层图上,使得状态被视为顶点,并且两个状态之间的转移只有在存在连接它们的边时才具有正概率。分析的基础上进行的目标分布的支持度和图的连通性之间的关系。
2019-06-28 math.PR math.ST stat.TH
Weighted batch means estimators in Markov chain Monte Carlo
本文提出了一类加权批均值方差估计量,它具有计算效率高,便于实际应用的特点。重点是马尔可夫链蒙特卡罗模拟和马尔可夫链中心极限定理中渐进协方差阵的估计,其中提供了确保强一致性的条件。有限样本的性能进行评估,通过自回归,贝叶斯时空,贝叶斯逻辑斯谛回归的例子,其中新的估计显示出显着的计算增益与现有的方法相比,在方差较小的牺牲。
2018-05-21 math.ST stat.CO stat.TH
Weak consistency of Markov chain Monte Carlo methods
马尔可夫链蒙特卡罗方法(MCMC)是贝叶斯统计中常用的方法。在过去的二十年中,许多结果已经建立了精确的计算收敛速度的MCMC方法。我们引入了另一个收敛速率的MCMC方法的近似技术。这个速率可以通过将马尔可夫链收敛到一个扩散过程而得到。我们将其应用到一个简单的混合模型,并得到了它的收敛速度。进行了数值模拟以说明速率的影响。
2013-09-25 math.ST stat.ME stat.TH
A method for importance sampling through Markov chain Monte Carlo with post sampling variational estimate
我们提出了一种方法来有效地整合截断概率密度。该方法采用马尔可夫链蒙特卡罗方法从与被积分函数相匹配的概率密度中采样。通过构造具有已知积分的函数,通过非参数核密度估计和变分过程,获得所需的归一化或等价的结果。数值算例表明了该方法的有效性。可能的增强方法和限制进行了讨论。
2013-12-06 stat.CO
Markov chain Monte Carlo test of toric homogeneous Markov chains
马尔可夫链模型用于各种领域,例如行为科学或计量经济学。虽然模型的拟合优度通常通过大样本近似来评估,但如果样本量不大,则最好使用条件检验。研究了复曲面齐次马尔可夫链模型的条件检验的马尔可夫基,该模型是通常齐次马尔可夫链模型的包络指数族。我们给出了以下情况下的马尔可夫基的完整描述:i)两个状态,任意长度,ii)任意有限状态空间和长度为3。一般情况仍然是一种推测。我们还提出了一个数值例子的条件测试的基础上,我们的马尔可夫基础。
2010-08-04 math.ST stat.TH
Discussion of "Unbiased Markov chain Monte Carlo with couplings" by Pierre E. Jacob, John O'Leary and Yves F. Atchadé
这是对Pierre E.放大图片作者:Jacob,John O'Leary,Yves F. Atchadé将出现在皇家统计学会B系列杂志上。
2020-01-20 stat.ME
Parallel Markov Chain Monte Carlo
马尔可夫链蒙特卡罗算法是一种本质上串行的算法。虽然单个步骤的似然计算有时可以并行化,但该过程的串行演化被广泛认为与并行化不兼容,无法为需要大量迭代才能收敛到平衡的采样器提供加速。我们提供了一种方法,并行马尔可夫链蒙特卡罗在大量的独立,异步处理器。我们的方法使用分区和权重估计方案,将独立的模拟运行在不同的处理器上,严格的蒙特卡罗估计。该方法最初的动机是对多模态目标分布进行采样,在那里我们看到运行时间的指数加速。然而,我们表明,该方法是通用的,适用于所有的马尔可夫链蒙特卡罗模拟,并证明加速比的数量成正比的可用处理器的缓慢混合链单峰目标分布。该方法简单,易于实施,并为进一步研究提出了其他方向。
2013-12-28 stat.CO
Comments on "Particle Markov chain Monte Carlo" by C. Andrieu, A. Doucet, and R. Hollenstein
这是我们提交给英国皇家统计学会杂志B辑的评论汇编,将在Andrieu,Doucet和Hollenstein的阅读论文的讨论中发表。
2009-11-05 stat.CO stat.ME
Nonreversible Markov chain Monte Carlo algorithm for efficient generation of Self-Avoiding Walks
我们引入了一个有效的不可逆马尔可夫链蒙特卡罗算法来生成具有可变端点的自避免行走。在二维情况下,新算法的性能略优于H.~呼,X。Chen和Y.~邓在\cite{old},而三维行走,它是3- 5倍快。新算法引入了服从全局平衡的不可逆马尔可夫链,并允许在现有的自避免行走上进行三种类型的基本移动:缩短,延长或改变构象而不改变行走的长度。
2021-12-10 cond-mat.stat-mech cs.IT math.IT
Lagged couplings diagnose Markov chain Monte Carlo phylogenetic inference
系统发育推断是复杂空间上的一个棘手的统计问题。马尔可夫链蒙特卡罗方法是贝叶斯系统发育推断的主要工具,但它是具有挑战性的,以构建有效的计划,探索相关的后验分布或评估其性能。现有的方法是无法诊断混合或收敛的马尔可夫计划联合在所有组件的系统发育模型。马尔可夫链蒙特卡罗算法的滞后耦合最近被发展到更简单的空间上,以诊断收敛性和构造无偏估计量。我们描述了一个收缩耦合的马尔可夫链的目标后验分布的分支长度,标量参数和潜变量的系统发育树的空间。我们使用这些耦合,以评估混合和收敛的马尔可夫链联合在所有组件的系统发育模型的树木多达200片叶子。从我们的耦合链的样本也可以用来构建无偏估计量。
2022-10-08 stat.AP stat.ME
Sequential Markov Chain Monte Carlo
我们提出了一个顺序的马尔可夫链蒙特卡罗(SMCMC)算法,从一个序列的概率分布,对应于后验分布在不同的时间在在线应用中进行采样。SMCMC与通常的MCMC一样进行,但每次新数据到达时都会适当更新静态分布。SMCMC在避免粒子简并问题方面优于顺序蒙特卡罗(SMC)。我们提供了理论保证SMCMC的边际收敛在各种设置下,包括参数和非参数模型。所提出的方法相比,竞争对手在模拟研究。我们还考虑了在线非参数回归的应用。
2013-08-18 math.ST stat.TH
Fast Markov Chain Monte Carlo Algorithms via Lie Groups
从李群的基本考虑,保留了目标的概率测度,我们得到的巴克,大都会,和合奏马尔可夫链蒙特卡罗(MCMC)算法,以及废物回收大都会黑斯廷斯和一个全新的MCMC算法的变体。我们用明确的数值计算来说明这些结构,并且我们在自旋玻璃上凭经验证明新算法比它的兄弟姐妹收敛得更快。
2020-01-27 math.GR math.RA math.ST
Peskun-Tierney ordering for Markov chain and process Monte Carlo: beyond the reversible scenario
从历史上看,支持马尔可夫链蒙特卡罗方法(MCMC)的过渡或过程的时间可逆性在其发展中发挥了关键作用,而相关算子的自伴性以及在希尔伯特空间上使用经典的泛函分析技术已经导致了强大的和实际上成功的工具来表征和比较它们的性能。依赖于不可逆马尔可夫过程的算法类似的结果是罕见的。我们表明,对于一种类型的不可逆蒙特卡罗马尔可夫链和过程,当前或重新感兴趣的物理和统计文献中,它是可能的开发比较结果,密切反映那些可在可逆的情况。我们表明,这些结果揭示了早期的文献,证明了一些假设,并加强了一些早期的结果。
2019-06-14 math.PR math.ST stat.TH
On the use of approximate Bayesian computation Markov chain Monte Carlo with inflated tolerance and post-correction
近似贝叶斯计算允许使用模型模拟来推断具有棘手可能性的复杂概率模型。近似贝叶斯计算的马尔可夫链蒙特卡罗实现通常对容差参数敏感:低容差导致不良混合,大容差导致过度偏差。我们考虑一种方法,使用一个相对较大的公差的马尔可夫链蒙特卡罗采样器,以确保其充分的混合,和后处理的输出导致估计的范围内更精细的公差。我们引入了一个近似的置信区间相关的后校正估计,并提出了一个自适应的近似贝叶斯计算马尔可夫链蒙特卡罗,找到一个“平衡”的容忍度自动水平,接受率优化的基础上。我们的实验表明,基于后处理的估计器可以执行更好的比直接马尔可夫链瞄准一个很好的公差,我们的置信区间是可靠的,我们的自适应算法导致可靠的推理与用户规格很少。
2019-05-16 stat.CO
A Common Derivation for Markov Chain Monte Carlo Algorithms with Tractable and Intractable Targets
马尔可夫链蒙特卡罗(Markov chain Monte Carlo)是一类从高维目标密度中抽取马尔可夫样本来近似计算统计期望的数值积分的算法,特别是在贝叶斯统计中。然而,许多马尔可夫链蒙特卡罗算法似乎并不共享相同的理论支持,每个算法都以不同的方式证明。这导致了许多术语和辅助概念,这使得马尔可夫链蒙特卡罗文献似乎是分散的,并恐吓来自许多其他领域的研究人员,包括贝叶斯统计的新研究人员。利用一个随机数发生器和一个自逆映射构造了梅特罗波利斯-黑斯廷斯算法的一个推广版本。这个公式承认许多其他马尔可夫链蒙特卡罗算法作为特殊情况。许多马尔可夫链蒙特卡罗算法的一个共同的推导在绘制这些算法之间的联系和比较时是有用的。因此,我们现在可以构建多个马尔可夫链蒙特卡罗算法的许多新组合,这些组合放大了每个单独算法的效率。具体来说,我们提出了两个新的采样方案,结合切片采样方向或哈密顿采样。我们的哈密顿切片采样方案也适用于伪边缘背景下,目标密度是棘手的,但可以无偏估计,例如,使用粒子滤波。
2018-03-25 stat.CO
A Parallel Evolutionary Multiple-Try Metropolis Markov Chain Monte Carlo Algorithm for Sampling Spatial Partitions
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Oak Ridge National Laboratory(橡树岭国家实验室)
我们开发了一个进化的马尔可夫链蒙特卡罗(EMCMC)算法采样的空间分区,位于一个大而复杂的空间状态空间。我们的算法结合了进化算法(EAs)的优点,作为状态空间遍历的优化算法和马尔可夫链蒙特卡罗算法的理论收敛性从未知分布的采样。局部最优信息,通过定向搜索确定我们的优化启发式是用来自适应更新马尔可夫链在一个有前途的方向内的框架内的多尝试大都会马尔可夫链模型,采用了广义的Metropolis-Hasting比。我们进一步扩大了我们的EMCMC算法的范围,通过利用大规模并行架构提供的计算能力,通过集成的并行EA框架,引导马尔可夫链并行运行。
2020-07-22 cs.AI stat.CO
Multivariate strong invariance principles in Markov chain Monte Carlo
本文利用宽义再生性质,在无需1步小化条件下建立了多项式和几何遍历马尔可夫链的多元强不变性原理,并给出紧致显式收敛速率,为方差估计量的强一致性验证提供理论支撑。
2023-03-29 math.PR math.ST stat.CO
Piecewise Deterministic Markov Processes for Scalable Monte Carlo on Restricted Domains
分段确定性蒙特卡罗算法允许从后验分布进行模拟,同时在每次迭代时仅需要访问数据的子样本。我们将展示如何在参数位于受限域的设置中实现它们。
2018-02-17 stat.CO stat.ME
Markov Chain Monte Carlo Methods, a survey with some frequent misunderstandings
在本章中,我们回顾了贝叶斯计算中使用的一些最标准的MCMC工具,以及第一作者在论坛上交叉验证回答的问答中对这些方法的标准误解的小插曲。
2020-01-17 stat.CO
Locally weighted Markov chain Monte Carlo
我们提出了一个加权方案的建议内马尔可夫链蒙特卡罗算法,并显示如何这可以提高统计效率,没有额外的计算成本。这些方法在与多提议MCMC算法(如多尝试Metropolis)结合时是最强大的,它可以有效地利用具有大量核心的现代计算机架构。局部加权的马尔可夫链蒙特卡罗方法还通过Rao-Blackwellization改进了梅特罗波利斯-黑斯廷斯算法的部分并行化。我们推导出我们的算法的输出的有效样本量,并显示如何在实践中估计这一点。文中给出了该方法的说明和实例,并与现有方法在理论和应用上进行了比较。
2015-06-29 stat.CO
Driving Markov chain Monte Carlo with a dependent random stream
马尔可夫链蒙特卡罗是一种广泛使用的技术,用于从复杂分布中生成相关的样本序列。传统上,这些方法需要独立随机变量的源。大多数实现都使用伪随机数,因为用物理系统生成真正的独立变量并不简单。在本文中,我们展示了如何修改一些常用的马尔可夫链使用一个依赖流的随机数的独立一致变量。所得到的马尔可夫链具有正确的不变分布,而不需要详细的知识流的依赖性,甚至其边缘分布。作为副作用,有时需要少得多的随机数来获得准确的结果。
2012-04-14 stat.CO
Unbiased Markov Chain Monte Carlo: what, why, and how
本文面向 MCMC 用户系统介绍可消除估计初始化与预热偏差的无偏 MCMC 方法,重点讲解方法论,并说明其在并行计算、收敛诊断和性能评估中的作用。
2024-06-10 stat.ME
On the Convergence Rates of Some Adaptive Markov Chain Monte Carlo Algorithms
本文研究了一类自适应马尔可夫链Monte Carlo算法的混合时间。在一定的正则性条件下,证明了IRMCMC(Importance Resistance MCMC)算法的收敛速度(用全变差距离度量)为$O(n^{-1})$,并通过一个例子证明了该算法一般不会以较快的速度收敛.我们还研究了等能取样器,并建立了它的混合时间为$O(n^{-1/2})$阶。
2014-07-28 math.PR stat.CO
Sequentially interacting Markov chain Monte Carlo methods
序贯蒙特卡罗(SMC)是一种从一系列增加维数的概率分布中近似抽样并估计其归一化常数的方法。我们在这里提出了一种替代方法命名为顺序交互马尔可夫链蒙特卡罗(SIMCMC)。SIMCMC方法的工作原理是产生相互作用的非马尔可夫序列,这些序列的行为渐近地类似于具有所需极限分布的独立Metropolis-Hastings(MH)马尔可夫链。与SMC相反,SIMCMC允许我们以类似MCMC的方式迭代地改进我们的估计。我们建立了现实的可验证的假设下的收敛结果,并证明其性能的贝叶斯时间序列分析中出现的几个例子。
2012-11-12 math.ST stat.TH
Fluctuations of Interacting Markov Chain Monte Carlo Methods
本文给出了求解非线性测度值方程的一类相互作用的马尔可夫链Monte Carlo算法的多元中心极限定理。这些算法产生的随机过程,属于类的非线性马尔可夫链与他们的经验占领措施相互作用。我们开发了一个原始的理论分析的基础上,预解算子和半群技术来分析他们的占领措施的波动在其极限值。
2012-01-02 math.PR math.ST stat.CO
Markov Chain Monte Carlo: Can We Trust the Third Significant Figure?
可以改进目前基于马尔可夫链蒙特卡罗计算的结果报告。特别是,很少报告由此产生的估计数的准确性。因此,我们几乎没有能力客观地评估所报告的估计数的质量。我们解决这个问题,我们讨论了为什么蒙特卡洛标准误差是重要的,他们如何可以很容易地计算在马尔可夫链蒙特卡洛和他们如何可以用来决定何时停止模拟。我们比较他们的使用,一个流行的替代方案的上下文中的两个例子。
2008-09-09 math.ST stat.CO stat.TH
On the convergence time of some non-reversible Markov chain Monte Carlo methods
人们普遍认为,不可逆的马尔可夫链蒙特卡罗(MCMC)算法通常比可逆算法产生更精确的MCMC估计。本文证明了某些不可逆MCMC算法除了具有降低方差的效果外,还具有减慢马尔可夫链收敛速度的不良性质。这一点被文献所忽视,具有明显的实际意义。我们说明了这种现象的不同的不可逆版本的梅特罗波利斯-黑斯廷斯算法的几个离散状态空间的例子,并讨论如何减轻风险的小渐近方差/缓慢收敛的情况。
2019-08-23 stat.CO
Discrepancy estimates for variance bounding Markov chain quasi-Monte Carlo
The University of New South Wales(新南威尔士大学);Friedrich Schiller University Jena(耶拿弗里德里希·席勒大学)
本文研究了由确定性序列驱动的方差限制马尔可夫链准蒙特卡洛方法的效率,定义了驱动序列的回溯偏差,并证明了存在确定性驱动序列使偏差以蒙特卡洛速率n^1/2衰减,同时提供了误差估计示例。
2014-12-02 cs.NA math.NA math.ST
A Markov Chain Monte-Carlo Approach to Dose-Response Optimization Using Probabilistic Programming (RStan)
提出了一种分层逻辑斯谛回归贝叶斯模型,并在R中实现,以模拟与任何给定剂量的某种药物相对应的患者改善的概率。RStan用于通过马尔可夫链蒙特卡罗(MCMC)采样从后验分布中获得样本。选择不同的家庭的先验分布的影响进行检查,最后,后验分布进行比较RStan,和其他两个环境,即PyMC,和PsychaRisk。
2020-11-30 stat.AP