Policy Gradients for Optimal Parallel Tempering MCMC
Harvard University（哈佛大学）
本文针对并行回火MCMC中温度选择问题，提出基于策略梯度的自适应温度调整算法，在基准分布上相比传统方案取得了更低的积分自相关时间。
2024-12-26 cs.LG stat.CO stat.ML
Multilevel Delayed Acceptance MCMC with an Adaptive Error Model in PyMC3
通过马尔可夫链蒙特卡罗（MCMC）的不确定性量化对于具有昂贵的似然函数的目标概率密度来说可能是极其昂贵的，例如当评估涉及求解偏微分方程（PDE）时，如在广泛的工程应用中的情况。多级延迟接受（MLDA）与自适应误差模型（AEM）是一种新的方法，它通过利用层次化的模型来解决这个问题，增加了复杂性和成本，并在运行中纠正廉价的模型。该方法已集成在开源概率编程包PyMC 3中，并在最新的开发版本中可用。在本文中，该算法是随着一个说明性的例子。
2020-12-10 stat.CO
Tuning Tempered Transitions
Neal（1996）提出了回火跃迁方法，用于解决使用马尔可夫链蒙特卡罗从多峰分布中采样时出现的困难。与模拟回火和Metropolis耦合MCMC等方法一样，其关键思想是利用一系列连续更容易样本分布来改善状态空间周围的运动。回火转换通过将这些较少模态分布的移动合并到MCMC建议中来实现这一点。不幸的是，改进的模式之间的运动是在一个高的计算成本与昂贵的建议接受率低。我们考虑如何调整算法，以增加给定数量的温度的接受率。我们发现，通常假设的几何间距的温度是合理的，在许多但不是所有的应用。
2010-10-05 stat.CO
MCMC Should Mix: Learning Energy-Based Model with Neural Transport Latent Space MCMC
Google Research（谷歌研究院）；Salesforce Research（赛富时研究院）；Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院）
学习基于能量的模型（EBM）需要MCMC采样的学习模型作为一个内部循环的学习算法。然而，高维数据空间中EBM的MCMC采样通常不是混合的，因为通常由深度网络参数化的能量函数在数据空间中是高度多模态的。这对循证医学的理论和实践都是一个严重的障碍。在本文中，我们建议学习EBM与流为基础的模型（或在一般的潜变量模型）作为骨干，使EBM是一个校正或指数倾斜的流为基础的模型。我们发现，该模型具有一个特别简单的形式在空间的潜变量的骨干模型，MCMC采样的EBM在潜在的空间混合以及遍历模式的数据空间。这使得能够对EBM进行适当的采样和学习。
2022-03-16 cs.LG stat.ML
Asymptotically Independent Markov Sampling: a new MCMC scheme for Bayesian Inference
在贝叶斯统计中，许多问题都可以表示为关于后验分布的期望值的估计。由于遇到的后验分布不能直接采样，标准蒙特卡罗方法往往不适用。在这种情况下，最流行的策略是重要性抽样方法、马尔可夫链蒙特卡罗和退火。在本文中，我们介绍了一种新的方案，称为渐近独立马尔可夫抽样（AIMS）的贝叶斯推断，这是基于上述方法。我们得到重要的遍历性质的AIMS。特别是，它表明，在一定条件下，AIMS算法产生一个一致遍历的马尔可夫链。的算法的自由参数的选择进行了讨论，并提供了这种选择的建议，无论是理论上和实践上的基础。三个数值例子证明了AIMS的有效性，其中包括多模态和高维目标后验分布。
2011-10-09 stat.CO stat.ML
An adaptive MCMC method for multiple changepoint analysis with applications to large datasets
研究了变点个数和位置均未知的变点的贝叶斯推断问题。特别是，我们考虑产品分区模型，其中可以整合出每个变点之间的制度的模型参数，在潜在向量上留下后验分布，指示在每个观察点是否存在变点。Fearnhead（2006）也考虑了同样的问题，其中可以使用过滤递归来进行精确推理。然而，该算法的复杂度二次依赖于观察的数量。我们的方法依赖于有限离散状态空间的自适应马尔可夫链蒙特卡罗（MCMC）方法。我们开发了一种自适应算法，它可以从过去的状态的马尔可夫链，以建立建议分布，可以快速发现变化点可能位于。我们证明了我们的算法的后验分布遍历。至关重要的是，我们证明了我们的自适应MCMC算法是可行的大型数据集的过滤递归方法是不是。此外，我们表明，推理是可能的，在一个合理的时间。
2017-03-11 stat.CO
Variational Langevin Hamiltonian Monte Carlo for Distant Multi-modal Sampling
East China Normal University（华东师范大学）
Hamilton Monte Carlo（HMC）采样算法利用Hamilton动力学构造高效的Markov Chain Monte Carlo（MCMC），在机器学习和统计学中越来越受欢迎。由于HMC使用目标分布的梯度信息，它可以比随机行走建议更有效地探索状态空间。然而，涉及多模态分布的概率推理是非常困难的标准HMC方法，特别是当模式彼此远离。采样算法通常不能穿越低概率的地方。在本文中，我们提出了一种新的MCMC算法，旨在有效地从多峰分布采样。该方法改进了哈密顿动力学，以减少样本的自相关性，并使用变分分布来探索相空间，并找到新的模式。给出了一个形式化的证明，证明了该方法能够收敛到目标分布。合成和真实的数据集被用来评估其属性和性能。实验结果验证了理论的正确性，并显示出优越的性能，在多模态采样。
2019-06-01 cs.LG stat.ML
MCMC Using Ensembles of States for Problems with Fast and Slow Variables such as Gaussian Process Regression
我介绍了一个马尔可夫链蒙特卡罗（MCMC）计划，在该计划中，从一个密度为π（x）的分布采样是使用更新操作的“合奏”的状态。当前状态x首先被随机映射到系综x^{（1）}，.，x^{（K）}。然后使用MCMC更新来更新该系综，MCMC更新保持合适的系综密度rho（x^{（1）}，.，x^{（K）}），根据pi（x^{（i）}）定义，i=1，.，K.最后，在这些更新之后从系综中随机选择单个状态。当pi和系综的特性允许对于{1，.，K}，其计算时间少于针对单个x计算pi（x）所需的计算时间的K倍。这种类型的一种常见情况是，对某些“快速”变量的更改允许快速重新计算密度，而对其他“慢速”变量的更改则不允许。高斯过程回归模型是此类问题的一个例子，协方差的总体缩放因子和噪声方差是快速变量。我表明，集成MCMC高斯过程回归模型确实可以大大提高采样性能。最后，我讨论了其他可能的应用合奏MCMC，其关系的“多尝试大都会”的方法刘，梁，黄和“多集采样器”的莱曼，陈和拉文。
2011-01-02 stat.CO
A note on MCMC for nested multilevel regression models via belief propagation
在寻求可扩展的贝叶斯计算算法，我们需要充分利用现有的方法的潜力。在这份说明中，我们指出，消息传递算法，这是非常发达的图形模型中的推理，似乎在很大程度上是未开发的贝叶斯多级回归模型的可扩展推理。我们发现，嵌套的多层回归模型与高斯误差非常自然地结合使用的信念传播和MCMC。具体来说，以协方差超参数为条件的回归参数的后验分布是一个高维高斯分布，可以使用置信传播以参数和数据数量线性缩放的代价精确采样（以及边缘化）。我们推导出一种算法，即使对于条件奇异高斯分布，例如，当在不同水平的参数之间存在线性约束时。我们发现，允许这样的不可逆高斯是至关重要的信念传播适用于一个大类的嵌套多层次模型。从一个不同的角度来看，所提出的方法可以被看作是一个推广的前向-后向算法的采样与树结构的图形模型，而不是单枝树中使用的经典卡尔曼滤波器的上下文中的多级回归。
2017-09-04 stat.CO
Multilevel Delayed Acceptance MCMC
我们开发了一种新的马尔可夫链蒙特卡罗（MCMC）方法，利用层次结构的模型的复杂性不断增加，有效地产生样本的非归一化目标分布。从广义上讲，该方法重写了Dodwell等人的多水平MCMC方法。（2015）在Christen & Fox（2005）的延迟接受（DA）MCMC方面。特别是，DA扩展到使用任意深度的模型层次结构，并允许任意长度的子链。我们证明了该算法满足细节平衡，因此对目标分布是遍历的。此外，多层次的方差减少，利用多层次和子链，和自适应多级校正粗级偏差的开发。贝叶斯反问题的三个数值例子证明了这些新方法的优点。软件和示例在PyMC 3中可用。
2022-08-30 stat.CO stat.ME
Multivariate-from-Univariate MCMC Sampler: R Package MfUSampler
R软件包MfUSApler提供蒙特卡罗马尔可夫链机制，用于使用单变量采样算法（如切片采样器和自适应拒绝采样器）从多变量概率分布生成样本。采样器函数执行单变量采样步骤的完整循环，每次一个坐标。在每个步骤中，使用针对其他坐标获得的最新样本值来形成条件分布。这个概念是吉布斯抽样的延伸，其中每一步涉及的不是来自条件分布的独立样本，而是条件分布不变的马尔可夫转换。该软件依赖于条件分布与联合分布的比例来实现用于产生条件的薄包装器。示例说明了基本用法以及提高性能的方法。通过封装多变量从单变量逻辑，MfUSApler提供了一个可靠的库，用于自定义贝叶斯模型的快速原型设计，同时允许增量性能优化，例如利用共轭性，条件独立性和将函数求值移植到编译语言。
2014-12-25 stat.CO
Bayesian neural networks via MCMC: a Python-based tutorial
School of Mathematics and Statistics, UNSW Sydney（新南威尔士大学悉尼分校数学与统计学院）；Pingala Institute of Artificial Intelligence（平加拉人工智能研究院）；University of Sydney（悉尼大学）
本文提供了一份基于Python的MCMC方法教程，涵盖贝叶斯线性、逻辑回归及贝叶斯神经网络，旨在通过代码实现弥合理论与应用鸿沟，并展示了MCMC在基准问题上的优劣及多模态后验采样的挑战。
2024-08-26 cs.AI cs.LG stat.CO
Implementing MCMC: Multivariate estimation with confidence
本文探讨估计马尔可夫链中心极限定理渐近协方差的关键挑战，总结分批、谱和初始序列等估计技术，针对现代MCMC模拟中正相关导致的负偏问题提出实用建议，并讨论大迭代次数下可行的计算高效方法以提升输出的可靠性与准确性。
2024-08-27 stat.AP stat.CO
The MCMC convergence graph: a diagnostic for multimodal posteriors
Uppsala University（乌普萨拉大学）；Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
针对标准MCMC诊断误判多峰后验的问题，提出基于图的MCMC收敛图诊断方法，通过成对R-hat值识别同峰链组，在Stan中实现并提供R包。
2026-09-30 stat.CO stat.ME
Spectral Subsampling MCMC for Stationary Multivariate Time Series with Applications to Vector ARTFIMA Processes
谱子采样MCMC是近年来提出的一种通过在频域对周期图进行子采样来加速长平稳单变量时间序列的马尔可夫链蒙特卡罗（MCMC）的方法。本文扩展的方法，多变量时间序列使用多变量广义的惠特尔可能性。为了评估具有挑战性的问题，从频谱子采样的计算增益，多变量广义的自回归回火分数积分移动平均模型（ARTFIMA）的介绍和它的一些属性。贝叶斯推断的基础上的Whittle可能性被证明是一个快速和准确的替代精确的时域可能性。频谱子采样提供了两个数量级的额外的速度，同时保留MCMC抽样效率和精度，相比，频谱方法使用完整的数据集。关键词：贝叶斯，马尔可夫链蒙特卡罗，半长记忆，谱分析，惠特尔似然。
2022-09-18 stat.CO stat.ME
A Framework to Analyze Multiscale Sampling MCMC Methods
本文针对高维反微分方程问题，提出一个由两部分组成的框架来研究无梯度的多尺度采样 MCMC 方法，并据此分析了三种该类方法的状态空间与收敛条件。
2025-03-05 stat.CO stat.ME
Deep Involutive Generative Models for Neural MCMC
MIT（麻省理工学院）
我们介绍了深度对合生成模型，一种用于深度生成建模的新架构，并使用它们来定义对合神经MCMC，一种快速神经MCMC的新方法。对合生成模型将概率核$G(ϕ\mapsto ϕ')$表示为对合（即，自反相）确定性函数$f(ϕ, π)$在包含辅助变量$π$的扩大状态空间上。我们展示了如何使这些模型保持体积，以及如何使用深度保持体积的对合生成模型来基于具有易于计算的接受率的辅助变量方案进行有效的Metropolis-Hastings更新。我们证明了深度对合生成模型及其保体积特殊情况是概率核的通用逼近器。这个结果意味着，有足够的网络容量和训练时间，它们可以用来学习任意复杂的MCMC更新。我们定义了一个损失函数和优化算法的训练参数给定的模拟数据。我们还提供了初步的实验表明，对合神经MCMC可以有效地探索混合蒙特卡罗难以处理的多模态分布，并且可以比最近引入的神经MCMC技术A-NICE-MC更快地收敛。
2020-07-02 cs.LG cs.NE math.ST
Parallelizing MCMC Across the Sequence Length
Stanford University（斯坦福大学）；Brown University（布朗大学）
本文提出在序列长度上并行化MCMC的方法，通过并行牛顿方法加速采样，提升效率。
2025-12-02 stat.CO
Learning Energy-Based Prior Model with Diffusion-Amortized MCMC
UCLA（加州大学洛杉矶分校）；Beijing Institute for General Artificial Intelligence (BIGAI)（北京通用人工智能研究院）；Google DeepMind（谷歌DeepMind）
针对潜空间EBM短程MCMC采样质量差导致生成质量低、训练不稳定的问题，提出基于扩散的长程MCMC摊销采样方法及对应学习算法，经理论验证有效性且在图像基准数据集上性能优于同类方法。
2023-10-05 cs.AI cs.LG stat.ML
A Review of Multiple Try MCMC algorithms for Signal Processing
信号处理中的许多应用需要在给定一组观测数据的情况下估计一些感兴趣的参数。更具体地说，贝叶斯推断需要计算{ \it a-posteriori}估计，这往往是复杂的多维积分表示。不幸的是，这些估计的解析表达式不能在大多数现实世界的应用中找到，和蒙特卡罗方法是唯一可行的方法。马尔可夫链蒙特卡罗（MCMC）算法形成了一类非常强大的蒙特卡罗技术。它们生成一个马尔可夫链，使得其平稳分布与目标后验密度一致。在这项工作中，我们使用多个候选人对MCMC方法进行了彻底的审查，以便在每次迭代中选择链的下一个状态。相对于经典的Metropolis-Hastings方法，多尝试技术的使用促进了对样本空间的探索。我们提出了不同的多尝试Metropolis方案，Ensemble MCMC方法，粒子梅特罗波利斯-黑斯廷斯算法和延迟拒绝Metropolis技术。我们强调的局限性，好处，连接和不同的方法之间的差异，并比较它们的数值模拟。
2018-01-27 stat.CO stat.ML
A Corrected and More Efficient Suite of MCMC Samplers for the Multinomal Probit Model
多项概率单位（MNP）模型是描述离散选择数据的有用工具，有多种方法来拟合模型。其中，由Imai和van Dyk（2005 a）提供的基于边缘数据增强的算法被广泛使用，因为它们在收敛方面是有效的，并且允许直接在可识别参数上指定可能不适当的先验分布。Burgette和Nordheim（2012）修改了Imai和van Dyk（2005 a）的模型和算法，以避免为建立可识别性而经常做出的任意选择。然而，Imai和van Dyk（2005 a）的算法中存在错误，这影响了他们的算法以及Burgette和Nordheim（2012）的算法。该误差可以改变稳态分布和所得到的拟合参数以及这些算法的效率。我们提出了一个校正，并使用模拟研究和真实数据分析来说明原始算法和校正算法之间的差异，无论是在其估计的后验分布和收敛性能。在某些情况下，对平稳分布的影响可能是巨大的。
2015-04-29 stat.CO
Adaptive Multiple Importance Sampling for Gaussian Processes
在高斯过程应用中，不确定性的量化是一个严格的要求，它是必要的，以准确地描述后验分布的高斯过程协方差参数。通常，这通过标准的马尔可夫链蒙特卡罗（MCMC）算法来完成。出于与计算边际可能性的复杂性相关的问题（可能导致MCMC算法效率低下）的动机，本文开发了一种基于自适应多个重要性抽样（AMIS）的替代推理框架。本文研究了AMIS在高斯似然情况下的应用，提出了非高斯似然情况下的伪边缘AMIS，其中边缘似然是无偏估计的。结果表明，所提出的框架优于MCMC为基础的协方差参数的推断在广泛的情况下，并保持竞争力的适度大尺寸的参数空间。
2016-03-31 stat.CO
Orthogonal parallel MCMC methods for sampling and optimization
蒙特卡罗（MC）方法广泛用于统计学、信号处理和机器学习中的贝叶斯推断和优化。众所周知的一类MC方法是马尔可夫链蒙特卡罗（MCMC）算法。为了更好地探索状态空间，特别是在高维应用中，最近引入了几种采用多个并行MCMC链的方案。在这项工作中，我们描述了一种新的并行交互MCMC计划，称为{ \it正交MCMC}（O-MCMC），其中一组“垂直”并行MCMC链共享信息使用一些“水平”MCMC技术工作在整个人口的当前状态。更具体地说，垂直链是由随机行走的建议，而水平MCMC技术采用独立的建议，从而允许一个有效的组合的全球探索和局部近似。交互包含在这些水平迭代中。在不同的O-MCMC实现的分析，新的计划，以减少并行多尝试Metropolis（MTM）链的整体计算成本。此外，O-MCMC优化的修改版本提供了考虑并行模拟退火（SA）算法。数值结果表明，所提出的采样方案的优点，在估计的效率，以及鲁棒性的独立性相对于初始值和参数的选择。
2016-09-25 stat.CO stat.ML
Parallelizing MCMC Sampling via Space Partitioning
多维和多峰密度函数的有效采样是许多研究领域的一个重要课题。我们描述了一种算法，它允许并行化固有的串行马尔可夫链蒙特卡罗（MCMC）的功能参数的空间划分成多个子空间和采样每个独立的采样。然后，不同子空间的样本通过其积分值重新加权并缝合在一起。这种方法允许通过并行操作来减少采样挂钟时间。它还改进了多模态目标密度的采样，并导致相关性较低的样本。最后，该方法产生的目标密度函数的积分的估计。
2020-08-07 physics.data-an stat.CO
Multilevel Dimension-Independent Likelihood-Informed MCMC for Large-Scale Inverse Problems
本文融合维度无关似然信息MCMC与多层MCMC，利用Rayleigh-Ritz过程降低似然信息子空间构建成本，提升各层采样效率并减少多层积分误差。
2023-11-30 cs.NA math.NA stat.CO
A Multi-armed Bandit MCMC, with applications in sampling from doubly intractable posterior
Stanford University（斯坦福大学）
马尔可夫链蒙特卡罗（MCMC）算法被广泛应用于复杂分布的采样，特别是贝叶斯推断中的后验分布的采样。然而，MCMC是不直接适用于面对双重棘手的问题。本文讨论并比较了两种现有的解决方案--伪边际蒙特卡罗法和交换法。本文还提出了一种新的算法：多臂强盗MCMC（MABMC），它在每一步中选择两个（或多个）随机接受率。MABMC可以直接应用于伪边际蒙特卡罗和Exchange算法，具有较高的平均接受概率。
2019-03-27 cs.AI physics.data-an stat.CO
gemlib.mcmc: composable kernels for Metropolis-within-Gibbs sampling schemes
本文提出gemlib.mcmc框架，通过可组合内核抽象简化MCMC实现，利用范畴论中的writer monads实现内核组合，降低开发难度，使研究人员能高效应用先进算法。
2026-05-11 stat.CO
Penalised t-walk MCMC
处理通常由复杂的统计模型产生的多模态仍然是一个挑战。目前的马尔可夫链蒙特卡罗（MCMC）方法解决这个问题是基于一个合奏的链，针对产品的功率回火分布。尽管这些方法的理论有效性，但由于涉及的高计算成本，实际实现通常遭受不良混合和缓慢收敛。在这项工作中，我们研究新的扩展的t-步行算法，现有的MCMC方法，是廉价的和不变的仿射变换的状态空间，用于处理多峰分布。我们承认，新方法的有效性将取决于问题，并可能在复杂的情况下挣扎;对于这种情况下，我们提出了一种基于伪边缘理论的后处理技术，用于结合孤立的样本。
2020-12-03 stat.CO stat.ME
A posteriori stochastic correction of reduced models in delayed acceptance MCMC, with application to multiphase subsurface inverse problems
基于样本的贝叶斯推断提供了一种在地球科学中进行不确定性量化的途径，并且通常提供了逆问题，尽管在每次迭代时需要模拟精确的计算机模型的朴素形式中对计算要求很高。我们提出了一种新的方法，构造一个随机校正引起的误差减少模型，与校正改善算法的进行。这使得从正确的目标分布采样，在减少每次迭代的计算成本，在现有的延迟接受计划，同时避免明显的统计效率的损失，必然发生时，使用简化模型。随机校正的使用显著降低了在期望的不确定性范围内估计感兴趣的量的计算成本。相比之下，现有的计划，直接使用简化模型作为代理实际上并没有提高计算效率，在我们的目标应用程序。我们建立在最近的简化条件，自适应马尔可夫链蒙特卡罗算法，给出实用的近似计划和算法，保证收敛。这种新方法的有效性证明了两个计算实例，包括一个真正的地热储层的大规模数值模型的校准，表现出良好的计算和统计效率的合成和测量数据集。
2019-04-11 stat.CO
Generating MCMC proposals by randomly rotating the regular simplex
我们提出了单纯采样器，一类并行MCMC方法，在每次迭代中生成和选择多个建议。该算法的多重建议随机旋转连接到当前马尔可夫链状态的一种方式，固有地保持提案之间的对称性的单纯形。因此，单纯采样器导致简化的接受步骤：它只是从概率与其目标密度值成比例的单纯节点中进行选择。我们还研究了基于多元高斯的对称多提案机制，并证明它也享有相同的简化接受步骤。这一见解导致显着的理论和实践加速。虽然这两种算法享有自然的并行性，我们表明，传统的实现是足够的，以提高效率，在一个数组的尺寸和一些目标分布。
2022-09-13 stat.CO stat.OT
Convergence Bounds for Sequential Monte Carlo on Multimodal Distributions using Soft Decomposition
Department of Applied Mathematics \& Statistics, Johns Hopkins University e1,e2
本文研究了序贯蒙特卡洛算法在多模分布上的收敛性界，通过软分解方法，利用局部马尔可夫链混合动态而非全局混合动态，提出新的收敛性界分析方法。
2026-03-17 cs.LG math.PR math.ST
Plateau Proposal Distributions for Adaptive Component-wise Multiple-Try Metropolis
马尔可夫链蒙特卡罗（MCMC）方法是已经成为统计学中常用工具的采样方法，例如用于执行蒙特卡罗积分。由于计算能力的增加，MCMC方法存在许多变化，用于从任意的、可能复杂的目标分布生成样本。MCMC方法的性能主要取决于所使用的所谓建议分布的选择。在本文中，我们介绍了一种新类型的建议分布中使用的MCMC方法，操作组件明智的，每次迭代多次试验。具体来说，这类新的建议分布，称为高原分布，不重叠，从而确保多个试验是从状态空间的不同区域中提取的。此外，高原建议分布允许定制的自适应过程，其适合于具有有效的问题相关状态空间探索和改进的老化特性的马尔可夫链。仿真研究表明，我们的新的MCMC算法优于竞争对手时，从一个复杂的形状，高度相关的组件或多个模式的分布采样。
2021-06-10 stat.CO stat.ME
Parallel MCMC Without Embarrassing Failures
University College London（伦敦大学学院）；Aalto University（阿尔托大学）；Getulio Vargas Foundation（热图利奥·瓦加斯基金会）；University of Manchester（曼彻斯特大学）；University of Helsinki（赫尔辛基大学）
令人尴尬的并行马尔可夫链蒙特卡罗（MCMC）利用并行计算，通过使用两步方法将贝叶斯推断扩展到大型数据集。首先，MCMC在数据分区上定义的（子）后验上并行运行。然后，服务器组合本地结果。虽然有效，这个框架是非常敏感的次后验抽样的质量。常见的采样问题，如缺失模式或低密度区域的错误表示，在组合阶段被放大-而不是被纠正-导致灾难性的故障。在这项工作中，我们提出了一种新的组合策略来缓解这个问题。我们的策略，并行主动推理（PAI），利用高斯过程（GP）代理建模和主动学习。在将GP拟合到次后验后，PAI（i）在GP代理之间共享信息以覆盖缺失的模式;以及（ii）使用主动采样来单独地改进次后验近似。我们验证PAI在具有挑战性的基准，包括重尾和多模态后验和现实世界中的应用计算神经科学。实证结果表明，PAI成功地在以前的方法灾难性地失败，与一个小的通信开销。
2022-03-29 cs.LG stat.ME stat.ML
Unbiased Multilevel Monte Carlo methods for intractable distributions: MLMC meets MCMC
从马尔可夫链蒙特卡罗（MCMC）输出构造无偏估计量是一个困难的问题，最近在统计学和机器学习界受到了很多关注。然而，目前的无偏MCMC框架仅适用于兴趣量是期望的情况，这排除了许多实际应用。本文提出了一种构造期望函数无偏估计量的一般方法，并将其推广到构造套期望的无偏估计量。我们的方法结合和推广了无偏MCMC和多层蒙特卡罗（MLMC）方法。与传统的顺序方法相比，我们的估计器可以在并行处理器上实现。我们表明，我们的估计有一个有限的方差和计算复杂性，并可以实现$\varepsilon$ -在温和的条件下，在最佳的$O(1/\varepsilon^2)$计算成本的准确性。我们的数值实验证实了我们的理论研究结果，并证明了无偏估计量在大规模并行制度的好处。
2022-12-23 cs.NA math.NA stat.CO
Towards Efficient MCMC Sampling in Bayesian Neural Networks by Exploiting Symmetry
Technical University of Munich（慕尼黑工业大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；The University of Manchester（曼彻斯特大学）
针对贝叶斯神经网络中MCMC采样成本高且后验多模态的难题，提出利用神经元可互换性等对称性将后验限制在无对称参数集，并推导出所需链数上限，实现了高效且准确的贝叶斯推断。
2023-04-06 cs.LG stat.ML
Online Probabilistic Model Identification using Adaptive Recursive MCMC
Simon Fraser University（西蒙弗雷泽大学）；K. N. Toosi University of Technology（K.N.图斯工业大学）
提出ARMCMC方法克服传统在线贝叶斯技术的局限，通过基于时间遗忘因子的自适应跳跃分布高效计算参数全概率密度，在软弯曲执行器等混合多模态基准上以更少样本实现更高精度。
2023-10-19 cs.LG cs.RO math.ST
Multi-fidelity Monte Carlo: a pseudo-marginal approach
Princeton University（普林斯顿大学）
马尔可夫链蒙特卡罗（MCMC）是一种用于科学应用中不确定性量化和传播的成熟方法。将MCMC应用于科学领域的一个关键挑战是计算：感兴趣的目标密度通常是昂贵计算的函数，例如高保真物理模拟，棘手的积分或缓慢收敛的迭代算法。因此，使用具有昂贵目标密度的MCMC算法变得不切实际，因为这些昂贵的计算需要在算法的每次迭代时进行评估。在实践中，这些计算通常通过更便宜、低保真度的计算来近似，导致所得目标密度的偏差。多保真度MCMC算法结合不同的模型，以获得一个近似的目标密度与较低的计算成本。在本文中，我们描述了一类渐近精确的多保真度MCMC算法的设置，其中一系列模型的保真度不断增加，可以计算出接近昂贵的目标密度的兴趣。我们采取伪边际MCMC方法的多保真度的推断，利用一个更便宜的，随机保真度无偏估计量的目标保真度通过随机截断的一系列的低保真度序列的模型构建。最后，我们讨论和评估所提出的多保真度MCMC方法的几个应用，包括对数高斯Cox过程建模，贝叶斯ODE系统识别，偏微分方程约束优化，和高斯过程回归参数推断。
2022-10-04 cs.LG stat.CO stat.ML
Optimization assisted MCMC
York University（约克大学）
马尔可夫链蒙特卡罗（MCMC）抽样方法被广泛使用，但在应用于多峰高维分布时经常遇到收敛速度慢或有偏抽样。在本文中，我们提出了一个一般的框架，改进经典MCMC采样器采用全局优化方法。全局优化方法首先将高维搜索简化为一维测地线，以找到接近局部模式的起始点。通过使用局部搜索方法（如BFGS）来加速和完成搜索。我们通过在发现的模式周围提取局部高斯分布来修改目标分布。重复该过程以在运行中采样期间找到所有模式。我们将优化算法集成到虫洞哈密顿蒙特卡罗（WHMC）方法。实验结果表明，在高维多模态高斯混合模型和网络传感器定位问题中，该方法的收敛速度更快，在某些情况下相对于平均值的相对误差比WHMC提高了一个数量级.
2017-09-09 cs.LG stat.CO
Efficient Exploration of Multi-Modal Posterior Distributions
马尔可夫链蒙特卡罗（MCMC）算法是一种被广泛认为是一种有效的方法来采样指定的后验分布。然而，当后验是多模态的，传统的MCMC算法要么往往会陷入一个局部模式，成为非马尔可夫或需要一个过长的时间来探索的分布的全局属性。我们提出了一种新的MCMC的变体，混合MCMC，它利用了一个专门设计的建议密度，允许从任何一个不同的模式生成候选点。这种新方法是有效的设计，是严格的马尔可夫。我们提出了我们的方法，并将其应用到一个玩具模型推理问题，以证明其有效性。
2014-08-18 astro-ph.IM stat.CO
Divide-and-Conquer MCMC for Multivariate Binary Data
对大规模医疗索赔数据的分析有可能通过生成可用于创建定制医疗计划的见解来提高护理质量。特别地，多变量概率单位模型可以用于研究在这样的数据中感兴趣的多个二元响应之间的相关性，例如多种慢性病症的存在。贝叶斯建模非常适合于这种分析，因为后验分布提供了自动的不确定性量化。一个复杂的因素是，大型医疗索赔数据集往往不适合在内存中，这使得使用传统的马尔可夫链蒙特卡罗（MCMC）方法的后验估计计算上是不可行的。为了解决这一挑战，我们将现有的分治MCMC算法扩展到多变量概率模型，通过模拟证明，当估计二进制响应之间的潜在相关结构时，它们应该优先于平均场变分推断。我们将该算法应用于一个大型数据库，该数据库包含来自美国一家大型医疗保险提供商的去识别医疗保险优势索赔，在那里我们发现了具有医学意义的常见慢性病分组，并通过识别农村地区未充分利用的提供者专业来评估城乡健康差距的影响。
2021-06-11 stat.AP stat.CO stat.ME
Importance sampling type estimators based on approximate marginal MCMC
考虑基于马尔可夫链蒙特卡罗（MCMC）的重要性抽样（IS）型加权估计，目标是目标分布的近似边缘。在贝叶斯潜变量模型的上下文中，MCMC通常对超参数进行操作，并且随后的加权可以基于IS或序贯蒙特卡罗（SMC），但也允许多级技术。IS方法提供了延迟接受（DA）伪边缘/粒子MCMC的一个自然的替代方案，并具有许多优势，DA，包括一个简单的并行化和MCMC实现的额外灵活性。我们详细的最小条件，确保强一致性的建议估计，并提供中心极限定理的渐近方差的表达式。我们演示了我们的方法可以利用SMC的状态空间模型的上下文中，使用拉普拉斯近似和时间离散扩散。我们的实验结果是有希望的，并表明，IS型的方法可以提供大量的收益相对于一个类似的DA计划，往往是有竞争力的，即使没有并行化。
2020-03-09 math.PR stat.CO
Inverse modeling of hydrologic systems with adaptive multi-fidelity Markov chain Monte Carlo simulations
马尔可夫链蒙特卡罗（MCMC）模拟方法被广泛用于评估水文模型的参数不确定性条件下的可观测状态变量的测量。然而，当模型是CPU密集型和高维的，MCMC模拟的计算成本将是令人望而却步的。在这种情况下，CPU高效但不太准确的低保真度模型（例如，通常采用具有较粗离散化的数值模型或数据驱动的替代）。如今，多逼真度仿真方法，可以利用低逼真度模型的效率和高保真度模型的准确性得到普及。在MCMC模拟中，由于未知模型参数的后验分布是感兴趣区域，因此明智的做法是将大部分计算预算（即，高精度模型评估）。基于这一思想，本文提出了一种自适应多保真度MCMC算法，用于水文系统的高效逆建模。在该方法中，我们评估高保真模型主要是在后验区域通过迭代运行MCMC基于高斯过程（GP）系统，自适应构造与多保真度模拟。在MCMC仿真中严格考虑了GP系统的误差，并在后验区域逐渐减小到可以忽略的水平。因此，所提出的方法可以得到一个准确的估计后验分布与少量的高保真模型评估。所提出的方法的性能证明了三个数值算例研究在水文系统的逆模拟。
2018-06-14 math.OC stat.CO
How to view an MCMC simulation as a permutation, with applications to parallel simulation and improved importance sampling
考虑一个定义在有限状态空间X上的马尔可夫链，它保持X上的均匀分布不变，并且对于某个整数Q，它的转移概率是1/Q的整数倍。我展示了从x_0开始的该链的n个转换的模拟如何可以被视为在空间XxU上应用随机置换，其中U={0，1，.，Q-1}，到起始态（x_0，u_0），其中u_0从U均匀地引出。对于某个整数P，该结果可以应用于概率为1/P的整数倍的非均匀分布，通过将其表示为来自XxY的适当定义的子集上的均匀分布的X的边缘分布，其中Y={0，1，.，P-1}。通过让Q、P和X的基数趋于无穷大，这个结果可以推广到非有理概率和连续状态空间，其中有限空间上的置换被从连续空间到其自身的保体积一对一映射所取代。这些结构可以有效地实现链中常用的马尔可夫链蒙特卡罗（MCMC）模拟。我提出了两个应用程序在这种情况下-模拟K个实现的链从K个初始状态，但与过渡定义的一个单一的流的随机数，可能是有效的向量处理器或多个处理器，并使用MCMC，以提高重要性抽样分布，已经有很大的重叠与分布的兴趣。我还讨论了这种“排列MCMC”方法的影响，在MCMC模拟的随机性的作用，以及潜在的使用非随机和准随机数。
2012-05-01 physics.comp-ph stat.CO
On Cyclical MCMC Sampling
本文分析 cyclical MCMC 的收敛性，证明其在快速混合核和足够长循环下收敛，但在慢混合情形下可能失效，同时仍能较好估计各众数附近的局部形状。
2024-03-01 stat.CO stat.ML
Single step and multiple step forecasting in one dimensional single chirp signal using MCMC based Bayesian analysis
Chirp信号经常用于科学和工程的不同领域。本文对一维线性调频信号进行了基于MCMC的贝叶斯推断，并对一维线性调频信号进行了一步和多步预测。一. d.误差结构以及具有指数衰减协方差的相关误差结构。我们使用吉布斯抽样技术和随机游动MCMC来更新参数。为了说明的目的，我们总共进行了五次模拟研究。我们还做了一些真实的数据分析，以显示该方法在实践中是如何工作的。
2014-07-02 stat.ME
A multi-point Metropolis scheme with generic weight functions
多点Metropolis算法是一种先进的MCMC技术，它在每一步提取多个相关样本，并根据一些归一化权重选择其中一个。我们提出了这种技术的一种变体，其中权重函数未指定，即，可以任意选择解析形式。这在高性能MCMC采样器的设计中具有更大的灵活性。我们证明了我们的方法满足平衡条件，并提供了一个数值模拟。我们还提供了新的见解不同的MCMC算法的功能，以及它们之间的连接。
2012-04-27 stat.CO stat.ME
Similarity-Driven Proposals for MCMC Algorithms on Discrete Spaces
University of California, Los Angeles（加州大学洛杉矶分校）；University of Bergamo（贝加莫大学）；University College of London（伦敦大学学院）；National University of Singapore（新加坡国立大学）
本文提出了一种基于相似性的MCMC方法，用于离散空间中的后验分布采样，通过数据驱动的观测与提议模型之间的不一致度度量来引导转移，适用于包含离散变量和额外潜在变量的分层模型。
2026-05-20 stat.CO stat.ME
Multivariate strong invariance principle and uncertainty assessment for time in-homogeneous cyclic MCMC samplers
该研究为时间非齐次循环MCMC采样器相关马尔可夫链建立了速率与时齐情形最优速率一致的多元强不变性原理，据此推导了多元批均值估计强相合性与固定体积序贯终止规则渐近有效的条件，并通过数值实验验证了相关不确定性评估工具。
2024-05-16 math.ST stat.CO stat.TH
Invertible Particle Flow-based Sequential MCMC with extension to Gaussian Mixture noise models
非线性和非高斯状态空间中的序贯状态估计在统计和信号处理中有着广泛的应用。粒子滤波是最有效的非线性滤波方法之一，但在高维滤波场景中存在权值退化问题。已经探索了几种途径来解决高维度问题。其中，粒子流粒子滤波器通过使用可逆流将粒子从先验分布连续迁移到后验分布来构造有效的建议分布，而顺序马尔可夫链蒙特卡罗（SMCMC）方法使用Metropolis-Hastings（MH）接受-拒绝方法来提高过滤性能。在本文中，我们建议结合可逆粒子流和SMCMC的优势，通过构建一个复合大都市黑斯廷斯（MH）内核SMCMC框架内使用可逆粒子流。此外，我们提出了一个高斯混合模型（GMM）为基础的粒子流算法来构建有效的多模态分布的MH核。仿真结果表明，对于高维状态估计的例子问题，所提出的核显着增加的接受率与最小的额外的计算开销，并提高估计精度相比，国家的最先进的滤波算法。
2019-03-11 stat.ME
A Framework for Adaptive MCMC Targeting Multimodal Distributions
提出了一种新的多峰分布抽样的蒙特卡罗方法。该技术的思想是基于将任务分为两部分：找到目标分布$π$的模式，并在已知模式位置的情况下进行采样。采样算法依赖于两种类型的步骤：局部步骤，保留模式;以及跳转到与不同模式相关联的区域。此外，该方法在运行时学习算法的最佳参数，而不需要用户干预。我们的技术应该被认为是一个灵活的框架，其中的动作设计可以遵循各种策略，从广泛的MCMC文献。为了设计一个自适应的计划，方便本地和跳跃移动，我们引入了一个辅助变量表示每个模式，我们定义了一个新的目标分布$\tildeπ$上的增广状态空间$\mathcal{X}~\times~\mathcal{I}$，其中$\mathcal{X}$是原始状态空间的$π$和$\mathcal{I}$是一组模式。当算法运行并更新其参数时，目标分布$\tildeπ$也不断被修改。这激发了一类新的算法，辅助变量自适应MCMC。我们证明了一般遍历的结果，为整个类之前专门的情况下，我们的算法。
2019-01-11 math.PR stat.CO stat.ME
Globally-centered autocovariances in MCMC
自协方差是马尔可夫链蒙特卡罗（MCMC）模拟中的一个基本量，自相关函数（ACF）图是性能评估的整体可视化工具。不幸的是，对于慢混合马尔可夫链，经验自协方差可能会大大低估真相。对于多链MCMC抽样，我们提出了一个全局中心估计的自协方差函数（G-ACvF），表现出显着的理论和经验改进。我们表明，G-ACvF估计的偏差小于当前最先进的偏差。这种改进的估计的影响是显而易见的，在三个关键的输出分析应用：（1）ACF图，（2）估计的蒙特卡罗渐近协方差阵，（3）估计的有效样本量。在较弱的条件下，我们建立了改进的渐近协方差估计的强相合性，并得到了它的大样本偏差和方差。新的估计的性能通过各种例子证明。
2021-10-18 stat.CO stat.ME
Combining Particle MCMC with Rao-Blackwellized Monte Carlo Data Association for Parameter Estimation in Multiple Target Tracking
研究了具有数据关联不确定性和目标数目未知的多目标跟踪问题中的状态和参数估计。我们展示了如何将问题转换为具有未知参数的条件线性高斯状态空间模型，并提出了一种算法，用于对所得到的模型进行计算有效的推断。该算法将Rao-Blackwellized蒙特卡罗数据关联算法与粒子马尔可夫链蒙特卡罗算法相结合，共同估计参数和数据关联。粒子边际Metropolis-Hastings和粒子吉布斯变量的粒子MCMC被认为是。我们证明了该方法的性能，使用模拟数据和真实数据的情况下，使用多目标跟踪估计棕熊在芬兰的人口研究。
2015-02-20 math.DS math.ST stat.AP
Gaussian Approximation and Output Analysis for High-Dimensional MCMC
本文针对高维MCMC输出分析问题，建立了定量高斯逼近结果，并据此给出保证中心极限定理、方差与有效样本量一致估计所需的模拟工作量及终止时间的多项式维度收敛界。
2024-10-17 stat.CO stat.ME
Bayesian Parameter Estimation for Partially Observed McKean-Vlasov Diffusions Using Multilevel Markov chain Monte Carlo
本文提出基于多层马尔可夫链蒙特卡洛的新算法，用于部分观测McKean-Vlasov扩散的贝叶斯参数估计，显著降低计算成本并证明收敛性。
2025-04-22 cs.NA math.NA stat.CO
