Geometric ergodicity of Rao and Teh's algorithm for Markov jump processes
Rao和Teh(2013)介绍了一种有效的MCMC算法,用于从隐马尔可夫跳跃过程的后验分布中进行采样。该算法基于虚拟跳跃采样的思想。本文证明了由Rao和Teh算法生成的马尔可夫链是几何遍历的。为此,我们建立了一个几何漂移的条件向一个小的集合。
2015-12-02 stat.ME
Geometric ergodicity of Gibbs samplers for the Horseshoe and its regularized variants
马蹄铁是高维贝叶斯线性回归中广泛使用的一种连续收缩先验。最近,正则化版本的马蹄事先也已在文献中介绍。在文献中已经开发了各种吉布斯采样马尔可夫链,以从相应的难处理的后验密度生成近似样本。建立这些马尔可夫链的几何遍历性为基于马尔可夫链的后验量估计的渐近标准误差的准确性提供了关键的技术依据。在本文中,我们建立了几何遍历对应于马蹄先验及其正则化变量的线性回归的背景下,各种吉布斯采样。首先,我们建立了几何遍历的吉布斯采样器的原始马蹄后严格弱于现有的分析文献中的条件下。其次,我们考虑了Piironen和Vehtari(2017)中引入的正则化马蹄先验,并证明了Gibbs采样马尔可夫链从相应的后验中采样的几何遍历性,而无需对全局和局部收缩参数进行任何截断约束。最后,我们考虑Nishimura和Suchard(2020)中引入的正则化马蹄先验的一个变体,并再次建立Gibbs采样马尔可夫链的几何遍历性,以从相应的后验中采样。
2021-01-02 math.ST stat.TH
A Gibbs Sampling Alternative to Reversible Jump MCMC
本说明提供了一个简单而优雅的采样器,可用作可逆跳跃MCMC方法的替代方案。
2009-02-24 stat.CO
Bayesian Parameter Identification for Jump Markov Linear Systems
本文提出了一种跳变马尔可夫线性系统参数辨识的贝叶斯方法。一个主要的动机是提供准确的量化参数的不确定性,而不依赖于渐近的数据长度参数。为了实现这一点,本文详细介绍了粒子吉布斯抽样方法,提供所需的后验分布的样本。这些样本是通过利用修改后的离散粒子滤波器和精心选择的共轭先验。
2021-02-10 cs.SY eess.SY stat.AP
Block Gibbs samplers for logistic mixed models: convergence properties and a comparison with full Gibbs samplers
逻辑斯蒂线性混合模型(LLMM)是应用最广泛的统计模型之一。通常,马尔可夫链蒙特卡罗算法用于探索与贝叶斯LLNN相关联的后验密度。Polson、Scott和Windle(2013)的Polya-Gamma数据增强(DA)技术可用于构建LLLRR的完整Gibbs(FG)采样器。在这里,我们开发了高效的块吉布斯(BG)采样器贝叶斯LLPERS使用Polya-Gamma DA方法。当固定效应和随机效应之间的相关性发生变化以及设计矩阵的维度发生变化时,我们在真实数据示例的上下文中比较FG和BG采样器。这些数值例子证明了BG采样器优于FG采样器的性能。我们还得到了条件,保证几何遍历的BG马尔可夫链时,流行的不适当的一致先验分配的回归系数,适当或不适当的先验放置在方差参数的随机效应。这一理论结果具有重要的实际意义,因为它证明了使用渐近有效的蒙特卡罗标准误的马尔可夫链为基础的后验量的估计。
2021-12-16 stat.ME
Jump Markov Chains and Rejection-Free Metropolis Algorithms
本文研究避免拒绝步骤的Metropolis算法,提出利用马尔可夫跳跃链消除状态连续重复并利用硬件并行性提高采样效率,并在多个模型和算法中验证其有效性。
2020-10-28 math.ST stat.TH
Efficient parameter sampling for Markov jump processes
马尔可夫跳变过程(MJPs)是连续时间随机过程,广泛应用于各种应用学科。MJP的推断通常通过马尔可夫链蒙特卡罗进行,最先进的是基于均匀化的辅助变量吉布斯采样器。这是为MJP参数已知的情况而设计的,并且通常通过将其合并到更大的吉布斯采样器中来执行对未知参数的贝叶斯推断。这种给定路径的采样参数和给定路径参数的策略会导致马尔可夫链混合效果不好。在这项工作中,我们提出了一个简单而优雅的算法来解决这个问题。我们的计划带来了大都市黑斯廷斯方法的离散时间隐马尔可夫模型的连续时间设置,从而在MJP参数和路径推理的完整和干净的配方。在我们的实验中,我们表现出优越的性能超过吉布斯抽样,以及另一种流行的方法,粒子MCMC。我们还表明,我们的采样器继承几何混合从一个“理想”的采样器,没有计算的限制。
2020-04-12 stat.CO
Rate estimation in partially observed Markov jump processes with measurement errors
我们提出了一种模拟方法,贝叶斯估计的速率参数在马尔可夫跳跃过程中产生的,例如在随机动力学模型。为了处理观测数据中的缺失分量和测量误差问题,我们将马尔可夫跳变过程嵌入到一般状态空间模型的框架中。我们不使用扩散近似。引入了马尔可夫链蒙特卡罗和粒子滤波器类型的算法,其允许从速率参数的后验分布和马尔可夫跳跃过程中也在数据贫乏的情况下进行采样。该算法的说明,通过将它们应用于原核自动调节模型和随机Oregonator的速率估计,分别。
2010-08-31 stat.CO
Simulating Markov random fields with a conclique-based Gibbs sampler
对于空间和网络数据,我们考虑由马尔可夫随机场(MRF)结构和每个观测的条件分布的规范形成的模型。从这样的MRF模型的快速模拟通常是一个重要的考虑因素,特别是当需要重复生成大量的数据集。然而,用于从MRF模型模拟的标准吉布斯策略涉及单站点更新,以顺序方式使用每个观测的条件单变量分布执行,由此即使对于中等样本,完整的吉布斯迭代也可能在计算上涉及。作为替代方案,我们描述了一种使用具有“concliques”的吉布斯抽样(即,非相邻观测的组)。与标准的吉布斯抽样相比,该模拟方案可以通过减少吉布斯步骤和独立地更新每个conclique的所有观测一次快得多。速度的提高取决于相对于用于模拟的样本量的浓缩物的数量,并且对于许多MRF模型(例如,具有适当有界的邻域)。我们详细的模拟方法,建立其有效性,并评估其计算性能,通过数值研究,速度优势,几个空间和网络的例子。
2019-09-10 stat.CO
Fast MCMC sampling for Markov jump processes and extensions
马尔可夫跳过程(或连续时间马尔可夫链)是一类简单而重要的连续时间动力系统。在本文中,我们解决的问题,模拟从后验分布在这些模型中的路径,部分和噪音的意见。我们的方法是一个辅助变量吉布斯采样器,是基于均匀化的思想。这通过交替地采样给定当前路径的虚拟跳跃时间的有限集合,然后使用标准隐马尔可夫模型前向滤波-后向采样算法采样给定现存和虚拟跳跃时间的集合的新路径,来在路径上建立马尔可夫链。我们的方法是精确的,不涉及时间离散化等近似。我们展示了我们的采样器如何自然地扩展到基于MJP的模型,如马尔可夫调制泊松过程和连续时间贝叶斯网络,并显示出显着的计算优势,超过了最先进的MCMC采样器,这些模型。
2013-10-17 stat.CO
The Gibbs sampler revisited from the perspective of conditional modeling
本文从条件建模视角探讨了Gibbs采样器三种理论依据的等价性,提出迭代条件替换算法(ICR)证明PCGS收敛性并近似PGS平稳分布,简化了收敛性理解。
2024-10-12 stat.CO
Model comparison for Gibbs random fields using noisy reversible jump Markov chain Monte Carlo
可逆跳马尔可夫链蒙特卡罗(RJMCMC)方法通过探索由可能不同维度的几个模型组成的采样空间,为贝叶斯估计和模型比较提供了一种跨模型模拟方法。RJMCMC对吉布斯随机场等模型的简单实现存在计算困难:每个模型的后验分布被称为双重棘手,因为似然函数的计算很少可用。因此,在可能性难以处理的情况下,根本不可能模拟马尔可夫链的转移。RJMCMC的一个变种,称为噪声RJMCMC,其中底层的过渡内核被替换为基于无偏估计量的近似。基于以前的理论发展,收敛保证噪声RJMCMC算法。实验结果表明,如果采用控制蒙特卡罗方差的估计器,带噪声的RJMCMC算法比其他精确方法更有效,这与理论分析是一致的。
2018-07-13 stat.CO stat.ME
The Coordinate Sampler: A Non-Reversible Gibbs-like MCMC Sampler
在这篇文章中,我们推导出一种新的不可逆的,连续时间的马尔可夫链蒙特卡罗(MCMC)采样器,称为坐标采样器,基于分段确定性的马尔可夫过程(PSEK),它可以被看作是锯齿形采样器的变体。除了证明这种新的采样算法的理论验证,我们表明,马尔可夫链诱导具有几何遍历收敛,分布的尾部衰减至少一样快的指数分布,最快的高斯分布。几个数值例子强调,我们的坐标采样器是更有效的比锯齿形采样器,在有效的样本量。
2019-04-11 stat.CO
Exact targeting of Gibbs distributions using velocity-jump processes
本文引入并研究了一类新的速度跳跃Markov过程,它具有以下两个性质:(1)当时间步长参数向给定的Langevin动力学或Hamilton动力学方向为零时,轨迹按规律收敛; ii)过程的平稳分布总是由高斯分布的乘积精确给出,(对于速度)由任何目标对数密度,其梯度是逐点计算的,以及一些额外的显式适当的上界。该过程不表现出任何速度反射(跳跃大小可以控制),适用于“因子分解法”。我们提供了一个严格的数学证明:i)小的时间步长收敛到哈密顿/朗之万动力学,以及ii)指数快速收敛到目标分布时,适当的噪音速度。数值实现的详细说明。
2020-09-14 cs.NA math.NA math.PR
On the convergence rate of the "out-of-order" block Gibbs sampler
它表明,一个看似无害的块吉布斯采样器中的步骤重新排序,实际上可以使算法无效。特别地,由"无序"块吉布斯采样器模拟的马尔可夫链不具有正确的不变概率分布。然而,尽管具有错误的不变分布,马尔可夫链以与原始块吉布斯马尔可夫链相同的速率收敛。更具体地说,它表明,要么两个马尔可夫链是几何遍历(具有相同的几何收敛速率),或者都不是。这些结果从实际的观点来看是重要的,因为(无效的)无序算法可能比(有效的)块吉布斯采样器更容易分析(参见,例如,Yang和Rosenthal [2019])。
2021-10-27 math.ST stat.CO stat.TH
A Markov Jump Process for More Efficient Hamiltonian Monte Carlo
在大多数采样算法中,包括哈密顿蒙特卡罗,状态之间的转换速率对应于在单个时间步长中进行转换的概率,并且被约束为小于或等于1。我们推导出一个哈密顿蒙特卡罗算法使用连续时间马尔可夫跳过程,从而能够逃脱这个约束。马尔可夫跳跃过程中的转移率只需要是非负的。我们表明,新算法导致改进的混合几个例子的问题,通过评估马尔可夫算子的谱间隙,并通过计算作为计算时间的函数的自相关。我们将该算法作为开源Python包发布。
2015-10-11 stat.CO stat.ML
MCMC inference for Markov Jump Processes via the Linear Noise Approximation
马尔可夫跳过程的贝叶斯分析是一个非常重要且具有挑战性的问题。尽管精确的推理在理论上是可能的,但它对计算要求很高,因此其适用性仅限于一类小问题。在本文中,我们描述的应用程序的黎曼流形MCMC方法使用近似的马尔可夫跳跃过程的可能性是有效的,当系统建模是接近其热力学极限。所提出的方法是统计和计算效率,而收敛速度和混合的链允许快速MCMC推理。该方法进行评估,使用数值模拟两个问题,从化学动力学和一个系统生物学。
2012-11-20 stat.CO stat.ME
Sparse Interaction Neighborhood Selection for Markov Random Fields via Reversible Jump and Pseudoposteriors
本文针对二维格点马尔可夫随机场,提出可逆跳转MCMC算法在最大邻域子集间跳转,利用边缘伪后验分布实现稀疏交互邻域选择,并通过模拟与真实纹理图像数据验证方法有效性。
2024-04-30 stat.CO stat.ML
Gibbs Sampling in Factorized Continuous-Time Markov Processes
在许多应用程序中,一个中心任务是推理在连续时间内变化的过程。连续时间贝叶斯网络是一种通用的多组分连续时间过程的紧凑表示语言。然而,在这样的过程中,精确的推断是指数的组件的数量,因此对于大多数感兴趣的模型是不可行的。在这里,我们开发了一种新的吉布斯抽样程序的多组分过程。该过程迭代地对给定其余分量的分量之一的轨迹进行采样。我们将展示如何执行精确的采样,适应采样过程的自然时间尺度。此外,我们表明,这种采样过程自然地利用网络的结构,以减少每一步的计算成本。这一过程是第一个可以提供渐近无偏近似在这样的过程。
2012-06-13 cs.AI stat.CO
Identification of jump Markov linear models using particle filters
跳跃马尔可夫线性模型由有限数量的线性状态空间模型和对不同线性模型之间的跳跃(或切换)进行编码的离散变量组成。识别跳跃马尔可夫线性模型是一个具有挑战性的问题,缺乏分析解决方案。我们得到一个新的期望最大化(EM)型算法,产生最大似然估计的模型参数。我们的发展取决于最近的进展,结合粒子滤波器与马尔可夫链蒙特卡罗方法在解决非线性状态平滑的EM制定固有的问题。我们的发展的关键是,我们利用一个有条件的线性高斯子结构的模型,允许一个有效的算法。
2014-09-25 math.OC stat.CO stat.ML
Multilevel Gibbs Sampling for Bayesian Regression
Departement of Computer Science, KU Leuven(计算机科学系,鲁汶大学);Department of Electrical Engineering, ESAT - STADIUS, KU Leuven(电气工程系,ESAT - STADIUS,鲁汶大学)
贝叶斯回归仍然是一个简单而有效的工具,基于贝叶斯推断技术。对于大规模的应用,复杂的后验分布,马尔可夫链蒙特卡罗方法被应用。针对马尔可夫链蒙特卡罗方法在贝叶斯回归中的计算量大的问题,提出了一种适用于线性混合模型贝叶斯回归的多级Gibbs抽样方法.通过对数据矩阵的特征和/或样本进行聚类来创建数据矩阵的层级。此外,使用相关样本的方差减少,以改善马尔可夫链的收敛性进行了研究。在不同的数据集上进行测试,几乎所有数据集都实现了加速,而预测性能没有显著损失。
2020-09-25 cs.LG cs.NA math.NA