Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
Somak Dutta, Sourabh Bhattacharya
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充，可在http://arxiv.org/abs/1106.5850上获得
This is a supplement to the article "Markov Chain Monte Carlo Based on Deterministic Transformations" available at http://arxiv.org/abs/1106.5850
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
继续探索
Supplement paper to "Online Expectation Maximization based algorithms for inference in hidden Markov models"
这是一个补充材料的文件“在线期望最大化为基础的算法，在隐马尔可夫模型的推理”。它包含进一步的技术推导和额外的模拟结果。
Supplement to "Reversible MCMC on Markov equivalence classes of sparse directed acyclic graphs"
这份补充材料包括三个部分：一些初步结果，四个例子，一个实验，三个新的算法，和所有的证明结果的文件“可逆MCMC对马尔可夫等价类的稀疏有向无环图”。
A Piecewise Deterministic Markov Process via $(r,θ)$ swaps in hyperspherical coordinates
最近，一类被称为分段确定性马尔可夫过程的随机过程已被用于定义连续时间马尔可夫链蒙特卡罗算法，该算法具有许多吸引人的特性，包括与随机梯度的兼容性，如通常在优化和变分推断中发现的那些，以及在某些大数据问题上的高效率。在这一类中，目前已知的能够针对任意不变分布的过程并不多，并且在一个子类中，所有先前已知的过程都利用线性过渡函数。本文通过求解超球坐标下的Fokker-Planck方程，导出了一个跃迁函数为非线性的过程。我们探讨其行为的高斯目标，以及贝叶斯逻辑斯谛回归模型与合成数据。我们讨论的影响，分段确定性马尔可夫过程的理论，贝叶斯统计学家以及物理学家寻求使用它们的模拟为基础的计算。
Hypocoercivity of Piecewise Deterministic Markov Process-Monte Carlo
在这项工作中，我们建立$\mathrm{L}^2$ -指数收敛的一类广泛的分段确定性马尔可夫过程最近提出的背景下，马尔可夫过程蒙特卡罗方法和覆盖特别是随机哈密顿蒙特卡罗，锯齿形过程和弹性粒子采样器。这种过程的生成元的对称部分的核是非平凡的，并且我们遵循最近由（Dolbeault et al.，2009年，2015年），以制定一个严格的框架hypocolvity在一个相当普遍和统一的设置，同时推导出易于处理的估计常数涉及的参数的动态。作为一个副产品，我们这些算法的尺度性质的特点方面的问题的类别的尺寸，因此提供了一些理论证据来支持其实际意义。
Multilevel Particle Filters for a Class of Partially Observed Piecewise Deterministic Markov Processes
本文针对部分观测的分段确定性马尔可夫过程，提出了一种新的多级粒子滤波方法，通过时间离散化求解ODE，并给出了均方误差界限，证明其相比标准粒子滤波具有显著计算优势，且数值实验验证了理论结果。
Markov Chain Monte Carlo Based on Deterministic Transformations
在这篇文章中，我们提出了一种新的MCMC方法基于确定性变换T：X x D --> X，其中X是状态空间，D是某个集合，它可以是也可以不是X的子集。我们将我们的新方法称为基于变换的马尔可夫链蒙特卡罗（TMCMC）。我们的建议的显着优点之一是，即使潜在的目标分布是非常高维的，一维随机变量的确定性变换足以产生一个适当的马尔可夫链，保证收敛到高维的目标分布。除了明显导致大量的计算节省之外，这种确定性地变换单个随机变量的想法通常会导致极好的接受率，即使与高维目标分布相关联的所有随机变量都在单个块中更新。由于众所周知，联合更新的许多随机变量使用大都会黑斯廷斯（MH）算法通常会导致接受率差，TMCMC，在这方面，似乎提供了一个显着的进步。我们从理论上验证我们的建议，建立收敛性。此外，我们表明，TMCMC可以非常有效地采用模拟从双重棘手的分布。TMCMC与MH使用著名的挑战者数据进行比较，证明了前者的有效性的情况下，高度相关的变量。此外，我们将我们的方法应用于Diggle等人（1998）的地质统计模型相关的具有挑战性的后验模拟问题，使用一维随机变量的确定性变换联合更新160个未知参数。显著的计算节省以及良好的收敛性能和接受率的结果。
Automated Techniques for Efficient Sampling of Piecewise-Deterministic Markov Processes
本文针对 PDMP 采样算法中超参数需预先固定调参的问题，提出一种可随时间自适应调整 $t_{\ ext{max}}$ 的改进算法，并用网格法替代 Brent 优化以更快速稳健地计算速率函数上界，同时扩展至其他 PDMP 并提供 JAX 实现。
Piecewise Deterministic Markov Processes for Scalable Monte Carlo on Restricted Domains
分段确定性蒙特卡罗算法允许从后验分布进行模拟，同时在每次迭代时仅需要访问数据的子样本。我们将展示如何在参数位于受限域的设置中实现它们。
Cores for Piecewise-Deterministic Markov Processes used in Markov Chain Monte Carlo
我们展示了最近提出的MCMC算法的马尔可夫半群的基本性质，基于分段确定性马尔可夫过程（PDMP），如弹性粒子采样器，锯齿形过程或随机化的哈密顿蒙特卡罗方法。在MCMC设置通常满足的假设下，我们证明了PDMP是费勒和他们的生成器承认空间的无限可微函数作为一个核心的紧支持。正如我们所示，通过鞅问题和简化的目标分布的不变性证明，这些结果提供了一个基本的工具，这些算法和相应的随机过程的严格分析。
Subgeometric hypocoercivity for piecewise-deterministic Markov process Monte Carlo methods
本文推广了[Andrieu et.（2018）]重尾目标分布，表现出收敛到平衡的亚几何速率。我们利用弱Poincaré不等式，如[Grothaus and Wang（2019）]的工作中所发展的，我们将其思想适应于感兴趣的PDMP。在路上，我们报告主要是潜在的独立的方法来绑定明确的解决方案的泊松方程的朗之万扩散及其第一和第二衍生物，在这里需要控制各种条款中产生的应用hypovervity结果。
Piecewise Deterministic Markov Processes and their invariant measures
在一般框架下研究了分段确定马尔可夫过程。首先，不同的构造被证明是等价的。其次，我们引入了两个PDMP之间的耦合以下相同的差分流，这意味着两个过程的边缘分布之间的全变差的定量界限。最后，建立了关于PDMP的不变测度的两个结果。给出了一个证明概率测度对相联Pests半群不变的实际条件。在第二时间，在$V$ -范数的不变概率测度的两个PDMP以下相同的差分流的一个界被建立。这最后一个结果，然后应用于研究的渐近偏差的一些非精确PPEG-MCMC方法。
On explicit $L^2$-convergence rate estimate for piecewise deterministic Markov processes in MCMC algorithms
我们建立$L^2$指数收敛速度的三个流行的分段确定性马尔可夫过程的采样：随机化的哈密顿蒙特卡罗方法，锯齿形过程，和弹性粒子采样器。我们的分析是基于一个变分的框架hypovervity，它结合了一个庞加莱型不等式在时间增广的状态空间和一个标准的$L^2$能量估计。我们的分析提供了明确的收敛速度估计，这是更定量的比现有的结果。
Generalized Bouncy Particle Sampler
作为分段确定性马尔可夫过程的一个特例，弹性粒子采样器是一种无拒绝、不可逆的马尔可夫链蒙特卡罗算法，能有效地从目标分布中抽取样本。我们推广了弹性粒子采样器的过渡动力学。在BPS中，在事件时刻的转换动态是确定性的，而在GBPS中，它是随机的。在这种随机性的帮助下，GBPS可以克服BPS中的约简问题，而无需刷新。
Efficient computation of the volume of a polytope in high-dimensions using Piecewise Deterministic Markov Processes
计算高维多面体的体积在计算上具有挑战性，但具有广泛的应用。计算这种体积的当前最先进的算法依赖于使用例如哈密顿蒙特卡罗对限制于多面体的高斯分布的有效采样。我们提出了一种新的采样策略，使用分段确定性马尔可夫过程。与哈密顿蒙特卡罗方法一样，该方法模拟了一个不可逆过程的轨迹，并继承了类似的良好混合特性。然而，重要的是，由于其分段线性轨迹，该过程可以更容易地模拟-这导致计算成本降低了空间维度的一个因素。我们的实验表明，我们的方法是数值鲁棒性，是一个数量级的速度（或更好）比现有的方法使用哈密顿蒙特卡罗。在一个单核处理器上，我们报告了几分钟的计算时间到维度500。
Debiasing Piecewise Deterministic Markov Process samplers using couplings
本文将Jacob等人的耦合MCMC去偏估计器扩展到连续时间PDMP采样器，为bouncy、boomerang和coordinate采样器推导耦合，并通过初步实验验证方法随目标维度的可扩展性。
Zigzag path connects two Monte Carlo samplers: Hamiltonian counterpart to a piecewise deterministic Markov process
本文建立了zigzag采样器与基于Laplace动量的Hamiltonian Monte Carlo变体之间的理论联系，证明在频繁动量刷新下前者强收敛于后者，并表明保留完整动量的Hamiltonian zigzag能更好探索高相关参数分布。
Adaptive importance sampling based on fault tree analysis for piecewise deterministic Markov process
针对PDMP可靠性评估中标准Monte Carlo成本过高的问题，提出基于故障树最小路集与最小割集构造committor近似族的CE-AIS方法，并在学术及核工业系统上验证。
Control variates and Rao-Blackwellization for deterministic sweep Markov chains
研究了在确定性扫描采样下，使用$K\geq 2$转移核的马尔可夫链蒙特卡罗（MCMC）控制变量方法。新的方差减少结果提供MCMC平均值的基础上扫描一般的过渡内核，导致一个特别简单的控制变量估计的确定性扫描吉布斯采样的设置。我们提出的控制变量估计与现有文献的理论比较，并进行了模拟研究，以检查在某些情况下的方差减少量。我们还涉及控制变量的方法的基础上调节（或劳Blackwellization）的方法，并表明，后者可以被视为前者的近似。我们的理论结果适用于标准几何漂移假设下的马尔可夫链。
Weak Poincaré inequalities for two-component Deterministic-scan Metropolis-within-Gibbs samplers
本文通过弱Poincaré不等式分析了确定性扫描Metropolis-within-Gibbs采样器的收敛性质，并建立了相关理论结果及应用。
MCMC using $\textit{bouncy}$ Hamiltonian dynamics: A unifying framework for Hamiltonian Monte Carlo and piecewise deterministic Markov process samplers
本文提出基于弹性哈密顿动力学的无拒绝Metropolis提案框架，将哈密顿蒙特卡洛与分段确定性马尔可夫过程采样统一，提升贝叶斯推断的扩展性与创新性。
Piecewise Deterministic Markov Processes for Continuous-Time Monte Carlo
最近有令人兴奋的发展，在蒙特卡罗方法，与新的MCMC和序贯蒙特卡罗（SMC）算法的发展是基于连续时间，而不是离散时间，马尔可夫过程。这导致了一些全新的蒙特卡罗算法，可以用来从后验分布中进行采样。有趣的是，连续时间算法似乎特别适合大数据环境中的贝叶斯分析，因为它们在每次迭代时只需要访问一小部分数据点，但仍然可以保证以真实的后验分布为目标。虽然连续时间MCMC和SMC方法已经独立开发，我们在这里表明，它们是相关的事实，都涉及到模拟一个分段确定性的马尔可夫过程。此外，我们表明，迄今为止开发的方法只是一个潜在的更广泛的一类连续时间蒙特卡罗算法的具体情况。我们给出了一个非正式的介绍分段确定性马尔可夫过程，涵盖这些新的蒙特卡罗算法的相关方面，以期使新的连续时间蒙特卡罗的发展更容易。我们专注于如何以及为什么子采样的想法可以与这些算法一起使用，并旨在深入了解这些新算法可以如何实现，以及影响其效率的一些问题。
Piecewise-Deterministic Markov Chain Monte Carlo
最近出现了一类新的不可逆马尔可夫链蒙特卡罗方案依赖于连续时间分段确定性马尔可夫过程。在这些算法中，马尔可夫过程的状态根据在随机事件时间使用马尔可夫转移核修改的确定性动力学而演变。这些方法享有显着的功能，包括更新的能力，只有一个子集的状态组件，而其他组件隐式地保持发展和使用的能力，无偏估计的梯度的日志目标，同时保持目标不变的分布。然而，它们也受到重要的限制。到目前为止所使用的确定性动力学不利用目标的结构。此外，事件时间的精确模拟对于一类重要但受限的问题是可行的，即使是这样，它也是特定于应用的。这限制了这些技术的适用性，并阻止了它们的通用软件实现的开发。我们引入新的MCMC方法来解决这些缺点。特别是，我们引入了新的连续时间算法依赖于精确的哈密顿流和新的不可逆离散时间算法，可以利用复杂的动态，如近似哈密顿动力学所产生的辛积分，同时保持连续时间算法的吸引力的功能。我们证明了这些方案的性能在各种应用程序。
Scaling Results for Piecewise Deterministic Monte Carlo : A Survey
综述分段确定性蒙特卡罗算法，探讨弹跳粒子采样器和之字形过程，通过缩放极限论证理解其行为与效率，涉及泛函中心极限定理等多种缩放情况，是2024年相关项目会议记录一部分。
Cost Comparisons for Random and Deterministic Scans in Component-Wise Markov Chains
本文通过谱间隙比较随机扫描与确定性扫描在分量式马尔可夫链中的计算成本，证明随机扫描成本至多为确定性的两倍（吉布斯情形），并推广到一般可逆更新，给出反向成本比的阶数界限。
Discrepancy estimates for variance bounding Markov chain quasi-Monte Carlo
本文研究了由确定性序列驱动的方差限制马尔可夫链准蒙特卡洛方法的效率，定义了驱动序列的回溯偏差，并证明了存在确定性驱动序列使偏差以蒙特卡洛速率n^1/2衰减，同时提供了误差估计示例。
Haar-Weave-Metropolis kernel
近年来，受哈密顿蒙特卡罗方法的启发，许多马尔可夫链蒙特卡罗方法被发展为确定性可逆变换方法。确定性变换相对容易与局部信息（梯度等）协调。的目标分布。然而，遍历理论表明，这些确定性的建议方法似乎是不兼容的鲁棒性，并导致收敛性差，特别是在目标分布的情况下，厚尾。另一方面，使用Haar测度的马尔可夫核是相对鲁棒的，因为它学习关于目标分布的全局信息，引入全局参数。然而，它需要一个密度保持条件，许多确定性的建议打破了这个条件。在本文中，我们仔细选择的确定性变换，保持结构和创建一个马尔可夫核，编织大都会内核，使用确定性变换。结合Haar测度，我们还引入了Haar-Weave-Metropolis核。以这种方式，马尔可夫核可以使用确定性建议来使用目标分布的局部信息，并且由于Haar测度，它可以使用目标分布的全局信息。最后，我们通过数值实验表明，所提出的方法的性能优于其他方法的有效样本量和均方跳每秒的距离。
A High Accuracy Stochastic Estimation of a Nonlinear Deterministic Model
本文提出了一种估计非线性确定性模型的方法。我们引入了一个随机模型，具有极小的方差，使确定性和随机模型基本上是无法区分的。这一点在论文中有解释。然后使用基于马尔可夫链蒙特卡罗（MCMC）方法的随机优化进行估计。
Federated Bayesian Computation via Piecewise Deterministic Markov Processes
当在实践中执行贝叶斯计算时，人们经常面临这样的挑战，即组成模型组件和/或数据仅以分布式方式可用，例如由于隐私问题或庞大的体积。虽然已经提出了各种方法用于在这样的联合设置中执行后验推断，但是这些方法要么对数据和/或模型做出非常强的假设，要么在局部后验被组合以形成目标后验的近似时引入显著的偏差。通过利用最近开发的方法马尔可夫链蒙特卡罗（MCMC）的分段确定性马尔可夫过程（PDMP）的基础上，我们开发了一个计算-和通信-有效的家庭后验推理算法（联邦PDMC），它提供了一个大类的贝叶斯模型，允许异质模型和数据的贡献，从每个客户端的完整后验渐近精确近似。我们表明，客户端和服务器之间的通信保留了个人数据源的隐私，通过建立差分隐私保证。我们量化了一类说明性的分析案例研究的性能Fed-PDMC，并证明了其有效性的一些合成的例子，以及现实的贝叶斯计算基准。
Application of the interacting particle system method to piecewise deterministic Markov processes used in reliability
在复杂工业系统的可靠性评估中，经常需要采用方差缩减方法，本文重点研究了一种特定背景下的方差缩减方法，即用于分段确定性马尔可夫过程可靠性评估的交互粒子系统方法。PDMP是一个非常大的一类过程，受益于高建模能力，他们可以模拟几乎任何马尔可夫现象，不包括扩散。在可靠性评估中，工业系统的PDMP模型一般具有较低的跳变率，且跳变核只支持一次安全到达，我们称这种模型为“集中的PDMP”。在这种集中的PDMP上使用，IPS是低效的并且不总是提供方差减小。事实上，IPS方法的效率依赖于在其传播步骤期间模拟许多不同的轨迹，但不幸的是，集中的PDMP可能一遍又一遍地生成相同的确定性轨迹。我们提出了一个适应的IPS方法称为IPS+M，减少这种现象。IPS+M包括修改IPS的传播步骤，通过调节传播以避免多次生成相同的轨迹。我们证明了，相比IPS，IPS+M方法总是提供了一个较低的方差估计。我们还进行了一个快速的模拟研究，证实了这一结果的两个组成部分的系统。
Piecewise Deterministic Markov Processes for Bayesian Inference of PDE Coefficients
本文提出了一种基于分段确定性马尔可夫过程的框架，利用代理模型提升贝叶斯推断效率，特别适用于PDE系数的非线性反问题。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈
发表机构由 AI 从论文文本抽取，如发现错误，欢迎反馈修正建议。