Convergence of random-weight sequential Monte Carlo methods
我们研究了一个序贯蒙特卡罗方法的性质,其中出现在算法中的粒子的重量是由一个积极的,无偏估计量估计。我们提出了广泛适用的收敛结果,包括一个中心极限定理,我们讨论了它们在统计物理应用的相关性。使用这些结果,我们表明,rescue步骤减少的影响的随机性的权重的渐近方差的估计。此外,我们探讨了序贯蒙特卡罗方法的收敛极限,重点是几乎必然收敛。我们构造了一个例子算法,我们可以证明依概率收敛,但不收敛几乎肯定,即使在非随机权重的情况下。
2022-08-25 math.PR stat.ME
Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo
我们提出序贯蒙特卡罗算法的静态参数的极大似然估计的隐马尔可夫模型的一个棘手的可能性使用的想法,从近似贝叶斯计算。静态参数估计算法是基于梯度的,并且覆盖离线和在线估计。我们证明了他们的表现,估计参数的三个棘手的模型,即α-稳定分布,g-和-k分布,和随机波动率模型与α-稳定的回报,使用真实和合成数据。
2013-11-17 stat.CO stat.ME
Sequential Monte Carlo samplers: error bounds and insensitivity to initial conditions
本文讨论了逼近概率分布序列的序贯蒙特卡罗方法的有限样本稳定性。本文给出的结果适用于序列中的开始和结束分布是固定的并且中间步骤的数量是算法的参数的情况。在非紧空间的假设下,证明了初始分布的影响在中间步数上指数衰减,并且相应的随机误差在\mathbb{L}_{p}范数下是稳定的.
2011-03-21 math.PR stat.CO
Inference and rare event simulation for stopped Markov processes via reverse-time sequential Monte Carlo
我们提出了一个序贯蒙特卡罗算法的马尔可夫链轨迹的建议,在逆时间,这是有利的,当路径的条件结束在一个罕见的集合。逆时间提案分布是通过近似Nagasawa公式中的格林函数的比率来构造的。条件参数可以用来解释这些比率作为低维条件抽样分布的一些坐标的过程给定的其他。从而大大降低了设计高维SMC方案的难度。我们说明了我们的方法估计的溢出概率在一个扩散模型,扩散遵循一个狭窄的走廊的概率,以及在网络上的传染病模型中的感染的初始位置。
2017-01-02 math.PR q-bio.PE stat.CO
Forward Smoothing using Sequential Monte Carlo
序贯蒙特卡罗(SMC)方法是一组广泛使用的用于非线性非高斯状态空间模型中的推断的计算工具。我们提出了一个新的SMC算法来递归地计算可加泛函的期望。本质上,它是Doucet等人(2000)提出的前向滤波后向平滑SMC算法的在线或仅前向实现。与标准路径空间SMC估计的渐近方差随时间平方增加,即使在有利的混合假设下,所提出的SMC估计的渐近方差只随时间线性增加。这种向前平滑过程使我们能够实现在线极大似然参数估计算法,不遭受粒子路径退化问题。
2010-12-24 stat.CO stat.ME
A Note on Random Walks with Absorbing barriers and Sequential Monte Carlo Methods
在这篇文章中,我们考虑重要性抽样(IS)和序贯蒙特卡罗(SMC)方法的背景下,1-维随机游动吸收障碍。特别是,我们开发了一个非常精确的方差分析几个IS和SMC程序。我们利用这些模型的一些显式的谱公式,得到尖锐和明确的估计,这提供了相关的规范化Feynman-Kac半群的稳定性。我们的分析允许一个比较SMC和IS技术对这些模型的方差。本文中的工作,是为数不多的考虑一个深入分析的SMC方法为一个特定的模型类型,以及方差比较SMC算法。
2016-11-10 math.PR stat.CO
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛(SMC)方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
Inference with Hamiltonian Sequential Monte Carlo Simulators
本文结合序贯蒙特卡罗模拟器和哈密顿蒙特卡罗模拟器的优点,提出了一种新的蒙特卡罗模拟器。结果是一种对多模态和复杂形状具有鲁棒性的方法,用于在存在困难的似然性或目标函数的情况下进行推理。提供了几个例子。
2018-12-19 stat.CO
A flexible sequential Monte Carlo algorithm for parametric constrained regression
提出了一种算法,使回归曲线的形状约束的实施,而不需要的约束被写为封闭形式的表达式,也不假设的损失函数的函数形式。该算法基于序贯蒙特卡罗-模拟退火,仅依赖于评估约束是否得到满足的指示函数,从而允许通过指定适当的指示函数来强制执行各种复杂的约束,而无需改变算法的其他部分。通过有理函数和单调约束下的B-样条回归模型的拟合,说明了该算法的有效性。使用R的算法实现可以在GitHub上免费获得。
2019-04-01 stat.CO stat.ME
Discussion of "Sequential Quasi-Monte Carlo" by Mathieu Gerber and Nicolas Chopin
关于拟蒙特卡罗估计在应用中降低方差可能性的讨论。进一步的细节在随附的论文“拟蒙特卡罗的方差缩减“中提供。
2015-01-14 stat.CO
Adaptive Tuning Of Hamiltonian Monte Carlo Within Sequential Monte Carlo
序贯蒙特卡罗(SMC)采样器形成了一个有吸引力的替代MCMC贝叶斯计算。然而,它们的性能在很大程度上取决于用于恢复粒子的马尔可夫核。我们讨论了如何自动校准(使用当前粒子)哈密顿蒙特卡罗内核SMC。为此,我们建立在Fearnhead和Taylor(2013)的自适应SMC方法的基础上,我们还提出了替代方法。我们通过广泛的数值研究说明了在SMC采样器内使用HMC内核的优点。
2020-02-12 stat.CO
Sequential Monte Carlo with transformations
本文介绍了在不同维数的空间上对后验序列顺序进行贝叶斯推断的方法。我们展示了如何通过使用序贯蒙特卡罗(SMC)采样器来实现这一点(Del Moral等人,2006年,2007年),充分利用这个框架的灵活性,以便该方法是计算效率。特别是,我们介绍了使用确定性变换的创新,有效地移动粒子之间的目标分布与不同的尺寸。这种方法,结合自适应方法,产生一个非常灵活和通用的算法贝叶斯模型比较,适用于在可逆跳马尔可夫链蒙特卡罗(RJMCMC)的接受率低的应用程序中使用。我们证明了这种方法的混合模型模型比较的研究问题,并为新的应用程序推断合并树顺序,数据到达。
2019-09-11 stat.AP stat.CO stat.ME
Quasi-Newton Sequential Monte Carlo
序贯蒙特卡罗采样器代表了贝叶斯模型中后验推断的一种引人注目的方法,因为它是可并行的,并且提供了后验归一化常数的无偏估计。在这项工作中,我们显着加快序贯蒙特卡罗采样器采用L-BFGS海森近似,代表了国家的最先进的全批量优化技术。L-BFGS Hessian近似在参数维度上仅具有线性复杂度,并且不需要额外的后验或梯度评估。由此产生的序贯蒙特卡罗算法是自适应的,并行化的,非常适合于高维和多模态的设置,我们证明在具有挑战性的后验分布的数值实验。
2022-11-22 stat.ME
Sequential quasi-Monte Carlo: Introduction for Non-Experts, Dimension Reduction, Application to Partly Observed Diffusion Processes
SMC(序贯蒙特卡罗)算法是求解滤波及相关序列问题的一类蒙特卡罗算法。Gerber和Chopin(2015)介绍了SQMC(顺序准蒙特卡罗),SMC的QMC版本。本文件有两个目标:(a)将序贯蒙特卡罗引入QMC社区,该社区的成员通常不太熟悉状态空间模型和粒子滤波;(b)将SQMC扩展到连续时间状态空间模型的滤波,其中潜在过程是扩散。本文中反复出现的一点是降维的概念,即如何实现SQMC,尽管问题的维数很高,但它仍然提供了良好的性能。
2017-06-16 stat.CO
Variational Sequential Monte Carlo
大规模概率推理的许多最新进展依赖于变分方法。变分方法的成功取决于(i)制定一个灵活的参数分布族,以及(ii)优化参数,以找到这个家族中最接近精确后验的成员。在本文中,我们提出了一个新的近似家庭的分布,变分序贯蒙特卡罗(VSMC)家庭,并显示如何优化它的变分推断。VSMC融合了变分推断(VI)和序贯蒙特卡罗(SMC),为从业者提供灵活,准确和强大的贝叶斯推断。VSMC族是一个变分族,可以任意地近似后验,同时仍然允许其参数的有效优化。我们展示了它在状态空间模型,金融数据的随机波动模型和大脑神经回路的深度马尔可夫模型上的实用性。
2018-02-21 stat.CO stat.ME stat.ML
State Space Emulation and Annealed Sequential Monte Carlo for High Dimensional Optimization
许多高维优化问题可以转化为在等价状态空间模型下寻找最优状态路径的问题。在这篇文章中,我们提出了一个通用的仿真策略,用于开发一个状态空间模型,其似然函数(或后验分布)与原始优化问题的目标函数具有相同的总体景观。则优化问题的解与仿真系统下使似然函数或后验分布最大化的最优状态路径相同。为了找到这样一个最佳路径,我们适应模拟退火方法,通过插入一个温度控制到仿真的动态系统,并提出了一种新的退火序贯蒙特卡罗(SMC)方法,有效地产生蒙特卡罗样本路径利用在高温尺度上获得的样本。与香草模拟退火实现相比,退火SMC是一种用于状态空间模型优化的迭代算法,该算法通过顺序重要性抽样直接从具有递减温度序列的平衡分布生成状态路径,而不需要老化或混合迭代来确保准平衡条件。状态空间模型仿真和相应的退火SMC结果的几个应用程序进行了演示。
2019-11-17 stat.CO stat.ME
Properties of Marginal Sequential Monte Carlo Methods
我们提供了一个框架,该框架允许许多"边际“序贯蒙特卡罗(SMC)算法作为特殊情况--包括边际粒子滤波器[Klaas等人,2005年,在:不确定性在人工智能的程序,pp。308- 315]、独立粒子滤波器[Lin等人,2005年,美国统计协会杂志100页。1412- 1421]和线性成本近似贝叶斯计算SMC [Sisson等人,2007年,美国国家科学院院刊(Proceedings of the National Academy of Sciences,USA)104页。1760--1765。]。我们提供的条件下,这样的算法服从大数定律和中心极限定理,并提供一些进一步的渐近特征。最后,它表明,一类估计与某些边际SMC算法的渐近方差是永远不会大于由一个标准的SMC算法使用相同的建议分布提供的估计。
2023-03-06 math.PR math.ST stat.CO
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗(SMC)算法,只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的,当目标分布是多模态和全球混合的马尔可夫内核是缓慢的,在这种情况下,我们的方法建立了相应的马尔可夫链蒙特卡罗(MCMC)估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望,并表明SMC提供了一个完全多项式时间的随机逼近方案,一些困难的多峰问题,相应的马尔可夫链采样器是指数缓慢。最后,我们比较我们的方法得到的边界,现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
A divide and conquer sequential Monte Carlo approach to high dimensional filtering
我们提出了一个分而治之的方法来过滤,将状态变量分解成低维组件,标准的粒子滤波工具可以成功地应用和递归合并它们,以恢复完整的过滤分布。它是较少依赖于因式分解的过渡密度和观测似然比竞争的方法,可以应用到更广泛的一类模型。性能比较与国家的最先进的方法的基准问题,它表明,所提出的方法是广泛可比的设置中,这些方法是适用的,它可以应用于设置中,他们不能。
2022-11-25 stat.CO stat.ME
Motor Unit Number Estimation via Sequential Monte Carlo
操作特定肌肉的运动单位数量的变化是神经肌肉疾病进展和治疗效果的重要指标。对测试肌肉功能时产生的典型数据的现实统计模型的推断是困难的,并且从这些数据估计运动单位的数量是持续的统计挑战。我们考虑一组模型的数据,每个不同数量的工作电机单位,并提出了一种新的方法贝叶斯推断,基于序贯蒙特卡罗,它提供了估计的边际可能性,因此,每个模型的后验概率。为了在实践中实现这种方法,我们需要序贯蒙特卡罗方法,具有良好的计算和蒙特卡罗性能。我们通过利用模型中的条件独立结构来实现这一点,其中给定哪些运动单元由于特定刺激而被激发的知识,指定每个单元响应大小的参数独立于定义单元将响应的概率的参数。我们的方法的可扩展性依赖于我们为前者创建的自然共轭结构和为后者创建的强制近似共轭结构。模拟研究表明,我们的方法的准确性,和推论是一致的,在两个不同的数据集来自相同的大鼠胫骨肌肉。
2018-04-11 stat.CO stat.ME
The divide-and-conquer sequential Monte Carlo algorithm: theoretical properties and limit theorems
本文全面刻画了分治序贯蒙特卡洛(DaC-SMC)算法的理论性质,证明其具备与常规SMC算法相同的大数定律、中心极限定理等基本性质,并推导了最优中间目标表达式,证明其统计效率优于直接SMC。
2023-06-30 math.PR math.ST stat.CO
Application of Sequential Quasi-Monte Carlo to Autonomous Positioning
序贯蒙特卡罗算法(也称为粒子滤波器)是用于近似状态空间模型的滤波(和相关)分布的流行方法。然而,它们以缓慢的$1/\sqrt{N}$速率收敛,这在实时数据密集型场景中可能是一个问题。我们简要介绍了SQMC(顺序准蒙特卡罗),这是基于Gerber和Chopin(2015)提出的低差异点集的SMC变体,它以更快的速度收敛,我们说明了SQMC在自主定位问题上的更高性能。
2015-03-05 stat.CO
Sequential Monte Carlo on large binary sampling spaces
如果蒙特卡罗算法使用过去的模拟自动校准其当前的建议分布,则称其为自适应的。定义建议分布集的参数族的选择对于良好的性能至关重要。在本文中,我们提出了这样一个参数族的自适应采样高维二进制空间。这个问题的一个实际动机是变量选择在线性回归上下文中。我们希望使用适当版本的序贯蒙特卡罗从模型空间上的贝叶斯后验分布中采样。原始版本的序贯蒙特卡罗很容易使用具有独立分量的二进制向量实现。然而,对于高维问题,这些简单的建议并不能产生令人满意的结果。一个有效的自适应算法的关键是考虑相关性的二元参数族,类似于连续空间上的多元正态分布。我们提供了二进制数据的模型的审查,并使其中之一的顺序蒙特卡罗抽样的上下文中工作。对大约100个协变量的真实数据的计算研究表明,在困难的情况下,我们的序贯蒙特卡罗方法明显优于基于马尔可夫链探索的标准技术。
2011-11-09 math.ST stat.CO stat.ME
Three discussions of the paper "sequential quasi-Monte Carlo sampling", by M. Gerber and N. Chopin
这是一个收集的三个书面讨论的文件“序贯准蒙特卡罗抽样”的M。Gerber和N.肖邦在2014年12月10日在伦敦皇家统计学会发表演讲后说。
2015-05-26 stat.CO
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断,退火顺序蒙特卡罗方法,基于最近的进展,如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数,以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能,通过审查和比较与其他计算贝叶斯系统发育方法,特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中,我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动,因此受益于大量的库存,这种移动在文献中。因此,退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
Accelerating sequential Monte Carlo with surrogate likelihoods
Queensland University of Technology(昆士兰科技大学);University of Bristol(布里斯托大学)
本文提出了一种利用代理似然加速序贯蒙特卡洛方法的算法,通过适应性调整代理似然和优化计算时间来提高效率。
2021-07-20 stat.CO stat.ME
Knots and variance ordering of sequential Monte Carlo algorithms
该研究提出knot算子这一新的方差缩减技术,通过将势函数信息融入转移核提升粒子滤波器效率,建立Feynman-Kac模型偏序与粒子滤波器渐近方差排序的对应关系,推广现有技术并给出定量结果,还验证了对完全自适应粒子滤波器的改进效果。
2025-10-28 stat.CO stat.ME
Generalised linear mixed model analysis via sequential Monte Carlo sampling
提出了一种用于广义线性混合模型贝叶斯分析的序贯蒙特卡罗抽样算法。这些模型支持各种有趣的回归类型的分析,但执行推理往往是非常困难的,即使使用贝叶斯方法结合马尔可夫链蒙特卡罗(MCMC)。序贯蒙特卡罗抽样法是一种新的、通用的从后验分布中产生样本的方法。在这篇文章中,我们演示了使用SMC方法进行GLP-I推理。我们证明了模拟和真实数据的方法的有效性,并发现,序贯蒙特卡罗是一个有竞争力的替代MCMC技术。
2008-10-07 stat.CO
Resampling Strategy in Sequential Monte Carlo for Constrained Sampling Problems
序贯蒙特卡罗(SMC)方法是一类用于以序贯方式获得高维随机变量的随机样本的蒙特卡罗方法。在应用程序中遇到的许多问题通常涉及不同类型的约束。这些限制可能使问题更具挑战性。在本文中,我们制定了一个通用的框架,使用SMC约束抽样问题的基础上向前和向后的导频响应策略。我们回顾了一些现有的方法的框架下,开发了几个新的算法。注意,所有观察到的或施加在底层系统上的信息都可以被视为约束。因此,本文中概述的方法可以在许多应用中是有用的。
2018-12-19 stat.ME
Discussion of "Sequential Quasi-Monte-Carlo Sampling" by M. Gerber and N. Chopin
在这篇评论中,我们考虑QMC方法是否可以进一步嵌入SMC计划中的设置中的潜在过程的过渡密度是棘手的和伪边缘的方法部署。
2015-02-04 stat.ME
Online Rolling Controlled Sequential Monte Carlo
本研究提出ORCSMC算法,通过滚动窗口将受控序贯蒙特卡洛扩展至在线场景,用双粒子系统同步估计扭曲函数与滤波,在多模型实验中验证了其高维下更优的估计精度与鲁棒性,为复杂隐变量模型实时推断提供高效方案。
2025-08-01 stat.CO
On sequential Monte Carlo, partial rejection control and approximate Bayesian computation
我们提出了一个序贯蒙特卡罗采样器的部分拒绝控制算法的变体,并表明,这种变体可以被认为是一个序贯蒙特卡罗采样器与修改后的突变内核。我们证明了新的采样器可以减少增量的重要性权重的方差相比,标准的序贯蒙特卡罗采样器。我们提供了一个新的算法的理论性质的研究,并与现有的一些算法。最后,采样器是适应于应用程序下的挑战性的“似然自由”,近似贝叶斯计算建模框架,在那里我们表现出优越的性能超过现有的似然自由采样器。
2009-11-11 math.ST stat.CO stat.TH
Genealogical processes of sequential Monte Carlo methods and other non-neutral population models under rapid mutation
Newcastle University(纽卡斯尔大学);University of Warwick(华威大学)
本文证明在适当时间重标度下,一类广泛的非中性种群进化模型的谱系树收敛到Kingman合并过程,并应用于遗传算法和序贯蒙特卡洛方法,简化了先前证明并纠正了错误。
2026-06-24 math.PR q-bio.PE stat.CO
vSMC: Parallel Sequential Monte Carlo in C++
序贯蒙特卡罗是从一系列分布中进行抽样的一系列算法。其中的一些算法,如粒子滤波器,在物理和信号处理领域有着广泛的应用。最近的发展已经建立了他们的应用程序在更一般的推理问题,如贝叶斯建模。这些算法近年来吸引了相当大的关注,因为它们承认自然和可扩展的并行化。然而,这些算法被认为是难以实现的。此外,并行编程虽然在概念上很吸引人,但对许多研究人员来说往往是陌生的,特别是对于与序贯蒙特卡罗相关的领域。为了在并行硬件上实现一般的序贯蒙特卡罗算法,提出了一个C++模板库。两个例子:一个简单的粒子滤波器和一个经典的贝叶斯建模问题。
2013-06-24 cs.MS stat.CO
Accelerating Bayesian Phylogenetic Inference via Delayed Acceptance Sequential Monte Carlo with Random Forest Surrogates
Institute of Mathematical Sciences, ShanghaiTech University(上海科技大学数学科学研究所)
本文提出利用机器学习预测树移动对似然函数的影响,设计延迟接受MCMC核,结合序贯蒙特卡洛框架,提升系统发育推断效率。
2026-05-10 q-bio.QM stat.CO stat.ME
Nonlinear System Identification: Learning while respecting physical models using a sequential Monte Carlo method
非线性系统的辨识是一个具有挑战性的问题。系统的物理知识可以用于识别过程中,以通过限制从输入到输出的可能映射的空间来显著提高预测性能。通常,物理模型包含必须从数据中学习的未知参数。经典方法通常限制可能的模型或不得不求助于引入偏差的模型的近似值。序贯蒙特卡罗方法能够在不引入任何偏差的情况下对更一般的模型进行学习。此外,它们还可以用于近似贝叶斯设置中的模型参数的后验分布。本文对序贯蒙特卡罗进行了一般性的介绍,并通过给出具体算法的例子来说明它如何自然地适合于系统识别。两个系统上的方法进行说明:一个系统,两个级联水箱可能溢出的两个坦克和一个隔间模型的疾病传播。
2022-10-26 stat.AP stat.CO stat.ME
Sequential Monte Carlo for fractional Stochastic Volatility Models
本文考虑了一个分数阶随机波动率模型,即波动率具有长程依赖或粗糙/反持续行为的模型。我们提出了一个动态的序贯蒙特卡罗方法,是适用于长记忆和反持续过程,以估计波动率以及未知参数的模型。我们建立了状态和参数滤波器的中心极限定理,并研究了滤波器的渐近性质(一致性和渐近正态性)。我们说明了我们的结果与模拟研究,我们应用我们的方法来估计波动率和参数的长期依赖模型的标准普尔500指数的数据。
2017-02-25 math.ST stat.CO stat.ME
Nested Sequential Monte Carlo Methods
我们提出了嵌套序贯蒙特卡罗(NSMC),一种方法来采样序列的概率分布,即使在随机变量是高维的。NSMC通过只需要近似的,适当加权的,来自SMC提案分布的样本来概括SMC框架,同时仍然产生正确的SMC算法。此外,NSMC本身可以用于产生这样的适当加权的样本。因此,一个NSMC采样器可以被用来为另一个NSMC采样器构造一个有效的高维建议分布,并且算法的这种嵌套可以被实现到任意程度。这使我们能够考虑使用SMC的复杂和高维模型。我们的结果,激励我们的方法在几个过滤问题的尺寸在100至1 000的顺序的功效。
2015-09-11 stat.CO stat.ME stat.ML
Multifidelity Approximate Bayesian Computation with Sequential Monte Carlo Parameter Sampling
多保真度近似贝叶斯计算(MF-ABC)是一种用于参数推断的无可能性技术,它利用模型近似来显着提高ABC算法的速度(Prescott和Baker,2020)。以前的工作只考虑MF-ABC的上下文中的拒绝抽样,这并不特别有效地探索参数空间。在这项工作中,我们集成了多保真度的方法与ABC序贯蒙特卡罗(ABC-SMC)算法到一个新的MF-ABC-SMC算法。我们表明,ABC-SMC和MF-ABC产生的改进,以产生蒙特卡罗样本的效率和估计的ABC后被放大时,这两种技术一起使用。
2020-10-12 stat.CO
High-dimensional Filtering using Nested Sequential Monte Carlo
序贯蒙特卡罗(SMC)方法是贝叶斯滤波最成功的近似方法之一。然而,SMC没有好的建议分布挣扎在高维。我们提出了嵌套的序贯蒙特卡罗(NSMC),一种方法,概括SMC框架,只需要近似,适当加权,样本从SMC的建议分布,同时仍然导致一个正确的SMC算法。通过这种方式,我们可以精确地近似局部最优建议,并扩展我们可以使用SMC进行有效推理的模型类。我们表现出更高的精度比其他国家的最先进的方法在几个时空状态空间模型。
2016-12-29 stat.CO stat.ML
Sequential Monte Carlo Smoothing with Parameter Estimation
针对一般状态空间模型的未知参数问题,提出了两种新的贝叶斯平滑方法。第一种方法是基于粒子学习和平滑算法,但在后向reserving权重的调整。第二种方法是将序贯参数学习和平滑算法相结合,用于一般状态空间模型。该方法简单而有效,是目前求解联合贝叶斯平滑问题最好的序贯蒙特卡罗算法。本文首先利用模拟数据对三个基准模型进行了验证,然后将其应用于金融危机期间标准普尔500指数日收益率的随机波动率模型。
2016-04-19 stat.CO
Sequential Monte Carlo algorithms for a class of outer measures
在一般情况下,用一些特定的外测度代替概率分布,可以导出封闭形式的随机滤波方程。在这篇文章中,我们研究如何的序贯蒙特卡罗方法的原则,可以适应这些方程的实际实施的目的。特别是,我们探讨如何抽样可以用来提供支持点的近似这些外部措施。这一步使实用的算法,以粒子滤波器的精神来推导。所获得的算法的性能在模拟中得到证明,并通过各种例子说明其通用性。
2018-05-04 stat.ME
Sequential Monte Carlo for Graphical Models
我们提出了一个新的框架,如何使用序贯蒙特卡罗(SMC)算法的概率图模型(PGM)的推理。通过对PGM的序列分解,我们找到了定义在单调递增的概率空间序列上的辅助分布序列。通过使用SMC瞄准这些辅助分布,我们能够近似由PGM定义的完整联合分布。SMC采样器的主要优点之一是它提供了模型配分函数的无偏估计。我们还展示了它如何可以用于粒子马尔可夫链蒙特卡罗框架内,以构建一般PGM的高维块采样算法。
2014-10-06 stat.ME stat.ML
Replica Conditional Sequential Monte Carlo
本文提出了一种马尔可夫链蒙特卡罗(MCMC)方法来对非线性非高斯状态空间模型进行状态推断。解决该问题的当前最先进的方法依赖于粒子MCMC技术及其变体,例如迭代条件序贯蒙特卡罗(cSMC)方案,其在MCMC内使用序贯蒙特卡罗(SMC)类型提议。标准SMC提议的缺陷在于,当整个观测序列可用时,它们仅使用直到时间$t$的观测来提议时间$t$处的状态。可以使用基于前瞻技术的更复杂的SMC,但它们可能难以付诸实践。我们在这里提出副本cSMC,我们建立SMC建议,一个副本使用来自整个观察序列的信息,通过调节其他副本的状态。这种方法很容易并行化,我们证明了其出色的经验性能相比,标准的迭代cSMC计划在固定的计算复杂度。
2019-05-13 stat.CO
Some Contributions to Sequential Monte Carlo Methods for Option Pricing
期权定价是金融工程中的一个重要问题。在许多具有实际意义的场景中,与标的资产相关的金融期权价格简化为计算w.r.t.~扩散过程。一般来说,这些期望值无法通过分析计算,而近似这些数量的一种方法是通过蒙特卡罗方法;蒙特卡罗方法至少从20世纪70年代开始就被用于期权定价。在Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗",序贯蒙特卡罗(SMC)方法是应用于这种情况的自然工具,可以大大改善标准蒙特卡罗。在本文中,本着类似的精神,Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗"我们表明,通过构建一系列人工目标密度随时间的推移使用SMC方法可以实现显着收益。特别是,我们近似的最佳重要性抽样分布的SMC算法,通过使用一系列的加权函数。这是证明了两个例子,障碍期权和目标应计赎回票据(TARN的)。我们还提供了我们的SMC估计的无偏性的证明。
2016-08-11 q-fin.CP q-fin.PR stat.CO
Stability of Conditional Sequential Monte Carlo
粒子吉布斯(PG)采样器是一种马尔可夫链蒙特卡罗(MCMC)算法,它使用相互作用的粒子系统来执行吉布斯步骤。每一步Gibbs都是模拟一个粒子系统,它依赖于一个条件序贯蒙特卡罗(cSMC)方法来创建粒子系统。我们提出了一种新的解释cSMC算法作为一个扰动的序贯蒙特卡罗(SMC)方法,并适用于伸缩分解SMC算法\cite{delmoral2004}的分析得出的预期采样路径从cSMC和MCMC算法的目标分布之间的距离的界限。这可以用来得到一致的遍历性结果。特别是,我们可以证明,cSMC的混合率可以保持恒定的线性增加粒子的数量与观察的数量。基于我们的分解,我们还证明了cSMC算法的中心极限定理,这不能使用\cite{Andrieu2013}和\cite{Lindsten2014}的方法。
2018-06-18 stat.CO
Bayesian Conditional Monte Carlo Algorithms for Sequential Single and Multi-Object filtering
贝叶斯滤波的目的是从一个观察到的过程中顺序跟踪一个隐藏的过程。特别是,序贯蒙特卡罗(SMC)技术传播的时间加权的轨迹,表示的后验概率密度函数(pdf)的隐藏过程给定的可用的意见。另一方面,条件蒙特卡罗(CMC)是一种方差缩减技术,它用给定另一个变量的条件期望来代替感兴趣时刻的估计量。在本文中,我们表明,一些适应,可以利用SMC算法的时间递归性质,以提出自然的时间CMC估计的一些点估计的隐藏过程,这优于相关的粗蒙特卡罗(MC)估计无论样本数。我们接下来表明,我们的贝叶斯CMC估计可以准确地计算,或有效地近似,在一些隐藏的马尔可夫链(HMC)模型,在一些跳跃马尔可夫状态空间系统(JMSS),以及在多目标滤波。最后通过仿真验证了算法的有效性。
2012-10-18 stat.CO
Sequential Monte Carlo Bandits
Pipewave Inc.(Pipewave公司);Harvard University(哈佛大学)
在本文中,我们提出了一个灵活而有效的框架来处理多武装匪徒,结合序贯蒙特卡罗算法与分层贝叶斯建模技术。该框架自然包括不安分的土匪,上下文土匪,和其他土匪变种下一个单一的推理模型。尽管该模型的一般性,我们提出了有效的蒙特卡罗算法,使推理可扩展性,基于最近的发展序贯蒙特卡罗方法。通过两个模拟研究,该框架被证明优于其他经验方法,同时也自然扩展到更复杂的问题,现有的方法无法应付。此外,我们成功地将我们的框架应用于基于在线视频的广告推荐,并显示其提高的效率相比,目前的最先进的强盗算法。
2013-10-04 cs.LG stat.ME stat.ML
Capacity estimation of two-dimensional channels using Sequential Monte Carlo
我们推导出一种新的基于序列蒙特卡罗的算法来估计二维的【形】信道模型的容量。重点是计算2-D的一个无限游程长度有限的约束信道的无噪声容量,但基本的想法是普遍适用的。所提出的算法是针对一个国家的最先进的方法,产生超过一个数量级的改进,在给定的计算时间的估计精度。
2014-08-11 cs.IT math.IT stat.CO
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架,在马尔可夫链蒙特卡罗(MCMC)抽样连续的建议,试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法,包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法,如哈密顿蒙特卡罗(HMC)或弹性粒子采样器。在某些情况下,序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下,顺序提议方法已被提出为额外机会广义混合蒙特卡罗(XCGHMC)。我们开发了两种新的方法,其中的轨迹导致HMC的建议自动调整,以避免加倍回,在无掉头采样器(NUTS)。这些新方法的数值效率相比有利的NUTS。我们还表明,顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域,从而有利于更好地混合的链时,目标密度是多模态的。
2019-08-20 stat.CO stat.ML
Variance Estimation in Adaptive Sequential Monte Carlo
序贯蒙特卡罗(SMC)方法代表了通过简单的选择/突变机制来模拟一系列概率测度的一组经典技术。然而,相关联的选择函数和变异核通常取决于对算法的效率至关重要的调谐参数。解决这个问题的标准方法是应用自适应序贯蒙特卡罗(ASMC)方法,该方法包括利用样本历史给出的信息来调整参数。本文主要研究ASMC方法中的方差估计问题。具体来说,我们专注于渐近方差与Beskos等人定义的“限制”顺序蒙特卡罗算法一致的情况。(2016)。我们证明,在自然假设下,Lee和Whiteley(2018)在非自适应情况下引入的估计量(即,SMC)也是ASMC方法的渐近方差的一致估计量。要做到这一点,我们引入了一个新的估计,表示在合并树为基础的措施,并解释其与前一个连接。我们的估计器是通过跟踪相关的相互作用粒子系统的谱系构造的。我们使用的工具连接粒子马尔可夫链蒙特卡罗方法的研究和SMC方法中的方差估计问题。因此,他们可能会给一些新的见解时,处理复杂的谱系涉及问题的相互作用粒子系统在更一般的情况下。
2020-08-22 math.PR math.ST stat.CO
Asynchronous Anytime Sequential Monte Carlo
我们介绍了一种新的序贯蒙特卡罗算法,我们称之为粒子级联。粒子级联是一种异步的,随时替代传统的粒子滤波算法。它不使用屏障同步,从而提高了粒子吞吐量和内存效率。它是一个随时算法,因为它可以永远运行以发射无限数量的粒子,同时保持在固定的内存预算内。我们证明了粒子级联是一个无偏的边缘似然估计,这意味着它可以直接插入到现有的伪边缘方法。
2014-07-10 stat.CO stat.ML
Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference
Columbia University(哥伦比亚大学)
贝叶斯系统发育推断通常使用随机游走马尔可夫链蒙特卡罗(MCMC)或组合序贯蒙特卡罗(CSMC)等算法通过拓扑和分支长度上的局部或顺序搜索来进行。然而,当MCMC用于进化参数学习时,收敛需要长时间运行,状态空间的探索效率低下。我们介绍变分组合序贯蒙特卡罗(VCSMC),一个强大的框架,建立变分顺序搜索学习分布在复杂的组合结构。然后,我们开发嵌套CSMC,一个有效的建议分布CSMC和证明嵌套CSMC是一个精确的近似(棘手的)局部最优建议。我们使用嵌套的CSMC定义第二个目标,VNCSMC产生更严格的下限比VCSMC。我们表明,VCSMC和VNCSMC的计算效率和探索更高的概率空间比现有的方法在一系列的任务。
2021-06-17 cs.LG stat.CO stat.ML
Estimating Boltzmann Averages for Protein Structural Quantities Using Sequential Monte Carlo
序贯蒙特卡罗(SMC)方法被广泛用于从难以处理的目标分布中抽取样本。当目标分布受到高度约束或多峰时,颗粒简并会阻碍SMC的使用。作为一个激励的应用程序,我们考虑从玻尔兹曼分布采样蛋白质结构的问题。本文提出了一种通用的SMC方法,为每个粒子传播多个后代,然后通过重新分配来保持所需的粒子数。仿真研究表明,该方法用于解决蛋白质采样问题的有效性。作为一个真实数据的例子,我们使用我们的方法来估计的SARS冠状病毒-2病毒刺突蛋白的一个关键部分的原子接触的数量。
2022-10-25 stat.ME