Auto-Encoding Sequential Monte Carlo
我们建立在自动编码序贯蒙特卡罗(AESMC):模型和建议学习的基础上,最大限度地提高了一个广泛的家庭的结构化概率模型的对数边际似然下界的方法。我们的方法依赖于序贯蒙特卡罗(SMC)在结构化概率模型中执行推理的效率,以及深度神经网络对复杂条件概率分布建模的灵活性。我们开发了更多的理论见解,并引入了一个新的训练过程,提高了模型和建议学习。我们证明了我们的方法为深度生成模型中的同时模型学习和建议适应提供了一种快速,易于实现和可扩展的方法。
2018-04-05 stat.ML
Learning Nonlinear State Space Models with Hamiltonian Sequential Monte Carlo Sampler
状态空间模型(SSM)已被广泛应用于大型序列数据集的分析和可视化。序贯蒙特卡罗(SMC)是一种非常流行的基于粒子的方法,用于从难以处理的后验数据中采样潜在状态。然而,SSM受到提案选择的重大影响。近年来,哈密顿蒙特卡罗(HMC)抽样在许多实际问题中取得了成功。在本文中,我们提出了一个由HMC增强的SMC(HSMC)的推理和非线性SSM的模型学习,它可以免除我们的学习建议,并显着降低模型的复杂性。基于HMC的测度保持特性,由转移函数直接生成的粒子可以任意逼近隐态的后验。为了更好地适应隐空间的局部几何,HMC在由正定度量定义的黎曼流形上进行。此外,我们表明,建议的HSMC方法可以改善由高斯过程(GP)和神经网络(NN)实现的SSM。
2019-01-03 cs.LG cs.NE stat.ML
Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo
Department of Computer and Information Science (IDA), Linköping University, Sweden(计算机与信息科学系(IDA),_linköping大学,瑞典)
本文提出了一种基于解耦扩散的序列蒙特卡洛方法(DDSMC),用于求解线性高斯贝叶斯逆问题,该方法允许对样本进行更大更新且渐近精确,并在合成、蛋白质及图像数据上验证了有效性,同时可扩展至离散数据。
2025-10-10 cs.AI cs.LG stat.ML
High-dimensional Filtering using Nested Sequential Monte Carlo
序贯蒙特卡罗(SMC)方法是贝叶斯滤波最成功的近似方法之一。然而,SMC没有好的建议分布挣扎在高维。我们提出了嵌套的序贯蒙特卡罗(NSMC),一种方法,概括SMC框架,只需要近似,适当加权,样本从SMC的建议分布,同时仍然导致一个正确的SMC算法。通过这种方式,我们可以精确地近似局部最优建议,并扩展我们可以使用SMC进行有效推理的模型类。我们表现出更高的精度比其他国家的最先进的方法在几个时空状态空间模型。
2016-12-29 stat.CO stat.ML
Sequential Monte Carlo for Graphical Models
我们提出了一个新的框架,如何使用序贯蒙特卡罗(SMC)算法的概率图模型(PGM)的推理。通过对PGM的序列分解,我们找到了定义在单调递增的概率空间序列上的辅助分布序列。通过使用SMC瞄准这些辅助分布,我们能够近似由PGM定义的完整联合分布。SMC采样器的主要优点之一是它提供了模型配分函数的无偏估计。我们还展示了它如何可以用于粒子马尔可夫链蒙特卡罗框架内,以构建一般PGM的高维块采样算法。
2014-10-06 stat.ME stat.ML
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛(SMC)方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
Inference with Hamiltonian Sequential Monte Carlo Simulators
本文结合序贯蒙特卡罗模拟器和哈密顿蒙特卡罗模拟器的优点,提出了一种新的蒙特卡罗模拟器。结果是一种对多模态和复杂形状具有鲁棒性的方法,用于在存在困难的似然性或目标函数的情况下进行推理。提供了几个例子。
2018-12-19 stat.CO
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架,在马尔可夫链蒙特卡罗(MCMC)抽样连续的建议,试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法,包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法,如哈密顿蒙特卡罗(HMC)或弹性粒子采样器。在某些情况下,序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下,顺序提议方法已被提出为额外机会广义混合蒙特卡罗(XCGHMC)。我们开发了两种新的方法,其中的轨迹导致HMC的建议自动调整,以避免加倍回,在无掉头采样器(NUTS)。这些新方法的数值效率相比有利的NUTS。我们还表明,顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域,从而有利于更好地混合的链时,目标密度是多模态的。
2019-08-20 stat.CO stat.ML
Asynchronous Anytime Sequential Monte Carlo
我们介绍了一种新的序贯蒙特卡罗算法,我们称之为粒子级联。粒子级联是一种异步的,随时替代传统的粒子滤波算法。它不使用屏障同步,从而提高了粒子吞吐量和内存效率。它是一个随时算法,因为它可以永远运行以发射无限数量的粒子,同时保持在固定的内存预算内。我们证明了粒子级联是一个无偏的边缘似然估计,这意味着它可以直接插入到现有的伪边缘方法。
2014-07-10 stat.CO stat.ML
Kernel Sequential Monte Carlo
我们提出了内核序贯蒙特卡罗(KSMC),从静态目标密度采样的框架。KSMC是一系列序贯蒙特卡罗算法,其基于在再生核希尔伯特空间中构建当前粒子系统的仿真器模型。我们在这里重点关注目标的非线性协方差结构和梯度建模。仿真器的几何形状自适应更新,随后用于通知本地建议。与自适应马尔可夫链蒙特卡罗不同,连续自适应不会损害采样器的收敛性。KSMC结合了序贯蒙特卡罗和核方法的优点:与马尔可夫链蒙特卡罗相比,多模态目标的性能优越,能够估计模型证据,仿真器能够表示表现出高度非线性的目标。由于KSMC不需要访问目标梯度,因此它特别适用于梯度未知或过于昂贵的目标。我们描述了必要的调整细节,并展示了一系列具有挑战性的合成和现实世界的例子所提出的方法的好处。
2017-07-25 stat.CO stat.ML
Discussion of "Sequential Quasi-Monte Carlo" by Mathieu Gerber and Nicolas Chopin
关于拟蒙特卡罗估计在应用中降低方差可能性的讨论。进一步的细节在随附的论文“拟蒙特卡罗的方差缩减“中提供。
2015-01-14 stat.CO
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布,主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波,并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现,认为它们在统计中仍然没有得到充分的使用,尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
Adaptive Tuning Of Hamiltonian Monte Carlo Within Sequential Monte Carlo
序贯蒙特卡罗(SMC)采样器形成了一个有吸引力的替代MCMC贝叶斯计算。然而,它们的性能在很大程度上取决于用于恢复粒子的马尔可夫核。我们讨论了如何自动校准(使用当前粒子)哈密顿蒙特卡罗内核SMC。为此,我们建立在Fearnhead和Taylor(2013)的自适应SMC方法的基础上,我们还提出了替代方法。我们通过广泛的数值研究说明了在SMC采样器内使用HMC内核的优点。
2020-02-12 stat.CO
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断,退火顺序蒙特卡罗方法,基于最近的进展,如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数,以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能,通过审查和比较与其他计算贝叶斯系统发育方法,特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中,我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动,因此受益于大量的库存,这种移动在文献中。因此,退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
Automatic Rao-Blackwellization for Sequential Monte Carlo with Belief Propagation
LJK(LJK实验室);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);ENS – PSL University(巴黎高等师范学院-巴黎文理研究大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所)
针对状态空间模型精确贝叶斯推断难、基础SMC方法对复杂模型近似效果差的问题,提出结合置信传播与采样式SMC的混合推断算法,实现自动Rao-Blackwell化,对高斯树模型可获精确解。
2023-12-15 cs.LG stat.CO
Quasi-Newton Sequential Monte Carlo
序贯蒙特卡罗采样器代表了贝叶斯模型中后验推断的一种引人注目的方法,因为它是可并行的,并且提供了后验归一化常数的无偏估计。在这项工作中,我们显着加快序贯蒙特卡罗采样器采用L-BFGS海森近似,代表了国家的最先进的全批量优化技术。L-BFGS Hessian近似在参数维度上仅具有线性复杂度,并且不需要额外的后验或梯度评估。由此产生的序贯蒙特卡罗算法是自适应的,并行化的,非常适合于高维和多模态的设置,我们证明在具有挑战性的后验分布的数值实验。
2022-11-22 stat.ME
Sequential quasi-Monte Carlo: Introduction for Non-Experts, Dimension Reduction, Application to Partly Observed Diffusion Processes
SMC(序贯蒙特卡罗)算法是求解滤波及相关序列问题的一类蒙特卡罗算法。Gerber和Chopin(2015)介绍了SQMC(顺序准蒙特卡罗),SMC的QMC版本。本文件有两个目标:(a)将序贯蒙特卡罗引入QMC社区,该社区的成员通常不太熟悉状态空间模型和粒子滤波;(b)将SQMC扩展到连续时间状态空间模型的滤波,其中潜在过程是扩散。本文中反复出现的一点是降维的概念,即如何实现SQMC,尽管问题的维数很高,但它仍然提供了良好的性能。
2017-06-16 stat.CO
On sequential Monte Carlo, partial rejection control and approximate Bayesian computation
我们提出了一个序贯蒙特卡罗采样器的部分拒绝控制算法的变体,并表明,这种变体可以被认为是一个序贯蒙特卡罗采样器与修改后的突变内核。我们证明了新的采样器可以减少增量的重要性权重的方差相比,标准的序贯蒙特卡罗采样器。我们提供了一个新的算法的理论性质的研究,并与现有的一些算法。最后,采样器是适应于应用程序下的挑战性的“似然自由”,近似贝叶斯计算建模框架,在那里我们表现出优越的性能超过现有的似然自由采样器。
2009-11-11 math.ST stat.CO stat.TH
Variational Sequential Monte Carlo
大规模概率推理的许多最新进展依赖于变分方法。变分方法的成功取决于(i)制定一个灵活的参数分布族,以及(ii)优化参数,以找到这个家族中最接近精确后验的成员。在本文中,我们提出了一个新的近似家庭的分布,变分序贯蒙特卡罗(VSMC)家庭,并显示如何优化它的变分推断。VSMC融合了变分推断(VI)和序贯蒙特卡罗(SMC),为从业者提供灵活,准确和强大的贝叶斯推断。VSMC族是一个变分族,可以任意地近似后验,同时仍然允许其参数的有效优化。我们展示了它在状态空间模型,金融数据的随机波动模型和大脑神经回路的深度马尔可夫模型上的实用性。
2018-02-21 stat.CO stat.ME stat.ML
Data-driven Sequential Monte Carlo in Probabilistic Programming
University of Oxford(牛津大学)
现有的概率规划系统中的大多数马尔可夫链蒙特卡罗(MCMC)和顺序蒙特卡罗(SMC)算法仅使用模型先验作为建议分布。在这项工作中,我们描述了一种训练判别模型,即一个神经网络的方法,以近似的最佳建议,通过使用后验估计从以前运行的推理。我们展示了一个例子,结合了数据驱动的建议,用于在英国圣公会概率编程系统的非参数模型。我们的研究结果表明,数据驱动的建议可以显着提高推理性能,因此需要相当少的粒子来执行良好的后验估计。
2016-05-16 cs.AI stat.AP stat.ML
Combining Normalizing Flows and Quasi-Monte Carlo
本文提出将拟蒙特卡洛采样与归一化流相结合,用拟蒙特卡洛采样流的初始分布,实验表明该组合估计量方差显著低于经典蒙特卡洛采样。
2024-01-11 stat.CO stat.ML
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗(SMC)算法,只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的,当目标分布是多模态和全球混合的马尔可夫内核是缓慢的,在这种情况下,我们的方法建立了相应的马尔可夫链蒙特卡罗(MCMC)估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望,并表明SMC提供了一个完全多项式时间的随机逼近方案,一些困难的多峰问题,相应的马尔可夫链采样器是指数缓慢。最后,我们比较我们的方法得到的边界,现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限,包括有限空间,产品措施,和对数凹分布,包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
Simple conditions for convergence of sequential Monte Carlo genealogies with applications
我们提出了简单的条件下,限制系谱过程与一类相互作用的粒子系统与非中性的选择机制,随着粒子数量的增长,是一个时间重新缩放的金曼合并。序贯蒙特卡罗算法是在诸如非线性滤波和平滑等问题中近似积分的流行方法,这些问题采用这种类型的粒子系统。它们的表现强烈依赖于诱导谱系过程的性质。我们验证了我们的主要结果的标准序贯蒙特卡罗算法与广泛的一类低方差reservation计划,以及有条件的序贯蒙特卡罗与多项式reservation的条件。
2020-12-07 math.PR stat.CO stat.ME
Application of Sequential Quasi-Monte Carlo to Autonomous Positioning
序贯蒙特卡罗算法(也称为粒子滤波器)是用于近似状态空间模型的滤波(和相关)分布的流行方法。然而,它们以缓慢的$1/\sqrt{N}$速率收敛,这在实时数据密集型场景中可能是一个问题。我们简要介绍了SQMC(顺序准蒙特卡罗),这是基于Gerber和Chopin(2015)提出的低差异点集的SMC变体,它以更快的速度收敛,我们说明了SQMC在自主定位问题上的更高性能。
2015-03-05 stat.CO
Sequential Monte Carlo Methods for System Identification
在识别非线性和可能的非高斯状态空间模型(SSM)的关键挑战之一是估计系统状态的棘手性。序贯蒙特卡罗(SMC)方法,例如粒子滤波器(二十多年前引入),为SSM中出现的非线性状态估计问题提供数值解。当与其他识别技术相结合时,这些算法为非线性系统识别问题提供了坚实的解决方案。我们描述了两个一般的战略,创造这样的组合,并讨论为什么SMC是一个自然的工具,实施这些战略。
2016-03-10 math.OC stat.CO stat.ML
Ensemble Kalman filter based Sequential Monte Carlo Sampler for sequential Bayesian inference
许多现实世界的问题需要一个估计参数的兴趣,在贝叶斯框架,从数据收集顺序的时间。从后验分布采样的传统方法,如{马尔可夫链蒙特卡罗}不能有效地解决这些问题,因为它们没有利用数据的顺序结构。为此,序列的方法,寻求更新的后验分布,每当一个新的收集的数据变得可用,经常被用来解决这些类型的问题。序贯方法的两种流行选择是Envelope卡尔曼滤波器(EnKF)和序贯蒙特卡罗采样器(SMCS)。虽然EnKF仅计算后验分布的高斯近似,但SMCS可以直接从后验中提取样本。然而,它的性能关键取决于所使用的内核。在这项工作中,我们提出了一种方法,构建SMCS的内核使用EnKF制定,我们证明了该方法的性能与数值例子。
2022-01-23 stat.CO stat.ME
Sequential Markov Chain Monte Carlo
我们提出了一个顺序的马尔可夫链蒙特卡罗(SMCMC)算法,从一个序列的概率分布,对应于后验分布在不同的时间在在线应用中进行采样。SMCMC与通常的MCMC一样进行,但每次新数据到达时都会适当更新静态分布。SMCMC在避免粒子简并问题方面优于顺序蒙特卡罗(SMC)。我们提供了理论保证SMCMC的边际收敛在各种设置下,包括参数和非参数模型。所提出的方法相比,竞争对手在模拟研究。我们还考虑了在线非参数回归的应用。
2013-08-18 math.ST stat.TH
Three discussions of the paper "sequential quasi-Monte Carlo sampling", by M. Gerber and N. Chopin
这是一个收集的三个书面讨论的文件“序贯准蒙特卡罗抽样”的M。Gerber和N.肖邦在2014年12月10日在伦敦皇家统计学会发表演讲后说。
2015-05-26 stat.CO
vSMC: Parallel Sequential Monte Carlo in C++
序贯蒙特卡罗是从一系列分布中进行抽样的一系列算法。其中的一些算法,如粒子滤波器,在物理和信号处理领域有着广泛的应用。最近的发展已经建立了他们的应用程序在更一般的推理问题,如贝叶斯建模。这些算法近年来吸引了相当大的关注,因为它们承认自然和可扩展的并行化。然而,这些算法被认为是难以实现的。此外,并行编程虽然在概念上很吸引人,但对许多研究人员来说往往是陌生的,特别是对于与序贯蒙特卡罗相关的领域。为了在并行硬件上实现一般的序贯蒙特卡罗算法,提出了一个C++模板库。两个例子:一个简单的粒子滤波器和一个经典的贝叶斯建模问题。
2013-06-24 cs.MS stat.CO
Some Contributions to Sequential Monte Carlo Methods for Option Pricing
期权定价是金融工程中的一个重要问题。在许多具有实际意义的场景中,与标的资产相关的金融期权价格简化为计算w.r.t.~扩散过程。一般来说,这些期望值无法通过分析计算,而近似这些数量的一种方法是通过蒙特卡罗方法;蒙特卡罗方法至少从20世纪70年代开始就被用于期权定价。在Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗",序贯蒙特卡罗(SMC)方法是应用于这种情况的自然工具,可以大大改善标准蒙特卡罗。在本文中,本着类似的精神,Del Moral,P.\& Shevchenko,P.V.(2014)"Valuation of barrier options using序贯蒙特卡罗"和Jasra,A. \& Del Moral,P.(2011)"期权定价的序贯蒙特卡罗"我们表明,通过构建一系列人工目标密度随时间的推移使用SMC方法可以实现显着收益。特别是,我们近似的最佳重要性抽样分布的SMC算法,通过使用一系列的加权函数。这是证明了两个例子,障碍期权和目标应计赎回票据(TARN的)。我们还提供了我们的SMC估计的无偏性的证明。
2016-08-11 q-fin.CP q-fin.PR stat.CO
Capacity estimation of two-dimensional channels using Sequential Monte Carlo
我们推导出一种新的基于序列蒙特卡罗的算法来估计二维的【形】信道模型的容量。重点是计算2-D的一个无限游程长度有限的约束信道的无噪声容量,但基本的想法是普遍适用的。所提出的算法是针对一个国家的最先进的方法,产生超过一个数量级的改进,在给定的计算时间的估计精度。
2014-08-11 cs.IT math.IT stat.CO
Generalised linear mixed model analysis via sequential Monte Carlo sampling
提出了一种用于广义线性混合模型贝叶斯分析的序贯蒙特卡罗抽样算法。这些模型支持各种有趣的回归类型的分析,但执行推理往往是非常困难的,即使使用贝叶斯方法结合马尔可夫链蒙特卡罗(MCMC)。序贯蒙特卡罗抽样法是一种新的、通用的从后验分布中产生样本的方法。在这篇文章中,我们演示了使用SMC方法进行GLP-I推理。我们证明了模拟和真实数据的方法的有效性,并发现,序贯蒙特卡罗是一个有竞争力的替代MCMC技术。
2008-10-07 stat.CO
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿,马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里,它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中,我将回顾马尔可夫链蒙特卡罗的历史,从一开始的大都会方法,今天的国家的最先进的哈密顿蒙特卡罗。在此过程中,我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
Sequential Monte Carlo on large binary sampling spaces
如果蒙特卡罗算法使用过去的模拟自动校准其当前的建议分布,则称其为自适应的。定义建议分布集的参数族的选择对于良好的性能至关重要。在本文中,我们提出了这样一个参数族的自适应采样高维二进制空间。这个问题的一个实际动机是变量选择在线性回归上下文中。我们希望使用适当版本的序贯蒙特卡罗从模型空间上的贝叶斯后验分布中采样。原始版本的序贯蒙特卡罗很容易使用具有独立分量的二进制向量实现。然而,对于高维问题,这些简单的建议并不能产生令人满意的结果。一个有效的自适应算法的关键是考虑相关性的二元参数族,类似于连续空间上的多元正态分布。我们提供了二进制数据的模型的审查,并使其中之一的顺序蒙特卡罗抽样的上下文中工作。对大约100个协变量的真实数据的计算研究表明,在困难的情况下,我们的序贯蒙特卡罗方法明显优于基于马尔可夫链探索的标准技术。
2011-11-09 math.ST stat.CO stat.ME
Comment on "Sequential Monte Carlo for Bayesian Computation" (P. Del Moral, A. Doucet, A. Jasra)
主要的问题涉及到序列蒙特卡罗的另一个最新进展,即使用自动适应目标分布的混合过渡核(Douc et al. 2006)。是否有一类静态推理问题更适合后向核方法,或者预测哪种方法在特定情况下可能具有更好的性能还为时过早?
2006-06-22 math.PR math.ST stat.TH
Resampling Strategy in Sequential Monte Carlo for Constrained Sampling Problems
序贯蒙特卡罗(SMC)方法是一类用于以序贯方式获得高维随机变量的随机样本的蒙特卡罗方法。在应用程序中遇到的许多问题通常涉及不同类型的约束。这些限制可能使问题更具挑战性。在本文中,我们制定了一个通用的框架,使用SMC约束抽样问题的基础上向前和向后的导频响应策略。我们回顾了一些现有的方法的框架下,开发了几个新的算法。注意,所有观察到的或施加在底层系统上的信息都可以被视为约束。因此,本文中概述的方法可以在许多应用中是有用的。
2018-12-19 stat.ME
Discussion of "Sequential Quasi-Monte-Carlo Sampling" by M. Gerber and N. Chopin
在这篇评论中,我们考虑QMC方法是否可以进一步嵌入SMC计划中的设置中的潜在过程的过渡密度是棘手的和伪边缘的方法部署。
2015-02-04 stat.ME
Limit theorems for weighted samples with applications to Sequential Monte Carlo Methods
在过去的十年中,序列蒙特卡罗方法(SMC)成为计算统计学中的一个关键工具。这些算法通过与加权粒子群相关联的加权经验测量序列来近似分布序列。这些粒子和权重是根据初等变换(突变和选择)递归生成的。应用程序的例子包括顺序蒙特卡洛技术来解决最佳的非线性滤波问题的状态空间模型,分子模拟,遗传优化等,尽管许多理论上的进步,这些近似的渐近性质当然仍然是一个问题的中心利益。本文从渐近的角度分析了序贯蒙特卡罗方法,即建立了粒子数变大时的大数定律和不变原理。我们引入了“加权样本”的一致性和渐近正态性的概念,并推导出条件下的突变和选择过程中使用的顺序蒙特卡洛建立保持这些属性。为了说明我们的研究结果,我们分析SMC算法近似状态空间模型中的过滤分布。我们展示了我们的技术如何允许放宽限制性的技术条件,在以前报道的作品,并提供理由来分析更复杂的序贯抽样策略。
2005-07-03 math.PR math.ST stat.TH
Convergence of random-weight sequential Monte Carlo methods
我们研究了一个序贯蒙特卡罗方法的性质,其中出现在算法中的粒子的重量是由一个积极的,无偏估计量估计。我们提出了广泛适用的收敛结果,包括一个中心极限定理,我们讨论了它们在统计物理应用的相关性。使用这些结果,我们表明,rescue步骤减少的影响的随机性的权重的渐近方差的估计。此外,我们探讨了序贯蒙特卡罗方法的收敛极限,重点是几乎必然收敛。我们构造了一个例子算法,我们可以证明依概率收敛,但不收敛几乎肯定,即使在非随机权重的情况下。
2022-08-25 math.PR stat.ME
Online Rolling Controlled Sequential Monte Carlo
本研究提出ORCSMC算法,通过滚动窗口将受控序贯蒙特卡洛扩展至在线场景,用双粒子系统同步估计扭曲函数与滤波,在多模型实验中验证了其高维下更优的估计精度与鲁棒性,为复杂隐变量模型实时推断提供高效方案。
2025-08-01 stat.CO
Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo
我们提出序贯蒙特卡罗算法的静态参数的极大似然估计的隐马尔可夫模型的一个棘手的可能性使用的想法,从近似贝叶斯计算。静态参数估计算法是基于梯度的,并且覆盖离线和在线估计。我们证明了他们的表现,估计参数的三个棘手的模型,即α-稳定分布,g-和-k分布,和随机波动率模型与α-稳定的回报,使用真实和合成数据。
2013-11-17 stat.CO stat.ME
Sequential Monte Carlo samplers: error bounds and insensitivity to initial conditions
本文讨论了逼近概率分布序列的序贯蒙特卡罗方法的有限样本稳定性。本文给出的结果适用于序列中的开始和结束分布是固定的并且中间步骤的数量是算法的参数的情况。在非紧空间的假设下,证明了初始分布的影响在中间步数上指数衰减,并且相应的随机误差在\mathbb{L}_{p}范数下是稳定的.
2011-03-21 math.PR stat.CO
Quasi continuous level Monte Carlo for random elliptic PDEs
本文提出拟连续水平蒙特卡洛方法,用拟蒙特卡洛序列生成指数分布随机变量,显著降低方差,在随机椭圆偏微分方程示例中明显优于多水平和连续水平蒙特卡洛。
2023-10-12 cs.NA math.NA math.PR
Sequential Monte Carlo with transformations
本文介绍了在不同维数的空间上对后验序列顺序进行贝叶斯推断的方法。我们展示了如何通过使用序贯蒙特卡罗(SMC)采样器来实现这一点(Del Moral等人,2006年,2007年),充分利用这个框架的灵活性,以便该方法是计算效率。特别是,我们介绍了使用确定性变换的创新,有效地移动粒子之间的目标分布与不同的尺寸。这种方法,结合自适应方法,产生一个非常灵活和通用的算法贝叶斯模型比较,适用于在可逆跳马尔可夫链蒙特卡罗(RJMCMC)的接受率低的应用程序中使用。我们证明了这种方法的混合模型模型比较的研究问题,并为新的应用程序推断合并树顺序,数据到达。
2019-09-11 stat.AP stat.CO stat.ME
Multifidelity Approximate Bayesian Computation with Sequential Monte Carlo Parameter Sampling
多保真度近似贝叶斯计算(MF-ABC)是一种用于参数推断的无可能性技术,它利用模型近似来显着提高ABC算法的速度(Prescott和Baker,2020)。以前的工作只考虑MF-ABC的上下文中的拒绝抽样,这并不特别有效地探索参数空间。在这项工作中,我们集成了多保真度的方法与ABC序贯蒙特卡罗(ABC-SMC)算法到一个新的MF-ABC-SMC算法。我们表明,ABC-SMC和MF-ABC产生的改进,以产生蒙特卡罗样本的效率和估计的ABC后被放大时,这两种技术一起使用。
2020-10-12 stat.CO
Sequential Monte Carlo Smoothing with Parameter Estimation
针对一般状态空间模型的未知参数问题,提出了两种新的贝叶斯平滑方法。第一种方法是基于粒子学习和平滑算法,但在后向reserving权重的调整。第二种方法是将序贯参数学习和平滑算法相结合,用于一般状态空间模型。该方法简单而有效,是目前求解联合贝叶斯平滑问题最好的序贯蒙特卡罗算法。本文首先利用模拟数据对三个基准模型进行了验证,然后将其应用于金融危机期间标准普尔500指数日收益率的随机波动率模型。
2016-04-19 stat.CO
Sequential Monte Carlo algorithms for a class of outer measures
在一般情况下,用一些特定的外测度代替概率分布,可以导出封闭形式的随机滤波方程。在这篇文章中,我们研究如何的序贯蒙特卡罗方法的原则,可以适应这些方程的实际实施的目的。特别是,我们探讨如何抽样可以用来提供支持点的近似这些外部措施。这一步使实用的算法,以粒子滤波器的精神来推导。所获得的算法的性能在模拟中得到证明,并通过各种例子说明其通用性。
2018-05-04 stat.ME
Sequential Monte Carlo Filtering Estimation of Ebola Progression in West Africa
我们使用序贯蒙特卡罗滤波器的多变量公式,该滤波器利用埃博拉病毒传播的机制模型和可用的发病率数据来同时估计疾病进展状态和模型参数。该方法的优点在于,当新数据变得可用时,在线执行推断,并且估计埃博拉爆发的基本生殖比$R_0(t)$随时间的演变。我们的分析确定了基本生殖比率的峰值接近欧洲和美国报告埃博拉病例的时间。
2016-01-28 q-bio.PE stat.AP
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较,效率的各种复杂性的测试问题,其中解析求积。比较的方法是伪随机数的蒙特卡罗,拉丁超立方抽样,准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效,但后者的不等式适用于减少的函数类型集和少量的采样点。总之,拟蒙特卡罗方法将出现最安全的赌注时,集成功能的未知类型。
2015-05-10 stat.AP stat.CO
Sequentially interacting Markov chain Monte Carlo methods
序贯蒙特卡罗(SMC)是一种从一系列增加维数的概率分布中近似抽样并估计其归一化常数的方法。我们在这里提出了一种替代方法命名为顺序交互马尔可夫链蒙特卡罗(SIMCMC)。SIMCMC方法的工作原理是产生相互作用的非马尔可夫序列,这些序列的行为渐近地类似于具有所需极限分布的独立Metropolis-Hastings(MH)马尔可夫链。与SMC相反,SIMCMC允许我们以类似MCMC的方式迭代地改进我们的估计。我们建立了现实的可验证的假设下的收敛结果,并证明其性能的贝叶斯时间序列分析中出现的几个例子。
2012-11-12 math.ST stat.TH
A review of sequential Monte Carlo methods for real-time disease modeling
本文综述了序贯蒙特卡洛方法在实时动态疾病建模中的应用,结合SEIR模型与核密度逼近技术,证明了其在在线推断和时变参数监测上的有效性,为公共卫生干预提供支持。
2024-08-28 math.DS q-bio.PE stat.CO
Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充,可在http://arxiv.org/abs/1106.5850上获得
2013-06-28 stat.CO
Embarrassingly Parallel Sequential Markov-chain Monte Carlo for Large Sets of Time Series
贝叶斯计算关键依赖于马尔可夫链蒙特卡罗(MCMC)算法。在大规模数据集的情况下,运行Metropolis-Hastings采样器从后验分布中提取数据变得令人望而却步,因为每次迭代都需要计算大量的似然项。为了进行贝叶斯推断的一个大的时间序列,我们考虑了一个算法,结合了“分而治之”的想法,以前用于设计MCMC算法的大数据与顺序MCMC策略。该方法的性能说明了使用一个大的金融数据集。
2015-12-04 stat.AP stat.CO