Generalised linear mixed model analysis via sequential Monte Carlo sampling
提出了一种用于广义线性混合模型贝叶斯分析的序贯蒙特卡罗抽样算法。这些模型支持各种有趣的回归类型的分析，但执行推理往往是非常困难的，即使使用贝叶斯方法结合马尔可夫链蒙特卡罗（MCMC）。序贯蒙特卡罗抽样法是一种新的、通用的从后验分布中产生样本的方法。在这篇文章中，我们演示了使用SMC方法进行GLP-I推理。我们证明了模拟和真实数据的方法的有效性，并发现，序贯蒙特卡罗是一个有竞争力的替代MCMC技术。
2008-10-07 stat.CO
Online Rolling Controlled Sequential Monte Carlo
本研究提出ORCSMC算法，通过滚动窗口将受控序贯蒙特卡洛扩展至在线场景，用双粒子系统同步估计扭曲函数与滤波，在多模型实验中验证了其高维下更优的估计精度与鲁棒性，为复杂隐变量模型实时推断提供高效方案。
2025-08-01 stat.CO
Multifidelity Approximate Bayesian Computation with Sequential Monte Carlo Parameter Sampling
多保真度近似贝叶斯计算（MF-ABC）是一种用于参数推断的无可能性技术，它利用模型近似来显着提高ABC算法的速度（Prescott和Baker，2020）。以前的工作只考虑MF-ABC的上下文中的拒绝抽样，这并不特别有效地探索参数空间。在这项工作中，我们集成了多保真度的方法与ABC序贯蒙特卡罗（ABC-SMC）算法到一个新的MF-ABC-SMC算法。我们表明，ABC-SMC和MF-ABC产生的改进，以产生蒙特卡罗样本的效率和估计的ABC后被放大时，这两种技术一起使用。
2020-10-12 stat.CO
Sequential Monte Carlo Smoothing with Parameter Estimation
针对一般状态空间模型的未知参数问题，提出了两种新的贝叶斯平滑方法。第一种方法是基于粒子学习和平滑算法，但在后向reserving权重的调整。第二种方法是将序贯参数学习和平滑算法相结合，用于一般状态空间模型。该方法简单而有效，是目前求解联合贝叶斯平滑问题最好的序贯蒙特卡罗算法。本文首先利用模拟数据对三个基准模型进行了验证，然后将其应用于金融危机期间标准普尔500指数日收益率的随机波动率模型。
2016-04-19 stat.CO
Supplement to "Markov Chain Monte Carlo Based on Deterministic Transformations"
这是对文章“基于确定性变换的马尔可夫链蒙特卡罗”的补充，可在http://arxiv.org/abs/1106.5850上获得
2013-06-28 stat.CO
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算（ABC）是处理具有难处理的可能性的模型的一般方法。在这项工作中，我们推导出基于QMC（准蒙特卡罗）序列的ABC算法。我们表明，由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体，逐步适应提案分布和接受阈值。我们说明了我们的QMC方法，通过几个例子从ABC文学。保留字：近似贝叶斯计算，无似然推断，拟蒙特卡罗，随机化拟蒙特卡罗，自适应重要性抽样
2018-05-07 stat.CO
Replica Conditional Sequential Monte Carlo
本文提出了一种马尔可夫链蒙特卡罗（MCMC）方法来对非线性非高斯状态空间模型进行状态推断。解决该问题的当前最先进的方法依赖于粒子MCMC技术及其变体，例如迭代条件序贯蒙特卡罗（cSMC）方案，其在MCMC内使用序贯蒙特卡罗（SMC）类型提议。标准SMC提议的缺陷在于，当整个观测序列可用时，它们仅使用直到时间$t$的观测来提议时间$t$处的状态。可以使用基于前瞻技术的更复杂的SMC，但它们可能难以付诸实践。我们在这里提出副本cSMC，我们建立SMC建议，一个副本使用来自整个观察序列的信息，通过调节其他副本的状态。这种方法很容易并行化，我们证明了其出色的经验性能相比，标准的迭代cSMC计划在固定的计算复杂度。
2019-05-13 stat.CO
Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains
不可逆和无拒绝蒙特卡罗方法，最近在物理学中以事件链的名义开发，在统计学中称为分段确定性蒙特卡罗（PDMC），已被证明比标准蒙特卡罗方法产生明显的加速，这要归功于它们的随机游走行为的减少。然而，当将这样的方案应用于标准统计模型时，为了正确性，通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法，减少这种额外的随机化到最低限度。我们比较了这种新方法的效率，标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。
2020-04-27 stat.CO
Stability of Conditional Sequential Monte Carlo
粒子吉布斯（PG）采样器是一种马尔可夫链蒙特卡罗（MCMC）算法，它使用相互作用的粒子系统来执行吉布斯步骤。每一步Gibbs都是模拟一个粒子系统，它依赖于一个条件序贯蒙特卡罗（cSMC）方法来创建粒子系统。我们提出了一种新的解释cSMC算法作为一个扰动的序贯蒙特卡罗（SMC）方法，并适用于伸缩分解SMC算法\cite{delmoral2004}的分析得出的预期采样路径从cSMC和MCMC算法的目标分布之间的距离的界限。这可以用来得到一致的遍历性结果。特别是，我们可以证明，cSMC的混合率可以保持恒定的线性增加粒子的数量与观察的数量。基于我们的分解，我们还证明了cSMC算法的中心极限定理，这不能使用\cite{Andrieu2013}和\cite{Lindsten2014}的方法。
2018-06-18 stat.CO
Bayesian Conditional Monte Carlo Algorithms for Sequential Single and Multi-Object filtering
贝叶斯滤波的目的是从一个观察到的过程中顺序跟踪一个隐藏的过程。特别是，序贯蒙特卡罗（SMC）技术传播的时间加权的轨迹，表示的后验概率密度函数（pdf）的隐藏过程给定的可用的意见。另一方面，条件蒙特卡罗（CMC）是一种方差缩减技术，它用给定另一个变量的条件期望来代替感兴趣时刻的估计量。在本文中，我们表明，一些适应，可以利用SMC算法的时间递归性质，以提出自然的时间CMC估计的一些点估计的隐藏过程，这优于相关的粗蒙特卡罗（MC）估计无论样本数。我们接下来表明，我们的贝叶斯CMC估计可以准确地计算，或有效地近似，在一些隐藏的马尔可夫链（HMC）模型，在一些跳跃马尔可夫状态空间系统（JMSS），以及在多目标滤波。最后通过仿真验证了算法的有效性。
2012-10-18 stat.CO
Simple rejection Monte Carlo algorithm and its application to multivariate statistical inference
本文针对拒绝蒙特卡洛算法应用较少的问题，提出一种简化版本，并以多元分布抽样和多元积分为例展示其在统计推断中的具体应用。
2024-02-27 stat.CO
Zero Variance and Hamiltonian Monte Carlo Methods in GARCH Models
在本文中，我们发展了贝叶斯哈密顿蒙特卡罗方法的推断在非对称的Gestival模型在不同的分布的误差项。我们实现了零方差和哈密顿蒙特卡罗计划的参数估计，试图减少标准误的估计，从而获得更有效的结果，在一个小的额外的计算成本的价格。
2017-10-20 stat.CO
Improved Sequential Stopping Rule for Monte Carlo Simulation
本文对文献[1]中的负二项蒙特卡罗方法进行了改进，证明了当μ_1，μ_2 > 1时，相对区间[p/μ_2，pμ_1]的置信水平在比文献[1]更宽的区间范围内超过其渐近值，这扩展了估计量的适用性，放宽了保证给定置信水平的条件。
2008-09-23 stat.CO
Density Estimation by Monte Carlo and Quasi-Monte Carlo
估计连续随机变量X的密度在统计学中已经被广泛研究，在设置中，X的n个独立观测值被先验地给出，并且人们希望从中估计密度。流行的方法包括直方图和核密度估计。在这篇综述论文中，我们感兴趣的是，而不是在这种情况下，观察产生的蒙特卡罗模拟从一个模型。然后，可以利用方差缩减方法，如分层，条件蒙特卡罗，和随机准蒙特卡罗（RQMC），并获得一个更准确的密度估计比标准的蒙特卡罗对于给定的计算预算。我们讨论了几种方法，在最近的论文中提出，重点是利用RQMC的方法。第一个想法是直接将RQMC与标准核密度估计器相结合。另一种方法是采用基于模拟的导数估计方法，如平滑扰动分析或似然比方法，以获得cdf的连续估计量，其导数是密度的无偏估计量。这可以与RQMC结合使用。我们总结了最近的理论结果与这些方法，并给出了它们如何提高均方积分误差的收敛性的数值例子。
2021-09-07 stat.CO
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布，主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波，并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现，认为它们在统计中仍然没有得到充分的使用，尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
An Annealed Sequential Monte Carlo Method for Bayesian Phylogenetics
我们描述了一个“并行”的贝叶斯系统发育推断，退火顺序蒙特卡罗方法，基于最近的进展，如退火参数的自适应确定顺序蒙特卡罗文献。该算法提供了一个近似的后验分布的树木和进化参数，以及一个无偏估计的边际似然。该无偏性可用于检验后验仿真软件的正确性。我们评估系统发育退火序贯蒙特卡罗的性能，通过审查和比较与其他计算贝叶斯系统发育方法，特别是不同的边际似然估计方法。与以前的序列蒙特卡罗方法在遗传学中，我们的退火方法可以利用标准的马尔可夫链蒙特卡罗树移动，因此受益于大量的库存，这种移动在文献中。因此，退火顺序蒙特卡罗方法应该是相对容易纳入现有的系统发育软件包的基础上马尔可夫链蒙特卡罗算法。我们用模拟研究和真实数据分析来说明我们的方法。
2019-03-13 q-bio.PE stat.CO
Ensemble Kalman filter based Sequential Monte Carlo Sampler for sequential Bayesian inference
许多现实世界的问题需要一个估计参数的兴趣，在贝叶斯框架，从数据收集顺序的时间。从后验分布采样的传统方法，如{马尔可夫链蒙特卡罗}不能有效地解决这些问题，因为它们没有利用数据的顺序结构。为此，序列的方法，寻求更新的后验分布，每当一个新的收集的数据变得可用，经常被用来解决这些类型的问题。序贯方法的两种流行选择是Envelope卡尔曼滤波器（EnKF）和序贯蒙特卡罗采样器（SMCS）。虽然EnKF仅计算后验分布的高斯近似，但SMCS可以直接从后验中提取样本。然而，它的性能关键取决于所使用的内核。在这项工作中，我们提出了一种方法，构建SMCS的内核使用EnKF制定，我们证明了该方法的性能与数值例子。
2022-01-23 stat.CO stat.ME
vSMC: Parallel Sequential Monte Carlo in C++
序贯蒙特卡罗是从一系列分布中进行抽样的一系列算法。其中的一些算法，如粒子滤波器，在物理和信号处理领域有着广泛的应用。最近的发展已经建立了他们的应用程序在更一般的推理问题，如贝叶斯建模。这些算法近年来吸引了相当大的关注，因为它们承认自然和可扩展的并行化。然而，这些算法被认为是难以实现的。此外，并行编程虽然在概念上很吸引人，但对许多研究人员来说往往是陌生的，特别是对于与序贯蒙特卡罗相关的领域。为了在并行硬件上实现一般的序贯蒙特卡罗算法，提出了一个C++模板库。两个例子：一个简单的粒子滤波器和一个经典的贝叶斯建模问题。
2013-06-24 cs.MS stat.CO
High-dimensional Filtering using Nested Sequential Monte Carlo
序贯蒙特卡罗（SMC）方法是贝叶斯滤波最成功的近似方法之一。然而，SMC没有好的建议分布挣扎在高维。我们提出了嵌套的序贯蒙特卡罗（NSMC），一种方法，概括SMC框架，只需要近似，适当加权，样本从SMC的建议分布，同时仍然导致一个正确的SMC算法。通过这种方式，我们可以精确地近似局部最优建议，并扩展我们可以使用SMC进行有效推理的模型类。我们表现出更高的精度比其他国家的最先进的方法在几个时空状态空间模型。
2016-12-29 stat.CO stat.ML
Repetition effects in a Sequential Monte Carlo sampler
本文研究了近期为政治选区重划引入的序贯蒙特卡洛（SMC）方法中样本重复现象的普遍性。
2024-09-24 cs.CY math.PR math.ST
On sequential Monte Carlo, partial rejection control and approximate Bayesian computation
我们提出了一个序贯蒙特卡罗采样器的部分拒绝控制算法的变体，并表明，这种变体可以被认为是一个序贯蒙特卡罗采样器与修改后的突变内核。我们证明了新的采样器可以减少增量的重要性权重的方差相比，标准的序贯蒙特卡罗采样器。我们提供了一个新的算法的理论性质的研究，并与现有的一些算法。最后，采样器是适应于应用程序下的挑战性的“似然自由”，近似贝叶斯计算建模框架，在那里我们表现出优越的性能超过现有的似然自由采样器。
2009-11-11 math.ST stat.CO stat.TH
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架，在马尔可夫链蒙特卡罗（MCMC）抽样连续的建议，试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法，包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法，如哈密顿蒙特卡罗（HMC）或弹性粒子采样器。在某些情况下，序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下，顺序提议方法已被提出为额外机会广义混合蒙特卡罗（XCGHMC）。我们开发了两种新的方法，其中的轨迹导致HMC的建议自动调整，以避免加倍回，在无掉头采样器（NUTS）。这些新方法的数值效率相比有利的NUTS。我们还表明，顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域，从而有利于更好地混合的链时，目标密度是多模态的。
2019-08-20 stat.CO stat.ML
Parameter Estimation in Hidden Markov Models with Intractable Likelihoods Using Sequential Monte Carlo
我们提出序贯蒙特卡罗算法的静态参数的极大似然估计的隐马尔可夫模型的一个棘手的可能性使用的想法，从近似贝叶斯计算。静态参数估计算法是基于梯度的，并且覆盖离线和在线估计。我们证明了他们的表现，估计参数的三个棘手的模型，即α-稳定分布，g-和-k分布，和随机波动率模型与α-稳定的回报，使用真实和合成数据。
2013-11-17 stat.CO stat.ME
Finite Sample Complexity of Sequential Monte Carlo Estimators
本文给出了静态空间上序贯蒙特卡罗采样器的有限样本误差的界。我们的方法明确地将算法的性能与所选分布序列的属性和相关马尔可夫核的混合属性联系起来。这使我们能够给出第一个有限样本比较其他蒙特卡罗计划。我们得到了各种目标分布的序贯蒙特卡罗近似的复杂性的界限，包括有限空间，产品措施，和对数凹分布，包括贝叶斯逻辑斯谛回归。所得到的界限是在一个对数因子内的类似界限可获得马尔可夫链蒙特卡罗。
2022-08-18 math.PR stat.CO stat.ME
Asynchronous Anytime Sequential Monte Carlo
我们介绍了一种新的序贯蒙特卡罗算法，我们称之为粒子级联。粒子级联是一种异步的，随时替代传统的粒子滤波算法。它不使用屏障同步，从而提高了粒子吞吐量和内存效率。它是一个随时算法，因为它可以永远运行以发射无限数量的粒子，同时保持在固定的内存预算内。我们证明了粒子级联是一个无偏的边缘似然估计，这意味着它可以直接插入到现有的伪边缘方法。
2014-07-10 stat.CO stat.ML
Sequential Monte Carlo samplers: error bounds and insensitivity to initial conditions
本文讨论了逼近概率分布序列的序贯蒙特卡罗方法的有限样本稳定性。本文给出的结果适用于序列中的开始和结束分布是固定的并且中间步骤的数量是算法的参数的情况。在非紧空间的假设下，证明了初始分布的影响在中间步数上指数衰减，并且相应的随机误差在\mathbb{L}_{p}范数下是稳定的.
2011-03-21 math.PR stat.CO
Simple conditions for convergence of sequential Monte Carlo genealogies with applications
我们提出了简单的条件下，限制系谱过程与一类相互作用的粒子系统与非中性的选择机制，随着粒子数量的增长，是一个时间重新缩放的金曼合并。序贯蒙特卡罗算法是在诸如非线性滤波和平滑等问题中近似积分的流行方法，这些问题采用这种类型的粒子系统。它们的表现强烈依赖于诱导谱系过程的性质。我们验证了我们的主要结果的标准序贯蒙特卡罗算法与广泛的一类低方差reservation计划，以及有条件的序贯蒙特卡罗与多项式reservation的条件。
2020-12-07 math.PR stat.CO stat.ME
Kernel Sequential Monte Carlo
我们提出了内核序贯蒙特卡罗（KSMC），从静态目标密度采样的框架。KSMC是一系列序贯蒙特卡罗算法，其基于在再生核希尔伯特空间中构建当前粒子系统的仿真器模型。我们在这里重点关注目标的非线性协方差结构和梯度建模。仿真器的几何形状自适应更新，随后用于通知本地建议。与自适应马尔可夫链蒙特卡罗不同，连续自适应不会损害采样器的收敛性。KSMC结合了序贯蒙特卡罗和核方法的优点：与马尔可夫链蒙特卡罗相比，多模态目标的性能优越，能够估计模型证据，仿真器能够表示表现出高度非线性的目标。由于KSMC不需要访问目标梯度，因此它特别适用于梯度未知或过于昂贵的目标。我们描述了必要的调整细节，并展示了一系列具有挑战性的合成和现实世界的例子所提出的方法的好处。
2017-07-25 stat.CO stat.ML
Exploring multi-dimensional spaces: a Comparison of Latin Hypercube and Quasi Monte Carlo Sampling Techniques
三种抽样方法进行了比较，效率的各种复杂性的测试问题，其中解析求积。比较的方法是伪随机数的蒙特卡罗，拉丁超立方抽样，准蒙特卡罗抽样的基础上Sobol序列。一般的结果显示出优越的性能的准蒙特卡罗方法的基础上Sobol序列与理论预测。拉丁超立方抽样可以比蒙特卡罗方法和准蒙特卡罗方法更有效，但后者的不等式适用于减少的函数类型集和少量的采样点。总之，拟蒙特卡罗方法将出现最安全的赌注时，集成功能的未知类型。
2015-05-10 stat.AP stat.CO
Embarrassingly Parallel Sequential Markov-chain Monte Carlo for Large Sets of Time Series
贝叶斯计算关键依赖于马尔可夫链蒙特卡罗（MCMC）算法。在大规模数据集的情况下，运行Metropolis-Hastings采样器从后验分布中提取数据变得令人望而却步，因为每次迭代都需要计算大量的似然项。为了进行贝叶斯推断的一个大的时间序列，我们考虑了一个算法，结合了“分而治之”的想法，以前用于设计MCMC算法的大数据与顺序MCMC策略。该方法的性能说明了使用一个大的金融数据集。
2015-12-04 stat.AP stat.CO
Some Contributions to Sequential Monte Carlo Methods for Option Pricing
期权定价是金融工程中的一个重要问题。在许多具有实际意义的场景中，与标的资产相关的金融期权价格简化为计算w.r.t.~扩散过程。一般来说，这些期望值无法通过分析计算，而近似这些数量的一种方法是通过蒙特卡罗方法;蒙特卡罗方法至少从20世纪70年代开始就被用于期权定价。在Del Moral，P.\& Shevchenko，P.V.（2014）"Valuation of barrier options using序贯蒙特卡罗"和Jasra，A. \& Del Moral，P.（2011）"期权定价的序贯蒙特卡罗"，序贯蒙特卡罗（SMC）方法是应用于这种情况的自然工具，可以大大改善标准蒙特卡罗。在本文中，本着类似的精神，Del Moral，P.\& Shevchenko，P.V.（2014）"Valuation of barrier options using序贯蒙特卡罗"和Jasra，A. \& Del Moral，P.（2011）"期权定价的序贯蒙特卡罗"我们表明，通过构建一系列人工目标密度随时间的推移使用SMC方法可以实现显着收益。特别是，我们近似的最佳重要性抽样分布的SMC算法，通过使用一系列的加权函数。这是证明了两个例子，障碍期权和目标应计赎回票据（TARN的）。我们还提供了我们的SMC估计的无偏性的证明。
2016-08-11 q-fin.CP q-fin.PR stat.CO
Identifying the Optimal Integration Time in Hamiltonian Monte Carlo
通过利用光滑概率系统的自然几何结构，哈密顿蒙特卡罗产生计算效率高的马尔可夫链蒙特卡罗估计。至少在算法足够好的情况下。在本文中，我将展示如何几何基础的哈密顿蒙特卡罗隐含地确定这些参数的最佳选择，特别是积分时间。然后，我认为这些原则在现有的算法和一个新的实现称为\emph{Exhaustive Hamiltonian Monte Carlo}的实际后果，然后在一些说明性的例子证明这些想法的效用。
2016-01-02 stat.CO stat.ME
Capacity estimation of two-dimensional channels using Sequential Monte Carlo
我们推导出一种新的基于序列蒙特卡罗的算法来估计二维的【形】信道模型的容量。重点是计算2-D的一个无限游程长度有限的约束信道的无噪声容量，但基本的想法是普遍适用的。所提出的算法是针对一个国家的最先进的方法，产生超过一个数量级的改进，在给定的计算时间的估计精度。
2014-08-11 cs.IT math.IT stat.CO
Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference
Columbia University（哥伦比亚大学）
贝叶斯系统发育推断通常使用随机游走马尔可夫链蒙特卡罗（MCMC）或组合序贯蒙特卡罗（CSMC）等算法通过拓扑和分支长度上的局部或顺序搜索来进行。然而，当MCMC用于进化参数学习时，收敛需要长时间运行，状态空间的探索效率低下。我们介绍变分组合序贯蒙特卡罗（VCSMC），一个强大的框架，建立变分顺序搜索学习分布在复杂的组合结构。然后，我们开发嵌套CSMC，一个有效的建议分布CSMC和证明嵌套CSMC是一个精确的近似（棘手的）局部最优建议。我们使用嵌套的CSMC定义第二个目标，VNCSMC产生更严格的下限比VCSMC。我们表明，VCSMC和VNCSMC的计算效率和探索更高的概率空间比现有的方法在一系列的任务。
2021-06-17 cs.LG stat.CO stat.ML
Automatic Rao-Blackwellization for Sequential Monte Carlo with Belief Propagation
LJK（LJK实验室）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；ENS – PSL University（巴黎高等师范学院-巴黎文理研究大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）
针对状态空间模型精确贝叶斯推断难、基础SMC方法对复杂模型近似效果差的问题，提出结合置信传播与采样式SMC的混合推断算法，实现自动Rao-Blackwell化，对高斯树模型可获精确解。
2023-12-15 cs.LG stat.CO
Forward Smoothing using Sequential Monte Carlo
序贯蒙特卡罗（SMC）方法是一组广泛使用的用于非线性非高斯状态空间模型中的推断的计算工具。我们提出了一个新的SMC算法来递归地计算可加泛函的期望。本质上，它是Doucet等人（2000）提出的前向滤波后向平滑SMC算法的在线或仅前向实现。与标准路径空间SMC估计的渐近方差随时间平方增加，即使在有利的混合假设下，所提出的SMC估计的渐近方差只随时间线性增加。这种向前平滑过程使我们能够实现在线极大似然参数估计算法，不遭受粒子路径退化问题。
2010-12-24 stat.CO stat.ME
Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo
University of Johannesburg（约翰内斯堡大学）；University of Witwatersrand（威特沃特斯兰德大学）
机器学习中目标后验分布的马尔可夫链蒙特卡罗推断主要通过哈密顿蒙特卡罗及其变体进行。这是由于基于哈密顿蒙特卡罗的采样器抑制随机游走行为的能力。与其他马尔可夫链蒙特卡罗方法一样，哈密顿蒙特卡罗产生自相关样本，这导致估计量的高方差，以及所生成样本的低有效样本量率。先前已经证明，与普通哈密顿蒙特卡罗相比，向哈密顿蒙特卡罗添加对偶采样可以产生更高的有效采样率。在本文中，我们提出了新的算法，这是对立的版本的黎曼流形哈密顿蒙特卡罗和量子启发哈密顿蒙特卡罗。黎曼流形哈密顿蒙特卡罗算法通过考虑目标的局部几何形状来改进哈密顿蒙特卡罗，这对于可能在参数中表现出强相关性的目标密度是有益的。受量子启发的哈密顿蒙特卡罗是基于可以具有随机质量的量子粒子。量子启发的哈密顿蒙特卡罗使用随机质量矩阵，这导致比哈密顿蒙特卡罗更好的采样尖峰和多模态分布，如跳跃扩散过程。使用真实世界的金融市场数据的跳跃扩散过程进行分析，以及使用贝叶斯逻辑斯谛回归的真实世界的基准分类任务。
2021-07-05 cs.LG stat.CO stat.ML
Introducing Monte Carlo Methods with R Solutions to Odd-Numbered Exercises
这是我们的书“Introducing蒙特卡罗Methods with R”中奇数练习的解决方案手册，由Springer Verlag于2009年12月10日出版，并免费提供给每个人。
2010-01-17 stat.CO stat.ME
Combining Normalizing Flows and Quasi-Monte Carlo
本文提出将拟蒙特卡洛采样与归一化流相结合，用拟蒙特卡洛采样流的初始分布，实验表明该组合估计量方差显著低于经典蒙特卡洛采样。
2024-01-11 stat.CO stat.ML
A Note on Random Walks with Absorbing barriers and Sequential Monte Carlo Methods
在这篇文章中，我们考虑重要性抽样（IS）和序贯蒙特卡罗（SMC）方法的背景下，1-维随机游动吸收障碍。特别是，我们开发了一个非常精确的方差分析几个IS和SMC程序。我们利用这些模型的一些显式的谱公式，得到尖锐和明确的估计，这提供了相关的规范化Feynman-Kac半群的稳定性。我们的分析允许一个比较SMC和IS技术对这些模型的方差。本文中的工作，是为数不多的考虑一个深入分析的SMC方法为一个特定的模型类型，以及方差比较SMC算法。
2016-11-10 math.PR stat.CO
Sequential Monte Carlo with transformations
本文介绍了在不同维数的空间上对后验序列顺序进行贝叶斯推断的方法。我们展示了如何通过使用序贯蒙特卡罗（SMC）采样器来实现这一点（Del Moral等人，2006年，2007年），充分利用这个框架的灵活性，以便该方法是计算效率。特别是，我们介绍了使用确定性变换的创新，有效地移动粒子之间的目标分布与不同的尺寸。这种方法，结合自适应方法，产生一个非常灵活和通用的算法贝叶斯模型比较，适用于在可逆跳马尔可夫链蒙特卡罗（RJMCMC）的接受率低的应用程序中使用。我们证明了这种方法的混合模型模型比较的研究问题，并为新的应用程序推断合并树顺序，数据到达。
2019-09-11 stat.AP stat.CO stat.ME
Sequential Monte Carlo on large binary sampling spaces
如果蒙特卡罗算法使用过去的模拟自动校准其当前的建议分布，则称其为自适应的。定义建议分布集的参数族的选择对于良好的性能至关重要。在本文中，我们提出了这样一个参数族的自适应采样高维二进制空间。这个问题的一个实际动机是变量选择在线性回归上下文中。我们希望使用适当版本的序贯蒙特卡罗从模型空间上的贝叶斯后验分布中采样。原始版本的序贯蒙特卡罗很容易使用具有独立分量的二进制向量实现。然而，对于高维问题，这些简单的建议并不能产生令人满意的结果。一个有效的自适应算法的关键是考虑相关性的二元参数族，类似于连续空间上的多元正态分布。我们提供了二进制数据的模型的审查，并使其中之一的顺序蒙特卡罗抽样的上下文中工作。对大约100个协变量的真实数据的计算研究表明，在困难的情况下，我们的序贯蒙特卡罗方法明显优于基于马尔可夫链探索的标准技术。
2011-11-09 math.ST stat.CO stat.ME
Variational Sequential Monte Carlo
大规模概率推理的许多最新进展依赖于变分方法。变分方法的成功取决于（i）制定一个灵活的参数分布族，以及（ii）优化参数，以找到这个家族中最接近精确后验的成员。在本文中，我们提出了一个新的近似家庭的分布，变分序贯蒙特卡罗（VSMC）家庭，并显示如何优化它的变分推断。VSMC融合了变分推断（VI）和序贯蒙特卡罗（SMC），为从业者提供灵活，准确和强大的贝叶斯推断。VSMC族是一个变分族，可以任意地近似后验，同时仍然允许其参数的有效优化。我们展示了它在状态空间模型，金融数据的随机波动模型和大脑神经回路的深度马尔可夫模型上的实用性。
2018-02-21 stat.CO stat.ME stat.ML
A review of sequential Monte Carlo methods for real-time disease modeling
本文综述了序贯蒙特卡洛方法在实时动态疾病建模中的应用，结合SEIR模型与核密度逼近技术，证明了其在在线推断和时变参数监测上的有效性，为公共卫生干预提供支持。
2024-08-28 math.DS q-bio.PE stat.CO
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗（SMC）算法，只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的，当目标分布是多模态和全球混合的马尔可夫内核是缓慢的，在这种情况下，我们的方法建立了相应的马尔可夫链蒙特卡罗（MCMC）估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望，并表明SMC提供了一个完全多项式时间的随机逼近方案，一些困难的多峰问题，相应的马尔可夫链采样器是指数缓慢。最后，我们比较我们的方法得到的边界，现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
Sequential Monte Carlo Methods for System Identification
在识别非线性和可能的非高斯状态空间模型（SSM）的关键挑战之一是估计系统状态的棘手性。序贯蒙特卡罗（SMC）方法，例如粒子滤波器（二十多年前引入），为SSM中出现的非线性状态估计问题提供数值解。当与其他识别技术相结合时，这些算法为非线性系统识别问题提供了坚实的解决方案。我们描述了两个一般的战略，创造这样的组合，并讨论为什么SMC是一个自然的工具，实施这些战略。
2016-03-10 math.OC stat.CO stat.ML
Sequential Monte Carlo Samplers for capital allocation under copula-dependent risk models
在本文中，我们假设一个多变量风险模型已经开发的投资组合和它的资本作为一个齐次风险度量。因此，欧拉（或梯度）原理指出，要分配给投资组合每个组成部分的资本必须作为一个以罕见事件为条件的预期来计算，这在实践中可能具有挑战性。我们利用投资组合风险中的Copula依赖性，设计了一个基于序贯蒙特卡罗采样器的边际条件期望估计，并通过一系列计算实例说明了其有效性.
2015-02-17 q-fin.RM stat.AP stat.CO
Quasi-Newton Sequential Monte Carlo
序贯蒙特卡罗采样器代表了贝叶斯模型中后验推断的一种引人注目的方法，因为它是可并行的，并且提供了后验归一化常数的无偏估计。在这项工作中，我们显着加快序贯蒙特卡罗采样器采用L-BFGS海森近似，代表了国家的最先进的全批量优化技术。L-BFGS Hessian近似在参数维度上仅具有线性复杂度，并且不需要额外的后验或梯度评估。由此产生的序贯蒙特卡罗算法是自适应的，并行化的，非常适合于高维和多模态的设置，我们证明在具有挑战性的后验分布的数值实验。
2022-11-22 stat.ME
Bayesian Detectability of Induced Polarisation in Airborne Electromagnetic Data using Reversible Jump Sequential Monte Carlo
在航空电磁（AEM）测量中检测感应极化（IP）效应还没有一个既定的方法。这一贡献开发了一种贝叶斯方法的IP-检测问题，使用解耦transdimensional分层模型，并适用于一种新的方法，其中transdimensional的建议是使用内的并行和强大的静态序贯蒙特卡罗（SMC）类算法的参数和模型的同时推理物理。尽管将该算法称为可逆跳跃序贯蒙特卡罗（RJSMC），但对该算法的统计方法贡献考虑了多个模型和建议类型的适应性考虑，特别是不太可能模型中的周围粒子扩散。固体地球物理学方法的贡献包括解耦模型的方法和建议的统计，使用后验模型的IP检测几率。一个案例研究包括调查IP效应的AEM数据在广泛的规模检测。
2021-09-02 physics.geo-ph stat.AP stat.CO
Sequential Markov Chain Monte Carlo
我们提出了一个顺序的马尔可夫链蒙特卡罗（SMCMC）算法，从一个序列的概率分布，对应于后验分布在不同的时间在在线应用中进行采样。SMCMC与通常的MCMC一样进行，但每次新数据到达时都会适当更新静态分布。SMCMC在避免粒子简并问题方面优于顺序蒙特卡罗（SMC）。我们提供了理论保证SMCMC的边际收敛在各种设置下，包括参数和非参数模型。所提出的方法相比，竞争对手在模拟研究。我们还考虑了在线非参数回归的应用。
2013-08-18 math.ST stat.TH
Sequential Monte Carlo for fractional Stochastic Volatility Models
本文考虑了一个分数阶随机波动率模型，即波动率具有长程依赖或粗糙/反持续行为的模型。我们提出了一个动态的序贯蒙特卡罗方法，是适用于长记忆和反持续过程，以估计波动率以及未知参数的模型。我们建立了状态和参数滤波器的中心极限定理，并研究了滤波器的渐近性质（一致性和渐近正态性）。我们说明了我们的结果与模拟研究，我们应用我们的方法来估计波动率和参数的长期依赖模型的标准普尔500指数的数据。
2017-02-25 math.ST stat.CO stat.ME
Sequential Monte Carlo Bandits
Pipewave Inc.（Pipewave公司）；Harvard University（哈佛大学）
在本文中，我们提出了一个灵活而有效的框架来处理多武装匪徒，结合序贯蒙特卡罗算法与分层贝叶斯建模技术。该框架自然包括不安分的土匪，上下文土匪，和其他土匪变种下一个单一的推理模型。尽管该模型的一般性，我们提出了有效的蒙特卡罗算法，使推理可扩展性，基于最近的发展序贯蒙特卡罗方法。通过两个模拟研究，该框架被证明优于其他经验方法，同时也自然扩展到更复杂的问题，现有的方法无法应付。此外，我们成功地将我们的框架应用于基于在线视频的广告推荐，并显示其提高的效率相比，目前的最先进的强盗算法。
2013-10-04 cs.LG stat.ME stat.ML
Auto-Encoding Sequential Monte Carlo
我们建立在自动编码序贯蒙特卡罗（AESMC）：模型和建议学习的基础上，最大限度地提高了一个广泛的家庭的结构化概率模型的对数边际似然下界的方法。我们的方法依赖于序贯蒙特卡罗（SMC）在结构化概率模型中执行推理的效率，以及深度神经网络对复杂条件概率分布建模的灵活性。我们开发了更多的理论见解，并引入了一个新的训练过程，提高了模型和建议学习。我们证明了我们的方法为深度生成模型中的同时模型学习和建议适应提供了一种快速，易于实现和可扩展的方法。
2018-04-05 stat.ML
The Convergence of Markov chain Monte Carlo Methods: From the Metropolis method to Hamiltonian Monte Carlo
从20世纪50年代开始到应用统计学的现代前沿，马尔可夫链蒙特卡罗一直是统计计算中最普遍和最成功的方法之一。在这段时间里，它的发展受到越来越困难的问题和物理学新技术的推动。在这篇文章中，我将回顾马尔可夫链蒙特卡罗的历史，从一开始的大都会方法，今天的国家的最先进的哈密顿蒙特卡罗。在此过程中，我将专注于该方法的统计和物理观点之间不断发展的相互作用。
2018-01-10 physics.hist-ph stat.ME
