Scalable MCMC for Mixed Membership Stochastic Blockmodels
University of Southern California（南加州大学）；University of Montreal（蒙特利尔大学）；University of Amsterdam（阿姆斯特丹大学）
提出了一种随机梯度马尔可夫链蒙特卡罗（SG-MCMC）算法，用于混合成员随机块模型（MMSB）的可扩展推理.我们的算法是基于随机梯度黎曼Langevin采样器，并实现了更快的速度和更高的精度，在每一次迭代比目前的国家的最先进的算法的基础上随机变分推理。此外，我们开发了一个近似，可以处理的模型，招待了大量的社区。实验结果表明，SG-MCMC严格优于竞争算法在所有情况下。
2015-10-22 cs.LG stat.ML
Sequential Markov Chain Monte Carlo for Filtering of State-Space Models with Low or Degenerate Observation Noise
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；University College London（伦敦大学学院）；Imperial College London（帝国理工学院）
研究观测噪声退化或低时的离散时间滤波问题，通过推导滤波密度及递推关系，设计序贯马尔可夫链蒙特卡罗方法，证明低噪声情况在噪声消失时收敛到退化噪声情况，并在随机模型上展示了方法性能。
2026-07-22 stat.CO
Compressed Monte Carlo with application in particle filtering
贝叶斯模型在过去几年中在诸如信号处理、统计学和机器学习等若干领域中变得非常流行。贝叶斯推断需要对涉及后验分布的复杂积分进行近似。为此，经常采用蒙特卡罗（MC）方法，例如马尔可夫链蒙特卡罗和重要性抽样算法。在这项工作中，我们介绍的理论和实践的压缩MC（C-MC）计划压缩的统计信息包含在一组随机样本。在其基本版本中，C-MC与分层技术严格相关，分层技术是一种用于减少方差的众所周知的方法。确定性的C-MC方案，提供了非常好的性能。压缩问题与应用于不同滤波技术的矩匹配方法严格相关，通常称为高斯求积规则或西格玛点方法。C-MC可以在分布式贝叶斯推断框架中使用，当需要与中央处理器进行廉价且快速的通信时。此外，C-MC是有用的粒子滤波和自适应IS算法，如在这项工作中介绍的三个新的计划。六个数值结果证实了所介绍的计划的好处，优于相应的基准方法。还提供了相关代码。
2021-07-18 cs.CE stat.CO stat.ML
Sequential quasi-Monte Carlo: Introduction for Non-Experts, Dimension Reduction, Application to Partly Observed Diffusion Processes
SMC（序贯蒙特卡罗）算法是求解滤波及相关序列问题的一类蒙特卡罗算法。Gerber和Chopin（2015）介绍了SQMC（顺序准蒙特卡罗），SMC的QMC版本。本文件有两个目标：（a）将序贯蒙特卡罗引入QMC社区，该社区的成员通常不太熟悉状态空间模型和粒子滤波;（b）将SQMC扩展到连续时间状态空间模型的滤波，其中潜在过程是扩散。本文中反复出现的一点是降维的概念，即如何实现SQMC，尽管问题的维数很高，但它仍然提供了良好的性能。
2017-06-16 stat.CO
Bayesian Trend Filtering via Proximal Markov Chain Monte Carlo
近似马尔可夫链蒙特卡罗是贝叶斯计算和凸优化的交叉点，它有助于推广贝叶斯统计中不可微先验的使用。然而，现有的近端MCMC公式需要预先指定超参数和正则化参数。在这项工作中，我们通过引入一类新的不可微先验称为epigraph先验扩展了近端MCMC的范例。作为概念的证明，我们将趋势过滤，这本来是一个非参数回归问题，在参数设置提供后验中值拟合连同可信区间作为不确定性的措施。其关键思想是用Moreau-Yosida包络代替后验密度中的非光滑项，这使得基于梯度的MCMC采样器哈密顿蒙特卡罗的应用成为可能。所提出的方法以数据驱动的方式识别适当的平滑量，从而自动化正则化参数选择。与传统的近端MCMC方法相比，我们的方法主要是调整自由，实现了同时校准的均值，规模和正则化参数在一个完全贝叶斯框架。本文的补充材料可在网上查阅。
2023-01-21 stat.CO
The Application of Zig-Zag Sampler in Sequential Markov Chain Monte Carlo
Meiji University（明治大学）
粒子滤波方法广泛应用于非线性非高斯状态空间模型的序贯状态估计中。然而，传统的粒子滤波方法在高维状态空间模型中存在权值退化的问题。目前，在高维状态空间模型下，有很多方法可以提高粒子滤波的性能。其中，比较先进的方法是通过实现复合大都市-哈希（MH）核来构造顺序马尔可夫chian蒙特卡罗（SMCMC）框架。在本文中，我们提出了离散的Zig-Zag采样器和应用Zig-Zag采样器在SMCMC框架内的复合MH核的细化阶段，实现了在联合绘制阶段的可逆粒子流。我们评估所提出的方法的性能，通过具有挑战性的复杂的高维滤波的例子的数值实验。数值实验表明，在高维状态估计算例中，与现有滤波方法相比，该方法提高了估计精度，提高了接收率。
2021-11-18 cs.LG stat.AP stat.CO
Localization in High-Dimensional Monte Carlo Filtering
大规模地球物理应用中滤波问题的高维性和计算量的限制对粒子滤波器（PF）提出了挑战。因此，近似但有效的方法，如Envelope卡尔曼滤波器（EnKF）通常是首选。这些近似方法的一个关键要素是局部化，这在原则上是一种避免维数灾难的通用技术，并且包括将观测的影响限制在相邻站点。然而，虽然它与EnKF有效地工作，但当盲目地应用于PF时，定位在估计的物理场中引入了有害的不连续性。在本文中，我们探索了两种可能的基于EnKPF的局部算法，一种混合方法相结合的EnKF和PF。在共轭正常设置的模拟研究允许突出的贸易-在高维环境中将本地化应用于PF类型的算法时所涉及的问题。Lorenz 96模型的实验表明，即使与问题大小相比，粒子数较少，局部EnKPF算法也能表现良好。
2016-12-22 nlin.CD physics.ao-ph stat.CO
Filtering with State-Observation Examples via Kernel Monte Carlo Filter
本文讨论了状态空间模型的滤波问题。用于过滤的标准方法假设观测的概率模型（即观测模型）被明确地或至少参数化地给出。我们考虑一个设置，这个假设是不满足的，我们假设的观测模型的知识只提供了状态观测对的例子。此设置很重要，当状态变量被定义为与观测值非常不同的量时会出现。我们提出核蒙特卡罗滤波器，一种新的过滤方法，是集中在这种设置。我们的方法是基于核均值嵌入的框架，这使得非参数后验推理使用状态观测的例子。该方法将状态分布表示为加权样本，通过采样传播这些样本，利用核贝叶斯规则估计状态后验，并通过核羊群重新采样。特别是，采样和重新采样的过程是新颖的，在使用核均值嵌入表示，所以我们从理论上分析他们的行为。我们揭示了以下性质，这是类似的粒子方法中的相应程序：（1）采样的性能可以降低，如果有效的样本量加权样本是小的;（2）重新采样提高采样性能，通过增加有效的样本量。我们首先证明这些理论研究结果的合成实验。然后，我们通过人工和真实数据的实验，其中包括基于视觉的移动机器人定位的有效性所提出的过滤器。
2015-10-22 stat.ML
Limit theorems for weighted samples with applications to Sequential Monte Carlo Methods
在过去的十年中，序列蒙特卡罗方法（SMC）成为计算统计学中的一个关键工具。这些算法通过与加权粒子群相关联的加权经验测量序列来近似分布序列。这些粒子和权重是根据初等变换（突变和选择）递归生成的。应用程序的例子包括顺序蒙特卡洛技术来解决最佳的非线性滤波问题的状态空间模型，分子模拟，遗传优化等，尽管许多理论上的进步，这些近似的渐近性质当然仍然是一个问题的中心利益。本文从渐近的角度分析了序贯蒙特卡罗方法，即建立了粒子数变大时的大数定律和不变原理。我们引入了“加权样本”的一致性和渐近正态性的概念，并推导出条件下的突变和选择过程中使用的顺序蒙特卡洛建立保持这些属性。为了说明我们的研究结果，我们分析SMC算法近似状态空间模型中的过滤分布。我们展示了我们的技术如何允许放宽限制性的技术条件，在以前报道的作品，并提供理由来分析更复杂的序贯抽样策略。
2005-07-03 math.PR math.ST stat.TH
Monte Carlo non local means: Random sampling for large-scale image filtering
Harvard University（哈佛大学）
我们提出了一个随机版本的非局部均值（NLM）算法的大规模图像滤波。新算法，称为蒙特卡罗非局部均值（MCNLM），加快了经典的NLM通过计算一个小的子集的图像补丁的距离，这是随机选择的，根据设计的采样模式。我们做了两个贡献。首先，我们分析了MCNLM算法的性能，并表明，对于大型图像或大型外部图像数据库，MCNLM的随机结果紧密集中在确定性的完整NLM结果周围。特别是，我们的错误概率界表明，在任何给定的采样率，概率MCNLM有一个大的偏差，从原来的NLM解决方案呈指数衰减的图像或数据库的大小增长。其次，我们推导出明确的公式，最佳的抽样模式，最大限度地减少错误概率的限制，利用部分知识的成对相似性权重。数值实验表明，MCNLM是具有竞争力的其他国家的最先进的快速NLM算法的单图像去噪。当应用于使用包含100亿个补丁的外部数据库对图像进行去噪时，MCNLM返回的随机化解决方案与完整NLM解决方案相差0.2 dB，同时将运行时间减少了三个数量级。
2014-05-14 cs.CV stat.CO
Iterated filtering
部分观测马尔可夫过程模型的推理一直是一个长期存在的方法挑战，许多科学和工程应用。迭代滤波算法通过求解滤波问题的递归序列来最大化部分观测马尔可夫过程模型的似然函数。我们提出了新的理论成果有关的迭代滤波算法的收敛性，通过顺序蒙特卡罗滤波器实现。这一理论补充了越来越多的经验证据，迭代过滤算法提供了一个有效的推理策略的非线性动态系统的科学模型。在我们的理论的第一步涉及研究一种新的递归方法，最大化的似然函数的潜在变量模型，当这种可能性是通过重要性抽样评估。这导致考虑迭代重要性采样算法，其用作迭代滤波的简单特殊情况，并且可能具有其自身的适用性。
2012-11-22 math.ST stat.TH
Streaming Variational Monte Carlo
Stony Brook University（石溪大学）
针对流式非线性状态空间模型中状态与动力学联合推断难题，提出结合变分推断和序贯蒙特卡洛的在线贝叶斯滤波框架，并用稀疏高斯过程建模潜在动力学，实现恒定时间复杂度。
2021-11-08 cs.LG stat.ML
Calibration and filtering for multi factor commodity models with seasonality: incorporating panel data from futures contracts
我们研究了一个通用的多因子模型的商品现货价格和期货估价。本文对Schwartz和Smith（2000）及Yan（2002）的多因素多空模型进行了两个重要方面的扩展：首先，我们考虑了长期和短期动态因素的均值回复，并加入了随机波动率因素;然后，Milstein离散化的非线性随机波动率状态空间表示的模型，允许在观察方程的期货和期权合约。然后，我们开发了一个先进的顺序蒙特卡罗算法的基础上，利用粒子马尔可夫链蒙特卡罗进行校准的模型与过滤的潜在过程的长期-短期的动态和波动性因素的数值方法。在这方面，我们探索和开发一种新的方法的基础上，自适应Rao-Blackwellised版本的粒子马尔可夫链蒙特卡罗方法。在这样做时，我们准确地处理非线性的状态空间模型，因此引入到过滤框架。我们对石油商品的合成和真实数据进行分析。
2011-05-30 q-fin.CP q-fin.ST stat.CO
Convergence of Sequential Quasi-Monte Carlo Smoothing Algorithms
Gerber和Chopin（2015）最近引入了序列准蒙特卡罗（SQMC）算法，作为在状态空间模型中执行滤波的有效方法。其基本思想是用低偏差点集代替随机变量，从而获得比标准粒子滤波更快的收敛速度。Gerber和Chopin（2015）简要描述了几种将SQMC扩展到平滑的方法，但没有为这种扩展提供支持理论。我们将更彻底地讨论如何平滑可以在SQMC内进行，并得出收敛结果，因此获得的平滑算法。我们特别考虑SQMC等价的前向平滑和前向滤波后向采样，这是最知名的平滑技术。作为第一步，我们推广了Hlawka和Mück（1972）关于非均匀分布下QMC点集到低偏差点集的变换的经典结果.作为后者的推论，我们注意到，我们可以稍微削弱的假设，以证明SQMC的一致性。
2015-06-19 stat.CO
Langevin and Hamiltonian based Sequential MCMC for Efficient Bayesian Filtering in High-dimensional Spaces
非线性非高斯状态空间模型出现在统计和信号处理的许多应用中。在这种情况下，最成功和最流行的近似技术之一是序贯蒙特卡罗（SMC）算法，也称为粒子滤波。然而，这种方法往往是低效的，当应用于高维问题。在本文中，我们专注于另一类顺序推理方法，即顺序马尔可夫链蒙特卡罗（SMCMC）技术，这是一个很有前途的替代SMC方法。在为SMCMC方法提供了一个统一的框架后，我们提出了基于Langevin扩散和Hamilton动力学原理的新的有效策略，以应对越来越多的高维应用。仿真结果表明，所提出的算法实现了显着更好的性能相比，现有的算法。
2015-10-29 stat.AP stat.CO
Multilevel ensemble Kalman filtering
University of Oslo（奥斯陆大学）；KAUST（阿卜杜拉国王科技大学）；Oak Ridge National Laboratory（橡树岭国家实验室）
本文将多级蒙特卡洛采样策略引入集合卡尔曼滤波的蒙特卡洛步骤中，针对有限维信号演变和噪声离散时间观测，通过多级时间网格实现SDE的多级数值积分，证明多级EnKF在计算成本与近似精度方面优于传统EnKF。
2016-06-28 cs.NA math.NA math.PR
Structured Filtering
现有的序贯蒙特卡罗方法在物理参数估计中面临的一个主要挑战是，现有的方法无法鲁棒地处理具有不同机制的实验，这些实验产生的结果具有相同的概率。我们在这里解决这个问题，提出了一种形式的粒子滤波，集群的粒子，包括顺序蒙特卡洛近似的后应用重采样器之前。通过一种新的图形化方法来思考这些模型，我们能够设计一种基于人工智能的策略，该策略可以自动学习聚类的形状和数量，以支持后验。我们通过将其应用于随机间隙估计和低电路深度相位估计的形式来展示我们的方法的能力，其中物理文献中的现有方法表现出更差的性能甚至完全失败。
2016-12-01 quant-ph stat.CO
Online Rolling Controlled Sequential Monte Carlo
本研究提出ORCSMC算法，通过滚动窗口将受控序贯蒙特卡洛扩展至在线场景，用双粒子系统同步估计扭曲函数与滤波，在多模型实验中验证了其高维下更优的估计精度与鲁棒性，为复杂隐变量模型实时推断提供高效方案。
2025-08-01 stat.CO
Sequential Kernel Herding: Frank-Wolfe Optimization for Particle Filtering
INRIA（法国国家信息与自动化研究所）；École Normale Supérieure（巴黎高等师范学院）；University of Cambridge（剑桥大学）
最近，Frank-Wolfe优化算法被建议作为一种程序，以获得再生核希尔伯特空间（RKHS）中函数积分的自适应求积规则，其收敛速度可能比蒙特卡罗积分更快（并且“核羊群”被证明是该程序的特殊情况）。本文提出用Frank-Wolfe优化方法代替粒子滤波器中的随机采样步骤。通过优化粒子的位置，我们可以获得比随机或准蒙特卡罗采样更好的精度。在发射概率的评估是昂贵的应用中（例如在机器人定位中），通过优化生成粒子的额外计算成本是合理的。标准合成的例子，以及对机器人定位任务的实验表明，确实提高了随机和准蒙特卡罗采样的精度。
2015-02-10 cs.LG stat.ML
Characterizing Membership Privacy in Stochastic Gradient Langevin Dynamics
Peking University（北京大学）；Ant Financial Service Group（蚂蚁金融服务集团）；IBM Reseach（IBM研究）；HongKong University of Science and Technology（香港科技大学）
贝叶斯深度学习最近被认为是表征深度神经网络~（DNN）权重不确定性的内在方法。随机梯度朗之万动力学（SGLD）是一种在大规模数据集上实现贝叶斯深度学习的有效方法。以前的理论研究已经显示出各种吸引人的性质SGLD，从收敛性的推广界。在本文中，我们从成员隐私保护的新角度研究了SGLD的属性（即，防止成员攻击）。成员攻击旨在确定特定样本是否用于训练给定的DNN模型，已成为深度学习算法的常见威胁。为此，本文构建了一个分析信息泄漏的理论框架。训练数据集）。基于该框架，我们证明了SGLD可以在一定程度上防止训练数据集的信息泄漏。此外，我们的理论分析可以自然地扩展到其他类型的随机梯度马尔可夫链蒙特卡罗（SG-MCMC）方法。在不同数据集和模型上的实验结果验证了我们的理论研究结果，并表明SGLD算法不仅可以减少信息泄漏，而且可以提高DNN模型在实际应用中的泛化能力。
2019-10-05 cs.LG stat.ML
Nonlinear Kalman Filtering with Divergence Minimization
我们考虑的非线性卡尔曼滤波问题使用Kullback-Leibler（KL）和$α$ -发散措施作为优化准则。与线性卡尔曼滤波器不同，非线性卡尔曼滤波器不具有封闭形式的高斯后验，因为由于似然中的非线性而缺乏共轭性。在本文中，我们提出了新的算法来优化的前向和反向形式的KL分歧，以及α发散，其中包含这两个作为限制的情况下。与以前的方法不同，我们的算法不进行近似的发散被优化，但使用蒙特卡罗积分技术，以获得无偏算法直接优化。我们评估性能的雷达和传感器跟踪，和期权定价问题，表现出普遍的改善UKF和EKF，以及竞争力的性能与粒子滤波。
2017-05-01 math.OC stat.ML
Safety of particle filters: Some results on the time evolution of particle filter estimates
University of Bristol（布里斯托大学）
本文研究了粒子滤波器估计时间演化的安全性，证明了其在某些条件下无法保证估计精度，并展示了顺序准蒙特卡洛方法在安全性和精度上的优势。
2026-01-27 math.ST stat.TH
Probability measure changes in Monte Carlo simulation
贝叶斯推断的目的通常是从数据中推断出随机变量的概率测度，该概率测度可用作蒙特卡罗模拟的输入。当贝叶斯推断的数据集很小时，一个主要的挑战是，随着收集额外的数据，从贝叶斯推断推断出的概率测度可能会发生显著变化。也就是说，从贝叶斯推断推断出的原始概率密度可以在其模型形式和参数上与更新的概率密度显著不同。在这种情况下，可能已经使用原始分布执行了昂贵的蒙特卡罗模拟，并且由于大量增加的计算成本，再次开始并使用更新的密度执行新的蒙特卡罗分析是不可行的。在这项工作中，我们讨论了四种策略更新蒙特卡罗模拟这样的变化概率测度：1。重要性抽样重新加权; 2.样本扩增策略; 3.样本过滤策略;以及4.一种混合增广-过滤策略。每种策略的效率进行了比较，最终的目标是以最少的增加计算模拟的数量来实现分布的变化。比较结果表明，在测度变化较小的情况下，重要性抽样重加权是非常有效的。另外，提出了一种新的混合增广滤波算法，该算法能够鲁棒有效地适应蒙特卡罗模拟中的测度变化，最大限度地减少了对样本集的影响，并节省了大量的额外计算成本。该策略，然后应用于不确定性量化的屈曲强度的一个简单的板给定正在进行的数据收集，以估计屈服应力的不确定性。
2018-03-28 stat.CO
Semi-independent resampling for particle filtering
在序贯蒙特卡罗（SMC）方法中，采样重要性恢复（SIR）算法是基于重要性抽样（IS）和一些基于重采样的抗衰算法的。然而，无论使用哪种重新排序技术，当应用于信息或高维模型时，这种机制往往是不够的。在本文中，我们重新审视的振兴机制，并提出了一类参数化的SIR为基础的解决方案，使调整计算成本和统计性能之间的权衡。
2017-10-15 stat.CO
Efficient Monte Carlo sampling by parallel marginalization
提出利用快速平衡的粗粒度马尔可夫链与全链交换以克服自相关时间长的问题，并通过随机微分方程的桥采样和滤波/平滑问题数值测试验证。
2007-01-20 cs.NA math.NA math.ST
Particle Filtering for Stochastic Navier-Stokes Signal Observed with Linear Additive Noise
我们考虑一个非线性滤波问题，即信号服从随机Navier-Stokes方程，并通过加性噪声的线性映射进行观察。该装置与数值天气预报和气候建模的数据同化有关，其中类似的模型用于未知的海洋或风速。我们提出了一种粒子滤波方法，使用似然通知的重要性建议，自适应回火，和少量的适当的马尔可夫链蒙特卡罗步骤。我们为每个步骤提供了详细的设计，并在我们的数值示例中显示，它们对于实现良好的性能和效率都至关重要。
2018-04-09 stat.CO
Variance estimation for Sequential Monte Carlo Algorithms: a backward sampling approach
针对粒子滤波和平滑的在线渐近方差估计问题，提出基于后向权重的新估计器及受PaRIS算法启发的高效估计器，提升了稳定性并降低了方差。
2023-01-02 stat.ME
Black-Box Membership Inference via Word-Level Probability Estimation
The Hong Kong Polytechnic University（香港理工大学）
针对仅暴露文本续写的专有大模型，提出基于词级概率估计的黑盒成员推断方法WPMIA，通过蒙特卡洛采样和前缀条件似然放大成员差异，在开源和专有模型上优于现有基线。
2026-09-11 cs.CR cs.LG stat.ML
Decentralized, Adaptive, Look-Ahead Particle Filtering
University of British Columbia（不列颠哥伦比亚大学）
分散式粒子滤波器（DPF）是近年来提出的一种提高粒子滤波并行性的方法。给定将状态空间分解成两个嵌套的变量集合，DPF使用粒子滤波器对第一集合进行采样，然后对该样本进行调节以生成第二变量集合的样本集合。DPF可以理解为流行的Rao-Blackwellized粒子滤波器（RBPF）的变体，其中第二步使用蒙特卡罗近似而不是分析推理来执行。因此，DPF的应用范围比RBPF的应用范围更广。本文从两个方面对DPF进行了改进。首先，我们推导出一个蒙特卡罗近似的最佳建议分布，因此，设计和实现一个更有效的前瞻DPF。虽然分散式过滤器最初的设计是利用并行实现，我们表明，前瞻性DPF可以优于标准的粒子滤波器，即使在一台机器上。其次，我们提出使用强盗算法来自动配置DPF的状态空间分解。
2012-03-12 cs.LG stat.CO stat.ML
Toward Practical N2 Monte Carlo: the Marginal Particle Filter
University of British Columbia（不列颠哥伦比亚大学）
序贯蒙特卡罗技术对于非线性、非高斯动态模型中的状态估计是有用的。这些方法使我们能够使用顺序重要性抽样来近似联合后验分布。在该框架下，目标分布的维数随着时间步长的增加而增加，因此需要引入一些重新估计步骤来保证算法提供的估计值具有合理的方差。在许多应用中，我们只对定义在固定维数空间上的边缘滤波分布感兴趣。我们提出了一个序贯蒙特卡罗算法称为边缘粒子滤波器，直接操作的边缘分布，从而避免了必须执行重要性抽样的空间上不断增长的维度。利用这一思想，我们还得到了一个改进的版本的辅助粒子滤波器。我们展示了理论和经验的结果，表明减少方差比传统的粒子滤波，并提出了技术，用于减少成本的边际粒子滤波器与N个粒子从O（N2）到O（N logN）。
2012-07-04 cs.LG stat.CO stat.ML
Riemann-Langevin Particle Filtering in Track-Before-Detect
检测前跟踪（TBD）是一种功能强大的方法，它直接为跟踪器提供传感器测量值，而无需预先检测。由于测量模型的非线性，TBD中的在线状态估计最常通过粒子滤波来解决。现有的用于TBD的粒子滤波器不将测量信息并入其建议分布中。朗之万蒙特卡罗（LMC）是一种采样方法，其建议是能够利用所有可用的知识后（即，先验和测量信息）。这封信综合了最新的进展，基于LMC滤波描述黎曼-朗之万粒子滤波器，并介绍了其新的应用TBD。我们的方法的好处是在一个具有挑战性的低噪音的情况下说明。
2017-05-03 stat.AP stat.CO
A multifidelity approximate Bayesian computation with pre-filtering
School of Statistics and Data Science, Nankai University（南开大学统计与数据科学学院）；Institute of Mathematical Sciences, ShanghaiTech University（上海科技大学数学科学研究所）
本文提出了一种基于多保真度模拟模型的近似贝叶斯计算方法，通过预过滤分层重要性采样算法提高计算效率，并提供评估多保真度模型适用性的实用策略。
2026-02-02 stat.CO
Accelerate iterated filtering
在部分观测马尔可夫过程模型（POMP）的基于模拟的推断中，蒙特卡罗滤波的副产品是对数似然函数的近似。最近，迭代滤波[14，13]最初已经被引入，并且已经表明对数似然的梯度也可以近似。因此，可以应用不同的随机最优化算法来估计底层模型的参数。由于加速梯度是优化文献中的一种有效方法，我们证明了我们可以以相同的方式加速迭代滤波，并在放松无偏梯度近似的限制条件的同时继承了高收敛速度。我们表明，这种新的算法可以适用于凸和非凸的日志似然函数。此外，这种方法在玩具示例和传染病建模的挑战性科学问题中大大优于大多数其他先前的方法。
2018-02-23 stat.ME
Application of Sequential Quasi-Monte Carlo to Autonomous Positioning
序贯蒙特卡罗算法（也称为粒子滤波器）是用于近似状态空间模型的滤波（和相关）分布的流行方法。然而，它们以缓慢的$1/\sqrt{N}$速率收敛，这在实时数据密集型场景中可能是一个问题。我们简要介绍了SQMC（顺序准蒙特卡罗），这是基于Gerber和Chopin（2015）提出的低差异点集的SMC变体，它以更快的速度收敛，我们说明了SQMC在自主定位问题上的更高性能。
2015-03-05 stat.CO
Monte Carlo fixed-lag smoothing in state-space models
本文提出了一种算法，蒙特卡罗固定滞后平滑的状态空间模型定义的扩散过程中观察到的噪声离散时间的测量。基于粒子近似的过滤和平滑分布，该方法依赖于条件扩散的模拟技术。建议的顺序平滑器可以应用于一般的非线性和多维模型，如环境应用中使用的。作为一个实际的例子，在高维背景下的湍流的平滑。
2013-10-04 stat.AP
Parallel marginalization Monte Carlo with applications to conditional path sampling
蒙特卡罗采样方法经常遭受长的相关时间。因此，这些方法必须运行多个步骤以生成独立样本。在本文中，提出了一种方法来克服这个困难。该方法利用来自对整个系统的边缘分布进行采样的快速平衡粗马尔可夫链的信息。这是通过全链条和辅助粗链之间的交换来实现的。给出了随机微分方程的桥式采样和滤波/光滑问题的数值试验结果。
2007-09-11 stat.CO
An invitation to sequential Monte Carlo samplers
统计学家经常使用蒙特卡罗方法来近似概率分布，主要是马尔可夫链蒙特卡罗和重要性抽样。序贯蒙特卡罗采样器是一类结合了两种技术来近似感兴趣的分布及其归一化常数的算法。这些采样器起源于状态空间模型的粒子滤波，并已成为通用和可扩展的采样技术。本文描述了序贯蒙特卡罗采样器及其可能的实现，认为它们在统计中仍然没有得到充分的使用，尽管它们能够执行顺序推理并利用并行处理资源以及其他潜在的好处。
2022-06-17 stat.CO stat.ME
Unbiased Filtering of a Class of Partially Observed Diffusions
在这篇文章中，我们考虑一个基于蒙特卡罗的方法来过滤部分观察到的扩散定期和离散时间。由于只访问欧拉离散的扩散过程，我们提出了一个新的程序，可以返回在线估计的过滤分布，没有离散偏差和有限的方差。我们的方法基于Rhee & Glynn（2015）的随机化方法以及Jasra等人（2017）的多级粒子滤波（MLPF）方法的新型双重应用。我们的新方法与MLPF，在一个单一的处理器上的数值比较表明，类似的错误是可能的计算成本略有增加。然而，新方法的规模强大，任意多个处理器。
2020-02-11 cs.NA math.NA stat.CO
A closed-form filter for binary time series
非高斯状态空间模型出现在几个应用中，在这个框架内，二进制时间序列设置提供了一个相关的例子。然而，与高斯状态空间模型不同--在高斯状态空间模型中，滤波、预测和平滑分布以封闭形式可用--二元状态空间模型需要近似或序贯蒙特卡罗策略来进行推断和预测。这是由于高斯状态和二进制数据的观测方程引起的似然性之间明显缺乏共轭性。在这篇文章中，我们证明了高斯状态变量的动态概率模型的过滤，预测和平滑分布，事实上，是可用的，属于一类统一的偏态法线（SUN），其参数可以通过解析表达式在时间上递归更新。此外，这些分布的关键泛函原则上是可用的，但它们的计算需要多变量高斯累积分布函数的评估。利用SUN属性，我们通过基于平滑分布的独立样本的新型Monte Carlo方法来解决这个问题，该方法可以很容易地适应过滤和预测情况，从而提高了最先进的近似和序贯蒙特卡罗推断在小到中等维度的研究。新的序贯蒙特卡罗程序，利用太阳的属性也被开发来处理在线推理在高维。在财务应用程序中概述了相对于竞争对手的性能增益。
2021-05-18 stat.ME
Independent Resampling Sequential Monte Carlo Algorithms
序贯蒙特卡罗算法或粒子滤波器是贝叶斯滤波算法，其在时间上传播感兴趣的后验分布的离散和随机近似。这些算法是基于重要性抽样与自举响应的步骤，其目的是对权值退化斗争。然而，在某些情况下（信息量测量，高维模型），重新搜索步骤可能证明是低效的。在本文中，我们重新审视的基本reservation机制，使我们回到鲁宾的静态reservation机制。我们提出了一种替代的复兴计划，其中重新采样的粒子共享相同的边缘分布在经典的设置，但现在是独立的。这组独立粒子提供了一种新的替代方案来计算目标分布的矩，并通过CLT分析所得到的估计。接下来，我们适应我们的结果，以动态的情况下，提出了一个粒子滤波算法的基础上独立reservation。该算法可以看作是一种特殊的辅助粒子滤波器算法，具有相关的第一阶段权重和辅助分布的选择。最后，我们验证我们的结果通过模拟仔细考虑到计算预算。
2016-07-19 stat.CO
Mixture-Weighted Ensemble Kalman Filter with Quasi-Monte Carlo Transport
FUB（柏林自由大学）
针对粒子滤波权重退化与集成卡尔曼滤波在高维非高斯场景的局限性，提出混合加权集成卡尔曼滤波方法，通过重要性采样校正和准蒙特卡罗传输提升滤波精度。
2026-06-26 cs.NA math.NA stat.ME
Particle filtering methods for partially observed branching processes
Universidad de Extremadura（埃斯特雷马杜拉大学）
本文研究了部分观测分支过程的参数估计问题，提出基于序列蒙特卡洛方法的计算工具进行贝叶斯推断，并应用Liu-West粒子滤波器对流行病模型进行参数估计。
2026-05-20 math.PR stat.CO
Asynchronous Anytime Sequential Monte Carlo
我们介绍了一种新的序贯蒙特卡罗算法，我们称之为粒子级联。粒子级联是一种异步的，随时替代传统的粒子滤波算法。它不使用屏障同步，从而提高了粒子吞吐量和内存效率。它是一个随时算法，因为它可以永远运行以发射无限数量的粒子，同时保持在固定的内存预算内。我们证明了粒子级联是一个无偏的边缘似然估计，这意味着它可以直接插入到现有的伪边缘方法。
2014-07-10 stat.CO stat.ML
Reduced Complexity Filtering with Stochastic Dominance Bounds: A Convex Optimization Approach
本文利用随机优势原理构造隐马尔可夫模型（HMM）滤波器的样本路径上界和下界。给定一个隐马尔可夫模型，通过使用凸优化方法的核范数最小化与共正约束，我们构造低秩随机矩阵，使最优滤波器使用这些矩阵可证明的下限和上限（相对于偏序集）在每个时刻的真实过滤分布。由于这些矩阵是低秩的（比如R），因此计算过滤边界的计算成本是O（XR）而不是O（X2）。一个蒙特卡洛重要性抽样过滤器，利用这些上限和下限估计的最佳后验。最后，利用Dobrushin系数，给出了真后验和上下界之间的变分范数的显式界。
2014-07-02 stat.CO
Group Importance Sampling for Particle Filtering and MCMC
IMT Lille Douai（IMT里尔-杜埃大学）；CRISTAL (UMR 9189)（CRISTAL实验室（UMR 9189））；Universidad Carlos III de Madrid（马德里卡洛斯三世大学）；Image Processing Laboratory, Universitat de València（瓦伦西亚大学图像处理实验室）
贝叶斯方法及其通过复杂的蒙特卡罗技术的实现在过去几年中已经在信号处理中变得非常流行。重要性抽样（IS）是一种众所周知的蒙特卡罗技术，其通过加权样本来近似涉及后验分布的积分。在这项工作中，我们研究了分配一个单一的加权样本，压缩人口的加权样本中包含的信息。部分理论，我们目前作为组重要性抽样（GIS）已被隐含在不同的作品在文献中。所提供的分析产生了几个理论和实践的后果。例如，我们讨论了应用GIS的顺序重要性恢复框架，并显示独立的多尝试大都会计划可以被解释为一个标准的梅特罗波利斯-黑斯廷斯算法，以下的GIS方法。介绍了两种基于GIS的马尔可夫链蒙特卡罗（MCMC）方法。第一种方法是分组抽样法，它产生一组加权样本的马尔可夫链。所有这些集，然后获得一个独特的全球估计。第二种是分布式粒子Metropolis-Hastings技术，其中不同的并行粒子滤波器联合使用来驱动MCMC算法。不同的重采样轨迹进行比较，然后用适当的接受概率进行测试。新的计划进行了测试，在不同的数值实验，如学习高斯过程的超参数，在无线传感器网络的两个本地化问题（合成和真实数据）和跟踪植被参数的卫星观测，在那里他们与几个基准蒙特卡罗技术进行比较。还提供了三个说明性的Matlab演示。
2018-08-04 cs.CE cs.LG stat.CO
Sequential Monte Carlo algorithms for a class of outer measures
在一般情况下，用一些特定的外测度代替概率分布，可以导出封闭形式的随机滤波方程。在这篇文章中，我们研究如何的序贯蒙特卡罗方法的原则，可以适应这些方程的实际实施的目的。特别是，我们探讨如何抽样可以用来提供支持点的近似这些外部措施。这一步使实用的算法，以粒子滤波器的精神来推导。所获得的算法的性能在模拟中得到证明，并通过各种例子说明其通用性。
2018-05-04 stat.ME
Simple conditions for convergence of sequential Monte Carlo genealogies with applications
我们提出了简单的条件下，限制系谱过程与一类相互作用的粒子系统与非中性的选择机制，随着粒子数量的增长，是一个时间重新缩放的金曼合并。序贯蒙特卡罗算法是在诸如非线性滤波和平滑等问题中近似积分的流行方法，这些问题采用这种类型的粒子系统。它们的表现强烈依赖于诱导谱系过程的性质。我们验证了我们的主要结果的标准序贯蒙特卡罗算法与广泛的一类低方差reservation计划，以及有条件的序贯蒙特卡罗与多项式reservation的条件。
2020-12-07 math.PR stat.CO stat.ME
Multilevel Monte Carlo for Smoothing via Transport Methods
在这篇文章中，我们考虑递归近似的平滑分布与部分可观察的随机微分方程（SDEs），这是离散的时间观察。这种模型出现在各种各样的应用，包括计量经济学，金融和工程。这个问题是非常具有挑战性的，因为平滑器不能解析地获得，因此需要数值近似。这通常包括通过应用时间离散化的平滑，例如欧拉方法，然后应用数值（例如蒙特卡罗）方法来近似平滑。这导致了大量关于解决这些问题的方法的文献，其中最流行的可能是基于粒子滤波器（PF）的，例如[9]。在这类问题的过滤的上下文中，众所周知，粒子滤波器可以在成本方面进行改进，以实现用于估计的给定的均方误差（MSE）。这在某种意义上说，通过使用多级（ML）方法[12，13，18]，经由多级粒子滤波器（MLPF）[16，20，21]，可以减少计算工作量以实现该目标MSE。例如，为了在近似与具有恒定扩散系数的欧拉离散化扩散相关联的滤波分布时获得某些$ε> 0$的$\mathcal{O}(ε^2)$的MSE，PF的成本是$\mathcal{O}(ε^{-3})$，而MLPF的成本是$\mathcal{O}(ε^{-2}\log(ε)^2)$。在这篇文章中，我们考虑一种新的方法来取代粒子滤波器，使用[27]中的传输方法。在过滤的上下文中，期望所提出的方法通过在假设下以$\mathcal{O}(ε^{-2})$的成本产生$\mathcal{O}(ε^2)$的MSE来改进MLPF。…
2018-05-14 stat.ME
Metropolising forward particle filtering backward sampling and Rao-Blackwellisation of Metropolised particle smoothers
状态空间模型中的平滑相当于计算潜在状态轨迹的条件分布，给定观测值，或状态轨迹关于该分布的泛函的期望。对于非线性高斯或具有有限状态空间的模型，平滑分布通常无法计算，因为它们涉及至少等于观测数的维度空间上的积分。近年来，人们对基于蒙特卡罗的平滑方法越来越感兴趣，通常涉及粒子滤波器。一种这样的方法是用粒子滤波器来近似滤波器分布，然后使用后向核在粒子网格上进行后向模拟。我们表明，通过补充这个过程与大都会黑斯廷斯步骤决定是否接受一个建议的轨迹或没有，得到一个马尔可夫链蒙特卡罗计划的平稳分布是精确的平滑分布。我们还表明，在这个过程中，向后采样可以取代向后平滑，这有效地意味着平均所有可能的轨迹。在一个例子中，我们将这些方法与最近由Andrieu，Doucet和Holenstein提出的类似方法进行比较，并表明新方法在每计算时间的精度（逆方差）方面可以更有效。
2010-11-09 stat.CO
Implicit Maximum a Posteriori Filtering via Adaptive Optimization
Princeton University（普林斯顿大学）
该论文将贝叶斯滤波重新表述为时变优化问题，通过自适应优化隐式定义滤波器，在线性高斯情形下与卡尔曼滤波等价，并在非线性高维系统中展现出有效性和可扩展性。
2023-11-17 cs.LG cs.SY eess.SY
Forward Smoothing using Sequential Monte Carlo
序贯蒙特卡罗（SMC）方法是一组广泛使用的用于非线性非高斯状态空间模型中的推断的计算工具。我们提出了一个新的SMC算法来递归地计算可加泛函的期望。本质上，它是Doucet等人（2000）提出的前向滤波后向平滑SMC算法的在线或仅前向实现。与标准路径空间SMC估计的渐近方差随时间平方增加，即使在有利的混合假设下，所提出的SMC估计的渐近方差只随时间线性增加。这种向前平滑过程使我们能够实现在线极大似然参数估计算法，不遭受粒子路径退化问题。
2010-12-24 stat.CO stat.ME
A Hybrid Particle Gaussian Mixture Filtering Method for Cislunar Orbit Determination Under Extreme Uncertainty
Texas A&M University（德州农工大学）；Lucid Group, Inc.（卢西德集团）
本文提出了一种混合粒子高斯混合滤波方法，用于在极端不确定性下进行近地轨道确定，结合概率信息与地面望远镜的仅角度观测数据。
2026-03-02 astro-ph.IM stat.AP
LatentTrack: Sequential Weight Generation via Latent Filtering
Independent Researcher, Baltimore, MD, USA（独立研究者）
LatentTrack通过潜在过滤实现序列权重生成，利用轻量级超网络在低维潜在空间中进行因果贝叶斯过滤，有效应对非平稳动态下的分布偏移问题。
2026-01-31 cs.AI cs.LG cs.RO
Sequential Markov Chain Monte Carlo for Lagrangian Data Assimilation with Applications to Unknown Data Locations
针对观测位置未知的高维空间滤波难题，拓展了可证明收敛的序贯MCMC方法，在线性高斯模型和高维旋转浅水波模型实验中均实现了速度与精度的显著提升。
2024-03-05 stat.ME
