Semi-independent resampling for particle filtering
在序贯蒙特卡罗(SMC)方法中,采样重要性恢复(SIR)算法是基于重要性抽样(IS)和一些基于重采样的抗衰算法的。然而,无论使用哪种重新排序技术,当应用于信息或高维模型时,这种机制往往是不够的。在本文中,我们重新审视的振兴机制,并提出了一类参数化的SIR为基础的解决方案,使调整计算成本和统计性能之间的权衡。
2017-10-15 stat.CO
Differentiable Systematic Resampling for Variational Sequential Monte Carlo
KTH Royal Institute of Technology(瑞典皇家理工学院)
针对粒子滤波器重采样步骤离散阻碍变分序列蒙特卡洛梯度学习的问题,提出可微系统重采样DSR,其计算开销低且性能相当或更优,可用于滤波与动力学学习。
2026-10-30 cs.LG eess.SP stat.ML
On resampling schemes for particle filters with weakly informative observations
我们认为粒子滤波器弱信息观测(或“潜力”)相对于潜在的状态动态。这项工作的特别重点是粒子滤波器近似时间离散化的连续时间费曼-Kac路径积分模型-一个场景,自然出现时,解决过滤和平滑问题,在连续时间-但我们的研究结果表明弱信息设置超出了这一背景。我们研究了不同的restrial计划,如系统的restrial,SSP(Srinivasan采样过程)和分层的restrial的性能,作为时间离散化变得更精细,也确定其连续的时间限制,这是表示为一个适当定义的“无穷小生成器。通过对比这些发电机,我们发现,(某些修改)系统和SSP Resistance '占主导地位'分层和独立的'杀死' Resistance在其限制的总体Resistance率。在我们的数值实验中,再分配强度的降低表现在较低的方差上。这种效率的结果,通过一个排序的rescretrate,是新的文献。这项工作的第二个主要贡献涉及的限制行为的整个人口的粒子滤波器的时间离散化变得更精细的分析。我们提供的第一个证明,在一般条件下,粒子近似的离散连续时间费曼-卡茨路径积分模型收敛到一个(均匀加权)连续时间粒子系统。
2022-07-09 math.PR stat.CO stat.ME
Adapting sample size in particle filters through KLD-resampling
这封信提供了一种自适应的恢复方法。它确定要重新采样的粒子数,以便重新采样之前和之后粒子分布之间的Kullback-Leibler距离(KLD)不超过预先指定的误差范围。该方法的基础与Fox的KLD采样相同,但实施方式不同。KLD抽样假设样本来自真实的后验分布,并忽略真实分布和建议分布之间的任何不匹配。与此相反,我们将KLD测量到其中感兴趣的分布只是后验分布的重新分布中。也就是说,对于样本量的调整,在重新采样时,基于KLD来衡量加权粒子所代表的分布的拟合度,比在采样时更具有理论上的严谨性和实践上的灵活性。目标跟踪的仿真结果表明了该方法的有效性。
2013-06-13 cs.RO stat.AP
Diffusion differentiable resampling
Department of Information Technology, Uppsala University, Sweden(乌普萨拉大学信息科技系,瑞典)
针对序贯蒙特卡洛中的可微重采样问题,提出一种基于无训练扩散模型代理的信息性且即时可微的重采样方法,理论证明其一致性,并在多个滤波和参数估计基准上优于现有方法。
2026-05-28 cs.LG math.ST stat.ML
Differentiable Particle Filtering via Entropy-Regularized Optimal Transport
Aalto University(阿尔托大学);University of Oxford(牛津大学)
粒子滤波(PF)方法是一种用于在非线性状态空间模型中执行推理的既定程序。恢复是PF的关键成分,对于获得低方差似然和状态估计是必要的。然而,传统的恢复方法导致基于PF的损失函数关于模型和PF参数不可微。在变分推断的背景下,rescue也产生高方差梯度估计的PF为基础的证据下界。通过利用最优传输的思想,我们引入了一个原则性的可微粒子滤波器,并提供收敛结果。我们证明了这种新的方法在各种应用程序。
2021-06-30 cs.LG stat.CO stat.ML
Butterfly resampling: asymptotics for particle filters with constrained interactions
我们概括的基本机制放回抽样$N$时间从一个加权人口的大小$N$的抽样,通过引入辅助变量和条件独立性的限制,其特征在于模块同余关系。出于对并行性的考虑,收敛性研究揭示了该机制的条件独立图的稀疏性如何与粒子滤波器的波动特性相关,该滤波器使用它来进行重新排序,在某些情况下表现出奇异的缩放行为。证明涉及条件独立图的详细组合分析。
2014-11-21 stat.ME
Independent Resampling Sequential Monte Carlo Algorithms
序贯蒙特卡罗算法或粒子滤波器是贝叶斯滤波算法,其在时间上传播感兴趣的后验分布的离散和随机近似。这些算法是基于重要性抽样与自举响应的步骤,其目的是对权值退化斗争。然而,在某些情况下(信息量测量,高维模型),重新搜索步骤可能证明是低效的。在本文中,我们重新审视的基本reservation机制,使我们回到鲁宾的静态reservation机制。我们提出了一种替代的复兴计划,其中重新采样的粒子共享相同的边缘分布在经典的设置,但现在是独立的。这组独立粒子提供了一种新的替代方案来计算目标分布的矩,并通过CLT分析所得到的估计。接下来,我们适应我们的结果,以动态的情况下,提出了一个粒子滤波算法的基础上独立reservation。该算法可以看作是一种特殊的辅助粒子滤波器算法,具有相关的第一阶段权重和辅助分布的选择。最后,我们验证我们的结果通过模拟仔细考虑到计算预算。
2016-07-19 stat.CO
MapReduce Particle Filtering with Exact Resampling and Deterministic Runtime
粒子滤波是一种数值贝叶斯技术,在解决涉及非线性和非高斯模型的序贯估计问题方面具有很大的潜力。由于通过粒子滤波器实现的估计精度随着粒子数量的增加而提高,因此自然要考虑尽可能多的粒子。MapReduce是一种通用编程模型,可以将各种算法扩展到大数据。然而,尽管粒子滤波器在许多领域的应用,很少有人关注实现粒子滤波器使用MapReduce。在本文中,我们描述了一个粒子滤波器使用MapReduce的实现。我们专注于一个组件,否则将是一个瓶颈,并行执行,reserve组件。我们设计了一个新的实现这个组件,它不需要近似,具有$O\left(N\right)$空间复杂度和确定性的$O\left(\left(\log N\right)^2\right)$时间复杂度。结果表明,该新组件的实用性,并最终在考虑粒子滤波器与$2^{24}$粒子分布在$512$处理器内核。
2017-05-04 cs.DC stat.CO
Parallel resampling in the particle filter
诸如图形处理单元(GPU)的现代并行计算设备在科学和统计计算中获得了显著的牵引力。它们特别适合数据并行算法,如粒子滤波器,或更一般的序贯蒙特卡罗(SMC),这是越来越多地用于统计推断。SMC方法通过重复的传播、加权和重排序步骤携带一组加权粒子。传播和加权步骤可以直接并行化,因为它们只需要对每个粒子进行独立的操作。重新排序步骤更困难,因为标准方案需要对粒子权重进行集体操作,例如求和。专注于这个rescue步骤,我们分析了两种替代方案,不涉及集体操作(大都市和拒绝重采样器),并将它们与标准方案(多项式,分层和系统重采样器)进行比较。我们发现,在某些情况下,替代重采样器在GPU上的执行速度比标准方法快得多,在CPU上的执行速度则要慢得多。此外,在单精度下,标准方法在数十万粒子以上的数值上有偏差,而替代方法则没有。这一点尤其重要,因为现代设备上的单精度吞吐量大于双精度吞吐量,以及随之而来的对更多数量的颗粒使用单精度的诱惑。最后,我们提供了辅助功能的实施,如祖先向量的置换,使就地传播有用。
2015-06-11 cs.DC stat.CO
Augmented Island Resampling Particle Filters for Particle Markov Chain Monte Carlo
本文将并行化的 AIRPF 引入 PMCMC,证明其边际似然估计非负无偏且具有稳定性,并通过扩展碰撞分析给出方差显式表达式,从理论和数值上证明其优于独立 Bootstrap 粒子滤波器。
2023-12-11 stat.CO
An example of Ensemble Kalman Filter with resampling
提出精确集合卡尔曼滤波(ExEnKF),用高斯测度替代狄拉克测度进行状态估计,证明渐近一致性并给出收敛速率,在Lorenz-96多尺度模型上优于标准EnKF。
2026-06-25 math.PR stat.CO stat.ME
Bernoulli Race Particle Filters
当粒子滤波器中的权重不能解析地获得时,不能采用标准的恢复方法。为了避免这个问题,最先进的算法用非负无偏估计代替真实权重。该算法仍然有效,但与使用真实权重的粒子滤波器相比,代价是所得滤波估计的方差更高。我们在这里提出了一种新的算法,允许restering根据真正的棘手的权重时,只有一个无偏估计量的权重。我们证明了我们的算法上的几个例子。
2019-03-03 stat.CO stat.ML
Inference on high-dimensional implicit dynamic models using a guided intermediate resampling filter
我们提出了一种方法推断适度高维,非线性,非高斯,部分观测的马尔可夫过程模型的过渡密度是不解析听话。马尔可夫过程与棘手的转移密度出现在模型中定义的模拟算法隐式。广泛使用的粒子滤波器方法适用于非线性、非高斯模型,但受到维数灾难的影响。集合卡尔曼滤波方法提供了改进的可扩展性,但这些方法不适合高度非线性和非高斯模型。我们提出了一种粒子滤波器方法,具有改进的实际和理论的可扩展性方面的模型尺寸。这种方法适用于隐式定义的模型,分析棘手的过渡密度。我们的方法是基于这样的假设,即潜在的过程被定义在连续的时间,这个潜在的过程的模拟器是可用的。在这种方法中,粒子在观测之间的中间时间间隔传播,并基于未来观测的预测可能性进行重新采样。我们结合这种粒子滤波器与参数估计方法,使基于似然推理高度非线性时空系统。我们证明了我们的方法上的随机洛伦兹96模型和模型的传染病的人口动态网络的连接区域。
2020-04-01 stat.ME
Resampling Gradients Vanish in Differentiable Sequential Monte Carlo Samplers
University of Tübingen(蒂宾根大学);IMPRS-IS(国际马克斯·普朗克智能系统研究学院)
针对可微分退火重要性采样(DAIS)有效样本量低、分布退化的问题,提出加入重采样步骤扩展DAIS,且经验与理论均表明无需对重采样步骤微分即可避免梯度方差问题。
2023-04-27 cs.LG stat.ML
Particle MCMC with Poisson Resampling: Parallelization and Continuous Time Models
我们引入了一种新的粒子滤波器,其中粒子在给定时间的“孩子”的数量具有泊松分布。因此,粒子的数量是随机的,并随时间而变化。这个方案的一个优点是不同粒子的后代可以独立进化。它使并行计算变得容易。此外,具有泊松响应的粒子滤波器很容易适用于隐过程是连续时间、分段确定性半马尔可夫过程的情况。我们表明,粒子MCMC的基本技术,即粒子独立的大都会黑斯廷斯,粒子吉布斯采样器和它的版本与祖先采样,我们的泊松响应计划下工作。我们的版本的粒子吉布斯采样器是一致遍历的相同的假设下,其标准对应。我们目前的仿真结果表明,我们的算法可以与现有的方法。
2019-08-02 stat.CO
Conditional particle filters with bridge backward sampling
针对弱信息观测和慢混合动态下条件粒子滤波器性能下降、易退化的问题,提出两种适配的条件重采样策略及带桥接反向采样的推广CPF,实验验证其能显著提升该场景下的采样效率。
2023-06-19 stat.CO stat.ME
Coupling of Particle Filters
粒子滤波器提供了难以处理的量的蒙特卡罗近似,例如状态空间模型中似然性的逐点评估。在许多情况下,当某些参数或输入变化时,感兴趣的是这些量的比较。为了方便这样的比较,我们介绍和研究的方法来耦合两个粒子滤波器在这样一种方式,两个底层粒子系统之间的相关性增加。动机源于经典的方差减少技术的正相关的两个估计。构造这种耦合的关键挑战来自于粒子滤波器的恢复步骤的不连续性。作为我们的第一个贡献,我们认为耦合reservation算法。在自举粒子滤波器中,它们提高了分数向量的有限差分估计的精度,并提高了用于参数推断的粒子边缘梅特罗波利斯-黑斯廷斯算法的性能。第二个贡献产生于使用这些耦合rescue计划内的条件粒子滤波器,允许平滑泛函的无偏估计量。其结果是一个新的平滑策略,平均的独立和无偏估计量,这允许1)直接并行化和2)准确的误差估计的建设。上述两种情况都不可能与现有的粒子平滑器。
2016-07-16 stat.CO stat.ME
The chopthin algorithm for resampling
恢复是粒子滤波器和更一般的序贯蒙特卡罗方法中的标准步骤。我们提出了一个算法,称为chopthin,rescue加权粒子。与标准的重采样方法不同,该算法不会产生一组权重相等的粒子;相反,它只是对权重之间的比率施加一个上限。仿真研究表明,chopthin算法始终优于标准的reservation方法。该算法将具有大权重的粒子切碎,并将具有低权重的粒子稀疏化,因此得名。它隐含地保证了有效样本量的下限。该算法可以有效地实现,使其具有实用价值。我们表明,预期的计算工作是线性的粒子数。C++,R(在CRAN上),Python和Matlab的实现都是可用的。
2016-04-06 stat.CO
Recursive Monte Carlo filters: Algorithms and theoretical analysis
递归蒙特卡罗滤波器,也称为粒子滤波器,是在一般状态空间模型中执行计算的强大工具。我们讨论和比较的接受-拒绝版本与更常见的采样重要性resternation版本的算法。特别是,我们展示了如何辅助变量的方法和分层可以使用在接受-拒绝的版本,我们比较不同的rescue技术。在第二部分中,我们展示了大数定律和这些Monte Carlo滤波器的中心极限定理,通过简单的归纳论证,只需要弱条件。我们还表明,在更强的条件下,所需的样本量是独立的观察系列的长度。
2006-02-10 math.ST stat.TH
Filtering with State-Observation Examples via Kernel Monte Carlo Filter
本文讨论了状态空间模型的滤波问题。用于过滤的标准方法假设观测的概率模型(即观测模型)被明确地或至少参数化地给出。我们考虑一个设置,这个假设是不满足的,我们假设的观测模型的知识只提供了状态观测对的例子。此设置很重要,当状态变量被定义为与观测值非常不同的量时会出现。我们提出核蒙特卡罗滤波器,一种新的过滤方法,是集中在这种设置。我们的方法是基于核均值嵌入的框架,这使得非参数后验推理使用状态观测的例子。该方法将状态分布表示为加权样本,通过采样传播这些样本,利用核贝叶斯规则估计状态后验,并通过核羊群重新采样。特别是,采样和重新采样的过程是新颖的,在使用核均值嵌入表示,所以我们从理论上分析他们的行为。我们揭示了以下性质,这是类似的粒子方法中的相应程序:(1)采样的性能可以降低,如果有效的样本量加权样本是小的;(2)重新采样提高采样性能,通过增加有效的样本量。我们首先证明这些理论研究结果的合成实验。然后,我们通过人工和真实数据的实验,其中包括基于视觉的移动机器人定位的有效性所提出的过滤器。
2015-10-22 stat.ML
Stratification and Optimal Resampling for Sequential Monte Carlo
序贯蒙特卡罗(SMC),也称为粒子滤波器,已被广泛接受为一个强大的计算工具,使动力系统的推理。SMC中的一个关键步骤是重新定位,它起着引导算法走向未来动态的作用。已经提出并在实践中使用了几种策略,包括多项式恢复、残差恢复(Liu和Chen 1998)、最佳恢复(Fearnhead和Clifford 2003)、分层恢复(Kitagawa 1996)和最佳运输恢复(Reich 2013)。我们证明了在一维情形下,最优输运重采样等价于分选粒子上的分层重采样,并且它们都使重采样方差以及原始经验分布与重采样经验分布之间的期望平方能量距离最小;在多维情况下,希尔伯特曲线分选后分层回波的方差(Gerber等人,2019)在$\mathbb{R}^d$中的结果是$O(m^{-(1+2/d)})$,与原始$O(m^{-(1+1/d)})$相比,其速率有所提高,其中$m$是重新采样的粒子数。这一改善率是有序分层恢复方案的最低值,如Gerber et al.(2019)所述。我们还提出了一个几乎肯定的约束之间的原始和希尔伯特曲线重新采样的经验分布的瓦瑟斯坦距离。根据这些理论结果,我们提出了分层多后代增长(SMG)算法,它使我们能够更有效地探索样本空间相比,标准的i.i.d. Wasserstein度量测量的多后代抽样-再抽样方法。数值实验证明了该方法的有效性。
2020-12-07 math.ST stat.CO stat.ME
A scalable optimal-transport based local particle filter
空间扩展动力系统的滤波是一个具有挑战性的问题,具有重要的实际应用,如数值天气预报。粒子滤波器允许渐近一致的推理,但需要不切实际的大合奏规模的准确估计在复杂的空间模型。本地化的方法,它执行本地状态更新,通过利用在遥远的点的变量之间的低依赖性,已被建议作为一个潜在的解决方案,这个问题。然而,局部地简单地应用粒子滤波器的重新采样步骤会产生难以置信的空间不连续状态。整体变换粒子滤波器用最优传输映射代替了粒子滤波,并且可以通过计算每个空间网格节点的映射来定位。然而,所得到的局部系综传输粒子滤波器对于密集网格是计算密集的。我们提出了一种新的基于最优传输的局部粒子滤波器,它计算固定数量的独立于网格分辨率的地图,并在空间上插入这些地图,减少了所需的计算,并允许它确保粒子保持空间平滑。我们数值说明,在降低计算成本,我们能够实现相同的精度作为本地合奏运输粒子滤波器,并保留其改进的鲁棒性非高斯和能力,以量化不确定性相比,本地合奏卡尔曼滤波器。
2019-06-03 stat.CO
Spectral Costs of Multinomial and Residual Resampling in High-Dimensional Particle Ensembles: A Free-Probability Analysis
Faculty of Applied Sciences, Macao Polytechnic University(澳门理工学院应用科学学院)
本文通过自由概率分析,研究高维粒子集合中多项与残差重采样的谱代价,推导了相关谱性质,预注册实验验证了理论结果。
2026-10-14 cs.LG math.ST stat.TH
Sequential Monte Carlo as Approximate Sampling: bounds, adaptive resampling via $\infty$-ESS, and an application to Particle Gibbs
序贯蒙特卡罗(SMC)算法最初是为估计状态空间模型中的棘手条件期望而设计的,但现在通常用于在通用贝叶斯推理的上下文中生成近似样本。特别是,SMC算法经常被用作子程序内较大的蒙特卡罗计划,在这种情况下,放在SMC的要求是不同的:控制的均方误差是不够的-一个需要控制的发散直接从目标分布。为了实现这一目标,我们引入了条件自适应恢复粒子滤波器,建立在Gordon,Salmond和Smith(1993),Andrieu,Doucet和Holenstein(2010)以及Whiteley,Lee和Heine(2016)的工作基础上。通过控制有效样本量的新概念,$\infty$ -ESS,我们建立了由此产生的SMC采样算法的效率,提供了Andrieu,Lee和Vihola(2013)工作的自适应恢复扩展。我们应用我们的研究结果,以达到新的发散范围SMC采样器的自适应rescue以及自适应rescue版本的粒子吉布斯算法具有相同的几何遍历保证其非自适应对应。
2017-04-10 math.ST stat.CO stat.TH
Differentiable Particle Filtering without Modifying the Forward Pass
University of British Columbia(不列颠哥伦比亚大学);Inverted AI;Mila
粒子滤波器与自动微分不兼容,这是由于存在离散的再分解步骤。虽然基于Fisher恒等式的得分函数的已知估计量可以使用粒子滤波器来计算,但到目前为止,它们需要手动实现。在本文中,我们表明,这样的估计可以使用自动微分计算,引入一个简单的修正粒子权重后。该校正利用停止梯度算子,并且不修改前向传递上的粒子滤波器操作,同时还便宜且易于计算。令人惊讶的是,在相同的校正下,自动微分也可以为后验期望的梯度产生良好的估计。因此,我们可以把我们的方法看作是使粒子滤波器可微的一般方法。我们还表明,它产生所需的估计二阶导数,以及如何扩展它,以进一步减少额外的计算费用的方差。
2021-10-19 cs.LG stat.ML
Fully Parallel Particle Learning for GPGPUs and Other Parallel Devices
我们开发了一种新的完全并行化的粒子滤波器,这是设计与GPU(图形处理单元)或类似的并行计算设备的思想,并行恢复算法。使用我们的新算法,一个完整的粒子滤波周期(计算每个粒子的似然值,构造累积分布函数(CDF)用于重新排序,用CDF重新排序粒子,并为下一个周期传播新粒子)可以以大规模和完全并行的方式执行。我们的算法的优点之一是,每一个数值计算或内存访问相关的粒子滤波是单独在GPU内部并行执行,没有数据传输之间的GPU的设备内存和CPU的主机内存发生,除非进一步处理,使它可以规避GPU和CPU之间的有限的内存带宽。为了证明我们的并行算法的优势,我们进行了一个蒙特卡罗实验中,我们应用并行算法以及传统的顺序算法估计一个简单的状态空间模型,通过粒子学习,并比较它们的执行时间。结果表明,并行算法远优于串行算法。
2016-08-16 stat.CO
Particle filter with rejection control and unbiased estimator of the marginal likelihood
我们考虑在序贯蒙特卡罗方法中结合使用剩余和部分拒绝控制,也称为粒子滤波器。虽然方差减少性能的拒绝控制是已知的,有没有(据我们所知)在这种类型的粒子滤波器的边际似然(也称为模型证据或归一化常数)的无偏估计的任何工作。能够无偏差地估计边际似然对于模型比较、可解释和可靠置信区间的计算以及精确近似方法(例如粒子马尔可夫链蒙特卡罗)是高度相关的。在本文中,我们提出了一个粒子滤波器与拒绝控制,使无偏估计的边际似然。
2020-03-04 stat.CO stat.ML
An efficient estimation of time-varying parameters of dynamic models by combining offline batch optimization and online data assimilation
结合观测和数值模拟对地球系统模型中的未知参数进行估计是非常重要的。对于地球系统科学中的许多应用,需要允许参数随时间变化的优化方法。本文提出了一种估计相对低维模型时变参数的有效而实用的方法。在新提出的方法,称为混合离线在线参数估计与粒子滤波(HOOPE-PF),通货膨胀的方法,以保持传播的集合成员的采样重要性,reserved粒子滤波器是改进使用的非参数后验概率分布的时不变参数通过比较模拟和观测到的气候。HOOPE-PF优于原来的采样重要性reserved粒子滤波器在合成实验与玩具模型和真实数据实验与概念水文模型,特别是当合奏大小是小的。HOOPE-PF的优点是其性能不会受到要添加到系综成员以保持其扩散的扰动大小的很大影响,而在原始粒子滤波器中获得最佳性能至关重要。HOOPE-PF是粒子滤波算法的扩展,已被广泛应用于陆地、生态系统、水文、古气候等地球系统模型的模拟中,因此HOOPE-PF算法可以考虑模型参数的时变,改善这些地球系统模型的模拟效果。
2022-02-02 physics.geo-ph stat.ML
Error Analysis for the Particle Filter: Methods and Theoretical Support
粒子滤波器是一种流行的贝叶斯滤波算法,用于状态空间模型为非线性和/或随机项(初始状态或噪声)为非高斯分布的情况。我们研究了当粒子数变大时,粒子滤波器算法中的误差行为。在将误差分解为两个项之后,我们证明了当在滤波过程的每一步都进行重建时,估计量和条件均值之间的差是渐近正态的。两个非线性/非高斯的例子来验证这一结论。
2019-03-26 stat.AP stat.CO
Online data processing: comparison of Bayesian regularized particle filters
本文的目的是比较三个正则化粒子滤波器在在线数据处理方面。我们进行了比较的隐藏状态过滤和参数估计,考虑贝叶斯范式和单变量随机波动模型。我们讨论了使用不适当的先验分布在初始化的过滤过程中,并表明,正则化辅助粒子滤波器(APF)优于正则化顺序重要性采样(SIS)和正则化采样重要性恢复(SIR)。
2008-06-26 math.ST stat.TH
Toward Practical N2 Monte Carlo: the Marginal Particle Filter
University of British Columbia(不列颠哥伦比亚大学)
序贯蒙特卡罗技术对于非线性、非高斯动态模型中的状态估计是有用的。这些方法使我们能够使用顺序重要性抽样来近似联合后验分布。在该框架下,目标分布的维数随着时间步长的增加而增加,因此需要引入一些重新估计步骤来保证算法提供的估计值具有合理的方差。在许多应用中,我们只对定义在固定维数空间上的边缘滤波分布感兴趣。我们提出了一个序贯蒙特卡罗算法称为边缘粒子滤波器,直接操作的边缘分布,从而避免了必须执行重要性抽样的空间上不断增长的维度。利用这一思想,我们还得到了一个改进的版本的辅助粒子滤波器。我们展示了理论和经验的结果,表明减少方差比传统的粒子滤波,并提出了技术,用于减少成本的边际粒子滤波器与N个粒子从O(N2)到O(N logN)。
2012-07-04 cs.LG stat.CO stat.ML
Piecewise Constant Sequential Importance Sampling for Fast Particle Filtering
粒子滤波器是非线性、非高斯动态下目标跟踪的关键算法。然而,粒子滤波器的高计算成本阻碍了它们在似然模型评估成本高或需要大量粒子来表示后验的情况下的适用性。我们介绍了近似顺序重要性抽样/恢复(ASIR)算法,其目的是通过近似的可能性与混合均匀分布在预定义的细胞或箱,以减少传统的粒子滤波器的成本。每个仓中的粒子由原始粒子分布的质心处的虚拟粒子表示,并且具有作为同一仓中所有粒子的状态的平均值的状态向量。仅为虚拟粒子评估似然性,并且将结果权重相同地指定给箱中的所有粒子。我们推导出这样得到的分段常数函数表示的近似误差的上界,并分析如何bin大小影响跟踪精度和运行时间。此外,我们数值表明,ASIR近似误差收敛到顺序重要性抽样/rescue(SIR)的bin大小减小。我们提出了一组数值实验,从生物图像处理和跟踪领域,证明ASIR的能力。总的来说,我们认为ASIR是一个有前途的候选人,简单,快速的粒子滤波在通用应用程序。
2014-02-03 cs.CC stat.CO
A general theory of particle filters in hidden Markov models and some applications
利用鞅表示,我们得到了隐马尔可夫模型中粒子滤波器的渐近正态性和一个比较简单的渐近方差公式。虽然重复重采样导致样本路径之间的复杂依赖性,渐近方差公式和鞅表示导致隐藏状态的粒子滤波估计的标准误差的相合估计。
2013-12-18 math.ST stat.TH
Statistical Distance Based Deterministic Offspring Selection in SMC Methods
KTH Royal Institute of Technology(瑞典皇家理工学院);Science for Life Laboratory(生命科学实验室)
多年来,序贯蒙特卡罗(SMC)和粒子滤波器(PF)理论得到了研究人员的极大关注。然而,最近的表现,也被称为后代选择的restaurant方法,并没有进步。我们提出了两个确定性的后代选择方法,努力尽量减少Kullback-Leibler(KL)的分歧和总变异(TV)的距离,分别在粒子分布之前和之后的后代选择。通过减少所选择的后代和联合分布之间的统计距离,我们得到了一个启发式搜索过程,执行优于极大似然搜索恰恰是在这些情况下,后者比SMC表现更好。对于SMC和粒子马尔可夫链蒙特卡罗(pMCMC),我们提出的后代选择方法总是优于或优于两个国家的最先进的reservation计划通常用作基准从文献中的两个模型。
2022-12-23 cs.LG stat.CO stat.ML
Some nonasymptotic results on resampling in high dimension, I: Confidence regions, II: Multiple tests
研究了具有未知依赖结构的随机向量均值的广义Bootstrap置信区域。假设随机向量是高斯分布或具有对称和有界分布。向量的维数可能远远大于观察的数量,我们专注于非渐近控制的置信水平,以下的想法启发了最近的结果在学习理论。我们考虑两种方法,第一种是基于浓度的原则(有效的一个大类的reserve权重)和第二个重新采样的分位数,特别是使用Rademacher权重。在基于浓度原则的方法中建立的几个中间结果本身就很有意义。我们还讨论了使用蒙特卡罗近似的重采样量时的精度问题。
2010-01-11 math.ST stat.TH
Variance estimation in the particle filter
本文研究了粒子滤波器中蒙特卡罗误差的数值评估。我们表明,通过跟踪的某些关键功能的谱系结构所产生的resternation操作,它是可能的估计方差的粒子滤波器提供了一些标准的蒙特卡罗近似。我们所有的估计量都可以从粒子滤波器的单次运行中计算出来,而无需进一步的模拟。我们建立,随着粒子数的增长,我们的估计是弱一致的渐近方差的蒙特卡罗近似,其中一些也是非渐近无偏的。渐近方差可以分解成对应于算法的每个时间步的条款,我们展示了如何一致地估计这些条款。当粒子的数量可能随时间变化时,这允许粒子数量的渐近最优分配的近似。
2016-06-28 stat.CO
Free-support Wasserstein Resampling in Sequential Monte Carlo
Tsinghua University(清华大学);Renmin University of China(中国人民大学)
针对序贯蒙特卡洛中粒子少导致的样本枯竭问题,提出Wasserstein-Dirichlet重采样方法,通过自由支撑Wasserstein重心问题生成新粒子,在匹配成本下提升了估计精度、稳定性与样本多样性。
2026-10-14 stat.CO stat.ME
Simple conditions for convergence of sequential Monte Carlo genealogies with applications
我们提出了简单的条件下,限制系谱过程与一类相互作用的粒子系统与非中性的选择机制,随着粒子数量的增长,是一个时间重新缩放的金曼合并。序贯蒙特卡罗算法是在诸如非线性滤波和平滑等问题中近似积分的流行方法,这些问题采用这种类型的粒子系统。它们的表现强烈依赖于诱导谱系过程的性质。我们验证了我们的主要结果的标准序贯蒙特卡罗算法与广泛的一类低方差reservation计划,以及有条件的序贯蒙特卡罗与多项式reservation的条件。
2020-12-07 math.PR stat.CO stat.ME
GPU acceleration of the particle filter: the Metropolis resampler
我们考虑部署的粒子滤波器的现代大规模并行硬件架构,如图形处理单元(GPU),专注于rescue阶段。虽然标准多项式和分层重采样器需要在线程之间共同计算的重要性权重的总和,但Metropolis重采样器有利地仅需要由线程独立计算的权重之间的成对比率,并且可以通过调整其迭代次数来进一步调整性能。在分层和多项式重采样器取得令人尊敬的结果的同时,我们证明了Metropolis重采样器可以更快,其中重要性权重的方差是适度的,因此值得考虑在性能关键的上下文中,如粒子马尔可夫链蒙特卡罗和实时应用。
2012-02-28 cs.DC stat.CO
Kernel embedding of maps for sequential Bayesian inference: The variational mapping particle filter
University of Reading(雷丁大学);Universidad Nacional del Nordeste(东北国立大学);CONICET(阿根廷国家科学技术研究委员会);National Centre for Earth Observation(国家地球观测中心)
在这项工作中,一种新的序贯蒙特卡罗滤波器的目的是在高维状态空间的有效采样有限数量的粒子。粒子从前向后密度推进,使用一系列映射,使后密度和中间密度序列之间的库尔贝克-莱布勒散度最小化。映射序列表示梯度流。映射的一个关键成分是,它们被嵌入在一个再生核希尔伯特空间,这使得一个实用和有效的算法。嵌入提供了一种直接的手段来计算库尔贝克-莱布勒散度的梯度,从而使用公知的基于梯度的随机最优化算法来快速收敛。在混沌Lorenz-63系统,Lorenz-96系统,这是一个粗糙的原型大气动力学,和一个流行病模型,描述霍乱动力学的方法进行评估。映射粒子滤波器即使对长递归序列也不需要递归。在所有实验中,有效颗粒的数量保持接近于颗粒的总数。
2018-05-29 cs.LG math.OC physics.ao-ph
Autonomous Crowds Tracking with Box Particle Filtering and Convolution Particle Filtering
无人机(UAV)等自主系统需要能够识别和跟踪人群,例如用于救援和监视目的。大型团体会产生来源不确定的多个测量值。此外,通常传感器噪声特性是未知的,但测量值被限制在一定的区间内。在这项工作中,我们提出了两种解决方案的人群跟踪问题-与框粒子滤波方法和卷积粒子滤波方法。所开发的滤波器可以以优雅的方式处理测量原点的不确定性,即解决数据关联问题。对于箱形粒子滤波器(PF),我们推导出了杂波存在下的广义似然函数的理论表达式。一个自适应卷积粒子滤波器(CPF)也开发和两个过滤器的性能进行了比较,与标准的顺序重要性响应(SIR)PF。这两个过滤器的优点和缺点说明了一个现实的情况下(代表在体育场的人群运动)为一大群行人。获得了准确的估计结果。
2016-01-11 stat.AP
Resampling Strategy in Sequential Monte Carlo for Constrained Sampling Problems
序贯蒙特卡罗(SMC)方法是一类用于以序贯方式获得高维随机变量的随机样本的蒙特卡罗方法。在应用程序中遇到的许多问题通常涉及不同类型的约束。这些限制可能使问题更具挑战性。在本文中,我们制定了一个通用的框架,使用SMC约束抽样问题的基础上向前和向后的导频响应策略。我们回顾了一些现有的方法的框架下,开发了几个新的算法。注意,所有观察到的或施加在底层系统上的信息都可以被视为约束。因此,本文中概述的方法可以在许多应用中是有用的。
2018-12-19 stat.ME
A localized particle filter for geophysical data assimilation
本文提出局部化粒子滤波,通过空间分区独立更新权重与重采样,降低高维系统计算成本并缓解粒子退化,在部分观测旋转浅水系统上验证了稳定性和准确性。
2025-07-09 stat.AP
Adaptive online variance estimation in particle filters: the ALVar estimator
本文提出了一种新的方法--ALVar估计--来估计序贯蒙特卡罗方法或粒子滤波器中的渐近方差。本文提出了一种自适应调整估计器滞后的方法。(2019年)。粒子滤波器中方差的数值稳定在线估计。Bernoulli,25(2),pp. 1504-1535]适用于非常一般的分配流和粒子滤波器,包括具有自适应恢复的辅助粒子滤波器。该算法完全在线操作,在这个意义上,它是能够实时监控的粒子滤波器的方差,平均而言,恒定的计算复杂度和每次迭代的内存需求。关键是,它不需要校准任何算法参数。仅基于传播粒子云的谱系来估计方差,而无需额外的模拟,该例程仅需要对底层粒子算法添加少量代码。最后,我们证明了ALVar估计是一致的真正的渐近方差的粒子数趋于无穷大,并说明其优越性,现有的方法。
2022-07-19 stat.CO
Particle filters for high-dimensional geoscience applications: a review
粒子滤波器包含完全非线性数据同化的承诺。它们已被应用于许多科学领域,但由于它们在标准环境下对高维系统的效率低下,它们在地球科学中的应用受到限制。然而,已经取得了巨大的进步,这种限制正在迅速消失,由于最近的发展,建议密度,使用(最佳)运输的想法,使用本地化和智能自适应reservation策略。此外,强大的混合粒子滤波器和集合卡尔曼滤波器和变分方法之间已经开发。我们提出了一个国家的最先进的讨论,目前的努力发展粒子滤波器高度非线性地球科学状态估计问题,重点是大气和海洋的应用,包括许多新的想法,推导和统一,突出隐藏的连接,并产生一个有价值的工具和指南的社会。初步实验表明,粒子滤波器可以与当今的数值天气预报方法相竞争,这表明它们很快就会成为主流。
2019-04-13 physics.geo-ph stat.AP
State space partitioning based on constrained spectral clustering for block particle filtering
Univ. Lille(里尔大学);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);IMT Nord Europe(欧洲北部高等矿业电信学院);Institut Mines-Télécom(法国矿业电信学院);Université Bretagne Sud(南布列塔尼大学)
粒子滤波器(PF)是一种强有力的推理工具,广泛用于非线性和/或非高斯问题的滤波分布估计。为了克服PF的维数灾难,块PF(BPF)插入分块步骤以将状态空间划分成几个较小维度的子空间或块,使得校正和恢复步骤可以在每个子空间上独立地执行。使用小尺寸的块减小了滤波分布估计的方差,但是反过来块之间的相关性被破坏并且引入了偏差。当状态变量之间的依赖关系未知时,决定如何将状态空间划分为块并不明显,并且分区的不良选择可能会产生显著的错误开销。在本文中,我们制定的BPF划分问题作为一个聚类问题,我们提出了一个基于谱聚类(SC)的状态空间划分方法。我们设计了一个广义BPF算法,它包含两个新的步骤:(i)从预测粒子的状态向量相关矩阵的估计,(ii)SC使用此估计作为相似性矩阵,以确定一个适当的分区。此外,对最大簇大小施加约束,以防止SC提供过大的块。我们表明,所提出的方法可以汇集在同一块最相关的状态变量,同时成功地逃脱灾难的维度。
2022-03-07 cs.LG eess.SP stat.ML
How to avoid the curse of dimensionality: scalability of particle filters with and without importance weights
粒子滤波算法是一种非常流行且灵活的数值算法,可以用来解决大量的非线性滤波问题。然而,具有重要性权重的标准粒子滤波器已经被证明需要随着状态空间的维度D呈指数增加的样本量,以便实现一定的性能,这排除了它们在非常高维的滤波问题中的使用。在这里,我们专注于连续时间过滤,这是由退化的重要性权重随着时间的推移,维数灾难(COD)的动态方面。我们表明,退化发生在一个时间尺度上,随着D的增加而减少。为了缓和权重退化的影响,大多数粒子滤波器使用粒子恢复和改进的粒子运动建议函数。我们解释了为什么两者都不能防止COD一般。为了解决这个基本问题,我们调查现有的过滤算法的基础上最优反馈控制,回避使用的重要性权重。我们使用数值实验来证明Yang等人的反馈粒子滤波器(FPF)。(2013)不表现出COD。
2017-09-19 math.OC math.PR math.ST
Particle filter efficiency under limited communication
顺序蒙特卡罗方法通常不能直接在并行架构上实现。这是因为标准的重传方案涉及所有粒子之间的通信。最近提出的$α$ -顺序蒙特卡罗方法作为一个潜在的解决方案,这限制了粒子之间的通信。这种有限的通信是通过称为$α$ -矩阵的随机阵序列来控制的。我们研究了通信结构对算法的收敛性和稳定性的影响。特别是,我们定量地表明,混合性能的$α$ -矩阵的算法的稳定性发挥了重要作用。此外,我们证明,可以确保良好的混合性能,通过使用随机通信结构,每个粒子只与几个相邻的粒子。由此产生的算法收敛在通常的蒙特卡罗速率。这导致了分布式序贯蒙特卡罗的有效版本。
2022-02-17 math.PR math.ST stat.CO
Ergodicity and Accuracy of Optimal Particle Filters for Bayesian Data Assimilation
对于粒子滤波器和集合卡尔曼滤波器,了解数据同化方法在使用固定的少量粒子时如何以及为什么有效具有实际重要性,因为对于许多大规模应用,部署接近大粒子极限渐近的算法是不切实际的。在本文中,我们解决这个问题的粒子滤波器,特别是,研究其准确性(在小噪声限制)和遍历性(噪声信号和观察),而不呼吁大粒子数限制。我们首先概述了真实过滤分布的准确性和最小化属性,在动态观测模型的条件高斯性设置中工作。然后,我们表明,这些属性是继承的最优粒子滤波器的任何固定数量的粒子,并使用优化建立遍历的过滤器。为了完整性,我们还证明了最优粒子滤波器的大粒子数一致性结果,通过编写底层分布的更新方程作为递归。除了看最优粒子滤波与标准的reservation,我们得出所有上述结果(我们称之为)的高斯最优粒子滤波,并表明,理论特性是有利的,这种方法相比,标准的最优粒子滤波。
2018-11-05 math.PR math.ST stat.TH
Multidimensional Projection Filters via Automatic Differentiation and Sparse-Grid Integration
投影滤波器是一种用于逼近最优滤波问题的解的技术。在投影滤波器中,控制最佳滤波密度的传播的Kushner-Stratonovich随机偏微分方程被投影到参数密度的流形,从而产生有限维随机微分方程。尽管投影滤波器能够表示复杂的概率密度,但它们目前的实现仅限于高斯族或一维滤波应用。这项工作认为,结合数值积分和自动微分构造投影滤波算法更一般的问题。具体来说,我们提供了一个详细的阐述这种组合的指数族的流形,并展示了如何将投影过滤器多维的情况下。我们证明了数值比较的基础上的有限差分解的库什纳-Stratonovich方程和引导粒子滤波器与系统的resstrom,所提出的算法保留了一个准确的近似的过滤密度,同时需要一个相对较低的正交点。由于稀疏网格积分和自动微分用于计算自然统计量和Fisher度量的期望值,所提出的滤波算法是高度可扩展的。因此,它们适用于许多应用中的维数超过粒子滤波器的实际限制,但高斯近似被认为是不满意的。
2022-09-14 math.DS math.OC stat.ME
Particle Filter Based Monocular Human Tracking with a 3D Cardbox Model and a Novel Deterministic Resampling Strategy
Technische Universität München(慕尼黑工业大学);German Aerospace Center (DLR)(德国航空航天中心)
无标记人体运动跟踪的挑战是搜索空间的高维性。因此,在搜索空间中的有效探索具有重要意义。本文提出了一种运动捕捉算法,用于上半身运动跟踪。该系统基于单目轮廓匹配跟踪人体运动,它是建立在一个分层粒子滤波器,其中一个新的确定性恢复策略(DRS)的顶部。建议的系统进行定量评估与地面实况数据测量的惯性传感器系统。此外,我们比较了DRS与分层再分配策略(SRS)。实验结果表明,在相同粒子数的情况下,DRS优于SRS。此外,一个新的3D关节的人体上半身模型的名称3D cardbox模型被创建,并被证明是成功的运动跟踪工作。实验表明,该系统能够鲁棒地跟踪上半身运动,且不会产生自遮挡现象。也可以很好地跟踪朝向相机的运动。
2020-02-21 cs.CV cs.RO
Mitigating Premature Exploitation in Particle-based Monte Carlo for Inference-Time Scaling
Core AI, IBM(IBM核心人工智能)
本文提出ePF算法,通过熵退火和前瞻性调节技术缓解粒子退化问题,提升粒子过滤在复杂数学推理任务中的性能。
2026-03-27 cs.AI cs.CL cs.LG
Particle Filter Made Simple: A Step-by-Step Beginner-friendly Guide
本书为初学者提供粒子滤波的结构化教程,从Kalman filter的局限出发,通过预测、测量和重采样等步骤结合数学基础、示例与Python代码,帮助读者掌握利用随机样本估计动态系统隐藏状态的算法原理与实现。
2025-11-03 stat.CO