A Probabilistic Perspective on Gaussian Filtering and Smoothing
University of Washington(华盛顿大学);University of Cambridge(剑桥大学)
本文从概率视角统一高斯滤波与平滑方法,指出其核心区别仅在于联合概率均值和协方差的计算/近似方式,并据此推导了容积卡尔曼平滑器及基于吉布斯采样的鲁棒滤波与平滑算法。
2011-06-08 cs.AI cs.RO cs.SY
Sigma-Point Filtering and Smoothing Based Parameter Estimation in Nonlinear Dynamic Systems
本文研究非线性状态空间模型的近似极大似然参数估计。我们讨论了直接优化的可能性和期望最大化(EM)。对于EM,我们也给出了封闭形式的表达式的最大化步骤中的一类模型,是线性的参数,并具有加性噪声。为了获得近似的滤波和平滑的分布中所需的似然最大化方法,我们专注于使用高斯滤波和平滑算法,采用西格玛点近似所需的积分。我们讨论了不同的西格玛点计划的基础上,第三,第五,第七,第九阶无迹变换和高斯-厄米求积规则。我们比较了两个模拟实验的方法的性能:一个单变量的非线性增长模型,以及跟踪机动目标。在实验中,我们还比较了粒子滤波和扩展卡尔曼滤波的方法获得的近似似然估计。实验表明,高阶无迹变换在某些情况下可以提供更准确的估计
2015-11-02 math.DS math.OC stat.CO
Smoothing with Couplings of Conditional Particle Filters
在状态空间模型中,平滑是指在给定与过程相关的噪声测量的情况下估计潜在的随机过程的任务。我们提出了一个平滑期望的无偏估计量。无偏属性具有方法上的优势:可以并行生成独立估计量,并且可以根据中心极限定理构建置信区间以量化近似误差。为了设计无偏估计量,我们结合了一个通用的去偏技术的马尔可夫链与马尔可夫链蒙特卡罗算法平滑。由此产生的程序是广泛适用的,我们在数值实验中表明,去除的偏见是在一个可控的方差增加。我们建立了温和的假设下提出的估计的有效性。玩具模型,包括一组高信息量的观察,和一个现实的Lotka-Volterra模型与一个棘手的过渡密度提供了数值实验。
2018-09-05 stat.CO stat.ME
Backward Smoothing versus Fixed-Lag Smoothing in Particle Filters
Tokyo University of Marine Science and Techonology(东京海洋大学);The Institute of Statistical Mathematics(统计数学研究所)
本文比较了粒子滤波器中反向平滑与固定滞后平滑的精度与计算成本,发现FFBS和FFBSm在固定粒子数下表现更优,而固定滞后平滑在计算时间相等时更准确。
2026-02-14 stat.ME
A New Proof for the Linear Filtering and Smoothing Equations, and Asymptotic Expansion of Nonlinear Filtering
该研究提出基于系统噪声小参数的非线性滤波渐近展开法,通过求解常微分方程组得幂级数系数以平衡效率与精度,还统一推导了经典线性滤波与平滑方程。
2025-06-17 cs.IT eess.SP math.IT
Particle Smoothing for Hidden Diffusion Processes: Adaptive Path Integral Smoother
Radboud University(拉德堡德大学)
粒子平滑方法用于基于噪声观测的随机过程的推断。通常,在给定所有观测值的情况下,对边缘后验分布的估计是繁琐的且计算密集的。本文基于路径积分控制理论,提出了一种估计部分观测连续时间扩散过程光滑分布的简单算法。特别是,我们使用了自适应重要性采样方法,以提高有效的采样大小的后验过程的观察和可靠性的边缘估计。这是通过估计反馈控制器来实现的,以有效地从联合平滑分布中采样。我们比较了两个不同复杂度的扩散过程的标准正向滤波器/反向模拟器的估计结果。我们表明,所提出的方法比标准的FFBSi平滑分布时,滤波器分布表示不良的估计更可靠。
2017-03-06 cs.LG stat.CO
Variational Inference for the Smoothing Distribution in Dynamic Probit Models
最近,Fasano,Rebaudo,Durante和Petrone(2019)利用统一的偏态正态分布特性,为多变量动态概率模型的过滤,预测和平滑分布提供了封闭形式的表达式。这允许开发算法来从这样的分布中提取独立和相同分布的样本,以及用于过滤和预测分布的序贯蒙特卡罗过程,从而允许克服大样本量可能出现的计算瓶颈。在本文中,我们简要回顾了上述封闭形式的表达式,主要集中在一元动态概率单位的光滑分布。我们开发了一种变分贝叶斯方法,将Fasano,Durante和Zanella(2019)为静态二元概率模型引入的部分因子化平均场变分近似扩展到动态设置。结果显示了一个金融应用程序。
2021-04-18 stat.CO stat.ME
Pathwise Representation of the Smoothing Distribution in Continuous-Time Linear Gaussian Models
Graduate School of Mathematical Sciences, the University of Tokyo(东京大学大学院数理科学研究科)
本文提出连续时间线性高斯模型中平滑分布的路径表示,推导了布里森-弗里泽平滑器的数学严谨推导,并为蒙特卡罗方法提供了路径采样的可能性。
2026-01-05 eess.SP math.PR math.ST
Particle Learning and Smoothing
粒子学习(PL)提供了状态滤波,序贯参数学习和平滑的一般类的状态空间模型。我们的方法扩展了现有的粒子方法,通过一个完全适应的过滤器,利用有条件的充分统计量的参数和/或状态作为粒子的静态参数的估计。在参数不确定性的存在下,状态平滑也解决了PL的副产品。在一些例子中,我们表明,PL优于现有的粒子滤波的替代品,并证明是MCMC的竞争对手。
2010-11-04 stat.ME
Online Smoothing for Diffusion Processes Observed with Noise
我们介绍了一种在线估计平滑期望的一类添加剂泛函的方法,在一个丰富的家庭的扩散过程(可能包括跳跃)的背景下-观察离散时间的实例。我们克服了不可用的过渡密度的基础上增强路径空间的工作。例如,新方法可以应用于对指定类别的模型进行在线参数推断。定义在无限维路径空间上的算法在过去几年中主要是在MCMC技术的背景下开发的。在那里,主要的好处是实现无网格混合时间的实际时间离散算法在PC上使用。我们自己的方法建立了无限维在线过滤的框架-一个重要的积极的实际后果是构建的方差不随网格大小的减小而增加的估计。除了正则条件,我们的方法是,在原则上,适用于弱假设下-相对于限制性条件,往往需要在MCMC或过滤文献的方法定义的路径空间-该矩阵的协方差阵是可逆的。
2021-08-11 stat.CO stat.ME
Particle Smoothing Variational Objectives
Columbia University(哥伦比亚大学);Cornell University(康奈尔大学)
最近的一个机构的工作集中在使用序贯蒙特卡罗(SMC)构建一个变分家庭的过滤分布。受这项工作的启发,我们引入粒子平滑变分目标(SVO),一种新的向后模拟技术和平滑近似后验定义通过一个子采样过程。SVO增强了对该提案的支持,并提高了粒子多样性。最近的文献认为,增加样本的数量K,以获得更严格的变分界限可能会损害建议学习,由于梯度估计的信噪比(SNR)下降的速率$\mathcal{O}(1/\sqrt{K})$。作为第二个贡献,我们开发的SNR滤波SMC,这促使我们选择有偏梯度估计的理论和实证分析。我们证明了通过从梯度估计中删除分类项或使用Gumbel-Softmax来引入偏差可以减轻对SNR的不利影响。我们将SVO应用于三个非线性潜在动力学任务,并提供统计数据来严格量化过滤和平滑目标的预测。SVO一贯优于过滤目标时,给予更少的蒙特卡罗样本的三个非线性系统的复杂性增加。
2019-09-20 cs.LG stat.ML
Filtering and Smoothing with Score-Driven Models
University of Verona(维罗纳大学);University of Pavia(帕维亚大学);University of Pisa(比萨大学);Scuola Normale Superiore(意大利高等师范学院)
本文推广得分驱动模型,提出利用同期观测的更新滤波器和利用全样本的平滑器,显著降低均方误差并改善置信带覆盖,实证显示平滑估计更接近实际值。
2026-09-22 stat.ME
A New Smoothing Technique based on the Parallel Concatenation of Forward/Backward Bayesian Filters: Turbo Smoothing
最近,一种新的方法,用于开发滤波算法,基于并行级联的贝叶斯滤波器和所谓的涡轮滤波,已经提出。在这篇手稿中,我们将展示如何利用相同的概念方法来设计一种新的平滑方法,称为涡轮平滑。一种涡轮平滑器将在其前向传递中使用的涡轮滤波器与在其后向传递中使用的两个后向信息滤波器的并行级联相结合。作为一般理论的一个具体应用,给出了条件线性高斯系统的两个Turbo平滑算法的详细推导过程。一个特定的动态系统的数值结果证明,这些算法可以实现更好的复杂性,精度权衡比其他平滑技术最近出现在文献中。
2019-02-15 stat.CO
Improving particle filter performance by smoothing observations
这篇文章表明,在小尺度上增加观测方差可以减少所需的合奏大小,以避免崩溃的粒子滤波的空间扩展动力学,并提高在大尺度上的不确定性量化。粒子滤波器的权重取决于集合成员与观测值的一致程度,当少数集合成员获得大部分权重时,就会发生崩溃。崩溃导致灾难性的方差低估。增加观测误差模型中的小尺度方差,通过不强调集合成员和观测之间的小尺度差异来降低崩溃的发生率。这样做会平滑后验均值,但不会平滑单个集合成员。两个选项,用于实施拟议的观测误差模型进行了说明。将离散椭圆微分算子作为观测误差协方差阵,提供了在小尺度方法中增长的谱的期望性质。这种选择还引入了可扩展计算技术,包括多重网格求解器和相应的积分算子的多分辨率近似的结构。或者,观测值可以被平滑,然后在独立误差的假设下被同化,这相当于在小尺度上假设大误差。线性随机偏微分方程,它显着减少了粒子滤波器崩溃的发生,同时保持精度的方法证明。它还将连续排名的概率分数提高了25%,表明加权集合更准确地表示真实分布。该方法与其他用于改善粒子滤波器性能的技术兼容。
2018-05-12 stat.AP
Multilevel Monte Carlo for Smoothing via Transport Methods
在这篇文章中,我们考虑递归近似的平滑分布与部分可观察的随机微分方程(SDEs),这是离散的时间观察。这种模型出现在各种各样的应用,包括计量经济学,金融和工程。这个问题是非常具有挑战性的,因为平滑器不能解析地获得,因此需要数值近似。这通常包括通过应用时间离散化的平滑,例如欧拉方法,然后应用数值(例如蒙特卡罗)方法来近似平滑。这导致了大量关于解决这些问题的方法的文献,其中最流行的可能是基于粒子滤波器(PF)的,例如[9]。在这类问题的过滤的上下文中,众所周知,粒子滤波器可以在成本方面进行改进,以实现用于估计的给定的均方误差(MSE)。这在某种意义上说,通过使用多级(ML)方法[12,13,18],经由多级粒子滤波器(MLPF)[16,20,21],可以减少计算工作量以实现该目标MSE。例如,为了在近似与具有恒定扩散系数的欧拉离散化扩散相关联的滤波分布时获得某些$ε> 0$的$\mathcal{O}(ε^2)$的MSE,PF的成本是$\mathcal{O}(ε^{-3})$,而MLPF的成本是$\mathcal{O}(ε^{-2}\log(ε)^2)$。在这篇文章中,我们考虑一种新的方法来取代粒子滤波器,使用[27]中的传输方法。在过滤的上下文中,期望所提出的方法通过在假设下以$\mathcal{O}(ε^{-2})$的成本产生$\mathcal{O}(ε^2)$的MSE来改进MLPF。…
2018-05-14 stat.ME
Monte Carlo fixed-lag smoothing in state-space models
本文提出了一种算法,蒙特卡罗固定滞后平滑的状态空间模型定义的扩散过程中观察到的噪声离散时间的测量。基于粒子近似的过滤和平滑分布,该方法依赖于条件扩散的模拟技术。建议的顺序平滑器可以应用于一般的非线性和多维模型,如环境应用中使用的。作为一个实际的例子,在高维背景下的湍流的平滑。
2013-10-04 stat.AP
Tree-based Particle Smoothing Algorithms in a Hidden Markov Model
我们提供了一种基于Lindsten et al.(2017)的分治方法的新策略,以研究隐马尔可夫模型中的平滑问题。我们采用这种方法将隐马尔可夫模型分解为子模型,基于辅助树结构的中间目标分布,并从叶节点的子模型向根处的原始感兴趣模型产生独立样本。我们回顾了Lindsten等人提出的子模型中的目标分布,并提出了两类新的目标分布,即(联合)滤波分布和(联合)平滑分布的估计。第一种类型可以通过预先运行过滤算法直接构造。使用第二类目标分布的算法的优点是,在预先近似边缘平滑分布的代价下,粗略地保持所有随机变量的边缘在树的所有水平不变。我们进一步提出了使用预先生成的蒙特卡罗样本的这些目标分布的建设。我们的经验表明,建议的中间目标分布的算法给出稳定的和可比的结果,作为传统的平滑方法在线性高斯模型和非线性模型。
2018-08-25 stat.ME
Particle rejuvenation of Rao-Blackwellized Sequential Monte Carlo smoothers for Conditionally Linear and Gaussian models
本文主要研究条件线性和高斯状态空间中光滑分布的序贯蒙特卡罗近似。为了减少平滑器的蒙特卡罗方差,在这些模型中通常使用Rao-Blackwellization:粒子近似用于对隐藏状态的序列进行采样,而高斯状态使用卡尔曼滤波器/平滑器的变体根据状态和观测的序列进行显式积分。第一次成功的尝试,使用Rao-Blackwellization平滑扩展的Bryson-Frazier平滑高斯线性状态空间模型,使用广义的两个过滤器公式与卡尔曼滤波器/平滑。最近,一个向前向后分解的平滑分布模仿的Rauch-Tung-Striebel平滑的制度结合向后卡尔曼更新已经推出。本文研究了在所有这些算法中引入额外的再生步骤的好处,以在每个时刻对向前和向后粒子的新政权进行采样。这定义了平滑分布的基于粒子的近似,其支持不限于前向或后向滤波器中采样的粒子集。这些程序适用于商品市场,这是使用两个因素模型的基础上,现货价格和原油数据的便利收益率。
2017-07-05 stat.AP stat.ME
Variance estimation for Sequential Monte Carlo Algorithms: a backward sampling approach
针对粒子滤波和平滑的在线渐近方差估计问题,提出基于后向权重的新估计器及受PaRIS算法启发的高效估计器,提升了稳定性并降低了方差。
2023-01-02 stat.ME
A closed-form filter for binary time series
非高斯状态空间模型出现在几个应用中,在这个框架内,二进制时间序列设置提供了一个相关的例子。然而,与高斯状态空间模型不同--在高斯状态空间模型中,滤波、预测和平滑分布以封闭形式可用--二元状态空间模型需要近似或序贯蒙特卡罗策略来进行推断和预测。这是由于高斯状态和二进制数据的观测方程引起的似然性之间明显缺乏共轭性。在这篇文章中,我们证明了高斯状态变量的动态概率模型的过滤,预测和平滑分布,事实上,是可用的,属于一类统一的偏态法线(SUN),其参数可以通过解析表达式在时间上递归更新。此外,这些分布的关键泛函原则上是可用的,但它们的计算需要多变量高斯累积分布函数的评估。利用SUN属性,我们通过基于平滑分布的独立样本的新型Monte Carlo方法来解决这个问题,该方法可以很容易地适应过滤和预测情况,从而提高了最先进的近似和序贯蒙特卡罗推断在小到中等维度的研究。新的序贯蒙特卡罗程序,利用太阳的属性也被开发来处理在线推理在高维。在财务应用程序中概述了相对于竞争对手的性能增益。
2021-05-18 stat.ME
A Note on the Relation Between Balenzela's Algorithm for Two-Filter Formula for Smoothing and Information Filter
本文证明了 Balenzuela 等人提出的用于双滤波公式平滑的精确算法,等价于对反向状态空间模型应用信息滤波所得的后向滤波,并在简单状态空间模型下进行了说明。
2023-06-21 stat.CO
Robust Bayesian Filtering and Smoothing Using Student's t Distribution
Linköping University(林雪平大学);Cambridge University(剑桥大学);Middle East Technical University(中东理工大学)
本文提出基于学生t分布的鲁棒滤波与平滑算法,以应对厚尾过程和测量噪声,改进卡尔曼滤波在非高斯环境下的性能。
2017-03-07 cs.SY eess.SY stat.CO
Ensemble transform algorithms for nonlinear smoothing problems
针对一类粒子平滑器研究了几种旨在克服非线性和非高斯设置中平滑挑战的数值工具。所考虑的家庭的平滑诱导类的线性系综变换滤波器,其中包含经典的过滤器,如随机系综卡尔曼滤波器,系综平方根过滤器和最近推出的非线性系综变换滤波器。此外,整体变换粒子平滑器被引入并且特别突出,因为它在粒子限制中是一致的,并且不需要关于后验分布族的假设。所考虑的线性系综变换平滑类的线性更新模式允许实现重要的补充技术,如自适应扩展校正,混合配方,和本地化,以方便其应用到复杂的估计问题。这些额外的功能推导和数值研究的一系列越来越具有挑战性的测试问题。
2019-10-28 cs.NA math.NA stat.CO
Efficient Particle Smoothing for Bayesian Inference in Dynamic Survival Models
本文提出了一种有效的分段指数风险(PEH)模型的贝叶斯推断,它允许协变量对生存时间的影响随时间而变化。建议的推理方法是基于粒子平滑(PS)算法,取决于三个粒子滤波器。利用后验分布的拉普拉斯近似和线性贝叶斯理论,设计了适合于生存数据和PEH模型性质的粒子滤波器的有效建议(重要性)分布。该算法被应用到模拟和真实数据,结果表明,它产生一个有效的样本量,这是两个数量级以上的国家的最先进的MCMC采样器为相同的计算时间,并在高维和相对较大的数据规模良好。
2020-03-31 stat.CO