On Unbiased Estimation for Discretized Models
在这篇文章中，我们考虑计算期望值w.r.t.受离散化误差影响的概率测度。例子包括部分观察到的扩散过程或逆问题，其中可能必须离散时间和/或空间，以便实际上与感兴趣的概率一起工作。由于只访问这些离散化，我们认为建设无偏蒙特卡罗估计的期望w.r.t.这种目标概率分布。它示出了如何获得这样的估计使用一种新的适应随机化方案和马尔可夫模拟方法。在适当的假设下，这些估计具有有限的方差和有限的期望成本。这种方法有两个重要的结果：（i）在规范复杂度下实现无偏推理，以及（ii）所得到的估计量可以独立生成，从而允许对任意多个并行处理器进行强缩放。提出了几种算法，并应用于贝叶斯推断问题的一些例子，与模拟和真实的观测数据。
2021-02-24 cs.NA math.NA stat.CO
Parameter Estimation for Partially Observed Time-Changed SDEs
School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学深圳分校数据科学学院）
本文研究部分观测时间变化随机微分方程的参数估计问题，提出新的MCMC算法以实现基于得分的无偏随机近似方法，并证明多级贝叶斯估计方法具有O(ε²)的均方误差和O(ε⁻² log(ε)²)的计算成本。
2026-05-11 cs.NA math.NA stat.CO
Unbiased Parameter Estimation for Partially Observed Diffusions
本文针对部分观测扩散过程的静态参数估计问题，提出基于双重随机化和马尔可夫随机逼近的无偏估计方法，消除了时间离散化偏差，并通过数值实验验证其优于现有无偏方法。
2023-09-19 cs.NA math.NA stat.CO
Iterated filtering
部分观测马尔可夫过程模型的推理一直是一个长期存在的方法挑战，许多科学和工程应用。迭代滤波算法通过求解滤波问题的递归序列来最大化部分观测马尔可夫过程模型的似然函数。我们提出了新的理论成果有关的迭代滤波算法的收敛性，通过顺序蒙特卡罗滤波器实现。这一理论补充了越来越多的经验证据，迭代过滤算法提供了一个有效的推理策略的非线性动态系统的科学模型。在我们的理论的第一步涉及研究一种新的递归方法，最大化的似然函数的潜在变量模型，当这种可能性是通过重要性抽样评估。这导致考虑迭代重要性采样算法，其用作迭代滤波的简单特殊情况，并且可能具有其自身的适用性。
2012-11-22 math.ST stat.TH
Particle filtering within adaptive Metropolis Hastings sampling
我们表明，它是可行的，进行精确的贝叶斯推断的非高斯状态空间模型使用自适应大都会Hastings采样计划的似然近似的粒子滤波器。此外，基于法线混合提议的自适应独立Metropolis Hastings采样器在计算上比自适应随机游动提议有效得多，因为与近似似然的成本相比，构造良好自适应提议的成本可以忽略不计。独立的大都会黑斯廷斯提案也很有吸引力，因为它们很容易在多个处理器上并行运行。我们还表明，当使用的粒子滤波器，任何模型的边际似然是在一个有效的和无偏的方式，使模型比较简单。
2009-11-02 stat.CO stat.ME
Nonlinear Kalman Filtering with Divergence Minimization
我们考虑的非线性卡尔曼滤波问题使用Kullback-Leibler（KL）和$α$ -发散措施作为优化准则。与线性卡尔曼滤波器不同，非线性卡尔曼滤波器不具有封闭形式的高斯后验，因为由于似然中的非线性而缺乏共轭性。在本文中，我们提出了新的算法来优化的前向和反向形式的KL分歧，以及α发散，其中包含这两个作为限制的情况下。与以前的方法不同，我们的算法不进行近似的发散被优化，但使用蒙特卡罗积分技术，以获得无偏算法直接优化。我们评估性能的雷达和传感器跟踪，和期权定价问题，表现出普遍的改善UKF和EKF，以及竞争力的性能与粒子滤波。
2017-05-01 math.OC stat.ML
Accelerate iterated filtering
在部分观测马尔可夫过程模型（POMP）的基于模拟的推断中，蒙特卡罗滤波的副产品是对数似然函数的近似。最近，迭代滤波[14，13]最初已经被引入，并且已经表明对数似然的梯度也可以近似。因此，可以应用不同的随机最优化算法来估计底层模型的参数。由于加速梯度是优化文献中的一种有效方法，我们证明了我们可以以相同的方式加速迭代滤波，并在放松无偏梯度近似的限制条件的同时继承了高收敛速度。我们表明，这种新的算法可以适用于凸和非凸的日志似然函数。此外，这种方法在玩具示例和传染病建模的挑战性科学问题中大大优于大多数其他先前的方法。
2018-02-23 stat.ME
Unbiased Estimation of the Hessian for Partially Observed Diffusions
在这篇文章中，我们考虑的发展无偏估计量的海森，对数似然函数的参数，部分观察扩散过程。这些过程出现在许多应用中，其中这种扩散需要通过雅可比矩阵或海森矩阵的导数信息。由于时间离散化的扩散引起的偏见，我们提供了一个无偏估计量的海森。这是基于使用Girsanov定理和Mcleish [2011]和Rhee & Glynn [2015]开发的随机化方案。我们证明了我们开发的估计的海森是无偏的，有限方差之一。我们数值测试和验证，通过比较这里的方法，一个新提出的粒子滤波方法。我们测试这一范围内的扩散模型，其中包括不同的奥恩斯坦-乌伦贝克过程和Fitzhugh-南云模型，在神经科学中出现。
2021-09-06 cs.NA math.NA stat.CO
Multilevel Particle Filters for Partially Observed McKean-Vlasov Stochastic Differential Equations
针对部分观测McKean-Vlasov随机微分方程的滤波问题，提出新的粒子滤波器和多层粒子滤波器进行数值近似，并证明MLPF在计算成本上具有更优的理论收敛阶。
2024-04-25 cs.NA math.NA stat.CO
Particle-based likelihood inference in partially observed diffusion processes using generalised Poisson estimators
本文涉及使用的期望最大化（EM）算法的推理部分观察扩散过程。在这方面，一个众所周知的问题是，除了少数扩散过程缺乏封闭形式的过渡密度的表达式。因此，为了有效地估计EM中间量，我们构造，使用新的技术无偏估计的扩散过渡密度，随机权重固定滞后辅助粒子平滑，避免了众所周知的问题，粒子轨迹退化的平滑模式。理论上证明了该估计器的合理性，并在一个模拟的例子上进行了演示。
2010-08-17 math.ST stat.TH
Variational Marginal Particle Filters
Manning College of Information and Computer Sciences, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校曼宁信息与计算机科学学院）
状态空间模型的变分推断是一个困难的问题。最近的工作集中于从无偏的序贯蒙特卡罗估计量推导变分目标。我们发现，边缘粒子滤波器是从序贯蒙特卡罗通过应用Rao-Blackwellization操作，牺牲了减少方差和可微的轨迹信息。我们提出了变分边缘粒子滤波器（VMPF），这是一个可微的和重新参数化的变分滤波目标的SSM的基础上的无偏估计量。我们发现，VMPF有偏梯度提供更紧密的界限比以前的目标，和无偏的重新参数化梯度有时是有益的。
2022-03-14 cs.LG stat.ML
Bernoulli Race Particle Filters
当粒子滤波器中的权重不能解析地获得时，不能采用标准的恢复方法。为了避免这个问题，最先进的算法用非负无偏估计代替真实权重。该算法仍然有效，但与使用真实权重的粒子滤波器相比，代价是所得滤波估计的方差更高。我们在这里提出了一种新的算法，允许restering根据真正的棘手的权重时，只有一个无偏估计量的权重。我们证明了我们的算法上的几个例子。
2019-03-03 stat.CO stat.ML
Online Sequential Monte Carlo smoother for partially observed stochastic differential equations
本文提出了一种新的算法来逼近部分可观测随机微分方程的光滑可加泛函。该方法依赖于最近的程序，该程序允许在线计算这样的近似，即，当接收到观测时，并且计算复杂度随着蒙特卡罗样本的数量线性增长。这种在线平滑器不能直接用于部分观测的随机微分方程的情况下，因为潜在数据的转移密度通常是未知的。我们证明了一个类似的算法仍然可以定义为部分观察到的连续过程，通过替换这个未知量的无偏估计量获得，例如使用一般泊松估计。我们证明了这个估计是一致的，并使用两个模型的数据说明了它的性能。
2017-03-06 stat.AP stat.ME
Reduced Complexity Filtering with Stochastic Dominance Bounds: A Convex Optimization Approach
本文利用随机优势原理构造隐马尔可夫模型（HMM）滤波器的样本路径上界和下界。给定一个隐马尔可夫模型，通过使用凸优化方法的核范数最小化与共正约束，我们构造低秩随机矩阵，使最优滤波器使用这些矩阵可证明的下限和上限（相对于偏序集）在每个时刻的真实过滤分布。由于这些矩阵是低秩的（比如R），因此计算过滤边界的计算成本是O（XR）而不是O（X2）。一个蒙特卡洛重要性抽样过滤器，利用这些上限和下限估计的最佳后验。最后，利用Dobrushin系数，给出了真后验和上下界之间的变分范数的显式界。
2014-07-02 stat.CO
Multilevel Particle Filters for a Class of Partially Observed Piecewise Deterministic Markov Processes
本文针对部分观测的分段确定性马尔可夫过程，提出了一种新的多级粒子滤波方法，通过时间离散化求解ODE，并给出了均方误差界限，证明其相比标准粒子滤波具有显著计算优势，且数值实验验证了理论结果。
2023-09-06 stat.CO
Particle Filters for Partially Observed Diffusions
针对一类部分可观测的多元扩散问题，提出了一种新的粒子滤波器方法。%连续时间动态模型，其中%信号由多变量扩散过程给出。我们考虑了各种观测方案，包括扩散观测误差，观测的一个子集的组件的多变量扩散和到达时间的泊松过程，其强度是一个已知的函数的扩散（考克斯过程）。与目前可用的方法不同，我们的粒子滤波器不需要近似的过渡和/或观察密度使用时间离散化。相反，他们建立在最近的扩散过程的精确模拟和过渡密度的无偏估计方法，如\cite{besk:papa:robe:fear:2006}中所述。特别地，我们引入了广义Poisson估计，它推广了\cite{besk:papa:robe:fear:2006}的Poisson估计。因此，我们的过滤器避免了时间离散化所造成的系统偏差，并且与其他连续时间过滤器相比，它们具有显着的计算优势。这些%优势在理论上得到了理论支持。针对我们的粒子滤波器方案给出了中心极限定理。
2007-10-23 stat.CO stat.ME
Unbiased Parameter Estimation of Partially Observed Diffusions using Diffusion Bridges
本文提出一种利用扩散桥相关对数似然梯度恒等式的新方法，实现对部分观测扩散过程静态参数的无时间离散化偏差估计，允许扩散系数依赖参数，并证明估计量无偏且有限方差。
2025-09-25 cs.NA math.NA stat.ME
Ensemble Kalman Variational Objectives: Nonlinear Latent Trajectory Inference with A Hybrid of Variational Inference and Ensemble Kalman Filter
Meiji University（明治大学）；Chuo University（中央大学）
变分推断（VI）结合贝叶斯非线性滤波产生潜在的时间序列建模的最先进的结果。最近的大量工作集中在序贯蒙特卡罗（SMC）及其变体上，例如，前向滤波后向模拟（FFBSi）。虽然这些研究取得了成功，严重的问题仍然存在于粒子退化和有偏梯度估计。在本文中，我们提出了Ensemble卡尔曼变分目标（EnKO），VI和集合卡尔曼滤波（EnKF）的混合方法，推断状态空间模型（SSM）。我们提出的方法可以有效地识别潜在的动态，因为它的粒子多样性和无偏梯度估计。我们证明了我们的EnKO优于SMC为基础的方法在预测能力和粒子效率的三个基准非线性系统识别任务。
2021-11-09 cs.LG stat.CO stat.ML
Statistical Inference for Partially Observed Markov Processes via the R Package pomp
部分观测马尔可夫过程（POMP）模型，也称为隐马尔可夫模型或状态空间模型，是时间序列分析的普遍工具。R包POMP为使用非线性、非高斯POMP模型的蒙特卡罗统计调查提供了一个非常灵活的框架。POMP模型的一系列现代统计方法已经在这个框架中实现，包括序贯蒙特卡罗，迭代滤波，粒子马尔可夫链蒙特卡罗，近似贝叶斯计算，最大合成似然估计，非线性预测和轨迹匹配。在本文中，我们展示了这些方法的应用程序，使用一些简单的玩具问题。我们还说明了更复杂的POMP模型的规格，使用非线性流行病学模型与离散人口，季节性，和额外的人口统计随机性。我们将讨论用户定义模型的规范和在pomp提供的编程环境中开发附加方法。
2015-10-21 stat.ME
Automatic Differentiation for Inference on Partially Observed Markov Process Models
University of Pennsylvania（宾夕法尼亚大学）；University of Michigan（密歇根大学）
本文提出将两种现有自动微分粒子滤波方法嵌入统一理论框架，扩展出一类支持偏差/方差权衡的新算法，并开发仅需可微分模拟器的似然最大化方法，在科学基准问题上显著优于现有方法。
2026-10-23 stat.CO stat.ME stat.ML
Particle Filters for Partially-Observed Boolean Dynamical Systems
部分可观测布尔动力系统（POBDS）是一类非线性模型，主要应用于基于噪声和不完全测量的布尔过程的估计和控制。POBDS状态估计的最优最小均方误差（MMSE）算法，即布尔卡尔曼滤波器（BKF）和布尔卡尔曼平滑器（BKS），由于计算量和存储量的要求，在大系统的情况下是难以处理的。为了解决这个问题，我们提出了近似MMSE滤波和平滑算法的辅助粒子滤波器（APF）方法的基础上，从序贯蒙特卡罗理论。这些算法与最大似然（ML）方法同时用于POBDS模型中的状态和参数估计。在连续参数的存在下，ML估计使用的期望最大化（EM）算法进行，我们为此开发了一个特殊的平滑，降低了计算复杂性的期望最大化算法。将所得的基于粒子的自适应滤波器应用于通过噪声RNA-Seq时间序列数据观察到的布尔基因调控网络的POBDS模型，并通过一系列使用众所周知的细胞周期基因调控模型的数值实验来评估性能。
2017-02-23 math.DS q-bio.MN stat.ME
Particle Filtering for Large Dimensional State Spaces with Multimodal Observation Likelihoods
我们研究有效的重要性采样技术的粒子滤波（PF）时，（a）的观察可能性（OL）是经常多模态或重尾，或（b）的状态空间维数是大的或两者兼而有之。当OL是多峰的，但状态转移pdf（STP）是足够窄的，最佳的重要性密度通常是单峰。在这种假设下，已经提出了许多技术。但是，当STP是广泛的，这个假设并不成立。我们研究如何现有的技术可以推广到的情况下，最佳的重要性密度是多模态的，但单峰的状态向量的一部分的条件。充分条件来测试这个条件后验的单峰性。使用PF精确跟踪的粒子数量N随着状态空间维度而增加，因此使得任何常规PF对于大维度跟踪问题都是不切实际的。我们提出了一个解决方案，部分解决了这个问题。多模态OL的一类重要的大维度问题是使用传感器网络跟踪空间变化的物理量，例如大区域中的温度或压力，所述传感器网络可以是非线性的和/或可以具有不可忽略的故障概率。
2008-05-01 cs.IT math.IT math.ST
Stochastic Filtering of Reaction Networks Partially Observed in Time Snapshots
针对时间快照部分观测下随机反应网络的条件概率分布估计问题，提出一种利用非齐次泊松过程进行精确插值的targeting method粒子滤波方法，并提供了严格分析与数值验证。
2024-07-25 cs.NA math.NA math.PR
Observed-unobserved information transfer in ensemble Kalman filtering for the partially observed Lorenz 96 model
Nagoya University（名古屋大学）
本文研究了投影PO方法在部分观测洛伦兹96模型中的误差分析，通过加性协方差膨胀建立统一时间误差界，并验证了有无投影设置的准确性。
2026-10-09 cs.NA math.DS math.NA
Robust, partially alive particle Metropolis-Hastings via the Frankenfilter
Lancaster University（兰卡斯特大学）；Durham University（杜伦大学）；University of Bristol（布里斯托大学）
针对隐马尔可夫模型中条件似然为零导致粒子滤波失效的问题，提出Frankenfilter，通过固定模拟次数上下限并设定成功目标，实现鲁棒且高效的似然估计，在伪边际Metropolis-Hastings中比标准粒子滤波效率提高2-3倍。
2026-09-03 stat.ME
Unbiased Estimation of the Vanilla and Deterministic Ensemble Kalman-Bucy Filters
在这篇文章中，我们考虑发展的无偏估计量的集合卡尔曼-布西滤波器（EnKBF）。EnKBF是一种连续时间滤波方法，可以看作是著名的离散时间集合卡尔曼滤波器的连续时间模拟。我们的无偏估计量将受到最近工作的激励[Rhee \& Glynn 2010，[31]]，该工作引入随机化作为产生无偏和有限方差估计量的一种手段。随机化通过离散化水平和每个水平的样本数量进入。我们的估计将是特定的线性和高斯设置，我们知道，EnKBF是一致的，在粒子限制$N \rightarrow \infty$，与KBF。我们强调这两个特定的变体的EnKBF，即确定性和香草变种，并证明这一点上的线性奥恩斯坦-乌伦贝克过程。我们比较这与EnKBF和多级（MLEnKBF），不同尺寸的实验。我们还提供了一个多层次的确定性EnKBF，这提供了一些无偏的方法的指导方针的证明。
2022-08-08 cs.NA math.NA stat.ME
Eigenfunction martingale estimating functions and filtered data for drift estimation of discretely observed multiscale diffusions
提出了一种新的多尺度扩散过程的漂移估计方法。对于双尺度势中的朗之万动力学，我们的方法依赖于均匀化动力学的本征值和本征函数。我们的第一个估计是由均匀化扩散过程的生成元的鞅估计函数导出的。然而，估计量的无偏性取决于对观测值进行采样的速率。因此，我们引入了第二个估计也依赖于过滤的数据，我们证明了它是独立的采样率渐近无偏。一系列的数值实验说明了我们不同的估计的可靠性和效率。
2022-04-14 cs.NA math.NA
Backward SDE Filter for Jump Diffusion Processes and Its Applications in Material Sciences
Oak Ridge National Laboratory（橡树岭国家实验室）；The University of Tennessee at Chattanooga（田纳西大学查塔努加分校）
本文提出基于倒向SDE的滤波方法，用于处理部分观测的马尔可夫扩散过程，并应用于材料科学领域。
2018-05-28 cs.NA math.NA
High-dimensional Bayesian filtering through deep density approximation
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
本文比较了两种深度密度方法在非线性滤波中的性能，通过福克-普朗克方程建模随机微分方程的滤波密度，并在离散观测时间进行贝叶斯更新。在低维例子中粒子滤波有效，但在高维洛伦茨-96模型中，深度后向随机微分方程滤波器表现更优，计算效率提升显著。
2026-04-19 cs.NA math.NA stat.CO
Numerical approximations for partially observed optimal control of stochastic partial differential equations
本文研究部分观测随机偏微分方程最优控制的数值近似，建立随机最大原理并开发结合随机梯度下降与粒子滤波的算法，通过数值实验验证了其有效性。
2025-04-01 cs.NA math.NA math.OC
Ensemble Kalman Inversion for nonlinear problems: weights, consistency, and variance bounds
针对非线性正向映射下EnKI和EnSRF有偏及重要性采样方差大的问题，提出加权版本WEnKI和WEnSRF，兼具无偏性和有界权重方差，并证明了其性质及方程稳定性。
2020-07-22 cs.NA math.NA
Ensemble Kalman-Bucy filtering for nonlinear model predictive control
Institut für Mathematik, Universität Potsdam（波茨坦大学数学研究所）
针对部分观测动力系统中状态估计与最优控制割裂的问题，本文将集合 Kalman-Bucy 滤波引入非线性模型预测控制，用交互粒子近似 Pontryagin 极大值原理的正倒向随机微分方程，并在倒立摆上验证性能。
2025-03-16 cs.LG cs.NA cs.SY
