Bayesian Extensions of Kernel Least Mean Squares
University of Texas at Austin（德克萨斯大学奥斯汀分校）；Helsinki Institute for Information Technology（赫尔辛基信息技术研究所）
核最小均方（KLMS）算法是一种计算效率高的非线性自适应滤波方法，它将著名的（线性）最小均方算法“核化”。我们表明，最小均方算法是密切相关的卡尔曼滤波，因此，KLMS可以被解释为近似贝叶斯滤波方法。这使我们能够通过修改底层的状态空间和观测模型来系统地开发KLMS的扩展。由此产生的扩展引入了许多理想的属性，例如“遗忘”以及从离散数据中学习的能力，同时保留了原始算法的计算简单性和时间复杂性。
2013-10-20 cs.LG stat.ML
Top-down particle filtering for Bayesian decision trees
University College London（伦敦大学学院）；University of Cambridge（剑桥大学）；University of Oxford（牛津大学）
决策树学习是机器学习和统计学中分类和回归的一种流行方法，贝叶斯公式--在决策树上引入先验分布，并将学习公式化为给定数据的后验推理--已被证明具有竞争力的性能。与以自上而下方式工作的经典决策树学习算法如ID 3、C4.5和CART不同，现有贝叶斯算法通过经由对树的结构的局部蒙特卡罗修改迭代地演化完整树（或其集合）来产生对后验分布的近似，例如，使用马尔可夫链蒙特卡罗（MCMC）。我们提出了一个序贯蒙特卡罗（SMC）算法，而不是工作在一个自上而下的方式，模仿经典算法的行为和速度。我们的经验表明，我们的方法提供的准确性相比，最流行的MCMC方法，但操作速度超过一个数量级，因此代表了一个更好的计算精度权衡。
2013-08-22 cs.LG stat.ML
Discriminative Bayesian filtering lends momentum to the stochastic Newton method for minimizing log-convex functions
University of Cambridge（剑桥大学）
该研究将最小化对数凸函数平均值的随机牛顿优化问题转化为判别式观测的潜状态空间序列贝叶斯推断问题，提出结合梯度与海森矩阵历史的贝叶斯滤波优化算法，推导了类重球动量的旧观测衰减条件，并辅以示例阐释。
2023-08-21 cs.LG math.OC stat.ML
Bayesian Conditional Density Filtering
Duke University（杜克大学）；UC Santa Cruz（加州大学圣克鲁兹分校）
我们提出了一个有效的在线贝叶斯推断的条件密度过滤（C-DF）算法。C-DF使MCMC抽样适应在线设置，从近似值到条件后验分布进行抽样，该后验分布通过在新数据到达时传播替代条件充分统计量（数据和参数估计的函数）获得。这些量消除了同时存储或处理整个数据集的需要，并提供了许多理想的功能。通常，这些包括减少内存需求和运行时间，改进混合，以及最先进的参数推断和预测。这些改进是通过几个说明性的例子，包括高维压缩回归的应用程序。最后，我们证明了C-DF样本渐近收敛到目标后验分布的采样进行和更多的数据到达。
2015-09-22 cs.LG stat.CO stat.ML
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick（华威大学）；The Alan Turing Institute（艾伦·图灵研究所）
我们引入了一个框架，在一般的状态空间隐马尔可夫模型（HHALGORY）的可能性误指定的推理。特别是，我们利用广义贝叶斯推断（GBI）的损失理论的角度来定义广义过滤递归的障碍，可以解决模型误指定下的推理问题。在这样做的过程中，我们到达的原则性程序，强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法（SMC），其中大多数标准粒子方法及其相关的收敛结果，可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题，并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Bayesian Trend Filtering
我们开发了一个完全贝叶斯分层模型的趋势过滤，本身是一个新的发展，非参数，单变量回归。该框架更广泛地适用于广义套索，但重点是贝叶斯趋势过滤。我们比较了两个收缩先验，双指数和广义双帕累托。一个模拟研究，比较贝叶斯趋势滤波的原始配方和其他一些流行的方法表明，我们的方法，以提高估计误差，同时保持，如果不提高覆盖概率。两个时间序列数据集证明贝叶斯趋势滤波的鲁棒性可能违反其假设。
2015-05-28 stat.ME
Flow-based Bayesian filtering for high-dimensional nonlinear stochastic dynamical systems
School of Mathematical Sciences, Tongji University（同济大学数学科学学院）；Department of Mathematics, Shanghai Normal University（上海师范大学数学系）
针对高维非线性随机动力系统的贝叶斯滤波问题，提出基于流的贝叶斯滤波器（FBF），利用归一化流构建具有高斯滤波分布的潜在线性状态空间模型，实现高效数据驱动的滤波。
2025-03-05 cs.LG cs.NA math.NA
Attention-Bayesian Hybrid Approach to Modular Multiple Particle Tracking
Aix Marseille Univ（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）；Centrale Med（中央马赛医学院）
针对高杂波多粒子跟踪中的轨迹组合爆炸问题，提出Transformer软关联剪枝与贝叶斯滤波结合的混合框架，提升精度及对虚假检测的鲁棒性。
2025-06-11 cs.LG stat.ML
Coupling-Informed Transport Maps for Bayesian Filtering in Nonlinear Dynamical Systems
School of Mathematical Sciences, Tongji University（同济大学数学科学学院）；Key Laboratory of Intelligent Computing and Applications (Ministry of Education), Tongji University（智能计算与应用重点实验室（教育部））
本文提出基于状态与观测变量耦合的无似然传输滤波方法，通过块三角结构将滤波分析步骤改写为最大均值差（MMD）最小化问题，并引入训练自由传输滤波方法以避免MMD优化的非凸性，从而准确逼近非高斯滤波后验并避免粒子崩溃。
2026-05-13 cs.LG stat.CO stat.ML
EnLLVM: Ensemble Based Nonlinear Bayesian Filtering Using Linear Latent Variable Models
University of South Carolina（南卡罗来纳大学）；University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
实时非线性贝叶斯滤波算法由于数据量大、速度快以及计算模型复杂度的增加而不堪重负。在本文中，我们提出了一种新的集成基于非线性贝叶斯滤波方法，它只需要少量的模拟，并可以应用到高维系统中存在的棘手的似然函数。所提出的方法使用线性潜在投影估计的联合概率分布之间的状态，参数和可观的使用的高斯成分的混合物产生的重建误差为每个合奏成员。由于它利用了线性潜变量模型背后的计算机制，因此可以实现快速实现，而无需计算高维样本协方差阵。在一个高维Lorenz非线性动力学系统上，将该方法与集合卡尔曼滤波器的性能进行了比较。
2019-05-31 cs.LG stat.CO
An Analytically Tractable Bayesian Approximation to Optimal Point Process Filtering
基于点过程观测的动态状态估计（滤波）过程一般是难以处理的。数值采样技术通常在实践中很有用，但导致对最佳编码/解码策略的概念性见解有限，这与计算神经科学具有重要意义。我们开发了一个易于分析的贝叶斯近似最佳过滤点过程的观察，这使我们能够引入分布假设的感觉细胞的属性，这大大方便了分析的最佳编码的情况下偏离共同的假设统一编码的基础上。分析框架导致的见解，这是很难从数值算法中获得的，是一致的调谐曲线中心的分布与实验。有趣的是，我们发现，从没有尖峰获得的信息可能是至关重要的性能。
2015-07-28 q-bio.NC stat.ML
Probabilistic Solutions To Ordinary Differential Equations As Non-Linear Bayesian Filtering: A New Perspective
我们将常微分方程（ODE）解的概率数值近似表示为具有非线性测量函数的高斯过程（GP）回归问题。这是通过定义测量序列来实现的，该测量序列由GP的导数与在GP处评估的向量场之间的差的观测值组成-这些观测值在ODE的解处均为零。当GP具有状态空间表示时，问题可以简化为非线性贝叶斯滤波问题，并且所有广泛使用的贝叶斯滤波和平滑问题的近似都变得适用。此外，所有以前的基于GP的ODE求解器，制定在生成合成测量的梯度场出来作为特定的近似。基于本文提出的非线性贝叶斯滤波问题，我们开发了新的高斯求解器，我们建立了良好的稳定性。此外，非高斯近似的滤波问题推导出的粒子滤波器的方法。所得到的求解器进行了比较与其他概率求解器在说明性实验。
2019-04-24 stat.CO stat.ME stat.ML
A Discriminative Approach to Bayesian Filtering with Applications to Human Neural Decoding
Brown University（布朗大学）
给定将隐藏状态序列与对应的测量或观测相关联的静态状态空间模型，贝叶斯滤波提供了用于在给定到当前时间的所有测量的情况下推断当前状态的后验分布的原则性统计框架。例如，阿波罗登月舱实施了卡尔曼滤波器，从一系列基于地球的雷达测量中推断其位置，并安全降落在月球上。为了执行贝叶斯过滤，我们需要一个描述每个观测给定状态的条件分布的测量模型。卡尔曼滤波器将该测量模型视为线性高斯模型。在这里，我们展示了如何一个非线性的，高斯近似的状态分布给定的观察可以与贝叶斯规则结合使用，以建立一个非线性的，非高斯测量模型。由此产生的方法，称为判别卡尔曼滤波器（DKF），保留了快速的封闭形式更新的后验。我们认为，在许多情况下，状态的分布给定的测量是更好地近似为高斯，特别是当测量的维数远远超过状态和Bernstein-von Mises定理适用。脑机接口的在线神经解码提供了一个激励性的例子，其中过滤包含越来越详细的神经活动测量，以提供用户对外部设备的控制。在BrainGate 2临床试验中，DKF成功地使三名四肢瘫痪的志愿者能够仅使用心理图像实时控制屏幕上的光标。参与者“T9”使用DKF在平板电脑上键入消息。
2018-07-17 cs.LG cs.NE stat.ML
A Bayesian Approach toward Active Learning for Collaborative Filtering
Michigan State University（密歇根州立大学）；Carnegie Mellon University（卡内基梅隆大学）
协同过滤是利用一组用户的偏好模式来预测项目对活跃用户的效用的有用技术。一般来说，协同过滤的性能取决于活跃用户给出的评级示例的数量。活跃用户给出的评级示例的数量越多，预测的评级就越准确。主动学习提供了一种有效的方法来从活跃用户那里获得最具信息性的评级示例。协同过滤的主动学习以前的工作只考虑了预期的损失函数的基础上估计的模型，这可能是误导时，估计的模型是不准确的。本文进一步考虑了估计模型的后验分布，从而得到更鲁棒的主动学习算法。对电影评分数据集的实证研究表明，当活跃用户的评分数量被限制为很小时，仅基于估计模型的主动学习方法表现不佳，而使用模型分布的主动学习方法获得了更好的性能。
2012-07-11 cs.IR cs.LG stat.ML
A Bayesian Filtering Algorithm for Gaussian Mixture Models
School of Engineering, University of Newcastle, Australia.（纽卡斯尔大学工程学院）
本文提出了一种针对可由高斯混合模型建模的状态空间系统的贝叶斯滤波算法，通过在时间更新和测量更新后引入高斯混合缩减步骤来处理滤波问题中的指数增长混合项问题，并在多个模拟系统上对统一算法的平方根实现进行了性能评估。
2023-06-30 cs.SY eess.SY stat.ML
Leveraging Cross Feedback of User and Item Embeddings with Attention for Variational Autoencoder based Collaborative Filtering
CNPIEC KEXIN LTD（中国图书进出口（集团）总公司科信有限公司）；Monash University（莫纳什大学）；Deakin University（迪肯大学）
矩阵分解在协同过滤推荐系统中得到了广泛的应用。它的贝叶斯变体可以推导出用户和项目嵌入的后验分布，并且对稀疏评级更具鲁棒性。然而，由于先验和似然的共轭性，贝叶斯方法受到其后验参数更新规则的限制。变分自编码器（VAE）可以通过捕获后验参数和数据之间的复杂映射来解决这个问题。然而，目前的研究VAE的协同过滤只考虑基于显式数据信息的映射，而隐式嵌入信息被忽略。在本文中，我们首先推导出证据下界（ELBO）贝叶斯MF模型从两个角度：面向用户和面向项目。基于ELBO，我们提出了一个基于VAE的贝叶斯MF框架。它不仅利用数据，而且还利用嵌入信息来近似用户-项目联合分布。正如ELBO所建议的，近似是迭代的，用户和项目嵌入到彼此的编码器中的交叉反馈。更具体地，在前一次迭代中采样的用户嵌入被馈送到项目侧编码器，以估计当前迭代中项目嵌入的后验参数，反之亦然。该估计还涉及交叉馈送嵌入，以进一步利用有用的信息。然后，解码器通过对当前重新采样的用户和项目嵌入进行矩阵分解来重构数据。
2022-08-22 cs.LG stat.ML
Multiple Bayesian Filtering as Message Passing
在这篇手稿中，提出了一个通用的方法来推导过滤算法，涉及网络的相互连接的贝叶斯过滤器。这种方法是基于这样的想法，即在每个贝叶斯过滤器内部完成的处理以及它们之间的交互可以表示为在适当的图形模型上的消息传递算法。我们的方法的有用性是通过开发新的滤波技术，基于粒子滤波器和扩展卡尔曼滤波器的互连，条件线性高斯系统的例证。两个具体的动态系统的数值结果表明，所设计的算法可以实现更好的复杂性和准确性的权衡比边缘化粒子滤波和多粒子滤波。
2019-07-25 math.ST stat.TH
Parallel Concatenation of Bayesian Filters: Turbo Filtering
在这篇手稿中，通过两个贝叶斯滤波器的并行级联开发新的滤波算法的方法进行说明。我们对这种方法的描述，称为涡轮过滤，是基于一个新的图形模型，这使我们能够有效地描述每个组成过滤器内部完成的处理和它们之间的相互作用。该模型被用来开发两个新的滤波算法的条件线性高斯系统。一个特定的动态系统的数值结果证明，这样的过滤器可以实现更好的复杂性，精度比边缘化粒子滤波权衡。
2018-06-13 stat.CO
Implicit Maximum a Posteriori Filtering via Adaptive Optimization
Princeton University（普林斯顿大学）
该论文将贝叶斯滤波重新表述为时变优化问题，通过自适应优化隐式定义滤波器，在线性高斯情形下与卡尔曼滤波等价，并在非线性高维系统中展现出有效性和可扩展性。
2023-11-17 cs.LG cs.SY eess.SY
Convolutional Bayesian Filtering
School of Vehicle and Mobility, Tsinghua University（清华大学车辆与出行学院）；Department of Advanced Manufacturing and Robotics, Peking University（北京大学先进制造与机器人系）；Department of Mathematical Sciences, Tsinghua University（清华大学数学科学系）；Beijing Institute of Mathematical Sciences and Applications（北京数学科学与应用研究院）
本文提出卷积贝叶斯滤波框架，通过引入不等式条件将条件概率转化为卷积形式，统一并推广标准贝叶斯滤波，并展示了其在Kalman滤波等经典算法中的鲁棒改进。
2024-03-30 cs.LG cs.SY eess.SY
Marginalized Bayesian filtering with Gaussian priors and posteriors
边缘化技术的贝叶斯滤波问题的假设下，高斯先验和后验和一组顺序更多的约束状态空间模型的假设。该技术提供了以下能力：1）将滤波问题简化为基本的边际矩积分，2）将模型和数值逼近结合到矩积分，以及3）解耦建模和系统组成。后验均值和协方差的封闭形式的表达式作为子空间投影矩阵，子系统模型，和边际矩积分的函数。最后，我们回顾以前的工作，以及如何将结果与卡尔曼和边缘化粒子滤波技术。
2016-07-11 math.ST stat.TH
Bayesian filtering for multi-object systems with independently generated observations
研究了多目标系统贝叶斯滤波的一般方法，特别强调了每个对象独立于其他对象生成观测值的模型。该方法是基于变分应用到生成泛函，使用的一般版本的Faa迪布鲁诺的公式的Gateaux微分。这一结果使我们能够在应用多目标模拟贝叶斯规则后确定更新生成泛函的一些一般公式。
2012-02-05 stat.ME
Variational Bayesian Adaptation of Noise Covariances in Non-Linear Kalman Filtering
本文研究非线性随机状态空间模型中状态和时变噪声协方差阵的联合估计问题。本文提出了一种基于变分贝叶斯和高斯滤波的近似滤波后验后验分布的有效计算方法。非线性状态空间模型计算的基于高斯滤波的公式化允许使用有效的高斯积分方法，例如无迹变换、体积积分和高斯-厄米特积分以及经典的泰勒级数近似。该算法的性能示出在一个模拟的应用程序。
2013-02-04 stat.ME
Generative Filtering for Recursive Bayesian Inference with Streaming Data
针对流式递归贝叶斯更新中滤波样本退化的问题，本文提出 Generative Filtering，以并行更新兼顾效率与非退化性，并给出收敛速率、充分统计量条件及模拟与生态数据验证。
2024-12-06 stat.CO
The discriminative Kalman filter for nonlinear and non-Gaussian sequential Bayesian filtering
卡尔曼滤波器（KF）用于计算状态空间模型中潜在状态的后验分布的各种应用中。该模型要求状态和观测值之间存在线性关系。已经提出了对卡尔曼滤波器的扩展，其将线性近似结合到非线性模型，例如扩展卡尔曼滤波器（EKF）和无迹卡尔曼滤波器（UKF）。然而，我们认为，在观测变量的维数大大超过状态变量的维数的情况下，$p(\text{state}|\text{observation})$的模型证明更容易学习和更准确的潜在空间估计。我们推导并验证我们所谓的判别卡尔曼滤波器（DKF）：贝叶斯滤波的一个封闭形式的判别版本，很容易结合现成的判别学习技术。此外，我们证明了在温和的假设下，可以指定$p(\text{state}|\text{observation})$的高度非线性模型.我们在合成数据集和非人类灵长类动物的神经解码中进行激励和验证，与标准卡尔曼滤波器相比，解码性能大幅提高。
2016-08-30 stat.ML
Neural Bayesian Filtering
University of Alberta（阿尔伯塔大学）；Alberta Machine Intelligence Institute (Amii)（阿尔伯塔人工智能研究所）；Charles University（查尔斯大学）；EquiLibre Technologies, Inc.（EquiLibre技术公司）；Allen Institute for AI（艾伦人工智能研究所）；Sony AI（索尼人工智能）
本研究提出神经贝叶斯滤波（NBF）算法，将置信度映射为固定长度嵌入向量，结合经典滤波效率与深度生成模型表达力，在三个部分可观测环境的状态估计任务中验证了其跟踪多模态置信度、缓解粒子贫化的效果。
2026-10-06 cs.AI cs.LG stat.ML
Generative Bayesian Filtering and Parameter Learning
本文提出生成式贝叶斯滤波（GBF）框架，将生成式贝叶斯计算扩展到动态状态空间模型，并引入生成式-Gibbs采样器进行参数学习，在不可处理密度场景下显著优于现有免似然方法。
2025-11-06 stat.CO stat.ME stat.ML
[Re] The Discriminative Kalman Filter for Bayesian Filtering with Nonlinear and Non-Gaussian Observation Models
Rice University（莱斯大学）
本研究复现了Burkhart等人2020年提出的判别式卡尔曼滤波器的神经科学核心结果，提供了该MATLAB算法的开源Python替代版本，通过多随机种子和未用试次进一步验证了滤波器有效性。
2024-01-24 cs.LG cs.RO eess.SP
Towards Data Assimilation in Level-Set Wildfire Models Using Bayesian Filtering
水平集方法是一种基于特征化的蔓延率来模拟火灾随时间演变的突出方法。然而，它并不提供吸收新数据和量化不确定性的直接手段。如果模型能够实时吸收数据，火锋预测可以更加准确和灵活。此外，火灾位置和蔓延的不确定性估计对于决策制定至关重要。使用贝叶斯滤波方法，我们扩展了水平集方法，允许数据同化和不确定性量化。我们证明了这些方法的数据从一个控制火灾。
2022-06-17 stat.AP
A convergent scheme for the Bayesian filtering problem based on the Fokker--Planck equation and deep splitting
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）；Saab AB（萨博集团）
本文提出了一种近似非线性滤波密度的数值方案，并在理论和数值例子中建立了其收敛速率。通过深度分裂方案近似福克-平面方程，结合贝叶斯公式进行精确更新，实现在线滤波算法。采用基于采样的费曼-卡茨方法以缓解维度灾难。
2026-04-19 cs.NA math.NA math.PR
Rao-Blackwellised Particle Filtering for Dynamic Bayesian Networks
Cambridge University（剑桥大学）；UC Berkeley（加州大学伯克利分校）
粒子滤波（PF）是动态贝叶斯网络（DBN）中基于采样的推理/学习算法。它们允许我们以原则性的方式对待任何类型的概率分布、非线性和非平稳性。它们出现在几个领域，如“凝聚”，“顺序蒙特卡罗”和“适者生存”。在本文中，我们将展示如何利用DBN的结构来提高粒子滤波的效率，使用一种称为Rao-Blackwellisation的技术。本质上，这使用卡尔曼滤波器、HMM滤波器、连接树算法或任何其他有限维最优滤波器对一些变量进行采样，并精确地边缘化其余变量。我们发现，Rao-Blackwellised粒子滤波器（RBPFs）导致更准确的估计比标准的PF。我们证明RBPF的两个问题，即非平稳的径向基函数网络和机器人定位和地图的建立在线回归。我们还讨论了其他潜在的应用领域，并为一些有限维最优滤波器提供了参考。
2013-01-16 cs.AI cs.LG stat.CO
Variational Bayesian Inference for Bipartite Mixed-membership Stochastic Block Model with Applications to Collaborative Filtering
针对推荐系统评分预测，提出二部混合隶属度随机块模型（BM^2）及变分贝叶斯EM算法，模拟和MovieLens实验证明其优于标准SBM和其他协同过滤方法。
2023-05-09 stat.ME
Graph-dependent shrinkage priors for Bayesian trend filtering
Scuola Internazionale Superiore di Studi Avanzati (SISSA)（高等国际研究学院）；Cornell University（康奈尔大学）
该研究提出图依赖收缩先验的贝叶斯趋势滤波框架，通过在趋势、局部收缩、MCMC采样环节利用图，提升了数据估计精度与计算效率，成功应用于美国县域失业数据的时空建模与预测。
2026-08-26 stat.ME stat.ML
High-dimensional Bayesian filtering through deep density approximation
Chalmers University of Technology（查尔姆斯理工大学）；University of Gothenburg（哥德堡大学）
本文比较了两种深度密度方法在非线性滤波中的性能，通过福克-普朗克方程建模随机微分方程的滤波密度，并在离散观测时间进行贝叶斯更新。在低维例子中粒子滤波有效，但在高维洛伦茨-96模型中，深度后向随机微分方程滤波器表现更优，计算效率提升显著。
2026-04-19 cs.NA math.NA stat.CO
Bayesian Boundary Trend Filtering
本文针对边界趋势估计问题，提出结合截断多元正态近似与Pólya-Gamma数据增广的贝叶斯趋势滤波方法，引入马蹄先验实现局部自适应收缩，还扩展了近似保序约束版本，经实验验证性能良好。
2023-11-10 stat.ME
Towards Practical Bayesian Parameter and State Estimation
UC Berkeley（加州大学伯克利分校）；Baidu Research（百度研究院）
状态和参数联合估计是动态贝叶斯网络的核心问题。虽然现代概率推理工具包使它相对容易地指定大型和实际相关的概率模型，银弹-一个有效的和一般的在线推理算法，这样的问题-仍然难以捉摸，迫使用户编写专用代码为每个应用程序。我们提出了一种新的黑箱算法--一种混合的状态变量的粒子滤波和参数变量的假设密度滤波。它具有以下优点：（a）由于其在线性质，它是有效的，（b）它适用于离散和连续参数空间。在各种玩具和真实模型上，我们的系统能够在固定的计算预算内生成更准确的结果。这一初步证据表明，所提出的方法可能具有实际用途。
2016-03-29 cs.AI cs.LG stat.ML
Variational Kalman Filtering with Hinf-Based Correction for Robust Bayesian Learning in High Dimensions
Sandia National Laboratories（桑迪亚国家实验室）
在本文中，我们解决的问题，通过应用一个强大的变分目标和基于Hinf范数的校正线性高斯系统的序列变分推断过滤器（VIF）的收敛性。随着状态空间或参数空间维数的增加，对于大规模系统，利用密集的协方差阵执行完全卡尔曼更新需要增加的存储和计算复杂度，使得其不切实际。基于平均场高斯变分推断的VIF方法通过对协方差的变分近似（通常以对角协方差近似的形式）来减少这种负担。挑战在于保持收敛性并纠正顺序VIF步骤引入的偏差。我们希望有一个框架，提高可行性，同时仍然保持合理的接近最佳卡尔曼滤波器的数据被同化。为了实现这一目标，基于Hinf范数的优化扰动VIF协方差阵以提高鲁棒性。这产生了一个新的VIF-Hinf递归，采用连续的变分推断和基于Hinf的优化步骤。我们探讨了这种方法的发展，并研究了一个数值例子来说明所提出的过滤器的有效性。
2022-04-27 cs.LG eess.SP stat.AP
A Bayesian Particle Filtering Method For Brain Source Localisation
在本文中，我们探讨了多源定位问题，在大脑皮层使用脑磁图（MEG）数据。我们模拟神经电流的逐点偶极源，随时间的推移动态演变，然后模型偶极动力学使用概率状态空间模型，其中偶极位置严格限制在皮层内。基于所提出的模型，我们开发了一个贝叶斯粒子滤波算法定位的偶极子的已知和未知的数量。该算法包括一个感兴趣的区域（ROI）估计步骤的初始偶极子数量估计，一个吉布斯多粒子滤波器（GMPF）步骤的个别偶极子状态估计，和一个选择标准的步骤，用于选择最终的估计。ROI估计的估计结果用于自适应地调整粒子滤波器的样本量以降低整体计算成本。所提出的模型和算法在数值实验中进行了测试。与现有的粒子滤波方法的结果进行了比较。数值结果表明，所提出的方法可以实现改进的性能指标的偶极子数量估计和偶极子定位。
2015-06-17 stat.AP
Bayesian Computation in Dynamic Latent Factor Models
贝叶斯计算的过滤和预测分析开发了广泛的一类动态模型。在非高斯、非线性多变量时间序列模型中，通过引入一种新的Copula结构，在动态广义线性模型的耦合集的顺序滤波中，提高了这种分析的能力。新的Copula方法被集成到最近推出的多尺度模型，其中单变量时间序列耦合通过非线性形式，涉及动态的潜在因素，代表跨系列的关系。由此产生的方法提供了显着的速度加快在线贝叶斯计算顺序过滤和预测在这个广泛的，灵活的类的多变量模型。非负计数的非常异质的时间序列的非线性模型中的两个例子展示了相对于现有的基于模拟的方法的巨大的计算效率，同时定义了类似的过滤和预测结果。
2020-07-09 stat.CO stat.ME
A Unified Stochastic Gradient Approach to Designing Bayesian-Optimal Experiments
University of Oxford（牛津大学）；Uber AI（优步人工智能实验室）；University of Michigan（密歇根大学）
介绍了一种基于完全随机梯度的贝叶斯最优试验设计（BOED）方法.我们的方法利用变分的预期信息增益（EIG）的实验，可以同时优化的变分和设计参数的下限。这使得设计过程可以通过一个单一的统一的随机梯度上升过程进行，与现有的方法，通常构建一个逐点EIG估计，然后通过这个估计到一个单独的优化。我们提供了一些不同的变分目标，包括新的自适应对比估计（ACE）界。最后，我们表明，我们的基于梯度的方法能够提供有效的设计优化，在更高的维度设置比现有的方法。
2020-02-27 cs.LG stat.CO stat.ML
Connections between sequential Bayesian inference and evolutionary dynamics
长期以来，人们一直认为，描述生物学进化过程的动力学方程与序贯贝叶斯学习方法之间存在联系。这份手稿描述了一项新的研究，其中这种精确的联系是在连续时间设置中严格建立的。在这里，我们专注于一个偏微分方程称为Kushner-Stratonovich方程描述的后验密度随时间的演变。特别重要的是一个分段光滑的近似的观察路径，从离散时间滤波方程，这是收敛到一个Stratonovich解释的Kushner-Stratonovich方程。然后，这种光滑的公式将被用来绘制非线性随机滤波和复制-增变动力学之间的精确连接。此外，梯度流制剂将被调查，以及一种形式的复制-增变动力学，这是有益的误指定模型过滤问题。希望这项工作将刺激进一步研究顺序学习和进化生物学之间的交流，并激发过滤和采样的新算法。
2025-03-12 math.PR q-bio.PE stat.ME
Non-Gaussian Bayesian Filtering by Density Parametrization Using Power Moments
本文提出利用幂矩对非高斯贝叶斯滤波中的状态密度进行参数化，无需先验知识且不存储大量参数，并通过凸优化唯一确定参数，给出误差分析和仿真验证。
2023-07-05 cs.IT math.IT math.OC
Variational Filtering for Bayesian Last Layers with an Independent Binary Probit Surrogate
University of Sussex（萨塞克斯大学）
提出IBProbit变分滤波算法，用于深度分类器最后层，在冻结骨干线性探测、分布外检测及全网络微调任务中，均优于AdamW+温度缩放、VBLL等基准方法。
2026-10-14 cs.CV cs.LG stat.ML
Variational Autoencoders for Collaborative Filtering
Netflix（网飞）；MIT（麻省理工学院）；Google AI（谷歌人工智能）
我们扩展变分自编码器（VAE）的协同过滤隐式反馈。这种非线性的概率模型使我们能够超越线性因子模型的有限建模能力，仍然在很大程度上主导协同过滤的研究。我们引入了一个生成模型与多项式似然和使用贝叶斯推断的参数估计。尽管在语言建模和经济学中广泛使用，但在推荐系统文献中，多项式似然得到的关注较少。我们为学习目标引入了一个不同的正则化参数，这被证明是实现有竞争力的性能的关键。值得注意的是，有一种有效的方法来调整参数使用退火。由此产生的模型和学习算法具有信息理论的联系，最大熵歧视和信息瓶颈原则。从经验上讲，我们表明，所提出的方法显着优于几个国家的最先进的基线，包括两个最近提出的神经网络的方法，在几个现实世界的数据集。我们还提供了扩展的实验比较多项式似然与其他常用的似然函数的潜在因素协同过滤文献，并显示出良好的结果。最后，我们确定的优点和缺点，采用原则性的贝叶斯推断方法和特征设置，它提供了最显着的改进。
2018-02-16 cs.IR cs.LG stat.ML
Bayesian Filtering of Smooth Signals: Application to Altimetry
本文提出了一种新的贝叶斯估计策略，用于估计被高斯噪声污染的光滑信号。该方法假设一系列连续信号的平滑演化，这些连续信号可以具有关于某些参数的数值或解析表达式。贝叶斯模型考虑了噪声的高斯特性和连续信号的平滑演化。此外，伽马马尔可夫随机场之前被分配给信号能量和噪声方差，以考虑它们的已知属性。得到的后验分布最大化使用一个快速坐标下降算法，其参数由解析表达式更新。该算法在卫星测高数据上进行了测试，在合成信号和真实信号上都取得了良好的去噪效果。所提出的算法也被证明，以提高质量的高度参数时，结合参数估计策略。
2016-02-11 stat.AP stat.ME
A Bayesian Update Method for Exponential Family Projection Filters with Non-Conjugate Likelihoods
针对非共轭先验下连续-离散指数族投影滤波器的贝叶斯更新难题，提出将更新表述为 $\alpha$-Rényi 散度的黎曼优化，并在高度非高斯问题中验证有效性。
2025-08-26 math.OC stat.AP
Transform-based particle filtering for elliptic Bayesian inverse problems
在自适应SMC中引入了基于最优传输的响应。我们考虑椭圆型反问题推断水力传导系数的压力测量。考虑了两种导水率参数化：高斯随机场和一组标量（非）高斯分布参数和高斯随机场场。我们发现，对于标量参数的最佳运输基于SMC执行单项式基于SMC，但高斯高维随机场最佳运输基于SMC优于基于SMC单项式。当比较集合卡尔曼反演与突变（EKI），我们观察到，高斯随机场，最佳的运输为基础的SMC提供可比或更差的性能比EKI取决于参数化的复杂性。对于非高斯分布的参数，基于最优传输的SMC优于EKI。
2019-06-13 math.OC stat.CO
Robust Particle Filtering via Bayesian Nonparametric Outlier Modeling
本文研究了一个非线性动态系统的在线估计问题。重点是异常值存在于正常噪声之间的情况。我们假设异常值遵循一个未知的产生机制，偏离正常的噪音，然后使用贝叶斯非参数模型称为狄利克雷过程混合（Dirichlet process mixture，简称EMM）的模型。一个顺序的粒子为基础的算法推导出后验推断的离群模型，以及系统的状态估计。由此产生的算法被称为基于鲁棒PF（DPM-RPF）。非参数特征使该算法允许数据“自己说话”，以确定离群值模型的复杂性和结构。仿真结果表明，它的性能显着优于两个国家的最先进的方法，特别是当离群值出现频繁沿时间。
2019-05-11 stat.CO
Nudging state-space models for Bayesian filtering under misspecified dynamics
该研究提出将微调（Nudging）技术应用于动力学误设下的贝叶斯滤波，证明其可隐式定义具有更高边缘似然的状态空间模型，并通过数值实验验证了该方法的鲁棒性。
2025-05-20 math.PR stat.CO
Recurrent Neural Networks and Universal Approximation of Bayesian Filters
University of Technology Sydney（悉尼科技大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61研究所）
我们考虑贝叶斯最优滤波问题：即从观测序列估计潜在时间序列信号的某些条件统计量。传统的方法往往依赖于使用假设或估计的过渡和观察模型。相反，我们制定了一个通用的递归神经网络框架，并寻求直接学习从观测输入到所需的估计统计的递归映射。本文的主要焦点是这个框架的近似能力。我们提供了一般非紧域上滤波的近似误差界。我们还考虑了强时间一致逼近误差界，保证良好的长期性能。我们讨论并说明了一些实际问题和这些结果的影响。
2023-03-15 cs.LG eess.SP math.OC
Regularity-informed data assimilation: A hierarchical Bayesian approach to ensemble Kalman filtering for hyperbolic conservation laws
Division of Applied Mathematics, Linköping University（林雪平大学应用数学系）；Center for Computational Science and Engineering, Massachusetts Institute of Technology（麻省理工学院计算科学与工程中心）
该研究针对双曲守恒律的状态估计问题，提出结合分层广义稀疏贝叶斯学习先验的GSBL-EnKF方法，提升了滤波结果的物理真实性与准确性。
2026-09-04 cs.NA math.NA stat.ME
Supporting Bayesian modelling workflows with iterative filtering for multiverse analysis
本文提出用于多宇宙分析的迭代筛选方法，将贝叶斯建模工作流与多宇宙分析结合，通过评估预测能力和处理计算问题，从大量候选模型中高效筛选出更少且质量更高的模型，并用真实数据示例验证其有效性。
2024-04-02 stat.CO stat.ME
A Unified Information-Theoretic Approach to Constrained Multi-Fidelity Multi-Objective Bayesian Optimization
Nagoya Institute of Technology（名古屋工业大学）
提出统一信息论框架，通过变分下界衡量信息增益，联合优化多保真多目标贝叶斯优化中的位置与保真度选择，无需启发式处理约束，实验验证其有效性。
2026-10-08 cs.LG
Robust Bayesian Filtering and Smoothing Using Student's t Distribution
Linköping University（林雪平大学）；Cambridge University（剑桥大学）；Middle East Technical University（中东理工大学）
本文提出基于学生t分布的鲁棒滤波与平滑算法，以应对厚尾过程和测量噪声，改进卡尔曼滤波在非高斯环境下的性能。
2017-03-07 cs.SY eess.SY stat.CO
