Variational Combinatorial Sequential Monte Carlo Methods for Bayesian Phylogenetic Inference
Columbia University（哥伦比亚大学）
贝叶斯系统发育推断通常使用随机游走马尔可夫链蒙特卡罗（MCMC）或组合序贯蒙特卡罗（CSMC）等算法通过拓扑和分支长度上的局部或顺序搜索来进行。然而，当MCMC用于进化参数学习时，收敛需要长时间运行，状态空间的探索效率低下。我们介绍变分组合序贯蒙特卡罗（VCSMC），一个强大的框架，建立变分顺序搜索学习分布在复杂的组合结构。然后，我们开发嵌套CSMC，一个有效的建议分布CSMC和证明嵌套CSMC是一个精确的近似（棘手的）局部最优建议。我们使用嵌套的CSMC定义第二个目标，VNCSMC产生更严格的下限比VCSMC。我们表明，VCSMC和VNCSMC的计算效率和探索更高的概率空间比现有的方法在一系列的任务。
2021-06-17 cs.LG stat.CO stat.ML
Adaptive semiparametric Bayesian differential equations via sequential Monte Carlo
非线性微分方程（DE）在广泛的科学问题中被用来模拟复杂的动态系统。微分方程往往包含未知的参数，是科学的兴趣，这是估计从噪声测量的动态系统。一般来说，非线性微分方程没有封闭形式的解，并且感兴趣的参数的似然曲面是多模态的，对不同的参数值非常敏感。我们提出了一个贝叶斯框架的非线性DE系统。一个灵活的非参数函数被用来表示动态过程，这样就可以避免昂贵的数值求解器。提出了一种退火框架下的序贯蒙特卡罗算法，对DEs中的参数进行贝叶斯推断。在我们的数值实验中，我们使用常微分方程和延迟微分方程的例子来证明所提出的算法的有效性。我们开发了一个R包，可在\url{https://github.com/shijiaw/smcDE}上获得。
2021-09-06 stat.CO
A practical sequential stopping rule for high-dimensional MCMC and its application to spatial-temporal Bayesian models
目前许多贝叶斯分析的挑战是确定何时终止高维马尔可夫链蒙特卡罗模拟。为此，我们建议使用一个自动顺序停止程序，终止模拟时，计算的不确定性是相对于后验不确定性小。这样的停止规则先前已被证明在中等尺寸的后验的设置中工作良好。在本文中，我们说明了它在高维模拟中的实用性，同时克服了当前的一些计算问题。进一步，我们研究了停止规则和有效样本量之间的关系。作为例子，我们考虑两个复杂的贝叶斯分析的空间和时间相关的数据集。第一个涉及气象站数据的动态时空模型，第二个涉及功能磁共振成像脑成像数据的空间变量选择模型。我们的研究结果表明，顺序停止规则很容易实现，提供了不确定性估计，并在高维设置中表现良好。
2014-03-21 stat.CO stat.ME
Sequential Markov Chain Monte Carlo for Bayesian Filtering with Massive Data
数字传感器、数字数据存储和通信的进步使得系统能够积累大量数据。在光处理的挑战，海量数据的存在，这项工作提出了解决方案的推理和过滤问题的贝叶斯框架内。针对非线性和非高斯状态空间模型，提出了两种新的贝叶斯推断算法，能够处理大量数据（或观测值）。这些是顺序的马尔可夫链蒙特卡罗（MCMC）方法，其依赖于两个关键思想：1）对大量数据进行子采样，并利用较小的子集进行过滤和推断，以及2）分别使用测量的子集计算局部过滤分布的分治型方法。仿真结果突出的准确性和大量的计算节省，可以达到90%的标准技术相比，所提出的算法。
2015-12-08 stat.AP stat.CO
Bayesian Updating and Uncertainty Quantification using Sequential Tempered MCMC with the Rank-One Modified Metropolis Algorithm
贝叶斯方法是量化系统行为的关键。它们利用概率分布来捕捉我们对系统行为的不确定性，并在新信息可用时更新这种理解。然后，可以做出包含这种不确定性的概率预测，以评估系统性能并做出决策。虽然贝叶斯方法非常有用，但它们通常是计算密集型的。这需要开发更有效的算法。在这里，我们讨论了一组人口马尔可夫链蒙特卡罗（MCMC）方法的贝叶斯更新和系统可靠性评估，我们称之为顺序回火MCMC（ST-MCMC）算法。这些算法结合了1）回火的概念，通过一系列中间分布，2）重要性重新排序，以及3）MCMC，逐渐将样本群体从之前转换到之后。它们是序贯蒙特卡罗的一种形式，包括过渡马尔可夫链蒙特卡罗和子集模拟等算法。我们还介绍了一种新的采样算法，称为秩一修改的大都市算法（ROMMA），它建立在子集模拟中使用的修改的大都市算法，以提高性能在高维。最后，我们制定了一个单一的算法来解决组合贝叶斯更新和可靠性评估问题，使系统可靠性的后验评估。然后，通过对具有未知泄漏和需求的配水系统进行先验和后验可靠性评估来说明该算法。
2018-04-23 stat.CO
Langevin and Hamiltonian based Sequential MCMC for Efficient Bayesian Filtering in High-dimensional Spaces
非线性非高斯状态空间模型出现在统计和信号处理的许多应用中。在这种情况下，最成功和最流行的近似技术之一是序贯蒙特卡罗（SMC）算法，也称为粒子滤波。然而，这种方法往往是低效的，当应用于高维问题。在本文中，我们专注于另一类顺序推理方法，即顺序马尔可夫链蒙特卡罗（SMCMC）技术，这是一个很有前途的替代SMC方法。在为SMCMC方法提供了一个统一的框架后，我们提出了基于Langevin扩散和Hamilton动力学原理的新的有效策略，以应对越来越多的高维应用。仿真结果表明，所提出的算法实现了显着更好的性能相比，现有的算法。
2015-10-29 stat.AP stat.CO
Guided sequential ABC schemes for intractable Bayesian models
针对无似然贝叶斯模型，提出以数据汇总统计量为条件的引导式提议采样器，加速SIS-ABC和SMC-ABC收敛，减少计算成本并保持推断精度，适用于多模态、高相关及分层模型等挑战场景。
2024-05-29 stat.CO stat.ME
Sequential Monte Carlo Methods for Bayesian Elliptic Inverse Problems
在这篇文章中，我们考虑了一个贝叶斯反问题的椭圆型偏微分方程（PDE）在二维和三维。这类反问题在水文学等应用中很重要，但未知场与测量值之间的联系函数的复杂性可能使其难以从相关的后验中得出推论。我们证明，对于这个反问题的一个基本的SMC方法具有蒙特卡罗速度的收敛常数是独立的尺寸的离散化的问题，确实收敛的SMC方法建立在一个函数空间设置。我们还开发了一个增强的序贯蒙特卡罗（SMC）方法的反问题，引入了\cite{kantas}，增强的目的是处理这个椭圆形反问题的额外的复杂性。该方法的有效性，其理想的理论特性，在两个和三个维度的数值例子证明。
2014-12-15 stat.CO
Bayesian Detectability of Induced Polarisation in Airborne Electromagnetic Data using Reversible Jump Sequential Monte Carlo
在航空电磁（AEM）测量中检测感应极化（IP）效应还没有一个既定的方法。这一贡献开发了一种贝叶斯方法的IP-检测问题，使用解耦transdimensional分层模型，并适用于一种新的方法，其中transdimensional的建议是使用内的并行和强大的静态序贯蒙特卡罗（SMC）类算法的参数和模型的同时推理物理。尽管将该算法称为可逆跳跃序贯蒙特卡罗（RJSMC），但对该算法的统计方法贡献考虑了多个模型和建议类型的适应性考虑，特别是不太可能模型中的周围粒子扩散。固体地球物理学方法的贡献包括解耦模型的方法和建议的统计，使用后验模型的IP检测几率。一个案例研究包括调查IP效应的AEM数据在广泛的规模检测。
2021-09-02 physics.geo-ph stat.AP stat.CO
Comment on "Sequential Monte Carlo for Bayesian Computation" (P. Del Moral, A. Doucet, A. Jasra)
主要的问题涉及到序列蒙特卡罗的另一个最新进展，即使用自动适应目标分布的混合过渡核（Douc et al. 2006）。是否有一类静态推理问题更适合后向核方法，或者预测哪种方法在特定情况下可能具有更好的性能还为时过早？
2006-06-22 math.PR math.ST stat.TH
Adaptive sequential Monte Carlo for structured cross validation in Bayesian hierarchical models
针对贝叶斯分层模型中标准重要性采样在结构化交叉验证时不可靠的问题，提出自适应序贯蒙特卡洛方法，沿后验路径采样以支持多种验证设计并最小化MCMC重运行。
2025-08-11 stat.AP stat.CO
Bayesian inference of Stochastic reaction networks using Multifidelity Sequential Tempered Markov Chain Monte Carlo
随机反应网络模型常用于解释和预测单细胞中基因调控的动力学。这些模型通常涉及几个参数，例如化学反应的动力学速率，这些参数不能直接测量，必须从实验数据中推断出来。贝叶斯推断提供了一个严格的概率框架，通过找到一个后验参数分布，捕捉他们的不确定性，以确定这些参数。传统的求解推理问题的计算方法，如基于经典梅特罗波利斯-黑斯廷斯算法的马尔可夫链蒙特卡罗方法，需要对似然函数进行大量的连续计算，而这又需要对化学主方程（CME）进行昂贵的正向求解。我们提出了一种替代方法的基础上的多保真度扩展的顺序回火马尔可夫链蒙特卡罗（ST-MCMC）采样器。该算法是建立在序贯蒙特卡罗和解决贝叶斯推断问题分解成一系列的有效解决的子问题，逐渐增加模型的保真度和观察到的数据的影响。我们重新制定的有限状态投影（FSP）算法，一个著名的方法来解决CME，产生一个层次的代理主方程中使用的多保真度计划。为了确定适当的保真度，我们引入了一种新的信息理论标准，旨在从层次结构中的每个模型中提取有关最终贝叶斯后验的最多信息，而不会引起显着的偏差。这种新的采样方案进行了测试与高性能的计算资源，使用生物相关的问题。
2020-01-06 stat.CO
Sequential Bayesian Predictive Synthesis
本研究提出一种Rao-Blackwellized粒子滤波器结合MCMC干预，用于线性和高斯动态贝叶斯预测综合，并通过幂折扣似然估计折扣因子，以解决美国通胀率预测中分布适应缓慢的问题。
2023-08-30 stat.CO stat.ME
Sequential Monte Carlo with Adaptive Weights for Approximate Bayesian Computation
近似贝叶斯计算（ABC）方法越来越多地用于复杂模型的分析。ABC的一个主要挑战是克服基于先验预测抽样的接受/拒绝方法中通常固有的高拒绝率问题。一些最近的发展旨在解决这个问题的扩展的基础上序贯蒙特卡罗（SMC）的战略。我们在此基础上，介绍了一种ABC SMC方法，该方法使用基于数据的自适应权重。这种易于实现和计算平凡的ABC SMC扩展可以大大提高接受率，如一系列模拟和真实数据集的例子所示，包括当前系统生物学应用中动态建模的热门例子。
2015-03-26 math.ST stat.CO stat.TH
Optimizing Threshold - Schedules for Approximate Bayesian Computation Sequential Monte Carlo Samplers: Applications to Molecular Systems
无似然序贯近似贝叶斯计算（ABC）算法，是越来越流行的复杂生物模型的推理工具。这样的算法通过在参数空间上构造一系列概率分布来进行，条件是模拟数据位于观察数据周围的$ε$ -球中，用于减小阈值$ε$的值。虽然在理论上，随着$ε$趋于零，分布（从适当定义的先验开始）将朝向未知的后验收敛，但是阈值的精确序列可以影响特定应用的计算效率和成功。特别是，我们在这里表明，目前首选的方法选择阈值作为一个预先确定的分位数的模拟和观察到的数据之间的距离从以前的人口，可以导致推断的后验分布是非常不同的真实后验。因此，阈值选择仍然是一个重要的挑战。在这里，我们提出了一种自动化和自适应的方法，使我们能够平衡的需要，以最大限度地减少阈值与计算效率。此外，我们的方法，它围绕预测的阈值-接受率曲线使用无味变换，使我们能够避免局部极小值-一个问题，困扰着以前的阈值计划。
2012-10-11 stat.CO
Bayesian learning of weakly structural Markov graph laws using sequential Monte Carlo methods
我们提出了一个序贯抽样方法弱结构马尔可夫定律，自然产生的贝叶斯结构学习可分解的图形模型。作为我们建议的方法的一个关键组成部分，我们表明，图估计的问题，这在一般情况下缺乏自然的顺序解释，可以重铸到一个连续的设置，提出了一个递归的费曼-卡茨模型，产生一个流动的连接树分布在一个空间的尺寸增加。我们专注于粒子的McMC方法，以提供在这个空间上的样本，特别是粒子吉布斯（PG），因为它允许生成的McMC链的可分解图的底层空间上的全球移动。为了进一步提高PG混合性能，我们采用了一个系统的刷新步骤，通过从向后内核直接采样实现。该算法的理论性质进行了研究，表明所提出的刷新步骤提高了估计分布的渐近方差方面的性能。建议的抽样方法是通过一组数值例子来说明的，这些例子证明了在离散和连续图形模型中贝叶斯图结构学习的高精度。
2019-07-23 math.ST stat.TH
Accelerating Bayesian Phylogenetic Inference via Delayed Acceptance Sequential Monte Carlo with Random Forest Surrogates
Institute of Mathematical Sciences, ShanghaiTech University（上海科技大学数学科学研究所）
本文提出利用机器学习预测树移动对似然函数的影响，设计延迟接受MCMC核，结合序贯蒙特卡洛框架，提升系统发育推断效率。
2026-05-10 q-bio.QM stat.CO stat.ME
Solving Linear-Gaussian Bayesian Inverse Problems with Decoupled Diffusion Sequential Monte Carlo
Department of Computer and Information Science (IDA), Linköping University, Sweden（计算机与信息科学系（IDA），_linköping大学，瑞典）
本文提出了一种基于解耦扩散的序列蒙特卡洛方法（DDSMC），用于求解线性高斯贝叶斯逆问题，该方法允许对样本进行更大更新且渐近精确，并在合成、蛋白质及图像数据上验证了有效性，同时可扩展至离散数据。
2025-10-10 cs.AI cs.LG stat.ML
Sequential Importance Sampling for Hybrid Model Bayesian Inference to Support Bioprocess Mechanism Learning and Robust Control
Northeastern University（东北大学）；University of Waterloo（滑铁卢大学）
在生物制造4.0的关键需求的驱动下，我们引入了一个概率知识图混合模型，该模型表征了对生物过程机制的基于风险和科学的理解。它可以忠实地捕捉重要的性质，包括非线性反应，部分可观测状态，和非平稳动力学。给出了非常有限的实际过程的观察，我们得到了一个后验分布量化模型估计的不确定性。为了避免计算复杂的似然性，采用序贯蒙特卡罗近似贝叶斯计算抽样（ABC-SMC）来近似后验分布。在高度随机和模型不确定性下，匹配输出轨迹的计算代价很高。因此，我们创建了一个线性高斯动态贝叶斯网络（LG-DBN）辅助似然ABC-SMC方法。通过匹配由LG-DBN似然驱动的摘要统计量，可以捕获关键的相互作用和变化，所提出的算法可以加速混合模型推理，支持过程监控，并促进机制学习和鲁棒控制。
2022-09-30 cs.LG stat.ML
Utilising Gradient-Based Proposals Within Sequential Monte Carlo Samplers for Training of Partial Bayesian Neural Networks
Department of Electronics and Electrical Engineering, University of Liverpool（利物浦大学电子与电气工程系）
本文提出了一种基于SMC的训练方法，利用梯度引导的提案和马尔可夫核，提升pBNNs在高维问题中的可扩展性和预测性能。
2026-01-29 cs.LG stat.ML
Sequential Monte Carlo Smoothing with Parameter Estimation
针对一般状态空间模型的未知参数问题，提出了两种新的贝叶斯平滑方法。第一种方法是基于粒子学习和平滑算法，但在后向reserving权重的调整。第二种方法是将序贯参数学习和平滑算法相结合，用于一般状态空间模型。该方法简单而有效，是目前求解联合贝叶斯平滑问题最好的序贯蒙特卡罗算法。本文首先利用模拟数据对三个基准模型进行了验证，然后将其应用于金融危机期间标准普尔500指数日收益率的随机波动率模型。
2016-04-19 stat.CO
Bayesian Allocation Model: Inference by Sequential Monte Carlo for Nonnegative Tensor Factorizations and Topic Models using Polya Urns
Boğaziçi University（博阿齐奇大学）；Sabancı University（萨班哲大学）；Télécom ParisTech（巴黎高等电信学院）
我们介绍了一个动态生成模型，贝叶斯分配模型（BAM），建立显式连接之间的非负张量因子分解（NTF），离散概率分布的图形模型和贝叶斯扩展，和主题模型，如潜在的狄利克雷分配。BAM是基于泊松过程，其事件是通过使用贝叶斯网络标记，其中该网络的条件概率表，然后集成了分析。我们表明，由此产生的边际过程原来是一个波利亚瓮，一个整数值的自我增强过程。这个瓮过程，我们命名为Polya-Bayes过程，服从一定的条件独立性，提供了进一步了解NTF的性质。这些见解也让我们开发空间有效的模拟算法，尊重潜在的稀疏数据：我们提出了一类连续的重要性抽样算法计算NTF和近似其边际似然，这将是有用的模型选择。所得到的方法也可以被看作是一个模型评分方法的主题模型和离散贝叶斯网络的隐变量。新算法具有良好的性能在稀疏的数据制度相比，变分算法，变得更准确时，所观察到的张量的元素的总和趋于无穷大。我们说明了几个例子的性能和数值研究的各种数据制度的算法的行为。
2019-03-11 cs.LG stat.CO stat.ME
Subsampling Sequential Monte Carlo for Static Bayesian Models
我们展示了如何加快序贯蒙特卡罗（SMC）的贝叶斯推断在大数据问题的数据子采样。SMC通过一系列分布顺序地更新粒子云，从易于采样的分布（如先验分布）开始，以后验分布结束。粒子云的每次更新都包括三个步骤：重新加权、重新缩放和移动。在移动步骤中，使用马尔可夫核移动每个粒子;这通常是计算成本最高的部分，特别是当数据集很大时。关键是要有一个有效的移动步骤，以确保粒子的多样性。我们的文章做出了两个重要贡献。首先，为了加快SMC计算，我们使用了一个近似无偏和有效的退火似然估计的基础上数据子采样。子采样方法比相应的全数据SMC更节省存储器，这对于并行计算是有利的。其次，我们使用一个大都会内吉布斯内核与两个条件更新。一个哈密顿蒙特卡罗更新使模型参数的距离移动，和一个块伪边缘的建议是用于对应于辅助变量的粒子的数据子采样。我们证明了估计四个广义线性模型和一个广义可加模型与大数据集的方法的有用性和局限性。
2020-03-24 stat.CO stat.ME stat.ML
Approximate Bayesian Computation sequential Monte Carlo via random forests
Columbia University（哥伦比亚大学）；Ecole Nationale des Ponts et Chaussées（法国国立路桥学校）；University of Southern California（南加州大学）；Stony Brook University（石溪大学）
本文提出基于随机森林的近似贝叶斯计算序贯蒙特卡洛方法，通过分布随机森林直接推断参数联合后验分布，并改进先验分布更新方法以提高计算效率和准确性。
2025-08-18 math.OC stat.CO
Stratified distance space improves the efficiency of sequential samplers for approximate Bayesian computation
本文提出分层距离ABC SMC方法，通过按粒子距离分层构建提议分布并引入新停止规则，显著提升顺序采样器在近似贝叶斯计算中的接受率与效率。
2025-01-24 stat.CO stat.ME
vSMC: Parallel Sequential Monte Carlo in C++
序贯蒙特卡罗是从一系列分布中进行抽样的一系列算法。其中的一些算法，如粒子滤波器，在物理和信号处理领域有着广泛的应用。最近的发展已经建立了他们的应用程序在更一般的推理问题，如贝叶斯建模。这些算法近年来吸引了相当大的关注，因为它们承认自然和可扩展的并行化。然而，这些算法被认为是难以实现的。此外，并行编程虽然在概念上很吸引人，但对许多研究人员来说往往是陌生的，特别是对于与序贯蒙特卡罗相关的领域。为了在并行硬件上实现一般的序贯蒙特卡罗算法，提出了一个C++模板库。两个例子：一个简单的粒子滤波器和一个经典的贝叶斯建模问题。
2013-06-24 cs.MS stat.CO
Embarrassingly Parallel Sequential Markov-chain Monte Carlo for Large Sets of Time Series
贝叶斯计算关键依赖于马尔可夫链蒙特卡罗（MCMC）算法。在大规模数据集的情况下，运行Metropolis-Hastings采样器从后验分布中提取数据变得令人望而却步，因为每次迭代都需要计算大量的似然项。为了进行贝叶斯推断的一个大的时间序列，我们考虑了一个算法，结合了“分而治之”的想法，以前用于设计MCMC算法的大数据与顺序MCMC策略。该方法的性能说明了使用一个大的金融数据集。
2015-12-04 stat.AP stat.CO
Variational Combinatorial Sequential Monte Carlo for Bayesian Phylogenetics in Hyperbolic Space
Spelman College（斯巴灵学院）；University of Amsterdam（阿姆斯特丹大学）；Columbia University（哥伦比亚大学）
针对系统发育树超指数缩放限制欧几里得推理效率的问题，提出双曲空间下序贯蒙特卡洛算法的扩展及变分推理方法，显著提升了高维贝叶斯系统发育推理的速度与性能。
2025-07-15 cs.LG stat.ML
Online Bayesian phylogenetic inference: theoretical foundations via Sequential Monte Carlo
系统发生学，从DNA等分子序列数据中推断进化树，是一项对许多生物系统产生有价值的进化理解的事业。贝叶斯系统发育算法，它近似于树的后验分布，已经成为一种流行的，但计算昂贵的方法做遗传学。现代数据收集技术正在快速地向已经大量的数据库中添加新的序列。对于贝叶斯遗传学的所有现有技术，每次序列可用时，计算必须重新开始，这使得保持系统发育后验的最新估计变得昂贵。这些考虑强调了需要一个\emph{online}贝叶斯系统发育方法，可以更新现有的后验与新的序列。在这里，我们提供了理论结果的一致性和稳定性的方法，基于顺序蒙特卡罗（SMC）和马尔可夫链蒙特卡罗（MCMC）的在线贝叶斯系统发育推断。我们首先展示了一致性结果，表明该方法在大量颗粒的限制下从正确的分布中采样。接下来，我们推导出第一组报告的界限如何系统发育的可能性表面变化时，新的序列被添加。这些界限使我们能够表征采样算法的理论性能，通过从下面用给定数量的粒子来界定有效样本大小（ESS）。我们表明，ESS是保证线性增长的SMC采样器中的粒子数的增长。令人惊讶的是，即使系统发育模型的维度随着每个新添加的序列而增长，这个结果仍然成立。
2016-10-26 math.ST q-bio.PE stat.TH
Bayesian optimization using sequential Monte Carlo
SUPELEC（巴黎高等电力学院）
我们认为，使用贝叶斯方法，其中$f$的评价是通过结合有关$f$，这是由一个随机过程模型，和过去的评价结果的先验信息顺序选择的实值连续函数$f$的优化问题。这种方法的主要困难是能够计算用于选择评估点的感兴趣的量的后验分布。在本文中，我们决定使用顺序蒙特卡罗（SMC）方法。
2011-11-21 cs.LG math.OC stat.CO
Sequential Rank and Preference Learning with the Bayesian Mallows Model
本文提出基于贝叶斯马洛斯模型的序列估计算法，通过嵌套序列蒙特卡罗方法实现高效后验推断，并在F1车手排名中展示应用。
2025-06-03 stat.CO
Bayesian sequential parameter estimation with a Laplace type approximation
提出了一种基于迭代拉普拉斯近似的动态隐高斯模型固定参数的序贯推断方法。该方法提供了一个有用的计算性能和准确性之间的权衡近似真实的后验分布。近似校正，以提高模拟研究中的近似精度。基于人口的方法也被证明提供了一个更强大的推理方法。
2015-09-25 stat.CO stat.ME
Objective Bayesian analysis under sequential experimentation
序贯实验的客观先验被认为是。常见的先验，如Jeffreys先验和参考先验，通常取决于用于序贯实验的停止规则。在各种情况下获得新的表达式的参考先验，并考虑涉及这种先验的计算问题。
2008-05-20 math.ST stat.CO stat.TH
Bayesian Inference for Logistic Regression Models Using Sequential Posterior Simulation
logistic规范已被广泛用于非贝叶斯统计，以模拟离散结果对指定协变量值的依赖性。由于似然函数是全局弱凹的，所以即使在通常出现的具有几十个或几百个参数的应用中，极大似然估计也是直接的。相比之下，贝叶斯推断已被证明是笨拙的，需要对现有的马尔可夫链蒙特卡罗和数据增强方法的可能性或专门的适应性进行正常近似。本文使用最近开发的一般序贯后验模拟（SPS）方法，只需要多一点的能力，以评估的似然函数的逻辑模型的贝叶斯推断。与现有的替代方案相比，SPS是简单得多，并提供了数字标准误和准确的近似边际可能性作为副产品。用于贝叶斯推断的SPS算法适合于大规模并行实现，并且当使用图形处理单元实现时，它比现有的替代方案更有效。本文通过几个例子来说明这些观点。
2013-04-16 stat.CO
A Bayesian adaptive ensemble Kalman filter for sequential state and parameter estimation
本文提出了一种新的集合卡尔曼滤波器的序列状态和参数估计方法。该方法是完全贝叶斯和传播的联合后验密度的状态和参数随着时间的推移。为了实现该方法，我们考虑两种表示的边缘后验分布的参数：基于网格的方法和高斯近似。与现有的算法相反，新方法明确地考虑了参数的不确定性，并提供了一种正式的方法来结合不同时间段数据中的参数信息。该方法的说明和现有的方法相比，使用模拟和真实的数据。
2016-11-11 stat.CO stat.ME
Sequential Ensemble Transform for Bayesian Inverse Problems
我们提出了顺序包络变换（SET）方法，一种从贝叶斯后验分布生成近似样本的方法。该方法探讨了后验分布，通过解决一系列离散的最优运输问题，产生一系列的运输计划，映射前样本后验样本。我们证明了当样本量趋于无穷大时，SET方法产生的Dirac混合分布序列弱收敛于真后验。此外，我们的数值计算结果表明，相比标准的序贯蒙特卡罗（SMC）方法，SET方法是更强大的马尔可夫突变内核的选择，并需要较少的计算工作，以达到类似的精度时，用于探索复杂的后验分布。最后，我们描述了自适应计划，允许完全自动化的SET方法的使用。
2020-09-20 stat.CO stat.ME
Sequential Bayesian inference for static parameters in dynamic state space models
提出了一种动态状态空间模型静态参数的序贯贝叶斯推断方法。该方法是基于观察到许多动态状态空间模型具有相对较少的静态参数（或超参数），因此原则上可以计算后验并存储在可以动态跟踪的实际大小的离散网格上。此外，该方法能够使用计算状态过程的滤波和预测分布的任何现有方法。卡尔曼滤波器及其扩展到非线性/非高斯的情况下，本文已经使用。这是说明使用几个应用程序：线性高斯模型，二项式模型，随机波动率模型和极端非线性单变量非平稳增长模型。性能进行了比较，现有的在线方法和离线方法。
2017-06-27 stat.CO
Sequential Bayesian Inference in Hidden Markov Stochastic Kinetic Models with Application to Detection and Response to Seasonal Epidemics
研究了含潜在因子的随机动力学模型中的序贯贝叶斯推断。假设连续观察所有的反应，我们的重点是联合推理的未知反应速率和动态的潜在状态，建模为一个隐马尔可夫因子。利用连续时间跳马尔可夫过程的非线性滤波的见解，我们开发了一种新的序贯蒙特卡罗算法。我们的方法应用粒子学习的思想，以最大限度地减少粒子退化，并利用分析跳跃马尔可夫结构。我们的方法的一个激励应用是通过一个房室流行病模型表示的季节性传染病暴发的建模。我们证明了在这样的模型中的推理与几个数值说明，并讨论了预测分析的流行病对策，使用顺序贝叶斯估计。
2013-01-16 math.PR math.ST stat.CO
Bayesian Optimization Sequential Surrogate (BOSS) Algorithm: Fast Bayesian Inference for a Broad Class of Bayesian Hierarchical Models
本文提出BOSS算法，结合贝叶斯优化与近似贝叶斯推断，大幅减少拟合条件潜在高斯模型的计算开销，并通过模拟及多领域实际应用验证其高效性与准确性。
2024-03-18 stat.AP stat.CO stat.ME
Sequential Bayesian inference for spatio-temporal models of temperature and humidity data
我们开发了一个时空模型来预测传感器输出在英格兰东北部的五个位置。该信号使用耦合动态线性模型描述，空间效应由高斯过程指定。使用随机算法分析数据流，该算法通过一系列重新加权和重新排序步骤依次逼近参数后验。迭代批量重要性抽样计划是用来规避粒子退化通过重采样移动步骤。对算法进行了改进，使其更高效、更可并行。该模型给出了一个很好的描述的基本过程，并提供合理的预测精度。
2018-06-14 stat.AP stat.CO
Sequential Monte Carlo for Cut-Bayesian Posterior Computation
提出一种序贯蒙特卡洛方法高效计算 cut-Bayesian 后验量，通过有限样本集中界证明理论性质，并结合线性回火与参数排列优化计算效率，在化学反应器模块化推断中验证了其准确性与计算优势。
2024-11-12 stat.CO stat.ME
Approximating multivariate posterior distribution functions from Monte Carlo samples for sequential Bayesian inference
贝叶斯统计的一个重要特征是有机会进行顺序推断：在看到数据集后获得的后验分布可以用作第二次推断的先验。然而，当使用蒙特卡罗抽样方法进行推断时，我们只有一组来自后验分布的样本。为了进行序贯推理，我们要么只在这些位置评估第二后验概率，并相应地重新加权样本，要么我们可以从样本中估计后验概率分布的函数描述，并将其用作第二次推理的先验。在这里，我们研究了在何种程度上，我们可以获得一个准确的联合后验从两个数据集，如果推理是顺序完成的，而不是联合，在每个推理步骤的条件下，使用蒙特卡罗采样。为了验证这一点，我们评估了核密度估计，高斯混合，藤copulas和高斯过程在近似后验分布的准确性，然后测试这些近似是否可以用于序贯推理。在低维情况下，高斯过程更准确，而在高维情况下，高斯混合或藤蔓Copula表现得更好。在我们的测试案例中，后验近似优于直接样本重新加权，尽管联合推理仍然优于顺序推理。由于性能是特定情况下，我们提供了一个R包mvdens与密度近似方法的统一接口。
2019-06-21 stat.CO
Sequential Bayesian Experimental Design for Implicit Models via Mutual Information
University of Edinburgh（爱丁堡大学）；Queensland University of Technology（昆士兰科技大学）
贝叶斯试验设计（Bayesian Experimental Design，简称BED）是一种利用统计模型和不确定性下的决策来优化科学实验成本和性能的框架。与静态BED相反，序贯BED考虑的是我们可以通过实验中收集的数据顺序更新我们对模型参数的信念的场景。对于自然科学和医学科学特别感兴趣的一类模型是隐式模型，其中数据生成分布是棘手的，但从中采样是可能的。尽管在过去的几年里，隐式模型的静态床层展开已经有了大量的工作，但隐式模型的序贯床层展开这一出了名的难题却很少有人涉及。我们通过设计一种新颖的用于参数估计的序贯设计框架来解决文献中的这一差距，该框架使用模型参数和模拟数据之间的互信息（MI）作为效用函数来寻找最佳试验设计，这是以前没有针对隐式模型进行过的。我们的方法使用比率估计的似然自由推断，同时估计后验分布和MI。在连续的BED过程中，我们利用贝叶斯优化来帮助我们优化MI效用。我们发现，我们的框架是有效的各种隐式模型测试，产生准确的参数估计后，只有几次迭代。
2020-03-20 cs.LG stat.CO stat.ME
Generalized Bayesian Filtering via Sequential Monte Carlo
University of Warwick（华威大学）；The Alan Turing Institute（艾伦·图灵研究所）
我们引入了一个框架，在一般的状态空间隐马尔可夫模型（HHALGORY）的可能性误指定的推理。特别是，我们利用广义贝叶斯推断（GBI）的损失理论的角度来定义广义过滤递归的障碍，可以解决模型误指定下的推理问题。在这样做的过程中，我们到达的原则性程序，强大的推理对观察污染利用$β$分歧。通过序贯蒙特卡罗方法（SMC），其中大多数标准粒子方法及其相关的收敛结果，可以很容易地适应新的设置操作所提出的框架。我们将我们的方法应用于目标跟踪和高斯过程回归问题，并观察到标准滤波算法和其他鲁棒滤波器的性能改善。
2020-10-21 cs.LG stat.CO stat.ME
Efficient Bayesian estimation for GARCH-type models via Sequential Monte Carlo
利用序贯蒙特卡罗（SMC）方法的优点，研究了广义自回归条件异方差模型的参数估计和模型选择方法.它提供了一种替代方法来量化相对于经典推理的估计不确定性。即使是长时间序列，它表明，模型参数的后验分布是非正态的，突出了贝叶斯方法和有效的后验抽样方法的需要。有效的方法，既在SMC的分布序列的构建，留一交叉验证，长时间序列数据也被提出。最后，一个无偏估计量的可能性开发的坏环境良好的环境模型，一个复杂的GARCH型模型，它允许精确的贝叶斯推断以前没有在文献中。
2020-03-05 econ.EM stat.AP stat.CO
Sequential Bayesian Learning for Hidden Semi-Markov Models
在本文中，我们探讨类的隐半马尔可夫模型（HSMM），一个灵活的扩展流行的隐马尔可夫模型（HMM），允许潜在的随机过程是一个半马尔可夫链。由于在评估似然函数时增加的计算挑战，HSMM通常比它们的基本HMM对应物使用得不那么频繁。此外，虽然两个模型本质上都是序贯的，但参数估计主要通过批估计方法进行。因此，本文的一个主要动机是提供方法来估计HSMM（1）在计算上可行的时间，（2）在一个精确的方式，即只受蒙特卡罗误差，（3）在一个连续的设置。我们提供并验证了一个高效的计算方案贝叶斯参数估计的HSMM。此外，我们探讨了自回归（AR）模型与隐半马尔可夫状态的波动率指数时间序列的HSMM的性能，并演示了如何使用该算法可以用于政权切换，模型选择和聚类的目的。
2023-01-25 econ.EM stat.AP stat.CO
Deep Adaptive Design: Amortizing Sequential Bayesian Experimental Design
University of Oxford（牛津大学）
我们介绍了深度自适应设计（DAD），一种用于摊销自适应贝叶斯试验设计成本的方法，该方法允许实时运行实验。传统的序贯贝叶斯最优试验设计方法需要在试验的每个阶段进行大量的计算。这使得它们不适合大多数现实世界的应用程序，其中通常必须快速做出决策。DAD通过预先学习摊销设计网络来解决这个限制，然后使用它在部署时快速运行（多个）自适应实验。该网络表示一种设计策略，该策略将先前步骤的数据作为输入，并使用单个前向传递输出下一个设计;这些设计决策可以在实时实验期间以毫秒为单位做出。为了训练网络，我们引入了对比信息界，这是合适的目标顺序设置，并提出了一个定制的网络架构，利用关键的对称性。我们证明了DAD成功地摊销了试验设计的过程，在许多问题上优于其他策略。
2021-06-11 cs.AI cs.LG stat.CO
Sequential Bayesian inference for implicit hidden Markov models and current limitations
隐马尔可夫模型通过将数据视为任意复杂马尔可夫过程的噪声测量，可以描述出现在各个科学领域中的时间序列。序贯蒙特卡罗（SMC）方法已经成为估计给定观测值和固定参数值的隐马尔可夫过程的标准工具。我们回顾了最近的一些发展，允许列入参数的不确定性以及模型的不确定性。从算法复杂性的角度强调了目前可用的方法的缺点。时间序列分析中感兴趣的统计对象是在一个玩具“Lotka-Volterra”模型用于人口生态学。一些开放的挑战进行了讨论，审查的方法，更长的时间序列，高维状态空间和更灵活的模型的可扩展性。
2015-05-16 stat.CO stat.ME
Sequential Bayesian Analysis of Multivariate Count Data
我们开发了一类新的动态多变量泊松计数模型，允许快速在线更新，我们将这些模型称为多变量泊松尺度β（MPSB）。MPSB模型允许计数中的序列依赖性以及在随机公共环境下跨多个序列的依赖性。其他显着的功能包括状态传播和预测似然密度的分析形式。通过更新静态模型参数的充分统计量来进行顺序更新，从而产生完全适应的粒子学习算法和一类新的预测似然和边缘分布，我们将其称为（动态）多变量融合超几何负二项分布（MCHG-NB）和动态多变量负二项分布（DMNB）。为了说明我们的方法，我们使用了各种模拟研究，并计算了每周非耐用品消费者需求的数据。
2016-09-15 stat.CO stat.ME
Multi-index Sequential Monte Carlo ratio estimators for Bayesian Inverse problems
我们考虑的问题，估计期望相对于一个未知的归一化常数的目标分布，即使是非归一化的目标需要近似在有限的分辨率。这种设置在科学和工程应用中无处不在，例如在贝叶斯推理的背景下，其中由棘手的偏微分方程（PDE）控制的基于物理的模型出现在可能性中。多指标序贯蒙特卡罗（MISMC）方法被用来构造比估计量，该方法既具有多指标蒙特卡罗（MIMC）方法的复杂性，又具有序贯蒙特卡罗（SMC）方法的推理效率.特别地，所提出的方法可证明地实现了MSE $^{-1}$的规范复杂度，而单级方法需要MSE $^{-ξ}$用于$ξ>1$。这是说明了在$1$和$2$空间维度，其中$ξ=5/4$和$ξ=3/2$，分别椭圆PDE正演模型的贝叶斯逆问题的例子。它也说明了一个更具挑战性的对数高斯过程模型，其中单级复杂性约为$ξ=9/4$和多级蒙特卡洛（或MIMC与不适当的索引集）给$ξ= 5/4 + ω$，对于任何$ω> 0$，而我们的方法再次规范。
2023-03-21 cs.NA math.NA stat.CO
Covariance-Corrected WAIC for Bayesian Sequential Data Models
本文提出协方差校正WAIC（CC-WAIC），通过纳入对数似然后验协方差结构改进贝叶斯序列数据模型选择，并引入基于有效样本量的偏差校正，经模拟实验验证其在不同时间依赖水平下的可靠性。
2025-09-22 stat.CO stat.ME
Sequential Bayesian optimal experimental design via approximate dynamic programming
多个实验的设计通常通过次优策略进行，例如省略反馈的批处理（开环）设计或不考虑未来效应的贪婪（近视）设计。本文介绍了序贯试验最优设计的新策略。首先，我们严格制定一般序贯最优试验设计（sOED）问题作为一个动态规划。批处理和贪婪的设计结果从特殊情况下，这个配方。然后，我们专注于sOED参数推断，采用贝叶斯公式与信息理论的设计目标。为了使问题易于处理，我们开发了新的数值方法与连续的参数，设计和观测空间的非线性设计。我们近似的最优策略，通过使用逆向归纳法与回归构建和完善的价值函数近似的动态规划。该算法通过探索和开发迭代生成轨迹，以提高状态空间中频繁访问区域的近似精度。数值结果进行了验证，在线性高斯设置对解析解。然后，在一个非线性源反演问题上证明了批处理和贪婪设计的优势，在这个问题上，我们寻求顺序检测的最佳策略。
2016-04-28 math.OC stat.CO stat.ME
Sequential discretisation schemes for a class of stochastic differential equations and their application to Bayesian filtering
针对一类随机微分方程，提出弱收敛阶1.0的序贯预测-校正离散化方案，适用于高维模型，可降低计算成本，且用于贝叶斯滤波时性能更优。
2024-01-31 cs.NA math.NA math.PR
Prediction-Oriented Sequential Bayesian Design of Physical Experiments Informed by Computer Models
Institute of Applied Statistics, Johannes Kepler University Linz（林茨约翰·开普勒大学应用统计研究所）
本文提出一种序列贝叶斯实验设计框架，通过互信息准则和局部模型复杂性度量提升预测性能，并通过加速策略减少计算开销，验证了方法在合成和生物化学案例中的有效性。
2026-09-30 stat.AP stat.CO
