Inference for a Class of Partially Observed Point Process Models
本文提出了一个基于模拟的框架，从部分和离散观察点过程（PP）模型的静态参数的顺序推断。以贝叶斯的角度来看，静态参数，我们建立在序贯蒙特卡罗（SMC）方法，调查的问题，执行顺序滤波和平滑复杂的例子，目前的方法往往失败。我们考虑各种方法近似后验分布使用SMC。我们的方法，与一些理论上的讨论，说明了一个双随机点过程的背景下，金融。
2012-01-22 stat.ME
Efficient Sequential Monte-Carlo Samplers for Bayesian Inference
在许多问题中，需要复杂的非高斯和/或非线性模型来精确地描述感兴趣的物理系统。在这种情况下，蒙特卡罗算法是非常灵活和非常强大的方法来解决这样的推理问题。然而，在存在高维和/或多峰后验分布的情况下，广泛记载的是，标准蒙特卡罗技术可能导致性能不佳。本文的研究重点是一个序贯蒙特卡罗（SMC）采样器框架，一个更强大的和有效的蒙特卡罗算法。虽然这种方法比传统的蒙特卡罗方法具有许多优点，但这种新兴技术的潜力在信号处理中很大程度上尚未得到充分利用。在这项工作中，我们的目标是提出一些新的策略，将提高效率，并促进实际实施的SMC采样器，专门用于信号处理应用。首先，我们提出了一个自动和自适应的策略，选择序列的分布内的SMC采样器，最大限度地减少后验归一化常数的估计的渐近方差。这对于在贝叶斯信号处理中的建模应用中执行模型选择是至关重要的。我们提出的第二个原始贡献通过引入一种新的校正机制来提高SMC采样器的全局效率，该机制允许使用通过算法的所有迭代生成的粒子（而不是仅使用来自最后一次迭代的粒子）。这是一个重要的贡献，因为它消除了丢弃大部分获得的样品的需要，这在标准SMC方法中是标准的。这将提高实际环境中的估计性能，其中计算预算是重要的考虑因素。
2015-04-22 stat.AP stat.CO
Bayesian Parameter Inference for Partially Observed Stopped Processes
在这篇文章中，我们考虑贝叶斯参数推断与部分可观察的随机过程，从一个集合B 0开始，并停止或杀死在一个已知的集合A的第一个命中时间。这样的过程在各种各样的应用中自然发生。相关的后验分布是高度复杂的，后验参数推断需要使用先进的马尔可夫链蒙特卡罗（MCMC）技术。我们的方法使用最近引入的模拟方法，粒子马尔可夫链蒙特卡罗（PMCMC）（Andrieu et.等人2010 [1]），其中序贯蒙特卡罗（SMC）近似（参见Doucet et. 2001 [18]和Liu 2001 [27]）嵌入MCMC中。然而，当感兴趣的参数是固定的，标准的SMC算法并不总是适合于许多停止的进程。在Chen et.等人[11]和Del Moral 2004 [15]，作者介绍了多层Feynman-Kac公式的SMC近似，这可以导致更有效的算法。这是通过设计从B 0到A的嵌套集合序列来实现的，然后仅当过程的样本达到序列中的中间水平集合时才执行重新排序步骤。当然，中间水平集的选择对于这种方案的性能至关重要。在本文中，我们证明了多级SMC算法可以作为PMCMC的建议。此外，我们提出了一个灵活的策略，适应不同的参数建议的水平集。我们的方法是说明与迁移的聚结模型。
2012-01-18 stat.CO stat.ME
Generalized Bayesian deep reinforcement learning
University of Warwick（沃里克大学）；CEREMADE, Université Paris Dauphine PSL（巴黎第纳大学CEREMADE）
本文提出广义贝叶斯深度强化学习方法，利用深度生成模型和预序列评分规则后验进行环境动态建模，并引入期望汤普森采样改进策略学习，在理论和实验上验证了其有效性。
2025-06-02 cs.LG stat.ME stat.ML
Sequential Ensemble Transform for Bayesian Inverse Problems
我们提出了顺序包络变换（SET）方法，一种从贝叶斯后验分布生成近似样本的方法。该方法探讨了后验分布，通过解决一系列离散的最优运输问题，产生一系列的运输计划，映射前样本后验样本。我们证明了当样本量趋于无穷大时，SET方法产生的Dirac混合分布序列弱收敛于真后验。此外，我们的数值计算结果表明，相比标准的序贯蒙特卡罗（SMC）方法，SET方法是更强大的马尔可夫突变内核的选择，并需要较少的计算工作，以达到类似的精度时，用于探索复杂的后验分布。最后，我们描述了自适应计划，允许完全自动化的SET方法的使用。
2020-09-20 stat.CO stat.ME
Efficient scenario analysis in real-time Bayesian election forecasting via sequential meta-posterior sampling
Columbia University（哥伦比亚大学）；University of Tokyo（东京大学）；Aalto University（阿尔托大学）
该研究针对实时贝叶斯选举预测中传统方法需重复拟合导致计算成本高的问题，提出元建模策略与序贯采样方案，实现高效情景分析，回测显示其计算增益显著。
2026-08-05 stat.AP stat.CO stat.ME
Bayesian Sparsity-Path-Analysis of Genetic Association Signal using Generalized t Priors
我们探索使用广义t先验的回归系数，以帮助理解关联信号的性质内的“命中区域”的全基因组关联研究。我们采用的特殊广义t分布是关于其辐角绝对值的学生分布。对于低自由度，我们表明，广义t表现出“稀疏先验”的性质与其他常见形式的稀疏先验的一些有吸引力的功能，包括众所周知的双指数分布的自由度趋于无穷大。我们特别注意从稀疏路径分析（SPA）中获得的后验统计数据的图形表示，在SPA中，我们扫过尺度的设置（收缩/精度）参数，以探索在一系列复杂性上获得的后验模型的空间，从所有系数分布严重集中在零附近的非常稀疏的模型，扩散先验和系数分布在其最大似然估计周围的模型。SPA图类似于最大后验（MAP）估计的LASSO图，但它们将绘制的系数的完整边缘后验分布作为先验精度的函数。在一定范围的先验精度上生成后验分布在计算上是具有挑战性的，但自然服从于以尺度参数为索引的序贯蒙特卡罗（SMC）算法。我们展示了如何SMC模拟图形处理单元（GPU）提供了非常有效的推理SPA。我们还提出了一个规模的混合表示的广义t前，导致期望最大化算法，以获得MAP估计应该只需要这些。
2011-06-01 stat.AP stat.CO
Efficient Bayesian estimation for GARCH-type models via Sequential Monte Carlo
利用序贯蒙特卡罗（SMC）方法的优点，研究了广义自回归条件异方差模型的参数估计和模型选择方法.它提供了一种替代方法来量化相对于经典推理的估计不确定性。即使是长时间序列，它表明，模型参数的后验分布是非正态的，突出了贝叶斯方法和有效的后验抽样方法的需要。有效的方法，既在SMC的分布序列的构建，留一交叉验证，长时间序列数据也被提出。最后，一个无偏估计量的可能性开发的坏环境良好的环境模型，一个复杂的GARCH型模型，它允许精确的贝叶斯推断以前没有在文献中。
2020-03-05 econ.EM stat.AP stat.CO
Multilevel Sequential${}^2$ Monte Carlo for Bayesian Inverse Problems
利用噪声观测值识别数学模型中的参数是不确定性量化中的一项常见任务。我们采用贝叶斯反演的框架：我们结合监测和观测数据与先验信息来估计参数的后验分布。具体地说，我们感兴趣的椭圆PDE的扩散系数的分布。在这种设置中，样本空间是高维的，并且PDE解的每个样本都是昂贵的。为了解决这些问题，我们提出并分析了一种新的顺序蒙特卡罗（SMC）采样器的后验分布的近似。经典的单水平SMC构造了一系列测量，从先验分布开始，以后验分布结束。中间测量值来自于对可能性的调节，或者等价地，来自于对噪声的重新缩放。PDE离散化的分辨率是固定的。相比之下，我们的估计采用了PDE离散化的层次结构，以减少计算成本。我们通过降低温度或同时增加离散化水平来构造一系列中间措施。这个想法建立在[P.S. Koutsourelakis，J. Comput.物理、228（2009），pp. 6184 - 6211]，其中桥接方案用于将样本从粗略离散化级别转移到精细离散化级别。重要的是，我们在回火和桥接之间的选择是完全自适应的。我们目前在二维空间的数值实验，比较我们的估计单级SMC和多分辨率采样器。
2018-05-06 stat.CO
SIXO: Smoothing Inference with Twisted Objectives
Stanford University（斯坦福大学）
序贯蒙特卡罗（SMC）是一种用于状态空间模型的推理算法，它通过从一系列目标分布中采样来近似后验。目标分布通常被选择为过滤分布，但这些分布忽略了来自未来观测的信息，导致推理和模型学习的实际和理论限制。我们引入SIXO，这是一种学习近似平滑分布的目标的方法，它结合了来自所有观测的信息。其核心思想是使用密度比估计来拟合函数，将滤波分布弯曲成平滑分布。然后，我们使用SMC与这些学习的目标来定义一个变分目标的模型和建议学习。SIXO产生可证明更紧密的日志边际下限，并提供更准确的后验推理和参数估计在各种领域。
2022-06-20 cs.AI cs.LG stat.ML
A mirror descent approach to maximum likelihood estimation in latent variable models
本文提出一种结合镜像下降与序列蒙特卡洛的潜变量模型参数推断与后验估计方法，适用于离散潜变量，并在实验中优于标准期望最大化算法。
2025-11-06 stat.CO stat.ME
Wide Bayesian neural networks have a simple weight posterior: theory and accelerated sampling
University of Cambridge（剑桥大学）；Google Research（谷歌研究院）
我们介绍reprorisation，一个数据相关的reparameterisation，将贝叶斯神经网络（BNN）后的分布，其库尔贝克-莱布勒散度的BNN前消失层宽度的增长。的reprorisation映射直接作用于参数，其分析的简单性补充了已知的神经网络高斯过程（NNGP）的行为，广泛的BNN在函数空间。利用repriorisation，我们开发了一个马尔可夫链蒙特卡罗（MCMC）后验采样算法，混合更快更广泛的BNN。这与MCMC在高维中通常较差的性能形成对比。我们观察到高达50倍的有效样本量相对于没有重新参数化的完全连接和剩余网络。在所有宽度上都实现了改进，重新参数化和标准BNN之间的裕度随着层宽度的增加而增加。
2022-06-15 cs.LG stat.ML
Bayesian optimisation for fast approximate inference in state-space models with intractable likelihoods
本文研究了具有难处理似然的非线性状态空间模型的近似贝叶斯参数推断问题。具有近似贝叶斯计算的序贯蒙特卡罗（SMC-ABC）是一种用于近似这种类型的模型中的可能性的方法。然而，这种近似可能是有噪声的并且计算成本高，这阻碍了使用基于优化和蒙特卡罗方法的标准方法的有效实现。我们提出了一种计算效率高的新方法的基础上结合高斯过程优化和SMC-ABC创建一个拉普拉斯近似的棘手后。我们将所提出的算法用于随机波动率模型的推理，同时使用合成数据和真实数据，以及使用Copula模型估计两个投资组合的风险价值。我们的文件之间的一个和两个数量级的速度相比，国家的最先进的后验推理算法。
2017-06-13 q-fin.RM stat.CO stat.ML
Accelerated Bayesian SED Modeling using Amortized Neural Posterior Estimation
最先进的光谱能量分布（SED）分析使用贝叶斯框架从观测到的光度或光谱推断星系的物理性质。他们需要从一个高维空间的SED模型参数采样，并采取$>10-100$每个星系的CPU小时，这使得他们几乎不可行的分析$billions$的星系，将观察到即将到来的星系调查（$e.g.$ DESI，PFS，鲁宾，韦伯和罗马）。在这项工作中，我们提出了一种替代的可扩展的方法，严格的贝叶斯推断使用摊销神经后验估计（ANPE）。ANPE是一种基于模拟的推理方法，它采用神经网络来估计整个观测范围内的后验概率分布。一旦训练完成，它不需要额外的模型评估来估计后验。我们提出并公开发布了${\rm SED}{flow}$，这是一种ANPE方法，用于从光学光度学中产生最近Hahn等人（2022）SED模型的后验。${\rm SED}{flow}$采用${\sim}1$ $second~per~galaxy$得到12个模型参数的后验分布，均与传统的马尔可夫链蒙特卡罗抽样结果极好地吻合。我们还将${\rm SED}{flow}$应用于NASA-Sloan Atlas中的33，884个星系，并公开发布它们的后验：见https://changhoonhahn.github.io/SEDflow。
2022-03-14 astro-ph.CO astro-ph.GA stat.ML
Harnessing Low-Fidelity Data to Accelerate Bayesian Optimization via Posterior Regularization
Nanjing University of Posts and Telecommunications（南京邮电大学）
贝叶斯优化（BO）是一个功能强大的范式，用于黑箱目标函数（BOF）的无导数全局优化，这是昂贵的评估。但是，对于具有高成本函数计算的问题，BO的开销仍然是过高的。在本文中，我们研究如何减少BO所需的函数求值的数量，而不影响解决方案的质量。我们探讨了后验正则化的思想，利用高斯过程置信上限（GP-UCB）框架内的低保真度（LF）数据。LF数据可以由BOF的LF近似或相关优化任务的先前评估产生。训练称为LF-GP的额外GP模型以拟合LF数据。我们开发了一个名为动态加权专家产品（DW-POE）融合算子。该算子在BOF的后验上引入正则化。LF GP模型对正则化后验的影响通过贝叶斯形式主义进行自适应调整。大量的基准BOF优化任务的实验结果表明，所提出的算法优于国家的最先进的性能。
2019-12-16 cs.LG stat.ML
Noisy Adaptive Group Testing using Bayesian Sequential Experimental Design
Google（谷歌）
当一种疾病的感染率较低时，Dorfman在80年前就证明了对人群进行检测比对个体进行检测更有效。我们在本文中的目标是提出新的组测试算法，可以在嘈杂的环境中运行（测试可能会出错），以自适应地决定（查看过去的结果）下一步测试哪些组，目标是尽快收敛到一个良好的检测，并尽可能少的测试。我们把这个问题作为一个贝叶斯序贯试验设计问题。使用$n$患者的感染状态向量的后验分布，考虑到迄今为止进行的观察试验，我们寻求形成具有最大效用的组。我们考虑了互信息等效用，但也考虑了与测试更直接相关的量，例如测试的ROC曲线的AUC。实际上，$\{0,1\}^n$上的后验分布由序贯蒙特卡罗（SMC）采样器近似，效用由贪婪优化器最大化。我们的程序在模拟中显示了自适应和非自适应基线的显着改善，并且在疾病患病率较低时比单独测试更有效。此外，我们经验表明，循环的信念传播（LBP），广泛认为是SoTA解码器，以决定一个人是否被感染或没有以前的测试，可以是不可靠的，并表现出振荡行为。我们的SMC解码器是更可靠的，并可以提高其他组测试算法的性能。
2020-07-22 cs.LG stat.AP stat.ME
Bayesian mode and maximum estimation and accelerated rates of contraction
本文研究了在噪声存在下，未知回归函数的模和最大值的估计问题。我们采用贝叶斯方法，使用张量积B样条和赋予高斯先验的系数。在通常的固定在先进的抽样计划中，我们建立后验收缩率的模式和最大值，并表明他们符合这个问题的极大极小率。为了量化估计的不确定性，我们为这两个数量构建了可信集，这些数量具有最佳大小的高覆盖概率。如果一个被允许收集数据顺序，我们进一步提出了贝叶斯两阶段估计过程，其中第二阶段后验是建立在从第一阶段后验构造的可信集内收集的样本的基础上。在此可信集半径的适当条件下，我们可以加速最优收缩率从固定在先进的设置到最小极大序列率。仿真实验表明，我们的贝叶斯两阶段过程优于单阶段过程，也略有改善后，非贝叶斯两阶段过程。
2018-03-15 math.ST stat.ME stat.TH
Probabilistic Numeric SMC Sampling for Bayesian Nonlinear System Identification in Continuous Time
University of Sheffield（谢菲尔德大学）
本文提出一种基于概率数值SMC采样的方法，用于连续时间贝叶斯非线性系统辨识，通过将ODE求解与概率建模结合，在含噪数据下高效估计系统参数与状态，并量化数据和辨识过程的不确定性。
2024-04-23 cs.LG stat.ML
Adaptive particle-based approximations of the Gibbs posterior for inverse problems
Duke University（杜克大学）；George Mason University（乔治梅森大学）
在这项工作中，我们采用了一个通用的框架的基础上吉布斯后更新信念分布的偏微分方程（PDE）的反问题。吉布斯后验公式是标准贝叶斯推断的推广，其仅依赖于将未知参数连接到数据的损失函数。当真实数据生成机制（或噪声分布）未知或难以指定时，它特别有用。吉布斯后验符合贝叶斯更新时，一个真正的似然函数是已知的，损失函数对应于负对数似然，但在更一般的设置提供主观推断。我们采用序贯蒙特卡罗（SMC）的方法来近似吉布斯后验粒子。为了管理通过损失函数传播越来越多的粒子的计算成本，我们采用了最近开发的局部缩减基方法来构建一个有效的替代损失函数，该函数用于吉布斯更新公式中代替真实损失。我们推导出我们的近似误差界，并提出了一种自适应的方法来构建代理模型，在一个有效的方式。我们证明了我们的方法的效率，通过几个数值例子。
2019-07-02 cs.LG stat.CO
Efficient sequential Bayesian inference for state-space epidemic models using ensemble data assimilation
Trinity College Dublin（都柏林三一学院）
本文提出了一种高效的序贯贝叶斯推断方法，用于状态空间流行病模型，通过使用集合数据同化替代传统粒子滤波，以提高计算效率并保持推断精度。
2026-05-18 stat.CO stat.ME
Hidden Markov Pólya trees for high-dimensional distributions
波利亚树（PT）过程是一种通用的贝叶斯非参数模型，在一系列推理问题中得到了广泛的应用。它有一个简单的解析形式和后验计算归结为沿样本空间上的划分树的β-二项式共轭更新。PT模型的最新发展表明，这些模型的性能可以大大提高（i）允许分区树，以适应底层分布的结构和（ii）纳入潜在的状态变量，表征底层分布的局部特征。然而，PT的重要限制仍然存在，包括（i）关于划分树的选择的后验推断的敏感性，以及（ii）关于样本空间的维度的可扩展性的缺乏。我们考虑PT模型的建模策略，它结合了一个灵活的先验的分区树以及潜在的状态与马尔可夫依赖。我们介绍了一种混合算法相结合的序贯蒙特卡罗（SMC）和递归消息传递后采样，可以扩展到100维。虽然我们的算法的描述假设一个单一的计算机环境，它有可能被实现在分布式系统上，以进一步提高可扩展性。此外，我们还研究了树结构和潜在状态在后验模型下的大样本性质。我们在密度估计和两组比较中进行了大量的数值实验，结果表明，灵活的划分可以大大提高PT模型在这两个推理任务中的性能。我们展示了一个应用程序的质量细胞计数数据集，19个维度和超过200，000个观察。
2021-12-07 stat.AP stat.CO stat.ME
GPU-accelerated Bayesian inference for block-cave geometry recovery via muon tomography
Simon Fraser University（西蒙菲莎大学）；Ideon Technologies Inc.（艾迪恩科技有限公司）
本文提出一种基于GPU的贝叶斯推断框架，用于通过穆斯堡尔成像监测块状矿体开采过程，利用低维表面表示减少计算需求并提高几何真实性。
2026-09-07 stat.AP
Kinetic Langevin Meets Split Gibbs: Accelerated Posterior Sampling for Imaging Inverse Problems with Diffusion Priors
Hokkaido University（北海道大学）；Institute of Information Technology, VAST（越南科学技术翰林院信息技术学院）
本文提出RED-KLwSGS及其联合变体，将动力学朗之万扩散与分裂吉布斯采样结合，以加速成像逆问题的后验采样，并证明非渐近收敛性，实验显示更快收敛和高质量重建。
2026-10-08 cs.LG stat.ML
Group Sequential Design with Posterior and Posterior Predictive Probabilities
The University of Queensland（昆士兰大学）；McGill University（麦吉尔大学）；McGill University Health Centre（麦吉尔大学健康中心）
提出一种高效校准贝叶斯组序贯设计决策阈值和最小样本量的方法，通过理论证明将后验概率建模为样本量函数，仅需两次模拟即可评估误差概率。
2026-06-25 stat.ME
Accelerated Parallel Non-conjugate Sampling for Bayesian Non-parametric Models
在贝叶斯非参数环境中推断潜在特征模型通常是困难的，特别是在高维环境中，因为它通常需要从一些先验分布中提出特征。在特殊情况下，当集成是易处理的时，我们可以根据预测的可能性对新的特征分配进行采样。我们提出了一种新的方法来加速混合的潜变量模型推理提出的数据的基础上的特征位置，而不是事先。首先，我们介绍了一个加速的功能建议机制，我们表明是一个有效的MCMC算法的后验推理。接下来，我们提出了一个近似推理策略，并行执行加速推理。结合这两种方法的两阶段算法提供了一种计算上有吸引力的方法，可以快速达到局部收敛到我们模型的后验分布，同时允许我们利用并行化。
2022-04-30 stat.ML
Accelerate CNN via Recursive Bayesian Pruning
Cooperative Medianet Innovation Center, Shanghai Jiao Tong University（上海交通大学协同媒体网络创新中心）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
通道剪枝是一个NP难问题，它被广泛用于加速卷积神经网络。现有的方法为了计算简单，通常忽略了上述依赖性。为了解决这个问题，在贝叶斯框架下，我们提出了一种逐层递归贝叶斯修剪方法（RBP）。提出了一种新的基于丢弃率的冗余度度量方法，该方法在假设层间相关性的前提下，简化了后验估计的计算。具体来说，我们将跨层的噪声建模为马尔可夫链，并将其后验作为目标以反映层间依赖性。考虑到后验问题的封闭形式解是难以处理的，我们推导了一个稀疏诱导的Dirac-like先验，它规则化了设计噪声的分布，以自动逼近后验。与现有的方法相比，当假设层间依赖性时，不需要额外的开销。冗余通道可以通过微小的丢弃噪声简单地识别出来，并直接逐层修剪。在流行的CNN架构上的实验表明，所提出的方法优于几种最先进的方法。特别地，我们分别针对VGG 16和ResNet 50在大规模数据集ILSVRC 2012上实现了高达$\bf{5.0\times}$和$\bf{2.2\times}$ FLOP的减少，并且精度损失很小。
2019-03-27 cs.LG stat.ML
A linear adjustment based approach to posterior drift in transfer learning
本文提出了一种新的后验漂移问题的模型和方法，其中目标域中的回归函数被建模为线性调整（在适当的尺度上），这是一个继承了经典统计文献中广义线性模型和加速失效时间模型的简单性和实用性的想法，研究了我们提出的估计量在二分类问题中的理论性质。我们的方法被证明是灵活的，适用于各种统计环境，并可以通过转移学习问题，在各个领域，包括流行病学，遗传学和生物医学。作为一个具体的应用程序，我们说明了我们的方法的力量，通过死亡率预测为英国亚洲人借用力量从类似的数据，从更大的英国高加索人，使用英国生物银行的数据。
2021-12-12 stat.ME
Biased Online Parameter Inference for State-Space Models
我们考虑贝叶斯在线静态参数估计的状态空间模型。这是一个非常重要的问题，但在计算上非常具有挑战性，因为精确的最新方法通常具有随时间参数增长的计算成本;也许最成功的算法是SMC 2 [9]的算法。我们提出了一个版本的SMC 2算法的计算成本，不随时间参数的增长。此外，在假设下，该算法被证明提供相合估计的期望w.r.t.后面。然而，实现这种一致性的成本在参数空间的维度上可能是指数级的;如果避免这种指数级成本，则通常算法会有偏差。从理论的角度研究的偏见，在假设下，我们发现，偏差不积累的时间参数的增长。该算法在几个贝叶斯统计模型上实现。
2015-03-01 stat.CO
A dual-stress Bayesian Weibull accelerated life testing model
本文提出了一种贝叶斯加速寿命试验模型。寿命分布采用韦布尔分布，时间转换函数采用广义Eyring模型。这是一个模型，允许使用一个以上的压力源，而其他常用的加速模型，如阿克里先乌斯和幂律模型，只允许一个压力源。广义Eyring-Weibull模型用于应用中，其中MCMC方法用于生成用于后验推断的样本。
2021-11-16 math.ST stat.ME stat.TH
Monte Carlo guided Diffusion for Bayesian linear inverse problems
CMAP, Ecole polytechnique（法国综合理工学院CMAP）；LPSM, Sorbonne Université（索邦大学LPSM）；IHU Liryc（利里克大学医院研究所）；CITI, Télécom SudParis（南巴黎电信学院CITI）
本文提出MCGDiff算法，利用基于分数的生成模型先验构造中间线性逆问题序列，并结合序贯蒙特卡洛方法采样，在贝叶斯框架下有效求解不适定线性逆问题。
2023-10-25 cs.LG stat.ME stat.ML
Accelerating Posterior Inference from Pulsar Light Curves via Learned Latent Representations and Local Simulator-Guided Optimization
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Florida State University（佛罗里达州立大学）；New Mexico State University（新墨西哥州立大学）；NASA Goddard Space Flight Center（美国宇航局戈达德太空飞行中心）
本研究通过学习的潜在表示和局部模拟器引导优化，显著提升了脉冲星光变曲线后验推断的效率，将推断时间缩短至传统方法的1/20。
2026-02-16 astro-ph.HE stat.ML
Adaptation of the Tuning Parameter in General Bayesian Inference with Robust Divergence
我们介绍了一种具有鲁棒发散的鲁棒贝叶斯估计方法（例如，密度功率发散或γ发散），由单个调谐参数索引。众所周知，稳健发散引起的后验密度给出了对离群值高度稳健的估计，如果调整参数是适当的，仔细选择。在贝叶斯框架中，找到最佳调优参数的一种方法是使用证据（边际似然）。然而，我们数值说明，密度功率发散诱导的证据不工作，以选择最佳的调谐参数，因为强大的分歧不被视为一个统计模型。为了克服这些问题，我们把鲁棒发散指数作为一个非归一化的统计模型，我们通过最小化Hyvarinen得分来估计调谐参数。我们还提供了自适应计算方法的基础上序贯蒙特卡罗（SMC）采样器，这使我们能够获得最佳的调谐参数和样本的后验分布同时。还提供了所提出的方法，通过模拟和应用到实际数据的经验性能。
2022-07-01 stat.CO stat.ME
Prequential posteriors
University of Warwick（沃里克大学）；CEREMADE, Université Paris Dauphine PSL（巴黎-索邦大学中央经济与数学研究所）
本文提出预quential后验方法，用于解决深度生成预测模型中数据同化问题，通过预quential损失函数实现高效参数估计与预测性能优化。
2026-08-31 cs.LG stat.ML
Ensemble Kalman filter based Sequential Monte Carlo Sampler for sequential Bayesian inference
许多现实世界的问题需要一个估计参数的兴趣，在贝叶斯框架，从数据收集顺序的时间。从后验分布采样的传统方法，如{马尔可夫链蒙特卡罗}不能有效地解决这些问题，因为它们没有利用数据的顺序结构。为此，序列的方法，寻求更新的后验分布，每当一个新的收集的数据变得可用，经常被用来解决这些类型的问题。序贯方法的两种流行选择是Envelope卡尔曼滤波器（EnKF）和序贯蒙特卡罗采样器（SMCS）。虽然EnKF仅计算后验分布的高斯近似，但SMCS可以直接从后验中提取样本。然而，它的性能关键取决于所使用的内核。在这项工作中，我们提出了一种方法，构建SMCS的内核使用EnKF制定，我们证明了该方法的性能与数值例子。
2022-01-23 stat.CO stat.ME
RAPTOR-GEN: RApid PosTeriOR GENerator for Bayesian Learning in Biomanufacturing
Department of Mechanical and Industrial Engineering, Northeastern University（机械与工业工程系，东北大学）
RAPTOR-GEN提出一种机制感知的贝叶斯学习框架，结合概率知识图谱与朗之万扩散，从稀疏异构数据中加速生物制造数字孪生开发，并有效揭示调控机制。
2025-10-24 cs.LG stat.ML
Bayesian Quantile Estimation and Regression with Martingale Posteriors
University of Hong Kong（香港大学）；University of Oxford（牛津大学）
本文提出基于martingale后验的非参数贝叶斯方法，用于分位数估计和回归，通过递归估计和渐近近似实现高效后验计算。
2024-06-05 math.ST stat.ME stat.TH
Accelerating ABC methods using Gaussian processes
近似贝叶斯计算（ABC）方法用于使用模拟而不是似然计算来近似后验分布。我们引入高斯过程（GP）加速ABC，我们表明，它可以显着减少所需的模拟次数。由于计算资源通常是ABC中精度的主要决定因素，因此GP加速方法可以在某些模型中实现更精确的推理。未知对数似然函数的GP模型用于利用连续性和平滑性，减少所需的计算。我们使用了一系列的模型，提高了准确性，使用中间模型，以排除区域的参数空间是不可信的。这些方法并不适用于所有问题，但当它们可以使用时，可以节省大量的计算。对于Ricker模型，我们能够实现精确的近似的后验分布使用的因素比可比的蒙特卡罗方法少100模拟器评估，并为人口遗传学模型，我们能够近似精确的后验的第一次。
2014-02-23 stat.CO stat.ML
NAS-X: Neural Adaptive Smoothing via Twisting
Google Research（谷歌研究院）；Stanford University（斯坦福大学）
NAS-X将重加权醒眠算法与平滑序列蒙特卡洛结合，为序列隐变量模型提供低偏差低方差的梯度估计，在推断和模型学习上显著优于VI和RWS方法。
2023-10-30 cs.AI cs.LG stat.ML
Uncertainty and Explainability in Deep Rough Volatility: A Neural Information-Theoretic Posterior Approach
Imperial College（帝国理工学院）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
本文提出一种基于模拟推理的粗糙Heston模型校准框架，利用神经比率估计学习参数后验分布，并引入Hellinger-SHAP可解释性方法，以提供不确定性感知的价格区间和参数信息增益分析。
2026-10-23 cs.LG q-fin.PR stat.AP
Sample-efficient neural likelihood-free Bayesian inference of implicit HMMs
PhysicsX；MRC Biostatistics Unit, University of Cambridge（剑桥大学医学研究委员会生物统计学单元）；UK Health Security Agency（英国卫生安全局）
本文针对隐式HMM提出一种基于自回归流和马尔可夫性质的样本高效无似然方法，直接估计高维隐状态后验，其估计质量可与计算成本高得多的SMC算法相媲美。
2024-05-02 cs.LG stat.CO stat.ML
Enhancing Gaussian Process Surrogates for Optimization and Posterior Approximation via Random Exploration
University of Chicago（芝加哥大学）
本文提出基于随机探索步骤的贝叶斯优化算法，加速高斯过程代理模型收敛，并用于后验近似，在多个基准和实际问题中验证了有效性。
2024-07-17 cs.LG cs.NA math.NA
Solving Inverse Problems via Diffusion-Based Priors: An Approximation-Free Ensemble Sampling Approach
ICME Stanford University（ICME 斯坦福大学）；Stanford University（斯坦福大学）；Machine Learning Department NEC Labs America（机器学习部门 NEC 美国实验室）；NEC Labs America（NEC 美国实验室）
本文提出一种无启发式近似的集成采样算法，通过修正偏微分方程和随机加权粒子方法实现基于扩散模型先验的贝叶斯后验采样，并在成像反问题中取得更准确的重建结果。
2026-10-20 cs.CV cs.LG cs.NA
Nested Slice Sampling: Vectorized Nested Sampling for GPU-Accelerated Inference
Kavli Institute for Cosmology Cambridge（剑桥卡维利宇宙研究所）；Institute of Astronomy, University of Cambridge（剑桥大学天文研究所）；Cavendish Laboratory and Department of Engineering, University of Cambridge（剑桥大学卡文迪许实验室和工程系）
本文提出嵌套切片采样，一种适用于GPU的向量化嵌套采样方法，通过Hit-and-Run切片采样实现约束更新，提升高维问题的计算效率和稳定性，实验表明其在复杂多模态问题中表现优异。
2026-05-10 cs.LG stat.CO stat.ML
Efficient Bayesian Sampling Using Normalizing Flows to Assist Markov Chain Monte Carlo Methods
Flatiron Institute（熨斗研究所）；Center for Data Science, New York University（纽约大学数据科学中心）；Stanford University（斯坦福大学）；Courant Institute, New York University（纽约大学柯朗研究所）
规范化流可以生成复杂的目标分布，因此在贝叶斯统计的许多应用中显示出希望，作为MCMC的替代或补充。由于事先没有来自目标后验分布的数据集可用，因此通常使用仅需要来自基础分布的样本的反向Kullback-Leibler（KL）发散来训练流程。当后验复杂且难以用未经训练的归一化流进行采样时，该策略可能表现不佳。在这里，我们探索了一种独特的训练策略，使用直接库尔贝克-莱布勒散度作为损失，其中来自后验的样本通过以下方式生成：（i）在后验上使用归一化流来辅助局部MCMC算法以加速其混合速率，以及（ii）使用以这种方式生成的数据来训练流。该方法只需要有限数量的\textit{a~priori}输入后验，并可用于估计模型验证所需的证据，我们举例说明。
2021-07-16 cs.LG physics.data-an stat.ML
Uniform convergence over time of a nested particle filtering scheme for recursive parameter estimation in state--space Markov models
本文分析了离散时间状态空间马尔可夫模型静态参数贝叶斯估计的递归蒙特卡罗方法的性能。该算法采用两层粒子滤波器来逼近模型参数的后验概率分布。特别地，第一层产生参数空间上的样本的经验分布，而第二层中的滤波器是近似参数的（分析上难以处理的）可能性的辅助设备。这种方法将该算法与最近的序贯蒙特卡罗平方（SMC $^2$）方法，它提供了一个{ \em非递归}的解决方案相同的问题。在本文中，我们研究的逼近，通过所提出的计划，实有界函数的积分关于系统参数的后验分布。根据有关的紧凑性的参数支持的状态空间模型的后验分布序列的稳定性和连续性的假设下，我们证明了$L_p$规范的近似误差消失渐近（作为由算法产生的蒙特卡罗样本的数量增加），并均匀地随着时间的推移。我们还证明了，在相同的假设下，所提出的计划可以渐近识别一类模型的参数值。我们总结了一个数值例子，说明了一致收敛的结果，探索所提出的算法与长序列的观测操作的准确性和稳定性的文件。
2016-03-30 stat.CO
SunBURST: Deterministic GPU-Accelerated Bayesian Evidence via Mode-Centric Laplace Integration
Braude College of Engineering（布雷德工程学院）
SunBURST通过模式中心拉普拉斯积分实现高维贝叶斯证据计算，结合GPU并行加速，适用于高斯和近高斯后验，提供高精度且高效的结果。
2026-01-27 astro-ph.CO astro-ph.IM stat.CO
Particle rolling MCMC with double-block sampling
提出了一种基于仿真的状态空间模型滚动窗口估计方法--双块采样粒子滚动马尔可夫链蒙特卡罗（MCMC）方法。在我们的方法中，这是基于序贯蒙特卡罗（SMC），粒子顺序更新，以近似后验分布的每个窗口，通过学习新的信息和丢弃旧的信息从观察。当重要性权重退化时，用MCMC算法更新粒子。为了避免退化，这是至关重要的，以减少计算时间，我们引入了一个块采样方案，并产生多个候选人的算法的基础上的条件SMC。理论讨论表明，所提出的方法与嵌套结构表示为SMC采样的增广空间提供的理由。计算性能进行了评估说明性的例子，表明模型参数的后验分布的准确估计。补充材料中提供了证明和额外的讨论（算法和实验结果）。
2021-09-16 stat.CO stat.ME
Towards Automatic Model Comparison: An Adaptive Sequential Monte Carlo Approach
为选择、平均和验证目的进行模型比较是整个统计过程中存在的一个问题。在贝叶斯范式中，这些问题都需要计算特定类别中模型的后验概率。近年来取得了重大进展，但在执行现有计划方面仍然存在困难。本文提出了自适应序贯蒙特卡罗（\smc）抽样策略，以确定一组模型的后验分布，以及这些模型的参数。一个简单的产品估计和组合的\smc和路径抽样估计被认为是现有的理论结果扩展到包括路径抽样变量。一种新的方法来自动规范内的分布\smc算法，并显示在这方面优于最先进的。通过广泛的实证研究所提出的策略的性能证明。与最先进的算法的比较表明，所提出的算法总是有竞争力的，往往大大优于替代技术，在相同的计算成本和相当少的应用程序特定的实现工作。
2015-06-05 stat.ME
Guided sequential ABC schemes for intractable Bayesian models
针对无似然贝叶斯模型，提出以数据汇总统计量为条件的引导式提议采样器，加速SIS-ABC和SMC-ABC收敛，减少计算成本并保持推断精度，适用于多模态、高相关及分层模型等挑战场景。
2024-05-29 stat.CO stat.ME
Approximate Bayesian computation scheme for parameter inference and model selection in dynamical systems
近似贝叶斯计算方法可用于评估后验分布，而不必计算似然。本文讨论并应用基于序贯蒙特卡罗（SMC）的近似贝叶斯计算（ABC）方法估计动力学模型的参数。我们发现，ABC SMC提供了有关参数的可推断性和模型对参数变化的敏感性的信息，并且往往比其他ABC方法表现得更好。该算法被应用到几个著名的生物系统，其中参数和它们的可信区间的推断。此外，我们开发的ABC SMC作为模型选择的工具，给出了一系列不同的数学描述，ABC SMC能够选择最好的模型，使用标准的贝叶斯模型选择装置。
2009-01-14 stat.CO stat.ME
The Gibbs Sampler with Particle Efficient Importance Sampling for State-Space Models
我们认为粒子吉布斯（PG）的贝叶斯分析的非线性非高斯状态空间模型的工具。PG是标准吉布斯过程的蒙特卡罗（MC）近似，其在吉布斯过程内部使用顺序MC（SMC）重要性抽样来更新潜在的和潜在的高维状态轨迹。我们建议结合PG与一个通用的和易于实现的SMC方法称为粒子有效的重要性抽样（PEIS）。通过使用SMC重要性抽样密度，其近似地完全全局地适应于状态的目标密度，PEIS可以相对于现有PG实现从状态和参数的后验实质上改善PG抽取的混合和效率。PEIS实现的效率增益说明PG应用程序的一个单变量随机波动模型的资产收益，非高斯非线性局部水平模型的利率，和一个多变量随机波动模型的实现协方差阵的资产收益。
2018-04-17 stat.CO stat.ME
Robust Inference of Dynamic Covariance Using Wishart Processes and Sequential Monte Carlo
本文针对Wishart过程推断困难的问题，提出序贯蒙特卡洛采样器，通过模拟和临床抑郁症数据证明其在动态协方差估计与样本外预测上比MCMC和变分推断更鲁棒。
2024-06-07 stat.ME stat.ML
Subsampling Sequential Monte Carlo for Static Bayesian Models
我们展示了如何加快序贯蒙特卡罗（SMC）的贝叶斯推断在大数据问题的数据子采样。SMC通过一系列分布顺序地更新粒子云，从易于采样的分布（如先验分布）开始，以后验分布结束。粒子云的每次更新都包括三个步骤：重新加权、重新缩放和移动。在移动步骤中，使用马尔可夫核移动每个粒子;这通常是计算成本最高的部分，特别是当数据集很大时。关键是要有一个有效的移动步骤，以确保粒子的多样性。我们的文章做出了两个重要贡献。首先，为了加快SMC计算，我们使用了一个近似无偏和有效的退火似然估计的基础上数据子采样。子采样方法比相应的全数据SMC更节省存储器，这对于并行计算是有利的。其次，我们使用一个大都会内吉布斯内核与两个条件更新。一个哈密顿蒙特卡罗更新使模型参数的距离移动，和一个块伪边缘的建议是用于对应于辅助变量的粒子的数据子采样。我们证明了估计四个广义线性模型和一个广义可加模型与大数据集的方法的有用性和局限性。
2020-03-24 stat.CO stat.ME stat.ML
Towards Data-Conditional Simulation for ABC Inference in Stochastic Differential Equations
我们提出一种基于条件模拟和不变神经网络学习汇总统计的ABC-SMC方法，用于随机微分方程推断，实现准确且快约三倍的推断。
2024-06-03 stat.CO stat.ME
