Bayesian inference of Stochastic reaction networks using Multifidelity Sequential Tempered Markov Chain Monte Carlo
随机反应网络模型常用于解释和预测单细胞中基因调控的动力学。这些模型通常涉及几个参数，例如化学反应的动力学速率，这些参数不能直接测量，必须从实验数据中推断出来。贝叶斯推断提供了一个严格的概率框架，通过找到一个后验参数分布，捕捉他们的不确定性，以确定这些参数。传统的求解推理问题的计算方法，如基于经典梅特罗波利斯-黑斯廷斯算法的马尔可夫链蒙特卡罗方法，需要对似然函数进行大量的连续计算，而这又需要对化学主方程（CME）进行昂贵的正向求解。我们提出了一种替代方法的基础上的多保真度扩展的顺序回火马尔可夫链蒙特卡罗（ST-MCMC）采样器。该算法是建立在序贯蒙特卡罗和解决贝叶斯推断问题分解成一系列的有效解决的子问题，逐渐增加模型的保真度和观察到的数据的影响。我们重新制定的有限状态投影（FSP）算法，一个著名的方法来解决CME，产生一个层次的代理主方程中使用的多保真度计划。为了确定适当的保真度，我们引入了一种新的信息理论标准，旨在从层次结构中的每个模型中提取有关最终贝叶斯后验的最多信息，而不会引起显着的偏差。这种新的采样方案进行了测试与高性能的计算资源，使用生物相关的问题。
2020-01-06 stat.CO
Deterministic Approximate EM Algorithm; Application to the Riemann Approximation EM and the Tempered EM
期望最大化（EM）算法被广泛用于优化具有潜在变量的非凸似然函数。许多作者修改了其简单的设计以适应更具体的情况。例如，期望（E）步骤已被蒙特卡罗（MC），马尔可夫链蒙特卡罗或回火近似等取代。相比之下，文献是缺乏的，当谈到确定性的近似。在本文中，我们介绍了一个理论框架，与国家的最先进的收敛保证，任何确定性近似的E步骤。我们从理论上和经验上分析了几个近似，适合这个框架。首先，对于难处理的E-步骤，我们引入了一个确定性版本的MC-EM使用黎曼和。一种简单的方法，不需要任何超参数微调，当低维不保证MC-EM时有用。然后，我们考虑回火近似，从模拟退火文献中借来的，用来逃避局部极值。我们证明，回火EM验证收敛保证比以前考虑的温度分布范围更广。我们经验性地展示了新的非平凡配置文件如何更成功地逃避对抗性初始化。最后，我们结合黎曼和回火近似成一个方法，实现他们的目的。
2022-05-02 math.ST stat.ML stat.TH
Learning of state-space models with highly informative observations: a tempered Sequential Monte Carlo solution
概率论（或贝叶斯）建模和学习提供了有趣的可能性，使用概率论的不确定性的系统表示。然而，概率学习往往导致计算上具有挑战性的问题。由于蒙特卡罗方法的最新进展，这类以前难以解决的问题现在可以在标准个人计算机上解决。特别地，对于非线性状态空间模型中的未知参数的学习，基于粒子滤波器（一种蒙特卡罗方法）的方法已被证明是非常有用的。然而，当状态空间模型中的观测具有高度信息性时，即当相对于过程噪声的量存在非常少或不存在测量噪声时，仍然会出现众所周知的挑战性问题。然后，粒子滤波器将努力估计概率学习的基本分量之一，即似然$p($数据$|$参数$)$。为此，我们建议一种算法，它最初假设有大量的人工测量噪声存在。这种噪声的方差以自适应的方式依次减小，这样我们最终就可以恢复原来的问题，或者可能是它的一个非常接近的近似值。我们算法的主要组成部分是一个序贯蒙特卡罗（SMC）采样器，它使我们提出的方法与SMC方法有着明显的相似之处。另一个自然的联系也作出了基本的想法近似贝叶斯计算（ABC）。我们用数值例子说明了这一点，特别是一个具有挑战性的Wiener-Hammerstein基准问题显示出有希望的结果。
2017-12-13 stat.CO stat.ML
Bayesian Updating and Uncertainty Quantification using Sequential Tempered MCMC with the Rank-One Modified Metropolis Algorithm
贝叶斯方法是量化系统行为的关键。它们利用概率分布来捕捉我们对系统行为的不确定性，并在新信息可用时更新这种理解。然后，可以做出包含这种不确定性的概率预测，以评估系统性能并做出决策。虽然贝叶斯方法非常有用，但它们通常是计算密集型的。这需要开发更有效的算法。在这里，我们讨论了一组人口马尔可夫链蒙特卡罗（MCMC）方法的贝叶斯更新和系统可靠性评估，我们称之为顺序回火MCMC（ST-MCMC）算法。这些算法结合了1）回火的概念，通过一系列中间分布，2）重要性重新排序，以及3）MCMC，逐渐将样本群体从之前转换到之后。它们是序贯蒙特卡罗的一种形式，包括过渡马尔可夫链蒙特卡罗和子集模拟等算法。我们还介绍了一种新的采样算法，称为秩一修改的大都市算法（ROMMA），它建立在子集模拟中使用的修改的大都市算法，以提高性能在高维。最后，我们制定了一个单一的算法来解决组合贝叶斯更新和可靠性评估问题，使系统可靠性的后验评估。然后，通过对具有未知泄漏和需求的配水系统进行先验和后验可靠性评估来说明该算法。
2018-04-23 stat.CO
Tuning Tempered Transitions
Neal（1996）提出了回火跃迁方法，用于解决使用马尔可夫链蒙特卡罗从多峰分布中采样时出现的困难。与模拟回火和Metropolis耦合MCMC等方法一样，其关键思想是利用一系列连续更容易样本分布来改善状态空间周围的运动。回火转换通过将这些较少模态分布的移动合并到MCMC建议中来实现这一点。不幸的是，改进的模式之间的运动是在一个高的计算成本与昂贵的建议接受率低。我们考虑如何调整算法，以增加给定数量的温度的接受率。我们发现，通常假设的几何间距的温度是合理的，在许多但不是所有的应用。
2010-10-05 stat.CO
Tempered, Anti-trunctated, Multiple Importance Sampling
重要性抽样是一种蒙特卡罗方法，它引入一个建议分布，根据目标分布对空间进行抽样。然而，校准的建议分布是必不可少的，以实现效率，因此诉诸自适应算法来调整这个分布。本文提出了一种新的自适应重要性抽样方案--回火抗截断自适应多重重要性抽样（TAMIS）算法。我们结合了回火计划和一个新的非线性变换的权重，我们命名为反截断。为了提高效率，我们还考虑不增加目标密度的评估次数。因此，我们的建议是一个自动调整的顺序算法，是强大的穷人的初始提案，不需要梯度计算和规模以及与尺寸。
2022-06-16 stat.CO
Bayesian Pose Graph Optimization via Bingham Distributions and Tempered Geodesic MCMC
Technische Universität München（慕尼黑工业大学）；Siemens AG（西门子股份公司）；LTCI, Télécom ParisTech, Université Paris-Saclay（巴黎萨克雷大学巴黎电信学院LTCI实验室）
我们介绍了Tempered Geodesic Markov Chain Monte Carlo（TG-MCMC）算法用于初始化姿态图优化问题，这些问题出现在各种场景中，例如SFM（从运动恢复结构）或SLAM（同时定位与地图构建）。TG-MCMC是同类中的第一个，因为它将四元数球面流形上的渐近全局非凸优化与后验采样结合起来，以便提供可靠的初始姿态和不确定性估计，这些估计可以提供有关单个解决方案质量的信息。我们为我们的方法设计了严格的理论收敛保证，并在合成和真实的基准数据集上对其进行了广泛的评估。除了其优雅的配方和理论，我们表明，我们的方法是强大的缺失数据，噪声和估计的不确定性捕捉直观的数据属性。
2019-03-30 cs.AI cs.CG cs.CV
Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions
我们证明了有限样本复杂性的序贯蒙特卡罗（SMC）算法，只需要当地的混合时间相关联的马尔可夫内核。我们的边界是特别有用的，当目标分布是多模态和全球混合的马尔可夫内核是缓慢的，在这种情况下，我们的方法建立了相应的马尔可夫链蒙特卡罗（MCMC）估计SMC的好处。通过顺序控制由SMC再循环程序引入的偏差来解决全局混合的缺乏。我们应用这些结果来获得的复杂性界限下的混合物的对数凹分布的近似期望，并表明SMC提供了一个完全多项式时间的随机逼近方案，一些困难的多峰问题，相应的马尔可夫链采样器是指数缓慢。最后，我们比较我们的方法得到的边界，现有的边界上的回火马尔可夫链相同的问题。
2022-08-13 math.PR stat.CO stat.ML
Spectral Subsampling MCMC for Stationary Multivariate Time Series with Applications to Vector ARTFIMA Processes
谱子采样MCMC是近年来提出的一种通过在频域对周期图进行子采样来加速长平稳单变量时间序列的马尔可夫链蒙特卡罗（MCMC）的方法。本文扩展的方法，多变量时间序列使用多变量广义的惠特尔可能性。为了评估具有挑战性的问题，从频谱子采样的计算增益，多变量广义的自回归回火分数积分移动平均模型（ARTFIMA）的介绍和它的一些属性。贝叶斯推断的基础上的Whittle可能性被证明是一个快速和准确的替代精确的时域可能性。频谱子采样提供了两个数量级的额外的速度，同时保留MCMC抽样效率和精度，相比，频谱方法使用完整的数据集。关键词：贝叶斯，马尔可夫链蒙特卡罗，半长记忆，谱分析，惠特尔似然。
2022-09-18 stat.CO stat.ME
Adaptive Equi-Energy Sampler : Convergence and Illustration
马尔可夫链蒙特卡罗（MCMC）方法允许对已知的直到乘法常数的分布进行采样。经典的MCMC采样器在对多峰分布进行采样时具有非常差的混合特性。等能量采样器是Kou，Zhou和Wong在2006年提出的一种交互MCMC采样器，用于对困难的多峰分布进行采样。该算法在不同温度下并行运行多个链，并允许较低温度的链从具有与当前状态“接近”的能量的较高温度的链跳转到一个状态。该算法的一个主要缺点是，它取决于许多设计参数，因此，需要一个显着的努力来调整这些参数。在本文中，我们介绍了一个自适应等能量（AEE）采样器，自动选择的选择机制时，跳转到一个状态的高温链。我们证明了AEE的遍历性和一个强大数律，以及原始的等能量采样器。最后，我们将我们的算法应用于DNA序列的模体采样。
2013-02-04 math.ST stat.TH
Optimality in importance sampling: a gentle survey
Stony Brook University（石溪大学）；Universitá degli Studi di Catania（卡塔尼亚大学）
综述重要性采样中提议密度的最优性概念，涵盖边际似然近似、多提议密度、退火后验序列及噪声场景（如ABC和强化学习）等框架，并提供理论与实证比较。
2026-06-16 cs.CE stat.CO stat.ML
Sequential Monte Carlo for Inclusive KL Minimization in Amortized Variational Inference
University of Michigan（密歇根大学）
针对摊销变分推断中包容性KL最小化难题，提出SMC-Wake方法，利用似然温度化序贯蒙特卡洛估计梯度，实现更准确的后验逼近。
2024-03-15 cs.LG stat.ML
Generalised shot noise representations of stochastic systems driven by non-Gaussian Lévy processes
该研究针对非高斯纯跳变Lévy过程驱动的线性向量值SDE，推导了基于NVM混合表示的广义散粒噪声仿真方法，证明了残差的高斯近似条件，为相关模型的状态推断与参数估计提供了高效工具。
2023-11-07 math.PR stat.ME
Policy Gradients for Optimal Parallel Tempering MCMC
Harvard University（哈佛大学）
本文针对并行回火MCMC中温度选择问题，提出基于策略梯度的自适应温度调整算法，在基准分布上相比传统方案取得了更低的积分自相关时间。
2024-12-26 cs.LG stat.CO stat.ML
Assessing stochastic algorithms for large scale nonlinear least squares problems using extremal probabilities of linear combinations of gamma random variables
本文研究了一类大规模非线性最小二乘（NLS）问题的随机算法。我们提出了八个变种的一个实用的随机算法中的主要随机步骤的不确定性进行量化。这样的随机步骤涉及使用蒙特卡罗方法近似NLS目标函数，并且这等价于相应的对称半正定（SPSD）矩阵的迹的估计。对于后者，我们证明了严格的充要条件和充分条件的样本量（转换为成本），以满足规定的概率精度。我们表明，这些条件实际上是可计算的，并产生小的样本量。然后将它们纳入我们的随机算法中，以量化每个随机步骤中的不确定性。我们使用的界限是应用程序的极值尾概率的线性组合的伽玛分布随机变量的更一般的结果。我们推导并证明了新的结果有关的最大和最小尾概率的这种线性组合，这可以被认为是独立的本文的其余部分。
2014-11-28 cs.NA math.NA math.ST
Sampling for Quality: Training-Free Reward-Guided LLM Decoding via Sequential Monte Carlo
LinkedIn
本文提出一种基于概率框架的奖励引导解码方法，通过结合模型转移概率和前缀依赖的奖励势能，改进传统解码方法的序列级质量优化。实验表明，该方法在代码生成和数学推理任务中显著提升性能。
2026-04-07 cs.AI cs.LG stat.ML
Efficiency and robustness in Monte Carlo sampling of 3-D geophysical inversions with Obsidian v0.1.2: Setting up for success
University of Sydney（悉尼大学）；Curtin University（科廷大学）；University of Leeds（利兹大学）；The Alan Turing Institute for Data Science（艾伦·图灵数据科学研究所）；Imperial College London（伦敦帝国理工学院）
地球物理反演中不确定性的严格量化是一个具有挑战性的问题。反演通常是不适定的，似然曲面可能是多模态的;任何单一模态的属性都不足以度量不确定性，并且采样方法对于不规则后验或高维参数空间变得低效。我们探讨了不同的选择由从业者的效率和精度的贝叶斯地球物理反演方法，依赖于马尔可夫链蒙特卡罗采样来评估不确定性，使用多传感器反演的三维结构和组成的一个区域在南澳大利亚州库珀盆地作为案例研究的影响。使用更新版本的Obsidian分布式反演软件进行反演。我们发现这种反演的后验具有复杂的局部协方差结构，阻碍了基于链历史调整建议的自适应采样方法的效率。在探索高维多模态后验的并行回火马尔可夫链蒙特卡罗方案的背景下，预处理的Crank-Nicholson建议优于更传统的形式的随机游动。问题设置的各个方面，例如岩石物理学或3-D地质结构的先验，影响后验模式的形状和分离，影响采样性能以及反演结果。对传感器噪声使用无信息先验可以通过即使噪声水平不确定也能够在多个传感器之间实现最佳加权来改善反演结果。通过在提案中使用后验梯度信息可以进一步提高效率，Obsidian目前不支持后验梯度信息，但可以使用后验代理来模拟。
2018-12-02 cs.AI stat.AP
Inference-Time Alignment of Diffusion Models via Trust-Region Iterative Twisted Sequential Monte Carlo
Duke University（杜克大学）；Morgan Stanley（摩根大通）
提出信任区域迭代扭曲序贯蒙特卡洛（TRI-TSMC）框架，通过迭代学习扭曲函数来改进扩散模型推理时的对齐，在文本生成和文本到图像生成任务上优于现有方法。
2026-05-24 cs.AI cs.CL cs.CV
Variational inference of effective range parameters for ${}^3$He-${}^4$He scattering
本文使用蒙特卡洛抽样和变分推断对${}^3$He-${}^4$He弹性散射的有效范围参数进行贝叶斯校准，改进了变分推断以处理低能数据产生的双峰后验分布，验证了两种方法结果的一致性。
2024-08-23 nucl-th stat.AP
AdamMCMC: Combining Metropolis Adjusted Langevin with Momentum-based Optimization
Universität Hamburg（汉堡大学）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
本文提出 AdamMCMC，将 MALA 与 Adam 动量优化及长椭球提议结合，用于从回火 Gibbs 后验采样以量化深度模型的认知不确定性，并证明其收敛性与高能物理分类任务中的有效性。
2024-12-05 cs.LG hep-ph stat.CO
Algorithms for Approximating Conditionally Optimal Bounds
本文提出三种算法用于近似条件最优边界的字典序低和高顺序，包括闭式近似、多项式时间近似方案和蒙特卡洛方法。
2026-02-10 stat.CO
Establishing some order amongst exact approximations of MCMCs
精确逼近马尔可夫链蒙特卡罗（MCMC）算法是一类新兴的采样算法。精确近似背后的主要思想之一是用估计量取代运行标准MCMC算法所需的棘手量，例如梅特罗波利斯-黑斯廷斯算法中的目标概率密度。也许令人惊讶的是，这样的近似导致强大的算法是准确的，在这个意义上，他们保证有正确的限制分布。在本文中，我们发现了一个通用的框架，它允许一个比较，或顺序，性能指标的两个实现这样的算法。特别是，我们建立了一个顺序的平均接受概率，第一自相关系数，渐近方差和右谱间隙。保证排序的关键概念是用于实现算法的估计量之间的凸序。我们相信，我们的凸序条件是接近最优的，这是支持一个反例，表明较弱的方差顺序是不够的。凸顺序起着核心作用，使我们能够构建一个鞅耦合，使性能指标的比较马尔可夫链与不同的不变分布，与现有的结果。我们详细应用我们的结果，通过确定极值分布在给定类的近似值，平均副本提高性能的单调的方式和分层保证提高性能的标准实施的近似贝叶斯计算（ABC）MCMC方法。
2015-10-29 math.PR stat.CO
