Accelerating delayed-acceptance Markov chain Monte Carlo algorithms
延迟接受马尔可夫链蒙特卡罗(DA-MCMC)通过将目标分布与所述分布的“替代物”(即,近似且计算上更便宜的版本)相结合,经由梅特罗波利斯-黑斯廷斯算法的两阶段版本从概率分布采样。DA-MCMC加速了复杂应用中的MCMC采样,同时仍以精确分布为目标。我们设计了一个计算速度更快,虽然近似,DA-MCMC算法。我们考虑在贝叶斯设置中的代理似然函数引入延迟接受计划的参数推断。当评估的似然函数是计算密集型,我们的计划产生了2-4倍的速度,相比标准的DA-MCMC。然而,加速度是高度依赖于问题的。标准延迟接受算法和我们的近似版本的推理结果是相似的,表明我们的算法可以返回可靠的贝叶斯推断。作为一个计算密集型的案例研究,我们介绍了一种新的随机微分方程模型的蛋白质折叠数据。
2019-05-24 stat.CO
Using early rejection Markov chain Monte Carlo and Gaussian processes to accelerate ABC methods
针对似然函数不可用的近似贝叶斯计算(ABC)在复杂模型中计算成本高的问题,提出基于高斯过程的早期拒绝马尔可夫链蒙特卡罗(ejMCMC)采样器,通过差异模型提前拒绝样本以减少不必要的合成数据生成,显著提升了推断效率。
2024-04-13 stat.CO
Accelerating Bayesian Phylogenetic Inference via Delayed Acceptance Sequential Monte Carlo with Random Forest Surrogates
Institute of Mathematical Sciences, ShanghaiTech University(上海科技大学数学科学研究所)
本文提出利用机器学习预测树移动对似然函数的影响,设计延迟接受MCMC核,结合序贯蒙特卡洛框架,提升系统发育推断效率。
2026-05-10 q-bio.QM stat.CO stat.ME
A novel method and comparison of methods for constructing Markov bridges
本文提出一种基于时间反转的新算法构建马尔可夫桥,用于估计马尔可夫跳跃过程的无穷小生成元,经与五种现有方法比较,该方法在保持高精度的同时速度最快。
2024-12-17 stat.ME
Improved Adaptive Rejection Metropolis Sampling Algorithms
马尔可夫链蒙特卡罗(MCMC)方法,例如Metropolis-Hastings(MH)算法,被广泛用于贝叶斯推断。对于任何MCMC方法来说,最重要的问题之一是马尔可夫链的收敛性,这在很大程度上取决于建议密度的适当选择。自适应拒绝Metropolis采样(ARMS)是一种众所周知的MH方案,其利用使用从拒绝的样本中获取的支持点构造的自适应分段建议从一维目标密度生成样本。在这项工作中,我们指出了一个关键的缺点,在自适应过程中的ARMS:支持点可能永远不会被添加到区域内的建议是低于目标。当这种情况在许多区域发生时,它会导致ARMS的表现不佳,提案永远不会收敛到目标。为了克服这一限制,我们提出了两个改进的自适应方案,用于构建的建议。第一个是一个直接修改的ARMS程序,将支持点的区域内的建议是低于目标,同时满足递减适应性,所需的条件之一,以确保收敛的马尔可夫链。第二种是自适应独立MH算法,能够从所有先前的样本中学习,除了链的当前状态,从而也保证收敛到不变密度。这两个新方案改进了ARMS的自适应策略,从而简化了构造方案的复杂性。数值结果表明,新技术提供了更好的性能w.r.t.标准的武器。
2012-10-08 stat.CO stat.ME
Particle filter with rejection control and unbiased estimator of the marginal likelihood
我们考虑在序贯蒙特卡罗方法中结合使用剩余和部分拒绝控制,也称为粒子滤波器。虽然方差减少性能的拒绝控制是已知的,有没有(据我们所知)在这种类型的粒子滤波器的边际似然(也称为模型证据或归一化常数)的无偏估计的任何工作。能够无偏差地估计边际似然对于模型比较、可解释和可靠置信区间的计算以及精确近似方法(例如粒子马尔可夫链蒙特卡罗)是高度相关的。在本文中,我们提出了一个粒子滤波器与拒绝控制,使无偏估计的边际似然。
2020-03-04 stat.CO stat.ML
Accelerating Metropolis-Hastings algorithms: Delayed acceptance with prefetching
诸如梅特罗波利斯-黑斯廷斯算法的MCMC算法由于计算复杂的目标分布而变慢,如巨大的数据集所例示的。在本文中,我们提供了一种方法,以减少计算成本的算法,一个简单而通用的分而治之的战略。通用加速背后的想法是将接受步骤分为几个部分,旨在大大减少计算时间,超过相应的接受概率的减少。除法将“先验x似然”项分解为乘积,使得其某些分量的计算成本比其他分量低得多。每个分量可以顺序地与统一变量进行比较,第一次拒绝表示不再考虑所提出的值,这种方法可以反过来作为利用手头计算机的并行能力的预取算法的一部分来加速。我们说明了一系列的玩具和现实的例子,这些加速功能。
2014-06-10 stat.CO stat.ME
Multilevel rejection sampling for approximate Bayesian computation
无似然方法,如近似贝叶斯计算,是解决具有复杂似然函数的实际推理问题的有力工具。近似贝叶斯计算的马尔可夫链蒙特卡罗和序贯蒙特卡罗变体可以是在近似贝叶斯计算设置中对后验分布进行采样的有效技术。然而,如果不仔细考虑收敛标准和建议内核的选择,这种方法可能会导致非常有偏见的推理或计算效率低下的采样。相比之下,用于近似贝叶斯计算的拒绝抽样尽管计算密集,但会导致来自近似后验的独立的、相同分布的样本。提出了一种加速无似然贝叶斯推断的替代方法,该方法将多级蒙特卡罗方差缩减技术直接应用于拒绝抽样。所得到的方法保留了拒绝抽样的精度优势,同时显着提高了计算效率。
2018-02-28 stat.CO
Accelerating Metropolis-Hastings algorithms by Delayed Acceptance
诸如梅特罗波利斯-黑斯廷斯算法的MCMC算法由于计算复杂的目标分布而变慢,如巨大的数据集所例示的。在本文中,我们提供了一个有用的概括延迟接受的方法,旨在减少计算成本的算法,一个简单而通用的分而治之的战略。通用加速背后的想法是将接受步骤分为几个部分,旨在大大减少计算时间,从而超过接受概率的相应减少。每个分量可以顺序地与统一变量进行比较,第一次拒绝表示不再考虑建议的值。此外,我们开发的方差相关估计的方差的理论界相对于标准的大都会黑斯廷斯和详细的最佳缩放和一般优化的过程中的一些结果。我们用一系列例子来说明这些加速特性
2015-03-05 stat.CO
Delayed Acceptance Markov Chain Monte Carlo for Robust Bayesian Analysis
Fukuoka University(福冈大学)
提出延迟接受MCMC算法,通过两阶段筛选减少大协方差矩阵计算,在准贝叶斯推断中实现效率翻倍。
2026-06-02 stat.CO
Simple rejection Monte Carlo algorithm and its application to multivariate statistical inference
本文针对拒绝蒙特卡洛算法应用较少的问题,提出一种简化版本,并以多元分布抽样和多元积分为例展示其在统计推断中的具体应用。
2024-02-27 stat.CO
Geometric Allocation Approach for Transition Kernel of Markov Chain
提出一种几何分配方法构建马尔可夫链转移核,最小化平均拒绝率并在许多情况下实现零拒绝,同时支持不可逆转移核,显著降低自相关时间。
2012-07-01 cond-mat.stat-mech cs.NA math-ph
Reversible and non-reversible Markov Chain Monte Carlo algorithms for reservoir simulation problems
我们数值比较可逆和不可逆的马尔可夫链蒙特卡罗算法高维油藏问题的性能,因为手头的问题的性质,我们的样本的目标措施支持有界域。我们比较了两种策略来处理有界域,即反映建议的边界和拒绝他们时,他们落在域之外。我们观察到,对于复杂的高维问题,反射机制优于拒绝的方法,并引入不可逆性的马尔可夫链用于采样的优势是越来越明显的参数空间的维数增加。
2019-03-16 stat.AP
Particle Filtering and Smoothing Using Windowed Rejection Sampling
“粒子方法”是序贯蒙特卡罗算法,通常涉及重要性抽样,用于估计和抽样联合和边际密度从一个集合,大概增加,随机变量的数量。特别地,粒子滤波器旨在通过估计后验分布$π(x_{n}|y_{1},y_{2}, \ldots, y_{n})$来估计不可直接观察的随机系统的当前状态$X_{n}$,其中$\{Y_{n}\}$是通过某种测量模型$π(y_{n}|x_{n})$与$\{X_{n}\}$相关的观测。粒子平滑器旨在估计$1 \leq i < n$的边缘分布$π(x_{i}|y_{1},y_{2}, \ldots, y_{n})$。粒子方法广泛用于隐马尔可夫模型,其中$\{X_{n}\}$是马尔可夫链,以及用于更一般的状态空间模型。现有的粒子滤波算法速度非常快,易于实现。虽然它们遭受退化和“样本退化”的问题,但可以采取措施来最大限度地减少这些问题,总体而言,它们是推理的优秀工具。然而,如果希望从感兴趣的后验分布中采样,则粒子滤波器仅能够产生相关绘制。粒子平滑算法是复杂的,并且远没有那么鲁棒,通常需要繁琐的后处理、“向前-向后”递归和多次通过子例程。在本文中,我们介绍了一种替代算法的滤波和平滑,是基于拒绝抽样“窗口”。我们比较了传统的粒子滤波器和这种“窗口拒绝采样器”(WRS)的速度和精度的几个例子,并显示出良好的估计平滑分布,在没有额外的成本。
2014-07-16 stat.CO
Delayed acceptance ABC-SMC
近似贝叶斯计算(ABC)现在是一种用于统计推断的已建立的技术,在似然函数在计算上昂贵或不可用的情况下使用。它依赖于以~模拟器形式指定的~模型的使用,并通过模拟辅助数据集$x$并评估$x$与真实数据$y$的距离来近似~参数值$θ$处的似然性。然而,在对每个$θ$使用模拟器非常昂贵的情况下,ABC在计算上不可行。本文研究这种情况下,一个~便宜,但近似的,模拟器是可用的。该方法是在ABC序贯蒙特卡罗(SMC)采样器中采用延迟接受马尔可夫链蒙特卡罗(MCMC),以便在内核的第一阶段中,使用廉价的模拟器来排除参数空间中不值得探索的部分,因此,“真”模拟器仅在有合理机会接受$θ$的建议值的情况下运行(在内核的第二阶段)。我们表明,这种方法可以使用相当自动,调整参数很少。应用随机微分方程模型和潜在的双重棘手的分布。
2020-05-31 physics.data-an stat.AP stat.CO
Multilevel Delayed Acceptance MCMC
我们开发了一种新的马尔可夫链蒙特卡罗(MCMC)方法,利用层次结构的模型的复杂性不断增加,有效地产生样本的非归一化目标分布。从广义上讲,该方法重写了Dodwell等人的多水平MCMC方法。(2015)在Christen & Fox(2005)的延迟接受(DA)MCMC方面。特别是,DA扩展到使用任意深度的模型层次结构,并允许任意长度的子链。我们证明了该算法满足细节平衡,因此对目标分布是遍历的。此外,多层次的方差减少,利用多层次和子链,和自适应多级校正粗级偏差的开发。贝叶斯反问题的三个数值例子证明了这些新方法的优点。软件和示例在PyMC 3中可用。
2022-08-30 stat.CO stat.ME
Adaptive Importance Tempering: A flexible approach to improve computational efficiency of Metropolis Coupled Markov Chain Monte Carlo algorithms on binary spaces
University of Toronto(多伦多大学);Fujitsu Limited(富士通有限公司);DXR Laboratory Inc.(DXR实验室有限公司)
本文提出自适应重要性退火算法,通过自适应有界平衡函数提升高维二进制空间中MCMC算法的计算效率,并在多个模式情况下优于现有方法。
2026-02-24 stat.CO
Importance is Important: Generalized Markov Chain Importance Sampling Methods
本文提出基于重要性权重的无拒绝MCMC抽样方案,将多重尝试Metropolis算法推广为无需拒绝的通用框架,并拓展至离散空间,证明其比原始Metropolis--Hastings算法更高效。
2024-10-02 stat.CO stat.ME stat.ML
Markov Chain Importance Sampling -- a highly efficient estimator for MCMC
Zalando Research, Zalando SE(Zalando研究部,Zalando公司);Zuse Institute Berlin(柏林Zuse研究所)
马尔可夫链(Markov chain,MC)算法在机器学习和统计学等许多学科中普遍存在。通常,这些算法可以被公式化为接受拒绝方法。在这项工作中,我们提出了一种新的估计适用于这些方法,称为马尔可夫链重要性抽样(MCIS),有效地利用被拒绝的建议。对于未调整的Langevin算法,它提供了一种新的方法来校正离散误差。我们的估计满足一个中心极限定理,并提高了每个CPU周期的错误,往往在很大程度上。作为一个副产品,它可以估计归一化常数,这是贝叶斯机器学习和统计学中的一个重要量。
2020-08-06 cs.LG stat.ML
The Snake Algorithm: A Rejection-Free Sampler for Binary Matrices with Fixed Margins
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Rutgers University–New Brunswick(罗格斯大学新不伦瑞克校区)
针对固定行和列和的二元矩阵均匀采样问题,提出无拒绝的马尔可夫链蒙特卡罗蛇形算法,证明其快速混合性,经对比实验显示在采样效率等方面优于多种现有算法。
2026-08-19 stat.CO
MCMC using $\textit{bouncy}$ Hamiltonian dynamics: A unifying framework for Hamiltonian Monte Carlo and piecewise deterministic Markov process samplers
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出基于弹性哈密顿动力学的无拒绝Metropolis提案框架,将哈密顿蒙特卡洛与分段确定性马尔可夫过程采样统一,提升贝叶斯推断的扩展性与创新性。
2026-03-09 stat.CO stat.ME
Hamiltonian Monte Carlo Without Detailed Balance
我们提出了一种方法来执行哈密顿蒙特卡罗,在很大程度上消除了典型的超参数的样本拒绝。在通常会导致拒绝的情况下,计算更长的轨迹,直到达到可以接受的新状态。这是通过使用满足不动点方程但不满足详细平衡的马尔可夫链转换来实现的。所得到的算法显著抑制了随机游动行为和浪费的函数评估,这通常是更新拒绝的结果。我们证明了一个大于两个因素的混合时间上的三个测试问题的改善。我们将源代码作为Python和MATLAB包发布。
2016-03-25 stat.CO stat.ML
Generalized Bouncy Particle Sampler
作为分段确定性马尔可夫过程的一个特例,弹性粒子采样器是一种无拒绝、不可逆的马尔可夫链蒙特卡罗算法,能有效地从目标分布中抽取样本。我们推广了弹性粒子采样器的过渡动力学。在BPS中,在事件时刻的转换动态是确定性的,而在GBPS中,它是随机的。在这种随机性的帮助下,GBPS可以克服BPS中的约简问题,而无需刷新。
2017-06-18 stat.CO
Sampling and Filtering with Markov Chains
本文提出连续时间马尔可夫链速率变换公式,并据此发展重要性采样、拒绝采样、分支粒子滤波及滤波方程的直接求解方法,适用于金融高频数据估计和连续时间隐马尔可夫模型。
2023-08-11 math.ST stat.TH
Multilevel Delayed Acceptance MCMC with an Adaptive Error Model in PyMC3
通过马尔可夫链蒙特卡罗(MCMC)的不确定性量化对于具有昂贵的似然函数的目标概率密度来说可能是极其昂贵的,例如当评估涉及求解偏微分方程(PDE)时,如在广泛的工程应用中的情况。多级延迟接受(MLDA)与自适应误差模型(AEM)是一种新的方法,它通过利用层次化的模型来解决这个问题,增加了复杂性和成本,并在运行中纠正廉价的模型。该方法已集成在开源概率编程包PyMC 3中,并在最新的开发版本中可用。在本文中,该算法是随着一个说明性的例子。
2020-12-10 stat.CO
Delayed Acceptance Slice Sampling
TU Bergakademie Freiberg(弗莱贝格工业大学);Universität Passau(帕绍大学)
本文提出延迟接受切片采样方法,通过确定性近似提高计算效率,适用于贝叶斯推断中的昂贵似然函数场景。
2026-09-21 math.ST stat.CO stat.TH
Forward Event-Chain Monte Carlo: Fast sampling by randomness control in irreversible Markov chains
不可逆和无拒绝蒙特卡罗方法,最近在物理学中以事件链的名义开发,在统计学中称为分段确定性蒙特卡罗(PDMC),已被证明比标准蒙特卡罗方法产生明显的加速,这要归功于它们的随机游走行为的减少。然而,当将这样的方案应用于标准统计模型时,为了正确性,通常需要引入额外的随机化。我们在这里提出了一类新的事件链蒙特卡罗方法,减少这种额外的随机化到最低限度。我们比较了这种新方法的效率,标准的PDMC和蒙特卡罗方法。加速到几个数量级和减少尺寸缩放展出。
2020-04-27 stat.CO
Regenerative Rejection Sampling
EPFL, Insitute of Mathematics – CSQI Chair(洛桑联邦理工学院数学研究所CSQI讲席);UNSW Sydney, School of Mathematics and Statistics(新南威尔士大学悉尼分校数学与统计学院)
本文提出再生拒绝采样算法,基于经典拒绝采样和MCMC方法,构建连续时间再生过程,其平稳分布与目标密度一致。该方法无需有限上界常数,收敛速度更快,实验显示其具有更低的自相关性和更快的混合速度。
2026-03-31 math.PR stat.CO
Adaptive, delayed-acceptance MCMC for targets with expensive likelihoods
当进行贝叶斯推断时,当计算真实后验或其无偏估计在计算上昂贵,但计算上便宜的近似可用时,可以应用延迟接受(DA)Metropolis-Hastings(MH)算法和DA伪边缘MH算法。第一个接受-拒绝阶段的应用,与廉价的近似代替真正的后验的MH接受率。只有那些通过第一阶段的建议是计算昂贵的真实后验(或无偏估计)的评估,与第二个接受拒绝阶段,确保详细的平衡是满意的预期的真实后验。在某些情况下,没有明显的计算成本低廉的近似值。计算昂贵的后验的先前评估的加权平均值提供了后验的通用近似。如果只有$k$ -最近的邻居有非零的权重,那么近似后验的评估可以在计算上很便宜,只要后验被评估的点被存储在多维二叉树中,称为KD树。KD树的内容在每次计算密集的评估之后潜在地更新。由此产生的自适应,延迟接受[伪边缘]梅特罗波利斯-黑斯廷斯算法是合理的理论和经验。调整参数的指导和方法被施加到一个离散观察到的马尔可夫跳跃过程特征的捕食者-猎物的相互作用和ODE系统描述的自动调节基因网络的动态。
2016-06-01 math.ST stat.CO stat.ME
Markov chain Monte Carlo algorithms with sequential proposals
我们探讨了一个一般的框架,在马尔可夫链蒙特卡罗(MCMC)抽样连续的建议,试图作为候选人的下一个状态的马尔可夫链。这种顺序建议框架可以应用于各种现有的MCMC方法,包括使用随机建议的梅特罗波利斯-黑斯廷斯算法和使用确定性建议的方法,如哈密顿蒙特卡罗(HMC)或弹性粒子采样器。在某些情况下,序列建议MCMC方法构造的马尔可夫链与延迟拒绝方法构造的马尔可夫链相同。在HMC的背景下,顺序提议方法已被提出为额外机会广义混合蒙特卡罗(XCGHMC)。我们开发了两种新的方法,其中的轨迹导致HMC的建议自动调整,以避免加倍回,在无掉头采样器(NUTS)。这些新方法的数值效率相比有利的NUTS。我们还表明,顺序建议弹性粒子采样器使构造的马尔可夫链通过低目标密度的区域,从而有利于更好地混合的链时,目标密度是多模态的。
2019-08-20 stat.CO stat.ML
RUDDER: Return Decomposition for Delayed Rewards
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学);Institute for Machine Learning(机器学习研究所);LIT AI Lab(LIT人工智能实验室);Institute of Advanced Research in Artificial Intelligence (IARAI)(人工智能高级研究所(IARAI))
我们提出了RUDDER,一种新的强化学习方法在有限马尔可夫决策过程(MDP)的延迟奖励。在MDP中,Q值等于预期的即时奖励加上预期的未来奖励。后者与时间差(TD)学习中的偏差问题和蒙特卡洛(MC)学习中的高方差问题有关。当奖励被推迟时,这两个问题都更加严重。RUDDER的目标是使期望的未来奖励为零,这将Q值估计简化为计算即时奖励的平均值。我们提出了以下两个新概念,以将预期的未来回报推向零。(i)奖励再分配,导致回报等价的决策过程具有相同的最优策略,当最优时,零预期未来奖励。(ii)通过贡献分析进行返回分解,将强化学习任务转换为回归任务,深度学习在这方面表现出色。在具有延迟奖励的人工任务上,RUDDER明显快于MC,并且指数地快于蒙特卡罗树搜索(MCTS)、TD(λ)和奖励塑造方法。在Atari游戏中,在近端策略优化(PPO)基线之上的RUDDER提高了分数,这在延迟奖励的游戏中最为突出。源代码可在\url{https://github.com/ml-jku/rudder}获得,演示视频可在\url{https://goo.gl/EQerZV}获得。
2019-09-10 cs.AI cs.LG math.OC
Analysis of high-dimensional Continuous Time Markov Chains using the Local Bouncy Particle Sampler
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of British Columbia(不列颠哥伦比亚大学)
高维连续时间马尔可夫链(CTMC)的参数采样是一个具有挑战性的问题,在应用统计学的许多领域都有重要的应用。在这项工作中,最近提出的一种类型的不可逆拒绝免费的马尔可夫链蒙特卡罗(MCMC)采样器,弹性粒子采样器(BPS),承担这个问题。与MCMC算法相比,BPS算法具有良好的计算效率,但迄今为止在实际数据场景中的应用还很少。BPS实际实现的一个重要方面是事件时间的模拟。默认实现使用保守的细化界限。这样的界限会减慢算法并限制计算性能。我们的论文开发了一个算法,在CTMCs的背景下的随机事件时间的精确解析解。我们的本地版本的BPS算法利用目标因子图的稀疏结构,我们还提供了一个框架,用于评估本地BPS算法的计算复杂度。
2021-05-30 cs.LG stat.CO stat.ML
On a Metropolis-Hastings importance sampling estimator
函数期望近似的经典方法。部分已知的分布是计算沿着Metropolis-Hastings(MH)马尔可夫链的轨迹的函数值的平均值。MH算法中的关键部分是对所提出的状态的适当接受/拒绝,这确保了所得到的马尔可夫链的正确平稳分布。然而,拒绝提案会导致高度相关的样本。特别是,当一个状态被拒绝时,它不会被进一步考虑。与此相反,我们考虑一个MH重要性抽样估计,它明确地将所有建议的状态产生的MH算法。估计满足强大数定律以及中心极限定理,并且,除此之外,我们提供了一个明确的均方误差界。值得注意的是,MH重要性抽样估计量的渐近方差不涉及任何相关项,与其经典的对应。此外,虽然分析估计使用相同的信息量的经典MH估计,它可以优于后者的情况下,中等尺寸的数值实验表明。
2020-02-04 cs.NA math.NA math.PR
Generalized Rejection Sampling Schemes and Applications in Signal Processing
贝叶斯方法及其通过复杂的蒙特卡罗技术(例如,马尔可夫链蒙特卡罗(MCMC)和粒子滤波器)的实现在过去几年中在信号处理中已经变得非常流行。然而,在许多问题的实际利益,这些技术的要求程序的采样概率分布与非标准形式,因此,我们经常被带回到考虑的基本模拟算法,如拒绝抽样(RS)。不幸的是,RS技术的使用需要计算目标概率密度函数(pdf)与从中提取候选样本的建议密度的比率的严格上限。除了类的对数凹目标PDF的,其中存在一个有效的算法,有没有一般的方法来分析确定这个界限,这必须从头开始为每个特定的情况下。在本文中,我们介绍了新的计划(a)获得上界的似然函数和(b)自适应计算建议密度接近目标PDF。前一类方法提供了通过从先验分布中提取候选项来容易地从后验概率分布(在信号处理问题中经常出现)中采样的工具。然而,他们是更有用的时候,他们被利用来推导出的广义自适应RS(GARS)算法的第二部分中介绍的文件。建议的GARS方法产生一系列的建议密度,收敛到目标PDF,并使一个非常有效的采样广泛的一类概率分布,可能有多种模式和非标准形式。
2009-04-08 stat.CO
The Importance Markov Chain
CEREMADE, CNRS, UMR 7534, Université Paris-Dauphine, PSL University(巴黎第九大学);SAMOVAR, Telecom Sudparis, Institut Polytechnique de Paris(巴黎理工学院);Department of Statistics, University of Warwick(华威大学)
提出重要性马尔可夫链算法,通过调参衔接拒绝采样与重要性采样,基于工具马尔可夫链修正样本生成收敛于目标分布的扩展链,证明其理论性质且易于实现。
2024-02-26 cs.NA math.NA math.PR
Active Measuring in Reinforcement Learning With Delayed Negative Effects
Harvard University(哈佛大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Michigan(密歇根大学)
本文提出主动可观测MDP框架,允许智能体权衡测量成本与延迟负面效应,通过基于信念状态的在线RL算法和序贯蒙特卡洛方法,在数字健康应用中提升样本效率和策略价值。
2025-10-16 cs.LG stat.ML
Binary Bouncy Particle Sampler
Bouncy粒子采样器是一种新型的无拒绝不可逆采样器,用于连续变量上的可微概率分布。我们将算法推广到分段可微分布,并将其应用于一般的二进制分布使用分段可微扩增。我们说明了新的算法在一个二进制马尔可夫随机场的例子,并比较它的二进制哈密顿蒙特卡罗。我们的研究结果表明,二进制BPS采样器是更好的易于混合分布。
2017-11-02 stat.CO stat.ML
A posteriori stochastic correction of reduced models in delayed acceptance MCMC, with application to multiphase subsurface inverse problems
基于样本的贝叶斯推断提供了一种在地球科学中进行不确定性量化的途径,并且通常提供了逆问题,尽管在每次迭代时需要模拟精确的计算机模型的朴素形式中对计算要求很高。我们提出了一种新的方法,构造一个随机校正引起的误差减少模型,与校正改善算法的进行。这使得从正确的目标分布采样,在减少每次迭代的计算成本,在现有的延迟接受计划,同时避免明显的统计效率的损失,必然发生时,使用简化模型。随机校正的使用显著降低了在期望的不确定性范围内估计感兴趣的量的计算成本。相比之下,现有的计划,直接使用简化模型作为代理实际上并没有提高计算效率,在我们的目标应用程序。我们建立在最近的简化条件,自适应马尔可夫链蒙特卡罗算法,给出实用的近似计划和算法,保证收敛。这种新方法的有效性证明了两个计算实例,包括一个真正的地热储层的大规模数值模型的校准,表现出良好的计算和统计效率的合成和测量数据集。
2019-04-11 stat.CO
Scalable Rejection Sampling for Bayesian Hierarchical Models
贝叶斯分层建模是一种流行的方法来捕捉未观察到的异质性在各个单位。然而,标准的估计方法,如马尔可夫链蒙特卡罗(MCMC)的建模结果,从大量的单位可能是不切实际的。本文提出了一种新的贝叶斯模型的后验分布抽样方法,而不需要使用MCMC。样本是独立的,所以它们可以并行收集,我们不需要关心链收敛和自相关等问题。该算法在单个单元条件独立的弱假设下是可扩展的,使其适用于大型数据集。它也可以用来计算边际似然。
2014-11-02 stat.CO stat.ME