Overview of Approximate Bayesian Computation
本章,“近似贝叶斯计算概述”,将作为即将出版的近似贝叶斯计算手册(2018)的第一章出现。它详细介绍了ABC方法背后的主要思想和概念,并附有许多示例和插图。
2018-02-27 stat.CO stat.ME stat.ML
Modelling extremes using approximate Bayesian Computation
根据其构造的性质,许多极值的统计模型导致计算上禁止评估的似然函数。因此,这对于基于似然性的推理来说是有问题的。以贝叶斯框架为重点,本章探讨了使用近似贝叶斯计算(ABC)技术来拟合和分析极端情况的统计模型。在介绍了ABC算法和方法背后的思想之后,我们展示了它们在体视学和空间极值中的极值模型的应用。
2014-11-05 stat.CO stat.ME
Approximate Bayesian Computation with Path Signatures
仿真模型往往缺乏易处理的似然函数,使得无似然推理方法不可或缺。近似贝叶斯计算通过比较模拟和观察数据通过一些距离测量产生无似然后验样本,但现有的方法往往不适合时间序列模拟器,例如,由于一个独立和相同分布的数据假设。在本文中,我们建议使用路径签名近似贝叶斯计算来处理时间序列的连续性。我们提供了理论上的保证所产生的后验和竞争贝叶斯参数推断模拟器生成单变量,多变量,不规则间隔,甚至非欧几里德序列。
2023-02-01 stat.CO stat.ME stat.ML
Approximate Bayesian computation scheme for parameter inference and model selection in dynamical systems
近似贝叶斯计算方法可用于评估后验分布,而不必计算似然。本文讨论并应用基于序贯蒙特卡罗(SMC)的近似贝叶斯计算(ABC)方法估计动力学模型的参数。我们发现,ABC SMC提供了有关参数的可推断性和模型对参数变化的敏感性的信息,并且往往比其他ABC方法表现得更好。该算法被应用到几个著名的生物系统,其中参数和它们的可信区间的推断。此外,我们开发的ABC SMC作为模型选择的工具,给出了一系列不同的数学描述,ABC SMC能够选择最好的模型,使用标准的贝叶斯模型选择装置。
2009-01-14 stat.CO stat.ME
Advances in Approximate Bayesian Inference for Models in Epidemiology
本综述探讨了近似贝叶斯推断在流行病学建模中的应用,重点评估了四类方法在平衡推断准确性与可扩展性方面的创新,并提供了方法选择的实用指南。
2025-04-28 stat.CO stat.ME
Robust Approximate Bayesian Computation: An Adjustment Approach
我们提出了一种新的方法来近似贝叶斯计算(ABC),旨在满足可能的误指定的假设模型。这种新的方法可以同样适用于拒绝为基础的ABC和流行的回归调整ABC。我们证明,这种新的方法减轻了回归调整ABC的性能不佳,可以发生时,模型被错误指定。此外,这种新的调整方法使我们能够检测到哪些特征的观测数据不能可靠地再现的假设模型。一系列的模拟和实证的例子说明了这种新的方法。
2020-08-07 stat.CO stat.ME
Approximating the Likelihood in Approximate Bayesian Computation
本章将出现在即将出版的近似贝叶斯计算手册(2018)中。支撑近似贝叶斯计算(ABC)的概念和方法框架主要针对可能性具有挑战性或缺失的问题。ABC使用基于模拟的非参数估计汇总统计量的可能性,并假设从模型生成数据在计算上是便宜的。本章回顾了两种估计棘手的可能性的替代方法,目的是减少必要的模型模拟,以产生近似的后验。其中第一个是合成似然(SL)的贝叶斯版本,最初由Wood(2010)开发,它使用多变量正态近似来概括统计似然。使用ABC的参数近似而不是非参数近似,可以减少所需的模型模拟的数量。我们在本章中考虑的第二种似然近似方法是基于经验似然(EL),这是一种非参数技术,涉及在一组矩约束下最大化经验构建的似然。Mengersen et al(2013)修改了EL框架,以便它可以用于形成ABC可以应用的问题的近似后验,即具有棘手可能性的模型。然而,与ABC和贝叶斯SL(BSL)不同,贝叶斯EL(BCel)方法可以在某些情况下完全避免模型模拟。BSL和BCel方法说明了不同复杂性的模型。
2018-03-18 stat.CO stat.ME
Recalibration: A post-processing method for approximate Bayesian computation
提出了一种新的重新校准后处理方法,以提高近似贝叶斯计算(ABC)算法的后验近似质量。重新校准可以与现有的后处理方法结合使用,例如回归调整。此外,这项工作扩展和加强ABC和间接推理算法之间的联系,允许更广泛地使用错误指定的辅助模型在ABC的上下文中。该方法使用模拟的例子来说明在各种条件下的重新校准的效果,并通过应用程序的体视学极端的分析和不使用辅助模型。实现重新校准后处理的代码在R包abctools中提供。
2017-04-21 stat.CO stat.ME
Informed Sub-Sampling MCMC: Approximate Bayesian Inference for Large Datasets
本文介绍了一个框架,以加快贝叶斯推断进行大数据集的存在。我们设计了一个马尔可夫链,其过渡内核使用(未知)部分(固定大小)的可用数据,在整个算法中随机刷新。受近似贝叶斯计算(ABC)文献的启发,二次抽样过程由对观察数据的保真度指导,如通过汇总统计测量的。由此产生的算法,知情子采样MCMC(ISS-MCMC),是一个通用的和灵活的方法,相反,现有的可扩展的方法,保留了简单的梅特罗波利斯-黑斯廷斯算法。即使失去了准确性,即链分布近似后验,我们研究和量化理论上的这种偏见,并显示在一组不同的例子,它产生出色的性能时,计算预算是有限的。如果可用和廉价的计算,我们表明,设置汇总统计量的极大似然估计是支持的理论论据。
2018-05-31 stat.CO stat.ME
Approximate Bayesian computation and Bayes linear analysis: Towards high-dimensional ABC
贝叶斯线性分析和近似贝叶斯计算(ABC)是复杂模型贝叶斯分析中常用的技术。在这篇文章中,我们连接这些想法,证明回归调整ABC算法产生的样本,一阶和二阶矩总结近似调整后的期望值和方差的贝叶斯线性分析。这使得回归调整方法在高维问题的探索性分析中具有有用的解释和作用。因此,我们提出了一种新的方法,结合高维,回归调整ABC与低维的方法(如使用MCMC ABC)。该方法首先通过回归调整ABC得到联合后验的粗略估计,然后在低维分析中分别估计每个单变量的边缘后验分布。然后修改初始估计的边缘分布以等于单独估计的边缘,从而提供联合后验的改进估计。我们用几个例子来说明这种方法。本文的补充材料可在网上查阅。
2012-12-07 stat.CO stat.ME
On the Asymptotic Efficiency of Approximate Bayesian Computation Estimators
许多统计应用涉及的模型,很难评估的可能性,但它是相对容易的样本。近似贝叶斯计算是在这种情况下实现贝叶斯推断的无似然方法。我们目前的结果估计的渐近方差使用近似贝叶斯计算在大数据限制。我们的关键假设是,数据是由一个固定维的汇总统计,服从中心极限定理。我们证明了近似贝叶斯计算后验均值的渐近正态性。这个结果还表明,在渐近方差方面,我们应该使用与参数向量p维数相同的汇总统计量;并且任何更高维数的汇总统计量都可以通过线性变换以仅能减少后验均值的渐近方差的方式减少到维数p。我们看看如何蒙特卡罗误差的重要性抽样算法的样本从近似贝叶斯计算后影响估计的准确性。我们给出了重要性抽样建议分布的条件,使得估计量的方差与基于汇总统计量的极大似然估计量的方差为同一阶。这表明了一个迭代的重要性抽样算法,我们经验评估的随机波动率模型。
2017-11-28 math.ST stat.ME stat.TH
Multilevel rejection sampling for approximate Bayesian computation
无似然方法,如近似贝叶斯计算,是解决具有复杂似然函数的实际推理问题的有力工具。近似贝叶斯计算的马尔可夫链蒙特卡罗和序贯蒙特卡罗变体可以是在近似贝叶斯计算设置中对后验分布进行采样的有效技术。然而,如果不仔细考虑收敛标准和建议内核的选择,这种方法可能会导致非常有偏见的推理或计算效率低下的采样。相比之下,用于近似贝叶斯计算的拒绝抽样尽管计算密集,但会导致来自近似后验的独立的、相同分布的样本。提出了一种加速无似然贝叶斯推断的替代方法,该方法将多级蒙特卡罗方差缩减技术直接应用于拒绝抽样。所得到的方法保留了拒绝抽样的精度优势,同时显着提高了计算效率。
2018-02-28 stat.CO
Optimal proposals for Approximate Bayesian Computation
我们使用序贯蒙特卡罗(SMC)(或人口蒙特卡罗,PMC)推导出近似贝叶斯计算(ABC)的最佳建议密度。最优性的标准是SMC/PMC-ABC采样器最大化每个参数建议的有效样本样本个数。最优建议密度代表了有利于高接受率和减少接受样本的重要性权重方差之间的最优权衡。我们讨论了两个方便的近似这个建议,并表明,最佳的建议密度提供了一个显着的提升,在预期的抽样效率相比,在ABC文献中常用的标准内核,特别是参数的数量增加。
2018-08-18 math.ST stat.ME stat.TH
Robust and Efficient Approximate Bayesian Computation: A Minimum Distance Approach
在许多情况下,近似贝叶斯方法的应用受到两个实际特征的阻碍:1)将数据向下投影到低维摘要的要求,包括这种投影的选择,这最终会产生低效的推理; 2)可能缺乏对基础模型结构偏差的鲁棒性。出于这些效率和鲁棒性的问题,我们构建了一个新的贝叶斯方法,可以提供有效的估计时,底层模型是指定的,同时是强大的某些形式的模型误指定。这种新方法通过考虑经验和模拟概率测度之间的范数来绕过摘要的计算。对于特定的选择的规范,我们证明了这种方法可以提供点估计,是使用精确的贝叶斯推断,同时也显示鲁棒性的基础模型假设的偏差所获得的效率。
2020-06-25 econ.EM math.ST stat.ME
On the parameter estimation of ARMA(p,q) model by approximate Bayesian computation
本文用近似贝叶斯算法给出了ARMA(p,q)模型的参数估计。为了提高算法的抽样效率,近似贝叶斯计算应尽可能多地选取低维参数信息的统计量。首先,利用第一个p+q阶样本的自相关系数作为统计量,得到AR系数的近似贝叶斯估计,将ARMA(p,q)模型转化为MA(q)模型。以前q阶样本自相关函数和样本方差为统计量,给出了MA系数和白噪声方差的近似Bayes估计。数值模拟和实验研究表明,该方法比极大似然估计具有更高的精度和更强的估计能力。
2019-04-30 stat.CO
A Guide to General-Purpose Approximate Bayesian Computation Software
本章,“通用ABC软件指南”,将出现在即将出版的近似贝叶斯计算手册(2018)中。我们目前的通用软件来执行近似贝叶斯计算(ABC)的R-包ABC和EasyABC和C++程序ABCtoolbox中实现。通过简单的玩具模型,我们演示了如何进行参数推断,模型选择,验证和汇总统计量的最佳选择。我们演示了如何结合ABC与马尔可夫链蒙特卡罗和描述一个现实的群体遗传学应用。
2018-06-21 stat.CO
Inference for SDE models via Approximate Bayesian Computation
由随机微分方程(SDEs)定义的模型允许表示动态系统中的随机变化。这类模型的相关性在许多应用研究领域中不断增长,并且已经是模拟例如金融、神经元和人口增长动态的标准工具。然而,多维模型的推理仍然是非常具有挑战性的,无论是在计算上还是在理论上。近似贝叶斯计算(ABC)允许对足够复杂的模型执行贝叶斯推断,所述模型使得似然函数在分析上不可用或在计算上禁止评估。提出了一种计算效率高的ABC-MCMC算法,在我们的模拟运行时间减半。重点是在这种情况下,在状态空间模型中描述潜在的动态,但该方法并不限于状态空间框架。药代动力学/药效学模型和随机化学反应的模拟研究被认为是一个MATLAB软件包实现我们的ABC-MCMC算法。
2013-11-08 stat.AP stat.CO stat.ME
Finding our Way in the Dark: Approximate MCMC for Approximate Bayesian Methods
有了更大的数据,科学家们就有勇气去解决那些需要复杂的统计模型的复杂问题。对于后者来说,具有似然函数而无法用解析公式表示是很平常的。即使在这样的逆境下,当可以从抽样分布进行模拟时,也可以使用近似贝叶斯计算(ABC)或贝叶斯合成似然法(BSL)等近似方法进行贝叶斯分析。这些方法的一个显著缺点是所需的模拟数量可能非常大,从而严重限制了它们的范围。在本文中,我们设计的扰动MCMC采样器,可用于在ABC和BSL范式显着加快计算,同时保持控制的计算效率。拟议中的战略依赖于从连锁店的过去回收样本。算法设计的理论分析支持,而实际性能通过一系列的仿真例子和数据分析进行检查。
2019-05-16 stat.CO
Improving approximate Bayesian computation via quasi-Monte Carlo
近似贝叶斯计算(ABC)是处理具有难处理的可能性的模型的一般方法。在这项工作中,我们推导出基于QMC(准蒙特卡罗)序列的ABC算法。我们表明,由此产生的ABC估计有一个较低的方差比他们的蒙特卡罗的对手。我们还开发了顺序ABC算法的QMC变体,逐步适应提案分布和接受阈值。我们说明了我们的QMC方法,通过几个例子从ABC文学。保留字:近似贝叶斯计算,无似然推断,拟蒙特卡罗,随机化拟蒙特卡罗,自适应重要性抽样
2018-05-07 stat.CO
Summary Statistics in Approximate Bayesian Computation
这篇文章将作为即将出版的由S。Sisson,Y. Fan和M.博蒙特由于最早的工作ABC,人们已经认识到,使用汇总统计是必不可少的,以产生有用的推理结果。这是因为ABC受到维数效应的诅咒,因此使用高维输入会导致输出中的大近似误差。因此,至关重要的是要找到低维摘要,这是信息的参数推断或模型选择任务在手。本章回顾了为选择此类摘要而提出的方法,扩展了Blum et al.(2013)先前的综述论文,并介绍了最新进展。对ABC维数灾难和充分性的相关理论结果也进行了讨论。
2015-12-17 math.ST stat.CO stat.ME
$γ$-ABC: Outlier-Robust Approximate Bayesian Computation Based on a Robust Divergence Estimator
The University of Tokyo(东京大学);RIKEN AIP(理化学研究所先进智能项目中心)
近似贝叶斯计算(ABC)是一种无似然性的推理方法,已在各种应用中采用。然而,如果数据差异度量选择不当,ABC可能对离群值敏感。在本文中,我们建议使用最近邻为基础的$γ$ -分歧估计作为数据差异的措施。我们表明,我们的估计具有一个合适的理论鲁棒性的属性称为降序属性。此外,我们的估计享有各种理想的属性,如高灵活性,渐近无偏性,几乎必然收敛,线性时间的计算复杂度。通过实验,我们证明了我们的方法实现了显着更高的鲁棒性比现有的差异措施。
2021-03-05 cs.LG stat.CO stat.ME
Adaptive approximate Bayesian computation
顺序技术可以提高效率的近似贝叶斯计算算法,如在Sisson等人。的(2007)部分拒绝控制版本。虽然这种方法是基于Del Moral等人(2006)的理论工作,但应用于近似贝叶斯计算会导致后验近似的偏差。基于真正的重要性抽样参数的替代版本与Cappe等人(2004)的总体蒙特卡罗方法相关,绕过了这个困难,并且它包括前向内核的自动缩放。当应用于人口遗传学的例子,它相比,毫不逊色于其他两个版本的近似算法。
2009-03-28 stat.CO
On the use of approximate Bayesian computation Markov chain Monte Carlo with inflated tolerance and post-correction
近似贝叶斯计算允许使用模型模拟来推断具有棘手可能性的复杂概率模型。近似贝叶斯计算的马尔可夫链蒙特卡罗实现通常对容差参数敏感:低容差导致不良混合,大容差导致过度偏差。我们考虑一种方法,使用一个相对较大的公差的马尔可夫链蒙特卡罗采样器,以确保其充分的混合,和后处理的输出导致估计的范围内更精细的公差。我们引入了一个近似的置信区间相关的后校正估计,并提出了一个自适应的近似贝叶斯计算马尔可夫链蒙特卡罗,找到一个“平衡”的容忍度自动水平,接受率优化的基础上。我们的实验表明,基于后处理的估计器可以执行更好的比直接马尔可夫链瞄准一个很好的公差,我们的置信区间是可靠的,我们的自适应算法导致可靠的推理与用户规格很少。
2019-05-16 stat.CO
Evaluation of mineralogy per geological layers by Approximate Bayesian Computation
提出了一种基于贝叶斯线性回归模型的矿物学反演方法。我们的方法基本上依赖于三个步骤。第一步利用近似贝叶斯计算(ABC),并从贝叶斯生成器中选择一组与井筒数据响应密切对应的候选体积。第二步通过基于密度的聚类算法收集这些候选项。通过直接矿物学反演将矿物情景分配给每个聚类,并且我们为每个岩性假设提供置信度估计。这种方法的优点是探索所有可能的矿物学假设,匹配的井筒数据。该管道在合成和真实数据集上进行了测试。
2019-05-28 physics.geo-ph stat.AP
Simple trees in complex forests: Growing Take The Best by Approximate Bayesian Computation
启发式策略如何从较小的构建模块中产生?我们提出近似贝叶斯计算作为这个问题的计算解决方案。作为概念的第一个证明,我们演示了如何从较小的概率更新的构建块中学习启发式决策策略,如采取最佳策略(TTB)。基于一个自我强化的抽样方案,不同的积木组合,随着时间的推移,树状非补偿性的进化出现。这种新的算法,创造近似贝叶斯计算取最好的(ABC-TTB),能够恢复由TTB生成的数据集,导致有关线索重要性和线索方向的合理推断,可以优于传统的TTB,并允许权衡性能和计算工作明确。
2016-05-14 stat.AP
New Insights Into Approximate Bayesian Computation
近似贝叶斯计算(简称ABC)是一种计算技术,它在后验似然估计在计算上是禁止的情况下,或者在合适的似然不可用时,提供了一种几乎自动化的解决方案。在本文中,我们分析的过程中,从k-近邻理论的角度来看,并探讨其输出的统计特性。我们讨论特别是一些渐近特性的真正的条件密度估计与ABC,这是一个有趣的混合之间的k-最近邻和核方法。
2013-06-03 math.ST stat.TH
Approximate Bayesian Computations to fit and compare insurance loss models
近似贝叶斯计算(ABC)是一种通过比较观测数据和模拟数据来校准和选择模型的统计学习技术。这种技术绕过了可能性的使用,只需要从感兴趣的模型生成合成数据的能力。我们应用ABC来使用汇总数据拟合和比较保险损失模型。提出了一种最先进的ABC在Python中的实现。它使用序贯蒙特卡罗从后验分布和瓦瑟斯坦距离比较观察到的和合成的数据。
2021-05-01 stat.CO
Convergence of Regression Adjusted Approximate Bayesian Computation
我们给出了Beaumont(2002)引入的近似贝叶斯计算的回归调整版本的渐近结果。我们表明,对于一个适当的选择的带宽,回归调整将导致后,渐近,正确量化的不确定性。此外,对于这样的带宽选择,我们可以实现重要性采样算法来从后验中采样,其接受概率随着数据样本量的增加而趋于统一。这与标准近似贝叶斯计算的结果相比是有利的,在标准近似贝叶斯计算中,获得正确量化不确定性的后验的唯一方法是选择小得多的带宽;对于该带宽,接受概率趋于零,因此蒙特卡洛误差将占主导地位。
2017-11-28 math.ST stat.CO stat.TH
Approximate Bayesian Computation for Lorenz Curves from Grouped Data
提出了一种新的基于分组数据的Lorenz曲线估计基尼系数的贝叶斯方法。所提出的方法假设一个假设的收入分布和估计的参数直接工作的似然函数隐含的洛伦兹曲线的收入分布从分组数据。它继承了现有的两种方法的优点,通过这两种方法可以更准确地估计基尼系数,并提供了一个简单的解释有关的收入分配。由于似然函数是隐式定义的,因此采用了基于序贯蒙特卡罗方法的近似贝叶斯计算方法。通过模拟研究和日本的收入数据说明了所提出的方法的实用性。
2017-08-09 stat.AP
Non-linear regression models for Approximate Bayesian Computation
基于概括统计的近似贝叶斯推断非常适合于可能性在数学上或计算上难以处理的复杂问题。然而,当汇总统计量的数量增加时,使用拒绝的方法遭受维数灾难。在这里,我们提出了一种机器学习方法,通过引入两个创新的后验密度的估计。该方法首先将参数的非线性条件异方差回归拟合到汇总统计量上,然后利用重要性抽样自适应地改进估计。新算法相比,国家的最先进的近似贝叶斯方法,并实现了相当大的减少计算负担的两个例子中的推理统计遗传学和一个推理模型。
2009-02-23 stat.CO stat.ML
On sequential Monte Carlo, partial rejection control and approximate Bayesian computation
我们提出了一个序贯蒙特卡罗采样器的部分拒绝控制算法的变体,并表明,这种变体可以被认为是一个序贯蒙特卡罗采样器与修改后的突变内核。我们证明了新的采样器可以减少增量的重要性权重的方差相比,标准的序贯蒙特卡罗采样器。我们提供了一个新的算法的理论性质的研究,并与现有的一些算法。最后,采样器是适应于应用程序下的挑战性的“似然自由”,近似贝叶斯计算建模框架,在那里我们表现出优越的性能超过现有的似然自由采样器。
2009-11-11 math.ST stat.CO stat.TH
The Use of a Single Pseudo-Sample in Approximate Bayesian Computation
我们分析了近似贝叶斯计算(ABC)的计算效率,它近似的似然函数从相关的模型中提取伪样本。对于ABC的拒绝抽样版本,已知的是,与采用基于单个伪样本的高方差估计相比,多个伪样本不能显著增加(并且可以显著降低)算法的效率。我们表明,这一结论也适用于马尔可夫链蒙特卡罗版本的ABC,这意味着它是不必要的调整伪样本的数量在ABC-MCMC。这一结论与粒子MCMC方法相反,对于粒子MCMC方法,增加粒子的数量可以在计算效率上提供很大的增益。
2016-02-16 math.ST stat.CO stat.TH
Multifidelity Approximate Bayesian Computation with Sequential Monte Carlo Parameter Sampling
多保真度近似贝叶斯计算(MF-ABC)是一种用于参数推断的无可能性技术,它利用模型近似来显着提高ABC算法的速度(Prescott和Baker,2020)。以前的工作只考虑MF-ABC的上下文中的拒绝抽样,这并不特别有效地探索参数空间。在这项工作中,我们集成了多保真度的方法与ABC序贯蒙特卡罗(ABC-SMC)算法到一个新的MF-ABC-SMC算法。我们表明,ABC-SMC和MF-ABC产生的改进,以产生蒙特卡罗样本的效率和估计的ABC后被放大时,这两种技术一起使用。
2020-10-12 stat.CO
Approximate Bayesian Computation via Sufficient Dimension Reduction
近似贝叶斯计算(ABC)由于其易于实现、解释性好和性能好等优点,近年来得到了广泛的应用。当遇到复杂的模型时,它的优点更加明显,其中极大似然估计以及通过马尔可夫链蒙特卡罗进行的贝叶斯分析需要大量的时间。本文从理论和计算两个角度研究了ABC的性质,并通过证明与其极限行为有关的定理来巩固ABC理论。特别是,我们认为部分后验,这是第一步接近完整的后验。提出了一种基于充分降维(SDR)的ABC半自动算法。SDR主要出现在频率论文献中。但我们在本文中已经证明了它与ABC也有联系。
2016-08-18 stat.CO
Approximate Bayesian Computation for a Class of Time Series Models
在下面的文章中,我们考虑近似贝叶斯计算(ABC)的某些类别的时间序列模型。特别是,我们专注于的情况下,观测和参数的可能性是棘手的,我们的意思是,一个不能评估的可能性,甚至高达一个积极的无偏估计。本文回顾和发展了一类近似程序的基础上的ABC的想法,但,具体地保持了原来的统计模型的概率结构。这个想法是有用的,因为它可以促进分析的偏差的近似和适应的参数推断建立的计算方法。在文献中的几个现有的结果进行了调查和新的发展方面的计算。
2014-01-01 stat.CO
Probably approximate Bayesian computation: nonasymptotic convergence of ABC under misspecification
CFM
近似贝叶斯计算(ABC)是贝叶斯统计中广泛使用的一种推理方法,可以绕过逐点计算似然。在本文中,我们开发的理论界限之间的距离,在ABC的统计。我们表明,ABC的某些版本是固有的强大的误指定。在有限样本量下,以Oracle不等式的形式给出了其界.明确了对参数空间的维数和统计量的依赖性。结果表明,在参数空间中,所得结果服从预言不等式。我们将我们的理论结果应用于给定的先验分布和数据生成过程,包括非参数回归模型。在本文的第二部分中,我们提出了一个顺序蒙特卡罗(SMC)从伪后验采样,改进了最先进的采样器。
2019-01-01 cs.LG math.ST stat.CO
Fast Approximate Bayesian Computation for Estimating Parameters in Differential Equations
采用序贯蒙特卡罗方法的近似贝叶斯计算(ABC)为微分方程的参数估计、模型选择和敏感性分析提供了一个综合平台。然而,这种方法,像其他蒙特卡罗方法,招致了显着的计算成本,因为它需要显式的微分方程的数值积分进行推断。在本文中,我们提出了一种新的方法,通过使用高斯过程的导数来平滑参数估计的观测值,从而避免了显式积分的要求。我们评估我们的方法,使用合成数据所描述的模型生物系统的普通和延迟微分方程。在比较我们的方法,现有的ABC技术的性能,我们证明,它产生了可靠的参数估计在一个显着减少的执行时间。
2015-07-17 stat.ML
On Batch Normalisation for Approximate Bayesian Inference
University of Oxford(牛津大学)
我们研究批量归一化的背景下,变分推理方法在贝叶斯神经网络,如平均场或MC辍学。我们表明,批量归一化不影响最佳的证据下限(ELBO)。此外,我们研究了蒙特卡罗批量归一化(MCBN)算法,提出了一种近似推理技术平行MC辍学,并表明,对于较大的批量大小,MCBN未能捕捉认知的不确定性。最后,我们提供的见解是什么需要解决这个问题,即必须查看小批量作为MCBN的变参数。我们评论的渐近ELBO相对于这个变分参数,表明随着数据集大小增加到无穷大,批量大小必须增加到无穷大,以及MCBN是一个有效的近似推理技术。
2020-12-24 cs.LG stat.ML
Modelling trait dependent speciation with Approximate Bayesian Computation
系统发育是模拟物种形成的时间离散动态的领域。复杂的模型现在可以使用近似贝叶斯计算方法来研究,避免了似然计算。由于缺乏强大的软件来估计物种形成过程的众多参数,该领域的进展受到阻碍。在这项工作中,我们提出了一个R包,pcmabc,基于近似贝叶斯计算,实现了三种新的系统发育算法的性状依赖的物种形成模型。我们的系统发育比较方法考虑到模拟性状和遗传,试图估计参数的过程中产生的表型和性状。用户不限于一组预定义的模型,可以指定各种进化和分支模型。我们说明了软件的模拟重新估计研究集中在分支Ornstein-Uhlenbeck过程,其中分支率非线性地依赖于驱动Ornstein-Uhlenbeck过程的值。包括在这项工作是一个教程如何使用该软件。
2018-12-10 cs.LG q-bio.PE stat.AP
Model Comparison in Approximate Bayesian Computation
Bernstein Center for Computational Neuroscience(伯恩斯坦计算神经科学中心)
自然科学中的一个常见问题是根据观测数据比较竞争模型。贝叶斯模型比较基于每个模型为数据提供的证据,为这种比较提供了一个统计上合理的框架。然而,这种框架依赖于似然函数的计算,这对于实践中使用的大多数模型来说是难以处理的。近似贝叶斯计算(ABC)领域中的先前方法规避了对似然的评估并且基于拒绝抽样来估计模型证据,但是它们通常是计算密集的。在这里,我提出了一种新的有效的方法来执行贝叶斯模型比较ABC。基于后验密度估计的最新进展,该方法以参数形式逼近后验模型。特别是,我训练一个混合密度网络,将观察数据的特征映射到模型的后验概率。性能评估与两个例子。在一个易于处理的模型比较问题上,可以准确地预测潜在的精确后验概率。在计算神经科学的一个用例场景中--两个离子通道模型之间的比较--底层的地面实况模型被可靠地分配了高后验概率。总的来说,该方法提供了一种新的有效的方式来执行贝叶斯模型比较复杂的生物物理模型的模型架构无关。
2022-03-15 cs.LG stat.ML
A multifidelity approximate Bayesian computation with pre-filtering
School of Statistics and Data Science, Nankai University(南开大学统计与数据科学学院);Institute of Mathematical Sciences, ShanghaiTech University(上海科技大学数学科学研究所)
本文提出了一种基于多保真度模拟模型的近似贝叶斯计算方法,通过预过滤分层重要性采样算法提高计算效率,并提供评估多保真度模型适用性的实用策略。
2026-02-02 stat.CO
Conformal Bayesian Computation
我们开发了可扩展的方法来产生保形贝叶斯预测区间有限样本校准保证。贝叶斯后验预测分布($p(y \mid x)$)表征对感兴趣结果($y$)的主观信念,条件是预测因子($x$)。当模型为真时,贝叶斯预测得到了很好的校准,但在所谓的${\cal{M}}$ -开放视角下,当模型被错误指定时,预测区间可能表现出较差的经验覆盖率。与此相反,共形推理提供有限样本频率保证预测置信区间,而不需要模型的保真度。使用“加一”重要性抽样,我们证明了共形贝叶斯预测区间是有效地从重新加权后验样本的模型参数。我们的方法与现有的共形方法,需要昂贵的改装模型或数据分裂,以实现计算效率。我们展示了一系列的例子,包括扩展部分可交换的设置,如分层模型的实用程序。
2021-06-14 stat.CO stat.ME
The Interplay between Bayesian Inference and Conformal Prediction
MEMOTEF, Sapienza Università di Roma(罗马大学MEMOTEF中心);MRC – Biostatistics Unit, University of Cambridge(剑桥大学MRC生物统计学单位)
本文探讨了贝叶斯推断与符合预测的结合,提出通过校准贝叶斯可信集来增强符合预测的频繁性保证,并分析了两者在有效性与效率间的平衡。
2025-10-30 stat.CO stat.ME
Conformalized Bayesian Inference, with Applications to Random Partition Models
Department of Statistics and Data Sciences, UT Austin(德克萨斯大学奥斯汀分校统计与数据科学系)
该研究提出了一种适用于复杂参数空间的贝叶斯推断方法CBI,通过符合预测原理实现无假设的可信区域和多模态分析,应用于随机划分模型的聚类任务。
2025-12-19 stat.ME
Bayesian Conformal Prediction via the Bayesian Bootstrap
针对贝叶斯方法预测区间频率派校准效果差的问题,提出基于影响函数贝叶斯自助法、数据驱动调优狄利克雷参数α的贝叶斯共形方法,可构建校准性好且锐利的预测区间与分布,性能优于标准贝叶斯后验,且实现简便灵活。
2025-08-02 math.ST stat.ME stat.TH
Approximate Gibbs sampler for Bayesian Huberized lasso
贝叶斯套索是众所周知的贝叶斯替代套索。虽然贝叶斯套索的优点是能够对参数进行完全概率不确定性量化,但相应的后验分布可能对离群值敏感。为了克服这一问题,近年来提出了鲁棒贝叶斯回归模型。本文从完全贝叶斯的角度研究了贝叶斯Huberized套索回归的稳健有效估计。提出了一种新的贝叶斯Huberized Lasso回归的后验计算算法。建议的近似吉布斯采样器是基于全条件分布的近似,它是可能的,以估计一个调谐参数的伪Huber损失函数的鲁棒性。本文还导出了后验分布的一些理论性质。我们通过仿真研究和实际数据的例子来说明所提出的方法的性能。
2022-07-05 stat.ME
A Bayesian Framework for Regularized Estimation in Multivariate Models Integrating Approximate Computing Concepts
本文在贝叶斯框架下统一了多变量模型的正则化估计,连接贝叶斯推断与近似计算,提出均值收缩和正则化LDA的新算法,并通过数值实验验证。
2025-09-12 stat.ME
Duality between Approximate Bayesian Methods and Prior Robustness
在本文中,我们表明,有一个近似贝叶斯方法和先验鲁棒性之间的联系。我们表明,通常被认为是近似的可能性,无论是由于模拟数据的近似贝叶斯计算(ABC)方法或由于功能近似的可能性,而不是也可以被视为一个隐含的演习之前的鲁棒性。我们首先定义两个新的类的先验的情况下,有足够的统计数据,建立其数学性质和显示,一个简单的说明性的例子,这些类的先验也可以用来获得后验分布,将通过实施ABC。然后,我们概括和定义两个进一步类的先验,适用于非常一般的情况下,一个充分统计量是不可用的,另一个地方的可能性近似使用函数逼近。然后,我们讨论的解释和启发方面提出的类,以及它们的潜在应用和可能的计算效益。这些类建立了近似贝叶斯推断和先验鲁棒性之间的对偶性,用于广泛的贝叶斯推断方法。
2020-04-02 stat.ME
Robust approximate Bayesian inference
我们讨论了一种方法来获得强大的后验分布的$M$估计功能,使用近似贝叶斯计算(ABC)的方法。特别是,我们使用$M$ -估计函数来构建合适的汇总统计量在ABC算法。讨论了稳健后验分布的理论性质。特别注意的是线性混合模型的方法的应用。仿真结果和临床研究的应用证明了该方法的实用性。在robustBLME包中还提供了一个R实现。
2019-06-12 stat.ME
An Approximate Bayesian Approach to Model-assisted Survey Estimation with Many Auxiliary Variables
复杂调查数据的模型辅助估计是调查抽样中一个重要的实际问题。当有许多辅助变量时,选择与研究变量相关的显著变量对于有效估计感兴趣的总体参数是必要的。在本文中,我们制定了一个正则化回归估计的贝叶斯推断的框架内使用的惩罚函数作为收缩前模型选择。所提出的贝叶斯方法使我们不仅能得到有效的点估计,而且能得到合理的可信区间。从两个有限的模拟研究结果,以方便与现有的频率论方法进行比较。
2020-03-31 stat.ME
Stochastic Convergence Rates and Applications of Adaptive Quadrature in Bayesian Inference
我们提供了第一个随机收敛速度的家庭自适应正交规则用于规范化的后验分布贝叶斯模型。我们的结果适用于一致的相对误差的近似后验密度,覆盖概率的近似可信集,近似的时刻和分位数,从而保证快速渐近收敛的近似汇总统计量在实践中使用。该系列的积分规则包括自适应高斯-厄米特积分,我们将这一规则在两个具有挑战性的低维的例子。此外,我们演示了如何自适应正交可以作为一个重要组成部分的现代近似贝叶斯推断过程的高维添加剂模型。该方法在R语言的aghq包中实现并公开提供,可在CRAN上获得。
2022-10-25 stat.ME
Approximate Bayesian Forecasting
近似贝叶斯计算(ABC)作为一种在一系列具有挑战性的统计问题中进行参数推断的方法已经变得越来越突出,最显著的是那些以难以处理的似然函数为特征的问题。在本文中,我们专注于使用ABC的参数推断的工具,但作为一种手段,产生概率预测,或进行我们所说的“近似贝叶斯预测”。探讨的四个关键问题是:i)ABC后验的理论行为与基于ABC的预测行为之间的联系; ii)使用适当的评分规则来衡量当使用近似而不是精确预测时,预测准确性的(潜在)损失; iii)状态空间模型中近似贝叶斯预测的性能;以及iv)使用预测标准来告知经验设置中ABC摘要的选择。该论文的主要发现是,ABC可以提供一种计算效率高的方法来生成与精确预测几乎相同的概率预测,并且只需通过精确方法生成预测所需的一小部分时间。y与精确预测产生的那些相同,并且在通过精确方法产生预测所需的时间的一小部分内。
2018-06-20 stat.ME
Sequential Selection for Accelerated Life Testing via Approximate Bayesian Inference
加速寿命试验(ALT)通常用于评估材料在所需应力水平下的寿命可靠性。材料工程的最新进展使各种材料替代品变得容易获得。为了确定最可靠的材料设置与有效的试验设计,一个连续的测试计划策略是首选。为了保证一个易于处理的统计机制的信息收集和更新,我们开发了明确的模型参数更新公式,通过近似贝叶斯推断。理论表明,我们的显式更新公式给出了一致的参数估计。仿真研究和算例分析表明,与其他设计方法相比,所提出的序贯选择方法可以显著提高确定最佳可靠性性能材料方案的概率。
2020-01-16 stat.ME
Approximate Bayesian inference for a spatial point process model exhibiting regularity and random aggregation
本文提出了一个同时具有聚集性和排斥性的双随机空间点过程模型。该模型结合了施特劳斯过程和对数高斯考克斯过程背后的思想。该模型的可能性不能以封闭形式表达,但很容易在该模型下模拟实现。因此,我们解释了如何使用近似贝叶斯计算(ABC)进行统计推断这个模型。我们提出了一种基于后验预测和全局包络的模型验证方法。我们使用模拟点模式和真实数据示例来说明ABC程序和模型验证方法。
2020-12-03 stat.ME