Summary Statistics in Approximate Bayesian Computation
这篇文章将作为即将出版的由S。Sisson,Y. Fan和M.博蒙特由于最早的工作ABC,人们已经认识到,使用汇总统计是必不可少的,以产生有用的推理结果。这是因为ABC受到维数效应的诅咒,因此使用高维输入会导致输出中的大近似误差。因此,至关重要的是要找到低维摘要,这是信息的参数推断或模型选择任务在手。本章回顾了为选择此类摘要而提出的方法,扩展了Blum et al.(2013)先前的综述论文,并介绍了最新进展。对ABC维数灾难和充分性的相关理论结果也进行了讨论。
2015-12-17 math.ST stat.CO stat.ME
Kernel Approximate Bayesian Computation for Population Genetic Inferences
近似贝叶斯计算(ABC)是一种基于拒绝算法方法的贝叶斯推断的无似然方法,该方法应用了观察数据和模拟数据的汇总统计量之间的差异容限。虽然已经提出了对算法的几种改进,但是这些改进都没有避免以下两个近似源:1)缺乏足够的统计量:采样不是来自给定数据的真实后验密度,而是来自给定汇总统计量的近似后验密度;以及2)非零公差:仅在零公差的极限下实现从给定汇总统计量的后验密度采样。近似值的第一个来源可以通过添加汇总统计量来改进,但是汇总统计量数量的增加可能会引入由低接受率引起的额外方差。因此,许多研究人员试图开发技术来选择信息汇总统计量。本研究评估了基于核的ABC方法(Kazumizu et al. 2010,arXiv:1009.5736 and 2011,NIPS 24:1549-1557)在需要许多汇总统计量的复杂问题中的实用性。将核ABC应用于群体遗传推理。我们证明,在传统的ABC相比,内核ABC可以将大量的汇总统计,同时保持高性能的推理。
2013-09-25 q-bio.PE stat.CO
A thermodynamic approach to Approximate Bayesian Computation with multiple summary statistics
Swiss Federal Institute of Aquatic Science and Technology(瑞士联邦水科学与技术研究所);Zurich University of Applied Sciences(苏黎世应用科学大学);Swiss Data Science Center(瑞士数据中心);ETH Zurich(苏黎世联邦理工学院);Università della Svizzera italiana and University of Insubria(瑞士意大利语大学和不列颠尼亚大学)
本文提出一种基于非平衡热力学的模拟退火ABC变体,通过最优退火调度和状态变量优化,提升多总结统计下的贝叶斯推断性能。
2026-04-14 stat.CO
Approximate Bayesian Computation in controlled branching processes: the role of summary statistics
受控分枝过程是一类随机增长的种群模型,其中每一代具有繁殖能力的个体数由一个随机控制函数控制。这项工作的目的是检查近似贝叶斯计算(ABC)的方法,并提出适当的汇总统计,为他们在这些过程的背景下。这种方法能够令人满意地近似感兴趣的参数的后验分布,而无需明确的似然计算,并在一组最小的假设。特别地,提供了容差剔除算法、序贯蒙特卡罗ABC算法和基于局部线性回归的后采样校正方法。通过一个用统计软件R.
2019-07-01 stat.ME
An automatic adaptive method to combine summary statistics in approximate Bayesian computation
为了推断具有难处理的似然性的机械模型的参数,诸如近似贝叶斯计算(ABC)的技术越来越多地被采用。然而,ABC在实际情况中的一个主要缺点是参数推断通常必须依赖于数据的汇总统计。对于涉及高维数据的问题,例如生物成像实验,情况尤其如此。然而,一些汇总统计数据包含的有关参数的信息比其他统计数据多,如何在ABC框架内衡量其贡献并不总是很清楚。我们通过开发一种自动的自适应算法来解决这个问题,该算法为每个汇总统计量选择权重。我们的算法旨在通过自动调整ABC距离函数中的权重来最大化先验和近似后验之间的距离。在计算上,我们使用分布之间距离的最近邻估计。我们证明算法理论上的最近邻距离估计的基础上的属性。为了证明我们的算法的有效性,我们将其应用到各种测试问题,包括几个随机模型的生化反应网络,和空间扩散模型,并比较我们的结果与现有的算法。
2018-08-02 stat.CO
Statistical modelling of summary values leads to accurate Approximate Bayesian Computations
近似贝叶斯计算(ABC)方法依赖于渐近参数,这意味着即使有充分统计量可用,参数推断也可能存在系统性偏差。我们建议构造ABC接受/拒绝步骤从决策理论参数上一个合适的辅助空间。该框架称为ABC*,完全指定了要使用的检验统计量、如何组合它们、如何设置公差以及模拟多长时间以获得辅助空间上的精度属性。类似于最大似然间接推理,当ABC* 近似后验密度在原始参数空间上的库尔贝克-莱布勒散度和最大后验点估计是准确的时,正则条件成立。从根本上说,逃避渐近参数需要检验统计量分布的知识,我们通过模拟汇总值的分布获得,汇总水平上的数据点。合成的例子和应用程序的时间序列数据的甲型流感(H3 N2)感染在荷兰说明ABC* 的行动。
2014-01-22 stat.ME
Approximate Bayesian Computation by Modelling Summary Statistics in a Quasi-likelihood Framework
近似贝叶斯计算(ABC)是当似然函数在计算上难以处理时进行贝叶斯推理的一类有用的方法。在实践中,基本的ABC算法可能是效率低下的先验和后验之间的差异的存在。因此,应使用更精细的方法,例如ABC与马尔可夫链蒙特卡罗算法(ABC-MCMC)。然而,制定MCMC的建议密度是一个敏感的问题,在ABC环境中非常困难,在那里的可能性是棘手的。我们讨论了一个自动的建议分配有用的ABC-MCMC算法。该建议的灵感来自准似然(QL)函数理论,并通过将汇总统计量的分布建模为参数的函数来获得。从本质上讲,给定一个实值向量的汇总统计量,我们重新参数化的模型通过一个回归函数的统计参数,从原始模型中的试点运行模拟研究中获得的采样。QL理论是建立一个标量参数,它表明,当条件方差的汇总统计量是假定常数,QL有一个封闭形式的正常密度。这种构造建议分布的思想扩展到非常数方差和实值参数向量。该方法是由几个例子,并通过应用到一个真正的问题,在人口遗传学。
2015-05-13 math.ST stat.ME stat.TH
On the Asymptotic Efficiency of Approximate Bayesian Computation Estimators
许多统计应用涉及的模型,很难评估的可能性,但它是相对容易的样本。近似贝叶斯计算是在这种情况下实现贝叶斯推断的无似然方法。我们目前的结果估计的渐近方差使用近似贝叶斯计算在大数据限制。我们的关键假设是,数据是由一个固定维的汇总统计,服从中心极限定理。我们证明了近似贝叶斯计算后验均值的渐近正态性。这个结果还表明,在渐近方差方面,我们应该使用与参数向量p维数相同的汇总统计量;并且任何更高维数的汇总统计量都可以通过线性变换以仅能减少后验均值的渐近方差的方式减少到维数p。我们看看如何蒙特卡罗误差的重要性抽样算法的样本从近似贝叶斯计算后影响估计的准确性。我们给出了重要性抽样建议分布的条件,使得估计量的方差与基于汇总统计量的极大似然估计量的方差为同一阶。这表明了一个迭代的重要性抽样算法,我们经验评估的随机波动率模型。
2017-11-28 math.ST stat.ME stat.TH
Local Kernel Dimension Reduction in Approximate Bayesian Computation
近似贝叶斯计算(ABC)是一种流行的抽样方法,在涉及棘手的似然函数的应用。在不评估似然函数的情况下,ABC通过一组可接受的样本来近似后验分布,这些样本是用从先验分布中提取的参数模拟的,其中可接受性由样本的汇总统计量与观察值之间的距离确定。摘要统计量的充分性和维度在作业成本法的应用中起着核心作用。本文提出了局部梯度核降维(LGKDR)来构造ABC的低维汇总统计量。该方法通过隐式地考虑其中的所有非线性变换来识别原始汇总统计量的足够子空间,并且加权核用于投影的浓度。对边缘分布和回归模型都没有做出强有力的假设,允许在广泛的应用中使用。用简单拒绝ABC法和序贯蒙特卡罗ABC法进行了实验。结果被报道为竞争力,在前者和更好地在后者的情况下,其中蒙特卡罗误差被压缩尽可能多的。
2017-08-16 stat.CO
Approximate Bayesian computation (ABC) coupled with Bayesian model averaging method for estimating mean and standard deviation
背景资料:我们提出了近似贝叶斯计算与单一分布选择(ABC-SD)估计平均值和标准差从其他报告的汇总统计量。ABC-SD从被认为是基础研究数据的真实分布的单个参数分布生成伪数据。该单一分布或者是有根据的猜测,或者是通过使用用于测试两个或更多个候选分布的后验概率标准的模型选择来选择的。进一步分析表明,当使用模型选择时,后验模型概率对参数的先验分布敏感,并依赖于报告的汇总统计量的类型。方法:我们提出了ABC与贝叶斯模型平均(ABC-BMA)的方法来估计平均值和标准差的基础上,在已发表的研究报告的各种其他汇总统计。我们进行了蒙特卡罗模拟研究,比较新提出的ABC-BMA方法与我们以前的ABC-SD方法。结果如下:在标准差的估计中,对于正态分布、对数正态分布、β分布和指数分布,ABC-BMA的平均相对误差(ARE)小于ABC-SD。对于韦布尔分布,在小样本量下,ABC-BMA的ARE大于ABC-SD的ARE,但小于0.05,并随着样本量的增加而趋于零。当基础分布高度偏态且可用汇总统计量仅为四分位数和样本量时,建议使用ABC-BMA,但应谨慎使用。ABC-BMA和ABC-SD之间的平均值估计的比较显示了与标准差估计相似的结果模式。结论:ABC-BMA易于实现,并且在估计均值和标准差方面优于我们以前的ABC-SD方法。
2016-07-11 stat.ME
Differentially Private Distributed Bayesian Linear Regression with MCMC
Sabancı University(萨班哲大学);University of Amsterdam(阿姆斯特丹大学)
面向多方共享含噪汇总统计量的分布式场景,提出差分隐私 Bayesian 线性回归框架,利用 MCMC 及单轮快速算法实现兼具计算优势、估计与预测性能的隐私推断。
2023-06-07 cs.LG stat.CO stat.ML
Adaptive ABC model choice and geometric summary statistics for hidden Gibbs random fields
在隐马尔可夫随机场的不同依赖结构之间进行选择是非常具有挑战性的,这是由于可能性中的难以处理的归一化常数。我们用近似贝叶斯计算(ABC)来回答这个问题,它提供了贝叶斯范式中的模型选择方法。这是在Grelaud等人(2009)的工作之后,他们展示了直接观察到的吉布斯随机场的充分统计量。但当随机场是潜场时,充分性下降,我们用几何汇总统计量来补充。构建这些直观的统计数据的一般方法依赖于基于观察到的颜色和合理的潜图的网站的聚类分析。基于这些统计量的ABC模型选择的效率通过可能具有独立兴趣的局部误差率来评估。作为一个副产品,我们推导出了一个ABC算法,该算法可以在不扭曲模型选择的情况下将汇总统计量的维度调整到数据集。
2014-07-16 math.ST stat.CO stat.TH
A Comparative Review of Dimension Reduction Methods in Approximate Bayesian Computation
近似贝叶斯计算(ABC)方法利用模拟和观察到的汇总统计量之间的比较,以克服计算上难以处理的似然函数的问题。由于ABC的实际实现需要基于汇总统计量的向量而不是完整的数据集进行计算,因此一个核心问题是如何以最小的信息损失从观察数据中导出低维汇总统计量。在这篇文章中,我们提供了一个全面的审查和比较的主要方法的性能降维提出的ABC文献。这些方法被分成三个不相互排斥的类,包括最佳子集选择方法,投影技术和正则化。此外,我们还介绍了两种新的降维方法。第一种是基于Akaike和贝叶斯信息准则的最佳子集选择方法,第二种使用岭回归作为正则化过程。我们说明了这些降维技术的性能,通过三个具有挑战性的模型和数据集的分析。
2013-06-11 stat.CO stat.ME
Concentration of discrepancy-based approximate Bayesian computation via Rademacher complexity
本文提出一个基于Rademacher复杂度的统一理论框架,分析差异度量ABC后验的极限性质,提供均匀集中界限,适用于非i.i.d.和模型误设场景,并通过IPS族扩展理解无摘要ABC。
2025-01-24 math.ST stat.CO stat.ME
Informed Sub-Sampling MCMC: Approximate Bayesian Inference for Large Datasets
本文介绍了一个框架,以加快贝叶斯推断进行大数据集的存在。我们设计了一个马尔可夫链,其过渡内核使用(未知)部分(固定大小)的可用数据,在整个算法中随机刷新。受近似贝叶斯计算(ABC)文献的启发,二次抽样过程由对观察数据的保真度指导,如通过汇总统计测量的。由此产生的算法,知情子采样MCMC(ISS-MCMC),是一个通用的和灵活的方法,相反,现有的可扩展的方法,保留了简单的梅特罗波利斯-黑斯廷斯算法。即使失去了准确性,即链分布近似后验,我们研究和量化理论上的这种偏见,并显示在一组不同的例子,它产生出色的性能时,计算预算是有限的。如果可用和廉价的计算,我们表明,设置汇总统计量的极大似然估计是支持的理论论据。
2018-05-31 stat.CO stat.ME
Discussions on Fernhead and Prangle (2012)
对Fearnhead P.和D. Prangle(2012).构建近似贝叶斯计算的汇总统计:半自动近似贝叶斯计算,J. Roy。中央集权主义者Soc. B,74(3).
2012-01-09 stat.CO
Distance-learning For Approximate Bayesian Computation To Model a Volcanic Eruption
近似贝叶斯计算(ABC)为我们提供了一种方法来推断模型的参数,其中的似然函数是不可用的,从一个观察。使用ABC,这取决于许多模拟所考虑的模型,我们开发了一个推理框架来学习参数的随机数值模拟火山喷发。此外,模型本身是并行使用消息传递接口(MPI)。因此,我们开发了一个嵌套并行MPI通信处理昂贵的数值模型与ABC算法。ABC通常依赖于数据的汇总统计,以衡量模型输出和观察的差异。但是,无法找到所考虑模型的信息性汇总统计量。因此,我们开发了一种基于深度度量学习的技术来学习模型输出之间的距离。我们使用这个框架来学习羽流特性(例如。初始羽流速度)的火山喷发火山碎屑沉积物收集的现场工作与2450 BP Pululagua(厄瓜多尔)火山喷发。
2019-09-28 stat.AP stat.CO
A Guide to General-Purpose Approximate Bayesian Computation Software
本章,“通用ABC软件指南”,将出现在即将出版的近似贝叶斯计算手册(2018)中。我们目前的通用软件来执行近似贝叶斯计算(ABC)的R-包ABC和EasyABC和C++程序ABCtoolbox中实现。通过简单的玩具模型,我们演示了如何进行参数推断,模型选择,验证和汇总统计量的最佳选择。我们演示了如何结合ABC与马尔可夫链蒙特卡罗和描述一个现实的群体遗传学应用。
2018-06-21 stat.CO
Optimal combination of composite likelihoods using approximate Bayesian computation with application to state-space models
本文提出利用近似贝叶斯计算和多个复合得分函数作为汇总统计量,解决复合似然中的权重选择与曲率调整问题,并通过蒙特卡洛估计和自适应方案提升计算可行性与推断效率。
2024-09-04 stat.CO stat.ME
On an Empirical Likelihood based Solution to the Approximate Bayesian Computation Problem
针对近似贝叶斯计算(ABC)计算成本高、渐近性质差的问题,提出基于经验似然的ABCel方法,通过仅依赖汇总统计量的约束构造对数后验近似,兼具后验一致性与优异渐近性质,可使用简单汇总统计量实现准确后验近似。
2024-03-08 stat.ME
Approximate Bayesian computation via the energy statistic
近似贝叶斯计算(ABC)已经成为贝叶斯工具箱的重要组成部分,用于解决可能性非常昂贵或完全未知的问题,使其难以处理。ABC通过比较观测数据和模拟数据来定义伪后验,传统上基于一些汇总统计量,其中的启发被认为是一个关键的难点。最近,有人提议使用数据差异计量,以绕过汇总统计的编制。在这里,我们建议使用的重要性采样ABC(IS-ABC)算法依赖于所谓的双样本能量统计。我们建立了一个新的渐近结果的情况下,观察到的样本量和模拟数据的样本量增加到无穷大,这突出了在何种程度上的数据差异措施的影响渐近伪后验。结果持有广泛的IS-ABC方法的设置,从而概括了以前的结果,已经建立了拒绝ABC算法。此外,我们提出了一个一致的V-统计量估计的能量统计量,在此情况下,我们表明,大样本的结果持有,并证明拒绝ABC算法,基于能量统计,产生伪后验分布,实现收敛到正确的限制,当实施拒绝阈值收敛到零,在有限样本设置。我们提出的基于能量统计的ABC算法在各种模型上进行了验证,包括高斯混合模型、二阶移动平均模型、二元Beta模型和多元$g$ -和- $k$分布。我们发现,我们提出的方法比较以及替代差异措施。
2020-06-30 stat.CO stat.ME stat.ML
abc: an R package for Approximate Bayesian Computation (ABC)
许多最近的统计应用涉及复杂模型下的推理,其中计算可能性在计算上是禁止的,但可以模拟数据。近似贝叶斯计算(ABC)专门用于这些复杂的模型,因为它绕过了使用观测和模拟汇总统计量之间的比较来评估似然函数。我们介绍了R abc包,实现了几个ABC算法执行参数估计和模型选择。特别是,最近开发的非线性异方差回归方法ABC实施。ABC包还包括一个交叉验证工具,用于测量ABC估计的准确性,并在执行模型选择时计算误分类概率。主要的功能是伴随着适当的摘要和绘图工具。考虑人口推断与群体遗传学数据的例子,我们显示的R包的潜力。R已经广泛应用于生物信息学和生物学的几个领域。R abc包将使ABC算法可用于大量的R用户。abc是GPL许可下的免费R包,可以在http://cran.r-project.org/web/packages/abc/index.html下载。
2011-06-14 physics.data-an q-bio.PE stat.AP
Hierarchical surrogate-based Approximate Bayesian Computation for an electric motor test bench
从噪声时间序列数据中推断复杂工业系统的参数分布需要处理底层数据和所用仿真模型的不确定性的方法。贝叶斯推断非常适合于这些不确定的逆问题。用于识别不确定参数的标准方法是马尔可夫链蒙特卡罗(MCMC)方法,其具有似然函数的显式评估。然而,如果可能性是非常复杂的,这样它的评估是计算昂贵的,甚至在其显式形式未知,近似贝叶斯计算(ABC)方法提供了一个有前途的替代方案。在这项工作中,这两种方法首先适用于人工生成的数据和第二个现实世界的问题,通过使用电动机测试台的数据。我们表明,这两种方法都能够推断不同的参数分布与贝叶斯分层方法。但是所提出的ABC方法在计算上要高效得多,以便获得具有类似精度的结果。我们建议使用汇总统计,以减少数据的维数,显着提高算法的效率。此外,仿真模型被多项式混沌扩展(PCE)替代,以加快模型评估。我们证明了一致性的建议替代为基础的ABC方法与汇总统计量在温和的条件下(近似)的前向模型。
2021-06-17 math.OC physics.data-an stat.AP
Approximate Bayesian Computation with Domain Expert in the Loop
Aalto University(阿尔托大学);University of Manchester(曼彻斯特大学)
近似贝叶斯计算(ABC)是一种流行的似然自由推理方法,适用于具有复杂似然函数的模型。由于ABC方法通常依赖于比较观察数据和模拟数据的汇总统计量,因此统计量的选择至关重要。这种选择涉及信息损失和降维之间的权衡,并且通常基于领域知识来确定。然而,手工制作和选择合适的统计数据是一项艰巨的任务,涉及多个试错步骤。在这项工作中,我们引入了一种主动学习方法ABC统计选择,大大减少了领域专家的工作。与现有的降维方法不同,通过专家的参与,我们能够处理错误指定的模型。此外,实证结果显示更好的后验估计比现有的方法,当模拟预算是有限的。
2022-06-20 cs.LG stat.ML
Approximating the Likelihood in Approximate Bayesian Computation
本章将出现在即将出版的近似贝叶斯计算手册(2018)中。支撑近似贝叶斯计算(ABC)的概念和方法框架主要针对可能性具有挑战性或缺失的问题。ABC使用基于模拟的非参数估计汇总统计量的可能性,并假设从模型生成数据在计算上是便宜的。本章回顾了两种估计棘手的可能性的替代方法,目的是减少必要的模型模拟,以产生近似的后验。其中第一个是合成似然(SL)的贝叶斯版本,最初由Wood(2010)开发,它使用多变量正态近似来概括统计似然。使用ABC的参数近似而不是非参数近似,可以减少所需的模型模拟的数量。我们在本章中考虑的第二种似然近似方法是基于经验似然(EL),这是一种非参数技术,涉及在一组矩约束下最大化经验构建的似然。Mengersen et al(2013)修改了EL框架,以便它可以用于形成ABC可以应用的问题的近似后验,即具有棘手可能性的模型。然而,与ABC和贝叶斯SL(BSL)不同,贝叶斯EL(BCel)方法可以在某些情况下完全避免模型模拟。BSL和BCel方法说明了不同复杂性的模型。
2018-03-18 stat.CO stat.ME
HIV with contact-tracing: a case study in Approximate Bayesian Computation
缺失数据是流行病学中经常出现的问题,其中可能部分观察到感染过程。近似贝叶斯计算,替代数据填补方法,如马尔可夫链蒙特卡罗集成,提出了在流行病学模型的推断。这是一种完全依赖于数值模拟的无可能性方法。ABC包括计算模拟和观察到的汇总统计量之间的距离,并根据该距离对模拟进行加权。我们提出了一个原始的扩展ABC路径值汇总统计,对应的累计检测次数作为时间的函数。对于一个标准的房室模型,成功的,传染病和被感染的个人(SIR),我们证明了后验分布得到的ABC和MCMC是相似的。在一个完善的SIR模型非常适合在古巴的艾滋病毒接触者追踪数据,我们进行了比较ABC与完整的和装箱的检测时间。对于古巴的数据,我们评估了检测系统的效率,并预测了艾滋病毒/艾滋病疾病的演变。特别地,发现未检测到的感染性个体的百分比为40%的量级。
2010-05-31 stat.AP stat.CO
Sequential Importance Sampling for Hybrid Model Bayesian Inference to Support Bioprocess Mechanism Learning and Robust Control
Northeastern University(东北大学);University of Waterloo(滑铁卢大学)
在生物制造4.0的关键需求的驱动下,我们引入了一个概率知识图混合模型,该模型表征了对生物过程机制的基于风险和科学的理解。它可以忠实地捕捉重要的性质,包括非线性反应,部分可观测状态,和非平稳动力学。给出了非常有限的实际过程的观察,我们得到了一个后验分布量化模型估计的不确定性。为了避免计算复杂的似然性,采用序贯蒙特卡罗近似贝叶斯计算抽样(ABC-SMC)来近似后验分布。在高度随机和模型不确定性下,匹配输出轨迹的计算代价很高。因此,我们创建了一个线性高斯动态贝叶斯网络(LG-DBN)辅助似然ABC-SMC方法。通过匹配由LG-DBN似然驱动的摘要统计量,可以捕获关键的相互作用和变化,所提出的算法可以加速混合模型推理,支持过程监控,并促进机制学习和鲁棒控制。
2022-09-30 cs.LG stat.ML
Approximate Bayesian Computation with Statistical Distances for Model Selection
University of Sydney(悉尼大学);ARC Training Centre in Data Analytics for Resources and Environments (DARE)(资源与环境数据分析 ARC 培训中心)
本文探讨基于统计距离的ABC方法在模型选择中的应用,通过比较不同度量指标和方法,揭示其在稳定性、校准性和模型复杂度下的表现差异。
2026-02-28 stat.CO stat.ME
ABCMETAapp: R Shiny Application for Simulation-based Estimation of Mean and Standard Deviation for Meta-analysis via Approximate Bayesian Computation (ABC)
背景和目的:在基于连续结局的荟萃分析中,所选研究的估计平均值和相应的标准差是获得平均值及其置信区间汇总估计值的关键输入。我们经常遇到文献中没有直接报道这些量的情况。相反,报告了其他汇总统计量,如中位数、最小值、最大值、四分位数和研究样本量。基于可用的汇总统计量,我们需要估计荟萃分析的平均值和标准差。方法:我们开发了一个基于近似贝叶斯计算(ABC)的R Shiny代码,ABCMETA,来处理这种情况。结果:在这篇文章中,我们提出了一个交互式和用户友好的R Shiny应用程序来实现所提出的方法(名为ABCMETAapp)。在ABCMETAapp中,当结果变量的分布是偏态或重尾时,用户可以选择正态分布以外的基础结果分布。我们将通过示例展示如何运行ABCMETAapp。结论:ABCMETAapp提供了一个R Shiny实现。这种方法比现有的分析方法更灵活,因为估计可以基于结果变量的五种不同分布(正态分布、对数正态分布、指数分布、Weibull分布和Beta分布)。
2020-04-05 stat.CO
Guided sequential ABC schemes for intractable Bayesian models
针对无似然贝叶斯模型,提出以数据汇总统计量为条件的引导式提议采样器,加速SIS-ABC和SMC-ABC收敛,减少计算成本并保持推断精度,适用于多模态、高相关及分层模型等挑战场景。
2024-05-29 stat.CO stat.ME
Considerate Approaches to Achieving Sufficiency for ABC model selection
对于几乎任何具有挑战性的科学问题,评估可能性都是有问题的,如果不是不可能的话。近似贝叶斯计算(ABC)允许我们采用整个贝叶斯形式主义的问题,我们可以使用模拟模型,但不能直接评估的可能性。当比较真实数据和模拟数据的汇总统计量时-而不是直接比较数据-信息会丢失,除非汇总统计量足够。在这里,我们采用了一个信息理论框架,可以用来构建(近似)充分统计量,通过组合不同的统计,直到信息的损失最小化。这样的充分的统计量集构造参数估计和模型选择问题。我们将我们的方法应用于一系列说明性和现实世界的模型选择问题。
2011-07-01 stat.CO
Expectation-Propagation for Likelihood-Free Inference
自然科学和社会科学中的许多模型都没有封闭形式的似然函数,这意味着它们不能用通常的统计推断技术来处理。在可以有效地模拟这种模型的情况下,由于近似贝叶斯计算(ABC)算法,贝叶斯推断仍然是可能的。虽然已经提出了许多改进,ABC推理仍然远离常规。由于接受率非常低,ABC通常非常缓慢。此外,ABC需要引入“汇总统计”向量,其选择相对任意,并且经常需要一些试验和错误,使得整个过程对用户来说相当费力。在这项工作中,我们介绍了EP-ABC算法,这是一个适应的可能性自由上下文的变分近似算法称为期望传播(Minka,2001年)。EP-ABC的主要优点是它比标准算法快几个数量级,同时产生通常可以忽略不计的总体近似误差。EP-ABC的第二个优点是,它用单独应用于每个数据点的形式的n个局部约束来取代对整个数据集计算的汇总统计量向量的通常的全局ABC约束。因此,通常可以完全取消汇总统计。在这种情况下,EP-ABC直接近似模型的证据(边际似然)。比较在三个现实世界中的应用程序,这是典型的似然自由推理,包括一个应用程序在神经科学是新颖的,可能太具有挑战性的标准ABC技术。
2012-07-18 stat.CO stat.ML
Variational Bayes with Synthetic Likelihood
合成似然是一种有吸引力的方法时,近似高斯汇总统计的数据,信息的参数的推断,无似然推理。合成似然法从汇总统计量的插入正态密度估计值导出近似似然函数,插入均值协方差阵通过蒙特卡罗模拟从模型中获得。在这篇文章中,我们开发的替代方案,马尔可夫链蒙特卡罗实现贝叶斯合成似然减少计算开销。我们的方法使用随机梯度变分推断方法的后验近似的合成似然上下文中,采用无偏估计的对数似然。我们比较新的方法与相关的似然自由变分推断技术在文献中,而在同一时间,提高了该方法的实施,在许多方面。这些新的算法是可行的,以实现在传统的近似贝叶斯计算(ABC)方法的挑战性的情况下,在参数和汇总统计的维度。
2016-08-10 stat.ME
Approximate Bayesian Computation with Deep Learning and Conformal prediction
本文提出ABCD-Conformal方法,首次实现无需汇总统计量、距离和容差阈值的近似贝叶斯计算,结合神经网络与保形预测提供后验均值估计及置信区间,并在四个应用中验证其高效性。
2025-06-23 stat.ME
Don't Disregard the Data for Lack of a Likelihood: Bayesian Synthetic Likelihood for Enhanced Multilevel Network Meta-Regression
University of British Columbia(不列颠哥伦比亚大学);HEOR - Precision AQ;University of California, San Francisco(旧金山加利福尼亚大学)
本文提出利用贝叶斯合成似然方法解决多级网络元回归中缺失数据问题,通过合成似然提升模型性能,展示其在银屑病试验网络中的应用效果。
2026-03-11 stat.AP stat.ME
Learning Summary Statistic for Approximate Bayesian Computation via Deep Neural Network
近似贝叶斯计算(ABC)方法用于近似具有未知或计算上难以处理的似然模型中的后验分布。ABC的准确性和计算效率都取决于汇总统计量的选择,但在已知最佳汇总统计量的特殊情况之外,尚不清楚可以使用哪些指导原则来构建有效的汇总统计量。在本文中,我们探索了通过训练深度神经网络来自动化构建汇总统计量的过程的可能性,以从人工生成的数据中预测参数:所得到的汇总统计量近似为参数的后验均值。通过最小的模型特定调整,我们的方法为伊辛模型和移动平均模型构建了汇总统计量,这些模型在所得后验的准确性方面匹配或超过了理论激励的汇总统计量。
2017-03-16 stat.CO stat.ME stat.ML
Using Approximate Bayesian Computation by Subset Simulation for Efficient Posterior Assessment of Dynamic State-Space Model Classes
近似贝叶斯计算(ABC)方法在过去十年中越来越受欢迎,因为它们将贝叶斯参数推断方法的范围扩展到只有正向模拟可用的模型范围。大多数ABC方法依赖于选择一组汇总统计量来减少数据的维度。然而,正如ABC文献中所指出的那样,由于缺乏足够的汇总统计量向量(该向量可确保竞争模型集的模型间充分性)而导致缺乏收敛保证,这阻碍了通常的ABC方法在应用于贝叶斯模型选择或评估时的使用。在本文中,我们提出了一种新的ABC模型选择过程的基础上,新出现的多级马尔可夫链蒙特卡罗方法,自调节ABC-SubSim,和一个层次的状态空间制定的动态模型。我们表明,这种提法使得有可能独立地近似评估每个竞争模型的后验概率所需的模型证据。我们还表明,ABC-SubSim不仅提供了一个简单的副产品的模型证据的估计,但它也给出了每个模型的后验概率作为一个函数的公差水平,这使得在以前的研究中所作的ABC模型的选择被理解。我们说明了所提出的框架ABC模型更新和模型类选择的性能,通过将其应用到贝叶斯系统识别中的两个问题:一个单自由度的双线性滞后振荡器和一个三层剪切建筑与Masing滞后,这两个都受到地震激励。
2016-08-04 stat.CO
Light and Widely Applicable MCMC: Approximate Bayesian Inference for Large Datasets
LWA-MCMC是Metropolis-Hastings核的一种新的近似方法,目标是在大量观测值上定义的后验分布。受近似贝叶斯计算的启发,我们设计了一个马尔可夫链,其过渡利用了一个未知的,但固定的,可用数据的一部分,其中子样本的随机选择是由该子样本的保真度所指导的观察到的数据,作为衡量总结(或足够)的统计。LWA-MCMC是一种通用而灵活的方法,正如我们探索的各种示例所示。在每一种情况下,LWA-MCMC产生优异的性能,在某些情况下,与现有的方法相比,有显着的改善。
2015-11-24 stat.ME
Robust and Efficient Approximate Bayesian Computation: A Minimum Distance Approach
在许多情况下,近似贝叶斯方法的应用受到两个实际特征的阻碍:1)将数据向下投影到低维摘要的要求,包括这种投影的选择,这最终会产生低效的推理; 2)可能缺乏对基础模型结构偏差的鲁棒性。出于这些效率和鲁棒性的问题,我们构建了一个新的贝叶斯方法,可以提供有效的估计时,底层模型是指定的,同时是强大的某些形式的模型误指定。这种新方法通过考虑经验和模拟概率测度之间的范数来绕过摘要的计算。对于特定的选择的规范,我们证明了这种方法可以提供点估计,是使用精确的贝叶斯推断,同时也显示鲁棒性的基础模型假设的偏差所获得的效率。
2020-06-25 econ.EM math.ST stat.ME
Semi-automatic selection of summary statistics for ABC model choice
一个中心的统计目标是选择数据的替代解释模型。在许多现代应用中,例如群体遗传学,不可能应用基于评估模型的似然函数的标准方法,因为这些方法在数值上是难以处理的。近似贝叶斯计算(ABC)是这种情况下常用的替代方案。ABC模拟每个模型下许多参数值的数据x,并将其与观察到的数据xobs进行比较。更多的权重放在S(x)接近S(xobs)的模型上,其中S将数据映射到汇总统计量的向量。以前的工作表明,S的选择是至关重要的效率和准确性的ABC。本文提供了一种选择好的汇总统计量进行模型选择的方法。它使用一个初步步骤,模拟所有模型的许多x值,并将模型作为响应拟合回归。由此产生的模型权重估计量在ABC分析中用作S。理论结果证明这是近似低维充分统计量。一个实质性的应用:选择之间的竞争合并模型的人口增长的空肠弯曲菌在新西兰使用多位点序列分型数据。
2013-02-22 stat.AP stat.CO
Multi-Statistic Approximate Bayesian Computation with Multi-Armed Bandits
Uppsala University(乌普萨拉大学);Department of Information Technology(信息技术系);Division of Scientific Computing(科学计算部);SE-751 05, Uppsala(乌普萨拉,SE-751 05);Sweden(瑞典)
近似贝叶斯计算是一种成熟和流行的无似然推理方法,在许多学科中都有应用。该方法的有效性主要取决于是否有性能良好的汇总统计量。摘要统计选择严重依赖于领域知识和精心设计的功能,并且可能是一个费力耗时的过程。由于该方法对数据维度敏感,因此选择汇总统计量的过程必须平衡包括信息统计量和特征向量维度的需求。本文提出了一个多臂强盗问题,从一个给定的候选汇总统计池动态选择一个合适的汇总统计量的问题。这允许近似贝叶斯计算拒绝抽样动态地集中于表现良好的汇总统计上的分布,而不是固定的统计集。所提出的方法是独特的,因为它不需要任何预处理,并可扩展到大量的候选统计。这使得能够有效地使用可能的时间序列汇总统计的大型库,而无需先前的特征工程。所提出的方法相比,国家的最先进的方法,使用一个具有挑战性的测试问题,从系统生物学文献的汇总统计量的选择。
2018-05-22 cs.LG stat.ML
Incorporating functional summary information in Bayesian neural networks using a Dirichlet process likelihood approach
Aalto University(阿尔托大学)
贝叶斯神经网络(BNN)可以解释任意和认知的不确定性。然而,在BNN的先验知识往往是指定的权重,很少反映真正的先验知识,在大型和复杂的神经网络架构。我们提出了一种简单的方法,将先验知识的BNN的基础上外部汇总信息的预测分类概率为一个给定的数据集。可用的摘要信息被纳入增强数据和建模的狄利克雷过程,我们推导出相应的\emph{Summary Evidence Lower BOund}。该方法基于贝叶斯原理,所有超参数都有适当的概率解释。我们展示了该方法如何告知模型任务难度和类不平衡。大量的实验表明,可以忽略不计的计算开销,我们的方法平行,并在许多情况下优于流行的替代品的准确性,不确定性校准,并对腐败的鲁棒性与平衡和不平衡的数据。
2023-01-24 cs.AI cs.LG stat.ML
Adapting the ABC distance function
近似贝叶斯计算为可能性计算昂贵或不可能的模型执行近似推理。相反,对各种参数值进行模型模拟,如果它们足够接近观测值,则可以接受。在决定应使用哪些数据汇总统计来判断接近程度方面取得了很大进展,但在如何加权方面的工作较少。通常,在算法开始时选择权重,其将汇总统计量归一化为在类似尺度上变化。然而,这些在迭代ABC算法中可能不合适,其中从其提出的参数的分布被更新。这可能会大大改变汇总统计量的结果分布,因此需要不同的权重进行归一化。本文提出了两种迭代ABC算法,自适应地更新其权重,并证明了改进的测试应用程序的结果。
2015-12-15 stat.CO
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然(BSL)的正态分布假设偏差及统计量兼容性需求,结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯,提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
Learning Summary Statistics for Bayesian Inference with Autoencoders
Swiss Data Science Center(瑞士数据科学中心);Università Svizzera italiana(瑞士意大利语区大学);University of Insubria(因苏布里亚大学)
对于具有难处理的似然函数的随机模型,近似贝叶斯计算提供了一种通过重复比较观测值与模拟模型输出的一小部分汇总统计量来近似真实后验的方法。这些统计数据需要保留与约束参数相关的信息,但消除噪声。因此,它们可以被看作是一般随机模型的热力学状态变量。对于许多科学应用,我们需要比模型参数更多的汇总统计量来达到令人满意的后验近似。因此,我们建议使用基于深度神经网络的自动编码器的内部维度作为汇总统计。为了激励编码器对所有参数相关信息进行编码而不对噪声进行编码,我们向解码器提供了对关于噪声的显式或隐式信息的访问,该噪声已被用于生成训练数据。我们验证了两种类型的随机模型的经验方法。
2022-05-23 cs.LG stat.ME stat.ML
Robustifying Approximate Bayesian Computation
针对近似贝叶斯计算在模型误设下性能不可靠的问题,提出一种对模型误设具有鲁棒性的新型ABC方法,能提供更准确的统计推断并检测不相容的摘要统计量。
2025-04-07 stat.CO stat.ME
Simulation-based Bayesian inference with ameliorative learned summary statistics -- Part I
Department of Electrical & Computer Engineering, College of Engineering, Physics, and Computing, The Catholic University of America(电气与计算机工程系,工程、物理与计算学院,天主教美国大学)
本文提出了一种基于模拟的贝叶斯推断方法,利用改善的学得总结统计量提升推断效果,并适用于分布式计算环境。
2026-01-30 cs.LG stat.ML
Novel Bayesian algorithms for ARFIMA long-memory processes: a comparison between MCMC and ABC approaches
本文比较了用于估计ARFIMA模型参数的MCMC和ABC两种贝叶斯方法,提出新型滤波MCMC算法和基于三种汇总统计量的ABC方法,通过模拟和金融数据验证表明滤波MCMC性能更优。
2024-10-17 stat.CO stat.ME
pyABC: Efficient and robust easy-to-use approximate Bayesian computation
Python包pyABC提供了近似贝叶斯计算(ABC)的框架,ABC是一种在许多研究领域流行的无似然参数推断方法。在其核心,它实现了一个顺序蒙特卡罗(SMC)方案,具有各种算法来适应问题结构并自动调整超参数。为了扩展到计算昂贵的问题,它为多核和分布式系统提供了有效的并行化策略。该软件包是高度模块化的,设计易于使用。在对pyABC的这次重大更新中,我们实现了几种高级算法,这些算法可以促进对各种数据和模型类型的有效和鲁棒的推理。特别是,我们实现算法来考虑噪声,自适应缩放归一化距离度量,稳健地处理数据离群值,通过回归模型阐明信息数据点,通过基于最佳传输的距离规避汇总统计,并通过预测接受率曲线来避免接受阈值序列中的局部最优值。此外,除了先前对Python和R的支持外,我们还提供了Julia语言、COPASI模拟器和PEtab标准的接口。
2022-03-24 q-bio.QM stat.CO
K2-ABC: Approximate Bayesian Computation with Kernel Embeddings
University College London(伦敦大学学院);University of Oxford(牛津大学);University of Amsterdam(阿姆斯特丹大学)
复杂的生成模型通常会导致计算观测数据的可能性是棘手的,而从给定参数值的条件密度进行模拟相对容易。近似贝叶斯计算(ABC)是一种范式,它通过测量模拟和观察数据之间的相似性,在这种情况下,使基于模拟的后验推理在一组选定的汇总统计。然而,没有一般规则来为复杂模型构建足够的汇总统计量。不充分的汇总统计量将“泄漏”信息,这导致ABC算法从不正确的(部分)后验中产生样本。在本文中,我们提出了一个完全非参数ABC范式,它避免了手动选择汇总统计量的需要。我们的方法,K2-ABC,使用最大平均差异(MMD)作为观测数据和模拟数据的分布之间的相异性度量。MMD很容易估计为它们的经验内核嵌入之间的平方差。模拟场景和现实世界的生物问题的实验表明,该算法的有效性。
2015-12-26 cs.LG stat.ML
Unifying Summary Statistic Selection for Approximate Bayesian Computation
Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
本文提出了一种统一的近似贝叶斯计算中总结统计量选择框架,通过最小化预期后验熵来获得信息性总结,适用于多种复杂模型。
2025-11-23 cs.IT math.IT stat.ME
DR-ABC: Approximate Bayesian Computation with Kernel-Based Distribution Regression
University of Oxford(牛津大学)
在复杂的生成模型中执行精确的后验推理通常是困难的或不可能的,这是由于昂贵的评估或棘手的似然函数。近似贝叶斯计算(ABC)是一种推理框架,它基于观察数据和模拟数据之间的相似性(由一组预定义的汇总统计量测量)构建真实可能性的近似值。虽然选择适当的特定问题的汇总统计量至关重要的影响质量的似然近似,因此也在ABC后验样本的质量,只有少数原则性的通用方法来选择或建设这样的汇总统计量。在本文中,我们开发了一个新的框架,这项任务使用基于内核的分布回归。我们使用基于核的分布回归模型的数据分布和最佳选择(相对于损失函数)的汇总统计量之间的函数关系。我们表明,我们的方法可以实现在计算和统计上有效的方式使用随机傅立叶特征框架的大规模内核学习。除此之外,与玩具和现实世界问题的相关方法相比,我们的框架表现出卓越的性能。
2016-02-15 cs.LG stat.CO stat.ME
Efficient Bayesian synthetic likelihood with whitening transformations
无似然方法是一种已建立的方法,用于对具有难处理的似然函数的模型执行近似贝叶斯推断。然而,它们可能需要计算。贝叶斯综合似然(Bayesian synthetic likelihood,BSL)是一种流行的方法,它用已知的、易处理的分布(通常是高斯分布)近似概括统计量的似然函数,然后使用标准的基于似然的技术执行统计推断。然而,随着汇总统计量的增加,精确估计该可能性的协方差阵所需的模型模拟数量迅速增加。这对BSL的应用提出了重大挑战,特别是在模型模拟昂贵的情况下。在这篇文章中,我们提出了白化BSL(wBSL)-一个有效的BSL方法,使用近似白化变换去相关的汇总统计在每个算法迭代。我们的经验表明,这可以减少所需的模型模拟实现BSL的数量超过一个数量级,而不会损失太多的准确性。我们探索了一系列的白化程序,并展示了一系列的模拟和真实的建模方案,从生态学和生物学的wBSL的性能。
2020-02-01 stat.CO stat.ME stat.ML
Robust and integrative Bayesian neural networks for likelihood-free parameter inference
Uppsala University(乌普萨拉大学);University of California-Santa Barbara(加州大学圣塔芭芭拉分校);Umeå University(于默奥大学)
最先进的基于神经网络的汇总统计学习方法已经为基于仿真的无似然参数推断提供了有希望的结果。现有的方法需要密度估计作为建立在确定性神经网络上的后处理步骤,并且不考虑网络预测的不确定性。本文提出了一种鲁棒的集成方法,使用贝叶斯神经网络学习汇总统计,并使用分类分布直接估计后验密度。自适应采样方案选择模拟位置,以有效地和迭代地改进以观测为条件的网络的预测后验。这允许在相对大的先验空间上更有效和鲁棒的收敛。我们展示了我们的方法对基准的例子,并与相关的方法进行比较。
2021-05-07 cs.LG q-bio.QM stat.ML