Relevant statistics for Bayesian model choice
在贝叶斯推断中,特别是在ABC算法中使用的汇总统计量的选择对所得到的推断的验证有影响。然而,这些统计数据通常用于ABC算法中,而不进行一致性检查。我们得到了相应的Bayes因子收敛的汇总统计量的充要条件,即渐近选择真模型。这些条件相当于两种模型下汇总统计量的期望渐近不同,是非常自然的,可以在ABC设置中利用,通过Monte Carlo验证来推断汇总统计量的选择是否合适。
2013-08-22 math.ST q-bio.PE stat.CO
Robust Approximate Bayesian Inference with Synthetic Likelihood
贝叶斯合成似然(BSL)是一种用于在模型中进行近似贝叶斯推断的成熟方法,其中,由于似然函数的棘手性,精确贝叶斯方法要么是不可行的,要么是计算量太大。BSL应用中隐含的假设是,数据生成过程(DGP)可以生成模拟汇总统计量,以捕获观察到的汇总统计量的行为。我们证明,如果实际和假设的DGP之间的兼容性不满足,即,如果模型被错误指定,BSL会产生不可靠的参数推断。为了规避这个问题,我们提出了一个新的BSL方法,可以检测模型的误指定的存在,并同时提供有用的推论,即使在显着的模型误指定。两个模拟和两个真实数据的例子证明了这种新的方法BSL的性能,并证明其优越的精度比标准BSL时,假设的模型是错误的。
2020-06-11 stat.AP stat.CO stat.ME
Asymptotics of approximate Bayesian computation when summary statistics converge at heterogeneous rates
本文研究汇总统计量以异质速率收敛时近似贝叶斯计算的渐近性质,给出后验收敛条件及形状的显式表示,并量化局部线性后处理的增益。
2023-11-16 stat.CO
BayesSummaryStatLM: An R package for Bayesian Linear Models for Big Data and Data Science
数据科学和大数据研究的最新发展产生了大量的大型数据集,由于计算机内存或存储容量的限制,这些数据集太大而无法进行整体分析。在这里,我们介绍了我们的R包“贝叶斯总结StatLM”的贝叶斯线性回归模型与马尔可夫链蒙特卡罗实现,克服了这些限制。我们的贝叶斯模型仅使用数据的汇总统计数据作为输入;这些汇总统计数据可以从大数据的子集中计算出来,并在子集上进行组合。因此,不需要将完整的数据集全部读入存储器,这消除了用户的任何物理存储器限制。我们的软件包包含R包'ff'及其函数,用于分块读取大数据集,同时计算汇总统计数据。我们描述我们的贝叶斯线性回归模型,包括几个选择的先验分布未知的模型参数,并说明我们的R包使用模拟和真实的数据集的功能和特点。
2015-04-23 stat.AP stat.CO
Model-Assisted Bayesian Estimators of Transparent Population Level Summary Measures for Ordinal Outcomes in Randomized Controlled Trials
University of Minnesota(明尼苏达大学);University of Minnesota Medical School(明尼苏达大学医学院)
本文提出了一种基于模型的贝叶斯估计方法,用于随机对照试验中有序结局的透明总体汇总测量估计,通过非比例优势模型和贝叶斯抽样实现协变量调整,以提高统计效率。
2025-12-30 stat.ME
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然(BSL)的正态分布假设偏差及统计量兼容性需求,结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯,提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
Constructing Genetic Risk Scores: Robust Bayesian Approach through Projected Summary Statistics and Flexible Shrinkage
Johns Hopkins University(约翰斯·霍普金斯大学);University of Pennsylvania(宾夕法尼亚大学)
本文提出了一种基于投影汇总统计量和灵活收缩的贝叶斯方法,用于构建更稳健的遗传风险评分,通过广泛实验验证其在不同场景下的优越性能。
2026-03-09 stat.ME
Gradient-Based Approximate Bayesian Inference with Entropy-Optimized Summary Statistics for Compartmental Models
School of Mathematics and Statistics, University of St Andrews(圣安德鲁斯大学数学与统计学院);Centre for Research into Ecological and Environmental Modelling, University of St Andrews(圣安德鲁斯大学生态与环境建模研究中心)
本文提出一种三阶段框架,结合了似然基于和似然自由方法,通过熵优化摘要统计量提高 compartmental 模型参数估计的可靠性与效率。
2026-03-17 stat.CO stat.ME
Is Repeated Bayesian Interim Analysis Consequence-Free?
The University of Texas MD Anderson Cancer Center(德克萨斯大学安德森癌症中心);Louisiana State University(路易斯安那州立大学);Office of Biostatistics, OTS/CDER, Food and Drug Administration(食品药品监督管理局生物统计办公室)
本文探讨了重复贝叶斯中间分析对效能和多重性的影响,发现即使先验匹配时,某些统计特性仍会改变,强调了先验指定和操作特性评估的重要性。
2025-12-28 stat.AP stat.ME
Learning Summary Statistics for Bayesian Inference with Autoencoders
Swiss Data Science Center(瑞士数据科学中心);Università Svizzera italiana(瑞士意大利语区大学);University of Insubria(因苏布里亚大学)
对于具有难处理的似然函数的随机模型,近似贝叶斯计算提供了一种通过重复比较观测值与模拟模型输出的一小部分汇总统计量来近似真实后验的方法。这些统计数据需要保留与约束参数相关的信息,但消除噪声。因此,它们可以被看作是一般随机模型的热力学状态变量。对于许多科学应用,我们需要比模型参数更多的汇总统计量来达到令人满意的后验近似。因此,我们建议使用基于深度神经网络的自动编码器的内部维度作为汇总统计。为了激励编码器对所有参数相关信息进行编码而不对噪声进行编码,我们向解码器提供了对关于噪声的显式或隐式信息的访问,该噪声已被用于生成训练数据。我们验证了两种类型的随机模型的经验方法。
2022-05-23 cs.LG stat.ME stat.ML
Bivariate Hierarchical Bayesian Model for Combining Summary Measures and their Uncertainties from Multiple Sources
将来自多个数据来源的类似数量的现有估计数结合起来往往是有意义的。当每个估计值的相应方差也可用时,模型应考虑估计值本身的不确定性以及方差估计的不确定性。此外,如果估计值与其方差之间存在强关联,则还应考虑这两个量之间的相关性。在本文中,我们提出了一个双变量层次贝叶斯模型,联合模型的估计和估计方差假设这两个措施之间的相关性。我们进行模拟,以探讨所提出的双变量贝叶斯模型的性能,并比较它与其他常用的方法在不同的相关性的情况下。提出的双变量贝叶斯模型具有广泛的应用。我们说明了它的应用程序在三个非常不同的领域:PET脑成像研究,荟萃分析和小面积估计。
2021-09-15 stat.ME
Scalable Approximate Bayesian Computation for Growing Network Models via Extrapolated and Sampled Summaries
近似贝叶斯计算(ABC)是一种基于模拟的无似然方法,适用于模型选择和参数估计。ABC参数估计需要能够从候选模型转发模拟数据集,但由于观察数据集和模拟数据集的大小通常需要匹配,因此这在计算上可能是昂贵的。此外,由于ABC推断是基于对观察数据和模拟数据计算的汇总统计量的比较,因此使用计算昂贵的汇总统计量可能导致效率的进一步损失。ABC最近已被应用到家庭的机械网络模型,一个领域,传统上缺乏推理和模型选择的工具。网络增长的机制模型重复地向网络添加节点,直到它达到所观察到的网络的大小,这可能是数百万个节点的数量级。使用ABC,由于网络模拟和汇总统计评估的资源密集型性质,该过程可能很快变得计算量过大。我们提出了两种方法的发展,使使用ABC推理模型的大型增长网络。首先,为了节省前向模拟模型实现所需的时间,我们提出了一个程序来外推(通过最小二乘和高斯过程)从小到大的网络汇总统计。其次,为了减少评估汇总统计量的计算时间,我们使用基于样本的汇总统计量,而不是基于普查的汇总统计量。我们表明,ABC后通过这种方法,它增加了两个额外的层近似的标准ABC,是类似于一个经典的ABC后。虽然我们处理的是不断增长的网络模型,但外推摘要和采样摘要都有望在其他ABC设置中发挥作用,因为这些设置中的数据是增量生成的。
2020-11-09 stat.CO stat.ME
Incorporating functional summary information in Bayesian neural networks using a Dirichlet process likelihood approach
Aalto University(阿尔托大学)
贝叶斯神经网络(BNN)可以解释任意和认知的不确定性。然而,在BNN的先验知识往往是指定的权重,很少反映真正的先验知识,在大型和复杂的神经网络架构。我们提出了一种简单的方法,将先验知识的BNN的基础上外部汇总信息的预测分类概率为一个给定的数据集。可用的摘要信息被纳入增强数据和建模的狄利克雷过程,我们推导出相应的\emph{Summary Evidence Lower BOund}。该方法基于贝叶斯原理,所有超参数都有适当的概率解释。我们展示了该方法如何告知模型任务难度和类不平衡。大量的实验表明,可以忽略不计的计算开销,我们的方法平行,并在许多情况下优于流行的替代品的准确性,不确定性校准,并对腐败的鲁棒性与平衡和不平衡的数据。
2023-01-24 cs.AI cs.LG stat.ML
Detecting conflicting summary statistics in likelihood-free inference
贝叶斯无似然方法使用来自模型的数据的模拟来实现贝叶斯推断,以代替难以处理的似然评估。大多数无似然推断方法在执行贝叶斯推断之前用汇总统计量替换完整的数据集,并且该统计量的选择通常是困难的。出于计算原因,汇总统计量应该是低维的,同时保留尽可能多的参数信息。使用最近的想法,从可解释的机器学习文献,我们开发了一些基于回归的诊断方法,这是有用的检测时,不同部分的汇总统计向量包含冲突的信息模型参数。这种冲突使汇总统计量的选择复杂化,检测它们可以洞察模型的缺陷并指导模型改进。开发的诊断方法是基于回归方法的似然自由推理,其中回归模型估计后验密度使用汇总统计作为功能。在回归模型中删除和插补部分汇总统计量向量可以消除汇总统计量子集的冲突和近似后验分布。在删除和插补之后,估计后验密度的变化大于预期,这可能表明感兴趣的推断受到影响的冲突。新方法的实用性证明了在一些真实的例子。
2020-10-15 stat.ME
Efficient Bayesian synthetic likelihood with whitening transformations
无似然方法是一种已建立的方法,用于对具有难处理的似然函数的模型执行近似贝叶斯推断。然而,它们可能需要计算。贝叶斯综合似然(Bayesian synthetic likelihood,BSL)是一种流行的方法,它用已知的、易处理的分布(通常是高斯分布)近似概括统计量的似然函数,然后使用标准的基于似然的技术执行统计推断。然而,随着汇总统计量的增加,精确估计该可能性的协方差阵所需的模型模拟数量迅速增加。这对BSL的应用提出了重大挑战,特别是在模型模拟昂贵的情况下。在这篇文章中,我们提出了白化BSL(wBSL)-一个有效的BSL方法,使用近似白化变换去相关的汇总统计在每个算法迭代。我们的经验表明,这可以减少所需的模型模拟实现BSL的数量超过一个数量级,而不会损失太多的准确性。我们探索了一系列的白化程序,并展示了一系列的模拟和真实的建模方案,从生态学和生物学的wBSL的性能。
2020-02-01 stat.CO stat.ME stat.ML
DR-ABC: Approximate Bayesian Computation with Kernel-Based Distribution Regression
University of Oxford(牛津大学)
在复杂的生成模型中执行精确的后验推理通常是困难的或不可能的,这是由于昂贵的评估或棘手的似然函数。近似贝叶斯计算(ABC)是一种推理框架,它基于观察数据和模拟数据之间的相似性(由一组预定义的汇总统计量测量)构建真实可能性的近似值。虽然选择适当的特定问题的汇总统计量至关重要的影响质量的似然近似,因此也在ABC后验样本的质量,只有少数原则性的通用方法来选择或建设这样的汇总统计量。在本文中,我们开发了一个新的框架,这项任务使用基于内核的分布回归。我们使用基于核的分布回归模型的数据分布和最佳选择(相对于损失函数)的汇总统计量之间的函数关系。我们表明,我们的方法可以实现在计算和统计上有效的方式使用随机傅立叶特征框架的大规模内核学习。除此之外,与玩具和现实世界问题的相关方法相比,我们的框架表现出卓越的性能。
2016-02-15 cs.LG stat.CO stat.ME
Bayesian calibration with summary statistics for the prediction of xenon diffusion in UO2 nuclear fuel
裂变气体的演化和释放影响着UO2核燃料的性能。我们已经创建了一个贝叶斯框架来校准一个新的裂变气体传输模型,该模型预测了热平衡和辐照条件下UO2中铀和氙的扩散速率。数据集取自历史扩散,气体释放和热力学实验。这些数据集总是由汇总统计数据组成,包括具有相关不确定性的测量值。我们的校准策略使用合成数据集,以估计模型中的参数,使所得模型预测与报告的汇总统计量一致。这样,报告的不确定性有效地反映在推断的不确定性参数中。此外,为了保持我们的方法在计算上易于处理,我们取代了裂变气体演化模型的多项式代理模型与减少的参数,这是确定使用全球敏感性分析。我们讨论了我们的校准策略的有效性,并研究了如何从文献中的多个来源,不同的数据集的贡献,可以加权的似然函数构建作为我们的贝叶斯校准设置的一部分,以考虑到不同数量的数据点,在每组数据摘要。我们的研究结果表明,校准的扩散率和非化学计量预测和给定的数据摘要之间的良好匹配。我们证明了校准的氙扩散率与Turnbull等人(1982)建立的拟合之间的良好一致性,表明模型中占主导地位的铀空位扩散机制能够捕获数据中的趋势。
2023-02-17 stat.AP
Transformations in Semi-Parametric Bayesian Synthetic Likelihood
贝叶斯合成似然(Bayesian synthetic likelihood,BSL)是一种在似然函数难以处理的情况下进行近似贝叶斯推断的常用方法。在合成似然方法中,似然函数通过模型模拟进行参数近似,然后使用标准的基于似然的技术来执行推断。高斯合成似然估计已成为无处不在的BSL文献,主要是因为它的简单性和易于实现。然而,它通常限制性太强,并可能导致较差的后验近似。最近,一个更灵活的半参数贝叶斯合成似然(semiBSL)估计已被引入,这是显着更强大的不规则分布的汇总统计量。在这项工作中,我们提出了一些扩展semiBSL。首先,我们考虑使用变换核密度估计的边缘分布的更灵活的估计。其次,我们提出了白化semiBSL(wsemiBSL)-显着提高semiBSL的计算效率的方法。wsemiBSL在每次算法迭代时使用近似白化变换来解相关汇总统计量。本文开发的方法显着提高了BSL算法的通用性和效率。
2020-07-03 stat.CO stat.ME
Approximate Bayesian Computation: a nonparametric perspective
近似贝叶斯计算是一种无似然推理技术,非常适合于根据随机生成机制定义的模型。简而言之,近似贝叶斯计算通过从数据中计算汇总统计量s_obs并模拟参数theta的不同值的汇总统计量来进行。然后通过条件密度g(θ)的估计量来近似后验分布|s_obs)。本文给出了基于拒绝抽样和线性调整的后验分布标准估计的渐近偏差和方差。此外,我们引入了一个原始的估计的后验分布的基础上二次调整,我们表明,其偏差包含的条款数比线性调整的估计。虽然我们发现,调整的估计量并不普遍优于基于拒绝抽样的估计量,我们发现,他们可以达到更好的性能时,有一个近似的统计量和感兴趣的参数之间的同方差关系。为了使这种关系尽可能同方差,我们建议使用汇总统计量的转换。在从人群遗传学和流行病学文献中借来的不同例子中,我们展示了调整方法和汇总统计量转换的潜力。包含证明细节的补充材料可在网上查阅。
2010-05-31 math.ST stat.CO stat.TH
Simulation-based Bayesian inference with ameliorative learned summary statistics -- Part I
Department of Electrical & Computer Engineering, College of Engineering, Physics, and Computing, The Catholic University of America(电气与计算机工程系,工程、物理与计算学院,天主教美国大学)
本文提出了一种基于模拟的贝叶斯推断方法,利用改善的学得总结统计量提升推断效果,并适用于分布式计算环境。
2026-01-30 cs.LG stat.ML
Unifying Summary Statistic Selection for Approximate Bayesian Computation
Harvard T.H. Chan School of Public Health(哈佛大学陈曾熙公共卫生学院)
本文提出了一种统一的近似贝叶斯计算中总结统计量选择框架,通过最小化预期后验熵来获得信息性总结,适用于多种复杂模型。
2025-11-23 cs.IT math.IT stat.ME
Lower-dimensional posterior density and cluster summaries for overparameterized Bayesian models
本文提出将灵活过参数化贝叶斯模型的后验预测分布投影到低维参数化代理上,通过决策论选择最佳摘要并投影后验实现不确定性量化,用于密度与聚类估计。
2025-10-05 stat.ME
Bayesian Mode Regression
与均值、分位数和方差一样,众数也是集中趋势和数据汇总的重要度量。许多实际问题往往集中在“在网络中的所有元素中,哪个元素(基因或文件或信号)出现得最频繁或最典型?".在这种情况下,模式回归提供了回归量如何影响条件模式的方便总结,并且完全不同于基于条件均值或条件分位数或条件方差的其他回归模型。一些推理方法已被用于模式回归,但没有一个是从贝叶斯的角度。本文介绍了贝叶斯模式回归,探索三种不同的方法。我们从一个参数贝叶斯模型,采用一个似然函数,是基于一个模式的均匀分布。结果表明,无论数据的原始分布如何,使用这种特殊的均匀分布是贝叶斯模式回归的一种非常自然和有效的方法。基于此参数似然的后验估计,即使在误设定下,也是一致的且渐近正态的。然后,我们开发了一个非参数贝叶斯模型,使用Dirichlet过程(DP)的混合模式均匀分布,最后,我们探索贝叶斯经验似然模式回归,将经验似然到贝叶斯框架。本文还证明了各种不适当的先验未知模型参数产生一个适当的联合后验。使用模拟数据集和真实数据集说明了所提出的方法。
2012-08-02 stat.AP stat.ME
AIM: Amortized Inference for Multistate Transition Models
Rainbow Babies & Children’s Hospital(彩虹婴儿与儿童医院);Case Western Reserve University(凯斯西储大学);The Ohio State University(俄亥俄州立大学)
研究针对区间删失连续时间多状态转换模型,提出摊销贝叶斯推理框架AIM。通过离线训练学习汇总统计量与模型参数关系,无需重复似然性优化。证明相关特性,模拟研究显示其能准确估计和量化不确定性,推理速度大幅提升,是可扩展且有理论基础的推理框架。
2026-07-28 stat.AP stat.ME
Fast Approximate Bayesian Computation for discretely observed Markov models using a factorised posterior distribution
许多现代统计应用涉及复杂随机模型的推断,对于这些随机模型,似然函数很难甚至不可能计算,因此不能使用传统的基于似然的推断技术。在这样的设置中,可以使用近似贝叶斯计算(ABC)来执行贝叶斯推断。然而,尽管ABC方法最近取得了许多进展,但在许多应用中,ABC的计算成本需要选择汇总统计量和公差,这可能会严重影响后验估计。我们提出了一种新的“分段”ABC方法适用于离散观测马尔可夫模型,涉及到写作的后验密度的参数作为一个产品的因素,每个功能的数据的一个子集,然后使用ABC内的每个因素。该方法的优点是不需要选择汇总统计量,并且可以设置严格的公差,使后验“不那么近似”。我们研究两种方法来估计后验密度的基础上ABC样本的每个因素:第一个是使用高斯近似的每个因素,第二个是使用核密度估计。两种方法各有优点。高斯近似是简单、快速的,并且可能适合于许多应用。另一方面,使用核密度估计具有一致地估计真实ABC后验的好处,因为ABC样本的数量趋于无穷大。我们举例说明了分段ABC方法的三个例子,在每种情况下,该方法使模拟和数据之间的“精确匹配”,并提供快速,准确的推理。
2013-05-28 stat.AP stat.CO stat.ME
BayesFlow: Learning complex stochastic models with invertible neural networks
Institute of Psychology(心理学研究所);Heidelberg University(海德堡大学);Visual Learning Lab, IWR(IWR视觉学习实验室)
BayesFlow提出一种基于可逆神经网络的全局摊销贝叶斯推断方法,通过模拟学习概率映射,无需额外训练即可推断完整后验,适用于复杂难处理模型。
2020-12-01 cs.LG stat.ML
Robust Bayesian Synthetic Likelihood via a Semi-Parametric Approach
贝叶斯合成似然(BSL)是一种成熟的方法,用于对不具有易处理的似然函数的基于模拟的模型进行近似贝叶斯参数估计。BSL近似一个棘手的似然函数的一个精心选择的汇总统计量的参数值与多元正态分布。该正态分布的均值协方差阵是根据模型的独立模拟估计的。由于BSL中隐含的参数假设,在某些对高维汇总统计量感兴趣的应用中,它可能优于其非参数竞争对手,近似贝叶斯计算。然而,尽管BSL的几个成功的应用,它在科学领域的广泛使用可能会受到阻碍的强正态性假设。在本文中,我们开发了一个半参数的方法,放松这一假设在一定程度上,并保持计算优势的BSL没有任何额外的调整。我们测试我们的新方法,semiBSL,在几个具有挑战性的例子,涉及模拟和真实数据,并证明semiBSL可以显着更强大的BSL和文献中的另一种方法。
2019-10-03 stat.CO stat.ME
K2-ABC: Approximate Bayesian Computation with Kernel Embeddings
University College London(伦敦大学学院);University of Oxford(牛津大学);University of Amsterdam(阿姆斯特丹大学)
复杂的生成模型通常会导致计算观测数据的可能性是棘手的,而从给定参数值的条件密度进行模拟相对容易。近似贝叶斯计算(ABC)是一种范式,它通过测量模拟和观察数据之间的相似性,在这种情况下,使基于模拟的后验推理在一组选定的汇总统计。然而,没有一般规则来为复杂模型构建足够的汇总统计量。不充分的汇总统计量将“泄漏”信息,这导致ABC算法从不正确的(部分)后验中产生样本。在本文中,我们提出了一个完全非参数ABC范式,它避免了手动选择汇总统计量的需要。我们的方法,K2-ABC,使用最大平均差异(MMD)作为观测数据和模拟数据的分布之间的相异性度量。MMD很容易估计为它们的经验内核嵌入之间的平方差。模拟场景和现实世界的生物问题的实验表明,该算法的有效性。
2015-12-26 cs.LG stat.ML
Variability as a Predictor: A Bayesian Variability Model for Small Samples and Few Repeated Measures
虽然大多数心理学研究集中在手段的差异,越来越多的文献表明,考虑个体内变异的差异的价值。与用于分析平均差异的方法数量相比,用于分析个体内变异性的方法很少,特别是当变异性被视为预测因子时。本文首先回顾了作为结果的个体内变异性分析方法,包括个体标准差(ISD)和一些最新的方法。然后,我们介绍了一种新的贝叶斯方法来分析个体内变异作为预测因子。为了使研究社区更容易使用这种方法,我们开发了一个开源R包VARIAN。为了比较使用所提出的贝叶斯分析对ISD作为回归预测器的参数估计的准确性,我们进行了模拟研究。然后,我们展示了,使用经验数据,如何估计的个体内变异来自所提出的贝叶斯分析可以用来回答以下两个问题:(1)是在床上的日常时间的个体内变异与主观睡眠质量?(2)主观睡眠质量介导卧床时间变异性和抑郁症状之间的关联吗?最后,我们讨论了方法和实际考虑,可以帮助指导研究人员选择方法来评估个体内变异。
2014-11-11 stat.AP
Efficient Bayesian Modeling of Binary and Categorical Data in R: The UPG Package
本文介绍R语言UPG包,通过边际数据增强技术为多种离散选择模型提供高效且便捷的贝叶斯推断框架,并支持快速生成可视化结果。
2023-06-30 stat.CO stat.ME
A Bayesian approach to uncover local and temporal determinants of heterogeneity in repeated cross-sectional health surveys
本文提出一种贝叶斯多元时间逻辑模型,利用状态空间框架融合个体风险因素与地方外生信息,揭示慢性病诊断中局部与时间异质性,并在意大利PASSI数据上验证其有效性。
2024-11-15 stat.AP stat.ME stat.OT
{poscosea} : A Computationally Efficient Sensitivity Analysis for Bayesian Models using the posterior covariance representation
Okayama University(冈山大学);The Institute of Statistical Mathematics(统计数学研究所)
本文针对贝叶斯模型敏感性分析的高计算成本问题,提出无需重复重拟合模型的PosCoSeA方法,经模拟与真实生态数据验证,还配套提供R包方便应用。
2026-08-27 stat.AP stat.ME
Posterior Summarization for Variable Selection in Bayesian Tree Ensembles
Northwestern University(西北大学);Rice University(莱斯大学)
针对贝叶斯树集成变量选择的后验汇总问题,提出VC-度量及聚类阈值,该方法适配BART变体,在大规模基准测试中提升F1值,与DART结合后平衡了召回率、精度与效率。
2026-08-25 stat.ME
BSL: An R Package for Efficient Parameter Estimation for Simulation-Based Models via Bayesian Synthetic Likelihood
贝叶斯合成似然(Bayesian synthetic似然函数,BSL)是一种用于估计复杂统计模型和随机过程的参数后验分布的常用方法。BSL通过模型模拟和密度估计来近似一个明智选择的数据汇总统计量的可能性,而不是评估可能性。与近似贝叶斯计算(ABC)等替代方法相比,当所选汇总统计量为高维时,BSL需要很少的调整,并且需要比ABC更少的模型模拟。原始的合成似然依赖于一个多元正态近似的棘手的可能性,其中的平均值和协方差估计模拟。BSL的扩展考虑用惩罚协方差估计量替换样本协方差,以减少所需模型模拟的数量。此外,半参数方法已被开发来放松正态性假设。在本文中,我们提出了一个名为BSL的R包,它将上述方法合并到一个单一的,易于使用的和连贯的软件中。R包还包括几个示例来说明如何使用该包并演示方法的实用性。
2019-07-25 stat.AP stat.CO stat.ML
A fully Bayesian strategy for high-dimensional hierarchical modeling using massively parallel computing
马尔可夫链蒙特卡罗(MCMC)是贝叶斯参数估计的主要工具。当模型由于层次数量、特定级别的组数量或每组中的观测数量的增加而扩展时,通过MCMC进行的完全贝叶斯分析很容易变得计算量大,甚至难以处理。我们说明了如何在MCMC分层模型的步骤主要是两种类型之一:条件独立的绘制或低维绘制的基础上汇总统计的参数在更高级别的层次结构。并行计算可以通过对条件独立绘制执行并行计算并使用并行归约计算汇总统计量来提高效率。在MCMC算法中,我们记录运行均值和参数平方均值,以进行收敛性诊断和后验推理,同时避免代价高昂的内存传输瓶颈。我们证明了该算法的有效性的模型激励下一代测序数据,我们发布我们的实现R包fbseq和fbseqCUDA。
2016-06-21 stat.CO
A Bayesian Approach for Robust Longitudinal Envelope Models
Auburn University(奥本大学)
本文提出了一种稳健的纵向包络模型,通过引入尺度混合分布和Grassmann流形上的先验分布,提高了处理纵向数据中异常值和重复测量的能力。
2025-12-10 stat.ME
An easy-to-use empirical likelihood ABC method
在自然科学、工程学和环境科学中,许多科学上动机良好的统计模型都是通过生成过程来指定的,但在某些情况下,可能无法通过分析写下这些模型的可能性。在这些情况下允许贝叶斯推断的近似贝叶斯计算(ABC)方法通常是计算密集型的。最近,计算有吸引力的经验似然ABC方法已在文献中提出。这些方法在很大程度上依赖于一组合适的易于分析的估计方程的可用性。我们提出了一种易于使用的经验似然ABC方法,其中所需的唯一输入是选择汇总统计量,它的观察值,以及模拟模型下任何参数值的汇总统计量的能力。结果表明,使用所提出的方法获得的后验是一致的,并探讨其性能使用各种例子。
2018-10-08 stat.AP stat.CO stat.ME
Changing approaches of prosecutors towards juvenile repeated sex-offenders: A Bayesian evaluation
关于检察官对少年犯的决定的现有全州范围的数据库是重要的,但往往是未开发的资源,用于了解随着时间的推移司法决定模式的变化。我们调查的程度和性质的变化,对青少年的司法行为后,颁布了一套新的强制性登记政策在1992年和1996年之间,通过分析数据检察官的决定,不断向前迈进的青少年被控性暴力在南卡罗来纳州。为了分析这个纵向二进制数据,我们使用随机效应逻辑斯谛回归模型,通过纳入一个未知的变点年。为了方便的物理解释,我们的模型允许解释变量和变点年的影响的比例优势解释,有和没有条件的青年特定的随机效应。因此,未知的变点年和其他因素的影响可以解释为青年和人口中向前发展的平均几率的变化。使用贝叶斯范式,我们考虑了各种先验意见的未知的一年的变化模式的检察官的决定。根据现有的数据,我们作出后验结论,是否有一个变化点发生在1992年和1996年(包括),评估的信心程度的变化点的年份,估计的影响的大小变化点和其他因素,并调查其他挑衅性的问题,随着时间的推移模式的检察官的决定。
2010-11-09 stat.AP
When Noise Estimation Hides Basis Misspecification in Repeated Bayesian Inverse Problems
University of Cambridge(剑桥大学)
本研究针对贝叶斯反问题中基受限先验的覆盖损失问题,提出利用John球度统计量检验残差谱形状以检测基外变异,该方法在合成和实际地形数据中有效,但无法检测各向同性高斯变异。
2026-09-30 math.ST stat.ME stat.ML
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中,实现贝叶斯推断通常在计算上具有挑战性,有时计算可能性本身也很困难。当可能性难以处理时,合成可能性是一种进行推理的方法,但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然,其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明,如果汇总统计量满足中心极限定理,则合成似然后验是渐近正态的,并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明,贝叶斯合成似然比近似贝叶斯计算更有效的计算,并表现出类似的回归调整近似贝叶斯计算。基于渐近结果,第三个贡献,提出使用调整的推断方法时,可能误指定的形式,假定为合成似然的协方差阵,如对角或因子模型,以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Direct Bayesian Regression for Distribution-valued Covariates
本文提出一种直接利用重复测量作为协变量的分布值回归方法,避免密度估计,具有变换不变性,并基于高斯过程先验实现闭式贝叶斯推断,理论上达到最优误差界,实证优于需中间密度估计的方法。
2024-04-18 math.ST stat.ME stat.TH
Bayesian Restricted Likelihood Methods: Conditioning on Insufficient Statistics in Bayesian Regression
贝叶斯方法已被证明在广泛的科学问题上是成功的,并且与竞争方法相比具有许多有据可查的优势。然而,这些方法遇到困难的两个主要和普遍的问题:处理数据集与离群值和处理模型误指定。我们概述了这些问题的以前的解决方案的缺点,并提出了一种新的方法作为替代。当使用新方法时,数据通过一组不充分的统计量进行汇总,目标是感兴趣的推断量,并且先验分布使用汇总统计量而不是完整的数据进行更新。通过仔细选择条件统计量,我们保留了贝叶斯方法的主要优点,同时降低了分析对条件统计量未捕获的数据特征的敏感性。为了降低对离群值的敏感性,经典的鲁棒估计(例如,M-估计)是条件统计的自然选择。这项工作的一个主要贡献是发展的数据增强马尔可夫链蒙特卡罗(MCMC)算法的线性模型和一大类的汇总统计。我们证明了模拟和真实的数据集包含离群值和模型误指定的方法。与竞争方法相比,成功表现在对感兴趣的数据点具有更好的预测性能。
2018-12-19 stat.ME
Bayesian linear mixed models using Stan: A tutorial for psychologists, linguists, and cognitive scientists
随着R软件包nlme和lme 4的出现,线性混合模型(Linear mixed models,LMM)已经广泛应用于心理学、语言学和认知科学等实验驱动的领域。本教程使用概率编程语言Stan在贝叶斯框架中提供了一个实用的介绍。我们选择Stan(而不是WinBUGS或JAGS),因为它提供了一个优雅且可扩展的框架,用于在大多数Lebron标准应用程序中拟合模型。我们让读者轻松适应日益复杂的LIFE,首先使用两个条件的重复测量自定进度的阅读研究,其次是一个更复杂的$2\times 2$重复测量析因设计,可以推广到更复杂的设计。
2015-06-20 stat.ME
When to repeat a biomarker test? Decomposing sources of variation from conditionally repeated measurements
McGill University(麦吉尔大学);Sanquin Research(桑金研究所);King’s College, London(伦敦国王学院)
本文提出贝叶斯分层框架,用于分解条件性重复测量中的变异,以估计个体误分类风险并指导基于证据的重新检测决策。
2026-02-16 stat.AP
Simulation-based Estimation of Mean and Standard Deviation for Meta-analysis via Approximate Bayesian Computation (ABC)
背景资料:当对连续结局进行荟萃分析时,需要估计所选研究的平均值和标准差,以获得平均效应及其置信区间的总体估计值。如果出版物中没有直接报告这些数量,则必须根据其他报告的汇总统计量(如中位数、最小值、最大值和四分位数)估计这些数量。研究方法:我们提出了一种基于模拟的估计方法,使用近似贝叶斯计算(ABC)技术估计平均值和标准差的基础上,在已发表的研究中发现的各种汇总统计。我们进行了一项模拟研究,将提出的ABC方法与Hozo et al.(2005),Bland(2015)和Wan et al.(2014)的现有方法进行比较。结果:在标准差的估计中,我们的ABC方法在偏态或重尾分布中表现最好。随着样本量的增加,平均相对误差(ARE)趋于零。在正态分布中,我们的ABC表现良好。然而,Wan等人的方法是最好的,因为它基于正态分布假设。当分布是偏态或重尾分布时,Wan等人的ARE会随着样本量的增加而远离零。在均值的估计中,我们的ABC方法是最好的,因为ARE收敛到零。结论:ABC是一种灵活的方法,用于估计荟萃分析的研究特定平均值和标准差,特别是在潜在的偏态或重尾分布的情况下。当采用贝叶斯分析时,ABC方法可以使用其他报告的汇总统计量,例如后验均值和95%可信区间。
2015-04-02 stat.ME
Approximate Bayesian Computation via Classification
近似贝叶斯计算(ABC)在基于模拟器的模型中启用统计推断,这些模型的似然性难以计算但易于模拟。ABC通过比较真实数据和模拟数据的汇总统计量的接受/拒绝机制构建了后验分布的核型近似。为了验证汇总统计量的必要性,我们直接将经验分布与通过对比学习获得的Kullback-Leibler(KL)散度估计进行比较。特别是,我们在ABC中混合了灵活的机器学习分类器,以自动进行假/真数据比较。我们认为传统的接受/拒绝内核以及指数加权计划,不需要ABC的接受阈值。我们的理论结果表明,我们的ABC后验分布集中在真实参数的速度取决于分类器的估计误差。我们得出限制后的形状结果,并发现,与适当缩放的指数内核,渐近正态性。我们证明了我们的方法的有用性模拟的例子,以及在股票波动率估计的背景下,真实的数据。
2022-11-30 stat.ME stat.ML
Bayesian model calibration for block copolymer self-assembly: Likelihood-free inference and expected information gain computation via measure transport
我们认为贝叶斯校准模型描述的现象嵌段共聚物(BCP)的自组装使用显微镜或X射线散射技术产生的图像数据。为了解释BCP平衡结构中的随机长程无序,我们引入辅助变量来表示这种偶然的不确定性。然而,这些变量导致通常难以评估的高维图像数据的综合可能性。我们解决这个具有挑战性的贝叶斯推断的问题,使用一个无似然的方法的基础上测量运输与建设的图像数据的汇总统计。我们还表明,预期的信息增益(EIGs)从观察到的数据模型参数可以计算,没有显着的额外成本。最后,我们提出了一个基于Ohta-Kawasaki模型的二嵌段共聚物薄膜自组装和自顶向下的显微镜表征的数值案例研究。对于校准,我们引入了几个特定领域的能量和傅立叶为基础的汇总统计,并量化其信息性使用EIG。我们证明了所提出的方法来研究数据损坏和实验设计对校准结果的影响。
2022-06-22 cond-mat.mtrl-sci physics.comp-ph stat.AP
Robust and integrative Bayesian neural networks for likelihood-free parameter inference
Uppsala University(乌普萨拉大学);University of California-Santa Barbara(加州大学圣塔芭芭拉分校);Umeå University(于默奥大学)
最先进的基于神经网络的汇总统计学习方法已经为基于仿真的无似然参数推断提供了有希望的结果。现有的方法需要密度估计作为建立在确定性神经网络上的后处理步骤,并且不考虑网络预测的不确定性。本文提出了一种鲁棒的集成方法,使用贝叶斯神经网络学习汇总统计,并使用分类分布直接估计后验密度。自适应采样方案选择模拟位置,以有效地和迭代地改进以观测为条件的网络的预测后验。这允许在相对大的先验空间上更有效和鲁棒的收敛。我们展示了我们的方法对基准的例子,并与相关的方法进行比较。
2021-05-07 cs.LG q-bio.QM stat.ML
ABC random forests for Bayesian parameter inference
此预印本已由进化生物学同行社区(http://dx.doi.org/10.24072/pci.evolbiol.100036)审查和推荐。近似贝叶斯计算(ABC)已经发展成为一个标准的方法,管理贝叶斯推断的模型与棘手的似然函数。大多数ABC实现需要初步选择汇总原始数据的信息统计向量。此外,在几乎所有现有的实现中,需要校准将模拟参数值的接受与拒绝分开的容限水平。我们建议进行无似然贝叶斯推断的参数,没有事先选择的相关组件的汇总统计量和绕过相关的公差水平的推导。该方法依赖于Breiman(2001)在(非参数)回归设置中应用的随机森林方法。我们主张为感兴趣的参数向量的每个分量导出一个新的随机森林。当与早期的ABC解决方案相比,该方法提供了显着的收益,在鲁棒性的汇总统计量的选择,不依赖于任何类型的公差水平,是一个很好的权衡点估计精度和可信区间估计的质量,对于给定的计算时间。我们说明了我们的方法建议的性能,并将其与早期的ABC方法进行比较,一个正常的玩具的例子和人口遗传学的例子处理人类人口的进化。这里设计的所有方法都已被合并到CRAN上提供的R包abcrf(版本1.7)中。
2018-11-02 stat.CO stat.ME stat.ML
Closed-form approximations of the two-sample Pearson Bayes factor
Tarleton State University(塔克伦州立大学)
本文提出三种闭式近似方法,用于高效计算两样本皮尔逊贝叶斯因子,优于传统BIC方法。
2026-01-13 stat.CO
Bayesian Networks for Max-linear Models
我们研究了基于Gissibl和Klüppelberg [16]中介绍的最大线性结构方程的贝叶斯网络,并总结了它们的独立性。特别是,我们强调,这种网络的分布通常不忠实于由其相关的有向无环图确定的独立模型。此外,我们考虑估计的一些基本问题,并讨论系数的广义极大似然估计,使用Kiefer和Wolfowitz [21]引入的非支配族的广义似然比的概念。最后,我们认为最小网络的结构可以从观测数据中完全渐进地确定。
2019-01-13 stat.ME
Dynamic Likelihood-free Inference via Ratio Estimation (DIRE)
University of Edinburgh(爱丁堡大学)
根据随机数据生成过程隐式定义的参数统计模型用于广泛的科学学科中,因为它们能够进行准确的建模。然而,从观测数据学习参数通常是非常困难的,因为它们的似然函数通常是难以处理的。无似然贝叶斯推断方法已经被提出,其中包括近似贝叶斯计算(ABC),合成似然,其最近的推广,执行无似然推理比估计(LFIRE)的框架。所有这些方法的一个主要困难是选择汇总统计量,减少数据的维数,以便于推断。虽然已经提出了几种方法来选择汇总统计ABC,文献合成似然和LFIRE是非常薄的日期。我们在这里解决这个差距在文献中,专注于重要的特殊情况下的时间序列模型。我们表明,卷积神经网络训练预测输入参数的数据提供合适的汇总统计LFIRE。在广泛的时间序列模型,一个单一的神经网络架构产生同样或更准确的后验比其他方法。
2018-10-23 cs.LG stat.CO stat.ME
Bayesian computation via empirical likelihood
当似然函数数值不可用时,近似贝叶斯计算(ABC)已成为分析复杂随机模型的重要工具。然而,经验似然性的成熟统计方法提供了另一种途径,绕过了模型的模拟和ABC参数的选择(汇总统计量,距离,容差),同时在观测数量上收敛。此外,绕过模型模拟可能会在复杂模型中节省大量时间,例如在群体遗传学中发现的那些。我们在本文中开发的BCel算法还通过相关的有效样本量来评估其自身的性能。使用几个例子,包括估计标准分布,时间序列,和人口遗传学模型的方法进行说明。
2012-12-05 q-bio.QM stat.CO stat.ME
Parameter inference and model comparison using theoretical predictions from noisy simulations
在推断未知参数或比较不同模型时,必须将数据与基础理论进行比较。即使模型没有封闭形式的解决方案来导出汇总统计量,通常仍然可以模拟模拟数据以生成理论预测。对于噪声数据的真实模拟,这与从似然分布绘制数据的实现是相同的。尽管从模拟数据向量估计的汇总统计量可能是无偏的,但估计量具有应考虑的方差。我们展示了如何在贝叶斯分层模型的框架中,通过边缘化真实的汇总统计量来校正存在估计汇总统计量的可能性。对于高斯似然的协方差也必须从模拟估计,我们提出了一个改变的Sellentin-Heavens校正的似然。我们表明,排除建议的校正导致一个不正确的估计贝叶斯证据与JLA数据。这种修正对于依赖于理论模拟数据(例如弱透镜峰值统计和模拟功率谱)的宇宙学推断是高度相关的,并且可以减少所需的模拟次数。
2019-12-18 astro-ph.CO stat.ME