Computation of Maximum Likelihood Estimates for Multiresponse Generalized Linear Mixed Models with Non-nested, Correlated Random Effects
Arizona State University(亚利桑那州立大学)
本文针对具有非嵌套相关随机效应的多响应GLMM,改进适配EM算法与拉普拉斯近似的估计方法,将其应用于联合泊松-二元模型及教师评价相关随机效应模型,提供R语言源代码。
2026-10-23 stat.CO
Bayesian model averaging with the integrated nested Laplace approximation
贝叶斯推断的集成嵌套拉普拉斯近似(INLA)是估计贝叶斯分层模型参数和潜在效应的后验边缘分布的有效方法,该模型可以表示为潜在高斯马尔可夫随机场(GMRF)。作为GMRF的表示允许相关软件R-INLA在一小部分时间内估计后边缘作为典型的马尔可夫链蒙特卡罗算法。INLA可以通过贝叶斯模型平均(BMA)来扩展,以增加可以拟合条件潜在GMRF的模型数量。在本文中,我们回顾了使用BMA与INLA,并提出了一个新的例子空间计量经济学模型。
2019-11-02 stat.CO stat.ME
Quantile Importance Sampling
Virginia Tech(弗吉尼亚理工大学);University of Chicago(芝加哥大学)
本文提出利用Yakowitz的Riemann求和估计器与嵌套采样结合,实现更高的证据估计收敛速度,并讨论了洛伦兹曲线模拟以避免不可行的Λ函数问题。
2025-08-16 stat.CO stat.ME
Nested importance sampling for Bayesian inference: error bounds and the role of dimension
本文研究了贝叶斯推断中嵌套重要性采样方法处理高维干扰参数时的误差界限,证明近似误差随维度呈多项式而非指数增长,并展示了其在特定模型类中的应用。
2025-08-12 math.PR stat.CO
The Integrated Nested Laplace Approximation for fitting Dirichlet regression models
本研究提出用于Dirichlet回归模型贝叶斯推断的拉普拉斯近似方法,给出理论与实现方式,开发扩展R-INLA的R包dirinla,经模拟与真实数据验证了方法有效性,可用于成分数据分析。
2022-11-01 stat.CO stat.ME
Scalable Bayesian Quantile Regression via EM and INLA: The EM-INLA Algorithm
Statistics Department, Universidad Nacional de Colombia(哥伦比亚国立大学统计系)
研究提出EM-INLA算法用于经验贝叶斯分层分位数回归,结合EM与INLA,利用ALD混合表示重述M步为加权高斯回归,避免MCMC采样,可扩展至大型复杂数据集,模拟及实际应用中展现出与HMC相当的准确性和显著加速。
2026-07-28 stat.CO stat.ME
Nested Variational Inference
Northeastern University(东北大学)
我们开发嵌套的变分推断(NVI),学习嵌套的重要性采样器的建议,通过最小化在每个层次的嵌套的正向或反向库尔贝克-莱布勒散度的方法。NVI适用于许多常用的重要性抽样策略,并提供了一种学习中间密度的机制,可以作为指导采样器的算法。我们的实验将NVI应用于(a)使用学习的退火路径从多峰分布中采样(b)学习近似隐马尔可夫模型中未来观察的可能性的概率(c)在分层深度生成模型中执行摊销推理。我们观察到,优化嵌套目标导致改善的样本质量的对数平均权重和有效的样本量。
2021-06-21 cs.LG stat.ML
On the Convergence of the Laplace Approximation and Noise-Level-Robustness of Laplace-based Monte Carlo Methods for Bayesian Inverse Problems
逆问题的贝叶斯方法为测量、参数和模型中的不确定性的合并和量化提供了一个严格的框架。我们感兴趣的是设计数值方法,这是强大的w.r.t.观测噪声的大小,即,在集中后验测度的情况下表现良好的方法。在实践中,后验概率的集中是非常理想的情况,因为它涉及信息量大的数据。然而,它可能会对基于先验或参考测量的数值方法构成计算挑战。我们建议在这种情况下,采用拉普拉斯近似的后验作为数值积分的基本措施。拉普拉斯近似是以最大后验估计为中心的高斯度量,其协方差阵取决于对数后验密度。讨论了Laplace近似的收敛性,分析了基于Laplace近似的蒙特卡罗方法的有效性,特别指出了基于Laplace近似的重要抽样方法和基于Laplace近似的拟蒙特卡罗方法是鲁棒的。对于大类的后验分布和被积函数,后验的集中度是很大的,而基于先验的重要性抽样和普通的拟蒙特卡罗方法则不是。数值实验来说明理论研究结果。
2020-06-26 cs.NA math.NA stat.CO
Efficient model exploration with the integrated nested Laplace approximation
Universidad de Castilla-La Mancha(卡斯蒂利亚-拉曼恰大学)
本文提出利用INLA结合MCMC在模型空间采样,实现分层贝叶斯模型的变量选择与模型探索,并展示于变点模型和对数高斯Cox过程。
2026-09-09 stat.CO stat.ME
Estimating the marginal likelihood with Integrated nested Laplace approximation (INLA)
边际似然是贝叶斯统计学中一个公认的模型选择准则。它还允许有效地计算边缘后验模型概率,该概率可用于对感兴趣的量进行贝叶斯模型平均。然而,对于许多复杂的模型,包括潜在建模方法,边缘似然性难以计算。最近一个有前途的方法近似的边缘可能性是集成嵌套拉普拉斯近似(INLA),设计的模型与潜在的高斯结构。在这项研究中,我们比较了近似与INLA获得一些不同复杂性的例子上的替代方法。特别是,我们讨论了简单的线性潜在模型、贝叶斯线性回归模型、具有probit和logit链接的逻辑贝叶斯回归模型以及Poisson纵向广义线性混合模型。
2016-11-04 stat.CO
Fitting logistic multilevel models with crossed random effects via Bayesian Integrated Nested Laplace Approximations: a simulation study
拟合具有二进制响应的交叉分类多水平模型具有挑战性。在这种情况下,一个有前途的方法是贝叶斯推断通过集成嵌套拉普拉斯近似(INLA),它在几个潜变量模型中表现良好。因此,我们设计了一个系统的模拟研究,以评估INLA的性能与交叉分类的logistic数据下定义的随机效应方差的大小,观察的数量,集群的数量,和交叉分类的程度不同的情况下。在模拟中,INLA与流行的极大似然法通过拉普拉斯近似进行了系统的比较。通过对经典蝾螈交配数据的应用,我们比较了INLA与最佳性能的方法。考虑到计算速度和一般良好的性能,INLA原来是一个有价值的方法来拟合所考虑的交叉分类模型。
2016-07-20 stat.CO
Initializing adaptive importance sampling with Markov chains
自适应重要性抽样是从复杂目标密度中抽样的有力工具,但其成功与否敏感地依赖于初始建议密度。提出了一种利用马尔可夫链和层次聚类自动进行初始化的算法。在多达20个维度的具有挑战性的多峰示例上检查性能,并与嵌套采样的结果进行比较。我们的方法产生了一个建议,导致快速收敛和准确估计的整体归一化和边缘分布。
2013-04-29 stat.CO
A Novel Method of Marginalisation using Low Discrepancy Sequences for Integrated Nested Laplace Approximations
最近,它已被证明,使用低差异序列(LDS)获得的边缘后验分布的近似可以优于标准的基于网格的方法的精度和计算效率。这种最近的方法,我们将称为LDS-StM,也可以产生良好的近似多峰后验。然而,实施LDS-STM集成嵌套拉普拉斯近似(INLA),其中使用基于网格的方法,是具有挑战性的。出于这个问题,我们提出了修改LDS-StM,提高了近似,并使其与INLA兼容,而不牺牲计算速度。我们还提出了两个例子来证明LDS-StM与修改可以优于INLA自己的网格近似的速度和精度。我们还证明了新方法的灵活性,多峰边缘的近似。
2019-12-04 stat.CO
Model comparison with missing data using MCMC and importance sampling
在竞争统计模型之间进行选择是一个具有挑战性的问题,特别是当竞争模型是非嵌套的时。在本文中,我们提供了一个简单的解决方案,设计一个算法,结合MCMC和重要性抽样,以获得计算有效估计的边际似然,然后可以用来比较模型。该算法成功应用于纵向流行病和时间序列数据集,并显示出优于现有的计算边缘可能性的方法。
2015-12-15 stat.CO
Integrated Nested Laplace Approximations (INLA)
这是一个简短的说明和基本介绍集成嵌套拉普拉斯近似(INLA)的方法。INLA是Rue等人(2009)在潜在高斯模型(LGM)中引入的贝叶斯推断的确定性范例。INLA依赖于分析近似和有效的数值积分方案的组合,以实现对感兴趣的后验量的高度精确的确定性近似。使用INLA代替马尔可夫链蒙特卡罗(MCMC)技术进行LGM的主要好处是计算性;即使对于大型复杂模型,INLA也很快。此外,作为一种确定性算法,INLA不会出现收敛慢和混合不良的问题。INLA是在R包R-INLA中实现的,R-INLA是一个用户友好的多功能工具,用于进行贝叶斯推断。R-INLA返回所有模型参数的后边缘和相应的后验汇总信息。模型选择标准以及预测诊断是直接可用的。在这里,我们概述了INLA背后的理论,介绍了R-INLA包,并描述了将INLA与MCMC相结合的新发展,用于不可能与R-INLA相适应的模型。
2019-07-02 stat.CO
Vertical-likelihood Monte Carlo
在这篇评论中,我们解决了使用蒙特卡罗方法近似定积分的形式$Z = \int L(x) d P(x)$,其中$L$是一个目标函数(通常是一个可能性)和$P$有限的措施。我们提出了垂直似然蒙特卡罗,这是一种设计的重要性函数$g(x)$用于重要性抽样的方法。我们的方法利用了两个随机变量之间的对偶性:随机抽取$X \sim g$,以及抽取的相应随机似然纵坐标$Y\equiv L(X)$。很自然地会指定$g(x)$并询问:$Y$的隐含分布是什么?在本文中,我们采取了相反的问题:$Y$的分布应该是什么,使隐含的重要性函数$g(x)$是好的近似$Z$?我们的答案在垂直似然的视角下统一了七种看似不同的算法:重要性抽样、切片抽样、模拟退火/回火、调和均值估计、垂直密度抽样、嵌套抽样和能级抽样(一套来自统计物理学的相关方法)。特别是,我们给出了一个替代介绍嵌套抽样,特别注意这种方法和垂直可能性的角度之间的连接在这里阐述。作为一种替代嵌套采样,我们描述了MCMC方法的基础上重新加权切片采样。这种方法的收敛性进行了研究,两个例子证明了承诺的整体方法。
2015-06-23 math.ST stat.CO stat.TH
Estimating Spatial Econometrics Models with Integrated Nested Laplace Approximation
集成嵌套拉普拉斯近似为贝叶斯分层模型的边缘推断提供了一种快速有效的方法。该方法已在R-INLA软件包中实现,该软件包允许在R统计软件中使用INLA。虽然INLA是作为一种通用方法来实现的,但它在实践中的使用仅限于R-INLA包中实现的模型。空间自回归模型广泛应用于空间计量经济学,但迄今为止,在R-INLA软件包中一直缺失。在本文中,我们描述了一类新的潜在模型在INLA的实现和应用,通过R-INLA。这个新的潜在类实现了一个标准的空间滞后模型,该模型被广泛使用,可用于构建空间计量经济学中更复杂的模型。在R-INLA中实现这个潜在模型也意味着INLA的所有其他功能都可以用于空间计量经济学中的模型拟合,模型选择和推理,如本文所示。最后,我们将通过基于高斯和二进制结果的两个数据集来说明这种新的潜在模型的使用及其应用。
2021-05-29 stat.CO
Parallelized integrated nested Laplace approximations for fast Bayesian inference
随着数据可用性的提高和模型参数空间的高维化,对大规模贝叶斯推断任务的需求日益增长。在这项工作中,我们提出了并行化策略的方法集成嵌套拉普拉斯近似(INLA),一个流行的框架进行近似贝叶斯推断的类潜在高斯模型。我们的方法利用嵌套的OpenMP并行,并行线搜索过程中使用强大的回归INLA的优化阶段和最先进的稀疏线性求解器PARDISO。我们利用算法中相互独立的函数评估以及高级稀疏线性代数技术。通过这种方式,我们可以灵活地利用当今多核架构的强大功能。我们展示了我们的新的并行化方案在一些不同的现实世界中的应用程序的性能。并行性的引入导致所有较大模型的加速比为10倍或更多。我们的工作已经集成到当前版本的开源R-INLA包中,使其改进的性能方便地提供给所有用户。
2022-04-10 cs.DC stat.CO
Fast and flexible inference for joint models of multivariate longitudinal and survival data using Integrated Nested Laplace Approximations
本文提出基于R-INLA的贝叶斯近似方法,加速多元纵向与生存数据联合模型的推断,减少计算负担和估计变异性,并成功应用于原发性胆汁性胆管炎临床试验中的多标记竞争风险分析。
2023-07-12 stat.AP stat.CO stat.ME
Extending INLA to a class of near-Gaussian latent models
这项工作将集成嵌套拉普拉斯近似(INLA)方法扩展到潜在高斯模型范围之外的潜在模型,其中潜在场的独立分量可以具有近高斯分布。所提出的方法是一个更大项目的重要组成部分,该项目旨在扩展R包INLA(R-INLA),以允许用户以简单直观的方式增加灵活性并挑战一些模型组件的高斯假设。我们的方法被应用到两个例子,并与马尔可夫链蒙特卡罗(MCMC)得到的结果进行了比较,显示出类似的精度,只有一小部分的计算时间。R-INLA包中提供了拟议扩展的实现。
2013-04-22 stat.CO
Integrated Nested Laplace Approximations for Large-Scale Spatial-Temporal Bayesian Modeling
贝叶斯推断任务继续构成计算挑战。这尤其适用于高维潜在参数空间无处不在的时空建模。集成嵌套拉普拉斯近似(INLA)的方法提供了一个框架,用于执行贝叶斯推断适用于一个大的子类添加剂贝叶斯分层模型。结合随机偏微分方程(SPDE)的方法,它产生了一个有效的时空建模方法。在这项工作中,我们建立在INLA-SPDE的方法,提出了一个高性能的分布式内存的变种,INLA-DIST,大规模的应用程序。为了执行所产生的计算内核操作,包括Cholesky因子分解,求解线性系统和选定的矩阵求逆,我们提出了两个数值求解器选项,一个稀疏的基于CPU的库和一个新的块GPU加速的方法,我们提出。我们利用不断出现的精度(逆协方差)矩阵,这使我们能够采用密集的子程序在稀疏设置中的非零块结构。两个版本的INLA-DIST都具有高度可扩展性,能够对具有数百万潜在参数的模型进行推理。我们展示了它们在合成和真实世界气候数据集应用上的准确性和性能。
2023-03-27 cs.DC cs.NA math.NA
UEFA EURO 2020 Forecast via Nested Zero-Inflated Generalized Poisson Regression
本报告致力于预测2020年欧洲足球锦标赛,欧洲大陆足球锦标赛,将于2021年6月/7月在欧洲各地举行。我们提出的模拟结果,为本次比赛,其中模拟是基于零膨胀广义泊松回归模型,其中包括Elo点的参赛队伍和比赛的位置作为协变量,并结合团队的具体技能的差异。所提出的模型允许预测的概率,以量化的机会,为每支球队达到某个阶段的比赛。我们使用蒙特卡罗模拟估计比赛的每一场比赛的结果,从我们能够模拟整个比赛本身。该模型适用于自2014年以来参赛球队的所有足球比赛,并按日期和重要性进行加权。
2021-06-09 stat.AP
Nested Zero Inflated Generalized Poisson Regression for FIFA World Cup 2022
本研究提出嵌套零膨胀广义泊松回归模型,纳入Elo积分、比赛地点、攻防技能等协变量,结合蒙特卡洛模拟预测2022年FIFA世界杯各队晋级概率,经往届赛事验证且优于同类泊松模型。
2022-11-02 math.PR stat.AP
Multilevel Monte Carlo estimation of expected information gains
期望信息增益是贝叶斯试验设计的一个重要质量准则,它衡量了通过收集相关数据$Y$,关于不确定感兴趣量$θ$的信息熵平均减少了多少。然而,估计预期信息增益被认为是计算上具有挑战性的,因为它被定义为具有关于$Y$的外部期望和关于$θ$的内部期望的嵌套期望。事实上,标准的嵌套蒙特卡罗方法需要$O(\varepsilon^{-3})$的总计算成本来实现$\varepsilon$的均方根精度。在本文中,我们开发了一个有效的算法来估计预期的信息增益,应用多级蒙特卡罗(MLMC)方法。为了更准确地说,我们引入了一个对立的MLMC估计的预期信息增益,并提供了一个充分条件下的数据模型,MLMC估计的对立属性得到很好的利用,从而实现最佳的复杂性$O(\varepsilon^{-2})$。此外,我们讨论了如何将重要性抽样技术内MLMC估计,以避免算术下溢。数值实验表明,相当大的计算成本节省相比,嵌套蒙特卡罗方法的一个简单的测试用例和更现实的药代动力学模型。
2019-12-06 cs.NA math.NA stat.CO
INLA or MCMC? A Tutorial and Comparative Evaluation for Spatial Prediction in log-Gaussian Cox Processes
我们研究了两个选项进行贝叶斯推断的空间对数高斯Cox过程假设一个空间连续的潜场:马尔可夫链蒙特卡罗(MCMC)和集成嵌套拉普拉斯近似(INLA)。我们首先描述了一个空间连续的高斯场近似的高斯马尔可夫随机场上的离散晶格的设备,并提出了一个模拟研究表明,仔细选择的参数值,小的邻域大小可以得到很好的近似。然后,我们介绍了空间对数高斯Cox过程,并描述MCMC和INLA方法在这个模型类的空间预测。我们报告的模拟研究的结果,在其中我们比较MALA和近似的连续的潜在领域的离散的技术,然后通过INLA的近似贝叶斯推断超过18个模拟场景的选择。结果质疑了后一种技术在此设置中比MCMC更快且更稳健的概念;在台式PC上运行20分钟内的100,000次MALA算法迭代提供了比默认\verb =INLA=策略更高的预测准确性,后者运行4分钟,并与运行39分钟的完整拉普拉斯近似进行比较。
2012-03-19 stat.CO
On importance sampling and independent Metropolis-Hastings with an unbounded weight function
University of Oxford(牛津大学);ESSEC Business School(ESSEC高等商学院);Rutgers University(罗格斯大学)
研究重要性抽样和独立Metropolis-Hastings在权重函数无界时的偏差,通过最大耦合推导链到目标分布的全变差距离的多项式界,并利用耦合实现无偏估计。
2026-07-03 math.ST stat.ME stat.TH
Importance sampling type estimators based on approximate marginal MCMC
考虑基于马尔可夫链蒙特卡罗(MCMC)的重要性抽样(IS)型加权估计,目标是目标分布的近似边缘。在贝叶斯潜变量模型的上下文中,MCMC通常对超参数进行操作,并且随后的加权可以基于IS或序贯蒙特卡罗(SMC),但也允许多级技术。IS方法提供了延迟接受(DA)伪边缘/粒子MCMC的一个自然的替代方案,并具有许多优势,DA,包括一个简单的并行化和MCMC实现的额外灵活性。我们详细的最小条件,确保强一致性的建议估计,并提供中心极限定理的渐近方差的表达式。我们演示了我们的方法可以利用SMC的状态空间模型的上下文中,使用拉普拉斯近似和时间离散扩散。我们的实验结果是有希望的,并表明,IS型的方法可以提供大量的收益相对于一个类似的DA计划,往往是有竞争力的,即使没有并行化。
2020-03-09 math.PR stat.CO
Estimation and prediction for spatial generalized linear mixed models with parametric links via reparameterized importance sampling
空间广义线性混合模型是分析非高斯空间数据的常用模型。这些模型假设一个规定的链接功能,涉及潜在的空间场的平均响应。在某些情况下,例如当数据包含离群观测值时,使用规定的链接函数可能会导致拟合不佳,这可以通过使用参数链接函数来改善。一些流行的链接函数,如Box-Cox,是不合适的,因为它们与空间场的高斯假设不一致。我们提出了合理的选择参数连接函数,具有理想的性能。重要的是要估计链接函数的参数,而不是假设一个已知的值。为此,我们提出了一个广义重要性抽样(GIS)估计的基础上,多个马尔可夫链的经验贝叶斯分析的SGL。GIS估计器,虽然比简单的重要性抽样更有效,但在用于估计某些链接函数的参数时可能是高度可变的。使用适当的蒙特卡罗样本重新参数化,我们提出了不受高变异性影响的修改后的GIS估计量。我们使用拉普拉斯近似来选择GIS估计器中的多个重要性密度。最后,我们开发了一种方法来选择模型与适当的链接函数的家庭,它扩展到选择空间相关函数以及。我们提出了一个集合预测的平均响应适当加权不同的模型的估计。使用模拟和真实数据的例子说明了所提出的方法。
2019-01-08 stat.CO
Multilevel Sequential Importance Sampling for Rare Event Estimation
稀有事件发生概率的估计是可靠性和风险评估中的一项重要任务。我们考虑的故障事件表示的极限状态函数,这取决于一个偏微分方程(PDE)的解决方案。由于偏微分方程的数值计算是昂贵的,估计这样的概率的失败,蒙特卡罗抽样是棘手的。可靠性分析中更有效的抽样方法,如子集模拟,很受欢迎,但如果PDE评估成本很高,则仍然不可行。在这篇文章中,我们开发了一种新的,高效的估计罕见事件的概率。我们的方法是基于序贯重要性采样器使用离散化的PDE为基础的极限状态函数具有不同的精度。一个双重的自适应算法,确保我们得到一个估计的基础上所需的离散化精度。与[Ullmann,Papaioannou 2015; SIAM/ASA J. Uncertain.数量。3(1):922-953],我们的估计克服了嵌套问题。在顺序重要性采样算法中,特别重要的是正确选择MCMC内核。而不是流行的自适应条件采样方法,我们提出了一种新的算法,使用独立的建议,从自适应构造的冯Mises-Fischer-Nakagami分布。该算法分别应用于1D和2D空间中的测试问题,并与多级子集模拟估计量和单级版本的序贯重要性抽样和子集模拟进行比较。
2020-03-29 cs.NA math.NA stat.CO
Stochastic Gradient Annealed Importance Sampling for Efficient Online Marginal Likelihood Estimation
Stellenbosch University(斯泰伦博斯大学);National Institute for Theoretical Physics(国家理论物理研究所)
我们考虑在独立同分布(i.i.d.)数据我们建议通过使用随机梯度马尔可夫链蒙特卡罗技术来估计此类环境中边缘可能性的顺序因子分解中的预测分布。这种方法是更有效的比传统的边缘似然估计技术,如嵌套抽样和退火重要性抽样,由于它使用小批量来近似的可能性。的估计的稳定性提供了一个自适应退火时间表。由此产生的随机梯度退火重要性抽样(SGAIS)技术,这是我们的论文的主要贡献,使我们能够估计的边际可能性的一些模型大大快于传统的方法,没有明显的损失的准确性。我们的方法的一个重要好处是,边际可能性是在数据可用时以在线方式计算的,允许将估计值用于在线加权模型组合等应用。
2019-11-17 cs.LG stat.ML
Stochastic Optimization with Optimal Importance Sampling
University of California, Berkeley(加州大学伯克利分校);CWI(荷兰信息与计算科学研究所);Columbia University(哥伦比亚大学);Inria(法国国家信息与自动化技术研究院)
本文提出了一种单循环随机逼近算法,用于解决随机优化中决策变量与重要性采样分布相互依赖的问题,实现了全局收敛和最小渐近方差。
2026-02-10 cs.LG math.OC math.ST
Rare Event Probability Learning by Normalizing Flows
Mila – Quebec AI Institute(魁北克人工智能研究所);Université de Montréal(蒙特利尔大学)
本文提出NOFIS方法,利用归一化流学习嵌套提议分布并结合重要性采样,高效估计稀有事件概率,在10个测试用例上优于基线方法。
2023-10-29 cs.AI cs.LG stat.ML
Importance Nested Sampling and the MultiNest Algorithm
贝叶斯推断涉及两个主要的计算挑战。首先,在估计数据的某些模型的参数时,后验分布很可能是高度多模态的:在这种情况下,传统的马尔可夫链蒙特卡罗(MCMC)技术收敛到平稳性变得非常缓慢。其次,在一组竞争模型之间进行选择时,根据定义,每个模型的贝叶斯证据的必要估计是整个参数空间上的(可能是高维的)积分;这可能是一项艰巨的计算任务,尽管新的蒙特卡罗(MC)积分算法提供了不断提高效率的解决方案。嵌套抽样(NS)是一个这样的当代MC策略,目标是计算贝叶斯证据,但它也使后验推理作为一个副产品,从而允许同时参数估计和模型选择。广泛使用的MultiNest算法提出了一个特别有效的实现多模态后验的NS技术。在本文中,我们讨论的重要性嵌套采样(INS),另一种总结的MultiNest绘制,它可以计算贝叶斯证据高达一个数量级的精度比“香草”NS没有变化的方式MultiNest探索参数空间。这是通过将MultiNest收集的所有点(包括先前在NS算法的约束似然采样下丢弃的点)视为(伪)重要性样本来实现的。我们将这种技术应用于几个具有挑战性的测试问题,并将使用INS获得的贝叶斯证据的准确性与使用vanilla NS获得的证据的准确性进行比较。
2019-11-26 astro-ph.IM physics.data-an stat.CO
Detection and Resolution of Periodic Artifacts in OpenDP's Discrete Laplace Sampler
Università degli Studi dell’Insubria(因苏布里亚大学);Random Power Srl(Random Power有限公司)
本文检测并解决了 OpenDP 离散拉普拉斯采样器中的周期性伪影,通过诊断定位到 bernoulli_exp1 函数的有理算术库错误,提出精确有理算术替代实现,并用 10^6 样本验证修正后输出与理论分布一致。
2026-10-02 cs.CR stat.CO
Fast and Scalable Inference for Spatial Extreme Value Models
针对空间GEV-GP模型推断中MCMC速度慢、INLA适用范围有限的问题,本文结合原始拉普拉斯近似与稀疏空间协方差近似技术,实现了可扩展至数千位置、速度远超MCMC的准确推断,并通过加拿大极端降雪案例验证。
2024-05-16 stat.CO stat.ME
Approximate Bayesian Inference via Sparse grid Quadrature Evaluation for Hierarchical Models
我们结合条件技术与稀疏网格求积规则,开发一种计算效率高的方法来近似边缘,但不一定是单变量,后量,通过稀疏网格求积评估(BISQuE)分层模型产生近似贝叶斯推断。BISQuE将后验量重新表述为条件量的加权积分,例如密度和期望。稀疏网格求积规则允许计算高效的近似高维积分,这出现在具有许多超参数的分层模型中。BISQuE相对于标准的马尔可夫链蒙特卡罗方法减少了至少两个数量级的几个应用和说明性模型的计算工作量。我们还简要讨论了使用BISQuE将集成嵌套拉普拉斯近似(INLA)应用于具有比目前实际更多超参数的模型。
2019-04-15 stat.CO stat.ME
Fast approximate inference with INLA: the past, the present and the future
潜高斯模型是一种非常流行的,灵活的模型。然而,这些模型的贝叶斯推断是棘手和耗时的。最近,Rue,Martino和Chopin提出了确定性快速近似推理的集成嵌套拉普拉斯近似(INLA)方法。在本文中,我们概述了INLA近似及其相关的R软件包。我们将讨论r-INLA程序的新组件以及一些可能的扩展。
2011-05-16 stat.CO
Approximate simulation-free Bayesian inference for multiple changepoint models with dependence within segments
本文提出了多个变点模型的分析方法时,在数据的依赖性是通过一个分层高斯马尔可夫随机场建模。采用集成的嵌套拉普拉斯近似来近似数据量,并提出了一种近似滤波递归方法,以节省计算成本时检测变点。所有这些方法都是模拟免费的。实际数据的分析表明,该方法的实用性一般。允许数据依赖的新模型与传统模型进行比较,其中段内的数据被假定为独立的。
2011-06-03 stat.CO
Multimodal Information Gain in Bayesian Design of Experiments
最优试验设计中的一个众所周知的挑战是如何有效地估计期望信息增益的嵌套积分。高斯近似和相关的重要性抽样已被证明是有效的,在减少数值成本。然而,他们可能会失败,由于不可忽略的偏见和数值不稳定性。当后验分布为多峰时,本文提出了一种新的计算期望信息增益的方法,这种情况以前被加速嵌套数值积分的方法所忽略。具体而言,后验分布近似使用的混合分布构造的多个运行的全局搜索的模式和加权的局部拉普拉斯近似。在任何给定的概率捕获所有的模式,我们提供了一个估计的运行的搜索,这是维度无关的数量。结果表明,新的全局-局部多模态方法可以显着更准确,更有效地比其他现有的方法,特别是当模式的数量是大的。该方法适用于观测噪声有标校和无标校的试验设计。
2021-08-16 stat.CO
Computational methods for Bayesian model choice
在这篇文章中,我们简要地回顾了贝叶斯假设检验和贝叶斯模型选择中使用的贝叶斯因子的近似方法。特别是,我们重新评估重要性抽样,调和平均抽样,嵌套抽样从一个统一的角度来看。
2009-07-29 stat.CO
Improving the INLA approach for approximate Bayesian inference for latent Gaussian models
本文引入了一种新的基于Copula的广义线性混合模型修正方法,并将其应用于潜在高斯模型的近似贝叶斯推断的集成嵌套拉普拉斯近似(INLA)方法中.虽然INLA通常非常准确,但一些(相当极端)GLP-A病例(例如,二项式或泊松数据)被认为是有问题的。当模型中的平滑程度或“借用强度”非常低时,可能会出现不准确,因此我们开发了一种修正方法,旨在扩大INLA的适用范围。我们的新校正已被实现为R-INLA包的一部分,只增加了微不足道的计算成本。对真实数据和模拟数据的实证分析表明,该方法效果良好。
2015-12-15 math.ST stat.CO stat.ME
Fast and accurate Bayesian model criticism and conflict diagnostics using R-INLA
贝叶斯分层模型越来越受欢迎的现实建模和复杂数据的分析。这一趋势伴随着需要灵活的,通用的,计算效率高的方法模型的批评和冲突检测。通常,贝叶斯分层模型包含单个数据点的分组,例如重复测量数据中的个体。在这种情况下,会产生以下问题:是否有任何群体是“离群值”,或与其余群体相冲突?现有的一般方法,旨在回答这些问题往往是非常计算要求时,模型拟合是基于MCMC。我们展示了如何通过集成嵌套拉普拉斯近似(INLA)快速准确地完成组级模型的批评和冲突检测。新方法是作为贝叶斯计算的开源R-INLA包的一部分实现的(http:r-inla.org)。
2017-11-01 math.ST stat.CO stat.ME
Hierarchical Bayesian estimation for continual learning during model-informed precision dosing
针对模型指导精准给药中的持续学习问题,提出层次贝叶斯估计框架,并比较多种推断算法,发现单内嵌套粒子滤波器在精度与计算复杂度间取得最佳平衡。
2025-05-26 stat.CO
INLA+ -- Approximate Bayesian inference for non-sparse models using HPC
本文提出INLA+框架,利用稠密矩阵和HPC在多节点上改进INLA方法,以处理非稀疏模型,并通过模拟和西班牙癌症死亡率数据验证其有效性。
2023-11-14 stat.AP stat.CO stat.ME
Bayesian Evidence and Model Selection
在本文中,我们回顾了贝叶斯证据和贝叶斯因子的概念,也被称为对数优势比,以及它们在模型选择中的应用。该理论是随着分析,近似和数值技术的讨论。特别注意的是拉普拉斯近似,变分贝叶斯,重要性抽样,热力学集成,嵌套抽样及其最近的变种。类比统计物理,从其中许多这些技术的起源,讨论,以提供读者更深入的见解,可能导致新的技术。贝叶斯模型测试在域科学中的效用是通过提出四个具体的实际例子,在信号检测,传感器表征,科学模型选择和分子力表征领域的信号处理的背景下考虑。
2015-11-23 astro-ph.IM stat.AP stat.CO