Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据,证明其渐近正态性,用于构建置信区间,数值研究表明其优于传统方法。
2023-09-13 stat.ME
Quantification of observed prior and likelihood information in parametric Bayesian modeling
本文提出了两种与数据相关的信息度量来量化参数贝叶斯模型中先验和似然函数的信息,其中一种与Berger,Bernardo和Sun提出的参考先验和Lindley提出的信息度量密切相关.理论,经验和计算支持的组合提供的证据表明,这些信息理论指标可能是有用的诊断工具时,执行贝叶斯分析。
2017-09-07 cs.IT math.IT stat.AP
General Bayesian Updating and the Loss-Likelihood Bootstrap
在本文中,我们重新审视加权似然自助法,一种从参数模型的近似贝叶斯后验生成样本的方法。我们表明,相同的方法可以得到,没有近似,在贝叶斯非参数模型与参数定义为最小化预期的负对数似然未知的抽样分布下的利益。这种解释使我们能够将加权似然自助法扩展到参数的后验抽样,以最大限度地减少预期损失。我们称这种方法为损失似然自助法。我们在此和一般贝叶斯更新之间建立了联系,贝叶斯更新是一种更新先验置信分布的方法,而无需构建全局概率模型,但需要校准两种形式的损失函数。损失似然自举法用于通过匹配渐近费舍尔信息来校准一般贝叶斯后验。我们证明了一些例子的方法。
2018-05-22 stat.ME stat.ML
Adjusted composite likelihood for robust Bayesian meta-analysis
复合似然是一种非真实似然函数,它允许对模型的有限方面进行推断,例如边际或条件分布。复合似然不是正确的似然,因此需要从频率论和贝叶斯的角度对其在推断中的使用进行校准。复合似然的最大化可以作为一个估计量,其方差通过适当定义的三明治矩阵进行评估。在贝叶斯设置中,复合似然可以通过幅度和曲率方法进行调整。幅度方法意味着将可能性提高到一个常数,而曲率方法意味着通过平移、重新缩放和旋转参数向量来评估不同点处的可能性。一些作者认为曲率方法总体上更可靠,但其他人证明幅度方法足以恢复例如检验统计量的零分布。我们提出了一个简单的校准的边缘后验分布的标量参数的兴趣,这是不变的单调和光滑的变换。例如,在医学统计学中,这就足够了,其中单个标量效应度量通常是目标。
2021-04-05 stat.ME
Empirical Likelihood Based Bayesian Variable Selection
经验似然是一种流行的非参数统计工具,不需要任何分布假设。在本文中,我们探讨了通过贝叶斯经验似然进行变量选择的可能性。从理论上证明了当先验分布满足一定的温和条件时,相应的贝叶斯经验似然估计是后验相合的,并且是变量选择相合的。作为特例,我们证明了贝叶斯经验似然LASSO和SCAD的先验满足这样的条件,从而可以以概率趋于1的方式识别参数的非零元素。此外,它是很容易验证,这些条件满足其他广泛使用的先验,如脊,弹性网和自适应LASSO。经验似然取决于需要通过数值求解非线性方程获得的参数。因此,后验分布不存在共轭先验,导致MCMC抽样算法在某些情况下收敛缓慢。为了解决这个问题,我们提出了一种新的方法,它使用一个近似分布的建议。计算结果表明,本文所用的例子快速收敛。我们使用模拟和真实数据分析来说明所提出的方法的优点。
2022-06-10 stat.ME
Transformations in Semi-Parametric Bayesian Synthetic Likelihood
贝叶斯合成似然(Bayesian synthetic likelihood,BSL)是一种在似然函数难以处理的情况下进行近似贝叶斯推断的常用方法。在合成似然方法中,似然函数通过模型模拟进行参数近似,然后使用标准的基于似然的技术来执行推断。高斯合成似然估计已成为无处不在的BSL文献,主要是因为它的简单性和易于实现。然而,它通常限制性太强,并可能导致较差的后验近似。最近,一个更灵活的半参数贝叶斯合成似然(semiBSL)估计已被引入,这是显着更强大的不规则分布的汇总统计量。在这项工作中,我们提出了一些扩展semiBSL。首先,我们考虑使用变换核密度估计的边缘分布的更灵活的估计。其次,我们提出了白化semiBSL(wsemiBSL)-显着提高semiBSL的计算效率的方法。wsemiBSL在每次算法迭代时使用近似白化变换来解相关汇总统计量。本文开发的方法显着提高了BSL算法的通用性和效率。
2020-07-03 stat.CO stat.ME
Bayesian design of experiments for intractable likelihood models using coupled auxiliary models and multivariate emulation
贝叶斯设计通过在设计空间上最大化期望效用来给出。效用被选择来代表实验的目的,并且其期望是关于所有未知数的:响应,参数和/或模型。虽然原则上很简单,但在实践中找到贝叶斯设计存在一些挑战。首先,效用和期望效用很少以封闭形式存在,需要近似。其次,设计空间可以是高维的。在棘手的似然模型的情况下,这些问题是复杂的事实,即似然函数,其评估是需要近似的预期效用,是不是在封闭的形式。提出了一种策略,找到贝叶斯设计的棘手的似然模型。它依赖于一个自动的,辅助建模方法的发展,使用多变量高斯过程仿真器,近似的似然函数。然后,这与基于copula的方法相结合,以近似边际似然(一个通常需要评估许多效用函数的数量)。这些近似的随机过程模型,涉及实验目的的参数估计和模型比较的例子证明。
2019-01-15 stat.ME
Bayesian Elastic Net based on Empirical Likelihood
我们提出了一个贝叶斯弹性网,使用经验似然和开发一个有效的调整哈密顿蒙特卡罗后验采样。该模型放松了对误差分布的假设,当变量高度相关时表现良好,并通过提供回归系数的后验分布来进行更直接的推断。在贝叶斯经验似然中实现的哈密顿蒙特卡罗方法克服了后验分布缺乏封闭的解析形式和其域是非凸的挑战。提出了贝叶斯经验似然的蛙跳参数整定算法。我们还证明了回归系数的后验分布是渐近正态的。仿真研究和实际数据分析表明,所提出的方法在预测精度的优势。
2022-07-18 stat.CO stat.ME
Efficient Bayesian Inference for Spatial Point Patterns Using the Palm Likelihood
North Carolina State University(北卡罗来纳州立大学);Department of Statistics, North Carolina State University(北卡罗来纳州立大学统计系)
本文提出在贝叶斯框架下利用 Palm 似然进行空间点模式推断,并通过两种校准方法修正后验覆盖不足问题,在保证统计性能的同时显著提升计算效率。
2026-09-29 stat.CO stat.ME
Beyond Whittle: Nonparametric correction of a parametric likelihood with a focus on Bayesian time series analysis
Whittle似然被广泛用于平稳时间序列谱密度的贝叶斯非参数估计。然而,非高斯时间序列的效率损失可能是相当大的。另一方面,如果模型被很好地指定,则参数方法更强大,但否则可能完全失败。因此,我们建议利用参数模型的效率,同时通过非参数修正来降低敏感性,对参数似然进行非参数修正。使用Bernstein-Dirichlet先验的非参数谱校正,我们显示后验的一致性,并说明我们的程序在模拟研究和LIGO引力波数据的性能。
2017-01-17 stat.ME
Bayesian Optimization Sequential Surrogate (BOSS) Algorithm: Fast Bayesian Inference for a Broad Class of Bayesian Hierarchical Models
本文提出BOSS算法,结合贝叶斯优化与近似贝叶斯推断,大幅减少拟合条件潜在高斯模型的计算开销,并通过模拟及多领域实际应用验证其高效性与准确性。
2024-03-18 stat.AP stat.CO stat.ME
Bayesian Synthetic Likelihood
本文介绍贝叶斯合成似然(BSL)方法,用于似然不可计算但可模拟的模型中的后验推断,并概述其可扩展稳健的扩展。
2023-05-10 stat.CO stat.ME
A Variant of AIC based on the Bayesian Marginal Likelihood
我们提出的信息标准,衡量预测密度的预测风险的贝叶斯边际似然从频率论的角度来看。假设回归系数具有先验分布,我们推导出了线性回归模型中变量的选择准则。然后,我们讨论了所提出的标准和相关标准之间的关系。我们的方法有三个优点。首先,这是频率论和贝叶斯观点之间的妥协,因为它评估了贝叶斯模型的频率论风险。因此,它受先前错误指定的影响较小。其次,在选择真实模型时,标准具有一致性。第三,当为回归系数假设均匀先验时,得到的准则等价于Shi和Tsai(2002)的残差信息准则(RIC)。
2017-10-19 stat.ME
Bayesian Inference from Composite Likelihoods, with an Application to Spatial Extremes
复合似然越来越多地用于完全似然在分析上未知或计算上禁止的应用中。虽然最大合成似然估计具有类似于通常的极大似然估计的频率论性质,但基于合成似然的贝叶斯推断还有待探索。在本文中,我们研究使用梅特罗波利斯-黑斯廷斯算法来计算基于复合似然的伪后验分布。提出了两种调整算法的方法,并使用模拟数据集和实际降雨空间极值数据研究了它们在逼近真实后验分布方面的性能。
2011-07-06 math.ST stat.ME stat.TH
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断,和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵,并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋,我们表明,我们的方法提供了准确的推断尺寸高达512 × 512的格子,并优于两个流行的方法:复合似然和谱近似。
2014-02-18 stat.CO stat.ME
A Bootstrap Likelihood approach to Bayesian Computation
有越来越多的文献集中在贝叶斯计算方法来解决棘手的可能性问题。一种方法是称为近似贝叶斯计算(ABC)方法的一组算法。这些算法的问题之一是性能依赖于一些参数的调整,如汇总统计量,距离和公差水平。为了绕过这个问题,Mengersen,Pudlo和Robert(2013)引入了一种基于经验似然的替代方法,当一组与分布矩相关的约束已知时,该方法可以很容易地实现。然而,约束条件的选择有时具有挑战性。为了克服这个问题,我们提出了一种替代方法的基础上的自助似然方法。该方法易于实现,在某些情况下,它比其他方法更快。在群体遗传学,时间序列和随机微分方程的例子说明了该算法的性能。最后,我们在真实数据集上测试了该方法。
2015-10-25 stat.ME
Expectation-Propagation for Bayesian Empirical Likelihood Inference
College of Computing and Data Science, Nanyang Technological University(南洋理工大学计算与数据科学学院);School of Mathematics and Statistics, The University of Melbourne(墨尔本大学数学与统计学院)
本文提出基于期望传播的变分方法近似贝叶斯经验似然后验,解决其计算挑战,在小样本下实现更优成本-精度权衡,且理论上近似与目标后验渐近等价。
2026-08-05 stat.CO stat.ME
Sequential Neural Likelihood: Fast Likelihood-free Inference with Autoregressive Flows
University of Edinburgh(爱丁堡大学)
我们提出了序列神经似然(SNL),一种新的方法,贝叶斯推断在模拟器模型,其中的可能性是棘手的,但模拟数据的模型是可能的。SNL在模拟数据上训练自回归流,以学习高后验密度区域中的似然模型。一个连续的训练过程指导模拟,并减少模拟成本的数量级。我们表明,SNL是更强大的,更准确的,需要更少的调整比相关的基于神经的方法,我们讨论了诊断评估校准,收敛和拟合优度。
2019-01-21 cs.LG stat.ML
Approximate Bayesian Computing for Spatial Extremes
用于模拟空间极值的最大稳定过程的统计分析受到计算联合似然函数的困难的限制。这排除了所有标准的基于可能性的方法,包括贝叶斯方法。在本文中,我们提出了一个贝叶斯方法,通过使用近似贝叶斯计算。这避免了联合似然函数的需要,而是依赖于来自(不可用的)似然的模拟。该方法与基于复合似然的另一种方法进行了比较。我们表明,近似贝叶斯计算可以导致较低的均方误差比复合似然方法估计的极端空间依赖性时,虽然在一个明显更高的计算成本。我们还说明了该方法的性能与应用程序,美国的温度数据估计作物损失的风险,由于不太可能冻结事件。
2011-12-13 stat.CO stat.ME
Penalized Likelihood and Bayesian Function Selection in Regression Models
各个领域的研究推动了高维预测变量回归模型变量选择方法的广泛进步。相比之下,选择非线性函数的模型与添加剂预测最近才被认为是。几个相互竞争的建议几乎是同时提出的,而且往往互不相关。本文提供了一个国家的最先进的审查功能选择,侧重于惩罚似然和贝叶斯的概念,在一个统一的框架中相互关联的各种方法。在实证比较中,也包括提升,我们通过应用程序来评估几种方法,模拟和真实数据,从而提供一些指导,在实践中的性能。
2013-03-04 stat.ME
Calibrated Bayesian inference for random fields on large irregular domains using the debiased spatial Whittle likelihood
针对空间数据Whittle似然存在偏差的问题,提出基于去偏空间Whittle似然并结合复合似然调整的平稳随机场贝叶斯推断方法,在保持准线性计算时间的同时实现了校准良好的后验,并验证了其有效性。
2025-05-29 stat.ME
Sequential Selection for Accelerated Life Testing via Approximate Bayesian Inference
加速寿命试验(ALT)通常用于评估材料在所需应力水平下的寿命可靠性。材料工程的最新进展使各种材料替代品变得容易获得。为了确定最可靠的材料设置与有效的试验设计,一个连续的测试计划策略是首选。为了保证一个易于处理的统计机制的信息收集和更新,我们开发了明确的模型参数更新公式,通过近似贝叶斯推断。理论表明,我们的显式更新公式给出了一致的参数估计。仿真研究和算例分析表明,与其他设计方法相比,所提出的序贯选择方法可以显著提高确定最佳可靠性性能材料方案的概率。
2020-01-16 stat.ME
An approximate Bayesian marginal likelihood approach for estimating finite mixtures
当混合分布的支持未知时,有限混合模型的估计是一个重要的问题。本文提出了一种新的基于边际似然的未知支持度估计方法。受贝叶斯Dirichlet先验模型的启发,提出了一种计算效率高的边际似然随机逼近形式,并给出了大样本理论。通过将支持度限制在有限网格上,采用模拟退火方法来最大化边际似然并估计支持度。实际和模拟数据的例子表明,这种新的随机逼近-模拟退火过程优于现有的方法。
2012-02-13 stat.CO stat.ME
Fully Bayesian Sequential Design for Heteroscedastic Stochastic Simulations
Department of Statistics and Actuarial Science, University of Waterloo(滑铁卢大学统计与精算科学系)
针对异方差随机模拟模型,提出一种基于双高斯过程和期望贝叶斯积分均方预测误差的完全贝叶斯序贯设计策略,有效提升有限预算下的预测精度和不确定性量化。
2026-07-03 stat.ME
A Comparative Tutorial of Bayesian Sequential Design and Reinforcement Learning
强化学习(RL)是一种在序列决策问题中进行奖励驱动学习的计算方法。它通过从与环境交互的代理中学习而不是从监督数据中学习来实现最佳动作的发现。我们对比和比较RL与传统的序贯设计,重点是基于模拟的贝叶斯序贯设计(BSD)。最近,人们对用于医疗保健应用的RL技术越来越感兴趣。我们介绍两个相关的应用程序作为激励的例子。在这两个应用程序中,决策的顺序性质仅限于顺序停止。而不是一个全面的调查,讨论的重点是使用标准工具的解决方案,这两个相对简单的顺序停止问题。这两个问题的灵感来自适应性临床试验设计。我们使用例子来解释每个框架的术语和数学背景,并将一个映射到另一个。实现和结果说明了RL和BSD之间的许多相似之处。这些结果激发了对每种方法的潜在优势和局限性的讨论。
2022-10-05 stat.ME
Bayesian Nonparametric Quasi Likelihood
本文提出 Wedderburn 拟似然的贝叶斯非参数扩展,利用贝叶斯加性回归树建模均值函数,为异方差等复杂数据提供统一高效的推断框架,并解决了散度参数的推断难题。
2024-05-31 stat.ME stat.OT
Inherent Difficulties of Non-Bayesian Likelihood-based Inference, as Revealed by an Examination of a Recent Book by Aitkin
几十年来,统计学家一直试图在不打破贝叶斯鸡蛋的情况下准备贝叶斯煎蛋卷;也就是说,在不依赖信息丰富的先验分布的情况下获得基于概率似然的推断。最近的一个例子是Murray Aitkin的新书《{ \em统计推断}》,其中提出了一种基于竞争模型下可能性的后验分布比较的统计假设检验方法。Aitkin通过一些简单的例子,从iid数据和双向独立性测试中推断出他的方法。我们在这份说明中分析了其中采用的推理范式的一些后果,讨论了为什么这种方法是不兼容的贝叶斯的角度来看,为什么我们不认为它相关的应用工作。
2011-11-06 stat.ME stat.OT
Spectral domain likelihoods for Bayesian inference in time-varying parameter models
本文研究时变参数模型贝叶斯推断中频域似然近似的有限样本精度,通过三个模拟研究评估多种频域似然函数,并在鸡蛋价格数据上加以验证。
2024-11-21 stat.ME
Synthetic likelihood in misspecified models
Monash University(莫纳什大学);National University of Singapore(新加坡国立大学);Queensland University of Technology(昆士兰科技大学)
研究分析了在模型不恰当情况下合成似然后验行为,揭示其可能呈现非标准特性如多模态和非高斯性,并指出传统鲁棒方法在合成似然中的不足。
2026-04-16 math.ST stat.ME stat.TH
Retrospective-prospective symmetry in the likelihood and Bayesian analysis of case-control studies
Prentice和Pyke(1979)确定,病例对照研究中比值比的最大似然估计与通过运行逻辑斯谛回归得到的结果相同:换句话说,对于这个特定目标,不正确的前瞻性模型必然等同于正确的回顾性模型。其他模型也得到了类似的结果,并且也确定了相应的贝叶斯性质成立的条件,即比值比的后验分布是相同的,无论是使用前瞻性或回顾性似然计算。在这里,我们展示了这些结果如何直接遵循某些参数的独立属性的模型和先验,并确定先验的法律,支持这种反向分析,标准和分层设计。
2013-09-27 stat.ME
Tutorial for Bayesian forensic likelihood ratio
在向法庭提交法医证据的贝叶斯范式中,建议将证据的权重概括为关于证据如何产生的两个相反假设之间的似然比(LR)。这种LR必然基于概率模型,其参数可能是不确定的。一些作者建议,作为模型参数的函数的LR值因此也应被视为不确定的,这种不确定性应告知法院。在本教程中,我们考虑一个“完全贝叶斯”解决方案的简单示例,其中模型不确定性被整合出来以产生不确定的LR值。我们表明,这种解决方案符合常识。特别是,LR幅度是可用于估计模型参数的数据量的函数。
2013-04-12 stat.AP
Sequential Bayesian Learning for Merton's Jump Model with Stochastic Volatility
跳随机波动率模型是金融计量经济学中波动率预测、投资组合风险管理和衍生品定价的核心。马尔可夫链蒙特卡罗(MCMC)算法对于波动状态变量和参数的顺序学习在计算上是不可行的,由此投资者必须在新信息到达时更新所有后验和预测密度。本文提出了一种粒子滤波和学习算法来对Merton跳跃随机波动率的后验分布进行采样。这允许过滤现货波动率和跳跃时间,以及跳跃和波动率参数的顺序更新(学习)。我们说明了我们的方法对谷歌的股票回报。我们的结论与未来的研究方向。
2016-10-31 stat.AP
Approximate Bayesian Computation via Regression Density Estimation
近似贝叶斯计算(ABC)方法,适用于当可能性是困难的或不可能的计算,是当前研究的一个活跃的话题。大多数当前的ABC算法直接近似的后验分布,但替代的,不太常见的策略是近似的似然函数。这有几个优点。首先,在某些问题中,近似似然比近似后验更容易。第二,近似的可能性允许参考分析仅基于可能性构建。第三,一旦构建了可能性的近似值,就可以直接对几种不同的先验选择进行敏感性分析,这只需要进行一次。本文的贡献是考虑回归密度估计技术近似的可能性在ABC设置。我们的似然逼近建立在最近开发的边缘自适应密度估计器的基础上,将其扩展到条件密度估计。我们的方法有利于参考贝叶斯推断,以及频率论的推理。该方法是通过一个具有挑战性的问题,推理体视学的极端,在那里我们进行频率和贝叶斯推断。
2012-12-06 stat.CO stat.ME
Sequential Bayesian Inference for Factor Analysis
我们开发了一个有效的贝叶斯序贯推理框架,通过各种数据类型,如连续,二进制和有序数据的因素分析模型观察。在连续数据的情况下,它是可能的边缘化的潜在因素,建议的方法量身定制的迭代批量重要性抽样(IBIS)的肖邦(2002年)来处理这样的模型,我们将汉密尔顿马尔可夫链蒙特卡罗。对于二进制和有序数据,我们开发了一个有效的IBIS计划来处理参数和潜在的因素,结合拉普拉斯或变分贝叶斯近似。该方法可用于通过贝叶斯因子进行序贯假设检验的背景下,已知贝叶斯因子比传统的原假设检验具有优势。此外,开发的顺序框架提供了多种好处,即使在非顺序的情况下,通过提供后验分布,模型证据和评分规则(在先决框架下),并通过提供一个更强大的替代计算方案,马尔可夫链蒙特卡罗,可以在有问题的目标分布是有用的。
2022-01-26 stat.ME
Finite Element Model Updating Using Bayesian Approach
本文比较了有限元模型修正的极大似然法和贝叶斯法。最大似然法采用遗传算法实现,贝叶斯法采用马尔可夫链蒙特卡罗实现。对一简支梁和一非对称H型结构进行了试验研究。结果表明,贝叶斯方法给出了更新的有限元模型,预测更准确的模态特性比更新的有限元模型,通过使用最大似然法。此外,发现这两种方法需要相同水平的计算负载。
2007-05-17 stat.AP
Maximum Probability and Relative Entropy Maximization. Bayesian Maximum Probability and Empirical Likelihood
工程,简要调查这里,关注两个基本方法:最大概率和贝叶斯最大概率;以及与他们的渐近实例:相对熵最大化和最大非参数似然。参数和经验的扩展后者的方法-经验最大最大熵和经验的李克图-也提到。这些方法被看作是解决某些不适定反问题的工具,分别称为Pi-问题,Phi-问题。在这两类问题,概率理由和解释各自的方法进行了讨论。
2008-04-24 math.PR math.ST stat.ME
Parallel Gaussian process surrogate Bayesian inference with noisy likelihood evaluations
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所);Aalto University(阿尔托大学);University of Edinburgh(爱丁堡大学)
我们考虑贝叶斯推断时,只有有限数量的噪声对数似然评价可以得到。例如,当将复杂的基于模拟器的统计模型拟合到数据时,会发生这种情况,并且使用合成似然(SL)方法来使用计算成本高的前向模拟来形成噪声对数似然估计。我们框架的推理任务作为一个连续的贝叶斯试验设计问题,其中的对数似然函数建模与分层高斯过程(GP)代理模型,这是用来有效地选择额外的对数似然评估位置。最近的进展的相关问题的批量贝叶斯优化的动机,我们开发了各种批量顺序的设计策略,允许并行运行一些潜在的昂贵的模拟。我们从理论和经验上分析了所产生的方法的属性。几个玩具问题和仿真模型的实验表明,我们的方法是强大的,高度并行化,样本效率。
2020-03-06 cs.LG stat.CO stat.ME
A Robust Bayesian Exponentially Tilted Empirical Likelihood Method
本文提出了一种新的贝叶斯方法来分析矩条件模型的情况下,数据可能被野值污染。该方法建立在Schennach(2005)开发的基础上,他提出了贝叶斯指数倾斜经验似然(BETEL)方法,证明了经验似然(EL)可以被解释为贝叶斯过程的非参数极限,当隐含概率从最大化熵中获得时,受到一些给定的时刻约束。考虑到离群值被认为对总体矩估计的影响,我们开发了一种新的鲁棒BETEL(RBETEL)推理方法来处理这个潜在的问题。我们展示了BETEL方法如何与Bissiri,Holmes和Walker(2016)的最新工作联系起来,他们提出了一个通过损失函数更新先验信念的一般框架。控制仿真实验进行了研究的RBETEL方法的性能。我们发现,所提出的方法产生可靠的后验推理的基本关系,嵌入在大多数的数据,即使离群值存在。该方法还说明了在一项实证研究中使用的数据集包含65个不同的陆地动物物种的大脑重量体重。
2017-12-31 stat.ME
Bayesian sequential parameter estimation with a Laplace type approximation
提出了一种基于迭代拉普拉斯近似的动态隐高斯模型固定参数的序贯推断方法。该方法提供了一个有用的计算性能和准确性之间的权衡近似真实的后验分布。近似校正,以提高模拟研究中的近似精度。基于人口的方法也被证明提供了一个更强大的推理方法。
2015-09-25 stat.CO stat.ME
Efficient Bayesian synthetic likelihood with whitening transformations
无似然方法是一种已建立的方法,用于对具有难处理的似然函数的模型执行近似贝叶斯推断。然而,它们可能需要计算。贝叶斯综合似然(Bayesian synthetic likelihood,BSL)是一种流行的方法,它用已知的、易处理的分布(通常是高斯分布)近似概括统计量的似然函数,然后使用标准的基于似然的技术执行统计推断。然而,随着汇总统计量的增加,精确估计该可能性的协方差阵所需的模型模拟数量迅速增加。这对BSL的应用提出了重大挑战,特别是在模型模拟昂贵的情况下。在这篇文章中,我们提出了白化BSL(wBSL)-一个有效的BSL方法,使用近似白化变换去相关的汇总统计在每个算法迭代。我们的经验表明,这可以减少所需的模型模拟实现BSL的数量超过一个数量级,而不会损失太多的准确性。我们探索了一系列的白化程序,并展示了一系列的模拟和真实的建模方案,从生态学和生物学的wBSL的性能。
2020-02-01 stat.CO stat.ME stat.ML
Bayesian sequential estimation of the reliability of a parallel-series system
我们给出了一个风险规避的解决方案的问题,并串联系统的可靠性估计。我们采用β-二项式模型的组件的可靠性,并假设总的样本量的经验是固定的。在子系统或组件级的分配可以是随机的。在分别对并联系统和串联系统采样的基础上,提出了一种适用于并-串联系统的混合时序采样方案。利用鞅收敛性质证明了二次损失下的贝叶斯风险的渐近最优性。
2012-04-02 stat.AP
Random forward models and log-likelihoods in Bayesian inverse problems
我们考虑使用随机正向模型和对数似然内的贝叶斯方法来反问题。当使用更便宜的随机替代来近似计算上昂贵的模型时,如在高斯过程仿真(克里金法)中或在概率数值方法领域中,自然会出现对精确正演模型或对数似然的这种随机近似。我们证明了精确和近似贝叶斯后验之间的Hellinger距离是由真实和近似对数似然之间的差异的矩所限定的。这些稳定性结果的应用实例给出随机失配模型在大数据应用和概率解的常微分方程。
2018-09-28 cs.NA math.NA math.PR
Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
提出用高斯过程模拟Metropolis-Hastings采样进程的近似贝叶斯推断框架,在有限噪声似然评估下实现高效且鲁棒的推断。
2023-08-31 stat.CO stat.ME stat.ML
Bayesian inference as iterated random functions with applications to sequential inference in graphical models
本文提出了具有半群性质的迭代随机函数的一般形式,在此形式下,精确和近似的贝叶斯后验更新可以看作是具体的例子。给出了迭代随机函数的一个收敛定理。作为一般理论的应用,我们分析的收敛行为的精确和近似的消息传递算法中出现的顺序变点检测问题,制定通过一个潜在的变量有向图模型。通过仿真实例说明了顺序推理算法及其支持理论。
2013-11-01 math.ST stat.ME stat.ML
A weighted-likelihood framework for class imbalance in Bayesian prediction models
针对预测毒理学中的类别不平衡问题,提出一种加权似然贝叶斯框架,通过按类别比例调整似然权重嵌入成本敏感学习,提升少数类预测性能,并易于在标准概率编程语言中实现。
2025-10-09 stat.AP stat.ML
Bayesian Computation with Intractable Likelihoods
本文调查计算方法的后验推理与棘手的似然,即似然函数是不可用的封闭形式,或在评估的可能性是不可行的。我们回顾了伪边缘方法,近似贝叶斯计算(ABC),交换算法,热力学积分和复合似然的最新进展,特别注意大型数据集的可扩展性的进步。我们还提到了R和MATLAB源代码,用于实现这些算法。
2020-04-08 stat.CO
BSL: An R Package for Efficient Parameter Estimation for Simulation-Based Models via Bayesian Synthetic Likelihood
贝叶斯合成似然(Bayesian synthetic似然函数,BSL)是一种用于估计复杂统计模型和随机过程的参数后验分布的常用方法。BSL通过模型模拟和密度估计来近似一个明智选择的数据汇总统计量的可能性,而不是评估可能性。与近似贝叶斯计算(ABC)等替代方法相比,当所选汇总统计量为高维时,BSL需要很少的调整,并且需要比ABC更少的模型模拟。原始的合成似然依赖于一个多元正态近似的棘手的可能性,其中的平均值和协方差估计模拟。BSL的扩展考虑用惩罚协方差估计量替换样本协方差,以减少所需模型模拟的数量。此外,半参数方法已被开发来放松正态性假设。在本文中,我们提出了一个名为BSL的R包,它将上述方法合并到一个单一的,易于使用的和连贯的软件中。R包还包括几个示例来说明如何使用该包并演示方法的实用性。
2019-07-25 stat.AP stat.CO stat.ML
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中,实现贝叶斯推断通常在计算上具有挑战性,有时计算可能性本身也很困难。当可能性难以处理时,合成可能性是一种进行推理的方法,但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然,其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明,如果汇总统计量满足中心极限定理,则合成似然后验是渐近正态的,并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明,贝叶斯合成似然比近似贝叶斯计算更有效的计算,并表现出类似的回归调整近似贝叶斯计算。基于渐近结果,第三个贡献,提出使用调整的推断方法时,可能误指定的形式,假定为合成似然的协方差阵,如对角或因子模型,以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Classification and Bayesian Optimization for Likelihood-Free Inference
某些统计模型是通过数据生成过程指定的,对于该过程,似然函数不能以封闭形式计算。标准的基于似然的推断是不可行的,但模型参数可以通过找到产生类似于观察数据的模拟数据的值来推断。这种方法至少面临两个主要困难:第一个困难是用于判断模拟数据是否与观测数据相似的差异度量的选择。第二个困难是在参数空间中的差异低的区域的计算有效的识别。我们在这里给我们最近的工作,我们通过分类和贝叶斯优化解决这两个困难的介绍。
2015-02-19 stat.CO stat.ME stat.ML
Sequential Sampling for Optimal Bayesian Classification of Sequencing Count Data
高通量技术已成为生物医学应用中比较研究的首选实践。由于测序成本或获得感兴趣的生物体而导致的有限数量的样本点需要开发有效的样品收集以最大化下游统计分析的功效。本文提出了一种在最优贝叶斯分类框架下顺序选择训练样本的方法。针对RNA测序计数数据,所提出的方法利用了具有封闭形式更新的高效吉布斯抽样过程。我们的研究结果表明,增强的分类精度,相比随机抽样。
2018-07-12 eess.SP stat.ME
Robust Generalised Bayesian Inference for Intractable Likelihoods
广义贝叶斯推断使用损失函数而不是似然更新先验信念,因此可以用于赋予针对可能的似然错误指定的鲁棒性。在这里,我们认为广义贝叶斯推断与斯坦差异作为一个损失函数,动机的应用程序中的可能性包含一个棘手的归一化常数。在这种情况下,斯坦差异规避评价的归一化常数,并产生广义后验,要么是封闭的形式或使用标准的马尔可夫链蒙特卡罗访问。在理论层面上,我们表现出一致性,渐近正态性和偏置鲁棒性的广义后验,突出这些属性是如何影响的选择斯坦差异。然后,我们提供了一系列的棘手的分布,包括应用基于核的指数族模型和非高斯图形模型的数值实验。
2022-01-11 math.ST stat.CO stat.ME
A Bayesian adaptive ensemble Kalman filter for sequential state and parameter estimation
本文提出了一种新的集合卡尔曼滤波器的序列状态和参数估计方法。该方法是完全贝叶斯和传播的联合后验密度的状态和参数随着时间的推移。为了实现该方法,我们考虑两种表示的边缘后验分布的参数:基于网格的方法和高斯近似。与现有的算法相反,新方法明确地考虑了参数的不确定性,并提供了一种正式的方法来结合不同时间段数据中的参数信息。该方法的说明和现有的方法相比,使用模拟和真实的数据。
2016-11-11 stat.CO stat.ME
Bayesian optimisation for likelihood-free cosmological inference
许多宇宙学模型只有有限数量的感兴趣的参数,但是非常昂贵的数据生成过程和难以处理的似然函数。我们解决的问题,执行无似然贝叶斯推断,从这样的黑盒模拟为基础的模型,在一个非常有限的模拟预算的约束下(通常是几千)。为此,我们采用了一种基于替代参数模型的可能性的方法。传统的方法来近似贝叶斯计算,如无似然拒绝抽样是不切实际的考虑的问题,由于缺乏知识的参数如何影响观测数据和模拟数据之间的差异。作为回应,我们使用了之前在机器学习文献中开发的策略(贝叶斯无似然推理优化,BOLFI),该策略将差异的高斯过程回归与贝叶斯优化相结合,以构建替代曲面,从而主动获取训练数据。我们扩展的方法,通过推导出一个采集函数量身定制的目的,最大限度地减少预期的不确定性的近似后验密度,在参数的方法。由此产生的算法适用于总结高斯信号和推断宇宙学参数的联合光曲线分析超新星数据的问题。我们表明,所需的模拟的数量减少了几个数量级,建议的采集功能产生更准确的后验近似,相比常见的策略。
2018-09-13 astro-ph.CO astro-ph.IM stat.AP
Bayesian inference for Gibbs random fields using composite likelihoods
吉布斯随机场在统计学中起着重要的作用,例如,自逻辑模型通常用于对定义在网格上的二进制变量的空间分布建模。然而,由于似然函数的复杂性,它们的工作是复杂的。因此,考虑对似然函数的易处理的近似是很自然的。复合似然提供了一个原则性的方法来构建这样的近似。本文的贡献是研究的性能的一组复合似然近似的背景下,贝叶斯推断。
2012-07-24 stat.CO