Bayesian Inference from Composite Likelihoods, with an Application to Spatial Extremes
复合似然越来越多地用于完全似然在分析上未知或计算上禁止的应用中。虽然最大合成似然估计具有类似于通常的极大似然估计的频率论性质,但基于合成似然的贝叶斯推断还有待探索。在本文中,我们研究使用梅特罗波利斯-黑斯廷斯算法来计算基于复合似然的伪后验分布。提出了两种调整算法的方法,并使用模拟数据集和实际降雨空间极值数据研究了它们在逼近真实后验分布方面的性能。
2011-07-06 math.ST stat.ME stat.TH
Reconciling the Bayes Factor and Likelihood Ratio for Two Non-Nested Model Selection Problems
在统计学中,有各种各样的方法来执行模型选择,所有这些方法都源于统计推断的略有不同的范例。选择一种特定方法而不是另一种方法的原因似乎完全基于哲学上的偏好。在非嵌套模型选择的情况下,两种流行的技术是贝叶斯因子和似然比。本文着重于调和的似然比和贝叶斯因子比较一对非嵌套模型在两个不同的问题框架下,典型的法医学,共同来源和特定来源的问题。我们表明,贝叶斯因子可以表示为相应的似然比函数的期望值相对于后验分布的参数给定的整个数据集的未知源的观测集(S)已根据第二个模型生成。这个表达式导致了一些有用的理论和实际结果有关的两个统计方法。这种关系在许多科学应用中是非常有意义的,在这些应用中,各种统计方法之间存在着普遍的混淆,特别是在法医学的情况下。
2019-01-28 math.ST stat.TH
Convergence analysis of data augmentation algorithms in Bayesian lasso models with log-concave likelihoods
School of Statistics University of Minnesota(明尼苏达大学统计学院)
本文研究了贝叶斯拉索模型中数据增强算法的收敛性,推导了通用收敛界并应用于三种具体模型,给出了不同模型的混合时间复杂度。
2025-12-23 math.ST stat.TH
Maximum Probability and Relative Entropy Maximization. Bayesian Maximum Probability and Empirical Likelihood
工程,简要调查这里,关注两个基本方法:最大概率和贝叶斯最大概率;以及与他们的渐近实例:相对熵最大化和最大非参数似然。参数和经验的扩展后者的方法-经验最大最大熵和经验的李克图-也提到。这些方法被看作是解决某些不适定反问题的工具,分别称为Pi-问题,Phi-问题。在这两类问题,概率理由和解释各自的方法进行了讨论。
2008-04-24 math.PR math.ST stat.ME
Calibration of conditional composite likelihood for Bayesian inference on Gibbs random fields
Université Montpellier(蒙彼利埃大学);University College Dublin(都柏林大学学院)
本文提出了一种校准方法,用于通过复合似然进行Gibbs随机场的贝叶斯推断,通过实例验证了该方法的有效性。
2015-11-18 math.ST stat.CO stat.TH
Random forward models and log-likelihoods in Bayesian inverse problems
我们考虑使用随机正向模型和对数似然内的贝叶斯方法来反问题。当使用更便宜的随机替代来近似计算上昂贵的模型时,如在高斯过程仿真(克里金法)中或在概率数值方法领域中,自然会出现对精确正演模型或对数似然的这种随机近似。我们证明了精确和近似贝叶斯后验之间的Hellinger距离是由真实和近似对数似然之间的差异的矩所限定的。这些稳定性结果的应用实例给出随机失配模型在大数据应用和概率解的常微分方程。
2018-09-28 cs.NA math.NA math.PR
Bayesian Estimation and Comparison of Moment Condition Models
在本文中,我们考虑的推断问题,统计模型的特点是矩限制铸造的问题内的指数倾斜的经验似然(ETEL)的框架。由于ETEL函数具有定义良好的概率解释,并且扮演非参数似然的角色,因此可以开发完全贝叶斯半参数框架。我们建立了一些强大的结果,围绕贝叶斯ETEL框架在这样的模型。推动我们工作的一个主要问题是错误指定的可能性。为了适应这种可能性,我们展示了如何的时刻条件可以重新表示在额外的滋扰参数,即使在误指定,贝叶斯ETEL后验分布满足伯恩斯坦冯米塞斯的结果。本文的第二个主要贡献是开发了一个基于边际似然和贝叶斯因子的框架,以比较由不同矩条件定义的模型。边缘似然的计算是通过Chib(1995)的方法进行的,该方法被扩展到Chib和Jeliazkov(2001)的Metropolis-Hastings采样器。我们建立了边际似然的模型选择一致性,并证明了边际似然有利于具有最少参数和最大有效矩约束的模型。当模型被错误指定时,边际似然模型选择程序根据库尔贝克-莱布勒散度选择更接近(未知)真实数据生成过程的模型。本文的思想和结果提供了进一步拓宽的理论基础和价值的贝叶斯ETEL框架可能具有深远的实际影响。通过几个例子说明了讨论。
2017-04-07 math.ST stat.ME stat.TH
Variational Bayes algorithm and posterior consistency of Ising model parameter estimation
伊辛模型起源于统计物理学,广泛应用于空间数据建模和计算机视觉问题。然而,该模型的统计推断仍然具有挑战性,由于棘手的性质的归一化常数的可能性。在这里,我们使用伪似然,而不是研究贝叶斯估计的两个参数,逆温度,磁化,伊辛模型与一个完全指定的耦合矩阵。我们开发了一个计算效率高的变分贝叶斯模型估计过程。在高斯平均场变分族下,我们得到了伪似然变分后验的后验收缩率。我们还讨论了伪似然方法的损失,由于变后验超过真正的后验。广泛的模拟研究验证了平均场高斯和双变量高斯家庭的伊辛模型参数的推断变分家庭的可能选择的功效。
2021-09-03 math.ST stat.ME stat.TH
Learning Bayesian Networks from Incomplete Data with the Node-Average Likelihood
贝叶斯网络(BN)的结构学习从完整的数据已被广泛研究的文献。然而,较少的理论结果可用于不完整的数据,大多数都与期望最大化(EM)算法。Balov(2013)提出了一种称为节点平均似然(NAL)的替代方法,该方法与EM竞争,但计算效率更高;他证明了其离散BN的一致性和模型可识别性。在本文中,我们给出了一般的充分条件的NAL的一致性,我们证明了一致性和可识别性的条件高斯BN,其中包括离散和高斯BN的特殊情况。此外,我们通过独立的模拟研究证实了我们的结果和Balov(2013)的结果。因此,我们表明NAL具有比Balov(2013)中最初暗示的更广泛的适用性,并且它也与EM竞争条件高斯BN。
2021-07-22 math.ST stat.ML stat.TH
MMD-Bayes: Robust Bayesian Estimation via Maximum Mean Discrepancy
CREST(Crest研究中心);ENSAE(法国国立统计与经济管理学院);Institut Polytechnique de Paris(巴黎理工学院);RIKEN Center for AI Project(理化学研究所人工智能项目中心)
在某些错误指定的设置中,贝叶斯统计中的后验分布可能导致不一致的估计。为了解决这个问题,已经建议用伪似然代替似然,伪似然是享受适当鲁棒性特性的损失函数的指数。在本文中,我们建立了一个伪似然最大均值离散的基础上,定义通过嵌入的概率分布到再生核希尔伯特空间。我们表明,这种MMD-Bayes后验是一致的和强大的模型误设定。由于以这种方式获得的后验可能是棘手的,我们还证明了合理的变分近似后享有相同的属性。我们提供的随机梯度算法来计算这些变分近似的细节。数值模拟确实表明,我们的估计是更强大的误指定比的基础上的可能性。
2019-12-11 cs.LG math.ST stat.ML
On the nonparametric maximum likelihood estimator for Gaussian location mixture densities with application to Gaussian denoising
本文研究了非参数最大似然估计(NPMLE)在$d$ -维中从独立观测值估计高斯位置混合密度的方法。与通常的基于似然的混合拟合方法不同,NPMLE基于凸优化。我们证明了有限样本结果的Hellinger精度的每一个NPMLE。我们的结果特别意味着,当真实密度是离散高斯混合物,并且没有任何有关混合分量数量的先验信息时,每个NPMLE都实现了接近参数风险(直至对数乘法因子)。在高斯去噪问题中,NPMLE可以自然地用于产生Oracle Bayes估计器的经验贝叶斯估计。我们证明的准确性的经验贝叶斯估计作为一个近似的Oracle贝叶斯估计的界限。在这里,我们的研究结果意味着,经验贝叶斯估计执行在聚类情况下去噪的最佳水平(对数乘法因子),没有任何先验知识的集群的数量。
2019-07-07 math.ST stat.CO stat.ML
Using Data to Tune Nearshore Dynamics Models: A Bayesian Approach with Parametric Likelihood
我们提出了一个修改的极大似然程序调整模型中的参数值,根据比较他们的输出到现场数据。我们的方法,它使用多项式近似的样本空间,以提高计算效率,不同于类似的贝叶斯估计框架中使用的另一种似然分布,被证明是更好地解决问题,其中协方差信息是缺乏的,比其更传统的对应。缺乏协方差信息是大规模地球物理估计中经常遇到的挑战。在这里考虑的地球物理问题中就是这种情况。我们使用近岸模型的长岸流和观测数据相同的显示两个极大似然方法之间的对比。除了方法比较,这项研究给出了底阻力和表面强迫,使特定的模型最符合数据的参数值的估计,此外,我们还得到敏感性估计,提供有用的见解,关于估计过程以及模型本身。
2013-07-02 math.ST physics.ao-ph physics.data-an
E-values as statistical evidence: A comparison to Bayes factors, likelihoods, and p-values
Carnegie Mellon University(卡内基梅隆大学);Leiden University and Centrum Wiskunde & Informatica(莱顿大学和荷兰数学与计算机科学研究中心)
本文比较了e值和e过程与p值、似然比和贝叶斯因子在证据测量中的特性,指出e值具有自然组合、处理复合假设、长期误差率等优势,且e过程能处理选择停止和继续,值得作为可解释的证据测量方法考虑。
2026-08-28 math.ST stat.ME stat.OT