Convergence analysis of data augmentation algorithms in Bayesian lasso models with log-concave likelihoods
School of Statistics University of Minnesota（明尼苏达大学统计学院）
本文研究了贝叶斯拉索模型中数据增强算法的收敛性，推导了通用收敛界并应用于三种具体模型，给出了不同模型的混合时间复杂度。
2025-12-23 math.ST stat.TH
Relations Between the Conditional Normalized Maximum Likelihood Distributions and the Latent Information Priors
我们揭示了条件归一化最大似然（CNML）分布和贝叶斯预测密度的基础上的潜在信息先验（LIPs）之间的关系。特别地，CNML 3，这是一种类型的CNML分布，进行了研究。预测密度的贝叶斯投影，这是一个信息投影的预测密度的贝叶斯预测密度的集合，被认为是。我们证明了CNML 3的Bayes投影散度与条件互信息之和是渐近常数。这一结果意味着CNML 3的贝叶斯投影（BPCNML 3）与基于LIP的贝叶斯预测密度渐近相同。此外，在一些更强的假设下，我们证明了BPCNML 3与基于LIP的贝叶斯预测密度完全一致。
2014-12-25 math.ST stat.TH
Markov Equivalence of Max-Linear Bayesian Networks
最大线性贝叶斯网络已经成为高度适用的模型，因果推理通过极值数据。然而，条件独立性（CI）的最大线性贝叶斯网络的行为不同于经典的高斯贝叶斯网络。我们通过热带化建立了两种理论之间的平行关系，并建立了令人惊讶的结果，即最大线性贝叶斯网络的马尔可夫等价类与常规CI所获得的等价类相一致。我们的论文在极值统计、因果推理和热带几何的交叉点上提出了许多问题。
2021-06-15 math.AG math.CO math.ST
Maximum Probability and Relative Entropy Maximization. Bayesian Maximum Probability and Empirical Likelihood
工程，简要调查这里，关注两个基本方法：最大概率和贝叶斯最大概率;以及与他们的渐近实例：相对熵最大化和最大非参数似然。参数和经验的扩展后者的方法-经验最大最大熵和经验的李克图-也提到。这些方法被看作是解决某些不适定反问题的工具，分别称为Pi-问题，Phi-问题。在这两类问题，概率理由和解释各自的方法进行了讨论。
2008-04-24 math.PR math.ST stat.ME
Calibration of conditional composite likelihood for Bayesian inference on Gibbs random fields
Université Montpellier（蒙彼利埃大学）；University College Dublin（都柏林大学学院）
本文提出了一种校准方法，用于通过复合似然进行Gibbs随机场的贝叶斯推断，通过实例验证了该方法的有效性。
2015-11-18 math.ST stat.CO stat.TH
Random forward models and log-likelihoods in Bayesian inverse problems
我们考虑使用随机正向模型和对数似然内的贝叶斯方法来反问题。当使用更便宜的随机替代来近似计算上昂贵的模型时，如在高斯过程仿真（克里金法）中或在概率数值方法领域中，自然会出现对精确正演模型或对数似然的这种随机近似。我们证明了精确和近似贝叶斯后验之间的Hellinger距离是由真实和近似对数似然之间的差异的矩所限定的。这些稳定性结果的应用实例给出随机失配模型在大数据应用和概率解的常微分方程。
2018-09-28 cs.NA math.NA math.PR
Robust Generalised Bayesian Inference for Intractable Likelihoods
广义贝叶斯推断使用损失函数而不是似然更新先验信念，因此可以用于赋予针对可能的似然错误指定的鲁棒性。在这里，我们认为广义贝叶斯推断与斯坦差异作为一个损失函数，动机的应用程序中的可能性包含一个棘手的归一化常数。在这种情况下，斯坦差异规避评价的归一化常数，并产生广义后验，要么是封闭的形式或使用标准的马尔可夫链蒙特卡罗访问。在理论层面上，我们表现出一致性，渐近正态性和偏置鲁棒性的广义后验，突出这些属性是如何影响的选择斯坦差异。然后，我们提供了一系列的棘手的分布，包括应用基于核的指数族模型和非高斯图形模型的数值实验。
2022-01-11 math.ST stat.CO stat.ME
Likelihood ratios and Bayesian inference for Poisson channels
近年来，无限维方法已被引入高斯信道估计。本文的目的是研究类似方法在泊松信道中的应用。特别是，我们使用似然比和离散Malliavin梯度计算泊松信道的贝叶斯估计。该算法适合于通过Monte-Carlo方法进行数值实现。作为应用，我们给出了Guo，Shamai和Verduú最近得到的关于时间连续Poisson信道的输入-输出互信息的一些导数与输入的条件均值估计的公式的一个新的证明.这些结果，然后扩展到混合高斯泊松信道。
2009-02-11 cs.IT math.IT math.ST
Likelihood distortion and Bayesian local robustness
ETH Zurich（苏黎世联邦理工学院）；Università della Svizzera italiana（瑞士意大利语大学）；National Research Council of Italy（意大利国家研究委员会）；University of Insubria（因斯布鲁克大学）
提出新的贝叶斯局部稳健性方法，先聚焦似然函数稳健性，后扩展到先验及二者联合，基于扭曲函数概念，该度量易处理计算，推导渐近性质并通过数值实验验证其理论及建模适用性。
2026-07-28 math.ST stat.ME stat.TH
Learning Bayesian Networks from Incomplete Data with the Node-Average Likelihood
贝叶斯网络（BN）的结构学习从完整的数据已被广泛研究的文献。然而，较少的理论结果可用于不完整的数据，大多数都与期望最大化（EM）算法。Balov（2013）提出了一种称为节点平均似然（NAL）的替代方法，该方法与EM竞争，但计算效率更高;他证明了其离散BN的一致性和模型可识别性。在本文中，我们给出了一般的充分条件的NAL的一致性，我们证明了一致性和可识别性的条件高斯BN，其中包括离散和高斯BN的特殊情况。此外，我们通过独立的模拟研究证实了我们的结果和Balov（2013）的结果。因此，我们表明NAL具有比Balov（2013）中最初暗示的更广泛的适用性，并且它也与EM竞争条件高斯BN。
2021-07-22 math.ST stat.ML stat.TH
Bayesian Estimation and Comparison of Moment Condition Models
在本文中，我们考虑的推断问题，统计模型的特点是矩限制铸造的问题内的指数倾斜的经验似然（ETEL）的框架。由于ETEL函数具有定义良好的概率解释，并且扮演非参数似然的角色，因此可以开发完全贝叶斯半参数框架。我们建立了一些强大的结果，围绕贝叶斯ETEL框架在这样的模型。推动我们工作的一个主要问题是错误指定的可能性。为了适应这种可能性，我们展示了如何的时刻条件可以重新表示在额外的滋扰参数，即使在误指定，贝叶斯ETEL后验分布满足伯恩斯坦冯米塞斯的结果。本文的第二个主要贡献是开发了一个基于边际似然和贝叶斯因子的框架，以比较由不同矩条件定义的模型。边缘似然的计算是通过Chib（1995）的方法进行的，该方法被扩展到Chib和Jeliazkov（2001）的Metropolis-Hastings采样器。我们建立了边际似然的模型选择一致性，并证明了边际似然有利于具有最少参数和最大有效矩约束的模型。当模型被错误指定时，边际似然模型选择程序根据库尔贝克-莱布勒散度选择更接近（未知）真实数据生成过程的模型。本文的思想和结果提供了进一步拓宽的理论基础和价值的贝叶斯ETEL框架可能具有深远的实际影响。通过几个例子说明了讨论。
2017-04-07 math.ST stat.ME stat.TH
Generalised Bayesian distance-based phylogenetics for the genomics era
本文提出基于熵似然的距离法系统发育学扩展，在基因组规模数据上实现快速贝叶斯推断，并在鸟类大数据集上验证了其高效性与可靠性。
2025-02-06 math.ST q-bio.PE stat.TH
An Equivalence between Bayesian Priors and Penalties in Variational Inference
Université Paris-Saclay（巴黎萨克雷大学）；Inria Saclay（法国国家信息与自动化研究所萨克雷分部）；Meta AI Research（元人工智能研究部门）
本文证明了变分推断中贝叶斯先验与正则化惩罚之间的等价性，给出了从惩罚计算先验的系统方法，并揭示了保持贝叶斯性质的约束条件。
2024-02-07 cs.LG math.ST stat.ML
Mixture representations and Bayesian nonparametric inference for likelihood ratio ordered distributions
本文利用混合表示刻画似然比有序分布，提出基于Dirichlet过程混合的非参数贝叶斯密度估计方法，首次证明有序约束下的后验相合性，并给出MCMC算法及生物医学应用。
2023-10-26 math.ST stat.ME stat.TH
Bayesian model selection consistency and oracle inequality with intractable marginal likelihood
在这篇文章中，我们研究了大样本性质的模型选择过程中的一般贝叶斯框架时，封闭形式的表达的边缘似然函数是不可用的或局部渐近二次近似的对数似然函数不存在。在真实模型的适当可辨识性假设下，我们提供了贝叶斯模型选择过程是一致的并服从奥卡姆剃刀现象的充分条件，即，当样本量趋于无穷大时，选择包含真值的“最小”模型的概率趋于1。为了表明贝叶斯模型选择过程选择包含真理的最小模型，我们施加了先验反集中条件，要求由大模型分配给真理邻域的先验质量足够小。在一个更一般的设置，强模型可识别性假设可能不成立，我们引入了局部贝叶斯复杂性的概念，并开发贝叶斯模型选择过程的预言不等式。我们的贝叶斯预言不等式的特点之间的权衡近似误差和贝叶斯表征的局部复杂性的模型，说明了自适应性质的平均为基础的贝叶斯程序实现最佳的后验收敛率。模型选择理论的具体应用进行了讨论的背景下，高维非参数回归和密度回归的回归函数或条件密度被假定为依赖于一个固定的子集的预测。作为独立兴趣的结果，我们提出了一种获得平稳高斯过程小球概率上界的一般方法。
2017-01-09 math.ST stat.ME stat.ML
Posteriors, conjugacy, and exponential families for completely random measures
我们演示了如何计算后验一般CRM为基础的先验和似然贝叶斯非参数模型。我们进一步展示了如何表示贝叶斯非参数先验作为一个序列的有限提请使用大小偏置的方法-以及如何表示完整的贝叶斯非参数模型通过有限的边际。出于共轭先验的基础上指数族表示的可能性，我们引入了一个概念的指数族标准物质，我们称之为指数标准物质。这种结构使我们能够指定自动贝叶斯非参数共轭先验指数CRM似然。我们证明，我们的指数标准物质允许特别简单的配方贝叶斯非参数模型的大小偏置和边际表示。一路上，我们证明了伽玛过程是一个共轭先验的泊松似然过程和β素数过程是一个共轭先验的过程，我们称之为赔率伯努利过程。我们提供了一个大小偏置的伽玛过程和伽玛过程的边缘表示加上泊松似然过程。
2016-04-22 math.ST stat.ME stat.TH
Complexity analysis of Bayesian learning of high-dimensional DAG models and their equivalence classes
本文证明了高维稀疏等价类贝叶斯结构学习的多项式复杂性及快速混合性，通过推导有限状态空间混合时间界限和构建高概率搜索路径，为MCMC结构学习提供了理论保证。
2023-04-06 math.ST stat.CO stat.TH
Using Data to Tune Nearshore Dynamics Models: A Bayesian Approach with Parametric Likelihood
我们提出了一个修改的极大似然程序调整模型中的参数值，根据比较他们的输出到现场数据。我们的方法，它使用多项式近似的样本空间，以提高计算效率，不同于类似的贝叶斯估计框架中使用的另一种似然分布，被证明是更好地解决问题，其中协方差信息是缺乏的，比其更传统的对应。缺乏协方差信息是大规模地球物理估计中经常遇到的挑战。在这里考虑的地球物理问题中就是这种情况。我们使用近岸模型的长岸流和观测数据相同的显示两个极大似然方法之间的对比。除了方法比较，这项研究给出了底阻力和表面强迫，使特定的模型最符合数据的参数值的估计，此外，我们还得到敏感性估计，提供有用的见解，关于估计过程以及模型本身。
2013-07-02 math.ST physics.ao-ph physics.data-an
Hybrid Bayesian Estimation in the additive hazards model
针对右删失数据下的半参数加性风险模型，提出一种结合Lin-Ying估计方程的混合贝叶斯估计方法，获得闭式后验估计量，并通过模拟和Nickels矿工数据集验证。
2025-05-27 math.ST stat.ME stat.TH
Bayesian Computation with Intractable Likelihoods
本文调查计算方法的后验推理与棘手的似然，即似然函数是不可用的封闭形式，或在评估的可能性是不可行的。我们回顾了伪边缘方法，近似贝叶斯计算（ABC），交换算法，热力学积分和复合似然的最新进展，特别注意大型数据集的可扩展性的进步。我们还提到了R和MATLAB源代码，用于实现这些算法。
2020-04-08 stat.CO
General Bayesian Updating and the Loss-Likelihood Bootstrap
在本文中，我们重新审视加权似然自助法，一种从参数模型的近似贝叶斯后验生成样本的方法。我们表明，相同的方法可以得到，没有近似，在贝叶斯非参数模型与参数定义为最小化预期的负对数似然未知的抽样分布下的利益。这种解释使我们能够将加权似然自助法扩展到参数的后验抽样，以最大限度地减少预期损失。我们称这种方法为损失似然自助法。我们在此和一般贝叶斯更新之间建立了联系，贝叶斯更新是一种更新先验置信分布的方法，而无需构建全局概率模型，但需要校准两种形式的损失函数。损失似然自举法用于通过匹配渐近费舍尔信息来校准一般贝叶斯后验。我们证明了一些例子的方法。
2018-05-22 stat.ME stat.ML
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中，实现贝叶斯推断通常在计算上具有挑战性，有时计算可能性本身也很困难。当可能性难以处理时，合成可能性是一种进行推理的方法，但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然，其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明，如果汇总统计量满足中心极限定理，则合成似然后验是渐近正态的，并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明，贝叶斯合成似然比近似贝叶斯计算更有效的计算，并表现出类似的回归调整近似贝叶斯计算。基于渐近结果，第三个贡献，提出使用调整的推断方法时，可能误指定的形式，假定为合成似然的协方差阵，如对角或因子模型，以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Equivalence between hybrid CLs and bayesian methods for limit setting
讨论了混合CL法和平衡法在极限设定中的关系。结果表明，这两种方法是等效的，在单通道的情况下，即使背景产量是不完全知道。本文件仅考虑计数实验。
2014-04-04 stat.ME
Quantification of observed prior and likelihood information in parametric Bayesian modeling
本文提出了两种与数据相关的信息度量来量化参数贝叶斯模型中先验和似然函数的信息，其中一种与Berger，Bernardo和Sun提出的参考先验和Lindley提出的信息度量密切相关.理论，经验和计算支持的组合提供的证据表明，这些信息理论指标可能是有用的诊断工具时，执行贝叶斯分析。
2017-09-07 cs.IT math.IT stat.AP
Bayesian inference for Gibbs random fields using composite likelihoods
吉布斯随机场在统计学中起着重要的作用，例如，自逻辑模型通常用于对定义在网格上的二进制变量的空间分布建模。然而，由于似然函数的复杂性，它们的工作是复杂的。因此，考虑对似然函数的易处理的近似是很自然的。复合似然提供了一个原则性的方法来构建这样的近似。本文的贡献是研究的性能的一组复合似然近似的背景下，贝叶斯推断。
2012-07-24 stat.CO
Transformations in Semi-Parametric Bayesian Synthetic Likelihood
贝叶斯合成似然（Bayesian synthetic likelihood，BSL）是一种在似然函数难以处理的情况下进行近似贝叶斯推断的常用方法。在合成似然方法中，似然函数通过模型模拟进行参数近似，然后使用标准的基于似然的技术来执行推断。高斯合成似然估计已成为无处不在的BSL文献，主要是因为它的简单性和易于实现。然而，它通常限制性太强，并可能导致较差的后验近似。最近，一个更灵活的半参数贝叶斯合成似然（semiBSL）估计已被引入，这是显着更强大的不规则分布的汇总统计量。在这项工作中，我们提出了一些扩展semiBSL。首先，我们考虑使用变换核密度估计的边缘分布的更灵活的估计。其次，我们提出了白化semiBSL（wsemiBSL）-显着提高semiBSL的计算效率的方法。wsemiBSL在每次算法迭代时使用近似白化变换来解相关汇总统计量。本文开发的方法显着提高了BSL算法的通用性和效率。
2020-07-03 stat.CO stat.ME
Bayesian Elastic Net based on Empirical Likelihood
我们提出了一个贝叶斯弹性网，使用经验似然和开发一个有效的调整哈密顿蒙特卡罗后验采样。该模型放松了对误差分布的假设，当变量高度相关时表现良好，并通过提供回归系数的后验分布来进行更直接的推断。在贝叶斯经验似然中实现的哈密顿蒙特卡罗方法克服了后验分布缺乏封闭的解析形式和其域是非凸的挑战。提出了贝叶斯经验似然的蛙跳参数整定算法。我们还证明了回归系数的后验分布是渐近正态的。仿真研究和实际数据分析表明，所提出的方法在预测精度的优势。
2022-07-18 stat.CO stat.ME
Likelihood ratio for a binary Bayesian classifier under a noise-exclusion model
University of Houston（休斯顿大学）
本文提出了一种新的统计理想观察者模型，用于二元贝叶斯分类器在噪声排除模型下的似然比计算，应用于医学图像感知、计算机视觉和目标检测等领域。
2026-01-12 cs.CV math.ST stat.CO
A partial likelihood approach to tree-based density modeling and its application in Bayesian inference
本文提出用Cox偏似然解决基于树的贝叶斯密度建模中数据依赖划分导致的数据双重使用问题，在保持推断一致性的同时提升估计精度和计算效率。
2025-04-10 math.ST stat.CO stat.ME
A subsampling approach for Bayesian model selection
在广义线性模型（GLM）的贝叶斯版本中，通常使用拉普拉斯近似来计算边际似然。边缘似然结合模型先验，然后在不同的搜索算法中使用，以计算模型和个体协变量的后验边缘概率。这允许执行贝叶斯模型选择和模型平均。对于大样本量，即使是拉普拉斯近似在计算上也变得具有挑战性，因为所涉及的优化例程需要在多次迭代中评估完整数据集的可能性。因此，该算法对于大型数据集是不可扩展的。为了解决这个问题，我们建议使用一个版本的流行的批量随机梯度下降（BSGD）算法估计的GLM的边际似然从数据的二次抽样。我们进一步结合该算法与马尔可夫链蒙特卡罗（MCMC）为基础的贝叶斯模型选择的方法，并提供了一些理论结果的收敛性估计。最后，我们报告的实验结果说明所提出的算法的性能。
2022-01-31 math.ST stat.CO stat.ME
Efficient Bayesian Inference for Spatial Point Patterns Using the Palm Likelihood
North Carolina State University（北卡罗来纳州立大学）；Department of Statistics, North Carolina State University（北卡罗来纳州立大学统计系）
本文提出在贝叶斯框架下利用 Palm 似然进行空间点模式推断，并通过两种校准方法修正后验覆盖不足问题，在保证统计性能的同时显著提升计算效率。
2026-09-29 stat.CO stat.ME
A Transformational Characterization of Unconditionally Equivalent Bayesian Networks
KTH Royal Institute of Technology（瑞典皇家理工学院）
我们考虑的问题，表征贝叶斯网络的无条件等价，即，当有向无环图（DAG）具有相同的无条件$d$分离语句集时。每个无条件等价类（UEC）是唯一表示的无向图的团结构编码的类的成员。通过这种结构，我们提供了无条件等价的转换表征;即，我们表明，两个DAG是在同一UEC当且仅当一个可以通过一个有限序列的指定移动到其他转换。我们还扩展了这种特征的基本图表示的马尔可夫等价类（MEC）的UEC。UEC划分MEC的空间，并且很容易从边缘独立性测试中估计。因此，无条件等价的表征在涉及搜索贝叶斯网络的MEC空间的方法中具有应用。
2022-08-10 cs.LG math.CO math.ST
Bayesian Synthetic Likelihood
本文介绍贝叶斯合成似然（BSL）方法，用于似然不可计算但可模拟的模型中的后验推断，并概述其可扩展稳健的扩展。
2023-05-10 stat.CO stat.ME
A Note on Using Discretized Simulated Data to Estimate Implicit Likelihoods in Bayesian Analyses
本文提出了一种贝叶斯推理方法，其中模型的可能性是未知的，但数据可以很容易地从模型中模拟。我们离散化模拟（连续）数据，估计隐含的可能性在贝叶斯分析采用马尔可夫链蒙特卡罗算法。三个例子，以及一个小的研究方法的一些属性。
2020-08-07 stat.ME
Generalised Bayesian Inference for Discrete Intractable Likelihood
针对离散不可处理似然，提出基于离散Fisher散度的一般化贝叶斯推断方法，绕过归一化常数，实现低计算成本的后验采样与校准。
2023-09-01 math.ST stat.CO stat.ME
Likelihoods and Parameter Priors for Bayesian Networks
我们开发了构建似然性和参数先验的简单方法，以了解贝叶斯网络的参数和结构。特别是，我们引入了几个假设，允许建设的似然性和参数先验的大量贝叶斯网络结构，从一个小的评估。最值得注意的假设是似然等价，即数据不能帮助区分编码相同条件独立断言的网络结构。我们描述了从这些假设遵循的结构，并提出了一种方法，用于直接计算的边际似然的随机样本没有丢失的意见。此外，我们展示了这些假设如何导致一个一般的框架来表征参数先验的多元分布。
2021-06-29 cs.LG stat.ML
Regularized Exponentially Tilted Empirical Likelihood for Bayesian Inference
The Ohio State University（俄亥俄州立大学）
本文提出正则化指数倾斜经验似然方法，通过引入连续指数族分布和正则化技术，解决后验域为原参数空间子集的问题，提升有限样本性能。
2026-10-05 stat.ME
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断，和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵，并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋，我们表明，我们的方法提供了准确的推断尺寸高达512 × 512的格子，并优于两个流行的方法：复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Expectation-Propagation for Bayesian Empirical Likelihood Inference
College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；School of Mathematics and Statistics, The University of Melbourne（墨尔本大学数学与统计学院）
本文提出基于期望传播的变分方法近似贝叶斯经验似然后验，解决其计算挑战，在小样本下实现更优成本-精度权衡，且理论上近似与目标后验渐近等价。
2026-08-05 stat.CO stat.ME
Learning Equivalence Classes of Bayesian Networks Structures
University of California at Los Angeles（加州大学洛杉矶分校）
从数据中学习贝叶斯网络的方法通常将评分函数与启发式搜索过程相结合。给定贝叶斯网络结构，文献中导出的许多评分函数返回该结构所属的整个等价类的分数。当使用这样的评分函数时，启发式搜索算法适合搜索贝叶斯网络的等价类，而不是单个结构。我们提出的一般配方的搜索空间的搜索状态对应的等价类的结构。使用这个空间，可以容易地应用许多启发式搜索算法中的任何一个。我们比较贪婪的搜索性能在建议的搜索空间的贪婪搜索性能的搜索空间的状态对应于个人贝叶斯网络结构。
2013-02-13 cs.AI cs.LG stat.ML
Assigning a value to a power likelihood in a general Bayesian model
贝叶斯数据分析和机器学习方法是广泛和流行的，因为它们为从数据中学习提供了直观而严格的公理;参见Bernardo and Smith（2004）and Bishop（2006）。然而，这种严格性伴随着一个警告，即贝叶斯模型是自然的精确反映。最近的趋势是通过将似然函数提高到幂来解决潜在的模型误设定，主要是出于鲁棒性原因，但不完全是。在本文中，我们提供了一个连贯的规范的功率参数，一旦贝叶斯模型已指定在没有一个完美的模型。
2017-01-30 stat.ME
Randomized Maximum Likelihood via High-Dimensional Bayesian Optimization
本文提出基于高斯过程代理模型的高维贝叶斯优化方法求解随机最大似然问题，并在医学和磁流体动力学等贝叶斯逆问题中验证了其优于传统优化方法。
2024-09-04 stat.CO
Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据，证明其渐近正态性，用于构建置信区间，数值研究表明其优于传统方法。
2023-09-13 stat.ME
Adaptive Gaussian process approximation for Bayesian inference with expensive likelihood functions
我们考虑计算密集型似然函数的贝叶斯推断问题。我们提出了一种基于高斯过程（GP）的方法来近似未知参数和数据的联合分布。特别是，我们写的联合密度近似为一个近似的后验密度和一个exponentiated GP代理的产品。然后，我们提供了一个自适应算法来构建这样的近似，其中使用主动学习方法来选择设计点。数值例子表明，该方法具有竞争力的性能对现有的贝叶斯计算方法。
2018-03-14 stat.CO stat.ML
Approximate Bayesian Computing for Spatial Extremes
用于模拟空间极值的最大稳定过程的统计分析受到计算联合似然函数的困难的限制。这排除了所有标准的基于可能性的方法，包括贝叶斯方法。在本文中，我们提出了一个贝叶斯方法，通过使用近似贝叶斯计算。这避免了联合似然函数的需要，而是依赖于来自（不可用的）似然的模拟。该方法与基于复合似然的另一种方法进行了比较。我们表明，近似贝叶斯计算可以导致较低的均方误差比复合似然方法估计的极端空间依赖性时，虽然在一个明显更高的计算成本。我们还说明了该方法的性能与应用程序，美国的温度数据估计作物损失的风险，由于不太可能冻结事件。
2011-12-13 stat.CO stat.ME
Parallel Gaussian process surrogate Bayesian inference with noisy likelihood evaluations
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）；University of Edinburgh（爱丁堡大学）
我们考虑贝叶斯推断时，只有有限数量的噪声对数似然评价可以得到。例如，当将复杂的基于模拟器的统计模型拟合到数据时，会发生这种情况，并且使用合成似然（SL）方法来使用计算成本高的前向模拟来形成噪声对数似然估计。我们框架的推理任务作为一个连续的贝叶斯试验设计问题，其中的对数似然函数建模与分层高斯过程（GP）代理模型，这是用来有效地选择额外的对数似然评估位置。最近的进展的相关问题的批量贝叶斯优化的动机，我们开发了各种批量顺序的设计策略，允许并行运行一些潜在的昂贵的模拟。我们从理论和经验上分析了所产生的方法的属性。几个玩具问题和仿真模型的实验表明，我们的方法是强大的，高度并行化，样本效率。
2020-03-06 cs.LG stat.CO stat.ME
Bayesian Autoencoders: Analysing and Fixing the Bernoulli likelihood for Out-of-Distribution Detection
University of Cambridge（剑桥大学）
在自动编码器（AE）已经学会重建一个数据集之后，可以预期分布外（OOD）输入的可能性将很低。这已经被研究作为一种方法来检测OOD输入。最近的工作表明，这种直观的方法可能会失败的数据集对FashionMNIST与MNIST。本文认为这是由于使用了伯努利似然法，并分析了为什么会出现这种情况，提出了两个解决方案：1）使用贝叶斯版本的AE计算似然估计的不确定性。2)使用替代分布对可能性进行建模。
2021-07-28 cs.LG stat.ML
Efficient Multifidelity Likelihood-Free Bayesian Inference with Adaptive Computational Resource Allocation
无似然贝叶斯推断算法是用于校准复杂随机模型的参数的流行方法，当观察数据的似然性难以处理时需要。这些算法的特点是严重依赖于重复的模型模拟。然而，每当模拟的计算成本甚至是适度昂贵的，显着的负担所产生的似然自由算法离开他们在许多实际应用中是不可行的。已经引入了多保真度方法（最初是在近似贝叶斯计算的上下文中），通过使用模拟计算上便宜的近似模型代替感兴趣的模型所提供的信息，来减少无可能性推理的模拟负担，而不损失准确性。这项工作的第一个贡献是证明多保真度技术可以应用于一般的似然自由贝叶斯推断设置。在不同的保真度水平的模拟计算资源的最佳分配的分析结果，并随后实际实施。我们提供了一个自适应的多保真度似然自由推理算法，学习模型之间的关系，在不同的精度，并相应地适应资源分配，并证明该算法产生后验估计与接近最佳的效率。
2021-12-22 q-bio.QM stat.CO
An approximate Bayesian marginal likelihood approach for estimating finite mixtures
当混合分布的支持未知时，有限混合模型的估计是一个重要的问题。本文提出了一种新的基于边际似然的未知支持度估计方法。受贝叶斯Dirichlet先验模型的启发，提出了一种计算效率高的边际似然随机逼近形式，并给出了大样本理论。通过将支持度限制在有限网格上，采用模拟退火方法来最大化边际似然并估计支持度。实际和模拟数据的例子表明，这种新的随机逼近-模拟退火过程优于现有的方法。
2012-02-13 stat.CO stat.ME
Bayesian Nonparametric Quasi Likelihood
本文提出 Wedderburn 拟似然的贝叶斯非参数扩展，利用贝叶斯加性回归树建模均值函数，为异方差等复杂数据提供统一高效的推断框架，并解决了散度参数的推断难题。
2024-05-31 stat.ME stat.OT
Inherent Difficulties of Non-Bayesian Likelihood-based Inference, as Revealed by an Examination of a Recent Book by Aitkin
几十年来，统计学家一直试图在不打破贝叶斯鸡蛋的情况下准备贝叶斯煎蛋卷;也就是说，在不依赖信息丰富的先验分布的情况下获得基于概率似然的推断。最近的一个例子是Murray Aitkin的新书《{ \em统计推断}》，其中提出了一种基于竞争模型下可能性的后验分布比较的统计假设检验方法。Aitkin通过一些简单的例子，从iid数据和双向独立性测试中推断出他的方法。我们在这份说明中分析了其中采用的推理范式的一些后果，讨论了为什么这种方法是不兼容的贝叶斯的角度来看，为什么我们不认为它相关的应用工作。
2011-11-06 stat.ME stat.OT
Practical Bayesian Optimization with Threshold-Guided Marginal Likelihood Maximization
Pohang University of Science and Technology（浦项科技大学）；BARO AI
我们提出了一个实用的贝叶斯优化方法，使用高斯过程回归，其边际似然最大化的模型选择步骤的数量是由一个预先定义的阈值。由于贝叶斯优化在寻找高斯过程回归的最佳自由参数时消耗了很大一部分执行时间，我们简单而直接的方法能够减轻时间复杂度并加快整个贝叶斯优化过程。实验结果表明，该方法在大多数情况下都能有效地减少执行时间，且优化质量损失较小。
2020-10-16 cs.LG stat.ML
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然（BSL）的正态分布假设偏差及统计量兼容性需求，结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯，提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
Adjusted composite likelihood for robust Bayesian meta-analysis
复合似然是一种非真实似然函数，它允许对模型的有限方面进行推断，例如边际或条件分布。复合似然不是正确的似然，因此需要从频率论和贝叶斯的角度对其在推断中的使用进行校准。复合似然的最大化可以作为一个估计量，其方差通过适当定义的三明治矩阵进行评估。在贝叶斯设置中，复合似然可以通过幅度和曲率方法进行调整。幅度方法意味着将可能性提高到一个常数，而曲率方法意味着通过平移、重新缩放和旋转参数向量来评估不同点处的可能性。一些作者认为曲率方法总体上更可靠，但其他人证明幅度方法足以恢复例如检验统计量的零分布。我们提出了一个简单的校准的边缘后验分布的标量参数的兴趣，这是不变的单调和光滑的变换。例如，在医学统计学中，这就足够了，其中单个标量效应度量通常是目标。
2021-04-05 stat.ME
