Approximate Bayesian Computing for Spatial Extremes
用于模拟空间极值的最大稳定过程的统计分析受到计算联合似然函数的困难的限制。这排除了所有标准的基于可能性的方法，包括贝叶斯方法。在本文中，我们提出了一个贝叶斯方法，通过使用近似贝叶斯计算。这避免了联合似然函数的需要，而是依赖于来自（不可用的）似然的模拟。该方法与基于复合似然的另一种方法进行了比较。我们表明，近似贝叶斯计算可以导致较低的均方误差比复合似然方法估计的极端空间依赖性时，虽然在一个明显更高的计算成本。我们还说明了该方法的性能与应用程序，美国的温度数据估计作物损失的风险，由于不太可能冻结事件。
2011-12-13 stat.CO stat.ME
Efficient Multifidelity Likelihood-Free Bayesian Inference with Adaptive Computational Resource Allocation
无似然贝叶斯推断算法是用于校准复杂随机模型的参数的流行方法，当观察数据的似然性难以处理时需要。这些算法的特点是严重依赖于重复的模型模拟。然而，每当模拟的计算成本甚至是适度昂贵的，显着的负担所产生的似然自由算法离开他们在许多实际应用中是不可行的。已经引入了多保真度方法（最初是在近似贝叶斯计算的上下文中），通过使用模拟计算上便宜的近似模型代替感兴趣的模型所提供的信息，来减少无可能性推理的模拟负担，而不损失准确性。这项工作的第一个贡献是证明多保真度技术可以应用于一般的似然自由贝叶斯推断设置。在不同的保真度水平的模拟计算资源的最佳分配的分析结果，并随后实际实施。我们提供了一个自适应的多保真度似然自由推理算法，学习模型之间的关系，在不同的精度，并相应地适应资源分配，并证明该算法产生后验估计与接近最佳的效率。
2021-12-22 q-bio.QM stat.CO
An approximate Bayesian marginal likelihood approach for estimating finite mixtures
当混合分布的支持未知时，有限混合模型的估计是一个重要的问题。本文提出了一种新的基于边际似然的未知支持度估计方法。受贝叶斯Dirichlet先验模型的启发，提出了一种计算效率高的边际似然随机逼近形式，并给出了大样本理论。通过将支持度限制在有限网格上，采用模拟退火方法来最大化边际似然并估计支持度。实际和模拟数据的例子表明，这种新的随机逼近-模拟退火过程优于现有的方法。
2012-02-13 stat.CO stat.ME
Approximate Bayesian Computation via Regression Density Estimation
近似贝叶斯计算（ABC）方法，适用于当可能性是困难的或不可能的计算，是当前研究的一个活跃的话题。大多数当前的ABC算法直接近似的后验分布，但替代的，不太常见的策略是近似的似然函数。这有几个优点。首先，在某些问题中，近似似然比近似后验更容易。第二，近似的可能性允许参考分析仅基于可能性构建。第三，一旦构建了可能性的近似值，就可以直接对几种不同的先验选择进行敏感性分析，这只需要进行一次。本文的贡献是考虑回归密度估计技术近似的可能性在ABC设置。我们的似然逼近建立在最近开发的边缘自适应密度估计器的基础上，将其扩展到条件密度估计。我们的方法有利于参考贝叶斯推断，以及频率论的推理。该方法是通过一个具有挑战性的问题，推理体视学的极端，在那里我们进行频率和贝叶斯推断。
2012-12-06 stat.CO stat.ME
Bayesian Computation with Intractable Likelihoods
本文调查计算方法的后验推理与棘手的似然，即似然函数是不可用的封闭形式，或在评估的可能性是不可行的。我们回顾了伪边缘方法，近似贝叶斯计算（ABC），交换算法，热力学积分和复合似然的最新进展，特别注意大型数据集的可扩展性的进步。我们还提到了R和MATLAB源代码，用于实现这些算法。
2020-04-08 stat.CO
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中，实现贝叶斯推断通常在计算上具有挑战性，有时计算可能性本身也很困难。当可能性难以处理时，合成可能性是一种进行推理的方法，但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然，其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明，如果汇总统计量满足中心极限定理，则合成似然后验是渐近正态的，并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明，贝叶斯合成似然比近似贝叶斯计算更有效的计算，并表现出类似的回归调整近似贝叶斯计算。基于渐近结果，第三个贡献，提出使用调整的推断方法时，可能误指定的形式，假定为合成似然的协方差阵，如对角或因子模型，以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Bayesian inference for Gibbs random fields using composite likelihoods
吉布斯随机场在统计学中起着重要的作用，例如，自逻辑模型通常用于对定义在网格上的二进制变量的空间分布建模。然而，由于似然函数的复杂性，它们的工作是复杂的。因此，考虑对似然函数的易处理的近似是很自然的。复合似然提供了一个原则性的方法来构建这样的近似。本文的贡献是研究的性能的一组复合似然近似的背景下，贝叶斯推断。
2012-07-24 stat.CO
Efficient Bayesian synthetic likelihood with whitening transformations
无似然方法是一种已建立的方法，用于对具有难处理的似然函数的模型执行近似贝叶斯推断。然而，它们可能需要计算。贝叶斯综合似然（Bayesian synthetic likelihood，BSL）是一种流行的方法，它用已知的、易处理的分布（通常是高斯分布）近似概括统计量的似然函数，然后使用标准的基于似然的技术执行统计推断。然而，随着汇总统计量的增加，精确估计该可能性的协方差阵所需的模型模拟数量迅速增加。这对BSL的应用提出了重大挑战，特别是在模型模拟昂贵的情况下。在这篇文章中，我们提出了白化BSL（wBSL）-一个有效的BSL方法，使用近似白化变换去相关的汇总统计在每个算法迭代。我们的经验表明，这可以减少所需的模型模拟实现BSL的数量超过一个数量级，而不会损失太多的准确性。我们探索了一系列的白化程序，并展示了一系列的模拟和真实的建模方案，从生态学和生物学的wBSL的性能。
2020-02-01 stat.CO stat.ME stat.ML
Robust Approximate Bayesian Inference with Synthetic Likelihood
贝叶斯合成似然（BSL）是一种用于在模型中进行近似贝叶斯推断的成熟方法，其中，由于似然函数的棘手性，精确贝叶斯方法要么是不可行的，要么是计算量太大。BSL应用中隐含的假设是，数据生成过程（DGP）可以生成模拟汇总统计量，以捕获观察到的汇总统计量的行为。我们证明，如果实际和假设的DGP之间的兼容性不满足，即，如果模型被错误指定，BSL会产生不可靠的参数推断。为了规避这个问题，我们提出了一个新的BSL方法，可以检测模型的误指定的存在，并同时提供有用的推论，即使在显着的模型误指定。两个模拟和两个真实数据的例子证明了这种新的方法BSL的性能，并证明其优越的精度比标准BSL时，假设的模型是错误的。
2020-06-11 stat.AP stat.CO stat.ME
Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
提出用高斯过程模拟Metropolis-Hastings采样进程的近似贝叶斯推断框架，在有限噪声似然评估下实现高效且鲁棒的推断。
2023-08-31 stat.CO stat.ME stat.ML
General Bayesian Updating and the Loss-Likelihood Bootstrap
在本文中，我们重新审视加权似然自助法，一种从参数模型的近似贝叶斯后验生成样本的方法。我们表明，相同的方法可以得到，没有近似，在贝叶斯非参数模型与参数定义为最小化预期的负对数似然未知的抽样分布下的利益。这种解释使我们能够将加权似然自助法扩展到参数的后验抽样，以最大限度地减少预期损失。我们称这种方法为损失似然自助法。我们在此和一般贝叶斯更新之间建立了联系，贝叶斯更新是一种更新先验置信分布的方法，而无需构建全局概率模型，但需要校准两种形式的损失函数。损失似然自举法用于通过匹配渐近费舍尔信息来校准一般贝叶斯后验。我们证明了一些例子的方法。
2018-05-22 stat.ME stat.ML
Parallel Gaussian process surrogate Bayesian inference with noisy likelihood evaluations
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）；University of Edinburgh（爱丁堡大学）
我们考虑贝叶斯推断时，只有有限数量的噪声对数似然评价可以得到。例如，当将复杂的基于模拟器的统计模型拟合到数据时，会发生这种情况，并且使用合成似然（SL）方法来使用计算成本高的前向模拟来形成噪声对数似然估计。我们框架的推理任务作为一个连续的贝叶斯试验设计问题，其中的对数似然函数建模与分层高斯过程（GP）代理模型，这是用来有效地选择额外的对数似然评估位置。最近的进展的相关问题的批量贝叶斯优化的动机，我们开发了各种批量顺序的设计策略，允许并行运行一些潜在的昂贵的模拟。我们从理论和经验上分析了所产生的方法的属性。几个玩具问题和仿真模型的实验表明，我们的方法是强大的，高度并行化，样本效率。
2020-03-06 cs.LG stat.CO stat.ME
Robust Bayesian Synthetic Likelihood via a Semi-Parametric Approach
贝叶斯合成似然（BSL）是一种成熟的方法，用于对不具有易处理的似然函数的基于模拟的模型进行近似贝叶斯参数估计。BSL近似一个棘手的似然函数的一个精心选择的汇总统计量的参数值与多元正态分布。该正态分布的均值协方差阵是根据模型的独立模拟估计的。由于BSL中隐含的参数假设，在某些对高维汇总统计量感兴趣的应用中，它可能优于其非参数竞争对手，近似贝叶斯计算。然而，尽管BSL的几个成功的应用，它在科学领域的广泛使用可能会受到阻碍的强正态性假设。在本文中，我们开发了一个半参数的方法，放松这一假设在一定程度上，并保持计算优势的BSL没有任何额外的调整。我们测试我们的新方法，semiBSL，在几个具有挑战性的例子，涉及模拟和真实数据，并证明semiBSL可以显着更强大的BSL和文献中的另一种方法。
2019-10-03 stat.CO stat.ME
A Note on Using Discretized Simulated Data to Estimate Implicit Likelihoods in Bayesian Analyses
本文提出了一种贝叶斯推理方法，其中模型的可能性是未知的，但数据可以很容易地从模型中模拟。我们离散化模拟（连续）数据，估计隐含的可能性在贝叶斯分析采用马尔可夫链蒙特卡罗算法。三个例子，以及一个小的研究方法的一些属性。
2020-08-07 stat.ME
Bayesian model inversion using stochastic spectral embedding
在本文中，我们提出了一种新的无采样方法来解决贝叶斯模型反演问题，这是以前提出的谱似然展开（SLE）方法的扩展。我们的方法，称为随机谱似然嵌入（SSLE），使用最近提出的随机谱嵌入（SSE）方法的局部谱扩展细化近似的似然函数的贝叶斯反演问题的核心。我们表明，与SLE类似，这种方法通过直接对展开系数进行后处理，得到了贝叶斯后验分布的关键统计数据（例如证据、后验矩和后验边缘）的解析表达式。因为SSLE和SSE依赖于似然函数的直接近似，所以它们在某种程度上独立于前向模型的计算/数学复杂性。我们进一步提高SSLE的效率，通过引入似然特定的自适应样本富集计划。为了展示所提出的SSLE的性能，我们解决了三个问题，表现出不同种类的复杂性的似然函数：多模态，高后验浓度和高标称维数。我们展示了SSLE如何显着改善SLE，并提出它作为一个有前途的替代现有的反演框架。
2021-04-20 stat.CO stat.ME
Classification and Bayesian Optimization for Likelihood-Free Inference
某些统计模型是通过数据生成过程指定的，对于该过程，似然函数不能以封闭形式计算。标准的基于似然的推断是不可行的，但模型参数可以通过找到产生类似于观察数据的模拟数据的值来推断。这种方法至少面临两个主要困难：第一个困难是用于判断模拟数据是否与观测数据相似的差异度量的选择。第二个困难是在参数空间中的差异低的区域的计算有效的识别。我们在这里给我们最近的工作，我们通过分类和贝叶斯优化解决这两个困难的介绍。
2015-02-19 stat.CO stat.ME stat.ML
Regularized Exponentially Tilted Empirical Likelihood for Bayesian Inference
The Ohio State University（俄亥俄州立大学）
本文提出正则化指数倾斜经验似然方法，通过引入连续指数族分布和正则化技术，解决后验域为原参数空间子集的问题，提升有限样本性能。
2026-10-05 stat.ME
Assigning a value to a power likelihood in a general Bayesian model
贝叶斯数据分析和机器学习方法是广泛和流行的，因为它们为从数据中学习提供了直观而严格的公理;参见Bernardo and Smith（2004）and Bishop（2006）。然而，这种严格性伴随着一个警告，即贝叶斯模型是自然的精确反映。最近的趋势是通过将似然函数提高到幂来解决潜在的模型误设定，主要是出于鲁棒性原因，但不完全是。在本文中，我们提供了一个连贯的规范的功率参数，一旦贝叶斯模型已指定在没有一个完美的模型。
2017-01-30 stat.ME
Randomized Maximum Likelihood via High-Dimensional Bayesian Optimization
本文提出基于高斯过程代理模型的高维贝叶斯优化方法求解随机最大似然问题，并在医学和磁流体动力学等贝叶斯逆问题中验证了其优于传统优化方法。
2024-09-04 stat.CO
Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据，证明其渐近正态性，用于构建置信区间，数值研究表明其优于传统方法。
2023-09-13 stat.ME
Bayesian Inference from Composite Likelihoods, with an Application to Spatial Extremes
复合似然越来越多地用于完全似然在分析上未知或计算上禁止的应用中。虽然最大合成似然估计具有类似于通常的极大似然估计的频率论性质，但基于合成似然的贝叶斯推断还有待探索。在本文中，我们研究使用梅特罗波利斯-黑斯廷斯算法来计算基于复合似然的伪后验分布。提出了两种调整算法的方法，并使用模拟数据集和实际降雨空间极值数据研究了它们在逼近真实后验分布方面的性能。
2011-07-06 math.ST stat.ME stat.TH
Quantification of empirical determinacy: the impact of likelihood weighting on posterior location and spread in Bayesian meta-analysis estimated with JAGS and INLA
贝叶斯正态-正态分层模型（Bayesian normal-normal hierarchical model，NNHM）是一种流行的贝叶斯元分析方法，它综合了多项研究的知识，具有较高的实用价值。此外，NNHM是最简单的贝叶斯分层模型（BHM），它说明了更复杂的BHM中的典型问题。到目前为止，它一直不清楚在何种程度上的数据决定的边缘后验分布的参数在NNHM。为了解决这个问题，我们计算了Bhattacharyya系数相对于加权似然的二阶导数，定义了总经验确定性（TED），位置的经验确定性与TED的比例（pEDL），以及传播的经验确定性与TED的比例（pEDS）。我们在R软件包\texttt{ed4bhm}中实现了这种方法，并考虑了两个案例研究和一个模拟研究。我们量化TED，pEDL和pEDS在不同的建模条件下，如模型参数化，主要结果，和先验。这阐明了参数的边缘后验分布的位置和分布在多大程度上由数据决定。虽然这些调查集中在贝叶斯NNHM，所提出的方法更普遍地适用于复杂的BHM。
2021-09-24 stat.CO stat.ME
Adjusted composite likelihood for robust Bayesian meta-analysis
复合似然是一种非真实似然函数，它允许对模型的有限方面进行推断，例如边际或条件分布。复合似然不是正确的似然，因此需要从频率论和贝叶斯的角度对其在推断中的使用进行校准。复合似然的最大化可以作为一个估计量，其方差通过适当定义的三明治矩阵进行评估。在贝叶斯设置中，复合似然可以通过幅度和曲率方法进行调整。幅度方法意味着将可能性提高到一个常数，而曲率方法意味着通过平移、重新缩放和旋转参数向量来评估不同点处的可能性。一些作者认为曲率方法总体上更可靠，但其他人证明幅度方法足以恢复例如检验统计量的零分布。我们提出了一个简单的校准的边缘后验分布的标量参数的兴趣，这是不变的单调和光滑的变换。例如，在医学统计学中，这就足够了，其中单个标量效应度量通常是目标。
2021-04-05 stat.ME
Spectral likelihood expansions for Bayesian inference
提出了一种贝叶斯推断的谱方法。它追求的是后验概率密度的仿真。出发点是似然函数在正交多项式方面的级数展开。从这个谱似然展开所有感兴趣的统计量可以计算半解析。后验形式上表示为参考密度和多项式基函数的线性组合的乘积。模型证据和后验矩都与展开系数有关。该公式避免了马尔可夫链蒙特卡罗模拟，并允许使用线性最小二乘法代替。从经典统计学和逆建模的简单应用的基础上，讨论和证明了频谱贝叶斯推断的优点和缺点。
2016-04-26 stat.CO
Robust Generalised Bayesian Inference for Intractable Likelihoods
广义贝叶斯推断使用损失函数而不是似然更新先验信念，因此可以用于赋予针对可能的似然错误指定的鲁棒性。在这里，我们认为广义贝叶斯推断与斯坦差异作为一个损失函数，动机的应用程序中的可能性包含一个棘手的归一化常数。在这种情况下，斯坦差异规避评价的归一化常数，并产生广义后验，要么是封闭的形式或使用标准的马尔可夫链蒙特卡罗访问。在理论层面上，我们表现出一致性，渐近正态性和偏置鲁棒性的广义后验，突出这些属性是如何影响的选择斯坦差异。然后，我们提供了一系列的棘手的分布，包括应用基于核的指数族模型和非高斯图形模型的数值实验。
2022-01-11 math.ST stat.CO stat.ME
A generalized likelihood based Bayesian approach for scalable joint regression and covariance selection in high dimensions
研究了贝叶斯范式下高维多元回归模型中回归系数矩阵和误差精度矩阵（逆协方差矩阵）的联合稀疏性选择问题。所选择的稀疏模式对于帮助理解预测变量和响应变量之间的关系网络以及后者之间的条件关系至关重要。虽然贝叶斯方法具有通过后验包含概率和可信区间提供自然不确定性量化的优点，但当前贝叶斯方法要么限制于稀疏模式的特定子类和/或不可扩展到具有数百个响应和预测因子的设置。贝叶斯方法只关注于估计后验模式是可扩展的，但不从后验分布生成样本用于不确定性量化。使用基于双凸回归的广义似然和尖峰和平板先验，我们开发了一种称为联合回归网络的算法（JRNS），用于联合回归和协方差选择，该算法（a）可以适应一般稀疏模式，（b）提供不确定性量化的后验样本，（c）可扩展，比提供不确定性量化的最先进贝叶斯方法快几个数量级。我们证明了所提出的方法对合成数据的统计和计算效率，并通过对选定的癌症数据集的分析。我们还建立了高维后验一致性的开发算法之一。
2022-01-14 stat.CO stat.ME
Population Calibration using Likelihood-Free Bayesian Inference
在本文中，我们开发了一种无似然性的人口校准方法，它涉及到找到模型参数的分布时，通过模型产生一组输出，匹配现有的人口数据。与大多数其他方法人口校准，我们的方法产生的不确定性量化的估计分布。此外，该方法可以应用于任何群体校准问题，无论感兴趣的模型是确定性的还是随机的，或者无论群体数据是在有或没有测量误差的情况下观察到的。我们演示了几个例子，包括一个真实的数据的方法。我们还讨论了该方法的计算限制。这里开发的方法立即应用于医学研究的许多领域，包括癌症，COVID-19，药物开发和心脏病学。
2022-02-04 stat.CO stat.ME
Empirical Likelihood Based Bayesian Variable Selection
经验似然是一种流行的非参数统计工具，不需要任何分布假设。在本文中，我们探讨了通过贝叶斯经验似然进行变量选择的可能性。从理论上证明了当先验分布满足一定的温和条件时，相应的贝叶斯经验似然估计是后验相合的，并且是变量选择相合的。作为特例，我们证明了贝叶斯经验似然LASSO和SCAD的先验满足这样的条件，从而可以以概率趋于1的方式识别参数的非零元素。此外，它是很容易验证，这些条件满足其他广泛使用的先验，如脊，弹性网和自适应LASSO。经验似然取决于需要通过数值求解非线性方程获得的参数。因此，后验分布不存在共轭先验，导致MCMC抽样算法在某些情况下收敛缓慢。为了解决这个问题，我们提出了一种新的方法，它使用一个近似分布的建议。计算结果表明，本文所用的例子快速收敛。我们使用模拟和真实数据分析来说明所提出的方法的优点。
2022-06-10 stat.ME
Bayesian design of experiments for intractable likelihood models using coupled auxiliary models and multivariate emulation
贝叶斯设计通过在设计空间上最大化期望效用来给出。效用被选择来代表实验的目的，并且其期望是关于所有未知数的：响应，参数和/或模型。虽然原则上很简单，但在实践中找到贝叶斯设计存在一些挑战。首先，效用和期望效用很少以封闭形式存在，需要近似。其次，设计空间可以是高维的。在棘手的似然模型的情况下，这些问题是复杂的事实，即似然函数，其评估是需要近似的预期效用，是不是在封闭的形式。提出了一种策略，找到贝叶斯设计的棘手的似然模型。它依赖于一个自动的，辅助建模方法的发展，使用多变量高斯过程仿真器，近似的似然函数。然后，这与基于copula的方法相结合，以近似边际似然（一个通常需要评估许多效用函数的数量）。这些近似的随机过程模型，涉及实验目的的参数估计和模型比较的例子证明。
2019-01-15 stat.ME
Adaptive Gaussian process approximation for Bayesian inference with expensive likelihood functions
我们考虑计算密集型似然函数的贝叶斯推断问题。我们提出了一种基于高斯过程（GP）的方法来近似未知参数和数据的联合分布。特别是，我们写的联合密度近似为一个近似的后验密度和一个exponentiated GP代理的产品。然后，我们提供了一个自适应算法来构建这样的近似，其中使用主动学习方法来选择设计点。数值例子表明，该方法具有竞争力的性能对现有的贝叶斯计算方法。
2018-03-14 stat.CO stat.ML
Quantification of observed prior and likelihood information in parametric Bayesian modeling
本文提出了两种与数据相关的信息度量来量化参数贝叶斯模型中先验和似然函数的信息，其中一种与Berger，Bernardo和Sun提出的参考先验和Lindley提出的信息度量密切相关.理论，经验和计算支持的组合提供的证据表明，这些信息理论指标可能是有用的诊断工具时，执行贝叶斯分析。
2017-09-07 cs.IT math.IT stat.AP
Synthetic likelihood in misspecified models
Monash University（莫纳什大学）；National University of Singapore（新加坡国立大学）；Queensland University of Technology（昆士兰科技大学）
研究分析了在模型不恰当情况下合成似然后验行为，揭示其可能呈现非标准特性如多模态和非高斯性，并指出传统鲁棒方法在合成似然中的不足。
2026-04-16 math.ST stat.ME stat.TH
Beyond Whittle: Nonparametric correction of a parametric likelihood with a focus on Bayesian time series analysis
Whittle似然被广泛用于平稳时间序列谱密度的贝叶斯非参数估计。然而，非高斯时间序列的效率损失可能是相当大的。另一方面，如果模型被很好地指定，则参数方法更强大，但否则可能完全失败。因此，我们建议利用参数模型的效率，同时通过非参数修正来降低敏感性，对参数似然进行非参数修正。使用Bernstein-Dirichlet先验的非参数谱校正，我们显示后验的一致性，并说明我们的程序在模拟研究和LIGO引力波数据的性能。
2017-01-17 stat.ME
Bayesian Nonparametric Quasi Likelihood
本文提出 Wedderburn 拟似然的贝叶斯非参数扩展，利用贝叶斯加性回归树建模均值函数，为异方差等复杂数据提供统一高效的推断框架，并解决了散度参数的推断难题。
2024-05-31 stat.ME stat.OT
Inherent Difficulties of Non-Bayesian Likelihood-based Inference, as Revealed by an Examination of a Recent Book by Aitkin
几十年来，统计学家一直试图在不打破贝叶斯鸡蛋的情况下准备贝叶斯煎蛋卷;也就是说，在不依赖信息丰富的先验分布的情况下获得基于概率似然的推断。最近的一个例子是Murray Aitkin的新书《{ \em统计推断}》，其中提出了一种基于竞争模型下可能性的后验分布比较的统计假设检验方法。Aitkin通过一些简单的例子，从iid数据和双向独立性测试中推断出他的方法。我们在这份说明中分析了其中采用的推理范式的一些后果，讨论了为什么这种方法是不兼容的贝叶斯的角度来看，为什么我们不认为它相关的应用工作。
2011-11-06 stat.ME stat.OT
A Variant of AIC based on the Bayesian Marginal Likelihood
我们提出的信息标准，衡量预测密度的预测风险的贝叶斯边际似然从频率论的角度来看。假设回归系数具有先验分布，我们推导出了线性回归模型中变量的选择准则。然后，我们讨论了所提出的标准和相关标准之间的关系。我们的方法有三个优点。首先，这是频率论和贝叶斯观点之间的妥协，因为它评估了贝叶斯模型的频率论风险。因此，它受先前错误指定的影响较小。其次，在选择真实模型时，标准具有一致性。第三，当为回归系数假设均匀先验时，得到的准则等价于Shi和Tsai（2002）的残差信息准则（RIC）。
2017-10-19 stat.ME
Wasserstein Gaussianization and Efficient Variational Bayes for Robust Bayesian Synthetic Likelihood
针对贝叶斯合成似然（BSL）的正态分布假设偏差及统计量兼容性需求，结合Wasserstein高斯化变换、鲁棒BSL与高效变分贝叶斯，提出一种高效可靠的无似然近似贝叶斯推断方法。
2024-08-15 stat.CO stat.ML
A Bootstrap Likelihood approach to Bayesian Computation
有越来越多的文献集中在贝叶斯计算方法来解决棘手的可能性问题。一种方法是称为近似贝叶斯计算（ABC）方法的一组算法。这些算法的问题之一是性能依赖于一些参数的调整，如汇总统计量，距离和公差水平。为了绕过这个问题，Mengersen，Pudlo和Robert（2013）引入了一种基于经验似然的替代方法，当一组与分布矩相关的约束已知时，该方法可以很容易地实现。然而，约束条件的选择有时具有挑战性。为了克服这个问题，我们提出了一种替代方法的基础上的自助似然方法。该方法易于实现，在某些情况下，它比其他方法更快。在群体遗传学，时间序列和随机微分方程的例子说明了该算法的性能。最后，我们在真实数据集上测试了该方法。
2015-10-25 stat.ME
Maximum Probability and Relative Entropy Maximization. Bayesian Maximum Probability and Empirical Likelihood
工程，简要调查这里，关注两个基本方法：最大概率和贝叶斯最大概率;以及与他们的渐近实例：相对熵最大化和最大非参数似然。参数和经验的扩展后者的方法-经验最大最大熵和经验的李克图-也提到。这些方法被看作是解决某些不适定反问题的工具，分别称为Pi-问题，Phi-问题。在这两类问题，概率理由和解释各自的方法进行了讨论。
2008-04-24 math.PR math.ST stat.ME
Bayesian Optimization of Hyperparameters from Noisy Marginal Likelihood Estimates
贝叶斯模型通常涉及通过最大化边际似然来确定的一小组超参数。贝叶斯优化是一种流行的迭代方法，其中底层函数的高斯过程后验通过新的函数评估顺序地更新。获取策略使用该后验分布来决定在何处放置下一个函数评估。我们提出了一种新的贝叶斯优化框架的情况下，用户控制的计算工作量，因此精度的功能评估。这是计量经济学中常见的情况，通常通过马尔可夫链蒙特卡罗（MCMC）或重要性抽样方法计算边际似然，边际似然估计量的精度由样本数量决定。新的获取策略使优化器可以选择使用廉价的噪声评估来探索函数，从而更快地找到最佳值。该方法被应用于估计先验超参数在两个流行的模型对美国宏观经济时间序列数据：稳态贝叶斯向量自回归（BVAR）和随机波动率的时变参数BVAR。该方法比传统的贝叶斯优化或网格搜索更快地找到最优解。
2022-08-17 econ.EM stat.CO
Approximate Bayesian Computation with composite score functions
当似然函数难以处理时，近似贝叶斯计算（ABC）和复合似然方法分别适用于贝叶斯和频率论推理。我们建议使用复合似然得分函数作为ABC中的汇总统计量，以获得精确的近似后验分布。这是出于使用的得分函数的完全似然，并扩展到一般的无偏估计函数在复杂的模型。此外，我们表明，如果综合得分是适当的标准化，由此产生的ABC程序是不变的重新参数化，并自动调整曲率的复合可能性，和相应的后验分布。通过模拟数据的实例说明了该方法，并讨论了其在空间极端降雨数据建模中的应用。
2015-02-24 stat.CO
Random forward models and log-likelihoods in Bayesian inverse problems
我们考虑使用随机正向模型和对数似然内的贝叶斯方法来反问题。当使用更便宜的随机替代来近似计算上昂贵的模型时，如在高斯过程仿真（克里金法）中或在概率数值方法领域中，自然会出现对精确正演模型或对数似然的这种随机近似。我们证明了精确和近似贝叶斯后验之间的Hellinger距离是由真实和近似对数似然之间的差异的矩所限定的。这些稳定性结果的应用实例给出随机失配模型在大数据应用和概率解的常微分方程。
2018-09-28 cs.NA math.NA math.PR
Penalized Likelihood and Bayesian Function Selection in Regression Models
各个领域的研究推动了高维预测变量回归模型变量选择方法的广泛进步。相比之下，选择非线性函数的模型与添加剂预测最近才被认为是。几个相互竞争的建议几乎是同时提出的，而且往往互不相关。本文提供了一个国家的最先进的审查功能选择，侧重于惩罚似然和贝叶斯的概念，在一个统一的框架中相互关联的各种方法。在实证比较中，也包括提升，我们通过应用程序来评估几种方法，模拟和真实数据，从而提供一些指导，在实践中的性能。
2013-03-04 stat.ME
Calibrated Bayesian inference for random fields on large irregular domains using the debiased spatial Whittle likelihood
针对空间数据Whittle似然存在偏差的问题，提出基于去偏空间Whittle似然并结合复合似然调整的平稳随机场贝叶斯推断方法，在保持准线性计算时间的同时实现了校准良好的后验，并验证了其有效性。
2025-05-29 stat.ME
Likelihood-free Bayesian inference for alpha-stable models
$α$ -稳定分布在统计、金融和信号处理工程的许多领域中被用作重尾噪声的模型。然而，在一般情况下，无论是单变量还是多变量$α$ -稳定模型都不承认可以逐点评估的封闭形式密度。这使推理过程复杂化。因此，$α$稳定模型实际上仅限于贝叶斯范式下的单变量设置和经典框架下的双变量模型。在这篇文章中，我们开发了一种新的贝叶斯方法来建模单变量和多变量$α$ -稳定分布的基础上，最近的进展“无似然”的推断。我们提出了一个评估的性能，这个过程中的1，2和3个维度，并提供了一个分析的实际每日货币汇率数据。所提出的方法提供了一个可行的推理方法在一个温和的计算成本。
2009-12-23 stat.CO
Variational Bayesian Monte Carlo with Noisy Likelihoods
Department of Basic Neuroscience, University of Geneva（日内瓦大学基础神经科学系）
变分贝叶斯蒙特卡罗（VBMC）是最近引入的框架，其使用高斯过程代理在具有黑盒、非廉价似然的模型中执行近似贝叶斯推断。在这项工作中，我们扩展VBMC来处理噪声对数似然评估，如那些基于模拟的模型。我们引入了新的“全球”采集功能，如预期的信息增益（EIG）和变分位数范围（VIQR），这是强大的噪声，可以有效地评估内的VBMC设置。在一个新颖的，具有挑战性的，噪声推理基准，包括各种模型与来自计算和认知神经科学的真实数据集，VBMC+VIQR实现了最先进的性能恢复地面真理后验和模型证据。特别是，我们的方法大大优于“本地”采集功能和其他代理为基础的推理方法，同时保持一个小的算法成本。我们的基准测试证实了VBMC作为一种通用的技术，用于样本高效的黑盒贝叶斯推断，也与噪声模型。
2020-10-19 cs.LG q-bio.NC q-bio.QM
Spectral domain likelihoods for Bayesian inference in time-varying parameter models
本文研究时变参数模型贝叶斯推断中频域似然近似的有限样本精度，通过三个模拟研究评估多种频域似然函数，并在鸡蛋价格数据上加以验证。
2024-11-21 stat.ME
Bayesian Inference for Logistic Regression Models Using Sequential Posterior Simulation
logistic规范已被广泛用于非贝叶斯统计，以模拟离散结果对指定协变量值的依赖性。由于似然函数是全局弱凹的，所以即使在通常出现的具有几十个或几百个参数的应用中，极大似然估计也是直接的。相比之下，贝叶斯推断已被证明是笨拙的，需要对现有的马尔可夫链蒙特卡罗和数据增强方法的可能性或专门的适应性进行正常近似。本文使用最近开发的一般序贯后验模拟（SPS）方法，只需要多一点的能力，以评估的似然函数的逻辑模型的贝叶斯推断。与现有的替代方案相比，SPS是简单得多，并提供了数字标准误和准确的近似边际可能性作为副产品。用于贝叶斯推断的SPS算法适合于大规模并行实现，并且当使用图形处理单元实现时，它比现有的替代方案更有效。本文通过几个例子来说明这些观点。
2013-04-16 stat.CO
Retrospective-prospective symmetry in the likelihood and Bayesian analysis of case-control studies
Prentice和Pyke（1979）确定，病例对照研究中比值比的最大似然估计与通过运行逻辑斯谛回归得到的结果相同：换句话说，对于这个特定目标，不正确的前瞻性模型必然等同于正确的回顾性模型。其他模型也得到了类似的结果，并且也确定了相应的贝叶斯性质成立的条件，即比值比的后验分布是相同的，无论是使用前瞻性或回顾性似然计算。在这里，我们展示了这些结果如何直接遵循某些参数的独立属性的模型和先验，并确定先验的法律，支持这种反向分析，标准和分层设计。
2013-09-27 stat.ME
Estimating the marginal likelihood with Integrated nested Laplace approximation (INLA)
边际似然是贝叶斯统计学中一个公认的模型选择准则。它还允许有效地计算边缘后验模型概率，该概率可用于对感兴趣的量进行贝叶斯模型平均。然而，对于许多复杂的模型，包括潜在建模方法，边缘似然性难以计算。最近一个有前途的方法近似的边缘可能性是集成嵌套拉普拉斯近似（INLA），设计的模型与潜在的高斯结构。在这项研究中，我们比较了近似与INLA获得一些不同复杂性的例子上的替代方法。特别是，我们讨论了简单的线性潜在模型、贝叶斯线性回归模型、具有probit和logit链接的逻辑贝叶斯回归模型以及Poisson纵向广义线性混合模型。
2016-11-04 stat.CO
Bayesian model comparison with un-normalised likelihoods
在计算机科学、统计物理学、空间统计学和网络分析中广泛使用的模型，其似然函数只能被评估到一个依赖于参数的未知归一化常数，如马尔可夫随机场模型。然而，由于这些模型的似然函数的复杂性，使用标准蒙特卡罗方法对这些模型进行贝叶斯分析是不可能的。最近开发了几种允许精确或接近精确的后验分布模拟的方法。然而，估计这些模型的证据和贝叶斯因子（BF）仍然具有挑战性。本文介绍了新的随机权重重要性抽样和序贯蒙特卡罗方法估计BF使用模拟，以规避评价的棘手的可能性，并比较它们与现有的方法。在某些情况下，我们观察到使用有偏权重估计的优势。这类方法的理论和经验性质的初步调查。使用有偏估计的一些支持，但我们主张谨慎使用这种估计。
2016-01-20 physics.data-an stat.CO stat.ME
BSL: An R Package for Efficient Parameter Estimation for Simulation-Based Models via Bayesian Synthetic Likelihood
贝叶斯合成似然（Bayesian synthetic似然函数，BSL）是一种用于估计复杂统计模型和随机过程的参数后验分布的常用方法。BSL通过模型模拟和密度估计来近似一个明智选择的数据汇总统计量的可能性，而不是评估可能性。与近似贝叶斯计算（ABC）等替代方法相比，当所选汇总统计量为高维时，BSL需要很少的调整，并且需要比ABC更少的模型模拟。原始的合成似然依赖于一个多元正态近似的棘手的可能性，其中的平均值和协方差估计模拟。BSL的扩展考虑用惩罚协方差估计量替换样本协方差，以减少所需模型模拟的数量。此外，半参数方法已被开发来放松正态性假设。在本文中，我们提出了一个名为BSL的R包，它将上述方法合并到一个单一的，易于使用的和连贯的软件中。R包还包括几个示例来说明如何使用该包并演示方法的实用性。
2019-07-25 stat.AP stat.CO stat.ML
Likelihoods and Parameter Priors for Bayesian Networks
我们开发了构建似然性和参数先验的简单方法，以了解贝叶斯网络的参数和结构。特别是，我们引入了几个假设，允许建设的似然性和参数先验的大量贝叶斯网络结构，从一个小的评估。最值得注意的假设是似然等价，即数据不能帮助区分编码相同条件独立断言的网络结构。我们描述了从这些假设遵循的结构，并提出了一种方法，用于直接计算的边际似然的随机样本没有丢失的意见。此外，我们展示了这些假设如何导致一个一般的框架来表征参数先验的多元分布。
2021-06-29 cs.LG stat.ML
Posterior and Likelihood Sensitivity in Bayesian Distributionally Robust Optimization
Chuo University（中央大学）；Sauder School of Business, University of British Columbia（不列颠哥伦比亚大学 Sauder 商学院）；National University of Singapore（新加坡国立大学）
本文提出最坏情况后验和似然敏感性的概念，用于量化贝叶斯模型对后验和似然扰动的鲁棒性，并证明分布鲁棒优化可实现性能与鲁棒性的近似帕累托最优权衡。
2026-05-29 cs.SY econ.EM eess.SY
