Easy High-Dimensional Likelihood-Free Inference
我们引入了一个使用生成对抗网络（GANs）进行无似然推理（LFI）和近似贝叶斯计算（ABC）的框架，在该框架中，我们用近似器网络取代了黑盒模拟器模型，并以数据驱动的方式生成了一组丰富的摘要特征。在基准数据集上，我们的方法在可扩展性、处理高维数据和复杂概率分布的能力方面优于其他方法。
2018-08-23 cs.LG stat.ML
ABC and Indirect Inference
本章将出现在即将出版的近似贝叶斯计算手册（2018）中。间接推理（II）是一种经典的似然自由的方法，早于ABC的主要发展，并依赖于模拟从一个参数模型的兴趣，以确定点估计的参数。因此，一些无似然贝叶斯方法利用了II文献也就不足为奇了。本章介绍II，并详细说明ABC和II之间的联系。一个特别的重点放在使用一个辅助模型与一个听话的似然函数，一种方法通常采用的II文献，以方便似然自由贝叶斯推断。
2018-03-06 stat.CO stat.ME
Likelihood free inference for Markov processes: a comparison
贝叶斯推断的方法，具有棘手的似然问题，近年来已变得越来越重要。近似贝叶斯计算（ABC）和“无似然”马尔可夫链蒙特卡罗技术是用于处理这些场景中的推理的流行方法，但是这样的技术在计算上是昂贵的。在本文中，我们比较了这两种方法的推断，特别侧重于参数推断的随机动力学模型，广泛应用于系统生物学。这种类型的模型的离散时间转换内核是棘手的，但最平凡的系统，但向前模拟通常是简单的。我们讨论了每种方法的相对优点和缺点，同时考虑这些技术的计算成本和效率。为了探索每种方法的属性，我们使用两个示例模型来检查一系列观察机制。我们使用一个Lotka-Volterra捕食-被捕食模型，在已知和未知测量误差的假设下，利用不同的时间过程观测，探讨了全部或部分物种观测的影响。进一步调查的观测误差的影响，然后使用Schlögl系统，一个测试案例，表现出双模态状态稳定性在某些区域的参数空间。
2014-10-02 stat.CO
Exact Monte Carlo likelihood-based inference for jump-diffusion processes
离散观测跳跃扩散过程的统计推断是一个复杂的问题，激发了新的方法挑战。因此，现有的方法总是诉诸时间离散化，这不可避免地导致近似推理。在本文中，我们给出了第一个通用的收集方法的精确（在这种情况下，离散化的意义）基于似然推理离散观察有限活动跳扩散。所涉及的误差的唯一来源是蒙特卡罗误差和EM或MCMC算法的收敛。我们将介绍频率论和贝叶斯方法，通过模拟和真实的例子来说明方法。
2023-03-01 stat.ME
Likelihood-free stochastic approximation EM for inference in complex models
介绍了一种求解具有难处理似然模型参数的极大似然方法。我们产生一个似然自由版本的随机逼近期望最大化（SAEM）算法，以最大限度地提高模型参数的似然函数。虽然SAEM最适合于具有易处理的“完全似然”函数的模型，但将其应用于中等复杂的模型是一项困难甚至不可能的任务。我们将展示如何构建一个似然自由版本的SAEM通过使用“合成似然”的范例。我们的方法是完全即插即用，几乎不需要调整，可以应用于静态和动态模型。四个模拟研究说明了该方法，包括随机微分方程模型，随机Lotka-Volterra模型和数据从$g$ -和- $k$分布。MATLAB代码可作为补充材料。
2018-01-16 stat.CO stat.ME
AIDE: An algorithm for measuring the accuracy of probabilistic inference algorithms
Massachusetts Institute of Technology（麻省理工学院）
近似概率推理算法是许多领域的核心。例子包括机器人学中的序贯蒙特卡罗推理、机器学习中的变分推断和统计学中的马尔可夫链蒙特卡罗推理。从业者面临的一个关键问题是测量近似推理算法在特定数据集上的准确性。本文介绍了辅助推理发散估计器（AIDE），一种度量近似推理算法精度的算法。AIDE基于这样的观察：推理算法可以被视为概率模型，并且推理算法中使用的随机变量可以被视为辅助变量。这种观点导致一个新的估计对称库尔贝克-莱布勒散度之间的近似分布的两个推理算法。本文说明了应用程序的AIDE的算法推理回归，隐马尔可夫和Dirichlet过程混合模型。实验表明，AIDE捕获了广泛的推理算法的定性行为，并可以检测出标准推理算法所遗漏的推理算法的故障模式。
2017-11-04 cs.AI cs.LG stat.ML
A practical guide to pseudo-marginal methods for computational inference in systems biology
对于系统生物学中感兴趣的许多随机模型，例如那些描述生化反应网络的随机模型，通过统计推断来精确量化参数不确定性是困难的。当模型的似然函数难以处理，但通过正问题的随机模拟可以生成许多样本路径时，无似然计算推理技术可以进行参数推断。系统生物学中最常见的无似然方法是近似贝叶斯计算，它接受导致随机模拟和测量数据之间低差异的参数。然而，很难评估所得到的推理的准确性如何受到接受阈值和差异函数的选择的影响。伪边际法是一种替代的无似然推理方法，它利用似然函数的蒙特卡罗估计。这种方法有几个优点，特别是在嘈杂的背景下，部分观察到的，典型的生化反应网络研究中的时间过程数据。具体地，伪边缘方法便于精确推断和不确定性量化，并且可以有效地与粒子滤波器组合以用于低方差、高精度似然估计。在这篇综述中，我们提供了一个实用的介绍，伪边缘的方法，使用生化反应网络的推理作为一系列的案例研究。使用Julia编程语言提供关键算法和示例的实现; Julia编程语言是用于科学计算的高性能开源编程语言。
2019-12-28 q-bio.MN stat.CO
Fast and Robust Likelihood-Guided Diffusion Posterior Sampling with Amortized Variational Inference
Institute of Foundation Models, MBZUAI（基础模型研究所，MBZUAI）；Huawei Lagrange Mathematics and Computing Research Center, Paris, France（华为拉格朗日数学与计算研究中心，法国巴黎）；Mohamed Bin Zayed University of AI, Chair of the ML Department, EPITA, Laboratoire Recherche de l'EPITA（穆罕默德·本·扎耶德人工智能大学，机器学习系主任，EPITA，EPITA研究实验室）
本文提出一种快速且稳健的扩散后验采样方法，通过幅度化变分推断保留显式似然引导，提升逆问题的效率与鲁棒性。
2026-02-06 cs.AI cs.LG stat.ML
Variational Bayes with Synthetic Likelihood
合成似然是一种有吸引力的方法时，近似高斯汇总统计的数据，信息的参数的推断，无似然推理。合成似然法从汇总统计量的插入正态密度估计值导出近似似然函数，插入均值协方差阵通过蒙特卡罗模拟从模型中获得。在这篇文章中，我们开发的替代方案，马尔可夫链蒙特卡罗实现贝叶斯合成似然减少计算开销。我们的方法使用随机梯度变分推断方法的后验近似的合成似然上下文中，采用无偏估计的对数似然。我们比较新的方法与相关的似然自由变分推断技术在文献中，而在同一时间，提高了该方法的实施，在许多方面。这些新的算法是可行的，以实现在传统的近似贝叶斯计算（ABC）方法的挑战性的情况下，在参数和汇总统计的维度。
2016-08-10 stat.ME
Likelihood-based Inference for Partially Observed Epidemics on Dynamic Networks
我们提出了一个生成模型和推理方案的流行病过程的动态，自适应接触网络。将网络演化描述为一个链路马尔可夫过程，并将其耦合到一个个体水平的随机SIR模型中，以描述网络上的流行病动态与网络链路变化之间的相互作用.提出了一种马尔可夫链蒙特卡罗框架，用于从部分流行病观测数据中进行基于似然的推断，并设计了一种新的数据增强算法，用于处理动态网络环境下个体恢复时间缺失的问题.通过一系列的仿真实验，我们证明了该模型的有效性和灵活性，以及数据增强推理方案的有效性和效率。该模型还应用于最近关于流感样疾病传播的真实数据集，其中包含高分辨率的社交接触跟踪记录。
2020-04-05 physics.soc-ph q-bio.PE stat.ME
Fast Inference for Intractable Likelihood Problems using Variational Bayes
变分贝叶斯（VB）是一种流行的贝叶斯推断估计方法。然而，大多数现有的VB算法仅限于可能性易于处理的情况，这排除了它们在许多重要情况下的使用。Tran等人（2017）将VB的应用范围扩展到可能性难以处理但可以无偏估计的情况，并将方法命名为变分贝叶斯与难以处理的可能性（VBIL）。本文介绍了VBIL的一个版本，名为变分贝叶斯与难处理的对数似然（VBILL），这是有用的情况下，大数据和大面板数据模型，其中的对数似然梯度的无偏估计量是可用的。我们证明，这样的估计可以很容易地在许多大数据应用程序中获得。所提出的方法是准确的，在这个意义上说，除了一个额外的蒙特卡罗错误，可以控制，它是能够产生估计，如果真正的可能性，或全数据的可能性，是使用。特别是，我们开发了一种计算效率高的方法，基于数据子采样和MapReduce编程技术，用于分析无法装入单个台式PC内存的海量数据集。我们使用了几个模拟数据集和一个大的真实数据集的基础上的到达时间状态的U。S.航空公司
2017-05-18 stat.ME
Maximum Likelihood Learning of Unnormalized Models for Simulation-Based Inference
University College London（伦敦大学学院）；Université Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔理工学院）；Deepmind（深度思维）
本文提出两种基于条件能量基模型和KL损失最小化的合成似然方法，用于基于模拟的推断，在多个合成数据集及螃蟹幽门网络神经科学模型上以更低模拟预算取得优于现有方法的效果。
2023-04-18 cs.LG stat.ML
Likelihood-based inference for partially observed stochastic epidemics with individual heterogeneity
我们建立了一个动态网络上的随机流行病模型，其中感染率是异质的，并且可能随个体水平的协变量而变化。联合动力学建模为一个连续时间的马尔可夫链，使疾病的传播受到约束的接触网络结构，网络的演变反过来又受到个人的疾病状态。为了适应部分流行病观察常见于现实世界中的数据，我们提出了一种基于随机期望最大化算法的似然推理方法，引入关键的创新，包括有效的条件采样器，用于估算丢失的感染和恢复时间，尊重动态接触网络。在合成数据集和真实数据集上的实验表明，我们的推理方法可以准确有效地恢复模型参数，并在流行病数据中存在未观察到的疾病事件时提供有价值的见解。
2021-12-15 stat.AP stat.ME
Bayesian inference with Monte Carlo approximation: Measuring regional differentiation in ceramic and glass vessel assemblages in Republican Italy, ca. 200 BCE - 20 CE
测量考古学组合差异的方法长期以来一直基于组合的属性水平分析。本文认为，通过Hellinger距离的概率分布比较组合的方法，通过Dirichlet分类模型的推断使用蒙特卡罗方法的近似计算。这种方法在考古学的实践-理论传统中得到应用，这种方法试图测量和关联构成社会惯习的不同因素。它在这里实施的重点是在过去两个世纪的共和国意大利的区域食品消费习惯的问题，对大规模社会变革的角度提供信息。
2017-02-18 stat.AP
Note on the bias and variance of variational inference
Mila（米拉研究所）；University of Montreal（蒙特利尔大学）
本文研究了变分间隙与似然比方差的关系。我们表明，差距可以通过某种形式的分散措施的似然比，这表明变分推断的偏差可以减少通过使分布的似然比更集中，如通过平均和方差减少的上限。
2019-06-09 cs.LG stat.ML
Likelihood-Free Frequentist Inference: Bridging Classical Statistics and Machine Learning for Reliable Simulator-Based Inference
Carnegie Mellon University（卡内基梅隆大学）
针对模拟器推理中经典方法和现有LFI技术的局限性，提出LF2I框架，结合经典统计与机器学习，提供近有限样本有效的置信集构建方法及全参数空间经验覆盖率诊断工具，无需昂贵样本，在高维数据上验证了ACORE和BFF统计量性能。
2024-11-26 cs.LG stat.ML
Simulation-based Inference for High-dimensional Data using Surjective Sequential Neural Likelihood Estimation
Swiss Data Science Center（瑞士数据科学中心）；ETH Zurich（苏黎世联邦理工学院）；Swiss Federal Institute of Aquatic Science and Technology（瑞士联邦水产科学与技术研究所）；Bank for International Settlements（国际清算银行）
针对高维或流形数据下神经似然估计失效的问题，提出用降维满射正则化流作为代理似然的 SSNL，并在多类含真实科学数据实验中达到或超过 SOTA。
2025-06-10 cs.LG stat.ME stat.ML
Calibration of conditional composite likelihood for Bayesian inference on Gibbs random fields
Université Montpellier（蒙彼利埃大学）；University College Dublin（都柏林大学学院）
本文提出了一种校准方法，用于通过复合似然进行Gibbs随机场的贝叶斯推断，通过实例验证了该方法的有效性。
2015-11-18 math.ST stat.CO stat.TH
Efficient Multifidelity Likelihood-Free Bayesian Inference with Adaptive Computational Resource Allocation
无似然贝叶斯推断算法是用于校准复杂随机模型的参数的流行方法，当观察数据的似然性难以处理时需要。这些算法的特点是严重依赖于重复的模型模拟。然而，每当模拟的计算成本甚至是适度昂贵的，显着的负担所产生的似然自由算法离开他们在许多实际应用中是不可行的。已经引入了多保真度方法（最初是在近似贝叶斯计算的上下文中），通过使用模拟计算上便宜的近似模型代替感兴趣的模型所提供的信息，来减少无可能性推理的模拟负担，而不损失准确性。这项工作的第一个贡献是证明多保真度技术可以应用于一般的似然自由贝叶斯推断设置。在不同的保真度水平的模拟计算资源的最佳分配的分析结果，并随后实际实施。我们提供了一个自适应的多保真度似然自由推理算法，学习模型之间的关系，在不同的精度，并相应地适应资源分配，并证明该算法产生后验估计与接近最佳的效率。
2021-12-22 q-bio.QM stat.CO
Robust Generalised Bayesian Inference for Intractable Likelihoods
广义贝叶斯推断使用损失函数而不是似然更新先验信念，因此可以用于赋予针对可能的似然错误指定的鲁棒性。在这里，我们认为广义贝叶斯推断与斯坦差异作为一个损失函数，动机的应用程序中的可能性包含一个棘手的归一化常数。在这种情况下，斯坦差异规避评价的归一化常数，并产生广义后验，要么是封闭的形式或使用标准的马尔可夫链蒙特卡罗访问。在理论层面上，我们表现出一致性，渐近正态性和偏置鲁棒性的广义后验，突出这些属性是如何影响的选择斯坦差异。然后，我们提供了一系列的棘手的分布，包括应用基于核的指数族模型和非高斯图形模型的数值实验。
2022-01-11 math.ST stat.CO stat.ME
Estimating Marginal Likelihoods in Likelihood-Free Inference via Neural Density Estimation
针对无似然推断中边际似然难以计算的问题，提出一种利用序列神经似然估计（SNLE）输出的简单通用方法来估计边际似然。
2025-07-11 stat.CO
High-order Composite Likelihood Inference for Max-Stable Distributions and Processes
在多变量或空间极值中，在大量位置处观察到的最大稳定过程的推断是计算统计中最具挑战性的问题之一，并且当前方法通常依赖于从小数据子集构建的较便宜的复合似然。在这项工作中，我们探讨了现代国家的最先进的计算设施的限制，以执行全似然推理，并有效地评估高阶复合似然。通过大量的模拟，我们评估了一些广泛使用的多元或空间极值模型的复合似然估计相对于完全似然方法的信息损失，讨论了如何选择复合似然截断以提高效率，并为从业者提供了建议。
2015-08-19 stat.CO
Bayesian inference for Gibbs random fields using composite likelihoods
吉布斯随机场在统计学中起着重要的作用，例如，自逻辑模型通常用于对定义在网格上的二进制变量的空间分布建模。然而，由于似然函数的复杂性，它们的工作是复杂的。因此，考虑对似然函数的易处理的近似是很自然的。复合似然提供了一个原则性的方法来构建这样的近似。本文的贡献是研究的性能的一组复合似然近似的背景下，贝叶斯推断。
2012-07-24 stat.CO
Pooling information in likelihood-free inference
本文提出一种池化后验方法，通过最优组合多个似然无涉推断后验，避免选择单一汇总统计量或特定LFI算法，并给出理论保证与基准实验验证。
2025-06-05 math.ST stat.CO stat.ME
A partial likelihood approach to tree-based density modeling and its application in Bayesian inference
本文提出用Cox偏似然解决基于树的贝叶斯密度建模中数据依赖划分导致的数据双重使用问题，在保持推断一致性的同时提升估计精度和计算效率。
2025-04-10 math.ST stat.CO stat.ME
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中，实现贝叶斯推断通常在计算上具有挑战性，有时计算可能性本身也很困难。当可能性难以处理时，合成可能性是一种进行推理的方法，但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然，其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明，如果汇总统计量满足中心极限定理，则合成似然后验是渐近正态的，并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明，贝叶斯合成似然比近似贝叶斯计算更有效的计算，并表现出类似的回归调整近似贝叶斯计算。基于渐近结果，第三个贡献，提出使用调整的推断方法时，可能误指定的形式，假定为合成似然的协方差阵，如对角或因子模型，以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Inference in a bimodal Birnbaum-Saunders model
我们解决的问题进行推断的参数，指数双峰扩展的Birnbaum-Saunders分布（BS）。我们表明，极大似然点估计可能是有问题的，因为标准的非线性优化算法可能无法收敛。为了解决这个问题，我们惩罚对数似然函数。我们提出的数值证据表明，极大似然估计的基础上，这样的惩罚函数是相当可靠的。我们还考虑了基于惩罚对数似然函数的假设检验推理。特别地，我们考虑了似然比，签署似然比，得分和Wald测试。基于Bootstrap的测试推理也被认为是。我们使用非嵌套假设检验来区分两个双峰BS法。我们推导出一些测试的分析修正。蒙特卡罗模拟的结果和经验的应用进行了介绍和讨论。
2017-11-23 stat.CO
Pseudo-marginal Inference for CTMCs on Infinite Spaces via Monotonic Likelihood Approximations
可数无限空间上连续时间马尔可夫链（CTMC）的贝叶斯推断是出了名的困难，因为精确地评估似然是棘手的。解决这一挑战的一种方法是首先建立一个非负的和无偏估计的可能性-涉及矩阵指数的有限截断的真实率矩阵-然后使用的估计在一个伪边际推理方法。在这项工作中，我们表明，我们可以显着提高这种方法的效率，通过避免精确的矩阵指数的计算。特别是，我们开发了一个通用的方法来构建一个无偏的，非负的估计的可能性，使用双单调矩阵指数近似。我们进一步开发了一种新的近似在这个家庭-的骨架-以及理论，关于其近似误差，以及如何涉及到伪边缘推理中使用的估计的方差。实验结果表明，我们的方法产生更有效的后验推理的各种CTMC。
2021-05-28 stat.CO
Amortised Likelihood-free Inference for Expensive Time-series Simulators with Signatured Ratio Estimation
University of Oxford（牛津大学）；Improbable（Improbable公司）；Durham University（杜伦大学）
在自然科学和社会科学中，复杂动力学的仿真模型通常缺乏易于处理的似然函数，使得传统的基于似然的统计推断变得不可能。机器学习的最新进展已经引入了新的算法，用于使用基于二进制分类器的似然比技巧来估计否则难以处理的似然函数。因此，有效的似然近似可以获得良好的概率分类器，可以构建。我们提出了一个核分类器的顺序数据使用路径签名的基础上最近推出的签名内核。我们证明了签名的代表性力量产生了一个高性能的分类器，即使在至关重要的情况下，样本数很低。在这种情况下，我们的方法可以优于复杂的神经网络常见的后验推理任务。
2022-02-23 cs.LG stat.CO stat.ME
Spectral likelihood expansions for Bayesian inference
提出了一种贝叶斯推断的谱方法。它追求的是后验概率密度的仿真。出发点是似然函数在正交多项式方面的级数展开。从这个谱似然展开所有感兴趣的统计量可以计算半解析。后验形式上表示为参考密度和多项式基函数的线性组合的乘积。模型证据和后验矩都与展开系数有关。该公式避免了马尔可夫链蒙特卡罗模拟，并允许使用线性最小二乘法代替。从经典统计学和逆建模的简单应用的基础上，讨论和证明了频谱贝叶斯推断的优点和缺点。
2016-04-26 stat.CO
ELFI: Engine for Likelihood-Free Inference
Engine for Likelihood-Free Inference（ELFI）是一个Python软件库，用于执行Likelihood-Free Inference（LFI）。ELFI提供了一种方便的语法，用于将LFI中的组件（如先验、模拟器、摘要或距离）排列到称为ELFI图的网络。这些组件可以用多种语言实现。独立的ELFI图可以与任何可用的推理方法一起使用而无需修改。在ELFI中实现的一个中心方法是似然自由推理（BOLFI）的贝叶斯优化，最近已被证明可以通过对距离进行代理建模来将似然自由推理加速到几个数量级。ELFI还内置了对输出数据存储的支持，以供重用和分析，并支持从多个核心到集群环境的并行计算。ELFI被设计为可扩展的，并提供扩展其功能的接口。这使得向ELFI添加新的推理方法变得简单，并自动与内置功能兼容。
2018-07-05 cs.MS stat.CO stat.ML
Efficient Bayesian Inference for Spatial Point Patterns Using the Palm Likelihood
North Carolina State University（北卡罗来纳州立大学）；Department of Statistics, North Carolina State University（北卡罗来纳州立大学统计系）
本文提出在贝叶斯框架下利用 Palm 似然进行空间点模式推断，并通过两种校准方法修正后验覆盖不足问题，在保证统计性能的同时显著提升计算效率。
2026-09-29 stat.CO stat.ME
Likelihood-free inference by ratio estimation
我们考虑的问题时，参数统计推断的可能性计算是昂贵的，但从模型的采样是可能的。已经开发了几种所谓的无似然方法来在没有似然函数的情况下执行推断。流行的合成似然方法通过用高斯概率分布对数据的汇总统计进行建模来推断参数。在另一种称为近似贝叶斯计算的流行方法中，通过识别模拟数据的汇总统计量接近观察数据的汇总统计量的参数值来执行推断。合成似然更容易使用，因为不需要衡量“接近程度”，但高斯假设往往是有限的。此外，这两种方法都需要明智地选择汇总统计数据。在这里，我们提出了一种替代的推理方法，是一样容易使用的合成似然，但不受限制，在其假设，并在一个自然的方式，使自动选择相关的汇总统计量从一个大的候选人。其基本思想是将后验概率的估计问题归结为数据生成分布与边缘分布之间的比值的估计问题。这个问题可以通过逻辑斯谛回归来解决，并且包括正则化惩罚项使得能够自动选择与推理任务相关的汇总统计量。我们说明了规范的例子一般理论，并利用它来执行具有挑战性的随机非线性动力系统和高维汇总统计推断。
2020-09-11 stat.CO stat.ME stat.ML
Adaptive Gaussian process approximation for Bayesian inference with expensive likelihood functions
我们考虑计算密集型似然函数的贝叶斯推断问题。我们提出了一种基于高斯过程（GP）的方法来近似未知参数和数据的联合分布。特别是，我们写的联合密度近似为一个近似的后验密度和一个exponentiated GP代理的产品。然后，我们提供了一个自适应算法来构建这样的近似，其中使用主动学习方法来选择设计点。数值例子表明，该方法具有竞争力的性能对现有的贝叶斯计算方法。
2018-03-14 stat.CO stat.ML
Likelihood-free inference via classification
越来越复杂的生成模型正在跨学科使用，因为它们允许对数据进行真实的表征，但它们的共同困难是评估似然函数的计算成本过高，从而执行基于似然的统计推断。出现了一个无似然推理框架，其中通过找到产生类似于观测数据的模拟数据的值来识别参数。虽然广泛适用，在这个框架中的一个主要困难是如何衡量模拟和观测数据之间的差异。将原始问题转化为将数据分类为模拟与观察的问题，我们发现分类精度可以用来评估差异。因此，完整的分类方法库可用于推理难以处理的生成模型。我们验证了我们的方法，使用理论和模拟点估计和贝叶斯推断，并证明其使用的真实数据推断一个基于个人的流行病学模型，在幼儿中心的细菌感染。
2017-03-03 stat.CO stat.ME stat.ML
Bayesian inference, model selection and likelihood estimation using fast rejection sampling: the Conway-Maxwell-Poisson distribution
似然函数模型的贝叶斯推断是现代统计学中一组具有挑战性的问题。在这项工作中，我们分析了康威-麦克斯韦-泊松（COM-泊松）分布，两个参数的推广的泊松分布。COM-泊松回归建模允许灵活地将离散计数数据建模为具有COM-泊松响应的广义线性模型（GLM）的一部分，其中外源协变量控制响应的平均值和离散水平。COM泊松回归的主要困难是，似然函数包含多个棘手的归一化常数，是不服从标准的推理和MCMC技术。最近Chanialdaughter等人的工作。（2017）已经看到了一个采样器的发展，使用拒绝抽样算法从COM泊松似然中提取随机变量。我们提供了一个新的拒绝抽样COM-泊松分布，显着减少所需的CPU时间进行推断COM-泊松回归模型。这项工作的一个新的扩展表明，对于任何棘手的似然函数与相关的拒绝采样器，有可能构建无偏估计量估计的棘手的似然证明有用的模型选择或用于伪边缘MCMC算法（Andrieu和罗伯茨，2009年）。我们展示了所有这些方法在现实世界的收购出价数据集。
2020-07-10 stat.CO
Neural composite likelihood estimation: simulation based inference for time series
University of Bristol（布里斯托大学）；School of Mathematics, University of Bristol（布里斯托大学数学学院）；School of Biological Sciences, University of Bristol（布里斯托大学生物科学学院）
本文提出神经复合似然估计（NCLE），将长序列划分为等大小批次分别估计似然，以乘积作为复合似然进行频率推断，从而将基于模拟的推断扩展到高维时间序列数据。
2026-09-21 stat.CO stat.ML
Parallel Gaussian process surrogate Bayesian inference with noisy likelihood evaluations
Helsinki Institute for Information Technology HIIT（赫尔辛基信息技术研究所）；Aalto University（阿尔托大学）；University of Edinburgh（爱丁堡大学）
我们考虑贝叶斯推断时，只有有限数量的噪声对数似然评价可以得到。例如，当将复杂的基于模拟器的统计模型拟合到数据时，会发生这种情况，并且使用合成似然（SL）方法来使用计算成本高的前向模拟来形成噪声对数似然估计。我们框架的推理任务作为一个连续的贝叶斯试验设计问题，其中的对数似然函数建模与分层高斯过程（GP）代理模型，这是用来有效地选择额外的对数似然评估位置。最近的进展的相关问题的批量贝叶斯优化的动机，我们开发了各种批量顺序的设计策略，允许并行运行一些潜在的昂贵的模拟。我们从理论和经验上分析了所产生的方法的属性。几个玩具问题和仿真模型的实验表明，我们的方法是强大的，高度并行化，样本效率。
2020-03-06 cs.LG stat.CO stat.ME
Dynamic Likelihood-free Inference via Ratio Estimation (DIRE)
University of Edinburgh（爱丁堡大学）
根据随机数据生成过程隐式定义的参数统计模型用于广泛的科学学科中，因为它们能够进行准确的建模。然而，从观测数据学习参数通常是非常困难的，因为它们的似然函数通常是难以处理的。无似然贝叶斯推断方法已经被提出，其中包括近似贝叶斯计算（ABC），合成似然，其最近的推广，执行无似然推理比估计（LFIRE）的框架。所有这些方法的一个主要困难是选择汇总统计量，减少数据的维数，以便于推断。虽然已经提出了几种方法来选择汇总统计ABC，文献合成似然和LFIRE是非常薄的日期。我们在这里解决这个差距在文献中，专注于重要的特殊情况下的时间序列模型。我们表明，卷积神经网络训练预测输入参数的数据提供合适的汇总统计LFIRE。在广泛的时间序列模型，一个单一的神经网络架构产生同样或更准确的后验比其他方法。
2018-10-23 cs.LG stat.CO stat.ME
Robust Approximate Bayesian Inference with Synthetic Likelihood
贝叶斯合成似然（BSL）是一种用于在模型中进行近似贝叶斯推断的成熟方法，其中，由于似然函数的棘手性，精确贝叶斯方法要么是不可行的，要么是计算量太大。BSL应用中隐含的假设是，数据生成过程（DGP）可以生成模拟汇总统计量，以捕获观察到的汇总统计量的行为。我们证明，如果实际和假设的DGP之间的兼容性不满足，即，如果模型被错误指定，BSL会产生不可靠的参数推断。为了规避这个问题，我们提出了一个新的BSL方法，可以检测模型的误指定的存在，并同时提供有用的推论，即使在显着的模型误指定。两个模拟和两个真实数据的例子证明了这种新的方法BSL的性能，并证明其优越的精度比标准BSL时，假设的模型是错误的。
2020-06-11 stat.AP stat.CO stat.ME
Bayesian Synthetic Likelihood
本文介绍贝叶斯合成似然（BSL）方法，用于似然不可计算但可模拟的模型中的后验推断，并概述其可扩展稳健的扩展。
2023-05-10 stat.CO stat.ME
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断，和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵，并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋，我们表明，我们的方法提供了准确的推断尺寸高达512 × 512的格子，并优于两个流行的方法：复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Weakly informative priors and prior-data conflict checking for likelihood-free inference
贝叶斯无似然推理（Bayesian likelihood free inference）是一种在似然性难以处理的情况下进行贝叶斯推断的方法，具有越来越多的重要科学应用。然而，贝叶斯分析的许多方面在无可能性设置中变得更具挑战性。其中一个例子是先验数据冲突检查，其目标是评估数据中的信息和先验信息是否不一致。这种冲突是重要的检测，因为它们可能会揭示问题，在调查人员的理解是什么相关的参数值，并可能导致贝叶斯推断的灵敏度的先验。在这里，我们考虑的方法是适用的，无论可能性是否是易处理的或没有的先验数据冲突检查。在构造我们的检查时，我们考虑基于先验到后验库尔贝克-莱布勒散度的检查统计量。使用混合物近似的后验分布和封闭形式的近似库尔贝克-莱布勒散度的混合物，这使得蒙特卡罗近似的参考分布校准计算可行的检查。当先验数据发生冲突时，在备选分析中考虑弱信息先验规范是有用的，作为敏感性分析的一部分。作为我们的方法的一个主要应用，我们开发了一种技术，用于搜索弱信息先验的似然自由推理，弱信息先验的概念是正式使用先验数据冲突检查。该方法在三个例子中证明。
2022-02-21 stat.CO stat.ME
Classification and Bayesian Optimization for Likelihood-Free Inference
某些统计模型是通过数据生成过程指定的，对于该过程，似然函数不能以封闭形式计算。标准的基于似然的推断是不可行的，但模型参数可以通过找到产生类似于观察数据的模拟数据的值来推断。这种方法至少面临两个主要困难：第一个困难是用于判断模拟数据是否与观测数据相似的差异度量的选择。第二个困难是在参数空间中的差异低的区域的计算有效的识别。我们在这里给我们最近的工作，我们通过分类和贝叶斯优化解决这两个困难的介绍。
2015-02-19 stat.CO stat.ME stat.ML
Bayesian optimisation for fast approximate inference in state-space models with intractable likelihoods
本文研究了具有难处理似然的非线性状态空间模型的近似贝叶斯参数推断问题。具有近似贝叶斯计算的序贯蒙特卡罗（SMC-ABC）是一种用于近似这种类型的模型中的可能性的方法。然而，这种近似可能是有噪声的并且计算成本高，这阻碍了使用基于优化和蒙特卡罗方法的标准方法的有效实现。我们提出了一种计算效率高的新方法的基础上结合高斯过程优化和SMC-ABC创建一个拉普拉斯近似的棘手后。我们将所提出的算法用于随机波动率模型的推理，同时使用合成数据和真实数据，以及使用Copula模型估计两个投资组合的风险价值。我们的文件之间的一个和两个数量级的速度相比，国家的最先进的后验推理算法。
2017-06-13 q-fin.RM stat.CO stat.ML
LocalCop: An R package for local likelihood inference for conditional copulas
LocalCop 是一个 R/C++ 包，基于局部似然推断框架实现计算高效的半参数条件 copula 建模，支持将多变量依赖结构作为协变量函数进行估计。
2024-03-27 stat.CO stat.ME
Inverse Gaussian Process regression for likelihood-free inference
在这项工作中，我们考虑贝叶斯推断问题与棘手的似然函数。我们提出了一种方法来计算一个近似的后验与有限数量的模型模拟。该方法的特征在于逆高斯过程回归（IGPR），即，在该方法中，我们提供了一个自适应算法与回火过程来构造边缘后验分布的近似。通过算例，我们证明了IGPR与一些常用算法相比具有竞争力的性能，特别是在统计稳定性和计算效率方面，而付出的代价是它只能计算边缘后验的加权高斯近似。
2021-02-21 stat.CO stat.ME
Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
提出用高斯过程模拟Metropolis-Hastings采样进程的近似贝叶斯推断框架，在有限噪声似然评估下实现高效且鲁棒的推断。
2023-08-31 stat.CO stat.ME stat.ML
Expectation-Propagation for Bayesian Empirical Likelihood Inference
College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院）；School of Mathematics and Statistics, The University of Melbourne（墨尔本大学数学与统计学院）
本文提出基于期望传播的变分方法近似贝叶斯经验似然后验，解决其计算挑战，在小样本下实现更优成本-精度权衡，且理论上近似与目标后验渐近等价。
2026-08-05 stat.CO stat.ME
Misspecification-robust likelihood-free inference in high dimensions
针对高维参数空间中基于ABC的无似然推断挑战，本文扩展基于贝叶斯优化的方法，通过参数专属采集函数与差异及指数损失似然，实现计算可扩展性与误设定鲁棒性，在100维空间及细菌传播模型拟合中表现优异。
2025-02-14 stat.CO stat.ME stat.ML
Bayesian Optimization for Likelihood-Free Inference of Simulator-Based Statistical Models
我们的论文涉及推断基于模拟器的统计模型给出了一些观察到的数据。基于模拟器的模型是一种参数化机制，它指定了数据如何生成。因此，它也被称为生成模型。我们假设只有有限数量的参数是感兴趣的，并允许生成过程是非常一般的，它可能是一个嘈杂的非线性动力系统与一个不受限制的隐变量的数量。这种弱假设对于设计现实模型是有用的，但它使统计推断非常困难。主要的挑战是似然函数的难处理性。已经提出了几种无似然推理方法，它们的基本思想是通过找到模拟数据和观测数据之间的差异很小的值来识别参数。使用这些方法的一个主要障碍是它们的计算成本。成本很大程度上是由于需要重复模拟数据集，以及缺乏有关参数如何影响差异的知识。我们提出了一种策略，结合概率建模的差异与优化，以促进似然自由推理。该策略是使用贝叶斯优化实现的，并通过减少所需的模拟的数量由几个数量级的加速推理。
2015-12-31 stat.CO stat.ME stat.ML
