Classification and Bayesian Optimization for Likelihood-Free Inference
某些统计模型是通过数据生成过程指定的，对于该过程，似然函数不能以封闭形式计算。标准的基于似然的推断是不可行的，但模型参数可以通过找到产生类似于观察数据的模拟数据的值来推断。这种方法至少面临两个主要困难：第一个困难是用于判断模拟数据是否与观测数据相似的差异度量的选择。第二个困难是在参数空间中的差异低的区域的计算有效的识别。我们在这里给我们最近的工作，我们通过分类和贝叶斯优化解决这两个困难的介绍。
2015-02-19 stat.CO stat.ME stat.ML
On the safe use of prior densities for Bayesian model selection
贝叶斯推断在模型选择中的应用是当前研究的热点。在这个框架中，模型通过它们的边际似然性或它们的相似性进行比较，称为贝叶斯因子。然而，边际可能性取决于先前的选择。对于模型选择，甚至扩散先验实际上可以提供非常多的信息，这与参数估计问题不同。此外，当先验不适当时，相应模型的边际似然是不确定的。在这项工作中，我们讨论了边际似然的先验灵敏度问题及其在模型选择中的作用。我们还评论使用无信息先验，这是非常常见的选择在实践中。几个实际的建议进行了讨论，许多可能的解决方案，在文献中提出，设计目标先验模型选择进行了说明。其中一些还允许使用不适当的先验。边际似然法和众所周知的信息标准之间的连接也被提出。我们描述的主要问题和可能的解决方案说明数值例子，也提供了一些相关的代码。其中一个涉及到系外行星探测的实际应用。
2022-06-10 stat.CO stat.ME stat.ML
Likelihood-free inference via classification
越来越复杂的生成模型正在跨学科使用，因为它们允许对数据进行真实的表征，但它们的共同困难是评估似然函数的计算成本过高，从而执行基于似然的统计推断。出现了一个无似然推理框架，其中通过找到产生类似于观测数据的模拟数据的值来识别参数。虽然广泛适用，在这个框架中的一个主要困难是如何衡量模拟和观测数据之间的差异。将原始问题转化为将数据分类为模拟与观察的问题，我们发现分类精度可以用来评估差异。因此，完整的分类方法库可用于推理难以处理的生成模型。我们验证了我们的方法，使用理论和模拟点估计和贝叶斯推断，并证明其使用的真实数据推断一个基于个人的流行病学模型，在幼儿中心的细菌感染。
2017-03-03 stat.CO stat.ME stat.ML
Likelihood-free inference by ratio estimation
我们考虑的问题时，参数统计推断的可能性计算是昂贵的，但从模型的采样是可能的。已经开发了几种所谓的无似然方法来在没有似然函数的情况下执行推断。流行的合成似然方法通过用高斯概率分布对数据的汇总统计进行建模来推断参数。在另一种称为近似贝叶斯计算的流行方法中，通过识别模拟数据的汇总统计量接近观察数据的汇总统计量的参数值来执行推断。合成似然更容易使用，因为不需要衡量“接近程度”，但高斯假设往往是有限的。此外，这两种方法都需要明智地选择汇总统计数据。在这里，我们提出了一种替代的推理方法，是一样容易使用的合成似然，但不受限制，在其假设，并在一个自然的方式，使自动选择相关的汇总统计量从一个大的候选人。其基本思想是将后验概率的估计问题归结为数据生成分布与边缘分布之间的比值的估计问题。这个问题可以通过逻辑斯谛回归来解决，并且包括正则化惩罚项使得能够自动选择与推理任务相关的汇总统计量。我们说明了规范的例子一般理论，并利用它来执行具有挑战性的随机非线性动力系统和高维汇总统计推断。
2020-09-11 stat.CO stat.ME stat.ML
Dimension-reduced Reconstruction Map Learning for Parameter Estimation in Likelihood-Free Inference Problems
针对无似然推断中神经网络重构映射估计受维数灾难影响、数据规模增大时估计不准的问题，提出结合重构映射与领域知识降维的无似然估计方法，验证了其性能优于现有多种估计方法。
2025-07-31 stat.CO stat.ME stat.ML
Likelihood-free stochastic approximation EM for inference in complex models
介绍了一种求解具有难处理似然模型参数的极大似然方法。我们产生一个似然自由版本的随机逼近期望最大化（SAEM）算法，以最大限度地提高模型参数的似然函数。虽然SAEM最适合于具有易处理的“完全似然”函数的模型，但将其应用于中等复杂的模型是一项困难甚至不可能的任务。我们将展示如何构建一个似然自由版本的SAEM通过使用“合成似然”的范例。我们的方法是完全即插即用，几乎不需要调整，可以应用于静态和动态模型。四个模拟研究说明了该方法，包括随机微分方程模型，随机Lotka-Volterra模型和数据从$g$ -和- $k$分布。MATLAB代码可作为补充材料。
2018-01-16 stat.CO stat.ME
A Comparison of Likelihood-Free Methods With and Without Summary Statistics
无似然方法适用于复杂模型的参数估计，这种复杂模型具有难以处理的似然函数，因此很容易模拟数据。这种模型在许多学科中普遍存在，包括遗传学，生物学，生态学和宇宙学。无似然方法通过寻找模型的参数值来避免显式的似然评估，这些参数值生成的数据接近观察数据。普遍的共识是，它是最有效的比较数据集的基础上，一个低维的信息汇总统计，招致有利于减少维数的信息损失。最近，研究人员探索了各种方法，以有效地比较经验分布的可能性自由的背景下，努力避免数据汇总。本文提供了一个完整的数据距离为基础的方法，并进行了第一次全面的比较，这种方法，定性和实证。我们还进行了实质性的经验比较与汇总统计为基础的似然自由的方法。讨论和结果为考虑无可能性方法的从业者提供了指导。虽然我们发现最好的方法是依赖于问题，我们也发现，全数据距离为基础的方法是有前途的，值得进一步发展。我们讨论了在这个空间的未来研究的一些机会。实现本文所讨论的方法的计算机代码可以在https://github.com/cdrovandi/ABC-dist-compare上找到。
2022-03-25 stat.CO stat.ME
Amortized Inference for Correlated Discrete Choice Models via Equivariant Neural Networks
Johns Hopkins Carey Business School（约翰霍普金斯大学凯瑞商学院）
本文提出利用等变神经网络架构近似一般误差分布下的选择概率，通过Sobolev训练提升估计一致性与渐近正态性，仿真显示在准确性和速度上优于GHK模拟器。
2026-09-09 cs.LG econ.EM stat.ME
The prior can generally only be understood in the context of the likelihood
贝叶斯分析的一个关键点是先验分布的选择，并且有大量关于潜在缺省的文献，包括均匀先验、Jeffreys先验、参考先验、最大熵先验和弱信息先验。然而，这些方法，往往表现出一个关键的概念紧张在先验建模：一个模型编码真实的先验信息应选择不参考模型的测量过程中，但几乎所有常见的先验建模技术隐含的参考可能性的动机。在本文中，我们解决了这个明显的悖论，把先验的选择到整个贝叶斯分析的背景下，从推理预测模型评估。
2017-08-31 stat.ME
Amortised Likelihood-free Inference for Expensive Time-series Simulators with Signatured Ratio Estimation
University of Oxford（牛津大学）；Improbable（Improbable公司）；Durham University（杜伦大学）
在自然科学和社会科学中，复杂动力学的仿真模型通常缺乏易于处理的似然函数，使得传统的基于似然的统计推断变得不可能。机器学习的最新进展已经引入了新的算法，用于使用基于二进制分类器的似然比技巧来估计否则难以处理的似然函数。因此，有效的似然近似可以获得良好的概率分类器，可以构建。我们提出了一个核分类器的顺序数据使用路径签名的基础上最近推出的签名内核。我们证明了签名的代表性力量产生了一个高性能的分类器，即使在至关重要的情况下，样本数很低。在这种情况下，我们的方法可以优于复杂的神经网络常见的后验推理任务。
2022-02-23 cs.LG stat.CO stat.ME
Misspecification-robust likelihood-free inference in high dimensions
针对高维参数空间中基于ABC的无似然推断挑战，本文扩展基于贝叶斯优化的方法，通过参数专属采集函数与差异及指数损失似然，实现计算可扩展性与误设定鲁棒性，在100维空间及细菌传播模型拟合中表现优异。
2025-02-14 stat.CO stat.ME stat.ML
Bayesian Optimization for Likelihood-Free Inference of Simulator-Based Statistical Models
我们的论文涉及推断基于模拟器的统计模型给出了一些观察到的数据。基于模拟器的模型是一种参数化机制，它指定了数据如何生成。因此，它也被称为生成模型。我们假设只有有限数量的参数是感兴趣的，并允许生成过程是非常一般的，它可能是一个嘈杂的非线性动力系统与一个不受限制的隐变量的数量。这种弱假设对于设计现实模型是有用的，但它使统计推断非常困难。主要的挑战是似然函数的难处理性。已经提出了几种无似然推理方法，它们的基本思想是通过找到模拟数据和观测数据之间的差异很小的值来识别参数。使用这些方法的一个主要障碍是它们的计算成本。成本很大程度上是由于需要重复模拟数据集，以及缺乏有关参数如何影响差异的知识。我们提出了一种策略，结合概率建模的差异与优化，以促进似然自由推理。该策略是使用贝叶斯优化实现的，并通过减少所需的模拟的数量由几个数量级的加速推理。
2015-12-31 stat.CO stat.ME stat.ML
Dynamic Likelihood-free Inference via Ratio Estimation (DIRE)
University of Edinburgh（爱丁堡大学）
根据随机数据生成过程隐式定义的参数统计模型用于广泛的科学学科中，因为它们能够进行准确的建模。然而，从观测数据学习参数通常是非常困难的，因为它们的似然函数通常是难以处理的。无似然贝叶斯推断方法已经被提出，其中包括近似贝叶斯计算（ABC），合成似然，其最近的推广，执行无似然推理比估计（LFIRE）的框架。所有这些方法的一个主要困难是选择汇总统计量，减少数据的维数，以便于推断。虽然已经提出了几种方法来选择汇总统计ABC，文献合成似然和LFIRE是非常薄的日期。我们在这里解决这个差距在文献中，专注于重要的特殊情况下的时间序列模型。我们表明，卷积神经网络训练预测输入参数的数据提供合适的汇总统计LFIRE。在广泛的时间序列模型，一个单一的神经网络架构产生同样或更准确的后验比其他方法。
2018-10-23 cs.LG stat.CO stat.ME
Optimally-Weighted Estimators of the Maximum Mean Discrepancy for Likelihood-Free Inference
本文提出一种改进样本复杂度的最大均值差异（MMD）最优加权估计器，用于似然无关推断，特别适用于计算昂贵的中低维平滑模拟器，并通过理论和模拟研究验证其有效性。
2023-05-10 stat.CO stat.ME stat.ML
A Matrix--free Likelihood Method for Exploratory Factor Analysis of High-dimensional Gaussian Data
提出了一种新的剖面似然估计方法，用于估计高维高斯数据集的探索性因子分析中的协方差参数，其观测值小于变量数。隐式重新启动的Lanczos算法和有限内存拟牛顿法实现开发一个无矩阵的框架似然最大化。仿真结果表明，我们的方法是大大快于期望最大化的解决方案，而不牺牲精度。我们的方法适用于自杀未遂者，自杀意念者和对照组的数据拟合因子模型。
2019-11-10 q-bio.QM stat.AP stat.CO
Differentiable Likelihoods for Fast Inversion of 'Likelihood-Free' Dynamical Systems
Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Bosch Center for Artificial Intelligence（博世人工智能中心）
无可能性（也称为基于仿真的）推理问题是具有昂贵的或难以处理的前向模型的逆问题。常微分方程反问题通常被视为无可能性，因为它们的正向映射必须由常微分方程求解器进行数值近似。然而，这不是一个基本的约束，而只是缺乏经典ODE求解器的功能，它不返回可能性，而是点估计。为了解决这个缺点，我们采用高斯ODE滤波（ODE的概率数值方法）来构建一个局部高斯近似的可能性。这种近似产生易于处理的估计的梯度和海森的（日志）的可能性。插入这些估计到现有的基于梯度的优化和采样方法产生新的求解ODE反问题。我们证明，这些方法优于标准的似然自由的方法在三个基准系统。
2020-06-29 cs.LG cs.NA math.NA
Likelihood-free Markov chain Monte Carlo
出现在MCMC手册中，S。P. Brooks，A. Gelman，G.琼斯和X L. Meng（eds），Chapman & Hall.
2010-01-13 stat.ME
Benchmark of Likelihood-Free Inference Methods based on Neural and Optimal Transport Approaches
LSCE（气候与环境科学实验室）；ESSEC Business School, IDO Dep. and CREAR（欧洲高等商学院，创新与设计学院及CREAR）；Université Paris Saclay & ESSEC Business School CREAR（巴黎萨克雷大学与欧洲高等商学院CREAR）；Laboratoire des Sciences du Climat et de l’Environnement, CNRS-CEA-UVSQ-IPSL（气候与环境科学实验室，CNRS-CEA-UVSQ-IPSL）
研究通过模拟评估四种似然自由推断方法（MLE、NBE、EOT和AW-NBE）在重尾或离散数据等结构特征下的性能，强调在极端和离散数据下谨慎选择评估工具的重要性。
2026-05-28 stat.ME stat.ML
Likelihood-Free Inference with Generative Neural Networks via Scoring Rule Minimization
University of Oxford（牛津大学）；University of Warwick（华威大学）
贝叶斯似然自由推理方法产生后验近似的模拟器模型与棘手的可能性。近年来，许多工作训练神经网络来逼近难以处理的似然或后验。大多数建议使用归一化流，即神经网络参数化可逆映射，用于从底层基本度量转换样本;然后可以访问转换样本的概率密度，并且可以通过模拟参数-观测对的极大似然训练归一化流。最近的一项工作[拉梅什等人，2022]用生成网络近似后验，这降低了可逆性要求，因此是一类更灵活的分布，可以扩展到高维和结构化数据。然而，生成网络只允许从参数化分布中采样;因此，Ramesh et al.[2022]遵循对抗训练的常见解决方案，其中生成网络与"批评者"网络进行最小-最大游戏。这个过程是不稳定的，可能导致一个学习的分布低估了不确定性-在极端情况下崩溃到一个点。在这里，我们建议使用通过评分规则最小化训练的生成网络来近似后验，这是一种被忽视的无对抗方法，可以实现平滑训练和更好的不确定性量化。在模拟研究中，评分规则方法在对抗框架方面具有更短的训练时间，从而产生更好的性能。
2022-05-31 cs.LG stat.CO stat.ME
Convergent stochastic algorithm for parameter estimation in frailty models using integrated partial likelihood
脆弱模型通常是异质生存数据的首选模型。脆弱性模型包含随机效应和固定效应，其中随机效应适应数据中的相关性。对于固定效应和随机效应之间的方差和协方差，提出了不同的估计方法。尤其是在未指明的基线危害下，即，在Cox模型中，少数可用的方法仅处理特定的相关结构。本文介绍了一种基于积分偏似然的估计方法，它可以处理任何类型的相关结构。新的方法，即最大化的综合偏似然，与随机估计过程相结合，也允许广泛的选择分布的随机效应。首先，我们证明了几乎必然收敛的随机算法对一个临界点的综合偏似然。其次，数值收敛性能进行了评估，通过模拟。第三，通过应用于癌症临床试验数据，证明了使用未指明基线风险的优势。
2019-09-16 stat.ME
Weakly informative priors and prior-data conflict checking for likelihood-free inference
贝叶斯无似然推理（Bayesian likelihood free inference）是一种在似然性难以处理的情况下进行贝叶斯推断的方法，具有越来越多的重要科学应用。然而，贝叶斯分析的许多方面在无可能性设置中变得更具挑战性。其中一个例子是先验数据冲突检查，其目标是评估数据中的信息和先验信息是否不一致。这种冲突是重要的检测，因为它们可能会揭示问题，在调查人员的理解是什么相关的参数值，并可能导致贝叶斯推断的灵敏度的先验。在这里，我们考虑的方法是适用的，无论可能性是否是易处理的或没有的先验数据冲突检查。在构造我们的检查时，我们考虑基于先验到后验库尔贝克-莱布勒散度的检查统计量。使用混合物近似的后验分布和封闭形式的近似库尔贝克-莱布勒散度的混合物，这使得蒙特卡罗近似的参考分布校准计算可行的检查。当先验数据发生冲突时，在备选分析中考虑弱信息先验规范是有用的，作为敏感性分析的一部分。作为我们的方法的一个主要应用，我们开发了一种技术，用于搜索弱信息先验的似然自由推理，弱信息先验的概念是正式使用先验数据冲突检查。该方法在三个例子中证明。
2022-02-21 stat.CO stat.ME
An easy-to-use empirical likelihood ABC method
在自然科学、工程学和环境科学中，许多科学上动机良好的统计模型都是通过生成过程来指定的，但在某些情况下，可能无法通过分析写下这些模型的可能性。在这些情况下允许贝叶斯推断的近似贝叶斯计算（ABC）方法通常是计算密集型的。最近，计算有吸引力的经验似然ABC方法已在文献中提出。这些方法在很大程度上依赖于一组合适的易于分析的估计方程的可用性。我们提出了一种易于使用的经验似然ABC方法，其中所需的唯一输入是选择汇总统计量，它的观察值，以及模拟模型下任何参数值的汇总统计量的能力。结果表明，使用所提出的方法获得的后验是一致的，并探讨其性能使用各种例子。
2018-10-08 stat.AP stat.CO stat.ME
Score Matched Neural Exponential Families for Likelihood-Free Inference
贝叶斯似然自由推断（LFI）方法允许通过依赖于模型模拟来获得具有难处理似然的随机模型的后验分布。在近似贝叶斯计算（ABC）中，一种流行的LFI方法，汇总统计量被用来减少数据的维度。ABC算法自适应地根据观察量调整模拟，以便从近似后验中采样，其形式取决于所选择的统计量。在这项工作中，我们引入了一种新的方法来学习ABC统计：我们首先从模型中独立地生成参数模拟对，然后，我们使用分数匹配来训练一个神经条件指数族来近似似然。指数族是具有固定大小充分统计量的最大类分布;因此，我们在ABC中使用它们，这在直观上很吸引人，并且具有最先进的性能。与此同时，我们将我们的似然近似插入MCMC中，用于双重棘手的分布以绘制后验样本。我们可以对任何数量的观测重复这一过程，而无需额外的模型模拟，其性能与相关方法相当。我们验证我们的方法与已知的可能性和一个大的多维时间序列模型的玩具模型。
2022-01-31 stat.ME stat.ML
A Likelihood-Free Approach to Goal-Oriented Bayesian Optimal Experimental Design
针对传统贝叶斯最优实验设计侧重参数EIG而非下游感兴趣量EIG的问题，提出适配隐式模型的无似然面向目标方法LF-GO-OED，通过ABC样本构建密度比估计器规避似然计算，经基准验证并应用于流行病学与神经科学。
2024-08-18 stat.AP stat.CO stat.ME
perms: Likelihood-free estimation of marginal likelihoods for binary response data in Python and R
本文介绍 Python/R 软件包 perms，用无似然的排列计数方法估计可交换二元响应模型的边际似然，支持非参数模型与大数据，并通过示例和模拟验证其效率。
2023-12-10 stat.CO stat.ME
Population Calibration using Likelihood-Free Bayesian Inference
在本文中，我们开发了一种无似然性的人口校准方法，它涉及到找到模型参数的分布时，通过模型产生一组输出，匹配现有的人口数据。与大多数其他方法人口校准，我们的方法产生的不确定性量化的估计分布。此外，该方法可以应用于任何群体校准问题，无论感兴趣的模型是确定性的还是随机的，或者无论群体数据是在有或没有测量误差的情况下观察到的。我们演示了几个例子，包括一个真实的数据的方法。我们还讨论了该方法的计算限制。这里开发的方法立即应用于医学研究的许多领域，包括癌症，COVID-19，药物开发和心脏病学。
2022-02-04 stat.CO stat.ME
Inverse Gaussian Process regression for likelihood-free inference
在这项工作中，我们考虑贝叶斯推断问题与棘手的似然函数。我们提出了一种方法来计算一个近似的后验与有限数量的模型模拟。该方法的特征在于逆高斯过程回归（IGPR），即，在该方法中，我们提供了一个自适应算法与回火过程来构造边缘后验分布的近似。通过算例，我们证明了IGPR与一些常用算法相比具有竞争力的性能，特别是在统计稳定性和计算效率方面，而付出的代价是它只能计算边缘后验的加权高斯近似。
2021-02-21 stat.CO stat.ME
SLICE: Sequential Likelihood-Free Inference via Conformal E-Values
Department of Statistics, University of Oxford（牛津大学统计系）
针对似然函数难以处理的科学模型，提出SLICE方法构造精确随时有效置信序列，用摊销神经比率估计器近似神谕似然比得分，在多类实验中验证其置信序列有效性及得分竞争力。
2026-10-14 stat.ME stat.ML
Detecting conflicting summary statistics in likelihood-free inference
贝叶斯无似然方法使用来自模型的数据的模拟来实现贝叶斯推断，以代替难以处理的似然评估。大多数无似然推断方法在执行贝叶斯推断之前用汇总统计量替换完整的数据集，并且该统计量的选择通常是困难的。出于计算原因，汇总统计量应该是低维的，同时保留尽可能多的参数信息。使用最近的想法，从可解释的机器学习文献，我们开发了一些基于回归的诊断方法，这是有用的检测时，不同部分的汇总统计向量包含冲突的信息模型参数。这种冲突使汇总统计量的选择复杂化，检测它们可以洞察模型的缺陷并指导模型改进。开发的诊断方法是基于回归方法的似然自由推理，其中回归模型估计后验密度使用汇总统计作为功能。在回归模型中删除和插补部分汇总统计量向量可以消除汇总统计量子集的冲突和近似后验分布。在删除和插补之后，估计后验密度的变化大于预期，这可能表明感兴趣的推断受到影响的冲突。新方法的实用性证明了在一些真实的例子。
2020-10-15 stat.ME
Posterior accuracy and calibration under misspecification in Bayesian generalized linear models
针对广义线性模型中似然族和连接函数选择困难的问题，通过大规模模拟研究评估错误设定下的后验准确性与校准，发现某些似然和连接函数稳健，并给出实用选择建议。
2023-11-15 stat.ME
Likelihood-Free Inference via Structured Score Matching
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Maryland, College Park（马里兰大学帕克分校）
本文提出结合分数匹配与梯度优化的无似然推断框架，通过定制化分数匹配估计器和架构正则化方案，提升参数估计精度与可扩展性，并通过实验验证其有效性。
2026-03-30 stat.ME
A Likelihood-Free Reverse Sampler of the Posterior Distribution
本文考虑了当似然函数难以处理且辅助统计量被用来总结数据中的信息时，针对后验分布的基于优化的采样器的性质。我们的反向采样器近似的似然为基础的后验分布通过解决一系列的模拟最小距离问题。通过变量变元的改变，这些估计值被重新加权先验和雅可比矩阵的体积，以作为从期望的后验分布中提取的结果。采样器提供了一个概念框架来理解两种类型的似然自由估计之间的差异。由于模拟的最小距离估计总是导致可接受的绘制，因此反向采样器可能是现有近似贝叶斯方法的替代方案，这些方法由于接受率低而需要计算。
2015-12-01 stat.ME
Likelihood-free Posterior Density Learning for Uncertainty Quantification in Inference Problems
The Ohio State University（俄亥俄州立大学）
KASPE通过深度学习直接重建观测数据与后验分布映射，提升复杂推断问题中的不确定性量化效率。
2026-11-06 stat.ME
ABC and Indirect Inference
本章将出现在即将出版的近似贝叶斯计算手册（2018）中。间接推理（II）是一种经典的似然自由的方法，早于ABC的主要发展，并依赖于模拟从一个参数模型的兴趣，以确定点估计的参数。因此，一些无似然贝叶斯方法利用了II文献也就不足为奇了。本章介绍II，并详细说明ABC和II之间的联系。一个特别的重点放在使用一个辅助模型与一个听话的似然函数，一种方法通常采用的II文献，以方便似然自由贝叶斯推断。
2018-03-06 stat.CO stat.ME
Approximate Bayesian Computation with Statistical Distances for Model Selection
University of Sydney（悉尼大学）；ARC Training Centre in Data Analytics for Resources and Environments (DARE)（资源与环境数据分析 ARC 培训中心）
本文探讨基于统计距离的ABC方法在模型选择中的应用，通过比较不同度量指标和方法，揭示其在稳定性、校准性和模型复杂度下的表现差异。
2026-02-28 stat.CO stat.ME
Tuning-Free Maximum Likelihood Training of Latent Variable Models via Coin Betting
Lancaster University（兰卡斯特大学）
本文将边际最大似然估计转化为自由能最小化，提出基于梯度流和 coin betting 的两种粒子算法，后者完全免学习率，并在高维实验中取得有竞争力的性能。
2024-03-01 cs.LG stat.ME stat.ML
Bayesian computation via empirical likelihood
当似然函数数值不可用时，近似贝叶斯计算（ABC）已成为分析复杂随机模型的重要工具。然而，经验似然性的成熟统计方法提供了另一种途径，绕过了模型的模拟和ABC参数的选择（汇总统计量，距离，容差），同时在观测数量上收敛。此外，绕过模型模拟可能会在复杂模型中节省大量时间，例如在群体遗传学中发现的那些。我们在本文中开发的BCel算法还通过相关的有效样本量来评估其自身的性能。使用几个例子，包括估计标准分布，时间序列，和人口遗传学模型的方法进行说明。
2012-12-05 q-bio.QM stat.CO stat.ME
Multi-objective Bayesian optimization for Likelihood-Free inference in sequential sampling models of decision making
National University of Singapore（新加坡国立大学）；Ajou University（亚洲大学）
本文提出MOBOLFI方法，利用多源数据进行似然自由推断，通过多维不一致度建模检测信息冲突并提升参数估计精度。
2025-06-04 stat.AP stat.ME
Unifying Likelihood-free Inference with Black-box Optimization and Beyond
Mila；University of Montreal（蒙特利尔大学）；CIFAR Fellow（CIFAR研究员）
用于生物序列设计的黑箱优化配方最近引起了人们的关注，因为它们对制药工业有着广阔的潜在影响。在这项工作中，我们建议统一两个看似不同的世界：无可能性推理和黑盒优化，在一个概率框架。在串联，我们提供了一个配方构建各种序列设计方法的基础上，这个框架。我们展示了如何以前的优化方法可以在我们的框架中“改造”，并进一步提出新的概率黑箱优化算法。序列设计应用的广泛实验说明了所提出的方法的好处。
2022-02-08 cs.AI cs.LG q-bio.BM
Likelihood-free inference in high-dimensional models
绕过似然函数的分析评估的方法已经成为许多科学领域中统计推断不可或缺的工具。这些所谓的无似然方法依赖于接受和拒绝基于汇总统计的模拟，这将它们限制在低维模型中，对于低维模型，绝对似然性足够大，从而导致可管理的接受率。为了解决这些问题，我们引入了一种新的，无似然马尔可夫链蒙特卡罗（MCMC）方法结合两个关键的创新：每次迭代只更新一个参数，并接受或拒绝此更新的基础上的子集的统计足够的这个参数。这大大提高了接受率，使得这种方法甚至适用于非常高维的模型。我们进一步推导出，对于线性模型，每个参数的统计量的一维组合是足够的，并且可以通过模拟凭经验找到。最后，我们证明了我们的方法很容易扩展到非常高维的模型，使用这两个玩具模型，以及通过共同推断的有效人口规模，分布的新突变（DFE）的健身效果和选择系数为每个位点的数据最近的实验中的耐药性的演变在流感。
2015-07-31 stat.ME
Likelihood-Free Parallel Tempering
近似贝叶斯计算（ABC）方法（或无似然方法）在过去的15年中已经出现，当可能性在分析或计算上难以处理时，它是执行贝叶斯分析的有用方法。已经提出了几种ABC方法：例如，Marjoramet等人（2003）和Bortotet等人（2007）已经开发了蒙特卡罗马尔可夫链（MCMC）方法，Sissonet等人（2007），Beaumont等人（2009）和Del Moral等人（2009）已经提出了序贯方法。到目前为止，虽然ABC-MCMC方法仍然是参考，但顺序ABC方法似乎优于它们（例如参见McKinley等人（2009）或Sisson等人（2007））。在本文中，提出了一种新的算法相结合的人口为基础的MCMC方法与ABC的要求，使用类似的并行回火算法（Geyer，1991年）。性能与现有的ABC算法的模拟和一个真实的例子。
2012-04-30 stat.ME
Sequential Likelihood-Free Inference with Neural Proposal
Korea Advanced Institute of Science and Technology（韩国科学技术院）；University of Seoul（首尔市立大学）；ioCrops（ioCrops公司）；EWHA Womans University（梨花女子大学）
无似然估计的贝叶斯推断或无似然推理，一直是仿真研究中的一个关键研究课题，用于在真实世界数据集上获得定量验证的仿真模型。由于可能性评估是不可访问的，以前的论文训练摊销神经网络估计地面真实后验的模拟兴趣。以顺序方式交替训练网络和积累数据集可以节省数量级的总模拟预算。在数据累积阶段，在总模拟预算的一部分内选择新的模拟输入以在收集的数据集上累积。这种新积累的数据退化，因为模拟输入的集合几乎没有混合，并且这种退化的数据收集过程破坏了后验推理。本文介绍了一种新的采样方法，称为神经建议（NP），解决了有偏见的数据收集，因为它保证了独立同分布的模拟输入。取样.实验表明，我们的采样器的性能有所改善，特别是对多模态后验的模拟。
2022-11-04 cs.AI cs.LG stat.ME
Maximum likelihood versus likelihood-free quantum system identification in the atom maser
我们考虑的系统识别问题估计的马尔可夫量子开放系统（原子脉泽）的动力学参数，通过执行连续时间测量系统的输出（传出的原子）。两种估计方法进行了研究和比较。一方面，极大似然估计（MLE）考虑了全部测量数据，并且就其均方误差而言是渐近最优的。另一方面，近似贝叶斯计算的“无可能性”方法通过在不同参数值下对轨迹进行采样并通过选定的统计数据将其与测量数据进行比较，为给定的一组汇总统计数据产生后验分布的近似值。我们的分析是在原子脉泽模型上进行的，它表现出有趣的特征，如双稳态和动态相变，并与隐马尔可夫过程的经典理论有联系。建立在以前的结果表明，原子计数是穷人的统计拉比角的某些值，我们应用极大似然估计的完整的测量数据，并估计其Fisher信息。然后，我们选择几个相关的统计，如等待时间，连续相同的检测分布，并使用它们作为输入的ABC算法。由此产生的后验分布密切遵循的数据可能性，显示所选的统计包含“最”的拉比角的统计信息。
2013-11-16 quant-ph stat.ME
Surrogate-based ABC matches generalized Bayesian inference under specific discrepancy and kernel choices
本文研究 ABC 与 GBI 的理论联系，证明当损失取期望差异且 ABC 采用基于高斯过程的代理模型时，二者后验在特定差异与核选择下相对应。
2025-02-17 stat.ME
Assessing the Competitiveness of Matrix-Free Block Likelihood Estimation in Spatial Models
本文针对空间协方差函数估计，提出通过构建大小为二的分块并条件化合并分块对的无矩阵分块似然方法，模拟与真实数据表明其优于成对似然且不逊于基于矩阵的方法。
2024-01-20 math.ST stat.ME stat.TH
Pooling information in likelihood-free inference
本文提出一种池化后验方法，通过最优组合多个似然无涉推断后验，避免选择单一汇总统计量或特定LFI算法，并给出理论保证与基准实验验证。
2025-06-05 math.ST stat.CO stat.ME
Fitting mixed logit random regret minimization models using maximum simulated likelihood
本文描述了mixrandregret命令，它扩展了Gutiérrez-Vargas等人（2021，The Stata Journal 21：626-658）中引入的randregret命令，并为随机遗憾最小化模型引入了随机系数。新开发的命令mixrandregret允许在Chorus（2010，European Journal of Transport and Infrastructure Research 10：181-196）中引入的经典RRM模型的后悔函数中包含随机系数。该命令允许用户指定固定系数和随机系数的组合。此外，用户可以使用命令的选项为随机系数指定正态分布和对数正态分布。使用模拟最大似然法拟合模型，使用数值积分来近似选择概率。
2023-01-03 econ.EM stat.ME
Nonparametric likelihood-free inference with Jensen-Shannon divergence for simulator-based models with categorical output
Helsinki Institute of Information Technology (HIIT)（赫尔辛基信息技术研究所）；University of Helsinki（赫尔辛基大学）；University of Oslo（奥斯陆大学）；Wellcome Sanger Institute（惠康桑格研究所）；KTH Royal Institute of Technology（瑞典皇家理工学院）
基于模拟器的统计模型的无可能性推理最近在机器学习和统计社区都引起了极大的兴趣。这些研究领域的主要焦点是通过各种类型的蒙特卡罗采样算法或基于深度神经网络的代理模型来近似模型参数的后验分布。迄今为止，基于模拟器的模型的频率论推理受到的关注要少得多，尽管它特别适用于大数据应用，其中可能性的隐式渐近近似预计是准确的，并且可以利用计算效率高的策略。在这里，我们得出了一组理论结果，使估计，假设检验和置信区间的模型参数使用渐近性质的詹森-香农发散的建设。这样的渐近近似提供了一个快速的替代计算密集型的方法，可以是基于模拟器的模型的各种应用程序的吸引力。61
2022-05-26 cs.LG stat.ME
