A penalized simulated maximum likelihood approach in parameter estimation for stochastic differential equations
考虑离散时间观测值为完全观测值或部分观测值的随机微分方程参数估计问题。两个观测值之间的跃迁密度通常是未知的。在转移密度未知的情况下,提出了一种带辅助参数的重要性抽样方法。我们将辅助重要性采样器嵌入到惩罚极大似然框架中,从而产生更准确和计算效率更高的参数估计。在三个不同的模型中的仿真研究表明,新的惩罚模拟极大似然方法有希望的改进。新的程序是专为具有挑战性的情况下,当一些状态变量是不可观测的,而且,观察到的状态是稀疏的,随着时间的推移,这通常会出现在生态研究。我们将这种新的方法应用于两种流行病的慢性消耗性疾病的骡鹿。
2015-09-08 stat.AP stat.CO stat.ME
Variational Bayes with Synthetic Likelihood
合成似然是一种有吸引力的方法时,近似高斯汇总统计的数据,信息的参数的推断,无似然推理。合成似然法从汇总统计量的插入正态密度估计值导出近似似然函数,插入均值协方差阵通过蒙特卡罗模拟从模型中获得。在这篇文章中,我们开发的替代方案,马尔可夫链蒙特卡罗实现贝叶斯合成似然减少计算开销。我们的方法使用随机梯度变分推断方法的后验近似的合成似然上下文中,采用无偏估计的对数似然。我们比较新的方法与相关的似然自由变分推断技术在文献中,而在同一时间,提高了该方法的实施,在许多方面。这些新的算法是可行的,以实现在传统的近似贝叶斯计算(ABC)方法的挑战性的情况下,在参数和汇总统计的维度。
2016-08-10 stat.ME
Fast Inference for Intractable Likelihood Problems using Variational Bayes
变分贝叶斯(VB)是一种流行的贝叶斯推断估计方法。然而,大多数现有的VB算法仅限于可能性易于处理的情况,这排除了它们在许多重要情况下的使用。Tran等人(2017)将VB的应用范围扩展到可能性难以处理但可以无偏估计的情况,并将方法命名为变分贝叶斯与难以处理的可能性(VBIL)。本文介绍了VBIL的一个版本,名为变分贝叶斯与难处理的对数似然(VBILL),这是有用的情况下,大数据和大面板数据模型,其中的对数似然梯度的无偏估计量是可用的。我们证明,这样的估计可以很容易地在许多大数据应用程序中获得。所提出的方法是准确的,在这个意义上说,除了一个额外的蒙特卡罗错误,可以控制,它是能够产生估计,如果真正的可能性,或全数据的可能性,是使用。特别是,我们开发了一种计算效率高的方法,基于数据子采样和MapReduce编程技术,用于分析无法装入单个台式PC内存的海量数据集。我们使用了几个模拟数据集和一个大的真实数据集的基础上的到达时间状态的U。S.航空公司
2017-05-18 stat.ME
Likelihood-based inference for correlated diffusions
我们使用马尔可夫链蒙特卡罗(MCMC)技术解决相关扩散过程的基于似然的推断问题。这样的任务提出了两个有趣的问题。首先,MCMC方案的构造应确保相关系数的更新受到扩散矩阵的正定约束。第二,扩散只能在有限的一组点上观察到,并且基于这些观察的参数的边际似然性通常不可用。我们克服了第一个问题,通过使用Cholesky分解的扩散矩阵。为了处理可能性不可用性,我们将Roberts和Stramer(2001 Biometrika 88(3):603-621)的数据增强框架推广到d维相关扩散,包括多变量随机波动率模型。我们的方法是通过模拟为基础的实验,并与每日欧元/美元,英镑/美元的利率连同其隐含波动率。
2007-11-10 math.ST q-fin.ST stat.CO
Likelihood-based inference for partially observed stochastic epidemics with individual heterogeneity
我们建立了一个动态网络上的随机流行病模型,其中感染率是异质的,并且可能随个体水平的协变量而变化。联合动力学建模为一个连续时间的马尔可夫链,使疾病的传播受到约束的接触网络结构,网络的演变反过来又受到个人的疾病状态。为了适应部分流行病观察常见于现实世界中的数据,我们提出了一种基于随机期望最大化算法的似然推理方法,引入关键的创新,包括有效的条件采样器,用于估算丢失的感染和恢复时间,尊重动态接触网络。在合成数据集和真实数据集上的实验表明,我们的推理方法可以准确有效地恢复模型参数,并在流行病数据中存在未观察到的疾病事件时提供有价值的见解。
2021-12-15 stat.AP stat.ME
Scalable simulation-based inference for implicitly defined models using a metamodel for Monte Carlo log-likelihood estimator
本文针对隐式定义模型提出一种基于蒙特卡洛对数似然估计器元模型的可扩展仿真推断方法,利用局部渐近正态性量化参数不确定性,并通过多个示例验证其准确性与可扩展性。
2025-04-16 math.ST stat.ME stat.TH
Likelihood approximations via Gaussian approximate inference
Australian National University(澳大利亚国立大学)
本文针对非高斯似然导致后验不可处理的问题,结合变分推断与变换基矩匹配构造高斯似然近似,在分类、大规模推断和流式任务中取得更优效果。
2024-10-28 cs.LG stat.ML
Easy High-Dimensional Likelihood-Free Inference
我们引入了一个使用生成对抗网络(GANs)进行无似然推理(LFI)和近似贝叶斯计算(ABC)的框架,在该框架中,我们用近似器网络取代了黑盒模拟器模型,并以数据驱动的方式生成了一组丰富的摘要特征。在基准数据集上,我们的方法在可扩展性、处理高维数据和复杂概率分布的能力方面优于其他方法。
2018-08-23 cs.LG stat.ML
Likelihood-based Inference for Partially Observed Epidemics on Dynamic Networks
我们提出了一个生成模型和推理方案的流行病过程的动态,自适应接触网络。将网络演化描述为一个链路马尔可夫过程,并将其耦合到一个个体水平的随机SIR模型中,以描述网络上的流行病动态与网络链路变化之间的相互作用.提出了一种马尔可夫链蒙特卡罗框架,用于从部分流行病观测数据中进行基于似然的推断,并设计了一种新的数据增强算法,用于处理动态网络环境下个体恢复时间缺失的问题.通过一系列的仿真实验,我们证明了该模型的有效性和灵活性,以及数据增强推理方案的有效性和效率。该模型还应用于最近关于流感样疾病传播的真实数据集,其中包含高分辨率的社交接触跟踪记录。
2020-04-05 physics.soc-ph q-bio.PE stat.ME
Stochastic Gradient Annealed Importance Sampling for Efficient Online Marginal Likelihood Estimation
Stellenbosch University(斯泰伦博斯大学);National Institute for Theoretical Physics(国家理论物理研究所)
我们考虑在独立同分布(i.i.d.)数据我们建议通过使用随机梯度马尔可夫链蒙特卡罗技术来估计此类环境中边缘可能性的顺序因子分解中的预测分布。这种方法是更有效的比传统的边缘似然估计技术,如嵌套抽样和退火重要性抽样,由于它使用小批量来近似的可能性。的估计的稳定性提供了一个自适应退火时间表。由此产生的随机梯度退火重要性抽样(SGAIS)技术,这是我们的论文的主要贡献,使我们能够估计的边际可能性的一些模型大大快于传统的方法,没有明显的损失的准确性。我们的方法的一个重要好处是,边际可能性是在数据可用时以在线方式计算的,允许将估计值用于在线加权模型组合等应用。
2019-11-17 cs.LG stat.ML
Fast and Robust Likelihood-Guided Diffusion Posterior Sampling with Amortized Variational Inference
Institute of Foundation Models, MBZUAI(基础模型研究所,MBZUAI);Huawei Lagrange Mathematics and Computing Research Center, Paris, France(华为拉格朗日数学与计算研究中心,法国巴黎);Mohamed Bin Zayed University of AI, Chair of the ML Department, EPITA, Laboratoire Recherche de l'EPITA(穆罕默德·本·扎耶德人工智能大学,机器学习系主任,EPITA,EPITA研究实验室)
本文提出一种快速且稳健的扩散后验采样方法,通过幅度化变分推断保留显式似然引导,提升逆问题的效率与鲁棒性。
2026-02-06 cs.AI cs.LG stat.ML
Stochastic Maximum Likelihood Direction Finding in the Presence of Nonuniform Noise Fields
针对未知非均匀噪声下相关随机源的最大似然测向问题,提出基于EM算法推广的ECME算法,通过显式公式更新协方差估计并保证正定性,兼具计算效率与稳定性,仿真验证了其有效性。
2023-02-09 eess.SP math.OC stat.AP
Maximum Likelihood Learning of Unnormalized Models for Simulation-Based Inference
University College London(伦敦大学学院);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔理工学院);Deepmind(深度思维)
本文提出两种基于条件能量基模型和KL损失最小化的合成似然方法,用于基于模拟的推断,在多个合成数据集及螃蟹幽门网络神经科学模型上以更低模拟预算取得优于现有方法的效果。
2023-04-18 cs.LG stat.ML
Efficient Bayesian Inference for Spatial Point Patterns Using the Palm Likelihood
North Carolina State University(北卡罗来纳州立大学);Department of Statistics, North Carolina State University(北卡罗来纳州立大学统计系)
本文提出在贝叶斯框架下利用 Palm 似然进行空间点模式推断,并通过两种校准方法修正后验覆盖不足问题,在保证统计性能的同时显著提升计算效率。
2026-09-29 stat.CO stat.ME
Bayesian Synthetic Likelihood
本文介绍贝叶斯合成似然(BSL)方法,用于似然不可计算但可模拟的模型中的后验推断,并概述其可扩展稳健的扩展。
2023-05-10 stat.CO stat.ME
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断,和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵,并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋,我们表明,我们的方法提供了准确的推断尺寸高达512 × 512的格子,并优于两个流行的方法:复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Weakly informative priors and prior-data conflict checking for likelihood-free inference
贝叶斯无似然推理(Bayesian likelihood free inference)是一种在似然性难以处理的情况下进行贝叶斯推断的方法,具有越来越多的重要科学应用。然而,贝叶斯分析的许多方面在无可能性设置中变得更具挑战性。其中一个例子是先验数据冲突检查,其目标是评估数据中的信息和先验信息是否不一致。这种冲突是重要的检测,因为它们可能会揭示问题,在调查人员的理解是什么相关的参数值,并可能导致贝叶斯推断的灵敏度的先验。在这里,我们考虑的方法是适用的,无论可能性是否是易处理的或没有的先验数据冲突检查。在构造我们的检查时,我们考虑基于先验到后验库尔贝克-莱布勒散度的检查统计量。使用混合物近似的后验分布和封闭形式的近似库尔贝克-莱布勒散度的混合物,这使得蒙特卡罗近似的参考分布校准计算可行的检查。当先验数据发生冲突时,在备选分析中考虑弱信息先验规范是有用的,作为敏感性分析的一部分。作为我们的方法的一个主要应用,我们开发了一种技术,用于搜索弱信息先验的似然自由推理,弱信息先验的概念是正式使用先验数据冲突检查。该方法在三个例子中证明。
2022-02-21 stat.CO stat.ME
LocalCop: An R package for local likelihood inference for conditional copulas
LocalCop 是一个 R/C++ 包,基于局部似然推断框架实现计算高效的半参数条件 copula 建模,支持将多变量依赖结构作为协变量函数进行估计。
2024-03-27 stat.CO stat.ME
Inverse Gaussian Process regression for likelihood-free inference
在这项工作中,我们考虑贝叶斯推断问题与棘手的似然函数。我们提出了一种方法来计算一个近似的后验与有限数量的模型模拟。该方法的特征在于逆高斯过程回归(IGPR),即,在该方法中,我们提供了一个自适应算法与回火过程来构造边缘后验分布的近似。通过算例,我们证明了IGPR与一些常用算法相比具有竞争力的性能,特别是在统计稳定性和计算效率方面,而付出的代价是它只能计算边缘后验的加权高斯近似。
2021-02-21 stat.CO stat.ME
On the stochastic restricted Liu-type maximum likelihood estimator in logistic regression
为了克服多重共线性,当线性约束是随机的时,我们通过将Liu型极大似然估计(Inan and Erdo- GAN,2013)结合到逻辑斯谛回归模型中,提出了随机约束Liu型最大似然估计。我们还讨论了新的估计量的性质。此外,我们还给出了新估计量中偏置参数的选择方法。最后,仿真研究显示了新的估计器的性能。
2017-10-06 stat.ME
Empirical likelihood inference for partial functional linear regression models based on B spline
本文将经验似然方法应用于基于B样条的部分泛函线性回归模型中回归参数的推断。我们证明了回归参数的经验对数似然比收敛于独立χ 2分布的加权和的规律,并运行模拟来评估我们的方法的有限样本性能。
2017-10-31 stat.ME
Likelihood-free inference by ratio estimation
我们考虑的问题时,参数统计推断的可能性计算是昂贵的,但从模型的采样是可能的。已经开发了几种所谓的无似然方法来在没有似然函数的情况下执行推断。流行的合成似然方法通过用高斯概率分布对数据的汇总统计进行建模来推断参数。在另一种称为近似贝叶斯计算的流行方法中,通过识别模拟数据的汇总统计量接近观察数据的汇总统计量的参数值来执行推断。合成似然更容易使用,因为不需要衡量“接近程度”,但高斯假设往往是有限的。此外,这两种方法都需要明智地选择汇总统计数据。在这里,我们提出了一种替代的推理方法,是一样容易使用的合成似然,但不受限制,在其假设,并在一个自然的方式,使自动选择相关的汇总统计量从一个大的候选人。其基本思想是将后验概率的估计问题归结为数据生成分布与边缘分布之间的比值的估计问题。这个问题可以通过逻辑斯谛回归来解决,并且包括正则化惩罚项使得能够自动选择与推理任务相关的汇总统计量。我们说明了规范的例子一般理论,并利用它来执行具有挑战性的随机非线性动力系统和高维汇总统计推断。
2020-09-11 stat.CO stat.ME stat.ML
Selective inference after likelihood- or test-based model selection in linear models
模型选择后的统计推断需要考虑选择的推断框架才有效。根据最近的工作选择性推理,我们推导出解析表达式的推理后,似然或基于测试的模型选择线性模型。
2017-09-23 stat.AP stat.ME
On the occurrence times of componentwise maxima and bias in likelihood inference for multivariate max-stable distributions
高维多变量极值分布或最大稳定过程的全似然推断在合并最大值的发生时间时是可行的;如果没有此信息,由于似然中的大量项,通常排除$d$维似然推断。然而,一些研究指出,当执行包含此类事件信息的高维推理时,特别是当依赖性较弱时,会出现偏差。我们阐明了这种现象,表明在中等尺寸的无偏推理,尺寸$d$应小于平方根的向量的数量,其中一个采取组件的最大值。本文提出了一种减少偏倚的方法,并在极值逻辑斯谛模型上加以说明。
2015-03-31 stat.ME
Discussion of Likelihood Inference for Models with Unobservables: Another View
对Youngjo Lee和John A. Nelder [arXiv:1010.0303]
2010-10-05 stat.ME
Rejoinder: Likelihood Inference for Models with Unobservables Another View
对Youngjo Lee和John A. Nelder [arXiv:1010.0303]
2010-10-05 stat.ME
Likelihood-free inference via classification
越来越复杂的生成模型正在跨学科使用,因为它们允许对数据进行真实的表征,但它们的共同困难是评估似然函数的计算成本过高,从而执行基于似然的统计推断。出现了一个无似然推理框架,其中通过找到产生类似于观测数据的模拟数据的值来识别参数。虽然广泛适用,在这个框架中的一个主要困难是如何衡量模拟和观测数据之间的差异。将原始问题转化为将数据分类为模拟与观察的问题,我们发现分类精度可以用来评估差异。因此,完整的分类方法库可用于推理难以处理的生成模型。我们验证了我们的方法,使用理论和模拟点估计和贝叶斯推断,并证明其使用的真实数据推断一个基于个人的流行病学模型,在幼儿中心的细菌感染。
2017-03-03 stat.CO stat.ME stat.ML
Pairwise likelihood inference for the multivariate ordered probit model
本文给出了多变量有序probit模型两两得分向量的封闭形式表达式。这一结果在基于似然性的推理中有几个含义。它实际上既用于加速基于梯度的点估计优化例程,又用于通过Godambe矩阵提供计算标准误和置信区间的构建块。
2019-01-29 stat.ME
Discussion of Likelihood Inference for Models with Unobservables: Another View
对Youngjo Lee和John A. Nelder [arXiv:1010.0303]
2010-10-05 stat.ME
Robust Approximate Bayesian Inference with Synthetic Likelihood
贝叶斯合成似然(BSL)是一种用于在模型中进行近似贝叶斯推断的成熟方法,其中,由于似然函数的棘手性,精确贝叶斯方法要么是不可行的,要么是计算量太大。BSL应用中隐含的假设是,数据生成过程(DGP)可以生成模拟汇总统计量,以捕获观察到的汇总统计量的行为。我们证明,如果实际和假设的DGP之间的兼容性不满足,即,如果模型被错误指定,BSL会产生不可靠的参数推断。为了规避这个问题,我们提出了一个新的BSL方法,可以检测模型的误指定的存在,并同时提供有用的推论,即使在显着的模型误指定。两个模拟和两个真实数据的例子证明了这种新的方法BSL的性能,并证明其优越的精度比标准BSL时,假设的模型是错误的。
2020-06-11 stat.AP stat.CO stat.ME
Full likelihood inference for max-stable data
我们展示了如何基于随机期望最大化算法(该算法结合了高维的统计和计算效率)对最大稳定多变量分布或过程进行全似然推断。这种方法的良好性能证明了流行的逻辑和布朗-Resnick模型的基础上通过模拟,它被证明提供显着的计算时间的改善相对于直接计算的可能性。还讨论了进一步减少计算负担的策略。
2018-07-13 stat.ME
Profile likelihood ratio tests for parameter inferences in generalized single-index models
提出了一种用于广义单指标模型中指标系数推断的剖面似然比检验。其主要特点包括其简单的实施,对参数化的不变性,并表现出大大低于标准的Wald测试在有限样本设置的偏见。此外,R例程进行的轮廓似然比检验被证明是超过两个数量级的速度比最近提出的广义似然比检验的基础上核回归。各种模拟和数据分析的例子证明了该方法的优点。
2017-06-26 stat.ME
Likelihood Inference for Models with Unobservables: Another View
统计学家之间一直存在争议:(i)模型是什么;(ii)如何从不可观测的模型中进行推断。一个这样的争议涉及的差异估计方法的边际手段不一定有一个概率的基础和统计模型具有不可观测的概率基础。另一个问题涉及基于似然性的推断与不可观测的统计模型。这需要一个扩展的可能性框架,我们将展示如何这样一个扩展,分层的可能性,允许这样做。对不可观测量的建模导致了丰富的新概率模型,从这些模型中可以自然地用分层似然法进行似然型推断。
2010-10-06 stat.ME
Data Fusion Using Robust Empirical Likelihood Inference
作者提出了一种稳健的半参数经验似然方法,将来自多个样本的所有可用信息与一个共同的测量中心相结合。利用两组不同的估计方程改进了经典的关于测量中心的似然推断。该方法不需要相关总体概率密度函数的函数形式的知识。通过大量的仿真研究,将该方法的均方误差、覆盖概率和平均置信区间长度与经典似然法进行了比较,证明了该方法的优越性。仿真结果表明,我们的方法提供了更多的信息和有效的推理比传统的极大似然估计时,这些相关样本的参数之间存在一定的结构关系。
2012-10-02 stat.ME
Amortised Likelihood-free Inference for Expensive Time-series Simulators with Signatured Ratio Estimation
University of Oxford(牛津大学);Improbable(Improbable公司);Durham University(杜伦大学)
在自然科学和社会科学中,复杂动力学的仿真模型通常缺乏易于处理的似然函数,使得传统的基于似然的统计推断变得不可能。机器学习的最新进展已经引入了新的算法,用于使用基于二进制分类器的似然比技巧来估计否则难以处理的似然函数。因此,有效的似然近似可以获得良好的概率分类器,可以构建。我们提出了一个核分类器的顺序数据使用路径签名的基础上最近推出的签名内核。我们证明了签名的代表性力量产生了一个高性能的分类器,即使在至关重要的情况下,样本数很低。在这种情况下,我们的方法可以优于复杂的神经网络常见的后验推理任务。
2022-02-23 cs.LG stat.CO stat.ME
Regularized Exponentially Tilted Empirical Likelihood for Bayesian Inference
The Ohio State University(俄亥俄州立大学)
本文提出正则化指数倾斜经验似然方法,通过引入连续指数族分布和正则化技术,解决后验域为原参数空间子集的问题,提升有限样本性能。
2026-10-05 stat.ME
Classification and Bayesian Optimization for Likelihood-Free Inference
某些统计模型是通过数据生成过程指定的,对于该过程,似然函数不能以封闭形式计算。标准的基于似然的推断是不可行的,但模型参数可以通过找到产生类似于观察数据的模拟数据的值来推断。这种方法至少面临两个主要困难:第一个困难是用于判断模拟数据是否与观测数据相似的差异度量的选择。第二个困难是在参数空间中的差异低的区域的计算有效的识别。我们在这里给我们最近的工作,我们通过分类和贝叶斯优化解决这两个困难的介绍。
2015-02-19 stat.CO stat.ME stat.ML
Weak signal identification and inference in penalized likelihood models for categorical responses
惩罚似然模型被广泛用于同时选择变量和估计模型参数。然而,弱信号的存在会导致不准确的变量选择、有偏的参数估计和无效的推断。因此,在惩罚似然模型中,准确识别弱信号并进行有效的推断是至关重要的。我们开发了一种统一的方法来识别弱信号,并在惩罚似然模型中进行推断,包括响应是分类的特殊情况。为了识别弱信号,我们使用每个协变量的估计选择概率作为信号强度的度量,并制定了信号识别标准。为了构造置信区间,我们提出了一个两步推理过程。广泛的仿真研究表明,所提出的程序优于现有的几种方法。我们通过将其应用于实践融合糖尿病数据集来说明所提出的方法。
2022-12-12 stat.ME
Likelihood-Free Inference via Structured Score Matching
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Maryland, College Park(马里兰大学帕克分校)
本文提出结合分数匹配与梯度优化的无似然推断框架,通过定制化分数匹配估计器和架构正则化方案,提升参数估计精度与可扩展性,并通过实验验证其有效性。
2026-03-30 stat.ME
Jackknife empirical likelihood based inference for Probability weighted moments
在本文中,我们讨论刀切经验似然(JEL)和调整刀切经验似然(AJEL)为基础的推理,找到置信区间的概率加权矩(PWM)。我们得到了JEL比和AJEL比统计量的渐近分布。我们比较的性能,建议的置信区间与最近开发的方法在覆盖概率和平均长度。我们还开发了基于JEL和AJEL的PWM测试,并研究了它的性能。最后,我们用印度各州的降雨量数据来说明我们的方法。
2018-07-12 stat.ME
Post-selection inference for L1-penalized likelihood models
本文提出了一种新的L1(lasso)惩罚似然模型(包括广义回归模型)的后选择推断方法。我们的方法概括了Lee et al(2014)提出的选择后框架。该方法提供了渐进有效的p值和置信区间,条件是套索完成的固有选择。我们目前的应用这项工作(正规化)逻辑斯谛回归,Cox的比例风险模型和图形套索。
2016-10-13 stat.ME
Inference for generalized additive mixed models via penalized marginal likelihood
针对广义加性混合模型中拉普拉斯近似在平滑参数估计上精度不足的问题,提出一种基于惩罚边际似然的新估计策略,以获得具有正确统计性质的估计。
2025-04-14 stat.ME
Universal inference with composite likelihoods
当数据来自于不允许易处理的联合规范的数据生成过程(DGP)时,最大复合似然估计是极大似然估计的一个有用的替代。我们表明,通用复合似然组成的边际和条件规范允许简单的建设复合似然比样的统计,有限样本的有效置信集和假设检验可以构建。这些统计量是通用的,因为它们可以从基础DGP的参数的任何估计量构造。我们证明了我们的方法,通过模拟研究,使用一对有条件指定的双变量模型。
2021-06-28 stat.ME
Vecchia Likelihood Approximation for Accurate and Fast Inference in Intractable Spatial Extremes Models
最大稳定的过程是最流行的高影响的空间极端事件的模型,因为它们出现的空间索引块最大值的唯一可能的限制。然而,这种模型的似然推断严重地受到维数灾难的影响,因为似然函数涉及到组合爆炸数目的术语。在本文中,我们建议使用Vecchia近似,它方便地将全联合密度分解为线性数量的低维条件密度项,基于精心选择的条件集,旨在改善和加速高维推理。理论渐近相对效率的高斯设置和模拟实验中的最大稳定设置显示出显着的效率增益和计算节省使用Vecchia似然近似方法相比,传统的复合似然。我们在整个红海的一千多个站点的极端海面温度数据的应用进一步证明了Vecchia似然近似拟合复杂模型的优越性,具有难以处理的似然性,提供比传统复合似然性更好的结果,并以更低的计算成本准确地捕获极值依赖结构。
2022-03-10 stat.ME
Improving upon the effective sample size based on Godambe information for block likelihood inference
我们认为有效的样本量,Godambe信息的基础上,块似然推理,这是一个有吸引力的和计算上可行的替代全似然推理的大型相关数据集。参考高斯随机场具有恒定的平均值,我们探讨如何选择块影响这个有效的样本量。可以看出,将每个块内的空间点分散开,而不是将它们保持在一起,可以在保持计算简单性的同时获得相当大的收益。在AR(1)模型下得到了这一方向的分析结果。这样发现的见解促进了其他模型的研究,包括平面上的相关模型,其中封闭形式的表达式是棘手的。
2021-12-18 stat.ME
Reliable inference for complex models by discriminative composite likelihood estimation
复合似然估计在多元数据分析中有着重要的作用,对于多元数据,完全的似然函数是难以处理的。复合似然推断中的一个重要问题是与低维数据子集相关联的权重的选择,因为不相容的子模型的存在会恶化所得到的估计的准确性。在本文中,我们介绍了一种新的方法,同时参数估计倾斜,或重新加权,每个子似然分量称为判别复合似然估计(D-McLE)。数据自适应权重使复合似然函数最大化,并从均匀权重移动给定距离;然后,所得到的权重可以用于根据它们在复合似然函数中的影响对低维似然进行排名。我们的分析结果和数值例子支持稳定的估计相比,使用标准的组成策略的基础上统一的权重。通过对多变量极端降水的模拟数据和实际空间数据的分析,说明了新方法的性能。
2015-12-14 stat.ME
Likelihood-based inference for max-stable processes
在过去的十年中,最大稳定过程已经成为空间极值统计建模的常用工具。然而,由于多元密度函数的不可用,它们的应用是复杂的,因此基于似然的方法仍然远远不能提供一个完整和灵活的推理框架。在这篇文章中,我们开发了非常实用的,基于似然的方法来拟合最大稳定的过程来自一个复合似然方法。该程序是足够可靠和通用的,允许同时建模的边际和依赖参数在空间背景下,在一个温和的计算成本。这种方法的效用是通过模拟检查,并说明了美国降水极端的分析。
2009-02-23 stat.ME
Improving the accuracy of likelihood-based inference in meta-analysis and meta-regression
随机效应模型经常被用于综合荟萃分析中不同研究的信息。虽然基于似然性的推理在限制属性和实施方面都很有吸引力,但其在随机效应荟萃分析中的应用可能会导致误导性结论,特别是当研究数量较少时。目前的文件显示,如何减少渐近偏差的极大似然估计的方差分量的方法,也可以大大提高推断的平均效应大小。这些结果是针对随机效应荟萃回归的更一般框架得出的,该框架允许平均效应大小随研究特定协变量而变化。
2017-05-22 stat.ME
Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
提出用高斯过程模拟Metropolis-Hastings采样进程的近似贝叶斯推断框架,在有限噪声似然评估下实现高效且鲁棒的推断。
2023-08-31 stat.CO stat.ME stat.ML
Maximum Likelihood Estimation for Stochastic Differential Equations Using Sequential Kriging-Based Optimization
随机微分方程(SDEs)在许多学科中被用作统计模型。然而,难以处理的似然函数的随机微分方程的推理具有挑战性,我们需要诉诸基于模拟的技术来估计和最大化的似然函数。虽然序贯蒙特卡罗方法允许在固定的参数值的可能性的准确评估,仍然有一个问题,如何找到最大似然估计。在这篇文章中,我们提出了一个有效的高斯过程为基础的方法,探索参数空间使用估计的可能性从序贯蒙特卡罗采样器。我们的方法占固有的蒙特卡罗变异的估计可能性,并不需要梯度的知识。该过程通过最大化所谓的预期改进来增加潜在的参数值,利用假设似然函数是平滑的这一事实。我们的模拟表明,我们的方法具有显着的计算和效率增益比现有的网格和梯度为基础的技术。我们的方法被应用到三个科技公司的收盘价建模。
2014-08-11 stat.ME
Parallel Gaussian process surrogate Bayesian inference with noisy likelihood evaluations
Helsinki Institute for Information Technology HIIT(赫尔辛基信息技术研究所);Aalto University(阿尔托大学);University of Edinburgh(爱丁堡大学)
我们考虑贝叶斯推断时,只有有限数量的噪声对数似然评价可以得到。例如,当将复杂的基于模拟器的统计模型拟合到数据时,会发生这种情况,并且使用合成似然(SL)方法来使用计算成本高的前向模拟来形成噪声对数似然估计。我们框架的推理任务作为一个连续的贝叶斯试验设计问题,其中的对数似然函数建模与分层高斯过程(GP)代理模型,这是用来有效地选择额外的对数似然评估位置。最近的进展的相关问题的批量贝叶斯优化的动机,我们开发了各种批量顺序的设计策略,允许并行运行一些潜在的昂贵的模拟。我们从理论和经验上分析了所产生的方法的属性。几个玩具问题和仿真模型的实验表明,我们的方法是强大的,高度并行化,样本效率。
2020-03-06 cs.LG stat.CO stat.ME
Improved Likelihood Inference in Birnbaum-Saunders Regressions
Birnbaum-Saunders回归模型常用于可靠性研究。我们解决的问题,在这类模型中进行推理时,观察的数量是小的。我们证明了当样本量较小时,似然比检验趋于自由,并且我们得到了一个校正因子,它减小了检验的样本量失真。这种修正使检验的误差率随着样本量的增加而消失得更快。数值结果表明,在有限样本情况下,改进的似然比检验比通常的似然比检验更可靠。我们还提出了一个经验的应用。
2009-04-22 stat.ME
Dynamic Likelihood-free Inference via Ratio Estimation (DIRE)
University of Edinburgh(爱丁堡大学)
根据随机数据生成过程隐式定义的参数统计模型用于广泛的科学学科中,因为它们能够进行准确的建模。然而,从观测数据学习参数通常是非常困难的,因为它们的似然函数通常是难以处理的。无似然贝叶斯推断方法已经被提出,其中包括近似贝叶斯计算(ABC),合成似然,其最近的推广,执行无似然推理比估计(LFIRE)的框架。所有这些方法的一个主要困难是选择汇总统计量,减少数据的维数,以便于推断。虽然已经提出了几种方法来选择汇总统计ABC,文献合成似然和LFIRE是非常薄的日期。我们在这里解决这个差距在文献中,专注于重要的特殊情况下的时间序列模型。我们表明,卷积神经网络训练预测输入参数的数据提供合适的汇总统计LFIRE。在广泛的时间序列模型,一个单一的神经网络架构产生同样或更准确的后验比其他方法。
2018-10-23 cs.LG stat.CO stat.ME
Spectral domain likelihoods for Bayesian inference in time-varying parameter models
本文研究时变参数模型贝叶斯推断中频域似然近似的有限样本精度,通过三个模拟研究评估多种频域似然函数,并在鸡蛋价格数据上加以验证。
2024-11-21 stat.ME