Profile-Kernel likelihood inference with diverging number of parameters
预测变量数目不断增加的广义变系数部分线性模型在当代的许多科学研究中出现。本文从理论和实践两个方面对轮廓似然估计和推断进行了研究。当参数个数随样本量增长时,在一定的正则性条件下,证明了轮廓似然估计的存在性和渐近正态性。提出了参数数目不断增加时的轮廓似然比推断,并证明了Wilk现象。提出并研究了一种计算轮廓核估计量的新算法-加速轮廓核算法。仿真研究表明,所得到的估计是有效的完全迭代轮廓核估计。对于中等的样本量,我们提出的方法节省了大量的计算时间比完全迭代轮廓核之一,并给出了稳定的估计。一组实际数据进行了分析,使用我们提出的算法。
2007-09-21 math.ST stat.TH
Statistical generalized derivative applied to the profile likelihood estimation in a mixture of semiparametric models
在纵向和生存数据的联合模型中,很难找到轮廓似然估计量的方差估计。我们通过引入“统计广义导数”来解决这个困难。导数用于显示估计量的渐近正态性,而不假设模型中密度函数的二阶导数存在。
2018-07-20 math.ST stat.TH
Maximum likelihood estimation for left-truncated log-logistic distributions with a given truncation point
从数学和数值两个方面详细分析了左截尾对数逻辑斯谛分布在给定截尾点的极大似然估计。这些极大似然方程往往没有一个解决方案,即使是小的截断。一个简单的标准,提供了一个定期的极大似然解决方案的存在。在这种情况下,可以构造轮廓似然函数,并且优化问题被降低到一维。当极大似然方程不承认某些数据样本的解决方案,它表明,Pareto分布是$L^1$ -限制的退化左截断对数逻辑斯谛分布。使用此数学信息,进行高效的蒙特卡罗模拟,以获得一些拟合优度检验的临界值。置信度表和插值公式提供和几个应用程序,以现实世界的数据。
2022-10-27 math.ST stat.CO stat.ME
Profile Likelihood Intervals for Quantiles in Extreme Value Distributions
极值分布中大分位数的剖面似然区间提供了一种很好的方法来估计这些感兴趣的参数,因为它们考虑了在小样本量和中等样本量样本量的情况下似然曲面的不对称性;然而,它们在实践中很少使用。相反,通常使用极大似然渐近(mla)区间,而不考虑样本量。它在这里示出的配置文件似然区间实际上是一个很好的替代估计的分位数的样本量$25 \leq n\leq 100$的块最大值,因为他们提出了足够的覆盖频率相比,这些样本量,这也往往低估了分位数,因此可能是一个危险的统计实践的MLA区间的覆盖频率差。此外,极大似然估计可以呈现问题时,威布尔模型被认为是中等或小的样本量,由于奇异性的相应的密度函数时,形状参数小于1。这些估计问题可以追溯到常用的连续近似的似然函数,并可以避免使用精确或正确的似然函数,至少在这里考虑的设置。最后,以一个降雨资料为例,验证了本文提出的基于剖面似然分析的推理方法。
2010-05-19 stat.AP
Searching for new physics with profile likelihoods: Wilks and beyond
粒子物理实验广泛使用似然比检验来比较假设和构建置信区间。通常,似然比检验统计量的零分布近似于$χ^2$分布,遵循Wilks定理。然而,许多与现代实验相关的情况可能导致这个定理失败。在本文中,我们回顾了如何识别这些情况,并构建有效的推理。
2019-11-22 astro-ph.HE hep-ex hep-ph
Shadow Simulated Annealing algorithm: a new tool for global optimisation and statistical inference
本文提出了一种新的全局优化方法,适用于一个家庭的标准,不完全知道。这个家庭包括从类的后验的标准,具有normalising常数,分析不听话。该程序适用于后验概率密度,连续微分关于他们的参数。所提出的方法避免了经典的蒙特卡罗最大似然推断所需的重新采样,同时提供了基于ABC的方法的缺失收敛特性。模拟数据和实际数据的结果。真实数据应用程序将非均匀区域相互作用点过程拟合到宇宙学数据。所获得的结果验证了我们宇宙中星系分布的两个重要方面:在给定的相互作用范围内,星系与宇宙细丝网络的接近程度以及领土聚类。最后,结论和展望。
2019-07-15 math.OC math.ST stat.AP
Maximum likelihood estimation of a multidimensional log-concave density
令X_1,.,X_n是具有对数凹(Lebesgue)密度f的独立同分布随机向量。我们首先证明,在概率为1的情况下,存在唯一的f的极大似然估计。使用这种估计是有吸引力的,因为,不同于核密度估计,该方法是全自动的,没有平滑参数选择。虽然存在性证明是非建设性的,我们能够重新制定的问题的计算方面的一个不可微的凸优化问题,从而结合技术的计算几何与肖尔的r-算法产生一个序列,收敛到最大似然估计。对于中等或大样本量,在我们的模拟,极大似然估计提供了一个改进的性能相比,基于核的方法,即使当我们允许使用的理论,最佳的固定带宽的内核估计,将无法在实践中使用。我们还提出了一个真实的数据聚类的例子,这表明我们的方法可以与期望最大化(EM)算法配合使用,以适应有限的混合物的对数凹密度。该算法的R版本可在软件包LogConcDEAD --任意维度的对数凹面密度估计中获得。
2008-04-24 stat.CO stat.ME
A Profile Likelihood Approach to Semiparametric Estimation with Nonignorable Nonresponse
无应答的统计推断是相当具有挑战性的,特别是当应答机制不可解释时。现有的方法往往需要正确的模型规格的结果和响应模型。然而,由于无响应,这两个模型不能直接从数据中验证,模型错误指定可能导致严重偏倚的推断。为了克服这一局限性,我们开发了一个强大的和有效的半参数方法的基础上的轮廓似然。该方法采用稳健半参数响应模型,其中假设研究变量的函数完全未知。提出了一种基于分数插补的有效计算算法。一个准似然的方法来测试可扩展性也被开发。证明了该方法的相合性和渐近正态性。有限样本的性能进行了检查,在广泛的模拟研究和韩国劳动和收入面板研究数据集的应用。
2018-09-11 stat.ME
Maximum likelihood estimation of regularisation parameters in high-dimensional inverse problems: an empirical Bayesian approach. Part II: Theoretical Analysis
本文对我们的同伴论文[49]中提出的三种随机逼近邻近梯度算法进行了详细的理论分析,以通过边际极大似然估计来设置正则化参数。我们证明了一个更一般的随机逼近方案的收敛性,其中包括[49]的三个算法作为特殊情况。这包括具有自然且易于验证的条件的渐进和非渐近收敛结果,以及收敛速度的明确界限。重要的是,该理论也是通用的,因为它可以应用于其他棘手的优化问题。一个主要的新颖性的工作是,我们的计划的随机梯度估计构造从不精确的近端马尔可夫链蒙特卡洛采样。这允许使用采样器,有效地扩展到大的问题,我们有精确的理论保证。
2020-08-13 math.PR math.ST stat.CO
Fletcher-Turek Model Averaged Profile Likelihood Confidence Intervals
我们评估了Fletcher和Turek(2011)在一个简单的情况下提出的模型平均轮廓似然置信区间,其中有两个线性回归模型,我们对它们进行平均。我们得到精确的表达式的覆盖范围和缩放的预期长度的间隔,并使用这些来计算这些数量在特定的情况下。我们发现,Fletcher-Turek置信区间可以有覆盖率远低于标称覆盖率和预期的长度大于标准的置信区间的覆盖率等于相同的最小覆盖率。在这些情况下,不幸的是,Fletcher-Turek置信区间并不比在模型选择后使用的标准置信区间更好,但忽略了模型选择过程。
2014-04-28 stat.ME
Maximum likelihood estimation of parameters of spherical particle size distributions from profile size measurements and its application for small samples
显微镜研究往往需要恢复颗粒尺寸分布在三维从只有几个(10 - 200)剖面测量。这个问题是特别相关的岩相学和矿物学研究,其中参数假设是合理的,并找到分布参数的微观研究的小部分是必不可少的。本文讨论了粒子近似为球形的特殊情况(即Wicksell问题)。本文提出了一种新的近似的概率密度的球形颗粒的轮廓尺寸。这种近似使用矿物颗粒的实际非光滑性,而不是完美的球体。新的近似有利于数值上有效地使用的极大似然方法,一般强大的方法,提供了分布参数估计的最小方差在大多数实际情况下。最大似然法估计的方差和偏差进行了数值比较的几个典型的粒度分布与替代参数的方法(矩量法和最小距离估计),和极大似然估计被认为是更可取的小样本和大样本。极大似然法和建议的近似法也可用于选择模型,用于使用所有分布图(无随机抽样)构建分布参数的窄置信区间,以及用于包括由截面边界覆盖的分布图的测量值。该方法的实用性说明使用一个例子,从冰川冰岩相学。
2022-02-15 stat.AP stat.ME
Profile Likelihood Inference for Anisotropic Hyperbolic Wrapped Normal Models on Hyperbolic Space
Department of Mathematics, Baruch College(巴鲁克学院数学系);Department of Mathematics, The Graduate Center, City University of New York(纽约市立大学研究生院数学系)
本文研究了超曲面上各向异性双曲包裹正态分布的基于似然的推断方法,提出通过优化似然函数获得参数估计,并证明了估计的强一致性及渐近正态性。
2026-05-01 math.ST stat.TH
Maximum Ideal Likelihood Estimation: A Unified Inference Framework for Latent Variable Models
University of South Carolina(南卡罗来纳大学)
本文提出最大理想似然估计(MILE),通过将潜变量视为参数直接利用完整数据联合分布,为潜变量模型提供统一推断框架,在传统方法失效时仍稳健,并具备理论保证与计算优势。
2025-10-06 math.ST stat.ME stat.TH
Bayesian optimisation for fast approximate inference in state-space models with intractable likelihoods
本文研究了具有难处理似然的非线性状态空间模型的近似贝叶斯参数推断问题。具有近似贝叶斯计算的序贯蒙特卡罗(SMC-ABC)是一种用于近似这种类型的模型中的可能性的方法。然而,这种近似可能是有噪声的并且计算成本高,这阻碍了使用基于优化和蒙特卡罗方法的标准方法的有效实现。我们提出了一种计算效率高的新方法的基础上结合高斯过程优化和SMC-ABC创建一个拉普拉斯近似的棘手后。我们将所提出的算法用于随机波动率模型的推理,同时使用合成数据和真实数据,以及使用Copula模型估计两个投资组合的风险价值。我们的文件之间的一个和两个数量级的速度相比,国家的最先进的后验推理算法。
2017-06-13 q-fin.RM stat.CO stat.ML
INFERNO: Inference-Aware Neural Optimisation
INFN - Sezione di Padova(意大利国家核物理研究所帕多瓦分所 (INFN - Sezione di Padova))
在许多科学学科中,精确的数据建模通常需要复杂的计算机模拟,由于观测数据的可能性评估的棘手性,使得统计推断具有挑战性。此外,有时人们对生成模型参数的子集上得出的推断感兴趣,同时考虑模型不确定性或对剩余滋扰参数的错误指定。在这项工作中,我们展示了如何通过随机梯度下降最大限度地减少推理驱动的损失来构建非线性汇总统计量,以便为感兴趣的参数提供最小的不确定性。作为一个用例,考虑了多维两组分混合模型(即信号与背景)中混合系数的置信区间估计问题,其中所提出的技术明显优于基于概率分类的汇总统计,概率分类是常用的替代方案,但不考虑干扰参数的存在。
2018-10-11 cs.LG hep-ex physics.data-an
On Birnbaum-Saunders Inference
Birnbaum-Saunders分布,也称为疲劳寿命分布,经常用于可靠性研究。我们得到调整的Birnbaum-Saunders配置文件似然函数。对于形状和尺度参数,获得了似然函数的修改版本,即,我们将形状参数视为感兴趣的,而将尺度参数视为讨厌的,然后考虑这样的情况,其中感兴趣的是在以讨厌的方式进入建模的形状参数的情况下对尺度参数执行推断。通过极大化相应的调整后的似然函数得到修正的轮廓极大似然估计。我们提出了不同的估计和相关的似然比检验的有限样本行为的数值证据。结果有利于调整估计和测试,我们建议。本文中获得的轮廓似然调整的一个新的方面是,它们产生改进的点估计和测试。当对形状参数进行推断时,两个轮廓似然调整工作良好,并且其中一个在对尺度参数执行假设检验推断时显示出优越的行为。两个经验的应用程序进行了简要介绍。
2008-04-06 math.ST stat.ME stat.TH
Monte Carlo profile confidence intervals
蒙特卡罗方法来评估和最大化的似然函数,使置信区间和假设检验的建设,促进科学调查使用模型的似然函数是棘手的。当蒙特卡罗误差可以通过充分详尽的计算变得很小时,则基于可能性的推理的标准理论和实践适用。随着数据变得更大,模型变得更复杂,出现了没有合理的计算量可以使蒙特卡罗误差可以忽略不计的情况。我们开发配置文件的可能性方法,以提供频率论的推论,考虑到蒙特卡罗的不确定性。我们调查的作用,这种方法在促进计算上具有挑战性的动态潜变量模型的推理。我们提出了三个例子中出现的传染病传播的研究。这三个例子展示了我们的方法推断非线性动态模型,使用基因序列数据,面板时间序列数据,时空数据。我们还讨论了非线性时间序列分析的适用性。
2017-02-09 stat.ME
Variational System Identification for Nonlinear State-Space Models
University of Newcastle(纽卡斯尔大学);Uppsala University(乌普萨拉大学)
非线性状态空间模型的参数估计是一个重要而又具有挑战性的问题。我们通过采用变分推断(VI)方法来解决这一挑战,这是一种与极大似然估计有着深刻联系的原则性方法。这种VI方法最终提供了模型的估计作为优化问题的解决方案,这是确定性的,易于处理的,可以使用标准的优化工具来解决。这种方法的加性高斯噪声系统的专业化也进行了详细说明。所提出的方法进行了数值研究的范围内的模拟和真实的例子集中在参数初始化的鲁棒性;此外,有利的比较对国家的最先进的替代品。
2022-09-14 cs.LG cs.SY eess.SY
The Broad Optimality of Profile Maximum Likelihood
University of California, San Diego(加州大学圣地亚哥分校)
我们研究了三个基本的学习问题:分布估计,属性估计和属性测试。我们建立的配置文件极大似然(PML)估计作为第一个统一的样本最优的方法,广泛的学习任务。具体地,对于每个字母表大小$k$和期望的精度$\varepsilon$:$\textbf{Distribution estimation}$在$\ell_1$距离下,PML产生用于排序分布估计的最佳$Θ(k/(\varepsilon^2\log k))$样本复杂度,并且基于PML的估计器在实际分布上经验上优于Good-Turing估计器; $\textbf{Additive property estimation}$对于大类的加性性质,PML插件估计器仅使用最佳估计器所需的四倍样本量,以实现大约两倍的误差,具有指数级更高的置信度; $\boldsymbolα\textbf{-Rényi entropy estimation}$对于整数$α>1$,PML插入估计器具有最佳的$k^{1-1/α}$样本复杂度;对于非整数$α>3/4$,PML插入估计器具有低于现有技术的样本复杂度; $\textbf{Identity testing}$在测试未知分布是否等于或至少$\varepsilon$远离给定分布的$\ell_1$距离时,基于PML的测试器实现最佳样本复杂度,直到$k$的对数因子。大多数这些结果也持有近线性时间可计算的PML的变种。更强的…
2019-07-11 cs.LG math.ST stat.ML
An exact unbiased semi-parametric maximum quasi-likelihood framework which is complete in the presence of ties
本文提出了一种新的半参数最大拟似然框架,用于处理存在并列的排名数据,通过扩展Kemeny度量和相关协方差形式,实现对总体相关性的直接推断,并与Bradley-Terry和Thurstone模型建立等价性。
2025-12-30 math.ST stat.ME stat.TH
Particle filter-based Gaussian process optimisation for parameter inference
提出了一种基于极大似然的非线性和/或非高斯状态空间模型参数推断的新方法。该方法是一个迭代过程,有三个步骤。在每次迭代时,使用粒子滤波器来估计当前参数k处的对数似然函数的值。使用这些对数似然估计,通过利用高斯过程模型创建替代目标函数。最后,我们使用一个启发式的程序来获得一个修改后的参数,提供了一个自动的替代模型的探索和开发之间的权衡。该方法在两个状态空间模型上进行了分析,在精度和计算成本方面都具有良好的性能。
2014-03-31 stat.CO stat.ML
A stochastic optimisation unadjusted Langevin method for empirical Bayesian estimation in semi-blind image deblurring problems
针对半盲图像去卷积中边际似然计算难的问题,提出结合Moreau-Yosida正则化未调整朗之万MCMC的随机近似近端梯度优化方法,可自动校准多类参数,有收敛保证且效果优于现有方法。
2024-03-07 stat.AP stat.CO
Existence and optimisation of the partial correlation graphical lasso
University of Genoa(热那亚大学);Universitat Pompeu Fabra(庞培法布拉大学);Barcelona Graduate School of Economics(巴塞罗那经济高等学院)
针对偏相关图形套索(PCGLASSO)的非凸优化计算难题,证明其在样本量小于维度时估计量存在,提出交替算法并推出首个公开R实现,在中等维度下计算效率具竞争力。
2025-10-29 stat.CO stat.ME
Likelihood informed dimension reduction for inverse problems in remote sensing of atmospheric constituent profiles
我们使用似然信息降维(LIS)(T. Cui等人,2014年),用于从芬兰北部Sodankylä的地基傅里叶变换红外(FTIR)测量中反演大气甲烷的垂直剖面信息。这些测量属于全球温室气体测量TCCON网络,除了提供准确的温室气体测量外,它们对于验证卫星观测也很重要。LIS允许构建一个有效的马尔可夫链蒙特卡罗采样算法,该算法仅探索降维空间,但仍然产生原始全维贝叶斯后验分布的良好近似。这实际上使得统计估计问题独立于逆问题的离散化。此外,我们比较了LIS的降维方法的基础上,先前使用的协方差阵截断(S。Tukiainen等人,2016年)。
2018-02-20 stat.CO
Robust Optimisation Monte Carlo
University of Edinburgh(爱丁堡大学)
本文是关于参数统计模型的贝叶斯推断,这些模型是由一个随机模拟器定义的,该模拟器指定数据是如何生成的。精确的采样是可能的,但是估计似然函数通常是昂贵的。近似贝叶斯计算(ABC)是在这种情况下执行近似推理的框架。虽然基本的ABC算法广泛适用,但它们的速度非常慢,许多研究都集中在提高效率上。优化蒙特卡罗(OMC)最近被提出作为一种有效的和有益的并行方法,利用优化来加速推理。在本文中,我们证明了一个重要的OMC以前未认识到的故障模式:它产生强烈的过度自信的近似崩溃区域相似或接近恒定的可能性到一个单一的点。我们提出了一个有效的,强大的概括OMC纠正这一点。它做了更少的假设,保留了OMC的主要优点,并且可以作为OMC的后处理或作为独立计算来执行。我们证明了建议的鲁棒OMC玩具的例子和任务中的反图形,我们执行贝叶斯推断与复杂的图像渲染器的有效性。
2020-02-28 cs.LG stat.CO stat.ME
Generalised likelihood profiles for models with intractable likelihoods
本文针对似然函数不可求值但可进行随机模拟的模型,提出基于广义贝叶斯推断的广义似然剖面构造与校准方法,以实现频率学派覆盖并支持实际可识别性分析。
2023-05-19 stat.CO stat.ME
Monte Carlo modified profile likelihood in models for clustered data
处理聚类数据的分析师的主要焦点通常不是聚类变量,因此特定于组的参数被视为讨厌的东西。如果一个固定效应配方是首选和集群的总数是相对于单组大小大,经典的频率依赖于配置文件的可能性技术往往是误导。由于存在非标准建模和/或抽样假设,使用替代工具,如修改轮廓似然或综合似然,对感兴趣的参数进行准确推断可能会变得复杂。我们在这里展示了如何采用蒙特卡罗模拟,以近似修改后的配置文件的可能性,在这些非常规的框架。所提出的解决方案是广泛适用的,并保持通常的属性修改后的配置文件的可能性。该方法在两种情况下,特别是相关的应用程序,即缺失数据模型和生存模型与未指定的删失分布进行检查。通过仿真研究和两个临床试验应用验证了所提出的解决方案的有效性。
2018-12-29 stat.CO stat.ME
Interacting Particle Langevin Algorithm for Maximum Marginal Likelihood Estimation
本文提出了一类连续时间交互粒子系统,用于实现潜变量模型的最大边际似然估计,通过离散化推导出 Interacting Particle Langevin Algorithm (IPLA),并证明了其几何遍历性及非渐近误差界。
2025-03-04 math.PR stat.CO stat.ML
Tensor product algorithms for inference of contact network from epidemiological data
本文提出用化学主方程结合张量列近似替代随机模拟,以解决从流行病节点状态数据推断接触网络时稀有事件概率难以估计的问题,实现高效黑箱贝叶斯网络推断。
2024-09-04 cs.NA math.NA math.PR
An Extendable Python Implementation of Robust Optimisation Monte Carlo
ATHENA RC(雅典娜研究中心);University of Edinburgh(爱丁堡大学);University of Oslo(奥斯陆大学)
本文在 Python 软件包 ELFI 中实现了无似然推断方法 ROMC,提供易用 API 和模块化可扩展设计,支持全并行运行,并附带推断过程检查与样本评估功能,在典型 LFI 示例上验证了实现的鲁棒性。
2023-09-19 cs.LG cs.SE stat.CO
On the Efficient Implementation of High Accuracy Optimality of Profile Maximum Likelihood
Stanford University(斯坦福大学)
我们提供了一个有效的统一插件的方法来估计$n$独立样本的分布的对称性。我们的估计是基于轮廓最大似然(PML),是样本最优的估计各种对称属性时,估计误差$ε\gg n^{-1/3}$。该结果改进了之前通过多项式时间可计算的基于PML的通用估计器可实现的$ε\gg n^{-1/4}$的最佳准确度阈值[ACSS 21,ACSS 20]。我们的估计量达到了通用对称属性估计的理论极限,因为[Han 21]表明,当$ε\ll n^{-1/3}$时,一大类通用估计量(包含许多众所周知的方法,包括我们的方法)不能对每个$1$ -Lipschitz属性都是样本最优的。
2022-10-13 cs.DS cs.IT cs.LG
Instance Based Approximations to Profile Maximum Likelihood
Stanford University(斯坦福大学)
在本文中,我们提供了一个新的有效算法近似计算轮廓最大似然(PML)分布,对称属性估计中的一个突出的数量。我们提供了一个算法,它匹配以前最好的已知的高效算法计算近似PML分布和改进时,在给定的情况下,不同的观察到的频率的数量是小的。我们实现这一结果,利用新的稀疏结构的近似PML分布,并提供了一个新的矩阵舍入算法,独立的利益。利用这一结果,我们获得了第一个可证明的计算效率的实现伪PML,一个通用的框架,估计广泛的对称属性。此外,我们获得了有效的基于PML的估计分布与小轮廓熵,一个自然的基于实例的复杂性措施。此外,我们提供了一个更简单,更实用的伪PML实现,匹配最知名的理论保证这样的估计和评估这种方法的经验。
2020-11-05 cs.DS cs.IT cs.LG
The Bethe and Sinkhorn Permanents of Low Rank Matrices and Implications for Profile Maximum Likelihood
Stanford University(斯坦福大学)
在本文中,我们考虑的问题,计算的可能性的轮廓的离散分布,即,观察元素频率的多集合的概率,并且计算轮廓最大似然(PML)分布,即,具有最大轮廓似然的分布。对于每个问题,我们提供多项式时间算法,给定$n$ i.i.d.\来自离散分布的样本,实现了$\exp\left(-O(\sqrt{n} \log n) \right)$的近似因子,改进了之前在多项式时间内可实现的$\exp(-O(n^{2/3} \log n))$的最佳已知边界(Charikar,Shiragur和Sidford,2019)。通过Acharya,Das,Orlitsky和Suresh(2016)的工作,这意味着在更宽的误差参数范围内离散分布的对称性质的多项式时间通用估计。我们通过提供Bethe和Sinkhorn永久式近似质量的新界限来实现这些结果(Vontobel,2012和2014)。我们发现,这些都是$\exp(O(k \log(N/k)))$近似的永久性的$N \times N$矩阵的非负秩最$k$,改善了以前已知的界的$\exp(O(N))$。为了得到我们的结果,PML,我们利用的事实,即PML目标是成比例的永久性的某一范德蒙矩阵与$\sqrt{n}$不同的列,即与非负秩至多$\sqrt{n}$。作为我们工作的一个副产品,我们在先前的工作(CSS 19)中的凸松弛和研究良好的Bethe和Sinkhorn近似之…
2020-04-06 cs.DS cs.IT cs.LG
Misspecification-robust likelihood-free inference in high dimensions
针对高维参数空间中基于ABC的无似然推断挑战,本文扩展基于贝叶斯优化的方法,通过参数专属采集函数与差异及指数损失似然,实现计算可扩展性与误设定鲁棒性,在100维空间及细菌传播模型拟合中表现优异。
2025-02-14 stat.CO stat.ME stat.ML
Efficient Profile Maximum Likelihood for Universal Symmetric Property Estimation
Stanford University(斯坦福大学)
估计分布的对称属性,例如支持大小,覆盖率,熵,均匀性距离,是算法统计中最基本的问题之一。虽然这些属性中的每一个都被广泛研究,并且每个属性都有单独的最佳估计量,但在最近的工作中,Acharya et al. 2016表明,有一个单一的估计量对所有对称属性都有竞争力。这项工作证明,计算的分布,近似最大化\emph{profile likelihood (PML)},即观察到的频率的频率的概率,并返回该分布上的属性值是样本竞争相对于一个广泛的类的对称属性的估计。此外,他们表明,即使计算PML的近似值也足以实现这样一个通用的插件估计器。不幸的是,在此之前的工作有没有已知的多项式时间算法来计算一个近似的PML,它是开放的,以获得一个多项式时间通用插件估计通过使用近似的PML。在本文中,我们提供了一个算法(在样本数),给定$n$样本的分布,计算近似的PML分布的乘法误差$\exp(n^{2/3} \mathrm{poly} \log(n))$在时间接近线性$n$。Acharya等人2016年关于近似PML效用的推广工作表明,我们的算法为所有对称函数提供了一个接近线性时间的通用插件估计器,精度高达$ε= Ω(n^{-0.166})$。此外,我们将展示如何扩展我们的工作,以提供有效的多项式时间算法计算的$d$维推广的PML(为常数$d$),允许通用插件估计分布之间的对称关系。
2019-05-21 cs.DS cs.IT cs.LG