Profile-Kernel likelihood inference with diverging number of parameters
预测变量数目不断增加的广义变系数部分线性模型在当代的许多科学研究中出现。本文从理论和实践两个方面对轮廓似然估计和推断进行了研究。当参数个数随样本量增长时,在一定的正则性条件下,证明了轮廓似然估计的存在性和渐近正态性。提出了参数数目不断增加时的轮廓似然比推断,并证明了Wilk现象。提出并研究了一种计算轮廓核估计量的新算法-加速轮廓核算法。仿真研究表明,所得到的估计是有效的完全迭代轮廓核估计。对于中等的样本量,我们提出的方法节省了大量的计算时间比完全迭代轮廓核之一,并给出了稳定的估计。一组实际数据进行了分析,使用我们提出的算法。
2007-09-21 math.ST stat.TH
Statistical generalized derivative applied to the profile likelihood estimation in a mixture of semiparametric models
在纵向和生存数据的联合模型中,很难找到轮廓似然估计量的方差估计。我们通过引入“统计广义导数”来解决这个困难。导数用于显示估计量的渐近正态性,而不假设模型中密度函数的二阶导数存在。
2018-07-20 math.ST stat.TH
A robust and efficient algorithm to find profile likelihood confidence intervals
如果不满足极大似然估计量的渐近性质,则剖面似然置信区间是Wald方法的稳健替代方法。然而,定义轮廓似然置信区间的约束优化问题在这些情况下可能难以求解,因为似然函数可能表现出不利的性质。因此,现有的方法可能效率低下,并产生误导性的结果。在本文中,我们解决这个问题,通过计算配置文件的似然置信区间通过信任区域的方法,其中步骤计算的基础上,本地近似被限制到这些近似是足够精确的区域。由于我们的算法也考虑到了数值问题,如果似然函数是强非线性或参数不可估计,该方法适用于许多情况下,早期的方法被证明是不可靠的。为了证明其在应用中的潜力,我们将我们的算法应用于基准问题,并将其与现有的6种方法进行比较,以计算轮廓似然置信区间。我们的算法始终比任何竞争对手取得更高的成功率,同时也是最快的方法之一。由于我们的算法可以应用于计算参数和模型预测的置信区间,因此它在广泛的场景中是有用的。
2020-04-01 stat.CO
Monte Carlo profile confidence intervals
蒙特卡罗方法来评估和最大化的似然函数,使置信区间和假设检验的建设,促进科学调查使用模型的似然函数是棘手的。当蒙特卡罗误差可以通过充分详尽的计算变得很小时,则基于可能性的推理的标准理论和实践适用。随着数据变得更大,模型变得更复杂,出现了没有合理的计算量可以使蒙特卡罗误差可以忽略不计的情况。我们开发配置文件的可能性方法,以提供频率论的推论,考虑到蒙特卡罗的不确定性。我们调查的作用,这种方法在促进计算上具有挑战性的动态潜变量模型的推理。我们提出了三个例子中出现的传染病传播的研究。这三个例子展示了我们的方法推断非线性动态模型,使用基因序列数据,面板时间序列数据,时空数据。我们还讨论了非线性时间序列分析的适用性。
2017-02-09 stat.ME
On Birnbaum-Saunders Inference
Birnbaum-Saunders分布,也称为疲劳寿命分布,经常用于可靠性研究。我们得到调整的Birnbaum-Saunders配置文件似然函数。对于形状和尺度参数,获得了似然函数的修改版本,即,我们将形状参数视为感兴趣的,而将尺度参数视为讨厌的,然后考虑这样的情况,其中感兴趣的是在以讨厌的方式进入建模的形状参数的情况下对尺度参数执行推断。通过极大化相应的调整后的似然函数得到修正的轮廓极大似然估计。我们提出了不同的估计和相关的似然比检验的有限样本行为的数值证据。结果有利于调整估计和测试,我们建议。本文中获得的轮廓似然调整的一个新的方面是,它们产生改进的点估计和测试。当对形状参数进行推断时,两个轮廓似然调整工作良好,并且其中一个在对尺度参数执行假设检验推断时显示出优越的行为。两个经验的应用程序进行了简要介绍。
2008-04-06 math.ST stat.ME stat.TH
Profile Likelihood Inference for Anisotropic Hyperbolic Wrapped Normal Models on Hyperbolic Space
Department of Mathematics, Baruch College(巴鲁克学院数学系);Department of Mathematics, The Graduate Center, City University of New York(纽约市立大学研究生院数学系)
本文研究了超曲面上各向异性双曲包裹正态分布的基于似然的推断方法,提出通过优化似然函数获得参数估计,并证明了估计的强一致性及渐近正态性。
2026-05-01 math.ST stat.TH
Profile Likelihood via Optimisation and Differential Equations
本文将轮廓似然置信区间表述为约束优化问题,并利用 ODE 推导依赖连续变量的置信限及参数对轮廓线。
2024-04-03 stat.CO
Directional data analysis using the spherical Cauchy and the Poisson kernel-based distribution
本文研究球形 Cauchy 与基于 Poisson 核的方向数据分布,提出稳定参数化、Newton-Raphson 估计、两样本检验、判别分析及有限混合聚类,并通过模拟和真实数据验证比较。
2024-11-10 stat.ME
Gaussian Universal Likelihood Ratio Testing
经典的似然比检验(LRT)是基于对数似然的渐近卡方分布,是统计推断的基本工具之一。最近的一个通用的LRT方法的基础上样本分裂提供了有效的假设检验和置信集在任何设置,我们可以计算分裂似然比统计(或更一般地说,上界的空极大似然)。通用LRT在有限样本下是有效的,不需要正则条件。该检验使统计人员能够在以前没有有效假设检验的情况下构建检验。对于检验具有单位协方差阵的d维高斯数据的总体均值的简单但基本的情况,经典的LRT本身适用。因此,该设置作为一个完美的测试平台,以比较经典的LRT与通用的LRT。这项工作提出了第一次深入探索的大小,功率和几个通用的LRT变体之间的关系。我们表明,重复子采样的方法是最好的选择,在规模和权力。对于大量的子采样,重复子采样集近似为球形。我们观察到合理的性能,即使在高维设置,其中最好的通用LRT的置信集的预期平方半径约为3/2倍的经典LRT的球形置信集的平方半径。我们通过测试一个非凸甜甜圈形的原假设来说明通用LRT的好处,其中通用推理程序可以具有比标准方法更高的功率。
2022-11-20 stat.ME
Penalized likelihood inference for beta-binomial meta-analysis of proportions of rare events
The Graduate Institute for Advanced Studies, The Graduate University for Advanced Studies(高级研究研究生院,高级研究院);Department of Interdisciplinary Statistical Mathematics, The Institute of Statistical Mathematics(统计数学系,统计数学研究所)
针对罕见事件比例元分析中常用最大似然估计器存在有限样本偏差的问题,提出最大惩罚似然估计器,通过最大化Jeffreys先验惩罚增强的对数似然得到,模拟显示其在多方面优于普通MLE,还引入新置信区间,为相关元分析提供有用替代方法。
2026-07-30 stat.ME
The Broad Optimality of Profile Maximum Likelihood
University of California, San Diego(加州大学圣地亚哥分校)
我们研究了三个基本的学习问题:分布估计,属性估计和属性测试。我们建立的配置文件极大似然(PML)估计作为第一个统一的样本最优的方法,广泛的学习任务。具体地,对于每个字母表大小$k$和期望的精度$\varepsilon$:$\textbf{Distribution estimation}$在$\ell_1$距离下,PML产生用于排序分布估计的最佳$Θ(k/(\varepsilon^2\log k))$样本复杂度,并且基于PML的估计器在实际分布上经验上优于Good-Turing估计器; $\textbf{Additive property estimation}$对于大类的加性性质,PML插件估计器仅使用最佳估计器所需的四倍样本量,以实现大约两倍的误差,具有指数级更高的置信度; $\boldsymbolα\textbf{-Rényi entropy estimation}$对于整数$α>1$,PML插入估计器具有最佳的$k^{1-1/α}$样本复杂度;对于非整数$α>3/4$,PML插入估计器具有低于现有技术的样本复杂度; $\textbf{Identity testing}$在测试未知分布是否等于或至少$\varepsilon$远离给定分布的$\ell_1$距离时,基于PML的测试器实现最佳样本复杂度,直到$k$的对数因子。大多数这些结果也持有近线性时间可计算的PML的变种。更强的…
2019-07-11 cs.LG math.ST stat.ML
voigtinference: Exact likelihood calculus and conditional attribution for the Voigt profile
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Xiamen University(厦门大学)
本文提出 voigtinference 软件包,利用 Voigt 分布解析导数实现闭式似然计算、Fisher 信息及条件归因,支持无分箱共振拟合,解决传统数值近似问题。
2026-09-24 stat.CO
What Did Fisher Mean by An Estimate?
Fisher最大似然法是一种构造似然区间或区域的方法,而不是一种点估计方法。根据费舍尔的文章和书籍,它是合理的,由估计费舍尔的意思是建设的似然区间或地区从适当的似然函数和估计是一个统计量,也就是说,一个函数从一个样本空间到一个参数空间,这样的似然函数获得的抽样分布的统计量在观测值的统计是用来构建似然区间或地区。因此,估计问题是如何选择“最佳”估计。Fisher估计问题的解决方案是最大似然估计(MLE)。费雪的统计估计理论是一系列用来证明极大似然估计是估计问题的解决方案的思想。由极大似然估计的渐近正态分布用delta方法构造置信区间是基于Fisher的思想,但与他的“统计推断逻辑”相悖。相反,构造置信区间从配置文件似然函数的参数向量的一个给定的兴趣函数被认为是一个解决方案更符合费舍尔的“思想”。研究了一般统计模型中一般光滑兴趣函数基于轮廓似然的置信区间计算方法。
2008-07-22 math.ST stat.TH
Convergence Rate of K-Step Maximum Likelihood Estimate in Semiparametric Models
本文提出了一种基于轮廓似然的半参数模型中参数分量的K步最大似然估计的迭代计算方法。K步极大似然估计的高阶收敛速度主要取决于其初始估计的精度和半参数模型中多余函数参数的收敛速度。此外,我们可以证明,K-步极大似然估计是渐近有效的规则极大似然估计后,有限数量的迭代步骤。我们的理论验证了几个特定的半参数模型。仿真研究也支持这些理论结果。
2007-08-22 math.ST stat.TH
Generalised likelihood profiles for models with intractable likelihoods
本文针对似然函数不可求值但可进行随机模拟的模型,提出基于广义贝叶斯推断的广义似然剖面构造与校准方法,以实现频率学派覆盖并支持实际可识别性分析。
2023-05-19 stat.CO stat.ME
A simple and efficient profile likelihood for semiparametric exponential family
Ning等人(2017)提出的半参数指数族是参数指数族在非参数基测度函数情况下的扩展。这样的分布族在高维数据分析等领域具有潜在的应用价值。然而,实现半参数效率的方法还没有在现有的文献中提出。本文提出了一种剖面似然估计方法,可以有效地估计参数函数和非参数函数。由于在轮廓似然估计过程中采用了最不利曲线,因此成功地实现了半参数效率,并显著降低了估计偏差。此外,通过充分利用半参数指数族的结构信息,得到了最不利曲线的估计量的显式表达式。它确保了新提出的轮廓似然可以实现,并且计算简单。仿真研究表明,我们的建议是比现有的方法更好的大多数情况下研究,是强大的不同的模型条件。
2017-11-30 stat.ME
Automatic selection of hyper-parameters via the use of softened profile likelihood
University of Waterloo(滑铁卢大学)
本文提出了一种扩展方法,用于自动选择高维数据的超参数,通过软化轮廓似然在scree图中识别肘部,并在弹性网络、支持向量机和神经网络中验证了该方法,同时进行了小规模模拟研究以检验假设的稳健性。
2026-05-19 stat.ME
Monte Carlo modified profile likelihood in models for clustered data
处理聚类数据的分析师的主要焦点通常不是聚类变量,因此特定于组的参数被视为讨厌的东西。如果一个固定效应配方是首选和集群的总数是相对于单组大小大,经典的频率依赖于配置文件的可能性技术往往是误导。由于存在非标准建模和/或抽样假设,使用替代工具,如修改轮廓似然或综合似然,对感兴趣的参数进行准确推断可能会变得复杂。我们在这里展示了如何采用蒙特卡罗模拟,以近似修改后的配置文件的可能性,在这些非常规的框架。所提出的解决方案是广泛适用的,并保持通常的属性修改后的配置文件的可能性。该方法在两种情况下,特别是相关的应用程序,即缺失数据模型和生存模型与未指定的删失分布进行检查。通过仿真研究和两个临床试验应用验证了所提出的解决方案的有效性。
2018-12-29 stat.CO stat.ME
On the Population Size Estimation from Dual-record System: Profile-Likelihood Approaches
基于各种应用的需要,我们考虑了双记录系统(DRS)(等价于两样本捕获-再捕获实验)中的齐次人口规模(N)估计问题。独立捕获-再捕获模型Mt的似然估计在这种情况下被广泛使用,尽管行为依赖模型Mtb的适当性得到一致认可。我们的主要目的是调查使用几个相关的伪似然方法剖析N,明确的模型Mtb。提出了一种调整轮廓似然的方法。通过与Lee等人(Statistica Sinica,2003,vol.13)提出的一般捕获-再捕获实验的贝叶斯估计进行比较,对所提方法的性能进行了仿真研究。我们还分析了可能的模型误指定的影响,由于使用模型山,在效率和鲁棒性。最后,两个现实生活中的例子,具有不同的特点,说明所讨论的方法。
2015-04-05 stat.ME
Maximum profile binomial likelihood estimation for the semiparametric Box--Cox power transformation model
Box-Cox转换模型已被广泛应用多年。该模型的参数版本假设随机误差遵循参数分布,即正态分布,并使用极大似然方法估计模型参数。半参数版本假设随机误差的分布是完全未知的;现有方法要么需要强假设,要么当随机误差的分布显著偏离正态分布时效果较差。我们采用半参数假设,并提出了最大轮廓二项似然方法。从理论上建立了模型参数估计量的联合分布。通过大量的数值研究,我们证明了我们的方法具有优于现有的方法,特别是当分布的随机误差偏离正态分布。此外,我们比较了我们的方法和现有的方法在HIV数据集上的性能。
2021-05-19 stat.ME
Learning Optimal Test Statistics in the Presence of Nuisance Parameters
最优检验统计量的设计是频率统计学中的一项关键任务,并且对于许多场景,最优检验统计量例如轮廓-似然比是已知的。通过扭转这一论点,我们可以找到配置文件的似然比,即使在无可能性的情况下,其中只有来自模拟器的样本是可用的,通过优化这些场景中的检验统计量。我们提出了一种无似然训练算法,该算法产生的检验统计量相当于在已知后者是最佳的情况下的配置文件似然比。
2022-03-24 physics.data-an stat.ME
Efficient Estimation For The Cox Proportional Hazards Cure Model
在分析至事件发生时间数据时,可能有一定比例的受试者将永远不会经历感兴趣的事件,并且他们被认为是治愈的。当考虑到生存模型的这一特征时,这些模型通常被称为治愈模型。在存在协变量的情况下,可以通过使用治愈模型来对群体的条件生存函数进行建模,治愈模型取决于未治愈的概率(发生率)和未治愈受试者的条件生存函数(潜伏期),并且使用逻辑斯谛回归和Cox比例风险(PH)回归的组合分别对发生率和潜伏期进行建模。本文通过对剖面似然的渐近展开,证明了剖面似然估计的渐近正态性,并得到了剖面似然中含有隐函数的方差估计的显式形式。我们还证明了基于投影理论的有效得分函数与轮廓似然得分函数是相等的。本文的贡献在于将有效信息矩阵表示为轮廓似然得分函数的方差。模拟研究表明,估计的标准误从自助样本(SMCURE包)和配置文件的可能性得分函数(我们的方法)提供了类似的和可比的结果。我们提出的方法的数值结果也通过使用来自SMCURE R-包的黑素瘤数据示出(Cai等人,2012),并将结果与SMCURE软件包的输出进行比较。
2020-01-24 stat.ME
Fast Network Community Detection with Profile-Pseudo Likelihood Methods
随机块模型是研究最多的社区发现网络模型之一。众所周知,大多数用于拟合随机块模型似然函数的算法不能扩展到大规模网络。一个突出的工作,克服了这一计算挑战是阿米尼等人。(2013),其提出了用于将随机块模型拟合到大型稀疏网络的快速伪似然方法。然而,这种方法不具有收敛保证,并且不太适合于中小规模的网络。在这篇文章中,我们提出了一种新的基于似然的方法,在似然函数,这使得一个快速的交替最大化的行和列的标签,新方法是计算效率高,表现良好的小型和大型网络,并具有可证明的收敛保证。我们表明,我们的方法提供了强相合估计的社区在一个随机块模型。仿真结果表明,该方法在估计精度和计算效率方面都优于伪似然方法,特别是对于大型稀疏网络。我们进一步考虑扩展我们提出的方法来处理网络的度异质性和二分属性。
2021-08-29 math.ST stat.ME stat.ML
Profile Likelihood Biclustering
双聚类是同时对数据矩阵的行和列进行聚类的过程,是在高维数据集中发现结构的一种流行而有效的工具。许多biclustering程序在实践中似乎工作得很好,但大多数没有相关的一致性保证。为了解决这个缺点,我们提出了一个新的双聚类过程的基础上配置文件的可能性。该程序适用于广泛的数据模式,包括二进制,计数和连续观测。我们证明,该过程恢复真正的行和列类时,数据矩阵的维度趋于无穷大,即使数据分布的函数形式是错误的。该过程需要计算组合搜索,这在实践中可能是昂贵的。而不是直接执行此搜索,我们提出了一个新的启发式优化过程的基础上的Kernighan-Lin启发式,它具有良好的计算性能,并在模拟中表现良好。我们展示了我们的程序与应用程序国会投票记录,和微阵列分析。
2020-06-02 math.ST stat.ME stat.ML
The AI&M Procedure for Learning from Incomplete Data
Aalborg Universitet(奥尔堡大学)
我们研究的方法参数学习不完整的数据,是随机缺失。基于似然性的方法则需要考虑所有可能的缺失机制的简档似然性的优化。优化此配置文件的可能性提出了两个主要的困难:多个(局部)最大值,其非常高维的参数空间。在本文中,提出了一种新的方法来优化的轮廓可能性,解决了第二个困难:在建议的AI&M(调整插补和最大化)过程中的优化是通过在数据完成的空间中的操作,而不是直接在参数空间的轮廓可能性。我们将AI&M方法应用于贝叶斯网络的参数学习。该方法进行了比较保守的推断,考虑到每个可能的数据完成,并对EM。结果表明,基于似然的推理仍然是可行的,在未知的缺失机制的情况下,保守的推理是不必要的弱。另一方面,我们的结果也提供了证据,期望最大化算法仍然是相当有效的数据时,不是随机缺失。
2012-06-27 cs.AI cs.LG stat.ME
Efficient Estimation For The Joint Model of Survival and Longitudinal Data
在生存研究中,重要的是记录关键纵向协变量的值,直到受试者事件发生。因此,必须使用联合模型研究纵向和事件发生时间结局之间的关联。本文应用剖面似然法估计了生存与纵向数据联合模型的累积危险度和回归参数。此外,我们通过对轮廓似然的渐近展开,证明了轮廓似然估计的渐近正态性,并得到了方差估计的显式形式。联合模型的回归参数的估计是半参数有效的。
2021-06-08 stat.ME
Bridged Posterior: Optimization, Profile Likelihood and a New Approach to Generalized Bayes
本文提出桥接后验这一广义贝叶斯框架,将优化子问题嵌入似然以保留计算效率与约束结构,并证明其参数后验渐近等价于积分后验,从而消除部分优化会低估不确定性的传统顾虑。
2025-07-22 stat.ME
Semiparametric inference in mixture models with predictive recursion marginal likelihood
预测递推算法是混合模型中混合密度非参数估计的一种精确且计算效率高的算法。然而,在半参数混合模型中,该算法无法考虑额外的未知结构参数中的任何不确定性。作为现有的配置文件似然方法的替代方案,我们把预测递归作为一个过滤器近似拟合完全贝叶斯模型,从而出现的结构参数的近似边际似然,并可用于推理。我们称之为预测递归边际似然。预测递归下的模型误指定的收敛特性也导致了这个新的过程有吸引力的建设。我们证明了这个边缘似然函数的规范化版本的逐点收敛。仿真结果比较了这种新的边缘似然方法的性能,现有的轮廓似然方法以及Dirichlet过程混合物的密度估计。混合效应模型和经验贝叶斯多重检验应用在时间序列分析也被认为是。
2011-06-16 math.ST stat.ME stat.TH
Bias Correction and Modified Profile Likelihood under the Wishart Complex Distribution
Universidade Federal de Pernambuco(伯南布哥联邦大学);Universidade Federal de Alagoas(阿拉戈斯联邦大学)
本文提出了等价视数$L$的最大似然估计的改进方法。该参数在极化合成孔径雷达(PolSAR)图像的背景下有意义的解释。由于在其处理中存在相干照明,PolSAR系统生成的图像呈现称为散斑的颗粒噪声。作为减少这种干扰的潜在解决方案,参数$L$控制信噪比。因此,已经寻求用于$L$的有效估计方法的建议。为此,我们首先考虑,极化SAR图像很好地描述了缩放复Wishart分布。近年来,Anfinsen等人推导和分析了基于ML和迹统计矩的估计方法,用于获得这种概率定律的未标度版本的参数$L$。本文概括了这种方法。我们给出了Cox和Snell为该参数的ML估计量提出的二阶偏差表达式。讨论了Barndorff-Nielsen用$L$修正的轮廓似然公式。此类推导产生了参数$L$的两个新ML估计量,并将其与Anfinsen等人提出的估计量进行了比较。通过蒙特卡罗实验评估了这些估计量的性能,采用三种统计指标作为比较标准:均方误差、偏差和变异系数。等效的模拟研究,实际极化SAR数据的应用程序得出结论,建议的估计优于所有其他均匀的情况下。
2014-04-18 cs.CV stat.ME
A Matrix--free Likelihood Method for Exploratory Factor Analysis of High-dimensional Gaussian Data
提出了一种新的剖面似然估计方法,用于估计高维高斯数据集的探索性因子分析中的协方差参数,其观测值小于变量数。隐式重新启动的Lanczos算法和有限内存拟牛顿法实现开发一个无矩阵的框架似然最大化。仿真结果表明,我们的方法是大大快于期望最大化的解决方案,而不牺牲精度。我们的方法适用于自杀未遂者,自杀意念者和对照组的数据拟合因子模型。
2019-11-10 q-bio.QM stat.AP stat.CO