Local quasi-likelihood with a parametric guide
广义线性模型和拟似然方法扩展了普通回归模型,以适应更一般的响应条件分布。非参数方法不需要明确的参数规格,并且所得到的模型完全由数据本身决定。然而,非参数估计方案通常具有较慢的收敛速度,例如Fan,Heckman和Wand [J. Amer. Statist. Assoc.90(1995)141- 150]。在这项工作中,我们提出了一个统一的家庭参数引导的非参数估计方案。这结合了参数和非参数方法的优点,使我们能够结合先验知识。渐近结果和数值模拟表明,我们的新的估计方案比原来的非参数对应的改善。
2009-11-20 math.ST stat.TH
Model robust hybrid likelihood
本文提出混合经验与参数似然函数的方法,推导了最大混合似然估计量在模型误设下的极限理论,并利用均方误差估计构建聚焦信息准则以情境驱动地平衡两部分,提升模型稳健性。
2024-09-24 math.ST stat.TH
Non-Parametric Maximum Likelihood Density Estimation and Simulation-Based Minimum Distance Estimators
间接推断估计器(即,基于模拟的最小距离估计)在一个参数模型的基础上,辅助非参数最大似然密度估计被证明是渐近正态的。如果参数模型是正确指定的,它进一步表明,渐近方差-协方差阵等于逆的Fisher信息矩阵。这些结果是基于非参数极大似然密度估计的参数一致收敛速度和参数一致Donsker型定理。
2011-09-20 math.PR math.ST stat.ME
Parametric Statistical Inference in the Zone of Moderate Deviation Probabilities
本文在小偏差概率区发展了参数统计推断理论,通过Hellinger距离基于泰勒展开的对数似然比展开,证明了贝叶斯估计和最大似然估计的large deviation principle,并建立了后验贝叶斯测度的集中定理。
2026-10-28 math.ST stat.TH
A goodness-of-fit test for parametric and semi-parametric models in multiresponse regression
本文提出了一种经验似然检验方法,它能够检验一类参数和半参数多响应回归模型的拟合优度。这类模型包括特殊情况下的全参数模型、半参数模型,如多指标模型和部分线性模型,以及带有形状约束的模型。该检验的另一个特点是它允许响应变量和协变量都是多变量的,这意味着可以同时检验多重回归曲线。该测试还允许在待测试的模型中存在无限维滋扰函数。它表明,经验似然检验统计量是渐近正态分布在一定的温和条件下,并允许一个野生自助校准。尽管要考虑的模型的类的大尺寸,经验似然检验享有良好的权力性质对偏离类内的假设模型。
2010-01-11 math.ST stat.TH
Composite Empirical Likelihood
似然函数在统计推断中起着举足轻重的作用,它适用于各种模型,所得估计量具有良好的性质。然而,这些结果取决于正确规范的数据生成机制。许多现代问题涉及到极其复杂的分布函数,这可能是困难的-如果不是不可能的-明确表示。这对似然方法来说是一个严重的障碍,因为它不仅需要指定分布,而且需要正确的分布。非参数方法是避免必须指定特定数据生成机制的问题的一种方法,但可能是计算密集型的,降低了它们对大数据问题的可访问性。我们提出了一种新的方法,结合多个非参数似然型组件,以建立一个数据驱动的近似的真实功能。新的结构建立在经验和复合可能性的基础上,利用每一个的优势。具体来说,从经验似然,我们借用的能力,以避免参数规格,并从复合似然,我们利用多个似然组件。我们将研究这种复合经验似然的理论性质,既为了应用的目的,也为了将性质与其他已建立的似然方法进行比较。
2017-12-14 math.ST stat.TH
Parametric estimation and tests through divergences and duality technique
我们通过离散或连续参数模型的发散优化介绍估计和检验程序。这种方法是基于一个新的对偶表示的分歧。我们对待点估计和测试简单和复合假设,扩展最大似然技术。另一种观点在最大似然法,估计和测试,给出。我们证明了所提出的估计的存在性和一致性。在零假设和备择假设下,给出了估计和检验统计量(包括广义似然比检验统计量)的极限律,并推导了幂函数的逼近式.当参数可以是参数空间的边界值时,提出了一种构造置信区域的新方法。同时,对广义似然比检验中与混合样本个数有关的不规则性问题给出了解决方法,并基于符号有限测度上的$χ^{2}$ -散度和对偶技术提出了一种新的检验方法.
2008-11-22 math.ST stat.TH
Parametric bootstrap inference for stratified models with high-dimensional nuisance specifications
关于感兴趣的标量参数的推断通常依赖于常见似然枢轴的渐近正态性,诸如带符号似然根、得分和Wald统计。然而,当冗余参数的维数相对于样本量较大时,以及当有关参数的信息有限时,所得到的推断过程被认为执行得很差。在许多这样的情况下,使用渐近正态性的分析修改的签署似然根是已知的恢复推理性能。本文证明了标准似然枢轴的参数自举法与带层特定冗余参数的分层模型中符号似然根的解析修正法一样能得到精确的推论。我们专注于具有挑战性的情况下,地层的数量增加的速度或更快的地层样本大小。它还表明,无论是否使用约束或无约束的引导,这种等价性。这是在对比时,层的数量是固定的或增加速度慢于层样本量,我们表明,约束引导纠正推断比无约束引导更高的顺序。仿真实验支持了理论研究结果,并证明了自举在极端情况下的优异性能。
2022-01-06 math.ST stat.TH
Pseudo-variance quasi-maximum likelihood estimation of semi-parametric time series models
本文提出基于高斯拟似然和参数化伪方差的半参数时间序列估计方法,推导其渐近性质与限制检验,证明其不受伪方差误设影响且效率更高,并通过模拟和实证验证其有效性。
2025-07-18 math.ST stat.ME stat.TH
Distributionally Robust Parametric Maximum Likelihood Estimation
Stanford University(斯坦福大学);University of Cyprus(塞浦路斯大学)
我们考虑的参数估计问题的概率生成模型规定使用一个自然的指数分布族。对于这个问题,典型的极大似然估计器通常在有限的训练样本量下过拟合,对噪声敏感,并且可能在下游预测任务上表现不佳。为了缓解这些问题,我们提出了一个分布鲁棒的极大似然估计,最大限度地减少最坏情况下的预期对数损失均匀的参数Kullback-Leibler球周围的参数标称分布。利用同一自然指数族中两个分布之间的库尔贝克-莱布勒散度的解析表达式,我们证明了最小-最大估计问题在广泛的环境中是易于处理的,包括广义线性模型的鲁棒训练。我们的新的鲁棒估计也享有统计一致性,并提供了有前途的实证结果在回归和分类任务。
2020-10-11 cs.LG math.ST stat.ML
Asymptotic properties of the maximum likelihood estimator for multivariate extreme value distributions
最大稳定分布和过程是极端事件和尾部风险评估的重要模型。参数最大稳定分布的完整多元似然性很复杂,只有最近的进展才能使用它。最大似然估计在多变量极值中的渐近性质大多是未知的。本文给出了保证估计量渐近正态性的最大稳定分布的指数函数和角测度的自然条件。我们证明了这一结果的有效性,将其应用到流行的参数模型在多元极值统计和最常用的家庭的空间最大稳定的过程。
2017-08-07 math.ST stat.TH
Some parametric tests based on sample spacings
本文提出基于 m 步不相交样本间隔对称统计量的参数检验,分析其在简单与复合原假设及局部备择假设下的渐近性质,并通过数值和真实数据验证其可替代似然比检验。
2022-06-03 math.ST stat.TH
Global Consistency of Empirical Likelihood
本文开发了几个有趣的,重要的,和相互关联的方法,非参数或半参数统计推断。参数模型下的极大似然估计(MLE)以其强一致性和最优性而闻名,通常归功于Cramer。然而,当模型不规则或不完全准确时,这些属性就会动摇。此外,它们的适用性仅限于接近未知真实参数值的局部最大值。因此,必须确定似然的全局极大值在一般条件下是强一致的(Wald,1949)。全球一致性也是经验似然性背景下的一个重要研究问题(Owen,2001)。EL是非参数统计推断的突破性平台。随后的里程碑是通过将估算功能置于EL保护伞下实现的(Qin和Lawless,1994)。由此产生的轮廓EL函数具有许多很好的参数似然性质,但也有相同的缺点。除非我们知道手边的局部极大值接近于未知的真参数值,否则不能利用这些性质。为了克服这个障碍,我们首先提出了一组干净的条件,在这些条件下,全局极大值是一致的。然后,我们开发了一个全局极大值测试,以确定是否在手边的局部极大值实际上是一个全局极大值。此外,我们发明了一个全局极大值的补救措施,以确保全球的一致性,通过扩大下EL的估计函数集。我们对文献中的许多例子进行的模拟实验牢固地建立了所提出的方法如预测的那样工作。我们的方法也提供了更好的解决方案,他们的参数对应的问题,由DeHaan(1981),Veall(1991),GAN和江(1999)。
2023-03-29 math.ST stat.TH
Weighted sampling, Maximum Likelihood and minimum divergence estimators
本文研究了Sanov型大偏差概率下参数模型的极大似然。加权抽样下的参数模型的极大似然估计被证明与相对于权重分布定义的特定发散准则的最小化有关。由此产生的推理过程的一些属性; Bahadur效率的测试也被认为是在这种情况下。
2012-07-27 math.ST stat.ME stat.TH
Uniform central limit theorems for the Grenander estimator
我们考虑Grenander估计,这是最大似然估计的非增密度。证明了有界变差函数的某些子类和光滑性s>1/2的Hölder球的一致中心极限定理。我们不假设密度是可微的或连续的。这个证明可以看作是参数极大似然估计方法在非参数情况下的一个改进。由于非参数极大似然估计位于边界上,因此不可能像参数情况那样期望似然的导数等于零。然而,我们的证明依赖于这样一个事实,即可能性的导数可以被证明是小的最大似然估计。
2015-06-26 math.ST stat.TH
Parametric estimation of Lévy processes
本章的主要目的是介绍基于高频采样的Lévy过程参数估计的一些理论方面,重点是无限活动纯跳模型。讨论了几类显式估计函数的渐近性。除了在几种收敛速度下的渐近正态性外,还给出了统计随机场的一致尾概率估计。作为特例,我们更详细地讨论了稳定Lévy过程的矩量法,并简要地提到了局部稳定Lévy过程。还讨论了,由于其理论上的重要性,一个简单的回顾如何经典的似然方法的工作原理或不,超越的事实,即似然函数是不明确的。
2014-09-01 math.ST stat.TH
Parametric Inference for Nonsynchronously Observed Diffusion Processes in the Presence of Market Microstructure Noise
我们研究的扩散过程的参数推断时,观察发生非同步和市场微观结构噪声污染。本文构造了一个拟似然函数,研究了基于拟似然函数的极大似然估计和Bayes估计的渐近混合正态性,证明了当扩散系数为常数且噪声服从正态分布时,模型的局部渐近正态性和估计的渐近有效性。我们猜想,我们的估计是渐近有效的,即使当潜在的过程是一个一般的扩散过程。还构造了潜过程的二次协变差的估计量。一些数值例子表明,这种估计比现有的二次协变差估计性能更好。
2015-12-25 math.ST stat.TH
Empirical Likelihood Ratio Test with Distribution Function Constraints
本文研究了具有分布函数约束的非参数假设检验问题。经验似然比检验在检验矩等式约束问题中得到了广泛的应用。然而,一些检测问题不能使用矩(in)等式来描述。我们提出了一个分布函数约束以及经验似然比检验。该检测器适用于各种各样的鲁棒参数/非参数检测问题。由于分布函数约束提供了对原假设的更精确描述,因此该检验优于具有矩约束的经验似然比检验以及许多流行的拟合优度检验,例如稳健的Kolmogorov-Smirnov检验和Cramér-von Mises检验。从通信系统与现实世界的噪声样本的例子来展示他们的性能。具体而言,当原假设嵌套在备择假设中时,所提出的检验显著优于稳健的Kolmogorov-Smirnov检验和Cramér-von Mises检验。当我们假设没有噪声不确定性时,重复相同的示例。通过这样做,我们能够声称,在我们的情况下,有必要包括噪声分布的不确定性。此外,所提出的测试的渐近最优性。
2016-04-30 math.ST stat.TH
Empirical likelihood for single-index varying-coefficient models
本文研究了单指标变系数模型中未知系数函数和单指标参数的统计推断方法。我们首先通过局部线性拟合估计非参数分量,然后构造一个估计的经验似然比函数,从而得到参数分量的最大经验似然估计。参数分量的估计是渐近有效的,非参数分量的估计具有最优的收敛速度。我们的结果提供了方法来构建置信区域的参与未知参数。我们还开发了一个调整后的经验似然比,用于构建感兴趣的参数的置信区域。仿真研究进行评估所提出的方法的有限样本行为。
2012-07-25 math.ST stat.TH
Chernoff Index for Cox Test of Separate Parametric Families
在大偏差框架下,研究了Cox提出的广义似然比检验的渐近有效性.特别地,考虑了两个独立的参数假设族[Cox,1961,1962]。显着性水平被设置为使得广义似然比检验的最大I型和II型错误概率以相同的速率以指数方式快速衰减。我们推导出了这种比率的解析形式,也被称为“零效率指数”[Zeroff,1952],这是一种在零假设和备择假设之间没有偏好时的相对效率度量。我们进一步扩展分析的逼近误差概率时,两个家庭没有完全分离。讨论了目前的结果对模型选择的影响。
2016-06-27 math.ST stat.TH
An exact unbiased semi-parametric maximum quasi-likelihood framework which is complete in the presence of ties
本文提出了一种新的半参数最大拟似然框架,用于处理存在并列的排名数据,通过扩展Kemeny度量和相关协方差形式,实现对总体相关性的直接推断,并与Bradley-Terry和Thurstone模型建立等价性。
2025-12-30 math.ST stat.ME stat.TH
Estimation of dense stochastic block models visited by random walks
我们感兴趣的是恢复信息的随机块模型从子图发现的探索随机游动。随机块模型对应于被构造成有限数量的类型的群体,其中两个个体通过独立于其他对的边缘连接,并且概率取决于它们的类型。我们在这里考虑稠密的情况下,随机网络可以近似的graphon。这个问题的动机是从链转介调查的研究,每个受访者提供她/他在社交网络中的联系人的信息。首先,我们写出由随机游动发现的子图的似然性:由于枢纽和多数类型更有可能被采样,因此出现了偏差。即使在类型被观测的情况下,极大似然估计也不再是显式的。当顶点的类型是不可观察的,我们使用SAEM算法来最大化的可能性。其次,我们提出了一个不同的估计策略,使用新的结果Athreya和Roellin。它包括在去偏的最大似然估计在Daudin等人提出的。
2021-06-07 math.PR math.ST stat.ML
Parametric estimation. Finite sample theory
本文旨在对著名的勒·凯姆兰理论进行反思。该方法与经典方法的主要区别在于:(1)研究是非渐近的,即样本量是固定的,不趋于无穷大;(2)参数假设可能是错误的,潜在的数据分布可能超出给定的参数族。这两个特点使参数和非参数理论之间的差距,并建立一个统一的框架,统计估计。主要结果包括对数似然过程的(拟)极大似然和局部二次括号的大偏差界。后者产生了一些重要的推论统计推断:浓度,置信度和风险界限,扩展的最大似然估计,等等。所有这些推论都表示在一个非经典的方式承认一个模型的错误和有限的样本。然而,经典的渐近结果,包括效率界可以很容易地推导出所获得的非渐近陈述的推论。同时,新的包围装置在经典参量理论失效的大的或增长的参量维数的情况下工作得很好。的一般结果示出的i.i.d.设置以及广义线性和中位数估计。结果适用于任何尺寸的参数空间,并提供了一个定量下界的样本量产生的root-n精度。
2013-02-19 math.ST stat.TH
Parametric inference of hidden discrete-time diffusion processes by deconvolution
研究了隐离散扩散模型的一种新的参数化方法。该方法是基于对比度最小化和反卷积,并导致估计一个大类的非线性漂移和非线性扩散的随机模型。例如,它可以应用于生态和金融状态空间模型。在证明了估计的相合性和渐近正态性,得到了渐近置信区间之后,我们给出了一个详细的数值研究,比较了实际应用中的许多经典方法(非线性最小二乘估计、Monte Carlo期望最大化Likewise估计和贝叶斯估计)对随机波动率模型的估计。我们证明了我们的估计量在计算时间方面明显优于最大似然估计量,但也优于大多数其他方法。我们还表明,这种对比方法是最稳定的,也不需要任何调整参数。
2016-12-19 math.ST stat.TH
Maximum likelihood estimators based on the block maxima method
极值指标是单变量极值理论中的一个基本参数。它捕获分布的尾部行为,并且是超出观察数据的外推的核心。在其他半参数方法(如流行的希尔估计)中,块最大值(BM)和超过阈值的峰值(POT)方法被广泛用于评估极值指数和相关的归一化常数。我们提供了基于BM方法的最大似然估计(MLE)的渐进理论。我们的主要结果是渐近正态性的极大似然估计与非平凡的偏见取决于极值指数和所谓的二阶参数。我们的方法结合了似然过程和块极大值的经验分位数过程的渐近展开。结果允许完成EVT中最常见的半参数估计(最大似然估计和基于POT或BM方法的概率加权矩估计)的比较,通过其渐近方差,偏差和最优均方误差。
2017-05-01 math.ST stat.TH
Parametric estimation and LAN property of the birth-death-move process with mutations
Nantes Université, UMR 6629 CNRS(南特大学,法国国家科学研究中心第6629联合研究实验室);Univ Rennes, Ensai, CNRS, CREST(雷恩大学,ENSAI,法国国家科学研究中心,CREST)
本文研究了具有突变的出生-死亡-移动过程的参数估计及其局部渐近正态性,推导了最大似然估计的效率和渐近分布,并应用于分析细胞中两种蛋白质的联合动态。
2026-04-07 math.ST stat.TH
Generalized maximum likelihood estimation of the mean of parameters of mixtures, with applications to sampling
设$f(y|θ), \; θ\in Ω$为参数族,$η(θ)$为给定函数,$G$为未知混合分布。期望基于独立观测$Y_1,...,Y_n$来估计$E_G (η(θ))\equiv η_G$,其中$Y_i \sim f(y|θ_i)$和$θ_i \sim G$是iid。我们探讨这个问题的广义极大似然估计(GMLE)。这些估计的一些基本性质和表示。特别地,我们对Kiefer和Wolfowitz(1956)的弱收敛结果提出了一个新的观点,并对$θ_1,...,θ_n$是{\it固定}参数的相应设置提出了启示。我们还涉及到上述问题,估计$η_G$,平方损失下的非参数经验贝叶斯估计。本文介绍了广义极大似然估计在抽样问题中的应用。GMLE的性能表现在模拟和通过一个真实的数据例子。
2022-07-28 math.ST stat.TH
How to estimate the memory of the Elephant Random Walk
我们介绍了一个原始的方法来估计大象随机游动,一个迷人的离散时间随机游动的整数有一个完整的记忆,其整个历史的记忆参数。我们的估计只不过是一个准最大似然估计,基于二阶泰勒近似的对数似然函数。我们证明了我们的估计在扩散,临界和超扩散制度的几乎必然收敛。我们的统计过程的局部渐近正态性建立在扩散制度,而局部渐近混合正态性证明在超扩散制度。还提供了渐近和精确的置信区间以及统计检验。我们所有的分析都依赖于鞅和相关的二次变分的渐近结果。
2021-12-20 math.PR math.ST physics.data-an
Hybrid combinations of parametric and empirical likelihoods
University of Oslo(奥斯陆大学);Columbia University(哥伦比亚大学);KU Leuven(荷语鲁汶大学)
本文提出了一种结合参数似然和经验似然的混合方法,通过调整参数a来平衡模型的精度与鲁棒性,并建立了相应的统计推断理论。
2026-02-20 stat.ME
Parametric quantile regression models for fitting double bounded response with application to COVID-19 mortality rate data
在本文中,我们基于Power Johnson SB分布Cancho et al.(2020)开发了两个全参数分位数回归模型,用于对不同分位数的单位区间响应进行建模。特别地,条件分布由幂约翰逊SB分布建模。采用极大似然法估计模型参数。模拟研究进行评估的极大似然估计在有限样本的性能。此外,我们还讨论了残差和影响诊断工具。我们的建议的有效性以不同国家COVID-19死亡率的两个数据集为例。
2021-03-12 math.ST stat.ME stat.TH
Hypothesis testing for two population means: parametric or non-parametric test?
参数Welch $t$检验和非参数Wilcoxon-Mann-Whitney检验是最常用的两个独立样本均值检验。最近的检验方法包括非参数、经验似然和指数经验似然。然而,这些非参数似然检验程序的适用性是有限的,部分原因是它们倾向于在小样本中夸大第一类错误。为了规避第一类错误的问题,我们提出了简单的校准使用的$t$分布和自举。然后将两种非参数似然检验程序(有和无这些校准)与Wilcoxon-Mann-Whitney检验和Welch $t$检验进行比较。通过广泛的蒙特卡罗模拟的理由,第一类错误和权力的小/中等大小的样本中产生的各种非正态人群的比较。模拟研究清楚地表明:a)$t$校准改善了经验似然的I类误差,b)自助校准改善了两种非参数似然的I类误差,c)有或没有自助校准的Welch $t$检验达到了第一类错误,并产生了与前一种检验程序相似的功效水平,以及d)Wilcoxon-Mann-Whitney检验产生膨胀的第一类错误,而在存在与离散数据的关系的情况下,精确p值的计算是不可行的。此外,一个应用程序,以真正的基因表达数据说明了计算成本高,因此不切实际的非参数似然。总体而言,韦尔奇t检验,这是高度计算效率和易于解释,被证明是最好的方法时,测试两个人口的平均值相等。
2019-10-04 stat.ME
On the maximum likelihood estimator for the Generalized Extreme-Value distribution
单变量极值理论中的vanilla方法包括将三参数广义极值(GEV)分布拟合到块极大值的样本。尽管有相反的说法,但最大似然估计量的渐近正态性从未被建立。本文利用一个一般结果给出了支持度依赖于参数的二次均值可微的参数族的极大似然估计的一个形式证明。一个有趣的副作用是关于GEV族的二次均值的可微性(缺乏)。
2017-03-15 math.ST stat.TH
Optimality of estimators for misspecified semi-Markov models
假设我们观察到一个几何遍历的半马尔可夫过程,并且对于嵌入马尔可夫链的转移分布、到达间隔时间的条件分布或两者都有一个参数模型。前两个模型的过程是半参数的,参数可以估计的条件最大似然估计。第三个模型的过程是参数,参数可以估计的无条件最大似然估计。我们确定了这些估计量的渐近分布,并证明了它们是渐近有效的。如果参数模型是不正确的,(条件)最大似然估计的参数,最大限度地提高Kullback-Leibler信息。我们证明了它们在非参数意义下仍然是渐近有效的。
2007-12-20 math.ST stat.TH
On the Power of Likelihood Ratio Tests in Dimension-Restricted Submodels
似然比检验广泛用于检验关于概率分布的参数族的统计假设。如果兴趣仅限于分布的一个子族,那么自然会询问受限LRT是否优于非受限LRT。马登的一般LRT猜想假定,对备择假设的任何限制都会增加功效。唯一公布的反例,这一猜想是相当技术性的,并涉及一个限制,保持尺寸的替代。我们制定的维数限制的LRT猜想,假设任何限制,取代一个参数的家庭与一个子家庭的低维将增加功率。在标准的正则性条件下,我们证明了限制LRT是渐近更强大的本地替代品比无限制LRT。然而,值得注意的是,即使是维数限制的LRT猜想在有限样本的情况下也失败了。我们的反例涉及多项分布的子族。特别是,我们对三项分布的Hardy-Weinberg子族的研究提供了一个简单而优雅的证明,即限制可能不会增加功率。
2016-07-29 math.ST stat.TH
An unbiased minimum variance non-parametric analytic and likelihood estimator for discrete and continuous score spaces
这份手稿开发了一个通用的内积规范的肯德尔\(τ\)和斯皮尔曼的\(ρ\),它作为一个公正的MLE,即使在关系的存在。我们推导并证明了严格的亚高斯的Kemeny范数空间,从而反驳结论\textcite{kendall1948}和\textcite{diaconis1977}开发的适当的,有限的样本,概率分布和检验统计量的性质。所有双变量对的非参数MLE框架的开发,从而解决了\textcite{olkin1994}的假设有关的指数多元分布的顺序统计量,通过显示,对于有限的样本,分布是非指数的。非参数线性估计也构造了多元相关性和扩展,线性可分解的非参数多维线性方程组的非参数因子分析。
2022-08-02 stat.ME
Convergence Rate of K-Step Maximum Likelihood Estimate in Semiparametric Models
本文提出了一种基于轮廓似然的半参数模型中参数分量的K步最大似然估计的迭代计算方法。K步极大似然估计的高阶收敛速度主要取决于其初始估计的精度和半参数模型中多余函数参数的收敛速度。此外,我们可以证明,K-步极大似然估计是渐近有效的规则极大似然估计后,有限数量的迭代步骤。我们的理论验证了几个特定的半参数模型。仿真研究也支持这些理论结果。
2007-08-22 math.ST stat.TH
Consistency of likelihood estimation for Gibbs point processes
建立了参数Gibbs点过程模型极大似然估计的强相合性。设置非常一般。它包括两两相互作用势,有限和无限多体相互作用和几何相互作用,其中范围可以是有限的或无限的。吉布斯相互作用可以线性地或非线性地取决于参数,具体情况是核心参数和相互作用范围参数。作为重要的例子,我们推导了Strauss模型、硬核Strauss模型、Lennard-Jones模型和面积相互作用模型的MLE对所有参数的相容性。
2016-01-26 math.ST stat.TH
Semi-parametric estimation and prediction intervals in state space models
状态空间模型的研究主要集中在参数推断和预测上,如果状态空间模型不完全确定,极大似然估计不起作用,则参数推断和预测会失败。在本文中,我们假设状态转移阵和状态噪声分布是未知的。在此假设下,我们提供了一致估计这些项的方法。此外,我们引入了一个算法来构建一致的预测区间的状态向量和未来的观察。我们补充的渐近结果与几个数值实验。
2020-12-14 math.ST stat.TH
Semiparametrics via parametrics and contiguity
本文提出通过构造近似参数模型并利用相互邻接性,将半参数推断问题转回参数框架,从而严格证明极限估计量的渐近正态性与有效性,并以部分线性模型和Cox模型为例,给出Cox部分似然估计量有效性的新证明。
2025-09-22 econ.EM math.ST stat.ME
The Efficiency of Density Deconvolution
密度去卷积问题涉及从已被噪声破坏的样本中恢复目标密度g。从Le Cam的局部渐近正态性理论的角度来看,我们表明,非参数密度反褶积与高斯噪声的行为类似的低维参数问题,可以很容易地解决的最大似然。这个框架使我们能够给出一个简单的帐户密度反卷积的统计效率,并简明地描述高斯噪声对我们的能力,估计g的影响,同时依赖于经典的最大似然理论,而不是通常用于研究密度反卷积的核估计。
2015-07-03 math.ST stat.TH
Online Centralized Non-parametric Change-point Detection via Graph-based Likelihood-ratio Estimation
Centre Borelli, ENS Paris-Saclay, Université Paris-Saclay(巴黎萨克雷大学巴黎萨克雷高等师范学院博雷利中心)
考虑图中的每个节点都要生成一个数据流,该数据流是同步的,并且可以近实时地观察到。在变化点$τ$,在节点$C$的子集处发生变化,这影响其相关联的节点流的概率分布。在本文中,我们提出了一种新的基于核的方法来检测$τ$和本地化$C$,基于直接估计的似然比之间的变化和变化前的节点流的分布。我们的主要工作假设是图上的似然比估计的平滑性,即期望连接的节点具有相似的似然比。所提出的方法的质量证明了广泛的实验合成的情况下。
2023-01-12 cs.LG stat.ML
Besting Good--Turing: Optimality of Non-Parametric Maximum Likelihood for Distribution Estimation
本文提出一种融合 Robbins 经验贝叶斯与 Kiefer--Wolfowitz NPMLE 的无参数估计器,在理论和实践上超越 Good--Turing,实现竞争框架下的实例级最优风险。
2025-09-09 cs.IT math.IT math.ST
The maximum likelihood type estimator of SDEs with fractional Brownian motion under small noise asymptotics in the rough case
针对分数布朗运动驱动的随机微分方程,在漂移和扩散系数满足一定假设时,构造最大似然估计量,证明小噪声下漂移参数的渐近正态性与矩收敛。
2025-03-28 math.PR math.ST stat.TH
Strang Splitting for Parametric Inference in Second-order Stochastic Differential Equations
针对二阶随机微分方程参数估计中系统亚椭圆性和速度观测缺失的挑战,提出基于Strang分裂方案的估计器,适配完整与部分观测场景,证明其统计性质并通过数值与实际数据验证效果。
2025-03-26 math.ST stat.ME stat.TH
A selective review on calibration information from similar studies based on parametric likelihood or empirical likelihood
在多中心临床试验中,由于各种原因,个体水平的数据被严格限制公开评估。相反,总结的信息可以从已发表的结果中广泛获得。随着计算技术的进步,在数据分析中,同时在数百或数千台机器上运行已经变得非常普遍,数据分布在这些机器上,不再在单个中心位置可用。如何有效地将汇总的临床数据信息或来自每台机器的信息进行并行计算,已经成为统计学家和计算机科学家的一项具有挑战性的任务。本文选择性地回顾了近年来发展起来的一些统计方法,包括通信高效的分布式统计推断,以及更新估计和增量推断,这些方法可以被视为大数据时代校准信息方法的最新发展。尽管这些方法是在不同的领域和不同的统计框架中开发的,但原则上,它们与Meta分析中开发的那些众所周知的方法是渐进等效的。与完整数据可用的情况相比,几乎没有或很少有信息丢失。作为一种通用的信息整合工具,我们还回顾了广义矩方法和经验似然估计方程方法。
2020-12-31 stat.ME
Likelihood Asymptotics in Nonregular Settings: A Review with Emphasis on the Likelihood Ratio
该综述系统梳理边界、不可识别或奇异信息及变点三类非正则问题,重点讨论似然比统计量的大样本性质、解析工具与软件实现。
2023-04-26 math.ST stat.ME stat.TH
Parametric convergence rate of a non-parametric estimator in multivariate mixtures of power series distributions under conditional independence
本文研究条件独立幂级数分布多元混合的非参数估计,证明极大似然估计的Hellinger距离收敛速率,构建达参数速率的新估计量,提出条件独立性检验方法,经模拟和Vélib数据集验证有效。
2025-09-05 math.ST stat.ME stat.TH
Parametric estimation of hidden stochastic model by contrast minimization and deconvolution: application to the Stochastic Volatility Model
我们研究了一种新的参数方法,特别是隐藏的随机模型,如随机波动率模型。该方法基于对比度最小化和去卷积。在证明了估计的渐近置信区间的一致性和渐近正态性后,我们提供了一个彻底的数值研究,比较了在实践中使用的大多数经典方法(拟极大似然估计,模拟期望最大化似然估计和贝叶斯估计)。我们证明,我们的估计显然优于极大似然估计的计算时间,但也大多数其他方法。我们还表明,这种对比度的方法是最强大的非高斯误差,也不需要任何调整参数。
2013-03-14 q-fin.ST stat.AP
Improved Non-parametric Penalized Maximum Likelihood Estimation for Arbitrarily Censored Survival Data
非参数极大似然估计是一组经典的估计方法,用于估计截尾数据中的分布相关函数,在生存分析中有着广泛的应用。这些方法,包括卡普兰-迈耶估计量和Turnbull方法,经常导致过拟合,特别是当样本量很小时。我们提出了一种改进这些方法,通过应用核平滑的原始估计,基于BIC型损失函数,平衡优化模型拟合和控制模型复杂性之间的权衡。在纵向研究的背景下,重复观察,我们详细介绍了我们提出的平滑过程和优化算法。通过对多个现实场景的广泛模拟研究,我们证明了我们基于平滑的程序通过减少过拟合在生存函数估计和个体水平的事件发生时间预测方面提供了更好的整体准确性。与原始未平滑估计值相比,我们的平滑过程使用区间删失数据将估计值与真实模拟生存函数之间的差异降低了49%,样本内和样本外预测分别提高了41%和23%。最后,我们将我们的方法应用于审查乳腺癌诊断的真实数据,与未审查数据的经验生存估计相比,这同样显示出改善。我们提供了一个R包,SISE,用于实现我们的惩罚似然方法。
2021-08-04 stat.ME
Targeted Maximum Likelihood Estimation using Exponential Families
目标极大似然估计(TMLE)是半参数和非参数模型参数估计的一种常用方法。TMLE的每次迭代涉及拟合以感兴趣的参数为目标的参数子模型。我们研究使用指数族来定义参数子模型。TMLE的这种实现给出了一种估计非参数模型中任何光滑参数的一般方法。该方法的计算优点在于TMLE的每次迭代涉及指数族中的参数的估计,这是凸优化问题,对于该凸优化问题存在实现可靠且计算高效的方法的软件。我们说明了三个估计问题的方法,涉及的结果随机缺失的平均值,中位数回归模型的参数,和连续曝光的因果关系,分别。我们进行了一个模拟研究,比较不同的选择参数子模型,集中在这些问题的第一个。据我们所知,这是第一次研究调查的鲁棒性TMLE不同规格的参数子模型。我们发现,子模型的选择可以有一个重要的影响有限样本中的估计的行为。
2014-06-02 stat.ME
A Double Parametric Bootstrap Test for Topic Models
非负矩阵分解(NMF)是一种寻找数据潜在表示的技术。该方法已被应用于语料库构建主题模型。然而,NMF的可能性假设,这往往是违反了真实的文档语料库。我们提出了一个双参数bootstrap检验的库尔贝克-莱布勒散度和泊松极大似然估计的对偶的基础上评估适合的NMF为基础的主题模型。该测试正确地识别基于NMF方法的主题模型是否在模拟和真实数据中产生可靠的结果。
2017-11-21 stat.ML
Locally parametric nonparametric density estimation
University of Oslo(奥斯陆大学);The Open University(开放大学)
本文提出一种结合参数和非参数方法的密度估计器,通过局部核平滑似然函数估计真实密度的局部参数近似,改进了传统核方法的偏差和方差特性。
2026-04-20 stat.ME
Linearity Characterization and Uncertainty Quantification of Spectroradiometers via Maximum Likelihood and the Non-parametric Bootstrap
用于表征和校正辐射测量仪器的线性的技术被称为“通量添加方法”和“组合技术”。在本文中,我们开发了一个严格的不确定性量化方法与这种技术的使用,并说明它的使用与合成数据和实验数据从“束conjoiner”仪器。我们提出了一个概率模型,通过一组多项式系数的一组未知通量的仪器读数。推荐未知通量和多项式系数的最大似然估计(MLE),而非参数自举算法实现不确定性量化(例如,它可以返回标准误)。合成数据代表了辐射测量仪器的合理输出,并使该方法能够进行测试和验证。发现这些数据的MLE近似无偏,并且发现自举重复测定得出的置信区间与其95%的目标覆盖率一致。对于多项式系数,相对偏倚小于1%,观察到的覆盖率范围为90%至97%。实验数据集被用来说明如何使用该方法加上一个众所周知的通量水平可以实现一个完整的校准与不确定性。在其大部分范围内,仪器非线性响应估计的不确定度贡献小于0.02%。
2022-09-29 stat.AP
Conditional inference in parametric models
本文提出了一种新的方法,条件推理的基础上模拟的样本条件的统计数据。还提供了一个显式表达式的近似的条件可能性的长期运行的样本所观察到的统计量。它表明,当条件统计量是足够的一个给定的参数,近似密度仍然是不变的参数。提出了一种新的Rao-Blackwellisation方法,仿真结果表明Lehmann-Scheffé定理对这种近似是有效的。本文还研究了带干扰参数的指数族的条件推理,并给出了蒙特卡罗检验。最后考虑了通过条件似然估计感兴趣的参数。与参数bootstrap方法进行了比较。
2012-02-05 stat.AP