Asymptotically Optimal Knockoff Statistics via the Masked Likelihood Ratio
本文提出掩码似然比（MLR）统计量，通过衡量每个特征与其 knockoff 的可区分性来优先选择特征，在用户指定的贝叶斯模型下渐近最大化发现数量，并在模拟和实际应用中优于现有 lasso 类方法。
2024-10-01 stat.ME
The empirical likelihood prior applied to bias reduction of general estimating equations
在现代统计文献中，在贝叶斯型过程的构造中采用经验似然（EL）分量代替参数似然函数的做法已经得到了很好的解决。我们严格推导出EL先验，杰弗里斯型先验，渐近最大化数据和参数之间的香农互信息。我们的方法的重点是基于EL的后验和先验密度函数之间的集成Kullback-Leibler距离。EL先验密度是对应的后验形式与EL的差异渐近可忽略的密度函数。我们表明，所提出的结果可以用来开发一种方法，用于减少一般估计方程和M-估计方案的解决方案的渐近偏差，通过删除一阶项。这种技术是以类似的方式开发的方法，用于减少渐近偏差的最大似然估计，通过惩罚其Jeffreys不变先验的基本参数似然。一个与心肌梗死研究相关的真实数据示例说明了所提出的技术在实际方面的吸引力。保留字：渐近偏差，有偏估计方程，经验似然，期望Kullback-Leibler距离，惩罚似然，参考先验。
2018-08-19 stat.ME
Efficiently Computed Marginal Likelihoods for Multivariate Mixture Models
Laboratoire de Mathématiques Blaise Pascal, CNRS, Université Clermont Auvergne（布莱斯·帕斯卡数学实验室，法国国家科学研究中心，克莱蒙奥弗涅大学）；CNRS, MAP5, Université Paris Cité（法国国家科学研究中心，MAP5，巴黎西岱大学）；Departments of Statistics and Sociology, University of Washington（华盛顿大学统计与社会学系）
针对单变量或多元混合模型，提出THAMES估计器新版本，从MCMC样本计算边际似然，具一致性等性质，无需隐藏分配后验样本，易近似，在模拟中测试表现良好，可用于推断和模型选择。
2026-10-16 stat.ME
Bayesian Elastic Net based on Empirical Likelihood
我们提出了一个贝叶斯弹性网，使用经验似然和开发一个有效的调整哈密顿蒙特卡罗后验采样。该模型放松了对误差分布的假设，当变量高度相关时表现良好，并通过提供回归系数的后验分布来进行更直接的推断。在贝叶斯经验似然中实现的哈密顿蒙特卡罗方法克服了后验分布缺乏封闭的解析形式和其域是非凸的挑战。提出了贝叶斯经验似然的蛙跳参数整定算法。我们还证明了回归系数的后验分布是渐近正态的。仿真研究和实际数据分析表明，所提出的方法在预测精度的优势。
2022-07-18 stat.CO stat.ME
Robust Gaussian Process Regression with Huber Likelihood
最简化形式的高斯过程回归假设正态同方差噪声，并利用高斯条件下预测后验分布的分析易处理的均值协方差函数。它的超参数是通过最大化证据来估计的，通常称为II型极大似然估计。不幸的是，基于高斯似然的贝叶斯推断对观测训练数据集中经常存在的离群值不鲁棒。为了克服这个问题，我们提出了一个强大的过程模型，在高斯过程框架与观察数据的似然表示为Huber概率分布。该模型采用基于投影统计的权重来缩放残差，并限制垂直离群值和不良杠杆点对潜在函数估计的影响，同时在高斯和厚尾噪声分布下表现出较高的统计效率。所提出的方法证明了两个现实世界的问题和两个数值例子，使用数据集的加性误差厚尾分布，如学生t，拉普拉斯，和柯西分布。
2023-01-19 stat.AP stat.ML
Bayesian jackknife empirical likelihood with complex surveys
提出贝叶斯刀切经验似然方法分析不等概率抽样调查数据，证明其渐近正态性，用于构建置信区间，数值研究表明其优于传统方法。
2023-09-13 stat.ME
Nonparametric inference for additive models estimated via simplified smooth backfitting
我们研究了使用简化平滑回拟合估计的非参数加性模型中的假设检验（Huang和Yu，Journal of Computational and Graphical Statistics，\textbf{28(2)}，386- 400，2019）。简化的光滑回拟合在正则性条件下实现了预言性质，并提供了用于推导渐近性质的估计量的封闭形式表达式。我们开发了一个广义的似然比（GLR）和一个损失函数（LF）为基础的测试框架的推断。在原假设下，GLR和LF检验都具有渐近重新标度的卡方分布，并且都表现出Wilks现象，这意味着标度常数和自由度与冗余参数无关。这些检验在非参数假设检验的收敛速度方面是渐近最优的。此外，非常适合模型估计的带宽可能对测试有用。我们证明了在可加性模型中，LF检验比GLR检验渐近更有效。我们使用模拟来证明Wilks现象和这些建议的GLR和LF测试的力量，并通过一个真实的例子来说明它们的有用性。
2022-09-15 math.ST stat.ME stat.TH
An Asymptotically Optimal Coordinate Descent Algorithm for Learning Bayesian Networks from Gaussian Models
Department of Industrial Engineering and Management Sciences Northwestern University（工业工程与管理科学系西北大学）；Department of Biostatistics University of Washington（生物统计学系华盛顿大学）；Department of Statistics University of Washington（统计学系华盛顿大学）
本文提出一种新的坐标下降算法来近似求解线性高斯模型下学习贝叶斯网络的$\ell_0$-惩罚极大似然估计器，证明了其渐近最优性和有限样本统计一致性，并在合成与真实数据上验证了近最优解和可扩展性。
2025-10-11 cs.LG stat.ML
On asymptotically efficient maximum likelihood estimation of linear functionals in Laplace measurement error models
本文研究反褶积反问题中线性泛函的极大似然估计。给定来自由（潜在无限维）参数$F_0$索引的分布$P_0\equiv P_{F_0}$的随机样本的观测值，该参数是标准加性拉普拉斯测量误差模型中潜变量的分布，人们希望估计$F_0$的线性泛函。研究了Laplace核密度卷积模型中混合分布$F_0$的整线性泛函的渐近有效极大似然估计.的情况下，其中感兴趣的功能可以一致估计在$n^{-1/2}$率的插件MLE，这是渐近正常和有效的，在这个意义上实现的方差下限，从那些没有积分线性泛函可以估计在参数率，这排除了任何可能性渐近效率。的$\sqrt{n}$ -收敛的MLE，有效的情况下，退化混合分布在一个单一的位置点，失败的一般情况下，渐近正态性。证明了混合分布的积分线性泛函不存在正则估计序列，当关于被估计重定中心和$\sqrt{n}$ -重标度时，它是渐近有效的，\emph{viz} .，具有最小方差的高斯极限分布。因此，人们只能期望以某种较慢的速率进行估计，并且通常具有非高斯极限分布。
2019-02-02 math.ST stat.ME stat.TH
Bayesian inference using synthetic likelihood: asymptotics and adjustments
在涉及复杂模型的应用中，实现贝叶斯推断通常在计算上具有挑战性，有时计算可能性本身也很困难。当可能性难以处理时，合成可能性是一种进行推理的方法，但从模型进行模拟是直接的。该方法通过将向量汇总统计量视为多变量正态分布来构建近似似然，其中未知均值和协方差阵通过模拟对任何给定参数值进行估计。本文有三个贡献。第一个表明，如果汇总统计量满足中心极限定理，则合成似然后验是渐近正态的，并产生具有正确频率覆盖水平的可信集。这一结果与近似贝叶斯计算结果相似。第二个贡献比较贝叶斯合成似然和近似贝叶斯计算的计算效率使用的接受概率拒绝和重要性抽样算法与"好"的建议分布。我们表明，贝叶斯合成似然比近似贝叶斯计算更有效的计算，并表现出类似的回归调整近似贝叶斯计算。基于渐近结果，第三个贡献，提出使用调整的推断方法时，可能误指定的形式，假定为合成似然的协方差阵，如对角或因子模型，以加快计算。该方法说明了一些模拟和真实的例子。
2021-03-12 stat.CO
Asymptotically Minimax Robust Likelihood Ratio Test
University Medical Center of the Johannes Gutenberg University Mainz（约翰内斯·古腾堡大学美因茨大学医学中心）；Center for Thrombosis and Hemostasis, University Medical Center Johannes Gutenberg University Mainz（约翰内斯·古腾堡大学美因茨大学医学中心血栓与止血中心）；German Center for Cardiovascular Research (DZHK), Partner Site Rhine Main, University Medical Center of the Johannes Gutenberg University Mainz（德国心血管研究联盟（DZHK）莱茵美因合作点，约翰内斯·古腾堡大学美因茨大学医学中心）
本文提出了一种统一框架，用于在分布不确定性下进行渐近最小最大稳健假设检验，通过非线性方程组计算，并验证了理论结果。
2026-02-09 cs.IT math.IT math.ST
Quasi-Likelihood Analysis for Stochastic Regression Models with Nonsynchronous Observations
研究了含有随机微分方程的参数化随机回归模型的非同步采样问题。构造了一个拟似然函数，证明了当非同步数据的采样频率变大时，拟极大似然估计与Bayes型估计是相合的，且渐近混合正态.
2012-12-20 math.ST stat.TH
Asymptotically efficient estimation for diffusion processes with nonsynchronous observations
研究了系数为非随机且观测值为非同步时扩散过程的极大似然型估计。当我们考虑分析金融市场中的高频数据时，非同步观测的问题是重要的。构造一个拟似然函数来定义估计器，自适应地估计扩散部分和漂移部分的参数。当终点$T_n$和观测频率趋于无穷大时，我们考虑了渐近理论，并证明了估计量的相合性和渐近正态性。此外，我们还证明了统计模型的局部渐近正态性，以及估计量的渐近有效性。为了证明极大似然型估计的渐近性质，我们需要控制抽样方案中某些泛函的渐近行为。虽然一般情况下很难直接控制这些条件，但我们研究了由混合过程生成的采样方案的易处理的充分条件。
2022-07-01 math.ST stat.TH
Quasi Maximum Likelihood Estimation and Inference of Large Approximate Dynamic Factor Models via the EM algorithm
本文研究通过EM算法结合Kalman smoother估计大型动态因子模型，证明了估计载荷和因子的渐近性质，并指出在特异性协方差足够稀疏时因子估计更有效。
2024-09-25 econ.EM math.ST stat.TH
Higher-order asymptotic normality of approximations to the modified signed likelihood ratio statistic for regular models
修正的带符号似然比统计量的近似值渐近标准正态，误差为$n^{-1}$阶，其中$n$为样本量。这一事实的证明通常需要将模型的充分统计量写成$(\hatθ,a)$，其中$\hatθ$是模型参数$θ$的最大似然估计量，$a$是从属统计量。对于许多模型，这种情况很难或不可能验证。然而，统计数据本身的计算不需要这个条件。本文的目的是提供条件下，这些统计量是渐近正态分布的顺序$n^{-1}$，而不作任何假设的充分统计量的模型。
2007-11-22 math.ST stat.TH
Asymptotically uniformly most powerful tests for diffusion processes with nonsynchronous observations
针对非同步不规则采样下扩散过程检验的难题，提出融合漂移与扩散系数自适应估计的拟似然比检验框架，证明其渐近性质与一致最优性，数值实验显示效果优于现有非参数方法。
2025-03-24 math.ST stat.TH
Power Bounds and Efficiency Loss for Asymptotically Optimal Tests in IV Regression
本文研究了工具变量模型中异方差或自相关误差下的最大功率-大小差距，通过总变差距离和Kraft定理定义决策前沿，证明条件似然比检验能逼近大小，而条件似然比检验在特定条件下达到决策前沿。
2026-03-22 econ.EM math.ST stat.TH
Asymptotic normality, concentration, and coverage of generalized posteriors
广义似然通常用于获得具有吸引力的计算和鲁棒性的一致估计。形式上，任何广义似然都可以用来定义广义后验分布，但不能期望任意定义的“后验”在任何有意义的意义上适当地量化不确定性。在这篇文章中，我们提供了充分条件下，广义后验显示浓度，渐近正态性（Bernstein-von Mises），一个渐近正确的拉普拉斯近似，渐近正确的频率覆盖。我们将我们的研究结果详细的广义后验广泛的广义似然，包括pseudolikelihoods一般，高斯马尔可夫随机场pseudolikelihoods，充分观察到的玻尔兹曼机pseudolikelihoods，伊辛模型pseudolikelihoods，Cox比例风险偏似然，和一个基于中位数的可能性鲁棒性推断的位置。此外，我们展示了如何使用我们的结果来容易地建立指数族和广义线性模型的标准后验的渐近性。我们没有假设模型的正确性，使我们的结果适用或不适用错误。
2021-05-03 math.ST stat.TH
Multinomial and empirical likelihood under convex constraints: directions of recession, Fenchel duality, perturbations
研究了概率单形凸闭子集上多项式似然极大化的原问题。与普遍持有的观点相反，这个问题的解决方案可能会将正质量分配给零计数的结果。在简化的拉格朗日和Fenchel对偶问题，这是因为经济衰退的方向被忽略，出现相关的缺陷，确定和纠正。原始问题的解可以通过PP（扰动原始）算法获得，即作为扰动原始问题的解序列的极限。PP算法可以通过简化的Fenchel对偶来实现。结果允许我们指定线性集和数据，使得经验似然最大化分布存在，并且与多项式似然最大化分布相同。多项式似然比通常得出与经验似然比不同的结论。最小的歧视信息，成分数据分析，林赛几何，引导辅助信息，和拉格朗日乘子检验的影响进行了讨论。
2014-08-24 math.OC math.ST stat.AP
Dispersion Parameter Extension of Precise Generalized Linear Mixed Model Asymptotics
本文推广了最近建立的广义线性混合模型的渐近正态性定理，使其包含了离散参数。新的结果表明，所有模型参数的极大似然估计具有渐近正态分布，且固定效应、随机效应协方差和离差参数之间渐近相互独立。分散参数的最大似然估计有一个特别简单的渐近分布，使直接有效的基于似然的推理。
2022-08-10 math.ST stat.TH
The efficiency of the estimators of the parameters in GARCH processes
本文提出了一类Gestival（p，q）序列参数的估计。我们证明了我们的估计是一致的，渐近正态在温和的条件下。详细讨论了拟极大似然估计和似然估计。我们证明了极大似然估计是最优的。如果新息分布的尾部是多项式的，则即使是基于指数密度的准最大似然估计也比Lee和Hansen和Lumsdaine的基于标准正态密度的准似然估计表现得更好。
2004-06-22 math.ST stat.TH
Asymptotic Results for Penalized Quasi-Likelihood Estimation in Generalized Linear Mixed Models
本文在聚类数量和规模均趋于无穷的条件下，建立了广义线性混合模型中惩罚拟似然估计的渐近理论，揭示了条件与无条件两种机制下固定效应和随机效应估计量的不同渐近分布性质。
2024-05-02 math.ST stat.TH
On Smooth Change-Point Location Estimation for Poisson Processes
我们感兴趣的是估计的位置，我们称之为“光滑变点”的$n$独立的意见，一个非齐次泊松过程。平滑变点是过程的强度函数从一个水平到另一个水平的平滑过渡，但是在这样一个小的间隔上，其长度$δ\_n$被认为是以$n\to+\infty$的形式减少到$0$。我们表明，如果$δ\_n$去零慢于$1/n$，我们的模型是局部渐近正态（与一个相当不寻常的速率$\sqrt{δ\_n/n}$），最大似然和贝叶斯估计是一致的，渐近正态和渐近有效的。相反，如果$δ\_n$比$1/n$更快地变为零，则我们的模型是非正则的，并且表现得像变点模型。更确切地说，在这种情况下，我们证明了贝叶斯估计是一致的，收敛速度$1/n$，有非高斯极限分布，是渐近有效的。所有这些结果都是使用似然比的分析方法得到的，同样产生所考虑的估计量的多项式矩的收敛性。然而，为了研究在$δ\_n$比$1/n$更快地变为零的情况下的最大似然估计，该方法不能使用函数空间中的通常收敛拓扑来应用。因此，这项研究应该通过使用替代拓扑结构，并将在未来的工作中考虑。
2021-02-16 math.ST stat.TH
Data driven time scale in Gaussian quasi-likelihood inference
我们研究了在高频下观察到的遍历扩散的参数估计。与以往的研究不同，我们假设采样步长是未知的，从而使传统的高斯拟似然不直接适用。在这种情况下，我们构造的估计模型参数和抽样步长在一个完全明确的方式，并证明它们是联合渐近正态分布。还得到了估计量的$L^{q}$ -有界性.此外，我们提出了Schwarz（BIC）型统计量的模型选择，并显示其模型选择的一致性。我们进行了一些数值实验，发现所观察到的有限样本性能很好地支持我们的理论研究结果。并提供了一个真实的数据示例。
2019-01-31 math.ST stat.TH
Quasi-maximum likelihood estimation for cointegrated continuous-time state space models observed at low frequencies
本文研究了连续时间线性状态空间模型协整解在离散时间点上的参数的拟极大似然估计。连续时间线性状态空间模型的协整解类等价于协整连续时间ARMA（MCARMA）过程类。作为一个开始，一些伪新息被构造成能够定义QML函数。此外，参数向量被适当地划分为长期和短期参数，使用表示为一个Lévy过程加上一个线性状态空间模型的稳态解的和的连续时间线性状态空间模型的协整解。然后，我们分三步建立估计量的一致性。首先，我们证明了长期参数的QML估计的一致性。在下一步中，我们计算其一致率。最后，我们利用这些结果证明了短期参数的QML估计的相合性。最后，我们得到了估计量的极限分布。长期参数是渐近混合正态分布，而短期参数是渐近正态分布。QML估计的性能证明了通过模拟研究。
2019-11-08 math.ST stat.TH
Asymptotic inference for skewed stable Ornstein-Uhlenbeck process
Joint Graduate School of Mathematics for Innovation, Kyushu University（九州大学数学创新联合研究生院）；Graduate School of Mathematical Sciences, University of Tokyo（东京大学数理科学研究科）
本文研究了由非高斯α-稳定莱维过程驱动的奥本-乌尔赫内克过程的参数估计问题，提出了一种基于矩估计的参数估计方法，并通过模拟验证了真实似然与准似然方法的性能差异。
2026-01-27 math.ST stat.TH
Likelihood asymptotics of stationary Gaussian arrays
Delft University of Technology（代尔夫特理工大学）
本文针对依赖多维未知参数的平稳高斯时间序列三角阵列发展渐近似然理论，给出局部渐近正态的充分条件以保证极大似然估计渐近有效，并通过高频采样高斯过程和近单位根自回归模型验证理论。
2025-11-13 math.ST stat.TH
Some Investigations about the Properties of Maximum Likelihood Estimations Based on Lower Record Values for a Sub-Family of the Exponential Family
在本文中，它被认为是指数族的一个子族。得到了这类参数、密度函数和累积密度函数基于样本和基于较低记录值的极大似然估计。它已被认为是均方误差（MSE）作为一个标准，以确定哪一个是更好的在不同的情况下。另外，还证明了基于下记录值的极大似然估计与基于随机样本的极大似然估计之间的关系。此外，在一些理论中，这些估计的一些有趣的渐近性质已经被证明。
2019-09-25 math.ST stat.TH
Convergence of Likelihood Ratios and Estimators for Selection in non-neutral Wright-Fisher Diffusions
已知遗传学中描述等位基因频率动态的许多离散时间、有限总体大小模型在无穷总体极限中收敛（受到适当的缩放）到扩散过程，称为Wright-Fisher扩散。本文证明了扩散在选择和突变参数下是一致遍历的，由随机微分方程解诱导的测度是一致局部渐近正规的.随后，这两个结果被用来分析统计特性的最大似然估计和贝叶斯估计的选择参数，当选择和突变的人口。特别地，它表明，这些估计是一致的紧集一致，显示一致的选择参数的渐近正态性和收敛的时刻紧集，并渐近有效的一类合适的损失函数。
2021-09-13 math.PR math.ST q-bio.PE
On detecting weak changes in the mean of CHARN models
研究了一类CHARN模型均值的似然比检验。建立了所研究的似然族的局部渐近正态（LAN）结构。结果表明，该检验是渐近最优的，并给出了其渐近局部幂的显式表达式，它是候选项位置变化和变化幅度的函数。弱变点检测和他们的位置估计的策略。估计值被获得作为时间索引，最大化局部功率的估计值。仿真研究表明，我们的方法相比，一些现有的方法具有良好的性能。我们的结果也适用于三组实际数据。
2021-07-19 math.ST stat.TH
On the Asymptotic Normality of Estimating the Affine Preferential Attachment Network Models with Random Initial Degrees
本文考虑了具有随机初始度的偏好连接模型中仿射参数（和幂律指数）的估计。我们推导出的可能性，并证明了最大似然估计（MLE）是渐近正态和有效的。我们还提出了一个准最大似然估计（QMLE），以克服MLE的依赖于历史的初始度。为了证明我们的想法的力量，我们提出了数值模拟。
2017-03-08 math.ST stat.TH
An asymptotic study of the joint maximum likelihood estimation of the regularity and the amplitude parameters of a periodized Mat{é}rn model
本研究针对周期化Matérn协方差函数的高斯过程插值，分析联合最大似然估计的收敛速率与误差特性，揭示了不同观测假设下参数选择的差异。
2025-05-19 math.ST stat.TH
Asymptotic efficiency in the Autoregressive process driven by a stationary Gaussian noise
这篇文章的第一个目的是获得A. S。在平稳高斯噪声驱动的自回归过程中，极大似然估计的渐近性质。第二个目的是证明似然比的局部渐近正态性，从而得到渐近有效性的概念，并建立一个渐近一致不变的检验自回归参数显著性的最有效方法。
2018-10-20 math.ST stat.TH
Increasing Cluster Size Asymptotics for Nested Error Regression Models
当独立聚类数和聚类大小（每个聚类中的观测数）均趋于无穷大时，本文建立了聚类数据嵌套误差回归模型参数的极大似然估计和限制极大似然估计的渐近结果.在非常温和的条件下，估计是渐近正态的一个优雅的结构协方差阵。对于集群大小趋于无穷大的速率没有限制，但事实证明，我们需要在集群参数内进行处理（即在聚类内变化的单位水平协变量的系数和聚类内方差）与聚类参数之间不同（即在聚类内保持不变的聚类水平协变量的系数和聚类间方差）因为它们需要不同的归一化并且是渐近独立的。
2021-01-22 math.ST stat.TH
Non-Gaussian quasi-likelihood estimation of SDE driven by locally stable Lévy process
本文研究了一个纯跳Lévy驱动的单变量随机微分方程模型的参数系数估计问题。从之前的研究Masuda（2013）中可以看出，采用传统的高斯拟最大似然估计量会导致不一致的估计量。在驱动Lévy过程局部稳定的假设下，通过引入一种新的基于未知转移密度的小时间稳定近似的拟似然函数，将Gaussian框架推广到非Gaussian框架.结果表明，对于大范围的驱动纯跳Lévy过程，该估计量是渐近混合正态分布的，没有遍历性和有限矩，与高斯拟极大似然估计量相比，具有更好的理论性能.进行了大量的模拟，以显示良好的估计精度。在遍历性下的大时间渐近性的情况也被简单地提到，在那里我们可以推导出类似的渐近正态性结果。
2018-04-17 math.ST stat.TH
Global self-weighted and local quasi-maximum exponential likelihood estimators for ARMA--GARCH/IGARCH models
本文研究了ARMA-GARCH模型的拟极大指数似然估计（QMELE）的渐近理论。在分数阶矩条件下，得到了整体自加权QMELE的强相合性和渐近正态性。基于这种自加权QMELE，局部QMELE是渐近正态的ARMA模型与Gestival（有限方差）和IGestival误差。在某些情况下，给出了两种估计的正式比较。仿真研究进行了评估这些估计的性能，并给出了一个真实的例子对世界原油价格。
2012-01-30 math.ST stat.TH
Inference on a class of exponential families on permutations
本文研究排列上包含Mallows模型的指数族，证明了自然参数伪似然估计量的渐近正态性并构建置信区间，同时证明MLE的一致性，且在原点处两者渐近方差相同。
2023-04-08 math.PR math.ST stat.TH
Smoothed isotonic estimators of a monotone baseline hazard in the Cox model
考虑Cox模型中单调基线风险率$λ_0$的光滑极大似然估计和光滑Grenander型估计。我们分析了它们的渐近行为，并表明，它们是渐近正态的速率$n^{m/(2m+1)}$，当~ $λ_0$是$m\geq 2$倍连续可微的，这两个估计是渐近等价的。最后，我们提出了逐点置信区间的数值结果，说明了这两种方法的可比行为。
2018-05-17 math.ST stat.TH
The Likelihood Ratio Test in High-Dimensional Logistic Regression Is Asymptotically a Rescaled Chi-Square
逻辑斯谛回归每天被用于数千次拟合数据、预测未来结果和评估解释变量的统计意义。当用于统计推断时，logistic模型通过使用似然比检验的分布近似值来产生回归系数的p值。事实上，威尔克斯定理断言，只要我们有一个固定数量的变量$p$，两倍的对数似然比（LLR）$2Λ$被分布为一个$χ^2_k$变量在大样本量$n$的限制;这里，$k$是被测试的变量的数量。在本文中，我们证明了当$p$与$n$相比不可忽略时，Wilks定理不成立，卡方近似是非常不正确的;事实上，这种近似产生的p值太小（在零假设下）。假设$n$和$p$以这样的方式增长，即对于某个常数$κ< 1/2$，$p/n\rightarrowκ$。证明了一类Logistic模型的LLR收敛于一个重新标度的卡方，即$2Λ~\stackrel{\mathrm{d}}{\rightarrow}~α(κ)χ_k^2$，其中只要维数比$κ$为正，标度因子$α(κ)$就大于1.因此，LLR大于经典假设。例如，当$κ=0.3$、$α(κ)\approx1.5$ .在一般情况下，我们展示了如何计算的比例因子，通过求解两个方程的两个未知数的非线性系统。我们的数学参数涉及并使用近似消息传递理论，非渐近随机矩阵理论和凸几何技术。我们还补充我们的数学研究表明，新的极限分布是准确的有限样本量。最后，本文的研究结果也可以推广到其他一些回归模型，如概率单位回归模型。
2017-06-05 cs.IT math.IT math.PR
Score-Preserving Targeted Maximum Likelihood Estimation
提出保分TMLE（SP-TMLE）方法，通过同时针对有效影响函数和已求解得分来减小von-Mises展开余项，在小样本下降低了偏差与方差，提升了有限样本性能。
2025-01-31 math.ST stat.ME stat.TH
Statistical Inference for Random Unknowns via Modifications of Extended Likelihood
本文通过修正扩展似然提出h-似然和h-置信，用于含随机未知量的统计模型，实现点估计、区间估计与预测，并达到广义Cramér-Rao下界。
2025-02-28 math.ST stat.ME stat.TH
Asymptotic normality and analysis of variance of log-likelihood ratios in spiked random matrix models
本手稿研究信号检测的似然比检验在一些加标随机矩阵模型，包括但不限于高斯混合和加标Wishart协方差阵。我们直接处理这些模型中的多尖峰情况，并在信号分量上使用灵活的先验，允许跨尖峰的依赖性。当信噪比低于一定的阈值时，我们得到了对数似然比的渐近正态性。此外，我们表明，对数似然比的方差可以渐近分解为统计量的集合，我们称之为二分符号周期的总和。
2018-04-02 cs.IT math.IT math.PR
Maximum likelihood estimator for skew Brownian motion: the convergence rate
给出了斜布朗运动（SBM）的偏度参数的极大似然估计（MLE）的渐近性质。由于最近的结果的中心极限定理的估计收敛速率的SBM，我们证明了一个猜想左开的MLE有渐近的混合正态分布，涉及当地时间的收敛速率的顺序$1/4$。我们还给出了极大似然估计的一个级数展开，并研究了分数及其导数的渐近行为，以及它们随偏度参数的变化。特别是，我们表现出一个特定的行为时，SBM实际上是一个布朗运动，并量化的爆炸系数的膨胀时，偏度参数接近$-1$或$1$。
2023-02-06 math.PR math.ST stat.TH
Quantifying and Reducing Bias in Maximum Likelihood Estimation of Structured Anomalies
Princeton University（普林斯顿大学）；Brown University（布朗大学）
异常估计，或者说找到与数据集的其余部分不同的数据集子集的问题，是机器学习和数据采掘中的经典问题。在理论工作和应用中，假设异常具有由$\textit{anomaly family}$中的成员资格定义的特定结构。例如，在时间数据中，异常族可以是时间间隔，而在网络数据中，异常族可以是连通子图。异常估计的最突出的方法是计算异常的最大似然估计（MLE）;然而，最近观察到，对于正态分布的数据，MLE是某些异常族的$\textit{biased}$估计量。在这项工作中，我们证明了在正常的均值设置，最大似然估计的偏差取决于异常家庭的大小。我们证明了，如果在异常家庭中包含的异常集的数量是次指数，那么极大似然估计是渐近无偏的。我们还提供了经验证据证明，反之亦然：如果这样的集合的数量是指数的，那么极大似然估计是渐近有偏的。我们的分析统一了一些早期的结果对特定异常家庭的MLE的偏见。接下来，我们推导出一个新的异常估计使用混合模型，我们证明了我们的异常估计是渐近无偏的，无论异常家庭的大小。我们说明了我们的估计与最大似然估计的疾病爆发和高速公路交通数据的优势。
2021-06-11 cs.IT cs.LG math.IT
Consistent and Asymptotically Efficient Localization from Range-Difference Measurements
本文针对距离差测量定位问题，通过构造线性最小二乘闭式解并消除其偏差获得一致初值，再结合一步高斯-牛顿迭代，实现了与最大似然估计量相同的渐近高效性能。
2023-09-25 eess.SP math.ST stat.TH
Non-Gaussian Quasi Maximum Likelihood Estimation of GARCH Models
非高斯拟极大似然估计是Gestival模型中常用的一种估计方法，其目的是提高Gestival参数的估计效率。然而，除非准似然碰巧是真的，非高斯QMLE方法遭受不一致，即使形状参数的准似然估计。为了纠正这种偏差，我们确定了一个未知的尺度参数，这是至关重要的非高斯QMLE的一致性估计，并提出了一个两步的非高斯QMLE（2SNG-QMLE）的尺度参数和Gestival参数的估计。这种新的方法是一致的和渐近正态的。此外，它有更高的效率比高斯QMLE，特别是当新息误差有重尾。为了进一步提高2SNG-QMLE算法的效率，本文提出了两种扩展算法。研究了新息分布和拟似然分布的尾部相对沉重程度对算法渐近有效性的影响。蒙特卡罗模拟和实证研究证实了所提出的方法的优点。
2010-06-14 math.ST stat.AP stat.ME
Scalable Monte Carlo Inference and Rescaled Local Asymptotic Normality
本文将局部渐近正态性（LAN）的性质推广到扩大的邻域，称之为重标局部渐近正态性（RLAN）.我们得到了正则参数模型满足RLAN的充分条件。我们表明，RLAN支持建设一个统计上有效的估计，最大限度地提高了三次近似的对数似然在这个扩大的邻域。在蒙特卡罗推理的背景下，我们发现这种最大三次似然估计量可以在似然估计中存在渐进增加的蒙特卡罗误差的情况下保持其统计效率。
2020-11-30 math.PR math.ST stat.ME
Empirical Likelihood for Random Forests and Ensembles
Department of Economics University of Wisconsin–Madison（威斯康星大学麦迪逊分校经济系）；Graduate School of Economics Hitotsubashi University（早稻田大学经济学研究生院）；Department of Economics London School of Economics（伦敦经济学院经济系）
本文针对随机森林及集成方法的统计不确定性量化问题，利用其预测的不完全U统计量结构构建经验似然框架，提出修正版本解决稀疏子采样下的过覆盖问题，验证了其覆盖率准确、计算高效且可靠。
2025-11-17 cs.LG econ.EM math.ST
Maximum sampled conditional likelihood for informative subsampling
University of Connecticut（康涅狄格大学）；Iowa State University（爱荷华州立大学）
子采样是在计算资源有限的情况下从海量数据集中提取信息的一种有效方法。在从全部数据中提取子样本之后，大多数可用的方法使用逆概率加权（IPW）目标函数来估计模型参数。IPW估计器没有充分利用所选子样本中的信息。在本文中，我们建议使用基于采样数据的最大采样条件似然估计（MSCLE）。我们建立了MSCLE的渐近正态性，并证明了它的渐近方差协方差阵在包括IPW估计在内的一类渐近无偏估计中是最小的.我们进一步讨论了L-最优子采样概率的渐近结果，并说明了广义线性模型的估计过程。数值实验提供了评估所提出的方法的实际性能。
2022-10-09 cs.IT cs.LG math.IT
