A Note on Likelihood Ratio Tests for Models with Latent Variables
本文针对含潜变量嵌套模型中 LRT 的 χ² 近似失效问题,借助三个模型实例说明 Wilks 定理正则条件的违反,并引入 Chernoff 的更一般渐近理论予以正确解释。
2020-11-21 math.ST stat.TH
A note on MLE of covariance matrix
针对多元正态分布协方差矩阵的极大似然估计(MLE)在Stein损失下的非可容许性问题,本研究通过完全Iwasawa分解强化了不同坐标系下MLE最小风险的差异,并引入新损失函数消除该差异与Stein悖论。
2017-07-23 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for nonlinear AR processes with markov-switching
本文在预测滤波器具有一致指数遗忘和$α$ -混合性质的假设下,提出了一种新的方法,证明了具有Markov切换的非线性AR过程极大似然估计的相合性和正态性.我们表明,在线性和高斯的情况下,我们的假设是完全满足的。
2016-05-31 math.ST stat.TH
Robustness properties of marginal composite likelihood estimators
复合似然是完全似然的一种替代方法,广泛应用于许多可能性本身难以处理的情况。可以计算复合似然,而无需指定响应的完整分布,这意味着在某些情况下,所得估计量对模型误指定的鲁棒性比最大似然估计量更强。本说明的目的是表明,这种增强的鲁棒性是不能保证的。给出了一个例子,其中各种边际复合似然估计是不一致的模型误设定下,即使最大似然估计是一致的。
2014-01-07 math.ST stat.TH
A note on "MLE in logistic regression with a diverging dimension"
这个简短的说明是为了指出读者注意到,证明高维渐近正态性的MLE估计逻辑斯谛回归的制度$p_n=o(n)$中给出的文件:“极大似然估计逻辑斯谛回归模型与发散数量的协变量。电子统计杂志,6,1838-1846。“是错误的。
2018-01-26 math.ST stat.TH
Notes on Computational Hardness of Hypothesis Testing: Predictions using the Low-Degree Likelihood Ratio
这些笔记调查和探索一种新兴的方法,我们称之为低度方法,用于预测和理解高维推理问题中的计算与计算权衡。简而言之,该方法假定某个量--低阶似然比的二阶矩--可以洞察解决给定的假设检验问题需要多少计算时间,这反过来又可以用来预测各种统计推断任务的计算难度。虽然这种方法起源于凸规划的平方和(SoS)层次结构的研究,我们提出了一个独立的介绍,不需要知识的SoS。除了展示如何使用该方法进行预测外,我们还讨论了这些预测的严格和非理性后果。这些注记包括一些新的结果、简化的证明和改进的图解。例如,我们指出了一个正式的连接之间的谱方法和低程度的似然比,我们给了一个尖锐的低程度的下界对次指数时间算法的张量PCA。
2019-07-26 cs.CC cs.DS math.ST
A note on stochastic ordering of estimators of exponential reliability
最近Balakrishnan和Iliopoulos [安。Math.61(2009)]给出了极大似然估计(MLE)随机递增的充分条件。在本文中,我们研究的测试计划,没有考虑有,我们证明了这些计划的MLE也是随机有序的。我们也给出了一些应用程序的可靠性估计。
2011-10-26 math.ST stat.TH
Mean likelihood estimators
讨论了{ \it Mathematica}在推导均值似然估计量中的应用。比较最大似然估计,平均似然估计和贝叶斯估计的基础上,杰弗里的无信息的前使用的标准均方误差和Pitman措施的接近。基于这些准则,我们发现,对于一阶滑动平均时间序列模型,平均似然估计优于极大似然估计和贝叶斯估计与杰弗里的无信息的先验。{ \it Mathematica}用于符号和数值计算以及结果的图形显示。可从http://www.stats.uwo.ca/mcleod/epubs/mele获得{ \it Mathematica}笔记本,其中提供补充推导和代码。感兴趣的读者可以使用此补充轻松复制或扩展本文中的任何结果。
2016-11-03 math.ST stat.TH
A Law of Likelihood for Composite Hypotheses
似然定律是一个一般框架的基础,称为似然范式,用于表示和解释统计证据。如前所述,该定律仅适用于简单假设,而对于将该定律扩展到复合假设,尽管它们在统计应用中具有巨大的相关性,但仍有保留意见。本文提出了一个推广的法律似然复合假设。广义法是在一个公理化的方式,说明了真实的例子,并在渐近分析检查。以前的关注,包括复合假设的可能性范式进行了讨论,根据新的发展。广义似然法与其他似然为基础的方法和它的实际意义进行了比较。最后,讨论了在不能得到全部数据的情况下,如何利用广义律将已发表的假设检验结果解释为约简数据。
2009-01-05 math.ST stat.TH
Maximum Likelihood Estimation for q-Exponential (Tsallis) Distributions
本文介绍了如何应用最大似然法来估计Tsallis及其合作者提出的"$q$ -指数“分布的参数。它还描述了这些分布与经典帕累托分布的关系。
2007-02-01 math.ST physics.data-an stat.TH
A Note On Inference for the Mixed Fractional Ornstein-Uhlenbeck Process with Drift
本文研究具有漂移的混合分数阶Ornstein-Uhlenbeck过程的参数估计。利用拉普拉斯变换计算或由\cite{CK19}导出的带附加部分的Cameron-Martin公式,推导了极大似然估计的大样本渐近性质
2021-01-16 math.PR math.ST stat.TH
Bounding the maximum likelihood degree
极大似然估计是统计学中的一个基本计算问题。本文给出了离散数据代数统计模型的极大似然度的一个界。像往常一样,这些模型被识别为特殊的非常仿射的品种。利用Franecki和Kapranov的早期工作,我们证明了最大似然度总是小于或等于符号交上同调欧拉示性数。我们构造了一个反例的限制在通常的欧拉示性数由Huh和Sturmfels。
2015-04-17 math.AG math.ST stat.TH
A note on the estimation of extreme value distributions using maximum product of spacings
利用最大间距积(MPS)估计广义极值分布(GEV)和广义Pareto分布(GPD)。有效的估计得到的MPS为所有$γ$。这优于仅对$γ<1$有效的最大似然方法。然后,它表明,MPS给出的估计更接近真实的参数相比,最大似然估计(MLE)在模拟研究。在样本量较小的情况下,MPS性能稳定,而MLE性能不稳定。MPS估计器的性能也比概率加权矩(PWM)估计器的性能更稳定。最后,作为MPS的副产品,拟合优度统计量,Moran统计量,可用于极值分布。经验的显着性水平的Moran统计量的计算被认为是令人满意的期望水平。
2007-02-27 math.ST stat.TH
Technical Note: Targeted Maximum Likelihood Estimator for an ATE Standardized for New Target Population
本文提出一种 TMLE,用于在目标人群仅观测基线协变量且结局存在缺失或右删失时,将源人群的 ATE 标准化并迁移到新目标人群。
2025-01-10 stat.ME
Reward-Biased Maximum Likelihood Estimation for Neural Contextual Bandits
National Yang Ming Chiao Tung University(国立阳明交通大学)
奖励偏置最大似然估计(RBMLE)是自适应控制文献中解决探索-利用权衡的经典原理。本文研究了具有一般有界报酬函数的随机上下文强盗问题,提出了NeuralRBMLE算法,该算法在RBMLE原理的基础上,通过在对数似然函数中增加一个偏置项来加强探索。NeuralRBMLE利用了神经网络的表示能力,并直接在参数空间中对探索行为进行编码,而无需构建估计回报的置信区间。我们提出了NeuralRBMLE算法的两个变体:第一个变体通过梯度上升直接获得RBMLE估计,第二个变体通过近似将RBMLE简化为一个简单的索引策略。我们表明,这两种算法实现$\widetilde{\mathcal{O}}(\sqrt{T})$遗憾。通过大量的实验,我们证明了NeuralRBMLE算法在具有非线性奖励函数的真实数据集上实现了与最先进的方法相当或更好的经验遗憾。
2022-05-29 cs.LG stat.ML
A Note on "Quasi-Maximum-Likelihood Estimation in Conditionally Heteroscedastic Time Series: A Stochastic Recurrence Equations Approach"
本文针对条件异方差时间序列的拟极大似然估计,在更一般的完备子空间条件下,用类似论证证明了随机递推方程解的收敛性。
2025-10-07 math.PR math.ST stat.TH
A note on forecasting demand using the multivariate exponential smoothing framework
简单指数平滑在经济时间序列预测中有着广泛的应用。这是因为它计算速度快,而且通常可以提供准确的预测。另一方面,它的多变量版本很少受到关注,由于估计所产生的并发症。事实上,标准的多元极大似然方法受到数值收敛问题和不良复杂性的影响,随着模型的维数而增长。在本文中,我们介绍了一种新的估计策略,多元指数平滑的基础上聚集其观测到标量模型和估计。将原来的高维极大似然问题分解为几个单变量问题,使其更易于求解。与多变量极大似然方法相反,该算法不受模型维数的影响。该方法可用于时间序列预测。此外,模拟结果表明,我们的方法执行至少以及极大似然估计的基本VMA(1)表示,至少在我们的测试问题。
2014-11-15 stat.CO
The Merging Path Plot: adaptive fusing of k-groups with likelihood-based model selection
有许多统计检验可以验证原假设:感兴趣的变量在k组中具有相同的分布。但一旦原假设被拒绝,如何呈现群体之间的相异性结构?在这篇文章中,我们介绍了合并路径图-一种方法,和factorMerger -一个R软件包,用于探索和可视化k组的差异。k-群的比较是探索性分析中最重要的问题之一,它有无数的应用。经典的解决方案是检验一个~原假设,即所有组的观测值都来自同一个分布。如果全局原假设被拒绝,则对组对之间的差异进行更详细的分析。传统的方法是使用成对的事后检验,以验证哪些组差异显着。然而,这种方法在解释层和可视化层中的大量组中失败。~合并路径图方法通过使用基于似然比检验(LRT)统计量的组间相异性的易于理解的描述来解决此问题。
2017-12-12 cs.HC stat.ME stat.ML
A perspective note on likelihood approximation and inference for complex simulation models using a chain of aggregated normalizing flows
The Catholic University of America(美国天主教大学)
本文提出一种基于聚合归一化流链的似然逼近新视角,结合经验似然与序贯决策,实现高效参数探索、样本生成及贝叶斯推断,支持假设检验与不确定性量化。
2026-10-07 cs.LG stat.ME stat.ML
A Note on Ising Network Analysis with Missing Data
针对缺失数据妨碍 Ising 模型伪似然推断、成列删除易致偏差的问题,提出结合迭代插补的条件贝叶斯框架,并辅以 Pólya-Gamma 增广与渐近理论,经模拟和 NESARC 数据验证有效。
2024-03-27 stat.ME
Maximum likelihood estimation of the Weibull distribution with reduced bias
University of Melbourne(墨尔本大学);Monash University(莫纳什大学)
本文提出一种新的偏倚调整最大似然估计方法,用于Weibull分布的形状参数估计,具有更低的偏倚和更高的效率,且易于用现有软件实现。
2023-02-09 stat.ME
A Note on Estimation of Multi-Sigmoidal Gompertz Functions with Random Noise
针对多阶段S形动态现象的多拐点曲线建模需求,提出均值为引入多项式项的变换Gompertz模型的扩散过程,研究其参数最大似然估计与多项式次数选择准则,并给出仿真示例。
2024-01-28 math.PR math.ST stat.TH
Note on information bias and efficiency of composite likelihood
当冗余参数已知时,参数的最大复合似然估计的渐近方差是否总是减小的?将一个复合的可能性必然会变得更有效,通过将addi- tional独立组件似然,或通过使用组件似然与更高的维度?在本文中,我们通过说明性的例子表明,对这两个问题的答案都是否定的,实际上可以观察到相反的方向。为了理解这些悖论现象的发生,本文强调了信息偏差的作用。
2016-12-21 math.ST stat.TH
A note on error estimation for hypothesis testing problems for some linear SPDEs
本文的目的是估计和控制加性噪声驱动的随机分数阶热方程漂移/粘性系数的简单假设检验问题的第I类和第II类误差。假设一个路径的第一$N$傅立叶模式的解决方案是连续观察在一个有限的时间间隔$[0,T]$,我们提出了一类新的拒绝区域,并提供可计算的阈值$T$,和$N$,保证统计误差是小于一个给定的上限。所考虑的检验是似然比型的。主要思想和证明是基于尖锐的大偏差界限。最后,我们通过数值模拟说明了理论结果。
2014-07-21 math.PR math.ST stat.TH
LikelihoodGeometry: Macaulay2 Package
本文介绍了用于 Macaulay2 的 LikelihoodGeometry 软件包,它提供构建离散代数统计模型似然对应关系、组合模型及计算 ML-degree 的工具,将数据与极大似然估计联系起来。
2024-11-17 math.AC stat.CO
Minimum divergence estimators, maximum likelihood and exponential families
本文证明了参数模型中两个分布之间散度的对偶表示公式。由此产生的参数的发散估计。这些估计量不使用任何分组或平滑。证明了在任意正则指数族上,所有的可微发散都导出了参数的相同估计,这就是极大似然估计。
2011-08-20 stat.ME
Maximum softly penalised likelihood in factor analysis
London School of Economics and Political Science(伦敦政治经济学院);University of Warwick(华威大学)
本文提出最大软惩罚似然方法,解决因子分析中Heywood情况问题,通过调整惩罚项确保估计一致性与渐近正态性。
2026-01-26 stat.ME
A note on confidence intervals for parameter estimates of a spatio-temporal Ornstein-Uhlenbeck process
本文比较了高斯时空Ornstein-Uhlenbeck过程矩匹配参数估计的两种构造置信区间的方法。结果发现,通过成对似然近似获得的覆盖率较低,更容易出现维数灾难,而不是从参数引导程序。
2017-07-24 stat.ME
A note on the existence of the maximum likelihood estimate in variance components models
本文研究了方差分量模型中最大似然估计和REML估计的存在性问题。指出并纠正了Demjuko和Massam(Sankhybrid 61,1999)的文章中定理3.1证明中的错误,该定理给出了该模型存在最大似然估计的充要条件.本文给出了Demerko和Massam文章中定理3.4关于方差分量的REML估计的存在性的一个新的证明。
2014-10-28 math.ST stat.TH
On the occurrence times of componentwise maxima and bias in likelihood inference for multivariate max-stable distributions
高维多变量极值分布或最大稳定过程的全似然推断在合并最大值的发生时间时是可行的;如果没有此信息,由于似然中的大量项,通常排除$d$维似然推断。然而,一些研究指出,当执行包含此类事件信息的高维推理时,特别是当依赖性较弱时,会出现偏差。我们阐明了这种现象,表明在中等尺寸的无偏推理,尺寸$d$应小于平方根的向量的数量,其中一个采取组件的最大值。本文提出了一种减少偏倚的方法,并在极值逻辑斯谛模型上加以说明。
2015-03-31 stat.ME
Finite Mixture Modeling with Riemannian Gaussian Distributions on Hyperbolic Space
Department of Mathematics, Baruch College(巴鲁克学院数学系);Department of Mathematics, The Graduate Center, City University of New York(纽约市立大学研究生院数学系)
本文提出在双曲空间上使用各向同性黎曼高斯分布进行有限混合建模,推导密度、径向归一化常数及涉及互补误差函数的有限和表示,并提出加权最大似然估计方法,推导了EM和广义EM算法,通过模拟和实际网络数据展示其有效性。
2026-04-27 stat.ME
Likelihood-based tree reconstruction on a concatenation of alignments can be positively misleading
从基因组数据重建物种树面临着双重障碍。首先,描述每个基因进化的(基因)树可能与物种树不同,例如,由于不完整的谱系排序。第二,在每个基因树的叶子处的比对的基因序列仅提供基因树的拓扑的不完美估计。在本说明中,我们正式证明,一个基本的统计问题出现,如果试图避免占这两个过程,并直接通过级联方法分析遗传数据。更确切地说,我们表明,在多物种合并与一个标准的网站替代模型,最大似然估计的序列数据,已连接跨基因和不正确的假设下进行的所有网站都独立地和相同的进化在一个固定的树是一个统计上不一致的估计的物种树。我们的结果为Kubatko和Degnan(2007)等人描述的模拟结果提供了正式的证明,并补充了DeGorgio和Degnan(2010)以及Chifman和Kubtako(2014)的最新理论结果。
2014-09-06 cs.CE math.PR math.ST
A note on the g and h control charts
在本说明中,我们将重新讨论$g$和$h$控制图,这两种控制图通常用于监控两次连续出现不合格之间的合格案例数。这些图表中的过程参数通常是未知的,通常采用极大似然估计和最小方差无偏估计量进行估计。然而,最小方差无偏估计量在质量工程文献中的应用一直是不恰当的。这一观察促使我们提供正确的最小方差无偏估计量,并研究这些估计量的理论和经验偏差。鉴于这些图表的基础上开发的基本假设,从过程中的样本应该是平衡的,这往往是不满意的,在许多实际应用中,我们提出了一种方法来构建这些图表与不平衡的样本。
2021-01-22 stat.AP
On the computation of the marginal likelihood
我们简要地描述了一个程序,通过一个样本从模型参数的后验分布的统计模型的边际似然一致估计。
2014-06-10 math.ST stat.TH
A Note on New Bernstein-type Inequalities for the Log-likelihood Function of Bernoulli Variables
证明了Bernoulli变量对数似然函数的一个新的Bernstein型不等式。与经典的Bernstein不等式和Hoeffding不等式相比,当应用于对数似然时,新的界与Bernoulli变量的参数无关,因此当参数接近0或1时不会爆炸。新的不等式加强了网络中社区检测的基于似然方法的某些理论结果,并可以应用于其他基于似然的二进制数据的方法。
2020-03-29 cs.IT math.IT math.PR
Analyzing cellwise weighted data
针对数据矩阵各单元格带权的情形,本文提出基于解包变换的逐元加权似然框架,支持最大似然估计、似然比检验和协方差矩阵估计,并给出R实现及渐近等价的快速近似方法。
2023-01-03 stat.CO stat.ME
Algebraic approach to maximum likelihood factor analysis
Kyushu University(九州大学);Nagasaki University(长崎大学);Yamaguchi University(山口大学)
本文提出一种基于代数计算的算法,用于解决最大似然因子分析中的稳定性问题,通过精确求解代数方程以提高估计的可靠性。
2024-02-13 math.ST stat.TH
Composition Estimation via Shrinkage
在这篇文章中,我们探讨了一个简单的方法来组成估计,使用惩罚似然密度估计名义离散域。实际问题,如平滑参数的选择和使用的先验信息进行了研究模拟,并试图进行理论分析。该方法已在一对R函数中实现,供从业者使用。
2020-05-28 stat.ME
A note on exact likelihoods of the Carr-Wu models for leverage effects and volatility in financial economics
最近Carr和Wu(2004,2005)以及Huang和Wu(2004)证明了在传统期权定价模型中使用的大多数随机过程都可以看作是时变Lévy过程的特殊情况。特别是,这些模型可以定制,以展示资产的对数价格和瞬时波动率的相关跳跃。自然类似于Barndorff-Nielsen和Shephard(2001 a,b)的最新工作,这些模型可以在基于可能性的框架中使用。这些可能性是基于未观察到的综合波动率,而不是瞬时波动率。James(2005)建立了一个大类此类模型的可能性和估计的一般结果,其中包括可能的杠杆效应。在本文中,我们证明了基于Carr和Wu(2005)以及Huang和Wu(2005)的推广的似然模型的精确表达式,本质上遵循James(2005)中定理5.1中的论点,但略有修改。这是为了正式验证James(2005)提出的一个主张。
2005-03-16 math.PR math.ST q-fin.ST
Reply to on some problems in the article "Efficient likelihood estimation in state space models" by Cheng-Der Fuh [Ann, Statist. 34 (2006) 2026-2068]
这篇文章回答了Jensen博士(2010)对Fuh(2010)留下的问题2.3的评论。在下文中,我们使用与Fuh(2006)相同的符号和定义,除非另有说明。
2019-11-03 math.ST stat.TH
On Bounded Completeness and the $L_1$-Denseness of Likelihood Ratios
本文直接证明了基于似然比线性张成的 $L^1$ 稠密性刻画有界完备性的结果,并证明无穷维观测空间实验的有界完备性等价于其有限维受限子实验的有界完备性。
2023-08-02 math.ST stat.TH
Conditional Tail-Related Risk Estimation Using Composite Asymmetric Least Squares and Empirical Likelihood
本文利用复合非对称最小二乘法(CALS)和经验似然法,提出了一个两步估计Gestival序列的条件风险价值(VaR)和条件预期亏损(ES)的方法。首先,我们在几个显着性水平进行非对称最小二乘回归来模拟波动率结构,并将其与Gyndham模型中的创新过程分离开来。需要注意的是,期望值可以作为一个纽带,弥补从VaR估计到ES估计的差距,因为存在一个从期望值到特定分位数的双射映射,并且ES可以通过一个简单的公式由期望值导出。然后,我们引入经验似然方法来确定上述关系,这种方法是数据驱动的和分布无关的。理论研究保证了我们所提出的方法得到的估计量的渐近性质,如相合性和渐近正态分布。蒙特卡罗实验和实证应用进行评估所提出的方法的性能。结果表明,我们提出的估计方法是有竞争力的一些替代现有的尾部相关的风险估计方法。
2018-07-03 math.ST stat.TH