Warm Start Marginal Likelihood Optimisation for Iterative Gaussian Processes
University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
本文提出迭代高斯过程的暖启动边际似然优化方法，通过重用线性求解器解作为初始化，在回归任务上实现与传统方法相同结果且平均加速16倍。
2024-05-28 cs.LG stat.ML
Flow-GAN: Combining Maximum Likelihood and Adversarial Learning in Generative Models
Stanford University（斯坦福大学）
概率模型的对抗学习最近已经成为最大似然的一种有前途的替代方案。与通过最大似然训练的显式模型相比，生成对抗网络（GAN）等隐式模型通常会生成更好的样本。然而，GANs回避了显式密度的表征，这使得定量评估具有挑战性。为了弥合这一差距，我们提出了Flow-GAN，这是一种生成对抗网络，我们可以对其进行精确的似然评估，从而支持对抗和最大似然训练。当进行逆向训练时，Flow-GAN生成高质量的样本，但获得极差的对数似然分数，甚至不如记忆训练数据的混合模型;当通过最大似然训练时，情况正好相反。MNIST和CIFAR-10上的结果表明，混合训练可以获得高的保持概率，同时保持生成的样本的视觉保真度。
2018-01-03 cs.AI cs.LG cs.NE
A Simple Approach to Maximum Intractable Likelihood Estimation
近似贝叶斯计算（ABC）可以被看作是一个分析近似的一个棘手的可能性加上一个基本的模拟步骤。这样的观点，结合一个合适的工具先验分布允许最大似然（或最大后验）的推断进行，近似地，使用基本上相同的技术。这个问题的一个基本的方法，简单地获得一个非参数近似的似然表面，然后使用作为一个光滑的代理的可能性在随后的最大化步骤是在这里开发和这类算法的收敛性的理论特征。在这方面，考虑使用不充分的汇总统计。将所提出的方法应用于四个问题，表现出良好的性能。所提出的方法提供了一种替代的近似极大似然估计（MLE）在复杂的情况下。
2013-01-03 stat.ME
Testing Order Constraints: Qualitative Differences Between Bayes Factors and Normalized Maximum Likelihood
我们比较了贝叶斯因子和标准化极大似然的简单情况下选择之间的顺序约束与完整的二项式模型。这种比较揭示了两个定性的差异，在测试顺序的限制，数据依赖和模型的偏好。
2015-06-30 stat.ME stat.OT
Bayesian and Maximum Likelihood Estimation for Gaussian Processes on an Incomplete Lattice
本文提出了一种新的方法来估计大格点上具有缺失值的平稳高斯过程的贝叶斯和极大似然参数估计。我们提出了一个MCMC方法的贝叶斯推断，和极大似然推理的蒙特卡罗期望最大化算法。我们的方法使用数据增广和循环嵌入的协方差阵，并提供精确的推断参数和缺失数据。使用模拟数据和应用卫星海洋表面温度在太平洋，我们表明，我们的方法提供了准确的推断尺寸高达512 × 512的格子，并优于两个流行的方法：复合似然和谱近似。
2014-02-18 stat.CO stat.ME
Particle algorithms for maximum likelihood training of latent variable models
University of Warwick（华威大学）
(Neal和Hinton，1998）将任何给定潜变量模型的极大似然估计改写为自由能泛函$F$的最小化，并将期望最大化算法改写为应用于$F$的坐标下降。在这里，我们探索优化函数的替代方法。特别是，我们确定了各种梯度流与$F$，并表明他们的限制与$F$的驻点相吻合。通过离散化的流量，我们得到了实用的基于粒子的算法极大似然估计在广泛的类别的潜变量模型。新的算法规模高维设置，并在数值实验中表现良好。
2023-02-18 cs.LG math.OC stat.CO
Uniqueness of the maximum likelihood estimator for k-monotone densities
我们证明了k-单调密度类的极大似然估计的唯一性。
2010-01-12 math.ST stat.TH
Consistency of quasi-maximum likelihood for processes with asymMetric laplacian innovation
对一类基于非对称Laplacian新息的多维因果过程，给出了拟极大似然估计的强相合性。
2018-11-06 math.ST stat.TH
A Note on Spatial-Temporal Lattice Modeling and Maximum Likelihood Estimation
时空线性模型及其相应的基于似然的统计推断是时空格点数据分析的重要工具。本文研究了时空线性模型在一般渐近框架下的最大似然估计的渐近性质。我们在时空权矩阵上提出了温和的正则性条件，并得到了最大似然估计的渐近性质（相合性和渐近正态性）。模拟研究进行检查的有限样本性质的最大似然估计。
2012-07-26 math.ST stat.TH
Analyticity, Convergence and Convergence Rate of Recursive Maximum Likelihood Estimation in Hidden Markov Models
本文研究隐马尔可夫模型中递推极大似然估计的渐近性质。本文主要讨论对数似然函数的渐近性态以及递推极大似然估计的点收敛性和收敛速度。利用解析延拓原理，证明了解析参数隐马尔可夫模型的渐近对数似然函数的解析性。根据这一事实和微分几何的一些结果（Lojasiewicz不等式），证明了递归极大似然算法的几乎必然点收敛性，并给出了其收敛速度的严格界.与已有的关于隐马尔可夫模型中极大似然估计的渐近性质的结果不同，本文的结果是在不假设对数似然函数有一个孤立的极大值且Hessian在该极大值处是严格负定的情况下得到的.
2009-09-24 math.ST stat.TH
Asymptotic results for maximum likelihood estimators in joint analysis of repeated measurements and survival time
极大似然估计已广泛应用于重复测量和生存时间的联合分析。然而，有一个缺乏理论上的理由的渐近性质的最大似然估计。本文旨在填补这一空白。具体来说，我们证明了最大似然估计的一致性，并推导出它们的渐近分布。极大似然估计是半参数有效的。
2006-02-11 math.ST stat.TH
Maximum smoothed likelihood estimation and smoothed maximum likelihood estimation in the current status model
考虑了当前状态模型中（不可观测）事件时间的分布函数、密度和危险率的估计问题。在这个模型中，分布函数的一个研究得很好的自然非参数估计是非参数最大似然估计（MLE）。我们研究了两种替代的方法估计的分布函数，假设一些平滑的事件时间分布。第一个估计是基于最大平滑似然法。第二种方法是基于平滑的分布函数的（离散）MLE。这些估计器可用于估计基于插件原理的事件时间分布的密度和危险率。
2010-01-12 math.ST stat.TH
Upper and Lower Class Functions for Maximum Likelihood Estimator for Single server Queues
研究了$GI/G/1$排队系统中到达率和服务率的极大似然估计的上、下类函数，并对M/M/1排队系统进行了验证.
2020-02-14 math.ST stat.TH
Gaussian stationary processes over graphs, general frame and maximum likelihood identification
本文利用Hilbert算子的谱理论，研究了图指标的ARMA高斯过程。我们推广了相应谱密度参数的Whittle极大似然估计，并证明了它们的渐近最优性。
2012-03-21 math.ST stat.TH
The Multiple Roots Phenomenon in Maximum Likelihood Estimation for Factor Analysis
统计推断中的重根估计问题在文献中的许多上下文中出现。在极大似然估计中，由于存在重根，使得使用爬山算法计算最大似然估计量时存在不确定性，从而导致统计推断的困难。本文研究了因子分析的极大似然估计中的重根现象。证明了相应的似然方程即使在最简单的情况下也有不可数的多个可行解。对于观测数据为二维而未观测因子得分为一维的情形，证明了似然方程的解构成一维实曲线.
2017-02-15 math.ST stat.TH
Entropic optimal transport is maximum-likelihood deconvolution
我们给出了熵最优输运的统计解释表明，执行高斯反卷积的极大似然估计对应于计算相对于熵最优输运距离的投影。这一结构性结果为这些工具在机器学习社区中的广泛采用提供了理论支持。
2018-09-18 math.ST stat.TH
Asymptotic bias reduction of maximum likelihood estimates via penalized likelihoods with differential geometry
本文提出一种缩减通用估计量极大似然估计渐近偏差的程序，通过最大化满足一阶拟线性偏微分方程的惩罚似然实现插件估计，并借助微分几何求解偏微分方程，应用于广义线性模型、线性混合效应模型及位置-尺度族。
2024-03-25 math.ST stat.TH
Existence and uniqueness of the maximum likelihood estimator for models with a Kronecker product covariance structure
本文讨论了多元高斯模型，其中协方差阵是两个矩阵的Kronecker积。我们考虑模型参数的极大似然估计，特别是协方差阵。Kronecker乘积协方差阵的极大似然估计量没有明确的表达式。本文的主要问题是协方差阵的极大似然估计是否存在以及它是否唯一。对于我们考虑的不同模型，答案是不同的。
2014-10-08 math.ST stat.TH
On nonparametric maximum likelihood for a class of stochastic inverse problems
建立了一类随机反问题的非参数极大似然估计的相合性。我们继续通过嵌入的框架到Pfanzagl有关混合物的早期结果的一般设置。
2004-11-23 math.ST stat.TH
Maximum likelihood estimation for a bivariate Gaussian process under fixed domain asymptotics
本文研究了在固定区域渐近条件下，具有可分离指数协方差模型的二元高斯过程数据的极大似然估计。我们首先刻画了该模型下高斯测度的等价性。然后建立了微遍历参数的相合性和渐近分布。模拟研究，以比较有限样本的最大似然估计与给定的渐近分布的行为。
2016-03-30 math.ST stat.TH
Asymptotics of the maximum likelihood estimator of the location parameter of Pearson Type VII distribution
Shizuoka University（静冈大学）
研究Pearson VII分布已知尺度下位置参数最大似然估计的渐进行为，包括强一致性、渐近正态性、Bahadur效率和渐近方差。重点分析重尾情况，如Cauchy分布，克服似然方程多根难题。
2026-04-08 math.ST stat.TH
Characterizations of the maximum likelihood estimator of the Cauchy distribution
本文给出了柯西分布位置与尺度联合的极大似然估计的一种新方法。我们把联合看作一个单一的复参数，导出了一个新形式的复变数的似然方程。在此基础上，我们给出了一种新的逼近最大似然估计的迭代格式。我们还处理方程的代数方式，并推导出一个多项式包含的最大似然估计作为根。这种代数方法提供了用多项式求根算法逼近最大似然估计的另一种方案，并且在样本量为5的情况下，给出了封闭式公式的不存在性。最后通过数值例子说明了该方法的有效性。
2021-12-06 math.ST stat.TH
Exact Calculation of Normalized Maximum Likelihood Code Length Using Fourier Analysis
规范化最大似然码长在模型选择中得到了广泛的应用，其良好的性质，如其一致性和其统计风险的上界已经得到了论证。提出了一种基于傅里叶分析的归一化最大似然码长计算方法。我们的方法提供了一个有效的指数族模型的非渐近计算公式和一般参数模型的渐近计算公式，与以前的工作相比，具有较弱的假设。
2018-01-11 math.ST stat.TH
Regularized maximum likelihood estimation of covariance matrices of elliptical distributions
极大似然原理在统计学中有着广泛的应用，其估计量往往具有良好的性质。实际上，极大似然估计量在温和的条件下保证是渐近有效的。然而，在某些设置中，样本太少而无法获得良好的估计。然后，需要考虑关于想要估计的分布的先验信息。一种可能的方法是在贝叶斯背景下扩展最大似然原理，然后变成最大后验估计;然而，这需要分布参数的分布模型。因此，我们将集中在正则化估计的替代方法在本文中，我们将展示如何自然地引入极大似然估计的框架，以及如何将它们扩展到形成强大的估计，可以拒绝离群值。
2016-11-30 math.ST stat.TH
Multilevel maximum likelihood estimation with application to covariance matrices
证明了当最大化被限制在包含真参数值的子空间时，最大似然估计的渐近方差减小。极大似然估计允许协方差模型与样本的系统拟合，这在数据同化中是重要的。分层最大似然方法被应用到谱对角协方差模型与不同的参数化的特征值衰减，和稀疏逆协方差模型与指定的参数值上的不同的非零条目。计算表明，使用较小的参数集可以大大降低高维采样噪声。
2018-01-12 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for nonlinear AR processes with markov-switching
本文在预测滤波器具有一致指数遗忘和$α$ -混合性质的假设下，提出了一种新的方法，证明了具有Markov切换的非线性AR过程极大似然估计的相合性和正态性.我们表明，在线性和高斯的情况下，我们的假设是完全满足的。
2016-05-31 math.ST stat.TH
Ergodicity of observation-driven time series models and consistency of the maximum likelihood estimator
本文讨论了一类观测驱动的时间序列模型，特别关注计数的时间序列。我们提供的条件下，存在严格意义上的平稳和遍历版本的这样的过程。然后，对于良定模型和误定模型，得到了极大似然估计的相合性.
2012-10-22 math.ST stat.TH
Consistency of maximum-likelihood and variational estimators in the Stochastic Block Model
随机块模型（SBM）是一种描述异构有向图和无向图的概率模型.本文利用极大似然法和变分法给出了SBM的渐近推断.证明了SBM的可辨识性，并给出了极大似然估计和变分估计的渐近性质。特别是，这些估计的一致性解决，这是，据我们所知，这是第一个结果，这种类型的变分估计与随机图。
2012-09-30 math.ST stat.TH
Sparse maximum likelihood estimation for regression models
本文通过似然比置信区域的渐近性质，提出一种具有稀疏最大似然估计解释的一致模型选择准则，可识别所有活跃变量并优于传统信息准则。
2024-04-08 math.ST stat.TH
Asymptotics of maximum likelihood estimators based on Markov chain Monte Carlo methods
在许多复杂的统计模型中，无法计算最大似然估计量。本文用真实似然的马尔可夫链蒙特卡罗近似方法解决了这一问题。在主要结果中，我们证明了当两个样本量（初始样本量和MonteCarlo样本量）都趋于无穷大时，估计量的渐近正态性。我们的结果可以应用到模型与棘手的赋范常数和缺失数据模型。
2018-08-08 math.ST stat.TH
A note on the existence of the maximum likelihood estimate in variance components models
本文研究了方差分量模型中最大似然估计和REML估计的存在性问题。指出并纠正了Demjuko和Massam（Sankhybrid 61，1999）的文章中定理3.1证明中的错误，该定理给出了该模型存在最大似然估计的充要条件.本文给出了Demerko和Massam文章中定理3.4关于方差分量的REML估计的存在性的一个新的证明。
2014-10-28 math.ST stat.TH
On the maximum likelihood estimator for the Generalized Extreme-Value distribution
单变量极值理论中的vanilla方法包括将三参数广义极值（GEV）分布拟合到块极大值的样本。尽管有相反的说法，但最大似然估计量的渐近正态性从未被建立。本文利用一个一般结果给出了支持度依赖于参数的二次均值可微的参数族的极大似然估计的一个形式证明。一个有趣的副作用是关于GEV族的二次均值的可微性（缺乏）。
2017-03-15 math.ST stat.TH
The Constrained Maximum Likelihood Estimation For Parameters Arising From Partially Identified Models
我们将Aitchison和Silvey（1958）提出的完全可辨识模型参数的约束极大似然估计理论推广到部分可辨识模型的参数。对于部分识别的模型，模型的某些参数可能仅通过附加假设施加的约束来识别。我们证明了在一定条件下，约束极大似然估计存在并局部最大化受约束的似然函数。然后，我们研究的估计量的渐近分布，并提出了一个数值算法估计参数。我们还讨论了一个特殊的情况下，利用额外的假设并不能提高估计效率。
2016-07-29 math.ST stat.TH
Asymptotic behavior of the Laplacian quasi-maximum likelihood estimator of affine causal processes
本文证明了一类因果时间序列的Laplacian拟极大似然估计（QMLE）的相合性和渐近正态性，这类因果时间序列包括ARMA，AR（$\infty$），GARCH，GARCH（$\infty$），ARMA-GARCH，APARCH，ARMA-APARCH，.流程.我们显着表现出的优势（矩阶和鲁棒性），这种估计相比，经典的高斯QMLE。数值模拟证实了这种估计的准确性。
2017-02-21 math.ST stat.TH
Maximum likelihood degree of variance component models
大多数统计软件包实现了用于计算随机效应模型中的最大似然估计的数值策略。鲜为人知的是，但是，这个问题的代数复杂性。对于具有随机效应和不平衡组数的单向布局，给出了似然方程的代数次数公式和约束极大似然估计方程。特别是，后者的方法被证明是代数不太复杂。这些公式是通过研究一个一元有理方程得到的，该方程的解对应于似然方程的解。从计算代数应用技术，我们还表明，平衡二因子试验设计或没有相互作用的似然方程的程度四。我们的工作表明，代数方法允许一个可靠地找到全局最优的似然函数的线性混合模型与少量的方差分量。
2011-11-14 math.ST stat.TH
Algebraic approach to maximum likelihood factor analysis
Kyushu University（九州大学）；Nagasaki University（长崎大学）；Yamaguchi University（山口大学）
本文提出一种基于代数计算的算法，用于解决最大似然因子分析中的稳定性问题，通过精确求解代数方程以提高估计的可靠性。
2024-02-13 math.ST stat.TH
Bounds for the normal approximation of the maximum likelihood estimator from m-dependent random variables
最大似然估计（MLE）的渐近正态性是一个长期建立的结果。对于独立随机变量的情形，最近已经得到了极大似然估计的分布与正态分布之间的分布距离的显式界。本文在随机变量之间引入了一种局部依赖结构，并给出了Wasserstein度量的上界.
2016-09-19 math.ST stat.TH
Maximum likelihood degree of the $β$-stochastic blockmodel
本文基于马尔可夫基的近期结果，推导出β-随机块模型最大似然度的闭式公式，并证明其可分解为欧拉数的乘积。
2024-10-08 math.ST stat.TH
Maximum Likelihood Estimation for Conditionally Heteroscedastic Models when the Innovation Process is in the Domain of Attraction of a Stable Law
本文证明了一般条件异方差模型参数的极大似然估计的强相合性和渐近正态性，该模型具有$α$稳定的新息。然后，我们放宽假设，只假设创新过程在分布上收敛于一个稳定的过程。利用具有稳定密度的伪极大似然估计，得到了估计的强相合性和渐近正态性。这一框架似乎适用于表现出厚尾的金融数据。我们将此方法应用于几个金融指标，并计算稳定的风险价值。
2012-12-28 math.ST stat.TH
A Proof of Strong Consistency of Maximum Likelihood Estimator for Independent Non-Identically Distributed Data
该研究在密度函数满足特定假设的条件下，基于已有研究给出独立非同分布数据下极大似然估计量强相合性的通用证明，并将其用于证明轨道确定问题中极大似然估计量的强相合性。
2025-01-13 math.ST stat.TH
Maximum Likelihood Estimation in Gaussian Chain Graph Models under the Alternative Markov Property
AMP马尔可夫性是最近提出的一个链图的替代马尔可夫性。在具有联合多元高斯分布的连续变量的情况下，与通过自然块递归回归的数据生成一致的是AMP而不是早先引入的LWF马尔可夫性。本文证明了高斯AMP链图模型的最大似然估计可以通过将广义最小二乘和迭代比例拟合结合到一个迭代算法中来获得。在附录中，我们给出了有用的迭代偏最大化算法，特别适用于所描述的算法的收敛结果。
2005-09-30 math.ST stat.TH
Asymptotic properties of maximum likelihood estimators for determinantal point processes
该研究推导出行列式点过程（DPPs）最大似然估计量的强相合性与Berry-Esseen型界，开发了相应数值估计算法并完成模拟，还给出了2×2分块行列式矩阵最大似然估计的显式公式与讨论，完善了相关前期研究。
2024-07-09 math.ST stat.TH
Maximum likelihood estimation in log-linear models
研究了条件Poisson抽样方案下对数线性模型的极大似然估计.本文给出了模型参数极大似然估计存在的充要条件，并在不存在极大似然估计的情况下，研究了自然参数和均值参数的可估性。我们的条件集中在观察表中的采样零点的作用。我们扩展的指数族的框架内，我们利用的几何性质的对数-线性模型。我们提出了算法的扩展极大似然估计，改进和纠正现有的算法的对数线性模型分析。
2012-07-23 math.ST stat.TH
Regularised optimal self-transport is approximate Gaussian mixture maximum likelihood
该研究揭示正则化自输运与高斯混合模型最大似然估计的关联，提出自输运结合聚类的低成本有理论支撑的估计方法，并指出其因鲁棒、稀疏、稳定可作为GMM的优选统计工具。
2023-11-04 math.ST stat.TH
Reduction of Restricted Maximum Likelihood for Random Coefficient Models
本文利用回归方程的充分统计量改写了随机系数模型离差矩阵的限制极大似然估计。
2018-03-11 math.ST stat.ME stat.TH
The Maximum Likelihood Data Singular Locus
对于一般数据，似然方程的复解的数目是常数，这个数目被称为模型的（最大似然）ML度。在这篇文章中，我们描述的特殊轨迹的数据，其中的似然方程有一个模型的奇异轨迹的解决方案。
2015-09-30 math.AG math.ST stat.TH
The Maximum Likelihood Degree of Farlie Gumbel Morgenstern Bivariate Exponential Distribution
本文研究 Farlie-Gumbel-Morgenstern 二元指数分布参数的最大似然度，即对数似然方程在复数域上的解的个数。
2025-02-06 math.AC math.ST stat.TH
Asymptotic normality of maximum likelihood estimator for cooperative sequential adsorption
我们在以前的工作中表明，合作序贯吸附模型的统计推断可以基于极大似然估计。本文继续这方面的研究，建立了极大似然估计在热力学极限下的渐近正态性。我们还进行了一些数值模拟的模型和讨论。
2010-05-06 math.PR math.ST stat.TH
Maximum likelihood thresholds of generic linear concentration models
本文研究了通用线性浓度模型的最大似然阈值，发现其与直观的维度计数一致，且通过几何方法解释了模型可能失效的情况。
2026-05-14 math.AG math.ST stat.TH
Varieties with maximum likelihood degree one
我们证明了极大似然度为1的代数簇是有限纤维单项式映射下约化A-判别簇的象。最大似然估计对应于这样的品种是Kapranov的霍恩均匀化。这将Kapranov对A-判别超曲面的刻画扩展到任意余维的各种情形。
2014-05-31 math.AG math.ST stat.TH
The Maximum Likelihood Threshold of a Graph
图的最大似然阈值是保证最大似然估计几乎肯定存在于与图相关联的高斯图模型中的最小数据点数量。我们表明，这个图形参数是连接到组合刚性理论。特别地，如果图$G$的边集是$n-1$维通用刚性拟阵中的独立集，则$G$的最大似然阈值小于或等于$n$。这种联系使我们能够证明关于最大似然阈值的许多结果。
2015-09-16 math.CO math.ST stat.TH
Maximum Likelihood Estimation for Markov Chains
提出了一种新的具有稀疏转移矩阵的马尔可夫链的最优估计方法。
2009-05-26 math.ST stat.CO stat.TH
Maximum likelihood estimation for sub-fractional Vasicek model
研究了亚分数阶布朗运动驱动的分数阶Vasicek模型漂移参数极大似然估计的渐近性质。
2021-06-07 math.PR math.ST stat.TH
The maximum likelihood degree of sparse polynomial systems
我们考虑的统计模型所产生的一个稀疏的多项式系统的一般系数的解决方案的公共集。最大似然度计算限制于模型的似然函数的临界点的数目。证明了稀疏多项式系统的最大似然度由其牛顿多面体决定，并等于相关拉格朗日方程组的混合体积。
2022-04-19 math.AG math.ST stat.TH
