Maximum Ideal Likelihood Estimation: A Unified Inference Framework for Latent Variable Models
本文提出最大理想似然估计(MILE),通过将潜变量视为参数直接利用完整数据联合分布,为潜变量模型提供统一推断框架,在传统方法失效时仍稳健,并具备理论保证与计算优势。
2025-10-06 math.ST stat.ME stat.TH
Maximum Likelihood Estimation in Latent Class Models For Contingency Table Data
具有潜在结构的统计模型的历史可以追溯到20世纪50年代,并在社会科学中得到了广泛的应用,最近,在计算生物学和机器学习中也得到了广泛的应用。在这里,我们研究了社会学家保罗F。Lazarfeld的分类变量,我们解释了它的几何结构。我们绘制的潜在类模型的统计和几何性质之间的相似之处,我们说明了几何与极大似然估计和相关的统计推断的许多问题的原因。特别是,我们专注于不可识别性和确定的模型维数,最大化的似然函数和对称数据的影响的问题。我们用不同维度和复杂性的各种合成和现实生活中的表格来说明这些现象。这项工作的动机很大程度上源于“100瑞士法郎”的问题,我们介绍和详细描述。
2007-09-21 math.ST stat.ME stat.TH
Marginal maximum likelihood estimation and asymptotic theory for latent variable models in high dimensions
University of Michigan(密歇根大学)
本研究为高维潜变量模型中的边际最大似然估计建立了严格的渐近理论,包括一致性和渐近正态性,并为潜变量提供了频率学派和贝叶斯不确定性量化。
2026-09-16 math.ST stat.ME stat.TH
A note on the asymptotic distribution of the Likelihood Ratio Test statistic under boundary conditions
本文澄清边界参数似然比检验中两类渐近分布结果的分歧,并提出启发式修正,使闭式结果可用于负相关情形。
2025-08-29 math.ST stat.TH
Bridging Theory and Practice: Statistical Inference for Latent Space Models of Networks
Department of Mathematics, Hong Kong University of Science and Technology(香港科技大学数学系);Department of Statistics, Florida State University(佛罗里达州立大学统计系)
本文提出统一框架,解决潜在空间模型统计推断中理论与实践的差距问题,通过放宽谱多重性约束和开发新适应性准则,提升最大似然估计的实用性与统计严谨性。
2026-05-09 math.ST stat.TH
A Note on the Likelihood Ratio Test in High-Dimensional Exploratory Factor Analysis
本文研究高维探索性因子分析中似然比检验卡方近似失效的问题,推导其保持有效的充要条件,并给出实践可用的定量判断准则。
2021-02-12 math.ST stat.TH
Model-free Estimation of Latent Structure via Multiscale Nonparametric Maximum Likelihood
针对多元分布中潜结构难以识别估计的问题,提出无模型多尺度非参数最大似然方法,通过构建密度多尺度表示、数据驱动选模型及刻画渐近极限,设计有效聚类算法捕捉多种潜结构。
2025-04-15 math.ST stat.ME stat.ML
Likelihood landscape of binary latent model on a tree
University of Wisconsin(威斯康星大学)
本文研究了Cavender-Farris-Neyman模型的最大似然估计优化景观,证明了在重建区域内,总体对数似然函数在参数真值周围的一个盒状区域内强凸且光滑,并且坐标最大化方法可以以指数速度收敛到一致的MLE。
2026-05-20 math.PR math.ST q-bio.PE
A note on Maximum Likelihood Estimation for cubic and quartic canonical toric del Pezzo Surfaces
本文重点研究了复曲面代数统计模型,它对应于复曲面Del Pezzo表面与杜瓦尔奇。本文给出了代数统计模型的最大似然估计的一个封闭形式,它对应于具有Du Val奇点的三次和四次复曲面Del Pezzo曲面。此外,我们还计算了ML度的一些复曲面Del Pezzo表面的程度小于或等于6,这等于在所有的情况下,但表面的程度,即五次与类型$\mathbb{A}_1$的两个点。
2017-11-13 math.AG math.ST stat.TH
Consistency and Asymptotic Normality of Latent Block Model Estimators
潜在块模型(LBM)是一种基于模型的方法,用于同时对数据矩阵的$d$列和$n$行进行聚类。LBM中的参数估计是一个复杂的问题。虽然已经提出了各种估计策略,现在很好地理解经验,理论保证其渐近行为是相当稀疏,大多数结果仅限于二进制设置。我们在这里证明理论保证的价值设置。我们证明了在参数空间上的一些温和的条件下,并且在当$n$和$d$趋于无穷大时,$\log(d)/n$和$\log(n)/d$趋于$0$的渐近状态下,(1)完全模型(具有已知标签)的最大似然估计是一致的,(2)在完全模型和观测模型(具有未知标签)下的对数似然比是等价的。这种等价性使我们能够将渐近一致性和在较弱条件下的渐近正态性转化为观测模型下的最大似然估计。此外,变分估计也是相容的,在相同的条件下,渐近正态。
2020-02-25 math.ST stat.TH
Empirical Bayes Estimation of the Mean of a Function of the Latent Variable with Applications to the Treatment of Nonresponse
Central Bureau of Statistics, Israel(以色列中央统计局);University of Michigan, USA(密歇根大学)
研究在非参数经验贝叶斯框架下对混合分布线性泛函的估计,针对混合分布部分可识别情况,核心方法是将泛函应用于半参数最大似然估计器,贡献是提供有效估计工具。
2026-07-09 math.ST stat.TH
Better Approximate Inference for Partial Likelihood Models with a Latent Structure
Carnegie Mellon University(卡内基梅隆大学)
时间点过程(TPP)的部分可能性涉及一个潜在的结构往往会带来一个棘手的边缘化,从而使推理困难。我们提出了一种新的方法,最大似然估计(MLE)涉及近似推理的潜在变量,通过最小化一个紧密的上限上的近似差距。给定一个离散的潜在变量$Z$,所提出的近似减少推理复杂度从$O(|Z|^c)$到$O(|Z|)$。我们使用凸共轭,以确定这个上限在一个封闭的形式,并表明,它除了优化目标的结果在改进的结果模型假设比例风险在生存分析。
2019-12-19 cs.LG stat.ML
A note on MLE of covariance matrix
针对多元正态分布协方差矩阵的极大似然估计(MLE)在Stein损失下的非可容许性问题,本研究通过完全Iwasawa分解强化了不同坐标系下MLE最小风险的差异,并引入新损失函数消除该差异与Stein悖论。
2017-07-23 math.ST stat.TH
Asymptotic properties of the maximum likelihood estimator for nonlinear AR processes with markov-switching
本文在预测滤波器具有一致指数遗忘和$α$ -混合性质的假设下,提出了一种新的方法,证明了具有Markov切换的非线性AR过程极大似然估计的相合性和正态性.我们表明,在线性和高斯的情况下,我们的假设是完全满足的。
2016-05-31 math.ST stat.TH
Learning the distribution of latent variables in paired comparison models with round-robin scheduling
本文考虑的配对比较数据来源于夫妇中大量N个个体的比较。数据集是两个人之间的比赛结果的集合,每个人都面对n个对手,其中n比N大得多。个体由独立同分布的随机参数表示,本文研究了参数分布的极大似然估计。分析依赖于一个图形模型的建设,编码的条件依赖的观察,这是第一个n比赛的结果,每个人都参与。这个图形模型允许证明几何损失的记忆性能和推导出的似然函数的渐近行为。本文的重点是从这些比赛的循环调度得到的图形模型。在学习理论的经典结构,渐近似然用来衡量性能的最大似然估计。该估计量的风险界最后由应用于图模型的马尔可夫链的次高斯偏差结果得到。
2020-02-13 math.PR math.ST stat.TH
Notes on Computational Hardness of Hypothesis Testing: Predictions using the Low-Degree Likelihood Ratio
这些笔记调查和探索一种新兴的方法,我们称之为低度方法,用于预测和理解高维推理问题中的计算与计算权衡。简而言之,该方法假定某个量--低阶似然比的二阶矩--可以洞察解决给定的假设检验问题需要多少计算时间,这反过来又可以用来预测各种统计推断任务的计算难度。虽然这种方法起源于凸规划的平方和(SoS)层次结构的研究,我们提出了一个独立的介绍,不需要知识的SoS。除了展示如何使用该方法进行预测外,我们还讨论了这些预测的严格和非理性后果。这些注记包括一些新的结果、简化的证明和改进的图解。例如,我们指出了一个正式的连接之间的谱方法和低程度的似然比,我们给了一个尖锐的低程度的下界对次指数时间算法的张量PCA。
2019-07-26 cs.CC cs.DS math.ST
Hyperbolic Network Latent Space Model with Learnable Curvature
Department of Statistics University of Michigan(密歇根大学统计学系)
本文提出一种具有可学习曲率的双曲网络潜在空间模型,通过最大似然估计策略解决潜在空间曲率的几何效应问题,并在模拟和实际应用中验证其优越性能。
2026-02-10 math.ST stat.ME stat.TH
Estimating the size of a closed population by modeling latent and observed heterogeneity
本文描述了一类新的捕获-再捕获模型的封闭的人口时,个人的协变量是可用的。新颖之处在于结合潜在的类模型的分布的捕获历史,其中类权重和条件分布给定的潜在可能取决于协变量,与一个模型的边际分布的可用协变量在\cite{Liu2017}。此外,当根据潜在变量和协变量有条件地对捕获历史进行建模时,允许任何一般形式的序列依赖。提出了一种极大似然估计的Fisher评分算法,并利用隐函数定理证明了观测协变量的边缘分布与不被捕获概率之间的映射是一一对应的.概述了渐进结果,并给出了构建总体大小基于似然的置信区间的过程。两个基于实际数据的例子被用来说明所提出的方法
2021-11-05 math.ST stat.ME stat.TH
Probabilistic Unrolling: Scalable, Inverse-Free Maximum Likelihood Estimation for Latent Gaussian Models
Harvard University(哈佛大学);Boston University(波士顿大学)
针对潜在高斯模型 EM 需大量矩阵求逆、难以扩展的问题,提出结合 Monte Carlo 采样与迭代线性求解器的概率展开方法,可更快估计梯度并实现近一个数量级的训练加速。
2023-06-05 cs.LG eess.SP stat.CO
A Latent-Variable Formulation of the Poisson Canonical Polyadic Tensor Model: Maximum Likelihood Estimation and Fisher Information
本文提出通过隐变量 formulation 对泊松广义张量模型进行参数推断,并推导其 Fisher 信息矩阵,以提升张量计数数据的建模能力。
2025-11-25 cs.NA math.NA math.ST
The Geometry of Existence and Uniqueness of Maximum Likelihood Estimation in Categorical Response Models
本文揭示分类响应模型中MLE存在性与唯一性可由统一几何判据刻画,通过结构向量重叠条件与线性规划判定,并应用于健康数据共享模型诊断。
2026-10-26 math.ST stat.AP stat.ME
Maximum Likelihood Estimation for Network Models with Latent Geometry under Snowball Sampling
Department of Statistics, University of Munich(慕尼黑大学统计系)
针对雪球抽样产生的网络数据,推导了连续潜在空间模型的精确似然,提出随机EM算法进行参数估计,纠正了朴素方法的偏差。
2026-08-18 stat.ME
Inverse Ising problem in continuous time: A latent variable approach
我们考虑逆伊辛问题,即从观测到的自旋轨迹的连续时间Glauber动力学模型的网络耦合的推断。通过引入两组辅助潜在随机变量,我们呈现的可能性到一个形式,它允许简单的迭代推理算法与分析更新。变量为:(1)Poisson变量,用于线性化指数项,这对于点过程似然是典型的;(2)Pólya-Gamma变量,其使得耦合参数中的似然是二次的。利用增广的似然估计,我们推导出一个期望最大化(EM)算法来获得网络参数的最大似然估计。使用第三组潜变量,我们通过L1正则化将期望最大化算法扩展到稀疏耦合。最后,我们开发了一个有效的近似贝叶斯推断算法,使用变分方法。我们证明了我们的算法的性能从伊辛模型模拟的数据。对于从一个更具生物学合理性的网络与尖峰神经元模拟的数据,我们表明,伊辛模型捕捉以及低顺序统计量的数据和伊辛耦合是如何相关的模拟网络的基础突触结构。
2017-12-21 physics.data-an stat.ML
GLAMLE: inference for multiview network data in the presence of latent variables, with application to commodities trading
进出口数据的统计分析有助于理解经济网络中决定交换的机制。两个国家之间建立商业关系的可能性往往取决于一些不可观察(或不易测量)的因素,如社会经济条件,政治观点,基础设施水平。为了对这种类型的数据进行推理,我们引入了一类新的多视图网络的潜变量模型,其中多变量潜高斯变量决定了边缘的概率行为。我们将我们的模型标记为图广义线性潜变量模型(GGLLVM),并且我们的推断基于拉普拉斯近似似然的最大化。我们称之为图拉普拉斯近似极大似然估计(GLAMLE)的M-估计,我们研究它的统计性质。模拟网络的数值实验表明,GLAMLE产生快速和准确的推理。中欧国家商品交易的真实数据应用程序揭示了网络中每个节点对其他节点的进出口倾向,以及每种交易商品特定的其他信息。
2023-01-10 math.ST stat.AP stat.ME
Composite likelihood inference for the Poisson log-normal model
CEREMADE, Université Paris-Dauphine, Université PSL, CNRS(巴黎第九大学CEREMAS研究中心,巴黎文理研究大学,法国国家科学研究中心);Université Paris-Saclay, INRAE, AgroParisTech, UMR MIA Paris-Saclay(巴黎萨克雷大学,法国国家农业食品与环境研究院,巴黎高等农学院);Sorbonne Université, CNRS, Laboratoire de Probabilités, Statistique et Modélisation(索邦大学,法国国家科学研究中心)
本文提出了一种结合EM框架与复合似然和重要性采样估计的新型推断方法,用于泊松对数正态模型参数估计,解决了高维积分瓶颈问题,实现了计算可行性,同时保持了最大似然估计的渐近性质。
2026-01-15 stat.CO stat.ME
Technical Note: Targeted Maximum Likelihood Estimator for an ATE Standardized for New Target Population
本文提出一种 TMLE,用于在目标人群仅观测基线协变量且结局存在缺失或右删失时,将源人群的 ATE 标准化并迁移到新目标人群。
2025-01-10 stat.ME
The generalized Hausman test for detecting non-normality in the latent variable distribution of the two-parameter IRT model
本文提出广义 Hausman 检验,通过比较两参数 IRT 模型在正态假设与半非参数框架下的估计量来检测潜在变量分布的非正态性,模拟表明其在多数条件下优于似然比和 M2 检验。
2024-02-13 stat.ME
Latent likelihood ratio tests for assessing spatial kernels in epidemic models
在流行病时空随机模型的关键评估中,最重要的问题之一是选择用于表示感染性挑战与感染和易感宿主的空间分离之间的关系的传输核。由于控制策略的设计通常基于对传输实际可能发生的距离的评估,并且对该距离的估计对核函数的选择非常敏感,因此重要的是,可以根据观察来仔细检查用于通知控制策略的模型,以便得出针对所选核函数的可能证据。虽然存在一系列的方法来模型批评,该领域仍然是一个需要进一步研究的认识。在本文中,作者的早期贡献的基础上,我们介绍了一种新的方法来评估空间内核的有效性-潜在的似然比检验-并比较其能力,以检测模型误设与使用感染链接残差的测试的基础上。我们表明,新的方法,它结合了贝叶斯和频率论的想法,通过处理的统计决策者作为一个复杂的实体,可以用来制定测试具有更大的权力比感染链接残差检测内核的错误,特别是当错误的程度是适度的。这种新方法避免了使用完全贝叶斯方法,这可能会引入不希望的复杂性相关的计算复杂性和先验灵敏度。
2019-11-05 stat.AP
Three-step estimation of latent Markov models with covariates
本文提出了一种改进的带协变量的隐类模型的三步估计方法,可用于估计纵向数据的隐马尔可夫模型。我们提出的三步估计方法是基于一个初步的聚类的样本单位的基础上的特定时间的反应。这种方法是一个有用的估计工具,当大量的响应变量在每个时间场合观察。在这种情况下,通常基于期望最大化算法的完全极大似然估计可能具有一些缺点,这主要是由于模型似然的许多局部最大值的存在。此外,期望最大化算法可能特别慢地收敛,并且对于复杂的LM模型可能变得不稳定。当响应变量的个数趋于无穷大时,我们证明了所提出的三步估计的相合性。我们还显示了仿真研究的结果,旨在评估所提出的替代方法的性能方面的全似然法。最后,我们说明了一个应用程序,一个真正的数据集上的健康状况的老年人在意大利养老院。
2014-02-05 stat.ME
Estimation and Inference for Latent Markov Models by Fourier Recursions
Guanghua School of Management, Peking University(光华管理学院,北京大学);Department of Statistics, London School of Economics(伦敦政治经济学院统计系)
本文提出一种理论上精确的傅里叶递归框架,用于非高斯非线性潜在马尔可夫模型的估计与推断,提供统一截断实现和首个一般渐近理论,模拟和破产数据应用验证了其有效性和稳定性。
2026-09-09 stat.ME
Boltzmann Machine Learning with the Latent Maximum Entropy Principle
University of Toronto(多伦多大学);University of Waterloo(滑铁卢大学);University of Missouri(密苏里大学)
我们提出了一个新的统计学习范式玻尔兹曼机的基础上,我们提出了一个新的推理原则:潜在的最大熵原则(LME)。LME既不同于Jaynes最大熵原理,也不同于标准的极大似然估计。本文通过导出Boltzmann机参数估计的新算法来证明LME原理,并展示如何发展新的EM算法的鲁棒性和快速性。我们的实验表明,基于LME的估计通常比极大似然估计产生更好的结果。特别是当从少量数据推断隐藏单元时。
2012-10-19 cs.LG stat.ML
A Joint MLE Approach to Large-Scale Structured Latent Attribute Analysis
结构化潜在属性模型(Structured Latent Attribute Models,SLAM)是一类离散潜在变量模型,广泛应用于教育、心理学和流行病学领域,用于对多变量分类数据进行建模。SLAM假设多个离散的潜在属性以高度结构化的方式解释观察变量的依赖性。通常,最大边际似然估计方法被用于SLAM,将潜在属性视为随机效应。现代评估数据的范围越来越大,涉及大量的观测变量和高维潜在属性。这对传统的估计方法提出了挑战,需要新的方法和对潜在变量建模的理解。出于这一动机,我们认为联合极大似然估计(MLE)的方法SLAM,治疗潜在的属性作为固定的未知参数。我们调查的可估计性,一致性和计算的制度,样本量,变量的数量,和数量的潜在属性都可以发散。我们建立的联合MLE的统计一致性,并提出有效的算法,以及几个流行的SLAM的大规模数据的规模。仿真研究表明,所提出的方法优越的经验性能。一个国际教育评估的真实数据的应用程序给出了认知诊断的可解释的结果。
2021-07-08 stat.ME
Exact Likelihood Inference and Robust Filtering for Gauss-Cauchy Convolution Models
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Xiamen University(厦门大学)
本文推导了Voigt分布(高斯与柯西卷积)的解析表达式,用于重尾测量噪声建模,并基于此提出GCC滤波器,在状态空间模型中实现鲁棒滤波,实证中优于高斯、t分布等滤波器。
2026-05-28 econ.EM stat.ME
A note on forecasting demand using the multivariate exponential smoothing framework
简单指数平滑在经济时间序列预测中有着广泛的应用。这是因为它计算速度快,而且通常可以提供准确的预测。另一方面,它的多变量版本很少受到关注,由于估计所产生的并发症。事实上,标准的多元极大似然方法受到数值收敛问题和不良复杂性的影响,随着模型的维数而增长。在本文中,我们介绍了一种新的估计策略,多元指数平滑的基础上聚集其观测到标量模型和估计。将原来的高维极大似然问题分解为几个单变量问题,使其更易于求解。与多变量极大似然方法相反,该算法不受模型维数的影响。该方法可用于时间序列预测。此外,模拟结果表明,我们的方法执行至少以及极大似然估计的基本VMA(1)表示,至少在我们的测试问题。
2014-11-15 stat.CO
Maximum likelihood fitting of acyclic directed mixed graphs to binary data
University of Washington(华盛顿大学)
无环有向混合图,也称为半马尔可夫模型,表示由具有潜在变量的DAG模型在观察到的边缘上诱导的条件独立结构。在本文中,我们提出了第一种方法,这些模型拟合二进制数据使用极大似然估计。
2012-03-15 cs.AI stat.ME
Local Information for Global Network Estimation in Latent Space Models
Department of Data Science, City University of Hong Kong(香港城市大学数据科学系);Faculty of Business and Economics, University of Hong Kong(香港大学工商管理学院);School of Mathematics Statistics University of Sydney(悉尼大学数学统计学院)
研究在部分信息框架下从个体局部视图估计潜在空间模型的问题,提出投影梯度下降算法用于最大似然估计,引入不平衡度量刻画局部视图质量,通过模拟网络和实际应用证明算法有效性及能揭示网络细微结构。
2026-07-15 stat.ME
Note on information bias and efficiency of composite likelihood
当冗余参数已知时,参数的最大复合似然估计的渐近方差是否总是减小的?将一个复合的可能性必然会变得更有效,通过将addi- tional独立组件似然,或通过使用组件似然与更高的维度?在本文中,我们通过说明性的例子表明,对这两个问题的答案都是否定的,实际上可以观察到相反的方向。为了理解这些悖论现象的发生,本文强调了信息偏差的作用。
2016-12-21 math.ST stat.TH
Dealing with separation problem in hidden Markov models with covariates based on a penalized maximum likelihood approach
本文提出惩罚最大似然方法解决带协变量隐马尔可夫模型中的潜在状态分离问题,并通过交叉验证联合选择隐藏状态数与惩罚强度,在模拟和脊髓麻醉低血压纵向数据中验证了其估计精度与模型潜力。
2025-07-03 stat.ME
A perspective note on likelihood approximation and inference for complex simulation models using a chain of aggregated normalizing flows
The Catholic University of America(美国天主教大学)
本文提出一种基于聚合归一化流链的似然逼近新视角,结合经验似然与序贯决策,实现高效参数探索、样本生成及贝叶斯推断,支持假设检验与不确定性量化。
2026-10-07 cs.LG stat.ME stat.ML
Relations Between the Conditional Normalized Maximum Likelihood Distributions and the Latent Information Priors
我们揭示了条件归一化最大似然(CNML)分布和贝叶斯预测密度的基础上的潜在信息先验(LIPs)之间的关系。特别地,CNML 3,这是一种类型的CNML分布,进行了研究。预测密度的贝叶斯投影,这是一个信息投影的预测密度的贝叶斯预测密度的集合,被认为是。我们证明了CNML 3的Bayes投影散度与条件互信息之和是渐近常数。这一结果意味着CNML 3的贝叶斯投影(BPCNML 3)与基于LIP的贝叶斯预测密度渐近相同。此外,在一些更强的假设下,我们证明了BPCNML 3与基于LIP的贝叶斯预测密度完全一致。
2014-12-25 math.ST stat.TH
A note on the existence of the maximum likelihood estimate in variance components models
本文研究了方差分量模型中最大似然估计和REML估计的存在性问题。指出并纠正了Demjuko和Massam(Sankhybrid 61,1999)的文章中定理3.1证明中的错误,该定理给出了该模型存在最大似然估计的充要条件.本文给出了Demerko和Massam文章中定理3.4关于方差分量的REML估计的存在性的一个新的证明。
2014-10-28 math.ST stat.TH
Composite likelihood inference in a discrete latent variable model for two-way "clustering-by-segmentation" problems
我们考虑一个离散的潜在变量模型的双向数据阵列,它允许一个同时产生集群沿一个数据维度(例如可交换的观测单位或功能)和连续的组,或段,沿其他(例如连续排序的时间或位置)。该模型依赖于一个隐马尔可夫结构,但由于其复杂性,不能完全最大似然估计。因此,我们引入复合似然方法的基础上考虑不同的数据子集。所提出的方法说明了模拟,并与基因组数据的应用程序。
2015-06-27 math.ST stat.ME stat.TH
Latent function-on-scalar regression models for observed sequences of binary data: a restricted likelihood approach
在本文中,我们研究了一个功能回归设置的随机响应曲线是不可观察的,只有它的二分版本的相关二进制数据序列中观察到的。我们提出了一个实用的计算框架,通过参数扩展技术的极大似然分析。与现有的方法相比,我们的建议依赖于使用一个完整的数据可能性,具有能够有效地处理非等间距和缺失的观测的优势。所提出的方法用于标量函数回归设置中,潜在响应变量是在可分离的希尔伯特空间中取值的高斯随机元。通过引入一种自适应MCEM算法,避免了平滑参数的选择,提供了函数回归系数和主成分的平滑估计。最后,我们的新方法的性能证明了各种模拟研究和真实的案例研究。所提出的方法在R包dfrr中实现。
2020-12-04 math.ST stat.ME stat.TH
Marginal likelihood and model selection for Gaussian latent tree and forest models
高斯潜在树模型,或更一般地说,高斯潜在森林模型具有费舍尔信息矩阵,该矩阵沿着有趣的子模型(即对应于子森林的模型)变得奇异。对于这些奇异点,我们计算真实的对数正则阈值(也称为随机复杂度或学习系数),这些阈值量化了贝叶斯推理中边际似然的大样本行为。这提供了所需的信息,最近推出的推广贝叶斯信息标准。我们的数学发展对待拉普拉斯积分的相位函数是单项式和常数之间的平方差的总和的一般设置。我们澄清如何在这种情况下,真正的对数正则阈值可以使用多面体几何计算,我们展示了如何将一般理论与高斯潜在树和森林模型的拉普拉斯积分。在模拟和数据示例中,我们演示了如何将数学知识应用于模型选择。
2015-12-23 math.ST stat.ME stat.ML
Structural equation modeling with latent variables for diffusion processes and its application to sparse estimation
针对高频扩散过程,研究含潜变量SEM的拟似然估计、拟似然比拟合优度检验及稀疏估计,并证明估计量的渐近性质。
2023-06-08 math.ST stat.TH
Regularized-Likelihood Deconvolution with Posterior-Density Reconstruction
University of Chieti-Pescara(基耶蒂-佩斯卡拉大学);University of Luxembourg(卢森堡大学)
针对密度反卷积的不适定问题,提出两阶段基于似然的方法,建立高斯误差下的收敛速率,数值实验及弗雷明汉血压数据应用验证其互补的有限样本表现。
2026-09-17 math.ST stat.TH
Consistency of Maximum Likelihood for Continuous-Space Network Models I
本文研究连续潜在空间网络模型的嵌入问题,在对称性与光滑性假设下证明了对数似然的一致收敛,从而保证最大似然嵌入在信息论意义下收敛到真实潜在位置。
2022-06-29 cs.SI math.ST physics.soc-ph
On the computation of the marginal likelihood
我们简要地描述了一个程序,通过一个样本从模型参数的后验分布的统计模型的边际似然一致估计。
2014-06-10 math.ST stat.TH
A Stochastic Multivariate Latent Variable Model For Categorical Responses
该研究提出一种随机多元潜变量框架,将扩散随机过程推广到含未观测随机效应的分类响应建模,并给出参数最大似然估计思路。
2023-06-02 math.ST stat.TH
A Note on New Bernstein-type Inequalities for the Log-likelihood Function of Bernoulli Variables
证明了Bernoulli变量对数似然函数的一个新的Bernstein型不等式。与经典的Bernstein不等式和Hoeffding不等式相比,当应用于对数似然时,新的界与Bernoulli变量的参数无关,因此当参数接近0或1时不会爆炸。新的不等式加强了网络中社区检测的基于似然方法的某些理论结果,并可以应用于其他基于似然的二进制数据的方法。
2020-03-29 cs.IT math.IT math.PR
EM's Convergence in Gaussian Latent Tree Models
MIT(麻省理工学院)
我们研究了对数似然函数的优化景观和期望最大化(EM)算法在潜在高斯树模型中的收敛性,即树结构的高斯图模型,其叶节点是可观察的,非叶节点是不可观察的。我们证明了种群对数似然的唯一非平凡平稳点是其全局最大值,并建立了期望最大化算法保证收敛到它在单潜变量的情况下。我们的研究结果的景观的对数似然函数在一般的潜在树模型提供了支持的最大似然为基础的方法,在这种设置的广泛的实际应用。我们的EM算法的结果扩展了一个新兴的工作线上获得全局收敛的保证,这个著名的算法。我们证明了我们的结果的非平凡的驻点的对数似然认为,从EM更新得到的多项式方程组的某个系统有一个独特的非平凡的解决方案。EM算法的全局收敛性是通过论证所有平凡不动点都是高阶鞍点来实现的。
2022-11-23 cs.LG math.ST stat.ML
A note on exact likelihoods of the Carr-Wu models for leverage effects and volatility in financial economics
最近Carr和Wu(2004,2005)以及Huang和Wu(2004)证明了在传统期权定价模型中使用的大多数随机过程都可以看作是时变Lévy过程的特殊情况。特别是,这些模型可以定制,以展示资产的对数价格和瞬时波动率的相关跳跃。自然类似于Barndorff-Nielsen和Shephard(2001 a,b)的最新工作,这些模型可以在基于可能性的框架中使用。这些可能性是基于未观察到的综合波动率,而不是瞬时波动率。James(2005)建立了一个大类此类模型的可能性和估计的一般结果,其中包括可能的杠杆效应。在本文中,我们证明了基于Carr和Wu(2005)以及Huang和Wu(2005)的推广的似然模型的精确表达式,本质上遵循James(2005)中定理5.1中的论点,但略有修改。这是为了正式验证James(2005)提出的一个主张。
2005-03-16 math.PR math.ST q-fin.ST
A Note on the comparison of Nearest Neighbor Gaussian Process (NNGP) based models
本文比较了两种基于最近邻高斯过程(NNGP)的模型:响应NNGP模型和潜在NNGP模型。我们发现,基于Kullback-Leibler分歧(KL-D)的比较从NNGP为基础的模型,他们的父GP为基础的模型可以导致相反的结论在不同的参数空间。我们提出了一个启发式的解释的现象,即潜在的NNGP模型往往优于响应NNGP模型在逼近他们的父GP为基础的模型。
2018-11-09 math.ST stat.TH
Reply to on some problems in the article "Efficient likelihood estimation in state space models" by Cheng-Der Fuh [Ann, Statist. 34 (2006) 2026-2068]
这篇文章回答了Jensen博士(2010)对Fuh(2010)留下的问题2.3的评论。在下文中,我们使用与Fuh(2006)相同的符号和定义,除非另有说明。
2019-11-03 math.ST stat.TH