Identifiability and Information-Based Inference for Epidemic Transmission Models Under Partial Observation
University of Staffordshire(斯塔福德郡大学)
研究部分观测下流行病传播模型的可识别性与推断,建立统一框架,推导信息矩阵,量化信息损失,研究观测因素对参数估计的影响,为评估监测策略提供依据,模拟验证框架准确性,奠定统计推断理论基础。
2026-07-28 math.ST stat.TH
On the Identifiability of Latent Class Models for Multiple-Systems Estimation
潜在类模型最近在人权应用中的多系统估计中变得流行。然而,目前还不知道在这种情况下,一个给定的家庭的潜在类模型是可识别的。我们提供了充要条件和充分条件的数量所需的一个家庭的潜在类模型是可识别的潜在类。一路上,我们提供了一种机制,用于验证一类多系统估计模型,允许个人异质性的可识别性。
2020-08-22 math.ST stat.ME stat.TH
Statistical Inference for Covariate-Adjusted and Interpretable Generalized Factor Model with Application to Testing Fairness
Faculty of Business and Economics, University of Hong Kong(香港大学工商管理学院);Department of Statistics, University of Michigan(密歇根大学统计系)
本文提出了一种具有协变量调整和可解释性的广义因子模型,用于评估教育测试的公平性,并通过实验证明了其有效性。
2026-01-09 stat.ME
Identifiability of directed Gaussian graphical models with one latent source
研究了具有一个潜变量的有向高斯图模型的参数可辨识性。在我们考虑的场景中,潜变量是一个混淆因素,它形成了图的源节点,并且是所有其他节点的父节点,这些节点对应于观察到的变量。我们给出了一个图形条件,这是充分的雅可比矩阵的参数化映射是满秩的,这意味着参数化是一般有限到一个,有时也被称为局部可识别性的事实。我们还推导出一个图形的条件,是必要的,这样的可识别性。最后,我们给出了一个条件,在此条件下,一般参数的可识别性可以确定与一个子图的模型的可识别性。这些标准的力量进行评估,通过一个详尽的代数计算研究模型与4,5,和6个可观察的变量。
2015-05-07 math.ST stat.TH
Partial Identifiability of Restricted Latent Class Models
隐类模型在社会科学和生物科学中有着广泛的应用。在许多应用中,通过设计矩阵对潜在类别模型的参数空间施加预先指定的限制,以反映从业者关于观察到的反应如何取决于受试者的潜在特质的假设。尽管这种受限潜在类模型在各个领域得到了广泛的应用,但由于其离散性和复结构的复杂性,其存在不可识别性。这项工作解决了基本的可识别性问题的限制潜在类模型的模型参数的严格和部分可识别性开发一个通用框架。在正确的模型规格下,所开发的可辨识性条件仅依赖于设计矩阵,并且易于检验,这为设计统计上有效的诊断测试提供了有用的实用指南。此外,新的理论框架被应用于建立,第一次,从认知诊断应用程序的几个设计的可识别性。
2019-05-31 math.ST stat.AP stat.TH
Factor-Assisted Density Estimation: When Ambient Dimension Enables Oracle Rates
Duke University(杜克大学)
该研究针对高维因子模型的密度估计问题,提出因子辅助密度估计(FADE)方法,证明其在足够高的环境维度下可达到神谕速率,确立了其速率最优性,证实了环境维度的优势。
2026-10-16 math.ST stat.TH
Bayesian Pyramids: Identifiable Multilayer Discrete Latent Structure Models for Discrete Data
高维分类数据是生物医学和社会科学中的常规数据。建立可解释的简约模型,进行降维,并从这些离散数据中发现有意义的潜在结构是非常重要的。可识别性是在这种情况下进行有效建模和推理的基本要求,但当存在复杂的潜在结构时,解决这一问题具有挑战性。在这篇文章中,我们提出了一类可识别的多层(潜在的深)离散的潜在结构模型的离散数据,称为贝叶斯金字塔。我们建立了贝叶斯金字塔的可识别性,通过开发新的透明条件,对深潜有向图的形状。所提出的可辨识性条件能够在适当的先验条件下保证贝叶斯后验一致性。作为一个例子,我们考虑两个潜在层模型,并提出了贝叶斯收缩估计方法。该模型的仿真结果证实了模型参数的可辨识性和可估计性。DNA核苷酸序列数据的方法的应用程序发现有用的离散的潜在功能,是高度预测的序列类型。该框架为离散数据的可解释无监督学习提供了一种方法,并且可以成为流行的机器学习方法的有用替代方案。
2023-01-30 math.ST stat.ME stat.TH
Half-Trek Criterion for Identifiability of Latent Variable Models
本文考虑了具有潜在变量的线性结构方程模型,并根据观测的协方差阵,提出了一个判定可观测变量之间的直接因果关系是否可识别的准则。线性结构方程模型假设观测变量和潜变量都求解一个具有随机噪声项的线性方程系统。每个模型对应于一个有向图,其边表示作为方程系统中的系数出现的直接效应。先前的研究已经开发了各种方法来确定潜在投影框架中的直接效应的可识别性,其中潜在变量的混杂效应由噪声项之间的相关性表示。这种方法是有效的,当混杂是稀疏的,只影响观察变量的一小部分。相比之下,我们在本文中开发的新的潜在因素half-trek标准(LF-HTC)在原始的未投影的潜变量模型上运行,并且能够证明设置中的可识别性,其中一些潜变量也可能对许多甚至所有的可观测量产生密集的影响。我们的LF-HTC是一个有效的合理可识别性的充分准则,在该准则下,直接效应可以唯一地恢复为观测随机变量的联合协方差阵的有理函数。当限制LF-HTC中的搜索步骤以考虑有界大小的潜变量的子集时,可以在时间上验证该准则在图的大小上是多项式的。
2022-08-12 math.ST stat.TH
On the Identifiability of Latent Models for Dependent Data
参数可辨识性条件对于所有估计量的一致性是必不可少的,并且通常很难证明。因此,为了简单起见,通常假设该条件,尽管对于各种模型设置,这可能不是直接假设的。在本文中,我们处理一类特殊的模型,我们称之为“潜在”的模型,可以定义为模型的总和的基础模型,如各种线性状态空间模型的时间序列。这些模型是非常重要的,在许多领域,从生态工程,在本文中,我们证明了广泛的一类(二阶平稳)潜在的时间序列和空间模型的可识别性,并讨论这意味着一些极值估计,从而减少了他们的一致性的条件,一些非常基本的规则性条件。最后,一个具体的重点是广义小波矩估计方法,也能够估计内在的二阶平稳模型。
2016-07-20 math.ST stat.TH
Sufficient and Necessary Conditions for the Identifiability of DINA Models with Polytomous Responses
本文针对现有多分类响应认知诊断模型可识别性研究不足的问题,给出了广泛使用的多分类响应DINA模型可识别性的充分必要条件,为该领域的参数估计和统计推断提供理论支撑。
2024-02-22 math.ST stat.ME stat.TH
Identifiability of Partial-Mastery Cognitive Diagnostic Models
Institute of Computer Science of the Czech Academy of Sciences(捷克科学院计算机科学研究所);Faculty of Education, Charles University(查理大学教育学院)
研究部分掌握认知诊断模型的可识别性,通过符号计算、实分析和代数统计工具,推导可识别性充分条件,证明局部属性可推出项目参数等的有限到一可识别,为该模型的估计和推断奠定理论基础。
2026-07-21 math.ST stat.TH
When Is Next-Token Prediction Useful? Marginalization, Ergodicity, Mixture Identifiability, Local Sufficiency, RAG, Tools, and Programming
本文通过区分完整条件语言过程、边缘文本过程和模型诱导分布,论证了下一个词预测的有效性依赖于强假设(平稳性、代表性、遍历性)以及观察前缀对潜在上下文的充分性,并解释了RAG和工具使用作为条件充分性机制的作用。
2026-05-29 cs.CL stat.ML
Identifiability of parameters in latent structure models with many observed variables
虽然各种类型的隐类模型出现在许多统计应用中,但通常很难确定其参数的可识别性。专注于模型,其中有一些结构的独立性的一些观察到的变量的条件下隐藏的,我们展示了一个一般的方法,建立可识别性利用代数参数。Kruskal关于有限状态空间的简单隐类模型的一个定理是我们结果的核心,尽管我们将它应用于一组不同的模型。这些包括有限和非参数产品分布,隐马尔可夫模型和随机图混合模型的混合物,并导致一些新的结果和改进旧的。在参数设置中,这种方法表明,对于这样的模型,可识别性的经典定义通常太强。相反,泛型可识别性成立,这意味着不可识别参数集的测度为零,因此参数推断仍然有意义。特别是,这揭示了伯努利乘积的有限混合物的性质,尽管已知具有不可识别的参数,但伯努利乘积的有限混合物已经使用了几十年。在非参数设置,我们再次获得可识别性只有当某些限制被放置在混合的分布,但我们明确描述的条件。
2009-09-01 math.ST stat.TH
Beyond Degree: Rooted Motif Signatures for Latent Position Identifiability in Graphon Models
Sorbonne Université(索邦大学);Université Paris Cité(巴黎西岱大学);CNRS(法国国家科学研究中心);Laboratoire de Probabilités, Statistique et Modélisation(概率、统计与建模实验室);MIA AgroParisTech(农业巴黎高等师范学院数学与信息科学研究所);INRAE(法国国家农业、食品与环境研究院);Université Paris-Saclay(巴黎萨克雷大学)
针对图模型潜在位置不可识别问题,提出根植模体签名作为高阶节点表示,证明在有限秩图模型中能区分连接性,并给出统计估计与浓度界。
2026-07-03 math.ST stat.TH
Multi-Channel Factor Analysis: Identifiability and Asymptotics
本文研究了多通道因子分析(MFA)模型,验证了其协方差模型,获得了通用全局可识别性的充分条件,并证明在高斯似然下即使潜在因子分布误设,估计量仍具一致性和渐近正态性。
2024-07-26 eess.SP math.ST stat.TH
Identifiability of Bifactor Models
双因素模型及其扩展是多维潜变量模型,在该模型下,每个项目测量主维度之上的一个子维度。尽管其广泛应用于教育和心理评估,这种类型的多维潜变量模型可能遭受不可识别性,这可能进一步导致不一致的参数估计和无效的推理。目前的工作提供了一个比较完整的可识别性的线性和二分双因子模型和线性扩展的双因子模型与相关的子维。此外,两层模型也得到了类似的结果。最后给出了通过检验因子加载结构来检验模型可辨识性的实例。模拟研究报告,检查估计的一致性时,可识别性条件/不满足。
2020-12-22 math.ST stat.AP stat.TH
Sufficient and Necessary Conditions for the Identifiability of the $Q$-matrix
限制潜在类模型(RLCMs)最近在教育评估,精神病评估和医疗诊断中获得了突出地位。与传统的潜在类模型不同,RLCM模型参数的限制是由一个设计矩阵,以尊重从业者的科学假设。设计矩阵,在认知诊断文献中称为$Q$ -矩阵,通常由从业者和领域专家构建,但它是主观的,并且可能被错误指定。为了解决这个问题,研究人员提出了从数据中估计$Q$ -矩阵。另一方面,$Q$ -矩阵和模型参数的基本可学习性问题仍然未被充分探索,现有的研究往往强加比所需的更强甚至不切实际的条件。本文给出了不同类型RLCM下$Q$ -矩阵与RLCM模型参数联合可辨识的充分条件和必要条件。所提出的可辨识性条件仅依赖于设计矩阵,易于在实际中验证。
2019-04-08 math.ST stat.TH
Beyond ICA: Identifiability by Symmetry Breaking
SANKEN, University of Osaka(大阪大学 SANKEN(大阪大学蛋白质研究所))
研究在纯无监督下证明带PWA解码器和GMM先验的DGM可识别性,引入三个代数对比原则,利用PWA与GMM结构作用,形成可识别性层次结构,允许不连续和非单射解码器,以代数对称性破缺为非线性可识别性引擎。
2026-11-10 cs.LG math.ST stat.ML
Identifiability of Potentially Degenerate Gaussian Mixture Models With Piecewise Affine Mixing
University of Amsterdam(阿姆斯特丹大学);Samsung AI Lab, Montreal(蒙特利尔三星人工智能实验室);Saarland University & University of Amsterdam(萨尔州立大学与阿姆斯特丹大学)
本文研究了在分段仿射混合函数下,潜在退化高斯混合模型的可识别性问题,提出通过稀疏正则化和高斯性约束的两阶段方法来估计潜在变量。
2026-04-14 cs.AI cs.LG math.ST
Identifiability Guarantees for Causal Disentanglement from Soft Interventions
Broad Institute of MIT and Harvard(麻省理工学院与哈佛大学布罗德研究所);Laboratory for Information and Decision Systems, MIT(麻省理工学院信息与决策系统实验室);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);IBM Research(IBM研究院);Google Research(谷歌研究院)
该研究针对潜因果变量不可观测的因果解缠场景,在广义忠实性假设下证明了可识别性,开发自编码变分贝叶斯算法实现框架,可在无限数据下恢复等价类潜因果模型并预测组合干预效果,已应用于基因组学组合扰动效应预测。
2023-11-09 cs.LG math.ST stat.ME
Identifiability of deep generative models without auxiliary information
University of Chicago(芝加哥大学);Carnegie Mellon University(卡内基梅隆大学)
我们证明了广泛的一类深潜变量模型的可识别性,(a)具有普遍的近似能力和(b)是变分自编码器,在实践中常用的解码器。与现有的工作不同,我们的分析不需要弱监督,辅助信息,或在潜在的空间调节。具体来说,我们表明,广泛的一类生成(即无监督)模型与通用近似能力,侧信息$u$是没有必要的:我们证明了整个生成模型的可识别性,我们不观察$u$,只观察数据$x$。我们考虑的模型与实际使用的自动编码器架构相匹配,这些架构利用了潜在空间中的混合先验和编码器中的ReLU/leaky-ReLU激活,例如VaDE和MFC-VAE。我们的主要结果是一个可识别的层次结构,显着概括以前的工作,并暴露不同的假设如何导致不同的“实力”的可识别性,并包括某些“香草”VAE与各向同性高斯先验作为一个特例。例如,我们最弱的结果建立(无监督)的仿射变换的可识别性,从而部分解决了一个开放的问题,在以前的工作中提出的模型可识别性。这些理论结果与模拟和真实数据的实验增强。
2022-10-18 cs.AI cs.LG math.ST
Unfolding Tensors to Identify the Graph in Discrete Latent Bipartite Graphical Models
Columbia University(哥伦比亚大学)
本文通过张量展开技术,为离散二部图模型提出构造性可识别性证明,可同时输出潜在变量数与二部图,允许非线性依赖,条件仅需每个潜在变量连接至少两个纯观测变量。
2025-01-18 cs.LG math.ST stat.TH
Characterizing Identifiability in Boolean Factor Models
University of Michigan(密歇根大学)
本文提出基于哈斯图的方法,将布尔因子模型的图形可辨识性转化为图同构问题,建立无需纯节点的充分必要条件,并开发SAT验证算法,显著拓宽可辨识模型类别。
2026-10-05 math.ST stat.ME stat.TH
Statistical analysis of block structured latent variable models
Department of Statistics, University of Michigan(密歇根大学统计系)
本文针对各领域广泛应用但统计特性未被充分研究的块结构隐变量模型,推导其可识别性条件,提出拉格朗日型优化公式,建立估计量的误差界与渐近分布,经模拟和实证分析验证了理论结果。
2026-08-12 math.ST stat.ME stat.TH
Identifiability of Product of Experts Models
California Institute of Technology(加州理工学院)
本文研究专家乘积模型的可辨识性,证明在潜变量均匀分布时所需观测数等于参数数,任意分布时仍为线性,依赖根交错现象。
2023-10-13 cs.LG math.AG math.ST
Parameter identifiability in a class of random graph mixture models
证明了一类随机图混合模型参数的可辨识性。这些模型的特征在于将图节点集划分为潜在(不可观察)组。当以被连接的节点的组为条件时,节点之间的连接性是独立的随机变量。在二进制随机图的情况下,其中边存在或不存在,这些模型被称为随机块模型,并已广泛用于社会科学,最近,在生物学中。他们的推广加权随机图,无论是在参数或非参数的形式,也在许多领域的兴趣。尽管广泛的应用,参数识别问题,这样的模型涉及,以前只在文献中被触及。我们在这里对这个问题进行彻底的调查。我们的工作也有后果的参数估计。特别是,由弗兰克和Harary提出的估计程序的二进制联系模型在这篇文章中被重新审视。
2010-06-04 math.ST stat.TH
Diverse Dictionary Learning
CMU(卡内基梅隆大学);MBZUAI(马克斯·普朗克人工智能研究所);NYU(纽约大学)
本文提出多样字典学习问题,探讨在无法完全辨识的情况下,如何通过集合运算恢复潜在变量的结构,并展示其在合成和真实数据中的有效性。
2026-04-19 cs.LG math.ST stat.ML
Nonnegative matrix factorizations and related compositional models: Equivalence, identifiability, and an application on the grain-size analysis of sediments
Hangzhou Dianzi University, China(杭州电子科技大学);Utrecht University, the Netherlands and University of Southampton, UK(乌得勒支大学和南安普顿大学)
本文综述了非负矩阵分解、偏最小二乘分析等五个模型,聚焦于其可识别性问题,并证明了这些模型解的唯一性与NMF的解唯一性相关。
2026-09-16 cs.LG math.OC math.ST
Learning Linear Causal Representations from Interventions under General Nonlinear Mixing
Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Carnegie Mellon University(卡内基梅隆大学);University of Chicago(芝加哥大学)
针对高斯潜变量经任意非线性混合的场景,本文证明未知单节点、非配对干预下的因果表示可识别性,并提出对比学习算法识别潜在变量。
2023-12-18 cs.AI cs.LG math.ST
When are Overcomplete Topic Models Identifiable? Uniqueness of Tensor Tucker Decompositions with Structured Sparsity
University of California, Irvine(加州大学欧文分校);Microsoft Research New England(微软新英格兰研究院)
本文研究了过完备主题模型在特定阶可观察矩下的可识别性,提出通过结构稀疏性约束实现张量Tucker分解的唯一性。
2013-08-13 cs.IR cs.LG cs.NA
Learning Topic Hierarchies by Tree-Directed Latent Variable Models
本文提出基于有根有向树结构约束LDA的潜变量主题模型,建立数学框架证明潜在主题层次的可识别性并推导后验收缩率界限,通过模拟和《纽约时报》数据验证了其有效性与实用性。
2024-08-26 math.ST stat.TH
Beyond independent component analysis: identifiability and algorithms
Harvard University(哈佛大学);Barcelona School of Economics(巴塞罗那经济学院)
本研究证明成对均值独立性是ICA可放宽独立性的极限,提出基于正交群最小二乘的恢复算法,实验显示其比完全独立性更稳健。
2025-10-08 cs.LG math.ST stat.ML