Parameter identifiability in a class of random graph mixture models
证明了一类随机图混合模型参数的可辨识性。这些模型的特征在于将图节点集划分为潜在（不可观察）组。当以被连接的节点的组为条件时，节点之间的连接性是独立的随机变量。在二进制随机图的情况下，其中边存在或不存在，这些模型被称为随机块模型，并已广泛用于社会科学，最近，在生物学中。他们的推广加权随机图，无论是在参数或非参数的形式，也在许多领域的兴趣。尽管广泛的应用，参数识别问题，这样的模型涉及，以前只在文献中被触及。我们在这里对这个问题进行彻底的调查。我们的工作也有后果的参数估计。特别是，由弗兰克和Harary提出的估计程序的二进制联系模型在这篇文章中被重新审视。
2010-06-04 math.ST stat.TH
Identifiability of Large Phylogenetic Mixtures for Many Phylogenetic Model Structures
该研究扩展了Rhodes和Sullivant的定理，证明了多种等变系统发育混合模型（如Jukes-Cantor、Kimura 2/3参数及Strand Symmetric模型）的可识别性，确保参数可从数据中唯一确定。
2025-08-07 math.AG math.CO math.ST
Identifiability of Large Phylogenetic Mixture Models
系统发育混合模型是考虑异质性的性状进化的统计模型。在一些未知的字符分区中的每个类可能通过不同的过程，甚至沿着不同的树进化。由于参数化的复杂性，这种模型的参数是否可识别的基本问题很难解决。我们分析了混合模型的大树，许多混合成分，表明数值和树参数确实是可识别的，在这些模型中，当所有的树是相同的。我们还探讨了在何种程度上，我们的代数技术可以扩展到不同的树木的混合物的结果。
2010-11-18 math.AG math.ST q-bio.PE
Learning Nonlinear Mixtures: Identifiability and Algorithm
University of Minnesota（明尼苏达大学）；Oregon State University（俄勒冈州立大学）；University of Virginia（弗吉尼亚大学）；University of Florida（佛罗里达大学）
线性混合模型已被证明在大量应用中非常有用，例如，主题建模、聚类和声源分离。作为线性混合模型的一个重要方面，模型参数的可辨识性在独立成分分析和约束矩阵分解等框架下得到了很好的研究。然而，当线性混合物被一个未知的非线性函数所扭曲时--这在许多情况下是很好的动机和更现实的--可识别性问题的研究要少得多。这项工作提出了一个非线性混合模型的识别准则，在许多现实世界的应用是很好的基础，并提供可识别性保证。提出了一种基于合理设计的神经网络的实用实现方法，并给出了一种有效的学习算法。合成和实际数据的数值结果证实了所提出的方法的有效性。
2019-01-06 cs.LG stat.ML
The identifiability of tree topology for phylogenetic models, including covarion and mixture models
为了使分子进化模型对系统发育推断有用，进化树的拓扑结构必须是可识别的。也就是说，从模型预测的联合分布中，必须有可能恢复树参数。我们为许多系统发育模型建立了树可识别性，包括协方差模型和具有有限数量类的各种混合模型。证明是基于引入一个更一般的模型，允许更多的国家在内部节点的树比在树叶，和研究的代数品种所形成的联合分布，它引起的。树的可识别性首先建立了这个一般模型，通过使用某些系统发育不变量。
2005-11-10 math.AG math.ST q-bio.PE
Identifiability of Normal and Normal Mixture Models With Nonignorable Missing Data
缺失数据问题出现在许多应用研究中。如果缺失机制是不可解释的，即缺失机制依赖于缺失值本身，甚至依赖于观测数据，则它们可能危及感兴趣模型的统计推断。由于机制的缺失，如果不进行进一步的假设，通常无法识别感兴趣的模型。我们发现，即使缺失的机制有一个已知的参数形式，该模型是不可识别的，而不指定一个参数的结果分布。虽然它是有效的统计推断的基础，不可否认的缺失机制下的可识别性并没有建立许多常用的模型。本文首先证明了单调缺失机制下正态分布的可识别性。然后，我们将其推广到正常的混合和$t$混合模型与非单调缺失机制。我们发现Logistic缺失机制下的模型比Probit缺失机制下的模型更难识别。给出了Logistic缺失机制下模型可辨识的充要条件，这些条件有时可以在实际数据分析中检验.我们使用一系列模拟来说明我们的方法，并将其应用于现实生活中的数据集。
2015-09-13 math.ST stat.AP stat.TH
Identifiability of Potentially Degenerate Gaussian Mixture Models With Piecewise Affine Mixing
University of Amsterdam（阿姆斯特丹大学）；Samsung AI Lab, Montreal（蒙特利尔三星人工智能实验室）；Saarland University & University of Amsterdam（萨尔州立大学与阿姆斯特丹大学）
本文研究了在分段仿射混合函数下，潜在退化高斯混合模型的可识别性问题，提出通过稀疏正则化和高斯性约束的两阶段方法来估计潜在变量。
2026-04-14 cs.AI cs.LG math.ST
On the identifiability of mixtures of ranking models
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Universität Duisburg-Essen（杜伊斯堡-埃森大学）；University of Cambridge（剑桥大学）
排序模型的混合是排序问题的标准工具。然而，即使是参数可识别性的基本问题还没有完全理解：具有两个Bradley-Terry-Luce（BTL）分量的混合模型的可识别性仍然是开放的。在这项工作中，我们表明，流行的混合排名模型与两个组成部分（BTL，多项逻辑模型与大小为3的石板，或Plackett-Luce）是一般可识别的，即，除了当它们来自测量零的病态子集时，可以识别地面实况参数。我们提供了一个框架，验证的解决方案的数量在一般家庭的多项式系统使用代数几何，并将其应用到这些混合物的排名模型，以建立通用的可识别性。该框架可以更广泛地应用于其他学习模型，并可能是独立的利益。
2022-05-24 cs.LG math.AG stat.ML
Strong identifiability and parameter learning in regression with heterogeneous response
本文研究有限回归混合模型在精确拟合、过度拟合及成分数未知时的强可辨识性、估计收敛速率与贝叶斯后验收缩，并通过模拟和实例说明参数学习行为。
2024-01-28 math.ST stat.ML stat.TH
Identifiability and consistency of network inference using the hub model and variants
统计网络分析主要关注于推断所观察网络的参数。在许多应用中，特别是在社会科学中，观察到的数据是由个体主体形成的群体。在这些应用中，网络本身就是统计模型的参数。Zhao和Weko（2019）提出了一种基于模型的方法，称为枢纽模型，用于从分组行为中推断隐式网络。中心模型假设组中的每个成员都是由称为中心的组中的成员聚集在一起的。枢纽模型属于伯努利混合模型族。Bernoulli混合模型的参数可辨识性是一个非常困难的问题。在较弱的条件下证明了轮毂模型参数的可辨识性和估计的相合性。此外，本文通过引入一个模型组件，允许hubless组中的各个节点自发地出现独立于任何其他个人，从而概括了枢纽模型。我们将这个附加组件称为空组件。新模型弥补了枢纽模型和退化混合模型--伯努利积之间的差距。证明了新模型的可辨识性和一致性。数值研究证明了理论结果。
2020-10-14 math.ST stat.ME stat.ML
Learning Mixtures of Smooth Product Distributions: Identifiability and Algorithm
University of Minnesota（明尼苏达大学）；University of Virginia（弗吉尼亚大学）
研究了非参数乘积分布混合模型的学习问题。学习混合模型的问题是使用从混合物生成的观察样本来找到成分分布以及混合权重。这个问题在参数设置中得到了很好的研究，即，当分量分布是参数族的成员时--例如高斯分布。在这项工作中，我们专注于非参数产品分布的多元混合物，并提出了一个两阶段的方法，恢复平滑条件下的混合物的成分分布。我们的方法建立在张量的典型多元（低秩）分解的可识别性属性的基础上，与来自信号处理的傅立叶和香农-奈奎斯特采样吻合。我们证明了该方法在合成和真实数据集上的有效性。
2019-04-02 cs.LG eess.SP stat.ML
Identifiability of parameters in latent structure models with many observed variables
虽然各种类型的隐类模型出现在许多统计应用中，但通常很难确定其参数的可识别性。专注于模型，其中有一些结构的独立性的一些观察到的变量的条件下隐藏的，我们展示了一个一般的方法，建立可识别性利用代数参数。Kruskal关于有限状态空间的简单隐类模型的一个定理是我们结果的核心，尽管我们将它应用于一组不同的模型。这些包括有限和非参数产品分布，隐马尔可夫模型和随机图混合模型的混合物，并导致一些新的结果和改进旧的。在参数设置中，这种方法表明，对于这样的模型，可识别性的经典定义通常太强。相反，泛型可识别性成立，这意味着不可识别参数集的测度为零，因此参数推断仍然有意义。特别是，这揭示了伯努利乘积的有限混合物的性质，尽管已知具有不可识别的参数，但伯努利乘积的有限混合物已经使用了几十年。在非参数设置，我们再次获得可识别性只有当某些限制被放置在混合的分布，但我们明确描述的条件。
2009-09-01 math.ST stat.TH
An Operator Theoretic Approach to Nonparametric Mixture Models
在估计有限混合模型时，通常会对混合成分进行假设，例如参数假设。在这项工作中，我们没有对混合成分进行分布假设，而是假设来自混合模型的观测是分组的，这样同一组中的观测就被认为是来自同一个混合成分。我们精确地描述了混合模型可识别所需的每组观测值$n$的数量，作为混合组分数量$m$的函数。除了我们的无障碍分析，我们还研究了设置的混合成分是线性独立的或联合不可约。此外，我们的分析考虑了两种可识别性-其中混合模型是解释数据的最简单的模型，并且它是唯一的模型。作为这些结果的应用，我们精确地刻画了多项混合模型的可辨识性。我们的分析依赖于一个运营商的理论框架，将混合模型在分组样本设置与某些无限维张量。基于这个框架，我们介绍了一般的光谱算法恢复的混合物成分，并说明其使用的合成数据集。
2016-10-13 math.ST stat.ML stat.TH
Beyond ICA: Identifiability by Symmetry Breaking
SANKEN, University of Osaka（大阪大学 SANKEN（大阪大学蛋白质研究所））
研究在纯无监督下证明带PWA解码器和GMM先验的DGM可识别性，引入三个代数对比原则，利用PWA与GMM结构作用，形成可识别性层次结构，允许不连续和非单射解码器，以代数对称性破缺为非线性可识别性引擎。
2026-11-10 cs.LG math.ST stat.ML
Synthetic Potential Outcomes and Causal Mixture Identifiability
Eric and Wendy Schmidt Center（埃里克和温迪·施密特中心）；Broad Institute of MIT and Harvard（麻省理工学院与哈佛大学布罗德研究所）；Laboratory for Information and Decision Systems（信息与决策系统实验室）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
该研究针对异质性数据的分组问题，提出基于干预因果响应的分组方式，通过可观测数据的高阶多线性矩从反事实分布合成采样，并构建了混合可识别性层级体系以明确因果混合与经典概念的关联。
2024-12-13 cs.LG econ.EM stat.ME
Identifiability of deep generative models without auxiliary information
University of Chicago（芝加哥大学）；Carnegie Mellon University（卡内基梅隆大学）
我们证明了广泛的一类深潜变量模型的可识别性，（a）具有普遍的近似能力和（b）是变分自编码器，在实践中常用的解码器。与现有的工作不同，我们的分析不需要弱监督，辅助信息，或在潜在的空间调节。具体来说，我们表明，广泛的一类生成（即无监督）模型与通用近似能力，侧信息$u$是没有必要的：我们证明了整个生成模型的可识别性，我们不观察$u$，只观察数据$x$。我们考虑的模型与实际使用的自动编码器架构相匹配，这些架构利用了潜在空间中的混合先验和编码器中的ReLU/leaky-ReLU激活，例如VaDE和MFC-VAE。我们的主要结果是一个可识别的层次结构，显着概括以前的工作，并暴露不同的假设如何导致不同的“实力”的可识别性，并包括某些“香草”VAE与各向同性高斯先验作为一个特例。例如，我们最弱的结果建立（无监督）的仿射变换的可识别性，从而部分解决了一个开放的问题，在以前的工作中提出的模型可识别性。这些理论结果与模拟和真实数据的实验增强。
2022-10-18 cs.AI cs.LG math.ST
Identifiability of a Markovian model of molecular evolution with Gamma-distributed rates
从生物序列中推断进化树和速率通常使用连续时间马尔可夫模型的字符变化。马尔可夫过程沿着一棵未知的树演化，而观测值仅从树的尖端产生。速率异质性存在于大多数真实数据集中，并通过使用灵活的混合模型来解释，其中每个站点都允许其自己的速率。很少已经严格建立有关的可识别性的模型，目前在数据分析中常用的，虽然不可识别性证明了半参数模型和一个不正确的证明可识别性公布的一般参数模型（GTR+伽玛+I）。在这里，我们证明了一个最广泛使用的模型（GTR+伽玛）是通用参数，并为所有参数选择的情况下，4-状态（DNA）模型。这是第一次证明系统发育模型的可识别性与连续分布的利率。
2008-02-01 math.ST q-bio.PE stat.TH
Learning Mixtures of Nonparametric and Convolutional Measures on Effectively Low-dimensional Affine Spaces
Duke University（杜克大学）；University of Michigan, Ann Arbor（密歇根大学安娜堡分校）
本文提出了一种有限混合卷积分布模型，用于分析近似分布在低维仿射子空间混合体上的连续数据，探讨了该类模型的可识别性和后验收缩速率，以及在子空间聚类中的应用。
2026-04-19 math.ST stat.TH
On the Identifiability and Interpretability of Gaussian Process Models
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
本文从理论上证明单输出高斯过程中 Matérn 核加性混合的光滑性由最不光滑分量决定且混合参数不可识别，而多输出乘性核中的协方差矩阵在相差常数倍意义下可识别，为不同任务的核结构选择提供了理论依据。
2023-10-25 cs.LG stat.ML
Convergence of latent mixing measures in finite and infinite mixture models
本文研究了在有限和无限混合模型中出现的潜在混合测度的收敛行为，使用运输距离（即，Wasserstein metrics）。混合测度空间上的Wasserstein距离与混合分布空间上的f-发散泛函（如Hellinger和Kullback-Leibler距离）之间的关系，利用各种可识别性条件进行了详细研究.离散度量的Wasserstein度量的收敛意味着为度量提供支持的单个原子的收敛，从而提供了通常采用混合模型的聚类应用中的聚类收敛的自然解释。对于多元分布的有限混合和基于Dirichlet过程的无限混合，建立了潜在混合测度的后验分布的收敛速度.
2013-04-09 math.ST stat.ML stat.TH
Bayesian heterogeneous copula mixtures with nonparametric margins: consistency, identifiability and tail asymmetry in physical fitness data
Shanghai University of Sport（上海体育大学）
本研究提出两阶段贝叶斯伪后验方法估计copula混合模型，证明其一致性与可识别性，并在体能数据中发现尾部不对称模式，优于高斯copula。
2026-10-07 stat.AP stat.CO stat.ME
From Shallow Bayesian Neural Networks to Gaussian Processes: General Convergence, Identifiability and Scalable Inference
Universidade do Estado de Minas Gerais (UEMG)（巴西米纳斯戈亚斯州大学）；Universidade Federal de Minas Gerais (UFMG)（巴西联邦大学矿务学院）
本文研究了浅层贝叶斯神经网络到高斯过程的收敛性，提出了一种新的协方差函数，并通过实验验证了其在可扩展推断中的有效性。
2026-02-26 cs.AI cs.LG stat.ML
Posterior Consistency in Parametric Models via a Tighter Notion of Identifiability
本文证明参数模型中仅需适度加强可识别性即可保证贝叶斯后验一致性，无需经典正则条件，并阐明贝叶斯与频率学派不一致性的不同机制。
2025-05-25 math.ST stat.TH
Regression models for binary data with scale mixtures of centered skew-normal link functions
针对二元回归中对称链接函数不适用及偏态链接函数可识别性问题，提出基于中心化参数化下偏态正态分布尺度混合的链接函数，并固定偏度符号，通过贝叶斯推断和模拟验证，应用于心脏病数据。
2024-07-20 stat.ME
Network Tomography: Identifiability and Fourier Domain Estimation
网络层析成像的统计问题是从测量模型$\mathbf{Y}=A\mathbf{X}$推断具有相互独立的分量的$\mathbf{X}$的分布，其中$A$是表示所考虑的网络的路由拓扑的给定二进制矩阵。挑战在于$\mathbf{X}$的维数比$\mathbf{Y}$的维数大得多，因此该问题通常被称为不适定。本文研究了网络断层扫描的一些统计问题。首先，我们解决了可识别性问题，并证明了$\mathbf{X}$分布是可识别的，在温和的条件下的移位参数。然后，我们使用的混合模型的特征函数，推导出一个快速算法估计的分布$\mathbf{X}$的基础上的一般方法的矩。通过广泛的模型仿真和真实的互联网跟踪驱动的仿真，所提出的方法被证明是有利的，相比以前的方法，使用简单的离散化推断链路延迟在异构网络。
2007-12-21 math.ST stat.AP stat.CO
Identifiability of two-component skew normal mixtures with one known component
本文给出了偏正态分布与一个已知分量的二元混合模型中混合比例估计的可辨识性条件。我们考虑了单变量情形以及两个多变量扩展：Azzalini和Dalla Valle（1996）的多变量偏态正态分布（MSN）和Arellano-Valle和Genton（2005）的典型基本偏态正态分布（CFUSN）。此外，还导出了CFUSN分布的特征函数。
2017-12-29 math.ST stat.TH
Bayesian Finite Mixtures of Ising Models
该研究提出伊辛模型有限混合模型以分析二元变量关联的多变量模式，探究其可识别性条件并构建贝叶斯拟合框架，经实验验证可有效用于稀疏二元列联表分析。
2023-04-30 stat.ME
Statistical Convergence of the EM Algorithm on Gaussian Mixture Models
研究了期望最大化（EM）算法在具有任意数量混合分量和混合权重的高斯混合模型上的收敛性。我们表明，只要组件的手段是分开的至少$Ω(\sqrt{\min\{M,d\}})$，其中$M$是组件的数量和$d$的尺寸，EM算法局部收敛到全局最优值的对数似然。此外，我们证明了收敛速度是线性的，并表征了全局最优值的吸引区域的大小。
2018-10-09 math.ST stat.TH
On the Identifiability of Regime-Switching Models with Multi-Lag Dependencies
Imperial College London（帝国理工学院）；University of Michigan（密歇根大学）
本文提出了一种通用理论框架，用于多滞后 regime-switching 模型的可识别性分析，涵盖了马尔可夫切换模型和切换动态系统，并通过实验验证了其在现实数据中的有效性。
2026-01-06 cs.LG stat.ML
Flexible Clustering for High-Dimensional Data via Mixtures of Joint Generalized Hyperbolic Models
针对高维数据的非对称聚类问题，提出了一种联合广义双曲分布的混合聚类算法。MJGHD方法考虑了集群特定的子空间，从而限制了要估计的参数的数量，同时也便于结果的可视化。可识别性进行了讨论，并概述了多周期ECM算法的参数估计。MJGHD的方法说明了两个真实的数据集，贝叶斯信息准则用于模型选择。
2018-01-06 stat.CO stat.ME
Coherent prior distributions in univariate finite mixture and Markov-switching models
有限混合和马尔可夫转换模型推广，因此，巢规格只有一个组件。在一般（混合）模型及其特殊（单组分）情况下指定先验时，可能需要确保引入两种结构的先验假设在嵌套模型中的先验分布相当于相关参数约束下混合模型中的条件先验的意义上是一致的。该研究提供了在贝叶斯单变量有限混合模型和马尔可夫转换模型中设置相干先验的基础。一旦一些主要的结果是交付，我们得到的情况下，通常从事贝叶斯建模的三种类型的连续先验的一致性的具体条件：正常的，反伽玛分布，和Γ分布。此外，我们研究了在混合模型的先验中引入额外约束（例如强制可识别性或某种规律性（例如二阶平稳性）的约束）对相干条件的影响。最后，通过讨论为一类马尔可夫切换AR（2）模型设置相干先验来说明该方法。
2013-09-03 math.ST stat.ME stat.TH
Adaptive Convergence Rates of a Dirichlet Process Mixture of Multivariate Normals
结果表明，一个简单的Dirichlet过程混合的多元常态提供贝叶斯密度估计与自适应后收敛速度。为此，一种新的非参数混合密度的筛子进行了探索，并证明了其率适应性的各种光滑类的密度在任意维。这种筛的建设，预计将提供一个实质性的技术进步，在研究贝叶斯非参数混合模型的基础上，棒断裂先验。
2011-11-17 math.ST stat.ME stat.TH
On the identifiability of Bayesian factor analytic models
因子分析模型中一个众所周知的可识别性问题是关于正交变换的不变性。这个问题加重了贝叶斯设置下的推断，其中使用马尔可夫链蒙特卡罗（MCMC）方法从后验分布生成样本。我们引入了一个后处理方案，以处理旋转，符号和排列不变性的MCMC样本。贡献算法的精确版本需要在每次（保留）MCMC迭代中求解$2^q$分配问题，其中$q$表示拟合模型的因子数。对于大量的因素，两个近似方案的模拟退火的基础上进行了讨论。我们证明，所提出的方法导致可解释的后验分布使用合成和公开可用的数据，从典型的因子分析模型以及混合因子分析。一个R包可在CRAN网页上在线获得。
2022-01-24 stat.CO stat.ME
Algebraic Identifiability of Gaussian Mixtures
证明了一元高斯混合函数的所有矩簇都具有期望维数。我们的方法依赖于相交理论和Terracini的分类缺陷表面。类似的可识别性结果被证明是错误的混合高斯在三维和更高。他们的时刻，以三阶定义投影品种是有缺陷的。我们的几何研究表明，扩展的Alexander-Hirschowitz定理Veronese品种的高斯设置。
2017-04-04 math.AG math.ST stat.TH
Global convergence analysis of mixtures of Exponential densities
Institute of Mathematics, École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院数学研究所）
本文证明EM算法在指数分布混合模型中以亚指数速率收敛，最多需log(n)次迭代，表明非高斯混合不影响EM统计性能。
2026-06-29 math.ST stat.TH
Learning an arbitrary mixture of two multinomial logits
Columbia University（哥伦比亚大学）
在本文中，我们考虑混合多项式逻辑模型（MNL），这是已知的$ε$-近似任何随机效用模型。尽管它有着悠久的历史和广泛的使用，严格的结果只适用于学习两个MNL的均匀混合。继续这条线的研究，我们研究的问题，学习任意混合的两个MNL。我们证明了混合模型的可辨识性只可能在可忽略测度的代数簇上失效。这是通过将学习两个MNL的混合物的问题简化为求解一元四次方程系统的问题来完成的。我们还设计了一个算法来学习任何混合物的两个MNL使用多项式数量的样本和线性数量的查询，提供了一个混合物的两个MNL在一些有限的宇宙是可识别的。文中还介绍了几个数值试验和计算结果。
2020-09-28 cs.CC cs.LG cs.SC
Convergence Analysis of Gradient EM for Multi-component Gaussian Mixture
University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文研究了高斯混合模型的梯度期望最大化算法\cite{lange1995gradient}在一般聚类数和混合系数下的收敛性。我们推导出的收敛速度依赖于混合系数，最小和最大成对的距离之间的真实中心和维数和组件的数量，并获得一个接近最优的局部收缩半径。虽然最近已经有一些值得注意的作品，得出EM在两个相等的混合对称GMM的局部收敛率，在更一般的情况下，推导需要结构上不同的和非平凡的参数。我们使用最近的学习理论和经验过程的工具，以实现我们的理论结果。
2017-12-04 cs.LG math.ST stat.TH
Gaussian Mixture Identifiability from degree 6 Moments
本文研究高维高斯混合由高阶矩恢复参数的可辨识性，证明一般情形下6阶矩可唯一恢复至多 $\mathcal{O}(n^4)$ 个分量，并说明4阶不足、5阶可能为最低要求。
2023-07-07 math.AG math.ST stat.TH
A maximum smoothed likelihood based estimation for two component semiparametric density mixtures with a known component
我们考虑两个单变量密度函数的半参数混合，其中一个是已知的，而重量和其他功能是未知的。这样的混合物具有应用于在两种或更多种条件下检测微阵列数据中差异表达基因的问题的历史。到目前为止，已经假设了关于未知组件的一些附加知识（例如，它属于位置族的事实）。与这种方法相反，我们不假设未知的密度函数上有任何额外的结构。对于这种混合模型，我们推导出一个新的充分可识别性条件，并查明了一类特定的分布描述的未知组件，这个条件是最满意的。我们的方法来估计这个模型是基于一个想法，适用于最大平滑似然，否则将是一个不适定的问题。我们引入了一种迭代MM（优化-最小化）算法来估计所有模型参数。我们建立了该算法具有下降属性的对数似然目标功能，并证明了该算法收敛到这样的目标功能的最小值。最后，我们还说明了我们的算法在模拟研究和使用一个真正的数据集的性能。
2017-07-29 math.ST stat.TH
Estimating the Number of Components in a Mixture of Multilayer Perceptrons
BIC准则被神经网络社区广泛用于模型选择任务，尽管其收敛性质并不总是在理论上成立。在本文中，我们将集中在多层感知器的混合估计的组件的数量，并证明在此框架下的BIC准则的收敛性。分别由Keribin（2000）和Gassiat（2002）引入的混合模型和隐马尔可夫模型的惩罚边缘似然被扩展到多层感知器的混合，并提出了惩罚似然准则。我们证明了它的收敛性的一些假设，其中涉及到广义得分函数类的括号熵，并说明了它的一些数值例子。
2008-04-04 math.ST stat.TH
Posterior convergence rates of Dirichlet mixtures at smooth densities
研究了正态分布的Dirichlet混合分布作为先验的贝叶斯密度估计的后验分布的收敛速度。假设真密度是连续可微的两倍。带宽由先验序列给出，该先验序列是通过按适当的顺序缩放单个先验而获得的。为了处理这个问题，我们推导出一个新的一般率定理，考虑可数覆盖的参数空间的先验概率满足可和性条件以及某些个人的界限上的Hellinger度量熵。我们应用这一新的一般定理后收敛速度计算界Hellinger（括号）熵数的参与类的密度，在一个光滑的密度的近似正常的混合物和浓度率的前。最好的可获得的收敛速率的后变成是等同于众所周知的频率论率的综合均方误差$n^{-2/5}$的对数因子。
2007-08-14 math.ST stat.TH
High dimensional Sparse Gaussian Graphical Mixture Model
University of Groningen（格罗宁根大学）
本文研究了基于高斯混合图模型（GGMM）的异构数据网络重构问题。众所周知，由于大量的变量与可能性的简并性，在这种情况下的参数估计是具有挑战性的。作为一种解决方案，我们提出了一个惩罚的极大似然技术施加$l_{1}$罚款的精度矩阵。我们的方法缩小了参数，从而导致更好的可识别性和变量选择。我们使用的期望最大化（EM）算法，其中包括图形LASSO估计的混合系数和精度矩阵。证明了在一定的正则条件下，惩罚极大似然（PML）估计是相容的.我们通过模拟展示了PML估计的性能，并展示了我们的方法在基因组应用中用于高维数据分析的实用性。
2013-10-05 cs.LG stat.ML
Moment Estimation for Nonparametric Mixture Models Through Implicit Tensor Decomposition
本文提出一种基于交替最小二乘和隐式张量分解的非参数混合模型矩估计方法，通过免张量运算实现高维高效计算，并给出可辨识性与局部线性收敛的理论保证。
2023-08-07 cs.NA math.NA stat.ML
Network Inference Using the Hub Model and Variants
本文研究从群体分组行为推断隐式网络的问题，证明hub模型参数的可识别性与一致性，并通过引入null组件推广模型以处理无hub群体，同时提出惩罚似然方法估计未知hub集。
2023-08-04 stat.ME
A Mixture of Coalesced Generalized Hyperbolic Distributions
本文提出了一种多尺度广义双曲分布的混合分布。然后，通过将广义双曲分布与多尺度广义双曲分布相结合，得到了一个合并广义双曲分布（CGHD）。在详细描述了MMSGHD的发展，这是通过实现一个多维的权重函数，CGHD的混合物的密度开发。提出了一种基于MM算法的参数估计方法，并采用贝叶斯信息准则进行模型选择。集群凸性的问题进行了研究和特殊情况下的MMSGHDs的开发，保证有凸集群。这些方法的说明和比较使用模拟和真实的数据。MMSGHD和CGHD的混合物的可识别性在附录中讨论。
2018-10-27 stat.ME
Prediction Markets as Bayesian Inverse Problems: Uncertainty Quantification, Identifiability, and Information Gain from Price-Volume Histories under Latent Types
Kosmos Ventures（科索莫斯风险投资）；MC SAS
本文将预测市场建模为贝叶斯反问题，通过分析价格-成交量历史推断事件结果，并研究不确定性量化、可识别性和信息增益。
2026-01-22 q-fin.MF stat.ML
Blocked Gibbs Sampling for Improved Convergence in Finite Mixture Models
针对有限混合模型中吉布斯采样收敛慢的问题，分析了离群观测潜变量的强相关性，提出分块采样方法以降低潜变量马尔可夫链自相关性，并通过仿真验证了效果。
2024-11-01 math.ST stat.CO stat.TH
Differential gene expression analysis via two-component mixture models with a semiparametric skew-normal scale mixture alternative
Pukyong National University（釜庆国立大学）；University of Queensland（昆士兰大学）
本文提出一种半参数混合模型，用于微基因表达分析，通过偏正态尺度混合替代处理偏态和厚尾问题，提高分析精度。
2026-03-17 stat.ME
Disentangling Mixtures of Unknown Causal Interventions
Microsoft Research（微软研究院）
在许多现实场景中，如基因敲除实验，靶向干预往往伴随着脱靶位点的未知干预。此外，不同的单位可以随机地暴露于不同的未知干预措施，从而产生干预措施的混合。识别这种混合物的不同成分在某些应用中可能非常有价值。出于这种情况下，在这项工作中，我们研究的问题，确定所有组件存在于一个给定的因果贝叶斯网络的混合干预。我们构造一个例子来说明，在一般情况下，组件是无法识别的混合分布。接下来，假设给定的网络满足一个正性条件，我们证明了，如果一组混合成分满足一个温和的排斥假设，那么它们可以被唯一识别。我们的证明给出了一个有效的算法来恢复这些目标的指数大搜索空间的可能目标。在更现实的情况下，分布是通过大量的样本，我们进行了模拟研究，分析来自我们的可识别性证明的算法的性能。
2022-10-01 cs.AI cs.LG stat.ML
Identifying Mixtures of Mixtures Using Bayesian Estimation
在基于模型的聚类中使用有限混合的正态分布允许捕获非高斯数据聚类。然而，从正常分量中识别聚类是具有挑战性的，并且通常通过对模型施加约束或通过使用后处理过程来实现。在贝叶斯框架内，我们提出了一种不同的方法，基于稀疏有限混合物，以实现可识别性。我们指定了一个分层的先验，其中超参数是精心选择的，这样它们就可以反映目标的集群结构。此外，该先验允许使用标准MCMC采样方法来估计模型。结合解决标签切换问题并导致识别模型的后处理方法，我们的方法允许同时（1）确定聚类的数量，（2）使用有限的法线混合以半参数方式灵活地近似聚类分布，以及（3）识别特定于聚类的参数并对观察结果进行分类。所提出的方法是说明在两个模拟研究和基准数据集。
2016-06-20 stat.ME
Moment Identifiability of Homoscedastic Gaussian Mixtures
本文研究了同方差高斯混合的矩可识别性，通过分析矩流形和割线流形，确定了在不同成分数情况下参数恢复的方法和理论依据。
2020-05-15 math.AG math.ST stat.TH
Clustering Data with Nonignorable Missingness using Semi-Parametric Mixture Models
我们关注的是聚类连续数据集受到不可分割的缺失。我们进行聚类与特定的半参数混合，在给定的组件的条件独立的假设下。混合模型用于聚类，而不是用于估计全部变量（观察到的和未观察到的）的密度，因此我们不需要对成分分布进行其他假设，也不需要指定缺失机制。估计是通过最大限度地扩大平滑的可能性，允许遗漏。这种优化是通过一个优化-最小化算法。我们通过数值实验说明了我们的方法的相关性。在温和的假设下，我们证明了模型的可识别性，定义了观测数据的分布和算法的单调性。我们还提出了一个扩展的混合类型的数据，我们说明了一个真正的数据集的情况下，这种新方法。
2021-07-16 stat.ME
Overfitting Bayesian Mixtures of Factor Analyzers with an Unknown Number of Components
过拟合贝叶斯混合模型的最新进展提供了一个坚实的和直接的方法来推断潜在的聚类数和模型参数在异构数据集。这种框架的适用性聚类相关的高维数据证明。为了这个目的，一个过拟合的混合因素分析仪的介绍，假设因素的数量是固定的。采用马尔可夫链蒙特卡罗（MCMC）抽样器结合先验并行回火方案估计模型参数的后验分布。使用信息准则估计因子的最佳数目。与标签切换问题相关的可识别性问题通过重新标记算法对模拟MCMC样本进行后处理来处理。该方法是基准对国家的最先进的软件，极大似然估计的混合物的因素分析，使用广泛的模拟研究。最后，该方法的适用性说明在公开可用的数据。
2018-02-26 stat.ME
Dis-entangling Mixture of Interventions on a Causal Bayesian Network Using Aggregate Observations
Adobe Research（奥多比研究院）；IIT Kharagpur（印度理工学院卡哈拉格普尔分校）；IIT Guwahati（印度理工学院古瓦哈提分校）；IIT Delhi（印度理工学院德里分校）
我们研究的问题，分离的混合分布，所有这些都来自一个已知的因果贝叶斯网络的干预。给定oracle访问网络上干预产生的所有分布的边缘，以及混合分布的边缘估计，我们希望恢复不同混合成分的混合比例。我们表明，在最坏的情况下，混合比例不能确定仅使用边缘。如果确切的边际的混合分布是已知的，在一个简单的假设下，排除一些分布的混合，我们表明，混合比例变得可识别。我们的可识别性证明是建设性的，并给出了一个有效的算法恢复混合比例准确。当精确的边缘不可用时，我们设计了一个优化框架来估计混合比例。我们的问题是从电子商务业务的真实场景中激发出来的，在给定的时间内发生多个干预，导致预期指标的偏差。我们进行实验，众所周知的公开可用的报警网络和专有数据集从一个大型电子商务公司验证我们的方法的性能。
2020-01-15 cs.AI cs.LG stat.ML
