Mixture Models and Networks -- Overview of Stochastic Blockmodelling
混合模型是一种概率模型，旨在发现和表示群体中的潜在子群。在网络数据分析领域，节点的潜在子组通常通过其连接行为来识别，其中行为相似的节点属于同一社区。在这种情况下，混合建模是通过随机块建模。我们考虑随机块模型和他们的一些变种和扩展从混合建模的角度来看。我们还调查了一些主要类别的估计方法，并提出了一种替代方法。除了讨论推理特性和估计过程外，我们还重点讨论了模型在几个真实网络数据集上的应用，展示了不同方法的优点和缺陷。
2020-05-26 stat.AP stat.ME
Evidence estimation in finite and infinite mixture models and applications
对于有限和无限混合模型，估计模型证据或数据的边际似然性是一项非常困难的任务，我们在这里重新审视了最近文献中提倡的不同Monte Carlo技术，以及基于Geyer（1994）反向逻辑斯谛回归技术，Chib（1995）算法和序贯蒙特卡罗（SMC）的新方法。应用程序很多。特别是，测试有限混合模型中的组分数量或针对给定数据集的有限混合模型的拟合长期以来一直是并且仍然是非常感兴趣的问题，尽管还没有完全令人满意的解决方案。已知使用贝叶斯因子来找到有限混合模型中的正确分量数K提供了一致的过程。此外，我们建立的贝叶斯因子的一致性进行比较时，对非参数的“强可识别的”狄利克雷过程混合（Dirichlet Process Mixture）模型的参数族的有限混合物。
2022-05-11 math.ST stat.CO stat.TH
Distributed Bayesian clustering using finite mixture of mixtures
在许多现代应用中，人们对分析无法轻松跨计算机移动或加载到单个计算机上的存储器中的庞大数据集感兴趣。在这种情况下，对集群感兴趣是非常普遍的。现有的分布式聚类算法大多是基于距离或密度的，没有可能性规范，排除了正式的统计推断的可能性。基于模型的聚类允许统计推断，但分布式推断的研究强调非参数贝叶斯混合模型的有限混合模型。为了填补这一空白，我们引入了一个几乎并行的算法下的贝叶斯过拟合有限混合高斯混合，我们的分布式贝叶斯聚类（DIB-C）的聚类。DIB-C可以灵活地适应各种形状的数据集（例如倾斜或多模态）。随着数据的随机划分和分布，我们首先运行马尔可夫链蒙特卡罗在一个非常并行的方式来获得本地聚类绘制，然后细化跨工人的最终聚类估计的基础上的任何损失函数的空间分区。DIB-C还可以估计聚类密度，快速对新对象进行分类，并提供后验预测分布。仿真研究和实际数据的应用表明，优越的性能DIB-C的鲁棒性和计算效率。
2020-05-14 stat.CO stat.ME
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent（腾讯）；University College Dublin（都柏林大学学院）；Trinity College Dublin（都柏林圣三一学院）
针对贝叶斯层次混合聚类（BHMC）高层节点分离度弱的问题，提出对各层节点施加最大间隔约束的后验正则化方法，有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
Parameter identifiability in a class of random graph mixture models
证明了一类随机图混合模型参数的可辨识性。这些模型的特征在于将图节点集划分为潜在（不可观察）组。当以被连接的节点的组为条件时，节点之间的连接性是独立的随机变量。在二进制随机图的情况下，其中边存在或不存在，这些模型被称为随机块模型，并已广泛用于社会科学，最近，在生物学中。他们的推广加权随机图，无论是在参数或非参数的形式，也在许多领域的兴趣。尽管广泛的应用，参数识别问题，这样的模型涉及，以前只在文献中被触及。我们在这里对这个问题进行彻底的调查。我们的工作也有后果的参数估计。特别是，由弗兰克和Harary提出的估计程序的二进制联系模型在这篇文章中被重新审视。
2010-06-04 math.ST stat.TH
An approximate Bayesian marginal likelihood approach for estimating finite mixtures
当混合分布的支持未知时，有限混合模型的估计是一个重要的问题。本文提出了一种新的基于边际似然的未知支持度估计方法。受贝叶斯Dirichlet先验模型的启发，提出了一种计算效率高的边际似然随机逼近形式，并给出了大样本理论。通过将支持度限制在有限网格上，采用模拟退火方法来最大化边际似然并估计支持度。实际和模拟数据的例子表明，这种新的随机逼近-模拟退火过程优于现有的方法。
2012-02-13 stat.CO stat.ME
Is infinity that far? A Bayesian nonparametric perspective of finite mixture models
混合模型是处理异质总体数据时最广泛使用的统计工具之一。本文考虑了长期存在的争论有限的混合物和无限的混合物，并带来了两个建模策略在一起，通过显示，有限的混合物只是一个点过程的实现。在贝叶斯非参数的视角下，我们引入了一类新的先验：归一化独立点过程。我们研究这个新类的概率性质。此外，我们设计了一个有限混合模型的条件算法与一个随机数的组件克服与可逆跳跃计划和最近提出的边际算法的挑战。我们用真实数据说明了我们的模型，并讨论了群体遗传学中的重要应用。
2019-04-22 math.ST stat.CO stat.ME
Spatial Clustering Regression of Count Value Data via Bayesian Mixture of Finite Mixtures
本文提出贝叶斯有限混合之混合空间聚类回归模型，利用 Markov 随机场先验识别 Poisson 回归系数的空间同质性，并辅以理论、MCMC 算法、模拟和佐治亚州数据验证。
2023-06-04 stat.AP stat.CO stat.ME
Online Inference for Mixture Model of Streaming Graph Signals with Non-White Excitation
本文考虑了一个多图推理和聚类的联合问题，同时推理节点的中心性和图信号与它们的图的关联。我们研究了一种混合模型的滤波低通图信号与可能的非白色和低秩的激励。虽然混合模型的动机来自实际场景，但它对现有的图学习方法提出了重大挑战。作为一种补救措施，我们考虑一个推理问题集中在节点中心图。我们设计了一个期望最大化（EM）算法与一个独特的低秩加稀疏先验低通信号的性质。我们提出了一种新的在线期望最大化算法的推理流数据。作为一个例子，我们扩展了在线算法，以检测信号是否从异常图中生成。我们表明，所提出的算法收敛到一个平稳点的最大后验（MAP）问题。数值实验支持我们的分析。
2022-07-28 eess.SP stat.ML
Exact two-stage finite-mixture representations for species sampling processes
本文提出了一种精确的两阶段有限混合表示，用于物种采样过程，通过隐含的截断指数和简单的重新加权，实现了对任意规范物种采样过程的精确构造，并展示了其在后验推断中的应用。
2026-04-09 math.ST stat.CO stat.ME
A Bayesian mixture model for Poisson network autoregression
本文提出贝叶斯泊松网络自回归混合模型（PNARM），结合网络结构稀疏性与节点聚类，用于多元计数时间序列建模，并通过MCMC推断在爱尔兰COVID-19数据上验证。
2024-11-21 stat.ME
Bayesian Measurement Error Models Using Finite Mixtures of Scale Mixtures of Skew-Normal Distributions
我们提出了一个建议，以处理的非正态性问题的背景下，测量误差的回归模型的响应和解释变量的观察误差。我们扩展了正态模型的未观察到的协变量和随机误差的斜正态分布的规模混合的有限混合联合建模。这种方法使我们能够以极大的灵活性对数据进行建模，适应偏斜，重尾和多模态。
2020-07-26 stat.AP stat.ME
Inferring Hierarchical Mixture Structures: A Bayesian Nonparametric Approach
Insight Centre for Data Analytics（洞察数据分析中心）；University College Dublin（都柏林大学）；Maynooth University（梅努斯大学）
本文主要研究数据集的层次非重叠聚类问题。在这样的聚类中，每个数据项与恰好一个叶节点相关联，并且每个内部节点与存储在其下的子树中的所有数据项相关联，使得层次结构的每个级别对应于数据集的分区。提出了一种新的贝叶斯非参数方法，该方法结合了嵌套中餐厅过程（nCRP）和分层狄利克雷过程（HDP）。与其他现有的贝叶斯方法相比，我们的解决方案处理的数据与复杂的潜在的混合特征，以前没有在文献中探索。我们讨论的模型和推理过程的细节。此外，在三个数据集上的实验表明，与现有的算法相比，我们的方法取得了坚实的经验结果。
2021-05-25 cs.AI cs.LG stat.ML
On the Identifiability of Finite Mixtures of Finite Product Measures
研究了有限积测度的有限混合的可识别性问题。考虑了一个含有$K$混合组分和$L$观测变量的混合模型，其中每个观测变量取值于一个具有基数$M$的有限集中，在每个混合组分中观测变量是独立的.混合模型的可辨识性是指通过观测混合模型的混合分布来获得混合模型组分参数的可能性。本文通过引入强可分变量和弱可分变量两种可分性，研究了混合模型的可辨识性与其观测变量的可分离性之间的基本关系。粗略地说，当且仅当一个变量在不同的混合成分中的概率分布存在差异时，它才被称为可分的。证明了当强可分变量个数大于或等于$2K-1$，独立形式为$M$时，混料模型是可辨识的.这个基本的阈值被证明是紧的，其中一个家庭的非可识别的混合模型小于$2K-1$强可分离的变量提供。我们还表明，混合模型是可识别的，如果他们至少有$2K$弱可分离的变量。为了证明这些定理，我们引入了一个特殊的多项式，称为特征多项式，它将可识别性条件转化为多项式的身份，并允许我们构造一个归纳证明。
2018-07-14 math.ST stat.TH
An Overview of Semiparametric Extensions of Finite Mixture Models
有限混合模型在经济学、流行病学、金融学等许多科学领域已经成为研究复杂数据结构的重要工具。在过去的十年中，半参数技术被广泛地引入到传统的有限混合模型中，半参数混合模型在方法、理论和应用方面都取得了令人兴奋的发展。在这篇文章中，我们提供了一个新开发的半参数混合模型的选择性概述，讨论他们的估计方法，理论性质，如果应用，和一些开放的问题。最新的发展和一些开放的问题也进行了讨论。
2018-11-14 stat.ME
Bayesian Finite Mixtures of Ising Models
该研究提出伊辛模型有限混合模型以分析二元变量关联的多变量模式，探究其可识别性条件并构建贝叶斯拟合框架，经实验验证可有效用于稀疏二元列联表分析。
2023-04-30 stat.ME
From here to infinity - sparse finite versus Dirichlet process mixtures in model-based clustering
在基于模型的聚类中，混合模型用于将数据点分组到聚类中。Malsiner Walli等人（2016）为高斯混合引入的一个有用概念是稀疏有限混合，其中具有$K$分量的混合物的权重分布的先验分布以这样的方式选择，即数据中的聚类数量先验是随机的，并且允许以高概率小于$K$。然后从数据中推断出聚类的数量。本文在稀疏有限混合模型的背景下作出了以下贡献。首先，它说明了稀疏有限混合的概念是非常通用的，很容易扩展到聚类各种类型的非高斯数据，特别是离散数据和连续的多元数据所产生的非高斯集群。其次，稀疏有限的混合物相比，狄利克雷过程的混合物就其能力，以确定集群的数量。对于这两种模型类别，考虑了用于确定权重分布的参数的随机超先验。通过适当的匹配这些先验，它表明，这种超先验的选择是远比稀疏有限混合物或Dirichlet过程的混合物被考虑的集群解决方案的影响。
2018-08-22 stat.ME
Scalable Estimation of Dirichlet Process Mixture Models on Distributed Data
The Chinese University of Hong Kong（香港中文大学）
我们考虑的狄利克雷过程混合模型（DPMM）在分布式环境中，数据分布在多个计算节点的估计。贝叶斯非参数模型（如DPMM）的一个关键优势是，它们允许根据需要动态引入新组件。然而，这给分布式评估带来了一个重要的挑战--如何有效地和一致地处理新的组件。为了解决这个问题，我们提出了一种新的估计方法，它允许新的组件本地创建在各个计算节点。将通过概率合并方案确定和合并对应于同一集群的组件。这样，我们可以保持估计的一致性与非常低的通信成本。在大规模真实数据集上的实验表明，该方法在不影响混合性能的前提下，能够在分布式和异步环境下实现较高的可扩展性。
2017-09-19 cs.LG stat.ML
Estimating Well-Performing Bayesian Networks using Bernoulli Mixtures
CSIRO Mathematical and Information Sciences（澳大利亚联邦科学与工业研究组织数学与信息科学研究所）
提出了一种新的贝叶斯网络参数估计方法，该方法在测试数据上具有更好的性能。先前的研究已经显示了通过神经网络表示条件概率分布（CPD）的价值（Neal 1992），噪声-“或”门（Neal 1992，Diez 1993）和决策树Bernoulli混合网络（BMN）明确地将离散BN节点的CPD表示为局部分布的混合，每一个都有一组不同的父母。这增加了可以考虑的可能结构的空间，使CPD具有更精细的-由此产生的估计过程诱导一个模型，该模型比传统的条件伯努利网络更能够模拟数据中发生的潜在相互作用人工生成数据的结果表明，通过限制每个节点本地的候选混合子结构的复杂性，可以最好地减少过拟合。此外，非常简单的子结构的混合物可以执行几乎以及更复杂的ones. BMN也适用于从一个在线冒险游戏中收集的数据与应用程序的锁眼计划识别。结果表明，基于BMN的模型带来了显着的改善性能比传统的BN模型。
2013-01-10 cs.AI cs.LG stat.ML
Estimating the Number of Components in Finite Mixture Models via the Group-Sort-Fuse Procedure
有限混合模型的分量数（或阶数）的估计是统计学中一个长期存在且具有挑战性的问题。本文提出了一种新的惩罚似然估计方法--分组排序似然法（GSF），用于同时估计多维有限混合模型的序和混合测度。与使用模型复杂性标准拟合和比较具有不同阶数的混合物的方法不同，我们的方法直接惩罚模型参数的连续函数。更具体地说，给定一个保守的上界的顺序，GSF组和排序的混合成分参数，融合那些是多余的。对于范围广泛的有限混合模型，我们证明了GSF是一致的，在估计真正的混合顺序，并实现了$n^{-1/2}$收敛速度的参数估计多对数的因素。GSF是在R包GroupSort中为几个单变量和多变量混合模型实现的。它的有限样本的性能是支持一个彻底的模拟研究，并说明其应用程序的两个真实数据的例子。
2021-08-04 math.ST stat.ME stat.ML
Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型，用于计数数据聚类，通过变分推断估计参数，在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
Approximate Bayesian Computation for Finite Mixture Models
有限混合模型用于统计学和其他学科，但混合模型的推理是具有挑战性的，部分原因是由于似然函数的多峰性和所谓的标签切换问题。我们提出了扩展的近似贝叶斯计算人口蒙特卡罗（ABC-PMC）算法作为一种替代框架的推断有限混合模型。在有限混合模型中实现ABC-PMC算法时，需要做出几个决定，包括选择用于在迭代中移动粒子的内核，如何解决标签切换问题，以及选择信息汇总统计量。最后通过算例验证了ABC-PMC混合建模算法的有效性。所提出的方法的性能进行了评估，在模拟研究和流行的退行速度星系的数据。
2020-11-02 stat.ME
Ordering results between two finite arithmetic mixture models with multiple-outlier location-scale distributed components
该研究聚焦多重异常值位置-尺度分布分量的有限算术混合模型，运用向量优超概念在多种单变量阶框架下建立随机比较，推导了模型比较的充分条件，拓展了有限混合模型的随机比较理论。
2024-12-13 math.ST stat.TH
Order selection with confidence for finite mixture models
有限混料模型的混料分量数（阶数）的确定一直是统计推断中的一个难题。我们证明了封闭测试原则导致一个顺序测试程序（STP），允许的信心声明，以有限混合模型的顺序。我们构造有限样本测试，通过数据分割和数据交换，在STP中使用，我们证明，这样的测试是一致的固定的替代品。模拟研究和真实数据的例子来证明有限样本测试为基础的STP的性能，产生实际的建议，他们使用的置信估计结合点估计，如赤池信息或贝叶斯信息标准。此外，我们证明了修改的STP产生的方法，始终选择有限混合模型的顺序，在渐近意义上。我们的STP不仅适用于有限混合模型的阶选择，而且对于任何嵌套模型序列的置信声明也是有用的。
2022-09-26 stat.ME
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University（广岛大学）
研究贝叶斯混合模型中成分数量未知的情况，提出基于归一化逆高斯权重的MFM方法，通过引入潜在变量用块吉布斯采样计算后验，经数值实验和实际数据示例验证性能，还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
A Mean Field Games model for finite mixtures of Bernoulli and Categorical distributions
有限混合模型是数据的统计分析中的重要工具，例如在数据聚类中。混合模型的最优参数通常通过期望最大化算法最大化对数似然泛函来计算。我们提出了一种替代方法的理论基础上的平均场游戏，一类微分游戏与无限数量的代理。我们证明了有限状态空间多种群平均场博弈系统的解刻画了伯努利混合的对数似然泛函的临界点。然后将该方法推广到分类分布的混合模型。因此，平均场游戏的方法提供了一种方法来计算混合模型的参数，我们展示了它的应用程序在聚类分析中的一些标准的例子。
2020-11-27 cs.LG math.AP stat.ML
Bayesian Finite Mixture Models
本文系统阐述贝叶斯有限混合模型在聚类中的应用，涵盖成分数已知与未知两种情况下的先验设定、MCMC估计、标签切换处理及后验推断，并通过多元高斯混合模型实例说明完整建模流程。
2024-07-07 stat.ME
Inference in Hybrid Bayesian Networks Using Mixtures of Gaussians
University of Kansas（堪萨斯大学）
本文的主要目标是描述一种方法，在一般的混合贝叶斯网络（BN）（离散和连续的机会变量的混合）的精确推理。我们的方法包括近似一般的混合贝叶斯网络的混合高斯（MoG）BN。Lauritzen-Jensen（LJ）提出了一种在MoG贝叶斯网络中进行精确推理的快速算法，并给出了该算法的商业实现。然而，该算法只能用于MoG BN。这种网络的一些限制如下。所有连续的机会变量必须有条件线性高斯分布，离散的机会节点不能有连续的父母。本文所描述的方法将使我们能够使用LJ算法的更大的一类混合贝叶斯网络。这包括具有非高斯分布的连续机会节点的网络，对离散和连续变量的拓扑结构没有限制的网络，具有条件确定性变量的网络，这些变量是其连续父母的非线性函数，以及具有连续机会变量的网络，其方差是其父母的函数。
2012-06-27 cs.AI stat.ME
Fitting directed acyclic graphs with latent nodes as finite mixtures models, with application to education transmission
本文描述了一种有效的期望最大化算法，用于对应于可包含任意数目潜变量的有向无环图模型的非线性结构方程组的极大似然估计。模型中的内生变量必须是分类的，而外生变量可以是任意的。本文所讨论的模型是有限混合模型的一个扩展版本，适用于因果推断。作为一个例子，教育传输问题的应用。
2015-11-10 stat.CO
Modeling Preferences: A Bayesian Mixture of Finite Mixtures for Rankings and Ratings
排名和评级通常用于表达偏好，但提供不同的补充信息。排名提供有序和无标度比较，但缺乏粒度;评级提供基本和粒度评估，但可能是高度主观或不一致的。由于缺乏原则性的方法，直到最近才联合收集和分析排名和评级。在这项工作中，我们提出了一个灵活的，联合统计模型的排名和评级下的异质偏好：布拉德利-特里-Luce-Binomial（BTL-Binomial）。我们采用贝叶斯混合有限混合物（MFM）的方法来估计异质偏好，了解其固有的不确定性，并作出准确的决定，排名和评级的基础上联合。我们证明了BTL-二项式MFM方法在同行评审和调查数据背景下的真实和模拟数据集上的排名和评级偏好的效率和实用性。
2023-01-23 stat.ME
Clustering action potential spikes: Insights on the use of overfitted finite mixture models and Dirichlet process mixture models
细胞外记录动作电位的建模，或尖峰分选，是神经科学研究的一个丰富领域，其中潜变量模型经常被使用。两个这样的模型，过拟合有限混合模型（OFM）和Dirichlet过程混合模型（DPM）被认为是提供洞察复杂的，多变量的医疗数据的无监督聚类时，集群的数量是未知的。OFM和OFM以类似的分层方式构建，但它们基于不同的哲学，具有不同的基本假设。本研究探讨了这些差异如何影响穗排序的真实研究，多变量高斯位置-尺度混合模型的估计，在复杂的医疗数据所产生的共同困难的存在。结果提供的见解，让未来的分析师选择适合的情况和目标的研究问题的手的方法。
2016-02-05 stat.AP stat.ME
Convergence of latent mixing measures in finite and infinite mixture models
本文研究了在有限和无限混合模型中出现的潜在混合测度的收敛行为，使用运输距离（即，Wasserstein metrics）。混合测度空间上的Wasserstein距离与混合分布空间上的f-发散泛函（如Hellinger和Kullback-Leibler距离）之间的关系，利用各种可识别性条件进行了详细研究.离散度量的Wasserstein度量的收敛意味着为度量提供支持的单个原子的收敛，从而提供了通常采用混合模型的聚类应用中的聚类收敛的自然解释。对于多元分布的有限混合和基于Dirichlet过程的无限混合，建立了潜在混合测度的后验分布的收敛速度.
2013-04-09 math.ST stat.ML stat.TH
Hierarchical Mixture of Finite Mixtures
本文将有限混合模型的混合模型扩展到分层框架，提出基于归一化有限点过程的新贝叶斯先验族，并设计高效吉布斯采样器，在铅球数据上实现跨赛季和运动员的聚类分析，优于分层狄利克雷过程。
2024-06-28 stat.ME
Mixture-of-Finite-Mixtures Wishart Model for Clustering Covariance Matrices with an Application to Brain Functional Connectivity
University of Notre Dame（圣母大学）
提出MFM-Wishart贝叶斯模型，结合威沙特混合分量与有限混合先验，实现协方差矩阵数据的聚类与簇数联合推断，并应用于婴儿睡眠功能连接聚类。
2026-11-03 stat.ME
Without Pain -- Clustering Categorical Data Using a Bayesian Mixture of Finite Mixtures of Latent Class Analysis Models
本文提出一种贝叶斯两层有限混合模型，用潜在类别分析近似簇分布，结合伸缩采样器和标签切换处理，实现对未知簇数多元分类数据的简约聚类，并在模拟和下背痛数据上验证了有效性。
2024-07-07 stat.ME
Coherent prior distributions in univariate finite mixture and Markov-switching models
有限混合和马尔可夫转换模型推广，因此，巢规格只有一个组件。在一般（混合）模型及其特殊（单组分）情况下指定先验时，可能需要确保引入两种结构的先验假设在嵌套模型中的先验分布相当于相关参数约束下混合模型中的条件先验的意义上是一致的。该研究提供了在贝叶斯单变量有限混合模型和马尔可夫转换模型中设置相干先验的基础。一旦一些主要的结果是交付，我们得到的情况下，通常从事贝叶斯建模的三种类型的连续先验的一致性的具体条件：正常的，反伽玛分布，和Γ分布。此外，我们研究了在混合模型的先验中引入额外约束（例如强制可识别性或某种规律性（例如二阶平稳性）的约束）对相干条件的影响。最后，通过讨论为一类马尔可夫切换AR（2）模型设置相干先验来说明该方法。
2013-09-03 math.ST stat.ME stat.TH
Theoretical Grounding for Estimation in Conditional Independence Multivariate Finite Mixture Models
对于条件独立的多元有限混合模型的非参数估计，我们提出了一种新的基于惩罚光滑Kullback-Leibler距离的目标函数的形式.非线性平滑优化最小化（NSMM）算法就是从这个角度推导出来的。利用一种新的投影-乘法算子得到了NSMM算法的一个简洁的表示，发现了算法的一个更精确的单调性，并首次证明了主要最优化问题解的存在性.
2015-10-28 math.ST stat.TH
On the posterior distribution of the number of components in a finite mixture
有限混合物中组分数k的后验分布满足一组不等式约束。结果保持不考虑参数形式的混合物成分和假设下的先验分布弱于那些常规的文献中的贝叶斯分析有限混合物。不等式约束可用于执行k的后验分布的MCMC估计的“内部”一致性检查，并提供满足约束所需的改进估计。使用约束条件推导出k个分量的后验概率的界。先验分布规范和充分的后验分布的K作为一种工具，选择了足够数量的成分在混合物的影响也进行了探讨。
2005-03-29 math.ST stat.TH
Orderings of the finite mixture with modified proportional hazard rate model
本文针对修正比例风险率有限混合模型，在链式优超和弱超优超条件下，建立了通常随机序、风险序、星序和洛伦兹序的充分条件，并用数值例子验证了结果。
2024-07-23 math.ST stat.TH
Generalized mixtures of finite mixtures and telescoping sampling
本文提出广义有限混合的混合模型，引入依赖于分量数量的狄利克雷先验，并开发望远镜采样器实现无需可逆跳跃MCMC的贝叶斯推断，适用于任意分量分布。
2021-09-16 stat.ME
Bayesian Analysis of Stochastic Volatility Model using Finite Gaussian Mixtures with Unknown Number of Components
金融研究需要基于波动率的模型，这些模型提供了与投资相关的风险的有用见解。随机波动率模型是此类研究中最流行的波动率建模方法之一。所研究的资产收益可能来自多个集群，这些集群在假设标准分布的情况下无法很好地捕捉。混合分布在这种情况下更合适。在这项工作中，一个算法证明，这是能够研究有限的混合物，但未知数量的组件。该算法使用一个死亡过程来调整混合分布中的分量数，并相应地分配权重。这种混合分布规格，然后用于资产收益率和半参数随机波动率模型拟合在贝叶斯框架。研究了高斯混合的一种特殊情况。采用适当的先验规范，吉布斯抽样方法被用来生成后验链和评估模型的收敛性。印度国家银行的股票收益率数据的案例研究被用来说明的方法。
2021-10-25 stat.ME
Full Model Estimation for Non-Parametric Multivariate Finite Mixture Models
本文研究非参数有限混合模型的全模型估计问题。它提出了一种用于选择分量的数量和判别变量的子集（即，在混合成分之间具有不同分布的变量子集）。所提出的方法考虑了离散化的每个变量到B箱和惩罚所产生的对数似然。考虑到当样本量趋于无穷大时，仓数趋于无穷大，我们证明了在适当选择惩罚项的情况下，我们对模型的估计（用于聚类的相关变量的子集和分量数）是一致的.模拟和基准数据说明了我们的建议的兴趣。
2021-12-10 math.ST stat.TH
A Bayesian Network Classifier that Combines a Finite Mixture Model and a Naive Bayes Model
University of Pittsburgh（匹兹堡大学）
在本文中，我们提出了一个新的贝叶斯网络模型的分类，结合朴素贝叶斯（NB）分类器和有限混合（FM）分类器。由此产生的分类器的目的是放松的两个组件模型的基础上的强假设，在试图提高其分类性能，无论是在准确性和校准的估计概率。建议的分类器是通过叠加一个有限的混合模型的一组特征变量的朴素贝叶斯模型。我们目前的实验结果，比较真实数据集上的新分类器的预测性能与NB分类器和FM分类器的预测性能。
2013-01-23 cs.AI cs.LG stat.ML
A Tight Convex Upper Bound on the Likelihood of a Finite Mixture
IBM Research - Haifa（IBM海法研究院）；The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
有限混合模型的似然函数是具有多个局部极大值的非凸函数，并且常用的迭代算法（例如EM）将根据初始条件收敛到不同的解。在本文中，我们问：是否有可能评估我们离全球最大可能性有多远？由于有限混合模型的可能性可以通过将高斯集中在单个数据点并收缩协方差来无限增长，因此我们通过假设各个模型的参数是一个大的离散集合的成员来约束问题（例如，估计两个高斯的混合，其中两个高斯的均值和方差是一百万个可能均值和方差的集合的成员）。对于这种设置，我们表明，一个简单的上限的可能性，可以使用凸优化计算，我们分析的条件下，该界是保证紧。然后，该界限可以用于评估由EM（其中最终结果被投影在离散集合上）或任何其他混合估计算法找到的解的质量。对于任何数据集，我们的方法都允许我们找到一个有限的混合模型，以及一个特定于数据集的界限，该界限关于该混合的可能性与可能性的全局最优值有多远
2016-08-18 cs.LG stat.ML
Modifications of the BIC for order selection in finite mixture models
La Trobe University（拉 Trobe 大学）；Institute of Mathematics for Industry, Kyushu University（九州大学产业数学研究所）；ARC Centre of Excellence for the Mathematical Analysis of Cellular Systems（ARC 细胞系统数学分析卓越中心）；Queensland University of Technology（昆士兰科技大学）
本文提出改进的BIC方法，通过引入微小对数因子实现更弱条件下的模型阶数选择一致性，并揭示了基于一致IC选择的局限性。
2026-02-01 math.ST stat.TH
Clustering Via Finite Nonparametric ICA Mixture Models
我们提出了一个扩展的非参数多元有限混合模型，放弃了标准的条件独立性假设，并纳入独立成分分析（ICA）结构代替。我们制定了一个目标函数的惩罚平滑Kullback-Leibler距离，并介绍了非线性平滑优化最小化独立成分分析（NSMM-ICA）算法来优化这个函数和估计模型参数。我们已经实现了这个算法的一个实用版本，它利用FastICA算法，在R包icamix。我们使用无监督学习和图像处理中的几个应用程序来说明这种新方法。
2018-09-10 math.ST stat.ME stat.TH
Informed Bayesian Finite Mixture Models via Asymmetric Dirichlet Priors
本文提出一种基于非对称 Dirichlet 先验的有限混合方法，允许直接对聚类数量设定先验信息，并通过数值实验和真实数据集验证了其灵活性与实用性。
2023-08-01 stat.ME
Approximation by finite mixtures of continuous density functions that vanish at infinity
在给定足够多的分量的情况下，经常引用有限混合模型可以将任何其他密度函数（pdf）近似到任意精度。不幸的是，这种近似结果的性质往往不清楚。我们证明了在$\mathcal{C}_{0}$中由PDF构造的有限混合模型可以用于在许多不同的模式中进行各种类的逼近。也就是说，我们证明了在$\mathcal{C}_{0}$中的逼近可以被一致逼近，在$\mathcal{C}_{b}$中的逼近可以在紧集上被一致逼近，以及在$\mathcal{L}_{p}$中的逼近可以关于$\mathcal{L}_{p}$被逼近，对于$p\in\left[1,\infty\right)$。此外，我们还证明了可测函数可以近似，几乎处处。
2019-11-09 math.ST stat.TH
Bayesian estimation of finite mixtures of Tobit models
本文提出一种结合Gibbs抽样与数据增广的MCMC贝叶斯方法来估计Tobit模型有限混合，模拟与应用表明其在删失不可忽略时能提供改变结果的额外灵活性。
2024-11-14 econ.EM stat.AP
Exact finite-sample bias, variance, and MSE of normalized scale-invariant inequality indices under Gamma mixture models
Department of Statistics, University of Brasilia（巴西利亚大学统计系）；University of Brasilia（巴西利亚大学）
本研究针对Gamma混合模型下的归一化尺度不变不平等指数，推导了估计量的精确有限样本偏差、方差和均方误差公式，并证明其渐近无偏性、强相合性和渐近正态性，为异质总体下的估计提供了统一框架。
2026-10-06 math.PR math.ST stat.ME
Robust Bayesian model selection for heavy-tailed linear regression using finite mixtures
在本文中，我们提出了一种新的方法来执行重尾分布的线性模型的贝叶斯模型选择。我们考虑一个有限的混合分布模型的潜在变量，其中每个组成部分的混合物对应于一个可能的模型内的对称类的正态独立分布。当然，高斯模型是其中一种可能性。这允许基于每个模型的后验概率进行同时分析。推理是通过马尔可夫链蒙特卡罗-吉布斯抽样与大都会黑斯廷斯步骤的一类参数。模拟的例子突出了这种方法的优势相比，隔离分析的基础上任意选择的模型选择标准。给出了真实数据的示例，并介绍和讨论了对截尾线性回归的扩展。
2017-08-18 stat.ME
Singularity structures and impacts on parameter estimation in finite mixtures of distributions
统计模型的奇异性是指模型参数空间的元素，它使相应的Fisher信息矩阵退化。对于这些点，最大似然估计和标准贝叶斯过程等估计技术不允许根$n$参数收敛速率。提出了有限混合物参数空间奇异性结构的一般识别框架，并研究了有限混合物的奇异性结构对紧参数空间上极大似然估计的极小极大下界和收敛速度的影响.我们的研究明确了模型奇异性，参数估计收敛速度和极小极大下界之间的深层联系，以及连续分布混合物的参数空间的代数几何。应用该理论建立了有限混合斜正态分布的参数估计的具体收敛速度。这种丰富且日益流行的混合模型表现出一系列非常复杂的渐进行为，迄今为止文献中尚未报道过这些行为。
2019-07-23 math.ST stat.ML stat.TH
Finite Mixture of Birnbaum-Saunders distributions using the $k$ bumps algorithm
混合模型由于其广泛的应用近年来在统计学中得到了广泛的关注。本文讨论了具有G分量的Birnbaum-Saunders分布的有限混合模型，作为Balakrishnan等人（2011）只考虑两个分量的工作的重要补充。我们的建议，使适当的多模态的情况下具有更大的灵活性，其中与G组件的模型的可识别性被证明和EM算法的混合参数的极大似然（ML）估计开发，其中k-bumps算法被用作初始化策略中的期望最大化算法。k-bumps算法作为初始化工具的性能进行了评估，通过仿真实验。此外，经验信息矩阵的解析推导出占标准误，和自助程序的混合物中的组件的数量进行测试的假设。最后，我们进行模拟研究和分析两个真实的数据集，以说明所提出的方法的实用性。
2017-08-01 stat.ME
Model-based clustering based on sparse finite Gaussian mixtures
在有限混合高斯分布的基础上，基于贝叶斯模型的聚类框架中，我们提出了一种联合方法来估计混合成分的数量，同时识别集群相关的变量，以及获得一个确定的模型。我们的方法包括在指定稀疏分层先验的混合权重和组件的手段。在故意过拟合混合模型中，权重的稀疏先验在MCMC期间清空多余的分量。一个简单的估计的真实数量的组件是由MCMC采样期间访问的非空组件的最频繁的数量。在分量均值上的预收缩先验，即正常伽马先验，导致改进的参数估计以及聚类相关变量的识别。在使用基于数据增广和吉布斯抽样的MCMC方法估计混合模型之后，通过在绘制的点过程表示中重新标记MCMC输出来获得辨识模型。这是使用基于Mahalanobis距离的$K$ -质心聚类分析来执行的。我们评估我们提出的策略在模拟设置与人工数据，并将其应用到基准数据集。
2016-06-22 stat.ME
