Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型，用于计数数据聚类，通过变分推断估计参数，在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
A Hybrid Mixture of $t$-Factor Analyzers for Clustering High-dimensional Data
本文提出一种将轮廓似然集成到EM框架的混合方法，用于高效估计$t$-因子分析器混合模型，在保持聚类精度和鲁棒性的同时提升计算效率，并应用于伽马射线暴聚类验证其异质性。
2025-08-04 astro-ph.HE stat.AP stat.CO
Weighted Conformal Clustering
Columbia University（哥伦比亚大学）
提出加权共形方法为聚类标签构建有效置信集，通过条件标签分布偏移校正解决校准标签与真实标签不匹配问题，实现有限样本边际覆盖。
2026-11-10 math.ST stat.ME stat.ML
A Mixture of Matrix Variate Bilinear Factor Analyzers
多年来，数据已经变得越来越高维，这促使对降维技术的需求增加。这对于聚类（无监督分类）以及半监督和监督分类可能尤其如此。虽然多变量数据聚类领域的降维已经在文献中进行了相当深入的讨论，但在三向或矩阵变量数据领域的工作相对较少。在此，我们开发了一个混合矩阵变量双线性因子分析器（MMVBFA）模型用于聚类高维矩阵变量数据。本文的工作既可以看作是第一个矩阵变量双线性因子分析模型，也可以看作是第一个MMVBFA模型。讨论了参数估计，并用模拟数据和实际数据说明了MMVBFA模型。
2018-09-29 stat.CO stat.ME stat.ML
Extending Cluster-Weighted Factor Analyzers for multivariate prediction and high-dimensional interpretability
本文提出多元聚类加权不相交因子分析器（MCWDFA），扩展了聚类加权因子分析器以支持多响应变量预测并提升高维可解释性，通过模拟研究和美国犯罪数据验证了其有效性。
2024-11-05 stat.CO stat.ME
A Hybrid Mixture Approach for Clustering and Characterizing Cancer Data
本文提出一种混合无矩阵计算方案，结合高斯混合模型与广义因子分析器，在高维生物医学数据中实现更快速且准确的聚类与特征刻画，并成功应用于乳腺癌类型识别和淋巴瘤亚型表征。
2025-07-18 q-bio.TO stat.AP stat.CO
Extending mixtures of factor models using the restricted multivariate skew-normal distribution
混合因子分析（MFA）模型通过对分量协方差阵的因子分析表示，减少了自由参数的个数，为分析高维数据提供了有力的工具。本文扩展了MFA模型，将一个限制版本的多变量偏态正态分布模型的分布的潜在组成因素，称为混合偏态因子分析（MSNFA）。建议的MSNFA模型允许我们放松对潜在因素的正态性假设的需要，以适应观测数据中的偏态性。因此，MSNFA模型提供了一种基于模型的密度估计和呈现非对称特征的高维数据聚类的方法。一个计算上可行的ECM算法被开发用于计算参数的最大似然估计。模型选择可以根据三个常用的基于信息的标准进行。所提出的方法的潜力，举例说明通过应用到两个真实的例子，并与拟合的MFA模型所获得的结果进行比较。
2013-07-06 stat.ME
Mixtures of Hidden Truncation Hyperbolic Factor Analyzers
混合因子分析模型在20多年前首次引入，并在此期间，已扩展到几个非高斯模拟。一般来说，这些类似物占重尾和/或倾斜集群的情况。介绍了一种方法，将许多这些方法统一到一个非常一般的模型：隐截断双曲因子分析（MHTHFA）模型的混合物。在此过程中，还引入了隐截断双曲因子分析模型。MHTHFA模型说明聚类以及半监督分类使用两个真实的数据集。
2018-10-27 stat.CO stat.ME
Multilevel mixtures of latent trait analyzers for clustering multi-layer bipartite networks
该研究扩展潜在特质分析器混合模型至多层二部网络，结合多水平方法实现发送节点聚类，并通过模拟和欧洲社会调查数据验证了模型在参数与聚类恢复上的有效性。
2024-03-18 stat.ME
Mixtures of Skew-t Factor Analyzers
在本文中，我们介绍了一个混合的偏t因子分析以及一个家庭的混合模型的基础上。我们使用的斜t分布混合模型是广义双曲分布混合模型的一个极限情形。像高斯分布和t分布类似物一样，我们的偏t因子分析器的混合非常适合于高维数据的基于模型的聚类。对分解协方差参数的组件施加约束，导致八个灵活的模型的发展。模型参数估计采用交替期望-条件最大化算法，模型选择采用贝叶斯信息准则。该模型适用于真实和模拟数据，提供优越的聚类结果相比，一个完善的家庭高斯混合模型。
2013-06-18 stat.ME
Parsimonious Mixtures of Matrix Variate Bilinear Factor Analyzers
多年来，数据已经变得越来越高维，这促使对降维技术的需求增加。这对于聚类（无监督分类）以及半监督和监督分类可能尤其如此。在文献中已经提出了许多方法用于双向（多变量）数据，并且最近已经提出了用于三向（矩阵变量）数据的方法。一种这样的方法是混合矩阵变量双线性因子分析器（MMVBFA）模型。在这里，我们提出了总共64个简约的MMVBFA模型。模拟和真实数据用于说明。
2019-11-20 stat.CO stat.ME
Non-parametric latent modeling and network clustering
本文揭示了一种非参数的方法，潜在的和共潜在的双变量数据建模，交替最小化的库尔贝克-莱布勒散度（期望最大化算法）的完整的日志线性模型的基础上。对于分类数据，迭代算法生成列联表的行和列的软聚类。众所周知的结果是系统地重新审视，和一些变种可能是原来的。特别是，考虑方列联表诱导加权网络的聚类算法，不同于谱聚类或模块化最大化技术。此外，我们提出了一种适用于一般类型的HMM模型的联合聚类算法，不同于Baum-Welch算法。三个案例研究说明了这一理论。
2016-03-09 stat.ME
Asymptotic distributions of the average clustering coefficient and its variant
本文研究了异质Erdős-Rényi随机图中平均聚类系数及其变体（加权三角形之和）的渐近分布，发现前者方差存在相变现象而后者不存在，揭示了两种统计量的本质差异。
2023-11-18 math.ST physics.soc-ph stat.TH
A Mixture of Generalized Hyperbolic Factor Analyzers
基于模型的聚类对用于聚类的数据施加有限的混合建模结构。有限混合模型假设总体是有限个密度的凸组合，每个总体内的分布是每个特定模型的基本假设。在所有已尝试过的分布中，广义双曲分布的优点是它是其他几种方法的推广，如高斯分布，斜t分布等。虽然其固有的灵活性在许多方面都是一个优势，但这意味着比其特殊和限制情况要估计更多的参数。这项工作的目的是提出一种混合的广义双曲因子分析，引入简约性和扩展的方法，高维数据。本文的工作可以看作是混合因子分析模型在广义双曲混合模型上的推广。我们的广义双曲因子分析仪的性能示出了真实的数据，它的高斯模拟相比，表现良好。
2015-05-22 stat.ME stat.ML
Mixtures of Skewed Matrix Variate Bilinear Factor Analyzers
近年来，数据已经变得越来越高维，因此，增加了对用于聚类的降维技术的需求。虽然这种技术在多变量数据的文献中已经牢固建立，但在矩阵变量或三向数据领域相对较少。此外，可用的几种方法都假设矩阵变量正态性，如果存在聚类偏度或过度峰度，这并不总是明智的。提出了使用偏态矩阵变量分布的双线性因子分析器的混合。在所有，四个这样的混合模型，矩阵变量偏t，广义双曲，方差伽玛，正态逆高斯分布的基础上，分别。
2019-09-27 stat.CO stat.ME stat.ML
Robust estimation for mixtures of Gaussian factor analyzers, based on trimming and constraints
高斯因子的混合是对未观察到的异质群体进行建模的强大工具，同时提供了降维和基于模型的聚类。不幸的是，虚假的解决方案和外围观测的干扰影响，以及极大似然估计的高患病率，打开严重的问题。在本文中，我们考虑的组件协方差的限制，以避免虚假的解决方案，和修剪，提供对违反正态假设的潜在因素的鲁棒性。详细的AECM算法，这种新的方法。仿真结果和AIS数据集上的应用表明了该方法的有效性。
2015-03-21 stat.ME
Overfitting Bayesian Mixtures of Factor Analyzers with an Unknown Number of Components
过拟合贝叶斯混合模型的最新进展提供了一个坚实的和直接的方法来推断潜在的聚类数和模型参数在异构数据集。这种框架的适用性聚类相关的高维数据证明。为了这个目的，一个过拟合的混合因素分析仪的介绍，假设因素的数量是固定的。采用马尔可夫链蒙特卡罗（MCMC）抽样器结合先验并行回火方案估计模型参数的后验分布。使用信息准则估计因子的最佳数目。与标签切换问题相关的可识别性问题通过重新标记算法对模拟MCMC样本进行后处理来处理。该方法是基准对国家的最先进的软件，极大似然估计的混合物的因素分析，使用广泛的模拟研究。最后，该方法的适用性说明在公开可用的数据。
2018-02-26 stat.ME
Variational Inference and Sparsity in High-Dimensional Deep Gaussian Mixture Models
本文针对高维深度高斯混合模型拟合困难的问题，提出使用稀疏先验进行贝叶斯推断，并开发了一种可扩展的自然梯度变分推断算法，通过过拟合混合实现高效的架构选择，有效提升了高维数据的聚类效果。
2021-09-01 stat.ME
Mixtures of spatial factor analyzers for tensor-variate data
University of British Columbia Okanagan Campus（不列颠哥伦比亚大学奥肯那根校区）
针对高维空间数据聚类难题，提出空间因子分析器混合模型，利用坐标系和样条结构防参数膨胀，结合矩阵变量因子分析器降维，经改进算法估计参数，在张量变量数据分析中表现良好，能准确推断区分空间模式。
2026-10-14 stat.ME stat.ML
Covariate Connectivity Combined Clustering for Weighted Networks
University of Connecticut（康涅狄格大学）；Vanderbilt University Medical Center（范德堡大学医学中心）
C⁴是一种结合网络连通性和节点协变量的自适应谱聚类算法，用于提高加权网络中社区检测的准确性和鲁棒性。
2025-11-21 stat.CO stat.ME
Automatic Differentiation in Mixture Models
在这篇文章中，我们讨论了两类特定的模型-高斯混合Copula模型和混合因子分析器-以及使用自动微分进行梯度下降推理的优势。高斯混合模型是一类流行的聚类方法，它提供了一种原则性的统计聚类方法。然而，每个混合分量都是正态分布的基本假设对于几个现实生活中的数据集来说往往过于严格。为了放松混合成分正态性的假设，引入了一类新的基于Copula函数的参数混合模型--高斯混合Copula模型。由于方差-协方差阵的半正定性约束，利用极大似然估计高斯混合Copula模型（GMCM）的参数一直是一个棘手的问题。先前的尝试限于最大化代理似然，其可以使用期望最大化算法来最大化。这些现有的方法，即使更容易实现，并不保证任何收敛，也单调增加的GMCM似然比。在本文中，我们使用自动微分工具，以最大限度地提高精确似然GMCM，同时避免任何约束方程或拉格朗日乘子。我们展示了我们的方法如何导致单调增加的可能性和收敛到（局部）最佳值的可能性。在本文中，我们还展示了如何自动微分可以用于推理与混合因子分析仪和这样做的优点。我们还讨论了如何这种方法也有所有的属性，如单调增加的可能性和收敛到局部最优。请注意，我们的工作也适用于这两个模型的特殊情况-例如简单Copula模型，因子分析器模型等。
2018-12-13 stat.CO stat.ME
Investigation of Parameter Uncertainty in Clustering Using a Gaussian Mixture Model Via Jackknife, Bootstrap and Weighted Likelihood Bootstrap
混合模型是基于模型聚类的一种常用工具。这种模型通常通过最大化似然的过程来拟合，例如期望最大化算法。在收敛时，通常报告极大似然参数估计值，但在大多数情况下，很少强调与这些估计值相关的变异性。这部分地可能是由于在模型拟合算法中不直接计算标准误的事实，或者因为不需要它们来拟合模型，或者因为它们难以计算。因此，基于模型的聚类中的标准误的检查通常被忽略。最近广泛使用的R包方法引入了bootstrap和加权似然bootstrap方法，以方便标准误估计。本文提供了一个经验比较这些方法（连同刀切法）产生的标准误和置信区间的混合参数。这些方法的说明和对比，在模拟研究和传统的老忠实的数据集和甲状腺数据集。
2019-07-22 stat.CO stat.ME
Model-Based Clustering of Nonparametric Weighted Networks with Application to Water Pollution Analysis
水污染是一个重大的全球性环境问题，它对公众健康和生物多样性构成了巨大的环境风险。这项工作的动机是通过增加硫酸盐浓度的河流网络，不属于任何简单的参数分布，煤炭开采的潜在环境威胁进行评估。然而，现有的网络模型主要集中在二进制或离散网络和已知参数权重分布的加权网络。提出了一种基于指数族随机图模型和局部似然估计的非参数加权网络模型，并研究了其基于模型的聚类方法，应用于大规模水污染网络分析。我们不需要对网络权重进行任何参数分布假设。该方法极大地扩展了统计网络模型的方法论和适用性。此外，它可扩展到大规模环境研究中的大型复杂网络。我们所提出的方法的力量是在模拟研究和硫酸盐污染网络分析在位于美国宾夕法尼亚州的俄亥俄州流域的实际应用证明。
2019-05-16 cs.SI stat.AP stat.CO
Model-based clustering via skewed matrix-variate cluster-weighted models
加权模型（CWM）扩展了有限混合回归（FMR），以允许协变量的分布有助于聚类过程。在矩阵变量框架中，最近引入了矩阵变量正态CWM。然而，当数据在响应、协变量或两者中表现出偏态或其他偏离正态性时，可能会遇到问题。因此，我们引入了一个家庭的24矩阵变量CWM，这是通过允许的响应和协变量进行建模，通过使用现有的四个偏态矩阵变量分布或矩阵变量正态分布。我们的矩阵变量CWM具有更大的灵活性，能够以更合适的方式处理这类数据。作为副产品，四个斜矩阵变量FMR也被引入。极大似然参数估计使用期望条件最大化算法。参数恢复，分类评估，和贝叶斯信息标准的能力，以检测潜在的群体进行了研究，使用模拟数据。最后，我们的矩阵变量CWM，随着矩阵变量正常CWM和矩阵变量FMR，被应用到两个真实的数据集进行说明。
2021-11-29 stat.AP stat.ME
Weighted likelihood mixture modeling and model based clustering
在这项工作中，开发了一种加权似然方法的稳健拟合的多元高斯成分的混合。已经提出了两种方法，分别由标准EM和CEM算法的适当修改驱动。在这两种技术中，M步骤通过针对降低离群值的权重的计算来增强。权重是基于皮尔逊残差源于强大的马氏型距离。基于拟合的混合模型，还可以定义用于鲁棒聚类和离群值检测的正式规则。所提出的方法的行为进行了研究，通过一些数值研究和实际数据的例子，在拟合和分类精度和离群值检测。
2018-11-08 stat.ME
Capturing Patterns via Parsimonious t Mixture Models
本文利用一个简化版本的多变量t-因子分析器（MtFA）的混合物的强大的混合建模和高维数据，经常包含一些离群值的聚类。引入了两类8个简约t混合模型，利用交替期望条件最大化（AECM）算法实现了参数的最大似然估计的计算.通过图像压缩和紧凑的面部表示的应用程序说明了该方法的有用性。
2013-03-10 stat.AP stat.ME
On the efficacy of higher-order spectral clustering under weighted stochastic block models
本文在加权随机块模型下从统计角度理论分析了高阶谱聚类的性能，证明在密集网络且权重信号较弱时其优于基于边的谱聚类，并通过模拟和真实数据实验验证了结论。
2023-04-13 stat.ME
Automated calibration of consensus weighted distance-based clustering approaches using sharp
本文扩展了共识聚类方法以支持属性加权，提出通过最大化新型共识评分来自动校准簇数和正则化参数，在模拟和真实基因表达数据上均展现出更优的聚类性能，并提供了 R 包 sharp。
2023-04-26 stat.ME
Mixture Model Averaging for Clustering
在基于混合模型的聚类应用程序中，通常会从一个系列中拟合多个模型，并仅报告“最佳”模型的聚类结果。在这种情况下，使用模型选择标准（最常见的是贝叶斯信息标准）来实现该最佳模型的选择。除了最好的模型之外，我们没有丢弃所有的模型，而是对在某种意义上接近最好的模型的多个模型进行平均，从而产生聚类结果的加权平均值。两个（加权）平均方法被认为是：平均组件的成员资格概率和平均模型。在这两种情况下，Occam窗口用于确定与最佳模型的接近程度，并且在贝叶斯模型平均范式内计算权重。在某些情况下，我们需要在平均之前合并成分;我们介绍了一种基于调整后的Rand指数合并混合成分的方法。我们的基于模型的聚类平均方法的有效性说明使用一个家庭的高斯混合模型的真实和模拟数据。
2014-07-26 stat.CO stat.ME stat.ML
Flexible Mixture Modeling with the Polynomial Gaussian Cluster-Weighted Model
在混合建模框架下，本文提出了多项式高斯聚类加权模型（CWM）。它扩展了线性高斯CWM，二元数据，在一个双重的方式。首先，通过考虑多项式回归，它允许混合成分中可能的非线性依赖性。其次，它不限于用于基于模型的聚类，仅在最一般的基于模型的分类框架中进行上下文化。使用期望最大化算法导出极大似然参数估计，并使用贝叶斯信息准则（BIC）和综合完全似然（ICL）进行模型选择。本文还研究了多项式高斯CWM的成分隶属度的后验概率与其它已建立的相关混合模型的成分隶属度的后验概率相一致的条件，对于这些模型，多项式高斯CWM应用于本文所考虑的人工数据和真实数据时，都显示出优良的聚类和分类结果。
2012-07-04 stat.CO stat.ME
Robust State-Conditional Feature-Weighted Jump Models for Temporal Clustering
University of Milan Department of Economics Management and Quantitative Methods（米兰大学经济学管理与定量方法系）；University of Rome "Tor Vergata" Department of Enterprise Engineering（罗马"托尔维加塔"大学企业工程系）；National Research Council of Italy Institute for Applied Mathematics and Information Technologies（意大利国家研究委员会应用数学与信息技术研究所）
提出一种鲁棒的特征加权跳跃模型，通过Tukey双权损失函数实现鲁棒性，并引入状态特定特征权重，在模拟和实证中优于竞争方法。
2026-06-12 cs.LG stat.ME stat.ML
Cluster weighted models for functional data
本文提出 funWeightClust 方法，将聚类加权模型扩展到函数型数据，并通过 EM 算法估计参数，在模拟与基准数据上优于 funHDDC 等现有方法，成功应用于埃德蒙顿交通模式分析。
2025-03-07 stat.ME stat.ML
Robust Clustering in Regression Analysis via the Contaminated Gaussian Cluster-Weighted Model
高斯聚类加权模型（CWM）是具有随机协变量的回归模型的混合，允许对由响应变量和协变量组成的随机向量进行灵活聚类。在每个混合分量中，它对协变量和给定协变量的响应都采用高斯分布。为了鲁棒的方法相对于可能的椭圆重尾偏离正态性，由于存在非典型的观察，污染高斯CWM在这里介绍。除了高斯CWM的参数之外，我们的污染CWM的每个混合成分都有一个控制离群值比例的参数，一个控制杠杆点比例的参数，一个指定相对于响应变量的污染程度，一个指定相对于协变量的污染程度。至关重要的是，这些参数不必事先指定，从而为我们的方法增加了灵活性。此外，一旦模型被估计并且观察被分配到组，则可以直接获得典型点、离群值、好杠杆点和坏杠杆点的更精细的组内分类-稳健回归分析中的首要概念。与其他基于混合的污染模型的关系进行了分析，提供了可识别的条件，期望条件最大化算法概述了参数估计，并讨论了各种实施和操作问题。通过蒙特卡罗实验评价了回归系数估计的性质，并与高斯CWM的估计进行了比较。还根据实际数据集进行了敏感性研究。
2014-09-21 math.ST stat.CO stat.ME
A LASSO-Penalized BIC for Mixture Model Selection
基于族的方法对基于混合模型的聚类和分类的有效性取决于简约模型的选择。目前的智慧建议贝叶斯信息准则（BIC）的混合模型选择。然而，BIC具有众所周知的局限性，包括倾向于高估组件的数量，以及倾向于经常大幅低估更高维度的组件数量。虽然前一个问题可以通过合并组件来解决，但后者在集群和分类应用程序中是不可能缓解的。在本文中，一个LASSO惩罚BIC（LPBIC）的介绍，以克服这个问题。这种方法是说明的基础上的应用程序的扩展的混合物的因素分析，其中的LPBIC是用来选择组件的数量和潜在因素的数量。在几种情况下，LPBIC表现出匹配或优于BIC。
2012-11-27 math.ST stat.CO stat.ME
Multinomial Cluster-Weighted Models for High-Dimensional Data
高维数据的建模对于分类非常重要。我们提出了一种新的混合模型，称为多项聚类加权模型（MCWM）。我们得到了一般类MCWM的可识别性。我们通过期望最大化（EM）算法通过迭代加权最小二乘（EM-IRLS）和随机梯度下降（EM-SGD）估计所提出的模型。模型选择是使用不同的信息标准进行的。各种调整后的兰德指数被视为不同的准确性衡量标准。使用模拟和真实数据集的聚类性能的模型进行了研究。MCWM通过性能指标（如准确度和ROC曲线下面积）显示出出色的聚类结果。
2022-08-23 stat.ME
clusterBMA: Bayesian model averaging for clustering
在集成聚类文献中，已经开发了各种方法来组合跨多组结果的推理以进行无监督聚类。从几个备选聚类模型中选出一个“最佳”模型报告结果的做法通常忽略了模型选择产生的不确定性，并导致对特定模型和所选参数敏感的推论。贝叶斯模型平均（BMA）是一种流行的方法，用于组合多个模型的结果，在这种情况下提供了一些有吸引力的好处，包括组合聚类结构的概率解释和基于模型的不确定性的量化。在这项工作中，我们介绍了clusterBMA，一种方法，使加权模型平均从多个无监督聚类算法的结果。我们使用聚类内部验证标准来开发后验模型概率的近似值，用于对每个模型的结果进行加权。从一个共识矩阵表示的加权平均值的聚类解决方案的模型，我们应用对称单纯形矩阵分解计算最终的概率集群分配。除了在模拟数据上优于其他集成聚类方法外，clusterBMA还提供了独特的功能，包括对平均聚类的概率分配，结合“硬”和“软”聚类算法的分配概率，以及测量平均聚类分配中基于模型的不确定性。此方法在附带的同名R包中实现。
2023-03-26 stat.AP stat.ME stat.ML
Cluster weighted models with multivariate skewed distributions for functional data
MacEwan University（麦考文大学）；Indian Institute of Technology Kanpur（坎普尔印度理工学院）
该研究提出funWeightClustSkew聚类方法，基于函数线性回归模型混合体与三种偏态多元分布，遵循funHDDC框架扩展聚类加权模型至函数数据，构建EM算法估计参数，在模拟数据和空气质量数据集上验证了性能。
2025-04-17 cs.LG stat.ME stat.ML
Bayesian sparse convex clustering via global-local shrinkage priors
NTT Advanced Technology Corporation（NTT先进技术公司）；The University of Electro-Communications（电气通信大学）
稀疏凸聚类是在凸聚类框架下对观测值进行聚类的同时进行变量选择。虽然加权$L_1$范数通常用于稀疏凸聚类中的正则化项，但如果样本量不足，则其使用增加了对数据的依赖性并降低了估计精度。针对这些问题，本文提出了一种基于贝叶斯套索和全局-局部收缩先验的贝叶斯稀疏凸聚类方法。我们引入吉布斯抽样算法，我们的方法使用的比例混合正态分布。仿真研究和实际数据分析表明了所提出方法的有效性。
2020-05-26 cs.LG stat.ME stat.ML
