Parsimonious Shifted Asymmetric Laplace Mixtures
介绍了一类简约移动非对称Laplace混合模型。我们将混合因子分析模型推广到移动的非对称拉普拉斯分布。对分解后的分量尺度矩阵的组成部分施加约束,导致了一系列的简约模型。描述了一个显式的两阶段参数估计过程,并比较了贝叶斯信息准则和综合完全似然用于模型选择。这个新的家庭的模型被应用到真实的数据,在那里它是比较其高斯模拟聚类和分类范例。
2013-11-01 stat.CO stat.ME stat.ML
Mixtures of Skew-t Factor Analyzers
在本文中,我们介绍了一个混合的偏t因子分析以及一个家庭的混合模型的基础上。我们使用的斜t分布混合模型是广义双曲分布混合模型的一个极限情形。像高斯分布和t分布类似物一样,我们的偏t因子分析器的混合非常适合于高维数据的基于模型的聚类。对分解协方差参数的组件施加约束,导致八个灵活的模型的发展。模型参数估计采用交替期望-条件最大化算法,模型选择采用贝叶斯信息准则。该模型适用于真实和模拟数据,提供优越的聚类结果相比,一个完善的家庭高斯混合模型。
2013-06-18 stat.ME
High-dimensional unsupervised classification via parsimonious contaminated mixtures
污染高斯分布代表高斯分布的一个简单的重尾椭圆推广;与经常考虑的t分布不同,它还允许自动检测轻微的离群点或“坏”点,其方式与观察通常分配给有限混合模型上下文中的组相同。从这个分布出发,我们提出了污染因子分析模型作为降维和检测更高维度的坏点的方法。混合污染高斯因子分析器(MCGFA)模型如下,并扩展最近提出的混合污染高斯分布的高维数据。我们介绍了一个家庭的32个简约的模型,通过引入一般MCGFA模型的协方差和污染结构的约束。我们概述了参数估计的期望最大化算法的一个变体。各种实施问题进行了讨论,和新的家庭的模型相比,成熟的方法模拟和真实的数据。
2019-08-28 stat.AP stat.CO stat.ME
Mixtures of Factor Analyzers with Fundamental Skew Symmetric Distributions
混合因子分析器(MFA)为高维数据集建模提供了一个强大的工具。近年来,MFA的几种推广已经被开发出来,其中因子和/或误差的正态性假设被放松以允许数据中的偏态。然而,由于所采用的组件密度的形式,在大多数这些模型中的因素/误差的分布通常限于建模偏度集中在一个单一的方向。在这里,我们引入了一个更灵活的有限混合因子分析的基础上的类的规模混合的典型基本偏正态分布(SMCFUSN)。这类非常一般的偏态分布可以捕获数据中各种类型的偏态和不对称性。特别是,建议的混合模型的SMCFUSN因子分析仪(SMCFUSNFA)可以同时容纳多个方向的偏度。因此,它将许多常用的模型封装为特殊和/或限制情况,例如某些版本的斜正态和斜t因子分析器以及斜双曲因子分析器的模型。为了说明,我们专注于SMCFUSN分布的类的t-分布成员,导致混合的典型的基本倾斜t-因子分析(CFUSTFA)。参数估计可以通过EM型算法通过极大似然来执行。使用两个真实的数据集证明了所提出的模型的有用性和潜力。
2018-10-26 stat.ME
On Mixtures of Skew Normal and Skew t-Distributions
偏态分布的有限混合已成为一种有效的工具,在建模具有非对称特征的异构数据。近年来,随着各种提案的迅速出现,这些提案相似但不相同,它们之间的联系及其相对绩效变得相当不清楚。本文旨在通过对现有的偏态分布进行系统的分类,将其分为四种类型,从而阐明它们之间的密切关系,从而简要概述这些发展。这也有助于理解的一些建议的期望最大化(EM)为基础的算法的计算模型的参数的最大似然估计之间的联系。本文的最后一部分提出了一个说明,这些混合模型在聚类一个真实的数据集,相对于其他非椭圆轮廓聚类方法和相关的算法,其实施的性能。
2013-05-28 stat.ME
Differential gene expression analysis via two-component mixture models with a semiparametric skew-normal scale mixture alternative
Pukyong National University(釜庆国立大学);University of Queensland(昆士兰大学)
本文提出一种半参数混合模型,用于微基因表达分析,通过偏正态尺度混合替代处理偏态和厚尾问题,提高分析精度。
2026-03-17 stat.ME
Regression models for binary data with scale mixtures of centered skew-normal link functions
针对二元回归中对称链接函数不适用及偏态链接函数可识别性问题,提出基于中心化参数化下偏态正态分布尺度混合的链接函数,并固定偏度符号,通过贝叶斯推断和模拟验证,应用于心脏病数据。
2024-07-20 stat.ME
Bayesian analysis of multivariate stochastic volatility with skew distribution
提出了具有斜分布的多变量随机波动率模型。利用Cholesky随机波动模型,将具有杠杆效应的单变量随机波动过程和广义双曲斜t分布嵌入到具有时变相关性的多变量分析中.贝叶斯先验工作允许这种方法提供简约的斜结构,并很容易扩展到高维问题。每日股票收益的分析说明。实证结果表明,时变相关性和稀疏偏斜结构有助于提高预测性能和VaR预测。
2012-12-20 stat.AP stat.ME
Parsimonious Gaussian mixture models with piecewise-constant eigenvalue profiles
Université Côte d’Azur(法国埃克塞特大学);INRIA(法国国家信息与自动化技术研究院);CNRS(法国国家科学研究中心);LJAD(应用数学与计算科学实验室);Maasai Project Team(马萨伊项目团队)
本文提出具有分段常数协方差特征值轮廓的简约高斯混合模型,扩展了MPPCA等低秩模型,并设计逐分量惩罚EM算法联合学习参数与超参数,在密度拟合、聚类和图像去噪中取得更优的似然-简约性权衡。
2025-11-07 cs.LG stat.AP stat.CO
Bayesian inference for scale mixtures of skew-normal linear models under the centered parameterization
本文针对偏态及重尾/轻尾数据,在中心化参数化下构建了偏态正态分布尺度混合类及线性回归模型,利用分层表示和MCMC方案进行参数估计,并开发了残差与影响分析工具,通过模拟和真实数据验证了方法有效性。
2024-06-05 stat.ME
A Mixture of SDB Skew-t Factor Analyzers
斜t分布的混合为基于模型的聚类提供了灵活的选择。这类混合模型可以使用各种斜t分布公式来实现。在这里,我们开发了一个混合的偏-t因子分析模型的聚类高维数据使用灵活的配方的偏- t分布。我们的方法,它代表了一个灵活的偏t分布的混合因子分析模型的扩展,方法的细节,概述和详细的参数估计提供。聚类结果进行了说明和比较的一种替代配方的混合物的偏T因子分析模型以及混合物的因子分析模型。
2017-05-05 stat.CO stat.ME
Infinite mixtures of multivariate normal-inverse Gaussian distributions for clustering of skewed data
多变量正态逆高斯(MNIG)分布的混合可以用于对表现出偏态和重尾等特征的数据进行聚类。然而,对于聚类分析,使用传统的有限混合模型框架,或者组分的数量需要是已知的$a$ - $priori$,或者需要在导出可能数量的组分的范围的结果之后使用某种模型选择标准来估计$a$ - $posteriori$。然而,不同的模型选择标准有时会导致不同数量的组件产生不确定性。在这里,一个无限混合模型框架,也被称为狄利克雷过程混合模型,提出了混合MNIG分布。该狄利克雷过程混合物模型方法允许组分数量从1到$\infty$(实际上从1到$N$)自由增长或衰减,并且组分数量与贝叶斯框架中的参数估计值一起推断,从而减轻了对模型选择标准的需求。我们提供了真实的数据应用程序与基准数据集,以及一个小的模拟实验,与其他现有的模型进行比较。所提出的方法提供了竞争力的聚类结果,其他聚类方法的模拟和真实的数据和参数恢复说明使用模拟研究。
2020-05-11 stat.ME
Bayesian Measurement Error Models Using Finite Mixtures of Scale Mixtures of Skew-Normal Distributions
我们提出了一个建议,以处理的非正态性问题的背景下,测量误差的回归模型的响应和解释变量的观察误差。我们扩展了正态模型的未观察到的协变量和随机误差的斜正态分布的规模混合的有限混合联合建模。这种方法使我们能够以极大的灵活性对数据进行建模,适应偏斜,重尾和多模态。
2020-07-26 stat.AP stat.ME
Finite Mixtures of Skewed Matrix Variate Distributions
聚类是在数据中发现底层组结构的过程。虽然基于混合模型的聚类是牢固建立在多变量的情况下,有一个矩阵变量分布的工作相对较少,没有与偏态矩阵变量分布的混合物的聚类。四个有限的混合物被认为是偏态矩阵变量分布。参数估计是使用期望条件最大化算法,并模拟和真实数据用于说明。
2018-03-05 stat.CO stat.ME
Robust classification via finite mixtures of matrix-variate skew t distributions
针对真实矩阵变量数据的不对称性,提出矩阵变量偏 t 分布(MVST)并扩展至有限混合模型,通过 EM 型算法估计参数,实验验证了其在聚类和分类中处理非对称数据的有效性。
2024-07-29 stat.ME
Flexible Bayesian modelling in dichotomous item response theory using mixtures of skewed item curves
大多数项目反应理论(IRT)的二分法反应模型是基于概率或logit链接函数,假设一个正确的反应的概率和提交给测试的个人的潜在特质之间的对称关系。这一假设将这些模型的使用限制在所有项目都具有对称行为的情况下。另一方面,文献中提出的非对称模型要求测试中的所有项目都具有非对称行为。这一假设不适用于大多数由对称和非对称项目组成的测验。此外,文献中现有模型的直接扩展将需要事先选择项目的对称/不对称状态。本文提出了一个贝叶斯项目反应理论模型,它以一种灵活而简约的方式解释了对称和非对称项目。这是通过在偏度参数之前分配一个有限混合物来实现的,其中一个混合物成分是零处的点质量。这允许在模型选择和模型平均方法下进行分析。非对称项曲线是通过中心偏态正态分布设计的,它在参数解释和计算效率方面具有特别吸引人的参数化。提出了一种有效的MCMC算法来进行贝叶斯推断,并在一些模拟例子中研究了它的性能。最后,所提出的方法被应用到一个大规模的教育考试在巴西的数据集。
2022-05-20 stat.ME
Finite mixture model of conditional dependencies modes to cluster categorical data
我们提出了一个简约的扩展经典的潜在类模型聚类分类数据放松类条件独立性假设。在这种新的混合模型,命名为条件模式模型,变量被分组到条件独立的块。相应的块分布是一个简约的多项分布,其中几个自由参数对应于最可能的模态交叉,而其余的概率质量均匀分布在其他模态交叉。因此,该模型允许带出变量之间的类内依赖性,并通过几个特征模态交叉来总结每个类。模型选择是通过一个内吉布斯采样器,以克服块结构搜索的计算困难。由于这种方法涉及到计算的完整数据的可能性,我们提出了一种新的方法(精确的连续参数和近似的离散),它避免了偏见的\textsc{bic}标准指出,我们的实验。最后,仅通过\textsc{em}算法估计最佳模型的参数。模拟数据和两个生物数据集上的新模型的特点说明。这些结果加强了这样一种想法,即这个简单的模型可以减少条件独立假设所涉及的偏差,并给出有意义的参数。两种应用程序均使用R软件包\texttt{CoModes}进行
2014-02-20 stat.ME
Modeling and estimating skewed and heavy-tailed populations via unsupervised mixture models
University of Trento(特伦托大学)
研究针对非负重尾数据开发混合模型,核心方法是用对数正态成分和帕累托型尾部建模,通过EM算法估计。贡献是模型完全无监督且灵活,拟合优度相当且更易估计,已在R包lognGPD实现。
2026-07-14 stat.ME
Mixtures of Skewed Matrix Variate Bilinear Factor Analyzers
近年来,数据已经变得越来越高维,因此,增加了对用于聚类的降维技术的需求。虽然这种技术在多变量数据的文献中已经牢固建立,但在矩阵变量或三向数据领域相对较少。此外,可用的几种方法都假设矩阵变量正态性,如果存在聚类偏度或过度峰度,这并不总是明智的。提出了使用偏态矩阵变量分布的双线性因子分析器的混合。在所有,四个这样的混合模型,矩阵变量偏t,广义双曲,方差伽玛,正态逆高斯分布的基础上,分别。
2019-09-27 stat.CO stat.ME stat.ML
A consensus-constrained parsimonious Gaussian mixture model for clustering hyperspectral images
University College Dublin(都柏林大学学院)
针对高光谱图像像素标注中基于阈值方法的主观性与泛化性问题,提出共识约束简约高斯混合模型(ccPGMM),通过潜变量模型和共识聚类提升聚类性能与计算效率,在食品样本高光谱图像中验证有效。
2024-12-10 cs.CV eess.IV stat.ME
Bayesian nonparametric location-scale-shape mixtures
离散混合模型是密度估计最成功的方法之一。在贝叶斯非参数框架下,Dirichlet过程的位置-尺度混合高斯核是金标准,既具有良好的理论性质,又具有计算易处理性。在本文中,我们探讨使用的偏态核,它可以自然地容纳几个程度的偏度的使用第三个参数。该核函数的选择使我们能够在不同的应用中制定具有大支持度和良好性能的非参数位置-尺度-形状混合先验。渐近地,我们表明,这种建模框架是一致的频率论意义上。有效的吉布斯抽样算法进行了讨论,并通过模拟和应用星系速度和生育率数据的方法进行了测试的性能。扩展,以适应离散数据进行了讨论。
2013-11-29 stat.ME
Graphical tools for model-based mixture discriminant analysis
本文介绍了一种方法,用于可视化的降维子空间的分类结构和几何特征所引起的估计高斯混合模型的判别分析。特别是,我们考虑的情况下,混合物模型的混合物与不同的参数化,允许简约的模型。该方法是一个扩展的现有工作,降低基于模型的聚类基于高斯混合的维数。关于降维子空间的信息由类位置的变化提供,并且取决于估计的混合模型,由类分散的变化提供。沿着估计方向的投影提供了有助于可视化类的结构及其特征的摘要图。该方法的适当修改允许我们恢复最具判别力的方向,即,那些在类之间显示最大分离的。使用模拟和真实的数据来说明这种方法。
2015-08-07 stat.ME
Extending finite mixture models with skew-normal distributions and hidden Markov models for time series
本文提出将偏正态分布整合到隐马尔可夫模型框架以扩展有限混合模型,通过状态特定参数估计捕捉动态依赖与结构变化,经模拟和实证验证鲁棒性,拓宽其在多领域的时间序列分析应用。
2025-09-24 stat.AP stat.ME
Without Pain -- Clustering Categorical Data Using a Bayesian Mixture of Finite Mixtures of Latent Class Analysis Models
本文提出一种贝叶斯两层有限混合模型,用潜在类别分析近似簇分布,结合伸缩采样器和标签切换处理,实现对未知簇数多元分类数据的简约聚类,并在模拟和下背痛数据上验证了有效性。
2024-07-07 stat.ME
Laplace and skew-Laplace approximations for Dirichlet process mixture posterior density
University of Milano-Bicocca(米兰比可卡大学);Bocconi University(博科尼大学)
本文研究了狄利克雷过程混合模型后验密度估计中拉普拉斯和斜拉普拉斯近似方法的性能,通过数值实验比较了标准拉普拉斯近似、修正斜拉普拉斯近似和切片采样基准,发现斜拉普拉斯近似在复杂密度结构中能显著提升后验恢复精度。
2026-04-28 stat.CO stat.ME
Variational Inference and Sparsity in High-Dimensional Deep Gaussian Mixture Models
本文针对高维深度高斯混合模型拟合困难的问题,提出使用稀疏先验进行贝叶斯推断,并开发了一种可扩展的自然梯度变分推断算法,通过过拟合混合实现高效的架构选择,有效提升了高维数据的聚类效果。
2021-09-01 stat.ME
On the Independence Jeffreys prior for skew--symmetric models with applications
本文研究了一类广义纯量反对称模型的反参数的Jeffreys先验。它表明,该先验是对称的0,适当的,并与尾巴$O(λ^{-3/2})$在温和的正则条件。我们还计算了独立Jeffreys先验的情况下未知的位置和尺度参数。当抽样模型属于反对称尺度混合正态分布族时,研究了相应的后验分布存在的充分条件。这些结果的有用性示出使用斜-逻辑模型和两个应用程序与实际数据。
2013-11-20 stat.ME
Estimation and selection for high-order Markov chains with Bayesian mixture transition distribution models
我们开发了两个模型的贝叶斯估计和选择高阶,离散状态马尔可夫链。两者都是基于混合转移分布,它构造了一个转移概率张量与一阶转移矩阵的概率的加法混合。我们证明了所提出的模型的两个用途:通过混合低阶过渡模型来近似高阶动态,以及通过稀疏概率向量的先验过规范和收缩来选择顺序/滞后。先验进一步将所有模型缩小到可识别和可解释的参数化,这对数据分析很有用。我们讨论了模型的属性,并通过仿真研究证明了它们的实用性。我们进一步应用该方法的数据分析,从高阶马尔可夫链文献和时间序列的粉红色鲑鱼在美国阿拉斯加州的小溪丰富。
2019-06-25 stat.ME
Autoregressive Mixture Models for Serial Correlation Clustering of Time Series Data
将时间序列聚类到相似的组中可以通过组合相似时间序列上的信息来改进模型。虽然有一个发达的机构的文献聚类的时间序列,这些方法往往会产生集群独立的模型训练,这可能会导致穷人的模型拟合。我们提出了一种新的分布式方法,同时集群和适合自回归模型组相似的个人。我们应用Wishart混合模型,以便在对相应的自协方差矩阵建模的同时对个体进行聚类。拟合的Wishart尺度矩阵通过Yule-Walker方程映射到聚类水平的自回归系数,拟合稳健的简约自回归混合模型。这种方法是能够辨别差异的基础自相关变化的时间序列的设置与大型异构数据集。我们证明了我们的集群成员估计量、系数的渐近分布的一致性,并通过模拟以及拟合COVID-19预测模型将我们的方法与竞争方法进行比较。
2022-01-16 stat.ME
Deep Skew-t Mixture Models
The University of Queensland(昆士兰大学);Guangdong University of Finance and Economics(广东财经大学)
针对分量分布兼具重尾与方向不对称性的高维聚类问题,提出深度偏t混合模型,经模拟与真实数据验证,其在偏度较强、重尾及小样本等场景下聚类性能优于相关基准模型。
2026-09-02 stat.CO stat.ME stat.ML
Bayesian sparse graphical models and their mixtures using lasso selection priors
我们提出了高斯图形模型的贝叶斯方法,导致稀疏和自适应收缩的精度(逆协方差)矩阵的估计。我们的方法是基于套索型正则化先验导致简约的参数化的精度矩阵,这是必不可少的几个应用程序,涉及学习变量之间的关系。在这种情况下,我们引入了一种新类型的选择之前,开发一个稀疏结构的精度矩阵,使大多数元素正好为零,除了确保正定性-从而进行模型选择和估计同时进行。我们将这些方法扩展到有限和无限混合高斯图形模型的聚类数据使用Dirichlet过程先验。我们讨论了适当的后验模拟方案,以实现后验推理在所提出的模型,包括评估的归一化常数,这是感兴趣的参数的功能,从而导致相关矩阵的限制。我们评估我们的方法的操作特性,通过几个模拟和应用到真实的数据集。
2013-10-03 stat.ME
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注,特别是在处理具有偏态和重尾等特征的数据时。在这里,这样的混合分布,基于多元正态逆高斯(MNIG)分布。对于混合模型的参数估计,采用基于Gibbs抽样的贝叶斯方法,提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析,我们表明参数恢复,我们的方法提供了竞争力的聚类结果相比,其他聚类方法。
2020-05-06 stat.CO
Bridging Asymptotic Independence and Dependence in Spatial Extremes Using Gaussian Scale Mixtures
高斯尺度混合物被构造为具有随机方差的高斯过程。它们具有非高斯边缘,并且可以表现出与高斯过程不同的渐近依赖性,高斯过程除了完全依赖的情况外是渐近独立的。在本文中,我们详细研究了高斯尺度混合物的极值依赖性质,我们统一和扩展的联合尾衰减率在渐近依赖和独立的情况下的一般结果。出于对空间极值的分析,我们提出了几种灵活而简约的参数Copula模型,这些模型可以从渐近依赖平滑地插值到独立性,并将高斯依赖作为特例。我们展示了如何使用删失似然方法将这些新模型拟合到高阈值的一致性,并且我们证明了它们提供了有关尾部特征的有价值的信息。我们的参数方法优于广泛使用的非参数$χ$和$\barχ$统计,通常用于指导模型选择在探索阶段,通过借用跨位置的强度,更好地估计渐近依赖类。我们证明了我们的方法的能力,充分捕捉极端属性的风速数据收集在太平洋西北部,美国。
2017-01-27 stat.ME
Renyi and Shannon Entropies of Finite Mixtures of Multivariate Skew t-distributions
Shannon和Renyi熵是数据集中不确定性的定量度量。它们是由Renyi在熵理论的背景下发展起来的。这些措施已在多元t分布的情况下进行了研究。我们将这些工具推广到多元斜t分布类,然后推广到更多的多元斜t分布有限混合族。特别地,利用广义Holder不等式和多项式定理的一些性质,我们得到了这类族的熵的上界和下界。可以计算这些熵的近似值。此外,通过逼近,利用Lp空间的一些不等式和性质,给出了Renyi熵的一个渐近表达式.最后,我们给出了一个实际数据的例子来说明所考虑的混合模型的熵的行为。
2019-01-29 math.ST stat.TH
Direct Estimation for Commonly Used Pattern-Mixture Models in Clinical Trials
针对临床试验中非不可忽略缺失数据下常用模式混合模型传统实现方式的方差估计难题,本文提出高效直接似然估计分析框架及简约临界点分析,经模拟验证估计一致,并通过2型糖尿病临床试验数据证实实用性。
2024-10-09 stat.ME
Skewed Distributions or Transformations? Modelling Skewness for a Cluster Analysis
由于其数学上的易处理性,高斯混合模型在聚类和分类的文献中占有特殊的地位。然而,尽管高斯混合模型有很多好处,但当数据偏斜或包含离群值时,它会带来问题。正因为如此,多年来已经开发了处理偏斜数据的方法,并分为两大类。第一种是考虑更灵活的偏态分布的混合,第二种是基于将变换到近正态。虽然这些方法在各自的论文中进行了比较,但还没有详细的比较来确定何时一种方法可能比另一种更合适。在这里,我们提供了许多基准数据集的详细比较,以及描述了一种新的方法来评估集群分离。
2020-11-18 stat.AP
Repulsive Mixture Model with Projection Determinantal Point Process
针对贝叶斯混合聚类中成分重叠冗余问题,提出基于投影行列式点过程先验的排斥混合模型,实现可解析后验与高效采样,并提供理论保证,在模拟和神经数据中验证了优越性。
2025-10-09 stat.ME
Bayesian Multiple Index Models for Environmental Mixtures
提出贝叶斯多指标模型框架,结合响应面与暴露指标方法优点,统一环境混合物分析,在NHANES数据中实现良好拟合与高可解释性。
2021-01-13 stat.ME
A Mixture of Generalized Hyperbolic Factor Analyzers
基于模型的聚类对用于聚类的数据施加有限的混合建模结构。有限混合模型假设总体是有限个密度的凸组合,每个总体内的分布是每个特定模型的基本假设。在所有已尝试过的分布中,广义双曲分布的优点是它是其他几种方法的推广,如高斯分布,斜t分布等。虽然其固有的灵活性在许多方面都是一个优势,但这意味着比其特殊和限制情况要估计更多的参数。这项工作的目的是提出一种混合的广义双曲因子分析,引入简约性和扩展的方法,高维数据。本文的工作可以看作是混合因子分析模型在广义双曲混合模型上的推广。我们的广义双曲因子分析仪的性能示出了真实的数据,它的高斯模拟相比,表现良好。
2015-05-22 stat.ME stat.ML
Cluster Weighted Model Based on TSNE algorithm for High-Dimensional Data
University of Milano-Bicocca(米兰比可卡大学)
与许多机器学习模型类似,聚类加权模型(CWM)的准确性和速度都可能受到高维数据的阻碍,导致以前的工作是一种简约的技术来减少“维数诅咒”对混合模型的影响。在这项工作中,我们回顾了集群加权模型(CWM)的背景研究。我们进一步表明,简约的技术是不够的混合模型蓬勃发展的存在下,巨大的高维数据。我们讨论了一个启发式的检测隐藏的组件,通过选择位置参数的初始值使用的默认值在“FlexCWM”R包。我们引入了一种降维技术,称为T-分布随机邻居嵌入(TSNE),以提高在高维空间的简约CWM。最初,CWM适用于回归,但为了分类目的,所有多类变量都被转换为带有一些噪声的几何变换。模型参数采用期望最大化算法求解。使用来自不同领域的真实数据集证明了所讨论的技术的有效性。
2022-08-02 cs.HC cs.LG stat.ML
Robust Fitting of Mixture Models using Weighted Complete Estimating Equations
混合模型考虑了数据中潜在的异质性,被广泛用于分类和聚类问题。混合模型可以使用期望最大化算法进行估计,该算法使用基于混合模型的分层表达的聚类分配的潜在隶属度变量所限定的完整估计方程。然而,当混合成分具有轻尾(light tail)(例如正态分布)时,混合模型可能对离群值敏感。提出了一种混合模型稳健拟合的加权完全估计方程(WCE)方法。我们的WCE引入了权重来完成估计方程,使得权重可以自动降低离群值的权重。权重的构造类似于混合模型的密度幂散度,但在我们的WCE中,它们仅取决于组分分布,而不是整个混合。一种新的期望估计方程(ESTA)算法也被开发来解决WCE。为了说明的目的,一个多元高斯混合,专家的混合物,和一个多元的偏正态混合物被认为是,以及如何实现我们的算法可以为这些特定的模型进行了描述。使用模拟和真实数据集检验了所提出的稳健估计方法的数值性能。
2022-03-17 stat.ME
Dynamic modeling of mortality via mixtures of skewed distribution functions
人们对预测死亡率越来越感兴趣。在这篇文章中,我们提出了一种新的动态贝叶斯方法建模和预测的死亡年龄分布,专注于一个狄拉克质量,高斯分布和斜正态分布的三个组成部分的混合物。根据指定的模型,死亡年龄分布的特征是通过与婴儿、成人和老年死亡率的主要方面相对应的七个参数来确定的。所提出的方法侧重于多个国家的连贯建模,并遵循贝叶斯方法进行推理,我们允许跨人群借用信息,并将参数缩小到一个共同的平均水平,隐含地惩罚不同的场景。跨年度的动态建模是通过一个层次的动态先验分布,可以描述每个死亡率组成部分的时间演变,并预测死亡年龄分布。多个国家的实证结果表明,所提出的方法优于流行的方法预测死亡率,提供了可解释的见解的死亡率的演变。
2021-12-17 stat.AP
A Bayesian Framework on Asymmetric Mixture of Factor Analyser
混合因子分析模型(MFA)是一种有效的高维数据分析模型,它利用基于协方差阵的因子分析技术减少了自由参数的个数。该模型还提供了一种重要的方法来确定数据中的潜在组。有几项研究扩展了基于非对称和/或离群数据集的模型,这些数据集具有一些已知的计算限制,这些限制已在频率论案例中进行了研究。在本文中,MFA模型与一个丰富的和灵活的类斜态(无限制)广义双曲(称为SUNGH)分布以及贝叶斯结构与几个计算的好处已经推出。SUNGH系列提供了相当大的灵活性,可以在不同方向上对偏度进行建模,并允许重尾数据。SUNGH系列的结构中有几个理想的属性,包括分析灵活的密度,这导致简化了用于估计参数的计算。考虑到因子分析模型,SUNGH系列还允许误差分量和因子得分的偏态和重尾。在本研究中,使用这一系列的分布的优点进行了讨论,并已被证明使用真实数据的例子和模拟的MFA模型的适当的效率。
2022-11-04 cs.LG stat.ME
Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型,用于计数数据聚类,通过变分推断估计参数,在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
Clustering Multivariate Data using Factor Analytic Bayesian Mixtures with an Unknown Number of Components
最近的工作过拟合贝叶斯混合分布提供了一个强大的框架,使用潜在的高斯模型,类似于因子分析模型的聚类多变量数据。过拟合混合模型提供的灵活性产生了一个简单而有效的方法,以估计未知数量的集群和模型参数的马尔可夫链蒙特卡罗(MCMC)抽样。本研究通过考虑一组8个参数化扩展了这种方法,从而产生了每个聚类的协方差阵的简约表示。为了近似地从过拟合混合物的后验分布中采样,实现了与先前的并行回火方案相结合的Gibbs采样器。根据贝叶斯信息准则选择参数化和因子数。与标签切换相关的可识别性问题通过使用等价类代表算法对模拟输出进行后处理来处理。贡献的方法和软件进行了演示和比较,类似的模型估计使用期望最大化算法的模拟和真实的数据集。该软件可在https://CRAN.R-project.org/package=fabMix上在线获得。
2019-06-02 stat.CO stat.ME
A Bayesian Nonparametric approach to Reconstruction and Prediction of Random Dynamical Systems
基于马尔可夫链蒙特卡罗方法(MCMC),提出了一种贝叶斯非参数混合模型,用于离散随机动力系统的时间序列重构和预测.我们的研究结果可以用于物理建模的研究人员感兴趣的快速和准确的估计低维随机模型时,所观察到的时间序列的大小是小的,噪声过程(也许)是非高斯的。特别是在多项式映射的情况下,证明了推理过程的任意程度,当几何棒打破混合物的过程之前,在空间的密度,适用于添加剂的错误。我们的方法是简约的贝叶斯非参数技术的基础上Dirichlet过程的混合物,灵活和一般。基于合成时间序列的仿真。
2017-09-30 stat.AP stat.ME
A LASSO-Penalized BIC for Mixture Model Selection
基于族的方法对基于混合模型的聚类和分类的有效性取决于简约模型的选择。目前的智慧建议贝叶斯信息准则(BIC)的混合模型选择。然而,BIC具有众所周知的局限性,包括倾向于高估组件的数量,以及倾向于经常大幅低估更高维度的组件数量。虽然前一个问题可以通过合并组件来解决,但后者在集群和分类应用程序中是不可能缓解的。在本文中,一个LASSO惩罚BIC(LPBIC)的介绍,以克服这个问题。这种方法是说明的基础上的应用程序的扩展的混合物的因素分析,其中的LPBIC是用来选择组件的数量和潜在因素的数量。在几种情况下,LPBIC表现出匹配或优于BIC。
2012-11-27 math.ST stat.CO stat.ME
Extending Growth Mixture Models Using Continuous Non-Elliptical Distributions
生长混合模型(GARCH)结合了传统的随机效应生长建模和有限混合建模中的潜在轨迹类;因此,它们提供了一种处理受试者在其发展过程中未观察到的异质性的方法。具有高斯随机效应的甘精胰岛素在文献中占主导地位。当数据是不对称的和/或具有较重的尾部时,需要多个潜在类来捕获观察到的变量分布。因此,GMM连续非椭圆分布的建议,以捕捉偏态和较重的尾部数据集。具体地说,多元斜t分布和广义双曲分布被引入到推广的GSPILE。在扩展GARCH时,考虑了四种统计模型,它们具有不同的测量误差和随机效应分布。具有非椭圆分布的高斯分布的数学发展依赖于它们作为正态方差-均值混合的表达以及与广义逆高斯分布的结果关系。在使用模拟和真实数据说明具有非椭圆分布的GMM的性能之前,在期望最大化框架内概述了参数估计。
2017-11-14 stat.AP stat.CO stat.ME
Parsimonious Mixtures of Matrix Variate Bilinear Factor Analyzers
多年来,数据已经变得越来越高维,这促使对降维技术的需求增加。这对于聚类(无监督分类)以及半监督和监督分类可能尤其如此。在文献中已经提出了许多方法用于双向(多变量)数据,并且最近已经提出了用于三向(矩阵变量)数据的方法。一种这样的方法是混合矩阵变量双线性因子分析器(MMVBFA)模型。在这里,我们提出了总共64个简约的MMVBFA模型。模拟和真实数据用于说明。
2019-11-20 stat.CO stat.ME
Sequential Dirichlet Process Mixtures of Multivariate Skew t-distributions for Model-based Clustering of Flow Cytometry Data
流式细胞术是一种高通量技术,用于在单细胞水平上定量多种表面和细胞内标志物。这使得能够识别细胞亚型,并确定它们的相对比例。该技术的改进允许使用多种标记物描述来自血液样品的数百万个单个细胞。这导致高维数据集,其手动分析非常耗时且可重复性差。虽然已经开发了几种方法来执行细胞群的自动识别,但它们中的大多数独立地处理和分析每个样品。然而,在实践中,单个样本很少是独立的(例如纵向研究)。在这里,我们建议使用贝叶斯非参数方法与Dirichlet过程混合物(dirichlet)的多变量斜$t$-分布进行基于模型的流式细胞术数据的聚类。$t$模型直接从数据中估计细胞群体的数量,避免了模型选择问题,并且偏斜$t$分布提供了对细胞群体的离群值和非椭圆形状的鲁棒性。为了适应重复测量,我们提出了一个顺序的策略依赖于参数近似的后验。我们说明了我们的方法在模拟数据上的良好性能,在实验基准数据集上,以及在DALIA-1试验的新纵向数据上,该试验评估了针对HIV的治疗性疫苗。在基准数据集上,顺序策略的性能优于所有其他评估方法,同样,DALIA-1数据的性能也有所提高。我们已经在R包NPflow中为社区提供了该方法。
2017-09-11 stat.ML
Inference and Mixture Modeling with the Elliptical Gamma Distribution
我们研究了椭圆Γ分布(EGD)的建模和推理。我们考虑EGD散布矩阵的极大似然(ML)估计,为此我们开发了新的定点算法。我们的算法是有效的,收敛到全局最优,尽管非凸性。此外,它们比Kent & Tyler(1991)的著名迭代算法和复杂的流形优化算法都要快得多。随后,我们调用我们的ML算法作为子程序,用于估计混合EGD的参数。我们说明了我们的方法,将它们应用到自然图像统计模型-建议EGD混合模型产生最简约的模型之间的几个竞争的方法。
2015-12-20 math.OC stat.CO stat.ML
Families of Parsimonious Finite Mixtures of Regression Models
回归模型的有限混合为研究具有函数依赖关系的数据的异质性提供了灵活的框架。这些模型可以方便地用于具有明确回归关系的数据的无监督学习。我们通过对多元误差协方差阵进行特征分解来扩展这种模型。通过约束部分分解,我们得到了简约的回归混合和伴随变量的回归混合的家庭。这些模型家族解释了多个响应之间的相关性。提出了一种期望最大化算法用于参数估计,并在模拟和实际数据上说明了该算法的性能。
2013-12-02 stat.CO stat.ME stat.ML
Coarsened mixtures of hierarchical skew normal kernels for flow cytometry analyses
流式细胞术(FCM)是用于测量单细胞表型和功能的标准多参数测定。它通常用于定量血液和分解组织中细胞亚群的相对频率。FCM数据的典型分析涉及细胞分类-也就是说,鉴定样品中的细胞亚群-以及在不同样品或条件下比较细胞亚群。虽然现代实验通常需要在多个批次中收集和处理样品,但批次间FCM数据的分析具有挑战性,因为样品间的差异可能是由于真实的生物学变异或技术原因(如抗体批次效应或批次间的仪器光学)而产生的。因此,在多样本FCM数据的比较分析中的关键步骤--在现有的用于分析此类数据的自动化方法中缺失--是交叉样本校准,其目标是在存在技术变化的情况下在多个样本中对齐相应的细胞亚群,以便可以有意义地比较生物学变化。我们介绍了贝叶斯非参数层次建模方法,同时完成校准和细胞分类在一个统一的概率方式。我们的方法的三个重要特征使得它在分析多样本FCM数据时特别有效:非参数混合避免了预先指定细胞簇的数量;分层斜正态核允许细胞子集形状的灵活性和它们位置的跨样本变化;最后,“粗化”策略使得推断对于偏离模型(例如,未被斜态核捕获的重尾性)是鲁棒的。我们证明了我们的方法的优点在模拟的例子,并进行了案例研究,在两个多样本FCM数据集的分析。
2020-08-31 stat.AP
Parsimonious Feature Extraction Methods: Extending Robust Probabilistic Projections with Generalized Skew-t
我们提出了一种新的概括学生t概率主成分方法:(1)占观察数据的非对称分布;(2)是一个框架,分组和广义多自由度结构,这提供了一个更灵活的方法来建模组的边缘尾部依赖的观察数据;(3)分离的尾部效应的误差项和因素。新的特征提取方法是在不完整的数据设置中导出的,以有效地处理观测向量中存在的缺失值。我们讨论了各种特殊情况下的算法是一个结果的简化假设的过程中产生的数据。新框架的适用性在由市值最高的加密货币组成的数据集上得到了说明。
2020-09-24 stat.AP stat.ME stat.ML