Parsimonious Mixtures of Matrix Variate Bilinear Factor Analyzers
多年来,数据已经变得越来越高维,这促使对降维技术的需求增加。这对于聚类(无监督分类)以及半监督和监督分类可能尤其如此。在文献中已经提出了许多方法用于双向(多变量)数据,并且最近已经提出了用于三向(矩阵变量)数据的方法。一种这样的方法是混合矩阵变量双线性因子分析器(MMVBFA)模型。在这里,我们提出了总共64个简约的MMVBFA模型。模拟和真实数据用于说明。
2019-11-20 stat.CO stat.ME
Families of Parsimonious Finite Mixtures of Regression Models
回归模型的有限混合为研究具有函数依赖关系的数据的异质性提供了灵活的框架。这些模型可以方便地用于具有明确回归关系的数据的无监督学习。我们通过对多元误差协方差阵进行特征分解来扩展这种模型。通过约束部分分解,我们得到了简约的回归混合和伴随变量的回归混合的家庭。这些模型家族解释了多个响应之间的相关性。提出了一种期望最大化算法用于参数估计,并在模拟和实际数据上说明了该算法的性能。
2013-12-02 stat.CO stat.ME stat.ML
Multiple Scaled Contaminated Normal Distribution and Its Application in Clustering
多变量污染正态(MCN)分布表示多变量正态(MN)分布的简单重尾推广,以在存在轻度离群值(称为"坏"点)的情况下对椭圆轮廓散射进行建模。MCN还可以自动检测坏点。这些优势的代价是两个额外的参数,都有具体和有用的解释:良好观测的比例和污染程度。然而,点可能在某些方面是坏的,但在其他方面是好的。使用良好观察的总体比例和总体污染程度是有限的。为了克服这一限制,我们提出了一个多尺度污染正态分布(MSCN)的比例良好的观察和污染程度的每个维度。一旦模型被拟合,每个观测值就具有相对于每个维度良好的后验概率。由于这种概率,我们有一个方法,同时定向稳健估计的MN分布的参数的基础上向下加权和自动定向检测坏点的最大后验概率。添加术语"定向"是为了指定该方法对每个维度单独起作用。MSCN分布的混合也被提出作为所提出的模型的鲁棒聚类的应用。基于极大似然方法,EM算法的扩展用于参数估计。真实和模拟数据被用来显示我们的混合物的有用性,相对于成熟的混合物的重尾对称分布。
2018-10-21 stat.CO stat.ME
Mixtures of Multivariate Power Exponential Distributions
引入了多元幂指数分布混合分布的扩展族。虽然拟合重尾和偏度最近在基于模型的聚类文献中受到了广泛关注,但我们研究了可以处理不同尾重和峰值数据的分布的使用。一个家庭的简约模型,提出了使用特征分解的尺度矩阵。提出了一种广义的期望最大化算法,该算法结合了基于最小化-最大化方法的凸优化和基于Stiefel流形上加速线搜索算法的优化.最后,使用玩具和基准数据说明了这一系列模型的实用性。
2015-06-12 stat.CO stat.ME
Capturing Patterns via Parsimonious t Mixture Models
本文利用一个简化版本的多变量t-因子分析器(MtFA)的混合物的强大的混合建模和高维数据,经常包含一些离群值的聚类。引入了两类8个简约t混合模型,利用交替期望条件最大化(AECM)算法实现了参数的最大似然估计的计算.通过图像压缩和紧凑的面部表示的应用程序说明了该方法的有用性。
2013-03-10 stat.AP stat.ME
Bayesian Semiparametric Multivariate Density Deconvolution via Stochastic Rotation of Replicates
我们考虑多变量密度反卷积的问题,其中随机向量的分布需要从被条件异方差测量误差污染的重复中估计。我们提出了一个概念上简单,但从根本上新颖的和高度鲁棒的方法,多变量密度反卷积随机旋转的复制对相应的真实潜在值。我们还解决了另外显着的挑战性问题,适应条件异方差测量误差在这个新引入的框架。我们采取贝叶斯路线估计和推理,通过一个有效的马尔可夫链蒙特卡罗算法,适当地适应在我们的分析的各个方面的不确定性。渐近收敛保证的方法也建立。我们通过模拟实验及其在估计不同膳食成分的长期联合平均摄入量中的实际效用,说明了该方法的经验功效,从受测量误差污染的24小时膳食回忆。
2022-11-28 stat.ME
Multivariate response and parsimony for Gaussian cluster-weighted models
提出了一类简约高斯簇加权模型。这个家庭关注的多变量扩展到集群加权建模,可以解释多变量响应之间的相关性。通过约束施加在分量协方差阵上的特征分解的部分来实现简约。给出了系统可辨识的充分条件,并给出了参数估计的期望最大化算法。模型的性能进行了研究合成和经典的真实数据集,并与一些流行的方法进行比较。最后,占线性依赖关系中存在的线性回归结构,提供更好的性能,相对于集群,在现有的方法。
2016-02-26 stat.CO stat.ME stat.ML
Gaussian Parsimonious Clustering Models with Covariates and a Noise Component
我们考虑基于模型的聚类方法的连续,相关的数据,占外部信息的混合型固定协变量的存在下,提出了MoEClust套件的模型。这些模型允许协变量的不同子集通过将混合物的参数建模为协变量的函数来影响组分重量和/或组分密度。一个熟悉的范围内的约束特征分解参数的组件协方差阵也容纳。因此,本文讨论了等价的目标,包括协变量的高斯简约聚类模型,并将简约协方差结构的高斯混合专家框架的所有特殊情况下。MoEClust模型在单变量和多变量数据集的应用中从这两个角度都表现出显着的改进。新的扩展,包括一个统一的噪声组件捕获离群值,并解决期望最大化算法的初始化,模型选择,和可视化的结果也提出了。
2021-07-13 stat.ME
Bayesian analysis of multivariate stochastic volatility with skew distribution
提出了具有斜分布的多变量随机波动率模型。利用Cholesky随机波动模型,将具有杠杆效应的单变量随机波动过程和广义双曲斜t分布嵌入到具有时变相关性的多变量分析中.贝叶斯先验工作允许这种方法提供简约的斜结构,并很容易扩展到高维问题。每日股票收益的分析说明。实证结果表明,时变相关性和稀疏偏斜结构有助于提高预测性能和VaR预测。
2012-12-20 stat.AP stat.ME
Type I multivariate Pólya-Aeppli distributions with applications
针对多元零膨胀过度离散计数数据建模研究不足的问题,提出两种新的简约多元Pólya-Aeppli模型,并通过模拟与两个基准数据集验证其优于现有方法。
2024-01-14 stat.AP stat.ME
Clustering Multivariate Data using Factor Analytic Bayesian Mixtures with an Unknown Number of Components
最近的工作过拟合贝叶斯混合分布提供了一个强大的框架,使用潜在的高斯模型,类似于因子分析模型的聚类多变量数据。过拟合混合模型提供的灵活性产生了一个简单而有效的方法,以估计未知数量的集群和模型参数的马尔可夫链蒙特卡罗(MCMC)抽样。本研究通过考虑一组8个参数化扩展了这种方法,从而产生了每个聚类的协方差阵的简约表示。为了近似地从过拟合混合物的后验分布中采样,实现了与先前的并行回火方案相结合的Gibbs采样器。根据贝叶斯信息准则选择参数化和因子数。与标签切换相关的可识别性问题通过使用等价类代表算法对模拟输出进行后处理来处理。贡献的方法和软件进行了演示和比较,类似的模型估计使用期望最大化算法的模拟和真实的数据集。该软件可在https://CRAN.R-project.org/package=fabMix上在线获得。
2019-06-02 stat.CO stat.ME
Joint variable and rank selection for parsimonious estimation of high-dimensional matrices
我们提出了稀疏,高维多变量响应回归模型的降维方法。响应数量和预测因子数量都可能超过样本量。有时被视为互补的,预测选择和降秩是最流行的策略,以获得低维近似的参数矩阵在这样的模型。在这篇文章中,我们表明,重要的收益,预测精度可以通过共同考虑它们获得。我们提出了一类新的稀疏多元回归模型,其中系数矩阵具有低秩和零行,或者可以很好地近似这样的矩阵。接下来,我们介绍的估计是基于惩罚最小二乘,与新的罚款,同时施加行和秩限制的系数矩阵。我们证明了这些估计确实适应未知矩阵的稀疏性,并具有快速的收敛速度。我们支持我们的理论结果与广泛的模拟研究和两个数据分析。
2013-02-13 math.ST stat.ME stat.ML
Multivariate probability distribution for categorical and ordinal random variables
本文提出了一种用于分类和有序随机变量的多元概率分布,通过Grassmann分布结合虚拟编码并引入简约参数化确保概率正性,并据此开发了因子分析方法且通过真实数据集验证了其有效性。
2023-04-02 physics.data-an stat.ME
Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型,用于计数数据聚类,通过变分推断估计参数,在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
On goodness-of-fit tests for arbitrary multivariate models
拟合优度检验通常用于数据分析,以测试分布与一组数据的一致性。这些测试可用于检测已知背景下的未知信号,或在被不太了解的背景污染的实验中对拟议的信号分布设置限制。可以针对任何拟议分布的开箱即用非参数检验仅在单变量情况下可用。在本文中,我们讨论了如何为任意的多元分布或多元数据生成模型建立拟合优度检验。
2023-03-17 astro-ph.IM hep-ex physics.data-an
Cluster weighted models with multivariate skewed distributions for functional data
MacEwan University(麦考文大学);Indian Institute of Technology Kanpur(坎普尔印度理工学院)
该研究提出funWeightClustSkew聚类方法,基于函数线性回归模型混合体与三种偏态多元分布,遵循funHDDC框架扩展聚类加权模型至函数数据,构建EM算法估计参数,在模拟数据和空气质量数据集上验证了性能。
2025-04-17 cs.LG stat.ME stat.ML
Spatio-Temporal Models for Big Multinomial Data using the Conditional Multivariate Logit-Beta Distribution
我们介绍了一种贝叶斯方法,用于分析在空间和时间上引用的高维多项式数据。特别是,假设与多项式数据相关的比例与潜在的时空混合效应模型有logit联系。这种策略允许协方差在空间和时间上都是非平稳的,不对称的,并且是简约的。我们还介绍了使用的条件多元logit-β分布的依赖多项式的数据设置,这导致共轭全条件分布用于在一个崩溃的吉布斯抽样。我们把这个模型称为多项时空混合效应模型(MN-STM)。此外,我们提供的方法的发展,包括:相关的全条件分布的推导,与潜在的高斯过程模型的关系,和非平稳向量自回归模型的稳定性。我们说明了MN-STM通过模拟,并通过演示与公共使用的季度劳动力指标(QWI)的纵向雇主家庭动态(LEHD)计划的美国人口普查局的数据。
2018-12-09 stat.ME
On approximating copulas by finite mixtures
Copula现在经常用于构造或估计多变量分布,因为它们能够考虑不同变量的多变量依赖性,同时单独指定边缘分布。基于Copula的多变量模型通常也比直接将灵活的多变量模型(例如正态混合模型)拟合到数据更简洁。然而,为了有效,所考虑的Copula模型族必须足够灵活。虽然有限的混合物的Copula已被用来构建灵活的家庭Copula,他们的近似性能还没有得到很好的理解,我们表明,自然的候选人,如混合物的椭圆copula和混合物的阿基米德copula不能近似一般copula任意。我们的文章开发了基本的工具来近似一般copula任意好的copula基于有限混合。我们显示的渐近性质,以及说明我们的方法的优势,经验上的金融数据集和一些人工数据。
2023-02-01 stat.ME
Robust model-based clustering via mixtures of multivariate pseudo-Voigt distributions
University of British Columbia-Okanagan(不列颠哥伦比亚大学奥肯那根分校)
该研究提出多元伪沃伊特分布混合模型,用于鲁棒基于模型聚类与异常值检测,经模拟与真实数据验证,在重尾数据上的聚类及异常值检测性能优于现有模型。
2026-08-31 stat.ME stat.ML
Modelling multivariate extreme value distributions via Markov trees
针对高维多元极值建模难题,提出将二元 max-stable 分布组合成马尔可夫树,利用 Prim 算法学习树结构,实现对未知 max-stable 分布的近似及罕见事件概率推断。
2024-12-24 math.ST stat.ME stat.TH
Bayesian estimation of a multivariate TAR model when the noise process distribution belongs to the class of Gaussian variance mixtures
本文提出一种基于贝叶斯方法的多变量TAR模型估计与预测框架,采用高斯方差混合类分布描述噪声过程以增强对异常值的鲁棒性,并通过MCMC算法、DIC/WAIC准则及R语言包验证了方法有效性。
2025-03-06 stat.ME
Robust Deep Mixture Models
The University of Queensland(昆士兰大学)
该研究提出一种基于通路级共享尺度混合构造的鲁棒深度混合模型,采用随机期望最大化算法估计参数,在重尾及污染场景下聚类性能优于深度高斯混合模型,可识别异质潜在结构并降低异常观测影响。
2026-08-20 stat.CO stat.ME
Mixtures of multivariate linear asymmetric Laplace regressions with multiple asymmetric Laplace covariates
本文提出污染移位非对称拉普拉斯聚类加权模型(cSALCWM),通过引入离群值和杠杆点控制参数,实现对偏态响应与协变量的联合聚类及精细组内分类,并开发期望-条件最大化算法进行参数估计,显著提升离群点检测与推断可靠性。
2025-05-09 stat.ME
Parametric and nonparametric symmetries in graphical models for extremes
本文在多元Pareto极值图模型中引入着色概念,非参数地定义着色极值树模型,并针对Hüsler--Reiss分布提出两种着色图模型方法及参数估计方法,证明树模型下两种定义一致,并在真实数据上验证了方法的优越性。
2023-06-01 math.ST stat.ME stat.TH
Cluster weighted models for functional data
本文提出 funWeightClust 方法,将聚类加权模型扩展到函数型数据,并通过 EM 算法估计参数,在模拟与基准数据上优于 funHDDC 等现有方法,成功应用于埃德蒙顿交通模式分析。
2025-03-07 stat.ME stat.ML
Cluster analysis and outlier detection with missing data
San José State University(圣何塞州立大学)
针对多元污染正态(MCN)分布混合模型仅能处理完整数据的局限,提出适配随机缺失不完整数据集的拟合框架,采用期望-条件最大化算法估参,并通过模拟对比其与Student's t分布混合模型的效果。
2020-12-10 stat.ME