A LASSO-Penalized BIC for Mixture Model Selection
基于族的方法对基于混合模型的聚类和分类的有效性取决于简约模型的选择。目前的智慧建议贝叶斯信息准则(BIC)的混合模型选择。然而,BIC具有众所周知的局限性,包括倾向于高估组件的数量,以及倾向于经常大幅低估更高维度的组件数量。虽然前一个问题可以通过合并组件来解决,但后者在集群和分类应用程序中是不可能缓解的。在本文中,一个LASSO惩罚BIC(LPBIC)的介绍,以克服这个问题。这种方法是说明的基础上的应用程序的扩展的混合物的因素分析,其中的LPBIC是用来选择组件的数量和潜在因素的数量。在几种情况下,LPBIC表现出匹配或优于BIC。
2012-11-27 math.ST stat.CO stat.ME
Order selection with confidence for finite mixture models
有限混料模型的混料分量数(阶数)的确定一直是统计推断中的一个难题。我们证明了封闭测试原则导致一个顺序测试程序(STP),允许的信心声明,以有限混合模型的顺序。我们构造有限样本测试,通过数据分割和数据交换,在STP中使用,我们证明,这样的测试是一致的固定的替代品。模拟研究和真实数据的例子来证明有限样本测试为基础的STP的性能,产生实际的建议,他们使用的置信估计结合点估计,如赤池信息或贝叶斯信息标准。此外,我们证明了修改的STP产生的方法,始终选择有限混合模型的顺序,在渐近意义上。我们的STP不仅适用于有限混合模型的阶选择,而且对于任何嵌套模型序列的置信声明也是有用的。
2022-09-26 stat.ME
Mixtures of g-Priors for Generalised Additive Model Selection with Penalised Splines
我们提出了一个客观的贝叶斯方法来选择协变量和惩罚样条变换广义加性模型。为模型参数指定一个合理的默认先验,并结合模型本身的多重性校正先验,对于这项任务至关重要。在这里,我们使用了良好的研究和良好的行为连续混合的g先验作为默认先验。我们在正态模型中引入该方法,并将其推广到非正态指数族。仿真研究和文献中的应用说明了所提出的方法。一个有效的实现是在R-包“hypergsplines”。
2012-08-20 stat.ME
Clustering microbiome data using mixtures of logistic normal multinomial models
在生物信息学中经常会遇到离散数据,例如由下一代测序产生的微生物组分类群的计数。微生物组研究中的分类群计数数据通常是高维的,过度分散的,并且只能显示相对丰度,因此被视为组成。分析组合数据存在许多挑战,因为它们被限制在单纯形上。在逻辑正态多项式模型中,相对丰度使用加性对数比变换从单纯形映射到存在于实欧几里德空间上的潜在变量。虽然逻辑正态多项式方法为数据建模带来了灵活性,但由于参数估计通常依赖于贝叶斯技术,因此它具有沉重的计算成本。在本文中,我们开发了一种新的混合logistic正态多项式模型用于聚类微生物组数据。此外,我们利用变分高斯近似(VGA)的参数估计的有效框架。采用变分高斯近似的后验的潜在变量,大大减少了计算开销。所提出的方法在模拟和真实数据集上进行了说明。
2022-06-21 stat.CO stat.ME
Bayesian Measurement Error Models Using Finite Mixtures of Scale Mixtures of Skew-Normal Distributions
我们提出了一个建议,以处理的非正态性问题的背景下,测量误差的回归模型的响应和解释变量的观察误差。我们扩展了正态模型的未观察到的协变量和随机误差的斜正态分布的规模混合的有限混合联合建模。这种方法使我们能够以极大的灵活性对数据进行建模,适应偏斜,重尾和多模态。
2020-07-26 stat.AP stat.ME
Growth Mixture Modeling with Measurement Selection
生长混合模型是研究重复测量数据中群体结构的重要工具。与传统的聚类方法不同,它们显式地对观测的重复测量进行建模,并且它们所基于的统计框架允许使用模型选择方法来选择聚类的数量。然而,基本增长混合模型假设数据中的所有测量都具有分组信息/分离聚类。在其他聚类上下文中,已经表明,在聚类过程中包括非聚类变量可能导致在聚类数量和聚类成员/参数方面对组结构的估计不佳。在本文中,我们提出了一个扩展的增长混合模型,允许纳入逐步变量选择的基础上所做的工作Maugis等。(2009)和Raftery和Dean(2006)。仿真研究结果表明,该方法在正确选择聚类变量和提高恢复的集群结构相比,基本的增长混合模型。本文还提出了一个应用模型的临床研究数据集,并得出结论,在这一领域的未来工作的方向进行了讨论和建议。
2017-10-18 stat.ME
Model Selection for Gaussian Mixture Models
本文讨论了有限混合模型中的一个重要问题,即混合组分数的选择。提出了一种新的惩罚似然方法用于有限多元高斯混合模型的模型选择。所提出的方法被证明是统计上一致的,在确定的组件的数量。提出了一种改进的期望最大化算法,它可以同时选择混合分量的个数和估计混合权重,即混合概率和高斯分布的未知参数。仿真和实际数据分析,以说明所提出的方法的性能。
2013-01-16 math.ST stat.ME stat.ML
Detection and Feature Selection in Sparse Mixture Models
我们认为高斯混合模型在高维和集中在检测和特征选择的孪生任务。在均值差异的稀疏性假设下,我们推导出信息界,并建立各种程序的性能,包括样本协方差阵的顶部稀疏特征值和其他基于矩的投影检验,如Malkovich和Afifi(1973)的偏度和峰度检验,以及我们在零值下能够更好地控制的其他变量。
2016-10-01 math.ST stat.ME stat.TH
Estimation and selection for high-order Markov chains with Bayesian mixture transition distribution models
我们开发了两个模型的贝叶斯估计和选择高阶,离散状态马尔可夫链。两者都是基于混合转移分布,它构造了一个转移概率张量与一阶转移矩阵的概率的加法混合。我们证明了所提出的模型的两个用途:通过混合低阶过渡模型来近似高阶动态,以及通过稀疏概率向量的先验过规范和收缩来选择顺序/滞后。先验进一步将所有模型缩小到可识别和可解释的参数化,这对数据分析很有用。我们讨论了模型的属性,并通过仿真研究证明了它们的实用性。我们进一步应用该方法的数据分析,从高阶马尔可夫链文献和时间序列的粉红色鲑鱼在美国阿拉斯加州的小溪丰富。
2019-06-25 stat.ME
Model selection-based estimation for generalized additive models using mixtures of g-priors: Towards systematization
本文研究广义可加模型的贝叶斯模型选择估计,通过Laplace近似扩展至指数分布族,发现g-先验混合比单位信息先验更有效,且基于模型选择的方法优于其他贝叶斯方法。
2024-08-30 stat.ME
Bayesian test of normality versus a Dirichlet process mixture alternative
本文提出基于狄利克雷过程混合备择模型的贝叶斯正态性检验方法,利用潜在聚类标量参数化和序贯重要性采样计算贝叶斯因子,在保持正态性成立时不误判的同时有效检测非正态性。
2019-11-14 math.ST stat.CO stat.ME
Confidence set for mixture order selection
针对高斯混合模型阶数选择的不确定性问题,提出模型选择置信集(MSCS),基于惩罚似然比筛选所有合理阶数,提供渐近覆盖保证,并通过模拟和真实数据验证优势。
2025-06-24 math.ST stat.ME stat.TH
Differential gene expression analysis via two-component mixture models with a semiparametric skew-normal scale mixture alternative
Pukyong National University(釜庆国立大学);University of Queensland(昆士兰大学)
本文提出一种半参数混合模型,用于微基因表达分析,通过偏正态尺度混合替代处理偏态和厚尾问题,提高分析精度。
2026-03-17 stat.ME
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University(广岛大学)
研究贝叶斯混合模型中成分数量未知的情况,提出基于归一化逆高斯权重的MFM方法,通过引入潜在变量用块吉布斯采样计算后验,经数值实验和实际数据示例验证性能,还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
Bayesian sparse graphical models and their mixtures using lasso selection priors
我们提出了高斯图形模型的贝叶斯方法,导致稀疏和自适应收缩的精度(逆协方差)矩阵的估计。我们的方法是基于套索型正则化先验导致简约的参数化的精度矩阵,这是必不可少的几个应用程序,涉及学习变量之间的关系。在这种情况下,我们引入了一种新类型的选择之前,开发一个稀疏结构的精度矩阵,使大多数元素正好为零,除了确保正定性-从而进行模型选择和估计同时进行。我们将这些方法扩展到有限和无限混合高斯图形模型的聚类数据使用Dirichlet过程先验。我们讨论了适当的后验模拟方案,以实现后验推理在所提出的模型,包括评估的归一化常数,这是感兴趣的参数的功能,从而导致相关矩阵的限制。我们评估我们的方法的操作特性,通过几个模拟和应用到真实的数据集。
2013-10-03 stat.ME
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注,特别是在处理具有偏态和重尾等特征的数据时。在这里,这样的混合分布,基于多元正态逆高斯(MNIG)分布。对于混合模型的参数估计,采用基于Gibbs抽样的贝叶斯方法,提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析,我们表明参数恢复,我们的方法提供了竞争力的聚类结果相比,其他聚类方法。
2020-05-06 stat.CO
Finite Mixtures of Multivariate Poisson-Log Normal Factor Analyzers for Clustering Count Data
本文提出基于协方差约束的多元泊松-对数正态因子分析器混合模型,用于计数数据聚类,通过变分推断估计参数,在RNA测序数据上表现良好。
2023-11-13 stat.CO stat.ME stat.ML
Modeling with Normalized Random Measure Mixture Models
Dirichlet过程混合物模型和基于离散随机概率测度的更一般的混合物已被证明是密度估计和聚类的灵活和准确的模型。本文的目标是说明使用归一化随机措施的混合措施在非参数分层混合模型,并指出如何可能的计算问题,可以成功地解决。为此,我们首先提供了一个简洁和方便的介绍,规范化的随机措施与独立的增量。然后,我们详细解释了一个特定的方式,从后使用弗格森-克拉斯表示采样。我们开发了一个彻底的位置规模的混合物,认为一组替代品的混合内核和非参数组件的比较分析。仿真结果表明,归一化随机测量混合物可能是一个有效的默认选择密度估计问题。作为这项研究的副产品,一个R包,以适应这些模型的产生,并在综合R档案网络(CRAN)。
2013-10-01 stat.ME
MCMC for Normalized Random Measure Mixture Models
本文研究了在具有归一化随机测度先验的贝叶斯非参数混合模型中后验抽样的马尔可夫链蒙特卡罗方法。利用最近对正规化随机测度类的后验刻画,我们提出了新的边缘型和条件型马尔可夫链蒙特卡罗方法。建议的边际采样器是Neal的备受推崇的算法8狄利克雷过程混合模型的推广,而条件采样器是最近在文献中介绍的变化。对于边际和条件的方法,我们认为作为一个运行的例子,一个混合模型与一个潜在的归一化广义Gamma过程之前,并描述比较模拟结果表明所提出的方法的有效性。
2013-10-02 stat.ME
Fast sampling and model selection for Bayesian mixture models
Center for the Study of Complex Systems, University of Michigan(密歇根大学复杂系统研究中心)
我们研究贝叶斯估计的混合模型,并认为有利于拟合的边缘后验分布组件分配直接,而不是吉布斯抽样从联合后验组件和参数是通常做的。以前的一些作者发现前一种方法混合速度很慢,但我们证明,如果正确实现,它可以实现出色的性能。特别是,我们描述了一种新的蒙特卡罗算法,从边缘后采样的一般可积混合,利用拒绝免费抽样从以前的组件分配,以实现优良的混合时间在典型的应用程序中,优于标准的吉布斯抽样,在某些情况下,由一个很宽的利润率。我们展示了高斯,泊松和分类模型的应用程序的选择的方法。
2025-10-22 stat.CO stat.ML
Adaptive Convergence Rates of a Dirichlet Process Mixture of Multivariate Normals
结果表明,一个简单的Dirichlet过程混合的多元常态提供贝叶斯密度估计与自适应后收敛速度。为此,一种新的非参数混合密度的筛子进行了探索,并证明了其率适应性的各种光滑类的密度在任意维。这种筛的建设,预计将提供一个实质性的技术进步,在研究贝叶斯非参数混合模型的基础上,棒断裂先验。
2011-11-17 math.ST stat.ME stat.TH
Mixtures of equispaced normal distributions and their use for testing symmetry in univariate data
给定一个随机的观测样本,正态密度的混合经常被用来估计数据来源的未知连续分布。在这里,我们建议使用这个半参数框架测试对称性关于一个未知值。更确切地说,我们展示了如何对称性的原假设可以制定在正常的混合模型,对称中心的权重约束是彼此相等。得到的模型嵌套在一个更一般的无约束的,具有相同数量的混合物组分和自由权重。因此,在通过合适的算法(例如期望最大化)最大化约束和无约束对数似然性之后,通过似然比统计量针对偏斜测试对称性。通过蒙特卡罗模拟研究,我们比较了两个版本的测试,基于不同的标准来选择混合物成分的数量,与传统的基于第三标准化时刻的混合物为基础的测试的性能说明。还给出了一个说明性的例子,侧重于真实的数据。
2012-04-20 stat.ME
Reversible Jump MCMC With No Regrets: Bayesian Variable Selection Using Mixtures of Mutually Singular Distributions
University of Amsterdam(阿姆斯特丹大学);Duke University(杜克大学);University of Washington(华盛顿大学)
本文提出一种基于互奇异分布混合的贝叶斯变量选择方法,通过固定维度参数空间中的互奇异子空间实现模型竞争,展示其与RJMCMC在Metropolis-Hastings接受概率上的一致性,并在实验中验证其有效性。
2026-04-30 stat.ME
Modelling and computation using NCoRM mixtures for density regression
归一化复合随机测度是相关分布的灵活非参数先验。本文考虑利用归一化复合随机测度混合模型建立一般的非参数回归模型。后验推断是使用一种新的伪边缘Metropolis-Hastings采样归一化复合随机测度混合模型。该算法利用一种新的一般方法来无偏估计拉普拉斯泛函的复合随机措施(其中包括完全随机措施作为一种特殊情况)。密度回归问题的方法进行了说明。
2017-08-31 stat.AP stat.CO stat.ME
Variable selection for clustering with Gaussian mixture models: state of the art
University of Hasan 1st(哈桑一世大学);University of Abdelmalek Essaâdi(阿卜杜勒马利克·埃萨迪大学)
混合模型已被广泛用于聚类中,由于其概率框架,其基础,然而,对于现代数据库,其特点是其规模大,这些模型的行为dispromisingly在设置模型,使必要的相关变量的选择,这种类型的聚类。在回顾了基于模型的聚类的基础知识之后,本文将研究基于模型的聚类的变量选择方法,并提出改进这些方法的机会。
2017-01-31 cs.LG stat.ML
Parsimonious Ultrametric Manly Mixture Models
Department of Mathematics & Statistics, McMaster University(麦克马斯特大学数学与统计系)
本文提出了一种简洁的超度量马尼混合模型,通过引入马尼变换和扩展的超度量协方差结构,提升高维非对称数据聚类的可解释性和模型选择效果。
2026-09-10 stat.ME
Feature Selection Facilitates Learning Mixtures of Discrete Product Distributions
Yale University(耶鲁大学)
特征选择可以在离散随机变量的混合物出现时(例如,在众包任务中)促进对它们的学习。直觉上,并不是所有的员工都同样可靠,但是,如果不太可靠的员工可以被淘汰,那么学习应该会更强大。通过类比高斯混合模型,我们寻求一种低阶统计方法,并在这里介绍一种算法的基础上(成对)的互信息。这导致了一种对工人的秩序,这种秩序是为“一枚硬币”模式精心构建的。更一般地说,它是合理的拟合优度的措施,并验证经验。实际数据集的改进可能是实质性的。
2017-11-25 cs.LG stat.ML
A priori truncation method for posterior sampling from homogeneous normalized completely random measure mixture models
本文采用贝叶斯非参数混合模型,其中混合分布属于广义的归一化齐次完全随机测度。我们提出了一种截断混合分布的方法,通过丢弃未归一化的测量小于小于阈值的权重。我们证明了我们的逼近律的收敛性,给出了一些理论性质,并描述了它的后验分布,从而设计了一个分块Gibbs采样器。近似的多功能性说明了两个不同的应用程序。首先介绍了包含Dirichlet过程的归一化Bessel随机测度,拟合优度指标显示了其作为混合测度用于密度估计的良好性能。第二个描述了如何将协变量纳入标准化测量的支持中,从而得到用于回归和聚类的线性相关模型。
2015-07-16 math.ST stat.CO stat.ME
Formulating the Proxy Pattern-Mixture Model as a Selection Model to Assist with Sensitivity Analysis
本文将代理模式混合模型(PPMM)重新表述为选择模型,利用敏感性参数 $ϕ$ 及代理变量间的二次函数关系,揭示了模型潜在假设并为 $ϕ$ 设定更切实际的界限。
2024-09-26 stat.AP stat.ME
Dendrogram of mixing measures: Hierarchical clustering and model selection for finite mixture models
本研究提出基于过拟合混合测度构建树状图的新方法,衔接层次聚类与混合建模,可在弱可识别条件下一致选成分数并获最优收敛速率,经模拟验证且可用于单细胞RNA分析。
2024-03-08 stat.ME stat.ML
Infinite mixtures of multivariate normal-inverse Gaussian distributions for clustering of skewed data
多变量正态逆高斯(MNIG)分布的混合可以用于对表现出偏态和重尾等特征的数据进行聚类。然而,对于聚类分析,使用传统的有限混合模型框架,或者组分的数量需要是已知的$a$ - $priori$,或者需要在导出可能数量的组分的范围的结果之后使用某种模型选择标准来估计$a$ - $posteriori$。然而,不同的模型选择标准有时会导致不同数量的组件产生不确定性。在这里,一个无限混合模型框架,也被称为狄利克雷过程混合模型,提出了混合MNIG分布。该狄利克雷过程混合物模型方法允许组分数量从1到$\infty$(实际上从1到$N$)自由增长或衰减,并且组分数量与贝叶斯框架中的参数估计值一起推断,从而减轻了对模型选择标准的需求。我们提供了真实的数据应用程序与基准数据集,以及一个小的模拟实验,与其他现有的模型进行比较。所提出的方法提供了竞争力的聚类结果,其他聚类方法的模拟和真实的数据和参数恢复说明使用模拟研究。
2020-05-11 stat.ME
Consistent Bayesian Sparsity Selection for High-dimensional Gaussian DAG Models with Multiplicative and Beta-mixture Priors
高维多元数据的协方差阵估计是现代统计学中一个具有挑战性的重要问题。在本文中,我们专注于高维高斯DAG模型,稀疏性诱导的逆协方差阵的Cholesky因子L。在最近的工作中,([Cao,Khare和Ghosh,2019]),我们为分层贝叶斯DAG模型建立了高维稀疏选择一致性,其中Erdos-Renyi先验被放置在Cholesky因子L中的稀疏模式上,并且DAG-Wishart先验被放置在产生的非零Cholesky条目上。在本文中,我们显着改进和扩展这项工作,(a)考虑更多样化和有效的先验的稀疏模式在L中,即β-混合先验和乘法先验,(b)建立稀疏选择一致性显着放宽条件下的p,和真实模型的稀疏模式。我们通过数值模拟证明了我们的理论结果的有效性,并使用进一步的模拟来证明我们的稀疏性选择方法与现有的最先进的方法,包括频率论和贝叶斯方法在各种设置中具有竞争力。
2019-03-08 math.ST stat.ME stat.TH
Mixtures of g-priors in Generalized Linear Models
Zellner g-先验的混合已在线性模型中得到广泛研究,并已被证明具有贝叶斯变量选择和模型平均的许多理想性质。在文献中已经提出了几个扩展的g-先验的广义线性模型(GLM),然而,选择先验分布的g和由此产生的属性的推断得到了相当少的关注。本文通过将截断的复合合流超几何(tCCH)分布赋为1/(1 + g),统一了GLM中g先验的混合,其中包括文献中的几种g先验的混合,如hyper-g,Beta-prime,truncated Gamma,incomplete inverse Gamma,benchmark,robust,hyper-g/n和intrinsic prior。通过积分拉普拉斯近似,1/(1 + g)的后验分布又是tCCH分布,因此近似的边缘似然性可通过分析获得,从而导致用于模型选择的“复合超几何信息准则”。我们讨论了GLM中g先验的局部几何性质,并展示了Bayarri等人提出的模型选择的必要条件,如渐近模型选择一致性,内在一致性和测量不变性,可以用来证明超参数的先验和特定选择。我们说明推理使用这些先验知识,并通过模拟和真实数据的例子将它们与其他方法进行对比。该方法在R包BAS中实现,并在CRAN上免费提供。
2018-05-04 stat.ME
Bayesian Analysis Using a Constrained Mixture of Normal-Inverse-Gamma Models
Florida State University(佛罗里达州立大学);University of Missouri(密苏里大学);Brigham Young University(杨百翰大学)
提出一种基于正态-逆伽马先验的高斯有限混合模型的组合方法,通过条件分布直接采样避免MCMC计算负担,并利用贝叶斯选择性推断约束标签空间,在模拟和CDC出生数据中验证有效性。
2026-06-23 stat.ME
Clustering of time-course gene expression profiles using normal mixture models with AR(1) random effects
可以周期性地表达诸如酵母细胞周期数据的时程基因表达数据。为了对这些数据进行聚类,已经发现目前使用的周期性基因表达的傅立叶级数近似不足以对时间过程数据的复杂性进行建模,部分原因是它们忽略了随时间的表达测量之间的依赖性和基因表达谱之间的相关性。我们进一步研究了文献中可用模型的优点和局限性,并提出了一种新的AR(1)随机效应的混合模型用于时间过程基因表达谱的聚类。一些模拟和真实的例子来证明所提出的模型的实用性。
2011-09-22 stat.ME
Log-Regularly Varying Scale Mixture of Normals for Robust Regression
由于潜在的离群值,对误差分布采用经典正态假设的线性回归可能导致回归系数的不良后验推断。本文将具有薄尾和重尾的两个分量的有限混合作为误差分布,这在应用统计学中是经常使用的。对于重尾分量,我们引入了一类新的分布;它们的密度是对数规则变化的,并且比柯西分布具有更重的尾部,但它们表示为正态分布的尺度混合,并且能够通过Gibbs采样器进行有效的后验推断。我们证明了鲁棒性的离群值的后验分布在所提出的模型与最小的一组假设,这证明了使用收缩先验与无界密度的系数向量存在离群值。通过仿真研究与现有方法进行了广泛的比较,结果表明,该模型在点估计和区间估计方面的性能以及计算效率都有所提高。此外,我们证实了我们的方法的后验稳健性的实证研究与收缩先验的回归系数。
2021-01-09 stat.ME
A two-component normal mixture alternative to the Fay-Herriot model
本文考虑了一种稳健的分层贝叶斯方法来处理小面积均值的随机效应,当这些效应中的一些假设极值,导致离群值。在存在离群值的情况下,在随机效应的正态假设下,用于对地区水平数据建模的标准Fay-Herriot模型可能高估随机效应方差,从而提供了低于理想的合成回归预测收缩,并抑制了借用信息。即使是少量的随机效应的实质性离群值也会导致Fay-Herriot模型中随机效应方差的较大估计值,从而对模型的合成部分几乎没有收缩,或者对任何小区域的常规贝叶斯估计值相关的后验方差几乎没有减少。虽然已发现随机效应的具有已知混合分布的正态分布的尺度混合在存在离群值的情况下是有效的,但解决方案取决于混合分布。作为一个可能的替代解决方案的问题,一个两个组件的正常混合模型已被提出的基础上的模型方差参数,回归系数和混合概率的非信息先验。基于真实、模拟和合成数据的数据分析和仿真研究表明,该方法优于随机效应正态分布下的标准贝叶斯Fay-Herriot解。
2015-10-22 stat.ME
Identifying Mixtures of Mixtures Using Bayesian Estimation
在基于模型的聚类中使用有限混合的正态分布允许捕获非高斯数据聚类。然而,从正常分量中识别聚类是具有挑战性的,并且通常通过对模型施加约束或通过使用后处理过程来实现。在贝叶斯框架内,我们提出了一种不同的方法,基于稀疏有限混合物,以实现可识别性。我们指定了一个分层的先验,其中超参数是精心选择的,这样它们就可以反映目标的集群结构。此外,该先验允许使用标准MCMC采样方法来估计模型。结合解决标签切换问题并导致识别模型的后处理方法,我们的方法允许同时(1)确定聚类的数量,(2)使用有限的法线混合以半参数方式灵活地近似聚类分布,以及(3)识别特定于聚类的参数并对观察结果进行分类。所提出的方法是说明在两个模拟研究和基准数据集。
2016-06-20 stat.ME
Modifications of the BIC for order selection in finite mixture models
La Trobe University(拉 Trobe 大学);Institute of Mathematics for Industry, Kyushu University(九州大学产业数学研究所);ARC Centre of Excellence for the Mathematical Analysis of Cellular Systems(ARC 细胞系统数学分析卓越中心);Queensland University of Technology(昆士兰科技大学)
本文提出改进的BIC方法,通过引入微小对数因子实现更弱条件下的模型阶数选择一致性,并揭示了基于一致IC选择的局限性。
2026-02-01 math.ST stat.TH
On Mixtures of Skew Normal and Skew t-Distributions
偏态分布的有限混合已成为一种有效的工具,在建模具有非对称特征的异构数据。近年来,随着各种提案的迅速出现,这些提案相似但不相同,它们之间的联系及其相对绩效变得相当不清楚。本文旨在通过对现有的偏态分布进行系统的分类,将其分为四种类型,从而阐明它们之间的密切关系,从而简要概述这些发展。这也有助于理解的一些建议的期望最大化(EM)为基础的算法的计算模型的参数的最大似然估计之间的联系。本文的最后一部分提出了一个说明,这些混合模型在聚类一个真实的数据集,相对于其他非椭圆轮廓聚类方法和相关的算法,其实施的性能。
2013-05-28 stat.ME
Mixtures of Contaminated Matrix Variate Normal Distributions
三向数据分析在文献中变得越来越普遍,特别是在聚类和分类领域。真实数据,包括真实的三向数据,经常被潜在的离群观测所污染。它们的检测,以及开发强大的模型不敏感的存在,是特别重要的,因为这类数据的实际问题,他们的有效可视化。本文讨论了污染矩阵变量的正态分布,并将其应用于混合模型的聚类分析中。所提出的模型的一个关键优点是能够自动检测潜在的离群矩阵计算其\textit{a posteriori}概率是一个“好”或“坏”点。这种检测目前是不可用的使用现有的矩阵变量的方法。采用期望条件最大化算法进行参数估计,并用模拟数据和实际数据进行了说明。
2020-05-08 stat.ME
An Efficient Model Selection for Gaussian Mixture Model in a Bayesian Framework
Center for Information Security Technology (CIST), Korea University(高丽大学信息安全技术中心(CIST));Korea University(高丽大学)
为了对数据进行聚类或分区,我们经常使用期望和最大化(EM)或高斯混合模型(GMM)的变分近似,GMM是一个参数概率密度函数,表示为$\hat{K}$高斯分量密度的加权和。然而,模型选择,以找到潜在的$\hat{K}$是GMM聚类的关键问题之一,因为我们可以获得所需的集群只有当$\hat{K}$是已知的。在本文中,我们提出了一个新的模型选择算法,探讨$\hat{K}$在贝叶斯框架。该算法建立了模型阶数的密度,这是AIC和BIC等信息准则基本上无法重建的。此外,与耗时的蒙特卡罗模拟相比,该算法可以快速地重建密度。
2013-07-03 cs.LG stat.ML
Structurally Aware Robust Model Selection for Mixtures
针对混合模型在模型错误设定下易产生虚假子总体的问题,本文利用已知因果结构和模型偏差先验,提出结构感知的稳健模型选择准则,并证明一致性且在模拟与流式细胞术数据中有效。
2024-03-01 math.ST stat.ME stat.TH
Testing Homogeneity for Normal Mixture Models: Variational Bayes Approach
正态混合物的齐性检验在不同的研究领域都有应用,但由于原假设的参数集对应于参数空间中的奇点,因此构建齐性检验理论具有挑战性。在本文中,我们从一个新的角度来研究这个问题,并提供了一个理论的假设检验的基础上变分贝叶斯框架的同质性。在传统的理论中,自由能的常阶项一直是未知的,然而,我们澄清了它的渐近行为,因为它是必要的,以构建一个假设检验。数值实验验证了理论结果的正确性。
2019-12-15 math.ST stat.ME stat.TH
Fitting large mixture models using stochastic component selection
传统的有限混合模型的无监督学习方法需要评估混合模型中所有成分的似然性。当组件的数量很大时,这在计算上变得禁止,例如,在和积(变换)网络中。因此,我们建议应用的期望最大化和大都会黑斯廷斯算法的组合,以评估只有少量的,随机采样,组件,从而大大降低了计算成本。组件分配的马尔可夫链在算法的迭代中顺序生成,具有非平稳目标分布,其参数通过梯度下降方案而变化。我们把重点放在我们的方法的通用性,配备它的能力,训练浅和深的混合模型,涉及复杂的,可能是非线性的,转换。我们的方法的性能在各种合成和真实数据环境中进行了说明,考虑到深度模型,例如归一化流和和积(变换)网络的混合。
2021-10-10 cs.LG stat.ML
Bayesian inference for scale mixtures of skew-normal linear models under the centered parameterization
本文针对偏态及重尾/轻尾数据,在中心化参数化下构建了偏态正态分布尺度混合类及线性回归模型,利用分层表示和MCMC方案进行参数估计,并开发了残差与影响分析工具,通过模拟和真实数据验证了方法有效性。
2024-06-05 stat.ME
Model Selection and Parameter Estimation of One-Dimensional Gaussian Mixture Models
本文提出了一种基于傅里叶的方法,用于高效估计一维高斯混合模型的模型阶数和混合分布,且在样本复杂度上达到理论最优。
2026-09-01 cs.LG eess.SP stat.ME
Testing the Order of Multivariate Normal Mixture Models
多元正态分布的有限混合分布在统计遗传学和统计金融学等领域的经验应用中得到了广泛的应用。检验多元正态混合模型中的分量数是一个长期存在的挑战,即使是在最重要的检验同质性的情况下。本文开发了基于似然性的$M_0$组件的原假设对一般$M_0 \geq 1$的$M_0 + 1$组件的备择假设的测试。对于异方差正态混合模型,我们提出了EM检验,并给出了EM检验统计量的渐近分布。对于同方差正态混合,我们得到了似然比检验统计量的渐近分布。在局部替代下,我们还得到了似然比检验统计量和EM检验统计量的渐近分布,并证明了参数自助法的有效性。仿真结果表明,该检验具有良好的有限样本量和功效特性。
2019-02-08 econ.EM math.ST stat.TH
Variational Bayesian Inference For A Scale Mixture Of Normal Distributions Handling Missing Data
本文提出了一种适用于含有异常值和缺失值的数据分类和聚类的正态分布尺度混合模型。分类方法,基于混合模型,侧重于引入潜变量,使我们有可能处理模型对离群值的敏感性,并允许对缺失数据进行限制性较小的建模。通过变分贝叶斯近似进行推理,并采用贝叶斯处理进行模型学习、监督分类和聚类。
2017-11-22 stat.ML
A Model-Free Selection Criterion For The Mixing Coefficient Of Spatial Max-Mixture Models
极值理论的一个主要问题是量化联合尾部之间的相关性。使用在联合尾部缺乏灵活性的随机过程可能会导致严重低估或高估与同时发生的极端事件相关的概率。根据最近的进展,在文献中,一个灵活的模型称为最大混合模型已被引入建模的情况下,极值依赖结构可能会随着距离而变化。在本文中,我们提出了一个非参数模型的混合系数的选择标准,我们的标准是来自一个madogram,一个概念,经典的地质统计学捕捉空间结构。该过程是基于一个非线性最小二乘法之间的理论madogram和经验之一。我们进行了模拟研究,并将我们的标准应用于澳大利亚东部的每日降水量。
2018-01-03 math.PR math.ST stat.TH
Extending finite mixture models with skew-normal distributions and hidden Markov models for time series
University of Foggia(福贾大学);Macquarie University(麦考瑞大学)
本文提出将偏正态分布整合到隐马尔可夫模型框架以扩展有限混合模型,通过状态特定参数估计捕捉动态依赖与结构变化,经模拟和实证验证鲁棒性,拓宽其在多领域的时间序列分析应用。
2025-09-24 stat.AP stat.ME
Existence and Consistency of the Maximum Pseudo \b{eta}-Likelihood Estimators for Multivariate Normal Mixture Models
多元正态混合模型下的稳健估计一直是一个计算难题。最近提出的最大伪\b{eta} -似然估计器的目的是估计的MVN混合模型的未知参数的最小密度功率发散(DPD)方法的精神,但相对简单和易于处理的计算算法,即使是更大的尺寸。在这封信中,我们将严格推导出最大伪\b{eta} -似然估计的存在性和弱相合性的情况下,MVN混合模型在一组合理的假设。
2023-02-12 math.ST stat.TH
Dirichlet Process Mixture Models with Shrinkage Prior
我们提出了Dirichlet过程混合(Dirichlet Process Mixture)模型的预测和集群明智的变量选择,基于两种选择的收缩基线先验分布的线性回归系数,即马蹄先验和正态伽玛先验。我们在模拟研究中表明,这两个建议的ESTA模型往往优于标准ESTA模型的基础上的非收缩正常的先验,在预测,变量选择和聚类精度。这对于马蹄模型尤其如此,并且当协变量的数量超过群内样本量时。一个真实的数据集进行了分析,以说明所提出的建模方法,两个建议的预测模型再次获得更好的预测精度。
2021-02-25 stat.AP stat.ME
Modelling financial returns with mixtures of generalized normal distributions
本论文提出广义正态分布混合(MGND)及其扩展模型,通过ECM和GEM算法解决参数估计中的退化问题,并引入约束混合与隐马尔可夫模型,有效捕捉金融收益的复杂模式与动态特性,提升金融分析与风险管理的决策能力。
2024-10-21 q-fin.ST stat.ME