Adaptive Bayesian multivariate density estimation with Dirichlet mixtures
我们表明,率自适应的多变量密度估计可以使用贝叶斯方法的基础上正常内核的协方差阵参数的先验分布的Dirichlet混合物。我们推导出充分条件的事先说明,保证收敛到一个真正的密度的速度是最佳的极小极大的平滑类的真正的密度属于。假设没有平滑度的先验知识。的充分条件示出持有的Dirichlet位置混合的法线之前的高斯基测量和逆Wishart之前的协方差阵参数。局部Hölder光滑类和它们的各向异性扩展。我们的研究涉及到几个技术创新,包括尖锐的逼近可微多元密度正常的混合物和一个新的筛子上的空间,这种密度。
2013-03-19 math.ST stat.TH
Consistent Bayesian Information Criterion Based on a Mixture Prior for Possibly High-Dimensional Multivariate Linear Regression Models
在多元线性回归模型的变量选择问题中,我们基于光滑分布和δ分布的混合先验,导出了新的贝叶斯信息准则。每一个都可以解释为赤池信息准则(AIC)和贝叶斯信息准则(BIC)的融合。继承了它们的渐近性质,我们的信息准则在大样本和高维渐近框架下的变量选择是一致的。在数值模拟中,基于我们的信息准则的变量选择方法在大多数情况下以高概率选择真实的变量集。
2022-08-19 math.ST stat.TH
Bayesian mixture models (in)consistency for the number of clusters
本文研究了贝叶斯非参数混合模型在真实成分数量有限时的聚类数量后验不一致性问题,将已有结论扩展至Gibbs型过程及其有限维表示,并提出一种可推广的后处理算法以实现一致的成分数量估计。
2024-05-30 math.ST stat.TH
Adaptive Bayesian density estimation using Pitman-Yor or normalized inverse-Gaussian process kernel mixtures
我们考虑贝叶斯非参数密度估计使用Pitman-Yor或归一化逆高斯过程核混合作为密度的先验分布。该程序是从频率论的角度进行研究。使用棒打破皮特曼-约尔过程或表达的有限维分布的归一化逆高斯过程,我们证明了,当数据是从一个无限光滑的密度重复,后验分布集中在任何收缩$L^p$ -范数球,$1\leq p\leq\infty$,周围的采样密度在\emph{nearly parametric}率,对数因子。由此产生的分层贝叶斯过程,与一个固定的前,因此示出是自适应的采样密度的平滑度的无限。
2013-02-13 math.ST stat.TH
Adaptive Bayesian nonparametric regression using kernel mixture of polynomials with application to partial linear model
本文提出了一种贝叶斯非参数回归的核混合多项式先验。回归函数由具有核混合权重的多项式的局部平均来建模。我们得到的最小最优收缩率的充分后验分布的对数因子,适应的平滑程度的真实功能,通过估计某些功能类的度量熵。我们还提供了一个频率筛最大似然估计与接近最佳的收敛速度。我们进一步研究了多项式的核混合对部分线性模型的应用,并获得了非参数分量的近最优收缩率和Bernstein-von Mises极限(即,渐近正态性)。所提出的方法与数值例子说明,并显示优越的性能相比,本地多项式回归,DiceKriging,和强大的高斯随机过程的计算效率,精度和不确定性量化。
2018-09-13 math.ST stat.TH
On posterior contraction of parameters and interpretability in Bayesian mixture modeling
我们研究的背景下,贝叶斯混合建模,混合组件的数量是未知的,而模型本身可能会或可能不会被正确指定的参数的后验收缩行为。将考虑两种有代表性的先验规范:一种明确要求混合组分的数量上的先验分布,而另一种将混合分布的空间上的非参数先验。前者示出在最小条件下对模型参数产生最优的后验收缩率,而后者可以用来一致地恢复混合物成分的未知数,借助快速的概率后处理过程。然后,我们把这些贝叶斯程序的研究模型误设定的现实设置。它将被证明,核密度函数的建模选择可能起着最有影响力的作用,在错误指定的情况下,在确定后验收缩率。利用本文中建立的具体后验收缩率,我们希望强调一些方面的有趣的权衡模型的表达性和可解释性之间的统计建模必须谈判在丰富的世界的混合建模。
2019-01-15 math.ST stat.TH
Bayesian Sparse Gaussian Mixture Model in High Dimensions
本文针对高维稀疏高斯混合模型提出一种基于连续spike-and-slab先验的贝叶斯方法,通过Gibbs采样器实现高效后验推断并自适应估计聚类数量,证明其参数估计后验收缩率达到极小极大最优。
2024-02-23 math.ST stat.TH
Adaptive density estimation based on a mixture of Gammas
考虑了正半线上可能无界密度的贝叶斯密度估计问题。我们提出了一个分层贝叶斯估计的基础上的伽玛混合先验,可以被看作是一个位置的混合。我们研究了基于这种混合的贝叶斯密度估计的收敛速度。我们构造了局部Hölder密度的近似,以及它们对无界密度的扩展,使其成为Γ分布的连续混合,从而得到了有限混合密度的近似。然后,这些结果被用来获得后验浓度率,与先验的基础上,这些混合模型。率是极小极大(最多对数n项),因为先验是独立的平滑率是自适应的平滑。
2017-09-16 math.ST stat.TH
Optimal Bayesian estimation of Gaussian mixtures with growing number of components
本文研究了有限混料模型的贝叶斯估计问题,在一般情形下,模型中组分的个数是未知的,并且允许随样本量增长。假设成分数量不断增加是很自然的,因为样本中存在的异质性程度可能会增加,并且随着样本量的增加,可能会出现新的成分,从而可以充分灵活地模拟数据的复杂性。然而,这将导致一个高维模型,这对估计提出了很大的挑战。我们首次将样本量依赖先验的思想引入贝叶斯模型,并建立了一些重要的理论结果。我们首先表明,在温和的条件下的先验,后验分布集中在真正的混合分布在一个接近最佳的速度相对于Wasserstein距离。在真实混合分布的分离条件下,我们进一步证明了可以实现更好的自适应收敛速度,并且可以一致地估计分量的数量。此外,我们得到了最佳的收敛速度的高阶混合模型的组件的数量发散任意快。此外,我们提出了一个简单的配方使用狄利克雷过程(DP)的混合物之前估计有限混合模型,并提供理论保证。特别是,我们提供了一种新的解决方案,采用DP混合模型中的集群数量作为有限混合模型中的组件数量的估计。仿真研究和实际数据的应用表明,我们的方法的效用。
2022-03-17 math.ST stat.TH
Bayesian MISE convergence rates of Polya urn based density estimators: asymptotic comparisons and choice of prior parameters
混合模型以其通用性而闻名,贝叶斯范式是混合分析的合适平台,特别是当组分数量未知时。Bhattacharya(2008)介绍了一种基于狄利克雷过程的混合模型,其中需要指定组分的未知数的上界。在这里,我们考虑一个贝叶斯渐近框架,客观地指定的上界,我们假设依赖于样本量。特别是,我们定义了一个贝叶斯模拟的平均积分平方误差(贝叶斯MISE),并选择该形式的上界,以及该形式的精度参数的基础狄利克雷过程,贝叶斯MISE的一个特定的密度估计,这是一个合适的修改的Polya-urn基于先验预测模型,收敛在所需的速率。作为我们方法的副产品,我们研究了传统Dirichlet过程混合模型精度参数的渐近选择;我们在这里考虑的密度估计是Escobar & West(1995)与Polya瓮模型相关的先验预测分布的修改。与上述两种混合物有关的各种渐近问题,包括比较性能,也进行了研究。
2018-11-13 math.ST stat.TH
Bayesian Mixture Modelling with Ranked Set Samples
针对不完美排序集抽样下有限混合模型参数估计问题,提出结合EM算法与Metropolis within Gibbs Sampling的贝叶斯估计方法,效果优于简单随机抽样法,并应用于老年女性骨病估计。
2023-06-13 math.ST stat.ME stat.TH
On Classical and Bayesian Asymptotics in Stochastic Differential Equations with Random Effects having Mixture Normal Distributions
Delattre等人(2013)考虑了随机效应设置中的随机微分方程(SDEs)系统。在独立恒等(iid)情形下,假设随机效应服从正态分布,建立了随机效应总体参数的极大似然估计的弱相合性.在这篇文章中,尊重日益增加的重要性和通用性的正常混合和他们的能力,以接近任何标准分布,我们认为随机效应混合的正态分布,并证明渐近结果与MLE在独立和相同(iid)和独立,但不相同(non-iid)的情况。此外,我们认为iid和非iid设置下的贝叶斯范式和建立后验一致性和渐近正态性的总体参数的后验分布,即使当混合成分的数量是未知的,并作为一个随机变量。虽然我们是一个独立的工作,我们后来注意到,Delattre等人。(2016)也假设了随机效应参数的正态混合分布的随机设置,但只考虑了iid的情况,并且在一个额外的强假设下只证明了MLE的弱一致性,而不是强一致性,我们能够在没有额外假设的情况下证明。此外,他们没有处理渐近正态性的MLE或贝叶斯渐近对应,我们在详细调查。充分的模拟实验和应用到一个真实的,股票市场的数据集揭示了我们的方法,即使是小样本的重要性和实用性。
2020-05-01 math.ST stat.TH
Is infinity that far? A Bayesian nonparametric perspective of finite mixture models
混合模型是处理异质总体数据时最广泛使用的统计工具之一。本文考虑了长期存在的争论有限的混合物和无限的混合物,并带来了两个建模策略在一起,通过显示,有限的混合物只是一个点过程的实现。在贝叶斯非参数的视角下,我们引入了一类新的先验:归一化独立点过程。我们研究这个新类的概率性质。此外,我们设计了一个有限混合模型的条件算法与一个随机数的组件克服与可逆跳跃计划和最近提出的边际算法的挑战。我们用真实数据说明了我们的模型,并讨论了群体遗传学中的重要应用。
2019-04-22 math.ST stat.CO stat.ME
A Semiparametric Bayesian Approach for Extreme Values Using Dirichlet Process Mixture of Gamma and Generalized Pareto Densities
对于极值估计,我们建议使用一个Dirichlet过程混合的伽玛密度的中心和广义帕累托密度的尾部模型。由于中心的随机性和尾部的重尾密度,高分位数的密度估计和后验推断是可能的。该方法可以在正实数上以“默认”方式使用,因为它在先验信息不可用时有效。该模型易于实现,并进行了敏感性分析。我们将所提出的模型应用于模拟和真实数据集。
2013-03-28 math.ST stat.ME stat.TH
Mixture representations and Bayesian nonparametric inference for likelihood ratio ordered distributions
本文利用混合表示刻画似然比有序分布,提出基于Dirichlet过程混合的非参数贝叶斯密度估计方法,首次证明有序约束下的后验相合性,并给出MCMC算法及生物医学应用。
2023-10-26 math.ST stat.ME stat.TH
Adaptive Convergence Rates of a Dirichlet Process Mixture of Multivariate Normals
结果表明,一个简单的Dirichlet过程混合的多元常态提供贝叶斯密度估计与自适应后收敛速度。为此,一种新的非参数混合密度的筛子进行了探索,并证明了其率适应性的各种光滑类的密度在任意维。这种筛的建设,预计将提供一个实质性的技术进步,在研究贝叶斯非参数混合模型的基础上,棒断裂先验。
2011-11-17 math.ST stat.ME stat.TH
Asymptotic Analysis of the Bayesian Likelihood Ratio for Testing Homogeneity in Normal Mixture Models
当我们使用正态混合模型时,应该确定描述数据的组分的最佳数量。检验同质性对于此目的是好的;然而,构建其理论是具有挑战性的,因为检验统计量甚至不渐近收敛于$χ^{2}$分布。这种渐近行为的原因是描述原假设(N.H.)在备择假设(A.H.)的空间中包含奇点。近年来,奇异模型的$\it{Bayesian}$理论得到发展,它阐明了统计推断的各种问题。然而,它的应用奇异模型的假设检验一直是有限的。在本文中,我们介绍了一种标度技术,大大简化了推导和研究检验的同质性的第一次贝叶斯理论的基础。在三种情况下,我们得到了边际似然比的渐近分布:(1)在A.H.(2)混合分布的混合比和均值是变量;(3)混合分布的混合比、均值和方差是变量。在所有情况下,结果都是复杂的,但可以描述为服从正态分布的随机变量的函数。在此基础上构造了一个测试方案,并通过数值实验验证了其有效性。
2019-12-22 math.ST stat.ME stat.TH
Bayesian test of normality versus a Dirichlet process mixture alternative
本文提出基于狄利克雷过程混合备择模型的贝叶斯正态性检验方法,利用潜在聚类标量参数化和序贯重要性采样计算贝叶斯因子,在保持正态性成立时不误判的同时有效检测非正态性。
2019-11-14 math.ST stat.CO stat.ME
A Bayesian approach to learning mixtures of nonparametric components
University of Michigan–Ann Arbor(密歇根大学安娜堡分校);University of Texas at Dallas(德克萨斯大学达拉斯分校);AT&T Data Science and AI Research(AT&T数据科学与人工智能研究)
本文提出了一种基于贝叶斯非参数方法的学习框架,用于处理非参数混合成分的有限混合模型,通过高效的MCMC算法实现对复杂概率分布的高效学习。
2026-03-04 math.ST stat.CO stat.ME
Universality of Bayesian mixture predictors
这是有限值时间序列的序贯概率预测问题。数据由所有单向无穷序列的空间上的未知概率分布生成。已知这个测度属于一个给定的集合C,但后者是完全任意的(不可数无限,没有任何结构)。性能是用渐近平均对数损失来衡量的。在这项工作中,它表明,极小极大渐近性能总是可以达到的,它是通过一个凸组合的可数许多措施,从集合C(贝叶斯混合)。这是以前只知道的情况下,最佳可实现的渐近误差是0。这也对比了以前的结果表明,在不可实现的情况下,所有贝叶斯混合可能是次优的,而有一个预测,达到最佳性能。
2016-11-01 cs.IT cs.LG math.IT
Consistent Bayesian Sparsity Selection for High-dimensional Gaussian DAG Models with Multiplicative and Beta-mixture Priors
高维多元数据的协方差阵估计是现代统计学中一个具有挑战性的重要问题。在本文中,我们专注于高维高斯DAG模型,稀疏性诱导的逆协方差阵的Cholesky因子L。在最近的工作中,([Cao,Khare和Ghosh,2019]),我们为分层贝叶斯DAG模型建立了高维稀疏选择一致性,其中Erdos-Renyi先验被放置在Cholesky因子L中的稀疏模式上,并且DAG-Wishart先验被放置在产生的非零Cholesky条目上。在本文中,我们显着改进和扩展这项工作,(a)考虑更多样化和有效的先验的稀疏模式在L中,即β-混合先验和乘法先验,(b)建立稀疏选择一致性显着放宽条件下的p,和真实模型的稀疏模式。我们通过数值模拟证明了我们的理论结果的有效性,并使用进一步的模拟来证明我们的稀疏性选择方法与现有的最先进的方法,包括频率论和贝叶斯方法在各种设置中具有竞争力。
2019-03-08 math.ST stat.ME stat.TH
Gaussian mixture modeling of nodes in Bayesian network according to maximal parental cliques
Zhejiang University(浙江大学)
本文用混合高斯模型代替线性高斯模型来拟合贝叶斯网络中每个节点的分布。我们将解释为什么以及如何在贝叶斯网络中使用高斯混合模型。同时,本文提出了一种新的混合模型优化方法--双重迭代算法,该算法结合了期望最大化算法和梯度下降算法,在混合模型的贝叶斯网络上有较好的性能。在实验中,我们在实际数据集上对不同结构的学习算法生成的不同图进行了高斯混合模型和优化算法的测试,并给出了每个实验的细节。
2022-05-16 cs.LG stat.ML
Bayesian Semiparametric Mixture Cure (Frailty) Models
本文提出了一种贝叶斯半参数混合治愈模型,通过分层框架灵活处理frailty成分,提升对患者异质性的建模能力,并在模拟和实际数据中验证了其有效性。
2025-12-09 math.ST stat.CO stat.ME
Bayesian Finite Mixtures of Ising Models
该研究提出伊辛模型有限混合模型以分析二元变量关联的多变量模式,探究其可识别性条件并构建贝叶斯拟合框架,经实验验证可有效用于稀疏二元列联表分析。
2023-04-30 stat.ME
Variational Bayesian Inference For A Scale Mixture Of Normal Distributions Handling Missing Data
本文提出了一种适用于含有异常值和缺失值的数据分类和聚类的正态分布尺度混合模型。分类方法,基于混合模型,侧重于引入潜变量,使我们有可能处理模型对离群值的敏感性,并允许对缺失数据进行限制性较小的建模。通过变分贝叶斯近似进行推理,并采用贝叶斯处理进行模型学习、监督分类和聚类。
2017-11-22 stat.ML
Bayesian Inference on Mixtures of Distributions
本调查涵盖了最先进的贝叶斯技术估计的混合物。它通过研究新类型的分布,多项分布,潜在类分布和t分布,补充了早期的Marin,Mengersen和Robert(2005)。它还展示了封闭形式的解决方案,贝叶斯推断在一些离散的设置。最后,通过Chib(1995)的近似,给出了Bayes因子的计算方法。
2008-04-15 stat.CO stat.ME
Bayesian Measurement Error Models Using Finite Mixtures of Scale Mixtures of Skew-Normal Distributions
我们提出了一个建议,以处理的非正态性问题的背景下,测量误差的回归模型的响应和解释变量的观察误差。我们扩展了正态模型的未观察到的协变量和随机误差的斜正态分布的规模混合的有限混合联合建模。这种方法使我们能够以极大的灵活性对数据进行建模,适应偏斜,重尾和多模态。
2020-07-26 stat.AP stat.ME
Computational Solutions for Bayesian Inference in Mixture Models
本章调查了最标准的蒙特卡罗方法,可用于从与混合物相关的后验分布进行模拟,并进行了一些关于Gibbs采样器在高维高斯设置中的鲁棒性的实验。这是为即将出版的《混合物分析手册》准备的一章。
2018-12-18 stat.CO
Bayesian Wasserstein Repulsive Gaussian Mixture Models
本文提出贝叶斯Wasserstein排斥高斯混合模型,基于Wasserstein距离促进聚类分离,并在非参数密度估计框架内建立后验收缩率,验证了其有效性。
2025-04-30 stat.ME
Individual Claims Forecasting with Bayesian Mixture Density Networks
Kasa AI(卡萨人工智能)
我们介绍了一个利用贝叶斯混合密度网络的个人索赔预测框架,可用于索赔分析任务,如案件保留和分流。所提出的方法能够整合来自结构化和非结构化数据源的索赔信息,生成多期现金流预测,并生成未来支付模式的不同场景。我们使用公开的数据实现和评估建模框架。
2020-03-05 cs.LG stat.AP
Bayesian Mixtures Models with Repulsive and Attractive Atoms
本文提出统一框架,用于构建和分析具有排斥或吸引原子的贝叶斯混合模型,推导出后验、边缘及预测分布的闭式表达式,并应用于多种点过程,展示其在模拟和真实数据上的性能。
2025-04-24 math.PR math.ST stat.ME
Bayesian inference of Gaussian mixture models with noninformative priors
本文讨论混合高斯分布的贝叶斯推断。一种新的配方的混合模型,其中包括先验约束,每个高斯分量总是分配一个最小数量的数据点。这使得非信息性的不适当的先验,如Jeffreys之前被放置在组件参数上。我们证明了在指定一个标准的高斯混合模型的先验所涉及的困难,并展示了如何新的模型可以用来克服这些。MCMC方法给出了有效的采样从这个模型的后验。
2014-05-19 stat.ME
A Bayesian Bootstrap for Mixture Models
本文提出一种新的非参数贝叶斯自助法用于混合模型,通过将传统贝叶斯自助法重新解释为梯度上升算法并改用连续核,基于非参数最大似然估计工作,并证明了算法的收敛性与可交换性。
2023-10-02 stat.CO stat.ME
Bayesian Nonparametric Model for Weighted Data Using Mixture of Burr XII Distributions
狄利克雷过程混合模型(DPMM)是一种流行的贝叶斯非参数模型。在本文中,我们将此模型应用于加权数据,然后使用梅特罗波利斯-黑斯廷斯算法从相应的加权分布估计未加权分布。然后,我们应用DPMM与不同的内核模拟和真实的数据集。特别是,我们在删失数据的存在下使用寿命数据,然后计算估计的密度和生存值。
2018-12-11 stat.CO stat.ME
Bayesian Nonparametric Survival Analysis using mixture of Burr XII distributions
近年来,贝叶斯非参数方法在生存研究中的应用越来越受到人们的关注。由于生存数据的多模态性,混合模型在这一领域非常普遍。Dirichlet过程先验是贝叶斯非参数模型的著名先验之一。本文介绍了一种以Burr分布(Burr型XII)为核的贝叶斯非参数混合模型。由于Burr分布在生存分析中具有一般分布的良好性质,因此比其他分布具有更大的灵活性。通过将该模型应用于模拟和真实的失效时间数据集,我们展示了该模型的优越性,并将其与其他具有不同核函数的Dirichlet过程混合模型进行了比较。并且证明了该模型适用于右删失数据。为了计算推断和建模参数的后验,我们使用了MCMC模拟方法,特别是吉布斯抽样。
2016-12-23 stat.AP
Bayesian finite mixtures: a note on prior specification and posterior computation
本文提出了一种计算有限混合物组分数k的后验分布的新方法。本文还研究了先验规范的两个方面:论证了使用Poisson(1)分布作为k的先验;给出了在混合正态模型中选择超参数值的方法,其中分量参数具有自然共轭先验。
2007-11-03 stat.CO stat.ME
Distributed Bayesian clustering using finite mixture of mixtures
在许多现代应用中,人们对分析无法轻松跨计算机移动或加载到单个计算机上的存储器中的庞大数据集感兴趣。在这种情况下,对集群感兴趣是非常普遍的。现有的分布式聚类算法大多是基于距离或密度的,没有可能性规范,排除了正式的统计推断的可能性。基于模型的聚类允许统计推断,但分布式推断的研究强调非参数贝叶斯混合模型的有限混合模型。为了填补这一空白,我们引入了一个几乎并行的算法下的贝叶斯过拟合有限混合高斯混合,我们的分布式贝叶斯聚类(DIB-C)的聚类。DIB-C可以灵活地适应各种形状的数据集(例如倾斜或多模态)。随着数据的随机划分和分布,我们首先运行马尔可夫链蒙特卡罗在一个非常并行的方式来获得本地聚类绘制,然后细化跨工人的最终聚类估计的基础上的任何损失函数的空间分区。DIB-C还可以估计聚类密度,快速对新对象进行分类,并提供后验预测分布。仿真研究和实际数据的应用表明,优越的性能DIB-C的鲁棒性和计算效率。
2020-05-14 stat.CO stat.ME
Exact Bayesian Analysis of Mixtures
在本文中,我们将展示如何一个完整的和精确的贝叶斯分析的参数混合模型是可能的,在某些情况下,当成分的混合物是从指数家庭和共轭先验时使用。这种有限的设置使我们能够显示贝叶斯方法的相关性,以及展示一个完整的分析的局限性,即它是不可能进行这种分析时,样本量太大,当数据不是从一个指数的家庭,或当使用的先验比共轭先验更复杂。
2010-10-29 stat.CO stat.ME
Amortized Bayesian Mixture Models
本文提出一种适用于混合模型的均摊贝叶斯推断框架,通过生成神经网络和分类网络结合,实现参数推断和混合成员识别,支持独立和依赖混合模型,并在合成和真实数据集上进行了验证。
2026-03-16 cs.LG stat.CO stat.ML
A BGe score for tied-covariance mixtures of Gaussian Bayesian networks
Bernoulli Institute (BI) Rijksuniversiteit Groningen(格罗宁根大学伯努利研究所)
研究高斯贝叶斯网络混合模型,提出协方差绑定混合模型,推导其边际似然得BGe评分指标,通过结合结构MCMC和快速吉布斯采样器的MCMC方案进行模型推理,并在模拟和基准数据上比较两种模型。
2026-07-20 stat.CO
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University(广岛大学)
研究贝叶斯混合模型中成分数量未知的情况,提出基于归一化逆高斯权重的MFM方法,通过引入潜在变量用块吉布斯采样计算后验,经数值实验和实际数据示例验证性能,还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
BayesMix: Bayesian Mixture Models in C++
我们描述了BayesMix,一个用于一般贝叶斯混合模型的MCMC后验模拟的C++库。BayesMix的目标是为计算机科学家、统计学家和从业者提供一个独立的生态系统来执行混合模型的推理。这个库的关键思想是可扩展性,因为我们希望用户能够轻松地将我们的软件适应他们特定的贝叶斯混合模型。除了库中包含的几种模型和MCMC后验推理算法外,对混合模型和相关MCMC算法不熟悉的新用户可以以最小的编码工作扩展我们的库。与竞争对手的软件相比,我们的库在计算上非常高效。示例表明,典型的代码运行时比竞争对手的数据维度从1到10快2到25倍。我们的库在Github上公开提供,网址是https://github.com/bayesmix-dev/bayesmix/。
2022-05-17 stat.CO stat.OT
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注,特别是在处理具有偏态和重尾等特征的数据时。在这里,这样的混合分布,基于多元正态逆高斯(MNIG)分布。对于混合模型的参数估计,采用基于Gibbs抽样的贝叶斯方法,提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析,我们表明参数恢复,我们的方法提供了竞争力的聚类结果相比,其他聚类方法。
2020-05-06 stat.CO
Modeling Preferences: A Bayesian Mixture of Finite Mixtures for Rankings and Ratings
排名和评级通常用于表达偏好,但提供不同的补充信息。排名提供有序和无标度比较,但缺乏粒度;评级提供基本和粒度评估,但可能是高度主观或不一致的。由于缺乏原则性的方法,直到最近才联合收集和分析排名和评级。在这项工作中,我们提出了一个灵活的,联合统计模型的排名和评级下的异质偏好:布拉德利-特里-Luce-Binomial(BTL-Binomial)。我们采用贝叶斯混合有限混合物(MFM)的方法来估计异质偏好,了解其固有的不确定性,并作出准确的决定,排名和评级的基础上联合。我们证明了BTL-二项式MFM方法在同行评审和调查数据背景下的真实和模拟数据集上的排名和评级偏好的效率和实用性。
2023-01-23 stat.ME
Without Pain -- Clustering Categorical Data Using a Bayesian Mixture of Finite Mixtures of Latent Class Analysis Models
本文提出一种贝叶斯两层有限混合模型,用潜在类别分析近似簇分布,结合伸缩采样器和标签切换处理,实现对未知簇数多元分类数据的简约聚类,并在模拟和下背痛数据上验证了有效性。
2024-07-07 stat.ME
Approximate Bayesian Computation for Finite Mixture Models
有限混合模型用于统计学和其他学科,但混合模型的推理是具有挑战性的,部分原因是由于似然函数的多峰性和所谓的标签切换问题。我们提出了扩展的近似贝叶斯计算人口蒙特卡罗(ABC-PMC)算法作为一种替代框架的推断有限混合模型。在有限混合模型中实现ABC-PMC算法时,需要做出几个决定,包括选择用于在迭代中移动粒子的内核,如何解决标签切换问题,以及选择信息汇总统计量。最后通过算例验证了ABC-PMC混合建模算法的有效性。所提出的方法的性能进行了评估,在模拟研究和流行的退行速度星系的数据。
2020-11-02 stat.ME
Bayesian Finite Mixture Models
本文系统阐述贝叶斯有限混合模型在聚类中的应用,涵盖成分数已知与未知两种情况下的先验设定、MCMC估计、标签切换处理及后验推断,并通过多元高斯混合模型实例说明完整建模流程。
2024-07-07 stat.ME
A Bayesian Filtering Algorithm for Gaussian Mixture Models
School of Engineering, University of Newcastle, Australia.(纽卡斯尔大学工程学院)
本文提出了一种针对可由高斯混合模型建模的状态空间系统的贝叶斯滤波算法,通过在时间更新和测量更新后引入高斯混合缩减步骤来处理滤波问题中的指数增长混合项问题,并在多个模拟系统上对统一算法的平方根实现进行了性能评估。
2023-06-30 cs.SY eess.SY stat.ML
Bayesian Mixture Models for Frequent Itemset Discovery
ASN Technology Group Co,.Ltd(ASN科技集团有限公司);University of Manchester(曼彻斯特大学)
在二进制事务数据挖掘中,传统的频繁项集挖掘往往产生难以解释的结果。为了克服这个问题,通常使用概率模型来产生更紧凑和结论性的结果,尽管精度有所损失。近年来,贝叶斯统计被广泛用于机器学习中概率模型的开发,这些方法具有许多优点,包括它们避免过拟合的能力。在本文中,我们开发了两个贝叶斯混合模型的Dirichlet分布先验和Dirichlet过程(DP)之前,以改善以前的非贝叶斯混合模型开发的交易数据集挖掘。我们使用两种方法实现这两个混合模型的推理:一个崩溃的吉布斯抽样方案和变分近似算法。在几个基准问题的实验表明,这两个混合模型实现更好的性能比非贝叶斯混合模型。变分算法是两种方法中速度较快的一种,而吉布斯抽样法得到的结果更为精确。Dirichlet过程混合模型可以自动增长到适当的复杂度,以获得更好的近似。一旦模型构建完成,查询和运行分析就可以非常快(通常比Eclat快10倍,我们将在实验部分中展示)。然而,这些方法也表明,混合模型低估了频繁项集的概率。因此,这些模型具有较高的灵敏度,但特异性较低。
2012-09-26 cs.IR cs.LG stat.ML
Large Scale Variational Bayesian Inference for Structured Scale Mixture Models
自然图像统计在多个尺度上表现出层次依赖性。在非阶乘潜在树模型中表示这样的先验知识可以大大提高图像去噪、修复、去卷积或重建的性能,超越标准阶乘“稀疏”方法。我们推导出一个大规模的近似贝叶斯推理算法的线性模型与非阶乘(潜在树结构)规模的混合先验。一系列去噪和修复问题的实验结果表明,大大提高了性能相比,MAP估计或推断与阶乘先验。
2012-06-27 cs.CV cs.LG stat.ML
Moment-based Bayesian Poisson Mixtures for inferring unobserved units
我们利用一个合适的矩为基础的表征混合泊松分布的发展贝叶斯推断为未知大小的有限人口的单位是受到多次发生在枚举抽样阶段。这是一个特别具有挑战性的设置,许多其他的尝试已经作出推断的未知特性的人口。在这里,我们把特别强调的混合分布的特征的默认先验启发的建设。我们评估我们的方法在实际数据应用和模拟研究中的比较性能。
2018-06-18 stat.ME
Classical and Bayesian Analyses of a Mixture of Exponential and Lomax Distributions
在混合模型的寿命试验中,指数分布和Lomax分布被广泛应用。提出了一种指数分布与Lomax分布的混合模型。所提出的模型的参数估计使用经典和贝叶斯程序下的第一类右删失。贝叶斯估计的表达式推导出假设非信息(均匀和杰弗里斯)先验下对称和非对称损失函数。后验预测分布的未来观测的推导和预测估计。广泛的蒙特卡罗模拟进行调查性能的估计方面的样本量,删失时间和混合比例。混合模型的分析进行了使用的数据集的发射机和接收机的寿命。有趣的性质的估计进行了观察和讨论。
2020-02-25 stat.ME
Identifying Mixtures of Mixtures Using Bayesian Estimation
在基于模型的聚类中使用有限混合的正态分布允许捕获非高斯数据聚类。然而,从正常分量中识别聚类是具有挑战性的,并且通常通过对模型施加约束或通过使用后处理过程来实现。在贝叶斯框架内,我们提出了一种不同的方法,基于稀疏有限混合物,以实现可识别性。我们指定了一个分层的先验,其中超参数是精心选择的,这样它们就可以反映目标的集群结构。此外,该先验允许使用标准MCMC采样方法来估计模型。结合解决标签切换问题并导致识别模型的后处理方法,我们的方法允许同时(1)确定聚类的数量,(2)使用有限的法线混合以半参数方式灵活地近似聚类分布,以及(3)识别特定于聚类的参数并对观察结果进行分类。所提出的方法是说明在两个模拟研究和基准数据集。
2016-06-20 stat.ME
Scalable Bayesian nonparametric measures for exploring pairwise dependence via Dirichlet Process Mixtures
在这篇文章中,我们提出了新的贝叶斯非参数方法,使用Dirichlet过程混合(Dirichlet Process Mixture)模型来检测随机变量之间的成对依赖关系,同时考虑潜在分布形式的不确定性。一个关键的标准是,这些程序应该扩展到大型数据集。在这方面,我们发现,正式计算的贝叶斯因子的依赖与。独立联合概率测度在计算上是不可行的。为了解决这个问题,我们提出了贝叶斯诊断措施,对成对独立的“空模型”的特征证据。在模拟研究中,以及一个真正的数据分析,我们表明,我们的方法提供了一个有用的工具,探索性的非参数贝叶斯分析的大型多元数据集。
2016-04-27 stat.ME