Gaussian mixture modeling of nodes in Bayesian network according to maximal parental cliques
Zhejiang University(浙江大学)
本文用混合高斯模型代替线性高斯模型来拟合贝叶斯网络中每个节点的分布。我们将解释为什么以及如何在贝叶斯网络中使用高斯混合模型。同时,本文提出了一种新的混合模型优化方法--双重迭代算法,该算法结合了期望最大化算法和梯度下降算法,在混合模型的贝叶斯网络上有较好的性能。在实验中,我们在实际数据集上对不同结构的学习算法生成的不同图进行了高斯混合模型和优化算法的测试,并给出了每个实验的细节。
2022-05-16 cs.LG stat.ML
Bayesian Nonparametric Erlang Mixture Modeling for Survival Analysis
我们开发了一个灵活的Erlang混合模型用于生存分析。生存密度的模型是从一个结构化的混合厄兰密度,混合上的整数形状参数与一个共同的尺度参数。混合权重通过正实数线上的分布函数的增量来构造,该正实数线被赋予Dirichlet过程先验。该模型具有相对简单的结构,平衡灵活性与有效的后验计算。此外,它意味着一个混合物表示的风险函数,涉及时间依赖的混合权重,从而提供了一个通用的方法来估计风险。我们扩展模型来处理对应于多个实验组的生存响应,使用一个依赖的Dirichlet过程之前的组特定的分布,定义的混合权重。模型的属性,事先规范,和事后模拟进行了讨论,并与合成和真实数据的例子说明了方法。
2022-11-16 stat.ME
Modeling Preferences: A Bayesian Mixture of Finite Mixtures for Rankings and Ratings
排名和评级通常用于表达偏好,但提供不同的补充信息。排名提供有序和无标度比较,但缺乏粒度;评级提供基本和粒度评估,但可能是高度主观或不一致的。由于缺乏原则性的方法,直到最近才联合收集和分析排名和评级。在这项工作中,我们提出了一个灵活的,联合统计模型的排名和评级下的异质偏好:布拉德利-特里-Luce-Binomial(BTL-Binomial)。我们采用贝叶斯混合有限混合物(MFM)的方法来估计异质偏好,了解其固有的不确定性,并作出准确的决定,排名和评级的基础上联合。我们证明了BTL-二项式MFM方法在同行评审和调查数据背景下的真实和模拟数据集上的排名和评级偏好的效率和实用性。
2023-01-23 stat.ME
A Bayesian approach to learning mixtures of nonparametric components
University of Michigan–Ann Arbor(密歇根大学安娜堡分校);University of Texas at Dallas(德克萨斯大学达拉斯分校);AT&T Data Science and AI Research(AT&T数据科学与人工智能研究)
本文提出了一种基于贝叶斯非参数方法的学习框架,用于处理非参数混合成分的有限混合模型,通过高效的MCMC算法实现对复杂概率分布的高效学习。
2026-03-04 math.ST stat.CO stat.ME
On posterior contraction of parameters and interpretability in Bayesian mixture modeling
我们研究的背景下,贝叶斯混合建模,混合组件的数量是未知的,而模型本身可能会或可能不会被正确指定的参数的后验收缩行为。将考虑两种有代表性的先验规范:一种明确要求混合组分的数量上的先验分布,而另一种将混合分布的空间上的非参数先验。前者示出在最小条件下对模型参数产生最优的后验收缩率,而后者可以用来一致地恢复混合物成分的未知数,借助快速的概率后处理过程。然后,我们把这些贝叶斯程序的研究模型误设定的现实设置。它将被证明,核密度函数的建模选择可能起着最有影响力的作用,在错误指定的情况下,在确定后验收缩率。利用本文中建立的具体后验收缩率,我们希望强调一些方面的有趣的权衡模型的表达性和可解释性之间的统计建模必须谈判在丰富的世界的混合建模。
2019-01-15 math.ST stat.TH
Bayesian mixture modeling using a mixture of finite mixtures with normalized inverse Gaussian weights
Hiroshima University(广岛大学)
研究贝叶斯混合模型中成分数量未知的情况,提出基于归一化逆高斯权重的MFM方法,通过引入潜在变量用块吉布斯采样计算后验,经数值实验和实际数据示例验证性能,还考虑了对动态MFM的扩展。
2026-07-09 stat.ME
Weighted likelihood mixture modeling and model based clustering
在这项工作中,开发了一种加权似然方法的稳健拟合的多元高斯成分的混合。已经提出了两种方法,分别由标准EM和CEM算法的适当修改驱动。在这两种技术中,M步骤通过针对降低离群值的权重的计算来增强。权重是基于皮尔逊残差源于强大的马氏型距离。基于拟合的混合模型,还可以定义用于鲁棒聚类和离群值检测的正式规则。所提出的方法的行为进行了研究,通过一些数值研究和实际数据的例子,在拟合和分类精度和离群值检测。
2018-11-08 stat.ME
Bayesian mixture modeling for multivariate conditional distributions
我们提出了一个贝叶斯混合模型,用于估计一组固定变量条件下的混合有序、名义和连续数据的联合分布。该模型对随机变量使用多元正态和分类混合核。它通过多变量正态混合核和截断局部Dirichlet过程来诱导随机变量和固定变量之间的依赖性。后者鼓励具有相似固定变量值的观测值共享混合分量。使用数据融合的模拟,我们说明,该模型可以估计潜在的关系,在数据和缺失值的分布更准确地比混合模型应用于随机和固定变量联合。我们使用该模型来分析消费者的阅读行为,使用配额样本,即,一个样本,其中一些变量的经验分布是固定的设计,所以不应该被建模为随机的,由图书出版商哈珀柯林斯进行。
2016-07-13 stat.ME
Bayesian Repulsive Mixture Modeling with Matérn Point Processes
Purdue University(普渡大学)
本文提出一种基于马特恩点过程的贝叶斯混合模型,通过引入排斥机制解决聚类重叠问题,并利用吉布斯采样器实现高效后验推断。
2026-02-21 stat.ME
Negative Binomial Process Count and Mixture Modeling
在负二项(NB)过程下,计数和混合建模的看似不相交的问题被统一起来。一个伽玛过程的泊松过程,其归一化提供了一个随机的概率测度的混合建模和其边缘化导致一个NB过程的计数建模的速率测量建模。从NB过程中提取的数据由泊松分布的有限数量的不同原子组成,每个原子与对数分布的数据样本数量相关联。我们揭示了各种计数和混合建模分布之间的关系,并构建了一个连接NB和中国餐厅餐桌分布的泊松对数二元分布。的模型的基本属性的开发,我们得到有效的贝叶斯推断。研究表明,通过增广和归一化,NB过程和γ-NB过程可分别化为Dirichlet过程和分层Dirichlet过程.这些关系突出了NB过程的理论、结构和计算优势。还构造了具有不同共享机制的各种NB过程,包括beta-几何、beta-NB、marked-beta-NB、marked-gamma-NB和零膨胀NB过程。这些模型被应用到主题建模,与现有的算法泊松因子分析下的连接。算例结果表明了同时推断NB色散和概率参数的重要性。
2013-10-13 stat.ME stat.ML
Modeling Missing at Random Neuropsychological Test Scores Using a Mixture of Binomial Product Experts
university of washington(华盛顿大学)
本文提出一种基于专家混合模型的方法,用于随机缺失的认知测试分数建模,结合协变量信息进行插补和聚类分析。
2026-02-09 stat.AP stat.ME
Mixture Modeling based Probabilistic Situation Awareness
从概率建模的角度研究了态势感知问题。将态势作为一个隐变量,引入隐马尔可夫模型(HMM)和扩展状态空间模型(ESSM)来数学表达态势的动态演化规律以及态势与可观测量之间的关系。我们使用高斯混合模型(GMM)制定专家知识,这是需要在建立HMM和ESSM。我们表明,ESSM模型是更可取的HMM相比,因为使用ESSM,我们也可以得到一个实时估计的枢轴变量,连接的情况与可观察的量。通过一个威胁监视的仿真实验,验证了两种模型的有效性和效率.
2015-10-07 stat.AP
Modeling Bimodal Discrete Data Using Conway-Maxwell-Poisson Mixture Models
在汇总调查数据和用户评分中,当受访者意见不一时,经常可以观察到双峰截断计数分布。它们也出现在删失计数数据中,其中最高类别可能会创建额外的模式。在离散数据中建模双峰行为对于各种目的都很有用,从比较不同样本(或调查问题)的形状到预测新评分者的未来评分。泊松分布是用于拟合计数数据的最常见分布,并且可以被修改以实现截断的泊松分布的混合。然而,它只适合于建模等分散分布,并在其捕获双峰的能力是有限的。Conway-Maxwell-Poisson(CMP)分布是泊松分布的两参数推广,其允许过分散和欠分散。在这项工作中,我们提出了一个混合的CMP捕获范围广泛的截断离散数据,可以表现出单峰和双峰的行为。我们提出了使用EM方法估计两个CMP分布的混合物的参数的方法。我们的方法在M步中引入了一个特殊的两步优化来估计多个参数。我们研究计算和理论问题。使用模拟和真实的例子说明了建模有序评级数据以及截断计数数据的方法。
2014-01-23 stat.ME
Mixture model modal clustering
两种最广泛的基于密度的聚类方法肯定是混合模型聚类和模态聚类。在混合模型方法中,密度被表示为混合物,并且聚类与不同的混合物组分相关联。在模态聚类中,聚类被理解为高密度区域,它们被低密度区域彼此分开,因此它们与密度模式周围的某些区域密切相关。如果真实密度确实在假设的混合密度类中,则混合模型聚类允许仔细检查比模态聚类更微妙的情况。然而,当以非参数方式使用混合建模时,利用混合密度筛的密集性来近似任何密度,则聚类和混合组分之间的对应关系可能变得可疑。在本文中,我们介绍了两种方法,采用模态聚类的观点后,混合模型拟合。提供了许多例子来说明,混合建模也可以用于聚类在非参数意义上,只要集群被理解为域的密度模式的吸引力。
2016-09-15 stat.CO stat.ML
Topic Modeling via Full Dependence Mixtures
Technion, Israel Institute of Technology(以色列理工学院(Technion, Israel Institute of Technology))
在本文中,我们介绍了一种新的主题建模方法,该方法通过使用数据的紧凑表示和利用GPU架构来扩展到大型数据集。在这种方法中,主题直接从语料库的共现数据中学习。特别是,我们介绍了一种新的混合模型,我们称之为全依赖混合(FDM)模型。FDM在数据的一般生成假设下对二阶矩进行建模。虽然有以前的工作主题建模使用二阶矩,我们开发了一个直接的随机优化过程,一个单一的Kullback Leibler目标拟合FDM。矩方法通常具有迭代不再需要随着语料库的大小而缩放的优点。我们的方法使我们能够利用标准的优化器和GPU的主题建模的问题。特别是,我们评估了两个大的数据集,NeurIPS论文和Twitter语料库,大量的主题的方法,并表明该方法的性能优于或优于标准基准。
2020-03-01 cs.IR cs.LG stat.ML
The N-ary in the Coal Mine: Avoiding Mixture Model Failure with Proper Validation
本文将二元混合物QSAR验证策略推广到N元混合物,提出考虑共享成分统计依赖性的基线性能方法,防止模型性能被高估,并通过真实与模拟数据案例验证其有效性。
2023-08-11 q-bio.BM stat.ME
Dynamic modeling of mortality via mixtures of skewed distribution functions
人们对预测死亡率越来越感兴趣。在这篇文章中,我们提出了一种新的动态贝叶斯方法建模和预测的死亡年龄分布,专注于一个狄拉克质量,高斯分布和斜正态分布的三个组成部分的混合物。根据指定的模型,死亡年龄分布的特征是通过与婴儿、成人和老年死亡率的主要方面相对应的七个参数来确定的。所提出的方法侧重于多个国家的连贯建模,并遵循贝叶斯方法进行推理,我们允许跨人群借用信息,并将参数缩小到一个共同的平均水平,隐含地惩罚不同的场景。跨年度的动态建模是通过一个层次的动态先验分布,可以描述每个死亡率组成部分的时间演变,并预测死亡年龄分布。多个国家的实证结果表明,所提出的方法优于流行的方法预测死亡率,提供了可解释的见解的死亡率的演变。
2021-12-17 stat.AP
Modeling with Normalized Random Measure Mixture Models
Dirichlet过程混合物模型和基于离散随机概率测度的更一般的混合物已被证明是密度估计和聚类的灵活和准确的模型。本文的目标是说明使用归一化随机措施的混合措施在非参数分层混合模型,并指出如何可能的计算问题,可以成功地解决。为此,我们首先提供了一个简洁和方便的介绍,规范化的随机措施与独立的增量。然后,我们详细解释了一个特定的方式,从后使用弗格森-克拉斯表示采样。我们开发了一个彻底的位置规模的混合物,认为一组替代品的混合内核和非参数组件的比较分析。仿真结果表明,归一化随机测量混合物可能是一个有效的默认选择密度估计问题。作为这项研究的副产品,一个R包,以适应这些模型的产生,并在综合R档案网络(CRAN)。
2013-10-01 stat.ME
A non-parametric mixture model for topic modeling over time
一个单一的,固定的主题模型,如潜在的Dirichlet分配是不适合建模语料库,跨越很长的时间段,因为主题的流行程度可能会随着时间的推移而变化。已经提出了一些模型,包括时间,但在一般情况下,他们要么表现出有限的形式的时间变化,或需要计算昂贵的推理方法。在本文中,我们提出了非参数主题随时间变化(npTOT),模型随时间变化的主题,允许无限数量的主题和灵活的分布在这些主题的流行度的时间变化。我们开发了一个崩溃的吉布斯采样建议的模型和现有的模型合成和真实的文档集进行比较。
2012-08-22 stat.ML
Bayesian Modeling and Computation for Analyte Quantification in Complex Mixtures Using Raman Spectroscopy
在这项工作中,我们提出了一个两阶段的算法贝叶斯建模和计算的基础上,旨在量化分析物的浓度或数量的复杂混合物与拉曼光谱。建立了用于光谱信号分析的多层贝叶斯模型,并采用可逆跳马尔可夫链蒙特卡罗(RJMCMC)计算方法进行模型选择和光谱变量估计。处理分两个阶段进行。在第一阶段中,学习目标分析物光谱的峰表示。在第二阶段中,从第一阶段学习的峰值变量用于估计混合物中目标分析物的浓度或量。数值实验验证了它的量化性能在广泛的模拟条件下,并建立了其优势,分析物定量任务下的小训练样本量制度比传统的多元回归算法。我们还使用我们的算法来分析收集的实验自发拉曼光谱数据,用于生物制药过程监测应用中的葡萄糖浓度估计。我们的工作表明,该算法可以成为基于拉曼光谱的混合物定量研究中传统多元回归算法的一个有前途的补充工具,特别是当收集高质量的大型训练数据集具有挑战性或资源密集型时。
2018-05-20 physics.data-an stat.AP
MCMC for Bayesian nonparametric mixture modeling under differential privacy
本文提出差分隐私下的贝叶斯非参数混合模型及边际、条件两类 MCMC 后验推断算法,支持局部与全局 DP,并通过模拟和真实案例评估性能。
2024-05-21 stat.CO stat.ME
Mortality modeling at old-age: a mixture model approach
本文提出了一种新的方法来建模70岁以上的死亡率,提出了一个基于混合模型。该模型与其他四种广泛使用的模型进行了比较:Beard,Gompertz,Makeham和Perks模型。我们的模型可以捕捉所有年龄段死亡率的复杂行为,提供更准确的数据表示。为了评估模型的性能,我们将其应用于两个数据质量不同的国家:日本和巴西。我们的研究结果表明,该模型优于其他模型在这两个国家,特别是在日本,它获得了一个绝对平均百分比误差小于7%,而其他模型提出的值大于30%。这突出了我们的模型适应不同数据质量和国家特定死亡率模式的能力。总之,本文提出了一种基于混合的模型,该模型捕捉了所有年龄段的死亡率行为,并且在高质量和低质量数据设置中优于其他广泛使用的模型。该模型可以改善死亡率预测并为公共卫生政策提供信息。
2023-01-17 stat.AP stat.OT
Modeling Graph Node Correlations with Neighbor Mixture Models
Tufts University(塔夫茨大学)
我们提出了一个新的模型,邻居混合模型(NMM),在一个图中的节点标签建模。该模型旨在捕获局部邻域中节点标签之间的相关性。我们仔细设计了模型,使其可以替代马尔可夫随机场,但更实惠的计算。特别是,绘制样本和评估单个标签的边际概率可以在线性时间内完成。为了将计算扩展到大型图,我们设计了一个变分近似,而不引入额外的参数。我们进一步使用图神经网络(GNNs)来参数化NMM,这减少了可学习参数的数量,同时允许表达性表示学习。所提出的模型可以直接拟合大型观察图,也可以用于实现可扩展的推理,以保留其他分布(例如深度生成图模型)的相关性。在一组不同的节点分类,图像去噪,和链接预测任务,我们表明我们提出的NMM先进的最先进的建模现实世界的标记图。
2021-04-18 cs.LG stat.ML
A censored mixture model for modeling risk taking
针对实验风险任务中的删失观测、结果吸引力差异及参与者潜在异质性,提出 Censored Mixture Model(CMM)以更准确地建模风险承担。
2020-02-19 stat.AP
Autoregressive Density Modeling with the Gaussian Process Mixture Transition Distribution
我们开发了一个混合模型的过渡密度近似,连同软模型选择,在存在噪声和异质非线性动力学。我们的模型建立在高斯混合转移分布(MTD)模型的连续状态空间,扩展组件的意思是使用高斯过程(GP)先验建模的非线性函数。由此产生的模型灵活地捕捉非线性和异构滞后依赖时,几个混合物组件是活跃的,识别低阶非线性依赖,同时推断相关的滞后时,很少的组件是活跃的,并平均在多个和竞争的单滞后模型量化/传播的不确定性。混合权重上的稀疏诱导先验有助于选择活动滞后的子集。分层模型规范遵循GP回归和MTD模型的惯例,允许方便的吉布斯抽样方案进行后验推断。我们证明了两个模拟和两个实时的时间序列,强调滞后依赖的过渡密度和模型选择的近似所提出的模型的属性。在大多数情况下,该模型决定性地恢复了重要特征。该模型提供了一个简单而灵活的框架,保留了MTD模型类的有用和独特的特征。
2020-07-17 stat.ME
Cluster and Feature Modeling from Combinatorial Stochastic Processes
贝叶斯非参数化的现代文献的焦点之一是聚类或分区的问题,其中每个数据点被建模为与称为聚类或分区块的一些集合中的一个且仅一个相关联。这些贝叶斯非参数模型的基础是一组相互关联的随机过程,最著名的是狄利克雷过程和中国餐馆过程。在本文中,我们提供了一个正式的发展类似的问题,称为特征建模,关联数据点与任意非负整数数量的群体,现在被称为功能或主题。我们回顾了现有的组合随机过程表示的聚类问题,并开发类似的特征建模问题的表示。这些表征包括beta过程和印度自助餐过程,以及提供这些过程之间的联系的见解的新表征。因此,我们带来了相同水平的完整性,贝叶斯非参数特征建模,以前已经实现了贝叶斯非参数聚类的治疗。
2013-10-01 math.ST stat.ME stat.TH
Infinite Mixture Models for Improved Modeling of Across-Site Evolutionary Variation
针对跨位点进化变异建模中先验划分难的问题,研究多种无限混合模型并适配高效算法与并行计算,在BEAST X中实现框架,发现不同模型适配不同病毒数据集场景。
2024-12-08 q-bio.PE stat.ME
Outlier-Robust Multi-Group Gaussian Mixture Modeling with Flexible Group Reassignment
Vienna University of Technology(维也纳工业大学)
本文提出多组高斯混合模型(MG-GMM),用于研究预定义组与统计模型推断的聚类之间的差异,通过灵活的组重新分配和鲁棒性应对异常值。
2026-03-16 stat.ME
Growth Mixture Modeling with Measurement Selection
生长混合模型是研究重复测量数据中群体结构的重要工具。与传统的聚类方法不同,它们显式地对观测的重复测量进行建模,并且它们所基于的统计框架允许使用模型选择方法来选择聚类的数量。然而,基本增长混合模型假设数据中的所有测量都具有分组信息/分离聚类。在其他聚类上下文中,已经表明,在聚类过程中包括非聚类变量可能导致在聚类数量和聚类成员/参数方面对组结构的估计不佳。在本文中,我们提出了一个扩展的增长混合模型,允许纳入逐步变量选择的基础上所做的工作Maugis等。(2009)和Raftery和Dean(2006)。仿真研究结果表明,该方法在正确选择聚类变量和提高恢复的集群结构相比,基本的增长混合模型。本文还提出了一个应用模型的临床研究数据集,并得出结论,在这一领域的未来工作的方向进行了讨论和建议。
2017-10-18 stat.ME
Gaussian Mixture Modeling with Gaussian Process Latent Variable Models
密度建模对于高维数据是非常困难的。解决这个问题的一种方法是寻找一个低维流形,它捕获了数据的主要特征。近年来,高斯过程隐变量模型(GPLVM)已被成功地用于在各种复杂数据中寻找低维流形。GPLVM由低维潜在空间中的一组点和到观察空间的随机映射组成。我们展示了它如何可以被解释为在所观察到的空间中的密度模型。然而,GPLVM没有被训练成密度模型,因此产生了糟糕的密度估计。我们提出了一种新的训练策略,并在几个基准数据集的比较评估中获得了更好的泛化性能和更好的密度估计。
2010-07-13 stat.ML
Algebraic and Analytic Approaches for Parameter Learning in Mixture Models
Microsoft Research(微软研究院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
我们提出了两种不同的方法在一维混合模型的参数学习。我们的第一种方法使用复杂的分析方法,并适用于高斯混合共享方差,二项式混合共享成功概率,泊松混合,等等。示例结果是$\exp(O(N^{1/3}))$样本足以精确地学习$k<N$泊松分布的混合,每个泊松分布具有由$N$限定的积分速率参数。我们的第二种方法使用代数和组合工具,并适用于二项式混合物与共享的试验参数$N$和不同的成功参数,以及几何分布的混合物。同样,作为示例,对于具有$k$分量和离散化为分辨率$ε$的成功参数的二项式混合,$O(k^2(N/ε)^{8/\sqrtε})$样本足以精确地恢复参数。对于其中一些分布,我们的结果代表了参数估计的第一个保证。
2020-01-19 cs.LG stat.ML
Multichannel Electrophysiological Spike Sorting via Joint Dictionary Learning & Mixture Modeling
我们提出了一种用于动作电位检测和区分(“尖峰分选”)的多个记录期间的多通道细胞外电生理数据的联合特征学习和聚类的构造。我们的建筑主要从四个方面改进了以前的最先进的建筑。首先,通过跨通道共享信息,我们可以更好地区分单个单位尖峰和伪影。其次,我们提出的“聚焦混合模型”(FMM)优雅地处理了在多个记录日出现、消失或再现的单元,这是任何慢性实验的重要考虑因素。第三,通过联合学习特征和聚类,我们比以前通过两阶段(“频率论”)学习过程进行的尝试提高了性能。第四,通过直接建模尖峰率,我们提高了稀疏尖峰神经元的检测。此外,我们的贝叶斯构造无缝地处理缺失数据。我们提出了最先进的性能,而不需要手动调整许多超参数的公共数据集与部分地面真理和一个新的实验数据集。
2013-08-05 q-bio.QM stat.AP
An Introduction to the Practical and Theoretical Aspects of Mixture-of-Experts Modeling
La Trobe University(拉筹伯大学);Normandie Universite(诺曼底大学);UNICAEN(卡昂大学);CNRS(法国国家科学研究中心)
专家混合模型(Mixture-of-Experts,MoE)是对复杂数据生成过程(DGP)中产生的数据进行建模的强大范例。在这篇文章中,我们演示了如何构建不同的MoE模型来近似任意类型数据的底层DGP。由于概率性质的MoE模型,我们提出了最大拟似然(MQL)估计作为一种方法估计MoE模型参数的数据,我们提供的条件下,MQL估计是一致的和渐近正态的。提出了块最小化-最大化(blockwise-MM)算法框架,作为构造获得MQL估计的算法的通用方法。提供了逐块MM算法的示例推导。然后,我们提出了一种方法来构建信息准则估计的数量在MoE模型和经典的贝叶斯信息准则(BIC)提供的理由。我们解释了如何使用MoE模型进行分类,聚类和回归,我们说明了这些应用程序通过一对工作的例子。
2017-07-12 cs.LG stat.ML
Bivariate Gamma Mixture of Experts Models for Joint Insurance Claims Modeling
在一般保险中,不同类别的风险通常是独立建模的,它们的总和被视为保险人为换取保费而承担的总风险。即使可能存在相关性,例如一次车祸可能导致多个风险类别的索赔,但多个风险的相关性通常也被忽略。为了更好地预测未来的索赔,从而提高费率制定的准确性,在建模时考虑不同类别的协方差是可取的。在这项工作中,多变量的严重性模型进行了研究,使用混合专家模型与双变量Γ分布,其中的依赖结构直接使用GLM框架建模,协变量可以放置在门控和专家网络。此外,简约的参数化被认为是,这导致一个家庭的双变量伽玛混合专家模型。它可以被看作是一个基于模型的聚类方法,聚类的保单持有人到不同的依赖关系的子组,和混合模型的参数依赖于协变量。聚类被证明是很重要的,在分离的数据到子组,强依赖性往往是存在的,即使整个数据集表现出只有弱的依赖。在这样做时,不同组成部分之间的相关性在模型中占有突出地位。结果表明,通过应用到模拟数据和现实世界的爱尔兰GI保险公司的数据集,索赔预测可以得到改善。
2019-04-09 stat.AP
A Stochastic-Geometrical Framework for Object Pose Estimation based on Mixture Models Avoiding the Correspondence Problem
Munich University of Applied Sciences(慕尼黑应用科学大学)
针对刚性目标姿态估计难题,提出基于混合模型的随机几何框架,无需求解特征点对应关系且适配多视图随机依赖,经多场景仿真验证可实现精准鲁棒的姿态估计。
2024-06-03 cs.CV stat.AP
Gibbs Sampling for (Coupled) Infinite Mixture Models in the Stick Breaking Representation
非参数贝叶斯方法聚类,信息检索,语言建模和对象识别最近显示出巨大的希望,作为一个新的范例无监督数据分析。大多数的贡献都集中在狄利克雷过程的混合物模型或扩展,有效的吉布斯采样器存在。在本文中,我们探讨吉布斯采样无限复杂的混合模型在棒断裂表示。这种表示的优点是提高了建模的灵活性。例如,人们可以设计集群大小的先验分布,或者在其参数水平上耦合多个无限混合模型(例如,随时间)(即,相关狄利克雷过程模型)。然而,无限混合模型的吉布斯采样器(最近在统计文献中介绍)似乎在集群标签上混合得很差。除其他问题外,这可能会产生不利影响,即耦合混合模型中相同聚类的标签会混淆。我们在这些采样器中引入了额外的移动,以改善集群标签的混合,并使集群保持一致。风暴轨迹建模的应用程序来说明这些想法。
2012-06-27 cs.LG stat.ME stat.ML
The Poisson-Gaussian Mixture Process: A Flexible and Robust Approach for Non-Gaussian Geostatistical Modeling
针对传统高斯过程难以建模复杂非高斯空间特征的问题,提出POGAMP分层过程并证明其存在性与概率有效性,同时给出离散观测下的MCMC贝叶斯推断算法。
2024-12-06 stat.ME
Modeling and estimating skewed and heavy-tailed populations via unsupervised mixture models
University of Trento(特伦托大学)
研究针对非负重尾数据开发混合模型,核心方法是用对数正态成分和帕累托型尾部建模,通过EM算法估计。贡献是模型完全无监督且灵活,拟合优度相当且更易估计,已在R包lognGPD实现。
2026-07-14 stat.ME
Training Gaussian Mixture Models at Scale via Coresets
如何在海量数据集上训练统计混合模型?在这项工作中,我们将展示如何构建混合高斯coresets。核心集是数据的加权子集,这保证了拟合核心集的模型也为原始数据集提供了良好的拟合。我们发现,也许令人惊讶的是,高斯混合承认coresets的大小多项式的尺寸和混合成分的数量,而独立的数据集的大小。因此,人们可以利用计算密集型算法来计算一个非常小的数据集上的一个很好的近似。更重要的是,这样的核心集可以有效地构建在分布式和流设置,并不施加限制的数据生成过程。我们的研究结果依赖于一个新的减少统计估计问题的计算几何和新的组合复杂性结果的混合高斯。几个真实世界的数据集上的实证评估表明,我们的基于核心集的方法可以显着减少训练时间,近似误差可以忽略不计。
2018-01-15 stat.ML
An Overview of Mixture Models
这篇论文被撤回了。随着统计理论和计算能力的进步,数据集为当今的问题提供了更多的见解。统计学家有越来越多的工具来解决这些问题,其中一些可以在混合建模领域实现。有大量的文献混合模型和这项工作试图提供一个总体概述的主题,包括相关问题和算法的讨论。读者可以希望获得广泛的理解混合建模的概念,并找到其中引用的参考文献作为下一阶段研究的宝贵资源。
2012-12-19 math.ST stat.TH
Modeling Joint Health Effects of Environmental Exposure Mixtures with Bayesian Additive Regression Trees
本研究使用软贝叶斯可加回归树(BART)估计2011-2018年亚特兰大暖季空气污染物与温度混合物对哮喘急诊就诊的暴露-风险面,结合累积局部效应策略提取混合物影响,发现二氧化氮呈负相关、臭氧呈有害关联且在低温日更显著。
2024-11-13 stat.AP
Dirichlet Process Mixture Models for Modeling and Generating Synthetic Versions of Nested Categorical Data
本文提出了一个估计多变量分类数据的联合分布的贝叶斯模型。这种数据经常出现在社会科学背景下,例如,生活在家庭中的人。该模型假设(i)每个组是组级潜在类的成员,以及(ii)每个单元是嵌套在其组级潜在类内的单元级潜在类的成员。该结构允许模型捕获同一组中的单元之间的依赖性。它还有助于在组和单元级别同时对变量进行建模。我们开发了一个版本的模型,将零概率分配给具有物理上不可能的变量组合的组和单元。我们应用该模型来估计在美国社区调查的一个子集中的多变量关系。使用估计的模型,我们生成的合成家庭数据,可以传播为编辑的公共使用文件,具有高分析有效性和低披露风险。本文的补充材料可在线获取。
2016-10-28 stat.ME
On Learning Prediction-Focused Mixtures
Harvard University(哈佛大学)
概率模型帮助我们对潜在结构进行编码,这些结构既可以对数据进行建模,也可以用于特定的下游任务。其中,混合模型和它们的时间序列对应物,隐马尔可夫模型,识别数据中的离散成分。在这项工作中,我们专注于受限容量设置,我们希望学习具有相对较少组件的模型(例如,出于可解释性目的)。为了保持预测性能,我们引入了以预测为中心的混合建模,它会自动选择与预测任务相关的维度。我们的方法从输入中识别出相关信号,优于不以预测为重点的模型,并且易于优化;我们还描述了以预测为重点的建模何时可以工作。
2021-10-27 cs.AI cs.LG stat.ML
Bayesian inference for transportation origin-destination matrices: the Poisson-inverse Gaussian and other Poisson mixtures
在本文中,我们提出了泊松混合方法的起点-目的地(OD)的交通分析建模。我们引入协变量为基础的模型,其中包括不同的运输建模阶段,也允许直接概率推理的基础上贝叶斯预测的链路流量。重点放在泊松逆高斯作为一种替代常用的泊松伽马和泊松对数正态模型。我们提出了第一个完整的贝叶斯公式,并证明了泊松逆高斯是特别适合OD分析,由于理想的边际和层次属性。此外,集成嵌套拉普拉斯近似(INLA)被认为是一种替代马尔可夫链蒙特卡罗和两种方法进行了比较,在特定的建模假设。案例研究是基于2001年比利时人口普查数据,重点是一个大的,稀疏分布的OD矩阵,包含308佛兰芒自治市的行程信息。
2020-11-11 stat.AP stat.ME
Bayesian nonparametric mixtures of Archimedean copulas
University of Toronto(多伦多大学);ITAM(墨西哥自治技术学院)
本文提出了一种基于Poisson-Dirichlet过程的Archimedean copula贝叶斯非参数混合模型,以提升依赖性建模的灵活性,并通过数值实验验证了其有效性。
2026-10-26 stat.ME
Multi-species distribution modeling using penalized mixture of regressions
多物种分布模型将多个物种的出现与环境变量联系起来,是生态学家用于预测群落中物种分布和识别驱动物种共存的重要变量的重要工具。最近,邓斯坦,福斯特和达内尔[生态模型。222(2011)955-963]提出了使用有限混合回归(FMR)模型进行多物种分布建模,其中物种基于其环境响应聚类以形成少量“原型响应”。“作为一个说明性的例子,他们将混合模型方法应用于澳大利亚大堡礁沿线收集的200种海洋生物的存在-不存在数据集。然而,很少有人注意到模型选择的问题-由于原型(混合组分)可能取决于不同但可能重叠的协变量集,因此需要一种方法同时对所有组分进行变量选择。在这篇文章中,我们考虑在FMR模型中使用罚似然函数进行变量选择。我们提出了两种惩罚,利用协变量的分组结构,即每个协变量由一组系数表示,每个分量一个。这导致了一种有吸引力的收缩形式,允许同时从所有组件中删除协变量。这两种处罚具有特定形式的变量选择的一致性,模拟表明,他们优于其他方法,不考虑分组结构。当应用于大堡礁数据集,惩罚FMR模型提供了更深入的重要变量驱动物种共存的海洋群落(相比以前的结果,没有模型选择进行),同时提供了一个计算稳定的方法建模复杂的物种-环境关系(通过正规化)。
2015-09-16 stat.AP
Bayesian estimation of optical constants using mixtures of Gaussian process experts
Aalto University(阿尔托大学);KTH Royal Institute of Technology(瑞典皇家理工学院);LUT University(拉彭兰塔-拉赫蒂理工大学)
本文提出利用高斯过程专家混合建模吸收光谱测量,通过灵活的统计模型实现插值与外推,并结合Kramers-Kronig关系估计复折射率。同时统计建模锚点以考虑测量误差,自动选择外推测量点。
2026-03-27 physics.data-an stat.AP
Nearest-Neighbor Mixture Models for Non-Gaussian Spatial Processes
我们开发了一类最近邻混合模型,为非高斯地理空间数据提供直接的,计算效率高的概率建模。该类定义在一个有向无环图,这意味着条件的独立性,通过分解成一个产品的单变量条件表示多元分布,并扩展到一个完整的空间过程。我们将每个条件建模为具有局部自适应权重的空间变化过渡内核的混合物,用于给定数量的最近邻居中的每一个。建模框架强调在数据水平上的非高斯依赖的描述,与引入空间过程的转换数据,或数据概率分布的泛函的方法相比。因此,它有助于有效的,完全基于模拟的推理。我们研究模型的构造和属性分析,通过规范的二元分布,定义的本地过渡内核,提供了一个通用的非高斯数据建模的一般类型的策略。在计算方面,该框架提出了一种处理空间数据集的新方法,利用混合模型结构来避免大型矩阵运算产生的计算问题。我们用合成数据的例子和分析地中海表面温度观测说明的方法。
2022-06-27 stat.ME
$K$-Means and Gaussian Mixture Modeling with a Separation Constraint
我们考虑的问题,聚类与$K$ -均值和高斯混合模型的约束下,在实值数据的上下文中的中心之间的分离。我们首先提出了一种动态规划方法来解决中心分离约束下的$K$ -均值问题(Wang and Song,2011)。在拟合高斯混合模型的背景下,我们提出了一个期望最大化算法,其中包括这样的约束。分离约束可以帮助正则化聚类算法的输出,我们提供了模拟和真实数据的例子来说明这一点。
2023-01-21 stat.CO
Flexible modeling of bimodal distributions via skewed-$t$ mixtures
Department of Economics and Management, University of Trento(特伦托大学经济与管理学院)
提出基于Fernández和Steel (1998)偏斜-t分布的混合模型,通过EM算法进行极大似然估计,并开发似然比检验,用于拟合双峰、偏斜和厚尾数据,在标准普尔500指数中验证了双峰性。
2026-06-19 stat.CO stat.ME
A data driven equivariant approach to constrained Gaussian mixture modeling
已知具有不同类特定协方差阵的高斯混合模型的极大似然估计是有问题的。这是由于可能性的无界性,以及虚假最大化的存在。现有的方法来绕过这个障碍是基于这样一个事实,即无界性是避免的,如果协方差阵的特征值有界远离零。这可以通过对协方差阵施加一些约束来完成,即通过将先验信息并入混合分量的协方差结构。目前的工作介绍了一种约束等变的方法,类条件协方差阵收缩到一个预先指定的矩阵Psi。数据驱动的矩阵Psi的选择,当先验信息是不可用的,和收缩的最佳量进行了研究。该建议的有效性进行了评估的基础上的模拟研究和实证例子。
2016-10-25 stat.CO
Finite Mixtures of ERGMs for Modeling Ensembles of Networks
网络集合出现在许多科学领域,但很少有统计工具来推断其生成过程,特别是在存在二元依赖和交叉图异质性的情况下。为了填补这一空白,我们提出通过指数族随机图模型的有限混合物来表征网络集合,这是一种用于图的参数统计建模的框架,该框架已成功地明确建模了控制网络中边缘结构的复杂随机过程。我们提出的建模框架也可以用于应用程序,如基于模型的聚类网络的集合和复杂的图形分布的密度估计。我们开发了一个Metropolis-within-Gibbs算法进行充分的贝叶斯推断和适应版本的偏差信息准则的缺失数据模型选择的数量潜在的异构生成机制。仿真研究表明,该方法可以恢复出潜在异构生成过程的真实数量和相应的参数。我们证明了所提出的方法的实用性,使用美国参议员之间的政治共同投票网络的合奏。
2020-04-22 stat.CO stat.ME
Mixture modeling on related samples by $ψ$-stick breaking and kernel perturbation
最近,人们对以分层方式应用非参数核混合来联合建模多个相关数据样本产生了极大的兴趣。在这样的设置中,通常存在几个数据特征:(i)相关样本通常共享一些(如果不是全部的话)混合物成分,但具有不同的权重,(ii)仅一些(而不是全部)混合物成分在样本之间变化,以及(iii)通常样本之间共享的混合物成分在它们的位置和分布方面不完全对齐,而是由于系统的交叉样本差异或更经常地由于不受控制的外部原因而显示小的未对准。在混合建模中适当地结合这些特征将提高推理的效率,而忽略它们不仅会降低效率,而且会由于混淆等问题而危及推理的有效性。我们介绍了两种技术,将这些功能在建模相关的数据样本使用内核混合。第一种技术,称为$ψ$ -棒断裂,是一种用于混合权重的联合生成过程,其通过断裂所有样本共享的棒和每个样本的特异性棒来实现,所述所有样本共享的棒用于在样本之间尺寸不变化的组分,所述特异性棒用于尺寸确实变化的那些组分。第二种技术是将随机扰动注入内核,从而解决交叉样本未对准问题。这些技术可以单独使用,也可以在参数和非参数核混合中一起使用。我们推导出高效的贝叶斯推断配方MCMC采样模型具有这些技术的基础上,并说明他们的工作,通过模拟数据和一个真正的流式细胞术数据集的预测/估计,交叉样本校准,并测试多个样本的差异。
2017-04-17 stat.AP stat.CO stat.ME
Maximum Likelihood Estimation of Gaussian Cluster Weighted Models and Relationships with Mixtures of Regression
加权模型(CWM)是一种混合方法,用于对响应变量和一组解释变量的联合概率进行建模。根据极大似然方法,通过期望最大化算法估计参数。在高斯假设下,分析了类加权模型的完全数据似然函数。进一步,在适当的假设下,我们证明了高斯聚类加权模型的似然函数的最大化导致了有限混合回归和有限混合伴随变量回归的相同的参数估计.在这个意义上,后者可以被认为是高斯聚类加权模型的嵌套模型。
2013-08-08 stat.CO