Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh（爱丁堡大学）；Microsoft Research（微软研究院）；Stanford University（斯坦福大学）
一个好的聚类可以帮助数据分析师探索和理解数据集，但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难正式化，即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法来交互式聚类数据探索，称为\ciif，基于一个特别简单的反馈机制，在该机制中，分析师可以选择拒绝个别集群，并要求新的。新的聚类应该与以前拒绝的聚类不同，同时仍然很好地拟合数据。我们正式这种互动在一个新的贝叶斯先验启发框架。在每次迭代中，先验被适配为考虑所有先前的反馈，然后从后验分布产生新的聚类。为了实现必要的交互式设置的计算效率，我们提出了一种增量优化方法，使用拉格朗日松弛的数据minibatches。实验表明，\ciif可以产生准确和多样的聚类。
2016-06-08 cs.LG stat.ML
Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh（爱丁堡大学）；Microsoft Research（微软研究院）；Massachusetts Institute of Technology（麻省理工学院）；Harvard University（哈佛大学）；Twitter（推特）
一个好的聚类可以帮助数据分析师探索和理解数据集，但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难形式化，即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法，称为TINDER的数据探索的交互式聚类，基于一个特别简单的反馈机制，在该机制中，分析师可以拒绝给定的聚类，并要求一个新的，这是选择从以前的聚类不同，同时适合的数据。我们在贝叶斯框架中将这种相互作用形式化为先前启发的方法，其中每个不同的聚类由经过修改以阻止先前拒绝的聚类的先验分布产生。我们表明，TINDER成功地产生了一组不同的聚类，每个质量相当，这是更多样化的比随机重新启动。
2016-06-19 cs.LG stat.ML
A PAC-Bayesian Analysis of Graph Clustering and Pairwise Clustering
Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）
我们制定加权图聚类作为一个预测问题：给定一个子集的边缘权重，我们分析的能力图聚类预测剩余的边缘权重。该公式使实际和理论上的比较不同的方法图聚类，以及比较图聚类与其他可能的方式来建模的图。我们采用了PAC-Bayesian协聚类分析（Seldin and Tishby，2008; Seldin，2009）来推导图聚类的PAC-Bayesian泛化界。该界限表明，图聚类应该优化经验数据拟合和聚类在图节点上保留的互信息之间的权衡。从信息理论考虑导出的类似权衡已经显示在实践中产生最先进的结果（Slonim等人，2005年; Yom-Tov和Slonim，2009年）。本文通过提供更好的理论基础，提出形式化的推广保证，并提供更准确的方法来处理有限样本问题，从而支持了经验证据。我们推导出一个界最小化算法，并表明它在现实生活中的问题提供了很好的结果，所得出的PAC贝叶斯界是合理的紧。
2010-09-02 cs.DS cs.LG stat.ML
Bayesian Hierarchical Clustering with Exponential Family: Small-Variance Asymptotics and Reducibility
Pohang University of Science and Technology（浦项科技大学）
贝叶斯层次聚类（Bayesian hierarchical clustering，BHC）是一种凝聚聚类方法，它定义了一个概率模型，并评估其边缘似然来决定哪些聚类要合并。虽然BHC提供了一些优势，传统的基于距离的凝聚聚类算法，连续的边缘似然评估和仔细的超参数调整是繁琐的，限制了可扩展性。在本文中，我们放松BHC到一个非概率制定，探索共轭指数模型的小方差渐近。我们开发了一种新的聚类算法，被称为放松BHC（RBHC），从BHC模型的渐近极限，表现出基于距离的凝聚聚类算法的可扩展性，以及贝叶斯非参数模型的灵活性。我们还研究了从BHC模型的渐近极限中出现的相异性度量的减少，使我们能够使用可扩展的算法，如最近邻链算法。在人工数据集和真实数据集上的数值实验证明了该方法的有效性和高性能。
2015-06-03 cs.LG stat.ML
Model-free Bayesian Clustering and Multimodal Posterior Summarisation
University of Edinburgh（爱丁堡大学）
该研究提出无模型感知噪声贝叶斯聚类框架，结合Wasserstein型摘要方法，可避免复杂模型指定与昂贵采样，能有效捕捉聚类及噪声不确定性。
2026-10-12 cs.LG stat.ML
Sparse Bayesian Unsupervised Learning
本文研究了无监督高维环境下的变量选择、聚类和估计问题。我们的方法是基于拟合约束高斯混合模型，在那里我们学习的集群数量$K$和相关变量$S$的集合使用广义贝叶斯后验与稀疏诱导先验。我们证明了一个稀疏预言不等式，表明该过程选择最佳参数$K$和$S$。该过程使用基于面向聚类的贪婪建议的梅特罗波利斯-黑斯廷斯算法来实现，这使得收敛到后验非常快。
2014-01-30 stat.ML
Bayesian sparse convex clustering via global-local shrinkage priors
NTT Advanced Technology Corporation（NTT先进技术公司）；The University of Electro-Communications（电气通信大学）
稀疏凸聚类是在凸聚类框架下对观测值进行聚类的同时进行变量选择。虽然加权$L_1$范数通常用于稀疏凸聚类中的正则化项，但如果样本量不足，则其使用增加了对数据的依赖性并降低了估计精度。针对这些问题，本文提出了一种基于贝叶斯套索和全局-局部收缩先验的贝叶斯稀疏凸聚类方法。我们引入吉布斯抽样算法，我们的方法使用的比例混合正态分布。仿真研究和实际数据分析表明了所提出方法的有效性。
2020-05-26 cs.LG stat.ME stat.ML
Bayesian Supervised Causal Clustering
School of Informatics, University of Edinburgh（信息学院，爱丁堡大学）；Usher Institute, University of Edinburgh（乌瑟研究所，爱丁堡大学）
本文提出贝叶斯监督因果聚类方法，通过治疗效应指导聚类过程，识别具有相似协变量特征和治疗效应的同质亚组，并在模拟和现实数据上验证其有效性。
2026-03-05 cs.LG stat.ML
Bayesian Distance Clustering
University of Florida（佛罗里达大学）；Duke University（杜克大学）
基于模型的聚类被广泛应用于各种应用领域。然而，对稳健性的基本担忧仍然存在。特别是，结果可以是敏感的内核代表内集群数据密度的选择。利用数据点之间的成对差异的属性，我们提出了一类贝叶斯距离聚类方法，它依赖于建模的成对距离的可能性，而不是原始数据。虽然数据中的一些信息被丢弃，但我们对建模假设具有很大的鲁棒性。所提出的方法代表了一个有吸引力的中间地带之间的距离和基于模型的聚类，从这些典型的方法中的每一个借鉴的优势。我们说明了戏剧性的收益，推断集群的能力，通常的内核选择没有很好地表示。包括一个模拟研究，以评估相对于竞争对手的性能，我们应用的方法来聚类的大脑基因组表达数据。保留字：基于距离的聚类;混合模型;基于模型的聚类;模型规格错误;成对距离矩阵;部分可能性;鲁棒性
2019-06-25 cs.LG stat.ML
Revisiting k-means: New Algorithms via Bayesian Nonparametrics
Ohio State University（俄亥俄州立大学）；UC Berkeley（加州大学伯克利分校）
贝叶斯模型为聚类应用提供了很大的灵活性-贝叶斯非参数可用于建模无限混合物，分层贝叶斯模型可用于在多个数据集上共享聚类。在大多数情况下，这种灵活性是缺乏经典的聚类方法，如k-means。在本文中，我们重新审视的k-means聚类算法从贝叶斯非参数的观点。受启发的渐近连接之间的k-均值和混合高斯，我们表明，吉布斯采样算法的Dirichlet过程的混合接近硬聚类算法的限制，并进一步得到的算法单调最小化一个优雅的底层k-均值聚类目标，包括惩罚的集群数量。我们推广这种分析的情况下，聚类多个数据集，通过类似的渐近参数与分层狄利克雷过程。我们还讨论了进一步的扩展，突出了我们的分析的好处：i）涉及阈值特征向量的谱松弛，和ii）归一化割图聚类算法，不固定图中的聚类数量。
2012-06-14 cs.LG stat.ML
Approach of variable clustering and compression for learning large Bayesian networks
ITMO University（圣彼得堡国立信息技术机械与光学大学）
本文提出了一种基于特征空间聚类的块学习大型贝叶斯网络结构的新方法。该聚类是使用归一化互信息获得的。块的后续聚合使用经典学习方法完成，除了它们被输入关于每个块的特征值组合的压缩信息。这种方法的验证完成爬山作为两个得分函数：BIC和MI的图枚举算法。以这种方式，即使对于被认为不适合于可并行化学习的那些得分函数，也可以实现潜在的可并行化块学习。该方法的优点是评估的工作速度以及所发现的结构的准确性。
2022-08-29 cs.LG stat.ML
Determinantal Clustering Processes - A Nonparametric Bayesian Approach to Kernel Based Semi-Supervised Clustering
University of Cambridge（剑桥大学）
半监督聚类是将数据点聚类成簇的任务，其中只有一小部分点被标记。数据中聚类的真实数量通常是未知的，大多数模型都需要这个参数作为输入。狄利克雷过程混合模型是有吸引力的，因为它们可以从数据中推断出聚类的数量。然而，这些模型不能很好地处理高维数据，并且在推理中会遇到困难。我们提出了一种新的非参数贝叶斯内核为基础的方法来聚类数据点，而不需要预先指定集群的数量或模型复杂的密度，数据点被假定为从生成。关键的见解是使用核矩阵的子矩阵的行列式作为一组点之间的距离的度量。我们探讨了模型的一些理论性质，并推导出一个基于自然吉布斯的算法与MCMC超参数学习。该模型在各种合成和真实世界的数据集上实现。
2013-09-26 cs.LG stat.ML
A Quasi-Bayesian Perspective to Online Clustering
当面对高频率的数据流时，聚类会带来理论和算法上的缺陷。我们介绍了一种新的和自适应的在线聚类算法依赖于准贝叶斯方法，与动态（即，时间相关的）估计（未知的和变化的）簇的数量。我们证明了我们的方法是支持极大极小遗憾界。我们还提供了一个RJMCMC风格的实现（称为PACBO，请参阅https：//cran.r-project.org/web/packages/PACBO/index.html），我们为它提供了收敛保证。最后，数值实验说明了我们的程序的潜力。
2018-05-25 math.ST stat.ML stat.TH
Bayesian Clustering of Shapes of Curves
Florida State University（佛罗里达州立大学）
根据曲线的形状对曲线进行无监督聚类是一个具有广泛科学应用的重要问题。现有的基于模型的聚类技术或者依赖于简单的概率模型（例如，高斯），通常不适用于形状分析或假设簇的数量。我们开发了一个有效的贝叶斯方法聚类曲线数据使用弹性形状度量，是基于联合注册和比较的曲线形状。从数据中获得的弹性内积矩阵建模使用Wishart分布，其参数被分配精心选择的先验分布，以允许自动推断的集群的数量。基于中国餐馆过程，通过高效的马尔可夫链蒙特卡罗过程对后验进行采样，以推断（1）聚类数的后验分布和（2）形状的聚类结构。该方法在蛋白质结构分析、显微镜图像中的细胞形状分析和MPEG7数据库中的形状聚类等各种合成数据和真实数据示例上进行了演示。
2015-04-01 cs.LG stat.ML
Amortized Bayesian inference for clustering models
Columbia University（哥伦比亚大学）
我们开发了有效的摊销近似贝叶斯推断的概率聚类模型，如狄利克雷过程混合模型的后验分布的方法。该方法是基于映射到条件概率的集群安排的分布式，不变性表示。该方法易于并行化，从聚类分配的近似后验中产生iid样本，具有与单个Gibbs采样器扫描相同的计算成本，并且可以容易地应用于共轭和非共轭模型，因为训练仅需要来自生成模型的样本。
2018-11-24 cs.LG stat.CO stat.ML
Fully Bayesian Spectral Clustering and Benchmarking with Uncertainty Quantification for Small Area Estimation
Department of Statistics and Data Science, University of California, Davis（加州大学戴维斯分校统计与数据科学系）
本文提出了一种基于频谱聚类的贝叶斯模型，用于小区域估计，通过引入条件后验均方误差来量化不确定性，并通过模拟和案例研究验证了其有效性。
2026-10-14 stat.ME stat.ML
Robust Bayesian Model Selection for Variable Clustering with the Gaussian Graphical Model
变量聚类对于解释性分析很重要。然而，只有少数专门的方法与高斯图形模型的变量聚类已经提出。甚至更严重的是，由于噪声导致的微小的不显著的偏相关性可以在例如使用贝叶斯信息准则（BIC）进行评估时显著地改变聚类结果。在这项工作中，我们试图解决这个问题，提出了一个贝叶斯模型，占可以忽略不计的小，但不一定为零，偏相关。基于我们的模型，我们建议使用边际似然来评估变量聚类结果。为了解决棘手的计算的边际似然，我们提出了两种解决方案：一个基于变分近似，另一个基于MCMC。仿真数据的实验表明，该方法是类似的准确BIC在无噪声设置，但有噪声的偏相关时，准确得多。此外，在真实数据上，所提出的方法提供了直观合理的聚类结果，这在使用BIC或其扩展时并不总是如此。
2018-06-15 stat.AP stat.CO stat.ML
BET: Bayesian Ensemble Trees for Clustering and Prediction in Heterogeneous Data
我们提出了一种新的“树平均”模型，利用分类和回归树（CART）的合奏。每个组成树估计与相似的数据的子集。我们把这个分组的子集贝叶斯集成树（BET）和模型作为一个无限的混合Dirichlet过程。我们表明，BET适应数据的异质性，并准确地估计每个组件。与Bootstrap-聚集方法相比，BET以较少的树显示出更好的预测性能。我们开发了一个有效的估计过程与改进的抽样策略在CART和混合模型。我们通过模拟、乳腺癌分类和囊性纤维化患者肺功能测量的回归来证明BET的这些优点。关键词：贝叶斯CART;狄利克雷过程;包围方法;异质性;混合树。
2014-08-18 stat.CO stat.ML
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent（腾讯）；University College Dublin（都柏林大学学院）；Trinity College Dublin（都柏林圣三一学院）
针对贝叶斯层次混合聚类（BHMC）高层节点分离度弱的问题，提出对各层节点施加最大间隔约束的后验正则化方法，有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
Fair Bayesian Model-Based Clustering
Department of Statistics（统计系）
针对现有群体公平聚类多依赖K-means、需预定义聚类数和距离的局限，提出公平贝叶斯聚类FBC，通过特殊公平先验和高效MCMC算法，可推断聚类数、适配多数据类型，在真实数据集上实现有竞争力的效用-公平性权衡。
2025-06-15 cs.AI cs.LG stat.ML
Bayesian Level Set Clustering
Two Sigma；University of New Mexico（新墨西哥大学）；Duke University（杜克大学）
本文提出了一种基于贝叶斯决策理论的密度聚类方法，通过解耦聚类与密度建模问题，提升聚类的准确性和鲁棒性。
2025-12-11 stat.ME
A Bayesian Method for Joint Clustering of Vectorial Data and Network Data
Emory University（埃默里大学）；The Chinese University of Hong Kong（香港中文大学）
我们提出了一种新的基于模型的综合方法，用于聚类对象给定的矢量数据，它描述了每个对象的特征，和网络数据，它表明连接的对象的相似性。所提出的通用模型能够在一个综合概率模型中同时聚类两种类型的数据，而传统方法只能处理一种数据类型或依赖于将一种数据类型转换为另一种数据类型。基于马尔可夫链蒙特卡罗算法进行聚类的贝叶斯推断。结合高斯混合模型和随机块模型的一般模型的一个特殊情况进行了广泛的研究。我们使用合成数据和真实数据来评估这种新方法，并将其与其他方法进行比较。结果表明，我们的同时聚类方法表现得更好。这种改进是由于基于模型的概率方法有效地整合信息的力量。
2017-10-24 cs.LG stat.CO stat.ML
A Hierarchical Distance-dependent Bayesian Model for Event Coreference Resolution
Cornell University（康奈尔大学）
提出了一种新的基于距离依赖的贝叶斯事件共指消解模型。虽然现有的生成模型的事件共指消解是完全无监督的，我们的模型允许合并事件提及之间的成对距离-信息，被广泛用于监督共指模型，以指导生成聚类处理更好的事件聚类内和跨文件。我们使用一个功能丰富的可学习的距离函数来模拟事件提及之间的距离，并将其编码为贝叶斯先验，用于非参数聚类。在ECB+语料库上的实验表明，我们的模型在文档内和跨文档事件共指消解方面都优于最先进的方法。
2015-09-25 cs.CL stat.ML
Bayesian Nonparametric Multilevel Clustering with Group-Level Contexts
Deakin University（迪肯大学）；University of Michigan（密歇根大学）；Nuance Communications（Nuance通信公司）
我们提出了一个贝叶斯非参数框架的多级聚类，利用组级上下文信息，同时发现低维结构的组内容和分区组成集群。使用Dirichlet过程作为构建块，我们的模型构建了一个产品基本测量与嵌套结构，以适应内容和上下文的观察在多个层次。该模型具有的属性，链接嵌套狄利克雷过程（nDP）和狄利克雷过程混合模型（dirichlet）在一个有趣的方式：整合出所有的内容的结果，在上下文中，而整合出特定于组的上下文的结果，在nDP混合物的内容变量。我们提供了一个Polya-urn视图的模型和一个有效的折叠吉布斯推理过程。在真实世界数据集上的大量实验表明，通过我们的模型在文本和图像域中利用上下文信息的优势。
2014-01-29 cs.LG stat.ML
A Bayesian alternative to mutual information for the hierarchical clustering of dependent random variables
Department of Computational Neuroscience, University Medical Center Hamburg-Eppendorf, Hamburg University（汉堡大学附属埃彭多夫医学中心计算神经科学系，汉堡大学）
在凝聚层次聚类（AHC）中使用互信息作为相似性度量提出了一个重要问题：需要对变量的维数进行一些校正。在这项工作中，我们制定的决定，合并相关的多元正态变量在AHC程序作为贝叶斯模型比较。我们发现贝叶斯公式自然地将经验协方差阵缩小到先验的矩阵集合（例如，恒等式），提供自动停止规则，并使用一项来校正维数，该项根据变量的维数按比例增加度量。此外，由此产生的对数贝叶斯因子是渐近成比例的互信息的插件估计，与贝叶斯信息标准的协议的维数的添加剂校正。我们研究了这些贝叶斯替代品（精确和渐近形式）的行为，以模拟和真实数据的互信息。一个令人鼓舞的结果首先来自模拟：基于对数贝叶斯因子的层次聚类优于现成的聚类技术，以及原始和归一化的互信息的分类精度。在一个玩具例子中，我们发现贝叶斯方法导致的结果与互信息聚类技术相似，具有自动阈值的优势。在测量大脑活动的真实功能性磁共振成像（fMRI）数据集上，它识别出与标准程序的既定结果一致的聚类。在这个应用中，归一化互信息具有高度非典型的行为，在这个意义上，它系统地支持非常大的集群。这些初步的实验表明，提出的贝叶斯替代互信息是一个有用的新工具，层次聚类。
2015-10-19 cs.LG q-bio.QM stat.ML
Optimal Bayesian clustering using non-negative matrix factorization
基于贝叶斯模型的聚类是一种广泛应用的发现数据集中相关观测组的过程。这些方法使用贝叶斯混合模型，用MCMC估计，提供模型参数和聚类分区的后验样本。虽然对模型参数的推断已经很好地建立，但对聚类分区的推断还不太发达。提出了一种基于贝叶斯聚类模型的两两后验相似矩阵估计最优划分的新方法。这种方法使用非负矩阵分解（NMF）提供一个低秩近似的相似性矩阵。因子分解允许硬或软分区，并表现出更好的性能比几个流行的替代品下的各种惩罚函数。
2018-09-20 stat.ME
clusterBMA: Bayesian model averaging for clustering
在集成聚类文献中，已经开发了各种方法来组合跨多组结果的推理以进行无监督聚类。从几个备选聚类模型中选出一个“最佳”模型报告结果的做法通常忽略了模型选择产生的不确定性，并导致对特定模型和所选参数敏感的推论。贝叶斯模型平均（BMA）是一种流行的方法，用于组合多个模型的结果，在这种情况下提供了一些有吸引力的好处，包括组合聚类结构的概率解释和基于模型的不确定性的量化。在这项工作中，我们介绍了clusterBMA，一种方法，使加权模型平均从多个无监督聚类算法的结果。我们使用聚类内部验证标准来开发后验模型概率的近似值，用于对每个模型的结果进行加权。从一个共识矩阵表示的加权平均值的聚类解决方案的模型，我们应用对称单纯形矩阵分解计算最终的概率集群分配。除了在模拟数据上优于其他集成聚类方法外，clusterBMA还提供了独特的功能，包括对平均聚类的概率分配，结合“硬”和“软”聚类算法的分配概率，以及测量平均聚类分配中基于模型的不确定性。此方法在附带的同名R包中实现。
2023-03-26 stat.AP stat.ME stat.ML
A score function for Bayesian cluster analysis
提出了一种贝叶斯聚类的得分函数。该函数是无参数的，并且捕获聚类的聚类内方差和聚类间熵之间的相互作用。它可以用来选择已建立的聚类方法，如层次聚类或$K$ -均值算法中的聚类数。
2019-05-24 stat.OT
Nonlinear Bayesian Update via Ensemble Kernel Regression with Clustering and Subsampling
本研究提出基于集成核回归、结合子采样与聚类的非线性贝叶斯更新方法，拓展集成卡尔曼滤波至非高斯先验与非线性测量场景，实验验证其在强非线性下比标准线性更新的估计误差更低。
2025-03-19 math.PR math.ST stat.ML
Bayesian model averaging in model-based clustering and density estimation
我们提出贝叶斯模型平均（BMA）作为一种方法，用于后处理基于模型的聚类结果。给定多个竞争模型，使用后验模型概率对适当的模型汇总进行平均，而不是从单个“最佳”模型中获取。我们演示了使用BMA在基于模型的聚类的一些数据集。我们表明，BMA提供了一个有用的总结，同时考虑到模型的不确定性的聚类观察。此外，我们表明，BMA结合基于模型的聚类给出了一个有竞争力的方法密度估计在多变量设置。在基于模型的上下文中应用BMA是快速的，并且可以提供增强的建模性能。
2015-06-30 stat.CO
Reliable data clustering with Bayesian community detection
Integrated Science Lab, Department of Physics, Umeå University, Umeå, Sweden（整合科学实验室，物理系，乌梅大学，乌梅，瑞典）
本研究提出利用贝叶斯社区检测方法（度修正随机块模型和正则化映射方程）结合最小描述长度原则，实现抗噪声的可靠数据聚类，在合成数据和基因共表达数据上优于传统方法。
2026-10-19 cs.LG physics.data-an stat.ME
Bayesian Dynamic Clustering Factor Models
提出贝叶斯动态聚类因子模型，结合因子分析与隐马尔可夫模型，实现多元纵向数据的降维、聚类及动态转换估计，并验证其有效性。
2025-05-27 stat.ME
Sequential Embedding Induced Text Clustering, a Non-parametric Bayesian Approach
State University of New York at Buffalo（纽约州立大学布法罗分校）；University of California, Irvine（加州大学欧文分校）
当前最先进的非参数贝叶斯文本聚类方法通过词袋上的多项分布对文档进行建模。虽然这些方法可以有效地利用文档的单词突发性表示，并取得不错的性能，但它们没有探索文本的顺序信息和同义词之间的关系。本文将文档建模为词袋、序列特征和词嵌入的结合点。我们提出了顺序嵌入诱导狄利克雷过程混合模型（SiDPMM），有效地利用这种联合文档表示文本聚类。序列特征由编码器-解码器组件提取。通过连续词袋模型（CBOW）产生的词嵌入来处理同义词。实验结果表明，我们的模型在两个主要方面的好处：1）提高了性能在多个不同的文本数据集的归一化互信息（NMI）; 2）更准确的推理地面真理的聚类数与正则化效果的微小离群聚类。
2018-11-29 cs.IR cs.LG stat.ML
A Convergence Diagnostic for Bayesian Clustering
在贝叶斯聚类的许多应用中，通过马尔可夫链蒙特卡罗（MCMC）技术实现聚类分配的离散状态空间上的后验采样。由于设计转换核来有效地探索此状态空间通常具有挑战性，因此用于聚类应用的MCMC收敛诊断尤其重要。对于一般的MCMC问题，最先进的收敛诊断涉及跨多个链的比较。然而，单链替代方案可能对计算密集型和缓慢混合的MCMC有吸引力，这是贝叶斯聚类的典型情况。因此，我们在这里提出了一个单链收敛诊断专门针对离散空间MCMC。也就是说，我们考虑一个Hotelling型统计量的最高概率状态，并使用再生抽样论推导出其平衡分布。通过利用来自非标准化后验的信息，我们的诊断可以防止看似收敛的链，其中访问状态的相对频率是不正确的。该方法说明了贝叶斯聚类分析的开花植物拟南芥的遗传突变体。
2019-06-12 stat.CO
Distributed Bayesian clustering using finite mixture of mixtures
在许多现代应用中，人们对分析无法轻松跨计算机移动或加载到单个计算机上的存储器中的庞大数据集感兴趣。在这种情况下，对集群感兴趣是非常普遍的。现有的分布式聚类算法大多是基于距离或密度的，没有可能性规范，排除了正式的统计推断的可能性。基于模型的聚类允许统计推断，但分布式推断的研究强调非参数贝叶斯混合模型的有限混合模型。为了填补这一空白，我们引入了一个几乎并行的算法下的贝叶斯过拟合有限混合高斯混合，我们的分布式贝叶斯聚类（DIB-C）的聚类。DIB-C可以灵活地适应各种形状的数据集（例如倾斜或多模态）。随着数据的随机划分和分布，我们首先运行马尔可夫链蒙特卡罗在一个非常并行的方式来获得本地聚类绘制，然后细化跨工人的最终聚类估计的基础上的任何损失函数的空间分区。DIB-C还可以估计聚类密度，快速对新对象进行分类，并提供后验预测分布。仿真研究和实际数据的应用表明，优越的性能DIB-C的鲁棒性和计算效率。
2020-05-14 stat.CO stat.ME
Bayesian clustering in decomposable graphs
在本文中，我们提出了一类先验分布的可分解图，允许提高建模的灵活性。虽然现有的方法只惩罚边缘的数量，所提出的工作授权从业者控制聚类，分离的水平，和其他功能的图形。重点放在一个特定的先验分布，其动机来自产品分区模型的类，此先验相对于现有的先验的属性，通过理论和仿真研究。然后，我们展示了在农业领域的图形模型的使用，显示如何建议的先验分布的合理性，以前的方法在正确建模的不同作物品种的产量之间的相互作用。
2012-05-03 stat.AP stat.ME stat.ML
A Bayesian non-parametric method for clustering high-dimensional binary data
Systems Biology Ireland（爱尔兰系统生物学）；University College Dublin（都柏林大学）
在许多现实生活中的问题，对象描述了大量的二进制功能。例如，文档的特征在于存在或不存在某些关键字;癌症患者的特征在于存在或不存在某些突变等。在这种情况下，基于这种高维二进制特征将类似的对象/配置文件分组在一起是可取的，但具有挑战性。在这里，我提出了一个贝叶斯非参数算法聚类高维二进制数据。它使用狄利克雷过程（DP）混合模型和模拟退火，不仅聚类二进制数据，而且还找到数据中的最佳聚类数。使用模拟数据集对算法的性能进行了评估，并与其他算法进行了比较。它优于所有其他聚类方法，在模拟研究中进行了测试。它还用于对来自文档分析、手写图像分析和癌症研究的真实数据集进行聚类。它成功地根据主题划分了一组文档，基于不同书写风格的手写图像，并确定了化疗治疗的组织和突变特异性。
2016-03-08 cs.LG stat.AP stat.ML
Latent structure blockmodels for Bayesian spectral graph clustering
Imperial College London（帝国理工学院）
网络邻接矩阵的谱嵌入通常产生近似于低维子流形结构的节点表示。特别是，隐藏的子结构预计会出现时，从一个潜在的位置模型生成的图形。此外，网络中社区的存在可能会在嵌入中产生社区特定的子流形结构，但这在大多数网络的统计模型中并没有明确说明。在这篇文章中，提出了一类称为潜在结构块模型（LSBM）的模型来解决这种情况下，允许图聚类时，社区特定的一维流形结构。LSBMs集中在一类特定的潜在空间模型，随机点积图（RDPG），并分配一个潜在的子流形的潜在位置的每个社区。一个贝叶斯模型的嵌入所产生的LSBMs进行了讨论，并表现出良好的性能，模拟和真实世界的网络数据。该模型能够正确地恢复生活在一维流形上的底层社区，即使底层曲线的参数形式是未知的，在各种真实数据上取得了显着的效果。
2022-01-02 cs.LG stat.ML
Uncertainty Quantification in Bayesian Clustering
Brigham Young University（杨百翰大学）；Florida State University（佛罗里达州立大学）；Duke University（杜克大学）
本文提出了一种基于贝叶斯聚类模型的后处理方法，用于生成易于使用、快速计算和直观解释的可信集，并提供新的聚类不确定性度量。
2025-11-20 stat.ME
A Bayesian approach for clustering skewed data using mixtures of multivariate normal-inverse Gaussian distributions
非高斯混合模型在基于混合模型的聚类中得到越来越多的关注，特别是在处理具有偏态和重尾等特征的数据时。在这里，这样的混合分布，基于多元正态逆高斯（MNIG）分布。对于混合模型的参数估计，采用基于Gibbs抽样的贝叶斯方法，提出了一种模拟单变量广义逆高斯随机变量和矩阵广义逆高斯随机矩阵的新方法.该算法将被应用到模拟和真实数据。通过仿真研究和实际数据分析，我们表明参数恢复，我们的方法提供了竞争力的聚类结果相比，其他聚类方法。
2020-05-06 stat.CO
Bayesian Bi-clustering Methods with Applications in Computational Biology
双聚类是一种有用的方法，在分析生物数据时，观察来自异质群体，并有大量的功能。我们概述了一个一般的贝叶斯方法在处理双聚类问题，在中等到高的维度，并提出了三个贝叶斯双聚类模型的分类数据，增加了复杂性，在他们的建模跨双集群的特征分布。我们提出的方法适用于广泛的场景：从数据仅在一小部分特征中可区分但被大量噪声掩盖的情况，到不同组的数据由不同的特征集或数据呈现层次结构来识别的情况。通过模拟研究，我们表明，我们的方法优于现有的（双）聚类方法在识别集群和恢复跨双集群的特征分布模式。我们将我们的方法应用于两个遗传数据集，尽管我们的方法的应用领域更广。
2021-02-09 stat.AP
A Nonparametric Bayesian Item Response Modeling Approach for Clustering Items and Individuals Simultaneously
项目反应理论（IRT）是一种流行的建模范式，用于根据测试或问卷中的离散反应来测量被试的潜在特质和项目属性。关于项目和个体的异质性模式检测的讨论非常有限。在本文中，我们介绍了一个非参数贝叶斯方法的聚类项目和个人同时在Rasch模型。具体来说，我们提出的方法是基于有限混合物（MFM）模型的混合。MFM同时获得项目和个体的聚类数和聚类配置。通过仿真研究评估了MFM Rasch模型下参数估计和参数聚类的性能，并应用实际数据集来说明MFM Rasch建模。
2020-05-29 stat.AP stat.ME
An Alternative Prior Process for Nonparametric Bayesian Clustering
先验分布在贝叶斯聚类方法中起着至关重要的作用。两种常用的先验分布是Dirichlet和Pitman-Yor过程。在本文中，我们研究了这些过程背后的预测概率，以及由此产生的分区的隐含“富-越来越富”特征。我们探讨了一种替代的非参数贝叶斯聚类的先验-统一的过程-应用程序中的“富-更富”的属性是不可取的。我们还探讨了这一过程的成本：分区不再是可交换的变量的顺序。我们提出了新的渐近和模拟为基础的结果的聚类特性的统一过程，并比较这些与已知的结果的Dirichlet和Pitman-Yor过程。我们比较了一个真正的文档聚类任务的性能，证明了统一的过程中，尽管它缺乏交换的订单的实际优势。
2010-10-15 math.ST stat.ME stat.TH
Bayesian contiguity constrained clustering, spanning trees and dendrograms
聚类是一个众所周知的和研究的问题，它的一个变种，称为邻接约束聚类，接受作为第二输入的图，用于编码的先验信息的集群结构的邻接约束，即集群必须形成连接的子图的这个图。本文讨论了这样一个设置的兴趣，并提出了一种新的方式来正式它在贝叶斯设置，使用生成树的结果来精确计算候选分区的后验概率。算法的解决方案，然后调查，找到一个最大后验（MAP）分区，并从中提取贝叶斯树状图。这最后一个工具，这是一个简单的层次聚类算法的经典输出，这是令人想起的兴趣进行了分析。最后，通过实际应用验证了所提出的方法。本文附带的R包gtdem中提供了这项工作的参考实现（可在http：//github.com/comeetie/gtdem获得）
2023-02-24 stat.CO stat.ME
On Misspecified Error Distributions in Bayesian Functional Clustering: Consequences and Remedies
本文揭示贝叶斯函数聚类高估簇数源于误差独立性误设，提出用高斯过程建模相关结构并给出可扩展近似，显著改善狄利克雷过程聚类效果。
2025-10-20 stat.ME
Scalable Bayesian Nonparametric Clustering and Classification
我们开发了一个可扩展的多步蒙特卡罗算法推理下的一大类非参数贝叶斯模型的聚类和分类。每一步都是“并行的”，并且可以使用相同的马尔可夫链蒙特卡罗采样器来实现。我们的方法的简单性和通用性使得推理适用于大型数据集的贝叶斯非参数混合模型。具体来说，我们应用的方法推断下的产品分区模型与回归协变量。我们展示了两个激励数据集的推理结果：一个大型的电子健康记录（EHR）和一个银行电话营销数据集。我们发现有趣的集群和良好的分类性能相对于其他广泛使用的竞争分类。
2018-06-07 stat.CO stat.ME
Optimal Clustering with Dependent Costs in Bayesian Networks
Queensland University of Technology（昆士兰科技大学）；Italian National Research Council（意大利国家研究委员会）
本文提出DCMAP算法，通过依赖成本优化实现贝叶斯网络中最优聚类，有效提升计算效率并减少熵，适用于复杂系统学习。
2025-12-23 cs.DS stat.ML
Bayesian outcome-guided multi-view mixture models with applications in molecular precision medicine
聚类通常作为用于揭示组学数据集的结构的初始分析步骤来执行，例如以发现疾病的分子亚型。这些数据集的高通量，高维性质意味着它们提供了关于不同生物分子过程和途径的各种信息。不同的变量组（例如基因或蛋白质）将涉及不同的生物分子过程，因此进行仅限于识别整个数据集的单个聚类分区的分析，因此容易混淆可能由这些不同过程产生的多个聚类结构。为了解决这个问题，我们提出了一个多视图贝叶斯混合模型，识别变量组（“视图”），其中每个定义了一个不同的聚类结构。我们考虑分层医学中的应用，我们的主要目标是识别定义不同的，临床上可操作的疾病亚型的患者群。我们采用半监督，结果引导的混合建模方法的贝叶斯配置文件回归，利用一个响应变量，以指导推理的聚类，最相关的分层医学背景。我们提出的模型，连同说明性的模拟例子，并从泛癌症蛋白质组学的例子。我们演示了如何使用该方法来执行综合聚类，并考虑一个例子，其中不同的组学数据集集成在乳腺癌亚型的背景下。
2023-03-01 stat.AP stat.ME stat.ML
Exploring complex dependence structures using Bayesian bi-clustering and log-linear graphical modelling
University of St Andrews（圣安德鲁斯大学）
该研究结合贝叶斯双聚类与对数线性图模型，通过理论推导与模拟、真实数据验证，揭示变量依赖结构，阐明混合建模与图对数线性建模的关系，助力高效探索庞大的模型空间。
2026-11-10 stat.ME
Without Pain -- Clustering Categorical Data Using a Bayesian Mixture of Finite Mixtures of Latent Class Analysis Models
本文提出一种贝叶斯两层有限混合模型，用潜在类别分析近似簇分布，结合伸缩采样器和标签切换处理，实现对未知簇数多元分类数据的简约聚类，并在模拟和下背痛数据上验证了有效性。
2024-07-07 stat.ME
Bayesian Nonparametric Graph Clustering
我们提出了利用变量之间的图形结构的底层几何的多变量数据的聚类方法。与假设已知图结构的标准方法相反，我们首先使用贝叶斯邻域选择方法估计未知图的边缘结构，其中我们通过模型平均估计合适的参数来考虑图形结构学习的不确定性。随后，我们开发了一个非参数图聚类模型的低维投影的基础上的拉普拉斯嵌入Dirichlet过程混合模型。与标准算法方法相比，这种完全概率的方法允许在图结构学习和聚类的估计和推断中引入不确定性。更重要的是，我们正式的拉普拉斯嵌入的参数作为合适的投影图聚类的估计图拉普拉斯特征空间的一致性提供理论支持。我们开发了快速的计算算法，使我们的方法可以扩展到大量的节点。通过大量的模拟，我们比较我们的聚类性能与标准的聚类方法。我们将我们的方法应用于一个新的泛癌症蛋白质组数据集，并评估多种不同癌症类型的蛋白质网络和聚类。
2015-09-24 stat.AP stat.ME
Spatiotemporal Clustering with Neyman-Scott Processes via Connections to Bayesian Nonparametric Mixture Models
University of Michigan（密歇根大学）；Stanford University（斯坦福大学）；New York University（纽约大学）；Flatiron Institute（弗拉蒂伦研究所）；Wu Tsai Neurosciences Institute（吴蔡神经科学研究所）
本文揭示了Neyman-Scott过程与Dirichlet过程混合模型通过有限混合模型建立的新联系，借此改编坍缩吉布斯采样算法实现可扩展贝叶斯推断，并验证了其在神经脉冲序列与文档流等时空数据聚类任务中的有效性。
2023-09-11 cs.LG stat.ML
Sparse Bayesian Hierarchical Modeling of High-dimensional Clustering Problems
聚类是微阵列数据分析中最广泛使用的程序之一，例如其目的是基于观察到的不同组织之间遗传标记的异质性来发现癌症亚型。众所周知，在这样的高维环境中，许多噪声变量的存在可以压倒嵌入在高维空间中的少数信号。我们提出了一种新的贝叶斯方法的基础上的Dirichlet过程与稀疏事先，同时进行变量选择和聚类，也发现变量，只区分一个子集的集群组件。与以往的贝叶斯公式，我们使用狄利克雷过程（DP）的样本聚类以及正则化的高维均值/方差结构。为了解决这种双重使用DP带来的计算挑战，我们建议使用嵌入在马尔可夫链蒙特卡罗（MCMC）更新的顺序采样方案，以改善现有算法的DP混合模型的天真实现。我们的方法被证明在一个模拟研究和说明与白血病基因表达数据集。
2009-04-19 stat.CO stat.ME
Scalable Robust Bayesian Co-Clustering with Compositional ELBOs
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出首个完全变分的贝叶斯协同聚类框架，通过双重重参数化ELBO、GMM先验、组合ELBO噪声学习及互信息交叉损失，在高维和含噪数据上实现了优于现有方法的鲁棒协同聚类。
2025-04-08 cs.LG stat.ML
