Generalized Dirichlet Energy and Graph Laplacians for Clustering Directed and Undirected Graphs
ENS Paris-Saclay, Université Paris-Saclay, CNRS, Centre Borelli(ENS巴黎萨克雷,巴黎萨克雷大学,CNRS,Borelli中心)
针对有向图聚类中边不对称导致经典谱方法失效的问题,提出广义狄利克雷能量(GDE)框架与广义谱聚类(GSC)方法,利用参数化顶点测度编码方向与密度,无需传送即可实现弱连通有向图聚类,在真实数据集上准确率与鲁棒性均优于现有方法。
2025-09-14 cs.LG stat.ML
A Bayesian Approach to Clustering via the Proper Bayesian Bootstrap: the Bayesian Bagged Clustering (BBC) algorithm
University of Pavia(帕维亚大学)
本文提出贝叶斯袋装聚类(BBC)算法,结合k-means先验引出与恰当贝叶斯自助法重采样的集成聚类思路,提升聚类的鲁棒性与可解释性,还可通过香农熵不确定性度量确定最优聚类数,模拟实验验证了其方法与实证优势。
2024-09-13 cs.LG stat.ML
Fair Clustering via Hierarchical Fair-Dirichlet Process
Texas A&M University(德州农工大学)
本文提出一种基于分层公平狄利克雷过程模型的公平聚类新方法,以替代传统基于目标函数优化的公平聚类框架。
2023-05-27 cs.CY cs.LG stat.ML
Vectorized Bayesian Inference for Latent Dirichlet-Tree Allocation
Concordia Institute for Information Systems Engineering(康科迪亚信息系统工程研究所);Concordia University(康科迪亚大学)
本文提出潜在狄利克雷树分配(LDTA),通过引入树状先验改进LDA,实现高效向量化推断以增强主题建模能力。
2026-02-21 cs.LG stat.ML
A Dirichlet Mixture Model of Hawkes Processes for Event Sequence Clustering
Georgia Institute of Technology(佐治亚理工学院)
基于一类特殊但重要的点过程-- Hawkes过程的Dirichlet混合模型,提出了一种有效的事件序列聚类方法.在该模型中,属于一个集群的每个事件序列都是通过具有特定参数的相同Hawkes过程生成的,不同的集群对应不同的Hawkes过程。Hawkes过程的先验分布由Dirichlet分布控制。我们通过最大似然估计(MLE)学习模型,并提出了一个有效的变分贝叶斯推理算法。我们具体分析了EM型算法的上下文中的内外迭代,并讨论了几个内部迭代分配策略。我们的模型的可识别性,我们的学习方法的收敛性,其样本的复杂性进行了分析,在理论和实证的方式,这表明我们的方法优于其他竞争对手。所提出的方法自动学习聚类的数量,并且对模型误指定具有鲁棒性。在合成数据和真实数据上的实验表明,该方法可以学习到异步事件序列中隐藏的不同触发模式,并在聚类纯度和一致性方面取得了令人鼓舞的性能。
2017-09-21 cs.LG stat.ML
Deep Clustering using Dirichlet Process Gaussian Mixture and Alpha Jensen-Shannon Divergence Clustering Loss
Institute of Microelectronics, A*Star Singapore(新加坡科技研究局微电子研究所)
针对现有深度聚类方法聚类损失非对称、需提前已知聚类数的缺陷,提出采用闭式Jensen-Shannon散度构建损失、结合狄利克雷过程高斯混合实现隐空间自适应聚类数选择的深度聚类方法,在多数据集上验证了有效性。
2024-12-12 cs.CV cs.LG
Sampling in Dirichlet Process Mixture Models for Clustering Streaming Data
Ben-Gurion University(本-古里安大学)
用于聚类流数据的实用工具必须足够快以处理观测的到达率。通常,它们还必须在运行中适应可能缺乏稳定性;即,由于各种形式的漂移、簇数量的变化等,数据统计可能是时间相关的。Dirichlet过程混合模型(DPMM),其贝叶斯非参数性质允许其使其复杂性适应于数据,似乎是流式数据情况的自然选择。然而,在其经典公式中,DPMM无法捕获数据统计中常见的漂移类型。此外,尽管存在这种限制,但现有的在线DPMM推理方法太慢,无法处理快速的数据流。在这项工作中,我们提出了适应DPMM和一个已知的DPMM采样为基础的非流推理方法流数据聚类。我们证明了所提出的方法在几个具有挑战性的设置上的实用性,在那里它获得了最先进的结果,同时在速度方面与其他方法不相上下。
2022-02-27 cs.LG stat.ML
Neural Bayesian Sequential Routing
提出神经贝叶斯序列路由(NBSR)框架,将神经推理建模为有向无环图上的主动证据累积,通过狄利克雷-分类共轭框架实现不确定性量化、早期退出和资源理性推理。
2026-05-22 cs.LG
DIVA: A Dirichlet Process Mixtures Based Incremental Deep Clustering Algorithm via Variational Auto-Encoder
Technical University of Munich(慕尼黑工业大学);Politecnico di Milano(米兰理工大学);Chongqing University(重庆大学);Sun Yat-sen University(中山大学)
提出非参数深度聚类框架DIVA,利用无限高斯混合先验与记忆化在线变分推断实现簇的动态生成与合并,无需预设簇数,在动态增量特征复杂数据分类上优于现有基线。
2023-11-24 cs.LG stat.ML
Learning the Bayesian Network Structure: Dirichlet Prior versus Data
Siemens Medical Solutions(西门子医疗解决方案)
在图模型结构学习的贝叶斯方法中,Dirichlet先验模型参数的等效样本容量(ESS)对贝叶斯网络结构的最大后验估计有重要影响.在我们的第一个贡献中,我们从理论上分析了大ESS值的情况,这补充了以前的工作:在其他结果中,我们发现,即使Dirichlet先验和数据都意味着独立性,只要条件经验分布明显不同于均匀分布,贝叶斯网络中边缘的存在也优于其不存在。在我们的第二个贡献中,我们专注于现实的ESS值,并提供了一个分析近似的“最佳”ESS值在预测意义上(其准确性也验证实验):这种近似提供了一个理解,数据的哪些属性具有决定“最佳”ESS值的主要影响。
2012-06-13 cs.LG stat.ME stat.ML
DPMM-CFL: Clustered Federated Learning via Dirichlet Process Mixture Model Nonparametric Clustering
Dept. of Electrical \& Computer Engineering, Northeastern University, Boston, MA, USA
DPMM-CFL通过非参数贝叶斯推断自动确定聚类数量和客户端分配,实现更灵活的联邦学习框架。
2026-01-29 cs.DC cs.LG stat.ML
Parallel Clustering of Single Cell Transcriptomic Data with Split-Merge Sampling on Dirichlet Process Mixtures
University of California, Irvine(加州大学欧文分校);University of Algarve(阿尔加维大学)
动机:随着基于液滴的系统的发展,大量的单细胞转录组数据已经变得可用,这使得能够以单细胞分辨率分析细胞和分子过程,并且有助于理解许多生物过程。虽然最先进的聚类方法已被应用于数据,但它们面临以下方面的挑战:(1)聚类质量仍有待提高;(2)大多数模型需要关于聚类数的先验知识,而这些知识并不总是可用的;(3)需要更快的计算速度。结果:我们建议在Dirichlet过程混合模型(Para-DPMM模型)上使用并行分裂合并采样来解决这些挑战。与在每个单个数据点上执行采样的经典DPMM方法不同,拆分合并机制在聚类级别上进行采样,这显着提高了结果的收敛性和最优性。该模型是高度并行化的,可以利用高性能计算(HPC)集群的计算能力,在巨大的数据集上实现大规模集群。实验结果表明,该模型在聚类质量和计算速度上都优于目前广泛使用的模型。可用性:源代码可在https://github.com/tiehangd/Para_DPMM/tree/master/Para_DPMM_package上公开获取
2018-12-25 cs.LG q-bio.GN stat.ML
Incorporating functional summary information in Bayesian neural networks using a Dirichlet process likelihood approach
Aalto University(阿尔托大学)
贝叶斯神经网络(BNN)可以解释任意和认知的不确定性。然而,在BNN的先验知识往往是指定的权重,很少反映真正的先验知识,在大型和复杂的神经网络架构。我们提出了一种简单的方法,将先验知识的BNN的基础上外部汇总信息的预测分类概率为一个给定的数据集。可用的摘要信息被纳入增强数据和建模的狄利克雷过程,我们推导出相应的\emph{Summary Evidence Lower BOund}。该方法基于贝叶斯原理,所有超参数都有适当的概率解释。我们展示了该方法如何告知模型任务难度和类不平衡。大量的实验表明,可以忽略不计的计算开销,我们的方法平行,并在许多情况下优于流行的替代品的准确性,不确定性校准,并对腐败的鲁棒性与平衡和不平衡的数据。
2023-01-24 cs.AI cs.LG stat.ML
The Exact Asymptotic Form of Bayesian Generalization Error in Latent Dirichlet Allocation
NTT DATA Mathematical Systems Inc.(NTT数据数学系统公司);Tokyo Institute of Technology(东京工业大学)
潜在狄利克雷分配(LDA)通过贝叶斯推断从数据中获取基本信息。它通过降维和聚类的方法在许多领域中被应用于知识发现。然而,它的泛化错误尚未澄清,因为它是一个奇异的统计模型,其中没有一对一的映射从参数到概率分布。本文利用代数几何的方法,通过对其学习系数的理论分析,给出了其推广误差和边际似然的精确渐近形式。理论结果表明,LDA中的贝叶斯推广误差可以用矩阵分解中的贝叶斯推广误差和LDA参数区域的单纯形约束所带来的惩罚来表示。数值实验结果与理论结果一致。
2021-01-25 cs.LG math.ST stat.ML
Dirichlet Process Mixtures of Generalized Mallows Models
University of Washington(华盛顿大学);Massachusetts Institute of Technology(麻省理工学院)
提出了离散不完全排序下的Dirichlet过程混合模型,研究了两种估计后验聚类的Gibbs抽样推断技术。第一种方法使用切片采样子分量来估计聚类参数。第二种方法利用条件后验的近似来边缘化几个聚类参数。我们实证证明了(1)这种近似方法在提高收敛性方面的有效性,(2)Dirichlet过程模型在排名数据的其他聚类技术上的优势,以及(3)该方法在探索大型现实世界排名数据集方面的适用性。
2012-03-15 cs.LG stat.ML
Sparse Stochastic Inference for Latent Dirichlet allocation
我们提出了一个混合算法的贝叶斯主题模型,结合稀疏吉布斯抽样的效率与在线随机推理的可扩展性。我们使用我们的算法分析了120万本书(330亿字)的语料库,其中包含数千个主题。我们的方法减少了变分推理的偏差,并推广到许多贝叶斯隐变量模型。
2012-06-27 cs.LG stat.ML
Bayesian Consensus Clustering
Duke University Medical Center(杜克大学医学中心);Duke University(杜克大学)
基于多个数据源对一组对象进行聚类的任务出现在几个现代应用中。我们提出了一个综合的统计模型,允许一个单独的聚类的对象为每个数据源。这些单独的聚类松散地附着于整体共识聚类,因此它们不是独立的。我们描述了一个计算上可扩展的贝叶斯框架,同时估计的共识聚类和特定于源的聚类。我们证明了这种灵活的方法比所有数据源的联合聚类更强大,并且比单独对每个数据源进行聚类更强大。这项工作的动机是异构生物医学数据的综合分析,我们提出了一个应用程序,使用公开的数据从癌症基因组图谱的乳腺癌肿瘤样本的亚型鉴定。软件可在http://people.duke.edu/~el113/software.html上获得。
2013-02-28 cs.LG stat.ML
Sharp Deviations Bounds for Dirichlet Weighted Sums with Application to analysis of Bayesian algorithms
本文推导Dirichlet加权和的尖锐非渐近偏差界,基于新颖积分表示与复分析,推广Beta分布结果,并应用于贝叶斯bootstrap及多臂老虎机TS算法,使遗憾界独立于支撑大小。
2026-10-06 cs.LG math.PR math.ST
Accurate parameter estimation for Bayesian Network Classifiers using Hierarchical Dirichlet Processes
Monash University(莫纳什大学)
本文介绍了一种新的贝叶斯网络分类器(BNC)的概率表的参数估计方法,使用分层Dirichlet过程(HDPs)。本文的主要结果是表明,改进的参数估计允许BNC优于领先的学习方法,如随机森林的0-1损失和RMSE,尽管只是在分类数据集。随着数据资产变得越来越大,进入被大肆宣传的“大”世界,高效准确的分类需要三个主要元素:(1)具有低偏差的分类器,可以捕获大型数据集的细节;(2)可以从数据中学习而不必将其全部保存在主内存中的非核心学习器;(3)可以非常有效地分类新数据的模型。最新的贝叶斯网络分类器(BNC)满足这些要求。它们的偏差可以通过增加图中节点的父节点的数量来容易地控制。它们的结构可以通过有限的数据传递次数在核心之外学习。然而,由于偏差被降低以准确地建模分类任务,因此其参数估计的准确性也降低,因为每个参数都是从不断减少的数据量中估计的。在本文中,我们介绍了使用分层Dirichlet过程的准确BNC参数估计。我们在68个标准数据集上进行了一系列广泛的实验,并证明了我们得到的分类器在预测方面与随机森林非常有竞争力,同时保持了核心外的能力和优越的分类时间。
2018-05-08 cs.LG stat.ML
Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh(爱丁堡大学);Microsoft Research(微软研究院);Stanford University(斯坦福大学)
一个好的聚类可以帮助数据分析师探索和理解数据集,但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难正式化,即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法来交互式聚类数据探索,称为\ciif,基于一个特别简单的反馈机制,在该机制中,分析师可以选择拒绝个别集群,并要求新的。新的聚类应该与以前拒绝的聚类不同,同时仍然很好地拟合数据。我们正式这种互动在一个新的贝叶斯先验启发框架。在每次迭代中,先验被适配为考虑所有先前的反馈,然后从后验分布产生新的聚类。为了实现必要的交互式设置的计算效率,我们提出了一种增量优化方法,使用拉格朗日松弛的数据minibatches。实验表明,\ciif可以产生准确和多样的聚类。
2016-06-08 cs.LG stat.ML
Clustering with a Reject Option: Interactive Clustering as Bayesian Prior Elicitation
University of Edinburgh(爱丁堡大学);Microsoft Research(微软研究院);Massachusetts Institute of Technology(麻省理工学院);Harvard University(哈佛大学);Twitter(推特)
一个好的聚类可以帮助数据分析师探索和理解数据集,但是什么是好的聚类可能取决于特定于领域和特定于应用程序的标准。这些标准可能很难形式化,即使分析师在看到一个集群时很容易知道一个好的集群。我们提出了一种新的方法,称为TINDER的数据探索的交互式聚类,基于一个特别简单的反馈机制,在该机制中,分析师可以拒绝给定的聚类,并要求一个新的,这是选择从以前的聚类不同,同时适合的数据。我们在贝叶斯框架中将这种相互作用形式化为先前启发的方法,其中每个不同的聚类由经过修改以阻止先前拒绝的聚类的先验分布产生。我们表明,TINDER成功地产生了一组不同的聚类,每个质量相当,这是更多样化的比随机重新启动。
2016-06-19 cs.LG stat.ML
A PAC-Bayesian Analysis of Graph Clustering and Pairwise Clustering
Max Planck Institute for Biological Cybernetics(马克斯·普朗克生物控制论研究所)
我们制定加权图聚类作为一个预测问题:给定一个子集的边缘权重,我们分析的能力图聚类预测剩余的边缘权重。该公式使实际和理论上的比较不同的方法图聚类,以及比较图聚类与其他可能的方式来建模的图。我们采用了PAC-Bayesian协聚类分析(Seldin and Tishby,2008; Seldin,2009)来推导图聚类的PAC-Bayesian泛化界。该界限表明,图聚类应该优化经验数据拟合和聚类在图节点上保留的互信息之间的权衡。从信息理论考虑导出的类似权衡已经显示在实践中产生最先进的结果(Slonim等人,2005年; Yom-Tov和Slonim,2009年)。本文通过提供更好的理论基础,提出形式化的推广保证,并提供更准确的方法来处理有限样本问题,从而支持了经验证据。我们推导出一个界最小化算法,并表明它在现实生活中的问题提供了很好的结果,所得出的PAC贝叶斯界是合理的紧。
2010-09-02 cs.DS cs.LG stat.ML
Bayesian Hierarchical Clustering with Exponential Family: Small-Variance Asymptotics and Reducibility
Pohang University of Science and Technology(浦项科技大学)
贝叶斯层次聚类(Bayesian hierarchical clustering,BHC)是一种凝聚聚类方法,它定义了一个概率模型,并评估其边缘似然来决定哪些聚类要合并。虽然BHC提供了一些优势,传统的基于距离的凝聚聚类算法,连续的边缘似然评估和仔细的超参数调整是繁琐的,限制了可扩展性。在本文中,我们放松BHC到一个非概率制定,探索共轭指数模型的小方差渐近。我们开发了一种新的聚类算法,被称为放松BHC(RBHC),从BHC模型的渐近极限,表现出基于距离的凝聚聚类算法的可扩展性,以及贝叶斯非参数模型的灵活性。我们还研究了从BHC模型的渐近极限中出现的相异性度量的减少,使我们能够使用可扩展的算法,如最近邻链算法。在人工数据集和真实数据集上的数值实验证明了该方法的有效性和高性能。
2015-06-03 cs.LG stat.ML
Model-free Bayesian Clustering and Multimodal Posterior Summarisation
University of Edinburgh(爱丁堡大学)
该研究提出无模型感知噪声贝叶斯聚类框架,结合Wasserstein型摘要方法,可避免复杂模型指定与昂贵采样,能有效捕捉聚类及噪声不确定性。
2026-10-12 cs.LG stat.ML
Transformers can do Bayesian Clustering
Delft University of Technology(代尔夫特理工大学)
本文提出Cluster-PFN,一种基于变换器的模型,扩展了先验-数据拟合网络以实现无监督贝叶斯聚类。该方法在合成数据上训练,准确估计聚类数和分配,速度快于传统方法。
2026-03-17 cs.AI cs.LG
Bayesian Supervised Causal Clustering
School of Informatics, University of Edinburgh(信息学院,爱丁堡大学);Usher Institute, University of Edinburgh(乌瑟研究所,爱丁堡大学)
本文提出贝叶斯监督因果聚类方法,通过治疗效应指导聚类过程,识别具有相似协变量特征和治疗效应的同质亚组,并在模拟和现实数据上验证其有效性。
2026-03-05 cs.LG stat.ML
Bayesian sparse convex clustering via global-local shrinkage priors
NTT Advanced Technology Corporation(NTT先进技术公司);The University of Electro-Communications(电气通信大学)
稀疏凸聚类是在凸聚类框架下对观测值进行聚类的同时进行变量选择。虽然加权$L_1$范数通常用于稀疏凸聚类中的正则化项,但如果样本量不足,则其使用增加了对数据的依赖性并降低了估计精度。针对这些问题,本文提出了一种基于贝叶斯套索和全局-局部收缩先验的贝叶斯稀疏凸聚类方法。我们引入吉布斯抽样算法,我们的方法使用的比例混合正态分布。仿真研究和实际数据分析表明了所提出方法的有效性。
2020-05-26 cs.LG stat.ME stat.ML
Bayesian Distance Clustering
University of Florida(佛罗里达大学);Duke University(杜克大学)
基于模型的聚类被广泛应用于各种应用领域。然而,对稳健性的基本担忧仍然存在。特别是,结果可以是敏感的内核代表内集群数据密度的选择。利用数据点之间的成对差异的属性,我们提出了一类贝叶斯距离聚类方法,它依赖于建模的成对距离的可能性,而不是原始数据。虽然数据中的一些信息被丢弃,但我们对建模假设具有很大的鲁棒性。所提出的方法代表了一个有吸引力的中间地带之间的距离和基于模型的聚类,从这些典型的方法中的每一个借鉴的优势。我们说明了戏剧性的收益,推断集群的能力,通常的内核选择没有很好地表示。包括一个模拟研究,以评估相对于竞争对手的性能,我们应用的方法来聚类的大脑基因组表达数据。保留字:基于距离的聚类;混合模型;基于模型的聚类;模型规格错误;成对距离矩阵;部分可能性;鲁棒性
2019-06-25 cs.LG stat.ML
Revisiting k-means: New Algorithms via Bayesian Nonparametrics
Ohio State University(俄亥俄州立大学);UC Berkeley(加州大学伯克利分校)
贝叶斯模型为聚类应用提供了很大的灵活性-贝叶斯非参数可用于建模无限混合物,分层贝叶斯模型可用于在多个数据集上共享聚类。在大多数情况下,这种灵活性是缺乏经典的聚类方法,如k-means。在本文中,我们重新审视的k-means聚类算法从贝叶斯非参数的观点。受启发的渐近连接之间的k-均值和混合高斯,我们表明,吉布斯采样算法的Dirichlet过程的混合接近硬聚类算法的限制,并进一步得到的算法单调最小化一个优雅的底层k-均值聚类目标,包括惩罚的集群数量。我们推广这种分析的情况下,聚类多个数据集,通过类似的渐近参数与分层狄利克雷过程。我们还讨论了进一步的扩展,突出了我们的分析的好处:i)涉及阈值特征向量的谱松弛,和ii)归一化割图聚类算法,不固定图中的聚类数量。
2012-06-14 cs.LG stat.ML
Fast Predictive Uncertainty for Classification with Bayesian Deep Networks
University of Tübingen(图宾根大学);Max-Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所)
在贝叶斯深度学习中,分类神经网络输出的分布通常通过首先在权重上构建高斯分布来近似,然后从中采样以接收softmax输出的分布。这是昂贵的。我们重新考虑旧的工作(拉普拉斯桥)来构建这个softmax输出分布的Dirichlet近似,它产生了logit空间中的高斯分布和输出空间中的Dirichlet分布(分类分布之前的共轭)之间的解析映射。重要的是,香草拉普拉斯桥有一定的局限性。我们分析了这些,并提出了一个简单的解决方案,相比其他常用的估计的softmax-Gaussian积分。我们证明了由此产生的Dirichlet分布具有多种优势,特别是更有效地计算不确定性估计和扩展到大型数据集和网络,如ImageNet和DenseNet。我们进一步证明了这种Dirichlet近似的有用性,使用它来构建ImageNet的轻量级不确定性感知输出排名。
2022-05-31 cs.LG stat.ML
Bayesian Nonparametric Multilevel Clustering with Group-Level Contexts
Deakin University(迪肯大学);University of Michigan(密歇根大学);Nuance Communications(Nuance通信公司)
我们提出了一个贝叶斯非参数框架的多级聚类,利用组级上下文信息,同时发现低维结构的组内容和分区组成集群。使用Dirichlet过程作为构建块,我们的模型构建了一个产品基本测量与嵌套结构,以适应内容和上下文的观察在多个层次。该模型具有的属性,链接嵌套狄利克雷过程(nDP)和狄利克雷过程混合模型(dirichlet)在一个有趣的方式:整合出所有的内容的结果,在上下文中,而整合出特定于组的上下文的结果,在nDP混合物的内容变量。我们提供了一个Polya-urn视图的模型和一个有效的折叠吉布斯推理过程。在真实世界数据集上的大量实验表明,通过我们的模型在文本和图像域中利用上下文信息的优势。
2014-01-29 cs.LG stat.ML
A Bayesian View of the Poisson-Dirichlet Process
NICTA(澳大利亚国家信息与通信技术研究院);Australian National University(澳大利亚国立大学)
双参数泊松-狄利克雷过程(PDP)是狄利克雷过程的推广,越来越多地用于语言技术、生物信息学和图像分析等离散领域的概率建模。关于PDP及其衍生分布,如中国餐馆过程(CRP),有丰富的文献。本文回顾了离散问题贝叶斯建模的一些基本理论和主要结果,包括先验、后验和计算细节。PDP允许在可数分区上构建分布。PDP有两个其他显着的属性:第一,它是部分共轭本身,这使得人们可以建立层次结构的PDP,第二,使用边缘化的相对CRP,一个得到的碎片和聚类属性,让一层分区,以建立树。本文介绍了理解划分和分布概念的基本理论,PDP和CRP,以及共轭,分裂和聚类的重要性质,以及一些关键的相关性质,如一致性和收敛性。本文还提出了一个贝叶斯解释的泊松-狄利克雷过程的基础上不适当的和无限维狄利克雷分布。这意味着我们可以将这个过程理解为另一个狄利克雷过程,因此它的所有采样性质都自然出现。PDP的理论通常是针对连续分布(更一般地称为非原子分布)提出的,然而,当应用于离散分布时,其显着的共轭性质出现。这方面的基本结果,以及技术计算二阶斯特林数发生在后验的离散分布。
2012-02-15 cs.LG math.PR math.ST
Approach of variable clustering and compression for learning large Bayesian networks
ITMO University(圣彼得堡国立信息技术机械与光学大学)
本文提出了一种基于特征空间聚类的块学习大型贝叶斯网络结构的新方法。该聚类是使用归一化互信息获得的。块的后续聚合使用经典学习方法完成,除了它们被输入关于每个块的特征值组合的压缩信息。这种方法的验证完成爬山作为两个得分函数:BIC和MI的图枚举算法。以这种方式,即使对于被认为不适合于可并行化学习的那些得分函数,也可以实现潜在的可并行化块学习。该方法的优点是评估的工作速度以及所发现的结构的准确性。
2022-08-29 cs.LG stat.ML
Regime-Adaptive Bayesian Optimization via Dirichlet Process Mixtures of Gaussian Processes
Department of Computer Science, Florida State University(佛罗里达州立大学计算机科学系);Department of Computer Science, University of Chicago(芝加哥大学计算机科学系);School of Mechanical Engineering, Purdue University(普渡大学机械工程学院);College of Nanotechnology, Science, and Engineering, State University of New York at Albany(纽约州立大学阿尔巴尼分校纳米技术、科学与工程学院)
本文提出RAMBO方法,通过狄利克雷过程混合高斯过程实现自适应贝叶斯优化,有效处理多制度问题,提升分子构象优化、药物发现等任务的性能。
2026-07-29 cs.LG stat.ML
Powered Hawkes-Dirichlet Process: Challenging Textual Clustering using a Flexible Temporal Prior
ERIC Lab Université de Lyon(里昂大学 ERIC 实验室)
文档的文本内容及其发布日期是相互交织的。例如,根据潜在的时间动态,一篇关于某个主题的新闻文章的发表会受到以前关于类似问题的出版物的影响。然而,当文本信息传达的信息很少或时间动态难以揭示时,检索有意义的信息可能具有挑战性。此外,文档的文本内容并不总是与其时间动态相关联。我们开发了一种灵活的方法来创建集群的文本文件,根据他们的内容和出版时间,动力Dirichlet-Hawkes过程(PDHP)。我们发现,PDHP产生显着更好的结果比国家的最先进的模型时,时间信息或文本内容是弱信息。PDHP还证实了文本内容和时间动态总是完美相关的假设。PDHP允许检索文本集群,时间集群,或两者的混合物时,它们不是高精度的。我们证明了PDHP推广了以前的工作-如Dirichlet-Hawkes过程(DHP)和均匀过程(UP)。最后,我们使用Reddit数据说明了在现实世界的应用程序中PDHP引起的DHP和UP的变化。
2021-09-15 cs.DM cs.IR cs.LG
BALSON: Bayesian Least Squares Optimization with Nonnegative L1-Norm Constraint
Beijing University of Posts and Telecommunications(北京邮电大学);University of Technology Sydney(悉尼科技大学);University College London(伦敦大学学院);National Chiao Tung University(国立交通大学)
提出了一种基于非负L1范数约束的贝叶斯最小二乘优化方法(BALSON)。数据拟合的误差分布用高斯似然描述。假设参数分布为狄利克雷分布。利用贝叶斯规则,搜索最优参数等价于找到后验分布的模式。为了明确地表征参数的非负L1-范数约束,我们进一步用狄利克雷分布来逼近真实的后验分布。本文用抽样方法估计了近似Dirichlet后验分布的统计量。介绍了四种取样方法。利用估计的后验分布,可以有效地重建多项式拟合问题中的原始参数,BALSON框架被发现比传统的方法表现得更好。
2018-07-08 cs.LG stat.ML
Dirichlet Process Parsimonious Mixtures for clustering
Normandie Univ(诺曼底大学);UNICAEN(卡昂大学);CNRS(法国国家科学研究中心);Aix Marseille Université(艾克斯-马赛大学);ENSAM(法国国立高等工程技术学校);Université de Toulon(土伦大学)
简约高斯混合模型,它利用一个特征值分解的组协方差阵的高斯混合,已显示出他们的成功,特别是在聚类分析。它们的估计一般通过极大似然估计进行,并且也从参数贝叶斯前景考虑。我们提出了新的Dirichlet过程简约混合物(DPPM),代表这些简约高斯混合模型的贝叶斯非参数制定。所提出的DPPM模型是贝叶斯非参数简约混合模型,允许同时推断模型参数,混合物组分的最佳数量和最佳简约混合物结构的数据。我们开发了一个吉布斯抽样技术的最大后验概率(MAP)估计的DPMM模型,并提供了一个贝叶斯模型选择框架,通过使用贝叶斯因子。我们将它们应用于聚类模拟数据和真实数据集,并将它们与标准的简约混合模型进行比较。所得到的结果突出了所提出的非参数简约混合模型作为一个很好的非参数替代参数简约模型的有效性。
2018-10-17 cs.LG stat.ME stat.ML
Dirichlet Scale Mixture Priors for Bayesian Neural Networks
Department of Statistics & Data Science, University of Oslo(统计与数据科学系,奥斯陆大学)
本文提出狄利克雷尺度混合先验用于贝叶斯神经网络,通过结构化收缩解决现有局限,提升模型稀疏性、鲁棒性和预测性能。
2026-02-23 cs.LG stat.ML
Determinantal Clustering Processes - A Nonparametric Bayesian Approach to Kernel Based Semi-Supervised Clustering
University of Cambridge(剑桥大学)
半监督聚类是将数据点聚类成簇的任务,其中只有一小部分点被标记。数据中聚类的真实数量通常是未知的,大多数模型都需要这个参数作为输入。狄利克雷过程混合模型是有吸引力的,因为它们可以从数据中推断出聚类的数量。然而,这些模型不能很好地处理高维数据,并且在推理中会遇到困难。我们提出了一种新的非参数贝叶斯内核为基础的方法来聚类数据点,而不需要预先指定集群的数量或模型复杂的密度,数据点被假定为从生成。关键的见解是使用核矩阵的子矩阵的行列式作为一组点之间的距离的度量。我们探讨了模型的一些理论性质,并推导出一个基于自然吉布斯的算法与MCMC超参数学习。该模型在各种合成和真实世界的数据集上实现。
2013-09-26 cs.LG stat.ML
Tensor Dirichlet Process Multinomial Mixture Model for Passenger Trajectory Clustering
University of Cologne(科隆大学);Arizona State University(亚利桑那州立大学);Tsinghua University(清华大学);McGill University(麦吉尔大学);The Hong Kong University of Science and Technology(香港科技大学);HKUST (Guangzhou Campus)(香港科技大学(广州校区))
针对乘客行程多维多模态层次结构及聚类数难以预设的问题,提出张量Dirichlet过程多项式混合模型(Tensor-DPMM)及其带图变体,通过张量单步聚类并自动确定簇数,结合坍缩Gibbs采样与解散重定位策略,在香港地铁数据上实现了更优的簇内紧凑度与簇间分离度。
2023-06-23 cs.LG stat.ML
Bayesian Clustering of Shapes of Curves
Florida State University(佛罗里达州立大学)
根据曲线的形状对曲线进行无监督聚类是一个具有广泛科学应用的重要问题。现有的基于模型的聚类技术或者依赖于简单的概率模型(例如,高斯),通常不适用于形状分析或假设簇的数量。我们开发了一个有效的贝叶斯方法聚类曲线数据使用弹性形状度量,是基于联合注册和比较的曲线形状。从数据中获得的弹性内积矩阵建模使用Wishart分布,其参数被分配精心选择的先验分布,以允许自动推断的集群的数量。基于中国餐馆过程,通过高效的马尔可夫链蒙特卡罗过程对后验进行采样,以推断(1)聚类数的后验分布和(2)形状的聚类结构。该方法在蛋白质结构分析、显微镜图像中的细胞形状分析和MPEG7数据库中的形状聚类等各种合成数据和真实数据示例上进行了演示。
2015-04-01 cs.LG stat.ML
DP-GP-LVM: A Bayesian Non-Parametric Model for Learning Multivariate Dependency Structures
University of Bath(巴斯大学);University of Bristol(布里斯托尔大学)
我们提出了一个非参数贝叶斯潜变量模型,能够在多变量环境中学习跨维度的依赖结构。我们的方法是基于灵活的高斯过程先验的生成映射和可互换的狄利克雷过程先验学习的结构。引入狄利克雷过程作为一个特定的结构先验,使我们的模型,以规避与以前的高斯过程潜变量模型的问题。推导出一个有效的变分边界上的边际对数似然模型进行推理。
2018-07-12 cs.LG stat.ML
Amortized Bayesian inference for clustering models
Columbia University(哥伦比亚大学)
我们开发了有效的摊销近似贝叶斯推断的概率聚类模型,如狄利克雷过程混合模型的后验分布的方法。该方法是基于映射到条件概率的集群安排的分布式,不变性表示。该方法易于并行化,从聚类分配的近似后验中产生iid样本,具有与单个Gibbs采样器扫描相同的计算成本,并且可以容易地应用于共轭和非共轭模型,因为训练仅需要来自生成模型的样本。
2018-11-24 cs.LG stat.CO stat.ML
Anomaly Detection by Clustering DINO Embeddings using a Dirichlet Process Mixture
Computer Vision Lab, ETH Zurich(计算机视觉实验室,苏黎世联邦理工学院)
本研究提出用狄利克雷过程混合模型对DINOv2嵌入聚类,用于医学影像无监督异常检测,在保持性能的同时将推理时间减半。
2025-09-24 cs.CV cs.LG
Bayesian-based Online Label Shift Estimation with Dynamic Dirichlet Priors
Department of Electrical and Electronic Engineering, Imperial College London(帝国理工学院伦敦分校电子与电气工程系)
本文提出FMAPLS和online-FMAPLS方法,通过动态优化Dirichlet超参数和类别先验,有效解决标签偏移问题,提升分类性能。
2025-11-23 cs.LG stat.ML
Posterior Regularization on Bayesian Hierarchical Mixture Clustering
Tencent(腾讯);University College Dublin(都柏林大学学院);Trinity College Dublin(都柏林圣三一学院)
针对贝叶斯层次混合聚类(BHMC)高层节点分离度弱的问题,提出对各层节点施加最大间隔约束的后验正则化方法,有效提升了BHMC模型的聚类分离效果。
2023-05-05 cs.AI cs.LG stat.ML
Dirichlet Process-based Robust Clustering using the Median-of-Means Estimator
Duke University(杜克大学);Georgia Institute of Technology(佐治亚理工学院);Indian Statistical Institute(印度统计研究所)
本文提出一种结合基于模型与基于质心方法优势的自动聚类技术,利用 Median-of-Means 估计器减轻噪声影响并自动估计聚类数量,在理论和实验上均优于现有算法。
2025-01-29 cs.LG stat.ME stat.ML
Fair Bayesian Model-Based Clustering
Department of Statistics(统计系)
针对现有群体公平聚类多依赖K-means、需预定义聚类数和距离的局限,提出公平贝叶斯聚类FBC,通过特殊公平先验和高效MCMC算法,可推断聚类数、适配多数据类型,在真实数据集上实现有竞争力的效用-公平性权衡。
2025-06-15 cs.AI cs.LG stat.ML
Asymptotic Bayesian Generalization Error in Latent Dirichlet Allocation and Stochastic Matrix Factorization
NTT DATA Mathematical Systems Inc.(NTT数据数学系统株式会社);Tokyo Institute of Technology(东京工业大学)
潜在狄利克雷分配(LDA)在文档分析、图像处理和许多信息系统中是有用的,然而,由于它是一个奇异的学习机器,常规的统计理论不能应用于它,因此它的泛化性能一直是未知的。随机阵分解(英语:Stochastic matrix factorization,SMF)是一种限制矩阵分解,其中矩阵因子是随机的;矩阵的列在单纯形中。SMF被应用于图像识别和文本挖掘。我们可以将SMF理解为一个统计模型,通过该模型,给定数据的随机矩阵由两个随机阵的乘积表示,其泛化性能也由于非正则性而未知。本文利用代数和几何方法证明了LDA和SMF的解析等价性,它们具有相同的实对数典型阈值(RLCT),从而使它们具有相同的贝叶斯推广误差和相同的对数边际似然。此外,我们还导出了RLCT的上界,并证明了它小于参数的维数除以2,因此它们的贝叶斯推广误差比常规统计模型的推广误差小小于.
2020-01-30 cs.LG math.ST stat.ML
DPGIIL: Dirichlet Process-Deep Generative Model-Integrated Incremental Learning for Clustering in Transmissibility-based Online Structural Anomaly Detection
University of Macau(澳门大学);Guangdong-Hong Kong-Macau Joint Laboratory for Smart Cities(粤港澳智慧城市联合实验室)
本研究提出DPGIIL聚类框架用于在线结构异常检测,结合深度生成模型与狄利克雷过程混合模型的优势,通过推导更紧的下界实现联合优化,设计加速推理方法并支持增量学习,经案例验证在检测与聚类任务上均优于部分前沿方法。
2025-10-08 cs.LG physics.data-an stat.ML
Pain Detection with fNIRS-Measured Brain Signals: A Personalized Machine Learning Approach Using the Wavelet Transform and Bayesian Hierarchical Modeling with Dirichlet Process Priors
Harvard-MIT Health Sciences and Technology, Massachusetts Institute of Technology(麻省理工学院哈佛-麻省理工健康科学与技术系);Affective Computing group, MIT Media Lab, Massachusetts Institute of Technology(麻省理工学院媒体实验室情感计算研究组);Center for Pain and the Brain, Harvard Medical School(哈佛医学院疼痛与大脑研究中心);Department of Anesthesiology, Boston Children’s Hospital(波士顿儿童医院麻醉科)
目前,自我报告疼痛评分是临床疼痛评估的金标准。然而,客观的疼痛自动测量的发展可以大大有助于疼痛的诊断和治疗。最近的神经影像学研究显示了功能性近红外光谱(fNIRS)用于疼痛检测的潜力。这是一种脑成像技术,可提供皮质血红蛋白浓度变化的非侵入性长期测量。在这项研究中,我们专注于fNIRS信号专门从前额叶皮层,可以访问不显眼,并推导出一种算法,用于检测存在的疼痛使用贝叶斯分层模型与小波特征。这种方法允许个性化的推理过程中的会计参与者之间的差异疼痛反应。我们的工作强调了采用个性化方法的重要性,并支持使用fNIRS进行疼痛评估。
2019-07-30 cs.LG eess.IV q-bio.NC
A Bayesian Method for Joint Clustering of Vectorial Data and Network Data
Emory University(埃默里大学);The Chinese University of Hong Kong(香港中文大学)
我们提出了一种新的基于模型的综合方法,用于聚类对象给定的矢量数据,它描述了每个对象的特征,和网络数据,它表明连接的对象的相似性。所提出的通用模型能够在一个综合概率模型中同时聚类两种类型的数据,而传统方法只能处理一种数据类型或依赖于将一种数据类型转换为另一种数据类型。基于马尔可夫链蒙特卡罗算法进行聚类的贝叶斯推断。结合高斯混合模型和随机块模型的一般模型的一个特殊情况进行了广泛的研究。我们使用合成数据和真实数据来评估这种新方法,并将其与其他方法进行比较。结果表明,我们的同时聚类方法表现得更好。这种改进是由于基于模型的概率方法有效地整合信息的力量。
2017-10-24 cs.LG stat.CO stat.ML
A Bayesian alternative to mutual information for the hierarchical clustering of dependent random variables
Department of Computational Neuroscience, University Medical Center Hamburg-Eppendorf, Hamburg University(汉堡大学附属埃彭多夫医学中心计算神经科学系,汉堡大学)
在凝聚层次聚类(AHC)中使用互信息作为相似性度量提出了一个重要问题:需要对变量的维数进行一些校正。在这项工作中,我们制定的决定,合并相关的多元正态变量在AHC程序作为贝叶斯模型比较。我们发现贝叶斯公式自然地将经验协方差阵缩小到先验的矩阵集合(例如,恒等式),提供自动停止规则,并使用一项来校正维数,该项根据变量的维数按比例增加度量。此外,由此产生的对数贝叶斯因子是渐近成比例的互信息的插件估计,与贝叶斯信息标准的协议的维数的添加剂校正。我们研究了这些贝叶斯替代品(精确和渐近形式)的行为,以模拟和真实数据的互信息。一个令人鼓舞的结果首先来自模拟:基于对数贝叶斯因子的层次聚类优于现成的聚类技术,以及原始和归一化的互信息的分类精度。在一个玩具例子中,我们发现贝叶斯方法导致的结果与互信息聚类技术相似,具有自动阈值的优势。在测量大脑活动的真实功能性磁共振成像(fMRI)数据集上,它识别出与标准程序的既定结果一致的聚类。在这个应用中,归一化互信息具有高度非典型的行为,在这个意义上,它系统地支持非常大的集群。这些初步的实验表明,提出的贝叶斯替代互信息是一个有用的新工具,层次聚类。
2015-10-19 cs.LG q-bio.QM stat.ML
Choose A Table: Tensor Dirichlet Process Multinomial Mixture Model with Graphs for Passenger Trajectory Clustering
University of Cologne(科隆大学);Arizona State University(亚利桑那州立大学);Tsinghua University(清华大学);McGill University(麦吉尔大学);The Hong Kong University of Science and Technology(香港科技大学);HKUST-GZ(香港科技大学(广州))
本文提出带图张量狄利克雷过程多项混合模型,用于乘客轨迹聚类,可保留出行层次结构并自动确定聚类数目,在香港地铁数据上验证了更优的聚类质量。
2023-10-31 cs.AI cs.LG stat.AP