Perfect Clustering for Stochastic Blockmodel Graphs via Adjacency Spectral Embedding
随机块模型图中的顶点聚类具有广泛的适用性,并且已经成为广泛研究的主题。本文给出了一个简短的证明,证明了邻接谱嵌入可以用来获得随机块模型和度校正随机块模型的完美聚类。我们也证明了更一般的随机点积图模型的类似结果。
2015-01-15 stat.ML
Euclidean Distances, soft and spectral Clustering on Weighted Graphs
我们定义了一类加权图的欧氏距离,使热力学软图聚类。该类可以从谱聚类中遇到的“原始坐标”中构造,并且可以通过高维嵌入(Schoenberg变换)进行扩展。地理流量数据,适当的条件下,说明了程序以及可视化方面。
2010-07-06 stat.ML
Clustering-aware Graph Construction: A Joint Learning Perspective
City University of Hong Kong(香港城市大学);City University of Hong Kong Shenzhen Research Institute(香港城市大学深圳研究院)
基于图的聚类方法已经在各种应用中证明了其有效性。现有的基于图的聚类方法通常首先构造一个图来表示输入数据,然后对其进行划分以生成聚类结果。然而,这种逐步的方式可能会使构建的图不符合后续分解的要求,从而导致聚类准确性受损。为此,我们提出了一个联合学习框架,该框架能够同时学习图和聚类结果,从而使生成的图适合于聚类任务。所提出的模型被配制成一个定义良好的非负和非对角约束优化问题,这是进一步有效地解决与理论上保证收敛。通过在10个数据集上使用4个聚类度量与19种最先进的聚类方法进行比较,证明了该模型的优势。
2019-12-16 cs.LG stat.ML
Understanding Regularized Spectral Clustering via Graph Conductance
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文利用图电导和谱聚类之间的关系来研究(i)谱聚类的失败和(ii)正则化的好处。原因很简单。稀疏图和随机图创建了许多小树,这些小树仅通过一条边连接到图的核心。图电导是敏感的,这些嘈杂的“悬挂集”。谱聚类继承了这种敏感性。本文的第二部分从先前提出的正则化谱聚类的形式开始,并表明它与“正则化图”上的图电导有关。我们称正则化图上的电导为CoreCut。基于先前将图电导与谱聚类(例如Cheeger不等式)相关联的参数,最小化CoreCut松弛以正则化谱聚类。对CoreCut的简单检查揭示了为什么它对图中的小切割不那么敏感。总之,这些结果表明,谱聚类的不平衡分区可以被理解为在稀疏和随机图的外围对噪声的过拟合。正则化修复了这种过拟合。除了这种统计上的好处,这些结果还证明了正则化如何提高谱聚类的计算速度。我们提供模拟和数据的例子来说明这些结果。
2018-12-01 cs.LG stat.ML
Spectral Clustering with Graph Neural Networks for Graph Pooling
NORCE, the Norwegian Research Centre(挪威研究中心NORCE);Università della Svizzera italiana(意大利语区大学(瑞士));Politecnico di Milano(米兰理工大学)
谱聚类(SC)是一种流行的聚类技术,用于发现图上的强连接社区。SC可以在图神经网络(GNN)中使用,以实现聚合属于同一集群的节点的池化操作。然而,拉普拉斯算子的特征分解是昂贵的,并且由于聚类结果是特定于图的,因此基于SC的池化方法必须对每个新样本执行新的优化。在本文中,我们提出了一个图聚类的方法,解决这些限制SC。我们制定了一个连续放松的归一化minCUT问题和训练GNN计算集群分配,最大限度地减少这一目标。我们基于GNN的实现是可微的,不需要计算谱分解,并学习可以在样本外图上快速评估的聚类函数。从所提出的聚类方法,我们设计了一个图池运营商,克服了一些重要的限制国家的最先进的图池技术,并在几个监督和无监督的任务中实现最佳性能。
2020-12-29 cs.LG stat.ML
Advanced Graph Clustering Methods: A Comprehensive and In-Depth Analysis
UTBM(贝尔福-蒙贝利亚尔技术大学)
本文全面梳理图聚类的传统方法与深度学习前沿技术,介绍相关图论基础,通过实验对比各类方法,并探讨其实际应用与未来研究方向。
2024-07-12 cs.LG stat.ML
Motivic clustering schemes for directed graphs
the Ohio State University(俄亥俄州立大学);UNESP(圣保罗州立大学)
出于网络图案的概念,我们构建了某些聚类方法(函子),这些方法由给定的图案(或代表者)集合参数化。
2020-01-06 cs.LG stat.ML
Clustering on the Edge: Learning Structure in Graphs
随着近年来图形聚类方法的流行,人们越来越关注样本之间的信息。我们展示了如何使用边缘特征学习聚类结构,同时确定最可能的聚类数量并解决数据规模问题。这些结果在以下情况下特别有用:(a)有大量的聚类,(b)我们有一些标记的边缘。该领域的应用包括图像分割、社区发现和实体解析。我们的模型是种植分区模型的扩展,我们的解决方案使用相关聚类的结果,实现了分区O(log(n))-接近真实聚类的对数似然。
2016-05-05 stat.ML
Ensemble Clustering for Graphs
Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
提出了一种基于Louvain算法和一致性聚类概念的集成图聚类算法。我们通过复制最近发表的一项研究来验证我们的方法,该研究比较了人工网络上的图聚类算法,表明ECG优于该研究中的领先算法。我们还说明了如何与ECG获得的合奏可以用来量化社区结构的存在图。
2018-09-14 cs.LG cs.SI stat.ML
Clustering dynamics on graphs: from spectral clustering to mean shift through Fokker-Planck interpolation
在这项工作中,我们建立了一个统一的框架,密度驱动和基于几何的数据聚类算法之间的插值,具体来说,连接的均值漂移算法与谱聚类在离散和连续水平。我们通过引入数据图上的福克-普朗克方程来寻求这种联系。除了引入新形式的均值漂移算法的图形,我们提供了新的理论见解的行为的家庭的扩散地图在大样本限制,以及提供新的连接之间的扩散地图和均值漂移动态固定图。几个数值例子说明了我们的理论研究结果,并强调插值密度驱动和基于几何的聚类算法的好处。
2021-10-20 cs.LG math.AP stat.ML
Contrastive Graph Clustering in Curvature Spaces
North China Electric Power University(华北电力大学);Beijing University of Posts and Telecommunications(北京邮电大学);Beihang University(北京航空航天大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
该研究首次将异质曲率空间引入图聚类,提出基于Ricci曲率的端到端对比图聚类模型CONGREGATE,采用无需增强的重加权对比策略,在真实图数据上性能超越现有最优方法。
2023-05-05 cs.LG stat.ML
Multilayer Spectral Graph Clustering via Convex Layer Aggregation: Theory and Algorithms
多层图通常用于表示实体之间的不同关系并处理异构数据处理任务。需要非标准的多层图聚类方法来将聚类分配给公共多层节点集并组合来自每个层的信息。本文提出了一种多层谱图聚类(SGC)框架,执行凸层聚合。在多层信号加噪声模型下,给出了聚类可靠性的相变分析。此外,我们使用的相变准则,提出了一个多层迭代模型顺序选择算法(MIMOSA)的多层SGC,该算法具有自动聚类分配和层权重自适应,并提供统计聚类可靠性保证。对合成多层图的数值模拟验证了相变分析,对真实多层图的实验表明MIMOSA具有竞争力或优于其他聚类方法。
2017-08-08 cs.SI stat.ML
Attributed Graph Clustering: A Deep Attentional Embedding Approach
University of Technology Sydney(悉尼科技大学);Monash University(莫纳什大学)
图聚类是发现网络中社区或群体的基本任务。最近的研究主要集中在开发深度学习方法来学习紧凑的图嵌入,在此基础上应用经典的聚类方法,如k-means或谱聚类算法。这些两步框架难以操作,并且通常导致次优性能,主要是因为图嵌入不是目标导向的,即,专为特定的集群任务而设计。在本文中,我们提出了一种目标导向的深度学习方法,深度注意嵌入图聚类(简称DAEGC)。我们的方法侧重于属性图,充分探索图中的信息的两个方面。通过使用注意力网络来捕捉相邻节点对目标节点的重要性,我们的DAEGC算法将图中的拓扑结构和节点内容编码为紧凑的表示,在此基础上训练内积解码器来重建图结构。此外,从图嵌入本身产生的软标签来监督一个自训练图聚类过程,迭代地细化聚类结果。自训练过程与图嵌入在统一的框架中共同学习和优化,使两个组件互惠互利。实验结果表明,与现有的算法相比,该方法具有优越性。
2019-06-15 cs.LG stat.ML
Axioms for graph clustering quality functions
Radboud University Nijmegen(奈梅亨拉德堡德大学)
我们调查的性质,直观上应该满足图聚类质量函数,也就是说,功能,分配一个分数的聚类图。图聚类,也称为网络社区发现,通常通过优化这样的函数来执行。两个公理量身定制的图聚类质量函数的介绍,和四个公理在以前的工作中介绍的基于距离的聚类重新制定和推广的图形设置。我们表明,模块化,一个标准的质量函数图聚类,不满足所有这六个属性。这促使推导出一个新的家庭的质量功能,自适应规模模块化,这并满足所提出的公理。自适应尺度模块化有两个参数,这两个参数在聚类类型上有很大的灵活性,标准图聚类质量函数,如归一化割和非归一化割,作为自适应尺度模块化的特例得到。在一般情况下,我们的调查结果表明,所考虑的公理化框架涵盖现有的“好”的质量功能图聚类,并可以用来获得一个有趣的新的家庭的质量功能。
2014-07-22 cs.CV cs.LG stat.ML
On a 'Two Truths' Phenomenon in Spectral Graph Clustering
Johns Hopkins University(约翰斯·霍普金斯大学);Institute for Defense Analyses(国防分析研究所);University of Massachusetts(马萨诸塞大学)
聚类关注的是在没有任何明确的真实分组概念的情况下对观测数据进行连贯的分组。谱图聚类--根据图的谱嵌入对图的顶点进行聚类--通常通过由拉普拉斯或邻接谱嵌入(LSE或ASE)组成的K均值(或者更一般地,高斯混合模型)聚类来实现。最近的理论结果提供了新的理解的问题和解决方案,并导致我们的“两个真理”的LSE与ASE频谱图聚类现象令人信服地说明了这里通过扩散MRI连接体数据集:不同的嵌入方法产生不同的聚类结果,与LSE捕获左半球/右半球的亲和结构和ASE捕获灰质/白质的核心-外围结构。
2019-02-11 cs.LG stat.ML
Adaptive Graph Auto-Encoder for General Data Clustering
School of Artificial Intelligence, Optics and Electronics (iOPEN), Northwestern Polytechnical University(西北工业大学人工智能、光学与电子学院(iOPEN));Key Laboratory of Intelligent Interaction and Applications (Northwestern Polytechnical University), Ministry of Industry and Information Technology(工业和信息化部智能交互与应用重点实验室(西北工业大学))
针对通用数据缺乏图结构的问题,提出一种自适应图自编码器,通过生成视角构建图并结合防坍塌机制,在加权图场景下聚类表现优越。
2024-04-21 cs.LG stat.ML
Koopman-based spectral clustering of directed and time-evolving graphs
虽然用于无向图的谱聚类算法已经很好地建立,并且已经成功地应用于从图像分割和基因组测序到信号处理和社会网络分析的无监督机器学习问题,但是聚类有向图仍然非常困难。两个主要的挑战是与有向图相关的图拉普拉斯算子的特征值和特征向量通常是复值的,并且在有向图中没有普遍接受的簇定义。我们首先利用图形拉普拉斯算子和传输操作员之间的关系,特别是集群之间的无向图和亚稳态集的随机动力系统,然后使用一个概括的概念亚稳态来推导出聚类算法的有向和时间演化图。由此产生的集群可以被解释为相干集,这在流体流动中的传输和混合过程的分析中起着重要的作用。
2022-10-19 math.DS stat.ML
Possibility results for graph clustering: A novel consistency axiom
Institut de Robòtica i Informàtica Industrial, CSIC-UPC(西班牙国家研究委员会-加泰罗尼亚理工大学工业机器人与信息技术研究所);University of Southampton(南安普顿大学);Institute for Life Sciences, University of Southampton(南安普顿大学生命科学研究所);The Alan Turing Institute(艾伦·图灵研究所)
Kleinberg介绍了三个自然的聚类属性,或公理,并表明它们不能同时满足任何聚类算法。我们提出了一个新的聚类属性,单调一致性,它避免了众所周知的问题行为的Kleinberg的一致性公理,和不可能的结果。也就是说,我们描述了一个聚类算法,莫尔斯聚类,灵感来自莫尔斯理论微分拓扑,它满足Kleinberg的原始公理与单调一致性取代。Morse聚类揭示了集合或图上的底层流结构,并返回表示关键顶点吸引盆的树的分区。我们还概括了克莱因伯格的公理化方法稀疏图,一致性的不可能的结果,单调一致性和莫尔斯聚类的可能性结果。
2022-04-03 cs.LG stat.ML
Local Graph Clustering with Network Lasso
Aalto University(阿尔托大学);Sharif University of Technology(谢里夫理工大学)
我们研究了局部图聚类的网络Lasso方法的统计和计算特性。nLasso提供的集群可以通过集群边界和种子节点之间的网络流来优雅地表征。虽然谱聚类方法是由图形拉普拉斯二次型的最小化来指导的,但nLasso最小化了聚类指示符信号的总变化。正如理论和数值所证明的那样,nLasso方法可以处理非常稀疏的聚类(链状),这对于谱聚类来说是困难的。我们还验证了一个原始-对偶方法的非光滑优化允许近似nLasso的解决方案,最佳的最坏情况下的收敛速度。
2020-10-03 cs.LG stat.ML
Comparison and Benchmark of Graph Clustering Algorithms
Florida State University(佛罗里达州立大学)
图聚类被广泛应用于生物网络、社交网络等的分析中。十多年来,许多图聚类算法被发表,但没有一个全面和一致的性能比较。在本文中,我们对70多个图聚类程序进行了基准测试,以评估它们在加权和非加权图上的运行时间和质量性能。我们还分析了影响性能的地面实况的特征。我们的工作不仅能够为工程师选择聚类算法提供一个起点,也可以为研究人员设计新的算法提供一个观点。
2020-05-10 cs.IR cs.LG cs.SI
Attributed Graph Clustering via Adaptive Graph Convolution
The Hong Kong Polytechnic University(香港理工大学)
属性图聚类具有挑战性,因为它需要对图结构和节点属性进行联合建模。图卷积网络的最新进展证明了图卷积在结合结构和内容信息方面的有效性,基于图卷积的几种最新方法在一些真实属性网络上取得了很好的聚类性能。然而,对于图卷积如何影响聚类性能以及如何正确使用它来优化不同图的性能的理解有限。现有的方法基本上使用固定和低阶的图卷积,其仅考虑每个节点的几跳内的邻居,这未充分利用节点关系并且忽略了图的多样性。在本文中,我们提出了一种自适应图卷积方法的属性图聚类,利用高阶图卷积捕捉全局聚类结构,并自适应地选择适当的顺序为不同的图形。通过理论分析和在基准数据集上的大量实验,我们建立了我们的方法的有效性。实证结果表明,我们的方法与最先进的方法相比毫不逊色。
2019-06-04 cs.AI cs.LG stat.ML
Consistent and Complementary Graph Regularized Multi-view Subspace Clustering
Xi’an Jiaotong University(西安交通大学);Shanghai University(上海大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
研究了多视图聚类问题,多个视图包含一致的信息,每个视图也包含互补的信息。探索所有信息对于良好的多视图聚类至关重要。然而,大多数传统的方法盲目或粗糙地结合多个视图进行聚类,无法充分利用有价值的信息。因此,我们提出了一种方法,涉及一致和互补图正则化多视图子空间聚类(GRMSC),它同时集成了一个一致的图正则化与互补图正则化的目标函数。特别地,一致图正则化器学习由所有视图共享的数据点的内在亲和关系。互补图正则化器研究多个视图的特定信息。值得注意的是,一致的和互补的正则化公式由两个不同的图构造从多个视图的一阶接近和二阶接近,分别。采用增广拉格朗日乘子法优化目标函数,实现多视图聚类。在六个基准数据集上的实验验证了该方法的有效性。
2020-04-07 cs.LG stat.ML
Invariance of Clustering Operations in Causal Effect Identification
University of Jyvaskyla(于韦斯屈莱大学)
本文研究因果图中聚类操作对因果效应识别的影响,提出基于c-分量的条件,定义并刻画了一类识别不变的聚类操作,并展示了其实际应用。
2026-10-05 cs.LG stat.ML
Affinity Graph Connectivity in Convex Clustering
Department of Statistical Science, Duke University(杜克大学统计科学系);Department of Biostatistics, University of California Los Angeles(加州大学洛杉矶分校生物统计学系)
研究凸聚类中亲和权重对应一般连通图时的有限样本界,通过随机游走理论分析聚类性能与图结构连通性的关系,并提出超参数调优应包括亲和权重的调整。
2026-05-23 cs.LG stat.ML
Embedding Graph Auto-Encoder for Graph Clustering
Northwestern Polytechnical University(西北工业大学)
图聚类是近年来的一个研究热点,其目的是通过无监督的方法将图中的节点划分为不同的组。为了提高聚类的代表性,提出了几种基于半监督图卷积网络(GCN)的图自动编码器(GAE)模型,并与传统聚类方法进行了比较,取得了良好的效果。然而,现有的方法要么未能利用GAE产生的表示的正交性,或分离的聚类和神经网络的学习。我们首先证明了放松的k-均值将在内积空间中获得最优划分。在对松弛k-均值算法理论分析的基础上,设计了一种基于遗传算法的图聚类模型,即嵌入图自动编码器(EGAE)。同时,学习到的表示是很好的解释,这样的表示也可以用于其他任务。为了进一步诱导神经网络产生适合于特定聚类模型的深度特征,同时学习松弛k均值和GAE。因此,放松的k均值可以等效地被视为试图学习可以由一些质心向量线性构造的表示的解码器。因此,EGAE由一个编码器和双解码器组成。通过大量的实验证明了EGAE的优越性,并进行了相应的理论分析。
2021-03-13 cs.LG stat.ML
Graph-based data clustering via multiscale community detection
Department of Mathematics, Imperial College London(伦敦帝国学院数学系);EPSRC Centre for Mathematics of Precision Healthcare, Imperial College London(伦敦帝国学院EPSRC精准医疗数学中心)
我们提出了一个图形理论的方法来进行数据聚类,它结合了创建一个图的数据与马尔可夫稳定性,多尺度社区发现框架。我们展示了该方法的多尺度能力如何允许估计聚类的数量,以及减轻对图构造中的参数的敏感性。我们使用合成和基准的真实数据集比较和评估几个图的构建方法和聚类算法,并表明,多尺度基于图的聚类实现了更好的性能相比,流行的聚类方法,而不需要设置外部的集群的数量。
2020-01-13 cs.IR cs.LG physics.data-an
Comparing Graph Clusterings: Set partition measures vs. Graph-aware measures
The Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
在本文中,我们提出了一个家庭的图分区的相似性措施,考虑到图的拓扑结构。这些图形感知度量是使用不是专门为图形分区设计的集合分区相似性度量的替代方案。这两种类型的措施,图形感知和设置分区措施,示出具有相反的行为,相对于解决问题,并提供必要的补充信息,以评估两个图形分区是相似的。
2018-09-18 cs.LG stat.ML
Fast Approximate Spectral Clustering for Dynamic Networks
谱聚类是一个被广泛研究的问题,但它的复杂性是令人望而却步的动态图,甚至适度的大小。我们声称,它是可能的重用信息,过去的集群分配,以加快计算。我们的方法建立在最近的想法,回避谱聚类的主要瓶颈,即,利用随机信号的快速Chebyshev图滤波计算图特征向量。我们表明,该算法实现聚类分配的质量近似的谱聚类,它可以产生显着的复杂性的好处时,图的动态是适当的有界。
2017-06-12 math.SP stat.ML
AMOS: An Automated Model Order Selection Algorithm for Spectral Graph Clustering
University of Michigan(密歇根大学)
谱图聚类(SGC)中的一个长期存在的问题是所谓的模型阶数选择问题:自动选择正确数量的聚类。这相当于在无向图中找到连通组件或社区的数量的问题。在本文中,我们提出了AMOS,自动模型阶选择算法的SGC。基于最近对随机互连模型下的SGC聚类可靠性的分析,AMOS通过逐步增加聚类的数量,估计所识别的聚类的质量,并提供一系列聚类可靠性测试来工作。因此,AMOS输出具有统计聚类可靠性保证的最小模型阶数的聚类。与其他三种真实数据集上的自动图聚类方法相比,AMOS在多个外部和内部聚类指标方面表现出优越的性能。
2016-09-21 cs.LG cs.SI stat.ML
Generalized Dirichlet Energy and Graph Laplacians for Clustering Directed and Undirected Graphs
ENS Paris-Saclay, Université Paris-Saclay, CNRS, Centre Borelli(ENS巴黎萨克雷,巴黎萨克雷大学,CNRS,Borelli中心)
针对有向图聚类中边不对称导致经典谱方法失效的问题,提出广义狄利克雷能量(GDE)框架与广义谱聚类(GSC)方法,利用参数化顶点测度编码方向与密度,无需传送即可实现弱连通有向图聚类,在真实数据集上准确率与鲁棒性均优于现有方法。
2025-09-14 cs.LG stat.ML
Consistency-aware and Inconsistency-aware Graph-based Multi-view Clustering
WASEDA University(早稻田大学)
由于多视图数据在机器学习应用中经常遇到,因此多视图数据分析越来越受欢迎。多视图聚类(MVC)是一种简单但有前途的多视图数据聚类方法,它已经得到了广泛的发展,通过学习跨多视图数据共享的潜在共同特征,将给定的主题分类到一些聚类组中。在现有的方法中,基于图的多视图聚类(GMVC)通过利用称为统一矩阵的共享图矩阵来实现最先进的性能。然而,现有的方法,包括GMVC不显式地解决输入图矩阵的不一致的部分。因此,它们受到不可接受的聚类性能的不利影响。为此,本文提出了一种新的GMVC方法,它包含了跨多个视图的一致和不一致的部分。该提案被指定为CI-GMVC。真实世界数据集的数值评估证明了所提出的CI-GMVC的有效性。
2020-11-25 cs.LG stat.ML
Graph Clustering with Graph Neural Networks
Google Research(谷歌研究院);Technical University of Dortmund(多特蒙德工业大学)
本文针对GNN池化方法在图聚类中表现不佳的问题,提出受模块化度量启发的无监督池化方法DMoN,在真实数据上实现了超过其他方法40%的聚类性能提升。
2023-06-01 cs.LG cs.SI stat.ML
Higher-Order Spectral Clustering for Geometric Graphs
Inria Sophia Antipolis(法国国家信息与自动化研究所索菲亚·安蒂波利斯分部)
本文主要研究几何图的聚类问题。虽然标准的谱聚类往往是无效的几何图形,我们提出了一个有效的推广,我们称之为高阶谱聚类。它在概念上类似于经典的谱聚类方法,但用于划分与高阶特征值相关联的特征向量。我们建立了一个广泛的一类几何图,我们称之为软几何块模型的算法的弱一致性。算法的小调整提供了强一致性。我们还表明,我们的方法是有效的数值实验,即使是适度的大小的图形。
2021-03-15 cs.LG cs.SI math.PR
Topological graph clustering with thin position
Oklahoma State University(俄克拉荷马州立大学)
聚类算法将一组数据点划分为更小的集合(聚类),使得每个子集比整体更紧密地打包。许多聚类方法将向量数据转换为具有反映点上的距离或相似性度量的边的图,然后寻找高度连通的子图。我们引入这样一个算法的基础上借用的思想,从拓扑概念的薄的位置为节点和三维流形。
2012-06-04 cs.LG math.GT stat.ML
Non-linear Attributed Graph Clustering by Symmetric NMF with PU Learning
Osaka University(大阪大学);NTT Communication Science Laboratories(NTT通信科学实验室)
针对属性图聚类,提出基于对称非负矩阵分解与正无标记学习的非线性方法,捕捉拓扑与属性复杂关系,利用部分正边信息,计算高效,实验验证优于现有方法。
2018-09-21 cs.LG stat.ML
Ensemble Clustering for Graphs: Comparisons and Applications
Tutte Institute for Mathematics and Computing(塔特数学与计算研究所)
最近,我们提出了一个新的集成聚类算法的基础上的一致性聚类的概念图(ECG)。我们验证了我们的方法,通过复制一项研究比较图聚类算法在基准图,显示心电图优于领先的算法。在本文中,我们通过考虑更广泛的基准参数来扩展我们的比较,生成具有不同属性的图。我们提供了新的实验结果表明,心电图算法解决了众所周知的分辨率限制问题,它导致更好的稳定性的分区。我们还说明了如何与ECG获得的合奏可以用来量化社区结构的存在图中,并放大与种子顶点最密切相关的子图。最后,我们说明了进一步的应用心电图通过比较它与以前的结果加权图上的社区发现,社区感知异常检测。
2019-03-19 cs.LG cs.SI stat.ML
Graph Max Shift: A Hill-Climbing Method for Graph Clustering
Department of Mathematics, University of California, San Diego(加州大学圣地亚哥分校数学系);Halıcıoğlu Data Science Institute, University of California, San Diego(加州大学圣地亚哥分校Halıcıoğlu数据科学研究所);Department of Statistics, George Mason University(乔治·梅森大学统计系)
本文提出了一种基于图最大位移的图聚类方法,通过迭代移动节点到度数最高的邻近节点,实现了对随机几何图的渐近一致性聚类。
2026-02-01 cs.LG stat.ML
Graph Connectivity in Noisy Sparse Subspace Clustering
Carnegie Mellon University(卡内基梅隆大学)
子空间聚类是将数据点聚类到低维线性/仿射子空间的并集中的问题。它是计算机视觉、图像处理和机器学习中许多重要问题的数学抽象。最近的一系列工作(4,19,24,20)为稀疏子空间聚类(4)提供了强有力的理论保证,稀疏子空间聚类是子空间聚类的最新算法,适用于无噪声和噪声数据集。它表明,在温和的条件下,以高概率没有两个点从不同的子空间聚集在一起。然而,由于臭名昭著的“图连通性问题”(15),这种保证不足以使聚类正确。在本文中,我们调查的图形连接性问题的噪声稀疏子空间聚类,并表明,一个简单的后处理过程是能够提供一致的聚类在一定的“一般位置”或“限制特征值”的假设。我们还表明,我们的条件几乎是紧对抗噪声扰动通过构建一个反例。这些结果提供了第一个确切的聚类保证嘈杂SSC的子空间的尺寸大于3。
2016-04-11 cs.LG stat.ML
Multi-graph Fusion for Multi-view Spectral Clustering
University of Electronic Science and Technology of China(电子科技大学);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所)
针对多视图数据的特点,提出了一系列的多视图聚类算法。其中,基于光谱聚类的方法近年来受到了广泛的关注,并取得了可喜的成果。尽管取得了进展,但迄今仍有两个基本问题没有得到回答。首先,如何将不同的视图融合到一个图中。通常情况下,样本之间的相似性可能会通过不同的视图以不同的方式表现出来。许多现有的算法要么简单地取多个视图的平均值,要么只学习一个公共图。这些简单的方法未能考虑所有视图的灵活的局部流形结构。因此,丰富的异构信息没有得到充分利用。第二,如何学习显式聚类结构。现有的谱聚类方法大多不考虑图的质量,将图学习和谱聚类分开进行。这些不可靠的图可能导致次优的聚类结果。为了填补这些空白,在本文中,我们提出了一种新的多视图谱聚类模型,同时进行图融合和谱聚类。融合图近似每个单独视图的原始图,但保持显式的聚类结构。四个广泛使用的数据集上的实验证实了所提出的方法的优越性。
2019-09-16 cs.CV cs.LG stat.ML
Graph Degree Linkage: Agglomerative Clustering on a Directed Graph
The Chinese University of Hong Kong(香港中文大学);Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
本文提出了一种简单而有效的基于图的聚类算法,用于聚类高维数据。我们探讨了图论中的两个基本概念,入度和出度,在集群的背景下,不同的角色。平均入度反映了样本附近的密度,平均出度表征了样本周围的局部几何形状。在此基础上,通过平均入度与平均出度的乘积定义了聚类的亲和度。基于乘积的亲和度使我们的算法对噪声具有鲁棒性。该算法具有性能好、易于实现和计算效率高等优点。我们测试两个基本的计算机视觉问题的算法:图像聚类和对象匹配。大量的实验表明,它优于国家的最先进的应用程序。
2012-08-25 cs.CV cs.SI stat.ML
Discrete Optimal Graph Clustering
Shandong Normal University(山东师范大学);Qilu University of Technology (Shandong Academy of Sciences)(齐鲁工业大学(山东省科学院));Shandong Computer Science Center (National Supercomputer Center in Jinan)(山东计算机科学中心(国家超级计算济南中心));Shandong Artificial Intelligence Institute(山东人工智能研究院);University of Electronic Science and Technology of China(电子科技大学);San Diego State University(圣地亚哥州立大学)
基于图的聚类是聚类的主要方法之一。大部分工作在三个独立的步骤:相似性图的构建,聚类标签松弛和标签离散化与k-means。这种常见的做法有三个缺点:1)预定义的相似性图通常是固定的,并且对于后续聚类可能不是最佳的。2)聚类标记的松弛过程可能导致显著的信息丢失。3)标签离散化可能偏离真实的聚类结果,因为k均值对聚类质心的初始化敏感。为了解决这些问题,在本文中,我们提出了一个有效的离散最优图聚类(DOGC)框架。一个结构化的相似性图,理论上是最佳的聚类性能自适应学习的指导下,合理的排名约束。此外,为了避免信息丢失,我们显式地对中间连续标签进行离散变换,从而导出具有离散解的易处理的优化问题。此外,为了补偿学习标签的不可靠性并提高聚类精度,我们设计了一个自适应鲁棒模块,该模块基于学习的离散聚类标签学习未知数据的预测函数。最后,一个迭代优化策略的收敛性保证发展直接解决聚类结果。在真实和合成数据集上进行的大量实验表明,与几种最先进的聚类方法相比,我们提出的方法具有优越性。
2019-04-25 cs.IR cs.LG stat.ML
KCoreMotif: An Efficient Graph Clustering Algorithm for Large Networks by Exploiting k-core Decomposition and Motifs
China University of Geosciences (Beijing)(中国地质大学(北京));University of Naples Federico II(那不勒斯费德里科二世大学)
聚类分析在无线传感器网络、在线社交网络等复杂网络的信任评估中得到了广泛的应用。谱聚类是图结构数据(网络)最常用的算法之一。然而,传统的谱聚类本质上是难以与大规模的网络,由于它需要计算昂贵的矩阵操作的事实。为了处理大型网络,在本文中,我们提出了一个有效的图聚类算法,KCoreMotif,专门针对大型网络,利用k-核心分解和图案。所提出的聚类算法背后的基本思想是在k-核心子图上执行高效的基于模体的谱聚类算法,而不是在整个图上。更具体地说,(1)我们首先对大输入网络进行k-核心分解;(2)然后对顶部k-核心子图进行基于模体的谱聚类;(3)将其余(k-1)-核心子图中的剩余顶点分组到先前找到的聚类中;最后获得大输入网络的期望聚类。为了评估所提出的图聚类算法KCoreMotif的性能,我们使用传统的和基于模体的谱聚类算法作为基线,并比较我们的算法与他们的18组真实世界的数据集。比较结果表明,该算法对大型网络具有较高的准确性和有效性,可进一步用于评估大型网络的簇内和簇间信任度。
2020-08-21 cs.LG cs.SI stat.ML
Community Detection Clustering via Gumbel Softmax
University of Alabama in Huntsville(阿拉巴马大学亨茨维尔分校)
近来,在诸如语音识别和视觉处理的许多系统中,深度学习已被广泛实施。在这项研究中,我们正在探索在图数据集中使用深度学习进行社区发现的可能性。图在不同的领域获得了越来越多的关注,包括社交网络、信息图、推荐系统以及生命科学。本文提出了一种对各种图数据集的节点进行聚类的社区发现方法。我们聚类属于隶属网络,动物网络,人类接触网络,人类社交网络,杂项网络的不同类别的数据集。深度学习在对网络中节点之间的交互进行建模方面的作用使得与图网络分析相关的科学领域发生了革命。在本文中,我们将gumbel softmax方法扩展到图网络聚类。在特定图数据集上的实验结果表明,新方法的性能明显优于传统聚类,这有力地证明了深度学习在图社区发现聚类中的有效性。我们做了一系列的实验,我们的图聚类算法,使用各种数据集:扎卡里空手道俱乐部,高地部落,训练轰炸,美国革命,海豚,斑马,帆板,悲惨世界,政治书籍。
2020-05-12 cs.LG cs.SI stat.ML
Graph Approximation and Clustering on a Budget
Weizmann Institute of Science(魏茨曼科学研究所)
我们考虑从相似性矩阵(如谱聚类和低维嵌入)学习的问题,当计算成对相似性是昂贵的,只有有限数量的条目可以观察到。我们提供了一个理论分析,使用标准的概念图近似,显着推广以前的结果(集中在两个集群的谱聚类)。我们还提出了一种基于自适应采样的新算法方法,该方法在实验上与之前的方法相匹配或改进,同时更加通用且计算成本更低。
2014-06-10 cs.AI cs.CV cs.LG
Consistency of Constrained Spectral Clustering under Graph Induced Fair Planted Partitions
IBM Research(IBM研究院);Indian Institute of Science(印度科学学院)
谱聚类在实践者和理论家中都很受欢迎。虽然谱聚类的性能保证是很好理解的,但最近的研究集中在集群中执行“公平性”,要求它们相对于分类敏感节点属性(例如,集群中的种族分布必须匹配种群中的种族分布)进行“平衡”。在本文中,我们考虑一个设置敏感属性间接体现在一个辅助\textit{representation graph},而不是直接观察。该图指定可以相对于敏感属性彼此表示的节点对,并且除了通常的\textit{similarity graph}之外还观察到该节点对。我们的目标是在相似性图中找到聚类,同时尊重由表示图编码的新的个人级公平性约束。我们为此任务开发了非规范化和规范化谱聚类的变体,并在由表示图诱导的\emph{fair}种植分区模型下分析了它们的性能。该模型使用节点的簇成员关系和表示图的结构来生成随机相似图。据我们所知,这些是第一个一致性结果约束谱聚类下的个人水平的公平性约束。数值结果证实了我们的理论研究结果。
2022-09-24 cs.CY cs.LG stat.ML
An application of topological graph clustering to protein function prediction
我们使用一个半监督的学习算法的基础上的拓扑数据分析方法来分配功能类别的酵母蛋白质使用相似性图。这种分析生物网络的新方法产生的结果与现有技术方法一样好或更好。
2014-08-24 cs.CE cs.LG q-bio.QM
Clustering with Similarity Preserving
University of Electronic Science and Technology of China(电子科技大学);University of Pennsylvania(宾夕法尼亚大学);Institute for Infocomm Research, A*Star(新加坡科技研究局资讯通信研究院)
基于图的聚类在许多任务中表现出良好的性能。基于图的方法的一个关键步骤是相似图的构造。一般来说,核空间中的学习图由于引入了非线性,可以提高聚类精度。然而,大多数现有的基于核的图学习机制不是相似性保持的,因此导致次优性能。为了克服这个缺点,我们提出了一个更具鉴别力的图学习方法,它可以保持样本之间的成对相似性,在自适应的方式为第一次。具体来说,我们要求学习的图接近核矩阵,这是原始数据相似性的度量。此外,该结构是自适应调整,使图的连接组件的数量是完全等于集群的数量。最后,我们的方法结合聚类和图学习,可以直接从图本身获得聚类指标,而无需执行进一步的聚类步骤。在几个数据集上的单个和多个内核学习场景中检查了这种方法的有效性。
2019-05-21 cs.AI cs.CV cs.LG
Incorporating User's Preference into Attributed Graph Clustering
University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校);Ludwig-Maximilians-Universität München(路德维希-马克西米利安慕尼黑大学);University of Vienna(维也纳大学)
图聚类在普通图和属性图上都得到了广泛的研究。然而,所有这些方法都需要对整个图进行划分以找到簇结构。有时,基于领域知识,人们可能有关于图中特定目标区域的信息,并且只想找到集中在该局部区域上的单个聚类。这样的任务称为局部聚类。与全局聚类相比,局部聚类的目标是只找到一个集中在给定种子顶点(以及属性图的指定属性)上的聚类。目前,很少有方法可以处理这种任务。为此,我们提出了两种局部聚类的质量度量:图单峰性(GU)和属性单峰性(AU)。前者度量图结构的同质性,而后者度量由指定属性组成的子空间的同质性。我们称它们的线性组合为紧性。此外,我们建议LOCLU优化紧凑性得分。LOCLU检测到的局部聚类集中在感兴趣的区域,在图中提供有效的信息流,并在指定属性的子空间中表现出单峰数据分布。
2020-03-24 cs.HC cs.LG cs.SI
A Semidefinite Relaxation Approach for Fair Graph Clustering
eBay;University of Southern California(南加州大学)
本文针对公平图聚类问题,在差别影响原则下建立联合优化模型,提出基于半定松弛的求解方法,并结合奇异值分解与交替方向乘子法处理不同规模图,实验证明其能实现更优的准确率-公平性权衡。
2024-10-19 cs.CY cs.LG cs.SI
Spectral Clustering for Directed Graphs via Likelihood Estimation on Stochastic Block Models
University of Oxford(牛津大学);The Alan Turing Institute(阿兰·图灵研究所);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
本文针对有向图聚类问题,基于有向随机块模型的最大似然估计推导全局目标函数,并提出一种自适应谱聚类方法,在合成与真实数据上显著优于现有基线。
2025-06-03 cs.LG cs.SI math.ST
Certifying Global Optimality of Graph Cuts via Semidefinite Relaxation: A Performance Guarantee for Spectral Clustering
Courant Institute of Mathematical Sciences, New York University(纽约大学库朗数学科学研究所);University of California at Davis(加州大学戴维斯分校)
谱聚类已经成为一种最广泛使用的聚类技术,当单个聚类的结构是非凸的或高度各向异性的。然而,尽管它的巨大的普及,存在相当少的理论性能保证谱聚类。这个问题部分是由于谱聚类通常涉及两个步骤,这使得其理论分析变得复杂:首先,使用关联图Laplacian的特征向量来嵌入数据集,其次,将k-means聚类算法应用于嵌入的数据集以获得标签。本文介绍了谱聚类和图割的理论基础。我们考虑一个凸松弛的图割,即比率割和归一化割,这使得通常的两步谱聚类方法过时,并在同一时间产生了严格的理论分析图割和谱聚类。我们通过一个谱邻近条件,自然地依赖于每个集群的代数连接和集群间的连接,成功的谱聚类的确定性界限。此外,我们通过一些流行的例子证明,我们的界限可以达到近最优。我们的研究结果也是核k-means的理论理解的基础。数值模拟证实并补充了我们的分析。
2019-04-14 cs.IT cs.LG math.IT