Multi-view Clustering via Unified Multi-kernel Learning and Matrix Factorization
School of Mathematics, Hunan University(湖南大学数学学院);Shenzhen Research Institute, Hunan University(湖南大学深圳研究院);Malaysia-Japan International Institute of Technology (MJIIT), Universiti Teknologi, Malaysia(马来西亚理工大学马来西亚-日本国际理工学院);College of Science, Princess Nourah bint Abdulrahman University (PNU)(公主诺拉·宾特·阿卜杜勒拉赫曼大学理学院);Regional Research Center, Iwate Prefectural University(岩手县立大学区域研究中心)
针对现有多核聚类计算复杂度高、基于矩阵分解的多视图聚类单视图约束限制学习的问题,提出融合多核学习与矩阵分解的多视图聚类方法,通过对共识矩阵施加正交约束、避免最优核学习降低复杂度,搭配三步优化算法,经真实数据集验证有效。
2024-12-12 cs.LG
A Novel Approach for Effective Multi-View Clustering with Information-Theoretic Perspective
University of Electronic Science and Technology of China(电子科技大学);Shenzhen Institute for Advanced Study(深圳高等研究院);Lehigh University(理海大学)
针对多视图聚类中的跨视图冗余问题,提出信息论框架 SUMVC,通过 SCMVC 提取一致信息并以充分表示下界抑制冗余,理论与多数据集实验验证了其优越性能。
2023-09-25 cs.LG
Multi-View Clustering via Semi-non-negative Tensor Factorization
Xidian University(西安电子科技大学);Chongqing University of Posts and Telecommunications(重庆邮电大学)
基于非负矩阵分解(NMF)及其变体的多视图聚类(MVC)由于其在聚类可解释性方面的优势,近年来受到了广泛关注。然而,现有的基于NMF的多视图聚类方法分别对每个视图数据进行NMF,忽略了视图间的影响。因此,它们不能很好地利用视内空间结构和视间互补信息。为了解决这个问题,我们提出了半非负张量因子分解(Semi-NTF),并开发了一种新的多视图聚类的基础上半-NTF与单边正交约束。我们的模型直接在由视图的锚图组成的三阶张量上执行Semi-NTF。因此,我们的模型直接考虑视图之间的关系。此外,我们使用张量Schatten p-范数正则化作为三阶张量的秩近似,该三阶张量表征多视图数据的聚类结构,并利用视图间的互补信息。此外,我们提供了一个优化算法,所提出的方法和数学证明,该算法总是收敛到平稳KKT点。在各种基准数据集上的实验表明,我们提出的方法能够获得令人满意的聚类性能。
2023-03-29 cs.LG
Adversarial Fair Multi-View Clustering
School of Software, Dalian University of Technology(大连理工大学软件学院)
针对多视图聚类忽视公平性的问题,提出对抗性公平多视图聚类框架,通过对抗训练移除敏感信息并理论保证公平性,实验证明公平性与聚类性能俱佳。
2025-08-06 cs.LG
Interpretable Multi-View Clustering
School of Software, Dalian University of Technology(大连理工大学软件学院);Key Laboratory for Ubiquitous Network and Service Software of Liaoning Province(辽宁省泛在网络与服务软件重点实验室)
本文首次提出可解释多视图聚类框架,通过提取各视图嵌入特征、生成伪标签构建决策树,并迭代优化特征表示与决策树,在保证聚类性能的同时提供透明的决策过程。
2024-05-04 cs.LG
Multi-Source Multi-View Clustering via Discrepancy Penalty
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Shenzhen University(深圳大学)
随着技术的进步,可以在多个视图中观察实体。包含不同类型特征的多个视图可用于聚类。虽然多视图聚类已经在很多应用中得到了成功的应用,但以往的方法通常假设不同视图之间的实例映射是完整的。在许多现实世界的应用程序中,信息可以从多个来源收集,而每个来源可以包含多个视图,这对于学习来说更有凝聚力。同一源下的视图通常是完全映射的,但它们可能非常异构。此外,不同来源之间的映射通常是不完整的,部分观察,这使得它更难以整合所有的意见,跨不同的来源。在本文中,我们提出了MMC(多源多视图聚类),这是一个框架的基础上集体谱聚类与差异惩罚跨源,以应对这些挑战。MMC与其他现有方法相比具有若干优点。首先,MMC可以处理源之间的不完全映射。其次,它考虑了源之间的分歧,同时将同一源中的视图视为一个内聚集。第三,MMC还尝试推断源之间的实例相似性,以提高聚类性能。在真实数据上进行的大量实验证明了该方法的有效性。
2016-04-19 cs.LG
Tensor-based Intrinsic Subspace Representation Learning for Multi-view Clustering
Xi’an Jiaotong University(西安交通大学)
多视图聚类作为一个热点研究课题,在过去的几年中,提出了许多方法。然而,大多数现有的算法仅仅考虑不同视图之间的一致性信息进行聚类。在实际应用中,由于不同的视图通常包含不同的统计特性,这可能会影响多视图聚类的性能。为了解决这个问题,本文提出了一种新的基于张量的内在子空间表示学习(TISRL)的多视图聚类。具体地说,首先提出了保秩分解,有效地处理不同视图中包含的不同统计信息。然后,为了实现内在子空间表示,张量奇异值分解的基础上低秩张量约束也被利用在我们的方法。可以看出,保秩分解充分挖掘了不同视图中包含的特定信息,低秩张量约束挖掘了多视图数据的高阶相关性。目标函数可以通过基于增广拉格朗日乘子的交替方向最小化算法来优化。在9个常用的真实世界多视图数据集上的实验结果表明了TISRL的优越性。
2022-11-08 cs.LG
Error-Robust Multi-View Clustering
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
在大数据时代,数据可能来自多个来源,称为多视图数据。多视图聚类的目的是通过利用来自多个视图的互补和一致的信息而不是依赖于单个视图来生成更好的聚类。由于由数据捕获传感器或其他传感器引起的不可避免的系统误差,每个视图中的数据可能是错误的。各种类型的错误在每个视图中表现不同且不一致。更准确地说,错误可能表现为现实中的噪音和腐败。不幸的是,现有的多视图聚类方法都不能处理所有这些错误类型。因此,它们的聚类性能显著降低。在本文中,我们提出了一种新的马尔可夫链方法的错误鲁棒多视图聚类(EMVC)。通过将每个视图分解为共享的转移概率矩阵和误差矩阵,并在误差矩阵上施加结构化的稀疏诱导范数,我们明确地描述和处理典型类型的误差。为了解决这一具有挑战性的优化问题,我们提出了一种新的有效算法的基础上增广拉格朗日乘子,并证明了其收敛性严格。在各种合成数据集和真实数据集上的实验结果表明,所提出的EMVC方法优于基线方法及其对不同类型错误的鲁棒性。
2018-01-01 cs.LG
Enhanced Federated Deep Multi-View Clustering under Uncertainty Scenario
本文提出EFDMVC框架,通过语义对齐、视图自适应漂移和平衡聚合机制,解决联邦多视图聚类中的视图不确定性和聚合不确定性问题,实验验证其在异构不确定视图下的鲁棒性。
2025-11-19 cs.LG
Multi-view clustering integrating anchor attribute and structural information
Ministry of Education (MOE) Funded Key Lab of Scientific and Engineering Computing(教育部科学与工程计算重点实验室);Shanghai Center for Applied Mathematics(上海应用数学中心)
针对传统多视图聚类仅依赖样本属性构建相似矩阵、忽略现实网络有向拓扑结构的问题,提出融合锚点属性与有向结构信息的AAS算法,采用两步邻近度方法并整合为统一优化框架,实验验证其有效性与优越性。
2024-10-29 cs.LG
SLRL: Structured Latent Representation Learning for Multi-view Clustering
Tongji University(同济大学);Tianjin University(天津大学)
针对现有多视图聚类方法常忽略样本结构信息的问题,提出SLRL框架,通过学习公共潜在表示并构建k近邻图挖掘结构信息,在多个多视图数据集上取得了优于现有方法的聚类性能。
2024-07-11 cs.LG
MCoCo: Multi-level Consistency Collaborative Multi-view Clustering
Xi’an Jiaotong University(西安交通大学);Fuzhou University(福州大学)
针对多视图聚类在语义空间一致性探索不足的问题,提出多层级一致性协同学习框架MCoCo,通过对比学习对齐语义标签并以其作为自监督信号协同特征空间的聚类分配,无需融合即可充分挖掘视图一致性,实验证明其有效且优越。
2023-05-17 cs.LG
Double Graphs Regularized Multi-view Subspace Clustering
College of Informatics, Huazhong Agricultural University(华中农业大学信息学院)
近年来,多视点子空间聚类技术引起了学术界的广泛关注。在本文中,我们提出了一种新的双图正则化多视图子空间聚类(DGRMSC)方法,其目的是利用全局和局部结构信息的多视图数据在一个统一的框架。具体来说,DGRMSC首先学习一个潜在的表示,以利用全局互补信息的多个视图。基于学习到的潜在表征,我们学习一个自我表征来探索它的全局聚类结构。此外,双重图正则化(DGR)执行的潜在表示和自我表示,同时利用他们的局部流形结构。然后,我们设计了一个迭代算法来有效地解决优化问题。在真实数据集上的实验结果表明了该方法的有效性。
2022-09-30 cs.LG
Scalable Multi-view Clustering via Explicit Kernel Features Maps
CDC Informatique(信息科技公司)
本文提出一种可扩展的多视图聚类方法,通过显式核特征映射和非迭代优化策略,提升大规模数据集的聚类效率和准确性。
2026-01-22 cs.LG
Enhanced Latent Multi-view Subspace Clustering
Southwestern University of Finance and Economics(西南财经大学)
针对原始潜在多视图子空间聚类信息恢复不完整的问题,提出ELMSC方法,通过构建块对角增强数据矩阵并施加稀疏正则化,结合ADMM算法求解,有效提升了多视图聚类性能。
2024-08-27 cs.LG
Deep Clustering: A Comprehensive Survey
University of Electronic Science and Technology of China(电子科技大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Lehigh University(理海大学)
聚类分析在机器学习和数据采掘中起着不可或缺的作用。学习一个好的数据表示是聚类算法的关键。最近,可以使用深度神经网络学习聚类友好表示的深度聚类已经广泛应用于各种聚类任务中。现有的深度聚类研究主要集中在单视图领域和网络架构上,忽略了聚类的复杂应用场景。为了解决这个问题,在本文中,我们提供了一个全面的调查数据源的视图中的深度聚类。对于不同的数据源和初始条件,我们系统地区分聚类方法的方法,先验知识和架构。具体地,根据四个类别介绍了深度聚类方法,即,传统的单视图深度聚类、半监督深度聚类、深度多视图聚类和深度转移聚类。最后,我们讨论了开放的挑战和潜在的未来机会,在不同领域的深度集群。
2022-10-09 cs.LG
Multi-View Clustering from the Perspective of Mutual Information
本文提出信息型多视图聚类IMVC,通过最小化公共与视图特有表示间互信息、最大化重建互信息及实例与k近邻互信息,构建面向聚类的综合表示,并在六个基准数据集上取得优于现有方法的效果。
2023-05-30 cs.LG
One for all: A novel Dual-space Co-training baseline for Large-scale Multi-View Clustering
Beijing Jiaotong University(北京交通大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
本研究提出DSCMC双空间协同训练大规模多视图聚类模型,联合优化原始空间潜在一致锚点图构建与共享潜在空间特征变换,结合逐元素方法降低视图差异影响,以近似线性复杂度实现更优的大规模多视图聚类性能。
2024-01-28 cs.LG
Incomplete Multi-view Clustering via Prototype-based Imputation
Sichuan University(四川大学)
本文研究了如何通过不完全多视图聚类(IMvC)来实现两个高度期望的特性。即,i)实例通用性是指集群内的实例应该共享共同的模式,以及ii)视图通用性是指跨视图样本应该拥有视图特定的模式。为此,我们设计了一种新的双流模型,采用双注意层和双对比学习损失学习特定于视图的原型和模型的样本原型关系。当视图丢失时,我们的模型使用丢失视图中的原型和从观察视图继承的样本-原型关系来执行数据恢复。由于我们的双流模型,集群和视图特定的信息可以被捕获,因此实例的通用性和视图的通用性可以被保留,以促进IMvC。大量的实验表明,我们的方法的优越性,在6个具有挑战性的基准相比,11种方法。代码将被释放。
2023-01-30 cs.LG
An Improved Probability Propagation Algorithm for Density Peak Clustering Based on Natural Nearest Neighborhood
University of Science and Technology of China(中国科学技术大学)
通过快速搜索和找到密度峰值(DPC)进行聚类(Since,2014)已被证明是一种有前途的聚类方法,其通过找到密度峰值来有效地发现聚类中心。DPC的精度取决于截断距离($d_c$)、聚类数($k$)和聚类中心的选择。此外,最终的分配策略是敏感的,具有差的容错。上述缺点使得该算法对参数敏感,只适用于某些特定的数据集。针对DPC算法的局限性,提出了一种改进的基于自然最近邻的概率传播密度峰值聚类算法(DPC-PPNNN)。DPC-PPNNN通过引入自然最近邻和概率传播的思想,实现了非参数聚类过程,使算法适用于更复杂的数据集。在几个数据集上的实验中,DPC-PPNNN的性能优于DPC,K-means和DBSCAN。
2022-07-04 cs.LG
Fine-grained Graph Learning for Multi-view Subspace Clustering
Huazhong University of Science and Technology(华中科技大学);Dalian University of Technology(大连理工大学)
针对多视图子空间聚类中图学习与聚类脱节及粗粒度图融合忽视局部结构的问题,提出FGL-MSC框架,通过图正则化、局部结构融合和迭代联合优化实现细粒度图学习,并在八个数据集上验证性能。
2023-08-13 cs.LG
Deep Multi-View Subspace Clustering with Anchor Graph
University of Electronic Science and Technology of China(电子科技大学);Lehigh University(利哈伊大学)
提出基于锚图的深度多视图子空间聚类方法,通过锚图降低复杂度,利用伪标签优化嵌入,并结合对比学习增强聚类性能。
2023-05-11 cs.LG
Multi-view Clustering with Deep Matrix Factorization and Global Graph Refinement
多视图聚类是机器学习和数据采掘领域的一个重要而又具有挑战性的课题。矩阵分解是多视图聚类的一种流行策略,它可以在低维空间中探索有用的特征表示,从而减轻维数灾难。但现有工作存在两大缺陷:i)大多数矩阵分解方法仅限于阴影深度,导致无法充分发现原始数据丰富的隐藏信息。很少有深度矩阵分解方法为不同层的新表示的维度的选择提供基础。ii)现有的方法大多只关注视图共享信息,而忽略了不同视图中的特定局部特征。为了解决上述问题,本文提出了一种新的基于深度半NMF和全局图细化的多视图聚类方法(MVC-DMF-GGR)。首先,我们通过层次分解为每个视图捕获新的表示矩阵,然后通过近似从这些新表示重构的图的组合来学习公共图,以改进新的表示。一个交替的算法,证明收敛性,然后开发来解决优化问题,并在六个多视图基准测试的结果证明了我们所提出的算法的有效性和优越性。
2021-05-01 cs.LG
Subspace-Contrastive Multi-View Clustering
Sun Yat-sen University(中山大学);Macau University of Science and Technology(澳门科技大学)
大多数多视图聚类方法都受到浅层模型的限制,缺乏良好的非线性信息感知能力,或者无法有效地利用隐藏在不同视图中的互补信息。为了解决这些问题,我们提出了一种新的子空间对比多视图聚类(SCMC)方法。具体来说,SCMC利用特定于视图的自动编码器将原始多视图数据映射成感知其非线性结构的紧凑特征。考虑到不同模态数据之间存在较大的语义鸿沟,本文采用子空间学习方法将多视图数据统一到一个联合语义空间中,即将嵌入的紧凑特征通过多个自表达层分别学习子空间表示。为了提高区分度,有效挖掘各种子空间表示的互补性,在区分负对的同时,采用对比策略最大化正对之间的相似性。因此,加权融合方案的开发,最初学习一致的亲和矩阵。此外,我们采用图正则化来编码不同子空间内的局部几何结构,以进一步微调实例之间的适当亲和力。为了证明该模型的有效性,我们在8个挑战数据集上进行了大量的对比实验,实验结果表明SCMC优于现有的浅层和深层多视图聚类方法。
2022-10-13 cs.LG
Graph Clustering with Cross-View Feature Propagation
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院)
针对图聚类任务,提出结合多视图特征传播的GCCFP方法,通过含正则项的统一目标函数确定簇归属,经迭代优化且可有限步收敛,在真实图上性能优于现有方法。
2024-08-12 cs.LG
Joint Tensor and Inter-View Low-Rank Recovery for Incomplete Multiview Clustering
Northwestern Polytechnical University(西北工业大学);University of Toulouse(图卢兹大学);CNRS(法国国家科学研究中心)
针对不完整多视图聚类中仅利用低管秩信息而忽略视图间相关性的问题,提出联合张量与视图间低秩恢复方法,通过整合视图内和视图间低秩信息优化相似图张量,显著提升了聚类精度与鲁棒性。
2025-03-04 cs.LG
Variational Graph Generator for Multi-View Graph Clustering
University of Electronic Science and Technology of China(电子科技大学);Virginia Tech(弗吉尼亚理工大学);Shenzhen Institute for Advanced Study, University of Electronic Science and Technology of China(电子科技大学深圳高等研究院);Sichuan University(四川大学);Shantou University(汕头大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校);Lehigh University(理海大学)
针对多视图图聚类无法同时利用共识图信息与视图特有特征信息的问题,提出变分图生成器VGMGC,通过推断变分共识图并结合图编码器学习图嵌入,显著提升了聚类性能。
2024-12-23 cs.LG
Late Fusion Multi-view Clustering via Global and Local Alignment Maximization
National University of Defense Technology(国防科技大学)
多视图聚类(MVC)最佳地整合了来自不同视图的互补信息,以提高聚类性能。虽然在各种应用中表现出良好的性能,大多数现有的方法直接融合多个预先指定的相似性,学习一个最佳的相似性矩阵聚类,这可能会导致过于复杂的优化和密集的计算成本。在本文中,我们提出了后期融合MVC通过对齐最大化来解决这些问题。要做到这一点,我们首先揭示了现有的k-means聚类和基本分区之间的对齐和共识之间的理论联系。基于这一观察,我们提出了一个简单而有效的多视图算法LF-MVC-GAM。它最佳地融合多个源信息在分区级别从每个单独的视图,并最大限度地对齐共识分区与这些加权的基础。这种对齐有利于整合分区级别信息,并通过充分简化优化过程来显著降低计算复杂性。然后,我们设计了另一种变体,LF-MVC-LAM,通过保留多个分区空间之间的局部内在结构来进一步提高聚类性能。在此基础上,我们开发了两个三步迭代算法来解决由此产生的优化问题,理论上保证收敛。此外,我们提供的泛化误差界分析所提出的算法。在18个多视图基准数据集上进行的大量实验证明了所提出的LF-MVC-GAM和LF-MVC-LAM的有效性和效率,范围从小到大规模的数据项。所提出的算法的代码可在https://github.com/wangsiwei2010/latefusionalignment公开获得。
2022-08-02 cs.LG
Multi-View Multiple Clusterings using Deep Matrix Factorization
Southwest University(西南大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);George Mason University(乔治梅森大学)
多视图聚类的目的是整合来自多个异构视图的互补信息,以提高聚类结果。现有的多视图聚类解决方案只能输出单个聚类的数据。由于其多样性,多视图数据可以从不同的角度进行合理和有趣的不同分组。然而,如何从多视图数据中发现多个、有意义的、多样的聚类结果仍然是多视图聚类和多聚类中一个很少研究和具有挑战性的课题。在本文中,我们引入了一个基于深度矩阵分解的解决方案(DMClusts)来发现多个聚类。DMClusts逐步将多视图数据矩阵分解为逐层的表示子空间,并在每层中生成一个聚类。为了加强所生成的聚类之间的多样性,它最小化了一个新的冗余量化项,该量化项来自这些子空间中样本之间的接近度。我们进一步引入了一个迭代优化过程,同时寻求多个聚类的质量和多样性。在基准数据集上的实验结果证实,DMClusts优于最先进的多个聚类解决方案。
2019-11-26 cs.LG stat.ML
Global Graph Propagation with Hierarchical Information Transfer for Incomplete Contrastive Multi-view Clustering
Harbin Institute of Technology, Weihai(哈尔滨工业大学(威海));Ningbo University(宁波大学);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
提出一种不完整多视图聚类方法,通过视图特定GCN、全局图传播和层级信息传递,结合对比学习实现端到端联合优化,提升聚类性能。
2025-02-26 cs.LG
Effective and Efficient Graph Learning for Multi-view Clustering
Xidian University(西安电子科技大学);Shenzhen Institute of Information Technology(深圳信息职业技术学院);Chongqing University of Posts and Telecommunications(重庆邮电大学);University of Sydney(悉尼大学)
针对现有基于图的多视图聚类方法在时间开销、后处理及秩近似方面的不足,提出一种基于二部图和张量Schatten p-范数的图学习模型,实现高效且直接聚类,实验优于现有方法。
2022-01-15 cs.LG
Multi-view Information-theoretic Co-clustering for Co-occurrence Data
Jiangnan University(江南大学);Hong Kong Polytechnic University(香港理工大学);University of Technology Sydney(悉尼科技大学)
多视图聚类是近年来研究的热点。现有的多视图聚类方法大多只关注单视图聚类。由于同现数据元素涉及样本-特征同现的计数,因此同时沿着样本和特征进行双侧聚类更有效。为了充分利用多视图聚类中场景中同现点的双侧聚类优势,提出了一种双侧多视图聚类方法,多视图信息理论联合聚类(MV-ITCC)。该方法在信息论的框架下实现了对多视图数据的双边聚类。更具体地说,它利用意见之间的协议和分歧,共享一个共同的聚类结果沿样本维,并保持聚类结果的每个视图特定沿特征维。此外,还采用了最大熵机制来控制不同观点的重要性,从而在平衡一致和不一致方面取得了适当的平衡。在文本和图像多视图数据集上进行了广泛的实验。结果清楚地表明了所提出的方法的优越性。
2019-05-25 cs.LG stat.ML
Deep Incomplete Multi-View Clustering via Hierarchical Imputation and Alignment
Department of Computer Science, Old Dominion University(旧 Dominion 大学计算机科学系)
本文提出DIMVC-HIA框架,通过分层填补与对齐解决不完整多视图聚类中的缺失填补与语义一致性问题,实验表明其在不同缺失程度下表现优异。
2026-01-14 cs.LG
RAC-DMVC: Reliability-Aware Contrastive Deep Multi-View Clustering under Multi-Source Noise
针对多源噪声(缺失噪声、观测噪声)下的多视图聚类任务,提出RAC-DMVC框架,通过可靠性图、跨视图重构、可靠性感知对比学习、双注意力补全及簇蒸馏模块提升鲁棒性,实验表明其优于SOTA方法且噪声适应性强。
2025-11-17 cs.LG
Unsupervised Multi-view Clustering by Squeezing Hybrid Knowledge from Cross View and Each View
多视图聚类方法由于其在聚类性能上的优越性,近年来成为研究的热点。然而,典型的传统多视图聚类算法在冗余信息的去除、多视图的利用以及多视图特征的融合等方面仍存在不足。针对这些问题,本文提出了一种新的多视图聚类方法--基于自适应图正则化的低秩子空间多视图聚类。我们将两个新的数据矩阵分解模型构造成一个统一的优化模型。在这个框架中,我们提出了新的低秩和稀疏约束的稀疏子空间矩阵的交叉视图和每个视图的独特知识共享的共同知识的意义。为了确保我们在原始数据矩阵上实现有效的稀疏表示和聚类性能,自适应图正则化和无监督聚类约束也被引入到所提出的模型中,以保留数据的内部结构特征。最后,该方法与几个国家的最先进的算法进行了比较。五个广泛使用的多视图基准的实验结果表明,我们提出的算法优于其他国家的最先进的方法,由一个明确的保证金。
2020-08-23 cs.LG stat.ML
Incomplete Multi-view Clustering via Cross-view Relation Transfer
在本文中,我们考虑的问题,多视图聚类不完整的意见。与完全多视图聚类相比,视图缺失问题增加了从不同视图中学习公共表示的难度。为了解决这一问题,我们提出了一种新的不完全多视图聚类框架,它结合了跨视图关系转移和多视图融合学习。具体而言,基于多视图数据的一致性,设计了一种基于跨视图关系传递的数据补全模块,将已知的相似实例间关系传递到缺失视图,并基于传递的关系图通过图网络恢复缺失视图数据。然后设计视点编码器提取恢复的多视点数据,并引入基于注意力的融合层以获得共同的表示。此外,为了减少视图间不一致性带来的误差影响,获得更好的聚类结构,引入联合聚类层,同时优化恢复和聚类。在几个真实数据集上进行的大量实验证明了该方法的有效性。
2021-12-01 cs.CV cs.LG
Incomplete Multi-view Clustering via Diffusion Completion
针对不完整多视图聚类中缺失视图的影响问题,提出扩散补全方法,利用扩散模型恢复缺失视图并结合对比学习提升聚类性能,实验证明其优于现有方法。
2023-05-19 cs.AI cs.LG
A Survey on Incomplete Multi-view Clustering
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Guangdong University of Technology(广东工业大学);University of Macau(澳门大学);Hefei University of Technology(合肥工业大学)
传统的多视图聚类试图基于所有视图都被完全观察的假设将数据划分为相应的组。然而,在实际应用中,如疾病诊断、多媒体分析、推荐系统等,常常会发现样本的视图并不是全部可用的,这就导致了传统的多视图聚类方法的失效。对这种不完整多视图数据的聚类被称为不完整多视图聚类。鉴于其良好的应用前景,近年来不完全多视图聚类的研究取得了显著的进展。然而,目前还没有一个综述来总结目前的研究进展,并指出未来的研究方向。为此,我们回顾了最近的研究不完全多视图聚类。重要的是,我们提供了一些框架来统一相应的不完全多视图聚类方法,并从理论和实验角度对一些代表性的方法进行了深入的比较分析。最后,提出了不完全多视图聚类领域的一些有待解决的问题。
2022-08-17 cs.LG cs.MM
Multi-view constrained clustering with an incomplete mapping between views
Bryn Mawr College(布林莫尔学院);University of Maryland, Baltimore County(马里兰大学巴尔的摩分校);Lockheed Martin Advanced Technology Laboratories(洛克希德·马丁先进技术实验室)
多视图学习算法通常假设不同视图之间的完全二分映射,以便在学习过程中交换信息。然而,许多应用程序只提供视图之间的部分映射,这对当前方法提出了挑战。为了解决这个问题,我们提出了一个多视图算法的基础上约束聚类,可以与不完整的映射。在每个视图中给定一组成对约束,我们的方法使用本地相似性度量将这些约束传播到可以映射到其他视图的实例,从而允许通过部分映射跨视图传输传播的约束。它使用co-EM迭代地估计每个视图内的传播基于当前的聚类模型,跨视图传输的约束,然后更新聚类模型。通过在视图之间交替学习过程,该方法产生与所有视图一致的统一聚类模型。我们表明,这种方法显着提高了聚类性能比其他几种方法传输的约束,并允许多视图聚类可靠地应用时,给出了有限的视图之间的映射。我们的评估表明,传播的约束具有较高的精度相对于数据中的真正的集群,解释他们的好处,在单视图和多视图学习场景的聚类性能。
2012-10-09 cs.AI cs.LG
Clustering Result Re-guided Incomplete Multi-view Spectral Clustering
College of Information Engineering, Shanghai Maritime University(上海 Maritime University 信息工程学院);Department of Automation, Shanghai Jiao Tong University(上海 Jiao Tong University 自动化系)
针对不完整多视图谱聚类中样本连通性未被有效利用的问题,提出CRG_IMSC方法,通过非负约束直接获取聚类结果并构建连通性矩阵最小化自表示残差,实验证明其优于现有方法且收敛。
2025-10-11 cs.LG stat.ML
Dual Representation Learning for One-Step Clustering of Multi-View Data
Jiangnan University(江南大学);Shanghai University(上海大学)
多视图数据是数据采掘应用中经常遇到的问题。从多视图数据中有效地提取信息需要特定的聚类方法设计来满足多视图数据,这是不平凡的和具有挑战性的。在本文中,我们提出了一种新的一步多视图聚类方法,利用不同的视图的共同和特定的信息的双重表示。其动机源于多视图数据不仅包含视图之间的一致性知识,而且还包含每个视图的唯一性知识。同时,为了使表示学习更具体地应用于聚类任务,提出了一个一步学习框架,将表示学习和聚类划分集成为一个整体。在该框架下,表示学习和聚类划分相互促进,有效地提高了聚类性能。在基准多视图数据集上进行的大量实验结果清楚地表明了该方法的优越性。
2023-02-21 cs.LG stat.ML
Error-Robust Multi-View Clustering: Progress, Challenges and Opportunities
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Lehigh University(理海大学)
随着多源数据汇集技术的发展,多视图数据受到了广泛关注。在多视图数据中,每个视图代表数据的不同视角。由于标签信息的获取往往是昂贵的,多视图聚类得到了越来越多的关注,其目的是获得更好的聚类解决方案,利用互补和一致的信息,而不是只使用一个单独的视图。由于不可避免的传感器故障,每个视图中的数据可能包含错误。误差通常表现为噪声或特定于特征的损坏或离群值。多视图数据可能包含这些错误类型中的任何一种或组合。对多视图数据进行盲聚类,而不考虑视图中可能的错误可能会显著降低性能。错误鲁棒多视图聚类的目标是即使多视图数据被破坏也能获得有用的结果。现有的具有显式错误去除公式的错误鲁棒性多视图聚类方法可以分为五个广泛的研究类别-基于稀疏性范数的方法、基于图的方法、基于子空间的学习方法、基于深度学习的方法和混合方法,本次调查总结并回顾了多视图数据错误鲁棒性聚类的最新进展。最后,我们强调的挑战,并提供未来的研究机会。
2021-05-07 cs.LG stat.ML
Feature Concatenation Multi-view Subspace Clustering
School of Software Engineering, Xi’an Jiaotong University(西安交通大学软件学院);School of Communication and Information Engineering, Shanghai University(上海大学通信与信息工程学院)
多视图聚类是一种基于多视图数据的学习范式。由于不同视图的统计特性是不同的,甚至是不兼容的,很少有方法直接实现基于连接的功能的多视图聚类。但是,要素串联是组合多视图数据的自然方法。为此,本文提出了一种新的多视点子空间聚类方法--特征连接多视点子空间聚类(FCMSC),该方法通过挖掘多视点数据的一致性信息来提高聚类性能。具体地说,首先将多视图数据连接成一个联合表示,然后将$l_{2,1}$ -范数集成到目标函数中,以处理多视图的样本特定和簇特定损坏。此外,本文还提出了一种图正则化的FCMSC,以挖掘多视图数据的一致性信息和互补信息进行聚类。值得注意的是,获得的系数矩阵并不是通过简单地将低秩表示(LRR)直接应用于级联特征来导出的。最后,设计了一种基于增广拉格朗日乘子(ALM)的有效算法来优化目标函数。六个真实世界的数据集上的综合实验说明了所提出的方法优于几个国家的最先进的多视图聚类方法。
2021-03-24 cs.LG stat.ML
Partial Multi-View Clustering via Meta-Learning and Contrastive Feature Alignment
针对部分视图缺失导致聚类性能欠佳的问题,提出基于对比学习的双优化框架,结合微调Vision Transformer、KNN填补缺失视图并利用自监督与元学习动态调整权重,在BDGP和HW数据集上优于现有方法。
2024-11-14 cs.CV cs.LG
Consistent and Complementary Graph Regularized Multi-view Subspace Clustering
Xi’an Jiaotong University(西安交通大学);Shanghai University(上海大学);Nanjing University of Posts and Telecommunications(南京邮电大学)
研究了多视图聚类问题,多个视图包含一致的信息,每个视图也包含互补的信息。探索所有信息对于良好的多视图聚类至关重要。然而,大多数传统的方法盲目或粗糙地结合多个视图进行聚类,无法充分利用有价值的信息。因此,我们提出了一种方法,涉及一致和互补图正则化多视图子空间聚类(GRMSC),它同时集成了一个一致的图正则化与互补图正则化的目标函数。特别地,一致图正则化器学习由所有视图共享的数据点的内在亲和关系。互补图正则化器研究多个视图的特定信息。值得注意的是,一致的和互补的正则化公式由两个不同的图构造从多个视图的一阶接近和二阶接近,分别。采用增广拉格朗日乘子法优化目标函数,实现多视图聚类。在六个基准数据集上的实验验证了该方法的有效性。
2020-04-07 cs.LG stat.ML
Deep Embedded Multi-view Clustering with Collaborative Training
University of Electronic Science and Technology of China(电子科技大学);Harbin Institute of Technology(哈尔滨工业大学);Peng Cheng Lab(鹏城实验室)
多视图聚类是一种利用多个视图信息的聚类方法。然而,现有的多视图聚类方法要么计算量大,空间复杂度高,要么缺乏表示能力。为了解决这些问题,我们在本文中提出了深度嵌入式多视图聚类与协作训练(DEMVC)。首先,多个视图的嵌入式表示由深度自动编码器单独学习。在此基础上,综合考虑多个视图的一致性和互补性,提出了一种新的协同训练方案。具体地说,所有视图的特征表示和聚类分配是协同学习的。进一步提出了一种新的聚类中心初始化一致性策略,以提高协同训练的多视图聚类性能。在几个流行的多视图数据集上的实验结果表明,DEMVC实现了显着的改进,比国家的最先进的方法。
2020-07-26 cs.LG stat.ML
Consistency-aware and Inconsistency-aware Graph-based Multi-view Clustering
WASEDA University(早稻田大学)
由于多视图数据在机器学习应用中经常遇到,因此多视图数据分析越来越受欢迎。多视图聚类(MVC)是一种简单但有前途的多视图数据聚类方法,它已经得到了广泛的发展,通过学习跨多视图数据共享的潜在共同特征,将给定的主题分类到一些聚类组中。在现有的方法中,基于图的多视图聚类(GMVC)通过利用称为统一矩阵的共享图矩阵来实现最先进的性能。然而,现有的方法,包括GMVC不显式地解决输入图矩阵的不一致的部分。因此,它们受到不可接受的聚类性能的不利影响。为此,本文提出了一种新的GMVC方法,它包含了跨多个视图的一致和不一致的部分。该提案被指定为CI-GMVC。真实世界数据集的数值评估证明了所提出的CI-GMVC的有效性。
2020-11-25 cs.LG stat.ML
Deep Online Probability Aggregation Clustering
Systems Engineering Institute, Xi’an Jiaotong University(西安交通大学系统工程研究所)
针对深度聚类交替训练的不稳定与高计算量问题,提出无中心概率聚合聚类算法PAC及在线模块,构建深度框架DPAC,实验证明其性能与鲁棒性优于现有方法。
2024-07-13 cs.CV cs.LG
Multi-view Semantic Consistency based Information Bottleneck for Clustering
Xi’an Jiaotong University(西安交通大学);Fuzhou University(福州大学)
多视图聚类可以利用多源信息进行无监督聚类。现有的方法大多集中在学习一个融合的表示矩阵,而忽略了私人信息和噪声的影响。为了解决这个问题,我们引入了一种新的多视图语义一致性为基础的信息瓶颈聚类(MSCIB)。具体而言,MSCIB追求语义一致性,以改善不同视图的信息瓶颈学习过程。在语义空间中进行多视图的对齐操作,共同实现多视图数据有价值的一致信息。通过这种方式,从多视图数据中学习的语义一致性可以改善信息瓶颈,以更准确地区分一致性信息,并学习具有更多区分一致性信息的统一特征表示用于聚类。在不同类型的多视图数据集上的实验表明,MSCIB达到了最先进的性能。
2023-02-28 cs.AI cs.LG
Deep Incomplete Multi-View Multiple Clusterings
Joint SDU-NTU Centre for Artificial Intelligence Research, Shandong University(山东大学-南洋理工大学人工智能联合研究中心,山东大学);College of Computer and Information Sciences, Southwest University(西南大学计算机与信息科学学院);School of Software, Shandong University(山东大学软件学院);CEMSE, King Abdullah University of Science and Technology(计算机、工程与数学科学学院,沙特阿拉伯国王阿卜杜拉科技大学);Department of Computer Science, George Mason University(乔治梅森大学计算机科学系)
多视图聚类的目的是利用来自多个异构视图的信息来促进聚类。大多数以前的作品搜索只有一个最佳的聚类的基础上预定义的聚类标准,但设计这样一个标准,捕捉用户需要的是困难的。由于多视图数据的多样性,我们可以有有意义的替代聚类。此外,不完全多视图数据问题在现实世界中是普遍存在的,但尚未研究多个聚类。为了解决这些问题,我们引入了一个深度不完整多视图多聚类(DiMVMC)框架,该框架通过优化多组解码器深度网络,同时实现数据视图和多个共享表示的完成。此外,它最小化的冗余项,同时%使用希尔伯特-施密特独立性准则(HSIC)来控制这些表示之间的差异和不同的网络参数之间。接下来,它从这些共享表示中的每一个生成单独的聚类。在基准数据集上的实验证实,DiMVMC在生成具有高多样性和高质量的多个聚类方面优于最先进的竞争对手。
2020-10-02 cs.LG stat.ML
Latent Simplex Position Model: High Dimensional Multi-view Clustering with Uncertainty Quantification
University of Florida(佛罗里达大学)
高维数据通常包含多个方面,并且多个聚类模式可以在不同的变量子空间(也称为视图)下共存。虽然多视图聚类算法的提出,不确定性量化仍然是困难的-一个特殊的挑战是在估计每个视图下的聚类分配概率的高复杂性,并在视图之间共享信息。在这篇文章中,我们提出了一种近似贝叶斯方法-将在视图上生成的相似性矩阵作为共同分配概率的粗略第一阶段估计;在其Kullback-Leibler邻域中,我们获得了一个改进的低秩矩阵,由单纯形坐标的成对乘积形成。有趣的是,每个单纯形坐标直接编码聚类分配的不确定性。对于多视图聚类,我们让每个视图从几个候选者中提取一个参数化,从而实现降维。由于模型灵活性高,估计可以有效地作为一个连续的优化问题进行,因此享有基于梯度的计算。该理论将该模型与多视图下的随机分区分布建立了联系。与单视图聚类方法相比,当使用高维基因表达数据对来自人类创伤性脑损伤研究的大脑进行聚类时,获得了更多可解释的结果。关键词:协正则化聚类,一致性,PAC-Bayes,随机聚类图,变量选择
2019-10-07 cs.LG stat.ML
Contrastive Multi-view Hyperbolic Hierarchical Clustering
University of Electronic Science and Technology of China(电子科技大学);Tencent Inc.(腾讯公司);Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Peng Cheng National Lab(鹏城国家实验室)
层次聚类以越来越细的粒度递归地划分数据。在实际应用中,多视图数据变得越来越重要。这引起了一个较少研究的问题,即,多视图层次聚类,更好地理解多视图数据的层次结构。为此,我们提出了一种新的神经网络为基础的模型,即对比多视图双曲层次聚类(CMHHC)。它由三个部分组成,即,多视图对齐学习、对齐特征相似性学习和连续双曲分层聚类。首先,我们在多个视图中以对比的方式对齐样本级表示,以捕获视图不变性信息。接下来,我们利用流形和欧氏相似性来改善度量性质。然后,我们将表示嵌入到双曲空间中,并通过连续松弛分层聚类损失来优化双曲嵌入。最后,一个二叉聚类树解码从优化的双曲嵌入。在五个真实数据集上的实验结果证明了该方法及其组成部分的有效性。
2022-05-05 cs.AI cs.LG
Intrinsic Weight Learning Approach for Multi-view Clustering
Northwestern Polytechnical University(西北工业大学);Xi’an Institute of Optics and Precision Mechanics, Chinese Academy of Sciences(中国科学院西安光学精密机械研究所)
利用同一对象的不同表示或视图来实现更好的聚类已经变得非常流行,这通常被称为多视图聚类。一般来说,由于描述中的一些噪声或固有能力,测量每个单独视图的重要性是必要的。许多以前的工作模型的视图重要性的权重,这是简单的,但有效的经验。本文在多视图聚类的背景下,借鉴重加权方法的思想,提出了一种新的权重学习范式,并从理论上分析了其工作机制。同时,作为一个精心实现的例子,所有的视图连接通过探索一个统一的拉普拉斯秩约束图,这将是一个代表性的方法,以比较其他的权重学习方法在实验中。此外,所提出的权重学习策略非常适合多视图数据,并且可以与许多现有的聚类学习器自然集成。数值实验表明,本文提出的内权值学习方法在多视图聚类中是有效和实用的。
2019-06-21 cs.LG stat.ML
Multi-VAE: Learning Disentangled View-common and View-peculiar Visual Representations for Multi-view Clustering
多视图聚类是一个长期存在的重要研究课题,其研究重点是从不同的视图中挖掘互补信息。然而,现有的工作往往融合多个视图的表示或处理聚类在一个共同的特征空间,这可能会导致他们的纠缠,特别是视觉表示。为了解决这个问题,我们提出了一种新的基于VAE的多视图聚类框架(多VAE)通过学习解开视觉表示。具体地说,我们在生成模型中定义了一个视图公共变量和多个视图特有变量。视图公共变量的先验服从近似离散的Gumbel Softmax分布,引入该分布提取多视图的公共聚类因子。同时,视点特征变量的先验服从连续高斯分布,用来表征每个视点的视觉特征。通过控制互信息容量来分解视图公共和视图特有表示,可以分离多个视图的连续视觉信息,从而可以有效地挖掘它们的公共离散聚类信息。实验结果表明,多VAE享有解开和可解释的视觉表示,同时获得优越的聚类性能相比,国家的最先进的方法。
2021-07-07 cs.CV cs.LG