GCFAgg: Global and Cross-view Feature Aggregation for Multi-view Clustering
Yantai University(烟台大学);Nanyang Technological University(南洋理工大学);Shenzhen University(深圳大学);China University of Geosciences(中国地质大学)
本文提出GCFAggMVC网络,通过跨样本和跨视图特征聚合及结构引导对比学习,解决多视图聚类中忽略样本结构关系的问题,在完整和不完整多视图聚类任务中表现优异。
2023-05-11 cs.CV
Deep Spectral Clustering via Joint Spectral Embedding and Kmeans
College of Electronic and Information Engineering, Tongji University(同济大学电子与信息工程学院)
针对谱聚类中嵌入与聚类分离及高维数据维度灾难问题,提出深度谱聚类(DSC),通过深度网络和幂迭代学习嵌入,并用贪心策略优化Kmeans,端到端联合训练,在七个数据集上达到最优性能。
2024-12-15 cs.CV cs.LG
An Empirical Study on Clustering Pretrained Embeddings: Is Deep Strictly Better?
Google Research(谷歌研究院);University of Colorado, Boulder(科罗拉多大学博尔德分校)
最近在人脸嵌入聚类方面的研究发现,无监督的、浅层的、基于分类的方法--包括$k$ -均值和层次凝聚聚类--不如有监督的、深层的、归纳的方法。虽然报告的改进确实令人印象深刻,但实验主要限于人脸数据集,其中聚类嵌入具有高度区分性或按类别分离(Recall@1高于90%,通常接近天花板),并且实验方法似乎倾向于深度方法。我们在三个数据集上对17种聚类方法进行了大规模的实证研究,并获得了一些可靠的发现。值得注意的是,深度方法对于具有更多不确定性的嵌入来说是非常脆弱的,在这种情况下,它们与基于层次分析的浅层方法相匹配,甚至表现更差。当嵌入具有高度区分性时,深度方法确实优于基线,与过去的结果一致,但方法之间的差距比以前报道的要小得多。我们相信我们的基准扩展了监督聚类方法的范围,超越了人脸领域,可以作为这些方法可以改进的基础。为了实现可重复性,我们在附录中包含了所有必要的细节,并计划发布代码。
2022-11-09 cs.CV cs.LG
Jointly Deep Multi-View Learning for Clustering Analysis
Xiamen University(厦门大学);Chinese Academy of Sciences(中国科学院);Sun Yat-sen University(中山大学)
在本文中,我们提出了一种新的联合框架深度多视图聚类(DMJC),其中多个深度嵌入式功能,多视图融合机制和聚类分配可以同时学习。我们的核心思想是,联合学习策略可以充分利用聚类友好的多视图功能和有用的多视图的互补信息,以提高聚类性能。如何在这样的联合框架下实现多视点融合是首要的挑战。为此,我们在所提出的框架下设计了两种巧妙的深度多视图联合聚类模型,其中多视图融合由两种不同的方案实现。第一个模型,称为DMJC-S,通过一种新的多视图软分配分布,以隐式的方式进行多视图融合。第二个模型,称为DMJC-T,定义了一种新的多视图辅助目标分布进行多视图融合显式。DMJC-S和DMJC-T都是在KL发散类聚类目标下优化的。在六个具有挑战性的图像数据集上的实验表明,DMJC-S和DMJC-T都优于单/多视图基线和最先进的多视图聚类方法,这证明了所提出的DMJC框架的有效性。据我们所知,这是第一个在深度联合框架中对多视图聚类建模的工作,这将为无监督多视图学习提供有意义的思考。
2018-11-23 cs.CV
Point Cloud Instance Segmentation using Probabilistic Embeddings
KAUST(阿卜杜拉国王科技大学)
在本文中,我们提出了一个新的框架点云实例分割。我们的框架有两个步骤:嵌入步骤和聚类步骤。在嵌入步骤中,我们的主要贡献是提出了一个概率嵌入空间的点云嵌入。具体地,每个点表示为三变量正态分布。在聚类过程中,我们提出了一种新的损失函数,该损失函数既有利于语义分割,又有利于聚类。我们的实验结果显示了对SOTA的重要改进,即,PartNet数据集上的每类别平均mAP增加了3.1%。
2021-03-30 cs.CV
Graph Cut-guided Maximal Coding Rate Reduction for Learning Image Embedding and Clustering
Beijing University of Posts and Telecommunications(北京邮电大学);International Digital Economy Academy (IDEA)(国际数字经济学院(IDEA));Intellifusion(云天励飞)
针对预训练特征提取与聚类分离导致性能次优的问题,提出统一框架 CgMCR$^2$,通过高效聚类模块与结构化表示学习相互引导,实现图像嵌入和聚类的联合优化。
2025-01-08 cs.CV
Guided Co-training for Large-Scale Multi-View Spectral Clustering
Institute of Information Science, Academia Sinica(中央研究院资讯科学研究所)
在许多现实世界的应用程序中,我们可以访问数据的多个视图,每个视图都从不同的方面表征数据。几个以前的算法已经证明,一个可以实现更好的聚类准确性,适当地整合信息,从所有的意见,而不是只使用一个单独的视图。由于谱聚类的有效性,许多多视图聚类方法都是基于谱聚类的,但由于谱聚类的高计算复杂性,这些方法对大规模数据的适用性有限。在这项工作中,我们提出了一种新的大规模数据的多视图谱聚类方法。我们的方法是在指导共同训练计划下构建的,以融合不同的视图,并使用采样技术来加速谱聚类。更具体地,我们首先选择$p$($\ll n$)标志点,然后相应地近似特征分解。增强视图,这是必不可少的指导共同训练过程,然后可以快速确定我们的方法。所提出的算法与给定数据的数量呈线性关系。大量的实验已经进行,结果支持我们的方法处理大规模的多视图的情况下的优势。
2017-07-18 cs.CV
Structure-guided Deep Multi-View Clustering
针对多视图结构与数据分布挖掘不足的问题,提出结构引导深度聚类模型,通过邻域正样本选择和高斯分布建模提升视图一致性与簇内紧凑性,并在多个基准上显著优于现有方法。
2025-03-14 cs.CV
Neural Manifold Clustering and Embedding
Redwood Center(雷德伍德中心);Facebook AI Research(脸书人工智能研究院);UC Berkeley(加州大学伯克利分校)
给定非线性流形的并集,非线性子空间聚类或流形聚类旨在基于流形结构对数据点进行聚类,并且还学习将每个流形参数化为特征空间中的线性子空间。深度神经网络具有在高度非线性设置下实现这一目标的潜力,因为它们具有很大的容量和灵活性。我们认为,实现流形聚类与神经网络需要两个基本成分:一个特定于域的约束,以确保识别的流形,和一个学习算法嵌入每个流形的线性子空间中的特征空间。这项工作表明,许多约束可以通过数据增强来实现。对于子空间特征学习,可以使用最大编码速率降低(MCR $^2$)目标。将它们放在一起产生{ \em神经流形聚类和嵌入}(NMCE),这是一种用于通用流形聚类的新方法,其性能显着优于基于自动编码器的深度子空间聚类。此外,在更具挑战性的自然图像数据集上,NMCE也可以优于其他专门为聚类设计的算法。定性,我们证明,NMCE学习一个有意义的和可解释的特征空间。由于NMCE的形成与几种重要的自监督学习(SSL)方法密切相关,我们相信这项工作可以帮助我们更深入地理解SSL表示学习。
2022-01-24 cs.CV cs.LG
Low-rank Multi-view Clustering in Third-Order Tensor Space
Guangdong University of Technology(广东工业大学);The University of Sydney(悉尼大学);Western Sydney University(西悉尼大学)
多视图数据中的丰富信息以及不同视图之间的互补信息通常有利于各种任务,例如,聚类、分类、去噪。多视点子空间聚类是基于多视点数据是从一个潜在子空间中产生的这一事实。为了恢复潜在的子空间结构,最近已经见证了稀疏和/或低秩子空间聚类的成功。尽管一些最先进的子空间聚类方法可以在数值上处理多视图数据,通过同时探索视图内所有可能的成对相关性,但高阶统计量往往被忽略,而高阶统计量只能通过同时利用所有视图来捕获。因此,多视图数据的聚类性能受到损害。针对这一问题,提出了一种基于三阶张量空间\textit{t-product}的多视图聚类方法。基于循环卷积运算,多视图数据可以有效地表示由\textit{t-linear}组合稀疏和低秩惩罚使用“自我表达”。我们在人脸、物体、数字图像和文本数据上的大量实验结果表明,所提出的方法在许多标准方面都优于现有的方法。
2016-08-31 cs.CV
Joint Learning of Self-Representation and Indicator for Multi-View Image Clustering
Nanjing University of Posts and Telecommunications(南京邮电大学);University of Trento(特伦托大学);Texas State University(得克萨斯州立大学);Wuhan University(武汉大学);Minjiang University(闽江学院)
多视点子空间聚类的目的是根据一组多视点数据的子空间结构将其划分为若干组。虽然基于谱聚类的方法在多视图聚类中取得了推广,但它们的效用受到分离学习方式的限制,其中亲和矩阵的构造和聚类指标估计是孤立的。在本文中,我们提出了在一个统一的模型中联合学习自我表示,连续和离散聚类指标。我们的模型可以探索每个视图的子空间结构,并将它们融合以同时促进聚类。在两个基准数据集上的实验结果表明,该方法优于现有的竞争性多视图聚类方法。
2019-05-11 cs.CV
Incomplete Multi-view Clustering via Cross-view Relation Transfer
在本文中,我们考虑的问题,多视图聚类不完整的意见。与完全多视图聚类相比,视图缺失问题增加了从不同视图中学习公共表示的难度。为了解决这一问题,我们提出了一种新的不完全多视图聚类框架,它结合了跨视图关系转移和多视图融合学习。具体而言,基于多视图数据的一致性,设计了一种基于跨视图关系传递的数据补全模块,将已知的相似实例间关系传递到缺失视图,并基于传递的关系图通过图网络恢复缺失视图数据。然后设计视点编码器提取恢复的多视点数据,并引入基于注意力的融合层以获得共同的表示。此外,为了减少视图间不一致性带来的误差影响,获得更好的聚类结构,引入联合聚类层,同时优化恢复和聚类。在几个真实数据集上进行的大量实验证明了该方法的有效性。
2021-12-01 cs.CV cs.LG
AutoEmbedder: A semi-supervised DNN embedding system for clustering
Bangladesh University of Business & Technology(孟加拉国商业与技术大学);King Abdulaziz University(阿卜杜勒阿齐兹国王大学)
聚类是处理无标记数据的无监督学习方法中广泛使用的一种。深度集群已成为一个流行的研究领域,它将集群与深度神经网络(DNN)架构联系起来。深度聚类方法对高维数据进行下采样,这也可能与聚类损失有关。深度聚类也被引入到半监督学习(SSL)中。大多数SSL方法依赖于成对约束信息,这是一个矩阵,包含数据对是否可以在同一个集群中的知识。本文介绍了一种新的嵌入系统AutoEmbedder,下采样高维数据的聚类嵌入点。据我们所知,这是第一个与传统分类器DNN架构相关的研究工作,具有成对损失减少技术。训练过程是半监督的,并使用Siamese网络架构来计算特征学习阶段的成对约束损失。AutoEmbedder优于大多数现有的基于DNN的半监督方法,这些方法在著名的数据集上进行了测试。
2020-07-11 cs.CV cs.LG stat.ML
Generalized Deep Multi-view Clustering via Causal Learning with Partially Aligned Cross-view Correspondence
College of Computer Science and Technology, National University of Defense Technology(计算机科学与技术学院,国防科技大学);Intelligent Game and Decision Lab(智能游戏与决策实验室);National University of Singapore(新加坡国立大学);Chinese PLA General Hospital(中国人民解放军总医院)
本文提出因果多视图聚类网络CauMVC,将部分对齐数据视为干预并通过变分自编码器估计不变特征,首次用因果学习解决广义多视图聚类问题。
2025-09-19 cs.CV
Anomaly Clustering: Grouping Images into Coherent Clusters of Anomaly Types
Google Cloud AI Research(谷歌云人工智能研究院)
我们研究异常聚类,将数据分组为异常类型的连贯聚类。这与旨在将异常与正常数据区分开的异常检测不同。与以对象为中心的图像聚类不同,异常聚类特别具有挑战性,因为异常模式是微妙的和局部的。我们提出了一个简单而有效的聚类框架,使用基于补丁的预训练深度嵌入和现成的聚类方法。我们定义了一个距离函数之间的图像,其中每一个被表示为一个包的嵌入,通过加权平均嵌入之间的欧几里得距离。权重定义实例的重要性(即,补丁嵌入),这可能会突出缺陷区域。当有标记的正常数据可用时,我们以无监督的方式或半监督的方式计算权重。大量的实验研究表明,所提出的聚类框架的有效性,随着一个新的距离函数在现有的多个实例或深度聚类框架。总的来说,我们的框架在MVTec对象和纹理类别上实现了0.451和0.674的归一化互信息分数,并进一步提高了一些标记的正常数据(0.577,0.669),远远超过基线(0.244,0.273)或最先进的深度聚类方法(0.176,0.277)。
2022-10-14 cs.CV
Wasserstein-Aligned Hyperbolic Multi-View Clustering
本文提出了一种基于双曲空间的Wasserstein对齐框架,通过嵌入洛伦兹流形和全局语义损失提升多视图聚类性能。
2025-12-10 cs.CV
Convex Sparse Spectral Clustering: Single-view to Multi-view
National University of Singapore(新加坡国立大学);Shanghai Jiaotong University(上海交通大学)
谱聚类是数据聚类中应用最广泛的方法之一。该算法首先通过计算归一化Laplacian矩阵的特征向量找到数据的一个低维嵌入$U$,然后对$U^\top$进行k-均值聚类得到最终的聚类结果。在这项工作中,我们观察到,在理想的情况下,$UU^\top$应该是块对角,因此稀疏。因此,我们提出了稀疏谱聚类(SSC)方法,扩展SC与稀疏正则化$UU^\top$。为了解决非凸SSC模型的计算问题,我们提出了一种新的基于固定秩投影矩阵的凸包的SSC凸松弛。然后利用\canyi{Multipliers}的交替方向法(ADMM)对凸SSC模型进行求解。此外,我们提出了成对稀疏谱聚类(PSSC),它扩展了SSC,以提高聚类性能,通过使用数据的多视图信息。在真实数据集上与几个基线的实验比较证明了我们所提出的方法的有效性。
2018-05-27 cs.CV
Partial Multi-View Clustering via Meta-Learning and Contrastive Feature Alignment
针对部分视图缺失导致聚类性能欠佳的问题,提出基于对比学习的双优化框架,结合微调Vision Transformer、KNN填补缺失视图并利用自监督与元学习动态调整权重,在BDGP和HW数据集上优于现有方法。
2024-11-14 cs.CV cs.LG
S^2MVTC: a Simple yet Efficient Scalable Multi-View Tensor Clustering
University of Electronic Science & Technology of China(电子科技大学)
针对现有基于锚点的大规模多视图聚类方法仅探索全局相关性的局限,提出S^2MVTC方法,通过构建嵌入特征张量、设计TLFA算子及施加一致性约束学习视图内和跨视图相关性,在六个数据集上的聚类性能和运行效率均优于现有最优算法。
2024-04-11 cs.CV cs.LG
Locally Linear Embedding Clustering Algorithm for Natural Imagery
Colorado State University(科罗拉多州立大学)
描述自然图像颜色内容的能力是图像处理的一个重要应用。图像的逐像素着色可以自然地被视为颜色空间中的点,并且这些点的固有结构和分布通过聚类提供图像中的颜色信息的量化。在本文中,我们提出了一种新的拓扑驱动的聚类算法,允许分割的颜色特征的数字图像。该算法融合了局部线性嵌入(LLE)和矢量量化的颜色信息映射到一个较低的维空间,识别不同的颜色区域,并分类像素在一起的基础上的接近度测量和颜色内容。据观察,这些技术允许显着降低颜色分辨率,同时保持图像的视觉上重要的功能。
2012-02-20 cs.CG cs.CV math.GT
Multi-level Feature Learning on Embedding Layer of Convolutional Autoencoders and Deep Inverse Feature Learning for Image Clustering
Northern Arizona University(北亚利桑那大学)
本文介绍了多层特征学习以及卷积自动编码器的嵌入层(CAE-MLE),作为深度聚类的一种新方法。我们使用凝聚聚类作为多级特征学习,在潜在特征空间上提供层次结构。研究表明,应用多级特征学习可以大大改善基本的深度卷积嵌入聚类(DCEC)。CAE-MLE在考虑凝聚聚类的聚类损失的同时,也考虑了CAE的学习特性。在下面的反向特征学习中,我们证明了错误学习作为一种通用策略的表示可以应用于不同的深度聚类方法,并产生了有希望的结果。我们在CAE-MLE上开发了深度逆特征学习(deep IFL),作为一种新方法,它在同类方法中获得了最先进的结果。在MNIST和USPS两个著名数据集上的实验结果表明,CAE-MLE比基本方法DCEC的结果提高了7% -14%。此外,它表明,建议的深IFL改进的初步结果约9%-17%。因此,所提出的CAE-MLE方法和基于CAE-MLE的深度IFL方法与大多数现有技术相比可以导致显著的性能改善。所提出的方法虽然基于基本的卷积自编码器,但即使与变分自编码器或生成对抗网络相比,也会产生出色的结果。
2020-10-05 cs.CV cs.LG
Enriched Robust Multi-View Kernel Subspace Clustering
Clemson University(克莱姆森大学)
子空间聚类就是寻找底层的低维子空间,对数据点进行正确的聚类。在本文中,我们提出了一种新的多视图子空间聚类方法。大多数现有方法都存在两个关键问题。首先,它们通常采用两阶段的框架,并隔离亲和学习,多视图信息融合和聚类的过程。其次,他们假设数据位于线性子空间中,这在实践中可能会失败,因为大多数真实世界的数据集可能具有非线性结构。为了解决上述问题,在本文中,我们提出了一种新的丰富的鲁棒多视图内核子空间聚类框架,其中的共识亲和矩阵是从多视图数据和谱聚类学习。由于目标和约束条件难以优化,我们提出了一种迭代优化方法,该方法易于实现,每一步都能得到封闭解。大量的实验验证了我们的方法比国家的最先进的聚类方法的优越性。
2022-05-21 cs.AI cs.CV
Angular Constraint Embedding via SpherePair Loss for Constrained Clustering
Department of Computer Science, The University of Manchester(计算机科学系,曼彻斯特大学)
提出SpherePair损失,通过角度空间中的几何约束嵌入实现深度约束聚类,无需预设聚类数,兼具可扩展性与理论保证,性能优于现有方法。
2025-10-08 cs.AI cs.CV cs.LG
Multi-VAE: Learning Disentangled View-common and View-peculiar Visual Representations for Multi-view Clustering
多视图聚类是一个长期存在的重要研究课题,其研究重点是从不同的视图中挖掘互补信息。然而,现有的工作往往融合多个视图的表示或处理聚类在一个共同的特征空间,这可能会导致他们的纠缠,特别是视觉表示。为了解决这个问题,我们提出了一种新的基于VAE的多视图聚类框架(多VAE)通过学习解开视觉表示。具体地说,我们在生成模型中定义了一个视图公共变量和多个视图特有变量。视图公共变量的先验服从近似离散的Gumbel Softmax分布,引入该分布提取多视图的公共聚类因子。同时,视点特征变量的先验服从连续高斯分布,用来表征每个视点的视觉特征。通过控制互信息容量来分解视图公共和视图特有表示,可以分离多个视图的连续视觉信息,从而可以有效地挖掘它们的公共离散聚类信息。实验结果表明,多VAE享有解开和可解释的视觉表示,同时获得优越的聚类性能相比,国家的最先进的方法。
2021-07-07 cs.CV cs.LG
Active Domain Adaptation via Clustering Uncertainty-weighted Embeddings
Georgia Tech(佐治亚理工学院);Max Planck Institute for Intelligent Systems(马克斯·普朗克智能系统研究所);Boston University(波士顿大学)
将深度神经网络推广到新的目标域对其现实世界的效用至关重要。在实践中,它可能是可行的,以获得一些目标数据标记,但成本效益,它是可取的,选择一个最大的信息子集通过主动学习(AL)。我们研究了主动领域自适应(Active DA)领域转移下的人工智能问题。我们展示了现有的AL方法仅基于模型的不确定性或多样性采样是不太有效的主动DA。我们提出了聚类不确定性加权嵌入(CLUE),主动DA,执行不确定性加权聚类,以确定目标实例的标签是不确定的模型和不同的特征空间的一种新的标签采集策略。CLUE在图像分类的6个不同域移位的学习设置中始终优于Active DA和AL的竞争标签获取策略。
2021-10-10 cs.CV cs.LG
Seeking Commonness and Inconsistencies: A Jointly Smoothed Approach to Multi-view Subspace Clustering
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
多视点子空间聚类旨在从多个视点中发现隐藏的子空间结构,以实现鲁棒聚类,近年来受到了广泛的关注。尽管已有的多视点子空间聚类算法取得了很大的进展,但仍存在两个局限性。首先,他们通常专注于多个视图的一致性(或共性),但往往缺乏捕捉子空间表示中的跨视图不一致性的能力。第二,他们中的许多人忽略了多个视图的局部结构,不能联合利用多个局部结构来增强子空间表示学习。为了解决这两个限制,在本文中,我们提出了一个联合平滑多视点子空间聚类(JSMC)的方法。具体来说,我们同时将跨视图的共性和不一致的子空间表示学习。提出了视图一致性分组效应,共同利用多个视图的局部结构对视图一致性表示进行正则化,并通过核范数将视图一致性表示与低秩约束相关联,以增强视图一致性表示的聚类结构.因此,跨视图的共性和不一致性,视图一致性分组效果,和低秩表示无缝地纳入到一个统一的目标函数,在此基础上,交替优化算法执行,以实现一个强大的子空间表示聚类。在多种真实世界多视图数据集上的实验结果证实了该方法的优越性。可用代码:https://github.com/huangdonghere/JSMC。
2022-10-31 cs.CV cs.LG
Multi-view Subspace Clustering via Partition Fusion
University of Electronic Science and Technology of China(电子科技大学)
多视图聚类是无监督地分析多视图数据的一种重要方法。在各种方法中,多视点子空间聚类方法由于其令人鼓舞的性能而受到越来越多的关注。基本上,它将多视图信息集成到图中,然后将其馈送到谱聚类算法中以获得最终结果。然而,它的性能可能会下降,由于噪声存在于每个单独的视图或异构特征之间的不一致性。与现有的研究工作相垂直,我们提出了在一个划分空间中融合多视图信息的方法,增强了多视图聚类的鲁棒性。具体来说,我们生成多个分区并将它们集成以找到共享分区。该模型统一了图学习、基本划分生成和视图权重学习。这三个组成部分共同发展,以实现更高质量的产出。我们已经进行了全面的实验基准数据集和我们的实证结果验证了我们的方法的有效性和鲁棒性。
2019-12-03 cs.CV cs.LG stat.ML
Triplet Probabilistic Embedding for Face Verification and Clustering
University of Maryland(马里兰大学)
尽管在过去的二十五年中取得了重大进展,无约束的人脸验证仍然是一个具有挑战性的问题。本文提出了一种方法,将基于深度CNN的方法与使用三重概率约束学习的低维判别嵌入相结合,以解决无约束人脸验证问题。除了产生性能改进之外,这种嵌入在内存和后处理操作(如特定于主题的聚类)方面提供了显着的优势。在具有挑战性的IJB-A数据集上的实验表明,该算法在验证和识别指标方面优于现有方法,同时需要更少的训练数据和训练时间。所提出的方法在CFP数据集上的优异性能表明,我们的深度CNN学习的表示对极端姿势变化具有鲁棒性。此外,我们通过在IJB-A和LFW数据集上进行简单的聚类实验,证明了深度特征对年龄,姿势,模糊和杂乱等挑战的鲁棒性。
2017-01-18 cs.CV cs.LG stat.ML
Cluster Analysis with Deep Embeddings and Contrastive Learning
Iowa State University(爱荷华州立大学);John Deere(约翰迪尔公司)
无监督解纠缠表示学习是计算机视觉中一个长期存在的问题。这项工作提出了一种新的框架,通过结合实例级对比学习与基于深度嵌入的聚类中心预测器,从深度嵌入执行图像聚类。我们的方法以端到端的方式联合学习表示并预测聚类中心。这是通过一个三管齐下的方法来实现的,该方法结合了聚类损失、实例对比损失和锚点损失。我们的基本直觉是,使用集成损失,结合实例级的功能和聚类过程集中在语义相似性加强学习更好的表示在潜在的空间。我们观察到,我们的方法在使用标准聚类度量(如归一化互信息(NMI))进行评估时,在流行的视觉数据集上表现得非常好,此外还产生了由欧几里得距离定义的几何分离的聚类嵌入。我们的框架与广泛接受的聚类方法不相上下,并且在CIFAR-10数据集上的表现优于最先进的对比学习方法,NMI得分为0.772,在强基线上提高了7-8%。
2021-10-02 cs.CV cs.LG
Incomplete Multi-view Clustering via Graph Regularized Matrix Factorization
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));The University of Queensland(昆士兰大学)
不完整视图的聚类是多视图聚类中的一个挑战。在本文中,我们提供了一种新颖而简单的方法来解决这个问题。具体地说,该方法同时利用每个视图的局部信息和视图间的互补信息来学习所有样本的共同潜在表示,从而大大提高了所获得的表示的紧凑性和可区分性。与传统的图嵌入方法相比,该方法不需要引入额外的正则化项和相应的惩罚参数来保持数据的局部结构,因此不会增加额外参数选择的负担.通过对每个视图的基矩阵施加正交约束,该方法能够处理样本外。此外,所提出的方法可以被看作是一个统一的框架,多视图学习,因为它可以处理不完整和完整的多视图聚类和分类任务。在多个多视图数据集上进行的大量实验证明,该方法可以显着提高聚类性能。
2018-09-17 cs.CV cs.LG
Deep Multi-View Semi-Supervised Clustering with Sample Pairwise Constraints
College of Information Science and Technology, Hainan University(海南大学信息科学技术学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Hainan University(海南大学)
针对现有多视图聚类忽略弱监督信息、难以保留多视图特征属性的问题,提出联合三类损失、融入成对约束、微调完整自编码器的DMSC方法,在8个图像数据集上性能优于现有最优方法。
2023-05-05 cs.CV cs.LG
Laplacian-Based Dimensionality Reduction Including Spectral Clustering, Laplacian Eigenmap, Locality Preserving Projection, Graph Embedding, and Diffusion Map: Tutorial and Survey
University of Waterloo(滑铁卢大学)
这是一个教程和调查文件的非线性维数和特征提取方法的基础上,拉普拉斯的图形数据。首先介绍了邻接矩阵、拉普拉斯矩阵的定义以及拉普拉斯算子的解释。然后,我们覆盖了图的切割和谱聚类,它应用于数据的子空间中的聚类。解释了拉普拉斯特征映射及其样本外扩展的不同优化变体。之后,我们引入了保局投影及其核变体作为拉普拉斯特征映射的线性特例。图嵌入的版本,然后解释这是广义版本的拉普拉斯特征映射和局部保持投影。最后介绍了一种基于数据的拉普拉斯算子和数据图上的随机游动的扩散映射方法。
2022-08-06 cs.CV cs.LG stat.ML
Smoothed Multi-View Subspace Clustering
University of Electronic Science and Technology of China(电子科技大学);Trusted Cloud Computing and Big Data Key Laboratory of Sichuan Province(四川省可信云计算与大数据重点实验室)
近年来,多视点子空间聚类由于利用了多视点间的互补信息,取得了令人瞩目的性能。然而,多视图数据可能非常复杂,并且在现实世界的应用中不容易聚类。大多数现有的方法对原始数据进行操作,并且可能无法获得最优解。在这项工作中,我们提出了一种新的多视图聚类方法命名为平滑多视图子空间聚类(SMVSC)采用一种新的技术,即,图过滤,以获得每个视图的平滑表示,其中相似的数据点具有相似的特征值。具体地说,它通过应用低通滤波器来保留图形的几何特征。因此,它产生了一个“集群友好”的表示,并大大方便了下游的集群任务。在基准数据集上的大量实验验证了该方法的优越性。分析表明,图过滤提高了类的可分性。
2021-06-18 cs.AI cs.CV cs.LG
Multi-view Low-rank Sparse Subspace Clustering
Rudjer Boskovic Institute(鲁杰尔·博什科维奇研究所)
大多数现有的方法解决多视图子空间聚类问题,通过构造每个视图上的亲和矩阵,然后提出如何扩展谱聚类算法来处理多视图数据。本文提出了一种多视点子空间聚类方法,通过构造视点间共享的亲和矩阵来学习联合子空间表示。依赖于低秩和稀疏约束在亲和矩阵的构建中的重要性,我们引入了在不同观点之间的协议之间进行平衡的目标,同时鼓励解决方案的稀疏性和低秩。对于每个视图,采用乘子交替方向法求解相关的低秩稀疏约束优化问题。此外,我们将我们的方法扩展到集群数据从非线性子空间中解决相应的问题,在再生核希尔伯特空间。该算法优于国家的最先进的多视角子空间聚类算法在一个合成和四个真实世界的数据集。
2017-08-29 cs.CV cs.LG math.OC
Deep Spectral Clustering using Dual Autoencoder Network
Xidian University(西安电子科技大学);Southern University of Science and Technology(南方科技大学);Shanghai Jiao Tong University(上海交通大学);Tencent AI Lab(腾讯人工智能实验室)
聚类方法最近在学习和视觉领域受到越来越多的关注。深度聚类将嵌入和聚类结合在一起,以获得最佳嵌入子空间进行聚类,与传统的聚类方法相比,它可以更有效。在本文中,我们提出了一个联合学习框架的判别嵌入和谱聚类。我们首先设计了一个双自动编码器网络,它强制执行潜在表示及其噪声版本的重建约束,将输入嵌入到潜在空间中进行聚类。因此,学习的潜在表示可以对噪声更鲁棒。然后,利用互信息估计来提供来自输入的更多辨别性信息。此外,一个深谱聚类方法被应用到嵌入到特征空间的潜在表示,并随后聚类它们,它可以充分利用输入之间的关系,以达到最佳的聚类结果。基准数据集上的实验结果表明,我们的方法可以显着优于国家的最先进的聚类方法。
2019-04-30 cs.CV cs.LG stat.ML
Multi-graph Fusion for Multi-view Spectral Clustering
University of Electronic Science and Technology of China(电子科技大学);Institute of High Performance Computing, A*STAR(新加坡科技研究局高性能计算研究所)
针对多视图数据的特点,提出了一系列的多视图聚类算法。其中,基于光谱聚类的方法近年来受到了广泛的关注,并取得了可喜的成果。尽管取得了进展,但迄今仍有两个基本问题没有得到回答。首先,如何将不同的视图融合到一个图中。通常情况下,样本之间的相似性可能会通过不同的视图以不同的方式表现出来。许多现有的算法要么简单地取多个视图的平均值,要么只学习一个公共图。这些简单的方法未能考虑所有视图的灵活的局部流形结构。因此,丰富的异构信息没有得到充分利用。第二,如何学习显式聚类结构。现有的谱聚类方法大多不考虑图的质量,将图学习和谱聚类分开进行。这些不可靠的图可能导致次优的聚类结果。为了填补这些空白,在本文中,我们提出了一种新的多视图谱聚类模型,同时进行图融合和谱聚类。融合图近似每个单独视图的原始图,但保持显式的聚类结构。四个广泛使用的数据集上的实验证实了所提出的方法的优越性。
2019-09-16 cs.CV cs.LG stat.ML
Joint Featurewise Weighting and Lobal Structure Learning for Multi-view Subspace Clustering
Zhaotong University(昭通学院);University of Macau(澳门大学);The University of Queensland(昆士兰大学)
多视图聚类集成了多个特征集,这些特征集揭示了数据的不同方面,并为彼此提供互补信息,以提高聚类性能。由于原始数据通常包含噪声并且是高度冗余的,因此有效地利用多个视图之间的互补信息仍然具有挑战性。此外,大多数现有的多视图聚类方法只着眼于探索所有视图的一致性,而忽略了每个视图的局部结构。然而,有必要考虑每个视图的局部结构,因为不同的视图将呈现不同的几何结构,而允许相同的簇结构。为了解决上述问题,我们提出了一种新的多视图子空间聚类方法,通过同时分配权重的不同功能和捕获本地信息的数据在特定的视图自表示特征空间。特别地,采用了一种通用的簇结构正则化方法来保证不同视图之间的一致性。一个有效的算法的基础上的增广拉格朗日乘子也被开发来解决相关的优化问题。在多个基准数据集上进行的实验表明,该方法达到了最先进的性能。我们在https://github.com/Ekin102003/JFLMSC上提供Matlab代码。
2020-07-25 cs.CV cs.LG stat.ML