Learning idempotent representation for subspace clustering
College of Information Engineering, Shanghai Maritime University(上海海事大学信息工程学院)
谱型子空间聚类算法成功的关键是寻找能真实反映数据集子空间结构的重构系数矩阵。理想的重构系数矩阵应该具有两个性质:1)它是块对角的,每个块指示子空间; 2)每个块是完全连接的。虽然已经提出了各种谱型子空间聚类算法,但这些算法构造的重构系数矩阵仍存在一些缺陷。我们发现,一个归一化的隶属度矩阵自然满足上述两个条件。因此,在本文中,我们设计了一个幂等表示(IDR)算法,以追求重建系数矩阵近似归一化隶属度矩阵。IDR为重构系数矩阵设计了一个新的幂等约束。结合双随机约束条件,可以直接得到接近于归一化隶属度矩阵的系数矩阵。给出了求解IDR问题的优化算法,分析了算法的计算量和收敛性。通过与相关算法的比较,说明了IDR算法的优越性.在人工数据集和真实数据集上进行的大量实验证明,IDR是一种有效的子空间聚类算法。
2022-07-29 cs.LG
Double Graphs Regularized Multi-view Subspace Clustering
College of Informatics, Huazhong Agricultural University(华中农业大学信息学院)
近年来,多视点子空间聚类技术引起了学术界的广泛关注。在本文中,我们提出了一种新的双图正则化多视图子空间聚类(DGRMSC)方法,其目的是利用全局和局部结构信息的多视图数据在一个统一的框架。具体来说,DGRMSC首先学习一个潜在的表示,以利用全局互补信息的多个视图。基于学习到的潜在表征,我们学习一个自我表征来探索它的全局聚类结构。此外,双重图正则化(DGR)执行的潜在表示和自我表示,同时利用他们的局部流形结构。然后,我们设计了一个迭代算法来有效地解决优化问题。在真实数据集上的实验结果表明了该方法的有效性。
2022-09-30 cs.LG
Graph Convolutional Subspace Clustering: A Robust Subspace Clustering Framework for Hyperspectral Image
China University of Geosciences(中国地质大学)
由于高光谱图像数据的复杂性,高光谱图像聚类是一项具有挑战性的任务。子空间聚类已被证明是强大的利用数据点之间的内在关系。传统的子空间聚类方法在HSI聚类中表现出了令人瞩目的性能,但往往忽略了数据间固有的结构信息。在本文中,我们重新审视子空间聚类与图卷积,并提出了一种新的子空间聚类框架称为图卷积子空间聚类(GCSC)的强大的HSI聚类。具体来说,该框架将数据的自我表达属性重新转换到非欧几里德域,从而产生更鲁棒的图嵌入字典。我们表明,传统的子空间聚类模型是我们的框架与欧几里德数据的特殊形式。在此基础上,利用Frobenius范数提出了两种新的子空间聚类模型,即高效GCSC(Efficient GCSC)和高效核GCSC(Efficient Kernel GCSC)。这两个模型都有一个全局最优的封闭形式的解决方案,这使得他们更容易实现,训练,并在实践中应用。在三个流行的HSI数据集上进行的大量实验表明,EGCSC和EKGCSC可以实现最先进的聚类性能,并显着优于许多现有的方法具有显着的利润率。
2020-04-22 cs.CV cs.LG
Attention-Guided Deep Adversarial Temporal Subspace Clustering (A-DATSC) Model for multivariate spatiotemporal data
University of Maryland, Baltimore County(马里兰大学巴尔的摩县)
针对多变量四维时空数据的复杂依赖与现有深度子空间聚类局限,提出结合 U-Net 式 ConvLSTM 生成器、判别器及图注意力 transformer 自表达网络的 A-DATSC,并在三个真实数据集上验证其优越性能。
2025-10-20 cs.LG
Subspace Clustering of Subspaces: Unifying Canonical Correlation Analysis and Subspace Clustering
Department of Electrical and Computer Engineering, University of Virginia(弗吉尼亚大学电气与计算机工程系)
本文提出SCoS框架,将矩阵样本按列空间聚类,通过三阶张量BTD联合估计聚类成员与部分共享子空间,并给出可辨识性结果和可扩展算法,高光谱实验显示其在高噪声下更准确鲁棒。
2025-09-26 cs.LG eess.SP
Subspace-Contrastive Multi-View Clustering
Sun Yat-sen University(中山大学);Macau University of Science and Technology(澳门科技大学)
大多数多视图聚类方法都受到浅层模型的限制,缺乏良好的非线性信息感知能力,或者无法有效地利用隐藏在不同视图中的互补信息。为了解决这些问题,我们提出了一种新的子空间对比多视图聚类(SCMC)方法。具体来说,SCMC利用特定于视图的自动编码器将原始多视图数据映射成感知其非线性结构的紧凑特征。考虑到不同模态数据之间存在较大的语义鸿沟,本文采用子空间学习方法将多视图数据统一到一个联合语义空间中,即将嵌入的紧凑特征通过多个自表达层分别学习子空间表示。为了提高区分度,有效挖掘各种子空间表示的互补性,在区分负对的同时,采用对比策略最大化正对之间的相似性。因此,加权融合方案的开发,最初学习一致的亲和矩阵。此外,我们采用图正则化来编码不同子空间内的局部几何结构,以进一步微调实例之间的适当亲和力。为了证明该模型的有效性,我们在8个挑战数据集上进行了大量的对比实验,实验结果表明SCMC优于现有的浅层和深层多视图聚类方法。
2022-10-13 cs.LG
Provable Data Clustering via Innovation Search
Cognitive Computing Lab(认知计算实验室);Baidu Research(百度研究院)
研究了高维环境空间中数据点位于线性子空间并的子空间聚类问题。当子空间之间的交集维数很大时,子空间聚类变得具有挑战性,并且大多数基于自表示的方法对聚类跨度之间的交集敏感。与基于自我表达的方法形成鲜明对比的是,最近提出的一种称为创新追求的聚类方法计算了一组最佳方向(创新方向)来构建邻接矩阵。本文重点介绍了创新追踪算法,阐明其令人印象深刻的性能时,子空间是严重的。结果表明,与大多数要求子空间充分不相干的现有方法相比,创新追求方法只要求子空间的创新成分充分不相干.这些新的充分条件允许簇彼此非常接近。在理论分析的基础上,提出了一种简单有效的基于投影的技术,数值和理论结果表明,该技术可以提高创新追求的性能。
2021-08-16 cs.LG
Guess Who Rated This Movie: Identifying Users Through Subspace Clustering
Massachusetts Institute of Technology(麻省理工学院);Technicolor(特艺集团);Stanford University(斯坦福大学)
通常情况下,在在线推荐系统中,多个用户共享一个公共帐户。这些共享帐户是否可以仅根据用户提供的评级来识别?一旦一个共享帐户被识别,共享它的不同用户也能被识别吗?只要这种用户识别是可行的,它就为个性化推荐的可能改进开辟了道路,但也引起了隐私问题。我们开发了一个模型的基础上的工会的线性子空间的复合帐户,并使用子空间聚类进行识别任务。我们表明,这些帐户的一个重要组成部分是可识别的可靠的方式,并说明个性化推荐的潜在用途。
2012-08-07 cs.LG
Deep Multi-View Subspace Clustering with Anchor Graph
University of Electronic Science and Technology of China(电子科技大学);Lehigh University(利哈伊大学)
提出基于锚图的深度多视图子空间聚类方法,通过锚图降低复杂度,利用伪标签优化嵌入,并结合对比学习增强聚类性能。
2023-05-11 cs.LG
Weighted Sparse Subspace Representation: A Unified Framework for Subspace Clustering, Constrained Clustering, and Active Learning
University of Cambridge(剑桥大学);Lancaster University(兰卡斯特大学)
基于谱的子空间聚类方法在许多具有挑战性的应用中已经被证明是成功的,例如基因测序、图像识别和运动分割。在这项工作中,我们首先提出了一种新的基于谱的子空间聚类算法,旨在表示每个点作为一个稀疏的凸组合的几个附近的点。然后,我们将算法扩展到约束聚类和主动学习设置。我们开发这样一个框架的动机源于这样一个事实,即通常可以提前获得少量的标记数据;或者有可能以一定的成本标记某些点。后一种情况通常在验证集群分配的过程中遇到。仿真和真实数据集上的实验表明,该方法是有效的,具有竞争力的国家的最先进的方法。
2021-06-08 cs.LG stat.ML
Tensor-based Intrinsic Subspace Representation Learning for Multi-view Clustering
Xi’an Jiaotong University(西安交通大学)
多视图聚类作为一个热点研究课题,在过去的几年中,提出了许多方法。然而,大多数现有的算法仅仅考虑不同视图之间的一致性信息进行聚类。在实际应用中,由于不同的视图通常包含不同的统计特性,这可能会影响多视图聚类的性能。为了解决这个问题,本文提出了一种新的基于张量的内在子空间表示学习(TISRL)的多视图聚类。具体地说,首先提出了保秩分解,有效地处理不同视图中包含的不同统计信息。然后,为了实现内在子空间表示,张量奇异值分解的基础上低秩张量约束也被利用在我们的方法。可以看出,保秩分解充分挖掘了不同视图中包含的特定信息,低秩张量约束挖掘了多视图数据的高阶相关性。目标函数可以通过基于增广拉格朗日乘子的交替方向最小化算法来优化。在9个常用的真实世界多视图数据集上的实验结果表明了TISRL的优越性。
2022-11-08 cs.LG
Filtrated Spectral Algebraic Subspace Clustering
Johns Hopkins University(约翰斯·霍普金斯大学)
代数子空间聚类(ASC)是一种基于多项式拟合和微分的简单而优雅的方法,用于对从任意子空间并集中提取的无噪声数据进行聚类。然而,在实践中,ASC限于等维子空间,因为通过代数方法估计的子空间维数是敏感的噪声。本文提出了一种新的ASC算法,可以处理从任意维的子空间中提取的噪声数据。该算法的核心思想是:(1)在每个点上构造一个包含通过该点的子空间的递减子空间序列;(2)利用该序列中任何一点到每个子空间的距离构造一个子空间聚类亲和度,该亲和度在理论和实践上都优于其他亲和度。在Hopkins 155数据集上的实验表明,该方法相对于稀疏和低秩子空间聚类方法具有优越性。
2015-10-15 cs.CV cs.LG
Customized Multiple Clustering via Multi-Modal Subspace Proxy Learning
School of Engineering and Technology, University of Washington(华盛顿大学工程与技术学院);Alibaba Group(阿里巴巴集团);Zoom Video Communications(Zoom视频通讯公司)
本文提出Multi-Sub,一种基于多模态子空间代理学习的端到端多聚类方法,利用CLIP和GPT-4自动生成代理词作为子空间基,以定制化表示数据,满足用户特定分组需求,并在视觉多聚类任务中优于现有基线。
2024-11-06 cs.LG
Transformed Subspace Clustering
Indraprastha Institute of Information Technology(因德拉普拉斯信息技术学院);CentraleSupelec(中央高等电力学院)
子空间聚类假设数据可分离到单独的子空间。如此简单的假设并不总是成立的。我们假设,即使原始数据不能分离成子空间,也可以学习一个表示(变换系数),使得学习的表示可以分离成子空间。为了达到预期的目标,我们嵌入子空间聚类技术(局部线性流形聚类,稀疏子空间聚类和低秩表示)到变换学习。整个配方共同学习,从而产生一类新的方法,称为变换子空间聚类(TSC)。为了考虑非线性,核化扩展的TSC也被提出。为了测试所提出的技术的性能,基准进行图像聚类和文档聚类数据集。与国家的最先进的聚类技术的比较表明,我们的配方改进后,他们。
2019-12-10 cs.LG stat.ML
Residual Encoder-Decoder Network for Deep Subspace Clustering
Peking University(北京大学)
子空间聚类的目标是对位于低维线性子空间的并集中的未标记数据进行聚类。基于自动编码器的深度子空间聚类方法已经成为解决子空间聚类问题的一种非常流行的方法。然而,当前深度方法的训练收敛缓慢,这比传统方法效率低得多。我们提出了一种用于深度子空间聚类的残差编码器-解码器网络(RED-SC),它将卷积层和去卷积层与跳过层连接对称地连接起来,使用这种连接,训练收敛得更快。我们使用一个自我表达层,通过多个潜在空间的不同潜在表示来生成更准确的线性表示系数。实验结果表明,RED-SC算法在训练效率和聚类准确率上都具有一定的优势。此外,我们是第一个将残差编码器-解码器应用于无监督学习任务的人。
2019-10-12 cs.LG stat.ML
Sparse-Dense Subspace Clustering
Peking University(北京大学)
子空间聚类是指将高维数据聚类到低维子空间的联合中的问题。目前的子空间聚类方法通常是基于一个两阶段的框架。在第一阶段中,从数据生成亲和矩阵。在第二种方法中,谱聚类应用于亲和矩阵。然而,两阶段方法产生的亲和矩阵不能完全揭示来自同一子空间的数据点之间的相似性(子空间内相似性),导致不准确的聚类。此外,大多数方法无法解决大规模的聚类问题,由于效率低下。在本文中,我们首先提出了一个新的可扩展的稀疏方法称为迭代最大相关(IMC)从数据中学习的亲和矩阵。然后,我们开发了分段相关估计(PCE),以增加由IMC产生的子空间内的相似性。最后,我们将我们的工作扩展到一个稀疏-密集子空间聚类(SDSC)框架中,其中包含一个密集阶段来优化两阶段方法的亲和矩阵。我们表明,IMC是有效的聚类大规模数据时,PCE确保更好的性能IMC。我们也展示了SDSC框架的普遍性。在多个数据集上的实验证明了该方法的有效性。此外,我们是第一个在谱聚类之前对亲和矩阵进行加密的人,SDSC构成了建立通用的三阶段子空间聚类框架的第一次尝试。
2019-10-20 cs.LG stat.ML
Graph Connectivity in Noisy Sparse Subspace Clustering
Carnegie Mellon University(卡内基梅隆大学)
子空间聚类是将数据点聚类到低维线性/仿射子空间的并集中的问题。它是计算机视觉、图像处理和机器学习中许多重要问题的数学抽象。最近的一系列工作(4,19,24,20)为稀疏子空间聚类(4)提供了强有力的理论保证,稀疏子空间聚类是子空间聚类的最新算法,适用于无噪声和噪声数据集。它表明,在温和的条件下,以高概率没有两个点从不同的子空间聚集在一起。然而,由于臭名昭著的“图连通性问题”(15),这种保证不足以使聚类正确。在本文中,我们调查的图形连接性问题的噪声稀疏子空间聚类,并表明,一个简单的后处理过程是能够提供一致的聚类在一定的“一般位置”或“限制特征值”的假设。我们还表明,我们的条件几乎是紧对抗噪声扰动通过构建一个反例。这些结果提供了第一个确切的聚类保证嘈杂SSC的子空间的尺寸大于3。
2016-04-11 cs.LG stat.ML
Overcomplete Deep Subspace Clustering Networks
Johns Hopkins University(约翰斯·霍普金斯大学)
深度子空间聚类网络(DSC)通过使用具有全连接层的不完全深度自动编码器来利用自我表达属性,为无监督子空间聚类问题提供了一种有效的解决方案。该方法使用输入数据的不完全表示,这使得它不那么鲁棒并且更依赖于预训练。为了克服这一点,我们提出了一个简单而有效的替代方法-过完备深子空间聚类网络(ODSC),我们使用过完备表示子空间聚类。在我们提出的方法中,我们融合了来自欠完备和过完备自动编码器网络的特征,然后将其传递给自我表达层,从而使我们能够提取用于聚类的输入数据的更有意义和鲁棒的表示。在四个基准数据集上的实验结果表明,该方法在聚类错误方面优于DSC和其他聚类方法。我们的方法也不像DSC那样依赖于应该停止预训练以获得最佳性能,并且对噪声也更鲁棒。代码- \href{https://github.com/jeya-maria-jose/Overcomplete-Deep-Subspace-Clustering} {https:github.com/jeya-maria-jose/Overcomplete-Deep-Subspace-Clustering
2020-11-16 cs.CV cs.LG
Adaptive Graph Convolutional Subspace Clustering
Shanghai Maritime University(上海海事大学)
针对现有谱类型子空间聚类算法约束与特征提取分离的问题,提出自适应图卷积子空间聚类方法,同步实现特征提取与系数矩阵约束,经实验验证性能优于相关方法及部分深度模型。
2023-05-05 cs.AI cs.LG
A Nonlinear Orthogonal Non-Negative Matrix Factorization Approach to Subspace Clustering
Ruder Bošković Institute(鲁杰尔·博什科维奇研究所);ETH Zürich, Swiss Federal Institute of Technology(苏黎世联邦理工学院)
最近的理论分析表明,非负矩阵分解(NMF)和谱聚类方法之间的等价性的子空间聚类。由于NMF和它的许多变种本质上是线性的,我们引入了一个非线性NMF显式正交性,并推导出一般的基于核的正交乘法更新规则来解决子空间聚类问题。在非线性正交NMF框架下,提出了两种基于核的非负子空间聚类算法KNSC-Ncut和KNSC-Rcut,并将其与谱归一化割和比率割聚类进行了比较。我们进一步扩展了非线性正交NMF框架,并引入了一个图正则化,以获得一个因子分解,尊重非线性映射后的数据的局部几何结构。所提出的基于NMF的子空间聚类方法考虑到流形的非线性性质,以及其固有的局部几何形状,这大大提高了聚类性能相比,最近提出的几个国家的最先进的方法。
2017-09-29 cs.LG stat.ML
Groupwise Constrained Reconstruction for Subspace Clustering
School of Computer Science, Fudan University(复旦大学计算机科学学院);University of Technology, Sydney(悉尼科技大学)
基于重构的子空间聚类方法计算样本的自重构矩阵,并将其用于谱聚类以获得最终的聚类结果。它们的成功很大程度上依赖于基本子空间是独立的假设,然而,这并不总是在子空间数量增加的应用中成立。在本文中,我们提出了一种新的基于重构的子空间聚类模型,而不做子空间独立性假设。在我们的模型中,重建矩阵的某些属性使用潜在聚类指标来明确表征,并且用于谱聚类的亲和矩阵可以直接从潜在聚类指标的后验而不是重建矩阵中构建。在合成数据集和真实数据集上的实验结果表明,该模型的性能优于现有的方法。
2012-06-18 cs.LG stat.ML
Multiple Independent Subspace Clusterings
Southwest University(西南大学);George Mason University(乔治梅森大学);China University of Geosciences(中国地质大学);Beijing University Of Civil Engineering and Architecture(北京建筑大学)
多重聚类旨在发现将数据组织成聚类的各种方法。尽管取得了进展,但对于用户来说,分析和理解每个输出聚类的独特结构仍然是一个挑战。为了简化这个过程,我们考虑不同的聚类嵌入在不同的子空间,并分析嵌入子空间,以揭示每个聚类的结构。为此,我们提供了一个两阶段的方法,称为MISC(多个独立子空间插值)。在第一阶段,MISC使用独立子空间分析来寻找多个统计独立(即非冗余)的子空间,并通过最小描述长度原则来确定子空间的数量。在第二阶段,为了解释嵌入每个子空间中的样本的内在几何结构,MISC执行图正则化半非负矩阵分解来探索聚类。它还将内核技巧集成到矩阵分解中,以处理非线性可分离的聚类。在人工数据集上的实验结果表明,MISC算法可以从所寻找的独立子空间中发现不同的有趣聚类,并且在真实数据集上的性能优于其他相关和竞争性方法。
2019-05-10 cs.LG stat.ML
Analysis of Sparse Subspace Clustering: Experiments and Random Projection
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);DePaul University(德保罗大学)
聚类可以定义为将对象组合成若干组的过程,这些组的元素以某种方式彼此相似。聚类作为一种广泛应用于人脸聚类、植物分类、图像分割、文档分类等领域的技术,被认为是无监督学习中最重要的问题之一。多年来,科学家们一直在研究这个问题,并开发了不同的技术来解决这个问题,例如k-means聚类。我们分析这些技术之一:一个强大的聚类算法称为稀疏子空间聚类。我们使用这种方法演示了几个实验,然后介绍了一种新的方法,可以减少执行稀疏子空间聚类所需的计算时间。
2022-04-01 cs.LG math.OC
Subspace Clustering with Active Learning
Lancaster University(兰卡斯特大学)
子空间聚类是一个不断发展的无监督学习领域,在计算机视觉社区中非常受欢迎。可以在运动分割和人脸聚类等领域找到应用。它假设数据来自子空间的并集,并根据相应的子空间对数据进行聚类。在实践中,合理的假设是,可以获得有限数量的标签,可能是有成本的。因此,算法,可以有效地和高效地将这些信息,以改善聚类模型是可取的。在本文中,我们提出了一个主动学习框架的子空间聚类,顺序查询信息点和更新的子空间模型。所提出的框架的查询阶段依赖于从扰动理论的主成分分析的结果,以确定有影响力的和潜在的误分类点。提出了一种约束子空间聚类算法,该算法在标签数据约束条件下,单调递减目标函数。我们表明,我们提出的框架是适合的子空间聚类算法,包括迭代方法和谱方法。在合成数据集、运动分割数据集和Yale Faces数据集上的实验证明了我们提出的主动策略优于最先进的主动策略。
2019-11-11 cs.LG stat.ML
Masked Subspace Clustering Methods
Beijing Institute of Mathematical Sciences and Applications(北京数学科学研究所);Tsinghua University(清华大学)
本文提出BCO框架及BMSC、GMSC、RMSC三种掩码子空间聚类方法,通过硬掩码、软掩码及交替更新机制提升聚类性能,并在多个常用数据集上验证了显著效果。
2025-05-11 cs.LG math.OC
Learning with $\ell^{0}$-Graph: $\ell^{0}$-Induced Sparse Subspace Clustering
稀疏子空间聚类方法,如稀疏子空间聚类(SSC)\cite{ElhamifarV13}和$\ell^{1}$ -图\cite{YanW09,ChengYYFH10},在划分位于子空间的并集中的数据时是有效的。这些方法大多使用$\ell^{1}$ -范数或带阈值的$\ell^{2}$ -范数来赋予所构造的稀疏相似图的稀疏性,并且需要对子空间进行一定的假设,例如独立性或不相交性,以获得子空间稀疏表示,这是它们成功的关键。这样的假设并不能保证在实践中成立,它们限制了稀疏子空间聚类在具有一般位置的子空间上的应用。本文提出了一种新的稀疏子空间聚类方法$\ell^{0}$ -图。与现有的稀疏子空间聚类方法对子空间的要求不同,证明了在温和的同分布下,对于任意不同的底层子空间,几乎必然可以用$\ell^{0}$ -图得到子空间的稀疏表示.数据生成的假设。我们开发了一个近似的方法来获得次优解的$\ell^{0}$ -图的优化问题,证明了收敛性的保证。此外,我们提出了一个正则化的$\ell^{0}$ -图,鼓励附近的数据有类似的邻居,使相似性图是更对齐的每个集群和图的连通性问题得到缓解。在不同数据集上的大量实验结果证明了$\ell^{0}$ -图与其他竞争聚类方法相比的优越性,以及正则化$\ell^{0}$ -图的有效性。
2015-11-18 cs.CV cs.LG
Scalable Sparse Subspace Clustering via Ordered Weighted $\ell_1$ Regression
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文的主要贡献是一种新的子空间聚类方法,该方法比现有的最先进的方法具有更高的计算效率和可扩展性。其中心思想是修改稀疏子空间聚类(SSC)中的回归技术,通过用称为有序加权$\ell_1$(OWL)最小化的泛化来替换$\ell_1$最小化,该泛化同时执行相关变量的回归和聚类。利用随机几何图理论,我们证明了OWL回归在每个子空间内选择更多的点,从而产生更好的聚类结果。这允许基于仅针对总数据集的一小部分的回归解决方案的精确子空间聚类,与SSC相比显著降低了计算复杂性。在实验中,我们发现我们的OWL方法可以实现20 $\times$到30 $\times$的合成问题和4 $\times$到8 $\times$的实际数据问题的加速比。
2018-07-10 cs.LG stat.ML
Large-Scale Sparse Subspace Clustering Using Landmarks
University of Massachusetts Lowell(马萨诸塞大学洛厄尔分校)
基于将每个数据点表示为数据集中所有其他点的线性组合的子空间聚类方法是流行的无监督学习技术。然而,现有的方法招致高计算复杂性的大规模数据集,因为它们需要解决一个昂贵的优化问题,并执行大型亲和矩阵的谱聚类。本文提出了一种有效的子空间聚类方法,通过选择一个小子集的输入数据称为地标。由此产生的子空间聚类方法在减少域运行在线性时间相对于原始数据的大小。对合成数据和实际数据的数值实验表明了该方法的有效性。
2019-08-02 cs.LG stat.ML
Neural Ordinary Differential Equation Model for Evolutionary Subspace Clustering and Its Applications
The University of Sydney(悉尼大学);Fudan University(复旦大学)
神经元常微分方程(neural odular differential equation,简称neural ODE)模型由于其处理不规则时间步长的能力,在时间序列分析中受到越来越多的关注,在等间隔的时间间隔上没有观察到数据。在多维时间序列分析中,一个任务是进行进化子空间聚类,目的是根据时间数据的低维子空间结构进行聚类。现有的时间序列分析方法只能处理具有规则时间步长的时间序列,而时间序列在很多情况下是不均匀采样的,比如数据缺失。在本文中,我们提出了一个进化子空间聚类的神经ODE模型,以克服这一限制,并引入了一个新的目标函数与子空间的自我表达约束。我们证明,该方法不仅可以插值数据在任何时间步的进化子空间聚类任务,但也实现了更高的精度比其他国家的最先进的进化子空间聚类方法。合成和真实世界的数据来说明我们所提出的方法的有效性。
2021-07-22 cs.AI cs.LG
Research on Clustering Performance of Sparse Subspace Clustering
School of IoT Engineering, Jiangnan University(江南大学物联网工程学院)
近年来,稀疏子空间聚类已成为处理高维数据的有效工具。在稀疏子空间聚类的框架中有两个基本步骤。一种是求解数据的系数矩阵,另一种是由系数矩阵构造亲和矩阵,并将其应用于谱聚类。本文在现有算法的基础上,从聚类精度和稳定性两个方面研究了影响聚类性能的因素。我们选择了四种方法来求解系数矩阵,并使用四种不同的方法来构造每个系数矩阵的相似度矩阵。然后,我们比较了不同的组合在三个数据集上的聚类性能。实验结果表明,系数矩阵和亲和度矩阵对聚类性能影响很大,如何开发稳定有效的算法仍需研究。
2019-12-21 cs.CV cs.LG
Leveraging Union of Subspace Structure to Improve Constrained Clustering
University Michigan(密歇根大学)
在计算机视觉和其他背景下的许多聚类问题也是分类问题,其中每个聚类共享一个有意义的标签。特别是子空间聚类算法通常应用于符合这种描述的问题,例如人脸图像或手写数字。虽然在这些数据集上请求人工输入很简单,但我们的目标是尽可能减少这种输入。我们提出了一个成对约束的聚类算法,积极选择查询的基础上的联盟的子空间模型。该算法的中心步骤是在查询点之间的最小间隔估计的子空间,类似于分类器的利润,这些谎言附近的决策边界。我们证明了位于子空间的交点附近的点是具有低边缘的点。我们的程序可以在任何输出亲和矩阵的子空间聚类算法之后使用。我们在几个数据集上证明,我们的算法比具有子空间结构的数据集上的最先进的主动查询算法更快地降低了聚类错误,并且在其他数据集上具有竞争力。
2017-09-13 cs.CV cs.LG
Restricted Connection Orthogonal Matching Pursuit For Sparse Subspace Clustering
Information Security Lab, Institute of Big Data Technologies,\ Graduate School, Peking University
稀疏子空间聚类(SSC)是将数据点聚类到其底层子空间的最流行的方法之一。然而,SSC可能遭受沉重的计算负担。应用于SSC的正交匹配追踪加速了计算,但代价是聚类精度的损失。本文提出了一种抗噪声的稀疏子空间聚类算法--限制连接正交匹配追踪算法(RCOMP-SSC),该算法通过限制OMP迭代过程中每个数据点的连接数来提高聚类精度并保持较低的计算时间。此外,我们开发了一个控制矩阵的框架,实现RCOMP-SCC。该框架可扩展到其他数据点选择策略。我们的分析和实验合成数据和两个真实世界的数据库(EYaleB & USPS)证明了我们的算法相比,其他聚类方法的精度和计算时间的优越性。
2019-05-01 cs.LG stat.ML
Large-Scale Subspace Clustering via k-Factorization
The Chinese University of Hong Kong (Shenzhen)(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院)
子空间聚类(SC)的目标是对低维子空间的并集中的数据进行聚类。通常,SC学习亲和矩阵,然后执行谱聚类。这两个步骤都具有很高的时间和空间复杂度,这导致难以对大型数据集进行聚类。本文提出了一种大规模子空间聚类的方法,称为k-因子子空间聚类(k-FSC)。K-FSC通过在矩阵分解模型中追求结构稀疏性,直接将数据分解为k组。因此,k-FSC避免了学习亲和矩阵和执行特征值分解,并且在大数据集上具有低(线性)时间和空间复杂度。本文从理论上证明了k-FSC模型的有效性。提出了一种保证收敛性的k-FSC优化算法。此外,k-FSC能够处理稀疏噪声、离群值和缺失数据,这些在实际应用中普遍存在。本文还为k-FSC提供了在线扩展和样本外扩展,以处理流数据和聚类任意大的数据集。在大规模真实数据集上的大量实验表明,k-FSC及其扩展优于最先进的子空间聚类方法。
2021-05-30 cs.AI cs.LG
Deep Closed-Form Subspace Clustering
SI Analytics(SI Analytics公司)
我们提出了深度闭型子空间聚类(DCFSC),一个新的非常简单的模型,用于子空间聚类与学习非线性映射。与以前的深度子空间聚类(DSC)技术相比,我们的DCFSC没有任何参数在所有的自我表达层。相反,DCFSC利用了隐式数据驱动的自表达层,该层来自封闭形式的浅层自动编码器。此外,DCFSC也没有复杂的优化方案,不像其他的子空间聚类方法。由于其极其简单,DCFSC与现有的DSC方法相比具有显着的内存相关优势,特别是在大型数据集上。实验结果表明,DCFSC模型有足够的潜力成为一个新的参考模型的子空间聚类的大规模高维数据集。
2019-08-26 cs.CV cs.LG stat.ML
Is an Affine Constraint Needed for Affine Subspace Clustering?
University of California, Berkeley(加州大学伯克利分校);Beijing University of Posts and Telecommunications(北京邮电大学);Johns Hopkins University(约翰斯·霍普金斯大学)
子空间聚类方法基于将每个数据点表示为其他数据点的线性组合,在计算机视觉应用中取得了巨大的成功,如运动分割、人脸和数字聚类。在人脸聚类中,子空间是线性的,可以直接应用子空间聚类方法。在运动分割中,子空间是仿射的,并且经常对系数施加附加的仿射约束。然而,由于仿射子空间总是可以嵌入到额外一维的线性子空间中,因此不清楚仿射约束是否真的必要。本文表明,理论和经验,当周围空间的维数是高的仿射子空间的维数之和,仿射约束聚类性能的影响可以忽略不计。具体来说,我们的分析提供了条件,保证正确的仿射子空间聚类方法,有和没有仿射约束,并表明这些条件是满足高维数据。分析的基础是仿射独立子空间的概念,它不仅提供了几何上可解释的正确性条件,而且还澄清了现有的仿射子空间聚类结果之间的关系。
2020-05-08 cs.CV cs.LG stat.ML
Scalable Bottom-up Subspace Clustering using FP-Trees for High Dimensional Data
The University of Melbourne(墨尔本大学);Deakin University(迪肯大学);Data61, CSIRO(联邦科学与工业研究组织Data61)
子空间聚类的目的是从高维数据集中找到存在于低维子空间中的相似对象组(聚类)。它具有广泛的应用,例如分析高维传感器数据或DNA序列。然而,现有的算法在发现非不相交子空间中的聚类和扩展到大数据方面存在局限性,这影响了它们在生物信息学和物联网等领域的适用性。我们的目标是解决这样的限制,提出了一个子空间聚类算法使用自自底向上的【形】的策略。我们的算法首先在低维子空间中搜索基簇。然后,它使用这些基础集群,我们制定为一个频繁模式挖掘问题,在高维子空间中形成集群。这个公式可以有效地搜索高维子空间中的聚类,这是使用FP树完成的。所提出的算法进行评估,对传统的自自底向上的【形】的聚类算法和国家的最先进的子空间聚类算法。实验结果表明,该算法产生的聚类具有较高的准确性,并能很好地扩展到大数据量。我们还展示了算法的性能,使用现实生活中的数据,包括十个基因组数据集和一个停车场占用数据集。
2018-11-07 cs.LG stat.ML
A Novel Efficient Approach with Data-Adaptive Capability for OMP-based Sparse Subspace Clustering
Shenzhen Graduate School, Peking University(北京大学深圳研究生院)
正交匹配追踪算法在数据科学及其稀疏子空间聚类、图像处理等应用中有着重要的作用。然而,现有的基于OMP的方法缺乏数据自适应性,从而不能很好地表示数据,并可能失去准确性。本文提出了一种新的方法,以提高基于OMP的稀疏子空间聚类的数据自适应能力。在我们的方法中,参数选择过程的基础上调整的数据分布的信息表示的参数。我们的理论分析表明,参数选择过程可以有效地协调任何OMP为基础的方法,以提高聚类性能。此外,一个新的自我表达的亲和力(SEA)比率度量的定义来衡量稀疏表示转换效率的谱聚类,以获得数据分割。实验结果表明,与其他基于OMP的稀疏子空间聚类算法相比,该算法在聚类精度、SEA比和表示质量等方面均具有更好的性能,同时保持了时间效率和抗噪能力。
2019-08-30 cs.LG stat.ML
Towards Clustering-friendly Representations: Subspace Clustering via Graph Filtering
University of Electronic Science and Technology of China(电子科技大学)
在许多应用程序中,为特定任务找到合适的数据表示已被证明是至关重要的。子空间聚类的成功依赖于数据可以被分成不同子空间的假设。然而,这个简单的假设并不总是成立的,因为原始数据可能无法分成子空间。为了恢复“聚类友好”的表示,并促进后续的聚类,我们提出了一个图过滤方法,通过该方法实现了平滑的表示。具体来说,它通过应用低通滤波器来提取有用的数据表示以进行聚类,从而将图相似性注入到数据特征中。在图像和文档聚类数据集上的大量实验表明,我们的方法改进了最先进的子空间聚类技术。特别是,它与深度学习方法的性能相当,强调了简单图过滤方案在许多实际应用中的有效性。消融研究表明,图滤波可以去除噪声,保持图像中的结构,并增加类的可分性。
2021-06-18 cs.AI cs.CV cs.LG
Sparse Subspace Clustering Friendly Deep Dictionary Learning for Hyperspectral Image Classification
Delhi Technical University(德里技术大学);Indraprastha Institute of Information Technology Delhi(德里因陀罗普拉斯塔信息技术学院)
子空间聚类技术在高光谱图像分割中显示出良好的应用前景。子空间聚类的基本假设是属于不同聚类/段的样本位于可分离的子空间中。如果这个条件不成立呢?我们推测,即使该条件在原始空间中不成立,数据也可以被非线性地变换到一个空间,在该空间中它将可分离成子空间。在这项工作中,我们提出了一种基于深度字典学习(Deep Dictionary Learning,简称DCL)原则的转换。特别是,我们将稀疏子空间聚类(SSC)的损失,在numerical制定。在这里,非线性变换数据,使得变换后的表示(数据的)可分离为子空间。我们表明,所提出的配方提高了最先进的深度学习技术在高光谱图像聚类。
2021-11-27 cs.CV cs.LG eess.IV
Subspace Clustering through Sub-Clusters
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);Duke University(杜克大学)
降维问题在现代数据分析中越来越重要。在本文中,我们考虑在一个高维空间作为一个低维子空间的联合建模的点的集合。特别是,我们提出了一个高度可扩展的采样算法,集群的整个数据通过第一个频谱聚类的一个小随机样本,然后分类或标记其余的样本点。关键的想法是,这个随机子集借用整个数据集的信息,聚类点的问题可以用更有效和更鲁棒的“聚类子聚类”问题来代替。我们为我们的程序提供理论保证。数值结果表明,我们优于其他国家的最先进的子空间聚类算法的精度和速度。
2020-06-11 cs.LG stat.ML
Seeking Commonness and Inconsistencies: A Jointly Smoothed Approach to Multi-view Subspace Clustering
South China Agricultural University(华南农业大学);Sun Yat-sen University(中山大学)
多视点子空间聚类旨在从多个视点中发现隐藏的子空间结构,以实现鲁棒聚类,近年来受到了广泛的关注。尽管已有的多视点子空间聚类算法取得了很大的进展,但仍存在两个局限性。首先,他们通常专注于多个视图的一致性(或共性),但往往缺乏捕捉子空间表示中的跨视图不一致性的能力。第二,他们中的许多人忽略了多个视图的局部结构,不能联合利用多个局部结构来增强子空间表示学习。为了解决这两个限制,在本文中,我们提出了一个联合平滑多视点子空间聚类(JSMC)的方法。具体来说,我们同时将跨视图的共性和不一致的子空间表示学习。提出了视图一致性分组效应,共同利用多个视图的局部结构对视图一致性表示进行正则化,并通过核范数将视图一致性表示与低秩约束相关联,以增强视图一致性表示的聚类结构.因此,跨视图的共性和不一致性,视图一致性分组效果,和低秩表示无缝地纳入到一个统一的目标函数,在此基础上,交替优化算法执行,以实现一个强大的子空间表示聚类。在多种真实世界多视图数据集上的实验结果证实了该方法的优越性。可用代码:https://github.com/huangdonghere/JSMC。
2022-10-31 cs.CV cs.LG
Learning Transformations for Clustering and Classification
Duke University(杜克大学)
提出了一种用于子空间聚类和分类的低秩变换学习框架。许多高维数据,如人脸图像和运动序列,近似地位于低维子空间的并集中。相应的子空间聚类问题已经在文献中得到了广泛的研究,以将这些高维数据划分为与其底层低维子空间相对应的聚类。然而,低维的内在结构经常被现实世界的观测所破坏,因为它们可能被错误破坏或偏离理想模型。我们建议通过学习子空间上的线性变换,使用矩阵秩,通过其凸代理核范数,作为优化标准来解决这个问题。学习的线性变换恢复来自相同子空间的数据的低秩结构,并且同时强制来自不同子空间的数据的最大分离结构。通过这种方式,我们减少了子空间内的变化,并增加了子空间之间的分离,以实现更鲁棒的子空间聚类。该学习鲁棒子空间聚类框架显著提高了现有子空间聚类方法的性能。这里提出的基本理论结果有助于进一步支持基本框架。为了利用变换后的子空间的低秩结构,我们进一步引入了一种快速子空间聚类技术,该技术有效地结合了鲁棒PCA和稀疏建模。当类标签出现在训练阶段时,我们发现这种低秩变换框架也显著提高了分类性能。使用公共数据集进行的大量实验表明,该方法显着优于最先进的子空间聚类和分类方法。
2014-03-09 cs.CV cs.LG stat.ML
Beyond Linear Subspace Clustering: A Comparative Study of Nonlinear Manifold Clustering Algorithms
Université de Mons(蒙斯大学)
子空间聚类是一种重要的无监督聚类方法。它基于高维数据点近似分布在几个低维线性子空间的假设。大多数著名的子空间聚类算法依赖于将数据点表示为其他数据点的线性组合,这被称为自表达表示。为了克服限制性的线性假设,许多非线性方法被提出来扩展成功的子空间聚类方法的非线性流形的并集上的数据。在这项比较研究中,我们提供了一个全面的概述非线性子空间聚类方法在过去十年中提出的。我们引入了一个新的分类法来分类的国家的最先进的方法分为三类,即局部保持,基于核,和神经网络为基础。每个类别中的主要代表性算法进行了广泛的比较精心设计的合成和真实世界的数据集。对这些方法的详细分析揭示了该领域潜在的研究方向和未解决的挑战。
2021-03-19 cs.AI cs.CV cs.LG
Three-Stage Subspace Clustering Framework with Graph-Based Transformation and Optimization
Peking University(北京大学);Institute of Big Data Technologies(大数据技术研究院)
子空间聚类(SC)是指将高维数据聚类到一个低维子空间的并集中的问题。基于谱聚类,国家的最先进的方法解决供应链问题的两阶段框架内。在第一阶段中,数据表示技术被应用于从原始数据绘制亲和矩阵。在第二阶段,谱聚类直接应用于亲和矩阵,使数据可以分组到不同的子空间。然而,在第一阶段获得的亲和矩阵通常无法揭示数据点之间的真实关系,这导致不准确的聚类结果。在本文中,我们提出了一个通用的三阶段子空间聚类框架(3S-SC)。在数据表示和谱聚类之间增加了基于图的转换和优化(GBTO)。在第一阶段中获得的亲和矩阵,然后它通过第二阶段,在那里提出的GBTO被应用于生成一个重建的亲和矩阵与更真实的数据点之间的相似性。在GBTO之后应用谱聚类,这是第三阶段。我们通过理论分析验证了我们的3S-SC框架与GBTO。在合成数据和真实世界的手写数字和人脸数据集上的实验证明了所提出的3S-SC框架在提高基于$\ell_0$、$\ell_1$、$\ell_2$或核范数正则化的SC方法的连通性和准确性方面的通用性。
2019-05-02 cs.LG stat.ML
Noisy $\ell^{0}$-Sparse Subspace Clustering on Dimensionality Reduced Data
Baidu Research(百度研究院);Arizona State University(亚利桑那州立大学)
研究表明,基于$\ell^{0}$范数的稀疏子空间聚类方法($\ell^{0}$-SSC)~ \citep{YangFJYH16-L0SSC-ijcv}比稀疏子空间聚类方法(SSC)~ $\ell^{1}$更有效.然而,$\ell^{0}$ -SSC的理论分析仅限于完全位于子空间中的干净数据。真实数据经常受到噪声的影响,并且它们可能位于子空间附近。在本文中,我们表明,噪声$\ell^{0}$ -SSC的优化问题的最佳解决方案实现子空间检测性能(SDP),一个关键因素,从不同的子空间的数据分离,在确定性和半随机模型。我们的结果首次从理论上保证了噪声$\ell^{0}$ -SSC在噪声数据上的SDP的正确性,从而揭示了噪声$\ell^{0}$ -SSC在对子空间亲和度的限制条件少得多方面的优势.为了提高噪声$\ell^{0}$ -SSC的效率,我们提出了Noisy-DR- $\ell^{0}$ -SSC,它可证明地恢复降维数据上的子空间。Noisy-DR- $\ell^{0}$ -SSC首先通过随机投影将数据投影到低维空间,然后对投影数据执行Noisy $\ell^{0}$ -SSC以提高效率。实验结果证明了Noisy-DR- $\ell^{0}$ -SSC的有效性。
2022-06-22 cs.LG stat.ML
Supervised Enhanced Soft Subspace Clustering (SESSC) for TSK Fuzzy Classifiers
Huazhong University of Science and Technology(华中科技大学);Shandong University of Finance and Economics(山东财经大学)
基于模糊c-均值的聚类算法经常用于TSK模糊分类器的先验参数估计。从每个集群初始化一个规则。然而,这些聚类算法大多是无监督的,这浪费了宝贵的标签信息的训练数据。提出了一种有监督的增强软子空间聚类算法(SESSC),该算法在聚类过程中同时考虑了类内紧致度、类间分离度和标签信息。它可以有效地处理高维数据,可以单独作为分类器使用,也可以集成到TSK模糊分类器中,进一步提高其性能。在不同应用领域的九个UCI数据集上的实验表明,基于SESSC的初始化方法优于其他聚类方法,特别是当规则数量较少时。
2020-02-27 cs.LG stat.ML
A Theoretical Analysis of Noisy Sparse Subspace Clustering on Dimensionality-Reduced Data
Carnegie Mellon University(卡内基梅隆大学)
子空间聚类是将未标记的数据点划分为多个簇的问题,使得一个簇内的数据点近似位于低维线性子空间上。在许多实际应用中,由于测量、计算或隐私等方面的限制,待聚类数据点的维数被压缩。本文研究了一种流行的子空间聚类算法稀疏子空间聚类(SSC)的理论性质,建立了稀疏子空间聚类在降维数据上的形式化成功条件。我们的分析适用于最一般的完全确定性模型,其中每个子空间内的底层子空间和数据点都是确定性定位的,并且还适用于各种降维技术(例如,高斯随机投影,均匀子采样,草图),落入子空间嵌入框架(Meng & Mahoney,2013; Avron等人,2014年)。最后,我们将我们的分析应用于差分私有SSC算法,并建立了所提出的方法的隐私和效用保证。
2016-10-24 cs.LG stat.ML
Scalable Deep Subspace Clustering Network
Department of Computer Science University of Quebec at Montreal(计算机科学系魁北克大学蒙特利尔分校)
SDSNet通过地标近似、联合优化和因子化表示实现O(n)复杂度,提升子空间聚类的计算效率
2025-12-24 cs.CV cs.LG
Attentive Multi-View Deep Subspace Clustering Net
China University of Petroleum, Beijing(中国石油大学(北京))
本文提出了一种新的注意多视图深子空间网(Attentive Multi-View Deep Subspace Nets,AMVDSN),该网络深入挖掘多视图中潜在的一致性和视图特定信息,并通过考虑注意力机制获得的每个视图的动态贡献来融合它们。与大多数多视图子空间学习方法直接在原始数据上重建数据点或在深或浅空间中学习表示时只考虑一致性或互补性不同,我们提出的方法寻求找到一个联合潜在表示,该联合潜在表示显式地考虑多个视图之间的一致性和视图特定信息,然后对学习到的联合潜在表示进行子空间聚类。由于不同视角对表示学习的贡献不同,本文引入了注意力机制来获取每个视角的动态权重,在多视角子空间聚类中,该融合方法的性能优于以往的融合方法。由于神经网络的框架,该算法是直观的,可以很容易地优化,只需使用随机梯度下降(SGD),这也提供了强大的非线性表征能力相比,传统的子空间聚类方法。七个真实世界的数据集上的实验结果表明,我们提出的算法对一些国家的最先进的子空间学习方法的有效性。
2021-12-23 cs.CV cs.LG
Subspace Clustering via Thresholding and Spectral Clustering
ETH Zurich(苏黎世联邦理工学院)
我们考虑的问题,聚类一组高维数据点到低维线性子空间的集合。子空间的数量、维度和方向都是未知的。我们提出了一个简单的和低复杂度的聚类算法的基础上阈值的数据点之间的相关性,其次是谱聚类。概率性能分析表明,该算法成功,即使当子空间相交时,当子空间的维度在环境维度中线性缩放(最多为对数因子)时。此外,我们证明了该算法也成功的数据点,受到擦除的擦除缩放(最多的对数因子)的数量在环境维度的线性。最后,我们提出了一个简单的方案,可证明检测离群值。
2013-03-15 cs.IT cs.LG math.IT
Subspace clustering without knowing the number of clusters: A parameter free approach
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
子空间聚类是无监督机器学习的基本任务之一,它是对来自子空间并集的高维数据进行聚类的任务。大多数现有的算法,这项任务需要先验知识的集群的数量,以及一些额外的参数,需要设置或调整的先验,根据要聚类的数据类型。在这项工作中,提出了一种无参数的子空间聚类方法,其中数据点被聚类的基础上的统计分布的差异的角度由一个子空间内的数据点和那些属于不同的子空间的点对向的角度。给定初始的细聚类,所提出的算法合并的集群,直到获得最终的聚类。与许多现有方法不同,这不需要先验的聚类数。此外,所提出的算法不涉及使用一个未知的参数或调整。%通过交叉验证。本文还讨论了一种无参数的初始聚类方法,使整个子空间聚类过程无参数。在合成数据集和真实数据集上,将该算法与现有的最新技术的性能进行了比较,表明了该方法的重要性。
2020-06-20 cs.LG eess.SP stat.ML
Socially Fair Center-based and Linear Subspace Clustering
Indian Institute of Science(印度科学学院);University of Maryland, College Park(马里兰大学帕克分校);Microsoft Research(微软研究院)
基于中心的集群(例如,$k$ -均值,$k$ -中位数)和使用线性子空间的聚类是将真实世界数据划分为更小聚类的两种最流行的技术。然而,当数据由敏感的人口统计组组成时,不同敏感组的每个点的显著不同的聚类成本可能导致公平性相关的损害(例如,不同的服务质量)。社会公平聚类的目标是最小化所有组中每个点的最大聚类成本。在这项工作中,我们提出了一个统一的框架来解决社会公平的基于中心的聚类和线性子空间聚类,并给出实用,高效的近似算法这些问题。我们做了大量的实验,以表明在多个基准数据集上,我们的算法要么接近匹配,要么优于最先进的基线。
2022-08-22 cs.CY cs.DS cs.LG
Multi-Level Representation Learning for Deep Subspace Clustering
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
本文提出了一种新的深度子空间聚类方法,该方法使用卷积自编码器将输入图像转换为位于线性子空间的并集上的新表示。我们工作的第一个贡献是在编码器层和它们对应的解码器层之间插入多个全连接的线性层,以促进学习更有利的子空间聚类表示。这些连接层通过组合低级和高级信息来促进特征学习过程,以在编码器的不同级别生成多组自我表达和信息表示。此外,我们引入了一种新的损失最小化问题,利用初始聚类的样本,有效地融合多层次的表示和恢复的基础子空间更准确。然后通过迭代方案使损失函数最小化,该迭代方案交替地更新网络参数并产生样本的新聚类。四个真实世界的数据集上的实验表明,我们的方法表现出优越的性能相比,国家的最先进的方法对大多数的子空间聚类问题。
2020-01-19 cs.CV cs.LG stat.ML
Group-Invariant Subspace Clustering
Tufts University(塔夫茨大学);University of Washington(华盛顿大学)
在本文中,我们考虑组不变子空间聚类的问题,其中的数据被假定为来自一个联盟的组不变的子空间的向量空间,即是不变的相对于一个给定的组的行动的子空间。代数上,这样的群不变子空间也被称为子模。类似于众所周知的稀疏子空间聚类方法,其中假设数据来自子空间的并集,我们分析了一种算法,在最近的工作[1]之后,我们将其称为稀疏子模块聚类(SSmC)。该方法是基于找到组稀疏的数据点的自我表示。在本文中,我们主要推导出一般条件下,这种群不变子空间识别是可能的。特别地,我们扩展了[2]中的几何分析,并且在此过程中,我们确定了几何泛函分析中的一个相关问题。
2015-10-15 cs.IT cs.LG math.IT