Doubly Stochastic Subspace Clustering
Cornell University（康奈尔大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
许多最先进的子空间聚类方法遵循两步过程，首先构建数据点之间的亲和矩阵，然后将谱聚类应用于该亲和矩阵。大多数对这些方法的研究都集中在生成亲和力的第一步，这通常利用线性子空间的自我表达特性，很少考虑产生最终聚类的谱聚类步骤。此外，现有的方法通常通过将ad-hoc或任意选择的后处理步骤应用于由自表达聚类公式生成的亲和力来获得在谱聚类步骤中使用的最终亲和力，这可能对整体聚类性能产生重大影响。在这项工作中，我们通过学习数据的自我表达表示和对谱聚类进行良好规范化的亲和矩阵来统一这两个步骤。在我们提出的模型中，我们将亲和矩阵约束为双重随机，这导致亲和矩阵归一化的原则方法，同时还利用了谱聚类中双重随机归一化的已知好处。我们开发了一个通用的框架，并得出两个模型：一个是共同学习的自我表达的表示与双随机亲和力，和一个顺序解决一个，然后其他。此外，我们利用稀疏性的问题，开发一个快速的活动集方法的顺序求解器，使大型数据集上的有效计算。实验表明，我们的方法在计算机视觉中的许多常见数据集上实现了最先进的子空间聚类性能。
2021-04-19 cs.AI cs.CV cs.LG
Overcomplete Deep Subspace Clustering Networks
Johns Hopkins University（约翰斯·霍普金斯大学）
深度子空间聚类网络（DSC）通过使用具有全连接层的不完全深度自动编码器来利用自我表达属性，为无监督子空间聚类问题提供了一种有效的解决方案。该方法使用输入数据的不完全表示，这使得它不那么鲁棒并且更依赖于预训练。为了克服这一点，我们提出了一个简单而有效的替代方法-过完备深子空间聚类网络（ODSC），我们使用过完备表示子空间聚类。在我们提出的方法中，我们融合了来自欠完备和过完备自动编码器网络的特征，然后将其传递给自我表达层，从而使我们能够提取用于聚类的输入数据的更有意义和鲁棒的表示。在四个基准数据集上的实验结果表明，该方法在聚类错误方面优于DSC和其他聚类方法。我们的方法也不像DSC那样依赖于应该停止预训练以获得最佳性能，并且对噪声也更鲁棒。代码- \href{https://github.com/jeya-maria-jose/Overcomplete-Deep-Subspace-Clustering} {https：github.com/jeya-maria-jose/Overcomplete-Deep-Subspace-Clustering
2020-11-16 cs.CV cs.LG
Adaptive Graph Convolutional Subspace Clustering
Shanghai Maritime University（上海海事大学）
针对现有谱类型子空间聚类算法约束与特征提取分离的问题，提出自适应图卷积子空间聚类方法，同步实现特征提取与系数矩阵约束，经实验验证性能优于相关方法及部分深度模型。
2023-05-05 cs.AI cs.LG
Learning with $\ell^{0}$-Graph: $\ell^{0}$-Induced Sparse Subspace Clustering
稀疏子空间聚类方法，如稀疏子空间聚类（SSC）\cite{ElhamifarV13}和$\ell^{1}$ -图\cite{YanW09,ChengYYFH10}，在划分位于子空间的并集中的数据时是有效的。这些方法大多使用$\ell^{1}$ -范数或带阈值的$\ell^{2}$ -范数来赋予所构造的稀疏相似图的稀疏性，并且需要对子空间进行一定的假设，例如独立性或不相交性，以获得子空间稀疏表示，这是它们成功的关键。这样的假设并不能保证在实践中成立，它们限制了稀疏子空间聚类在具有一般位置的子空间上的应用。本文提出了一种新的稀疏子空间聚类方法$\ell^{0}$ -图。与现有的稀疏子空间聚类方法对子空间的要求不同，证明了在温和的同分布下，对于任意不同的底层子空间，几乎必然可以用$\ell^{0}$ -图得到子空间的稀疏表示.数据生成的假设。我们开发了一个近似的方法来获得次优解的$\ell^{0}$ -图的优化问题，证明了收敛性的保证。此外，我们提出了一个正则化的$\ell^{0}$ -图，鼓励附近的数据有类似的邻居，使相似性图是更对齐的每个集群和图的连通性问题得到缓解。在不同数据集上的大量实验结果证明了$\ell^{0}$ -图与其他竞争聚类方法相比的优越性，以及正则化$\ell^{0}$ -图的有效性。
2015-11-18 cs.CV cs.LG
Neural Ordinary Differential Equation Model for Evolutionary Subspace Clustering and Its Applications
The University of Sydney（悉尼大学）；Fudan University（复旦大学）
神经元常微分方程（neural odular differential equation，简称neural ODE）模型由于其处理不规则时间步长的能力，在时间序列分析中受到越来越多的关注，在等间隔的时间间隔上没有观察到数据。在多维时间序列分析中，一个任务是进行进化子空间聚类，目的是根据时间数据的低维子空间结构进行聚类。现有的时间序列分析方法只能处理具有规则时间步长的时间序列，而时间序列在很多情况下是不均匀采样的，比如数据缺失。在本文中，我们提出了一个进化子空间聚类的神经ODE模型，以克服这一限制，并引入了一个新的目标函数与子空间的自我表达约束。我们证明，该方法不仅可以插值数据在任何时间步的进化子空间聚类任务，但也实现了更高的精度比其他国家的最先进的进化子空间聚类方法。合成和真实世界的数据来说明我们所提出的方法的有效性。
2021-07-22 cs.AI cs.LG
Research on Clustering Performance of Sparse Subspace Clustering
School of IoT Engineering, Jiangnan University（江南大学物联网工程学院）
近年来，稀疏子空间聚类已成为处理高维数据的有效工具。在稀疏子空间聚类的框架中有两个基本步骤。一种是求解数据的系数矩阵，另一种是由系数矩阵构造亲和矩阵，并将其应用于谱聚类。本文在现有算法的基础上，从聚类精度和稳定性两个方面研究了影响聚类性能的因素。我们选择了四种方法来求解系数矩阵，并使用四种不同的方法来构造每个系数矩阵的相似度矩阵。然后，我们比较了不同的组合在三个数据集上的聚类性能。实验结果表明，系数矩阵和亲和度矩阵对聚类性能影响很大，如何开发稳定有效的算法仍需研究。
2019-12-21 cs.CV cs.LG
Leveraging Union of Subspace Structure to Improve Constrained Clustering
University Michigan（密歇根大学）
在计算机视觉和其他背景下的许多聚类问题也是分类问题，其中每个聚类共享一个有意义的标签。特别是子空间聚类算法通常应用于符合这种描述的问题，例如人脸图像或手写数字。虽然在这些数据集上请求人工输入很简单，但我们的目标是尽可能减少这种输入。我们提出了一个成对约束的聚类算法，积极选择查询的基础上的联盟的子空间模型。该算法的中心步骤是在查询点之间的最小间隔估计的子空间，类似于分类器的利润，这些谎言附近的决策边界。我们证明了位于子空间的交点附近的点是具有低边缘的点。我们的程序可以在任何输出亲和矩阵的子空间聚类算法之后使用。我们在几个数据集上证明，我们的算法比具有子空间结构的数据集上的最先进的主动查询算法更快地降低了聚类错误，并且在其他数据集上具有竞争力。
2017-09-13 cs.CV cs.LG
Large-Scale Subspace Clustering via k-Factorization
The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）
子空间聚类（SC）的目标是对低维子空间的并集中的数据进行聚类。通常，SC学习亲和矩阵，然后执行谱聚类。这两个步骤都具有很高的时间和空间复杂度，这导致难以对大型数据集进行聚类。本文提出了一种大规模子空间聚类的方法，称为k-因子子空间聚类（k-FSC）。K-FSC通过在矩阵分解模型中追求结构稀疏性，直接将数据分解为k组。因此，k-FSC避免了学习亲和矩阵和执行特征值分解，并且在大数据集上具有低（线性）时间和空间复杂度。本文从理论上证明了k-FSC模型的有效性。提出了一种保证收敛性的k-FSC优化算法。此外，k-FSC能够处理稀疏噪声、离群值和缺失数据，这些在实际应用中普遍存在。本文还为k-FSC提供了在线扩展和样本外扩展，以处理流数据和聚类任意大的数据集。在大规模真实数据集上的大量实验表明，k-FSC及其扩展优于最先进的子空间聚类方法。
2021-05-30 cs.AI cs.LG
Deep Closed-Form Subspace Clustering
SI Analytics（SI Analytics公司）
我们提出了深度闭型子空间聚类（DCFSC），一个新的非常简单的模型，用于子空间聚类与学习非线性映射。与以前的深度子空间聚类（DSC）技术相比，我们的DCFSC没有任何参数在所有的自我表达层。相反，DCFSC利用了隐式数据驱动的自表达层，该层来自封闭形式的浅层自动编码器。此外，DCFSC也没有复杂的优化方案，不像其他的子空间聚类方法。由于其极其简单，DCFSC与现有的DSC方法相比具有显着的内存相关优势，特别是在大型数据集上。实验结果表明，DCFSC模型有足够的潜力成为一个新的参考模型的子空间聚类的大规模高维数据集。
2019-08-26 cs.CV cs.LG stat.ML
Is an Affine Constraint Needed for Affine Subspace Clustering?
University of California, Berkeley（加州大学伯克利分校）；Beijing University of Posts and Telecommunications（北京邮电大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
子空间聚类方法基于将每个数据点表示为其他数据点的线性组合，在计算机视觉应用中取得了巨大的成功，如运动分割、人脸和数字聚类。在人脸聚类中，子空间是线性的，可以直接应用子空间聚类方法。在运动分割中，子空间是仿射的，并且经常对系数施加附加的仿射约束。然而，由于仿射子空间总是可以嵌入到额外一维的线性子空间中，因此不清楚仿射约束是否真的必要。本文表明，理论和经验，当周围空间的维数是高的仿射子空间的维数之和，仿射约束聚类性能的影响可以忽略不计。具体来说，我们的分析提供了条件，保证正确的仿射子空间聚类方法，有和没有仿射约束，并表明这些条件是满足高维数据。分析的基础是仿射独立子空间的概念，它不仅提供了几何上可解释的正确性条件，而且还澄清了现有的仿射子空间聚类结果之间的关系。
2020-05-08 cs.CV cs.LG stat.ML
Sparse Subspace Clustering Friendly Deep Dictionary Learning for Hyperspectral Image Classification
Delhi Technical University（德里技术大学）；Indraprastha Institute of Information Technology Delhi（德里因陀罗普拉斯塔信息技术学院）
子空间聚类技术在高光谱图像分割中显示出良好的应用前景。子空间聚类的基本假设是属于不同聚类/段的样本位于可分离的子空间中。如果这个条件不成立呢？我们推测，即使该条件在原始空间中不成立，数据也可以被非线性地变换到一个空间，在该空间中它将可分离成子空间。在这项工作中，我们提出了一种基于深度字典学习（Deep Dictionary Learning，简称DCL）原则的转换。特别是，我们将稀疏子空间聚类（SSC）的损失，在numerical制定。在这里，非线性变换数据，使得变换后的表示（数据的）可分离为子空间。我们表明，所提出的配方提高了最先进的深度学习技术在高光谱图像聚类。
2021-11-27 cs.CV cs.LG eess.IV
Seeking Commonness and Inconsistencies: A Jointly Smoothed Approach to Multi-view Subspace Clustering
South China Agricultural University（华南农业大学）；Sun Yat-sen University（中山大学）
多视点子空间聚类旨在从多个视点中发现隐藏的子空间结构，以实现鲁棒聚类，近年来受到了广泛的关注。尽管已有的多视点子空间聚类算法取得了很大的进展，但仍存在两个局限性。首先，他们通常专注于多个视图的一致性（或共性），但往往缺乏捕捉子空间表示中的跨视图不一致性的能力。第二，他们中的许多人忽略了多个视图的局部结构，不能联合利用多个局部结构来增强子空间表示学习。为了解决这两个限制，在本文中，我们提出了一个联合平滑多视点子空间聚类（JSMC）的方法。具体来说，我们同时将跨视图的共性和不一致的子空间表示学习。提出了视图一致性分组效应，共同利用多个视图的局部结构对视图一致性表示进行正则化，并通过核范数将视图一致性表示与低秩约束相关联，以增强视图一致性表示的聚类结构.因此，跨视图的共性和不一致性，视图一致性分组效果，和低秩表示无缝地纳入到一个统一的目标函数，在此基础上，交替优化算法执行，以实现一个强大的子空间表示聚类。在多种真实世界多视图数据集上的实验结果证实了该方法的优越性。可用代码：https://github.com/huangdonghere/JSMC。
2022-10-31 cs.CV cs.LG
Learning Transformations for Clustering and Classification
Duke University（杜克大学）
提出了一种用于子空间聚类和分类的低秩变换学习框架。许多高维数据，如人脸图像和运动序列，近似地位于低维子空间的并集中。相应的子空间聚类问题已经在文献中得到了广泛的研究，以将这些高维数据划分为与其底层低维子空间相对应的聚类。然而，低维的内在结构经常被现实世界的观测所破坏，因为它们可能被错误破坏或偏离理想模型。我们建议通过学习子空间上的线性变换，使用矩阵秩，通过其凸代理核范数，作为优化标准来解决这个问题。学习的线性变换恢复来自相同子空间的数据的低秩结构，并且同时强制来自不同子空间的数据的最大分离结构。通过这种方式，我们减少了子空间内的变化，并增加了子空间之间的分离，以实现更鲁棒的子空间聚类。该学习鲁棒子空间聚类框架显著提高了现有子空间聚类方法的性能。这里提出的基本理论结果有助于进一步支持基本框架。为了利用变换后的子空间的低秩结构，我们进一步引入了一种快速子空间聚类技术，该技术有效地结合了鲁棒PCA和稀疏建模。当类标签出现在训练阶段时，我们发现这种低秩变换框架也显著提高了分类性能。使用公共数据集进行的大量实验表明，该方法显着优于最先进的子空间聚类和分类方法。
2014-03-09 cs.CV cs.LG stat.ML
Revisiting data augmentation for subspace clustering
University of Mons（蒙斯大学）
子空间聚类是一个经典的聚类问题，它将一组数据样本近似地分布在几个低维子空间中。目前最先进的方法，这个问题是基于自我表达的模型，代表其他样本的线性组合的样本。然而，这些方法需要足够分散的样本用于准确表示，这在许多应用中可能不一定是可访问的。在本文中，我们揭示了这个通常被忽视的问题，并认为每个子空间内的数据分布在自我表达模型的成功中起着至关重要的作用。我们提出的解决这个问题的解决方案的动机是数据增强在深度神经网络的泛化能力中的核心作用。我们提出了两个子空间聚类框架的无监督和半监督的设置，使用增强的样本作为一个扩大的字典，以提高自我表达的表示质量。我们提出了一个自动增强策略，使用一些标记的样本的半监督问题依赖的事实，即数据样本位于多个线性子空间的联合。实验结果证实了数据增强的有效性，因为它显着提高了一般的自我表达模型的性能。
2022-07-20 cs.AI cs.CV cs.LG
Scalable Deep Subspace Clustering Network
Department of Computer Science University of Quebec at Montreal（计算机科学系魁北克大学蒙特利尔分校）
SDSNet通过地标近似、联合优化和因子化表示实现O(n)复杂度，提升子空间聚类的计算效率
2025-12-24 cs.CV cs.LG
Attentive Multi-View Deep Subspace Clustering Net
China University of Petroleum, Beijing（中国石油大学（北京））
本文提出了一种新的注意多视图深子空间网（Attentive Multi-View Deep Subspace Nets，AMVDSN），该网络深入挖掘多视图中潜在的一致性和视图特定信息，并通过考虑注意力机制获得的每个视图的动态贡献来融合它们。与大多数多视图子空间学习方法直接在原始数据上重建数据点或在深或浅空间中学习表示时只考虑一致性或互补性不同，我们提出的方法寻求找到一个联合潜在表示，该联合潜在表示显式地考虑多个视图之间的一致性和视图特定信息，然后对学习到的联合潜在表示进行子空间聚类。由于不同视角对表示学习的贡献不同，本文引入了注意力机制来获取每个视角的动态权重，在多视角子空间聚类中，该融合方法的性能优于以往的融合方法。由于神经网络的框架，该算法是直观的，可以很容易地优化，只需使用随机梯度下降（SGD），这也提供了强大的非线性表征能力相比，传统的子空间聚类方法。七个真实世界的数据集上的实验结果表明，我们提出的算法对一些国家的最先进的子空间学习方法的有效性。
2021-12-23 cs.CV cs.LG
Robust Subspace Clustering via Tighter Rank Approximation
Southern Illinois University（南伊利诺伊大学）
矩阵秩最小化问题一般是NP-难的。核范数在最近的许多研究中被用来代替秩函数。然而，核范数近似将所有奇异值加在一起，并且近似误差可能在很大程度上取决于奇异值的大小。这可能会限制其处理许多实际问题的能力。在本文中，反正切函数被用来作为一个更紧密的逼近秩函数。我们将其用于具有挑战性的子空间聚类问题。对于这个非凸最小化问题，我们开发了一种有效的优化程序的基础上的一种增广拉格朗日乘子（ALM）方法。大量的人脸聚类和运动分割实验表明，该方法是有效的秩近似。
2015-10-30 cs.AI cs.CV cs.LG
Subspace Clustering of Subspaces: Unifying Canonical Correlation Analysis and Subspace Clustering
Department of Electrical and Computer Engineering, University of Virginia（弗吉尼亚大学电气与计算机工程系）
本文提出SCoS框架，将矩阵样本按列空间聚类，通过三阶张量BTD联合估计聚类成员与部分共享子空间，并给出可辨识性结果和可扩展算法，高光谱实验显示其在高噪声下更准确鲁棒。
2025-09-26 cs.LG eess.SP
Multi-Level Representation Learning for Deep Subspace Clustering
University of Texas at Arlington（德克萨斯大学阿灵顿分校）
本文提出了一种新的深度子空间聚类方法，该方法使用卷积自编码器将输入图像转换为位于线性子空间的并集上的新表示。我们工作的第一个贡献是在编码器层和它们对应的解码器层之间插入多个全连接的线性层，以促进学习更有利的子空间聚类表示。这些连接层通过组合低级和高级信息来促进特征学习过程，以在编码器的不同级别生成多组自我表达和信息表示。此外，我们引入了一种新的损失最小化问题，利用初始聚类的样本，有效地融合多层次的表示和恢复的基础子空间更准确。然后通过迭代方案使损失函数最小化，该迭代方案交替地更新网络参数并产生样本的新聚类。四个真实世界的数据集上的实验表明，我们的方法表现出优越的性能相比，国家的最先进的方法对大多数的子空间聚类问题。
2020-01-19 cs.CV cs.LG stat.ML
Self-Supervised Information Bottleneck for Deep Multi-View Subspace Clustering
Beijing Institute of Technology（北京理工大学）
本文从信息论的角度探讨了深度多视点子空间聚类框架问题。我们扩展了传统的信息瓶颈原理，以自监督的方式学习不同视图之间的共同信息，并相应地建立了一个新的框架称为自监督信息瓶颈的多视图子空间聚类（SIB-MSC）。继承了信息瓶颈的优点，SIB-MSC可以为每个视图学习潜在空间，通过从视图本身去除多余的信息，同时为其他视图的潜在表示保留足够的信息，来捕获不同视图的潜在表示之间的公共信息。实际上，每个视图的潜在表示为训练其他视图的潜在表示提供了一种自监督信号。此外，SIB-MSC尝试学习其他潜在空间为每个视图捕捉视图特定的信息，通过引入互信息为基础的正则化条款，以便进一步提高多视图子空间聚类的性能。据我们所知，这是第一个工作，探讨多视图子空间聚类的信息瓶颈。对真实世界多视图数据的大量实验表明，我们的方法比相关的国家的最先进的方法取得了优越的性能。
2022-04-29 cs.AI cs.LG
Scalable Sparse Subspace Clustering by Orthogonal Matching Pursuit
Johns Hopkins University（约翰斯·霍普金斯大学）
基于$\ell_1$、$\ell_2$或核范数正则化的子空间聚类方法由于其简单性、理论保证和经验成功而变得非常流行。然而，正则化子的选择可以极大地影响理论和实践。例如，保证$\ell_1$正则化给出子空间保持亲和性（即，在来自不同子空间的点之间没有连接）在广泛的条件下（例如，任意子空间和损坏的数据）。然而，它需要解决一个大规模的凸优化问题。另一方面，$\ell_2$和核范数正则化提供了有效的封闭形式解，但是需要非常强的假设来保证子空间保持亲和性，例如，独立的子空间和未损坏的数据。本文研究了一种基于正交匹配追踪的子空间聚类方法。我们表明，该方法是计算效率和保证在广泛的条件下，给一个子空间保持亲和力。在合成数据上的实验验证了理论分析的正确性，并在手写数字和人脸聚类中的应用表明，该方法在准确率和效率之间取得了最佳的平衡。
2016-05-05 cs.CV cs.LG stat.ML
Weighted Sparse Subspace Representation: A Unified Framework for Subspace Clustering, Constrained Clustering, and Active Learning
University of Cambridge（剑桥大学）；Lancaster University（兰卡斯特大学）
基于谱的子空间聚类方法在许多具有挑战性的应用中已经被证明是成功的，例如基因测序、图像识别和运动分割。在这项工作中，我们首先提出了一种新的基于谱的子空间聚类算法，旨在表示每个点作为一个稀疏的凸组合的几个附近的点。然后，我们将算法扩展到约束聚类和主动学习设置。我们开发这样一个框架的动机源于这样一个事实，即通常可以提前获得少量的标记数据;或者有可能以一定的成本标记某些点。后一种情况通常在验证集群分配的过程中遇到。仿真和真实数据集上的实验表明，该方法是有效的，具有竞争力的国家的最先进的方法。
2021-06-08 cs.LG stat.ML
Subspace Clustering using Ensembles of $K$-Subspaces
Portland State University（波特兰州立大学）；University of Pennsylvania（宾夕法尼亚大学）；University of California, Berkeley（加州大学伯克利分校）；University of Michigan（密歇根大学）
子空间聚类是对低维线性子空间的并集附近的点进行无监督分组。直接基于这些数据的几何特性的算法往往要么提供较差的经验性能，缺乏理论保证，要么严重依赖于它们的初始化。我们提出了一种新的几何方法的子空间聚类问题，利用合奏的K-子空间（KSS）算法通过证据积累聚类框架。我们的算法，被称为合奏K-子空间（EKSS），形成一个共关联矩阵，其第（i，j）项是点i和j被聚类在一起的随机初始化的KSS的几个运行的次数。我们证明一般恢复保证任何算法，形成一个亲和矩阵的条目接近成对绝对内积的单调变换。然后，我们表明，EKSS的一个具体实例的结果在这种形式的条目的亲和矩阵，因此我们提出的算法可以证明恢复子空间在类似的条件下，以国家的最先进的算法。据我们所知，这一发现是证据积累聚类和KSS变体的第一个恢复保证。我们显示合成数据，我们的方法表现良好，在传统的具有挑战性的设置的子空间与大的交集，子空间与小的主角度，和嘈杂的数据。最后，我们评估我们的算法在六个常见的基准数据集，并表明，与现有的方法不同，EKSS实现了出色的经验性能时，每个子空间都有一个小的和大量的点。
2021-01-06 cs.CV cs.LG stat.ML
Stochastic Sparse Subspace Clustering
Beijing University of Posts and Telecommunications（北京邮电大学）；University of California, Berkeley（加州大学伯克利分校）
最先进的子空间聚类方法是基于自表达模型，它将每个数据点表示为其他数据点的线性组合。通过强制这种表示是稀疏的，稀疏子空间聚类保证产生子空间保持数据亲和力，其中两个点只有在它们来自相同子空间时才连接。然而，另一方面，来自相同子空间的数据点可能没有良好连接，导致过度分割的问题。我们引入dropout来解决过度分割的问题，这是基于随机丢弃自表达模型中的数据点。特别地，我们证明了dropout等价于在表示系数上增加一个平方$\ell_2$范数正则化，从而诱导出更密集的解。然后，我们将优化问题重新表述为一组小规模子问题上的共识问题。这导致了一个可扩展的和灵活的稀疏子空间聚类方法，称为随机稀疏子空间聚类，它可以有效地处理大规模的数据集。在合成数据和真实世界数据集上的大量实验验证了我们的建议的效率和有效性。
2020-05-04 cs.CV cs.LG stat.ML
Transformed Subspace Clustering
Indraprastha Institute of Information Technology（因德拉普拉斯信息技术学院）；CentraleSupelec（中央高等电力学院）
子空间聚类假设数据可分离到单独的子空间。如此简单的假设并不总是成立的。我们假设，即使原始数据不能分离成子空间，也可以学习一个表示（变换系数），使得学习的表示可以分离成子空间。为了达到预期的目标，我们嵌入子空间聚类技术（局部线性流形聚类，稀疏子空间聚类和低秩表示）到变换学习。整个配方共同学习，从而产生一类新的方法，称为变换子空间聚类（TSC）。为了考虑非线性，核化扩展的TSC也被提出。为了测试所提出的技术的性能，基准进行图像聚类和文档聚类数据集。与国家的最先进的聚类技术的比较表明，我们的配方改进后，他们。
2019-12-10 cs.LG stat.ML
Anchor-based Multi-view Subspace Clustering with Hierarchical Feature Descent
College of Computer, National University of Defense Technology（国防科技大学计算机学院）；Intelligent Game and Decision Lab（智能游戏与决策实验室）；College of Intelligence Science and Technology, National University of Defense Technology（国防科技大学智能科学学院）
针对多视图特征对齐困难及谱聚类方法三次方复杂度问题，提出MVSC-HFD，通过层次特征下降、统一采样和锚点子空间聚类实现线性时间高效聚类，并在基准数据集上优于现有方法。
2024-04-09 cs.CV cs.LG
Multilinear Subspace Clustering
Tufts University（塔夫茨大学）
在本文中，我们提出了一个新的模型和算法的无监督聚类的2-D数据，如图像。我们假设数据来自一个多线性子空间的联合（UOMS）模型，这是一个特定的结构化的情况下，许多研究子空间的联合（UOS）模型。在此模型下的分割，我们开发了多线性子空间聚类（MSC）算法，并评估其性能的YaleB和Olivietti图像数据集。我们表明，MSC是具有很强的竞争力，现有的算法采用UOS模型的聚类性能，同时享受改善计算复杂性。
2015-12-21 cs.CV cs.IT cs.LG
Accelerated Sparse Subspace Clustering
University of Texas at Austin（德克萨斯大学奥斯汀分校）
用于稀疏子空间聚类的现有技术算法对相似性矩阵执行谱聚类，该相似性矩阵通常通过使用基追踪（BP）或正交匹配追踪（OMP）将每个数据点表示为其他点的稀疏组合来获得。基于BP的方法在实践中往往令人望而却步，而基于OMP的方案的性能并不令人满意，特别是在数据点高度相似的情况下。在本文中，我们提出了一种新的算法，利用正交最小二乘的加速变量，有效地找到底层的子空间。我们表明，在一定条件下，该算法返回一个子空间保持的解决方案。仿真结果表明，所提出的方法与基于BP的方法相比，在运行时间方面，而显着更准确的基于OMP的计划。
2017-10-31 cs.CV cs.LG stat.ML
Toward Multidiversified Ensemble Clustering of High-Dimensional Data: From Subspaces to Metrics and Beyond
South China Agricultural University（华南农业大学）；Pazhou Lab（琶洲实验室）；Sun Yat-sen University（中山大学）；Guangdong Key Laboratory of Information Security Technology（广东省信息安全技术重点实验室）；Key Laboratory of Machine Intelligence and Advanced Computing, Ministry of Education（教育部机器智能与先进计算重点实验室）；Nanyang Technological University（南洋理工大学）
各领域高维数据的迅速涌现给当前集成聚类研究带来了新的挑战。为了解决维数灾难问题，近年来人们在集成聚类中通过不同的基于子空间的方法进行了大量的研究。然而，除了强调子空间，相当有限的注意力已经支付给潜在的多样性相似性/相异性度量。如何创建和聚合大量的多样性度量，以及如何在统一的框架中联合研究大量度量、子空间和聚类中的多级多样性，仍然是集成聚类中令人惊讶的开放问题。为了解决这个问题，本文提出了一种新的多元集成聚类方法。特别是，我们创建了大量的多样化的度量随机化的指数相似性内核，然后再加上随机子空间，形成一个大的度量子空间对。基于从这些度量子空间对导出的相似性矩阵，从而可以构造多样化的基聚类的集合。此外，一个基于熵的标准是用来探索集群明智的多样性，在此基础上，提出了三个具体的集成聚类算法，将三种类型的共识功能。在30个高维数据集上进行了大量的实验，其中包括18个癌症基因表达数据集和12个图像/语音数据集，这表明我们的算法优于国家的最先进的。源代码可在https://github.com/huangdonghere/MDEC。
2021-09-05 cs.CV cs.LG
Multi-view Low-rank Sparse Subspace Clustering
Rudjer Boskovic Institute（鲁杰尔·博什科维奇研究所）
大多数现有的方法解决多视图子空间聚类问题，通过构造每个视图上的亲和矩阵，然后提出如何扩展谱聚类算法来处理多视图数据。本文提出了一种多视点子空间聚类方法，通过构造视点间共享的亲和矩阵来学习联合子空间表示。依赖于低秩和稀疏约束在亲和矩阵的构建中的重要性，我们引入了在不同观点之间的协议之间进行平衡的目标，同时鼓励解决方案的稀疏性和低秩。对于每个视图，采用乘子交替方向法求解相关的低秩稀疏约束优化问题。此外，我们将我们的方法扩展到集群数据从非线性子空间中解决相应的问题，在再生核希尔伯特空间。该算法优于国家的最先进的多视角子空间聚类算法在一个合成和四个真实世界的数据集。
2017-08-29 cs.CV cs.LG math.OC
Innovation Pursuit: A New Approach to Subspace Clustering
University of Central Florida（中佛罗里达大学）
在子空间聚类中，属于子空间的并集的一组数据点被分配到它们各自的子空间的成员资格。本文提出了一种新的方法，称为创新追求（iPursuit）的子空间聚类问题，使用一个新的几何思想，其中子空间被确定基于它们的相对新颖性。我们提出了两个框架，其中的创新追求的想法是用来区分子空间。第一个框架的基础是一个迭代法，它通过求解一系列简单的线性优化问题来连续地找到子空间，每个问题都在数据的跨度中搜索一个创新方向，该方向潜在地正交于除了在算法的一个步骤中要识别的子空间之外的所有子空间。提供了详细的数学分析，建立了iPursuit正确聚类数据的充分条件。该方法可以证明产生精确的聚类，即使子空间有显着的交集。它示出的迭代方法的复杂性尺度仅线性的数据点和子空间的数量，和二次的子空间的维度。第二个框架集成iPursuit与谱聚类产生一个新的变种的基于谱聚类的算法。真实数据和合成数据的数值模拟表明，iPursuit通常可以优于最先进的子空间聚类算法，尤其是对于具有重要交叉点的子空间，并且它显着改善了基于子空间分割的人脸聚类的最先进结果。
2017-11-26 cs.CV cs.IR cs.IT
Exploring a Principled Framework for Deep Subspace Clustering
Beijing University of Posts and Telecommunications（北京邮电大学）；Intellifusion（云天励飞）
针对现有深度子空间聚类框架存在特征崩溃、缺乏理论保证的问题，提出带正则项的PRO-DSC框架，可防止特征崩溃且有理论支撑，实验验证其性能优越。
2025-03-21 cs.CV cs.LG
Probabilistic Sparse Subspace Clustering Using Delayed Association
University of Central Florida（中佛罗里达大学）
发现和聚类高维数据中的子空间是机器学习的一个基本问题，在数据挖掘、计算机视觉和模式识别中有着广泛的应用。早期的方法将问题分为两个独立的阶段，即找到相似性矩阵和找到聚类。类似于最近的一些作品，我们整合这两个步骤使用联合优化方法。我们做出了以下贡献：（i）在将点分配给子空间之前，我们估计每个点的集群分配的可靠性。我们将数据点分为两组“确定”和“不确定”，后一组的分配延迟，直到他们的子空间关联确定性提高。(ii)我们证明了延迟关联更适合于聚类具有模糊性的子空间，即当子空间相交或数据被离群值/噪声污染时。(iii)我们的实验表明，这种延迟的概率关联导致更准确的自我表示和最终的集群。所提出的方法具有较高的精度都只位于一个子空间的点，和那些在子空间的交集。(iv)我们表明，延迟关联导致计算成本的巨大减少，因为它允许增量谱聚类。
2018-08-28 cs.CV cs.LG stat.ML
On Geometric Analysis of Affine Sparse Subspace Clustering
Beijing University of Posts and Telecommunications（北京邮电大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
稀疏子空间聚类（SSC）是一种最先进的方法，用于将从子空间的并集中提取的一组数据点分割到它们各自的子空间中。现在很好地理解，SSC在广泛的几何条件下产生子空间保持数据亲和性，但遭受连接问题。在本文中，我们开发了一种新的几何分析的SSC的变体，命名为仿射SSC（ASSC），从仿射子空间的联合聚类数据的问题。我们的贡献包括一个新的概念，称为仿射独立捕获的仿射子空间的集合的安排。在仿射独立的假设下，我们证明了ASSC保证产生子空间保持的亲和力。此外，灵感的现象，即$\ell_1$正则化不再引起稀疏的解决方案是非负的，我们进一步表明，子空间保持恢复可以实现在更弱的条件下，所有数据点以外的极端点，从每个子空间。此外，我们证实了一个奇怪的观察，由ASSC产生的亲和力可能是子空间密集的-这可以保证子空间保持的亲和力ASSC产生正确的聚类条件下，相当弱。我们验证了精心设计的合成数据的理论研究结果，并评估ASSC的性能在几个真实的数据集。
2018-11-21 cs.CV cs.LG eess.SP
Residual Encoder-Decoder Network for Deep Subspace Clustering
Peking University（北京大学）
子空间聚类的目标是对位于低维线性子空间的并集中的未标记数据进行聚类。基于自动编码器的深度子空间聚类方法已经成为解决子空间聚类问题的一种非常流行的方法。然而，当前深度方法的训练收敛缓慢，这比传统方法效率低得多。我们提出了一种用于深度子空间聚类的残差编码器-解码器网络（RED-SC），它将卷积层和去卷积层与跳过层连接对称地连接起来，使用这种连接，训练收敛得更快。我们使用一个自我表达层，通过多个潜在空间的不同潜在表示来生成更准确的线性表示系数。实验结果表明，RED-SC算法在训练效率和聚类准确率上都具有一定的优势。此外，我们是第一个将残差编码器-解码器应用于无监督学习任务的人。
2019-10-12 cs.LG stat.ML
Multi-view Subspace Adaptive Learning via Autoencoder and Attention
China University of Petroleum, Beijing Campus (CUP)（中国石油大学（北京））
多视图学习能够更全面地覆盖数据样本的所有特征，因此多视图学习受到了广泛的关注。传统的子空间聚类方法，如稀疏子空间聚类（SSC）和低秩子空间聚类（LRSC），聚类的亲和矩阵的单一视图，从而忽略了视图之间的融合问题。在本文中，我们提出了一种新的基于注意力和自编码器的多视点子空间自适应学习（MSALAA）。该方法结合了深度自编码器和多视图低秩稀疏子空间聚类（MLRSSC）中各视图自表示的对齐方法，既提高了对非线性拟合的能力，又满足了多视图学习的一致性和互补性原则。我们在六个真实数据集上观察到现有基线方法的显着改进。
2022-01-01 cs.CV cs.LG
Sparse-Dense Subspace Clustering
Peking University（北京大学）
子空间聚类是指将高维数据聚类到低维子空间的联合中的问题。目前的子空间聚类方法通常是基于一个两阶段的框架。在第一阶段中，从数据生成亲和矩阵。在第二种方法中，谱聚类应用于亲和矩阵。然而，两阶段方法产生的亲和矩阵不能完全揭示来自同一子空间的数据点之间的相似性（子空间内相似性），导致不准确的聚类。此外，大多数方法无法解决大规模的聚类问题，由于效率低下。在本文中，我们首先提出了一个新的可扩展的稀疏方法称为迭代最大相关（IMC）从数据中学习的亲和矩阵。然后，我们开发了分段相关估计（PCE），以增加由IMC产生的子空间内的相似性。最后，我们将我们的工作扩展到一个稀疏-密集子空间聚类（SDSC）框架中，其中包含一个密集阶段来优化两阶段方法的亲和矩阵。我们表明，IMC是有效的聚类大规模数据时，PCE确保更好的性能IMC。我们也展示了SDSC框架的普遍性。在多个数据集上的实验证明了该方法的有效性。此外，我们是第一个在谱聚类之前对亲和矩阵进行加密的人，SDSC构成了建立通用的三阶段子空间聚类框架的第一次尝试。
2019-10-20 cs.LG stat.ML
Nonlinear mixture model motivated subspace clustering
从非线性混合模型出发，通过泰勒展开推导出子空间聚类的线性子空间并集模型，揭示了平滑阶数、子空间维度和稀疏性之间的关系，并在六个基准数据集上验证了子空间维度估计的有效性。
2026-06-28 cs.CV cs.LG
Subspace Clustering via Optimal Direction Search
University of Central Florida（中佛罗里达大学）
这封信提出了一种新的基于谱聚类的子空间聚类问题的方法。支持所提出的方法是一个凸规划的最佳方向搜索，它为每个数据点d找到一个最佳方向的跨度的数据，具有最小的投影在其他数据点和非零投影d。随后利用所获得的方向来识别每个数据点的邻域集。提出了一种基于乘子框架的交替方向法，有效地求解最优方向。所提出的方法被证明是显着优于现有的子空间聚类方法，特别是对于笨拙的情况下，涉及高水平的噪声和封闭的子空间，并产生国家的最先进的结果，人脸聚类问题，使用子空间分割。
2017-11-26 cs.CV cs.IR cs.LG
Sparse Subspace Clustering for Concept Discovery (SSCCD)
Fraunhofer Heinrich-Hertz-Institute（弗劳恩霍夫海因里希·赫兹研究所）；TU Berlin（柏林工业大学）；Oldenburg University（奥尔登堡大学）
概念是人类更高层次理解的关键组成部分。近年来，可解释人工智能（XAI）方法取得了巨大的进展，然而，局部归因方法不允许识别跨样本的连贯模型行为，因此错过了这一重要组成部分。在这项工作中，我们研究了基于概念的解释，并提出了一个新的定义概念的低维子空间的隐藏特征层。我们新颖地应用稀疏子空间聚类来发现这些概念子空间。展望未来，我们从概念子空间的本地化输入（概念）地图方面获得见解，展示如何量化概念相关性，最后，评估概念之间的相似性和可转移性。我们经验证明了建议的稀疏子空间聚类概念发现（SSCCD）方法的各种不同的图像分类任务的合理性。这种方法可以更深入地了解实际模型的行为，而这些行为在传统的输入级热图中仍然是隐藏的。
2022-03-11 cs.AI cs.LG stat.ML
Graph Connectivity in Noisy Sparse Subspace Clustering
Carnegie Mellon University（卡内基梅隆大学）
子空间聚类是将数据点聚类到低维线性/仿射子空间的并集中的问题。它是计算机视觉、图像处理和机器学习中许多重要问题的数学抽象。最近的一系列工作（4，19，24，20）为稀疏子空间聚类（4）提供了强有力的理论保证，稀疏子空间聚类是子空间聚类的最新算法，适用于无噪声和噪声数据集。它表明，在温和的条件下，以高概率没有两个点从不同的子空间聚集在一起。然而，由于臭名昭著的“图连通性问题”（15），这种保证不足以使聚类正确。在本文中，我们调查的图形连接性问题的噪声稀疏子空间聚类，并表明，一个简单的后处理过程是能够提供一致的聚类在一定的“一般位置”或“限制特征值”的假设。我们还表明，我们的条件几乎是紧对抗噪声扰动通过构建一个反例。这些结果提供了第一个确切的聚类保证嘈杂SSC的子空间的尺寸大于3。
2016-04-11 cs.LG stat.ML
Learnable Subspace Clustering
Nanjing University of Science and Technology（南京理工大学）；Brandeis University（布兰迪斯大学）；Adobe Research（Adobe研究院）；Northeastern University（东北大学）
研究了百万数据点的大规模子空间聚类问题。许多流行的子空间聚类方法不能直接处理LSSC问题，尽管它们被认为是小规模数据点的最先进方法。一个根本原因是这些方法往往选择所有的数据点作为一个大字典来构建庞大的编码模型，这导致了很高的时间和空间复杂度。在本文中，我们开发了一个可学习的子空间聚类范式，有效地解决LSSC问题。其关键思想是学习一个参数函数来将高维子空间划分为它们的底层低维子空间，而不是经典编码模型的昂贵成本。此外，我们提出了一个统一的鲁棒预测编码机（RPCM）学习的参数函数，它可以解决的交替最小化算法。此外，我们提供了一个有界收缩分析的参数函数。据我们所知，本文是第一个工作，有效地聚类数以百万计的数据点之间的子空间聚类方法。百万级数据集上的实验验证了我们的范式在效率和有效性方面优于相关的最先进的方法。
2020-04-09 cs.CV cs.LG stat.ML
Multi-view Subspace Clustering Networks with Local and Global Graph Information
School of Software Engineering, Xi’an Jiaotong University（西安交通大学软件学院）
本研究探讨多视角子空间聚类问题，其目的是探索从不同领域或测量收集的数据的潜在分组结构。在实际应用中，数据并不总是符合线性子空间模型，现有的基于浅层线性子空间模型的多视点子空间聚类方法在实际应用中往往会失败。此外，现有的多视图子空间聚类方法往往忽略了多视图数据的底层图信息。为了解决上述限制，我们提出了新的多视图子空间聚类网络的局部和全局图信息，称为MSCNLG，在本文中。具体而言，自动编码器网络采用多个视图，以实现潜在的平滑表示，适合于线性假设。同时，通过将融合后的多视点图信息整合到自表达层中，得到共享的多视点子空间表示，并利用标准谱聚类算法得到聚类结果.作为一个端到端的可训练框架，所提出的方法充分调查的多个视图的有价值的信息。在6个基准数据集上的综合实验验证了所提出的MSCNLG的有效性和优越性。
2021-03-24 cs.LG
A Nonlinear Orthogonal Non-Negative Matrix Factorization Approach to Subspace Clustering
Ruder Bošković Institute（鲁杰尔·博什科维奇研究所）；ETH Zürich, Swiss Federal Institute of Technology（苏黎世联邦理工学院）
最近的理论分析表明，非负矩阵分解（NMF）和谱聚类方法之间的等价性的子空间聚类。由于NMF和它的许多变种本质上是线性的，我们引入了一个非线性NMF显式正交性，并推导出一般的基于核的正交乘法更新规则来解决子空间聚类问题。在非线性正交NMF框架下，提出了两种基于核的非负子空间聚类算法KNSC-Ncut和KNSC-Rcut，并将其与谱归一化割和比率割聚类进行了比较。我们进一步扩展了非线性正交NMF框架，并引入了一个图正则化，以获得一个因子分解，尊重非线性映射后的数据的局部几何结构。所提出的基于NMF的子空间聚类方法考虑到流形的非线性性质，以及其固有的局部几何形状，这大大提高了聚类性能相比，最近提出的几个国家的最先进的方法。
2017-09-29 cs.LG stat.ML
A Survey on Soft Subspace Clustering
Jiangnan University（江南大学）；University of California, Davis（加利福尼亚大学戴维斯分校）；The Hong Kong Polytechnic University（香港理工大学）
子空间聚类（SC）是一种很有前途的聚类技术，它根据簇与高维空间中子空间的关联来识别簇。SC可以分为硬子空间聚类（HSC）和软子空间聚类（SSC）。虽然HSC算法已被广泛研究并被科学界广泛接受，但SSC算法相对较新，但近年来由于更好的适应性而受到更多关注。本文综述了现有的SSC算法及其最新进展。SSC算法被系统地分为三大类，即常规SSC（CSSC）、独立SSC（ISSC）和扩展SSC（XSSC）。最后，对这些算法的特点进行了分析，并对SSC的发展前景进行了展望。
2016-04-08 cs.LG
Groupwise Constrained Reconstruction for Subspace Clustering
School of Computer Science, Fudan University（复旦大学计算机科学学院）；University of Technology, Sydney（悉尼科技大学）
基于重构的子空间聚类方法计算样本的自重构矩阵，并将其用于谱聚类以获得最终的聚类结果。它们的成功很大程度上依赖于基本子空间是独立的假设，然而，这并不总是在子空间数量增加的应用中成立。在本文中，我们提出了一种新的基于重构的子空间聚类模型，而不做子空间独立性假设。在我们的模型中，重建矩阵的某些属性使用潜在聚类指标来明确表征，并且用于谱聚类的亲和矩阵可以直接从潜在聚类指标的后验而不是重建矩阵中构建。在合成数据集和真实数据集上的实验结果表明，该模型的性能优于现有的方法。
2012-06-18 cs.LG stat.ML
Automatic Parameter Selection for Non-Redundant Clustering
LMU Munich（慕尼黑大学）；University of Vienna（维也纳大学）
提出基于最小描述长度原理（MDL）的框架，通过贪婪搜索自动检测子空间数量及各子空间聚类数并识别异常值，实验表明其与最先进方法具高度竞争力。
2025-04-07 cs.AI cs.LG
Fast Subspace Clustering Based on the Kronecker Product
Beihang University（北京航空航天大学）；Griffith University（格里菲斯大学）；University of York, UK（英国约克大学）
子空间聚类对于许多计算机视觉应用来说是一种有用的技术，在这些应用中，高维数据的本征维数通常小于环境维数。谱聚类作为子空间聚类的主要方法之一，通常采用稀疏表示或低秩表示来学习块对角自表示矩阵以生成子空间。然而，现有的方法需要解决一个大规模的凸优化问题与一个大的数据集，与计算复杂性达到O（N^3）的N个数据点。因此，传统的谱聚类方法的效率和可扩展性不能保证大规模数据集。本文提出了一种基于Kronecker积的子空间聚类模型。由于块对角矩阵与任何其他矩阵的Kronecker积仍然是块对角矩阵的性质，我们可以有效地学习由k个较小矩阵的Kronecker积形成的表示矩阵。通过这样做，我们的模型显着降低了计算复杂性O（kN^{3/k}）。此外，我们的模型是一般性的，可以适应不同的正则化子空间聚类方法。在两个公共数据集上的实验结果表明，与现有的几种方法相比，该模型显著提高了效率。此外，我们进行了实验上的合成数据，以验证我们的模型的可扩展性大规模数据集。
2018-03-15 cs.CV cs.LG stat.ML
Orthogonal Subspace Clustering: Enhancing High-Dimensional Data Analysis through Adaptive Dimensionality Reduction and Efficient Clustering
本文提出正交子空间聚类(OSC)，通过自适应降维和高效聚类解决高维数据中的维度灾难问题，提升聚类效率和准确性。
2026-03-16 cs.LG
Multiple Independent Subspace Clusterings
Southwest University（西南大学）；George Mason University（乔治梅森大学）；China University of Geosciences（中国地质大学）；Beijing University Of Civil Engineering and Architecture（北京建筑大学）
多重聚类旨在发现将数据组织成聚类的各种方法。尽管取得了进展，但对于用户来说，分析和理解每个输出聚类的独特结构仍然是一个挑战。为了简化这个过程，我们考虑不同的聚类嵌入在不同的子空间，并分析嵌入子空间，以揭示每个聚类的结构。为此，我们提供了一个两阶段的方法，称为MISC（多个独立子空间插值）。在第一阶段，MISC使用独立子空间分析来寻找多个统计独立（即非冗余）的子空间，并通过最小描述长度原则来确定子空间的数量。在第二阶段，为了解释嵌入每个子空间中的样本的内在几何结构，MISC执行图正则化半非负矩阵分解来探索聚类。它还将内核技巧集成到矩阵分解中，以处理非线性可分离的聚类。在人工数据集上的实验结果表明，MISC算法可以从所寻找的独立子空间中发现不同的有趣聚类，并且在真实数据集上的性能优于其他相关和竞争性方法。
2019-05-10 cs.LG stat.ML
Analysis of Sparse Subspace Clustering: Experiments and Random Projection
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；DePaul University（德保罗大学）
聚类可以定义为将对象组合成若干组的过程，这些组的元素以某种方式彼此相似。聚类作为一种广泛应用于人脸聚类、植物分类、图像分割、文档分类等领域的技术，被认为是无监督学习中最重要的问题之一。多年来，科学家们一直在研究这个问题，并开发了不同的技术来解决这个问题，例如k-means聚类。我们分析这些技术之一：一个强大的聚类算法称为稀疏子空间聚类。我们使用这种方法演示了几个实验，然后介绍了一种新的方法，可以减少执行稀疏子空间聚类所需的计算时间。
2022-04-01 cs.LG math.OC
Oracle Based Active Set Algorithm for Scalable Elastic Net Subspace Clustering
Johns Hopkins University（约翰斯·霍普金斯大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
现有技术的子空间聚类方法基于将每个数据点表示为其他数据点的线性组合，同时用$\ell_1$、$\ell_2$或核范数正则化系数矩阵。保证$\ell_1$正则化给出子空间保持亲和性（即，来自不同子空间的点之间没有连接），但是簇可以不连接。$\ell_2$和核范数正则化通常会改善连通性，但仅对独立子空间给出子空间保持亲和性。混合的$\ell_1$、$\ell_2$和核范数正则化提供了子空间保持和连通性属性之间的平衡，但这是以增加的计算复杂性为代价的。本文研究了弹性网络正则化子（$\ell_1$和$\ell_2$范数的混合）的几何结构，并利用它导出了一个可证明正确的和可扩展的有效集方法来寻找最佳系数。我们的几何分析还提供了一个理论上的理由和几何解释之间的平衡的连通性（由于$\ell_2$正则化）和子空间保持（由于$\ell_1$正则化）属性的弹性网络子空间聚类。实验结果表明，该方法不仅具有最佳的聚类性能，而且能够有效地处理大规模数据集。
2016-05-09 cs.CV cs.LG stat.ML
Subspace Clustering with Active Learning
Lancaster University（兰卡斯特大学）
子空间聚类是一个不断发展的无监督学习领域，在计算机视觉社区中非常受欢迎。可以在运动分割和人脸聚类等领域找到应用。它假设数据来自子空间的并集，并根据相应的子空间对数据进行聚类。在实践中，合理的假设是，可以获得有限数量的标签，可能是有成本的。因此，算法，可以有效地和高效地将这些信息，以改善聚类模型是可取的。在本文中，我们提出了一个主动学习框架的子空间聚类，顺序查询信息点和更新的子空间模型。所提出的框架的查询阶段依赖于从扰动理论的主成分分析的结果，以确定有影响力的和潜在的误分类点。提出了一种约束子空间聚类算法，该算法在标签数据约束条件下，单调递减目标函数。我们表明，我们提出的框架是适合的子空间聚类算法，包括迭代方法和谱方法。在合成数据集、运动分割数据集和Yale Faces数据集上的实验证明了我们提出的主动策略优于最先进的主动策略。
2019-11-11 cs.LG stat.ML
Federated Deep Subspace Clustering
Northwestern Polytechnical University（西北工业大学）
FDSC是一种结合联邦学习和局部性保持的深度子空间聚类方法，通过编码网络和局部邻域关系提升数据特征，从而实现更优的聚类性能。
2025-01-16 cs.AI cs.CR cs.LG
