SSDBCODI: Semi-Supervised Density-Based Clustering with Outliers Detection Integrated
DePaul University（德保罗大学）；College of Computing and Digital Media, DePaul University（德保罗大学计算与数字媒体学院）
聚类分析是机器学习的关键任务之一。传统上，聚类是一项独立的任务，与离群值检测分离。由于离群点会严重影响聚类的性能，因此有少数算法尝试在聚类过程中加入离群点检测。然而，这些算法中的大多数都是基于无监督的基于分区的算法，如k-means。鉴于这些算法的性质，它们通常无法处理复杂的非凸形状的集群。为了应对这一挑战，我们提出了SSDBCODI，一种基于密度的半监督算法。SSDBCODI结合了基于密度的算法的优势，能够处理复杂形状的聚类，具有半监督元素，可以根据一些用户标签灵活地调整聚类结果。我们还将离群值检测组件与聚类过程合并。基于在该过程期间生成的三个分数来检测潜在的离群值：（1）可达性分数，其测量点到标记的正常对象的密度可达性，（2）局部密度分数，其测量数据对象的相邻密度，以及（3）相似性分数，其测量点到其最近的标记离群值的接近度。然后在接下来的步骤中，在用于训练分类器以进行进一步聚类和离群值检测之前，基于这三个分数为每个数据实例生成实例权重。为了增强对所提出算法的理解，为了进行评估，我们在多个数据集上对一些最先进的方法运行了我们提出的算法，并分别列出了聚类之外的离群值检测结果。我们的研究结果表明，我们的算法可以实现优越的结果与一个小的标签百分比。
2022-08-10 cs.AI cs.LG
Multi-label Classification via Adaptive Resonance Theory-based Clustering
Graduate School of Engineering, Osaka Prefecture University（大阪府立大学工学院）；Faculty of Computer Science and Information Technology, University of Malaya（马来亚大学计算机科学与信息技术学院）；Southern University of Science and Technology（南方科技大学）
本文提出一种基于自适应共振理论聚类与贝叶斯标签概率计算的多标签分类算法，通过持续生成原型节点实现持续学习，并在实验中取得与其他知名算法相当的分类性能。
2021-09-03 cs.LG
Clustering Unclustered Data: Unsupervised Binary Labeling of Two Datasets Having Different Class Balances
Tokyo Institute of Technology（东京工业大学）
我们考虑的无监督学习问题的标签分配给未标记的数据。一种简单的方法是使用聚类方法，但是只有当数据被正确地聚类并且每个聚类对应于一个底层类时，这种方法才能很好地工作。在本文中，我们首先表明，这种无监督的标签问题在平衡的二进制情况下，可以解决，如果两个未标记的数据集具有不同的类平衡。更具体地说，估计两个未标记数据集的概率密度之间的差异的符号给出了解决方案。然后，我们介绍了一种新的方法，直接估计的密度差的符号，而无需密度估计。最后，我们证明了所提出的方法对各种玩具问题和现实世界的数据集的聚类方法的有用性。
2013-05-01 cs.LG
Fair Labeled Clustering
University of Maryland, College Park（马里兰大学帕克分校）；Wellesley College（韦尔斯利学院）
本文研究带标签决策场景下的群体公平聚类，提出按标签保证比例代表的高效算法，并分析自由贴标签情形的计算边界及期望公平随机算法。
2023-06-04 cs.AI cs.DS cs.LG
Clustering of Time-Varying Graphs Based on Temporal Label Smoothness
Tokyo University of Agriculture and Technology（东京农工大学）；Tokyo University of Science（东京理科大学）；Osaka University（大阪大学）；The Chinese University of Hong Kong（香港中文大学）
本文提出一种基于标签时间平滑性假设的时变图节点聚类方法，将其构建为带平滑约束的谱聚类优化问题，并用原始-对偶分裂算法求解，实验验证了其有效性。
2023-05-11 cs.LG eess.SP
Weakly supervised clustering: Learning fine-grained signals from coarse labels
Stanford University（斯坦福大学）；Google, Inc.（谷歌公司）
考虑一个分类问题，我们无法访问单个训练样本的标签，而只能获得子群体的平均标签。我们给出了这种设置的实际例子，并展示了如何将这样的分类任务有效地分析为弱监督聚类问题。我们提出了三种方法来解决弱监督聚类问题，包括在我们的实验中表现良好的潜变量模型。我们说明了我们的方法上的分析汇总的选举数据和行业数据集，这是本研究的原始动机。
2015-09-15 cs.LG stat.ML
K-GBS3FCM -- KNN Graph-Based Safe Semi-Supervised Fuzzy C-Means
Federal University of Uberlândia（Uberlândia联邦大学）；Computer Science Faculty（计算机学院）
本文提出K-GBS3FCM算法，利用KNN图动态评估标注与未标注数据的邻域关系，并通过正则化参数和平均安全度调节标注数据影响，在多数基准测试中显著提升了安全半监督聚类精度。
2024-11-22 cs.LG
Interpretable label-free self-guided subspace clustering
Ruđer Bošković Institute（鲁杰尔·博什科维奇研究所）
针对子空间聚类算法超参数调优依赖标记数据的问题，提出一种基于伪标签计算聚类质量指标、通过迭代划分超参数子区间实现无标签调优的方法，在多个算法和数据集上验证了性能，还可通过子空间基可视化提升可解释性。
2024-11-26 cs.CV cs.LG
Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning
Inception Institute of Artificial Intelligence（初始人工智能研究院）；University of Macau（澳门大学）；Terminus Group（特斯联集团）
无监督元学习的开创性方法CACTU是一种基于聚类的伪标记方法。这种方法是模型不可知的，可以与监督算法相结合，从未标记的数据中学习。然而，它经常遭受标签不一致或有限的多样性，这导致性能不佳。在这项工作中，我们证明，这是一个集群的嵌入空间中缺乏友好的属性的核心原因。我们通过最小化类间到类内的相似性比率来解决这个问题，以提供聚类友好的嵌入功能，并通过全面的实验来验证我们的方法。请注意，尽管在我们的嵌入空间中只使用了一个简单的聚类算法（k-means）来获得伪标签，但我们取得了显着的改进。此外，我们采用了渐进的评估机制，以获得更多的多样性样本，以进一步缓解有限的多样性问题。最后，我们的方法也是模型不可知的，可以很容易地集成到现有的监督方法。为了证明它的泛化能力，我们将其集成到两个代表性的算法：MAML和EP。三个主要的Few-Shot基准测试的结果清楚地表明，所提出的方法实现了显着的改进相比，国家的最先进的模型。值得注意的是，我们的方法在两个任务中也优于相应的监督方法。
2022-09-27 cs.CV cs.LG
Context-Aware Unsupervised Clustering for Person Search
现有的人员搜索方法使用人员身份的注释标签来以监督的方式训练深度网络，这需要大量的时间和精力来进行人工标记。在本文中，我们首先介绍了一种新的框架，能够训练网络的人的身份标签的情况下，人的搜索，并提出了有效的无监督聚类方法来代替使用注释的人的身份标签的监督过程。具体来说，我们提出了一个硬否定挖掘方案的基础上的唯一性属性，只有一个人具有相同的身份，以一个给定的查询人在每个图像。我们还提出了一个硬的积极挖掘计划，通过使用上下文信息的共同出现，在一个图像中的相邻的人往往同时出现在其他图像。实验结果表明，该方法在基准人物搜索数据集上的性能与现有的有监督人物搜索方法相当，并且优于扩展的无监督人物再识别方法.
2021-10-04 cs.AI cs.CV cs.LG
LSCALE: Latent Space Clustering-Based Active Learning for Node Classification
National University of Singapore（新加坡国立大学）
图上的节点分类是许多实际领域中的一个重要课题。它通常需要标签进行培训，这在实践中可能很难或昂贵。给定标记预算，主动学习旨在通过仔细选择标记哪些节点来提高性能。以前的图主动学习方法使用标记的节点学习表示，并选择一些未标记的节点进行标记获取。然而，它们没有充分利用未标记节点中存在的表示能力。我们认为，在未标记的节点的表示能力可以是有用的主动学习和进一步提高节点分类的主动学习的性能。在本文中，我们提出了一个潜在的空间聚类为基础的主动学习框架节点分类（LSCALE），我们充分利用标记和未标记的节点的表示能力。具体来说，为了选择用于标记的节点，我们的框架在基于无监督特征和监督特征的动态组合的潜在空间上使用K-Medoids聚类算法。此外，我们还设计了一个增量式分簇模块，以避免在不同步骤中选择的节点之间的冗余。在五个数据集上进行的大量实验表明，我们提出的框架LSCALE始终显著优于最先进的方法。
2022-07-20 cs.LG cs.SI
Correlation Clustering via Strong Triadic Closure Labeling: Fast Approximation Algorithms and Practical Lower Bounds
Texas A&M University（德州农工大学）
相关聚类是一种基于成对相似性和相异性得分的聚类框架，但其最佳近似算法依赖于不切实际的线性规划松弛。我们提出了更快的近似算法，避免这些松弛，两个研究良好的特殊情况下：集群编辑和集群删除。我们完成这一点，通过绘制新的连接到边缘标签的问题有关的原则，强三元封闭。这导致了更快和更实用的线性规划算法，以及极其可扩展的组合技术，包括第一个组合近似算法的集群删除。在实践中，我们的算法产生近似的解决方案，几乎匹配最好的算法的质量，而缩放到更大的数量级的问题。
2022-06-23 cs.DM cs.DS cs.LG
Generating automatically labeled data for author name disambiguation: An iterative clustering method
University of Michigan（密歇根大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
为了训练用于监督作者姓名消歧的算法，许多研究依赖于手工标记的真实数据，这些数据生成起来非常费力。本文表明，标记的训练数据可以自动生成的信息功能，如电子邮件地址，合著者的名字，并引用参考文献，可从出版记录。为此，使用外部权威数据库来决定用于匹配每个特征上的名称实例的高精度规则。然后，在目标歧义数据中选择名称实例进行基于规则的成对匹配过程。接下来，通过通用实体解析算法将它们合并到聚类中。聚类过程在其他特征上重复，直到进一步合并是不可能的。在228 K个作者姓名实例中的26，566个实例上进行测试，这种迭代聚类产生了精确标记的数据，成对F1 = 0.99。标记的数据代表人口数据的名称种族和共同消除歧义的名称组大小分布。此外，在标记数据上训练的机器学习算法消除了测试数据中的24 K个名称的歧义，成对F1 = 0.90 ~ 0.92。讨论了应用这种方法解决大规模学术数据中作者姓名歧义的几个挑战。
2021-02-05 cs.DL cs.IR cs.LG
Label-independent hyperparameter-free self-supervised single-view deep subspace clustering
Division of Computing and Data Science, Ruđer Bošković Institute（计算与数据科学系，鲁德·博克维奇研究所）
本文提出一种无需超参数调节的单视图深度子空间聚类方法，通过层间自表达损失、子空间结构范数优化、多阶段学习框架和相对误差终止机制提升聚类性能。
2025-04-25 cs.CV cs.LG
Feature extraction using Spectral Clustering for Gene Function Prediction using Hierarchical Multi-label Classification
Pontificia Universidad Javeriana（哈维里亚那天主教大学）
基因注释解决了预测基因和功能之间未知关联的问题（例如，生物学过程）。尽管最近取得了进展，但主要依赖于体内生物实验的注释程序所需的成本和时间仍然非常高。本文提出了一种新的在硅片上的方法，结合聚类分析和层次多标签分类（HMC）的注释问题。该方法使用谱聚类从基因共表达网络（GCN）中提取新的特征，丰富了预测任务。HMC是用来建立多个估计，考虑基因功能的层次结构。所提出的方法被应用到玉米，在世界上最具优势和生产力的作物之一的案例研究。这些结果说明了计算机模拟方法是减少基因注释时间和成本的关键。更具体地说，他们强调了以下方面的重要性：（i）构建代表GCN中基因关系结构的新特征来注释基因;（ii）考虑生物过程的结构以获得一致的预测。
2022-04-28 cs.LG
A Scalable Approach to Clustering Embedding Projections
Apple（苹果公司）
针对嵌入投影可视化中点聚类计算成本高的问题，提出一种在投影二维空间用核密度估计的高效聚类算法，速度快数个数量级，还提供了算法设计、基准测试及标签生成等应用。
2025-05-16 cs.HC cs.LG
Clustering in graphs and hypergraphs with categorical edge labels
Cornell University（康奈尔大学）
现代图或网络数据集通常包含丰富的结构，这些结构超出了节点之间简单的成对连接。这需要复杂的表示，例如，可以捕获不同类型的边以及所谓的“高阶交互”，即一次涉及两个以上的节点。然而，我们有较少的严格的方法，可以提供洞察力，从这样的表示。在这里，我们开发了一个计算框架的问题，聚类超图与分类边标签-或不同的相互作用类型-其中集群对应于组的节点，经常参与同一类型的相互作用。我们的方法是基于一个组合的目标函数，这是相关的聚类图，但使更有效的算法，也无缝地推广到超图的设计。当只有两种标签类型时，我们的目标可以在多项式时间内优化，使用基于最小割的算法。最小化我们的目标成为NP难的两个以上的标签类型，但我们开发快速近似算法的基础上，线性规划松弛理论集群质量保证。我们证明了我们的算法的有效性和模型的范围，通过在边缘标签社区发现，聚类与时间数据和探索性数据分析的问题。
2020-02-17 cs.LG cs.SI physics.soc-ph
Clustering Algorithms and RAG Enhancing Semi-Supervised Text Classification with Large LLMs
CIB
本文提出“先聚类、再标注、后增强”框架，通过聚类选取地标并结合RAG、LLM重写和同义词替换生成合成标注数据，在Reuters和Web of Science数据集上分别取得95.41%和82.43%的最新准确率，显著降低人工标注成本并保障数据质量与隐私。
2024-12-26 cs.CL cs.LG
Convolutional Clustering for Unsupervised Learning
Purdue University（普渡大学）
为训练深度神经网络标记数据的任务是艰巨而繁琐的，需要数百万个标签才能实现当前最先进的结果。这种对大量标记数据的依赖可以通过利用经由无监督学习技术的分层特征来放松。在这项工作中，我们提出了训练一个基于增强版k-means聚类算法的深度卷积网络，它减少了类似过滤器形式的相关参数的数量，从而提高了测试分类的准确性。我们称我们的算法为卷积k均值聚类。我们进一步表明，学习深度卷积神经网络层之间的连接可以提高其在少量标记数据上训练的能力。我们的实验表明，该算法优于其他技术，学习过滤器无监督。具体来说，我们在STL-10上获得了74.1%的测试准确度，在MNIST上获得了0.5%的测试误差。
2016-02-16 cs.CV cs.LG
Faster Approximation Algorithms for Parameterized Graph Clustering and Edge Labeling
Texas A&M University（德克萨斯农工大学）
针对 NP 难的 LambdaCC 参数化图聚类框架，提出基于新型参数化边标注问题的快速纯组合近似算法，显著提升可扩展性，并为既有启发式方法提供事后近似保证。
2023-06-08 cs.DM cs.DS cs.LG
Clustering Time Series Data through Autoencoder-based Deep Learning Models
Georgia Institute of Technology（佐治亚理工学院）；Texas Tech University（得克萨斯理工大学）；University of Debrecen（德布勒森大学）
机器学习，特别是深度学习算法是数据分析的新兴方法。这些技术已经将传统的基于数据采掘的分析从根本上转变为基于学习的模型，在该模型中，现有的数据集连同它们的聚类标签（即，训练集）被学习以构建监督学习模型并预测未见过数据的聚类标签（即，测试集）。特别地，深度学习技术能够捕获和学习给定数据集中的隐藏特征，从而为聚类和标记问题构建更准确的预测模型。然而，主要问题是时间序列数据通常是未标记的，因此基于监督学习的深度学习算法不能直接适用于解决这些特殊和复杂类型数据集的聚类问题。为了解决这个问题，本文介绍了一个两阶段的方法聚类时间序列数据。首先，引入一种新的技术来利用这些特性（例如，波动性），以便创建标签，从而能够将问题从无监督学习转换为监督学习。其次，构建基于自动编码器的深度学习模型来学习和建模时间序列数据的已知和隐藏特征以及它们创建的标签，以预测看不见的时间序列数据的标签。本文报告了一个案例研究，其中金融和股票的时间序列数据选择70个股票指数聚类成不同的群体，使用介绍的两阶段程序。实验结果表明，该方法对未知时间序列数据的聚类和标签预测准确率达到87.5%.
2020-04-11 cs.LG stat.ML
EC3: Combining Clustering and Classification for Ensemble Learning
Indraprastha Institute of Information Technology Delhi（德里因陀罗普拉斯塔信息技术学院）
分类和聚类算法已被证明是成功的，在不同的背景下。两者都有各自的优点和局限性。例如，虽然分类算法在预测对象的类别标签方面比聚类方法更强大，但当缺乏足够的手动标记的可靠数据时，它们的表现并不好。另一方面，尽管聚类算法不产生对象的标签信息，但是它们提供补充约束（例如，如果两个对象被聚类在一起，则更可能的是，相同的标签被分配给它们两者），可以利用该标签来对一组未知对象进行标签预测。因此，系统地利用这两种类型的算法一起可以导致更好的预测性能。在本文中，我们提出了一种新的算法，称为EC3，合并分类和聚类在一起，以支持二进制和多类分类。EC3基于使用优化函数的多分类和多聚类方法的原则组合。我们从理论上证明了问题的凸性和最优性，并用块坐标下降法求解。我们还提出了iEC 3，一个处理不平衡训练数据的EC 3变体。我们通过在13个标准基准数据集上比较EC3和iEC3与14种基线方法（7种知名的独立分类器，5种集成分类器和2种现有的合并分类和聚类的方法）进行了广泛的实验分析。我们表明，我们的方法在每个数据集上都优于其他基线，最多可以提高10%的AUC。此外，我们的方法更快（比最佳基线快1.21倍），比最佳基线方法更能适应噪声和类不平衡。
2017-08-29 cs.LG stat.ML
Label-consistent clustering for evolving data
CISPA Helmholtz Center for Information Security（CISPA海德堡信息安全中心）；KTH Royal Institute of Technology（皇家理工学院）；Digital Futures（数字未来）
本文提出了一种标签一致的k中心算法，用于在演化数据中保持解决方案的一致性，通过最小化与先前解决方案的变化来实现渐进式优化。
2025-12-17 cs.DS cs.LG
Deep Variational Clustering Framework for Self-labeling of Large-scale Medical Images
Technical University of Munich（慕尼黑工业大学）；Massachusetts Eye and Ear Hospital（马萨诸塞眼耳医院）；Harvard Medical School（哈佛医学院）；LMU Munich（慕尼黑大学）
我们提出了一个深度变分聚类（DVC）框架，用于无监督的表示学习和大规模医学图像的聚类。DVC通过概率卷积编码器同时学习多变量高斯后验，通过概率卷积解码器同时学习似然分布，并优化聚类标签分配。在这里，学习的多元高斯后验捕获了大量未标记图像的潜在分布。然后，我们使用聚类损失在变分潜在空间上进行无监督聚类。在这种方法中，概率解码器有助于防止潜在空间中的数据点的失真，并保持数据生成分布的局部结构。训练过程可以被认为是一个自我训练过程，以改进潜在空间，同时迭代地优化聚类分配。我们在三个代表不同医学成像模式的公共数据集上评估了我们提出的框架。我们的实验结果表明，我们提出的框架在不同的数据集上具有更好的泛化能力。它在几个医学成像基准上取得了令人信服的结果。因此，我们的方法在现实世界的应用中比传统的深度无监督学习具有潜在的优势。该方法和所有实验的源代码可在以下网址公开获得：https://github.com/csfarzin/DVC
2021-09-22 cs.CV cs.LG eess.IV
Weighted Sparse Subspace Representation: A Unified Framework for Subspace Clustering, Constrained Clustering, and Active Learning
University of Cambridge（剑桥大学）；Lancaster University（兰卡斯特大学）
基于谱的子空间聚类方法在许多具有挑战性的应用中已经被证明是成功的，例如基因测序、图像识别和运动分割。在这项工作中，我们首先提出了一种新的基于谱的子空间聚类算法，旨在表示每个点作为一个稀疏的凸组合的几个附近的点。然后，我们将算法扩展到约束聚类和主动学习设置。我们开发这样一个框架的动机源于这样一个事实，即通常可以提前获得少量的标记数据;或者有可能以一定的成本标记某些点。后一种情况通常在验证集群分配的过程中遇到。仿真和真实数据集上的实验表明，该方法是有效的，具有竞争力的国家的最先进的方法。
2021-06-08 cs.LG stat.ML
RCC-PFL: Robust Client Clustering under Noisy Labels in Personalized Federated Learning
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
针对个性化联邦学习中的噪声标签问题，提出标签无关的一次性聚类算法RCC-PFL，通过数据相似性聚类客户端，减少通信轮次和计算量，提升平均准确率并降低方差。
2025-03-25 cs.DC cs.IT cs.LG
Supervised Enhanced Soft Subspace Clustering (SESSC) for TSK Fuzzy Classifiers
Huazhong University of Science and Technology（华中科技大学）；Shandong University of Finance and Economics（山东财经大学）
基于模糊c-均值的聚类算法经常用于TSK模糊分类器的先验参数估计。从每个集群初始化一个规则。然而，这些聚类算法大多是无监督的，这浪费了宝贵的标签信息的训练数据。提出了一种有监督的增强软子空间聚类算法（SESSC），该算法在聚类过程中同时考虑了类内紧致度、类间分离度和标签信息。它可以有效地处理高维数据，可以单独作为分类器使用，也可以集成到TSK模糊分类器中，进一步提高其性能。在不同应用领域的九个UCI数据集上的实验表明，基于SESSC的初始化方法优于其他聚类方法，特别是当规则数量较少时。
2020-02-27 cs.LG stat.ML
Deep Clustering for Mars Rover image datasets
University of California, Berkeley（加州大学伯克利分校）
在本文中，我们建立自动编码器学习从火星探测器获得的未标记的图像数据集的潜在空间。然后，一旦学习了潜在特征空间，我们就使用k-means对数据进行聚类。我们在较小的标记数据集上测试了该算法的性能，并报告了良好的准确性和与地面真实标签的一致性。这是第一次尝试使用基于深度学习的无监督算法来聚类火星探测器图像。该算法可用于增强此类数据集的人类注释（这是耗时的），并加快火星漫游者图像数据以及其他行星和空间图像的地面真实标签的生成。
2019-11-12 astro-ph.EP astro-ph.IM cs.LG
