Deep Transductive Semi-supervised Maximum Margin Clustering
半监督聚类是机器学习和计算机视觉中一个非常重要的研究课题。这个问题的关键挑战是如何学习一个度量，使得共享相同标签的实例在嵌入空间上更可能彼此接近。然而，很少有人注意到学习更好的表示时，数据躺在非线性流形。幸运的是，深度学习最近在特征学习方面取得了巨大成功。受深度学习的启发，我们提出了一种深度转换的半监督最大边缘聚类方法。更具体地说，给定成对约束，我们利用标记和未标记的数据学习一个非线性映射下的最大间隔框架聚类分析。因此，我们的模型统一了半监督聚类框架中的直推学习，特征学习和最大间隔技术。我们用限制性玻尔兹曼机（RBM）逐层预训练深度网络结构，并用梯度下降优化我们的目标函数。通过检查最违反的约束，我们的方法通过误差反向传播更新模型参数，其中自动学习深度特征。实验结果表明，我们的模型是显着优于最先进的半监督聚类。
2015-01-26 cs.LG
Parameter-Free Clustering via Self-Supervised Consensus Maximization (Extended Version)
本文提出一种无需参数的聚类框架SCMax，通过自监督共识最大化实现层次聚类和评估，利用最近邻共识得分确定最佳聚类数，实验表明其优于传统方法。
2026-03-24 cs.LG
CSAL: Self-adaptive Labeling based Clustering Integrating Supervised Learning on Unlabeled Data
University of Technology Sydney（悉尼科技大学）
由于监督训练过程，监督分类方法可以预测未知数据的标签。分类的成功在很大程度上依赖于标记的训练数据。聚类是揭示未标记数据聚集性的有效方法，但大多数聚类方法的性能受到标记数据缺失的限制。然而，在实际应用中，获取标记数据是耗时的，有时甚至是不可能的。聚类和分类相结合是一种很有前途的方法，可以大大提高性能。在本文中，我们提出了一个创新的和有效的聚类框架的基础上，自适应标签（CSAL）集成的聚类和分类的未标记的数据。首先采用聚类方法对数据进行划分，并从聚类后的数据中选取一定比例的数据进行分类器训练。为了改进训练的分类器，期望最大化算法的迭代过程被设计到所提出的聚类框架CSAL。在公开数据集上进行实验，测试聚类算法和分类模型的不同组合以及各种训练数据标记方法。实验结果表明，我们的方法以及自适应方法优于其他方法。
2015-02-18 cs.LG
Deep Semi-Supervised Embedded Clustering (DSEC) for Stratification of Heart Failure Patients
Sensyne Health plc（森赛恩健康公司）
确定疾病的表型对于住院患者护理和药物开发具有相当大的益处。诸如电子健康记录的高维数据集的结构通常通过数据的嵌入来表示，其中聚类方法用于对类似结构的数据进行分组。如果已知数据中存在子组，则可以使用监督方法来影响所发现的聚类。我们建议将深度嵌入式聚类扩展为半监督深度嵌入式聚类算法，通过数据中的已知标签对子组进行分层。在这项工作中，我们应用深度半监督嵌入式聚类，从4，487名心力衰竭和对照患者的电子健康记录中确定数据驱动的心力衰竭患者亚组。我们发现临床相关的集群从嵌入式空间来自异构数据。所提出的算法可以潜在地发现具有不同结果的新的未诊断的患者亚组，从而改进治疗。
2021-01-17 cs.LG
Semi-Supervised Clustering via Structural Entropy with Different Constraints
Beihang University（北京航空航天大学）；Salesforce AI Research（Salesforce人工智能研究院）；Didi Chuxing（滴滴出行）；Lehigh University（理海大学）
本研究提出基于结构熵的半监督聚类方法SSE，统一整合成对、标签等多类约束，支持划分式与层次聚类，在多数据集上精度优于现有11种同类方法，可用于生物单细胞数据分析。
2023-12-18 cs.LG
SE-shapelets: Semi-supervised Clustering of Time Series Using Representative Shapelets
School of Information Technology, Deakin University（迪肯大学信息技术学院）；School of Computer Science and Engineering, University of New South Wales（新南威尔士大学计算机科学与工程学院）；Data61 in CSIRO（澳大利亚联邦科学与工业研究组织Data61）
针对现有时间序列聚类方法难以发现代表性Shapelets导致精度低的问题，提出SE-Shapelets方法，利用少量标记和伪标记数据，结合显著子序列链和线性判别选择技术，在UCR数据集上取得更高聚类精度。
2023-11-15 cs.LG
Bringing Clustering to MLL: Weakly-Supervised Clustering for Partial Multi-Label Learning
School of Automation, Guangdong University of Technology（广东工业大学自动化学院）
本文提出WSC-PML方法，通过聚类矩阵分解解决多标签学习中的标签噪声问题，通过三阶段流程提升学习效果，实验表明优于六种现有方法。
2026-04-10 cs.LG
Semi-Supervised Clustering via Information-Theoretic Markov Chain Aggregation
Graz University of Technology（格拉茨技术大学）；Know-Center GmbH（Know-Center有限公司）；Jagiellonian University（雅盖隆大学）
我们将半监督聚类问题与约束马尔可夫聚合联系起来，即，划分马尔可夫链的状态空间的任务。我们通过将数据集中的每个数据点视为马尔可夫链状态空间的一个元素，通过定义状态之间的转移概率（通过相应数据点之间的相似性）以及将半监督信息作为Hartigan式算法中的硬约束来实现这种连接。引入约束马尔可夫聚类（CoMaC）是最近的信息理论框架（无监督）马尔可夫聚合的半监督的情况下的扩展。实例化CoMaC的某些参数设置进一步概括了两个以前的信息理论目标的无监督聚类。我们的研究结果表明，CoMaC是有竞争力的最先进的。
2022-02-07 cs.LG
Bridged Clustering: Semi-Supervised Sparse Bridging
Bridged Clustering是一种半监督方法，通过稀疏桥梁连接输入和输出聚类，实现高效且可解释的预测。
2026-02-13 cs.LG
A Computational Theory and Semi-Supervised Algorithm for Clustering
Cyber Innovation Lab, VCX, Airbus, Newport, UK（网络安全创新实验室、VCX、空客、新波特、英国）
本文提出聚类的计算理论及半监督算法，将聚类视为异常检测的对偶，利用簇中位数和感知异常检测算法实现无参数高效聚类，并通过少量已知关系指导交互式迭代过程，在合成与真实数据集上优于主流方法。
2025-07-16 cs.LG
Self-Supervised Graph Embedding Clustering
针对K-means一步降维聚类存在的超参数依赖、聚类中心初始化限制及类别平衡难的问题，提出融合流形学习与K-means的自监督图嵌入框架，实现无质心K-means与流形-标签一致性，理论证明最大化ℓ₂,₁-范数可维持类别平衡，实验验证其聚类性能优异可靠。
2024-10-30 cs.LG
A Bayesian Model for Supervised Clustering with the Dirichlet Process Prior
Information Sciences Institute（信息科学研究所）；University of Southern California（南加州大学）
我们开发了一个贝叶斯框架来解决监督聚类问题，在任务中遇到的一般问题，如参考匹配，共指消解，身份不确定性和记录链接。我们的聚类模型是基于Dirichlet过程的先验，这使我们能够定义分布在自然出现在这个问题的可数无限集。我们通过假设存在一组未观察到的随机变量（我们称之为“参考类型”）来为我们的模型添加监督，这些变量在所有集群中都是通用的。在我们的框架中，这需要整合无限多个参数的推理，解决了使用马尔可夫链蒙特卡罗技术。我们提出了共轭和非共轭先验的算法。我们提出了一个简单的-但一般-我们的模型参数化的基础上高斯假设。我们在一个人工任务和三个现实任务上评估了这个模型，并将其与无监督和最先进的监督算法进行了比较。我们的研究结果表明，我们的模型能够在各种任务和性能指标上优于其他模型。
2009-07-04 cs.LG
K-GBS3FCM -- KNN Graph-Based Safe Semi-Supervised Fuzzy C-Means
Federal University of Uberlândia（Uberlândia联邦大学）；Computer Science Faculty（计算机学院）
本文提出K-GBS3FCM算法，利用KNN图动态评估标注与未标注数据的邻域关系，并通过正则化参数和平均安全度调节标注数据影响，在多数基准测试中显著提升了安全半监督聚类精度。
2024-11-22 cs.LG
Converge to Surprise: Evolutionary Self-supervised Image Clustering
Florida State University（佛罗里达州立大学）
研究提出一种自监督图像聚类框架，无需明确目标。基于最大熵原理定义“惊喜分数”，采用“收敛到惊喜”方案，通过进化策略外循环与梯度下降内循环结合优化模型，在非参数自监督图像聚类中取得新的最优成果。
2026-09-23 cs.LG
Semi-Supervised Information-Maximization Clustering
Daniele Calandriello
半监督聚类的目的是在聚类算法的决策过程中引入先验知识。在本文中，我们提出了一种新的半监督聚类算法的信息最大化原则的基础上。该方法是一个扩展的无监督的信息最大化聚类算法的基础上平方损失互信息，有效地将必须链接和不能链接。所提出的方法是计算效率，因为聚类的解决方案可以通过特征分解解析。此外，所提出的方法允许系统优化的调谐参数，如内核宽度，给定的程度的信念，必须链接和不能链接。通过实验证明了该方法的有效性。
2013-05-01 cs.LG stat.ML
Kempe Swap K-Means: A Scalable Near-Optimal Solution for Semi-Supervised Clustering
Georgia Institute of Technology（佐治亚理工学院）
本文提出Kempe Swap K-Means算法，通过双重迭代过程在约束空间中优化聚类，结合可控扰动提升全局搜索能力，实现高效且可扩展的半监督聚类解决方案。
2026-03-28 cs.LG
Semi-Supervised Clustering with Inaccurate Pairwise Annotations
Pontifícia Universidade Católica do Rio de Janeiro（里约热内卢天主教大学）；CIRRELT；Polytechnique Montréal（蒙特利尔理工学院）
成对关系信息是在难以获取类标签的领域中提供部分监督的有用方法。这项工作提出了一个聚类模型，该模型以必须链接和不能链接关系的形式合并成对注释，并考虑可能的注释不准确性（即，当专家提供成对监督时的常见设置）。我们提出了一个生成模型，假设高斯分布的数据样本以及随机块模型产生的必须链接和不能链接的关系。我们采用了最大似然方法，并证明，即使当监督是薄弱和不准确的，占关系信息显着提高聚类性能。关系信息还有助于检测现实世界数据集中不符合原始数据分布假设的有意义的组。此外，我们扩展了模型，以整合专家的准确性先验知识，并讨论在何种情况下使用这些知识是有益的。
2021-04-05 cs.LG
Multi-objective semi-supervised clustering to identify health service patterns for injured patients
本研究开发了一种模式识别方法，该方法根据模式的相似性及其与感兴趣结果的关联来识别模式。开发这种模式识别方法的实际目的是在受伤后的早期阶段对在运输事故中受伤的患者进行分组。这种分组是基于受伤后第一周内卫生服务使用的独特模式。这些小组还提供了对药物治疗过程总成本的预测信息。因此，根据卫生服务使用模式，尽早确定具有不良结局的患者群体。
2020-11-16 cs.LG
Self-supervised Heterogeneous Graph Pre-training Based on Structural Clustering
Xidian University（西安电子科技大学）
本文提出自监督异构图预训练方法SHGP，通过结构聚类生成伪标签引导注意力聚合模块学习，无需构造正负例，在多个数据集上优于无监督和半监督基线。
2023-04-12 cs.LG
Rethinking Semi-Supervised Node Classification with Self-Supervised Graph Clustering
The University of Hong Kong（香港大学）；Hong Kong Baptist University（香港 Baptist 大学）；Shenzhen University（深圳大学）
本文提出NCGC框架，结合自监督图聚类与半监督分类，通过改进的消息传递范式和多任务学习提升节点分类性能。
2025-11-25 cs.LG cs.SI
Fast and Scalable Semi-Supervised Learning for Multi-View Subspace Clustering
Tsinghua University（清华大学）；Yau Mathematical Sciences Center, Tsinghua University（清华大学丘成桐数学科学中心）；Beijing Institute of Mathematical Sciences and Applications（北京数学科学与应用研究院）
针对现有多视图子空间聚类方法计算复杂度高的问题，提出了具备线性复杂度的FSSMSC方法，通过统一优化模型同步学习锚图与标签传播，结合交替更新算法和低维表示推导实现高效聚类，经多规模基准实验验证了其有效性与高效性。
2024-08-11 cs.LG
A Supervised Feature Selection Method For Mixed-Type Data using Density-based Feature Clustering
North Carolina A&T State University（北卡罗来纳农工州立大学）
特征选择方法被广泛用于解决高维数据分类中的高计算开销和维数灾难。大多数传统的特征选择方法集中于处理同质特征，而现实世界的数据集通常具有连续和离散特征的混合。最近的一些混合类型的特征选择研究只选择与类标签相关性高的特征，而忽略了特征之间的冗余。确定适当的特征子集也是一个挑战。本文提出了一种基于密度特征聚类的有监督特征选择方法（SFSDFC），用于混合类型数据的特征选择。SFSDFC使用一种新的基于密度的聚类方法将特征空间分解为一组不相交的特征聚类。然后，采用有效的特征选择策略从这些特征簇中获得冗余度最小的重要特征子集。使用13个真实世界的基准数据集进行了广泛的实验以及与5种最先进的方法的比较研究，结果证明了SFSDFC方法的有效性。
2021-11-10 cs.LG
Bayesian Supervised Causal Clustering
School of Informatics, University of Edinburgh（信息学院，爱丁堡大学）；Usher Institute, University of Edinburgh（乌瑟研究所，爱丁堡大学）
本文提出贝叶斯监督因果聚类方法，通过治疗效应指导聚类过程，识别具有相似协变量特征和治疗效应的同质亚组，并在模拟和现实数据上验证其有效性。
2026-03-05 cs.LG stat.ML
Semi-supervised model-based clustering with controlled clusters leakage
Jagiellonian University（雅盖隆大学）
在本文中，我们专注于在部分分类的数据集中发现聚类。我们提出了一个半监督版本的高斯混合模型，称为C3L，检索给定类别的自然子群。与其他半监督模型相比，C3L由用户定义的泄漏水平参数化，控制初始分类和结果聚类之间的最大不一致性。我们的方法可以实现为一个模块，在实际的专家系统，以检测集群，它结合了专家知识和真实的数据分布。此外，它可以用于改善不太灵活的聚类技术，如投影寻踪聚类的结果。本文对该模型进行了深入的理论分析，并提出了一种有效的快速优化算法。实验结果表明，C3L算法能够找到高质量的聚类模型，可以应用于部分分类数据中有意义组的发现。
2017-05-04 cs.LG stat.ML
COBRAS-TS: A new approach to Semi-Supervised Clustering of Time Series
KU Leuven（鲁汶大学）
聚类在数据分析中是普遍存在的，包括对时间序列的分析。它本质上是主观的：不同的用户可能喜欢对特定数据集进行不同的聚类。半监督聚类通过允许用户提供应该（不应该）在同一个集群中的实例的示例来解决这个问题。本文研究了时间序列的半监督聚类问题。我们表明，COBRAS，一个国家的最先进的半监督聚类方法，可以适应这种设置。我们将这种方法称为COBRAS-TS。广泛的实验评估支持以下声明：（1）COBRAS-TS在时间序列的半监督聚类方面远远优于当前的技术水平，因此为该领域提供了一个新的基线;（2）COBRAS-TS可以识别具有分离分量的聚类;（3）COBRAS-TS可以识别以小的局部模式为特征的聚类;（4）少量的半监督可以大大提高时间序列的聚类质量;（5）聚类算法的选择很重要（与文献中的早期权利要求相反）。
2018-05-02 cs.AI cs.LG stat.ML
Supervised Enhanced Soft Subspace Clustering (SESSC) for TSK Fuzzy Classifiers
Huazhong University of Science and Technology（华中科技大学）；Shandong University of Finance and Economics（山东财经大学）
基于模糊c-均值的聚类算法经常用于TSK模糊分类器的先验参数估计。从每个集群初始化一个规则。然而，这些聚类算法大多是无监督的，这浪费了宝贵的标签信息的训练数据。提出了一种有监督的增强软子空间聚类算法（SESSC），该算法在聚类过程中同时考虑了类内紧致度、类间分离度和标签信息。它可以有效地处理高维数据，可以单独作为分类器使用，也可以集成到TSK模糊分类器中，进一步提高其性能。在不同应用领域的九个UCI数据集上的实验表明，基于SESSC的初始化方法优于其他聚类方法，特别是当规则数量较少时。
2020-02-27 cs.LG stat.ML
A Semi-Supervised Self-Organizing Map for Clustering and Classification
Center of Informatics - CIn, Universidade Federal de Pernambuco（信息中心 - 伯南布哥联邦大学）
近年来，由于大量的数据集含有大量未标记数据，而只有少量标记样本，因此半监督学习受到了越来越多的关注。半监督学习算法可以处理这两种类型的数据，将它们结合起来，以获得更好的聚类和分类性能。此外，这些数据集通常具有大量的维度。本文提出了一种新的基于自组织映射（SOM）的半监督聚类和分类方法，称为半监督自组织映射（SS-SOM）。该方法可以在训练过程中根据每个模式的类标签的可用性在监督学习和无监督学习之间动态切换。我们的研究结果表明，SS-SOM优于其他半监督方法的条件下，有少量的标记样本，也取得了良好的效果时，所有的样本标记。
2019-07-01 cs.LG stat.ML
Image Clustering Algorithm Based on Self-Supervised Pretrained Models and Latent Feature Distribution Optimization
School of Communication and Information Engineering, Shanghai University（上海大学通信与信息工程学院）
针对现有深度聚类算法精度偏低的问题，提出结合自监督预训练模型微调、k近邻距离压缩与聚类质心距离优化的图像聚类算法，在多数据集上取得SOTA结果，小类别数据集上精度接近监督方法。
2024-08-10 cs.CV cs.LG
Supervised Hierarchical Clustering with Exponential Linkage
College of Information and Computer Sciences, University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校信息与计算机科学学院）
在监督聚类中，用于学习成对相异性函数的标准技术通常会受到训练目标和聚类目标之间的差异的影响，从而导致聚类质量差。纠正这种差异需要将训练相异性函数的过程与聚类算法相匹配。在本文中，我们介绍了一种方法来训练的相异度函数的方式，是紧密耦合的层次聚类，特别是单链接。然而，对于给定的数据集，适当的聚类算法通常是未知的。因此，我们引入了一种监督层次聚类的方法，平滑插值之间的单一，平均和完整的链接，我们给出了一个训练过程，同时学习的链接函数和相异性函数。我们用一个新的指数链接函数来实现这一点，该函数具有一个可学习的参数来控制插值。在四个数据集上的实验中，我们的联合训练过程始终匹配或优于下一个最佳训练过程/连接函数对，并且在不一致对上的树状图纯度上提高了8个点。
2019-06-19 cs.LG stat.ML
Self-supervised Contrastive Attributed Graph Clustering
Xidian University（西安电子科技大学）；Westfield State University（韦斯特菲尔德州立大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）
提出自监督对比属性图聚类网络SCAGC，利用不精确聚类标签设计自监督对比损失学习节点表示，并直接输出聚类标签，解决样本外问题，在四个基准数据集上优于11种方法。
2021-10-15 cs.AI cs.LG
Automatic Clustering of a Network Protocol with Weakly-Supervised Clustering
Graz University of Technology（格拉茨技术大学）
抽象是学习系统行为模型的基本部分。抽象的过程通常由领域专家手动定义。提出了一种对网络协议进行自动抽象的方法。特别是一个弱监督聚类算法被用来建立一个广泛使用的TLS协议的抽象与一个小的词汇量。为了显示所提出的方法的有效性，我们将得到的抽象消息与手动构造的（参考）抽象进行比较。通过少量的边信息（以几个带标签的示例的形式），该方法可以找到一个与引用抽象完美匹配的抽象。
2018-06-04 cs.CR cs.LG stat.ML
Semi-supervised cross-entropy clustering with information bottleneck constraint
Jagiellonian University（雅盖隆大学）；Technical University of Munich（慕尼黑工业大学）
在本文中，我们提出了一种半监督聚类方法，CEC-IB，模型数据与一组高斯分布和检索集群的基础上提供的部分标签的用户（分区级边信息）。通过将交叉熵聚类（CEC）的思想与信息瓶颈方法（IB）的思想相结合，我们的方法在三个相互冲突的目标之间进行交易：数据集建模的准确性，模型的简单性，以及聚类与边信息的一致性。实验表明，CEC-IB在经典的半监督场景中具有与高斯混合模型（GMM）相当的性能，但速度更快，对噪声标签更具鲁棒性，自动确定最佳聚类数量，并且在边信息中不存在所有类别时表现良好。此外，与其他半监督模型相比，它可以成功地应用于发现自然子群，如果分区级别的边信息是来自一个层次聚类的顶层。
2017-05-03 cs.LG stat.ML
Semi-supervised Clustering Ensemble by Voting
Dalhousie University（达尔豪斯大学）
聚类集成是无监督学习的最新进展之一。它的目的是将不同算法得到的聚类结果或同一聚类算法对同一数据集的不同运行得到的聚类结果结合起来，这是通过一个一致性函数来实现的，这种方法的效率和准确性已经在许多文献中得到了证明。在本文的第一部分中，我们对现有文献中的聚类集成方法进行了比较。所有这些方法包括两个主要步骤：集成生成和共识功能。在本文的第二部分中，我们建议在聚类集成过程中加入监督，以获得更多的增强聚类结果。监督可以在两个地方应用：通过在聚类集成生成步骤中使用半监督算法，或者以共识函数阶段使用的反馈形式。此外，我们引入了一个灵活的两个参数的加权机制，第一个参数描述了所研究的数据集和用于生成基本分区的半监督聚类算法之间的兼容性，第二个参数用于提供用户对这些分区的反馈。这两个参数参与基于“重新标记和投票”的共识函数，以产生最终的聚类。
2012-08-20 cs.LG stat.ML
Adaptive Self-supervised Robust Clustering for Unstructured Data with Unknown Cluster Number
University of Science and Technology of China（中国科学技术大学）；The Hong Kong Polytechnic University（香港理工大学）
提出自适应自监督鲁棒聚类方法ASRC，通过自适应学习图结构和边权重，结合增强图自编码器与对比学习，在未知簇数量下实现非结构化数据的高效聚类，性能优于依赖先验知识的方法。
2024-07-30 cs.AI cs.LG
Weakly supervised clustering: Learning fine-grained signals from coarse labels
Stanford University（斯坦福大学）；Google, Inc.（谷歌公司）
考虑一个分类问题，我们无法访问单个训练样本的标签，而只能获得子群体的平均标签。我们给出了这种设置的实际例子，并展示了如何将这样的分类任务有效地分析为弱监督聚类问题。我们提出了三种方法来解决弱监督聚类问题，包括在我们的实验中表现良好的潜变量模型。我们说明了我们的方法上的分析汇总的选举数据和行业数据集，这是本研究的原始动机。
2015-09-15 cs.LG stat.ML
Discriminative Similarity for Clustering and Semi-Supervised Learning
Snap Research（Snap 研究院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）；National University of Singapore（新加坡国立大学）；Beckman Institute, University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校贝克曼研究所）
基于相似性的聚类和半监督学习方法根据数据之间的成对相似性将数据分成簇或类，而成对相似性对它们的性能至关重要。在本文中，我们提出了一种新的判别相似性学习框架，学习判别相似性的数据聚类或半监督学习。该框架从每个假设标签学习分类器，并通过最小化与假设标签相关联的学习分类器的泛化误差来搜索最优标签。核分类器在我们的框架。通过基于拉德马赫复杂度的泛化分析，将核分类器的泛化误差界表示为不同类数据的两两相似度之和，并通过核分类器的权值进行参数化.这种成对相似性作为判别相似性用于聚类和半监督学习的目的，并且具有相似形式的判别相似性也可以由用于核密度分类的积分平方误差界诱导。基于核分类器的判别相似性，我们提出了新的聚类和半监督学习方法。
2017-09-05 cs.LG stat.ML
Cluster-aware Semi-supervised Learning: Relational Knowledge Distillation Provably Learns Clustering
Courant Institute of Mathematical Sciences（柯朗数学科学研究所）；New York University（纽约大学）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；Center of Data Science（数据科学中心）
该研究针对半监督分类问题，从理论上证明关系知识蒸馏（RKD）可转化为谱聚类并实现低聚类误差，提出聚类感知半监督学习框架，揭示了RKD与一致性正则化分别提供全局与局部视角。
2023-10-23 cs.LG stat.ML
Relaxed Oracles for Semi-Supervised Clustering
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
成对“同簇”查询是半监督聚类中最广泛使用的监督形式之一。然而，要求人类神谕正确回答每个查询是不切实际的。在本文中，我们研究的影响，允许“不确定”的答案从一个弱的预言，并提出了一个有效的算法来处理这种不确定性的查询响应。两个现实的弱预言模型被认为是在回答的歧义取决于两点之间的距离。我们表明，一个小的查询复杂度是足够的有效聚类的概率高，提供更好的对弱预言。合成和真实数据的实验结果表明，我们的方法在克服监督的不确定性，产生高质量的集群的有效性。
2017-11-20 cs.LG stat.ML
AutoEmbedder: A semi-supervised DNN embedding system for clustering
Bangladesh University of Business & Technology（孟加拉国商业与技术大学）；King Abdulaziz University（阿卜杜勒阿齐兹国王大学）
聚类是处理无标记数据的无监督学习方法中广泛使用的一种。深度集群已成为一个流行的研究领域，它将集群与深度神经网络（DNN）架构联系起来。深度聚类方法对高维数据进行下采样，这也可能与聚类损失有关。深度聚类也被引入到半监督学习（SSL）中。大多数SSL方法依赖于成对约束信息，这是一个矩阵，包含数据对是否可以在同一个集群中的知识。本文介绍了一种新的嵌入系统AutoEmbedder，下采样高维数据的聚类嵌入点。据我们所知，这是第一个与传统分类器DNN架构相关的研究工作，具有成对损失减少技术。训练过程是半监督的，并使用Siamese网络架构来计算特征学习阶段的成对约束损失。AutoEmbedder优于大多数现有的基于DNN的半监督方法，这些方法在著名的数据集上进行了测试。
2020-07-11 cs.CV cs.LG stat.ML
Determinantal Clustering Processes - A Nonparametric Bayesian Approach to Kernel Based Semi-Supervised Clustering
University of Cambridge（剑桥大学）
半监督聚类是将数据点聚类成簇的任务，其中只有一小部分点被标记。数据中聚类的真实数量通常是未知的，大多数模型都需要这个参数作为输入。狄利克雷过程混合模型是有吸引力的，因为它们可以从数据中推断出聚类的数量。然而，这些模型不能很好地处理高维数据，并且在推理中会遇到困难。我们提出了一种新的非参数贝叶斯内核为基础的方法来聚类数据点，而不需要预先指定集群的数量或模型复杂的密度，数据点被假定为从生成。关键的见解是使用核矩阵的子矩阵的行列式作为一组点之间的距离的度量。我们探讨了模型的一些理论性质，并推导出一个基于自然吉布斯的算法与MCMC超参数学习。该模型在各种合成和真实世界的数据集上实现。
2013-09-26 cs.LG stat.ML
Supercm: Revisiting Clustering for Semi-Supervised Learning
Department of Physics and Technology（物理与技术系）；UiT The Arctic University of Norway（北极大学）
提出Supercm方法，通过扩展可微聚类模块显式引入聚类假设，利用标注数据引导聚类中心，构建了端到端的深度半监督学习框架，有效提升基线性能并可与现有方法结合。
2025-06-30 cs.CV cs.LG
Weakly Supervised Clustering by Exploiting Unique Class Count
National University of Singapore（新加坡国立大学）；A*STAR（新加坡科技研究局）；A*STAR Genome Institute of Singapore（新加坡科技研究局基因组研究所）；Bioinformatics Institute（生物信息学研究所）；Image Pervasive Access Lab (IPAL) CNRS UMI 2955（图像普适访问实验室（IPAL）法国国家科学研究中心联合研究单位2955）；Singapore Eye Research Institute（新加坡眼科研究所）
提出了一种基于弱监督学习的聚类框架。作为该框架的核心，我们引入了一种新的多实例学习任务的基础上袋级标签称为唯一类计数（$ucc$），这是唯一类的数量在袋内的所有实例。在这个任务中，在训练模型的过程中，不需要对包内的单个实例进行注释。我们从数学上证明，一个完美的$ucc$分类器，完美的聚类的个别实例内的袋子是可能的，即使没有注释的个别实例在训练过程中。我们构建了一个基于神经网络的$ucc$分类器，并通过实验证明，我们的弱监督$ucc$分类器框架的聚类性能与完全监督学习模型的聚类性能相当，其中所有实例的标签都是已知的。此外，我们已经测试了我们的框架在组织学淋巴结切片中的乳腺癌转移的语义分割的现实任务的适用性，并表明我们的弱监督框架的性能与完全监督的Unet模型的性能相当。
2020-01-25 cs.CV cs.LG
Self Supervised Correlation-based Permutations for Multi-View Clustering
Faculty of Engineering Bar Ilan University（工程学院巴伊兰大学）
针对现有多视图聚类方法领域受限或两阶段流程次优且计算量大的问题，提出基于置换典型相关目标的端到端多视图聚类框架，有理论支撑且在10个基准数据集上验证有效。
2025-05-20 cs.LG stat.ML
Self-Supervised Information Bottleneck for Deep Multi-View Subspace Clustering
Beijing Institute of Technology（北京理工大学）
本文从信息论的角度探讨了深度多视点子空间聚类框架问题。我们扩展了传统的信息瓶颈原理，以自监督的方式学习不同视图之间的共同信息，并相应地建立了一个新的框架称为自监督信息瓶颈的多视图子空间聚类（SIB-MSC）。继承了信息瓶颈的优点，SIB-MSC可以为每个视图学习潜在空间，通过从视图本身去除多余的信息，同时为其他视图的潜在表示保留足够的信息，来捕获不同视图的潜在表示之间的公共信息。实际上，每个视图的潜在表示为训练其他视图的潜在表示提供了一种自监督信号。此外，SIB-MSC尝试学习其他潜在空间为每个视图捕捉视图特定的信息，通过引入互信息为基础的正则化条款，以便进一步提高多视图子空间聚类的性能。据我们所知，这是第一个工作，探讨多视图子空间聚类的信息瓶颈。对真实世界多视图数据的大量实验表明，我们的方法比相关的国家的最先进的方法取得了优越的性能。
2022-04-29 cs.AI cs.LG
Deep Clustering with Features from Self-Supervised Pretraining
The Hong Kong University of Science and Technology（香港科技大学）
深度聚类模型在概念上由将数据点映射到潜在空间的特征提取器和将数据点分组到潜在空间中的聚类头组成。虽然这两个组成部分过去是以端到端的方式联合训练的，但最近的工作证明，分两个阶段分别对它们进行训练是有益的。在第一阶段中，特征提取器通过自监督学习进行训练，这使得能够保存数据点之间的聚类结构。为了更好地保留聚类结构，我们建议用另一个模型代替第一阶段，该模型通过自监督学习在更大的数据集上进行预训练。该方法简单，但可能会受到域移位的影响。尽管如此，我们的经验表明，它可以实现卓越的聚类性能。当使用视觉Transformer（ViT）架构进行特征提取时，我们的方法在CIFAR-10、CIFAR-100和STL-10上的聚类准确率分别达到94.0%、55.6%和97.9%。相应的既往最新技术水平结果分别为84.3%、47.7%和80.8%。我们的代码将在网上提供的文件的出版物。
2022-07-27 cs.CV cs.LG
Clustering of illustrations by atmosphere using a combination of supervised and unsupervised learning
Doshisha University（同志社大学）
本文提出结合监督学习与无监督学习及伪标签提取特征向量进行聚类，解决了插画按模糊氛围分类的难题，在人工分类数据集上优于传统方法。
2023-07-27 cs.CV cs.LG
A semi-supervised sparse K-Means algorithm
University of Sheffield（谢菲尔德大学）；Department of Computer Science（计算机科学系）
我们考虑的问题，数据聚类与未识别的特征质量和少量的标记数据时，提供。可以采用无监督稀疏聚类方法来检测聚类所需的特征子组，并且半监督方法可以使用标记数据来创建约束并增强聚类解决方案。在本文中，我们提出了一个采用这些技术的K-Means变体。我们表明，该算法保持了其他半监督算法的高性能，此外还保留了从无信息特征中识别信息的能力。我们研究的合成和真实世界的数据集上的算法的性能。我们使用不同数量和类型的约束，以及不同的聚类初始化方法的情况。
2020-10-18 cs.LG stat.ML
Kernelized Locality-Sensitive Hashing for Semi-Supervised Agglomerative Clustering
Columbia University（哥伦比亚大学）
大规模的凝聚聚类受到计算负担的阻碍。我们提出了一种新的方案，其中精确的实例间距离计算被替换为核化局部敏感哈希（KLSH）哈希值之间的汉明距离。这导致了一种方法，大大减少了计算时间。此外，我们通过距离度量学习利用某些标记的数据点，以实现与K-Means相比具有竞争力的精确度和召回率，但计算时间要少得多。
2013-01-16 cs.CV cs.LG stat.ML
Context-Aware Clustering using Large Language Models
Virginia Tech（弗吉尼亚理工大学）；Amazon（亚马逊公司）
本文提出CACTUS方法，利用开源大语言模型结合实体间注意力机制和增强三元组损失，实现实体子集的高效有监督上下文感知聚类，并通过从闭源LLM迁移知识，在多个电子商务数据集上显著优于现有基线。
2024-05-02 cs.CL cs.LG
Semi-supervised clustering methods
Univ. of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
聚类分析方法试图将数据集划分为同质的子组。它在各种各样的应用中都很有用，包括文件处理和现代遗传学。传统的聚类方法是无监督的，这意味着没有结果变量，也不知道数据集中观测之间的关系。然而，在许多情况下，除了特征的值之外，关于聚类的信息也是可用的。例如，一些观测的聚类标签可能是已知的，或者某些观测可能已知属于同一聚类。在其他情况下，人们可能希望识别与特定结果变量相关联的聚类。本文介绍了几种聚类算法（称为“半监督聚类”方法），可以应用在这些情况下。这些方法中的大多数是流行的k-means聚类方法的修改，并且将详细描述其中的几个。还提供了一些其他半监督聚类算法的简要描述。
2013-07-01 cs.LG stat.ME stat.ML
Semi-Supervised Clustering with Contrastive Learning for Discovering New Intents
MYbank, Ant Group（蚂蚁集团网商银行）
现实世界中的大多数对话系统依赖于预定义的意图和答案来提供问答服务，因此，从大型语料库中发现潜在的意图对于构建此类对话服务非常重要。考虑到大多数场景中已知的意图很少，大多数意图等待被发现，我们专注于半监督文本聚类，并试图使所提出的方法受益于标记样本，以获得更好的整体聚类性能。在本文中，我们提出了深度对比半监督聚类（DCSC），它的目的是在一个半监督的方式聚类文本样本，并提供分组的意图给操作人员。为了使DCSC充分利用有限的已知意图，我们提出了一个两阶段的DCSC训练过程，其中DCSC将在标记样本和未标记样本上进行训练，并获得更好的文本表示和聚类性能。我们在两个公共数据集上进行了实验，将我们的模型与几种流行的方法进行了比较，结果表明DCSC在所有数据集和情况下都取得了最佳性能，表明了我们工作中改进的效果。
2022-01-07 cs.AI cs.CL cs.LG
An Exact Algorithm for Semi-supervised Minimum Sum-of-Squares Clustering
Sapienza University of Rome（罗马第一大学）；University of Rome Tor Vergata（罗马第二大学）
最小平方和聚类（MSSC），或k均值类型聚类，传统上被认为是一个无监督的学习任务。近年来，利用背景知识提高聚类质量，促进聚类过程的可解释性，已成为数学优化与机器学习交叉研究的热点。在数据聚类中利用背景信息的问题被称为半监督或约束聚类。在本文中，我们提出了一个分支和切割算法的半监督MSSC，其中背景知识作为成对的必须链接和不能链接的约束。对于下界方法，我们解决了MSSC离散最优化模型的半定规划松弛问题，并使用了一种割平面方法来加强下界。对于上界，相反，通过使用整数规划工具，我们使用的k-均值算法的约束情况下的适应。第一次，提出的全局优化算法有效地管理，以解决现实世界的实例多达800个数据点与不同的组合必须链接和不能链接的约束条件，并与一个通用的功能。这个问题的大小大约是由最先进的精确算法解决的实例的四倍。
2022-07-24 cs.LG math.OC
Enhancing Multi-Modal Video Sentiment Classification Through Semi-Supervised Clustering
Viterbi School of Engineering（维特比工程学院）；University of Southern California（南加州大学）
针对视频情感分类依赖大量标注数据的问题，提出结合聚类半监督预训练与监督微调的多模态方法，利用视频、文本及声学特征提升分类效果，尤其适用于标注数据有限的场景。
2025-01-11 cs.CV cs.LG
Self-Supervised Learning for Large-Scale Unsupervised Image Clustering
Technion – Israel Institute of Technology（以色列理工学院）
无监督学习一直吸引着机器学习研究人员和从业者，使他们能够避免昂贵而复杂的数据标记过程。然而，复杂数据的无监督学习具有挑战性，即使是最好的方法也比有监督的方法表现出更弱的性能。自监督深度学习已经成为计算机视觉中表示学习的强大工具。然而，这些方法尚未在完全无监督的环境中进行评估。在本文中，我们提出了一个简单的计划，基于自监督表示的无监督分类。我们使用几种最近的自监督方法对所提出的方法进行了评估，结果表明它在ImageNet分类方面取得了有竞争力的结果（ImageNet上1000个聚类的准确率为39%，过聚类的准确率为46%）。我们建议将无监督评估添加到自监督学习的标准基准中。代码可在https://github.com/Randl/kmeans_selfsuper上获得
2020-11-09 cs.CV cs.LG
