New bounds on the cohesion of complete-link and other linkage methods for agglomeration clustering
University of California San Diego（加利福尼亚大学圣迭戈分校）；PUC-RIO（里约热内卢天主教大学）
本文为度量空间中完全连接层次聚类的最大直径建立了改进的上界，首次在直径近似上区分完全连接与单连接，并将技术推广到含平均连接在内的一类连接方法。
2024-05-02 cs.DS cs.LG stat.ML
A Correlation Clustering Approach to Link Classification in Signed Networks -- Full Version --
Università degli Studi di Milano（米兰大学）；Università dell’Insubria（因苏布里亚大学）
受社会平衡理论的启发，我们提出了一种基于关联聚类指数的标记网络链接分类理论。我们得出学习界限的相关聚类在三个基本的转导学习设置：在线，批量和主动。我们的主要算法的贡献是在积极的设置，在那里我们引入了一个新的家庭的有效的链接分类器的基础上覆盖的输入图与小电路。这些是第一个主动算法的链接分类错误的界限，持有任意签署的网络。
2013-02-28 cs.DS cs.LG stat.ML
Chamfer-Linkage for Hierarchical Agglomerative Clustering
University of Maryland（马里兰大学）；Brown University（布朗大学）；Google Research（谷歌研究）
本文提出Chamfer-linkage，一种基于Chamfer距离的层次聚类链接函数，通过实验验证其在多种数据集上优于经典链接方法，为层次聚类提供了新的实用工具。
2026-02-11 cs.DC cs.DS cs.IR
Gromov-Hausdorff stability of linkage-based hierarchical clustering methods
如果数据集上的小扰动在结果中产生小扰动，则层次聚类方法是稳定的。这些扰动是使用Gromov-Hausdorff度量测量的。研究了基于链接的层次聚类方法的稳定性问题。我们得到，在某些基本条件下，标准的基于链接的方法是半稳定的。这意味着，如果输入数据足够接近超度量空间，则它们是稳定的。我们证明，除了异国情调的例子，在算法中引入任何unchaining条件总是产生不稳定的方法。
2013-11-20 cs.LG
Nonlinear subspace clustering by functional link neural networks
Southwestern University of Finance and Economics（西南财经大学）
本研究提出基于 functional link neural network 的非线性子空间聚类方法，通过单层网络实现高计算效率，结合局部相似性正则化提升聚类质量，并引入凸组合方案动态平衡线性与非线性表示。
2024-08-27 cs.LG
Links: A High-Dimensional Online Clustering Method
Google Inc.（谷歌公司）；Carnegie Mellon University（卡内基梅隆大学）
我们提出了一种新的算法，称为链接，旨在进行在线聚类的单位向量在高维欧氏空间。该算法是适当的，当它是必要的，以有效地聚类数据流，并与传统的批量聚类算法，可以访问所有的数据在一次。例如，Links已成功应用于嵌入从人脸图像或语音记录生成的向量，以识别人，从而在视频或音频捕获期间提供实时识别。
2018-01-30 cs.LG stat.ML
Semi-Supervised Information-Maximization Clustering
Daniele Calandriello
半监督聚类的目的是在聚类算法的决策过程中引入先验知识。在本文中，我们提出了一种新的半监督聚类算法的信息最大化原则的基础上。该方法是一个扩展的无监督的信息最大化聚类算法的基础上平方损失互信息，有效地将必须链接和不能链接。所提出的方法是计算效率，因为聚类的解决方案可以通过特征分解解析。此外，所提出的方法允许系统优化的调谐参数，如内核宽度，给定的程度的信念，必须链接和不能链接。通过实验证明了该方法的有效性。
2013-05-01 cs.LG stat.ML
Combining Multiple Clusterings via Crowd Agreement Estimation and Multi-Granularity Link Analysis
Sun Yat-sen University（中山大学）；SYSU-CMU Shunde International Joint Research Institute（中山大学-卡内基梅隆大学顺德国际联合研究院）
聚类集成技术旨在将多个聚类组合成一个可能更好、更鲁棒的聚类，近年来受到越来越多的关注。现有的聚类集成方法主要存在两个方面的局限性。首先，许多方法缺乏在不访问原始数据的情况下对基本聚类进行加权的能力，并且可能受到低质量甚至不良聚类的显著影响。其次，它们通常集中在集成系统的实例级或集群级，未能将多粒度线索集成到一个统一的模型中。为了解决这两个局限性，本文提出了通过人群一致性估计和多粒度链接分析来解决聚类集成问题。我们提出了归一化的人群一致性指数（NCAI），以评估质量的基础聚类在无监督的方式，从而根据其聚类有效性的基础聚类的权重。为了探索簇之间的关系，源感知连接三元组（SACT）的相似性方面，他们的共同邻居和源的可靠性。基于NCAI和多粒度信息收集的基础聚类，集群，数据实例，我们进一步提出了两个新的共识函数，加权证据积累聚类（WEAC）和图划分与多粒度链接分析（GP-MGLA）。实验在八个真实世界的数据集上进行。实验结果证明了该方法的有效性和鲁棒性。
2016-06-03 cs.LG stat.ML
reval: a Python package to determine best clustering solutions with stability-based relative clustering validation
Istituto Italiano di Tecnologia（意大利技术研究院）；University of Trento（特伦托大学）；University of Cambridge（剑桥大学）
确定数据集的最佳分区可能是一项具有挑战性的任务，因为1）在无监督学习框架内缺乏先验信息;以及2）缺乏唯一的聚类验证方法来评估聚类解决方案。在这里，我们提出reval：一个Python包，它利用基于稳定性的相对聚类验证方法来确定最佳聚类解决方案，即最佳泛化到未知数据的解决方案。R和Python中的统计软件通常依赖于内部验证指标（如轮廓）来选择最适合数据的聚类数量。同时，缺乏易于实现相对聚类技术的开源软件解决方案。内部验证方法利用数据本身的特性来产生结果，而相对方法试图利用数据点的未知潜在分布来寻找可推广和可复制的结果。相对验证方法的实现可以通过丰富现有的方法来进一步发展聚类理论，这些方法可以用于研究不同情况下和不同数据分布下的聚类结果。这项工作旨在通过开发一种基于稳定性的方法来促进这一努力，该方法通过监督学习在看不见的数据子集上选择最佳聚类解决方案作为复制解决方案。该软件包与多种聚类和分类算法一起工作，因此允许标签过程的自动化和对不同聚类机制的稳定性的评估。
2020-11-30 cs.LG stat.ML
Fraud Detection Through Large-Scale Graph Clustering with Heterogeneous Link Transformation
Chi Liu（独立研究者）
本文提出一种通过异质链接转换进行大规模图聚类的欺诈检测方法，有效提升欺诈检测覆盖率和精度。
2025-12-22 cs.AI cs.LG
Semi-Supervised Clustering with Inaccurate Pairwise Annotations
Pontifícia Universidade Católica do Rio de Janeiro（里约热内卢天主教大学）；CIRRELT；Polytechnique Montréal（蒙特利尔理工学院）
成对关系信息是在难以获取类标签的领域中提供部分监督的有用方法。这项工作提出了一个聚类模型，该模型以必须链接和不能链接关系的形式合并成对注释，并考虑可能的注释不准确性（即，当专家提供成对监督时的常见设置）。我们提出了一个生成模型，假设高斯分布的数据样本以及随机块模型产生的必须链接和不能链接的关系。我们采用了最大似然方法，并证明，即使当监督是薄弱和不准确的，占关系信息显着提高聚类性能。关系信息还有助于检测现实世界数据集中不符合原始数据分布假设的有意义的组。此外，我们扩展了模型，以整合专家的准确性先验知识，并讨论在何种情况下使用这些知识是有益的。
2021-04-05 cs.LG
A Classification-Based Approach to Semi-Supervised Clustering with Pairwise Constraints
Jagiellonian University（雅盖隆大学）；Instituto de Telecomunicações（电信研究所）；Instituto Superior Técnico（高等技术学院）；Universidade de Lisboa（里斯本大学）
在本文中，我们介绍了一个神经网络框架的半监督聚类（SSC）与成对（必须链接或不能链接）的限制。与现有方法相比，我们将SSC分解为两个更简单的分类任务/阶段：第一阶段使用一对连体神经网络将未标记的点对标记为必须链接或不能链接;第二阶段使用第一阶段在基于监督神经网络的聚类方法中产生的完全成对标记的数据集。所提出的方法S3 C2（用于聚类的半监督连体分类器）的动机是观察到二元分类（例如分配成对关系）通常比部分监督的多类聚类更容易。另一方面，基于分类，我们的方法只解决了定义明确的分类问题，而不是不太明确的聚类任务。在各种数据集上的实验表明了该方法的高性能。
2020-01-18 cs.LG stat.ML
Density-based Clustering with Best-scored Random Forest
Renmin University of China（中国人民大学）
基于单水平密度的聚类方法一直被广泛认为是一种概念上和数学上令人信服的聚类方法。在本文中，我们提出了一种算法称为“最佳得分聚类森林”，可以获得最佳水平，并确定相应的集群。术语“最佳得分”意味着从一定数量的纯随机树候选中选择一个具有最佳经验性能的随机树。从理论的角度来看，我们首先表明，我们提出的算法的一致性可以得到保证。此外，在对底层密度函数和目标聚类的某些温和限制下，甚至可以实现快速收敛。最后，与其他国家的最先进的聚类方法在数值实验中的比较表明，我们的算法的准确性在合成数据和几个基准的真实数据集。
2019-06-24 cs.LG stat.ML
Fairness, Semi-Supervised Learning, and More: A General Framework for Clustering with Stochastic Pairwise Constraints
Wellesley College（韦尔斯利学院）；Carnegie Mellon University（卡内基梅隆大学）；University of Maryland, College Park（马里兰大学帕克分校）
度量聚类是从组合优化和数据采掘到机器学习和运筹学等领域的基础。然而，在各种情况下，我们可能有额外的要求或知识，不同于底层的度量，关于哪些点对应该聚集在一起。为了捕捉和分析这样的情况下，我们引入了一个新的家庭的\emph{stochastic pairwise constraints}，我们纳入几个基本的聚类目标（半径/中位数/手段）。此外，我们证明了这些约束可以简洁地建模一个有趣的应用程序集合，其中包括聚类中的\emph{Individual Fairness}和半监督学习中的\emph{Must-link}约束。我们的主要结果包括一个一般的框架，产生近似算法与可证明的保证重要的聚类目标，而在同一时间产生的解决方案，尊重随机成对约束。此外，对于某些目标，我们设计改进的结果的情况下，必须链接的约束，这也是最好的可能从理论的角度来看。最后，我们提出了实验证据，验证了我们的算法的有效性。
2021-03-02 cs.DS cs.LG
A Scalable Global Optimization Algorithm For Constrained Clustering
Department of Industrial and Systems Engineering, University of South Florida（南佛罗里达大学工业与系统工程系）；Bellini College of AI, Cybersecurity, and Computing, University of South Florida（南佛罗里达大学人工智能、网络安全与计算学院）
针对约束聚类中成对约束导致的NP困难全局优化问题，提出SDC-GBB可分解分支定界框架，通过质心伪样本和几何剪枝实现并行扩展，处理规模较现有方法大200-1500倍，最优性差距小于3%。
2025-10-26 cs.LG
Hierarchical Agglomerative Graph Clustering in Nearly-Linear Time
MIT（麻省理工学院）；Google Research（谷歌研究院）
研究了边加权图上的层次凝聚聚类算法。我们定义了一个算法框架的层次凝聚图聚类，提供了第一个有效的$\tilde{O}(m)$时间精确算法的经典链接的措施，如完整的和WPGMA链接，以及其他措施。此外，平均链接，可以说是最流行的变体HAC，我们提供了一个算法，运行在$\tilde{O}(n\sqrt{m})$的时间。对于这个变体，这是第一个在次二次时间内运行的精确算法，只要对某个常数$ε> 0$执行$m=n^{2-ε}$。我们补充这一结果与一个简单的$ε$接近近似算法的平均链接在我们的框架中运行在$\tilde{O}(m)$的时间。作为我们的算法的一个应用，我们考虑聚类点在度量空间中，首先使用$k$ -NN生成一个图的点集，然后运行我们的算法产生的加权图。我们在公开数据集上验证了我们的算法的性能，并表明我们的方法可以将点数据集的聚类速度提高20.7- 76.5倍。
2021-06-10 cs.AI cs.CV cs.DS
Non-Negative Local Sparse Coding for Subspace Clustering
Bielefeld University（比勒费尔德大学）
子空间稀疏编码（SSC）算法已被证明是有益的聚类问题。它们提供了一种替代数据表示，其中可以更好地捕获集群的底层结构。然而，这一领域的研究主要集中在增强稀疏编码部分的问题。相比之下，我们在我们提出的SSC框架中引入了一个新的目标项，该框架专注于编码空间中数据点的可分性。我们还提供了数学的见解如何本地可分性项提高聚类结果的SSC框架。我们提出的非线性局部SSC算法（NLSSC）也受益于其稀疏项和约束的有效选择。NLSSC算法也制定了基于核的框架（NLKSSC），可以表示数据的非线性结构。此外，我们解决了稀疏编码结果中存在冗余的可能性及其对基于图的聚类问题的负面影响。我们引入链接恢复后处理步骤，以改善非负SSC算法的表示图，如我们的。著名的聚类基准的实证评估表明，我们提出的NLSSC框架的结果更好的聚类相比，国家的最先进的基线，并证明了有效性的链接恢复后处理，通过纠正破碎的链接表示图，提高聚类精度。
2019-03-12 cs.DS cs.LG stat.ML
An algorithm for clustering with confidence-based must-link and cannot-link constraints
University of Bern（伯尔尼大学）；University of California, Berkeley（加州大学伯克利分校）
本文提出PCCC算法，通过整数规划将成对约束按置信度灵活处理为硬约束或软约束，并结合多起点与模型缩减技术，在大规模半监督聚类中优于现有方法。
2024-10-18 cs.LG
Genie: A new, fast, and outlier-resistant hierarchical clustering algorithm
Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）；Faculty of Mathematics and Information Science, Warsaw University of Technology（华沙理工大学数学与信息科学学院）；Institute of Computer Science, Polish Academy of Sciences（波兰科学院计算机科学研究所）
应用层次聚类算法所需的时间通常由成对相异性度量的计算次数决定。对于较大的数据集，这样的约束使除了单一联系标准之外的所有经典联系标准的使用处于不利地位。然而，已知的是，单链接聚类算法对离群值非常敏感，产生高度偏斜的树状图，因此通常不反映真实的底层数据结构--除非聚类被很好地分离。为了克服它的局限性，我们提出了一个新的层次聚类链接标准称为精灵。也就是说，我们的算法以这样一种方式链接两个集群，即选择的经济不公平度量（例如，集群大小的基尼或邦弗朗尼指数）不会急剧增加到给定阈值以上。所提出的基准测试表明，所介绍的方法具有很高的实用性：它往往优于沃德或平均链接的聚类质量，同时保持单一的链接的速度。Genie算法很容易并行化，因此可以在多个线程上运行，以进一步加快其执行速度。它的内存开销很小：不需要预先计算完整的距离矩阵来执行计算以获得期望的聚类。它可以应用于配备有相异性度量的任意空间，例如，该算法的参考实现已包含在R的开源'genie'包中。另请参阅https://genieclust.gagolewski.com以获得新的实现（genieclust）-可用于R和Python。
2022-09-13 cs.LG stat.ML
On Constrained Spectral Clustering and Its Applications
University of California, Davis（加州大学戴维斯分校）
约束聚类已被充分研究的算法，如$K$ -均值和层次聚类。然而，如何满足这些算法设置中的许多约束已被证明是棘手的。编码许多约束的一种替代方法是使用谱聚类，这仍然是一个发展中的领域。在本文中，我们提出了一个灵活的框架约束谱聚类。与以前的一些努力，隐式编码必须链接和不能链接的约束，通过修改图形拉普拉斯算子或约束的基础特征空间，我们提出了一个更自然和原则的制定，明确编码的约束作为约束优化问题的一部分。我们的方法提供了几个实际的优点：它可以编码的程度的信念，必须链接和不能链接的约束，它保证下限如何以及给定的约束满足使用用户指定的阈值，它可以解决确定性在多项式时间通过广义特征分解。此外，通过继承目标函数的谱聚类和编码的约束明确，现有的分析无约束谱聚类技术仍然有效，我们的配方。我们验证了我们的方法的有效性，人工和真实数据集上的实证结果。我们还展示了一个创新的使用编码大量的约束：迁移学习通过约束。
2012-09-21 cs.LG stat.ML
Analysis of Ward's Method
University of Bonn（波恩大学）
研究了求解分层$k$ -均值问题的Ward方法.这种流行的贪婪启发式算法基于\emph{complete linkage}范式：从所有数据点作为单例聚类开始，它连续合并两个聚类以形成少一个聚类的聚类。选择聚类对以（局部）最小化下一步聚类的$k$均值成本。完全连接算法是解决层次聚类问题的一种常用算法，但其理论性质的研究相对较少。对于欧几里德$k$ -中心问题，Ackermann等人证明了通过完全连接计算的层次中的$k$ -聚类具有$Θ(\log k)$的最坏情况近似比。如果数据位于$\mathbb{R}^d$中，则对于恒定维度$d$，保证提高到$\mathcal{O}(1)$，但是$\mathcal{O}$表示法隐藏了对$d$的线性依赖性。迄今为止，尚未分析$k$ -中位数或$k$ -均值的完全连锁。在本文中，我们表明，沃德的方法计算$2$ -近似相对于$k$ -意味着目标函数，如果最佳的$k$ -聚类分离良好。如果另外的最优聚类也满足平衡条件，则沃德的方法完全恢复最优解。这些结果在任意维数下都成立。我们伴随着我们的积极的结果与下限的$Ω((3/2)^d)$的数据集在$\mathbb{R}^d$，如果没有分离是保证，并与下限时，保证分离不够强。最后，我们表明，沃德产生一个$\mathcal{O}(1)$ -近似聚类的一维数据集。
2019-07-11 cs.CG cs.DS cs.LG
Consistency constraints for overlapping data clustering
Air Force Research Laboratory（空军研究实验室）；University of Pennsylvania（宾夕法尼亚大学）；Texas A&M University（德克萨斯A&M大学）
我们研究重叠的聚类方案与函约束，在卡尔松-梅莫利的精神。这避免了基于分区的方法所需的链接所引起的问题。我们的主要结果表明，任何聚类函子是自然约束，以改善单链接集群和最大链接集群。我们工作的背景下，度量空间与非扩张映射，这是适合建模的数据处理，不增加信息内容。
2016-08-15 cs.LG stat.ML
An Exact Algorithm for Semi-supervised Minimum Sum-of-Squares Clustering
Sapienza University of Rome（罗马第一大学）；University of Rome Tor Vergata（罗马第二大学）
最小平方和聚类（MSSC），或k均值类型聚类，传统上被认为是一个无监督的学习任务。近年来，利用背景知识提高聚类质量，促进聚类过程的可解释性，已成为数学优化与机器学习交叉研究的热点。在数据聚类中利用背景信息的问题被称为半监督或约束聚类。在本文中，我们提出了一个分支和切割算法的半监督MSSC，其中背景知识作为成对的必须链接和不能链接的约束。对于下界方法，我们解决了MSSC离散最优化模型的半定规划松弛问题，并使用了一种割平面方法来加强下界。对于上界，相反，通过使用整数规划工具，我们使用的k-均值算法的约束情况下的适应。第一次，提出的全局优化算法有效地管理，以解决现实世界的实例多达800个数据点与不同的组合必须链接和不能链接的约束条件，并与一个通用的功能。这个问题的大小大约是由最先进的精确算法解决的实例的四倍。
2022-07-24 cs.LG math.OC
A Uniqueness Theorem for Clustering
尽管聚类被广泛使用，但令人沮丧的是，几乎没有通用的聚类理论。像“数据聚类与其他数据分区有什么区别？“，“有没有什么原则支配所有的集群范例？用户应该如何为特定的任务选择合适的聚类算法？等，几乎完全没有回答现有的机构集群的文献。我们认为一个公理化的方法聚类理论。我们采用Kleinberg [Kle03]的框架。通过放松Kleinberg的聚类公理之一，我们避开了他的不可能性结果，得到了一组一致的公理。我们建议扩展这些公理，旨在提供一个公理化的聚类范式分类。这样的分类应该为用户提供一些关于为给定任务选择适当的聚类范式的指导。本文的主要结果是一组抽象的性质，特点的单链聚类功能。该表征结果提供了对所需数据分组的特性的新见解，这些数据分组使单链接成为适当的选择。最后，我们考虑一个分类的聚类功能的基础上，每个满足的抽象属性。
2012-05-09 cs.LG
Hierarchical Position Embedding of Graphs with Landmarks and Clustering for Link Prediction
Korea University（高丽大学）
提出基于地标与聚类的层次位置嵌入方法HPLC，利用高中心性节点作为地标并结合图聚类，在链接预测任务上达到最先进性能。
2024-04-19 cs.AI cs.LG
Center of Gravity PSO for Partitioning Clustering
Cairo University（开罗大学）
本文提出了基于划分的聚类算法的粒子群算法的局部最优模型。该模型克服了gbest粒子群算法聚类的缺点。该模型使用预先指定数量的聚类K。LPOSC有K个邻域。每个邻域代表一个聚类。每个邻域中的粒子的目标是优化簇的质心的位置。所提出的算法的性能进行测量，使用调整后的兰德指数。并与粒子群算法的k-means和全局最优模型进行了比较。
2017-06-14 cs.LG
Robust Ensemble Clustering Using Probability Trajectories
Sun Yat-sen University（中山大学）；South China Agricultural University（华南农业大学）；Guangdong Key Laboratory of Information Security Technology（广东省信息安全技术重点实验室）；SYSU-CMU Shunde International Joint Research Institute (JRI)（中山大学-卡内基梅隆大学顺德国际联合研究院（JRI））
虽然近年来已经发展了许多成功的集成聚类方法，但大多数现有方法仍然存在两个局限性。首先，它们大多忽视了不确定的联系问题，这可能误导整个协商一致进程。第二，它们普遍缺乏纳入全球信息以完善地方联系的能力。针对这两个局限性，本文提出了一种基于稀疏图表示和概率轨迹分析的集成聚类方法。特别是，我们提出了精英邻居选择策略，以确定局部自适应阈值的不确定的链接，并建立一个稀疏图与少量的可能可靠的链接。我们认为，少量的可能可靠的链接可以导致显着更好的共识结果比使用所有的图形链接，无论其可靠性。利用一个新的转移概率矩阵驱动的随机游动过程来探索图中的全局信息。通过分析随机游走者的概率轨迹，我们从稀疏图中推导出一种新的稠密相似性度量，并在此基础上进一步提出了两个一致性函数。在多个真实数据集上的实验结果证明了该方法的有效性和效率。
2016-06-03 cs.LG stat.ML
Constrained 1-Spectral Clustering
Max Planck Institute for Computer Science（马克斯·普朗克计算机科学研究所）；Saarland University（萨尔大学）
聚类中先验信息的一种重要形式是不能链接和必须链接约束。我们提出了一个普遍的谱聚类技术，它集成了这样的限制。受最近提出的$1$ -谱聚类无约束问题的启发，我们的方法是基于紧松弛的约束归一化切割成一个连续的优化问题。相对于所有其他的方法，已建议约束谱聚类，我们总是可以保证满足所有的约束。此外，我们的软配方允许优化归一化的削减和违反约束的数量之间的权衡。提供了一种有效的实现，其可扩展到大型数据集。在实验中，我们始终优于所有其他提出的方法。
2015-05-24 cs.LG stat.ML
Hierarchical Clustering using Auto-encoded Compact Representation for Time-series Analysis
TCS Research, TATA Consultancy Services（塔塔咨询服务公司TCS研究院）
获得一个强大的时间序列聚类与最佳的距离测量和适当的表示选择总是一个挑战。我们提出了一种新的机制来识别集群，该机制结合了习得的时间序列紧凑表示、自动编码紧凑序列（AECS）和分层聚类方法。该算法利用递归神经网络（Recurrent Neural Network，RNN）在完全序列到序列（Sequence to Sequence，seq2seq）下进行分层聚类，以解决学习的潜在表示AECS的长度远小于原始时间序列长度的问题，同时提高其性能。自动编码器和凝聚层次聚类，选择最佳距离度量来推荐最佳聚类。我们的计划选择最好的距离测量和相应的聚类单变量和多变量的时间序列。我们已经实验了真实世界的时间序列从UCR和UCI存档采取不同的应用领域，如健康，智能城市，制造业等实验结果表明，该方法不仅产生接近基准的结果，但在某些情况下也优于基准。
2021-01-11 cs.AI cs.LG
Constrained Clustering and Multiple Kernel Learning without Pairwise Constraint Relaxation
Carnegie Mellon University（卡内基梅隆大学）；University of Cambridge（剑桥大学）
成对约束下的聚类是一种重要的知识发现工具，它能够学习适当的核或距离度量来提高聚类性能。这些成对约束以必须链接和不能链接对的形式出现，在许多应用程序中自然出现，并且对于用户来说是直观的。然而，当学习内核或度量时，将离散约束放松到连续域以简化优化的常见做法可能会损害泛化，因为仅编码链接的信息被转换为通知距离。我们引入了一个新的约束聚类算法，联合聚类数据和学习的内核，根据现有的成对约束。为了更好地推广，我们的方法被设计为最大化约束满足，而不放松成对约束到一个连续的域，其中它们通知距离。我们表明，所提出的方法优于现有的方法在大量不同的公开可用的数据集，我们讨论了我们的方法如何可以扩展到处理大数据。
2022-03-23 cs.AI cs.LG stat.ML
Constrained variable clustering and the best basis problem in functional data analysis
Institut Télécom（电信研究院）；Télécom ParisTech（巴黎高等电信学院）；CNRS（法国国家科学研究中心）；INRIA（法国国家信息与自动化研究所）
函数数据分析涉及由常规函数描述的数据，而不是由有限数量的实值变量描述的数据。虽然一些稳健的数据分析方法可以直接应用于从功能数据的细网格采样获得的非常高维的向量，但是所有方法都受益于减少由规律性引起的冗余的功能的先前简化。在本文中，我们建议使用一个聚类方法，目标变量，而不是个人设计一组函数的分段常数表示。由变量的函数性质引起的邻近约束允许多项式复杂度算法给出最优解。
2012-01-04 cs.LG stat.ML
Exponentially Consistent Nonparametric Linkage-Based Clustering of Data Sequences
Indian Institute of Technology Madras（印度理工学院马德拉斯学院）；Purdue University（普渡大学）
本文提出在较宽松条件下SLINK聚类可实现指数一致性，并设计序列算法SLINK-SEQ，减少样本需求，扩展了非参数聚类理论。
2025-08-06 cs.IT cs.LG eess.SP
An Accurate and Efficient Large-scale Regression Method through Best Friend Clustering
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
随着机器学习领域的数据量呈指数级增长，通过利用高性能计算硬件提供的不断增长的大量可用核来加速计算是不可避免的。然而，现有的并行聚类或回归方法往往遭受的问题，精度低，收敛速度慢，和复杂的超参数调整。此外，并行效率通常是难以提高，同时保持模型属性和分区计算工作负载之间的平衡，在分布式系统上。在本文中，我们提出了一种新的和简单的数据结构捕捉数据样本中最重要的信息。它有几个有利的属性，支持分层聚类策略，这是无关的硬件并行性，定义良好的指标，用于确定最佳聚类，平衡分区，保持紧凑性，和高效的并行化加速计算阶段。然后，我们结合聚类与回归技术作为一个并行库，并利用数据和模型并行的混合结构进行预测。实验结果表明，该库在收敛性、准确性和可扩展性等方面都取得了显著的效果.
2021-04-22 cs.DC cs.LG
Partial Label Clustering
Chien-Shiung Wu College, Southeast University, Nanjing 210096, China（陈世英学院，东南大学，南京）；College of Software Engineering, Southeast University, Nanjing 210096, China（软件工程学院，东南大学，南京）；School of Computer Science and Engineering, Southeast University, Nanjing 210096, China（计算机科学与工程学院，东南大学，南京）；Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其交叉应用关键实验室（东南大学），教育部，中国）
本文首次提出部分标签聚类问题，通过权重矩阵构建、标签消歧和约束传播的联合建模，利用有限部分标签提升聚类性能，并在实验中优于现有约束聚类及部分标签学习方法。
2025-05-06 cs.LG
Benchmarking Minimax Linkage
Carnegie Mellon University（卡内基梅隆大学）
最小最大连锁最早由Ao等人于2004年引入[3]，作为分层聚类中使用的标准连锁方法的替代方法。极大极小连接依赖于每个聚类到原型的距离;这个原型可以被认为是聚类中的代表对象，从而提高聚类结果的可解释性。Bien和Tibshirani在2011年分析了这种方法的特性[2]，在统计界推广了这种方法。此外，他们利用五个数据集和两个不同的评估指标（与原型的距离和错误分类率），将极大极小关联与标准关联方法进行了比较。为了扩展他们的工作并更全面地评估极大极小链接，我们的基准研究侧重于通过几个良好描述的数据集上的多个性能指标进行彻底的方法评估。我们还通过R包公开所有代码和数据，以实现完全可重复性。与[2]类似，我们发现极大极小链接通常会产生所有链接方法中最小的极大极小半径，这意味着极大极小链接会产生集群，其中集群中的对象紧密聚集在其原型周围。这在聚类总数（k）的值的范围内是真实的。然而，情况并非总是如此，应特别注意k是真实已知值的情况。对于真正的k，极大极小链接并不总是执行最好的所有评估指标的研究，包括最大极大极小半径。本文件是由化安论坛集群基准制定工作组呼吁开展集群基准研究和白皮书[5]提出的，该白皮书提出了集群综合基准制定的指导方针和原则。我们的工作旨在成为一个中立的基准研究极小极大联动。
2019-06-07 cs.LG stat.ME stat.ML
Kempe Swap K-Means: A Scalable Near-Optimal Solution for Semi-Supervised Clustering
Georgia Institute of Technology（佐治亚理工学院）
本文提出Kempe Swap K-Means算法，通过双重迭代过程在约束空间中优化聚类，结合可控扰动提升全局搜索能力，实现高效且可扩展的半监督聚类解决方案。
2026-03-28 cs.LG
A Granular Grassmannian Clustering Framework via the Schubert Variety of Best Fit
Colorado State University, Department of Mathematics（科罗拉多州立大学数学系）
本文提出了一种基于施鲁特变种的改进聚类方法，通过最佳拟合子空间提升簇纯度，适用于多种数据类型。
2025-12-29 cs.CG cs.CV cs.DC
Clustering as an Evaluation Protocol for Knowledge Embedding Representation of Categorised Multi-relational Data in the Clinical Domain
University College London（伦敦大学学院）；Institute of Health Informatics（健康信息学研究所）
学习知识表示是一种越来越重要的技术，适用于许多特定领域的机器学习问题。我们讨论了传统的链接预测或知识图谱完成评估协议的有效性时，嵌入知识表示的分类多关系数据在临床领域。链接预测用于将数据划分为训练和评估子集，导致训练过程中的信息丢失，并损害知识表示模型的准确性。我们提出了一个聚类评估协议作为替代传统上使用的评估任务。我们使用了由知识嵌入方法训练的嵌入模型，该方法已经过临床数据集的评估。Pearson和Spearman相关性的实验结果表明，新提出的评估协议是pottententially能够取代链接预测强有力的证据。
2019-12-29 cs.AI cs.LG cs.SI
Optimized Algorithms for Text Clustering with LLM-Generated Constraints
本文提出了一种基于LLM生成约束的文本聚类优化算法，通过生成约束集提高效率和准确性，减少LLM查询次数20倍以上。
2026-01-16 cs.LG
PANDORA: A Parallel Dendrogram Construction Algorithm for Single Linkage Clustering on GPU
Oak Ridge National Laboratory（橡树岭国家实验室）
本文提出PANDORA，一种基于递归树收缩的并行算法，用于在GPU上高效构建单链接层次聚类的树状图，在多厂商GPU上显著优于现有最佳实现。
2024-01-11 cs.DC cs.LG
Correlation Clustering via Strong Triadic Closure Labeling: Fast Approximation Algorithms and Practical Lower Bounds
Texas A&M University（德州农工大学）
相关聚类是一种基于成对相似性和相异性得分的聚类框架，但其最佳近似算法依赖于不切实际的线性规划松弛。我们提出了更快的近似算法，避免这些松弛，两个研究良好的特殊情况下：集群编辑和集群删除。我们完成这一点，通过绘制新的连接到边缘标签的问题有关的原则，强三元封闭。这导致了更快和更实用的线性规划算法，以及极其可扩展的组合技术，包括第一个组合近似算法的集群删除。在实践中，我们的算法产生近似的解决方案，几乎匹配最好的算法的质量，而缩放到更大的数量级的问题。
2022-06-23 cs.DM cs.DS cs.LG
Reinforcement Federated Learning Method Based on Adaptive OPTICS Clustering
Beijing Key Laboratory of Intelligent Communication Software and Multimedia（北京智能通信软件与多媒体重点实验室）；School of Computer Science (National Pilot Software Engineering School)（计算机学院（国家级试点软件学院））；Beijing University of Posts and Telecommunications（北京邮电大学）
针对联邦学习中不同用户终端数据非独立同分布问题，提出基于自适应OPTICS聚类的强化联邦聚合方法，将聚类环境视为马尔可夫决策过程建模，结合OPTICS聚类与自适应学习技术，有效处理该问题，经实验验证了方法的有效性和优越性。
2026-07-09 cs.LG
Deep clustering: On the link between discriminative models and K-means
Ultra Electronics-TCS（超电子-TCS）；ETS Montreal（蒙特利尔高等技术学院）；INRS（加拿大国家科学研究院）
在最近的深度聚类研究的背景下，判别模型在文献中占主导地位，并报告了最具竞争力的性能。这些模型学习深度判别神经网络分类器，其中标签是潜在的。通常，它们使用多项式逻辑回归后验和参数正则化，这在监督学习中非常常见。一般认为，区分性目标函数（例如，基于互信息或KL发散的方法）比生成方法（例如，K-means），因为它们对数据分布的假设较少，并且通常会产生更好的无监督深度学习结果。从表面上看，最近的几个判别模型似乎与K均值无关。这项研究表明，这些模型实际上是等价的K-均值在温和的条件下，常见的后验模型和参数正则化。我们证明，对于常用的逻辑回归后验，通过近似交替方向法（ADM）最大化$L_2$正则化互信息相当于软正则化K均值损失。我们的理论分析不仅将最近几种最先进的判别模型直接连接到K-means，而且还导致了一种新的软正则化深度K-means算法，该算法在几个图像聚类基准上具有竞争力的性能。
2019-12-15 cs.CV cs.LG stat.ML
The Importance of Good Starting Solutions in the Minimum Sum of Squares Clustering Problem
Steven G. Mihaylo College of Business and Economics（史蒂文·G·米哈伊洛商业与经济学院）；California State University-Fullerton（加州州立大学富勒顿分校）；The Royal Military College of Canada（加拿大皇家军事学院）
聚类问题在机器学习、运筹学和统计学中有许多应用。我们提出了三个算法来创建这个问题的改进算法的起始解决方案。我们测试的算法在文献中调查的72个实例。其中48个相对容易解决，我们多次找到了所有这些问题的最佳解决方案。24个中型和大型实例更具挑战性。我们找到了五个新的最佳已知解决方案，并为其余19个实例中的18个实例匹配了最佳已知解决方案。
2020-04-06 cs.LG math.OC stat.ML
ParChain: A Framework for Parallel Hierarchical Agglomerative Clustering using Nearest-Neighbor Chain
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；UC Riverside（加利福尼亚大学河滨分校）
本文研究了层次聚类问题，其目标是产生一个树状图，表示聚类在不同规模的数据集。我们提出了ParChain框架设计并行层次凝聚聚类（HAC）算法，并使用该框架，我们获得新的并行算法的完整的联系，平均联系，和沃德的联系标准。与大多数需要二次存储的并行HAC算法相比，我们的新算法只需要线性存储，并且可扩展到大数据集。ParChain基于我们对最近邻链算法的并行化，并允许在每一轮合并多个集群。我们介绍了两个关键的优化，是至关重要的效率：范围查询优化，减少了距离计算的数量时，找到最近的邻居的集群，和缓存优化存储的子集以前计算的距离，这是可能被重用。实验表明，我们的高度优化的实现使用48个核心的双向超线程实现5.8- 110.1倍的加速比最先进的并行HAC算法，并实现13.75- 54.23倍的自相关加速比。与最先进的算法相比，我们的算法所需的空间减少了237.3倍。我们的算法能够扩展到具有数千万个点的数据集大小，这是现有算法无法处理的。
2022-02-14 cs.DB cs.DC cs.DS
Drug Repurposing Using Deep Embedded Clustering and Graph Neural Networks
University of Colorado Colorado Springs（科罗拉多州立大学）
针对药物重定位成本高且数据集简化的问题，提出结合无监督深度嵌入聚类与有监督图神经网络链接预测的机器学习流水线，从多组学数据中识别新药物-疾病链接，取得了高准确率并生成了高置信度预测列表。
2025-09-15 cs.LG q-bio.QM
Fuzzy Discriminant Clustering with Fuzzy Pairwise Constraints
Inner Mongolia University（内蒙古大学）；Jilin University（吉林大学）；Beijing University of Technology（北京工业大学）；Hainan University（海南大学）
在半监督模糊聚类中，本文扩展了传统的成对约束（即，必须链接或不能链接）到模糊成对约束。模糊成对约束允许监督者提供一对样本的隐式模糊向量之间的相似性或不相似性的等级。该约束条件能较好地反映样本间的复杂关系，避免了模糊特征的消除。我们提出了一个模糊判别聚类模型（FDC）融合模糊成对约束。在我们的FDC的非凸优化问题是解决一个修改的期望最大化算法，涉及到解决几个不定二次规划问题（IQPP）。进一步，提出了一种对角块坐标下降（DBCD）算法，其稳定点得到保证，并在一定条件下可以获得全局解。为了适应不同的应用，FDC被扩展到各种度量空间，例如，再生核希尔伯特空间在多个基准数据集和人脸表情数据库上的实验结果表明，与一些最先进的聚类模型相比，我们的FDC具有更好的性能。
2021-04-17 cs.LG
A Graph-Partitioning Based Continuous Optimization Approach to Semi-supervised Clustering Problems
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Academy of Mathematics and Systems Science, Chinese Academy of Sciences（中国科学院数学与系统科学研究院）；University of Chinese Academy of Sciences（中国科学院大学）；Hong Kong Baptist University（香港浸会大学）；Sun Yat-sen University（中山大学）
本文将半监督聚类视为图划分问题，通过松弛技术构建仅需簇数量过高估计的连续优化模型，并提出块坐标下降算法求解，理论满足必连约束且实验验证有效。
2025-03-06 cs.LG math.OC
A Hybrid Algorithm Based Robust Big Data Clustering for Solving Unhealthy Initialization, Dynamic Centroid Selection and Empty clustering Problems with Analysis
World University of Bangladesh (WUB)（孟加拉世界大学）
大数据是大量的结构化和非结构化数据，这些数据太大，而且很难使用传统技术进行处理。聚类算法已经发展成为一种强大的学习工具，可以准确地分析现代应用程序产生的数据量。数据采掘中的聚类是根据对象的特征对特定对象集进行分组。聚类的主要目的是根据相似性和特征将数据分类到簇中，使得对象在对应时被分组到相同的簇中。到目前为止，K-MEANS是在大范围的区域中连接的最佳利用的计算，以识别聚类分离比聚集分离之间的分离大的聚集。我们开发的算法与K-MEANS一起工作，在大数据聚类过程中进行高质量的聚类。我们提出的算法EG K-MEANS：扩展生成K-MEANS主要解决了K-MEANS的三个问题：不健康的初始化、动态重心选择和空聚类。它保证了防止不健康的初始化，动态质心选择和空聚类问题的最佳方法，以获得高质量的聚类。
2020-02-21 cs.AI cs.LG
Uncertainty-Aware Probabilistic Constrained Clustering from Entangled Pairwise Supervision
The University of Manchester（曼彻斯特大学）
针对现实中成对监督的不确定性问题，提出ECI-PP框架结合ProbPair目标，在概率约束聚类任务中优于现有DCC方法且鲁棒性强。
2026-10-15 cs.AI cs.LG
Identifying Best Practice Melting Patterns in Induction Furnaces: A Data-Driven Approach Using Time Series KMeans Clustering and Multi-Criteria Decision Making
University of Southern Denmark（南丹麦大学）
本文提出一种基于时间序列 K-means 聚类与多准则决策的数据驱动方法，通过分析感应炉温度曲线识别出最佳熔化模式簇，实施后使电力成本降低 8.6%，有效提升了能源效率。
2024-01-09 cs.LG cs.NA cs.PF
PASS: Certified Subset Repair for Classical and Quantum Pairwise Constrained Clustering
University of South Florida（南佛罗里达大学）；Fordham University（福特汉姆大学）
PASS通过认证子集修复技术，在经典和量子配对约束聚类中实现高效优化，减少计算资源消耗并提升聚类性能。
2026-03-07 cs.ET cs.LG
A Binary Optimization Approach for Constrained K-Means Clustering
Queensland University of Technology（昆士兰科技大学）；University of Liverpool（利物浦大学）
K-Means聚类在许多计算机视觉问题中仍然起着重要的作用。虽然在质心更新和集群分配之间交替的传统Lloyd方法主要用于实践，但它可能收敛到具有空集群的解决方案。此外，某些应用可能要求集群满足特定的约束集合，例如，集群大小、must-link/cannot-link。已经介绍了几种方法来解决约束K-Means聚类。然而，由于K-Means的非凸性质，现有的方法可能会导致次优解，这些次优解很难近似真实的聚类。在这项工作中，我们提供了一个新的视角来解决这个问题。特别是，我们重新考虑约束K-Means作为一个二进制优化问题，并提出了一种新的优化方案，在二进制域中搜索可行的解决方案。这种方法允许我们解决约束K-Means，其中可以同时执行多种类型的约束。在合成数据集和真实数据集上的实验结果表明，与几种常用的聚类方法相比，该方法具有更好的聚类精度和更快的运行速度。
2018-10-29 cs.CV cs.LG
cuSLINK: Single-linkage Agglomerative Clustering on the GPU
NVIDIA, Inc（英伟达公司）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Booz Allen Hamilton（博思艾伦汉密尔顿公司）
本文提出在GPU上重新表述SLINK算法的cuSLINK，仅需$O(Nk)$空间并使用参数$k$权衡时空，通过高度优化的可复用计算模块实现端到端聚类，有效解决HDBSCAN等算法的计算瓶颈并支持广泛的数据挖掘与机器学习应用。
2023-06-28 cs.LG stat.ML
