Agglomerative Info-Clustering
Chinese University of Hong Kong（香港中文大学）；Shenzhen Research Institute of the Chinese University of Hong Kong（香港中文大学深圳研究院）
提出了一种随机变量的凝聚聚类方法，将具有最大多元互信息的随机变量聚类依次合并形成更大的聚类。与以前的信息聚类算法相比，凝聚的方法允许计算停止时，所需的大小和精度的集群获得较早。基于熵的次模性和划分的主序列与次模函数的主序列之间的对偶性，给出了一个有效的算法。
2017-02-24 cs.IT cs.LG math.IT
Agglomerative Hierarchical Clustering with Dynamic Time Warping for Household Load Curve Clustering
Western University（西安大略大学）
能源公司经常实施各种需求响应（DR）计划，通过在关键时期为消费者提供减少需求的激励措施来更好地匹配电力需求和供应。根据客户的消费模式对客户进行分类，可以针对特定的消费者群体进行DR。传统的聚类算法使用标准的距离测量来找到两点之间的距离。聚类算法（如K-means、K-medoids和高斯混合模型）产生的结果取决于聚类参数或初始聚类。相比之下，我们的方法使用基于形状的方法，结合凝聚层次聚类（AHC）与动态时间弯曲（DTW）的住宅家庭的日常负荷曲线分类的基础上，他们的消费模式。虽然DTW寻求两个负载曲线之间的最佳对齐，但AHC提供了一个现实的初始聚类中心。在本文中，我们与其他聚类算法，如K-means，K-medoids，和GMM使用不同的距离措施的结果进行比较，我们表明，AHC使用DTW优于其他聚类算法，需要更少的集群。
2022-10-18 cs.LG
Interrelating Fruchterman-Reingold Graph Visualization and Agglomerative Clustering
University of São Paulo（圣保罗大学）
本文探讨Fruchterman-Reingold图可视化与四种凝聚聚类方法间的关联，发现两者关系在不同数据上稳定，且可视化与原始数据相似度较高，但与聚类结果相似度较低。
2026-09-29 cs.LG
Order preserving hierarchical agglomerative clustering
偏序和有向无环图通常是在许多领域和应用中自然出现的循环数据结构，并且用于表示领域中实体之间的有序关系。例如，项目计划中的任务依赖关系、分布式账本中的交易顺序以及计算机程序中的任务执行顺序，仅举几例。研究了这类有序数据的保序层次聚类问题。也就是说，如果我们在原始数据中有$a < b$，并用$[a]$和$[b]$表示它们各自的聚类，那么我们在生成的聚类中将有$[a] < [b]$。聚类是基于相似性的，并使用标准的链接功能，如单一和完整的链接，是经典的层次聚类的扩展。为了实现这一点，我们定义的输出运行经典的层次聚类严格有序的数据是部分树状图，子树的经典树状图与几个连接组件。然后，我们构建了一个嵌入的部分树状图在一个集合到家庭的超度量在同一个集合。一个最佳的层次聚类被定义为部分树状图对应的超度量最接近原来的相异度测量，测量的p-范数。因此，该方法是经典的层次聚类和超度量拟合的组合。一个参考实现的合成随机数据和现实世界的数据库中的机器零件的实验。实验结果表明，与现有的方法相比，该方法在聚类质量和顺序保持方面都有很大的优势。
2021-09-09 cs.LG stat.ML
Scaling Hierarchical Agglomerative Clustering to Billion-sized Datasets
Google Research（谷歌研究院）；x Labs（0x实验室）
层次凝聚聚类（HAC）是最古老但使用最广泛的聚类方法之一。然而，众所周知，HAC很难扩展到大型数据集，因为底层复杂度至少是数据点数量的二次方，并且解决HAC的许多算法本质上是顺序的。在本文中，我们提出了{相互凝聚聚类（RAC）}，HAC的分布式算法，使用一种新的策略，有效地合并集群并行。我们从理论上证明了RAC恢复HAC的精确解。此外，在集群性和平衡性的假设下，我们证明了由于并行的总运行时的加速。我们还表明，这些加速是可以实现的某些概率数据模型。在广泛的实验中，我们表明这种并行性是在现实世界的数据集上实现的，并且提出的RAC算法可以在不到一小时的时间内恢复由数万亿条边连接的数十亿个数据点上的HAC层次结构。
2021-05-25 cs.LG
Revisiting Agglomerative Clustering
University of São Paulo（圣保罗大学）；Federal University of São Carlos（圣卡洛斯联邦大学）
聚类中的一个重要问题是在搜索聚类时避免误报。这项工作解决了这个问题，考虑凝聚的方法，即单一的，平均值，中位数，完整的，质心和沃德的方法适用于单峰和双峰数据集服从均匀，高斯，指数和幂律分布。还采用了一个集群模型，涉及一个高密度的核心周围的过渡，其次是离群值。这为确定从树状图中识别聚类的客观方法铺平了道路。所采用的模型还允许根据其子树的高度来量化聚类的相关性。得到的结果包括验证，许多方法检测两个类的单峰数据。发现单连接方法对假阳性更有弹性。此外，有几种方法检测到不直接对应于细胞核的簇。还研究了确定分布类型的可能性。
2020-06-26 cs.CV cs.LG stat.ML
Bayesian Hierarchical Clustering with Exponential Family: Small-Variance Asymptotics and Reducibility
Pohang University of Science and Technology（浦项科技大学）
贝叶斯层次聚类（Bayesian hierarchical clustering，BHC）是一种凝聚聚类方法，它定义了一个概率模型，并评估其边缘似然来决定哪些聚类要合并。虽然BHC提供了一些优势，传统的基于距离的凝聚聚类算法，连续的边缘似然评估和仔细的超参数调整是繁琐的，限制了可扩展性。在本文中，我们放松BHC到一个非概率制定，探索共轭指数模型的小方差渐近。我们开发了一种新的聚类算法，被称为放松BHC（RBHC），从BHC模型的渐近极限，表现出基于距离的凝聚聚类算法的可扩展性，以及贝叶斯非参数模型的灵活性。我们还研究了从BHC模型的渐近极限中出现的相异性度量的减少，使我们能够使用可扩展的算法，如最近邻链算法。在人工数据集和真实数据集上的数值实验证明了该方法的有效性和高性能。
2015-06-03 cs.LG stat.ML
cuSLINK: Single-linkage Agglomerative Clustering on the GPU
NVIDIA, Inc（英伟达公司）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Booz Allen Hamilton（博思艾伦汉密尔顿公司）
本文提出在GPU上重新表述SLINK算法的cuSLINK，仅需$O(Nk)$空间并使用参数$k$权衡时空，通过高度优化的可复用计算模块实现端到端聚类，有效解决HDBSCAN等算法的计算瓶颈并支持广泛的数据挖掘与机器学习应用。
2023-06-28 cs.LG stat.ML
An agglomerative hierarchical clustering method by optimizing the average silhouette width
University College London（伦敦大学学院）
提出了一种基于平均轮廓宽度（ASW）指标优化的关联度量的凝聚层次聚类（AHC）框架和算法HOSil。为了实现以下三个目标，对各种数据结构的聚类方法和估计指标进行了认真的研究：a）聚类质量，b）聚类恢复，c）聚类数估计。与k-means，PAM，单一，完整，平均，Ward，McQuitty，谱，基于模型和几种估计方法相比，HOSil在一系列人工和真实世界的数据结构中表现出更好的聚类质量。它可以识别各种形状的簇，包括球形的，细长的，相对小尺寸的簇，来自不同分布的簇，包括均匀的，t，伽马等。HOSil已显示出良好的回收率，用于正确确定簇的数目。对于某些数据结构，只有HOSil能够识别正确的簇数。
2019-09-26 cs.LG stat.ME
Locally Adaptive Hierarchical Cluster Termination With Application To Individual Tree Delineation
University of Victoria（维多利亚大学）；Pacific Forestry Centre, National Resources Canada（加拿大自然资源部太平洋林业中心）
提出了一种局部自适应的聚类终止过程（相对于凝聚合并的集合代表的层次树），用于在配备距离函数的集合上进行凝聚层次聚类。它代表了一个多尺度的替代传统的规模依赖的阈值为基础的终止标准。
2022-12-01 cs.LG stat.ML
Diarisation using location tracking with agglomerative clustering
Microsoft（微软）
以前的工作已经表明，空间位置信息可以补充扬声器diarisation任务的扬声器嵌入。然而，所使用的模型通常假设发言者在整个会议期间是相当固定的。本文提出放松这一假设，明确建模的运动的扬声器内的凝聚层次聚类（AHC）diarisation框架。跟踪说话者位置的卡尔曼滤波器用于计算对数似然比，该对数似然比有助于AHC合并和停止决策的聚类亲和度计算。实验表明，所提出的方法是能够产生改进的Microsoft丰富的会议转录任务，相比不使用位置信息或平稳性假设的方法。
2021-09-24 cs.CL cs.LG cs.SD
A Bayesian Learning, Greedy agglomerative clustering approach and evaluation techniques for Author Name Disambiguation Problem
Indian Institute of Science Education and Research（印度科学教育与研究院）
由于同一作者以不同的名字出现，多个作者拥有相似的名字，作者的名字往往含糊不清。它造成了将学术著作与作者联系起来的困难，从而在署名、文献计量分析、数字图书馆中按作者搜索和专家发现中引入了不准确性。在文献中已经提出了过多的技术来消除作者姓名的歧义。我试图把重点放在研究工作的目标是消除歧义的作者姓名。我首先通过传统的方法，然后我讨论的评价技术和聚类模型，最后导致贝叶斯学习和贪婪凝聚的方法。我相信这篇集中的评论对研究界是有用的，因为它讨论了应用于一个非常大的真实数据库的技术，这个数据库在世界范围内被广泛使用。贝叶斯和贪婪凝聚的方法将有助于更好地解决与问题。最后，我试图为未来的工作勾勒出几个方向
2022-11-01 cs.DL cs.LG
Analysis of Agglomerative Clustering
Schloss Dagstuhl – Leibniz Center for Informatics（达格斯托尔城堡–莱布尼茨信息学中心）；University of Paderborn（帕德博恩大学）；TU Dortmund（多特蒙德工业大学）
直径$k$ -聚类问题是将$\mathbb{R}^d$的有限子集划分为称为聚类的$k$子集，使得聚类的最大直径最小化的问题。一个早期的聚类算法，计算一个层次的近似解决方案，这个问题（为所有值的$k$）是凝聚聚类算法与完整的链接策略。几十年来，该算法已被实践者广泛使用。然而，在理论上还没有得到很好的研究。本文分析了凝聚完全链接聚类算法。假设$d$的维度是一个常数，我们表明，对于任何$k$的解决方案，该算法计算的是一个$O(\log k)$ -近似直径$k$ -聚类问题。我们的分析不仅适用于欧几里得距离，而且适用于任何基于范数的度量。此外，我们分析了密切相关的$k$ -中心和离散$k$ -中心问题。对于相应的凝聚算法，我们推导出一个近似因子$O(\log k)$。
2014-03-07 cs.CG cs.DS cs.LG
The Impact of Isolation Kernel on Agglomerative Hierarchical Clustering Algorithms
Deakin University（迪肯大学）；Nanjing University（南京大学）
针对现有基于距离的凝聚层次聚类难以识别密度不同的相邻簇的问题，本文分析问题成因，提出用数据依赖核解决该问题，并将Isolation Kernel应用于多种层次聚类算法，实验证明其生成的树图质量与纯度更优。
2020-10-12 cs.LG
Hierarchical Agglomerative Graph Clustering in Nearly-Linear Time
MIT（麻省理工学院）；Google Research（谷歌研究院）
研究了边加权图上的层次凝聚聚类算法。我们定义了一个算法框架的层次凝聚图聚类，提供了第一个有效的$\tilde{O}(m)$时间精确算法的经典链接的措施，如完整的和WPGMA链接，以及其他措施。此外，平均链接，可以说是最流行的变体HAC，我们提供了一个算法，运行在$\tilde{O}(n\sqrt{m})$的时间。对于这个变体，这是第一个在次二次时间内运行的精确算法，只要对某个常数$ε> 0$执行$m=n^{2-ε}$。我们补充这一结果与一个简单的$ε$接近近似算法的平均链接在我们的框架中运行在$\tilde{O}(m)$的时间。作为我们的算法的一个应用，我们考虑聚类点在度量空间中，首先使用$k$ -NN生成一个图的点集，然后运行我们的算法产生的加权图。我们在公开数据集上验证了我们的算法的性能，并表明我们的方法可以将点数据集的聚类速度提高20.7- 76.5倍。
2021-06-10 cs.AI cs.CV cs.DS
Robust Hierarchical Clustering
Carnegie Mellon University（卡内基梅隆大学）；Georgia Institute of Technology（佐治亚理工学院）；Google, Inc.（谷歌公司）
最广泛使用的数据聚类技术之一是凝聚聚类。这种算法长期以来被用于从计算生物学到社会科学再到计算机视觉的许多不同领域，部分原因是它们的输出易于解释。不幸的是，它是众所周知的，然而，许多经典的凝聚聚类算法是不鲁棒的噪声。在本文中，我们提出并分析了一个新的鲁棒自底向上凝聚聚类算法。我们表明，我们的算法可以用来准确地聚类的情况下，数据满足一些自然属性和传统的凝聚算法失败。我们还展示了如何适应我们的算法的归纳设置，我们给定的数据只是一个小的随机样本的整个数据集。在合成数据集和真实数据集上的实验结果表明，该算法在噪声存在的情况下，比其他层次算法具有更好的性能。
2014-07-13 cs.DS cs.LG
An Experimental Comparison of Several Clustering and Initialization Methods
Microsoft Research（微软研究院）；Massachusetts Institute of Technology（麻省理工学院）
我们研究的方法，在高维聚类。在本文的第一部分中，我们进行了实验比较三批聚类算法：期望最大化（EM）算法，赢家通吃版本的EM算法让人想起K-means算法，和基于模型的层次凝聚聚类。我们使用高维离散变量数据集（真实的和合成的）学习带有隐藏根结点的朴素贝叶斯模型。我们发现，EM算法显着优于其他方法，并着手调查各种初始化方案的EM算法产生的最终解决方案的效果。我们考虑的初始化是（1）从无信息先验中采样的参数，（2）数据边缘分布的随机扰动，以及（3）层次凝聚聚类的输出。虽然方法有很大的不同，但它们会导致学习模型在质量上惊人的相似。
2015-05-16 cs.LG stat.ML
On the cohesion and separability of average-link for hierarchical agglomerative clustering
PUC-RIO（里约天主教大学）
本文研究层次凝聚聚类中平均链接方法在度量空间中的凝聚性与可分性，提出更可解释的评估标准，并通过理论分析与真实数据集实验证明其在两者兼顾时优于其他方法。
2024-11-07 cs.DS cs.LG
GASP, a generalized framework for agglomerative clustering of signed graphs and its application to Instance Segmentation
Heidelberg Collaboratory for Image Processing（海德堡图像处理合作实验室）；EMBL（欧洲分子生物学实验室）；University Göttingen（哥廷根大学）；MRC Laboratory of Molecular Biology（英国医学研究委员会分子生物学实验室）
我们提出了一个理论框架，概括了简单而快速的分层凝聚聚类算法的加权图与吸引力和排斥力的节点之间的相互作用。这个框架定义了GASP，一个广义算法的有符号图分割，并允许我们探索不同的链接标准和不能链接的约束条件的许多组合。我们证明了现有的聚类方法的等价性，这些组合中的一些，并介绍了新的算法，以前没有研究过的组合。我们研究这些组合的理论和经验性质，并证明其中一些定义的超度量的图。我们进行了一个系统的比较各种实例的GASP在大量的各种合成和现有的签署聚类问题，在精度，而且效率和鲁棒性噪声。最后，我们展示了我们框架中包含的一些算法，当与CNN模型的预测相结合时，会产生一个简单的自下而上的实例分割管道。通过一个简单的过程，从像素到最终分割，我们在CREMI 2016 EM分割基准上实现了最先进的准确性，而无需特定领域的超像素。
2022-06-03 cs.CV cs.LG
Agglomerative Clustering of Handwritten Numerals to Determine Similarity of Different Languages
Khulna University of Engineering & Technology（库尔纳工程技术大学）
不同语言的手写数字具有不同的特点。通过分析提取的数词特征，可以衡量语言的相似性和差异性。手写数字数据集可用于不同地区的许多知名语言。本文收集了几种不同语言的手写体数字数据集。然后通过确定和比较各个手写数字的相似性来寻找这些书面语言之间的相似性。这将有助于找到哪些语言具有相同或相邻的母语言。首先，用一个连体网络构造两幅数字图像的相似性度量。其次，利用Siamese网络和一个新的随机样本，采用替换相似性平均技术，确定数字数据集的相似性。最后，基于每个数据集的相似性进行凝聚聚类。这种聚类技术显示了数据集的一些非常有趣的特性。本文所关注的属性是数据集的区域相似性。通过分析聚类，可以很容易地识别哪些语言起源于相似的地区。
2020-11-22 cs.CL cs.CV cs.LG
CAESAR: Clustering via Autonomous Embedding-Space Agglomerative Reorganization
提出CAESAR方法，通过训练重组网络优化预训练嵌入空间，无需预设聚类数K，在文本和图像数据集上优于现有深度聚类方法。
2026-09-29 cs.LG
Anisotropic Agglomerative Adaptive Mean-Shift
Georgia Institute of Technology（佐治亚理工学院）；Magic Leap, Inc.（Magic Leap公司）
Mean Shift被广泛用于模式检测和聚类。然而，由于各向同性和方差齐性的假设，该技术在实践中受到挑战。我们提出了一种自适应均值漂移方法，允许完全各向异性聚类，通过无监督的本地带宽选择。带宽矩阵自然演变，通过聚集在本地进行适应，反过来又引导进一步的聚集。在线方法是实用和有效的低维特征空间，保持更好的细节和聚类的显着性。另外，常规均值偏移要么严格地取决于带宽的每个实例选择，要么依赖于不灵活的和/或再次数据实例特定的离线方法。由于其自适应设计，所提出的方法也解决了这个问题-默认形式通常表现良好。然而，该方法允许有效地调整结果。
2014-11-15 cs.CV cs.LG
Chamfer-Linkage for Hierarchical Agglomerative Clustering
University of Maryland（马里兰大学）；Brown University（布朗大学）；Google Research（谷歌研究）
本文提出Chamfer-linkage，一种基于Chamfer距离的层次聚类链接函数，通过实验验证其在多种数据集上优于经典链接方法，为层次聚类提供了新的实用工具。
2026-02-11 cs.DC cs.DS cs.IR
ParChain: A Framework for Parallel Hierarchical Agglomerative Clustering using Nearest-Neighbor Chain
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；UC Riverside（加利福尼亚大学河滨分校）
本文研究了层次聚类问题，其目标是产生一个树状图，表示聚类在不同规模的数据集。我们提出了ParChain框架设计并行层次凝聚聚类（HAC）算法，并使用该框架，我们获得新的并行算法的完整的联系，平均联系，和沃德的联系标准。与大多数需要二次存储的并行HAC算法相比，我们的新算法只需要线性存储，并且可扩展到大数据集。ParChain基于我们对最近邻链算法的并行化，并允许在每一轮合并多个集群。我们介绍了两个关键的优化，是至关重要的效率：范围查询优化，减少了距离计算的数量时，找到最近的邻居的集群，和缓存优化存储的子集以前计算的距离，这是可能被重用。实验表明，我们的高度优化的实现使用48个核心的双向超线程实现5.8- 110.1倍的加速比最先进的并行HAC算法，并实现13.75- 54.23倍的自相关加速比。与最先进的算法相比，我们的算法所需的空间减少了237.3倍。我们的算法能够扩展到具有数千万个点的数据集大小，这是现有算法无法处理的。
2022-02-14 cs.DB cs.DC cs.DS
MultiLink: Multi-class Structure Recovery via Agglomerative Clustering and Model Selection
Politecnico di Milano（米兰理工大学）
针对含噪声和离群点的数据集多类别结构恢复问题，提出结合即时模型拟合与选择的凝聚聚类算法MultiLink，在多类及单类问题上性能优于现有方法，代码已开源。
2025-05-16 cs.AI cs.CV cs.LG
Recursive nearest agglomeration (ReNA): fast clustering for approximation of structured signals
Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；University Paris-Saclay（巴黎萨克雷大学）；Institut de Mathématiques de Toulouse（图卢兹数学研究所）；Université de Toulouse（图卢兹大学）；CNRS（法国国家科学研究中心）
在这项工作中，我们重温快速降维方法，随机投影和随机采样。我们的目标是总结数据，以减少后续分析的计算成本和内存占用。当感兴趣的信号具有强结构时，例如具有图像时，这种降维可以是非常有效的。我们专注于这种设置和调查功能聚类方案的数据减少，捕捉这种结构。快速降维的一个障碍是，好的聚类伴随着大的算法成本。我们通过贡献一个线性时间凝聚聚类方案，递归最近聚集（ReNA）来解决这个问题。与现有的快速凝聚方案不同，它避免了产生巨大的集群。我们的经验验证，它近似的数据，以及传统的方差最小化聚类方案，具有二次复杂性。此外，我们分析了信号近似与特征聚类，并表明它可以去除噪声，改善后续的分析步骤。因此，通过使用ReNA对特征进行聚类来减少数据，可以产生非常快速和准确的模型，从而能够在预算范围内处理大型数据集。我们的理论分析得到了广泛的实验公开的数据，说明了计算效率和去噪性能的降维计划。
2018-03-19 cs.LG stat.ML
Topic Grouper: An Agglomerative Clustering Approach to Topic Modeling
University of Heilbronn（海尔布隆大学）；Refinitiv Labs（路孚特实验室）；University of Sheffield（谢菲尔德大学）
我们引入Topic Grouper作为概率主题建模领域的补充方法。Topic Grouper以逐步的方式创建训练词汇表的分离分区，以便得到的分区表示主题。它由一个简单的生成模型控制，其中通过主题生成训练文档的可能性被优化。该算法从一个单词的主题开始，在每一步连接两个主题。因此，它为每个所需数量的主题生成解决方案，范围在训练词汇表的大小和一之间。该过程表示对应于主题的二叉树的凝聚聚类。所得到的树可以充当包含层次结构，通常具有朝向树根的更一般的主题和朝向叶子的更具体的主题。Topic Grouper不受Dirichlet等背景分布的控制，并且避免了超参数优化。我们表明，主题分组具有合理的预测能力，也是一个合理的理论和实践的复杂性。主题分组器可以很好地处理停止词和功能词，并倾向于将它们推入自己的主题。此外，它可以处理主题分布，其中一些主题比其他主题更频繁。我们提出了典型的例子，计算的主题从评估数据集，主题出现结论性和连贯性。在这种情况下，每个单词只属于一个主题的事实并不是一个主要的限制;在某些情况下，这甚至可能是一个真正的优势，例如~。相关的购物篮分析可以帮助优化销售目录中的物品分组。
2019-04-13 cs.IR cs.LG
Bi-LSTM Scoring Based Similarity Measurement with Agglomerative Hierarchical Clustering (AHC) for Speaker Diarization
Columbia University（哥伦比亚大学）；Recognition Technologies, Inc.（识别技术公司）
跨不同场景的大多数语音信号对于仅包含单个扬声器的明确定义的音频段是不可用的。两个说话者之间的典型对话由他们的声音重叠，相互打断或在多个句子之间停止讲话的片段组成。日记化技术的最新进展利用基于神经网络的方法来改进说话人日记化系统的多个子系统，包括提取分段嵌入特征和检测说话人在对话期间的变化。然而，为了通过聚类来识别说话人，模型依赖于PLDA等方法来生成从给定会话音频中提取的两个片段之间的相似性度量。由于这些算法忽略了会话的时间结构，它们往往会达到更高的日志化错误率（DER），从而导致在说话人和变化识别方面的误检测。因此，为了独立地和顺序地比较两个语音片段的相似性，我们提出了一个双向长短期记忆网络来估计相似性矩阵中的元素。一旦相似性矩阵的生成，凝聚层次聚类（AHC）应用于进一步确定基于阈值的说话人段。为了评估性能，使用日志化错误率（DER%）度量。与传统的基于PLDA的相似性度量机制相比，该模型在来自ICSI会议语料库的音频样本测试集上实现了34.80%的低DER，该机制实现了39.90%的DER。
2022-05-19 cs.AI cs.CL cs.CV
Classifying spam emails using agglomerative hierarchical clustering and a topic-based approach
University of León（莱昂大学）；INCIBE (Spanish National Cybersecurity Institute)（西班牙国家网络安全研究所）
该研究提出基于主题的垃圾邮件多分类方法，构建两个各含约1.5万封邮件的数据集，评估16种流水线，发现TF-IDF与逻辑回归在英文数据集上F1达0.953，在西班牙语数据集上朴素贝叶斯F1为0.945。
2024-02-07 cs.AI cs.LG
Machine learning of hierarchical clustering to segment 2D and 3D images
Howard Hughes Medical Institute（霍华德·休斯医学研究所）；University of Pennsylvania（宾夕法尼亚大学）
我们的目标是通过在区域聚集期间使用机器学习工具来改进分割。我们提出了一个主动学习的方法进行分层凝聚分割超像素。我们的方法在凝聚过程的所有尺度上结合了多个特征，适用于任意维数的数据，并扩展到非常大的数据集。我们主张使用变化的信息来衡量分割的准确性，特别是在3D电子显微镜（EM）图像的神经组织，并使用此度量证明了竞争算法在EM和自然图像的改进。
2013-07-23 cs.CV cs.LG
Learning Graph Representations by Dendrograms
层次图聚类是揭示复杂网络多尺度结构的常用方法。我们提出了一个新的度量评估质量的层次聚类。该度量反映了从树状图重建图的能力，树状图对层次结构进行编码。图的最佳表示定义了一类可约的联系，导致规则的树图贪婪凝聚聚类。
2018-07-13 cs.LG cs.SI stat.ML
Distributed dual vigilance fuzzy adaptive resonance theory learns online, retrieves arbitrarily-shaped clusters, and mitigates order dependence
Missouri University of Science and Technology（密苏里科技大学）
提出了一种新的基于自适应共振理论（ART）的无监督学习模块化结构，即分布式双警戒模糊ART（DDVFA）。DDVFA由一个全局ART系统组成，其节点是局部模糊ART模块。它配备了分布式高阶激活和匹配功能的显着特点，使用双警戒参数负责聚类相似性和数据量化。总之，这些允许DDVFA执行无监督的模块化，创建多原型聚类表示，检索任意形状的集群，并控制其紧凑性。另一个重要的贡献是减少了顺序依赖，这是一个影响任何凝聚聚类方法的问题。本文演示了两种方法来减轻订单依赖：预处理使用聚类趋势的视觉评估（VAT）或后处理使用一种新的合并ART模块。前者适用于批处理，后者适用于在线学习。在30个基准数据集上进行的在线学习模式下的实验结果表明，当样本随机呈现时，DDVFA与Merge ART级联在统计上优于其他基于ART的系统。相反，当使用VAT预处理样本时，发现它们在离线模式下具有统计学等效性。值得注意的是，性能比较非ART为基础的聚类算法表明，DDVFA（增量学习）也是统计等效的非增量（离线）方法DBSCAN，单链接层次凝聚聚类（HAC），和k均值，同时保留吸引人的属性ART。链接到源代码和数据提供。考虑到算法的简单性，在线学习能力和性能，它是许多凝聚聚类应用的理想选择。
2018-11-28 cs.LG cs.NE stat.ML
A Mathematical Theory for Clustering in Metric Spaces
National Tsing Hua University（国立清华大学）；National Taiwan University（国立台湾大学）
聚类是数据分析中最基本的问题之一，在文献中得到了广泛的研究。虽然已经提出了许多聚类算法，聚类理论，证明这些聚类算法的使用仍然不令人满意。特别是，一个基本的挑战是解决以下问题：什么是一组数据点中的集群？在本文中，我们试图通过考虑一组与距离度量（度量）相关的数据点来解决这样的问题。首先，我们提出了一个新的凝聚力的距离测度。使用内聚度量，我们将聚类定义为一组相互内聚的点。对于这样一个定义，我们有各种等价的声明，有直观的解释。然后，我们考虑第二个问题：我们如何找到集群和良好的分区集群下这样的定义？对于这样的问题，我们提出了一个分层凝聚算法和一个分区算法。与标准的层次凝聚算法，我们的层次凝聚算法有一个特定的停止标准，它停止与分区的集群。我们的分块算法，称为K-集算法的文件，似乎是一个新的迭代算法。与需要两步极小化的Lloyd迭代不同，我们的K-sets算法只需要一步极小化。本文最有趣的发现之一是距离测度和内聚测度之间的对偶结果。这样的对偶结果导致了一个对偶K集算法，用于用内聚度量聚类一组数据点。对偶K集算法的收敛方式与经典核K均值算法的顺序版本相同。关键的区别是内聚测度不需要是半正定的。
2015-09-25 cs.LG
Hierarchical clustering with OWA-based linkages, the Lance-Williams formula, and dendrogram inversions
Deakin University（迪肯大学）；Warsaw University of Technology（华沙理工大学）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文研究基于OWA算子的层次聚类与Lance-Williams公式的关系，并给出权重生成条件以保证树状图无反转。
2023-10-25 cs.LG stat.ML
Algorithmically Aligned Neural Agglomerative Tree Construction
University of California San Diego（加州大学圣迭戈分校）；University of Washington（华盛顿大学）
本文提出NN-linkage，一种算法对齐Lance-Williams递推的神经网络模型，用于学习任务特定的层次聚类合并规则，兼具经典算法的效率与规模泛化，并在时钟树布线和系统发育重建中优于现有方法。
2026-10-07 cs.LG
Hybridized Threshold Clustering for Massive Data
Kansas State University（堪萨斯州立大学）；University of California, Berkeley（加州大学伯克利分校）
随着数据集的大小$n$变得巨大，许多常用的聚类算法（例如，$k$均值或层次凝聚聚类（HAC））需要过高的计算成本和存储器。在本文中，我们提出了一个解决这些聚类问题的阈值聚类（TC）的实例选择问题。TC是最近发展起来的一种聚类算法，它可以在线性时间内（平均）将数据划分为许多小的簇。我们提出的聚类方法如下。首先，执行TC，并将聚类简化为单个“原型”点。然后，TC反复应用于这些原型点，直到获得足够的数据减少。最后，将更复杂的聚类算法应用于减少的原型点，从而获得对所有$n$数据点的聚类。这整个聚类过程称为迭代杂交阈值聚类（IHTC）。通过模拟结果和应用我们的方法在几个真实的数据集上，我们表明，IHTC结合$k$ -手段或HAC大大减少了运行时间和内存使用的原始聚类算法，同时仍然保持其性能。此外，IHTC有助于防止奇异数据点被聚类算法过度拟合。
2019-07-05 cs.LG stat.ML
Multi-level Feature Learning on Embedding Layer of Convolutional Autoencoders and Deep Inverse Feature Learning for Image Clustering
Northern Arizona University（北亚利桑那大学）
本文介绍了多层特征学习以及卷积自动编码器的嵌入层（CAE-MLE），作为深度聚类的一种新方法。我们使用凝聚聚类作为多级特征学习，在潜在特征空间上提供层次结构。研究表明，应用多级特征学习可以大大改善基本的深度卷积嵌入聚类（DCEC）。CAE-MLE在考虑凝聚聚类的聚类损失的同时，也考虑了CAE的学习特性。在下面的反向特征学习中，我们证明了错误学习作为一种通用策略的表示可以应用于不同的深度聚类方法，并产生了有希望的结果。我们在CAE-MLE上开发了深度逆特征学习（deep IFL），作为一种新方法，它在同类方法中获得了最先进的结果。在MNIST和USPS两个著名数据集上的实验结果表明，CAE-MLE比基本方法DCEC的结果提高了7% -14%。此外，它表明，建议的深IFL改进的初步结果约9%-17%。因此，所提出的CAE-MLE方法和基于CAE-MLE的深度IFL方法与大多数现有技术相比可以导致显著的性能改善。所提出的方法虽然基于基本的卷积自编码器，但即使与变分自编码器或生成对抗网络相比，也会产生出色的结果。
2020-10-05 cs.CV cs.LG
Nonparametric Hierarchical Clustering of Functional Data
Orange Labs（奥兰治实验室）；Université Paris 1（巴黎第一大学）
在本文中，我们处理的问题曲线聚类。我们提出了一个非参数的方法，划分成簇的曲线和离散的曲线点的尺寸到区间。这些分区的叉积形成了一个数据网格，该网格是使用贝叶斯模型选择方法获得的，同时不对曲线进行任何假设。最后，提出了一种后处理技术，旨在减少聚类的数量，以提高聚类的可解释性。它包括在最佳合并的集群一步一步，这对应于凝聚的层次分类，其相异性的措施是标准的变化。有趣的是，这个度量不是别的，正是合并前后聚类分布之间的库尔贝克-莱布勒散度之和。功能数据探索性分析的方法的实际利益，并与人工和现实世界的数据集的替代方法进行比较。
2014-07-02 cs.LG stat.ML
Hierarchical clustering with dot products recovers hidden tree structure
School of Mathematics（数学学院）；University of Bristol（布里斯托尔大学）；Imperial College London（伦敦帝国学院）
提出一种按最大平均点积合并簇的凝聚式聚类变体，并在通用概率图模型下证明其可恢复隐藏生成树结构，真实数据表现优于 UPGMA、Ward 与 HDBSCAN。
2024-03-01 cs.LG stat.ML
Bayesian Rose Trees
Gatsby Computational Neuroscience Unit（盖茨比计算神经科学单元）；University College London（伦敦大学学院）；University of Cambridge（剑桥大学）
层次结构在许多领域的数据中普遍存在。有许多层次聚类方法，领域专家经常使用，努力发现这种结构。然而，这些方法中的大多数将可扩展的层次结构限制为具有二进制分支结构的层次结构。这种限制虽然在计算上方便，但通常是不期望的。在本文中，我们探讨了贝叶斯层次聚类算法，可以产生任意分支结构的树，在每个节点，被称为玫瑰树。我们将这些树解释为数据集分区上的混合物，并使用计算效率高，贪婪凝聚算法来找到玫瑰树，这些玫瑰树具有较高的边际似然数据。最后，我们进行实验，证明玫瑰树是更好的数据模型比典型的二叉树返回的其他层次聚类算法。
2012-03-15 cs.LG stat.ML
Practical Introduction to Clustering Data
University of Oldenburg（奥尔登堡大学）
数据聚类是一种在复杂数据集中寻找结构的方法，即，一组“对象”。主要目的是识别彼此相似的对象组，例如，用于分类。在这里，介绍了聚类和三种基本方法：k-means算法，基于邻居的聚类，和凝聚聚类方法。对于所有情况，C源代码的例子，允许一个简单的实现。
2016-02-16 astro-ph.IM cond-mat.stat-mech cs.LG
A comparative study of general fuzzy min-max neural networks for pattern classification problems
Advanced Analytics Institute（高级分析研究所）；Faculty of Engineering and IT（工程与信息技术学院）；University of Technology Sydney（悉尼科技大学）
广义模糊极小极大（GFMM）神经网络是由超盒模糊集构成的模糊神经网络的推广，用于分类和聚类问题。采用两种原理算法来训练这种类型的神经网络，即，增量学习和凝聚学习。本文提出了一个全面的实证研究的性能影响因素，优点和缺点的一般模糊最小最大神经网络的模式分类问题。本研究的主题包括（1）最大超盒大小的影响，（2）相似性阈值和措施的凝聚学习算法的影响，（3）数据表示顺序的影响，（4）比较性能评估的GFMM与其他类型的模糊最小-最大神经网络和流行的机器学习算法。在机器学习中广泛使用的基准数据集上的实验结果显示了GFMM分类器的总体优点和缺点。这些结果也为未来这类机器学习算法的潜在研究方向提供了信息。
2020-01-08 cs.LG stat.ML
Clustering with minimum spanning trees: How good can it be?
Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）；Warsaw University of Technology（华沙理工大学）；QED Software（QED软件公司）
本文量化了最小生成树在低维分区聚类中的有效性，发现基于MST的方法（如Genie和信息论方法）常优于K-means等非MST算法，并提出了新方法，同时指出仍有改进空间。
2025-10-15 cs.LG stat.ML
Data Aggregation for Hierarchical Clustering
TU Dortmund University（多特蒙德工业大学）
本文提出利用BETULA数据聚合算法，使层次凝聚聚类在资源受限系统上可行，以较小质量损失实现大数据集的探索性分析。
2023-09-05 cs.DB cs.LG stat.ML
Event Driven Clustering Algorithm
本文提出了一种基于事件相机异步数据结构的线性复杂度事件聚类算法，用于实时检测小事件簇。
2026-08-06 cs.CV cs.LG
Parameter-Free Clustering via Self-Supervised Consensus Maximization (Extended Version)
本文提出一种无需参数的聚类框架SCMax，通过自监督共识最大化实现层次聚类和评估，利用最近邻共识得分确定最佳聚类数，实验表明其优于传统方法。
2026-03-24 cs.LG
Multiple-Perspective Clustering of Passive Wi-Fi Sensing Trajectory Data
Singapore University of Technology and Design（新加坡科技设计大学）
关于城市背景下人类时空流动的信息有着广泛的应用。目前，虽然有许多不同的方法来收集这些数据，但缺乏一个标准化的框架来分析它。本文的重点是分析通过被动Wi-Fi传感收集的数据，因为这种被动收集的数据可以具有低成本的广泛覆盖范围。我们提出了一个系统的方法，通过使用无监督的机器学习方法，即k-均值聚类和层次凝聚聚类（HAC）来分析通过这种被动的Wi-Fi嗅探方法收集的数据。我们研究了数据聚类的三个方面，即按时间，按人和按位置，我们提出了通过将我们提出的方法应用于五个多月收集的真实数据集所获得的结果。
2020-12-22 cs.LG stat.AP
Assessing the impact of dimensionality reduction on clustering performance - a systematic study
Université du Québec à Montréal（魁北克大学蒙特利尔分校）；Mila - Quebec AI Institute（魁北克AI研究所）
本文系统研究了五种降维方法对四种聚类算法的影响，通过调整降维级别评估聚类质量，强调了选择合适降维技术和级别的重要性。
2026-09-24 cs.LG
Clustering with Missing Features: A Penalized Dissimilarity Measure based approach
Indian Statistical Institute（印度统计研究所）；Jadavpur University（贾达普大学）
许多现实世界的聚类问题都受到不完整数据的困扰，这些数据的特征是某些或所有数据实例的特征缺失或缺失。传统的聚类方法不能直接应用于这样的数据，没有预处理的插补或边缘化技术。在这篇文章中，我们克服了这个缺点，利用惩罚相异性措施，我们称之为特征加权惩罚的差异（FWPD）。利用FWPD测度，对传统的k-means聚类算法和标准的层次凝聚聚类算法进行了改进，使其直接适用于特征缺失的数据集。我们提出了这些新技术的时间复杂度分析，并进行了详细的理论分析表明，新的基于FWPD的k-means算法收敛到一个局部最优在有限数量的迭代。我们还提出了一个详细的方法来模拟随机以及功能相关的缺失。我们报告了针对不同类型缺失的各种基准数据集的广泛实验，表明与通常用于处理此类不完整数据的一些最知名的插补方法相比，所提出的聚类技术通常具有更好的结果。我们附加了一个可能的扩展建议的相异性措施的情况下，不存在的功能（其中未观察到的功能是已知的未定义）。
2018-07-07 cs.LG
DAOC: Stable Clustering of Large Networks
University of Fribourg（弗里堡大学）
聚类是许多涉及分析和探索各种数据的数据采掘系统的重要组成部分。数据多样性要求聚类算法在提供稳定（即，确定性和鲁棒性）的结果。此外，现代系统通常使用大型数据集进行操作，这隐含地限制了聚类算法的复杂性。然而，现有的聚类技术只是部分稳定的，因为它们保证了确定性或鲁棒性。为了解决这个问题，我们介绍了DAOC，一个确定性和凝聚重叠聚类算法。DAOC利用一种称为重叠分解的新技术，以确定性的方式识别细粒度的集群，捕获多个最优值。此外，它利用一种新的共识方法，相互最大增益，以确保鲁棒性，并进一步提高结果的稳定性，同时仍然能够识别微尺度集群。我们在合成网络和真实网络上的经验结果表明，DAOC产生稳定的集群，同时平均比最先进的确定性算法准确25%，而不需要任何调整。我们的方法的目标是大大简化和加快数据分析任务，包括迭代处理（需要确定性）以及数据波动（需要鲁棒性），并提供准确和可重复的结果。
2019-12-17 cs.DS cs.LG cs.SI
Compositional Clustering: Applications to Multi-Label Object Recognition and Speaker Identification
Worcester Polytechnic Institute（伍斯特理工学院）
提出CAP、CKM和GCR三种组合聚类算法，用于发现代表属性并集的组合聚类结构，在OmniGlot和LibriSpeech数据集上表现优异，可应用于多标签物体识别和说话人识别。
2023-07-21 cs.LG
Complexity Analysis Approach for Prefabricated Construction Products Using Uncertain Data Clustering
University of Alberta（阿尔伯塔大学）
本文提出了一种不确定的数据聚类方法，定量分析预制构件的复杂性，通过集成的质量性能为基础的措施与相关的工程设计信息。该模型分三步构建：（1）测量装配式建筑产品复杂度（2）通过开发基于Hellinger距离的分布相似性度量对每种类型的产品复杂性进行评分;（3）利用凝聚层次聚类技术将产品聚类为同质复杂性组。最后，以加拿大埃德蒙顿市某工业企业为例，验证了该模型的可行性和适用性。本研究从产品质量性能的角度出发，结合设计信息，对产品复杂性进行了创新性的定义和研究。研究结果为从业者提供了简化的，可解释的和信息丰富的见解，以更好地分析和管理产品的复杂性。除了这种实际的贡献，一种新的层次聚类技术的设计。这种技术能够聚类不确定的数据（即，beta分布）具有较低的计算复杂性，并且具有推广到聚类所有类型的不确定数据的潜力。
2017-12-21 cs.DB cs.LG stat.AP
A Modular Framework for Centrality and Clustering in Complex Networks
Nanyang Technological University（南洋理工大学）
许多复杂网络的结构包括其拓扑结构上的边方向性和权重。网络分析，可以无缝地考虑这些属性的组合是可取的。在本文中，我们研究了两个重要的网络分析技术，即中心性和聚类。一个基于信息流的聚类模型，这本身就建立在一个信息理论计算中心性的措施。我们的主要贡献包括一个广义模型的马尔可夫熵中心的灵活性，以调整节点度的重要性，边的权重和方向，一个封闭形式的渐近分析。它导致了一种新的两阶段图聚类算法。中心性分析有助于我们的方法聚类一个给定的图形的适用性的原因，并确定“查询”节点，围绕它来探索当地的社区结构，导致凝聚聚类机制。熵中心计算摊销我们的聚类算法，使其计算效率：相比以前的方法使用马尔可夫熵中心聚类，我们的实验表明多个数量级的速度。我们的聚类算法自然继承了适应边缘方向性的灵活性，以及边缘权重和节点度之间的不同解释和相互作用。总之，本文不仅做出了重要的理论和概念贡献，而且还将研究结果转化为实际相关的工件，产生新的，有效的和可扩展的中心性计算和图聚类算法，其有效性已通过广泛的基准测试实验进行了验证。
2021-11-23 cs.IT cs.LG cs.SI
On Accelerating Deep Neural Network Mutation Analysis by Neuron and Mutant Clustering
Auburn University（奥本大学）
提出DEEPMAACC工具，通过神经元聚类和突变体聚类加速DNN变异分析，在保持变异得分的同时分别提速69.77%和35.31%，验证了速度与精度间的权衡。
2025-01-22 cs.LG cs.NE cs.SE
