Fair Algorithms for Hierarchical Agglomerative Clustering
University of California, Davis（加州大学戴维斯分校）
本文提出适用于层次凝聚聚类（HAC）的公平算法，通过强制公平性约束，在不依赖距离链接准则、支持多种公平度量和多受保护群体的前提下保持竞争力，并在UCI数据集上验证其优于原始HAC及现有方法的公平性。
2023-07-31 cs.LG stat.ML
Scalable Hierarchical Agglomerative Clustering
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Google LLC（谷歌有限责任公司）；Facebook（脸书）；University of Southern California（南加州大学）
凝聚聚类的适用性，推断层次和平面聚类，是有限的，其可扩展性。现有的可扩展的层次聚类方法牺牲质量的速度，往往导致过度合并的集群。在本文中，我们提出了一个可扩展的，凝聚的层次聚类方法，不牺牲质量和规模数十亿的数据点。我们进行了详细的理论分析，表明在温和的可分性条件下，我们的算法不仅可以恢复最佳的平面划分，而且还提供了一个两个近似的非参数DP均值目标。这介绍了一种新的应用程序的层次聚类作为一个近似算法的非参数聚类目标。我们还涉及到我们的算法的经典层次凝聚聚类方法。我们进行了广泛的实证实验，在分层和扁平的聚类设置，并表明我们提出的方法实现了国家的最先进的结果公开可用的聚类基准。最后，我们证明了我们的方法的可扩展性，将其应用到一个数据集的30亿次查询。人类对发现的聚类的评价表明，我们的方法发现的聚类质量比目前最先进的聚类质量更好。
2021-09-30 cs.LG
Agglomerative Hierarchical Clustering with Dynamic Time Warping for Household Load Curve Clustering
Western University（西安大略大学）
能源公司经常实施各种需求响应（DR）计划，通过在关键时期为消费者提供减少需求的激励措施来更好地匹配电力需求和供应。根据客户的消费模式对客户进行分类，可以针对特定的消费者群体进行DR。传统的聚类算法使用标准的距离测量来找到两点之间的距离。聚类算法（如K-means、K-medoids和高斯混合模型）产生的结果取决于聚类参数或初始聚类。相比之下，我们的方法使用基于形状的方法，结合凝聚层次聚类（AHC）与动态时间弯曲（DTW）的住宅家庭的日常负荷曲线分类的基础上，他们的消费模式。虽然DTW寻求两个负载曲线之间的最佳对齐，但AHC提供了一个现实的初始聚类中心。在本文中，我们与其他聚类算法，如K-means，K-medoids，和GMM使用不同的距离措施的结果进行比较，我们表明，AHC使用DTW优于其他聚类算法，需要更少的集群。
2022-10-18 cs.LG
Interrelating Fruchterman-Reingold Graph Visualization and Agglomerative Clustering
University of São Paulo（圣保罗大学）
本文探讨Fruchterman-Reingold图可视化与四种凝聚聚类方法间的关联，发现两者关系在不同数据上稳定，且可视化与原始数据相似度较高，但与聚类结果相似度较低。
2026-09-29 cs.LG
Scaling Hierarchical Agglomerative Clustering to Billion-sized Datasets
Google Research（谷歌研究院）；x Labs（0x实验室）
层次凝聚聚类（HAC）是最古老但使用最广泛的聚类方法之一。然而，众所周知，HAC很难扩展到大型数据集，因为底层复杂度至少是数据点数量的二次方，并且解决HAC的许多算法本质上是顺序的。在本文中，我们提出了{相互凝聚聚类（RAC）}，HAC的分布式算法，使用一种新的策略，有效地合并集群并行。我们从理论上证明了RAC恢复HAC的精确解。此外，在集群性和平衡性的假设下，我们证明了由于并行的总运行时的加速。我们还表明，这些加速是可以实现的某些概率数据模型。在广泛的实验中，我们表明这种并行性是在现实世界的数据集上实现的，并且提出的RAC算法可以在不到一小时的时间内恢复由数万亿条边连接的数十亿个数据点上的HAC层次结构。
2021-05-25 cs.LG
Hierarchical Agglomerative Graph Clustering in Nearly-Linear Time
MIT（麻省理工学院）；Google Research（谷歌研究院）
研究了边加权图上的层次凝聚聚类算法。我们定义了一个算法框架的层次凝聚图聚类，提供了第一个有效的$\tilde{O}(m)$时间精确算法的经典链接的措施，如完整的和WPGMA链接，以及其他措施。此外，平均链接，可以说是最流行的变体HAC，我们提供了一个算法，运行在$\tilde{O}(n\sqrt{m})$的时间。对于这个变体，这是第一个在次二次时间内运行的精确算法，只要对某个常数$ε> 0$执行$m=n^{2-ε}$。我们补充这一结果与一个简单的$ε$接近近似算法的平均链接在我们的框架中运行在$\tilde{O}(m)$的时间。作为我们的算法的一个应用，我们考虑聚类点在度量空间中，首先使用$k$ -NN生成一个图的点集，然后运行我们的算法产生的加权图。我们在公开数据集上验证了我们的算法的性能，并表明我们的方法可以将点数据集的聚类速度提高20.7- 76.5倍。
2021-06-10 cs.AI cs.CV cs.DS
GASP, a generalized framework for agglomerative clustering of signed graphs and its application to Instance Segmentation
Heidelberg Collaboratory for Image Processing（海德堡图像处理合作实验室）；EMBL（欧洲分子生物学实验室）；University Göttingen（哥廷根大学）；MRC Laboratory of Molecular Biology（英国医学研究委员会分子生物学实验室）
我们提出了一个理论框架，概括了简单而快速的分层凝聚聚类算法的加权图与吸引力和排斥力的节点之间的相互作用。这个框架定义了GASP，一个广义算法的有符号图分割，并允许我们探索不同的链接标准和不能链接的约束条件的许多组合。我们证明了现有的聚类方法的等价性，这些组合中的一些，并介绍了新的算法，以前没有研究过的组合。我们研究这些组合的理论和经验性质，并证明其中一些定义的超度量的图。我们进行了一个系统的比较各种实例的GASP在大量的各种合成和现有的签署聚类问题，在精度，而且效率和鲁棒性噪声。最后，我们展示了我们框架中包含的一些算法，当与CNN模型的预测相结合时，会产生一个简单的自下而上的实例分割管道。通过一个简单的过程，从像素到最终分割，我们在CREMI 2016 EM分割基准上实现了最先进的准确性，而无需特定领域的超像素。
2022-06-03 cs.CV cs.LG
An agglomerative hierarchical clustering method by optimizing the average silhouette width
University College London（伦敦大学学院）
提出了一种基于平均轮廓宽度（ASW）指标优化的关联度量的凝聚层次聚类（AHC）框架和算法HOSil。为了实现以下三个目标，对各种数据结构的聚类方法和估计指标进行了认真的研究：a）聚类质量，b）聚类恢复，c）聚类数估计。与k-means，PAM，单一，完整，平均，Ward，McQuitty，谱，基于模型和几种估计方法相比，HOSil在一系列人工和真实世界的数据结构中表现出更好的聚类质量。它可以识别各种形状的簇，包括球形的，细长的，相对小尺寸的簇，来自不同分布的簇，包括均匀的，t，伽马等。HOSil已显示出良好的回收率，用于正确确定簇的数目。对于某些数据结构，只有HOSil能够识别正确的簇数。
2019-09-26 cs.LG stat.ME
Diarisation using location tracking with agglomerative clustering
Microsoft（微软）
以前的工作已经表明，空间位置信息可以补充扬声器diarisation任务的扬声器嵌入。然而，所使用的模型通常假设发言者在整个会议期间是相当固定的。本文提出放松这一假设，明确建模的运动的扬声器内的凝聚层次聚类（AHC）diarisation框架。跟踪说话者位置的卡尔曼滤波器用于计算对数似然比，该对数似然比有助于AHC合并和停止决策的聚类亲和度计算。实验表明，所提出的方法是能够产生改进的Microsoft丰富的会议转录任务，相比不使用位置信息或平稳性假设的方法。
2021-09-24 cs.CL cs.LG cs.SD
Order preserving hierarchical agglomerative clustering
偏序和有向无环图通常是在许多领域和应用中自然出现的循环数据结构，并且用于表示领域中实体之间的有序关系。例如，项目计划中的任务依赖关系、分布式账本中的交易顺序以及计算机程序中的任务执行顺序，仅举几例。研究了这类有序数据的保序层次聚类问题。也就是说，如果我们在原始数据中有$a < b$，并用$[a]$和$[b]$表示它们各自的聚类，那么我们在生成的聚类中将有$[a] < [b]$。聚类是基于相似性的，并使用标准的链接功能，如单一和完整的链接，是经典的层次聚类的扩展。为了实现这一点，我们定义的输出运行经典的层次聚类严格有序的数据是部分树状图，子树的经典树状图与几个连接组件。然后，我们构建了一个嵌入的部分树状图在一个集合到家庭的超度量在同一个集合。一个最佳的层次聚类被定义为部分树状图对应的超度量最接近原来的相异度测量，测量的p-范数。因此，该方法是经典的层次聚类和超度量拟合的组合。一个参考实现的合成随机数据和现实世界的数据库中的机器零件的实验。实验结果表明，与现有的方法相比，该方法在聚类质量和顺序保持方面都有很大的优势。
2021-09-09 cs.LG stat.ML
Agglomerative Clustering of Handwritten Numerals to Determine Similarity of Different Languages
Khulna University of Engineering & Technology（库尔纳工程技术大学）
不同语言的手写数字具有不同的特点。通过分析提取的数词特征，可以衡量语言的相似性和差异性。手写数字数据集可用于不同地区的许多知名语言。本文收集了几种不同语言的手写体数字数据集。然后通过确定和比较各个手写数字的相似性来寻找这些书面语言之间的相似性。这将有助于找到哪些语言具有相同或相邻的母语言。首先，用一个连体网络构造两幅数字图像的相似性度量。其次，利用Siamese网络和一个新的随机样本，采用替换相似性平均技术，确定数字数据集的相似性。最后，基于每个数据集的相似性进行凝聚聚类。这种聚类技术显示了数据集的一些非常有趣的特性。本文所关注的属性是数据集的区域相似性。通过分析聚类，可以很容易地识别哪些语言起源于相似的地区。
2020-11-22 cs.CL cs.CV cs.LG
Anisotropic Agglomerative Adaptive Mean-Shift
Georgia Institute of Technology（佐治亚理工学院）；Magic Leap, Inc.（Magic Leap公司）
Mean Shift被广泛用于模式检测和聚类。然而，由于各向同性和方差齐性的假设，该技术在实践中受到挑战。我们提出了一种自适应均值漂移方法，允许完全各向异性聚类，通过无监督的本地带宽选择。带宽矩阵自然演变，通过聚集在本地进行适应，反过来又引导进一步的聚集。在线方法是实用和有效的低维特征空间，保持更好的细节和聚类的显着性。另外，常规均值偏移要么严格地取决于带宽的每个实例选择，要么依赖于不灵活的和/或再次数据实例特定的离线方法。由于其自适应设计，所提出的方法也解决了这个问题-默认形式通常表现良好。然而，该方法允许有效地调整结果。
2014-11-15 cs.CV cs.LG
Bayesian Hierarchical Clustering with Exponential Family: Small-Variance Asymptotics and Reducibility
Pohang University of Science and Technology（浦项科技大学）
贝叶斯层次聚类（Bayesian hierarchical clustering，BHC）是一种凝聚聚类方法，它定义了一个概率模型，并评估其边缘似然来决定哪些聚类要合并。虽然BHC提供了一些优势，传统的基于距离的凝聚聚类算法，连续的边缘似然评估和仔细的超参数调整是繁琐的，限制了可扩展性。在本文中，我们放松BHC到一个非概率制定，探索共轭指数模型的小方差渐近。我们开发了一种新的聚类算法，被称为放松BHC（RBHC），从BHC模型的渐近极限，表现出基于距离的凝聚聚类算法的可扩展性，以及贝叶斯非参数模型的灵活性。我们还研究了从BHC模型的渐近极限中出现的相异性度量的减少，使我们能够使用可扩展的算法，如最近邻链算法。在人工数据集和真实数据集上的数值实验证明了该方法的有效性和高性能。
2015-06-03 cs.LG stat.ML
A Bayesian Learning, Greedy agglomerative clustering approach and evaluation techniques for Author Name Disambiguation Problem
Indian Institute of Science Education and Research（印度科学教育与研究院）
由于同一作者以不同的名字出现，多个作者拥有相似的名字，作者的名字往往含糊不清。它造成了将学术著作与作者联系起来的困难，从而在署名、文献计量分析、数字图书馆中按作者搜索和专家发现中引入了不准确性。在文献中已经提出了过多的技术来消除作者姓名的歧义。我试图把重点放在研究工作的目标是消除歧义的作者姓名。我首先通过传统的方法，然后我讨论的评价技术和聚类模型，最后导致贝叶斯学习和贪婪凝聚的方法。我相信这篇集中的评论对研究界是有用的，因为它讨论了应用于一个非常大的真实数据库的技术，这个数据库在世界范围内被广泛使用。贝叶斯和贪婪凝聚的方法将有助于更好地解决与问题。最后，我试图为未来的工作勾勒出几个方向
2022-11-01 cs.DL cs.LG
Analysis of Agglomerative Clustering
Schloss Dagstuhl – Leibniz Center for Informatics（达格斯托尔城堡–莱布尼茨信息学中心）；University of Paderborn（帕德博恩大学）；TU Dortmund（多特蒙德工业大学）
直径$k$ -聚类问题是将$\mathbb{R}^d$的有限子集划分为称为聚类的$k$子集，使得聚类的最大直径最小化的问题。一个早期的聚类算法，计算一个层次的近似解决方案，这个问题（为所有值的$k$）是凝聚聚类算法与完整的链接策略。几十年来，该算法已被实践者广泛使用。然而，在理论上还没有得到很好的研究。本文分析了凝聚完全链接聚类算法。假设$d$的维度是一个常数，我们表明，对于任何$k$的解决方案，该算法计算的是一个$O(\log k)$ -近似直径$k$ -聚类问题。我们的分析不仅适用于欧几里得距离，而且适用于任何基于范数的度量。此外，我们分析了密切相关的$k$ -中心和离散$k$ -中心问题。对于相应的凝聚算法，我们推导出一个近似因子$O(\log k)$。
2014-03-07 cs.CG cs.DS cs.LG
cuSLINK: Single-linkage Agglomerative Clustering on the GPU
NVIDIA, Inc（英伟达公司）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）；Booz Allen Hamilton（博思艾伦汉密尔顿公司）
本文提出在GPU上重新表述SLINK算法的cuSLINK，仅需$O(Nk)$空间并使用参数$k$权衡时空，通过高度优化的可复用计算模块实现端到端聚类，有效解决HDBSCAN等算法的计算瓶颈并支持广泛的数据挖掘与机器学习应用。
2023-06-28 cs.LG stat.ML
Robust Hierarchical Clustering
Carnegie Mellon University（卡内基梅隆大学）；Georgia Institute of Technology（佐治亚理工学院）；Google, Inc.（谷歌公司）
最广泛使用的数据聚类技术之一是凝聚聚类。这种算法长期以来被用于从计算生物学到社会科学再到计算机视觉的许多不同领域，部分原因是它们的输出易于解释。不幸的是，它是众所周知的，然而，许多经典的凝聚聚类算法是不鲁棒的噪声。在本文中，我们提出并分析了一个新的鲁棒自底向上凝聚聚类算法。我们表明，我们的算法可以用来准确地聚类的情况下，数据满足一些自然属性和传统的凝聚算法失败。我们还展示了如何适应我们的算法的归纳设置，我们给定的数据只是一个小的随机样本的整个数据集。在合成数据集和真实数据集上的实验结果表明，该算法在噪声存在的情况下，比其他层次算法具有更好的性能。
2014-07-13 cs.DS cs.LG
The Impact of Isolation Kernel on Agglomerative Hierarchical Clustering Algorithms
Deakin University（迪肯大学）；Nanjing University（南京大学）
针对现有基于距离的凝聚层次聚类难以识别密度不同的相邻簇的问题，本文分析问题成因，提出用数据依赖核解决该问题，并将Isolation Kernel应用于多种层次聚类算法，实验证明其生成的树图质量与纯度更优。
2020-10-12 cs.LG
MultiLink: Multi-class Structure Recovery via Agglomerative Clustering and Model Selection
Politecnico di Milano（米兰理工大学）
针对含噪声和离群点的数据集多类别结构恢复问题，提出结合即时模型拟合与选择的凝聚聚类算法MultiLink，在多类及单类问题上性能优于现有方法，代码已开源。
2025-05-16 cs.AI cs.CV cs.LG
Locally Adaptive Hierarchical Cluster Termination With Application To Individual Tree Delineation
University of Victoria（维多利亚大学）；Pacific Forestry Centre, National Resources Canada（加拿大自然资源部太平洋林业中心）
提出了一种局部自适应的聚类终止过程（相对于凝聚合并的集合代表的层次树），用于在配备距离函数的集合上进行凝聚层次聚类。它代表了一个多尺度的替代传统的规模依赖的阈值为基础的终止标准。
2022-12-01 cs.LG stat.ML
On the cohesion and separability of average-link for hierarchical agglomerative clustering
PUC-RIO（里约天主教大学）
本文研究层次凝聚聚类中平均链接方法在度量空间中的凝聚性与可分性，提出更可解释的评估标准，并通过理论分析与真实数据集实验证明其在两者兼顾时优于其他方法。
2024-11-07 cs.DS cs.LG
Bi-LSTM Scoring Based Similarity Measurement with Agglomerative Hierarchical Clustering (AHC) for Speaker Diarization
Columbia University（哥伦比亚大学）；Recognition Technologies, Inc.（识别技术公司）
跨不同场景的大多数语音信号对于仅包含单个扬声器的明确定义的音频段是不可用的。两个说话者之间的典型对话由他们的声音重叠，相互打断或在多个句子之间停止讲话的片段组成。日记化技术的最新进展利用基于神经网络的方法来改进说话人日记化系统的多个子系统，包括提取分段嵌入特征和检测说话人在对话期间的变化。然而，为了通过聚类来识别说话人，模型依赖于PLDA等方法来生成从给定会话音频中提取的两个片段之间的相似性度量。由于这些算法忽略了会话的时间结构，它们往往会达到更高的日志化错误率（DER），从而导致在说话人和变化识别方面的误检测。因此，为了独立地和顺序地比较两个语音片段的相似性，我们提出了一个双向长短期记忆网络来估计相似性矩阵中的元素。一旦相似性矩阵的生成，凝聚层次聚类（AHC）应用于进一步确定基于阈值的说话人段。为了评估性能，使用日志化错误率（DER%）度量。与传统的基于PLDA的相似性度量机制相比，该模型在来自ICSI会议语料库的音频样本测试集上实现了34.80%的低DER，该机制实现了39.90%的DER。
2022-05-19 cs.AI cs.CL cs.CV
Machine learning of hierarchical clustering to segment 2D and 3D images
Howard Hughes Medical Institute（霍华德·休斯医学研究所）；University of Pennsylvania（宾夕法尼亚大学）
我们的目标是通过在区域聚集期间使用机器学习工具来改进分割。我们提出了一个主动学习的方法进行分层凝聚分割超像素。我们的方法在凝聚过程的所有尺度上结合了多个特征，适用于任意维数的数据，并扩展到非常大的数据集。我们主张使用变化的信息来衡量分割的准确性，特别是在3D电子显微镜（EM）图像的神经组织，并使用此度量证明了竞争算法在EM和自然图像的改进。
2013-07-23 cs.CV cs.LG
Chamfer-Linkage for Hierarchical Agglomerative Clustering
University of Maryland（马里兰大学）；Brown University（布朗大学）；Google Research（谷歌研究）
本文提出Chamfer-linkage，一种基于Chamfer距离的层次聚类链接函数，通过实验验证其在多种数据集上优于经典链接方法，为层次聚类提供了新的实用工具。
2026-02-11 cs.DC cs.DS cs.IR
ParChain: A Framework for Parallel Hierarchical Agglomerative Clustering using Nearest-Neighbor Chain
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；UC Riverside（加利福尼亚大学河滨分校）
本文研究了层次聚类问题，其目标是产生一个树状图，表示聚类在不同规模的数据集。我们提出了ParChain框架设计并行层次凝聚聚类（HAC）算法，并使用该框架，我们获得新的并行算法的完整的联系，平均联系，和沃德的联系标准。与大多数需要二次存储的并行HAC算法相比，我们的新算法只需要线性存储，并且可扩展到大数据集。ParChain基于我们对最近邻链算法的并行化，并允许在每一轮合并多个集群。我们介绍了两个关键的优化，是至关重要的效率：范围查询优化，减少了距离计算的数量时，找到最近的邻居的集群，和缓存优化存储的子集以前计算的距离，这是可能被重用。实验表明，我们的高度优化的实现使用48个核心的双向超线程实现5.8- 110.1倍的加速比最先进的并行HAC算法，并实现13.75- 54.23倍的自相关加速比。与最先进的算法相比，我们的算法所需的空间减少了237.3倍。我们的算法能够扩展到具有数千万个点的数据集大小，这是现有算法无法处理的。
2022-02-14 cs.DB cs.DC cs.DS
An Experimental Comparison of Several Clustering and Initialization Methods
Microsoft Research（微软研究院）；Massachusetts Institute of Technology（麻省理工学院）
我们研究的方法，在高维聚类。在本文的第一部分中，我们进行了实验比较三批聚类算法：期望最大化（EM）算法，赢家通吃版本的EM算法让人想起K-means算法，和基于模型的层次凝聚聚类。我们使用高维离散变量数据集（真实的和合成的）学习带有隐藏根结点的朴素贝叶斯模型。我们发现，EM算法显着优于其他方法，并着手调查各种初始化方案的EM算法产生的最终解决方案的效果。我们考虑的初始化是（1）从无信息先验中采样的参数，（2）数据边缘分布的随机扰动，以及（3）层次凝聚聚类的输出。虽然方法有很大的不同，但它们会导致学习模型在质量上惊人的相似。
2015-05-16 cs.LG stat.ML
CAESAR: Clustering via Autonomous Embedding-Space Agglomerative Reorganization
提出CAESAR方法，通过训练重组网络优化预训练嵌入空间，无需预设聚类数K，在文本和图像数据集上优于现有深度聚类方法。
2026-09-29 cs.LG
Topic Grouper: An Agglomerative Clustering Approach to Topic Modeling
University of Heilbronn（海尔布隆大学）；Refinitiv Labs（路孚特实验室）；University of Sheffield（谢菲尔德大学）
我们引入Topic Grouper作为概率主题建模领域的补充方法。Topic Grouper以逐步的方式创建训练词汇表的分离分区，以便得到的分区表示主题。它由一个简单的生成模型控制，其中通过主题生成训练文档的可能性被优化。该算法从一个单词的主题开始，在每一步连接两个主题。因此，它为每个所需数量的主题生成解决方案，范围在训练词汇表的大小和一之间。该过程表示对应于主题的二叉树的凝聚聚类。所得到的树可以充当包含层次结构，通常具有朝向树根的更一般的主题和朝向叶子的更具体的主题。Topic Grouper不受Dirichlet等背景分布的控制，并且避免了超参数优化。我们表明，主题分组具有合理的预测能力，也是一个合理的理论和实践的复杂性。主题分组器可以很好地处理停止词和功能词，并倾向于将它们推入自己的主题。此外，它可以处理主题分布，其中一些主题比其他主题更频繁。我们提出了典型的例子，计算的主题从评估数据集，主题出现结论性和连贯性。在这种情况下，每个单词只属于一个主题的事实并不是一个主要的限制;在某些情况下，这甚至可能是一个真正的优势，例如~。相关的购物篮分析可以帮助优化销售目录中的物品分组。
2019-04-13 cs.IR cs.LG
Classifying spam emails using agglomerative hierarchical clustering and a topic-based approach
University of León（莱昂大学）；INCIBE (Spanish National Cybersecurity Institute)（西班牙国家网络安全研究所）
该研究提出基于主题的垃圾邮件多分类方法，构建两个各含约1.5万封邮件的数据集，评估16种流水线，发现TF-IDF与逻辑回归在英文数据集上F1达0.953，在西班牙语数据集上朴素贝叶斯F1为0.945。
2024-02-07 cs.AI cs.LG
Revisiting clustering as matrix factorisation on the Stiefel manifold
Université Lumière-Lyon-II（里昂第二大学）；The Alan Turing Institute（艾伦·图灵研究所）；The National Physical Laboratory（英国国家物理实验室）；Inria Lille - Nord Europe research centre（法国国家信息与自动化研究所里尔-北欧研究中心）；University College London（伦敦大学学院）
本文研究了可能高维数据（例如图像，时间序列，基因表达数据和许多其他设置）的聚类，并将其重新表述为PAC-Bayesian框架中的低秩矩阵估计。我们的方法利用了著名的Burer-Monteiro因式分解策略从大规模优化，在低秩估计的背景下。此外，我们的Burer-Monteiro因子躺在Stiefel流形。我们提出了一个新的广义贝叶斯估计这个问题，并证明了新的预测范围的聚类。我们还设计了一个分量朗之万采样器的Stiefel流形上计算这个估计。
2020-06-18 cs.LG stat.ML
On Convex Clustering Solutions
Kyoto University（京都大学）
凸聚类是一种有吸引力的聚类算法，由于其凸形式，具有良好的性能，如效率和最优性。它被认为是对k-means聚类和凝聚聚类的推广。然而，它是不知道是否凸聚类保留这些算法的理想属性。一个常见的期望是凸聚类可以学习困难的聚类类型，例如非凸聚类。目前对凸聚类的理解仅限于良好分离的聚类上的一致性结果。我们对它的解决方案有了新的理解。我们证明了凸聚类只能学习凸聚类。然后，我们表明，集群有不相交的边界球显着的差距。我们进一步刻画了解、正则化超参数、可包含情形和一致性。
2021-05-18 cs.LG stat.ML
Supercm: Revisiting Clustering for Semi-Supervised Learning
Department of Physics and Technology（物理与技术系）；UiT The Arctic University of Norway（北极大学）
提出Supercm方法，通过扩展可微聚类模块显式引入聚类假设，利用标注数据引导聚类中心，构建了端到端的深度半监督学习框架，有效提升基线性能并可与现有方法结合。
2025-06-30 cs.CV cs.LG
Distributed dual vigilance fuzzy adaptive resonance theory learns online, retrieves arbitrarily-shaped clusters, and mitigates order dependence
Missouri University of Science and Technology（密苏里科技大学）
提出了一种新的基于自适应共振理论（ART）的无监督学习模块化结构，即分布式双警戒模糊ART（DDVFA）。DDVFA由一个全局ART系统组成，其节点是局部模糊ART模块。它配备了分布式高阶激活和匹配功能的显着特点，使用双警戒参数负责聚类相似性和数据量化。总之，这些允许DDVFA执行无监督的模块化，创建多原型聚类表示，检索任意形状的集群，并控制其紧凑性。另一个重要的贡献是减少了顺序依赖，这是一个影响任何凝聚聚类方法的问题。本文演示了两种方法来减轻订单依赖：预处理使用聚类趋势的视觉评估（VAT）或后处理使用一种新的合并ART模块。前者适用于批处理，后者适用于在线学习。在30个基准数据集上进行的在线学习模式下的实验结果表明，当样本随机呈现时，DDVFA与Merge ART级联在统计上优于其他基于ART的系统。相反，当使用VAT预处理样本时，发现它们在离线模式下具有统计学等效性。值得注意的是，性能比较非ART为基础的聚类算法表明，DDVFA（增量学习）也是统计等效的非增量（离线）方法DBSCAN，单链接层次凝聚聚类（HAC），和k均值，同时保留吸引人的属性ART。链接到源代码和数据提供。考虑到算法的简单性，在线学习能力和性能，它是许多凝聚聚类应用的理想选择。
2018-11-28 cs.LG cs.NE stat.ML
A Mathematical Theory for Clustering in Metric Spaces
National Tsing Hua University（国立清华大学）；National Taiwan University（国立台湾大学）
聚类是数据分析中最基本的问题之一，在文献中得到了广泛的研究。虽然已经提出了许多聚类算法，聚类理论，证明这些聚类算法的使用仍然不令人满意。特别是，一个基本的挑战是解决以下问题：什么是一组数据点中的集群？在本文中，我们试图通过考虑一组与距离度量（度量）相关的数据点来解决这样的问题。首先，我们提出了一个新的凝聚力的距离测度。使用内聚度量，我们将聚类定义为一组相互内聚的点。对于这样一个定义，我们有各种等价的声明，有直观的解释。然后，我们考虑第二个问题：我们如何找到集群和良好的分区集群下这样的定义？对于这样的问题，我们提出了一个分层凝聚算法和一个分区算法。与标准的层次凝聚算法，我们的层次凝聚算法有一个特定的停止标准，它停止与分区的集群。我们的分块算法，称为K-集算法的文件，似乎是一个新的迭代算法。与需要两步极小化的Lloyd迭代不同，我们的K-sets算法只需要一步极小化。本文最有趣的发现之一是距离测度和内聚测度之间的对偶结果。这样的对偶结果导致了一个对偶K集算法，用于用内聚度量聚类一组数据点。对偶K集算法的收敛方式与经典核K均值算法的顺序版本相同。关键的区别是内聚测度不需要是半正定的。
2015-09-25 cs.LG
Revisiting k-means: New Algorithms via Bayesian Nonparametrics
Ohio State University（俄亥俄州立大学）；UC Berkeley（加州大学伯克利分校）
贝叶斯模型为聚类应用提供了很大的灵活性-贝叶斯非参数可用于建模无限混合物，分层贝叶斯模型可用于在多个数据集上共享聚类。在大多数情况下，这种灵活性是缺乏经典的聚类方法，如k-means。在本文中，我们重新审视的k-means聚类算法从贝叶斯非参数的观点。受启发的渐近连接之间的k-均值和混合高斯，我们表明，吉布斯采样算法的Dirichlet过程的混合接近硬聚类算法的限制，并进一步得到的算法单调最小化一个优雅的底层k-均值聚类目标，包括惩罚的集群数量。我们推广这种分析的情况下，聚类多个数据集，通过类似的渐近参数与分层狄利克雷过程。我们还讨论了进一步的扩展，突出了我们的分析的好处：i）涉及阈值特征向量的谱松弛，和ii）归一化割图聚类算法，不固定图中的聚类数量。
2012-06-14 cs.LG stat.ML
Event Driven Clustering Algorithm
本文提出了一种基于事件相机异步数据结构的线性复杂度事件聚类算法，用于实时检测小事件簇。
2026-08-06 cs.CV cs.LG
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering
South China University of Technology（华南理工大学）；Institute for Infocomm Research（资讯通信研究院）；Peng Cheng Laboratory（鹏城实验室）
在目标域数据上部署模型需要适应分布偏移。测试时训练（TTT）出现作为一个现实的情况下，访问完整的源域数据是不可用的，需要对目标域的即时推理这种适应的解决方案。尽管在TTT方面做了很多努力，但实验设置仍存在混乱，从而导致不公平的比较。在这项工作中，我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中，我们采用了一个现实的顺序测试时训练（sTTT）协议，根据该协议，我们进一步开发了一个测试时锚定聚类（TTAC）方法，使更强的测试时特征学习。TTAC发现源域和目标域中的聚类，并将目标聚类与源聚类进行匹配，以提高泛化能力。提出了伪标签过滤和迭代更新的方法来提高锚定聚类的有效性和效率。我们证明，在所有TTT协议TTAC始终优于国家的最先进的方法在六个TTT数据集。我们希望这项工作将提供一个公平的基准TTT方法和未来的研究应在各自的协议进行比较。演示代码可在https://github.com/Gorilla-Lab-SCUT/TTAC上获得。
2022-10-14 cs.CV cs.LG
Stop Indexing at Full Precision: Revisiting Clustering for Vector Embeddings
CWI Amsterdam（阿姆斯特丹数学与计算机科学研究中心）
该研究针对向量嵌入索引问题，提出在聚类前应用降维、量化和维度剪枝的流水线，发现1位编码聚类可实现近最优质量且大幅降存储，相关实现已开源。
2026-08-18 cs.AI cs.DB cs.LG
Hierarchical clustering with OWA-based linkages, the Lance-Williams formula, and dendrogram inversions
Deakin University（迪肯大学）；Warsaw University of Technology（华沙理工大学）；Systems Research Institute, Polish Academy of Sciences（波兰科学院系统研究所）
本文研究基于OWA算子的层次聚类与Lance-Williams公式的关系，并给出权重生成条件以保证树状图无反转。
2023-10-25 cs.LG stat.ML
Natural Hierarchical Cluster Analysis by Nearest Neighbors with Near-Linear Time Complexity
我们提出了一个基于最近邻的聚类算法，结果在一个自然定义的层次结构的集群。相反，凝聚和分裂的层次聚类算法，我们的方法是不依赖于迭代工作的算法，在这个意义上说，分区的层次聚类纯粹是根据输入数据集定义。我们的方法是一个通用的层次聚类方法，因为它可以实现为自自底向上的或自上而下的版本，这两种结果在相同的聚类。我们表明，对于某些类型的数据集，我们的算法具有接近线性的时间和空间复杂度。
2022-03-15 cs.DS cs.LG stat.ML
Revisiting the Bethe-Hessian: Improved Community Detection in Sparse Heterogeneous Graphs
GIPSA-lab（GIPSA实验室）；UGA（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立高等物理、数学与信息学院）；L2S（信号与系统实验室）；CentraleSupélec（中央理工-高等电力学院）；University of Paris Saclay（巴黎萨克雷大学）
谱聚类是图上社区发现的最流行但尚未完全理解的方法之一。本文研究了基于Bethe-Hessian矩阵$H_r = (r^2-1)I_n + D-rA$的谱聚类算法，该算法适用于稀疏异构图（遵循度校正随机块模型）的两类集.对于一个特定的值$r = ζ$，聚类被证明是不敏感的程度异质性。然后，我们研究的行为的信息特征向量的$H_ζ$，作为一个结果，预测聚类精度。文章最后概述了对两个以上类别的推广，以及对合成和真实网络的广泛模拟，证实了我们的发现。
2019-10-09 cs.LG cs.SI physics.soc-ph
Revisiting Gaussian Neurons for Online Clustering with Unknown Number of Clusters
Norwegian University of Science and Technology（挪威科技大学）
尽管人工神经网络最近取得了成功，但可能需要更多生物学上合理的学习方法来解决反向传播训练模型的弱点，如灾难性遗忘和对抗攻击。虽然这些弱点没有具体解决，一种新的本地学习规则，进行在线聚类的上限，而不是一个固定的集群计数的集群数量。代替使用正交权重或输出激活约束，激活稀疏性通过横向高斯神经元的相互排斥来实现，从而确保多个神经元中心不能占据输入域中的相同位置。在数据样本可以用均值和方差表示的情况下，还提出了一种更新方法来调整高斯神经元的宽度。这些算法应用于MNIST和CIFAR-10数据集，以创建捕获各种大小的像素块的输入模式的过滤器。实验结果表明，在大量的训练样本的学习参数的稳定性。
2022-08-06 cs.CV cs.LG cs.NE
Revisiting data augmentation for subspace clustering
University of Mons（蒙斯大学）
子空间聚类是一个经典的聚类问题，它将一组数据样本近似地分布在几个低维子空间中。目前最先进的方法，这个问题是基于自我表达的模型，代表其他样本的线性组合的样本。然而，这些方法需要足够分散的样本用于准确表示，这在许多应用中可能不一定是可访问的。在本文中，我们揭示了这个通常被忽视的问题，并认为每个子空间内的数据分布在自我表达模型的成功中起着至关重要的作用。我们提出的解决这个问题的解决方案的动机是数据增强在深度神经网络的泛化能力中的核心作用。我们提出了两个子空间聚类框架的无监督和半监督的设置，使用增强的样本作为一个扩大的字典，以提高自我表达的表示质量。我们提出了一个自动增强策略，使用一些标记的样本的半监督问题依赖的事实，即数据样本位于多个线性子空间的联合。实验结果证实了数据增强的有效性，因为它显着提高了一般的自我表达模型的性能。
2022-07-20 cs.AI cs.CV cs.LG
Revisiting Realistic Test-Time Training: Sequential Inference and Adaptation by Anchored Clustering Regularized Self-Training
I2R, A-STAR（A*STAR信息通信研究所）；South China University of Technology（华南理工大学）；Southwest Jiaotong University（西南交通大学）
在目标域数据上部署模型需要适应分布偏移。测试时训练（TTT）出现作为一个现实的情况下，访问完整的源域数据是不可用的，和即时推理的目标域上的这种适应的解决方案。尽管在TTT方面做了很多努力，但实验设置仍存在混乱，从而导致不公平的比较。在这项工作中，我们首先重新审视TTT的假设和分类TTT协议的两个关键因素。在多个协议中，我们采用了一个现实的顺序测试时训练（sTTT）协议，根据该协议，我们开发了一个测试时锚定聚类（TTAC）方法，使更强的测试时特征学习。TTAC发现源域和目标域中的簇，并将目标簇与源簇进行匹配，以提高自适应性。当源域信息是严格缺席（即无源），我们进一步开发了一种有效的方法来推断锚定聚类的源域分布。最后，自我训练~（ST）在从未标记数据中学习方面取得了巨大的成功，并且我们经验性地指出，单独将ST应用于TTT容易产生确认偏差。因此，一个更有效的TTT的方法，引入了正则化的自训练与锚定聚类，改进的模型被称为TTAC++。我们证明，在所有TTT协议下，TTAC++在五个TTT数据集上的性能始终优于最先进的方法，包括损坏的目标域，选定的硬样本，合成到真实的自适应和对抗攻击的目标域。我们希望这项工作将提供一个公平的TTT方法的基准，未来的研究应在各自的协议进行比较。
2023-03-20 cs.CV cs.LG
Scalable Hierarchical Clustering with Tree Grafting
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）；Microsoft Research（微软研究院）；IBM（国际商业机器公司）
我们介绍Grinch，一个新的算法，大规模的，非贪婪的层次聚类与一般的连接功能，计算任意两个点集之间的相似性。Grinch的关键组件是它的旋转和移植子例程，这些子例程在新点到达时有效地重新配置层次结构，支持发现具有复杂结构的集群。Grinch的动机是一个新的概念的分离性与联动功能的聚类：我们证明，当模型是一致的地面真相聚类，Grinch保证产生一个集群树包含地面真相，独立的数据到达顺序。我们在基准和作者共指数据集（具有标准和学习的链接函数）上的实证结果表明，Grinch比其他可扩展方法更准确，并且比层次凝聚聚类快几个数量级。
2019-12-31 cs.DS cs.LG stat.ML
Revisiting Dynamic Graph Clustering via Matrix Factorization
The University of Tokyo（东京大学）；Institute of Science Tokyo（东京科学大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所先进智能项目中心）；RMIT University（皇家墨尔本理工大学）
针对基于矩阵分解的动态图聚类方法存在的可扩展性差、鲁棒性不足等问题，提出时间分离矩阵分解、双聚类正则化和选择性嵌入更新三项改进，实验验证其在大规模动态图上的有效性、效率与鲁棒性。
2025-02-10 cs.AI cs.LG stat.ML
Clustering Images by Unmasking - A New Baseline
University of Bucharest（布加勒斯特大学）
我们提出了一种新的凝聚聚类方法的基础上，揭露，以前用于文本文档的作者身份验证和视频中的异常事件检测技术。为了加入两个聚类，我们交替（i）训练二元分类器以区分来自一个聚类的样本和来自另一个聚类的样本，以及（ii）在每个步骤中删除最具判别力的特征。快速下降的准确率的中间获得的分类器表明，这两个集群应该加入。据我们所知，这是第一个应用去掩蔽来聚类图像的工作。我们比较我们的方法与k-means以及最近的国家的最先进的聚类方法。实证结果表明，我们的方法是能够提高性能的各种（深和浅）的特征表示和不同的任务，如手写数字识别，纹理分类和细粒度的对象识别。
2019-05-02 cs.CV cs.LG
Revisiting Clustering of Neural Bandits: Selective Reinitialization for Mitigating Loss of Plasticity
Gaoling School of Artificial Intelligence Renmin University of China Beijing China；Gaoling School of Artificial Intelligence Renmin University of China
本文提出SeRe框架，通过选择性重置缓解神经带客算法的退化性问题，提升其在动态环境中的适应性和鲁棒性。
2025-12-02 cs.AI cs.LG stat.ML
Nonparametric Hierarchical Clustering of Functional Data
Orange Labs（奥兰治实验室）；Université Paris 1（巴黎第一大学）
在本文中，我们处理的问题曲线聚类。我们提出了一个非参数的方法，划分成簇的曲线和离散的曲线点的尺寸到区间。这些分区的叉积形成了一个数据网格，该网格是使用贝叶斯模型选择方法获得的，同时不对曲线进行任何假设。最后，提出了一种后处理技术，旨在减少聚类的数量，以提高聚类的可解释性。它包括在最佳合并的集群一步一步，这对应于凝聚的层次分类，其相异性的措施是标准的变化。有趣的是，这个度量不是别的，正是合并前后聚类分布之间的库尔贝克-莱布勒散度之和。功能数据探索性分析的方法的实际利益，并与人工和现实世界的数据集的替代方法进行比较。
2014-07-02 cs.LG stat.ML
Hierarchical clustering with dot products recovers hidden tree structure
School of Mathematics（数学学院）；University of Bristol（布里斯托尔大学）；Imperial College London（伦敦帝国学院）
提出一种按最大平均点积合并簇的凝聚式聚类变体，并在通用概率图模型下证明其可恢复隐藏生成树结构，真实数据表现优于 UPGMA、Ward 与 HDBSCAN。
2024-03-01 cs.LG stat.ML
Revisiting Modularity Maximization for Graph Clustering: A Contrastive Learning Perspective
Ant Group（蚂蚁集团）
本研究揭示模块度最大化与图对比学习的内在关联，提出以模块度最大化为对比预训练任务的社区感知图聚类框架MAGI，兼具优异聚类性能与超大规模图可扩展性。
2024-06-20 cs.AI cs.LG
Revisiting Silhouette Aggregation
Athens University of Economics and Business（雅典经济与商业大学）；University of Ioannina（约阿尼纳大学）；Archimedes/Athena RC（阿基米德/雅典娜研究中心）
本研究针对聚类评估中轮廓系数微平均对簇不平衡敏感的问题，提出更稳健的宏平均策略及逐簇采样方法，并通过8个真实数据集实验验证了其有效性。
2024-06-22 cs.AI cs.LG
Revisiting Instance-Optimal Cluster Recovery in the Labeled Stochastic Block Model
针对 LSBM 的隐藏社区恢复，提出无需模型参数的两阶段 IAC 算法，在期望和高概率下均达到实例特定下界，并保持近线性复杂度。
2025-08-29 cs.LG cs.SI stat.ML
Parameter-Free Clustering via Self-Supervised Consensus Maximization (Extended Version)
本文提出一种无需参数的聚类框架SCMax，通过自监督共识最大化实现层次聚类和评估，利用最近邻共识得分确定最佳聚类数，实验表明其优于传统方法。
2026-03-24 cs.LG
