An Online Hierarchical Algorithm for Extreme Clustering
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
许多现代聚类方法可以很好地扩展到大量的数据项N，但不能扩展到大量的聚类K。本文介绍了PERCH，一个新的非贪心算法的在线层次聚类，规模庞大的N和K-一个问题的设置，我们长期极端聚类。我们的算法有效地路由新的数据点的叶子的增量构建的树。出于对准确性和速度的期望，我们的方法执行树旋转，以提高子树纯度和鼓励平衡。我们证明了，在自然可分性假设下，我们的非贪心算法将产生具有完美树状图纯度的树，而不管在线数据到达顺序。我们的实验表明，PERCH构建更准确的树比其他树建设聚类算法和规模以及与N和K，实现了更高的质量聚类比最强的平聚类竞争对手在近一半的时间。
2017-04-06 cs.LG stat.ML
Hybridization of Expectation-Maximization and K-Means Algorithms for Better Clustering Performance
JNTU（贾瓦哈拉尔尼赫鲁科技大学）；AITAM（阿迪蒂亚工程技术学院）
目前的工作提出了混合期望最大化（EM）和K-Means技术作为一种尝试，以加快聚类过程。尽管K-Means和EM技术都关注不同的领域，但K-Means可以被视为获得均值最大似然估计的近似方法。随着杂交算法的提出，目前的工作也与标准EM算法的实验。六个不同的数据集用于实验，其中三个是合成数据集。计算聚类适应度和误差平方和（SSE）来衡量聚类性能。在所有的实验中，它被观察到，所提出的算法的EM和K-Means技术的杂交是一致的执行时间更少，可接受的聚类健身值和更少的SSE比标准EM算法。它也被观察到，该算法产生更好的聚类结果比普渡大学的集群包。
2016-03-25 cs.LG stat.ML
Algorithm-Agnostic Interpretations for Clustering
Ludwig-Maximilians-Universität München（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）
高维数据的聚类结果通常通过后处理来解释，包括降维和随后的可视化。这破坏了数据的意义，混淆了解释。我们提出了算法不可知的解释方法来解释聚类结果在减少的维度，同时保持数据的完整性。用于聚类的置换特征重要性表示基于洗牌特征值和通过自定义得分函数测量聚类分配中的变化的一般框架。聚类的个体条件期望指示由于数据的变化而导致的聚类分配中的观察方面的变化。聚类的部分依赖性评估整个特征空间的聚类分配的平均变化。所有方法都可以与任何能够通过软标签或硬标签重新分配实例的聚类算法一起使用。与主成分分析等常用的后处理方法相比，本文提出的方法保持了特征的原始结构。
2022-09-21 cs.LG stat.ML
A Framework for Deep Constrained Clustering -- Algorithms and Advances
University of California, Davis（加州大学戴维斯分校）；Google Research（谷歌研究院）
约束聚类领域已经被研究人员广泛探索，并被实践者使用。约束聚类公式适用于k均值、混合模型和谱聚类等流行算法，但有几个局限性。深度学习的一个基本优势是它的灵活性，在这里，我们将探索一个用于约束聚类的深度学习框架，特别是探索它如何扩展约束聚类领域。我们表明，我们的框架不仅可以处理标准的一起/分开的约束（没有记录良好的负面影响报告）产生的标记的边信息，但更复杂的约束产生的新类型的边信息，如连续值和高层次的领域知识。
2019-12-19 cs.LG stat.ML
Fair Algorithms for Hierarchical Agglomerative Clustering
University of California, Davis（加州大学戴维斯分校）
本文提出适用于层次凝聚聚类（HAC）的公平算法，通过强制公平性约束，在不依赖距离链接准则、支持多种公平度量和多受保护群体的前提下保持竞争力，并在UCI数据集上验证其优于原始HAC及现有方法的公平性。
2023-07-31 cs.LG stat.ML
Consistent Spectral Clustering in Hyperbolic Spaces
Indian Statistical Institute（印度统计研究所）
针对非欧空间中非深度聚类研究不足的问题，提出双曲谱聚类算法，用双曲相似矩阵替代欧几里得相似矩阵，证明弱一致性与不低于欧氏谱聚类的收敛速度，并在乳腺癌数据集上验证优势。
2024-12-06 cs.LG stat.ML
Improved Algorithm on Online Clustering of Bandits
The Chinese University of Hong Kong（香港中文大学）；Microsoft（微软）；University of Cambridge（剑桥大学）
我们通过允许用户频率的非均匀分布来概括土匪在线聚类的设置。提出了一种更有效的算法，用简单的集合结构来表示簇。我们证明了新算法的遗憾界，它是免费的最小频率超过用户。在合成数据集和真实数据集上的实验结果表明，新算法优于现有的方法。
2019-07-02 cs.LG stat.ML
Evaluation Metrics for Unsupervised Learning Algorithms
Universidad de Granada（格拉纳达大学）
在无监督机器学习中，确定通过聚类技术获得的结果的质量是一个关键问题。许多作者讨论了良好的聚类算法的理想特性。然而，Jon Kleinberg建立了聚类的不可能性定理。因此，大量的研究已经提出了技术来评估聚类结果的质量取决于聚类问题的特性和聚类数据所采用的算法技术。
2019-05-23 cs.LG stat.ML
Hybridized Threshold Clustering for Massive Data
Kansas State University（堪萨斯州立大学）；University of California, Berkeley（加州大学伯克利分校）
随着数据集的大小$n$变得巨大，许多常用的聚类算法（例如，$k$均值或层次凝聚聚类（HAC））需要过高的计算成本和存储器。在本文中，我们提出了一个解决这些聚类问题的阈值聚类（TC）的实例选择问题。TC是最近发展起来的一种聚类算法，它可以在线性时间内（平均）将数据划分为许多小的簇。我们提出的聚类方法如下。首先，执行TC，并将聚类简化为单个“原型”点。然后，TC反复应用于这些原型点，直到获得足够的数据减少。最后，将更复杂的聚类算法应用于减少的原型点，从而获得对所有$n$数据点的聚类。这整个聚类过程称为迭代杂交阈值聚类（IHTC）。通过模拟结果和应用我们的方法在几个真实的数据集上，我们表明，IHTC结合$k$ -手段或HAC大大减少了运行时间和内存使用的原始聚类算法，同时仍然保持其性能。此外，IHTC有助于防止奇异数据点被聚类算法过度拟合。
2019-07-05 cs.LG stat.ML
An Investigation on Support Vector Clustering for Big Data in Quantum Paradigm
Amity University Uttar Pradesh（阿密提 Uttar Pradesh 大学）；Coventry University（考文垂大学）
支持向量聚类算法是基于使用高斯或多项式核的支持向量机的公知聚类算法。经典的支持向量聚类算法在一般情况下工作良好，但其性能下降时，应用于大数据。在本文中，我们已经研究了支持向量聚类算法的性能实现在一个量子范例可能的运行时的改进。我们已经开发和分析了量子版本的支持向量聚类算法。所提出的方法基于量子支持向量机和量子核（即，高斯和多项式）。所提出的量子版本的SVM聚类方法表现出显着的加速增益的整体运行时的复杂性相比，经典的。
2020-02-02 cs.LG stat.ML
Improved Analysis of Spectral Algorithm for Clustering
Shizuoka University（静冈大学）
谱算法是通过使用谱嵌入映射将图的节点集划分为组的图划分算法。基于该算法的聚类技术被称为谱聚类，并广泛应用于数据分析。为了更好地理解为什么谱聚类是成功的，Peng et al.（2015）和Kolev and Mehlhorn（2016）研究了一类图的某种类型的谱算法的行为，称为良好聚类图。具体地说，他们对图进行了假设，并给出了在此假设下谱算法的性能保证，他们研究的算法使用了Shi和Malic（2000）提出的谱嵌入图。在本文中，我们改进了他们的结果，在较弱的假设下给出了更好的性能保证。我们还评估了谱算法的性能与Ng等人（2001）开发的谱嵌入图。
2020-09-07 cs.LG stat.ML
Branching embedding: A heuristic dimensionality reduction algorithm based on hierarchical clustering
University of Toyama（富山大学）；Institute of Natural Medicine, University of Toyama, Japan（富山大学自然医学研究所）
本文提出了一种新的降维算法-分支嵌入（BE）。它将树状图转换为二维散点图，并可视化原始高维数据的固有结构。由于转换部分在计算上要求不高，因此BE算法对于已经执行了分层聚类的情况将是有益的。数值实验表明，该算法的输出适度地保持了原有的层次结构。
2018-05-06 cs.LG stat.ML
A self-adaptive and robust fission clustering algorithm via heat diffusion and maximal turning angle
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Nanjing University of Science and Technology（南京理工大学）
聚类分析是对相似的元素进行分组和分类的方法，广泛应用于各个研究领域。裂变聚类算法是近年来提出的一种新的快速聚类算法。本文提出了一种鲁棒的裂变聚类算法（RFC）和一种自适应噪声识别方法。将RFC与自适应噪声辨识方法相结合，提出了一种自适应鲁棒裂变聚类（SARFC）算法。几个常用的数据集被用来测试所提出的聚类方法的性能，并与其他算法的结果进行比较。综合比较表明，该方法具有优于其他常用方法。
2021-02-07 cs.CV cs.LG stat.ML
An efficient density-based clustering algorithm using reverse nearest neighbour
University of Hertfordshire（赫特福德大学）；University of Essex（埃塞克斯大学）
基于密度的聚类是发现实体（集群）的高密度区域的任务，这些区域被连续的低密度区域彼此分开。DBSCAN可以说是最流行的基于密度的聚类算法。但是，其群集恢复能力取决于这两个参数的组合。在本文中，我们提出了一种新的基于密度的聚类算法，它使用反向最近邻（RNN），并有一个单一的参数。我们还表明，它是可能的估计一个很好的值，这个参数使用聚类有效性指数。RNN查询使我们的算法能够考虑多个实体来估计密度，并恢复分离不佳或密度不同的集群。我们在合成数据集和真实数据集上的实验表明，我们提出的算法优于DBSCAN及其最近的变体ISDBSCAN。
2018-11-19 cs.LG stat.ML
SPINEX-Clustering: Similarity-based Predictions with Explainable Neighbors Exploration for Clustering Problems
Clemson University（克莱姆森大学）；University of Manitoba（曼尼托巴大学）
本研究提出新型聚类算法SPINEX-Clustering，利用子空间高阶交互实现聚类，经51个多类型数据集基准测试，性能跻身前5且复杂度适中，兼具可解释性。
2024-07-09 cs.LG stat.ML
Data Clustering and Graph Partitioning via Simulated Mixing
University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）
谱聚类方法已经导致在给定数据集中找到准确聚类的公认算法。然而，其应用到大规模的数据集一直受到计算复杂性的特征值分解。最近已经提出了几种算法来加速谱聚类，然而它们在谱聚类的准确性上妥协以实现更快的速度。在本文中，我们提出了一种新的谱聚类算法的基础上混合过程的图。不同于现有的谱聚类算法，我们的算法不需要计算特征向量。具体地说，它找到了与相应的特征值加权的归一化相似性矩阵的特征向量的线性组合的等价物。然后使用该线性组合将数据集划分为有意义的聚类。在真实数据集上的仿真表明，随着聚类数的增加，基于这种特征向量线性组合的数据集划分方法比标准谱聚类方法具有更好的准确性。我们的算法可以很容易地在分布式环境中实现。
2016-03-15 cs.LG stat.ML
Clustering Mixtures of Discrete Distributions: A Note on Mitra's Algorithm
Princeton University（普林斯顿大学）
本文改进了Mitra算法在离散混合分布分类中的分析，通过将其调整为二部随机块模型，获得了比原算法更精细的分离条件。
2024-05-29 cs.LG stat.ML
Hybrid Fuzzy-Crisp Clustering Algorithm: Theory and Experiments
University Brunei Darussalam（文莱达鲁萨兰大学）
传统的模糊c-均值聚类方法由于隶属度函数严格为正，当聚类规模相差很大时，有时会产生不平衡的影响。也就是说，一个非常大的星系团会把所有其他星系团拖到它的中心，不管它们相距多远。为了解决这个问题，我们提出了一种混合模糊-清晰聚类算法的目标函数的基础上结合线性和二次项的隶属函数。在该算法中，如果数据点距离聚类中心“非常远”，则该数据点对聚类的成员资格自动设置为零。在本文中，我们提出了一种新的算法混合模糊清晰聚类及其几何解释。该算法进行了测试20模拟数据生成和五个真实世界的数据集从UCI存储库，并与传统的模糊和清晰的聚类方法进行比较。该算法在不平衡数据集上的性能优于传统方法，在更平衡的数据集上具有竞争力。
2023-03-25 cs.LG stat.ML
Adaptive Evolutionary Clustering
University of Michigan（密歇根大学）；Omek Interactive
在聚类的许多实际应用中，待聚类的对象随着时间的推移而演变，并且在每个时间步都期望聚类结果。在这些应用中，进化聚类通常优于传统的静态聚类，因为它产生的聚类结果反映了长期趋势，同时对短期变化具有鲁棒性。最近已经提出了几种进化聚类算法，通常通过在静态聚类方法的成本函数中添加时间平滑惩罚来实现。在本文中，我们介绍了一种不同的方法来进化聚类，通过准确地跟踪对象之间随时间变化的接近度，然后进行静态聚类。我们提出了一个进化聚类框架，自适应估计最佳平滑参数使用收缩估计，统计方法，提高了天真的估计使用额外的信息。所提出的框架可以用来扩展各种静态聚类算法，包括层次，k-means，谱聚类，进化聚类算法。在合成数据集和真实数据集上的实验表明，该框架在许多情况下优于静态聚类和现有的进化聚类算法。
2013-02-19 cs.LG stat.ML
Global Optimal Path-Based Clustering Algorithm
Nanyang Technological University（南洋理工大学）；Zhengzhou University（郑州大学）；Lanzhou University（兰州大学）
聚类的组合优化问题是NP难问题。大多数优化方法不能为所有数据集找到全局最优解。为了解决这个问题，本文提出了一种基于全局最优路径的聚类算法（GOPC）。GOPC算法基于两个事实：（1）中心点在其簇中具有最小度;（2）一个簇中两个对象之间的minimax距离小于不同簇中对象之间的minimax距离。在合成数据集和真实数据集上进行了大量实验，以评估GOPC算法的性能。在人工数据集上的实验结果表明，GOPC算法可以识别所有类型的聚类，而不管它们的形状、大小和密度如何。在真实数据集上的实验结果证明了GOPC算法的有效性和效率。此外，GOPC算法仅需要一个参数，即，聚类的数量，可以通过决策图来估计。GOPC算法的上述优点使其成为一种很好的通用聚类算法。代码可在https://github.com/Qidong-Liu/Clustering上获得。
2019-09-17 cs.LG stat.ML
AuToMATo: An Out-Of-The-Box Persistence-Based Clustering Algorithm
Department of Computational Linguistics University of Zürich（苏黎世大学计算语言学系）；Department of Mathematics Pennsylvania State University（宾夕法尼亚州立大学数学系）；Department of Mathematics and Computer Science University of Basel（巴塞尔大学数学与计算机科学系）；Department of Computer Science ETH Zürich（苏黎世联邦理工学院计算机科学系）
AuToMATo是一种基于持久性的聚类算法，通过默认参数设置实现即开式操作，结合自助法分离密度峰，并在多个基准测试中表现优异。
2025-10-07 cs.LG stat.ML
Improvement of K Mean Clustering Algorithm Based on Density
Harbin Institute of Technology（哈尔滨工业大学）；Beihang University（北京航空航天大学）；Jilin University（吉林大学）
本文的目的是对传统的K-means算法进行改进。在传统的K均值聚类算法中，初始聚类中心是在数据集中随机产生的。当初始聚类中心是随机产生的时，容易陷入局部极小解。基于密度的K均值聚类算法选择的初始聚类中心更具代表性。实验结果表明，改进的K聚类算法消除了对初始聚类的依赖，提高了聚类的准确率。
2018-10-09 cs.LG
Feature Embedding Clustering using POCS-based Clustering Algorithm
Myongji University（明知大学）
本研究将基于POCS的新型聚类算法应用于特征嵌入问题，通过将数据点视为凸集、并行投影更新原型来优化聚类，在合成嵌入数据集上表现优于经典聚类算法。
2023-03-25 cs.LG
Grapevine: A Wine Prediction Algorithm Using Multi-dimensional Clustering Methods
Stanford University（斯坦福大学）
我们提出了一种方法，采用多维聚类和无监督学习方法的葡萄酒推荐系统。我们的算法首先对一个大型的葡萄酒评论语料库进行聚类。然后，它使用产生的葡萄酒集群作为最常见口味的近似值，通过优化用户偏好的集群内的价格质量比来向用户推荐葡萄酒。
2018-06-29 cs.IR cs.LG stat.ML
KCoreMotif: An Efficient Graph Clustering Algorithm for Large Networks by Exploiting k-core Decomposition and Motifs
China University of Geosciences (Beijing)（中国地质大学（北京））；University of Naples Federico II（那不勒斯费德里科二世大学）
聚类分析在无线传感器网络、在线社交网络等复杂网络的信任评估中得到了广泛的应用。谱聚类是图结构数据（网络）最常用的算法之一。然而，传统的谱聚类本质上是难以与大规模的网络，由于它需要计算昂贵的矩阵操作的事实。为了处理大型网络，在本文中，我们提出了一个有效的图聚类算法，KCoreMotif，专门针对大型网络，利用k-核心分解和图案。所提出的聚类算法背后的基本思想是在k-核心子图上执行高效的基于模体的谱聚类算法，而不是在整个图上。更具体地说，（1）我们首先对大输入网络进行k-核心分解;（2）然后对顶部k-核心子图进行基于模体的谱聚类;（3）将其余（k-1）-核心子图中的剩余顶点分组到先前找到的聚类中;最后获得大输入网络的期望聚类。为了评估所提出的图聚类算法KCoreMotif的性能，我们使用传统的和基于模体的谱聚类算法作为基线，并比较我们的算法与他们的18组真实世界的数据集。比较结果表明，该算法对大型网络具有较高的准确性和有效性，可进一步用于评估大型网络的簇内和簇间信任度。
2020-08-21 cs.LG cs.SI stat.ML
POCS-based Clustering Algorithm
Myongji University（明知大学）；University of Texas Medical Branch（德克萨斯大学医学分部）；Sejong University（世宗大学）；OCST Co., Ltd.（OCST有限公司）；HCMC University of Technology and Education（胡志明市工业大学）
提出了一种基于凸集投影（POCS）的聚类算法。基于POCS的聚类算法利用POCS的并行投影方法在特征空间中找到合适的聚类原型。该算法将每个数据点视为一个凸集，并将聚类原型映射到成员数据点上。投影凸组合，以最小化数据聚类的目的的目标函数。通过在各种合成数据集上的实验，验证了所提出的基于POCS的聚类算法的性能。实验结果表明，与传统的模糊C均值（FCM）聚类算法和K均值聚类算法相比，该算法在聚类误差和执行速度方面具有较强的竞争力和较高的效率.
2023-03-23 cs.LG
Ensemble Clustering for Graphs
Tutte Institute for Mathematics and Computing（塔特数学与计算研究所）
提出了一种基于Louvain算法和一致性聚类概念的集成图聚类算法。我们通过复制最近发表的一项研究来验证我们的方法，该研究比较了人工网络上的图聚类算法，表明ECG优于该研究中的领先算法。我们还说明了如何与ECG获得的合奏可以用来量化社区结构的存在图。
2018-09-14 cs.LG cs.SI stat.ML
Comparison and Benchmark of Graph Clustering Algorithms
Florida State University（佛罗里达州立大学）
图聚类被广泛应用于生物网络、社交网络等的分析中。十多年来，许多图聚类算法被发表，但没有一个全面和一致的性能比较。在本文中，我们对70多个图聚类程序进行了基准测试，以评估它们在加权和非加权图上的运行时间和质量性能。我们还分析了影响性能的地面实况的特征。我们的工作不仅能够为工程师选择聚类算法提供一个起点，也可以为研究人员设计新的算法提供一个观点。
2020-05-10 cs.IR cs.LG cs.SI
A Short Survey on Data Clustering Algorithms
City University of Hong Kong（香港城市大学）
随着数据的快速增长，聚类算法是现代研究中数据分析的重要工具。它们已经成功地应用于广泛的领域;例如，生物信息学、语音识别和金融分析。从形式上讲，给定一组数据实例，聚类算法预期将数据实例集划分为最大化子集内相似性和子集间相异性的子集，其中预先定义相似性度量。在这项工作中，国家的最先进的聚类算法从设计概念到方法进行了审查，不同的聚类范式进行了讨论。先进的聚类算法进行了讨论。在此基础上，对现有的聚类评价指标进行了综述。最后提供了一个总结和未来的见解。
2015-11-25 cs.CV cs.DS cs.LG
Clustering dynamics on graphs: from spectral clustering to mean shift through Fokker-Planck interpolation
在这项工作中，我们建立了一个统一的框架，密度驱动和基于几何的数据聚类算法之间的插值，具体来说，连接的均值漂移算法与谱聚类在离散和连续水平。我们通过引入数据图上的福克-普朗克方程来寻求这种联系。除了引入新形式的均值漂移算法的图形，我们提供了新的理论见解的行为的家庭的扩散地图在大样本限制，以及提供新的连接之间的扩散地图和均值漂移动态固定图。几个数值例子说明了我们的理论研究结果，并强调插值密度驱动和基于几何的聚类算法的好处。
2021-10-20 cs.LG math.AP stat.ML
Automatic selection of clustering algorithms using supervised graph embedding
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
机器学习（ML）技术的广泛采用以及应用它们所需的广泛专业知识，导致人们对自动化ML解决方案的兴趣增加，这些解决方案减少了对人工干预的需求。将ML应用于以前看不见的问题的主要挑战之一是算法选择-为给定的数据集，任务和评估措施识别高性能算法。本研究解决了算法选择的挑战，数据聚类，在数据采掘，旨在分组相似的对象的基本任务。我们提出了MARCO-GE，一种新的元学习方法的聚类算法的自动推荐。MARCO-GE首先将数据集转换为图形，然后利用图形卷积神经网络技术来提取其潜在表示。使用所获得的嵌入表示，MARCO-GE训练了一个排名元模型，该模型能够为新数据集和聚类评估措施准确地推荐性能最佳的算法。对210个数据集，13个聚类算法和10个聚类度量的广泛评估表明了我们的方法的有效性及其在预测和泛化性能方面优于最先进的聚类元学习方法。
2021-09-13 cs.IR cs.LG stat.ML
Comparison three methods of clustering: k-means, spectral clustering and hierarchical clustering
对三种聚类方法进行了比较，并求出了代价函数和损失函数，并进行了计算。聚类方法的出错率以及如何计算出错率一直是评价聚类方法优劣的重要因素之一，因此本文介绍了一种计算聚类方法出错率的方法。聚类算法可以分为几类，包括分区聚类算法，分层算法和基于密度的算法。一般来说，我们应该比较聚类算法的可扩展性，工作能力与不同的属性，集群形成的常规，具有最小的知识的计算机识别的输入参数，类处理噪声和额外的沉积，同样的出错率聚类一个新的数据，从而，有没有影响的输入数据，不同的维度的高水平，K-means是一种最简单的聚类方法，聚类是一个无监督的问题。
2014-11-13 cs.LG
Normalization based K means Clustering Algorithm
Bhagwan Parshuram Institute of Technology（帕舒拉姆理工学院）
K-means是一种有效的聚类技术，用于根据聚类的初始质心将相似的数据分成组。本文提出了一种基于归一化的K-means聚类算法（N-K means）。提出的N-K均值聚类算法在聚类之前对可用数据进行归一化，并且所提出的方法基于权重计算初始质心。实验结果表明，提出的N-K均值聚类算法在复杂度和整体性能方面优于现有的K-means聚类算法。
2015-03-03 cs.DB cs.LG
Fair Clustering Using Antidote Data
MPI-SWS（马克斯·普朗克软件系统研究所）；University of California, Davis（加利福尼亚大学戴维斯分校）
聚类算法被广泛用于许多现代数据科学应用。这促使需要使聚类算法的输出公平。传统上，聚类算法的新的公平算法变体是针对公平性的特定概念而开发的。然而，根据应用程序的上下文，可能需要采用不同的公平定义。因此，需要提出新的算法和分析的每一个组合的聚类算法和公平性定义。此外，每个新算法都需要重新实现，以便在现实世界的系统中部署。因此，我们提出了另一种方法，以组级公平性的启发，基于中心的聚类研究数据投毒攻击。我们试图用少量的数据点来增强原始数据集，称为解毒剂数据。当在这个新数据集上进行聚类时，对于所选择的聚类算法和公平性定义，输出是公平的。我们制定了一个一般的双层优化问题，可以容纳任何基于中心的聚类算法和公平的概念。然后，我们分类的方法来解决两个不同的问题设置这种双层优化。对不同聚类算法和公平性概念的广泛实验表明，我们的算法可以在许多真实世界的数据集上实现所需的公平性水平，只需添加很小比例的解毒剂数据。我们还发现，我们的算法实现较低的公平成本和竞争力的聚类性能相比，其他国家的最先进的公平聚类算法。
2021-10-22 cs.LG
Review: Metaheuristic Search-Based Fuzzy Clustering Algorithms
Imam Abdulrahman Bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·费萨尔大学）
模糊聚类是一种著名的无监督学习方法，用于根据相似性度量在类内收集相似的数据元素。但是，聚类算法也存在一些缺点。其中的主要弱点包括，选择初始的聚类中心和适当的聚类数通常是未知的。这些弱点被认为是聚类算法中最具挑战性的任务。本文介绍了一个全面的审查元启发式搜索解决模糊聚类算法的问题。
2018-01-21 cs.LG cs.NE
Transfer Prototype-based Fuzzy Clustering
Jiangnan University（江南大学）；Hong Kong Polytechnic University（香港理工大学）；Osaka Prefecture University（大阪府立大学）
传统的基于原型的聚类方法，如著名的模糊c均值（FCM）算法，通常需要足够的数据来找到一个好的聚类划分。如果可用的数据是有限的或稀缺的，大多数现有的基于原型的聚类算法将不再有效。虽然当前聚类任务的数据可能很少，但在相关场景/领域中通常存在一些有用的知识。在这项研究中，迁移学习的概念被应用到基于原型的模糊聚类（PFC）。具体而言，利用知识的想法，从源域开发一套基于转移原型的模糊聚类（TPFC）算法。三个原型的模糊聚类算法，即FCM，模糊k-平面聚类（FKPC）和模糊子空间聚类（FSC），已被选定为结合知识杠杆机制，开发相应的转移聚类算法。提出了一种新的目标函数，将源域的知识与目标域的数据相结合，在目标域进行聚类。所提出的算法已在不同的合成和真实世界的数据集上进行了验证，结果表明，与原始原型的模糊聚类算法和相关的聚类算法，如多任务聚类和联合聚类相比，它们的有效性。
2016-04-05 cs.LG
Local algorithms for interactive clustering
Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）；Google（谷歌）
我们研究了满足自然稳定性假设的交互式聚类算法的设计。我们的算法从任何初始聚类开始，在每一步中只进行局部更改;这两个功能在许多应用中都是理想的。我们表明，在这种约束设置仍然可以设计可证明有效的算法，产生准确的聚类。我们还表明，我们的算法在现实世界的数据上表现良好。
2015-03-19 cs.DS cs.LG
PageRank and The K-Means Clustering Algorithm
KLA Corporation（KLA公司）；Mount Mercy University（芒特梅西大学）
我们利用PageRank向量将$k$ -均值聚类算法推广到有向图和无向图。我们证明了PageRank和其他中心性度量可以在我们的设置中使用，以鲁棒地计算给定图中节点的中心性。此外，我们展示了如何将我们的方法推广到度量空间，并将其应用于其他领域，如点云和三角网格
2021-03-09 cs.LG cs.SI stat.ML
A hybrid clustering algorithm for data mining
School of Computer Science & IT, Devi Ahilya Vishwavidyalaya（Devi Ahilya Vishwavidyalaya计算机科学与信息技术学院）
数据聚类是将相似数据分组的过程。聚类算法将数据集划分为几个组，使得组内的相似性优于组间的相似性。提出了一种基于K-均值和K-调和均值的混合聚类算法。该算法在五个不同的数据集上进行了测试。研究的重点是快速和准确的聚类。并与传统的K-means & KHM算法进行了性能比较。混合算法的计算结果明显优于传统的K-mean & KHM算法。
2012-05-24 cs.DB cs.LG
AMOS: An Automated Model Order Selection Algorithm for Spectral Graph Clustering
University of Michigan（密歇根大学）
谱图聚类（SGC）中的一个长期存在的问题是所谓的模型阶数选择问题：自动选择正确数量的聚类。这相当于在无向图中找到连通组件或社区的数量的问题。在本文中，我们提出了AMOS，自动模型阶选择算法的SGC。基于最近对随机互连模型下的SGC聚类可靠性的分析，AMOS通过逐步增加聚类的数量，估计所识别的聚类的质量，并提供一系列聚类可靠性测试来工作。因此，AMOS输出具有统计聚类可靠性保证的最小模型阶数的聚类。与其他三种真实数据集上的自动图聚类方法相比，AMOS在多个外部和内部聚类指标方面表现出优越的性能。
2016-09-21 cs.LG cs.SI stat.ML
Clustering of Nonnegative Data and an Application to Matrix Completion
University of California, Los Angeles（加州大学洛杉矶分校）
在本文中，我们提出了一个简单的算法聚类非负数据躺在不相交的子空间。我们分析其性能的关系，一定程度的相关性，所述子空间。我们使用我们的聚类算法开发一个矩阵完成算法，它可以优于标准的矩阵完成算法的数据矩阵满足一定的自然条件。
2020-09-02 cs.LG eess.SP stat.ML
Multiscale Clustering of Hyperspectral Images Through Spectral-Spatial Diffusion Geometry
Tufts University（塔夫茨大学）
聚类算法将数据集划分为相似点的组。本文的主要贡献是多尺度空间正则化扩散学习（M-SRDL）聚类算法，该算法使用空间正则化扩散距离来高效准确地学习高光谱图像中潜在结构的多个尺度。M-SRDL聚类算法从高光谱图像中提取多个尺度的聚类，并输出这些聚类的信息重心变化作为所有潜在聚类结构的样本。我们表明，将空间正则化到一个多尺度聚类框架的结果更平滑，更连贯的集群时，应用于高光谱数据，产生更准确的聚类标签。
2022-04-07 cs.CV cs.LG stat.ML
Parallel D2-Clustering: Large-Scale Clustering of Discrete Distributions
The Pennsylvania State University（宾夕法尼亚州立大学）
离散分布聚类算法，即D2-聚类，已经证明了它在图像分类和注释中的有用性，其中每个对象由一袋加权向量表示。然而，该算法的高计算复杂性限制了其在大规模问题中的应用。我们提出了一个并行的D2聚类算法，大大提高了可扩展性。设计了一种分层结构的并行计算，以实现单个节点的计算和算法的集成过程之间的平衡。此外，它表明，即使是一个单一的CPU，层次结构的结果显着的速度。在真实世界的大规模图像数据、Youtube视频数据和蛋白质序列数据上的实验证明了并行D2聚类算法的有效性和广泛的适用性。与原始的顺序算法相比，聚类精度的损失较小。
2013-02-06 cs.CV cs.LG
Introduction to Clustering Algorithms and Applications
数据聚类是基于某种相似性度量在多维数据中识别自然分组或聚类的过程。聚类是许多不同学科的基本过程。因此，来自不同领域的研究人员正在积极研究聚类问题。本文概述了不同的代表性聚类方法。此外，还简要介绍了聚类分析在不同领域中的应用.
2014-08-25 cs.CV cs.LG
Approximation Algorithms for Bregman Co-clustering and Tensor Clustering
MPI for Biological Cybernetics（马克斯·普朗克生物控制论研究所）；Univ. of Minnesota（明尼苏达大学）
在过去的几年中，已经对欧几里德k均值问题进行了强有力的推广，例如Bregman聚类[7]，共聚类（即，输入矩阵的行和列的同时聚类）[9，18]和张量聚类[8，34]。与k均值算法一样，这些更一般的问题也受到相关优化的NP难度的影响。研究人员已经开发了各种复杂程度的近似算法，用于k均值、k中位数，最近还用于Bregman聚类[2]。然而，似乎没有近似算法布雷格曼共和张量聚类。在本文中，我们得出的第一个（据我们所知）保证这些日益重要的聚类设置的方法。超越Bregman分歧，我们还证明了张量聚类与任意可分离度量的近似因子。通过大量的实验，我们评估我们的方法的特点，并表明它也有实际的影响。
2009-11-09 cs.DS cs.LG
A Novel Clustering Algorithm Based on Quantum Random Walk
College of Electrical Engineering, Zhejiang University（浙江大学电气工程学院）
在过去的十年里，量子算法取得了巨大的成功。本文将量子随机游走与数据聚类问题相结合，提出了两种基于一维量子随机游走的数据聚类算法。然后，研究了这些算法中由QRW引起的位置的概率分布，这也表明了获得更好结果的可能性。实验结果表明，该算法能够合理有效地对数据点进行聚类，并且具有较快的收敛速度。此外，与其他算法的比较也提供了所提出的方法的有效性的指示。
2008-12-07 cs.LG
Hybrid Ant Swarm-Based Data Clustering
South Dakota School of Mines and Technology（南达科他矿业理工学院）
生物启发的计算技术在包括数据聚类在内的许多研究领域都非常有效和有用。蚁群聚类算法是一种受自然启发的聚类技术，已经被广泛研究了二十多年。在这项研究中，我们扩展了蚂蚁聚类算法（ACA）的混合蚂蚁聚类算法（hACA）。具体来说，我们包括一个遗传算法在标准ACA扩展的混合算法，以获得更好的性能。我们还引入了新的拾取和丢弃规则，以加快聚类性能。我们研究了hACA算法的性能，并与标准ACA作为基准进行比较。
2021-07-11 cs.LG cs.NE
A parallel sampling based clustering
GITAM University（吉塔姆大学）；CSIR-National Geophysical Research Institute（印度科学与工业研究理事会-国家地球物理研究所）
自动聚类数据的问题是一个古老的问题。人们已经创建了许多算法来解决这个问题。该算法的执行时间随着输入点的数量和所需的聚类中心的数量而增长。为了减少输入点的数量，我们可以对点进行局部平均，并使用均值或局部中心作为聚类的输入。然而，由于所需的局部中心的数量非常高，在整个数据集上运行聚类算法以获得这些代表点是非常耗时的。为了解决这个问题，在本文中，我们提出了两个子聚类方案，我们将数据集细分为较小的集合，并在较小的数据集上运行聚类算法，以获得运行聚类算法所需的数据点数量。当我们对给定的数据集进行细分时，我们可以并行地对数据集的每个较小的部分运行聚类算法。我们发现，并行和串行执行的这种方法要快得多，比原来的聚类算法和错误运行的聚类算法上的减少集是非常少的。
2014-12-05 cs.LG
A Modular Spatial Clustering Algorithm with Noise Specification
PES University（PES大学）
本文提出受细菌生长启发的模块化聚类算法 Bacteria-Farm，在保持聚类性能的同时降低参数寻优难度，并支持显式指定聚类中需排除的噪声量。
2023-09-18 cs.DB cs.LG
Fairness Degrading Adversarial Attacks Against Clustering Algorithms
MPI-SWS（马克斯·普朗克软件系统研究所）；University of California, Davis（加利福尼亚大学戴维斯分校）
聚类算法在现代数据科学管道中无处不在，并被用于从生物学到设施定位的众多领域。由于它们的广泛使用，特别是在社会资源分配问题，最近的研究旨在使聚类算法公平，取得了巨大的成功。此外，还表明聚类算法与其他机器学习算法非常相似，易受对抗攻击的影响，其中恶意实体试图破坏学习算法的性能。然而，尽管存在这些已知的漏洞，但还没有研究调查聚类的公平性降级对抗攻击。我们试图通过制定一个广义的攻击优化问题，旨在恶化基于质心的聚类算法的组级公平性，以弥补这一差距。作为第一步，我们提出了一个公平性降低攻击算法的k-中值聚类，白盒威胁模型下运行-其中的聚类算法，公平性的概念，和输入数据集是已知的对手。我们为我们的简单攻击算法提供了经验结果和理论分析，并发现添加生成的对抗样本会导致公平值显着降低。通过这种方式，我们的目标是激励公平性降低对抗攻击，作为未来公平聚类研究的方向。
2021-10-22 cs.CY cs.LG
Fair Correlation Clustering
Google Research（谷歌研究院）
本文研究了公平性约束下的相关聚类问题。最近已经研究了$k$ -中值和$k$ -中心聚类的公平变体，并且已经提出了使用称为公平分解的概念的近似算法。在几种重要的公平性约束条件下，我们得到了公平相关聚类的近似算法。我们的研究结果取决于通过引入一个新的组合优化问题获得相关聚类的Fairlet分解。我们定义了一个公平分解的成本类似的$k$ -中值成本，这使我们能够获得广泛的公平性约束的近似算法。我们补充我们的理论结果与我们的算法在真实的图上的深入分析，我们表明，公平的解决方案，相关聚类可以获得有限的成本增加相比，国家的最先进的（不公平的）算法。
2020-03-02 cs.AI cs.DS cs.LG
A Hybrid Algorithm Based Robust Big Data Clustering for Solving Unhealthy Initialization, Dynamic Centroid Selection and Empty clustering Problems with Analysis
World University of Bangladesh (WUB)（孟加拉世界大学）
大数据是大量的结构化和非结构化数据，这些数据太大，而且很难使用传统技术进行处理。聚类算法已经发展成为一种强大的学习工具，可以准确地分析现代应用程序产生的数据量。数据采掘中的聚类是根据对象的特征对特定对象集进行分组。聚类的主要目的是根据相似性和特征将数据分类到簇中，使得对象在对应时被分组到相同的簇中。到目前为止，K-MEANS是在大范围的区域中连接的最佳利用的计算，以识别聚类分离比聚集分离之间的分离大的聚集。我们开发的算法与K-MEANS一起工作，在大数据聚类过程中进行高质量的聚类。我们提出的算法EG K-MEANS：扩展生成K-MEANS主要解决了K-MEANS的三个问题：不健康的初始化、动态重心选择和空聚类。它保证了防止不健康的初始化，动态质心选择和空聚类问题的最佳方法，以获得高质量的聚类。
2020-02-21 cs.AI cs.LG
A Tutorial on Spectral Clustering
Max Planck Institute for Biological Cybernetics（马克斯·普朗克生物控制论研究所）
近年来，谱聚类算法已成为最流行的现代聚类算法之一。它易于实现，可以通过标准线性代数软件有效地求解，并且通常优于传统的聚类算法，如k-means算法。乍一看，谱聚类似乎有点神秘，并且不清楚它为什么工作以及它真正做了什么。本教程的目标是对这些问题给出一些直观的认识。我们描述了不同的图拉普拉斯算子和它们的基本性质，提出了最常见的谱聚类算法，并从零开始通过几种不同的方法推导出这些算法。讨论了不同谱聚类算法的优缺点。
2007-11-01 cs.DS cs.LG
Balanced k-Means and Min-Cut Clustering
The University of Queensland（昆士兰大学）；University of Texas（德克萨斯大学）；Carnegie Mellon University（卡内基梅隆大学）
聚类是数据采掘中生成感兴趣的组的有效技术。在各种聚类方法中，k-means算法和min-cut算法家族由于其简单性和有效性而获得最受欢迎。经典的k-means算法通过迭代地更新聚类中心和相关的数据点，将多个数据点划分为多个子集。相比之下，一个加权无向图的最小割算法，划分成两个集的图的顶点构造。然而，现有的聚类算法倾向于将少数数据点聚类到一个子集中，当目标数据集是平衡的时，应避免这种情况。为了实现对平衡数据集的更准确的聚类，我们提出利用k-means和min-cut上的排他性lasso来调节聚类结果的平衡程度。通过优化建立在专属套索之上的目标函数，我们可以使聚类结果尽可能平衡。在几个大规模数据集上的实验验证了所提算法相对于现有聚类算法的优越性。
2014-11-23 cs.LG
