A Uniqueness Theorem for Clustering
尽管聚类被广泛使用，但令人沮丧的是，几乎没有通用的聚类理论。像“数据聚类与其他数据分区有什么区别？“，“有没有什么原则支配所有的集群范例？用户应该如何为特定的任务选择合适的聚类算法？等，几乎完全没有回答现有的机构集群的文献。我们认为一个公理化的方法聚类理论。我们采用Kleinberg [Kle03]的框架。通过放松Kleinberg的聚类公理之一，我们避开了他的不可能性结果，得到了一组一致的公理。我们建议扩展这些公理，旨在提供一个公理化的聚类范式分类。这样的分类应该为用户提供一些关于为给定任务选择适当的聚类范式的指导。本文的主要结果是一组抽象的性质，特点的单链聚类功能。该表征结果提供了对所需数据分组的特性的新见解，这些数据分组使单链接成为适当的选择。最后，我们考虑一个分类的聚类功能的基础上，每个满足的抽象属性。
2012-05-09 cs.LG
Wide Gaps and Clustering Axioms
Institute of Computer Science（计算机科学研究所）；Polish Academy of Sciences（波兰科学院）
针对k-means违反Kleinberg一致性公理的问题，本文提出变分与残差k-可分性两种可聚类性条件，证明在此条件下k-means满足一致性，并通过算法扩展近似满足丰富性公理，从而调和二者关系。
2023-08-07 cs.AI cs.LG
Generalized Categorization Axioms
Beijing Jiaotong University（北京交通大学）
分类公理已经被提出来公理化聚类结果，这通过直观的观察提供了一种弥合人类识别系统和机器学习之间差异的暗示：对象应该被分配到其最相似的类别。然而，分类公理不能推广到一般的机器学习系统，因为当类别的数量变为1时，分类公理变得微不足道。为了将范畴化公理推广到更一般的情况，范畴化输入和范畴化输出被重新解释为内范畴和外范畴表征。根据范畴化的重新解释，给出了两个范畴表示公理。范畴表示公理和范畴化公理可以结合成一个广义的范畴化公理框架，它准确地界定了理论范畴化约束，克服了范畴化公理的不足。该公理化框架不仅讨论了分类测试问题，而且以统一的方式重新解释了机器学习中的许多结果，如降维、密度估计、回归、聚类和分类。
2016-01-15 cs.LG
Hierarchical Clustering Can Jointly Satisfy Richness, Consistency, and Scale Invariance
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）；Université Gustave Eiffel（古斯塔夫·埃菲尔大学）
本文证明层次聚类可同时满足尺度不变性、丰富性和一致性公理，构造了多种可容许方法，并揭示了其偏序结构中的多样性与共同主干。
2026-09-11 cs.LG stat.ME stat.ML
Proportionally Representative Clustering
UNSW Sydney（新南威尔士大学悉尼分校）；ETH Zürich（苏黎世联邦理工学院）；Northwestern University（西北大学）
聚焦无监督机器学习的质心聚类，提出‘比例代表性公平’公理，现有算法不满足该公理，设计高效算法在无约束和离散聚类问题中实现此公理，无约束算法是首个多项式时间近似算法，离散算法匹配已知最佳近似因子。
2026-07-07 cs.GT cs.LG
Predicting the Score of Atomic Candidate OWL Class Axioms
Université Côte d’Azur（蔚蓝海岸大学）；Inria Sophia Antipolis（法国国家信息与自动化研究所索菲亚·安提波利斯分部）；CNRS Sophia Antipolis（法国国家科学研究中心索菲亚·安提波利斯分部）
候选公理评分是根据已知事实或数据提供的证据评估候选公理的可接受性的任务。对候选公理进行可靠评分的能力对于自动模式或本体归纳是必需的，但它对于本体和/或知识图谱验证也是有价值的。精确的公理评分算法通常在计算上是昂贵的，如果你想在迭代搜索技术中使用它们，比如逐层生成和测试或进化算法，这需要对大量的候选公理进行评分，这是一个问题。我们解决的问题，开发一个预测模型作为替代推理，预测候选类公理的可能性得分，并足够快，在这种情况下被采用。为此，我们使用的语义相似性度量从本体的包容结构。我们表明，在这项工作中提供的方法可以准确地学习候选OWL类公理的可能性分数，它可以这样做的各种OWL类公理。
2022-12-21 cs.AI cs.LG cs.LO
Admissible Hierarchical Clustering Methods and Algorithms for Asymmetric Networks
Stanford University（斯坦福大学）；Ohio State University（俄亥俄州立大学）；University of Pennsylvania（宾夕法尼亚大学）
本文的特点是遵守两个先前介绍的公理-因此，命名为容许的方法-层次聚类方法，并提出了易于处理的算法，其实现。我们利用的事实是，对于非对称网络，每一个允许的方法必须包含在互惠和非互惠聚类之间，并描述了三个家庭的中间方法。嫁接方法在由不同的容许方法生成的树状图之间交换分支。凸组合族通过树状图空间中的凸运算将容许方法组合在一起;第三，半互反族将网络中由强循环影响相关的节点聚类。算法计算的层次集群所产生的互惠和非互惠聚类，以及嫁接，凸组合，半互惠家庭使用矩阵运算的dioid代数。最后，介绍了聚类方法和算法的例子，通过他们的应用程序，以描述美国（U.S.）部门之间的相互关系的网络。经济
2016-07-21 cs.LG stat.ML
A Clustering Preserving Transformation for k-Means Algorithm Output
本文介绍了一种新的聚类保持变换的聚类集得到$k$ -均值算法。这种转换可以用于从现有的标记数据{}集生成新的标记数据{}集。基于Kleinberg公理的一致性变换具有更大的灵活性，因为簇内的数据点可以被移走，簇间的数据点可以靠得更近。
2022-07-25 cs.LG
Demystifying Information-Theoretic Clustering
Information Sciences Institute（信息科学研究所）；University of Southern California（南加州大学）；Santa Fe Institute（圣塔菲研究所）；Indiana University（印第安纳大学）
我们提出了一种新的方法，聚类数据是基于信息理论的原则，不需要参数假设。以前的尝试使用信息论来定义集群在一个无干扰的方式是基于最大化的数据和集群标签之间的互信息。我们证明，这种直觉存在一个基本的概念缺陷，导致聚类性能随着数据量的增加而恶化。相反，我们回到信息论的公理基础上定义一个有意义的聚类度量的基础上的概念下粗粒度的有限数据的一致性。
2014-02-05 cs.IT cs.LG math.IT
On the clustering of correlated random variables
Warsaw School of Computer Science（华沙计算机学院）
在这项工作中，聚类相关的随机变量的可能性进行了检查，因为它们的相互相似性，因为它们的相似性的主成分。聚类采用k-means算法和谱算法。对于光谱方法，相似性矩阵既是建立在相关水平上的关系矩阵，也是决定系数矩阵。针对4组不同的数据，分析了不同的变量差异性度量方法，并分析了初始点的差异性对k-means算法效率的影响。
2019-09-07 cs.LG stat.ML
Coarse-Refinement Dilemma: On Generalization Bounds for Data Clustering
Institute of Mathematical and Computer Sciences, University of São Paulo（圣保罗大学数学与计算机科学学院）
数据聚类（DC）问题对于机器学习（ML）领域至关重要，因为它可以有效地表示来自输入空间的数据结构相似性。从监督机器学习（SML），它依赖于统计学习理论（Statistical Learning Theory）和算法稳定性（Algorithm Stability，AS）的理论框架，DC缺乏关于通用学习保证的文献，影响了这些算法应该如何设计以及其结果的有效性的结论性评论。在这种情况下，本文引入了一个新的概念，基于多维持久同源性，分析的条件下，聚类模型是能够概括的数据。作为第一步，我们提出了一个更一般的定义DC问题，依靠拓扑空间，而不是度量的文献中通常接近。从这一点上，我们表明，DC问题提出了一个类似的困境的偏差方差之一，这是在这里被称为粗细化（CR）困境。CR的目的是澄清之间的对比：（i）高度细化的分区和聚类不稳定性（过拟合）;（ii）过粗分区和缺乏代表性（欠拟合）;因此，CR困境表明需要放松克莱因伯格的丰富性公理。实验结果被用来说明多维持久同源性支持DC模型之间的分歧的测量，导致一致性标准。
2019-11-13 cs.LG stat.ML
Locally linear representation for image clustering
Sichuan University（四川大学）
在面向图的子空间学习和聚类中，相似图的构造是关键。在相似性图中，每个顶点表示一个数据点，边权重表示两个点之间的相似性。有两种流行的方案来构造相似性图，即，基于成对距离的方案和基于线性表示的方案。现有的大部分工程只涉及上述其中一个方案，并受到一定的限制。具体地，与基于线性表示的方法相比，基于成对距离的方法对噪声和离群值敏感。另一方面，存在基于线性表示的算法错误地选择子空间间点来表示点的可能性，这将降低性能。在本文中，我们提出了一种算法，称为局部线性表示（LLR），它集成了两两距离与线性表示在一起，以解决问题。该算法能够自动对一组点集上的每个数据点进行编码，这些点集不仅能够以较小的残差表示目标点，而且与欧氏空间中的点接近。实验结果表明，该方法在子空间学习和子空间聚类方面具有良好的应用前景。
2017-05-16 cs.LG stat.ML
A Novel Clustering Algorithm Based on Quantum Random Walk
College of Electrical Engineering, Zhejiang University（浙江大学电气工程学院）
在过去的十年里，量子算法取得了巨大的成功。本文将量子随机游走与数据聚类问题相结合，提出了两种基于一维量子随机游走的数据聚类算法。然后，研究了这些算法中由QRW引起的位置的概率分布，这也表明了获得更好结果的可能性。实验结果表明，该算法能够合理有效地对数据点进行聚类，并且具有较快的收敛速度。此外，与其他算法的比较也提供了所提出的方法的有效性的指示。
2008-12-07 cs.LG
(Im)possibility of Collective Intelligence
CISPA Helmholtz Center for Information Security（CISPA信息安全研究中心）
该研究将学习算法刻画为假设空间上的选择对应关系，通过公理分析得出异构环境中唯一理性学习算法是单环境ERM的结论，揭示了实现跨环境集体智能面临的根本权衡与固有困难。
2025-05-19 cs.LG econ.TH stat.ML
Community Detection Clustering via Gumbel Softmax
University of Alabama in Huntsville（阿拉巴马大学亨茨维尔分校）
近来，在诸如语音识别和视觉处理的许多系统中，深度学习已被广泛实施。在这项研究中，我们正在探索在图数据集中使用深度学习进行社区发现的可能性。图在不同的领域获得了越来越多的关注，包括社交网络、信息图、推荐系统以及生命科学。本文提出了一种对各种图数据集的节点进行聚类的社区发现方法。我们聚类属于隶属网络，动物网络，人类接触网络，人类社交网络，杂项网络的不同类别的数据集。深度学习在对网络中节点之间的交互进行建模方面的作用使得与图网络分析相关的科学领域发生了革命。在本文中，我们将gumbel softmax方法扩展到图网络聚类。在特定图数据集上的实验结果表明，新方法的性能明显优于传统聚类，这有力地证明了深度学习在图社区发现聚类中的有效性。我们做了一系列的实验，我们的图聚类算法，使用各种数据集：扎卡里空手道俱乐部，高地部落，训练轰炸，美国革命，海豚，斑马，帆板，悲惨世界，政治书籍。
2020-05-12 cs.LG cs.SI stat.ML
Non-Negative Local Sparse Coding for Subspace Clustering
Bielefeld University（比勒费尔德大学）
子空间稀疏编码（SSC）算法已被证明是有益的聚类问题。它们提供了一种替代数据表示，其中可以更好地捕获集群的底层结构。然而，这一领域的研究主要集中在增强稀疏编码部分的问题。相比之下，我们在我们提出的SSC框架中引入了一个新的目标项，该框架专注于编码空间中数据点的可分性。我们还提供了数学的见解如何本地可分性项提高聚类结果的SSC框架。我们提出的非线性局部SSC算法（NLSSC）也受益于其稀疏项和约束的有效选择。NLSSC算法也制定了基于核的框架（NLKSSC），可以表示数据的非线性结构。此外，我们解决了稀疏编码结果中存在冗余的可能性及其对基于图的聚类问题的负面影响。我们引入链接恢复后处理步骤，以改善非负SSC算法的表示图，如我们的。著名的聚类基准的实证评估表明，我们提出的NLSSC框架的结果更好的聚类相比，国家的最先进的基线，并证明了有效性的链接恢复后处理，通过纠正破碎的链接表示图，提高聚类精度。
2019-03-12 cs.DS cs.LG stat.ML
Hierarchical Clustering: Objective Functions and Algorithms
University of Copenhagen（哥本哈根大学）；University of Oxford（牛津大学）；The Alan Turing Institute（阿兰·图灵研究所）；École normale supérieure, CNRS, PSL Research University（巴黎高等师范学院，法国国家科学研究中心，巴黎文理研究大学）；Simon Fraser University（西蒙菲莎大学）
层次聚类是以越来越细的粒度将数据集递归划分为聚类。由于大多数关于层次聚类的工作都是基于提供算法，而不是优化特定目标，Dasgupta将基于相似性的层次聚类框定为组合优化问题，其中“好”的层次聚类是最小化某些成本函数的聚类。他表明，这个成本函数具有某些理想的性质。我们采取一个公理化的方法来定义“好”的目标函数的相似性和差异为基础的层次聚类。我们描述了一组“可接受”的目标函数（包括Dasgupta的一个），具有的属性，当输入承认一个“自然”的层次聚类，它有一个最佳值。通过构造合适的目标函数，分析了实际算法的性能，并提出了改进的算法。对于基于相似性的层次聚类，Dasgupta表明分裂稀疏切割方法实现了$O(\log^{3/2} n)$近似。我们给出了一个精细的分析算法，并表明它实际上实现了一个$O(\sqrt{\log n})$ -近似。（Charikar和Chatziafratis独立证明，这是一个$O(\sqrt{\log n})$ -近似）。这改进了基于LP的$O(\log n)$ -约。罗伊和波库塔对于基于差异的层次聚类，我们表明，经典的平均连锁算法给出了一个因子2近似，并提供一种简单且更好的算法，其给出因子3/2近似。最后，我们考虑“超越最坏情况”的情况下，通过概括的随机块模型的层次聚类。我们表明，Dasgupta的成本函数具有理想的属性，这些输入，我们提供了一个简单的1 + …
2017-04-07 cs.DS cs.LG
A Novel Fuzzy Bi-Clustering Algorithm with AFS for Identification of Co-Regulated Genes
Xidian University（西安电子科技大学）
共调控基因及其转录因子结合位点的鉴定是理解转录调控的关键步骤。除了有效的实验室测定，已经开发了用于检测共表达基因的各种双聚类算法。当应用于基因表达数据时，双聚类方法用于在待识别的实验条件子集下发现具有相似表达模式的基因亚组。利用公理化模糊集（AFS）理论建立基因表达数据的两个模糊划分矩阵，提出一种新的模糊双聚类算法，用于共调控基因的识别。具体地说，首先利用AFS的次偏好关系理论将基因表达数据转化为两个模糊划分矩阵。其中一个矩阵是将基因作为论域，条件作为概念，另一个矩阵是将基因作为概念，条件作为论域。同时在两个分区矩阵上进行共调节基因（双簇）的鉴定。然后，基于划分矩阵定义了一种新的基于模糊的相似性准则，并设计了一种循环优化算法来发现表达式级的重要双聚类。上述过程保证了生成的双聚类具有比通过传统双聚类方法提取的更显著的表达值。最后，所提出的方法的性能进行评估与公开可用的真实微阵列数据集上的三个著名的双聚类算法的性能。实验结果与理论分析一致，表明该算法在不需要任何基因表达数据先验知识的情况下，能够有效地检测出共调控基因。
2023-02-03 cs.LG cs.NA math.NA
Density-aware Hierarchical Clustering Based on Element-Categorized Connection Subgraphs
Tongji University（同济大学）；RadioSky (Shanghai) Communication Technology Co., Ltd（天睿（上海）通信技术有限公司）
本文提出DHC-ECS方法，整合三类聚类技术，引入新型相似度度量，在异构基准数据集上较基线方法表现更优，可减少人工参数调整依赖。
2026-08-10 cs.AI cs.LG
Clustering by Contour coreset and variational quantum eigensolver
School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息系统学院）；School of Physics, The University of Melbourne（墨尔本大学物理学院）；Data61, CSIRO（澳大利亚联邦科学与工业研究组织 Data61）
针对现有量子k-means聚类方法准确率与一致性不足、缺乏量子定制核心集技术的问题，提出结合VQE与专为量子算法设计的Contour coreset的聚类方法，实验证明其性能优于现有QAOA加通用核心集的方案。
2023-12-06 cs.LG quant-ph
