Significance-Based Categorical Data Clustering
Dalian University of Technology（大连理工大学）；Key Laboratory for Ubiquitous Network and Service Software of Liaoning Province（辽宁省泛在网络与服务软件重点实验室）
虽然已经提出了许多算法来解决分类数据聚类问题，如何访问一组分类聚类的统计意义仍然没有解决。为了满足这一空白，我们采用似然比检验来推导检验统计量，该检验统计量可以作为分类数据聚类中基于显著性的目标函数。因此，提出了一种新的聚类算法，其中的重要性为基础的目标函数通过蒙特卡洛搜索过程进行优化。作为副产品，我们可以进一步计算经验$p$值来评估一组聚类的统计显著性，并开发用于估计聚类数的改进的间隙统计。大量的实验研究表明，我们的方法是能够实现可比的性能，最先进的分类数据聚类算法。此外，这种基于显著性的制定统计聚类验证和聚类数估计的有效性证明通过全面的实证结果。
2022-11-08 cs.LG stat.AP
On Clustering Categories of Categorical Predictors in Generalized Linear Models
我们提出了一种方法，以减少复杂性的广义线性模型的分类预测的存在。传统的one-hot编码，其中每个类别由一个虚拟变量表示，可能是浪费的，难以解释，并且容易过度拟合，特别是在处理高基数类别预测因子时。本文解决了这些挑战，通过聚类他们的类别，找到一个减少表示的分类预测。这是通过一种数值方法来实现的，该方法旨在保持（甚至提高）准确性，同时减少要为分类预测因子估计的系数的数量。由于它的设计，我们能够得到一个分类预测器的类别之间的接近度，可以很容易地可视化。我们说明了我们的方法在现实世界的分类和计数数据集的性能，我们看到，聚类分类预测大大降低了复杂性，而不会损害准确性。
2021-10-19 cs.LG stat.ML
Evidence Transfer for Improving Clustering Tasks Using External Categorical Evidence
Institute of Informatics and Telecommunications（信息学与电信研究所）
在本文中，我们介绍了聚类的证据转移，这是一种深度学习方法，可以根据外部分类证据递增地操纵自动编码器的潜在表示，以改善聚类结果。通过证据转移，我们定义了利用外部辅助任务的分类结果来改进主要任务的过程，在这种情况下，用于聚类的表示学习。我们提出的方法不对所提供的分类证据进行假设，也不对潜在空间的结构进行假设。我们通过在部署之前和之后执行k均值聚类来比较我们的方法与基线解决方案。三种不同类型的证据的实验表明，我们的方法有效地操纵潜在的表示时，介绍了真正的相应证据，同时保持鲁棒性时，提出了低质量的证据。
2018-12-15 cs.AI cs.LG stat.ML
A Hash-based Co-Clustering Algorithm for Categorical Data
Center of Mathematics, Computing and Cognition (CMCC), Universidade Federal do ABC (UFABC)（ABC联邦大学数学、计算与认知中心（CMCC））
许多现实生活中的数据描述的分类属性没有预先分类。用于从这种类型的数据中提取信息的一种常见的数据采掘方法是聚类。该方法将数据中比所有其他样本更相似的样本分组在一起。但是，分类数据在提取信息时带来了挑战，因为：两个对象的相似性计算通常是通过测量共同特征的数量来完成的，但忽略了可能的重要性权重;如果数据可以根据不同的特征子集进行不同的划分，算法可能会发现彼此具有不同含义的聚类，难以进行事后分析。分类数据的数据共聚类是试图找到共享共同特征子集的样本子集的技术。通过这样做，不仅样本可以属于多于一个聚类，而且每个聚类的特征选择描述其自身的特性。本文在前人研究的基础上，提出了一种新的分类数据的协同聚类技术，该技术利用局部敏感哈希技术对协同聚类种子进行预处理。结果表明，该技术能够在许多不同的分类数据集中找到高质量的共聚类，并与数据集大小呈线性关系。
2014-07-29 cs.LG
A matching based clustering algorithm for categorical data
Yerevan State University（埃里温国立大学）
聚类分析是数据采掘和知识发现中的一项重要任务。每种类型的数据在实现将数据相对有效地划分为同质组方面都提出了独特的挑战。虽然在文献中对数值数据的算法进行了相对较好的研究，但在分类数据的情况下仍然存在挑战。主要问题是分类数据的无序结构，这使得实现聚类算法的标准概念变得困难。例如，对象之间的距离的评估，分类数据的代表的选择并不像连续数据那样简单。因此，本文提出了一种新的框架划分分类数据，它不使用距离测量作为一个关键的概念。基于匹配的聚类算法是基于相似性矩阵和一个框架，后者使用特征重要性标准更新设计的。实验结果表明，该算法可以作为现有算法的替代，可以成为一个有效的知识发现工具。
2018-12-09 cs.LG stat.ML
CADM: Cluster-customized Adaptive Distance Metric for Categorical Data Clustering
School of Computing, Binghamton University（宾夕法尼亚大学计算学院）；Department of Computer Science, Hong Kong Baptist University（香港 Baptist 大学计算机科学系）
CADM提出了一种针对类别数据聚类的集群定制距离度量，能够根据不同簇中属性分布动态更新距离，并扩展至混合数据，实验表明其在多个数据集上表现优异。
2026-03-05 cs.LG stat.ML
Spectral Clustering of Categorical and Mixed-type Data via Extra Graph Nodes
Columbia University（哥伦比亚大学）；Bowdoin College（鲍登学院）
针对类别型与混合型数据聚类，提出添加对应类别的额外图节点的谱聚类方法，无需预处理，可解释且对纯类别数据达线性时间，性能与运行时间具竞争力。
2024-03-08 cs.LG stat.ML
Estimating the Optimal Number of Clusters in Categorical Data Clustering by Silhouette Coefficient
School of Knowledge Science, Japan Advanced Institute of Science and Technology（日本先进科学技术学院知识科学学院）
本文提出k-SCC算法，通过核密度估计定义聚类中心、基于信息论度量距离，并结合轮廓分析评估聚类质量，有效解决了分类数据聚类中最优聚类数k的估计问题。
2025-01-26 cs.LG
nTreeClus: a Tree-based Sequence Encoder for Clustering Categorical Series
Ryerson University（瑞尔森大学）；Boğaziçi University（博阿齐奇大学）
分类/序列数据在不同领域的压倒性存在强调了序列挖掘的重要性。序列的挑战性证明了需要继续研究以找到更准确和更快的方法，从而更好地理解它们的（不）相似性。本文提出了一种新的基于模型的序列数据聚类方法，即nTreeClus。所提出的方法部署基于树的学习者，k-mers，和自回归模型的分类时间序列，最终与一种新的数值表示的分类序列。采用这种新的表示，我们聚类序列，考虑到固有的模式，分类时间序列。因此，该模型对其参数表现出稳健性。在不同的模拟场景下，nTreeClus将各种内部和外部集群验证指标的基线方法分别提高了10.7%和2.7%。使用合成和真实数据集，蛋白质序列和分类时间序列的经验评估表明，nTreeClus具有竞争力或优于大多数最先进的算法。
2022-04-23 cs.LG stat.ML
Break the Tie: Learning Cluster-Customized Category Relationships for Categorical Data Clustering
针对分类数据聚类中类别关系固定导致性能受限的问题，本文提出学习簇定制化类别关系的距离度量方法，提升聚类拟合能力并兼容混合数据，在12个基准数据集上平均排名1.25，优于现有方法。
2025-11-12 cs.AI cs.LG
Robust Categorical Data Clustering Guided by Multi-Granular Competitive Learning
Guangdong University of Technology（广东工业大学）；Guangzhou Huali College（广州华立学院）；Hong Kong Baptist University（香港 Baptist大学）；Guangdong Provincial Key Laboratory of Intelligent Information Processing（广东省智能信息处理重点实验室）
本文提出了一种基于多粒度竞争学习的分类数据聚类方法，通过多粒度分布探索和鲁棒性提升，有效处理大规模分类数据。
2026-01-23 cs.LG
Probabilistic Multi-Source Data Selection via Learnable Categorical Priors: Variance Reduction and Guaranteed Derandomization
College of Computing and Data Science（计算与数据科学学院）；Nanyang Technological University（南洋理工大学）
针对多源双层数据选择问题，本文提出基于可学习分类先验的概率松弛方法，设计ReSGD算法并建立近似保证，通过实验验证其有效性。
2026-10-14 cs.AI cs.LG
Categorical Data Clustering via Value Order Estimated Distance Metric Learning
School of Computer Science and Technology, Guangdong University of Technology, Guangzhou, China（广东技术大学计算机科学与技术学院）；Department of Computer Science, Hong Kong Baptist University, Hong Kong SAR China（香港 Baptist大学计算机科学系）；Guangdong Provincial Key Laboratory of Intelligent Information Processing, College of Electronics and Information Engineering, Shenzhen University, Shenzhen, China（广东省智能信息处理重点实验室，电子与信息工程学院，深圳大学，深圳，中国）；School of Computer Science and Software Engineering, Shenzhen University, Shenzhen, China（计算机科学与软件工程学院，深圳大学，深圳，中国）；School of Informatics, Xiamen University, Xiamen China（信息学院，厦门大学，厦门中国）
针对分类数据缺乏天然度量空间的问题，本文提出在聚类中联合学习属性值序关系与序距离度量，并交替优化聚类和度量学习，提升分类及混合数据聚类效果与可解释性。
2025-08-29 cs.AI cs.LG stat.ML
Learnable Weighting of Intra-Attribute Distances for Categorical Data Clustering with Nominal and Ordinal Attributes
IEEE
研究用于分类数据聚类的距离度量，提出统一测量标称和有序属性内距离的新方法及新聚类算法，将属性内距离权重学习和数据划分整合为单一范式，实验验证了算法有效性。
2026-07-08 cs.AI cs.LG
A reproducible comparative study of categorical kernels for Gaussian process regression, with new clustering-based nested kernels
Safran Tech, Digital Sciences \& Technologies, 78114 Magny-Les-Hameaux, France；Centre de Mathématiques Appliquées, Ecole polytechnique, Institut Polytechnique de Paris, 91120 Palaiseau, France；Univ Rennes, Ensai, CNRS, CREST - UMR 9194, F-35000 Rennes, France
该研究针对高斯过程回归中分类核设计难、现有研究缺乏可复现性的问题，开展多测试用例可复现比较，提出新评估指标与基于聚类的嵌套核策略，在多数据集上实现更优性能与低计算成本。
2025-10-02 cs.LG stat.ML
Deep Clustering for Climate: Analyzing Teleconnections through Learned Categorical States
FGV EMAp
本文利用Masked Siamese Networks对气候时间序列进行离散化，生成具有语义意义的气候状态集群，用于简化下游分析和特定气候场景的采样，同时揭示与厄尔尼诺事件的统计关联。
2026-04-24 cs.LG
Clustering without Over-Representation
Google Research（谷歌研究院）
在本文中，我们考虑聚类问题，其中每个点被赋予一种颜色。我们的目标是聚类点，以最大限度地减少经典的聚类成本，但有额外的约束，没有颜色是过度表示在任何集群。这个问题是由实际的聚类设置引起的，例如，在对新闻文章进行聚类时，其中文章的颜色是其来源，优选的是没有单个新闻来源支配任何聚类。对于这个问题的最一般的版本，我们得到一个算法，具有可证明的性能保证，我们的算法是基于使用线性规划找到一个分数的解决方案，并随后舍入的解决方案。对于特殊情况下的问题，没有颜色有绝对多数在任何集群中，我们得到一个更简单的组合算法也可证明的保证。对真实数据的实验表明，我们的算法是有效的，找到良好的聚类，而没有过度表示。
2019-05-29 cs.DS cs.LG
Fast Clustering of Categorical Big Data
Texas Tech University（德克萨斯理工大学）
针对 K-Modes 对初始中心敏感的问题，论文提出 BK-Modes，通过迭代二分并以距离和选择待分簇来生成初始中心，实验证明其在大型分类数据上兼具质量与效率。
2025-02-15 cs.DB cs.LG
initKmix -- A Novel Initial Partition Generation Algorithm for Clustering Mixed Data using k-means-based Clustering
United Arab Emirates University（阿拉伯联合酋长国大学）；Toronto Rehabilitation Institute, University Health Network（多伦多康复研究所，大学健康网络）
混合数据集由数值和分类属性组成。已经为这些数据集开发了各种基于k-means的聚类算法。这些算法一般都是以随机划分为出发点，在不同的运行阶段会产生不同的聚类结果。在本文中，我们提出，initKmix，一种新的算法，找到一个初始分区的混合数据集的基于k-均值聚类算法。在initKmix算法中，基于k-means的聚类算法运行多次，并且在每次运行中，其中一个属性用于为该运行创建初始聚类。将各种运行的聚类结果组合起来以产生初始分区。然后将该初始分区用作基于k均值的聚类算法的种子，以聚类混合数据。在各种分类和混合数据集上的实验表明，initKmix产生了准确和一致的结果，并且优于随机初始划分方法和其他最先进的初始化方法。实验还表明，使用initKmix对混合数据集进行基于k均值的聚类，其性能类似于或优于许多针对分类和混合数据集的最新聚类算法。
2020-07-22 cs.LG stat.ML
Detecting organized eCommerce fraud using scalable categorical clustering
Aalto University（阿尔托大学）
在线零售，电子商务，经常成为恶意客户（欺诈者）通过欺骗获得商品或服务进行欺诈的受害者。由职业欺诈者群体协调进行的欺诈，即下几个欺诈性订单以最大限度地扩大其收益，被称为有组织欺诈。现有的欺诈检测方法通常孤立地分析订单，并且它们不能有效地识别与有组织欺诈相关联的欺诈订单组。这些也错误地将许多合法订单识别为欺诈，这阻碍了它们用于自动取消欺诈。我们引入了一种新的解决方案，通过分析批量订单来检测有组织的欺诈行为。我们的方法是基于聚类，旨在将同一组欺诈者下的欺诈订单分组在一起。它有选择地使用两种现有的技术，凝聚聚类和采样递归分组订单成小集群在合理的时间。我们评估我们的聚类技术在现实世界中的Zalando网站上，在欧洲最大的在线服装零售商1的订单。我们的聚类在几个小时内处理了10万个订单，并将35-45%的欺诈订单分组在一起。我们提出了一个简单的技术，建立在我们的聚类，检测26.2%的欺诈行为，而提高虚假警报只有0.1%的合法订单。
2019-10-10 cs.CR cs.LG stat.ML
Clustering in graphs and hypergraphs with categorical edge labels
Cornell University（康奈尔大学）
现代图或网络数据集通常包含丰富的结构，这些结构超出了节点之间简单的成对连接。这需要复杂的表示，例如，可以捕获不同类型的边以及所谓的“高阶交互”，即一次涉及两个以上的节点。然而，我们有较少的严格的方法，可以提供洞察力，从这样的表示。在这里，我们开发了一个计算框架的问题，聚类超图与分类边标签-或不同的相互作用类型-其中集群对应于组的节点，经常参与同一类型的相互作用。我们的方法是基于一个组合的目标函数，这是相关的聚类图，但使更有效的算法，也无缝地推广到超图的设计。当只有两种标签类型时，我们的目标可以在多项式时间内优化，使用基于最小割的算法。最小化我们的目标成为NP难的两个以上的标签类型，但我们开发快速近似算法的基础上，线性规划松弛理论集群质量保证。我们证明了我们的算法的有效性和模型的范围，通过在边缘标签社区发现，聚类与时间数据和探索性数据分析的问题。
2020-02-17 cs.LG cs.SI physics.soc-ph
Improved Algorithms for Overlapping and Robust Clustering of Edge-Colored Hypergraphs: An LP-Based Combinatorial Approach
Yonsei University（延世大学）；University of Wrocław（沃拉日省大学）
针对边着色超图聚类的三种变体（局部、全局和鲁棒ECC），提出一种结合线性规划与组合算法优势的框架，高效生成高质量解，并给出不可近似性与整数间隙界，回答两个开放问题。
2025-05-23 cs.DB cs.DS cs.LG
Clusterability test for categorical data
School of Software, Dalian University of Technology（大连理工大学软件学院）；School of Software Engineering, Dalian University（大连大学软件工程学院）；Key Laboratory for Ubiquitous Network and Service Software of Liaoning Province（辽宁省泛在网络与服务软件重点实验室）
针对分类数据缺乏可聚类性检验的问题，提出 TestCat，利用属性对卡方统计量之和计算解析 p 值，并在基准数据集上验证其优于数值方法。
2024-12-17 cs.LG stat.AP
Latent class analysis by regularized spectral clustering
Chongqing University of Technology（重庆理工大学）
本文提出基于正则化拉普拉斯矩阵的两种新算法，用于有序分类数据的潜在类别模型参数估计，并给出理论收敛速率、类别数确定度量及模拟与真实数据验证。
2026-09-09 cs.LG stat.ML
Mixed-type Distance Shrinkage and Selection for Clustering via Kernel Metric Learning
University of British Columbia（不列颠哥伦比亚大学）
针对混合类型数据距离度量问题，提出基于混合核的 KDSUM 度量方法，通过交叉验证优化带宽选择，实现了从现有混合度量到统一度量的收缩，显著提升了聚类准确率。
2024-10-11 cs.LG stat.CO stat.ME
NECA: Network-Embedded Deep Representation Learning for Categorical Data
University of Science and Technology Beijing（北京科技大学）；University of Tennessee Knoxville（田纳西大学诺克斯维尔分校）
我们提出了NECA，一种用于分类数据的深度表示学习方法。NECA建立在网络嵌入和深度无监督表示学习的基础上，深入嵌入属性值之间的内在关系，并使用数值向量表示显式地表达数据对象。NECA专门为分类数据设计，可以支持重要的下游数据采掘任务，如聚类。大量的实验分析证明了NECA的有效性。
2022-05-25 cs.AI cs.LG
Bridging the Semantic Gap for Categorical Data Clustering via Large Language Models
School of Computer Science and Technology（计算机科学与技术学院）；Guangdong University of Technology（广东技术大学）；Department of Computer Science（计算机科学系）；Hong Kong Baptist University（香港 Baptist 大学）
提出BREVE框架，利用外部知识库的语义嵌入丰富分类属性值，并引入自适应权重平衡原始标识与语义信息，在八个基准数据集上平均ARI排名达1.3。
2026-05-28 cs.AI cs.CL cs.LG
Spectral Clustering of Attributed Multi-relational Graphs
University of Vienna（维也纳大学）
针对复杂数据兼具属性与多关系特性的图聚类需求，提出联合降维技术SpectralMix，整合多类信息实现合理解释且具泛化性，实验验证其优于现有方法并能检测结构与属性依赖关系。
2023-11-03 cs.LG cs.SI
Learning Unified Distance Metric for Heterogeneous Attribute Data Clustering
School of Computer Science and Technology（计算机科学与技术学院）；Guangdong University of Technology（广东工业大学）；Key Laboratory of Multimedia Trusted Perception and Efficient Computing, Ministry of Education of China（教育部多媒体可信感知与高效计算重点实验室）；Xiamen University（厦门大学）；Department of Computer Science（计算机科学系）
本文提出HARR范式，通过统一学习多空间来提升异质属性数据聚类的准确性和效率。
2026-03-03 cs.AI cs.LG
K-Metamodes: frequency- and ensemble-based distributed k-modes clustering for security analytics
Hasso Plattner Institute（哈索·普拉特纳研究所）
目前，对日志信息等安全大数据的处理通常用于入侵检测。它的异构性，以及组合的数值和分类属性不允许应用现有的数据采掘方法直接对数据进行特征预处理。因此，一个相当昂贵的计算转换的分类属性到向量空间应用于分析这样的数据。然而，一个众所周知的k-modes算法允许直接聚类分类数据，避免转换到向量空间。用于大数据处理的k模式的现有实现是基于集合的，并利用两步聚类，其中数据子集首先独立地聚类，而得到的聚类模式再次聚类，以便计算对所有数据子集有效的元模型。在本文中，新的频率为基础的距离函数提出的第二步，基于集合的k-模式聚类。除此之外，现有的功能离散化方法，从以前的工作，以适应k模式的混合数据集的处理。在两个公共安全数据集上进行了测试，结果表明，该算法与已有的算法相比具有更高的有效性。
2019-09-30 cs.CR cs.LG stat.ML
Motif and Hypergraph Correlation Clustering
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Auburn University（奥本大学）
出于社会和生物网络分析中的应用，我们引入了一种新形式的不可知聚类称为~ \emph{motif correlation clustering}，其目的是最大限度地减少与边缘和高阶网络结构相关的聚类错误的成本。这个问题可以简洁地描述如下：给定一个完整的图$G$，划分图的顶点，使得某些预定的“重要”子图大多位于同一簇内，而“不太相关”的子图被允许跨簇。我们的贡献如下：我们首先介绍了几种变体的主题相关聚类，然后表明这些聚类问题是NP-难的。然后，我们继续描述多项式时间聚类算法，提供恒定的近似保证手头的问题。尽管遵循经常使用的LP松弛和舍入程序，该算法涉及一个复杂的和精心设计的邻域生长步骤，结合边缘和基序结构的信息。最后，我们用几个例子说明了合成和真实网络上开发的算法的性能。
2018-11-05 cs.DM cs.DS cs.LG
Entity Embeddings of Categorical Variables
Neokami Inc.（Neokami公司）
我们将函数逼近问题中的分类变量映射到欧氏空间中，欧氏空间是分类变量的实体嵌入。在标准监督训练过程中，通过神经网络学习映射。与one-hot编码相比，实体嵌入不仅减少了内存使用，加快了神经网络的速度，更重要的是，通过在嵌入空间中映射彼此接近的相似值，它揭示了分类变量的内在属性。我们在最近的Kaggle竞赛中成功地应用了它，并且能够以相对简单的功能达到第三名。本文进一步证明了实体嵌入有助于神经网络在数据稀疏和统计未知时更好地泛化。因此，它对于具有大量高基数特征的数据集特别有用，而其他方法往往会过拟合。我们还证明了从训练的神经网络获得的嵌入在用作输入特征时大大提高了所有测试的机器学习方法的性能。由于实体嵌入定义了分类变量的距离度量，因此它可以用于可视化分类数据和数据聚类。
2016-04-22 cs.LG
Analyzing categorical time series with the R package ctsfeatures
Research Center for Information and Communication Technologies (CITIC)（信息与通信技术研究中心）；University of A Coruña（拉科鲁尼亚大学）
本文介绍 R 包 ctsfeatures，通过特征提取、可视化及内置生物序列与合成数据集，支持分类时间序列的聚类、分类和异常检测。
2023-04-24 cs.LG stat.ML
Fair Bayesian Model-Based Clustering
Department of Statistics（统计系）
针对现有群体公平聚类多依赖K-means、需预定义聚类数和距离的局限，提出公平贝叶斯聚类FBC，通过特殊公平先验和高效MCMC算法，可推断聚类数、适配多数据类型，在真实数据集上实现有竞争力的效用-公平性权衡。
2025-06-15 cs.AI cs.LG stat.ML
Constant-Factor Approximation Algorithms for Socially Fair $k$-Clustering
Georgia Tech（佐治亚理工学院）
研究了社会公平的$(\ell_p, k)$ -聚类问题的近似算法，该问题的特例包括社会公平的$k$ -中位数（$p=1$）和社会公平的$k$ -均值（$p=2$）问题.本文提出了（1）至多具有$k+m$中心的多项式时间$(5+2\sqrt{6})^p$ -近似，（2）具有时间$n^{2^{O(p)}\cdot m^2}$中心的$(5+2\sqrt{6}+ε)^p$ -近似，（3）具有时间$k^{m}\cdot\text{poly}(n)$的$(15+6\sqrt{6})^p$近似.第一个结果是通过使用线性规划序列的迭代舍入方法的改进而获得的。后两个结果是通过对（2）使用稀疏化方法并通过对（3）进行穷举搜索将具有多达个$k+m$中心的解转换为具有$k$中心的解而获得的。我们还比较了我们的算法的性能与现有的双准则算法，以及完全$k$中心近似算法的基准数据集，并发现我们的算法也优于现有的方法在实践中。
2022-06-22 cs.AI cs.DS cs.LG
Efficient Binary Embedding of Categorical Data using BinSketch
IIT Mandi（曼迪印度理工学院）；Indraprastha Institute of Information Technology Delhi（德里因德拉普拉斯塔信息技术学院）
在这项工作中，我们提出了一个降维算法，又名。草图，用于分类数据集。我们提出的草图算法Cabin从高维分类向量构建低维二进制草图，我们的距离估计算法Cham仅从草图计算任何两个原始向量之间的汉明距离的近似值。Cham所需的草图的最小维度，以确保良好的估计理论上只取决于数据点的稀疏性-使其适用于许多涉及稀疏数据集的现实生活场景。我们对我们的方法进行了严格的理论分析，并在几个高维现实世界的数据集上进行了广泛的实验，其中包括一个超过一百万个维度的数据集。我们表明，与使用完整数据集和其他降维技术相比，Cabin和Cham二人组对于RMSE，所有对相似性和聚类等任务是一种非常快速和准确的方法。
2021-11-13 cs.LG
Clustering in Hilbert simplex geometry
Sony Computer Science Laboratories Inc.（索尼计算机科学研究所）；Data61；The Australian National University（澳大利亚国立大学）
在有限维概率单纯形中聚类分类分布是处理归一化直方图的许多应用中遇到的基本任务。传统上，概率单形的微分几何结构要么通过（i）将黎曼度量张量设置为分类分布的Fisher信息矩阵，要么（ii）定义由光滑相异度度量（Kullback-Leibler散度）引起的二元信息几何结构。在这项工作中，我们介绍了聚类任务的一种新的计算友好的框架，几何建模的概率单纯形：{ \em希尔伯特单纯形几何}。在Hilbert单纯形几何中，距离是不可分的Hilbert度量距离，它满足信息单调性，距离水平集函数由多面体边界描述。我们表明，无论是艾奇逊和希尔伯特单纯形距离是规范的距离归一化对数表示的$\ell_2$和变异规范，分别。我们讨论了这些不同的统计建模的优点和缺点，并基准实验这些不同种类的几何中心为基础的$k$ -手段和$k$ -中心聚类。此外，由于一个典型的希尔伯特距离可以定义在任何有界凸子集的欧几里德空间，我们还考虑希尔伯特的几何椭圆形的相关矩阵和研究其聚类性能相比，弗罗贝纽斯和log-det分歧。
2021-11-19 cs.CV cs.LG
Unsupervised and Semi-supervised Learning with Categorical Generative Adversarial Networks
University of Freiburg（弗赖堡大学）
在本文中，我们提出了一种方法来学习一个判别分类器从未标记或部分标记的数据。我们的方法基于一个目标函数，该目标函数权衡了观察到的示例及其预测的分类类分布之间的互信息，以及分类器对对抗生成模型的鲁棒性。由此产生的算法可以被解释为生成对抗网络（GAN）框架的自然推广，或者作为正则化信息最大化（RIM）框架的扩展，以针对最佳对手进行鲁棒分类。我们根据经验评估了我们的方法-我们称之为分类生成对抗网络（或CatGAN）-在合成数据以及具有挑战性的图像分类任务上，证明了学习分类器的鲁棒性。我们进一步定性地评估了与判别分类器一起学习的对抗生成器生成的样本的保真度，并确定了CatGAN目标和判别聚类算法（如RIM）之间的联系。
2016-04-30 cs.LG stat.ML
Sketch-and-Lift: Scalable Subsampled Semidefinite Program for $K$-means Clustering
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
半定规划（SDP）是一个强大的工具，用于解决各种各样的计算困难的问题，如聚类。尽管有很高的准确性，半定的程序在实践中往往太慢，在大型（甚至中等）数据集上的可扩展性差。在本文中，我们介绍了一个线性时间复杂度算法近似的SDP放松$K$ -均值聚类。所提出的草图和升降机（SL）的方法解决了一个二次采样数据集上的SDP，然后传播的解决方案的所有数据点的最近的质心舍入过程。结果表明，SL的方法享有类似的确切的恢复阈值的$K$ -意味着SDP在整个数据集上，这是已知的信息理论上紧高斯混合模型下。SL方法可以自适应增强的理论性能时，集群大小是不平衡的。我们的模拟实验表明，所提出的方法的统计精度优于国家的最先进的快速聚类算法，而不牺牲太多的计算效率，并与原来的$K$ -意味着SDP大大减少了运行时间。
2022-02-09 cs.LG stat.ML
A Mean Field Games model for finite mixtures of Bernoulli and Categorical distributions
有限混合模型是数据的统计分析中的重要工具，例如在数据聚类中。混合模型的最优参数通常通过期望最大化算法最大化对数似然泛函来计算。我们提出了一种替代方法的理论基础上的平均场游戏，一类微分游戏与无限数量的代理。我们证明了有限状态空间多种群平均场博弈系统的解刻画了伯努利混合的对数似然泛函的临界点。然后将该方法推广到分类分布的混合模型。因此，平均场游戏的方法提供了一种方法来计算混合模型的参数，我们展示了它的应用程序在聚类分析中的一些标准的例子。
2020-11-27 cs.LG math.AP stat.ML
Dimensionality Reduction for Categorical Data
Indraprastha Institute of Information Technology (IIIT-Delhi)（德里信息技术学院）；Indian Institute of Technology, Mandi（印度理工学院曼迪分校）
分类属性是那些可以采用离散值集的属性，例如，颜色.本文的工作是将分类属性上的向量压缩为低维离散向量。目前基于散列的方法将分类属性上的向量压缩为低维离散向量，并不能保证压缩表示之间的汉明距离。在这里，我们提出了FSketch来创建稀疏分类数据的草图和估计器来估计未压缩数据之间的成对汉明距离。我们声称，这些草图可以在通常的数据采掘任务中使用的原始数据的地方，而不影响任务的质量。为此，我们确保草图也是分类的，稀疏的，并且汉明距离估计相当精确。草图构造和汉明距离估计算法都只需要一次通过;此外，对数据点的更改可以以有效的方式并入其草图中。可压缩性取决于数据的稀疏程度，并且与原始维度无关-这使得我们的算法对许多现实生活中的场景具有吸引力。我们的主张得到了对FSketch属性的严格理论分析的支持，并辅之以与一些真实数据集上的相关算法的广泛比较评估。我们表明，FSketch的速度明显更快，并且使用其草图获得的准确性在RMSE，聚类和相似性搜索的标准无监督任务中名列前茅。
2021-12-01 cs.LG
A Deterministic Information Bottleneck Method for Clustering Mixed-Type Data
Department of Mathematics, Imperial College London, London, United Kingdom（伦敦帝国学院数学系）；School of Education, Democritus University of Thrace, Greece（德莫克利特斯大学教育学院）
本文提出DIBmix方法，通过信息瓶颈原理处理混合类型数据聚类，解决带宽选择和超参数更新问题，在大小不平衡和重叠数据中表现优异。
2026-01-29 cs.LG stat.ME stat.ML
Better Algorithms for Individually Fair $k$-Clustering
Dartmouth College（达特茅斯学院）
我们研究数据聚类问题与$\ell_p$规范的目标（例如$k$ -中位数和$k$ -手段）在个人公平的背景下。数据集由$n$点组成，我们希望找到$k$中心，使得（a）目标最小化，同时（b）尊重个体公平性约束，即每个点$v$在最多$r(v)$的距离内具有中心，其中$r(v)$是$v$到其$(n/k)$ th最近点的距离。Jung、Kannan和Lutz [FORC 2020]引入了这一概念，并设计了一种聚类算法，该算法具有可证明的（近似的）公平性和$\ell_\infty$或$k$ -中心目标的客观保证。Mahabadi和Vakilian [ICML 2020]重新讨论了这个问题，给出了所有$\ell_p$ -范数的局部搜索算法。从经验上讲，他们的算法优于荣格等人。al.在成本方面有很大的差距（对于$k$ -Median和$k$ -Means），但它们在公平性方面会产生合理的损失。在本文中，我们的主要贡献是使用线性规划（LP）技术，以获得更好的算法，这个问题，在理论和实践中。我们证明，通过修改已知的LP舍入技术，得到一个最坏情况下的保证的目标，这是比MV 20更好，经验，这个目标是非常接近最佳的。此外，我们的理论公平性保证在理论上与MV 20相当，并且根据经验，我们获得了明显更公平的解决方案。虽然解决LP { \em确切}可能是禁止的，我们证明，在实践中，一个简单的稀疏化技术大大提高了…
2021-06-23 cs.CY cs.DS cs.LG
Hierarchical Clustering via Spreading Metrics
Georgia Institute of Technology（佐治亚理工学院）
我们研究了由[arXiv：1510.05043]引入的层次聚类的成本函数，其中层次被视为第一类对象，而不是从平面聚类的投影中获得其成本。在[arXiv：1510.05043]中还表明，自顶向下算法返回的分层聚类的成本至多是最佳分层聚类成本的$O\left(α_n \log n\right)$倍，其中$α_n$是所使用的稀疏切割子例程的近似比率。因此，使用由于Arora-Rao-Vazirani的用于稀疏切割的最佳已知近似算法，自顶向下算法返回至多为最优解的成本的$O\left(\log^{3/2} n\right)$倍的成本的分层聚类。我们改进了这一点，给出了一个$O(\log{n})$ -近似算法。我们的主要技术成分是由这个成本函数引起的ultrametrics的组合表征，推导出一个线性规划（ILP）制定这个家庭的ultrametrics，并展示了如何迭代轮LP松弛这个配方使用的思想\emph{sphere growing}已被广泛使用的背景下，图分区。我们还证明了我们的算法返回一个$O(\log{n})$近似的层次聚类，这个成本函数的推广也在[arXiv：1510.05043]中研究。实验表明，层次结构发现使用ILP制定以及我们的舍入算法往往有更好的预测到平坦的集群比标准的链接为基础的算法。我们也给这个问题的常数因子不可逼近的结果。
2016-10-28 cs.LG
VICatMix: variational Bayesian clustering and variable selection for discrete biomedical data
MRC Biostatistics Unit University of Cambridge East Forvie Building（医学研究理事会生物统计学单位剑桥大学东部大楼）；MRC Biostatistics Unit and CRUK Cambridge Centre Ovarian Programme and Cambridge Institute of Therapeutic Immunology and Infectious Disease (CITIID) University of Cambridge（医学研究理事会生物统计学单位和癌症研究英国委员会剑桥中心卵巢计划及剑桥治疗免疫学和传染病研究所（CITIID）剑桥大学）
VICatMix通过变分贝叶斯方法实现高效聚类和变量选择，适用于高维生物医学数据，提升癌症亚型分组和驱动基因发现的准确性。
2026-03-01 cs.LG stat.ME stat.ML
Cube Sampled K-Prototype Clustering for Featured Data
Indian Institute of Technology Indore（印度理工学院印多尔分校）；NMIMS, Shirpur（NMIMS希尔布尔分校）；Institut Mines-Telecom Atlantique（法国矿业电信学校联盟大西洋校区）；NMIMS Indore（NMIMS印多尔分校）
对大量数据进行聚类在当今时代变得越来越重要。由于数据量大，聚类算法往往需要花费太多的时间。在聚类之前对这些数据进行采样通常用于减少这一时间。在这项工作中，我们提出了一种概率抽样技术，称为立方体抽样与K-原型聚类。立方体抽样是因为它准确的样本选择。K-Prototype是最常用的聚类算法，当数据是数值和分类（在今天非常常见）。这项工作的新颖性是在获得立方体抽样使用主成分分析（PCA）的关键包含概率。在UCI数据库中的多个数据集上的实验表明，立方体采样K-Prototype算法在相似采样的其他流行聚类算法（K-Means，Hierarchical Clustering（HC），Spectral Clustering（SC））中具有最好的聚类精度。与未采样的K-原型、K-均值、HC和SC相比，它仍然具有最佳的准确性，并具有降低计算复杂性的额外优势（由于减少了数据大小）。
2021-08-23 cs.LG
Learning Representation for Mixed Data Types with a Nonlinear Deep Encoder-Decoder Framework
Gartner（高德纳）；Walmart Labs（沃尔玛实验室）
混合变量，数值和分类类型的数据表示，以获得合适的特征映射是一项具有挑战性的任务，因为重要的信息在于一个复杂的非线性流形。特征变换应该能够同时包含单个变量的边缘信息和混合类型变量之间复杂的交叉依赖结构。在这项工作中，我们提出了一种新的非线性深度编码器-解码器框架来捕获混合数据类型的跨域信息。网络的隐藏层通过各种非线性变换将两种类型的变量连接起来，以给出潜在的特征映射。我们将数值变量的信息编码在一些隐藏的非线性单元中。我们使用这些单位通过进一步的非线性变换来重新创建分类变量。开发了一个单独的和类似的网络，切换数值变量和分类变量的角色。隐藏的代表性单位堆叠一个接一个的其他和转换到一个共同的空间使用局部保持投影。导出的特征图用于探索数据中的聚类。各种标准的数据集进行了调查，以显示几乎最先进的性能，在使用简单的K-均值聚类的特征映射的聚类。
2020-09-21 cs.LG stat.AP
Interpretable Clustering Ensemble
School of Software, Dalian University of Technology（大连理工大学软件学院）
本文提出首个可解释聚类集成算法，将基划分视为类别变量，在原始特征空间中利用统计关联检验构建决策树，在取得与SOTA方法相当性能的同时提供可解释性。
2025-06-06 cs.LG
A Robust Spectral Clustering Algorithm for Sub-Gaussian Mixture Models with Outliers
University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们考虑的问题，聚类数据集的任意离群值的存在。传统的聚类算法，如k-means和谱聚类是已知的，即使是少量的离群值污染的数据集表现不佳。在本文中，我们开发了一个可证明的强大的谱聚类算法，适用于一个简单的舍入方案去噪的高斯核矩阵建立从数据点，并使用香草谱聚类恢复数据点的聚类标签。我们分析我们的算法的性能的假设下，“好”的数据点产生的混合物的亚高斯（我们称这些“内点”），而离群点可以来自任何任意的概率分布。对于这类一般的模型，我们表明，误分类误差衰减的信号噪声比的指数率，提供的离群点的数量是一个小部分的内点。令人惊讶的是，这个派生的错误界匹配的半定规划（SDP）在相同的设置下，没有离群值的最知名的界。我们在各种模拟和真实世界的数据集上进行了广泛的实验，以证明我们的算法与文献中提出的其他最先进的算法相比，对离群值不那么敏感。
2021-01-31 cs.LG math.ST stat.ML
Breaking 3-Factor Approximation for Correlation Clustering in Polylogarithmic Rounds
Boston College（波士顿学院）
针对相关性聚类并行算法长期受限于3近似比的问题，提出多对数深度的(2.4+ε)-近似并行算法，并给出串行与MPC实现。
2023-07-13 cs.DC cs.DS cs.LG
CRAFT: ClusteR-specific Assorted Feature selecTion
Massachusetts Institute of Technology（麻省理工学院）
我们提出了一个框架，集群特定的特征选择聚类。的框架，CRAFT，来自非参数MAP为基础的聚类模型的渐近对数后验公式。CRAFT处理各种数据，即，数字和分类数据以及潜在的目标函数都直观地吸引人。由此产生的算法是简单的实现和规模很好，需要最小的参数调整，避免了需要指定的聚类数先验，并与其他方法相比，在真实的数据集。
2015-06-25 cs.LG stat.ML
Weight-Informed Self-Explaining Clustering for Mixed-Type Tabular Data
School of Computing, National University of Singapore（新加坡国立大学计算机学院）；School of Intelligence Science and Engineering, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）智能科学与工程学院）
本文提出WISE框架，通过二进制编码与填充对齐异构特征，结合LOFO策略和两阶段加权聚类，提升混合类型表格数据的聚类质量和可解释性。
2026-04-07 cs.LG
Mixed Data Clustering Survey and Challenges
Léonard de Vinci Pôle Universitaire, Research Center（莱昂纳德·德·文奇大学研究中心）；LI-PARAD Laboratory EA 7432（LI-PARAD实验室EA 7432）
本文提出了一种基于预拓扑空间的混合数据聚类方法，并通过基准测试评估其在大数据环境下的性能与有效性。
2026-10-06 cs.AI cs.LG
GRACE: LLM-Grounded Semantic Metric Spaces for Scalable Mixed-Data Clustering
Guangdong University of Technology（广东工业大学）；Tsinghua University（清华大学）；Peking University（北京大学）；Shenzhen University（深圳大学）；Xiamen University（厦门大学）
针对混合数据聚类中语义丰富度与可扩展性的矛盾，提出GRACE框架，通过多视角LLM查询实现一次性语义嵌入，兼顾可扩展性与聚类性能，优于11种对比方法。
2026-08-11 cs.AI cs.CL cs.IT
