Perfect Spectral Clustering with Discrete Covariates
Pennsylvania State University（宾夕法尼亚州立大学）
在社区检测方法中，谱聚类具有两个理想的性质：计算效率和理论上的一致性保证。大多数谱聚类的研究只考虑网络的边缘作为算法的输入。在这里，我们考虑的问题进行社区检测存在的离散节点协变量，其中网络结构是由一个潜在的块模型结构和同质性的组合所观察到的协变量。我们提出了一个谱算法，我们证明实现了完美的聚类具有高概率的一类大型，稀疏的网络与离散的协变量，有效地分离潜在的网络结构同质性观察到的协变量。据我们所知，我们的方法是第一个提供了一个保证一致的潜在结构恢复使用谱聚类的边缘形成是依赖于潜在的和观察到的因素。
2022-05-17 cs.LG cs.SI math.ST
Fast Discrete Distribution Clustering Using Wasserstein Barycenter with Sparse Support
The Pennsylvania State University（宾夕法尼亚州立大学）；University of California, Riverside（加州大学河滨分校）
在各种研究领域中，加权矢量袋和直方图是广泛使用的复杂对象的描述符。两者都可以表示为离散分布。D2-聚类追求服从Kantorovich-Wasserstein度量的一组离散分布的最小总簇内变异。D2聚类有一个严重的可扩展性问题，瓶颈是计算质心分布，称为Wasserstein重心，最小化其到集群成员的平方距离之和。在本文中，我们开发了一个修改的Bregman ADMM方法计算近似离散Wasserstein重心的大型集群。在支持点的重心是未知的，并具有低基数的情况下，我们的方法实现了高精度的经验，大大降低了计算成本。我们的方法和它的替代品的优点和缺点，通过实验进行检查，我们建议他们各自的使用方案。此外，我们开发的串行和并行版本的算法。通过对大规模数据的实验，我们证明了新方法的计算效率，并研究了它们的收敛性和数值稳定性。在不同领域的多个数据集上得到的聚类结果与相应领域中广泛使用的一些方法相比具有很强的竞争力。
2017-01-09 cs.LG stat.CO stat.ML
Deep Unsupervised Clustering with Clustered Generator Model
Shanghai Jiao Tong University（上海交通大学）；Stevens Institute of Technology（史蒂文斯理工学院）；University of California, Los Angeles（加州大学洛杉矶分校）
无监督聚类是机器学习和人工智能领域最基本的问题之一。我们提出了聚类生成器模型的聚类，其中包含连续和离散的潜变量。离散潜变量对聚类标签进行建模，而连续潜变量对每个聚类内的变化进行建模。模型的学习在统一的概率框架中进行，并将无监督聚类作为内部步骤，而不需要像现有的基于变分的模型那样需要额外的推理模型。学习的潜变量既可以作为观察到的数据嵌入，也可以作为数据分布的潜在表示。实验结果表明，该模型可以达到有竞争力的无监督聚类精度，并可以学习解开潜在的表示，以产生现实的样本。此外，该模型可以自然地扩展到每像素无监督聚类，这在很大程度上尚未探索。
2019-11-19 cs.LG stat.ML
Optimal Clustering of Multi-layer Networks under Mixture Block Models
Hong Kong University of Science and Technology（香港科技大学）；The Hong Kong Polytechnic University（香港理工大学）
本文研究了多层网络及离散混合分布的最优聚类问题，提出了基于张量初始化和似然Lloyd算法的两阶段聚类方法，实现了由Renyi散度刻画的极小化最优聚类错误率。
2026-10-23 cs.LG cs.SI math.ST
A Robust Speaker Clustering Method Based on Discrete Tied Variational Autoencoder
Ping An Technology (Shenzhen) Co., Ltd.（平安科技（深圳）有限公司）
目前，基于聚合层次聚类（AHC）的说话人聚类模型是解决无预设类别数聚类和固定类别数聚类两个主要问题的常用方法。一般情况下，模型以i向量等特征作为概率的输入，线性判别分析模型（PLDA）的目的是在长语音应用场景中形成距离矩阵，然后通过聚类模型得到聚类结果。然而，传统的基于AHC的说话人聚类方法存在运行时间长、对环境噪声敏感等缺点。本文提出了一种基于互信息和离散变量非线性模型的说话人聚类方法，该方法在Tied Variational Autoencoder（TVAE）的启发下，提高了说话人聚类算法对噪声的鲁棒性。提出的方法命名为离散捆绑变分自动编码器（DTVAE），大大缩短了耗时。根据经验结果，它优于一般模型，并产生相对精度（ACC）的改善和显着的时间减少。
2020-03-04 cs.LG cs.SD eess.AS
Scalable Posterior Uncertainty for Flexible Density-Based Clustering
Department of Statistics and Data Sciences, UT Austin（统计与数据科学系，德克萨斯大学奥斯汀分校）
本文提出一种结合martingale后验分布与密度聚类的新框架，通过预测重采样方案实现密度不确定性量化，利用可微密度估计器提升大规模数据处理效率，并在图像和单细胞RNA测序数据中验证了其有效性。
2026-10-21 cs.LG stat.ML
An efficient density-based clustering algorithm using reverse nearest neighbour
University of Hertfordshire（赫特福德大学）；University of Essex（埃塞克斯大学）
基于密度的聚类是发现实体（集群）的高密度区域的任务，这些区域被连续的低密度区域彼此分开。DBSCAN可以说是最流行的基于密度的聚类算法。但是，其群集恢复能力取决于这两个参数的组合。在本文中，我们提出了一种新的基于密度的聚类算法，它使用反向最近邻（RNN），并有一个单一的参数。我们还表明，它是可能的估计一个很好的值，这个参数使用聚类有效性指数。RNN查询使我们的算法能够考虑多个实体来估计密度，并恢复分离不佳或密度不同的集群。我们在合成数据集和真实数据集上的实验表明，我们提出的算法优于DBSCAN及其最近的变体ISDBSCAN。
2018-11-19 cs.LG stat.ML
A Domain Adaptive Density Clustering Algorithm for Data with Varying Density Distribution
Hunan University（湖南大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）；Tsinghua University（清华大学）
聚类算法作为一种高效的无监督学习方法，以其显著的优势在数据采掘和知识发现中得到了广泛的应用。然而，基于密度峰值的聚类算法对具有变密度分布（VDD）、均衡分布（ED）和多域密度最大值（MDDM）的数据聚类效果有限，导致稀疏簇丢失和簇碎片化问题。为了解决这些问题，我们提出了一个域自适应密度聚类（DADC）算法，它包括三个步骤：域自适应密度测量，聚类中心的自识别，和集群自集成。对于具有VDD特征的数据，使用统一的密度峰值阈值往往会忽略稀疏区域中的簇，从而导致稀疏簇的丢失。我们定义了一个域自适应密度测量方法的基础上K-最近邻（KNN）的自适应检测不同的密度区域的密度峰值。我们将每个数据点及其KNN邻域视为一个子群，以更好地反映其在域视图中的密度分布。此外，对于具有ED或MDDM特征的数据，可以识别出大量具有相似值的密度峰值，这导致聚类碎片化。提出了一种聚类中心自识别和聚类自集成的方法来自动提取初始聚类中心和合并碎片聚类。实验结果表明，与其他比较算法相比，所提出的DADC算法可以得到更合理的VDD，ED和MDDM特征的数据的聚类结果。DADC具有参数要求少、不需要迭代等优点，计算复杂性低，适合大规模数据聚类。
2019-11-23 cs.LG stat.ML
Coarse-Grain Cluster Analysis of Tensors with Application to Climate Biome Identification
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Center for Nonlinear Studies（非线性研究中心）
张量提供了一种简洁的方式来编码复杂数据的相互依赖性。将张量视为d路数组，每个条目记录不同索引之间的交互。聚类提供了一种将复杂的数据解析为更容易理解的信息的方法。聚类方法在很大程度上取决于所选择的算法以及所选择的算法超参数。然而，它们对数据尺度的敏感性在很大程度上是未知的。在这项工作中，我们应用离散小波变换来分析粗粒度聚类张量数据的影响。我们特别感兴趣的是了解尺度如何影响地球气候系统的聚类。离散小波变换允许地球的气候在众多的时空尺度的分类。离散小波变换用于产生分类估计的集合，而不是单个分类。利用信息论方法对L15气候数据集进行聚类分析，识别出重要的尺度长度。我们还发现了一个子集合的合奏，跨越观察到的大部分方差，允许有效的共识聚类技术，可用于识别气候生物群系。
2020-05-22 cs.LG stat.ML
Almost Linear Time Consistent Mode Estimation and Quick Shift Clustering
University of Tehran（塔里哈大学）
本文提出结合LSH与快速位移算法的高维空间密度聚类方法，实现近线性时间复杂度和一致的密度估计。
2025-11-27 cs.LG stat.ML
Mass Distribution versus Density Distribution in the Context of Clustering
State Key Laboratory for Novel Software Technology, Nanjing University, China 210023（新型软件技术国家重点实验室，南京大学，中国）；School of Artificial Intelligence, Nanjing University, Nanjing, China 210023（人工智能学院，南京大学，南京，中国）；School of IT, Deakin University, Geelong, Australia 3125（信息技术学院，德金大学，Geelong，澳大利亚）
本文提出质量最大化聚类算法，用于克服密度分布的高密度偏见问题，以发现任意形状和密度的聚类。
2026-01-23 cs.LG stat.ML
Skeleton Clustering: Dimension-Free Density-based Clustering
University of Washington（华盛顿大学）
我们介绍了一种基于密度的聚类方法，称为骨架聚类，可以检测多变量，甚至高维数据的不规则形状的集群。为了绕过维数灾难，我们提出了替代密度的措施，是不太依赖于尺寸，但有直观的几何解释。作为中间步骤，聚类框架构建了给定数据的简洁表示，可以认为是原型方法，基于密度的聚类和层次聚类的组合。我们通过理论分析和实证研究表明，骨架聚类导致可靠的集群在多元和高维的场景。
2023-01-18 cs.LG stat.ME stat.ML
Hierarchical clustering with maximum density paths and mixture models
Institute of Computer Science and Campus Institute Data Science, University of Göttingen（计算机科学研究所和校园数据科学研究所，哥廷根大学）；Max Planck Institute for Dynamics and Self-Organization（动态与自组织Max Planck研究所）
针对现有层次聚类在高维、无清晰密度间隙数据上的不足，提出基于概率的t-NEB方法，通过过聚类密度估计、最大密度路径查找和自底向上合并三步实现最优性能与有意义层次，助力探索性数据分析。
2025-05-21 cs.LG stat.ML
Stagewise Learning for Sparse Clustering of Discretely-Valued Data
EM在学习乘积分布的混合物时的性能通常取决于初始化。这在众包和其他应用中可能是有问题的，例如，当少量的“专家”被大量嘈杂的、不可靠的参与者稀释时。我们开发了一个新的期望最大化算法，是由这些专家。与其他方法不同的是，我们从一个单一的混合类开始。然后，该算法开发的一组“专家”在一个阶段的方式的基础上的互信息标准。在每个阶段，EM都对参与者的这个子集进行操作，有效地规范了E而不是M步骤。实验表明，分阶段EM优于众包和神经科学应用的其他初始化技术，并可以引导一个完整的EM获得的结果与那些知道确切的分布。
2016-05-28 cs.LG q-bio.QM stat.ML
End-to-end Differentiable Clustering with Associative Memories
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Research（IBM研究院）
本文揭示联想记忆动力学与聚类离散分配的联系，提出无约束连续松弛方法ClAM及自监督聚类损失，实现端到端可微聚类，并在多数据集上显著优于k-means和现有连续松弛方法。
2023-06-05 cs.LG
Density-based Clustering with Best-scored Random Forest
Renmin University of China（中国人民大学）
基于单水平密度的聚类方法一直被广泛认为是一种概念上和数学上令人信服的聚类方法。在本文中，我们提出了一种算法称为“最佳得分聚类森林”，可以获得最佳水平，并确定相应的集群。术语“最佳得分”意味着从一定数量的纯随机树候选中选择一个具有最佳经验性能的随机树。从理论的角度来看，我们首先表明，我们提出的算法的一致性可以得到保证。此外，在对底层密度函数和目标聚类的某些温和限制下，甚至可以实现快速收敛。最后，与其他国家的最先进的聚类方法在数值实验中的比较表明，我们的算法的准确性在合成数据和几个基准的真实数据集。
2019-06-24 cs.LG stat.ML
Simultaneous Clustering and Model Selection for Multinomial Distribution: A Comparative Study
Université Lumière Lyon 2（里昂第二大学）
在本文中，我们研究了不同的离散数据聚类方法，使用基于模型的聚类（MBC）框架与多项分布。我们的研究包括几个相关的问题，如初始化，模型估计和模型选择。此外，我们提出了一种新的MBC方法，有效地结合分区和层次聚类技术。我们进行实验，合成和真实的数据和评估的方法，使用的准确性，稳定性和计算时间。我们的研究确定了适当的策略，用于离散数据分析的MBC方法。此外，我们提出的方法是非常有竞争力的w.r.t.聚类精度和更好的w.r.t.稳定性和计算时间。
2015-09-06 cs.LG stat.ME stat.ML
From Trees to Continuous Embeddings and Back: Hyperbolic Hierarchical Clustering
Department of Computer Science, Stanford University（斯坦福大学计算机科学系）；Institute for Computational and Mathematical Engineering, Stanford University（斯坦福大学计算与数学工程研究所）；Google Research, NY（谷歌研究院（纽约））
基于相似性的层次聚类（HC）是一种经典的无监督机器学习算法，传统上是用启发式算法如平均链接来解决的。最近，Dasgupta通过引入一个衡量给定树质量的全局成本函数，将HC重新定义为一个离散优化问题。在这项工作中，我们提供了第一个连续放松Dasgupta的离散优化问题，可证明的质量保证。我们的方法HypHC的关键思想是显示从离散树到连续表示的直接对应关系（通过其叶节点的双曲嵌入）和返回（通过将叶嵌入映射到树状图的解码算法），允许我们搜索离散二叉树的空间，并进行连续优化。树和双曲空间之间的类比的基础上，我们推导出一个连续的模拟的概念，最低的共同祖先，这导致连续放松达斯古普塔的离散目标。我们可以证明，在解码之后，我们的连续松弛的全局极小值产生了一个离散树，它具有Dasgupta最优树的（1 + 1）因子近似，其中1可以任意小，并控制优化挑战。我们实验评估HypHC的各种HC基准，并发现，即使是近似的解决方案，发现与梯度下降有更好的聚类质量比凝聚算法或其他基于梯度的算法。最后，我们强调了HypHC在下游分类任务中使用端到端训练的灵活性。
2020-10-01 cs.DS cs.LG stat.ML
From Discrete to Continuous: Deep Fair Clustering With Transferable Representations
School of Information Science and Engineering, Southeast University（东南大学信息科学与工程学院）
针对现有深度公平聚类无法处理连续敏感属性且忽略表示迁移潜力的问题，提出一种基于信息瓶颈的灵活方法，在表示层面施加公平性约束，能同时处理离散与连续敏感属性，并首次实现向下游任务的可迁移性，实验证明其优于现有最先进方法。
2024-03-24 cs.CV cs.CY cs.LG
Connecting Spectral Clustering to Maximum Margins and Level Sets
Stellenbosch University（斯泰伦博斯大学）
我们研究了谱聚类和最大间隔聚类问题之间的联系，以及密度函数水平集分量的估计。具体来说，我们得到的图拉普拉斯矩阵的特征向量的集群之间的分离，集群内的连接方面的界限。这些界限确保谱聚类解决方案收敛到最大间距聚类解决方案的缩放参数减少到零。最大间距聚类解决方案对离群点的敏感性是众所周知的，但可以通过首先去除这些离群点并将最大间距聚类应用于剩余点来减轻。如果使用潜在概率密度的估计来识别离群值，则剩余点可以被视为该密度函数的水平集的估计。我们表明，这样的方法可以用来一致地估计组件的水平集的密度函数在非常温和的假设。
2018-12-16 cs.LG stat.ML
Understanding the Generalization Performance of Spectral Clustering Algorithms
Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）；Beijing Key Laboratory of Big Data Management and Analysis Methods（北京大数据管理与分析方法重点实验室）
谱聚类的理论分析主要集中在一致性方面，而对其泛化性能的研究相对较少。本文研究了谱聚类算法\emph{relaxed} RatioCut和\emph{relaxed} NCut的超额风险界。首先，我们证明了经验连续最优解和总体水平连续最优解之间的超额风险界具有$\mathcal{O}(1/\sqrt{n})$收敛速度，其中$n$是样本容量.其次，我们给出了影响经验离散最优解和总体离散最优解之间超额风险的基本量。在经验层面上，可以设计算法来减少这个数量。基于我们的理论分析，我们提出了两种新的算法，不仅可以惩罚这个数量，但也聚类样本外的数据没有重新特征分解的整体样本。实验验证了所提算法的有效性。
2022-07-17 cs.LG stat.ML
Clustering Based on Density Propagation and Subcluster Merging
School of Artificial Intelligence, OPtics and ElectroNics (iOPEN)（人工智能、光学与电子学院（iOPEN））；School of Computer Science（计算机学院）；Northwestern Polytechnical University（西北工业大学）
提出DPSM密度聚类方法，通过密度传播自动确定簇数并适用于图空间，结合CluCut度量指导子簇合并，实验验证其有效性。
2024-11-04 cs.LG stat.ML
Internal Evaluation of Density-Based Clusterings with Noise
University of Vienna（维也纳大学）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Aarhus University（奥胡斯大学）
DISCO是一种新的聚类验证指数，专门用于评估密度聚类中噪声分配的质量，通过密度连通性改进轮廓系数，解决噪声评估和边缘情况处理问题。
2025-12-10 cs.LG stat.ML
A density peaks clustering algorithm with sparse search and K-d tree
Harbin University of Science and Technology（哈尔滨理工大学）
密度峰聚类算法由于其简单、实用而成为聚类算法中的一个新的研究热点。然而，有一个主要的缺点：它是耗时的，由于其高计算复杂度。为此，提出了一种基于稀疏搜索和K-d树的密度峰值聚类算法。首先，利用K-d树计算一个稀疏距离矩阵来代替原来的满秩距离矩阵，从而加快了局部密度的计算。其次，提出了一种稀疏搜索策略，利用$k$最近邻点集与局部密度较大的数据点集的交集来加速相对分离度的计算。采用决策值二阶差分法自适应地确定聚类中心。最后，在不同分布特征的数据集上进行了实验，并与其他六种聚类算法进行了比较。证明了该算法能有效地将原DPC的计算复杂度从$O(n^2K)$降低到$O(n(n^{1-1/K}+k))$。特别是对于较大的数据集，效率得到了更显著的提高。此外，聚类精度也得到了一定程度的提高。因此，可以得出结论，新提出的算法的整体性能是优秀的。
2022-07-19 cs.LG stat.ML
A New Index for Clustering Evaluation Based on Density Estimation
Tsinghua University（清华大学）
提出一种由模糊指标与相似性指标构成、基于各簇密度估计的聚类内部评估新指标，并在145个数据集上验证其显著优于六种现有指标。
2024-06-17 cs.LG stat.ML
Fourier Transform Approach to Machine Learning II: Fourier Clustering
我们提出了一个基于傅立叶的方法优化的几个聚类算法。在数学上，集群数据可以通过由狄拉克混合分布表示的密度函数来描述。密度函数可以通过应用傅立叶变换和高斯滤波器来平滑。高斯滤波器的最佳标准偏差的确定将通过使用与平滑和原始密度函数之间的相关性有关的收敛准则来完成。原则上，最优平滑密度函数具有局部最大值，其对应于聚类中心。因此，通过检测平滑密度函数的峰值，简化了寻找聚类质心的复杂任务。一个多滑动窗口程序被用来检测峰值。该算法的显着的准确性表明，它的能力作为一个可靠的通用方法，提高聚类性能，其全局优化，也消除了许多聚类方法中的初始化问题。
2019-09-22 cs.LG stat.ML
Fermat Distances: Metric Approximation, Spectral Convergence, and Clustering Algorithms
University of Wisconsin（威斯康星大学）；University of Utah（犹他大学）；Colorado School of Mines（科罗拉多矿业学院）；Tufts University（塔夫茨大学）
本文研究 Fermat 距离从离散样本到连续密度扭曲度量的收敛速率，并据此证明图 Laplace 算子谱收敛，提出新的密度驱动谱聚类算法。
2023-07-07 cs.DS cs.LG math.DG
VICatMix: variational Bayesian clustering and variable selection for discrete biomedical data
MRC Biostatistics Unit University of Cambridge East Forvie Building（医学研究理事会生物统计学单位剑桥大学东部大楼）；MRC Biostatistics Unit and CRUK Cambridge Centre Ovarian Programme and Cambridge Institute of Therapeutic Immunology and Infectious Disease (CITIID) University of Cambridge（医学研究理事会生物统计学单位和癌症研究英国委员会剑桥中心卵巢计划及剑桥治疗免疫学和传染病研究所（CITIID）剑桥大学）
VICatMix通过变分贝叶斯方法实现高效聚类和变量选择，适用于高维生物医学数据，提升癌症亚型分组和驱动基因发现的准确性。
2026-03-01 cs.LG stat.ME stat.ML
Nearest-Neighbour-Induced Isolation Similarity and its Impact on Density-Based Clustering
Monash University（莫纳什大学）；Federation University（澳大利亚联邦大学）；Deakin University（迪肯大学）
针对隔离相似性树实现方法的缺陷，提出近邻诱导的隔离相似性，将其替换DBSCAN的距离度量可显著提升性能，还定义了质量连通簇并给出相关检测条件。
2019-06-30 cs.LG stat.ML
Efficient Multi-view Clustering via Unified and Discrete Bipartite Graph Learning
South China Agricultural University（华南农业大学）；Sun Yat-sen University（中山大学）；South China Normal University（华南师范大学）
虽然基于图的多视图聚类算法已经取得了很大的进展，但大多数算法仍然面临着三个方面的局限性。首先，它们通常具有较高的计算复杂性，这限制了它们在大规模场景中的应用。其次，他们通常在单视图或视图一致性水平上进行图学习，但往往忽略了单视图和一致性图联合学习的可能性。第三，他们中的许多人依赖于k-均值离散化的谱嵌入，这缺乏直接学习具有离散聚类结构的图的能力。鉴于此，本文提出了一种有效的多视图聚类方法，通过统一和离散二分图学习（UDBGL）。具体地，基于锚的子空间学习被结合以从多个视图学习视图特定的二分图，在此基础上，二分图融合被利用以学习具有自适应权重学习的视图一致性二分图。此外，施加拉普拉斯秩约束，以确保融合的二分图具有离散的簇结构（具有特定数量的连接组件）。通过同时制定特定于视图的二分图学习，视图一致性二分图学习，和离散聚类结构学习到一个统一的目标函数，然后设计一个有效的最小化算法来解决这个优化问题，并直接实现离散聚类解决方案，而不需要额外的分区，这显着具有线性时间复杂度的数据大小。在多种多视图数据集上的实验证明了UDBGL方法的鲁棒性和有效性。该代码可在https://github.com/huangdonghere/UDBGL上获得。
2023-03-22 cs.AI cs.LG
SDCOR: Scalable Density-based Clustering for Local Outlier Detection in Massive-Scale Datasets
Amirkabir University of Technology（阿米拉比尔理工大学）；University of Twente（特温特大学）；ICAR-CNR（意大利国家研究委员会计算与高性能网络研究所）
本文提出了一种基于密度的批量聚类方法，用于大规模数据集的局部离群点检测。与传统算法不同的是，传统算法假设所有的数据都是内存驻留的，我们提出的方法是可扩展的，并在有限的内存缓冲区内逐块处理输入数据。首先建立临时聚类模型，然后通过分析点的连续内存负载来逐步更新聚类模型。随后，在可扩展聚类结束时，获得原始聚类的近似结构。最后，通过对整个数据集的另一次扫描并使用合适的标准，为每个对象分配一个离群分数，称为SDCOR（可扩展的基于密度的聚类离群率）。在真实数据集和人工数据集上的测试表明，该方法具有较低的线性时间复杂度，与传统的基于密度的方法相比，具有更高的效率和有效性，传统的基于密度的方法需要将所有数据加载到内存中，而基于距离的方法可以对驻留在磁盘上的数据执行。
2021-07-05 cs.LG stat.ML
Automatic topography of high-dimensional data sets by non-parametric Density Peak clustering
SISSA, Scuola Internazionale Superiore Studi Avanzati（国际高级研究学院（SISSA））；Functional Genomics Center Zurich（苏黎世功能基因组学中心）；UZH/ETHZ（苏黎世大学/苏黎世联邦理工学院）；Swiss Institute of Bioinformatics（瑞士生物信息学研究所）；ICTP, International Centre for Theoretical Physics（国际理论物理中心（ICTP））
高维空间中的数据分析旨在获得对数据集的综合描述，揭示其主要结构和显著特征。我们在这里介绍一种方法，提供这种描述的形式的地形的数据，即人类可读的图表的概率密度，从该数据被收获。该方法是基于一个无监督的扩展的密度峰聚类和非参数密度估计，测量包含数据的流形中的概率密度。这允许自动找到概率密度的峰值的数量和高度，以及将它们分开的“谷”的深度。重要的是，密度估计器提供了误差的度量，这允许区分真正的密度峰值和由于有限采样引起的密度波动。因此，该方法提供了关于密度峰的高度、其统计可靠性和其分层组织的鲁棒和可视信息，提供了标准聚类分区的概念上的强大扩展。我们表明，这个框架是特别有用的复杂数据集的分析。
2021-02-05 cs.LG stat.ML
Deep Density-based Image Clustering
University of Electronic Science and Technology of China（电子科技大学）
最近，能够通过深度神经网络执行有利于聚类任务的特征学习的深度聚类在图像聚类应用中取得了显著的性能。然而，现有的深度聚类算法通常需要预先知道聚类的数量，而这在现实任务中通常是未知的。此外，在学习的特征空间中的初始聚类中心生成的$k$ -手段。这只适用于球形聚类，并可能导致不稳定的聚类结果。在本文中，我们提出了一个两阶段的深度密度为基础的图像聚类（DDC）框架来解决这些问题。第一阶段是训练深度卷积自动编码器（CAE）以从高维图像数据中提取低维特征表示，然后应用t-SNE将数据进一步减少到有利于基于密度的聚类算法的2维空间。第二阶段是应用开发的基于密度的聚类技术的2维嵌入数据自动识别适当数量的集群与任意形状。具体地说，该算法通过生成多个局部聚类来捕捉聚类的局部结构，然后通过聚类结果的密度关系进行聚类合并。实验表明，所提出的DDC实现可比的，甚至更好的聚类性能比国家的最先进的深度聚类方法，即使没有给出的集群的数量。
2018-12-11 cs.CV cs.LG stat.ML
Clustering Based on Graph of Density Topology
AI Lab, School of Engineering, Westlake University（西湖大学工程学院人工智能实验室）
在高噪声环境下，对分布不均匀的数据进行聚类是一个挑战。目前，HDBSCAN被认为是解决该问题的SOTA算法。在本文中，我们提出了一种新的聚类算法的基础上，我们称之为密度拓扑图（GDT）。GDT综合考虑了数据样本的局部和全局结构：首先基于密度增长过程形成局部聚类，并采用适当的噪声处理策略和聚类边界检测策略;然后根据局部聚类之间的关系，利用连通性度量来估计GDT，给出全局拓扑图.连接性，测量相邻局部聚类之间的相似性，是基于局部聚类而不是单个点，确保其鲁棒性，即使是非常大的噪声。在玩具数据集和真实数据集上的测试结果表明，GDT在几乎所有流行数据集上都达到了SOTA性能，并且具有O（nlogn）的低时间复杂度.该代码可在www.example.com上获得。
2020-09-24 cs.LG stat.ML
Density Adaptive Parallel Clustering
Scuola Superiore Sant’Anna（圣安娜高等研究学院）
在本文中，我们将介绍一种新的基于最近邻的聚类方法，并将其与以前的解决方案进行比较;由此产生的算法，它的灵感来自DBscan和最小生成树方法，是确定性的，但证明更简单，更快，不需要预先设置k值，集群的数量。
2014-07-11 cs.DS cs.LG stat.ML
Novelty Detection in Sequential Data by Informed Clustering and Modeling
Ruhr-University Bochum（波鸿鲁尔大学）；Fudan University（复旦大学）；University Hospital Essen（埃森大学医院）；Monash University（莫纳什大学）
本文提出通过领域专家知情聚类将离散序列分解为多个子问题并用LSTM分别建模，从而提升新颖性检测性能，在三个真实场景中优于自动聚类和全局模型方法。
2023-07-10 cs.LG
Hierarchical clustering that takes advantage of both density-peak and density-connectivity
Deakin University（迪肯大学）；Nanjing University（南京大学）；Monash University（莫纳什大学）
针对DP与DBSCAN两类密度聚类算法的检测缺陷，本文提出融合二者优势的DC-HDP层次聚类算法，可识别任意形状与密度的簇并生成层次化结果，在14个数据集上优于7种主流算法。
2021-09-20 cs.AI cs.LG stat.ML
Improvement of K Mean Clustering Algorithm Based on Density
Harbin Institute of Technology（哈尔滨工业大学）；Beihang University（北京航空航天大学）；Jilin University（吉林大学）
本文的目的是对传统的K-means算法进行改进。在传统的K均值聚类算法中，初始聚类中心是在数据集中随机产生的。当初始聚类中心是随机产生的时，容易陷入局部极小解。基于密度的K均值聚类算法选择的初始聚类中心更具代表性。实验结果表明，改进的K聚类算法消除了对初始聚类的依赖，提高了聚类的准确率。
2018-10-09 cs.LG
FISHDBC: Flexible, Incremental, Scalable, Hierarchical Density-Based Clustering for Arbitrary Data and Distance
Symantec Research Labs（赛门铁克研究实验室）
FISHDBC是一种灵活的、增量的、可扩展的、基于层次密度的聚类算法。它很灵活，因为它使用户能够处理任意数据，跳过通常将原始数据转换为数值数组的特征提取步骤，让用户定义任意距离函数。它是增量的和可扩展的：它避免了其他方法在非度量空间中的$\mathcal O(n^2)$性能，并且当添加很少的项时，只需要轻量级计算来更新聚类。它是分层的：它产生“扁平”聚类，该聚类可以扩展为树结构，从而当数据探索需要时，用户可以将聚类分组和/或划分为子聚类或超聚类。它是基于密度的，近似于HDBSCAN*，是DBSCAN的一种演变。
2019-10-16 cs.DS cs.LG stat.ML
$α$-Approximation Density-based Clustering of Multi-valued Objects
由于侵犯版权，此提交已被arXiv管理员删除。
2018-08-16 cs.LG
Clustering by Deep Nearest Neighbor Descent (D-NND): A Density-based Parameter-Insensitive Clustering Method
University of Electronic Science and Technology of China（电子科技大学）
大多数基于密度的聚类方法在很大程度上依赖于对底层密度的估计。然而，密度估计本身也是一个具有挑战性的问题，尤其是核带宽的确定。大的带宽可能导致过平滑的密度估计，其中密度峰值的数量可能小于真实的聚类，而小的带宽可能导致欠平滑的密度估计，其中在估计的密度中将生成伪密度峰值，或称为“波纹噪声”。在本文中，我们提出了一种基于密度的层次聚类方法，称为深度最近邻下降（D-NND），它可以逐层学习底层的密度结构，同时捕获聚类结构。该方法可以避免过平滑密度估计，同时也可以减小欠估计情况的负面影响。总的来说，D-NND不仅表现出很强的发现潜在集群结构的能力，而且由于其对参数的不敏感性，具有显著的可靠性。
2015-12-07 cs.CV cs.LG stat.CO
Discretize Relaxed Solution of Spectral Clustering via a Non-Heuristic Algorithm
Northwestern Polytechnical University（西北工业大学）
针对谱聚类中离散化松弛解时忽略原始目标的启发式方法缺陷，提出基于一阶优化的一阶项连接原始问题与离散化算法的非启发式方法，使离散解更可靠且损失更优。
2023-10-19 cs.LG
SHADE: Deep Density-based Clustering
University of Vienna（维也纳大学）；UniVie Doctoral School Computer Science（维也纳大学计算机科学博士学院）；LMU Munich（慕尼黑大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；ds:UniVie（维也纳大学数据科学中心）
针对高维含噪数据中任意形状簇检测难题，提出首个将密度连通性纳入损失函数的深度聚类算法SHADE，无需用户输入即可自动聚类，聚类质量更优且嵌入空间利于结果可视化解释。
2024-10-08 cs.LG
ADBSCAN: Adaptive Density-Based Spatial Clustering of Applications with Noise for Identifying Clusters with Varying Densities
Mississippi State University（密西西比州立大学）；International University of Business Agriculture and Technology（国际商业农业与技术大学）；Rajshahi University of Engineering and Technology（拉杰沙希工程技术大学）
基于密度的噪声应用空间聚类算法（DBSCAN）是一种对数据点密度恒定的数据集具有较高聚类效率的数据聚类算法。该算法的一个重要属性是噪声消除。然而，DBSCAN表现出不同密度的集群性能降低。因此，在本文中，提出了一种自适应DBSCAN，它可以很好地识别具有不同密度的集群。
2018-11-29 cs.CV cs.LG stat.ML
Scalable Varied-Density Clustering via Graph Propagation
针对高维数据变密度聚类问题，提出将其作为邻域图中标签传播过程的新视角，引入密度感知邻域传播算法并结合随机投影方法构建近似邻域图，在降计算成本同时保持聚类质量，处理大数据集效率高且准确率有竞争力。
2026-07-13 cs.LG
Density-Based Clustering with Kernel Diffusion
University of Southampton（南安普顿大学）；Peking University（北京大学）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）
对于基于密度的聚类算法，如DBSCAN和DPC，找到合适的密度函数是必不可少的。在这些算法中，通常使用对应于单位$d$维欧氏球的指示函数的朴素密度。这样的密度在复杂数据集中捕获局部特征时会受到影响。为了解决这个问题，我们提出了一个新的核扩散密度函数，这是自适应的数据变化的局部分布特性和平滑。此外，我们开发了一个可以在线性时间和空间中有效计算的代理，并证明它与核扩散密度函数渐进等价。在基准数据集和大规模人脸图像数据集上的实验表明，该方法不仅比经典的基于密度的聚类算法有显著的改进，而且比现有的人脸聚类算法性能更好.
2021-10-14 cs.LG
DeBaCl: A Python Package for Interactive DEnsity-BAsed CLustering
Carnegie Mellon University（卡内基梅隆大学）
Hartigan（1975）的水平集树方法提供了一种基于概率的、高度可解释的数据集聚类行为编码。通过将数据模式的层次结构表示为密度估计器的水平集的树状图，这种方法为探索性分析和聚类提供了许多优点，特别是对于复杂和高维数据。存在几个R包的水平集树估计，但其实际用途是有限的计算效率低，缺乏交互式图形功能，从理论的角度来看，依赖于渐近近似。为了让实践者更容易地捕捉水平集树的优点，我们编写了Python包DeBaCl用于基于密度的聚类。在这篇文章中，我们将说明如何DeBaCl的水平集树估计可以用于困难的聚类任务和交互式图形数据分析。该软件包旨在通过提高计算效率和高度的用户定制来促进水平集树的实际使用。此外，DeBaCl中实现的灵活算法具有有限的样本精度，正如最近的密度聚类文献所证明的那样。最后，我们展示了水平集树框架可以很容易地扩展到处理功能数据。
2013-07-30 cs.LG stat.ME stat.ML
Clustering dynamics on graphs: from spectral clustering to mean shift through Fokker-Planck interpolation
在这项工作中，我们建立了一个统一的框架，密度驱动和基于几何的数据聚类算法之间的插值，具体来说，连接的均值漂移算法与谱聚类在离散和连续水平。我们通过引入数据图上的福克-普朗克方程来寻求这种联系。除了引入新形式的均值漂移算法的图形，我们提供了新的理论见解的行为的家庭的扩散地图在大样本限制，以及提供新的连接之间的扩散地图和均值漂移动态固定图。几个数值例子说明了我们的理论研究结果，并强调插值密度驱动和基于几何的聚类算法的好处。
2021-10-20 cs.LG math.AP stat.ML
Geometric reconstructions of density based clusterings
University of Liverpool（利物浦大学）
DBSCAN* 和HDBSCAN* 是成熟的基于密度的聚类算法。然而，获得非常大的数据集的集群是不可行的，限制了它们在现实世界中的应用。通过利用几何的欧几里得空间，我们证明了它是可能的，系统地构建DBSCAN* 和HDBSCAN* 集群的有限$X\subset \mathbb{R}^n$从特定的子集$X$。我们能够控制这些子集的大小，因此我们的结果使聚类非常大的数据集成为可能。为了说明我们的理论，我们集群的微软建筑足迹数据库的美国，这是不可能使用的标准实现。
2022-03-14 cs.DM cs.LG stat.ML
Risk Bounds For Mode Clustering
Carnegie Mellon University（卡内基梅隆大学）
密度模式聚类是一种非参数聚类方法。簇是密度估计的模的吸引域。我们研究了基于模式的聚类的风险。我们表明，集群核心的集群风险-密度高的区域-是非常小的，即使在高维度。在低噪声条件下，即使在高维数下，核之外的整体集群风险也很小。
2015-05-03 cs.LG math.ST stat.ML
Graph-based Multi-view Binary Learning for Image Clustering
Dalian Maritime University（大连海事大学）；Pengcheng Laboratory（鹏城实验室）
散列技术，也称为二进制代码学习，最近在大规模数据分析和存储中获得了越来越多的关注。现有的散列聚类方法大多是单视图聚类方法，缺乏完整的结构或多视图的互补信息。对于集群任务，大量的研究主要集中在学习离散散列码，很少有工作考虑到原始数据结构。为了解决这些问题，本文提出了一种新的二进制编码聚类算法GMBL，该算法采用图嵌入来保持原始数据结构，称为基于图的多视图二进制学习（Graph-based Multi-view Binary Learning）。GMBL主要集中于将多个视图的信息编码成紧凑的二进制代码，该代码从多个视图探索互补信息。特别地，为了保持原始数据的基于图的结构，我们采用拉普拉斯矩阵来保持数据的局部线性关系，并将其映射到汉明空间。考虑到不同的视图对聚类结果的贡献不同，GMBL采用了自动分配权重的策略，以更好地指导聚类。最后，采用交替迭代优化方法直接优化离散二进制码，而不是分两步放松二进制约束。在五个公共数据集上的实验表明，我们提出的方法相比以前的方法在聚类性能方面的优越性。
2019-12-11 cs.CV cs.LG stat.ML
DECWA : Density-Based Clustering using Wasserstein Distance
IRIT（图卢兹计算机科学研究所）
提出基于空间密度和概率方法的DECWA聚类算法，利用Wasserstein度量测量子簇概率密度函数间距离并聚集相似子簇，有效解决了低密度和相似密度簇的识别问题。
2023-10-25 cs.LG
An Improved Probability Propagation Algorithm for Density Peak Clustering Based on Natural Nearest Neighborhood
University of Science and Technology of China（中国科学技术大学）
通过快速搜索和找到密度峰值（DPC）进行聚类（Since，2014）已被证明是一种有前途的聚类方法，其通过找到密度峰值来有效地发现聚类中心。DPC的精度取决于截断距离（$d_c$）、聚类数（$k$）和聚类中心的选择。此外，最终的分配策略是敏感的，具有差的容错。上述缺点使得该算法对参数敏感，只适用于某些特定的数据集。针对DPC算法的局限性，提出了一种改进的基于自然最近邻的概率传播密度峰值聚类算法（DPC-PPNNN）。DPC-PPNNN通过引入自然最近邻和概率传播的思想，实现了非参数聚类过程，使算法适用于更复杂的数据集。在几个数据集上的实验中，DPC-PPNNN的性能优于DPC，K-means和DBSCAN。
2022-07-04 cs.LG
Proportionally Representative Clustering
UNSW Sydney（新南威尔士大学悉尼分校）；ETH Zürich（苏黎世联邦理工学院）；Northwestern University（西北大学）
聚焦无监督机器学习的质心聚类，提出‘比例代表性公平’公理，现有算法不满足该公理，设计高效算法在无约束和离散聚类问题中实现此公理，无约束算法是首个多项式时间近似算法，离散算法匹配已知最佳近似因子。
2026-07-07 cs.GT cs.LG
