Determining the Number of Clusters via Iterative Consensus Clustering
North Carolina State University(北卡罗来纳州立大学);University of North Carolina Chapel Hill(北卡罗来纳大学教堂山分校)
我们使用聚类集合来确定一组数据中的聚类数k。一致性相似性矩阵是使用多个算法和k的多个值从集合中形成的。在一致矩阵定义的图上诱导随机游动,并使用相关转移概率矩阵的特征值来确定聚类的数量。对于有噪声或高维数据,提出了一种迭代技术,以改进这种共识矩阵的方式,鼓励块对角形式。结果表明,所得到的共识矩阵一般优于现有的相似性矩阵,这种类型的光谱分析。
2014-08-05 cs.CV cs.LG stat.ML
An iterative clustering algorithm for the Contextual Stochastic Block Model with optimality guarantees
Inria(法国国家信息与自动化研究所);Université de Lille(里尔大学);CNRS(法国国家科学研究中心)
现实世界的网络通常带有辅助信息,可以帮助提高网络分析任务(如聚类)的性能。尽管在过去的十年中进行了大量的网络聚类方法的实证和理论研究,侧信息的附加值和用于将其最佳地在聚类算法的方法是相对较少的理解。我们提出了一个新的迭代算法聚类网络与边信息的节点(协变量的形式),并表明我们的算法是最优的上下文对称随机块模型。我们的算法可以应用于一般的上下文随机块模型,并避免超参数调整,与以前提出的方法相比。我们证实了我们的理论结果的合成数据实验中,我们的算法显着优于其他方法,并表明它也可以应用到有符号的图。最后,我们证明了我们的方法对真实数据的实际兴趣。
2022-07-28 cs.LG math.ST stat.ML
An Automated Spectral Clustering for Multi-scale Data
Virginia Tech(弗吉尼亚理工学院暨州立大学)
谱聚类算法通常需要输入参数的先验选择,例如聚类的数量、用于亲和度度量的缩放参数或用于参数调整的这些值的范围。尽管努力自动化的谱聚类的过程中,在多尺度和高维空间的数据分组的任务还有待探讨。本文提出了一种谱聚类启发式算法,该算法通过估计数据本身的参数来避免对输入的需要。具体地说,它介绍了启发式的迭代特征间隙搜索(1)全局缩放和(2)局部缩放。这些方法估计缩放参数,并沿着搜索树实现迭代本征间隙量化,以揭示特征空间的不同尺度下的相异性并识别聚类。这些方法的性能已经在具有多尺度性质和基因表达的功率变化的各种真实世界数据集上进行了测试。我们的研究结果表明,迭代特征间隙搜索与PCA为基础的全球尺度计划可以发现不同的模式,在大多数情况下,准确率高于90%,而不要求先验输入信息。
2019-02-06 cs.LG stat.ML
Unsupervised Temporal Clustering to Monitor the Performance of Alternative Fueling Infrastructure
Palo Alto Research Center(帕洛阿尔托研究中心)
零排放汽车(ZEV)在交通领域的脱碳中发挥着重要作用。为了更广泛地采用ZEV,提供可靠的基础设施至关重要。我们提出了一种机器学习方法,使用无监督的时间聚类算法以及调查分析,以确定基础设施的性能和替代燃料的可靠性。我们说明这种方法在加利福尼亚州的加氢站,但这可以推广到其他地区和燃料。
2019-06-05 cs.CY cs.LG stat.ML
An Alternative Metric for Detecting Anomalous Ship Behavior Using a Variation of the DBSCAN Clustering Algorithm
人们越来越需要快速准确地识别船舶中的异常行为。本文应用基于密度的噪声空间聚类算法(DBSCAN)的变化,以确定船舶的自动识别系统(AIS)数据的异常行为。DBSCAN算法的这种变化以前已经在文献中介绍过,在这项研究中,我们阐明和探索这种算法的数学细节,并介绍了一种替代的异常度量,这是统计信息比以前建议的。
2021-07-07 stat.AP stat.ME stat.ML
Multi-View Fuzzy Clustering with The Alternative Learning between Shared Hidden Space and Partition
School of Digital Media, Jiangnan University(江南大学数字媒体学院);Jiangsu Key Laboratory of Digital Design and Software Technology(江苏省数字设计与软件技术重点实验室)
随着现实世界中多视图数据的增长,多视图聚类已经成为数据采掘、模式识别和机器学习中的一项重要技术。如何利用多视图数据的特点,有效地利用不同视图之间的关系,已成为一个重要的挑战。针对这一问题,提出了一种隐空间共享的多视图模糊聚类方法。该方法基于经典的模糊c-均值聚类模型,通过引入共享隐空间来获取不同视图间的关联信息。特别地,共享隐藏空间和模糊划分可以交替学习,并且相互促进。同时,该方法在学习共享隐空间的同时,采用最大熵策略控制不同视图的权值。实验结果表明,提出的多视图聚类方法具有更好的性能比许多相关的聚类方法。
2019-08-12 cs.AI cs.LG stat.ML
Regression by clustering using Metropolis-Hastings
Universidad de los Andes(安第斯大学);Quantil
健康保险市场的高质量风险调整削弱了保险公司为吸引低成本投保人而采取低效率行为的激励。我们提出了一种新的方法的基础上,马尔可夫链蒙特卡罗方法,以提高风险调整聚类诊断代码到最佳的健康支出预测的风险群体。我们测试的性能,我们的方法对常见的替代品使用面板数据从50万注册的哥伦比亚医疗保健系统。结果表明,我们的方法优于常见的替代方案,并表明它有潜力改善慢性病患者获得优质医疗服务的机会。
2019-09-13 cs.LG stat.AP stat.ME
A Bayesian alternative to mutual information for the hierarchical clustering of dependent random variables
Department of Computational Neuroscience, University Medical Center Hamburg-Eppendorf, Hamburg University(汉堡大学附属埃彭多夫医学中心计算神经科学系,汉堡大学)
在凝聚层次聚类(AHC)中使用互信息作为相似性度量提出了一个重要问题:需要对变量的维数进行一些校正。在这项工作中,我们制定的决定,合并相关的多元正态变量在AHC程序作为贝叶斯模型比较。我们发现贝叶斯公式自然地将经验协方差阵缩小到先验的矩阵集合(例如,恒等式),提供自动停止规则,并使用一项来校正维数,该项根据变量的维数按比例增加度量。此外,由此产生的对数贝叶斯因子是渐近成比例的互信息的插件估计,与贝叶斯信息标准的协议的维数的添加剂校正。我们研究了这些贝叶斯替代品(精确和渐近形式)的行为,以模拟和真实数据的互信息。一个令人鼓舞的结果首先来自模拟:基于对数贝叶斯因子的层次聚类优于现成的聚类技术,以及原始和归一化的互信息的分类精度。在一个玩具例子中,我们发现贝叶斯方法导致的结果与互信息聚类技术相似,具有自动阈值的优势。在测量大脑活动的真实功能性磁共振成像(fMRI)数据集上,它识别出与标准程序的既定结果一致的聚类。在这个应用中,归一化互信息具有高度非典型的行为,在这个意义上,它系统地支持非常大的集群。这些初步的实验表明,提出的贝叶斯替代互信息是一个有用的新工具,层次聚类。
2015-10-19 cs.LG q-bio.QM stat.ML
An Iterative Locally Linear Embedding Algorithm
The University of Texas at Arlington(德克萨斯大学阿灵顿分校)
局部线性嵌入(LLE)是一种流行的降维方法。本文首先证明了具有非负约束的LLE与广泛使用的Laplacian嵌入是等价的。我们进一步建议在LLE中重复重复这两个步骤以改善结果。第三,我们放松了LLE的kNN约束,提出了一种稀疏相似性学习算法。最终的迭代LLE结合了这三个改进。大量的实验结果表明,迭代LLE算法显着改善分类和聚类结果。
2012-06-27 cs.LG stat.ML
Iterative Algorithm for Discrete Structure Recovery
我们提出了一个通用的离散结构恢复的建模和算法框架,可以应用于广泛的问题。在这个框架下,我们能够从一个统一的角度研究聚类标签的恢复,球员的排名,回归系数的迹象,循环移位,甚至组元素。提出了一种简单的离散结构恢复迭代算法,该算法推广了Lloyd算法和幂方法。在适当的随机误差和初始化抽象条件下,证明了该算法的线性收敛结果。我们通过将其应用于几个代表性问题来说明我们的一般理论:(1)高斯混合模型中的聚类,(2)近似排名,(3)压缩感知中的符号恢复,(4)多参考对齐,(5)组同步,并表明在每种情况下都实现了极大极小速率。
2020-09-27 math.ST stat.CO stat.ME
Hybridized Threshold Clustering for Massive Data
Kansas State University(堪萨斯州立大学);University of California, Berkeley(加州大学伯克利分校)
随着数据集的大小$n$变得巨大,许多常用的聚类算法(例如,$k$均值或层次凝聚聚类(HAC))需要过高的计算成本和存储器。在本文中,我们提出了一个解决这些聚类问题的阈值聚类(TC)的实例选择问题。TC是最近发展起来的一种聚类算法,它可以在线性时间内(平均)将数据划分为许多小的簇。我们提出的聚类方法如下。首先,执行TC,并将聚类简化为单个“原型”点。然后,TC反复应用于这些原型点,直到获得足够的数据减少。最后,将更复杂的聚类算法应用于减少的原型点,从而获得对所有$n$数据点的聚类。这整个聚类过程称为迭代杂交阈值聚类(IHTC)。通过模拟结果和应用我们的方法在几个真实的数据集上,我们表明,IHTC结合$k$ -手段或HAC大大减少了运行时间和内存使用的原始聚类算法,同时仍然保持其性能。此外,IHTC有助于防止奇异数据点被聚类算法过度拟合。
2019-07-05 cs.LG stat.ML
Clustering Result Re-guided Incomplete Multi-view Spectral Clustering
College of Information Engineering, Shanghai Maritime University(上海 Maritime University 信息工程学院);Department of Automation, Shanghai Jiao Tong University(上海 Jiao Tong University 自动化系)
针对不完整多视图谱聚类中样本连通性未被有效利用的问题,提出CRG_IMSC方法,通过非负约束直接获取聚类结果并构建连通性矩阵最小化自表示残差,实验证明其优于现有方法且收敛。
2025-10-11 cs.LG stat.ML
Unsupervised spectral learning
在谱聚类和谱图像分割中,数据从给定的成对相似性矩阵S开始被分割。矩阵S是手工构造的,或者是在单独的训练集上学习的。在本文中,我们展示了如何实现无监督模式下的谱聚类。我们的算法从一组观察到的成对特征开始,这些特征是未知参数相似性函数的可能组成部分。这个函数是迭代学习的,同时也是数据的聚类。该算法在模拟数据和实际数据上都取得了较好的效果。
2012-07-04 cs.LG stat.ML
Natural Hierarchical Cluster Analysis by Nearest Neighbors with Near-Linear Time Complexity
我们提出了一个基于最近邻的聚类算法,结果在一个自然定义的层次结构的集群。相反,凝聚和分裂的层次聚类算法,我们的方法是不依赖于迭代工作的算法,在这个意义上说,分区的层次聚类纯粹是根据输入数据集定义。我们的方法是一个通用的层次聚类方法,因为它可以实现为自自底向上的或自上而下的版本,这两种结果在相同的聚类。我们表明,对于某些类型的数据集,我们的算法具有接近线性的时间和空间复杂度。
2022-03-15 cs.DS cs.LG stat.ML
Multilayer Spectral Graph Clustering via Convex Layer Aggregation: Theory and Algorithms
多层图通常用于表示实体之间的不同关系并处理异构数据处理任务。需要非标准的多层图聚类方法来将聚类分配给公共多层节点集并组合来自每个层的信息。本文提出了一种多层谱图聚类(SGC)框架,执行凸层聚合。在多层信号加噪声模型下,给出了聚类可靠性的相变分析。此外,我们使用的相变准则,提出了一个多层迭代模型顺序选择算法(MIMOSA)的多层SGC,该算法具有自动聚类分配和层权重自适应,并提供统计聚类可靠性保证。对合成多层图的数值模拟验证了相变分析,对真实多层图的实验表明MIMOSA具有竞争力或优于其他聚类方法。
2017-08-08 cs.SI stat.ML
An iterative step-function estimator for graphons
可交换图是通过采样过程从称为图子的可测函数中产生的。一个自然的估计问题是,我们可以恢复一个图子给定的一个单一的图从它的采样。一个一般的框架,用于估计一个图子使用的步骤函数,通过分区的图的节点根据一些聚类算法获得。我们提出了一个迭代的阶梯函数估计(ISFE),给定一个初始分区,迭代集群节点的基础上,他们的边缘密度相对于前一次迭代的分区。我们分析了ISFE,并证明其性能与其他graphon估计技术相比。
2015-05-12 math.ST stat.CO stat.ML
An Evolutionary Algorithm with Crossover and Mutation for Model-Based Clustering
在基于模型的聚类算法中,提出了一种进化算法(EA)来代替期望最大化算法进行参数估计。该EA促进了健身景观的不同搜索,即,的可能性表面,利用交叉和变异。此外,这种EA代表了一种有效的方法,以“硬”基于模型的聚类,所以它可以被看作是一种推广的k-means算法,这本身就相当于一个受限制的高斯混合模型。EA说明了几个数据集,其性能相比,其他硬聚类方法和基于模型的聚类通过期望最大化算法。
2020-06-08 stat.CO stat.ML