Cluster-aware Semi-supervised Learning: Relational Knowledge Distillation Provably Learns Clustering
Courant Institute of Mathematical Sciences(柯朗数学科学研究所);New York University(纽约大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);Center of Data Science(数据科学中心)
该研究针对半监督分类问题,从理论上证明关系知识蒸馏(RKD)可转化为谱聚类并实现低聚类误差,提出聚类感知半监督学习框架,揭示了RKD与一致性正则化分别提供全局与局部视角。
2023-10-23 cs.LG stat.ML
Deep Inverse Feature Learning: A Representation Learning of Error
Northern Arizona University(北亚利桑那大学)
本文介绍了一种新的角度在机器学习中的错误,并提出逆特征学习(IFL)作为一种表示学习方法,学习一组高层次的功能的基础上表示的错误分类或聚类的目的。所提出的关于错误表示的观点从根本上不同于当前的学习方法,在分类方法中,他们将错误解释为真实标签和预测标签之间的差异的函数,或者在聚类方法中,使用聚类目标函数,如紧凑性。逆特征学习方法基于深度聚类方法来操作,以获得误差作为特征的表示的定性形式。建议IFL方法的性能进行评估,通过应用学习功能与原始功能,或只是使用学习功能在不同的分类和聚类技术的几个数据集。实验结果表明,该方法在分类,特别是聚类方面取得了良好的效果。在分类中,所提出的特征与主要特征一起改善了大多数分类方法在几个流行数据集上的结果。在聚类中,不同的聚类方法的性能在不同的数据集上有很大的提高。有一些有趣的结果,显示一些功能的错误捕获的主要功能的高度信息方面的表示。我们希望这篇论文能有助于错误表示学习在不同特征学习领域的应用。
2020-03-09 cs.CV cs.LG cs.NE
Discriminative Similarity for Clustering and Semi-Supervised Learning
Snap Research(Snap 研究院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Microsoft Research(微软研究院);National University of Singapore(新加坡国立大学);Beckman Institute, University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校贝克曼研究所)
基于相似性的聚类和半监督学习方法根据数据之间的成对相似性将数据分成簇或类,而成对相似性对它们的性能至关重要。在本文中,我们提出了一种新的判别相似性学习框架,学习判别相似性的数据聚类或半监督学习。该框架从每个假设标签学习分类器,并通过最小化与假设标签相关联的学习分类器的泛化误差来搜索最优标签。核分类器在我们的框架。通过基于拉德马赫复杂度的泛化分析,将核分类器的泛化误差界表示为不同类数据的两两相似度之和,并通过核分类器的权值进行参数化.这种成对相似性作为判别相似性用于聚类和半监督学习的目的,并且具有相似形式的判别相似性也可以由用于核密度分类的积分平方误差界诱导。基于核分类器的判别相似性,我们提出了新的聚类和半监督学习方法。
2017-09-05 cs.LG stat.ML
Universal Lower Bounds and Optimal Rates: Achieving Minimax Clustering Error in Sub-Exponential Mixture Models
École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院);Bilkent University(比尔肯特大学)
本文针对次指数混合模型,提出基于Chernoff散度的通用聚类误差下界,证明迭代算法可达最优速率,并验证Bregman硬聚类在指数族混合模型中的速率最优性。
2024-07-17 cs.LG math.ST stat.ML
On Structured Filtering-Clustering: Global Error Bound and Optimal First-Order Algorithms
University of California, Berkeley(加州大学伯克利分校);University of Texas, Austin(德克萨斯大学奥斯汀分校)
过滤-聚类模型,包括趋势过滤和凸聚类,已成为机器学习及相关领域的重要思想来源和建模工具。在这些模型中的最优解的统计保证已被广泛研究,但在计算方面的调查仍然有限。特别是,从业者经常采用的一阶算法在现实世界中的应用,并留下深刻的印象,无论差算子矩阵的病态结构,其优越的性能,从而留下了开放的问题,了解一阶算法的收敛性。本文解决了这一问题,并有助于统计和优化之间的广泛的相互作用,通过确定一个\textit{global error bound}条件,这是满足一大类的双重过滤聚类问题,并设计了一类\textit{generalized dual gradient ascent}算法,这是\textit{optimal}一阶算法在确定性,有限和在线设置。我们的结果是新的,并有助于解释为什么过滤聚类模型可以有效地解决一阶算法。我们还提供了详细的收敛速度分析所提出的算法在不同的设置,阐明他们的潜力,有效地解决过滤聚类模型。我们还在真实数据集上进行了实验,数值结果证明了我们的算法的有效性。
2022-01-24 cs.LG stat.CO stat.ML
Analysis of Minimax Error Rate for Crowdsourcing and Its Application to Worker Clustering Model
The University of Tokyo(东京大学);RIKEN(理化学研究所)
虽然众包已成为标记数据的重要手段,但人们对从众包工作者产生的不可靠标签中估计地面真相非常感兴趣。Dawid和Skene(DS)模型是众包研究中最著名的模型之一。尽管它的实际普及,理论误差分析DS模型已进行限制性假设类先验,混淆矩阵,或每个工人提供的标签数量。在本文中,我们推导出一个更广泛的类众包模型,包括DS模型作为一个特殊情况下,更实际的设置下的极大极小错误率。我们进一步提出了工人聚类模型,这是更实用的DS模型下真正的众包设置。我们的理论分析的广泛适用性,使我们能够立即调查的行为,这不能被现有的研究分析提出的模型。实验结果表明,由理论分析得到的极大极小错误率的下界与估计值的经验误差有很强的相似性。
2018-06-09 cs.HC cs.LG stat.ML
Locally Private k-Means Clustering
Ben-Gurion University(本-古里安大学);Google Research(谷歌研究院)
我们设计了一个新的算法的欧几里德$k$ -手段的问题,操作在本地模型的差分隐私。与非私有文献不同,$k$的差分私有算法意味着目标会产生加法和乘法错误。我们的算法显着减少了加法误差,同时保持乘法误差与以前的最先进的结果相同。具体来说,在一个数据库的大小$n$,我们的算法保证$O(1)$乘法错误和$\approx n^{1/2+a}$添加剂错误为任意小常数$a>0$。在局部模型中,所有先前的算法都具有加性误差$\approx n^{2/3+a}$。我们的技术扩展到$k$ -中位数聚类。我们发现,我们得到的附加误差几乎是最佳的依赖于数据库大小$n$。具体来说,我们给出了一个简单的下界,表明每个局部私有算法的$k$ -手段的目标必须有附加误差至少$\approx\sqrt{n}$。
2021-06-28 cs.CR cs.DS cs.LG
Unsupervised training of a deep clustering model for multichannel blind source separation
Paderborn University(帕德博恩大学)
我们提出了一种训练方案,当并行干净数据不可用时,从头开始训练基于神经网络的声源分离算法。特别是,我们证明了无监督的空间聚类算法足以指导深度聚类系统的训练。我们认为,以前的工作需要强有力的监督,并详细说明为什么这是一个限制。我们证明了(a)根据所提出的方案单独训练的单通道深度聚类系统能够在单词出错率方面实现与多通道教师类似的性能,以及(b)使用深度聚类结果初始化空间聚类方法,与无监督教师相比,相对单词出错率降低了26%。
2019-04-02 cs.LG eess.SP stat.ML
A clustering approach to time series forecasting using neural networks: A comparative study on distance-based vs. feature-based clustering methods
Jet Propulsion Laboratory(喷气推进实验室)
时间序列预测最近得到了很多关注,这是因为许多现实世界的现象可以建模为时间序列。大量的数据和计算机处理能力的最新进展使研究人员能够开发更复杂的机器学习算法,如神经网络来预测时间序列数据。在本文中,我们提出了各种神经网络架构来预测的时间序列数据使用的动态测量,此外,我们介绍了各种架构如何结合静态和动态测量预测。我们还调查了执行技术,如异常检测和聚类预测精度的重要性。我们的研究结果表明,聚类可以提高整体的预测时间,以及提高神经网络的预测性能。此外,我们表明,基于特征的聚类可以优于基于距离的聚类的速度和效率。最后,我们的研究结果表明,增加更多的预测因子来预测目标变量并不一定会提高预测精度。
2021-03-31 cs.LG stat.ML
Causal Clustering for 1-Factor Measurement Models on Data with Various Types
Carnegie Mellon University(卡内基梅隆大学)
四元组约束是一个条件,其满足信号的协方差子矩阵的秩减少,并用于设计因果发现算法,检测潜在的(不可测量的)变量的存在,如FOFC。最初,这样的算法只适用于测量变量和潜在变量都是高斯的并且具有线性关系的情况(高斯-高斯情况)。它已被证明,一个一维潜变量模型意味着四元约束时,测量和潜变量都是二进制(Binary-Binary的情况下)。本文证明了当测量变量是混合数据类型和测量变量是离散的和潜在的共同原因是连续的,这意味着任何聚类算法依赖于此约束也可以工作在这些情况下,四元组约束。每个案例都有一个例子和一个证明。通过仿真研究表明了FOFC在混合数据上的性能,并与具有类似功能的一些算法进行了比较。
2020-09-18 cs.LG stat.ML
Mixture-of-Experts Variational Autoencoder for Clustering and Generating from Similarity-Based Representations on Single Cell Data
ETH Zürich(苏黎世联邦理工学院);Life Science Graduate School Zurich(苏黎世生命科学研究生院);Swiss Institute of Bioinformatics(瑞士生物信息学研究所);University of Tübingen(图宾根大学)
聚类高维数据,如图像或生物测量,是一个长期存在的问题,并已被广泛研究。最近,深度聚类由于其在适应复杂数据的特定特性方面的灵活性而受到欢迎。本文介绍了一种新的生成式聚类模型MoE-Sim-VAE(混合专家模型Similarity变分自编码器),该模型能够学习高维数据的多模态分布,并利用这些分布高效地生成真实数据。MoE-Sim-VAE基于变分自编码器(VAE),其中解码器由混合专家模型(MoE)架构组成。这种特定的架构允许通过专家自动学习数据的各种模式。此外,我们鼓励我们模型的低维潜在表示遵循高斯混合分布,并准确表示数据点之间的相似性。我们评估了我们的模型在MNIST基准数据集上的性能,并挑战了从单细胞RNA测序测量中聚类小鼠器官和从数百个不同数据集上的质谱仪(CyTOF)测量中定义细胞亚群的现实任务。与基线以及竞争对手的方法相比,MoE-Sim-VAE在所有这些任务上都表现出卓越的聚类性能。
2020-12-18 cs.LG stat.ML
K-medoids Clustering of Data Sequences with Composite Distributions
Syracuse University(雪城大学);Lockheed Martin - Advanced Technology Labs(洛克希德·马丁高级技术实验室);The Ohio State University(俄亥俄州立大学)
本文研究了数据序列的聚类问题,采用了k中心点算法。假设所有数据序列都是从\emph{unknown}连续分布生成的,这些连续分布形成聚类,每个聚类包含一组位置接近的分布(基于分布之间的特定距离度量)。假设最大集群内距离小于最小集群间距离,并且假设两个值都是已知的。目标是将数据序列分组在一起,如果它们的底层生成分布(未知)属于一个聚类。针对分布簇个数已知和未知的情况,提出了基于分布距离度量的k中心点算法。上界的错误概率和收敛结果在大样本制度也提供。它示出的错误概率指数衰减快,在每个数据序列中的样本数趋于无穷大。当满足某些条件时,误差指数具有简单的形式,而与应用的距离度量无关。特别是,误差指数的特征在于当使用Kolmogrov-Smirnov距离或最大平均差异作为距离度量时。仿真结果验证了分析的正确性。
2018-07-31 cs.LG stat.ML
Fast, Linear Time, m-Adic Hierarchical Clustering for Search and Retrieval using the Baire Metric, with linkages to Generalized Ultrametrics, Hashing, Formal Concept Analysis, and Precision of Data Measurement
我们描述了Baire度量及其在聚类数据中的使用,或其在预处理和结构化数据中的使用,以支持搜索和检索操作的许多优势点。在某些情况下,我们直接进行聚类,而不直接确定距离。我们展示了如何可以直接从数据的一次传递中读取层次聚类。我们还提供了关于数据测量精度的实际影响的见解。作为处理多维数据(包括非常高维的数据)的机制,我们使用随机投影。
2011-11-27 stat.ML
Optimal Clustering of Multi-layer Networks under Mixture Block Models
Hong Kong University of Science and Technology(香港科技大学);The Hong Kong Polytechnic University(香港理工大学)
本文研究了多层网络及离散混合分布的最优聚类问题,提出了基于张量初始化和似然Lloyd算法的两阶段聚类方法,实现了由Renyi散度刻画的极小化最优聚类错误率。
2026-10-23 cs.LG cs.SI math.ST
Randomized Spectral Clustering in Large-Scale Stochastic Block Models
Center for Modern Statistics, School of Mathematics, Northwest University(西北大学数学学院现代统计中心)
谱聚类是网络中社区发现的常用方法之一。然而,大规模网络的特征值分解带来了计算上的挑战。在本文中,我们研究了谱聚类使用随机素描算法从统计的角度来看,我们通常假设网络数据是从随机块模型,不一定是满秩的。为此,我们首先使用最近开发的草图算法,得到两个随机谱聚类算法,即基于随机投影和基于随机采样的谱聚类。然后,我们研究了所得到的算法在人口邻接矩阵的近似误差,误分类误差,和链路概率矩阵的估计误差的理论界。结果表明,在较弱的条件下,随机谱聚类算法与原始谱聚类算法的理论界相同。我们还将结果扩展到度校正的随机块模型。数值实验支持我们的理论研究结果,并显示随机方法的效率。开发了一个新的R软件包,称为Rounds,并向公众提供。
2022-01-06 cs.LG cs.SI stat.ME
Feature Selection For High-Dimensional Clustering
我们提出了一个非参数的方法来选择高维聚类问题中的信息功能。我们从使用多模态测试的筛选步骤开始。然后,我们应用核密度估计和模式聚类的选择功能。该方法的输出包括相关特征的列表和聚类分配。我们提供明确的界限上的差错率的聚类结果。此外,我们提供了第一个误差界的模式为基础的聚类。
2014-06-09 math.ST stat.ML stat.TH
Clustering for Different Scales of Measurement - the Gap-Ratio Weighted K-means Algorithm
Laboratoire des Sciences de l’Information et des Systèmes(信息与系统科学实验室);Arts et Métiers ParisTech(巴黎高科国立高等工艺学校)
本文描述了一种聚类数据的方法,这些数据分布在大区域上,并且其维度在不同的测量尺度上。开发这样的算法是为了实现机器人应用程序,包括以无监督的方式对对象进行排序和存储。用于验证此类应用程序的玩具数据集由不同形状和颜色的乐高积木组成。不受控制的照明条件以及RGB颜色特征的使用分别涉及具有大范围的数据和数据维度之间的不同测量水平的数据。为了克服数据中这两个特征的组合,我们开发了一种新的加权K-means算法,称为间隙比K-means,它包括在运行K-means算法之前对特征空间的每个维度进行加权。与特征相关联的权重与两个连续数据点之间的最大间隙与所有其他间隙的平均值的比率成比例。该方法与其他两种变体的K-means的乐高积木聚类问题,以及其他两个常见的分类数据集进行了比较。
2017-03-22 cs.DS cs.LG stat.ML
LSTM based Similarity Measurement with Spectral Clustering for Speaker Diarization
Duke Kunshan University(昆山杜克大学);Sun Yat-sen University(中山大学);LIMSI(法国计算机科学与自动化研究所);CNRS(法国国家科学研究中心);Univ. Paris-Sud(巴黎第十一大学)
越来越多的神经网络方法在说话人分类系统的子模块上取得了很大的进步,包括说话人变化检测和分段说话人嵌入提取。然而,在聚类阶段,像概率线性判别分析(PLDA)的传统算法被广泛用于评分两个语音段之间的相似性。在本文中,我们提出了一种有监督的方法来测量具有顺序双向长短期记忆网络(Bi-LSTM)的音频记录的所有片段之间的相似性矩阵。谱聚类应用于相似性矩阵的顶部,以进一步提高性能。实验结果表明,我们的系统显着优于国家的最先进的方法,并实现了6.63%的NIST SRE 2000 CALLHOME数据库上的日志错误率。
2019-07-23 cs.LG cs.SD eess.AS
Flexible Auto-weighted Local-coordinate Concept Factorization: A Robust Framework for Unsupervised Clustering
School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院);Department of Computer Science, University of Georgia(佐治亚大学计算机科学系)
由于概念因子分解(CF)及其变体对噪声的敏感性、对重构误差的严格约束以及预先获得的近似相似性,可能会产生不准确的表示和聚类结果。为了提高表示能力,提出了一种新的无监督鲁棒灵活自动加权局部坐标概念因子分解(RFA-LCF)框架,用于聚类高维数据。RFA-LCF通过干净数据空间恢复、鲁棒稀疏局部坐标编码和自适应加权将鲁棒灵活CF集成到统一模型中。RFA-LCF通过增强CF对噪声和误差的鲁棒性、对重建误差提供灵活的约束以及联合优化局部性来改进表示。对于鲁棒学习,RFA-LCF清楚地学习稀疏投影以恢复底层的干净数据空间,然后在投影的特征空间中执行灵活的CF。RFA-LCF还使用基于L2,1-范数的灵活残差来编码恢复数据与其重建之间的失配,并使用鲁棒的稀疏局部坐标编码来使用几个邻近基概念来表示数据。对于自动加权,RFA-LCF通过最小化干净数据、锚点和坐标上的重建误差,以自适应的方式联合保留基础概念空间和新坐标空间中的流形结构。通过交替地更新局部坐标保持数据、基概念和新坐标,可以潜在地提高表示能力。在公共数据库上的大量实验结果表明,与其他相关方法相比,RFA-LCF提供了最先进的聚类结果。
2019-09-02 cs.CV cs.LG stat.ML
Selective Inference for Hierarchical Clustering
当组被先验定义时,平均值差异的经典检验控制第一类错误率。然而,当通过聚类来定义组时,则应用经典测试会产生极度膨胀的第一类错误率。值得注意的是,即使使用两个单独和独立的数据集来定义组并测试其均值的差异,这个问题仍然存在。为了解决这个问题,在本文中,我们提出了一个选择性的推理方法来测试两个集群之间的差异。我们的程序通过考虑原假设的选择是基于数据的事实来控制选择性第一类错误率。我们描述了如何有效地计算精确的p值的聚类使用凝聚层次聚类与许多常用的链接。我们将我们的方法应用于模拟数据和单细胞RNA测序数据。
2022-10-31 stat.ME stat.ML
Neighborhood Selection for Thresholding-based Subspace Clustering
子空间聚类是指将高维数据点聚类到一个低维线性子空间的并集中的问题,其中子空间的数量,它们的维度和方向都是未知的。在本文中,我们提出了一个变化,最近推出的基于阈值的子空间聚类(TSC)算法,它适用于谱聚类的邻接矩阵构造从最近的邻居的每个数据点相对于球面距离测量。新元素驻留在最近邻居数量的单个数据驱动选择中。以前的性能结果TSC,以及其他子空间聚类算法的基础上,谱聚类,来在一个中间的性能指标,这并不直接解决聚类错误。我们的主要分析贡献是一个性能分析的修改TSC算法(以及原TSC算法)的聚类误差直接。
2014-03-13 cs.IT math.IT stat.ML
Randomized spectral co-clustering for large-scale directed networks
Northwest University(西北大学);Carnegie Mellon University(卡内基梅隆大学)
有向网络广泛用于表示单元之间的非对称关系。联合聚类的目标是同时对有向网络的接收者和接收者进行聚类。特别地,著名的谱聚类算法可以被修改为谱共聚类到共聚类有向网络。然而,大规模网络对它提出了巨大的计算挑战,本文利用草图技术,推导了两种随机谱联合聚类算法,一种是\emph{random-projection-based},另一种是\emph{random-sampling-based},用于加速大规模有向网络的联合聚类.我们从理论上分析了两个生成模型下的算法-随机co-block模型和度校正随机co-block模型,并建立其近似错误率和误聚类错误率,表明更好的界限比国家的最先进的结果的共同聚类文献。在数值上,我们设计并进行模拟来支持我们的理论结果,并在具有数百万节点的真实网络上测试算法的效率。一个公开可用的R包\textsf{RandClust}的开发更好的可用性和重现性所提出的方法。
2022-04-09 cs.LG cs.SI stat.ME
Performance Analysis of Spectral Clustering on Compressed, Incomplete and Inaccurate Measurements
University of California, Davis(加州大学戴维斯分校)
本文结合压缩感知和矩阵完成的距离保持测量与鲁棒谱聚类,分析了亲和矩阵微小误差对谱坐标和聚类能力的影响,并将双类谱聚类的扰动结果推广到多类聚类。
2010-11-03 cs.CV cs.NA math.FA
A provable initialization and robust clustering method for general mixture models
本文针对一般混合模型提出基于多元截尾均值质心估计的鲁棒初始化与聚类方法,在有限簇数和维度下可证明达到接近最优的误标号率,并能抵抗重尾误差和对抗离群点,同时证明Lloyd算法在多簇或重尾情形下次优。
2024-10-23 math.ST stat.ML stat.TH
Information theoretic model validation for clustering
Swiss Federal Institute of Technology, ETH Zurich(苏黎世联邦理工学院)
聚类中的模型选择需要(i)指定合适的聚类原则和(ii)通过根据数据中的噪声水平选择适当数量的聚类来控制模型阶数复杂度。我们提倡一种信息理论的观点,在测量的不确定性量化的数据分区的集合,从而诱导聚类的解决方案空间中的不确定性。一个聚类模型,它可以容忍更高水平的波动的测量比替代模型,被认为是优越的,提供聚类解决方案是同样的信息。\emph{informativeness}和\emph{robustness}之间的这种折衷用作模型选择标准。数据划分应该从一个数据集推广到一个同样可能的第二个数据集的要求引起了一个新的概念的结构诱导信息。
2010-06-02 cs.IT cs.LG math.IT
Scalable k-Means Clustering via Lightweight Coresets
Google Brain(谷歌大脑);ETH Zurich(苏黎世联邦理工学院)
核心集是数据集的紧凑表示,使得在核心集上训练的模型与在完整数据集上训练的模型具有可证明的竞争力。因此,它们已成功地用于将聚类模型扩展到大规模数据集。虽然现有的方法一般只允许乘法近似误差,我们提出了一个新的概念,轻量级coresets,允许乘法和加法误差。我们提供了一个单一的算法来构建轻量级的coresets的k-means聚类以及软和硬Bregman聚类。该算法比现有的结构快得多,并行性好,所得的coresets更小。我们进一步表明,所提出的方法自然推广到统计k均值聚类,与现有的结果相比,它可以用来计算较小的总结经验风险最小化。在大量的实验中,我们证明了该算法优于现有的数据摘要策略在实践中。
2018-06-06 cs.DC cs.DS cs.LG
Near-Optimal Clustering in Mixture of Markov Chains
KAIST AI(韩国科学技术院人工智能研究所);ICL(国际计算机实验室);EEE(电气电子工程系);KTH EECS(瑞典皇家理工学院电子工程系);Digital Futures(数字未来)
本文研究了对T条长度为H的轨迹进行聚类的问题,每条轨迹由K个未知的平稳马尔可夫链生成。作者推导了聚类误差率的实例依赖下界,并提出两阶段算法,通过新的欧几里得嵌入实现谱聚类,随后通过似然重新分配优化聚类结果,证明算法在合理条件下可实现近最优聚类性能。
2026-03-17 cs.IT cs.LG math.IT
$k$-Median Clustering via Metric Embedding: Towards Better Initialization with Differential Privacy
在设计聚类算法时,初始中心的选择对学习到的聚类质量至关重要。在本文中,我们发展了一个新的初始化方案,称为HST初始化,$k$-中位数问题在一般度量空间(例如,图诱导的离散空间),基于构造数据的度量嵌入树结构。从树,我们提出了一种新的和有效的搜索算法,为良好的初始中心,可用于随后的局部搜索算法。我们提出的HST初始化可以产生初始中心,实现较低的错误比从另一个流行的初始化方法,$k$-中位数++,具有可比的效率。HST初始化还可以扩展到设置差分隐私(DP)以生成私有初始中心。我们表明,从应用DP本地搜索,然后我们的私人HST初始化的误差提高了以前的结果的近似误差,并在一个小的因素接近下界。实验证明了理论的正确性,并证明了我们所提出的方法的有效性。我们的方法也可以扩展到$k$-均值问题。
2022-07-08 cs.DS stat.ML
Ward's Hierarchical Clustering Method: Clustering Criterion and Agglomerative Algorithm
Science Foundation Ireland(爱尔兰科学基金会);Université de Montréal(蒙特利尔大学)
自1963年Ward首次描述Ward误差平方和层次聚类方法以来,该方法得到了广泛的应用。它也以各种方式被推广。然而,在文献中有不同的解释,并且在常用的软件系统中有不同的Ward凝聚算法的实现,包括凝聚准则的不同表达。我们的调查工作和案例研究将是有用的,所有参与开发软件的数据分析使用沃德的层次聚类方法。
2011-12-11 cs.CV stat.AP stat.ML
Semantic distillation: a method for clustering objects by their contextual specificity
用于数据挖掘、潜在语义分析、数据库的上下文搜索等的技术很久以前就由从事信息检索(IR)的计算机科学家开发。实验科学家,来自各个学科,必须分析大量原始实验数据(天文,物理,生物等)已经开发出了用于其统计分析以及用于聚类、分类和分类对象的强大方法。最后,物理学家发展了量子测量理论,将查询的逻辑、代数和概率方面统一到一个单一的形式主义中。本文件有两个目的:第一,表明当在抽象层面上制定时,来自IR、来自统计数据分析和来自物理测量理论的问题非常相似,因此可以有益地交叉融合,第二,提出一种新的模糊层次聚类方法,称为\textit{semantic distillation} --强烈地受到量子测量理论的启发--,我们开发了用于分析来自各种DNA阵列实验的原始数据。我们通过分析DNA阵列实验和根据其特异性对阵列基因进行聚类来说明该方法。
2007-10-06 cs.DB math.PR math.ST