Coresets for constrained k-median and k-means clustering in low dimensional Euclidean space
University of Cologne(科隆大学)
我们研究(欧几里德)$k$ -中位数和$k$ -意味着在流模型的约束。最近,人们努力设计统一的算法来解决约束$k$ -均值问题,而不使用手头的特定约束的知识,除了温和的假设,如约束下的可行性的多项式可计算性(计算聚类是否满足约束)或存在有效的赋值oracle(给定一组中心,产生满足约束的点到中心的最优分配)。这些算法在$k$中具有运行时间指数,但可以应用于广泛的约束。我们证明了2019年提出的一种用于解决特定约束流$k$ -均值问题的技术,即公平的$k$ -均值聚类,实际上意味着所有这些约束的流算法。这些工作低维欧氏空间。[Note有更多的算法用于流传输公平的$k$ -意味着今天,特别是它们现在也存在于高维空间。
2021-06-14 cs.DS cs.LG
Distributed Partial Clustering
近年来,分布式数据的算法设计越来越流行,这主要是由于大量数据集通常被收集并存储在不同的位置。在分布式设置中,通信通常支配查询处理时间。因此,它成为至关重要的是设计通信效率的算法,查询分布式数据。同时,人们已经广泛认识到,部分优化,即允许我们忽略一小部分数据,为我们提供了更好的解决方案。忽略点的动机通常来自噪声和其他在大数据场景中普遍存在的现象。本文研究了分布式模型下的部分聚类问题,即$k$ -center,$k$ -median和$k$ -means,并给出了输入大小为通信次线性的算法.因此,我们开发的第一个算法的部分$k$中位数和手段的目标,运行在次二次运行时间。我们还开始研究分布式算法聚类不确定的数据,其中每个数据点可能会落在多个位置在一定的概率分布。
2017-06-05 cs.DS
Clustering Stable Instances of Euclidean k-means
欧几里德k均值问题可以说是机器学习中研究最广泛的聚类问题。虽然k-均值目标在最坏的情况下是NP难的,但从业者在应用Lloyd算法解决这个问题方面取得了显着的成功。为了解决这种脱节,我们研究了以下问题:什么属性的真实世界的实例将使我们能够设计有效的算法,并证明保证找到最佳聚类?我们认为一个自然的概念,称为添加剂扰动稳定性,我们相信捕捉许多实际情况。稳定的实例具有唯一的最优k均值解,即使每个点都受到一点扰动(在欧几里得距离中)也不会改变。这捕获了k均值最优解应该容忍点中的测量误差和不确定性的属性。我们设计了有效的算法,证明恢复的最佳聚类的情况下,是添加剂扰动稳定。当实例有一些额外的分离,我们证明了一个有效的算法,可证明的保证,也是强大的离群值。我们通过研究真实数据集的稳定性来补充这些结果,并证明我们的算法在这些基准数据集上表现良好。
2017-12-04 cs.DS cs.LG
Semi-Supervised Algorithms for Approximately Optimal and Accurate Clustering
我们研究了半监督环境下的$k$ -均值聚类。给定一个预言机,返回两个给定的点是否属于同一个集群在一个固定的最佳聚类,我们调查以下问题:有多少Oracle查询是足够的,以有效地恢复聚类,概率至少$(1 - δ)$,同时具有成本最多$(1 + ε)$倍的最佳成本和准确性至少$(1 - ε)$?我们展示了如何实现这样一个聚类的$n$点与$O{((k^2 \log n) \cdot m{(Q, ε^4, δ/ (k\log n))})}$ Oracle查询,当$k$集群可以学习与$ε'$错误和失败概率$δ'$使用$m(Q, ε',δ')$标记的样本在监督设置,其中$Q$是一组候选聚类中心。我们证明了$m(Q, ε', δ')$是小的$k$ -均值实例在欧氏空间和有限度量空间。我们进一步表明,对于欧几里德$k$ -手段的实例,我们可以避免依赖$n$的查询复杂性的代价增加依赖$k$:具体来说,我们给出了一个稍微涉及的算法,使用$O(k^4/(ε^2 δ) + (k^{9}/ε^4) \log(1/δ) + k \cdot m(\mathbb{R}^r, ε^4/k, δ))$ Oracle查询。我们还表明,所需的查询的数量$(1 - ε)$ -准确度在欧几里德$k$ -手段必须线性依赖于基本欧几里德空间的维度,和有限度量空间$k$ -手段,我们表明,它必须至少是对数的候选中心的数量。这表明我们…
2018-11-06 cs.DS
Parameterized Approximation Algorithms for $k$-Center Clustering and Variants
$k$ -center是最流行的聚类模型之一。虽然它承认一个简单的2-近似多项式时间在一般的度量,欧几里德版本是NP-困难的近似因子为1.93,即使在平面上,如果坚持依赖于$k$在运行时间是多项式。如果没有这个限制,经典算法产生欧几里得$k$ -中心的$2^{O((k\log k)/ε)}dn$ -时间$(1+ε)$ -近似,其中$d$是维度。我们给出了一个更快的算法,小尺寸:粗略地说,一个$O^*(2^{O((1/ε)^{O(d)} \cdot k^{1-1/d} \cdot \log k)})$ -时间$(1+ε)$ -近似。特别地,运行时间在平面中大致为$O^*(2^{O((1/ε)^{O(1)}\sqrt{k}\log k)})$。我们补充我们的算法结果与匹配的硬度下限。我们还考虑了$k$ -中心的一个广泛研究的推广,称为非均匀$k$ -中心(NUkC),其中我们允许不同半径的集群。NUkC在任何因子内都是NP难近似的,即使在欧几里得情况下也是如此。我们设计了一般度量下NUkC的$2^{O(k\log k)}n^2$时间$3$ -近似和欧氏NUkC的$2^{O((k\log k)/ε)}dn$时间$(1+ε)$ -近似.后一个时间界限与$k$ -center的界限匹配。
2021-12-19 cs.DS
On the Fixed-Parameter Tractability of Capacitated Clustering
我们研究了由中心数k参数化的经典的有能力约束的k-中值和k-均值问题的复杂性。这些问题是出了名的困难,因为最有名的近似界为高维欧氏空间和一般度量空间是$Θ(\log k)$,它仍然是一个主要的开放问题是否存在一个常数因子。我们证明了在一般度量空间中,运行时间为$f(ε,k) n^{O(1)}$的有能力的k-中值问题存在一个$(3+ε)$-近似算法,有能力的k-均值问题存在一个$(9+ε)$ -近似算法.对于任意维数的欧氏输入,我们给出了一个$(1+ε)$ -近似算法。这是对Adamczyk等人的$(7+ε)$ -近似的显著改进。在一般度量空间中的k-中位数和Xu等人的$(69+ε)$ -近似的欧几里德k-均值。
2022-08-30 cs.DS
On Euclidean $k$-Means Clustering with $α$-Center Proximity
Microsoft Research(微软研究院);Indian Institute of Science(印度科学学院)
在最坏的情况下,$k$ -均值聚类是NP难的,但以前的工作已经表明了有效的算法,假设最佳的$k$ -均值聚类是\emph{stable}下添加剂或乘法扰动的数据。这里有两个警告。首先,我们不知道如何有效地验证最优解的这个属性,这些最优解首先是NP难计算的。其次,多项式时间$k$ -均值算法所需的稳定性假设与真实数据中的地面实况聚类相比往往是不合理的。乘性扰动弹性的结果是\emph{center proximity},即每个点都比任何其他聚类的中心更靠近其自身聚类的中心,通过某个乘性因子$α> 1$。我们研究的问题,最小化欧几里德$k$ -手段的目标,只有在聚类,满足$α$ -中心接近。我们给出了一个简单的算法来找到最佳的$α$ -中心-邻近$k$ -均值聚类在运行时间指数的$k$和$1/(α- 1)$,但线性的点数和维数。我们定义了一个类似的$α$中心接近条件的离群值,并给出了类似的算法保证$k$均值离群值和$α$中心接近。在硬度方面,我们表明,对于任何$α' > 1$,存在一个$α\leq α'$,$(α>1)$,和一个$\varepsilon_0 > 0$,使最小化的$k$ -手段目标的聚类,满足$α$ -中心接近是NP-难以近似的乘法$(1+\varepsilon_0)$因子。
2019-02-26 cs.DS cs.LG
The Power of Uniform Sampling for Coresets
出于实际推广的经典$k$ -中位数和$k$ -手段的目标,如集群的大小限制,公平聚类,和Wasserstein重心,我们引入了一个元定理设计约束聚类问题的核心集。元定理减少了coreset建设的任务,一个有界数量的环的实例与一个非常宽松的添加剂错误。这种减少使我们能够使用均匀采样来构造核心集,而不是广泛使用的重要性采样,因此我们可以很容易地处理约束目标。值得注意的是,也许令人惊讶的是,这种更简单的采样方案可以产生其大小与$n$(输入点的数量)无关的核心集。我们的技术产生较小的核心集,有时是第一个核心集,大量的约束聚类问题,包括容量限制聚类,公平聚类,欧几里德Wasserstein重心,在未成年人排除图聚类,和多边形聚类下Fréchet和Hausdorff距离。最后,我们的技术也产生较小的coreset的$1$ -中位数在低维欧氏空间,特别是大小$\tilde{O}(\varepsilon^{-1.5})$在$\mathbb{R}^2$和$\tilde{O}(\varepsilon^{-1.6})$在$\mathbb{R}^3$。
2022-09-18 cs.DS
A Simple Deterministic Distributed Low-Diameter Clustering
我们给出了一个简单的局部过程,使无向图中的节点形成不相邻的簇,这些簇(1)具有至多一个多对数直径,(2)包含至少一半的顶点。用于计算强直径网络分解的高效确定性分布式聚类算法和其他关键工具紧随其后。总的来说,我们的过程是计算这些基本对象的直接和大大简化的方式。
2022-10-21 cs.DC cs.DS
Coresets for Clustering in Euclidean Spaces: Importance Sampling is Nearly Optimal
给定$\mathbb{R}^d$中的$n$点的集合,$(k,z)$聚类问题的目标是找到$k$“中心”的子集,该子集使每个点到最近中心的欧几里得距离的$z$次幂之和最小化。$(k,z)$ -聚类问题的特殊情况包括$k$ -中位数和$k$ -均值问题。我们的主要结果是一个统一的两阶段重要性采样框架,构建了一个$\varepsilon$ -coreset的$(k,z)$ -聚类问题。与[Feldman和Langberg,STOC 2011]中的$(k,z)$聚类结果相比,我们的框架在核心集大小中节省了一个$\varepsilon^2 d$因子。与[Sohler and Woodruff,FOCS 2018]中的$(k,z)$聚类结果相比,我们的框架在核心集大小中节省了一个$\operatorname{poly}(k)$因子,并在构建时间中避免了$\exp(k/\varepsilon)$项。具体而言,我们的$k$ -中位数($z=1$)的coreset具有大小$\tilde{O}(\varepsilon^{-4} k)$,与[Sohler and Woodruff,STOC 2018]中的结果相比,在coreset大小中节省了一个$k$因子。我们的算法结果依赖于一个新的降维技术,连接两个著名的形状拟合问题:子空间近似和聚类,并可能是独立的利益。我们还提供了$(k,z)$ -聚类的$0.01…
2020-05-14 cs.CG cs.DC cs.DS
Communication-Efficient Distributed Graph Clustering and Sparsification under Duplication Models
在本文中,我们考虑的问题,聚类图节点和稀疏图边缘分布图,当图边缘可能边缘重复观察到在物理上遥远的网站。虽然不同站点之间的边缘重复乍一看似乎是有益的,但实际上它们可能会使聚类和稀疏化更加复杂,因为它们的处理可能需要额外的计算和通信。我们提出了两个完善的通信模型,即消息传递和黑板模型的第一个通信优化算法。具体来说,给定一个图上的$n$节点与边缘观察在$s$网站,我们的算法实现的通信成本$\tilde{O}(ns)$和$\tilde{O}(n+s)$($\tilde{O}$隐藏一个多对数因子),几乎匹配它们的下界,$Ω(ns)$和$Ω(n+s)$,分别在消息传递和黑板模型。在边分布的假设下,通信成本与非重复模型下的通信成本渐近相同。我们的算法也可以保证聚类质量几乎一样好,集中所有的边缘,然后应用任何标准的聚类算法。此外,我们进行了第一次调查的分布式结构的图空间的黑板模型。我们为乘法和加法扳手提供了几乎匹配的通信下限和上限。例如,在有和没有复制模型的黑板中构造$(2k-1)$ -模型的通信下界分别是$Ω(s+n^{1+1/k}\log s)$和$Ω(s+n^{1+1/k}\max\{1,s^{-1/2-1/(2k)}\log s\})$,它们几乎匹配两个模型的上界$\tilde{O}(s+n^{1+1/k})$。
2023-02-19 cs.DS
On Optimal Coreset Construction for Euclidean $(k,z)$-Clustering
该研究针对欧氏$(k,z)$-聚类核心集规模的上下界差距问题,提出了新的最优下界及改进的上界构造算法,明确了大参数范围内的最优核心集规模。
2024-03-13 cs.CG cs.DS
Distributed Graph Clustering and Sparsification
图聚类是一个基本的计算问题,在算法设计、机器学习、数据采掘和社交网络分析中有许多应用。在过去的几十年里,研究人员提出了许多图聚类的算法设计方法。然而,大多数这些方法是基于复杂的谱技术或凸优化,并不能直接应用于聚类许多网络发生在实践中,其信息往往是在不同的网站上收集。设计一个简单的分布式聚类算法是一个很有意义的问题,在处理大数据集方面有着广泛的应用。在本文中,我们提出了一个简单的分布式算法图聚类:对于广泛的一类图,其特征在于由一个强大的集群结构,我们的算法完成在一个多对数轮数,并恢复分区的图形接近最佳。我们的算法背后的主要组成部分之一是一个采样方案,给定一个密集的图作为输入,产生一个稀疏的子图,可证明保留的集群结构的输入。与以往的稀疏化算法,需要拉普拉斯求解器或涉及组合结构相比,该组件是易于实现的分布式方式,在实践中运行速度快。
2017-11-03 cs.DC cs.DS
Communication-Optimal Distributed Clustering
Indiana University(印第安纳大学);University of Bristol(布里斯托大学);IBM Research Almaden(IBM阿尔马登研究院)
聚类大数据集是机器学习中许多应用的基本问题。数据通常在不同的站点上收集,并且需要以低通信的分布式方式执行集群。我们希望分布式设置中的集群质量与集中式设置中的集群质量相匹配,因为集中式设置中的所有数据都驻留在单个站点上。在这项工作中,我们研究了两个分布式模型中的图和几何聚类问题:(1)点对点模型,和(2)广播信道模型。我们给协议在这两个模型中,我们证明几乎匹配的通信下界是接近最优的。我们的工作突出了令人惊讶的权力的广播信道的集群问题,粗略地说,频谱集群$n$点或$n$顶点分布在一个图形中的$s$服务器,最坏情况下的分区的通信复杂性在点对点模型是$n \cdot s$,而在广播模型是$n + s$。类似的现象也适用于几何设置。我们实现了我们的算法,并在现实生活中的数据集上展示了这种现象,表明我们的算法在实践中也非常有效。
2017-02-01 cs.DS cs.LG
Distributed Silhouette Algorithm: Evaluating Clustering on Big Data
Politecnico di Torino(都灵理工大学)
在大数据时代,每种算法需要具备的关键特征是能够在分布式环境中高效并行运行。不幸的是,用于评估聚类质量的流行的Silhouette度量不具有此属性,并且相对于输入数据集的大小具有二次计算复杂性。出于这个原因,它的执行在大数据场景中受到了阻碍,在这些场景中,必须以其他方式评估聚类。为了填补这一空白,在本文中,我们介绍了第一个算法,计算的轮廓度量线性复杂度,可以很容易地在分布式环境中并行执行。它的实现在Apache Spark ML库中免费提供。
2023-03-24 cs.AI cs.DC cs.DS
Clustering What Matters in Constrained Settings
本文提出一个通用框架,将约束k-中位数和k-均值问题的离群点版本归约到无离群点版本,仅损失(1+ε)近似比,并首次给出容量约束和Ulam度量下的FPT近似算法。
2025-04-21 cs.DS
Linear-Time Approximation Scheme for k-Means Clustering of Affine Subspaces
在本文中,我们提出了一个线性时间近似计划的$k$ -均值聚类的\emph{incomplete}数据点在$d$维欧氏空间。具有$Δ>0$未指定条目的\emph{incomplete}数据点被表示为维度为$Δ$的轴平行仿射子空间。两个不完整数据点之间的距离定义为数据点对应的轴平行仿射子空间中两个最近点之间的欧氏距离。我们提出了一个算法$k$ -均值聚类的轴平行仿射子空间的尺寸$Δ$,产生一个$(1+ε)$ -近似解决方案,在$O(nd)$时间。隐藏在$O(\cdot)$后面的常量仅取决于$Δ, ε$和$k$。这改进了Eiben等人的$O(n^2 d)$时间算法。[SODA[21]以$n$为因子。
2021-06-27 cs.CG cs.DS
Reliable Distributed Clustering with Redundant Data Assignment
College of Information and Computer Sciences, University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Google Research New York(谷歌纽约研究院)
在本文中,我们提出了分布式广义聚类算法,可以处理大规模的数据,尽管分散或不可靠的机器在多台机器。我们提出了一种新的数据分配方案,使我们能够获得整个数据的全局信息,即使当一些机器无法响应分配的本地计算的结果。分配方案导致分布式算法,具有良好的近似保证各种聚类和降维问题。
2020-02-20 cs.DC cs.DS cs.IT
Almost-Optimal Upper and Lower Bounds for Clustering in Low Dimensional Euclidean Spaces
Google Research;Rutgers University(罗格斯大学);Université Paris Cité, CNRS(巴黎西岱大学,法国国家科学研究中心);Aarhus University(奥胡斯大学)
该研究在低维欧几里得空间中改进了k-均值和k-中位数问题的近似算法时间复杂度,并给出了几乎匹配的下界。
2026-03-10 cs.CC cs.CG cs.DS
Performance of Johnson-Lindenstrauss Transform for k-Means and k-Medians Clustering
Northwestern University(西北大学);TTIC(丰田工业大学芝加哥分校);Microsoft Research(微软研究院)
考虑欧几里得$k$ -均值或$k$ -中位数聚类的实例。我们发现,最优解的成本被保存到一个随机$O(\log(k / \varepsilon) / \varepsilon^2)$维子空间的投影下的$(1+\varepsilon)$的一个因素。此外,在$(1+\varepsilon)$内保留每个聚类的成本。更一般地说,我们的结果适用于任何降维映射满足一个温和的次高斯尾条件。我们对维度的限制几乎是最优的。此外,我们的结果适用于欧几里德$k$ -聚类的距离提高到$p$的权力,任何常数$p$。对于$k$ -均值,我们的结果解决了Cohen,Elder,Musco,Musco,and Persu(STOC 2015)提出的一个开放问题;对于$k$ -中位数,它回答了Kannan提出的一个问题。
2020-04-08 cs.DS cs.LG
Distributed Graph Clustering using Modularity and Map Equation
我们研究大规模的分布式图聚类。给定一个无向图,我们的目标是将节点划分为称为簇的不相交集合。一个簇应该包含许多内部边,同时稀疏地连接到其他簇。在社交网络的上下文中,集群可以是一组朋友。模块化和映射方程是这种内密外疏原则的形式化描述。我们提出了两个版本的一个简单的分布式算法来优化这两个措施。它们基于Thrill,这是一个分布式大数据处理框架,实现了扩展的MapReduce模型。这两种度量的算法DSLM-Mod和DSLM-Map仅略有不同。使它们适应类似的质量测量是直截了当的。我们对真实世界的图和合成基准图进行了广泛的实验研究,这些图具有高达680亿条边。我们的算法是快速的,同时检测聚类类似于其他顺序,并行和分布式聚类算法检测。与分布式GossipMap算法相比,DSLM-Map算法需要更少的内存,速度快一个数量级,质量更好。
2018-06-07 cs.DC cs.DS physics.soc-ph
$k$-Center Clustering in Distributed Models
本文研究了底层度量为图最短路径度量的$k$-中心问题,在LOCAL、CONGEST和CLIQUE三种标准分布式模型中提出了常数因子近似算法与下界,并给出了双准则近似设置的硬度结果。
2024-07-25 cs.DC cs.DS
Fast Parallel Algorithms for Euclidean Minimum Spanning Tree and Hierarchical Spatial Clustering
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);UC Riverside(加州大学河滨分校)
本文提出了新的并行算法生成欧氏最小生成树和空间聚类层次(称为HDBSCAN $^*$)。我们的方法是基于生成一个良好分离的对分解,然后使用Kruskal的最小生成树算法和双色最近对计算。我们引入了一个新的概念,良好的分离,以减少工作和空间的HDBSCAN $^*$算法。我们还提出了一个并行近似算法的基础上,最近的顺序算法的GAN和陶。最后,我们给出了一个新的并行分治算法计算的树状图和可达性图,这是用于可视化集群的EMST和HDBSCAN $^*$出现的不同规模。我们表明,我们的算法在理论上是有效的:他们的工作(操作数)相匹配的顺序对应,和polylogarithmic深度(并行时间)。我们实现了我们的算法,并提出了一个内存优化,只需要一个子集的良好分离的对进行计算和物化,从而节省空间(高达10倍)和时间(高达8倍)。我们的实验上的大型现实世界和合成数据集使用48核机器表明,我们的最快的算法优于最好的串行算法的问题的11.13- 55.89倍,和现有的并行算法至少一个数量级。
2021-04-02 cs.DB cs.DC cs.DS
A Practical Algorithm for Distributed Clustering and Outlier Detection
Indiana University Bloomington(印第安纳大学伯明顿分校)
我们研究了经典的$k$ -均值/中值聚类,这是无监督学习中的基本问题,在数据被划分为多个站点的设置中,并且允许我们通过将其标记为离群值来丢弃一小部分数据。我们提出了一个简单的方法,基于构建小摘要的原始数据集。该方法具有时间和通信效率高、逼近性好、能有效识别全局离群点等优点。据我们所知,这是第一个实用的算法与理论保证分布式聚类离群值。我们在真实数据和合成数据上的实验表明,我们的算法在几乎所有指标上都明显优于所有基线算法。
2018-10-11 cs.AI cs.DC cs.DS
Communication-Optimal Distributed Dynamic Graph Clustering
我们考虑的问题聚类图节点的大规模动态图,如引文网络,图像和Web网络,当图更新,如节点/边插入/删除分布式观察。我们提出了两个行之有效的通信模型,即消息传递和黑板模型的通信效率的算法。给定一个图与$n$节点,观察到在$s$远程站点随着时间$[1,t]$,这两个算法的通信成本$\tilde{O}(ns)$和$\tilde{O}(n+s)$($\tilde{O}$隐藏了一个多对数因子),几乎匹配他们的下界,$Ω(ns)$和$Ω(n+s)$,分别在消息传递和黑板模型。更重要的是,我们证明,在每个时间点在$[1,t]$我们的算法产生的聚类质量几乎一样好,集中所有的更新到那个时候,然后应用一个标准的集中式聚类算法。我们在合成数据集和真实数据集上进行了广泛的实验,这些实验证实了我们的方法在基线算法上的通信效率,同时实现了可比的聚类结果。
2018-11-14 cs.CC cs.DS
Learning Augmented Graph $k$-Clustering
Department of Computer Science and Engineering(计算机科学与工程系)
该研究将学习增强$k$-聚类推广到一般度量空间以适配图结构等非欧氏域,放宽簇大小约束,还在ETH假设下证明了一般度量下达到$(1+α)$-近似的多项式时间算法需约$Ω(k/α)$次查询,完善了该领域的理论与实用性。
2025-06-16 cs.DS cs.LG
Distributed Graph Clustering by Load Balancing
图聚类是一个基本的计算问题,在算法设计、机器学习、数据采掘和社交网络分析中有许多应用。在过去的几十年里,研究人员提出了许多图聚类的算法设计方法。然而,这些方法大多是基于复杂的谱技术或凸优化,并不能直接应用于聚类许多网络发生在实践中,其信息往往是收集在不同的网站。设计一个简单的分布式聚类算法是一个很有意义的问题,在处理大数据集方面有着广泛的应用。在本文中,我们提出了一个简单的分布式算法图聚类:对于广泛的一类图,其特征在于由一个强大的集群结构,我们的算法完成在一个多对数轮数,并恢复分区的图形接近最佳分区。我们的算法的主要组成部分是随机匹配模型的负载均衡,这是一个基本的协议在分布式计算,并已在过去的20年中得到广泛的研究应用。因此,我们的结果突出了图聚类和负载均衡之间的内在和有趣的连接。在技术层面上,我们提出了一个纯粹的代数结果表征的早期行为的负载均衡进程的图形展示集群结构。我们相信,这一结果可以进一步应用于分析其他八卦过程,如谣言传播和平均过程。
2019-04-11 cs.DC cs.DS cs.LG
Robust Communication-Optimal Distributed Clustering Algorithms
Rutgers University(罗格斯大学);Carnegie Mellon University(卡内基梅隆大学)
在这项工作中,我们研究了$k$ -中位数和$k$ -均值聚类问题时,数据分布在许多服务器上,可以包含离群值。虽然在最坏情况下对这些问题做了很多工作,但我们专注于通过超越最坏情况分析的视角获得更好的理解。我们的主要动机如下:对于许多应用程序,如聚类蛋白质的功能或聚类社区的社会网络中,有一些未知的目标聚类,并希望运行$k$ -中位数或$k$ -均值算法将产生聚类,这是接近匹配的目标聚类。最坏情况的结果可以保证恒定因子近似于最佳$k$ -中位数或$k$ -均值目标值,但不能接近目标聚类。我们的第一个结果是一个分布式算法,它返回一个接近最优的聚类假设一个自然的概念的稳定性,即近似稳定性[Balcan et. 2013年],即使当数据的恒定部分是离群值时。通信复杂性为$\tilde O(sk+z)$,其中$s$是机器的数量,$k$是集群的数量,$z$是离群值的数量。接下来,我们表明,即使在输入满足各种非最坏情况假设的情况下,这种通信量也无法得到改善。我们给出了一个匹配的$Ω(sk+z)$下界的通信都需要近似的最佳$k$ -手段或$k$ -中值成本的任何常数,并返回一个聚类,是接近目标聚类的汉明距离。即使当数据满足近似稳定性或其他常见的稳定性概念,并且集群大小是平衡的时,这些下限也保持不变。因此,$Ω(sk+z)$是一个通信瓶颈,即使对于实际实例也是如此。
2019-03-06 cs.DC cs.DS cs.LG
Distributed clustering in partially overlapping feature spaces
University of Padova(帕多瓦大学)
针对特征部分重叠的私有数据集分布式聚类问题,提出两种算法:协作更新全局质心的联邦算法和共享本地统计参数以生成合成代理数据集的单次算法,并在三个公开数据集上验证了其性能。
2025-10-10 cs.DC cs.DS cs.LG
A Surprisingly Simple Method for Distributed Euclidean-Minimum Spanning Tree / Single Linkage Dendrogram Construction from High Dimensional Embeddings via Distance Decomposition
提出一种基于距离分解的分布式方法,用于高维嵌入的精确欧几里得最小生成树和单链接树状图构建,解决了神经网络高维聚类中低维算法失效的问题。
2024-06-03 cs.CG cs.DC cs.DS
Scalable Distributed Approximation of Internal Measures for Clustering Evaluation
University of Padova(帕多瓦大学)
聚类评估中最广泛使用的内部度量是轮廓系数,其朴素的计算需要二次距离计算,这对于大规模数据集显然是不可行的。令人惊讶的是,没有已知的通用方法来有效地近似聚类的轮廓系数,具有严格可证明的高精度。在本文中,我们提出了第一个可扩展的算法来计算这样一个严格的近似评估聚类的基础上的任何度量距离。我们的算法取决于概率与大小成比例(PPS)的抽样方案,并且对于任何固定的$\varepsilon, δ\in (0,1)$,它近似的轮廓系数在一个纯粹的加性误差$O(\varepsilon)$与概率$1-δ$,使用非常少量的距离计算。我们还证明了该算法可以适应于获得严格的近似的聚类质量的其他内部措施,如凝聚力和分离。重要的是,我们使用MapReduce模型提供了该算法的分布式实现,该模型以恒定轮运行,并且在每个工作者处仅需要次线性局部空间,这使得我们的估计方法适用于大数据场景。我们进行了广泛的实验评估,我们的轮廓近似算法,比较其性能的一些基线的真实和合成数据集。实验提供的证据表明,与其他算法不同,我们的估计策略不仅提供了严格的理论保证,而且还能够在精确计算所需时间的一小部分内返回高度准确的估计,并且其分布式实现具有高度可扩展性,从而能够计算非常大的数据集的内部测量,其中精确计算是禁止的。
2021-01-20 cs.DS cs.LG
Differentially Private Clustering via Maximum Coverage
Khoury College(库里学院);Northeastern University(东北大学)
本文研究了度量空间中的聚类问题,同时保持个人数据的隐私。具体来说,我们研究的差异私人的变种的k-中位数和欧几里德k-均值问题。我们提出了多项式算法与常数乘法误差和较低的附加误差比以前的国家的最先进的每个问题。此外,我们的算法使用聚类算法没有差分隐私作为一个黑盒。这允许从业者通过选择合适的聚类算法来控制运行时间和近似因子之间的权衡。
2020-08-27 cs.DS cs.LG
Distributed $k$-Clustering for Data with Heavy Noise
University at Buffalo(布法罗大学)
在本文中,我们考虑$k$ -中心/中位数/均值聚类与离群值问题(或$(k, z)$ -中心/中位数/均值问题)在分布式设置。大多数以前的分布式算法的通信成本线性依赖于$z$,离群值的数量。最近,Guha等人通过考虑输出具有$2z$离群值的解的双准则近似算法克服了这种依赖性问题。对于其中$z$较大的情况,考虑到数据收集过程可能是昂贵的,由算法丢弃的额外的$z$离群值可能太大。在本文中,我们改进的离群值的数量,以最好的可能$(1+ε)z$,同时保持$O(1)$ -近似比和独立的通信成本$z$。我们考虑的问题包括$(k, z)$ -中心问题,和$(k, z)$ -中位数/均值问题的欧几里德度量。实施我们的算法$(k, z)$ -中心表明,它优于许多以前的算法,无论是在通信成本和质量的输出解决方案。
2018-11-29 cs.DC cs.DS cs.LG
Low-Distortion Clustering in Bounded Growth Graphs
本文研究有界增长图中的低失真聚类,证明一般图的 $\Omega((\log n)^{1/3})$ 下界,并为一致有界独立图设计恒失真分布式聚类算法及匹配下界。
2025-06-11 cs.DC cs.DS
A Distributed Algorithm for Spectral Sparsification of Graphs with Applications to Data Clustering
谱稀疏化是一种用于减少半正定矩阵中非零元素的数量而对其谱几乎没有改变的技术。特别地,谱稀疏化的主要应用是构造其谱接近给定稠密图的稀疏图。我们研究谱稀疏化的假设下,一个图的边缘之间分配的网站,可以相互沟通。在这项工作中,我们表明,如果一个图是分配在几个网站之间,工会的频谱稀疏的每个诱导子图给我们一个频谱稀疏的原始图。在文献中的其他作品相比,我们提出了精确的计算的近似因子的联盟的谱稀疏,并给出了明确的计算的边缘权重。然后,我们提出了一个应用程序,这个结果的数据聚类在额头上的数字模型的多方通信复杂性时,输入数据分配为一个向日葵之间的网站在党。
2020-12-16 cs.DS math.CO
Differentially private $k$-means clustering via exponential mechanism and max cover
Khoury College of Computer Sciences, Northeastern University(东北大学库里计算机科学学院)
针对$k$均值聚类问题,提出了一种新的$(ε_p, δ_p)$ -差分私有算法.给定欧几里德空间中的数据集,$k$均值聚类问题要求人们在该空间中找到$k$点,使得每个数据点与返回的$k$中其最近的相应点之间的欧几里德距离的平方和最小化。尽管存在具有良好理论保证的隐私保护方法来解决该问题[Balcan等人,2017年; Kaplan和Stemmer,2018年],在实践中可以看出,决定这些方法实际性能的是加性误差。通过将问题简化为网格上最大覆盖范围的一系列实例,我们能够推导出一种新的方法,该方法比以前的方法具有更低的加性误差。对于具有基数$n$和直径$Δ$的输入数据集,我们的算法具有$O(Δ^2 (k \log^2 n \log(1/δ_p)/ε_p + k\sqrt{d \log(1/δ_p)}/ε_p))$加法误差,同时保持恒定的乘法误差。我们的结论与一些实验,并找到一个改进以前实现的工作,这个问题。
2020-09-02 cs.CR cs.DS cs.LG
Nearly Optimal Dynamic $k$-Means Clustering for High-Dimensional Data
Princeton University(普林斯顿大学);Columbia University(哥伦比亚大学)
我们认为$k$ -均值聚类问题中的动态流设置,其中点从离散欧几里德空间$\{1, 2, \ldots, Δ\}^d$可以动态插入或删除的数据集。对于这个问题,我们提供了一个一遍coret构造算法使用空间$\tilde{O}(k\cdot \mathrm{poly}(d, \logΔ))$,其中$k$是目标中心数。据我们所知,这是$k$的第一个动态几何数据流算法-意味着在$k$中使用空间多项式维数和近似最优(线性)。
2019-02-07 cs.DS cs.LG stat.ML