Sublinear Algorithms for Hierarchical Clustering
Columbia University(哥伦比亚大学);University of Pennsylvania(宾夕法尼亚大学)
图上的层次聚类是数据采掘和机器学习中的一项基本任务,其应用领域包括遗传学、社会网络分析和信息检索。具体来说,我们认为最近流行的目标函数的层次聚类由于Dasgupta。以前的算法(近似)最小化这个目标函数需要线性的时间/空间复杂度。在许多应用中,底层图的大小可能是巨大的,使得即使使用线性时间/空间算法来处理图也在计算上具有挑战性。因此,人们对设计仅使用次线性资源就可以执行全局计算的算法有着浓厚的兴趣。这项工作的重点是研究在三个研究得很好的次线性计算模型下的海量图的层次聚类,这些模型分别关注空间、时间和通信,作为优化的主要资源:(1)(动态)流模型,其中边被呈现为流,(2)查询模型,其中使用邻居和度查询来查询图,(3)MPC模型,其中图边缘在经由通信信道连接的若干机器上被划分。在上述三个模型中,我们设计了层次聚类的次线性算法。在我们的算法结果的核心是一个视图的目标在图中的削减,这使我们能够使用一个轻松的概念削减稀疏做层次聚类,同时只引入一个小的失真的目标函数。我们的主要算法的贡献,然后显示如何削减所需形式的稀疏可以有效地构建在查询模型和MPC模型。我们通过建立几乎匹配的下限来补充我们的算法结果,这些下限排除了在每个模型中设计更好算法的可能性。
2022-06-15 cs.DS cs.LG
A Sublinear-Time Spectral Clustering Oracle with Improved Preprocessing Time
University of Science and Technology of China(中国科学技术大学)
本文提出一种亚线性时间谱聚类预言机,放宽了先前对电导率差距或指数预处理时间的要求,支持快速聚类查询,并容忍少量随机边删除,在合成网络上验证了理论界。
2023-12-29 cs.DS cs.LG cs.SI
Correlation Clustering and (De)Sparsification: Graph Sketches Can Match Classical Algorithms
针对相关性聚类经典算法进展难以移植到亚线性算法的问题,提出图去稀疏化范式,以黑盒方式成功将经典算法的收益移植到亚线性算法中。
2025-04-05 cs.DS
Solving the Correlation Cluster LP in Sublinear Time
本文提出一种在$\widetilde O(2^{\text{poly}(1/ε)} n)$时间内求解关联聚类cluster LP可行解的新方法,并在同等时间界限内实现舍入,从而实现快速的$(1.485+ε)$-近似算法。
2025-11-04 cs.DS
Dynamic Correlation Clustering in Sublinear Update Time
Google Research(谷歌研究院);Columbia University(哥伦比亚大学)
针对动态节点流中的相关聚类,本文提出以 O(polylog n) 摊还更新时间维持 O(1)-近似的算法,改进了此前节点流中的 O(D) 更新时间,并用真实数据实验验证。
2024-06-13 cs.DS cs.LG
Sublinear Algorithms for Estimating Single-Linkage Clustering Costs
University of Science and Technology of China(中国科学技术大学);University of Cologne(科隆大学)
针对单链接聚类成本轮廓,提出基于采样的次线性算法,以O~(d√W/ε^3)时间输出草图,实现ℓ1误差ε·cost(G)的近似,并证明近乎匹配的查询下界。
2026-10-30 cs.DS
Sublinear-Time Clustering Oracle for Signed Graphs
KTH Royal Institute of Technology(KTH皇家理工学院);University of Science and Technology of China(中国科学技术大学)
社交网络通常使用符号图来建模,其中顶点对应于用户,并且边具有指示用户之间的交互是积极的还是消极的符号。出现的符号图通常包含一个清晰的社区结构,在这个意义上,图可以被划分为少量的极化社区,每个定义一个稀疏的切割和不可分割的更小的极化子社区。我们提供了一个本地聚类预言机的签名图与这样一个明确的社区结构,可以回答成员查询,即,“给定一个顶点$v$,$v$属于哪个社区?“,在次线性时间内通过仅读取图形的一小部分来实现。形式上,当图具有有界最大度且社区数至多为$O(\log n)$时,在$\tilde{O}(\sqrt{n}\operatorname{poly}(1/\varepsilon))$预处理时间的作用下,我们的预言机可以在$\tilde{O}(\sqrt{n}\operatorname{poly}(1/\varepsilon))$时间内回答每个成员查询,并正确分类$(1-\varepsilon)$ -分数的顶点.一系列隐藏的人造真实社区我们的预言是可取的应用程序中的聚类信息是只需要一个小数目的顶点。在此之前,这种局部聚类预言只为无符号图所知;我们对有符号图的推广需要一些新的想法,并对有符号的随机游动的行为进行了新的谱分析。我们评估我们的算法构建这样一个预言和回答成员查询合成和现实世界的数据集,在实践中验证其性能。
2022-06-28 cs.DS cs.LG cs.SI
Going for Speed: Sublinear Algorithms for Dense r-CSPs
本文对已广泛研究的n-变量r-CSP问题(具有r元可加误差约束的约束满足问题)给出了新的次线性并行算法。算法的运行时间对于布尔r-CSP为O(n/ε^2)+2^O(1/ε^2),对于约束为k个字母表上的变量的r-CSP为O(k^4 n / ε^2)+2^O(log k / ε^2).对于任何常数k,这给出了无条件地在运行时间内对n的最佳依赖性,而对1/ε的依赖性的指数多项式接近指数时间假设下的下限,即2^Ω(ε^(-1/2))。对于Max-Cut,与Goldreich,Goldwasser和Ron(JACM'98)的次线性算法相比,这给出了依赖于1/ε的指数改进,并且与Mathieu和Schudy(SODA'08)的算法相比,在n中线性加速。对于k相关聚类问题的最大化版本,我们的运行时间是O(k^4 n / ε^2)+ k^O(1/ε^2),改进了Guruswami和Giotis(SODA'06)以前最好的n k^{O(1/ε^3 log k/ε)。
2014-07-29 cs.DS
Differential privacy and Sublinear time are incompatible sometimes
该研究首次探索同时满足差分隐私与次线性时间的算法下界,证明一般情况下二者不可兼容,并以基于单向边际分布的简单问题为例验证了该结论。
2025-01-13 cs.CR cs.DS
Correlation Clustering in Constant Many Parallel Rounds
Google Research(谷歌研究院);CSAIL, MIT(麻省理工学院计算机科学与人工智能实验室);Microsoft Research(微软研究院)
相关聚类是无监督学习的一个中心话题,在ML和数据采掘中有许多应用。在相关聚类中,人们接收一个有符号的图作为输入,目标是将其划分以最小化不一致的数量。在这项工作中,我们提出了一个大规模并行计算(MPC)算法,这个问题是相当快的比以前的工作。特别是,我们的算法使用的机器与内存次线性的节点数在图中,并返回一个常数近似值,而只运行一个常数轮数。据我们所知,我们的算法是第一个,可以证明近似的聚类问题的图只使用一个常数的MPC轮在次线性记忆制度。我们补充我们的分析与我们的技术的实验分析。
2021-06-15 cs.DC cs.DS cs.LG
Sublinear Edge Fault-Tolerant Hyperspanners for Hypergraphs
Colby College(科尔比学院);Duke University(杜克大学);Old Dominion University(老道明大学)
本文提出了一种基于聚类的算法,用于构造超图的亚线性边故障容忍跨度结构,改进了现有结果并建立了理论下界。
2026-09-01 cs.DS
Polylogarithmic Sketches for Clustering
给定$\ell_p^d$中的$n$点,我们考虑将点划分为具有关联中心的$k$簇的问题。聚类的成本是点到其聚类中心的距离的$p^{\text{th}}$幂的总和。对于$p \in [1,2]$,我们设计草图的大小聚$(\log(nd),k,1/ε)$,使成本的最佳聚类可以估计内的因素$1+ε$,尽管事实上,压缩表示不包含足够的信息来恢复集群中心或分区成集群。这导致了一个流算法估计聚类成本与空间聚$(\log(nd),k,1/ε)$。我们还获得了一个分布式内存算法,其中的$n$点之间任意分区的$m$机器,其中每个发送信息到一个中央党谁然后计算近似的聚类成本。在此工作之前,对于$p \in [1,2)$,不知道这种流或分布式存储器算法具有对$d$的次线性依赖性。
2022-04-26 cs.DS
Computing Heat Kernel Pagerank and a Local Clustering Algorithm
热核网页排名是个性化网页排名的一种变化,以指数形式给出。在这项工作中,我们提出了一个次线性时间算法近似的热核pagerank的图。该算法的工作原理是模拟有限长度的随机游动,并在时间上运行$O\big(\frac{\log(ε^{-1})\log n}{ε^3\log\log(ε^{-1})}\big)$,假设执行一个随机游动步骤,并从一个有界支持的分布采样需要恒定的时间。热核pagerank得到的顶点的定量排名可以用于局部聚类算法。我们提出了一个有效的本地聚类算法,发现通过执行一个热内核pagerank向量扫描削减,使用热内核pagerank近似算法作为一个子程序。具体而言,我们表明,对于一个子集$S$的Cheeger比$ϕ$,许多顶点$S$可以作为种子的热内核pagerank向量,将找到一个削减的电导$O(\sqrtϕ)$。
2016-12-15 cs.DS
Estimating Correlation Clustering Cost in Node-Arrival Stream
Indiana University(印第安纳大学)
本文研究了节点到达流模型中的相关聚类问题,提出C$^4$Approx算法,在子线性空间和常数遍历次数下近似计算相关聚类成本,并通过实验验证其在稀疏图上的性能。
2026-05-08 cs.DS
Distributed Partial Clustering
近年来,分布式数据的算法设计越来越流行,这主要是由于大量数据集通常被收集并存储在不同的位置。在分布式设置中,通信通常支配查询处理时间。因此,它成为至关重要的是设计通信效率的算法,查询分布式数据。同时,人们已经广泛认识到,部分优化,即允许我们忽略一小部分数据,为我们提供了更好的解决方案。忽略点的动机通常来自噪声和其他在大数据场景中普遍存在的现象。本文研究了分布式模型下的部分聚类问题,即$k$ -center,$k$ -median和$k$ -means,并给出了输入大小为通信次线性的算法.因此,我们开发的第一个算法的部分$k$中位数和手段的目标,运行在次二次运行时间。我们还开始研究分布式算法聚类不确定的数据,其中每个数据点可能会落在多个位置在一定的概率分布。
2017-06-05 cs.DS
Spectral Clustering with Side Information
本文提出了一种次线性时间算法,结合侧信息和谱聚类,以达到近最优的误分类率,同时改进了图的稀疏性和扩张属性。
2025-11-21 cs.DS
Approximating Dasgupta Cost in Sublinear Time from a Few Random Seeds
本文提出首个在次线性时间内测试 $(k, ε)$-可聚类图层次结构的算法,利用约 $n^{1/3}$ 个已知标签的随机种子,在 $n^{1/2+O(ε)}$ 时间内实现对 Dasgupta 开销的 $O(\sqrt{\log k})$ 近似。
2025-08-10 cs.DS
Local correlation clustering
相关聚类也许是聚类的最自然的表述。给定$n$对象和成对相似性度量,目标是对对象进行聚类,以便在最大程度上将相似对象放在同一个聚类中,将不相似对象放在不同的聚类中。尽管其理论上的吸引力,相关聚类的实际意义仍然在很大程度上未被探索,主要是由于相关聚类需要$Θ(n^2)$成对相似性作为输入。在本文中,我们开始调查\emph{local}算法的相关聚类。在\emph{local correlation clustering}中,我们被赋予单个对象的标识符,我们希望使用少量的相似性查询,以某种全局一致的接近最优的聚类返回它所属的聚类。用于相关聚类的局部算法为\emph{sublinear-time}算法打开了大门,当项目之间的相似性计算成本很高时,\emph{sublinear-time}算法特别有用,因为在许多实际应用领域中经常出现这种情况。它们还意味着$(i)$分布式和流式聚类算法,$(ii)$恒定时间估计器和测试器的集群编辑距离,和$(iii)$属性保持并行重构算法的集群性。具体来说,我们设计了一个本地聚类算法,达到$(3, \varepsilon)$ -近似的时间$O(1/\varepsilon^2)$独立的数据集大小。所有对象的显式近似聚类可以在时间上产生$O(n/\varepsilon)$(这是可证明的最优)。我们还提供了一个完全加性$(1,\varepsilon)$ -近似与本…
2013-12-18 cs.DS
Sublinear Time Quantum Sensitivity Sampling
University of California, Berkeley(加州大学伯克利分校);Carnegie Mellon University(卡内基梅隆大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出统一的量子敏感性采样框架,在k-中位数/k-均值聚类、ℓp回归和低秩近似等问题上构造核心集,实现了亚线性时间复杂度和对已有量子采样方法的改进。
2025-09-20 cs.DS cs.LG quant-ph
Faster Sublinear Algorithms using Conditional Sampling
MIT(麻省理工学院)
概率分布D的条件采样预言机返回来自限制于域的指定子集的D的条件分布的样本。最近的一系列工作(Chakraborty et al. 2013和Cannone et al. 2014)表明,访问这样的条件抽样oracle只需要多对数甚至常数数量的样本来解决分布测试问题,如同一性和均匀性。这大大改善了标准采样模型,其中多项式许多样本是必要的。受这些结果的启发,我们引入了一个计算模型的基础上,条件采样开发次线性算法与指数更快的运行时间相比,标准的次线性算法。本文主要研究高维欧氏空间中点集上的几何优化问题。访问这些点是通过一个有条件的采样预言机提供的,该预言机将域的子集的简洁表示作为输入,并输出该子集中的均匀随机点。我们研究了两个很好的研究问题:k-均值聚类和估计的最小生成树的重量。与经典模型的已有算法相比,我们的算法具有时间、空间和样本复杂度,即维数为多项式,点数为多对数。最后,我们评论了该模型的适用性,并与现有的流,并行和分布式计算模型。
2016-08-16 cs.DS cs.LG
Sublinear Data Structures for Nearest Neighbor in Ultra High Dimensions
本文研究了超高维情形下的近似最近邻问题,提出了在 $d\gg n$ 时具有次线性空间和查询时间的数据结构,并通过归约为其他几何问题提供了次线性解决方案。
2025-04-04 cs.CG cs.DS
Optimal Fully Dynamic $k$-Center Clustering for Adaptive and Oblivious Adversaries
在完全动态聚类问题中,当通过插入和删除单个点来修改度量空间中给定数据集的聚类时,必须保持该聚类。在本文中,我们解决了全动态$k$中心聚类的复杂性对自适应和不经意的对手。针对不经意的对手,我们提出了第一个算法,完全动态$k$ -中心在任意度量空间,保持最佳的$(2+ε)$ -近似在$O(k \cdot \mathrm{polylog}(n,Δ))$摊销更新时间。这里,$n$是任何时候活动点数量的上限,$Δ$是度量空间的纵横比。以前,最著名的摊销更新时间是$O(k^2\cdot \mathrm{polylog}(n,Δ))$,是由于Chan,Gourqin和Sozio(2018)。此外,我们证明了我们的运行时是最佳的$\mathrm{polylog}(n,Δ)$因素。事实上,我们证明,即使是离线算法的$k$ -聚类任务在任意度量空间,包括$k$ -中位数,$k$ -手段,和$k$ -中心,必须至少$Ω(n k)$距离查询,以实现任何非平凡的近似因子。这意味着$Ω(k)$的下限,即使对于仅插入设置也成立。我们还显示了确定性的下限和上限的自适应对手,证明了更新时间次线性的$k$是可能的,对不经意的对手的度量空间,承认局部敏感的哈希函数(LSH),并给出了第一个完全动态的$O(1)$近似算法密切相关的$k$ -半径和$k$ -直径和问题。
2023-03-21 cs.DS
A Unified Approach for Clustering Problems on Sliding Windows
我们探讨了一般度量空间和欧氏空间中的流滑动窗口模型的聚类问题。我们提出了第一个多对数空间$O(1)$ -近似的度量$k$ -中位数和度量$k$ -意味着问题的滑动窗口模型,回答了主要的开放问题所提出的巴布科克,数据,Motwani和O 'Callaghan,这仍然没有回答了十多年。我们的算法使用$O(k^3 \log^6 n)$空间和$\operatorname{poly}(k, \log n)$更新时间。这是一个指数级的改进,由于Babcock等人的技术所需的空间。我们引入了一个数据结构,扩展了光滑的直方图介绍了Braverman和Ostrovsky操作更广泛的一类功能。特别是,我们表明,仅使用多对数空间,我们可以保持当前窗口的摘要,从该窗口中,我们可以构建一个$O(1)$近似聚类解决方案。合并归约是计算几何中的一种通用方法,用于使离线算法适应仅插入流模型。几个著名的coreset结构主要是在插入只流模型使用这种方法,包括著名的coreset技术的$k$ -中位数,$k$ -手段在低维和高维欧氏空间。之前的工作已经将这些技术应用于插入-删除模型,但将它们转化为滑动窗口模型仍然是一个挑战。我们给出的第一个算法,给定一个插入只流coreset建设的空间$s$,保持一个$(1\pmε)$ -近似coreset的滑动窗口模型使用$O(s^2ε^{-2}\log n)$空间。对于聚类问题,…
2015-04-21 cs.DS
Higher-Order Spectral Clustering of Directed Graphs
Oxford Research Group(牛津研究小组);FiveAI;University of Edinburgh(爱丁堡大学)
聚类是算法中的一个重要主题,并且在机器学习、计算机视觉、统计学和其他几个研究学科中有许多应用。图聚类的传统目标是找到具有低传导性的簇。这些目标不仅适用于无向图,它们也无法考虑聚类之间的关系,这对许多应用程序来说可能是至关重要的。为了克服这些缺点,我们研究了有向图(有向图),其簇彼此之间表现出进一步的“结构”信息。基于有向图的Hermitian矩阵表示,提出了一种近似线性时间的有向图聚类算法,并进一步证明了在合理的假设下,该算法可以在次线性时间内实现.我们的理论工作的意义是证明了广泛的实验结果在联合国商品贸易统计数据集:我们的算法的输出聚类不仅展示了集群(国家集)如何相互关联的进出口记录,而且这些集群如何随着时间的推移,根据国际贸易中已知的事实。
2020-11-10 cs.DS cs.LG
Optimal Fully Dynamic $k$-Centers Clustering
我们提出了第一个算法完全动态$k$中心聚类在任意度量空间,保持最佳的$2+ε$近似在$O(k \cdot \operatorname{polylog}(n,Δ))$摊销更新时间。这里,$n$是任何时候活动点数量的上限,$Δ$是数据的纵横比。以前,最著名的摊销更新时间是$O(k^2\cdot \operatorname{polylog}(n,Δ))$,这是由于Chan、Gourqin和Sozio。我们证明,我们的算法的运行时间是最佳的$\operatorname{polylog}(n,Δ)$因素,即使是插入只流,这关闭了完全动态的$k$中心聚类的复杂性。特别是,我们证明了任何算法的$k$ -聚类任务在任意度量空间,包括$k$ -手段,$k$ -中位数,$k$ -中心,必须至少$Ω(n k)$距离查询,以实现任何非平凡的近似因子。尽管任意度量的下限,我们证明了$k$中的更新时间次线性是可能的度量空间,允许局部敏感的哈希函数(LSH)。也就是说,我们展示了一个黑盒变换,它需要一个度量空间的局部敏感的哈希家庭,并产生一个更快的全动态$k$中心算法,该空间。特别是,对于一个大类的度量,包括欧几里德空间,$\ell_p$空间,汉明度量,和Jaccard度量,对于任何$c > 1$,我们的结果产生一个$c(4+ε)$近似$k$ -中心的解决方案,在$O(n^{1/c} \cdot \operat…
2021-12-13 cs.DS
Asymptotically exact streaming algorithms
我们引入了一种新的数据流计算模型:渐进精确流算法。这些算法具有当流的长度变为无穷大时趋于1的近似比,而算法所使用的存储器被限制为polylog(n)大小。因此,该算法的输出是最优的限制。我们在我们的模型中显示出积极的结果,在流文学中已经讨论了一系列重要的问题。这些问题包括计算频率矩,聚类问题和最小二乘回归。我们的结果还包括问题的下限,在普通设置中有流算法,但在我们的模型中不允许次线性空间算法。
2014-08-08 cs.DS
Almost 3-Approximate Correlation Clustering in Constant Rounds
我们研究相关聚类的并行算法。$n$对象中的每一对都被标记为“相似”或“不相似”。目标是将对象划分为任意多个聚类,同时最小化与标签不一致的数量。我们的主要结果是一个算法,对于任何$ε> 0$获得$(3+ε)$ -近似在$O(1/ε)$轮(模型,如大规模并行计算,本地和半流)。这是平行相关聚类的丰富文献的一个顶点。一方面,近似(几乎)匹配组合算法的自然障碍3。另一方面,该算法的轮复杂度基本上是恒定的。为了实现这一结果,我们引入了一个简单的$O(1/ε)$轮并行算法。我们的主要结果是提供了一个分析该算法,表明它实现了$(3+ε)$ -近似。我们的分析借鉴了新的连接到次线性时间算法。具体来说,它建立在吉田,山本和伊藤[STOC'09]关于限制贪婪最大独立集的“查询复杂性”的工作上。据我们所知,这是该方法在分析任何算法的近似比中的第一个应用。
2022-05-07 cs.DC cs.DS
Sublinear Time Algorithms for Several Geometric Optimization (With Outliers) Problems In Machine Learning
University of Science and Technology of China(中国科学技术大学)
本文研究了机器学习中几个重要的几何优化问题。首先,我们重新审视欧氏空间$\mathbb{R}^d$中的最小包围球(MEB)问题。这个问题以前已经被广泛研究过,但是现实世界的机器学习任务通常需要处理大规模的数据集,以至于我们甚至负担不起线性时间算法。受最近关于{ \em beyond the worst case analysis}的研究的启发,我们引入了MEB稳定性的概念,这是自然的,易于理解的。粗略地说,MEB的实例是稳定的,如果结果球的半径不能通过移除一小部分输入点来显著减小。在稳定性假设下,我们提出了两种计算半径近似MEB的采样算法,其采样复杂度与输入点的数目无关$n$。特别地,第二算法具有甚至独立于维度$d$的样本复杂度。我们还考虑了没有稳定性假设的一般情况。我们提出了一种混合算法,可以输出半径近似MEB或覆盖近似MEB。我们的算法改善了以前的次线性MEB算法的运行时间和通过次数。我们的方法依赖于两个新的技术,均匀自适应采样方法和三明治引理。此外,我们观察到,这两种技术可以推广到设计次线性时间算法的更广泛的几何优化问题的离群值在高维,包括MEB离群值,一类和二类线性支持向量机离群值,$k$中心聚类离群值,和平坦拟合离群值。我们提出的算法也适用于内核。
2023-01-07 cs.CG cs.DS cs.LG
Clustering under Perturbation Resilience
Carnegie Mellon University(卡内基梅隆大学);Princeton University(普林斯顿大学)
Bilu和Linial~ \cite{BL}提出了一种基于目标的聚类分析方法,该方法假设在对点间距离进行小的乘性扰动的情况下,目标的最优聚类保持不变。希望通过利用这种情况下的结构,可以克服最坏情况下的硬度结果。在本文中,我们在这个框架内提供了几个结果。对于基于中心的目标,我们提出了一个算法,可以最优地聚类实例对因子$(1 + \sqrt{2})$的扰动有弹性,解决了Awasthi等人的一个公开问题。\cite{ABS10}。对于$k$ -中位数,一个中心为基础的目标,特别感兴趣的,我们另外给出了一个更宽松的假设,我们允许最优解的变化在一个小的$ε$分数扰动后的点的算法。我们给出了已知的$k$ -中位数的第一个界限下,这个更现实和更一般的假设。我们还提供了积极的结果,最小和聚类,这通常是一个更难的目标比中心为基础的目标,从近似的角度来看。我们的算法是基于新的连锁标准,可能是独立的利益。此外,我们给出了次线性时间算法,显示算法,可以返回一个隐式聚类只访问一个小的随机样本。
2016-12-11 cs.DS cs.LG
Space and Time Efficient Parallel Graph Decomposition, Clustering, and Diameter Approximation
我们开发了一种新的并行分解策略,为未加权,无向图,基于不断增长的不相交的连接集群从一批中心逐步选择尚未发现的节点。相对于类似的以前的分解,我们的策略行使更严格的控制集群的数量和它们的最大半径。我们提出了我们的并行图分解的两个重要应用:(1)$k$ -中心聚类近似;(2)直径近似。在这两种情况下,我们得到的算法,具有多对数近似因子,并服从于一个分布式的实现,是面向大规模(长直径)的图形。计算所需的总空间在问题大小上是线性的,并且对于具有低倍维的图,平行深度在直径上基本上是次线性的。据我们所知,我们是第一个平行近似这些问题,实现子直径并行时间,为相关的一类图,只使用线性空间。除了理论上的保证,我们的算法允许一个非常简单的实现集群架构:我们报告了大量的实验,证明其有效性和效率的大型图形相比,替代已知的方法。
2015-02-06 cs.DC cs.DS
Massively-Parallel Heat Map Sorting and Applications To Explainable Clustering
Sharif University of Technology(谢里夫理工大学)
本文提出了热图排序问题以在保持簇连通性的前提下重排与合并点及维度,证明了其NP难性,并给出了大规模并行计算模型下的常数轮次固定参数算法及NP难特例的近似算法,实证表明其优于k-means和DBSCAN。
2023-09-14 cs.DC cs.DS cs.LG
Dimensionality Reduction for k-Means Clustering and Low Rank Approximation
Massachusetts Institute of Technology(麻省理工学院)
我们展示了如何近似一个数据矩阵$\mathbf{A}$与一个小得多的草图$\mathbf{\tilde A}$,可用于解决一般类的约束k秩近似问题,在$(1+ε)$误差。重要的是,这类问题包括$k$ -均值聚类和无约束的低秩近似(即主成分分析)。通过将数据点减少到仅$O(k)$维度,我们的方法一般加速这些普遍存在的问题的任何精确、近似或启发式算法。对于$k$ -均值降维,我们提供了许多常见草图绘制技术的$(1+ε)$相对误差结果,包括随机行投影、列选择和近似SVD。对于近似主成分分析,我们给出了一个简单的替代已知的算法,在流媒体设置中的应用程序。此外,我们扩展了最近的工作列为基础的矩阵重建,列子集,不仅“覆盖”一个良好的子空间$\bv{A}$,但可以直接用于计算这个子空间。最后,对于$k$ -均值聚类,我们展示了如何通过将数据点投影到$O(\log k/ε^2)$维度来实现$(9+ε)$近似。这给出了利用$k$的特定结构的第一个结果--在$k$中实现与输入大小无关的维度和次线性。
2015-04-03 cs.DS cs.LG
Massively Parallel Correlation Clustering in Bounded Arboricity Graphs
识别集合中相似元素的聚类是数据分析中的常见任务。随着数据量的巨大增长和单处理器速度的物理限制,有必要寻找有效的并行聚类算法。本文研究了大规模并行计算(MPC)模型下有界荫度图的相关聚类问题。更具体地说,我们给出了一个完全图,其中的边是正的或负的,表明顶点对是相似的还是不相似的。任务是将顶点划分为具有尽可能少的分歧的簇。也就是说,我们希望最小化正的簇间边缘和负的簇内边缘的数量。考虑一个输入图$G$在$n$的顶点上,使得正边诱导出一个$λ$ -arboric图.我们的主要结果是一个3-近似($\textit{in expectation}$)算法的相关聚类,运行在$\mathcal{O}(\log λ\cdot \textrm{poly}(\log \log n))$ MPC轮的$\textit{strongly sublinear memory regime}$。这是通过将有界荫度图上的相关聚类的结构特性与Fischer和Noever(SODA '18)对随机贪婪MIS的见解以及Ailon、Charikar和Newman(STOC '05)的$\texttt{PIVOT}$算法相结合来获得的。结合已知的图匹配算法,我们的结构属性也意味着一个精确的算法和算法与$\textit{worst case}$ $(1+ε)$ -近似保证在特殊情况下的森林,其中$λ=1$。
2021-08-06 cs.DC cs.DS
Static to Dynamic Correlation Clustering
New York University(纽约大学);Google Research(谷歌研究);University of Michigan(密歇根大学);Nanjing University(南京大学);University of Copenhagen(哥本哈根大学);Université Grenoble Alpes(格勒诺布尔阿尔卑斯大学);EPFL(洛桑联邦理工学院)
本文提出将静态相关性聚类算法转化为动态算法的框架,实现对适应性对手的鲁棒性,改进了现有算法的近似因子和更新时间。
2026-05-11 cs.DS
Approximating the Expansion Profile and Almost Optimal Local Graph Clustering
谱分割是一个简单的,近线性时间,算法来寻找稀疏切割,和Cheeger不等式提供了一个最坏情况下的保证,该算法找到的近似的质量。局部图划分算法[ST 08,ACL 06,AP 09]在输出集的大小上几乎是线性的时间上运行,并且它们的近似保证比由多重对数$\log^{Ω(1)} n$因子的Cheeger不等式提供的保证更差。设计一个局部图聚类算法,使其近似保证接近于Cheeger不等式的保证,并且其运行时间与输出的大小近似成线性关系,一直是一个长期存在的问题。在本文中,我们解决了这个问题,我们设计了一个算法,具有相同的保证(直到一个常数因子)的Cheeger不等式,运行时间略超线性的输出的大小。这是第一个次线性(输入的大小)时间算法,几乎与Cheeger不等式相同。作为我们的结果的副产品,我们证明了一个双准则近似算法的任何图的扩展配置文件。设$ϕ(γ) = \min_{μ(S) \leq γ}ϕ(S)$。有一个多项式时间算法,对于任何$γ,ε>0$,找到测量$μ(S)\leq 2γ^{1+ε}$和扩展$ϕ(S)\leq \sqrt{2ϕ(γ)/ε}$的集合$S$。我们的证明技术还提供了一个更简单的证明的结构结果的Arora,Barak,Steurer [ABS 10],可以应用到不规则图。我们的主要技术工具是,对于图的顶点的任何集合$S$,从$S$的随机选择的顶点开始的惰性$t$ -步…
2012-11-05 cs.DS
Hierarchical Agglomerative Graph Clustering in Poly-Logarithmic Depth
由于现实世界数据集的规模巨大,获得可扩展的层次凝聚聚类(HAC)算法是非常重要的。与此同时,由于HAC算法看似顺序的性质,因此很难有效地并行化HAC。在本文中,我们解决这个问题,并提出ParHAC,第一个高效的并行HAC算法与次线性深度的广泛使用的平均链接函数。特别是,我们提供了一个$(1+ε)$ -近似算法,这个问题的$m$边图使用$\tilde{O}(m)$工作和多对数深度。此外,我们表明,获得类似的准确平均连接HAC的界限是不可能的标准复杂性理论的假设。我们补充我们的理论结果与全面研究的ParHAC算法在其可扩展性,性能和质量,并比较几个国家的最先进的顺序和并行基线。在一组广泛的大型公开真实世界数据集上,我们发现ParHAC在最佳顺序基线上平均获得了50.1倍的加速,同时实现了与精确HAC算法相似的质量。我们还表明,ParHAC可以使用商品多核机器在三个多小时内对最大的公共可用图数据集之一进行聚类,其中包含1240亿条边。
2022-06-23 cs.DC cs.DS
Scalable Differentially Private Clustering via Hierarchically Separated Trees
Google Research(谷歌研究院);Sorbonne Université(索邦大学);Aarhus University(奥胡斯大学)
研究了$d$维欧氏空间中的私有$k$ -中值和$k$ -均值聚类问题。通过利用树嵌入,我们给出了一个高效且易于实现的算法,该算法在经验上与最先进的非私有方法具有竞争力。我们证明了我们的方法计算的解决方案的成本最多$O(d^{3/2}\log n)\cdot OPT + O(k d^2 \log^2 n / ε^2)$,其中$ε$是隐私保证。(The维度项$d$可以使用标准降维技术用$O(\log k)$代替)。虽然最坏情况下的保证是最先进的私有聚类方法的状态差,我们提出的算法是实用的,运行在近线性,$\tilde{O}(nkd)$,时间和规模为数千万点。我们还表明,我们的方法是适合在大规模的分布式计算环境中的并行化。特别是,我们表明,我们的私人算法可以实现对数数量的MPC轮在次线性内存制度。最后,我们补充我们的理论分析与实证评估,证明算法的效率和准确性相比,其他隐私聚类基线。
2022-06-17 cs.CR cs.DS cs.LG
Testing Higher-order Clusterability on graphs
该研究扩展了属性测试框架下的图聚类研究,定义了高维优质图簇,给出高阶可聚类性测试的查询下界,并提出基于三角形的最优次线性时间测试算法。
2023-10-06 cs.DS
Scalable Distributed Approximation of Internal Measures for Clustering Evaluation
University of Padova(帕多瓦大学)
聚类评估中最广泛使用的内部度量是轮廓系数,其朴素的计算需要二次距离计算,这对于大规模数据集显然是不可行的。令人惊讶的是,没有已知的通用方法来有效地近似聚类的轮廓系数,具有严格可证明的高精度。在本文中,我们提出了第一个可扩展的算法来计算这样一个严格的近似评估聚类的基础上的任何度量距离。我们的算法取决于概率与大小成比例(PPS)的抽样方案,并且对于任何固定的$\varepsilon, δ\in (0,1)$,它近似的轮廓系数在一个纯粹的加性误差$O(\varepsilon)$与概率$1-δ$,使用非常少量的距离计算。我们还证明了该算法可以适应于获得严格的近似的聚类质量的其他内部措施,如凝聚力和分离。重要的是,我们使用MapReduce模型提供了该算法的分布式实现,该模型以恒定轮运行,并且在每个工作者处仅需要次线性局部空间,这使得我们的估计方法适用于大数据场景。我们进行了广泛的实验评估,我们的轮廓近似算法,比较其性能的一些基线的真实和合成数据集。实验提供的证据表明,与其他算法不同,我们的估计策略不仅提供了严格的理论保证,而且还能够在精确计算所需时间的一小部分内返回高度准确的估计,并且其分布式实现具有高度可扩展性,从而能够计算非常大的数据集的内部测量,其中精确计算是禁止的。
2021-01-20 cs.DS cs.LG
Clustering with Set Outliers and Applications in Relational Clustering
University of California, Santa Cruz(加州大学圣克鲁兹分校);Meta Platforms(Meta平台);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出了一种具有集合异常值的k-中心聚类模型,并在关系聚类中应用,通过近似算法实现了鲁棒聚类与查询评估的紧密联系。
2025-12-22 cs.DB cs.DS
Near-Optimal Quantum Coreset Construction Algorithms for Clustering
Peking University(北京大学)
本文提出用于 $k$-聚类的量子核心集构造算法,以 $\tilde{O}(\sqrt{nk}d^{3/2})$ 查询复杂度实现二次加速,并给出近乎匹配的 $Ω(\sqrt{nk})$ 下界。
2023-06-05 cs.AI cs.DS cs.LG
Differentially Private Clustering in Data Streams
Google(谷歌);Columbia University(哥伦比亚大学);Purdue University(普渡大学)
本研究针对流式聚类的隐私保护需求,提出首个持续发布设置下的次线性空间差分隐私$k$-均值/$k$-中位数聚类框架,实现两种近似保证且仅需离线DP算法作为黑盒。
2025-10-02 cs.CR cs.DS cs.LG
Learning-Augmented Hierarchical Clustering
Johns Hopkins University(约翰斯·霍普金斯大学);Rice University(莱斯大学);Google Research(谷歌研究院);Carnegie Mellon University(卡内基梅隆大学);Texas A&M University(德克萨斯A&M大学)
本文研究利用分裂预言机辅助信息进行层次聚类,提出多项式时间和近线性时间算法,分别对Dasgupta目标和Moseley-Wang目标实现常数近似和(1-o(1))近似,突破标准方法的近似困难性,并扩展到流式与PRAM亚线性设置。
2025-06-05 cs.DS cs.LG
Min-Max Correlation Clustering via Neighborhood Similarity
针对完全图上的最小-最大相关性聚类,提出基于邻域相似性与随机投影的纯组合 (3+ε)-近线性近似算法,并扩展至 MPC 与半流式模型。
2025-02-18 cs.DC cs.DS
Breaking 3-Factor Approximation for Correlation Clustering in Polylogarithmic Rounds
Boston College(波士顿学院)
针对相关性聚类并行算法长期受限于3近似比的问题,提出多对数深度的(2.4+ε)-近似并行算法,并给出串行与MPC实现。
2023-07-13 cs.DC cs.DS cs.LG
Sampling-based sublinear low-rank matrix arithmetic framework for dequantizing quantum machine learning
University of Texas at Austin(德克萨斯大学奥斯汀分校);Alfréd Rényi Institute of Mathematics(阿尔弗雷德·雷尼数学研究所);California Institute of Technology(加州理工学院);University of Maryland(马里兰大学);University of Washington(华盛顿大学)
本文提出基于ℓ²-范数采样的经典SVT框架,在近似低秩矩阵上实现与维度无关的矩阵运算,推广并改进多类量子机器学习算法的去量子化结果。
2023-07-10 cs.DS cs.LG quant-ph
Online Facility Location on Semi-Random Streams
在流模型中,流的顺序可以显著影响问题的难度。$t$ -半随机流被引入作为随机顺序($t=1$)和对抗顺序($t=n$)流之间的内插,其中对抗者拦截随机顺序流并且一次可以延迟多达$t$元素。IITK次线性开放问题\#15要求找到其性能随着$t$增加而平滑下降的算法。我们发现,著名的在线设施定位算法实现了预期的竞争比$O(\frac{\log t}{\log \log t})$。我们提出了一个匹配的下界,任何随机算法有一个预期的竞争比$Ω(\frac{\log t}{\log \log t})$。我们使用这个结果来构建一个$O(1)$ -近似流算法的$k$ -中值聚类,存储$O(k \log t)$点,并有$O(k \log t)$最坏情况下的更新时间。我们的技术推广到任何相异度的措施,满足弱三角不等式,包括$k$ -手段,$M$ -估计,和$\ell_p$规范。$t=1$的特殊情况下产生的随机顺序流的最佳$O(k)$空间算法,以及RAM模型中的最佳$O(nk)$时间算法,关闭了一个长期的研究这个问题。
2017-11-26 cs.DS
Parameter-Free Triangle Counting
Yale University(耶鲁大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出无参数流式三角形计数算法,无需先验知识即可近似三角形数,使用O(p)遍和期望次线性空间,并证明任何无参数乘法近似算法需线性空间的下界。
2026-09-22 cs.DS
Efficient Shortest Paths in Scale-Free Networks with Underlying Hyperbolic Geometry
在图上加速最短路径算法的一种常见方法是使用双向搜索,它同时从起点和终点探索图。最近观察到,这种策略在无标度的真实世界网络中表现得特别好。这种网络通常具有异构度分布(例如,幂律分布)和高聚类(即,具有共同邻居的顶点很可能自身连接)。这两个性质可以通过假设一个基本的双曲几何得到。为了解释所观察到的行为的双向搜索,我们分析其运行时间的双曲随机图,并证明它是$\mathcal {\tilde O}(n^{2 - 1/α} + n^{1/(2α)} + δ_{\max})$具有高概率,其中$α\in (0.5, 1)$控制的幂律指数的度分布,和$δ_{\max}$是最大的程度。这个界限是次线性的,改善了明显的最坏情况的线性界限。虽然我们的分析依赖于底层几何,但算法本身并不关心它。
2022-03-16 cs.CC cs.DS
Accurate MapReduce Algorithms for $k$-median and $k$-means in General Metric Spaces
基于中心的聚类是数据分析的基础,对于大型数据集来说变得非常具有挑战性。在本文中,我们专注于流行的$k$ -中位数和$k$ -意味着变种,给定一组$P$的点从度量空间和一个参数$k<|P|$,需要确定一组$S$的$k$中心最小化,分别是距离和距离的平方和的总和,所有点在$P$从他们最近的中心。我们的具体重点是一般的度量空间,这是合理的,要求中心属于输入集(即,$S \subseteq P$)。我们提出了基于核心集的3轮分布式近似算法的上述问题使用MapReduce计算模型。该算法是相当简单的和obligantly适应的内在复杂性的数据集,捕获的双重维度$D$的度量空间。值得注意的是,该算法获得的近似比,可以任意接近那些可实现的最知名的多项式时间顺序近似,他们是非常小的空间效率为$D$,需要本地存储器的大小基本上是次线性的输入大小。据我们所知,没有以前的分布式方法能够在一般度量空间中获得类似的质量性能保证。
2019-09-29 cs.DC cs.DS
New Parallel and Streaming Algorithms for Directed Densest Subgraph
针对有向最密子图问题,提出新的MPC和半流式算法,实现单遍确定性$O(\log n)$近似,改进先前结果,并具有动态更新能力。
2025-09-26 cs.DS
Distributed k-Means with Outliers in General Metrics
University of Padova(帕多瓦大学)
基于中心的聚类是无监督学习和数据分析的关键基础。一个流行的变体无疑是k-均值问题,其中,给定来自度量空间的点的集合$P$和参数$k<|P|$,需要确定$k$中心的子集$S$,以最小化$P$中的点到其最近中心的所有平方距离之和。一个更一般的公式,称为k均值与$z$离群值,介绍了处理噪声数据集,具有进一步的参数$z$,并允许高达$z$点的$P$(离群值)被忽略时,计算上述总和。我们提出了一个分布式的基于核心集的3轮近似算法的k-means与$z$离群值一般度量空间,使用MapReduce作为计算模型。我们的分布式算法需要次线性的本地内存每个减少器,并产生一个解决方案,其近似比是一个添加剂项$O(γ)$远离一个可实现的最知名的顺序(可能双准则)算法,其中$γ$可以任意小。我们的算法的一个重要特征是,它不经意地适应数据集的内在复杂性,由度量空间的双倍维度$D$捕获。据我们所知,以前的分布式方法都不能达到类似的质量-性能权衡一般指标。
2022-02-18 cs.DC cs.DS cs.LG
Adversarial Robustness for Small Frequency Moments and a Weak Equivalence Theorem for Turnstile Streams
Princeton University(普林斯顿大学);Carnegie Mellon University(卡内基梅隆大学);Texas A&M University(德克萨斯农工大学)
研究插入-删除流的对抗鲁棒算法,通过推广框架到非希尔伯特空间,在多项对数空间实现对\(p\in[0,2]\)的\(p\)阶频率矩等多种量的\((1 + \epsilon)\)近似鲁棒性,并建立经典草图与对抗鲁棒性的弱等价关系。
2026-07-08 cs.DS
Biclustering and Boolean Matrix Factorization in Data Streams
KTH Royal Institute of Technology(瑞典皇家理工学院);University of Vienna(维也纳大学);Brown University(布朗大学);University of Eastern Finland(东芬兰大学)
我们研究了数据流中二部图的聚类和布尔矩阵分解。我们考虑一个流设置,其中从图的左侧的顶点到达一个接一个连同其所有的入射边。我们提供了一个算法,经过一次流后,使用次线性空间恢复图右侧的聚类集;据我们所知,这是第一个具有此属性的算法。我们还表明,经过第二次通过流,左集群的二分图可以恢复,我们展示了如何扩展我们的算法来解决布尔矩阵分解问题(通过利用布尔矩阵和二分图的对应关系)。我们评估的算法在合成数据和现实世界的数据的实现。在真实世界的数据集上,该算法比静态基线算法快几个数量级,同时提供基线算法的2倍内的质量结果。我们的算法在图中的边的数量线性缩放。最后,我们从理论上分析了该算法,并提供了充分条件下,该算法恢复一组种植集群在一个标准的随机图模型。
2020-12-05 cs.AI cs.DS cs.LG