Improved Parallel Algorithms for Spanners and Hopsets
我们使用指数开始时间聚类来设计更快,更有效的并行图算法涉及的距离。以前的算法通常依赖于图分解例程,对分解块的直径有严格的限制。我们削弱这些界限有利于更强的本地概率保证。这允许对整个过程进行更直接的分析,给出:* 线性工作并行算法,该算法在未加权图中使用$O(k)$拉伸和大小$O(n^{1+1/k})$构建空间,在加权图中使用大小$O(n^{1+1/k} \log k)$。* 跳集,导致第一个并行算法,近似最短路径的无向图与$O(m\;\mathrm{polylog}\;n)$工作。
2015-06-24 cs.DS
Improved Roundtrip Spanners, Emulators, and Directed Girth Approximation
本文研究有向图往返距离生成子、模拟器及围长近似的高效构造,分别给出近线性于边数的3-伸缩生成子、稠密图近最优模拟器,以及稀疏图更快的4-近似围长算法。
2023-10-31 cs.DS
Fast Constructions of Light-Weight Spanners for General Graphs
据我们所知,对于一般图,只有两种已知的算法可以构造稀疏图和轻图。其中之一是Alth $\ddot{o}$ fer等人的贪婪算法。\cite{ADDJS93}由Chandra等人在SoCG '92中分析。该贪婪算法对每个\emph{weighted}无向$n$-顶点$m$-边图$G = (V,E)$和任意整数$k \ge 1$,构造一个$(2k-1)$-边图,它具有$O(n^{1 + 1/k})$边和权值$O(k \cdot n^{(1+\eps)/k}) \cdot ω(MST(G))$,对任意$\eps > 0$.贪婪算法的缺点是它需要$O(m \cdot (n^{1 + 1/k} + n \cdot \log n))$时间。另一种算法是由于Awerbuch等人的\cite{ABP91}。它构造了$O(k)$-spectrometry,其中$O(k \cdot n^{1 + 1/k} \cdot Λ)$边、权重$O(k^2 \cdot n^{1/k} \cdot Λ) \cdot ω(MST(G))$、时间内$O(m \cdot k \cdot n^{1/k} \cdot Λ)$,其中$Λ$是图的纵横比的对数。这两种算法的运行时间都不令人满意。此外,通常更快的\cite{ABP91}算法通过显着增加拉伸、稀疏性和结果块的权重来实现加速。在本文中,我们设计了一个有效的算法来构建稀疏…
2012-07-06 cs.DS
Approximating Cycles in Directed Graphs: Fast Algorithms for Girth and Roundtrip Spanners
图的围长,即其最短圈的长度,是图的一个基本参数。不幸的是,所有已知的用于计算(甚至近似地)有向加权$m$ -边和$n$ -节点图中的围长和围长相关结构的算法都需要$Ω(\min\{n^ω, mn\})$时间(对于$2\leqω<2.373$)。在本文中,我们大大改善这些运行时间如下:* 乘法近似在近线性时间:我们给出了一个算法,在$\widetilde{O}(m)$时间计算$\widetilde{O}(1)$ -乘法近似的周长以及$\widetilde{O}(1)$ -乘法往返行程的周长与$\widetilde{O}(n)$边缘高概率(w.h.p)。* 几乎紧的加法近似:对于未加权图和任何$α\in (0,1)$,我们给出了一个算法,在$\widetilde{O}(mn^{1 - α})$时间计算围长w.h.p的$O(n^α)$ -加法近似,并部分去随机化它。我们表明,如果没有组合布尔矩阵乘法的突破,我们的算法的运行时间不能显着提高。我们的主要技术贡献,以实现这些结果是第一个近线性时间算法计算往返覆盖,有向图分解概念的关键,以前的往返crossover建设。以前不知道如何计算这些显著快于$Ω(\min\{n^ω, mn\})$时间。鉴于传统的困难,有效地处理有向图,我们希望我们的技术可以找到进一步的应用。
2018-08-10 cs.DS
Parks and Recreation: Color Fault-Tolerant Spanners Made Local
针对颜色容错生成树的快速分布式算法开放问题,提出以边为中心的Baswana-Sen算法变体,引入“parks”短路径集合,实现近似最优规模与最优局部性的分布式构造。
2024-10-10 cs.DS
$(1+ε)$-Approximate Shortest Paths in Dynamic Streams
在动态流环境中计算近似最短路径是一个基本的挑战,在过去的十年中一直在深入研究。现有的解决方案要么建立一个稀疏的乘法图的输入图和计算最短路径的图离线,或计算一个确切的单源BFS树。对于整数参数$κ$,第一种类型的解注定要引起$2κ-1$与$n^{1+1/κ}$的拉伸空间折衷。(In事实上,现有的解决方案还在加权图的拉伸中产生额外的因子$1+ε$,并且在空间中产生额外的因子$\log^{O(1)}n$。第二种类型的唯一现有解决方案使用$n^{1/2 - O(1/κ)}$通过流(对于空间$O(n^{1+1/κ})$),并且仅适用于未加权图。在本文中,我们表明,$(1+ε)$ -近似单源最短路径可以计算在这种设置与$\tilde{O}(n^{1+1/κ})$空间使用\emph{constantly}许多通行证在未加权的图形,和polymerically许多通行证在加权图(假设$ε$和$κ$是常数)。此外,事实上,相同的结果适用于多源最短路径,只要源的数量是$O(n^{1/κ})$。我们通过设计高效的动态流结构的$(1 + ε, β)$ -sparket和hopset来实现这些结果。我们认为,这些结构具有独立的利益。
2022-07-11 cs.DC cs.DS
Massively Parallel Algorithms for Distance Approximation and Spanners
在过去的十年中,有越来越多的兴趣在分布式/并行算法处理大规模的图形。到目前为止,对于大规模并行计算(MPC)模型中的一些基本图形问题,我们已经有了相当快的算法--通常是亚临界时间,通常是$poly(\log\log n)$时间,甚至更快。该模型是MapReduce风格设置的广泛采用的理论抽象,其中许多机器以全对全的方式进行通信以处理大规模数据。贡献这一行的MPC图形算法的工作,我们提出了$poly(\log k) \in poly(\log\log n)$轮MPC算法计算$O(k^{1+{o(1)}})$ -spectrometry在强次线性制度的本地存储器。据我们所知,这些是第一个亚临界时间MPC算法的结构。作为主要的应用程序,我们得到两个重要的影响,如下:-对于MPC设置,我们得到了一个$O(\log^2\log n)$轮算法的$O(\log^{1+o(1)} n)$近似的所有对最短路径(APSP)在近线性制度的本地内存。据我们所知,这是第一个用于距离近似的亚临界时间MPC算法。- 我们上面的结果也扩展到分布式计算的拥塞集团模型,具有相同的轮复杂度和近似保证。这给出了拥塞集团模型中加权图中近似APSP的第一个亚对数算法。
2021-06-28 cs.DC cs.DS
Ultra-Sparse Near-Additive Emulators
近加性(又名$(1+ε,β)$ -)仿真器和spectron是一种基本的图形算法构造,具有许多用于计算近似最短路径的应用程序以及分布式,流式和动态设置中的相关问题。近加性仿真器的已知构造使得人们能够在它们的稀疏性(即,边数)和附加拉伸$β$。具体地,对于任何一对参数$ε>0$、$ κ=1,2,\dots$,可以具有具有$O(n^{1+1/κ})$边的$(1+ε,β)$ -仿真器,具有$β= \left(\frac{\log κ}ε\right)^{\log κ}$。在它们的sparterly,这些仿真器使用$c\cdot n$边缘,对于一些恒定的$c\geq 2$。我们收紧这一界限,并表明,事实上正是$n^{1+1/κ}$边缘足够。特别地,我们的仿真器可以是\emph{ultra-sparse},即,我们可以有一个模拟器与$n+o(n)$边缘和$β= \left(\frac{\log {\log n}}{ε}\right)^{\log {\log n}(1+o(1))}$。我们还在CONGEST模型中设计了一个分布式确定性算法,该算法在低多项式时间内构建这些仿真器(即,在$O(n^ρ)$时间中,对于任意小常数参数$ρ>0$)。最后,我们还改进了PODC'19论文[ElkinM 19]中设计的$(1+ε,β)$ -spectrometry的最先进的分布式确定性\congest -模型…
2021-06-02 cs.DC cs.DS
Faster Semi-streaming Matchings via Alternating Trees
提出一种基于交替树的确定性半流式算法,以O(ε⁻⁶)次遍历求解(1+ε)近似最大匹配,显著优于先前O(ε⁻¹⁹)复杂度,并推广至MPC和CONGEST模型。
2025-04-22 cs.DS
Faster Update Time for Turnstile Streaming Algorithms
在本文中,我们提出了一个新的算法,以保持线性草图在旋转栅门流具有更快的更新时间。作为一个应用程序,我们表明,$\log n$ \texttt{Count}草图或\texttt{CountMin}草图具有恒定数量的列(即,桶)可以在具有字大小$w=Θ(\log n)$的标准字RAM上使用$O(\log n)$字的空间在\emph{worst-case} $O(\log^{0.582} n)$更新时间中隐式地维护。指数$0.582\approx 2ω/3-1$,其中$ω$是当前矩阵乘法指数。由于线性草图的大量应用,我们的算法提高了旋转栅门流中许多流问题的更新时间,在高成功概率设置下,不使用更多的空间,包括$\ell_2$范数估计,$\ell_2$重命中,$\ell_1$或$\ell_2$错误的点查询等。我们的算法在相同的更新时间和空间下,推广到维护$\log n$线性草图,其中每个草图使用用于常数$c$的$c$方式独立散列函数将坐标划分到$k<\log^{o(1)} n$桶中,并且维护每个桶的坐标的总和。此外,如果允许任意字操作,则更新时间可以进一步改进为$O(\log^{0.187} n)$,其中$0.187\approx ω/2-1$。我们的更新算法是自适应的,它绕过了Larsen,Nelson和Nguy{ê}n(STOC'15)的旋转栅门流算法的非自适应小区探测下限。另一方面,我…
2019-11-04 cs.DS
Faster Deterministic Streaming Vertex Coloring
Tel Aviv University(特拉维夫大学);Nanjing University(南京大学)
本文提出一种确定性流算法,在O(√logΔ)次遍历中实现O(Δ)色着色,首次在亚对数次遍历内达到线性Δ色 palette 大小。
2026-05-08 cs.DS
Faster Streaming and Scalable Algorithms for Finding Directed Dense Subgraphs in Large Graphs
研究大规模有向图中寻找稠密子图的流式与并行算法,提出单次遍历半流式算法及MPC模型改进算法,在保证输出质量的同时显著提升计算效率。
2023-11-18 cs.DS
A Framework for Analyzing Resparsification Algorithms
图$G$的谱稀疏因子是近似保持$G$的二次形式的稀疏图$H$,即对于所有向量$x$、$x^T L_G x \approx x^T L_H x$,其中$L_G$和$L_H$表示相应的图拉普拉斯算子。谱稀疏算子是割稀疏算子的推广,在图算法设计中有着广泛的应用。近年来,在半流式和动态设置中计算谱稀疏器一直受到关注。这些设置中的自然算法通常涉及图的重复稀疏化,以及这些步骤中的错误累积。我们提出了一个框架,用于分析算法,执行重复的稀疏化,只会产生错误对应于一个单一的稀疏化步骤,导致更好的结果为许多基于重新稀疏化的算法。作为一个应用程序,我们展示了如何保持一个频谱稀疏在半流设置:我们提出了一个简单的算法,对于一个图形$G$的$n$顶点和$m$边缘,计算一个频谱稀疏的$G$与$O(n \log n)$边缘在一个单一的通过$G$,只使用$O(n \log n)$空间,和$O(m \log^2 n)$总时间。这改善了以前最好的半流算法的频谱和削减稀疏的$\log{n}$在空间和运行时的因素。该算法扩展到一般PSD矩阵的半流行采样。我们还使用我们的框架相结合的频谱稀疏化算法Koutis与改进的并行结构,给出了一个并行算法,用于构建$O(n\log^2{n}\log\log{n})$大小的频谱稀疏在$O(m\log^2{n}\log\log{n})$时间。这是最著名的组合图稀疏化算法,稀疏化器的大小仅比…
2016-11-21 cs.DS
Recursive Multi-Section on the Fly: Shared-Memory Streaming Algorithms for Hierarchical Graph Partitioning and Process Mapping
如何将图划分为平衡的块,使得块之间的边较少,是大规模分布式处理的关键问题。目前的趋势是分割巨大的图流算法,它使用低计算资源。在这项工作中,我们提出了一个共享内存流多递归分区方案,执行递归多节的飞行,而不知道整体输入图。我们的方法有一个相当低的运行时间复杂度相比,国家的最先进的非缓冲的一遍分割算法的标准图分割的情况下。此外,如果分布式系统的拓扑是已知的,则可以通过将分区映射到处理元件上来进一步优化通信成本。我们的实验表明,我们的算法是速度更快,产生更好的进程映射比竞争工具。在图分区的情况下,与Fennel相比,我们的框架以多5%的切割边缘为代价快了两个数量级。
2022-02-01 cs.DC cs.DS
Optimal Multi-Pass Lower Bounds for MST in Dynamic Streams
本文证明动态流中 MST 的 AGM 多遍算法在整个遍数范围内最优:任何 $p$ 遍算法均需 $n^{1+Ω(1/p)}$ 空间,半流式需 $Ω(\log n/\log\log n)$ 遍。
2023-12-07 cs.DS
Constant Girth Approximation for Directed Graphs in Subquadratic Time
在本文中,我们提供了一个$\tilde{O}(m\sqrt{n})$时间算法,计算$3$ -乘法近似周长的$n$ -节点$m$ -边有向图的非负边长。这是第一个算法,近似周长的有向图的常数乘法因子快于所有对最短路径(APSP)的时间,即$O(mn)$。此外,对于任何整数$k \ge 1$,我们提供了一个确定性的算法的$O(k\log\log n)$乘法逼近围长在有向图的$\tilde{O}(m^{1+1/k})$时间。结合这两个结果的技术,我们给出了一个算法的$O(k\log k)$ -乘法逼近围长的有向图在$\tilde{O}(m^{1+1/k})$时间。我们的研究结果自然也提供了算法,改进的建设往返spiritual,模拟spiritual在有向图。这些问题以前的最快算法要么在所有对最短路径(APSP)时间内运行,即$O(mn)$,要么是由于Paclanki等人(PRSTV 18)提供了一个随机算法,对于任何整数$k \ge 1$在时间$\tilde{O}(m^{1+1/k})$计算具有高概率的周长的$O(k\log n)$乘法近似。我们的第一个算法构成了第一个子APSP时间算法,用于近似周长恒定精度,我们的第二个算法消除了对随机性的需求,并提高了Paclanki等人的近似因子。(PRSTV 18),我们的第三个算法是第一个时间与质量的权衡,用于获得恒定近似。
2020-04-14 cs.DS
Streaming Algorithms for Network Design
本文在单次插入流模型中研究SNDP,提出基于容错生成树的通用框架改进EC-SNDP近似与空间复杂度,为顶点连通增强($k=1,2$)获近线性空间$O(1)$近似,$k=2$结果创新应用SPQR树。
2025-04-15 cs.DS
Buffered Streaming Graph Partitioning
在处理大型图形时,广泛使用将图形划分为大小大致相等的块。目前,在可用的分区算法的空间中存在差距。一方面,有一些流算法已经被采用来在小型机器上划分大量的图数据。在流模型中,顶点一次到达一个,包括它们的邻域,然后必须直接分配给一个块。这些算法可以用很少的内存快速划分大型图,但它们产生的分区的解决方案质量较低。另一方面,有离线(共享内存)多级算法,产生高质量的分区,但也需要有足够内存的机器。我们提出了一种算法,使用一台机器在流媒体设置中使用很少的内存来计算巨大图形的显着改进的分区,从而迈出了缩小这一差距的第一步。首先,我们采用了缓冲流模型,这是一个更合理的方法在实践中。在此模型中,处理元素可以在做出分配决策之前存储一个缓冲区或一批节点。当我们的算法接收到一批节点时,我们构建一个模型图,表示该批节点和已经存在的分区结构。这个模型使我们能够应用多级算法,并反过来计算出更高质量的解决方案,巨大的图形在廉价的机器上比以前可能的。为了划分模型,我们开发了一个多层次的算法,优化的目标函数,以前已被证明是有效的流设置。这也消除了依赖于块k的数量从运行时间相比,以前的国家的最先进的。总体而言,我们的算法计算,平均而言,75.9%更好的解决方案比茴香使用一个非常小的缓冲区大小。此外,对于k的大值,我们的算法变得比Fennel更快。
2021-12-22 cs.DS
Streaming PTAS for Constrained k-Means
我们概括了Bhattacharya等人(Journal of Computing Systems,62(1):93-115,2018)的结果,列表- $k$ -均值问题定义为-对于数据集$X \subseteq \mathbb{R}^d$的(未知)分区$X_1, ..., X_k$,找到一个$k$ -中心集列表(列表中的每个元素都是一组$k$中心),使得列表中的至少一个$k$ -中心集$\{c_1, ..., c_k\}$给出了关于成本函数$\min_{\textrm{permutation } π} \left[ \sum_{i=1}^{k} \sum_{x \in X_i} ||x - c_{π(i)}||^2 \right]$的$(1+\varepsilon)$ -近似。列表- $k$ -均值问题对于约束$k$ -均值问题是重要的,因为前者的算法可以转换为PTAS以用于后者的各种版本。以下是我们概括的结果:-流算法:我们的$D^2$采样为基础的算法运行在一个单一的迭代允许我们设计一个2-通过,对数空间流算法的列表- $k$ -手段的问题。这可以被转换为一个4遍,对数空间流PTAS的各种约束版本的$k$均值问题。- 稳定性下更快的PTAS:我们的推广也是有用的$k$ -手段聚类的情况下,找到好的中心变得容易,一旦好中心的几个“坏”集群已被选中。一种这样的场景是稳定性下的聚类,其…
2020-02-19 cs.DS
Streaming Non-monotone Submodular Maximization: Personalized Video Summarization on the Fly
需要对快速产生的数据流进行实时的分析(例如,视频和图像流)激发了流算法的设计,该流算法可以有效地从“动态”的大量数据中提取和总结有用的信息。此类问题通常可以简化为在各种约束下最大化子模集函数。虽然最近已经开发了用于单调子模最大化的高效流传输方法,但是在诸如视频摘要的广泛应用中,底层效用函数是非单调的,并且通常存在对优化问题施加的各种约束以考虑隐私或个性化。我们开发的第一个有效的单通流算法,流本地搜索,任何流单调子模块最大化算法与近似保证$α$下的独立系统${\cal I}$的集合,提供了一个恒定的$1/\big(1+2/\sqrtα+1/α+2d(1+\sqrtα)\big)$近似保证最大化的非单调子模块功能下的交集${\cal I}$和$d$背包约束。我们的实验表明,对于视频摘要,我们的方法运行速度比以前的工作快1700倍以上,同时保持几乎相同的性能。
2017-12-26 cs.DS cs.IR
Semi-Streaming Algorithms for Weighted $k$-Disjoint Matchings
针对 NP 难的最大权 $k$-不相交匹配问题,提出两种单遍半流式算法,显著降低内存与运行时间,并在大规模图上保持接近离线最优的权重。
2024-07-06 cs.DS
Maximum Coverage in Sublinear Space, Faster
针对流式最大集合覆盖的次线性空间算法,本文优化子采样的独立性要求,并用更简单机制替代 $F_0$-sketching,在保持近似质量的同时将速度提升数个数量级。
2023-12-12 cs.DS
Submodular Optimization Over Streams with Inhomogeneous Decays
基数约束下的子模函数最大化问题是数据采掘和机器学习应用中的一个关键问题,它的目标是选择一个最大值为$k$的子集来最大化单调子模效用函数.当数据作为流给出时,需要流传输子模块优化(SSO)技术。现有的SSO技术只能应用于其中每个元素具有无限寿命的仅插入流,以及其中每个元素具有相同寿命的滑动窗口流(即,窗口大小)。然而,一些数据流中的元素可能具有任意不同的寿命,这需要在具有连续衰减的流上解决SSO(SSO-ID)。这项工作制定的SSO-ID问题,并提出了三个算法:BasicStreaming是一个基本的流算法,实现了一个$(1/2-ε)$近似因子; HistApprox显着提高了效率,实现了一个$(1/3-ε)$近似因子; HistStreaming是HistApprox的流版本,并使用语法,以进一步提高效率。在真实数据上进行的实验表明,HistStreaming可以找到高质量的解决方案,并且比朴素的贪心算法快两个数量级。
2018-11-14 cs.DS
Frugal Streaming for Estimating Quantiles:One (or two) memory suffices
现代应用程序需要处理数据流,以估计统计量,如分位数与少量的内存。事实上,在许多这样的应用中,需要为大量组中的每一个计算这样的统计量,这额外地限制了可用于任何特定组的流的存储器量。我们解决了这个挑战,并引入了节俭的流,这是一种算法,它只使用很少的-通常是子流-每组内存量。我们设计了一个节俭的算法,每组只使用一个单位的内存来计算每组的分位数。对于随机流的数据项是从一个独立的分布,我们分析和表明,该算法发现一个近似的分位数迅速,并保持稳定接近它。我们还提出了一个扩展的算法,使用两个单位的内存每组。我们表明,我们的节俭算法与现有的流媒体算法估计任何分位数,从HTTP跟踪和Twitter的真实世界的数据进行了广泛的实验,但这些现有的算法使用更多的空间,每组是不切实际的节俭应用程序;此外,两个内存节俭算法收敛速度显着快于一个内存算法。
2014-07-04 cs.DB cs.DS
Faster Pseudo-Deterministic Minimum Cut
Weizmann Institute of Science(魏茨曼科学研究所)
本文提出了一种更高效的伪确定性最小割算法,适用于加权图和动态环境,提高了算法效率并匹配现有最佳随机算法。
2026-02-22 cs.DS
Fast Continuous Subgraph Matching over Streaming Graphs via Backtracking Reduction
针对流式图连续子图匹配中回溯主导成本的问题,提出 CaLiG 索引和 KSS 增量匹配范式以缩减并消除回溯,实验显示速度较 SOTA 快数个数量级。
2023-04-25 cs.DB cs.DS
Faster Coreset Construction for Projective Clustering via Low-Rank Approximation
在这项工作中,我们提出了一个随机coreset建设的投影聚类,其中包括计算一组$k$最接近的$j$维线性(仿射)子空间的一组给定的$d$维度的$n$向量。令$A \in \mathbb{R}^{n\times d}$为输入矩阵。Feldman \textit{et. al.}的早期确定性coreset构造依赖于计算$A$的SVD。用于SVD的最佳已知算法需要$\min\{nd^2, n^2d\}$时间,这对于$n$和$d$的大值可能是不可行的。通过将矩阵$A$的行投影到与矩阵$A$的右奇异向量非常接近的正交向量上,提出了一种核集构造方法.因此,当$k$和$j$的值较小时,与Feldman \textit{et. al.}的算法相比,我们能够实现更快的算法,同时保持几乎相同的近似。我们还受益于空间以及利用输入数据集的稀疏性。我们的方法的另一个优点是,它可以在流设置中非常有效地构建。
2018-07-16 cs.CG cs.DS
Low-Latency Graph Streaming Using Compressed Purely-Functional Trees
由于现实世界的图形的动态性质,已经有越来越多的兴趣,在图形流设置中,连续流的图形更新与任意图形查询混合。原则上,纯函数树是此设置的理想选择,因为它们支持安全并行、轻量级快照和严格的查询可串行化性。然而,直接将它们用于图形处理将导致显著的空间开销和较差的缓存局部性。本文提出了C-树,压缩纯功能的搜索树数据结构,显着提高了纯功能树的空间使用和局部性。关键思想是在树上使用分块技术,以便在每个树节点上存储多个条目。我们设计了理论上有效的和实用的算法进行批量更新的C-树,也表明,我们可以存储大量的动态现实世界的图形,每边只使用几个字节,从而实现接近最好的静态图形处理框架的空间使用。为了研究我们的数据结构的效率和适用性,我们设计了Aspen,一个图形流框架,它扩展了Ligra的接口,具有更新图形的操作。我们表明,Aspen比两个最先进的图形流系统Stinger和LLAMA更快,同时需要更少的内存,并且与最先进的静态图形框架Galois,GAP和Ligra+在性能上具有竞争力。使用Aspen,我们能够使用具有1 TB内存的单个商品多核服务器,在图形流设置中有效地处理最大的公开可用图形,其中包含超过2000亿条边。
2019-04-17 cs.DC cs.DS cs.PL
Solving $k$-center Clustering (with Outliers) in MapReduce and Streaming, almost as Accurately as Sequentially
基于中心的聚类是数据分析的基础,对于大型数据集来说变得非常具有挑战性。在本文中,我们专注于流行的$k$ -中心变量,给定一组$S$的点从一些度量空间和一个参数$k<|S|$,需要确定一个子集的$k$中心在$S$最小化的最大距离的任何点的$S$从其最近的中心。一个更一般的公式,介绍了处理噪声数据集,具有进一步的参数$z$,并允许高达$z$点的$S$(离群值)被忽略时,计算最大距离的中心。我们提出了基于核心集的2轮MapReduce算法的上述两个公式的问题,和1-通过流算法的情况下,离群值。对于任何固定的$ε>0$,算法产生的解决方案,其近似比是一个纯粹的加法项$ε$远离那些可实现的最知名的多项式时间顺序算法,结果大大提高后的国家的最先进的。我们的算法是相当简单,并适应于数据集的内在复杂性,捕获的双维度$D$的度量空间。具体来说,我们的分析表明,该算法变得非常空间效率的小(常数)$D$的重要情况下。这些理论结果得到了一组在真实世界和超过10亿个点的合成数据集上进行的实验的补充,这些实验表明,我们的算法在具有出色的可扩展性的同时,可以产生比现有算法更高质量的解决方案,并且它们还可以比现有算法更快地顺序实现。
2021-06-01 cs.DC cs.DS
Preconditioned Spectral Clustering for Stochastic Block Partition Streaming Graph Challenge
局部最优块预条件共轭梯度(LOBPCG)被证明可以有效地解决谱聚类中出现的图拉普拉斯算子的特征值问题。对于静态图分区,在没有预处理的情况下,LOBPCG的10-20次迭代导致约10倍的错误减少,足以实现具有已知真值分区的所有挑战数据集的100%正确性,例如,对于具有5 K/.1M(50 K/1 M)顶点/边的图形,只需2(7)秒,而基线Python代码需要超过5,000(30,000)秒。我们的Python代码使用10 GB(50 GB)内存在270(1,700)秒内从具有0.5M(2 M)顶点的Challenge静态图中100%正确地确定了98(160)个聚类。我们的单精度MATLAB代码在一半的时间和内存中计算相同的聚类。对于流图分区,LOBPCG是用已经为先前图计算的图拉普拉斯算子的近似特征向量来启动的,与静态情况相比,在许多情况下减少了所需LOBPCG迭代次数的2-3倍。我们的谱聚类是通用的,即假设没有特定的块模型或流,用于生成挑战的图形,与基本代码相反。尽管如此,在与5 K图的基本代码的10阶段流比较中,我们的集群的质量从阶段4(7)开始类似或更好,用于新兴边缘(滚雪球)流,而计算速度快了100-1000。
2017-08-21 cs.DC cs.DS cs.MS
Boosting the Basic Counting on Distributed Streams
我们重新审视了经典的基本计数问题的分布流模型,研究了吉本斯和Tirthapura(GT)。在用于维持$(ε,δ)$ -估计的解决方案中,如GT的方法所做的,我们做出以下新贡献:(1)对于大小为$n$的比特流,其中每个比特具有至少$γ$为1的概率,我们将平均总处理时间从GT的$Θ(n \log(1/δ))$指数地减少到$O((1/(γε^2))(\log^2 n) \log(1/δ))$,从而为该问题提供第一个子线性时间流算法。(2)除了总体上快得多的处理速度之外,我们的方法提供了一种新的折衷,即较低的精度要求($ε$的较大值)承诺更快的处理速度,而GT的处理速度在任何情况下和对于任何$ε$都是$Θ(n \log(1/δ))$。(3)我们的方法的最坏情况下的总时间成本匹配GT的$Θ(n\log(1/δ))$,这是必要的,但很少发生在我们的方法。(4)在我们的方法中的空间使用开销是一个低阶项相比,GT的空间使用,并只发生$O(\log n)$的时间在流处理过程中,是太微不足道的检测到的操作系统在实践中。我们进一步验证了这些坚实的理论结果与实验上的真实世界和合成数据,表明我们的方法是快于GT的一个因素的几个到几千取决于流的大小和准确性的要求,没有任何可检测的空间使用开销。我们的方法是基于一个更快的采样技术,我们设计的提升GT的方法,我们相信这种技术可以是其他利益。
2013-11-29 cs.DB cs.DC cs.DS
Faster Sublinear Algorithms using Conditional Sampling
MIT(麻省理工学院)
概率分布D的条件采样预言机返回来自限制于域的指定子集的D的条件分布的样本。最近的一系列工作(Chakraborty et al. 2013和Cannone et al. 2014)表明,访问这样的条件抽样oracle只需要多对数甚至常数数量的样本来解决分布测试问题,如同一性和均匀性。这大大改善了标准采样模型,其中多项式许多样本是必要的。受这些结果的启发,我们引入了一个计算模型的基础上,条件采样开发次线性算法与指数更快的运行时间相比,标准的次线性算法。本文主要研究高维欧氏空间中点集上的几何优化问题。访问这些点是通过一个有条件的采样预言机提供的,该预言机将域的子集的简洁表示作为输入,并输出该子集中的均匀随机点。我们研究了两个很好的研究问题:k-均值聚类和估计的最小生成树的重量。与经典模型的已有算法相比,我们的算法具有时间、空间和样本复杂度,即维数为多项式,点数为多对数。最后,我们评论了该模型的适用性,并与现有的流,并行和分布式计算模型。
2016-08-16 cs.DS cs.LG
Streaming Algorithms for Diversity Maximization with Fairness Constraints
East China Normal University(华东师范大学);Universitat Pompeu Fabra(庞培法布拉大学);Eurecat – Centre Tecnològic de Catalunya(Eurecat——加泰罗尼亚技术中心);University of Helsinki(赫尔辛基大学)
针对流式场景中带组公平配额约束的 max-min 多样性最大化,本文提出两种单次遍历近似算法,并证明其在解质量相当的同时速度显著提升。
2022-07-30 cs.DS cs.LG
Revisiting Weighted Information Extraction: A Simpler and Faster Algorithm for Ranked Enumeration
针对加权信息抽取的排序枚举问题,研究利用最短路径枚举结果得到更优延迟的简单算法,还通过结合多领域工具的舍入技术,实现高概率下线性预处理与输出线性延迟的算法,显著提升了该问题的求解效率。
2024-10-05 cs.DB cs.DS cs.FL
First Efficient Convergence for Streaming k-PCA: a Global, Gap-Free, and Near-Optimal Rate
Institute for Advanced Study(普林斯顿高等研究院);Princeton University(普林斯顿大学)
本文研究流式PCA,提出改进的Oja算法变体Oja++,在O(dk)空间内实现全局收敛和无间隙收敛,匹配信息理论下限。
2017-04-17 cs.DS cs.LG cs.NA