Massively Parallel Algorithms for Finding Well-Connected Components in Sparse Graphs
大规模并行计算（MPC）平台出现的一个基本问题是，与PRAM等经典并行模型相比，如何利用MPC范式的额外功能来实现更快的算法？以前的研究已经确定稀疏图连通性问题是这种改进的主要障碍：虽然用于在任何$n$ -顶点图中找到连通分量的经典的循环PRAM算法已经知道了三十多年，但是没有$o(\log{n})$ -循环MPC算法已知用于此任务，并且每台机器的$n$存储器中具有真正的次线性。这个问题出现在处理大量但稀疏的图形与$O(n)$边缘，其中有趣的参数设置是$n^{1-Ω(1)}$内存每台机器。这是证明，实现$o(\log{n})$轮算法的连接一般稀疏图与$n^{1-Ω(1)}$每台机器的内存可能是不可能的，这一猜想也形成了多个条件硬度结果的基础上轮复杂性的MPC模型中的其他问题。我们采取机会主义的方法对稀疏图的连通性问题，通过设计一个算法，提高了性能保证方面的输入图的连接结构。形式上，我们设计了一个算法，找到所有连接组件的频谱间隙至少$λ$在图中的$O(\log\log{n} + \log{(1/λ)})$ MPC轮和$n^{Ω(1)}$内存每台机器。因此，该算法在稀疏的“良好连接”分量（即，$λ\geq 1/\text{polylog}{(n)}$），每台机器只使用$n^{Ω(1)}$内存和$\widetilde{O}(n)$总内存，并且即使当$o(\log n)$。
2018-05-08 cs.DC cs.DS
Parallel Graph Algorithms in Constant Adaptive Rounds: Theory meets Practice
我们研究基本的图形问题，如图的连通性，最小生成森林（MSF），和近似最大（重量）匹配在分布式设置。特别是，我们专注于自适应大规模并行计算（AMPC）模型，这是一个理论模型，捕获MapReduce的计算与分布式哈希表增强。我们展示了第一个AMPC算法的所有研究的问题，运行在一个恒定的轮数，并只使用$O(n^ε)$空间每台机器，其中$0 < ε< 1$。我们的研究结果改进了AMPC模型中的先前结果，以及MPC模型中最知名的结果，MPC模型是支撑许多流行的分布式计算框架（如MapReduce，Hadoop，Beam，Pregel和GitHub）的理论模型。最后，我们提供了一个经验比较的算法在MPC和AMPC模型中的容错分布式计算环境。我们经验评估我们的算法上的一组大型现实世界的图形，并表明，我们的AMPC算法可以实现优化MPC基线的运行时间和轮的复杂性的改善。
2020-09-24 cs.DC cs.DS
Improved MPC Algorithms for MIS, Matching, and Coloring on Trees and Beyond
我们提出了$O(\log\log n)$轮可扩展的大规模并行计算算法的最大独立集和最大匹配，在树和更一般的图形有界荫度，以及为常数着色树。遵循标准，通过可扩展MPC算法，我们意味着这些算法可以在对于任何正常数$δ<1$具有与$n^δ$一样小的容量/存储器的机器上工作。我们的结果改进了Behnezhad等人[PODC'19]的$O(\log^2\log n)$轮算法。此外，我们的匹配算法可能是最佳的，因为其边界匹配Ghaffari，Kuhn和Uitto [FOCS'19]的$Ω(\log\log n)$条件下限。
2020-08-10 cs.DC cs.DS
Simple, Deterministic, Constant-Round Coloring in the Congested Clique
我们解决的复杂性的$(Δ+1)$ -着色和$(Δ+1)$ -列表着色问题的拥塞CLIQUE模型，提出了一个简单的确定性算法运行在一个恒定的轮数。这与最近由Chang等人（PODC'19）提出的突破性的随机化恒定轮$(Δ+1)$ -列表着色算法的复杂性相匹配，并且显著地改进了Parter（ICALP'18）的现有技术水平的$O(\log Δ)$ -轮确定性$(Δ+1)$ -着色界。我们的算法的一个显着的属性是它的简单性。鉴于国家的最先进的随机算法，这个问题是基于相当复杂的局部着色算法的张等人。（STOC'18），我们的算法可以描述在短短几行。在高层次上，它应用了递归过程的仔细去随机化，该过程将节点及其相应的调色板划分为单独的bin。我们表明，经过$O(1)$递归步骤，剩余的未着色的子图内的每个bin具有线性大小，因此可以解决本地收集到一个单一的节点。该算法也可以在大规模并行计算（MPC）模型中实现，只要每个机器具有线性（在$n$中，输入图中的节点数）空间。我们还展示了我们的算法的MPC制度中，机器具有次线性空间的扩展：我们提出了第一个确定性的$(Δ+1)$ -列表着色算法设计的次线性空间MPC，它运行在$O(\log Δ+ \log\log n)$轮。
2020-09-13 cs.DC cs.DS
Matrix Multiplication in the MPC Model
研究 MPC 模型中不同处理器数与单机内存约束下的矩形矩阵及稀疏矩阵乘法，给出相应轮复杂度算法。
2025-09-29 cs.CC cs.DC
Massively Parallel Algorithms for Approximate Shortest Paths
该研究在近线性内存大规模并行计算模型下，提出了轮复杂度为poly(log log n)的SSSP(1+ε)近似算法与距离预言机，突破了此前Ω(log n)的轮数或近似比下界，核心工具可在亚线性MPC模型中构建。
2025-05-17 cs.DC cs.DS
Massively Parallel Ruling Set Made Deterministic
本文在MPC模型中分别针对线性和亚线性本地内存提出了确定性的$2$-统治集算法，首次实现亚对数轮复杂度，改进了此前的最佳确定性结果。
2024-10-21 cs.DC cs.DS
Massively Parallel Algorithms for Distance Approximation and Spanners
在过去的十年中，有越来越多的兴趣在分布式/并行算法处理大规模的图形。到目前为止，对于大规模并行计算（MPC）模型中的一些基本图形问题，我们已经有了相当快的算法--通常是亚临界时间，通常是$poly(\log\log n)$时间，甚至更快。该模型是MapReduce风格设置的广泛采用的理论抽象，其中许多机器以全对全的方式进行通信以处理大规模数据。贡献这一行的MPC图形算法的工作，我们提出了$poly(\log k) \in poly(\log\log n)$轮MPC算法计算$O(k^{1+{o(1)}})$ -spectrometry在强次线性制度的本地存储器。据我们所知，这些是第一个亚临界时间MPC算法的结构。作为主要的应用程序，我们得到两个重要的影响，如下：-对于MPC设置，我们得到了一个$O(\log^2\log n)$轮算法的$O(\log^{1+o(1)} n)$近似的所有对最短路径（APSP）在近线性制度的本地内存。据我们所知，这是第一个用于距离近似的亚临界时间MPC算法。- 我们上面的结果也扩展到分布式计算的拥塞集团模型，具有相同的轮复杂度和近似保证。这给出了拥塞集团模型中加权图中近似APSP的第一个亚对数算法。
2021-06-28 cs.DC cs.DS
A Note on Solving Problems of Substantially Super-linear Complexity in $N^{o(1)}$ Rounds of the Congested Clique
研究拥塞团上超线性复杂度问题的 $N^{o(1)}$ 轮协议设计，证明其节点局部计算的平均时间复杂度必须远大于给定问题的时间复杂度。
2024-12-22 cs.DC
Round Compression for Parallel Matching Algorithms
十多年来，我们见证了{ \em massive parallel computation}（MPC）框架的成功，例如MapReduce、Hadoop、Dryad或Spark。他们成功的原因之一是这些框架能够准确地捕捉大规模计算的本质。特别是，与经典的分布式算法或PRAM模型相比，这些框架允许更多的本地计算。在这种情况下出现的基本问题是：我们能否利用这种额外的能力来获得更快的并行算法？这里一个突出的例子是{ \em最大匹配}问题-最经典的图问题之一。众所周知，在PRAM模型中，可以在$O(\log{n})$轮中计算2-近似最大匹配。然而，在MPC框架中这个问题的确切复杂性仍然远未被理解。Lattanzi等人证明，如果每台机器都有$n^{1+Ω(1)}$内存，这个问题也可以用$2$来解决--大约在一个常数轮数内。这些技术，以及在后续工作中开发的方法，似乎一旦我们进入近线性记忆状态，就会在基本上停留在大约$O(\log{n})$轮。因此，在这种特别捕获稀疏图计算的情况下，最佳MPC轮复杂度与PRAM模型中已经获得的复杂度相匹配，而不需要利用额外的本地计算能力，这是完全可能的。在本文中，我们最终驳斥了这种令人困惑的可能性。也就是说，即使在每台机器的{ \em略微次线性}内存的情况下，我们也打破了上述$O(\log n)$轮复杂度界限。事实上，我们在这里的改进是{ \em几乎指数}：我们能够…
2018-02-01 cs.DC cs.DS
Correlation Clustering in Constant Many Parallel Rounds
Google Research（谷歌研究院）；CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；Microsoft Research（微软研究院）
相关聚类是无监督学习的一个中心话题，在ML和数据采掘中有许多应用。在相关聚类中，人们接收一个有符号的图作为输入，目标是将其划分以最小化不一致的数量。在这项工作中，我们提出了一个大规模并行计算（MPC）算法，这个问题是相当快的比以前的工作。特别是，我们的算法使用的机器与内存次线性的节点数在图中，并返回一个常数近似值，而只运行一个常数轮数。据我们所知，我们的算法是第一个，可以证明近似的聚类问题的图只使用一个常数的MPC轮在次线性记忆制度。我们补充我们的分析与我们的技术的实验分析。
2021-06-15 cs.DC cs.DS cs.LG
Log Diameter Rounds Algorithms for $2$-Vertex and $2$-Edge Connectivity
许多现代并行系统，如MapReduce，Hadoop和Spark，可以很好地建模MPC模型。MPC模型可以很好地捕捉大数据上的粗粒度计算--数据被分发到处理器，每个处理器都有一个次线性（在输入数据中）的内存量，我们在计算轮和通信轮之间交替，每个机器可以传输与其内存大小一样大的数据量。该模型比经典的PRAM模型更强，设计运行时间比PRAM模型更短的算法是一个有趣的问题。本文研究了两个基本问题：$2$ -边连通性和$2$ -点连通性（双连通性）.在$O(\log n)$时间内运行的PRAM算法已经公知多年。在MPC模型中，我们给出了使用粗对数直径轮的算法。我们的主要结果是：1）$n$并行时间$2$-边连通算法; 2）$O(\log D\log^2\log_{m/n}n+\log D'\log\log_{m/n}n)$并行时间双连通算法，其中双直径$D'$是同一双连通分支中所有顶点对上的最大圈长.我们的结果是完全可扩展的，这意味着每个处理器的内存可以是$O(n^δ)$为任意常数$δ>0$，和使用的总内存是线性的问题大小。我们的$2$ -边缘连接算法实现了与Andoni等人的连接算法相同的并行时间。（FOCS 2018）。我们还证明了双连通问题的$Ω(\log D')$条件下界。
2019-05-02 cs.DC cs.DS
Massively Parallel Computation in a Heterogeneous Regime
大规模并行图算法在过去的十年中受到了广泛的关注，研究集中在三个内存区域：超线性区域，近线性区域和次线性区域。次线性制度是最可取的，在实践中，但条件硬度的结果指向其局限性。在这项工作中，我们研究了一个\emph{heterogeneous}模型，其中的机器的内存大小不同。我们主要关注的是通过在次线性MPC区域中添加单个近线性机器所产生的异质设置，并且表明即使是单个大机器也足以规避次线性区域的大多数条件硬度结果：对于具有$n$顶点和$m$边的图，我们给出了（a）在$O(\log\log(m/n))$轮中运行的MST算法;（b）在$O(1)$轮中构造大小为$O(n^{1+1/k})$的$O(k)$ -矩阵的算法;以及（c）在$O(\sqrt{\log(m/n)}\log\log(m/n))$轮中运行的最大匹配算法。我们还观察到，最有名的近线性MPC算法的其他几个图形问题，这是被证明是很难在次线性政权（最小割，最大独立集，顶点着色）可以很容易地转换到异构MPC模型与一个单一的近线性机器的工作，同时保留其原始轮的复杂性在近线性政权。如果允许大型机器具有\emph{superlinear}内存，则上述所有问题都可以在$O(1)$轮中解决。
2023-02-28 cs.DC cs.DS
Fully Scalable MPC Algorithms for Euclidean k-Center
针对完全可扩展低本地内存MPC模型，提出首个常数轮欧几里得k-中心算法，实现(2+ε)及(1+ε)近似，并扩展至高维情况。
2025-04-25 cs.DC cs.DS
Sample-and-Gather: Fast Ruling Set Algorithms in the Low-Memory MPC Model
受对称性破缺问题（如低内存大规模并行计算（MPC）模型中的最大独立集（MIS）和最大匹配）的最新进展的启发（例如，Behnezhad等人~ PODC 2019; Ghaffari-Uitto SODA 2019），我们研究了该模型中规则集问题的复杂性。MPC模型作为大规模分布式计算的模型已经变得非常流行，并且它具有每台机器的内存在输入大小上是强次线性的约束。对于图问题，已经设计了极快的MPC算法，假设每机器存储器为$\tildeΩ(n)$，其中$\tildeΩ(n)$是图中的节点数（例如，Ghaffari等人的$O(\log\log n)$ MIS算法，PODC 2018）。然而，已经证明在低内存MPC模型中为图形问题设计快速MPC算法要困难得多，其中每台机器的内存被限制为在节点数量上是强次线性的，即，$O(n^\eps)$用于$0 < \eps < 1$。在本文中，我们提出了一个算法的2-规则集问题，运行在$\tilde{O}(\log^{1/6} Δ)$轮whp，在低内存MPC模型。然后，我们将这一结果推广到$β$统治集的任何整数$β> 1$。具体来说，我们表明可以在低内存MPC模型中计算$β$规则集，其中每台机器的$O(n^\eps)$内存在$\tilde{O}(β\cdot \log^{1/(2^{β+1}-2)} Δ)$轮中，whp。由此可以立即得出，用于$β= Ω(\l…
2020-09-26 cs.DC
String Matching with Wildcards in the Massively Parallel Computation Model
研究了存在通配字符的字符串匹配问题的分布式算法。给定一个字符串T（一个文本），我们寻找另一个字符串P（一个模式）作为字符串T的子串的所有出现。模式中的每个通配字符都根据其类型匹配特定的字符串类。字符串匹配是计算机科学中最基本的问题之一，特别是在生物信息学和机器学习领域。自20世纪60年代以来，经过不懈的努力，已经产生了多种解决该问题的算法。随着大数据的兴起和解决大数据集问题的必然需求，已经有许多尝试将经典算法应用到MPC框架中以获得进一步的效率。MPC是一个新的大数据并行计算框架，旨在捕获类似MapReduce的算法。在本文中，我们研究了字符串匹配问题，使用一组工具转换为MPC模型。我们在字符串匹配中考虑三种类型的通配符：- '？“”模式：在此设置中，模式允许包含特殊“？'字符或与文本的任何字符匹配的无关字符。利用快速卷积可以解决无关字符串的匹配问题，并给出了一种固定循环数的MPC算法，该算法在固定循环数的MPC中利用FFT。- “+”字符：“+”字符是一个专用字符，允许任意重复一个字符。当模式中包含“+”通配字符时，通过子集匹配问题的约简，算法运行在固定的MPC轮数中。- “*”字符串：“*”是一个专用字符，与文本的任何子字符串匹配。当模式中允许使用“*”时，我们在对数轮中解决问题的两种特殊情况。
2021-06-04 cs.DC
Deterministic Massively Parallel Connectivity
本文研究了在大规模并行计算（MPC）模型上设计基本图算法的问题。该问题的输入是一个无向图$G$，它具有$n$顶点和$m$边，并且$D$是$G$中任何连通分量的最大直径。我们认为MPC与低本地空间，允许每台机器存储只有$Θ(n^δ)$字为任意常数$δ> 0$，并与线性的全球空间（这是等于机器的数量乘以本地可用空间），即最佳利用率。在最近的一项突破中，Andoni等人（FOCS 18）和Behnezhad等人（FOCS 19）设计了并行随机算法，该算法在具有低局部空间的MPC上的$O(\log D + \log \log n)$轮中确定输入图的所有连通分量，改进了从PRAM算法的早期工作中导出的$O(\log n)$的经典界。在本文中，我们表明，渐近相同的界限也可以实现确定性算法：我们提出了一个确定性MPC低局部空间算法，在$O(\log D + \log \log n)$轮确定输入图的所有连接组件。
2021-08-09 cs.DC cs.DS
Coresets Meet EDCS: Algorithms for Matching and Vertex Cover on Massive Graphs
随着大规模图变得越来越普遍，对解决大型数据集上的经典图问题（如最大匹配和最小顶点覆盖）的可扩展算法的需求迅速增长。对于大量输入，已经引入了几种不同的计算模型，包括流式模型、分布式通信模型和作为MapReduce风格计算的常见抽象的大规模并行计算（MPC）模型。在每个模型中，除了更传统的近似比之外，还根据资源（例如所使用的空间或所需的通信轮次）来分析算法。在本文中，我们给出了一个统一的方法，产生更好的近似算法的匹配和顶点覆盖在所有这些模型。重点包括：* 使用次二次空间的随机到达流中的匹配的第一个通过，显著优于2近似，即使用$O(n^{1.5})$空间用于常数$ε> 0$的$(1.5+ε)$近似流算法。* MPC模型中的第一个2轮、优于2的近似匹配，每个机器使用次二次空间，即对于常数$ε> 0$，每个机器具有$O(\sqrt{mn} + n)$存储器的$(1.5+ε)$近似算法。通过建立在我们的统一的方法，我们进一步开发并行算法的MPC模型，给出了一个$(1 + ε)$ -近似匹配和$O(1)$ -近似顶点覆盖只有$O(\log\log{n})$ MPC轮和$O(n/poly\log{(n)})$内存每台机器。这些结果解决了Czumaj等人最近的论文[STOC 2018]中提出的多个未决问题。
2018-12-27 cs.DC cs.DS
Sparsifying Distributed Algorithms with Ramifications in Massively Parallel Computation and Centralized Local Computation
我们介绍了一种方法，稀疏化分布式算法，并展示它如何导致改进，过去已知的障碍，在两个算法设置的大规模图形处理：大规模并行计算（MPC），和本地计算算法（LCA）。- 具有强次线性存储器的MPC：最近，对于MIS、最大匹配、最小顶点覆盖的2-近似和最大匹配的$(1+ε)$ -近似等问题，获得比其经典$O(\log n)$轮并行对应物更快的MPC算法的兴趣越来越大。目前，所有这样的MPC算法需要每台机器的$\tildeΩ(n)$存储器。Czumaj等人[STOC'18]是第一个处理$\tildeΩ(n)$内存的人，在$O((\log\log n)^2)$轮中运行。我们得到$\tilde{O}(\sqrt{\log Δ})$轮MPC算法的所有这四个问题，即使每个机器有内存$n^α$任何常数$α\in (0, 1)$。这里，PDMATHAMT表示最大程度。这些是第一个亚临界时间算法，这些问题，打破了线性记忆障碍。- 查询复杂度低于Parnas-Ron范式的LCA：目前，最知名的MIS LCA具有查询复杂度$Δ^{O(\log Δ)} poly(\log n)$，由Ghaffari [SODA'16]提出。正如Rubinfeld所指出的，获得$poly(Δ\log n)$的查询复杂度仍然是一个中心的开放问题。Ghaffari的界限几乎达到了所有已知MIS LCA所共有的$Δ^{Ω\left(\…
2018-07-17 cs.DC cs.DS
Efficient Deterministic Distributed Coloring with Small Bandwidth
我们发现，$(degree+1)$ -列表着色问题可以在\CONGEST模型中的$O(D \cdot \log n \cdot\log^2Δ)$轮中确定性地解决，其中$D$是图的直径，$n$是节点数，$Δ$是最大度。使用Rozhoregon和Ghaffari [STOC 2020]最近的多周期时间确定性网络分解算法，这意味着第一个有效的（即，$\poly\log n$ -时间）确定性\CONGEST算法，用于$(Δ+1)$ -着色和$(\mathit{degree}+1)$ -列表着色问题.以前，最著名的算法需要$2^{O(\sqrt{\log n})}$轮，而不是基于网络分解。我们的技术也导致确定性的$(\mathit{degree}+1)$ -列表着色算法的拥塞集团和大规模并行计算（MPC）模型。对于拥塞集团，我们得到了一个时间复杂度为$O(\logΔ\cdot\log\logΔ)$的算法，对于MPC模型，我们得到了线性记忆区域的轮复杂度为$O(\log^2Δ)$的算法和次线性记忆区域的轮复杂度为$O(\log^2Δ+ \log n)$的算法.
2020-04-07 cs.DC cs.DS
Fast Dynamic Programming in Trees in the MPC Model
本研究提出MPC模型下的确定性算法，以O(log D)轮求解树中多种动态规划及图优化等问题，运行时间与节点数无关，严格优于现有两类算法。
2023-05-05 cs.DC cs.DS
Deterministic Massively Parallel Symmetry Breaking for Sparse Graphs
针对稀疏图的大规模并行计算模型，本文提出了改进的确定性MPC算法，通过基于树状度的度数降低方法，提升了极大独立集、极大匹配和顶点着色问题的轮复杂度，并扩展至线性全局内存设置，显著超越了现有技术水平。
2023-06-30 cs.DC cs.DS
Improved Massively Parallel Shortest Path Computation
National University of Singapore（新加坡国立大学）
该研究针对大规模并行计算模型，提出两种场景下的近似单源最短路径预言机构建算法，改进了现有工作的轮次复杂度与适用范围，核心是高效计算近似近邻域的新方法。
2026-10-14 cs.DC cs.DS
Massively Parallel Symmetry Breaking on Sparse Graphs: MIS and Maximal Matching
在过去的几年里，MapReduce、Hadoop或Spark等现代并行范式的成功吸引了人们对大规模并行计算（MPC）模型的极大关注，特别是在图问题上。在这项工作中，我们认为对称性破缺问题的最大独立集（MIS）和最大匹配（MM），这是最深入研究的问题，在分布式/并行计算，在MPC。这些问题是已知的承认有效的MPC算法，如果每台机器的空间是近线性的$n$，在图中的顶点数。然而，正如在文献中所观察到的，这种空间需求通常比我们所能承受的要大得多;特别是当输入图稀疏时。与此形成鲜明对比的是，在每台机器的$n^{1-Ω(1)}$空间的真正次线性区域中，所有已知的算法都采用被认为是低效的$\log^{Ω(1)} n$轮。出于这个缺点，我们参数化我们的算法的荫度$α$的输入图，这是一个广受好评的措施，其稀疏性。我们表明，MIS和MM都承认$O(\sqrt{\log α}\cdot\log\log α+ \log^2\log n)$轮算法使用$O(n^ε)$空间每台机器的任何常数$ε\in (0, 1)$和使用$\widetilde{O}(m)$总空间。因此，对于稀疏图的荫度较小的情况-如无次图、有界亏格图或有界树宽图-，我们得到了一个$O(\log^2 \log n)$轮算法，该算法指数地改进了现有的算法。通过已知的约简，我们的结果也意味着一个$(1+ε)$ -近似的最大基数匹配，一个$(2+ε)…
2019-05-06 cs.DC cs.DS
Improved Massively Parallel Computation Algorithms for MIS, Matching, and Vertex Cover
我们提出了$O(\log\log n)$轮算法的大规模并行计算（MPC）模型，与$\tilde{O}(n)$内存每台机器，计算一个最大的独立集，一个$1+ε$近似的最大匹配，和一个$2+ε$近似的最小顶点覆盖，任何$n$顶点图和任何常数$ε>0$。这些改进了现有技术如下：-我们的MIS算法导致一个简单的$O(\log\log Δ)$ -轮MIS算法在分布式计算的拥塞集团模型，它改进了$\tilde{O}(\sqrt{\log Δ})$轮算法的Ghaffari [PODC'17]。- 我们的$O(\log\log n)$ -圆形$(1+ε)$ -近似最大匹配算法简化或改进了以下先前的工作：$O(\log^2\log n)$ -圆形$(1+ε)$ -Czumaj等人的近似算法[STOC'18]和$O(\log\log n)$ -圆形$(1+ε)$ -Assadi等人的近似算法[SODA'19]。- 我们的$O(\log\log n)$ -圆形$(2+ε)$ -近似最小顶点覆盖算法改进了Assadi等人的$O(\log\log n)$ -圆形$O(1)$ -近似[arXiv'17]。
2022-03-17 cs.DC cs.DS
Near-Optimal Massively Parallel Graph Connectivity
识别图的连通分量，除了是无数应用的基本问题之外，也是许多其他算法的关键基础。在本文中，我们考虑这个问题在并行设置。特别是，我们专注于大规模并行计算（MPC）模型，这是现代并行框架（如MapReduce，Hadoop或Spark）的标准理论模型。我们认为真正的次线性制度MPC的图形问题，每台机器的空间是$n^δ$的一些理想的小常数$δ\in (0, 1)$。我们提出了一个算法，对于直径$D$在宽范围$[\log^ε n, n]$的图，采取$O(\log D)$轮，以确定连通组件和采取$O(\log \log n)$轮的所有其他图。该算法是随机的，成功的概率高，不需要$D$的先验知识，并使用$O(m)$的最佳总空间。我们补充这一点，显示了一个条件下限的基础上，广泛认为TwoCycle猜想，$Ω(\log D)$轮确实是必要的，在这种情况下。在Andoni等人的开创性工作[FOCS 2018]之后，研究并行连接算法重新受到关注，他们提出了一种具有$O(\log D \cdot \log \log n)$轮复杂度的算法。我们的算法改进了这一结果的$D$值的整个范围内，几乎解决了问题，由于条件下限。此外，我们表明，以最小的调整，我们的算法也可以实现在一个变种的（CRCW）PRAM在渐近相同数量的回合。
2020-03-11 cs.DC cs.DS
Parallel Set Cover and Hypergraph Matching via Uniform Random Sampling
本文提出一种基于均匀随机采样的模型无关方法，用于解决无权图中的SetCover问题，在MPC和PRAM模型中获得了改进的近似算法，并将现有轮次复杂度与深度界限提升了log因子。
2024-10-16 cs.DC cs.DS
A Deterministic Algorithm for the MST Problem in Constant Rounds of Congested Clique
在本文中，我们表明，最小生成树问题可以解决\emph{deterministically}，在$\mathcal{O}(1)$轮的$\mathsf{Congested}$ $\mathsf{Clique}$模型。在$\mathsf{Congested}$ $\mathsf{Clique}$模型中，$n$参与者在同步轮中执行计算。每一轮由一个本地计算阶段和一个通信阶段组成，在通信阶段中，允许每对玩家交换$\mathcal{O}(\log n)$位消息。该模型的研究始于MST问题：在Lotker等人的论文中。[SPAA'03，SICOMP'05]定义了$\mathsf{Congested}$ $\mathsf{Clique}$模型，作者给出了一个确定性的$\mathcal{O}(\log \log n)$轮算法，该算法改进了Bornovka算法的平凡$\mathcal{O}(\log n)$轮适应。这一结果有一系列逐步改善：Hegeman等人的$\mathcal{O}(\log \log \log n)$轮算法[PODC'15]、Ghaffari和Parter的$\mathcal{O}(\log^* n)$轮算法[PODC'16]以及Jurdzienski和Nowicki的$\mathcal{O}(1)$轮算法[SODA'18]，但是所有这些算法都是随机的，这留下了关于最小生成树问题的…
2020-06-09 cs.DC cs.DS
Low-Latency Privacy-Preserving Deep Learning Design via Secure MPC
Tsinghua University（清华大学）
本文提出一种基于秘密共享的低延迟MPC设计，通过减少通信轮次和优化非线性函数计算提升网络利用率，在多种设置下实现了10~20%的通信延迟提升。
2024-07-24 cs.AI cs.CR cs.DC
Equivalence Classes and Conditional Hardness in Massively Parallel Computations
大规模并行计算（MPC）模型作为许多现代大规模数据处理框架的通用抽象，在过去几年中受到越来越多的关注，特别是在经典图问题的背景下。到目前为止，讨论这个模型的下界的唯一方法是以一些特定问题的难度为条件，例如承诺图上的图连通性是一个循环还是两个循环，通常称为一个循环与两个循环问题。这与传统的基于复杂性类的假设的论点不同（例如，$\textsf{P} \neq \textsf{NP}$），它们通常更健壮，因为反驳它们会导致一大堆问题的突破性算法。在本文中，我们提出的问题和类的问题，允许后一种类型的参数之间的连接。这些联系涉及在MPC模型中可在次对数数量的轮次内解决的问题的类，用$\textsf{MPC}(o(\log N))$表示，以及关于空间复杂度的一些标准类，即$\textsf{L}$和$\textsf{NL}$，并且建议在反驳它们的意义上是鲁棒的，这将导致MPC模型中许多令人惊讶的快速新算法。我们还获得了新的条件下界，并证明了新的减少和MPC模型中的问题之间的等价性。
2020-01-07 cs.DC cs.DS
Massively Parallel Single-Source SimRanks in $o(\log n)$ Rounds
本文在MPC模型中研究单源SimRank计算，提出首个仅需 $O(\log^2 \log n)$ 通信轮次和亚线性机器空间即可克服 $Θ(\log n)$ 轮次复杂度障碍的分布式算法。
2023-04-08 cs.DC
On the Computational Complexity of MapReduce
在本文中，我们从复杂性理论的角度研究MapReduce计算。首先，我们制定了Karloff et al.（2010）的MRC模型的统一版本。然后，我们表明，类的正则语言，而且所有的次对数空间，在于常数轮MRC。这一结果也适用于Andoni et al.（2014）的MPC模型。此外，我们证明，条件的指数时间假设的一个变种，有严格的层次结构内MRC，使增加轮数或每个处理器的时间量增加的权力MRC。据我们所知，我们是第一个接近MapReduce模型与复杂性理论的技术，我们的工作奠定了基础，进一步分析有关MapReduce建立复杂性类。
2015-10-06 cs.CC cs.DC
Parallel Graph Connectivity in Log Diameter Rounds
研究了MPC模型中的图连通性问题。在具有$n$节点和$m$边的无向图上，$O(\log n)$轮连通性算法已经已知超过35年。然而，没有更好的复杂性界限的算法是已知的。在这项工作中，我们给出了完全可扩展的，更快的算法的连通性问题，通过参数化的时间复杂度作为一个函数的直径的图形。我们的主要结果是一个$O(\log D \log\log_{m/n} n)$时间连通算法的直径$D$图，使用$Θ(m)$总内存。如果我们的算法可以使用更多的内存，它可以在更少的回合中终止，并且每个处理器的内存没有下限。我们将我们的结果扩展到相关的图问题，如生成森林，寻找DFS序列，精确/近似最小生成森林，瓶颈生成森林。我们还表明，在有向图中实现类似的边界的可达性将意味着更快的布尔矩阵乘法算法。我们介绍几个新的算法思想。我们描述了一个通用的技术，称为双指数速度的问题大小减少，这大致意味着，如果我们可以使用总内存$N$减少一个问题的大小$n$到$n/k$，$k=(N/n)^{Θ(1)}$在一个阶段，那么我们可以解决问题的$O(\log\log_{N/n} n)$阶段。为了实现这种快速减少图的连通性，我们使用多步算法。一个关键的步骤是一个精心构造的截断广播方案，其中每个节点广播邻居集的方式，限制所产生的邻居集的大小。另一个关键步骤是随机的领导者收缩，我们选择了一个比以前许多作品更小的领导者集合。
2018-05-08 cs.DC cs.DS
Deterministic Leader Election Takes $Θ(D + \log n)$ Bit Rounds
领导者选举和一致性问题是分布式计算的核心问题之一。本文提出了一种分布式算法，称为\STT，用于在任意网络中确定性地选举领导者，假设处理器具有大小为$O(\log n)$的唯一标识符，其中$n$是处理器的数量。它在$O(D +\log n)$轮中选举一个领导者，其中$D$是网络的直径，消息大小为$O(1)$。因此，它的位轮复杂度为$O(D +\log n)$。这大大改进了位循环复杂度为$O(D\log n)$的最佳已知算法。事实上，使用Kutten et al.（2015）的下界和Dinitz and Solomon（2007）的结果，我们证明了\STT的位轮复杂度是最优的（直到一个常数因子），这是理解选举问题的时间和消息最优性之间相互作用的重要一步。我们的算法不需要$n$或$D$等图形知识，并且我们引入的打破$O(D\log n)$障碍的流水线技术是通用的。
2018-09-07 cs.DC
Time and Space Optimal Massively Parallel Algorithm for the 2-Ruling Set Problem
本文提出拥塞团模型下2-统治集问题的常数轮算法，推导MPC模型下时空最优的同类算法，改进已有轮数复杂度结果，技术可推广至半流模型，核心是新颖采样过程结合两次运行以高概率得解。
2023-10-10 cs.DC cs.DS
Near-Optimal Distributed Degree+1 Coloring
我们提出了一种新的方法来随机分布图着色，这是更简单，更有效的比以前的。特别地，它允许我们解决$(\operatorname{deg}+1)$ -列表着色（D1 LC）问题，其中度$d_v$的每个节点$v$被分配$d_v+1$颜色的调色板，并且目标是使用这些调色板找到适当的着色。虽然对于$(Δ+1)$着色（其中$Δ$是最大度），存在快速随机化分布式$O(\log^3\log n)$轮算法（Chang，Li和Pettie [SIAM J. Comp. 2020]），但D1 LC问题没有已知的$o(\log n)$轮算法。我们给出了一个随机分布式算法D1 LC是合理的假设下的确定性问题的复杂性最优。使用Ghaffari和Kuhn [FOCS 2021]的最新确定性算法，我们的算法在$O(\log^3 \log n)$时间内运行，匹配$(Δ+1)$ -着色的最佳边界。此外，它还为$O(\log^* n)$轮中度为$Ω(\log^7 n)$的所有节点着色。一个关键的贡献是一个子程序，以产生松弛的D1 LC。当置于Assadi，Chen和Khanna [SODA 2019]以及Alon和Assadi [APPROX/RANDOM 2020]的框架中时，这几乎立即导致了D1 LC的调色板稀疏化定理，推广了以前的结果。这给出了三种不同模型中的D1 LC快速算法：MPC模型中的$O(1)$轮算法，每…
2021-12-01 cs.DC cs.DS
An Automatic Speedup Theorem for Distributed Problems
最近，Brandt等人。[STOC'16]证明了分布式Lovász局部引理的下界，Chang和Pettie [FOCS'17]已经证明了该下界对于充分放松的LLL准则是紧的。他们的结果的核心在于一个加速技术，对于周长至少为$2t+2$的图，将一个特定LLL问题的任何$t$轮算法转换为同一问题的$(t-1)$轮算法。我们大大提高了这种技术，表明这样的加速存在于任何本地可检查的问题$Π$，与不同的是，问题$Π_1$推断$(t-1)$轮算法解决的是不（一定）相同的问题作为$Π$。我们的加速是自动的，因为有一个固定的过程将$Π$的描述转换为$Π_1$的描述，并且是可逆的，因为用于$Π_1$的任何$(t-1)$轮算法都可以转换为用于$Π$的$t$轮算法。特别地，对于具有$n$节点、最大节点度$Δ$和围长至少为$2t+2$的图上的具有精确确定性时间复杂度$T(n, Δ) \leq t$的任何局部可检查问题$Π$，存在具有时间复杂度$T(n, Δ)-1, T(n, Δ)-2, \dots$的问题$Π_1, Π_2, \dots$的序列，其可以从$Π$推断。作为我们的广义加速的第一个应用程序，我们解决了一个长期存在的开放问题Naor和Stockmeyer [STOC'93]：我们表明，弱$2$染色奇数度图不能解决在$o(\log^* Δ)$轮，从而提供了一个匹配的下界，他们的上限。
2019-02-26 cs.DC cs.DS
Fully Scalable Massively Parallel Algorithms for Embedded Planar Graphs
本文针对嵌入平面图提出完全可扩展的 MPC 常数轮算法，将每台机器内存需求从 n^{2/3+Ω(1)} 降至 n^δ，并解决连通性、MST、SSSP、最小割及最大流等问题。
2023-10-27 cs.CG cs.DC cs.DS
Improved Deterministic Connectivity in Massively Parallel Computation
关于大规模并行计算模型中的连接性的一系列研究在Andoni等人的开创性工作中达到了高潮。[FOCS'18]和Behnezhad等人。[FOCS'19]。他们提供了一个低空间MPC的随机算法，并证明是最佳的轮复杂度$O(\log D + \log \log_{\frac m n} n)$和$O(m)$空间，对于图的$n$顶点与$m$边和直径$D$。令人惊讶的是，Coy和Czumaj [STOC'22]最近的结果显示了如何确定性地实现相同的结果。然而，不幸的是，他们的算法遭受大的本地计算时间。我们提出了一个确定性的连接算法，匹配的所有参数的随机算法，此外，显着减少了本地计算时间接近线性。我们的去随机化方法是基于减少所需的随机性，以允许一个更简单的高效搜索。虽然类似的随机性减少方法已经使用过，我们的结果不仅是惊人的简单，但它是第一个有效率的本地计算。这就是为什么我们认为它可以作为系统开发低内存MPC中计算高效的去随机化方法的起点。
2022-08-16 cs.DC cs.DS
Improved Distributed Algorithms for the Lovász Local Lemma and Edge Coloring
洛瓦兹局部引理是概率论中的一个经典结果，经常被用来通过概率方法证明组合对象的存在性。在其最简单的形式中，它指出，如果我们有$n$“坏事件”，每个坏事件的发生概率最多为$p$，并且与除$d$之外的所有其他事件无关，那么在关于$p$和$d$的某些标准下，所有坏事件都可以以正概率避免。虽然最初的证明是存在性的，但已经有很多关于算法的Lovász局部引理的研究：也就是说，设计一个算法，找到潜在的随机变量的分配，使得所有的坏事件都被避免。值得注意的是，Moser和Tardos [JACM '10]的著名结果也暗示了问题的有效分布式算法，在$O(\log^2 n)$轮中运行。对于低$d$的实例，Fischer和Ghaffari [DISC '17]将其改进为$O(d^2+\log^{O(1)}\log n)$，这一结果在分布式复杂性理论中已被证明非常重要（Chang和Pettie [SICOMP '19]）。给出了Lovász局部引理的一个改进算法，在$p$和$d$相关准则的强度和分布式轮复杂度之间进行了权衡.特别地，在与Fischer和Ghaffari的算法相同的机制中，我们将轮复杂度提高到$O(\frac{d}{\log d}+\log^{O(1)}\log n)$。在权衡的另一端，我们获得了一个$\log^{O(1)}\log n$轮复杂度为一个实质上更广泛的制度比以前已知的。作为我们的…
2022-10-19 cs.DC cs.DS
