Parallel Algorithms for Butterfly Computations
蝴蝶是二分图中最小的非平凡子图,因此有效地分析它们对于提高二分图的某些应用的质量至关重要。在本文中,我们设计了一个框架,称为ParButterfly,包含新的并行算法处理蝴蝶的以下问题:全局计数,每顶点计数,每边计数,尖端分解(顶点剥离),和翅膀分解(边缘剥离)。这些算法的主要组成部分是聚合事件上的顶点子集的楔形,我们的框架支持不同的方法楔形聚合,包括排序,哈希,直方图,和排序。此外,ParButterfly还支持不同的顶点排序方式来加速计数,包括边排序、近似和精确度排序以及近似和精确补核排序。对于计数,ParButterfly还支持精确计算以及通过图稀疏化的近似计算。我们证明了强有力的理论保证的工作和跨度的算法ParButterfly。我们使用48核机器对ParButterfly中的所有算法在真实世界的二分图集合上进行全面评估。我们的计数算法获得了显着的并行加速比,优于最快的顺序算法的高达13.6倍的自相关加速比高达38.5倍。与一般的子图计数解决方案相比,我们快了几个数量级。我们的剥离算法实现了高达10.7倍的自相关加速比,并优于最快的顺序基线高达几个数量级。
2020-06-17 cs.DC
Graph Neural Networks as Ordering Heuristics for Parallel Graph Coloring
University of Bergen(卑尔根大学)
本文提出一种基于 GNN 的并行图着色排序启发式方法,结合监督与无监督训练,在着色质量、运行时间和并行扩展性上优于 LF 与 SL。
2024-08-09 cs.DC cs.LG
High-Quality Hierarchical Process Mapping
当在并行计算机上处理图形时,将图形划分为大小大致相等的块,使得块之间的边很少,这是经常需要的操作。当一个分布式系统的拓扑结构是已知的,一个重要的任务,然后将分区的块映射到处理器上,从而降低整体通信成本。我们提出了新的多级算法,集成图分区和进程映射。我们的算法的重要组成部分包括快速标签传播,更本地化的本地搜索,初始分区,以及一个压缩的数据结构计算处理器的距离,而无需存储的距离矩阵。实验表明,我们的算法加快了整体的映射过程,由于集成的多级方法,在实践中也找到了更好的解决方案。例如,我们的算法的一个配置产生更好的解决方案比以前的国家的最先进的映射质量方面,同时是一个因素62更快。目前最快的迭代多级映射算法苏格兰相比,我们获得了16%的更好的解决方案,而投资略多的运行时间。
2020-01-22 cs.DC cs.DS
Parallelizing the Approximate Minimum Degree Ordering Algorithm: Strategies and Evaluation
University of California, Berkeley(加州大学伯克利分校);NVIDIA Corporation(英伟达公司);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文提出了一种基于距离-2独立集的并行化近似最小度算法框架,实现了在共享内存上的可扩展性,并在SuiteSparse中达到7.29倍的速度提升。
2026-02-25 cs.DC cs.DM cs.DS
Formalization of Phase Ordering
相位器提出了一种有趣的同步机制,它概括了并行程序设计语言中的许多集体同步模式,包括屏障、时钟和使用锁存器或信号量的点对点同步。这项工作的特点调度约束相位器操作,有关的两个任务,在同一相位器上操作的执行状态。我们提出了一个形式化的Habanero相位器,可能发生的并行,和发生之前的相位器操作的关系,并表明这些关系符合语义。我们的形式化和证明是完全机械化的使用Coq证明助手,并可在网上。
2016-06-20 cs.DC cs.LO
Abstract Graph Machine
抽象图机(AGM)是分布式存储并行稳定图算法的抽象模型。稳定化算法从一个特定的初始状态开始,经过一系列不同的状态变化,直到收敛。AGM将工作依赖性添加到稳定算法。工作是在处理函数中处理的。系统中的所有进程执行相同的处理功能。在将工作馈送到处理函数之前,使用严格弱排序关系对工作进行排序。严格弱序关系将工作划分为等价类,因此单个等价类中的工作可以并行处理,但不同等价类中的工作必须按照它们在等价类中出现的顺序执行。本文给出了几种分布式存储并行图算法的AGM模型、语义和AGM模型。
2016-04-28 cs.DC
Families of Distributed Memory Parallel Graph Algorithms from Self-Stabilizing Kernels-An SSSP Case Study
自稳定算法是一个重要的,因为它们的鲁棒性和保证收敛。自稳定算法从任意状态开始,保证收敛到一个合法的状态,但当性能和可扩展性很重要时,这些算法不能直接用于解决分布式图处理问题。在本文中,我们展示了“抽象图机”(AGM)模型,可用于转换自稳定算法的形式适合于分布式图形处理。AGM是一种在图上并行计算的数学模型,它为自稳定算法添加了工作依赖性和排序。使用AGM模型,我们表明,一些现有的分布式单源最短路径(SSSP)算法实际上是自稳定SSSP的专业化。我们扩展AGM模型,在不同的空间层次上应用更细粒度的排序,以获得额外的可扩展的SSSP算法的变体,基本上使算法能够为特定的目标架构生成。实验结果表明,这种方法可以产生新的算法变种,优于标准的分布式算法SSSP。
2017-06-19 cs.DC
A Geometric Approach to Matrix Ordering
我们提出了一种递归的方法来划分超图,创建和利用超图几何,适用于众核并行架构。这样的划分然后被用于以递归的有界块对角形式(用于处理器无关的并行LU分解)或递归的分离块对角形式(用于高速缓存无关的稀疏矩阵向量乘法)来带来稀疏矩阵。我们表明,所获得的分区和排序的质量是有竞争力的,通过比较所获得的填充LU分解与SuperLU(具有更好的结果为28个测试矩阵中的8个)和比较切割的大小稀疏矩阵向量乘法与蒙德里安(具有更好的结果为12个测试矩阵中的4个)。新方法的主要优点是其速度:它平均比Mondriaan快21.6倍。
2011-05-23 cs.DC cs.DS
Accelerating Clique Counting in Sparse Real-World Graphs via Communication-Reducing Optimizations
图挖掘中的一个重要问题是计算大图中特定子图的实例数。寻找大小为k的团(k-cliques)是这个NP难问题的一个例子。不同的团计数算法通过旋转或排序图来避免多次计数相同的团。基于排序的算法包括一个排序步骤,以指导输入图中的边,和一个计数步骤,这是由建立节点或边诱导的子图为主。在基于排序的算法中,kClist是设计用于稀疏真实世界图的最先进算法。尽管kClist的顶点并行实现具有领先的整体性能,但在具有几百万个顶点的图上的实际扩展性并不好。我们提出了CITRON(团计数与流量减少优化),以提高并行可扩展性,从而整体性能的团计数。我们通过放弃kClist的顺序核心排序并使用并行化的度排序来加速排序阶段。我们使用重组的子图数据结构加快了计数阶段,减少了内存流量,改善了扩展瓶颈。我们的排序,紧凑的邻居列表提高了局部性和通信效率,从而导致近线性的并行缩放。CITRON在计数中等大小的团时显著优于kClist,从而增加了用于团计数的实用图形的大小。我们最近意识到ArbCount(arXiv:2002.10047),它的性能往往优于我们。然而,我们相信本文中的分析将有助于任何希望了解k团计数性能特征的人。
2021-12-29 cs.DC cs.DS cs.PF
The Impact of Space-Filling Curves on Data Movement in Parallel Systems
本文研究 Hilbert、Morton 等空间填充曲线对 GPU 加速多核并行系统中科学计算数据局部性与移动开销的影响,并通过模板应用分析其适用条件和数据共享机制。
2023-07-15 cs.DC cs.DS
Parallel and Memory-limited Algorithms for Optimal Task Scheduling Using a Duplicate-Free State-Space
具有通信延迟的任务调度问题是强NP-难的。状态空间搜索算法(如A*)已被证明是一种很有前途的方法,可以最佳地解决中小型实例。最近提出的状态空间模型的任务调度,被称为分配排序(AO),允许状态空间搜索方法,而不需要以前必要的重复避免机制,并导致显着改善A* 性能。无重复状态空间的属性也为存储器有限的搜索算法,如深度优先分支定界(DFBnB)和并行搜索算法提供了特别的希望。本文研究并提出了这样的算法,AO模型和比较,旧的穷举列表调度(ELS)状态空间模型。我们广泛的评估表明,AO提供了一个明显的优势DFBnB,并允许更大的可扩展性并行搜索算法。
2019-05-14 cs.DC
High-Performance Parallel Graph Coloring with Strong Guarantees on Work, Depth, and Quality
我们开发了第一个并行图着色算法,在工作和深度以及着色质量上具有强有力的理论保证。其关键思想是设计一个放松的顶点退化顺序,一个著名的图论概念,并着色顶点的顺序由这个放松。这将可调的并行量引入到退化排序中,否则很难并行化。这个简单的想法在图着色的几个关键方面带来了显著的好处。例如,我们的算法之一,确保多对数深度和使用的颜色,优于所有其他并行化方案的数量上的界限,同时保持工作效率。除了可证明的保证,开发的算法具有竞争力的运行时间为几个现实世界的图形,同时几乎总是提供卓越的着色质量。我们的退化排序放松是单独的兴趣着色的上下文中以外的算法。
2020-11-11 cs.DC cs.DS cs.PF
Robustness of deep learning classification to adversarial input on GPUs: asynchronous parallel accumulation is a source of vulnerability
Maxeler Technologies, a Groq Company(Maxeler Technologies,Groq公司);ETH Zurich / CSCS(苏黎世联邦理工学院 / CSCS);Georgia Institute of Technology(佐治亚理工学院);Oak Ridge National Laboratory(橡树岭国家实验室)
本文揭示GPU上浮点非结合性与异步并行累加可在无输入扰动时导致深度学习分类错误,并提出基于贝叶斯优化的黑盒攻击和基于梯度的可学习置换方法,用于高效评估和暴露该机器级脆弱性。
2025-08-22 cs.DC cs.LG
The Reverse Cuthill-McKee Algorithm in Distributed-Memory
Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
本文提出首个分布式内存实现的反Cuthill-McKee算法,用于减少稀疏矩阵的轮廓,通过二维稀疏矩阵分解和优化原语实现高性能。
2016-10-26 cs.DC cs.MS cs.NA
On Dynamic Job Ordering and Slot Configurations for Minimizing the Makespan Of Multiple MapReduce Jobs
MapReduce是一种流行的并行计算范式,用于集群和数据中心中的大数据处理。据观察,MapReduce工作负载的不同作业执行顺序和MapReduce插槽配置在完工时间、总完成时间、系统利用率和其他性能指标方面具有显著不同的性能。关于最小化多个MapReduce作业的makespan有很多算法。然而,这些算法是启发式的或次优的。最著名的最小化完工时间的算法是3-近似应用约翰逊规则。在本文中,我们提出了一种称为UAAS算法,以满足经典的约翰逊模型的条件。那么我们仍然可以使用约翰逊模型来获得最优解。我们解释了如何适应约翰逊模型,并提供了我们所提出的方法的一些关键功能。
2016-04-15 cs.DC cs.DS
BFS based distributed algorithm for parallel local directed sub-graph enumeration
估计子图的频率对于许多任务都很重要,包括子图同构、基于核的异常检测和网络结构分析。虽然提出了多种算法用于完全枚举或基于采样的估计,但这些方法在非常大的图中失败。并行化的最新进展允许在非常大的图中估计总的子图计数。计算与每个顶点相关联的每个子图的频率的任务也得到了无向图的优秀解决方案。然而,目前还没有很好的解决方案非常大的有向图。在这里,我们提出了VDMC(顶点特定的分布式图案计数)-一个完全分布式的算法,以最佳地计算所有的3和4顶点连接的有向图(子图图案)与每个顶点的图。VDMC对每个基序仅计数一次,并且其功效在计数的基序的数量上是线性的。它是完全并行的,在基于GPU的计算中是高效的。VDMC基于三个主要元素:1)对顶点进行排序并且仅对包含递增阶顶点的模体进行计数,2)基于组成模体的BFS的平均长度对模体进行子排序,以及3)对于整个图仅移除同构一次。我们在这里比较VDMC的分析估计的预期数量的图案,并显示其准确性。VDMC是一种高效的CPU和GPU代码,具有用于高效图形操作的新型数据结构。我们展示了VDMC和真实世界图形的功效。VDMC允许在大型图中每个顶点周围的子图频率的精确分析,并为扩展方法开辟了道路,直到现在仅限于数千条边的图到具有数百万条边及以上的图。GIT:https://github.com/louzounlab/graph-measures
2022-01-06 cs.DC cs.DS math.CO