Using Graphics Processors for Parallelizing Hash-based Data Carving
检测已删除图像文件的片段并从磁盘上所有可用片段重建这些图像文件的能力是数字取证领域的关键活动。虽然从磁盘上的文件片段重建映像文件可以通过简单地将磁盘上扇区的内容与已知文件的内容进行比较来完成,但这种蛮力方法可能很耗时。本文介绍了使用图形处理单元(GPU)在磁盘集群中检测特定图像文件字节模式的研究结果。将每个磁盘扇区的唯一识别图案与已知图像中的图案进行比较。模式匹配表示可能存在图像,并标记磁盘扇区以进行进一步深入检查,以确认匹配。基于GPU的实现方式明显优于软件实现方式。
2009-01-09 cs.DC
Optimized Password Recovery for Encrypted RAR on GPUs
RAR使用经典的对称加密算法SHA-1哈希和AES算法进行加密,密码恢复的唯一方法是暴力破解,非常耗时。在本文中,我们提出了一种使用GPU来加快密码恢复过程的方法。但由于SHA-1哈希算法中计算量大、耗时长的部分很难并行化,因此本文采用粗粒度并行。也就是说,一个GPU线程负责验证一个密码。我们主要使用了三种优化方法来优化这个并行版本:CPU和GPU之间的异步并行、冗余计算和条件语句减少以及寄存器使用优化。实验结果表明,在AMD FirePro W8000 GPU上,该算法的最终版本比在Intel Core i5 CPU上优化的串行版本的性能提高了43~57倍。
2015-05-28 cs.CR cs.DC
2HOT: An Improved Parallel Hashed Oct-Tree N-Body Algorithm for Cosmological Simulation
我们报告在过去的二十年中,我们的自适应树码N-体方法(HOT)的改进。描述了宇宙学N体问题的数学和计算方法,其性能和可扩展性测量到256 k($2^{18}$)处理器。我们目前的误差分析和科学应用的结果,从一系列超过10个69亿($4096^3$)粒子宇宙学模拟,占$4 \times 10^{20}$浮点运算。这些结果包括使用普朗克卫星宇宙学标准模型的新约束的第一次模拟。我们的模拟为准确性和科学吞吐量设定了新的标准,同时达到或超过了最新一代混合TreePM N-body方法的计算效率。
2013-10-16 astro-ph.CO astro-ph.IM cs.DC
Some observations on the optimization of a parallel SHAKE function using Sakura
介绍了几种基于Sakura编码的SHAKE散列函数的并行构造方法,其基本运算是卷积码的置换。对于每一个建议的基于树的算法,观察其并行运行时间(深度)和所需的处理器数量,以达到it.This初步工作的假设,树级链接值长度等于底层海绵建设的能力,建议在樱花论文。
2016-08-13 cs.CR cs.DC
Optimal Tree Hash Modes: the Case of Trees Having their Leaves at All the Levels
最近的工作表明,我们如何可以优化一个基于树的操作模式的哈希函数的输入消息块和摘要的大小是相同的,受约束的,所涉及的树结构有它的所有叶子在相同的深度。在这项工作中,我们表明,我们可以进一步优化这种模式的运行时间,通过使用一棵树,在其所有级别的叶子。我们假设输入消息块的大小是摘要大小的倍数,并用$d$表示块大小与摘要大小的比值。运行时间是根据哈希函数执行的操作数量来评估的,即对其底层函数的调用数量。事实证明,可以使用$\lceil l/2 \rceil$处理器在底层函数的$\lceil \log_{d+1} (l/2) \rceil+2$求值中计算摘要,其中$l$是消息的块数。其他感兴趣的结果进行了讨论,如高度受限的树的并行运行时间的优化。
2017-06-27 cs.CR cs.DC
Coordination Level Modeling and Analysis of Parallel Programs using Petri Nets
在过去的十五年中,高性能计算(HPC)社区已经要求并行编程环境,其调和分布式存储器并行计算平台的通用性、更高抽象级别、可移植性和效率。哈希组件模型似乎是解决HPC社区要求满足这些要求的替代方案。本文提出的基础,将使一个基于哈希模型的并行程序设计环境,以解决问题的“调试”,性能评估和验证的形式属性的并行程序通过一个强大的,简单的,广泛采用的形式主义:Petri网。
2012-08-19 cs.DC cs.PL cs.SE
Fast Locality Sensitive Hashing for Beam Search on GPU
Department of Computer Science, University of Southern California(南加州大学计算机科学系);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
我们提出了一种基于GPU的局部敏感哈希(LSH)算法,以加快序列模型的束搜索。我们利用赢家通吃(WTA)哈希,这是基于隐藏的维度的相对排名顺序,从而弹性的数值扰动。我们的算法设计充分考虑了CUDA支持的GPU的底层架构(算法/架构协同设计):1)并行Cuckoo哈希表用于LSH代码查找(保证O(1)查找时间); 2)候选列表在波束之间共享以最大化并行性; 3)顶部频繁字合并到候选列表中以提高性能。在4个大规模神经机器翻译模型上的实验表明,该算法在softmax模块上可以获得4倍的加速比,在GPU上可以获得2倍的整体加速比,而不会损害BLEU。
2018-06-02 cs.AI cs.CL cs.DC
Scalable Hash Table for NUMA Systems
哈希表用于大量的应用,包括数据库操作、DNA测序、字符串搜索等等。因此,存在许多针对多核、分布式和基于加速器的系统的并行化哈希表。在这项工作中,我们提出了一个多GPU哈希表的实现,可以处理密钥的吞吐量相当于分布式哈希表。分布式CPU哈希表比基于GPU的哈希表受到了更多的关注。我们发现,具有多个GPU的单个节点提供与基于500- 1,000核CPU的集群大致相同的性能。我们的算法的关键组成部分是我们使用多个稀疏图数据结构和装箱技术来构建哈希表。正如已经单独显示的那样,这些组件可以用适合GPU加速的大规模并行性来编写。由于我们关注的是单个节点,因此我们还利用了分布式环境中通常禁止的通信原语。我们表明,我们的新的多GPU算法共享许多相同的功能的单GPU算法-因此,我们有高效的冲突管理能力,可以处理大量的重复。我们在两个多GPU计算节点上评估我们的算法:1)具有16个GPU的NVIDIA DGX 2服务器和2)具有6个NVIDIA GPU的IBM Power 9处理器。使用32位密钥,我们的实现每秒处理8B密钥,与基于500- 1,000核CPU的集群相当,比以前的单GPU实现快4倍。
2021-04-01 cs.DC cs.DS
Performance Analysis of Apriori Algorithm with Different Data Structures on Hadoop Cluster
从海量数据集中挖掘频繁项集一直是数据采掘的一个重要问题。Apriori算法是最流行、最简单的频繁项集挖掘算法。为了提高Apriori的效率和可扩展性,已经提出了许多算法来解决高效数据结构的设计,最小化数据库扫描以及并行和分布式处理。MapReduce是Hadoop集群上处理大数据集的并行分布式技术。为了挖掘大数据集,有必要在这种新的范式上重新设计数据采掘算法。在本文中,我们实现了三种变体的Apriori算法使用数据结构哈希树,trie和哈希表trie,即trie与MapReduce范式上的哈希技术。本文着重研究了这三种数据结构对Hadoop集群上Apriori算法的重要意义,这一点还没有引起足够的重视。在真实数据集和人工合成数据集上进行的实验表明,哈希表trie数据结构在执行时间上远远优于trie和hash树。此外,哈希树的性能变得最差。
2015-11-22 cs.DC
Application-Specific System Processor for the SHA-1 Hash Algorithm
这项工作提出了一个专用系统处理器(ASSP)硬件的安全哈希算法1(SHA-1)算法。所提出的硬件在现场可编程门阵列(FPGA)Xilinx Virtex 6 xc 6vlx 240 t-1ff 1156中实现。分析了哈希算法的几种并行实现的吞吐量和占用面积。结果表明,为SHA-1提出的硬件在单个FPGA中实现了0.644 Gbps的单个实例吞吐量和略高于28 Gbps的48个实例吞吐量。各种应用程序,如密码恢复,密码验证和大量数据完整性检查,可以有效地执行,快速与ASSP的SHA1。
2018-12-10 cs.AR cs.CR cs.DC
A Distributed Parallel Algorithm for Minimum Spanning Tree Problem
在本文中,我们提出并评估了一个并行算法求解最小生成树(MST)问题的超级计算机与分布式内存。与原始GHS(Gallager、Humblet、Spira)算法相比,该算法依赖于对一种特定消息类型的消息处理顺序要求的放宽。我们的算法采用哈希和消息压缩优化技术以及。据我们所知,这是GHS算法的第一个并行实现,线性扩展到Infiniband集群的32个节点(256个核心)以上。
2016-10-14 cs.DC
Lock-free dynamic hash tables with open addressing
我们提出了一个有效的无锁算法的并行访问哈希表与开放寻址,这承诺更强大的性能和可靠性比传统的基于锁的实现。“无锁”意味着保证总是至少有一个进程在有限的步骤数内完成其操作。对于单处理器架构,我们的解决方案与顺序哈希表一样有效。在多处理器体系结构上,当所有处理器都具有相当的速度时也是如此。该算法允许处理器具有广泛的不同速度或停止。它可以很容易地使用C类语言实现,并且平均只需要恒定的时间来插入,删除或访问元素。该算法允许哈希表在需要时增长和收缩。无锁算法很难正确设计,即使看起来很简单。在尽可能早的阶段确保设计的正确性是任何负责任的系统开发的主要挑战。鉴于算法的复杂性,我们转向交互式定理证明器PVS进行机械支持。我们采用标准的演绎验证技术来证明我们算法的约200个不变性,并描述了如何使用定理证明器PVS实现这一点。
2004-10-27 cs.DC cs.DS
A Note on Parallel Algorithmic Speedup Bounds
并行程序可以表示为有向无环图。一个重要的性能界限是通过图执行关键路线的时间。我们展示了这个性能指标是如何与Amdahl加速比和平均并行度。这些界限正式排除超线性性能。
2011-04-20 cs.DC cs.PF
An Efficient Method of Partitioning High Volumes of Multidimensional Data for Parallel Clustering Algorithms
Centre for Development of Telematics(远程信息处理发展中心)
最优数据划分是并行和分布式实现聚类算法的必要计算,因为它确保独立的任务完成,公平分布,较少的受影响点的数量和更好和更快的合并。虽然使用Kd树的分区在学术界被常规地使用,但是随着数据维度的增加,它遭受性能下降和偏差(非均匀分布),因此不适合在维度可以是100到1000的数量级的工业中实际使用。为了解决这些问题,我们提出了两个新的分区技术,使用现有的数学模型和研究其可行性,性能(偏见和分区速度)和可能的变化,在选择初始种子。第一种方法使用基于n维散列网格的方法,该方法基于将空间中的点映射到散列点的一组立方体。第二种方法使用voronoi平面树,其中每个平面对应于一个分区。我们发现基于网格的方法在计算上是不切实际的,而使用voronoi平面的树(使用可扩展的K-Means++初始种子)随着维度的增加而大大优于Kd树方法。
2016-09-20 cs.AI cs.DC
Optimization of SpGEMM with Risc-V vector instructions
针对 RISC-V 长向量架构上极稀疏 SpGEMM 利用率不足的问题,提出 SPARS、HASH 及动态混合算法 H-SPA(t)/H-HASH(t),在 SuiteSparse 矩阵上显著优于 SPA。
2023-06-02 cs.DC
Massively Parallel Construction of the Cell Graph
运动规划是机器人学中一个重要的研究领域。寻找路线的典型方法是构造表示场景的{ \em单元图},然后在这样的图中寻找路径。在本文中,我们提出并分析了并行算法上构建的细胞图的SIMD类GPU处理器。此外,我们提出了一个新的实现的字典数据类型的GPU设备上。与GPU算法中常见的哈希表相反,它使用搜索树,其中所有值都保存在叶子中。有了这样的结构,我们可以有效地执行字典操作的一组长向量在有限的字母表。
2015-03-20 cs.DC
Parallel Strong Connectivity Based on Faster Reachability
针对大直径图上并行SCC慢的问题,提出基于垂直粒度控制(VGC)和并行哈希袋的并行可达性算法,实现高效SCC,在18个图上平均比GBBS快6.0倍。
2023-05-15 cs.DC cs.DS
Asynchronous Parallel Computing Algorithm implemented in 1D Heat Equation with CUDA
本文给出了基于CUDA的一维热传导方程异步并行计算算法的稳定性和性能分析。本文的主要目的在于通过提供CUDA代码来快速、方便地实现异步并行计算算法。我们表明,在nVIDIA GPU设备上进行的模拟与异步方案优于同步并行计算算法。此外,我们还讨论了异步并行计算算法的一些缺点。
2015-11-02 cs.DC
Theoretically and Practically Efficient Parallel Nucleus Decomposition
本文研究了核分解问题,这已被证明是有用的,在寻找密集的子结构图。我们提出了一种新的并行算法,是有效的理论和实践。我们的算法实现了与最佳顺序算法匹配的工作复杂度,同时还具有低深度(并行运行时间),这显著改进了仅有的现有并行核分解算法(Sariyuce等人,PVLDB 2018)。我们的算法的理论效率的关键是使用一个理论上有效的并行算法的团列表和桶。我们介绍了几个新的实用优化,包括一个新的多级哈希表结构,以存储信息的集团空间效率和技术,用于遍历这种结构的高速缓存效率。在一个具有双向超线程的30核机器上,我们实现了比Sariyuce等人的最先进的并行核分解算法高达55倍的加速,并且高达40倍的自相关并行加速比。我们能够有效地计算更大的核分解比以前的工作在几百万规模的图形的第一次。
2022-08-11 cs.DC cs.DS
Network calculus for parallel processing
在这篇文章中,我们提出了使用“网络演算”的并行处理系统,特别是MapReduce的初步结果。
2015-01-31 cs.DC cs.PF
Bandwidth-Optimized Parallel Algorithms for Sparse Matrix-Matrix Multiplication using Propagation Blocking
稀疏矩阵-矩阵乘法(Sparse matrix-matrix multiplication,SpGEMM)是各种图、科学计算和机器学习算法中广泛使用的核心。众所周知,SpGEMM是一个内存受限的操作,其峰值性能预计将受到内存带宽的限制。然而,现有的算法未能饱和的内存带宽,导致在Roofline模型下的次优性能。在本文中,我们现有的SpGEMM算法的特点,其内存访问模式的基础上,开发实用的下限和上限的SpGEMM性能。然后,我们开发了一个基于外积矩阵乘法的SpGEMM算法。新开发的算法称为PB-SpGEMM饱和内存带宽通过使用传播阻塞技术,并通过执行在缓存排序和合并。对于许多实际矩阵,PB-SpGEMM在现代多核处理器上的运行速度比最先进的堆和散列SpGEMM算法快20%-50%。最重要的是,PB-SpGEMM达到了Roofline模型预测的性能,并且其性能在矩阵大小和稀疏性方面保持稳定。
2020-02-26 cs.DC
Adaptive Massively Parallel Constant-round Tree Contraction
Miller和Reif的FOCS'85经典和基本的树收缩算法是一种广泛适用于并行解决大量树问题的技术。此外,它还被用作大量并行图算法的算法设计技术。然而,在所有先前探索的计算模型中,树收缩仅在并行运行时间的$Ω(\log n)$轮中实现。在这项工作中,我们不仅介绍了一个广义的树收缩方法,但也表明它可以在$O(1/ε^3)$轮自适应大规模并行计算(AMPC)设置,其中每台机器有$O(n^ε)$本地内存的一些$0 < ε< 1$高效地计算。AMPC是利用分布式哈希表的大规模并行计算(MPC)的一种实用扩展。一般来说,MPC是MapReduce、Hadoop、Spark和Flume的抽象模型,这些模型目前在整个行业中广泛使用,近年来在理论界得到了广泛的研究。最后但并非最不重要的是,我们表明,我们的结果扩展到多个问题的树,包括但不限于最大和最大匹配,最大和最大独立集,树同构测试,等等。
2021-11-02 cs.DC cs.DS
Massively-Parallel Heat Map Sorting and Applications To Explainable Clustering
Sharif University of Technology(谢里夫理工大学)
本文提出了热图排序问题以在保持簇连通性的前提下重排与合并点及维度,证明了其NP难性,并给出了大规模并行计算模型下的常数轮次固定参数算法及NP难特例的近似算法,实证表明其优于k-means和DBSCAN。
2023-09-14 cs.DC cs.DS cs.LG
Parallel Graph Algorithms in Constant Adaptive Rounds: Theory meets Practice
我们研究基本的图形问题,如图的连通性,最小生成森林(MSF),和近似最大(重量)匹配在分布式设置。特别是,我们专注于自适应大规模并行计算(AMPC)模型,这是一个理论模型,捕获MapReduce的计算与分布式哈希表增强。我们展示了第一个AMPC算法的所有研究的问题,运行在一个恒定的轮数,并只使用$O(n^ε)$空间每台机器,其中$0 < ε< 1$。我们的研究结果改进了AMPC模型中的先前结果,以及MPC模型中最知名的结果,MPC模型是支撑许多流行的分布式计算框架(如MapReduce,Hadoop,Beam,Pregel和GitHub)的理论模型。最后,我们提供了一个经验比较的算法在MPC和AMPC模型中的容错分布式计算环境。我们经验评估我们的算法上的一组大型现实世界的图形,并表明,我们的AMPC算法可以实现优化MPC基线的运行时间和轮的复杂性的改善。
2020-09-24 cs.DC cs.DS
Parallel Index-Based Structural Graph Clustering and Its Approximation
SCAN(Structural Clustering Algorithm for Networks)是一种研究得很好、应用广泛的图聚类算法。然而,对于大型图,顺序SCAN变体非常慢,并且并行SCAN变体不能在具有不同SCAN参数设置的查询之间有效地共享工作。由于SCAN的用户经常探索许多参数设置来找到好的聚类,因此值得预先计算一个索引来加速查询。本文在最近提出的一种顺序算法GS*-Index的基础上,提出了一种实用的、可证明有效的基于索引的并行SCAN算法。我们的并行算法通过使用整数排序改进了顺序算法的渐近工作。它也是高度并行的,实现了索引构建和聚类查询的对数跨度(并行时间)。此外,我们应用局部敏感哈希(LSH)设计一种新的近似SCAN算法,并证明其聚类行为的保证。我们提出了一个实验评估我们的算法在大型现实世界的图形。在具有双向超线程的48核机器上,我们的并行索引构造比GS*-Index构造实现了50- 151 $\times$的加速。事实上,即使在单线程上,我们的索引构造算法也比GS*-Index快。我们的并行索引查询实现实现了5- 32 $\times$加速GS*-索引查询在一系列的SCAN参数值,我们的实现总是比ppSCAN,一个国家的最先进的并行SCAN算法。此外,我们的实验表明,应用LSH的结果在更快的索引建设,同时保持良好的聚类质量。
2021-03-30 cs.DB cs.DC cs.DS