Uniting Control and Data Parallelism: Towards Scalable Memory-Driven Dynamic Graph Processing
控制并行性和数据并行主要作为单独的功能进行推理和优化。正因为如此，不规则、细粒度和动态的工作负载（如动态图形处理）变得非常难以扩展。本文提出了一种计算机体系结构的实验研究方法，该方法综合了并行计算的现有技术以及新的创新。我们建立的背景和动机的研究工作，并提供了一个详细的描述所提出的计算系统，是高度并行的非冯诺依曼，内存为中心和内存驱动。我们还提出了一个消息驱动（或甚至驱动）的编程模型，称为“扩散计算”，并提供洞察其属性使用SSSP和三角计数问题为例。
2023-03-07 cs.DC
Network calculus for parallel processing
在这篇文章中，我们提出了使用“网络演算”的并行处理系统，特别是MapReduce的初步结果。
2015-01-31 cs.DC cs.PF
Integrative Dynamic Reconfiguration in a Parallel Stream Processing Engine
负载均衡、操作实例配置和水平扩展是并行流处理引擎中的关键问题，分别可以实现低数据处理延迟、优化集群利用率和最小化通信开销。在以前的工作中，这些问题通常是单独和独立处理的。我们认为，这些问题是紧密耦合的意义上说，他们都需要在运行时确定工作负载的分配和迁移计算状态。单独优化它们将导致次优解决方案。因此，在本文中，我们研究如何将这三个问题建模为一个集成的优化问题。特别是，我们首先考虑工作量分配的通信成本的影响不大，并建模的负载平衡问题作为一个混合线性规划。之后，我们提出了一个扩展的解决方案称为ALBIC，它支持一般的作业。我们实现的Apache风暴，一个开源的并行流处理引擎的顶部所提出的技术。在合成和真实数据集上的广泛实验结果表明，我们的技术明显优于现有的方法。
2016-02-11 cs.DC
CIM/E Oriented Graph Database Model Architecture and Parallel Network Topology Processing
CIM/E是一种方便、高效的电力模型交换标准，可在不同的能源管理系统供应商之间进行交换。随着数据规模的快速增长和系统复杂性的不断提高，传统的关系数据库已经不再是存储和处理数据的最佳选择。相比之下，图形数据库和图形计算显示出其处理电力系统数据和执行实时数据分析和计算的潜在优势。由于电网数据的基本结构相似性，图的概念自然适合电网数据。图数据库中的顶点和边既可以作为并行存储单元，也可以作为计算单元。本文将CIM/E数据建模为图形数据库。基于该模型，应用图计算方法，建立并实现了并行网络拓扑处理算法。在IEEE修正的测试用例和四川电网的实际算例中验证了该方法的有效性和并行网络拓扑处理的可行性。该方法大大提高了处理效率。
2018-03-15 cs.DC
Comparison of OpenMP & OpenCL Parallel Processing Technologies
本文提出了一个比较的基础上并行实现的算法，从计算机应用的各个领域的OpenMP和OpenCL。我们研究的重点是比较OpenMP和OpenCL的基准性能。我们观察到OpenCL编程模型是在不同处理核心上映射线程的一个很好的选择。平衡所有可用的核心并在所有计算单元之间分配足够的工作量可以提高性能。在我们的模拟中，我们使用Fedora操作系统;该系统具有线程数为24的Intel Xeon双核处理器，并与NVIDIA Quadro FX 3800耦合作为图形处理单元。
2012-11-09 cs.DC
An Empirical Study and Analysis of the Dynamic Load Balancing Techniques Used in Parallel Computing Systems
并行计算机系统是一组处理单元的集合，这些处理单元通过通信和协作来有效地解决大型计算问题。为了实现这一目标，首先将大型计算问题划分为具有不同工作负载的多个任务，然后分配给不同的处理单元进行计算。工作负载的分配称为负载均衡。在各个处理元素之间适当地分配工作负载是非常重要的，因为不成比例的工作负载可能会消除并行化作业的性能优势。因此，并行系统上的负载均衡是一个关键的和具有挑战性的活动。负载均衡算法可以大致分为静态和动态两类。静态负载均衡算法在编译时将任务分配给处理元素，而动态算法在运行时间将任务绑定到处理元素。本文简要介绍了并行系统中常用的几种动态负载均衡技术，并给出了这些算法的性能比较分析结果。
2011-09-08 cs.DC
STRETCH: Virtual Shared-Nothing Parallelism for Scalable and Elastic Stream Processing
流处理应用程序通过数据分析任务的有向无环图从原始数据中提取价值。无共享（SN）并行是扩展流处理应用的事实标准。给定一个应用程序，SN并行实例化每个分析任务的几个副本，使每个实例负责整个分析的专用部分，并依赖于专用队列在连接的实例之间交换数据。一方面，SN并行性可以向上和向外扩展应用程序的执行，因为线程可以在进程/节点内和跨进程/节点运行任务实例。另一方面，它缺乏共享可能会导致不必要的开销，并阻碍扩展时，线程操作的数据，可以共同访问共享内存。这种权衡促使我们研究一种流处理应用程序利用共享内存并增强扩展（在横向扩展之前）的方法，同时坚持流处理应用程序广泛采用的基于SN的API。我们介绍了STRETCH，一个框架，最大限度地扩大规模，并提供即时的弹性重新配置（无状态转移）的流处理应用程序。我们提出了虚拟无共享（VSN）的并行性和弹性的概念，并提供了正式的定义和正确性证明的语义分析任务支持的STRETCH，显示他们扩展了常见的流处理引擎。我们还提供了一个完全实现的原型，并表明STRETCH的性能超过了最先进的框架，如Apache Flink，并提供了前所未有的超快重新配置，即使在配置数十个新任务实例时也不到40毫秒。
2022-04-29 cs.DC
A Comprehensive Survey on Parallelization and Elasticity in Stream Processing
流处理（SP）已经发展为处理例如在物联网领域中产生的大量流数据并从中获得价值的领先范例。SP系统是一个中间件，它在数据源（如传感器）和消费应用程序之间部署操作员网络。SP系统通常面临密集和高度动态的数据流。灵活性和弹性使SP系统能够以持续高的服务质量处理这些流。目前的研究景观提供了广泛的方法，并行化和弹性的SP。每种方法都有特定的假设，并侧重于特定方面的问题。然而，文献缺乏一个全面的概述和分类的最先进的SP并行化和弹性，这是必要的，以巩固国家的研究，并在此基础上规划未来的研究方向。因此，在这次调查中，我们研究了文献，并开发了一个分类的SP系统的并行化和弹性的当前方法。
2019-01-29 cs.DC
Improved Parallel Rabin-Karp Algorithm Using Compute Unified Device Architecture
字符串匹配算法是计算机科学中最广泛使用的算法之一。传统的字符串匹配算法的效率大大提高了底层的字符串匹配算法的效率。近年来，图形处理器作为一种高度并行的处理器应运而生.在科学计算能力方面，它们的表现优于中央处理器。通过将图形处理单元的最新进展与字符串匹配算法相结合，将允许加速字符串匹配的过程。本文提出了一种基于图形处理器的Rabin-Karp算法的改进并行版本。在此基础上，比较了CPU和并行GPU实现的结果，以评估不同线程数、核数、文件大小以及模式大小的效果。
2018-10-02 cs.DC
SPECTRE: Supporting Consumption Policies in Window-Based Parallel Complex Event Processing
分布式复杂事件处理（DCEP）是一种从传感器读数等基本事件推断周围世界复杂情况发生的范式。在这样做时，DCEP操作符检测其传入事件流上的事件模式。为了产生高运算符吞吐量，数据并行化框架将运算符的传入事件流划分为重叠窗口，这些重叠窗口由多个运算符实例并行处理。在这样做时，基本假设是不同的窗口可以彼此独立地处理。然而，消费策略强制事件只能是一个模式实例的一部分;然后，它们被消费，即，从进一步的模式检测中移除。这意味着在一个窗口中检测到的模式实例的组成事件也被排除在所有其他窗口之外，这破坏了不同窗口之间的数据并行。在本文中，我们通过推测来解决这个问题：基于事件在窗口中消费的可能性，随后的窗口可能会推测性地抑制该事件。我们提出了SPECTRE框架的投机处理多个相关的窗口并行。我们的评估表明，一个线性的可扩展性与CPU内核的数量的SPECTRE。
2017-09-06 cs.DC
Collaborative Cluster Configuration for Distributed Data-Parallel Processing: A Research Overview
许多组织经常使用分布式数据系统（并行处理和商品资源集群）来分析大型数据集。然而，用户需要为他们的数据处理作业配置足够的资源。这需要深入了解预期的作业运行时和伸缩行为、资源特征、输入数据分布以及其他因素。由于无法准确估计性能，用户经常为其作业过度调配资源，导致资源利用率低和成本高。在本文中，我们提出了主要的构建块对数据处理集群配置的优化基于运行时数据和性能模型的协作方法。我们相信，运行时数据可以被共享，并用于跨不同执行上下文的性能模型，大大减少了对单个处理作业或专用作业分析的依赖。为此，我们描述了如何处理作业和集群基础设施的相似性，可以结合合适的数据点，从本地和全球的作业执行到准确的性能模型。此外，我们概述了通过更多的上下文感知和可重用的模型进行性能预测的方法。最后，我们展示了如何将以前执行的度量与运行时监控相结合，以有效地动态重新配置模型和集群。
2022-06-01 cs.DC
RLT2-based Parallel Algorithms for Solving Large Quadratic Assignment Problems on Graphics Processing Unit Clusters
本文讨论了求解二次分配问题（QAP）的强下界和精确解的高效并行算法。我们的并行架构由多核处理器和支持计算统一设备架构（CUDA）的NVIDIA图形处理单元（GPU）组成，这些处理单元位于伊利诺伊大学厄巴纳-香槟分校的Blue Waters超级计算设施上。我们提出了新的并行化的拉格朗日双上升算法的GPU上，这是用于解决QAP配方的基础上二级重构线性化技术（RLT 2）。在这个过程中的线性分配子问题（LAPs）使用我们的加速匈牙利算法[日期，Ketan，Rakesh Nagi. 2016.线性指派问题的GPU加速匈牙利算法。并行计算57 52-72]。我们嵌入这个加速双上升算法在一个并行的分支定界方案，并进行广泛的计算实验上的单个和多个GPU，使用问题的实例多达42设施从QAPLIB。实验表明，我们的基于GPU的方法是可扩展的，它可以用来获得严格的下限上的大型QAP实例。我们的加速分支定界方案能够轻松地从QAPLIB解决Nugent和Taillard实例（多达30个设施），使用适度数量的GPU。
2017-10-10 cs.DC
GPGPU Based Parallelized Client-Server Framework for Providing High Performance Computation Support
并行数据处理已经成为处理涉及巨大数据集的应用程序所不可或缺的。这使得强调众核计算的图形处理单元（GPU）成为焦点。随着通用图形处理器（GPGPU）的出现，与图形操作不直接相关的应用程序也可以利用图形处理器的计算能力。因此，如果给定GPGPU的计算能力可以被任务优化并且可用，则将是有益的。本文描述了一个客户-服务器的【形】框架，用户可以选择一个处理任务，并提交大型数据集处理到远程GPGPU和接收结果回来，使用定义良好的接口。该框架在任务的数量和类型方面提供了可扩展性，客户端可以选择或提交这些任务以在远程GPGPU服务器机器上进行处理，并且对底层硬件和操作系统具有完全的透明性。GPGPU上的用户提交任务的并行化已通过NVIDIA计算统一设备架构（CUDA）实现。
2015-05-21 cs.DC
An Efficient Dispatcher for Large Scale GraphProcessing on OpenCL-based FPGAs
高并行框架已经被证明非常适合于图形处理。FPGA是一种流水线并行器件，在FPGA中的优化实现有很多工作要做.利用FPGA的并行性能的关键是对图形数据进行流水线处理，并利用片上存储器实现必要的局部性处理。本文提出了一个模块化的图处理框架，该框架关注于整个执行过程，具有极大的并行度。该框架有三个贡献。首先，在执行过程中可以调整顶点中心和边中心处理框架的组合，以适应自顶向下算法和自底向上算法。其次，基于流水线并行和有限片上存储器加速器，提出了一种新的边块，即由边顶点组成的块，实现了利用片上存储器对边进行分组和流处理的优化方法，实现了流模式对流水线的并行处理。第三，在分析自然图的块结构和图处理过程中的执行特点的基础上，设计了一种新的转换调度器来实现转换处理模块，以匹配相应的交换点。
2018-06-03 cs.DC
Parallel processing area extraction and data transfer number reduction for automatic GPU offloading of IoT applications
对于开放物联网，我们提出了Tacit Computing技术，以发现具有用户所需数据的设备并动态使用它们，并将自动GPU卸载技术作为Tacit Computing的基本技术。然而，它可以改善有限的应用程序，因为它只优化可并行循环语句提取。因此，在本文中，为了提高更多的应用程序的性能自动，我们提出了一种改进的方法，减少CPU和GPU之间的数据传输。我们通过将其应用于Darknet来评估我们提出的卸载方法，发现它可以以仅使用CPU的3倍速度处理它。
2018-11-09 cs.DC
VEBO: A Vertex- and Edge-Balanced Ordering Heuristic to Load Balance Parallel Graph Processing
图分区驱动分布式、基于磁盘和NUMA感知系统中的图处理。一个常用的分区目标是平衡每个分区的边数，同时最小化边或顶点切割。虽然这种类型的分区是计算昂贵的，我们观察到，这种拓扑驱动的分区，但在计算负载不平衡的结果。我们提出了顶点和边平衡排序（VEBO）：平衡边的数量和这些边的唯一目的地的数量。VEBO最优地平衡具有幂律度分布的图的边和顶点。在三个共享内存图形处理系统（Ligra，Polymer和GraphGrind）上的实验评估表明，VEBO实现了出色的负载平衡，并将性能提高了1.09倍于Ligra，1.41倍于Polymer和1.65倍于GraphGrind，与各自的分区算法相比，平均跨越8个算法和7个图形。
2018-06-18 cs.DC
Parallel Astronomical Data Processing with Python: Recipes for multicore machines
高性能计算已经应用于天体物理研究的各个领域。但大多数都是在大规模并行系统（超级计算机）或图形处理单元集群上实现的。随着近十年来多核处理器的出现，许多串行软件代码已经以并行模式重新实现，以充分利用这些处理器的潜力。在本文中，我们提出了多核机器的天文数据处理的并行处理配方。目标受众是使用Python作为首选脚本语言的天文学家，他们可能使用PyRAF/IRAF进行数据处理。在三种不同类型的多核处理器上对不同复杂度的三个问题进行了基准测试，以证明并行数据处理任务在执行时间方面的好处。Python中的原生多处理模块使得实现并行代码成为一项相对简单的任务。我们还比较了三种多处理方法-池/映射，进程/队列和并行Python。我们的测试代码是免费提供的，可以从我们的网站下载。
2013-06-03 astro-ph.IM cs.DC
Tolerating Correlated Failures in Massively Parallel Stream Processing Engines
流处理引擎的容错技术可以分为被动和主动方法。典型的被动方法周期性地检查处理任务的运行时状态，并且可以通过使用其最新检查点恢复其运行时状态来恢复失败的任务。另一方面，主动方法通常使用备份节点来运行复制的任务。在失败时，活动副本可以以最小的延迟接管失败任务的处理。然而，这两种方法在大规模并行流处理引擎（MPSPE）中都有各自的不足之处。被动方法会导致较长的恢复延迟，特别是当多个相关节点同时发生故障时，而主动方法需要额外的复制资源。在本文中，我们提出了一种新的容错框架，这是被动和部分主动（PPA）。在PPA方案中，被动方法应用于所有任务，而只有选定的一组任务将被主动复制。活动复制任务的数量取决于可用资源。如果没有活动副本的任务失败，则在恢复过程完成之前将生成临时输出。我们还提出了有效和高效的算法来优化部分活动的复制计划，以最大限度地提高暂定输出的质量。我们在开源MPSPE Storm上实现了PPA，并使用真实和合成数据集进行了广泛的实验，以验证我们方法的有效性。
2016-02-04 cs.DC
High Performance Dataframes from Parallel Processing Patterns
本文提出基于并行处理模式的分布式数据框框架，并以 Cylon 运行时实现验证其可扩展高性能、API 灵活性与跨硬件可扩展性。
2022-09-13 cs.DC
A Unifying Framework for Parallel and Distributed Processing in R using Futures
一个未来是设计用于代码的并发和异步评估的编程构造，使其对于并行处理特别有用。future包实现了Future API，用于在R中使用future进行编程。这个最小的API提供了足够的结构来实现并行版本的完善的高级映射缩减API。未来的生态系统支持异常处理、输出和条件中继、并行随机数生成以及全局自动识别，从而降低了代码并行化的阈值。Future API将并行前端与并行后端连接起来，遵循的理念是最终用户选择并行后端，而开发人员则专注于并行化的内容。存在各种各样的后端，并且自动支持满足规范的第三方贡献，这确保相同的代码在所有后端上都能工作。未来的框架解决了R中其他并行框架没有解决的几个问题。
2021-11-11 cs.DC stat.CO
A GPU Based Memory Optimized Parallel Method For FFT Implementation
快速傅立叶变换（FFT）在数字信号处理、数字图像处理等领域有着非常重要的作用，但在实际应用中，FFT成为影响处理效率的一个因素，特别是在遥感领域，需要对大量的数据进行FFT处理。因此缩短FFT计算时间显得尤为重要。GPU（图形处理单元）已应用于许多常见领域，与CPU（中央处理单元）平台相比，其加速效果非常明显。本文提出了一种新的在GPU上并行执行FFT的方法。基于GPU存储系统和硬件处理流水线，改进了数据存储方式。根据数据的大小对数据进行合理的划分，充分利用GPU的特点。提出了基于共享内存和纹理内存的内存优化方法，减少了全局内存访问次数，提高了效率。结果表明，基于GPU的内存优化FFT实现不仅比CPU平台上的FFTW库提高了100%以上，而且比GPU平台上的CUFFT库提高了30%以上。
2017-07-23 cs.DC
Agent Based Processing of Global Evaluation Function
网络环境中的负载均衡是一项单调的工作。此外，如果要分配的作业是一个约束满足一个，负载的分配需要核心智能。本文提出了通过随机初始化代理的全局评价函数来并行处理约束满足问题。为了保证全局评估和并行处理的最大效益，本文讨论了分布式调用下机器中代理数量的潜在问题。所提出的系统相比，典型的解决方案，显示了一个独特的结果，支持贵族的并行实施的全球评估功能与一定数量的代理在每个被调用的机器。
2011-03-29 cs.DC
PT-Scotch: A tool for efficient parallel graph ordering
大型图的并行排序是一个困难的问题，因为一方面最小度算法不能很好地并行化，另一方面用嵌套剖分算法获得高质量的排序需要高效的图二分算法，其最佳顺序实现也很难并行化。本文提出了一套算法，在PT-苏格兰软件包中实现，它允许一个大型图形并行排序，产生的排序的质量只略差于一个国家的最先进的顺序算法。我们的实现使用经典的嵌套解剖方法，但依赖于几个新的功能来解决并行图二分问题。由于这些改进，PT-Scotch在大量处理器上始终比ParMeTiS产生更好的订单。
2009-07-08 cs.DC
Parallel and Distributed Data Series Processing on Modern and Emerging Hardware
本文总结了数据序列处理的最新进展，重点介绍了利用现代计算平台算力的并行与分布式数据序列索引，内容涵盖作者在MEDES'23会议上的教程。
2023-10-21 cs.DB cs.DC
Parallel Local Graph Clustering
图聚类在计算中有许多重要的应用，但由于图的大小不断增加，即使是传统的快速聚类方法，如谱划分，对于现实世界的感兴趣的图来说，计算成本也很高。部分出于这一动机，所谓的局部算法图聚类已收到显着的兴趣，由于这样的事实，他们可以找到良好的集群在一个图形中的工作成比例的集群的大小，而不是整个图形。事实证明，这个特性对于使这种图聚类及其许多下游应用程序在实践中高效至关重要。虽然局部聚类算法已经比触及整个图的传统算法更快，但它们是顺序的，并且有机会通过并行化使它们更有效。在本文中，我们展示了如何并行化这些算法中的许多共享内存多核设置，我们分析了这些算法的并行复杂性。我们提出了全面的大规模图形实验表明，我们的并行算法实现了良好的并行加速现代多核机器，从而显着加快了本地图形集群的分析在非常大规模的设置。
2019-06-08 cs.DC
GPGPU Processing in CUDA Architecture
计算的未来是图形处理单元，即GPU。图形卡在图像处理和3D场景加速渲染领域所显示出的潜力，以及这些GPU所拥有的计算能力，它们正在发展成为巨大的并行计算单元。对图形处理器进行编程以执行一般并行任务是相当简单的。但是在理解了图形处理器的各种架构方面之后，它也可以用来执行其他繁重的任务。在本文中，我们将展示CUDA如何充分利用这些GPU的巨大功能。CUDA是NVIDIA的并行计算架构。它通过利用GPU的强大功能，大幅提高了计算性能。本文介绍了CUDA及其体系结构。它将CUDA C/C++与其他并行程序设计语言（如OpenCL和DirectCompute）进行了比较。本文还列出了关于CUDA的常见神话，以及CUDA的未来似乎是多么有希望。
2012-02-20 cs.DC
Minimizing Communication Overhead in Window-Based Parallel Complex Event Processing
分布式复杂事件处理已经成为一种成熟的范式，可以从基本的传感器流中检测感兴趣的情况，在传感器和应用程序之间构建操作符图。为了检测与感兴趣的情况相对应的事件模式，每个操作符根据滑动窗口机制将其传入流上的事件相关联。为了增加运算符的吞吐量，可以将不同的窗口分配给不同的运算符实例，即，相同的操作员复制-并行处理它们。这意味着作为多个重叠窗口的一部分的事件被复制到不同的操作符实例。复制事件的通信开销可以通过将重叠窗口分配给同一操作符实例来减少。然而，这对单个操作符实例施加了更高的处理负载，可能使其过载。在本文中，我们解决了将重叠窗口分配给单个操作符实例时处理负载和通信开销之间的权衡。控制权衡是具有挑战性的，不能用传统的反应方法来解决。为此，我们提出了一个基于模型的批调度控制器的预测。评估表明，我们的方法是能够显着节省带宽，同时保持用户定义的延迟约束在运营商的实例。
2017-05-16 cs.DC
Scalable and Cost-Efficient ML Inference: Parallel Batch Processing with Serverless Functions
Oakland University（奥克兰大学）
针对有限资源环境下批处理的可扩展性与资源管理挑战，本文提出将单体流程分解为并行无服务器函数的方法，经DistilBERT模型与IMDb数据集的情感分析案例验证，该方法可在成本不变的情况下将执行时间减少95%以上，提升大规模机器学习推理的效率与经济性。
2025-01-30 cs.DC cs.LG
PDSP-Bench: A Benchmarking System for Parallel and Distributed Stream Processing
本文提出PDSP-Bench基准测试系统，针对分布式异构环境中的并行流处理性能，支持集成机器学习模型，通过对Apache Flink的测试及成本模型比较，揭示并行性对性能的非线性等趋势。
2025-04-14 cs.DB cs.DC
A Parallel Solver for Graph Laplacians
图的绘制、谱聚类、网络流和图的划分等问题都可以用图的拉普拉斯矩阵来表示。有各种各样的实际方法来解决这些问题。然而，随着问题规模的增加和单核速度的停滞，并行性对于快速解决此类问题至关重要。本文提出了一种非光滑聚合多重网格方法来求解分布存储环境下的图拉普拉斯算子。我们引入了新的并行聚合和低度消除算法，专门针对不规则度图。这些算法表示在稀疏矩阵向量产品使用广义和和产品操作。这个公式适用于使用任意分布的线性代数，并允许我们在2D稀疏矩阵分布上操作，这是并行可扩展性所必需的。我们的求解器在算法比较中优于当前最先进的自然并行扩展。我们展示了可扩展性，576个进程和图形高达17亿边缘。
2018-07-11 cs.DC
Parallel Exploration of Directed Acyclic Graphs using the Actor Model
在本文中，我们描述了一个通用的计划，从一个或多个“根”的图形的有向无环图的并行探索。我们的方案是为具有以下性质的图而设计的：（i）发现任何节点处的邻居都需要非平凡的计算量，这不是简单的查找;（ii）一旦处理了一个节点，就发现了它的所有邻居;（iii）每个节点可以通过多条路径发现，但应该只处理一次。几个计算问题可以简化为遍历这样的图，其目标是探索图并构建遍历路线图。作为一个概念的证明，我们的计划在实现加速由于并行的有效性，我们实现了该计划的并行探索的装配景观使用EASAL方法。
2022-12-10 cs.DC
A Comparison of Parallel Graph Processing Implementations
大型网络分析问题的数量迅速增长，导致了许多并行和分布式图处理系统的出现--2014年的一项调查确定了80多个。从那时起，景观已经演变;一些包已经变得不活跃，而更多的正在开发中。对于大多数开发人员来说，确定给定问题的最佳方法是不可行的。为了使这种系统的能力的简单，严格和可重复的比较，我们提出了一种方法和相关的软件，用于分析并行，开源图形库的性能和可扩展性。我们在五个图形处理包上展示了我们的方法：GraphMat，Graph 500，图形算法平台基准套件，GraphBIG和PowerGraph，使用合成和真实世界的数据集。我们检查以前被忽视的方面的并行图形处理性能，如执行阶段和能源使用的三种算法：广度优先搜索，单源最短路径，PageRank和比较我们的结果Graphalytics。
2017-05-17 cs.DC cs.PF
Parallel Seismic Data Processing Performance with Cloud-based Storage
针对云端地震波形数据，本文提出本地驱动的混合处理框架，证明通过云端预处理减少传输可消除并行下载瓶颈，并在 MsPASS 与 AWS Lambda 上达到接近本地 HPC 的吞吐性能。
2025-09-02 cs.DC physics.geo-ph
PRIMEBALL: a Parallel Processing Framework Benchmark for Big Data Applications in the Cloud
在本文中，我们绘制了一个新的基准的规格比较并行处理框架的大数据应用程序托管在云中。我们的目标是填补现有云数据处理基准中的几个空白，这些基准缺乏其流程的真实环境，因此在尝试评估真实应用程序的性能时失去了相关性。因此，我们提出了一个虚拟的新闻网站托管在云中，这是由框架进行管理分析，连同几个客观的用例场景和系统性能评估的措施。我们的基准测试的主要优势是支持云功能和大数据属性的并行化功能。
2013-12-21 cs.DB cs.DC
On-the-fly Vertex Reuse for Massively-Parallel Software Geometry Processing
由于计算模式执行的高度灵活性，计算模式渲染对于非标准渲染应用变得越来越有吸引力。这些新设计的流水线通常包括流顶点和几何处理阶段。在典型的三角形网格中，相同的变换顶点在渲染期间平均需要六次。为了避免冗余计算，传统上建议使用后变换缓存来重用顶点处理结果。然而，传统的缓存既不能随着硬件变得更加并行而很好地扩展，也不能在软件设计中有效地实现。我们研究替代策略重用顶点着色结果的大规模并行软件几何处理的飞行。在数据输入流上形成静态和动态映射，我们分析了基于排序、散列和高效的线程组内通信识别潜在本地重用的有效性。总之，我们提出了四个顶点重用策略，适合现代并行架构。我们的模拟表明，我们的基于批处理的策略显着优于并行缓存的重用。在实际的GPU硬件上，我们的评估表明，我们的策略不仅可以很好地重用处理结果，而且与在各种实际应用中天真地忽略重用相比，还可以通过$2-3\times$提高性能。
2018-05-22 cs.DC cs.GR
Divide and Conquer: an Accurate Machine Learning Algorithm to Process Split Videos on a Parallel Processing Infrastructure
Universidad Autónoma de Occidente（西方自治大学）
城市中的交通摄像机数量每天都在迅速增加，产生了大量的视频数据。并行处理基础设施（如Hadoop）和编程模型（如MapReduce）正在被用来快速处理大量数据。使用Hadoop MapReduce进行视频处理的常见方法是仅在一个节点上处理整个视频，然而，为了避免并行化问题，例如负载不平衡，我们建议通过将视频分成相等的部分并在不同的节点上处理每个结果块来处理视频。我们使用了一些机器学习技术来检测和跟踪车辆。然而，视频分割可能产生不准确的结果。为了解决这个问题，我们提出了一个启发式算法，以避免处理车辆在一个以上的块。
2019-12-20 cs.CV cs.DC
Introducing the Unitychain Structure: A novel blockchain-like structure that enables greater parallel processing, security, and performance for networks that leverage distributed key generation and classical consensus protocols
Unitychain是一种新型的类似区块链的结构，它大大提高了交易的可扩展性和安全性，同时保持了持续的网络性能，即使参与节点需要执行新的分布式密钥生成过程以实现安全目的。此外，Unitychain结构通过将不同数据库和计算范围的不同网络节点配置分配到多个交叉的区块链链中，从而实现更大的并行处理，从而创建多螺旋结构，我们称之为Unitychain。因此，这使得网络能够进一步将节点的角色分为任意但确定性的网络责任，以最大限度地提高全局计算潜力。
2021-01-21 cs.CR cs.DC
PaSh: Light-touch Data-Parallel Shell Processing
本文介绍了并行化POSIX shell脚本的系统{ \scshape PaSh}。给定一个脚本，{ \scshape PaSh}将其转换为一个并行图，执行一系列保留语义的程序转换以暴露并行性，然后将该并行图转换回一个脚本--该脚本添加POSIX结构以显式地指导并行性，并与{ \scshape PaSh}耦合--提供了{ \scshape Unix}感知的运行时原语，以解决与性能和正确性相关的问题。轻量级注释语言允许命令开发人员表达关于其命令的关键并行性属性。对POSIX和GNU命令（两个大型且常用的组）的并行性研究指导了{ \scshape PaSh}使用的注释语言和优化的聚合器库。最后，{ \scshape PaSh}的{ \scshape PaSh}对44个未修改的{ \scshape Unix}脚本的广泛评估显示出显著的加速（$0.89$ -- $61.1\times$，avg：$6.7\times$），这源于其程序转换和运行时原语的组合。
2021-04-03 cs.DC cs.PL
Dynamic Nested Clustering for Parallel PHY-Layer Processing in Cloud-RANs
云无线接入网（C-RAN）以集中处理和基于云的基础设施为特征，是在未来无线蜂窝网络中实现前所未有的系统容量的有前途的解决方案。巨大的容量增益主要来自云服务器上的集中和协调的信号处理。然而，大规模C-RAN中的全面协调需要处理非常大的信道矩阵，导致高计算复杂性和信道估计开销。为了解决这一挑战，我们利用大型C-RAN信道矩阵的近稀疏性，并推导出一个统一的理论框架，集群和并行处理。基于该框架，提出了一种动态嵌套聚类（DNC）算法，该算法不仅大大提高了系统在基带处理和信道估计复杂度方面的可扩展性，而且适用于不同数据中心架构的各种并行处理策略。与所提出的算法，我们表明，最佳线性检测器的计算时间大大减少从$O(N^3)$不高于$O(N^{\frac{42}{23}})$，其中$N$是在C-RAN的RRH的数量。
2014-12-27 cs.DC cs.IT math.IT
ASAP: Asynchronous Approximate Data-Parallel Computation
NEC Labs（NEC实验室）
新兴的工作负载（如图形处理和机器学习）是近似的，因为涉及的数据规模和底层算法的随机性。这些算法通常使用批量同步处理（BSP）或其他同步处理范例（如map-reduce）分布在多台机器上。然而，数据并行处理原语，如重复的屏障和减少操作引入高同步开销。因此，许多现有的数据处理平台使用的并行性和陈旧性，以提高数据并行作业的性能。通常，这些系统只是将集群中工作节点之间的同步通信更改为异步通信。这提高了数据处理的吞吐量，但导致最终输出的准确性差，因为不同的工作者可能以不同的速度前进，并处理不一致的中间输出。在本文中，我们提出了ASAP，一个模型，提供异步和近似的处理语义的数据并行计算。ASAP使用NOTIFY-ACK语义提供细粒度的工作进程同步，允许独立的工作进程异步运行。ASAP还提供了随机约简，它提供了近似但保证收敛到与聚合所有约简相同的结果。在我们的研究结果中，我们表明ASAP可以降低同步成本，并为分布式机器学习应用提供2- 10倍的收敛加速和高达10倍的网络成本节省，并提供强大的收敛保证。
2016-12-27 cs.DC cs.LG
Efficient On-Chip Communication for Parallel Graph-Analytics on Spatial Architectures
近年来，大规模图形处理引起了人们的极大关注。大多数现代数据中心的工作负载都可以以图形处理的形式表示，例如MapReduce等，因此，已经提出了许多针对图形处理的特定领域加速器的设计。空间架构在图形处理的执行中一直很有前途，其中图形被划分为多个节点，每个节点并行工作。我们进行实验来分析在空间架构上的图形处理中的数据的片上移动。根据观察，我们确定了一个数据移动的瓶颈，在执行这样的高度并行处理加速器。为了缓解瓶颈，我们提出了一种新的幂律感知的图划分和数据映射方案，以减少通信延迟，通过最小化跳数的可扩展的片上网络。流行的图算法的实验结果表明，我们的实现使执行速度提高2- 5倍，2.7- 4倍的能源效率，通过减少数据移动时间相比，基线实现。
2022-09-03 cs.AR cs.DC
GLoP: Enabling Massively Parallel Incident Response Through GPU Log Processing
结合服务和应用程序的大型工业系统已成为网络犯罪分子的目标，并从安全，监控和审计的角度提出了挑战。安全日志分析是发现异常、检测入侵和启用事件响应的关键步骤。链接速度、威胁和用户的不断增加产生了大量的日志数据，并且越来越难以在中央处理器（CPU）上进行分析。本文提出了一种大规模并行图形处理单元（GPU）LOg处理（GLoP）库，也可用于深度数据包检测（DPI），使用前缀匹配技术，收获现成技术的全部功能。GLoP使用不同的GPU内存实现了两种不同的算法，并与CPU对应的实现进行了比较。该库可用于具有单个或多个GPU的处理节点以及GPU云农场。结果显示，吞吐量为20 Gbps，并表明现代GPU可以用于提高大规模日志处理场景的运行速度，从而节省入侵发生前后的宝贵时间。
2017-04-07 cs.CR cs.DC
Learning from the Past: Adaptive Parallelism Tuning for Stream Processing Systems
本文提出 StreamTune，通过预训练与微调框架利用历史执行数据和 DAG 结构进行流处理系统自适应并行度调优，在 Apache Flink 和 Timely Dataflow 上显著减少重配置次数与并行度，同时保持处理性能。
2025-07-07 cs.DB cs.DC
Leveraging Parallel Data Processing Frameworks with Verified Lifting
近年来，许多并行数据框架被提出，它们允许顺序程序访问并行处理。为了利用这些框架的优势，现有代码必须经常重写为每个框架支持的特定于域的语言。这种重写--单调乏味且容易出错--还要求开发人员在给定特定工作负载的情况下选择最优化性能的框架。本文介绍了Casper，一种新型的编译器，自动重定向顺序Java代码在Hadoop上执行，Hadoop是一个并行数据处理框架，实现了MapReduce范式。给定一个顺序代码片段，Casper使用验证提升来推断用我们的程序规约语言表达的高级摘要，然后编译该摘要以在Hadoop上执行。我们演示了Casper自动将Java基准转换为Hadoop。翻译结果的执行速度平均比顺序实现快3.3倍，并且可以更好地扩展到更大的数据集。
2016-11-23 cs.DB cs.DC cs.PL
On the Evolution of Time Horizons in Parallel and Grid Simulations
分析了并行离散事件模拟中局部模拟时间的演化规律。引入的新成分是：i）我们将LST与节点相关联，而不与处理元件相关联，以及2）我们提出通过在处理元件之间的边界上冻结LST一段时间的处理，然后通过处理元件之间的宽流存储器交换释放它们，来最小化不同处理元件之间的信息交换。我们的方法的亮点是：i）它保持了最高水平的处理器时间利用率在算法的演变，ii）它需要一个合理的时间存储器交换排除处理器之间的消息交换的耗时和复杂的过程，和iii）处理器之间的通信是解耦的处理器上执行的计算。我们的算法的有效性随着节点（或线程）的数量而增长。该算法适用于任何具有短程相互作用的并行模拟，包括偏微分方程的并行或网格模拟。
2004-01-14 cond-mat.stat-mech cs.DC
Importing Relationships into a Running Graph Database Using Parallel Processing
使用并发运行的多个线程将关系映射到运行的图形数据库中是一项困难的任务，因为多个线程不能同时将信息写入同一节点。在这里，我们提出了一个算法，其中关系被排序到bin中，然后导入，这样就不会有两个线程并发访问同一个节点。当此算法作为一个过程在Neo4j图数据库上运行时，当使用32个线程时，它将导入关系的时间减少了69%。
2020-05-05 cs.DC cs.PF
Matrix Distributed Processing: A set of C++ Tools for implementing generic lattice computations on parallel systems
我们提出了一套编程工具（类和功能写在C++和消息传递接口的基础上）的通用并行（和非并行）晶格模拟的快速发展。它们统称为MDP 1.2。这些编程工具包括用于矩阵、随机数生成器、分布式网格（具有任意拓扑结构）、字段和并行迭代的类和算法。使用它们不需要以前的MPI知识。介绍了量子色动力学在电磁学、电子学、凝聚态和格点量子色动力学中的应用。
2001-08-14 cs.DC cs.MS hep-lat
$\varepsilon$-differential agreement: A Parallel Data Sorting Mechanism for Distributed Information Processing System
在分布式信息处理系统（DIPS）中，输入信息的顺序起着非常重要的作用。提出了一种新的支持并行数据排序的ε-差分协议（EDA）数据排序机制。EDA采用协同共识机制，这不同于传统的共识机制，使用竞争机制，如PoS，PoW等。在系统中，采用EDA机制，所有参与者一起工作，计算输入信息的顺序，通过使用统计和概率的原则，对参与者的比例。初步结果表明，可变的容错率和共识延迟的系统，具有不同的配置时，达成共识，因此，它表明，它是可能的，在系统中使用EDA和定制这些参数的基础上，不同的要求。由于EDA的独特机制，它不仅适用于旋转中心的决策簇，也适用于多中心决策簇的DIPS。
2019-03-01 cs.DB cs.DC
Optimization of Energy Consumption Forecasting in Puno using Parallel Computing and ARIMA Models: An Innovative Approach to Big Data Processing
Faculty of Statistics；Informatics Engineering National University of the Altiplano Puno, Perú
本研究利用并行计算与ARIMA模型优化Puno地区能源消费预测，提升计算效率和数据处理能力，为实时预测分析和能源管理提供可靠解决方案。
2024-07-27 cs.DC stat.CO stat.ML
PASGAL: Parallel And Scalable Graph Algorithm Library
本文提出并行图算法库PASGAL，通过垂直粒度控制技术隐藏同步开销并重新设计算法与数据结构，有效解决了大直径图上的并行处理瓶颈，在BFS等算法上显著优于现有并行实现。
2024-04-26 cs.DC cs.DS
Stream Processing With Dependency-Guided Synchronization (Extended Version)
具有低延迟要求的实时数据处理应用已经导致流处理系统的日益普及。虽然此类系统提供了可用于自动实现数据并行的方便API，但它们对需要在并行节点之间同步的计算提供了有限的支持。在本文中，我们提出了 * 依赖引导同步（DGS）*，一种替代的编程模型，用于具有复杂同步要求的有状态流计算。在该模型中，输入被视为部分有序的，程序由一组并行化结构，适用于分解的偏序和过程事件独立。我们的编程模型映射到一个名为 * 同步计划 * 的执行模型，它支持并行节点之间的同步。我们的评估表明，两个广泛使用的系统- Flink和Timely Dataflow -提供的API不能适当地暴露一些代表性应用程序中的并行性。相比之下，DGS使实现具有可扩展的性能，由此产生的同步计划在现有系统中手动实现时提供吞吐量改进，并且与编写顺序代码相比，编程开销很小。
2022-01-03 cs.DC cs.PL
P = FS: Parallel is Just Fast Serial
我们证明了同构处理器的并行处理在逻辑上等价于快速串行处理。反向命题也可以用来识别应用并行的模糊机会。据我们所知，该定理以前在排队论文献中还没有报道过。一个合理的解释是提供为什么这可能是。基本齐次定理也被扩展到优化异构并行阵列的延迟。
2020-10-02 cs.DC cs.NI cs.PF
NOP - A Simple Experimental Processor for Parallel Deployment
使用几千甚至多达一百万个处理器的并行计算系统的设计要求处理单元简单且因此空间小，以使尽可能多的处理单元适合于单个管芯。本文所介绍的设计远未优化，它并不意味着与工业性能设备竞争。它的主要目的是允许一个动态软件系统的原型实现作为概念的证明。
2016-12-20 cs.AR cs.DC
Large-Scale Geospatial Processing on Multi-Core and Many-Core Processors: Evaluations on CPUs, GPUs and MICs
地理空间处理，例如基于点到点最短距离和点在多边形测试的查询，是许多科学和工程应用的基础，包括后处理大规模环境和气候模型输出以及分析交通工程和城市研究中大量GPS收集的交通和出行模式。商用并行硬件，如多核CPU，众核GPU和英特尔MIC加速器，提供了巨大的计算能力，可以在现有的地理空间处理上实现显着的加速，并为新的应用程序打开机会。然而，这些新的硬件设备上的地理空间处理的可实现的潜力在很大程度上是未知的，由于在移植串行算法到不同的并行硬件平台的复杂性。在这项研究中，我们的目标是实验我们的数据并行设计和实现的点到点的最短距离计算（P2P）和点在多边形拓扑测试（PIP）在不同的商品硬件使用真正的大规模地理空间数据，比较它们的性能和讨论的重要因素，可能会显着影响性能。我们的实验表明，虽然GPU可以比多核CPU快几倍，而无需利用多核CPU和MIC附带的向量处理单元（VPU）上日益可用的SIMD计算能力，但当使用VPU时，多核CPU和MIC可以比GPU快几倍。通过采用领域特定语言（DSL）的方法来开发VPU在地理空间处理中的计算能力，我们摆脱了直接编写SIMD内部函数的束缚，这使得新方法更加有效、可移植和可扩展。我们的设计，实现和实验可以作为现代商品并行硬件上的并行地理空间计算的案例研究。
2014-03-04 cs.DB cs.DC
