In-place Parallel Super Scalar Samplesort (IPS$^4$o)
我们提出了一个排序算法，工作在原地，并行执行，是高速缓存效率，避免分支预测失误，并执行工作O（n log n）的任意输入的高概率。主要的算法贡献是新的方法，使基于分布的算法到位：在实践方面，通过使用粗粒度的基于块的排列，在理论方面，我们展示了如何消除递归堆栈。大量的实验表明，我们的算法IPS $^4$ o的规模以及各种多核机器。我们的表现超过我们最接近的竞争对手高达3倍。即使作为一个顺序算法，我们也比最接近的顺序竞争对手BlockQuicksort快1.5倍。
2017-06-29 cs.DC
Parallel Graph Algorithms in Constant Adaptive Rounds: Theory meets Practice
我们研究基本的图形问题，如图的连通性，最小生成森林（MSF），和近似最大（重量）匹配在分布式设置。特别是，我们专注于自适应大规模并行计算（AMPC）模型，这是一个理论模型，捕获MapReduce的计算与分布式哈希表增强。我们展示了第一个AMPC算法的所有研究的问题，运行在一个恒定的轮数，并只使用$O(n^ε)$空间每台机器，其中$0 < ε< 1$。我们的研究结果改进了AMPC模型中的先前结果，以及MPC模型中最知名的结果，MPC模型是支撑许多流行的分布式计算框架（如MapReduce，Hadoop，Beam，Pregel和GitHub）的理论模型。最后，我们提供了一个经验比较的算法在MPC和AMPC模型中的容错分布式计算环境。我们经验评估我们的算法上的一组大型现实世界的图形，并表明，我们的AMPC算法可以实现优化MPC基线的运行时间和轮的复杂性的改善。
2020-09-24 cs.DC cs.DS
Towards Parallel Learned Sorting
我们介绍了一种新的排序算法，即ML增强排序与原地超级标量样本排序（IPS4o）的组合。我们的工作的主要贡献是实现并行ML增强排序，因为以前的算法仅限于顺序实现。我们介绍了就地并行学习排序（IPLS）算法，并广泛比较它对其他排序方法。IPLS将IPS4o框架与使用最快最小冲突度算法训练的线性模型相结合，以划分数据。实验结果并没有证明IPLS是最快的算法。然而，他们确实表明IPLS在同行中具有竞争力，并且使用IPS4o框架是一种有前途的并行学习排序方法。
2022-08-14 cs.DC cs.DS
An MPI-based parallel genetic algorithm for multiple geographical feature label placement based on the hybrid of fixed-sliding models
多地理要素标注是地理信息可视化中的一个基本问题。标签定位的本质被证明是一个NP难问题，其中这样一个问题的复杂性是直接影响的输入数据集的体积。计算机技术的进步和稳健的方法已经解决了标记问题。然而，在最近的研究中较少考虑的是MGFLP的计算复杂性，这大大降低了最近引入的方法的可采用性。在这项研究中，MPI并行遗传算法提出了MGFLP基于固定位置模型和滑动模型的混合标记固定类型的地理要素。为了评估标签放置的质量，定义了一个质量函数的基础上的四个质量指标，标签特征冲突，标签标签冲突，标签模糊因子，标签位置的点和多边形的优先级。实验结果表明，该算法显着降低了质量函数的整体得分和标签放置的计算时间相比，以前的研究。该算法在不到一分钟的时间内实现了6个标签-特征冲突的结果，而Mesel-MS（Lessani等人，2021）在20多分钟内获得结果，同一数据集有12个标签-特征冲突。
2022-11-30 cs.DC
Efficient Stepping Algorithms and Implementations for Parallel Shortest Paths
在本文中，我们研究的单源最短路径（SSSP）问题，这是一个众所周知的困难问题，在并行环境中的正边权重。在实际应用中，Meyer和Sanders提出的$Δ$ -步进算法被广泛采用.然而，$Δ$ -步进没有已知的一般图的最坏情况的界限。$Δ$步进的性能也高度依赖于参数$Δ$。也有许多算法具有理论上的界限，例如半径步进，但它们要么没有可用的实现，要么在实践中比$Δ$步进慢得多。我们提出了一个步进算法框架，推广现有的算法，如$Δ$步进和半径步进。该框架允许对所有步进算法进行类似的分析和实现。我们还提出了一个新的ADT，延迟批处理优先级队列（LaB-PQ），抽象的语义所需的步进算法的优先级队列。我们提供了两个数据结构的LaB-PQ，分别侧重于理论和实践效率。基于新的框架和LaB-PQ，我们提出了两个新的步进算法，$ρ$ -步进和$Δ^*$ -步进，这是简单的，与非平凡的最坏情况下的界限，并在实践中快速。步进算法框架还为三种算法提供了几乎相同的实现：Bellman-Ford、$Δ^*$ -步进和$ρ$ -步进。我们比较我们的代码与四个国家的最先进的实现。在五个社交和网络图上，$ρ$步进比所有现有实现快1.3- 2.5倍。在两个路径图上，我们的$Δ^*$ -步进至少比现有的实现快14\%，而$ρ$ -步进也是有竞争力的。步进算法的几乎相同的实现也允许在实践中步进算法之间进行深入的分析和比较。
2021-12-14 cs.DC cs.DS
An Evaluation of Massively Parallel Algorithms for DFA Minimization
本文针对DFA最小化问题，在GPU上实现四种大规模并行算法，发现理论最优复杂度算法因资源需求大不适用，现有并行划分细化算法实际表现更优，还提出带并行部分传递闭包的新算法，在特定基准上复杂度和表现均更优。
2024-10-30 cs.DC cs.LO
Engineering In-place (Shared-memory) Sorting Algorithms
我们目前的排序算法，代表了最快的已知技术的输入大小，输入分布，数据类型，和机器的范围很广。速度优势的一部分是由于就地工作的特性。以前，就地特性通常意味着性能损失。我们的主要算法贡献是一个blockwise方法，就地数据分布，可证明是高速缓存效率。我们还并行化这种方法，考虑到动态负载均衡和内存局部性。我们的比较为基础的算法，就地超标量样本排序（IPS $^4$ o），结合了这种技术与无分支决策树。考虑到许多相同的元素的情况下，并通过动态适应的分布度，我们得到了一个非常强大的算法，优于最好的并行比较为基础的竞争对手的几乎三个因素。IPS $^4$ o在就地或非就地、并行或顺序设置中的性能也优于基于比较的最佳竞争产品。IPS $^4$ o在很多情况下甚至优于最好的整数排序算法。在其余的许多情况下（通常涉及近似均匀的输入分布，小键或顺序设置），我们的新就地基数排序器是最好的算法。在某种意义上，声称拥有“最好”的排序算法可以在许多论文中找到，但这些论文并不都是真的。因此，我们的结论是基于广泛的实验，涉及21个国家的最先进的排序代码，6个数据类型，10个输入分布，4台机器，4个内存分配策略，和输入大小变化超过7个数量级的交叉产品的很大一部分。这证实了我们的算法的强大性能，同时揭示了在相关出版物中报告的具体测量集之外的许多竞争对手的主要性能问题。
2021-02-03 cs.DC
Deterministic Parallel Hypergraph Partitioning
超图的平衡划分是一个经典的NP-难优化问题，在VLSI设计、量子电路仿真、分布式数据库的数据布局优化、高性能计算中的通信量最小化等领域有着广泛的应用。工程并行算法是近年来的研究热点。但大多数都是非确定性的。在这项工作中，我们设计和实现了一个高度可扩展的确定性算法在国家的最先进的并行分区框架Mt-KaHyPar。在我们广泛的基准测试实例集上，它实现了与Mt-KaHyPar相当但不确定的配置类似的分区质量和性能，并且在分区质量，运行时间和并行加速方面优于唯一的其他现有并行确定性算法BiPart。
2021-12-23 cs.DC cs.DS
Parallel Flow-Based Hypergraph Partitioning
我们提出了一个共享内存并行化的基于流的细化，这被认为是目前最强大的迭代改进超图分区技术。基于流的细化工作在二分区上，因此当前的顺序分区器将其调度在不同的块对上，以改进$k$路分区。我们调查两个不同的来源的并行性：并行调度方案和并行最大流算法的基础上著名的推重新标记算法。除了彻底的工程实现之外，我们还提出了几种优化方法，这些优化方法在实践中大大加速了算法，从而能够在非常大的超图（高达10亿个引脚）上使用。我们将我们的方法集成到最先进的并行多级框架Mt-KaHyPar中，并在500多个真实超图的基准集上进行了广泛的实验，以表明我们代码的分区质量与最高质量的顺序代码（KaHyPar）相当，而10个线程的速度要快一个数量级。
2022-01-05 cs.DC cs.DS
Practical Massively Parallel Sorting
以前的并行排序算法不能扩展到最大的可用机器，因为它们要么有禁止通信量或禁止关键路线长度。我们描述的算法是一个可行的妥协，并克服这一差距，在理论和实践中。该算法是已知算法样本排序和多路归并排序的多级推广。特别是，我们的样本排序变体被证明是非常可扩展的。我们开发的一些工具可能是独立的兴趣-一个简单，实用，灵活的排序算法，用于对数时间内工作的小输入，一个近似线性时间的最佳算法，用于解决约束装箱问题，以及一个用于数据传输的算法，保证每个处理器上的消息启动数量很少。
2015-02-25 cs.DC cs.DS
Parallel Linear Search with no Coordination for a Randomly Placed Treasure
在STOC'16中，Fraigniaud等人考虑了在按重要性排序的许多盒子中找到隐藏在其中一个盒子中的宝藏的问题。也就是说，如果一个宝藏在一个更重要的盒子里，那么一个人会想更快地找到它。假设有许多搜索者，作者建议使用一种不需要搜索者之间协调的算法可能非常有益。实际上，除了节省对通信和协调机制的需要之外，这种算法还具有固有的鲁棒性。作者着手解决这个线性搜索问题的情况下，可数的盒子和对手放置的宝藏，并证明了最好的加速可能由$k$非协调搜索正是$\frac{k}{4}(1+1/k)^2$。特别地，这意味着渐进地，与完全协调的情况相比，加速差四倍。我们提出了一个重要的问题，其中的宝藏是均匀随机放置在一个有限的，大，盒子的数量。我们设计的非协调算法，实现了两个搜索器的$6/5$的加速，三个搜索器的$3/2$的加速，并在一般情况下，任何$k \geq 1$搜索器的$k(k+1)/(3k-1)$的加速。因此，当$k$增长到无穷大时，与完全协调的情况相比，加速接近三倍差。此外，这些界限在很强的意义上是紧的，因为没有用于$k$搜索器的非协调搜索算法可以实现更好的加速。我们还设计了非协调算法，只使用对数内存中的搜索域的大小，但渐近，实现最佳的速度。最后，我们注意到，我们所有的算法都非常简单，因此适用。
2016-04-17 cs.DC
A New Method for Parallel Monte Carlo Tree Search
蒙特卡罗树搜索算法是近年来出现的一种新的自适应随机优化算法。在人工智能、运筹学和高能物理等不同领域，研究已经确定蒙特卡罗树搜索可以找到好的解决方案，而无需依赖于域的算法。然而，实践表明，在大型并行机上实现高性能并不像预期的那样成功。提出了一种基于流水线计算模式的并行蒙特卡罗树搜索方法。
2016-05-14 cs.DC
A Creativity Survey of Parallel Sorting Algorithm
排序是计算机科学领域中最基本的问题之一。随着众核处理器的迅速发展，在众核体系结构上设计高效的并行排序算法显得尤为重要。本文对现代硬件上的并行存储器排序方法进行了研究，综述了其研究现状和进展。对目标论文和参考文献的研究问题、研究方法和测量方法进行分类。最后，对本文的研究工作进行了总结，并列出了未研究的方向和创新之处。关键词：排序算法，并行算法，并行优化，CPU，GPU，存储层次结构
2022-02-17 cs.DC
Efficient Parallel Algorithms for k-Center Clustering
k-中心问题是几个经典的NP-难聚类问题之一。对于当代的海量数据集，基于RAM的算法变得不切实际。虽然有很好的顺序算法的k-中心，他们是不容易并行化。在本文中，我们设计并实现了并行近似算法为这个问题。我们观察到，冈萨雷斯的贪心算法可以有效地并行化在几个MapReduce轮，在实践中，我们发现，两轮是足够的，导致4-近似。我们将此与现有的k-中心并行算法进行对比，该算法在恒定数量的轮中运行，并提供10-近似。深入的运行时分析表明，这种方案通常很慢，并且其采样过程仅在k相对于输入大小足够小时才运行。为了在运行时间和近似保证之间进行权衡，我们对该采样算法进行了参数化，并在实验中发现该算法不仅速度更快，而且有时更有效。然而，Gonzalez的并行版本比其顺序版本和并行采样算法快约100倍，几乎不影响解决方案质量。
2016-04-12 cs.DC cs.DS
Dynamic Algorithms for the Massively Parallel Computation Model
大规模并行计算（MPC）模型在过去十年中越来越流行，现在被视为处理大规模数据的标准模型。该模型的一个显著缺点是，它假设在静态数据集上工作，而在实践中，真实世界的数据集不断演变。为了克服这个问题，在本文中，我们开始在MPC模型的动态算法的研究。我们首先讨论了一个动态的并行模型的主要要求，我们展示了如何适应经典的MPC模型来捕捉它们。然后分析了经典动态算法与MPC模型中动态算法之间的联系。最后，我们提供了新的高效的动态MPC算法的各种基本图的问题，包括连接，最小生成树和匹配。
2019-05-22 cs.DC cs.DS
Theoretically and Practically Efficient Parallel Nucleus Decomposition
本文研究了核分解问题，这已被证明是有用的，在寻找密集的子结构图。我们提出了一种新的并行算法，是有效的理论和实践。我们的算法实现了与最佳顺序算法匹配的工作复杂度，同时还具有低深度（并行运行时间），这显著改进了仅有的现有并行核分解算法（Sariyuce等人，PVLDB 2018）。我们的算法的理论效率的关键是使用一个理论上有效的并行算法的团列表和桶。我们介绍了几个新的实用优化，包括一个新的多级哈希表结构，以存储信息的集团空间效率和技术，用于遍历这种结构的高速缓存效率。在一个具有双向超线程的30核机器上，我们实现了比Sariyuce等人的最先进的并行核分解算法高达55倍的加速，并且高达40倍的自相关并行加速比。我们能够有效地计算更大的核分解比以前的工作在几百万规模的图形的第一次。
2022-08-11 cs.DC cs.DS
Feature Selection with Evolving, Fast and Slow Using Two Parallel Genetic Algorithms
Istanbul Bilgi University（伊斯坦布尔比尔基大学）；Tam Faktoring（塔姆保理公司）；Istanbul Marmara University（伊斯坦布尔马尔马拉大学）
特征选择是机器学习中最具挑战性的问题之一，特别是在处理高维数据时。在本文中，我们解决的问题，特征选择，并提出了一种新的方法，称为进化快，慢。这种新方法是基于使用两个并行的遗传算法具有高和低的突变率，分别。进化的快与慢需要一种新的并行架构，将快速进化的自动系统和缓慢进化的努力系统结合起来。有了这个体系结构，探索和开发可以同时进行。具有高突变率的快速进化可用于利用长跳跃来探索搜索空间中的新未知位置;具有低突变率的缓慢进化可用于利用短移动来利用搜索空间中的先前已知位置。我们的实验表明，进化快和慢实现了非常好的结果，在准确性和功能消除。
2020-05-11 cs.AI cs.DC cs.NE
Prediction of Parallel Speed-ups for Las Vegas Algorithms
University of Nantes（南特大学）；University of Tokyo（东京大学）；UPMC（巴黎第六大学）
我们提出了一个概率模型的并行执行拉斯维加斯算法，即，随机算法，其运行时间可能因执行而异，即使输入相同。该模型旨在预测并行性能（即，加速比）。然后，我们在实践中研究的情况下，一个特定的拉斯维加斯算法的组合优化，对三个经典的问题，并与实际的并行实现高达256个核心。我们表明，预测可以是相当准确的，匹配的实际加速非常好，高达100个并行核心，然后与约20%的偏差高达256个核心。
2012-12-18 cs.AI cs.DC
Communication-Optimal Parallel Algorithm for Strassen's Matrix Multiplication
并行矩阵乘法是分布式高性能计算中研究最多的基本问题之一。我们得到了一个新的并行算法，该算法是基于Strassen的快速矩阵乘法和最小化通信。该算法优于所有已知的并行矩阵乘法算法，经典的和基于Strassen的，无论是渐进的，并在实践中。并行化Strassen算法的一个关键瓶颈是处理器之间的通信。Ballard，Demmel，Holtz和Schwartz（SPAA'11）使用底层计算图的扩展特性证明了这些通信成本的下限。我们的算法匹配这些下限，因此是通信最优的。它在最大可能范围内表现出完美的强缩放性。基准测试我们的实现在Cray XT4上，我们获得了超过经典和基于Strassen的算法的加速比，范围从24%到184%，对于固定的矩阵维数n=94080，其中节点的数量范围从49到7203。我们的并行化方法推广到其他快速矩阵乘法算法。
2012-02-14 cs.CC cs.DC cs.DS
Parallel Sparse and Data-Sparse Factorization-based Linear Solvers
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）
针对大规模病态不定代数方程，综述了稀疏直接求解器在减少通信延迟和利用低秩压缩降低计算复杂度方面的最新进展，并讨论了现代异构并行机器上的并行化挑战与最佳实践。
2026-05-22 cs.DC cs.MS cs.NA
