Parallel Space Saving on Multi and Many-Core Processors
给定$n$元素的数组$\mathcal{A}$和值$2 \leq k \leq n$,频繁项或$k$多数元素是在$\mathcal{A}$中出现多于$n/k$次数的元素。$k$多数问题需要找到所有$k$多数元素。在本文中,我们处理频繁项的并行共享内存算法,我们提出了一个共享内存版本的节省空间算法,我们研究其行为方面的准确性和性能在许多多核处理器,包括英特尔Phi加速器。我们还调查了一个混合MPI/OpenMP版本对一个纯MPI为基础的版本。通过大量的实验结果,我们证明了MPI/OpenMP并行版本的算法显着提高了性能的早期纯MPI版本的相同的算法。结果还证明,对于该算法,英特尔Phi加速器相对于至强八核处理器没有任何改进。
2017-01-11 cs.DC
Performance tuning for deep learning on a many-core processor (master thesis)
卷积神经网络(CNN)正变得非常成功,并在各种应用中受到欢迎。Loki众核处理器架构在实现专用硬件性能和效率方面非常有前途,同时也是一种通用解决方案。Loki结合了许多简单的核心,为程序员增加了控制。这种自由可以用来产生比传统多处理器更有效的代码,但它也为可能的优化创造了非常大的设计空间。在这个项目中,我探索了CNN应用程序的可能优化,它们在不同Loki特定配置,卷积参数和输入上的可移植性。最后,我调查的潜力,自适应算法进一步提高性能。
2018-05-04 cs.DC
Implementing OpenSHMEM for the Adapteva Epiphany RISC Array Processor
高能效的Adapteva Epiphany架构在具有快速片上网络(NoC)的RISC内核的物理紧凑型2D阵列中展示了巨大的众核可扩展性。通过能够执行MIMD的完全发散的核,核和网络的物理拓扑和存储器映射能力很好地转化为分区全局地址空间(PGAS)并行编程模型。在对使用线程MPI的双侧通信的使用进行调查之后,正在探索使用SHMEM的单侧通信。在这里,我们提出了正在进行的工作上的OpenSHMEM 1.2实现的主显节架构的发展。
2016-04-14 cs.DC
Optimization and parallelization of B-spline based orbital evaluations in QMC on multi/many-core shared memory processors
基于B样条的轨道表示被广泛地用于固体的量子蒙特卡罗(QMC)模拟,历史上占据总运行时间的多达50%。对大型四维数组的随机访问使得有效利用现代CPU的高速缓存和宽向量单元变得具有挑战性。我们提出了多/众核共享内存处理器上的B样条评估的节点级优化。为了提高SIMD效率和带宽利用率,我们首先应用数据布局转换从数组的结构(SoA)。然后通过阻塞SoA对象,我们优化了缓存重用,并为一系列问题大小获得持续的吞吐量。我们在B样条轨道评估内核中实现了高效的嵌套线程,为实现QMC模拟的强大扩展铺平了道路。这些优化可移植到四种不同的高速缓存一致性架构上,在英特尔至强融核处理器7250 P(KNL)上可实现高达5.6倍的性能增强,在英特尔至强融核协处理器7120 P上可实现5.7倍的性能增强,在英特尔至强处理器E5 v4 CPU上可实现10倍的性能增强,在BlueGene/Q处理器上可实现9.5倍的性能增强。我们的嵌套线程实现在KNL上显示出接近理想的并行效率,最多可达16个线程。我们采用车顶性能分析来模拟我们的优化的影响。这项工作与我们目前优化其他QMC内核的努力相结合,导致miniQMC在KNL上的加速比超过4.5倍。
2016-11-08 cs.DC
Parallel Algorithm for Time Series Discords Discovery on the Intel Xeon Phi Knights Landing Many-core Processor
Discord是对时间序列的异常子序列概念的一种细化。不一致发现的任务是应用在广泛的主题领域相关的时间序列:医学,经济学,气候建模等,在本文中,我们提出了一种新的并行算法不一致发现的英特尔至强融核骑士登陆(KNL)众核系统的情况下,当输入数据适合在主内存中。该算法利用独立计算时间序列的连续性之间的欧几里得距离的能力。通过OpenMP技术进行计算。该算法包括两个阶段,即预计算和发现。在预计算阶段,我们构建了辅助矩阵数据结构,以确保在英特尔至强融核KNL上进行高效的向量化计算。在发现阶段,算法根据上述结构发现不一致。实验评估证实了所开发的算法的高可扩展性。
2019-01-01 cs.DC
SYNPA: SMT Performance Analysis and Allocation of Threads to Cores in ARM Processors
本文提出SYNPA方法,利用ARM处理器调度阶段的三个性能计数器变量构建回归模型,动态分配线程到SMT核心以缓解核心内干扰,在8应用工作负载中周转时间平均比Linux默认调度器提升约36%。
2023-10-19 cs.DC cs.PF
Co-designing a Programmable RISC-V Accelerator for MPC-based Energy and Thermal Management of Many-Core HPC Processors
Integrated Systems Laboratory (IIS), ETH Zurich, Switzerland(苏黎世联邦理工学院集成系统实验室)
针对多核HPC处理器的能耗与热管理,提出基于算子分裂求解器和多核RISC-V的MPC控制器软硬件协同设计,实现亚毫秒延迟、33倍低延迟和7.9倍高能效。
2025-10-10 cs.DC
MGSim - Simulation tools for multi-core processor architectures
MGSim是一个用于片上硬件组件的开源离散事件模拟器,由阿姆斯特丹大学开发。它旨在成为一个研究和教学工具,研究在众核和硬件多线程处理器上的细粒度硬件/软件交互。它包括对具有不同指令集的内核模型的支持、可配置的多核互连、多个可配置的高速缓存和内存模型、专用I/O子系统以及全面的监控和交互设施。MGSim附带的默认模型配置实现了微电网,这是一种具有硬件并发管理的众核架构。此外,MGSim主要用C++编写,并使用对象类来表示芯片组件。它针对可描述为流程网络的架构模型进行了优化。
2013-02-06 cs.AR cs.DC
Mixed-mode implementation of PETSc for scalable linear algebra on multi-core processors
随着多核处理器成为现代超级计算机中无处不在的构建块,现在是时候让应用程序在处理器设计中接受这些发展了。为了实现亿级性能,应用程序将需要利用现代高性能计算机中暴露的新并行级别的方法。一种典型的方法是使用共享内存编程技术来最好地利用多核节点以及节点间消息传递。在本文中,我们描述了在PETSc库中添加OpenMP线程功能。我们强调了一些问题,阻碍了线程应用程序在现代处理器上的良好性能,并描述了如何否定它们。PETSc的OpenMP分支使用从Fluidity中提取的矩阵进行基准测试,Fluidity是一种CFD应用程序代码,使用该库作为其线性求解器引擎。混合模式实现的整体性能优于纯MPI版本。
2012-08-10 cs.DC cs.PF
On the Performance of MPI-OpenMP on a 12 nodes Multi-core Cluster
随着基于四核的集群数量的增加以及设计有由多个核心共享的大内存容量的计算节点的引入,与可扩展性相关的新问题出现了。在本文中,我们分析了一个集群的整体性能,该集群的节点在每个节点上都有一个双四核处理器。一些基准测试的结果,并提出了一些意见时,处理这样的处理器的基准测试。基于四核的集群的复杂性源于这样一个事实,即需要解决运行进程之间的本地通信和网络通信。MPI-OpenMP方法的潜力被指出,因为它减少了通信开销。最后得出结论,在多核集群中,优化节点间的网络通信与优化处理器间的本地通信同样重要,因此应该考虑采用MPI-OpenMP解决方案。
2011-08-16 cs.DC
The Use of MPI and OpenMP Technologies for Subsequence Similarity Search in Very Large Time Series on Computer Cluster System with Nodes Based on the Intel Xeon Phi Knights Landing Many-core Processor
如今,子序列相似性搜索是需要在广泛的时间序列挖掘应用:气候建模,金融预测,医学研究等,在大多数这些应用中,动态时间规整(DTW)的相似性度量使用,因为DTW是经验证实的最佳相似性度量大多数学科领域之一。由于DTW测度具有关于t的二次计算复杂性,查询子序列的长度,已经开发了许多用于各种众核架构的并行算法,即FPGA,GPU和Intel MIC。在这篇文章中,我们提出了一个新的并行算法,在非常大的时间序列的子序列相似性搜索的计算机集群系统的节点的基础上,英特尔至强融核骑士登陆(KNL)众核处理器。计算在两个级别上并行化,如下所示:通过MPI在所有集群节点的级别,并通过一个集群节点内的OpenMP。该算法涉及额外的数据结构和冗余计算,这使得有效利用Phi KNL上的向量计算能力成为可能。在真实数据集和合成数据集上的实验结果表明,该算法具有良好的可扩展性。
2018-12-26 cs.DC
Multi-Core Processor Scheduling with Respect to Data Bus Bandwidth
本文考虑了多核处理器上软件模块的调度问题,同时考虑了数据总线的有限带宽和优先级约束。两个问题的配方与不同层次的问题的具体细节的建议,都被证明是NP难的。第一个问题建立了混合整数线性规划模型,第二个问题建立了贪心算法。最后,将贪心算法的求解结果与CPLEX求解器的MILP解进行了比较。
2020-10-30 cs.DC math.OC
An efficient MPI/OpenMP parallelization of the Hartree-Fock method for the second generation of Intel Xeon Phi processor
使用现代的OpenMP线程技术将GAMESS程序中仅支持MPI的Hartree-Fock代码转换为混合MPI/OpenMP算法。两个单独的实现,不同的线程之间的共享或复制的关键数据结构被认为是,密度和福克矩阵。所有实现都在3,000个英特尔至强融核处理器的超级计算机上进行基准测试。每个处理器有64个内核,报告的扩展数最多可达192,000个内核。与传统代码相比,混合MPI/OpenMP实现将内存占用减少了约200倍。对于一系列分子系统大小,MPI/OpenMP代码的运行速度比原始代码快6倍。
2017-08-14 cs.DC
Parallel structurally-symmetric sparse matrix-vector products on multi-core processors
我们考虑的问题,开发一个有效的多线程实现的矩阵向量乘法算法的稀疏矩阵结构对称。矩阵存储使用压缩稀疏行-列格式(CSRC),旨在从全局有限元矩阵中观察到的对称非零模式中获益。与经典的压缩存储格式不同,使用CSRC执行稀疏矩阵向量积需要对目标向量进行线程安全访问。为了避免竞争条件,我们实现了两种分区策略。在第一种方法中,每个线程分配一个数组来存储它的贡献,这些贡献随后在累加步骤中组合。我们分析了如何以四种不同的方式进行这种积累。第二种策略使用着色算法对线程可以并发处理的行进行分组。我们的研究结果表明,虽然招致的工作集大小的增加,前一种方法导致大多数矩阵的最佳性能改善。
2010-05-28 cs.DC
A Distributed Shared Memory Model and C++ Templated Meta-Programming Interface for the Epiphany RISC Array Processor
Adapteva Epiphany众核架构包括一个可扩展的2D网状片上网络(NoC),由低功耗RISC内核组成,具有最少的非核功能。尽管这样的处理器提供了高计算能量效率和并行可扩展性,但开发解决独特架构特征的有效编程模型已经提出了许多挑战。我们在这里提出了一个分布式共享内存(DSM)模型支持软件透明使用C++模板元编程技术。该方法提供了一个非常简单的并行编程模型非常适合的架构。初步结果表明,该方法,并提供洞察的编程模型的效率和能力的NoC支持DSM没有明确的控制数据移动和本地化。
2017-04-26 cs.DC
Algorithmic patterns for $\mathcal{H}$-matrices on many-core processors
在这项工作中,我们考虑重新制定的分层($\mathcal{H}$)矩阵算法的众核处理器的图形处理单元(GPU)上的模型实现。$\mathcal{H}$矩阵近似特定的稠密矩阵,例如,从离散积分方程或核岭回归,导致在密集矩阵-向量乘积中的对数线性时间复杂度。$\mathcal{H}$矩阵运算在众核处理器上的并行化是困难的,这是由于底层算法的复杂性。虽然众核硬件以前的算法进步集中在加速现有的$\mathcal{H}$矩阵CPU实现众核处理器,我们在这里的目标是完全依赖于处理器类型。作为主要贡献,我们介绍了必要的并行算法模式,允许映射到众核硬件的完整的$\mathcal{H}$矩阵建设和快速矩阵向量积。在这里,关键的成分是空间填充曲线,并行树遍历和线性代数运算的并行化。由此产生的模型GPU实现hmglib是,据作者所知,第一个完全基于GPU的开源$\mathcal{H}$矩阵库。我们结束这项工作的深入性能分析和比较性能研究对标准的$\mathcal{H}$矩阵库,突出了深刻的加速我们的众核并行方法。
2017-08-31 cs.DC cs.MS cs.NA
A New Family of Thread to Core Allocation Policies for an SMT ARM Processor
本文针对SMT ARM处理器提出基于指令与停顿周期(ISC)性能栈的SYNPA线程到核心分配策略,其最佳变体SYNPA4较Linux将周转时间提升38%,收益达现有最优策略3倍。
2025-07-01 cs.AR cs.DC
Thread Progress Equalization: Dynamically Adaptive Power and Performance Optimization of Multi-threaded Applications
动态自适应多核体系结构已被提出作为一种有效的解决方案,以优化峰值功率受限的处理器的性能。在处理器中,每个内核的微体系结构参数或电压/频率在运行时要改变,从而为每个内核提供一系列的功率/性能工作点。在本文中,我们提出了线程进度均衡(TPEq),一个运行时的机制,在动态自适应多核处理器上运行的多线程应用程序的功率约束性能最大化。与现有方法相比,TPEq(i)识别并解决多线程应用程序中线程间异构性的两个主要来源,(ii)在多项式时间内确定关于核心和配置的数量的最佳核心配置,以及(iii)不需要修改用户级源代码。我们的实验评估表明,TPEq优于最先进的运行时功率/性能优化技术,在文献中提出的动态自适应多核高达23%。
2016-03-21 cs.DC
A configurable accelerator for manycores: the Explicitly Many-Processor Approach
提出了一种设计处理器加速器的新方法。提出了一种新的计算模型和一种具有动态(最终用户可编程)结构的专用加速器。新模型考虑了一个处理器,其中新引入的管理层协调核心的工作。核心有能力(基于编译器提供的并行化信息,并使用管理程序的帮助)将它们收到的部分作业外包给一些相邻的核心。所引入的改变本质上并且有利地修改了计算系统的架构和操作。计算吞吐量急剧增加,技术实现的效率(每个逻辑门的计算性能)增加,使用操作系统服务的非有效载荷活动减少,实时行为有利地改变,并且将加速器连接到处理器大大简化。这里仅讨论处理器的架构和操作的一些细节,其余部分在其他地方描述。
2016-07-06 cs.AR cs.DC
Configurable memory systems for embedded many-core processors
现代嵌入式处理器的存储系统消耗了系统总能量的很大一部分。我们探讨了一系列不同的配置选项,并表明,可重构设计可以更好地利用它比任何固定的实现可用的资源,并提供了很大的改善性能和能耗。随着资源变得越来越有限,可重构性变得越来越有用,因此在嵌入式空间中特别相关。对于一个优化的架构配置,我们表明,一个可配置的缓存系统执行平均20%(最大70%)优于最好的固定实现时,两个程序竞争相同的资源,并减少缓存未命中率平均70%(最大90%)。然后,我们提出了一个AES加密和解密的案例研究,并发现自定义内存配置几乎可以使性能提高一倍,并通过在并行化程序时专门化每个核心的任务来实现进一步的好处。
2016-01-07 cs.AR cs.DC
ARGO: An Auto-Tuning Runtime System for Scalable GNN Training on Multi-Core Processor
ARGO提出面向多核处理器的GNN训练运行时系统,通过多进程、核心绑定和自动调优器仅探索5%设计空间即可选择近最优配置,在112核和64核平台上分别实现最高5.06倍和4.54倍加速,并可无缝集成到DGL、PyG等主流GNN库中。
2024-02-28 cs.DC
PEZY-SC3: A MIMD Many-core Processor for Energy-efficient Computing
本文介绍PEZY-SC3,一款基于MIMD众核架构的高能效处理器,通过细粒度多线程和非一致性缓存实现高可编程性与高效率,能效达24.6 GFlops/W,在Green500中排名第12。
2023-05-11 cs.AR cs.DC
Generating Custom Code for Efficient Query Execution on Heterogeneous Processors
处理器制造商构建越来越专用的处理器,以减轻电源墙的影响,从而提高性能。目前,数据库引擎是为每个处理器手动优化的:这是一个成本高昂且容易出错的过程。在本文中,我们提出的概念,使数据库引擎自动执行每处理器优化。我们的核心思想是创建生成代码的变体,并为每个处理器学习快速变体。我们通过修改并行化策略、专门化数据结构和应用不同的代码转换来创建变体。我们的实验结果表明,变体的性能可能会偏离两个数量级。因此,我们需要为每个处理器生成自定义代码,以实现峰值性能。我们表明,我们的方法为多核CPU,GPU和MIC找到了一个快速的自定义变体。
2017-09-03 cs.DB cs.DC
Parallel Knowledge Embedding with MapReduce on a Multi-core Processor
This article firstly attempts to explore parallel algorithms of learning distributed representations for both entities and relations in large-scale knowledge repositories with { \it MapReduce} programming model on a multi-core processor. We accelerate the training progress of a canonical knowledge embedding method, i.e. { \it translating embedding} ({ \bf TransE}) model, by dividing a whole knowledge repository into several balanced subsets, and feeding each subset into an individual core where local embeddings can concurrently run updating during the { \it Map} phase. However, it usually suff…
2015-09-03 cs.DB cs.DC
Fast Switching Serial and Parallel Paradigms of SNN Inference on Multi-core Heterogeneous Neuromorphic Platform SpiNNaker2
针对SNN计算范式性能优化问题,提出首个集成串行与并行范式的SNN快速切换编译系统,通过Adaptive Boost分类器在编译前预判层级最优范式,在SpiNNaker2平台上节省资源与编译时间。
2024-07-12 cs.DC
Extending and Implementing the Self-adaptive Virtual Processor for Distributed Memory Architectures
未来的众核架构很可能具有分布式内存组织,并且需要细粒度的并发管理才能有效地使用。自适应虚拟处理器(SVP)是一个抽象的并发编程模型,可以提供这一点,但该模型及其当前的实现假设一个单一的地址空间共享内存。我们调查和扩展SVP处理分布式环境,并讨论了原型SVP实现透明地支持执行异构分布式内存集群通过TCP/IP连接,同时保留原始的SVP编程模型。
2011-04-19 cs.DC
Marrying Many-core Accelerators and InfiniBand for a New Commodity Processor
在过去的15年里,超级计算机行业一直在使用大规模生产的现成组件来构建集群计算机。这样的组件对于HPC目的来说并不完美,但是由于其生产中的规模效应而便宜。即将到来的exa-scale时代改变了局面:exa-scale计算机将包含数量足够大的组件,以证明其定制开发和生产的合理性。我们提出了一种新的异构处理器,配备了一个网络控制器,专为HPC设计。然后,我们展示了它如何用于企业计算市场,保证其广泛采用,从而降低生产成本。
2013-06-29 cs.AR cs.DC
Multi-core: Adding a New Dimension to Computing
1948年晶体管的发明开创了一个新的技术时代,称为固态电子学。从那时起,电子和制造技术的持续发展和进步导致设备尺寸缩小并变得更小,为提高密度和时钟速度铺平了道路。由于物理定律的基本限制,这种探索突然停止了。但是,对越来越多的计算能力的需求在计算世界中仍然普遍存在。因此,微处理器行业已经开始沿着不同的方向探索这项技术。单个工作单元(CPU)的速度不再是关注的问题,而是增加封装在单个封装中的独立处理器核心的数量已成为新的关注点。这样的处理器通常被称为多核处理器。通过使用多核来扩展性能已经得到了学术界和工业界的广泛关注,不仅台式机,而且笔记本电脑,PDA,手机甚至嵌入式设备都包含这些处理器。在本文中,我们将探讨多核处理器和现有的软件工具,以支持并行的最先进的技术。最后讨论了该领域的研究现状和未来发展趋势。从我们的调查中,我们得出结论,未来几十年将以这种“无处不在的并行处理“的成功为标志。
2010-11-15 cs.AR cs.DC
Leakage-Aware Reallocation for Periodic Real-Time Tasks on Multicore Processors
降低计算系统的能耗是一个越来越重要的问题。在本文中,我们考虑在多核处理器上基于分区的周期性实时的【形】任务的能量感知调度。调度利用动态电压缩放(DVS)和核心睡眠调度,以减少动态和泄漏的能量消耗。然而,如果核心状态切换的开销不可忽略,则该调度策略在能量效率方面的性能可能会降低。为了实现进一步的节能,我们扩展了静态任务调度与运行时任务重新分配。其基本思想是聚合内核之间的空闲时间,以便尽可能多的内核可以以降低整体能耗的方式进入睡眠状态。仿真结果表明,该方法比传统的泄漏感知DVS节能高达20%。
2010-11-13 cs.DC cs.OS
The Glasgow Parallel Reduction Machine: Programming Shared-memory Many-core Systems using Parallel Task Composition
我们提出了格拉斯哥并行归约机(GPRM),一种新颖的,灵活的框架,并行任务组合为基础的众核编程。我们允许程序员将程序结构化为任务代码,编写为C++类,和通信代码,编写在C++的有限子集中,具有功能语义和并行评估。在本文中,我们讨论的GPRM,虚拟机框架,使并行任务组合方法。我们集中讨论GPIR,函数语言作为中间表示的字节码上运行的GPRM。使用这种语言的例子,我们展示了我们的任务组成框架的灵活性和力量。我们展示了潜力,使用合并排序算法的64核Tilera处理器上的实现,以及在传统的英特尔四核处理器和AMD 48核处理器系统。我们还比较了我们的框架与在Tilera处理器上运行的并行指针追逐算法中的OpenMP任务。我们的研究结果表明,GPRM程序优于相应的OpenMP代码在所有的测试平台上,可以大大方便的并行程序的编写,特别是非数据并行算法,如减少。
2013-12-10 cs.DC cs.PL
Scalable Triadic Analysis of Large-Scale Graphs: Multi-Core vs. Multi- Processor vs. Multi-Threaded Shared Memory Architectures
三元分析包含一组有用的图挖掘方法,这些方法以三元组的概念为中心,三元组是三个节点的子图。这些方法经常应用于社会科学以及许多其他不同的领域。三元组方法通常对三元组普查进行操作,该普查对图中每个可能的边配置的三元组的数量进行计数。与其他图算法一样,三元普查算法在图达到数千万到数十亿个节点时不能很好地扩展。为了实现大规模图的三元分析,我们开发并优化了一个三元普查算法,以有效地执行共享内存架构。然后,我们进行了性能评估的三个特定的系统:Cray XMT,HP Superdome,和AMD多核NUMA机的并行三元普查算法。这三个系统具有共享的内存架构,但具有明显不同的硬件能力来管理并行性。
2012-09-27 cs.DC cs.SI
Benchmarking CRBLASTER on the 350-MHz 49-core Maestro Development Board
我描述的性能的CRBLASTER计算框架上的350 MHz的49核大师开发板(MDB)。49核临时测试芯片(ITC)由美国政府开发,基于Tilera公司的64核TILE 64处理器的知识产权。Maestro处理器用于太空中的高辐射环境; ITC是使用IBM 90 nm CMOS 9 SF技术和辐射加固设计(RHDB)规则制造的。CRBLASTER是一个并行处理宇宙射线拒绝应用程序,基于一个简单的计算框架,使用高性能计算行业标准消息传递接口(MPI)库。CRBLASTER旨在供研究科学家使用,以轻松地将基于并行算法的图像分析程序移植到并行处理环境中,例如使用MPI的多节点Beowulf集群或多核处理器。我描述了我将CRBLASTER移植到64核TILE 64处理器、Maestro模拟器以及49核Maestro处理器本身的经验。使用ITC的性能比较之间的仿真软件中的所有浮点运算和做所有浮点运算与硬件辅助从IEEE-754兼容的极光FPU(浮点单元),连接到每个49个核心。使用内存密集型L.A.COSMIC宇宙射线抑制算法和计算密集型泊松噪声发生器对CRBLASTER计算框架进行基准测试,揭示了Maestro硬件设计的微妙之处。最后,我描述了在下一代计算机硬件的测试阶段使用真正的科学应用程序的重要性;复杂的现实世界的科学应用程序可能会以新的方式强调硬件,而这些方式在执行简单的应用程序或单…
2012-01-23 astro-ph.IM cs.DC
Multi-Threaded Dense Linear Algebra Libraries for Low-Power Asymmetric Multicore Processors
密集线性代数库,如BLAS和LAPACK,为许多科学和工程应用提供了相关的数值工具集合。虽然存在用于许多当前多线程架构的BLAS(和LAPACK)功能的高性能实现,但是这些库用于非对称多核处理器(AMP)的适配仍然悬而未决。在本文中,我们解决这个挑战,通过开发一个不对称意识的实现的BLAS,基于BLIS框架,并为AMP配备了两种类型的核心:快速/耗电与缓慢/节能。为此,我们将粗粒度和细粒度并行化策略集成到库例程中,分别动态分配两种核心类型之间的工作量和静态重新分配相同类型的核心之间的工作。我们的结果在嵌入Exynos 5422 SoC的ARM big.LITTLE处理器上,使用BLAS的非对称感知版本和LAPACK的传统版本的简单迁移,实验评估了这种方法的优点,局限性和潜力。
2015-11-06 cs.DC cs.MS
On the performance of a highly-scalable Computational Fluid Dynamics code on AMD, ARM and Intel processors
没有哪个计算领域比高性能计算(HPC)对性能的需求更迫切了,HPC的需求仍然是处理器性能和加速器采用的主要驱动力,并且还推动了内存、存储和网络技术的进步。英特尔处理器在过去十年中占据主导地位的一个关键特征是广泛采用GPU作为协处理器,而最近的发展已经看到了许多CPU处理器的可用性增加,包括基于ARM的新型芯片。本文分析了最先进的计算流体动力学(CFD)代码在三个HPC集群系统上的性能和可扩展性,这三个HPC集群系统分别配备了AMD EPYC-Rome(EPYC,4096核)、基于ARM的Marvell ThunderX 2(TX 2,8192核)和Intel Skylake(SKL,8000核)处理器。采用$4^{th}$阶中心差分格式或$5^{th}$阶WENO格式,设计了三个基准算例,分别为盖驱动空腔流、Taylor-Green涡和孤立波。我们的结果表明,EPYC集群为所有考虑中的设置提供了最佳的代码性能。在前两个基准测试中,SKL集群显示出比TX 2系统更快的计算时间,而在孤立波模拟中,TX 2集群实现了良好的可扩展性和与EPYC系统相似的性能,两者都比SKL集群获得的性能有所改善。这些结果表明,虽然英特尔SKL内核提供了最佳的强大可扩展性,但与EPYC系统相比,相关的群集性能较低。TX 2群集性能很有前途,因为它最近加入了HPC产品组合。
2020-10-12 cs.DC physics.flu-dyn
Parallelized Kendall's Tau Coefficient Computation via SIMD Vectorized Sorting On Many-Integrated-Core Processors
Georgia Institute of Technology(佐治亚理工学院)
成对关联度量是数据分析中的一个重要操作。Kendall的tau系数是一种广泛使用的相关系数,用于识别有序变量之间的非线性关系。本文研究了一种基于Intel Xeon Phis的单指令多数据(SIMD)向量化排序并行算法,该算法利用多个处理核和512位SIMD向量指令,加速所有对Kendall的tau系数计算。为了促进工作负载平衡和克服片上存储器的限制,我们提出了一个通用的框架,对称所有对计算之间的作业标识符和坐标空间的可证明双射函数。性能评估表明,我们的算法在一个5110 P Phi实现了两个数量级的加速比16线程的MATLAB和三个数量级的加速比顺序R,都运行在高端CPU。此外,我们的算法表现出相当好的分布式计算的可扩展性方面的Phis的数量。源代码和数据集可在http://lightpcc.sourceforge.net上公开获取。
2017-04-12 cs.AI cs.DC
Efficient Parallelization of 5G-PUSCH on a Scalable RISC-V Many-core Processor
5G无线电接入网络分解和软件化在计算性能方面对处理单元提出了挑战。在物理层级别,基带处理计算工作通常被卸载到专用硬件加速器。然而,软件定义的无线电接入网络的趋势需要灵活的,可编程的架构。在本文中,我们探讨了软件设计,并行化和优化的物理上行链路共享信道(PUSCH)接收MemPool和TeraPool,两个众核系统分别具有256和1024个小型和高效的RISC-V内核与大型共享L1数据存储器的低物理层(PHY)的关键内核。PUSCH处理要求高且严格受时间约束,它代表了对基带处理器的挑战,并且它对于大多数上行链路信道也是常见的。因此,我们的分析推广到gNodeB(gNB)处的上行链路接收器的整个较低PHY。基于PUSCH算法阶段所需的计算工作量的评估(在乘-累加操作中),我们专注于主导内核的并行实现,即快速傅立叶变换,矩阵-矩阵乘法和矩阵分解内核,用于线性系统的解决方案。我们优化的并行内核分别在MemPool和TeraPool上实现了211,225,158和762,880,722的加速比,高利用率(0.81,0.89,0.71和0.74,0.88,0.71),可与单核串行执行相媲美,向全软件PUSCH实现迈进了一步。
2022-10-17 cs.DC eess.SP
Large-Scale Geospatial Processing on Multi-Core and Many-Core Processors: Evaluations on CPUs, GPUs and MICs
地理空间处理,例如基于点到点最短距离和点在多边形测试的查询,是许多科学和工程应用的基础,包括后处理大规模环境和气候模型输出以及分析交通工程和城市研究中大量GPS收集的交通和出行模式。商用并行硬件,如多核CPU,众核GPU和英特尔MIC加速器,提供了巨大的计算能力,可以在现有的地理空间处理上实现显着的加速,并为新的应用程序打开机会。然而,这些新的硬件设备上的地理空间处理的可实现的潜力在很大程度上是未知的,由于在移植串行算法到不同的并行硬件平台的复杂性。在这项研究中,我们的目标是实验我们的数据并行设计和实现的点到点的最短距离计算(P2P)和点在多边形拓扑测试(PIP)在不同的商品硬件使用真正的大规模地理空间数据,比较它们的性能和讨论的重要因素,可能会显着影响性能。我们的实验表明,虽然GPU可以比多核CPU快几倍,而无需利用多核CPU和MIC附带的向量处理单元(VPU)上日益可用的SIMD计算能力,但当使用VPU时,多核CPU和MIC可以比GPU快几倍。通过采用领域特定语言(DSL)的方法来开发VPU在地理空间处理中的计算能力,我们摆脱了直接编写SIMD内部函数的束缚,这使得新方法更加有效、可移植和可扩展。我们的设计,实现和实验可以作为现代商品并行硬件上的并行地理空间计算的案例研究。
2014-03-04 cs.DB cs.DC
Benchmarking Data Analysis and Machine Learning Applications on the Intel KNL Many-Core Processor
Knights Landing(KNL)是第二代英特尔至强融核产品系列的代号。KNL在数据分析和机器学习社区引起了极大的兴趣,因为它的新众核架构针对这两种工作负载。KNL众核向量处理器设计使其能够利用更高级别的并行性。在林肯实验室超级计算中心(LLSC),大多数用户都在运行MATLAB和Octave等数据分析应用程序。最近,机器学习应用程序,如UC Berkeley Caffe深度学习框架,对LLSC用户变得越来越重要。因此,LLSC用户和更广泛的数据分析和机器学习社区对这些应用程序在KNL系统上的性能非常感兴趣。我们对英特尔KNL处理器上的这些应用程序进行的数据分析基准测试表明,与之前的英特尔至强技术相比,KNL系统上的单核双精度广义矩阵乘法(DGEMM)性能提高了约3.5倍。我们的数据分析应用程序也达到了理论峰值性能的约60%。此外,机器学习应用程序Caffe在两种不同的英特尔CPU Xeon E5 v3和Xeon Phi 7210之间的性能比较表明,KNL节点的性能提高了2.7倍。
2017-07-12 astro-ph.IM cs.DC cs.PF
Speculative Segmented Sum for Sparse Matrix-Vector Multiplication on Heterogeneous Processors
Niels Bohr Institute, University of Copenhagen(哥本哈根大学尼尔斯玻尔研究所)
本文提出一种基于压缩稀疏行格式的稀疏矩阵-向量乘法算法,利用CPU和GPU核心进行推测分段求和运算,通过CPU重新排列部分和以获得正确结果,实验表明在三种异构处理器上性能显著提升。
2015-09-14 cs.DC cs.MS cs.NA
Coherence Traffic in Manycore Processors with Opaque Distributed Directories
众核处理器具有大量的通用内核,旨在以多线程方式工作。最近的众核处理器使用可扩展的分布式目录保持一致性。一个重要的例子是Intel Mesh互连,它由片上网络互连“瓦片”组成,每个瓦片都包含计算核心、本地缓存和一致性主机。分布式一致性子系统必须针对每个片外访问进行查询,从而对存储器延迟施加开销。本文研究了Intel Knights Landing处理器的物理布局,特别关注一致性子系统,并揭示了分布式目录中物理内存块的伪随机映射功能。利用这些知识,候选优化,以改善内存延迟,通过最小化的一致性流量进行了研究。尽管这些优化确实提高了存储器吞吐量,但由于映射函数的计算复杂性所导致的固有开销,这最终不会转化为性能增益。
2020-11-10 cs.AR cs.DC
Scaling Deep Learning Computation over the Inter-Core Connected Intelligence Processor with T10
Microsoft Research(微软研究院)
提出首个DL编译器T10,通过引入分布式张量抽象rTensor和广义计算-移位模式,优化AI芯片核间通信与片上存储,在Graphcore IPU上实现最高3.3倍性能提升及更大模型支持。
2024-09-24 cs.DC cs.LG
First Experiences Optimizing Smith-Waterman on Intel's Knights Landing Processor
众所周知的Smith-Waterman(SW)算法是用于局部序列比对的最常用的方法。然而,SW对于大型蛋白质数据库的计算要求非常高。存在利用在多核、FPGA或GPU上的计算并行化的若干实现,以便增加对准吞吐量。在本文中,我们探讨了英特尔KNL处理器上的软件加速。这种架构的新颖性需要修改以前的编程和优化技术的众核架构。据作者所知,这是第一次对SW算法进行KNL架构评估。我们的评估,使用著名的环境NR数据库作为基准,已经表明,多线程和SIMD开发报告的竞争力的性能(351 GCUPS)与其他实现相比。
2017-02-23 cs.DC cs.PF
Data access optimizations for highly threaded multi-core CPUs with multiple memory controllers
具有多个内存控制器的处理器和系统架构在具有常规访问模式的代码上容易显示出瓶颈和不稳定的性能数字。虽然这种影响以高速缓存抖动和别名冲突的形式为人们所熟知,但当涉及内存访问时,它们会变得更加严重。使用新的Sun UltraCore T2处理器作为原型多核设计,我们分析了低级别和应用程序基准测试中的性能模式,并通过仔细的数据布局和填充展示了规避瓶颈的方法。
2008-01-28 cs.DC cs.PF
Utilizing Reconfigurable Hardware Processors via Grid Services
计算网格通常由使用普通处理器(如Intel Pentium)的节点组成。现场可编程门阵列(FPGA)由于其固有的并行架构而能够非常好地执行某些计算密集型任务,通常导致数量级的加速。本文探讨了如何FPGA可以透明地暴露通过网格服务的远程使用,通过集成Proteus软件平台与Globus Toolkit 3.0。
2004-11-16 cs.AR cs.DC
TensorMD: Scalable Tensor-Diagram based Machine Learning Interatomic Potential on Heterogeneous Many-Core Processors
TensorMD提出基于张量图的机器学习原子间势模型,通过张量形式与可移植优化策略,在新神威超算上实现520亿原子、31皮秒/步/原子的模拟性能,创HPC+AI+MD新纪录。
2023-10-13 cs.DC physics.comp-ph
High-Throughput CNN Inference on Embedded ARM big.LITTLE Multi-Core Processors
National University of Singapore(新加坡国立大学);Indian Institute of Technology Dharwad(印度理工学院达尔瓦德分校);Indian Institute of Technology Ropar(印度理工学院罗巴尔分校)
物联网边缘智能需要卷积神经网络(CNN)推理在边缘设备本身中进行。ARM big.LITTLE架构是流行的商业边缘设备的核心。它由单个ISA异构内核组成,这些内核被分组到多个同构集群中,从而实现功耗和性能的权衡。所有的核心预计将同时采用推理,以达到最大的吞吐量。然而,跨集群并行化来自卷积核的计算所涉及的高通信开销对吞吐量是有害的。我们提出了一个称为Pipe-it的替代框架,该框架采用流水线设计将卷积层拆分到集群中,同时将其各自内核的并行化限制在指定的集群中。我们开发了一个性能预测模型,该模型仅利用卷积层描述符来预测所有允许的核心配置(类型和计数)上每个层的执行时间。然后,Pipe-it利用预测,使用高效的设计空间探索算法创建平衡的管道。Pipe-it的平均吞吐量比先前的最高吞吐量高出39%。
2020-01-22 cs.DC cs.LG cs.PF
An Efficient Thread Mapping Strategy for Multiprogramming on Manycore Processors
多核和众核处理器的出现将改变并行计算世界。应用程序正在转向增加并行性,以便有效地利用这些架构。这导致了这样一种情况,即每个应用程序都根据其并行特性和系统资源允许量创建其所需数量的线程。在这样的多线程多道程序设计环境中的任务调度是一个重大的挑战。在任务调度中,不仅要考虑任务的执行顺序,而且要考虑线程到执行资源的映射。在本文中,我们国家和讨论一些基本规则的基础上获得的结果从选定的应用程序的BOTS基准的64核TILEPro 64处理器。我们演示了如何以前高效的映射策略,如SMP Linux调度程序变得效率低下时,线程和核心的数量增长。我们提出了一种新的,低开销的技术,启发式的基础上每个CPU做一些有用的工作所花费的时间量,公平地分配工作负载的核心之间的多道程序设计环境。我们的新方法可以实现为一个杂注类似于那些在新的基于任务的OpenMP版本,或可以作为一个分布式线程映射机制,在未来的众核编程框架。我们表明,我们的线程映射方案可以优于本机GNU/Linux线程调度在单编程和多编程环境。
2014-03-31 cs.DC cs.PF
Programming Massively Parallel Architectures using MARTE: a Case Study
如今,一些工业应用程序正在移植到并行架构。这些应用程序利用了多核处理器提供的潜在并行性。自2003年以来,众核处理器,特别是GPU(图形处理单元),一直引领着浮点性能的竞赛。虽然通用微处理器的性能提升已经明显放缓,但GPU却在坚持不懈地继续改进。截至2009年,众核GPU和多核CPU的峰值浮点计算吞吐量之比约为10倍。然而,由于并行编程需要任务和数据的非平凡分布,开发人员发现很难有效地实现他们的应用程序。为了提高众核处理器的使用,这项工作提出了一个案例研究,使用UML和MARTE配置文件指定和生成OpenCL代码密集的信号处理应用程序。基准测试结果表明,我们的可行性使用MDE方法来生成GPU应用程序。
2011-03-24 cs.DC cs.SE
Power Constrained Autotuning using Graph Neural Networks
Iowa State University(爱荷华州立大学);University of Oregon(俄勒冈大学)
多核和众核处理器的最新进展已经导致科学计算应用的性能的显著改善。然而,大量复杂内核的加入也增加了整体功耗,功耗已经成为现代处理器中的一阶设计约束。虽然我们可以通过简单地应用基于软件的功耗约束来限制功耗,但盲目地应用它们将导致严重的性能下降。为了解决在现代多核处理器上提高科学应用的性能、功耗和能源效率的挑战,我们提出了一种新的基于图神经网络的自动调整方法,该方法(i)在预定义的功耗约束下优化运行时性能,(ii)通过最小化能量延迟乘积同时优化运行时性能和能源效率。这种方法背后的关键思想在于将并行代码区域建模为流感知代码图,以捕获语义和结构化代码特征。我们证明了我们的方法的有效性进行了广泛的评估$30$基准和代理/迷你应用程序与$68$ OpenMP代码区域。我们的方法确定了在不同的功率约束,产生几何平均性能提高超过$25\%$和$13\%$在32核Skylake和$16$核Haswell处理器上的默认OpenMP配置。此外,当我们针对能量延迟乘积进行优化时,对于相同的Skylake和Haswell处理器,我们的自动调谐器所选择的OpenMP配置分别在Thermal Design Power下与默认的OpenMP配置相比,表现出$21\%$和$11\%$的性能提高以及$29\%$和$18\%$的能量降低。
2023-02-22 cs.DC cs.LG cs.PF
Calculation of Stochastic Heating and Emissivity of Cosmic Dust Grains with Optimization for the Intel Many Integrated Core Architecture
宇宙尘埃粒子有效地减弱了星光。它们对星光的吸收产生了从近红外到远红外的发射光谱,这取决于尘埃颗粒的大小和性质,以及加热辐射场的光谱。近红外到中红外由非常小的颗粒的发射主导。然而,模拟这些粒子对星光的吸收在计算上是昂贵的,并且是处理恒星对尘埃加热的自洽辐射输运代码的一个重要瓶颈。在本文中,我们总结了计算宇宙尘埃的随机发射率的形式主义,这是在早期的作品中开发的,并提出了一个新的库HEATCODE实现这种形式主义的计算任意颗粒的性质和加热辐射场。我们的库是高度优化的通用处理器与多个核心和向量指令,分层内存缓存结构。HEATCODE库还可以在实现英特尔多集成核心(英特尔MIC)架构的协处理器卡上高效运行。我们将详细讨论我们为优化英特尔MIC架构而采取的优化步骤,这些步骤也显著提高了通用处理器上代码的性能,并为每个步骤提供代码示例和性能基准测试。单个英特尔至强融核协处理器(英特尔MIC架构)上的HEATCODE库性能大约是通用双路多核处理器系统的2倍,而标称功耗大致相同。该库支持异构计算采用主处理器同时与多个协处理器,可以很容易地纳入现有的辐射传输代码。
2013-11-19 astro-ph.GA astro-ph.IM cs.DC