Many Processors, Still One Computer: The Nested Parallel von Neumann Architecture and Nested BSP
Huawei Technologies Co., Ltd.(华为技术有限公司)
本文提出嵌套BSP和嵌套并行冯·诺依曼架构,通过递归分层与统一总线实现百万级对等并行,使众多处理器协同为单一计算机。
2026-10-01 cs.AR cs.DC
Bridging the Architecture Gap: Abstracting Performance-Relevant Properties of Modern Server Processors
我们描述了一种通用的建模方法,用于预测服务器处理器上的稳定状态循环的单核和多核运行时间。为此,我们严格区分应用程序和机器模型:应用程序模型包括循环代码,问题大小和其他运行时参数,而机器模型是CPU所有性能相关属性的抽象。我们介绍了一个通用的方法来确定机器模型和相关的服务器处理器架构的英特尔,AMD,IBM和Marvell/Cavium目前的结果。考虑到如此广泛的体系结构,足够的性能建模所需的特性集出奇地少。为了验证我们的方法,我们比较性能预测的经验数据的OpenMP并行预处理CG算法,其中包括计算和内存绑定的内核。单核心和多核心分析表明,该模型具有5%和10%的平均和最大相对误差。偏离模型和获得的见解进行了详细讨论。
2019-07-01 cs.AR cs.DC cs.PF
MERIT: Tensor Transform for Memory-Efficient Vision Processing on Parallel Architectures
计算密集型深度神经网络(DNN)非常适合在GPU上运行,但新开发的算法通常需要经过大量优化的DNN例程才能有效工作,而对于专用DNN架构来说,这个问题可能更加困难。在本文中,我们提出了一个数学公式,可以用于跨计算平台传输算法优化知识。我们发现并行处理器架构内的数据移动和存储可以被视为跨存储层次结构的张量变换,从而可以用数学方法描述许多内存优化技术。这种变换,我们称之为内存有效的范围内积张量(MERIT)变换,不仅可以应用于DNN任务,还可以应用于许多传统的机器学习和计算机视觉计算。此外,张量变换可以容易地映射到现有的向量处理器架构。在本文中,我们证明了许多流行的应用程序可以在GPU上转换为简洁的MERIT符号,将GPU内核加速高达20倍,而使用的代码令牌只有一半。我们还使用所提出的转换的原则,设计一个专门的硬件单元称为MERIT-z处理器。该处理器可应用于各种DNN任务以及其他计算机视觉任务,同时提供与专用DNN ASIC相当的面积和功率效率。
2019-11-07 cs.AR cs.DC
Graphic processors to speed-up simulations for the design of high performance solar receptors
图形处理单元(GPU)现在是强大而灵活的系统,适用于图形计算之外的其他目的(GPU上的通用计算- GPGPU)。我们在这里提出了一个原型集成到模拟代码,估计温度,速度和压力,设计下一代的太阳能接收器。这样的代码将委托我们对GPU的贡献,由于辐射的热传递的计算。我们使用Monte-Carlo逐线射线追踪通过有限体积。这意味着对大型数据结构进行数据并行算术转换。我们的原型的灵感来自GPUBench的源代码。我们在两个最新的图形卡(Nvidia 7800 GTX和ATI RX 1800 XL)上的性能显示,与CPU实现相比,速度提高了400以上,大部分CPU计算资源可用。由于在GPU中实现的运算符的准确性方面存在一些问题,因此我们在本报告中首先对GPU上可用的各种浮点单元进行了调查和一些测试。
2007-05-24 cs.DC physics.class-ph
Toward a Universal GPU Instruction Set Architecture: A Cross-Vendor Analysis of Hardware-Invariant Computational Primitives in Parallel Processors
Franklin & Marshall College(富兰克林与马歇尔学院);Cornell University(康奈尔大学)
本文通过跨厂商分析,识别出四个GPU架构中共有的十种硬件无关计算原语,六种可参数化方言及六种根本设计分歧,并提出一个基于并行计算物理约束的抽象执行模型,验证结果显示模型在多数情况下性能优异。
2026-03-22 cs.AR cs.DC
Architecture-Aware Optimization of an HEVC decoder on Asymmetric Multicore Processors
低功耗非对称多核处理器(AMP)由于其在能量受限的环境中具有吸引人的性能功耗比而引起了广泛的关注。然而,由于集成了具有不同性能的内核,这些处理器带来了重大的编程挑战,需要一种不对称感知的调度解决方案来仔细分配工作负载。最近的HEVC标准提供了几种高级并行化策略,是一种重要的应用,可以受益于针对当前许多移动或手持设备中存在的低功耗AMP定制的实现。在这种情况下,我们提出了一种HEVC解码器的架构感知实现,该解码器嵌入了针对配备ARM big.LITTLE AMP的Samsung Exynos 5422片上系统调整的关键度感知调度策略。通过利用ARM big.LITTLE架构中可用的NEON矢量引擎,我们的解决方案的性能和能效得到了进一步增强。实验结果表明,1080 p实时HEVC解码速度为24帧/秒,能耗降低超过20%。
2016-01-20 cs.DC cs.MM cs.PF
A Distributed Shared Memory Model and C++ Templated Meta-Programming Interface for the Epiphany RISC Array Processor
Adapteva Epiphany众核架构包括一个可扩展的2D网状片上网络(NoC),由低功耗RISC内核组成,具有最少的非核功能。尽管这样的处理器提供了高计算能量效率和并行可扩展性,但开发解决独特架构特征的有效编程模型已经提出了许多挑战。我们在这里提出了一个分布式共享内存(DSM)模型支持软件透明使用C++模板元编程技术。该方法提供了一个非常简单的并行编程模型非常适合的架构。初步结果表明,该方法,并提供洞察的编程模型的效率和能力的NoC支持DSM没有明确的控制数据移动和本地化。
2017-04-26 cs.DC
A Migratory Near Memory Processing Architecture Applied to Big Data Problems
主流供应商生产的服务器在处理大数据查询时效率低下,因为这些系统的基本架构中存在固有的瓶颈。当前的服务器刀片包含通过互连芯片组连接到DRAM存储器和磁盘的多核处理器。多核处理器芯片执行所有计算,而DRAM和磁盘存储数据,但没有处理能力。要执行数据库查询,数据必须在DRAM和小型缓存之间以及DRAM和磁盘之间来回移动。对于大数据应用程序来说,这种数据移动是繁重的。迁移近内存服务器通过将大量轻量级处理器直接放置到内存系统中来解决这个瓶颈。这些处理器直接在大数据应用程序的关系、顶点和边缘上运行,而无需在DRAM、缓存和重量级多核处理器之间来回穿梭大量数据。本文讨论了这种体系结构在关系数据库SELECT和JOIN查询中的应用。初步结果表明,端到端的数量级加速。
2020-03-20 cs.DB cs.DC
Cache-aware Parallel Programming for Manycore Processors
随着技术的快速发展,多核和众核处理器已经成为受益于晶体管数量增加的有前途的架构。向这些并行架构的过渡使今天成为研究并行计算挑战的激动人心的时刻。TILEPro64是一个众核加速器,由64个通过多个8x8网格网络互连的瓦片组成。默认情况下,它包含每瓦片缓存并支持缓存一致性共享内存。在本文中,我们提出了一种编程技术,以利用分布式缓存设施在众核处理器。然而,与这一领域的其他工作不同,我们的方法不使用特定于体系结构的库。相反,我们为程序员提供了一种新的技术,如何规划未来的非均匀缓存架构(NUCA)众核系统,铭记他们的缓存组织。我们表明,我们的本地化编程方法可以导致并行化效率(加速)的显着提高。
2014-03-31 cs.DC cs.PF
Reconfigurable co-processor architecture with limited numerical precision to accelerate deep convolutional neural networks
University of Moratuwa(莫拉图瓦大学)
卷积神经网络(CNN)广泛用于深度学习应用,例如视觉系统、机器人等。然而,现有的软件解决方案效率不高。因此,已经提出了许多硬件加速器来优化实现的性能、功率和资源利用。在现有的解决方案中,基于现场可编程门阵列(FPGA)的架构提供了更好的成本-能量-性能权衡以及可扩展性和最小化开发时间。在本文中,我们提出了一种模型无关的可重构协处理架构来加速CNN。我们的体系结构由并行乘法和累加(MAC)单元与高速缓存技术和互连网络,以利用最大的数据并行。与现有的解决方案相比,我们引入有限精度的32位Q格式定点量化的算术表示和操作。因此,我们的架构实现了显著降低资源利用率与竞争力的准确性。此外,我们开发了一个汇编类型的微指令来访问协处理结构,以管理逐层并行,从而使有限的资源重用。最后,我们在Xilinx Virtex 7 FPGA上测试了高达9 x9内核大小的架构,在3x 3内核大小下实现了高达226.2 GOp/S的吞吐量。
2021-08-21 cs.AI cs.AR cs.DC
Energy Efficiency Features of the Intel Skylake-SP Processor and Their Impact on Performance
绝大多数高性能计算(HPC)系统和服务器基础架构都使用英特尔x86处理器。这使得这些处理器的架构分析与管理员和性能工程师的广泛受众相关。在本文中,我们描述了英特尔Skylake-SP处理器的硬件控制的能源效率功能的影响。由于微架构周期延长,这扩展了英特尔以前的Tick-Tock方案,我们的研究结果也将与后续架构相关。本文的研究结果包括以下几点:C状态延迟在Haswell-EP处理器一代中显着增加。控制非核频率的机制具有大约10 ms的延迟,并且不可能真正将非核频率固定到特定水平。使用512位宽向量的工作负载的无序节流也发生在低处理器频率下。数据对处理器功耗有显著影响,这会导致仅依赖于指令的能量模型出现较大误差。
2020-09-11 cs.DC
A new kind of parallelism and its programming in the Explicitly Many-Processor Approach
处理器加速器是有效的,因为它们不(完全)根据存储程序计算机的原理工作。它们使用某种并行性,并且很难有效地对它们进行编程:通过顺序编程(并考虑)的并行架构。最近引入的EMPA架构使用了一种新的并行性,它提供了达到更高并行度的潜力,也提供了额外的可能性和挑战。它不仅提供同步和固有的并行化,而且还接管了操作系统通常提供的一些职责,甚至为最终用户打开了迄今为止关闭的机器指令。已经准备好了一个基于Y86内核的EMPA体系结构的工具链,包括一个汇编器和一个周期精确的模拟器。汇编器配备了一些元指令,允许使用EMPA架构的所有高级可能性,同时提供(几乎)传统风格的编程。周期精确模拟器能够执行EMPA感知的目标代码,是开发EMPA算法的良好工具
2016-08-24 cs.DC
First Experiences Optimizing Smith-Waterman on Intel's Knights Landing Processor
众所周知的Smith-Waterman(SW)算法是用于局部序列比对的最常用的方法。然而,SW对于大型蛋白质数据库的计算要求非常高。存在利用在多核、FPGA或GPU上的计算并行化的若干实现,以便增加对准吞吐量。在本文中,我们探讨了英特尔KNL处理器上的软件加速。这种架构的新颖性需要修改以前的编程和优化技术的众核架构。据作者所知,这是第一次对SW算法进行KNL架构评估。我们的评估,使用著名的环境NR数据库作为基准,已经表明,多线程和SIMD开发报告的竞争力的性能(351 GCUPS)与其他实现相比。
2017-02-23 cs.DC cs.PF
Scheduling Algorithms for Asymmetric Multi-core Processors
由于对处理器性能的要求越来越高,功耗不断增加,多核处理器技术应运而生,成为当前和未来十年的主流技术。研究提倡非对称多核处理器系统,以更好地利用芯片的真实状态。然而,非对称多核架构对传统上假定硬件同构的操作系统调度器提出了新的挑战。因此,如何将线程调度到内核已成为操作系统内核的一个重要问题。在本文中,提出了调度算法的非对称多核处理器进行了分类。本文通过对这几类典型算法的研究,对非对称多核系统的调度算法进行了综述。
2017-02-14 cs.DC
Implementing OpenSHMEM for the Adapteva Epiphany RISC Array Processor
高能效的Adapteva Epiphany架构在具有快速片上网络(NoC)的RISC内核的物理紧凑型2D阵列中展示了巨大的众核可扩展性。通过能够执行MIMD的完全发散的核,核和网络的物理拓扑和存储器映射能力很好地转化为分区全局地址空间(PGAS)并行编程模型。在对使用线程MPI的双侧通信的使用进行调查之后,正在探索使用SHMEM的单侧通信。在这里,我们提出了正在进行的工作上的OpenSHMEM 1.2实现的主显节架构的发展。
2016-04-14 cs.DC
Scalable Triadic Analysis of Large-Scale Graphs: Multi-Core vs. Multi- Processor vs. Multi-Threaded Shared Memory Architectures
三元分析包含一组有用的图挖掘方法,这些方法以三元组的概念为中心,三元组是三个节点的子图。这些方法经常应用于社会科学以及许多其他不同的领域。三元组方法通常对三元组普查进行操作,该普查对图中每个可能的边配置的三元组的数量进行计数。与其他图算法一样,三元普查算法在图达到数千万到数十亿个节点时不能很好地扩展。为了实现大规模图的三元分析,我们开发并优化了一个三元普查算法,以有效地执行共享内存架构。然后,我们进行了性能评估的三个特定的系统:Cray XMT,HP Superdome,和AMD多核NUMA机的并行三元普查算法。这三个系统具有共享的内存架构,但具有明显不同的硬件能力来管理并行性。
2012-09-27 cs.DC cs.SI
Efficient Multidimensional Data Redistribution for Resizable Parallel Computations
在集群超级计算机上运行的传统并行处理器仅支持静态调度,其中分配给应用程序的处理器数量在作业的执行过程中保持固定。这导致空闲系统资源的利用不足,从而降低了整体系统吞吐量。在我们的研究中,我们已经开发了一个原型框架称为ReSHAPE,它支持在分布式内存平台上执行的并行MPI应用程序的动态编译。ReSHAPE中的MySQL库支持释放和获取处理器,并有效地将应用程序状态重新分发到一组新的处理器。在本文中,我们推导出一个算法重新分配二维块循环数组从$P$到$Q$处理器,组织为2-D处理器网格。如果$P_r \leq Q_r$和$P_c \leq Q_c$,则该算法确保用于数据重新分配的无竞争通信调度。在其他情况下,该算法在通信调度上实现循环行和列移位,以最小化节点争用。
2007-06-14 cs.DC
Architecture-Aware Configuration and Scheduling of Matrix Multiplication on Asymmetric Multicore Processors
Universidad Jaume I(豪梅一世大学);Universidad Complutense de Madrid(马德里康普顿斯大学)
本文设计了面向架构的矩阵乘法优化,通过缓存感知配置和异构静态动态调度策略,提升ARM big.LITTLE异构多核处理器的性能与能效。
2015-06-30 cs.DC cs.MS cs.NA
Parallel Performance of MPI Sorting Algorithms on Dual-Core Processor Windows-Based Systems
消息传递接口(MPI)是实现并行程序的一种常用接口.虽然基于Windows的体系结构提供了并行执行和多线程的设施,很少有人关注在这些平台上使用MPI。在本文中,我们使用基于Windows的双核平台上的并行进程的数量和核的数量对性能的影响的三个MPI并行实现的一些排序算法。
2011-05-30 cs.DC
Programming Massively Parallel Architectures using MARTE: a Case Study
如今,一些工业应用程序正在移植到并行架构。这些应用程序利用了多核处理器提供的潜在并行性。自2003年以来,众核处理器,特别是GPU(图形处理单元),一直引领着浮点性能的竞赛。虽然通用微处理器的性能提升已经明显放缓,但GPU却在坚持不懈地继续改进。截至2009年,众核GPU和多核CPU的峰值浮点计算吞吐量之比约为10倍。然而,由于并行编程需要任务和数据的非平凡分布,开发人员发现很难有效地实现他们的应用程序。为了提高众核处理器的使用,这项工作提出了一个案例研究,使用UML和MARTE配置文件指定和生成OpenCL代码密集的信号处理应用程序。基准测试结果表明,我们的可行性使用MDE方法来生成GPU应用程序。
2011-03-24 cs.DC cs.SE
Improving the throughput of the AES algorithm with multicore processors
AES,高级加密标准,可以被认为是使用最广泛的现代对称密钥加密标准。要使用AES算法加密/解密文件,文件必须经历一组复杂的计算步骤。因此,AES算法的软件实现将是缓慢的并且消耗大量的时间来完成。近年来,存储和传输的数据的巨大增长使得当需要加密/解密这种数据时,这个问题变得更加令人生畏。为了解决这个问题,在本文中,我们提出了一个广泛的研究,提高AES加密算法的吞吐量,利用最先进的多核架构。我们采用一个实现AES算法的顺序程序,并将其转换为在多核架构上运行,只需最小的工作量。我们实现了两个不同的并行程序,一个是Linux中的fork系统调用,另一个是pthreads,POSIX标准的线程。后来,我们在不同的多核架构上运行了两个版本的并行程序,并比较和分析了实现之间和不同架构之间的吞吐量。在我们进行的所有实验中,pthreads实现都表现出色,并且在32核处理器(我们拥有的最大核数)上获得的最佳吞吐量约为7 Gbps。
2014-03-28 cs.CR cs.DC
Balanced Partitioning of Several Cache-Oblivious Algorithms
Frigo等人提出了一种理想的缓存模型和递归技术,以缓存无关的方式设计顺序缓存高效算法。Ballard等人指出,将该技术扩展到任意架构是一个基本的开放问题。Ballard等人提出了另一个悬而未决的问题,即如何在任意数量的处理器上准确有效地并行化Strassen算法。我们提出了一种新的方式分区的高速缓存不经意的算法,以实现完美的强缩放任意数量,甚至是素数,在一定范围内的共享内存设置的处理器。我们的方法是处理器感知但缓存不经意(PACO)。我们展示了我们的方法在几个重要的高速缓存无关算法,包括LCS,一维,GAP,经典的矩形矩阵乘法的半环,和Strassen的算法。我们将讨论如何将我们的方法扩展到分布式内存架构,甚至异构计算系统。因此,我们的工作可能会提供一个新的角度上的基本开放的问题,扩展递归缓存无关技术的任意架构。我们提供了一个几乎精确的解决方案,并行化Strassen的开放问题。我们的方法可能会提供一个新的角度扩展递归缓存无关技术的任意架构。我们的所有算法都比最著名的算法表现出更好的可扩展性或更好的总体并行缓存复杂性。初步的实验证明了我们的理论预测,PACO算法可以显着优于最先进的处理器不经意(PO)和处理器感知(PA)的同行。
2020-11-03 cs.DC cs.DS
Study and evaluation of an Irregular Graph Algorithm on Multicore and GPU Processor Architectures
不规则应用是对片上多处理器(CMP)的性能可扩展性提出重大挑战的计算应用领域之一。这样的应用程序具有非常少的计算和不可预测的存储器访问模式,使得它们与计算受限的应用程序相比是内存受限的。由于处理器和存储器性能之间的差距继续存在,难以隐藏和减少这种差距是导致这些应用程序在CMP上性能不佳的重要因素之一。本论文的目标是克服许多这样的挑战,在性能加速的不规则图算法称为三元组普查。我们在两种截然不同的芯片多处理器上加速了Triad Census算法:双插槽英特尔至强多核(每个插槽8个硬件线程)和240处理器内核的NVIDIA Tesla C1060 GPGPU(每个内核128个硬件线程)。在英特尔多核至强系统上获得的实验结果显示,对于真实世界的图形数据集,性能加速(相对于基线顺序)最大为56倍,平均为33倍,最小为8.3倍。在NVIDIA Tesla C1060 GPGPU上,我们能够几乎平等地匹配多核结果-58.4倍最大,32.8倍平均和4.2倍最小加速比相对于基线序列。在原始性能方面,对于称为Patents网络的图形数据集,我们在英特尔至强多核(16 hw线程)上的结果比之前在Cray XMT(16 hw线程)上的结果快1.27倍,而在GPGPU上实现的结果相对较慢(0.72倍)。据我们所知,该算法只在超级计算机级计算机Cray XMT上进行了加速,并且没有工作证明该算法在相对较低成本…
2016-03-08 cs.DC cs.PF
Towards Big Topic Modeling
Soochow University(苏州大学);City University of Hong Kong(香港城市大学)
为了解决大主题建模问题,需要降低批处理潜在狄利克雷分配(LDA)算法的时间复杂度和空间复杂度。虽然多处理器结构上的并行LDA算法具有较低的时间复杂度和空间复杂度,但其处理器间的通信开销往往与词汇量和主题数成线性关系,导致严重的可扩展性问题。为了降低处理器之间的通信复杂性,提高系统的可扩展性,提出了一种基于幂律的通信高效的并行主题建模体系结构。我们提出的通信效率的并行架构与在线信念传播(OBP)算法被称为POBP大主题建模任务。大量的实验结果证实,POBP具有以下优点,以解决大主题建模问题:1)高精度,2)通信效率,3)速度快,和4)恒定的内存使用时,与最近的国家的最先进的并行LDA算法在多处理器架构。
2013-11-17 cs.DC cs.IR cs.LG
Calculation of Stochastic Heating and Emissivity of Cosmic Dust Grains with Optimization for the Intel Many Integrated Core Architecture
宇宙尘埃粒子有效地减弱了星光。它们对星光的吸收产生了从近红外到远红外的发射光谱,这取决于尘埃颗粒的大小和性质,以及加热辐射场的光谱。近红外到中红外由非常小的颗粒的发射主导。然而,模拟这些粒子对星光的吸收在计算上是昂贵的,并且是处理恒星对尘埃加热的自洽辐射输运代码的一个重要瓶颈。在本文中,我们总结了计算宇宙尘埃的随机发射率的形式主义,这是在早期的作品中开发的,并提出了一个新的库HEATCODE实现这种形式主义的计算任意颗粒的性质和加热辐射场。我们的库是高度优化的通用处理器与多个核心和向量指令,分层内存缓存结构。HEATCODE库还可以在实现英特尔多集成核心(英特尔MIC)架构的协处理器卡上高效运行。我们将详细讨论我们为优化英特尔MIC架构而采取的优化步骤,这些步骤也显著提高了通用处理器上代码的性能,并为每个步骤提供代码示例和性能基准测试。单个英特尔至强融核协处理器(英特尔MIC架构)上的HEATCODE库性能大约是通用双路多核处理器系统的2倍,而标称功耗大致相同。该库支持异构计算采用主处理器同时与多个协处理器,可以很容易地纳入现有的辐射传输代码。
2013-11-19 astro-ph.GA astro-ph.IM cs.DC