Parallelizing non-linear sequential models over the sequence length
Machine Discovery Ltd.(Machine Discovery 有限公司);University of Oxford(牛津大学)
本文提出一种无需特殊架构即可在序列长度上并行化非线性序列模型的算法,将GPU评估加速最多3个数量级、训练加速超10倍,并发现GRU在17k时间样本长序列分类中的有效性。
2024-01-16 cs.DC cs.LG physics.comp-ph
Parallelizing a modern GPU simulator
本文提出使用OpenMP对现代GPU模拟器Accel-sim进行确定性并行化,以最小代码改动实现平均5.8倍、最高14倍的加速,使原本五天的模拟缩短至12小时内,且不损失准确性。
2025-05-26 cs.AR cs.DC cs.PF
Accelerating Barnes-Hut t-SNE Algorithm by Efficient Parallelization on Multi-Core CPUs
Intel Corporation(英特尔公司)
t-SNE仍然是可视化高维数据的最流行的嵌入技术之一。大多数标准的t-SNE包,如scikit-learn,都使用Barnes-Hut t-SNE(BH t-SNE)算法来处理大型数据集。然而,该算法的现有CPU实现是低效的。在这项工作中,我们通过缓存优化,SIMD,并行顺序步骤,并提高多线程步骤的并行化加速BH t-SNE的CPU。我们的实现(Acc-t-SNE)在32核英特尔(R)Icelake云实例上分别比scikit-learn和daal 4py的最先进BH t-SNE实现快261倍和4倍。
2022-12-22 cs.AI cs.DC cs.LG
Performance metrics in a hybrid MPI-OpenMP based molecular dynamics simulation with short-range interactions
我们讨论了分子动力学(MD)中的计算瓶颈,并描述了并行计算密集型任务的挑战。我们提出了一种混合算法,使用MPI(消息传递接口)与OpenMP线程的并行化的广义MD计算方案的系统与短程原子间的相互作用。该算法进行了讨论的背景下,纳米压痕的铬膜与碳压头使用嵌入原子法潜在的铬-铬相互作用和Morse潜在的铬-碳相互作用。我们研究了一系列MPIthread组合的算法的性能,并发现性能强烈依赖于多核处理器中的计算任务和负载共享。该算法的MPI和我们的混合方案的规模差,观察到优于纯消息传递方案,尽管在集群中利用相同数量的处理器或核心。我们的算法实现的速度相比,取得了良好的标准MD包。
2015-07-25 cond-mat.mtrl-sci cs.DC physics.comp-ph
Simulation and Analysis of Distributed Wireless Sensor Network using Message Passing Interface
无线传感器网络(WSN)被许多行业所使用,从环境监测系统到NASA的太空探索计划,因为它允许社会以更少的成本和维护在问题发生之前进行监测和预防。本文旨在提出和分析一种高效的进程间通信(IPC)架构,使用最近邻/网格为基础的套接字架构。为了提高无线传感器网络的安全性,还使用了AES加密算法的并行化版本。首先,所提出的架构进行了比较,并与其他完善的体系结构。接下来,阐明AES加密算法的优点和缺点。通信采用C语言的消息解析接口(MPI)库,加密算法采用OpenMP并行化。接下来,对从多个模拟获得的结果进行分析。最后得出的结论是,基于网格的IPC架构与AES并行加密,有助于保持安全的无线传感器网络的通信,同时成本和功耗有效的操作。
2020-07-01 cs.DC
A Dual Heterogeneous Island Genetic Algorithm for Solving Large Size Flexible Flow Shop Scheduling Problems on Hybrid multi-core CPU and GPU Platforms
柔性流水车间调度问题是一个NP难问题,当处理大规模的实例时,它需要大量的求解时间来找到最优甚至足够的解。为此,本文提出了一种由并行细胞模型和并行伪模型组成的双岛遗传算法。这是一种与底层架构高度一致的两级并行化,非常适合GPU和多核CPU内部或之间的并行化。在更高的层次上,通过利用不同的方法在搜索空间内探索新的区域来提高孤岛遗传算法的效率。同时,元胞模型通过分散化保持种群多样性,伪模型通过在较低层次上采用互补双亲策略增强搜索能力。为促进孤岛间的信息共享,设计了一种穿透式迁移策略,该策略自适应地设置了孤岛间的拓扑结构、迁移速率、迁移间隔和迁移策略。最后,在一些大规模柔性流水车间调度实例上进行了测试,并与其他并行算法进行了比较。计算结果表明,该方法不仅能获得较好的结果,而且能缩短计算时间。
2019-03-26 cs.DC
Solving the Bethe-Salpeter equation on massively parallel architectures
在过去的十年里,大规模并行计算集群迅速发展,从领先的超级计算设施到普通的大学计算中心。私营部门的许多公司也经历了类似的演变。在这种情况下,软件和中间件库的无缝集成是确保科学代码的可移植性并保证它们延长生命周期的关键因素。在这项工作中,我们描述了集成的ChASE库,一个现代的并行本征解算器,到现有的遗留代码的第一性原理计算材料的光学性质通过解决的Bethe-Salpeter方程的光学偏振功能。我们的数值测试表明,作为集成ChASE和并行化的读取例程的结果,代码经历了显着的加速,并大大提高了多核和众核架构上的扩展行为。我们证明,这样一个现代化的BSE代码,充分利用并行计算架构和文件系统,使域科学家能够准确地研究复杂的材料系统,以前无法访问。
2020-06-15 cs.CE cs.DC physics.comp-ph
High-Performance Physics Simulations Using Multi-Core CPUs and GPGPUs in a Volunteer Computing Context
本文提出了两个概念上简单的方法并行化的并行回火蒙特卡罗模拟在分布式志愿者计算的情况下,计算机属于公众使用。第一种方法使用传统的多线程。第二种方法使用CUDA,一种图形卡计算系统。并行回火,如并行随机数生成和映射的蒙特卡洛链到不同的线程的挑战进行了说明。虽然CPU上的常规多线程已得到很好的建立,但GPGPU编程技术和工艺仍在开发中,并存在若干挑战,例如有效使用相对大量的线程。在并行回火中有多个链允许以类似于串行算法的方式进行并行化。志愿者计算引入了重要的限制,高性能计算,我们表明,这两个版本的应用程序都能够适应志愿者的计算机的变化和不可预测的计算资源,同时离开机器响应足够使用。我们目前的实验表明,这两种方法的可扩展性能,并表明该方法的效率随着问题的大小而增加。
2010-03-31 cs.DC cs.PF physics.comp-ph
Comparative study of performance of parallel Alpha Beta Pruning for different architectures
在计算机系统中,根据环境状态、系统目标等各种状态搜索最佳可能动作的优化已经成为主要的研究领域。在任何一种搜索算法中,从已知的所有可能性中寻找最佳可能解可以导致整个状态搜索空间的构造,通常称为极大极小算法。这可能导致不切实际的时间复杂度,其可能不适合于实时的搜索操作。减少计算时间的实际解决方案之一是Alpha Beta剪枝。而不是搜索整个状态空间,我们修剪不必要的分支,这有助于减少大量的时间。本文重点介绍了Alpha Beta剪枝算法的各种可能的实现,并给出了一个什么样的算法可以用于并行洞察。关于如何使Alpha Beta剪枝更快,已经进行了各种研究。针对GPU特定架构(如网格(CUDA)等)或共享内存模型(OpenMP)的优化Alpha Beta剪枝有助于减少计算时间。本文以象棋博弈为例,研究了顺序和不同并行形式的Alpha Beta剪枝方法的比较及其各自的效率。
2019-10-29 cs.DC cs.PF
The Effect of Multi-core Communication Architecture on System Performance
MPSoC由于其解决计算昂贵应用的潜力而越来越受欢迎。多核处理器将两个或多个独立的核心(通常是CPU)组合到由单个集成电路(芯片)组成的单个封装中。然而,随着单个芯片上的组件数量及其性能的不断增加,从基于计算的设计转向基于通信的设计变得势在必行。因此,通信架构在整个系统的面积、性能和能耗方面起着重要作用。本文使用FPGA中的Micro Blaze等多个软核(IP)来研究不同连接拓扑对并行程序性能的影响。
2016-04-13 cs.DC
Hurry-up: Scaling Web Search on Big/Little Multi-core Architectures
大/小架构等异构多核系统已作为一种有吸引力的服务器设计选项推出,有可能在数据中心的电力限制下提高性能。由于大的高性能和低功耗的核心都可以在同一个系统上运行,共享工作负载处理,线程映射/调度变得更具挑战性。当考虑到异构核对面向用户的应用程序(如Web搜索)所经历的服务质量(表示为尾部延迟)的不同权衡时,这一点尤其困难。在这项工作中,我们提出了Hurry-up,一个运行时线程映射解决方案,旨在选择最合适的异构核心上运行的单个请求,以改善尾部延迟。加速在大核心上加速计算密集型请求,同时让不太密集的线程在小核心上执行。我们实现并部署在一个真正的64位大/小架构(ARM朱诺),并表明,相比于Linux上的保守政策,Hurry-up减少了39.5%(平均)的服务器尾部延迟。
2019-12-20 cs.DC
Performance of the Vipera framework for DSLs on micro-core architectures
Vipera提供了一个编译器和运行时框架,用于在微核心架构上实现动态领域特定语言。生成的代码的性能和代码大小在这些体系结构上至关重要。在本文中,我们提出了我们的调查结果的效率蝰蛇的代码性能和大小。
2022-09-02 cs.DC cs.PL
MGSim - Simulation tools for multi-core processor architectures
MGSim是一个用于片上硬件组件的开源离散事件模拟器,由阿姆斯特丹大学开发。它旨在成为一个研究和教学工具,研究在众核和硬件多线程处理器上的细粒度硬件/软件交互。它包括对具有不同指令集的内核模型的支持、可配置的多核互连、多个可配置的高速缓存和内存模型、专用I/O子系统以及全面的监控和交互设施。MGSim附带的默认模型配置实现了微电网,这是一种具有硬件并发管理的众核架构。此外,MGSim主要用C++编写,并使用对象类来表示芯片组件。它针对可描述为流程网络的架构模型进行了优化。
2013-02-06 cs.AR cs.DC
Balanced Partitioning of Several Cache-Oblivious Algorithms
Frigo等人提出了一种理想的缓存模型和递归技术,以缓存无关的方式设计顺序缓存高效算法。Ballard等人指出,将该技术扩展到任意架构是一个基本的开放问题。Ballard等人提出了另一个悬而未决的问题,即如何在任意数量的处理器上准确有效地并行化Strassen算法。我们提出了一种新的方式分区的高速缓存不经意的算法,以实现完美的强缩放任意数量,甚至是素数,在一定范围内的共享内存设置的处理器。我们的方法是处理器感知但缓存不经意(PACO)。我们展示了我们的方法在几个重要的高速缓存无关算法,包括LCS,一维,GAP,经典的矩形矩阵乘法的半环,和Strassen的算法。我们将讨论如何将我们的方法扩展到分布式内存架构,甚至异构计算系统。因此,我们的工作可能会提供一个新的角度上的基本开放的问题,扩展递归缓存无关技术的任意架构。我们提供了一个几乎精确的解决方案,并行化Strassen的开放问题。我们的方法可能会提供一个新的角度扩展递归缓存无关技术的任意架构。我们的所有算法都比最著名的算法表现出更好的可扩展性或更好的总体并行缓存复杂性。初步的实验证明了我们的理论预测,PACO算法可以显着优于最先进的处理器不经意(PO)和处理器感知(PA)的同行。
2020-11-03 cs.DC cs.DS
Implementing CNN Layers on the Manticore Cluster-Based Many-Core Architecture
ETH Zurich(苏黎世联邦理工学院)
本文档介绍了基于Manticore群集的众核架构上的基本卷积神经网络(CNN)层的实现,并讨论了它们的特性和权衡。
2021-04-16 cs.AR cs.CV cs.DC
Benchmarking micro-core architectures for detecting disasters at the edge
利用实时数据来检测野火、极端天气、地震、海啸、人类健康紧急情况或全球疾病等灾害是一个重要的机会。然而,这些数据大部分是在实地产生的,所涉及的数量意味着将其传输回中央数据中心进行处理是不切实际的。相反,边缘设备需要从传感器数据流中生成见解,但考虑到这些设备必须在严格的性能和功耗限制下运行,一个重要的问题是最合适的CPU架构。我们认为在这里发挥重要作用的一类设备是微内核,它将许多简单的低功耗内核组合在单个芯片中。然而,有很多选择,一个重要的问题是哪一个最适合什么情况。本文介绍了Eithne框架,旨在简化微核心架构的基准测试。三个基准测试,LINPACK,DFT和FFT,已经在这个框架上实现,我们使用这些来探索在灾难检测边缘操作的背景下常见的微核心设计的关键特征和关注点。这项工作的结果是一个可扩展的框架,社区可以使用它来帮助开发和测试这些设备。
2020-11-10 cs.DC
Graph Coloring Algorithms for Muti-core and Massively Multithreaded Architectures
我们探讨了架构和算法设计的背景下,共享内存平台和一个特定的图形问题的科学和高性能计算,距离-1图着色的核心重要性之间的相互作用。我们介绍了两种不同的多线程启发式算法的规定,NP难,问题。第一种算法依赖于推测和迭代,适合于任何共享内存系统。第二种算法使用了Cray的基本原理,并针对非传统的、大规模多线程的Cray XMT系统。我们研究了Cray XMT和两个多核系统,Sun Niagara 2和Intel Nehalem的算法的性能。这三个系统共同代表了一系列多线程功能和内存结构。作为测试平台,我们使用精心选择的综合生成的大规模图形,以覆盖广泛的输入类型。实验结果表明,该算法具有可扩展的运行时性能,并且使用的颜色数量与底层串行算法几乎相同,这在实践中是有效的。该研究为在众核体系结构上设计高性能的非规则问题算法提供了参考。
2012-05-16 cs.DC
A Fast and Scalable Graph Coloring Algorithm for Multi-core and Many-core Architectures
非结构化数据上的非规则计算是并行程序设计中一类重要的问题。图着色通常是一个重要的预处理步骤,例如,作为一种执行安全并行执行的依赖性分析的方式。着色算法的总运行时间会增加应用程序的总体并行开销,而使用的颜色数量决定了公开的并行度。使用尽可能少的颜色的快速和可扩展的着色算法对于许多依赖于运行时依赖性分析的不规则应用程序的整体并行性能和可扩展性至关重要。Catalyurek等人提出了一种图着色算法,该算法依赖于颜色的推测性局部分配。在本文中,我们提出了一个改进的版本,运行更乐观的线程同步和减少冲突的数量相比,催化剂等。的算法。我们证明了新技术在多核和众核系统上的扩展性更好,并且在具有高度数顶点的图上的执行速度比其前身快1.5倍,同时将颜色数量保持在相同的接近最佳水平。
2015-05-18 cs.DC
Multi-threaded Sparse Matrix-Matrix Multiplication for Many-Core and GPU Architectures
稀疏矩阵-矩阵乘法是一个关键的核心,在科学计算和图分析等领域有着广泛的应用。过去已经研究了几种算法用于这个基本内核。在本文中,我们开发了稀疏矩阵矩阵乘法的并行算法,重点是跨不同的高性能计算架构的性能移植。这些算法的性能取决于它们所使用的数据结构。我们比较了这些算法中不同类型的数据结构,并展示了这些数据结构之间的性能差异。此外,我们开发了一个元算法,kkSpGEMM,选择正确的算法和数据结构的基础上的问题的特点。我们展示了三种体系结构的性能比较,并证明了社区需要开发两个阶段的稀疏矩阵矩阵乘法实现所涉及的数据结构的有效重用。
2018-01-09 cs.DC
Parallel Programming Model for the Epiphany Many-Core Coprocessor Using Threaded MPI
Adapteva Epiphany众核架构包括具有最少非核功能的低功耗RISC内核的2D平铺网格片上网络(NoC)。它为整数和浮点计算以及并行可扩展性提供了高计算能效。然而,尽管有有趣的架构特性,一个令人信服的编程模型还没有提出日期。本文展示了一个有效的并行编程模型的Epiphany架构的消息传递接口(MPI)标准的基础上。使用MPI利用了Epiphany架构和传统的并行分布式串行核心集群之间的相似性。我们的方法使MPI代码执行的RISC阵列处理器上的修改很少,并实现高性能。我们报告了四种算法(密集矩阵-矩阵乘法、N体粒子相互作用、五点2D模板更新和2D FFT)的线程MPI实现的基准测试结果,并强调了快速核间通信对架构的重要性。
2015-06-17 cs.DC
Performance Engineering for a Medical Imaging Application on the Intel Xeon Phi Accelerator
University Erlangen–Nuremberg(埃尔朗根-纽伦堡大学)
我们研究了基于英特尔多集成核心架构的Xeon Phi,以确定其是否适合运行FDK算法--在锥束计算机断层扫描中执行3D图像重建的最常用算法。我们研究的挑战,有效地并行化的应用程序和手段,使线程之间的合理的数据共享,尽管缺乏共享的最后一级缓存。除了并行化之外,SIMD向量化对于Xeon Phi的良好性能至关重要;我们执行各种微基准测试来研究平台的新向量指令集,并特别强调新引入的向量收集功能。我们为应用程序改进了以前的性能模型,并将其适用于Xeon Phi,以验证我们优化的手写汇编实现的性能,以及几种不同的自动向量化方法的性能。
2013-12-17 cs.CV cs.DC cs.PF
An Improved Scheme for Pre-computed Patterns in Core-based SoC Architecture
随着技术的进步,集成电路已经在单个芯片中包括更多的功能和更多的复杂性。虽然测试方法不断改进,但电路复杂度的增加,使得测试成为一个具有挑战性的问题。数字电路测试中的两个重要挑战是测试时间和访问被测电路(CUT)进行测试。这些挑战在复杂的片上系统(SoC)领域变得更加重要。本文提出了一种改进的基于核的片上系统测试模式生成方案。这种方法减少了预先计算的测试模式的数量,因此,测试应用时间(TAT)将减少。ISCAS89基准电路的实验结果表明,测试时钟周期数的改善。
2017-11-22 cs.DC
Compact Native Code Generation for Dynamic Languages on Micro-core Architectures
微核心架构将许多简单、低内存、低功耗的CPU核心组合到单个芯片上。该技术可能提供显着的性能和低功耗,不仅在嵌入式,边缘和物联网应用中具有极大的兴趣,而且还可能作为数据中心工作负载的加速器。由于这种CPU的限制性,这些架构传统上对编程具有挑战性,尤其是由于内存量非常有限(通常约为32KB)和技术特性。然而,最近,像Python这样的动态语言已经被移植到许多微内核上,但是这些通常作为解释器提供,这具有相关的性能限制。针对四个目标的性能,无限的代码大小,架构之间的可移植性,并保持动态语言的程序员生产力的好处,有限的内存可用意味着经典的技术采用动态语言编译器,如即时(JIT),根本不可行。在本文中,我们描述了一个编译方法的微核心架构,旨在满足这四个目标的动态语言的建设,并使用Python作为一种工具,探索这在取代现有的微核心解释器的应用。我们的实验集中在性能指标,架构的可移植性,最小内存大小,和程序员的生产力,比较我们的方法对编写本机C代码。这项工作的成果是确定了一系列技术,这些技术不仅适用于编译Python代码,而且适用于各种各样的微内核上的动态语言。
2021-02-03 cs.DC cs.PL
SWIFT: Fast algorithms for multi-resolution SPH on multi-core architectures
本文介绍了一种新的方法来寻找邻域光滑粒子流体动力学(SPH)模拟与大的动态范围内的光滑长度。这种方法是基于分层细胞分解,排序的相互作用,和基于任务的制定。它被证明是比传统的基于树的代码更快,比基于域分解的方法在共享内存的并行架构,如多核扩展更好。
2013-09-15 astro-ph.CO astro-ph.IM cs.DC
Efficient Execution of Irregular Wavefront Propagation Pattern on Many Integrated Core Architecture
图像处理算法的有效执行是生物信息学的一个活跃领域。在图像处理中,与不规则数据结构一起工作的一类算法或计算模式是不规则波前传播模式(IWPP)。在这个类中,元素以波传播的形式将信息传播给邻居。这种传播导致对数据的不规则访问和扩展。由于这种不规则性,这类算法的当前实现需要原子操作,这是非常昂贵的,并且还限制了在多集成核(MIC)架构中使用单指令多数据(SIMD)指令的实现,这对于在该处理器上获得高性能是至关重要的。本研究的目的是重新设计的不规则波前传播模式算法,以使处理器上的高效执行与许多集成的核心架构,使用SIMD指令。在这项工作中,使用英特尔®至强融核TM协处理器,我们实现了一个矢量版本的IWPP,与非矢量版本相比,其增益高达5.63倍,一个使用先进先出(FIFO)队列的并行版本,与协处理器上的单核版本相比,其加速高达55倍,使用优先级队列的版本,其性能比文献中可用的基于GPU的实现的最快版本高1.62倍,以及允许处理比英特尔®至强融核TM更大的图像的异构处理器之间的协作版本存储器,并且还提供了一种在计算中利用所有可用设备的方法。
2016-05-03 cs.DC
Exploration of Performance and Energy Trade-offs for Heterogeneous Multicore Architectures
能量效率已经成为现代计算机系统中的主要挑战。为了应对这一挑战,候选系统越来越多地集成异构核,以满足不同的计算需求,通过选择具有合适的功能的核心。特别是,单ISA异构多核处理器,如ARM big.LITTLE已经变得非常有吸引力,因为它们在性能和功耗权衡方面提供了很好的机会。虽然现有的工作已经表明,这一功能可以提高系统的能源效率,进一步的收益是可能的,通过推广的原则,更高层次的异质性。本文旨在探讨这些收益,考虑单ISA异构多核架构,包括三种不同类型的核心。为此,我们使用三星Exynos Octa 5422芯片作为基线架构。然后,我们使用耦合到McPAT的gem 5仿真框架对Cortex A7、A9和A15内核进行建模和评估,以进行功耗估计。我们证明,不同的异质性水平以及不同的核心比率可以导致高达2.3倍的能源效率和高达1.5倍的性能增益。这项研究进一步提供了洞察力的影响,工作负载的性质对性能/能源的权衡,并提出建议,适当的架构配置。这有助于指导未来的研究走向动态可重构的HSA,其中一些核心/集群可以暂时禁用,以优化某些指标,如能源效率。当处理质量可调的算法时,这是特别感兴趣的,其中准确性可以交换计算工作量,从而能够仅使用为所选算法提供最佳能效的那些核心。
2019-02-06 cs.DC
Intel Cilk Plus for Complex Parallel Algorithms: "Enormous Fast Fourier Transform" (EFFT) Library
在本文中,我们展示了并行计算的大型一维离散快速傅立叶变换(DFFT)的多核英特尔至强处理器的方法。基于递归Cooley-Tukey方法的DFFT必须控制高速缓存利用率、内存带宽和向量硬件使用率,并且同时跨多个线程或计算节点进行缩放。我们的方法基于DFFT的单线程英特尔数学内核库(MKL)实现,并使用英特尔Cilk Plus框架实现线程并行。我们演示了英特尔Cilk Plus处理以嵌套循环为中心的并行递归的能力,而无需根据内核数量或缓存指标调整代码。我们的工作成果是一个名为EFFT的库,它执行大小为2^N(N>=21)的1D DFT的速度比相应的英特尔MKL并行DFT实现快1.5倍,比FFTW快2.5倍。EFFT的代码可以在GPL v3许可证下免费下载。这项工作提供了一种新的高效DFFT实现,同时演示了如何使用英特尔Cilk Plus框架优化具有复杂并行模式的计算机科学问题以实现高性能的教育示例。
2014-09-19 cs.DC cs.DS cs.MS
Optimised hybrid parallelisation of a CFD code on Many Core architectures
COSA是一个基于可压缩Navier-Stokes模型的新型CFD系统,用于计算固定结构、旋翼和涡轮叶片的非定常气动力和气动弹性。它包括一个稳定的,时域和谐波平衡流求解器。COSA主要使用MPI进行并行化,但也有一种混合并行化,它将OpenMP功能添加到MPI并行化中,以使更多的内核用于给定的模拟,因为MPI并行化仅限于模拟中的几何分区(或块)的数量,或者在适当的情况下利用多线程硬件。本文概述了优化这两个并行化策略,提高效率,从而减少计算模拟所需的计算时间所进行的工作。我们还分析了一系列领先HPC系统上代码的功耗,以进一步了解代码的性能。
2013-04-29 cs.DC
Simulating Nonlinear Neutrino Oscillations on Next-Generation Many-Core Architectures
在这项工作中,天体物理模拟程序,XFLAT,开发研究中微子振荡的超新星。XFLAT旨在通过MPI、OpenMP和SIMD指令(矢量化)利用多级并行性。它可以在CPU和Xeon Phi协处理器上运行,后者基于英特尔多集成核心架构(MIC)。分析了XFLAT在配置和场景上的性能。此外,还研究了I/O和多节点配置对配备Xeon Phi的异构超级计算机(如德克萨斯州高级计算中心(TACC)的Stampede)的影响。
2019-07-12 cs.CE cs.DC cs.PF
Simulating collective neutrinos oscillations on the Intel Many Integrated Core (MIC) architecture
我们评估了基于英特尔多集成核心(MIC)架构的第二代英特尔至强融核协处理器,也称为Knights Landing或KNL,用于模拟(核心塌陷)超新星中的中微子振荡。为此,我们开发了一个数字代码XFLAT,它针对MIC架构进行了优化,可以在仅具有CPU或Xeon Phis的同构HPC平台上运行,也可以在具有CPU和Xeon Phis的混合平台上运行。为了有效地利用MIC架构的SIMD(向量)单元,我们在代码的低级模块中实现了阵列结构(SoA)的设计。我们在配备双68核7250 Xeon Phis的NERSC Cori超级计算机上对代码进行了基准测试。我们发现,与第一代Xeon Phi(Knights Corner a.k.a KNC)相比,性能提高了许多倍。我们在这项工作中遇到的一些问题可能会随着新的中微子振荡超新星模型和下一代Xeon Phi的出现而得到解决。
2019-12-23 cs.CE cs.DC physics.comp-ph
ArcLight: A Lightweight LLM Inference Architecture for Many-Core CPUs
Harbin Institute of Technology(哈尔滨工业大学);Tsinghua University(清华大学)
本文提出ArcLight,一种为多核CPU优化的LLM推理架构,通过高效内存管理和线程调度及精细控制的张量并行性,解决多核CPU上的跨节点内存访问瓶颈,实现更高的推理吞吐量。
2026-05-13 cs.CL cs.DC
High level programming abstractions for leveraging hierarchical memories with micro-core architectures
微核心架构将许多低内存、低功耗计算核心组合在单个封装中。这些作为加速器是有吸引力的,但由于有限的片上存储器和多层次的存储层次结构,程序员卸载内核的方式需要仔细考虑。在本文中,我们使用Python作为一种工具,探索更高层次的程序设计语言的语义和抽象,以支持卸载的计算内核到这些设备。通过转移到一个引址传递模型,以及利用内存种类,我们证明了能够轻松有效地利用多个层次的存储层次结构,甚至是那些不能直接访问的微核心。使用一个机器学习基准,我们进行实验的Epiphany-III和MicroBlaze的微核心,展示了计算能力与任意大的数据集大小。为了提供我们的研究结果,我们探索了这些技术的性能和功耗效率,证明了虽然这两种微内核技术在其自己的嵌入式硬件类别中具有竞争力,但要达到HPC级GPU还有一段路要走。
2020-10-04 cs.DC cs.PL
Efficient Distributed Data Structures for Future Many-core Architectures
该研究面向非或部分缓存一致的未来众核架构,调整多种并发扩展技术并采用通用分层方案实现分布式数据结构,实验验证了其性能、可扩展性与能耗表现。
2024-04-08 cs.DC cs.DS
Scalable High Performance SDN Switch Architecture on FPGA for Core Networks
由于网络用户需求的日益异构性、每天动态变化的网络流量模式和网络内服务部署的延迟,对现代网络基础设施的可扩展性和灵活性存在巨大需求,这反过来为核心网络中引入软件定义网络(SDN)铺平了道路。在本文中,我们提出了一种完全符合OpenFlow的基于FPGA的交换机; OpenFlow是SDN南向接口的先驱协议。交换机架构完全在硬件上实现。该设计包括一个OpenFlow南向代理,可以以10 Gbps的速率处理OpenFlow数据包。在Xilinx Virtex-7芯片上,该架构的速度可达400 Gbps,同时仅占用60%的资源。
2019-10-30 cs.AR cs.DC cs.IR
Scalable Triadic Analysis of Large-Scale Graphs: Multi-Core vs. Multi- Processor vs. Multi-Threaded Shared Memory Architectures
三元分析包含一组有用的图挖掘方法,这些方法以三元组的概念为中心,三元组是三个节点的子图。这些方法经常应用于社会科学以及许多其他不同的领域。三元组方法通常对三元组普查进行操作,该普查对图中每个可能的边配置的三元组的数量进行计数。与其他图算法一样,三元普查算法在图达到数千万到数十亿个节点时不能很好地扩展。为了实现大规模图的三元分析,我们开发并优化了一个三元普查算法,以有效地执行共享内存架构。然后,我们进行了性能评估的三个特定的系统:Cray XMT,HP Superdome,和AMD多核NUMA机的并行三元普查算法。这三个系统具有共享的内存架构,但具有明显不同的硬件能力来管理并行性。
2012-09-27 cs.DC cs.SI
Extension of ACETONE C code generator for multi-core architectures
ONERA(法国航空航天研究院);Airbus(空中客车);Université de Toulouse – IRIT(图卢兹大学 - 计算机科学研究与教学研究所)
本文提出通过形式化定义处理器分配问题,扩展ACETONE以生成并行代码,并评估框架各层的最坏执行时间。
2026-03-02 cs.DC cs.SE
A High Energy-Efficiency Multi-core Neuromorphic Architecture for Deep SNN Training
PengCheng Laboratory(鹏城实验室);School of Computer Science, Peking University(北京大学计算机学院);School of Electronic and Computer Engineering, Shenzhen Graduate School, Peking University(北京大学深圳研究生院电子与计算机工程学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Southern University of Science and Technology(南方科技大学)
针对现有神经形态架构无法直接训练SNN的问题,本文提出一种多核架构,通过每核集成前向、反向和权重梯度引擎并利用稀疏性优化,在FPGA上实现高能效深度SNN训练与联邦学习。
2024-12-30 cs.AR cs.DC cs.LG
Optimization of automatically generated multi-core code for the LTE RACH-PD algorithm
通信系统中的嵌入式实时应用对处理能力提出了很高的要求。为单处理器应用开发的手动调度不适合多核架构。算法架构匹配(AAM)方法优化了多核架构上的静态应用程序实现。随机接入信道前导码检测(Random Access Channel Preamble Detection,RACH-PD)是一种用于长期演进(Long Term Evolution,LTE)无线网络非同步接入的算法。LTE旨在提高下一代蜂窝系统的频谱效率。本文描述了实现RACH-PD的完整方法。AAM原型应用于RACH-PD,其被建模为同步数据流图(SDF)。然后解释了该算法在多核DSP TI C6487上的有效实现。给出了解决方案的基准。
2008-11-04 cs.DC cs.MM
Performance Modelling of Deep Learning on Intel Many Integrated Core Architectures
Linnaeus University(林奈大学);Linköping University(林雪平大学);Cracow University of Technology(克拉科夫理工大学)
许多复杂的问题,如自然语言处理或视觉目标检测,都可以使用深度学习来解决。然而,用于大数据集的复杂深度卷积神经网络的有效训练在计算上要求很高,并且需要并行计算资源。本文提出了两种参数化的性能模型,用于估计在Intel多核集成架构上训练卷积神经网络的执行时间。虽然对于第一个性能模型,我们最低限度地使用测量技术来估计参数值,但在第二个模型中,我们基于测量来估计更多的参数。我们在英特尔至强融核上训练三种不同的卷积神经网络架构的背景下评估性能模型的预测准确性。第一种模型的平均性能预测精度约为15%,第二种模型的平均性能预测精度约为11%。
2019-06-04 cs.DC cs.LG cs.PF
Performance optimization and analysis of the unstructured Discontinuous Galerkin solver on multi-core and many-core architectures
间断Galerkin(DG)算法是计算流体力学(CFD)领域中一种具有代表性的高阶方法,具有高分辨率、低耗散、低色散等数学优势。然而,DG是相当计算密集,以证明实际的工程问题。本文讨论了我们的内部实际DG应用程序在三种不同的编程模型,以及一些优化技术,包括网格重新编号和混合精度,以最大限度地提高性能在一个单一的节点系统的实施。在CPU和GPU上的实验结果表明,基于CUDA、OpenACC和OpenMP的代码与原始应用程序的串行执行相比,分别获得了42.9倍、35.3倍和8.1倍的最大加速比。此外,我们系统地比较了两个方面的编程模型:性能和生产力。我们的实证结论有助于程序员根据其目标应用选择合适的平台和合适的编程模型。
2022-09-05 cs.CE cs.DC cs.MS
High-Throughput Parallel Viterbi Decoder on GPU Tensor Cores
在GPU平台上实现Vitrerbi解码算法的研究工作很多,因为GPU平台提供了相当大的灵活性,除了良好的性能。最近,现代GPU架构中最近推出的Tensor核心提供了令人难以置信的计算能力。提出了一种基于Tensor核的Viterbi译码算法在现代GPU架构中的并行实现方法。所提出的并行算法进行了优化,以有效地利用张量核的计算能力。实验表明,相当大的吞吐量的改善与以前的作品相比。
2020-11-27 cs.DC eess.SP
DiSquawk: 512 cores, 512 memories, 1 JVM
为了应对每个处理器不断增长的核心数量,硬件架构师正在尝试模块化的非缓存一致性架构。这种架构将存储器一致性委托给软件。相反,像Java这样的高生产力语言,旨在抽象硬件细节,让开发人员专注于算法的实现。这种程序设计语言依赖于进程虚拟机来执行必要的操作以实现对应的存储器模型。然而,争论这种实现的正确性并不是微不足道的。在这项工作中,我们提出了我们的实现的Java内存模型在Java虚拟机针对512核非缓存一致性内存架构。我们不久将讨论设计决策,并提出早期的评估结果,这表明我们的实施规模与核心的数量。我们的实现模型的操作语义的Java核心演算,我们扩展与同步动作,并证明其遵守Java内存模型。
2016-06-14 cs.DC cs.PL
Performance Optimisation of Smoothed Particle Hydrodynamics Algorithms for Multi/Many-Core Architectures
我们描述了一个战略的代码现代化的小工具,广泛使用的社区代码计算天体物理学。这项工作的重点是节点级性能优化,针对当前的多/众核英特尔架构。我们确定和隔离的样本代码内核,这是一个典型的光滑粒子流体动力学(SPH)算法的代表。代码修改包括线程并行优化,将数据布局更改为阵列结构(SoA),自动矢量化和粒子分选算法改进。我们在英特尔至强R(Ivy Bridge上的$2.6 \times$)和至强融核TM(Knights Corner上的$13.7 \times$)系统上都获得了更短的执行时间和更高的线程可扩展性。对优化代码的前几次测试使$19.1 \times$在第二代Xeon Phi(Knights Landing)上的执行速度更快,从而证明了所设计的优化解决方案对即将推出的架构的可移植性。
2017-05-10 astro-ph.IM cs.DC physics.comp-ph
Using Multi-Core HW/SW Co-design Architecture for Accelerating K-means Clustering Algorithm
对所需数据集进行分类和聚类的能力是从数据中构建知识的重要部分。然而,随着输入数据的大小和维度的增加,这种聚类算法的运行时间预计将超线性增长,这使得它在处理大数据时成为一个巨大的挑战。K均值聚类是许多大数据应用的重要工具,包括数据采掘、预测分析、预测研究和机器学习。然而,由于大数据的大尺寸(体积)及其数据点的大维度,即使是简单的k均值聚类的应用也可能变得非常耗时和资源需求。特别是当需要快速和模块化的数据集分析流程时。在本文中,我们证明了使用基于二进制kd-树结构的两级过滤算法能够减少大数据集的K-均值算法的收敛时间。基于二进制kd-树结构的两级过滤算法使SW进化为基于目标FPGA中可用核的数量和可用逻辑的大小自然地将分类划分为较小的数据集。与传统的纯软件解决方案相比,这种基于多核FPGA架构的两级结构的经验结果提供了330倍的速度提升。
2018-07-09 cs.AR cs.DC
Virtual Machine Support for Many-Core Architectures: Decoupling Abstract from Concrete Concurrency Models
即将到来的众核架构要求软件开发人员利用并发性来利用可用的计算能力。当今的高级语言虚拟机(VM)是软件开发的基石,但并没有为并发概念提供足够的抽象。我们分析了具体和抽象的并发模型,并确定了它们对虚拟机带来的挑战。为了在虚拟机中提供足够的并发支持,我们建议将并发操作集成到虚拟机指令集中。由于总会有针对特殊目的优化的VM,因此我们的目标是开发一种方法来设计具有并发支持的指令集。因此,我们还提出了一个权衡的清单,必须进行调查,建议这样的指令集的设计。作为第一个实验,我们实现了一个用于共享内存的指令集扩展和一个用于非共享内存并发的指令集扩展。从我们的实验结果中,我们得出了一个完整的实验环境,为进一步研究的要求列表。
2010-02-04 cs.AR cs.DC cs.PL
Task-based adaptive multiresolution for time-space multi-scale reaction-diffusion systems on multi-core architectures
Université Côte d’Azur(蔚蓝海岸大学);CNRS(法国国家科学研究中心);Inria(法国国家数字科学与技术研究所);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);CD-adapco(CD-adapco公司);Université Claude Bernard Lyon 1(里昂第一大学);Institut Camille Jordan(卡米尔·若尔当研究所);Intel(英特尔);CentraleSupélec(中央理工-高等电力学院);Laboratoire EM2C(EM2C实验室)
本文提出基于任务的多核架构上的自适应多分辨率方法,通过改进数据结构和TBB库实现高效并行计算,验证了在多维问题中的高可扩展性。
2016-10-18 cs.DC cs.NA math.AP
Parallel Spherical Harmonic Transforms on heterogeneous architectures (GPUs/multi-core CPUs)
球谐变换(SHT)是许多科学和实际应用的核心,从气候建模到宇宙学观测。在其中许多领域,最近提出了新的尖端科学目标,要求以非常高的分辨率和前所未有的数量模拟和分析实验或观测数据。这两个方面都对当前现有的转换实现提出了巨大的挑战。本文介绍了计算SHT的并行算法,适用于新的超级计算机体系结构,多核处理器和图形处理单元(GPU)的节点内并行的两个变种。它还讨论了它们的性能,单独和嵌入在一个顶级的,基于MPI的并行化层从S2 HAT库移植,在他们的准确性,整体效率和可扩展性。我们表明,我们的反向SHT运行在GeForce 400系列GPU配备了最新的CUDA架构(“费米”)优于最先进的实现的多核处理器上执行当前的英特尔酷睿i7- 2600 K。此外,我们表明,MPI/CUDA版本的逆变换运行在一个集群的128英伟达特斯拉S1070是多达3倍的速度比混合MPI/OpenMP版本上执行相同数量的四核处理器英特尔Nahalem的问题大小,我们的目标应用程序。然而,在这些情况下,发现直接变换的性能是最好的可比性。我们详细讨论的算法解决方案设计的主要步骤中涉及的变换计算,强调那些有重大影响的整体性能,并阐明了直接和逆操作之间的二分法的来源。
2013-04-01 astro-ph.CO cs.DC physics.ao-ph