Early Performance Results on 4th Gen Intel(R) Xeon (R) Scalable Processors with DDR and Intel(R) Xeon(R) processors, codenamed Sapphire Rapids with HBM
Crossroads超级计算机旨在模拟世界上一些最复杂的物理设备。这些模拟通常需要1/2 PB或更多的系统内存,在最强大的超级计算机上运行数千个计算节点数月。这些工作负载解决方案的及时改进可能会对我们的任务能力产生重大影响。在本文中,我们展示了HBM在代号为Sapphire Rapids的第四代Intel Xeon和Intel Xeon处理器上的代表性应用工作负载的早期结果。这些结果表明,相对于我们的上一代基于英特尔Broadwell(BDW)的HPC系统,性能提高了8.57倍(节点到节点)。无需修改代码即可实现这种加速,这为大幅缩短解决方案的时间和降低未来可模拟的物理系统的复杂性提供了一条引人注目的途径。
2022-11-10 cs.AR cs.DC
Novel Model-based Methods for Performance Optimization of Multithreaded 2D Discrete Fourier Transform on Multicore Processors
在本文中,我们使用三个高度优化的软件包,FFTW-2.1.5,FFTW-3.3.7,和英特尔MKL FFT提供的多线程快速傅立叶变换,提出了一种新的基于模型的并行计算技术,作为一个非常有效的和便携式的方法优化的科学多线程例程的性能,特别是在当前的多核时代,处理器有大量的核心。在此基础上提出了两种优化方法PFFT-FPM和PFFT-FPM-PAD。它们使用p个抽象处理器计算大小为NxN的复信号矩阵的2D-DFT。这两种算法都以处理器的问题大小的性能的离散3D函数作为输入,并输出变换后的信号矩阵。基于我们在由36个物理内核组成的现代英特尔Haswell多核服务器上的实验,使用FFTW-3.3.7观察到的PFFT-FPM的平均和最大加速比分别为1.9倍和6.8倍,使用英特尔MKL FFT观察到的平均和最大加速比分别为1.3倍和2倍。使用FFTW-3.3.7观察到的PFFT-FPM-PAD的平均和最大加速比分别为2倍和9.4倍,使用英特尔MKL FFT观察到的平均和最大加速比分别为1.4倍和5.9倍。
2018-08-16 cs.DC
The Use of MPI and OpenMP Technologies for Subsequence Similarity Search in Very Large Time Series on Computer Cluster System with Nodes Based on the Intel Xeon Phi Knights Landing Many-core Processor
如今,子序列相似性搜索是需要在广泛的时间序列挖掘应用:气候建模,金融预测,医学研究等,在大多数这些应用中,动态时间规整(DTW)的相似性度量使用,因为DTW是经验证实的最佳相似性度量大多数学科领域之一。由于DTW测度具有关于t的二次计算复杂性,查询子序列的长度,已经开发了许多用于各种众核架构的并行算法,即FPGA,GPU和Intel MIC。在这篇文章中,我们提出了一个新的并行算法,在非常大的时间序列的子序列相似性搜索的计算机集群系统的节点的基础上,英特尔至强融核骑士登陆(KNL)众核处理器。计算在两个级别上并行化,如下所示:通过MPI在所有集群节点的级别,并通过一个集群节点内的OpenMP。该算法涉及额外的数据结构和冗余计算,这使得有效利用Phi KNL上的向量计算能力成为可能。在真实数据集和合成数据集上的实验结果表明,该算法具有良好的可扩展性。
2018-12-26 cs.DC
Early Experience on Using Knights Landing Processors for Lattice Boltzmann Applications
Knights Landing(KNL)是基于Intel Many Integrated Core(MIC)架构的最新一代Intel处理器的代号。它依赖于大量的线程和数据并行,以及快速的片上存储器。此处理器在独立模式下运行,引导现成的Linux操作系统。KNL的峰值性能非常高--在双精度的中约为3 Tflops,在单精度的中约为6 Tflops--但持续的性能主要取决于处理器的所有并行特性在实际应用中的利用程度。我们评估的性能,这种处理器的格子玻尔兹曼代码,广泛用于计算流体动力学。在我们的OpenMP代码中,我们考虑了几种内存数据布局,这些布局满足应用程序不同部分的冲突计算需求,并保持大部分峰值性能。我们与其他处理器和加速器进行了一些性能比较,并讨论了各种内存布局对能效的影响。
2018-04-05 cs.DC
Optimization and parallelization of B-spline based orbital evaluations in QMC on multi/many-core shared memory processors
基于B样条的轨道表示被广泛地用于固体的量子蒙特卡罗(QMC)模拟,历史上占据总运行时间的多达50%。对大型四维数组的随机访问使得有效利用现代CPU的高速缓存和宽向量单元变得具有挑战性。我们提出了多/众核共享内存处理器上的B样条评估的节点级优化。为了提高SIMD效率和带宽利用率,我们首先应用数据布局转换从数组的结构(SoA)。然后通过阻塞SoA对象,我们优化了缓存重用,并为一系列问题大小获得持续的吞吐量。我们在B样条轨道评估内核中实现了高效的嵌套线程,为实现QMC模拟的强大扩展铺平了道路。这些优化可移植到四种不同的高速缓存一致性架构上,在英特尔至强融核处理器7250 P(KNL)上可实现高达5.6倍的性能增强,在英特尔至强融核协处理器7120 P上可实现5.7倍的性能增强,在英特尔至强处理器E5 v4 CPU上可实现10倍的性能增强,在BlueGene/Q处理器上可实现9.5倍的性能增强。我们的嵌套线程实现在KNL上显示出接近理想的并行效率,最多可达16个线程。我们采用车顶性能分析来模拟我们的优化的影响。这项工作与我们目前优化其他QMC内核的努力相结合,导致miniQMC在KNL上的加速比超过4.5倍。
2016-11-08 cs.DC
Model-based optimization of MPDATA on Intel Xeon Phi through load imbalancing
负载均衡是一种被广泛接受的并行架构上的科学应用程序的性能优化技术。事实上,平衡的应用程序不会在等待同步和数据交换点上浪费处理器周期,从而最大限度地利用处理器。在本文中,我们挑战的普遍性的负载平衡方法,以优化并行应用程序的性能。首先,我们制定了应用程序的性能配置文件应满足的条件,以便应用程序通过负载均衡实现其最佳性能。然后,我们使用一个现实生活中的科学应用程序,MPDATA,以证明其性能配置文件的现代并行架构,英特尔至强融核,显着偏离这些条件。基于这一观察,我们提出了一种方法,通过负载不平衡的科学应用程序的性能优化。我们还提出了一个算法,找到最佳的,可能是不平衡的,一组同构处理器上的数据并行应用程序的配置。该算法使用应用程序的功能性能模型来找到最小化其计算时间但不一定平衡处理器负载的分区。我们展示了如何将此算法应用于英特尔至强融核上的MPDATA优化。实验结果表明,采用本文提出的负载不平衡优化方法,经过精心优化的负载平衡应用程序的性能可进一步提高15%.
2015-07-05 cs.DC
Distributed Transfer Learning with 4th Gen Intel Xeon Processors
Intel Corporation(英特尔公司)
本文证明使用第四代英特尔至强处理器结合AMX和Horovod分布式训练进行迁移学习,可在图像分类任务上达到接近最先进的准确率,挑战GPU依赖传统。
2023-10-10 cs.AI cs.CV cs.DC
First Experiences Optimizing Smith-Waterman on Intel's Knights Landing Processor
众所周知的Smith-Waterman(SW)算法是用于局部序列比对的最常用的方法。然而,SW对于大型蛋白质数据库的计算要求非常高。存在利用在多核、FPGA或GPU上的计算并行化的若干实现,以便增加对准吞吐量。在本文中,我们探讨了英特尔KNL处理器上的软件加速。这种架构的新颖性需要修改以前的编程和优化技术的众核架构。据作者所知,这是第一次对SW算法进行KNL架构评估。我们的评估,使用著名的环境NR数据库作为基准,已经表明,多线程和SIMD开发报告的竞争力的性能(351 GCUPS)与其他实现相比。
2017-02-23 cs.DC cs.PF
The Shift from Processor Power Consumption to Performance Variations: Fundamental Implications at Scale
新一代英特尔Haswell-EP处理器在电源控制和能效特性方面引入了几项重大改进。对于使用高级向量扩展(AVX)指令的计算密集型应用,处理器不能连续地以全速运行,而是将其频率降低到标称频率以下,以保持在热设计功耗(TDP)限制内运行。此外,执行TDP限制的运行平均功率限制(RAPL)机制已从建模变为测量方法。这两个新事物的结合具有重大意义。通过对英特尔Sandy Bridge-EP集群的测量,我们发现前几代产品在多个CPU上保持了均匀的性能,并通过不同的功耗补偿了硬件制造的差异。相比之下,我们在Petaflop Haswell系统上的测量表明,这一代显示出相当均匀的功耗限制的TDP和上限的改进RAPL,同时提供不均匀的性能在满负荷下。由于所有这些控件对用户都是透明的,因此这种行为可能会使性能分析任务复杂化,并影响紧耦合的并行应用程序。
2018-08-24 cs.DC
Strategies for Optimizing End-to-End Artificial Intelligence Pipelines on Intel Xeon Processors
Intel Corporation(英特尔公司)
端到端(E2E)人工智能(AI)管道由几个阶段组成,包括数据预处理、数据摄取、定义和训练模型、超参数优化、部署、推理、后处理,然后是下游分析。为了获得高效的E2E工作流,需要对管道的几乎所有阶段进行优化。英特尔至强处理器具有大内存容量,与AI加速捆绑在一起(例如,英特尔深度学习Boost),非常适合并行运行多个训练和推理管道实例,并且具有较低的总拥有成本(TCO)。为了展示Xeon处理器的性能,我们在计算机视觉、NLP、推荐系统等领域的各种E2E管道上应用了全面的优化策略以及软件和硬件加速。我们能够实现性能提升,在不同的E2E管道上从1.8倍到81.7倍不等。在本文中,我们将重点介绍我们为在英特尔至强处理器上实现这一性能而采用的优化策略,这些处理器具有一组八种不同的E2E管道。
2022-11-01 cs.AI cs.CV cs.DC
Atari games and Intel processors
Intel(英特尔公司);University of Warsaw(华沙大学)
最先进的强化学习算法(如Asynchronous Advantage Actor-Critic算法)的异步性质使其非常适合CPU计算。然而,考虑到深度强化学习通常处理解释视觉信息的事实,训练和推理时间的很大一部分都花在执行卷积上。在这项工作中,我们使用卷积神经网络,数学核函数库和TensorFlow 0.11rc 0机器学习框架,在Atari游戏中的学习策略,我们提出了我们的结果。我们还分析了异步计算对强化学习算法收敛性的影响。
2017-05-19 cs.AI cs.DC cs.LG
MG3MConv: Multi-Grained Matrix-Multiplication-Mapping Convolution Algorithm toward the SW26010 Processor
本文提出面向SW26010处理器的多粒度矩阵乘法映射卷积算法MG3MConv,通过线程块概念和四层次架构优化提升硬件效率,在多数场景下性能优于cuDNN,并在VGG网络上达到cuDNN的1.37倍、swDNN的1.96倍。
2023-07-11 cs.DC
Performance analysis of the Kahan-enhanced scalar product on current multicore processors
我们调查的性能特点的数值增强的标量积(点)内核循环,使用Kahan算法来补偿数值误差,并描述了高效的SIMD矢量化实现最近的英特尔处理器。使用低级别的指令分析和执行缓存内存(ECM)的性能模型,我们查明了单核和线程并行执行的相关性能瓶颈,并预测性能和饱和行为。我们表明,Kahan增强标量积来在几乎没有额外的成本相比,天真(非Kahan)标量积,如果适当的低层次优化,特别是SIMD矢量化和展开,应用。我们还研究了架构变化对四代英特尔至强处理器的影响。
2015-05-11 cs.DC cs.PF
Cuttlefish: Library for Achieving Energy Efficiency in Multicore Parallel Programs
低容量的功率预算对于百亿亿次计算是具有挑战性的。动态电压和频率缩放(DVFS)和非核心频率缩放(UFS)是用于限制HPC应用的能量足迹的两种广泛使用的技术。然而,现有的方法未能提供一个统一的解决方案,可以与不同类型的并行编程模型和应用程序。本文提出了Cuttlefish,一个编程模型不经意的C/C++库,实现能源效率的多核并行程序运行在英特尔处理器上。在线分析器定期分析特定于模型的寄存器,以发现正在运行的应用程序的内存访问模式。通过结合使用DVFS和UFS,Cuttlefish可以动态调整处理器的核心和非核心频率,从而提高其能效。使用一组广泛使用的OpenMP基准测试对20核英特尔至强处理器进行评估,包括几个不规则任务和工作共享pragmas,实现了19.4%的几何平均节能,速度降低了3.6%。
2021-10-01 cs.DC
Benchmarking Data Analysis and Machine Learning Applications on the Intel KNL Many-Core Processor
Knights Landing(KNL)是第二代英特尔至强融核产品系列的代号。KNL在数据分析和机器学习社区引起了极大的兴趣,因为它的新众核架构针对这两种工作负载。KNL众核向量处理器设计使其能够利用更高级别的并行性。在林肯实验室超级计算中心(LLSC),大多数用户都在运行MATLAB和Octave等数据分析应用程序。最近,机器学习应用程序,如UC Berkeley Caffe深度学习框架,对LLSC用户变得越来越重要。因此,LLSC用户和更广泛的数据分析和机器学习社区对这些应用程序在KNL系统上的性能非常感兴趣。我们对英特尔KNL处理器上的这些应用程序进行的数据分析基准测试表明,与之前的英特尔至强技术相比,KNL系统上的单核双精度广义矩阵乘法(DGEMM)性能提高了约3.5倍。我们的数据分析应用程序也达到了理论峰值性能的约60%。此外,机器学习应用程序Caffe在两种不同的英特尔CPU Xeon E5 v3和Xeon Phi 7210之间的性能比较表明,KNL节点的性能提高了2.7倍。
2017-07-12 astro-ph.IM cs.DC cs.PF
Understanding HPC Benchmark Performance on Intel Broadwell and Cascade Lake Processors
高性能计算中的硬件平台不断变得越来越复杂,即使只考虑多核CPU也是如此。硬件和软件环境中与性能相关的许多功能和配置选项甚至不为大多数应用程序用户或开发人员所知。微基准,即,了解硬件特定方面的简单代码可以帮助阐明这些问题,但前提是这些代码被很好地理解,并且结果可以与已知事实或性能模型相协调。从微基准测试中获得的洞察力可以应用于实际应用程序,进行性能分析或优化。在本文中,我们深入研究了两种现代英特尔x86服务器CPU架构:Broadwell EP和Cascade Lake SP。我们重点介绍了可能对代码性能产生决定性影响的相关硬件配置设置,并展示了如何正确测量片上和片外数据传输带宽。Cascade Lake新的受害者L3缓存及其高级替换策略受到了应有的关注。最后,我们使用DGEMM,稀疏矩阵向量乘法,和HPCG基准,使相关的应用场景的连接。
2020-02-12 cs.DC cs.PF
Coherence Traffic in Manycore Processors with Opaque Distributed Directories
众核处理器具有大量的通用内核,旨在以多线程方式工作。最近的众核处理器使用可扩展的分布式目录保持一致性。一个重要的例子是Intel Mesh互连,它由片上网络互连“瓦片”组成,每个瓦片都包含计算核心、本地缓存和一致性主机。分布式一致性子系统必须针对每个片外访问进行查询,从而对存储器延迟施加开销。本文研究了Intel Knights Landing处理器的物理布局,特别关注一致性子系统,并揭示了分布式目录中物理内存块的伪随机映射功能。利用这些知识,候选优化,以改善内存延迟,通过最小化的一致性流量进行了研究。尽管这些优化确实提高了存储器吞吐量,但由于映射函数的计算复杂性所导致的固有开销,这最终不会转化为性能增益。
2020-11-10 cs.AR cs.DC
High-performance sparse matrix-matrix products on Intel KNL and multicore architectures
稀疏矩阵-矩阵乘法(SpGEMM)是一种计算原语,广泛应用于从传统数值应用到最近的大数据分析和机器学习等领域。虽然已经提出了许多SpGEMM算法,但缺乏针对多核和众核处理器的硬件特定优化,并且无法详细分析其在各种用例和矩阵下的性能。我们首先在英特尔至强融核(Knights Landing或KNL)上识别并缓解存储管理和线程调度的多个瓶颈。具体针对多核和众核处理器,我们开发了一个基于哈希表的算法,并优化了一个基于堆的共享内存SpGEMM算法。我们研究他们的表现与其他公开可用的代码。与文献不同的是,我们的评估还包括代表实数图算法的用例,例如多源广度优先搜索或三角形计数。在大多数情况下,我们的哈希表和基于堆的算法显示出来自库的显著加速,而不同的算法在具有不同矩阵大小、稀疏性、压缩因子和操作类型的其他场景中占主导地位。我们总结了深入的评估结果,并制定了一个食谱,以给出最好的SpGEMM算法的目标场景。一个关键的发现是,如果不需要在输出矩阵的每一行中对非零进行排序,则基于哈希表的SpGEMM的性能将得到显着提升。
2018-06-26 cs.DC
Calculation of Stochastic Heating and Emissivity of Cosmic Dust Grains with Optimization for the Intel Many Integrated Core Architecture
宇宙尘埃粒子有效地减弱了星光。它们对星光的吸收产生了从近红外到远红外的发射光谱,这取决于尘埃颗粒的大小和性质,以及加热辐射场的光谱。近红外到中红外由非常小的颗粒的发射主导。然而,模拟这些粒子对星光的吸收在计算上是昂贵的,并且是处理恒星对尘埃加热的自洽辐射输运代码的一个重要瓶颈。在本文中,我们总结了计算宇宙尘埃的随机发射率的形式主义,这是在早期的作品中开发的,并提出了一个新的库HEATCODE实现这种形式主义的计算任意颗粒的性质和加热辐射场。我们的库是高度优化的通用处理器与多个核心和向量指令,分层内存缓存结构。HEATCODE库还可以在实现英特尔多集成核心(英特尔MIC)架构的协处理器卡上高效运行。我们将详细讨论我们为优化英特尔MIC架构而采取的优化步骤,这些步骤也显著提高了通用处理器上代码的性能,并为每个步骤提供代码示例和性能基准测试。单个英特尔至强融核协处理器(英特尔MIC架构)上的HEATCODE库性能大约是通用双路多核处理器系统的2倍,而标称功耗大致相同。该库支持异构计算采用主处理器同时与多个协处理器,可以很容易地纳入现有的辐射传输代码。
2013-11-19 astro-ph.GA astro-ph.IM cs.DC
Comparative evaluation of bandwidth-bound applications on the Intel Xeon CPU MAX Series
本文评估了英特尔至强 MAX CPU 系列在带宽敏感型 HPC 应用上的性能,并与 Ice Lake 和 Milan-X 对比,揭示了瓶颈从带宽向通信延迟的转移,实现了 2.0 至 4.3 倍加速。
2023-09-16 cs.DC cs.PF
Study and evaluation of an Irregular Graph Algorithm on Multicore and GPU Processor Architectures
不规则应用是对片上多处理器(CMP)的性能可扩展性提出重大挑战的计算应用领域之一。这样的应用程序具有非常少的计算和不可预测的存储器访问模式,使得它们与计算受限的应用程序相比是内存受限的。由于处理器和存储器性能之间的差距继续存在,难以隐藏和减少这种差距是导致这些应用程序在CMP上性能不佳的重要因素之一。本论文的目标是克服许多这样的挑战,在性能加速的不规则图算法称为三元组普查。我们在两种截然不同的芯片多处理器上加速了Triad Census算法:双插槽英特尔至强多核(每个插槽8个硬件线程)和240处理器内核的NVIDIA Tesla C1060 GPGPU(每个内核128个硬件线程)。在英特尔多核至强系统上获得的实验结果显示,对于真实世界的图形数据集,性能加速(相对于基线顺序)最大为56倍,平均为33倍,最小为8.3倍。在NVIDIA Tesla C1060 GPGPU上,我们能够几乎平等地匹配多核结果-58.4倍最大,32.8倍平均和4.2倍最小加速比相对于基线序列。在原始性能方面,对于称为Patents网络的图形数据集,我们在英特尔至强多核(16 hw线程)上的结果比之前在Cray XMT(16 hw线程)上的结果快1.27倍,而在GPGPU上实现的结果相对较慢(0.72倍)。据我们所知,该算法只在超级计算机级计算机Cray XMT上进行了加速,并且没有工作证明该算法在相对较低成本…
2016-03-08 cs.DC cs.PF
Assessing Intel's Memory Bandwidth Allocation for resource limitation in real-time systems
工业界最近正在考虑采用云计算来托管安全关键应用。然而,通常在云中采用的多核处理器的使用由于对共享资源(诸如存储器子系统)的争用而引入了时间异常。在本文中,我们将探讨英特尔内存带宽分配(MBA)技术的潜力,该技术可用于至强可扩展处理器。通过采用一个系统的测量方法,在真实的硬件上,我们评估的间接内存带宽的限制,可实现应用MBA延迟,表明只有给定的延迟值(即70,80和90)是有效的,在我们的设置。我们还测试了当干扰核心(例如,生成并发存储器访问工作负载)存在于同一机器上。我们的研究结果可以通过提供对共享内存影响的理解来支持设计人员,从而使云环境中安全关键应用程序的进度可以预测。
2022-06-29 cs.AR cs.DC
A unified sparse matrix data format for efficient general sparse matrix-vector multiply on modern processors with wide SIMD units
稀疏矩阵向量乘法(spMVM)是许多数值算法中最耗时的核心,在所有现代处理器和加速器架构上都得到了广泛的研究。然而,最佳稀疏矩阵数据存储格式是高度硬件特定的,这可能成为使用异构系统时的障碍。此外,目前还不清楚如何在当前多核和众核处理器中最有效地使用宽单指令多数据(SIMD)单元,如果矩阵的稀疏模式中没有结构。我们建议SELL-C-sigma,切片ELLPACK的变体,作为一种SIMD友好的数据格式,它结合了通用图形处理单元(GPGPU)和矢量计算机编程的长期思想。我们讨论了SELL-C-sigma与压缩行存储(CRS)和ELLPACK等已建立的格式相比的优势,并展示了其在各种硬件平台(英特尔Sandy Bridge、英特尔至强融核和Nvidia Tesla K20)上的适用性,用于不同应用领域的各种测试矩阵。使用适当的性能模型,我们深入了解SELL-C-sigma spMVM内核的数据传输特性。SELL-C-sigma带有两个调整参数,研究了它们在测试矩阵范围内的性能影响,并提出了合理的选择。这导致了一种独立于硬件的(“全捕获”)稀疏矩阵格式,其对于跨所有硬件平台的所有测试矩阵实现了非常高的效率。
2014-03-05 cs.DC cs.MS
Explorations of the viability of ARM and Xeon Phi for physics processing
我们报告了我们对ARM处理器和英特尔至强融核协处理器用于科学计算的可行性的调查。我们描述了我们的经验移植软件到这些处理器和运行基准使用真正的物理应用程序,以探索这些处理器的生产物理处理的潜力。
2014-01-21 cs.DC hep-ex physics.comp-ph
Heterogeneous High Throughput Scientific Computing with APM X-Gene and Intel Xeon Phi
电力需求将成为高能物理所使用的分布式高吞吐量计算(DHTC)未来增长的制约因素。性能功耗比是评估计算机体系结构以实现经济高效计算的关键度量。此外,未来的性能增长将来自于具有专用处理器的异构、众核和高计算密度平台。在本文中,我们将研究面向科学计算应用的英特尔至强融核多集成核(MIC)协处理器和Applied Micro X-Gene ARMv 8 64位低功耗服务器片上系统(SoC)解决方案。我们报告我们的软件移植,性能和能源效率的经验,并评估使用这种技术的分布式计算系统的背景下,如全球大型强子对撞机计算网格(WLCG)的潜力。
2014-10-10 cs.DC hep-ex physics.comp-ph
An Empirical Study of Intel Xeon Phi
英特尔至强融核至少有50个内核,是真正的众核架构。Xeon Phi具有相当强大的核心,两个高速缓存级别和非常快速的互连,理论上可以达到1000 GFLOP和超过240 GB/s的峰值。这些数字,以及它的灵活性-它可以用作协处理器或作为一个独立的处理器-是非常诱人的并行应用程序寻找新的性能记录。在本文中,我们提出了一个至强融核的实证研究,强调其性能限制和相关的性能因素,最终旨在为普通程序员提供一个简化的机器视图,以寻求性能。为此,我们对处理器的主要硬件组件-内核、存储层次结构、环形互连和PCIe连接-进行了微基准测试。我们表明,在理想的微基准测试条件下,可以实现的性能是非常接近的理论峰值,在官方程序员指南。我们还确定并量化了导致重大性能损失的几个原因。我们的研究结果已被捕获在四个优化准则,并用于建立一个简化的程序员的至强融核视图,最终使设计和原型的应用程序的功能为基础的模型的架构。
2013-12-20 cs.DC cs.PF
Performance Analysis of an Astrophysical Simulation Code on the Intel Xeon Phi Architecture
我们已经开发了天体物理模拟程序XFLAT来研究超新星中的中微子振荡。XFLAT旨在通过MPI、OpenMP和SIMD指令(矢量化)利用多级并行性。它可以在基于英特尔多集成核心架构(MIC)的CPU和至强融核协处理器上运行。我们分析了XFLAT在仅使用CPU、仅使用Xeon Phi以及同时使用CPU和Xeon Phi的配置上的性能。我们还研究了I/O和XFLAT的多节点性能对德克萨斯州高级计算中心(TACC)配备Xeon Phi的Stampede超级计算机的影响。
2015-10-07 cs.CE cs.DC
Evaluation of DVFS techniques on modern HPC processors and accelerators for energy-aware applications
对于计算系统,特别是对于大规模HPC设施,能量效率变得越来越重要。在这项工作中,我们评估,从用户的角度来看,使用动态电压和频率调节(DVFS)技术,辅助现代处理器的功率和能源监测能力,以调整应用程序的能源效率。我们在HPC环境中广泛使用的两个高端处理器上运行选定的内核和完整的HPC应用程序,即NVIDIA K80 GPU和Intel Haswell CPU。我们评估可用的能源之间的权衡解决方案和时间的解决方案,尝试一个功能的功能频率调谐。最后,我们估计了在HPC多GPU节点上运行完整代码所能获得的好处,相对于默认的时钟频率调控器。我们对代码进行检测,以准确监控功耗和执行时间,而无需任何额外的硬件,并且我们使其能够在运行时更改CPU和GPU的时钟频率。我们分析了我们的结果不同的架构,使用一个简单的能源性能模型,并得出了一些节能策略,可以很容易地通过最近的高端HPC系统的通用应用程序。
2017-03-08 cs.DC cs.PF
Bridging the Architecture Gap: Abstracting Performance-Relevant Properties of Modern Server Processors
我们描述了一种通用的建模方法,用于预测服务器处理器上的稳定状态循环的单核和多核运行时间。为此,我们严格区分应用程序和机器模型:应用程序模型包括循环代码,问题大小和其他运行时参数,而机器模型是CPU所有性能相关属性的抽象。我们介绍了一个通用的方法来确定机器模型和相关的服务器处理器架构的英特尔,AMD,IBM和Marvell/Cavium目前的结果。考虑到如此广泛的体系结构,足够的性能建模所需的特性集出奇地少。为了验证我们的方法,我们比较性能预测的经验数据的OpenMP并行预处理CG算法,其中包括计算和内存绑定的内核。单核心和多核心分析表明,该模型具有5%和10%的平均和最大相对误差。偏离模型和获得的见解进行了详细讨论。
2019-07-01 cs.AR cs.DC cs.PF
QPACE 2 and Domain Decomposition on the Intel Xeon Phi
我们概述了QPACE 2,这是一款基于英特尔至强融核处理器的定制设计超级计算机,由雷根斯堡大学和Eurotech合作开发。我们给出了一些关于如何为Xeon Phi编写高性能代码的一般性建议,然后讨论了我们基于域分解的求解器的实现,并提出了一些基准测试。
2015-02-13 cs.DC hep-lat physics.comp-ph
Raising the Performance of the Tinker-HP Molecular Modeling Package [Article v1.0]
本文回顾了 Tinker-HP 分子建模软件包的高性能计算能力,重点介绍如何通过 Intel AVX-512 指令集优化其大规模并行分子动力学引擎以适应 Intel CPU 千万亿次级架构,并在 CHARMM 和 AMOEBA 力场下显著提升了计算性能。
2021-12-04 cs.DC cs.MS physics.chem-ph
First Evaluation of the CPU, GPGPU and MIC Architectures for Real Time Particle Tracking based on Hough Transform at the LHC
最近的创新集中在{ \em parallel}处理,无论是通过包含多个处理器的系统还是包含多个核心的处理器,都有很大的希望提高LHC触发器的性能并扩展其物理程序。CMS/ATLAS触发器系统的灵活性允许在高级触发器中轻松集成计算加速器,例如NVIDIA的Tesla图形处理单元(GPU)或Intel的\xphi。这些加速器有可能提供更快或更节能的事件选择,从而为以前不可行的新的复杂触发器开辟了可能性。与此同时,探索最新一代多核CPU使用最佳软件优化方法可实现的性能极限至关重要。在本文中,将首次在多核Intel Xeon E5- 2697 v2 CPU、NVIDIA Tesla K20 c GPU和Intel \xphi \ 7120协处理器上评估基于Hough变换的新跟踪算法。将展示初步的时间表现。
2014-02-03 cs.DC hep-ex physics.comp-ph
Accelerating HPC codes on Intel(R) Omni-Path Architecture networks: From particle physics to Machine Learning
The University of Edinburgh(爱丁堡大学);Alan Turing Institute(艾伦·图灵研究所);Intel(英特尔);Columbia University(哥伦比亚大学);Brookhaven National Laboratory(布鲁克海文国家实验室)
我们将讨论一些实用的方法,以确保每个节点具有一个或两个英特尔® Omni-Path主机结构接口(HFI)和英特尔®至强融核TM 72 xx(Knight's Landing)处理器的群集在使用Linux操作系统时具有接近线速的性能。该研究评估的性能改进实现和所需的编程方法在两个不同的例子问题:首先在笛卡尔通信晕交换问题,适合于结构化网格PDE求解器中出现的量子色动力学模拟粒子物理学,其次在梯度减少适当的同步随机梯度下降机器学习。作为一个例子,我们加速了百度研究减少公布的代码,并获得了10倍的加速比原始代码使用本文中讨论的技术。这显示了当同步随机梯度下降以固定的小批量大小大规模并行化时,如何在强缩放的分布式机器学习中实现10倍的加速。我们发现一个显着的改善性能的鲁棒性时,获得内存使用仔细分配的2 MB“巨大的”虚拟内存页,这意味着无论是非标准的分配例程应用于通信缓冲区。这些可以通过LD\_PRELOAD覆盖以libhugetlbfs建议的方式访问。我们利用英特尔(R)MPI 2019库“技术预览版”和底层软件,通过每个进程的多个PSM 2端点和使用多个独立的MPI通信器,在整个通信软件桩中实现线程并发。当每个节点使用单个MPI进程时,我们发现这大大加快了许多核心英特尔®至强融核处理器中的交付带宽。
2017-11-13 cs.AI cs.DC hep-lat
Benchmarking OpenCL, OpenACC, OpenMP, and CUDA: programming productivity, performance, and energy consumption
许多现代并行计算系统在其节点级是异构的。这样的节点可以包括通用CPU和加速器(诸如GPU或Intel Xeon Phi),其提供具有合适的能耗特性的高性能。然而,利用异构体系结构的可用性能可能具有挑战性。有各种并行编程框架(例如OpenMP、OpenCL、OpenACC、CUDA),选择适合目标上下文的框架并不简单。在本文中,我们实证研究的特点,OpenMP,OpenACC,OpenCL和CUDA的编程生产力,性能和能源。为了评估编程效率,我们使用了我们自己开发的工具CodeStat,它使我们能够确定使用特定框架并行化代码所需的代码行的百分比。我们使用我们的工具x-MeterPU来评估能耗和性能。实验使用行业标准的SPEC基准测试套件和Rodinia基准测试套件进行,用于在将英特尔至强E5处理器与GPU加速器或英特尔至强融核协处理器相结合的异构系统上进行加速计算。
2017-04-18 cs.DC cs.PF cs.PL