Universal Quantum Computer Simulation of 50 Qubits on Europe`s First Exascale Supercomputer Harnessing Its Heterogeneous CPU-GPU Architecture
Jülich Supercomputing Centre, Forschungzentrum Jülich（于利希超级计算中心，于利希研究中心）；NVIDIA（英伟达）
本文提出了一种新的高性能通用量子计算机模拟器JUQCS-50，利用GH200超级芯片的关键特性，在欧洲首个exascale超级计算机上实现了50个量子比特的通用量子计算机模拟，通过三个创新方法实现了16.6倍的速度提升。
2026-05-20 cs.DC physics.comp-ph quant-ph
Preparing for Performance Analysis at Exascale
在分析执行度量时，新兴异构艾级平台的性能工具必须解决两个主要挑战。首先，大规模执行的度量可能会记录大量的性能数据。其次，并行程序的性能测量在两个方面是稀疏的：存在于任何上下文的度量集和存在于不同线程中的上下文集。对于GPU加速的应用程序，稀疏性的一个重要来源是，无数的GPU指标都不适用于许多CPU上下文中的任何一个。为了解决这些挑战，我们开发了一种新的流聚合方法来进行事后分析，该方法采用共享和分布式内存并行性来聚合来自应用程序的每个等级，线程和GPU流的稀疏性能测量，并将异构调用路径配置文件和跟踪属性添加到源代码。使用相同数量的资源，我们的方法分析了GPU加速的应用程序的大规模性能测量的速度比HPCToolkit的数量级快，其稀疏的分析结果是多达三个数量级小于HPCToolkit的密集表示的指标。
2022-03-10 cs.DC cs.PF
A Massive Data Parallel Computational Framework for Petascale/Exascale Hybrid Computer Systems
异构系统在高性能计算（HPC）系统上变得越来越普遍。即使使用像CUDA和OpenCL这样的工具，在GPU上获得最佳性能也是一项重要的任务。简化此任务的方法包括Merge（用于异构多核系统的基于库的框架），Zippy（用于在多个GPU上并行执行代码的框架），BSGP（用于GPU上通用计算的新程序设计语言）和CUDA-lite（基于注释转换代码的CUDA增强）。此外，正在努力改进编译器工具，以实现GPU仿射循环嵌套的自动并行化和优化，以及将OpenMP并行代码自动转换为CUDA。在本文中，我们提出了一种替代方法：一个新的计算框架的大规模数据的并行科学代码的应用程序，适用于这样的千万亿次/亿亿次混合动力系统的高度可扩展的仙人掌框架的发展。作为其实用性的第一个非平凡的演示，我们成功地开发了一个新的3D CFD代码，实现了改进的性能。
2012-01-10 cs.DC
Optimizing High Performance Markov Clustering for Pre-Exascale Architectures
HipMCL是流行的马尔可夫聚类算法（MCL）的高性能分布式内存实现，可以使用几千个配备CPU的节点在数小时内对大规模网络进行聚类。它依赖于稀疏矩阵计算，并大量使用稀疏矩阵-稀疏矩阵乘法内核（SpGEMM）。HipMCL中现有的并行算法不能扩展到Exascale架构，这既是因为它们的通信成本在大并发时占主导地位，也是因为它们无法利用越来越受欢迎的加速器。在这项工作中，我们系统地消除HipMCL的可扩展性和性能瓶颈。我们通过在GPU上执行MCL算法的昂贵扩展阶段来启用GPU。我们提出了一个CPU-GPU联合分布式SpGEMM算法称为流水线稀疏SUMMA和集成的概率内存需求估计，是快速和准确的。我们提出了一种新的合并算法，对GPU产生的部分结果进行增量处理，提高了重叠效率和峰值内存使用率。我们还集成了一个最近的和更快的算法在CPU上执行SpGEMM。我们通过广泛的评估来验证我们的新算法和优化。通过启用GPU和集成新算法，HipMCL的速度提高了12.4倍，能够使用ORNL的Summit超级计算机的1024个节点在不到15分钟的时间内将7000万蛋白质和680亿个连接的网络集群化。
2020-02-24 cs.DC
Accelerating X-Ray Tracing for Exascale Systems using Kokkos
即将推出的exascale计算系统Frontier和Aurora将从GPU加速器中汲取大部分计算能力。这些系统的硬件将分别由AMD和英特尔提供，各自支持自己的GPU编程模型。对于利用这些兆级系统之一的应用程序来说，挑战将是避免锁定并保持性能可移植性。我们在这里报告了使用Kokkos在NERSC的Perlmutter Phase 1（使用NVIDIA A100加速器）和OLCF的Frontier测试平台系统（使用AMD MI250 X）上加速实际应用程序的结果。通过移植到Kokkos，我们能够在两个系统上成功运行相同的X-光线追踪代码，与原始CUDA代码相比，速度提高了13%到66%。这些结果是使用Kokkos加速生产科学代码的一个非常令人鼓舞的演示。
2022-05-16 cs.DC
HPL and HPL-MxP at Exascale on Aurora: Performance Engineering and Characterization
Intel Corporation（英特尔公司）；Argonne National Laboratory（阿贡国家实验室）
本文通过Aurora上的HPL和HPL-MxP测试，探讨了维持exascale性能所需的关键工程决策和操作实践，展示了混合精度计算和Intel AMX加速对性能提升的影响。
2026-09-25 cs.DC
Characterizing GPU Energy Usage in Exascale-Ready Portable Science Applications
Oak Ridge National Laboratory（橡树岭国家实验室）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；University of California, Davis（加州大学戴维斯分校）
本文研究了适用于exascale的便携式科学应用中GPU能耗的特征，通过混合精度基准测试分析了QMCPACK和AMReXCastro的能耗与性能权衡，发现混合精度可节省6-45%的能耗。
2025-11-26 cs.CE cs.DC cs.PF
Multi-GPU Hybrid Particle-in-Cell Monte Carlo Simulations for Exascale Computing Systems
KTH Royal Institute of Technology（皇家理工学院）；Max Planck Institute for Plasma Physics（马克斯·普朗克等离子体物理研究所）；Faculty of Mechanical Engineering, University of Ljubljana（卢布尔雅那大学机械工程学院）；Max Planck Computing and Data Facility（马克斯·普朗克计算与数据中心）；Institute of Plasma Physics of the CAS（捷克科学院等离子体物理研究所）；University of Oregon（俄勒冈大学）
本文提出一种多GPU混合MPI+OpenMP实现，通过OpenMP目标任务重叠计算与通信，提升异构HPC系统中PIC蒙特卡洛模拟的可扩展性与效率。
2026-06-08 cs.DC cs.PF physics.plasm-ph
Alya towards Exascale: Optimal OpenACC Performance of the Navier-Stokes Finite Element Assembly on GPUs
本文通过代码特化、算法重构和底层优化相结合，并借助Roofline性能建模，为Alya不可压缩流动模块的有限元组装实现了基于OpenACC的CPU/GPU统一高效实现，在A100 GPU上性能提升超50倍。
2024-01-22 cs.DC cs.PF
Exascale Grid Optimization (ExaGO) toolkit: An open-source high-performance package for solving large-scale grid optimization problems
本文介绍了ExaGO（Exascale Grid Optimization）工具包，该工具包可用于求解包含随机效应、安全约束和多周期约束的大规模交流最优潮流（ACOPF）问题。ExaGO可以在并行分布式内存平台上运行，包括图形处理单元（GPU）等大规模并行硬件加速器。我们提出的ExaGO库的细节，包括其架构，配方，建模细节，其性能的几个优化应用程序。
2022-03-20 cs.DC cs.SY eess.SY
Scalable CP Decomposition for Tensor Learning using GPU Tensor Cores
University of Rochester（罗切斯特大学）；Huazhong University of Science and Technology（华中科技大学）
提出基于压缩的 Exascale-Tensor 张量分解框架，利用固有并行性提升计算效率，支持百亿亿级张量分解，规模扩大 8,000 倍且加速达 6.95 倍，并在基因分析和神经网络中验证其有效性。
2023-11-22 cs.AI cs.DC cs.LG
Enhancing Performance Insight at Scale: A Heterogeneous Framework for Exascale Diagnostics
Rice University（莱斯大学）
本文提出一种异构框架，利用高性能C++API和GPU并行计算，实现高吞吐量诊断，展示了在Aurora上对10万个MPI进程的快速处理及314倍的加速效果。
2026-05-09 cs.DC cs.PF
Optimizing High-Performance Linpack for Exascale Accelerated Architectures
本文介绍 AMD 开源 rocHPL 面向 Frontier 等百亿亿次加速架构的优化，通过 GPU 与 CPU 协同、多线程面板分解、CPU 核心分时及隐藏 MPI 通信提升 HPL 性能，并在单节点和多节点上验证扩展效果。
2023-04-20 cs.DC cs.NA math.NA
Towards Exascale for Wind Energy Simulations
我们研究大涡模拟建模方法和计算性能的两个开源的计算流体动力学代码的模拟大气边界层（ABL）的流动，是直接相关的风能生产。第一个是NekRS，一个高阶的，非结构化网格，光谱元素代码。第二，AMR-Wind，是一个块结构的，二阶有限体积的自适应网格细化能力的代码。本研究的目的是共同开发这些代码，以提高模型的保真度和性能。这些功能对于在先进的计算架构上运行基于ABL的应用程序（如风电场分析）至关重要。为此，我们研究了NekRS和AMR-Wind在橡树岭领导力设施超级计算机Summit上的性能，使用4到800个节点（24到4，800个NVIDIA V100 GPU），以及Crusher，Frontier exascale系统的测试平台，使用AMD MI250 X GPU上的18到384个图形计算芯片。我们比较强和弱的缩放能力，线性求解器的性能，和解决方案的时间。我们还确定了领先的抑制剂平行缩放。
2022-09-30 cs.CE cs.DC cs.PF
Julia as a unifying end-to-end workflow language on the Frontier exascale system
该研究在Frontier上评估Julia端到端HPC工作流能力，涵盖GPU模板计算、MPI扩展、ADIOS2并行I/O与Jupyter分析，验证其高生产率及接近零绑定开销。
2023-09-28 cs.DC cs.PL
LEONARDO: A Pan-European Pre-Exascale Supercomputer for HPC and AI Applications
本文介绍了旨在促进欧洲科研创新的百亿亿次级预级超级计算机LEONARDO的总体架构及其GPU加速分区技术，指出其能灵活可扩展地运行密集型工作负载，使传统HPC和新兴AI应用在求解时间与能耗上获益。
2023-07-31 cs.DC
Power-Capping Metric Evaluation for Improving Energy Efficiency in HPC Applications
本文针对百亿亿次高性能计算，利用NVIDIA GH200架构探索集成CPU-GPU功率限制优化，通过加速比-能耗-延迟和欧几里得多目标方法评估，发现动态功率调整可显著提升应用能效。
2025-06-24 cs.CE cs.DC cs.PF
Development and performance of a HemeLB GPU code for human-scale blood flow simulation
近年来，高性能计算机（HPC）拥有某种程度的异构架构（通常以GPU加速器的形式）变得越来越普遍。在某些机器中，这些GPU被隔离在专用分区内，而在其他机器中，它们与所有计算节点集成在一起-通常每个节点有多个GPU-并提供机器的大部分计算性能。鉴于这一趋势，更新部署在HPC上的代码以在加速器硬件上执行变得至关重要。在本文中，我们介绍了一个GPU实现的三维血流模拟代码HemeLB已开发使用CUDA C++。我们演示了如何利用NVIDIA GPU硬件可以实现显着的性能改进相比，它已经建立在同等的CPU上的代码，同时保留了出色的强大的可扩展特性，已多次证明了CPU版本。随着HPC处于亿亿次时代的边缘，我们以HemeLB为动机，讨论了许多用户在即将到来的亿次机器上部署自己的应用程序时将面临的一些挑战。
2022-01-13 cs.DC physics.flu-dyn
Evaluating performance and portability of high-level programming models: Julia, Python/Numba, and Kokkos on exascale nodes
本文在百亿亿次 HPC 节点上评估 Julia、Python/Numba 和 Kokkos 的性能与可移植性，发现 Julia 和 Kokkos 在 CPU 上接近 C/OpenMP，Julia 在 GPU 上接近 CUDA/HIP，而 Python/Numba 性能差距明显。
2023-03-10 cs.DC cs.PL
Simulating the weak death of the neutron in a femtoscale universe with near-Exascale computing
被称为量子色动力学（QCD）的基本粒子理论决定了质子和中子的一切，从它们的内在属性到将它们结合成原子核的相互作用。无法通过实验完全解决的问题，例如中子寿命（其精确值对于使太阳发光和生命成为可能的光原子元素的存在很重要），可以通过QCD的数值解来理解。我们用格点规范理论直接求解QCD，并计算了中子寿命等核观测量。我们已经开发了一种改进的算法，指数减少的时间解决方案，并将其应用于新的珊瑚超级计算机，塞拉利昂和首脑会议。我们使用运行时自动调优来分配GPU资源，在低节点数下实现20%的性能。我们还通过作业管理器开发了最佳应用程序映射，允许CPU和GPU作业交错，当部署在CORAL的大部分区域时，可获得15%的峰值性能。
2018-10-10 cs.DC hep-lat nucl-th
Scaling the memory wall using mixed-precision -- HPG-MxP on an exascale machine
本研究针对百亿亿次系统提出了高度优化的 HPG-MxP 基准测试实现及算法增强，首次在现代基于 GPU 的超级计算机上利用双精度与单精度结合实现了 1.6 倍的加速。
2025-07-15 cs.DC cs.NA cs.PF
Towards Exascale CFD Simulations Using the Discontinuous Galerkin Solver FLEXI
本文介绍FLEXI求解器在百亿亿次计算中的进展，包括大规模扩展、壁面模型和激波捕捉方法，并展示TFFB库用于部署机器学习模型，以实现跨声速激波抖振模拟。
2023-06-22 cs.DC
Enabling GPU Accelerated Computing in the SUNDIALS Time Integration Library
作为Exascale Computing Project（ECP）的一部分，非线性和差分/代数方程求解器套件（SUNDIALS）最近的开发重点是在极端尺度下的科学应用中实现GPU加速的时间积分。这一努力导致了几个新的GPU启用的实现核心SUNDIALS数据结构，支持编程范式，这是意识到异构体系结构，并引入实用程序，以提供新的灵活性点。在本文中，我们讨论了我们的考虑，内部和外部，当设计这些新功能，并提出自己的功能。我们还介绍了Summit超级计算机和Frontier超级计算机的抢先体验硬件上的几个功能的性能结果，这些结果表明，使用NVIDIA和AMD GPU时，额外的基础设施和显着的加速带来的性能开销可以忽略不计。
2021-12-08 cs.DC cs.MS
Methodology for GPU Frequency Switching Latency Measurement
本文提出一种系统测量GPU频率切换延迟的方法，通过人工迭代工作负载和统计过滤，在GH200、A100和RTX Quadro 6000上揭示显著差异，为能效运行时系统设计提供关键依据。
2025-02-27 cs.DC
4D Parallelism Unlocks Exascale Bayesian Neural Networks for High-Fidelity Atmospheric Modeling
Karlsruhe Institute for Technology（卡尔斯鲁厄理工学院）；CSC – IT Center for Science Ltd.（CSC信息技术中心有限公司）；NVIDIA（英伟达）
本文提出BEAST，首个贝叶斯Swin Transformer，通过4D并行化在百亿亿次超算上高效训练，实现高分辨率大气建模与不确定性量化，性能超越现有AI模型。
2026-09-14 cs.AI cs.DC cs.LG
Aurora: Architecting Argonne's First Exascale Supercomputer for Accelerated Scientific Discovery
Aurora 是阿贡国家实验室为加速科学发现而构建的首台 exascale 超级计算机，采用前沿架构创新，集成了新型存储解决方案和 oneAPI 编程环境。
2025-12-08 cs.AR cs.CE cs.DC
HPDR: High-Performance Portable Scientific Data Reduction Framework
本文提出高性能可移植数据缩减框架 HPDR，通过支持多处理器架构并优化内存传输与多 GPU 扩展，在 Frontier 超算上实现 103 TB/s 吞吐量和最高 4 倍并行 I/O 加速。
2025-03-08 cs.DC
A Practical Overview of Quantum Computing: Is Exascale Possible?
本文概述量子计算的实际挑战，探讨混合架构、工具演进及纠错问题，并指出HPC技能在量子时代仍具价值。
2023-06-21 cs.DC cs.ET
GPU Accelerated Similarity Self-Join for Multi-Dimensional Data
自连接查找数据集中彼此在搜索距离内的所有对象;因此，自连接是许多算法的构建块。我们提出了一个GPU加速的自连接算法针对高维数据。GPU提供的大规模并行性和高聚合内存带宽使该架构非常适合数据密集型工作负载。我们利用基于网格的GPU定制索引来执行范围查询。我们提出了以下优化：（i）通过利用索引的属性在候选集过滤和索引搜索开销之间进行权衡;（ii）基于每个维度的方差对数据进行重新排序，以提高索引的过滤能力;以及（iii）用于减少昂贵的距离计算次数的修剪方法。在现实世界和合成数据集的大多数场景中，我们的算法优于并行的最先进的方法。Exascale系统正在向异构分布式存储器架构汇聚。我们表明，可以利用实体分区方法来实现平衡的工作负载，从而为多GPU或分布式内存自连接提供良好的可扩展性。
2018-09-26 cs.DC
A GPU-based Compressible Combustion Solver for Applications Exhibiting Disparate Space and Time Scales
针对高速化学反应流的多尺度计算挑战，提出基于 AMReX 框架的多 GPU 优化可压缩反应流求解器，通过优化内存访问、批量稀疏积分与负载分配，在多个燃烧应用中实现显著性能提升与高效资源利用。
2025-10-31 cs.CE cs.DC
Memory Reduction using a Ring Abstraction over GPU RDMA for Distributed Quantum Monte Carlo Solver
在领导力计算设施上运行的科学应用程序通常面临的挑战是，由于内存限制（内存限制应用程序），无法将领先的科学案例安装到加速器设备上。在这项工作中，作者研究了这样一个美国能源部的关键任务凝聚态物理应用程序，动态集群近似（DCA++），本文讨论了如何通过提出一种有效的“所有对所有”的通信方法-环形通信算法，成功地减少了设备内存限制的挑战。此实现利用GPU上的加速和远程直接内存访问（RDMA）来实现GPU之间的快速数据交换。此外，通过子环通信器和多线程支持对环算法进行了优化，以分别进一步减少通信开销和暴露更多并发性。利用APEX工具分析了环形算法的计算和通信性能，并进一步讨论了环形算法实现的性能权衡。对环形算法的内存分析表明，作者的每个GPU的内存密集型数据结构的分配大小现在减少到原始大小的1/p，其中p是环形通信器中的GPU数量。通信分析表明，分布式量子蒙特卡罗执行时间随着子环大小的增加而线性增长，并且消息通过网络接口连接器的成本可能是一个限制因素。
2021-05-13 cond-mat.mtrl-sci cond-mat.str-el cond-mat.supr-con
Harvesting energy consumption on European HPC systems: Sharing Experience from the CEEC project
Friedrich-Alexander-University（弗里德里希·阿列克桑德大学）；University of Stuttgart（斯图加特大学）；Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）；Uppsala University（乌普萨拉大学）
本文分享了CEEC项目在测量和优化欧洲主要HPC系统能耗方面的经验，通过CFD应用案例研究评估了不同架构的能耗与时间指标，并强调了加速器和混合精度技术在降低能耗中的优势。
2025-11-04 cs.DC
Performance report and optimized implementations of Weather & Climate dwarfs on multi-node systems
本文档是为ESCAPE项目创建的可交付成果报告之一。ESCAPE是Energy-efficient Scalable Algorithms for Weather Prediction at Exascale的缩写。该项目为欧洲业务数值天气预报和未来气候模型开发世界级的极端规模计算能力。这是通过识别天气和气候侏儒来完成的，这些侏儒是计算和通信方面的关键模式（本着伯克利侏儒的精神）。然后针对不同的硬件架构（单节点和多节点）优化这些侏儒，并探索替代算法。性能可移植性是通过使用领域特定的语言来解决的。在这里，我们总结了在侏儒优化方面所做的工作，重点是CPU多节点和多GPU。我们将自己限制在由财团选择的矮配置的子集上。侏儒节点内优化和特定于能量的优化已经在D3.3中描述。为了涵盖重要的算法主题，我们选择了与动力学核心以及柱物理相关的矮星。具体来说，我们专注于制定相关的频谱代码，如ECMWF的IFS代码。本报告的主要结论是：（a）与任务3.3中的优化版dwarfs相比，基于CPU的多节点系统的性能提升高达30%（参见D3.3），（b）通过优化在多个GPU上获得高达10倍的性能增益，以保持数据驻留在GPU上并实现快速的GPU间通信机制，以及（c）以具有NVLink/NVSwitch硬件的高带宽全对全互连拓扑为特征的多GPU系统特别适合于所述算法。
2019-08-16 cs.DC
NekRS, a GPU-Accelerated Spectral Element Navier-Stokes Solver
介绍了基于谱元法（SEM）的面向GPU的热流体模拟程序NekRS的开发过程。对于性能可移植性，代码基于开放并发计算抽象，并利用SEM代码Nek 5000和libParpendal中的可扩展开发，libParpendal是用于高阶离散化和基于PDE的小型应用程序的高性能内核库。关键性能部分的Navier-Stokes时间推进的解决。在几个平台上的性能结果，包括扩展到27,648 V100的OLCF峰会，计算高达60 B网格点。
2021-04-12 cs.DC cs.PF
