Grace Hopper AI 超级芯片与国家研究平台的探索
Adventures with Grace Hopper AI Super Chip and the National Research Platform
AI总结:
本文介绍在 NSF 国家研究平台中首次部署 ARM 架构的 NVIDIA GH200 芯片所面临的容器构建挑战、解决方案及其与 A100 在计算机视觉任务上的性能对比。
摘要:
美国国家科学基金会(NSF)资助的国家研究平台(NRP)是一个超融合集群,由全国和全球互联的异构计算资源组成。NRP 的主要计算环境是 x86 64 指令集架构(ISA),通常配备图形处理单元(GPU)。全国的研究人员利用容器和 Kubernetes 在异构网络基础设施上以最小的摩擦和最大的灵活性执行高吞吐量计算(HTC)工作负载。作为 NSF 资助的 GP-ENGINE 项目的一部分,我们为 NRP 部署了第一台搭载 NVIDIA Grace Hopper AI 芯片(GH200)的服务器,该芯片采用替代的 ARM ISA。这带来了挑战,因为容器必须专门为 ARM 而非 x86 64 构建。在此,我们描述了遇到的挑战,以及我们由此产生的解决方案和一些相关的性能基准。我们特别在 NRP 内的计算节点中,针对计算机视觉工作负载将 GH200 与 A100 进行了比较。
英文摘要:
The National Science Foundation (NSF) funded National Research Platform (NRP) is a hyper-converged cluster of nationally and globally interconnected heterogeneous computing resources. The dominant computing environment of the NRP is the x86 64 instruction set architecture (ISA), often with graphics processing units (GPUs). Researchers across the nation leverage containers and Kubernetes to execute high-throughput computing (HTC) workloads across the heterogeneous cyberinfrastructure with minimal friction and maximum flexibility. As part of the NSF-funded GP-ENGINE project, we stood up the first server with an NVIDIA Grace Hopper AI Chip (GH200), an alternative ARM ISA, for the NRP. This presents challenges, as containers must be specifically built for ARM versus x86 64. Herein, we describe the challenges encountered, as well as our resulting solutions and some relevant performance benchmarks. We specifically compare the GH200 to A100 for computer vision workloads, within compute nodes in the NRP.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。