Characterizing the I/O Behavior of HPC Applications through Modeling and Simulation
Mutah University(穆塔大学);University Carlos III of Madrid(马德里卡洛斯三世大学);Technical University of Darmstadt(达姆施塔特工业大学);University of Naples “Parthenope”(那不勒斯帕提诺佩大学)
本研究开发了基于ElastiSim的框架,结合HPCIO追踪复现真实HPC应用I/O访问模式,通过案例分析实现I/O拥塞分析,以表征HPC应用I/O行为。
2026-08-31 cs.DC
Application-aware Congestion Mitigation for High-Performance Computing Systems
高性能计算(HPC)系统经常经历拥塞,从而导致显著的应用性能变化。然而,拥塞对应用程序运行时的影响因应用程序而异,具体取决于其网络特性(例如带宽和延迟要求)。我们利用这一洞察力来开发Netscope,这是一个自动化的ML驱动框架,它考虑了这些网络特性来动态缓解拥塞。我们评估Netscope的四个Cray白羊座系统,包括生产超级计算机上的真正的科学应用。Netscope具有较低的训练成本,并准确地估计拥塞对应用程序运行时的影响,对于常见的科学应用程序,相关性在0.7和0.9之间。此外,我们发现Netscope将尾部运行时可变性降低了14.9倍,同时将中值系统实用性提高了12%。
2021-02-04 cs.DC cs.NI
ATLAHS: An Application-centric Network Simulator Toolchain for AI, HPC, and Distributed Storage
本文提出开源工具链 ATLAHS,通过 GOAL 追踪并建模 AI、HPC 和分布式存储真实应用,支持多后端、多作业与多租户模拟,误差低于 5%,且在运行时间和追踪效率上优于 AstraSim。
2025-05-13 cs.DC
Efficient All-to-All Collective Communication Schedules for Direct-Connect Topologies
本文针对超级计算机规模直连互连,采用整体方法优化全对全集合通信性能,解决了为任意拓扑开发高效带宽最优调度并适配多种运行时的挑战,并提出一种接近最优性能的新型拓扑。
2024-04-25 cs.DC cs.NI
High-Quality Fault-Resiliency in Fat-Tree Networks (Extended Abstract)
将规则的拓扑结构与优化的路由算法相结合是提高高性能计算系统互连网络性能的关键。在本文中,我们提出了Dmodc,一个快速的确定性路由算法并行广义胖树(PGFTs),即使在大规模的拓扑结构退化造成的设备故障,最大限度地减少拥塞风险。它应用基于模的计算更接近目的地的交换机之间的转发表,仅使用子树的知识进行预模划分。Dmodc允许在不到一秒的时间内对具有数万个节点的拓扑进行完整的重新路由,这极大地帮助了集中式交换矩阵管理通过高质量的路由表对故障做出反应,并且不会影响当前和未来超大规模HPC集群中正在运行的应用程序。我们比较Dmodc对路由算法可在InfiniBand控制软件(OpenSM)的路由执行时间,以显示规模的可行性,然后在降级的拥塞风险,以证明鲁棒性。后一个比较是使用随机排列(RP)、移位排列(SP)和全对全(A2A)流量模式下的路由表的静态分析完成的。Dmodc的结果表明,A2A和RP拥塞风险相似的严重退化的最稳定的算法相比,和接近最佳的SP拥塞风险高达1%的随机退化。
2022-11-21 cs.DC cs.NI
An In-Depth Analysis of the Slingshot Interconnect
互连是大规模计算系统中最关键的部件之一,其对应用性能的影响随着系统规模的增大而增大。在本文中,我们将描述弹弓,大规模计算系统的互连网络。Slingshot基于高基数交换机,它允许构建最多三个交换机到交换机跳的百万兆级和超大规模数据中心网络。此外,Slingshot提供了高效的自适应路由和拥塞控制算法,以及高度可调的流量类别。Slingshot使用优化的以太网协议,使其能够与标准以太网设备互操作,同时为HPC应用提供高性能。我们分析了Slingshot提供这些功能的程度,在微基准测试和来自数据中心和AI世界的几个应用程序以及HPC应用程序上对其进行了评估。我们发现,与上一代网络相比,在弹弓上运行的应用程序受拥塞的影响较小。
2020-08-20 cs.DC cs.NI cs.PF
Monte Cimone: Paving the Road for the First Generation of RISC-V High-Performance Computers
新的开放和免版税的RISC-V ISA吸引了从微控制器到超级计算机的整个计算连续体的兴趣。高性能RISC-V处理器和加速器已经宣布,但基于RISC-V的HPC系统将需要全面的协同设计工作,跨越内存,存储层次互连和完整的软件堆栈。在本文中,我们描述了Monte Cimone,一个基于U 740的全操作多刀片计算机原型和硬件-软件测试平台,U 740是一个双精度多核,64位RISC-V SoC。Monte Cimone的目标不是实现强大的浮点性能,但它的目的是“启动管道”,并探索集成多节点RISC的挑战-V集群能够提供HPC生产堆栈,包括RISC-V硬件上的互连、存储和电源监控基础设施。我们展示了我们硬件/软件集成工作的成果,这些成果展示了软件和硬件的就绪性和成熟度,表明第一代RISC-V HPC机器可能不会太远。
2022-05-07 cs.AR cs.DC
High-Performance Serverless Computing: A Systematic Literature Review on Serverless for HPC, AI, and Big Data
Department of Computer Science, University of Pisa(帕尔米斯大学计算机科学系);ISTI – National Research Council(国家研究理事会ISTI)
本文系统综述了122篇论文,提出八个研究方向和九个用例领域,分析了服务器less计算在HPC、AI和大数据中的应用趋势和合作网络。
2026-01-14 cs.DC cs.LG
SAKURAONE: Empowering Transparent and Open AI Platforms through Private-Sector HPC Investment in Japan
本文介绍日本SAKURA Internet Research Center开发的SAKURAONE HPC集群,其以800 GbE开放网络和SONiC系统跻身TOP500第49位,并通过H100 GPU、Lustre存储及RoCEv2互连实现面向LLM训练的高性能计算。
2025-07-02 cs.DC cs.NI
Attack Graph Generation on HPC Clusters
针对攻击图生成存在的耗时耗内存及状态空间爆炸问题,提出使用高性能计算(HPC)集群实现攻击图生成器,经实验评估其性能,为解决相关问题提供平衡方案。
2025-08-16 cs.CR cs.DC
Alps, a versatile research infrastructure
针对传统HPC架构灵活性不足的问题,CSCS开发了Alps基础设施,通过将资源作为独立网络端点并引入vCluster技术,实现云与HPC范式的融合,为数值天气预报和AI研究等多样化科学领域提供定制化平台。
2025-07-03 cs.DC
Evaluating Modern GPU Interconnect: PCIe, NVLink, NV-SLI, NVSwitch and GPUDirect
随着深度学习、大数据、行星级仿真等新兴领域对计算能力需求的不断增长,高性能多GPU计算成为必然趋势。然而,对现代GPU如何连接以及最先进的互连技术对多GPU应用性能的真正影响缺乏深入的了解成为一个障碍。在本文中,我们通过对五种最新类型的现代GPU互连进行全面评估来填补这一空白:PCIe,NVLink-V1,NVLink-V2,NVLink-SLI和NVSwitch,来自六种高端服务器和HPC平台:NVIDIA P100-DGX-1,V100-DGX-1,DGX-2,OLCF的SummitDev和Summit超级计算机,以及带有两个NVIDIA Turing RTX-2080 GPU的SLI链接系统。基于经验评估,我们观察到四种新类型的GPU通信网络NUMA效应:三种是由NVLink的拓扑结构,连接性和路由触发的,而一种是由PCIe芯片组设计问题引起的。这些观察结果表明,对于在多GPU节点中运行的应用程序,选择正确的GPU组合可以对GPU通信效率以及应用程序的整体性能产生相当大的影响。我们的评估可以用于构建实用的多GPU性能模型,这对于共享环境中的GPU任务分配,调度和迁移至关重要(例如,AI云和HPC中心),以及面向通信的性能调优。
2019-03-11 cs.AR cs.DC cs.NI
10 Years Later: Cloud Computing is Closing the Performance Gap
云计算基础设施能否为科学应用提供HPC竞争力的性能?尽管有大量的相关文献,这个问题仍然是开放的。答案对于设计未来的系统和普及高性能计算至关重要。我们提出了一个多层次的方法来调查HPC和云计算之间的性能差距,隔离不同的变量,有助于这一差距。我们的实验分为(i)硬件和系统微基准测试和(ii)用户应用程序代理。结果表明,由于某些云平台上提供了高速内存系统和互连以及专用批处理调度,如今的高端云计算不仅可以为计算密集型应用提供HPC竞争力的性能,而且还可以为内存和通信密集型应用提供HPC竞争力的性能(至少在中等规模下)。
2021-03-05 cs.DC cs.PF
Harvest: Adaptive Photonic Switching Schedules for Collective Communication in Scale-up Domains
Purdue University(普渡大学);Microsoft Research(微软研究院)
Harvest通过自适应光子交换调度优化集体通信性能,减少完成时间,适用于多种算法和光子技术。
2026-02-09 cs.DC cs.NI
SAKURAONE: An Open Ethernet-Based AI HPC System and Its Observed Workload Dynamics in a Single-Tenant LLM Development Environment
Research Center, SAKURA internet Inc.(SAKURA internet 公司研究中心)
SAKURAONE是一种基于开放以太网的AI HPC系统,通过观测单租户LLM开发环境中的工作负载动态,揭示了GPU集群在统一项目负载下的实际利用情况。
2026-04-16 cs.DC cs.NI
From Skew to Symmetry: Node-Interconnect Multi-Path Balancing with Execution-time Planning for Modern GPU Clusters
The Ohio State University(俄亥俄州立大学)
本文提出NIMBLE系统,通过动态重分布流量平衡节点内和节点间路径的利用率,提升GPU集群的通信性能。
2026-03-31 cs.DC cs.NI
dynamicMF: A Matrix Factorization Approach to Monitor Resource Usage in High Performance Computing Systems
高性能计算(HPC)设施由大量互连的计算单元(或节点)组成,这些计算单元(或节点)执行高度复杂的科学模拟以支持科学研究。实时监测这些设施对于确保系统以最高效率运行至关重要。这种系统通常使用各种测量和日志数据来监测,这些数据以规则的时间间隔捕获系统内各种组件的状态。随着现代HPC系统在容量和复杂性方面的增长,由当前资源监视工具产生的数据的规模使得分析师不再能够进行可视化监视。我们提出了一种方法,将资源监控工具的多维输出转换为低维表示,便于理解的高性能计算(HPC)系统的行为。该方法能够自动提取数据中的低维信号,用于跟踪系统效率和识别性能异常。该方法将资源使用数据建模为三维张量(捕获所有计算节点随时间的不同资源的资源使用)。一个动态矩阵分解算法,称为dynamicMF,提出了提取一个低维的时间信号为每个节点,这是随后送入异常检测器。从德克萨斯州高级计算中心的Lonestar 4系统收集的资源使用数据的结果表明,所识别的异常与系统日志消息中报告的实际异常事件相关。
2018-09-26 cs.DC
SDN helps Big Data to optimize access to data
本章介绍了高性能计算(HPC)与大数据分析相结合这一新兴领域的最新技术。为了了解这个新领域,本章首先调查了将HPC与大数据集成的现有方法。接下来,本章介绍了几种优化解决方案,重点是如何最大限度地减少从计算密集型应用程序到分析密集型应用程序的数据传输时间,以及最大限度地减少端到端解决方案的时间。该解决方案利用SDN自适应地使用高速互连网络和高性能并行文件系统来优化应用性能。设计和开发了一个名为DataBroker的计算框架,以实现HPC与数据分析的紧密集成。多种类型的实验已经进行了显示不同的性能问题,在消息传递和并行文件系统,并验证所提出的研究方法的有效性。
2020-12-30 cs.DC cs.NI cs.PF
GPU-centric Communication Schemes for HPC and ML Applications
University of Minnesota(明尼苏达大学)
本综述探讨了将通信控制路径从CPU转移到GPU的以GPU为中心的通信方案,分析了其需求、所需硬件能力及潜在用例,并讨论了支持这些方案面临的挑战。
2025-03-31 cs.DC cs.LG
Application Experiences on a GPU-Accelerated Arm-based HPC Testbed
本文评估了十个团队在GPU加速的Arm测试平台上移植和基准测试HPC应用的经验,证明当前软件和工具已成熟,足以支持大规模生产部署。
2022-12-19 cs.AR cs.DC
Fast and Scalable Sparse Triangular Solver for Multi-GPU Based HPC Architectures
在现代基于多GPU的HPC系统上设计高效且可扩展的稀疏线性代数内核是一项艰巨的任务,这是由于GPU之间存在显著的不规则内存引用和工作负载不平衡。对于稀疏三角形求解器(SpTRSV)来说尤其如此,SpTRSV在后续计算步骤中引入了额外的二维计算依赖性。依赖信息在GPU之间交换和共享,从而保证高效的内存分配,数据分区和工作负载分配以及细粒度的通信和同步支持。在这项工作中,我们证明了直接采用统一内存会对SpTRSV在多GPU架构上的性能产生不利影响,尽管通过NVLinks和NVSwitches等快速互连进行链接。另外,我们采用最新的NVSHMEM技术的分区全局地址空间编程模型的基础上,使有效的细粒度通信和大幅减少同步开销。此外,为了处理工作负载不平衡,我们提出了一个可延展的任务池执行模型,可以进一步提高GPU的利用率。通过应用这些技术,我们在NVIDIA多GPU超级节点V100-DGX-1和DGX-2系统上的实验表明,我们的设计可以实现平均3.53倍(高达9.86倍)的DGX-1系统上的加速比和3.66倍(高达9.64倍)的DGX-2系统上的4个GPU的统一内存设计。全面的灵敏度和可扩展性研究也表明,提出的零拷贝SpTRSV是能够充分利用多GPU系统的计算和通信资源。
2020-12-13 cs.AR cs.DC
GICC: A High-Performance Runtime for GPU-Initiated Communication and Coordination in Modern HPC Systems
Stony Brook University(石溪大学);TotalEnergies EP Research & Technology US(道达尔能源EP研究与技术美国分公司)
GICC通过使GPU内核直接触发网络接口层操作,提升了GPU驱动的通信效率,降低了协调延迟并提高了扩展性。
2026-04-24 cs.DC
A Pattern Language for High-Performance Computing Resilience
高性能计算系统(HPC)为广泛的计算问题提供了强大的建模、仿真和数据分析功能。它们通过聚合数百万个计算、内存、网络和存储组件的能力,实现每秒四进制浮点算术计算数量级的极端性能。随着HPC系统的规模和复杂性迅速增长,以实现更高的性能,确保其在系统降级和故障面前的可靠运行是一个关键的挑战。系统故障事件经常导致科学应用产生错误的结果,甚至可能导致其过早终止。现代极端规模HPC系统中的组件数量庞大,硬件和软件组件、应用程序和物理环境之间的交互和依赖关系复杂,这使得设计支持故障恢复的实用解决方案成为一项复杂的任务。为了管理这种复杂性,我们开发了一种使用设计模式设计HPC弹性解决方案的方法。我们将过去三十年来设计、应用和改进的用于处理故障、错误和失败的著名技术以设计模式的形式进行了整理。在本文中,我们提出了一种模式语言,使结构化的方法来开发HPC弹性解决方案。模式语言揭示了弹性模式之间的关系,并提供了一种手段,探索替代技术处理特定的故障模型,可能有不同的效率和复杂性的特点。使用模式语言可以将全面的弹性解决方案设计和实现为一组相互关联的弹性模式,这些模式可以跨系统堆栈的各个层进行实例化。
2017-10-31 cs.DC cs.SE
Fire-Flyer AI-HPC: A Cost-Effective Software-Hardware Co-Design for Deep Learning
DeepSeek-AI(深度求索人工智能公司)
本文提出 Fire-Flyer AI-HPC 软硬件协同设计架构,通过万卡 PCIe A100 集群、HFReduce 通信加速及计算通信重叠,以一半成本和更低能耗实现接近 DGX-A100 的性能。
2024-08-31 cs.AI cs.DC
Quantum-HPC Software Stacks and the openQSE Reference Architecture: A Survey
Oak Ridge National Laboratory(橡树岭国家实验室);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室);Munich Quantum Software Company(慕尼黑量子软件公司)
本文分析九个生产级QHPC软件栈,识别通用设计模式与需求,提出openQSE参考架构以统一实践,支持NISQ与FTQC工作负载。
2026-06-17 cs.DC cs.ET cs.SE
Characterizing the Scalability and Performance of Large-Scale AI Training Under Multi-Tenancy
University of Trento(特伦托大学);Sapienza University of Rome(罗马第一大学);NVIDIA(英伟达);ENEA(意大利国家新能源与可再生能源机构);Forschungszentrum Jülich GmbH(于利希研究中心有限公司)
本研究针对多租户场景下的大规模AI训练,设计基准套件评估5种并行策略在6类超级计算机集群的性能,量化通信开销,揭示并发作业干扰,系统表征分布式AI训练的可扩展性与执行效率。
2026-09-04 cs.DC
Inter-APU Communication on AMD MI300A Systems via Infinity Fabric: a Deep Dive
本文针对AMD MI300A多APU系统,通过定制基准测试评估GPU直接内存访问、APU间数据移动与集合通信,比较HIP、MPI和RCCL的效率,揭示基于Infinity Fabric优化APU间通信的关键设计选择,并在Quicksilver和CloverLeaf上验证优化效果。
2025-08-18 cs.DC
Multi-GPU Quantum Circuit Simulation and the Impact of Network Performance
NVIDIA(英伟达);Purdue University(普渡大学);Quantum Circuits Inc.(量子电路公司)
研究多GPU量子电路模拟中网络性能对效率的影响,通过MPI优化并评估不同互联技术对计算性能的提升。
2026-03-11 cs.DC quant-ph
Adaptive Resource Orchestration for Distributed Quantum Computing Systems
Imperial College London(帝国理工学院);Centre for Quantum Engineering, Science and Technology (QuEST), Imperial College London(帝国理工学院量子工程、科学与技术中心);Binghamton University SUNY(纽约州立大学宾汉姆顿分校)
ModEn-Hub 通过自适应资源编排实现分布式量子计算系统的高效可扩展性,利用光子互连和实时编排器提升量子态传输成功率。
2025-12-31 cs.DC quant-ph
Revisiting Bruck: Phase-Efficient All-to-All Collective Communication in Reconfigurable Networks
Weizenbaum Institute(魏曾鲍姆研究所);TU Berlin(柏林工业大学)
本文重新审视Bruck的全交换实现,提出面向光可重构网络的双向全交换调度ReTri,通过平衡三元块传播在⌈log₃ n⌉个相位内完成全交换,并利用成对双向交换的重新配置策略将延迟分摊到多个相位,初步模拟显示相比静态全交换最多提升10倍完成时间,相比可重构Bruck最多提升2.1倍。
2026-09-01 cs.DC cs.NI