Autonomy Loops for Monitoring, Operational Data Analytics, Feedback, and Response in HPC Operations
本文针对HPC领域MODA自主反馈循环进展受限的问题,基于MAPE-K循环形式化体系,结合达格斯图尔研讨会成果,提出开发通用自主循环的路径,以推动跨站点互操作与行业普及。
2024-01-30 cs.DC
LLload: Simplifying Real-Time Job Monitoring for HPC Users
LLload 是 MIT Lincoln Laboratory Supercomputing Center 开发的 HPC 作业资源监控工具,通过按用户捕获作业资源快照,帮助研究人员尤其是新手更简便地跟踪资源使用、培养性能监控能力并优化资源请求。
2024-07-01 cs.DC cs.PF
LIKWID Monitoring Stack: A flexible framework enabling job specific performance monitoring for the masses
系统监控是一种成熟的工具,用于衡量HPC系统的利用率和运行状况。通常,系统监视基础结构不与作业信息建立连接,也不利用硬件性能监视(HPM)数据。为了提高HPC系统的使用效率,自动和连续的作业性能监控是一个必不可少的组成部分。它可以帮助识别病态情况,为用户提供即时的性能反馈,提供初始数据来判断应用程序的优化潜力,并有助于建立有关应用程序特定系统使用情况的统计基础。LIKWID监控堆栈是在LIKWID工具库之上构建的模块化框架。它的目的是利用人力资源管理数据、系统指标和应用程序一级的数据,对中小型商品组群进行具体工作的业绩监测。此外,它被设计为集成在现有的监控基础设施,以加快从纯粹的系统监控到作业感知监控的变化。
2017-08-04 cs.DC
Machine Learning Algorithms for Active Monitoring of High Performance Computing as a Service (HPCaaS) Cloud Environments
Pacific Northwest National Laboratory(西北太平洋国家实验室)
云计算提供了对可以满足任何计算需求的大量可重构资源的无处不在和按需访问。许多服务模型都是可用的,但是基础设施即服务(IaaS)模型通过联网大量的云计算节点而特别适合作为高性能计算(HPC)平台来操作。我们使用太平洋西北国家实验室(PNNL)的云计算环境来执行我们的实验。许多云计算提供商(如Amazon Web Services、Microsoft Azure或IBM Cloud)都提供灵活且可扩展的计算资源。本文探讨的可行性识别类型的工程应用程序上运行的云基础设施配置为HPC平台使用隐私保护功能作为输入到统计模型。在这项工作中考虑的工程应用程序包括MCNP 6,由洛斯阿拉莫斯国家实验室开发的辐射传输代码,OpenFOAM,一个开源的计算流体动力学代码,和CADO-NFS,用于素数分解的一般数域筛算法的数值实现。我们的实验使用OpenStack云管理工具来创建一个云HPC环境和隐私保护Ceilometer计费表作为分类功能,以证明这些应用程序的识别。
2020-09-26 cs.DC cs.LG
Host-Side Telemetry for Performance Diagnosis in Cloud and HPC GPU Infrastructure
Harvard University(哈佛大学);Massachusetts Institute of Technology(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Northeastern University(东北大学)
本文提出基于 eBPF 的主机端 GPU 遥测系统,关联主机指标与 GPU 内部事件,可低开销快速诊断分布式学习中的多类延迟尖峰根因。
2025-10-19 cs.DC
Icicle: Scalable Metadata Indexing and Real-Time Monitoring for HPC File Systems
University of Chicago(芝加哥大学);Argonne National Laboratory(阿贡国家实验室);École de technologie supérieure(高等技术学院);Purdue University(普渡大学)
Icicle通过构建统一的文件系统状态视图,支持批量元数据更新和实时同步,实现高效的大规模文件系统监控与查询。
2026-04-11 cs.CE cs.DC
Understanding Large-Scale HPC System Behavior Through Cluster-Based Visual Analytics
University of California, Davis(加州大学戴维斯分校);Argonne National Laboratory(阿贡国家实验室);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
本文提出一种可扩展的交互式可视化分析系统,用于探索和比较HPC系统计算节点行为,结合双阶段降维与对比学习方法,揭示集群内和跨集群的差异,提升异常检测能力。
2026-04-13 cs.DC
DCDB Wintermute: Enabling Online and Holistic Operational Data Analytics on HPC Systems
Leibniz Supercomputing Centre(莱布尼茨超级计算中心);Technical University of Munich(慕尼黑工业大学)
随着我们进入亿亿级时代,HPC系统的规模和复杂性不断增加,引发了人们对其可持续性和可持续性的担忧。因此,越来越多的HPC中心正在尝试细粒度监控与操作数据分析(ODA)相结合,以优化系统操作的效率和有效性。然而,虽然监测是高性能计算中的一个普遍现实,但没有明确和全面的要求清单,也没有配套的框架来支持整体和在线官方发展援助。这导致孤立的临时解决方案,每个解决方案只解决问题的具体方面。在本文中,我们提出了Wintermute,一种新的通用框架,使在线ODA的大规模HPC安装。它的设计是基于对共同业务要求的文献调查结果。我们在整体DCDB监控系统的基础上实施Wintermute,提供多种配置选项,以满足ODA应用的不同要求。此外,Wintermute基于一组逻辑抽象,以简化大规模模型的配置并最大限度地提高代码重用。我们通过一系列实际案例研究来突出Wintermute的灵活性,每个案例针对HPC系统管理的不同方面,然后展示我们实施的小资源占用。
2020-04-18 cs.DC cs.LG
An Incremental Multi-Level, Multi-Scale Approach to Assessment of Multifidelity HPC Systems
本文针对大规模计算系统监控数据海量且复杂的挑战,提出了mrDMD算法的增量版本I-mrDMD,结合D3和Jupyter Notebook实现机架可视化,并在Cray XC40超级计算机数据上验证了方法有效性。
2025-01-29 cs.DC
Correlation-wise Smoothing: Lightweight Knowledge Extraction for HPC Monitoring Data
Leibniz Supercomputing Centre(莱布尼茨超级计算中心);Technical University of Munich(慕尼黑工业大学);Fujitsu Enabling Software Technology GmbH(富士通使能软件技术有限公司)
现代高性能计算(HPC)和数据中心运营商越来越依赖数据分析技术来提高其运营的效率和可靠性。它们采用的模型可以摄取时间序列监测传感器数据,并将其转换为可操作的知识用于系统调优:这一过程称为操作数据分析(ODA)。然而,监测数据具有高维度,依赖于硬件并且难以解释。这一点,加上ODA的严格要求,使得大多数传统的数据采掘方法不切实际,反过来又使得这种类型的数据处理繁琐。大多数当前的ODA解决方案使用非通用的ad-hoc处理方法,对传感器的特征敏感并且不适合可视化。在本文中,我们提出了一种新的方法,称为相关平滑(CS),提取描述性签名的时间序列监测数据中的通用和轻量级的方式。我们的CS方法利用数据维度之间的相关性来形成组,并产生可以轻松操作,可视化和比较的图像状签名。我们在HPC-ODA上评估了CS方法,HPC-ODA是我们与这项工作一起发布的数据集集合,并表明它与大多数最先进的方法具有相同的性能,同时产生的签名最多可以小十倍,速度最多可以快十倍,同时获得可视化,跨系统的可移植性和清晰的缩放特性。
2021-02-19 cs.DC cs.LG cs.SY
BayesPerf: Minimizing Performance Monitoring Errors Using Bayesian Statistics
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
硬件性能计数器(HPC)测量低级架构和微架构事件,提供有关系统状态的动态上下文信息。然而,HPC测量由于非确定性(例如,由于事件多路复用或OS中断处理行为而导致的计数不足)。在本文中,我们提出了BayesPerf,一个系统,用于量化HPC测量的不确定性,通过使用域驱动的贝叶斯模型,捕获HPC之间的微架构关系,共同推断其值的概率分布。我们提供了一个加速器的设计和实现,该加速器允许x86和ppc64 CPU的BayesPerf模型的低延迟和低功耗推理。当事件被多路复用时,BayesPerf将HPC测量的平均误差从40.1%降低到7.6%。BayesPerf在实时决策中的价值通过PCIe传输调度的简单示例来说明。
2021-02-22 cs.AI cs.AR cs.DC
Performance vs Portability in Heterogeneous HPC Environments: Why Pre-execution Benchmarking is Required
Institute of Chemical Physics, Faculty of Physics, Vilnius University(维尔纽斯大学物理学院化学物理研究所)
本研究对比了容器化与系统直接执行量子化学软件的性能,发现编译、启动开销和配置影响性能,强调需针对工作负载进行预执行基准测试和用户级监控。
2026-09-29 cs.DC physics.comp-ph
Energy-aware operation of HPC systems in Germany
本文针对德国HPC系统面临的能源挑战,综述了异构硬件、高温冷却、能源感知调度和动态功耗管理等前沿节能策略,并通过德国领先HPC中心的案例研究为全球HPC社区提供可持续运行的实践经验。
2024-11-25 cs.DC
Unsupervised KPIs-Based Clustering of Jobs in HPC Data Centers
Arab Academy for Science Technology and Maritime Transport(阿拉伯科学技术与海运学院);Universidade de Vigo(维戈大学)
本文面向 HPC 作业行为分类,使用 CESGA 真实数据比较划分式与层次聚类,发现网络流量 KPI 最具区分力且层次聚类效果最佳。
2023-12-11 cs.AI cs.DC
dynamicMF: A Matrix Factorization Approach to Monitor Resource Usage in High Performance Computing Systems
高性能计算(HPC)设施由大量互连的计算单元(或节点)组成,这些计算单元(或节点)执行高度复杂的科学模拟以支持科学研究。实时监测这些设施对于确保系统以最高效率运行至关重要。这种系统通常使用各种测量和日志数据来监测,这些数据以规则的时间间隔捕获系统内各种组件的状态。随着现代HPC系统在容量和复杂性方面的增长,由当前资源监视工具产生的数据的规模使得分析师不再能够进行可视化监视。我们提出了一种方法,将资源监控工具的多维输出转换为低维表示,便于理解的高性能计算(HPC)系统的行为。该方法能够自动提取数据中的低维信号,用于跟踪系统效率和识别性能异常。该方法将资源使用数据建模为三维张量(捕获所有计算节点随时间的不同资源的资源使用)。一个动态矩阵分解算法,称为dynamicMF,提出了提取一个低维的时间信号为每个节点,这是随后送入异常检测器。从德克萨斯州高级计算中心的Lonestar 4系统收集的资源使用数据的结果表明,所识别的异常与系统日志消息中报告的实际异常事件相关。
2018-09-26 cs.DC
Federated Single Sign-On and Zero Trust Co-design for AI and HPC Digital Research Infrastructures
针对AI与HPC数字研究基础设施中异构科学工作流的IAM及网络安全挑战,提出结合多层安全控制、多因素认证等的联邦IAM解决方案,已在英国Isambard DRIs部署,平衡无缝访问与合规性。
2024-11-26 cs.DC
From Facility to Application Sensor Data: Modular, Continuous and Holistic Monitoring with DCDB
当今的HPC安装是高度复杂的系统,随着我们向百亿亿级及更高级别发展,其复杂性只会增加。在每一层,从设施到系统,从运行时到应用程序,都必须做出广泛的调优决策,以实现高效的操作。然而,这需要系统地和连续地监视系统和用户数据。虽然存在许多孤立的解决方案,但当前HPC生态系统中仍然缺乏整体和设施范围的监控系统。在本文中,我们介绍了DCDB,一个全面的监测系统,能够集成来自所有系统级别的数据。它被设计为基于插件基础设施的模块化和高度可扩展的框架。所有监控的数据都聚集在分布式noSQL数据存储中,用于分析和跨系统关联。我们展示了DCDB的性能和可扩展性,并描述了两个用例在能源管理和表征领域。
2019-08-14 cs.DC cs.SY eess.SY
Designing FAIR Workflows at OLCF: Building Scalable and Reusable Ecosystems for HPC Science
本文提出在HPC中心构建FAIR生态系统,通过使工作流组件符合FAIR原则,促进跨学科的可重用和可共享的计算资源。
2025-12-02 cs.DC cs.DL
Analytics of Longitudinal System Monitoring Data for Performance Prediction
Google, Inc.(谷歌公司);University of Maryland(马里兰大学)
本文利用 HPC 全系统纵向监控数据与机器学习建模控制作业性能,识别主导预测特征,并证明模型可应用无关地预测未训练应用的性能。
2024-07-02 cs.DC cs.LG cs.PF
LISA (Localhost Information Service Agent)
网格计算在过去的几年中获得了越来越多的重要性,特别是在学术环境中,提供了快速解决复杂科学问题的可能性。网格作业的监控对于分析系统的性能、为用户提供适当的反馈以及获取可用于性能预测的历史数据具有至关重要的意义。已经开发了几种监测系统,采用不同的战略收集和储存信息。我们将在这里提出一个基于MonALISA的解决方案,MonALISA是一个分布式服务,用于监视,控制和复杂系统的全局优化,LISA是MonALISA的一个组件应用程序,可以通过监视服务帮助优化其他应用程序。该系统的优点是灵活性、动态配置、高通信性能。
2011-06-25 cs.DC
I/O Burst Prediction for HPC Clusters using Darshan Logs
University of Nevada, Reno(内华达大学雷诺分校);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
针对以往HPC集群I/O突发研究多聚焦任务与节点级的问题,本文基于三台超级计算机的Darshan日志训练机器学习模型,实现提前5-120分钟的系统级I/O突发高精度预测,且基于该预测的突发感知作业调度最多可将应用运行时间降低5倍。
2023-08-20 cs.DC cs.LG cs.NI
Sustaining Research Software: an SC18 Panel
许多科学进步都是由于使用研究软件,这对推进几乎所有科学,技术,工程和数学(STEM)学科和许多非STEM学科(包括社会科学和人文科学)至关重要。虽然其中大部分都是在开源许可证下提供的,但随着底层系统和软件以及用户需求的发展,还需要进行开发、支持和维护。此外,高性能计算(HPC)平台不断变化的格局,其中性能和扩展的进步越来越依赖于软件和算法的改进,因为我们遇到了硬件扩展障碍,这导致软件的可持续性与其性能之间重新出现紧张关系。我们必须做更多的工作来强调性能和可持续性之间的权衡,并强调可持续性的必要性,因为复杂的软件栈如果没有频繁的维护就无法生存;随着一代成熟和大量使用的研究软件的开发人员退休,这将变得更加困难。一些HPC论坛正在这样做,它也已成为一个活跃的资金领域。作为回应,作者在SC 18会议上组织并运行了一个小组。该小组的目标是强调可持续性的重要性,阐明纯绩效和可持续性之间的紧张关系,并引导SC社区讨论理解和解决这一问题和这一紧张关系。讨论的结果,如本文所述,可以为先进的计算和数据基础设施的选择提供信息,以积极影响未来的研究软件和未来的研究。
2019-02-24 cs.CY cs.DC cs.SE