Generic and ML Workloads in an HPC Datacenter: Node Energy, Job Failures, and Node-Job Analysis
本研究基于国家级HPC数据中心的长期运行数据，对比分析ML与通用作业对数据中心性能、故障、能耗等的影响，得出多项关键结论并开源数据与工具，助力运维优化与系统研究。
2024-09-13 cs.AR cs.DC
Exploring Energy Saving Opportunities in Fault Tolerant HPC Systems
本研究扩展了故障时能耗管理策略，通过模拟非阻塞通信和级联分析，在容错HPC系统中实现最高90%的节能，证明了故障场景下提升能效的可行性。
2023-11-14 cs.DC
StreamGuard: Low-Overhead Resilience for Real-time HPC Data Streams
Argonne National Laboratory（阿贡国家实验室）；University of Chicago（芝加哥大学）
针对实时科学工作流在故障频发基础设施上的弹性需求，提出动态异步非阻塞检查点与进度感知负载重分配两种互补技术，在引入低于1%开销的同时将故障影响降低6倍。
2026-07-01 cs.DC
Online Job Failure Prediction in an HPC System
CINECA（奇内卡国家计算中心）
本研究针对HPC系统中的作业失败预测问题，提出结合经典机器学习与NLP的在线预测方法，在提交时识别高风险作业，以减少资源浪费并提升系统性能与能效，实验验证了其有效性。
2023-06-30 cs.AI cs.DC cs.LG
Turning Privacy Constraints into Syslog Analysis Advantage
HPC系统的平均故障间隔时间（MTBF）正在迅速减少，并且当前的故障恢复机制，checkpoint-restart将不再能够从故障中恢复系统。早期故障检测是一种新的故障恢复方法，可以用于具有短MTBF的HPC系统。系统日志（syslog）是非常宝贵的信息来源，它使我们能够深入了解系统行为，并使早期故障检测成为可能。除了正常信息外，系统日志还包含可能危及用户隐私的敏感数据。尽管分析各种系统日志对于创建通用故障检测/预测方法是必要的，但隐私问题阻止系统管理员发布系统日志。在这里，我们通过去识别系统日志来确保用户隐私，然后将用于解决用户隐私的应用约束转化为系统行为分析的优势。结果表明，所需的存储空间显著减少，处理时间缩短3倍。
2019-03-14 cs.DC
A New and Efficient Algorithm-Based Fault Tolerance Scheme for A Million Way Parallelism
高性能计算（HPC）应用的容错开销对于大规模HPC系统的有效利用变得至关重要。HPC应用程序通常通过检查点来容忍故障-停止故障。另一种有前途的方法是在算法层面，称为算法恢复。这两种方法在系统规模不是很大时可以达到很高的效率，但当系统规模接近Exaflops时，即系统中包含的处理器数量达到100万时，这两种方法都将失去有效性。本文提出了一种新的高效的基于算法的高性能计算容错方案。当执行过程中出现故障时，我们不会停下来等待恢复损坏的数据，而是用相应的冗余数据替换它们并继续执行。同时提出了一种后台加速恢复方法来重建冗余以容忍执行过程中的多次故障。为了证明我们新方案的可行性，我们将其纳入了高性能Linpack。理论分析表明，我们的新的容错方案仍然可以有效，即使系统规模达到Exaflops。在SiCortex SC 5832上进行的实验验证了该方案的可行性，并表明该方案的优点在小规模下也能体现出来。
2011-06-21 cs.DC
Anomaly Detection in High Performance Computers: A Vicinity Perspective
Technische Universität Dresden（德累斯顿工业大学）；University of Basel（巴塞尔大学）
为了响应对更高计算能力的需求，高性能计算机（HPC）中的计算节点的数量迅速增加。Exascale HPC系统预计将于2020年推出。随着HPC系统组件数量的急剧增加，预计会观察到故障数量的突然增加，从而对HPC系统的连续操作构成威胁。尽可能早地检测故障，并在理想情况下预测故障，是避免HPC系统运行中断的必要步骤。异常检测是计算系统中用于故障检测的公知通用方法。大多数现有方法是针对特定架构设计的，需要对计算系统硬件和软件进行调整，需要过多的信息，或者对用户和系统的隐私构成威胁。本文提出了一种基于邻域统计异常检测方法的节点故障检测机制，该方法使用被动收集和匿名化的系统日志条目。应用所提出的方法收集超过8个月的系统日志表明异常检测精度在62%至81%之间。
2019-06-11 cs.CV cs.DC cs.SY
A Machine Learning Approach to Online Fault Classification in HPC Systems
Leibniz Supercomputing Centre（莱布尼茨超级计算中心）；University of Bologna（博洛尼亚大学）；University of Pisa（比萨大学）
随着高性能计算（HPC）系统朝着亿级目标努力，硬件和软件级别的故障率将显著增加。因此，在HPC系统中发生故障时对其进行检测和分类，并在其转变为故障之前启动纠正措施，对于持续运行至关重要。这一目标的核心是故障注入，这是故意触发系统中的故障，以便在受控环境中观察它们的行为。本文提出了一种基于机器学习的高性能计算系统故障分类方法。我们的方法的新颖性在于它可以在线方式对流式数据进行操作，从而打开了在目标系统上实时设计和制定控制动作的可能性。我们介绍了一个高层次的，易于使用的故障注入工具，称为FINJ，重点是复杂的实验管理。为了训练和评估我们的机器学习分类器，我们注入故障的内部实验HPC系统使用FINJ，并生成故障数据集，我们广泛描述。FINJ和数据集都是公开的，以促进HPC系统领域的弹性研究。实验结果表明，我们的方法允许几乎完美的分类精度达到不同的故障类型与低的计算开销和最小的延迟。
2020-07-27 cs.DC cs.LG
Big Data Meets HPC Log Analytics: Scalable Approach to Understanding Systems at Extreme Scale
当今的高性能计算（HPC）系统被大量地仪表化，从而生成包含关于异常事件的信息的日志，异常事件诸如关键条件、故障、错误和失败、系统资源利用以及关于用户应用的资源使用。这些日志一旦得到充分分析和关联，就可以生成有关系统健康状况、故障根本原因的详细信息，并分析应用程序与系统的交互，为领域科学家和系统管理员提供有价值的见解。但是，处理HPC日志需要深入了解系统堆栈多个层的硬件和软件组件。此外，大多数日志数据都是非结构化的，并且数量庞大，这使得系统用户和管理员更难以手动检查数据。随着HPC系统规模和复杂性的快速增长，日志数据处理正在成为一个大数据挑战。本文介绍了一种基于分布式NoSQL数据库技术的HPC日志数据分析框架，该框架提供了可扩展性和高可用性，以及用于日志数据快速内存处理的Apache Spark框架。分析框架可以提取有关系统的一系列信息，以便系统管理员和最终用户都可以获得针对其特定需求的必要见解。我们描述了我们的经验，使用这个框架收集的见解，从日志数据的系统行为泰坦超级计算机在橡树岭国家实验室。
2017-08-23 cs.DB cs.DC
Application-Level Differential Checkpointing for HPC Applications with Dynamic Datasets
高性能计算（HPC）需要弹性技术，如检查点，以容忍超级计算机中的故障。随着超级计算机中节点和内存数量的不断增加，检查点数据的大小也急剧增加，有时会导致I/O瓶颈。差分检查点（Differential checkpointing，dCP）旨在通过只写入数据差异来最小化检查点开销。这通常在内存页面级别实现，有时还辅以哈希算法。然而，这样的技术是无法应付动态大小的数据集。在这项工作中，我们提出了一种新的dCP实现与一种新的文件格式，允许受保护的数据集的碎片，以支持动态大小。我们使用哈希算法识别脏数据块。为了评估dCP的性能，我们移植了HPC应用程序xPic，LULESH 2.0和Heat 2D，并分析了它们使用dCP减少I/O的潜力以及这种数据减少如何影响检查点性能。在我们的实验中，我们实现了高达62%的检查点时间减少。
2019-06-12 cs.DC
Towards Adaptive Resilience in High Performance Computing
高性能计算机的故障率由于系统规模和复杂性的增长而迅速增加。因此，失败成为常态而不是例外。已经引入了关于高性能计算（HPC）系统的不同方法，以防止故障（例如，例如，在一个实施例中，或至少减少其影响（例如，例如，在一个实施例中，检查点和重新启动）。在大多数情况下，当采用这些方法来提高系统某些部分的弹性时，能耗会迅速增加，或者性能会显著下降。为了应对这一挑战，我们提出了按需弹性作为一种方法来实现HPC系统的自适应弹性。在这项工作中，HPC系统被视为整体，并按需激活检查点、隔离和迁移等弹性机制。使用所提出的方法，减少了不可避免的增加总能耗和系统性能下降相比，典型的检查点/重启和冗余弹性机制。我们的工作旨在减轻系统中各个层发生的大量故障，防止其传播，并最大限度地减少其影响，所有这些都以节能的方式进行。如果出现估计会发生但无法使用拟议的按需复原力方法缓解的故障，将通知系统管理员，以便对这些故障的原因及其影响进行进一步调查。
2017-06-14 cs.DC cs.PF
Rolex: Resilience-Oriented Language Extensions for Extreme-Scale Systems
未来的亿级高性能计算（HPC）系统将由VLSI设备构建，这些设备的可靠性将低于今天使用的设备，故障将成为常态，而不是例外。这将给系统设计师和程序员带来重大问题，半个世纪以来，他们一直享受着由底层计算系统承担正确行为的执行模型。系统的平均故障前时间（MTTF）与系统中的组件的数量成反比，因此，随着系统在所使用的处理器核和存储器模块的数量方面的扩展，故障和所导致的系统级故障将增加。然而，检测到的每个错误不一定会导致灾难性的故障。许多HPC应用程序具有固有的故障恢复能力。然而，正是应用程序员拥有这些知识，但缺乏将其传达给系统的机制。在本文中，我们提出了新的弹性导向的语言扩展（劳力士），便于纳入故障恢复作为一个内在属性的应用程序代码。我们描述的语法和语义的语言扩展，以及支持编译器的基础设施和运行时系统的实现。我们的实验表明，一种方法，利用程序员的洞察力，原因的上下文和意义的故障的应用程序的结果显着提高了概率，应用程序运行到一个成功的结论。
2016-05-23 cs.DC
Towards a Comprehensive Framework for Telemetry Data in HPC Environments
当前的HPC平台不提供收集、存储、分析和访问这些数据的基础设施、接口和概念模型。如今，应用程序依赖于应用程序和平台特定的技术来收集遥测数据;引入了抑制便携性和移动性的显着开发开销。因此，制定和采用适应性的、有背景意识的战略受到损害。为了促进第二代应用程序、更高效的应用程序开发以及在生产中快速采用自适应应用程序，未来的HPC系统和服务必须提供用于遥测数据管理的全面框架。我们介绍了一个概念模型和一个软件框架来收集，存储，分析和利用HPC系统及其应用程序生成的遥测数据流。我们展示了这个框架如何与HPC平台架构集成，以及它如何实现常见的应用程序执行策略。
2017-07-09 cs.DC
SCISPACE: A Scientific Collaboration Workspace for File Systems in Geo-Distributed HPC Data Centers
未来的太比特网络致力于显著改善地理位置分散的HPC数据中心之间的大数据移动。科学界利用太比特网络（如美国能源部的ESnet），加速了在地理空间HPC数据中心之间建立协作小世界的趋势。它改善了HPC数据中心之间的联合仿真和分析的信息和资源共享。在本文中，我们提出了建立SCISPACE（科学协作工作空间）的协作数据中心。它提供了从单个工作空间下的多个地理分布的HPC数据中心共享的信息的全局视图。当需要在本地数据中心命名空间中读取或写入数据时，SCISPACE支持本地数据访问以获得高性能。它是通过集成元数据导出协议来实现的。为了优化HPC数据中心之间的科学协作，SCISPACE实施了搜索和发现服务。为了进行评估，我们配置了两个地理分布的小型HPC数据中心，它们通过高速Infiniband网络连接，并配备了LustreFS。我们使用真实的科学数据集和应用程序的SCISPACE的可行性。评估结果显示，平均36%的性能提升时，提出的本地数据访问在协作中使用。
2018-03-22 cs.DC
Data Version Management and Machine-Actionable Reproducibility for HPC
针对HPC与SLURM环境，提出扩展DataLad以解决其与批处理不兼容的问题，实现数据版本控制与机器可执行可复现性，支持并发作业并避免并行文件系统低效。
2025-09-26 cs.DC
MPI Streams for HPC Applications
数据流是在源进程和目标进程之间流动的数据序列。流媒体技术因其流水线效率高、内存占用少而被广泛应用于信号、图像和视频处理。这项工作的目标是扩展数据流的使用，以支持在HPC平台上运行的传统科学应用和新兴数据分析应用。我们介绍了一个扩展名为MPIStream的事实上的编程标准的HPC，MPI。MPIStream支持单个应用程序内或多个应用程序之间的数据流。我们提出了三个用例，使用MPI流在HPC应用程序及其并行性能。我们展示了使用MPI流来支持在超级计算机上运行的传统HPC和新兴数据分析应用程序的需求的便利性。
2017-08-03 cs.DC
DOLMA: A Data Object Level Memory Disaggregation Framework for HPC Applications
Oregon State University（俄勒冈州立大学）；College of William & Mary（威廉与玛丽学院）
DOLMA通过数据对象级内存解耦技术，高效管理HPC应用的内存资源，减少本地内存使用并保持应用性能。
2025-12-02 cs.DC
Big Data at HPC Wales
本文介绍了一种在HPC系统上处理大数据工作负载的自动化方法。我们描述了一种解决方案，该解决方案在HPC环境中动态创建基于YARN的统一集群，而无需配置和分配专用的Hadoop集群。最终用户可以选择在支持的框架的任意组合中编写解决方案，该解决方案可以从几个核心无缝扩展到数千个核心。这种环境的耦合为应用程序创建了一个平台，以利用本地HPC解决方案以及大数据框架。用户将获得多种语言的HPC Wales API，这将使他们能够将此流集成到他们的环境中，从而确保HPC访问的传统方式不会成为瓶颈。我们描述的行为的集群创建和性能结果Terasort。
2015-06-30 cs.DC
A Pattern Language for High-Performance Computing Resilience
高性能计算系统（HPC）为广泛的计算问题提供了强大的建模、仿真和数据分析功能。它们通过聚合数百万个计算、内存、网络和存储组件的能力，实现每秒四进制浮点算术计算数量级的极端性能。随着HPC系统的规模和复杂性迅速增长，以实现更高的性能，确保其在系统降级和故障面前的可靠运行是一个关键的挑战。系统故障事件经常导致科学应用产生错误的结果，甚至可能导致其过早终止。现代极端规模HPC系统中的组件数量庞大，硬件和软件组件、应用程序和物理环境之间的交互和依赖关系复杂，这使得设计支持故障恢复的实用解决方案成为一项复杂的任务。为了管理这种复杂性，我们开发了一种使用设计模式设计HPC弹性解决方案的方法。我们将过去三十年来设计、应用和改进的用于处理故障、错误和失败的著名技术以设计模式的形式进行了整理。在本文中，我们提出了一种模式语言，使结构化的方法来开发HPC弹性解决方案。模式语言揭示了弹性模式之间的关系，并提供了一种手段，探索替代技术处理特定的故障模型，可能有不同的效率和复杂性的特点。使用模式语言可以将全面的弹性解决方案设计和实现为一组相互关联的弹性模式，这些模式可以跨系统堆栈的各个层进行实例化。
2017-10-31 cs.DC cs.SE
MPCDF HPC Performance Monitoring System: Enabling Insight via Job-Specific Analysis
本文报告的HPC性能监测系统的设计和实施部署，以持续监测性能指标的所有作业的HPC系统在马克斯普朗克计算和数据设施（MPCDF）。因此，它向各种利益相关者，特别是用户，应用程序支持，系统管理员和管理人员揭示了重要信息。在每个计算节点上，硬件和软件性能监控数据由我们新开发的轻量级开源hpcmd中间件收集，该中间件构建在标准Linux工具上。数据通过rsyslog传输，并由Splunk系统进行聚合和处理，从而在Web浏览器中实现详细的每个集群和每个作业的交互式分析。此外，业绩报告以PDF文件形式提供给用户。最后，我们报告了在MPCDF HPC系统上大规模部署的实践经验和优势，展示了我们的解决方案如何适用于任何HPC中心。
2019-09-25 cs.DC
ARcode: HPC Application Recognition Through Image-encoded Monitoring Data
了解作业的高性能应用，分析作业的性能行为，对系统管理和优化具有重要意义。现有的方法通过机器学习模型来检测和识别HPC应用。然而，这些方法严重依赖于从资源利用数据中手动提取的特征来实现高预测精度。在这项研究中，我们提出了一种创新的应用程序识别方法，ARcode，它编码到图像的作业监控数据，并利用自动特征学习能力的卷积神经网络来检测和识别应用程序。我们基于从大规模生产HPC系统收集的数据集进行的广泛评估表明，ARcode在高置信度阈值下的准确性方面优于最先进的方法高达18.87%。对于某些特定应用（BerkeleyGW和e3sm），ARcode在置信度阈值为0.8时的性能优于20%以上。
2023-01-20 cs.DC
Analyzing Performance Properties Collected by the PerSyst Scalable HPC Monitoring Tool
了解科学应用程序如何在大型HPC系统上执行的能力对于在HPC数据中心内分配资源非常重要。在本文中，我们描述了我们如何使用系统性能数据来识别：执行模式，可能的代码优化和系统监控的改进。我们还确定了采用机器学习技术来预测类似科学代码的性能的候选人。
2020-09-13 cs.DC
Hybrid Cloud and HPC Approach to High-Performance Dataframes
数据预处理是任何数据驱动应用程序中的基本组件。随着数据处理操作的复杂性和数据量的增加，Cylon是一个分布式的嵌入式框架系统，它被开发来促进数据处理，既可以作为一个独立的应用程序，也可以作为一个库，特别是对于Python应用程序。虽然Cylon表现出了良好的性能，但我们在尝试与传统消息传递接口（MPI）不兼容的框架集成时遇到了困难。虽然MPI实现包含可扩展和高效的通信例程，但它们的进程启动机制与主流HPC系统配合良好，但与采用自己的资源管理系统的某些环境不兼容。在这项工作中，我们通过直接集成统一通信X（UCX）框架来缓解这个问题，该框架支持各种经典的HPC和非HPC进程引导机制作为我们的通信框架。当我们在Cylon上试验我们的方法时，同样的技术可以用于将MPI通信带到其他不使用MPI内置进程管理方法的应用程序中。
2022-12-29 cs.DC
Big Data Analytics on Traditional HPC Infrastructure Using Two-Level Storage
数据密集型计算已经成为传统高性能计算（HPC）集群的主要工作负载之一。目前，在HPC集群上部署数据密集型计算软件框架仍然面临性能和可扩展性问题。在本文中，我们开发了一个新的两级存储系统，集成Tachyon，一个内存中的文件系统和OrangeFS，一个并行文件系统。我们模拟了四种存储结构的I/O吞吐量：HDFS，OrangeFS，Tachyon和两级存储。我们进行了计算实验来描述两级存储的I/O吞吐量行为，并使用TeraSort基准测试将其性能与HDFS和OrangeFS进行了比较。理论模型和实验测试都表明，两级存储系统可以提高聚合I/O吞吐量。这项工作为将来设计和构建HPC系统奠定了坚实的基础，这些HPC系统可以在保留现有计算资源的情况下为I/O密集型工作负载提供更好的支持。
2015-10-10 cs.DC
A Software-Defined QoS Provisioning Framework for HPC Applications
随着大规模数据密集型高性能应用程序的出现，在高性能计算（HPC）环境中有效管理PB级信息方面出现了新的I/O挑战。数据管理环境必须满足这些应用程序的性能需求，这些需求由各种服务质量（QoS）度量表示，例如所需带宽、响应时间保证和资源利用率。传统的高性能管理平台在灵活性方面面临着相当大的挑战，并且需要解决各种QoS指标和约束。为了应对这些挑战，软件定义的方法被认为是有前途的，并且已经在基于云的数据中心中部署了各种原型。在本文中，我们调查的想法，利用软件定义的方法来提供高性能计算应用程序的I/O QoS配置。我们确定了HPC平台的高度并发性和变化的关键挑战，并提出了一系列新颖的设计到一般的软件定义的方法，以实现我们的目标。在传统令牌桶算法的基础上，提出了一种基于令牌桶的资源分配策略和一种新的M-LWDF算法，以保证HPC应用的资源公平有效地利用。针对当前高性能计算平台缺乏软件定义框架的问题，通过仿真对框架进行了评估。实验结果表明，我们的策略作出了显着的改进，一般HPC框架，并导致明确的性能增益HPC应用程序。
2018-05-16 cs.DC
Energy-efficient localised rollback after failures via data flow analysis
Exascale系统每小时都会出现故障。HPC程序员主要依赖应用程序级检查点和全局回滚来恢复。近年来，减少回滚进程数量的技术已经通过消息日志记录实现。然而，基于日志的方法有弱点，例如依赖于MPI实现中的复杂修改，以及在一般情况下可能需要完全重启的事实。为了解决所有基于日志的机制的局限性，我们返回到仅检查点的机制，但提倡数据流驱动的恢复（DFR），一个根本不同的方法，依赖于分析的数据流的迭代代码，和众所周知的概念的数据流图。我们证明了DFR的MPI模板代码的有效性，以优化回滚，并减少10- 12%的整体能源消耗的空闲节点在本地化回滚。我们还提供了大规模的估计DFR的节能相比，全球回滚，其中模板代码增加为n平方的过程计数n。
2018-06-05 cs.DC
Unsupervised KPIs-Based Clustering of Jobs in HPC Data Centers
Arab Academy for Science Technology and Maritime Transport（阿拉伯科学技术与海运学院）；Universidade de Vigo（维戈大学）
本文面向 HPC 作业行为分类，使用 CESGA 真实数据比较划分式与层次聚类，发现网络流量 KPI 最具区分力且层次聚类效果最佳。
2023-12-11 cs.AI cs.DC
A unified framework to improve the interoperability between HPC and Big Data languages and programming models
本文提出统一计算框架IgnisHPC，以MPI为骨干，在同一框架中融合HPC与大数据任务，支持JVM及非JVM多语言应用，实验表明其在性能和生产力上优于Apache Spark。
2021-12-01 cs.DC
Interactive and Urgent HPC: Challenges and Opportunities
本文综述交互式与紧急 HPC 的发展现状，探讨其策略、技术与工艺进一步融入 HPC 生态系统所面临的挑战和机遇。
2024-01-25 cs.DC
Survey the storage systems used in HPC and BDA ecosystems
HPC和BDA生态系统的发展要求更好地了解存储系统，以规划有效的解决方案。为了使应用程序更有效地访问数据进行计算，HPC和BDA生态系统采用不同的存储系统。每种存储系统都有其优点和缺点。因此，分别探讨HPC和BDA中使用的存储系统是值得和有趣的。此外，了解这样的存储系统如何大规模地处理数据一致性和容错也是很有意义的。在本文中，我们调查了四个存储系统Lustre，Ceph，HDFS和CockroachDB。Lustre和HDFS是HPC和BDA生态系统中最重要的文件系统。Ceph是一个即将推出的文件系统，正在被超级计算机使用。CockroachDB基于NewSQL系统，这是一种在行业中用于BDA应用程序的技术。这项研究有助于我们了解这些存储系统的底层架构以及用于创建它们的构建块。还概述了用于数据存储、数据访问、数据一致性、容错和故障恢复的协议和机制。比较研究将帮助系统设计人员了解这些存储系统的关键功能和架构目标，以选择更好的存储系统解决方案。
2021-12-23 cs.DC
Enabling Dynamic and Intelligent Workflows for HPC, Data Analytics, and AI Convergence
高性能计算（HPC）平台的发展使得能够在这些系统中设计和执行越来越大和越来越复杂的工作流应用程序。复杂性不仅来自组成工作流的元素数量，还来自它们执行的计算类型。虽然传统的HPC工作流程以物理现象的模拟和建模为目标，但当前的需求还需要数据分析（DA）和人工智能（AI）任务。然而，这些工作流的开发受到缺乏支持HPC，DA和AI集成的适当编程模型和环境的阻碍，以及缺乏在HPC系统中轻松部署和执行工作流的工具。为了朝着这个方向前进，本文介绍了需要复杂工作流的用例，并研究了HPC/DA/AI融合需要解决的主要问题。基于这项研究，本文确定了一个新的工作流平台来管理复杂的工作流的挑战。最后，它提出了一个这样的工作流平台的开发方法，解决这些挑战在两个方向：首先，通过定义一个软件栈，提供的功能来管理这些复杂的工作流;第二，通过提出HPC工作流即服务（HPCWaaS）的范例，利用软件栈，以促进复杂的工作流的可重用性在联合HPC基础设施。在这项工作中提出的建议是受研究和开发的一部分，欧洲HPC eFlows 4 HPC项目。
2022-05-13 cs.DC
The Technologies Required for Fusing HPC and Real-Time Data to Support Urgent Computing
使用高性能计算（HPC）在发生灾难时辅助紧急决策是超级计算机未来的一个重要潜在用途。然而，所涉及的使用模式与传统上使用HPC的方式有很大不同。因此，有许多障碍需要克服，尤其是在批处理系统队列中的无限等待时间，使HPC在灾难响应中的使用切实可行。在本文中，我们介绍了VESTEC项目计划如何克服这些问题，并开发一个紧急计算控制系统的工作原型。我们描述了这样一个系统的要求，并分析了不同的技术，可以利用成功地建立这样一个系统。最后，我们探讨了VESTEC系统的设计，并讨论了实现生产级系统需要解决的持续挑战。
2020-10-04 cs.DC
Pilot-Abstraction: A Valid Abstraction for Data-Intensive Applications on HPC, Hadoop and Cloud Infrastructures?
传统上，HPC环境的设计是为了满足科学应用的计算需求，而数据只是第二位的关注点。随着科学转向数据驱动的发现，更多地依赖数据中的相关性来形成科学假设，HPC方法的局限性变得显而易见：存储和计算分离等架构范例对于I/O密集型工作负载（例如数据准备，转换和SQL）并不是最佳的。虽然HPC上有许多强大的计算和分析库（例如可扩展线性代数），但它们通常缺乏其他环境（例如Apache Hadoop生态系统）中的可用性和分析库的多样性。此外，缺乏统一访问日益异构的基础设施（HPC，Hadoop，云）的抽象，并允许在这个复杂的环境中进行性能权衡的推理。与此同时，Hadoop生态系统正在快速发展，并已成为行业中数据密集型工作负载的事实标准，并越来越多地用于解决科学问题。在本文中，我们将探索Hadoop和HPC之间的互操作性路径，研究差异和挑战，例如不同的架构范式和抽象，并研究解决这些问题的方法。我们建议将Pilot-Abstraction扩展到Hadoop，作为跨不同基础设施分配和管理资源的互操作性层。此外，已经部署了内存能力来增强大规模数据分析（例如迭代算法）的性能，其中跨迭代重用数据的能力至关重要。由于内存自然适合与飞行员的概念，保留资源的一组任务，我们提出了扩展的飞行员抽象内存中的资源。
2015-01-21 cs.DC
Enabling Seamless Transitions from Experimental to Production HPC for Interactive Workflows
本文提出一种在OLCF开发的结构化过渡路径，通过引入数据流架构、安全服务接口和自适应资源调度框架，解决技术与政策挑战，将传统批处理HPC转变为支持近实时分析和实验引导的动态生态系统，实现交互式工作流从实验环境到生产级HPC的无缝过渡。
2025-06-02 cs.DC
Energy-efficiency evaluation of Intel KNL for HPC workloads
能源消耗越来越成为设计更快的大规模并行系统的限制因素，并且开发节能和节能应用程序是当今HPC代码开发人员社区的相关问题。在这项工作中，我们专注于能源性能的骑士登陆（KNL）至强融核，最新的众核架构处理器推出的英特尔进入HPC市场。我们考虑了64核Xeon Phi 7230，并使用片上MCDRAM和常规DDR4系统内存作为应用程序数据域的主存储器来分析其能源性能。作为一个基准应用程序，我们使用了Lattice Boltzmann代码，该代码针对该架构进行了大量优化，并使用不同的内存数据布局来存储其晶格。然后，我们使用不同的内存数据布局，内存类型（DDR4或MCDRAM）和每个核心的线程数来评估能耗。
2018-04-05 cs.DC
Linking Scientific Instruments and HPC: Patterns, Technologies, Experiences
现代实验设施中的强大探测器通常以多GB/s的速度收集数据。需要在线分析方法，以便能够收集这些大规模数据流中仅感兴趣的子集，例如通过明确丢弃某些数据元素或将仪器引导到实验空间的相关区域。这种在线分析需要配置和运行高性能分布式计算管道（我们称之为流）的方法，连接仪器、HPC（例如，用于分析、模拟、AI模型训练）、边缘计算（用于分析）、数据存储、元数据目录和高速网络。在本文中，我们将回顾与此类流相关的常见模式，并描述实例化这些模式的方法。我们还介绍了将这些方法应用于处理来自五种不同科学仪器的数据的经验，每种仪器都需要HPC资源进行数据反演、机器学习模型训练或其他目的。我们还讨论了这些新方法的操作员和用户的科学设施的影响。
2022-08-22 cs.DC
Algorithm-Directed Crash Consistence in Non-Volatile Memory for HPC
容错是高性能计算的主要设计目标之一。非易失性存储器（NVM）的出现为构建容错HPC提供了解决方案。由于NVM的非易失性，基于NVM的主存储器中的数据在系统崩溃时不会丢失。然而，由于易失性高速缓存，数据必须被记录并显式地从高速缓存刷新到NVM中，以确保在崩溃之前的一致性和正确性，这可能导致较大的运行时开销。在本文中，我们介绍了一种基于算法的方法来建立崩溃的一致性在NVM的HPC应用程序。我们稍微扩展应用程序数据结构或稀疏地刷新缓存块，这会引入可扩展的运行时开销。这种扩展或缓存刷新允许我们使用算法知识来\textit{reason}数据一致性或在应用程序崩溃时纠正不一致的数据。我们证明了我们的方法的有效性，三种算法，包括迭代求解器，稠密矩阵乘法，和蒙特卡洛模拟。在多种测试环境下的综合性能评估结果表明，该方法具有很小的运行时间开销（最多为8.2%，大多数情况下小于3%），远小于传统检查点方法，而具有相同或更少的重新计算开销.
2017-05-16 cs.DC
ElasticBroker: Combining HPC with Cloud to Provide Realtime Insights into Simulations
对于大规模的科学模拟，存储原始模拟结果以执行后分析是昂贵的。为了最大限度地减少昂贵的I/O，通常使用“原位”分析，其中分析应用程序与科学模拟紧密耦合，并且可以在内存中访问和处理模拟结果。科学领域越来越多地采用大数据方法来分析科学发现的模拟。然而，在两个语义不同的生态系统（HPC和云系统）之间大规模组织、转换和传输数据仍然是一个挑战。为了应对这些挑战，我们设计并实现了ElasticBroker软件框架，该框架将HPC和云应用程序连接起来，形成一个“原位”科学工作流程。ElasticBroker不是将模拟结果写入并行文件系统，而是执行数据过滤、聚合和格式转换，以缩小HPC生态系统和不同云生态系统之间的差距。为了实现这一目标，ElasticBroker将模拟快照重组为连续的数据流，并将其发送到云端。在云中，我们部署分布式流处理服务来执行在线数据分析。在我们的实验中，我们使用ElasticBroker设置和执行跨生态系统的科学工作流，其中包括在超级计算机上运行的并行计算流体动力学（CFD）模拟，以及在云计算平台上运行的并行动态模式分解（DMD）分析应用程序。我们的研究结果表明，使用ElasticBroker在其原生环境中运行由解耦的HPC和大数据作业组成的科学工作流，可以实现高服务质量，良好的可扩展性，并为正在进行的模拟提供高质量的分析。
2020-11-30 cs.DC
Modeling the Carbon Footprint of HPC: The Top 500 and EasyC
本文针对 Top 500 超算系统碳足迹数据缺失问题，提出 EasyC 工具，利用有限公开数据建模并估算出 Top 500 的运营碳和隐含碳，并预测其到 2030 年的增长趋势。
2025-09-22 cs.DC
Hadoop on HPC: Integrating Hadoop and Pilot-based Dynamic Resource Management
传统上，诸如超级计算机之类的高性能计算平台被设计成满足科学应用的计算需求。因此，他们被设计为数据的生产者而不是消费者。Apache Hadoop生态系统已经发展到满足数据处理应用程序的要求，并解决了HPC平台的许多限制。然而，有一类科学应用程序需要传统高性能计算环境和Apache Hadoop生态系统的集体能力。例如，生物分子动力学、基因组学和网络科学等科学领域需要将传统计算与基于Hadoop/Spark的分析相结合。我们调查的关键问题，如何提出的能力，这两个计算环境，这样的科学应用。而这个问题需要在多个层次上的答案，我们专注于资源管理中间件的设计，可能会支持这两个需求。我们建议扩展的试点抽象提供一个统一的资源管理层。这是一个重要的步骤，允许应用程序将HPC阶段（例如模拟）集成到数据分析中。许多超级计算中心已经开始正式支持Hadoop环境，无论是在专用环境中还是使用myHadoop等工具的混合部署中。这通常涉及许多需要掌握的内在的、特定于环境的细节，并且经常淹没概念性问题，例如：如何最好地耦合HPC和Hadoop应用程序阶段？如何探索运行时的权衡（数据位置与数据移动）？本文提供了概念上的理解和实际的解决方案，以集成使用HPC和Hadoop环境。
2016-01-31 cs.DC
Demystifying the Performance of HPC Scientific Applications on NVM-based Memory Systems
高密度字节可寻址非易失性存储器（NVM）的出现有望加速数据和计算密集型应用。当前的NVM技术具有比DRAM更低的性能，并且因此在异构主存储器中经常与DRAM配对。最近，字节可寻址NVM硬件变得可用。这项工作提供了一个及时的评估代表HPC应用程序从“七个小矮人”基于NVM的主内存。我们的研究结果量化的DRAM缓存的NVM加速HPC应用程序的有效性，并使大的问题超出DRAM容量。在非高速缓存NVM上，HPC应用表现出三层性能敏感性，即，不敏感、缩放和检查。我们确定写节流和并发控制作为优化应用程序的优先事项。我们强调，并发性的变化可能会有不同的影响，在应用程序中的读和写访问。基于这些发现，我们探索两种优化方法。首先，我们提供了一个预测模型，该模型使用来自一小组配置的数据集来估计各种并发和数据大小下的性能，以避免在配置空间中进行穷举搜索。第二，我们证明了写感知数据放置在未缓存的NVM可以实现$2$ x的性能提高与DRAM的使用减少60%。
2020-02-16 cs.DC
Using Intel Optane Devices for In-situ Data Staging in HPC Workflows
新兴的非易失性存储器技术（NVRAM）提供了持久的硬盘驱动器的替代品，同时提供了与DRAM类似的延迟。英特尔最近发布了Optane驱动器，它采用了3D XPoint内存技术。该设备可以部署为SSD或持久性内存。在本文中，我们提供了Optane（SSD DC4800X）和NVMe（SSD DC3700）驱动器作为块设备之间的性能比较。我们从两个角度研究性能：1）使用FIO工作负载对驱动器进行基准测试，以及2）评估在DataSpaces框架内使用Optane over NVMe进行内存数据分段以支持原位科学工作流的影响。
2018-07-11 cs.DC
Characterizing the I/O Behavior of HPC Applications through Modeling and Simulation
Mutah University（穆塔大学）；University Carlos III of Madrid（马德里卡洛斯三世大学）；Technical University of Darmstadt（达姆施塔特工业大学）；University of Naples “Parthenope”（那不勒斯帕提诺佩大学）
本研究开发了基于ElastiSim的框架，结合HPCIO追踪复现真实HPC应用I/O访问模式，通过案例分析实现I/O拥塞分析，以表征HPC应用I/O行为。
2026-08-31 cs.DC
LLM as HPC Expert: Extending RAG Architecture for HPC Data
University of New South Wales（新南威尔士大学）；NVIDIA（英伟达）
本文提出 HyCE 方法，通过集成实时用户特定 HPC 数据扩展 RAG 架构，增强 LLM 作为 HPC 专家的可访问性，并解决安全与评估问题。
2024-12-09 cs.AI cs.DC
Hybrid Edge-HPC Systems for Low-Latency Data-Driven Inference
University of California Santa Barbara（加州大学圣塔芭芭拉分校）；University of Notre Dame（圣母大学）；University of Nebraska-Lincoln（内布拉斯加大学林肯分校）；Princeton Plasma Physics Laboratory（普林斯顿等离子体物理实验室）；Rutgers-New Brunswick（罗格斯大学新不伦瑞克校区）
提出RBF架构，通过反向回填将边缘低延迟推理与异步仿真驱动模型更新结合，解决边缘响应与HPC调度延迟之间的不匹配问题。
2026-05-21 cs.DC
SIREN: Software Identification and Recognition in HPC Systems
针对HPC系统中传统软件识别方法的局限性，提出SIREN进程级数据收集框架，通过分析进程元数据、环境信息和可执行文件模糊哈希，实现软件识别与重复执行识别，提升系统优化与安全性。
2025-08-26 cs.DC
Bridging HPC Communities through the Julia Programming Language
Julia程序设计语言已经发展成为一种现代化的替代方案，以填补科学计算和数据科学应用中的现有空白。Julia利用统一协调的单一语言和生态系统范例，在不牺牲用户生产力的情况下实现高性能方面有着良好的记录。这些方面使Julia成为高性能计算（HPC）现有的且成本越来越高的多体工作流组合策略的可行替代方案，其中传统HPC语言（例如，Fortran、C、C++）用于模拟，而更高级的语言（例如，Python、R、MATLAB）用于数据分析和交互式计算。Julia在语言能力、包生态系统和社区方面的快速增长使其成为HPC的一种有前途的通用语言。本文介绍了来自学术界、政府和工业界的多学科研究人员的观点，他们倡导一种强调开发人员生产力、工作流可移植性和低准入门槛的HPC软件开发范式。我们相信Julia程序设计语言、它的生态系统和它的社区提供了现代和强大的功能，可以实现这个小组的目标。至关重要的是，我们相信Julia可以提供一种可行且成本更低的方法来编程针对HPC设施的科学应用程序和工作流程。在这项工作中，我们研究了Julia作为一个通用的端到端编程模型的当前实践和作用，以解决科学可重复性，数据驱动的AI/机器学习，协同设计和工作流程，异构计算，网络通信，数据管理和社区教育中的可扩展性和性能可移植性方面的主要挑战。因此，随着越来越多的超级计算中心为艾级时代做准备，当前投资的多样化以满足未来十年的需求至…
2022-11-10 cs.DC
A Scalable Pattern Mining Workflow for Interpretable Machine Log Analysis in High-Performance Computing Environments
Argonne National Laboratory（阿贡国家实验室）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
研究高性能计算环境中机器日志分析问题，结合先进模式匹配与挖掘技术，利用系统层次结构和消息优先级提取模式序列，关联聚类错误序列与作业日志，经案例研究证明该方法可释放日志数据潜力，助力HPC系统优化。
2026-07-22 cs.DC
Job Placement Advisor Based on Turnaround Predictions for HPC Hybrid Clouds
一些公司和研究机构正在将其CPU密集型应用程序迁移到混合高性能计算（HPC）云环境中。这种转变取决于软件系统的创建，这些软件系统可以帮助用户考虑执行时间和访问本地集群的队列等待时间来决定应该将作业放置在哪里。盲目依赖周转预测技术将对HPC云环境内部的响应时间产生负面影响。本文介绍了一种工具，使HPC混合云环境中的工作安排决策，考虑到执行和等待时间预测的不准确性。我们使用来自真实超级计算中心的作业跟踪来运行我们的实验，并使用真实的加速比曲线来比较环境之间的性能。我们还扩展了最先进的基于机器学习的预测器，以处理来自集群调度器的数据。我们的主要发现是：（i）取决于工作负载特性，存在一个转折点，在该转折点处，预测应该被忽略，以支持更保守的决策，以最小化作业周转时间;（ii）调度器数据在使用作业跟踪数据改进机器学习生成的预测方面起着关键作用--我们的实验显示预测准确度提高了约20%。
2016-08-26 cs.DC
Driving Computational Efficiency in Large-Scale Platforms using HPC Technologies
Universidad Industrial de Santander（桑坦德工业大学）；Centre for Energy, Environmental and Technological Research (CIEMAT)（能源、环境与技术研究中心）；LIG/INRIA DataMove（格勒诺布尔信息与自动化实验室/法国国家信息与自动化研究所数据移动项目）；CITI/INRIA SiNDY（信息交叉技术研究中心/法国国家信息与自动化研究所SiNDY项目）
本文通过分析LAGO项目中HPC资源利用效率，揭示了粗粒度任务并行模型下的资源消耗模式，并提出优化资源请求和工作流管理策略以提升计算效率。
2026-01-19 cs.DC
PROV-IO+: A Cross-Platform Provenance Framework for Scientific Data on HPC Systems
本文提出跨平台溯源框架PROV-IO+，通过以I/O为中心的溯源模型精确描述科学数据及其I/O操作，在HPC系统上以低于3.5%的开销实现端到端溯源支持，性能优于ProvLake。
2023-08-02 cs.DC
A Bespoke Workflow Management System for Data-Driven Urgent HPC
在本文中，我们提出了一个工作流管理系统，它允许紧急计算所需的各种数据驱动的工作流，即新的数据被集成到工作流作为一个灾难的进展，以完善随着时间的推移的预测，这使得工作流，以适应新的数据在运行时，大多数工作流管理系统不具备的能力。工作流管理系统是为欧盟资助的VESTEC项目开发的，该项目旨在将HPC与实时数据融合，以支持紧急决策。我们首先描述了VESTEC项目的一个示例工作流，并说明了为什么现有的工作流技术不能满足项目的需求。然后，我们继续介绍我们的工作流管理系统的设计，描述它是如何实现到VESTEC系统，并提供了一个测试用例中使用的工作流系统的例子。
2020-10-23 cs.DC
At the Locus of Performance: Quantifying the Effects of Copious 3D-Stacked Cache on HPC Workloads
本文通过模拟1.5纳米工艺的LARC处理器，量化3D堆叠缓存对HPC工作负载的性能影响，发现缓存敏感应用平均每芯片提升9.56倍，并倡导协同设计。
2023-10-16 cs.DC
Geospatial Big Data Handling with High Performance Computing: Current Approaches and Future Directions
地理空间大数据在大数据时代发挥着重要作用，因为今天的大多数数据本质上都是空间数据，由无处不在的位置感知传感器收集。有效地收集、管理、存储和分析地理空间数据流，可以开发新的决策支持系统，并为商业、科学和工程提供前所未有的机会。然而，处理大数据的“V”（数量、种类、速度、准确性和价值）是一项具有挑战性的任务。对于地理空间大数据来说尤其如此，因为必须在空间和时间的背景下分析海量数据集。高性能计算（HPC）为地理空间大数据挑战提供了必要的解决方案。本章首先总结了使用HPC处理地理空间大数据的四个关键方面，然后简要回顾了现有的HPC相关平台和地理空间大数据处理工具。最后，对HPC在地理空间大数据处理中的应用前景进行了展望。
2019-07-29 cs.DC
