Cross-Backend QIEO: Universal Runtime Portability across OpenMP5, CUDA, HIP, and Multi-Language Interfaces
BQP
提出跨后端QIEO框架，通过单一C++实现和薄绑定层实现算法性能与硬件可移植性，在CPU、OpenMP5、CUDA、HIP上运行，并在多个实际任务中验证了显著加速和优化效果。
2026-09-28 cs.CL cs.DC math.OC
Analyzing the Performance Portability of SYCL across CPUs, GPUs, and Hybrid Systems with SW Sequence Alignment
本研究通过SW序列比对案例，系统评估了SYCL在NVIDIA、Intel和AMD的CPU、GPU及混合架构上的性能可移植性，证明其可作为异构计算环境中可行的统一编程模型。
2025-04-14 cs.DC
Performance vs Portability in Heterogeneous HPC Environments: Why Pre-execution Benchmarking is Required
Institute of Chemical Physics, Faculty of Physics, Vilnius University（维尔纽斯大学物理学院化学物理研究所）
本研究对比了容器化与系统直接执行量子化学软件的性能，发现编译、启动开销和配置影响性能，强调需针对工作负载进行预执行基准测试和用户级监控。
2026-09-29 cs.DC physics.comp-ph
High performance scheduling of mixed-mode DAGs on heterogeneous multicores
许多HPC应用程序可以表示为混合模式计算，其中计算DAG的每个节点本身就是一个并行计算，可以在运行时进行建模以分配不同数量的处理资源。与此同时，现代HPC系统正变得越来越异构，以满足能源效率的要求。有效地使用异构设备是复杂的，需要开发人员了解每个DAG节点的关键性以及底层异构资源的相对性能。本文研究了如何将不规则混合模式并行计算映射到一个单一的ISA异构体系结构上，并以性能和可移植性为目标。为了实现高性能，我们分析了各种异构调度方案，包括关键度感知方案和仅性能方案，并通过任务建模对其进行扩展，以动态调整每个任务使用的资源量。为了实现性能的可移植性，我们跟踪每个DAG节点的性能，并建立一个在线模型的系统和它的性能。使用HiKey960 big.LITTLE板作为实验系统，与传统的随机工作窃取相比，所得到的调度器实现在执行不规则DAG时实现了大的速度提升。
2019-07-08 cs.DC
Unimem: Runtime Data Management on Non-Volatile Memory-based Heterogeneous Main Memory
非易失性存储器（NVM）提供了一种可扩展且节能的解决方案，以取代DRAM作为主存储器。然而，由于NVM的相对高的延迟和低带宽，NVM通常与DRAM配对以构建异构存储器系统（HMS）。因此，应用程序的数据对象必须小心地放置到NVM和DRAM以获得最佳性能。在本文中，我们介绍了一个轻量级的运行时解决方案，自动和透明地管理HMS上的数据放置，而不需要硬件修改和破坏性的变化应用程序。利用在线分析和性能模型，运行时可以描述与数据对象相关的内存访问模式，并最大限度地减少不必要的数据移动。我们的运行时解决方案有效地弥合了NVM和DRAM之间的性能差距。我们证明，使用NVM来取代大部分的DRAM可以是一个可行的解决方案，为未来的HPC系统的协助下，基于软件的数据管理。
2017-05-02 cs.DC
Lotaru: Locally Estimating Runtimes of Scientific Workflow Tasks in Heterogeneous Clusters
许多科学的工作流调度算法需要事先知道任务的运行时间来进行有效的调度。在异构集群基础设施中，这个问题变得更加严重，因为每个任务节点对都需要这些运行时。使用历史数据通常是不可行的，因为日志通常不会无限期地保留，并且工作负载以及基础设施会发生变化。相比之下，在线方法在工作流运行时预测特定节点上的任务运行时间，必须应对示例运行的缺乏，特别是在启动期间。在本文中，我们提出了Lotaru，一种新的在线方法，用于在异构集群上的科学工作流中本地估计任务运行时间。Lotaru首先使用一组短期运行的统一微基准测试来分析集群中的所有节点。接下来，它在用户的本地机器上运行要调度的工作流，并使用大量减少的数据来确定重要的任务特征。基于这些测量，Lotaru学习贝叶斯线性回归模型来预测给定输入大小的任务的运行时间，并最终根据微基准测试结果专门针对集群中的每个任务节点对调整预测的运行时间。由于其贝叶斯方法，Lotaru还可以计算鲁棒的不确定性估计，并将其作为高级调度方法的输入。我们对五个真实科学工作流程和不同数据集的评估表明，Lotaru在同质和异质集群的预测误差方面明显优于基线。
2022-05-23 cs.DC
Portability of Scientific Workflows in NGS Data Analysis: A Case Study
下一代测序（NGS）数据的分析需要复杂的计算工作流程，包括数十个自主开发但相互依赖的处理步骤。当需要处理大量数据时，这些工作流必须在并行和/或分布式系统上执行，以确保合理的运行时间。将为特定硬件基础设施上的特定系统开发的工作流移植到另一个系统或另一个基础设施是不平凡的，这对工作流可再现性和工作流可重用性的科学必要性构成了主要障碍。在这项工作中，我们描述了我们的努力，以港口的国家的最先进的工作流程，用于检测特定的变异，在全外显子组测序的小鼠。工作流最初是在科学工作流系统snakemake中开发的，用于在Sun Grid Engine控制的高性能集群上执行。在该项目中，我们将其移植到科学工作流系统SaasFee，该系统可以使用Hadoop在（多核）独立服务器或任意大小的集群上执行工作流。这个端口的目的是让Hadoop的低成本硬件基础设施的所有者也能够使用工作流。虽然源系统和目标系统都被称为科学工作流系统，但它们在许多方面都有所不同，从工作流语言到调度机制和文件访问接口。这些差异导致了各种各样的问题，有些是预期的，有些是意想不到的，在工作流可以以相同的语义运行之前必须解决这些问题。作为副作用，我们还报告了在非常不同的硬件平台上最先进的NGS工作流的成本/运行时间比：一个非常便宜的独立服务器（80个线程），一个中等成本，中等规模的集群（552个线程）和一个高端HPC系统（3784个线程）。
2020-06-04 cs.DC
REOH: Using Probabilistic Network for Runtime Energy Optimization of Heterogeneous Systems
已经投入了大量的努力来选择计算系统的最佳配置以能量有效地运行应用。然而，可用的调优方法主要集中在同构系统上，并且对于包括多个组件（例如，CPU、GPU）不同的架构。这项研究提出了一种称为REOH的整体调整方法，使用概率网络来预测最节能的配置（即，该平台及其设置）。基于Berkeley dwarfs的计算和通信模式，我们进行了实验，设计了包括7074个数据样本的训练集，涵盖了不同的应用模式和特点。在包括CPU和GPU的异构系统上验证REOH方法表明，REOH方法的能耗接近于蛮力方法的最佳能耗，同时与使用概率网络的先前（同质）方法相比节省了17%的采样运行。基于REOH方法，我们开发了一个开源的能量优化运行时框架，用于在运行时为给定的应用程序选择异构系统的节能配置。
2018-09-16 cs.DC
Evaluating SYCL as a Unified Programming Model for Heterogeneous Systems
Parallel Research Lab（并行研究实验室）
本文评估SYCL在异构系统中的统一编程能力，分析其跨平台开发的代码可移植性、开发效率和运行时效率，对比USM与buffer-accessor、NDRange与分层内核模型，揭示当前SYCL实现的关键限制。
2026-04-17 cs.DC cs.PL
Cross-Platform Performance Portability Using Highly Parametrized SYCL Kernels
Codeplay Software Ltd.（Codeplay软件有限公司）
近年来，异构系统在HPC系统中变得越来越普遍，TOP500中有100多台超级计算机采用了GPU或其他加速器。这些硬件平台具有不同的性能特征和优化要求。为了充分利用多个加速器，开发人员必须提供针对每个设备调整的算法的实现。硬件供应商提供专门针对其设备的库，这些库提供良好的性能，但通常具有不同的API设计，阻碍了可移植性。SYCL编程模型允许用户使用完全标准的C++编写异构程序，因此开发人员在开发计算内核时可以使用C++模板的强大功能。在本文中，我们表明，通过编写高度参数化的内核矩阵乘法和卷积，我们实现了跨不同架构的供应商实现的性能竞争力。此外，针对新设备进行调优相当于选择在硬件上性能最佳的内核参数组合。
2019-04-10 cs.DC cs.LG cs.MS
Lotaru: Locally Predicting Workflow Task Runtimes for Resource Management on Heterogeneous Infrastructures
本文提出 Lotaru，一种面向异构集群的本地化工作流任务运行时预测方法，通过微基准测试与缩减输入数据结合贝叶斯线性回归，在无历史数据下实现高精度预测，误差降低超12.5%，并有效支持调度与碳减排优化。
2023-09-13 cs.DC
INSPIRIT: Optimizing Heterogeneous Task Scheduling through Adaptive Priority in Task-based Runtime Systems
INSPIRIT提出一种基于自适应优先级的轻量级任务调度框架，通过引入启发能力与启发效率两个任务属性并结合运行时队列信息，在无需领域知识的情况下提升异构运行时系统的调度性能。
2024-04-04 cs.DC
RIMMS: Runtime Integrated Memory Management System for Heterogeneous Computing
本文提出硬件无关的运行时内存管理层 RIMMS，自动跟踪位置、维护一致性并分配异构内存，在 CPU+GPU/FPGA 雷达应用中最高取得 3.08 倍加速且开销极低。
2025-07-28 cs.DC
Taking advantage of hybrid systems for sparse direct solvers via task-based runtimes
正在进行的硬件演进表现出计算资源的数量以及异构性的升级。保持合理水平的性能和可移植性的压力迫使应用程序开发人员离开传统的编程范式，并探索替代解决方案。PaStiX是一个并行稀疏直接求解器，基于现代分层众核架构的动态调度器。在本文中，我们研究的好处和限制，更换高度专业化的内部调度程序的PaStiX求解器与两个通用的运行时系统：PaRSEC和StarPU。因子分解步骤的任务图可用于两个运行时，为它们提供处理和优化其遍历的机会，以便最大化目标硬件平台的算法效率。的PaStiX求解器的性能的比较研究，其本机内部调度，PaRSEC，和StarPU框架，在不同的执行环境上，进行。分析强调，这些通用的基于任务的运行时实现同类平台上的应用程序优化的嵌入式调度程序的结果。此外，它们能够通过利用加速器来显着加快异构环境中的求解器，同时向程序员隐藏其有效操作的复杂性。
2014-05-12 cs.DC
Towards Performance Portable Programming for Distributed Heterogeneous Systems
硬件异构性是高性能计算的基础。大规模系统目前每个计算节点都配备了多个GPU加速器，预计未来将采用更专业的硬件。计算生态系统的这种转变为性能改进提供了许多机会;然而，它也增加了此类架构的编程复杂性。这项工作介绍了一个运行时框架，使异构系统轻松编程，同时有效地利用硬件资源。该框架集成在一个分布式的和可扩展的运行时系统，以促进跨异构节点的性能可移植性。随着设计，本文描述了实施和优化执行，实现了高达300%的改进，在共享内存基准和分布式设备通信高达10倍。初步结果表明，我们的软件产生的开销低，实现了40%的改善，在分布式Jacobi代理应用程序，同时隐藏的特质的硬件。
2022-10-03 cs.DC
HiCR, an Abstract Model for Distributed Heterogeneous Programming
本文提出分布式异构编程抽象模型 HiCR，通过最小抽象操作集合与插件化运行时支持层，实现跨当前及未来硬件平台的应用执行。
2025-09-01 cs.DC
Specx: a C++ task-based runtime system for heterogeneous distributed architectures
本文提出了Specx，一种用现代C++编写的基于任务的运行时系统，通过同时利用CPU和GPU（CUDA/HIP）并将通信纳入任务图来支持分布式异构计算，并在并行应用中展示了其潜力。
2024-11-15 cs.DC cs.SE
Offline Energy-Optimal LLM Serving: Workload-Based Energy Models for LLM Inference on Heterogeneous Systems
本文针对异构GPU-CPU系统上的LLM推理能耗问题，通过特性表征建立高精度能量与运行时间模型，并提出离线能量最优调度框架，验证了其优于现有实践。
2024-07-04 cs.DC
Open SYCL on heterogeneous GPU systems: A case of study
本研究评估Open SYCL在异构多GPU系统上的性能与开发效率，以有限时间李雅普诺夫指数计算为例，发现其开销低且开发工作量小于CUDA/HIP，并能轻松同时利用不同供应商的GPU。
2023-10-10 cs.DC
RATrain: A Resource-Aware Training Runtime for Large Language Models on Bandwidth-Constrained Heterogeneous Supercomputing Platforms
Sino-German Joint Software Institute, Beihang University（中德软件工程学院，北京航空航天大学）
针对显存层级化、DDR容量有限且集群间通信受限的MT-3000平台，提出资源感知训练运行时RATrain，通过训练状态生命周期调度和资源感知规划器，实现高达1.35倍加速和97.0%的扩展效率。
2026-06-09 cs.DC
Runtime Task Scheduling using Imitation Learning for Heterogeneous Many-Core Systems
特定领域的片上系统是一类异构众核系统，被认为是缩小定制硬件加速器和可编程处理器之间性能和能效差距的关键方法。这些架构的全部潜力的实现关键取决于在运行时将应用程序最佳地调度到可用资源。现有的基于优化的技术不能在运行时实现这一目标，由于组合性质的任务调度问题。作为主要的理论贡献，本文提出调度作为一个分类问题，并提出了一个分层的模仿学习（IL）为基础的调度，学习从Oracle的多个特定领域的应用程序的性能最大化。从无线通信和雷达领域的六个流媒体应用程序的广泛评估表明，拟议的IL为基础的调度器近似的离线Oracle的政策，超过99%的准确性为性能和能源为基础的优化目标。此外，它还以较低的运行时开销实现了与Oracle几乎相同的性能，并成功适应新应用程序、众核系统配置以及应用程序特征的运行时变化。
2020-08-06 cs.AR cs.DC
JACC: An OpenACC Runtime Framework with Kernel-Level and Multi-GPU Parallelization
计算技术的快速发展为基于指令的编程模型在维护性能关键应用程序的软件可移植性方面发挥主要作用铺平了道路。在这种模型上的努力涉及最少的工程成本，用于在多个架构上实现计算加速，而程序员仅需要在顺序代码上添加Meta信息。然而，获得最佳可能效率的优化通常具有挑战性。程序员插入指令可能会导致限制可用编译器优化的副作用，这可能导致性能下降。这在针对多GPU系统时加剧，因为杂注不会自动适应此类系统，并且需要程序员进行昂贵且耗时的代码调整。本文介绍了JACC，OpenACC运行时框架，使OpenACC程序的动态扩展作为一个透明的程序和编译器之间的层。我们增加了一个通用的代码翻译方法，多设备利用手动优化的应用程序可以自动分发，同时保持原始的代码结构和并行性。在某些情况下，我们展示了NVIDIA V100 GPU的内核执行部分几乎是线性扩展的。当自适应地使用多GPU时，由此产生的性能改进分摊了GPU到GPU通信的延迟。
2022-04-27 cs.DC
DiOMP-Offloading: Toward Portable Distributed Heterogeneous OpenMP
Stony Brook University（石溪大学）
针对传统HPC混合编程模型在分布式GPU内存管理与可移植性上的不足，提出分布式OpenMP框架DiOMP，融合OpenMP目标卸载与PGAS模型，实验证明其在多类异构平台上具备更优性能、可扩展性与可编程性。
2025-06-03 cs.DC
Performance portability through machine learning guided kernel selection in SYCL libraries
Codeplay Software Ltd.（Codeplay软件有限公司）
自动调优并行计算内核允许库和框架在各种硬件上实现性能，然而这些技术通常专注于为特定输入大小和参数找到最佳内核参数。通用计算库必须能够满足用户提供的所有输入和参数，因此这些技术的用途有限。此外，像SYCL这样的并行编程框架要求内核以二进制格式嵌入库中。因此，在不增加库大小的情况下部署大量可能的内核配置是不切实际的。机器学习方法可用于缓解这两个问题，并为具有有限数量的内核配置的通用例程提供性能。我们表明，无监督聚类方法可用于选择应部署的可能内核的子集，并且可以训练简单的分类方法以在运行时从这些内核中选择以提供良好的性能。由于这些技术是完全自动化的，仅依赖于基准数据，因此针对新硬件或问题的调优过程不需要任何开发人员的努力或专业知识。
2020-08-30 cs.DC cs.LG cs.PF
Enhancing Programmability, Portability, and Performance with Rich Cross-Layer Abstractions
可编程性、性能可移植性和资源效率已成为当今利用复杂多样的架构以获得高性能和高能效的关键挑战。虽然有大量的研究，因此显着的改进，在不同层次的堆栈，以解决这些非常的挑战，在这篇论文中，我们观察到，我们从根本上限制了应用程序和底层系统/硬件之间的接口和抽象-特别是硬件-软件接口。现有的狭窄接口带来了两个关键挑战。首先，需要大量的努力和专业知识来编写高性能代码，以充分利用当今多样化和复杂硬件的潜力。其次，作为硬件/系统设计师，构建更快，更高效的系统是具有挑战性的，因为绝大多数程序的语义内容在与当今硬件-软件接口的转换中丢失。展望未来，随着我们构建越来越多的异构和复杂的系统，这些可编程性和效率方面的挑战将更加棘手。本论文提出了丰富的低开销跨层抽象的情况下，作为一个非常有效的手段来解决上述挑战。这些抽象被设计成以高效的方式将更高级别的程序信息从应用程序传递到底层系统和硬件，仅需要对现有接口进行少量添加。在这样做的过程中，它们启用了丰富的硬件-软件协作机制空间来优化性能。我们提出了4种不同的方法来设计更丰富的抽象之间的应用程序，系统软件，和硬件架构在不同的情况下，显着提高可编程性，可移植性和性能的CPU和GPU。
2019-11-10 cs.DC cs.PL
YASMIN: a Real-time Middleware for COTS Heterogeneous Platforms
商用现成的异构平台提供了巨大的计算能力，但当实时的【形】要求开始发挥作用时，很难编程和正确使用：需要操作系统调度程序的合理配置，并且必须确定任务到计算单元的适当映射。有缺陷的设计可能导致次优的系统配置，从而浪费资源，甚至导致最后期限错过和失败。我们提出了YASMIN，一个中间件调度终端用户应用程序的实时的【形】要求，在用户空间和代表的操作系统。YASMIN提供了一个易于使用的编程接口和可移植性。它将COTS异构嵌入式平台上的异构性视为一等公民：它支持具有不同功能外行为的多个功能等效任务实现。这使系统设计人员能够快速探索不同的调度策略和任务到核心的映射，从而提高整体系统性能。在本文中，我们提出了YASMIN的设计和实现，并提供了一个Odroid-XU 4平台上的调度开销的分析。最后但并非最不重要的是，我们展示了YASMIN在涉及搜索和救援无人机的工业用例上的优点。
2021-08-02 cs.DC
From PyTorch to the NPU: LLM-Agent-Driven Model Conversion Across Heterogeneous Inference Runtimes
National Cheng Kung University（国立成功大学）；Qualcomm Technologies, Inc.（高通技术有限公司）
本文提出一种 LLM 智能体驱动的方法，将 PyTorch 模型自动转换为多个异构推理运行时（如 OpenVINO、RKNN、TensorRT、ONNX Runtime）的可执行推理，通过分阶段验证和领域知识注入，实现 FP16 精度部署，并提供了多运行时部署的工程实践经验。
2026-09-24 cs.DC cs.SE
Myrmics: Scalable, Dependency-aware Task Scheduling on Heterogeneous Manycores
基于任务的编程模型已经变得非常流行，因为它们提供了一种有吸引力的解决方案，可以并行化带有任务和数据注释的串行应用程序代码。它们通常依赖于一个运行时系统，该系统将任务并行调度到多个核心，同时解决任何数据风险。然而，现有的运行时系统实现还没有准备好在新兴的众核处理器上很好地扩展，因为它们通常依赖于高速缓存一致性存储器中的集中式结构和/或共享结构上的锁。我们提出的设计选择，政策和机制，以提高运行时系统的可扩展性，为数百个核心的单芯片处理器。基于这些概念，我们创建和评估Myrtle，一个运行时系统的依赖性感知，基于任务的编程模型上的异构硬件原型平台，模拟一个单芯片处理器的8延迟优化和512吞吐量优化的CPU。我们发现，Myrandom成功地扩展到数百个核心。与具有手动调优消息传递的相同基准测试的MPI版本相比，Myrtle实现了类似的可伸缩性，性能开销为10-30%，但编程工作量更少。我们详细分析了运行时系统的可扩展性，并确定了关键因素，有助于它。
2016-06-14 cs.DC cs.PL
Compiler Enhanced Scheduling for OpenMP for Heterogeneous Multiprocessors
非对称多核处理器（AMP）调度是异构多核处理器的一种特殊情况，是一个广泛研究的课题。大多数调度技术是运行时的，通常不考虑并行编程框架（如OpenMP）中使用的并行编程模式。另一方面，这些并行编程平台的当前编译器是硬件无关的，这阻止了big.LITTLE等平台的任何编译时优化，并且必须完全依赖于运行时优化。在本文中，我们提出了一个硬件感知的编译器增强调度（CES），其中常见的编译器转换与编译器添加的调度命令，以利用硬件的不对称性，提高运行时的效率。我们实现了一个用于OpenMP的编译器，并在三星Exynos中使用big.LITTLE架构证明了其效率。平均而言，我们看到在标准NPB和FSU基准测试中，CES在big.LITTLE中跨多个频率和核心配置减少了18%的运行时间和14%的能耗。
2018-08-18 cs.DC cs.PF
Analysis of Dynamic Scheduling Strategies for Matrix Multiplication on Heterogeneous Platforms
超级计算机的规模和异构性的巨大增加使得预测调度算法的性能变得非常困难。因此，在运行时做出调度决策的动态解决方案已经超过了静态分配策略。Hadoop等动态计算器的简单性和效率是MapReduce框架成功的关键。诸如StarPU、PaRSEC或StarSs之类的动态图也被开发用于更受约束的计算，例如来自线性代数的任务图。为了做出它们的决定，这些运行时系统利用一些静态信息，诸如任务到关键路线的距离或者任务与计算资源（CPU、GPU等）之间的亲和性。以及诸如输入数据实际位于何处的动态信息。在本文中，我们集中在两个基本的线性代数核，即外积和矩阵乘法。对于每个问题，我们提出了几个动态策略，可以在运行时使用，我们提供了一个分析研究其理论性能。我们证明，理论分析提供了很好的估计量的通信引起的动态策略，可以用来有效地确定阈值中使用的动态调度，从而使它们之间的选择为一个给定的问题和架构。
2014-04-15 cs.DC
Parallel Programming Models for Heterogeneous Many-Cores : A Survey
异构多核现在是从嵌入式系统到超级计算机的现代计算系统的组成部分。虽然异构众核设计提供了高能效高性能的潜力，但只有当应用程序适当并行并且可以匹配底层异构平台时，这种潜力才能被释放。在这篇文章中，我们提供了一个全面的调查异构众核架构的并行编程模型，并审查编译技术，提高可编程性和可移植性。我们研究了各种软件优化技术，以最大限度地减少异构计算设备之间的通信开销。我们为各种不同的研究领域提供了路线图。最后，我们对该领域的开放问题和潜在的研究方向进行了讨论。这篇文章既提供了对快速发展的异构编程领域的一个容易理解的介绍，也提供了其主要成就的详细参考书目。
2020-05-05 cs.DC cs.PL
EngineCL: Usability and Performance in Heterogeneous Computing
异构系统已经成为当今最常见的架构之一，这要归功于它们出色的性能和能耗。然而，由于它们的异构性，它们的编程非常复杂，甚至更难以在不同设备上实现性能可移植性。本文介绍了EngineCL，一个新的基于OpenCL的运行时系统，显著简化了一个单一的大规模数据并行内核的所有设备上的异构系统的协同执行。它执行一组关于设备管理的低级任务，它们的不相交内存空间和在系统设备之间调度工作负载，同时提供分层API。EngineCL已在两个计算节点（HPC和商品系统）中进行了验证，这两个节点将六个设备与不同的架构结合在一起。实验结果表明，与OpenCL相比，它具有优异的可用性;在小于1秒的执行负载下，与原生版本相比，最大开销为2.8%，并且在较长的执行时间内趋于零;在平衡负载时，它可以达到平均0.89的效率。
2020-02-14 cs.DC
Scalable and massively parallel Monte Carlo photon transport simulations for heterogeneous computing platforms
我们提出了一个高度可扩展的蒙特卡罗（MC）三维光子输运模拟平台，设计用于异构计算系统。通过开发一个大规模并行MC算法，使用开放计算语言（OpenCL）框架，本研究扩展了我们现有的图形处理单元（GPU）加速MC技术，一个高度可扩展的供应商无关的异构计算环境，实现显着提高性能和软件可移植性。许多并行计算技术的研究，以实现广泛的计算硬件的便携式性能。此外，开发了多个线程级和设备级负载平衡策略，以使用多个中央处理单元（CPU）和GPU来获得高效的仿真。
2018-01-25 cs.DC physics.comp-ph
MeanField Surrogate Modeling for Scalable Runtime Scheduling of Concurrent Heterogeneous AI Inference on Shared GPUs
Seoul National University（首尔大学）；Institute of Computer Technology (ICT), Seoul National University（首尔大学计算机技术研究所）
针对共享GPU上并发异构AI推理的调度难题，提出MeanField代理模型，将其集成到遗传算法调度器中，在多类工作负载场景下实现高精度、低耗时的可扩展调度，性能接近穷举搜索且效率大幅提升。
2026-09-03 cs.AI cs.DC
RHAPSODY: Execution of Hybrid AI-HPC Workflows at Scale
Rutgers University（罗格斯大学）；Hewlett Packard Enterprise（惠普企业）；Brookhaven National Laboratory（布鲁克海文国家实验室）；IE University（IE大学）
RHAPSODY通过统一抽象实现异构AI-HPC工作负载的并发执行，支持大规模高吞吐量推理和紧密耦合任务耦合。
2025-12-23 cs.DC
Enabling Dynamic Selection of Implementation Variants in Component-Based Parallel Programming for Heterogeneous Systems
针对异构系统编程需掌握多框架的难题，提出基于组件的COMPAR框架，通过编译器指令扩展与StarPU运行时支持，实现运行时组件实现变体的智能选择，在保障性能的同时简化编程、提升代码复用性。
2023-11-06 cs.DC cs.PL
AEG: A Baremetal Framework for AI Acceleration via Direct Hardware Access in Heterogeneous Accelerators
Rochester Institute of Technology（罗切斯特理工学院）
本文提出一种统一的裸金属运行时架构，用于在异构加速器上实现高性能机器学习推理，无需底层实时或通用操作系统。通过将复杂控制逻辑扁平化为可执行的Runtime Control Blocks，实现高阶模型的高效执行。
2026-02-15 cs.AI cs.DC
Reshi: Recommending Resources for Scientific Workflow Tasks on Heterogeneous Infrastructures
科学工作流通常包括许多不同的处理步骤，这些处理步骤通常在输入数据的不同分区上并行执行。反过来，这些执行必须在手头的计算基础设施的计算节点上进行调度。这种分配由于以下事实而变得复杂：（a）任务通常具有高度异构的资源需求，以及（b）在许多基础设施中，计算节点提供高度异构的资源。因此，如许多调度算法所要求的，对给定节点上的给定任务的运行时间的预测通常是相当不精确的，这可能导致次优调度决策。我们提出了Reshi，一种在工作流执行过程中推荐任务节点分配的方法，可以处理异构任务和异构节点。Reshi将问题作为回归任务来处理，其中任务节点对被建模为专用微基准测试和过去任务执行结果的特征向量。基于这些功能，Reshi训练了一个回归树模型，为每个准备运行的任务排名和推荐节点，这些节点可以用作调度器的输入。在我们的评估中，我们使用三个代表性的工作流程对27种AWS机器类型进行了基准测试。我们将Reshi的建议与三种最先进的解决方案进行比较。我们的评估表明，Reshi优于HEFT的平均完工时间减少7.18%和18.01%，假设平均任务运行时预测误差为15%。
2022-10-17 cs.DC
GROMACS on AMD GPU-Based HPC Platforms: Using SYCL for Performance and Portability
本文介绍GROMACS使用SYCL在AMD GPU平台实现性能与可移植性，验证了在MI250X上无重大性能妥协的可行性。
2024-05-02 cs.CE cs.DC cs.PF
Parallax: Runtime Parallelization for Operator Fallbacks in Heterogeneous Edge Systems
University of Southampton（南安普顿大学）；UCL AI Centre（伦敦大学学院人工智能中心）；University College London（伦敦大学学院）
Parallax通过并行化和内存优化，提升移动设备上动态神经网络推断的效率与响应性。
2025-12-12 cs.AI cs.CV cs.DC
Project Beehive: A Hardware/Software Co-designed Stack for Runtime and Architectural Research
Dennard扩展的结束加上架构和编译器优化的停滞，使得实现显著的性能增量变得具有挑战性。仅仅基于硬件或软件的解决方案已不足以保持过去几十年的进步速度。在硬件方面，单核扩展的结束导致了多核系统架构的激增，但这迫使复杂的并行编程技术成为主流。为了进一步利用物理资源，系统变得越来越异构，具有专用计算元件和加速器。跨一系列完全不同的体系结构进行编程需要一个新的抽象级别，程序设计语言必须适应这个级别。在软件方面，来自大数据和计算机视觉等领域的新兴复杂应用程序在针对具有各种约束和资源的硬件的多层软件堆栈上运行。因此，优化电源性能（和弹性）空间需要实验平台，提供快速简便的硬件/软件协同设计技术原型。为此，我们提出了Project Beehive：用于运行时和架构研究的硬件/软件协同设计堆栈。Project Beehive利用各种最先进的软件和硬件组件以及新颖的可扩展的协同设计技术。Project Beehive的目标是以全系统协同设计的方式为新兴应用程序、程序设计语言、编译器、运行时和低功耗异构众核架构提供一个现代化的实验平台。
2017-06-05 cs.DC
A task-based data-flow methodology for programming heterogeneous systems with multiple accelerator APIs
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya - BarcelonaTech (UPC)（加泰罗尼亚理工大学）
本文提出基于任务的数据流方法，结合任务感知API和nOS-V库，实现多种加速器编程模型的透明高效集成。
2026-02-27 cs.DC
Exploring Uncore Frequency Scaling for Heterogeneous Computing
本文针对异构CPU-GPU系统中GPU主导负载下非核心频率无法有效降低导致功耗浪费的问题，提出用户透明的运行时MAGUS，通过内存吞吐量预测与相位管理实现最高27%节能和26% EDP降低。
2025-02-06 cs.DC
pocl: A Performance-Portable OpenCL Implementation
OpenCL是异构系统并行编程的标准。通用编程标准的好处是显而易见的;多个供应商可以为根据该标准编写的应用程序描述提供支持，从而减少程序移植工作。虽然该标准带来了平台可移植性的明显好处，但性能可移植性方面主要留给程序员。由于多个专有供应商实现具有不同的特性，因此需要优化策略，情况变得更糟。在本文中，我们提出了一个OpenCL的实现，是便携式和性能便携式。它的核心是一个内核编译器，可用于在具有不同并行硬件风格的多个平台上开发OpenCL程序的数据并行。内核编译器被模块化，以执行独立于目标的并行区域的形成与区域的特定于目标的并行映射分开，以支持各种风格的细粒度并行资源，例如子字SIMD扩展、SIMD数据路径和静态多问题。与以前在源级别上工作的类似技术不同，并行区域形成使用LLVM IR及其元数据基础设施来保留数据并行的信息。这些数据可以被后来的通用编译器通道利用，以实现高效的并行化。OpenCL的开源实现也是平台可移植的，使OpenCL能够在广泛的体系结构上运行，无论是已经商业化的还是仍在研究中的。本文介绍了如何实现的可移植性。我们的研究结果表明，大多数基准测试的应用程序使用pocl编译时，速度更快或接近手头的平台上最好的专有OpenCL实现一样快。
2016-11-21 cs.DC
Emulating Heterogeneous Client Execution in Federated Learning
University of Luxembourg（卢森堡大学）
BouquetFL通过模拟异构硬件配置，为联邦学习研究提供了一种在单台机器上实现受控实验的工具，以研究实际部署中的系统异质性。
2026-09-02 cs.DC
Sailor: Automating Distributed Training over Dynamic, Heterogeneous, and Geo-distributed Clusters
Sailor系统通过结合搜索空间探索算法、运行时与内存模拟及支持异构的分布式训练框架，在动态、异构和地理分布式集群上自动化分布式训练，以优化吞吐量和成本。
2025-09-26 cs.DC
HEGrid: A High Efficient Multi-Channel Radio Astronomical Data Gridding Framework in Heterogeneous Computing Environments
充分利用现有和即将推出的大型单碟射电望远镜等科学仪器的潜力所面临的挑战是有效和高效地处理收集到的大量数据。作为一种具有“摩尔邻域模式”的“准2D模板计算”，网格化是射电天文学研究数据简化管道中计算量最大的步骤，使天文学家能够创建正确的天空图像以供进一步分析。然而，现有的网格框架要么只能运行在多核CPU架构上，要么不支持高并发、多通道的数据网格。它们的性能是有限的，并且需要创新的网格框架来处理来自大型单碟射电望远镜（如500米孔径球面望远镜（FAST））的数据。为了应对这些挑战，我们开发了一个高效网格框架HEGrid，克服了上述限制。具体而言，我们提出并构建了网格流水线在异构计算环境中，并实现了高性能的多通道处理的多管道并发。此外，我们提出了基于流水线的协同优化，以减轻潜在的负面性能影响可能的内部和内部流水线低计算和I/O利用率，包括组件共享为基础的冗余消除，线程级的数据重用和重叠的I/O和计算。我们的实验是基于模拟数据集和实际FAST观测数据集。结果表明，HEGrid的性能比其他最先进的网格框架高出5.5倍，并具有强大的硬件可移植性，包括AMD Radeon Instinct GPU和NVIDIA GPU。
2022-07-11 cs.DC
LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Serving Infrastructure
本文提出LLMServingSim 2.0，通过统一运行时框架模拟异构和解耦LLM服务基础设施中的硬件软件交互，验证其在真实部署中具有高精度和高效能。
2026-03-23 cs.AI cs.DC
Patterns and Rewrite Rules for Systematic Code Generation (From High-Level Functional Patterns to High-Performance OpenCL Code)
随着组合多核CPU和GPU的异构硬件的出现，计算系统变得越来越复杂。这些并行系统表现出巨大的计算能力，在增加编程工作的成本。这导致了实现性能和代码可移植性之间的矛盾。代码要么使用特定于设备的优化进行调优以实现最大性能，要么用高级语言编写以牺牲性能来实现可移植性。我们提出了一种新的方法，提供高层次的编程，代码的可移植性和高性能。它基于算法模式组合，再加上一组强大而简单的重写规则。这使得能够将高级程序系统地转换和优化为导致高性能代码的低级硬件特定表示。我们在实践中测试我们的设计，通过描述一个子集的OpenCL编程模型与低级别的模式，并通过实现一个编译器，生成高性能的OpenCL代码。我们的实验表明，我们可以系统地从简单的高层次的算法表达式获得高性能的设备特定的实现。生成的OpenCL代码的性能与专家编写的针对多核CPU和GPU的高度调优实现不相上下
2015-02-09 cs.DC cs.PF cs.PL
Online Adaptive Learning for Runtime Resource Management of Heterogeneous SoCs
Arizona State University（亚利桑那州立大学）；Washington State University（华盛顿州立大学）；Intel Corporation（英特尔公司）
由于低功耗和高性能的要求，动态资源管理已成为现代计算机和通信系统设计的主要研究领域之一。集成核心的数量、异构程度和控制旋钮的数量稳步增加。因此，系统复杂性的增长速度超过了我们优化和动态管理资源的能力。此外，离线方法是次优的，由于工作负载的变化和大量的新的应用程序在设计时未知的。本文首先回顾了最近用于预测系统性能、功率和温度的在线学习技术。然后，我们描述了使用预测模型在线控制使用两种现代方法：模仿学习（IL）和显式非线性模型预测控制（NMPC）。商业移动平台上的16个基准测试结果表明，IL方法成功地适应控制策略未知的应用程序。与现代GPU子系统的多变量电源管理的最先进算法相比，显式NMPC可节省25%的能源。
2020-08-22 cs.AI cs.DC cs.LG
Profile-Guided Parallel Task Extraction and Execution for Domain Specific Heterogeneous SoC
在本研究中，我们介绍了一种用C/C++编写的雷达和通信领域的用户应用程序自动转换的方法我们提出了一种在编译过程中使用屏障同步原语来检测用户应用程序二进制文件的方法，该方法使运行时系统能够在可用的计算资源。我们展示了我们的集成编译时和运行时流的能力，通过任务级并行和功能正确的执行现实生活中的应用程序。我们执行四个不同的应用程序，每个执行不同程度的任务级并行基于Xeon的多核同构处理器，我们的集成系统进行验证。我们使用建议的编译和代码转换方法来重新定位每个应用程序，以便在由三个ARM内核和一个FFT加速器组成的异构SoC上执行，该SoC在Xilinx Zynq UltraScale+平台上仿真。我们证明了我们的运行时的能力，处理应用程序的二进制，调度独立的任务在Zynq FPGA上的仿真SoC的可用计算资源的基础上，三种不同的调度算法。最后，我们演示了在Zynq FPGA上分别执行每个应用程序的任务级并行性，以及执行由同一应用程序的多个实例组成的工作负载场景，以及两个不同应用程序的混合，以展示实现应用程序和任务级并行执行的能力。我们的集成方法为应用程序开发人员提供了一条前进的道路，可以充分利用目标SoC，而无需用户成为硬件和并行编程专家。
2022-11-26 cs.AR cs.DC
Fork is All You Need in Heterogeneous Systems
针对异构系统编程复杂度高的问题，提出基于CXL的统一编程运行时系统CodeFlow，支持高级语言编译后自动调度到加速器，降低开发成本并提升性能。
2024-04-16 cs.DC cs.ET
Performance Impact of Containerized METADOCK 2 on Heterogeneous Platforms
本文在异构 HPC 平台的多种 CPU/GPU 配置下评估 Docker、Singularity 和 Apptainer 容器化 METADOCK 2，证明其开销低于 1%，并能高效处理大型分子复合物。
2025-06-06 cs.DC cs.PF
Towards Co-execution on Commodity Heterogeneous Systems: Optimizations for Time-Constrained Scenarios
异构系统存在于从强大的超级计算机到移动设备（包括台式计算机）的各种系统中，这要归功于它们优异的性能和能耗。这些架构在桌面系统和中型服务服务器中的普遍存在允许足够的可变性来利用广泛的问题，例如多媒体工作负载、视频编码、图像过滤和机器学习中的推理。由于异构性，已经做了一些努力来减少编程工作并保持性能可移植性，但这些系统包括一组挑战。应用程序卸载工作负载的上下文以及在执行协同执行时引入的管理开销，会在时间受限的场景下损害性能增益。因此，本文提出了优化引擎CL运行时，以减少在商品系统中共同执行时的惩罚，以及负载均衡时的算法改进。进行了详尽的实验评估，显示优化改进的7.5%和17.4%的二进制和基于ROI的卸载模式，分别。由于所有的优化，新的负载均衡算法总是最有效的调度配置，实现了平均效率为0.84的悲观的情况下。
2020-10-23 cs.DC cs.PF
