Energy hardware and workload aware job scheduling towards interconnected HPC environments
新的HPC机器正在接近艾级。这些机器的功耗一直在增加，研究人员正在研究降低功耗的方法。第二个趋势是HPC机器越来越复杂，越来越多的异构硬件组件和不同的集群架构在同一台机器中协作。我们将这些环境称为异构多集群环境。为了在这些环境中优化性能和能耗，本文提出了一种能量感知的多集群（EAMC）作业调度策略。EAMC策略能够通过预测不同硬件架构和处理器频率下到达作业的性能和能耗来优化作业的调度和放置，从而减少工作负载的能耗、完工时间和响应时间。该策略为每个作业-资源组合分配不同的优先级，以便优先考虑效率最高的作业-资源组合，而效率较低的作业-资源组合仍然在可变程度上被考虑，从而减少响应时间并提高集群利用率。我们在Slurm中实现了EAMC策略，并评估了两个CPU集群在同一台机器上协作的场景。模拟工作负载运行的应用程序从现实世界中建模显示，响应时间和完工时间减少了25%和6%，同时节省了高达20%的总能源消耗相比，最大限度地减少运行时间的政策，并通过49%，26%，和6%相比，最小限度地减少能源。
2021-06-22 cs.DC
Tailored Learning-Based Scheduling for Kubernetes-Oriented Edge-Cloud System
Tianjin University（天津大学）；IBM T. J. Watson Research Center（IBM托马斯·J·沃森研究中心）；Shenzhen University（深圳大学）；the University of British Columbia（不列颠哥伦比亚大学）
Kubernetes（k8s）有可能将分布式边缘和云合并，但缺乏专门针对边缘云系统的调度框架。此外，异构资源的层次分布以及请求和资源之间的复杂依赖关系使得面向k8s的边缘云系统的建模和调度尤为复杂。在本文中，我们介绍了KaiS，这是一个基于学习的调度框架，用于这种边缘云系统，以提高请求处理的长期吞吐率。首先，我们设计了一个协调的多代理Actor-Critic算法，以满足分散的请求调度和边缘集群内的动态调度空间。其次，针对不同的系统规模和结构，采用图神经网络嵌入系统状态信息，并将嵌入结果与多策略网络相结合，通过逐步调度降低编排维数。最后，我们采用双时间尺度的调度机制来协调请求分派和服务编排，并给出了部署上述算法与原生k8s组件兼容的实现设计。使用真实的工作负载跟踪的实验表明，KaiS可以成功地学习适当的调度策略，无论请求到达模式和系统规模。此外，与基线相比，KaiS可以将平均系统吞吐率提高14.3%，同时将调度成本降低34.7%。
2021-01-17 cs.AI cs.DC
Job Scheduling in High Performance Computing
近几十年来，超级计算机不断增长的处理能力使我们能够探索越来越复杂的科学问题。有效地调度这些作业对单个作业的性能和系统效率至关重要。传统的高性能计算（HPC）中的作业调度器是简单的，集中在提高CPU利用率。新的硬件资源和新的硬件结构的出现对传统的嵌入式系统提出了严峻的挑战。日益多样化的工作负载（包括计算密集型和数据密集型应用程序）需要更高效的数据处理器。更糟糕的是，上述两个因素相互作用，这使得调度问题更具挑战性。近年来，许多研究探讨了新的调度方法，以应对系统快速变化带来的问题。在这项研究中，我们调查了HPC调度和最先进的调度方法所面临的挑战，以克服这些挑战。此外，我们提出了一个智能调度框架，以减轻现代作业调度中遇到的问题。
2021-09-20 cs.DC
Interstellar: Using Halide's Scheduling Language to Analyze DNN Accelerators
我们表明，DNN加速器微架构及其程序映射代表了循环顺序和硬件并行性的特定选择，用于计算DNN的七个嵌套循环，这使我们能够创建所有现有密集DNN加速器的正式分类。令人惊讶的是，创建这些硬件变体所需的循环转换可以用Halide的调度语言精确而简洁地表示。通过修改Halide编译器来生成硬件，我们创建了一个可以公平比较这些先前加速器的系统。只要使用适当的循环阻塞方案，并且硬件可以支持映射复制循环，许多不同的硬件固件就可以产生类似的能量效率和良好的性能。这是因为循环阻塞可以确保大多数数据引用以良好的局部性留在片上，并且处理单元具有高资源利用率。如何分配资源，特别是在内存系统中，对能源和性能有很大的影响。通过优化硬件资源分配，同时保持吞吐量不变，我们实现了高达4.2倍的能量提高卷积神经网络（CNN），1.6倍和1.8倍的提高长短期记忆（LSTM）和多层感知器（MLP），分别。
2020-04-26 cs.DC
PLATOS: A Power and Latency-Aware Task-Oriented Scheduling Strategy for Healthcare IoT in Fog Computing
针对医疗物联网在雾计算中的延迟和能耗问题，提出PLATOS四阶段任务导向调度策略，在iFogSim2中实现能耗降低18.72%、延迟降低8.65%。
2026-09-09 cs.AI cs.DC
Beyond the Limits: Flexible and Congestion-Aware Cluster Scheduling for the Cloud
Umeå University（于默奥大学）
该研究针对云集群调度的SLO过度严格执行与共享资源拥塞感知缺失问题，提出软SLO限制与感知资源的调度策略，可降低重调度动作49%、节点拥塞8%，提升调度效率与性能保障。
2026-08-11 cs.DC
A Grid Service Broker for Scheduling Distributed Data-Oriented Applications on Global Grids
下一代科学实验和研究，通常被称为电子科学，是由分布在世界各地的研究人员进行的，他们从事分析科学仪器产生的大量数据。网格计算已经成为电子科学的推动者，因为它允许创建虚拟组织，将具有共同目标的社区聚集在一起。在社区内，数据汇集存储或复制在分布式资源上，以增强存储能力或访问效率。在这样的环境中，科学家需要有能力通过透明地访问分布式数据和计算资源来进行研究。在本文中，我们提出并开发了一个网格代理，通过（a）为给定的分析场景发现合适的数据源，（b）合适的计算资源，（c）最佳地将分析作业映射到资源，（d）在选定的资源上部署和监视作业执行，（e）在作业执行期间从本地或远程数据源访问数据，以及（f）整理和呈现结果。该代理支持用于创建网格应用程序的声明式和动态参数化编程模型。我们已经使用这个模型在网格启用高能物理分析应用程序（百丽分析软件框架）。该经纪人已被用于在网格测试平台上部署Belle实验数据分析工作，称为Belle分析数据网格，分布在澳大利亚各地的资源通过GrangeNet互连。
2004-05-06 cs.DC
CASH: A Credit Aware Scheduling for Public Cloud Platforms
公共云提供了无数的服务，使其租户能够以灵活，简单和经济高效的方式处理大规模的大数据。租户通常使用大规模数据处理框架，如MapReduce，Tez，Spark等来处理他们的数据。租户可以配置他们的框架来运行框架本身的单个任务，或者使用YARN或Mesos等中间件集群管理器来仲裁公共云集群中的资源调度。集群管理器需要了解工作负载需求以及集群中CPU和磁盘等单个资源的状态。云提供商使用令牌桶机制来表示其硬件资源的服务质量。在本文中，通过我们在YARN，Hadoop和Tez中的变化，我们展示了如何使中间件集群管理器认识到集群中单个硬件资源的预期服务质量。我们优化的集群管理器与粗粒度的知识的任务要求和细粒度的知识的预期服务质量的集群中的硬件资源执行高度优化的任务布局。我们的优化实验表明，基于CPU信用的实例（如Amazon T3实例）是运行大数据工作负载的可行的成本效益选项。我们还表明，Hive仓库上的流式SQL查询可以加速高达31%，从而节省高达22%的公共云成本。
2020-09-11 cs.DC
WattsApp: Power-Aware Container Scheduling
容器正在成为现代分布式系统中流行的工作负载部署机制。然而，存在有限的基于软件的方法（基于硬件的方法是昂贵的，需要硬件级别的改变）用于获得容器所消耗的功率以促进功率感知容器调度，这是有效管理分布式系统的基本活动。本文介绍了WattsApp，这是一个基于六步软件方法的工具，用于功率感知容器调度，以最大限度地减少服务器上的功率上限违规。所提出的方法依赖于一个基于神经网络的功率估计模型和功率封顶集装箱调度技术。实验研究是在实验室的环境中进行的10个基准部署在英特尔和ARM处理器上。结果表明，功效估计模型的数据汇集开销可以忽略不计-所有数据样本中近90%的数据可以在误差小于10%的情况下进行估计，平均绝对百分比误差（MAPE）小于6%。WattsApp的功率感知调度比英特尔基于运行功率平均限制（RAPL）的单个和多个容器的功率上限更有效，因为它不会降低服务器上运行的所有容器的性能。结果证实了WattsApp的可行性。
2020-05-30 cs.DC
Scheduling Algorithms for Asymmetric Multi-core Processors
由于对处理器性能的要求越来越高，功耗不断增加，多核处理器技术应运而生，成为当前和未来十年的主流技术。研究提倡非对称多核处理器系统，以更好地利用芯片的真实状态。然而，非对称多核架构对传统上假定硬件同构的操作系统调度器提出了新的挑战。因此，如何将线程调度到内核已成为操作系统内核的一个重要问题。在本文中，提出了调度算法的非对称多核处理器进行了分类。本文通过对这几类典型算法的研究，对非对称多核系统的调度算法进行了综述。
2017-02-14 cs.DC
Compiler Enhanced Scheduling for OpenMP for Heterogeneous Multiprocessors
非对称多核处理器（AMP）调度是异构多核处理器的一种特殊情况，是一个广泛研究的课题。大多数调度技术是运行时的，通常不考虑并行编程框架（如OpenMP）中使用的并行编程模式。另一方面，这些并行编程平台的当前编译器是硬件无关的，这阻止了big.LITTLE等平台的任何编译时优化，并且必须完全依赖于运行时优化。在本文中，我们提出了一个硬件感知的编译器增强调度（CES），其中常见的编译器转换与编译器添加的调度命令，以利用硬件的不对称性，提高运行时的效率。我们实现了一个用于OpenMP的编译器，并在三星Exynos中使用big.LITTLE架构证明了其效率。平均而言，我们看到在标准NPB和FSU基准测试中，CES在big.LITTLE中跨多个频率和核心配置减少了18%的运行时间和14%的能耗。
2018-08-18 cs.DC cs.PF
Towards Fast, Adaptive, and Hardware-Assisted User-Space Scheduling
针对数据中心微秒级工作负载的高尾部延迟问题，提出基于UINTR硬件的可抢占用户级线程库LibPreemptible，通过多项优化实现显著优于Shinjuku的延迟与吞吐量，且无需修改内核。
2023-11-11 cs.AR cs.DC cs.NI
Timeliness-Oriented Scheduling and Resource Allocation in Multi-Region Collaborative Perception
School of Electronic and Information Engineering, Beijing Jiaotong University（北京交通大学电子与信息工程学院）；Beijing National Research Center for Information Science and Technology, Department of Electronic Engineering, Tsinghua University（北京信息科学与技术国家研究中心，清华大学电子工程系）
本文提出TAMP算法，通过平衡感知精度与通信资源使用，在多区域协作感知中实现时效导向的调度优化。
2026-01-08 cs.DC cs.LG
DeFiNES: Enabling Fast Exploration of the Depth-first Scheduling Space for DNN Accelerators through Analytical Modeling
本文提出统一解析建模框架 DeFiNES，通过覆盖各存储层级、权重与激活及计算和复制阶段，快速准确探索 DNN 逐层与深度优先调度空间，并在 DepFiN 上验证，最高获得 10 倍更优方案。
2024-06-14 cs.AR cs.DC
SneakPeek: Data-Aware Model Selection and Scheduling for Inference Serving on the Edge
针对边缘资源受限场景，本文提出 SneakPeek 数据感知模型选择与调度算法，动态估计模型精度并结合批处理与请求优先级，在截止期限内提升调度效用和推理精度。
2025-05-10 cs.DC
Compiler-assisted Adaptive Program Scheduling in big.LITTLE Systems
能量感知架构为应用提供低（小）和高（大）频率内核的混合。为运行在这种架构上的程序选择最佳硬件配置是困难的，因为程序部分从相同的硬件配置中获益不同。解决这一问题的最先进的技术使程序的执行适应运行时环境的动态特性，例如能耗和吞吐量。我们声称，这些纯粹的动态技术可以得到改善，如果他们知道程序的语法结构。为了支持这一主张，我们展示了如何使用编译器将源代码划分为程序阶段：其语法特征导致类似运行时行为的区域。我们使用强化学习将程序阶段和硬件状态形成的对映射到最适合此设置的配置。为了证明我们的想法的有效性，我们实施了Astro系统。Astro使用Q学习将程序的语法特征与硬件配置相关联。作为一个概念的证明，我们提供的证据表明，天文优于GTS，基于ARM的Linux调度器为异构体系结构，从Rodinia和Parsec的并行基准。
2019-03-17 cs.DC cs.PL
HEATS: Heterogeneity- and Energy-Aware Task-based Scheduling
云提供商通常为用户提供各种类型的硬件。客户利用此选项部署具有GPU、FPGA、x86以外的架构（例如，ARM、IBM Power8），或具有某些特定扩展（例如Intel SGX）。在这项工作中，我们考虑了客户用于部署容器的实例，现在容器是微服务的事实标准，或者用于执行计算任务。在这样做时，底层容器编排器（例如，Kubernetes）的设计应该考虑并利用这种硬件多样性。此外，除了不同机器提供的功能范围外，硬件异构性引入的能源需求的多样性经常被忽视，默认容器编排器的放置策略简单地忽略了这一点。我们介绍了HEATS，一个新的面向任务的和能源感知的编排容器化应用程序的目标异构集群。HEATS允许客户在性能与能源需求之间进行交易。我们的系统首先学习物理主机的性能和能量特征。然后，它监视主机上任务的执行，并适时地将它们迁移到不同的集群节点上，以匹配客户需要的部署权衡。我们的HEATS原型在Google的Kubernetes中实现。在我们的集群中使用合成跟踪进行的评估表明，我们的方法可以节省大量的能源（高达8.5%），并且对部署任务的整体运行时间的影响很小（最多7%）。HEATS是开源的。
2019-06-26 cs.DC
Equinox: Decentralized Scheduling for Hardware-Aware Orbital Intelligence
Georgia Institute of Technology（佐治亚理工学院）
本文提出Equinox，一种轻量级去中心化运行时，通过压缩时间变化约束实现自适应调度，提升轨道系统科学产出和图像处理吞吐量，同时保持更高电池储备。
2026-04-21 cs.DC cs.OS cs.SY
Stannic: Systolic STochAstic ONliNe SchedulIng AcCelerator
University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对异构HPC系统中随机工作负载调度效率低的问题，提出两种FPGA加速器微架构Hercules和Stannic，通过并行化和预计算实现近实时调度，速度提升达1060倍。
2026-06-16 cs.DC cs.SY eess.SY
Dynamic Loop Scheduling Using MPI Passive-Target Remote Memory Access
科学应用程序通常包含大型计算密集型并行循环。循环调度技术旨在实现这些应用程序的负载平衡执行。对于分布式存储器系统，现有的动态循环调度（DLS）库通常是基于MPI的，并且采用主-工作者执行模型来分配可变大小的循环迭代块。主-工作者执行模型可能会由于主级争用而对性能产生不利影响。这项工作提出了一种分布式块计算方法，不需要主工人执行计划。此外，它还考虑了最新MPI标准中的新特性，如被动目标远程内存访问、共享内存窗口创建和原子读-修改-写操作。为了评估所提出的方法，五个著名的DLS技术，两个应用程序，和两个异构的硬件设置已被考虑。使用所提出的方法实现的DLS技术优于他们的同行使用传统的主-工人执行模型实现。
2018-12-14 cs.DC
SET: Stream-Event-Triggered Scheduling for Efficient CUDA Graph Pipelines
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
针对GPU调度开销和同步延迟问题，提出基于多流任务并行流水线模型和图执行流的CUDA运行时框架，实现1.15-1.44倍加速并减少18-54%调度开销。
2026-06-03 cs.AR cs.DC
AxTrain: Hardware-Oriented Neural Network Training for Approximate Inference
Washington University in St. Louis（圣路易斯华盛顿大学）；SKLCA, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所SKLCA）
神经网络内在的容错性使得近似计算成为提高神经网络推理能量效率的一种很有前途的技术。传统的近似计算侧重于平衡现有预训练网络的效率-准确性权衡，这可能导致次优解决方案。在本文中，我们提出了AxTrain，一个面向硬件的训练框架，以方便近似计算NN推理。具体来说，AxTrain利用了两种正交方法之间的协同作用-一种是主动搜索具有高容错性的网络参数分布，另一种是通过在训练阶段将近似硬件的噪声分布数值化来被动学习弹性权重。在不同数据集上采用近阈值计算和近似乘法策略的实验结果表明，AxTrain能够获得有弹性的神经网络参数，提高系统能效。
2018-05-21 cs.DC cs.LG eess.IV
Hybrid Offline-online Scheduling Method for Large Language Model Inference Optimization
Tsinghua University（清华大学）
本文提出一种混合离线-在线调度方法，通过MIP建模、最小化完工时间装箱及在线抢占调度，提升LLM推理系统利用率至89.1%，并缩短推理时间。
2025-02-14 cs.AI cs.AR cs.DC
Beyond the Monolithic Scheduler: Lightweight Adaptive Policy Switcher for Process Scheduling Optimization
Zhejiang University（浙江大学）；HangZhou City University（杭州市大学）
针对单一静态操作系统调度器难以适配多样动态工作负载的问题，本文提出自适应调度智能体ASA，通过解耦的离线训练与在线路由机制动态选择最优专家调度策略，实验证明其性能显著优于Linux默认调度器EEVDF。
2026-10-26 cs.AI cs.DC
SupraSNN: Exploiting Synapse-Level Parallelism in Spiking Neural Network Accelerators through Co-Optimized Mapping and Scheduling
University of Tehran（德黑兰大学）
受超标量架构启发，提出硬件-软件协同设计框架SupraSNN，通过物理解耦突触和神经元计算实现突触级并行，结合分区与启发式调度优化映射，在FPGA上实现低延迟和高能效。
2026-06-12 cs.AR cs.DC cs.NE
SparOA: Sparse and Operator-aware Hybrid Scheduling for Edge DNN Inference
Harbin Institute of Technology（哈尔滨工业大学）
SparOA通过稀疏性和计算强度优化，实现边缘DNN推理的高效混合调度，平均加速1.22-1.31倍，能耗降低7%-16%
2025-11-21 cs.AI cs.DC
Hardware-Oriented Krylov Methods for High-Performance Computing
Krylov子空间方法是数值模拟软件的重要组成部分。现代硬件的有效利用是这些方法发展中的一个具有挑战性的问题。在这项工作中，我们开发Krylov子空间方法来解决多个右手边的线性系，适合现代硬件的高性能计算。为此，我们分析了一个创新的块Krylov子空间框架，允许平衡计算和数据传输成本的硬件。基于该框架，我们制定了常用的Krylov方法。对于CG和BiCGStab方法，我们引入了一种新的稳定方法作为通货紧缩策略的替代方案。这有助于我们保留块大小，从而实现更简单，更高效的实现。此外，针对分布式存储系统和通信开销的特点，进一步优化了算法.对于CG方法，我们分析了重叠的通信和计算的方法，并提出了CG方法的多个变体，这些变体在它们的通信特性上有所不同。此外，我们提出了优化的正交化过程中的GMRes方法。除了引入一个流水线的Gram-Schmidt变体，重叠的全球通信的内积的计算，我们提出了一种新的正交归一化方法的基础上的TSQR算法，这是通信最优的和稳定的。对于所有优化的方法，我们提出了测试，显示其在分布式设置的优越性。
2021-04-06 cs.DC cs.MS cs.NA
Optimizing Distributed Networking with Big Data Scheduling and Cloud Computing
本文研究分布式网络中的大数据调度问题，结合云计算与软件定义网络分析数据管理的机遇和挑战，指出云环境大数据调度及 coflow 调度算法是未来网络优化重点。
2023-11-08 cs.DC cs.NI
Bi-criteria Algorithm for Scheduling Jobs on Cluster Platforms
在本文中，我们描述了一种新的方法，建立一个有效的算法调度作业在集群中。作业被认为是并行任务（PT），可以在任何数量的处理器上调度。主要特征是考虑一起优化的两个标准。这些标准是最大完工时间和加权最小平均完工时间（minsum）。选择它们是因为它们具有互补性，能够代表面向用户的目标和系统管理员的目标。我们提出了一个算法的基础上增加批量大小的批处理政策，在每一批的工作与智能选择。该算法进行了评估密集的模拟结果相比，一个新的下限（通过放松的ILP）的最优调度这两个标准分别。它目前已在实际规模的集群平台中实现。
2005-01-20 cs.DC cs.DS
