Intent-driven scheduling of backup jobs
本文提出一种意图驱动的备份作业调度框架，在现有调度下满足基于意图的约束而不干扰当前调度，并通过真实世界数据上的广泛测试验证其有效性。
2024-12-25 cs.DC cs.PF
Market-Oriented Online Bi-Objective Service Scheduling for Pleasingly Parallel Jobs with Variable Resources in Cloud Environments
本文从提供作业执行服务的SaaS（Software-as-as-Service）供应商的角度，研究了云环境下具有可变资源的并行作业的面向市场的在线双目标服务调度问题.在云中调度SaaS服务的主要过程是：SaaS提供商从IaaS提供商购买云实例，以调度最终用户的作业并向用户收取相应的费用。这个问题有几个特殊的功能，如面向作业的最终用户，令人愉快的并行作业与软期限约束，在线设置，和可变数量的资源。为了最大限度地提高收入和用户满意度，我们设计了一个在线算法，SaaS提供商以最佳方式购买IaaS实例和调度令人愉快的并行作业。该算法可以在多项式运行时间内实现竞争目标。理论分析和基于真实世界的谷歌工作跟踪以及合成数据集的仿真验证了我们的算法的有效性和效率。
2021-02-17 cs.DC
Scalable Hierarchical Scheduling for Malleable Parallel Jobs on Multiprocessor-based Systems
多核和基于多处理器的计算机系统的激增导致了并行应用的爆炸式发展，因此需要高效的并行处理器。本文研究了多处理器系统上可延展并行作业的分层调度问题，这一问题出现在许多分布式和多层计算环境中。我们提出了一个分层调度算法，命名为AC-DS，它包括一个反馈驱动的自适应调度器，一个期望的聚合计划和一个有效的资源分配政策。从理论的角度来看，我们表明，AC-DS具有可扩展的性能，无论层次的数量。特别是，我们证明了AC-DS实现$O(1)$ -竞争力的整体完成时间的工作，或完工时间。一个详细的可延展作业模型的开发实验评估所提出的调度算法的有效性。结果验证了AC-DS的可扩展性，并表明AC-DS优于其他策略的广泛的并行工作负载。
2014-12-13 cs.DC
Scheduling Stochastic Real-Time Jobs in Unreliable Workers
我们考虑一个分布式计算网络，由一个主节点和多个处理不同类型任务的工作节点组成。主机正在运行多个应用程序。每个应用程序随机生成具有严格作业截止日期实时的【形】作业，其中每个作业是由应用程序指定的某些类型的任务的集合。实时的【形】作业只有在其所有任务都由相应的工作者在截止日期内完成时才完成。此外，我们考虑不可靠的工人，其处理速度是不确定的。由于工人的有限的处理能力，调度算法的工人的工作是需要最大限度地提高平均完成的作业数为每个应用程序。在分布式计算网络中，调度问题不仅至关重要，而且很实用。在本文中，我们开发了两个调度算法，即可行性最优调度算法和近似调度算法。可行性最优调度算法能够满足最大范围的应用需求，平均完成作业数最多。然而，当应用程序数量较大时，可行性最优调度算法具有较高的计算复杂性。为了解决这个问题，近似调度算法提出了一个保证近似比在最坏的情况下。通过计算机模拟，在一般情况下对近似调度算法进行了验证。
2020-01-30 cs.DC cs.NI
Non-Clairvoyant Batch Sets Scheduling: Fairness is Fair enough
调度问题自然出现在许多不同的领域，其中操作系统的设计，编译，.在现实系统中，作业的特性（如发布时间和处理时间）通常是事先未知和不可预测的。系统通常不知道每个作业中的剩余工作或作业利用更多资源的能力。根据这些观察，我们采用了Edmonds等人（2000，2003）的工作模型，其中工作经历了一系列不同的阶段。每个阶段由一定数量的工作和一个加速函数组成，该函数模拟了它如何利用接收到的处理器数量。我们考虑非透视在线设置，其中一组作业在时间0到达。我们考虑Robert et al（2007）引入的度量setflowtime。目标是最小化集合的完成时间之和，当所有的工作都完成时，集合就完成了。如果输入由单个作业集组成，这就是作业的完工时间;如果输入由单个集合组成，这就是作业的流程时间。我们表明，非透视战略EQUIoEQUI，均匀地分裂可用的处理器之间的仍然未服务的集合，然后均匀地分裂这些处理器之间的仍然未完成的作业的每个未服务的集合，实现了竞争比（2+ \sqrt 3+o（1））\frac{ln n}{lnln n}的setflowtime最小化，这是渐近最优的（一个常数因子），其中n是最大的集的大小。对于最大完工时间最小化，我们证明了非透视策略EQUI达到了（1+o（1））\frac{ln n}{lnln n}的竞争比，这又是渐近最优的。
2006-12-19 cs.DC cs.DS
Scheduling in the Presence of Data Intensive Compute Jobs
我们研究了非自适应调度策略在多服务器计算系统中的性能。计算工作大多是定期的，服务要求不高。然而，也有零星的数据密集型作业，其预期的服务时间是远远高于定期作业。对于这个模型，我们感兴趣的是调度策略对作业在系统中平均花费时间的影响。为此，我们在一个简化的，只到达系统中引入两个性能指标。我们相信，这些性能指标是很好的预测排队系统中的政策，这是支持模拟结果的相对性能。
2019-12-31 cs.DC cs.IT cs.PF
Resource Availability-Aware Advance Reservation for Parallel Jobs with Deadlines
提前预留对于保证作业的服务质量是重要的，其通过允许在资源上的定义的时间间隔上独占地访问资源。如何有效地组织资源并合理地分配给具有截止期约束的并行AR作业是调度器面临的一个挑战。本文提供了一种基于时隙的数据结构，以组织多处理器系统的可用资源的方式，使有效的搜索和更新操作，并制定了一套调度策略来分配资源的动态到达AR请求。通过仿真研究了不同作业规模、作业持续时间、系统负载和调度灵活性下调度算法的性能。仿真结果表明，作业规模、作业持续时间、系统负载和调度灵活性等因素对调度算法的性能指标均有影响，对于AR请求接受率最高的调度器，PE-Worst-Fit算法成为最佳调度算法，First-Fit算法的作业平均减速率最低.该数据结构和调度策略可用于大规模计算系统中具有截止期约束的并行AR作业的资源组织和分配。
2012-03-04 cs.DC
GADGET: Online Resource Optimization for Scheduling Ring-All-Reduce Learning Jobs
在分布式深度学习（Distributed Deep Learning，简称EML）的推动下，近年来，人们对资源密集型分布式/并行计算的需求迅速增长，以处理EML计算作业。为了解决分布式计算中的网络通信瓶颈和负载均衡问题，越来越多地采用所谓的"环全减“分散式架构来消除对专用参数服务器的需要。然而，到目前为止，仍然缺乏理论上的理解，如何设计资源优化算法，有效地调度计算集群中的环所有减少的并行作业。这促使我们提出了一系列新的资源调度设计，以填补这一空白的环所有减少的可重构作业。我们在本文中的贡献是三方面的：i）我们提出了一个新的资源调度分析模型，用于环全归约深度学习，它涵盖了性能优化中的广泛目标（例如，过度训练避免，能源效率，公平性）; ii）基于所提出的性能分析模型，我们开发了一种高效的资源调度算法，称为GADGET（贪婪环-全部-减少分布式图嵌入技术），它享有可证明的强性能保证; iii）我们进行了广泛的跟踪驱动的实验，以证明GADGET方法的有效性及其优于现有技术的优势。
2022-02-02 cs.DC
Approximation Algorithms for Multiprocessor Scheduling under Uncertainty
出于在网格计算和项目管理中的应用，我们研究多处理器调度的情况下，有不确定性的成功执行的作业时，分配给处理器。考虑不确定条件下的多处理机调度问题，给定n个单位时间工件和m台机器，给出工件间依赖关系的有向无环图C，对于每一个工件j和机器i，给出工件j在机器i上按任意给定步骤调度时成功完成的概率p_{ij}.问题的目标是找到一个最小化期望完工时间的进度表，即所有工件的期望完工时间。不确定条件下的多处理机调度问题是由Malewicz提出的，并且被证明是NP-难的，即使所有的作业都是独立的。在本文中，我们提出了多项式时间的近似算法的问题，对于特殊情况的dag C。对于独立作业的情形，我们得到了O（log（n））-近似;对于不相交链的集合，我们得到了O（log（m）log（n）log（n+m）/loglog（n+m））-近似;对于有向出树或入树的集合，我们得到了O（log（m）log^2（n））-近似;对于有向森林，我们得到了O（log（m）log^2（n）log（n+m）/loglog（n+m））-近似。
2007-03-21 cs.CC cs.DC cs.DS
Holistic Slowdown Driven Scheduling and Resource Management for Malleable Jobs
在作业调度中，延展性的概念在很多年前就已经被探索过了。研究表明，可延展性提高了系统性能，但它在HPC中的使用从未得到广泛应用。原因是开发可延展应用程序的困难，以及HPC软件堆栈的不同层缺乏支持和集成。然而，在过去的几年中，由于硬件和工作负载的复杂性增加，作业调度的延展性变得越来越重要。在这种情况下，在独占模式下使用节点并不总是最有效的解决方案，因为在传统的HPC作业中，应用程序针对静态分配进行了高度调整，但对动态执行的灵活性为零。本文提出了一种新的全局的、动态的作业调度策略--慢化驱动策略（SD-Policy），它利用应用程序的可延展性作为降低作业平均慢化和响应时间的关键技术。SD-Policy基于回填和节点共享。它将延展性应用于运行作业，以便为将使用减少的资源集运行的作业腾出空间，只有当估计的减速比静态方法有所改善时。我们在SLURM中实现了SD-Policy，并在真实的生产环境中进行了评估，并使用模拟器使用高达198 K作业的工作负载。结果表明，更好的资源利用率与减少的最大完工时间，响应时间，减速，和能源消耗，分别高达7%，50%，70%，和6%，为评估的工作负载。
2020-02-19 cs.DC
Near-Optimal Scheduling in the Congested Clique
本文提出了三种近似最优的算法调度$\mathsf{CLIQUE}$模型中的$t$作业。首先，我们提出了一个确定性的调度算法，运行在$O(\mathsf{GlobalCongestion} + \mathsf{dilation})$轮的工作，是足够有效的内存。$\mathsf{dilation}$是任何给定作业的最大轮复杂度，而$\mathsf{GlobalCongestion}$是所有作业中的消息总数除以$\mathsf{CLIQUE}$模型的$n^2$的每轮带宽。两者都是任何调度算法的固有下限。然后，我们提出了一种随机调度算法，该算法在$O(\mathsf{GlobalCongestion} + \mathsf{dilation}\cdot\log{n}+t)$轮中运行$t$作业，并且仅要求输入和输出不超过每个节点的$O(n\log n)$位，例如，几乎所有的图形问题。最后，我们从$\mathsf{CLIQUE}$模型调整\emph{random-delay-based}调度算法[Ghaffari，PODC'15]，并获得在$O(t / n + \mathsf{LocalCongestion} + \mathsf{dilation}\cdot\log{n})$轮中调度任何$t$作业的算法，其中$\mathsf{LocalCongestion}$与$\mathsf{CLIQUE}$…
2021-02-14 cs.DC
A Framework for a Multiagent-based Scheduling of Parallel Jobs
本文提出了一种多智能体的方法作为一个范例调度并行系统中的并行作业。调度并行作业是平衡系统负载以提高并行应用性能的一种手段。并行作业调度被描述为两个图之间的映射：一个表示作业的依赖关系，另一个表示处理器之间的互连关系。并行作业调度算法的通常实现是通过主从模式。主从模式具有固有的通信瓶颈，当需要更多的处理器来处理作业时，会降低系统的性能。多智能体方法试图在处理器之间分配通信延迟，随着参与处理器的数量增加，这提高了系统的性能。本文提出了一个自主智能体的行为框架，它与其他智能体合作，以实现最小化处理时间的社区目标。实现此目标意味着座席必须通过{ \em标准化}、{ \em任务共享}和{ \em结果共享}过程与其他座席真实地共享信息。代理认为一个并行的科学应用程序作为一个有限的地平线游戏，真实的信息共享的结果到并行应用程序的性能改善。基于多代理的算法的性能进行比较，通过模拟的波包动力学使用量子轨道方法（QTM）作为测试应用程序的现有的。使用基于多代理的系统运行QTM的平均并行成本在更高数量的处理器上更低。
2015-06-26 cs.DC
Scheduling Jobs with Random Resource Requirements in Computing Clusters
我们考虑一个自然的调度问题，出现在许多分布式计算框架。具有不同资源需求（例如内存需求）的作业随着时间的推移而到达，并且必须由服务器集群提供服务，每个服务器具有有限的资源容量。为了提高吞吐量和延迟，调度器可以在服务器的容量限制下将尽可能多的作业打包到服务器中。受共享集群中工作负载日益复杂的影响，我们考虑了一种设置，其中作业的资源需求属于非常大量的不同类型，或者在极端情况下，甚至是无限多的类型，例如，当资源需求是从一个未知的分布在一个连续的支持。经典的调度方法，关键依赖于一个预定义的有限的类型集的应用程序是令人沮丧的，在这个高（或无限）维设置。我们首先描述了在这样的设置的最大吞吐量的基本限制，然后开发不经意的调度算法，具有低复杂度，可以实现至少1/2和2/3的最大吞吐量，而不知道的流量或资源需求分布。广泛的仿真结果，使用合成和真实的交通痕迹，验证我们的算法的性能。
2019-01-17 cs.DC cs.NI
Scheduling Coflows with Dependency Graph
数据并行计算中的应用通常由多个阶段组成。在每个阶段中，产生一组中间并行数据流（数据流）并在服务器之间传输，以使得能够开始下一阶段。虽然已经有很多关于调度孤立的coflow的研究，在多阶段作业coflow之间的依赖关系在很大程度上被忽视。本文研究了共享数据中心网络中由一般DAG（Directed Acyclic Graphs）表示的多阶段工件的同流调度问题，目标是使工件的加权完工时间之和最小.这个问题是显着更具挑战性的比传统的coflow调度，调度，即使是一个单一的多阶段的工作，以最大限度地减少其完成时间被证明是NP难的。在本文中，我们提出了一个多项式时间算法的近似比为$O(μ\log(m)/\log(\log(m)))$，其中$μ$是一个作业中的最大数量的coflow和$m$是服务器的数量。针对工件的底层依赖图是根树的特殊情况，对算法进行了改进，提高了算法的逼近率。为了验证我们的算法的性能，我们提出了模拟结果，使用真实的交通痕迹，显示了$53 \%$改善比以前的方法。最后，我们提供了一个结果，调度coflows与一般DAG的最优间隙。
2020-12-21 cs.DC cs.DS cs.NI
Low-latency job scheduling with preemption for the development of deep learning
The University of Tokyo（东京大学）；Preferred Networks, Inc.（优选网络公司）
针对深度学习算法开发的计算集群的作业调度中的一个显著挑战是试错（TE）作业的有效调度，在该作业类型中，用户寻求进行小规模实验，同时监视他们的过程。不幸的是，现有的作业调度器到目前为止不具有良好的平衡调度TE作业和尽力而为（BE）作业的混合物，或者他们可以处理的混合物在有限的情况下，在最多。为了填补这个利基，我们提出了一种算法，可以显着减少延迟TE工作在多才多艺的情况下，而不会大大延长的BE工作的放缓。我们的算法有效地调度TE和BE作业有选择地抢占BE作业，可以在时间到来时，恢复没有太多的延迟。在我们对合成和真实工作负载的模拟研究中，我们能够将标准FIFO策略中TE作业的第95百分位减速率降低96.6%，而BE减速率的中位数仅降低18.0%，第95百分位减速率仅降低23.9%。
2019-02-05 cs.DC cs.LG
Fault-tolerant parallel scheduling of arbitrary length jobs on a shared channel
我们研究的问题，通过一个共享的通道，也被称为多路访问通道通信的故障倾向的机器上的调度作业。我们有$n$任意长度的作业要在$m$相同的机器上调度，其中$f$容易被对手崩溃。一台机器可以在没有冲突检测的情况下通过通道通知其他机器完成作业。性能通过整个执行过程中可用的机器步骤的总数来衡量。我们的目标是研究抢占的影响（即，中断作业的执行并稍后在相同或不同的机器中恢复）以及作业处理的工作性能上的故障。新颖性是识别决定问题复杂性（难度）的特征的能力。我们表明，这个问题变得困难时，抢占是不允许的，通过显示相应的下限和上限，后者与算法达到他们。我们还证明了随机化的帮助更大，但只对非自适应对手，在更严重的自适应对手的存在下，随机化并没有帮助在任何设置。我们的工作已经从以前的工作，重点是设置，包括：调度多路访问通道没有机器故障，完整的信息故障，或不完整的信息故障（如在这项工作中），但单位长度的工作，因此，不考虑抢占。
2018-07-24 cs.DC
Efficient Two-Level Scheduling for Concurrent Graph Processing
随着现实场景中图形处理需求的快速增长，他们必须有效地处理大量并发作业。虽然现有的工作能够有效地处理单一的图形处理作业，有大量的存储器访问冗余所造成的忽视数据访问相关性的特点。基于此，本文提出了两级调度策略，提高了数据访问效率，加快了并发作业的收敛速度。首先，相关性感知的作业调度允许并发作业处理Cache中的相同图数据，这从根本上消除了CPU重复访问内存中相同图数据的挑战。其次，基于多优先级的数据调度支持并发作业的优先级迭代，它是基于每个作业的个体优先级生成的全局优先级。同时，我们采用块优先级代替细粒度优先级来调度图数据，以减少计算开销。特别是，两级调度显着先进的国家的最先进的，因为它的工作在数据和系统之间的夹层。
2018-06-03 cs.DC
QoS-Based Pricing and Scheduling of Batch Jobs in OpenStack Clouds
当前的云基础设施服务（IaaS）市场采用基于资源的销售模式：客户从提供商租用节点并按单位时间按节点付费。这种销售模式使客户承担了预测其作业资源需求和持续时间的负担。客户的不准确预测可能导致资源过度配置，或配置不足和作业性能低下。得益于改进的资源虚拟化和多租户性能隔离，以及MapReduce等批处理作业的通用框架，云提供商可以更准确地预测作业完成时间。我们提供了一个新的定义的QoS水平的作业完成时间，我们提出了一个新的基于QoS的销售机制，批量作业在多租户的OpenStack集群。我们的实验表明，基于QoS的解决方案产生了高达40%的收入提高了更多的标准销售机制的基础上固定的每节点价格在各种需求和供应条件下，在240 VCPU的OpenStack集群。
2015-04-27 cs.DC
SLAQ: Quality-Driven Scheduling for Distributed Machine Learning
使用大型数据集训练机器学习（ML）模型可能会在共享群集上引发严重的资源争用。这种训练通常涉及许多迭代，不断提高模型的质量。然而，在探索性环境中，通过将资源引导到最有改进潜力的工作上，可以更快地获得更好的模型。我们描述了SLAQ，一个用于近似ML训练作业的集群调度系统，旨在最大限度地提高整体作业质量。在分配集群资源时，SLAQ会探索多个作业之间的质量-运行时权衡，以最大限度地提高系统范围的质量。为此，SLAQ利用ML训练算法的迭代本质，从并发作业中收集质量和资源使用信息，然后为未来迭代生成高度定制的质量改进预测。实验表明，与资源公平性优化器相比，SLAQ在大量ML训练作业上实现了高达73%的平均质量改进和高达44%的平均延迟减少。
2018-02-13 cs.DC
Workflow Scheduling in the Cloud with Weighted Upward-rank Priority Scheme Using Random Walk and Uniform Spare Budget Splitting
研究了在云计算环境下，如何在有限的预算下调度具有优先约束的复杂工作流这一难题。我们首先制定的调度问题作为一个整数规划问题，它可以被优化，并作为基线的性能。然后，我们考虑传统的方法调度作业的优先顺序的基础上，每个作业的向上排名。对于那些没有优先级约束的作业，简单的向上排列优先级方案以任意的方式分配优先级。我们提出了一个工作优先级计划，使用马尔可夫链平稳概率作为衡量工作的重要性。该方案保持作业之间存在优先约束的优先顺序，对没有优先约束的作业根据作业的重要性分配优先级。最后，我们设计了一个统一的备用预算分配策略，将备用预算均匀分配给所有的作业。我们在各种工作流上测试我们的算法，包括FFT，高斯消除，典型的科学工作流，随机生成的工作流和来自在线流媒体服务公司的生产集群的工作流。我们比较我们的算法与最先进的算法。实证结果表明，在大多数情况下，均匀备用预算分割方案的平均性能优于分割方案，而基于马尔可夫的优先级排序进一步提高了工作流的最大完工时间。
2019-03-04 cs.DC
Towards Accommodating Real-time Jobs on HPC Platforms
科学实验中不断增加的数据量需要使用高性能计算（HPC）资源进行数据分析。在许多科学领域，必须快速分析科学仪器和超级计算机模拟产生的数据。事实上，对准即时反馈的需求正在增长。科学家们希望利用一个实验的结果来指导下一个实验的选择，甚至改进单个实验的过程。当前的HPC系统通常是在策略下批调度的，在该策略中，到达的作业只有在足够的资源可用时才立即运行;否则，它将排队。这些系统很难支持实时的【形】作业。实时的【形】作业，为了满足他们的要求，有时应该抢占批处理作业和/或被安排在较早提交的批处理作业之前。中断实时的【形】作业也可能对系统利用率产生负面影响，特别是在涉及抢占/重新启动批处理作业时。我们首先探讨了几种现有的调度策略，使实时的【形】作业更有可能在适当的时间被调度。然后，我们严格制定的问题作为一个混合整数线性规划离线调度和开发新的调度算法在线调度。我们进行模拟研究，使用跟踪日志的米拉，IBM的BG/Q系统在阿贡国家实验室，以量化的实时的【形】作业的影响，批处理作业的性能为各种百分比的实时的【形】作业的工作量。我们提出了新的见解，从分组作业到不同类别的基础上运行时间和使用的节点数量和研究每个类别的性能。我们的研究结果表明，与10%的实时的【形】作业百分比，即时检查点结合我们的启发式可以提高35%的实时的【形】作业的减速，同时限制批处理作业的减速增加到10%。
2021-03-24 cs.DC
Multi-Job Intelligent Scheduling with Cross-Device Federated Learning
Baidu Inc.（百度公司）；Soochow University（苏州大学）；Auburn University（奥本大学）；North Carolina State University（北卡罗来纳州立大学）
近年来，在终端用户的各种（边缘）设备中出现了大量分散的数据，而由于法规和法律的原因，分散的数据聚合对于机器学习工作仍然很复杂。作为一种处理分散数据的实用方法，联邦学习（FL）支持协作式全局机器学习模型训练，而无需共享敏感的原始数据。在FL的训练过程中，服务器将设备调度到作业。相比之下，FL中多个作业的设备调度仍然是一个关键和开放的问题。在本文中，我们提出了一种新的多任务外语框架，它使多个工作的训练过程中并行。多任务FL框架由系统模型和调度方法组成。该系统模型实现了多个作业的并行训练过程，并基于并行训练过程中不同设备的数据公平性和训练时间建立了成本模型。提出了一种新的基于多种调度方法的智能调度方法，包括一种基于强化学习的调度方法和一种基于贝叶斯优化的调度方法。我们对不同的工作和数据集进行了广泛的实验。实验结果表明，我们提出的方法在训练时间（快12.73倍）和准确性（高46.4%）方面明显优于基线方法。
2022-11-24 cs.AI cs.DC cs.LG
On Scheduling Ring-All-Reduce Learning Jobs in Multi-Tenant GPU Clusters with Communication Contention
在深度学习（DL）技术进步的推动下，机器学习和人工智能取得了惊人的成功。然而，对DL的快速增长的需求也导致了用于大规模DL训练的通信和资源密集型分布式训练任务，这些任务通常部署在GPU集群上。为了维持对DL训练的不断增长的需求，所谓的“环全归约”（RAR）技术最近已经成为一种有利的计算架构，以有效地处理GPU集群中的网络通信和计算负载。RAR最显著的特点是它消除了对专用参数服务器的需求，从而缓解了潜在的通信瓶颈。然而，当多个基于RAR的DL训练作业部署在GPU集群上时，由于DL训练作业之间的竞争，仍然可能发生通信瓶颈。到目前为止，仍然缺乏对如何设计基于RAR的DL训练作业的竞争感知资源调度算法的理论理解，这促使我们在这项工作中填补这一空白。我们的主要贡献有三个方面：i）我们开发了一个新的分析模型，该模型描述了与作业的工人分布相关的通信开销和与不同作业的协同定位相关的通信竞争; ii）基于所提出的分析模型，我们将问题表示为非凸整数规划，以最小化所有基于RAR的DL训练作业的完工时间。为了解决这个问题，是不适合优化算法设计的独特结构，我们重新制定成一个整数线性规划的问题，使可证明的近似算法设计称为SJF-BCO（最小的工作优先与平衡的竞争和开销）;和iii）我们进行了广泛的实验，以显示SJF-BCO的优越性超过现有的排序器。
2022-08-14 cs.DC
A Scalable Deep Reinforcement Learning Model for Online Scheduling Coflows of Multi-Stage Jobs for High Performance Computing
Sun Yat-sen University（中山大学）
Rolllow是最近提出的网络抽象，以帮助提高数据并行计算作业的通信性能。在多阶段作业中，每个作业由多个同流组成，并由有向无环图（DAG）表示。有效地调度同向流是提高数据中心数据并行计算性能的关键。与手工调整的调度策略相比，现有的工作DeepWeave [1]利用强化学习（RL）框架自动生成高效的coflow调度策略。它采用图神经网络（GNN）编码的嵌入向量的集合中的作业信息，并提供一个平面嵌入向量包含整个作业信息的策略网络。然而，这种方法具有较差的可扩展性，因为它不能处理由任意大小和形状的DAG表示的作业，这需要大的策略网络来处理难以训练的高维嵌入向量。在本文中，我们首先利用一个有向无环图神经网络（DAGNN）处理输入，并提出了一种新的流水线DAGNN，它可以有效地加快DAGNN的特征提取过程。然后，将由可分解的共流组成的嵌入序列作为策略网络的嵌入序列，输出优先级序列，使得策略网络的大小仅取决于特征的维数，而不取决于维数与作业DAG中节点数的乘积。我们将自注意力机制结合到深度RL模型中，以捕获嵌入序列的不同部分之间的交互，从而使输出优先级分数相关。在此模型的基础上，我们提出了一个在线多阶段作业的同流调度算法。
2021-12-21 cs.DC cs.LG
Dynamic Scheduling of MPI-based Distributed Deep Learning Training Jobs
SAIC-Toronto（三星高级技术研究院多伦多分院）
解决适合深度学习的问题有一个总的趋势，即在更大的训练集上训练更复杂的深度学习架构。这需要更长的计算时间和更大的数据并行化或模型并行化。数据和模型并行在参数服务器架构中的速度在历史上都更快，但是由于算法的改进，数据并行在环形架构中开始更快。在本文中，我们分析了数学背后的环形架构，并作出明智的适应动态调度环形架构。为此，我们制定了一个非凸，非线性，NP-难整数规划问题和一个新的有效的加倍启发式的解决方案。我们构建在Horovod之上：一个基于TensorFlow的开源环架构框架。我们表明，Horovod工作有一个低成本的停止和重新启动，停止和重新启动环架构的工作导致更快的完成时间。这两个事实使环形结构作业的动态调度成为可能。最后，我们使用这些运行模拟调度程序，并显示在某些工作负载模式下平均作业时间减少了一半以上。
2019-08-21 cs.DC cs.LG stat.ML
Metronome: Efficient Scheduling for Periodic Traffic Jobs with Network and Priority Awareness
Shanghai Jiao Tong University（上海交通大学）；Pengcheng Laboratory（鹏城实验室）；Fudan University（复旦大学）
Metronome通过网络和优先级意识调度机制，提高集群资源利用率并减少任务完成时间，适用于具有周期性流量模式的任务。
2026-02-10 cs.DC
Communication Contention Aware Scheduling of Multiple Deep Learning Training Jobs
Department of Computer Science, Hong Kong Baptist University（香港浸会大学计算机科学系）
分布式深度学习（Distributed Deep Learning，缩写缩写为EML）由于有助于提高高性能GPU集群上的训练性能而迅速普及。当同时训练多个作业时，有效的作业调度对于最大化集群的整体性能是必不可少的。然而，现有的调度算法没有考虑来自不同分布式训练作业的多个通信任务之间的通信竞争，这会降低系统性能，延长作业完成时间。在本文中，我们首先建立了一个新的调度框架，该框架将并行作业组织为有向无环图（DAG），并考虑节点之间的通信竞争。然后，我们提出了一个有效的算法，LWF- $κ$，以平衡GPU的利用率和合并分配的GPU为每个作业。当调度这些通信任务时，我们观察到，避免所有的竞争或盲目接受它们都不是最佳的，以最小化作业完成时间。因此，我们提出了一个可证明的算法，AdaDUAL，有效地调度这些通信任务。在AdaDUAL的基础上，我们提出了Ada-SRSF算法来解决并行作业调度问题。在10 Gbps以太网连接的64-GPU集群上的仿真结果表明，LWF- $κ$比经典的首次拟合算法有最多$1.59\times$的改进.更重要的是，与SRSF（1）方案（避免所有竞争）和SRSF（2）方案（盲目接受所有双向通信竞争）相比，Ada-SRSF分别将平均作业完成时间减少了$20.1\%$和$36.7\%$。
2020-02-24 cs.CV cs.DC cs.LG
Peacock: Probe-Based Scheduling of Jobs by Rotating Between Elastic Queues
在本文中，我们提出了Peacock，一种新的分布式基于探针的调度器，它可以处理低延迟的数据分析框架中的异构工作负载。Peacock缓解了\emph{Head-of-Line blocking}问题，即，较短的任务排队后的较长的任务，比国家的最先进的。为此，我们介绍了一种新的探针旋转技术。工人形成一个环形覆盖网络，并使用弹性队列旋转探测器。它是增强了一种新的探针重新排序算法在工人。我们通过跟踪驱动的模拟和分布式实验，在不同的负载和集群大小的Spark中，对两个国家的最先进的基于探针的解决方案的性能进行评估的孔雀。我们的大规模性能结果表明，Peacock在所有集群大小和负载方面都优于最先进的技术。我们的分布式实验证实了我们的模拟结果。
2018-05-11 cs.DC
Advanced Scheduling Strategies for Distributed Quantum Computing Jobs
Tyndall National Institute（廷德尔国家研究所）；University of Parma（帕尔马大学）
本文提出并评估了多种调度策略，以优化分布式量子计算任务的资源利用和执行效率，针对不同任务类型和网络条件进行比较。
2026-08-03 cs.DC cs.PF quant-ph
Evaluating Malleable Job Scheduling in HPC Clusters using Real-World Workloads
University of Kassel（卡塞尔大学）；Technical University of Darmstadt（达姆施塔特工业大学）
本文通过真实工作负载评估HPC集群中可变作业调度的效率提升，发现可变作业能显著降低作业周转时间、makespan和等待时间，提高节点利用率。
2026-02-19 cs.DC
Energy-aware Scheduling of Jobs in Heterogeneous Cluster Systems Using Deep Reinforcement Learning
University of Southern California（南加州大学）
从便携式嵌入式系统到计算机集群系统，能耗是设计计算设备时最关键的问题之一。此外，在过去的十年中，集群系统已经越来越多地成为流行的平台来运行计算密集型的实时应用程序，其中的性能是非常重要的。然而，由于实时工作负载的不同特点，开发通用的作业调度解决方案，有效地解决能源消耗和性能的实时集群系统是一个具有挑战性的问题。在本文中，受到将深度强化学习应用于资源管理问题的最新进展的启发，我们提出了Deep-EAS调度器，该调度器可以为具有不同特征的工作负载学习有效的能量感知调度策略，而无需最初了解任何关于手头调度任务的信息。结果表明，Deep-EAS收敛速度快，性能优于标准的手动调整算法，特别是在重负载条件下。
2019-12-11 cs.DC cs.LG
Capacity Planning and Scheduling for Jobs with Uncertainty in Resource Usage and Duration
AI Research（AI研究）；J.P. Morgan（摩根大通）；CIB Athena Applied Intelligence（CIB Athena应用智能）
本文针对本地网格计算环境中的作业容量规划与调度问题，提出基于确定性估计器和配对采样约束规划的近似方法，以同时最小化资源使用并保证服务质量，在金融行业资源使用和作业时长不确定条件下显著降低峰值资源使用。
2025-07-21 cs.AI cs.DC
CloudCoaster: Transient-aware Bursty Datacenter Workload Scheduling
今天的集群往往不得不在各种不同的工作之间分配资源。这些作业在执行时间和到达率上都是异构的。执行时间的异质性导致了混合调度器的发展，它可以调度短作业和长作业，以确保良好的任务布局。然而，到达速率异质性或突发性仍然是现有分组交换机中的一个问题。这些混合型集群管理静态配置的集群上的资源，这些资源可能很快被到达的作业数量的激增所淹没。在本文中，我们提出了CloudCoaster，一个混合调度器，动态调整集群的大小，利用廉价的瞬态服务器。CloudCoaster以智能方式安排作业，提高作业性能，同时降低总体资源成本。我们评估CloudCoaster的有效性，通过模拟现实世界的痕迹，并将其与最先进的混合调度。CloudCoaster将短作业的平均延迟时间提高了4.8倍，同时保持长作业性能。此外，CloudCoaster将短分区预算减少了29.5%以上。
2019-07-03 cs.DC cs.PF
Evaluation of pilot jobs for Apache Spark applications on HPC clusters
大数据在许多科学领域已经变得非常突出，因此，科学界已经寻求大数据框架来加速处理其日益增长的数据密集型管道。然而，虽然科学界通常依赖高性能计算（HPC）集群来并行化其管道，但许多流行的大数据框架（如Hadoop和Apache Spark）主要设计用于在专用的商品基础设施上执行。本文评估了在HPC集群上Apache Spark的试点作业相对于传统批处理提交的优势。令人惊讶的是，我们的研究结果表明，试点工作批调度提供的速度是温和的不存在（平均0.98），尽管存在长排队时间。此外，试验作业提供了一个额外的调度层，使调试和部署复杂化。我们的结论是，传统的批处理调度应该仍然是在HPC集群上部署Apache Spark应用程序的默认策略。
2019-05-29 cs.DC cs.PF
SkipPredict: When to Invest in Predictions for Scheduling
Harvard University（哈佛大学）
针对调度中预测成本问题，提出SkipPredict方法，利用廉价预测分类作业并仅对长作业使用昂贵预测，分析外部成本与服务器时间成本两种模型下的影响。
2024-02-05 cs.DC cs.LG
Non-monetary fair scheduling---a cooperative game theory approach
我们考虑一个多组织的系统中，每个组织贡献的处理器的全球池，但也要处理的共同资源上的工作。调度算法的公平性对于系统的稳定性甚至存在都是至关重要的（因为组织可能会拒绝加入不公平的系统）。我们考虑在线，非透视顺序作业调度。已启动的作业不能停止、取消、抢占或移动到其他处理器。我们认为相同的处理器，但我们的大多数结果可以扩展到相关或不相关的处理器。我们将公平调度问题建模为合作博弈，并使用Shapley值来确定理想的公平调度。与现有文献不同的是，我们没有用金钱来评估工作的相对效用。相反，为了计算一个组织的贡献，我们确定这个组织的存在如何影响其他组织的绩效。我们的方法可以用于任意效用函数（例如，流时间，迟到，资源利用率），但我们认为，效用函数应该是战略弹性。应劝阻各组织不要拆分、合并或拖延其工作。我们提出了唯一的（在一个乘法和加法常数）策略弹性效用函数。我们表明，公平调度问题是NP难的，很难近似。然而，对于单位大小的工作，我们提出了一个FPRAS。此外，我们表明，与组织的数量参数化的问题是FPT。虽然对于大量的组织的问题是计算困难的，所提出的指数算法可以用作公平性基准。
2014-04-22 cs.DC cs.GT
Rubick: Exploiting Job Reconfigurability for Deep Learning Cluster Scheduling
针对现有深度学习集群调度将可重构训练作业视为黑盒导致的性能与利用率低下问题，提出Rubick调度系统，联合优化作业执行方案与多资源分配，在64-GPU集群上显著提升作业完成速度与集群效率。
2024-08-16 cs.DC
Online Job Scheduling in Distributed Machine Learning Clusters
如今，大规模分布式机器学习系统已被部署以支持IT公司的各种分析和智能服务。为了训练大型数据集并导出预测/推理模型，例如，在深度神经网络中，多个工作器并行运行以训练输入数据集的分区，并更新共享模型参数。在处理多个训练作业的共享集群中，一个基本问题是如何有效地调度作业并设置每个作业的并发工作者数量，从而最大限度地利用服务器资源并及时完成模型训练。针对一个分布式机器学习系统，使用参数服务器框架，我们设计了一个在线算法调度到达的作业，并决定调整的并发工人和参数服务器的数量为每个作业在其过程中，以最大限度地提高所有作业的整体效用，视其完成时间而定。我们的在线算法设计利用原始-对偶框架以及高效的对偶子程序，以多项式时间复杂度实现良好的长期性能保证。在线算法的实际有效性进行评估，使用跟踪驱动的模拟和测试床实验，这表明其优于目前的云系统中常用的调度算法相比。
2018-01-03 cs.DC
Optimal Divisible Load Scheduling for Resource-Sharing Network
调度是一项重要的任务，允许并行系统高效和可靠地执行。对于现代计算系统，可分负载是一种特殊类型的数据，可以划分为任意大小，并独立地并行处理。在处理大量类似数据单元的应用程序中通常会遇到这种负载。对于多任务处理器，由于其他后台作业的到达和离开，处理器的速度可能会随时间变化。研究了处理速度和信道速度均为时变的单层树型网络上的可分负载调度问题。两个递归算法提供解决这个问题时，到达和离开的背景作业的时间是已知的先验和迭代算法提供解决的情况下，这样的时间是未知的。在不同的后台作业数和处理机数下对这三种算法进行了数值测试和评价。
2019-02-05 cs.DC
Scheduling Multi-Server Jobs with Sublinear Regrets via Online Learning
针对多服务器作业在线调度中并行计算收益与通信开销的权衡问题，本文提出基于奖励梯度上升的在线算法 OGASched，利用并行子过程降低复杂度，并证明其具有亚线性遗憾，仿真显示其性能显著优于常用启发式方法。
2023-08-05 cs.DC
Large-scale Machine Learning Cluster Scheduling via Multi-agent Graph Reinforcement Learning
大型GPU集群中分布式深度学习（DL）作业的高效调度对于资源效率和作业性能至关重要。虽然作业之间的服务器共享提高了资源利用率，但是由于资源争用，在位于同一地点的DL作业之间发生干扰。干扰感知的工作安排进行了研究，白盒方法的基础上显式干扰建模和黑盒推理机与强化学习。在当今包含数千个GPU服务器的集群中，由于工作负载规模很大，因此运行单个调度程序以及时有效的方式管理所有到达作业是一项挑战。在大规模集群/数据中心中采用多个调度器，提出一种多智能体强化学习（MARL）调度框架，以最小化作业完成时间（JCT）为目标，协同学习细粒度的作业安排策略.为了实现拓扑感知布局，我们提出的框架使用分层图神经网络来编码数据中心拓扑和服务器架构。鉴于普遍缺乏对应于不同安置的精确奖励样本，进一步设计了工作干扰模型，以预测面对不同的协同定位时的干扰水平，用于训练MARL分类器。测试床和跟踪驱动的评估表明，我们的调度框架优于代表调度计划的平均JCT超过20%，是适应各种机器学习集群拓扑结构。
2021-12-26 cs.DC
Efficient Device Scheduling with Multi-Job Federated Learning
Baidu Inc.（百度公司）
近年来，在终端用户的多个（边缘）设备中出现了大量分散的数据，而由于法律或法规的原因，分散的数据的聚合对于机器学习工作仍然很困难。联邦学习（FL）是一种处理分散数据的有效方法，无需共享敏感的原始数据，同时协作训练全局机器学习模型。FL中的服务器需要在训练过程中选择（和调度）设备。然而，调度设备的多个作业与FL仍然是一个关键的和开放的问题。在本文中，我们提出了一种新型的多职位外语框架，以实现多个职位的并行培训过程。该框架包括一个系统模型和两种调度方法。在系统模型中，提出了一种多作业并行训练过程，并基于不同作业训练过程中各设备的训练时间和数据公平性构建了成本模型。我们提出了一个基于强化学习的方法和贝叶斯优化的方法来调度多个作业的设备，同时最小化成本。我们对多个作业和数据集进行了广泛的实验。实验结果表明，我们提出的方法在训练时间（快8.67倍）和准确率（高44.6%）方面明显优于基线方法。
2021-12-15 cs.AI cs.DC cs.SY
heSRPT: Parallel Scheduling to Minimize Mean Slowdown
现代数据中心为能够利用并行性的工作负载提供服务。当一个作业在多个服务器上并行化时，它将更快地完成，但是作业从分配额外的服务器中获得的回报越来越少。由于为单个作业分配多个服务器效率低下，因此不清楚如何最好地在许多可并行化的作业之间分配固定数量的服务器。本文提出了第一个最优分配策略，使已知大小的可并行作业的平均减速最小化时，所有的作业都存在于时间0。我们的政策提供了一个简单的封闭形式的公式，在每一个时刻的最佳分配。最小化平均减速通常需要支持短期工作而不是长期工作（如SRPT政策）。然而，由于可并行作业具有次线性加速函数，系统效率也是一个问题。系统效率最大化，通过平等分配给所有的工作，从而竞争的目标，优先小的工作。我们的最优策略，高效率SRPT（heSRPT），平衡这些相互竞争的目标。heSRPT根据作业的大小顺序完成作业，但通过在每个时刻为每个作业分配一些服务器来保持整体系统效率。我们的研究结果推广到也提供了最优分配政策方面的平均流时间。最后，我们考虑在线的情况下，随着时间的推移，工作到达系统。虽然优化的平均速度减慢在线设置是更加困难的，我们发现，heSRPT提供了一个很好的启发式政策的在线设置。事实上，我们的模拟表明，heSRPT显着优于国家的最先进的分配政策的并行作业。
2020-11-18 cs.DC cs.PF
A Fuzzy Differential Evolution Algorithm for Job Scheduling on Computational Grids
网格计算是近年来兴起的一个跨地域共享数据、存储和计算的计算领域。本文提出了一种新的模糊方法，利用差分进化（DE）的计算网格上的作业调度。基于模糊的DE生成一个最优的计划，在最短的时间内完成的工作。我们用遗传算法、模拟退火算法、差分进化算法和模糊粒子群算法对所提出的模糊DE算法进行了性能评估。实验结果表明，与其他算法相比，新算法能产生更多的最优解。
2014-07-23 cs.DC
Venn: Resource Management for Collaborative Learning Jobs
University of Michigan（密歇根大学）
提出Venn，一种协作学习资源管理器，通过形式化交集资源调度问题并设计感知争用的调度与匹配启发式，高效调度短暂异构设备，将平均作业完成时间提升高达1.88倍。
2025-04-30 cs.DC cs.LG
Extending SLURM for Dynamic Resource-Aware Adaptive Batch Scheduling
随着对功率预算的日益增长的限制和增加的硬件故障率，未来的艾级系统的操作面临着几个挑战。为此，HPC社区积极研究了通过启用可延展作业来实现资源感知和适应性。可延展作业可以在运行时更改其计算资源，并可以显著提高HPC系统性能。然而，由于流行的并行编程范例（如MPI）的刚性，以及缺乏对批处理系统中动态资源管理的支持，延展性作业在很大程度上没有实现。在本文中，我们扩展了SLURM批处理系统，以支持可延展作业的执行和批调度。可延展的应用程序是使用一种新的自适应并行范式称为侵入式MPI，它扩展了MPI标准，以支持在运行时的资源自适应。我们提出了两个可延展的作业调度策略，以支持性能感知和功耗感知的动态重配置决策在运行时。我们实施的战略，在SLURM和评估他们的生产HPC系统。我们的性能感知调度策略的结果表明，与其他调度策略相比，在最大完工时间，平均系统利用率，平均响应和等待时间的改善。此外，我们展示了动态电力走廊管理使用我们的功率感知策略。
2021-05-20 cs.DC cs.SE
An Optimum Scheduling Approach for Creating Optimal Priority of Jobs with Business Values in Cloud Computing
通过考虑作业的业务重要性来实现最优的任务调度已经成为云计算的付费和使用模型中感兴趣的问题。引入一个合适的模型，一个有效的任务调度技术可以得到好处的服务提供商以及客户端。在本文中，我们解决了两个主要挑战，这对云系统的性能有影响。其中一个主要问题是处理分配任务的技术方面，以获得目标收益，第二个问题与处理业务优先级有关，以同时解决与云消费者相关的业务复杂性。通过适当考虑技术需求和业务需求这两个方面的权重，可以实现协调的调度。它可以这样做，它满足技术领域以及业务领域的QoS要求。与技术优先级一起，需要业务Bp来创建结果优先级，该优先级可以被赋予进一步处理的阶段，如任务分配和仲裁方案。在这里，我们考虑由半自适应调度算法管理的技术优先级Tp，而由此产生的优先级是由业务优先级Bp层封装技术优先级Tp以实现传入任务的总体优先级而得到的。这导致混合优先级创建，其是技术优先级Tp和业务优先级Bp的组合。通过考虑作业的业务优先级，可以为以其原生技术优先级提交的任务实现更高的服务水平满意度。通过这种方法，任务的等待时间往往会减少，它提供了更好的服务水平满意度。
2014-07-20 cs.DC cs.NI
Asymptotically Optimal Scheduling of Multiple Parallelizable Job Classes
The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）；Carnegie Mellon University（卡内基梅隆大学）
本文研究了多可并行作业类的调度问题，提出在轻负载时优先处理最不并行化的作业，在重负载时优先处理预期剩余处理时间最短的作业，并开发了渐近最优的调度策略。
2025-12-29 cs.DC cs.PF
Optimal Parallel Scheduling under Concave Speedup Functions
针对任意凹加速比函数下的并行作业调度难题，提出CDR规则、GWF方法与SmartFill算法，实现低复杂度最优分配并显著优于heSRPT。
2025-09-01 cs.DC cs.PF
Reducing Fragmentation and Starvation in GPU Clusters through Dynamic Multi-Objective Scheduling
Department of Computer Science（计算机科学系）；The College of Wooster（沃斯特学院）
本文提出动态多目标调度器，通过优化GPU集群资源利用，显著提升利用率和公平性，减少任务饥饿现象。
2025-12-04 cs.AI cs.DC
Push Forward: Global Fixed-Priority Scheduling of Arbitrary-Deadline Sporadic Task Systems
偶发任务模型常用于分析实时系统中相同任务的重复执行。零星任务定义了一个无限序列的任务实例，也称为作业，在最小到达间隔时间约束下到达。为了保证系统的安全性，除了功能的正确性之外，还必须保证及时性，即，所有工作的所有任务必须在工作期限之前完成。我们专注于分析任意期限的任务集上的同构（相同）的多处理器系统在任何给定的全球固定优先级调度方法，并提供了一系列的可扩展性测试与不同的权衡之间的时间复杂度和准确性。在任意截止期的情况下，任务的相对截止期可以大于任务的最小作业到达间隔时间。我们表明，全球截止日期单调（DM）调度有一个加速比界$3-1/M$对任何最佳调度算法，其中$M$是相同的处理器的数量，并证明了这个界是渐近紧的。
2018-02-28 cs.DC cs.OS
An Advanced Reinforcement Learning Framework for Online Scheduling of Deferrable Workloads in Cloud Computing
Microsoft（微软公司）；Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；Tsinghua University（清华大学）；Beihang University（北京航空航天大学）
本文提出了一种名为OSDEC的基于深度强化学习的在线可延迟作业调度方法，通过引入辅助任务优化状态表示，在保证高资源利用率的同时有效缩短了用户等待时间。
2024-06-03 cs.AI cs.DC cs.LG
CASSINI: Network-Aware Job Scheduling in Machine Learning Clusters
Massachusetts Institute of Technology（麻省理工学院）；UT Austin（德克萨斯大学奥斯汀分校）
提出网络感知调度器CASSINI，通过几何抽象和亲和图调整作业通信阶段使其交错，显著降低作业完成时间并减少ECN标记包数量。
2023-08-01 cs.DC cs.LG cs.NI
