Semi-Federated Scheduling of Parallel Real-Time Tasks on Multiprocessors
联合调度是一种在多核上调度并行实时的【形】任务的有效方法,其中每个重任务在多个专用处理器上独占执行,而轻任务被视为连续的零星任务并共享剩余的处理器。然而,联合调度遭受资源浪费,因为具有处理能力要求$x + ε$(其中$x$是整数并且$0 < ε< 1$)的繁重任务需要$x + 1$专用处理器。在极端情况下,几乎一半的处理能力被浪费。本文提出了半联邦调度方法,该方法只允许$x$专用处理器处理具有处理能力要求的重任务$x + ε$,而将剩余的$ε$部分与轻任务一起调度到共享处理器上。随机生成的任务集的实验表明,半联邦调度方法显着优于不仅联邦调度,而且所有现有的方法调度并行实时的【形】任务在多核上。
2017-05-09 cs.DC
Energy Conscious Dynamic Window Scheduling of Chip Multiprocessors
开发利用多核和众核架构以减少浪费热量产生的系统的需求在计算密集型应用中至关重要。我们提出了一种节能的多核调度方法,称为非抢占式动态窗口(NPDW)调度,实现有效的负载和温度平衡芯片多处理器。NPDW利用动态时间窗口的概念来积累任务,并使用修改的Gale-Shapely算法在积累的任务和可用的处理器核之间找到最佳的稳定匹配。定义了窗口和匹配性能的度量,以创建动态窗口启发式算法,从而基于当前和先前的窗口大小来确定下一个时间窗口大小。推导公式和实验结果的基础上,我们表明,我们的NPDW调度器是能够分布在多核环境中的处理器的计算和热负载比基线调度器。我们相信,在多核计算应用程序需要温度和能源意识的系统设计,我们的调度程序可以有效地分散系统负载,并防止过多的核心加热。
2022-02-13 cs.DC
Building Portable Thread Schedulers for Hierarchical Multiprocessors: the BubbleSched Framework
利用当前越来越多的分层多处理器机器的全部计算能力需要在底层非统一架构中非常仔细地分配线程和数据。不幸的是,大多数操作系统只提供了一个较差的调度API,它不允许应用程序向系统传输有价值的调度提示。在之前的文章中,我们展示了使用基于气泡的线程调度器可以以可移植的方式显著提高应用程序的性能。然而,由于多线程应用程序有各种调度要求,没有通用的调度程序可以满足所有这些需求。在本文中,我们提出了一个框架,允许调度专家实现和实验定制的线程调度器。它提供了一个强大的API,用于以高级、可移植和有效的方式在机器之间动态分发气泡。几个例子展示了专家如何开发、调试和调整他们自己的便携式气泡发生器。
2007-06-14 cs.DC
Multiprocessor Scheduling For Tasks With Priority Using GA
多处理器已经成为运行实时应用程序的强大计算手段,特别是在单处理器系统不足以执行所有任务的情况下。多处理器的高性能和高可靠性使其成为一种强大的计算资源。这样的计算环境需要有效的算法来确定给定任务应该在何时以及在哪个处理器上执行。在多处理器系统中,一个有效的调度的并行程序到处理器上,最大限度地减少整个执行时间是至关重要的,以实现高性能。这个调度问题被称为NPHard。在多处理机调度问题中,给定的程序在给定的多处理机系统中被调度,使得程序的执行时间最小。最后一项工作必须尽早完成。遗传算法(Genetic Algorithm,GA)是求解约束优化问题的一种常用技术。遗传算法基本上是基于自然选择和自然发生机制的搜索算法。遗传算法研究的主要目标是鲁棒性,即效率和功效之间的平衡。本文提出了一种遗传算法来解决最小化制造时间的多处理机调度问题。
2010-01-12 cs.DC cs.NE
Multiprocessor Scheduling with Memory Constraints: Fundamental Properties and Finding Optimal Solutions
本文研究两级内存约束下的多处理器 DAG 调度,分析复杂度并证明分离优化可产生线性因子偏差,进而提出基于 ILP 的整体调度算法,实验表明其优于经典基线。
2025-07-23 cs.DC
Energy and Time Efficient Scheduling of Tasks with Dependencies on Asymmetric Multiprocessors
在这项工作中,我们研究的问题,调度任务的依赖关系,在多处理器架构中,处理器有不同的速度。我们提出了抢占式算法“节约能源”,它给出了一个任务的时间表后处理它,以提高能源效率,而没有任何恶化的最大完工时间。在时间效率方面,我们表明非对称系统中的抢先调度可以实现与对称系统相同或更好的最佳完工时间。真正的多处理器系统的动机,我们调查架构表现出有限的不对称性:有两个本质上不同的速度。有趣的是,在并行计算和调度理论领域中还没有研究过这种特殊情况;只研究了处理器具有本质上不同的速度的$K$的一般情况。我们提出的非抢占式算法“剩余”,实现了几乎最优的最大完工时间。我们提供了一个最近的调度方法的精细分析。在此基础上,对调度策略进行了具体化,并给出了$(3 + o(1))$期望逼近因子的算法。请注意,这提高了以前的最佳因子(两个速度为6)。我们相信,我们的工作将说服研究人员重新审视这些简单的,但现实的,非对称的多处理器架构的调度问题。
2008-06-06 cs.DC cs.DS cs.PF
Compiler Enhanced Scheduling for OpenMP for Heterogeneous Multiprocessors
非对称多核处理器(AMP)调度是异构多核处理器的一种特殊情况,是一个广泛研究的课题。大多数调度技术是运行时的,通常不考虑并行编程框架(如OpenMP)中使用的并行编程模式。另一方面,这些并行编程平台的当前编译器是硬件无关的,这阻止了big.LITTLE等平台的任何编译时优化,并且必须完全依赖于运行时优化。在本文中,我们提出了一个硬件感知的编译器增强调度(CES),其中常见的编译器转换与编译器添加的调度命令,以利用硬件的不对称性,提高运行时的效率。我们实现了一个用于OpenMP的编译器,并在三星Exynos中使用big.LITTLE架构证明了其效率。平均而言,我们看到在标准NPB和FSU基准测试中,CES在big.LITTLE中跨多个频率和核心配置减少了18%的运行时间和14%的能耗。
2018-08-18 cs.DC cs.PF
On the Design of an Optimal Multiprocessor Real-Time Scheduling Algorithm under Practical Considerations (Extended Version)
本研究针对硬实时的【形】系统的多处理机排程问题,特别是在考虑实际限制的情况下,着重于最佳化与整体排程问题。首先,我们提出了一个改进的优化算法BF。我们正式证明我们的适应是(i)最优的,即,它总是生成可行的调度,只要这样的调度存在;以及(i i)有效,即,它符合所有要求。我们还表明,它通过提供O(n)的计算复杂度优于BF,其中n是要调度的任务数。接下来,我们提出了一个可调度性分析,该分析先验地表明了我们对BF的改进是否可以在不错过任何截止日期的情况下调度实时的【形】应用。据我们所知,这种分析是第一个考虑到操作系统产生的所有主要开销的多处理器测试。
2011-01-24 cs.DC cs.OS
Optimal Virtual Cluster-based Multiprocessor Scheduling
多处理器平台上的有限截止期偶发任务系统的调度是近年来备受关注的一个领域。人们普遍认为,找到一个最佳的调度程序是困难的,因此大多数研究都集中在开发具有良好的处理器利用率界限的算法。这些算法可以大致分为两类:分区调度,其中任务被静态分配给各个处理器,以及全局调度,其中每个任务被允许在平台中的任何处理器上执行。在本文中,我们考虑第三个,更一般的方法,称为基于集群的调度。在这种方法中,每个任务被静态地分配给一个处理器集群,每个集群中的任务在它们之间被全局地调度,并且集群又在多处理器平台上被调度。我们开发的技术,以支持这种基于集群的调度算法,并考虑属性,最大限度地减少单个集群的总处理器利用率。在本文的最后一部分,我们开发了新的基于虚拟簇的调度算法。对于隐式截止期偶发任务系统,我们提出了一个既不是Pfair也不是ERfair的最优调度算法。我们还表明,US-EDF{m/(2 m-1)}的处理器利用率的上限可以通过使用虚拟集群提高。由于分区或全局策略都不占主导地位,基于集群的调度是一个自然的研究方向,以实现提高处理器利用率的界限。
2020-04-06 cs.DC cs.OS
Approximation Algorithms for Multiprocessor Scheduling under Uncertainty
出于在网格计算和项目管理中的应用,我们研究多处理器调度的情况下,有不确定性的成功执行的作业时,分配给处理器。考虑不确定条件下的多处理机调度问题,给定n个单位时间工件和m台机器,给出工件间依赖关系的有向无环图C,对于每一个工件j和机器i,给出工件j在机器i上按任意给定步骤调度时成功完成的概率p_{ij}.问题的目标是找到一个最小化期望完工时间的进度表,即所有工件的期望完工时间。不确定条件下的多处理机调度问题是由Malewicz提出的,并且被证明是NP-难的,即使所有的作业都是独立的。在本文中,我们提出了多项式时间的近似算法的问题,对于特殊情况的dag C。对于独立作业的情形,我们得到了O(log(n))-近似;对于不相交链的集合,我们得到了O(log(m)log(n)log(n+m)/loglog(n+m))-近似;对于有向出树或入树的集合,我们得到了O(log(m)log^2(n))-近似;对于有向森林,我们得到了O(log(m)log^2(n)log(n+m)/loglog(n+m))-近似。
2007-03-21 cs.CC cs.DC cs.DS
A heuristic method for data allocation and task scheduling on heterogeneous multiprocessor systems under memory constraints
Huazhong University of Science and Technology(华中科技大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
异构多处理器系统中的计算工作流经常被建模为任务和数据块的有向非循环图,其以由任务产生并由其他人使用的数据的形式表示计算模块及其依赖关系。然而,对于某些工作流,诸如数字信号处理器中的任务调度可能由于暴露太多并行性而耗尽存储器。本文主要研究内存约束下的数据分配和任务调度问题,并集中在共享内存平台上。首先,我们提出了一个整数线性规划模型来制定的问题。然后我们将该问题视为一个扩展的柔性作业车间调度问题,同时试图最小化图的关键路线。为了解决这个问题,我们提出了一个禁忌搜索算法(TS),它结合了几个显着的特点,如贪婪的初始解的构造方法和混合邻域的评价策略的基础上精确的评价和近似的评价方法。在随机生成的实例上的实验结果表明,该算法能够在合理的计算时间内获得相对高质量的解.具体地说,与文献中广泛使用的经典负载均衡算法相比,禁忌搜索算法平均提高了5- 25%的最大完工时间.此外,还分析了TS的一些关键特征,以确定其成功因素。
2022-05-09 cs.AI cs.DC
Feedback Scheduling for Energy-Efficient Real-Time Homogeneous Multiprocessor Systems
Imperial College London(帝国理工学院)
本文提出一种闭环反馈调度框架,通过反馈信息优化多处理器实时调度,减少能耗。采用线性规划解决任务分配问题,McNaughton算法确定任务执行顺序,实验显示能耗降低40%。
2016-06-08 cs.DC cs.OS cs.SY
Improved Approximations for Multiprocessor Scheduling Under Uncertainty
本文提出了一种改进的近似算法,用于求解不确定性条件下的多处理机调度问题,其中每个作业的执行都有可能失败。这个问题的动机是越来越多地使用分布式计算来处理大型的、计算密集型的任务。在SUU问题中,我们给定n个单位长度的工件和m台机器,工件之间的优先约束的有向无环图G,以及每个工件j在机器i上执行单个时间步时的不相关的故障概率q_{ij}。我们的目标是找到一个最小化期望完工时间的时间表,期望完工时间是所有作业完成的期望时间。Lin和Rajaraman给出了独立作业、形成不相交链的优先约束和形成树的优先约束的特殊情况下的NP难问题的第一近似。在本文中,我们提出了渐近更好的近似算法。特别是,我们给出了一个O(loglog min(m,n))-近似独立的工作(改进以前最好的O(log n)-近似)。对于形成不相交链的优先约束,我们也给出了一个O(log(n+m)loglog min(m,n))-近似算法(改进了以前最好的O(log(n)log(m)log(n+m)/loglog(n+m))-近似,当n = poly(m)时,使用(log n/loglog n)^2因子。我们的算法的优先约束形成链也可以作为一个组件的优先约束形成树,产生类似的改进,以前最好的算法树。
2008-02-19 cs.DC cs.DS
Energy-Efficient Real-Time Scheduling for Two-Type Heterogeneous Multiprocessors
Imperial College London(帝国理工学院)
本文提出三种新的数学优化方法,解决具有硬约束的实时任务集的两种类型异构多处理器调度问题。通过全局调度方案和流模型,算法在任务负荷分配和执行顺序确定上具有线性复杂度,实现可行性最优和能耗最优,且在某些约束截止期限的任务集中可实现高达40%的能耗节省。
2016-07-15 cs.DC cs.OS cs.SY
Supporting Parallelism in Server-based Multiprocessor Systems
开发一个高效的基于服务器的实时调度解决方案,支持动态任务级并行现在甚至是桌面和嵌入式领域,不再仅仅是高性能计算市场的利基。本文提出了一种新的方法,结合恒定带宽服务器抽象与工作窃取负载均衡计划,同时确保任务之间的隔离,使一个任务可以在一个以上的处理器上执行在给定的时刻。
2011-06-14 cs.DC cs.OS
LayerPipe: Accelerating Deep Neural Network Training by Intra-Layer and Inter-Layer Gradient Pipelining and Multiprocessor Scheduling
University of Minnesota(明尼苏达大学)
训练神经网络所需的时间随着大小、复杂性和深度而增加。通过反向传播训练模型参数固有地创建反馈回路。这些循环阻碍了层内和连续层之间的任务的高效流水线和调度。先前的方法,例如PipeDream,已经利用延迟梯度的使用来实现层间流水线。然而,这些方法将整个反向传播视为单个任务;这导致计算时间增加和处理器利用率不足。本文提出了一种新的优化方法,其中相对于权重和激活函数的梯度计算被独立地考虑,因此,这些可以并行计算。这被称为层内优化。另外,关于激活函数的梯度计算被进一步划分为两个部分并且被分布到两个连续层。这导致平衡调度,其中每一层的计算时间相同。这被称为层间优化。所提出的系统,称为LayerPipe,减少了训练所需的时钟周期数,同时最大限度地提高处理器利用率,最小的处理器间通信开销。与PipeDream相比,LayerPipe在7到9个处理器的情况下实现了平均25%和80%以上的加速比,并且通信开销更少。
2021-08-14 cs.AR cs.DC cs.LG
STOMP: A Tool for Evaluation of Scheduling Policies in Heterogeneous Multi-Processors
近年来,异构芯片多处理器的激增达到了前所未有的水平。传统的同构平台在实现高性能超低功耗计算方面表现出了根本的局限性,特别是在具有实时执行期限或关键性约束的应用领域。通过将正确的通用核心和硬件加速器组合在一起,以及适当的芯片互连和存储器技术,异构芯片多处理器已成为一种有效的高性能和低功耗计算替代方案。异构架构的挑战之一涉及跨芯片中的各种选项的应用任务(进程、线程)的高效调度。因此,关键是要提供工具,使早期的原型和评估的新的调度策略的异构平台。在本文中,我们提出了STOMP(调度技术优化在异构多处理器),一个模拟器的快速实施和评估的任务调度策略在多核/多处理器系统中的一个方便的接口,以简单的方式“插入”新的调度策略。STOMP的彻底验证表现出较小的相对误差相比,在稳态分析过程中的封闭形式的等效模型。
2020-07-28 cs.AR cs.DC
Parallel/Distributed Tabu Search for Scheduling Microprocessor Tasks in Hybrid Flowshop
本文研究带多处理器任务的混合流水车间调度中的最大完工时间最小化问题,提出了一种基于并行与分布式机制的禁忌搜索算法进行邻域评估,有效平衡了异构网络环境。
2025-09-14 cs.DC cs.SY eess.SY
Parallel Path Progression DAG Scheduling
为了满足现代信息物理系统日益增长的性能需求,多处理器体系结构被越来越多地使用。为了有效地利用其潜在的并行性在硬实时系统中,适当的任务模型和调度算法,允许提供时间保证是必需的。这种调度算法和相应的最坏情况下的响应时间分析通常遭受资源过度供应,由于悲观的分析基础上的最坏情况的假设。因此,需要具有高资源效率的调度算法和分析。一个突出的并行任务模型是有向无环图(DAG)任务模型,其中优先约束的子作业表示并行性。研究了任意截止期的离散DAG任务的实时调度问题。我们提出了一个路径并行进展调度属性,只有两个不同的子任务的优先级,它允许同时跟踪执行的路径集合。这种新颖的方法显着提高了国家的最先进的响应时间分析高度并行DAG结构的并行DAG任务。基于此性质设计了两种分层调度算法,扩展了并行路径推进的性质,改进了对偶发任意截止期DAG任务集的响应时间分析。
2022-08-25 cs.DC
Federated Scheduling Admits No Constant Speedup Factors for Constrained-Deadline DAG Task Systems
在多处理器系统中的联合调度方法中,任务要么1)被限制为在单个处理器上顺序执行,要么2)对分配的处理器具有独占访问权。已经有一些积极的结果,进行良好的联邦调度策略,具有恒定的加速因子相对于任何最佳的联邦调度算法。本文回答了一个公开的问题:“有向无环图(DAG)的依赖结构的约束期限的任务系统,联邦调度策略有一个恒定的加速因子,就任何最佳调度算法?答案是“不!本文给出了一个例子,它证明了任何联邦调度算法相对于任何最优调度算法至少有$Ω(\min\{M, N\})$的加速因子,其中$N$是任务数,$M$是处理器数。
2016-06-22 cs.DC cs.DS
Online Packet Scheduling under Adversarial Jamming
我们考虑的问题,通过有向通信链路调度不同长度的数据包容易出现干扰错误。动态数据包到达和错误由对手建模。我们专注于估计相对吞吐量的在线调度算法,即算法实现的吞吐量和最佳调度相同的到达和错误模式之间的比率。该框架允许更准确地分析在线调度算法的性能,即使在最坏的情况下到达和错误的情况下。我们设计了一个在线算法调度任意长度的数据包,实现最佳的相对吞吐量的范围内(1/3,1/2](确切的值取决于数据包的长度)。换句话说,对于任何到达和干扰模式,我们的解决方案给出的吞吐量比这些模式的最佳可能调度差不超过c倍,其中[2; 3)中的c是相对吞吐量的倒数。我们设计的另一种算法利用额外的资源,以实现相对吞吐量1,也就是说,它实现了至少一样高的吞吐量的最佳时间表没有这样的资源,对于任何到达和干扰模式。更准确地说,我们表明,如果算法可以以双倍速度运行,即,频率高一倍,则其相对吞吐量为1。这表明,最好的在线调度算法的吞吐量与资源增加的规模。关键词:分组调度,动态分组到达,对抗性干扰,在线算法,相对吞吐量,资源增加。
2013-10-18 cs.DC
Resource Availability-Aware Advance Reservation for Parallel Jobs with Deadlines
提前预留对于保证作业的服务质量是重要的,其通过允许在资源上的定义的时间间隔上独占地访问资源。如何有效地组织资源并合理地分配给具有截止期约束的并行AR作业是调度器面临的一个挑战。本文提供了一种基于时隙的数据结构,以组织多处理器系统的可用资源的方式,使有效的搜索和更新操作,并制定了一套调度策略来分配资源的动态到达AR请求。通过仿真研究了不同作业规模、作业持续时间、系统负载和调度灵活性下调度算法的性能。仿真结果表明,作业规模、作业持续时间、系统负载和调度灵活性等因素对调度算法的性能指标均有影响,对于AR请求接受率最高的调度器,PE-Worst-Fit算法成为最佳调度算法,First-Fit算法的作业平均减速率最低.该数据结构和调度策略可用于大规模计算系统中具有截止期约束的并行AR作业的资源组织和分配。
2012-03-04 cs.DC
Online Algorithms for a Generalized Parallel Machine Scheduling Problem
我们考虑不同的在线算法的并行机的广义调度问题,在第一节中详细描述。这个问题是经典的并行机调度问题的推广,当使跨度最小化,在这种情况下,每个工件只包含一个任务。另一方面,所考虑的问题仍然是一个特殊版本的工作流调度问题。我们提出了几种启发式算法,并通过计算机测试进行了比较。
2015-02-08 cs.DC
Online Service Placement and Request Scheduling in MEC Networks
移动边缘计算(MEC)是一种很有前途的解决方案,可以在边缘网络上为延迟敏感的任务提供服务。最近的文献开始关注具有成本效益的服务放置和请求调度。本文研究了密集MEC网络中服务放置和请求调度的联合优化问题,并提出了一种有效的在线算法,该算法可以达到接近最优的性能。我们的在线算法由两个基本模块组成:(1)一个基于竞争在线凸优化的正则化和前瞻方法,用于将离线松弛最小化问题分解为多个子问题,每个子问题都可以在每个时隙内有效地求解;(2)将离线松弛问题的分数阶解转化为原极小化问题的整数阶解的随机舍入方法,保证低竞争率。理论分析和仿真研究都证实了我们提出的在线MEC优化算法的有效性。
2021-08-26 cs.DC
Market-Oriented Online Bi-Objective Service Scheduling for Pleasingly Parallel Jobs with Variable Resources in Cloud Environments
本文从提供作业执行服务的SaaS(Software-as-as-Service)供应商的角度,研究了云环境下具有可变资源的并行作业的面向市场的在线双目标服务调度问题.在云中调度SaaS服务的主要过程是:SaaS提供商从IaaS提供商购买云实例,以调度最终用户的作业并向用户收取相应的费用。这个问题有几个特殊的功能,如面向作业的最终用户,令人愉快的并行作业与软期限约束,在线设置,和可变数量的资源。为了最大限度地提高收入和用户满意度,我们设计了一个在线算法,SaaS提供商以最佳方式购买IaaS实例和调度令人愉快的并行作业。该算法可以在多项式运行时间内实现竞争目标。理论分析和基于真实世界的谷歌工作跟踪以及合成数据集的仿真验证了我们的算法的有效性和效率。
2021-02-17 cs.DC
Modeling Processor Idle Times in MPSoC Platforms to Enable Integrated DPM, DVFS, and Task Scheduling Subject to a Hard Deadline
能源效率是现代嵌入式系统(如多处理器片上系统(MPSoC))最关键的设计标准之一。动态电压和频率缩放(DVFS)和动态功率管理(DVS)是用于降低此类嵌入式系统中的能量消耗的两种主要技术。此外,MPSoC对于许多实时应用变得越来越流行。在MPSoC上集成DVFS和实时应用的任务调度的挑战之一是在这些平台上的空闲时间间隔的建模。在本文中,我们提出了一种新的方法建模空闲时间间隔MPSoC平台,导致混合整数线性规划(MILP)制定集成的周期性任务图的硬截止日期,DVFS和任务调度。我们还提出了一个启发式的方法来解决MILP,并比较其结果与那些从解决MILP。
2018-12-19 cs.DC cs.OS
Online Job Scheduling in Distributed Machine Learning Clusters
如今,大规模分布式机器学习系统已被部署以支持IT公司的各种分析和智能服务。为了训练大型数据集并导出预测/推理模型,例如,在深度神经网络中,多个工作器并行运行以训练输入数据集的分区,并更新共享模型参数。在处理多个训练作业的共享集群中,一个基本问题是如何有效地调度作业并设置每个作业的并发工作者数量,从而最大限度地利用服务器资源并及时完成模型训练。针对一个分布式机器学习系统,使用参数服务器框架,我们设计了一个在线算法调度到达的作业,并决定调整的并发工人和参数服务器的数量为每个作业在其过程中,以最大限度地提高所有作业的整体效用,视其完成时间而定。我们的在线算法设计利用原始-对偶框架以及高效的对偶子程序,以多项式时间复杂度实现良好的长期性能保证。在线算法的实际有效性进行评估,使用跟踪驱动的模拟和测试床实验,这表明其优于目前的云系统中常用的调度算法相比。
2018-01-03 cs.DC
Online Parallel Scheduling of Non-uniform Tasks: Trading Failures for Energy
考虑一个系统,其中不同执行时间的任务连续到达,并且必须由一组易于崩溃和重启的处理器执行。在本文中,我们模拟和研究的影响,并行性和故障的竞争力,这样一个在线系统。在一个无故障的环境中,一个简单的最长的系统调度策略,增强了冗余避免机制,保证在长期执行的最优性。然而,在存在故障的情况下,调度成为一项更具挑战性的任务。特别是,没有一个并行确定性算法可以与离线最优解竞争,即使只有一个处理器和两个不同的执行时间的任务。我们发现,当额外的能量以处理器加速的形式提供给系统时,情况发生了变化。具体来说,我们确定阈值的加速下,这种竞争力不能实现任何确定性的算法,并在竞争力的算法存在。最后,我们提出的算法,实现小有界的竞争比时,加速比超过阈值。
2013-06-08 cs.DC
Push Forward: Global Fixed-Priority Scheduling of Arbitrary-Deadline Sporadic Task Systems
偶发任务模型常用于分析实时系统中相同任务的重复执行。零星任务定义了一个无限序列的任务实例,也称为作业,在最小到达间隔时间约束下到达。为了保证系统的安全性,除了功能的正确性之外,还必须保证及时性,即,所有工作的所有任务必须在工作期限之前完成。我们专注于分析任意期限的任务集上的同构(相同)的多处理器系统在任何给定的全球固定优先级调度方法,并提供了一系列的可扩展性测试与不同的权衡之间的时间复杂度和准确性。在任意截止期的情况下,任务的相对截止期可以大于任务的最小作业到达间隔时间。我们表明,全球截止日期单调(DM)调度有一个加速比界$3-1/M$对任何最佳调度算法,其中$M$是相同的处理器的数量,并证明了这个界是渐近紧的。
2018-02-28 cs.DC cs.OS
Online Distributed Scheduling on a Fault-prone Parallel System
我们考虑一个并行系统的$m$相同的机器容易发生不可预测的崩溃和重新启动,试图应付不断到来的任务要执行。任务具有不同的计算要求(即,处理时间或大小)。任务的流程、大小以及机器的崩溃和重启都被假设为由对手控制。然后,我们重点研究了在线分布式算法的任务的有效调度。我们使用竞争分析,考虑作为效率度量的完成负载,即,已完成任务的聚合大小。我们首先提出了最佳的完成负载竞争力算法时,可以注入的对手的不同的任务大小的数量是有界的。(It众所周知,如果没有限制,竞争力是无法实现的。我们首先考虑只有两种不同的任务大小,然后进行$k$不同的,在这两种情况下,最佳的完成负载的竞争力可以实现。然后,我们考虑有某种形式的资源增加的可能性,允许调度算法运行加速$s \geq 1$。在这种情况下,我们表明,所有的工作保存调度算法的竞争力可以通过使用足够大的加速比增加。
2016-03-18 cs.DC
Optimizing Task Placement and Online Scheduling for Distributed GNN Training Acceleration
在大型图上训练图神经网络(GNN)是资源密集型和耗时的,主要是由于大型图数据无法放入单个机器的内存中,而是必须从分布式图存储中获取并随时处理。与分布式深度神经网络(DNN)训练不同,分布式GNN训练的瓶颈主要在于用于构建小批量训练样本的大型图数据传输。现有的解决方案通常提倡数据计算托管,并且在托管不可行的情况下不能很好地与有限的资源一起工作。任务的战略布局和数据传输与任务执行的优化调度的潜力还没有得到很好的开发。为了提高资源利用率,改善执行流水线,加快训练完成速度,设计了一种高效的分布式GNN训练任务放置和执行调度算法框架。我们的框架由两个模块组成:(i)一个在线调度算法,调度训练任务的执行,和数据传输计划;和(ii)一个探索性的任务布局方案,决定每个训练任务的位置。我们进行了深入的理论分析,测试床实验和模拟研究,并观察到与代表性基线相比,我们的算法的训练速度提高了67%。
2022-04-24 cs.DC
Online Job Scheduling with Redundancy and Opportunistic Checkpointing: A Speedup-Function-Based Analysis
在一个大规模的计算集群中,作业完成可能会大大延迟,由于两个来源的可变性,即,在作业大小和机器服务能力的可变性。为了解决这个问题,现有的作品已经提出了各种调度算法,利用冗余,其中一个作业运行在多个服务器上,直到第一个完成。在本文中,我们探讨了机器服务能力的可变性的影响,并采用严格的分析方法来设计调度算法,使用冗余和检查点。我们设计了几个在线调度算法,可以动态地改变冗余副本的数量的作业。我们还提供了新的理论性能界限,这些算法的整体作业流程时间通过引入加速函数的概念,基于此可以定义一个新的潜在功能,使相应的竞争比分析。特别是,通过采用在线原始-对偶拟合的方法,我们证明了我们的SRPT+R算法在非多任务集群是$(1+ε)$ -速度,$\ O(\frac{1}ε)$ -竞争。我们还表明,我们提出的公平+R和LAPS+R($β$)算法的多任务集群的$(4+ε)$ -速度,$\ O(\frac{1}ε)$ -竞争和{($2 + 2β+ 2ε)$ -速度$O(\frac{1}{βε})$ -竞争}分别。我们通过大量的模拟表明,我们提出的算法可以显着减少非多任务和多任务模式下的作业流时间。
2017-07-06 cs.DC
Online Container Scheduling for Low-Latency IoT Services in Edge Cluster Upgrade: A Reinforcement Learning Approach
针对边缘集群升级时传统云调度策略不适配、易影响运行任务的问题,提出基于策略梯度的强化学习在线容器调度算法,可将总任务时延较基线降低约27%。
2023-07-22 cs.DC
Graph Partitioning with Acyclicity Constraints
Intel Corporation(英特尔公司);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Vienna(维也纳大学)
图被广泛用于对应用程序中的执行依赖性进行建模。特别是,NP完全问题的划分下的限制图受到了极大的关注,因为它在多处理器调度的适用性。我们确定了额外的约束,非循环块之间的依赖关系时,映射计算机视觉和成像应用程序到异构嵌入式多处理器。现有的算法和算法不能满足这一要求,并提供不适用于我们的用例的结果。在这项工作中,我们表明,这个更受约束的版本的图划分问题是NP-完全的,目前的算法,实现了一个紧密的近似的最佳解决方案,找到了一个详尽的搜索小问题的实例和更好的可扩展性较大的实例。此外,我们可以显示对实际成像应用程序的时间表的积极影响,从而改善通信量和执行时间。
2017-04-03 cs.CV cs.DC cs.DS
Improved Online Scheduling of Moldable Task Graphs under Common Speedup Models
针对可塑任务图的在线调度,提出新算法并在 roofline、communication、Amdahl 及一般组合加速模型下获得改进的常数竞争比,同时给出匹配或接近的下界。
2023-04-27 cs.DC cs.DS
Multilevel Acyclic Hypergraph Partitioning
有向无环超图是有向无环图的一个推广概念,其中每个超边可以包含任意数量的头和尾。有向超图可用于对流应用中的数据流和执行依赖性进行建模。因此,超图分割算法可以用来获得有效的多处理器架构的并行化。然而,分区上的非循环约束是必要的映射流应用程序时,嵌入式多处理器由于这种类型的硬件资源限制。无环超图划分问题是将有向无环超图的超节点划分为给定数量的大小大致相等的块,使得相应的商图是无环的,同时最小化分区上的目标函数。在这里,我们贡献的第一个n级算法的无圈超图划分问题。我们的重点是无圈超图的超边可以有一个头和任意多个尾巴。在此基础上,我们设计了一个模因算法,以进一步降低通信成本,以及提高嵌入式多处理器架构上的调度最大完工时间。实验表明,我们的算法优于以前的算法,专注于有向无环图的情况下,以前已在应用领域。此外,我们的实验表明,这种类型的应用程序使用有向超图模型产生一个显着较小的完工时间。
2020-10-15 cs.DC cs.DS cs.NE
Prediction-Assisted Online Distributed Deep Learning Workload Scheduling in GPU Clusters
The Ohio State University(俄亥俄州立大学);Cisco Research(思科研究中心)
针对GPU集群中混合并行分布式深度学习训练的高效调度需求,提出结合随机森林迭代预测的A-SRPT算法,通过将问题映射为单机最优调度实例实现理论高效的作业分配,经实验验证了有效性。
2025-01-09 cs.DC cs.LG
Power- and Fragmentation-aware Online Scheduling for GPU Datacenters
Istituto di Scienza e Tecnologie dell’Informazione "Alessandro Faedo", Consiglio Nazionale delle Ricerche(阿莱索·法多信息科学与技术研究所,意大利国家研究委员会)
针对GPU数据中心在线调度问题,提出PWR调度策略,结合碎片梯度下降(FGD)方法,在降低功耗和最小化GPU碎片之间取得平衡。
2026-10-26 cs.AI cs.DC
Online Evolutionary Batch Size Orchestration for Scheduling Deep Learning Workloads in GPU Clusters
National University of Singapore(新加坡国立大学);ByteDance(字节跳动)
高效的GPU资源调度对于最大限度地提高资源利用率和节省训练成本至关重要,因为共享GPU集群中的深度学习工作负载量不断增加。现有的GPU处理器在很大程度上依赖于静态策略来利用深度学习作业的性能特征。然而,由于缺乏弹性,它们很难达到最佳效率。为了解决这个问题,我们提出了ONES,一个在线进化的弹性批量编排。ONES根据训练批量大小自动管理每个作业的弹性,从而最大化GPU利用率,提高调度效率。它通过在线进化搜索确定每个作业的批量大小,可以不断优化调度决策。我们评估的有效性与64 GPU的TACC的长角超级计算机上的ONES。结果表明,ONES可以以显著更短的平均作业完成时间胜过之前的深度学习算法。
2021-08-08 cs.AI cs.DC cs.LG
Stannic: Systolic STochAstic ONliNe SchedulIng AcCelerator
University of Illinois Chicago(伊利诺伊大学芝加哥分校)
针对异构HPC系统中随机工作负载调度效率低的问题,提出两种FPGA加速器微架构Hercules和Stannic,通过并行化和预计算实现近实时调度,速度提升达1060倍。
2026-06-16 cs.DC cs.SY eess.SY
Deep Reinforcement Learning based Online Scheduling Policy for Deep Neural Network Multi-Tenant Multi-Accelerator Systems
University of Catania(卡塔尼亚大学)
针对云环境下多租户DNN调度的SLA满足与硬件利用问题,提出考虑加速器异构性和带宽争用的低开销深度强化学习调度算法RELMAS,相比现有技术SLA满足率最高提升173%,能量开销低于1.5%。
2024-04-13 cs.AR cs.DC cs.LG