We break the barrier of $3/2$ for the problem of online load balancing with known makespan, also known as bin stretching. In this problem, $m$ identical machines and the optimal makespan are given. The load of a machine is the total size of all the jobs assigned to it and the makespan is the maximum load of all the machines. Jobs arrive online and the goal is to assign each job to a machine while staying within a small factor (the competitive ratio) of the optimal makespan. We present an algorithm that maintains a competitive ratio of $139/93<1.495$ for sufficiently large values of $m$, improving the previous bound of $3/2$. The value 3/2 represents a natural bound for this problem: as long as the online bins are of size at least $3/2$ of the offline bin, all items that fit at least two times in an offline bin have two nice properties. They fit three times in an online bin and a single such item can be packed together with an item of any size in an online bin. These properties are now both lost, which means that putting even one job on a wrong machine can leave some job unassigned at the end. It also makes it harder to determine good thresholds for the item types. This was one of the main technical issues in getting below $3/2$. The analysis consists of an intricate mixture of size and weight arguments.
在负载均衡问题中,由Graham在20世纪60年代提出(SIAM J. of Appl.Math.1966,1969),到达在线的作业必须被分配给机器,以便最小化在机器负载上定义的目标。长期的工作已经解决了这个问题的最大完工时间规范和任意$\ell_q$规范的机器负载。最近的文献(例如,Azar等人,STOC 2013; Im等人,FOCS 2015)进一步将此问题的范围扩展到向量负载,以捕获数据中心等应用程序中具有多维资源需求的作业。在本文中,我们完全解决了相关机器上的标量和向量作业调度问题,即,其中每台机器都有一个给定的速度,处理一个工件所需的时间与它所分配的机器的速度成反比。我们给出下面的结果。对于标量调度,我们给出了一个常数竞争算法优化任何$\ell_q$ -范数相关的机器。以前唯一已知的结果是关于完工时间范数的。对于向量调度,向量调度有两个自然的变体,这取决于机器的速度是否依赖于维度。我们显示了这两个变种之间的鲜明对比,证明了它们分别相当于无关的机器和相同的机器的最大完工时间规范。我们还将这些结果推广到任意$\ell_q$ -范数的机器负载。没有以前的结果是已知的向量调度相关的机器。
A 2-Competitive Largest Job on Least Loaded Machine Online Algorithm based on Multi Lists Scheduling Model
最小化完工时间的同类机在线排序问题一直是文献研究的热点。在联机调度中,调度程序逐个接收作业列表,并在下一个作业到达之前将每个传入作业动态地分配给其中一台机器。在本文中,我们研究了一个变种的在线调度问题,其中要求从k个不同的来源飞行作业。同时到达的工作从多个来源,这是一个不平凡的研究挑战,以确保公平的调度相对于不同的来源,同时优化的整体完工时间表。本文提出了一种新的多列表调度模型(MLS),并基于该模型提出了一种2-竞争确定性在线算法LJLLM(Largest Job on Least Loaded Machine)。
细粒度的工作负载和资源平衡是GPU上常规和不规则计算的高性能的关键。在这篇论文中,我们进行了广泛的调查,现有的负载平衡技术,建立一个抽象的解决困难的GPU上调度计算。我们提出了一个GPU细粒度的负载平衡抽象,从工作处理中提取负载均衡,旨在支持静态和动态调度,并通过可编程接口实现新的负载平衡调度。在我们的工作之前,释放GPU在不规则问题上的潜力的唯一方法是通过特定于应用程序的紧耦合负载平衡技术来实现工作负载平衡。通过我们的开源负载平衡框架,我们希望在GPU上开发不规则并行算法时提高程序员的生产力,并通过允许快速试验各种现有负载平衡技术来提高此类应用程序的整体性能特征。利用我们从负载平衡不规则工作负载中获得的见解,我们构建了Stream-K,这是一个以工作为中心的矩阵乘法(GEMM)和密集线性代数中相关计算的并行化。而当代的分解主要是基于瓦片的,我们的方法通过在物理处理元件之间划分均匀份额的聚合内部循环迭代来操作。这提供了计算资源的近乎完美的利用,而不管任何给定问题的输出平铺跨底层处理元素量化的效率如何。在GPU处理器上,我们的Stream-K GEMM并行化可产生高达14倍和6.7倍的峰值加速比,以及在32 K GEMM问题几何中比最先进的数学库(如CUTLASS和cuBLAS)更高且更一致的平均性能响应。
Stochastic Load Balancing with Machine Reservations
London School of Economics and Political Science(伦敦政治经济学院);University of Waterloo(滑铁卢大学);Indian Institute of Technology Delhi(德里印度理工学院);Eidgenössische Technische Hochschule Zürich(苏黎世联邦理工学院);University of Bonn(波恩大学)