Managing Uncertainty: A Case for Probabilistic Grid Scheduling
网格技术正在发展成为一个全球性的、面向服务的体系结构,一个提供未来高需求计算服务的通用平台。网格和效用计算概念的广泛采用导致越来越多的网格安装运行各种不同大小和复杂性的应用程序。在本文中,我们解决的问题交付期限/经济调度在异构应用环境中使用的统计特性的作业历史执行和相关的元数据。这种方法的动机是由一个多用途的网格集群服务于一个社区的20个电子科学项目的网格应用程序所产生的六个月的计算负载的研究。所观察到的作业统计,资源利用率和用户行为的背景下,最适合支持概率和自主调度架构的管理方法和模型进行了讨论。
2007-11-02 cs.DC
Multi-objective Non-cooperative Game Model for Cost-based Task Scheduling in Computational Grid
任务调度是计算网格中一个重要而复杂的问题。一个计算网格通常覆盖一系列不同类型的节点,这提供了一个复杂的环境。有必要开发算法,可以捕捉这种复杂性,同时可以很容易地实现和用于解决广泛的负载平衡的情况。针对网格负载均衡问题,提出了一种基于博弈论的网格负载均衡算法。网格负载均衡问题被视为一个非合作博弈。实验结果表明,基于博弈的算法具有较好的降低网格代价的能力。
2018-07-15 cs.DC
Intelligent strategies for DAG scheduling optimization in Grid environments
提出了一种网格环境下动态DAG调度问题的解决方案。提出了一种分布式、可扩展、高效、容错的任务优化分配算法。具有依赖关系的任务的调度算法使用启发式模型来优化任务执行的总成本。提出了一种基于遗传算法的资源优化分配方法。实验使用MonALISA监测环境及其扩展。结果表明,与其他调度方法相比,这种DAG调度算法的性能非常好。
2011-06-27 cs.DC
Economic-based Distributed Resource Management and Scheduling for Grid Computing
计算网格作为下一代计算的基础设施,能够共享、选择和聚合地理上分布的资源,以解决科学、工程和商业中的大规模问题。由于网格中的资源是异构的,并且在地理上分布,具有不同的可用性以及针对不同用户在不同时间的各种使用和成本策略,并且优先级以及目标随时间而变化。在这样一个大型的分布式环境中,资源管理和应用程序调度是一项复杂的任务。本论文提出了一个分布式计算经济作为一个有效的隐喻资源管理和应用程序调度。提出了一种支持资源交易和基于服务质量的调度的体系结构框架。它使资源的供应和需求的监管,并提供了一个激励资源所有者参与网格和动机的用户之间的最后期限,预算和所需的服务质量水平进行权衡。论文通过开发用户服务质量需求驱动的调度策略和算法,展示了基于经济的系统用于对等分布式计算的能力。它证明了他们的有效性,通过执行调度实验在全球范围内的网格解决参数扫描应用程序。
2002-04-22 cs.DC
A Deadline and Budget Constrained Cost-Time Optimisation Algorithm for Scheduling Task Farming Applications on Global Grids
计算网格和对等(P2P)网络使地理上分布的资源能够共享、选择和聚合,以解决科学、工程和商业中的大规模问题。然而,用于调度应用的资源和服务的管理和组合成为复杂的任务。我们已经提出了一个计算经济的框架,用于调节资源的供应和需求,并根据用户的服务质量要求将它们分配给应用程序。该框架需要经济驱动的最后期限和预算约束(DBC)调度算法分配资源的应用程序的作业,这样的方式,用户的要求得到满足。在本文中,我们提出了一种新的调度算法,称为DBC成本-时间优化,它扩展了DBC成本优化算法,优化时间,保持计算成本最低。这种新的调度算法的优越性,在实现较低的作业完成时间,通过模拟全球范围内的网格和调度任务农业应用程序不同的截止日期和预算的情况下,使用这种新的和成本优化调度算法证明。
2002-03-14 cs.DC
Resource CoAllocation for Scheduling Tasks with Dependencies, in Grid
在广域分布式系统上调度应用程序对于以有效的方式获得快速和可靠的结果是有用的。优化调度算法对于实现资源的优化利用至关重要。现有的和潜在的应用包括许多活动领域,如卫星图像处理和医学。提出了一种网格环境下具有依赖关系的任务调度算法。CoAllocation表示为具有依赖性的任务提供调度的策略,其主要目的是调度的效率,在负载均衡和用于执行任务的最小时间方面。
2011-06-27 cs.DC
Enabling Adaptive Grid Scheduling and Resource Management
网格概念的广泛采用使得科学家和研究人员可以使用越来越多的联合计算、存储和可视化资源。这些资源的分布式和异构性使得大多数传统的集群监控和管理方法不合适,并对此类系统的工作流调度提出了新的挑战。有效的资源利用率监控和高粒度但自适应的测量是一个更有效的网格调度的先决条件。我们提出了一套测量应用程序,能够监控每个进程的资源利用率,和一个可定制的工具,用于模拟观察到的利用率模型。我们还概述了我们未来的工作预测和概率网格调度。该研究是英国电子科学EPSRC与BT合作赞助的SO-GRM(自组织网格资源管理)项目的一部分。
2007-11-02 cs.DC
Scheduling on Grid with communication Delay
并行处理是高性能计算(HPC)的核心,过去是,现在仍然是提高计算机系统速度的最有效途径。在过去的几年里,处理器的计算能力和网络速度的大幅发展已经显著改变了HPC的格局。地理分布的异构系统现在可以合作和共享资源来执行一个应用程序。这种计算基础设施被称为计算网格或网格计算。网格可以看作是一种分布式的大规模集群计算。从另一个角度来看,它构成了云计算系统的主要部分,除了瘦客户端和实用计算[1,2,3]。因此,网格计算吸引了众多的研究者[4]。人们对网格计算的兴趣已经超越了传统的网格计算的范式,转向了无线网格计算[5,6]。
2015-12-09 cs.DC
A Granularity Characterization of Task Scheduling Effectiveness
Northeastern University(东北大学)
本文提出了一种粒度特性框架,通过任务图依赖拓扑结构解释任务调度开销与强标度性能的关系,并为运行时决策提供实用规则。
2026-02-25 cs.DC
Flex: Grid-Responsive Provisioning and Scheduling for Elastic Cloud Clusters
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
CarbonFlex提出一种基于历史集群数据持续学习的碳感知资源供给与调度方法,扩展AWS ParallelCluster实现,在行业负载上较碳无关基线减排约57%,性能接近理想调度器。
2026-10-13 cs.DC
An Economic-based Resource Management and Scheduling for Grid Computing Applications
在网格计算环境中,资源管理和调度是实现资源高效利用的关键。在网格系统中,由于资源的异构性,应用程序的调度是一项非常复杂和具有挑战性的任务。在这方面的研究大多集中在提高网格系统的性能。基于可分负载理论,针对不同类型的工作负载和单个源处理器,已经提出了一些分配模型。本文介绍了一种新的资源分配模型,该模型以多个负荷源处理机作为经济模型。通过线性规划方法,得到了以电网用户成本最小为目标的最优负荷分配方案。结果表明,该资源分配模型能够有效地将工作负载分配到合适的资源上。实验结果表明,该模型在成本和时间上都得到了较好的解决方案。
2010-04-20 cs.DC
Scheduling in Data Intensive and Network Aware (DIANA) Grid Environments
在网格调度决策的基础上,往往是数据或计算密集型的工作:在数据密集型的情况下,工作可能会推到数据和计算密集型的情况下,数据可能会拉到作业。这种调度,其中有没有考虑网络特性,可能会导致性能下降,在网格环境中,并可能导致大的处理队列和作业执行延迟,由于网站过载。在本文中,我们描述了一种数据密集型和网络感知(DIANA)元调度方法,该方法在跨多个站点做出调度决策时考虑数据、处理能力和网络特征。通过一个网格测试平台上的实际实现,我们证明了数据密集型作业的队列和执行时间可以显着改善,当我们引入我们提出的DIANA调度。基本调度决策由每个潜在目标位置的加权因子决定,该加权因子是网络特性、处理周期以及数据位置和大小的计算函数。作业调度器提供计算资源的全局排名,然后基于该总体访问和执行成本来选择最优的计算资源。DIANA方法将网格视为活动网络元素的组合,并将网络特性作为调度决策矩阵中的第一类标准以及计算和数据。然后,调度器可以通过考虑网络的变化状态、数据的位置和大小以及可用处理周期池来做出明智的决策。
2007-07-05 cs.DC
Nimrod/G: An Architecture of a Resource Management and Scheduling System in a Global Computational Grid
强大的微处理器和高速网络作为商品组件的可用性使得分布式系统上的高性能计算(广域集群计算)成为可能。在这种环境中,由于资源通常分布在地理上的各个层次(部门,企业,或世界各地)有一个很大的挑战,在整合,协调和呈现给用户作为一个单一的资源,从而形成一个计算网格。另一个挑战来自资源的分布式所有权,每个资源都有自己的访问策略、成本和机制。建议Nimrod/G网格启用的资源管理和调度系统建立在我们早期的工作Nimrod,并遵循模块化和基于组件的架构,使可扩展性,可移植性,易于开发,独立开发的组件和互操作性。它使用Globus工具包服务,并且可以很容易地进行扩展,以便与任何其他新兴的网格中间件服务一起运行。它侧重于管理和调度的计算在地理上分散在互联网上的部门,企业,或全球一级,特别强调开发调度计划的基础上的概念,计算经济的一个真正的测试床,即Globus测试床(GUSTO)。
2000-09-22 cs.DC
Reducing overheads of dynamic scheduling on heterogeneous chips
在最近的处理器开发中,我们见证了GPU和CPU集成到单个芯片中。这种集成的结果是减少了数据通信开销。这使得两个设备在执行并行工作负载时能够高效协作。在这项工作中,我们专注于在不规则的应用程序的上下文中,有效地调度块的并行循环之间的芯片上的计算设备(GPU和CPU核心)的迭代的问题。特别是,我们分析了主机线程实验时,一块迭代卸载到GPU,而其他线程同时执行CPU核心上的其他块的开销的来源。我们仔细研究这些开销在不同的处理器架构和操作系统使用巴恩斯小屋作为一个研究案例代表不规则的应用程序。我们还提出了一组优化,以减轻出现超额认购的开销,并利用异构体系结构的不同功能。得益于这些优化,我们在英特尔Ivy Bridge和Haswell架构上将能耗延迟乘积(EDP)分别降低了18%和84%,在Exynos big.LITTLE上降低了57%。
2015-01-14 cs.DC
Scheduling of Dependent Tasks Application using Random Search Technique
自网格计算出现以来,相关任务调度问题由于其NP完全的性质一直受到研究者的关注。在网格环境中,调度是指将任务分配到可用资源上。当网格中的任务具有依赖性和资源异构性时,网格调度具有挑战性.相关任务调度的主要目标是最小化完工时间。由于调度问题的NP完全性质,精确解不能有效地生成调度。因此,研究人员采用启发式或随机搜索技术来获得此类问题的最优或接近最优的解决方案。在本文中,我们展示了如何遗传算法可以用来解决相关任务调度问题。我们描述了如何使用随机分配和基于高度的方法生成初始人口。我们还提出了交叉和变异算子的设计,使相关任务的调度应用程序不违反依赖约束。为了实现基于遗传算法的调度,我们探索和分析SimGrid和GridSim仿真工具包。从结果中,我们发现SimGrid是合适的,因为它支持用于DAG应用程序的SimDag API。我们发现基于遗传算法的方法可以在合理的时间内为相关任务应用生成调度,同时尽量减少制造跨度。
2013-04-15 cs.DC
The Impact of Data Replicatino on Job Scheduling Performance in Hierarchical data Grid
在数据密集型应用程序中,数据传输是作业执行延迟的主要原因。数据访问时间取决于带宽。广域网和Internet的高带宽是网格环境下支持快速数据访问的主要瓶颈。有效的调度可以通过将作业分派到存在所需数据的位置来减少通过互联网传输的数据量。另一种解决方案是使用数据复制机制。动态副本策略的目标是减少文件访问时间,从而减少作业运行时间。在本文中,我们提出了一个作业调度策略和一个动态的数据复制策略,称为HRS(分层复制策略),以提高数据访问效率。我们研究我们的方法,并通过模拟评估。结果表明,我们的算法比现有的策略提高了12%。
2010-10-04 cs.DC
DIANA Scheduling Hierarchies for Optimizing Bulk Job Scheduling
在大规模分布式系统中使用元调度器进行资源管理通常会导致调度器的层次结构。在本文中,我们将讨论为什么现有的元调度层次结构有时是不够的网格系统,由于他们无法重新组织工作已经安排在本地。这样的工作重组是需要适应不断变化的负载,这是常见的大量使用的网格基础设施。我们提出了一个对等调度模型,并使用案例研究和数学建模进行评估。我们详细介绍了DIANA(数据密集型和网络意识)调度算法和队列管理系统,以应付负载分布和支持批量作业调度。我们证明,这样的系统是有益的动态,分布式和自组织的资源管理,并可以帮助优化负载或作业分布在复杂的网格基础设施。
2007-07-05 cs.DC
A Computational Economy for Grid Computing and its Implementation in the Nimrod-G Resource Brok
计算网格,耦合地理上分布的资源,如个人电脑,工作站,集群,和科学仪器,已经成为下一代的计算平台,解决大规模的问题,在科学,工程和商业。然而,这些环境中的应用程序开发、资源管理和调度仍然是一项复杂的任务。在这篇文章中,我们将讨论我们的努力,在开发一个资源管理系统调度计算分布在世界各地的资源,不同的服务质量。我们的面向服务的网格计算系统称为Nimrod-G管理与远程执行相关的所有操作,包括资源发现,交易,基于经济原则和用户定义的服务质量要求的调度。Nimrod-G资源代理是通过利用Globus等现有技术实现的,并提供了构建工业强度网格所必需的新服务。我们讨论的初步实验结果调度一些参数计算使用Nimrod-G资源代理在一个世界范围内的网格测试平台,跨越五大洲。
2001-11-17 cs.DC
Alternative Mixed Integer Linear Programming Optimization for Joint Job Scheduling and Data Allocation in Grid Computing
本文针对网格计算中的作业调度与数据分配联合优化问题,提出一种交替固定决策变量并利用MILP求解的混合整数二次约束规划方法,实验证明其显著优于现有启发式方法且具强泛化性与鲁棒性。
2025-02-01 cs.DC
QOS based user driven scheduler for grid environment
由于网格在本质上是异构的、动态的、共享的和分布式的环境,有效地管理这些平台是非常复杂的。一个有前途的可扩展的方法来处理这些复杂性是设计的自主应用程序的自我管理。自治应用通过考虑自身行为和环境条件的知识来相应地调整其执行。基于QoS的网格用户驱动调度为自治应用提供了自优化能力。计算网格通过在物理位置的多台机器上分散单个大型计算,为用户提供解决大规模问题的能力。基于QoS的用户驱动网格调度器通过应用用户定义的调度策略来减少作业的执行时间,从而提高网格系统的可靠性,提高网格的性能。本文的主要目的是在网格节点之间分配计算负载,并开发一种基于QoS的网格调度算法,使网格更加可靠。网格计算系统不同于传统的分布式计算系统,它强调大规模的资源共享,其中处理器和通信对网格计算的可靠性有重要影响。由最终用户从提交到网格执行的应用程序中启动的可靠性功能。基础设施和管理服务的可靠性,这些服务执行网格系统运行所必需的基本功能,例如资源分配和调度。
2011-02-02 cs.DC
A Grid Service Broker for Scheduling Distributed Data-Oriented Applications on Global Grids
下一代科学实验和研究,通常被称为电子科学,是由分布在世界各地的研究人员进行的,他们从事分析科学仪器产生的大量数据。网格计算已经成为电子科学的推动者,因为它允许创建虚拟组织,将具有共同目标的社区聚集在一起。在社区内,数据汇集存储或复制在分布式资源上,以增强存储能力或访问效率。在这样的环境中,科学家需要有能力通过透明地访问分布式数据和计算资源来进行研究。在本文中,我们提出并开发了一个网格代理,通过(a)为给定的分析场景发现合适的数据源,(b)合适的计算资源,(c)最佳地将分析作业映射到资源,(d)在选定的资源上部署和监视作业执行,(e)在作业执行期间从本地或远程数据源访问数据,以及(f)整理和呈现结果。该代理支持用于创建网格应用程序的声明式和动态参数化编程模型。我们已经使用这个模型在网格启用高能物理分析应用程序(百丽分析软件框架)。该经纪人已被用于在网格测试平台上部署Belle实验数据分析工作,称为Belle分析数据网格,分布在澳大利亚各地的资源通过GrangeNet互连。
2004-05-06 cs.DC
A centralized reinforcement learning method for multi-agent job scheduling in Grid
Isfahan University of Technology(伊斯法罕理工大学)
在网格系统中的主要挑战之一是设计一个自适应的,可扩展的,和模型无关的方法来调度作业,以达到理想程度的负载均衡和系统效率。集中式作业调度方法存在单点故障和缺乏可扩展性等缺点。此外,分散的方法需要一个通信有限的协调机制。在本文中,我们提出了一个多智能体的方法,在网格作业调度,命名为集中式学习分布式调度(CLDS),利用强化学习框架。CLDS是一种无模型的方法,它利用作业的信息和它们的完成时间来估计资源的效率。在该方法中,有一个学习者代理和几个调度器代理,执行学习和作业调度的任务,使用的协调策略,保持在有限的水平的通信成本。我们评估的CLDS方法的效率,通过设计和执行一组实验模拟网格系统在不同的系统规模和负载。实验结果表明,CLDS在大规模、重负载的网格环境下仍能有效地平衡系统的负载,同时保持其自适应性能和可扩展性。
2016-09-11 cs.AI cs.DC
Dynamic task scheduling in computing cluster environments
在这项研究中,集群计算环境作为一个计算平台。为了提高系统的运行效率,提出了一种动态任务调度算法,使集群节点之间的负载均衡。该技术是动态的,非抢占式的,自适应的,它使用混合的集中和分散的政策。该算法基于分而治之的原则,将集群建模为超网格,然后在它们之间进行负载均衡。递归地,维度为k的超网格被划分为维度为k - 1的网格,直到维度为1。然后,集群中的所有节点几乎都是同等负载的。选择超网格的最佳维度以实现最佳性能。仿真结果表明了该算法的有效性。此外,我们确定了临界点(下限),该算法可以被触发。
2019-02-21 cs.DC
Optimization of Decentralized Scheduling for Physic Applications in Grid Environments
本文提出了一个调度框架,配置,并在分布式系统中使用。我们的工作解决的问题,调度各种计算密集型和数据密集型的应用程序,需要从卫星图像中提取信息。所提出的解决方案允许将图像处理应用映射到可用资源上。调度是在并发应用程序组的级别上完成的。它在调度和执行应用程序组方面表现出非常好的行为,同时还实现了资源的接近最佳利用率。
2008-12-11 cs.DC physics.comp-ph
A Survey on Dynamic Job Scheduling in Grid Environment Based on Heuristic Algorithms
Nallamuthu Gounder Mahalingam College(纳拉穆图·冈德·马哈林加姆学院)
计算网格是分布式计算系统发展的新趋势。它们允许以有效的方式共享地理上分布的资源,扩展了我们所认为的分布式计算的边界。各种科学可以从使用网格来解决CPU密集型问题中受益,为整个社会创造潜在的利益。作业调度是并行和分布式计算的重要组成部分。它允许为特定作业选择正确的资源匹配,从而提高作业吞吐量和资源利用率。作业应该以自动的方式进行调度,以使系统更可靠、更易访问,并且对子系统故障不太敏感。本文综述了各种启发式算法,用于网格调度。
2014-02-21 cs.AI cs.DC
A Linear Programming Driven Genetic Algorithm for Meta-Scheduling on Utility Grids
网格中的用户级代理考虑单个应用的QoS需求,并在不考虑其他用户需求的情况下使其成本最小化。这会导致资源争用和次优调度。网格中的元调度旨在解决这个调度问题,这是NP难,由于其组合的性质。因此,除了传统的算法如Greedy和FCFS之外,已经提出了许多基于遗传算法的解决方案,使用遗传算法(GA)。我们提出了一个线性规划/并行规划模型(LP/IP)调度这些应用程序的多个资源。我们还提出了一种新的算法LPGA(线性规划驱动的遗传算法),它结合了LP和GA的能力。该算法的目的是获得最佳的元调度公用事业网格,最小化所有用户的联合成本在一个协调的方式。仿真结果表明,我们提出的综合算法提供了最好的时间表具有最小的处理成本可以忽略不计。
2009-03-08 cs.DC cs.NE
Scheduling computations with provably low synchronization overheads
工作窃取已经是一个非常成功的算法调度并行计算,并被称为实现高性能,甚至表现出细粒度的并行计算。我们提出了一个\ws \的变体,它可以通过在默认情况下保持处理器的deque完全私有来避免大多数同步开销,并且只在小偷请求时才公开工作。这是第一篇论文,获得的同步开销的界限是(基本上)独立的总工作量,从而对应于一个很大的改进,在算法设计和理论,超过国家的最先进的\ws \算法。考虑使用我们的调度程序由$P$处理器执行的具有工作$T_{1}$和关键路径长度$T_{\infty}$的任何计算。我们的分析表明,预期的执行时间为$O\left(\frac{T_{1}}{P} + T_{\infty}\right)$,预期的同步开销最多为$O\left(\left(C_{CAS} + C_{MFence}\right)PT_{\infty}\right)$,其中$C_{CAS}$和$C_{MFence}$分别表示执行Compare-And-Swap指令和Memory Fence指令的最大开销。
2019-04-26 cs.DC cs.DS
Improving Waiting Time of Tasks Scheduled Under Preemptive Round Robin Using Changeable Time Quantum
最小化任务在队列中等待执行的时间是一个重要的调度准则,在抢占式任务调度中占有广泛的应用。本文提出了一种结合轮询算法的可变时间量子(Changeable Time Quantum,CTQ)方法,试图根据就绪队列中任务的突发次数来调整时间量子。使用(CTQ)方法有两个重要的好处:最小化任务的平均等待时间,从而最小化平均周转时间;保持上下文切换的数量尽可能少,从而最小化调度开销。在本文中,我们考虑抢占式任务的调度问题,这些任务的时间成本是已知的先验。我们的实验结果表明,CTQ可以提供更低的调度开销和更好的调度标准。
2010-03-28 cs.DC
Divisible Load Scheduling in Mobile Grid based on Stackelberg Pricing Game
如今,在计算系统中使用移动节点作为贡献实体已经变得可行。在本文中,我们考虑了一个计算网格中的移动设备可以共享其空闲资源,实现并行处理。整个计算任务可以被任意划分为多个子任务,以分配给移动资源提供者(RP)。在这个过程中,计算负载调度问题是突出的。基于优化目标,即,提出了一种以最小化任务完成时间为目标的买方-卖方模型,在该模型中,任务发起者可以通过支付一定的利润激励SP共享其计算资源。采用Stackelberg定价博弈(SPG)方法,得到每个SP的最优价格和共享资源量。最后,通过系统仿真对算法的性能进行了评估,结果表明基于SPG的负载调度算法可以显著提高移动网格系统的时间增益。
2015-03-18 cs.DC cs.GT
Take a break: cloud scheduling optimized for real-time electricity pricing
云计算以其弹性的、按需的计算资源方法彻底改变了行业,但也对环境产生了巨大影响。数据中心占全球总用电量的1.1-1.5%。通过分析实时的【形】电价,我们对电网有了更深入的了解,为电网感知云奠定了基础。我们提出了一个调度算法,预测电价峰值和节流能源消耗暂停虚拟机。我们通过实证方法对OpenStack云管理器的方法进行了评估,并显示了能耗和成本的降低。最后,我们定义了绿色实例,在这些实例中,云提供商可以以更好的价格选项向客户提供此类服务。
2013-07-26 cs.DC
SET: Stream-Event-Triggered Scheduling for Efficient CUDA Graph Pipelines
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
针对GPU调度开销和同步延迟问题,提出基于多流任务并行流水线模型和图执行流的CUDA运行时框架,实现1.15-1.44倍加速并减少18-54%调度开销。
2026-06-03 cs.AR cs.DC
FissionReady: Joint Workload and Power Scheduling for Data Centers Powered by Small Modular Reactors
IIT Tirupati(蒂鲁帕蒂印度理工学院);University of Utah(犹他大学);Northeastern University(东北大学)
FissionReady是一种面向SMR供电数据中心的调度器,通过跟踪燃料年龄和氙状态确定运行包络,并采用双时间尺度优化协调负荷跟踪与电网购电,实现零停堆和零截止时间错过,同时大幅降低水耗和电网成本。
2026-10-01 cs.DC
Nimble: Lightweight and Parallel GPU Task Scheduling for Deep Learning
Seoul National University(首尔国立大学)
深度学习(DL)框架利用GPU来提高DL推理和训练的速度。理想情况下,DL框架应该能够充分利用GPU的计算能力,使得运行时间取决于分配给GPU的计算量。然而,我们观察到,在调度GPU任务时,现有的DL框架存在效率低下的问题,例如较大的调度开销和不必要的串行执行。为此,我们提出了Nimble,这是一个DL执行引擎,可以以最小的调度开销并行运行GPU任务。Nimble引入了一种称为提前(AoT)调度的新技术。这里,调度过程在执行GPU内核之前完成,从而在运行时间期间去除大部分调度开销。此外,Nimble通过在单个GPU中利用多个GPU流来自动并行执行GPU任务。对各种神经网络的评估表明,与PyTorch相比,Nimble的推理和训练速度分别提高了22.34 $\times$和3.61 $\times$。此外,Nimble的性能比最先进的推理系统TensorRT和TVM分别高出2.81 $\times$和1.70 $\times$。
2020-12-04 cs.DC cs.LG
Resource and Application Models for Advanced Grid Schedulers
随着网格计算的发展,对动态、异构资源的管理、调度和监控提出了新的挑战。解决方案必须是敏捷和自适应的,支持自组织和自主管理,同时保持最佳的资源利用率。本文提出了在异构网格环境中有效的资源分配的基本原则和体系结构的概念。
2007-11-02 cs.DC
FT-LADS: Fault-Tolerant Object-Logging based Big Data Transfer System using Layout-Aware Data Scheduling
LADS(Layout-Aware Data Acquisition)数据传输工具,识别并解决了在太比特网络环境中导致端到端数据传输路径拥塞的问题。它利用每个端点的底层存储布局来最大化吞吐量,而不会对其他用户的共享存储资源的性能产生负面影响。LADS可以避免共享存储资源内的拥塞存储元件,从而提高输入/输出带宽,并因此提高高速网络上的数据传送率。然而,在LADS中缺乏FT(容错)支持导致数据重传开销以及错误时可能的完整性问题。在本文中,我们提出了基于对象的日志记录方法,以避免传输的对象,这是成功地写入并行文件系统(PFS)在汇端。根据创建的日志文件的数量,对于整个数据集,我们将我们的容错机制分为三个不同的类别:文件日志,事务日志和通用日志。此外,为了解决这些基于对象的日志记录机制的空间开销,我们提出了不同的方法来填充日志记录器文件与完成的对象的信息。我们已经评估了LADS数据传输工具的数据传输性能和恢复时间开销的建议基于对象的日志容错机制。我们的实验结果表明,LADS结合提出的基于对象的容错机制表现出小于1%的开销相对于数据传输时间和总恢复时间开销是在任何故障点的总数据传输时间的10%左右。
2018-05-16 cs.DC
Virtual Laboratory: Enabling On-Demand Drug Design with the World Wide Grid
计算网格是解决科学、工程和商业中大规模计算和数据密集型问题的一种流行模式。然而,在这些环境中的应用程序组合、资源管理和调度是一项复杂的任务。在本文中,我们说明了利用现有的网格技术,使分布式资源上的药物设计的分子建模的虚拟实验室环境的创建。它涉及针对蛋白质靶标、化学数据库(CDB)筛选数百万个化合物分子,以识别那些具有药物设计潜在用途的化合物。我们已经使网格的分子对接过程中组成的参数扫描应用程序使用Nimrod-G工具。然后,我们开发了新的工具,用于远程访问CDB小分子数据库中的分子。Nimrod-G资源代理与分子CDB数据代理一起用于分布式网格资源上作业的调度和按需处理。结果证明了Nimrod-G和虚拟实验室工具的易用性和适用性。
2001-11-17 cs.DC
Data Volume-aware Computation Task Scheduling for Smart Grid Data Analytic Applications
新兴的智能电网应用程序分析从数百万个电表和系统收集的大量数据,以促进分布式监控和实时控制任务。然而,目前的并行数据处理系统都是针对普通应用而设计的,并不知道所采集的数据量巨大,导致智能电网系统在计算过程中数据传输延迟长,响应时间慢。减少延迟的一个有希望的方向是联合调度计算任务和数据传输。我们发现,智能电网的数据分析工作需要不同的计算阶段之间的中间数据进行有序传输,以避免网络拥塞。这一新特性使得当前的调度算法效率低下。在这项工作中,一个集成的计算和通信任务调度方案的建议。给出了智能电网数据分析作业调度问题的数学描述,该问题由于强耦合约束而无法用现有的优化方法求解。几种技术相结合,使其线性化,以适应分支和切割方法。基于作业图中的拓扑信息,进一步提出了拓扑感知的分支割方法,以加快寻优速度。数值结果证明了所提出方法的有效性。
2023-02-02 cs.DC cs.PF cs.SY
Periodic I/O scheduling for super-computers
随着HPC应用对数据需求的不断增长,I/O级的拥塞问题成为超级计算机的关键问题。诸如突发缓冲区和预取之类的架构增强被添加到机器中,但不足以防止拥塞。最近的在线I/O调度策略已经到位,但他们增加了额外的拥塞点和开销的计算应用程序。在这项工作中,我们将展示如何利用HPC应用程序的周期性,以制定有效的定期调度策略,为他们的I/O传输。我们的策略在作业调度阶段计算一次模式,它定义了每个应用程序的I/O行为,之后应用程序独立运行,在指定的时间传输它们的I/O。我们的策略限制了I/O节点级别的I/O拥塞量,并且可以很容易地集成到当前的作业调度器中。我们通过大量的模拟和实验来验证这个模型,并将其与最先进的在线解决方案进行比较,结果表明,我们的调度器不仅具有分散的优势,从而克服了在线调度器的开销,而且它的性能优于这些解决方案,将应用程序扩展提高了13%,最大系统效率提高了18%。
2017-02-22 cs.DC
An Algorithm for File Transfer Scheduling in Grid Environments
针对网格环境下的数据传输调度问题,提出了一种具有动态和自适应特性的集中式调度器。该算法为用户传输请求提供了一个预留系统,该系统根据网络拓扑结构和用户为请求指定的约束来分配传输时间和带宽。本文介绍了与数据传输领域相关的项目,调度器的框架设计,调度器的主要功能,传输请求重新调度的步骤和两个测试,说明系统的行为,不同类型的传输请求。
2009-01-02 cs.DC cs.DS cs.NI
Eventually-Consistent Federated Scheduling for Data Center Workloads
本文扩展联邦式去中心化调度架构 Megha,利用并行性与最终一致全局状态缓解大规模数据中心的次优放置问题,并通过仿真和123节点集群实验证明其可持续降低作业完成延迟。
2023-08-20 cs.DC
Eva: Cost-Efficient Cloud-Based Cluster Scheduling
Eva调度器利用保留价格优化云端集群实例供给与任务分配,并权衡迁移开销与供给节省,在AWS EC2上实现成本降低42%而JCT仅增加15%。
2025-03-10 cs.DC
Dynamic scheduling of virtual machines running hpc workloads in scientific grids
采用虚拟化的主要动机是资源隔离、容量管理和资源定制,允许资源提供商将其资源整合到虚拟机中。已经采取了各种方法来将虚拟化集成到科学网格中,特别是在高性能计算(HPC)的领域中,以在虚拟机中运行网格作业,从而能够更好地提供底层资源并在运行时定制执行环境。尽管有这些好处,但虚拟化层也会带来性能损失,而且还没有很好地理解这种开销将如何影响系统的性能,其中作业的调度时间很紧。由于这种开销会改变工作负载的类型,无论它们是内存密集型,CPU密集型还是网络I/O绑定,并且可能导致系统中运行作业的不可预测的截止日期估计。在我们的研究中,我们试图通过开发一种智能调度技术来解决这个问题,该技术用于监控虚拟机的工作负载类型和最后期限,并实时的计算系统开销,以最大限度地提高在商定的最后期限内完成的作业数量。
2010-09-24 cs.DC cs.DS cs.PF
Near-Optimal Distributed Scheduling Algorithms for Regular Wireless Sensor Networks
无线传感器网络通常以资源受限的节点为特征。由于在这些网络中,通信的能量消耗最大,因此最大限度地减少这种开销非常重要。我们考虑规则的多跳无线传感器网络中的最小长度节点调度。我们提出了无冲突的分布式调度算法,基于TDMA的空间复用,不使用消息传递,这节省了通信开销。我们开发的算法使用基于图的k跳干扰模型,并表明在规则的网络中的调度复杂度是独立的节点的数量和变化的二次方与k,这通常是一个非常小的数字。我们遵循它的特征可行性区域的SINR参数空间中的恒定的复杂性继续保持,同时满足的SINR标准。使用模拟,我们评估我们的解决方案对随机网络部署的效率。
2013-01-23 cs.DC cs.NI
DAS: Dynamic Adaptive Scheduling for Energy-Efficient Heterogeneous SoCs
特定领域的片上系统(DSoCs)旨在弥合专用集成电路(ASIC)和通用处理器之间的差距。传统的操作系统(OS)调度器可能会破坏DSSoC的潜力,因为它们的执行时间可能比任务本身的执行时间大几个数量级。为了解决这个问题,我们提出了一个动态自适应调度(DAS)框架,结合了快速(低开销)调度器和缓慢(复杂,高性能,但高开销)调度器的好处。五个真实世界的流媒体应用程序的实验表明,DAS始终优于快速和缓慢的路由器。对于40种不同的工作负载,DAS在低数据率下实现了平均1.29倍的加速比,与复杂的调度器相比EDP降低了45%,在工作负载复杂性增加时,DAS实现了平均1.28倍的加速比,与快速调度器相比EDP降低了37%。
2021-09-22 cs.AR cs.DC
Distributed Optimal Vehicle Grid Integration Strategy with User Behavior Prediction
近年来,随着电动汽车的普及,电动汽车充电对电网的影响越来越大。本文提出了一种将智能电动汽车充电与V2G电网服务相结合的优化调度算法,将电动汽车作为分布式能源接入电网,提高系统性价比。具体地,根据来自聚合控制中心的控制信号和通过均值估计和线性回归的用户充电行为预测,在每个EV充电站处制定和求解最优化问题。控制中心定期收集分布式优化结果并更新控制信号。迭代继续,直到它收敛到最优调度。实验结果表明,该算法能够在满足单个司机能量需求的同时,对微电网内的电力负荷曲线进行填谷削峰。
2017-03-13 cs.DC math.OC
Mitigating context switching in densely packed Linux clusters with Latency-Aware Group Scheduling
本文针对高密度 Linux 集群中因大量并发 cgroup 导致的上下文切换开销倍增问题,提出延迟感知组调度方法,通过优先任务完成而非逐任务公平性来加速运行队列清空,在集群规模缩小 28% 的情况下实现相同有效性能。
2025-08-21 cs.DC cs.OS