A Reinforcement Learning-Driven Task Scheduling Algorithm for Multi-Tenant Distributed Systems
本文提出了一种基于强化学习的自适应任务调度方法，利用PPO算法建模马尔可夫决策过程，联合优化任务延迟、资源利用率和租户公平性，实验证明其在多场景下优于现有方法。
2025-08-11 cs.DC
Optimizing Task Placement and Online Scheduling for Distributed GNN Training Acceleration
在大型图上训练图神经网络（GNN）是资源密集型和耗时的，主要是由于大型图数据无法放入单个机器的内存中，而是必须从分布式图存储中获取并随时处理。与分布式深度神经网络（DNN）训练不同，分布式GNN训练的瓶颈主要在于用于构建小批量训练样本的大型图数据传输。现有的解决方案通常提倡数据计算托管，并且在托管不可行的情况下不能很好地与有限的资源一起工作。任务的战略布局和数据传输与任务执行的优化调度的潜力还没有得到很好的开发。为了提高资源利用率，改善执行流水线，加快训练完成速度，设计了一种高效的分布式GNN训练任务放置和执行调度算法框架。我们的框架由两个模块组成：（i）一个在线调度算法，调度训练任务的执行，和数据传输计划;和（ii）一个探索性的任务布局方案，决定每个训练任务的位置。我们进行了深入的理论分析，测试床实验和模拟研究，并观察到与代表性基线相比，我们的算法的训练速度提高了67%。
2022-04-24 cs.DC
A Workflow-Forecast Approach To The Task Scheduling Problem In Distributed Computing Systems
本文的目的是为学术目的的高性能计算系统提供基于深度学习的调度方法的描述。在TOP500超级计算机站点中，学术用途的分布式计算系统（DCS）的份额达到17.4个百分点（性能指标为15.6个百分点），使其成为一个有价值的研究对象。该方法的核心是利用深度学习算法，根据先前提交的任务预测系统未来的工作流程。资源管理系统（RMS）使用预测任务的信息来执行有效的调度。
2013-10-06 cs.DC
GridSim: A Toolkit for the Modeling and Simulation of Distributed Resource Management and Scheduling for Grid Computing
集群、网格和对等（P2P）网络已成为下一代并行和分布式计算的流行范例。在这种大规模的分布式系统中，资源的管理和应用程序的调度是一项复杂的任务。为了证明资源代理和相关调度算法的有效性，需要在不同的场景下评估它们的性能，例如不同数量的资源和具有不同需求的用户。在网格环境中，由于资源和用户分布在多个组织中，并且具有各自的策略，因此很难甚至不可能以可重复和可控的方式执行调度器性能评估。为了克服这个限制，我们已经开发了一个基于Java的离散事件网格仿真工具包GridSim。该工具包支持异构网格资源（时间和空间共享）、用户和应用程序模型的建模和仿真。它为应用程序任务的创建、任务到资源的映射及其管理提供了原语。为了证明GridSim工具包的适用性，我们模拟了Nimrod-G网格资源代理和评估的最后期限和预算约束的成本和时间最小化调度算法的性能。
2002-03-14 cs.DC
Distributed joint dynamic maintenance and production scheduling in manufacturing systems: Framework based on model predictive control and Benders decomposition
根据状态和系统的退化程度来安排维护，可以提高系统的可靠性，同时使维护成本最小化。由于退化水平动态变化，在系统的操作，我们面临着一个动态的维护调度问题。在本文中，我们解决了制造系统的动态维护调度的基础上，其退化水平。制造系统由几个单元组成，这些单元具有定义的能力和单独的动态退化模型，寻求优化其回报。这些单位出售其生产能力，同时根据降级状态维护系统以防止故障。制造单位共同负责满足系统的需求。这引起了代理之间的耦合约束。因此，我们面临着一个大规模的混合整数动态维修调度问题。为了处理系统的动态模型和大规模优化，我们提出了一种分布式算法，使用模型预测控制（MPC）和Benders分解方法。在该算法中，首先，主问题获得所有代理的维修计划，然后在此基础上，代理获得他们的最佳生产使用的分布式MPC方法，采用对偶分解的方法来解决代理之间的耦合约束。最后通过实例验证了该方法的有效性。
2020-11-27 cs.DC
Model-driven Scheduling for Distributed Stream Processing Systems
随着物联网（IoT）的发展，分布式流处理框架被普遍使用。这些框架旨在通过伸缩来适应动态输入消息速率。Apache Storm最初由Twitter开发，是一个广泛使用的流处理引擎，其他包括Flink，Spark流。为了保证流媒体应用的成功运行，需要知道流媒体应用的最优资源需求，而过高的资源估计会增加额外的成本，因此需要一些策略来为给定的流媒体应用提出最优的资源需求。在这篇文章中，我们提出了一个模型驱动的方法调度流应用程序，有效地利用先验知识的应用程序提供可预测的调度行为。具体来说，我们使用应用程序性能模型来提供所需的资源分配的可靠估计。此外，这种直觉还驱动资源映射，并有助于缩小估计和实际的低性能和资源利用率。总之，这种模型驱动的调度方法给出了用于在分布式资源上以目标输入流速率执行给定DSPS应用的可预测的应用性能和资源利用行为。
2017-02-06 cs.DC
Multiple Workflows Scheduling in Multi-tenant Distributed Systems: A Taxonomy and Future Directions
工作流是一个通用概念，代表自动化流程以及数据流。自动化确保流程按顺序执行。因此，该功能吸引了来自各种背景的用户来构建工作流。然而，计算需求是巨大的，为这些工作流投资专用基础设施并不总是可行的。为了满足更广泛的需求，开始构建用于执行工作流的多租户平台。在本文中，我们确定的问题和挑战，坚持多个工作流调度的平台。我们提出了一个详细的分类，从现有的解决方案调度和资源配置方面的调查，在这方面的相关工作。提出了多租户分布式系统中多工作流调度问题的研究所面临的问题和挑战。
2019-05-22 cs.DC
QoE-oriented Dependent Task Scheduling under Multi-dimensional QoS Constraints over Distributed Networks
针对分布式网络中依赖任务调度忽视多维QoS和应用满意度的问题，提出QoE成本模型及分层多队列任务调度算法HMTSA，以最小化总体QoE成本，显著提升应用满意度。
2023-12-29 cs.DC
Optimal CPU Scheduling in Data Centers via a Finite-Time Distributed Quantized Coordination Mechanism
在本文中，我们分析了数据中心的最优任务调度问题。给定可用的资源和任务，我们提出了一个快速的分布式迭代算法，该算法在一个大规模的节点网络上运行，并允许每个互连的节点在有限数量的时间步长内达成协议的最优解。更具体地，算法（i）保证在有限数量的时间步中收敛到精确的最优调度计划，并且（ii）一旦实现任务调度的目标，它就表现出分布式停止能力（即，它允许节点分布式地确定它们是否可以终止算法的操作）。此外，所提出的算法仅对量化值（即，在相邻代理之间存储、处理和交换的信息经受确定性统一量化）并且依赖于事件驱动更新（例如，以减少能量消耗、通信带宽、网络拥塞和/或处理器使用）。我们还提供了例子来说明所提出的算法的操作，性能和潜在的优势。最后，通过使用广泛的经验评估，通过模拟，我们表明，该算法具有最先进的性能。
2021-04-07 cs.DC
Distributedness based scheduling
本文提出一种基于资源使用量级和模式标签的 Kubernetes 调度策略，通过计算分布度因子优化 Pod 放置并支持模拟重调度，以提升云原生集群的资源均衡性和利用效率。
2025-06-03 cs.DC
Toward Efficient Online Scheduling for Distributed Machine Learning Systems
近年来，分布式机器学习（ML）框架迅速发展，这些框架利用计算集群的大规模并行性来加速ML训练。然而，分布式ML框架的激增也在计算系统设计和优化方面带来了许多独特的技术挑战。在支持大量训练任务的网络化计算集群中，一个关键问题是如何设计高效的调度算法，在不同的机器上分配工人和参数服务器，以最小化总的训练时间。为此，在本文中，我们开发了一个在线调度算法，共同优化资源分配和局部决策。我们的主要贡献有三个方面：（1）提出了一个新的分析模型，该模型同时考虑了资源分配和局部性;（2）基于等价的重新表述和对工作参数服务器局部性配置的观察，我们将问题转化为一个混合填充和覆盖整数规划问题，使得近似算法设计成为可能;（3）提出了一种基于随机舍入的近似算法，并对其性能进行了严格的分析。总的来说，我们的研究结果有助于分布式ML系统优化和算法设计的最新发展。
2022-05-12 cs.DC
Scheduling of Distributed Applications on the Computing Continuum: A Survey
本文综述了计算连续体中分布式应用调度研究，系统梳理了面向云、雾、边缘异构环境的目标、方法与评估工具，为NP难资源分配与调度问题提供参考。
2024-01-20 cs.DC
TF-DDRL: A Transformer-enhanced Distributed DRL Technique for Scheduling IoT Applications in Edge and Cloud Computing Environments
针对边缘与云计算中物联网应用调度的动态性、多任务依赖等挑战，提出融合Transformer、PER与离策略校正的分布式DRL调度技术TF-DDRL，在多类成本指标上较同类方法最高降幅达60%。
2024-10-31 cs.DC
DeFT: Mitigating Data Dependencies for Flexible Communication Scheduling in Distributed Training
针对分布式数据并行训练中通信调度现有方案的三大缺陷，提出DeFT方案，将调度转化为多背包问题，通过延迟更新等技术发掘重叠机会并保障精度，实验验证其在多基准上实现显著加速。
2025-03-21 cs.DC
Data-Locality-Aware Task Assignment and Scheduling for Distributed Job Executions
针对无未来作业到达先验信息的分布式作业执行，本文提出OBTA、扩展WF并设计RD启发式与最短预估时间优先排序，以降低作业完成时间和计算开销。
2025-07-27 cs.DC
Online Job Scheduling in Distributed Machine Learning Clusters
如今，大规模分布式机器学习系统已被部署以支持IT公司的各种分析和智能服务。为了训练大型数据集并导出预测/推理模型，例如，在深度神经网络中，多个工作器并行运行以训练输入数据集的分区，并更新共享模型参数。在处理多个训练作业的共享集群中，一个基本问题是如何有效地调度作业并设置每个作业的并发工作者数量，从而最大限度地利用服务器资源并及时完成模型训练。针对一个分布式机器学习系统，使用参数服务器框架，我们设计了一个在线算法调度到达的作业，并决定调整的并发工人和参数服务器的数量为每个作业在其过程中，以最大限度地提高所有作业的整体效用，视其完成时间而定。我们的在线算法设计利用原始-对偶框架以及高效的对偶子程序，以多项式时间复杂度实现良好的长期性能保证。在线算法的实际有效性进行评估，使用跟踪驱动的模拟和测试床实验，这表明其优于目前的云系统中常用的调度算法相比。
2018-01-03 cs.DC
Raptor: Distributed Scheduling for Serverless Functions
针对可并行无服务器工作流的延迟与故障率问题，提出分布式调度器Raptor，利用超大规模下函数执行的统计独立性优化性能，实验验证其在跨三可用区部署的RSA密钥生成任务中延迟提升可通过指数随机变量准确预测。
2024-12-13 cs.DC
Online Distributed Scheduling on a Fault-prone Parallel System
我们考虑一个并行系统的$m$相同的机器容易发生不可预测的崩溃和重新启动，试图应付不断到来的任务要执行。任务具有不同的计算要求（即，处理时间或大小）。任务的流程、大小以及机器的崩溃和重启都被假设为由对手控制。然后，我们重点研究了在线分布式算法的任务的有效调度。我们使用竞争分析，考虑作为效率度量的完成负载，即，已完成任务的聚合大小。我们首先提出了最佳的完成负载竞争力算法时，可以注入的对手的不同的任务大小的数量是有界的。(It众所周知，如果没有限制，竞争力是无法实现的。我们首先考虑只有两种不同的任务大小，然后进行$k$不同的，在这两种情况下，最佳的完成负载的竞争力可以实现。然后，我们考虑有某种形式的资源增加的可能性，允许调度算法运行加速$s \geq 1$。在这种情况下，我们表明，所有的工作保存调度算法的竞争力可以通过使用足够大的加速比增加。
2016-03-18 cs.DC
Scheduling in distributed systems: A cloud computing perspective
调度本质上是一个决策过程，它通过确定活动在可用资源集上的执行顺序来实现多个活动之间的资源共享。分布式系统的出现给计算机系统的调度带来了新的挑战，包括集群、网格和最近的云。另一方面，过多的研究，使它很难为新人的研究人员理解不同的调度问题和文献中提出的策略之间的关系，这阻碍了新的和相关的研究途径的识别。在本文中，我们介绍了分布式系统中的调度问题的分类，提出了一个分类法，结合最近的发展，特别是那些在云计算。我们回顾了调度文献，以证实分类和分析的兴趣，在不同的分支提出的分类。最后，我们确定相关的未来方向，在分布式系统的调度。
2019-01-10 cs.DC cs.DS
iDDS: Intelligent Distributed Dispatch and Scheduling for Workflow Orchestration
Brookhaven National Laboratory（布鲁克海文国家实验室）；University of Texas at Arlington（德克萨斯大学阿灵顿分校）；University of Pittsburgh（匹兹堡大学）
iDDS是一种智能分布式调度系统，通过整合数据感知执行和可编程工作流，实现大规模分布式科学计算中的高效工作流编排与自动化处理。
2025-12-20 cs.DC
Adaptive Fixed Priority End-To-End Imprecise Scheduling In Distributed Real Time Systems
在端到端分布式实时的系统中，任务可以在不同的处理器上顺序执行。端到端任务的响应时间不能超过端到端任务的截止时间，才能将该任务视为可执行任务。在瞬时过载期间，可能错过最后期限或处理器可能饱和。不精确计算技术是通过权衡精确性和及时性来克服上述问题的一种方法。通过扩展现有的集成框架，我们开发了一个不精确的集成框架，用于在分布式实时的系统中调度固定优先级的端到端任务。为了满足不精确计算的要求，我们设计了一种新的优先级分配方案，称为全局强制相关方案。我们设计了一个处理器利用率调整算法，当处理器利用率大于1时，该算法可以减少处理器的负载。我们还扩展了在旧框架中提出的可扩展性分析算法，以允许自适应优先级分配，并满足不精确的计算概念。仿真结果表明，我们的新框架是更可靠和可预测的比现有的框架在瞬态过载期间。
2013-06-03 cs.DC
GADGET: Online Resource Optimization for Scheduling Ring-All-Reduce Learning Jobs
在分布式深度学习（Distributed Deep Learning，简称EML）的推动下，近年来，人们对资源密集型分布式/并行计算的需求迅速增长，以处理EML计算作业。为了解决分布式计算中的网络通信瓶颈和负载均衡问题，越来越多地采用所谓的"环全减“分散式架构来消除对专用参数服务器的需要。然而，到目前为止，仍然缺乏理论上的理解，如何设计资源优化算法，有效地调度计算集群中的环所有减少的并行作业。这促使我们提出了一系列新的资源调度设计，以填补这一空白的环所有减少的可重构作业。我们在本文中的贡献是三方面的：i）我们提出了一个新的资源调度分析模型，用于环全归约深度学习，它涵盖了性能优化中的广泛目标（例如，过度训练避免，能源效率，公平性）; ii）基于所提出的性能分析模型，我们开发了一种高效的资源调度算法，称为GADGET（贪婪环-全部-减少分布式图嵌入技术），它享有可证明的强性能保证; iii）我们进行了广泛的跟踪驱动的实验，以证明GADGET方法的有效性及其优于现有技术的优势。
2022-02-02 cs.DC
Flexible Scheduling of Distributed Analytic Applications
这项工作解决了调度用户定义的分析应用程序，我们定义为高层次的组合框架，它们的组件，以及必要的逻辑进行工作的问题。我们应用程序定义中的关键思想是区分组件的类别，包括刚性和弹性类型：前者是应用程序取得进展所需的，后者有助于减少执行时间。我们发现，调度这样的应用程序的问题提出了新的挑战，现有的方法解决效率低下。因此，我们提出了一种新的，灵活的启发式调度分析应用程序的设计和评估，其目的是在高系统的响应能力，通过有效地分配资源。我们的算法使用跟踪驱动的模拟进行评估，大规模的真实系统跟踪：我们灵活的调度程序优于基线方法在各种指标，包括应用程序的周转时间，和资源分配效率。我们还提出了一个成熟的系统，我们称之为佐伊，它结合了本文提出的想法的设计和评估，并报告具体的改进，在效率和性能方面，相对于我们的系统的前几代。
2016-12-07 cs.DC
FlowMoE: A Scalable Pipeline Scheduling Framework for Distributed Mixture-of-Experts Training
FlowMoE提出统一流水线调度框架，覆盖MHA、门控、专家计算及A2A通信，并通过张量块优先级机制重叠全归约通信，显著降低训练时间、能耗和内存使用。
2025-10-07 cs.DC
Simple and Effective Distributed Computing with a Scheduling Service
高吞吐量计算项目需要解决大量问题。在许多情况下，这些问题可以在桌面PC上解决，或者可以分解为独立的“PC可解决”子问题。在这种情况下，这些项目是高性能计算项目，但这仅仅是因为所需计算的绝对数量。我们简要介绍了我们的努力，以增加这样一个项目的吞吐量。然后，我们将解释如何轻松地设置一个由运行Windows 95、98、2000或NT的标准联网PC组成的分布式计算设施。该设施不需要特殊的软件或硬件，涉及很少或不涉及应用软件的重新编码，并且对PC的所有者几乎看不见地操作。根据所招募的PC的数量和质量，性能可以与超级计算机相媲美。
2001-06-15 cs.DC
Isolated Scheduling for Distributed Training Tasks in GPU Clusters
本文针对GPU集群中分布式训练的网络争用问题，提出vClos方法通过联合优化网络拓扑和通信模式消除争用，并引入OCS-vClos减少资源碎片化，实验证明其优于现有调度策略。
2023-08-10 cs.DC
Analysis of Workflow Schedulers in Simulated Distributed Environments
任务图提供了一种简单的方法来描述可以在HPC集群和云中执行的科学工作流（具有依赖关系的任务集）。执行这种图的一个重要方面是所使用的调度算法。许多调度算法已被提出在现有的作品，然而，他们往往是在过于简化的环境中进行测试。我们提供了一个可扩展的模拟环境，专为原型和基准任务的执行，其中包含各种调度算法的实现，是开源的，以完全可再现。我们使用这个环境来执行一个全面的分析工作流调度算法的重点是量化的调度挑战，迄今为止大多被忽视的影响，如调度程序调用或部分未知的任务持续时间之间的延迟。我们的研究结果表明，许多以前的作品所使用的网络模型可能会产生的结果是由一个数量级相比，一个更现实的模型。此外，我们表明，某些经常被忽视的调度算法的实现细节可以有很大的影响调度器的性能，因此，他们应该非常详细地描述，使适当的评估。
2022-04-14 cs.DC
DIANA Scheduling Hierarchies for Optimizing Bulk Job Scheduling
在大规模分布式系统中使用元调度器进行资源管理通常会导致调度器的层次结构。在本文中，我们将讨论为什么现有的元调度层次结构有时是不够的网格系统，由于他们无法重新组织工作已经安排在本地。这样的工作重组是需要适应不断变化的负载，这是常见的大量使用的网格基础设施。我们提出了一个对等调度模型，并使用案例研究和数学建模进行评估。我们详细介绍了DIANA（数据密集型和网络意识）调度算法和队列管理系统，以应付负载分布和支持批量作业调度。我们证明，这样的系统是有益的动态，分布式和自组织的资源管理，并可以帮助优化负载或作业分布在复杂的网格基础设施。
2007-07-05 cs.DC
Resource Allocation and Workload Scheduling for Large-Scale Distributed Deep Learning: A Survey
Artificial Intelligence Research Institute, Shenzhen MSU-BIT University（深圳北理莫斯科大学人工智能研究院）；Guangdong-Hong Kong-Macao Joint Laboratory for Emotional Intelligence and Pervasive Computing, Shenzhen MSU-BIT University（深圳北理莫斯科大学粤港澳情感智能与普适计算联合实验室）；School of Information Science and Engineering, Lanzhou University（兰州大学信息科学与工程学院）；Department of Electrical and Computer Engineering, The University of British Columbia（不列颠哥伦比亚大学电气与计算机工程系）
该综述系统梳理2019–2024年大规模分布式深度学习在训练与推理中的资源分配和工作负载调度研究，分析资源类型、调度粒度、性能目标、异构性与容错等挑战，并以大语言模型训练为例展望未来方向。
2024-06-12 cs.AI cs.DC
SLAQ: Quality-Driven Scheduling for Distributed Machine Learning
使用大型数据集训练机器学习（ML）模型可能会在共享群集上引发严重的资源争用。这种训练通常涉及许多迭代，不断提高模型的质量。然而，在探索性环境中，通过将资源引导到最有改进潜力的工作上，可以更快地获得更好的模型。我们描述了SLAQ，一个用于近似ML训练作业的集群调度系统，旨在最大限度地提高整体作业质量。在分配集群资源时，SLAQ会探索多个作业之间的质量-运行时权衡，以最大限度地提高系统范围的质量。为此，SLAQ利用ML训练算法的迭代本质，从并发作业中收集质量和资源使用信息，然后为未来迭代生成高度定制的质量改进预测。实验表明，与资源公平性优化器相比，SLAQ在大量ML训练作业上实现了高达73%的平均质量改进和高达44%的平均延迟减少。
2018-02-13 cs.DC
Hierarchical Dynamic Loop Self-Scheduling on Distributed-Memory Systems Using an MPI+MPI Approach
计算密集型循环是科学应用中并行性的主要来源。这样的循环通常是不规则的，并且它们的循环迭代的平衡执行对于实现高性能是至关重要的。然而，有几个因素可能导致不平衡的负载执行，例如问题特征、算法和系统变化。动态循环自调度（DLS）技术的目的是减轻这些因素，从而提高应用程序的性能。在分布式存储器系统上，DLS技术可以使用分层的主-工作者执行模型来实现，因此被称为分层DLS技术。这些技术在两个硬件并行级别上自调度循环迭代：跨计算节点和计算节点内。结合消息传递接口（MPI）和开放多处理（OpenMP）的混合编程方法主导了分层DLS技术的实现。MPI-3标准包括在MPI进程之间共享内存区域的特性。该特性引入了MPI+MPI方法，简化了并行科学应用程序的实现。本工作设计和实现分层DLS技术，利用MPI+MPI的方法。四个众所周知的DLS技术被认为是在这里提出的评估。结果表明，所提出的方法相比，混合MPI+OpenMP方法的某些性能优势。
2019-03-22 cs.DC
Efficient Optimal Algorithm of Task Scheduling in Cloud Computing Environment
云计算是分布式计算中的一种新兴技术，它是一种按用户需求付费的计算模式，云计算由一组虚拟机组成，包括计算和存储设备。云计算的主要目的是提供对远程和地理上分布的资源的有效访问。云计算在不断发展的同时也面临着许多挑战，调度就是其中之一。调度是指一组策略，用于控制计算机系统执行的工作顺序。一个好的调度器会根据不断变化的环境和任务类型来调整其调度策略。在这篇研究论文中，我们提出了一个广义优先级算法的有效执行任务和比较FCFS和轮循调度。在Cloud Sim工具包中对算法进行了测试，结果表明该算法比传统的调度算法具有更好的性能。
2014-04-08 cs.DC
Scheduling Data-Intensive Workloads in Large-Scale Distributed Systems: Trends and Challenges
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
该研究针对大数据背景下数据密集型工作负载的调度挑战，提出了负载分类方法，梳理了大规模分布式系统中的常用调度策略与新型方案，并指明了开放挑战与未来方向。
2025-10-29 cs.DC
Prediction-Assisted Online Distributed Deep Learning Workload Scheduling in GPU Clusters
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究中心）
针对GPU集群中混合并行分布式深度学习训练的高效调度需求，提出结合随机森林迭代预测的A-SRPT算法，通过将问题映射为单机最优调度实例实现理论高效的作业分配，经实验验证了有效性。
2025-01-09 cs.DC cs.LG
Optimizing Distributed Networking with Big Data Scheduling and Cloud Computing
本文研究分布式网络中的大数据调度问题，结合云计算与软件定义网络分析数据管理的机遇和挑战，指出云环境大数据调度及 coflow 调度算法是未来网络优化重点。
2023-11-08 cs.DC cs.NI
Nimrod/G: An Architecture of a Resource Management and Scheduling System in a Global Computational Grid
强大的微处理器和高速网络作为商品组件的可用性使得分布式系统上的高性能计算（广域集群计算）成为可能。在这种环境中，由于资源通常分布在地理上的各个层次（部门，企业，或世界各地）有一个很大的挑战，在整合，协调和呈现给用户作为一个单一的资源，从而形成一个计算网格。另一个挑战来自资源的分布式所有权，每个资源都有自己的访问策略、成本和机制。建议Nimrod/G网格启用的资源管理和调度系统建立在我们早期的工作Nimrod，并遵循模块化和基于组件的架构，使可扩展性，可移植性，易于开发，独立开发的组件和互操作性。它使用Globus工具包服务，并且可以很容易地进行扩展，以便与任何其他新兴的网格中间件服务一起运行。它侧重于管理和调度的计算在地理上分散在互联网上的部门，企业，或全球一级，特别强调开发调度计划的基础上的概念，计算经济的一个真正的测试床，即Globus测试床（GUSTO）。
2000-09-22 cs.DC
A Grid Service Broker for Scheduling Distributed Data-Oriented Applications on Global Grids
下一代科学实验和研究，通常被称为电子科学，是由分布在世界各地的研究人员进行的，他们从事分析科学仪器产生的大量数据。网格计算已经成为电子科学的推动者，因为它允许创建虚拟组织，将具有共同目标的社区聚集在一起。在社区内，数据汇集存储或复制在分布式资源上，以增强存储能力或访问效率。在这样的环境中，科学家需要有能力通过透明地访问分布式数据和计算资源来进行研究。在本文中，我们提出并开发了一个网格代理，通过（a）为给定的分析场景发现合适的数据源，（b）合适的计算资源，（c）最佳地将分析作业映射到资源，（d）在选定的资源上部署和监视作业执行，（e）在作业执行期间从本地或远程数据源访问数据，以及（f）整理和呈现结果。该代理支持用于创建网格应用程序的声明式和动态参数化编程模型。我们已经使用这个模型在网格启用高能物理分析应用程序（百丽分析软件框架）。该经纪人已被用于在网格测试平台上部署Belle实验数据分析工作，称为Belle分析数据网格，分布在澳大利亚各地的资源通过GrangeNet互连。
2004-05-06 cs.DC
Distributed Wake-Up Scheduling for Energy Saving in Wireless Networks
减少无线通信设备的能量消耗的常规解决方案是周期性地将无线电设备置于低功率睡眠方式。一个相关的问题是以这样的方式调度节点的唤醒，以确保设备之间的适当协调，尊重延迟约束，同时仍然节省能量。在本文中，我们介绍了一个简单的代数表征的问题下的能量消耗和延迟约束的周期性唤醒调度。我们证明了唤醒待用时间协调的一般问题是等价于整数分解，并讨论了设计高效的调度算法的影响。然后，我们提出了简单的多项式时间的启发式算法，可以实现在一个分布式的方式，并提出了一个消息的复杂性的数量级的链接在网络中。数值结果提供，以评估所提出的技术应用于无线传感器网络时的性能。
2011-06-08 cs.DC cs.NI
WORKSWORLD: A Domain for Integrated Numeric Planning and Scheduling of Distributed Pipelined Workflows
本文提出WORKSWORLD领域，用于永久调度工作流的数值无关规划器，通过定义数据源、组件和目标，解决联合规划与调度问题，实验证明在普通硬件上可处理最多14个组件的线性链工作流。
2026-03-18 cs.AI cs.DC
Near-Optimal Distributed Scheduling Algorithms for Regular Wireless Sensor Networks
无线传感器网络通常以资源受限的节点为特征。由于在这些网络中，通信的能量消耗最大，因此最大限度地减少这种开销非常重要。我们考虑规则的多跳无线传感器网络中的最小长度节点调度。我们提出了无冲突的分布式调度算法，基于TDMA的空间复用，不使用消息传递，这节省了通信开销。我们开发的算法使用基于图的k跳干扰模型，并表明在规则的网络中的调度复杂度是独立的节点的数量和变化的二次方与k，这通常是一个非常小的数字。我们遵循它的特征可行性区域的SINR参数空间中的恒定的复杂性继续保持，同时满足的SINR标准。使用模拟，我们评估我们的解决方案对随机网络部署的效率。
2013-01-23 cs.DC cs.NI
Preble: Efficient Distributed Prompt Scheduling for LLM Serving
University of California, San Diego（加利福尼亚大学圣迭戈分校）
Preble 是首个面向提示共享的分布式 LLM 服务平台，通过新调度算法和分层调度机制协同优化 KV 状态重用与负载均衡，在真实负载下平均延迟和 p99 延迟显著优于现有系统。
2024-10-03 cs.DC cs.LG
Efficient Algorithms for Maximum Link Scheduling in Distributed Computing Models with SINR Constraints
无线网络中的一个基本问题是最大链路调度问题：给定一组链路$L$，计算可以在没有干扰的情况下同时调度的链路的最大可能子集$L'\subseteq L$。这个问题在基于SINR约束的物理干扰模型（称为SINR模型）中尤其具有挑战性，该模型近年来已经获得了很多关注。已经针对该问题开发了常数因子近似算法，但是在SINR模型中给出相同近似保证的低复杂度分布式算法是未知的。分布式算法是特别具有挑战性的，在这个模型中，因为它的非局部性。在本文中，我们开发了一套快速分布式算法的SINR模型，提供恒定的近似下均匀功率分配的最大链路调度问题。我们发现，不同方面的可用技术，如全/半双工通信，和非自适应/自适应功率控制，算法的性能有显着的影响，这些问题还没有被探索的背景下，分布式算法的SINR模型之前。我们的算法的运行时间是$O(g(L) \log^c m)$，其中$c=1,2,3$用于不同的问题实例，而$g(L)$是由通信链路长度的对数标度确定的“链路分集”。由于$g(L)$是小的，在大多数情况下，保持在一个恒定的范围内，我们的算法作为第一组“次线性”的时间分布的解决方案。该算法是随机的，关键是在分布式通信步骤中使用物理载波侦听。
2012-11-16 cs.DC cs.DS
A Survey on Dynamic Job Scheduling in Grid Environment Based on Heuristic Algorithms
Nallamuthu Gounder Mahalingam College（纳拉穆图·冈德·马哈林加姆学院）
计算网格是分布式计算系统发展的新趋势。它们允许以有效的方式共享地理上分布的资源，扩展了我们所认为的分布式计算的边界。各种科学可以从使用网格来解决CPU密集型问题中受益，为整个社会创造潜在的利益。作业调度是并行和分布式计算的重要组成部分。它允许为特定作业选择正确的资源匹配，从而提高作业吞吐量和资源利用率。作业应该以自动的方式进行调度，以使系统更可靠、更易访问，并且对子系统故障不太敏感。本文综述了各种启发式算法，用于网格调度。
2014-02-21 cs.AI cs.DC
Towards a Centralized Scheduling Framework for Communication Flows in Distributed Systems
分布式系统的整体性能高度依赖于系统的通信效率。尽管网络资源（链路、带宽）变得越来越可用，但涉及大量数据的数据传输的通信性能不一定以相同的速率提高。这是由于可用网络资源的低效使用。这个问题的解决方案包括数据传输调度技术，其以有效的方式管理和分配网络资源。在本文中，我们提出了几个在线和离线的数据传输优化技术，在集中控制的分布式系统的背景下。
2009-06-01 cs.DC cs.DS cs.NI
Decentralized Distributed Proximal Policy Optimization (DD-PPO) for High Performance Computing Scheduling on Multi-User Systems
Idaho National Laboratory（爱达荷国家实验室）；University of Idaho（爱达荷大学）
本文提出基于去中心化分布式近端策略优化（DD-PPO）的HPC作业调度器，通过免参数同步的大规模分布式训练提升可扩展性和样本利用率，并在超1150万条真实作业轨迹上验证其优于规则调度和现有RL调度方法。
2025-05-06 cs.AI cs.DC
Gradient Scheduling with Global Momentum for Non-IID Data Distributed Asynchronous Training
分布式异步离线训练由于其在大规模数据和复杂模型上的高性能，近年来受到广泛关注。随着数据从云中心分布到边缘节点，分布式机器学习系统面临的一个巨大挑战是如何处理原生和自然的非独立同分布（非IID）数据进行训练。以往的异步训练方法在非IID数据上表现不佳，因为这会导致训练过程波动很大，从而导致异常收敛。针对非IID数据的分布式异步训练，提出了一种部分平均梯度和全局动量的梯度调度算法（GSGM）。我们的核心思想是将全局动量和局部平均值应用于调度后的有偏梯度，以使训练过程稳定。实验结果表明，对于相同实验条件下的非IID数据训练，基于流行优化算法的GSGM在Fashion-Mnist和CIFAR-10数据集上的训练稳定性提高了20%，准确率略有提高。同时，在CIFAR-100数据集上扩展分布式规模，导致稀疏数据分布时，GSGM可以在训练稳定性上提高37%。此外，只有GSGM可以很好地收敛时，计算节点的数量增长到30，相比最先进的分布式异步算法。同时，GSGM对不同程度的非IID数据具有鲁棒性。
2021-09-02 cs.DC cs.LG
Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A Multi-Agent Reinforcement Learning Approach
Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-南洋理工大学新加坡联合研究院）；Nanyang Technological University（南洋理工大学）
本文提出一种基于多智能体强化学习与actor-critic的调度算法，用于地理分布式数据中心中可持续AIGC工作负载调度，在真实云环境中实现GPU利用率提升、成本降低和碳减排，系统效用最高提升28.6%。
2023-04-17 cs.AI cs.DC cs.LG
Parallel/Distributed Tabu Search for Scheduling Microprocessor Tasks in Hybrid Flowshop
本文研究带多处理器任务的混合流水车间调度中的最大完工时间最小化问题，提出了一种基于并行与分布式机制的禁忌搜索算法进行邻域评估，有效平衡了异构网络环境。
2025-09-14 cs.DC cs.SY eess.SY
CPU Scheduling in Data Centers Using Asynchronous Finite-Time Distributed Coordination Mechanisms
我们提出了一个异步迭代方案，允许一组互连的节点，以分布式达成协议，在一个预先指定的范围内，在有限数量的步骤。虽然这种方案可以在各种各样的应用程序中，我们讨论它的范围内的任务调度数据中心。在这种情况下，该算法是保证近似收敛到最佳的调度计划，给定的可用资源，在有限数量的步骤。此外，由于是异步的，所提出的方案能够考虑到可以以延迟可变性的形式从离散节点或通信问题引入的不确定性，同时仍然收敛到目标。此外，通过使用广泛的经验评估，通过模拟，我们表明，所提出的方法具有最先进的性能。
2023-01-12 cs.DC cs.SY eess.SY
Robust-to-Noise Algorithms for Distributed Resource Allocation and Scheduling
本文针对噪声与扰动环境下的分布式资源分配和调度问题，提出基于符号动力学的抗噪声多智能体算法，并结合凸优化、控制理论与网络科学保证资源-需求平衡和约束可行性。
2023-11-30 cs.DC cs.SY eess.SP
Caramel: Accelerating Decentralized Distributed Deep Learning with Computation Scheduling
Google（谷歌）；UC Irvine（加州大学欧文分校）；VMware Research（VMware研究院）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；VMware
深度神经网络（DNN）训练中的参数聚合选择方法是一项网络密集型任务，受理论保证更好性能的启发，正在从参数服务器模型转向分散聚合方案（AllReduce）。然而，目前的AllReduce实现忽略了通信和计算的相互依赖性，导致显着的性能下降。在本文中，我们开发了Caramel，这是一个通过模型感知计算调度和AllReduce通信优化来加速分散式分布式深度学习的系统。Caramel通过（a）计算DAG调度来实现这一目标，该计算DAG调度为每个参数（传输边界）扩展了可行的传输窗口，以及（b）用于平滑负载的网络优化，包括参数传输的自适应优化和流水线化。Caramel保持了Refllow模型的正确性，是硬件独立的，并且不需要任何用户级或框架级的更改。我们在TensorFlow上实现了Caramel，并表明在云环境中DNN训练的迭代时间可以提高3.62倍。
2020-04-29 cs.DC cs.LG cs.NI
GCNScheduler: Scheduling Distributed Computing Applications using Graph Convolutional Networks
University of Southern California（南加州大学）
我们考虑的经典问题调度任务图对应的复杂应用程序的分布式计算系统。以前已经提出了一些算法来优化任务调度的度量，如完工时间和吞吐量。然而，它们往往运行缓慢，特别是对于较大的问题实例，限制了它们在更动态系统中的适用性。出于更快地解决这些问题的目标，我们首次提出了一种基于图卷积网络的调度器（GCN）。通过仔细地将任务间数据依赖结构与网络设置集成到输入图中并将其馈送到适当的GCN，GCN可以针对给定目标有效地调度复杂应用程序的任务。我们评估我们的计划与基线通过模拟。我们表明，我们的计划不仅可以快速，有效地学习现有的调度方案，但它也可以很容易地应用到大规模的设置，目前的调度方案无法处理。我们表明，它实现了更好的最大完工时间比经典的HEFT算法，几乎相同的吞吐量为面向吞吐量的HEFT（TP-HEFT），同时提供几个数量级更快的调度时间在这两种情况下。例如，对于最大完工时间最小化，GCN调度50个节点的任务图大约需要4毫秒，而HEFT需要1500秒以上;对于吞吐量最大化，GCN调度100个节点的任务图大约需要3.3毫秒，而TP-HEFT大约需要6.9秒。
2021-10-22 cs.AI cs.DC cs.LG
Distributed Resource Scheduling for Large-Scale MEC Systems: A Multi-Agent Ensemble Deep Reinforcement Learning with Imitation Acceleration
Hunan Normal University（湖南师范大学）；Hunan University of Commerce（湖南商学院）；Northumbria University（诺森比亚大学）；University of Essex（埃塞克斯大学）；Queen Mary University of London（伦敦玛丽女王大学）
我们考虑分布式资源调度的优化，以最小化大规模移动边缘计算（MEC）系统中所有物联网设备（IoTD）的任务延迟和能耗之和。为了解决这个问题，我们提出了一个分布式智能资源调度（DIRS）框架，其中包括集中训练依赖于全球信息和分布式决策部署在每个MEC服务器上的每个代理。更具体地说，我们首先介绍了一种新的多智能体集成辅助分布式深度强化学习（DRL）架构，它可以通过划分状态空间来简化每个智能体的整体神经网络结构，并通过组合所有智能体的决策来提高单个智能体的性能。其次，我们应用行动细化，以提高所提出的DIRS框架的探索能力，其中接近最优的状态-行动对获得一种新的Lévy飞行搜索。最后，提出了一种模拟加速方案，对所有智能体进行预训练，通过从少量演示数据中学习专业经验，显著加快了该框架的学习过程。大量的仿真结果表明，建议的DIRS框架是有效的，优于现有的基准计划。
2020-05-21 cs.AI cs.DC cs.NI
Energy-Efficient Scheduling: Classification, Bounds, and Algorithms
在分布式系统中实现能源效率的问题是很重要的，但一般的，非特定领域的能量最小调度理论还远远没有发展。本文对能量最小排序问题进行了分类，给出了能量最小排序问题的理论基础。我们得出的结果，在分布式系统中的功能相似的机器具有不同的工作和空闲的额定功率的独立工作的能量最小调度。在我们的系统中考虑的机器可以具有相同的速度以及不同的速度。如果工件可以分成任意部分，我们证明了最小能量调度可以在线性时间内产生，并给出了精确的调度算法。对于工件不可分的情形，我们证明了排序问题是NP难的，并给出了相应的近似算法及其界。
2018-06-21 cs.DC cs.DS
