PROMPT: Learning Dynamic Resource Allocation Policies for Network Applications
Oregon State University（俄勒冈州立大学）；Intel Labs（英特尔实验室）；Intel Corporation（英特尔公司）
越来越多的服务提供商正在探索通过协同调度高优先级延迟关键型工作负载和尽力而为型工作负载来提高服务器利用率和降低功耗的方法。这种做法需要在工作负载之间进行严格的资源分配，以减少争用并保持服务质量（QoS）保证。以前的工作表现出有前途的机会，动态分配资源的工作负载需求的基础上，但可能无法满足QoS目标，在更严格的操作环境中，由于存在的资源分配悬崖，工作负载性能的瞬态波动，并迅速变化的资源需求。因此，我们提出了PROMPT，一种新的资源分配框架，使用主动QoS预测来指导强化学习控制器。PROMPT可以实现更精确的资源优化、更一致的瞬态行为处理以及更健壮的泛化，从而可以协同调度策略训练期间未遇到的新的尽力而为工作负载。评估表明，所提出的方法招致4.2倍的QoS违规，降低了12.7倍的QoS违规的严重程度，提高了尽力而为的工作负载性能，并提高了整体的电源效率比以前的工作。
2023-03-25 cs.LG cs.SY eess.SY
Learning Scheduling Algorithms for Data Processing Clusters
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）；Tsinghua University（清华大学）
在分布式计算集群上有效地调度数据处理作业需要复杂的算法。然而，目前的系统，使用简单的广义调度和忽略工作负载的特点，因为开发和调整调度策略，为每个工作负载是不可行的。在本文中，我们表明，现代机器学习技术可以自动生成高效的政策。Decima使用强化学习（RL）和神经网络来学习特定于工作负载的调度算法，而无需任何超出高级目标（如最小化平均作业完成时间）的人工指令。然而，现成的RL技术无法处理调度问题的复杂性和规模。为了构建Decima，我们必须为作业的依赖图开发新的表示，设计可扩展的RL模型，并发明RL训练方法来处理连续的随机作业到达。我们在25个节点集群上与Spark的原型集成表明，Decima比手动调整的调度启发式方法将平均作业完成时间提高了至少21%，在集群高负载期间实现了高达2倍的改进。
2019-08-21 cs.LG stat.ML
Optimal scheduling of island integrated energy systems considering multi-uncertainties and hydrothermal simultaneous transmission: A deep reinforcement learning approach
Northeast Electric Power University（东北电力大学）；Huazhong University of Science and Technology（华中科技大学）；Cranfield University（克兰菲尔德大学）
来自电源和负荷的多重不确定性给海岛各种资源的稳定需求供给带来了重大挑战。为了应对这些挑战，提出了一个全面的调度框架，通过引入一个无模型的深度强化学习（DRL）方法的基础上建模的岛屿综合能源系统（IES）。针对海岛淡水短缺的问题，除了引进海水淡化系统外，还提出了“热液同步输送”（HST）的输送结构。IES调度问题的本质是各单元输出的最优组合，是典型的时序控制问题，符合深度强化学习的马尔可夫决策求解框架。深度强化学习通过智能体与环境的交互来适应各种变化，及时调整策略，避免了复杂的建模和多不确定性的预测。仿真结果表明，该调度框架能够有效地处理电源和负荷的多种不确定性，实现各种资源的稳定需求供给，具有比其他实时调度方法更好的性能，特别是在计算效率方面。此外，HST模式也是提高海岛淡水资源利用效率的一种积极探索。
2022-12-27 cs.LG cs.SY eess.SY
Deep reinforcement learning for scheduling in large-scale networked control systems
Faculty of Computer Science, Electrical Engineering and Mathematics（计算机科学、电气工程与数学系）；Paderborn University（帕德博恩大学）
本文提出了一种基于深度强化学习的迭代资源分配算法DIRA，用于解决网络化系统中的控制与资源调度问题，通过联合优化控制与调度以提高性能。
2019-09-23 cs.LG cs.SY eess.SY
ScheduleNet: Learn to solve multi-agent scheduling problems with reinforcement learning
KAIST（韩国科学技术院）
我们提出了一种基于RL的实时调度器，可以解决各种类型的多代理调度问题。我们将这些问题描述为具有情景奖励（makespan）的半MDP，并学习了ScheduleNet，这是一种分散的决策策略，可以有效地协调多个代理来完成任务。调度网的决策过程包括：（1）用Agent-任务图表示调度问题的状态;（2）利用类型感知图注意力（TGA）提取Agent和任务节点的节点嵌入，即Agent和任务之间的重要关系信息;我们验证的有效性ScheduleNet作为一个通用的学习为基础的调度解决各种类型的多代理调度任务，包括多个销售员旅行问题（mTSP）和作业车间调度问题（JSP）。
2021-06-06 cs.AI cs.LG cs.MA
A New Approach for Resource Scheduling with Deep Reinforcement Learning
University of Electronic Science and Technology of China（电子科技大学）
随着深度学习的快速发展，近年来深度强化学习（Deep Reinforcement Learning，DRL）开始出现在资源调度领域。本文在前人研究的基础上，介绍了在线资源调度算法DeepRM 2和离线资源调度算法DeepRM_Off。与DRL算法DeepRM和启发式算法相比，该算法在平均减速时间、作业完成时间和奖励方面具有更快的收敛速度和更好的调度效率。
2018-06-21 cs.AI cs.LG
Application of Reinforcement Learning for 5G Scheduling Parameter Optimization
Vodafone Qatar（卡塔尔沃达丰）
RF网络参数优化需要丰富的经验和知识，以实现覆盖范围、容量、系统效率和服务用户的电信站点的客户体验之间的最佳平衡。对于5G，由于使用大规模MIMO、波束成形和引入具有不同参数集的更高调制方案，空中接口调度的复杂性已经增加。在这项工作中，我们调整机器学习模型，使用交叉熵方法强化学习“学习”给定流量配置文件的最佳参数组合，并将其与RF主题专家“SME”建议进行比较。这项工作的目的是自动参数调整和功能优化作为一个自组织网络模块
2019-10-21 cs.LG cs.NI
Reinforcement Learning based Condition-oriented Maintenance Scheduling for Flow Line Systems
Center for Cyber Cognitive Intelligence (CCI), Fraunhofer IPA（弗劳恩霍夫制造工程与自动化研究所网络认知智能中心）；Institute of Industrial Manufacturing and Management IFF, University of Stuttgart（斯图加特大学工业制造与管理研究所）
维护调度是生产领域中的一个复杂决策问题，其中必须将许多维护任务和资源分配和调度给生产实体，以防止计划外的生产停机。需要能够适应生产系统的动态和不同条件的智能维护策略。提出了一种基于深度强化学习的面向状态检修调度方法。不同的政策学习，分析和评估对基准调度启发式奖励建模的基础上。学习策略的评估表明，基于强化学习的维护策略满足所提出的用例的要求，并适用于车间的维护调度。
2021-08-27 cs.LG
Deep-Reinforcement-Learning-Based Scheduling with Contiguous Resource Allocation for Next-Generation Cellular Systems
Intel Corporation（英特尔公司）；Princeton University（普林斯顿大学）
调度在多用户无线通信中起着关键的作用，因为各个用户的服务质量很大程度上取决于分配的无线电资源。提出了一种基于深度强化学习（DRL）的连续频域资源分配调度算法。调度问题被建模为马尔可夫决策过程，并且DRL代理确定在每个RB分配步骤应该调度哪个用户以及该用户的多少个连续RB。状态空间、动作空间和奖励函数经过精心设计，用于训练DRL网络。更具体地说，原来的准连续的动作空间，这是固有的连续的FERMARY，被细化成一个有限的和离散的动作空间，以获得推理延迟和系统性能之间的权衡。仿真结果表明，该算法在具有较低的在线计算复杂性的同时，性能优于其他典型的基线调度算法。
2020-11-26 cs.LG cs.NI eess.SP
VMAgent: Scheduling Simulator for Reinforcement Learning
East China Normal University（华东师范大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）；The Chinese University of Hong Kong-Shenzhen（香港中文大学（深圳））
介绍了一种新的模拟器VMAgent，以帮助RL研究人员更好地探索新的方法，特别是虚拟机调度。VMAgent的设计灵感来自于实际的虚拟机调度任务，它提供了一个能够反映云计算实际情况的高效仿真平台。从实际的云计算中总结出三种场景（衰落，恢复和扩展），并对应于许多强化学习挑战（高维状态和动作空间，高度非平稳性和终身需求）。VMAgent为RL研究人员提供灵活的配置，以设计考虑不同问题特征的定制调度环境。从虚拟机调度的角度来看，VMAgent还有助于探索更好的基于学习的调度解决方案。
2021-12-09 cs.AI cs.LG
Energy-aware Scheduling of Jobs in Heterogeneous Cluster Systems Using Deep Reinforcement Learning
University of Southern California（南加州大学）
从便携式嵌入式系统到计算机集群系统，能耗是设计计算设备时最关键的问题之一。此外，在过去的十年中，集群系统已经越来越多地成为流行的平台来运行计算密集型的实时应用程序，其中的性能是非常重要的。然而，由于实时工作负载的不同特点，开发通用的作业调度解决方案，有效地解决能源消耗和性能的实时集群系统是一个具有挑战性的问题。在本文中，受到将深度强化学习应用于资源管理问题的最新进展的启发，我们提出了Deep-EAS调度器，该调度器可以为具有不同特征的工作负载学习有效的能量感知调度策略，而无需最初了解任何关于手头调度任务的信息。结果表明，Deep-EAS收敛速度快，性能优于标准的手动调整算法，特别是在重负载条件下。
2019-12-11 cs.DC cs.LG
Deep Reinforcement Learning for Multi-Resource Multi-Machine Job Scheduling
Research Center of Smart Networks and Systems, Fudan University（复旦大学智慧网络与系统研究中心）；School of Operations Research and Information Engineering, Cornell University（康奈尔大学运筹学与信息工程学院）
最小化作业调度时间是数据中心网络中的一个基本问题，近年来得到了广泛的研究。传入的作业需要不同的CPU和内存单元，并跨越不同数量的时隙。传统的解决方法是在一定的假设条件下设计出具有性能保证的高效启发式算法。本文利用深度强化学习改进了最近提出的一种作业调度算法，并将其扩展到多服务器集群。我们的研究表明，深度强化学习方法有可能在各种复杂环境中优于传统的资源分配算法。
2017-11-20 cs.DC cs.LG cs.PF
Network Contention-Aware Cluster Scheduling with Reinforcement Learning
Seoul National University（首尔大学）
本文提出一种基于强化学习的GPU集群调度方法，通过学习网络争用感知策略动态调整调度决策，相比常用策略将平均作业完成时间最多降低18.2%，尾部完成时间最多降低20.7%。
2023-10-31 cs.DC cs.LG
Buffer Pool Aware Query Scheduling via Deep Reinforcement Learning
Brandeis University（布兰迪斯大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；Intel Labs（英特尔实验室）
在这个扩展的摘要中，我们提出了一种新的查询调度技术，其明确的目标是减少磁盘读取，从而隐式地提高查询性能。我们引入SmartQueue，一个学习调度器，利用传入查询之间的重叠数据读取，并学习调度策略，提高缓存命中。SmartQueue依赖于深度强化学习来生成特定于工作负载的调度策略，这些策略专注于长期性能优势，同时适应以前看不到的数据访问模式。我们提出的结果，从一个概念验证原型，证明了学习的调度器可以提供显着的性能改进手工制作的调度算法。最终，我们证明这是机器学习和数据库交叉的一个有前途的研究方向。
2022-07-27 cs.DB cs.LG
Buffer-aware Wireless Scheduling based on Deep Reinforcement Learning
Huawei Technologies（华为技术有限公司）
本文对蜂窝网络下行分组调度问题进行了建模，使吞吐量、公平性和丢包率联合优化。两个基因辅助的启发式搜索方法来探索解决方案的空间。提出了一种基于A2C算法的深度强化学习（DRL）框架。在该框架中采用了几种方法来提高采样和训练效率，并使算法适应特定的调度问题。数值结果表明，DRL优于基线算法，并达到类似的性能基因辅助方法，而不使用未来的信息。
2019-11-13 cs.IT cs.LG math.IT
Better than the Best: Gradient-based Improper Reinforcement Learning for Network Scheduling
我们考虑的问题，在约束的调度网络中，以最小化数据包延迟。现代通信系统正变得越来越复杂，并且需要处理具有广泛变化的特性（诸如到达速率和服务时间）的多种类型的业务。这与快速网络部署的需要相结合，使得首先表征业务然后设计适当的调度协议的自自底向上的的方法不可行。相比之下，我们制定了一个自上而下的方法来调度，给定一个未知的网络和一组调度策略，我们使用一个基于策略梯度的强化学习算法，产生一个调度器，比可用的原子策略执行得更好。我们推导了算法的收敛性结果，并分析了算法的有限时间性能。仿真结果表明，该算法即使在到达率非平稳的情况下也能保持较好的性能，即使在组成策略不稳定的情况下也能稳定系统。
2021-05-01 cs.LG
Deep Reinforcement Learning for Long Term Hydropower Production Scheduling
SINTEF Digital（SINTEF数字）；SINTEF Energy Research（SINTEF能源研究）
我们探索使用深度强化学习为水电生产的长期调度提供策略。我们考虑一个用例，其目的是优化每周流入水库和电价的年收入。面临的挑战是，在系统受到限制的情况下，决定是以电力的现货价格立即放水，还是以未知价格储存水供以后发电。我们成功地训练了一个软演员评论家算法的简化方案与北欧电力市场的历史数据。所提出的模型是不准备取代传统的优化工具，但证明了互补的潜力，强化学习在数据丰富的水电调度领域。
2020-12-09 cs.AI cs.LG
Enhancing Kubernetes Automated Scheduling with Deep Learning and Reinforcement Techniques for Large-Scale Cloud Computing Optimization
Stevens Institute of Technology（斯蒂文斯理工学院）；Johns Hopkins University（约翰斯·霍普金斯大学）；North Carolina State University（北卡罗来纳州立大学）；Trine University（特莱恩大学）
针对大规模云计算任务调度的复杂性与实时性需求，本文提出基于深度学习和强化学习的Kubernetes自动调度方案，通过实时监控预测与动态策略调整，实现资源最优利用和任务效率最大化。
2024-02-26 cs.AI cs.DC cs.LG
An efficient deep reinforcement learning environment for flexible job-shop scheduling
College of Computer Science and Technology（计算机科学与技术学院）；Nanjing University of Aeronautics and astronautics（南京航空航天大学）
针对柔性作业车间调度问题，本文提出一种基于离散事件模拟的高效深度强化学习环境及基于PPO的端到端调度模型，并设计新状态表示和奖励函数，实验证明其性能优于或媲美现有方法。
2025-09-07 cs.AI cs.LG
An Advanced Reinforcement Learning Framework for Online Scheduling of Deferrable Workloads in Cloud Computing
Microsoft（微软公司）；Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；Tsinghua University（清华大学）；Beihang University（北京航空航天大学）
本文提出了一种名为OSDEC的基于深度强化学习的在线可延迟作业调度方法，通过引入辅助任务优化状态表示，在保证高资源利用率的同时有效缩短了用户等待时间。
2024-06-03 cs.AI cs.DC cs.LG
Safe Hierarchical Reinforcement Learning for CubeSat Task Scheduling Based on Energy Consumption
Interdisciplinary Centre for Security, Reliability and Trust (SnT), University of Luxembourg (UL)（卢森堡大学跨学科安全、可靠性与信任中心（SnT））；Automation and Robotics Research Group (ARG)（自动化与机器人研究组）；Space Systems Research Group (SpaSys)（空间系统研究组）
本文提出一种基于分层强化学习的CubeSat任务调度方法，结合SABE任务优先级排序和MLP能量消耗预测，实现安全容错的实时调度，仿真表明其收敛性和任务成功率优于MADDPG和随机调度。
2023-09-21 cs.AI cs.LG cs.MA
MEETING BOT: Reinforcement Learning for Dialogue Based Meeting Scheduling
TCS Research, New Delhi（塔塔咨询服务公司研究部（TCS Research），新德里）
在本文中，我们提出了会议机器人，一个基于强化学习的会话系统，与多个用户进行交互，以安排会议。该系统能够解释用户话语并将其映射到首选时隙，然后将其馈送到强化学习（RL）系统，目标是收敛到一个合适的时隙。RL系统能够适应用户偏好和环境变化，满足到达率，同时仍然有效地调度。通过利用MLP作为策略函数的近似器，经由具有探索的策略梯度来执行学习。结果表明，该系统优于标准调度算法的整体调度效率。此外，当用户始终拒绝或接受某些时段（例如周五下午与周四上午）的会议时，或者当会议由更高级的成员召集时，系统能够调整其策略。
2018-12-28 cs.AI cs.CL cs.LG
A Deep Reinforcement Learning Approach to Multi-component Job Scheduling in Edge Computing
UMass Boston（马萨诸塞大学波士顿分校）；UMass Lowell（马萨诸塞大学洛厄尔分校）
我们感兴趣的是边缘计算系统中多组件应用程序作业集合的最佳调度，该系统由通过广域网连接的地理分布边缘计算节点组成。由于每个作业的多个组件的相互依赖性，以及地理上分布的数据源和边缘节点之间的通信延迟及其动态可用性，边缘系统中的应用作业的调度和放置是具有挑战性的。在本文中，我们探讨了应用基于深度强化学习（DRL）的设计来应对这些挑战的可行性。我们引入了一个DRL演员评论家算法，旨在找到一个最佳的调度策略，以最大限度地减少边缘系统中的平均作业减速。我们已经通过模拟证明，我们的设计优于一些现有的算法，基于合成数据和谷歌云数据跟踪。
2020-01-23 cs.DC cs.LG
Research on Edge Computing and Cloud Collaborative Resource Scheduling Optimization Based on Deep Reinforcement Learning
Microsoft（微软）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
本研究提出一种基于深度强化学习（DRL）的边缘云协同资源调度优化方法，有效提升了任务处理效率与资源利用率并控制任务迁移，实验证明其优于传统算法，未来将致力于提升学习效率与容错能力。
2025-04-10 cs.AI cs.DC cs.LG
MCRL2: Multi-resource Cross-attention-based Representation Learning-augmented Reinforcement Learning for Cloud Microservice Scheduling
Wuhan University（武汉大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
针对云微服务调度中资源动态失衡与异构耦合问题，提出MCRL2，利用多资源交叉注意力表示学习增强强化学习，在真实集群轨迹上显著提升负载均衡、调度成功率并降低平均完成时间。
2026-09-14 cs.LG
Scheduling Mixed RL Rollouts Beyond Prefix Locality
State Key Laboratory of Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；StepFun（阶跃星辰）
针对混合RL回滚调度的异构性问题，提出MISA-T策略，在多基准实验中显著提升回滚吞吐量并降低平均轮次时间，同时维持缓存命中率与工作负载混合比例。
2026-08-12 cs.DC cs.LG
Learning to Optimize LSM-trees: Towards A Reinforcement Learning based Key-Value Store for Dynamic Workloads
Nanyang Technological University（南洋理工大学）；Fudan University（复旦大学）；Microsoft Research Asia（微软亚洲研究院）
本文提出RusKey键值存储，首次利用强化学习在线优化LSM树结构，并设计FLSM树实现压缩策略高效切换，无需先验工作负载知识即可在动态负载下实现最高达RocksDB 4倍的性能提升。
2023-09-17 cs.DB cs.LG
Intelligent Task Scheduling for Microservices via A3C-Based Reinforcement Learning
University of Michigan（密歇根大学）；Georgia Institute of Technology（佐治亚理工学院）；University of Pennsylvania（宾夕法尼亚大学）
本文提出基于A3C强化学习的微服务自适应调度方法，将调度建模为马尔可夫决策过程并联合优化策略与价值网络，通过异步多线程机制提升收敛效率，实验证明其在多任务并发下有效缓解资源瓶颈并提升系统稳定性。
2025-05-01 cs.DC cs.LG
Interpretable Modeling of Deep Reinforcement Learning Driven Scheduling
Illinois Institute of Technology（伊利诺伊理工学院）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；Argonne National Laboratory（阿贡国家实验室）
针对DRL集群调度缺乏可解释性阻碍实际部署的问题，提出IRL框架，利用模仿学习、DAgger算法和关键状态修剪将黑盒DNN策略转换为可解释的决策树，在保持调度性能的同时提升可解释性并辅助奖励设定。
2024-03-24 cs.AI cs.DC cs.LG
Reinforcement Learning for Adaptive Resource Scheduling in Complex System Environments
Northeastern University（东北大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of Utah（犹他大学）；Columbia University（哥伦比亚大学）；Western University（韦仕敦大学）
本研究提出基于Q-learning的自适应调度算法，通过动态学习优化任务完成时间和资源利用率，优于传统及DRA方法，为大规模智能调度提供可扩展方案。
2024-11-08 cs.DC cs.LG
Exploring Multi-Agent Reinforcement Learning for Unrelated Parallel Machine Scheduling
Vicomtech Foundation（维康科技基金会）；University of Naples "Federico II"（那不勒斯费德里科二世大学）；University of the Basque Country (UPV/EHU)（巴斯克大学（UPV/EHU））
本文使用多智能体强化学习（MARL）方法解决带设置时间和资源的无关并行机调度问题（UPMS），通过引入强化学习环境并比较单智能体与多智能体算法，验证了Maskable PPO和Multi-Agent PPO的有效性，并强调算法复杂性与可扩展性平衡的重要性。
2024-11-12 cs.AI cs.LG cs.MA
A Reinforcement Learning Environment For Job-Shop Scheduling
University of Klagenfurt（克拉根福大学）；Graz University of Technology（格拉茨技术大学）
调度是在各种自动化系统应用中发生的基本任务，例如，在作业车间的机器的最佳调度允许降低生产成本和浪费。然而，找到这样的时间表往往是棘手的，不能实现组合优化问题（COP）的方法在给定的时间限制。深度强化学习（DRL）在学习复杂行为方面的最新进展使新的COP应用成为可能。本文提出了一个有效的DRL环境的作业车间调度-在该领域的一个重要问题。此外，我们设计了一个有意义的和紧凑的状态表示，以及一个新的，简单的密集的奖励函数，密切相关的稀疏的使跨度最小化准则的COP方法。我们证明，我们的方法显着优于现有的DRL方法的经典基准实例，接近国家的最先进的COP方法。
2021-04-08 cs.AI cs.LG cs.NE
Deep Learning Workload Scheduling in GPU Datacenters: Taxonomy, Challenges and Vision
Nanyang Technological University（南洋理工大学）；Peking University（北京大学）；SenseTime（商汤科技）
深度学习（DL）在广泛的领域显示出其繁荣。DL模型的开发是一个耗时且资源密集的过程。因此，专用GPU加速器已被共同构建到GPU数据中心中。一个有效的调度器设计这样的GPU数据中心是至关重要的，以降低运营成本和提高资源利用率。然而，为大数据或高性能计算工作负载设计的传统方法不能支持DL工作负载以充分利用GPU资源。最近，提出了大量的GPU并行计算器来定制GPU并行计算器中的DL工作负载。本文调查了现有的研究工作的培训和推理工作量。我们主要介绍现有的调度器如何从调度目标和资源消耗功能促进各自的工作负载。最后，展望了几个有前景的研究方向。更详细的总结与调查文件和代码链接可以在我们的项目网站上找到：https://github.com/S-Lab-System-Group/Awesome-DL-Scheduling-Papers
2022-06-01 cs.AI cs.DC cs.LG
Duration Aware Scheduling for ASR Serving Under Workload Drift
Sprinklr
本文提出基于持续时间的ASR服务调度方法，通过SJF和HRRN算法在负载漂移下减少E2E延迟并控制尾部延迟，提升服务性能。
2026-03-11 cs.LG
Exploring the Dynamic Scheduling Space of Real-Time Generative AI Applications on Emerging Heterogeneous Systems
University of California, Irvine（加州大学尔湾分校）；Advanced Micro Devices Inc.（先进微器件公司）
本文针对实时生成式AI工作负载在异构SoC上的调度问题，基于AMD Ryzen AI平台系统表征了多模型场景下的性能，评估了五种调度策略，揭示了调度决策对截止时间违反率和LLM性能的显著影响，并提出需要工作负载感知的动态异构调度策略。
2025-07-19 cs.LG
TENSILE: A Tensor granularity dynamic GPU memory scheduling method toward multiple dynamic workloads system
最近，深度学习一直是一个激烈的研究领域。然而，作为一种计算密集型任务，深度学习高度依赖于GPU内存的规模，这通常是令人望而却步的和稀缺的。尽管已经提出了一些针对动态GPU存储管理的广泛工作，但是它们难以应用于具有多个动态工作负载的系统，例如数据库内机器学习系统。在本文中，我们展示了TENSILE，一种在张量粒度下管理GPU内存的方法，以降低GPU内存峰值，考虑到多个动态工作负载。TENSILE解决了以往工作中存在的冷启动和跨迭代调度问题。我们在自己构建的深度学习框架上实现了Tensile，并对其性能进行了评估。实验结果表明，在单负载和多负载的动态环境下，TENSILE算法能够以更少的额外开销节省更多的GPU内存。
2022-11-06 cs.AI cs.DB cs.DC
Online Evolutionary Batch Size Orchestration for Scheduling Deep Learning Workloads in GPU Clusters
National University of Singapore（新加坡国立大学）；ByteDance（字节跳动）
高效的GPU资源调度对于最大限度地提高资源利用率和节省训练成本至关重要，因为共享GPU集群中的深度学习工作负载量不断增加。现有的GPU处理器在很大程度上依赖于静态策略来利用深度学习作业的性能特征。然而，由于缺乏弹性，它们很难达到最佳效率。为了解决这个问题，我们提出了ONES，一个在线进化的弹性批量编排。ONES根据训练批量大小自动管理每个作业的弹性，从而最大化GPU利用率，提高调度效率。它通过在线进化搜索确定每个作业的批量大小，可以不断优化调度决策。我们评估的有效性与64 GPU的TACC的长角超级计算机上的ONES。结果表明，ONES可以以显著更短的平均作业完成时间胜过之前的深度学习算法。
2021-08-08 cs.AI cs.DC cs.LG
DriftSched: Adaptive QoS-Aware Scheduling under Runtime Token Drift for Multi-Tenant GPU Inference
University of California, Berkeley（加州大学伯克利分校）
提出DriftSched框架，通过运行时反馈驱动的漂移补偿和自适应偏差校正，解决多租户LLM推理中令牌漂移导致的调度问题，在NVIDIA L4 GPU上实现平均38.8%的估计误差降低和42%的中位延迟改善。
2026-06-23 cs.DC cs.LG cs.PF
Sparse-DySta: Sparsity-Aware Dynamic and Static Scheduling for Sparse Multi-DNN Workloads
Samsung AI Center（三星人工智能中心）；University of Cambridge（剑桥大学）；Flower Labs（Flower实验室）
本文提出Sparse-DySta，一种联合静态稀疏模式与动态稀疏信息的软硬件双层调度器，用于优化稀疏多DNN工作负载调度，在延迟和周转时间上显著优于现有方法。
2023-10-17 cs.AR cs.DC cs.LG
Prediction-Assisted Online Distributed Deep Learning Workload Scheduling in GPU Clusters
The Ohio State University（俄亥俄州立大学）；Cisco Research（思科研究中心）
针对GPU集群中混合并行分布式深度学习训练的高效调度需求，提出结合随机森林迭代预测的A-SRPT算法，通过将问题映射为单机最优调度实例实现理论高效的作业分配，经实验验证了有效性。
2025-01-09 cs.DC cs.LG
SCAR: Scheduling Multi-Model AI Workloads on Heterogeneous Multi-Chiplet Module Accelerators
Univ. of California, Irvine（加利福尼亚大学欧文分校）
针对同构MCM AI加速器适配异构多模型工作负载能力不足的问题，提出集成芯粒间流水线的启发式调度器SCAR，在数据中心多租户和AR/VR场景下均显著降低能效延迟积。
2024-09-14 cs.AI cs.AR cs.DC
Terastal: Layer-Variant-based Scheduling for Real-Time Multi-DNN Workloads on Heterogeneous Accelerators
nd IEEE International Conference on Embedded and Real-Time Computing Systems and Applications（第32届IEEE嵌入式与实时计算系统与应用国际会议）
针对异构DNN加速器上多DNN执行中因层延迟差异导致的调度灵活性不足和截止时间错过率增加问题，提出层变体概念和Terastal框架，通过离线虚拟预算分配和层变体设计结合在线调度，优化加速器映射和变体选择，实验表明截止时间错过率降低30%以上且精度损失仅2.24%。
2026-06-05 cs.AR cs.DC cs.LG
Incast-Free MoE Rate-Based Scheduling
Technion（以色列理工学院）；Nvidia（英伟达公司）；UC Berkeley（加州大学伯克利分校）
针对MoE架构轮询调度引发的指数级内爆瓶颈，提出主动公平调度框架，可消除内爆、维持高链路利用率并降低集体完成时间。
2026-07-30 cs.DC cs.LG cs.NI
Priority-Aware Preemptive Scheduling for Mixed-Priority Workloads in MoE Inference
KTH Royal Institute of Technology（皇家理工学院）；Unaffiliated Researcher（无所属研究者）
本文提出 QLLM 推理系统，通过细粒度优先级感知的专家级抢占式调度解决 MoE 推理中混合优先级工作负载的队头阻塞问题，显著降低延迟敏感型作业的 TTFT 和周转时间，同时不影响吞吐量。
2025-03-12 cs.DC cs.LG
Lightweight Scheduling Policies for Continuously Batched LLM Serving Across GPU Architectures
Carnegie Mellon University, School of Computer Science（卡内基梅隆大学计算机科学学院）
本文针对跨GPU架构的连续批处理LLM服务，实现轻量级调度策略，通过多GPU、多模型的1152组实验，发现老化最短prompt优先是多数场景的实用基线，相关数据集已上传至Hugging Face。
2026-10-14 cs.DC cs.LG
Synergy: Resource Sensitive DNN Scheduling in Multi-Tenant Clusters
Microsoft Research（微软研究院）；University of Texas at Austin（德克萨斯大学奥斯汀分校）；VMware Research（威睿研究院）
训练深度神经网络（DNN）是企业和云数据中心中广泛流行的工作负载。现有的DNN训练算法将GPU视为主要资源，并根据作业请求的GPU数量分配其他资源，如CPU和内存。不幸的是，这些配置器没有考虑作业对CPU、内存和存储资源分配的敏感性的影响。在这项工作中，我们提出了协同，一个资源敏感的调度共享GPU集群。Synergy使用乐观分析来推断DNN对不同资源的敏感性;一些作业可能会受益于超过GPU比例的分配，而一些作业可能不会受到小于GPU比例的分配的影响。Synergy使用一种新的接近最优的在线算法，在共享多租户集群上调度的一组作业中执行此类多资源工作负载感知分配。我们的实验表明，与传统的GPU比例调度相比，工作负载感知的CPU和内存分配可以提高平均JCT高达3.4倍。
2022-08-24 cs.DC cs.LG
Predicting batch queue job wait times for informed scheduling of urgent HPC workloads
EPCC（爱丁堡并行计算中心）；University of Edinburgh（爱丁堡大学）
人们对使用HPC机器处理紧急工作负载以帮助应对灾难的兴趣越来越大。虽然批处理队列系统在支持这样的工作负载方面并不理想，但可以通过准确预测等待作业何时开始运行来解决许多缺点。然而，在实现具有高精度的这种预测方面存在许多挑战，尤其是因为队列的状态可以快速变化并且取决于许多因素。在这项工作中，我们探索了一种新的机器学习方法来预测队列等待时间，假设这样的模型可以捕捉到复杂的行为所产生的队列策略和其他相互作用，以产生准确的作业开始时间。对于ARCHER 2（HPE Cray EX）、Cirrus（HPE 8600）和4-cabinet（HPE Cray EX），我们探索了不同的机器学习方法和技术如何提高我们预测的准确性，并与Slurm生成的估计进行了比较。我们证明了我们的技术在我们感兴趣的机器上提供了最准确的预测，这项工作的结果是能够在实际开始时间的一分钟内预测ARCHER 2和4-cabinet上大约65%的作业和Cirrus上76%的作业的作业开始时间。与Slurm相比，这意味着ARCHER 2的准确性提高了3.8倍，Cirrus提高了18倍。在ARCHER 2和4-cabinet上，我们的方法可以准确地预测四分之三的作业的开始时间，而在Cirrus上，我们的方法可以准确地预测90%的作业的开始时间。虽然这项工作的驱动因素是更好地促进在HPC机器上放置紧急工作负载，但所获得的见解可用于为…
2022-04-28 cs.DC cs.LG
ML Inference Scheduling with Predictable Latency
Inria（法国国家信息与自动化研究所）；Sorbonne University Paris（巴黎索邦大学）
针对ML推理中并发任务干扰导致调度不可预测的问题，提出细粒度动态干扰预测方法，提高GPU利用率的同时满足SLO。
2026-06-16 cs.LG
Cluster Workload Allocation: Semantic Soft Affinity Using Natural Language Processing
Standard Chartered Bank（渣打银行）；Opole University of Technology（奥波莱工业大学）
本文提出利用自然语言处理实现语义软亲和力的集群工作负载分配方法，通过LLM提升调度准确性，验证了其在复杂场景中的有效性。
2026-02-20 cs.AI cs.DC cs.LG
