Online Container Scheduling for Low-Latency IoT Services in Edge Cluster Upgrade: A Reinforcement Learning Approach
针对边缘集群升级时传统云调度策略不适配、易影响运行任务的问题，提出基于策略梯度的强化学习在线容器调度算法，可将总任务时延较基线降低约27%。
2023-07-22 cs.DC
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University（诺丁汉特伦特大学）；Loughborough University（拉夫堡大学）；University of Bologna（博洛尼亚大学）；TU Wien（维也纳工业大学）；University of Oregon（俄勒冈大学）
本文提出Scale框架，通过深度强化学习优化容器调度与资源分配，在动态负载下平衡系统稳定性和性能，实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
SCHeMa: Scheduling Scientific Containers on a Cluster of Heterogeneous Machines
在数据驱动的科学时代，进行涉及使用异构计算集群分析大型数据集的计算实验是许多科学家日常工作的一部分。此外，为了确保他们的结果的可信度，这些分析很容易被其他研究人员重现是非常重要的。虽然近年来已经引入了各种技术，可以促进科学家在这方面的工作，但仍然缺乏将它们结合起来的开源平台。在这项工作中，我们描述和演示SCheMa，一个开源平台，促进异构集群上的计算分析的执行和再现性，利用容器化，实验包装，工作流管理和机器学习技术。
2022-03-22 cs.DC
LRScheduler: A Layer-aware and Resource-adaptive Container Scheduler in Edge Computing
本文提出并实现了边缘计算中基于容器镜像层信息的层感知与资源自适应调度器LRScheduler，通过节点评分、动态加权和负载均衡机制降低容器部署成本，并在Kubernetes框架上完成全流程自动化，实验证明其相比默认调度器能有效降低部署成本。
2025-06-04 cs.DC
An Interference-aware Approach for Co-located Container Orchestration with Novel Metric
本文引入调度延迟作为量化干扰的新型指标，利用机器学习预测在线服务干扰并指导资源分配，提出基于预测模型的调度算法，有效降低在线服务响应时间并平衡节点资源利用率。
2024-02-14 cs.DC
Dynamic Scheduling Strategies for Resource Optimization in Computing Environments
Western University（韦仕敦大学）
本文提出一种基于多目标优化的容器调度方法，通过引入优化模型和启发式算法，利用Google Cluster Data验证，显著提升了资源利用率、负载均衡与突发任务完成效率，为云原生环境下的智能资源管理奠定基础。
2024-12-23 cs.AI cs.DC
Speculative Container Scheduling for Deep Learning Applications in a Kubernetes Cluster
在过去十年中，我们目睹了从各种来源收集的数据量急剧增加。数据爆炸改变了世界，因为比以往任何时候都有更多的信息可供收集和分析。为了最大化利用率，已经开发了各种机器和深度学习模型，例如CNN [1]和RNN [2]，以研究数据并从不同角度提取有价值的信息。虽然数据驱动的应用程序改进了无数的产品，但用于超参数调优的训练模型仍然是一个耗时且资源密集型的过程。云计算为深度学习应用的训练提供基础设施支持。云服务提供商，如Amazon Web Services [3]，为客户端创建一个隔离的虚拟环境（虚拟机和容器），客户端共享物理资源，例如，CPU和内存。在云上，实现了资源管理方案，以实现用户之间的更好共享，并提高系统范围的性能。然而，一般的调度方法，如分散优先级和平衡资源调度器，不能很好地与深度学习工作负载一起工作。在这个项目中，我们提出了SpeCon，这是一种新型的容器调度器，针对短期深度学习应用程序进行了优化。基于虚拟化容器，如Kubernetes [4]和Docker [5]，SpeCon分析了训练过程的共同特征。我们设计了一套算法来监控训练的进度，并推测性地迁移增长缓慢的模型，为快速增长的模型释放资源。具体来说，广泛的实验表明，SpeCon将单个作业的完成时间提高了41.5%，在系统范围内提高了14.8%，在完工时间方面提高了24.7%。
2020-10-21 cs.DC cs.PF
HEATS: Heterogeneity- and Energy-Aware Task-based Scheduling
云提供商通常为用户提供各种类型的硬件。客户利用此选项部署具有GPU、FPGA、x86以外的架构（例如，ARM、IBM Power8），或具有某些特定扩展（例如Intel SGX）。在这项工作中，我们考虑了客户用于部署容器的实例，现在容器是微服务的事实标准，或者用于执行计算任务。在这样做时，底层容器编排器（例如，Kubernetes）的设计应该考虑并利用这种硬件多样性。此外，除了不同机器提供的功能范围外，硬件异构性引入的能源需求的多样性经常被忽视，默认容器编排器的放置策略简单地忽略了这一点。我们介绍了HEATS，一个新的面向任务的和能源感知的编排容器化应用程序的目标异构集群。HEATS允许客户在性能与能源需求之间进行交易。我们的系统首先学习物理主机的性能和能量特征。然后，它监视主机上任务的执行，并适时地将它们迁移到不同的集群节点上，以匹配客户需要的部署权衡。我们的HEATS原型在Google的Kubernetes中实现。在我们的集群中使用合成跟踪进行的评估表明，我们的方法可以节省大量的能源（高达8.5%），并且对部署任务的整体运行时间的影响很小（最多7%）。HEATS是开源的。
2019-06-26 cs.DC
COSCO: Container Orchestration using Co-Simulation and Gradient Based Optimization for Fog Computing Environments
由于现代工作负载应用的高度不稳定性以及用户对低能耗和响应时间的敏感要求，大规模雾平台中的智能任务放置和任务管理具有挑战性。已经出现了容器编排平台来缓解这个问题，现有技术使用调度来快速达成调度决策，或者使用AI驱动的方法，如强化学习和进化方法来适应动态场景。前者通常无法快速适应高度动态的环境，而后者的运行时间慢到足以对响应时间产生负面影响。因此，需要一种调度策略，既能在易变环境中有效地工作，又能降低调度开销。为了实现这一点，我们提出了一个基于梯度的优化策略，使用反向传播的梯度相对于输入（GOBI）。此外，我们通过开发耦合仿真和集装箱调度框架（COSCO）来利用预测数字孪生模型和仿真功能的准确性。利用这一点，我们创建了一个混合仿真驱动的决策方法，GOBI*，优化服务质量（QoS）参数。协同仿真和反向传播方法使这些方法能够在易变的环境中快速适应。使用GOBI和GOBI* 方法对雾应用的真实数据进行的实验表明，与最先进的算法相比，在能耗、响应时间、服务水平目标和调度时间方面分别有高达15%、40%、4%和82%的显著改善。
2021-07-09 cs.DC cs.PF
Container late-binding in unprivileged dHTC pilot systems on Kubernetes resources
针对 Kubernetes 上容器化 dHTC 试点系统需在选定用户容器镜像前认领资源的问题，本文提出一种无需提升权限即可实现容器镜像延迟绑定的机制。
2025-03-17 cs.DC
CASA: A Framework for SLO and Carbon-Aware Autoscaling and Scheduling in Serverless Cloud Computing
本文提出CASA框架，在无服务器云集群中同时考虑碳足迹和SLO约束进行容器调度与自动伸缩，实验表明其碳足迹最多降低2.6倍、SLO违反率最多降低1.4倍。
2024-08-31 cs.DC cs.PF
Differentiate Quality of Experience Scheduling for Deep Learning Inferences with Docker Containers in the Cloud
随着大数据驱动的应用程序的普及，例如智能手机上的人脸识别和Google Ads的量身定制推荐，我们正在朝着比以往任何时候都更加智能的生活方式迈进。各种神经网络驱动的模型在其智能的后端运行，以实现对用户的快速响应。支持这些模型需要大量基于云的计算资源，例如，CPU和GPU。云计算提供商根据客户占用的资源量向他们收费。客户必须平衡预算和体验质量（例如，响应时间）。预算依赖于个体企业主，所需的体验质量（QoE）取决于不同应用的使用场景。例如，自动驾驶汽车需要实时响应，但解锁智能手机可以容忍延迟。然而，云提供商未能向其客户提供基于QoE的选项。在本文中，我们提出了DQoES，用于深度学习推理的差异化体验质量调度器。DQoES接受客户端对目标QoE的规范，并动态调整资源以接近其目标。通过大量基于云的实验，DQoES表明，它可以针对各种QoE调度多个并发作业，并且与现有系统相比，可以实现高达8倍的满意度模型
2022-09-22 cs.DC cs.PF
Master Graduation Thesis: A Lightweight and Distributed Container-based Framework
边缘/雾计算是一种新的计算范式，为资源有限的物联网（IoT）设备提供可扩展的计算和存储资源。与云计算相比，边缘/雾服务器的资源更少，但可以以更高的带宽和更少的通信延迟访问。因此，集成边缘/雾和云基础设施可以支持执行各种延迟敏感和计算密集型物联网应用。尽管一些框架试图提供这种集成，但仍然存在一些挑战需要解决，例如不同物联网应用的动态调度，可扩展性机制，多平台支持以及支持不同的交互模型。为了克服这些挑战，我们提出了一个轻量级和分布式的基于容器的框架，称为FogBus 2。它提供了一种调度异构物联网应用程序的机制，并实现了几种调度策略。此外，它提出了一种优化的遗传算法，以获得快速收敛到合适的解决方案。此外，它还提供了一种可扩展性机制，以确保在物联网设备数量增加或资源负担过重时的有效响应。此外，FogBus 2的动态资源发现机制有助于新实体快速加入系统。我们还开发了两个物联网应用程序，称为康威的生命游戏和视频光学字符识别，以证明FogBus 2在处理实时和非实时物联网应用程序方面的有效性。实验结果表明，FogBus 2的调度策略与其他调度策略相比，将物联网应用的响应时间提高了53%。此外，与不支持可伸缩性的框架相比，可伸缩性机制可以减少高达48%的排队等待时间。
2021-08-08 cs.DB cs.DC cs.NI
Global Simulation-Guided Dynamic Operator Scheduling for Efficient Multi-Tenant Model Serving
Xiamen University（厦门大学）；Shanghai Innovation Institute（上海创新研究院）；Shanghai Jiao Tong University（上海交通大学）；East China Normal University（华东师范大学）；Tsinghua University（清华大学）
本文提出SliceScheduler系统，通过全局映射图、全局仿真器等组件实现算子级调度，在维持SLA违规率低于9%的同时，将多租户LLM服务的令牌吞吐量提升1.10-2.29倍，有效提高GPU利用率。
2026-08-18 cs.DC cs.LG cs.OS
Taming Cold Starts: Proactive Serverless Scheduling with Model Predictive Control
Umeå University（于默奥大学）；Elastisys AB（Elastisys公司）
本文提出基于模型预测控制的无服务器调度框架，通过预测调用和优化容器预热，有效缓解冷启动问题，降低尾延迟并减少资源消耗。
2026-01-13 cs.DC cs.PF
TD3-Sched: Learning to Orchestrate Container-based Cloud-Edge Resources via Distributed Reinforcement Learning
本文提出基于TD3的分布式强化学习调度器TD3-Sched，对云边容器环境的CPU和内存分配进行连续控制，在真实测试平台上显著降低延迟并提升SLO合规性。
2025-09-23 cs.DC
SmartWatts: Self-Calibrating Software-Defined Power Meter for Containers
本文提出轻量级功率监控系统 SmartWatts，通过在线校准自动调整 CPU 和 DRAM 功率模型，无需先验训练或硬件设备即可零成本部署，实现高精度的容器运行时功率估算。
2020-01-02 cs.DC cs.PF
Agentic-Kube: A Graph-Enhanced Multi-Agent Reinforcement Learning Framework for Multi-Objective Kubernetes Scheduling
University of Westminster Computer Science（威斯敏斯特大学计算机科学）；University of Westminster（威斯敏斯特大学）
本文提出AGMARL-DKS，通过多智能体强化学习解决动态Kubernetes调度问题，引入图神经网络和应力感知策略，提升容错性和资源利用率。
2026-08-31 cs.DC cs.LG cs.MA
Towards Carbon-Aware Container Orchestration: Predicting Workload Energy Consumption with Federated Learning
Department of Electrical and Software Engineering（电气与软件工程系）；University of Calgary（卡尔加里大学）
本文提出基于联邦学习的能耗预测框架，扩展Kepler以保护数据隐私，在SPECPower基准上相比集中式基线将平均绝对误差降低11.7%，解决了隐私与效率的权衡问题。
2025-10-04 cs.AI cs.DC
Jupiter: A Networked Computing Architecture
在物联网时代，人们对网络计算的需求越来越大，以支持时间受限、计算密集型的分布式应用，如多摄像机视频处理和数据融合等。我们提出了木星，一个开源的网络计算系统，输入有向无环图（DAG）为基础的计算任务图，有效地分配任务之间的一组网络计算节点，而不管他们的地理分离和编排执行的DAG之后。这个基于Kubernetes容器编排的系统支持集中式和分散式调度算法，用于根据来自一系列分析器的信息优化映射任务：网络分析器，资源分析器和执行时间分析器。虽然具有全局知识的集中式调度算法在网格/云计算社区中很受欢迎，但我们认为分布式调度方法更适合于网络计算，因为面对网络动态时通信和计算开销较低。为此，我们提出并实现了一类新的分布式调度算法称为WAVE的木星系统。我们提出了一组现实世界的实验在两个独立的测试平台上-一个全球网络的90个云计算机在8个城市和其他一个集群的30个树莓派节点，在一个简单的网络计算应用程序称为分布式网络异常检测器（DNAD）。我们发现，尽管使用更多的本地化知识，分布式波贪心算法可以实现类似的性能作为一个经典的集中式调度算法称为异构最早完成时间（HEFT），适当增强木星系统。
2019-12-23 cs.DC
TraDE: Network and Traffic-aware Adaptive Scheduling for Microservices Under Dynamics
TraDE是一种面向微服务的网络和流量感知自适应调度框架，通过自适应重新部署微服务实例来提升性能并满足服务质量要求。
2025-10-24 cs.DC cs.NI cs.PF
A Scalable Method for Scheduling Distributed Energy Resources using Parallelized Population-based Metaheuristics
Institute of Automation and Applied Informatics (IAI)（自动化与应用信息研究所（IAI））；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院（KIT））
近年来，分布式可再生能源资源越来越多地整合到现有的电网中。由于可再生能源资源的不确定性，网络运营商在平衡负载和发电方面面临新的挑战。为了满足新的要求，可以使用智能分布式能源工厂，其提供虚拟发电厂，例如需求侧管理或灵活发电。然而，对于这种分布式能源的单元委托的适当调度的计算是复杂的优化问题，如果考虑大量的分布式能源，则该问题对于标准优化算法通常太复杂。为了解决这种复杂的优化任务，基于种群的元算法-例如进化算法-代表了强大的替代方案。诚然，进化算法确实需要大量的计算能力来及时解决这些问题。这个性能问题的一个有前途的解决方案是并行化通常耗时的替代解决方案的评估。本文提出了一种新的通用的和高度可扩展的并行方法，用于分布式能源的机组组合的元启发式算法。它基于微服务，容器虚拟化和发布/订阅消息传递范式，用于调度分布式能源资源。通过在大数据环境中对三种不同的分布式能源调度方案进行并行优化，评估了该解决方案的可扩展性和适用性。新方法提供了集群或云并行化能力，能够处理大量的分布式能源。新提出的方法的应用结果在很好的性能，扩大优化速度。
2020-06-04 cs.AI cs.DC cs.SE
