Online Container Scheduling for Low-Latency IoT Services in Edge Cluster Upgrade: A Reinforcement Learning Approach
针对边缘集群升级时传统云调度策略不适配、易影响运行任务的问题，提出基于策略梯度的强化学习在线容器调度算法，可将总任务时延较基线降低约27%。
2023-07-22 cs.DC
KCES: A Workflow Containerization Scheduling Scheme Under Cloud-Edge Collaboration Framework
针对云边协同场景下工作流容器化调度的资源协调与应用协同难题，提出KubeEdge云边调度方案KCES，通过设计调度引擎、资源混合管理算法及水平漫游与垂直卸载策略，有效提升资源利用率并优化调度性能。
2024-01-02 cs.DC
Scale: Deep Reinforcement Learning for Container Scheduling in Serverless Edge Computing
Nottingham Trent University（诺丁汉特伦特大学）；Loughborough University（拉夫堡大学）；University of Bologna（博洛尼亚大学）；TU Wien（维也纳工业大学）；University of Oregon（俄勒冈大学）
本文提出Scale框架，通过深度强化学习优化容器调度与资源分配，在动态负载下平衡系统稳定性和性能，实验证明其在决策效率和资源利用率方面优于整数线性规划求解器。
2026-05-15 cs.DC
SCHeMa: Scheduling Scientific Containers on a Cluster of Heterogeneous Machines
在数据驱动的科学时代，进行涉及使用异构计算集群分析大型数据集的计算实验是许多科学家日常工作的一部分。此外，为了确保他们的结果的可信度，这些分析很容易被其他研究人员重现是非常重要的。虽然近年来已经引入了各种技术，可以促进科学家在这方面的工作，但仍然缺乏将它们结合起来的开源平台。在这项工作中，我们描述和演示SCheMa，一个开源平台，促进异构集群上的计算分析的执行和再现性，利用容器化，实验包装，工作流管理和机器学习技术。
2022-03-22 cs.DC
Optimal Scheduling of Age-centric Caching: Tractability and Computation
信息时代（AoI）的概念已经成为网络和控制系统中的一个重要性能指标。由AoI表示的信息新鲜度自然出现在缓存的上下文中。我们解决的内容大小不同的时隙系统的缓存更新的最佳调度。缓存和内容更新的容量有限。每个内容与在AoI中单调递减的效用函数相关联。对于这个组合优化问题，我们提出了以下贡献。首先，我们提供解决问题易处理性边界的理论结果。特别是，通过使用网络流的重新表述，我们证明了边界基本上是由内容是否大小相等决定的。其次，我们推导出一个整数线性制定的问题，其中的最优解可以获得小规模的情况下。接下来，通过数学重新表述，我们得到了一个可扩展的优化算法，使用重复的列生成。此外，该算法计算的边界的全局最优，可以用来评估任何调度解决方案的性能。大规模的情况下的性能评估证明了该算法的优势相比，贪婪的时间表。最后，我们扩展了我们的工作的适用性，循环调度。
2020-03-21 cs.DC
LRScheduler: A Layer-aware and Resource-adaptive Container Scheduler in Edge Computing
本文提出并实现了边缘计算中基于容器镜像层信息的层感知与资源自适应调度器LRScheduler，通过节点评分、动态加权和负载均衡机制降低容器部署成本，并在Kubernetes框架上完成全流程自动化，实验证明其相比默认调度器能有效降低部署成本。
2025-06-04 cs.DC
Dodoor: Efficient Randomized Decentralized Scheduling with Load Caching for Heterogeneous Tasks and Clusters
University of Cambridge（剑桥大学）
本文提出的Dodoor调度器通过批量缓存刷新和异构感知资源负载评分优化，在101节点CloudLab集群上减少调度消息量，同时提升吞吐量、降低平均及尾部延迟，性能优于去中心化基线调度器。
2026-08-24 cs.DC
Execution Templates: Caching Control Plane Decisions for Strong Scaling of Data Analytics
云框架的控制平面在调度粒度和性能之间进行权衡。集中式系统按任务粒度进行调度，但每秒只能调度几千个任务。分布式系统每秒调度数十万个任务，但更改调度的成本很高。我们提出了执行模板，一个控制平面的抽象，可以调度每秒数十万的任务，同时支持细粒度的，每任务的调度决策。执行模板利用程序的重复控制流来缓存频繁执行的任务块。在模板中执行任务需要发送一条消息。大规模的计划更改会安装新模板，而小的更改会将编辑应用到现有模板。对Nimbus（一种数据分析框架）中的执行模板进行评估发现，它们提供了集中式控制平面的细粒度调度灵活性，同时匹配分布式控制平面的强大扩展性。执行模板支持复杂的实际应用程序，例如具有三重嵌套循环和数据相关分支的流体模拟。
2017-05-04 cs.DC
Accounting for Information Freshness in Scheduling of Content Caching
在本文中，我们研究的内容放置在有限的缓存容量的基站中的时间的最优调度问题，同时考虑到卸载效果和信息的新鲜度。我们的模型卸载的基础上流行的请求和信息的年龄（AoI）的概念的基础上的信息新鲜度的数量。目标是通过联合成本函数减少回程链路的负载以及缓存中内容的AoI。对于由此产生的优化问题，我们证明了它的硬度通过减少分区问题。接下来，通过数学重新表述，我们得到了一个解决方案的基础上列生成和定制的舍入机制。最后，我们提供的性能评估结果表明，我们的算法提供了接近最优的解决方案。
2019-10-29 cs.DC cs.NI
An Interference-aware Approach for Co-located Container Orchestration with Novel Metric
本文引入调度延迟作为量化干扰的新型指标，利用机器学习预测在线服务干扰并指导资源分配，提出基于预测模型的调度算法，有效降低在线服务响应时间并平衡节点资源利用率。
2024-02-14 cs.DC
Dynamic Scheduling Strategies for Resource Optimization in Computing Environments
Western University（韦仕敦大学）
本文提出一种基于多目标优化的容器调度方法，通过引入优化模型和启发式算法，利用Google Cluster Data验证，显著提升了资源利用率、负载均衡与突发任务完成效率，为云原生环境下的智能资源管理奠定基础。
2024-12-23 cs.AI cs.DC
Speculative Container Scheduling for Deep Learning Applications in a Kubernetes Cluster
在过去十年中，我们目睹了从各种来源收集的数据量急剧增加。数据爆炸改变了世界，因为比以往任何时候都有更多的信息可供收集和分析。为了最大化利用率，已经开发了各种机器和深度学习模型，例如CNN [1]和RNN [2]，以研究数据并从不同角度提取有价值的信息。虽然数据驱动的应用程序改进了无数的产品，但用于超参数调优的训练模型仍然是一个耗时且资源密集型的过程。云计算为深度学习应用的训练提供基础设施支持。云服务提供商，如Amazon Web Services [3]，为客户端创建一个隔离的虚拟环境（虚拟机和容器），客户端共享物理资源，例如，CPU和内存。在云上，实现了资源管理方案，以实现用户之间的更好共享，并提高系统范围的性能。然而，一般的调度方法，如分散优先级和平衡资源调度器，不能很好地与深度学习工作负载一起工作。在这个项目中，我们提出了SpeCon，这是一种新型的容器调度器，针对短期深度学习应用程序进行了优化。基于虚拟化容器，如Kubernetes [4]和Docker [5]，SpeCon分析了训练过程的共同特征。我们设计了一套算法来监控训练的进度，并推测性地迁移增长缓慢的模型，为快速增长的模型释放资源。具体来说，广泛的实验表明，SpeCon将单个作业的完成时间提高了41.5%，在系统范围内提高了14.8%，在完工时间方面提高了24.7%。
2020-10-21 cs.DC cs.PF
HEATS: Heterogeneity- and Energy-Aware Task-based Scheduling
云提供商通常为用户提供各种类型的硬件。客户利用此选项部署具有GPU、FPGA、x86以外的架构（例如，ARM、IBM Power8），或具有某些特定扩展（例如Intel SGX）。在这项工作中，我们考虑了客户用于部署容器的实例，现在容器是微服务的事实标准，或者用于执行计算任务。在这样做时，底层容器编排器（例如，Kubernetes）的设计应该考虑并利用这种硬件多样性。此外，除了不同机器提供的功能范围外，硬件异构性引入的能源需求的多样性经常被忽视，默认容器编排器的放置策略简单地忽略了这一点。我们介绍了HEATS，一个新的面向任务的和能源感知的编排容器化应用程序的目标异构集群。HEATS允许客户在性能与能源需求之间进行交易。我们的系统首先学习物理主机的性能和能量特征。然后，它监视主机上任务的执行，并适时地将它们迁移到不同的集群节点上，以匹配客户需要的部署权衡。我们的HEATS原型在Google的Kubernetes中实现。在我们的集群中使用合成跟踪进行的评估表明，我们的方法可以节省大量的能源（高达8.5%），并且对部署任务的整体运行时间的影响很小（最多7%）。HEATS是开源的。
2019-06-26 cs.DC
Containers Orchestration with Cost-Efficient Autoscaling in Cloud Computing Environments
容器是独立的、自包含的单元，将软件及其依赖项打包在一起。它们提供轻量级的性能隔离、快速灵活的部署以及细粒度的资源共享。近年来，它们在更好的应用程序管理和部署方面越来越受欢迎，并被组织广泛用于在专有集群或云数据中心部署日益多样化的工作负载，如Web服务，大数据和物联网。这导致了容器编排平台的出现，这些平台旨在管理大规模集群中容器化应用程序的部署。这些平台中的大多数都是为了优化固定大小的私有集群上的容器调度而定制的，但不能自动扩展集群的大小，也不能考虑特定于公共云环境的功能。在这项工作中，我们提出了一个全面的容器资源管理方法，有三个不同的目标。第一个是通过在现有资源上有效地调度容器来优化容器的初始放置。第二个是在运行时根据当前集群的工作负载自动调整资源数量。第三个是重新调度机制，通过在可能的情况下将应用程序整合到更少的VM中，进一步支持资源的有效使用。我们的算法被实现为Kubernetes平台的插件调度器。我们评估了我们的框架和澳大利亚国家云基础设施上提出的算法的有效性。我们的实验表明，可以实现相当大的成本节约，通过动态管理集群的大小和应用程序的位置。我们发现，与默认的Kubernetes调度程序相比，我们提出的方法能够将成本降低58%。
2018-12-02 cs.DC
Efficient Large-Scale Multiple Migration Planning and Scheduling in SDN-enabled Edge Computing
在移动边缘云中分配的容器化服务为大规模和实时应用程序提供了低延迟响应的机会。同时，引入实时容器迁移，支持动态资源管理和用户移动性。然而，随着网络拓扑规模的扩大和迁移请求的增加，目前云数据中心的多种迁移规划和调度算法已不能适应边缘计算中的大规模场景。边缘计算中的用户移动性引起的实时迁移需要接近实时的调度。因此，本文通过软件定义网络（SDN）控制器，将实时迁移之间的资源竞争建模为动态资源依赖图。提出了一种基于迭代最大独立集（MIS）的多迁移规划调度算法.使用出租车和电信基站坐标的真实移动轨迹，评估结果表明，我们的解决方案可以在大规模边缘计算环境中有效地调度多个实时容器迁移。与云中最先进的迁移规划算法相比，它将处理时间缩短了3000倍，同时为时间关键型迁移提供有保证的迁移性能。
2021-11-17 cs.DC cs.NI
COSCO: Container Orchestration using Co-Simulation and Gradient Based Optimization for Fog Computing Environments
由于现代工作负载应用的高度不稳定性以及用户对低能耗和响应时间的敏感要求，大规模雾平台中的智能任务放置和任务管理具有挑战性。已经出现了容器编排平台来缓解这个问题，现有技术使用调度来快速达成调度决策，或者使用AI驱动的方法，如强化学习和进化方法来适应动态场景。前者通常无法快速适应高度动态的环境，而后者的运行时间慢到足以对响应时间产生负面影响。因此，需要一种调度策略，既能在易变环境中有效地工作，又能降低调度开销。为了实现这一点，我们提出了一个基于梯度的优化策略，使用反向传播的梯度相对于输入（GOBI）。此外，我们通过开发耦合仿真和集装箱调度框架（COSCO）来利用预测数字孪生模型和仿真功能的准确性。利用这一点，我们创建了一个混合仿真驱动的决策方法，GOBI*，优化服务质量（QoS）参数。协同仿真和反向传播方法使这些方法能够在易变的环境中快速适应。使用GOBI和GOBI* 方法对雾应用的真实数据进行的实验表明，与最先进的算法相比，在能耗、响应时间、服务水平目标和调度时间方面分别有高达15%、40%、4%和82%的显著改善。
2021-07-09 cs.DC cs.PF
Accelerating Large-scale Data Exploration through Data Diffusion
数据密集型应用程序通常需要对大型数据集进行探索性分析。如果在分布式资源上执行分析，数据局部性对于高吞吐量和性能至关重要。我们提出了一个“数据扩散”的方法，获取计算和存储资源动态，复制数据响应需求，并安排计算接近数据。随着需求的增加，会获得更多的资源，从而允许对引用相同数据的后续请求做出更快的响应;当需求下降时，资源会被释放。这种方法可以提供专用硬件的好处，而不会产生相关的高成本，具体取决于工作负载和资源特性。这种方法让人联想到协作缓存，Web缓存和对等存储系统，但解决了不同的应用需求。其他数据感知调度方法假设专用资源，如果负载显著变化，则这可能是昂贵的和/或低效的。为了探索数据扩散方法的可行性，我们扩展了Falkon资源提供和任务调度系统，以支持数据缓存和数据感知调度。微基准测试和大规模天文学应用程序的性能结果表明，我们的方法相对于替代方法提高了性能，并提供了更好的可扩展性，因为聚合I/O带宽随数据缓存节点的数量线性扩展。
2008-08-26 cs.DC
A Graph-based Model for GPU Caching Problems
由于GPU体系结构提供的大量并行性和复杂的数据共享模式，在GPU程序中建模数据共享是一项具有挑战性的任务。更好的GPU缓存效率可以通过不同线程之间的仔细任务调度来实现。传统上，在并行计算领域，图划分模型被用来建模数据通信和指导任务调度。然而，我们发现，以前的方法是不准确的或昂贵的应用时，GPU程序。在本文中，我们提出了一种新的任务划分模型，是准确的，并引起快速和高质量的任务/数据重组算法的发展。我们证明了所提出的模型的有效性，通过严格的理论分析的算法界限和广泛的实验分析。实验结果表明，它在一组有代表性的GPU应用程序中实现了显着的性能改善。
2016-05-06 cs.DC cs.PL
CASA: A Framework for SLO and Carbon-Aware Autoscaling and Scheduling in Serverless Cloud Computing
本文提出CASA框架，在无服务器云集群中同时考虑碳足迹和SLO约束进行容器调度与自动伸缩，实验表明其碳足迹最多降低2.6倍、SLO违反率最多降低1.4倍。
2024-08-31 cs.DC cs.PF
Differentiate Quality of Experience Scheduling for Deep Learning Inferences with Docker Containers in the Cloud
随着大数据驱动的应用程序的普及，例如智能手机上的人脸识别和Google Ads的量身定制推荐，我们正在朝着比以往任何时候都更加智能的生活方式迈进。各种神经网络驱动的模型在其智能的后端运行，以实现对用户的快速响应。支持这些模型需要大量基于云的计算资源，例如，CPU和GPU。云计算提供商根据客户占用的资源量向他们收费。客户必须平衡预算和体验质量（例如，响应时间）。预算依赖于个体企业主，所需的体验质量（QoE）取决于不同应用的使用场景。例如，自动驾驶汽车需要实时响应，但解锁智能手机可以容忍延迟。然而，云提供商未能向其客户提供基于QoE的选项。在本文中，我们提出了DQoES，用于深度学习推理的差异化体验质量调度器。DQoES接受客户端对目标QoE的规范，并动态调整资源以接近其目标。通过大量基于云的实验，DQoES表明，它可以针对各种QoE调度多个并发作业，并且与现有系统相比，可以实现高达8倍的满意度模型
2022-09-22 cs.DC cs.PF
DQN-Scheduler: A Multi-Objective Optimization Framework for Scheduling Microservices in Cloud Computing
The University of Western Australia（西澳大利亚大学）
本文提出DQN-Scheduler，一种基于强化学习的多目标优化框架，用于云环境中微服务调度，同时优化资源利用率、负载均衡、延迟、可靠性和可用性，实验证明其优于基准算法。
2026-09-15 cs.DC
Cost-Efficient Orchestration of Containers in Clouds: A Vision, Architectural Elements, and Future Directions
本文提出了一个架构框架，在云环境中的容器的有效编排。它围绕资源调度和重新调度策略以及自动缩放算法，使创建弹性虚拟集群。通过这种方式，所提出的框架使得能够在封装在容器中的不同客户端应用之间共享计算环境，包括Web服务、离线分析作业和后端预处理任务。所设计的资源管理算法和策略将提高可用虚拟资源的利用率，以降低提供商的运营成本，同时满足各种类型的应用程序的资源需求。所提出的算法将考虑以前被其他解决方案忽略的因素，包括1）获取资源的定价模型，2）应用程序的容错性，以及3）运行应用程序的QoS要求，如Web服务的延迟和吞吐量以及分析和预处理作业的截止日期。建议的解决方案将通过开发一个基于现有容器编排平台的原型平台进行评估。
2018-07-10 cs.DC
Chameleon: Adaptive Caching and Scheduling for Many-Adapter LLM Inference Environments
针对多适配器LLM推理环境的低效问题，提出Chameleon系统，通过适配器缓存和适配器感知调度，减少加载时间与带宽开销、解决队首阻塞，显著降低延迟并提升吞吐量。
2025-11-12 cs.AR cs.DC cs.OS
Task Containerization and Container Placement Optimization for MEC: A Joint Communication and Computing Perspective
针对MEC中容器部署导致的通信开销与资源不均衡问题，提出基于工作流的数学模型与多目标组合优化方法，联合优化任务容器化与容器放置，有效降低开销并平衡资源。
2023-05-23 cs.DC cs.NI
Master Graduation Thesis: A Lightweight and Distributed Container-based Framework
边缘/雾计算是一种新的计算范式，为资源有限的物联网（IoT）设备提供可扩展的计算和存储资源。与云计算相比，边缘/雾服务器的资源更少，但可以以更高的带宽和更少的通信延迟访问。因此，集成边缘/雾和云基础设施可以支持执行各种延迟敏感和计算密集型物联网应用。尽管一些框架试图提供这种集成，但仍然存在一些挑战需要解决，例如不同物联网应用的动态调度，可扩展性机制，多平台支持以及支持不同的交互模型。为了克服这些挑战，我们提出了一个轻量级和分布式的基于容器的框架，称为FogBus 2。它提供了一种调度异构物联网应用程序的机制，并实现了几种调度策略。此外，它提出了一种优化的遗传算法，以获得快速收敛到合适的解决方案。此外，它还提供了一种可扩展性机制，以确保在物联网设备数量增加或资源负担过重时的有效响应。此外，FogBus 2的动态资源发现机制有助于新实体快速加入系统。我们还开发了两个物联网应用程序，称为康威的生命游戏和视频光学字符识别，以证明FogBus 2在处理实时和非实时物联网应用程序方面的有效性。实验结果表明，FogBus 2的调度策略与其他调度策略相比，将物联网应用的响应时间提高了53%。此外，与不支持可伸缩性的框架相比，可伸缩性机制可以减少高达48%的排队等待时间。
2021-08-08 cs.DB cs.DC cs.NI
Global Simulation-Guided Dynamic Operator Scheduling for Efficient Multi-Tenant Model Serving
Xiamen University（厦门大学）；Shanghai Innovation Institute（上海创新研究院）；Shanghai Jiao Tong University（上海交通大学）；East China Normal University（华东师范大学）；Tsinghua University（清华大学）
本文提出SliceScheduler系统，通过全局映射图、全局仿真器等组件实现算子级调度，在维持SLA违规率低于9%的同时，将多租户LLM服务的令牌吞吐量提升1.10-2.29倍，有效提高GPU利用率。
2026-08-18 cs.DC cs.LG cs.OS
Taming Cold Starts: Proactive Serverless Scheduling with Model Predictive Control
Umeå University（于默奥大学）；Elastisys AB（Elastisys公司）
本文提出基于模型预测控制的无服务器调度框架，通过预测调用和优化容器预热，有效缓解冷启动问题，降低尾延迟并减少资源消耗。
2026-01-13 cs.DC cs.PF
TD3-Sched: Learning to Orchestrate Container-based Cloud-Edge Resources via Distributed Reinforcement Learning
本文提出基于TD3的分布式强化学习调度器TD3-Sched，对云边容器环境的CPU和内存分配进行连续控制，在真实测试平台上显著降低延迟并提升SLO合规性。
2025-09-23 cs.DC
InstGenIE: Generative Image Editing Made Efficient with Mask-aware Caching and Scheduling
Hong Kong University of Science and Technology（香港科学与技术大学）；Alibaba Group（阿里巴巴集团）
InstGenIE通过掩码感知的缓存复用、无气泡流水线、连续批处理与负载均衡，高效服务扩散模型图像编辑，实现高达3倍吞吐提升和14.7倍延迟降低。
2025-05-27 cs.AI cs.DC cs.LG
Data-driven scheduling in serverless computing to reduce response time
在功能即服务（FaaS）中，客户部署功能而不是完整的虚拟机或Linux容器。云提供商负责维护这些功能的运行时环境。FaaS产品由所有主要的云提供商提供（例如Amazon Lambda，Google Cloud Functions，Azure Functions）;以及独立的开源软件（例如Apache OpenWhisk）及其商业变体（例如Adobe I/O Cloud或IBM Cloud Functions）。我们采用FaaS集群中单个节点的自底向上视角。我们假设已经安装了分配给这个节点的一组函数的所有执行环境。我们的目标是调度由负载均衡器传递的函数的单独调用，以最小化与响应时间相关的性能指标。部署的函数通常会重复执行，以响应最终用户的多次调用。因此，我们的调度决策是基于本地收集的信息：记录的调用频率和执行时间。我们提出了一些算法，我们也采用了一些理论上的基础，如SEPT或SERPT。我们的模拟使用最近发布的Azure Functions Trace。我们表明，相比基线FIFO或循环，我们的数据驱动的调度决策显着提高性能。
2021-05-07 cs.DC
A Deep Reinforcement Learning Approach for Cost Optimized Workflow Scheduling in Cloud Computing Environments
本文针对云环境中竞价型实例价格波动与中断带来的工作流调度不确定性，提出基于深度强化学习的自主调度方法，并在 Argo 中实现，实验证明其成本表现优于现有基准。
2024-08-06 cs.DC
Agentic-Kube: A Graph-Enhanced Multi-Agent Reinforcement Learning Framework for Multi-Objective Kubernetes Scheduling
University of Westminster Computer Science（威斯敏斯特大学计算机科学）；University of Westminster（威斯敏斯特大学）
本文提出AGMARL-DKS，通过多智能体强化学习解决动态Kubernetes调度问题，引入图神经网络和应力感知策略，提升容错性和资源利用率。
2026-08-31 cs.DC cs.LG cs.MA
Towards Carbon-Aware Container Orchestration: Predicting Workload Energy Consumption with Federated Learning
Department of Electrical and Software Engineering（电气与软件工程系）；University of Calgary（卡尔加里大学）
本文提出基于联邦学习的能耗预测框架，扩展Kepler以保护数据隐私，在SPECPower基准上相比集中式基线将平均绝对误差降低11.7%，解决了隐私与效率的权衡问题。
2025-10-04 cs.AI cs.DC
Jupiter: A Networked Computing Architecture
在物联网时代，人们对网络计算的需求越来越大，以支持时间受限、计算密集型的分布式应用，如多摄像机视频处理和数据融合等。我们提出了木星，一个开源的网络计算系统，输入有向无环图（DAG）为基础的计算任务图，有效地分配任务之间的一组网络计算节点，而不管他们的地理分离和编排执行的DAG之后。这个基于Kubernetes容器编排的系统支持集中式和分散式调度算法，用于根据来自一系列分析器的信息优化映射任务：网络分析器，资源分析器和执行时间分析器。虽然具有全局知识的集中式调度算法在网格/云计算社区中很受欢迎，但我们认为分布式调度方法更适合于网络计算，因为面对网络动态时通信和计算开销较低。为此，我们提出并实现了一类新的分布式调度算法称为WAVE的木星系统。我们提出了一组现实世界的实验在两个独立的测试平台上-一个全球网络的90个云计算机在8个城市和其他一个集群的30个树莓派节点，在一个简单的网络计算应用程序称为分布式网络异常检测器（DNAD）。我们发现，尽管使用更多的本地化知识，分布式波贪心算法可以实现类似的性能作为一个经典的集中式调度算法称为异构最早完成时间（HEFT），适当增强木星系统。
2019-12-23 cs.DC
ENTS: An Edge-native Task Scheduling System for Collaborative Edge Computing
协同边缘计算（CEC）是一种新兴的范例，能够在异构地理分布的边缘节点之间共享耦合的数据、计算和网络资源。最近，在CEC中编排和调度容器化应用程序工作负载的趋势已经出现，而Kubernetes已经成为工业界和学术界广泛采用的事实标准。然而，Kubernetes并不适合CEC，因为它的设计并不专用于边缘计算，并且忽略了边缘原生性的独特功能。更具体地说，Kubernetes主要确保工作负载的资源提供，而忽略边缘原生应用程序的性能要求，例如吞吐量和延迟。此外，Kubernetes忽略了边缘原生应用程序的内部依赖关系，没有考虑数据本地性和网络资源，导致性能低下。在这项工作中，我们设计并开发了第一个边缘原生任务调度系统ENTS，以管理分布式边缘资源，并促进有效的任务调度，以优化边缘原生应用程序的性能。ENTS扩展了Kubernetes的独特能力，通过综合考虑作业配置文件和资源状态来协同调度计算和网络资源。我们展示了优越的疗效的ENTS与数据流应用程序的案例研究。我们数学上制定了一个联合任务分配和流量调度问题，最大限度地提高工作吞吐量。我们设计了两个新的在线调度算法，以最佳地决定任务分配，带宽分配，和流路由策略。在实际边缘视频分析应用上的大量实验表明，与现有技术相比，ENTS的平均作业吞吐量提高了43%~ 220%。
2022-10-14 cs.DC cs.NI
TokenLake: A Unified Segment-level Prefix Cache Pool for Fine-grained Elastic Long-Context LLM Serving
Peking University（北京大学）；StepFun
针对现有集群前缀缓存系统与调度耦合导致的负载失衡等问题，提出分段级前缀缓存池TokenLake，通过声明式接口与重请求感知均衡实现高效池化，提升吞吐量与命中率。
2025-08-24 cs.DC cs.LG
ZipMoE: Efficient On-Device MoE Serving via Lossless Compression and Cache-Affinity Scheduling
School of Electronic Science and Engineering, Nanjing University, China.（南京大学电子科学与工程学院）；National Key Laboratory for Novel Software Technology, Nanjing University, China.（南京大学新型软件技术国家重点实验室）
提出ZipMoE系统，通过缓存-调度协同设计利用边缘设备硬件特性和MoE参数统计冗余，实现无损且高效的设备端MoE推理，显著降低延迟并提升吞吐量。
2026-05-22 cs.AI cs.DC cs.LG
Understanding Patterns of Deep Learning ModelEvolution in Network Architecture Search
Argonne National Laboratory（阿贡国家实验室）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文通过算法分析和定量刻画 Candle 项目与 Nasbench-201 搜索空间中模型在正则化演化下的结构演化模式，揭示分布式场景下的缓存与调度机会，并阐明模型架构流行度升降的条件。
2023-09-22 cs.AI cs.DC
A Scalable Method for Scheduling Distributed Energy Resources using Parallelized Population-based Metaheuristics
Institute of Automation and Applied Informatics (IAI)（自动化与应用信息研究所（IAI））；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院（KIT））
近年来，分布式可再生能源资源越来越多地整合到现有的电网中。由于可再生能源资源的不确定性，网络运营商在平衡负载和发电方面面临新的挑战。为了满足新的要求，可以使用智能分布式能源工厂，其提供虚拟发电厂，例如需求侧管理或灵活发电。然而，对于这种分布式能源的单元委托的适当调度的计算是复杂的优化问题，如果考虑大量的分布式能源，则该问题对于标准优化算法通常太复杂。为了解决这种复杂的优化任务，基于种群的元算法-例如进化算法-代表了强大的替代方案。诚然，进化算法确实需要大量的计算能力来及时解决这些问题。这个性能问题的一个有前途的解决方案是并行化通常耗时的替代解决方案的评估。本文提出了一种新的通用的和高度可扩展的并行方法，用于分布式能源的机组组合的元启发式算法。它基于微服务，容器虚拟化和发布/订阅消息传递范式，用于调度分布式能源资源。通过在大数据环境中对三种不同的分布式能源调度方案进行并行优化，评估了该解决方案的可扩展性和适用性。新方法提供了集群或云并行化能力，能够处理大量的分布式能源。新提出的方法的应用结果在很好的性能，扩大优化速度。
2020-06-04 cs.AI cs.DC cs.SE
