QoS-Aware Resource Placement for LEO Satellite Edge Computing
随着提供全球宽带互联网接入的大型LEO卫星通信网络的出现，出现了在LEO网络内提供边缘计算资源的兴趣。LEO Edge承诺为全球客户端和物联网设备提供低延迟，高带宽的计算和存储资源访问，而无论其地理位置如何。目前的建议假设在每个LEO卫星上都有计算资源或服务副本，这需要大量的前期投资，并可能导致过度供应。为了有效地实施和使用LEO边缘，需要用于服务器和服务放置的方法，这些方法有助于选择卫星的最佳子集作为服务器或服务副本位置。在本文中，我们将展示如何利用LEO卫星网络的独特拓扑结构，将现有的研究资源放置在一个二维环面可以应用到这个问题。此外，我们扩展了现有的离散资源放置方法，允许放置QoS约束。在拟议的低轨卫星通信网络的模拟中，我们展示了QoS如何取决于轨道参数，我们提出的方法可以考虑到这些影响，现有的方法不能。
2022-02-25 cs.DC cs.NI
Jiagu: Optimizing Serverless Computing Resource Utilization with Harmonized Efficiency and Practicability
针对无服务器平台资源利用率与实用性难兼顾的问题，提出 Jiagu，通过预决策调度和双阶段扩缩容提升部署密度并降低调度与冷启动开销。
2024-03-01 cs.DC
Edge User Allocation with Dynamic Quality of Service
在边缘计算中，边缘服务器被放置在终端用户附近。应用程序供应商可以将其服务部署在边缘服务器上，以减少其应用程序用户所经历的网络延迟。边缘用户分配（EUA）问题向服务提供商提出了挑战，其目标是最大化在边缘服务器上具有租用的计算资源的分配的应用用户的数量，同时确保其固定的服务质量（QoS），分配给应用程序用户的计算资源量。在本文中，我们向前迈出了一步，考虑应用程序用户的动态QoS水平，这概括了EUA问题，但进一步复杂化，把它变成一个动态QoS EUA问题。这为应用程序用户提供了灵活的体验质量（QoE）级别。我们提出了一个最佳的方法来找到一个解决方案，最大限度地提高应用程序用户的整体QoE。我们还提出了一个启发式的方法，快速找到次优的解决方案，大规模的动态QoS EUA问题的实例。在真实世界的数据集上进行实验，以证明我们的方法对基线方法和最先进的方法的有效性和效率。
2019-07-26 cs.DC
Methods and Metrics for Fair Server Assessment under Real-Time Financial Workloads
能源效率一直是企业面临的一个严峻挑战。金融业经营着世界上一些最大的金融中心。随着能源成本的增加和金融服务行业的增长，新兴的金融分析工作负载可能会产生极高的运营成本，以满足其延迟目标。微服务器最近已经成为高端服务器的替代品，通过横向扩展，有望在数据中心实现可扩展的性能和低能耗。不幸的是，架构特征、形状因子和设计考虑方面的明显差异使得服务器和微服务器之间的公平比较异常具有挑战性。在本文中，我们提出了一个严格的方法和新的指标，公平比较服务器和微服务器平台。我们部署了我们的方法和指标来比较一个带有ARM内核的微服务器和两个带有x86内核的服务器，运行相同的实时的【形】财务分析工作负载。我们定义了特定于工作负载但独立于平台的性能指标，用于平台比较，目标是数据中心运营商和最终用户。我们的方法确定了基于Xeon Phi处理器的服务器可提供最高的性能和能效。然而，通过扩展节能微服务器，我们实现了竞争力或更好的能源效率比一个功率等效的服务器与两个桑迪桥插槽，尽管微服务器的核心速度较慢。使用一个新的iso-QoS（iso-服务质量）度量，我们发现，ARM微服务器的规模足以满足市场的吞吐量需求，即100%的QoS方面的及时选项定价，与少至55%的能量消耗的Sandy Bridge服务器。
2014-12-30 cs.DC
eBeeMetrics: An eBPF-based Library Framework for Feedback-free Observability of QoS Metrics
University of California, Riverside（加州大学河滨分校）
eBeeMetrics通过eBPF可观测事件（如系统调用）准确观测应用级指标，解耦系统管理运行时与QoS指标反馈，提升服务器动态识别能力。
2026-03-26 cs.DC
NPU-Accelerated Imitation Learning for Thermal Optimization of QoS-Constrained Heterogeneous Multi-Cores
应用程序迁移和动态电压和频率缩放（DVFS）是在用户定义的服务质量（QoS）目标下充分利用异构集群多核处理器的热优化的可用潜力的不可或缺的手段。然而，选择执行每个应用的核和每个集群的电压/频率（V/f）水平是一个复杂的问题，因为1）应用的不同特性和QoS目标需要不同的优化，以及2）每个集群DVFS需要考虑所有运行的应用的全局优化。用于功率或温度最小化的现有技术的资源管理技术要么依赖于通常不可用的测量（诸如功率），要么未能考虑问题的所有维度（例如，通过使用简化的分析模型）。模仿学习（IL）通过从Oracle演示中训练模型，能够使用Oracle策略的最优性，但运行时开销较低。我们是第一个采用IL的QoS目标下的温度最小化。我们通过训练一个神经网络（NN）来解决复杂性，并使用神经处理单元（NPU）来加速NN推理。虽然这种NN加速器在终端设备上越来越普遍，但到目前为止，它们仅用于加速用户应用程序。相比之下，我们在真实平台上使用现有的加速器来加速基于NN的资源管理。我们在配备Arm big.LITTLE CPU和NPU的HiKey 970板上进行的评估显示，在运行时开销可以忽略不计的情况下，温度显著降低，并且使用了看不见的应用程序和与用于培训的不同冷却方式。
2022-06-11 cs.AR cs.DC
FaaSched: A Jitter-Aware Serverless Scheduler
无服务器计算系统正变得非常流行。Netflix、Airbnb和可口可乐等大型公司使用此类系统来运行其网站和IT系统。这种系统的优点包括对自动缩放、负载均衡和快速分布式处理的出色支持。这些是多QoS系统，其中不同类别的应用程序具有不同的延迟和抖动（延迟的变化）的要求：我们考虑延迟敏感（LS）和延迟期望（LD）的应用程序的混合。确保LS应用程序的适当可扩展性和QoS实施并非易事。我们需要在不增加LS应用的响应延迟的情况下最小化抖动，并且我们还需要检查LD应用的响应延迟的退化。这是第一篇论文在这个领域，实现了LS应用程序和LD应用程序的响应延迟之间的抖动所遭受的权衡。我们最大限度地减少前者与后者使用强化学习（RL）为基础的计划的约束。为了设计这样的RL方案，我们进行了详细的表征研究，以找到感兴趣的输入变量，定义了新的状态表示，并提出了一个定制的奖励函数，使我们能够实现这种权衡。对于一个积极的用例，包括五个流行的LS和LD应用程序，我们显示了响应时间方差和平均延迟分别减少50.31%和27.4%，LS应用程序。LD应用程序的执行延迟的平均降低限制在19.88%。
2023-03-11 cs.DC
FRESCO: Fast and Reliable Edge Offloading with Reputation-based Hybrid Smart Contracts
FRESCO提出结合区块链声誉系统与混合智能合约及SMT决策引擎的边缘卸载框架，实现快速可靠卸载，响应时间降低7.86倍，QoS违规率仅0.4%。
2025-09-10 cs.DC
MORPHOSYS: Efficient Colocation of QoS-Constrained Workloads in the Cloud
在IaaS云等托管环境中，通常通过使用服务水平协议（SLA）来保证理想的应用程序性能，该协议指定必须分配用于正常操作的最小部分资源容量。在单个主机上任意托管具有不同SLA的应用程序可能会导致主机资源的低效利用。在本文中，我们提出，周期性的资源分配和消费模型被用于更细粒度的SLA的表达。我们提出的SLA模型具有显著的特点，它具有灵活性，使IaaS提供商能够安全地将SLA从一种形式转换为另一种形式，以实现更高效的托管。为了实现这一目标，我们提出了MorphoSys：一个服务框架，允许操纵SLA，以实现高效的工作负载托管。我们提出的结果，从广泛的跟踪驱动的模拟托管视频点播服务器在云环境中。结果表明，使用MorphoSys可以显著减少资源浪费（高达60%）。
2019-12-02 cs.DC
QoE-oriented Dependent Task Scheduling under Multi-dimensional QoS Constraints over Distributed Networks
针对分布式网络中依赖任务调度忽视多维QoS和应用满意度的问题，提出QoE成本模型及分层多队列任务调度算法HMTSA，以最小化总体QoE成本，显著提升应用满意度。
2023-12-29 cs.DC
Allocation and Admission Policies for Service Streams
一个服务供应系统进行检查，其中一些服务器被用来提供不同类型的服务，付费客户。客户执行作业流的费用;作业流中的作业数量和提交率是指定的。另一方面，提供者承诺一定的服务质量（QoS），通过流中作业的平均等待时间来测量。如果未满足约定的QoS要求，则支付罚款。目标是使单位时间的总平均收益最大化。动态政策，使服务器分配和流准入的决定，介绍和评估。几个模拟的结果进行了说明。
2011-02-17 cs.DC cs.PF
Electricity Cost Minimization for Multi-Workflow Allocation in Geo-Distributed Data Centers
School of Computer Science and Engineering, Southeast University（计算机科学与工程学院，东南大学）；School of Computing, Macquarie University（计算学院，麦考瑞大学）
针对地理分布式数据中心中异构资源与动态电价下多工作流调度的电费成本最小化问题，提出基于图嵌入与策略网络求解MDP的电费成本感知多工作流调度算法（ECMWS），在满足截止时间约束下较现有方法提升超15%。
2025-04-27 cs.AI cs.DC
A Cooperative Scheduling Scheme of Local Cloud and Internet Cloud for Delay-Aware Mobile Cloud Computing
移动云计算（MCC）是随着移动应用的普及而提出的一种帮助移动设备节省能量和提高计算性能的技术。为了进一步提高MCC的服务质量（QoS），可以将云服务器部署在本地，从而降低延迟。然而，本地云的计算资源通常是有限的。本文设计了一种基于阈值的策略，通过本地云和互联网云资源的协作来提高MCC的QoS，同时利用了本地云的低延迟和互联网云的丰富计算资源的优势。该策略还根据应用程序的延迟要求应用优先级队列。通过所提出的算法获得取决于业务负载的最佳阈值。仿真结果表明，在本地云过载的情况下，互联网云的辅助可以大大提高服务质量。如果本地云根据其延迟要求对任务进行排序，则可以实现更好的QoS，其中延迟敏感的应用程序在延迟容忍的应用程序之前执行。此外，该策略的最优阈值对系统的QoS有很好的影响。
2015-11-27 cs.DC cs.NI
Energy-aware Load Balancing Policies for the Cloud Ecosystem
计算机和通信系统的能耗并不与工作量成线性比例。即使在空闲或轻负载时，系统也会使用大量的能量。一个广泛报道的大型数据中心资源管理解决方案是将负载集中在服务器的子集上，并尽可能将其余服务器切换到可能的睡眠状态之一。我们提出了一个传统的负载均衡的概念，旨在优化大规模系统的能源消耗：{ \it均匀地分配工作负载的最小的一组服务器运行在一个最佳的能源水平，同时遵守QoS约束，如响应时间。}我们的模型适用于集群系统，该模型还要求在每个重新分配间隔的系统资源的需求以有界的速度增加。在本文中，我们报告了应用程序扩展的VM迁移成本。
2014-01-09 cs.DC
RescureService: A Benchmark Microservice System for the Research of Mobile Edge and Cloud Computing
云和边缘计算的巨大发展通过在云和边缘服务器上部署服务，在许多场景中实现了更好的服务质量（QoS）。在这些场景中还采用了微服务技术，将复杂的业务逻辑分解为许多小的独立服务。同时，随着微服务系统的不断发展，在这些系统中提供稳定的QoS成为一个挑战，已经提出了许多不同的方法来实现稳定的QoS。然而，这些工作的实验中使用的微服务系统存在服务数量少和服务类型单一等问题。因此，我们开发了开源基准微服务系统RescureService，包含20+服务，包括数据库、前端、业务逻辑、数据处理，以及救灾场景下的人工智能服务。提供了测量工具来测量服务属性，以帮助研究人员准备实验数据，并提供了预先测量的服务属性。同时，详细介绍了基准测试需求的实现，结果表明RescureService满足研究中基准测试系统的需求。最后，以服务计算为例说明了系统的应用.
2022-10-28 cs.DC
Mage: Online Interference-Aware Scheduling in Multi-Scale Heterogeneous Systems
作为一种提高性能和能源效率的方法，异构网络在核心和服务器级别都越来越受欢迎。然而，尽管有这些好处，调度应用程序在异构机器仍然具有挑战性。此外，当这些异构资源容纳多个应用程序以提高利用率时，资源容易发生争用、破坏性干扰和不可预测的性能。现有的解决方案检查服务器之间或服务器内部的异构性，导致错失性能和效率机会。我们目前的法师，一个实用的干扰感知运行时，优化系统的性能和效率与内部和服务器间的异质性。Mage利用快速和在线数据采掘来快速探索应用程序放置的空间，并确定最大限度地减少共存应用程序之间的破坏性干扰的空间。Mage持续监控活动应用程序的性能，并在检测到QoS违规时，考虑到迁移的任何开销，确定替代放置是否会更有益。在异构CMP上的350个应用程序混合中，Mage将性能提高了38%，与贪婪调度器相比，性能提高了2倍。在异构集群上的160个混合中，Mage平均提高了30%的性能，比贪婪调度器提高了52%，比Paragon [15]的组合提高了11%，用于服务器间和服务器内异构性。
2018-04-17 cs.DC
Packrat: Automatic Reconfiguration for Latency Minimization in CPU-based DNN Serving
University of Utah（犹他大学）；Microsoft Research（微软研究院）；NVIDIA（英伟达）；Microsoft（微软）
Packrat提出在CPU服务器上以多实例、小批量和少线程替代单实例全线程运行DNN，并自动搜索最优实例数、线程数和批处理大小，作为TorchServe扩展实现延迟降低1.43至1.83倍。
2023-11-30 cs.DC cs.LG
QoS-Efficient Serving of Multiple Mixture-of-Expert LLMs Using Partial Runtime Reconfiguration
Texas A&M University（德克萨斯A&M大学）
针对单GPU多租户服务多个微调MoE-LLM的内存挑战，本文提出基于相似性的专家共享与运行时部分重配置方法，在保持质量和吞吐量的同时显著降低周转时间。
2025-05-10 cs.DC cs.LG
FAME: QoS-aware Async Service Orchestration for Agentic Workflows
Indian Institute of Science, Bangalore（印度科学研究所班加罗尔分校）；IBM Research Lab, Bangalore, India（印度班加罗尔IBM研究实验室）
本文提出FAME架构，利用FaaS平台优化MCP启用的智能工作流，实现模块化组合和状态持久化，提升效率与成本效益。
2026-08-11 cs.DC
Data Center Server Provision: Distributed Asynchronous Control for Coupled Renewal Systems
本文考虑了具有N个服务器和随机到达服务请求的数据中心的成本最小化问题。中央路由器决定每个新请求使用哪个服务器。每个服务器都有三种类型的状态（活动，空闲，设置），具有不同的成本和持续时间。服务器在其自己的状态下异步操作，并且在空闲时可以选择多个睡眠方式之一。我们开发了一个在线分布式控制算法，使每个服务器做出自己的决定，请求队列是有界的，整体时间平均成本是接近最优的概率为1。该算法不需要到达率或作业规模的概率信息。接下来，一个改进的算法，使用一个单一的队列开发通过“虚拟化”技术，这是提供相同的（接近最优）的成本。在一个真实的数据中心流量跟踪上的仿真实验证明了该算法的有效性。
2016-12-17 cs.DC cs.PF math.OC
H2O-Cloud: A Resource and Quality of Service-Aware Task Scheduling Framework for Warehouse-Scale Data Centers -- A Hierarchical Hybrid DRL (Deep Reinforcement Learning) based Approach
近年来，云计算吸引了最终用户和云服务提供商（CSP）。提高资源利用率（RUTR），如服务器上的CPU和内存使用率，同时保持服务质量（QoS）是拥有仓库规模数据中心的CSP面临的一个关键挑战。现有的工作提出了各种算法，以减少能源成本或改善RUtR，要么缺乏细粒度的任务调度能力，或未能考虑到一个全面的系统模型。本文提出了H2O-Cloud，一个分层和混合的在线任务调度框架，仓库规模的CSP，以提高资源的使用效率，同时保持QoS。H2O-Cloud具有高度可扩展性，并考虑各种工作负载场景，云平台配置，用户请求信息和动态定价模型等综合信息。该框架的层次结构和混合性，结合其深度强化学习（DRL）引擎，使H2O-Cloud能够在不可预测的环境中高效地启动动态调度和学习，而无需预先训练。我们的实验证实了所提出的H2O云的高效率相比，基线方法，在能源和成本方面，同时保持QoS。与最先进的基于DRL的算法相比，H2O-Cloud实现了高达201.17%的能源成本效率提升，47.88%的能源效率提升和551.76%的回报率提升。
2020-02-12 cs.DC
Tail-Learning: Adaptive Learning Method for Mitigating Tail Latency in Autonomous Edge Systems
针对边缘计算中动态多媒体流应用的尾延迟问题，提出一种基于学习的自适应调度方法，利用拉普拉斯变换推导响应时间上界并整合到强化学习中，实验证明能有效降低尾延迟。
2023-12-28 cs.DC
Carbon and Reliability-Aware Computing for Heterogeneous Data Centers
本文提出一种面向异构数据中心的跨分布式数据中心时空工作负载迁移综合优化框架，通过基于服务器预期寿命的隐含碳排放模型及考虑硬件、软件和工作负载故障的备份资源分配策略，在满足SLA的同时联合最小化运营与隐含碳排放，使总碳排放减少高达21%。
2025-04-01 cs.CE cs.DC cs.PF
RAPID: Enabling Fast Online Policy Learning in Dynamic Public Cloud Environments
Oregon State University（俄勒冈州立大学）；Intel Corporation（英特尔公司）
针对公共云中动态工作负载的资源分配难题，RAPID框架利用轻量级QoS预测实现快速全在线策略学习，在真实平台上几分钟内稳定策略，QoS提升9.0倍，尽力而为性能提升19-43%。
2023-09-04 cs.DC cs.LG cs.SY
