Predictive Autoscaling in Cloud-Native and Federated Cloud-Edge Computing Environments: A Taxonomy and Future Directions
The University of Melbourne(墨尔本大学);Banaras Hindu University(贝拿勒斯印度教大学)
本文系统综述了云原生与联邦云边环境中的预测性自动缩放技术,提出了基于触发器、目标、预测模型和评估指标的分类法,并探讨了CRD、MAPE控制环及联邦学习等机制,最后指出了未来研究方向。
2026-06-05 cs.DC
Graph-PHPA: Graph-based Proactive Horizontal Pod Autoscaling for Microservices using LSTM-GNN
Dublin City University(都柏林城市大学)
基于微服务的架构已经成为云原生应用程序的主流。随着越来越多的应用程序每天部署在云平台上利用这种架构,需要更多的研究工作来了解如何应用不同的策略来有效地管理各种云资源。大量的研究已经部署了自动资源分配算法,使用反应式和主动式自动缩放策略。然而,目前的算法在从微服务的架构和部署环境中捕获微服务的重要特征方面的效率仍然存在差距,例如,缺乏对图形依赖的考虑。为了应对这一挑战,我们提出了Graph-PHPA,这是一种基于图的主动水平pod自动缩放策略,用于利用长短期记忆(LSTM)和基于图神经网络(GNN)的预测方法将云资源分配给微服务。我们使用部署在专用测试环境中的Bookinfo微服务来评估Graph-PHPA的性能,其中实时工作负载是根据真实的数据集生成的。我们通过将Graph-PHPA与Kubernetes中基于规则的资源分配方案作为基线进行比较来证明其有效性。大量的实验已经实施,我们的结果表明,我们提出的方法在资源节约的反应式基于规则的基线算法在不同的测试场景中的优越性。
2022-09-06 cs.DC cs.LG
Experimentally Evaluating the Resource Efficiency of Big Data Autoscaling
本文通过实验评估了Spark等大数据系统自动扩展的资源效率,发现其相比静态资源分配无显著优势,并指出节点大小和内存CPU比率的非弹性是根本局限。
2025-01-24 cs.DC
LSRAM: A Lightweight Autoscaling and SLO Resource Allocation Framework for Microservices Based on Gradient Descent
针对微服务SLO资源分配模型沉重、重训练困难等问题,提出基于梯度下降的轻量级框架LSRAM,通过两阶段机制快速分配资源并适应环境变化,在保证QoS的同时减少17%资源使用。
2024-11-18 cs.DC
Optimizing simultaneous autoscaling for serverless cloud computing
本文针对无服务器云计算中的自动扩缩容问题,提出基于流体近似模型和分离连续线性规划的优化控制策略,显著降低失败请求和响应时间。
2023-10-29 cs.DC
Towards a Proactive Autoscaling Framework for Data Stream Processing at the Edge using GRU and Transfer Learning
Computer Science Department(计算机科学系);Kwame Nkrumah University of Science and Technology(库马西科技大学)
本文提出一种面向边缘数据流处理的主动式自动伸缩框架,通过GRU负载预测、基于DTW与联合分布适配的迁移学习以及考虑资源约束的水平伸缩模块,在低训练成本下实现优于CNN、ARIMA、Prophet和RL方法的预测精度与伸缩效果。
2025-07-19 cs.CV cs.DC cs.LG
Technical Report: A Trace-Based Performance Study of Autoscaling Workloads of Workflows in Datacenters
为了改善客户体验,数据中心运营商提供了简化应用程序和资源管理的支持。例如,代表客户运行工作流的工作负载是期望的,但是需要越来越复杂的自动缩放策略,即,为客户动态供应资源的策略。虽然选择和调整自动缩放策略对于数据中心运营商来说是一项具有挑战性的任务,但到目前为止,相对较少的研究调查了工作流工作负载的自动缩放性能。补充以前的知识,在这项工作中,我们提出了该领域的第一个全面的性能研究。使用基于跟踪的模拟,我们比较了多个应用程序域中最先进的自动缩放策略、工作负载到达模式(例如,突发性)和系统利用水平。我们进一步研究了自动缩放和常规分配策略之间的相互作用,以及自动缩放的复杂性成本。我们的定量研究不仅关注传统的性能指标和最先进的弹性指标,而且还关注与时间和内存相关的自动缩放复杂性指标。我们的主要研究结果提供了关于以前未报告的操作行为的强有力的定量证据,例如,自动缩放策略在应用程序域中的执行方式不同,以及它们之间的差异有多大。
2017-11-24 cs.DC
Agentic Autoscaling through Worker-Pool Orchestration for LLM-driven Text Classification in Cloud Computing Environments
The University of Melbourne(墨尔本大学);Banaras Hindu University(贝拿勒斯印度教大学)
针对LLM文本分类的高延迟与突发负载,提出基于工作池编排的智能体自动扩缩容框架,集成优先级队列与动态工作池,在AG News和SMS Spam数据集上分别达到90.5%和99.5%准确率,优于基线并提升资源效率。
2026-09-15 cs.DC
Practical Efficient Microservice Autoscaling with QoS Assurance
云应用程序越来越多地从单一服务转向基于敏捷微服务的部署。然而,由于松散耦合和交互组件的数量庞大,微服务的有效资源管理构成了一个重大障碍。各种微服务之间的相互依赖性使得现有的云资源自动扩展技术无效。同时,基于机器学习(ML)的方法试图捕捉微服务中的复杂关系,需要大量的训练数据,并导致故意违反SLO。此外,这些ML繁重的方法在适应动态变化的微服务操作环境方面很慢。在本文中,我们提出了PEMA(实用高效微服务自动缩放),一个轻量级的微服务资源管理器,通过机会主义的资源减少找到有效的资源分配。PEMA的轻量级设计实现了新颖的工作负载感知和自适应资源管理。使用三个原型微服务实现,我们表明PEMA可以找到高效的资源分配,并与基于商业规则的资源分配相比节省高达33%的资源。
2022-08-09 cs.DC cs.SY eess.SY
Self-adaptive, Requirements-driven Autoscaling of Microservices
针对微服务自动伸缩中资源分配次优的问题,提出自适应需求驱动的MS-RA方案,基于SLO实时决策,经评估相比Kubernetes HPA,在满足SLO下显著减少资源消耗。
2024-02-02 cs.DC
Daedalus: Self-Adaptive Horizontal Autoscaling for Resource Efficiency of Distributed Stream Processing Systems
Technische Universität Berlin(柏林工业大学)
Daedalus通过自适应机制实现分布式流处理系统的高效水平自动扩展,减少资源消耗并保持低延迟性能。
2024-03-05 cs.DC
ORACL: Optimized Reasoning for Autoscaling via Chain of Thought with LLMs for Microservices
The University of Melbourne(墨尔本大学);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
ORACL通过LLM进行链式推理,实现微服务自动扩展的优化资源分配,提升根因识别准确率和训练效率。
2026-02-05 cs.DC
HGraphScale: Hierarchical Graph Learning for Autoscaling Microservice Applications in Container-based Cloud Computing
School of Computing and Information Systems, the University of Melbourne(墨尔本大学计算与信息系)
本文提出基于层次图神经网络的自动扩缩容方法HGraphScale,通过捕获微服务依赖与容器部署方案应对动态工作负载,在VM预算下最多减少80.16%平均响应时间。
2025-10-23 cs.DC
Elascale: Autoscaling and Monitoring as a Service
自动可扩展性已经成为云软件系统的一个明显特征,包括但不限于大数据和物联网应用。云应用程序提供商现在可以完全控制其应用程序的微服务和宏服务;虚拟机和容器可以在运行时按需配置或取消配置。Elascale致力于根据工作负载和整个应用程序堆栈内部状态的变化来调整微观/宏观资源。Elascale利用Elasticsearch堆栈收集、分析和存储性能指标。然后,Elascale使用其默认的缩放引擎来弹性地适应托管应用程序。可扩展性通过Elascale中的提供程序,模式,插件和策略元素来保证,通过这些元素,可以为各种技术,基础设施和软件堆栈设计和实施灵活的可扩展性算法,包括反应式和主动式技术。在本文中,我们介绍了Elascale的架构和初始实现;将利用一个实例为通用物联网应用程序添加自动可扩展性。由于对目标软件系统的零依赖性,Elascale可以为任何类型的云软件系统提供自动可扩展性和监控即服务。
2017-11-08 cs.DC
TokenScale: Timely and Accurate Autoscaling for Disaggregated LLM Serving with Token Velocity
Huawei(华为)
TokenScale通过引入Token Velocity和Convertible Decoders,提升解耦大语言模型服务的性能和效率,减少SLO违规率并降低成本。
2026-11-05 cs.DC
Performance-Feedback Autoscaling with Budget Constraints for Cloud-based Workloads of Workflows
工作流在云领域的日益普及促进了复杂的自动缩放策略的发展,这些策略允许自动分配和释放资源。然而,许多最先进的工作流自动缩放策略大多是基于计划的,或者是为批量(集成)工作流而设计的。这降低了他们在处理工作流的工作负载时的灵活性,因为工作负载通常会受到不可预测的资源需求波动的影响。此外,云计算中的自动缩放几乎总是施加了应该满足的预算限制。用于工作流的可感知自动缩放器通常需要预先提供任务运行时估计,由于其动态特性,在处理工作负载时并不总是可能的。为了解决这些问题,我们提出了一种新的性能反馈自动定标器(PFA),它是可感知的,不需要任务运行时估计其操作。相反,它使用性能反馈循环来监视每种资源类型的平均吞吐量。我们在流行的Apache Airflow工作流管理系统中实现了PFA,并将我们的自动缩放器与其他两种最先进的自动缩放器的性能进行了比较,并与混合编程方法获得的最优解进行了比较。我们的研究结果表明,PFA优于其他考虑在线自动缩放,因为它有效地最大限度地减少了平均作业延迟高达47%,同时仍然满足预算约束。此外,PFA的平均运行时间比竞争对手低76%。
2019-07-23 cs.DC
Comparison of Autoscaling Frameworks for Containerised Machine-Learning-Applications in a Local and Cloud Environment
本文比较了本地与云环境中容器化机器学习应用在应用级、容器级和机器级三个层级的自动伸缩框架,基于推理时间与扩容响应时间提出部署策略。
2024-02-25 cs.DC
The High Cost of Keeping Warm: Characterizing Overhead in Serverless Autoscaling Policies
本研究设计了可复刻商业平台特性的开源无服务器系统,对比不同自动扩缩容策略的性能与成本,揭示了实例更迭、内存分配带来的高额开销及性能与成本的矛盾,提出结合真实部署与仿真的混合方法以贴近生产规模评估。
2025-09-03 cs.DC
Quantifying Autoscaler Vulnerabilities: An Empirical Study of Resource Misallocation Induced by Cloud Infrastructure Faults
Okestro AI Research Center(Okestro 人工智能研究中心)
本文通过实证研究发现,云基础设施故障会导致自动扩展策略出现资源误分配,其中存储故障带来最大成本开销,路由异常导致资源不足,且水平扩展策略对临时异常更敏感。
2026-01-08 cs.DC
ADAPT: A Self-Calibrating Proactive Autoscaler for Container Orchestration
Department of Computer Engineering(计算机工程系);[J.C. Bose University of Science and Technology](J.C. Bose科学技术大学)
ADAPT通过在线EWMA估计器动态调整冷启动时间,结合MPC优化副本数量,实现低于5%的SLA违规率,优于传统HPA和MPC+Prophet方案。
2026-05-15 cs.DC cs.LG
MAS-H2: A Hierarchical Multi-Agent System for Holistic Cloud-Native Autoscaling
University of Westminster(威斯敏斯特大学);University of York(约克大学)
MAS-H2通过分层多智能体系统实现云原生自动扩展的前瞻性管理,减少资源浪费和性能下降,提升系统稳定性与资源利用效率。
2026-03-08 cs.DC cs.LG
SpotKube: Cost-Optimal Microservices Deployment with Cluster Autoscaling and Spot Pricing
SpotKube是一个基于Kubernetes的开源方案,利用遗传算法和竞价定价动态扩缩微服务集群,在保障性能的同时实现公有云部署成本最优。
2025-02-07 cs.DC
Decentralized Proactive Model Offloading and Resource Allocation for Split and Federated Learning
针对物联网边缘环境中分割联邦学习存在的资源异构、分配影响及隐私泄露等问题,提出去中心化主动模型卸载与资源分配方案(DP-MORA),在满足数据泄露风险约束下最小化训练延迟。
2024-12-20 cs.DC
An Ensemble Scheme for Proactive Data Allocation in Distributed Datasets
物联网(IoT)的出现为众多设备提供了与其环境交互、收集和处理数据的机会。数据以向上模式通过边缘计算(EC)基础设施传输到云。大量的EC节点成为分布式数据集的主机,在这些数据集中,可以与最终用户近距离地实现各种处理活动。这种方法可以限制提供响应的延迟。在本文中,我们专注于一个模型,该模型主动决定收集的数据应该存储在哪里,以最大限度地提高EC基础设施中数据集的准确性。我们认为准确性是由数据集的可靠性定义的,数据集的可靠性表现为数据的统计相似性。我们讨论了传入数据与可用数据集的相似性,并选择最合适的数据集来存储新信息。为了减轻处理节点的负担,一个连续的,复杂的统计处理,我们建议使用的概要作为主题的相似性过程。传入的数据与基于集成方案的可用概要进行匹配,然后,我们选择合适的主机来存储它们并执行相应概要的更新。我们提供了问题的描述和我们的解决方案的制定。我们的实验评估目标,以揭示所提出的方法的性能。
2020-07-28 cs.DC
User-Assisted Collaborative Distributed Inference for Efficient QoS-Aware Autoscaling
Stockholm University(斯德哥尔摩大学)
针对AI推理服务需求增长带来的集中式服务成本上升问题,提出结合专用与用户贡献资源的协作式分布式推理系统,通过高维生成马尔可夫模型优化调度,可在用户规模扩大时提升性能并降低专用资源消耗。
2026-08-13 cs.AI cs.DC cs.LG
AHPA: Adaptive Horizontal Pod Autoscaling Systems on Alibaba Cloud Container Service for Kubernetes
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Alibaba Cloud, Alibaba Group(阿里巴巴集团阿里云)
Kubernetes现有的应用实例资源分配策略无法根据业务需求动态调整,在波动时会造成巨大的资源浪费。此外,新的云服务的出现提出了更高的资源管理要求。本文讨论了阿里云容器服务中的水平POD资源管理,并采用了一个新部署的AI算法框架AHPA --自适应水平POD自动缩放系统。基于一个强大的分解预测算法和性能训练模型,AHPA提供了一个最佳的POD数量调整计划,可以减少POD资源,并保持业务稳定。这套系统自2021年4月部署以来,已拓展到物流、社交网络、AI音视频、电商等多个客户场景,与以往算法相比,AHPA解决了弹性滞后问题,CPU使用率提升10%,资源成本降低20%以上。此外,AHPA可以根据预测的业务量自动进行灵活规划,无需人工干预,大幅节省运维成本。
2023-03-07 cs.DC cs.LG cs.SY
Dynamic Selection of Virtual Machines for Application Servers in Cloud Environments
自动缩放是云计算的一个标志,因为它允许灵活的即时分配和释放计算资源,以响应动态且通常不可预测的工作负载。这对于那些工作负载依赖于时间并且容易出现flash拥挤的web应用程序来说尤其重要。它们中的大多数遵循3层架构模式,分为表示层、应用程序/域层和数据层。在这项工作中,我们专注于应用层。自云计算出现以来,“当平均服务器CPU利用率达到X%时,实例化新的虚拟机(VM)”类型的反应式自动缩放策略已被成功使用。但是,目前哪种VM类型最适合特定应用程序仍然是一个悬而未决的问题。在这项工作中,我们提出了一种动态VM类型选择的方法。它使用在线机器学习技术的组合,实时的工作,并适应用户工作负载模式的变化、应用程序的变化以及中间件的升级和重新配置。我们已经开发了一个原型,并使用部署在AWS EC2上的CloudStone基准进行了测试。结果表明,我们的方法可以快速适应工作量的变化,并降低了总成本相比,行业标准的方法。
2016-02-07 cs.DC
Memory at Your Service: Fast Memory Allocation for Latency-critical Services
在诸如键值存储和web搜索之类的延迟关键型服务与尽力而为的批处理作业之间的协同定位和存储器共享是提高多租户数据中心系统中的存储器利用率的有吸引力的方法。然而,我们发现,非常不同的目标的工作协同定位和GNU/Linux系统堆栈可能会导致严重的性能下降的延迟关键服务的内存压力下,在多租户系统。我们通过快速内存分配和主动回收来解决延迟关键型服务的内存压力。我们发现,内存分配延迟占主导地位的整体查询延迟,特别是在内存压力。我们分析了GNU/Linux系统栈提供的默认存储管理机制,并找出了它在多租户系统中对延迟关键服务效率低下的原因。我们提出了Hermes,一个快速的内存分配机制,在用户空间,自适应地保留内存的延迟关键的服务。它建议Linux操作系统主动回收批处理作业的内存。我们在GNU C Library中实现了Hermes。实验结果表明,Hermes在微基准测试中,平均内存分配延迟和$99^{th}$百分比内存分配延迟分别降低了54.4%和62.4%.对于两个实际的延迟关键型服务,Hermes将平均和$99^{th}$百分位数尾部查询延迟降低了40.3%。与默认的Glibc、jemalloc和TCMalloc相比,Hermes在内存压力下将服务级别目标违规减少了84.3%。
2021-09-07 cs.DC
Scene-Aware Latency Estimation for Microservices via Multi-Scale Graph Fusion
School of Software Technology, Zhejiang University(浙江大学软件学院)
本文提出MSGAF框架,通过多尺度图融合和场景感知学习,提升微服务系统延迟估计精度,解决现有方法在多层级和动态环境下的不足。
2026-04-01 cs.DC
Cloud Native System for LLM Inference Serving
本文探讨利用容器化、微服务、动态调度及 Kubernetes 自动扩缩容构建云原生 LLM 推理服务系统,以提升资源效率、降低延迟并增强高负载下的吞吐与弹性扩展能力。
2025-07-24 cs.DC
workload forecasting and resource management models based on machine learning for cloud computing environments
工作负载预测和资源分配在高效云环境的生产中起着重要的作用。在决定资源分配之后对未来工作负载的主动估计已经成为处理其他内置挑战的优先解决方案,这些挑战包括物理机器的欠载/过载、资源浪费、服务质量(QoS)违规、负载均衡、VM迁移等等。在这种情况下,本文提出了一个全面的调查工作量预测和预测资源管理模型在云环境中。讨论了与云计算有关的工作负载预测和资源管理的概念框架、现有基于机器学习的资源分配技术的分类以及物理资源分配的低效分配的主要挑战。此后,全面调查现有的国家的最先进的贡献授权机器学习为基础的方法在云工作负载预测和资源管理领域。最后,本文探讨和总结了云环境下弹性资源管理面临的各种挑战和未来的研究方向。
2021-06-29 cs.DC
Prepartition: Paradigm for the Load Balance of Virtual Machine Allocation in Data Centers
应用负载均衡策略对提高数据中心资源的性能和可靠性具有重要意义。云数据中心调度问题中的一个挑战是考虑可重构虚拟机(VM)的分配和迁移以及托管物理机(PM)的集成特性。在预约模型中,数据中心的工作负载具有固定的处理间隔特性。负载均衡调度是一个NP难问题,已有许多文献证明了这一点。传统上,对于没有迁移的离线负载平衡,最好的方法之一是LPT(最长处理时间优先),众所周知,其近似比率为4/3。通过虚拟化,在分配后对VM进行反应式(后)迁移是一种流行的负载平衡和流量整合方法。然而,反应式迁移很难达到预定义的负载平衡目标,并可能导致服务中断和不稳定以及其他相关成本。有鉴于此,我们提出了一个新的范例,称为预分区,它主动设置处理时间约束的每个请求上的每个PM,并提前准备迁移虚拟机,以实现预定义的平衡目标。预分区可以通过提前准备VM迁移来减少处理时间,从而减少不稳定性并根据需要实现更好的负载平衡。我们还将Prepartition应用于在线(PrepartitionOn)负载平衡,并将其与现有的在线调度算法进行比较。理论和实验结果。
2015-08-26 cs.DC
Semantic-Aware LLM Orchestration for Proactive Resource Management in Predictive Digital Twin Vehicular Networks
本文提出 SP-LLM 框架,通过预测性数字孪生预测网络参数,并利用 LLM 作为认知编排器解析自然语言语义命令,实现车联网中主动的任务卸载与资源分配,显著提升了系统的可扩展性、鲁棒性和适应性。
2025-08-02 cs.DC cs.NI
Artificial Intelligence for Cost-Aware Resource Prediction in Big Data Pipelines
BITS Pilani(比斯·帕利尼大学)
本文提出基于随机森林回归的AI方法,利用Google Borg跟踪数据预测大数据管道资源利用率,实现高精度(R²=0.99),支持成本感知的云自动伸缩。
2025-09-30 cs.AI cs.DC
Nexus:Proactive Intra-GPU Disaggregation of Prefill and Decode in LLM Serving
Independent Researcher(独立研究者);Nanyang Technological University(南洋理工大学);Carnegie Mellon University(卡内基梅隆大学)
针对LLM服务中预填充与解码的冲突资源需求,提出GPU内主动式分解系统Nexus,动态分配资源并考虑带宽争用,显著提升吞吐量并降低延迟。
2025-08-07 cs.DC cs.LG
Prepartition: Load Balancing Approach for Virtual Machine Reservations in a Cloud Data Center
负载均衡对于云数据中心的高效和长期运营至关重要。对于虚拟化,在分配后进行虚拟机的后(反应式)迁移是负载均衡和整合的传统方式。然而,反应式迁移不容易达到预定义的负载平衡目标,并且可能会中断服务并带来不稳定性。因此,我们提出了一种新的方法,称为预分区,负载均衡。它将VM请求按开始时间、结束时间和容量需求顺序划分为几个子请求,并将每个子请求视为常规VM请求。通过这种方式,它可以主动为每个物理机器上的每个VM请求设置边界,并使调度器在VM迁移之前做好准备,以获得预定义的负载均衡目标,从而以细粒度的方式支持资源分配。仿真合成数据表明,在平均利用率、不平衡度、最大完工时间和容量最大完工时间等指标下,PrepartitionOff调度算法比现有的负载均衡算法性能提高10%~ 20%.我们还将预分区扩展到在线负载均衡。评估结果表明,我们提出的方法也优于现有的在线算法。
2021-10-19 cs.DC
Towards Resource-Efficient Serverless LLM Inference with SLINFER
Shanghai Jiao Tong University(上海交通大学);Nanyang Technological University(南洋理工大学)
SLINFER通过在异构硬件上实现弹性共享,提高小型至中型LLM推断的资源效率,实验显示服务容量提升达86%-154%
2025-12-15 cs.DC
ASA -- The Adaptive Scheduling Algorithm
针对 HPC 中预分配浪费资源与动态分配可能延长工作流完成时间的矛盾,本文提出具有收敛保证的 ASA,通过预测队列等待并提前请求资源变更,在两台超级计算机上显著降低等待与完成时间。
2024-01-18 cs.DC
Analytically-Driven Resource Management for Cloud-Native Microservices
Cornell University(康奈尔大学);Microsoft Research(微软研究院);MIT(麻省理工学院)
提出轻量级云原生微服务资源管理系统Ursa,通过分析模型分解SLA并映射资源分配,相比ML方法大幅缩短数据收集时间、提升控制平面速度,并降低SLA违规率与CPU分配。
2024-01-05 cs.AI cs.DC
QoE-Aware Resource Allocation for Crowdsourced Live Streaming: A Machine Learning Approach
Qatar University(卡塔尔大学)
在个人设备的巨大技术进步和无线移动网络接入的普及的驱动下,世界见证了众包直播流媒体的爆炸式增长。确保更好的观众体验质量(QoE)是最大化观众数量和增加流媒体提供商利润的关键。这可以通过倡导地理分布式云基础设施来实现,以尽可能接近观众分配多媒体资源,以最大限度地减少访问延迟和视频停顿。此外,预先分配确切的所需资源避免了过度供应,过度供应可能导致服务提供商的显著成本。相反,供应不足可能会对观众造成重大延迟。在本文中,我们介绍了一个预测驱动的资源分配框架,以最大限度地提高观众的QoE和最小化的资源分配成本。首先,通过利用我们独特的数据集中可用的观众位置,我们实现了一个机器学习模型来预测每个地理分布的云站点附近的观众数量。其次,基于预测结果显示接近实际值,我们制定了一个优化问题,主动分配资源的观众接近。此外,我们将提出一个折衷之间的视频访问延迟和资源分配的成本。
2019-06-20 cs.DC cs.HC cs.LG
Optimal Configuration of API Resources in Cloud Native Computing
KU Leuven(荷语鲁汶大学)
本文提出通过前期筛选和贝叶斯优化,在云原生计算中优化微服务的资源配置,以提升性能并平衡采样成本与最优配置的差距。
2025-12-29 cs.DC cs.PF
Resilient Edge Service Placement under Demand and Node Failure Uncertainties
本文针对资源需求与节点失效不确定性,提出两阶段自适应鲁棒模型优化边缘服务部署与工作负载分配,并开发高效迭代算法与仿射决策规则近似方法求解,帮助服务提供商主动减轻不确定性影响。
2023-06-27 cs.DC math.OC
CPU-Limits kill Performance: Time to rethink Resource Control
IBM Research, New York, USA(IBM研究院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究质疑云原生资源管理中普遍使用的CPU limits机制,通过实证指出其损害延迟敏感应用性能、弊大于利,提出应重新思考自动扩缩容与计费模式,同时明确其在后台任务等场景的合理价值。
2025-10-12 cs.DC cs.OS cs.PF
An Intelligent Resource Reservation for Crowdsourced Live Video Streaming Applications in Geo-Distributed Cloud Environment
Hamad Bin Khalifa University(哈马德·本·哈利法大学);Qatar University(卡塔尔大学);Comsats Institute of Information Technology(COMSATS信息技术学院)
Facebook Live、YouNow、斗鱼和Twitch等众包视频直播服务最近正获得更大的发展势头。以具有成本效益的方式分配有限的资源,同时通过实时传送和为所有观众提供适当的表示来最大化服务质量(QoS)是一个具有挑战性的问题。在我们的论文中,我们介绍了一个基于机器学习的预测资源分配框架的地理分布的云站点,考虑延迟和质量约束,以保证最大的QoS观众和最小的成本为内容提供方。首先,我们提出了一个离线优化,决定所需的转码资源在分布式区域附近的观众与QoS和整体成本之间的权衡。其次,我们使用机器学习来构建预测模型,该模型可以提前预测每个云站点要保留的近似转码资源。最后,我们开发了一个贪婪的最近和Chestion算法(GNCA)执行的资源分配的实时广播视频租用的资源。大量的模拟表明,GNCA优于众包直播流媒体的最先进的资源分配方法,在系统成本方面实现了超过20%的增益,同时以相对较低的延迟为观众提供服务。
2021-06-04 cs.DC cs.LG cs.MM
Pursuing Equilibrium of Medical Resources via Data Empowerment in Parallel Healthcare System
本文提出由MOOS、MOSE和MOLMs构成的平行医疗系统,通过数据赋能扩大供给、识别潜在需求并优化供需匹配,案例显示其可将医疗设施可及性提升最高300%。
2023-06-01 cs.CY cs.DC cs.SY
SARS: A Resource Selection Algorithm for Autonomous Driving Tasks in Heterogeneous Mobile Edge Computing
本文针对异构移动边缘计算中自动驾驶实时任务处理问题,提出SARS和PORA两种资源选择与预留算法,通过评估服务器适配性和按需预留资源,最大化任务处理数量并优先保障紧急任务,实验证明优于现有算法。
2024-11-24 cs.DC cs.NI