ABEONA: an Architecture for Energy-Aware Task Migrations from the Edge to the Cloud
本文介绍了我们使用ABEONA的初步结果,ABEONA是一种边缘到云架构,允许将任务从边缘上的低能耗,资源受限的设备迁移到云端。我们对人工和真实世界数据集的初步结果表明,通过在边缘水平扩展,可以以更有效的方式执行工作负载,而不会对执行运行时产生负面影响。
2019-10-08 cs.DC
Decentralized utility- and locality-aware replication for heterogeneous DHT-based P2P cloud storage systems
作为一种分布式哈希表(DHT),Skip Graph路由覆盖被广泛应用于包括P2P云存储在内的多个P2P服务中。适用于基于Skip Graph的P2P云存储的完全分散式复制算法在副本可用性和响应时间方面都未能提高系统的性能。此外,他们假设系统在节点的延迟分布、可用性行为、带宽或存储方面是同质的。在本文中,我们提出了金字塔,这是第一个完全分散的实用程序和本地感知的复制方法跳过基于图的P2P云存储系统。Pyramid认为节点在延迟分布、可用性行为、带宽和存储方面是异构的。金字塔是实用性感知的,因为它最大化每个时隙的副本的平均可用带宽(例如,每小时)。此外,Pyramid是本地感知的,因为它最大限度地减少了节点与其最近副本之间的平均延迟。我们的模拟结果表明,相比于最先进的解决方案,无论是在效用意识,或在本地意识,我们提出的金字塔提高了效用和本地意识的副本与增益约1.2和1.1倍,分别在同一时间。
2019-07-28 cs.DC
CloudyGUI: A Novel Python-based Framework for Auto-Scaling and Cloud Workload Analysis
Guru Nanak Dev University(古鲁纳克德夫大学)
提出CloudyGUI框架,通过工作负载生成、预测(XGBoost和LSTM)和基于MAPE循环的自动缩放三阶段流程,实现云资源管理策略的测试与验证,并验证了其与真实数据的高度一致性。
2026-07-02 cs.DC
Carbon-aware Resource Management for Latency-Sensitive Cloud Computing Environments: A Taxonomy and Future Directions
University of Melbourne(墨尔本大学);University of Amsterdam(阿姆斯特丹大学)
本文针对延迟敏感型云计算环境的碳感知资源管理问题,对相关最新文献进行分类分析,指出现有研究差距并提出未来研究方向,助力平衡延迟约束与碳减排目标。
2026-10-22 cs.DC
MoA-Off: Adaptive Heterogeneous Modality-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Institute of AI for Industries(产业智能研究院);University of Chinese Academy of Sciences(中国科学院大学);Peng Cheng Laboratory(鹏城实验室)
MoA-Off 提出异构模态感知模块与自适应边缘-云协同卸载策略,动态调度多模态大语言模型推理负载,在保持准确率的同时降低 30% 以上延迟和 30%-65% 资源开销。
2025-09-21 cs.DC
Auto-scaling Web Applications in Clouds: A Taxonomy and Survey
受新兴的云计算范例的吸引,Web应用程序提供商一直在将其应用程序迁移到云数据中心。云的吸引人的特征之一是弹性。它允许云用户按需获取或释放计算资源,这使得Web应用程序提供商能够在动态工作负载下自动扩展为其应用程序提供的资源,而无需人为干预,以最大限度地降低资源成本,同时满足服务质量(QoS)要求。在本文中,我们全面分析了在云中自动扩展Web应用程序所面临的挑战,并回顾了该领域的发展。我们提出了一个分类的自动缩放器根据所确定的挑战和关键属性。我们分析了调查的作品,并将它们映射到分类,以确定在这一领域的弱点。此外,基于分析,我们提出了新的未来方向,可以在这一领域进行探索。
2017-09-14 cs.DC
e112: A Context-Aware Mobile Emergency Communication Platform Leveraging Smartphone Sensing and Cloud Services
Uppsala University(乌普萨拉大学);University of Cyprus(塞浦路斯大学);University of Nicosia(尼科西亚大学)
本文提出e112平台,通过智能手机和云服务提升灾害期间公民与当局的沟通效率,核心方法包括SOS请求、定制警报和撤离指导,主要贡献是验证简单设计能有效提升应急响应能力。
2026-04-22 cs.DC
Virtual Memory Streaming Technique for Virtual Machines (VMs) for Rapid Scaling and High Performance in Cloud Environment
本文讨论了虚拟内存流(VMS)技术在云环境中提供虚拟机(VM)的影响。VMS是一种可扩展的虚拟化技术,允许不同的虚拟机快速扩展,高性能,并提高硬件利用率。传统的虚拟机管理程序不支持真正的无停机实时迁移,并且其缺乏内存超额订阅可能会通过限制每个主机上的VM数量来损害私有云部署的经济性。VMS汇集了多种高级虚拟机管理程序存储管理技术,包括粒度页面共享、动态内存占用管理、实时迁移、读缓存和独特的虚拟机克隆功能。描述了一个架构模型,以及一个概念验证实现,即VMS通过真正的实时迁移和虚拟机克隆来动态扩展虚拟化基础架构。本文认为,VMS for Cloud允许显著减少服务器内存,并通过立即添加更多虚拟机来减少虚拟化资源扩展的时间。
2014-06-22 cs.DC
Resource-Aware Min-Min (RAMM) Algorithm for Resource Allocation in Cloud Computing Environment
资源分配是云计算的一个重要方面,它将云资源作为一种计量服务提供给云消费者。云资源管理器负责将可用资源分配给任务,以有效的方式执行,从而提高系统性能,减少响应时间,减少完工时间并有效利用资源。为了实现这些目标,需要一个有效的任务调度算法。标准的Min-Min和Max-Min任务调度算法是可用的,但这些算法不能产生更好的最大完工时间和有效的资源利用率。在经典Min-Min算法的基础上,提出了一种资源感知的Min-Min(RAMM)算法。RAMM算法选择执行时间最短的任务,并将其分配给完成时间最短的资源。如果最小完成时间资源忙,则RAMM算法选择下一个最小完成时间资源,以减少任务的等待时间和更好的资源利用率。实验结果表明,RAMM算法比标准的Min-Min算法、Max-Min算法和改进的Max-Min算法具有更好的最大完工时间和负载均衡性。
2018-02-22 cs.DC
ThermoSim: Deep Learning based Framework for Modeling and Simulation of Thermal-aware Resource Management for Cloud Computing Environments
当前的云计算框架托管数百万个物理服务器,这些物理服务器以不同虚拟机(VM)的形式利用云计算资源。云数据中心(CDC)基础设施需要大量的能源来提供大规模计算服务。计算节点产生大量的热量,需要冷却单元来消除这种热量的影响。因此,CDC的总体能耗对于服务器以及冷却单元而言极大地增加。然而,目前的工作负载分配策略没有考虑到对温度的影响,这是具有挑战性的模拟CDC的热行为。需要一个热感知框架来模拟和建模节点的行为,并测量可能受其温度影响的重要性能参数。在本文中,我们提出了一个轻量级的框架,ThermoSim,热感知资源管理的建模和仿真的云计算环境。这项工作提出了一种基于递归神经网络的深度学习温度预测器,用于CDC,ThermoSim用于受限云环境中的轻量级资源管理。ThermoSim扩展了CloudSim工具包,帮助分析各种关键参数的性能,例如能耗,SLA违规率,VM迁移数量和在云资源管理过程中执行工作负载的温度。此外,不同的能量感知和热感知资源管理技术进行了测试,使用建议的ThermoSim框架,以验证它对现有的框架。实验结果表明,所提出的框架能够对CDC的热行为进行建模和仿真,并且ThermoSim框架在能耗、成本、时间、内存使用和预测精度方面优于Thas。
2020-05-08 cs.DC
DEPAS: A Decentralized Probabilistic Algorithm for Auto-Scaling
由云计算基础设施提供的虚拟化资源的动态供应允许部署在云环境中的应用自动地增加和减少所使用的资源的量。这种功能称为自动缩放,其主要目的是自动调整运行应用程序的系统的规模,以满足不断变化的工作负载,同时最小化资源利用率。在工作负载高峰期间,自动扩展的需求尤其重要,在这种情况下,应用程序可能需要扩展到非常大规模的系统。研究社区和主要的云提供商都已经开发了自动扩展解决方案。然而,大多数研究解决方案都是集中式的,不适合管理大型系统,而且云提供商的解决方案在资源价格,可用性,可靠性和连接性方面受到特定提供商的限制。在本文中,我们提出了DEPAS,一个分散的概率自动扩展算法集成到一个P2P架构,是云提供商独立,从而允许自动扩展服务在多个云基础设施在同一时间。我们的模拟,这是基于真实的服务跟踪,表明我们的方法是能够:(i)保持所有实例化的云资源的整体利用率在一个目标范围内,(ii)保持服务响应时间接近使用最佳的集中式自动缩放方法获得的。
2012-02-12 cs.DC
Resource Slicing through Intelligent Orchestration of Energy-aware IoT services in Edge-Cloud Continuum
针对边云环境中 IoT 应用的能耗与性能优化难题,提出将应用分解为 nanoservices,并结合资源与网络切片进行能耗感知的智能编排部署。
2024-12-04 cs.DC
Automatic Cloud Resource Scaling Algorithm based on Long Short-Term Memory Recurrent Neural Network
可伸缩性是云计算的一个重要特征。通过可扩展性,可以根据需求调配和释放资源,从而最大限度地降低成本。当前大多数基础设施即服务(IaaS)提供商都提供基于阈值的自动扩展技术。然而,设置具有正确值的阈值以最小化成本并实现服务水平协议并不是一件容易的事情,特别是在工作负载变化和突然变化的情况下。本文提出了基于动态阈值的自动缩放算法,该算法使用长短期记忆循环神经网络预测所需的资源,并根据预测值自动缩放虚拟资源。所提出的算法进行了评估,并与现有的一些算法进行了比较。实验结果表明,该算法的性能优于其他算法.
2017-01-12 cs.DC
Collaborative Multi-Agent Reinforcement Learning Approach for Elastic Cloud Resource Scaling
本文提出一种基于多智能体系统的弹性云资源扩展优化方法,采用集中训练与分散执行强化学习框架及轻量级状态预测模型,实现全局协调与未来负载趋势识别,实验证明其在资源利用率、SLA违规控制和调度延迟上优于现有方法。
2025-07-01 cs.DC
Context-Aware Service Utilisation in the Clouds and Energy Conservation
无处不在的计算环境的特点是嵌入在我们的物理世界中的智能,互连的人工制品,这些人工制品被设计为不引人注目地为人类居民提供有用的服务。移动设备正在成为人类与这些嵌入式人工制品进行交互的主要工具,并利用智能计算环境(如云)中可用的服务。移动设备能力的进步允许在这些设备上托管多个用户和环境相关的上下文消费者。在没有协调组件的情况下,这些上下文消费者和提供者是设备资源的潜在负担;特别是与支持云的服务的不协调计算和通信的影响可能会对电池寿命产生负面影响。因此,节能是实现基于移动终端的上下文感知应用和基于云的服务的协作和利用的主要关注点。本文提出了一个上下文代理组件的概念,以帮助在移动设备和部署在云基础设施中的服务之间的上下文信息的协调和通信。实验分析了原型上下文代理在智能设备上访问和协调云服务时对节能的影响,结果表明降低了能耗。
2012-02-24 cs.DC
Using Application Data for SLA-aware Auto-scaling in Cloud Environments
随着云计算作为大多数现代应用程序的首选环境的确立,自动扩展是一个非常重要的经济问题。对于像流计算这样处理不断变化的数据量的应用程序,修改资源的数量和配置以满足性能要求变得至关重要。当前关于自动缩放的解决方案大多是基于规则的,使用诸如CPU/存储器/网络利用率的基础设施级度量以及诸如吞吐量和响应时间的系统级度量。在本文中,我们介绍了如何有效的自动缩放可以使用应用程序本身生成的数据的研究。为了进行这种评估,提出了两种算法,它们使用数据流的先验知识,并使用来自足球相关推文的情感分析,根据关于足球运动员的公众情感的快速变化触发自动缩放操作,这些公众情感发生在消息大爆发之前。我们基于应用程序的自动扩展能够将违反SLA的数量减少高达95%,并将资源需求减少高达33%。
2015-06-17 cs.DC
A Framework for Energy-aware Evaluation of Distributed Data Processing Platforms in Edge-Cloud Environment
分布式数据处理平台(例如,Hadoop、Spark和Flink)被广泛用于在云的计算节点之间分布数据的存储和处理。云资源的集中化催生了边缘计算,它使数据的处理更接近数据源,而不是将其发送到云端。然而,由于能源限制等资源限制,边缘计算无法用于部署各种应用程序。因此,任务从边缘设备卸载到资源更丰富的云。以前的研究已经评估了隔离云和边缘环境中分布式数据处理平台的能耗。然而,在集成的边缘云环境中评估这些平台的能耗的研究很少,其中任务从资源受限的设备卸载到资源丰富的设备。因此,在本文中,我们首先提出了一个框架的分布式数据处理平台的能量感知评估。然后,我们利用所提出的框架来评估三个最广泛使用的平台(即,Hadoop、Spark和Flink)在由Raspberry Pi、边缘节点、边缘服务器节点、私有云和公共云组成的集成边缘云环境中运行。我们的评估表明,(i)Flink是最节能的,其次是Spark,Hadoop被发现是最不节能的(ii)将任务从资源受限的设备卸载到资源丰富的设备可以减少55.2%的能耗,(iii)带宽和客户端与服务器之间的距离是影响能耗的关键因素。
2022-01-06 cs.DC
MSAO: Adaptive Modality Sparsity-Aware Offloading with Edge-Cloud Collaboration for Efficient Multimodal LLM Inference
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);University of Science and Technology of China(中国科学技术大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出MSAO框架,通过边缘-云协作和模态稀疏性分析,降低多模态大语言模型推理的延迟和资源消耗,提升吞吐量。
2026-04-03 cs.DC
Multi-agent Reinforcement Learning-based In-place Scaling Engine for Edge-cloud Systems
针对边缘-云系统动态负载下资源扩缩容效率低的问题,提出基于多智能体强化学习的就地扩缩容引擎MARLISE,采用DQN和PPO算法,实现低响应时间与高资源效率,优于启发式方法。
2025-07-10 cs.DC
A Context Aware and Self Adaptation Strategy for Cloud Service Selection and Configuration in Run Time
日复一日,由于智能手机功能的改进,部署在云计算上的移动应用程序的数量持续增加。云计算已经在基于Web的应用中取得了成功,因此,对由云计算提供的上下文感知服务的需求增加。为了定制一个能够满足用户需求的云服务,这些需求依赖于信息的变化,这给云计算带来了环境感知、位置感知、时间感知等方面的挑战。此外,云提供商必须管理个性化应用程序和移动设备在交互能力和通信限制方面的约束。本文提出了一种自动选择合适的云环境的策略,该策略可以满足所有需求,定义关联云环境的配置,并且能够轻松地适应用户或云端或两者的环境变化。该过程建立在动态软件产品线、面向Agent的软件工程和MAPE模型的基础上,根据用户需求和上下文变化来选择和配置云环境。
2021-04-01 cs.DC cs.SE
Energy-aware virtual machine selection method for cloud data center resource allocation
节能是云提供商降低数据中心能源成本的重要问题。随着云计算的日益普及,现在是时候研究各种节能方法,以减少能源消耗,并引导我们走向绿色云计算。在本文中,我们的目的是提出一个虚拟机选择算法,以提高云数据中心的能源效率。我们还提出了在基于云计算的仿真环境中的算法的实验结果。该算法动态地对物理服务器执行虚拟机的分配、解除分配和重新分配操作。然而,它取决于负载和基于虚拟机的分析放置的策略,这是随着时间的推移而决定的。从模拟得到的结果,我们发现,我们提出的虚拟机选择算法减少了19%的总能耗相比,现有的。因此,云数据中心的能源消耗成本降低,也降低了碳足迹。仿真实验结果表明,提出的基于资源配置算法的策略降低了云数据中心的能耗,降低了虚拟机迁移率。
2018-12-20 cs.DC
Aging-aware CPU Core Management for Embodied Carbon Amortization in Cloud LLM Inference
针对云LLM推理集群CPU隐含碳摊销问题,提出老化感知的CPU核心管理技术,通过选择性深度空闲和任务分配延缓老化,经Azure轨迹模拟验证,年隐含碳排放减少37.67%,CPU利用不足降低77%。
2025-01-27 cs.DC
Replication-Aware Placement of Functions and Data in the Edge-Cloud Continuum
Politecnico di Milano(米兰理工大学)
针对边缘-云连续体中的FaaS,提出BLP模型与拓扑感知贪心启发式,联合调度函数与数据放置并考虑复制一致性,以最小化客户端延迟,实现近最优且计算高效。
2026-09-17 cs.DC
Energy-Aware Adaptive Offloading of Soft Real-Time Jobs in Mobile Edge Clouds
我们提出了一个模型,用于测量卸载软实时的【形】作业对多层云基础设施的影响。这些作业源自移动设备,卸载策略可以选择在本地、相邻设备、云服务器或基础设施云服务器中执行它们。在本规范中,我们提出了几种这样的卸载策略,其特征在于它们对云层的差异化使用,其目标是优化执行时间和/或能耗。我们使用Jay实现了该模型的一个实例,Jay是一种用于混合边缘云中自适应计算卸载的软件框架。该框架是模块化的,并允许模型和卸载策略被无缝地实施,同时提供工具来基于系统反馈做出明智的运行时卸载决策,即通过内置的系统分析器,该分析器收集每个参与设备或服务器的运行时信息,例如工作负载、能耗和可用带宽。结果表明,卸载策略的运行时条件敏感,可以有效地和动态地调整他们的卸载决策,以产生显着的收益,在他们的目标优化功能,即执行时间,能源消耗和履行的工作期限。
2021-06-02 cs.DC
URSA: Precise Capacity Planning and Contention-aware Scheduling for Public Clouds
数据库平台即服务(dbPaaS)发展迅速,大量数据库被迁移到云上运行,以获得低成本和灵活性。新兴云依赖租户为其数据库工作负载提供资源规范。然而,他们往往高估了数据库的资源需求,导致不必要的高成本和低云利用率。一种自动建议满足每个数据库工作负载的性能需求的“刚好够用”的资源规范的方法是有益的。为此,我们提出了URSA,dbPaaS云的容量规划和工作负载调度系统。USRA由在线容量规划器、性能干扰估计器和竞争感知调度引擎组成。容量规划器为数据库工作负载确定最具成本效益的资源规格,以实现所需的联机性能。干扰估计器量化共享资源上的压力和对每个数据库工作负荷的共享资源争用的敏感度。调度引擎会仔细地跨云节点调度工作负载,以消除协同工作负载之间的不公平性能干扰。我们的真实系统的实验结果表明,URSA减少了27.5%的CPU使用和53.4%的内存使用的数据库工作负载,同时满足他们的性能要求。与此同时,与Kubernetes相比,URSA将协同工作负载之间的性能不公平性降低了42.8%。
2019-12-27 cs.DC
FedCostAware: Enabling Cost-Aware Federated Learning on the Cloud
针对云上联邦学习成本高的问题,提出成本感知调度算法FedCostAware,通过智能管理竞价实例生命周期,减少资源浪费,显著降低云计算成本。
2025-09-12 cs.DC
MiCS: Near-linear Scaling for Training Gigantic Model on Public Cloud
现有的大型模型训练通用框架,即,具有数十亿个参数的密集模型,由于大量的通信开销,无法在具有各种网络条件的云环境中有效地扩展。在本文中,我们提出了MiCS,它最小化通信规模,以降低通信开销。具体地,通过减少通信集合中的参与者的数量,MiCS可以利用异构网络带宽,减少较慢链路上的网络流量,减少用于维持高网络带宽利用率的通信的延迟,并且分摊昂贵的全局梯度同步开销。我们在AWS上的评估表明,MiCS的系统吞吐量高达2.89 $\times$的最先进的大型模型训练系统。MiCS实现了接近线性的扩展效率,最高可达DeepSpeed的1.27 $\times$。MiCS允许我们在512个GPU上训练具有1000亿个参数的专有模型,弱伸缩效率为99.4%,并且它能够在公共云上饱和超过54.5%的理论计算能力,与DGX-A100集群相比,具有更少的GPU内存和更受限制的网络。
2022-10-28 cs.DC
Energy-Aware Scheduling using Dynamic Voltage-Frequency Scaling
由于对环境的关注,分布式计算系统中的能量消耗问题已经变得相当关键。响应于此,许多能量感知调度算法已经开发主要通过使用动态电压频率缩放(DVFS)的能力纳入最近的商品处理器。这些算法中的大多数涉及两个通道:调度生成和松弛回收。后者通常是通过降低松弛任务的处理器频率来实现。在这篇文章中,我们研究了这一领域的最新论文,并对其进行了发展。这项研究是根据1,500个随机生成的任务图的实验结果进行评估的。
2012-06-10 cs.DC
Skyplane: Optimizing Transfer Cost and Throughput Using Cloud-Aware Overlays
云应用程序越来越多地跨多个地区和云提供商分发数据。不幸的是,广域批量数据传输通常是缓慢的,需要检查的应用程序。我们证明,它是可以显着提高区域间云批量传输吞吐量,通过适应网络覆盖到云设置-也就是说,通过在应用程序层的间接路径路由数据。然而,在这种情况下直接应用网络覆盖可能会导致云出口价格不可接受的增加。我们提出了Skyplane,一个用于云对象存储之间批量数据传输的系统,该系统使用云感知网络覆盖来优化价格和性能之间的权衡。Skyplane的规划器使用混合整数线性规划来确定数据传输的最佳覆盖路径和资源分配,并受用户提供的价格或性能约束。Skyplane的性能优于公共云传输服务,在一个云中传输高达$4.6\times$,跨云传输高达$5.0\times$。
2022-10-13 cs.DC cs.NI
Carbon-Aware Temporal Data Transfer Scheduling Across Cloud Datacenters
本文提出碳感知时序数据传输调度框架LinTS,在满足截止时间约束的前提下,相比最坏情况可降低66%碳排放,相比其他方案可降低15%。
2025-06-04 cs.DC cs.NI
A simple and effective predictive resource scaling heuristic for large-scale cloud applications
我们提出了一种简单而有效的策略,用于预测在云环境中运行的水平可扩展应用程序的自动扩展,其中计算资源只能延迟添加,并且部署吞吐量有限。我们的策略使用工作负载的概率预测来根据应用程序所有者的风险规避做出扩展决策。我们在我们的实验中使用真实世界和合成数据,这种政策相比,数学上更复杂的方法,以及简单的基准政策。
2020-08-03 cs.DC stat.ML
Toward Sensor and Software Product Line Based Context Aware Cloud Environment Assignment
随着人们对部署在云计算上的移动终端和普适应用的兴趣日益增长,提供考虑用户上下文的智能和无处不在的上下文感知应用是未来应用的主要挑战之一。在这篇文章中,我们考虑如何增强移动设备使用的应用程序感知上下文,并部署在云计算上。这些应用程序的行为不仅应该取决于它们的内部状态和用户交互,还应该取决于它们执行期间感知到的上下文。事实上,我们的方法基于两个基本机制,上下文感知和上下文推理。我们认为通过上下文感知获得的信息作为一个产品线,我们使用特征模型来表示接收到的信息,云提供商提供的服务,可用的资源和约束。在上下文推理步骤中,上下文提供特征模型(CSCAFM)算法允许生成满足使用要求的上下文感知服务,确保一定水平的资源性能。
2021-04-01 cs.DC cs.SE
Self-Aware and Self-Adaptive Autoscaling for Cloud Based Services
现代互联网服务越来越多地利用云计算来实现灵活、弹性和按需提供。通常,基于云的服务的服务质量(QoS)可以使用不同的底层云配置和资源来调整,例如,线程数、CPU和内存等,它们被共享、租赁并作为公用事业定价。这一优势从根本上说是基于自动扩展:一个自动和弹性的过程,根据随时间变化的工作负载按需调整云配置。本文提出了一个整体的云自动伸缩框架,以有效和无缝地解决现有的挑战,涉及到不同的逻辑方面的自动伸缩,包括架构自动伸缩系统,建模的QoS基于云的服务,确定粒度的控制和决定权衡自动伸缩的决定。该框架利用自感知的原理和相关算法自适应地处理动态性、不确定性、QoS干扰和云中目标的权衡。主要的好处是,通过利用框架,可以有效地实现云自动扩展,而无需大量的人工分析和设计时知识。通过使用RUBiS基准和真实云环境下的现实工作负载进行各种实验,本文基于各种质量指标评估了该框架的有效性,并与其他最先进的方法进行了比较。
2016-08-13 cs.DC cs.SE
A Survey and Taxonomy of Self-Aware and Self-Adaptive Cloud Autoscaling Systems
自动缩放系统可以通过对云软件的各种配置和硬件资源的调配,重新配置基于云的服务和应用,以适应运行时不断变化的环境。这种行为为在现代云计算范例中实现弹性提供了基础。由于共享云基础设施的动态性和不确定性,云自动伸缩系统已被设计为人类创造的最复杂,最复杂和最智能的工件之一,旨在实现自我感知,自适应和可靠的运行时伸缩。然而,现有的自感知和自适应云自动缩放系统(SSCAS)还没有成熟到可以在云中可靠地利用的状态。在这篇文章中,我们调查了国家的最先进的研究SSCAS的研究,并提供了一个全面的分类,这一领域。我们对结果进行了详细的分析,并提供了对开放挑战的见解,以及在这一研究领域未来工作中值得研究的有前途的方向。我们的调查和分类有助于在云中设计更智能的自动缩放系统的基础。
2018-04-25 cs.DC cs.SE
A Cooperative Scheduling Scheme of Local Cloud and Internet Cloud for Delay-Aware Mobile Cloud Computing
移动云计算(MCC)是随着移动应用的普及而提出的一种帮助移动设备节省能量和提高计算性能的技术。为了进一步提高MCC的服务质量(QoS),可以将云服务器部署在本地,从而降低延迟。然而,本地云的计算资源通常是有限的。本文设计了一种基于阈值的策略,通过本地云和互联网云资源的协作来提高MCC的QoS,同时利用了本地云的低延迟和互联网云的丰富计算资源的优势。该策略还根据应用程序的延迟要求应用优先级队列。通过所提出的算法获得取决于业务负载的最佳阈值。仿真结果表明,在本地云过载的情况下,互联网云的辅助可以大大提高服务质量。如果本地云根据其延迟要求对任务进行排序,则可以实现更好的QoS,其中延迟敏感的应用程序在延迟容忍的应用程序之前执行。此外,该策略的最优阈值对系统的QoS有很好的影响。
2015-11-27 cs.DC cs.NI
Cloudroid: A Cloud Framework for Transparent and QoS-aware Robotic Computation Outsourcing
National Key Laboratory for Parallel and Distributed Processing, National University of Defense Technology(国防科技大学并行与分布处理国家重点实验室)
许多机器人任务需要大量的计算,这很容易超过机器人的机载计算机能力。解决这一挑战的一个有前途的解决方案是将计算外包给云。然而,在机器人软件中利用云资源的潜力是困难的,因为它涉及复杂的代码修改和广泛的(重新)配置过程。此外,服务质量(QoS),如及时性,这是关键的机器人的行为,必须考虑。在本文中,我们提出了一个透明的和QoS感知的软件框架称为Cloudroid云机器人应用程序。该框架支持将现有的机器人软件包直接部署到云端,透明地将其转换为可通过互联网访问的云服务。通过自动生成的服务存根,机器人应用程序可以将其计算外包给云,而无需任何代码修改。此外,机器人和云可以合作,以保持特定的QoS属性,如请求响应时间,即使在一个高度动态和资源竞争的环境。我们基于一组典型的机器人场景和一组在现实世界机器人实践中广泛采用的软件包对Cloudroid进行了评估。结果表明,机器人的能力可以显着提高,而无需修改代码和特定的QoS目标可以得到保证。在某些任务中,与机器人本地设置相比,“云+机器人”设置显示出数量级的改进性能。
2017-05-16 cs.DC cs.RO
Towards using Reinforcement Learning for Scaling and Data Replication in Cloud Systems
LMCS Research Laboratory(LMCS研究实验室);IRIT Research Laboratory(IRIT研究实验室);Paul Sabatier University(保罗·萨巴捷大学)
本文针对云系统中基于阈值的数据复制需人工干预且难以掌握工作负载趋势的问题,调研了基于强化学习(RL)的数据复制策略与自动资源扩展方法。
2024-10-07 cs.AI cs.DC
A Debt-Aware Learning Approach for Resource Adaptations in Cloud Elasticity Management
弹性是一种云属性,它使应用程序及其执行系统能够按需动态获取和释放共享的计算资源。此外,它通过降低这些共享资源的平均成本,展现了云中规模经济的优势。然而,它仍然是一个开放的挑战,以实现资源需求和供应之间的完美匹配,在自主弹性管理。资源自适应决策本质上涉及经济性和性能之间的权衡,这会在理想和实际资源配置之间产生差距。如果管理不当,这一差距可能会对云客户的长期总体效用产生负面影响。为了解决这个问题,我们提出了一个技术债务感知学习方法的自主弹性管理的基础上的弹性债务资源配置的强化学习的适应追求的战略决策,权衡经济性能。我们扩展CloudSim和Burlap来评估我们的方法。评估表明,弹性技术债务的强化学习为云客户提供了更高的效用,同时符合预期的性能水平。
2017-02-24 cs.DC cs.SE
Green Energy Aware Avatar Migration Strategy in Green Cloudlet Networks
我们提出了一种绿色小云网络(\emph{GCN})架构,以向用户设备(\emph{UE} s)提供具有低延迟的无缝移动云计算(\emph{MCC})服务,其中每个小云由绿色和棕色能量供电。充分利用绿色能源可以显著降低云服务提供商的运营成本。然而,由于能源需求和绿色能源产生的空间动态性,网络中不同云团之间的能量差距是不平衡的,即,一些微云的能量需求可以完全由绿色能量提供但是其他微云需要利用并网能量(即,布朗能源)来满足他们的能源需求。提出了一种基于绿色能源的化身迁移(\emph{GEAR})策略,通过化身迁移在云节点间的能量需求重新分配,根据云节点的绿色能源产生量,最大限度地减少GCN的上网能耗。此外,GEAR通过避免将化身托管在远程cloudlet中,确保服务水平协议(\emph{SLA})中的最大化身传播延迟。我们制定的GEAR战略作为一个混合整数线性规划问题,这是NP-难的,因此应用分支定界搜索找到它的次优解。仿真结果表明,与旨在最小化UE与其化身之间的传播延迟的跟随我化身(\emph{FAR})迁移策略相比,GEAR可以显著节省上网能耗。
2015-09-11 cs.DC cs.NI
CloudCoaster: Transient-aware Bursty Datacenter Workload Scheduling
今天的集群往往不得不在各种不同的工作之间分配资源。这些作业在执行时间和到达率上都是异构的。执行时间的异质性导致了混合调度器的发展,它可以调度短作业和长作业,以确保良好的任务布局。然而,到达速率异质性或突发性仍然是现有分组交换机中的一个问题。这些混合型集群管理静态配置的集群上的资源,这些资源可能很快被到达的作业数量的激增所淹没。在本文中,我们提出了CloudCoaster,一个混合调度器,动态调整集群的大小,利用廉价的瞬态服务器。CloudCoaster以智能方式安排作业,提高作业性能,同时降低总体资源成本。我们评估CloudCoaster的有效性,通过模拟现实世界的痕迹,并将其与最先进的混合调度。CloudCoaster将短作业的平均延迟时间提高了4.8倍,同时保持长作业性能。此外,CloudCoaster将短分区预算减少了29.5%以上。
2019-07-03 cs.DC cs.PF
Cloud Collectives: Towards Cloud-aware Collectives forML Workloads with Rank Reordering
University of Washington(华盛顿大学);Microsoft Research(微软研究院);Facebook AI(脸书人工智能研究院)
ML工作负载在云中越来越受欢迎。良好的云训练性能取决于VM之间的有效参数交换。我们发现,由于数据中心网络的分层拓扑结构和云计算的多租户性质,广泛使用的分布式通信算法Collectives无法实现最佳的开箱即用性能。在本文中,我们提出了Cloud Collectives,一个原型,通过重新排序参与VM的队列来加速集体,使得由所选集体操作决定的通信模式最好地利用Collectives是非侵入性的,不需要更改代码或重建现有应用程序,并且在没有云提供商支持的情况下运行。我们在公共云中的allreduce操作上初步应用Cloud Collectives,在多个微基准测试中实现了高达3.7倍的加速,在使用最先进的框架进行深度神经网络和梯度提升决策树分布式训练的真实工作负载中实现了1.3倍的加速。
2021-05-28 cs.AI cs.DC cs.NI
Maximizing Cloud Providers Revenues via Energy Aware Allocation Policies
像亚马逊这样的云提供商将其数据中心的计算和存储能力出租给付费客户。与运行数据中心相关的高电力消耗不仅反映了其碳足迹,而且还增加了运行数据中心本身的成本。本文讨论了通过削减电力成本来最大化云提供商收入的问题。作为一个解决方案,分配政策的基础上,服务器的动态电源和关闭的介绍和评估。这些策略旨在满足最大化用户体验和最小化耗电量这两个相互冲突的目标。数值实验和仿真结果表明,该方案在不同的交通条件下表现良好。
2011-02-15 cs.DC cs.PF
CloudQC: A Network-aware Framework for Multi-tenant Distributed Quantum Computing
本文提出面向多租户量子云的框架CloudQC,通过设计电路放置与网络调度组件优化量子网络成本与计算时间,显著降低作业完成时间。
2025-04-29 cs.DC quant-ph
Priority-aware Gray-box Placement of Virtual Machines in Cloud Platforms
虚拟机(VM)放置对于云平台非常重要。虽然实时虚拟机迁移等技术对于平衡数据中心的负载非常有用,但它们是昂贵的操作。在这份立场文件中,我们建议通过在虚拟机放置算法中应用虚拟机的工作负载模式来最大限度地减少数据中心中负载热点的机会-将需要大量相同类型资源的虚拟机放置在不同的物理服务器上。通过这种方式,可以显著缓解同一物理服务器上的VM的资源竞争。同时,我们还考虑了应用程序和虚拟机的优先级在我们的虚拟机布局算法。
2013-07-25 cs.DC cs.NI
ALVEC: Auto-scaling by Lotka Volterra Elastic Cloud: A QoS aware Non Linear Dynamical Allocation Model
资源分配中的弹性仍然是云计算中的相关问题。有许多学术和白皮书已经调查了这个问题并提供了解决方案。\textbf{Unfortunately, there are scant evidence of determining scaling number dynamically.}弹性被定义为通过调配和取消调配云资源来适应不断变化的工作负载的能力。受种群动力学和数学生物学的启发,提出了一种新的云数据中心资源分配模型ALVEC,通过自动调整模型参数来解决动态分配问题。提出的模型,由一个耦合微分方程称为Lotka Volterra(LV),票价更好的服务水平协议(SLA)管理和服务质量(QoS)。在理论和实证比较中,我们显示了真正弹性的证据。此外,ALVEC能够预测未来的负载并相应地分配VM。ALVEC模型是第一个无监督资源分配方案。
2018-05-18 cs.DC cs.NI
A Framework for QoS-aware Execution of Workflows over the Cloud
云计算范例为系统架构师提供了一种新的强大工具,用于构建可伸缩的应用程序。云允许在“按需付费”模型上分配资源,以便在高峰负载期间请求额外的资源并在此之后释放。然而,这种灵活性要求适当的动态重构策略。在本文中,我们描述了SAVER(qoS-Aware工作流overthe Cloud),一个QoS感知算法,用于执行涉及托管在云环境中的Web服务的工作流。SAVER允许执行受响应时间约束的任意工作流。SAVER使用被动监视器根据观察到的系统响应时间来识别工作负载波动。由监视器收集的信息被规划器组件用于标识为了满足响应时间约束而应当分配的每个Web服务的最小实例数。SAVER使用一个简单的决策网络(QN)模型来确定最佳的资源分配。具体而言,QN模型用于识别瓶颈,并预测云资源分配或释放时的系统性能。用于评估模型的参数是由监视器收集的参数,这意味着SAVER不需要任何关于正在执行的Web服务和工作流的特定知识。我们的方法已通过数值模拟,其结果在本文中得到了验证。
2011-04-28 cs.DC cs.PF
Energy and Thermal-aware Resource Management of Cloud Data Centres: A Taxonomy and Future Directions
University of Melbourne(墨尔本大学)
本文研究了云数据中心现有的资源管理方法,以提高能源和热效率。它确定了在资源管理系统中集成计算和冷却系统管理以及基于学习的解决方案的需求。在对文献进行深入分析的基础上,提出了数据中心节能和热高效资源管理的分类方法。此外,根据分类法对现有方法进行了详细的调查,并讨论了最近的进展,包括基于机器学习的资源管理方法和冷却管理技术。
2021-07-06 cs.DC cs.LG cs.NI
Performance and Energy-Aware Bi-objective Tasks Scheduling for Cloud Data Centers
United Arab Emirates University(阿联酋大学);College of Information Technology(信息技术学院);National Water and Energy Center(国家水与能源中心)
云计算允许远程执行用户任务。云计算在智慧城市服务和应用中的普遍采用要求及时执行符合服务质量(QoS)的任务。然而,计算服务器的日益增加的使用加剧了高能耗、运营成本和环境污染的问题。最大限度地提高云数据中心的性能并最大限度地降低能耗是一项挑战。在本文中,我们提出了一个性能和能量优化的双目标算法来权衡矛盾的性能和能量目标。首次提出了一种基于进化算法的多目标优化方法。在云计算环境中使用真实的云数据集来评估所提出的模型的性能。我们的实验结果实现了更高的性能和更低的能耗相比,最先进的算法。
2021-04-25 cs.AI cs.DC cs.NE
When Computing follows Vehicles: Decentralized Mobility-Aware Resource Allocation for Edge-to-Cloud Continuum
本文提出一种去中心化移动感知边缘到云资源分配优化框架,实现“计算跟随车辆”,在真实交通数据评估中将利用率方差降低40倍以上,并减少服务截止时间违规14%-34%。
2024-05-05 cs.DC cs.MA
CASA: A Framework for SLO and Carbon-Aware Autoscaling and Scheduling in Serverless Cloud Computing
本文提出CASA框架,在无服务器云集群中同时考虑碳足迹和SLO约束进行容器调度与自动伸缩,实验表明其碳足迹最多降低2.6倍、SLO违反率最多降低1.4倍。
2024-08-31 cs.DC cs.PF
On Reliability-Aware Server Consolidation in Cloud Datacenters
在过去的几年中,数据中心(DC)的能源消耗已经成为技术世界中的一个重要问题。使用虚拟化和虚拟机(VM)实时迁移的服务器整合允许云DC提高资源利用率,从而提高能效。为了节省能源,整合技术试图关闭空闲的服务器,而由于工作负载的波动,这些离线服务器应该被打开,以支持增加的资源需求。这些重复的开关周期可能影响硬件的可靠性和服务器的磨损,从而增加维护和更换成本。在本文中,我们提出了一个整体的数学模型,可靠性意识的服务器整合的目标是最大限度地减少总DC成本,包括能源和可靠性成本。事实上,我们尝试以可靠性感知的方式最小化活动PM和机架的数量。我们将该问题表示为一个NP完全形式的混合线性规划模型。最后,我们评估我们的方法在不同的情况下,使用广泛的数值MATLAB模拟的性能。
2017-09-01 cs.DC cs.NI
RIBBON: Cost-Effective and QoS-Aware Deep Learning Model Inference using a Diverse Pool of Cloud Computing Instances
Northeastern University(东北大学);MIT Lincoln Laboratory(麻省理工学院林肯实验室)
深度学习模型推理是许多业务和科学发现流程中的关键服务。本文介绍了RIBBON,一种新型的深度学习推理服务系统,它满足两个相互竞争的目标:服务质量(QoS)目标和成本效益。RIBBON背后的关键思想是智能地使用一组不同的云计算实例(异构实例)来满足QoS目标并最大限度地节省成本。RIBBON设计了一种贝叶斯优化驱动的策略,帮助用户在云计算平台上为其模型推理服务需求构建最佳的异构实例集-并且,RIBBON证明了其优于使用同构实例池的推理服务系统的现有方法。RIBBON为不同的学习模型节省了高达16%的推理服务成本,包括新兴的深度学习推荐系统模型和药物发现使能模型。
2022-07-28 cs.DC cs.LG
Self-Awareness of Cloud Applications
Futurewei Technologies(华为技术有限公司);Google, Inc.(谷歌公司);Imperial College of London(伦敦帝国理工学院);Lund University(隆德大学);University of Wuertzburg(维尔茨堡大学);University of Illinois at Urbana Champaign(伊利诺伊大学厄巴纳-香槟分校);CMU Silicon Valley at the NASA Ames Research Center(卡内基梅隆大学硅谷校区NASA艾姆斯研究中心);Delft University of Technology(代尔夫特理工大学);INSA Lyon(里昂国立应用科学学院)
本文提出分析云应用自我意识方法的框架,对比了不同领域应用的优缺点,并提出未来研究方向。
2016-11-01 cs.DC cs.NI cs.SE
Secure and Privacy-Aware Data Dissemination for Cloud-Based Applications
在本文中,我们提出了一个数据传播平台,支持数据的安全性和不同的隐私级别,即使平台和数据托管在不可信的基础设施。拟议的系统旨在启用使用现成可信平台(在这种情况下,英特尔SGX)的应用程序生态系统,以便用户可以允许或禁止第三方以特定的敏感度级别访问实时数据流。此外,这种方法不需要用户直接管理加密密钥。我们的实验表明,这种方法确实适用于中等规模的系统,其中参与者一次传播少量数据,例如在智能电网和物联网环境中。
2018-03-02 cs.CR cs.DC