Scalability of VM Provisioning Systems
MIT Lincoln Laboratory(麻省理工学院林肯实验室)
本文研究了三种主流云管理框架在HPC环境中的启动性能,发现Eucalyptus性能最佳,OpenNebula最差,主要因云初始化阶段的网络延迟导致。
2016-06-18 cs.CY cs.DC cs.OS
QoS-Based Pricing and Scheduling of Batch Jobs in OpenStack Clouds
当前的云基础设施服务(IaaS)市场采用基于资源的销售模式:客户从提供商租用节点并按单位时间按节点付费。这种销售模式使客户承担了预测其作业资源需求和持续时间的负担。客户的不准确预测可能导致资源过度配置,或配置不足和作业性能低下。得益于改进的资源虚拟化和多租户性能隔离,以及MapReduce等批处理作业的通用框架,云提供商可以更准确地预测作业完成时间。我们提供了一个新的定义的QoS水平的作业完成时间,我们提出了一个新的基于QoS的销售机制,批量作业在多租户的OpenStack集群。我们的实验表明,基于QoS的解决方案产生了高达40%的收入提高了更多的标准销售机制的基础上固定的每节点价格在各种需求和供应条件下,在240 VCPU的OpenStack集群。
2015-04-27 cs.DC
A Taxonomy and Survey of Energy-Efficient Data Centers and Cloud Computing Systems
传统上,计算系统的开发一直专注于由来自消费者、科学和商业领域的应用的需求驱动的性能改进。然而,计算系统不断增加的能耗已经开始限制进一步的性能增长,这是由于压倒性的电费和二氧化碳足迹。因此,计算机系统设计的目标已经转移到功率和能量效率。为了确定该领域面临的挑战并促进未来的发展,必须对迄今为止进行的电力和节能设计研究进行综合和分类。在这项工作中,我们讨论了高功耗/能源消耗的原因和问题,并提出了一个分类的计算系统的节能设计,涵盖硬件,操作系统,虚拟化和数据中心的水平。我们调查了该领域的各种关键工作,并将其映射到我们的分类中,以指导未来的设计和开发工作。本章最后讨论了在节能计算方面取得的进展,以及我们对未来研究方向的展望。
2010-09-06 cs.DC
Container-based Cluster Orchestration Systems: A Taxonomy and Future Directions
容器能够实现轻量级的环境和性能隔离,快速灵活的部署以及细粒度的资源共享,除了硬件虚拟化之外,还在更好的应用程序管理和部署方面获得了普及。它们正被组织广泛用于在专有集群或私有云和公共云数据中心中部署来自现代应用程序(如Web服务、大数据和物联网)的日益多样化的工作负载。这导致了容器编排平台的出现,这些平台旨在管理大规模集群中容器化应用程序的部署。这些系统能够在数千台机器上运行数十万个作业。为了有效地做到这一点,他们必须解决几个重要的挑战,包括可伸缩性,容错和可用性,有效的资源利用率,以及请求吞吐量最大化等。本文研究了这些管理系统,并提出了一个分类,确定不同的机制,可用于满足上述挑战。建议的分类,然后应用到各种国家的最先进的系统,导致识别开放的研究挑战和差距,在文献中打算作为未来的研究方向。
2018-11-02 cs.DC
A Survey and Taxonomy of Resource Optimisation for Executing Bag-of-Task Applications on Public Clouds
云计算由于资源供应和按需定价模型的灵活性而被广泛采用。整个虚拟机(VM)集群可以动态配置,以满足用户的计算需求。然而,从用户的角度来看,有效利用云资源仍然具有挑战性。这是因为有各种各样的资源类型,价格不同,性能差异很大。本文提出了一个调查和分类现有的研究,在优化执行任务袋应用程序的云资源。BoT应用程序由多个独立的任务组成,每个任务都可以由VM以任何顺序执行;这些应用程序被科学界和商业组织广泛使用。本次调查的目标如下:(i)为读者提供对现有研究的简要了解,以优化在云上执行BoT应用程序,(ii)定义一个分类法,对当前框架进行分类,以比较和对比它们,以及(iii)呈现该领域的当前趋势和未来研究方向。
2017-11-24 cs.DC
A Taxonomy and Future Directions for Sustainable Cloud Computing: 360 Degree View
云计算范例通过互联网提供按需服务并支持各种各样的应用。随着最近基于物联网(IoT)的应用的增长,云服务的使用呈指数级增长。下一代云计算必须是节能和可持续的,以满足不断变化的最终用户需求。目前,云计算提供商面临着确保其服务的能源效率和可持续性的挑战。大量云计算中心的使用增加了成本和碳足迹,这进一步影响了云服务的可持续性。在本文中,我们提出了一个全面的分类可持续的云计算。分类法是用来调查现有的技术,可持续发展,需要仔细的关注和调查所提出的几个学术和工业团体。此外,目前对可持续云计算的研究分为几个类别:应用程序设计,可持续性指标,容量规划,能源管理,虚拟化,热感知调度,冷却管理,可再生能源和废热利用。对现有技术进行了比较,并根据共同的特点和性质进行了分类。提出了可持续云计算的概念模型,并讨论了未来的研究方向。
2018-07-09 cs.DC
A Holistic View on Resource Management in Serverless Computing Environments: Taxonomy and Future Directions
近年来,无服务器计算已成为云应用程序的一个有吸引力的部署选项。这种计算模型的独特功能包括快速自动扩展、强大的隔离、细粒度的计费选项以及访问自主处理资源管理决策的大规模服务生态系统。由于这些特征,这种模型也越来越多地被探索用于地理分布的边缘和雾计算网络中的部署。计算资源的有效管理一直受到研究人员的关注。由于需要自动化资源配置、分配、调度、监控和扩展的整个过程,因此需要专门关注无服务器模式下的资源管理。在这篇文章中,我们确定了覆盖无服务器环境中资源管理更广泛概念的主要方面,并提出了影响这些方面的元素分类,包括系统设计,工作负载属性和利益相关者期望的特征。我们全面了解跨边缘、雾和云计算网络部署的无服务器环境。我们还分析了现有的作品,讨论使用这种分类的无服务器资源管理方面。本文进一步确定了文献中的差距,并强调了未来的研究方向,以提高这种计算模型的能力。
2021-06-01 cs.DC
Software-Defined Multi-Cloud Computing: A Vision, Architectural Elements, and Future Directions
云计算在过去十年中已经出现,以实现基于实用程序的计算资源管理,而无需购买硬件设备。云提供商在不同的位置运行多个数据中心,以管理和为客户提供云资源。最近,软件定义网络(SDN)和网络功能虚拟化(NFV)的引入在云中打开了更多的机会,这使得能够在云数据中心中动态和自主地配置和供应资源。本文提出了可编程网络云的架构框架和原则,托管SDN和NFV的地理分布的多云计算环境。成本和SLA感知的资源配置和调度,最大限度地减少运营成本,而不违反协商的SLA的调查和讨论的技术自主和及时的VNF组成,部署和管理跨多个云。我们还讨论了使用分析和监控技术创建用于VNF性能优化的自动扩展解决方案的开放挑战和方向,用于可扩展流量和部署管理的SDN控制器算法。仿真平台和概念验证原型的初步评估结果。
2018-05-28 cs.DC
Dynamic scheduling of virtual machines running hpc workloads in scientific grids
采用虚拟化的主要动机是资源隔离、容量管理和资源定制,允许资源提供商将其资源整合到虚拟机中。已经采取了各种方法来将虚拟化集成到科学网格中,特别是在高性能计算(HPC)的领域中,以在虚拟机中运行网格作业,从而能够更好地提供底层资源并在运行时定制执行环境。尽管有这些好处,但虚拟化层也会带来性能损失,而且还没有很好地理解这种开销将如何影响系统的性能,其中作业的调度时间很紧。由于这种开销会改变工作负载的类型,无论它们是内存密集型,CPU密集型还是网络I/O绑定,并且可能导致系统中运行作业的不可预测的截止日期估计。在我们的研究中,我们试图通过开发一种智能调度技术来解决这个问题,该技术用于监控虚拟机的工作负载类型和最后期限,并实时的计算系统开销,以最大限度地提高在商定的最后期限内完成的作业数量。
2010-09-24 cs.DC cs.DS cs.PF
The Art of CPU-Pinning: Evaluating and Improving the Performance of Virtualization and Containerization Platforms
云提供商以裸机、VM和容器的形式提供各种执行平台。然而,由于每个执行平台的优点和缺点,为特定的基于云的应用程序选择合适的平台已经成为解决方案架构师的挑战。结合这些平台的可能性(例如在虚拟机中部署容器)提供了新的能力,使挑战变得更加复杂。然而,在文献中很少有关于在各种执行平台上部署不同应用程序类型的利弊的研究。特别是,评估不同的硬件配置和不同的CPU配置方法,如CPU钉扎,还没有得到充分的研究文献。在这项工作中,针对四类现实应用程序(即视频处理、并行处理(MPI)、Web处理和No-SQL),测量和分析了容器、虚拟机和裸金属执行平台的性能开销,分别代表CPU密集型、并行处理和两个IO密集型进程。我们的分析揭示了一组有趣的,有时违反直觉的发现,可以作为解决方案架构师有效部署基于云的应用程序的最佳实践。这里有一些值得注意的地方:(A)在特定情况下,容器可以比VM施加更高的开销;(B)VM顶部的容器可以减轻某些应用程序的VM开销;(C)具有大量核心的容器比具有少数核心的容器施加更低的开销。
2020-06-03 cs.DC cs.OS cs.PF
Auto-scaling Approaches for Microservice Applications: A Survey and Taxonomy
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Tianjin University(天津大学);Quantum Cloud Computing and Distributed Systems (qCLOUDS) Laboratory, School of Computing and Information Systems, the University of Melbourne(墨尔本大学计算与信息系量子云计算与分布式系统(qCLOUDS)实验室);State Key Lab of IOTSC, University of Macau(澳门大学物联网智慧应用国家重点实验室)
本文综述了自2018年以来微服务应用的自动扩展方法,提出五维分类,探讨资源效率、成本效率及SLA保障,分析代表性方法的优缺点及适用场景。
2026-03-09 cs.DC
Resource Allocation and Service Provisioning in Multi-Agent Cloud Robotics: A Comprehensive Survey
Swinburne University of Technology(斯威本科技大学);CSIRO(澳大利亚联邦科学与工业研究组织);Engineering Institute of Technology (EIT)(工程技术学院);South China University of Technology(华南理工大学);University of Manitoba(曼尼托巴大学)
如今,机器人应用被广泛采用,以增强现实世界网络物理系统(CPS)的操作自动化和性能,包括工业4.0,农业,医疗保健和灾难管理。这些应用程序由延迟敏感、数据量大和计算密集型任务组成。然而,机器人在计算能力和存储容量方面受到限制。多智能体云机器人的概念使机器人之间能够进行协作,并为机器人执行大规模应用程序创造了一个互补的环境,能够利用边缘和云资源。然而,在这样的协作环境中,机器人任务的最优资源分配是具有挑战性的实现。与机器人和计算实例相关的异构能耗率和执行成本的应用使其变得更加复杂。此外,本地机器人、边缘节点和云数据中心之间的数据传输延迟会对实时交互产生不利影响,并阻碍服务性能保证。考虑到所有这些问题,本文全面调查的最先进的资源分配和服务提供的多智能体云机器人。本文通过与当代计算范式的明确比较,提出了多智能体云机器人的应用领域,并确定了具体的研究挑战。第一次提出了一个完整的分类资源分配,连同讨论的资源池,计算卸载,和任务调度的有效服务提供。此外,我们强调了从经验教训中得出的研究差距,并提出了有利于进一步推进这一新兴领域的未来方向。
2021-04-29 cs.DC cs.RO
Leveraging Semantic Web Technologies for Managing Resources in a Multi-Domain Infrastructure-as-a-Service Environment
本文报告了使用语义支持的网络资源模型来构建一个可操作的多域网络基础设施即服务(NIaaS)测试平台ExoGENI的经验,该平台最近通过NSF的GENI项目获得资助。NIaaS的一个定义属性是网络配置功能与更常见的存储和计算配置功能的深度集成。资源提供商拓扑和用户请求可以使用网络资源模型来描述,该网络资源模型具有用于经由虚拟化和网络层之间的适配而专用于特定技术的基本网络资源(链路、节点、接口)的公共基类。这个问题空间产生了一些应用领域,语义Web技术变得非常有用-公共信息模型和资源类层次结构简化了多个提供者的资源描述,寻路和拓扑嵌入算法依赖于查询抽象作为构建块。本文介绍了如何语义资源描述模型使ExoGENI自主实例化的虚拟机的按需虚拟拓扑从云提供商提供,并通过按需虚拟连接从多个自治网络提供商获得的各种应用程序,从分布式系统实验高性能计算。
2014-03-04 cs.DC cs.NI
A Relative Study of Task Scheduling Algorithms in Cloud Computing Environment
云计算是并行处理和分布式计算的范例。它提供计算设施作为一种公用事业服务,按使用方式付费。虚拟化、自助服务配置、弹性和按使用付费是云计算的关键特性。它通过Internet提供不同类型的资源来执行用户提交的任务。在云环境中,大量的任务同时执行,需要有效的任务调度来提高云系统的性能。各种基于云的任务调度算法可用于将用户的任务调度到资源以供执行。由于云计算的新颖性,传统的调度算法已经不能满足云计算的需求,研究人员正在尝试对传统的调度算法进行改进,使其能够满足云计算的快速弹性、资源池化和按需自助服务等需求。本文从执行时间、吞吐量、制作周期、资源利用率、服务质量、能耗、响应时间和成本等调度参数出发,对任务调度算法的现状进行了讨论和比较。
2016-12-16 cs.DC
Machine Learning-based Orchestration of Containers: A Taxonomy and Future Directions
The University of Melbourne(墨尔本大学);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);The University of Macau(澳门大学)
容器化是一种轻量级的应用程序虚拟化技术,提供高环境一致性、操作系统分发可移植性和资源隔离。现有的主流云服务提供商在其分布式系统基础设施中优先采用容器技术,以实现自动化应用管理。为了处理容器化应用的部署、维护、自动扩展和联网的自动化,容器编排被认为是一个重要的研究问题。然而,云工作负载和环境的高度动态和多样性大大提高了编排机制的复杂性。因此,容器编排系统采用机器学习算法来进行行为建模和多维性能度量的预测。这些见解可以进一步提高资源配置决策的质量,以应对复杂环境下不断变化的工作负载。在本文中,我们对现有的基于机器学习的容器编排方法进行了全面的文献回顾。最后,根据这些研究的共同特点,提出了详细的分类法。此外,基于机器学习的容器编排技术从2016年到2021年的发展是基于目标和指标设计的。根据拟议的分类法,对审查过的技术进行了比较分析,重点是它们的关键特征。最后,各种开放的研究挑战和潜在的未来方向突出。
2021-06-24 cs.DC cs.LG
DRAPS: Dynamic and Resource-Aware Placement Scheme for Docker Containers in a Heterogeneous Cluster
虚拟化是一种很有前途的技术,它促进了云计算成为下一波互联网革命。由各种虚拟机提供支持的数百万应用程序被数据中心采用,提高了服务的服务质量。虽然虚拟机彼此之间隔离良好,但它们会受到冗余启动卷和缓慢配置时间的影响。为了解决这些限制,容器的诞生是为了部署和运行分布式应用程序,而无需启动整个虚拟机。作为一个主导者,Docker是容器技术的开源实现。在管理Docker容器集群时,管理工具Swarmkit没有考虑物理节点和虚拟化容器的异构性。异构性在于集群中的不同节点可能具有关于资源类型和可用性等的各种配置,并且服务产生的需求是变化的,例如CPU密集型(例如集群服务)以及内存密集型(例如Web服务)。在本文中,我们的目标是调查Docker容器集群和开发,DRAPS,一个资源感知的放置方案,以提高系统的性能在异构集群。
2018-05-22 cs.DC
Market-Oriented Cloud Computing and the Cloudbus Toolkit
云计算已经深入到信息技术行业,足以影响各大公司将其纳入主流业务。使用虚拟化技术来实现云结构即服务(IaaS)的强大推动力已经导致企业利用公共云的面向订阅的计算能力来托管其应用服务。与此同时,学术界的研究一直在调查横向方面,如安全性,软件框架,服务质量和标准化。我们相信,云计算愿景的完全实现将导致引入一个虚拟市场,在这个市场中,云经纪人代表最终用户负责选择和组合不同云供应商所宣传的服务。为了实现这一目标,必须从市场导向的角度重新设计和扩展现有的解决方案和技术,并将其集成在一起,从而产生我们所说的市场导向的云计算。在本文中,我们将通过提供一个参考模型来评估云计算的现状,讨论研究人员和IT从业者所面临的挑战,并将在不久的将来遇到,并提出解决这些问题的方法,从Cloudbus工具包的角度来看,它包括一套面向实现市场导向的云计算愿景的技术。我们提供了实验结果,展示了面向市场的资源配置和代理云内和跨多个分布式资源。我们还包括一个应用程序,说明如何将ECG分析托管为Amazon IaaS(EC2和S3)服务上的SaaS。
2012-03-23 cs.DC
A Comprehensive Vision on Cloud Computing Environment: Emerging Challenges and Future Research Directions
云计算已成为计算行业的支柱,并提供基于订阅的按需服务。通过虚拟化,产生在抽象硬件层中运行的计算机系统的虚拟实例,它使我们能够在许多用户之间共享资源。与早期的分布式计算模型相反,它通过其庞大的云计算中心保证了无限的计算资源,并且由于其不断扩展的基础设施,用户群和托管数据量,近年来它非常受欢迎。这些庞大而复杂的工作负载带来了许多问题,包括资源使用、功耗、可扩展性、运营费用、安全性等问题。在此背景下,本文全面概述了各种规模的组织中最普遍的共享和通信问题。讨论了安全分类、负载均衡以及在保护敏感数据时遇到的主要困难。需要对当前最先进的贡献、资源管理分析方法、负载均衡解决方案、授权物流和基于多目标学习的方法进行全面检查。在最后一节中,本文检查,审查,并建议未来的研究方向,在该地区的安全虚拟机安置。
2022-07-16 cs.DC
Cloud Brokerage: A Systematic Survey
背景:云提供商和供应级别的激增为云代理服务开辟了空间。经纪人在云客户和提供商之间充当中间人,帮助客户选择最合适的云服务,帮助管理与云服务相关的维度、异构性和不确定性。目标:本文识别并分类实现云经纪的方法。通过这样做,本文提出了一个最先进的理解和一个新的分类法,云代理。方法:我们进行了系统的文献调查,以汇编与云经纪相关的研究,并探讨如何设计云经纪人。我们从多个角度分析了这些研究,如动机,功能,工程方法和评估方法。结果:调查产生了一个关于实现云代理的当前建议的知识库。该调查发现了研究实施之间令人惊讶的差异,工程工作针对基于市场的解决方案,中间件,工具包,算法,语义框架和概念框架的组合。结论:我们的综合荟萃分析表明,云经纪仍然是一个正在形成的领域。毫无疑问,这一领域已经取得进展,但仍有相当多的挑战有待解决。本次调查确定了这些挑战和未来研究的方向。
2018-05-23 cs.DC
A Survey and Evaluation of Data Center Network Topologies
数据中心因其在现代计算环境中的灵活性和处理能力而变得越来越受欢迎。它们由单个实体(管理员)管理,允许动态资源配置、性能优化以及有效利用可用资源。每个数据中心都由通过物理线路连接的大量计算、网络和存储资源组成。数据中心的大规模性质需要仔细规划计算,存储,网络节点,互连以及相互通信,以确保其有效和高效的运营。在本文中,我们提出了一个全面的调查和分类的网络拓扑结构中使用的商业数据中心,或在这个空间工作的研究人员提出的。我们还比较和评估一些使用mininet以及gem 5模拟器的不同流量模式的拓扑结构,基于各种指标,包括吞吐量,延迟和平分带宽。
2016-05-05 cs.DC cs.NI
CloudFormer: An Attention-based Performance Prediction for Public Clouds with Unknown Workload
ESL, EPFL(EPFL瑞士拉沃斯分校)
CloudFormer通过双分支Transformer模型预测公共云中虚拟机性能退化,利用206种系统指标捕捉瞬时干扰效应,实现跨不同工作负载的鲁棒预测,MAE低至7.8%。
2026-03-25 cs.DC cs.LG cs.PF