Performance Constraint and Power-Aware Allocation For User Requests In Virtual Computing Lab
云计算由规模经济驱动。云系统使用虚拟化技术以虚拟机的形式向用户提供云资源(例如CPU、内存)。虚拟机(VM)是一种面向用户应用的沙箱,适合在教育环境中为教学和科研需求提供计算资源。在资源管理方面,他们希望通过降低大规模数据中心系统的电子账单的昂贵成本来降低运营成本。基于租赁的模型适用于我们的虚拟计算实验室,其中用户请求租赁虚拟机的资源。本文提出了两种主机选择策略MAP(minimum of active physical hosts)和MAP-H2 L,以及四种解决租用调度问题的算法。FF-MAP、FF-MAP-H2 L算法满足能量消耗和服务质量(例如性能)之间的折衷。通过对LLNL Atlas日志转换的7天工作负载的仿真,表明FF-MAP和FF-MAP-H2 L算法在租赁调度器Haizea中比现有贪婪映射算法分别降低了7.24%和7.42%的能耗。此外,在HalfPI-FF-MAP和PI-FF-MAP算法中引入了合并比θ,θ分别为π/2和π,仿真结果表明,它们的能耗分别降低了34.87%和63.12%。
2012-12-26 cs.DC
Efficient Resource Allocation in Resource provisioning policies over Resource Cloud Communication Paradigm
在云中执行任务的最佳资源利用率是最大的挑战之一。在云上执行任务时,资源供应商负责提供资源以创建虚拟机。为了最佳地利用资源,资源提供者必须负责将资源分配给虚拟机管理器(VMM)的过程。在本文中,一种有效的方式来利用资源,在云中,创建虚拟机已被提出考虑基于性能因素的最佳成本。该性能因素取决于资源的总成本、通信信道成本、可靠性和流行性因素。我们提出了一个框架,资源所有者和云之间的通信使用资源云通信范式(RCCP)。我们扩展了CloudSim[2],在VMM分配策略中加入了资源提供策略和高效资源分配(ERA)算法,作为资源提供的决策支持。
2012-07-11 cs.DC
Dynamic Resource Allocation for Virtual Machine Migration Optimization using Machine Learning
Northern Arizona University(北亚利桑那大学);Trine University(特里内大学);Zhejiang University(浙江大学);Tsinghua University(清华大学)
针对传统云计算环境中静态规则在虚拟机迁移和资源分配上的局限性,提出基于机器学习的虚拟机迁移优化与动态资源分配方法,以解决云计算中的资源调度挑战。
2024-03-20 cs.AI cs.DC
Minimizing Total Busy Time for Energy-Aware Virtual Machine Allocation Problems
针对云计算环境下虚拟机资源多、间隔时间固定、虚拟机不可抢占等特点,研究了具有能量感知的虚拟机资源分配问题。许多以前的工作都建议使用最少数量的物理机,然而,这并不一定是在具有多个资源、固定间隔时间和非抢占的虚拟机放置中最小化总能耗的好解决方案。我们观察到,最小化所有物理机的总繁忙时间之和意味着最小化物理机的总能耗。此外,如果虚拟机到物理机的映射具有相同的总繁忙时间,则最佳映射使物理机的剩余可用资源最小化。基于这些观察,我们提出了基于经验的EM算法来解决具有固定开始时间和持续时间的能量感知的VM分配。此外,本文还研究了一些用于对虚拟机列表进行排序的算法(例如,按最早开始时间、或最晚结束时间、或最长持续时间等排序)分配VM。我们使用CloudSim工具包和Feitelson的并行工作负载存档中的作业日志跟踪来评估EM。仿真结果表明,EM-ST,EM-LFT和EM-LDTF算法可以减少总的能量消耗相比,最先进的功率感知的VM分配算法。(e.g.功率感知最佳拟合递减(PABFD)[7]))。
2015-11-21 cs.DC cs.PF
Security of OS-level virtualization technologies: Technical report
从高密度云服务器到移动设备,对灵活、低开销虚拟化的需求在许多方面都很明显。在过去的十年中,操作系统级虚拟化已经成为一种新的、有效的虚拟化方法,在多个不同的基于Unix的系统中实现。尽管它的流行,一直没有系统的研究,从安全的角度来看,操作系统级虚拟化。在本报告中,我们对几种操作系统级虚拟化系统进行了比较研究,讨论了它们的安全性,并确定了当前解决方案中的一些差距。
2014-07-16 cs.CR cs.DC cs.OS
Using Virtual Addresses with Communication Channels
而对于单处理器和SMP机器,内存是可分配的数量,对于由大量并行计算单元组成的机器,每个都有自己的本地内存,可分配的数量是单个计算单元。在虚拟地址管理用于保持存储器一致性并允许分配实际可用的物理存储器之外的存储器的情况下,虚拟通信信道引用可以用于使计算单元在分配和交换期间保持连接。
2013-02-11 cs.AR cs.DC
VUPIC: Virtual Machine Usage Based Placement in IaaS Cloud
高效的资源分配是基础设施即服务(IaaS)云中的关键性能挑战之一。虚拟机(VM)放置和迁移决策方法是这些资源分配机制的组成部分。我们提出了一种新的虚拟机布局算法,该算法在考虑布局决策时考虑了虚拟机之间的性能隔离及其连续的资源使用情况。性能隔离是对基本低级硬件资源(CPU、内存、存储和网络带宽)感兴趣的虚拟机之间的资源争用形式。多个共同托管的相邻VM之间的资源竞争形成了所提出的新方法的基础。实验结果显示,不同类别的应用程序和性能隔离和资源竞争的影响。一个每虚拟机的3维资源利用率向量(RUV)已连续计算和用于放置决策,同时考虑到冲突的资源利益的虚拟机。使用新的布局算法VUPIC的实验表明,虚拟机的性能以及云的整体资源利用率的有效改善。
2012-12-01 cs.DC
Reproducible experiments on dynamic resource allocation in cloud data centers
在Wolke等人[1]中,我们通过实验比较了不同资源分配策略的效率。我们关注的是动态环境,其中虚拟机需要随着时间的推移分配和释放到服务器。在这篇配套文章中,我们描述了模拟框架,以及如何运行模拟来复制实验或在框架内运行新的实验。
2017-02-28 cs.DC
A Genetic Algorithm for Power-Aware Virtual Machine Allocation in Private Cloud
能源效率已经成为衡量私有云调度算法的重要指标。所面临的挑战是在最小化能量消耗和满足服务质量(QoS)(例如,针对预留请求的及时的性能或资源可用性)之间进行权衡。我们考虑的资源需求的上下文中的私有云系统提供资源的应用程序在教学和科研。其中,用户在开始时间和之前几个小时的非中断持续时间请求用于实验室课程的计算资源。许多以前的工作是基于迁移技术,从低利用率的主机移动在线虚拟机(VM),并关闭这些主机,以减少能源消耗。然而,在我们的情况下,用于迁移VM的技术不能使用。针对静态虚拟机分配问题,提出了一种基于功率感知的资源分配调度的遗传算法。由于执行模拟的资源(即内存)有限,我们创建了一个工作负载,其中包含我们大学实验室一天时间表的样本。我们评估的GAPA和基线调度算法(BFD),它排序的虚拟机列表中的开始时间(即最早的开始时间第一),并使用最适合的减少(即最少增加的功耗)算法,用于解决相同的SVMAP。仿真实验结果表明,GAPA算法的总能耗低于基线算法。
2013-02-19 cs.DC cs.NE
A Novel architecture for improving performance under virtualized environments
尽管虚拟化在云计算中提供了很多优势,但它并没有在虚拟化机器之间提供有效的性能隔离。换句话说,由于协同虚拟机造成的干扰,性能可能会受到影响。这可以通过正确管理同时运行的虚拟机之间的资源分配来实现。本文的目的是提供一种新的架构,是基于快速遗传K-means++算法和测试结果显示积极的改进,在性能方面的改进,在类似的现有方法。
2015-02-04 cs.DC
ADARES: Adaptive Resource Management for Virtual Machines
University of Washington(华盛顿大学);Purdue University(普渡大学);Nutanix Inc.(路坦力公司)
虚拟执行环境允许将多个应用程序整合到同一物理服务器上,从而能够更有效地使用服务器资源。然而,用户通常通过猜测来静态地配置虚拟机的资源,导致资源分配不足从而阻碍VM性能,或者分配过多从而浪费宝贵的数据中心资源。在本文中,我们首先通过分析一个广泛的数据集,包括超过250k的虚拟机超过3.6k的私营企业集群的真实世界的资源分配和利用率的虚拟机的特征。我们的大规模分析证实,虚拟机经常配置错误,要么过度配置,要么配置不足,而且这个问题在广泛的私有集群中普遍存在。然后,我们提出ADARES,一个自适应系统,动态调整VM资源使用机器学习技术。特别是,ADARES利用上下文强盗框架来有效地管理适应。我们的系统在集群、节点和虚拟机级别利用易于收集的数据来做出更明智的分配决策,并使用迁移学习来安全地探索配置空间并加快训练速度。我们的实证评估表明,ADARES可以显着提高系统利用率,而不牺牲性能。例如,与阈值和基于预测的基线相比,它实现了更可预测的虚拟机级性能,并将实际群集上合成工作负载的虚拟CPU和内存配置量分别减少了35%和60%。
2018-12-06 cs.DC cs.LG
an intelligent security centered resource-efficient resource management model for cloud computing environments
本文提出了一个概念模型,在云环境中的安全和性能高效的工作负载管理模型。在该模型中,采用资源管理单元来进行虚拟机的能量和性能优化分配,同时通过实时防御由于对虚拟机的未授权访问而导致的数据泄露来确保用户应用程序的安全处理。资源管理单元由安全虚拟机管理单元引导,该安全虚拟机管理单元被设计为生成关于活动虚拟机之间的未授权访问或相互通信链路的信息。此外,工作负载分析器单元同时操作以估计资源利用信息,以帮助资源管理单元进行虚拟机的性能高效分配。与先前的工作,从事访问控制机制,加密和解密的数据之前的传输和隧道的使用,以防止未经授权的访问虚拟机,从而提高了额外的计算成本开销,所提出的模型操作diligence有效地服务于相同的目的。
2022-10-29 cs.DC
Quality of Service (QoS) Modelling in Federated Cloud Computing
围绕具有潜在的大量定制资源的大规模服务器基础设施的思想构建,这些定制资源能够交互以促进服务的部署、适配和支持,云计算需要频繁地重新调度和管理各种应用任务,以便适应广泛范围和数量的用户的请求。云计算的挑战之一是通过设计用于在用户和云虚拟资源之间分配任务以及将虚拟资源分配给云物理资源的有效技术来支持和管理服务质量(QoS)。虚拟资源跨物理资源的迁移是另一个需要相当关注的挑战;特别是在联合云计算环境中,其中,提供商可能愿意将其未使用的资源作为服务提供给联合(合作分配),并在需要时收回这些资源供其自己使用(竞争分配)。本文重新审视了云计算中的QoS问题,通过制定和提出i)一个多QoS任务分配模型的任务分配到虚拟机和ii)一个虚拟机迁移模型的联合云计算环境中考虑的情况下,资源提供商是在合作或竞争模式下操作。针对联邦云环境中的QoS支持问题,提出了一种新的基于差分进化的任务分配绑定策略和一种新的虚拟机模型.实验结果表明,所提出的解决方案提高了云计算环境中的服务质量,并揭示了在联合云环境中操作混合合作和竞争模型的相对优势。
2019-11-08 cs.DC cs.NI
EPOBF: Energy Efficient Allocation of Virtual Machines in High Performance Computing Cloud
云计算在为高性能计算(HPC)用户提供虚拟机(VM)抽象下的计算资源以运行其应用方面已经变得更加流行。HPC云就是这样的云计算环境。HPC云中VM的能量高效资源分配的挑战之一是在最小化物理机(PM)的总能量消耗和满足服务质量(例如性能)之间进行权衡。一方面,云提供商希望通过降低电力成本(例如使用最少数量的运行PM)来最大化其利润。另一方面,云客户(用户)希望其应用程序具有最高性能。在本文中,我们关注的场景,调度程序不知道全局信息的用户作业和用户应用程序的未来。用户将在固定的开始时间和不间断的持续时间请求短期资源。然后,我们提出了一个新的分配启发式(命名为能量感知和性能每瓦定向Bestfit(EPOBF)),使用性能每瓦的度量来选择最节能的PM映射每个VM(例如,最大MIPS每瓦)。使用信息从Feitelson的并行计算存档模型HPC作业,我们比较了建议EPOBF的最先进的异构PM(每个PM有多核CPU)的并行计算。仿真结果表明,EPOBF可以减少显着的总能耗相比,最先进的分配算法。
2014-09-15 cs.DC cs.NI cs.PF
Servo: Increasing the Scalability of Modifiable Virtual Environments Using Serverless Computing -- Extended Technical Report
针对可修改虚拟环境(MVE)的独特扩展挑战,本研究设计了无服务器后端架构Servo,经AWS和Azure平台实验验证,其单实例支持玩家数达40至140名,显著优于现有方案,且已开源。
2023-04-28 cs.DC
Prepartition: Load Balancing Approach for Virtual Machine Reservations in a Cloud Data Center
负载均衡对于云数据中心的高效和长期运营至关重要。对于虚拟化,在分配后进行虚拟机的后(反应式)迁移是负载均衡和整合的传统方式。然而,反应式迁移不容易达到预定义的负载平衡目标,并且可能会中断服务并带来不稳定性。因此,我们提出了一种新的方法,称为预分区,负载均衡。它将VM请求按开始时间、结束时间和容量需求顺序划分为几个子请求,并将每个子请求视为常规VM请求。通过这种方式,它可以主动为每个物理机器上的每个VM请求设置边界,并使调度器在VM迁移之前做好准备,以获得预定义的负载均衡目标,从而以细粒度的方式支持资源分配。仿真合成数据表明,在平均利用率、不平衡度、最大完工时间和容量最大完工时间等指标下,PrepartitionOff调度算法比现有的负载均衡算法性能提高10%~ 20%.我们还将预分区扩展到在线负载均衡。评估结果表明,我们提出的方法也优于现有的在线算法。
2021-10-19 cs.DC
Optimization Heuristics for Cost-Efficient Long-Term Cloud Portfolio Allocations Under Uncertainty
当今的云基础设施环境提供了广泛的服务来构建和操作软件应用程序。然而,众多的选择也带来了新的复杂性。当涉及到采购云计算资源时,消费者可以从不同市场上的不同提供商购买他们的虚拟机,以形成所谓的云组合:虚拟机捆绑,其中虚拟机具有不同的技术特征和定价机制。因此,为一组给定的应用程序选择正确的服务器实例,以使分配具有成本效益,这是一项重要的任务。在本文中,我们提出了一个正式规范的云投资组合管理问题,需要一个应用程序驱动的方法,并结合了常见的保留,按需和现货市场类型的细微差别。我们提出了两个不同的成本优化算法,这个随机的时间装箱问题,一个采取天真的第一次适合的策略,而另一个是建立在遗传算法的概念。评估结果表明,前者的优化方法显着优于后者,无论是在执行速度和解决方案的质量。
2022-05-24 cs.CE cs.DC
GMLake: Efficient and Transparent GPU Memory Defragmentation for Large-scale DNN Training with Virtual Memory Stitching
针对大规模DNN训练中缓存分配器因频繁不规则内存请求导致的严重碎片问题,本文提出基于GPU虚拟内存管理的GMLake框架,通过虚拟内存拼接机制合并非连续内存块,在八个LLM模型上平均减少9.2 GB显存占用并降低15%碎片,且对模型和内存缩减技术完全透明。
2024-01-16 cs.DC
Virtual Garbage Collector (VGC): A Zone-Based Garbage Collection Architecture for Python's Parallel Runtime
VGC通过基于区域的内存管理和分区执行,提高Python运行时的可预测性和可扩展性。
2026-01-01 cs.DC cs.PL
Multiple Resource Allocation in Multi-Tenant Edge Computing via Sub-modular Optimization
边缘计算(EC)允许用户访问网络前沿的计算资源,这为部署移动增强现实(MAR)等延迟敏感型应用铺平了道路。在EC模式下,MAR用户连接到EC服务器,打开会话并连续发送待处理的帧。EC服务器发回虚拟信息,通过将其与真实环境融合来增强人类对世界的感知。当多个MAR服务提供商(SP)在网络边缘竞争有限的资源时,资源分配作为关键挑战出现。在本文中,我们考虑了多租户环境中的EC,其中资源所有者,即,网络运营商(NO)虚拟化资源,并让SP使用分配的资源片来运行它们的服务。事实上,对于MAR应用程序,我们关注两个特定的资源:CPU和RAM,部署在一些边缘节点,例如,中央办公室。我们研究了如何在多个SP之间划分这些资源的NO的决定。我们使用Erlang排队模型属于不同的SP的用户的到达和服务动态建模,并表明在完美的信息,NO和SP之间的相互作用可以制定为一个多个背包约束下的子模块最大化问题。为了解决这个问题,我们使用一个近似算法,保证一个有界的差距相对于最佳的理论解。我们的数值结果表明,该算法优于基线比例分配的会话容纳在边缘的每个SP的数量。
2023-02-20 cs.DC
Survivable and Bandwidth-Guaranteed Embedding of Virtual Clusters in Cloud Data Centers (Extended Version)
云计算已经成为互联网服务托管的一个强大而灵活的平台,但它也引起了人们对基于云的服务由于网络拥塞而无法预测的性能的担忧。为了提供可预测的性能,已经提出了云服务的虚拟集群抽象,其在简化的虚拟网络模型中实现关于计算资源和网络带宽的分配和性能隔离。虚拟集群分配中出现的一个问题是租户服务对物理故障的生存能力。现有的工作研究了固定主嵌入的虚拟集群备份配置,但没有考虑主嵌入对备份资源消耗的影响。为了解决这个问题,在本文中,我们研究如何嵌入虚拟集群在云数据中心的可生存性,通过联合优化主,备份嵌入的虚拟集群。我们正式定义了可生存的虚拟集群嵌入问题。然后,我们提出了一种新的算法,该算法计算给定租户请求的最具资源效率的嵌入。由于最优算法具有较高的时间复杂度,我们进一步提出了一种更快的启发式算法,它比最优解快几个数量级,但能够达到类似的性能。除了理论分析,我们评估我们的算法通过广泛的模拟。
2017-01-08 cs.DC cs.NI
Network Resource Allocation Strategy Based on Deep Reinforcement Learning
State Grid Shandong Electric Power Research Institute(国网山东省电力科学研究院);China University of Petroleum (East China)(中国石油大学(华东))
传统互联网在为新兴技术需求分配网络资源方面遇到了瓶颈。网络虚拟化(NV)技术作为未来的网络体系结构,其支持的虚拟网络嵌入(VNE)算法在解决资源分配问题方面显示出巨大的潜力。结合高效的机器学习(ML)算法,构建了接近底层网络环境的神经网络模型,对强化学习Agent进行训练。针对现有启发式算法映射结果容易收敛于局部最优解的问题,提出一种基于深度强化学习(DRL)的两阶段VNE算法(TS-DRL-VNE)。针对现有的基于ML的VNE算法往往忽视底层网络表示和训练模式的重要性的问题,提出了一种基于全属性矩阵的DRL VNE算法(FAM-DRL-VNE)。针对现有VNE算法往往忽略虚拟网络请求间底层资源变化的问题,提出了一种基于矩阵扰动理论的DRL VNE算法(MPT-DRL-VNE)。实验结果表明,该算法优于其他算法。
2022-02-03 cs.DC cs.LG cs.NI
CloudSim: A Novel Framework for Modeling and Simulation of Cloud Computing Infrastructures and Services
云计算侧重于交付可靠、安全、容错、可持续和可扩展的基础架构,以托管基于Internet的应用程序服务。这些应用程序具有不同的组成、配置和部署要求。在不同的负载、能源性能(功耗、散热)和系统规模下,针对不同的应用和服务模型,量化云基础设施(硬件、软件、服务)上的调度和分配策略的性能是一个极具挑战性的问题。为了简化这一过程,在本文中,我们提出CloudSim:一个新的广义和可扩展的模拟框架,使无缝建模,模拟和实验的新兴云计算基础设施和管理服务。该仿真框架具有以下新特征:(i)支持大规模云计算基础设施的建模和实例化,包括单个物理计算节点和Java虚拟机上的数据中心;(ii)用于建模数据中心、服务代理、调度和分配策略的自包含平台;(iii)虚拟化引擎的可用性,其帮助在数据中心节点上创建和管理多个独立的和共同托管的虚拟化服务;以及(iv)在处理核心到虚拟化服务的空间共享和时间共享分配之间切换的灵活性。
2009-03-14 cs.DC cs.OS cs.SE
Applying mathematical models in cloud computing: A survey
随着越来越多的个人和公司信息被放置在云中,人们开始担心云环境的安全性。最好是在安全威胁进入系统之前就预防它们,如果不知道它们来自哪里,就无法预防。资源分配和收入最大化的问题也同样重要,尤其是在云安全方面。这就需要不同的建模技术,包括但不限于安全威胁,资源分配和收入最大化模型。本调查报告将尝试分析云计算中的安全威胁和风险缓解。它介绍了病毒攻击如何入侵云上的虚拟机,通过提供虚拟机中的病毒威胁建模和风险缓解,讨论了顶级安全威胁和对策。资源分配模型和收益最大化技术也进行了讨论。
2014-03-14 cs.CR cs.DC
A smart resource management mechanism with trust access control for cloud computing environment
Panipat Institute of Engineering and Technology(帕尼帕特工程技术学院)
计算机业务的核心现在在云计算的帮助下提供基于订阅的按需服务。我们现在可以通过使用虚拟化在多个用户之间共享资源,虚拟化创建了运行在抽象硬件层中的计算机系统的虚拟实例。与早期的分布式计算模型相比,它通过其庞大的云计算中心提供无限的计算能力,并且由于其不断增长的基础设施,用户群和托管数据量,近年来一直非常受欢迎。本文为云环境中的工作负载管理范例提出了一个概念框架,它既安全又高效。在此范例中,资源管理单元用于能量和高效地执行虚拟机分配,确保用户应用程序的安全执行,并实时防止由未经授权的虚拟机访问带来的数据泄露。安全虚拟机管理单元控制资源管理单元,并且被创建为产生关于非法访问或相互通信的数据。此外,工作负载分析器单元同时工作以估计资源消耗数据,以帮助资源管理单元在虚拟机分配期间更有效。所建议的模型以不同的方式有效地服务于相同的目标,包括在传输之前进行数据加密和解密,使用信任访问机制来防止对虚拟机的未授权访问,这会产生额外的计算成本开销。
2022-12-10 cs.AI cs.DC
Load balancing in cloud data centers with optimized virtual machines placement
本文提出一种基于 learning automata 强化学习的虚拟机优化分配方法,通过提升优化算法性能并加速其收敛至全局最优,有效实现了云数据中心服务器间的负载均衡。
2023-11-07 cs.DC cs.NI