CWD: A Machine Learning based Approach to Detect Unknown Cloud Workloads
Intel Corporation(英特尔公司);Intel Lab(英特尔实验室)
现代云数据中心的工作负载正变得越来越复杂。在过去几年中,云数据中心中运行的工作负载数量呈指数级增长,云服务提供商(CSP)一直在实时支持按需服务。随着云环境和云工作负载日益复杂,英特尔和AMD等硬件供应商越来越多地在其CPU平台中引入特定于云的工作负载加速功能。这些功能通常针对流行和常用的云工作负载。尽管如此,不常见的、客户特定的工作负载(未知工作负载),如果其特征与常见工作负载(已知工作负载)不同,可能无法实现底层平台的潜力。为了解决实现底层平台的全部潜力的问题,我们开发了一种基于机器学习的技术来表征、分析和预测在云环境中运行的工作负载。我们的技术的实验评估表明,良好的预测性能。我们还开发了以独立方式分析模型性能的技术。
2022-11-28 cs.DC cs.LG
SWARM+: Scalable and Resilient Multi-Agent Consensus for Decentralized Data-Aware Workload Management
Renaissance Computing Institute, University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校文艺复兴计算研究所);Argonne National Laboratory(阿贡国家实验室);Information Sciences Institute, University of Southern California(南加州大学信息科学研究所)
提出SWARM+,一种通过分层多智能体共识实现去中心化工作负载管理的系统,在提高可扩展性和弹性的同时支持数据感知调度策略。
2026-07-15 cs.DC
Towards Cloud Efficiency with Large-scale Workload Characterization
本文首次大规模分析 Microsoft 第一方云工作负载,识别影响效率与可靠性的关键特征及其差异,并提出支撑规模化表征与云服务优化的实证洞察。
2024-05-12 cs.DC
Workload Trace Generation for Dynamic Environments in Cloud Computing
云计算供应商在实际的云市场中提供数百万台虚拟机。在这种情况下,虚拟机放置(VMP)是云基础设施管理中最具挑战性的问题之一,考虑到大量可能的优化标准和可以研究的不同配方。考虑到云计算的按需模型,VMP问题应动态优化以有效地处理现代应用的典型工作负载。这项工作提出了几个动态的环境,解决VMP从供应商的角度来看,最相关的动态参数研究到目前为止,在VMP文献。在这项工作中提出了一套完整的环境和工作负载跟踪的例子。
2015-11-07 cs.DC
Cloud abstractions for AI workloads
针对多租户云环境中AI工作负载因租户与提供商缺乏协调而效率低下的问题,提出HarmonAIze框架重新定义云抽象,通过协同优化提升性能、效率、弹性与可持续性,并概述了相关机遇与挑战。
2025-09-14 cs.DC
Metrics based Workload Analysis Technique for IaaS Cloud
资源的动态可伸缩性是基础设施即服务(IaaS)中的一个问题,一直是研究和产业界关注的热点。云工作负载的异构性和动态性取决于适当工作负载到适当资源的服务质量(QoS)分配。工作负载是实例或一组实例将要执行的工作的抽象。运行Web服务或成为Hadoop数据节点是有效的工作负载。动态自然资源的有效管理可以在工作负载的帮助下完成。在工作负载被视为基本功能之前,云资源无法以有效的方式利用。在本文中,不同的工作负载已被确定和分类,以及他们的特点和限制。已经为每个工作负载确定了基于服务质量(QoS)要求的度量,并对这些度量进行了分析,以创建更好的应用程序设计。
2014-11-25 cs.DC
Scalable Infrastructure for Workload Characterization of Cluster Traces
在最近的过去,工作负载特征化一直试图在新兴的无服务器云市场中站稳脚跟,特别是在Google,AWS等大型生产云集群中。虽然分析和表征来自大型生产云集群的实际工作负载对云提供商、研究人员和日常用户都有好处,但由于数据的异构性,分析这些集群的工作负载跟踪一直是一项艰巨的任务。本文提出了一个基于Google dataproc的可扩展基础架构,用于分析云环境的工作负载跟踪。我们使用Google cloud cluster-usage-traces-v3的工作负载跟踪来评估建议的基础设施的功能。我们在此数据集上执行工作负载表征,重点关注工作负载的异构性、作业持续时间的变化、资源消耗的各个方面以及集群提供的资源的总体可用性。本文中报告的发现将有利于云基础设施提供商和用户,同时管理云计算资源,特别是无服务器平台。
2022-05-23 cs.DC
Cloud Workload Prediction based on Workflow Execution Time Discrepancies
基础设施即服务云隐藏了维护物理基础设施的复杂性,但有一个小小的缺点:它们还隐藏了内部工作细节。用户是否需要了解这些细节,例如,为了提高其应用程序的可靠性或性能,它们需要能够检测基础系统中行为变化的解决方案。现有的用于此类目的的运行时解决方案提供有限的功能,因为它们大多限于揭示基础设施中的每周或每年的行为周期。本文提出了一种通过模拟来预测通用后台工作负载的技术,该技术能够提供底层私有云系统的额外知识,以支持云编排或工作流制定等活动。我们的技术使用长期运行的科学工作流及其行为差异,并尝试在具有已知(基于跟踪)工作负载的模拟云中复制这些工作流。我们认为,我们越能更好地模拟当前的差异,我们就越能更好地了解现实生活中的云计算在不久的将来的预期工作负载。我们评估了所提出的预测方法与生物化学应用在真实和模拟的云基础设施。所提出的算法已被证明比随机工作负载选择对模拟云的未来产生显著(约20%)更好的工作负载预测。
2018-03-19 cs.DC
EsDNN: Deep Neural Network based Multivariate Workload Prediction Approach in Cloud Environment
云计算通过为服务提供商和客户提供利益而被认为是IT行业的成功范例。尽管有这些优势,但云计算也面临着不同的挑战,其中之一就是为动态工作负载提供低效的资源。云计算的准确工作负载预测可以支持高效的资源供应并避免资源浪费。然而,由于云工作负载的高维和高可变性,很难有效和准确地预测工作负载。目前云计算工作负载预测的主要工作是基于回归方法或递归神经网络,这些方法无法捕获工作负载的长期变化。为了应对挑战并克服现有工作的局限性,我们提出了一种用于云工作负载预测的高效的基于监督学习的深度神经网络(esDNN})方法。首先,我们利用滑动窗口将多变量数据转换为监督学习时间序列,允许深度学习进行处理。然后,我们应用一个修正的门控递归单元(GRU),以实现准确的预测。为了证明esDNN的有效性,我们还基于来自阿里巴巴和谷歌云数据中心的真实痕迹进行了全面的实验。实验结果表明,esDNN可以准确有效地预测云负载。与最先进的基线相比,esDNN可以显著降低均方误差,例如,比仅使用GRU的方法降低15%。我们还将esDNN应用于机器自动伸缩,这表明esDNN可以有效地减少活动主机的数量,从而优化服务提供商的成本。
2022-03-05 cs.DC
Workload Classification & Software Energy Measurement for Efficient Scheduling on Private Cloud Platforms
目前,为基于私有云的数据中心创建节能工作负载调度程序存在许多障碍。首先,必须研究不同工作负载和功耗之间的关系。其次,当前用于提供能量使用统计的基于硬件的解决方案不适合于仓库规模的数据中心,其中低成本和可扩展性是期望的属性。在本文中,我们讨论了私有云平台中不同工作负载对服务器功耗的影响。当服务器被赋予支配各种资源(CPU、内存、硬盘和网络)的任务时,我们显示出明显的能耗差异。然后,我们使用这种洞察力来开发CloudMonitor,这是一种软件实用程序,在开发动态功耗模型的“训练阶段”之后,能够通过监视工作负载的资源消耗来进行>95%的准确功耗预测。
2011-05-12 cs.DC
PhoenixCloud: Provisioning Resources for Heterogeneous Workloads in Cloud Computing
随着越来越多的服务提供商选择由第三方资源提供商提供的云平台,资源提供商需要为不同云场景下的异构工作负载提供资源。考虑到异构工作负载的巨大差异,我们是否可以在云计算中为异构工作负载协调调配资源?在本文中,我们专注于这个重要的问题,这是由以前的一些工作。我们的贡献有三个方面:(1)分别提出了两种典型云场景下的异构工作负载协同资源配置方案:第一种是大型组织为两个异构工作负载运行私有云;第二种是大型组织或两个服务提供商运行异构工作负载恢复到公有云;(2)我们构建了一个敏捷系统PhoenixCloud,使资源提供商能够在异构工作负载整合到云站点时,根据需要创建协调的运行时环境;(3)在实验中进行了综合评价。对于两种典型的异构负载跟踪:并行批处理作业和Web服务,实验表明:a)在私有云场景下,当吞吐量与专用集群系统的吞吐量基本相同时,我们的解决方案使集群的配置规模减少了约40%; b)在公共云场景中,我们的解决方案不仅减少了总资源消耗,而且峰值资源消耗最大为EC2 +RightScale方案的31%。
2010-07-20 cs.DC
Workload Intelligence: Punching Holes Through the Cloud Abstraction
本文提出Workload Intelligence(WI)框架,实现云工作负载与平台间的动态双向通信,使平台能简化供给、降低成本并将客户价格平均降低48.8%。
2024-04-29 cs.DC
An In-Depth Comparative Analysis of Cloud Block Storage Workloads: Findings and Implications
云块存储系统支持现代云服务中的各种类型的应用。描述它们的I/O活动对于指导更好的系统设计和优化至关重要。本文通过对阿里云和腾讯云块存储两个生产系统的数十亿次I/O请求的块级I/O跟踪,对生产云块存储工作负载进行了深入的对比分析。我们研究了它们的负荷强度、空间模式和时间模式的特征。我们还将云块存储工作负载与Microsoft Research Cambridge企业数据中心的公共块级I/O工作负载进行了比较,并确定了三种跟踪源的共性和差异。为此,我们提供了6个结果,通过高层次的分析和16个结果,通过详细的分析,负荷强度,空间模式和时间模式。我们讨论了我们的研究结果对云块存储系统中的负载均衡、缓存效率和存储集群管理的影响。
2022-11-19 cs.DC
AI-oriented Medical Workload Allocation for Hierarchical Cloud/Edge/Device Computing
在分层结构的云/边缘/设备计算环境中,工作负载分配会极大地影响整体系统性能。本文讨论了大都市地区急诊室(ER)或重症监护室(ICU)中产生的面向AI的医疗工作量。目标是优化AI工作负载分配到云集群、边缘服务器和终端设备,以便在挽救生命的紧急应用中实现最短的响应时间。特别是,我们为分布式云/边缘/设备计算系统中的AI工作负载开发了一种新的工作负载分配方法。一个有效的调度和分配策略,以减少整体响应时间,以满足多病人的需求。我们应用了来自综合边缘计算基准Edge AIBench的几个ICU AI工作负载。涉及的医疗AI应用包括呼吸短促警报、患者表型分类和生死威胁。我们的实验结果表明,在现实生活中的医疗保健和紧急应用的高效率和有效性。
2020-02-10 cs.DC cs.PF
The first deployment of workload management services on the EU DataGrid Testbed: feedback on design and implementation
应用程序用户现在已经体验了大约一年的标准化资源代理服务,该服务由欧盟数据网格项目(WP 1)的“工作负载管理”包提供。了解、塑造和推动该系统的极限,为其设计和实施提供了宝贵的反馈。摘要的经验教训,和“更好的做法”,吸取了教训,并适用于第二次主要版本的软件,给出。
2003-05-31 cs.DC
Gridiron: A Technique for Augmenting Cloud Workloads with Network Bandwidth Requirements
云应用程序不仅使用服务器资源,还需要网络资源。我们提出了一种新的技术来模拟网络云应用程序的网络带宽需求。我们的技术Gridiron通过网络带宽需求增强了Azure云的VM工作负载跟踪。Gridiron技术的关键是使用Amdahl第二定律推导VM间网络带宽要求。作为一个案例研究,我们使用Gridiron生成逼真的轨迹与网络带宽需求的分布式机器学习训练应用程序。Gridiron生成的工作负载允许数据中心运营商估计云应用程序的网络带宽需求,并实现更现实的云资源调度器评估。
2022-01-12 cs.DC cs.NI
Running Cloud-native Workloads on HPC with High-Performance Kubernetes
本文提出一种实用设计,通过高性能 Kubernetes 使未修改的云原生工作负载直接在主 HPC 集群上运行,避免资源分区并保留现有作业管理与计费策略。
2024-09-25 cs.DC
Hybrid Quantum-HPC Middleware Systems for Adaptive Resource, Workload and Task Management
Ludwig Maximilian University(路德维希-马克西米利安大学);BMW Group(宝马集团);Utrecht University(乌得勒支大学);Rutgers University-New Brunswick(罗格斯大学新不伦瑞克校区);Princeton Plasma Physics Laboratory(普林斯顿等离子体物理实验室);Princeton University(普林斯顿大学)
本文提出混合量子-高性能计算系统中自适应资源、工作负载和任务管理的中间件方法,通过四层架构、执行动机集、Pilot-Quantum框架和Q-Dreamer工具包实现应用感知调度和性能建模。
2026-04-03 cs.DC quant-ph
Orchestrating Mixed-Criticality Cloud Workloads in Reconfigurable Manufacturing Systems
本文针对云化工厂车间中不同关键性工作负载的编排问题提出优化模型,在保证可调度作业数量的同时提升作业保障,并展望了作业隔离性的定量评估方向。
2024-03-27 cs.DC
Collaborative Resource Management and Workloads Scheduling in Cloud-Assisted Mobile Edge Computing across Timescales
针对边缘资源受限下的物联网服务托管与任务调度问题,提出跨时间尺度的RMWS框架,结合Gibbs采样、交替最小化和次梯度下降算法联合优化服务放置、资源供应与工作负载调度,实现至少10%的性能提升。
2024-05-31 cs.DC
A Minimum-Cost Flow Model for Workload Optimization on Cloud Infrastructure
计算、存储和网络领域的最新技术进步,以及组织在削减成本的同时保持对不断增长的服务需求的响应的需求增加,导致了云计算服务的采用增长。云服务提供了提高敏捷性、弹性、可扩展性和降低总拥有成本(TCO)的承诺。这项研究介绍了一个框架,通过使用线性规划(ILP)方法来优化工作负载分配到Amazon Web Services(AWS)云基础设施上的服务器,从而最大限度地降低成本和提高资源利用率。该模型是基于经典的最小成本流模型,被称为分配模型。
2017-07-28 cs.DC
URSA: Precise Capacity Planning and Contention-aware Scheduling for Public Clouds
数据库平台即服务(dbPaaS)发展迅速,大量数据库被迁移到云上运行,以获得低成本和灵活性。新兴云依赖租户为其数据库工作负载提供资源规范。然而,他们往往高估了数据库的资源需求,导致不必要的高成本和低云利用率。一种自动建议满足每个数据库工作负载的性能需求的“刚好够用”的资源规范的方法是有益的。为此,我们提出了URSA,dbPaaS云的容量规划和工作负载调度系统。USRA由在线容量规划器、性能干扰估计器和竞争感知调度引擎组成。容量规划器为数据库工作负载确定最具成本效益的资源规格,以实现所需的联机性能。干扰估计器量化共享资源上的压力和对每个数据库工作负荷的共享资源争用的敏感度。调度引擎会仔细地跨云节点调度工作负载,以消除协同工作负载之间的不公平性能干扰。我们的真实系统的实验结果表明,URSA减少了27.5%的CPU使用和53.4%的内存使用的数据库工作负载,同时满足他们的性能要求。与此同时,与Kubernetes相比,URSA将协同工作负载之间的性能不公平性降低了42.8%。
2019-12-27 cs.DC
CloudyGUI: A Novel Python-based Framework for Auto-Scaling and Cloud Workload Analysis
Guru Nanak Dev University(古鲁纳克德夫大学)
提出CloudyGUI框架,通过工作负载生成、预测(XGBoost和LSTM)和基于MAPE循环的自动缩放三阶段流程,实现云资源管理策略的测试与验证,并验证了其与真实数据的高度一致性。
2026-07-02 cs.DC
Lightweight Robust Framework for Workload Scheduling in Clouds
在不牺牲太多资源的情况下,云服务的可靠性、安全性和稳定性已经成为云中工作负载管理领域的期望特征。本文提出并评估了一个轻量级的框架调度工作量的一部分可能是不可靠的。这种不可靠性可能是由各种类型的故障或攻击造成的。我们的健壮工作负载调度框架有效地结合了经典的容错和安全工具,如数据包/作业扫描,与工作负载调度,它不使用任何沉重的资源消耗工具,例如,密码学或非线性优化。更具体地说,该框架使用了一种新的目标函数来分配工作到服务器,并不断决定哪些工作扫描的基础上与目标函数的公式。我们展示了如何建立目标函数和相应的扫描程序,使系统可证明稳定,只要它满足一个特定的稳定性条件。因此,我们表明,我们的框架保证云的稳定性,即使天真的扫描所有和扫描无策略是不稳定的。我们扩展的框架,分散调度和评估它在几个流行的路由程序。
2017-05-07 cs.DC
CacheWise: Understanding Workloads and Optimizing KVCache Management for Efficiently Serving LLM Coding Agents
University of Washington(华盛顿大学);University of Virginia(弗吉尼亚大学)
针对编码代理会话中大量前缀复用导致KVCache压力的问题,提出CacheWise管理层,结合前缀感知调度和基于工具调用元数据的轻量级预测驱逐策略,减少KVCache驱逐并提升会话完成时间。
2026-06-16 cs.DC cs.OS
Cloud Collectives: Towards Cloud-aware Collectives forML Workloads with Rank Reordering
University of Washington(华盛顿大学);Microsoft Research(微软研究院);Facebook AI(脸书人工智能研究院)
ML工作负载在云中越来越受欢迎。良好的云训练性能取决于VM之间的有效参数交换。我们发现,由于数据中心网络的分层拓扑结构和云计算的多租户性质,广泛使用的分布式通信算法Collectives无法实现最佳的开箱即用性能。在本文中,我们提出了Cloud Collectives,一个原型,通过重新排序参与VM的队列来加速集体,使得由所选集体操作决定的通信模式最好地利用Collectives是非侵入性的,不需要更改代码或重建现有应用程序,并且在没有云提供商支持的情况下运行。我们在公共云中的allreduce操作上初步应用Cloud Collectives,在多个微基准测试中实现了高达3.7倍的加速,在使用最先进的框架进行深度神经网络和梯度提升决策树分布式训练的真实工作负载中实现了1.3倍的加速。
2021-05-28 cs.AI cs.DC cs.NI
Performance Analysis of Machine Learning Centered Workload Prediction Models for Cloud
由于异构服务类型和动态工作负载的高度可变性和维度,资源使用的精确估计是一个复杂且具有挑战性的问题。在过去的几年里,资源使用和流量的预测已经得到了研究界的充分关注。许多基于机器学习的工作负载预测模型已经通过利用它们的计算能力和学习能力来开发。本文首次对各种机器学习驱动的云工作负载预测模型进行了系统调查和基于性能分析的比较研究。讨论开始与预测资源管理的意义,其次是一个示意性的描述,操作设计,动机和挑战,这些工作量预测模型。分类和不同的预测方法分为五个不同的类别,重点放在现有的国家的最先进的工作量预测方法的理论概念和数学功能。最突出的预测方法属于一个独特的类别的机器学习模型进行了彻底的调查和比较。所有五个分类的基于机器学习的工作负载预测模型都在一个公共平台上实现,以便通过实验分析使用三个不同的基准云工作负载跟踪进行系统调查和比较。国家的最先进的方法的基本的关键性能指标进行了评估比较,并通过讨论的权衡和值得注意的意见的文件结束。
2023-02-05 cs.DC
A Multi-Cloud Framework for Zero-Trust Workload Authentication
SentinelOne Inc.(SentinelOne公司)
针对静态长期凭证违背零信任原则的问题,提出基于 WIF 与 OIDC 的多云无密钥工作负载认证框架,并在企业级 Kubernetes 中验证其可显著缩小攻击面。
2025-10-17 cs.CR cs.DC cs.NI
Quantifying Energy and Cost Benefits of Hybrid Edge Cloud: Analysis of Traditional and Agentic Workloads
本文分析了集中式云系统的工作负载分布挑战,提出Hybrid Edge Cloud (HEC)架构,并在传统与智能体工作负载场景下量化验证了其能实现高达75%节能和80%以上成本降低,为下一代智能系统提供可持续计算方案。
2025-01-29 cs.AI cs.DC
PhoenixCloud: Provisioning Resources for Heterogeneous Cloud Workloads
随着越来越多的服务提供商选择云平台,资源提供商需要为不同场景下的异构工作负载提供资源和支持运行时环境(RE)。以前的工作未能解决这个问题,在几个方面:(1)它没有注意到不同的RE要求,并没有使创建协调的RE的需求;(2)很少的工作调查协调的资源供应异构的工作负载。在本文中,我们的贡献有三个方面:(1)我们提出了一个表达不同RE需求的RE协议,并构建了一个创新的系统PhoenixCloud,使资源提供商能够根据RE协议按需创建RE;(2)我们提出了两个协调的资源提供解决方案,用于两个典型的云场景中的异构工作负载:首先,大型组织为两个异构工作负载运行私有云;其次,运行异构工作负载的大型组织或两个服务提供商恢复到公共云;以及(3)在实验中进行了全面评估。对于并行批处理作业和Web服务的典型负载跟踪,我们的实验表明:a)在第一个云场景中,当吞吐量与专用集群系统的吞吐量基本相同时,我们的解决方案将集群的配置大小减少了约40%; b)在第二种情况下,我们的解决方案不仅减少了总资源消耗,而且峰值资源消耗最大为EC2 + RightScale方案的31%。
2010-03-31 cs.DC cs.PF
On the Potential of Execution Traces for Batch Processing Workload Optimization in Public Clouds
Technische Universität Berlin(柏林工业大学);Humboldt-Universität zu Berlin(柏林洪堡大学)
随着数据量的不断增长,数据处理工作负载及其资源使用的管理变得越来越重要。由于管理专用基础设施在许多情况下是不可行或不经济的,因此用户逐渐在云中执行其各自的工作负载。由于工作负载和资源的配置通常具有挑战性,因此已经提出了各种方法,这些方法可以快速配置良好的配置或基于先前运行的数据确定配置。然而,用于训练这种方法的性能数据往往缺乏,并且必须花费昂贵的收集。在本文中,我们提出了一种协作方法,用于在用户之间共享匿名工作负载执行跟踪,挖掘它们的一般模式,并利用历史工作负载集群进行未来的优化。我们评估了我们的原型实现挖掘工作负载执行图上公开可用的跟踪数据集,并证明了预测值的工作负载集群确定通过跟踪只。
2022-01-16 cs.DC cs.LG
A Competitive Analysis for Balanced Transactional Memory Workloads
我们考虑在平衡工作负载的上下文中的事务性内存争用管理,其中如果事务正在写入,则其执行的写入操作的数量是其总读取和写入的恒定部分。我们从最坏情况的角度出发,通过提出和分析两种新的竞争管理算法,探讨了平衡工作负载下竞争管理的理论性能边界。第一个算法千里眼是O(\surd s)-竞争的,其中s是共享资源的数量。该算法依赖于明确地知道冲突图。第二个算法Non-Clairvoyant是O(\surd s \cdot log n)-竞争的,具有很高的概率,这只是一个O(log n)的因素差,但不需要冲突图的知识,其中n是事务的数量。这两种算法都是贪婪的。我们还证明了千里眼的性能是紧的,因为没有竞争管理算法优于O((\surd s)^(1-ε))-竞争的任何常数ε> 0,除非NP \subseteq ZPP。据我们所知,这些结果是显着的改进,以前已知的最好的O(s)竞争比界。
2010-08-31 cs.DC
Shaved Ice: Optimal Compute Resource Commitments for Dynamic Multi-Cloud Workloads
基于对 Snowflake Data Cloud 三年工作负载的研究,量化需求驱动因素,提出最大化容量可用性并最小化成本的实用优化方案,解决多云计算承诺中成本节约与需求风险的权衡问题。
2025-04-30 cs.DC
Energy Savings When Migrating Workloads to the Cloud
在云环境中,数据中心在能耗方面由云服务提供商(CSP)有效地操纵。因此,将工作负载迁移到云可以降低能耗。本文证明了具有最佳云实例选择的提升和转移迁移可以提供显着的节能,并解释了节能量和节能来源。此外,还分析了部署Auto-Scaling时能耗的变化,表明即使不重构应用程序,也有望进一步节省能源。所有结论和分析都是基于Cloudamize Inc.收集的真实数据。从2016年5月到2016年8月,大约300个数据中心的40,000多台机器。
2022-08-15 cs.DC cs.NI
Wasserstein Adversarial Transformer for Cloud Workload Prediction
University of Georgia(佐治亚大学);The University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
预测性虚拟机(VM)自动扩展是一种很有前途的技术,可以优化云应用程序的运营成本和性能。了解作业到达率对于准确预测云工作负载的未来变化以及主动配置和取消配置用于托管应用程序的VM至关重要。然而,由于云工作负载的动态特性,开发一个准确预测云工作负载变化的模型极具挑战性。长短期记忆(LSTM)模型已经被开发用于云工作负载预测。不幸的是,最先进的LSTM模型利用递归来预测,这自然会增加复杂性,并随着输入序列的增长而增加推理开销。为了开发具有高准确度和低推理开销的云负载预测模型,本文提出了一种新的时间序列预测模型WGAN-gp Transformer,该模型受到Transformer网络和改进的Wasserstein-GAN的启发。该方法采用Transformer网络作为发生器,多层感知器作为评判器。对真实工作负载跟踪的广泛评估表明,WGAN-gp Transformer的推理时间比最先进的方法快5倍,预测精度高出5.1%。我们还将WGAN-gp Transformer应用于Google云平台上的自动伸缩机制,基于WGAN-gp Transformer的自动伸缩机制通过显著降低VM过度配置和不足配置率而优于基于LSTM的机制。
2022-03-12 cs.AI cs.DC cs.LG
Understanding Cloud Workloads Performance in a Production like Environment
了解虚拟机间干扰对于提供可靠的知识并了解当前公共云中性能下降的原因至关重要。为此,本文设计了一种工作负载分类法,该分类法根据主要系统资源如何影响应用程序的性能(例如,尾部等待时间)作为负载水平的函数(例如,QPS)。在此之后,我们提出了三个主要的研究,解决了三个主要的问题,以提高云性能:影响的负载水平对性能,超线程对性能的影响,以及限制主要系统资源(例如,最后一级缓存)的性能。在所有这些研究中,我们确定了重要的发现,我们希望这些发现可以帮助云提供商提高他们的系统利用率。
2020-10-10 cs.DC
A Quantum Approach Towards the Adaptive Prediction of Cloud Workloads
提出了一种基于进化量子神经网络的云数据中心工作负载预测模型。它利用量子计算的计算效率,将工作负载信息编码到量子比特中,并通过网络传播此信息,以主动估计工作负载或资源需求,提高准确性。控制非门的旋转和反向旋转效应在隐藏层和输出层起到激活函数的作用,以调整量子位权重。此外,自平衡自适应差分进化(SB-ADE)算法被开发来优化量子比特网络的权重。EQNN预测模型的准确性进行了广泛的评估,并与七个国家的最先进的方法,使用八个真实世界的基准数据集的三个不同的类别进行比较。实验结果表明,使用量子方法的进化神经网络大大提高了预测精度高达91.6%,比现有的方法。
2022-11-26 cs.DC
Storage and Memory Characterization of Data Intensive Workloads for Bare Metal Cloud
随着存储系统的每字节成本大幅下降,SSD正在新兴的云基础设施中找到自己的方式。类似的趋势也发生在主存子系统上,因为具有更高容量、频率和通道数量的先进DRAM技术正在部署用于云规模解决方案,特别是用于非虚拟化环境,在非虚拟化环境中,云用户可以准确指定底层硬件的配置。考虑到标准工作负载对存储层次结构参数的性能敏感性,了解内存和存储在数据密集型工作负载中的作用非常重要。在本文中,我们研究了DRAM(高端与低端)的选择如何影响基于Hadoop,Spark和MPI的大数据工作负载在裸金属云上存在不同存储类型时的性能。通过有条不紊的实验设置,我们分析了DRAM容量,工作频率,通道数量,存储类型和横向扩展因素对这些流行的框架的性能的影响。基于微架构分析,我们将数据密集型工作负载分为三组,即I/O绑定、计算绑定和内存绑定。表征结果表明,无论是DRAM容量,频率,还是通道的数量都对所有研究的Hadoop工作负载的性能起着重要的作用,因为它们大多是I/O绑定的。另一方面,我们的研究结果表明,Spark和MPI中的迭代任务(例如机器学习)受益于高端DRAM,特别是高频率和大量通道,因为它们是内存或计算限制的。我们的研究结果表明,使用SSD PCIe不能将瓶颈从存储转移到内存,而它可以将工作负载行为从I/O绑定改变为计算绑定。
2018-08-15 cs.DC
Serifos: Workload Consolidation and Load Balancing for SSD Based Cloud Storage Systems
在虚拟化数据中心中实现高性能需要部署高吞吐量存储集群(即基于固态硬盘(SSD)),以及跨存储节点优化整合工作负载。如今,云存储提供商提供保证性能的唯一实用解决方案是过度配置存储节点。生产中使用的当前工作负载调度机制不具备基于SSD性能优化分配块存储卷的智能。在本文中,我们介绍Serifos,自主性能建模和负载均衡系统设计的SSD为基础的云存储。Serifos考虑了SSD存储单元的特性,并构建了硬件相关的工作负载整合模型。因此,Serifos能够预测由工作负载干扰引起的延迟和并发工作负载的平均延迟。此外,Serifos利用I/O负载均衡算法来动态平衡群集中的卷。实验结果表明,Serifos合并模型是能够保持约10%的平均预测误差异构硬件。作为Serifos负载均衡的结果,我们发现方差和最大平均延迟分别减少了82%和52%。测试平台上支持的服务级别目标(SLO)将平均延迟提高了43%,最大读取延迟提高了32%,最大写入延迟提高了63%。
2015-12-25 cs.DC
Consideration for effectively handling parallel workloads on public cloud system
我们检索并分析了富士通K5云服务的并行存储工作负载,以阐明如何构建具有成本效益的混合存储系统。混合存储系统由快速但低容量的层(第一层)和慢速但高容量的层(第二层)组成。而且,它通常由SSD和HDD或NVM和SSD组成。结果,我们发现:1)仅当工作负载包括一整天的大量IO访问时,才应分配第一层的区域,2)包括大量IO访问的区域应动态选择并在短时间间隔内从第二层移动到第一层,以及3)如果高速缓存命中率通常较低,则应取消对工作负载的高速缓存的使用,并且整个工作负载区域应该被分配给第一层的区域。这些工作量已经从SNIA网站上发布。
2020-08-14 cs.DC cs.DS cs.OS
Big Data Workload Profiling for Energy-Aware Cloud Resource Management
Independent Researchers, Senior Members, IEEE(IEEE独立研究者、高级成员)
本文提出一种基于大数据工作负载建模的能耗感知云资源调度框架,通过分析CPU、内存和存储IO行为,实现虚拟机放置的节能优化,实验表明可节省15-20%的能耗并保持性能稳定。
2026-01-17 cs.AI cs.DC cs.SE
Carbon-aware Resource Management for Latency-Sensitive Cloud Computing Environments: A Taxonomy and Future Directions
University of Melbourne(墨尔本大学);University of Amsterdam(阿姆斯特丹大学)
本文针对延迟敏感型云计算环境的碳感知资源管理问题,对相关最新文献进行分类分析,指出现有研究差距并提出未来研究方向,助力平衡延迟约束与碳减排目标。
2026-10-22 cs.DC
RAPID: Enabling Fast Online Policy Learning in Dynamic Public Cloud Environments
Oregon State University(俄勒冈州立大学);Intel Corporation(英特尔公司)
针对公共云中动态工作负载的资源分配难题,RAPID框架利用轻量级QoS预测实现快速全在线策略学习,在真实平台上几分钟内稳定策略,QoS提升9.0倍,尽力而为性能提升19-43%。
2023-09-04 cs.DC cs.LG cs.SY
Sustainable Graph Analytics Workload Scheduling with Evolutionary Reinforcement Learning in Edge-Cloud Systems
Colorado State University(科罗拉多州立大学);IIIT Guwahati(古瓦哈提信息与技术研究所);Hewlett-Packard Labs(惠普实验室)
本文提出MERSEM框架,通过进化搜索与强化学习结合,优化边缘-云计算系统中图分析工作负载的调度,减少SLA违规和碳排放。
2026-05-13 cs.DC
TailBench++: Flexible Multi-Client, Multi-Server Benchmarking for Latency-Critical Workloads
本文提出增强型基准测试套件 TailBench++,通过支持动态多客户端、多服务器环境及可变 QPS 和到达模式,解决了 TailBench 在延迟关键型云负载评估中的局限,实现更真实的云性能评测。
2025-05-06 cs.DC
A Qualitative Evaluation of Service Mesh-based Traffic Management for Mobile Edge Cloud
Service mesh正被广泛采用为基于微服务的应用程序中的流量管理的云原生机制,特别是对于托管在更集中的云环境中的通用IT工作负载。性能要求高的应用程序继续推动现代应用程序执行环境的去中心化,例如移动边缘云。本文对最先进的服务网格进行了系统的定性分析,以评估其设计是否适合解决移动边缘云环境中托管的性能要求苛刻的应用程序工作负载的流量管理需求。通过这种分析,我们认为,当今以可靠性为中心的服务网格设计无法满足不同类型的新兴移动边缘云工作负载的需求,并激励进一步研究高效的架构,更强的QoS保证和更高复杂性的云原生流量管理框架的抽象。
2022-05-12 cs.DC
A Survey on Machine Learning for Geo-Distributed Cloud Data Center Management
Colorado State University(科罗拉多州立大学)
今天的云工作负载通常在分布式环境中进行管理,并在地理上分布的数据中心进行处理。云服务提供商一直在全球范围内分布数据中心,以降低运营成本,同时通过使用智能工作负载和资源管理策略来提高服务质量。软件工作负载和硬件资源的这种大规模和复杂的编排仍然是难以有效解决的问题。研究人员和实践者一直试图通过提出各种云管理技术来解决这个问题。数学优化技术历来用于解决云管理问题。但这些技术难以扩展到地理分布的问题规模,并且在动态异构系统环境中的适用性有限,迫使云服务提供商探索智能数据驱动和基于机器学习(ML)的替代方案。近年来,采用ML方法对复杂、异构和不断变化的分布式云资源和工作负载进行表征、预测、控制和优化受到了广泛关注。在本文中,我们回顾了用于云数据中心管理问题的最新ML技术。我们研究了当前研究中的挑战和问题,重点关注ML云管理,并探索解决这些问题的策略。我们还讨论了最近文献中提出的ML技术的优点和缺点,并对未来的研究方向提出了建议。
2022-05-17 cs.DC cs.LG
CloudFormer: An Attention-based Performance Prediction for Public Clouds with Unknown Workload
ESL, EPFL(EPFL瑞士拉沃斯分校)
CloudFormer通过双分支Transformer模型预测公共云中虚拟机性能退化,利用206种系统指标捕捉瞬时干扰效应,实现跨不同工作负载的鲁棒预测,MAE低至7.8%。
2026-03-25 cs.DC cs.LG cs.PF
Exploiting Workload Cycles for Orchestration of Virtual Machine Live Migrations in Clouds
云环境中的虚拟机实时迁移旨在降低能源成本并提高资源利用率。然而,它的潜力尚未得到充分开发,因为同时迁移可能会导致用户应用程序性能下降和网络拥塞。关于实时迁移编排策略的研究工作仍然主要依赖于系统级指标。这项工作介绍了一个应用程序感知的实时迁移架构(ALMA),选择合适的时刻迁移使用应用程序的特征数据。这种表征包括通过快速傅立叶变换识别资源使用周期。从我们的实验中,与没有应用程序工作负载分析的迁移策略相比,基准测试的实时迁移时间减少了74%,实际应用程序减少了67%。实时迁移过程中的网络数据传输减少了高达62%。
2016-07-26 cs.DC
Resource Optimization with MPI Process Malleability for Dynamic Workloads in HPC Clusters
针对HPC环境中可延展性资源管理技术落地难的问题,研究扩展DMR框架并整合Proteo框架的MaM模块方法,提出合并MPI通信子、异步重配置等新策略,经超级计算机验证可显著缩短工作负载完成时间、提升资源利用率。
2025-06-17 cs.DC
Workload Behavior Driven Memory Subsystem Design for Hyperscale
针对云工作负载与通用基准行为不匹配、服务器架构未优化的问题,本文提出MemProf内存剖析工具,基于其对三类停顿原因的分析,提出共享微架构、高带宽小容量内存层等优化方案,并构建内存追踪工具提升预取器性能。
2023-05-02 cs.AR cs.DC
Micky: A Cheaper Alternative for Selecting Cloud Instances
大多数云计算优化器一次探索和改进一个工作负载。在优化多个工作负载时,单一优化器方法的成本可能高得令人望而却步。因此,我们研究“集体优化器”,同时探索和改善一组工作负载,显着降低测量成本。我们的大规模实证研究表明,通常有一个单一的云配置,对于大多数工作负载来说,这是令人惊讶的接近最佳的。因此,我们创建了一个集体优化器,MICKY,重新制定的任务,找到接近最佳的云配置作为一个多臂强盗问题。MICKY有效地平衡了探索(新的云配置)和利用(已知良好的云配置)。我们的实验表明,与最先进的方法相比,MICKY可以实现平均8.6倍的测量成本降低,同时找到接近最佳的解决方案。因此,我们提出MICKY作为一个实用的集体优化方法的基础,以找到良好的云配置(基于各种约束,如预算和容忍接近最佳的配置)。
2018-03-15 cs.DC
Spot-on: A Checkpointing Framework for Fault-Tolerant Long-running Workloads on Cloud Spot Instances
Spot实例为运行在云计算环境中的应用程序提供了经济高效的解决方案。然而,在spot实例上运行长时间运行的作业是具有挑战性的,因为它们会受到不可预测的驱逐。在这里,我们介绍了一个通用的软件框架,它通过检查点和重启支持在现场实例上的容错长时间运行的工作负载。Spot-on利用现有的检查点包,并与主要的云供应商兼容。使用基因组学应用程序作为测试用例,我们证明了Spot-on支持特定于应用程序的检查点方法和透明的检查点方法。与使用按需实例运行应用程序相比,它允许完成这些工作负载,从而显著降低计算成本。与使用特定于应用程序的检查点机制运行应用程序相比,受透明检查点保护的应用程序可将运行时间减少多达40%,从而进一步节省高达86%的成本。
2022-10-05 cs.DC q-bio.GN
Serverless in the Wild: Characterizing and Optimizing the Serverless Workload at a Large Cloud Provider
功能即服务(FaaS)作为将计算部署到云中无服务器后端的一种方式越来越受欢迎。这种范例将分配和供应资源的复杂性转移到云提供商,云提供商必须提供始终可用资源的假象(即,没有冷启动的快速函数调用)。这样做需要提供商深入了解FaaS工作负载的特征。不幸的是,关于这些特征的公开信息很少或根本没有。因此,在本文中,我们首先描述了Azure Functions的整个生产FaaS工作负载。例如,我们表明,大多数函数调用非常不频繁,但有一个8个数量级的调用频率范围。使用我们的表征观察,然后我们提出了一个实用的资源管理政策,显着减少功能冷启动的数量,而花费更少的资源比国家的实践政策。
2020-06-06 cs.DC