Data Center Cost Optimization Via Workload Modulation Under Real-World Electricity Pricing
The Pennsylvania State University(宾夕法尼亚州立大学)
本文研究了在考虑实时电价复杂特征的情况下,如何通过负载调节优化数据中心成本,提出了一种随机动态规划算法及其近似方法,并通过实验证明了延迟需求比降低需求在削峰中的效果更佳。
2013-09-04 cs.DC cs.SY eess.SY
AI-oriented Medical Workload Allocation for Hierarchical Cloud/Edge/Device Computing
在分层结构的云/边缘/设备计算环境中,工作负载分配会极大地影响整体系统性能。本文讨论了大都市地区急诊室(ER)或重症监护室(ICU)中产生的面向AI的医疗工作量。目标是优化AI工作负载分配到云集群、边缘服务器和终端设备,以便在挽救生命的紧急应用中实现最短的响应时间。特别是,我们为分布式云/边缘/设备计算系统中的AI工作负载开发了一种新的工作负载分配方法。一个有效的调度和分配策略,以减少整体响应时间,以满足多病人的需求。我们应用了来自综合边缘计算基准Edge AIBench的几个ICU AI工作负载。涉及的医疗AI应用包括呼吸短促警报、患者表型分类和生死威胁。我们的实验结果表明,在现实生活中的医疗保健和紧急应用的高效率和有效性。
2020-02-10 cs.DC cs.PF
ABEONA: an Architecture for Energy-Aware Task Migrations from the Edge to the Cloud
本文介绍了我们使用ABEONA的初步结果,ABEONA是一种边缘到云架构,允许将任务从边缘上的低能耗,资源受限的设备迁移到云端。我们对人工和真实世界数据集的初步结果表明,通过在边缘水平扩展,可以以更有效的方式执行工作负载,而不会对执行运行时产生负面影响。
2019-10-08 cs.DC
Energy-Optimized Scheduling for AIoT Workloads Using TOPSIS
本文提出基于TOPSIS的GreenPod调度器,通过多准则优化Pod放置,在异构Kubernetes集群上实现最高39.1%的能效提升,有效平衡AIoT应用的可持续性与性能。
2025-06-05 cs.DC cs.PF cs.SY
Local-Splitter: A Measurement Study of Seven Tactics for Reducing Cloud LLM Token Usage on Coding-Agent Workloads
Sperix Labs(Sperix实验室);VIA Cybersecurity Lab, KNUST(VIA网络安全实验室,科罗尼斯特大学);Quantum and Assistive Technologies Lab, KNUST(量子与辅助技术实验室,科罗尼斯特大学)
本文研究了七种减少云LLM令牌使用量的策略,通过测量发现本地路由与提示压缩组合在编辑密集型任务中可节省45-79%的云令牌,而RAG密集型任务中完整策略集可节省51%。
2026-04-14 cs.AI cs.DC cs.SE
Energy-Aware Aggregation of Dynamic Temporal Workload in Data Centers
数据中心提供商寻求最大限度地降低其总拥有成本(TCO),而功耗已成为社会关注的问题。我们提出的配方,以最大限度地减少服务器的能源消耗和服务器成本下三个不同的数据中心服务器设置(同质,异构,混合异构集群)与动态的时间工作负载。我们的研究表明,同质模型显着不同的异质模型的计算时间(一个数量级)。为了能够计算最优配置在近实时的大规模数据中心,我们提出了两种模式,聚合的最大值和聚合的平均值。此外,我们提出了两种聚合方法,静态(周期性)聚合和动态(非周期性)聚合。我们发现,在聚合的最大模式,动态聚合导致成本节省高达约18%的静态聚合。在平均值聚合模式中,与平均值静态聚合模式相比,平均值动态聚合可以节省高达约50%的工作负载重新安排。总的来说,我们的方法有助于理解能源感知聚合的权衡。
2013-09-16 cs.DC
Spot-on: A Checkpointing Framework for Fault-Tolerant Long-running Workloads on Cloud Spot Instances
Spot实例为运行在云计算环境中的应用程序提供了经济高效的解决方案。然而,在spot实例上运行长时间运行的作业是具有挑战性的,因为它们会受到不可预测的驱逐。在这里,我们介绍了一个通用的软件框架,它通过检查点和重启支持在现场实例上的容错长时间运行的工作负载。Spot-on利用现有的检查点包,并与主要的云供应商兼容。使用基因组学应用程序作为测试用例,我们证明了Spot-on支持特定于应用程序的检查点方法和透明的检查点方法。与使用按需实例运行应用程序相比,它允许完成这些工作负载,从而显著降低计算成本。与使用特定于应用程序的检查点机制运行应用程序相比,受透明检查点保护的应用程序可将运行时间减少多达40%,从而进一步节省高达86%的成本。
2022-10-05 cs.DC q-bio.GN
Datacenter Energy Optimized Power Profiles
Nvidia(英伟达)
本文提出了一种基于Blackwell B200的新型数据中心功率配置,通过智能电源管理和领域知识优化HPC和AI工作负载,实现能耗降低和吞吐量提升。
2025-12-05 cs.DC
Workload Intelligence: Punching Holes Through the Cloud Abstraction
本文提出Workload Intelligence(WI)框架,实现云工作负载与平台间的动态双向通信,使平台能简化供给、降低成本并将客户价格平均降低48.8%。
2024-04-29 cs.DC
Energy and Performance-Can a Wimpy-Node Cluster Challenge a Brawny Server?
传统的DBMS服务器通常在其大部分日常工作负载中过度配置,并且由于它们没有显示出良好的能量比例,因此在未充分利用的情况下浪费了大量能量。一个小型(弱)服务器集群,其中节点的数量可以根据当前的工作负载动态调整,可能会为这些工作负载提供更好的能量特性。然而,集群遭受“摩擦损失”,可能无法快速适应工作负载,而一个强大的服务器可以立即提供性能。在本文中,我们比较了一个小型集群的轻量级节点,一个单一的服务器的性能和能源效率。我们运行了几个基准测试,包括可变利用率的OLTP和OLAP查询,以测试系统适应工作负载的能力。为了量化可能的节能和查询运行时,它可以想象的缺点,我们评估我们的实现集群以及在一个单一的,强壮的服务器和比较结果w.r.t.性能和能耗。我们的研究结果证实,基于工作负载,可以在不牺牲太多性能的情况下节省能源。
2014-07-07 cs.DB cs.DC
Shaved Ice: Optimal Compute Resource Commitments for Dynamic Multi-Cloud Workloads
基于对 Snowflake Data Cloud 三年工作负载的研究,量化需求驱动因素,提出最大化容量可用性并最小化成本的实用优化方案,解决多云计算承诺中成本节约与需求风险的权衡问题。
2025-04-30 cs.DC
Big Data Workload Profiling for Energy-Aware Cloud Resource Management
Independent Researchers, Senior Members, IEEE(IEEE独立研究者、高级成员)
本文提出一种基于大数据工作负载建模的能耗感知云资源调度框架,通过分析CPU、内存和存储IO行为,实现虚拟机放置的节能优化,实验表明可节省15-20%的能耗并保持性能稳定。
2026-01-17 cs.AI cs.DC cs.SE
Exploiting Spot Instances for Time-Critical Cloud Workloads Using Optimal Randomized Strategies
Georgia Institute of Technology(佐治亚理工学院);Nokia Bell Labs(诺基亚贝尔实验室)
本文提出ROSS算法,通过最优随机策略在混合云环境中实现时间敏感任务的最优调度,显著提升成本节约效果。
2026-01-21 cs.DC cs.NI cs.PF
Divide and Save: Splitting Workload Among Containers in an Edge Device to Save Energy and Time
University of Padova(帕多瓦大学)
本文提出在边缘设备中通过容器分配工作负载以提高能效和计算速度,通过实验验证了该方法在能耗和时间上的节省效果。
2023-03-23 cs.DC eess.IV
Energy hardware and workload aware job scheduling towards interconnected HPC environments
新的HPC机器正在接近艾级。这些机器的功耗一直在增加,研究人员正在研究降低功耗的方法。第二个趋势是HPC机器越来越复杂,越来越多的异构硬件组件和不同的集群架构在同一台机器中协作。我们将这些环境称为异构多集群环境。为了在这些环境中优化性能和能耗,本文提出了一种能量感知的多集群(EAMC)作业调度策略。EAMC策略能够通过预测不同硬件架构和处理器频率下到达作业的性能和能耗来优化作业的调度和放置,从而减少工作负载的能耗、完工时间和响应时间。该策略为每个作业-资源组合分配不同的优先级,以便优先考虑效率最高的作业-资源组合,而效率较低的作业-资源组合仍然在可变程度上被考虑,从而减少响应时间并提高集群利用率。我们在Slurm中实现了EAMC策略,并评估了两个CPU集群在同一台机器上协作的场景。模拟工作负载运行的应用程序从现实世界中建模显示,响应时间和完工时间减少了25%和6%,同时节省了高达20%的总能源消耗相比,最大限度地减少运行时间的政策,并通过49%,26%,和6%相比,最小限度地减少能源。
2021-06-22 cs.DC
Dynamic GPU Energy Optimization for Machine Learning Training Workloads
Harbin Institute of Technology(哈尔滨工业大学);University of Leeds(利兹大学)
GPU被广泛用于加速机器学习工作负载的训练。随着现代机器学习模型变得越来越大,它们需要更长的训练时间,导致更高的GPU能耗。本文介绍了GPOEO,这是一个用于机器学习训练工作负载的在线GPU能量优化框架。GPOEO通过采用在线测量、多目标预测建模和搜索优化的新技术动态地确定最优能量配置。为了表征目标工作负载行为,GPOEO使用GPU性能计数器。为了减少性能计数器分析开销,它使用分析模型来检测训练迭代更改,并且仅在检测到迭代偏移时收集性能计数器数据。GPOEO采用基于梯度提升和局部搜索算法的多目标模型,以找到执行时间和能耗之间的权衡。我们通过将GPOEO应用于在NVIDIA RTX3080Ti GPU上运行的两个AI基准套件的71个机器学习工作负载来评估GPOEO。与NVIDIA默认调度策略相比,GPOEO平均节能16.2%,平均执行时间增加5.1%。
2022-01-05 cs.AI cs.DC cs.LG
A Cloud Controller for Performance-Based Pricing
新的动态云定价选项正在出现,云提供商提供资源作为广泛的CPU频率和匹配价格,可以在运行时切换。另一方面,云提供商面临着运营能源成本不断增长的问题。这在执行诸如CPU频率缩放之类的操作时提出了节能和收入损失之间的权衡问题。虽然现有的用于管理云资源的云控制器部署频率缩放,但是它们仅考虑固定的虚拟机(VM)定价。在本文中,我们提出了一个基于性能的定价模型,适用于不同的CPU绑定属性的虚拟机。我们提出了一个云控制器,可扩展CPU频率,以实现超过服务收入损失的能源成本节约。我们在基于真实虚拟机工作负载、电价和温度跟踪的模拟中评估了该方法,估计在某些情况下可节省高达32%的能源成本。
2018-09-16 cs.DC
SageServe: Optimizing LLM Serving on Cloud Data Centers with Forecast Aware Auto-Scaling
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Georgia Institute of Technology(佐治亚理工学院);Indian Institute of Science(印度科学学院);Microsoft(微软)
针对云数据中心LLM混合工作负载的SLA冲突与资源利用率低问题,提出SageServe框架,通过多时间尺度控制、流量预测与ILP优化,实现25%GPU小时节省、80%扩缩浪费减少及每月250万美元潜在成本节省,同时满足SLA。
2025-11-12 cs.DC
An Efficient and Balanced Platform for Data-Parallel Subsampling Workloads
随着互联网服务的出现,数据的增长速度开始超过其处理速度。为了个性化用户体验,必须以交互方式实时的处理这些庞大的数据。为了实现更快的数据处理,往往采用一种称为二次抽样的统计方法.子采样工作负载从样本数据的随机子集(即,子样本)。数据并行平台将这些样本分组到任务中;每个任务并行地对其数据进行子采样。目前,Hadoop等最先进的平台是为长时间运行的大型任务而构建的,但是平均任务大小较小的应用程序在这些平台上会承受很大的开销。二次采样工作负载中的任务的大小可以最大限度地减少总体缓存未命中的数量,并且这些任务可以在几秒钟内完成。这种技术可以减少映射缩减作业的总长度,但只有当减少缓存未命中率所节省的时间不会被任务创建和数据分发的平台开销所抵消时。在这篇论文中,我们提出了一个数据并行平台,一个有效的数据分布组件,打破数据并行子采样工作负载到计算集群与微小的任务。每个微小的任务在几百毫秒到几秒内完成。小任务减少了随机二次采样导致的处理器缓存未命中,从而加快了每个任务的运行时间。然而,它们会导致显著的调度开销和数据分发挑战。我们提出了一个任务拐点算法和一个动态调度器,调度任务的工作节点的可用性和响应时间的数据节点的基础上。我们将我们的框架与BashReduce和Hadoop的各种配置进行比较。详细讨论了两个工作负载,EAGLET和Netflix的电影评级的微小任务的方法。
2014-04-17 cs.DC
Extending Demand Response to Tenants in Cloud Data Centers via Non-intrusive Workload Flexibility Pricing
参与需求响应计划是通过调节能源消耗来降低数据中心能源成本的一种有前途的工具。为此,数据中心可以采用一组丰富的资源管理旋钮,例如工作负载转移和动态服务器配置。尽管如此,这些旋钮在服务于云租户/用户的云数据中心(CDC)中可能不容易获得,因为CDC中的工作负载由租户自己管理,这些租户通常基于基于使用或统一费率定价来收费,并且通常没有动力与CDC运营商合作以进行需求响应和成本节省。为了打破这种“分割激励”障碍,最近的一些研究尝试了基于市场的机制,如动态定价,在疾病预防控制中心。然而,这种机制往往依赖于复杂的设计,难以实施,难以应付的租户。为了解决这一限制,我们提出了一种新的激励机制,是不是动态的,即,它使云资源的价格长期保持不变。虽然它根据当今主要云运营商使用的基于使用的定价(UP)向租户收费,但它根据租户为完成工作负载设定的最后期限按比例奖励租户。这种新机制被称为基于使用的货币奖励定价(UPMR)。我们证明了UPMR的有效性分析和经验。我们表明,UPMR可以降低CDC运营商的能源成本的12.9%,同时增加其利润的4.9%,相比,国家的最先进的方法,由今天的CDC运营商收取他们的租户。
2016-03-18 cs.DC
Cost-Effective Data Feeds to Blockchains via Workload-Adaptive Data Replication
向区块链提供外部数据,也就是数据馈送是实现区块链互操作性和支持新兴跨域应用程序(特别是稳定币)的一项重要任务。考虑到现实生活中的数据密集型提要(例如,高频价格更新)和使用区块链(即Gas)的高成本,降低数据馈送的Gas成本势在必行。受金融和其他应用程序中不断变化的工作负载的影响,这项工作的重点是设计一种动态的、工作负载感知的方法,以提高Gas的成本效益。这种设计空间在现有的区块链研究中没有得到充分研究,目前为止,区块链研究主要集中在静态数据放置上。这项工作提出了GRuB,这是一种具有成本效益的数据馈送,可以在区块链和链下云存储之间动态复制数据。GruB的数据复制通过监控当前工作负载并在线做出决策来适应工作负载。数据复制提出了一系列在线算法,以实现区块链Gas中的有界最坏情况成本。GruB在不受信任的云链下运行决策组件,以降低Gas成本,并采用安全协议来验证区块链和云之间传输的数据。整个GRuB系统可以随着工作负载的变化自动实现低Gas成本。我们构建了一个GruB原型,可以使用以太坊和Google LevelDB,并支持稳定币中的实际应用程序。在从以太坊合约调用历史收集的实际工作负载和YCSB的混合工作负载下,我们系统地评估了GRuB的成本,与静态数据放置的基线相比,Gas节省了10% ~ 74%。
2020-09-14 cs.CR cs.DB cs.DC
A principled approach for energy-efficient training via phase-aware GPU frequency tuning
INESC TEC(葡萄牙系统与计算机工程研究所(北葡萄牙分部));U. Minho(米尼奥大学);McGill University(麦吉尔大学)
PAFT通过相位感知的动态GPU频率调优,在训练瓶颈期降低时钟频率,以最小性能开销实现高达46%的能耗节省。
2026-09-22 cs.DC cs.LG
MEMPOWER: Efficient Power Management with Fine-grained Memory Analysis and Modeling for HPC Workloads
Oregon State University(俄勒冈州立大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对HPC应用的计算与数据移动不平衡问题,提出基于细粒度内存行为建模的MEMPOWER框架,可降低6%-42%的EDP且对执行时间影响小。
2026-08-24 cs.DC
Dynamic Physiological Partitioning on a Shared-nothing Database Cluster
传统的DBMS服务器通常在其大部分日常工作负载中过度配置,并且由于它们没有显示出足够好的能量比例,因此在未充分利用的情况下浪费了大量能量。一个小型(弱)服务器集群,其大小可以根据当前工作负载动态调整,为这些工作负载提供更好的能量特性。然而,平衡节点之间的利用率所必需的数据迁移是一项重要且耗时的任务,可能会消耗节省的能量。出于这个原因,需要一个复杂且易于调整的分区方案来促进动态重组。在本文中,我们采用了一种技术,最初创建的SMP系统,称为生理分区,在节点之间分布数据,可以很容易地重新分区数据,而不中断事务。我们动态分区数据库表的基础上节点的利用率和给定的能量约束,并比较我们的方法与物理分区和逻辑分区方法。为了量化可能的节能和查询运行时,它可以想象的缺点,我们评估我们的实验集群上的实现,并比较结果w.r.t.性能和能耗。根据工作负载的不同,我们可以在不牺牲太多性能的情况下大幅节省能源。
2014-07-02 cs.DB cs.DC
Performance-Based Pricing in Multi-Core Geo-Distributed Cloud Computing
新的定价政策正在出现,云提供商根据分配的CPU频率收取资源配置费用。因此,向用户提供的资源是可以在运行时配置的不同性能水平和价格的组合。随着这些新的定价方案和数据中心不断增加的能源成本,平衡节能与性能和收入损失对云提供商来说是一个具有挑战性的问题。CPU频率调整可用于降低功耗,但也会影响VM性能,从而影响收入。在本文中,我们首先提出了一个非线性功率模型,估计功耗的多核PM,其次是定价模型,调整定价的基础上VM的CPU有界性的特点。最后,我们提出了一个云控制器,使用这些模型来分配VM和缩放PM的CPU频率,以实现超过服务收入损失的能源成本节约。我们使用模拟现实的虚拟机工作负载,电价和温度跟踪来评估所提出的方法,并估计可节省高达14.57%的能源。
2018-09-16 cs.DC
iGniter: Interference-Aware GPU Resource Provisioning for Predictable DNN Inference in the Cloud
GPU对于加速云计算中心中对延迟敏感的深度神经网络(DNN)推理工作负载至关重要。为了充分利用GPU资源,在协同定位的DNN推理工作负载之间的GPU空间共享变得越来越引人注目。然而,GPU共享不可避免地会在协同定位的推理工作负载之间带来严重的性能干扰,这是由EC2 GPU实例上DNN推理的经验测量研究所激发的。虽然现有的工作,保证推理性能服务水平目标(SLO)集中在GPU的时间共享或反应性GPU资源扩展和推理迁移技术,如何主动减轻这种严重的性能干扰得到了相对较少的关注。在本文中,我们提出了iGniter,这是一种干扰感知的GPU资源配置框架,用于在云中经济高效地实现可预测的DNN推理。iGniter由两个关键组件组成:(1)轻量级DNN推理性能模型,它利用实际可访问的系统和工作负载指标来捕获性能干扰;(2)基于我们的推理性能模型,联合优化GPU资源分配和自适应调度的具有成本效益的GPU资源供应策略,目的是实现DNN推理工作负载的可预测性能。我们实现了一个基于NVIDIA Triton推理服务器托管在EC2 GPU实例的iGniter原型。在四个有代表性的DNN模型和数据集上进行的大量原型实验表明,iGniter可以保证DNN推理工作负载的性能SLO,并且具有实际可接受的运行时开销,同时与最先进的GPU资源配置策略相比,节省了高达25%的资金成本。
2022-11-03 cs.DC
Flexible Swapping for the Cloud
本文提出一个面向云数据中心虚拟机的用户空间内存管理框架,通过灵活交换策略实现内存超分配,在微基准和云负载下性能较Linux基线提升最高25%,并额外节省10%内存。
2024-09-20 cs.DC cs.OS
CarbonScaler: Leveraging Cloud Workload Elasticity for Optimizing Carbon-Efficiency
提出CarbonScaler,利用云批处理工作负载弹性,通过基于电网碳成本动态调整服务器分配的贪婪算法,显著降低碳排放并优于现有策略。
2023-10-19 cs.DC
Towards Energy Efficient Co-Scheduling in HPC
University of Illinois Chicago(伊利诺伊大学芝加哥分校);Argonne National Laboratory(阿贡国家实验室)
本文提出EcoSched调度器,通过联合优化GPU数量选择与应用协同调度,提升多GPU系统的任务效率,实现14.8%的能耗节省和30.1%的作业跨度提升。
2026-04-19 cs.DC
Energy-aware Task Scheduling with Deadline Constraint in DVFS-enabled Heterogeneous Clusters
大型数据中心的高性能计算工作负载(例如使用大数据的深度学习)的节能至关重要,其中减少百分之几的电力可以节省数百万美元。本文通过动态电压和频率缩放(DVFS)研究了新兴的CPU-GPU混合集群的节能问题。我们的目标是最小化总的能量消耗处理一批离线任务或实时任务序列的最后期限的限制。我们推导出一个快速,准确的分析模型来计算适当的电压/频率设置为每个任务,并分配多个任务的集群与启发式调度算法。特别是,我们的模型强调GPU加速应用程序的任务执行时间和处理器速度之间的非线性关系,以更准确地捕捉真实世界的GPU能耗。在性能评估驱动的真实世界的功率测量痕迹,我们的调度算法显示出可比的能量节省的理论上限。在GPU扩展间隔中,分析最多可以节省36%的能源,我们记录了33-35%的能源节省。我们的研究结果适用于现代异构集群的能量管理。
2021-04-01 cs.DC
LiteCast: A Lightweight Forecaster for Carbon Optimizations
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
LiteCast是一种轻量级预测方法,通过快速建模区域能源结构以估算碳强度,在保持高节省率的同时实现高效和适应性。
2025-11-24 cs.DC
Scrooge Attack: Undervolting ARM Processors for Profit
最新的ARM处理器正在接近x86架构的计算能力,同时消耗更少的能源。因此,供应跟随需求,Amazon EC2、Equinix Metal和Microsoft Azure提供基于ARM的实例,而Oracle Cloud Infrastructure即将增加此类支持。我们预计这一趋势将继续下去,越来越多的云提供商提供基于ARM的云实例。ARM处理器更节能,为云提供商节省了大量电力。然而,恶意的云提供商可能会故意降低CPU电压,以进一步降低成本。当欠电压低于临界阈值时,运行的应用程序会出现故障。通过避免关键电压区域,云提供商可以以隐秘的方式运行欠电压实例。这份实际经验报告描述了一种新颖的攻击场景:云提供商对其用户发起攻击,以积极降低处理器电压,从而将能源节约到最后一分钱。我们称之为守财奴攻击,并展示了如何使用基于ARM的计算实例来执行它。我们通过使用不同代的Raspberry Pi部署我们自己的基于ARM的设备来模拟基于ARM的云实例。使用现实和合成的工作负载,我们证明了攻击的侵略性程度是相关的。通过我们的检测方法,攻击在高达-50mV的偏移量下是不可察觉的。我们表明,对于某些工作负载,攻击甚至可能保持完全隐身。最后,我们提出了一套基于客户端的检测方法,可以识别欠转的情况。我们支持实验重现性,并提供重现我们结果的说明。
2022-05-12 cs.DC
A Resource-centric Analysis and Optimization of NoSQL Workloads using Distressed Resource Volume Metric
M365 Research, Microsoft(微软 M365 研究部);Indian Institute of Science(印度科学学院);Azure, Microsoft(微软 Azure)
针对公开NoSQL工作负载缺失的问题,研究人员以Cosmos DB为背景,提出DRV指标、LoadStar框架、Luna模型及Orbit算法,实现资源优化,Orbit可降35%资源、减错误率,已部署生产并年省数亿美元。
2026-08-11 cs.DB cs.DC cs.SY
Energy-Aware Load Balancing in Content Delivery Networks
诸如内容分发网络(CDN)的互联网规模的分布式系统操作部署在全球数千个数据中心位置中的数十万个服务器。由于运营如此庞大的IT基础设施的能源成本占总运营成本的很大一部分,因此我们主张重新设计CDN,将能源优化作为一阶原则。我们提出了在低负载期间关闭CDN服务器的技术,同时寻求平衡三个关键的设计目标:最大限度地降低能耗,最大限度地减少对客户端感知的服务可用性(SLA)的影响,并限制开关服务器转换的频率,以减少磨损及其对硬件可靠性的影响。我们提出了一个最佳的离线算法和在线算法,以提取能源节约的本地负载均衡在数据中心和全球负载均衡跨数据中心的水平。我们使用来自大型商业CDN的真实生产工作负载跟踪来评估我们的算法。我们的研究结果表明,可以将CDN的能耗降低55%以上,同时确保高水平的可用性,满足客户的SLA要求,并平均每天每台服务器进行一次开关转换。此外,我们还表明,即使将10%的服务器保留为热备盘,也有助于吸收由于全球闪存拥挤而导致的负载峰值,而对可用性SLA的影响很小。最后,我们表明,在邻近的数据中心重新分配负载可以显着提高服务的可用性,但只有适度的节能影响。
2011-09-26 cs.DC cs.NI
Learning Interpretable Scheduling Algorithms for Data Processing Clusters
针对数据处理集群中DAG作业调度,提出从复杂深度学习模型行为中蒸馏简单调度策略的方法,实现可解释性并易于适应边缘情况,且保真度高、性能优于原模型。
2024-05-29 cs.DC
Pervasive Cloud Controller for Geotemporal Inputs
云计算的快速增长已经使数据中心能耗成为一个全球性问题。与此同时,现代云提供商运营着多个地理分布的数据中心。分布式数据中心基础设施改变了云控制的规则,因为能源成本取决于当前的区域电价和温度。此外,为了应对围绕云生态系统的新兴技术,维护控制解决方案需要向前兼容。现有的云控制器专注于仅适用于单个数据中心的VM整合方法,或者仅在工作负载高峰时考虑迁移,而不是考虑地理分布数据中心的所有方面。在本文中,我们提出了一个普适的云控制器的动态资源重新分配,适应不稳定的时间和位置相关的因素,同时考虑QoS的影响过于频繁的迁移和时间序列预测方法的数据质量限制。该控制器设计有可扩展的决策支持组件。我们使用电价和温度的历史轨迹在模拟中对其进行评估。通过优化这些额外的因素,我们估计与基准动态VM整合相比可节省28.6%的能源成本。我们为云提供商提供了一系列指导方针,展示了实现显着成本节约所需的环境条件,并验证了控制器的可扩展性。
2018-09-16 cs.DC
Characterizing Performance-Energy Trade-offs of Large Language Models in Multi-Request Workflows
Dalhousie University(达尔豪斯大学)
本文研究了多请求工作流中大规模语言模型的性能与能耗权衡,通过四个代表性工作负载分析关键能耗参数对延迟、吞吐量和组件能耗的影响,揭示了批处理大小、GPU供电限制和引擎优化对能耗的差异影响。
2026-03-12 cs.AI cs.DC
A User-centric Kubernetes-based Architecture for Green Cloud Computing
University of Trento(特伦托大学)
本文提出一种以用户为中心的基于 Kubernetes 的绿色云计算架构,通过碳强度预测器结合区域和时间变化调度工作负载,在资源受限场景下最高可减少13%的碳排放。
2025-08-22 cs.DC
Energy-Aware Cloud Management through Progressive SLA Specification
新的能源感知云管理方法在地理分布的数据中心之间动态重新分配计算,以利用区域电价和温度差异。因此,受管理的VM可能会偶尔停机。目前的云提供商只提供高可用性VM,没有足够的灵活性来应用这种能量感知管理。在本文中,我们展示了如何根据电价和温度分析动态云管理操作的过去痕迹,以估计VM可用性和价格价值。我们提出了一种新的SLA规范方法,为虚拟机提供不同的可用性和价格值,保证在多个SLA,以实现灵活的能源感知云管理。我们确定了此类SLA的最佳数量以及它们的可用性和价格保证值。我们评估我们的方法在用户SLA选择模拟使用维基百科和网格的5000工作负载。结果显示,客户转化率更高,每个虚拟机平均节能39%。
2014-09-01 cs.DC
Enhancing Energy Efficiency in Scientific Workflows through CFD based PIVAEs
University of Leicester(莱斯特大学);Rutherford Appleton Laboratory, Science and Technology Facilities Council (STFC–UKRI)(鲁瑟福阿普顿实验室,科学与工程设施委员会(STFC-UKRI))
提出一种结合计算流体动力学与物理信息变分自编码器的AI辅助调度框架,通过生成物理真实的合成工作负载数据,在HPC环境中实现能效优化,实验表明适度降低CPU性能可显著节能。
2026-05-22 cs.DC
Ksurf-Drone: Attention Kalman Filter for Contextual Bandit Optimization in Cloud Resource Allocation
Electrical \& Computer Engineering University of Toronto Toronto, Canada
针对云资源编排中高波动环境导致决策不准的问题,提出Ksurf-Drone方案,将方差最小化估计方法Ksurf结合Drone编排器,在VarBench基准上实现了延迟、资源占用与成本的显著优化。
2025-11-12 cs.AI cs.DC
Benchmarking of CPU-intensive Stream Data Processing in The Edge Computing Systems
AGH University of Science and Technology, Poland(波兰AGH科学技术大学);Newcastle University, UK(英国新castle大学);Newcastle University Newcastle upon Tyne, UK(英国新castle大学新castle upon Tyne分校);IBM TJ Watson Yorktown Heights, NY, USA(美国IBM TJ沃森实验室)
本文通过合成微基准测试评估边缘集群中单个处理节点的能耗和性能特征,旨在优化边缘资源的利用效率。
2026-02-23 cs.AI cs.DC
Energy-Efficient Real-Time Scheduling for Two-Type Heterogeneous Multiprocessors
Imperial College London(帝国理工学院)
本文提出三种新的数学优化方法,解决具有硬约束的实时任务集的两种类型异构多处理器调度问题。通过全局调度方案和流模型,算法在任务负荷分配和执行顺序确定上具有线性复杂度,实现可行性最优和能耗最优,且在某些约束截止期限的任务集中可实现高达40%的能耗节省。
2016-07-15 cs.DC cs.OS cs.SY
Rethinking the Cloudonomics of Efficient I/O for Data-Intensive Analytics Applications
本文基于 Uber 生产环境 Presto 集群的追踪数据,揭示了传统 I/O 优化在云环境中因忽略存储 API 调用成本而可能产生意外开销的问题,为云原生数据密集型应用设计成本感知的高效 I/O 策略提供了研究起点。
2023-10-31 cs.DB cs.DC