On the Energy Proportionality of Scale-Out Workloads
我们对云计算的日益依赖导致了横向扩展工作负载的出现。这些横向扩展工作负载对延迟敏感，因为它们是用户驱动的。为了满足严格的延迟限制，它们需要大量的计算基础设施，这会消耗大量的能源并增加运营成本。由于服务器中的能量不成比例，这一成本进一步加剧。随着互联网服务变得越来越普遍，横向扩展工作负载将需要越来越大的集群安装。因此，我们希望调查的能量比例和机制，以改善横向扩展工作负载的功耗。因此，在本文中，我们研究的能量比例和集群的功耗在横向扩展工作负载的背景下。为此，我们评估了电源和资源配置的潜力，以提高这类工作负载的能量比例。使用数据服务，Web搜索和数据缓存作为我们的代表性工作负载，我们首先分析组件级的集群上的功率分布。其次，我们描述这些工作负载如何利用集群。第三，我们分析了电源供应技术的潜力（即，主动低功耗、Turbo和空闲低功耗模式），以提高横向扩展工作负载的能量比例。然后，我们描述了主动低功耗模式的能力，以提供权衡的功率和延迟。最后，我们比较和对比电源供应和资源供应技术。我们的研究揭示了各种见解，这将有助于提高横向扩展工作负载的能源比例和功耗。
2015-01-12 cs.DC
Understanding the Energy Consumption of HPC Scale Artificial Intelligence
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Inria（法国国家信息与自动化研究所）；Grenoble INP（格勒诺布尔理工学院）
本文有助于更好地理解HPC规模人工智能（AI），更具体地说，深度学习（DL）算法的能耗权衡。对于这项任务，我们开发了基准跟踪器，一个基准测试工具，以评估在HPC环境中的DL算法的速度和能耗。我们利用硬件计数器和Python库通过软件收集能量信息，这使我们能够检测已知的AI基准工具，并评估许多DL算法和模型的能耗。通过一个实验活动，我们展示了一个案例的潜力的基准跟踪器来衡量的计算速度和能量消耗的训练和推理DL算法，也有潜力的基准跟踪器，以帮助更好地了解在HPC平台的DL算法的能量行为。这项工作是更好地了解HPC中深度学习的能耗的一步，它还提供了一个新的工具，帮助HPC DL开发人员更好地平衡HPC基础设施的速度和能耗。
2022-11-14 cs.AI cs.DC cs.LG
Energy hardware and workload aware job scheduling towards interconnected HPC environments
新的HPC机器正在接近艾级。这些机器的功耗一直在增加，研究人员正在研究降低功耗的方法。第二个趋势是HPC机器越来越复杂，越来越多的异构硬件组件和不同的集群架构在同一台机器中协作。我们将这些环境称为异构多集群环境。为了在这些环境中优化性能和能耗，本文提出了一种能量感知的多集群（EAMC）作业调度策略。EAMC策略能够通过预测不同硬件架构和处理器频率下到达作业的性能和能耗来优化作业的调度和放置，从而减少工作负载的能耗、完工时间和响应时间。该策略为每个作业-资源组合分配不同的优先级，以便优先考虑效率最高的作业-资源组合，而效率较低的作业-资源组合仍然在可变程度上被考虑，从而减少响应时间并提高集群利用率。我们在Slurm中实现了EAMC策略，并评估了两个CPU集群在同一台机器上协作的场景。模拟工作负载运行的应用程序从现实世界中建模显示，响应时间和完工时间减少了25%和6%，同时节省了高达20%的总能源消耗相比，最大限度地减少运行时间的政策，并通过49%，26%，和6%相比，最小限度地减少能源。
2021-06-22 cs.DC
ARC-V: Vertical Resource Adaptivity for HPC Workloads in Containerized Environments
本文针对容器化环境中HPC工作负载的动态资源消耗问题，提出ARC-V策略，通过结合KubernetesPod的实时资源更新和HPC应用的内存消耗模式，实现节点级别的弹性内存资源配置，有效减少内存使用并避免内存溢出。
2025-05-05 cs.DC
Energy Savings When Migrating Workloads to the Cloud
在云环境中，数据中心在能耗方面由云服务提供商（CSP）有效地操纵。因此，将工作负载迁移到云可以降低能耗。本文证明了具有最佳云实例选择的提升和转移迁移可以提供显着的节能，并解释了节能量和节能来源。此外，还分析了部署Auto-Scaling时能耗的变化，表明即使不重构应用程序，也有望进一步节省能源。所有结论和分析都是基于Cloudamize Inc.收集的真实数据。从2016年5月到2016年8月，大约300个数据中心的40，000多台机器。
2022-08-15 cs.DC cs.NI
Offloading Artificial Intelligence Workloads across the Computing Continuum by means of Active Storage Systems
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）；Ireland’s Centre for Artificial Intelligence (CeADAR)（爱尔兰人工智能中心）
本文提出了一种基于主动存储系统的软件架构，通过在计算连续体上无缝分布AI工作负载，提高内存效率和训练速度，同时保持准确性，降低领域专家和开发者的工作门槛。
2025-12-02 cs.DC
Unlocking Python's Cores: Hardware Usage and Energy Implications of Removing the GIL
Independent Researcher
研究发现移除Python GIL在并行工作负载中可显著提升性能和能效，但对顺序工作负载和高锁竞争场景有负面影响，开发者需根据具体需求评估采用。
2026-03-05 cs.DC cs.PF
Divide and Save: Splitting Workload Among Containers in an Edge Device to Save Energy and Time
University of Padova（帕多瓦大学）
本文提出在边缘设备中通过容器分配工作负载以提高能效和计算速度，通过实验验证了该方法在能耗和时间上的节省效果。
2023-03-23 cs.DC eess.IV
GreenFaaS: Maximizing Energy Efficiency of HPC Workloads with FaaS
GreenFaaS是一个开源框架，通过能源感知的任务放置，在FaaS平台上监控能耗并智能调度任务，可降低合成工作负载的能耗延迟乘积45%，并减少分子设计应用的能耗21%和运行时间63%。
2024-06-25 cs.DC
VM Power Prediction in Distributed Systems for Maximizing Renewable Energy Usage
在GreenPAD项目的背景下，重要的是预测单个（和混合）VM/工作负载的能耗以实现最佳调度（当有更多绿色能源可用时运行需要更高能量的那些VM，反之亦然），以便最大限度地利用绿色能源。为此，我们在由富士通服务器组成的Openstack云测试平台上执行以下实验：不同配置（风味+工作负载）的VM能量测量和新配置的VM能量预测。运行这些实验的自动化框架使用bash脚本，这些脚本调用诸如“stress”（模拟工作负载）、“collected”（资源使用）和“IPMI”（功率测量）之类的工具。我们提出了一个线性模型，用于预测基于回归的VM的功率使用。我们首先收集不同VM配置的资源使用情况（使用collected）和相关的功耗（使用IPMI），并使用这些数据构建（资源使用情况和VM能耗之间的）（多）回归模型。然后，我们使用新工作负载的资源使用模式的信息来预测功率使用。为了预测混合工作负载的功率，我们使用随机工作负载执行实验（构建回归模型）。我们观察到CPU密集型工作负载的能耗最高，其次是内存密集型工作负载。
2014-02-23 cs.DC
Energy-Aware Aggregation of Dynamic Temporal Workload in Data Centers
数据中心提供商寻求最大限度地降低其总拥有成本（TCO），而功耗已成为社会关注的问题。我们提出的配方，以最大限度地减少服务器的能源消耗和服务器成本下三个不同的数据中心服务器设置（同质，异构，混合异构集群）与动态的时间工作负载。我们的研究表明，同质模型显着不同的异质模型的计算时间（一个数量级）。为了能够计算最优配置在近实时的大规模数据中心，我们提出了两种模式，聚合的最大值和聚合的平均值。此外，我们提出了两种聚合方法，静态（周期性）聚合和动态（非周期性）聚合。我们发现，在聚合的最大模式，动态聚合导致成本节省高达约18%的静态聚合。在平均值聚合模式中，与平均值静态聚合模式相比，平均值动态聚合可以节省高达约50%的工作负载重新安排。总的来说，我们的方法有助于理解能源感知聚合的权衡。
2013-09-16 cs.DC
Dynamic GPU Energy Optimization for Machine Learning Training Workloads
Harbin Institute of Technology（哈尔滨工业大学）；University of Leeds（利兹大学）
GPU被广泛用于加速机器学习工作负载的训练。随着现代机器学习模型变得越来越大，它们需要更长的训练时间，导致更高的GPU能耗。本文介绍了GPOEO，这是一个用于机器学习训练工作负载的在线GPU能量优化框架。GPOEO通过采用在线测量、多目标预测建模和搜索优化的新技术动态地确定最优能量配置。为了表征目标工作负载行为，GPOEO使用GPU性能计数器。为了减少性能计数器分析开销，它使用分析模型来检测训练迭代更改，并且仅在检测到迭代偏移时收集性能计数器数据。GPOEO采用基于梯度提升和局部搜索算法的多目标模型，以找到执行时间和能耗之间的权衡。我们通过将GPOEO应用于在NVIDIA RTX3080Ti GPU上运行的两个AI基准套件的71个机器学习工作负载来评估GPOEO。与NVIDIA默认调度策略相比，GPOEO平均节能16.2%，平均执行时间增加5.1%。
2022-01-05 cs.AI cs.DC cs.LG
Predicting System-level Power for a Hybrid Supercomputer
对于当前的高性能计算系统，为了向ExaFLOP性能的圣杯扩展，它们的功耗必须降低至少一个数量级。这一目标只能通过硬件和软件的进步相结合来实现。能够对大型计算系统的功耗进行建模和准确预测对于软件级创新是必要的，例如主动和功率感知调度、资源分配和容错技术。在本文中，我们提出了一个混合超级计算机（2013年7月在Green500排行榜上名列榜首）的2层功耗模型，该模型结合了CPU，GPU和MIC技术，以实现更高的能源效率。我们的模型将工作负载信息（每个作业在特定时间使用的资源数量和位置）作为输入，并计算由此产生的系统级功耗。当作业提交给系统时，可以根据调度器策略预见工作负载配置，然后可以应用我们的模型来预测随后的系统级功耗。此外，可以从功率角度评估替代工作负载配置，并可以选择更高效的配置。该模型的应用不仅包括功率感知调度，而且还预测异常行为。
2016-05-31 cs.DC
CRAWO: Custom Resources for Adaptive Workload Orchestration
Federal University of Rio Grande do Norte（巴西里约热内卢州联邦大学）；IMD（信息管理与决策研究所）；DIMAP（应用数学与统计系）
针对异构边缘基础设施部署AI管道的挑战，提出CRAWO架构框架，采用基于控制回路模型，结合硬件感知分配器等，在车辆监控场景评估显示其能改善工作负载分布，减少对集中式云处理的依赖。
2026-07-24 cs.AI cs.DC cs.ET
Energy-efficiency evaluation of Intel KNL for HPC workloads
能源消耗越来越成为设计更快的大规模并行系统的限制因素，并且开发节能和节能应用程序是当今HPC代码开发人员社区的相关问题。在这项工作中，我们专注于能源性能的骑士登陆（KNL）至强融核，最新的众核架构处理器推出的英特尔进入HPC市场。我们考虑了64核Xeon Phi 7230，并使用片上MCDRAM和常规DDR4系统内存作为应用程序数据域的主存储器来分析其能源性能。作为一个基准应用程序，我们使用了Lattice Boltzmann代码，该代码针对该架构进行了大量优化，并使用不同的内存数据布局来存储其晶格。然后，我们使用不同的内存数据布局，内存类型（DDR4或MCDRAM）和每个核心的线程数来评估能耗。
2018-04-05 cs.DC
Edge-Oriented Orchestration of Energy Services Using Graph-Driven Swarm Intelligence
Technical University of Cluj-Napoca（克卢日-纳波卡工业大学）；ENSIIE & SAMOVAR（法国埃夫里国立高等信息技术与工业学院及SAMOVAR实验室）
本文提出一种图驱动群体智能框架，用于智能电网中边缘-雾-云基础设施的分布式能源服务编排，通过高效拓扑探索和任务分配算法实现低延迟服务迁移与数据互操作性。
2026-04-14 cs.DC
Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning
National Laboratory of the Rockies (NLR)（落基山国家实验室（NLR））
本文通过高精度测量生成式AI工作负载的功率消耗，结合MLCommons和vLLM基准，建立全设施能效模型，为电网接入、本地能源生成和微电网规划提供数据支持。
2026-04-08 cs.DC cs.LG cs.SY
Engineering A Workload-balanced Push-Relabel Algorithm for Massive Graphs on GPUs
National Taiwan University（台湾大学）
本文提出了一种负载平衡的推标签算法，通过优化内存使用和负载分配，提升了大规模图计算在GPU上的效率。
2024-03-30 cs.DC cs.DS
Energy Optimization of Memory Intensive Parallel workloads
在现代多核处理器中，能量消耗是一个重要的问题。在应用程序的执行过程中消耗的能量可以最小化通过调整硬件状态利用旋钮，如频率，电压等现有的理论工作，使用全局DVFS（动态电压和频率缩放）的能量最小化，尽管是彻底的，忽略了内存访问上的CPU消耗的能量和空闲内核消耗的动态能量。本文提出了一个分析模型的性能和总的能量消耗的CPU芯片上的CPU指令，以及内存访问，而不忽略的动态能量消耗的空闲内核。我们提出了一个分析框架，围绕我们的能源性能模型来预测全球DVFS的工作频率，最大限度地减少性能预算内的整体CPU能耗。最后，我们提出了一个调度标准的能量感知调度的内存密集型并行应用程序。
2016-05-13 cs.DC
Towards Energy-Proportional Computing Using Subsystem-Level Power Management
容纳数千个计算节点的大规模数据中心在企业计算中已经变得司空见惯，并且这种数据中心的功耗正以前所未有的速度增长。增加问题的是服务器不能表现出能量比例性，即，在所有利用率水平下提供高能效执行，这降低了数据中心的整体能效。实现有效的策略来控制服务器的功耗，提高数据中心的能源效率势在必行。随着英特尔Sandy Bridge处理器的出现，我们能够指定运行时的功耗限制，这为设计适用于企业工作负载的新电源管理技术创造了机会，并使它们所运行的系统具有更高的能耗比例。在本文中，我们调查是否有可能实现能源比例的企业级服务器工作负载，即SPECpower_ssj2008和SPECweb2009基准，通过使用英特尔的运行平均功率限制（RAPL）接口。首先，我们分析了整个系统以及子系统的平均功耗，并描述了这些组件的能量比例。然后，我们的特点，这些基准在不同的子系统中使用的芯片上的电能表通过RAPL接口暴露的瞬时功率分布。最后，我们提出了功率限制对企业级服务器工作负载的能量比例、性能、功率和能效的影响。我们的观察和结果揭示了RAPL接口的有效性，并为企业级工作负载的电源管理技术设计提供了指导。
2015-01-12 cs.DC
Performance and energy consumption of HPC workloads on a cluster based on Arm ThunderX2 CPU
在本文中，我们分析了基于ARM的高性能计算（HPC）系统的性能和能源消耗的欧洲项目勃朗峰3。该系统名为Dibona，由ATOS/Bull集成，并由最新的Marvell CPU ThunderX 2驱动。该CPU与Astra超级计算机相同，Astra超级计算机是2018年11月进入Top500的第一台基于Arm的超级计算机。我们从微基准测试到大型生产代码进行研究。我们包括对三个科学应用程序（有限元流体动力学代码，平滑粒子流体动力学代码和格子Boltzmann代码）和Graph 500基准的跨学科评估，重点关注并行和能源效率，并研究其可扩展性高达数千个Armv 8内核。为了进行比较，我们在Dibona和Tier-0超级计算机MareNostrum 4中包含的最先进的x86节点上运行相同的测试。我们的实验表明，ThunderX 2的平均性能降低了25%，这主要是因为它的矢量单元小，但CPU和主内存之间的链接宽了30%。我们发现，Armv 8架构的软件生态系统与英特尔可用的软件生态系统相当。我们的研究结果还表明，ThunderX 2提供了类似或更好的能源解决方案和可扩展性，证明基于Arm的芯片是下一代HPC系统市场的合法竞争者。
2020-07-10 cs.DC cs.PF
PhoenixCloud: Provisioning Resources for Heterogeneous Workloads in Cloud Computing
随着越来越多的服务提供商选择由第三方资源提供商提供的云平台，资源提供商需要为不同云场景下的异构工作负载提供资源。考虑到异构工作负载的巨大差异，我们是否可以在云计算中为异构工作负载协调调配资源？在本文中，我们专注于这个重要的问题，这是由以前的一些工作。我们的贡献有三个方面：（1）分别提出了两种典型云场景下的异构工作负载协同资源配置方案：第一种是大型组织为两个异构工作负载运行私有云;第二种是大型组织或两个服务提供商运行异构工作负载恢复到公有云;（2）我们构建了一个敏捷系统PhoenixCloud，使资源提供商能够在异构工作负载整合到云站点时，根据需要创建协调的运行时环境;（3）在实验中进行了综合评价。对于两种典型的异构负载跟踪：并行批处理作业和Web服务，实验表明：a）在私有云场景下，当吞吐量与专用集群系统的吞吐量基本相同时，我们的解决方案使集群的配置规模减少了约40%; b）在公共云场景中，我们的解决方案不仅减少了总资源消耗，而且峰值资源消耗最大为EC2 +RightScale方案的31%。
2010-07-20 cs.DC
PhoenixCloud: Provisioning Resources for Heterogeneous Cloud Workloads
随着越来越多的服务提供商选择云平台，资源提供商需要为不同场景下的异构工作负载提供资源和支持运行时环境（RE）。以前的工作未能解决这个问题，在几个方面：（1）它没有注意到不同的RE要求，并没有使创建协调的RE的需求;（2）很少的工作调查协调的资源供应异构的工作负载。在本文中，我们的贡献有三个方面：（1）我们提出了一个表达不同RE需求的RE协议，并构建了一个创新的系统PhoenixCloud，使资源提供商能够根据RE协议按需创建RE;（2）我们提出了两个协调的资源提供解决方案，用于两个典型的云场景中的异构工作负载：首先，大型组织为两个异构工作负载运行私有云;其次，运行异构工作负载的大型组织或两个服务提供商恢复到公共云;以及（3）在实验中进行了全面评估。对于并行批处理作业和Web服务的典型负载跟踪，我们的实验表明：a）在第一个云场景中，当吞吐量与专用集群系统的吞吐量基本相同时，我们的解决方案将集群的配置大小减少了约40%; b）在第二种情况下，我们的解决方案不仅减少了总资源消耗，而且峰值资源消耗最大为EC2 + RightScale方案的31%。
2010-03-31 cs.DC cs.PF
Green-LLM: Optimal Workload Allocation for Environmentally-Aware Distributed Inference
Arizona State University（亚利桑那州立大学）
本文提出Green-LLM框架，通过联合优化运营成本、碳排放和延迟惩罚，实现可持续的大语言模型推断，同时满足水消耗约束。
2026-04-08 cs.DC cs.NI cs.SY
Calibrating Microgrid Simulations for Energy-Aware Computing Systems
Technical University of Berlin（柏林工业大学）
本文提出一种自校准的能源感知软件测试平台，通过整合可再生能源生产模拟器和真实计算节点，提升计算节点的能耗预测精度，验证了Kepler框架在GPU和CPU负载下的准确性。
2026-03-14 cs.DC
Thermal-Aware Compilation of Spiking Neural Networks to Neuromorphic Hardware
类脑计算的硬件实现可以显著提高用脉冲神经网络（SNN）实现的机器学习任务的性能和能量效率，使得这些硬件平台特别适合于嵌入式系统和其他能量受限的环境。我们观察到，当通过其突触元件传播尖峰时，硬件的交叉开关中的长位线和字线产生显著的电流变化，突触元件通常设计有非易失性存储器（NVM）。这样的电流变化在硬件的每个交叉杆内创建热梯度，这取决于机器学习工作负载以及工作负载的神经元和突触到这些交叉杆的映射。\mr{This thermal gradient becomes significant at scaled technology nodes and it increases the leakage power in the hardware leading to an increase in the energy consumption.}我们提出了一种新的技术，将基于SNN的机器学习工作负载的神经元和突触映射到神经形态硬件。我们做了两个新的贡献。首先，我们制定了一个详细的热模型的神经形态硬件中的交叉杆纳入工作负载的依赖性，其中每个基于NVM的突触细胞的温度计算考虑其相邻细胞的热贡献。其次，我们将这个热模型的映射神经元和突触的SNN为基础的工作负载使用爬山启发式。其目的是减少交叉杆中的热梯度。我们使用最先进的神经形态硬件的10个机器学习工作负载来评估我们的神经元和突触映射技术。我们证明…
2020-12-17 cs.DC cs.ET cs.NE
Minimizing Total Busy Time with Application to Energy-efficient Scheduling of Virtual Machines in IaaS clouds
云结构即服务（IaaS）云已经变得越来越流行，使用户能够在虚拟机下运行应用程序。IaaS云的能源效率仍然是一个挑战。针对IaaS云环境下虚拟机在物理机上的高效节能调度问题，提出了一种基于多资源、固定时间间隔和虚拟机不可抢占的调度策略.排序问题是NP难的。大多数现有的工作对虚拟机的位置，减少总的能源消耗，使用最小数量的活动的物理机器。然而，存在使用最小数量的物理机导致物理机的总繁忙时间更长的情况。对于调度问题，最小化所有物理机的总能耗等价于最小化所有物理机的总忙时间。在本文中，我们提出了一个调度算法，表示为EMinTRE-LFT，最小化的总能源消耗的物理机器的调度问题。我们广泛的模拟使用并行工作负载模型在并行并行网络存档表明，该算法具有最少的总能耗相比，国家的最先进的算法。
2016-09-19 cs.DC
MEMPOWER: Efficient Power Management with Fine-grained Memory Analysis and Modeling for HPC Workloads
Oregon State University（俄勒冈州立大学）；Pacific Northwest National Laboratory（太平洋西北国家实验室）
针对HPC应用的计算与数据移动不平衡问题，提出基于细粒度内存行为建模的MEMPOWER框架，可降低6%-42%的EDP且对执行时间影响小。
2026-08-24 cs.DC
Big Data Workload Profiling for Energy-Aware Cloud Resource Management
Independent Researchers, Senior Members, IEEE（IEEE独立研究者、高级成员）
本文提出一种基于大数据工作负载建模的能耗感知云资源调度框架，通过分析CPU、内存和存储IO行为，实现虚拟机放置的节能优化，实验表明可节省15-20%的能耗并保持性能稳定。
2026-01-17 cs.AI cs.DC cs.SE
Energy-Optimized Scheduling for AIoT Workloads Using TOPSIS
本文提出基于TOPSIS的GreenPod调度器，通过多准则优化Pod放置，在异构Kubernetes集群上实现最高39.1%的能效提升，有效平衡AIoT应用的可持续性与性能。
2025-06-05 cs.DC cs.PF cs.SY
Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A Multi-Agent Reinforcement Learning Approach
Alibaba-NTU Singapore Joint Research Institute（阿里巴巴-南洋理工大学新加坡联合研究院）；Nanyang Technological University（南洋理工大学）
本文提出一种基于多智能体强化学习与actor-critic的调度算法，用于地理分布式数据中心中可持续AIGC工作负载调度，在真实云环境中实现GPU利用率提升、成本降低和碳减排，系统效用最高提升28.6%。
2023-04-17 cs.AI cs.DC cs.LG
Offline Energy-Optimal LLM Serving: Workload-Based Energy Models for LLM Inference on Heterogeneous Systems
本文针对异构GPU-CPU系统上的LLM推理能耗问题，通过特性表征建立高精度能量与运行时间模型，并提出离线能量最优调度框架，验证了其优于现有实践。
2024-07-04 cs.DC
CoEdge: Cooperative DNN Inference with Adaptive Workload Partitioning over Heterogeneous Edge Devices
Sun Yat-sen University（中山大学）；University of Nevada, Reno（内华达大学里诺分校）；Arizona State University（亚利桑那州立大学）
人工智能的最新进展已经推动了网络边缘的智能应用，例如灵巧家庭、智能工厂和智能城市。为了在资源受限的边缘设备上部署计算密集型深度神经网络（DNN），传统方法依赖于将工作负载卸载到远程云或在本地优化终端设备的计算。然而，云辅助的方法受到不可靠和延迟显著的广域网，和本地计算方法受到限制的计算能力。协同执行机制为实现高性能边缘智能提供了一种新的范式，近年来引起了越来越多的研究兴趣。在本文中，我们提出了CoEdge，这是一个分布式DNN计算系统，可以在异构边缘设备上协调协作DNN推理。CoEdge利用边缘的可用计算和通信资源，并根据设备的计算能力和网络条件动态划分DNN推理工作负载。基于实际原型的实验结果表明，CoEdge算法在推理延迟接近的情况下，比现有算法具有更好的节能效果，对4种广泛采用的CNN模型，其能耗降低幅度可达25.5%~66.9%.
2020-12-06 cs.CV cs.DC cs.NI
Sustaining Performance While Reducing Energy Consumption: A Control Theory Approach
生产高性能计算系统在复杂性和大小上持续增长。随着应用程序努力利用日益异构的计算节点，保持整个平台的高效率（性能功耗比）成为一项挑战。随着科学工作负载的日益复杂，这种极端的异构性也是一个机会：由于设备之间的阶段或数据/计算移动，应用程序动态地经历工作负载的变化，人们可以动态地调整计算元素的功率，以节省能源而不影响性能。为了给当前和未来的高性能计算架构提供一种自主的动态电源管理策略，本文探讨了利用控制理论设计一种动态电源调节方法。结构作为一个反馈回路，我们的方法，这是新颖的计算资源管理，包括定期监测应用程序的进展，并在运行时选择一个合适的功率上限的处理器。由于初步的离线识别过程中，我们推导出一个模型的动态系统和比例积分（PI）控制器。我们评估我们的方法上现有的资源管理框架，Argo节点资源管理器，部署在几个集群的网格'5000，使用标准的内存绑定HPC基准。
2021-07-06 cs.DC
Zeus: Understanding and Optimizing GPU Energy Consumption of DNN Training
University of Michigan（密歇根大学）
训练深度神经网络（DNN）每年都变得越来越资源和能源密集。不幸的是，现有的工作主要集中在优化DNN训练，以更快地完成，通常没有考虑对能源效率的影响。在本文中，我们观察到，提高训练性能的常见做法往往会导致能源使用效率低下。更重要的是，我们证明，有一个权衡之间的能源消耗和性能优化。为此，我们提出了Zeus，一个优化框架，通过自动为重复的DNN训练作业找到最佳的作业和GPU级配置来导航这种权衡。Zeus使用在线探索开发方法与即时能源分析相结合，避免了昂贵的离线测量，同时适应数据随时间的漂移。我们的评估表明，对于不同的工作负载，Zeus可以将DNN训练的能源效率提高15.3%-75.8%。
2022-09-29 cs.AI cs.DC cs.LG
EfiMon: A Process Analyser for Granular Power Consumption Prediction
本文提出非侵入式工具EfiMon，通过提取进程执行与系统指标数据，结合回归模型预测共享资源环境下的细粒度进程功耗，在Intel和AMD系统上最大偏差仅4.4%，有效提升HPC能耗核算精度。
2024-09-25 cs.DC cs.PF
Energy Efficient Scheduling of AI/ML Workloads on Multi Instance GPUs with Dynamic Repartitioning
Columbia University（哥伦比亚大学）；IBM TJ Watson Research Center（IBM沃森研究中心）
针对多实例GPU环境，提出结合调度算法与强化学习的动态重分区框架，优化能耗与延迟的多目标问题，相比静态分区节能26%-68%。
2026-06-25 cs.DC
Energy-aware Load Balancing Policies for the Cloud Ecosystem
计算机和通信系统的能耗并不与工作量成线性比例。即使在空闲或轻负载时，系统也会使用大量的能量。一个广泛报道的大型数据中心资源管理解决方案是将负载集中在服务器的子集上，并尽可能将其余服务器切换到可能的睡眠状态之一。我们提出了一个传统的负载均衡的概念，旨在优化大规模系统的能源消耗：{ \it均匀地分配工作负载的最小的一组服务器运行在一个最佳的能源水平，同时遵守QoS约束，如响应时间。}我们的模型适用于集群系统，该模型还要求在每个重新分配间隔的系统资源的需求以有界的速度增加。在本文中，我们报告了应用程序扩展的VM迁移成本。
2014-01-09 cs.DC
Where Does the Energy Go? Profiling LLM Agent Inference on Blackwell GPUs
The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本研究通过全栈能量剖析，揭示LLM智能体推理中GPU遥测遗漏大量系统能耗，并发现顺序执行能耗高、扩展思考增加能耗源于输出量，连续批处理可提升能效。
2026-09-25 cs.DC
Falafels: A tool for Estimating Federated Learning Energy Consumption via Discrete Simulation
本文提出可扩展工具Falafels，通过离散模拟器近乎即时地预测联邦学习系统的能耗和训练时间，并利用进化算法优化系统配置。
2025-03-12 cs.DC
A Combination of Host Overloading Detection and Virtual Machine Selection in Cloud Server Consolidation based on Learning Method
在云数据中心（CDC）中，降低能耗同时保持性能一直是热点问题。在服务器整合中，传统的解决方案是将问题分解为多个小问题，如主机过载检测，虚拟机（VM）选择和VM放置，并逐步解决它们。然而，主机过载检测策略和VM选择策略的设计不能直接与降低能耗和保证性能的最终目标联系起来。本文提出了一种基于学习的虚拟机选择策略，选择适当的虚拟机迁移没有直接的主机过载检测。从而减少了SLAV的产生，保证了CDC的性能，降低了能耗。仿真结果表明，该方法在减少SLAV生成和CDC能耗方面优于现有方法。
2022-06-28 cs.DC
Game-Theoretic Deep Reinforcement Learning to Minimize Carbon Emissions and Energy Costs for AI Inference Workloads in Geo-Distributed Data Centers
Hewlett Packard Labs（慧与实验室）；Colorado State University（科罗拉多州立大学）
本文提出博弈论深度强化学习（GT-DRL）方法，通过将非合作博弈论融入DRL框架，优化地理分布式数据中心AI推理工作负载分配，在保证计算性能的同时有效降低碳排放和云运营成本。
2024-04-01 cs.AI cs.DC cs.LG
Cucumber: Renewable-Aware Admission Control for Delay-Tolerant Cloud and Edge Workloads
云计算和边缘计算不断增长的电力需求增加了运营成本，并将很快对环境产生重大影响。一个可能的对策是直接为IT基础设施配备现场可再生能源。然而，特别是较小的数据中心可能无法始终直接使用所有产生的电力，而将其送入公共电网或储能通常不是一种选择。为了最大限度地利用可再生过剩能源，我们提出了黄瓜，接纳控制策略，接受延迟容忍的工作负载，只有当他们可以在他们的截止日期内计算，而不使用电网能源。使用计算负载、能量消耗和能量产生的概率预测，Cucumber可以被配置为更乐观或保守的接纳。我们评估我们的方法在两种情况下使用真正的太阳能发电预测柏林，墨西哥城和开普敦在模拟环境中。对于实际上有多余能量的情况，我们的结果表明，Cucumber的默认配置实现了接近最佳情况的接受率，并导致97.0%的接受工作负载使用多余能量供电，而更保守的准入导致在几乎为零的电网电力使用情况下接受率降低18.5%。
2022-08-27 cs.DC
Energy-Aware Scheduling for Serverless LLM Serving on Shared GPUs
University of Pittsburgh（匹兹堡大学）；HPE Labs（惠普企业实验室）
针对无服务器LLM服务中多模型共享GPU带来的能耗优化难题，提出Festina系统，通过协同请求放置、SM分区和GPU工作点调整，在满足TTFT/TBT SLO前提下，实现集群能耗降低高达56%。
2026-10-13 cs.DC
Energy and Performance-Can a Wimpy-Node Cluster Challenge a Brawny Server?
传统的DBMS服务器通常在其大部分日常工作负载中过度配置，并且由于它们没有显示出良好的能量比例，因此在未充分利用的情况下浪费了大量能量。一个小型（弱）服务器集群，其中节点的数量可以根据当前的工作负载动态调整，可能会为这些工作负载提供更好的能量特性。然而，集群遭受“摩擦损失”，可能无法快速适应工作负载，而一个强大的服务器可以立即提供性能。在本文中，我们比较了一个小型集群的轻量级节点，一个单一的服务器的性能和能源效率。我们运行了几个基准测试，包括可变利用率的OLTP和OLAP查询，以测试系统适应工作负载的能力。为了量化可能的节能和查询运行时，它可以想象的缺点，我们评估我们的实现集群以及在一个单一的，强壮的服务器和比较结果w.r.t.性能和能耗。我们的研究结果证实，基于工作负载，可以在不牺牲太多性能的情况下节省能源。
2014-07-07 cs.DB cs.DC
Performance and Power: Systematic Evaluation of AI Workloads on Accelerators with CARAML
Jülich Supercomputing Centre（于利希超级计算中心）；Forschungszentrum Jülich（于利希研究中心）
本文提出 CARAML 基准测试套件及 jpwr 功耗测量工具，用于系统评估多种硬件加速器上大语言模型与视觉模型训练的性能和能耗。
2024-10-29 cs.AI cs.AR cs.DC
Energy-aware Web Browsing on Heterogeneous Mobile Platforms
Web浏览是数十亿移动用户每天进行的活动。电池寿命是许多移动用户最关心的问题，他们经常发现自己的手机在最不方便的时候就没电了。异构多核架构是一种节能处理解决方案。然而，当前的移动web浏览器依赖于操作系统来利用底层硬件，其不知道各个web内容并且通常导致低的能量效率。本文描述了一种自动方法来渲染移动Web工作负载的性能和能源效率。它通过开发一种基于机器学习的方法来预测使用哪个处理器来运行Web渲染引擎以及处理器应该以什么频率运行来实现这一点。我们的预测器从一组训练Web工作负载中离线学习。然后将构建的预测器集成到浏览器中，以预测运行时的最佳处理器配置，同时考虑Web工作负载特性和优化目标：无论是加载时间，能耗还是它们之间的权衡。我们使用最热门的500个网页在一个有代表性的ARM big.LITTLE移动架构上评估我们的方法。我们的方法实现了理想预测器所提供的性能的80%。我们得到，平均，45%，63.5%和81%的改善分别为加载时间，能源消耗和能源延迟产品，相比，Linux异构多处理调度。
2017-10-09 cs.DC
3, 2, 1, Drones Go! A Testbed to Take off UAV Swarm Intelligence for Distributed Sensing
University of Leeds（利兹大学）；University of Sheffield（谢菲尔德大学）
本文介绍了一个研究具有群体智能的无人机分布式感知问题的实验平台。一些智慧城市应用，如交通和灾难响应，需要通过一群智能和协作的无人机来有效收集传感器数据。这往往被证明过于复杂和昂贵，无法在不影响规模、现实性和外部有效性的情况下进行系统和严格的研究。与建议的测试平台，本文设置了一个垫脚石，模仿，在小实验室空间，大感兴趣的领域起源于经验数据和仿真模型。在这张传感地图上，一群低成本的无人机可以飞行，从而可以研究大量的问题，如能源消耗、充电控制、导航和防撞。分散式多智能体集体学习算法（EPOS）在无人机群体智能中的适用性以及功耗测量的评估提供了概念验证并验证了所提出的测试平台的准确性。
2022-08-11 cs.DC cs.RO
A Survey on Modeling Energy Consumption of Cloud Applications: Deconstruction, State of the Art, and Trade-off Debates
鉴于云计算场景的复杂性和异构性，通过抽象难以直接观察或理解的真实世界对象和过程，建模方法已被广泛用于调查和分析云应用的能耗。很明显，抽象牺牲了，而且通常不需要，要建模的现实的完整反映。因此，目前的能源消耗模型在目的、假设、应用特点和环境条件方面各不相同，不同的研究工作之间可能存在重叠。因此，揭示现有建模工作的最新进展是必要的，也是有价值的，以便将不同的模型编织在一起，以促进理解和进一步调查云领域中的应用程序能耗。通过系统地选择、评估和综合76项相关研究，我们合理化和组织了30多个具有统一符号的能源消耗模型。为了帮助调查现有的模型和促进未来的建模工作，我们解构了云应用程序的运行时执行和部署环境，并确定了18个环境因素和12个工作负载因素，这些因素将影响能源消耗。特别是，在处理多个因素的组合影响时，存在复杂的权衡甚至辩论。
2017-08-02 cs.DC
Energy-aware Scheduling of Jobs in Heterogeneous Cluster Systems Using Deep Reinforcement Learning
University of Southern California（南加州大学）
从便携式嵌入式系统到计算机集群系统，能耗是设计计算设备时最关键的问题之一。此外，在过去的十年中，集群系统已经越来越多地成为流行的平台来运行计算密集型的实时应用程序，其中的性能是非常重要的。然而，由于实时工作负载的不同特点，开发通用的作业调度解决方案，有效地解决能源消耗和性能的实时集群系统是一个具有挑战性的问题。在本文中，受到将深度强化学习应用于资源管理问题的最新进展的启发，我们提出了Deep-EAS调度器，该调度器可以为具有不同特征的工作负载学习有效的能量感知调度策略，而无需最初了解任何关于手头调度任务的信息。结果表明，Deep-EAS收敛速度快，性能优于标准的手动调整算法，特别是在重负载条件下。
2019-12-11 cs.DC cs.LG
Methods and Metrics for Fair Server Assessment under Real-Time Financial Workloads
能源效率一直是企业面临的一个严峻挑战。金融业经营着世界上一些最大的金融中心。随着能源成本的增加和金融服务行业的增长，新兴的金融分析工作负载可能会产生极高的运营成本，以满足其延迟目标。微服务器最近已经成为高端服务器的替代品，通过横向扩展，有望在数据中心实现可扩展的性能和低能耗。不幸的是，架构特征、形状因子和设计考虑方面的明显差异使得服务器和微服务器之间的公平比较异常具有挑战性。在本文中，我们提出了一个严格的方法和新的指标，公平比较服务器和微服务器平台。我们部署了我们的方法和指标来比较一个带有ARM内核的微服务器和两个带有x86内核的服务器，运行相同的实时的【形】财务分析工作负载。我们定义了特定于工作负载但独立于平台的性能指标，用于平台比较，目标是数据中心运营商和最终用户。我们的方法确定了基于Xeon Phi处理器的服务器可提供最高的性能和能效。然而，通过扩展节能微服务器，我们实现了竞争力或更好的能源效率比一个功率等效的服务器与两个桑迪桥插槽，尽管微服务器的核心速度较慢。使用一个新的iso-QoS（iso-服务质量）度量，我们发现，ARM微服务器的规模足以满足市场的吞吐量需求，即100%的QoS方面的及时选项定价，与少至55%的能量消耗的Sandy Bridge服务器。
2014-12-30 cs.DC
Energy-Aware Workflow Execution: An Overview of Techniques for Saving Energy and Emissions in Scientific Compute Clusters
本文通过估算三个真实科学工作流的碳足迹揭示能耗问题，并系统综述了从异构架构、代码优化到电压频率调节、负载整合与调度等多种降低科学计算集群能耗与碳排放的技术。
2025-06-04 cs.DC
Scheduling Algorithms for Federated Learning with Minimal Energy Consumption
Univ. Bordeaux（波尔多大学）；CNRS（法国国家科学研究中心）；Bordeaux INP（波尔多国立理工学院）；Inria（法国国家信息与自动化研究所）；LaBRI（波尔多计算机科学实验室）
联邦学习（FL）为在异构移动或边缘设备上协作训练机器学习模型提供了机会，同时保持本地数据的私密性。随着其采用的增加，越来越多的人关注其经济和环境成本（对于其他机器学习技术也是如此）。不幸的是，由于能量最小化通常被作为次要目标，所以很少有人做工作来优化其能量消耗或二氧化碳或等效物的排放。在本文中，我们研究了通过控制工作负载分布来最小化异构设备上FL训练的能量消耗的问题。我们将其建模为最小成本FL调度问题，这是一个总成本最小化问题，具有相同的，独立的，和原子任务，必须分配给异构资源与任意成本函数。我们提出了一个伪多项式最优解决方案的问题的基础上，以前未探索的多选择最小值-费用最大背包包装问题。我们还提供了四个算法的情况下，成本函数单调增加，并遵循相同的行为。这些解决方案同样适用于其他类型的成本最小化，并在其他一维数据划分问题。
2022-09-13 cs.AI cs.DC cs.DS
The MIT Supercloud Workload Classification Challenge
MIT（麻省理工学院）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）；Northeastern University（东北大学）；US Air Force（美国空军）
高性能计算（HPC）中心和云提供商在异构硬件上支持越来越多样化的应用程序。随着人工智能（AI）和机器学习（ML）工作负载在计算工作负载中的份额越来越大，需要新的方法来优化资源使用、分配和部署新的AI框架。通过识别计算工作负载及其利用率特征，HPC系统可以更好地将可用资源与应用需求相匹配。通过利用数据中心仪器，可以开发基于AI的方法，可以识别工作负载并向研究人员和数据中心运营商提供反馈，以提高运营效率。为了实现这项研究，我们发布了MIT Supercloud Dataset，它提供了来自MIT Supercloud集群的详细监控日志。此数据集包括作业的CPU和GPU使用率、内存使用率和文件系统日志。在本文中，我们提出了一个基于此数据集的工作负载分类挑战。我们介绍了一个标记的数据集，可用于开发新的方法来工作量分类和现有的方法的基础上提出的初步结果。该挑战的目标是促进计算工作负载分析中的算法创新，可以实现比现有方法更高的准确性。数据和代码将通过数据中心挑战网站https://dcc.mit.edu公开提供。
2022-04-13 cs.DC cs.LG
