Towards Sustainable Large Language Model Serving
University of Waterloo(滑铁卢大学);Purdue University(普渡大学)
本文从运营与隐含碳排放角度研究 LLM 服务,基于两类 GPU 对不同规模 LLaMA 进行性能和能耗表征,并结合电网碳强度、芯片面积与内存建模,揭示协同优化可持续服务系统的潜力。
2024-12-31 cs.DC cs.LG
CarbonEdge: Carbon-Aware Deep Learning Inference Framework for Sustainable Edge Computing
George Washington University(乔治华盛顿大学);Youngstown State University(扬斯敦州立大学)
本文提出CarbonEdge框架,通过碳足迹估算和绿色调度能力,在边缘计算中实现碳感知的深度学习推断,实验显示其在减少碳排放和提升碳效率方面表现突出。
2026-04-01 cs.AI cs.DC cs.LG
GreenDirector: carbon- and water-aware workload placement for sustainable computing
Instituto de Física de Cantabria (IFCA), CSIC-UC(坎塔布里亚物理研究所 (IFCA),西班牙国家研究委员会-坎塔布里亚大学);Aix Marseille Univ, CNRS/IN2P3, CPPM(艾克斯马赛大学,法国国家科学研究中心/法国国家粒子物理研究所,普罗旺斯粒子与核物理中心)
针对数据中心仅考虑碳足迹的不足,提出环境评分和绿色评分指标,并集成到GreenDirector调度器中,在真实系统中实现水碳联合优化,减少约40%碳排放并明确权衡。
2026-09-21 cs.DC
Sustainable Cloud Computing: Foundations and Future Directions
微软、谷歌、Facebook和亚马逊等主要云计算提供商严重依赖云计算中心来支持对其计算和应用服务不断增长的需求。然而,运行这种大型基础设施的财务和碳足迹相关成本对云服务的可持续性产生了负面影响。大多数现有的努力主要集中在最小化服务器的能耗。在本文中,我们设计了一个概念模型和实用的设计指南,用于全面管理所有资源(包括服务器,网络,存储,冷却系统),以提高能源效率并减少云数据中心(CDC)的碳足迹。此外,我们讨论了能源和可持续云计算的可靠性之间的相互交织的关系,我们强调相关的研究问题。最后,我们提出了该领域未来的研究方向,并为进一步的实际发展奠定了基础。
2018-05-02 cs.DC
A Framework for SLO, Carbon, and Wastewater-Aware Sustainable FaaS Cloud Platform Management
Colorado State University(科罗拉多州立大学);Hewlett Packard Labs(惠普实验室)
本文针对FaaS云平台中SLO性能、碳排放与水资源使用的冲突,提出了一种可持续性感知的FaaS调度与扩展框架,以共同优化SLO性能、碳排放和废水生成。
2024-10-09 cs.AI cs.DC cs.LG
Toward Sustainable GenAI using Generation Directives for Carbon-Friendly Large Language Model Inference
Northeastern University(东北大学);MIT(麻省理工学院)
本文提出Sprout框架,利用生成指令优化LLM推理的碳效率,在Llama2和全球电网数据上实现超40%碳排放削减,兼顾生成质量与可持续性。
2024-03-19 cs.AI cs.CL cs.DC
OpenDC-STEAM: Realistic Modeling and Systematic Exploration of Composable Techniques for Sustainable Datacenters
Vrije Universiteit Amsterdam(阿姆斯特丹自由大学)
本文提出OpenDC-STEAM开源模拟器,通过系统探索三种代表性节能技术,分析其对数据中心运营碳排放和性能的综合影响,揭示了技术组合在减排与成本性能间的复杂权衡。
2026-03-20 cs.DC
Toward Sustainable Distributed LLM Inference: A Systems Synthesis and Research Agenda for an Energy-, Carbon-, and Cache-Aware llm-d Control Plane
本文综合分布式LLM推理的可持续性研究,提出面向llm-d控制平面的能源、碳和缓存感知设计模式与评估框架,将可持续推理视为跨多维度控制问题。
2026-09-09 cs.DC cs.LG
Chasing Low-Carbon Electricity for Practical and Sustainable DNN Training
University of Michigan(密歇根大学)
提出Chase解决方案,通过实时监测碳强度并控制GPU能耗,在不迁移或推迟任务的情况下减少DNN训练碳足迹,同时利用轻量级ML算法预测碳强度,在ImageNet上训练ResNet-50时减少13.6%碳排放且仅增加2.5%训练时间。
2023-04-02 cs.AI cs.DC cs.LG
TerraWatt: Sustaining Sustainable Computing of Containers in Containers
世界每一天都在向气候灾难和可持续发展革命靠近一步。为了避免前者,实现后者,我们必须改变我们对能源的使用。令人惊讶的是,今天日益严重的问题是,在错误的时间和错误的地点有太多的风能和太阳能发电。我们主张建设TerraWatt:一个地理分布的,大规模的,零碳计算基础设施,使用可再生能源和旧硬件。由于时空功率可变性,为一般云工作负载提供零碳计算具有挑战性。我们描述了大规模使用间歇性可再生能源来为这种较旧的分散式计算基础设施提供燃料的系统挑战。
2021-02-12 cs.DC cs.NI
SHIELD: Sustainable Hybrid Evolutionary Learning Framework for Carbon, Wastewater, and Energy-Aware Data Center Management
Colorado State University(科罗拉多州立大学);Hewlett Packard Labs(惠普实验室)
针对地理分布式数据中心碳排放、水足迹高及能源成本上升的问题,提出融合机器学习引导局部搜索与分解进化算法的SHIELD框架,协同优化多项目标,在效率和优化效果上均显著优于现有方法。
2023-08-24 cs.DC cs.LG cs.NE
Sustainable Computing -- Without the Hot Air
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
对计算的需求继续呈指数级增长。这种增长将转化为计算能源消耗的指数增长,除非其能源效率的提高能够超过其需求的增长。然而,经过几十年的研究,进一步提高能源效率变得越来越具有挑战性,因为它已经高度优化。因此,在某种程度上,计算需求的增长可能会超过其能源效率的增长,可能会有很大的差距。如果不加以控制,这种指数增长将使计算成为全球碳排放的重要贡献者。虽然知名科技公司已经认识到这个问题,并试图减少碳排放,但可以理解的是,他们专注于自己的成功,这有可能无意中传达出一种错误的印象,即这是现在,或很快就会解决的问题。这种错误的印象可能会适得其反,如果它们有助于阻止在这一领域的进一步研究,因为,正如我们所讨论的,消除计算,更普遍的社会,碳排放远远没有解决的问题。为了更好地理解问题的范围,本文提炼了决定计算的碳足迹及其对实现可持续计算的影响的基本趋势。
2022-06-30 cs.CY cs.DC cs.LG
MOSAIC: A Multi-Objective Optimization Framework for Sustainable Datacenter Management
提出MOSAIC框架,结合自适应局部搜索与协作分解进化算法,从全球视角协同优化数据中心运营的能源成本、碳排放和水足迹,实验表明相比现有方法在多个目标上显著提升。
2023-11-14 cs.DC cs.NE
InFactPlanner: Planning Sustainable Geo-Distributed LLM Data Centers
University of Cyprus(塞浦路斯大学)
InFactPlanner是用于LLM推理的可持续地理分布式数据中心部署假设分析的决策支持框架,可通过多维度建模分析得出可持续性与延迟最优选择存在差异等结论。
2026-08-14 cs.AI cs.DC
A Self-adaptive Approach for Managing Applications and Harnessing Renewable Energy for Sustainable Cloud Computing
托管服务快速采用云计算及其成功主要归功于其具有吸引力的功能,如弹性,可用性和按需付费定价模式。然而,云数据中心消耗的大量能源使其成为碳排放增长最快的来源之一。提高能源利用效率的途径包括提高资源利用率,减少资源浪费;采用可再生能源作为能源供应。这项工作旨在通过减少棕色能源的使用和最大限度地使用可再生能源来减少数据中心的碳足迹。利用微服务和可再生能源,我们提出了一种自适应的方法来管理交互式工作负载和批量工作负载的资源。为了保证工作负载的服务质量,提出了一种基于欠压的交互式工作负载调度算法和一种基于延迟的批处理工作负载调度算法。我们已经实现了所提出的方法在一个原型系统中,并评估它与Web服务下真正的痕迹。结果表明,我们的方法可以减少21%的棕色能源的使用和提高10%的可再生能源的使用。
2020-08-31 cs.DC
Carbon Connect: An Ecosystem for Sustainable Computing
University of Pennsylvania(宾夕法尼亚大学);Harvard University(哈佛大学);Cornell University(康奈尔大学);Ohio State University(俄亥俄州立大学);Carnegie Mellon University(卡内基梅隆大学);California Institute of Technology(加州理工学院);Yale University(耶鲁大学)
针对计算行业能源消耗激增问题,提出Carbon Connect生态系统,通过碳核算、生命周期设计和高效能源利用策略,实现可持续计算,需跨学科合作推动变革。
2024-08-21 cs.AR cs.DC cs.ET
Sustainable Carbon-Aware and Water-Efficient LLM Scheduling in Geo-Distributed Cloud Datacenters
Colorado State University(科罗拉多州立大学);Hewlett Packard Labs(慧与实验室)
针对LLM推理阶段的高碳排放与水资源消耗问题,提出SLIT框架,利用基于机器学习的元启发式方法跨地理分布式云数据中心协同优化服务质量、碳排放、水资源使用和能源成本。
2025-05-29 cs.AI cs.DC cs.LG
MARLIN: Multi-Agent Game-Theoretic Reinforcement Learning for Sustainable LLM Inference in Cloud Datacenters
Colorado State University(科罗拉多州立大学);Hewlett Packard Labs(惠普实验室)
本文提出MARLIN框架,通过博弈强化学习优化LLM推理的TTFT、碳排放、用水量和能耗,实现至少18%的TTFT、33%的碳排放、43%的用水量和11%的能耗降低。
2026-05-13 cs.DC cs.LG
Sustainability-Aware Cloud Computing Using Virtual Carbon Tax
本文提出了一种可持续云系统的解决方案,并在一个真实的测试平台上实现。该解决方案包括优化盈利模式和引入虚拟碳税以限制云的环境足迹。所提出的云系统的多标准优化器在本地网格能量混合或云工作负载变化时为CPU核心建议新的最佳CPU频率。云系统在刀片系统上实现,并开发适当的中间件与刀片进行交互。实验结果表明,这是可能的,以显着降低系统的目标环境足迹,并保持其盈利。
2017-11-01 cs.DC
A Taxonomy and Future Directions for Sustainable Cloud Computing: 360 Degree View
云计算范例通过互联网提供按需服务并支持各种各样的应用。随着最近基于物联网(IoT)的应用的增长,云服务的使用呈指数级增长。下一代云计算必须是节能和可持续的,以满足不断变化的最终用户需求。目前,云计算提供商面临着确保其服务的能源效率和可持续性的挑战。大量云计算中心的使用增加了成本和碳足迹,这进一步影响了云服务的可持续性。在本文中,我们提出了一个全面的分类可持续的云计算。分类法是用来调查现有的技术,可持续发展,需要仔细的关注和调查所提出的几个学术和工业团体。此外,目前对可持续云计算的研究分为几个类别:应用程序设计,可持续性指标,容量规划,能源管理,虚拟化,热感知调度,冷却管理,可再生能源和废热利用。对现有技术进行了比较,并根据共同的特点和性质进行了分类。提出了可持续云计算的概念模型,并讨论了未来的研究方向。
2018-07-09 cs.DC
Sustainable AIGC Workload Scheduling of Geo-Distributed Data Centers: A Multi-Agent Reinforcement Learning Approach
Alibaba-NTU Singapore Joint Research Institute(阿里巴巴-南洋理工大学新加坡联合研究院);Nanyang Technological University(南洋理工大学)
本文提出一种基于多智能体强化学习与actor-critic的调度算法,用于地理分布式数据中心中可持续AIGC工作负载调度,在真实云环境中实现GPU利用率提升、成本降低和碳减排,系统效用最高提升28.6%。
2023-04-17 cs.AI cs.DC cs.LG
COUNTER: Cluster GCN based Energy Efficient Resource Management for Sustainable Cloud Computing Environments
针对云计算数据中心高能耗及大型AI模型加剧环境影响的问题,提出集成聚类图神经网络的COUNTER模型,在模拟环境中评估显示其较HUNTER模型在资源利用率、能耗和成本效益上更优。
2025-04-14 cs.DC
Harnessing Your DRAM and SSD for Sustainable and Accessible LLM Inference with Mixed-Precision and Multi-level Caching
University of Science and Technology of China(中国科学技术大学);Arizona State University(亚利桑那州立大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本文提出M2Cache方法,通过神经元模块化、动态稀疏混合精度量化以及HBM-DRAM-SSD三级缓存管理,在老旧GPU上实现LLM高效推理,从而显著降低碳排放。
2024-10-23 cs.DC cs.LG
Scoping Sustainable Collaborative Mixed Reality
本文针对混合现实(MR)生态系统碳足迹引发的环境担忧,梳理了现有MR减碳研究的局限,界定了可持续协作式MR的研究范围,明确了相关挑战、现有方案与未来方向,并从相邻领域寻求思路以推动协作MR系统的可持续发展。
2024-09-11 cs.CY cs.DC cs.ET
Towards Carbon-Aware Container Orchestration: Predicting Workload Energy Consumption with Federated Learning
Department of Electrical and Software Engineering(电气与软件工程系);University of Calgary(卡尔加里大学)
本文提出基于联邦学习的能耗预测框架,扩展Kepler以保护数据隐私,在SPECPower基准上相比集中式基线将平均绝对误差降低11.7%,解决了隐私与效率的权衡问题。
2025-10-04 cs.AI cs.DC
ForgetMeNot: Understanding and Modeling the Impact of Forever Chemicals Toward Sustainable Large-Scale Computing
本文提出 ForgetMeNot 建模工具,结合晶圆厂实践与硬件规格量化半导体制造中的含氟化合物排放,并用真实数据验证,以支持低碳硬件与数据中心设计。
2025-05-16 cond-mat.mtrl-sci cs.AR cs.DC
astroCAMP: A Community Benchmark and Co-Design Framework for Sustainable SKA-Scale Radio Imaging
EPFL(洛桑联邦理工学院);Univ Rennes, INSA Rennes(雷恩大学,雷恩国立应用科学学院);Univ Côte d’Azur(蔚蓝海岸大学)
astroCAMP提出统一的评估指标和标准化数据集,用于SKA级射电成像的跨平台评估和多目标协同设计,解决硬件-软件协同设计中的性能、可持续性和经济性问题。
2026-05-13 astro-ph.IM cs.DC cs.PF
Carbon-aware decentralized dynamic task offloading in MIMO-MEC networks via multi-agent reinforcement learning
School of Computer Science and Artificial Intelligence(计算机科学与人工智能学院);Wuhan University of Technology(武汉理工大学);School of Computer Science and Information Engineering(计算机科学与信息工程学院);Qilu Institute of Technology(齐鲁工业大学);Department of Computer Science(计算机科学系);Prince Sultan University(普天大学)
本文提出基于多智能体强化学习的碳感知分布式动态任务卸载框架,通过优化减少碳排放和能源浪费,提升MIMO-MEC网络的可持续性。
2026-02-21 cs.AI cs.DC cs.LG
Full Scaling Automation for Sustainable Development of Green Data Centers
Ant Group(蚂蚁集团)
针对数据中心碳排放问题,提出基于深度表征学习的全自动化扩缩容机制(FSA),通过预测工作负载动态调整资源以维持目标CPU利用率,在真实集群中显著提升能效并实现大规模碳减排。
2025-03-01 cs.AI cs.DC cs.LG
Sustainability in HPC: Vision and Opportunities
本文面向百亿亿次时代 HPC 系统碳排放问题,分析设计与运行中的挑战,并提出降低碳足迹的多种机遇。
2023-09-23 cs.AR cs.DC
Hot AI in Cold Space: Thermal-Crosstalk-Aware Scheduling for Sustainable Orbital AI Clusters
Southern University of Science and Technology(南方科技大学);University of Thessaly(色萨利大学)
针对轨道数据中心高密度集群中的热串扰问题,提出热感知异构性论点,并设计热负载均衡(TLB)框架,通过动态迁移LLM工作负载至最冷单元,缓解热瓶颈并延长硬件寿命。
2026-07-01 cs.AR cs.DC cs.ET