Machine learning for predicting thermal power consumption of the Mars Express Spacecraft
Jožef Stefan Institute(约热夫·斯特凡研究所);Jožef Stefan International Postgraduate School(约热夫·斯特凡国际研究生院);European Space Agency(欧洲空间局);Institute for Research in Biomedicine(生物医学研究所)
火星快车(MEX)航天器的热子系统将机载设备保持在预定的工作温度范围内。为了规划和优化MEX的科学运行,其操作员需要尽可能准确地提前估计热力子系统的功耗。剩余的能量可以用于科学目的。我们提出了一个机器学习管道,用于有效地构建准确的预测模型,用于预测MEX上的热子系统的功率。特别是,我们采用最先进的特征工程方法来转换原始遥测数据,进而用于使用不同的最先进的机器学习方法构建准确的模型。我们表明,拟议的管道大大提高了我们以前的(竞争获胜)的工作,在时间效率和预测性能。此外,在实现卓越的预测性能的同时,构建的模型还提供了对航天器行为的重要见解,从而可以对MEX的操作进行进一步分析和优化规划。
2019-01-16 cs.LG stat.ML
Benchmarking Deep Learning Models on NVIDIA Jetson Nano for Real-Time Systems: An Empirical Investigation
Lakehead University(湖首大学)
本研究实证调查了复杂深度学习模型在NVIDIA Jetson Nano嵌入式设备上的优化,评估其在图像分类和视频动作检测中的推理速度,发现优化模型平均提速16.11%,强调了硬件特定优化对降低能耗和实现资源受限系统广泛部署AI技术的关键作用。
2024-06-25 cs.AR cs.CV cs.LG
A Hybrid Surrogate for Electric Vehicle Parameter Estimation and Power Consumption via Physics-Informed Neural Operators
State University of New York, Korea(纽约州立大学韩国分校);Stony Brook University(石溪大学);Hyundai Motor Company(现代汽车公司)
本文提出结合谱参数算子与可微分物理模块的混合代理模型,仅用速度和加速度即可估计电动汽车多参数并驱动电池功率计算,在三款车型真实数据上误差低且泛化性好,适用于多类应用场景。
2025-08-24 cs.LG
Where Do the Joules Go? Diagnosing Inference Energy Consumption
University of Michigan \& The ML.ENERGY Initiative
研究通过大规模测量发现生成式AI中不同任务和硬件配置对能耗的影响差异,并提出框架解释能耗与利用率等隐含指标的关系,为优化数据中心能耗提供依据。
2026-01-30 cs.DC cs.LG
The Road to On-board Change Detection: A Lightweight Patch-Level Change Detection Network via Exploring the Potential of Pruning and Pooling
Tsinghua University(清华大学)
针对星上计算资源受限问题,提出轻量级补丁级变化检测网络LPCDNet,通过通道剪枝和特征压缩快速筛除未变化补丁,在Jetson AGX Orin上速度超1000帧/秒,内存成本降低60%以上。
2023-10-16 cs.CV cs.LG
BottleFit: Learning Compressed Representations in Deep Neural Networks for Effective and Efficient Split Computing
University of California, Irvine(加州大学欧文分校);Northeastern University(东北大学)
虽然关键任务应用需要使用深度神经网络(DNN),但它们在移动设备上的连续执行导致能耗显著增加。虽然边缘卸载可以降低能耗,但信道质量、网络和边缘服务器负载的不稳定模式可能导致系统关键操作的严重中断。另一种称为分割计算的方法在模型中生成压缩表示(称为“瓶颈”),以减少带宽使用和能耗。先前的工作已经提出了引入额外层的方法,这不利于能耗和延迟。出于这个原因,我们提出了一个名为BottleFit的新框架,除了有针对性的DNN架构修改外,还包括一个新的训练策略,即使在压缩率很高的情况下也能实现高精度。我们将BottleFit应用于图像分类中的前沿DNN模型,并表明BottleFit在ImageNet数据集上实现了77.1%的数据压缩,准确率损失高达0.6%,而SPINN等最先进的模型准确率损失高达6%。我们通过实验测量了在NVIDIA Jetson Nano板(基于GPU)和Raspberry PI板(无GPU)上运行的图像分类应用程序的功耗和延迟。我们表明,BottleFit降低功耗和延迟分别高达49%和89%(w.r.t.)本地计算和37%和55%的w.r.t.边缘卸载我们还将BottleFit与最先进的基于自动编码器的方法进行了比较,结果表明:(i)BottleFit在Jetson上分别降低了54%和44%的功耗和执行时间,在Raspberry PI上降低了40%和62%;(ii)在移动…
2022-04-14 cs.CV cs.LG eess.IV
Energy-Efficient On-Board Radio Resource Management for Satellite Communications via Neuromorphic Computing
University of Luxembourg(卢森堡大学);Francis Crick Institute(弗朗西斯·克里克研究所);King’s College London(伦敦国王学院)
针对卫星通信星载资源管理中传统优化方案的不足,提出基于类脑脉冲神经网络的能效型管理方法,经Loihi 2芯片实验验证,其准确率更高且功耗较CNN参考平台低100倍以上。
2023-08-22 cs.LG cs.SY eess.SY
Sustainable AI Training via Hardware-Software Co-Design on NVIDIA, AMD, and Emerging GPU Architectures
Meta Platforms Inc.(Meta平台)
本文研究面向 NVIDIA、AMD 及新兴 GPU 架构的硬件-软件协同设计方法,通过张量核心、内存优化、混合精度和能量感知调度等手段提升 AI 训练能效,并结合真实案例证明可在不牺牲性能的前提下降低环境影响。
2025-07-28 cs.AI cs.AR cs.DC
Conv1D Energy-Aware Path Planner for Mobile Robots in Unstructured Environments
University of Surrey(萨里大学);UK Atomic Energy Authority(英国原子能管理局)
驱动能耗在移动机器人在具有挑战性的环境中的导航中起着重要作用,特别是如果它们在有限的车载电源下无人值守。本文报告的第一个结果的能量感知路径规划,它可以提供估计的驱动能量消耗和能量回收的机器人穿越复杂的不平坦的地形。利用自监督学习方法估计轨迹上的能量,其中机器人自主学习如何将感知的地形点云与能量消耗和恢复相关联。该方法的一个新的特点是使用一维卷积神经网络来分析地形顺序在相同的时间顺序,因为它会经历的机器人移动时。所提出的方法的性能进行评估,在模拟从真实的自然场景收集的数字地形模型,并与启发式的基于倾斜的能量模型进行比较。我们证明了我们的方法的好处,增加了66.8%的整体预测r2得分,并减少了5.5%的驾驶能源消耗超过规划的路径。
2021-04-04 cs.LG cs.RO
RL-Based Cargo-UAV Trajectory Planning and Cell Association for Minimum Handoffs, Disconnectivity, and Energy Consumption
University of Ottawa(渥太华大学);École de Technologie Supérieure (ÉTS)(高等技术学院(ÉTS));Carleton University(卡尔顿大学)
针对货运无人机能耗、蜂窝可靠性与频繁切换问题,提出基于强化学习的轨迹规划和小区关联联合优化方法,并通过仿真验证其综合性能优于基准。
2023-12-05 cs.LG cs.RO cs.SY
Deep Learning Models in Speech Recognition: Measuring GPU Energy Consumption, Impact of Noise and Model Quantization for Edge Deployment
Texas A&M University(德克萨斯A&M大学)
本文在NVIDIA Jetson Orin Nano上系统评估了不同ASR模型在FP32、FP16和INT8量化下的能耗、内存与准确率权衡,发现FP16可使能耗减半且性能损失极小,为边缘端高效ASR部署提供了实证依据。
2024-05-02 cs.AI cs.CV cs.HC
Energy Scaling Laws for Diffusion Models: Quantifying Compute in Image Generation
Stanford University(斯坦福大学);AXA AI Research(AXA人工智能研究)
本文提出基于计算复杂度(FLOPs)的扩散模型GPU能耗预测方法,通过分解推理过程中的文本编码、去噪和解码步骤,验证去噪操作主导能耗,并在四种先进模型和三种GPU架构上验证了预测准确性与跨架构泛化能力。
2026-05-12 cs.CV cs.CY cs.LG
A Neural Network-Based On-device Learning Anomaly Detector for Edge Devices
Keio University(庆应义塾大学);The University of Tokyo(东京大学)
半监督异常检测是一种通过学习正常数据的分布来识别异常的方法。反向传播神经网络(即,基于BP神经网络的方法由于其良好的泛化能力最近引起了人们的关注。在典型的情况下,基于BP-NN的模型在服务器机器中使用从边缘设备收集的输入数据进行迭代优化。然而,(1)迭代优化通常需要显著的努力来跟随正态数据的分布的变化(即,概念漂移),以及(2)边缘和服务器之间的数据传输强加了额外的等待时间和能量消耗。为了解决这些问题,我们提出了ONLAD及其IP核,命名为ONLAD核心。ONLAD经过高度优化,可执行快速顺序学习,在不到1毫秒的时间内跟踪概念漂移。ONLAD Core以低功耗实现边缘设备的设备上学习,从而实现独立执行,无需在边缘和服务器之间传输数据。实验表明,ONLAD在模拟概念漂移的环境中具有良好的异常检测能力。对ONLAD Core的评估证实,训练延迟比其他软件实现快1.95倍~ 6.58倍。在小型FPGA/CPU SoC平台PYNQ-Z1板上实现的ONLAD Core的运行时功耗是它们的5.0倍~ 25.4倍。
2020-02-02 cs.LG stat.ML
Benchmarking the Performance and Energy Efficiency of AI Accelerators for AI Training
Hong Kong Baptist University(香港浸会大学)
深度学习已广泛应用于复杂的人工智能应用中。然而,训练深度神经网络(DNN)模型需要大量的计算、长的运行时间和大量的能量。如今,众核AI加速器(例如,GPU和TPU)旨在提高AI训练的性能。然而,来自不同供应商的处理器在性能和能耗方面表现不一。为了研究几种流行的现成处理器之间的差异(即,英特尔CPU、英伟达GPU、AMD GPU和谷歌TPU)在训练DNN时,我们通过对一组代表性的深度学习工作负载进行基准测试,对这些处理器的性能和能效进行了全面的实证研究,包括计算密集型操作、经典卷积神经网络(CNN)、递归神经网络(LSTM)、Deep Speech 2和Transformer。与现有的端到端基准测试仅呈现训练时间不同,我们尝试调查硬件、供应商的软件库和深度学习框架对AI训练的性能和能耗的影响。我们的评估方法和结果不仅为最终用户选择合适的AI加速器提供了信息指南,而且还为硬件供应商提供了改进其软件库的机会。
2020-10-08 cs.DC cs.LG
Benchmarking Keyword Spotting Efficiency on Neuromorphic Hardware
Applied Brain Research, Inc.(应用脑研究公司)
使用英特尔的Loihi神经形态研究芯片和ABR的Nengo深度学习工具包,我们分析了经过训练以识别单个短语的双层神经网络关键字识别器的推理速度,动态功耗和每次推理的能源成本。我们对在更传统的硬件设备上运行的这个关键字检测器进行了比较分析,这些硬件设备包括CPU,GPU,Nvidia的Jetson TX1和Movidius Neural Compute Stick。我们的研究结果表明,对于这种推理应用程序,Loihi优于所有这些替代品的能源成本,同时保持同等的推理精度。此外,对网络规模、推理速度和能源成本之间的权衡分析表明,Loihi相对于其他低功耗计算设备的比较优势在更大的网络中有所改善。
2019-04-02 cs.LG stat.ML
perf4sight: A toolflow to model CNN training performance on Edge GPUs
Imperial College London(伦敦帝国学院)
当今边缘设备的内存和处理能力不断增强,为实现更高的边缘智能创造了机会。在视觉领域,使卷积神经网络(CNN)的结构和参数适应输入数据分布的能力导致系统具有更低的内存占用、延迟和功耗。然而,由于边缘设备上有限的计算资源和内存预算,系统必须能够预测训练过程的延迟和内存占用,以便识别网络拓扑和设备组合的有利训练配置,以实现有效的网络自适应。这项工作提出了perf4sight,这是一种自动化方法,用于开发精确的模型,预测给定目标设备和网络的CNN训练内存占用和延迟。这使得能够快速识别可以在边缘设备上以低资源消耗重新训练的网络拓扑。以PyTorch为框架,NVIDIA Jetson TX2为目标设备,开发的模型预测训练内存占用和延迟的准确率分别为95%和91%,适用于各种网络,为边缘GPU上的高效网络适配开辟了道路。
2021-08-12 cs.AI cs.CV cs.LG
Autonomous Navigation via Deep Reinforcement Learning for Resource Constraint Edge Nodes using Transfer Learning
Georgia Institute of Technology(佐治亚理工学院)
智能而敏捷的无人机正在云边缘迅速变得无处不在。这些无人机的使用受到其有限的功率和计算能力的限制。在本文中,我们提出了一种基于迁移学习(TL)的方法,以减少通过深度强化学习训练深度神经网络进行自主导航所需的机载计算,以获得目标算法性能。使用虚幻游戏引擎手动设计3D逼真元环境库,并对网络进行端到端训练。然后,这些经过训练的元权重在测试环境中用作网络的初始化器,并针对最后几个完全连接的层进行微调。无人机动力学和环境特性的变化进行了显示的方法的鲁棒性。使用NVIDIA GPU分析器,能耗和训练延迟分别减少了3.7倍和1.8倍,而在坠毁前平均行驶距离(即平均安全飞行(MSF))方面的性能没有显着下降。该方法还使用DJI Tello无人机在真实环境中进行了测试,并报告了类似的结果。
2019-10-12 cs.LG stat.ML
Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning
National Laboratory of the Rockies (NLR)(落基山国家实验室(NLR))
本文通过高精度测量生成式AI工作负载的功率消耗,结合MLCommons和vLLM基准,建立全设施能效模型,为电网接入、本地能源生成和微电网规划提供数据支持。
2026-04-08 cs.DC cs.LG cs.SY
SLO-aware GPU Frequency Scaling for Energy Efficient LLM Inference Serving
ETH Zürich(苏黎世联邦理工学院);National Technical University of Athens(雅典国家技术大学)
throttLL'eM通过预测KV缓存使用和批处理大小,利用机器学习模型减少GPU频率和实例规模,从而在满足SLOs的前提下降低LLM推理的能耗达43.8%并提升能效1.71倍。
2025-12-03 cs.AI cs.AR cs.DC