The Model Parking Tax: Quantifying the Hidden Energy Cost of Always-On GPU Model Deployment
模型停放税:量化始终在线GPU模型部署的隐藏能耗成本
专题命中 BEV与占用 :occupancy(abstract)
AI总结 通过跨架构测量,发现GPU空闲功耗由DVFS状态决定,而非显存占用,CUDA上下文贡献了超过98%的停放税,并建立了冷启动盈亏平衡模型。
Comments 7 pages, 3 figures, 5 tables