Sparse by Command: Task-Conditional Compute Skipping for Multi-Task Inference Accelerators
通过命令实现稀疏化:多任务推理加速器的任务条件计算跳过
机构 * The Hong Kong University of Science and Technology(香港科学与技术大学) ; Huawei Noah’s Ark Lab(华为诺亚实验室) ; The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州))
AI总结 研究多任务推理模型计算浪费问题,提出软硬件协同设计方法,通过轻量级门控网络预测执行掩码实现任务条件计算跳过,在自动驾驶任务中实验,显著减少计算量、延迟并降低能耗。
Comments Accepted at IEEE/ACM International Symposium on Microarchitecture (MICRO 2026)