arXivDaily arXiv每日学术速递 周一至周五更新

大厂专区

Huawei(华为)

2026-07-27 至 2026-07-27 共收录 1
2607.22038 2026-07-27 cs.AR cs.AI 新提交

Sparse by Command: Task-Conditional Compute Skipping for Multi-Task Inference Accelerators

通过命令实现稀疏化:多任务推理加速器的任务条件计算跳过

Afzal Ahmad, Gaoyu Mao, Shoubo Hu, Hui-Ling Zhen, Mingxuan Yuan, Xinyu Chen, Wei Zhang

机构 * The Hong Kong University of Science and Technology(香港科学与技术大学) Huawei Noah’s Ark Lab(华为诺亚实验室) The Hong Kong University of Science and Technology (Guangzhou)(香港科学与技术大学(广州))

AI总结 研究多任务推理模型计算浪费问题,提出软硬件协同设计方法,通过轻量级门控网络预测执行掩码实现任务条件计算跳过,在自动驾驶任务中实验,显著减少计算量、延迟并降低能耗。

Comments Accepted at IEEE/ACM International Symposium on Microarchitecture (MICRO 2026)

详情

展开后加载摘要…

URL PDF HTML 收藏