Adaptive Model Compression (AMC): Saliency-Driven Resource Allocation for Ultra-Low-Power Transformer Inference
自适应模型压缩(AMC):用于超低功耗变压器推理的显著性驱动资源分配
机构 * Apple USA(苹果公司(美国))
AI总结 研究在资源受限边缘设备部署大规模变压器模型的挑战,提出基于令牌重要性动态分配资源的自适应模型压缩框架AMC,实验证明该方法能降低能耗、提高吞吐量,有效延长移动设备电池寿命,精度略有下降。