QMC: Efficient SLM Edge Inference via Outlier-Aware Quantization and Emergent Memories Co-Design
QMC:通过异常感知量化和涌现记忆协同设计实现高效的SLM边缘推断
机构 * University of California San Diego(加州大学圣地亚哥分校) ; San Diego State University(圣地亚哥州立大学)
AI总结 QMC通过异常感知量化和涌现记忆协同设计,实现高效SLM边缘推断,显著降低内存、能耗和延迟。