MoE-CAP: Benchmarking Cost, Accuracy and Performance of Sparse Mixture-of-Experts Systems
MoE-CAP:稀疏专家混合系统成本、准确率和性能的基准测试
机构 * University of Edinburgh(爱丁堡大学) ; Microsoft Research(微软研究院) ; Peking University(北京大学) ; NVIDIA Co-leading authors(NVIDIA)
AI总结 MoE-CAP通过引入CAP雷达图和稀疏性能指标,系统性地评估稀疏混合专家系统在成本、准确率和性能之间的权衡。