The Rise of Sparse Mixture-of-Experts: A Survey from Algorithmic Foundations to Decentralized Architectures and Vertical Domain Applications
稀疏专家混合模型的兴起:从算法基础到去中心化架构和垂直领域应用的综述
机构 * FEDIMOSS TECH HK LIMITED(FEDIMOSS科技(香港)有限公司) ; Ormi Labs, Inc.(Ormi实验室有限公司)
专题命中 其他多模态 :multimodal(abstract);分类 cs.AI
AI总结 本文综述了稀疏混合专家模型从算法基础到去中心化架构及垂直领域应用的发展,系统探讨了其核心原理、去中心化范式和关键挑战,为研究者和实践者提供全面的参考。
Journal ref Journal of Computer Science and Artificial Intelligence 5 (2025) 25-41