TuringLLM: Efficiently Scaling Foundation Models Toward Physical AI
TuringLLM:面向物理AI高效扩展基础模型
机构 * Xpeng Inc(小鹏汽车)
AI总结 本文提出Turing-20B-A2B混合专家语言模型,采用分位数路由、混合注意力等技术,在紧凑激活参数下实现模型能力、长上下文扩展与推理效率的平衡,性能优于Qwen3-8B Base且接近Qwen3.5-9B Base。
Comments Technical Report; includes supplementary material