Advantageous Parameter Expansion Training Makes Better Large Language Models
优势参数扩展训练可打造更优的大语言模型
机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Baidu Inc.（百度公司）
AI总结 该研究提出APEX方法，通过在总参数不变时扩展优势参数占比，在指令调优和持续预训练的五款基础模型实验中，仅用部分参数或数据就实现了更优性能。
Comments EMNLP 2026 Main
