Xiaohongshu（小红书）

PretrainZero: Reinforcement Active Pretraining

PretrainZero：强化主动预训练

Xingrun Xing, Zhiyuan Fan, Jie Lou, Guoqi Li, Jiajun Zhang, Debing Zhang

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Xiaohongshu Inc.（小红书公司） 纠错

AI总结 PretrainZero通过主动预训练和自监督学习方法，提升通用推理能力，并在多个基准测试中取得显著成绩。