Salesforce

Webscale-RL: Automated Data Pipeline for Scaling RL Data to Pretraining Levels

Webscale-RL: 用于将强化学习数据扩展到预训练水平的自动化数据管道

Zhepeng Cen, Haolin Chen, Shiyu Wang, Zuxin Liu, Zhiwei Liu, Jielin Qiu, Ding Zhao, Silvio Savarese, Caiming Xiong, Huan Wang, Weiran Yao

机构 * Salesforce AI Research（赛富时人工智能研究院） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

AI总结 本文提出Webscale-RL数据管道，通过系统性地将大规模预训练文档转换为数百万个多样化的可验证问题-答案对，解决RL数据瓶颈问题，并展示基于该数据集的模型在多个基准测试中表现优于传统预训练方法。