Yejin Choi

Synthetic Mixed Training: Scaling Parametric Knowledge Acquisition Beyond RAG

合成混合训练：在RAG之上扩展参数化知识获取

Seungju Han, Konwoo Kim, Chanwoo Park, Benjamin Newman, Suhas Kotha, Jaehun Jung, James Zou, Yejin Choi

机构 * Stanford University（斯坦福大学） ； MIT（麻省理工学院） ； University of Washington（华盛顿大学） 纠错

AI总结 本文提出合成混合训练方法，结合合成问答和文档，通过互补训练信号提升模型性能，在QuaLITY基准上实现4.4%的相对提升。