Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning
正确即力量:对齐验证的隐藏状态增强强化学习推理
机构 * Peking University(北京大学) ; JINGDONG(京东) ; Shanghai Innovation Institute(上海创新研究院) ; The University of Tokyo(东京大学) ; Tianjin University(天津大学)
AI总结 提出Hidden-Align辅助损失函数,在强化学习训练中对齐正确rollout在锚点token处的最后一层隐藏状态,提升数学推理性能。
Comments 16 pages, 7 figures