Shape of Thought: When Distribution Matters More than Correctness in Reasoning Tasks
思维的形状:当分布比正确性更重要时在推理任务中的表现
机构 * University of Waterloo(滑铁卢大学) ; University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校) ; MILA - Quebec AI Institute(魁北克人工智能研究所) ; Université de Montréal(蒙特利尔大学) ; Microsoft Research India(微软印度研究院) ; Google DeepMind(谷歌DeepMind) ; Periodic Labs(周期实验室)
AI总结 通过训练合成数据集中的链式思考轨迹,即使最终答案错误,也能提升语言模型的推理能力,表明分布比正确性更重要。