Early Stopping for Large Reasoning Models via Confidence Dynamics
通过置信度动态实现大推理模型的早停
机构 * University of Maryland(马里兰大学) ; University of Southern California(南加州大学)
AI总结 本文研究推理过程中中间答案的置信度,提出CoDE-Stop方法利用置信度动态决定早停,无需额外训练,提升准确率与效率,减少25-50%的token使用。
高校专区
通过置信度动态实现大推理模型的早停
机构 * University of Maryland(马里兰大学) ; University of Southern California(南加州大学)
AI总结 本文研究推理过程中中间答案的置信度,提出CoDE-Stop方法利用置信度动态决定早停,无需额外训练,提升准确率与效率,减少25-50%的token使用。