University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）

ESTAR: Early-Stopping Token-Aware Reasoning For Efficient Inference

ESTAR: 早期停止的令牌感知推理用于高效推理

Junda Wang, Zhichao Yang, Dongxu Zhang, Sanjit Singh Batra, Robert E. Tillman

机构 * University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Optum AI 纠错

AI总结 ESTAR通过令牌感知推理的早期停止机制，有效减少推理冗余，提升大型推理模型的推理效率，同时保持高准确性。