Knowing When to Quit: Diagnosing and Training LLMs to Abort Futile Reasoning
何时该放弃:诊断与训练大语言模型以中止无效推理
机构 * Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所) ; University of Chinese Academy of Sciences(中国科学院大学) ; Weixin AI, Tencent Inc(腾讯微信人工智能)
AI总结 该研究针对大语言模型在超能力任务上产生无效推理的问题,提出CaRL方法对齐模型行为与能力边界,实验验证其可减少无效推理且不牺牲任务性能。