大模型对齐与安全

When to Trust the Cheap Check: Weak and Strong Verification for Reasoning

何时相信廉价检查：弱验证与强验证用于推理

Shayan Kiyani, Sima Noorani, George Pappas, Hamed Hassani

机构 * University of Pennsylvania（宾夕法尼亚大学） 纠错

专题命中 幻觉与事实性 ：trustworthy(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出弱-强验证策略，通过两个阈值结构控制接受和拒绝错误，以提高LLM推理的可靠性和准确性。