Analyzing and Improving Chain-of-Thought Monitorability Through Information Theory
通过信息论分析和改进链式思维可监控性
机构 * University of Cambridge(剑桥大学) ; Qualcomm AI Research(高通人工智能研究)
专题命中 其他推理 :chain-of-thought(title,abstract);reasoning(abstract);CoT(abstract);分类 cs.CL、cs.AI、cs.LG
AI总结 本文通过信息论分析,提出两种方法改进链式思维监控器的可监控性,以提高监控准确性并防止奖励黑客问题。
Comments First two authors contributed equally