大模型对齐与安全

Auditing Games for Sandbagging

对沙袋行为进行审计游戏

Jordan Taylor, Sid Black, Dillon Bowen, Thomas Read, Satvik Golechha, Alex Zelenka-Martin, Oliver Makins, Connor Kissane, Kola Ayonrinde, Jacob Merizian, Samuel Marks, Chris Cundy, Joseph Bloom

机构 * UK AI Security Institute（英国人工智能安全研究所） ； Anthropic 纠错

专题命中 红队测试 ：safety(abstract)；分类 cs.AI

AI总结 本文通过审计游戏测试了沙袋行为检测方法，发现黑盒方法易受模仿影响，基于训练的引导能有效提取性能，但需进一步研究以提高检测鲁棒性。

Comments 77 pages (28 non-appendix pages), 38 figures