大模型对齐与安全

Ask What Your Country Can Do For You: Towards a Public Red Teaming Model

Wm. Matthew Kennedy, Cigdem Patlak, Jayraj Dave, Blake Chambers, Aayush Dhanotiya, Darshini Ramiah, Reva Schwartz, Jack Hagen, Akash Kundu, Mouni Pendharkar, Liam Baisley, Theodora Skeadas, Rumman Chowdhury

机构 * Oxford Internet Institute（牛津互联网研究所） ； University of Oxford（牛津大学） ； Amazon（亚马逊） ； Department of Computer Science（计算机科学系） ； University of Wisconsin - Eau Claire（威斯康星大学欧克莱尔分校） ； Carnegie Mellon University（卡内基梅隆大学） ； Harvard University（哈佛大学） 纠错

专题命中 红队测试 ：red teaming(title,abstract)；分类 cs.AI、cs.CY