大模型对齐与安全

Governable AI: Provable Safety Under Extreme Threat Models

Donglin Wang, Weiyun Liang, Chunyuan Chen, Jing Xu, Yulong Fu

机构 * College of Artificial Intelligence, Nankai University（人工智能学院，南开大学） ； Sursen Corp.（苏尔森公司） ； China Academy of Electronics and Information Technology（中国电子信息技术研究院） 纠错

专题命中 红队测试 ：safety(title,abstract)；alignment(abstract)；AI safety(abstract)；分类 cs.AI、cs.CY