大模型对齐与安全

M2S: Multi-turn to Single-turn jailbreak in Red Teaming for LLMs

Junwoo Ha, Hyunjun Kim, Sangyoon Yu, Haon Park, Ashkan Yousefpour, Yuna Park, Suhyun Kim

机构 * AIM Intelligence（AIM智能研究所） ； University of Seoul（首尔大学） ； Korea Advanced Institute of Science and Technology（韩国科学技术院） ； Seoul National University（首尔国立大学） ； Yonsei University（延世大学） ； Korea Institute of Science and Technology（韩国科学技术院） ； Kyung Hee University（庆熙大学） 纠错

专题命中 红队测试 ：jailbreak(title,abstract)；red teaming(title,abstract)；分类 cs.CL、cs.AI

Comments Accepted to ACL 2025 (Main Track). Camera-ready version

Journal ref Proc. ACL 2025 (Vol. 1: Long Papers), pp. 16489-16507, Vienna, Austria, 2025