大模型对齐与安全

HAMSA: Hijacking Aligned Compact Models via Stealthy Automation

Alexey Krylov, Iskander Vagizov, Dmitrii Korzh, Maryam Douiba, Azidine Guezzaz, Vladimir Kokh, Sergey D. Erokhin, Elena V. Tutubalina, Oleg Y. Rogov

机构 * MIPT（莫斯科国立信息安全学院） ； Sberbank（俄罗斯储蓄银行） ； AIRI（人工智能研究机构） ； MTUCI（莫斯科联邦大学） ； ISP RAS（俄罗斯科学院信息与通信技术研究所） ； Cadi Ayyad University（卡迪·艾亚德大学） 纠错

专题命中 越狱攻击 ：alignment(abstract)；jailbreak(abstract)；分类 cs.CL

Comments 9 pages, 1 figure; article under review