大模型对齐与安全

Super Suffixes: Bypassing Text Generation Alignment and Guard Models Simultaneously

超后缀：同时绕过文本生成对齐和防护模型

Andrew Adiletta, Kathryn Adiletta, Kemal Derya, Berk Sunar

机构 * MITRE（MITRE公司） ； Worcester Polytechnic Institute（沃斯顿理工学院） 纠错

专题命中 越狱攻击 ：alignment(title,abstract)；分类 cs.AI

AI总结 本文提出超后缀技术，通过联合优化绕过Llama Prompt Guard 2，同时提出DeltaGuard检测方法提升对抗性提示防御效果。

Comments 13 pages, 5 Figures