大模型对齐与安全

Manipulating Multimodal Agents via Cross-Modal Prompt Injection

Le Wang, Zonghao Ying, Tianyuan Zhang, Siyuan Liang, Shengshan Hu, Mingchuan Zhang, Aishan Liu, Xianglong Liu

机构 * Beihang University（北洋大学） ； National University of Singapore（新加坡国立大学） ； Huazhong University of Science and Technology（华中科技大学） ； Henan University of Science and Technology（河南科技大学） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；alignment(abstract)；safety(abstract)

Comments 16 pages, 5 figures