大模型对齐与安全

How Not to Detect Prompt Injections with an LLM

如何不通过LLM检测提示注入

Sarthak Choudhary, Divyam Anshumaan, Nils Palumbo, Somesh Jha

机构 * University of Wisconsin-Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文揭示了KAD方案的结构性漏洞，并提出DataFlip攻击方法，能够有效绕过KAD防御，实现低检测率和高恶意行为诱导率。