Prompting4Debugging: Red-Teaming Text-to-Image Diffusion Models by Finding Problematic Prompts
Prompting4Debugging: 通过寻找问题性提示对文本到图像扩散模型进行红队测试
机构 * Department of Computer Science, National Yang Ming Chiao Tung University, Hsinchu, Taiwan(国家阳明交通大学计算机科学系) ; IBM Research, NY 10598, USA(IBM研究院)
专题命中 文生图 :text-to-image(title,abstract);diffusion(title,abstract);分类 cs.CV
AI总结 Prompting4Debugging通过寻找问题性提示揭示文本到图像扩散模型的安全漏洞,表明现有安全机制存在重大缺陷。
Comments ICML 2024 main conference paper. The source code is available at https://github.com/zhiyichin/P4D