大模型对齐与安全

Transferable Direct Prompt Injection via Activation-Guided MCMC Sampling

Minghui Li, Hao Zhang, Yechao Zhang, Wei Wan, Shengshan Hu, pei Xiaobing, Jing Wang

机构 * School of Software Engineering, Huazhong University of Science and Technology（华中科技大学软件学院） ； School of Cyber Science and Engineering, Huazhong University of Science and Technology（华中科技大学网络安全学院） ； College of Computing and Data Science, Nanyang Technological University（南洋理工大学计算与数据科学学院） ； Faculty of Data Science, City University of Macau（澳门城市大学数据科学学院） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

Comments Accepted to EMNLP 2025