大模型对齐与安全

Enhancing Prompt Injection Attacks to LLMs via Poisoning Alignment

Zedian Shao, Hongbin Liu, Jaden Mu, Neil Zhenqiang Gong

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Duke University（杜克大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 提示注入 ：alignment(title,abstract)；prompt injection(title,abstract)；分类 cs.CL、cs.AI、cs.LG

EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System

Pavan Reddy, Aditya Sanjay Gujral

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

Comments 8 pages content, 1 page references, 2 figures, Published at AAAI Fall Symposium Series 2025

Multi-Agent Systems Execute Arbitrary Malicious Code

Harold Triedman, Rishi Jha, Vitaly Shmatikov

机构 * Cornell Tech（康奈尔科技） 纠错

专题命中 提示注入 ：prompt injection(abstract)；分类 cs.LG

Comments 33 pages, 5 figures, 7 tables