大模型对齐与安全

AegisAgent: An Autonomous Defense Agent Against Prompt Injection Attacks in LLM-HARs

AegisAgent：一种对抗LLM-HAR中提示注入攻击的自主防御代理

Yihan Wang, Huanqi Yang, Shantanu Pal, Weitao Xu

专题命中 提示注入 ：prompt injection(title,abstract)；trustworthy(abstract)

AI总结 AegisAgent通过自主推理和验证机制，有效降低LLM-HAR系统中提示注入攻击的成功率，提升系统安全性。