大模型对齐与安全

Meta SecAlign: A Secure Foundation LLM Against Prompt Injection Attacks

Meta SecAlign: 一种针对提示注入攻击的 secure LLM 基础

Sizhe Chen, Arman Zharmagambetov, David Wagner, Chuan Guo

机构 * FAIR at Meta（Meta 的 FAIR 部门） ； UC Berkeley（加州大学伯克利分校） 纠错

专题命中 提示注入 ：prompt injection(title,abstract)；分类 cs.AI

AI总结 Meta SecAlign 是首个开源的 LLM，具备内置的模型级防御，实现了商业级性能，且在复杂代理任务中表现优异，同时在提示注入攻击中展现出更高的安全性。