AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-02-13 至 2026-02-13 共收录 1 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 提示注入 1 篇

2602.11416 2026-02-13 cs.CR cs.LG 57%

优化安全与自主性的智能体规划

Aashish Kolluri, Rishi Sharma, Manuel Costa, Boris Köpf, Tobias Nießen, Mark Russinovich, Shruti Tople, Santiago Zanella-Béguelin

专题命中提示注入：prompt injection(abstract)；分类 cs.LG

AI总结本文提出了一种安全意识智能体，通过增强人工监督交互和规划任务进展与政策合规性，提高自主性并减少对人工监督的依赖。

Comments 33 pages, 6 figures

↑