AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2026-08-24 至 2026-08-24 共收录 2 篇信号源：cs.CL, cs.AI, cs.CY, cs.LG

1. 提示注入 2 篇

2608.21230 2026-08-24 cs.CR cs.AI 新提交 57%

受攻击下的效用：智能体记忆投毒及内容筛选与来源排序的局限性

Arulnidhi Karunanidhi

专题命中提示注入：prompt injection(abstract)；分类 cs.AI

AI总结该研究针对智能体记忆投毒问题，测试了内容筛选和来源排序的防御效果，发现仅内容筛选无法抵御投毒，来源加权检索也存在局限，主张采用有限占用约束并发布了相关资源。

2608.21126 2026-08-24 cs.CR 新提交 50%

TraceGrant：一种用于联网LLM智能体任务-效应生命周期的合约治理安全框架

Bohao Liao, Jingchao Wang, Qipeng Song, Jin Cao, Jieling Wang, Boyu Deng

专题命中提示注入：prompt injection(abstract)

AI总结 TraceGrant是通过显式合约治理联网LLM智能体任务-效应生命周期的安全框架，在两类基准攻击案例中未出现攻击成功，且能关联用户意图、执行与任务完成。