A Framework for Inherently Safer AGI through Language-Mediated Active Inference
机构 * IBM T.J. Watson Research Center（IBM T.J. Watson研究院）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)；AI safety(abstract)；分类 cs.AI、cs.LG
AI 大模型
大模型对齐与安全
大模型对齐、安全、越狱、红队、提示注入和可信评测。
1. 安全训练 2 篇
VerificAgent: Domain-Specific Memory Verification for Scalable Oversight of Aligned Computer-Use Agents
机构 * Microsoft（微软公司） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.LG
