arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

大模型对齐与安全

大模型对齐、安全、越狱、红队、提示注入和可信评测。

2025-12-03 至 2025-12-03 共收录 1 信号源:cs.CL, cs.AI, cs.CY, cs.LG

1. 红队测试 1 篇

2512.02157 2025-12-03 cs.CR cs.CL 57%

Factor(T,U): Factored Cognition Strengthens Monitoring of Untrusted AI

因子(T,U):因子认知强化对不可信AI的监控

Aaron Sandoval, Cody Rushing

机构 * Independent(独立研究者)

专题命中 红队测试 :safety(abstract);分类 cs.CL

AI总结 本文提出基于因子认知的AI控制协议,通过分解任务和独立解决子任务来提高安全性,实验显示其在提升监控性能和降低后门风险方面具有显著效果。

Comments 7 pages body; 19 pages total; 8 figures

详情

展开后加载摘要…

URL PDF HTML 收藏