Factor(T,U): Factored Cognition Strengthens Monitoring of Untrusted AI
因子(T,U):因子认知强化对不可信AI的监控
机构 * Independent(独立研究者)
专题命中 红队测试 :safety(abstract);分类 cs.CL
AI总结 本文提出基于因子认知的AI控制协议,通过分解任务和独立解决子任务来提高安全性,实验显示其在提升监控性能和降低后门风险方面具有显著效果。
Comments 7 pages body; 19 pages total; 8 figures