大模型对齐与安全

Building Production-Ready Probes For Gemini

为Gemini构建生产级探针

János Kramár, Joshua Engels, Zheng Wang, Bilal Chughtai, Rohin Shah, Neel Nanda, Arthur Conmy

机构 * Google（谷歌） 纠错

专题命中 红队测试 ：safety(abstract)；red teaming(abstract)；AI safety(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出新的探针架构以应对长上下文分布变化，并通过实验验证其在网络安全领域的有效性，同时展示了自动化AI安全研究的初步成果。

Comments v4 (another minor acknowledgements fix)