大模型对齐与安全

Comparison requires valid measurement: Rethinking attack success rate comparisons in AI red teaming

比较需要有效的测量：重新思考AI红队中的攻击成功率比较

Alexandra Chouldechova, A. Feder Cooper, Solon Barocas, Abhinav Palia, Dan Vann, Hanna Wallach

机构 * Microsoft Research（微软研究院） 纠错

专题命中 红队测试 ：red teaming(title,abstract)；safety(abstract)；分类 cs.LG

AI总结 本文重新审视AI红队中攻击成功率的比较，指出其有效性问题并提出测量理论和统计学方法以评估比较的合理性。

Journal ref NeurIPS 2025