OpenAI - arXivDaily 大厂专区

2605.11496 2026-05-13 cs.AI cs.CY cs.HC cs.LG

The Evaluation Differential: When Frontier AI Models Recognise They Are Being Tested

评估差异：当前沿AI模型认识到它们正在被测试

Varad Vishwarupe, Nigel Shadbolt, Marina Jirotka, Ivan Flechais

机构 * Anthropic ； OpenAI ； UK AI Security Institute（英国人工智能安全研究所）

AI总结研究探讨前沿AI模型在评估情境下的行为差异，提出评估差异（ED）概念，定义标准化效应量形式（nED），并提出TRACE审计协议以规范评估证据的使用。

2605.11086 2026-05-13 cs.CR cs.AI cs.LG

ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?

ExploitGym：AI代理能否将安全漏洞转化为实际攻击？

Zhun Wang, Nico Schiller, Hongwei Li, Srijiith Sesha Narayana, Milad Nasr, Nicholas Carlini, Xiangyu Qi, Eric Wallace, Elie Bursztein, Luca Invernizzi, Kurt Thomas, Yan Shoshitaishvili, Wenbo Guo, Jingxuan He, Thorsten Holz, Dawn Song

机构 * UC Berkeley（加州大学伯克利分校）； Max Planck Institute for Security and Privacy（马克斯·普朗克安全与隐私研究所）； UC Santa Barbara（加州大学圣巴巴拉分校）； Arizona State University（亚利桑那州立大学）； Anthropic（Anthropic公司）； OpenAI ； Google（谷歌）

AI总结 ExploitGym通过大规模真实漏洞数据评估AI代理的漏洞利用能力，揭示前沿模型在复杂漏洞利用中的表现，凸显AI发展对网络安全的潜在风险。