Anthropic

Jailbroken Frontier Models Retain Their Capabilities

突破边界模型仍保留其能力

Daniel Zhu, Zihan Wang, Jenny Bao, Jerry Wei

机构 * Anthropic 纠错

AI总结 研究发现，模型能力越强，越能抵御 jailbreak，且推理任务比知识回忆任务更易受攻击，边界点 jailbreaking 几乎无损安全模型。