大模型对齐与安全

UDora: A Unified Red Teaming Framework against LLM Agents by Dynamically Hijacking Their Own Reasoning

Jiawei Zhang, Shuang Yang, Bo Li

机构 * Department of Computer Science, University of Chicago（芝加哥大学计算机科学系） ； Meta ； Department of Computer Science, University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校计算机科学系） 纠错

专题命中 红队测试 ：red teaming(title,abstract)；分类 cs.AI、cs.LG