大模型对齐与安全

Automatic Red Teaming LLM-based Agents with Model Context Protocol Tools

Ping He, Changjiang Li, Binbin Zhao, Tianyu Du, Shouling Ji

机构 * College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院） ； Palo Alto Networks（帕洛阿尔托网络公司） ； School of Software Technology, Zhejiang University（浙江大学软件技术学院） 纠错

专题命中 红队测试 ：red teaming(title,abstract)；分类 cs.AI