大模型对齐与安全

Prompt Optimization and Evaluation for LLM Automated Red Teaming

Michael Freenor, Lauren Alvarez, Milton Leal, Lily Smith, Joel Garrett, Yelyzaveta Husieva, Madeline Woodruff, Ryan Miller, Erich Kummerfeld, Rafael Medeiros, Sander Schulhoff

机构 * Fuel iX Applied Research（Fuel iX应用研究） ； North Carolina State University（北卡罗来纳州立大学） ； University of Minnesota（明尼苏达大学） ； TELUS Digital（TELUS数字） ； Learn Prompting 纠错

专题命中 红队测试 ：red teaming(title,abstract)；分类 cs.CL

Comments 9 pages, 5 Figures, and 1 Appendix item