大模型对齐与安全

No for Some, Yes for Others: Persona Prompts and Other Sources of False Refusal in Language Models

Flor Miriam Plaza-del-Arco, Paul Röttger, Nino Scherrer, Emanuele Borgonovo, Elmar Plischke, Dirk Hovy

机构 * LIACS, Leiden University（莱顿大学 LIACS） ； Bocconi University（博科尼大学） ； Independent Researcher（独立研究者） ； Boconni University（博科尼大学） ； Helmholtz-Zentrum Dresden-Rossendorf（德累斯顿-罗斯托克亥姆霍兹中心） 纠错

专题命中 安全训练 ：alignment(abstract)；safety(abstract)；分类 cs.CL

Incentives for Digital Twins: Task-Based Productivity Enhancements with Generative AI

Catherine Wu, Arun Sundararajan

专题命中 安全训练 ：alignment(abstract)