大模型对齐与安全

Evaluating Language Model Agency through Negotiations

通过谈判评估语言模型的代理能力

Tim R. Davidson, Veniamin Veselovsky, Martin Josifoski, Maxime Peyrard, Antoine Bosselut, Michal Kosinski, Robert West

机构 * EPFL（瑞士联邦理工学院） ； UGA（普罗万大学） ； CNRS（法国国家科学研究中心） ； LIG（里莫恩-盖朗实验室） ； Stanford University（斯坦福大学） 纠错

专题命中 隐私与版权 ：alignment(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过谈判游戏评估语言模型的代理能力，发现封闭源模型更擅长完成任务，合作谈判游戏最具挑战性，且强模型可能输给弱对手。

Comments Accepted to ICLR 2024, code and link to project data are made available at https://github.com/epfl-dlab/LAMEN