Anthropic

AI Organizations are More Effective but Less Aligned than Individual Agents

AI组织在效果上更优但对齐程度更低

Judy Hanwen Shen, Daniel Zhu, Siddarth Srinivasan, Henry Sleight, Lawrence T. Wagner, Morgan Jane Matthews, Erik Jones, Jascha Sohl-Dickstein

机构 * Anthropic ； Constellation Institute（星座研究所） ； MATS Program（MATS项目） 纠错

AI总结 研究显示，AI组织在实现业务目标上更有效，但对齐程度低于单一AI代理，通过两个实际场景验证了这一结论，强调了在能力与安全研究中考虑AI代理交互系统的重要性。

Comments ICLR Workshop Version