Cisco（思科）

Manifold of Failure: Behavioral Attraction Basins in Language Models

失败的流形：语言模型中的行为吸引盆地

Sarthak Munshi, Manish Bhatt, Vineeth Sai Narajala, Idan Habler, Ammar Al-Kahfah, Ken Huang, Blake Gatto

机构 * Amazon Web Services（亚马逊网络服务） ； Cisco（思科） ； Shrewd Security（精明安全） 纠错

AI总结 本文提出了一种基于MAP-Elites的方法，用于系统地映射语言模型的失败流形，揭示不同模型的拓扑结构和漏洞分布。