Anthropic

Slot Machines: How LLMs Keep Track of Multiple Entities

老虎机：大语言模型如何跟踪多个实体

Paul C. Bogdan, Jack Lindsey

机构 * Anthropic Fellows Program（Anthropic 合作者计划） 纠错

AI总结 研究探讨了大语言模型如何在上下文中绑定多个实体及其属性，通过多槽探针方法揭示当前实体与前一实体的表示机制，发现当前实体槽用于事实检索，而前一实体槽支持关系推理，但存在信息与实际使用之间的差距。