Anatomy of an Idiom: Tracing Non-Compositionality in Language Models
成语的解剖:追踪语言模型中的非组合性
机构 * Theoretical Particle Physics Laboratory, Institute of Physics, EPFL, Lausanne, Switzerland(理论粒子物理实验室,物理研究所,EPFL,洛桑,瑞士)
AI总结 本文研究了语言模型处理习语的非组合性机制,通过电路发现技术揭示了习语处理中的注意力模式和增强接收现象。