A Shared Subcircuit Lets LLMs Count Down Across Tasks
一个共享子电路使大语言模型能够跨任务进行倒计时
机构 * Yale University（耶鲁大学） ； Anthropic
AI总结 研究发现Llama-3.1-70B-Instruct中有个“倒计时子电路”可跨任务执行特定任务，先在受控设置中分离它，再研究其表示几何结构，发现与另一模型有相同模式，还通过无监督探测找到其用于多种任务的情况，有助于理解行为推广。
Comments 12 pages, 11 figures
