Cognitive Mirrors: Exploring the Diverse Functional Roles of Attention Heads in LLM Reasoning
认知镜像:探索大语言模型推理中注意力头的多样化功能角色
机构 * The University of Melbourne(墨尔本大学) ; The University of Sydney(悉尼大学) ; Amazon(亚马逊公司)
专题命中 逻辑推理 :reasoning(title,abstract);chain-of-thought(abstract);logical reasoning(abstract);分类 cs.AI
AI总结 本文提出认知镜像框架,通过CogQA数据集分析LLM中注意力头的功能专业化,揭示其在推理任务中的关键作用。
Comments Accepted to NeurIPS 2025