Investigating The Functional Roles of Attention Heads in Vision Language Models: Evidence for Reasoning Modules
探讨视觉语言模型中注意力头的功能作用:推理模块的证据
机构 * The University of Melbourne(墨尔本大学) ; The University of Sydney(悉尼大学)
专题命中 复杂问题求解 :reasoning(title,abstract);chain-of-thought(abstract);分类 cs.AI
AI总结 本文通过CogVision数据集探讨视觉语言模型中注意力头的功能作用,揭示其在多模态推理中的关键作用及分布特征。