Head Pursuit: Probing Attention Specialization in Multimodal Transformers
头部追踪:探究多模态转换器中的注意力专业化
机构 * Area Science Park(面积科学公园) ; Sapienza University of Rome(罗马萨皮恩扎大学) ; Institute of Science and Technology(科学与技术研究所)
专题命中 视觉问答 :vision-language model(abstract);分类 cs.CV、cs.LG
AI总结 本研究通过分析多模态转换器中注意力头的专业化,揭示了模型内部可控的结构,并展示了通过编辑少量头部以增强或抑制特定概念的可行性。
Comments Accepted at NeurIPS 2025 (spotlight)