Token-Based Detection of Spurious Correlations in Vision Transformers
基于Token的视觉Transformer虚假相关性检测
机构 * Center for Biosystems and Biotech Data Science(生物系统与生物技术数据科学中心) ; Ghent University Global Campus(根特大学全球校区) ; State University of New York Korea(纽约州立大学韩国分校) ; Department of Mathematics(数学系) ; Université de Liège(列日大学) ; Department of Applied Mathematics, Computer Science and Statistics(应用数学、计算机科学与统计学系) ; Ghent University(根特大学) ; Department of Electronics and Information Systems(电子与信息系统系)
专题命中 VLM训练与架构 :grounding(abstract);分类 cs.CV、cs.AI
AI总结 本研究提出基于Token的诊断流程,通过留一Token移除法检测视觉Transformer中的虚假相关性,经ImageNet等实验验证了方法的有效性,还探讨了虚假信号的来源及相关案例。
Comments Accepted for publication in Transactions on Machine Learning Research (TMLR)