Mechanistic Interpretability of EEG Foundation Models via Sparse Autoencoders
基于稀疏自编码器的脑电图基础模型机制可解释性
机构 * BrainCapture ; DTU Health Tech(技术大学丹麦健康技术) ; DTU Compute(技术大学丹麦计算) ; Department of Biomedical Data Science(生物医学数据科学系) ; Department of Computer Science(计算机科学系) ; Seer Medical(Seer医疗) ; Filadelfia Epilepsy Hospital(菲拉德尔菲亚癫痫医院) ; University Hospital of Copenhagen(哥本哈根大学医院)
专题命中 EEG解码 :EEG(title,summary_cn);分类 cs.LG、cs.HC
AI总结 通过TopK稀疏自编码器从三种EEG Transformer中提取稀疏特征字典,结合临床分类法评估单语义性和纠缠性,并引入概念引导分析目标与非目标区域,揭示模型表征失败和临床纠缠问题。
Comments Preprint. 14 pages, 7 figures, 4 tables