University of Cambridge（剑桥大学）

Visualizing token importance for black-box language models

对黑盒语言模型的令牌重要性可视化

Paulius Rauba, Qiyao Wei, Mihaela van der Schaar

机构 * University of Cambridge（剑桥大学） 纠错

AI总结 本文提出DBSA方法，用于可视化黑盒语言模型中各输入令牌的重要性，以评估模型输出对输入的依赖性。

Journal ref Proceedings of the 28th International Conference on Artifi- cial Intelligence and Statistics (AISTATS) 2025, Mai Khao, Thailand. PMLR: Volume 258