大模型对齐与安全

RouteScan: A Non-Intrusive Approach to Auditing MoE LLMs Safety via Expert Routing Telemetry

RouteScan: 通过专家路由遥测对MoE大语言模型安全性进行非侵入式审计

Bo Lv, Zhiheng Xu, KeDong Xiu, Ruyi Ding, Tianhang Zheng, Zhibo Wang, Kui Ren

机构 * Zhejiang University（浙江大学） ； Donghua University（东华大学） ； Louisiana State University（路易斯安那州立大学） 纠错

专题命中 隐私与版权 ：safety(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出RouteScan，一种利用MoE模型GPU级专家路由遥测（如预填充阶段活跃线程数）作为微架构指纹，通过轻量级检测流水线识别恶意提示的非侵入式审计框架，在未见过的有害领域AUROC超0.93，新越狱包装下超0.96，且相比基于内容的审计方法具有隐私优势。

Comments 11 pages. Revised manuscript with expanded experiments