Beyond Layer Importance in Layer-wise Sparsity: An Inter-Layer Perturbation-Absorption Perspective
超越逐层稀疏中的层重要性:层间扰动吸收视角
机构 * University of Science and Technology of China(中国科学技术大学)
AI总结 本文通过受控扰动实验发现大语言模型中不同层对剪枝扰动的响应存在异质性,早期层放大扰动而中后期层吸收扰动,并基于此提出吸收感知校正方法,在70%稀疏度下降低困惑度7.13%并提升零样本准确率1.02%。
Comments 10 pages, 4 figures, 4 tables. Submitted to EMNLP 2026