Fudan University（复旦大学）

A Token-Level Analysis of Sampled-Token Reverse-KL On-Policy Distillation

采样token反向KL策略上蒸馏的token级分析

Bing Shao, Jiazheng Zhang, Long Ma, Yujiong Shen, Senjie Jin, Xin Guo, Yuming Yang, Mingxu Chai, Zhiheng Xi, Boyang Liu, Junlin Shang, Tao Gui, Qi Zhang, Xuanjing Huang

机构 * College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） 纠错

AI总结 本研究分析反向KL策略上蒸馏的梯度特性，提出Surprise-aware Reweighting（SuRe）加权规则，在Qwen3学生模型上提升了数学指标且域外基准无明显下降。

Comments 16 pages, 7 figures; v2 adds Boyang Liu and Junlin Shang to the author list; scientific content unchanged