Which Tokens Matter? Adaptive Token Selection for RLVR with the Relative Surprisal Index
哪些Token重要?基于相对惊讶指数的自适应Token选择用于RLVR
机构 * ModelScope Team(ModelScope团队) ; Alibaba Group(阿里巴巴集团) ; Shanghai Jiao Tong University(上海交通大学)
AI总结 提出相对惊讶指数(RSI)度量,通过自适应Token过滤方法RSI-S解决RLVR中高熵与低概率Token的矛盾,在AIME和AMC基准上提升avg@32准确率2-3个百分点。
Comments 13 pages, 4 figures