Efficient and Trainable Language Model Test-Time Scaling via Local Branch Routing
通过局部分支路由实现高效且可训练的语言模型测试时扩展
机构 * Northwestern University(西北大学) ; Rutgers University(罗格斯大学) ; University of Wisconsin–Madison(威斯康星大学麦迪逊分校) ; Carnegie Mellon University(卡内基梅隆大学) ; LMSYS Org(LMSYS组织) ; Tilde Research(Tilde研究) ; University of California, Santa Barbara(加州大学圣塔芭芭拉分校) ; University of Toronto(多伦多大学) ; University of British Columbia(不列颠哥伦比亚大学) ; University of California, San Diego(加州大学圣迭戈分校)
专题命中 规划决策 :planning(abstract);分类 cs.CL
AI总结 提出局部分支路由(LBR)框架,通过轻量级路由器选择局部前瞻树中的深度-1子路径,实现令牌级测试时扩展,在数学推理基准上优于链式思维和软令牌分支基线。