On-Policy Self-Distillation with Sampled Demonstrations Reduces Output Diversity
基于采样演示的在线自蒸馏降低了输出多样性
机构 * Mila ; Université de Montréal(蒙特利尔大学) ; FAIR at Meta(Meta的FAIR) ; CIFAR AI Chair(CIFAR人工智能主席)
AI总结 本文发现在线自蒸馏虽提升pass@1准确率,但会降低输出多样性并导致pass@k曲线平坦,通过理论分析揭示了其放大概率差距的机制,并在路径规划与科学问答任务中验证了该问题。