Scalable Power Sampling: Unlocking Efficient, Training-Free Reasoning for LLMs via Distribution Sharpening
可扩展的功率采样:通过分布锐化实现LLM的高效无训练推理
机构 * Huawei Noah's Ark Lab(华为诺亚实验室) ; UCL Centre for Artificial Intelligence(伦敦大学学院人工智能中心)
专题命中 测试时计算 :reasoning(title,abstract);verifier(abstract);分类 cs.AI、cs.LG
AI总结 本文提出了一种无训练、无验证器的算法,通过分布锐化提升LLM的推理效率,减少计算成本,实现高效推理。