大模型对齐与安全

Entropy-Aware Speculative Decoding Toward Improved LLM Reasoning

基于熵的推测解码：改进大语言模型推理

Tiancheng Su, Meicong Zhang, Guoxiu He

机构 * School of Economics and Management（经济管理学院） 纠错

专题命中 幻觉与事实性 ：alignment(abstract)；分类 cs.CL、cs.AI

AI总结 基于熵的推测解码通过动态熵惩罚提升大语言模型推理性能，实验表明其在多数情况下优于目标模型。