Li Auto（理想汽车）

Trajectory-Level Speculative Decoding for Diffusion Language Models

用于扩散语言模型的轨迹级推测解码

Tianxiang Pan, Baitao Gong, Mo Guang, Hongwei Yong, Tianpeng Jiang, Yaqian Li, Zheng Cao, Kaiwen Long

机构 * Li Auto Inc.（理想汽车） 纠错

AI总结 针对扩散语言模型低置信度下吞吐量受限的问题，提出轨迹级推测解码框架，结合置信度分层树探索与分块并行评估，实现7-14倍加速且准确率变化极小。