Ceiling-Clipped Acceptance Histograms Indicate Stranded Speed-up in Block-Diffusion Speculative Decoding
截断上限的接受直方图揭示块扩散投机解码中的搁浅加速
机构 * Advanced Micro Devices, Inc.(超威半导体公司)
AI总结 该研究发现块扩散投机解码存在搁浅加速问题,提出 DBloom 方法对草稿器后训练扩展块大小,在多个模型和基准上提升了提交长度,且优于 JetSpec。