DAWN: Dependency-Aware Fast Inference for Diffusion LLMs
DAWN: 依赖感知的快速扩散语言模型推理
机构 * Nanyang Technological University(南洋理工大学) ; AUMOVIO-NTU Corporate Lab, Nanyang Technological University(AUMOVIO-NTU企业实验室,南洋理工大学) ; Southern University of Science(南方科技大学) ; SIGS, Tsinghua University(系统所,清华大学) ; AUMOVIO Singapore Pte. Ltd.(AUMOVIO新加坡私人有限公司)
AI总结 DAWN通过依赖感知解码方法提升扩散语言模型推理效率,实现1.80-8.06倍的速度提升同时保持生成质量。