Qualcomm（高通）

A Comparative analysis of Layer-wise Representational Capacity in AR and Diffusion LLMs

对AR和扩散LLM中逐层表示能力的比较分析

Raghavv Goel, Risheek Garrepalli, Sudhanshu Agrawal, Chris Lott, Mingu Lee, Fatih Porikli

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

AI总结 本文比较了AR和扩散LLM的表示能力，发现扩散模型产生更全局的表示，而AR模型产生紧密耦合的局部表示，扩散训练引入深度冗余以实现原理性压缩。

Comments v4: improving writing and adding Qwen2.5-Instruct results with all v3 changes