Towards Stabilized and Efficient Diffusion Transformers through Long-Skip-Connections with Spectral Constraints
通过谱约束的长跳连接实现稳定高效的扩散变换器
机构 * Shanghai Jiao Tong University(上海交通大学) ; Shanghai Artificial Intelligence Laboratory(上海人工智能实验室) ; The University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校) ; SKL-IOTSC, CIS, University of Macau(澳门大学SKL-IOTSC、CIS) ; Huazhong University of Science and Technology(华中科技大学) ; The Chinese University of Hong Kong(香港中文大学)
专题命中 视频扩散模型 :video generation(abstract);分类 cs.CV
AI总结 通过引入长跳连接和谱约束,Skip-DiT实现了图像和视频生成中的稳定高效扩散变换器,显著提升了训练和推理效率。
Comments 17 pages, 8 figures