Qualcomm（高通）

Knowledge Distillation for Visual Autoregressive Models

视觉自回归模型的知识蒸馏

Elia Peruzzo, Aritra Bhowmik, Guillaume Sautiere, Yuki M Asano, Amirhossein Habibian

机构 * Qualcomm AI Research（高通人工智能研究） ； University of Technology Nuremberg（纽伦堡技术大学） 纠错

AI总结 针对视觉自回归模型计算开销大的问题，提出VarKD蒸馏框架，通过选择性教师监督和减少令牌级歧义，在ImageNet上多个AR骨干网络中优于现有蒸馏方法。

Mobile Video Diffusion

移动视频扩散

Haitam Ben Yahia, Denis Korzhenkov, Ioannis Lelekas, Amir Ghodrati, Amirhossein Habibian

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

AI总结 本文提出了一种移动优化的视频扩散模型MobileVD，通过降低帧分辨率、引入多尺度时间表示和两种新的剪枝方案，显著降低了内存和计算成本，同时在移动设备上实现了高效的视频生成。