Qualcomm（高通）

Cross-Space Distillation: Teaching One-Step Students with Modern Diffusion Teachers

跨空间蒸馏：用现代扩散教师训练一步学生模型

Anh Nguyen, Ngan Nguyen, Duc Vu, Trung Dao, Viet Nguyen, Quan Dao, Kien Nguyen, Chi Tran, Phong Nguyen, Khoi Nguyen, Cuong Pham, Dimitris Metaxas, Vishal M. Patel, Anh Tran

机构 * Qualcomm AI Research（高通AI研究院） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Johns Hopkins University（约翰霍普金斯大学） ； Rutgers University（罗格斯大学） 纠错

AI总结 提出跨空间蒸馏框架，通过轻量级潜在接口Bridge解决教师与学生模型潜在空间不匹配问题，实现异构教师蒸馏到紧凑学生模型，显著提升性能。

Comments ECCV 2026

Mixture-of-Control: State-Aware Fine-Tuning for Transformer-based Models

控制混合：基于Transformer模型的状态感知微调

Duc Anh Nguyen, Tien Ngoc Luu, Tung Pham, Toan Tran

机构 * Qualcomm AI Research（高通人工智能研究院） 纠错

AI总结 提出Mixture-of-Control（MoC）框架，通过稀疏混合专家机制自适应融合局部和全局控制信号，增强Transformer块间信息交换，实现高效微调。

Comments ICML 2026 Workshop on Connecting Low-rank Representations in AI, CoLoRAI, 26 pages, 12 figures, 5 tables