SigLino: Efficient Multi-Teacher Distillation for Agglomerative Vision Foundation Models
SigLino:高效多教师蒸馏用于聚类视觉基础模型
机构 * Technology Innovation Institute(技术创新研究所) ; Tuebingen AI Center/University of Tuebingen(图宾根人工智能中心/图宾根大学) ; MIT-IBM Watson AI Lab(MIT-IBM Watson AI实验室)
AI总结 本文提出SigLino,一种高效的聚类视觉基础模型,通过同时蒸馏SigLIP2和DINOv3的知识到密集和专家混合学生中,提升了多教师蒸馏的效率与效果。
Comments 17 pages, 8 figures, 11 tables