Growing a Multi-head Twig via Distillation and Reinforcement Learning to Accelerate Large Vision-Language Models
通过蒸馏和强化学习生长多头Twig以加速大视觉-语言模型
机构 * Zhejiang Key Laboratory of Space Information Sensing and Transmission, School of Computer Science, Hangzhou Dianzi University（浙江省空间信息感知与传输重点实验室，计算机学院，杭州电子科技大学） ； Li Auto Inc.（理想汽车） ； School of Intelligence Science and Engineering, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）智能科学与工程学院）
AI总结 本文提出TwigVLM，通过在基础VLM早期层上生长轻量模块Twig，结合 Twig 引导的 token 剪枝和自推测解码策略，实现更高的准确性和速度。实验表明， TwigVLM 在剪枝88.9%的视觉token后仍保持96%的原始性能，并在生成长响应时达到154%的速度提升。
Comments An extended version of our ICCV paper at ICCV2025/html/Shao_Growing_a_Twig_to_Accelerate_Large_Vision-Language_Models_ICCV_2025_paper.html" target="_blank" rel="noopener">https://openaccess.thecvf.com/content/ICCV2025/html/Shao_Growing_a_Twig_to_Accelerate_Large_Vision-Language_Models_ICCV_2025_paper.html
