Towards Understanding Best Practices for Quantization of Vision-Language Models
朝着理解视觉-语言模型量化最佳实践
机构 * University of Maryland, College Park(马里兰大学学院公园分校)
AI总结 本研究探讨了视觉-语言模型量化方法对多模态流水线性能的影响,发现LLM低位量化在减少bpw时仍保持高精度,为高效部署MLLMs提供实践指导。
Comments 15 pages, 12 figures, 1 table