Towards Efficient Large Vision-Language Models: A Comprehensive Survey on Inference Strategies
迈向高效的大型视觉-语言模型:关于推理策略的综合调查
机构 * George Mason University(乔治梅森大学)
专题命中 其他推理 :reasoning(abstract);分类 cs.CL、cs.LG
AI总结 本文综述了提升大型视觉语言模型推理效率的最新方法,从视觉token压缩、内存管理、架构设计和解码策略四个维度进行分类,并指出当前方法的局限性及未来研究方向。
Comments 12 pages