ActionFlow: A Pipelined Action Acceleration for Vision Language Models on Edge
ActionFlow:面向边缘设备的视觉语言模型流水线动作加速
机构 * School of Computer Science and Technology, University of Science and Technology of China(计算机科学与技术学院,中国科学技术大学) ; Suzhou Institute for Advanced Research, University of Science and Technology of China(苏州市先进研究院,中国科学技术大学) ; IEIT SYSTEMS Co., Ltd.(IEIT SYSTEMS公司)
专题命中 GUI与屏幕智能体 :vision language model(title);分类 cs.AI
AI总结 ActionFlow通过跨请求流水线策略提升边缘设备上VLA模型的推理速度,实现2.55倍的FPS提升,无需重新训练。