Efficient Frame Selection for Long Videos at Test Time with Attention-Based MLLM Selectors
基于注意力的MLLM选择器在测试时对长视频进行高效帧选择
机构 * ZJU(浙江大学) ; NJU(南京大学) ; CSU(中南大学) ; Microsoft(微软公司) ; NJUST(南京理工大学)
AI总结 研究利用MLLMs中验证选择提取层的跨模态注意力构建无训练的DAFS帧选择器,通过查询条件聚合提取帧级证据,将候选池大小和每帧令牌预算联合分配问题用动态规划解决,在Video-MME上表现出色,且无需重新训练即可跨多种模型和任务泛化。