OPOD: On-Policy Omni Distillation
OPOD:基于策略的全模态蒸馏
机构 * Tencent(腾讯)
AI总结 研究旨在提升全模态模型能力,提出基于策略的全模态蒸馏(OPOD)方法,将学生响应路由到对应模态教师,调整教师影响,训练后仅留可部署的全模态模型,在多基准测试和多种骨干网络规模下取得优异成绩。
大厂专区
OPOD:基于策略的全模态蒸馏
机构 * Tencent(腾讯)
AI总结 研究旨在提升全模态模型能力,提出基于策略的全模态蒸馏(OPOD)方法,将学生响应路由到对应模态教师,调整教师影响,训练后仅留可部署的全模态模型,在多基准测试和多种骨干网络规模下取得优异成绩。