Kuaishou（快手）

Counteraction-Aware Multi-Teacher On-Policy Distillation for General Capability Recovery with Domain Preservation

基于对抗感知的多教师同策略蒸馏以实现领域保留下的通用能力恢复

Tianlei Chen, Jiao Ou, Ziyuan Liu, Ruiming Tang, Jian Liang, Han Li

机构 * Kuaishou Technology, Beijing, China（快手科技，北京，中国） 纠错

AI总结 针对多教师同策略蒸馏在提示覆盖不完全时出现的恢复-保留对抗和弱信号平坦化问题，提出CaMOPD方法，通过解耦交替训练和基于差距的样本选择，在保持领域性能的同时有效恢复通用能力。