基于模型融合的持续学习中任务特定知识的遗忘
Forgetting of task-specific knowledge in model merging-based continual learning
Department of Electrical Engineering (ESAT), KU Leuven, Belgium（电气工程系（ESAT），鲁文大学，比利时）
AI总结：
该研究聚焦持续学习中的模型线性融合问题，通过视觉实验证实融合可保留增强共享知识但会导致任务特定知识退化，且增量训练模型的融合效果优于并行训练模型。
摘要：
本文研究了持续学习（CL）场景下的模型线性融合问题。在计算机视觉实验中通过受控视觉线索，我们证实融合在很大程度上保留或增强了共享知识，但未共享的任务特定知识会快速退化。我们进一步发现，融合增量训练过程得到的模型，效果始终优于融合并行训练的模型。
英文摘要：
This paper investigates the linear merging of models in the context of continual learning (CL). Using controlled visual cues in computer vision experiments, we demonstrate that merging largely preserves or enhances shared knowledge, while unshared task-specific knowledge rapidly degrades. We further find that merging models from an incremental training process consistently outperforms merging models trained in parallel.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
