Cornell University（康奈尔大学）

Updating Parametric Knowledge with Context Distillation Retains Post-Training Capabilities

通过上下文蒸馏更新参数化知识可保留训练后能力

Shankar Padmanabhan, Mustafa Omer Gul, Tanya Goyal

机构 * Department of Computer Science, Cornell University（康奈尔大学计算机科学系） 纠错

AI总结 本文提出DiSC方法，通过上下文蒸馏实现持续知识适应，有效平衡新知识学习与原有能力保持。

Comments 15 pages. Preprint, under review