DARTS: Decoder-Aware Representation Tuning via Surgery for Model Merging
DARTS:通过“手术”实现感知解码器的表示调优以完成模型合并
机构 * ServiceNow(ServiceNow(服务now公司)) ; University of Twente(特温特大学)
AI总结 针对模型合并中解码器存在的表示偏差挑战,本文提出DARTS方法,通过熵加权L1损失与逐位置加性偏差校正,在三类任务上较标准方法获显著改进且新增参数极少。
Comments Accepted to EMNLP 2026 Main Conference