NeuroAda: Activating Each Neuron's Potential for Parameter-Efficient Fine-Tuning
NeuroAda:激活每个神经元的潜力以实现参数高效的微调
机构 * ILLC, University of Amsterdam(伊拉斯谟范例研究中心,阿姆斯特丹大学)
AI总结 该研究提出新型PEFT方法NeuroAda,通过为选中的网络参数引入旁路连接,仅更新旁路连接实现细粒度微调,仅需≤0.02%可训练参数,内存降60%,在23+任务上达SOTA性能
Journal ref EMNLP 2025