AFA-LoRA: Enabling Non-Linear Adaptations in LoRA with Activation Function Annealing
AFA-LoRA:通过激活函数退火在LoRA中实现非线性适应
机构 * Meituan, Beijing, China(美团,北京,中国) ; Hong Kong University of Science and Technology(香港科技大学)
AI总结 AFA-LoRA通过退火激活函数在LoRA中引入非线性表达能力,提升参数高效适应的性能和实用性。