HBO: Hierarchical Balancing Optimization for Fine-Tuning Large Language Models
HBO:用于微调大语言模型的分层平衡优化
机构 * School of Informatics, University of Edinburgh(爱丁堡大学信息学院) ; Tongyi Lab, Alibaba Group(阿里集团通义实验室)
专题命中 指令微调 :large language model(title,abstract);language model(title,abstract);LLM(abstract);分类 cs.CL
AI总结 HBO通过分层平衡优化方法,在LLM微调中解决数据不平衡和异质性问题,提升跨数据集和单数据集的训练效果。