InstructDiff: Domain-Adaptive Data Selection via Differential Entropy for Efficient LLM Fine-Tuning
InstructDiff:通过微分熵实现领域自适应的数据选择以实现高效的LLM微调
机构 * Peking University(北京大学) ; University of Wisconsin-Madison(威斯康星大学麦迪逊分校) ; Tsinghua University(清华大学) ; SUFE(上海财经大学) ; SUSTech(南方科技大学)
AI总结 InstructDiff通过微分熵实现领域自适应的数据选择,提升LLM微调效率,实验显示在数学推理和通用指令遵循任务上分别提高17%和52%。