Domain Specific Specialization in Low-Resource Settings: The Efficacy of Offline Response-Based Knowledge Distillation in Large Language Models
低资源环境下领域特定专业化:基于离线响应的知识蒸馏在大语言模型中的有效性
专题命中 效率与部署 :large language model(title,abstract);language model(title,abstract);分类 cs.CL、cs.AI
AI总结 本文提出了一种基于离线响应的知识蒸馏方法,通过优化硬件资源,在低资源环境下实现高精度领域专用助手,验证了数据质量和结构对齐比数量更重要。
Comments 10 pages, 10 tables