arXivDaily arXiv每日学术速递 周一至周五更新
北美退伍军人节(Veterans Day),12 日无更新
arXiv 2408.01346cs.CYcs.CLphysics.soc-ph
收藏

提示优化还是微调?在计算社会科学任务中使用大语言模型的最佳实践

Prompt Refinement or Fine-tuning? Best Practices for using LLMs in Computational Social Science Tasks

IT University of Copenhagen(哥本哈根信息技术大学);Pioneer Center for AI(人工智能先锋中心)

Anders Giovanni Møller, Luca Maria Aiello

AI总结:

本文通过在23项社会知识任务基准上评估现代大语言模型分类方法,提出三项最佳实践:选用更大词汇量和预训练语料库的模型、采用AI增强提示而非简单零样本,以及在任务数据上微调并视数据丰富度决定是否进行多数据集指令微调。

摘要:

大语言模型是富有表现力的工具,能够在计算社会科学中实现复杂的文本理解任务。它们的多功能性虽然有益,却为在该领域建立标准化的最佳实践设置了障碍。为了阐明不同策略的价值,我们对基于现代大语言模型的分类方法在涵盖23项社会知识任务的基准上的性能进行了概述。我们的结果指出了三项最佳实践:选择具有更大词汇量和更大预训练语料库的模型;避免简单的零样本方法,而采用人工智能增强的提示;在任务特定数据上进行微调,并且只有当训练数据更加丰富时,才考虑在多个数据集上进行更复杂形式的指令微调。

英文摘要:

Large Language Models are expressive tools that enable complex tasks of text understanding within Computational Social Science. Their versatility, while beneficial, poses a barrier for establishing standardized best practices within the field. To bring clarity on the values of different strategies, we present an overview of the performance of modern LLM-based classification methods on a benchmark of 23 social knowledge tasks. Our results point to three best practices: select models with larger vocabulary and pre-training corpora; avoid simple zero-shot in favor of AI-enhanced prompting; fine-tune on task-specific data, and consider more complex forms instruction-tuning on multiple datasets only when only training data is more abundant.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑