利用基于LLM的增强与有效数据选择提升零样本跨语言性能
Boosting Zero-Shot Crosslingual Performance using LLM-Based Augmentations with Effective Data Selection
AI总结：
该研究提出利用LLM零样本生成任务数据，结合基于教师模型标签概率的数据选择策略筛选代表性子集，同时明确源数据翻译、标签选择等设计要点，有效提升低资源语言的零样本跨语言任务性能。
摘要：
大语言模型（LLMs）是能力极强的文本生成器。我们利用LLM的这一能力，通过零样本提示生成特定任务数据，以促进低资源目标语言的跨语言迁移。在已有源语言特定任务数据及在该数据上训练的教师模型的前提下，我们提出使用该教师模型为LLM生成的数据标注标签，并采用一套利用教师模型标签概率的简单数据选择策略。与使用全部LLM生成数据（不做任何子集选择）相比，我们的数据选择策略能帮助识别出具有多样性的代表性生成子集，在提升零样本准确率的同时保证效率。我们还指出了其他影响跨语言性能的重要设计选择，例如是否使用源数据的翻译，以及为LLM生成数据选用何种标签效果最佳。我们在情感分析和自然语言推理任务、多种目标语言（印地语、马拉地语、乌尔都语、斯瓦希里语）及多个领域中均观察到显著的性能提升，最高绝对提升达7.13个点，平均绝对提升为1.5个点。
英文摘要：
Large language models (LLMs) are very proficient text generators. We leverage this capability of LLMs to generate task-specific data via zero-shot prompting and promote cross-lingual transfer for low-resource target languages. Given task-specific data in a source language and a teacher model trained on this data, we propose using this teacher to label LLM generations and employ a set of simple data selection strategies that use the teacher's label probabilities. Our data selection strategies help us identify a representative subset of diverse generations that help boost zero-shot accuracies while being efficient, in comparison to using all the LLM generations (without any subset selection). We also highlight other important design choices that affect cross-lingual performance such as the use of translations of source data and what labels are best to use for the LLM generations. We observe significant performance gains across sentiment analysis and natural language inference tasks (of up to a maximum of 7.13 absolute points and 1.5 absolute points on average) across a number of target languages (Hindi, Marathi, Urdu, Swahili) and domains.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
