MaiNLP 参加 SemEval-2024 任务 1:分析跨语言文本相关性中的源语言选择
MaiNLP at SemEval-2024 Task 1: Analyzing Source Language Selection in Cross-Lingual Textual Relatedness
AI总结:
该研究面向零样本跨语言语义文本相关性任务,在 XLM-R 与 Furina 上比较单源、多源及数据增强等源语言选择策略,并在 C8 卢旺达语测试集取得第一名。
摘要:
本文介绍了我们为 SemEval-2024 任务 1“语义文本相关性(STR)”C 赛道“跨语言”开发的系统。该任务旨在无法获得直接监督(即零样本跨语言迁移)的情况下,检测给定目标语言中两个句子的语义相关性。为此,我们在两种不同的预训练语言模型 XLM-R 和 Furina 上,重点研究不同的源语言选择策略。我们进行了以下实验:1)单源迁移,并根据类型学相似性选择源语言;2)使用两种最近邻源语言增强英语训练数据;3)多源迁移,其中我们比较了选择所有训练语言与选择来自同一语系的语言。我们进一步研究了基于机器翻译的数据增强以及文字差异的影响。我们的提交在 C8(卢旺达语)测试集上获得第一名。
英文摘要:
This paper presents our system developed for the SemEval-2024 Task 1: Semantic Textual Relatedness (STR), on Track C: Cross-lingual. The task aims to detect semantic relatedness of two sentences in a given target language without access to direct supervision (i.e. zero-shot cross-lingual transfer). To this end, we focus on different source language selection strategies on two different pre-trained languages models: XLM-R and Furina. We experiment with 1) single-source transfer and select source languages based on typological similarity, 2) augmenting English training data with the two nearest-neighbor source languages, and 3) multi-source transfer where we compare selecting on all training languages against languages from the same family. We further study machine translation-based data augmentation and the impact of script differences. Our submission achieved the first place in the C8 (Kinyarwanda) test set.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。