基于对比学习的多语言表示蒸馏
Multilingual Representation Distillation with Contrastive Learning
AI总结：
本研究将对比学习融入多语言表示蒸馏，用于平行句对质量评估，在低资源语言的多语言相似度搜索与语料过滤任务中性能显著优于LASER等经典句子编码器。
摘要：
大模型生成的多语言句子表示编码了两种及以上语言的语义信息，可用于各类跨语言信息检索与匹配任务。本文将对比学习融入多语言表示蒸馏，并将其用于平行句对质量评估（即找出可互为翻译的语义相似句子）。我们通过多语言相似度搜索和语料过滤任务验证了所提方法。针对不同低资源语言的实验表明，该方法性能大幅优于LASER、LASER3和LaBSE等现有句子编码器。
英文摘要：
Multilingual sentence representations from large models encode semantic information from two or more languages and can be used for different cross-lingual information retrieval and matching tasks. In this paper, we integrate contrastive learning into multilingual representation distillation and use it for quality estimation of parallel sentences (i.e., find semantically similar sentences that can be used as translations of each other). We validate our approach with multilingual similarity search and corpus filtering tasks. Experiments across different low-resource languages show that our method greatly outperforms previous sentence encoders such as LASER, LASER3, and LaBSE.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
