Neither Here Nor There: Cross-Lingual Representation Dynamics of Code-Mixed Text in Multilingual Encoders
既非此处亦非彼处:多语言编码器中混合语言文本的跨语言表示动态
机构 * Indian Institute of Science Education and Research(印度科学教育与研究学院) ; Microsoft Corporation(微软公司)
AI总结 研究探讨多语言编码器对混合语言文本的内部表示,发现标准模型在英语和印地语间表现良好,但混合文本与任一语言连接松散。通过训练混合数据可提升英语混合文本对齐,但损害英语-印地语对齐。引入三语后训练目标,使混合文本表示更接近构成语言,提升跨语言理解。
Comments 24 pages