MasonTigers at SemEval-2024 Task 1: An Ensemble Approach for Semantic Textual Relatedness
George Mason University（乔治梅森大学）
本文提出 MasonTigers 参加 SemEval-2024 任务 1 的集成方法，结合统计机器学习、语言特定 BERT 模型和句子 Transformer，在 14 种语言、三个赛道中取得靠前排名。
2024-04-06 cs.CL
Multilingual Evaluation of Semantic Textual Relatedness
Pune Institute of Computer Technology（浦那计算机技术学院）
针对现有NLP研究多聚焦英语、多语言语义文本相关性（STR）研究不足的问题，本文依托SemEval-2024共享任务，在三种学习范式下探究多语言模型在四种语言STR任务上的表现，取得可观结果，为低资源语言相关研究提供启发。
2024-04-13 cs.CL
UMBCLU at SemEval-2024 Task 1A and 1C: Semantic Textual Relatedness with and without machine translation
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本研究针对SemEval-2024任务1的语义文本相关性任务，结合多类表现优异的大语言模型构建TranSem和FineSem模型，探究训练方法与机器翻译的作用，在监督和跨语言设置下均取得部分优于基线的成绩。
2024-04-12 cs.AI cs.CL cs.LG
Sequential Adapter Stacking for Cross-Lingual Low-Resource ASR
University of Cambridge（剑桥大学）
针对Whisper跨语言低资源ASR，提出顺序适配器堆叠方法，在冻结源适配器上训练目标适配器，在三种语言上较全微调显著降低WER 5-8%。
2026-09-15 cs.CL
Modular Sentence Encoders: Separating Language Specialization from Cross-Lingual Alignment
Ubiquitous Knowledge Processing Lab (UKP Lab) Department of Computer Science Technical University of Darmstadt and National Research Center for Applied Cybersecurity ATHENE, Germany（技术大学达姆施塔特计算机科学系通用知识处理实验室（UKP实验室）和应用网络安全国家研究中心ATHENE德国）；Center for AI and Data Science, University of Würzburg（人工智能与数据科学中心，乌尔姆大学）
提出模块化句子编码器，通过先训练单语模块再训练跨语言对齐适配器，分离语言特化与跨语言对齐，解决多语言诅咒和任务冲突，实现更优且均衡的性能。
2025-05-30 cs.CL
Overlap-based Vocabulary Generation Improves Cross-lingual Transfer Among Related Languages
Indian Institute of Technology Bombay（印度理工学院孟买分校）；Google Research（谷歌研究院）
预先训练的多语言模型，如mBERT和XLM-R，已经证明了zero-shot跨语言迁移到低网络资源语言（LRL）的巨大潜力。然而，由于有限的模型容量，高网络资源语言（HRL）和LRL之间的可用单语语料库的大小的巨大差异并没有提供足够的范围的共同嵌入LRL与HRL，从而影响下游的LRL的任务性能。在本文中，我们认为，沿着词汇重叠的维度在一个语系中的语言之间的相关性可能会被利用来克服一些语料库的限制LRL。我们提出了重叠BPE（OBPE），一个简单而有效的修改BPE词汇生成算法，提高了相关语言的重叠。通过对多个NLP任务和数据集的广泛实验，我们观察到OBPE生成了一个词汇表，通过与HRL共享的标记来增加LRL的表示。这导致从相关HRL到LRL的改进的zero-shot转移，而不降低HRL表示和准确性。与以前的研究，驳回了标记重叠的重要性，我们表明，在低资源相关的语言设置，标记重叠的事项。综合地将重叠减少到零可能导致zero-shot传输精度下降多达四倍。
2022-03-23 cs.CL
From Sinhala to Dhivehi: Cross-Lingual Transfer Learning for Low-Resource Speech Recognition
School of Computing, Informatics Institute of Technology（计算学院，信息学院技术研究所）；Department of Computer Science & Engineering, University of Moratuwa（计算机科学与工程系，摩图瓦大学）
研究马尔代夫迪维希语低资源语音识别问题，通过从僧伽罗语跨语言迁移学习，采用持续预训练等五种范式实验，最强系统先在僧伽罗语预训练再在迪维希语微调，结果显示语言相关性、适应策略及解码配置对迁移学习很关键。
2026-07-08 cs.CL
Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
Haverford College（哈弗福德学院）；Brown University（布朗大学）
通过微调大语言模型并在闪语族与非闪语族语言上评估零样本阅读理解，发现跨语言迁移主要提升任务格式对齐而非语言特定知识。
2026-06-23 cs.AI cs.CL
Evaluating the Effect of Linguistic Relatedness on Cross-Lingual Transfer in Large Multilingual Automatic Speech Recognition
Princeton University（普林斯顿大学）；Maseno University（马塞诺大学）
研究在大型多语言自动语音识别中，通过系统实验设计，探讨语言相关性能否可靠预测跨语言迁移增益，发现仅语言相关性难以有效促进跨语言迁移。
2026-07-28 cs.AI cs.CL
Limited-Resource Adapters Are Regularizers, Not Linguists
Aalborg University（奥胡斯大学）；Johns Hopkins University（约翰·霍普金斯大学）；University of Ottawa（渥太华大学）；IIT Madras（印度理工学院马德拉斯分校）
本研究探究适配器融合与交叉注意力微调以提升三种低资源克里奥尔语的机器翻译性能，发现适配器的作用主要是参数正则化而非语言信息迁移。
2025-05-30 cs.CL
Scripts Through Time: A Survey of the Evolving Role of Transliteration in NLP
Nilekani Centre at AI4Bharat（AI4Bharat的Nilekani中心）；Indian Institute of Technology Madras（印度理工学院马德拉斯分校）；Indian Institute of Engineering, Science and Technology（印度工程、科学与技术学院）
本文综述了翻译学在跨语言NLP中的应用，分析了其在语言模型中的演变和有效性，讨论了关键权衡，并提供了针对不同语言、任务和资源约束的翻译策略建议。
2026-04-20 cs.CL
Improving Zero-shot Cross-lingual Transfer between Closely Related Languages by injecting Character-level Noise
University of Zurich（苏黎世大学）；University of Edinburgh（爱丁堡大学）
高资源语言与其方言或密切相关的语言变体之间的跨语言迁移应通过它们的相似性来促进。然而，目前在嵌入空间中操作的方法不考虑表面相似性。这项工作提出了一个简单而有效的策略，以改善密切相关的品种之间的跨语言迁移。我们建议用字符级噪声来增强高资源源语言的数据，以使模型对拼写变化更加鲁棒。我们的策略在几种语言和任务上显示出一致的改进：从芬兰语，西日耳曼语和北日耳曼语，以及西方罗曼语分支的语言品种之间的POS标记和主题识别的Zero-shot转移。我们的工作提供了证据的有用性，简单的表面噪声在提高语言品种之间的转移。
2022-03-11 cs.CL
Cross-lingual, Character-Level Neural Morphological Tagging
Department of Computer Science, Johns Hopkins University（约翰霍普金斯大学计算机科学系）；German Research Center for Artificial Intelligence（德国人工智能研究中心）
针对低资源语言形态标注缺乏监督数据的问题，提出跨语言字符级迁移学习方案，通过多相关语言联合字符表示实现知识迁移，最高提升低资源语言标注准确率30%。
2026-08-25 cs.CL
Patterns of Persistence and Diffusibility across the World's Languages
Aalborg University（奥尔堡大学）
本研究构建了包含1,966种语言多维度数据的大规模图谱，通过探索基因稳定性和接触诱导变化，揭示了跨语言同词化与语音相似性的成因，为多语言NLP和比较语言学提供了资源。
2024-01-05 cs.CL
Learning to pronounce as measuring cross-lingual joint orthography-phonology complexity
机器学习模型可以让我们通过显示每种语言的任务学习和表现有多难来比较语言。按照这条调查路线，我们通过对字素到音素（g2 p）音译的任务建模来探索是什么让一种语言“难以发音”。通过在22种语言中训练一个字符级的Transformer模型，并测量该模型对字形和音素库存的熟练程度，我们发现，在学习发音方面，出现了某些特征，这些特征将更容易和更难的语言分开。也就是说，一种语言从正字法到发音的复杂性是由于它的形素到音素映射的表达性或简单性。进一步的讨论说明了未来的研究应该如何考虑每种语言的相对数据稀疏性，以设计更公平的跨语言比较任务。
2022-02-09 cs.CL
Cross-lingual and Multilingual Speech Emotion Recognition on English and French
University of Stuttgart（斯图加特大学）
多语言语音情感识别研究面临的问题是，大多数可用的语音语料库在重要方面，如注释方法或交互场景彼此不同。这些不一致性使构建多语言系统变得复杂。我们目前的结果跨语言和多语言的情感识别英语和法语的语音数据具有相似的特点，在互动（人与人的对话）。此外，我们探索了微调预训练的跨语言模型的可能性，只有少量的样本从目标语言，这是非常感兴趣的低资源语言。为了更深入地了解部署的卷积神经网络所学习的内容，我们对网络内部的注意力机制进行了分析。
2018-03-01 cs.CL
CLUSE: Cross-Lingual Unsupervised Sense Embeddings
National Taiwan University（国立台湾大学）
本文提出了一种模块化的意义归纳和表示学习模型，该模型利用英汉平行语料库中的跨语言信号来获取语言对中的搭配和分布特征，联合学习向量空间中匹配良好的双语意义嵌入。该模型在斯坦福大学上下文单词相似度（SCWS）数据集上进行评估，以确保单语意义嵌入的质量。此外，我们还引入了双语上下文单词相似度（BCWS），这是一个用于评估跨语言意义嵌入的大型高质量数据集，这是衡量学习的嵌入是否在向量空间中确实对齐的第一次尝试。所提出的方法显示了优越的质量的意义嵌入评估单语和双语空间。
2018-10-21 cs.CL
Cross-Lingual Transfer of Semantic Roles: From Raw Text to Semantic Roles
The George Washington University（乔治华盛顿大学）；Facebook AI（脸书人工智能）
我们描述了一种基于注释投影的传输方法，开发了一个基于依赖的语义角色标注系统，用于没有监督的语言信息，而不是并行数据。不像以前的工作，假设的监督功能，如词元，词性标记，依赖分析树的可用性，我们只使用单词和字符的功能。我们的深度模型考虑使用基于字符的表示以及无监督的词干嵌入来减轻对监督特征的需求。我们的实验优于最先进的方法，该方法在通用命题库中的7种语言中使用了6种语言的监督词汇句法特征。
2019-04-05 cs.CL
Cross-Lingual Transfer for Distantly Supervised and Low-resources Indonesian NER
Kata Research Team, Kata.ai（Kata研究团队，Kata.ai）
本文提出通过预训练语言模型进行跨语言迁移，提升小规模标注和大但远监督数据集的命名实体识别性能，实验显示在无平行标注情况下效果显著。
2019-07-25 cs.CL
Cross-Lingual Adaptation Using Universal Dependencies
University of Tehran（德黑兰大学）
我们描述了一个跨语言的适应方法的基础上获得的语法分析树的通用的语法分析（UD），这是一致的跨语言，在低资源的语言开发分类。UD解析的思想是在类型不同的语言之间捕获相似性和特性。在本文中，我们展示了使用UD解析树为复杂的NLP任务训练的模型可以表征非常不同的语言。我们以释义识别和语义关系抽取两个任务为例进行了研究。基于UD解析树，我们使用树内核开发了几个模型，并表明这些模型在英语数据集上训练可以正确分类其他语言的数据，例如法语，波斯语和阿拉伯语。该方法为利用UD解析解决类似的跨语言任务开辟了途径，这对于没有标记数据的语言非常有用。
2020-03-28 cs.CL
Cross-Lingual Speaker Identification Using Distant Supervision
University of Pennsylvania（宾夕法尼亚大学）；Tencent AI Lab（腾讯人工智能实验室）
说话人辨识，即确定文学文本中的每个话语是由哪个人物说的，对许多下游任务都有好处。大多数现有的方法使用专家定义的规则或基于规则的功能来直接处理这个任务，但这些方法都有显着的缺点，如缺乏上下文推理和跨语言泛化能力差。在这项工作中，我们提出了一个说话人辨识框架，解决这些问题。我们首先通过通用工具和语义学提取大规模的英语远程监督信号，然后应用这些弱标记的实例，重点是鼓励上下文推理训练一个跨语言的语言模型。我们表明，所得到的模型优于以前的国家的最先进的方法在两个英语说话人辨识基准高达9%的准确性和5%，只有远程监督，以及两个中国说话人辨识数据集高达4.7%。
2022-10-11 cs.CL
Multilingual Distributed Representations without Word Alignment
University of Oxford（牛津大学）
意义的分布式表示是在NLP中对单词和短语之间的协方差关系进行编码的一种自然方式。通过克服数据稀疏性问题，以及提供离散表示中不可用的语义相关性信息，分布式表示已被证明在许多NLP任务中是有用的。最近的工作表明，如何组成的语义表示可以成功地应用到单语应用，如情感分析。与此同时，在学习跨语言的共享单词级表示方面取得了一些初步成功。我们结合这两种方法，提出了一种学习分布式表示在多语言设置的方法。我们的模型学习将相似的嵌入分配给对齐的句子，将不相似的嵌入分配给不对齐的句子，而不需要单词对齐。我们表明，我们的表示是语义信息，并将其应用到一个跨语言的文档分类任务，我们优于以前的最先进的状态。此外，通过采用并行语料库的多语言对，我们发现，我们的模型学习表示，捕捉语义关系的语言，没有并行数据被使用。
2014-03-20 cs.CL
A Resource-Free Evaluation Metric for Cross-Lingual Word Embeddings Based on Graph Modularity
University of Colorado（科罗拉多大学）；University of Maryland（马里兰大学）
跨语言词嵌入将不同语言的词的含义编码到共享的低维空间中。许多下游任务的重要要求是单词相似性应该独立于语言-即，一种语言中的词向量彼此之间的相似性不应超过与另一种语言中的词之间的相似性。我们使用模块化来衡量这一特性，模块化是一种网络测量方法，可以测量图中集群的强度。模块化与三个下游任务有中度到强烈的相关性，即使模块化仅基于嵌入的结构，并且不需要任何外部资源。我们通过实验表明，模块化可以作为一个内在的验证指标，以提高无监督的跨语言词嵌入，特别是在低资源设置的遥远的语言对。
2019-06-05 cs.CL
BPE and CharCNNs for Translation of Morphology: A Cross-Lingual Comparison and Analysis
Johns Hopkins University（约翰斯·霍普金斯大学）
神经机器翻译（NMT）在低资源环境和形态丰富的语言是困难的，部分是由于数据稀疏的词汇。已经使用了几种方法来帮助减少这种稀疏性，特别是字节对编码（BPE）和基于字符的CNN层（charCNN）。然而，charCNN在很大程度上被忽视了，可能是因为它只被比较BPE，而不是与它相结合。我们主张重新考虑的charCNN，基于跨语言的改进低资源的数据。我们使用多种方式并行收集TED成绩单，将8种语言翻译成英语。我们发现，在大多数情况下，同时使用BPE和charCNN性能最好，而在希伯来语中，使用charCNN超过单词是最好的。
2018-09-08 cs.CL
Cross-lingual Word Segmentation and Morpheme Segmentation as Sequence Labelling
Uppsala University（乌普萨拉大学）
本文介绍了我们为MLP 2017跨语言分词和词素分割共享任务开发的分割系统。我们将单词和词素分割建模为字符级序列标签任务。采用以条件随机场为输出接口的双向递归神经网络作为基线系统，并通过集成解码对其进行进一步改进。我们的通用系统适用于所有官方数据集，并对其进行了广泛评价，而没有进行任何针对具体语文的调整。官方的评估结果表明，该模型实现了出色的准确性，无论是在各种类型的所有语言的词和语素分割相比，其他参与系统。
2017-09-12 cs.CL
EUR-Lex-Sum: A Multi- and Cross-lingual Dataset for Long-form Summarization in the Legal Domain
Heidelberg University（海德堡大学）；SRH Hochschule Heidelberg（海德堡SRH应用技术大学）
现有的摘要数据集有两个主要缺点：（1）它们倾向于关注过度暴露的领域，例如新闻文章或类似维基的文本，（2）主要是单语数据集，很少有多语言数据集。在这项工作中，我们提出了一个新的数据集，称为EUR-Lex-Sum，基于欧盟法律平台（EUR-Lex）的法律行为的手动策划的文件摘要。文档及其各自的摘要以24种欧洲官方语言中的几种语言的跨语言段落对齐数据的形式存在，从而可以访问各种跨语言和低资源摘要设置。我们每种语言获得多达1，500个文档/摘要对，包括375个跨语言对齐的法律行为的子集，文本以所有24种语言提供。在这项工作中，数据采集的过程是详细的，资源的主要特征进行比较，现有的摘要资源。特别是，我们说明了具有挑战性的子问题和开放的问题的数据集，可以帮助促进未来的研究领域特定的跨语言摘要的方向。受限于样本的极端长度和语言多样性，我们进一步使用合适的提取单语和跨语言基线进行实验，以供未来工作使用。提取代码以及访问我们的数据和基线的代码可在https://github.com/achouhan93/eur-lex-sum上在线获取。
2022-10-24 cs.CL
Generalization Measures for Zero-Shot Cross-Lingual Transfer
New York University（纽约大学）
针对零样本跨语言迁移中泛化能力难以评估的问题，本文研究参数方差、初始化距离及损失曲面锐度等度量，并提出稳定计算模型最优点锐度的新算法。
2024-09-08 cs.CL
Cross-Lingual Contextual Word Embeddings Mapping With Multi-Sense Words In Mind
LIMSI, CNRS（法国国家科学研究中心机械与工程计算机科学实验室）；LRI, Univ. Paris-Sud, CNRS（巴黎第十一大学计算机研究实验室，法国国家科学研究中心）；Université Paris-Saclay（巴黎-萨克雷大学）；CentraleSupélec（中央理工-高等电力学院）
最近的跨语言语境词嵌入学习的工作不能很好地处理多义词。在这项工作中，我们探讨了语境词嵌入的特点，并显示语境词嵌入和词义之间的联系。我们提出了两个改进的解决方案，考虑上下文的多意义词嵌入的噪声（去除），并通过生成集群水平的平均锚嵌入上下文的多意义词嵌入（替换）。实验结果表明，本文的方法可以在微观上提高多义词的有监督上下文词嵌入对齐，而不会影响双语词典归纳任务的宏观性能。对于无监督对齐，我们的方法显着提高了双语词典归纳任务的性能超过10点。
2019-09-18 cs.CL
Interference Matrix: Quantifying Cross-Lingual Interference in Transformer Encoders
FAIR at Meta（Meta 的 FAIR 部门）；Sorbonne Université, CNRS, ISIR（索邦大学、国家科学研究中心、ISIR）
本文通过构建干扰矩阵，量化了83种语言间的不对称跨语言干扰，发现其与文字系统相关而非语系，并能预测下游任务性能，助力多语言模型设计。
2025-08-04 cs.CL
Cross-lingual Offensive Language Detection: A Systematic Review of Datasets, Transfer Approaches and Challenges
Queen Mary University of London（伦敦玛丽女王大学）；Heriot-Watt University（赫瑞瓦特大学）
本文系统综述了社交媒体中跨语言攻击性语言检测的数据集、迁移方法及挑战，分析了67篇相关论文，总结了实例、特征和参数三种迁移方法，并提供了未来研究方向。
2026-02-12 cs.CL
SubGraph Networks based Entity Alignment for Cross-lingual Knowledge Graph
Zhejiang University of Technology（浙江工业大学）；Hangzhou Zhongao Technology Company Limited（杭州中奥科技有限公司）；Zhejiang Economic Information Center（浙江省经济信息中心）
实体对齐是在两个知识图谱中寻找表示同一真实世界对象的实体的任务。跨语言知识图谱实体对齐旨在发现多语言知识库中的跨语言链接，对自然语言处理应用和多语言知识库融合具有重要意义。在跨语言知识图谱的对齐任务中，两个图的结构非常相似，等价实体往往具有相同的子图结构特征。传统的GCN方法忽略了通过原始图的代表部分来获取结构特征，利用邻接矩阵不足以有效地表示图的结构特征。在本文中，我们引入子图网络（SGN）的方法，GCN为基础的跨语言KG实体对齐方法。该方法通过提取KG的一阶子图来扩展原图的结构特征，增强实体嵌入的表示能力，提高对齐精度。实验结果表明，该方法优于现有的基于GCN的方法。
2022-05-07 cs.CL
Cross-lingual Contextualized Phrase Retrieval
Nara Institute of Science and Technology（奈良科学技术研究所）；Tencent AI Lab（腾讯AI实验室）
本文提出跨语言上下文化短语检索任务，利用平行句词对齐自动构建短语对，并通过对比学习训练CCPR，在短语检索和机器翻译任务上均取得显著提升。
2024-10-04 cs.CL
Bilingual Embeddings with Random Walks over Multilingual Wordnets
UPV/EHU（巴斯克地区大学）
双语词嵌入在同一空间中表示两种语言的单词，并且允许在没有机器翻译的情况下将知识从一种语言转移到另一种语言。主要方法是首先训练单语嵌入，然后使用双语词典映射它们。在这项工作中，我们提出了一种新的方法来学习双语嵌入基于多语言知识库（KB），如WordNet。我们的方法通过随机游走从多语言词网中提取双语信息，并一次性学习联合嵌入空间。我们在流行的skipgram模型的损失函数中添加双语约束，进一步加强跨语言等效性。我们的实验涉及12个跨语言词汇相似度和相关度数据集，包括4种语言的6个语言对，实验结果表明：1）多语言词网的随机游走比仅使用词典的搜索结果有所改善; 2）多语言词网本身在相似度数据集上比基于文本的系统有所改善; 3）对于大的字网，（如英文、西班牙文）、较小的字网（例如巴斯克语）或松散对齐的词网（例如意大利语）; 4）词网和文本的组合产生最佳结果，高于基于映射的方法。我们的方法可以应用于更丰富的知识库，如DBpedia或Babel-Net，并可以很容易地扩展到多语言嵌入。所有软件和资源都是开源的。
2018-04-23 cs.AI cs.CL
Exploiting Cross-Lingual Subword Similarities in Low-Resource Document Classification
University of Maryland（马里兰大学）；University of Colorado（科罗拉多大学）；Google Research（谷歌研究院）
文本分类有时必须应用于没有标记训练数据的低资源语言。然而，训练数据可以以相关语言可用。我们调查是否字符级的知识转移相关的语言有助于文本分类。我们提出了一个跨语言的文档分类框架（CACO），利用跨语言的子词相似性，联合训练基于字符的嵌入器和基于词的分类器。嵌入器从输入单词的书面形式中导出输入单词的矢量表示，分类器基于单词矢量进行预测。我们使用一个联合字符表示的源语言和目标语言，这使得嵌入器概括知识的源语言的话，以目标语言的单词具有相似的形式。我们提出了一个多任务的目标，可以进一步改善模型，如果额外的跨语言或单语资源。实验证实，字符级的知识转移是更有效的数据比词级的相关语言之间的传输。
2020-04-28 cs.CL cs.LG
Zero-shot Neural Transfer for Cross-lingual Entity Linking
Carnegie Mellon University（卡内基梅隆大学）
跨语言实体链接将源语言中提到的实体映射到不同（目标）语言的结构化知识库中的其对应条目。虽然以前的工作在很大程度上依赖于双语词汇资源，以弥合源语言和目标语言之间的差距，这些资源是稀缺的，或无法为许多低资源的语言。为了解决这个问题，我们调查zero-shot跨语言实体链接，在其中，我们假设没有双语词汇资源，在源低资源语言。具体来说，我们提出了基于数据库的实体链接，它利用来自高资源“枢轴”语言的信息来训练字符级神经实体链接模型，这些模型以zero-shot方式转移到源低资源语言。通过对9种低资源语言的实验和总共54种语言的传输，我们表明，我们提出的基于XML的框架在zero-shot场景下，平均比基线系统提高了17%（绝对）的实体链接准确度。此外，我们还研究了使用语言通用的语音表示，提高了36%的平均准确性（绝对）时，使用不同的脚本之间的语言转移。
2018-11-09 cs.CL
Translation Deserves Better: Analyzing Translation Artifacts in Cross-lingual Visual Question Answering
KAIST AI（韩国科学技术院人工智能学院）；KT Corporation（KT公司）
本文分析了跨语言视觉问答任务中机器翻译文本产生的翻译伪影对模型性能的影响，并提出一种简单的数据增强策略以缓解其不利影响。
2024-06-04 cs.CL
Universal or Language-Family-Specific Script Unification for Cross-Lingual Transfer? A Case Study on Turkic Languages
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））
本研究以突厥语族为例，对比通用uroman与语族特定CTS两种文字统一方法的跨语言迁移效果，发现二者在NER任务表现相当且均优于基线，POS任务效果受语言、子词重叠和监督数据影响，fastText系统具竞争力。
2026-08-11 cs.CL
Learning cross-lingual phonological and orthagraphic adaptations: a case study in improving neural machine translation between low-resource languages
MNNIT Allahabad（莫蒂拉尔·尼赫鲁国家理工学院阿拉哈巴德分校）；IIT (BHU)（印度理工学院（贝纳拉斯印度教大学））
词汇表外（OOV）单词可能对机器翻译（MT）任务构成严重挑战，特别是对低资源语言（LRL）对，即，很少或没有平行语料库存在的语言对。我们的工作适应seq 2seq模型的变体来执行从印地语到Bhojpuri（LRL实例）的这些单词的转导，从印地语-Bhojpuri单词的双语词典中构建的一组同源对中学习。我们证明，我们的模型可以有效地用于语言对有限的平行语料库，我们的模型工作在字符水平上把握语音和正字法的相似性，跨多种类型的词适应，无论是共时或历时，借词或同源词。我们描述了几个字符级别的NMT系统，我们适应这项任务的培训方面，并描述其典型的错误。我们的方法在Hindi到Bhojpuri翻译任务上将BLEU分数提高了6.3。此外，我们表明，这种转换可以推广到其他语言成功地将其应用到印地语-孟加拉语同源对。我们的工作可以被看作是一个重要的步骤，在这个过程中：（i）解决机器翻译任务中出现的OOV单词问题，（ii）为资源受限的语言创建有效的并行语料库，以及（iii）利用增强的语义知识捕获的单词级嵌入执行字符级任务。
2019-07-22 cs.CL
Language Barriers: Evaluating Cross-Lingual Performance of CNN and Transformer Architectures for Speech Quality Estimation
Technische Universität Berlin（柏林工业大学）；Deutsches Forschungszentrum für Künstliche Intelligenz（德国人工智能研究中心）
本文评估仅用英语训练的NISQA与AST在五种语言上的语音质量预测表现，发现AST更稳定但二者均有偏差，并指出多语言数据与架构适配的必要性。
2025-02-18 cs.CL
Assessing the Role of Lexical Semantics in Cross-lingual Transfer through Controlled Manipulations
Hebrew University of Jerusalem（耶路撒冷希伯来大学）
该研究通过人工操控英语句子模拟目标语言特征的方法，评估词汇语义等语言属性对跨语言迁移中语言与英语预训练表示空间对齐质量的影响，发现词汇匹配程度的影响远大于文字、词序等属性。
2024-08-14 cs.CL
Cross-Lingual Transfer Learning for Complex Word Identification
University Politehnica of Bucharest（布加勒斯特理工大学）
复杂词识别（CWI）是一项以检测来自不同专业领域的文本中难以理解的单词或单词组为中心的任务。CWI的目的是强调非母语人士通常难以理解的问题结构。我们的方法使用了zero-shot、one-shot和少样本学习技术，以及用于自然语言处理（NLP）任务的最先进的解决方案（即，Transformers）。我们的目标是提供证据，证明所提出的模型可以依靠CWI共享任务2018数据集在多语言环境中学习复杂单词的特征，该数据集可用于四种不同的语言（即，英语、德语、西班牙语，还有法语）。对于零样本学习场景，我们的方法在英语（0.774）、德语（0.782）和西班牙语（0.734）的宏观F1分数方面超过了最先进的跨语言结果。同时，我们的模型也优于最先进的德语单语结果（0.795宏观F1分数）。
2020-10-02 cs.CL
Cross-lingual Candidate Search for Biomedical Concept Normalization
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
生物医学概念规范化将文本中提到的概念链接到生物医学知识库中的语义等效概念。这个任务是具有挑战性的，因为概念在自然语言中可以具有不同的表达，例如释义，其不一定全部存在于知识库中。非英语生物医学文本的概念规范化更具挑战性，因为非英语资源往往要小得多，包含的同义词更少。为了克服非英语术语的局限性，我们提出了一个跨语言的候选人搜索的概念规范化，使用基于字符的神经翻译模型训练的多语言生物医学术语。我们的模型使用西班牙语，法语，荷兰语和德语版本的UMLS进行训练。我们的模型的评估是在法国Quaero语料库上进行的，显示它优于CLEF eHealth 2015和2016的大多数团队。此外，我们还将Mantra的西班牙语、法语、荷兰语和德语版本与商业翻译进行了性能比较。我们的模型表现类似，但免费，可以在本地运行。这对于临床NLP应用尤其重要，因为医疗文档具有严格的隐私限制。
2018-05-04 cs.CL
ML2B: Benchmarking LLMs on Cross-Lingual ML Pipeline Generation
HSE University（俄罗斯伏尔加格勒国立大学）；Constructor University（Constructor大学）；National University of Singapore（新加坡国立大学）
ML2B是首个评估大语言模型跨语言ML流水线生成能力的基准，含多领域多语言任务，实验发现跨语言性能退化高度依赖任务，挑战了传统多语言模型能力假设。
2026-07-30 cs.CL
ClinicalAligner26AM: A Cross-Lingual Aligner for Dataset Translation; Evidences from the MultiClinCorpus Shared Task
Parallia Healthcare AI（Parallia医疗人工智能）
提出ClinicalAligner26AM，一种基于ClinicalEncoder26AM初始化的生物医学临床文本多语言对齐模型，通过Sinkhorn-Knop最优传输融合多级信号构建软对齐目标，在MultiClinCorpus任务中跨语言投影实体标注，字符加权F1超0.95。
2026-06-07 cs.CL
Characterising User Content on a Multi-lingual Social Network
King’s College London（伦敦国王学院）；MIT（麻省理工学院）；Alan Turing Institute（艾伦·图灵研究所）；Queen Mary University of London（伦敦玛丽女王大学）
社交媒体一直是21世纪政治信息扩散的先锋。大多数研究虚假信息，政治影响和假新闻的研究都集中在主流社交媒体平台上。这不可避免地使英语成为我们目前理解社交媒体上政治活动的重要因素。因此，对世界上很大一部分地区的研究数量有限，包括最大的多语言和多文化民主国家：印度。在本文中，我们提出了我们的多语言社交网络在印度称为ShareChat的特点。我们收集了2019年印度大选前和大选期间72周的详尽数据集，涵盖14种语言。我们通过将视觉上相似的图像聚类在一起，并探索它们如何跨越语言障碍来研究跨语言动态。我们发现泰卢固语、马拉雅拉姆语、泰米尔语和卡纳达语在征集政治图像（通常被称为模因）方面往往占主导地位，而来自印地语的帖子在ShareChat中的跨语言扩散最大（以及包含英语文本的图像）。在包含跨越语言障碍的文本的图像的情况下，我们看到语言翻译用于扩大可访问性。也就是说，我们发现了相同图像与非常不同的文本（因此含义）相关联的情况。这种初始特征为更先进的管道铺平了道路，可以在多语言和非文本环境中了解虚假和政治内容的动态。
2020-04-23 cs.CL cs.SI
Feeding BabyLMs Macaroni: Code-Switching Curricula Cause Cross-Lingual Convergence
Technion – Israel Institute of Technology（以色列理工学院）；Kempner Institute（肯普纳研究所）；Harvard University（哈佛大学）
本研究通过在代码切换文本上预训练小型Transformer模型，发现代码切换课程学习能有效对齐跨语言表征，提升多语言预训练效果，并在BabyLM评估中优于基线。
2026-09-28 cs.CL
Cross-lingual Transfer Learning for Javanese Dependency Parsing
Universitas Indonesia（印度尼西亚大学）
针对爪哇语标注数据不足的问题，本文基于Universal Dependencies比较TL与HTL，发现引入中间语言的HTL可使UAS和LAS较基线均提升10%。
2024-01-22 cs.CL
DivEMT: Neural Machine Translation Post-Editing Effort Across Typologically Diverse Languages
University of Groningen（格罗宁根大学）
本文介绍了DivEMT，首个涵盖多种类型学目标语言的神经机器翻译后编辑公开研究，通过18名专业译者的行为数据评估了Google Translate和mBART-50系统对翻译生产力的影响，发现后编辑虽普遍快于从零翻译，但增益幅度因语言类型学差异而显著不同。
2022-10-18 cs.CL
Disentangling Speaker and Language Effects in Cross-Lingual Speaker Verification for Iberian Languages
Barcelona Supercomputing Center (BSC)（巴塞罗那超级计算中心）；Universitat Politècnica de Catalunya (UPC)（加泰罗尼亚理工大学）
针对跨语言说话人验证中语言不匹配与说话人变异性混淆的问题，引入双语同说话人评估集，基于HuBERT系统分析发现语言不匹配是性能下降主因。
2026-07-02 cs.CL eess.AS
Multi-Task Cross-Lingual Sequence Tagging from Scratch
Carnegie Mellon University（卡内基梅隆大学）
我们提出了一个用于序列标记的深度层次递归神经网络。给定一个单词序列，我们的模型在字符和单词级别上采用深度门控递归单元来编码形态和上下文信息，并应用条件随机场层来预测标签。我们的模型是任务独立的，语言独立的，和功能工程免费。通过共享架构和参数，我们进一步将模型扩展到多任务和跨语言联合训练。我们的模型在多个基准任务（包括POS标记，组块和NER）上以多种语言实现了最先进的结果。我们还证明了多任务和跨语言联合训练可以提高各种情况下的性能。
2016-08-09 cs.CL cs.LG
Automatic Readability Assessment for Closely Related Languages
National University, Philippines（菲律宾国立大学）；University of Bath（巴斯大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本文针对菲律宾低资源语言，提出利用互通性和语言关联度改进自动可读性评估，并通过引入基于 n-gram 重叠的 CrossNGO 特征与多语言模型结合，在他加禄语和宿务语上取得最先进结果。
2023-05-25 cs.CL
Distill Where the Student Goes: Teacher-Regularized RL for English-Evidence Cross-Lingual RAG
School of Computer Science, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；Ant International, Ant Group（蚂蚁集团蚂蚁国际）；Shanghai Innovation Institute（上海创新研究院）；Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学高瓴人工智能学院）
研究英语证据跨语言检索增强生成中的问题，提出教师正则化强化学习方法TR-RAG，结合奖励优化与策略内蒸馏，引入奖励分解，在多基准测试中提升语言依从性和证据正确性。
2026-07-10 cs.CL
Data-augmented cross-lingual synthesis in a teacher-student framework
ReadSpeaker
跨语言合成可以被定义为让说话者用另一种语言生成流利的合成语音的任务。这是一项具有挑战性的任务，并且所产生的语音可能遭受自然度降低、口音语音和/或基本语音特征的损失。以前的研究表明，许多模型似乎没有足够的泛化能力，在这些跨语言方面都表现良好。为了克服这些泛化问题，我们建议将师生范式应用于跨语言综合。虽然教师模型通常用于生成教师强制数据，但我们建议也使用它来生成看不见的说话者-语言对的增强数据，其目的是保留基本的说话者特征。这两组数据然后用于学生模型训练，其被训练以保留教师强制数据中存在的自然度和韵律变化，同时从增强数据学习说话者身份。对学生模型进行了一些修改，使教师强迫和增强数据的分离更加简单。结果表明，该方法提高了说话人特征的保留在讲话中，同时设法保留高水平的自然度和韵律变化。
2022-03-31 cs.CL cs.SD eess.AS
Cross-Lingual Transfer of Cognitive Processing Complexity
University of Amsterdam（阿姆斯特丹大学）；University of Copenhagen（哥本哈根大学）；Vrije Universiteit Amsterdam（阿姆斯特丹自由大学）
当人类阅读文本时，他们的眼球运动受到输入句子结构复杂性的影响。这一认知现象在不同语言间存在，最近的研究表明，多语言语言模型利用语言之间的结构相似性来促进跨语言迁移。我们使用了双水平眼动追踪模式作为结构复杂性的认知指标，并表明多语言模型XLM-RoBERTA可以成功地预测13种类型多样的语言的不同模式，尽管只对英语数据进行了微调。我们量化了模型对结构复杂性的敏感性，并区分了一系列复杂性特征。我们的研究结果表明，该模型开发了一个有意义的偏向句子长度，但也集成了跨语言的差异。我们进行了一个随机词序的对照实验，发现该模型似乎还捕捉到了更复杂的结构信息。
2023-02-27 cs.CL cs.LG
