Multilingual Generative Retrieval via Cross-lingual Semantic Compression
Faculty of Information Engineering and Automation, Kunming University of Science and Technology（信息工程与自动化学院，昆明理工大学）；Yunnan Key Laboratory of Artificial Intelligence（云南省人工智能重点实验室）
提出MGR-CSC框架，通过跨语言语义压缩统一多语言关键词为共享原子，并采用动态多步约束解码，解决多语言生成式检索中的标识符错位与膨胀问题，显著提升检索精度并压缩标识符长度。
2025-10-09 cs.CL
ChemCLIR-Bench: Benchmarking Cross-Lingual Information Retrieval in Multilingual Chemical Patents
McMaster University（麦克马斯特大学）；BASF Canada Inc.（巴斯夫加拿大公司）
该工作构建了多语言化学专利CLIR基准，评估八种嵌入模型，发现跨语言检索性能显著下降，强调需更稳健的方法。
2026-09-22 cs.CL
XOR QA: Cross-lingual Open-Retrieval Question Answering
University of Washington（华盛顿大学）；Google Research（谷歌研究院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Allen Institute for AI（艾伦人工智能研究所）
多语言问答任务通常假设答案与问题的语言相同。然而，在实践中，许多语言面临着信息稀缺和信息不对称两种情况，信息稀缺是指语言中几乎没有参考文章，信息不对称是指问题引用了来自其他文化的概念。这项工作扩展了开放检索问答的跨语言设置，使问题从一种语言回答通过回答内容从另一种语言。我们构建了一个大规模的数据集，该数据集基于缺乏相同语言答案的TyDi QA问题。我们的任务制定，称为跨语言开放检索问答（XOR QA），包括来自7种不同的非英语语言的40k信息搜索问题。基于这个数据集，我们介绍了三个新的任务，涉及跨语言的文档检索使用多语言和英语资源。我们使用最先进的机器翻译系统和跨语言预训练模型建立基线。实验结果表明，异或问答是一个具有挑战性的任务，将促进新技术的发展，多语言问答。我们的数据和代码可在https://nlp.cs.washington.edu/xorqa上获得。
2021-04-13 cs.CL
Cross-Lingual Low-Resource Set-to-Description Retrieval for Global E-Commerce
Peking University（北京大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Indiana University（印第安纳大学）
随着跨境电子商业的蓬勃发展，迫切需要设计智能化的方法来帮助电子商业卖家为来自世界各地的消费者提供当地产品。本文探讨了跨语言信息检索的一个新任务，即，跨境电子商业中的跨语言集合到描述检索，其涉及将源语言中的产品属性集合与目标语言中的有说服力的产品描述进行匹配。我们手动收集一个新的和高质量的配对数据集，其中每对包含一个无序的产品属性集的源语言和信息丰富的产品描述的目标语言。由于数据集构建过程既耗时又昂贵，新数据集仅包含13.5k对，这是一个低资源设置，可以被视为跨境电子商业模型开发和评估的具有挑战性的测试平台。为了解决这种跨语言集到描述检索任务，我们提出了一种新的跨语言匹配网络（CLMN）与增强的上下文相关的跨语言映射的预训练单语BERT表示。实验结果表明，我们提出的CLMN在具有挑战性的任务上产生了令人印象深刻的结果，并且与预训练的多语言BERT模型相比，BERT上的上下文相关的跨语言映射产生了显着的改进。
2020-05-17 cs.CL
Cross-lingual Contextualized Phrase Retrieval
Nara Institute of Science and Technology（奈良科学技术研究所）；Tencent AI Lab（腾讯AI实验室）
本文提出跨语言上下文化短语检索任务，利用平行句词对齐自动构建短语对，并通过对比学习训练CCPR，在短语检索和机器翻译任务上均取得显著提升。
2024-10-04 cs.CL
Unsupervised Cross-Lingual Information Retrieval using Monolingual Data Only
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
我们提出了一个完全无监督的框架ad-hoc跨语言信息检索（CLIR），不需要双语数据。该框架利用共享的跨语言词嵌入空间，在该空间中，可以表示术语、查询和文档，而不管它们的实际语言。共享的嵌入空间是通过基于对抗神经网络的迭代过程，仅基于两种语言的单语语料库而导出的。我们的实验上的标准CLEF CLIR集合的三种语言对不同程度的语言相似性（英语，荷兰语/意大利语/芬兰语）证明了所提出的完全无监督的方法的实用性。我们的无监督跨语言嵌入的CLIR模型优于使用依赖于单词级和文档级对齐的跨语言嵌入的基线。然后，我们证明了进一步的改进，可以实现无监督集成CLIR模型。我们相信，建议的框架是第一步，发展有效的语言对和域的并行数据是稀缺或不存在的CLIR模型。
2018-05-02 cs.CL
SHINE: Syntax-augmented Hierarchical Interactive Encoder for Zero-shot Cross-lingual Information Extraction
University of Science and Technology of China（中国科学技术大学）；iFLYTEK Research（科大讯飞研究院）
针对零样本跨语言信息抽取，提出SHINE编码器，通过多级交互网络融合语言通用特征与上下文信息，并引入成分结构语法特征建模跨度信息，有效提升了跨语言IE任务的性能与泛化能力。
2023-05-21 cs.CL
Automatic Data Retrieval for Cross Lingual Summarization
IIIT Hyderabad（海得拉巴国际信息技术学院）；TCS Research（塔塔咨询服务研究院）
本研究提出利用文本与视频新闻配对来自动获取跨语言摘要数据，实现英语到印地语的摘要，并构建基线进行错误分析。
2023-12-22 cs.CL
LëtzCross: A Cross-Lingual Page-Level Benchmark for Multimodal Retrieval over Luxembourgish Documents
University of Luxembourg（卢森堡大学）；King Fahd University of Petroleum and Minerals（法赫德国王石油矿产大学）
该研究推出LëtzCross基准，对比纯文本与ColPali式页面图像检索器，发现后者表现更优，还明确单语言微调中法语文对卢森堡语查询表现最高、多语言微调中纳入卢森堡语效果最强。
2026-08-25 cs.CL
Improving Cross-lingual Information Retrieval on Low-Resource Languages via Optimal Transport Distillation
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
得益于基于transformer的预训练语言模型，神经排序模型取得了重大进展。最近，多语言预训练语言模型的出现为设计神经跨语言检索模型提供了很大的支持。但是，由于不同语言的预训练数据不平衡，多语言语言模型在许多下游任务中已经表现出高资源语言和低资源语言之间的性能差距。基于这种预训练模型构建的跨语言检索模型可能会继承语言偏见，从而导致低资源语言的次优结果。此外，与英语到英语检索任务不同，在英语到英语检索任务中，可以获得用于文档排序的大规模训练集合，例如MS MARCO，缺乏用于低资源语言的跨语言检索数据使得训练跨语言检索模型更具挑战性。在这项工作中，我们提出了光学：低资源跨语言信息检索的最佳传输蒸馏。为了将模型从高资源语言转移到低资源语言，OPTICAL将跨语言标记对齐任务形成为最佳传输问题，以从经过良好训练的单语检索模型中学习。通过将跨语言知识与查询文档匹配知识分离，OPTICAL只需要双文本数据就可以进行提取训练，这对于低资源的语言来说更可行。实验结果表明，在训练数据最少的情况下，OPTICAL在低资源语言（包括神经机器翻译）上的表现明显优于强基线。
2023-01-29 cs.CL cs.IR
Interactive Refinement of Cross-Lingual Word Embeddings
University of Maryland（马里兰大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Washington（华盛顿大学）
跨语言词嵌入在语言之间传递知识：在高资源语言上训练的模型可以在低资源语言中进行预测。我们介绍CLIME，一个交互式系统，快速完善跨语言的词嵌入为一个给定的分类问题。首先，CLIME根据单词对下游任务的显著性对单词进行排名。然后，用户在嵌入空间中标记关键字与其最近邻居之间的相似性。最后，CLIME使用注释更新嵌入。我们评估CLIME识别四种低资源语言中与健康相关的文本：伊洛卡诺语，僧伽罗语，提格里尼亚语和维吾尔语。由CLIME改进的嵌入捕获了更细微的单词语义，并且比原始嵌入具有更高的测试准确率。CLIME通常比主动学习基线更快地提高准确性，并且可以很容易地与主动学习相结合以改善结果。
2021-06-03 cs.CL cs.LG
MIA 2022 Shared Task Submission: Leveraging Entity Representations, Dense-Sparse Hybrids, and Fusion-in-Decoder for Cross-Lingual Question Answering
Apple（苹果公司）
我们描述了我们的两阶段系统的多语言信息访问（MIA）2022跨语言开放检索问答共享任务。第一阶段包括多语种段落检索与混合密集和稀疏检索策略。第二阶段由一个阅读器组成，它输出第一阶段返回的顶部段落的答案。我们展示了在预训练中使用多语言语言模型与实体表示，稀疏检索信号以帮助稠密检索和解码器融合的有效性。在开发集上，我们在XOR-TyDi QA上获得43.46 F1，在MKQA上获得21.99 F1，平均F1得分为32.73。在测试集上，我们在XOR-TyDi QA上获得40.93 F1，在MKQA上获得22.29 F1，平均F1得分为31.61。我们在开发和测试集上都比官方基准提高了4个F1点。
2022-07-18 cs.CL
Improving Cross-lingual Representation for Semantic Retrieval with Code-switching
School of Computer Science and Technology, Xinjiang University（新疆大学计算机科学与技术学院）；Xinjiang Laboratory of Multi-Language Information Technology, Xinjiang University（新疆多语言信息技术实验室）；Xinjiang Multilingual Information Technology Research Center, Xinjiang University（新疆多语信息科技研究中心）；Joint International Research Laboratory of Silk Road Multilingual Cognitive Computing, Xinjiang University（丝绸之路多语认知计算国际联合实验室）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术学院）；Alibaba DAMO Academy（阿里巴巴达摩院）；Department of Computer Science and Technology, Westlake University（西湖大学计算机科学与技术学院）；Department of Computer Science and Technology, Dalian University of Technology（大连理工大学计算机科学与技术学院）；Beijing Key Lab of Traffic Data Analysis and Mining, Beijing Jiaotong University（北京交通大数据分析与挖掘重点实验室）
针对跨语言语义检索中预训练模型缺乏下游任务信号的问题，提出基于代码切换的持续预训练方法，在多个数据集上超越现有最优方法。
2025-07-10 cs.CL
Cross-lingual Retrieval for Iterative Self-Supervised Training
Facebook AI（Facebook AI（脸书人工智能））
最近的研究已经证明了多语言预训练语言模型的跨语言对齐能力。在这项工作中，我们发现跨语言对齐可以通过在使用自己的编码器输出挖掘的句子对上训练seq 2seq模型来进一步改进。我们利用这些发现开发了一种新的方法-跨语言检索迭代自监督训练（CRISS），其中迭代地应用挖掘和训练过程，同时提高跨语言对齐和翻译能力。使用这种方法，我们在9种语言方向上实现了最先进的无监督机器翻译结果，平均提高了2.4 BLEU，并且在16种语言的XTREME基准测试中的Tatoeba句子检索任务中，绝对准确率平均提高了21.5%。此外，与mBART相比，CRISS在监督机器翻译下游任务上进行微调时，平均还带来了额外的1.8 BLEU改进。
2020-10-26 cs.CL cs.LG
Mitigating Language Bias in Cross-Lingual Job Retrieval: A Recruitment Platform Perspective
Chulalongkorn University（朱拉隆功大学）
本文提出统一句子编码器，通过多任务双编码器框架联合学习简历与职位文本的多个组成部分，并引入LBKL指标评估语言偏见，在较小模型规模下实现优于现有模型的跨语言职位检索性能。
2025-02-05 cs.CL
Cross-Lingual Legal QA for Vietnamese Labour Law: Retrieval, Translation, and Verifier-Guided Correction
VinUniversity（维新大学）；Lancaster University（兰卡斯特大学）；Cardiff University（卡迪夫大学）
针对越南劳动法的跨语言法律问答，构建双语评估套件，提出验证器引导的流水线，发现密集检索优于稀疏检索，验证器修正提升引用保留，但自动诊断与人类判断不完全一致。
2026-09-24 cs.CL
Synergistic Approach for Simultaneous Optimization of Monolingual, Cross-lingual, and Multilingual Information Retrieval
University of Minnesota（明尼苏达大学）；GE HealthCare（GE医疗）；University of Waterloo（滑铁卢大学）；Vectara（维克塔拉科技公司）
提出混合批次训练策略，同时优化单语、跨语言和多语言零样本检索，减轻语言偏差，并在多个基准上取得优于单一训练的结果。
2024-08-20 cs.CL cs.IR
Modeling Sequential Sentence Relation to Improve Cross-lingual Dense Retrieval
Microsoft Research Asia（微软亚洲研究院）
针对跨语言稠密检索缺乏定制化多语言预训练模型的问题，该研究提出MSM模型，通过建模跨语言通用的序列句子关系，结合掩码句子预测任务与分层对比损失训练，显著提升了跨语言检索性能。
2025-09-05 cs.CL cs.IR
COCO-CN for Cross-Lingual Image Tagging, Captioning and Retrieval
Renmin University of China（中国人民大学）
本文在数据和基线方法方面对跨语言图像标注和检索做出了贡献。我们提出了COCO-CN，一个新的数据集丰富MS-COCO与手工编写的中文句子和标签。为了更有效地获取注释，我们开发了一个辅助的集体注释系统，自动提供注释者与几个标签和句子被认为是相关的图片内容。COCO-CN拥有20，342张图片，标注了27，218个中文句子和70，993个标签，是目前最大的中英文数据集，为跨语言的图像标记，字幕和检索提供了统一和具有挑战性的平台。我们为每个任务开发概念上简单而有效的方法，用于从跨语言资源中学习。在这三个任务上进行的大量实验证明了所提出的数据集和方法的可行性。数据和代码可在https://github.com/li-xirong/coco-cn上公开获取
2019-01-15 cs.CL cs.CV
Improving Retrieval-Augmented Neural Machine Translation with Monolingual Data
SYSTRAN by ChapsVision（ChapsVision 公司）；Sorbonne Université, CNRS, ISIR（索邦大学、国家科学研究中心、ISIR）
本研究针对传统检索增强神经机器翻译依赖双语语料的局限，提出基于源语言查询检索目标语单语片段的方法，设计结合句级与词级匹配目标的跨语言检索系统，实验证明性能媲美标准TM模型，真实场景下优于基线与通用跨语言检索器。
2025-10-01 cs.CL
Simple Yet Effective Neural Ranking and Reranking Baselines for Cross-Lingual Information Retrieval
University of Waterloo（滑铁卢大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；UNICAMP（坎皮纳斯州立大学）；Naver Labs Europe（Naver欧洲实验室）
本文针对跨语言信息检索（CLIR）方法繁多且可复现性差的问题，提出了一个基于多阶段架构的概念框架，并在Anserini和Pyserini工具包中实现了简单有效的可复现基线，为未来研究奠定基础。
2023-04-03 cs.CL cs.IR
Towards Zero-shot Cross-lingual Image Retrieval
Adobe Inc.（奥多比公司）
最近对多模态语言和视觉问题的兴趣激增。在语言方面，大多数这些模型主要集中在英语上，因为大多数多模态数据集都是单语的。我们试图通过一种zero-shot方法来弥合这一差距，该方法使用文本侧的跨语言预训练来学习多模态表示。我们提出了一种简单而实用的方法来构建一个跨语言的图像检索模型，该模型在单语训练数据集上训练，但可以在推理过程中以zero-shot跨语言的方式使用。我们还引入了一个新的目标函数，它通过将不同的文本相互推送来收紧文本嵌入集群。最后，我们介绍了一个新的1K多语言MSCOCO2014字幕测试数据集（XTD10），我们使用众包平台收集了7种语言。我们将其用作测试集，用于评估跨语言的zero-shot模型性能。XTD 10数据集在以下网站公开发布：https://github.com/adobe-research/Cross-lingual-Test-Dataset-XTD10
2020-11-24 cs.CL cs.CV cs.LG
Cross-lingual Document Retrieval using Regularized Wasserstein Distance
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；LIG（格勒诺布尔信息学实验室）；Univ. Lyon（里昂大学）；INSA-Lyon（里昂国立应用科学学院）；Univ. Claude Bernard Lyon 1（里昂第一大学）；UJM-Saint Etienne（圣艾蒂安大学）；Inserm（法国国家健康与医学研究院）；CREATIS UMR 5220（CREATIS联合研究单位5220）；U1206（U1206研究单位）
许多信息检索算法依赖于允许有效地比较不同性质的对象的良好距离的概念。最近，一个新的有前途的度量被称为词移动者的距离被提出来衡量文本段落之间的分歧。在本文中，我们证明了这个度量可以扩展到包含术语加权方案，并使用熵正则化在文档之间提供更准确和计算效率更高的匹配。我们评估的好处，这两个扩展的跨语言文档检索（CLDR）的任务。我们对8个CLDR问题的实验结果表明，所提出的方法实现了显着的改善，平均倒数排名相比，几个基线。
2018-05-11 cs.CL stat.ML
Beyond Ranked Lists: The SARAL Framework for Cross-Lingual Document Set Retrieval
Information Sciences Institute University of Southern California（信息科学研究所 美国南加州大学）
本文介绍 ISI 团队为 MATERIAL 计划提出的 SARAL 框架，该框架面向跨语言文档集检索而非传统排序列表，并在三种语言的六项评估中五项超越其他团队。
2025-11-05 cs.CL cs.IR
Evaluating Multilingual Text Encoders for Unsupervised Cross-Lingual Retrieval
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
基于神经Transformer架构的预训练多语言文本编码器，如多语言BERT（mBERT）和XLM，在无数的语言理解任务上取得了很好的性能。因此，它们已被采用作为多语言和跨语言表示学习和迁移的一个去范例，使跨语言词嵌入（CLWEs）有效地过时。然而，问题仍然存在，在何种程度上这一发现推广1）无监督的设置和2）特设跨语言IR（CLIR）的任务。因此，在这项工作中，我们提出了一个系统的实证研究集中在国家的最先进的多语言编码器跨语言的文档和句子检索任务在大量的语言对的适用性。与有监督的语言理解相比，我们的研究结果表明，对于无监督的文档级CLIR -一种没有针对IR特定微调的相关性判断的设置-预训练编码器未能显着优于基于CLWE的模型。对于高级CLIR，我们证明了可以实现最先进的性能。然而，使用通用多语言文本编码器“现成的”并不能达到峰值性能，而是依赖于它们的变体，这些变体进一步专门用于句子理解任务。
2021-01-21 cs.CL cs.IR
CLEAR: Cross-Lingual Enhancement in Alignment via Reverse-training
Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系）；Department of English Language and Literature, Kyungpook National University（庆北国立大学英语语言文学系）
本文提出CLEAR，通过反向训练方案提升跨语言检索性能，尤其在低资源语言中表现优异，同时减少对英语性能的负面影响。
2026-04-14 cs.CL cs.IR
Breaking Language Barriers with MMTweets: Advancing Cross-Lingual Debunked Narrative Retrieval for Fact-Checking
University of Sheffield（谢菲尔德大学）
本研究创建MMTweets数据集，引入跨语言已辟谣叙事检索任务，通过多阶段检索方法提升跨语言事实核查效率，并公开数据集与标注手册。
2024-08-20 cs.CL cs.CY cs.IR
Hubness, Not Anisotropy, Drives Cross-Lingual Retrieval Asymmetry in Multilingual Embedding Models
Department of Computer Science and Engineering（计算机科学与工程系）
本文通过实验证明，在多语言嵌入模型中，中心性（hubness）是导致跨语言检索不对称性的主要几何病理因素，而非各向异性、质心漂移或向量幅度，并推荐使用CSLS替代余弦相似度作为默认检索度量。
2026-05-26 cs.CL
Parameter-Efficient Neural Reranking for Cross-Lingual and Multilingual Retrieval
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）；University of Würzburg（维尔茨堡大学）
最先进的神经（重新）排名器是出了名的数据饥渴-考虑到缺乏英语以外的语言的大规模训练数据-使得它们很少用于多语言和跨语言检索设置。因此，当前的方法通常通过多语言编码器将在英语数据上训练的排名器转移到其他语言和跨语言设置：它们微调预训练的大规模多语言Transformers（MMT，例如，多语言BERT）对英语相关性判断的影响，然后将它们部署在目标语言中。在这项工作中，我们表明，两个参数有效的跨语言迁移的方法，即稀疏微调掩码（SFTM）和适配器，允许更轻量级，更有效的zero-shot传输到多语言和跨语言检索任务。我们首先通过掩蔽语言建模训练语言适配器（或SFTM），然后训练检索（即，重新排序）适配器（SFTM）在顶部，同时保持所有其他参数固定。在推理时，这种模块化设计允许我们通过应用用源语言数据训练的（重新）排名适配器（或SFTM）以及目标语言的语言适配器（或SFTM）来组成排名器。我们对CLEF-2003和HC 4基准进行了大规模的评估，此外，作为另一个贡献，我们扩展了前者，使用三种新语言进行查询：吉尔吉斯语，维吾尔语和土耳其语。所提出的参数有效的方法优于标准的zero-shot传输与全MMT微调，同时更模块化，减少训练时间。这种收益对于低资源语言尤其明显，在这些语言中，我们的方法也大大优于基于机器翻译的竞争性排名。
2022-09-16 cs.CL cs.IR
The Cross-Lingual Cost: Retrieval Biases in RAG over Arabic-English Corpora
Technology Innovation Institute（技术创新研究所）
本研究针对阿拉伯语-英语跨语言RAG，发现检索是跨语言领域场景的关键瓶颈，并提出两种简单策略（平等检索或查询翻译）显著提升跨语言与整体性能。
2025-10-27 cs.AI cs.CL cs.IR
On Cross-Lingual Retrieval with Multilingual Text Encoders
University of Cambridge（剑桥大学）；University of Mannheim（曼海姆大学）
在这项工作中，我们提出了一个系统的实证研究，重点是国家的最先进的多语言编码器跨语言的文件和句子检索任务在许多不同的语言对的适用性。我们首先将这些模型视为多语言文本编码器，并在无监督的特设句子和文档级CLIR中对其性能进行基准测试。与有监督的语言理解相比，我们的研究结果表明，对于无监督的文档级CLIR -一种没有针对IR特定微调的相关性判断的设置-平均而言，预训练的多语言编码器未能显着优于基于CLWE的早期模型。对于高级检索，我们确实获得了最先进的性能：然而，峰值分数是由多语言编码器满足的，这些编码器以监督的方式进一步专门用于句子理解任务，而不是使用它们的香草“现成”变体。根据这些结果，我们介绍了本地化的相关性匹配文档级CLIR，我们独立的分数对文档部分的查询。在第二部分中，我们评估了以监督方式微调的多语言编码器（即，我们学习排名）在一系列的zero-shot语言和域转移CLIR实验中的英语相关性数据。我们的研究结果表明，监督重新排名很少提高性能的多语言Transformers作为无监督的基础排名。最后，只有通过域内对比微调（即，相同的域，只有语言迁移），我们设法提高排名质量。我们发现跨语言检索结果和（zero-shot）跨语言迁移的结果在目标语言中的单语检索之间存在实质性的经验差异，这表明在单语数据上训练的检索模型的“单语过拟合”。
2021-12-21 cs.CL cs.IR
Constraint Translation Candidates: A Bridge between Neural Query Translation and Cross-lingual Information Retrieval
Alibaba Group（阿里巴巴集团）
查询翻译是跨语言信息检索系统中的一个关键部分。在深度学习的帮助下，神经机器翻译（NMT）在各种任务上都表现出了良好的效果。然而，NMT通常使用大规模域外数据而不是域内查询翻译对进行训练。此外，翻译模型在推理时缺乏一种机制来保证生成的词与搜索索引相匹配。QT的这两个缺点导致人类可读的文本，但下游检索任务的候选人不足。在本文中，我们提出了一种新的方法来缓解这些问题，限制开放的目标词汇搜索空间的QT的一组重要的话挖掘从搜索索引数据库。在训练和推理时都采用约束翻译候选，从而指导翻译模型学习和生成性能良好的目标查询。本文提出的方法在一个真实的CLIR系统--全球速卖通电子商务搜索引擎中得到了应用和检验。实验结果表明，我们的方法在翻译质量和检索准确率上都比强NMT基线有更好的性能。
2020-10-26 cs.CL cs.IR
What Drives Cross-lingual Ranking? Retrieval Approaches with Multilingual Language Models
The Alan Turing Institute（艾伦·图灵研究所）；Queen Mary University of London（伦敦女王学院）；University College London（伦敦大学学院）
本文研究了跨语言检索中影响排序的因素，发现专门训练的密集检索模型和对比学习在低资源和跨脚本场景中表现更优，优于传统的翻译和单语言检索方法。
2025-11-24 cs.AI cs.CL cs.IR
Boosting Zero-shot Cross-lingual Retrieval by Training on Artificially Code-Switched Data
LMU Munich（慕尼黑大学）
本文提出利用双语词典生成人工语码转换数据训练排序模型，在mMARCO上显著提升零样本跨语言和多语言检索性能，且对远距离语言和未见语言具有鲁棒性。
2023-05-26 cs.CL cs.IR
Dynamic Adapter with Semantics Disentangling for Cross-lingual Cross-modal Retrieval
Zhejiang Gongshang University（浙江工商大学）
提出语义解耦动态适配器DASD，根据输入描述特征动态生成参数以适应多样表达，解决了跨语言跨模态检索中静态适配器难以适应目标语言多样表达的问题。
2024-12-18 cs.CL cs.CV
Exploiting Neural Query Translation into Cross Lingual Information Retrieval
Alibaba Group（阿里巴巴集团）
查询翻译作为跨语言信息检索（CLIR）中的一个重要环节，面临着三个主要挑战：1）翻译的充分性; 2）缺乏域内并行训练数据; 3）对低延迟的要求。为此，现有的CLIR系统主要利用基于语法的机器翻译（SMT）而不是高级神经机器翻译（NMT），限制了翻译和检索质量的进一步提高。本文研究了如何将神经查询翻译模型应用到CLIR系统中。具体而言，我们提出了一种新的数据增强方法，提取查询翻译对，根据用户点击数据，从而减轻在NMT领域适应的问题。然后，我们提出了一种异步策略，它能够充分利用SMT的实时性和NMT的准确性的优势。实验结果表明，该方法的检索质量优于强基线，可以很好地应用于实际的CLIR系统，即Aliexpress电子商务搜索引擎。读者可以在我们的网站上检查和测试他们的案例：https://aliexpress.com。
2020-10-26 cs.CL cs.IR
CLIRudit: Cross-Lingual Information Retrieval of Scientific Documents
CONICET-Universidad de Buenos Aires. Instituto de Ciencias de la Computación (ICC). Buenos Aires, Argentina（CONICET-阿根廷布宜诺斯艾利斯大学。信息计算研究所（ICC）。布宜诺斯艾利斯，阿根廷）；École de bibliothéconomie et des sciences de l’information. Université de Montréal. Montréal, Canada（信息与图书馆科学学院。蒙特利尔大学。蒙特利尔，加拿大）
针对学术搜索中非英文成果检索需求，本文构建英法学术跨语言检索数据集CLIRudit，测试多类检索器性能并给出可复现基准，助力非英文学术内容获取。
2025-11-19 cs.CL cs.IR
LAReQA: Language-agnostic answer retrieval from a multilingual pool
Google Research（谷歌研究院）
我们提出了LAReQA，一个具有挑战性的新基准语言无关的答案检索从多语言候选池。与以前的跨语言任务不同，LAReQA测试“强”跨语言对齐，要求语义相关的跨语言对在表示空间中比不相关的相同语言对更接近。基于多语言BERT（mBERT），我们研究了实现强对齐的不同策略。我们发现，通过机器翻译来增强训练数据是有效的，并且比使用mBERT开箱即用有显著的改进。有趣的是，在LAReQA上表现最好的嵌入基线低于我们任务的zero-shot变体上的竞争基线，这些变体仅针对“弱”对齐。这一发现强调了我们的主张，语言无关检索是一种新的跨语言评估。
2020-04-11 cs.CL cs.LG
Evaluating Large Language Models for Cross-Lingual Retrieval
MaiNLP, Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心 MaiNLP）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文首次系统评估大语言模型在跨语言检索中的两阶段交互，发现多语言双编码器可替代机器翻译提升检索效果，且现有重排序器在无翻译条件下直接用于跨语言检索时性能严重不足。
2025-09-18 cs.CL cs.IR
Wasserstein distances for evaluating cross-lingual embeddings
Salesforce（赛富时）；Expedia Group（亿客行集团）
词嵌入是词的高维向量表示，其在向量空间中捕获它们的语义相似性。有几种算法用于学习这种嵌入，既为一种语言，以及为几种语言联合。在这项工作中，我们建议通过适应下游自然语言任务的最佳运输框架，以评估集合的嵌入。我们展示了如何家庭的Wasserstein距离可以用来解决跨语言的文档检索和跨语言的文档分类问题。我们认为这种方法的优势相比，更传统的评价方法，如双语词汇归纳嵌入。我们的实验结果表明，在这些问题上使用Wasserstein距离的性能优于几个强基线，并与最先进的模型相当。
2019-11-11 cs.CL
Cross-lingual Retrieval-Augmented Classification for Dysarthria Severity Assessment
Department of Artificial Intelligence, Sogang University, South Korea（韩国西江大学人工智能系）
提出跨语言检索增强分类（CRAC）方法，通过对齐-检索-融合流程利用另一种语言的语音数据，在说话人无关的三分类任务中，韩语和意大利语数据集上分别达到87.3%和86.7%的平衡准确率，比单语基线提升8.4和20.0个百分点。
2026-06-23 cs.AI cs.CL cs.SD
Context-Aware Cross-Lingual Mapping
The George Washington University（乔治·华盛顿大学）；AWS, Amazon AI（亚马逊云服务，亚马逊人工智能（AWS, Amazon AI））
跨语言词向量通常通过拟合将双语词典的条目从源向量空间映射到目标向量空间的正交矩阵来获得。然而，词向量最常用于句子或文档级表示，这些表示被计算为词嵌入的加权平均值。在本文中，我们提出了一种替代词级映射，更好地反映了词典级跨语言的相似性。我们通过直接映射平行语料库中对齐句子的平均嵌入来将上下文纳入转换矩阵。我们还实现了跨语言映射的深度上下文词嵌入使用平行的句子与词对齐。在我们的实验中，这两种方法导致跨语言的句子嵌入，优于上下文无关的词映射在句子翻译检索。此外，词级转换可以用于词级映射，而不会损失词翻译质量。
2019-03-31 cs.CL
Transforming LLMs into Cross-modal and Cross-lingual Retrieval Systems
Boston University（波士顿大学）；The University of Edinburgh（爱丁堡大学）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
本研究提出用大语言模型初始化多模态双编码器检索系统，仅用21种语言训练即可实现102种语言的语音文本匹配，平均Recall@1提升10%，还可借助机器翻译数据增强跨语言匹配能力。
2024-07-10 cs.CL cs.IR cs.SD
Effects of Cross-lingual Evidence in Multilingual Medical Question Answering
HiTZ Center - Ixa, University of the Basque Country UPV/EHU（巴斯克大学希茨中心 - Ixa，巴斯克国家大学UPV/EHU）
本文研究了多语言医疗问答中跨语言证据的作用，探讨了不同规模模型在三种外部证据源下的表现，发现大模型在英语中表现更优，而低资源语言需结合英式和目标语言检索以获得相近准确率。
2026-04-22 cs.CL
Cross-Lingual Ability of Multilingual Masked Language Models: A Study of Language Structure
Beihang University（北京航空航天大学）；Microsoft Research Asia（微软亚洲研究院）
多语言预训练的语言模型，如mBERT和XLM-R，已经显示出令人印象深刻的跨语言能力。令人惊讶的是，他们都使用多语言掩码语言模型（MLM），没有任何跨语言的监督或对齐的数据。尽管取得了令人鼓舞的成果，但我们仍然缺乏对跨语言能力为什么会从多语言传销中出现的清晰理解。在我们的工作中，我们认为，跨语言能力来自语言之间的共性。具体而言，我们研究了三个语言属性：词序，成分和词的共现。首先，我们通过修改源语言中的属性来创建人工语言。然后通过对跨语言迁移结果的改变来研究修饰属性对目标语言的贡献。我们对六种语言和两个跨语言NLP任务（文本蕴涵，句子检索）进行了实验。我们的主要结论是，语序和词同现的贡献是有限的，而成分对跨语言迁移的成功更为关键。
2022-03-16 cs.CL
Cross-Lingual Representation Alignment Through Contrastive Image-Caption Tuning
Department of Computer Science, George Mason University（计算机科学系，乔治·马歇尔大学）
该研究提出用视觉信息替代双语对实现跨语言句子表示对齐，通过多语言图像-字幕对比调优，可隐式对齐文本表示、纳入预训练未见语言，且对齐表示可用于跨语言NLU和双语对检索，为低资源语言提供了更高效的对齐方案。
2025-05-19 cs.CL
SAMU-XLSR: Semantically-Aligned Multimodal Utterance-level Cross-Lingual Speech Representation
MIT Computer Science and Artificial Intelligence Laboratory（麻省理工学院计算机科学与人工智能实验室）；Le Mans University（勒芒大学）
我们提出了SAMU-XLSR：语义对齐的多模态话语级跨语言语音表示学习框架。与以前的语音表示学习工作不同，它以声学帧（10- 20 ms）的分辨率学习多语言上下文语音嵌入，这项工作专注于学习多模态（语音-文本）多语言语音嵌入，以句子（5- 10 s）的分辨率，使得嵌入向量空间在不同语言之间语义对齐。我们结合国家的最先进的多语言声学帧级语音表示学习模型XLS-R与语言无关的BERT句子嵌入（LaBSE）模型，创建一个话语级多模态语音编码器SAMU-XLSR。虽然我们训练SAMU-XLSR只有多语言转录的语音数据，跨语言的语音文本和语音语音协会出现在其学习的表示空间。为了证实我们的主张，我们使用SAMU-XLSR语音编码器结合预训练的LaBSE文本句子编码器进行跨语言语音到文本翻译检索，并单独使用SAMU-XLSR进行跨语言语音到语音翻译检索。我们通过在多个数据集上执行多个跨语言文本和语音翻译检索任务来突出这些应用程序。
2022-05-17 cs.CL cs.LG cs.SD
Cross-Lingual Exploration for Parametric Knowledge
The Hebrew University of Jerusalem（海法大学）；Google Research（谷歌研究）；MIT, IBM-MIT Watson AI Lab（麻省理工学院与IBM-麻省理工 Watson人工智能实验室）
本文研究通过跨语言提示策略探索大型语言模型中的隐藏事实知识，发现跨语言探索能显著提升知识迁移和事实召回，比单语言扩展更高效，并改善跨语言一致性。
2026-06-24 cs.CL
Cross-lingual German Biomedical Information Extraction: from Zero-shot to Human-in-the-Loop
Saarland University（萨尔大学）；German Research Center for Artificial Intelligence（德国人工智能研究中心）；University of Oldenburg（奥尔登堡大学）
本文介绍了我们的项目建议，从德国临床叙述中提取生物医学信息的注释数量有限。我们首先描述了迁移学习和主动学习的应用策略来解决我们的问题。在此之后，我们讨论了设计的用户界面提供模型检查和获得用户注释的交互环境。
2023-01-24 cs.CL cs.HC
Leveraging Multi-lingual Positive Instances in Contrastive Learning to Improve Sentence Embedding
The University of Tokyo（东京大学）
针对多语言句子嵌入学习，本研究提出MPCL方法，通过利用多个多语言正例的跨语言优势与传递相似性改进对比学习，在多类任务及未见过语言的跨语言迁移上均优于传统单正例对比学习。
2024-01-31 cs.CL
C2KD: Cross-Lingual Cross-Modal Knowledge Distillation for Multilingual Text-Video Retrieval
MIT（麻省理工学院）；Goethe University Frankfurt（法兰克福歌德大学）；IBM Research AI（IBM人工智能研究院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；UT Austin（德克萨斯大学奥斯汀分校）
提出跨语言跨模态知识蒸馏方法，利用英语教师模型指导多语言学生模型，并构建Multi-YouCook2数据集，提升多语言文本-视频检索性能。
2023-05-09 cs.CL cs.CV cs.MM
Learning Cross-Lingual IR from an English Retriever
IBM Research（IBM研究院）；IBM Research AI（IBM研究院AI部门）
DECR（稠密检索with Distillation-Enhanced Cross-Lingual Representation）是一个基于多阶段知识蒸馏（KD）训练的跨语言信息检索系统。DR.DECR的教师依赖于一个高效但计算昂贵的两阶段推理过程，包括查询翻译和单语IR，而学生DR.DECR执行单个CLIR步骤。我们通过优化两个相应的KD目标来教授DR.DECR强大的多语言表示以及CLIR。学习有用的表示非英语文本从英语检索器是通过跨语言的令牌对齐算法，依赖于底层的多语言编码器的表示能力。在域内和zero-shot域外评估中，DR.DECR的准确性远远优于使用标记的CLIR数据进行直接微调。在撰写本文时，它也是XOR-TyDi基准测试中最好的单一模型检索器。
2022-07-31 cs.AI cs.CL
A Study of Neural Matching Models for Cross-lingual IR
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
在这项研究中，我们研究了基于交互的神经匹配模型的ad-hoc跨语言信息检索（CLIR）使用跨语言词嵌入（CLWEs）。通过对CLEF收集的四种语言对进行实验，我们评估并深入了解不同的神经模型架构，不同的方式来表示查询文档交互和词对相似性分布CLIR。该研究为使用CLWEs学习端到端CLIR系统铺平了道路。
2020-05-26 cs.CL cs.IR
VECO: Variable and Flexible Cross-lingual Pre-training for Language Understanding and Generation
Alibaba Group（阿里巴巴集团）
多语言预训练的现有工作已经通过训练用于多种语言的统一的Transformer编码器展示了跨语言可移植性的潜力。然而，大部分的这项工作只依赖于共享的词汇和双语上下文，以鼓励跨语言的相关性，这是松散和隐含的对齐语言之间的上下文表示。在本文中，我们将交叉注意模块插入到Transformer编码器中，以显式地构建语言之间的相互依赖性。该方法能有效地避免仅根据本族语语境预测屏蔽词的退化。更重要的是，当对下游任务进行微调时，交叉注意模块可以按需插入或退出，从而自然有利于更广泛的跨语言任务，从语言理解到生成。因此，所提出的跨语言模型提供了新的国家的最先进的结果，各种跨语言的理解任务的XTREME基准，包括文本分类，序列标记，问答，句子检索。对于跨语言生成任务，它在WMT 14英语到德语和英语到法语翻译数据集上的性能也优于所有现有的跨语言模型和最先进的Transformer变体，增益高达1~2 BLEU。
2021-06-02 cs.CL
