Synergistic Approach for Simultaneous Optimization of Monolingual, Cross-lingual, and Multilingual Information Retrieval
University of Minnesota（明尼苏达大学）；GE HealthCare（GE医疗）；University of Waterloo（滑铁卢大学）；Vectara（维克塔拉科技公司）
提出混合批次训练策略，同时优化单语、跨语言和多语言零样本检索，减轻语言偏差，并在多个基准上取得优于单一训练的结果。
2024-08-20 cs.CL cs.IR
Learning Disentangled Semantic Representations for Zero-Shot Cross-Lingual Transfer in Multilingual Machine Reading Comprehension
Tianjin University（天津大学）
在机器阅读理解（MRC）中，多语言预训练模型能够将知识从资源丰富的语言zero-shot迁移到资源贫乏的语言。然而，不同语言之间固有的语言差异可能会使zero-shot迁移预测的答案跨度违反目标语言的句法约束。在本文中，我们提出了一种新的多语言MRC框架，该框架配备了Siamese Semantic Disentanglement Model（SSDM），可以将语义与多语言预训练模型学习的表示中的语法分离。为了明确地将语义知识转移到目标语言，我们提出了两组针对语义和句法编码和解纠缠的损失。在三个多语言MRC数据集上的实验结果（即，XQuAD，MLQA和TyDi QA）证明了我们提出的方法在基于mBERT和XLM-100的模型上的有效性。代码可从以下网址获得：https://github.com/wulinjuan/SSDM_MRC。
2023-01-14 cs.CL
Modeling Sequential Sentence Relation to Improve Cross-lingual Dense Retrieval
Microsoft Research Asia（微软亚洲研究院）
针对跨语言稠密检索缺乏定制化多语言预训练模型的问题，该研究提出MSM模型，通过建模跨语言通用的序列句子关系，结合掩码句子预测任务与分层对比损失训练，显著提升了跨语言检索性能。
2025-09-05 cs.CL cs.IR
Learning Cross-Lingual IR from an English Retriever
IBM Research（IBM研究院）；IBM Research AI（IBM研究院AI部门）
DECR（稠密检索with Distillation-Enhanced Cross-Lingual Representation）是一个基于多阶段知识蒸馏（KD）训练的跨语言信息检索系统。DR.DECR的教师依赖于一个高效但计算昂贵的两阶段推理过程，包括查询翻译和单语IR，而学生DR.DECR执行单个CLIR步骤。我们通过优化两个相应的KD目标来教授DR.DECR强大的多语言表示以及CLIR。学习有用的表示非英语文本从英语检索器是通过跨语言的令牌对齐算法，依赖于底层的多语言编码器的表示能力。在域内和zero-shot域外评估中，DR.DECR的准确性远远优于使用标记的CLIR数据进行直接微调。在撰写本文时，它也是XOR-TyDi基准测试中最好的单一模型检索器。
2022-07-31 cs.AI cs.CL
Addressing Issues of Cross-Linguality in Open-Retrieval Question Answering Systems For Emergent Domains
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
开放式检索问答系统通常在成熟领域的大型数据集上进行训练和测试。然而，低资源设置，如新的和新兴的领域将特别受益于可靠的问答系统。此外，新兴领域的多语言和跨语言资源稀缺，导致很少或根本没有这样的系统。在本文中，我们展示了一个跨语言的开放检索问答系统的新冠肺炎的紧急领域。我们的系统采用了语料库的科学文章，以确保检索到的文件是可靠的。为了解决紧急领域中跨语言训练数据的稀缺性，我们提出了一种利用自动翻译、对齐和过滤来产生英语到所有数据集的方法。我们表明，深度语义检索器从我们的英语到所有数据的训练中受益匪浅，并且在跨语言设置中显着优于BM 25基线。我们举例说明我们的系统的能力，并释放所有必要的代码训练和部署这样一个系统。
2022-01-26 cs.CL cs.IR
Simple Yet Effective Neural Ranking and Reranking Baselines for Cross-Lingual Information Retrieval
University of Waterloo（滑铁卢大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；UNICAMP（坎皮纳斯州立大学）；Naver Labs Europe（Naver欧洲实验室）
本文针对跨语言信息检索（CLIR）方法繁多且可复现性差的问题，提出了一个基于多阶段架构的概念框架，并在Anserini和Pyserini工具包中实现了简单有效的可复现基线，为未来研究奠定基础。
2023-04-03 cs.CL cs.IR
Beyond Ranked Lists: The SARAL Framework for Cross-Lingual Document Set Retrieval
Information Sciences Institute University of Southern California（信息科学研究所 美国南加州大学）
本文介绍 ISI 团队为 MATERIAL 计划提出的 SARAL 框架，该框架面向跨语言文档集检索而非传统排序列表，并在三种语言的六项评估中五项超越其他团队。
2025-11-05 cs.CL cs.IR
Learning Multilingual Embeddings for Cross-Lingual Information Retrieval in the Presence of Topically Aligned Corpora
Computer Science and Engineering, Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校计算机科学与工程系）
在缺乏对齐的平行语料库的情况下，跨语言信息检索是一项具有挑战性的任务。在本文中，我们解决这个问题，考虑局部对齐语料库设计用于评估IR设置。需要强调的是，我们既不使用任何与词典对齐的语料库或与文档对齐的语料库，也不使用任何特定于语言的资源，如字典、同义词词典或语法规则。相反，我们使用嵌入到公共空间中，并直接从那里学习单词对应关系。我们测试我们提出的方法，双语IR标准消防数据集孟加拉语，印地语和英语。所提出的方法是优于国家的最先进的方法，不仅为IR评估措施，但也在时间要求方面。我们成功地将我们的方法扩展到三语环境。
2018-04-12 cs.CL cs.IR
Evaluating Multilingual Text Encoders for Unsupervised Cross-Lingual Retrieval
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
基于神经Transformer架构的预训练多语言文本编码器，如多语言BERT（mBERT）和XLM，在无数的语言理解任务上取得了很好的性能。因此，它们已被采用作为多语言和跨语言表示学习和迁移的一个去范例，使跨语言词嵌入（CLWEs）有效地过时。然而，问题仍然存在，在何种程度上这一发现推广1）无监督的设置和2）特设跨语言IR（CLIR）的任务。因此，在这项工作中，我们提出了一个系统的实证研究集中在国家的最先进的多语言编码器跨语言的文档和句子检索任务在大量的语言对的适用性。与有监督的语言理解相比，我们的研究结果表明，对于无监督的文档级CLIR -一种没有针对IR特定微调的相关性判断的设置-预训练编码器未能显着优于基于CLWE的模型。对于高级CLIR，我们证明了可以实现最先进的性能。然而，使用通用多语言文本编码器“现成的”并不能达到峰值性能，而是依赖于它们的变体，这些变体进一步专门用于句子理解任务。
2021-01-21 cs.CL cs.IR
CLEAR: Cross-Lingual Enhancement in Alignment via Reverse-training
Department of Computer Science and Engineering, Korea University（韩国大学计算机科学与工程系）；Department of English Language and Literature, Kyungpook National University（庆北国立大学英语语言文学系）
本文提出CLEAR，通过反向训练方案提升跨语言检索性能，尤其在低资源语言中表现优异，同时减少对英语性能的负面影响。
2026-04-14 cs.CL cs.IR
CroSearch-R1: Better Leveraging Cross-lingual Knowledge for Retrieval-Augmented Generation
School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院）
本文提出CroSearch-R1框架，通过多轮检索策略和多语言回放机制，提升跨语言知识在检索增强生成中的有效性。
2026-04-28 cs.CL cs.IR
Parameter-Efficient Neural Reranking for Cross-Lingual and Multilingual Retrieval
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）；University of Würzburg（维尔茨堡大学）
最先进的神经（重新）排名器是出了名的数据饥渴-考虑到缺乏英语以外的语言的大规模训练数据-使得它们很少用于多语言和跨语言检索设置。因此，当前的方法通常通过多语言编码器将在英语数据上训练的排名器转移到其他语言和跨语言设置：它们微调预训练的大规模多语言Transformers（MMT，例如，多语言BERT）对英语相关性判断的影响，然后将它们部署在目标语言中。在这项工作中，我们表明，两个参数有效的跨语言迁移的方法，即稀疏微调掩码（SFTM）和适配器，允许更轻量级，更有效的zero-shot传输到多语言和跨语言检索任务。我们首先通过掩蔽语言建模训练语言适配器（或SFTM），然后训练检索（即，重新排序）适配器（SFTM）在顶部，同时保持所有其他参数固定。在推理时，这种模块化设计允许我们通过应用用源语言数据训练的（重新）排名适配器（或SFTM）以及目标语言的语言适配器（或SFTM）来组成排名器。我们对CLEF-2003和HC 4基准进行了大规模的评估，此外，作为另一个贡献，我们扩展了前者，使用三种新语言进行查询：吉尔吉斯语，维吾尔语和土耳其语。所提出的参数有效的方法优于标准的zero-shot传输与全MMT微调，同时更模块化，减少训练时间。这种收益对于低资源语言尤其明显，在这些语言中，我们的方法也大大优于基于机器翻译的竞争性排名。
2022-09-16 cs.CL cs.IR
A Probabilistic Translation Method for Dictionary-based Cross-lingual Information Retrieval in Agglutinative Languages
University of Tehran（德黑兰大学）
双语词典中的翻译歧义、词汇表外的词和漏译等问题使得基于词典的跨语言信息检索（CLIR）成为一项具有挑战性的任务。此外，在没有可靠词干的黏着语言中，双语词典中缺少各种词汇构成会降低CLIR的性能。本文的目的是引入一个概率翻译模型来解决歧义问题，并提供最可能的形式的字典候选。我们提出了最小编辑支持候选（MESC）方法，利用单语语料库和双语词典翻译用户的母语查询文档的语言。我们的实验表明，该方法优于最先进的基于字典的英语-波斯语CLIR。
2014-11-05 cs.CL cs.IR
On Cross-Lingual Retrieval with Multilingual Text Encoders
University of Cambridge（剑桥大学）；University of Mannheim（曼海姆大学）
在这项工作中，我们提出了一个系统的实证研究，重点是国家的最先进的多语言编码器跨语言的文件和句子检索任务在许多不同的语言对的适用性。我们首先将这些模型视为多语言文本编码器，并在无监督的特设句子和文档级CLIR中对其性能进行基准测试。与有监督的语言理解相比，我们的研究结果表明，对于无监督的文档级CLIR -一种没有针对IR特定微调的相关性判断的设置-平均而言，预训练的多语言编码器未能显着优于基于CLWE的早期模型。对于高级检索，我们确实获得了最先进的性能：然而，峰值分数是由多语言编码器满足的，这些编码器以监督的方式进一步专门用于句子理解任务，而不是使用它们的香草“现成”变体。根据这些结果，我们介绍了本地化的相关性匹配文档级CLIR，我们独立的分数对文档部分的查询。在第二部分中，我们评估了以监督方式微调的多语言编码器（即，我们学习排名）在一系列的zero-shot语言和域转移CLIR实验中的英语相关性数据。我们的研究结果表明，监督重新排名很少提高性能的多语言Transformers作为无监督的基础排名。最后，只有通过域内对比微调（即，相同的域，只有语言迁移），我们设法提高排名质量。我们发现跨语言检索结果和（zero-shot）跨语言迁移的结果在目标语言中的单语检索之间存在实质性的经验差异，这表明在单语数据上训练的检索模型的“单语过拟合”。
2021-12-21 cs.CL cs.IR
Constraint Translation Candidates: A Bridge between Neural Query Translation and Cross-lingual Information Retrieval
Alibaba Group（阿里巴巴集团）
查询翻译是跨语言信息检索系统中的一个关键部分。在深度学习的帮助下，神经机器翻译（NMT）在各种任务上都表现出了良好的效果。然而，NMT通常使用大规模域外数据而不是域内查询翻译对进行训练。此外，翻译模型在推理时缺乏一种机制来保证生成的词与搜索索引相匹配。QT的这两个缺点导致人类可读的文本，但下游检索任务的候选人不足。在本文中，我们提出了一种新的方法来缓解这些问题，限制开放的目标词汇搜索空间的QT的一组重要的话挖掘从搜索索引数据库。在训练和推理时都采用约束翻译候选，从而指导翻译模型学习和生成性能良好的目标查询。本文提出的方法在一个真实的CLIR系统--全球速卖通电子商务搜索引擎中得到了应用和检验。实验结果表明，我们的方法在翻译质量和检索准确率上都比强NMT基线有更好的性能。
2020-10-26 cs.CL cs.IR
Anveshana: A New Benchmark Dataset for Cross-Lingual Information Retrieval On English Queries and Sanskrit Documents
Indian Institute of Technology, Kharagpur（印度理工学院，克拉格浦尔）
该研究构建了Anveshana基准数据集，包含3,400对英文-梵文查询-文档对，通过直接检索、翻译检索和查询翻译三种方法，在RAG框架下微调多个模型，发现翻译检索方法在跨语言检索古代文本中表现最佳，提升了梵文经典的可访问性。
2025-05-26 cs.CL cs.IR
Cross-Lingual Phrase Retrieval
Beijing Institute of Technology（北京理工大学）；Huazhong University of Science and Technology（华中科技大学）
跨语言检索的目的是跨语言检索相关文本。目前的方法通常通过学习单词或句子级别的语言无关的文本表示来实现跨语言检索。然而，如何学习跨语言短语检索的短语表示仍然是一个悬而未决的问题。在本文中，我们提出了XPR，一个跨语言的短语检索器，提取短语表示从未标记的例句。此外，我们创建了一个大规模的跨语言短语检索数据集，其中包含65K双语短语对和4.2M例句在8个英语为中心的语言对。实验结果表明，XPR优于使用单词级或短语级表示的最先进的基线。XPR还显示出令人印象深刻的zero-shot可移植性，使模型能够在训练期间以看不见的语言对进行检索。我们的数据集、代码和训练模型可在www.github.com/cwszz/XPR/上公开获取。
2022-04-19 cs.CL
Bridging Language Gaps: Advances in Cross-Lingual Information Retrieval with Multilingual LLMs
The Alan Turing Institute（艾伦·图灵研究所）；Queen Mary University of London（伦敦女王学院）；University College London（伦敦大学学院）
本综述梳理了跨语言信息检索从基于翻译到嵌入驱动、生成式技术的发展，介绍其核心组件、评估与资源，指出现存挑战并提出未来发展方向。
2025-10-01 cs.AI cs.CL cs.IR
CONCRETE: Improving Cross-lingual Fact-checking with Cross-lingual Retrieval
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
由于虚假信息的普遍存在，事实核查越来越受到人们的重视。由于其他语言的数据稀缺问题，大多数事实核查方法只关注用英语提出的主张。缺乏低资源语言的事实检查数据集需要一种有效的跨语言迁移技术来进行事实检查。此外，不同语言的可信信息可以相互补充，有助于核实事实。为此，我们提出了第一个事实检查框架，增强了跨语言检索，通过跨语言检索器从多种语言检索到的证据。由于缺乏跨语言的信息检索数据集与索赔样查询，我们训练检索器与我们提出的跨语言逆完形填空任务（X-ICT），一个自我监督的算法，通过翻译一段话的标题创建训练实例。X-ICT的目标是学习跨语言检索，其中模型学习识别与给定翻译标题对应的段落。在X-Fact数据集上，我们的方法在zero-shot跨语言设置中比现有系统实现了2.23%的绝对F1改进。源代码和数据可在https://github.com/khuangaf/CONCRETE上公开获取。
2022-09-05 cs.CL
Boosting Zero-shot Cross-lingual Retrieval by Training on Artificially Code-Switched Data
LMU Munich（慕尼黑大学）
本文提出利用双语词典生成人工语码转换数据训练排序模型，在mMARCO上显著提升零样本跨语言和多语言检索性能，且对远距离语言和未见语言具有鲁棒性。
2023-05-26 cs.CL cs.IR
Exploiting Neural Query Translation into Cross Lingual Information Retrieval
Alibaba Group（阿里巴巴集团）
查询翻译作为跨语言信息检索（CLIR）中的一个重要环节，面临着三个主要挑战：1）翻译的充分性; 2）缺乏域内并行训练数据; 3）对低延迟的要求。为此，现有的CLIR系统主要利用基于语法的机器翻译（SMT）而不是高级神经机器翻译（NMT），限制了翻译和检索质量的进一步提高。本文研究了如何将神经查询翻译模型应用到CLIR系统中。具体而言，我们提出了一种新的数据增强方法，提取查询翻译对，根据用户点击数据，从而减轻在NMT领域适应的问题。然后，我们提出了一种异步策略，它能够充分利用SMT的实时性和NMT的准确性的优势。实验结果表明，该方法的检索质量优于强基线，可以很好地应用于实际的CLIR系统，即Aliexpress电子商务搜索引擎。读者可以在我们的网站上检查和测试他们的案例：https://aliexpress.com。
2020-10-26 cs.CL cs.IR
CLIRudit: Cross-Lingual Information Retrieval of Scientific Documents
CONICET-Universidad de Buenos Aires. Instituto de Ciencias de la Computación (ICC). Buenos Aires, Argentina（CONICET-阿根廷布宜诺斯艾利斯大学。信息计算研究所（ICC）。布宜诺斯艾利斯，阿根廷）；École de bibliothéconomie et des sciences de l’information. Université de Montréal. Montréal, Canada（信息与图书馆科学学院。蒙特利尔大学。蒙特利尔，加拿大）
针对学术搜索中非英文成果检索需求，本文构建英法学术跨语言检索数据集CLIRudit，测试多类检索器性能并给出可复现基准，助力非英文学术内容获取。
2025-11-19 cs.CL cs.IR
A Cross-Lingual Statutory Article Retrieval Dataset for Taiwan Legal Studies
National Chung Hsing University（国立中兴大学）
本文提出一个面向台湾法律的跨语言成文法条文检索数据集，涵盖中英双语法律询问及相关法规，并基于LLM方法提供基线，旨在提升非母语者的法律信息检索效果。
2024-10-15 cs.CL
Generative Query Expansion with Multilingual LLMs for Cross-Lingual Information Retrieval
The Alan Turing Institute（艾伦·图灵研究所）；University College London（伦敦大学学院）；Queen Mary University of London（伦敦女王学院）
本研究探讨了多语言大语言模型在跨语言信息检索中的生成式查询扩展效果，发现查询长度和提示技术对性能影响显著，且不同语言间存在显著的检索性能差异。
2025-11-24 cs.AI cs.CL cs.IR
Understanding LLMs' Cross-Lingual Context Retrieval: How Good It Is And Where It Comes From
National Key Laboratory for Novel Software Technology, Nanjing University（新型软件技术国家重点实验室，南京大学）；China Mobile Research Beijing, China（中国移动北京研究院）
本文以xMRC评估40余个LLM在12种语言上的跨语言上下文检索，揭示其后训练优势及“问题编码—答案检索”两阶段机制。
2025-10-18 cs.CL
Evaluating Large Language Models for Cross-Lingual Retrieval
MaiNLP, Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心 MaiNLP）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文首次系统评估大语言模型在跨语言检索中的两阶段交互，发现多语言双编码器可替代机器翻译提升检索效果，且现有重排序器在无翻译条件下直接用于跨语言检索时性能严重不足。
2025-09-18 cs.CL cs.IR
PRIME: A System for Multi-lingual Patent Retrieval
鉴于在多个国家提交的专利数量不断增加，用户对跨语言检索专利感兴趣。我们提出了一个多语言专利检索系统，将用户查询翻译成目标语言，在多语言数据库中搜索与查询相关的专利，并通过机器翻译和聚类的方式提高浏览效率。我们的系统还从由可比专利组成的专利族中提取新的翻译，以增强翻译词典。
2002-06-24 cs.CL
The Cross-Lingual Cost: Retrieval Biases in RAG over Arabic-English Corpora
Technology Innovation Institute（技术创新研究所）
本研究针对阿拉伯语-英语跨语言RAG，发现检索是跨语言领域场景的关键瓶颈，并提出两种简单策略（平等检索或查询翻译）显著提升跨语言与整体性能。
2025-10-27 cs.AI cs.CL cs.IR
Improving Low-Resource Cross-lingual Document Retrieval by Reranking with Deep Bilingual Representations
Yale University（耶鲁大学）
在本文中，我们提出了提高低资源的跨语言文档检索性能与深双语查询文档表示。我们用四个组件匹配源语言和目标语言的查询和文档，每个组件都被实现为基于术语交互的深度神经网络，并将跨语言的词嵌入作为输入。通过将查询可能性分数作为额外的特征，我们的模型有效地学习通过使用少量的低资源语言对的相关性标签来重新排序检索到的文档。由于共享的跨语言词嵌入空间，该模型还可以直接应用于另一种语言对，而无需任何训练标签。在MATERIAL数据集上的实验结果表明，我们的模型在英语-斯瓦希里语、英语-塔吉语和英语-索马里语跨语言信息检索任务上的性能优于基于竞争的基线。
2019-06-08 cs.CL
Multilingual Generative Retrieval via Cross-lingual Semantic Compression
Faculty of Information Engineering and Automation, Kunming University of Science and Technology（信息工程与自动化学院，昆明理工大学）；Yunnan Key Laboratory of Artificial Intelligence（云南省人工智能重点实验室）
提出MGR-CSC框架，通过跨语言语义压缩统一多语言关键词为共享原子，并采用动态多步约束解码，解决多语言生成式检索中的标识符错位与膨胀问题，显著提升检索精度并压缩标识符长度。
2025-10-09 cs.CL
What Drives Cross-lingual Ranking? Retrieval Approaches with Multilingual Language Models
The Alan Turing Institute（艾伦·图灵研究所）；Queen Mary University of London（伦敦女王学院）；University College London（伦敦大学学院）
本文研究了跨语言检索中影响排序的因素，发现专门训练的密集检索模型和对比学习在低资源和跨脚本场景中表现更优，优于传统的翻译和单语言检索方法。
2025-11-24 cs.AI cs.CL cs.IR
ChemCLIR-Bench: Benchmarking Cross-Lingual Information Retrieval in Multilingual Chemical Patents
McMaster University（麦克马斯特大学）；BASF Canada Inc.（巴斯夫加拿大公司）
该工作构建了多语言化学专利CLIR基准，评估八种嵌入模型，发现跨语言检索性能显著下降，强调需更稳健的方法。
2026-09-22 cs.CL
Moving Beyond Downstream Task Accuracy for Information Retrieval Benchmarking
Stanford University（斯坦福大学）；IBM Research AI（IBM研究院AI部门）
神经信息检索（IR）系统近年来发展迅速，这在很大程度上是由于公开可用的基准测试任务的发布。不幸的是，这一进展的某些方面是虚幻的：今天大多数流行的IR基准只关注下游任务的准确性，从而掩盖了以效率换取质量的系统所产生的成本。延迟、硬件成本和其他效率考虑对于在面向用户的环境中部署IR系统至关重要。我们建议，IR基准结构的评估方法，不仅包括准确性的指标，但也效率的考虑，如查询延迟和相应的成本预算的可再生的硬件设置。对于流行的IR基准MS MARCO和XOR-TyDi，我们展示了IR系统的最佳选择如何根据这些效率因素的选择和权衡而变化。我们希望未来的基准将采用这些指导方针，以更全面的IR评估。
2022-12-02 cs.CL cs.IR
Cross-Lingual Low-Resource Set-to-Description Retrieval for Global E-Commerce
Peking University（北京大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Indiana University（印第安纳大学）
随着跨境电子商业的蓬勃发展，迫切需要设计智能化的方法来帮助电子商业卖家为来自世界各地的消费者提供当地产品。本文探讨了跨语言信息检索的一个新任务，即，跨境电子商业中的跨语言集合到描述检索，其涉及将源语言中的产品属性集合与目标语言中的有说服力的产品描述进行匹配。我们手动收集一个新的和高质量的配对数据集，其中每对包含一个无序的产品属性集的源语言和信息丰富的产品描述的目标语言。由于数据集构建过程既耗时又昂贵，新数据集仅包含13.5k对，这是一个低资源设置，可以被视为跨境电子商业模型开发和评估的具有挑战性的测试平台。为了解决这种跨语言集到描述检索任务，我们提出了一种新的跨语言匹配网络（CLMN）与增强的上下文相关的跨语言映射的预训练单语BERT表示。实验结果表明，我们提出的CLMN在具有挑战性的任务上产生了令人印象深刻的结果，并且与预训练的多语言BERT模型相比，BERT上的上下文相关的跨语言映射产生了显着的改进。
2020-05-17 cs.CL
Cross-lingual Contextualized Phrase Retrieval
Nara Institute of Science and Technology（奈良科学技术研究所）；Tencent AI Lab（腾讯AI实验室）
本文提出跨语言上下文化短语检索任务，利用平行句词对齐自动构建短语对，并通过对比学习训练CCPR，在短语检索和机器翻译任务上均取得显著提升。
2024-10-04 cs.CL
MIA 2022 Shared Task: Evaluating Cross-lingual Open-Retrieval Question Answering for 16 Diverse Languages
University of Washington（华盛顿大学）；Massachusetts Institute of Technology（麻省理工学院）；Penn State University（宾夕法尼亚州立大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）；Studio Ousia（Ousia工作室）；RIKEN（日本理化学研究所）；Google Research（谷歌研究院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
我们介绍了多语言信息访问（MIA）2022共享任务研讨会的结果，评估了16种类型多样的语言的跨语言开放式检索问答（QA）系统。在这项任务中，我们采用了两个大规模的跨语言的开放检索QA数据集在14种不同类型的语言，和新注释的开放检索QA数据在2个代表性不足的语言：泰米尔语和泰米尔语。四个团队提交了他们的系统。利用迭代挖掘的不同负面示例和更大的预训练模型的最佳系统达到32.2 F1，比我们的基线高出4.5分。第二个最好的系统使用实体感知的上下文表示的文档检索，并取得了显着的改善，泰米尔语（20.8 F1），而大多数其他系统产生的分数几乎为零。
2022-07-02 cs.CL
Cross-lingual Information Retrieval with BERT
Raytheon BBN Technologies（雷神BBN技术公司）；University of Pittsburgh（匹兹堡大学）
最近已经开发了多个神经语言模型，例如，BERT和XLNet，并取得了令人印象深刻的结果，在各种自然语言处理任务，包括句子分类，问答和文档排序。在本文中，我们探讨了使用流行的双向语言模型，BERT，建模和学习英语查询和外语文档之间的相关性，跨语言信息检索的任务。介绍了一种基于BERT的深度相关匹配模型，并利用自制的CLIR训练数据对预先训练好的弱监督多语种BERT模型进行训练。立陶宛文文档检索对短英语查询的实验结果表明，我们的模型是有效的，优于竞争力的基线方法。
2020-04-24 cs.CL cs.IR cs.LG
Breaking Language Barriers with MMTweets: Advancing Cross-Lingual Debunked Narrative Retrieval for Fact-Checking
University of Sheffield（谢菲尔德大学）
本研究创建MMTweets数据集，引入跨语言已辟谣叙事检索任务，通过多阶段检索方法提升跨语言事实核查效率，并公开数据集与标注手册。
2024-08-20 cs.CL cs.CY cs.IR
XRAG: Cross-lingual Retrieval-Augmented Generation
Heidelberg Institute for Theoretical Studies gGmbH（海德堡理论研究所）；Amazon AGI（亚马逊人工智能研究院）
该研究提出 XRAG 基准，利用需外部知识和复杂推理的新闻问答评估跨语言 RAG，并通过五个 LLM 揭示单语与多语检索中的不同挑战。
2025-05-15 cs.CL
One Question Answering Model for Many Languages with Cross-lingual Dense Passage Retrieval
University of Washington（华盛顿大学）；Allen Institute for AI（艾伦人工智能研究所）
我们提出了跨语言开放检索答案生成（CORA），第一个统一的多对多问答（QA）模型，可以回答问题，在许多语言，即使是没有特定语言的注释数据或知识源。我们引入了一种新的密集通道检索算法，该算法经过训练可以针对一个问题跨语言检索文档。结合多语言自回归生成模型，CORA直接回答目标语言，没有任何翻译或语言检索模块，在以前的工作。我们提出了一种迭代训练方法，可以自动将仅在高资源语言中可用的注释数据扩展到低资源语言。我们的研究结果表明，CORA在26种语言的多语言开放QA基准测试中的表现大大优于以前的最先进水平，其中9种在训练过程中是不可见的。我们的分析表明，跨语言检索和生成在许多语言，特别是在低资源设置的意义。
2021-10-28 cs.CL
Mixed Attention Transformer for Leveraging Word-Level Knowledge to Neural Cross-Lingual Information Retrieval
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
预先训练的上下文表示为许多下游任务提供了巨大的成功，包括文档排序。这种预训练表示的多语言版本提供了使用同一模型联合学习多种语言的可能性。虽然预计通过这种联合训练可以获得很大的收益，但在跨语言信息检索（CLIR）的情况下，多语言环境下的模型并没有达到与单语言环境下相同的性能水平。我们假设性能下降是由于查询和文档之间的翻译差距。在单语检索任务中，由于词汇输入相同，模型更容易识别出出现在文档中的查询词。然而，在将不同语言的单词投影到同一超空间的多语言预训练模型中，模型倾向于将查询词转换为相关词，即，出现在相似上下文中的术语，除了或有时不是目标语言中的同义词。这个属性给模型连接查询和文档中同时出现的术语带来了困难。为了解决这个问题，我们提出了一种新的混合注意力Transformer（MAT），它结合了外部的字级知识，如字典或翻译表。我们设计了一个三明治式的架构，将MAT嵌入到最近基于Transformer的深度神经模型中。通过将翻译知识编码成注意力矩阵，具有MAT的模型能够关注输入序列中的互译词。实验结果表明，外部知识的有效性和MAT嵌入的神经重排序模型的CLIR任务的显着改善。
2021-09-14 cs.CL cs.IR
Unsupervised Cross-Lingual Information Retrieval using Monolingual Data Only
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
我们提出了一个完全无监督的框架ad-hoc跨语言信息检索（CLIR），不需要双语数据。该框架利用共享的跨语言词嵌入空间，在该空间中，可以表示术语、查询和文档，而不管它们的实际语言。共享的嵌入空间是通过基于对抗神经网络的迭代过程，仅基于两种语言的单语语料库而导出的。我们的实验上的标准CLEF CLIR集合的三种语言对不同程度的语言相似性（英语，荷兰语/意大利语/芬兰语）证明了所提出的完全无监督的方法的实用性。我们的无监督跨语言嵌入的CLIR模型优于使用依赖于单词级和文档级对齐的跨语言嵌入的基线。然后，我们证明了进一步的改进，可以实现无监督集成CLIR模型。我们相信，建议的框架是第一步，发展有效的语言对和域的并行数据是稀缺或不存在的CLIR模型。
2018-05-02 cs.CL
Cross-lingual Retrieval for Iterative Self-Supervised Training
Facebook AI（Facebook AI（脸书人工智能））
最近的研究已经证明了多语言预训练语言模型的跨语言对齐能力。在这项工作中，我们发现跨语言对齐可以通过在使用自己的编码器输出挖掘的句子对上训练seq 2seq模型来进一步改进。我们利用这些发现开发了一种新的方法-跨语言检索迭代自监督训练（CRISS），其中迭代地应用挖掘和训练过程，同时提高跨语言对齐和翻译能力。使用这种方法，我们在9种语言方向上实现了最先进的无监督机器翻译结果，平均提高了2.4 BLEU，并且在16种语言的XTREME基准测试中的Tatoeba句子检索任务中，绝对准确率平均提高了21.5%。此外，与mBART相比，CRISS在监督机器翻译下游任务上进行微调时，平均还带来了额外的1.8 BLEU改进。
2020-10-26 cs.CL cs.LG
Pre-training Cross-lingual Open Domain Question Answering with Large-scale Synthetic Supervision
School of Computing and Information Systems（计算与信息系统学院）；The University of Melbourne（墨尔本大学）；Google DeepMind（谷歌DeepMind）
提出 CLASS 自监督方法，利用 Wikipedia 跨语言链接构造检索与问答监督信号，以单一编码器-解码器模型完成 CLQA，并在有监督和零样本设置下超越含机器翻译的对比方法。
2024-10-02 cs.CL cs.IR
Leveraging Advantages of Interactive and Non-Interactive Models for Vector-Based Cross-Lingual Information Retrieval
Alibaba Group（阿里巴巴集团）
交互式和非交互式模型是基于向量的跨语言信息检索（V-CLIR）的两种事实标准框架，它们分别以同步和异步的方式嵌入查询和文档。从检索精度和计算效率的角度来看，每种模型都有自己的优势和不足。在本文中，我们提出了一个新的框架，以利用这两种范式的优势。具体地说，我们引入半交互式机制，建立我们的模型在非交互式架构，但编码每个文档连同其相关的多语言查询。因此，跨语言特征可以像交互式模型一样被更好地学习。此外，我们进一步转移知识从一个训练有素的互动模型，我们通过重用其词嵌入和采用知识蒸馏。我们的模型从多语言预训练的语言模型M-BERT初始化，并在来自维基百科的两个开放资源CLIR数据集和从现实世界的搜索引擎收集的内部数据集上进行评估。大量的分析表明，我们的方法显着提高检索精度，同时保持计算效率。
2021-11-03 cs.CL
Automatic Data Retrieval for Cross Lingual Summarization
IIIT Hyderabad（海得拉巴国际信息技术学院）；TCS Research（塔塔咨询服务研究院）
本研究提出利用文本与视频新闻配对来自动获取跨语言摘要数据，实现英语到印地语的摘要，并构建基线进行错误分析。
2023-12-22 cs.CL
LëtzCross: A Cross-Lingual Page-Level Benchmark for Multimodal Retrieval over Luxembourgish Documents
University of Luxembourg（卢森堡大学）；King Fahd University of Petroleum and Minerals（法赫德国王石油矿产大学）
该研究推出LëtzCross基准，对比纯文本与ColPali式页面图像检索器，发现后者表现更优，还明确单语言微调中法语文对卢森堡语查询表现最高、多语言微调中纳入卢森堡语效果最强。
2026-08-25 cs.CL
ORPHEAS: A Cross-Lingual Greek-English Embedding Model for Retrieval-Augmented Generation
Novelcore
本文提出ORPHEAS模型，专门用于希腊-英语双语检索增强生成，通过知识图谱细调方法生成高质量数据集，提升希腊语领域术语和形态复杂性表达能力，实验表明其在单语和跨语言检索基准上优于现有多语言嵌入模型。
2026-04-22 cs.AI cs.CL
COCO-CN for Cross-Lingual Image Tagging, Captioning and Retrieval
Renmin University of China（中国人民大学）
本文在数据和基线方法方面对跨语言图像标注和检索做出了贡献。我们提出了COCO-CN，一个新的数据集丰富MS-COCO与手工编写的中文句子和标签。为了更有效地获取注释，我们开发了一个辅助的集体注释系统，自动提供注释者与几个标签和句子被认为是相关的图片内容。COCO-CN拥有20，342张图片，标注了27，218个中文句子和70，993个标签，是目前最大的中英文数据集，为跨语言的图像标记，字幕和检索提供了统一和具有挑战性的平台。我们为每个任务开发概念上简单而有效的方法，用于从跨语言资源中学习。在这三个任务上进行的大量实验证明了所提出的数据集和方法的可行性。数据和代码可在https://github.com/li-xirong/coco-cn上公开获取
2019-01-15 cs.CL cs.CV
Towards Zero-shot Cross-lingual Image Retrieval
Adobe Inc.（奥多比公司）
最近对多模态语言和视觉问题的兴趣激增。在语言方面，大多数这些模型主要集中在英语上，因为大多数多模态数据集都是单语的。我们试图通过一种zero-shot方法来弥合这一差距，该方法使用文本侧的跨语言预训练来学习多模态表示。我们提出了一种简单而实用的方法来构建一个跨语言的图像检索模型，该模型在单语训练数据集上训练，但可以在推理过程中以zero-shot跨语言的方式使用。我们还引入了一个新的目标函数，它通过将不同的文本相互推送来收紧文本嵌入集群。最后，我们介绍了一个新的1K多语言MSCOCO2014字幕测试数据集（XTD10），我们使用众包平台收集了7种语言。我们将其用作测试集，用于评估跨语言的zero-shot模型性能。XTD 10数据集在以下网站公开发布：https://github.com/adobe-research/Cross-lingual-Test-Dataset-XTD10
2020-11-24 cs.CL cs.CV cs.LG
Auto-MLM: Improved Contrastive Learning for Self-supervised Multi-lingual Knowledge Retrieval
Tsinghua University（清华大学）；Alibaba DAMO Academy（阿里巴巴达摩院）
对比学习（CL）已经成为自然语言处理（NLP）下游任务的普遍方法，特别是对于问答（QA）。然而，主要的挑战，如何有效地训练的知识检索模型在无监督的方式，仍然没有得到解决。目前常用的方法有CL和屏蔽语言模型（MLM）。出乎意料的是，MLM忽略了中间层训练，CL也忽略了从查询中提取内部信息。为了优化CL难以从原始查询中获取内部信息的问题，提出了一种将CL和Auto-MLM相结合的联合训练方法，用于自监督多语言知识检索。首先，我们获得固定维的句子向量。然后，用随机策略屏蔽原句中的某些词。最后，我们生成一个新的令牌表示用于预测掩码令牌。实验结果表明，该方法在全球速卖通$\&$ LAZADA服务语料库和8种语言的公开语料库上的性能均优于所有以前的SOTA方法。
2022-03-30 cs.CL
DuReader_retrieval: A Large-scale Chinese Benchmark for Passage Retrieval from Web Search Engine
University of Edinburgh（爱丁堡大学）；Baidu Inc.（百度公司）
本文介绍了一个用于段落检索的大规模中文数据集DuReader_retrieval。DuReader_retrieval包含来自商业搜索引擎的超过9万个查询和超过800万个独特的段落。为了减轻其他数据集的缺点并确保我们的基准测试的质量，我们（1）通过手动注释从多个检索器汇集的结果来减少开发和测试集中的假阴性，以及（2）删除语义上与开发和测试查询相似的训练查询。此外，我们还提供了两个用于跨域评估的域外测试集，以及一组用于跨语言检索评估的人工翻译查询。实验结果表明，DuReader_retrieval是一个具有挑战性的和一些问题仍然没有解决，如显着的短语不匹配和查询和段落之间的句法不匹配。这些实验还表明，密集检索器不能很好地推广跨领域，跨语言检索本质上是具有挑战性的。DuReader_retrieval可在https://github.com/baidu/DuReader/tree/master/DuReader-Retrieval上公开获取。
2022-11-15 cs.CL cs.IR
Multilingual Retrieval Augmented Generation for Culturally-Sensitive Tasks: A Benchmark for Cross-lingual Robustness
University of Pennsylvania（宾夕法尼亚大学）
本文提出BordIRLines基准，包含49种语言的领土争端数据集，评估多语言检索增强生成的跨语言鲁棒性，发现多语言检索能提高响应一致性并减少地缘政治偏见。
2025-06-22 cs.CL
Transforming LLMs into Cross-modal and Cross-lingual Retrieval Systems
Boston University（波士顿大学）；The University of Edinburgh（爱丁堡大学）；Google Research（谷歌研究院）；Google DeepMind（谷歌DeepMind）
本研究提出用大语言模型初始化多模态双编码器检索系统，仅用21种语言训练即可实现102种语言的语音文本匹配，平均Recall@1提升10%，还可借助机器翻译数据增强跨语言匹配能力。
2024-07-10 cs.CL cs.IR cs.SD
