Language Agnostic Multilingual Information Retrieval with Contrastive Learning
Carnegie Mellon University(卡内基梅隆大学);AWS AI Labs(AWS人工智能实验室)
本文提出一种利用平行与非平行语料和双重对比损失训练语言无关多语言信息检索模型的方法,在零样本跨语言检索中显著提升性能且计算开销更低,并适用于低资源语言场景。
2023-05-26 cs.CL cs.IR
The Multilingual Curse at the Retrieval Layer: Evidence from Amharic
Independent Researcher(独立研究者);University of Amsterdam(阿姆斯特丹大学)
针对零样本多语言检索在低资源形态丰富语言(如阿姆哈拉语)上表现不佳的问题,通过对比实验发现单语检索器显著优于多语言检索器,并揭示了多语言基准测试的局限性。
2026-05-23 cs.CL cs.IR cs.LG
Learning Multilingual Embeddings for Cross-Lingual Information Retrieval in the Presence of Topically Aligned Corpora
Computer Science and Engineering, Indian Institute of Technology, Kanpur(印度理工学院坎普尔分校计算机科学与工程系)
在缺乏对齐的平行语料库的情况下,跨语言信息检索是一项具有挑战性的任务。在本文中,我们解决这个问题,考虑局部对齐语料库设计用于评估IR设置。需要强调的是,我们既不使用任何与词典对齐的语料库或与文档对齐的语料库,也不使用任何特定于语言的资源,如字典、同义词词典或语法规则。相反,我们使用嵌入到公共空间中,并直接从那里学习单词对应关系。我们测试我们提出的方法,双语IR标准消防数据集孟加拉语,印地语和英语。所提出的方法是优于国家的最先进的方法,不仅为IR评估措施,但也在时间要求方面。我们成功地将我们的方法扩展到三语环境。
2018-04-12 cs.CL cs.IR
CroSearch-R1: Better Leveraging Cross-lingual Knowledge for Retrieval-Augmented Generation
School of Computer Science and Technology, Beijing Jiaotong University(北京交通大学计算机科学与技术学院)
本文提出CroSearch-R1框架,通过多轮检索策略和多语言回放机制,提升跨语言知识在检索增强生成中的有效性。
2026-04-28 cs.CL cs.IR
IndicIRSuite: Multilingual Dataset and Neural Information Models for Indian Languages
IIT Bombay(印度理工学院孟买分校)
该研究推出面向11种印度语言的神经信息检索资源套件IndicIRSuite,包含多语言数据集INDIC-MARCO与11个单语检索模型Indic-ColBERT,实验验证其在多个基准上取得显著性能提升,填补了印度语言大规模神经IR资源的空白。
2023-12-15 cs.CL cs.IR
ColBERT-XM: A Modular Multi-Vector Representation Model for Zero-Shot Multilingual Information Retrieval
Maastricht University(马斯特里赫特大学)
ColBERT-XM 提出一种模块化多向量稠密检索模型,仅利用单一高资源语言数据实现零样本多语言迁移,在保持竞争力的同时提升数据效率并降低能耗。
2024-02-23 cs.CL cs.IR
MMed-Bench-IR: A Heterogeneous Benchmark for Multilingual Medical Information Retrieval
Seoul National University(首尔国立大学);Seoul National University College of Medicine(首尔国立大学医学院);Seoul National University Hospital(首尔国立大学医院)
针对临床RAG的多语言检索需求,提出MMed-Bench-IR基准,涵盖跨语言对齐、概念区分和证据检索三种异构任务,评估6种语言下10个系统,发现生物医学编码器在英语与日语间性能差距巨大。
2026-06-24 cs.AI cs.CL cs.IR
Multilingual Information Retrieval with a Monolingual Knowledge Base
Amazon(亚马逊)
本文提出通过加权采样对比学习微调多语言嵌入模型,实现基于单语知识库的跨语言检索,并在MRR和Recall@3上取得显著提升,且方法语言无关。
2025-06-03 cs.AI cs.CL cs.IR
Efficient and Versatile Model for Multilingual Information Retrieval of Islamic Text: Development and Deployment in Real-World Scenarios
rttl labs(rttl实验室)
本研究利用《古兰经》多语言语料库,提出结合跨语言与单语技术的混合训练方法,开发高效轻量的多语言信息检索模型,并在真实场景中验证其成本效益与检索效果。
2025-10-14 cs.AI cs.CL cs.IR
Bridging Language Gaps: Advances in Cross-Lingual Information Retrieval with Multilingual LLMs
The Alan Turing Institute(艾伦·图灵研究所);Queen Mary University of London(伦敦女王学院);University College London(伦敦大学学院)
本综述梳理了跨语言信息检索从基于翻译到嵌入驱动、生成式技术的发展,介绍其核心组件、评估与资源,指出现存挑战并提出未来发展方向。
2025-10-01 cs.AI cs.CL cs.IR
M3DR: Towards Universal Multilingual Multimodal Document Retrieval
CognitiveLab(认知实验室)
M3DR提出了一种通用多语言多模态文档检索框架,通过对比训练实现跨语言和跨模态对齐,显著提升了多语言场景下的检索性能。
2025-12-03 cs.AI cs.CL cs.CV
Language Fairness in Multilingual Information Retrieval
Johns Hopkins University(约翰斯·霍普金斯大学);University of Glasgow(格拉斯哥大学)
本文针对多语言信息检索中的语言偏见问题,提出首个专门度量 MLIR 语言公平性的指标 PEER,并通过统计等价性检验和基准实验验证其有效性。
2024-05-02 cs.CL cs.IR
TSWAP: A Multilingual Retrieval-Augmented Thai Wellness Advisor
Digital Touch Point Co., Ltd.(数字触点有限公司);iApp Technology Co., Ltd.(iApp技术有限公司)
研究提出多语言检索增强型泰国健康顾问TSWAP,基于泰国传统医学知识库,采用混合检索等技术,发布相关基准与日志,发现量化及强制检索的部署要点。
2026-08-25 cs.CL cs.IR
Multilingual Universal Sentence Encoder for Semantic Retrieval
Google AI(谷歌人工智能);Google(谷歌)
我们介绍了两个预训练的检索为重点的多语种句子编码模型,分别基于Transformer和CNN模型架构。该模型使用多任务训练的双编码器将来自16种语言的文本嵌入到单个语义空间中,该双编码器使用基于翻译的桥接任务来学习绑定表示(Chidambaram al.,2018年)。该模型在语义检索(SR)、翻译对双文本检索(BR)和检索问答(ReQA)方面的性能与最新技术具有竞争力。在英语迁移学习任务中,我们的句子级嵌入接近,在某些情况下超过了单语,仅英语,句子嵌入模型的性能。我们的模型可在TensorFlow Hub上下载。
2019-07-09 cs.CL
Generative Query Expansion with Multilingual LLMs for Cross-Lingual Information Retrieval
The Alan Turing Institute(艾伦·图灵研究所);University College London(伦敦大学学院);Queen Mary University of London(伦敦女王学院)
本研究探讨了多语言大语言模型在跨语言信息检索中的生成式查询扩展效果,发现查询长度和提示技术对性能影响显著,且不同语言间存在显著的检索性能差异。
2025-11-24 cs.AI cs.CL cs.IR
MIRACL-VISION: A Large, multilingual, visual document retrieval benchmark
The Thørväld Group(Thørväld集团);Inria Paris-Rocquencourt(巴黎-罗克琴库尔Inria);Rajiv Gandhi University Doimukh(拉朱·甘地大学多伊穆克);Tsinghua University(清华大学);Palmer Research Laboratories(Palmer研究实验室);The Kumquat Consortium(Kumquat联盟)
针对现有视觉文档检索基准语言单一、依赖合成问题、语料规模小的局限,该研究推出覆盖18种语言的MIRACL-VISION基准,设计易负样本剔除方法平衡难度与算力成本,实验发现当前VLM嵌入模型多语言检索性能显著低于文本模型。
2025-05-21 cs.CV cs.IR
Retrieval or Representation? Reassessing Benchmark Gaps in Multilingual and Visually Rich RAG
Parexel AI Labs(Parexel AI实验室)
该研究通过系统分析发现,文档表示质量是多语言和视觉丰富RAG基准提升的主要因素,而非检索方法改进。
2026-03-04 cs.CL
Multilingual Medical Question Answering and Information Retrieval for Rural Health Intelligence Access
Sir M. Visvesvaraya Institute of Technology(M·维斯维斯瓦亚爵士理工学院)
在一些发展中国家的农村地区,基本上无法获得高质量的医疗保健、医疗基础设施和专业诊断。这些地区中有许多正在逐步接入互联网基础设施,尽管连接不够强大,无法与医生进行持续的通信。由于无法获得医疗服务、没有病人以前的健康记录和没有土著语言的信息而造成的几起死亡是很容易避免的。在本文中,我们描述了一种利用机器学习和NLP(自然语言处理)技术的惊人进步来设计一个低资源、多语言和初步的第一接触点医疗助理的模型的方法。我们的贡献包括定义命名实体识别所需的NLP管道,语言无关的句子嵌入,自然语言翻译,信息检索,问答,并生成最终查询处理的预训练。我们获得了有希望的结果,这个管道和EHR(电子健康记录)分析的初步结果与文本摘要,供医疗从业者阅读他们的诊断。通过这个NLP管道,我们的目标是为用户提供初步的医疗信息,并不声称要取代合格医生的诊断。使用来自主题专家的输入,我们已经编译了一个大型语料库来预训练和微调我们的基于BioBERT的NLP模型,用于特定任务。我们期待NLP架构的最新进展,其中一些是高效和隐私保护的模型,以进一步影响我们的解决方案,并提高个人任务的性能。
2021-06-02 cs.CL cs.IR
Multilingual Retrieval-Augmented Generation for Knowledge-Intensive Task
本文研究多语言检索增强生成在开放域问答中的有效性,提出tRAG和MultiRAG方法,发现tRAG覆盖有限,MultiRAG效率高但存在不一致,CrossRAG通过翻译文档到共同语言提升性能。
2025-10-03 cs.AI cs.CL
CLASP: Contrastive Language-Speech Pretraining for Multilingual Multimodal Information Retrieval
Qatar Computing Research Institute (QCRI)(卡塔尔计算研究所)
本研究提出多语言多模态检索模型CLASP,结合音频频谱图与预训练自监督语音模型、多语言句子编码器,在自建15类语音文本数据集上训练,在多语言检索指标上超越传统ASR基检索方法。
2025-03-23 cs.CL cs.IR cs.SD
Multi-EuP: The Multilingual European Parliament Dataset for Analysis of Bias in Information Retrieval
School of Computing & Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
Multi-EuP是一个包含22K文档、覆盖24种语言的多语言基准数据集,用于分析信息检索中的语言和人口统计偏差,并验证其作为单语和多语IR基准的有效性。
2023-11-03 cs.AI cs.CL cs.IR
Not All Languages are Equal: Insights into Multilingual Retrieval-Augmented Generation
Tongyi Lab(通义实验室)
该研究构建了含八种语言平行文本的Futurepedia基准,评估六个多语言RALM发现语言不平等现象,并针对单语提取、跨语言迁移、多语言选择三方面提出改进建议,为多语言检索增强生成研究提供洞见。
2024-10-29 cs.CL
Language-Coupled Reinforcement Learning for Multilingual Retrieval-Augmented Generation
School of Computer Science and Technology, Beijing Jiaotong University(计算机科学与技术学院,北京交通大学);University of Montreal(蒙特利尔大学);Tsinghua University(清华大学);University of Notre Dame(Notre Dame 大学)
本文提出LcRL框架,通过语言耦合组相对策略优化减少知识偏差和冲突,提升多语言检索增强生成的性能,适用于受限训练数据和多语言大规模集合的场景。
2026-07-28 cs.CL
Evaluating Embedding APIs for Information Retrieval
University of Waterloo(滑铁卢大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
本文在BEIR和MIRACL基准上评估语义嵌入API的领域泛化与多语言检索能力,发现对BM25结果重排序在英语中最具性价比,非英语场景下BM25混合模型效果最佳但成本更高。
2023-07-06 cs.CL cs.IR
Are LLMs Truly Multilingual? Exploring Zero-Shot Multilingual Capability of LLMs for Information Retrieval: An Italian Healthcare Use Case
Department of Electrical, Computer and Biomedical Engineering(电气、计算机与生物医学工程系);University of Pavia(帕维亚大学);IRCCS Humanitas Research Hospital(人类itas研究医院)
本文探讨了开源多语言LLMs在零样本条件下处理意大利语电子健康记录信息提取的能力,发现部分模型在泛化能力上存在不足。
2025-12-04 cs.AI cs.CL cs.IR
jina-embeddings-v4: Universal Embeddings for Multimodal Multilingual Retrieval
Jina AI GmbH(Jina AI公司)
本文提出 38 亿参数多模态嵌入模型 jina-embeddings-v4,通过统一文本与图像表示并引入 LoRA 适配器,在多种检索任务中取得最优性能,并发布视觉丰富图像检索基准 Jina-VDR。
2025-07-07 cs.AI cs.CL cs.IR
TIFIN India at SemEval-2025: Harnessing Translation to Overcome Multilingual IR Challenges in Fact-Checked Claim Retrieval
TIFIN India(TIFIN印度)
本研究提出两阶段检索策略,利用大语言模型翻译克服多语言信息检索障碍,在消费级GPU上实现事实核查声明检索,单语和跨语言测试集success@10分别达0.938和0.81025。
2025-04-23 cs.CL
Multilingual Retrieval Augmented Generation for Culturally-Sensitive Tasks: A Benchmark for Cross-lingual Robustness
University of Pennsylvania(宾夕法尼亚大学)
本文提出BordIRLines基准,包含49种语言的领土争端数据集,评估多语言检索增强生成的跨语言鲁棒性,发现多语言检索能提高响应一致性并减少地缘政治偏见。
2025-06-22 cs.CL
Pivot Through English: Reliably Answering Multilingual Questions without Document Retrieval
University of Washington(华盛顿大学);Apple Inc.(苹果公司)
现有的开放检索问答方法在低资源语言(LRL)明显落后于英语。他们不仅遭受非英语文献检索的缺点,但依赖于特定语言的监督任务或翻译。我们制定了一个任务设置更现实的可用资源,绕过文档检索可靠地转移知识从英语到较低的资源语言。假设一个强大的英语问答模型或数据库,我们比较和分析的方法,以英语为中心:映射外国查询到英语,然后英语回答回目标语言的答案。在这个任务设置中,我们提出了重新排序的多语言最大内积搜索(RM-MIPS),类似于在英语训练集上进行重新排序的语义相似性检索,在XQuAD和MKQA上分别比最强基线高出2.7%和6.2%。分析表明,在具有挑战性的环境中,这种策略比最先进的替代方案具有特殊的功效:低资源语言,具有广泛的干扰数据和查询分布不一致。绕过检索,我们的分析表明,这种方法提供了快速的答案生成几乎任何现成的语言,而不需要任何额外的训练数据在目标语言。
2021-07-16 cs.CL
Cross-lingual Knowledge Transfer via Distillation for Multilingual Information Retrieval
在本文中,我们介绍了我们提交MIRACL挑战的方法,这是一项WSDM 2023杯比赛,以18种不同语言的特设检索为中心。我们的解决方案包含两个基于神经的模型。第一个模型是一个双编码器重排序器,我们采用跨语言蒸馏技术,将排序知识从英语转移到目标语言空间。第二个模型是一个跨编码器的重新排序器,使用神经机器翻译生成的多语言检索数据进行训练。我们使用MIRACL训练数据和集合多个秩列表进一步微调两个模型以获得最终结果。根据MIRACL排行榜,我们的方法在16种已知语言中的Test-A集排名第8,Test-B集排名第2。
2023-02-26 cs.IR
mRAKL: Multilingual Retrieval-Augmented Knowledge Graph Construction for Low-Resourced Languages
UC Berkeley(伯克利大学);Apple(苹果公司)
本文提出mRAKL系统,将多语言知识图谱构建重构为问答任务,结合检索增强生成技术,在提格里尼亚语和阿姆哈拉语等低资源语言上显著提升链接预测准确率。
2025-07-21 cs.CL
Language-Routed RAG and Direct Option Scoring for Multilingual Financial QA: DS@GT at FinMMEval
Georgia Institute of Technology(佐治亚理工学院)
该研究针对多语言金融问答基准FinMMEval 2026任务1,构建基于LangGraph的检索增强管道,用RADS评分,通过加权倒数排名融合低资源语言索引,采用语言路由选择模型,揭示语言感知检索等对多语言金融推理的重要性。
2026-07-28 cs.AI cs.CL cs.IR
LegalRAG: A Hybrid RAG System for Multilingual Legal Information Retrieval
Apurba-NSU R&D Lab, Department of Electrical and Computer Engineering, North South University, Dhaka, Bangladesh(北南大学电气与计算机工程系,北南大学阿普尔巴-NSU研发实验室,达卡,孟加拉国);Apurba Technologies, Sunnyvale, CA 94085, USA(阿普尔巴技术公司,硅谷,加利福尼亚州,美国);Fordham University, New York, USA(福丁大学,纽约,美国)
提出面向孟加拉国警察公报的双语法律问答框架,采用混合RAG流水线提升检索与生成性能,在多样化测试集上优于现有方法。
2025-04-19 cs.CL cs.IR cs.LG
Jina-ColBERT-v2: A General-Purpose Multilingual Late Interaction Retriever
The University of Texas at Austin(得克萨斯大学奥斯汀分校);Jina AI GmbH(吉纳人工智能有限公司)
本研究借鉴单向量嵌入模型训练的成熟方法,对ColBERT的架构与训练流程做渐进式改进,推出通用多语言晚期交互检索模型Jina-ColBERT-v2,在多类英文及多语言检索任务上表现优异。
2024-09-14 cs.AI cs.CL cs.IR
CORAL: Adaptive Retrieval Loop for Culturally-Aligned Multilingual RAG
Naver(纳维尔);Samsung Research(三星研究院)
CORAL通过迭代优化检索空间和查询,提升多语言检索生成在文化相关性上的表现,实验显示在低资源语言上准确率提升3.58%。
2026-04-28 cs.AI cs.CL
Language Drift in Multilingual Retrieval-Augmented Generation: Characterization and Decoding-Time Mitigation
本文针对多语言RAG中因检索证据与查询语言不一致引发的语言漂移问题,剖析其解码器层面的成因,提出无需训练的轻量SCD解码策略,可有效提升多语言场景下的语言对齐度与任务性能。
2025-11-13 cs.CL
Retrieval-augmented generation in multilingual settings
NAVER LABS Europe(NAVER欧洲实验室)
本文研究多语言环境下的检索增强生成(mRAG),覆盖13种语言,发现需任务特定提示工程和评估指标调整,并发布mRAG基线流水线代码。
2024-07-01 cs.AI cs.CL
MEMERAG: A Multilingual End-to-End Meta-Evaluation Benchmark for Retrieval Augmented Generation
Tampere University(塔尔皮奥大学);Amazon(亚马逊)
本文提出多语言端到端元评估基准MEMERAG,基于MIRACL数据集和原生语言问题构建,用于评估RAG系统的忠实性与相关性,并验证其能可靠识别多语言自动评估器的改进。
2025-07-19 cs.AI cs.CL
Simorgh at SemEval-2026 task 7: Region-Aware Hybrid Retrieval for Low-Resource Cultural Reasoning in Multilingual Question Answering
University of Tabriz(塔布里兹大学)
提出区域感知混合检索方法,结合BM25和稠密语义相似度与区域加权启发式,以提升多语言文化问答的跨语言稳定性。
2026-05-26 cs.CL
Investigating Information Inconsistency in Multilingual Open-Domain Question Answering
University of Maryland, College Park(马里兰大学帕克分校)
基于检索的开放域QA系统使用检索到的文档和对检索到的文档的答案跨度选择来找到最佳答案候选者。我们假设,多语言问答(QA)系统很容易出现信息不一致,当涉及到不同语言编写的文件,因为这些文件往往提供一个模型与不同的信息相同的主题。为了理解信息的可获得性偏差和文化影响的影响,我们分析了多语言开放域问答模型的行为,重点是检索偏差。我们分析如果不同的检索模型呈现不同的段落给定相同的问题在不同的语言上的TyDi QA和XOR-TyDi QA,两个多语言QA数据集。我们推测,跨语言文档的内容差异可能反映了文化差异和/或社会偏见。
2022-05-25 cs.AI cs.CL cs.IR
MFAQ: a Multilingual FAQ Dataset
CLiPS Research Center(CLiPS研究中心);University of Antwerp, Belgium(比利时安特卫普大学)
在本文中,我们提出了第一个多语言的FAQ数据集公开。我们从网上收集了大约600万个常见问题解答对,用21种不同的语言。虽然这比现有的FAQ检索数据集要大得多,但它也有自己的挑战:内容重复和主题分布不均匀。我们采用与密集通道检索(DPR)类似的设置,并在此数据集上测试各种双编码器。我们的实验表明,基于XLM-RoBERTA的多语言模型取得了最好的结果,除了英语。资源较少的语言似乎可以相互学习,因为多语言模型比特定语言模型实现了更高的MRR。我们的定性分析揭示了简单词变化模型的脆弱性。我们公开发布我们的数据集、模型和训练脚本。
2021-10-05 cs.CL
DAMO-NLP at SemEval-2023 Task 2: A Unified Retrieval-augmented System for Multilingual Named Entity Recognition
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);School of Information Science and Technology, ShanghaiTech University(上海科技大学信息科学与技术学院);Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院)
DAMO-NLP团队提出统一检索增强系统U-RaNER,通过结合Wikidata知识库、注入方法及多种搜索策略解决多语言细粒度NER的知识不足和上下文限制问题,在MultiCoNER II中赢得9个赛道并优于ChatGPT。
2023-05-17 cs.CL
Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking
Carnegie Mellon University(卡内基梅隆大学)
针对多语言多模态实体链接中稀有实体性能下降问题,提出结合知识图谱结构指标与推理检索互补的免训练框架,在MERLIN基准上显著提升稀有实体准确率。
2026-09-11 cs.CL
Enhancing Model Performance in Multilingual Information Retrieval with Comprehensive Data Engineering Techniques
Netease Inc.(网易公司)
在本文中,我们提出了我们的解决方案,跨语言的连续体(MIRACL)的WSDM杯2023 \footnote{https://project-miracl.github.io/}的多语言信息检索的挑战。我们的解决方案专注于增强排名阶段,在此阶段,我们使用MIRACL数据集对预训练的基于多语言transformer的模型进行微调。我们的模型改进主要是通过各种数据工程技术来实现的,包括收集额外的相关训练数据、数据增强和负采样。我们的微调模型有效地确定查询和文档之间的语义相关性,从而显着提高多语言信息检索过程的效率。最后,我们的团队很高兴在这场具有挑战性的比赛中取得了令人瞩目的成绩,在惊喜语言赛道中获得了第二名,得分为0.835,在已知语言赛道中获得了第三名,在最终排行榜上的16种已知语言中,平均nDCG@10得分为0.716。
2023-02-14 cs.AI cs.IR
Language Bias in Information Retrieval: The Nature of the Beast and Mitigation Methods
School of Computing & Information Systems, The University of Melbourne(计算机与信息系统学院,墨尔本大学);Mohamed bin Zayed University of Artificial Intelligence, UAE(马尔代夫比兹亚德人工智能大学,阿联酋)
本文研究多语言信息检索中的语言公平性问题,提出基于mBERT和XLM-R的DPR神经排序器评估方法,并设计新型损失函数LaKDA以缓解语言偏差,实验证明其能有效提升公平性。
2025-09-07 cs.AI cs.CL cs.IR
Multilingual Entity Linking Using Dense Retrieval
Institute of Formal and Applied Linguistics(形式与应用语言学研究所);Charles University(查理大学)
本论文开发了训练快速且无需大型GPU集群的多语言实体链接系统,在公开数据集上确保可复现性,通过对双编码器超参数的分析及9种语言评估,证明了有限资源下构建竞争性系统的可行性。
2024-05-13 cs.CL
Investigating Language Preference of Multilingual RAG Systems
Department of Artificial Intelligence, Chung-Ang University, Seoul, Korea(人工智能系, Chung-Ang 大学)
本文系统调查了多语言RAG系统在检索和生成中的语言偏好问题,发现检索器和生成器分别偏向高资源语言和查询语言或拉丁文字导致输出不一致,并提出DKM-RAG框架融合翻译段落与模型知识以缓解该偏好并提升性能。
2025-06-01 cs.CL
Aligning LLMs for Multilingual Consistency in Enterprise Applications
Oracle AI
针对LLM在多语言企业应用中因英语中心预训练导致的性能差距,提出基于批次的多语言数据对齐微调策略,提升非英语准确率最多23.9%,且不影响英语性能。
2025-10-25 cs.AI cs.CL
Benchmarking Google Embeddings 2 against Open-Source Models for Multilingual Dense Retrieval and RAG Systems
University of Salerno(萨勒诺大学);University of Bari(巴里大学)
通过对比 Google Embeddings 2 与五个开源模型在 BEIR 子集、合成意大利语 RAG 语料库和分块消融实验上的表现,发现 GE2 在所有任务上排名第一但延迟高,而 mE5-L 在延迟敏感场景下是优选,LaBSE 表现最差,且所有模型在 32 令牌分块时性能饱和。
2026-05-22 cs.CL
MIRAGE-Bench: Automatic Multilingual Benchmark Arena for Retrieval-Augmented Generation Systems
University of Waterloo(滑铁卢大学);Vectara(维克塔拉科技公司)
MIRAGE-Bench提出一种结合启发式指标与LLM裁判的替代裁判方法,构建多语言RAG基准,在18种语言上评估19个LLM,与GPT-4o裁判高度相关(τ=0.909),发现专有和大型开源模型占优。
2025-03-29 cs.AI cs.CL
On the Consistency of Multilingual Context Utilization in Retrieval-Augmented Generation
Center for Language and Cognition (CLCG), University of Groningen(格罗宁根大学语言与认知中心);Institute for Logic, Language and Computation (ILLC), University of Amsterdam(阿姆斯特丹大学逻辑、语言与计算研究所)
研究探讨LLMs在多语言RAG中利用不同语言上下文的一致性,发现其能提取异语言信息但难以生成正确语言答案。
2025-11-10 cs.AI cs.CL
Towards Cross-Cultural Machine Translation with Retrieval-Augmented Generation from Multilingual Knowledge Graphs
Sapienza University of Rome(罗马第一大学);Adobe(奥多比公司);Apple(苹果公司)
本文针对包含文化相关实体名称的跨文化翻译问题,提出首个大规模人工基准XC-Translate和基于多语言知识图谱稠密检索的端到端方法KG-MT,实验显示其性能大幅超越NLLB-200和GPT-4等现有方法。
2024-10-17 cs.AI cs.CL
ZusammenQA: Data Augmentation with Specialized Models for Cross-lingual Open-retrieval Question Answering System
University of Mannheim(曼海姆大学);University of Verona(维罗纳大学);University of Würzburg(维尔茨堡大学)
本文介绍了我们提出的跨语言开放检索问答(COQA)MIA共享任务系统。在这个具有挑战性的场景中,给定一个输入问题,系统必须从多语言池中收集证据文件,并从这些文件中生成问题语言的答案。我们设计了几种方法,将不同的模型变体结合起来,用于三个主要组件:数据增强、段落检索和答案生成。对于段落检索,我们根据基于多语言预训练语言模型(PLM)和共享任务基线变体的重新排序器集合评估了单语BM 25排名器,使用最近引入的对比损失从头开始重新训练,通过混合负样本在整个训练过程中保持强梯度信号。对于答案生成,我们通过对现有多语言编码器进行持续的语言模型(LM)预训练,专注于语言和领域的专业化。此外,对于段落检索和答案生成,我们使用从维基百科段落创建的自动生成的问答对来增强任务组织者提供的训练数据,以缓解数据稀缺的问题,特别是对于没有提供训练数据的低资源语言。我们的研究结果表明,语言和领域的专业化以及数据增强的帮助,特别是对低资源的语言。
2022-05-30 cs.CL
M4-RAG: A Massive-Scale Multilingual Multi-Cultural Multimodal RAG
Stanford University(斯坦福大学);MBZUAI;Indian Institute of Science(印度科学研究院);Ontario Tech University(安大略技术大学);University of Toronto(多伦多大学);Capital One
M4-RAG提出一个覆盖42种语言、56种方言和189个国家的多模态大规模基准,通过构建8万多个文化多样化的图像-问题对,评估跨语言和模态的检索增强视觉问答性能,揭示模型大小与检索效果的不匹配问题。
2026-03-22 cs.AI cs.CL cs.CV