Improving Vietnamese Legal Document Retrieval using Synthetic Data
BKAI Research Center(BKAI研究中心);School of Information and Communication Technology(信息与通信技术学院);Hanoi University of Science and Technology(河内理工大学)
针对越南语法律问答缺乏大型标注数据的问题,本文利用大型语言模型生成多样化合成查询,并预训练和微调 bi-encoder 与 ColBERT,显著提升了法律文档检索准确率。
2024-12-01 cs.AI cs.IR
CGPT: Cluster-Guided Partial Tables with LLM-Generated Supervision for Table Retrieval
National Chung Hsing University(中兴大学)
CGPT通过聚类引导和LLM生成监督提升表格检索性能,实现跨领域泛化和模型优化。
2026-01-22 cs.IR
Zero-shot Neural Passage Retrieval via Domain-targeted Synthetic Question Generation
Google Research(谷歌研究院)
广泛采用神经检索模型的一个主要障碍是,它们需要大量的监督训练集,以超越传统的基于术语的技术,这些技术是从原始语料库中构建的。在本文中,我们提出了一种方法,零样本学习的段落检索,使用合成的问题生成,以弥补这一差距。问题生成系统是在一般领域数据上训练的,但应用于目标领域中的文档。这使我们能够创建任意大的,但嘈杂的,特定于领域的问题通道相关性对。此外,当这是一个简单的混合术语神经模型相结合,第一阶段的检索性能可以进一步提高。经验上,我们表明,这是一个有效的策略,在没有大型训练语料库的情况下,建立神经通道检索模型。根据领域的不同,该技术甚至可以接近监督模型的准确性。
2021-01-27 cs.CL cs.IR
Synthetic Test Collections for Retrieval Evaluation
University College London(伦敦大学学院);Microsoft(微软公司);Amazon(亚马逊公司);Snowflake(雪花公司)
针对信息检索测试集构建中查询获取难、相关性判断成本高的问题,本文探究利用大语言模型同时生成合成查询与相关性判断以构建完全合成测试集的可行性,验证了其可靠性并分析了潜在偏见风险。
2024-05-13 cs.AI cs.IR
Enhancing Legal Case Retrieval via Scaling High-quality Synthetic Query-Candidate Pairs
针对现有法律案例检索场景适配性差、训练数据不足的问题,研究提出自动化合成查询-候选对的方法,构建超大规模数据集LEAD,训练模型在主流基准上达最优,且方法可迁移至民事案件。
2024-10-09 cs.IR
Don't Retrieve, Generate: Prompting LLMs for Synthetic Training Data in Dense Retrieval
本文提出通过提示大型语言模型生成合成硬负样本,用于密集检索模型训练,通过在10个BEIR基准数据集上评估发现,生成模型性能不优于传统方法。
2026-05-10 cs.CL cs.IR
Synthetic Target Domain Supervision for Open Retrieval QA
UIUC(伊利诺伊大学厄巴纳-香槟分校);IBM Research AI(IBM研究院人工智能部门)
神经通道检索是开放式检索问答中一种新的、很有前途的方法。在这项工作中,我们对密集通道检索器(DPR)--一种最先进的(SOTA)开放域神经检索模型--在封闭和专门的目标域(如COVID-19)上进行了压力测试,发现它在这个重要的现实世界环境中落后于标准BM 25。为了使DPR更强大的域转移下,我们探索其微调与合成训练样本,我们从未标记的目标域文本生成使用文本到文本生成器。在我们的实验中,这种嘈杂但完全自动化的目标域监督使DPR在域外设置中比BM 25具有相当大的优势,使其成为实践中更可行的模型。最后,BM 25和我们改进的DPR模型的集成产生了最好的结果,进一步推动了SOTA在多个域外测试集上的开放检索QA。
2022-04-20 cs.CL cs.IR
Embedding-based Zero-shot Retrieval through Query Generation
段落检索解决了定位相关段落的问题,通常是从大型语料库中,给定查询。在实践中,词汇匹配算法,如BM 25是流行的选择检索,由于其效率。然而,基于术语的匹配算法通常会错过与查询没有词汇重叠的相关段落,并且无法对下游数据集进行微调。在这项工作中,我们考虑基于嵌入的双塔架构作为我们的神经检索模型。由于标记数据可能很稀缺,并且神经检索模型需要大量数据来进行训练,因此我们提出了一种生成用于检索的合成训练数据的新方法。我们的系统产生了显著的结果,在6个测试数据集中的5个数据集上显著优于BM 25,Recall@1的平均得分为2.45分。在某些情况下,我们在合成数据上训练的模型甚至可以优于在真实数据上训练的相同模型
2020-09-22 cs.IR
The Cross-Lingual Arabic Information REtrieval (CLAIRE) System
尽管神经机器翻译取得了进展,但查询和文档位于不同自然语言空间的跨语言检索任务仍然具有挑战性。虽然神经翻译模型可以提供一种直观的方法来解决跨语言问题,但它们的资源消耗训练和高级模型结构可能会使整个检索管道复杂化并降低用户参与度。在本文中,我们建立了我们的端到端的跨语言阿拉伯语信息检索(CLAIRE)系统的基础上,跨语言的词嵌入,搜索者被假定有一个过得去的被动理解的阿拉伯语和各种支持信息的英语,以帮助检索经验。该系统具有三大优点:(1)英语-阿拉伯语词嵌入的使用简化了整个流水线,避免了机器翻译可能导致的错误。(2)我们的CLAIRE系统可以包含任意的基于词嵌入的神经检索模型,而无需结构修改。(3)阿拉伯语新闻收集的早期经验结果显示了良好的性能。
2021-07-29 cs.IR
Towards Robust Neural Retrieval Models with Synthetic Pre-Training
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);IBM Research AI, New York(IBM研究院人工智能实验室,纽约)
最近的工作表明,常用的机器阅读理解(MRC)数据集可以用来训练高性能的神经信息检索(IR)系统。然而,到目前为止,神经IR的评估仅限于标准的监督学习设置,在那里它们的表现优于传统的术语匹配基线。我们进行域内和域外的神经IR的评估,并寻求提高其在不同的情况下,包括zero-shot设置的鲁棒性。我们表明,使用序列到序列生成器生成的合成训练样本可以有效地实现这一目标:在我们的实验中,预训练与合成的例子,提高了检索性能在域内和域外的评价五个不同的测试集。
2021-04-15 cs.AI cs.CL cs.IR
When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
Manulife(宏利金融)
本研究针对LLM智能体技能检索中合成数据微调导致的灾难性遗忘问题,提出并评估了多种持续学习方法,在保持OOD性能的同时提升分布内检索13.98%。
2026-09-11 cs.AI cs.IR cs.LG
On Synthetic Data Strategies for Domain-Specific Generative Retrieval
Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所);AWS AI(亚马逊云科技人工智能部门)
本文提出针对领域特定生成式检索的两阶段训练框架,利用LLM生成多粒度查询并挖掘困难负样本,在公开数据集上验证了其有效性。
2025-02-25 cs.CL cs.IR
Synthetic Query Generation for Privacy-Preserving Deep Retrieval Systems using Differentially Private Language Models
Stanford University(斯坦福大学);Google Inc.(谷歌公司);Google Research(谷歌研究院);Google DeepMind(谷歌DeepMind)
针对深度检索系统直接差分隐私训练困难的问题,提出先用差分隐私语言模型生成私有合成查询,再用于训练,显著提升检索质量并保持隐私保证。
2024-05-23 cs.CL cs.CR cs.IR
NeuCLIRTech: Chinese Monolingual and Cross-Language Information Retrieval Evaluation in a Challenging Domain
Johns Hopkins University(约翰斯·霍普金斯大学);University of Glasgow(格拉斯哥大学);University of Waterloo(滑铁卢大学);Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Allen Institute for AI(艾伦人工智能研究所)
NeuCLIRTech是一个用于评估中文单语和跨语言信息检索技术的挑战性数据集,包含110个查询及35962个文档判断,提供强大的统计区分能力,支持神经检索系统与重排序算法的评估。
2026-02-05 cs.IR
Coupled CycleGAN: Unsupervised Hashing Network for Cross-Modal Retrieval
近年来,散列算法以其存储成本低、查询效率高等优点在大规模跨模态检索中受到越来越多的关注。得益于深度学习,跨模态检索领域取得了令人瞩目的研究成果。然而,现有的深度跨模态散列方法要么依赖于大量的标记信息,要么没有能力学习不同模态之间的准确性相关性。本文提出了一种无监督耦合循环生成对抗哈希网络(UCH),用于跨模态检索,其中外循环网络用于学习强大的公共表示,内循环网络用于生成可靠的哈希码。具体来说,我们提出的UCH将这两个网络与生成对抗机制无缝耦合,可以同时优化以学习表示和哈希码。在三个流行的基准数据集上进行的大量实验表明,所提出的UCH优于最先进的无监督跨模态哈希方法。
2019-03-06 cs.IR
Can Synthetic Query Rewrites Capture User Intent Better than Humans in Retrieval-Augmented Generation?
本文提出合成数据驱动的查询重写模型 SynRewrite,利用 GPT-4o 生成训练数据、微调 Flan-T5 并结合 DPO 优化,在检索与生成任务上超越人工重写。
2025-09-26 cs.CL cs.IR
Patapasco: A Python Framework for Cross-Language Information Retrieval Experiments
虽然有高质量的软件框架用于信息检索实验,但它们并不明确支持跨语言信息检索(CLIR)。为了填补这一空白,我们创建了Patapsco,一个Python CLIR框架。这个框架专门解决了用多种语言运行实验的复杂性。Patapsco被设计为可扩展到许多语言对,可扩展到大型文档集合,并支持由配置文件驱动的可重复实验。我们包括Patapsco结果标准CLIR集合使用多种设置。
2022-01-24 cs.IR
NeuCLIRBench: A Modern Evaluation Collection for Monolingual, Cross-Language, and Multilingual Information Retrieval
本文发布面向单语、跨语言与多语言检索的评测集NeuCLIRBench,整合三年TREC NeuCLIR赛道主题及标注,提供神经检索融合基线,可有效区分不同检索系统性能且已公开。
2025-11-18 cs.IR
InPars+: Supercharging Synthetic Data Generation for Information Retrieval Systems
University of Amsterdam(阿姆斯特丹大学)
本文提出InPars+,通过对比偏好优化微调查询生成LLM,并用DSPy动态思维链提示替换静态模板,在减少过滤需求的同时提升神经信息检索性能。
2025-08-19 cs.AI cs.IR
CONVERSER: Few-Shot Conversational Dense Retrieval with Synthetic Data Generation
National Taiwan University(台湾大学);Taiwan AI Labs(台湾人工智能实验室)
针对对话式密集检索因领域内配对数据获取成本高而难以训练的问题,提出CONVERSER框架,利用大语言模型的上下文学习能力仅需最多6个样本生成合成数据,在OR-QuAC和TREC CAsT 19基准上达到与全监督模型相当的性能。
2023-09-13 cs.CL cs.IR
Beyond Benchmark Scores: How Synthetic and Authentic Query Distributions Diverge in RAG Evaluation
Sparrows AI sp. z o.o.(Sparrows AI有限责任公司)
本研究揭示RAG评估中合成查询与真实查询在长度、来源和主题上存在显著差异,导致合成基准上的高性能配置在真实查询上性能大幅下降,建议将两者视为互补的评估维度。
2026-09-15 cs.IR
Enhancing Medical Cross-Modal Hashing Retrieval using Dropout-Voting Mixture-of-Experts Fusion
本文提出MCMFH模型,通过Dropout投票和混合专家融合提升医疗跨模态哈希检索的准确性和效率。
2025-12-06 cs.IR
Triplet-Based Deep Hashing Network for Cross-Modal Retrieval
由于其低存储要求和高检索效率的优点,哈希最近受到越来越多的关注。特别地,跨模态散列已经广泛且成功地用于多媒体相似性搜索应用中。然而,现有的跨模态散列方法由于忽略了包含更丰富语义信息的异构数据之间的相对相似性,无法获得强大的散列码,导致检索性能不理想。在本文中,我们提出了一个基于三元组的深度哈希(TDH)网络的跨模态检索。首先,我们利用三元组标签,它描述了三个实例之间的相对关系作为监督,以捕捉更一般的跨模态实例之间的语义相关性。然后,我们建立了一个损失函数,从模态间的观点和模态内的观点,以提高鉴别能力的散列码。最后,图正则化被引入到我们提出的TDH方法,以保持原来的语义相似性之间的哈希码在汉明空间。实验结果表明,我们提出的方法优于几个国家的最先进的方法在两个流行的跨模态数据集。
2019-04-04 cs.IR
Top-P Masking for Cross Language Information Retrieval
本研究针对信息检索中的Top-K掩码方案,提出类似大语言模型核采样的Top-P动态掩码方法,在跨语言信息检索领域验证其性能优于Top-K掩码,可作为FLOPS正则化的替代方案。
2025-10-22 cs.IR
Variational Autoencoder with CCA for Audio-Visual Cross-Modal Retrieval
跨模态检索是利用一种模态作为查询从另一种模态检索数据,它已成为信息检索、机器学习和数据库领域的热门课题。如何有效地度量不同模态数据之间的相似性是跨模态检索面临的主要挑战。虽然一些再建模工作已经通过学习公共子空间表示来计算不同模态数据之间的相关性,但是编码器从多模态信息中提取特征的能力并不令人满意。本文提出了一种新的用于视听跨模态检索的变分自编码器(VAE)结构,通过学习成对的视听相关嵌入和类别相关嵌入作为约束来增强视听信息的相互性。一方面,音频编码器和视频编码器分别将音频数据和视频数据编码到两个不同的潜在空间中。进一步,通过典型相关分析(CCA)分别构造了两个互潜空间。另一方面,概率建模方法用于处理数据中可能存在的噪声和缺失信息。此外,以这种方式,来自模态内和模态间信息的跨模态差异在联合嵌入子空间中被同时消除。我们在两个基准数据集上进行了广泛的实验。实验结果表明,该架构是有效的学习视听相关性,是明显优于现有的跨模态检索方法。
2021-12-05 cs.IR
End-to-End Cross-Modality Retrieval with CCA Projections and Pairwise Ranking Loss
跨模态检索包括检索任务,其中获取的项目与搜索查询的类型不同,例如,检索与给定文本查询相关的图片。跨模态检索的最新方法依赖于学习两种模态的联合嵌入空间,其中使用最近邻搜索检索来自任一模态的项目。在这项工作中,我们引入了一个基于典型相关分析(CCA)的神经网络层,通过分析计算最大化相关性的投影来学习更好的嵌入空间。与以前的方法相比,CCA层(CCAL)允许我们将现有的嵌入空间学习目标(如成对排序损失)与CCA的最佳投影相结合。我们展示了我们的方法在三种不同场景(文本到图像,音频单音乐和zero-shot检索)上进行跨模态检索的有效性,超过了Deep CCA和使用成对排名损失优化的自由学习投影的多视图网络,特别是当训练数据很少时(所有三种方法的代码发布在:https://github.com/CPJKU/cca_layer)。
2018-04-16 cs.IR
Cross-lingual Knowledge Transfer via Distillation for Multilingual Information Retrieval
在本文中,我们介绍了我们提交MIRACL挑战的方法,这是一项WSDM 2023杯比赛,以18种不同语言的特设检索为中心。我们的解决方案包含两个基于神经的模型。第一个模型是一个双编码器重排序器,我们采用跨语言蒸馏技术,将排序知识从英语转移到目标语言空间。第二个模型是一个跨编码器的重新排序器,使用神经机器翻译生成的多语言检索数据进行训练。我们使用MIRACL训练数据和集合多个秩列表进一步微调两个模型以获得最终结果。根据MIRACL排行榜,我们的方法在16种已知语言中的Test-A集排名第8,Test-B集排名第2。
2023-02-26 cs.IR
Augmenting Passage Representations with Query Generation for Enhanced Cross-Lingual Dense Retrieval
本文提出利用跨语言查询生成增强段落表示,无需额外训练数据即可提升跨语言稠密检索效果,且不增加推理延迟。
2023-05-06 cs.IR
InPars Toolkit: A Unified and Reproducible Synthetic Data Generation Pipeline for Neural Information Retrieval
本文提出统一的 InPars 工具包,通过集成生成、过滤、训练与评估流程,并支持 GPU 和即插即用不同 LLMs 及重排序模型,解决了基于 LLM 的 IR 合成数据方法可复现性差的问题,同时公开了 BEIR 18 个数据集超过 2000 GPU 小时生成的合成数据。
2023-07-10 cs.IR
Beyond Existing Retrievals: Cross-Scenario Incremental Sample Learning Framework
本文提出IncRec框架,通过构建极端跨场景增量样本和一致性感知对齐模块,提升跨场景推荐系统的检索性能。
2025-12-06 cs.IR
Enhanced Multimodal Video Retrieval System: Integrating Query Expansion and Cross-modal Temporal Event Retrieval
本文提出了一种增强多模态视频检索系统,通过整合查询扩展和跨模态时间事件检索,提升检索精度和效率。
2025-12-06 cs.IR
Video and Audio are Images: A Cross-Modal Mixer for Original Data on Video-Audio Retrieval
针对跨模态检索中双塔架构编码特征分离、语义关联难建立的问题,提出含跨模态混合器、掩码自编码器和检索器的新框架,在音视频检索任务上准确率最高提升2倍,且可作为通用模型迁移。
2023-08-26 cs.IR
Improving Semantic Proximity in Information Retrieval through Cross-Lingual Alignment
Korea University(韩国大学)
本文提出改进多语言检索中跨语言对齐能力的方法,通过设计评估指标和训练策略,提升模型在多语言文档中的检索性能,减少对英语的偏好。
2026-04-07 cs.IR
Query Translation vs. Cross-Lingual Embeddings for Sinhala-Tamil E-Government Information Retrieval
University of Kelaniya(凯拉尼亚大学)
本文对比僧伽罗语-泰米尔语电子政务信息检索的CLIR方法,发现多语言嵌入模型BGE-M3性能最优,优于查询翻译方法,可作为低资源政务领域RAG的有效方案。
2026-08-14 cs.IR
NeuralMind-UNICAMP at 2022 TREC NeuCLIR: Large Boring Rerankers for Cross-lingual Retrieval
本文报告了一项跨语言信息检索(CLIR)的研究,使用的mT5-XXL reranker上的NeuCLIR轨道的TREC 2022。也许这项研究的最大贡献是发现,尽管mT5模型只在同一语言的查询-文档对上进行了微调,但它被证明适用于CLIR任务,其中查询-文档对是不同语言的,即使在第一阶段检索性能不佳的情况下。研究结果显示,在所有任务和语言方面都有出色的表现,导致了大量的获奖职位。最后,这项研究为mT5在CLIR任务中的使用提供了有价值的见解,并强调了其作为可行解决方案的潜力。有关复制,请参阅https://github.com/unicamp-dl/NeuCLIR22-mT5
2023-03-28 cs.IR
Noisy Self-Training with Synthetic Queries for Dense Retrieval
School of Computing and Information Systems(计算与信息系统学院);The University of Melbourne(墨尔本大学);Google DeepMind(谷歌DeepMind)
本文提出一种结合合成查询的噪声自训练框架,使神经检索器无需外部模型即可自进化提升,在通用与领域外基准上一致优于现有方法,并展现出低资源数据高效性和对重排序器训练的通用性。
2023-11-27 cs.CL cs.IR
Learning Joint Embedding for Cross-Modal Retrieval
跨模态检索过程是使用一种模态中的查询来获得另一种模态中的相关数据。跨模态检索的挑战性问题在于如何消除异构数据之间的相似性计算,这在图像-文本、音频-文本和视频-文本跨模态多媒体数据采掘和检索中得到了广泛的讨论。然而,不同的数据模态的时间结构的差距没有得到很好的解决,由于缺乏时间跨模态结构之间的对齐关系。我们的研究重点是学习不同模态之间的相关性,以完成跨模态检索任务。我们提出了一个架构:监督深度典型相关分析(S-DCCA),跨模态检索。在这篇论坛论文中,我们将讨论如何利用三元组神经网络(TNN)来增强跨模态检索的相关学习。实验结果表明,在监督学习提取数据表示时,本文提出的基于TNN的监督相关学习结构可以获得最佳的结果。
2019-08-21 cs.IR cs.MM
Cross-Media Scientific Research Achievements Retrieval Based on Deep Language Model
Beijing University of Posts and Telecommunications(北京邮电大学)
科技大数据中包含大量跨媒体信息,科技论文中有图片也有文字,单一模态的检索方法不能很好地满足科研人员的需求,提出了一种基于深度语言模型(CARDL)的跨媒体科研成果检索方法,通过学习不同模态数据之间的语义关联,实现跨媒体语义的统一表示,将其应用于科研成果文本语义向量的生成,通过不同模态数据之间的语义相似度匹配实现跨媒体检索,实验结果表明,提出的CARDL方法取得了比现有方法更好的跨模态检索性能。关键词科技大数据;跨媒体检索;跨媒体语义联想学习;深度语言模型;语义相似度
2022-03-29 cs.AI cs.IR
Cross-Modal Retrieval: A Systematic Review of Methods and Future Directions
本文全面综述了跨模态检索的演进,从浅层统计方法到视觉-语言预训练模型,提出基于机器学习范式的分类体系,探讨现有方法原理与架构,概述基准与性能,并讨论未来挑战与方向。
2024-09-30 cs.IR cs.MM
Analyzing and reducing the synthetic-to-real transfer gap in Music Information Retrieval: the task of automatic drum transcription
Umeå university(于默奥大学);Universidad EAFIT(EAFIT大学)
本文研究自动鼓点转录中合成到真实的迁移差距问题,提出并评估了三种提高合成数据真实性的策略,构建了新数据集并验证其能有效降低迁移差距,同时揭示了无限数据训练的局限性及克服方法。
2024-07-29 cs.IR cs.LG cs.SD
Cross-Lingual Relevance Transfer for Document Retrieval
University of Waterloo(滑铁卢大学)
最近的工作表明,多语言BERT作为一个zero-shot跨语言迁移模型的语言处理任务的惊人的能力。我们将这一发现与一个类似的,最近提出的建议,文档检索的文档级的相关性建模,以证明多语言的BERT跨语言的相关性模型传输的能力。对来自不同语系(中文、阿拉伯语、法语、印地语和孟加拉语)的五种不同语言的测试集进行的实验表明,用英语数据训练的模型提高了排名质量,而无需任何特殊处理,无论是(非英语)单语言检索还是跨语言检索。
2019-11-08 cs.CL cs.IR
C3: Continued Pretraining with Contrastive Weak Supervision for Cross Language Ad-Hoc Retrieval
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland(马里兰大学);Emory University(埃默里大学);University of Pennsylvania(宾夕法尼亚大学)
预训练的语言模型提高了许多任务的效率,包括ad-hoc检索。最近的工作表明,在微调检索任务之前,继续用辅助目标预训练语言模型可以进一步提高检索效率。与单语检索不同,为跨语言映射设计适当的辅助任务是具有挑战性的。为了应对这一挑战,我们使用不同语言的维基百科文章来进一步预训练现成的多语言预训练模型,然后再对检索任务进行微调。我们表明,我们的方法产生的检索效果的改善。
2022-04-25 cs.CL cs.IR
Improving Cross-lingual Information Retrieval on Low-Resource Languages via Optimal Transport Distillation
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
得益于基于transformer的预训练语言模型,神经排序模型取得了重大进展。最近,多语言预训练语言模型的出现为设计神经跨语言检索模型提供了很大的支持。但是,由于不同语言的预训练数据不平衡,多语言语言模型在许多下游任务中已经表现出高资源语言和低资源语言之间的性能差距。基于这种预训练模型构建的跨语言检索模型可能会继承语言偏见,从而导致低资源语言的次优结果。此外,与英语到英语检索任务不同,在英语到英语检索任务中,可以获得用于文档排序的大规模训练集合,例如MS MARCO,缺乏用于低资源语言的跨语言检索数据使得训练跨语言检索模型更具挑战性。在这项工作中,我们提出了光学:低资源跨语言信息检索的最佳传输蒸馏。为了将模型从高资源语言转移到低资源语言,OPTICAL将跨语言标记对齐任务形成为最佳传输问题,以从经过良好训练的单语检索模型中学习。通过将跨语言知识与查询文档匹配知识分离,OPTICAL只需要双文本数据就可以进行提取训练,这对于低资源的语言来说更可行。实验结果表明,在训练数据最少的情况下,OPTICAL在低资源语言(包括神经机器翻译)上的表现明显优于强基线。
2023-01-29 cs.CL cs.IR
Extending Cross-Modal Retrieval with Interactive Learning to Improve Image Retrieval Performance in Forensics
针对法证领域海量非结构化图像证据检索需求,提出融合交互式学习的零样本跨模态检索系统Excalibur,经仿真和用户研究验证其能有效提升检索性能且易用性良好。
2023-08-28 cs.HC cs.IR
IR2: Information Regularization for Information Retrieval
University of California, San Diego(加利福尼亚大学圣迭戈分校);Laboratory for Emerging Intelligence(新兴智能实验室)
本文提出IR2技术,通过在输入、提示和输出阶段应用正则化减少合成数据生成中的过拟合,在复杂查询任务上优于现有方法并降低50%成本。
2025-04-01 cs.AI cs.CL cs.IR
Synergistic Approach for Simultaneous Optimization of Monolingual, Cross-lingual, and Multilingual Information Retrieval
University of Minnesota(明尼苏达大学);GE HealthCare(GE医疗);University of Waterloo(滑铁卢大学);Vectara(维克塔拉科技公司)
提出混合批次训练策略,同时优化单语、跨语言和多语言零样本检索,减轻语言偏差,并在多个基准上取得优于单一训练的结果。
2024-08-20 cs.CL cs.IR
Cross-Lingual Training with Dense Retrieval for Document Retrieval
David R. Cheriton School of Computer Science, University of Waterloo(滑铁卢大学戴维·R·切里顿计算机科学学院);Department of Computer Science and Engineering, Penn State University(宾夕法尼亚州立大学计算机科学与工程系)
稠密检索在英语文章排序中取得了巨大的成功。然而,由于培训资源的限制,它在非英语语言的文献检索的有效性仍然没有探索。在这项工作中,我们将探讨不同的传输技术,文档排序从英语注释到多种非英语语言。我们的测试集合上的六种语言(中文,阿拉伯语,法语,印地语,孟加拉语,西班牙语)从不同的语言家庭的实验表明,zero-shot基于模型的转移使用mBERT提高搜索质量在非英语单语言检索。此外,我们发现,弱监督的目标语言传输产生竞争力的性能对基于生成的目标语言传输,需要外部翻译和查询生成器。
2021-09-03 cs.CL cs.IR
Transfer Learning Approaches for Building Cross-Language Dense Retrieval Models
University of Maryland(马里兰大学);Johns Hopkins University(约翰斯·霍普金斯大学)
基于transformer的模型(如BERT)的出现导致了神经排名模型的兴起。这些模型提高了检索系统的有效性,远远超过了词汇匹配模型,如BM 25。虽然单语检索任务受益于MS MARCO等大规模训练集和神经架构的进步,但跨语言检索任务已经落后于这些进步。本文介绍了ColBERT-X,一个推广的ColBERT多表示稠密检索模型,使用XLM-RoBERTa(XLM-R)编码器,以支持跨语言信息检索(CLIR)。ColBERT-X可以通过两种方式进行训练。在zero-shot训练中,系统在英语MS MARCO集合上进行训练,依赖于XLM-R编码器进行跨语言映射。在快速训练中,系统在MS MARCO英语查询上进行训练,并结合相关MS MARCO段落的机器翻译。在几种语言的特设文档排序任务的结果表明,这些训练的稠密检索模型在传统的词汇CLIR基线的实质性和统计上显着的改善。
2022-01-20 cs.CL cs.IR
Automatic Synthetic Data and Fine-grained Adaptive Feature Alignment for Composed Person Retrieval
Beijing University of Posts and Telecommunications(北京邮电大学);SenseTime(商汤科技);Beijing Key Laboratory of Network System and Network Culture(北京网络系统与网络文化重点实验室);Key Laboratory of Intereactive Technology and Experience System, Ministry of Culture and Tourism(文化和旅游部交互技术与体验系统重点实验室)
针对现有行人检索模式信息利用不充分的问题,提出组合行人检索任务,构建自动数据合成流水线生成SynCPR数据集,提出FAFA框架提升查询表征,经实验验证其有效性与优越性。
2025-05-20 cs.AI cs.CV cs.IR
Cross-Lingual Document Retrieval with Smooth Learning
Purdue University(普渡大学)
跨语言文档搜索是一种查询语言与文档语言不同的信息检索任务。在本文中,我们研究了神经文档搜索模型的不稳定性,并提出了一种新的端到端鲁棒框架,该框架在不同文档语言的跨语言搜索中实现了更好的性能。该框架包括一个新的措施的相关性,平滑余弦相似性,查询和文档之间,和一个新的损失函数,平滑有序搜索损失,作为目标。进一步为该框架的泛化误差界提供了理论保证。我们进行实验,比较我们的方法与其他文档搜索模型,并观察到显着的收益下常用的排名指标在各种语言的跨语言文档检索任务。
2020-11-02 cs.IR cs.LG
KhyontekAI at CheckThat! 2026: Multilingual Dense Retrieval and Cross-Encoder Reranking for Scientific Web Claims
Tezpur University(特兹普尔大学)
该研究针对社交媒体科学断言的多语言来源检索难题,提出结合微调密集检索与交叉编码器重排序的两阶段框架,经实验验证元数据丰富化及交叉编码器重排序可提升效果,在CLEF 2026任务中取得多语言MRR@5的优异成绩。
2026-10-14 cs.CL cs.IR
Parameter-efficient Zero-shot Transfer for Cross-Language Dense Retrieval with Adapters
Johns Hopkins University(约翰斯·霍普金斯大学);University of Maryland(马里兰大学)
创建zero-shot跨语言检索模型的一种流行方法是用多语言预训练语言模型(例如多语言BERT)替换检索模型中的单语言预训练语言模型。这种多语言模型被微调为单语言数据(如英语MS MARCO)的检索任务,使用与所使用的单语言检索模型相同的训练配方。然而,这种转移的模型在训练和推理期间遭受输入文本的语言的不匹配。在这项工作中,我们提出了使用适配器,一个参数有效的组件,一个Transformer网络传输单语检索模型。通过添加针对特定语言的语言任务预训练的适配器和特定任务的适配器,先前的工作表明,在各种NLP任务中跨语言传输时,适配器增强模型的性能优于微调整个模型。通过构建具有适配器的稠密检索模型,我们表明,当转移到跨语言信息检索(CLIR)设置时,用单语数据训练的模型比微调整个模型更有效。然而,我们发现,先前的建议,更换语言适配器,以匹配目标语言在推理时间是次优的稠密检索模型。我们对其他跨语言NLP任务和CLIR之间的这种差异进行了深入分析。
2022-12-20 cs.CL cs.IR
Deep Triplet Neural Networks with Cluster-CCA for Audio-Visual Cross-modal Retrieval
跨模态检索是指通过一种模态的查询来检索另一种模态的数据,是多媒体、信息检索、计算机视觉和数据库等领域的一个研究热点。现有的研究主要集中在文本-图像、文本-视频、歌词-音频之间的跨模态检索,由于音视频配对数据集和语义信息有限,对音视频之间的跨模态检索研究较少。视听跨模态检索任务的主要挑战集中在从共享子空间学习联合嵌入以计算不同模态之间的相似性,其中生成新的表示是最大化视听模态空间之间的相关性。在这项工作中,我们提出了一种新的具有聚类典型相关分析的深度三元组神经网络(TNN-C-CCA),这是一种具有音频分支和视频分支的端到端监督学习架构。我们不仅考虑公共空间中的匹配对,而且在最大化相关性时计算失配对。特别地,做出了两个重要贡献:i)通过构建具有用于最佳投影的三元组损失的深度三元组神经网络,可以生成更好的表示,以最大化共享子空间中的相关性。ii)在学习阶段使用正例和反例,以提高音频和视频之间的嵌入学习能力。我们的实验是运行在5倍交叉验证,其中平均性能被应用到演示性能的音频-视频跨模态检索。在两个不同的音频视频数据集上的实验结果表明,本文提出的两个分支的学习结构优于现有的六种基于CCA的方法和四种基于最新技术的跨模态检索方法。
2021-05-05 cs.IR cs.MM
Cross-Modal Music Retrieval and Applications: An Overview of Key Methodologies
数字化音乐数据迅速增长,包括音频记录、乐谱的数字化图像、专辑封面和班轮音符以及视频剪辑。如此庞大的数据量要求检索策略,允许用户以方便的方式探索大型音乐收藏。更确切地说,需要跨模态检索算法,给定一个模态的查询(例如,短音频摘录),在其他模态中找到相应的信息和实体(例如,作品的名称和乐谱)。这超越了像Shazam这样的商业应用程序所执行的精确音频识别和随后的元信息检索[1]。
2019-02-12 cs.IR cs.MM