LSBert: A Simple Framework for Lexical Simplification
Hefei University of Technology（合肥工业大学）；Mininglamp Academy of Sciences（明略科学院）
词汇简化（LS）的目的是将句子中的复杂词替换为意义相同的简单词，以简化句子。目前的无监督词汇简化方法只依赖于复杂词本身而不考虑给定的句子来生成候选替换，这将不可避免地产生大量的虚假候选。本文提出了一个基于预训练表示模型BERT的词汇简化框架LSBert，它能够（1）在检测需要简化的词和生成替代候选词时利用更广泛的上下文，（2）考虑五个高质量的特征来对候选词进行排序，包括BERT预测顺序，基于Bert的语言模型和释义数据库PPDB，除了在其他LS方法中常用的词频和词相似度之外。我们表明，我们的系统输出语法正确和语义适当的词汇简化，并获得了明显的改善与这些基线相比，在三个著名的基准测试中，超过了29.8的准确度点的最先进的。
2020-06-25 cs.CL cs.IR
Complementing Lexical Retrieval with Semantic Residual Embedding
本文介绍了CLEAR，检索模型，旨在补充经典的词汇精确匹配模型，如BM 25与语义匹配信号的神经嵌入匹配模型。CLEAR显式地训练神经嵌入来编码词汇检索无法捕获的语言结构和语义，并使用一种新的基于残差的嵌入学习方法。实证评估表明，CLEAR的优势，国家的最先进的检索模型，它可以大大提高端到端的准确性和效率的重新排序管道。
2021-03-29 cs.IR
LSTM-based Selective Dense Text Retrieval Guided by Sparse Lexical Retrieval
针对稠密与稀疏词法检索的快速融合问题，提出 CluSD：利用稀疏结果与嵌入簇重叠及 LSTM 两阶段选择相关簇，按需执行部分稠密检索和块磁盘 I/O，并在 MS MARCO、BEIR 上对比基线验证。
2025-02-15 cs.IR
Sparsifying Sparse Representations for Passage Retrieval by Top-$k$ Masking
David R. Cheriton School of Computer Science（大卫·R·切里顿计算机科学学院）；University of Waterloo（滑铁卢大学）
稀疏词汇表示学习在最近的模型如DeepImpact、uniCOIL和SPLADE中在提高段落检索效率方面已经取得了很大进展。本文介绍了一种简单而有效的方法，稀疏化的词汇表示段落检索，建立在SPLADE通过引入一个顶部的$k$掩蔽计划来控制稀疏性和自学习方法来哄掩蔽表示模仿未掩蔽的表示。我们的模型的一个基本实现是有竞争力的更复杂的方法，并实现了有效性和效率之间的良好平衡。我们的方法的简单性打开了大门，为未来的词汇表示学习的段落检索探索。
2021-12-17 cs.CL cs.IR
Exploring Classic and Neural Lexical Translation Models for Information Retrieval: Interpretability, Effectiveness, and Efficiency Benefits
Bosch Center for Artificial Intelligence（博世人工智能中心）；Carnegie Mellon University（卡内基梅隆大学）
我们研究了词汇翻译模型（IBM Model 1）在英语文本检索中的实用性，特别是其端到端训练的神经变体。我们使用神经模型1作为聚合器层，应用于上下文无关或上下文化的查询/文档嵌入。这种设计神经排序系统的新方法在有效性、效率和可解释性方面都有好处。具体来说，我们表明，在基于BERT的上下文嵌入之上添加可解释的神经模型1层（1）不会降低准确性和/或效率;（2）可以克服现有BERT模型的最大序列长度限制。与上下文无关的神经模型1不如基于BERT的排名模型有效，但它可以在CPU上高效运行（无需对大型张量进行昂贵的索引时预计算或查询时操作）。使用模型1，我们在2020年底的MS MARCO文档排序排行榜上产生了最佳神经和非神经运行。
2021-03-17 cs.CL cs.IR
Leveraging Semantic and Lexical Matching to Improve the Recall of Document Retrieval Systems: A Hybrid Approach
搜索引擎通常遵循两阶段范例，其中在第一阶段（检索阶段）中检索初始文档集，并且在第二阶段（重新排序阶段）中对文档进行重新排序以获得最终结果列表。虽然深度神经网络在以前的工作中被证明可以提高重新排序阶段的性能，但是很少有文献关于使用深度神经网络来提高检索阶段。在本文中，我们研究了深度神经网络模型和词汇模型相结合的检索阶段的优点。提出了一种利用语义（基于深度神经网络）和词汇（基于关键字匹配）检索模型的混合方法。我们进行了实证研究，使用公开的TREC集合，这表明了我们的方法的有效性，并揭示了语义方法，词汇方法，以及它们的组合的不同特点。
2020-10-02 cs.IR
Assessing the Performance Gap Between Lexical and Semantic Models for Information Retrieval With Formulaic Legal Language
Purdue University（普渡大学）
本研究针对欧盟法院程式化法律语言的段落检索任务，对比词汇模型BM25与稠密语义模型的性能，发现微调领域数据的稠密模型多数指标优于BM25，并分析了数据量对模型性能的影响。
2025-06-15 cs.CL cs.IR
Combining Lexical and Dense Retrieval for Computationally Efficient Multi-hop Question Answering
在简单的开放域问答（QA）中，稠密检索已成为检索相关段落以推断答案的标准方法之一。最近，稠密检索也取得了国家的最先进的结果，在多跳QA，其中聚合信息从多条信息和推理他们是必需的。尽管它们取得了成功，但稠密检索方法是计算密集型的，需要多个GPU进行训练。在这项工作中，我们引入了一种混合（词汇和密集）检索方法，是非常有竞争力的国家的最先进的稠密检索模型，同时需要更少的计算资源。此外，我们还对有限计算资源设置下的稠密检索方法进行了深入评估，这是当前文献中所缺少的。
2021-09-22 cs.IR
Statute-enhanced lexical retrieval of court cases for COLIEE 2022
本文研究COLIEE 2022法院案例检索任务，提出在段落级检索与排序融合基础上显式加入法规信息以提升效果，所提交系统实现了高召回率但精确率较低。
2023-04-17 cs.IR
Information Retrieval Systems Adapted to the Biomedical Domain
University Carlos III of Madrid（马德里卡洛斯三世大学）
生物医学中使用的术语显示出词汇的特殊性，这就需要精心制作术语资源和具有特定功能的信息检索系统。主要特点是同义词和同形异义词的比例很高，这是由于多义缩略词的扩散及其与共同语言的相互作用等现象造成的。生物医学领域中的信息检索系统使用面向这些词汇特性的处理的技术。在本文中，我们回顾了在这一领域中使用的一些技术，如自然语言处理（BioNLP）的应用，词汇语义资源的整合，和应用命名实体识别（BioNER）。最后，我们提出的评估方法，以评估这些技术检索生物医学资源的适用性。
2012-03-30 cs.CL cs.IR
Lexical Simplification with Pretrained Encoders
Yangzhou University（扬州大学）；Hefei University of Technology（合肥工业大学）；Mininglamp Academy of Sciences（明略科学院）；Minininglamp Technology（明略科技）
词汇简化（LS）的目的是将句子中的复杂词替换为意义相同的简单词。目前的无监督词汇简化方法只依赖于复杂词本身而不考虑给定的句子来生成候选替换，这将不可避免地产生大量的虚假候选。我们提出了一个简单的LS方法，利用双向编码器表示从Transformers（BERT），它可以同时考虑给定的句子和复杂的词在生成候选替换的复杂的词。具体来说，我们屏蔽原始句子的复杂单词，以输入到BERT中来预测屏蔽的标记。预测结果将用作候选替换。尽管是完全无监督的，实验结果表明，我们的方法获得了明显的改善相比，这些基线利用语言数据库和平行语料库，超过了国家的最先进的超过12个精度点上三个著名的基准。
2020-10-29 cs.AI cs.CL cs.IR
Beyond Lexical: A Semantic Retrieval Framework for Textual SearchEngine
搜索引擎已经成为各种Web和移动应用程序中的基本组件。对于搜索引擎系统来说，从海量数据集中检索相关文档是一个挑战，尤其是在面对冗长或尾查询时。在本文中，我们探讨了一个向量空间搜索框架的文件检索。具体来说，我们训练了一个深度语义匹配模型，这样每个查询和文档都可以被编码为低维嵌入。我们的模型是基于BERT架构训练的。我们部署了一个快速的k-最近邻索引服务的在线服务。离线和在线指标表明，我们的方法大大提高了检索性能和搜索质量，特别是对尾部
2020-08-10 cs.IR
Rethinking Agentic Search with Pi-Serini: Is Lexical Retrieval Sufficient?
University of Waterloo（滑铁卢大学）；Stencilzeit University of Waterloo（斯泰尔齐特大学）
本文探讨了在代理循环中，随着LLM能力提升，词汇检索是否足够。通过结合BM25与前沿LLM，引入Pi-Serini搜索代理，展示其在BrowseComp-Plus上优于现有检索代理的性能。
2026-05-11 cs.AI cs.CL cs.IR
nigam@COLIEE-22: Legal Case Retrieval and Entailment using Cascading of Lexical and Semantic-based models
Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）；Vellore Institute of Technology（韦洛尔理工学院）
本文介绍了我们提交的法律信息抽取/蕴涵2022年（COLIEE-2022）的案例法竞争工作坊的任务1和2。任务1是一个法律案例检索任务，它涉及阅读一个新的案例，并从提供的判例法语料库中提取支持案例来支持决策。任务2是法律案例蕴含任务，涉及从现有案例中识别一个段落，该段落包含相关案例中的决定。我们采用神经模型Sentence-BERT和Sent 2 Vec进行语义理解，并采用传统的检索模型BM 25进行精确匹配。因此，我们的团队（“nigam”）在任务1和任务2中的所有团队中排名第五。实验结果表明，传统的检索模型BM 25仍然优于基于神经网络的模型。
2022-04-16 cs.CL cs.IR cs.LG
A Dense Representation Framework for Lexical and Semantic Matching
词汇和语义匹配捕获不同的成功的方法来文本检索和融合的结果已被证明是更有效和更强大的比单独。先前的工作通过使用不同的系统（例如，Lucene和Faiss），然后融合它们的模型输出。相比之下，我们的工作通过将高维词汇表征致密化为我们所称的低维致密词汇表征（DLRs），将词汇表征与密集语义表征相结合。我们的实验表明，DLRs可以有效地近似原始的词汇表示，保持有效性，同时改善查询延迟。此外，我们可以结合密集的词汇和语义表示生成密集的混合表示（DHR），更灵活，更快的检索相比，现有的混合技术。此外，我们还探索了在单个模型中联合训练词汇和语义表示的方法，并通过经验表明，由此产生的DHR能够结合各个组件的优势。我们最好的DHR模型在域内和zero-shot评估设置中与最先进的单向量和多向量密集检索器具有竞争力。此外，我们的模型速度更快，需要更小的索引，使我们的密集表示框架成为文本检索的一种有吸引力的方法。我们的代码可在https://github.com/castorini/dhr上获得。
2023-02-25 cs.IR
1-800-SHARED-TASKS at RegNLP: Lexical Reranking of Semantic Retrieval (LeSeR) for Regulatory Question Answering
Pulchowk Campus, IoE（伊奥学院普尔乔克校区）；Cohere For AI Community（Cohere AI社区）；IIT Roorkee（鲁基印度理工学院）；NUST（巴基斯坦国家科技大学）；University of Wisconsin（威斯康星大学）；University of Maryland（马里兰大学）
本研究针对监管问答场景，提出结合多种嵌入模型、微调与词汇重排序LeSeR方法，在RegNLP RIRAG挑战赛中取得有竞争力的检索效果，为监管领域检索增强生成系统落地提供参考并指明优化方向。
2024-12-08 cs.CL cs.IR cs.LG
LexBoost: Improving Lexical Document Retrieval with Nearest Neighbors
本文提出 LexBoost，通过离线构建稠密邻居语料图并在词法检索时融合邻居分数，以低开销提升排序效果，且在多种设置下鲁棒，重排序结果可媲美穷尽式稠密检索。
2024-08-25 cs.IR
SQLite is Enough. Lexical, Semantic, and Hybrid Search with scrydb
TH Köln – University of Applied Sciences（科隆应用技术大学）
本研究推出 Python 库 scrydb，基于 SQLite 的 FTS5 和 sqlite-vec 扩展实现词汇、语义及混合搜索，经 IR 基准数据集验证，可为信息检索或智能体搜索下游任务提供轻量高效的解决方案。
2026-08-26 cs.CL cs.DB cs.IR
Out-of-Domain Semantics to the Rescue! Zero-Shot Hybrid Retrieval Models
基于预训练语言模型（例如，BERT）的深度检索模型在许多段落检索任务中取得了优于词汇检索模型（例如，BM 25）的性能。然而，有限的工作已经做了推广到其他任务和领域的深度检索模型。在这项工作中，我们仔细选择了五个数据集，包括两个域内数据集和三个具有不同程度的域偏移的域外数据集，并研究了深度模型在zero-shot设置下的泛化。我们的研究结果表明，当目标域与模型训练的源域非常不同时，深度检索模型的性能会显著恶化。相反，词汇模型在跨域中更鲁棒。因此，我们提出了一个简单而有效的框架来整合词汇和深度检索模型。我们的实验表明，这两个模型是互补的，即使当深层模型在域外设置较弱。在三个域外数据集上，混合模型比深度检索模型平均获得20.4%的相对增益，比词汇模型平均获得9.54%的相对增益。
2022-01-25 cs.IR
Rethinking Sparse Lexical Representations for Image Retrieval in the Age of Rising Multi-Modal Large Language Models
Kioxia Corporation（铠侠公司）
本文利用支持视觉提示的多模态大语言模型提取图像特征并转换为文本，采用稀疏检索算法进行图像检索，结合数据增强扩展关键词，在多个数据集上取得了优于传统方法的准确率和召回率。
2024-08-29 cs.CV cs.IR
BMX: Entropy-weighted Similarity and Semantic-enhanced Lexical Search
针对传统BM25词汇搜索忽略查询-文档相似度、缺乏语义理解的问题，研究提出融合熵加权相似度与语义增强技术的BMX算法，在长上下文及真实检索基准上性能优于传统BM25和PLM/LLM稠密检索，填补了经典词汇搜索与现代语义方法的空白。
2024-08-14 cs.IR
LARGER: Lexically Anchored Repository Graph Exploration and Retrieval
Emory University（埃默里大学）
LARGER通过词典锚定的结构化定位方法提升代码仓库文件定位精度，实现测试生成和代码库理解任务的性能提升。
2026-05-08 cs.AI cs.IR cs.LG
SPLADE v2: Sparse Lexical and Expansion Model for Information Retrieval
Naver Labs Europe（欧洲Naver实验室）；Sorbonne Université（索邦大学）；CNRS（法国国家科学研究中心）
在神经信息检索（IR）中，正在进行的研究是针对改善排名管道中的第一检索器。学习密集嵌入进行检索使用有效的近似最近邻方法已被证明工作良好。与此同时，人们对学习文档和查询的\emph{sparse}表示越来越感兴趣，这可以继承词袋模型的理想属性，例如术语的精确匹配和倒排索引的效率。最近推出的SPLADE模型提供了高度稀疏的表示和竞争力的结果，相对于国家的最先进的密集和稀疏的方法。在本文中，我们建立在SPLADE，并提出了几个显着的改善效果和/或效率。更具体地说，我们修改了池化机制，仅基于文档扩展对模型进行基准测试，并引入了使用蒸馏训练的模型。我们还报告了BEIR基准的结果。总体而言，SPLADE在TREC DL 2019上的NDCG@10上获得了超过$9$ \%的收益，从而在BEIR基准上获得了最先进的结果。
2021-09-21 cs.AI cs.CL cs.IR
A Study of Prior Case Retrieval Using Lexical, Semantic, and Rhetorical Role Information in Indian Legal Documents
National Institute of Technology, Tiruchirappalli（国立技术学院特鲁奇拉帕利分校）；National Institute of Karnataka, Surathkal（卡纳塔克国立学院苏拉萨尔分校）
本研究针对印度法律先例检索，提出结合修辞角色、查询分割与冻结验证融合的四阶段流水线，显著优于单一角色和全文检索，并揭示了LLM重排序器的评估偏差。
2026-10-07 cs.IR
Using the Hammer Only on Nails: A Hybrid Method for Evidence Retrieval for Question Answering
证据检索是可解释性问答系统的关键组成部分。我们认为，尽管最近的进展，Transformer网络为基础的方法，如通用句子编码器（USE-QA）并不总是优于传统的信息检索（IR）方法，如BM 25证据检索QA。我们引入了一个词汇探测任务，验证了这一观察结果：我们表明，神经IR方法有能力捕捉问题和答案之间的词汇差异，但错过了明显的词汇重叠信号。从这个探测分析学习，我们引入了一个混合的证据检索方法，结合了两个IR方向的优势。我们的方法使用了一个路由分类器，该分类器可以学习何时将传入的问题引导到BM 25与USE-QA，以便使用非常简单的统计数据进行证据检索，这些统计数据可以从BM 25模型产生的顶级候选证据句子中有效地提取。我们证明了这种混合证据检索通常比三个QA数据集：OpenBookQA，ReQA SQuAD和ReQA NQ的单独检索策略更好。此外，我们表明，所提出的路由策略比神经方法快得多，运行时间比USE-QA快5倍。
2020-09-22 cs.IR
WNtags: A Web-Based Tool For Image Labeling And Retrieval With Lexical Ontologies
Faculty of Electrical Engineering and Computing, University of Zagreb（萨格勒布大学电气工程与计算学院）
互联网上越来越多的图像文档不断激发人们对更好的标注模型和更有效的检索方法的研究。图片中的对象和事件的正式知识表示、它们的交互以及上下文复杂性不再是高质量图像存储库的选项，而是必需的。我们提出了一个基于本体的在线图像标注工具WNTags，并证明了它的有用性，在几个典型的多媒体检索任务使用国际情感图片系统情感标注的图像数据库。WNTags是围绕WordNet词汇本体构建的，但认为建议的上层合并本体是首选的标记形式主义。WNTags使用加权WordNet同义词集作为高级图像语义描述符，并使用词干和节点距离度量进行查询匹配。我们还阐述了我们不久的将来计划，以扩大与诱导影响的图像内容的描述，在人类的情感和注意力的研究刺激。
2017-12-05 cs.AI cs.IR cs.MM
Quanta: A Self-Contained Python Library for Hybrid Retrieval over Quantised Embeddings, Lexical Indexes, and Knowledge Graphs
Novelcore（诺瓦核心）；University of Peloponnese（伯罗奔尼撒大学）
Quanta是一个开源Python库，通过加权倒数排名融合统一量化向量搜索、BM25全文检索和知识图谱遍历，并以图作为候选扩展器而非评分器，实现高效混合检索。
2026-09-17 cs.AI cs.IR
An Evaluation of Link Neighborhood Lexical Signatures to Rediscover Missing Web Pages
为了发现丢失网页的新URI，以前已经提出了词汇签名，它由少量的单词组成，这些单词被选择来表示页面的“about”。然而，先前的方法依赖于在页面丢失之前计算词汇签名，或者使用页面的缓存或存档版本来计算词汇签名。我们展示了一个系统，从它的链接邻居，即“反向链接”，或链接到丢失的页面的页面构建一个词汇签名。在测试了各种方法后，我们表明，一个可以构建一个词汇签名丢失的网页使用只有10个反向链接页面。此外，我们表明，只有第一级的反向链接是有用的，在这方面的努力。反向链接用来指向缺失页面的文本被用作创建四字词汇签名的输入。在超过一半的测试用例中，该词法签名被证明可以成功地找到目标URI。
2011-02-04 cs.DL cs.IR cs.SI
