搜索查询由几个词组成。在邻近全文搜索中,我们希望找到包含这些单词的文档。当查询由高频率出现的单词组成时,此任务需要大量时间。如果我们不能通过将高频率出现的单词声明为停止词来避免这个任务,那么我们可以通过引入额外的索引来优化我们的解决方案,以加快执行速度。在以前的工作中,我们讨论了如何减少搜索时间与多组件的关键字索引。我们已经证明,如果查询由高频率出现的单词组成,则可以使用额外的索引将平均查询执行时间提高130倍。在本文中,我们提出了另一种搜索算法,克服了我们以前的算法的一些限制,并提供更多的性能增益。这是一篇发表在Arai K.上的文章的预印本,Kapoor S.,巴蒂亚河(eds)智能系统与应用。智能系统2020。Advances in Intelligent Systems and Computing,第1251卷,Springer,Cham出版。最终认证版本可在线获取:https://doi.org/10.1007/978-3-030-55187-2_37
英文摘要:
A search query consists of several words. In a proximity full-text search, we want to find documents that contain these words near each other. This task requires much time when the query consists of high-frequently occurring words. If we cannot avoid this task by excluding high-frequently occurring words from consideration by declaring them as stop words, then we can optimize our solution by introducing additional indexes for faster execution. In a previous work, we discussed how to decrease the search time with multi-component key indexes. We had shown that additional indexes can be used to improve the average query execution time up to 130 times if queries consisted of high-frequently occurring words. In this paper, we present another search algorithm that overcomes some limitations of our previous algorithm and provides even more performance gain.
This is a pre-print of a contribution published in Arai K., Kapoor S., Bhatia R. (eds) Intelligent Systems and Applications. IntelliSys 2020. Advances in Intelligent Systems and Computing, vol 1251, published by Springer, Cham. The final authenticated version is available online at: https://doi.org/10.1007/978-3-030-55187-2_37
Proximity Full-Text Search with a Response Time Guarantee by Means of Additional Indexes
全文搜索引擎是信息检索的重要工具。术语邻近度是衡量相关性得分的一个重要因素。在接近全文搜索中,我们假设相关文档包含彼此接近的查询词,特别是如果查询词是频繁出现的词。讨论了一种高性能全文查询执行的方法。我们构建额外的索引以提高效率。对于出现在文本中的单词,我们在索引中包括有关附近单词的一些信息。我们使用哪些类型的附加索引?我们如何使用它们?这些问题在这项工作中进行了讨论。我们提出的实验结果表明,搜索查询执行的平均时间是使用普通倒排索引时所需的44-45倍。这是一篇贡献的预印本“Veretennikov AB通过附加索引保证响应时间的邻近全文搜索”发表于“Arai K.,Kapoor S.,巴蒂亚河(eds)智能系统与应用。IntelliSys 2018。Advances in Intelligent Systems and Computing,vol 868”,由Springer,Cham出版。最终认证版本可在https://doi.org/10.1007/978-3-030-01054-6_66网站上获得。这项工作得到了俄罗斯联邦政府第211号法案的支持,合同编号为02.A03.21.0006。
Uncovering protein interaction in abstracts and text using a novel linear model and word proximity networks
School of Informatics, Indiana University(印第安纳大学信息学院);FLAD (Fundação Luso-Americana para o Desenvolvimento) Computational Biology Collaboratorium, Instituto Gulbenkian de Ciência(古尔本基安科学研究所FLAD(卢美发展基金会)计算生物学合作中心);Universidad Nacional del Sur(南方国立大学);Center for Genomics and Bioinformatics, Indiana University(印第安纳大学基因组与生物信息学中心);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);School of Medicine, Indiana University(印第安纳大学医学院)
学习词汇术语的高维密集表示,也称为词嵌入,最近在自然语言处理和信息检索任务中引起了很多关注。嵌入向量通常基于大型语料库中的术语接近度来学习。这意味着在公知的词嵌入算法中的目标,word2vec是准确预测给定单词或上下文的相邻单词。然而,这个目标并不一定等同于许多信息检索(IR)任务的目标。各种IR任务的主要目标是捕获相关性,而不是术语接近度,句法,甚至语义相似性。这就是开发基于查询文档相关性信息学习单词表示的无监督的基于相关性的词嵌入模型的动机。在本文中,我们提出了两个学习模型,具有不同的目标函数,一个学习的词汇集为每个查询的相关性分布,和其他分类每个术语属于相关或不相关的类为每个查询。为了训练我们的模型,我们使用了超过600万个独特的查询和响应每个查询检索的排名最高的文档,这些文档被认为与查询相关。我们extraperitively评估我们的学习词表示模型使用两个IR任务:查询扩展和查询分类。在四个TREC集合上的查询扩展实验和在KDD Cup 2005数据集上的查询分类实验表明,基于相关性的词嵌入模型的性能显著优于最先进的基于邻近度的嵌入模型,如word2vec和GloVe。