Automated News Suggestions for Populating Wikipedia Entity Pages
L3S Research Center（L3S研究中心）；Leibniz University of Hannover（汉诺威莱布尼茨大学）；University of Leeds（利兹大学）
维基百科实体页面是直接消费和知识库建设、更新和维护的宝贵信息来源。这些实体页面中的事实通常由引用支持。最近的研究表明，多达20%的参考文献来自在线新闻来源。然而，许多实体页面是不完整的，即使相关信息已经在现有的新闻文章中可用。即使对于已经存在的参考文献，在新闻文章发布时间和参考文献时间之间也经常存在延迟。因此，在这项工作中，我们通过新闻的镜头来看待维基百科，并提出了一个新的新闻文章建议任务，以改善维基百科的新闻报道，并减少有新闻价值的参考文献的滞后。我们的工作直接应用于维基百科页面生成和知识库加速任务，这些任务依赖于相关和高质量的输入源。我们提出了一个两阶段的监督方法，建议新闻文章的实体页面为一个给定的状态的维基百科。首先，我们建议新闻条目到维基百科实体（条目-实体放置），这依赖于一组丰富的功能，这些功能考虑了实体的\emph{salience}和\emph{relative authority}，以及新闻条目到实体页面的\emph{novelty}。其次，我们确定输入文章（文章部分放置）的实体页面中的确切部分，由基于类的部分模板指导。我们根据从维基百科的外部参考文献中提取的地面实况数据对我们的方法进行了广泛的评估。我们在\emph{article-entity}建议阶段达到了高达93%的高精度值，在\emph{article-section placement}阶段达到了高达84…
2017-03-30 cs.CL cs.IR cs.SI
Improving Multilingual Named Entity Recognition with Wikipedia Entity Type Mapping
IBM T. J. Watson Research Center（IBM托马斯·J·沃森研究中心）
现有技术的命名实体识别（NER）系统是具有强泛化能力（即，可以基于词汇和上下文信息来识别未出现在训练数据中的不可见实体）。然而，如果模型的特征偏向于错误的实体类型，那么这样的模型仍然可能出错。在本文中，我们利用维基百科作为一个开放的知识库，以改善多语言NER系统。我们的方法的核心是高精度，高覆盖率的多语言维基百科实体类型映射的建设。这些映射是从弱注释的数据中构建的，可以扩展到新的语言，而不需要人工注释或语言相关的知识。基于这些映射，我们开发了几种方法来改善NER系统。我们评估的性能的方法，通过实验NER系统训练6种语言。实验结果表明，所提出的方法是有效的，在提高这样的系统上看不见的实体的准确性，特别是当一个系统被应用到一个新的领域或它是用很少的训练数据训练（高达18.3 F1分数改善）。
2017-07-08 cs.AI cs.CL cs.IR
Entity Extraction from Wikipedia List Pages
University of Mannheim（曼海姆大学）
当涉及到广泛领域的事实知识时，维基百科通常是网络上的主要信息来源。DBpedia和YAGO作为大型跨领域知识图谱，通过为维基百科中的每个页面创建一个实体并通过边缘连接它们来编码知识的子集。然而，众所周知，基于维基百科的知识图谱远未完成。特别是，由于维基百科的政策只允许关于主题的页面，如果他们有一定的知名度，这样的图表往往缺乏关于不太知名的实体的信息。关于这些实体的信息通常在百科全书中可用，但不表示为单独的页面。在本文中，我们提出了一种从维基百科列表页面中提取实体的两阶段方法，事实证明，这些列表页面是有价值的信息来源。在第一阶段，我们以DBpedia为主干，从类别和列表页面构建一个大型分类法。通过远程监督，我们提取用于识别列表页面中的新实体的训练数据，我们在第二阶段中使用这些数据来训练分类模型。通过这种方法，我们提取了超过70万个新实体，并扩展了DBpedia，其中包含750万个新类型语句和380万个高精度的新事实。
2020-03-11 cs.CL cs.IR
Mining Interesting Trivia for Entities from Wikipedia
琐事是关于一个实体的任何事实，它是有趣的，由于任何以下特征-不寻常，独特性，意外或怪异。这些有趣的事实是提供在'你知道吗？”在许多地方。虽然琐事是不太重要的事实被知道，但我们已经提出了他们的使用在用户参与的目的。这些有趣的事实通常会激发兴趣并吸引用户更多地参与实体，从而促进重复参与。本文引用了一些案例研究，这些案例研究表明，使用琐事对提高用户参与度或广泛宣传产品/服务具有重要影响。在这篇论文中，我们提出了一种新的方法来挖掘实体琐事从他们的维基百科页面。给定一个实体，我们的系统从其维基百科页面中提取相关句子，并根据其兴趣作为琐事生成一个句子列表。我们系统的核心是一个兴趣度排名器，它通过一组丰富的独立于领域的语言和基于实体的特征来学习兴趣度的概念。我们的排名模型是通过利用现有的用户生成的琐事数据在Web上，而不是创建新的标签数据的电影域。对于其他领域，如体育，名人，国家等，标记的数据必须按照论文中所述创建。我们在电影领域和名人领域评估了我们的系统，并观察到该系统的性能明显优于定义的基线。对结果的全面定性分析表明，我们设计的丰富功能集确实有助于在顶级排名中呈现有趣的琐事。
2015-10-11 cs.IR
WISER: A Semantic Approach for Expert Finding in Academia based on Entity Linking
我们提出了WISER，一个新的语义搜索引擎的专家发现在学术界。我们的系统是无监督的，它结合了经典的语言建模技术，基于文本证据，与维基百科知识图谱，通过实体链接。WISER通过一种新颖的分析技术对每位学术作者进行索引，该技术利用维基百科绘制的小型标记和加权图来模拟她的专业知识。图中的节点是作者出版物中提到的维基百科实体，而加权边表示通过基于文本和图的相关性函数计算的这些实体之间的语义相关性。每个节点还标记有相关性分数，该分数模拟相应实体与作者专业知识的相关性，并通过在该图上进行适当的随机行走计算来计算;以及通过实体和其他类型的结构嵌入从维基百科学习的潜在向量表示。在查询时，专家检索结合经典的以文档为中心的方法，利用查询词在作者的文档中的出现，与一组新的配置文件为中心的评分策略，计算作者的专业知识和查询主题之间的语义相关性，通过上述基于图形的配置文件。我们的系统的有效性是建立在一个大规模的实验测试标准数据集上的这项任务。我们表明，WISER实现了更好的性能比所有其他竞争对手，从而证明了有效性的建模作者的个人资料，通过我们的“语义”图的实体。最后，我们评论使用WISER的索引和分析整个研究社区内的比萨大学，其应用程序在我们的大学技术转让。
2019-06-10 cs.IR
SRAG: Structured Retrieval-Augmented Generation for Multi-Entity Question Answering over Wikipedia Graph
HKUST(GZ)（香港科技大学（广州））；DSA（数据科学与分析学域）
本文提出结构化检索增强生成框架SRAG，通过将提取的实体组织成关系表并应用基于表的推理技术，解耦检索与推理，显著提升了LLM在多实体问答任务上的表现。
2025-03-06 cs.CL cs.IR
DAWT: Densely Annotated Wikipedia Texts across multiple languages
Lithium Technologies
在这项工作中，我们打开了DAWT数据集-跨多种语言的密集注释维基百科文本。注释包括映射到实体（由其Freebase机器ID表示）的标记文本提及以及实体的类型。该数据集共包含1360万篇文章，50亿个tokens，1380万个提及实体同现。DAWT包含的锚文本到实体链接的数量是维基百科标记中的4.8倍。此外，它还包括英语、西班牙语、意大利语、德语、法语和阿拉伯语等多种语言。我们还提出了用于生成数据集的方法，该数据集丰富了维基百科的标记，以增加链接的数量。除了主数据集之外，我们还开放了几个派生数据集，包括提及实体共现计数和实体嵌入，以及Freebase ID和Wikidata条目ID之间的映射。我们还讨论了这些数据集的两个应用程序，并希望开放它们将被证明是有用的自然语言处理和信息检索社区，以及促进多语言研究。
2017-03-02 cs.AI cs.CL cs.IR
Scalable Probabilistic Entity-Topic Modeling
University of Cambridge（剑桥大学）；Google Research（谷歌研究院）
我们提出了一个LDA的实体消歧方法。每个主题都与维基百科条目相关联，主题生成内容词或实体提及。训练这样的模型是具有挑战性的，因为主题和词汇量都是数百万。我们解决这些问题，使用一种新的分布式推理和表示框架的基础上，由维基百科链接图指导的并行吉布斯采样器，和管道的MapReduce允许快速和节省内存的大型数据集的处理。我们在一个公共数据集上报告了最先进的性能。
2013-09-02 cs.IR cs.LG stat.ML
RELink: A Research Framework and Test Collection for Entity-Relationship Retrieval
实体-关系（E-R）搜索技术的改进由于缺乏测试集合而受到阻碍，特别是对于涉及多个实体和关系的复杂查询。在本文中，我们描述了一种生成E-R测试查询，以支持全面的E-R搜索实验的方法。从以表格形式存在的内容创建关联性和相关性判断，其中列表示实体类型，并且表格结构暗示实体之间的一个或多个关系。编辑工作涉及基于表中条目表示的关系创建自然语言查询。我们已经公开发布了RELink测试集合，其中包括600个查询和相关性判断，这些查询和相关性判断是从Wikipedia List-of-lists-of-lists表中获得的。后者包括从列中提取的实体元组，并由它们表示的相应实体类型和关系标记。为了促进复杂E-R检索的研究，我们创建并发布了RELink框架，该框架包括专门为E-R检索定制的Apache Lucene索引和搜索。RELink包括实体和关系索引，该索引基于带有链接到维基百科实体的FACC 1文本跨度注释的CCLWeb-09-B Web集合。随着准备使用的搜索资源和全面的测试收集，我们支持社区在追求E-R的研究规模。
2017-06-13 cs.IR
Entity Insertion in Multilingual Linked Corpora: The Case of Wikipedia
EPFL（洛桑联邦理工学院）；Aarhus University（奥胡斯大学）；Wikimedia Foundation（维基媒体基金会）
针对信息网络中实体链接插入位置定位难的问题，提出实体插入任务，构建105种语言的Wikipedia基准数据集，开发LocEI及多语言变体XLocEI，性能优于包括GPT-4在内的基线模型，支持零样本跨语言应用。
2024-10-05 cs.AI cs.CL cs.IR
SWAT: A System for Detecting Salient Wikipedia Entities in Texts
我们研究的实体显着性的问题，提出了SWAT，一个系统，识别显着的维基百科实体发生在输入文档的设计和实现。SWAT由几个模块组成，这些模块能够根据大量的句法，语义和潜在特征来检测和分类维基百科的实体，这些特征是通过监督过程正确提取的，该过程已经从《纽约时报》语料库中提取了数百万个例子。验证过程通过大型实验评估进行，最终表明SWAT在所有公开可用的数据集上改进了已知的解决方案。我们通过一个API发布SWAT，我们在论文中描述和评论，以方便其在其他软件中的使用。
2019-05-16 cs.IR
The Links Have It: Infobox Generation by Summarization over Linked Entities
维基百科等在线百科全书已成为最好的知识来源之一。通过从维基百科的非结构化文本中自动信息抽取，人们投入了大量精力来扩展和丰富结构化数据。虽然取得了显著的进展，但它们的有效性和效率仍然有限，因为它们试图解决极其困难的自然语言理解问题，并且严重依赖于监督学习方法，该方法需要大量的努力来标记训练数据。在本文中，而不是执行信息抽取非结构化的自然语言文本直接，我们专注于一组丰富的半结构化数据在维基百科的文章：链接实体。本文的思想是这样的：如果我们能总结出实体和它所链接的实体之间的关系，我们就能立即收获关于实体的一些最重要的信息。为此，我们提出了一种新的秩聚合方法来消除噪声，一种有效的聚类和标记算法来提取知识。
2014-06-25 cs.IR
Fine-Grained Entity Typing with High-Multiplicity Assignments
University of California, Berkeley（加州大学伯克利分校）
随着实体类型系统变得更丰富、更细粒度，我们预计分配给给定实体的类型数量会增加。然而，大多数细粒度的类型化工作都集中在表现出较低类型多样性的数据集上。在本文中，我们认为，如维基百科，具有半开放类型系统的数据源中固有的高多样性制度。我们引入了一个集预测的方法来解决这个问题，并表明我们的模型优于非结构化的基线上一个新的基于维基百科的细粒度打字语料库。
2017-04-25 cs.AI cs.CL cs.IR
Early Fusion Strategy for Entity-Relationship Retrieval
我们解决的任务实体关系（E-R）检索，即给定一个查询表征类型的两个或两个以上的实体和它们之间的关系，检索相关的元组的相关实体。E-R查询需要从多个非结构化文档中收集和连接证据。在这项工作中，我们考虑任何类型的实体和关系，即，其特征在于上下文条款，而不是预定义的类型或关系。我们提出了一种新的IR为中心的E-R检索方法，建立在基本的早期融合设计模式的对象检索，提供可扩展的实体关系表示，适合于复杂的，多关系的查询。我们进行了实验，维基百科的文章作为实体表示与从CCLWeb-09-B与FACC 1实体链接提取的关系相结合。我们使用3种不同的查询集合，包括469个E-R查询，获得了令人满意的结果。
2017-10-19 cs.IR
Fun Facts: Automatic Trivia Fact Extraction from Wikipedia
很大一部分网络搜索查询直接引用命名实体。搜索引擎探索各种方式来改善这种查询的用户体验。我们建议使用关于搜索实体的{ \em琐事}来扩充搜索结果。琐事在世界各地广泛流行，并被证明可以提高用户的参与度和保留率。大多数随机事实不适合琐事部分。有技巧（和艺术）来策划好的琐事。在本文中，我们正式提出了\emph{trivia-worthiness}的概念，并提出了一个算法，自动挖掘维基百科的琐事事实。我们利用维基百科的类别结构，并根据其琐事质量对实体的类别进行排名。我们的算法能够找到有趣的事实，例如奥巴马的格莱美奖或猫王作为坦克炮手的工作。在用户研究中，我们的算法捕捉到的“好的琐事”的直观概念比以前的工作高45\%。搜索页面测试显示，跳出率降低了22%，停留时间增加了12%，证明我们的事实吸引了用户的注意力。
2016-12-12 cs.IR cs.SI
Distant Supervision for Entity Linking
Tsinghua University（清华大学）
实体链接是信息抽取知识库填充过程中必不可少的操作。它研究了在知识库中将文本实体提及与其对应的消歧条目对齐。在本文中，我们提出了一个新的范例命名为远程监督实体链接（DSEL），在这个意义上，消除歧义的实体，属于一个巨大的知识库（Freebase）自动对齐到相应的描述性网页（维基页面）。通过这种方式，可以在没有手动注释的情况下生成大规模的弱标记数据，并将其馈送到分类器以链接更多新发现的实体。与传统的基于知识库的范式相比，DSEL通过充分利用Freebase和Wikipedia各自的优势而获益更多。具体而言，所提出的范例有利于弥合歧义标签（自由基）的实体和他们的文本描述（维基百科）的Web规模的实体。在140，000个项目和60，000个特征的数据集上进行的实验实现了0.517的基线F1度量。此外，我们分析了特征性能，并将F1-measure提高到0.545。
2015-08-05 cs.CL cs.IR
Entity-Linking via Graph-Distance Minimization
维基链接（英语：Wikipedia linking）是一种自然语言处理任务，它包括识别一段文本中提到的实体，将每个实体链接到某个知识库中的相应条目;当知识库是维基百科时，这个问题被称为维基化（英语：Wikipedia functions）（维基化是指条目是维基百科条目）。实体链接的一个实例可以形式化为底层概念图上的优化问题，其中要优化的数量是所选项目之间的平均距离。受此应用程序的启发，我们定义了一个新的图形问题，这是一个自然的变种的最大容量代表集。我们证明了我们的问题是NP-困难的一般图，尽管如此，在一些限制性的假设下，它原来是可解的线性时间。对于一般情况下，我们提出了两种方法：一种是试图强制执行上述假设，另一种是基于命中距离的概念;我们通过实验展示了这些方法在真实数据集上的一些基线方面的表现。
2014-07-30 cs.DS cs.IR
Approaches for Enriching and Improving Textual Knowledge Bases
Gottfried Wilhelm Leibniz Universität Hannover（戈特弗里德·威廉·莱布尼茨汉诺威大学）
可验证性是维基百科的核心编辑原则之一，编辑者被鼓励为添加的陈述提供引用。语句可以是任意的文本片段，从一个句子到一个段落。然而，在许多情况下，引用要么是过时的，丢失的，或链接到不存在的参考（例如死URL，移动的内容等）。总的来说，20%的引用是指新闻文章，是第二大引用来源。即使在提供引用的情况下，也没有明确的指标来显示给定文本的引用范围。除了与可验证性原则有关的问题外，许多维基百科实体页面不完整，在线新闻来源中已经提供的相关信息缺失。即使是已经存在的引文，在新闻发布时间和引用时间之间也往往存在延迟。在这篇论文中，我们解决了上述问题，并提出了自动化的方法，在维基百科中执行的可验证性原则，并建议相关的和缺失的新闻引用进一步丰富维基百科实体页面。
2018-04-28 cs.CL cs.IR
Discovering Entities with Just a Little Help from You
将文本中的人、组织、书籍、音乐团体及其歌曲等实体链接到知识库（KB）是许多下游搜索和挖掘应用程序的基本任务。实现高消歧准确性关键取决于知识库中实体的丰富和整体表示。对于流行的实体，这样的表示可以很容易地从维基百科中挖掘出来，并且许多当前的实体消歧和链接方法都利用了这一事实。然而，维基百科不包含只有少数人感兴趣的长尾实体，并且有时会滞后，直到新出现的实体被添加。对于这样的实体，以完全自动化的方式挖掘合适的表示是非常困难的，导致链接准确性差。然而，可以自动挖掘的是给定任何文本中出现的新实体的上下文的高质量表示。由于缺乏关于实体的知识，没有方法可以自动地以高精度检索这些事件，从而导致鸡生蛋的问题。为了解决这个问题，我们的方法自动生成实体的候选出现，提示用户反馈，以决定是否出现指的是实际的实体问题。这种反馈逐渐改善了知识，并允许我们的方法提供更好的候选建议，以保持用户的参与。我们提出了新的人在循环检索方法产生的候选人的基础上梯度交错的多样化和文本相关性的方法。我们在FACC数据集上进行了广泛的实验，结果表明，我们的方法在内在和外在指标上都令人信服地优于精心选择的基线，同时保持了用户的参与度。
2018-10-24 cs.IR
Beyond Word Embeddings: Learning Entity and Concept Representations from Large Scale Knowledge Bases
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；Samsung Research America（三星美国研究院）
使用神经词嵌入的文本表示在许多NLP应用中已经证明是有效的。最近的研究采用传统的词嵌入模型来学习多词表达（概念/实体）的向量。然而，这些方法限于文本知识库（例如，Wikipedia）.在本文中，我们提出了一种新的和简单的技术，整合知识的概念，从两个大规模的知识库的不同结构（维基百科和Probase），以学习概念表示。我们采用高效的skip-gram模型来无缝地从维基百科文本和Probase概念图中学习知识。我们在两个任务上评估了我们的概念嵌入模型：（1）类比推理，在语义类比上我们实现了91%的最先进性能，（2）概念分类，在两个基准数据集上实现了最先进的性能，其中一个数据集的分类准确率为100%，另一个为98%。此外，我们提出了一个案例研究，以评估我们的神经语义解析的无监督参数类型识别模型。我们证明了我们的无监督方法的竞争力的准确性和它的能力，更好地推广到词汇表中的实体提到相比，繁琐和容易出错的方法，依赖于地名词典和正则表达式。
2018-08-30 cs.AI cs.CL cs.IR
Entity Type Recognition using an Ensemble of Distributional Semantic Models to Enhance Query Understanding
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）；CareerBuilder
我们提出了一个集成的方法，在招聘领域的搜索查询实体进行分类。了解搜索查询中表示的实体类型（公司、技能、职位等）与传统的基于关键字的搜索相比，能够基于这些实体进行更智能的信息检索。因为搜索查询通常非常短，所以由于缺乏上下文信息，利用传统的词袋模型来识别实体类型将是不合适的。相反，我们的方法结合了不同来源的不同复杂性的线索，以收集真实世界的知识查询实体。我们通过两个模型采用查询实体的分布式语义表示：1）从维基百科等百科全书语料库中生成的上下文向量，以及2）使用word 2 vec从数百万个职位发布中生成的高维词嵌入向量。此外，我们的方法利用从WordNet获得的实体语言属性和从DBpedia提取的本体属性。我们评估我们的方法在凯业必达创建的数据集;美国最大的就业委员会。该数据集包含从数百万求职者/招聘人员搜索查询、职位发布和简历文档中提取的实体。在构造搜索实体的分布向量之后，我们使用监督机器学习来推断搜索实体类型。实证结果表明，我们的方法优于最先进的word 2 vec分布语义模型训练维基百科。此外，我们实现了97%的微平均F1分数使用建议的分布表示合奏。
2016-04-04 cs.CL cs.IR
RESLVE: Leveraging User Interest to Improve Entity Disambiguation on Short Text
我们解决了命名实体消歧（NED）的问题短，用户生成的文本在社交网络上。在这样的设置中，缺乏语言特征和稀疏的词汇上下文导致高度的歧义和急剧的性能下降近50%的准确性，传统的NED系统。我们处理这些挑战，通过开发一个模型的用户兴趣方面的个人知识背景和维基百科，一个特别完善和可靠的知识库，是用来实例化的过程。我们使用个人的帖子从Twitter，YouTube和Flickr进行系统的评估，并证明我们的新技术能够实现超越国家的最先进的NED方法的实质性的性能增益。
2013-04-08 cs.HC cs.IR
Uncovering the Semantics of Wikipedia Categories
University of Mannheim（曼海姆大学）
维基百科类别图是YAGO或Probase等大规模知识图谱的分类支柱，并已广泛用于实体消歧或语义相似性估计等任务。维基百科的分类是分类学和非分类学信息的丰富来源。例如，“德国科幻作家”类别编码了其资源的类型（作家），以及他们的国籍（德国）和流派（科幻小说）。文献中的几种方法利用了这种编码信息的一部分，而没有充分利用其潜力。在本文中，我们介绍了一种方法，发现的类别公理，使用的信息，从类别网络，类别实例，及其词汇化。以DBpedia为背景知识，我们发现了703k个公理，覆盖了502k个维基百科的类别，并在DBpedia知识图谱中添加了4.4M个关系断言和3.3M个类型断言，精度分别超过87%和90%。
2019-06-28 cs.AI cs.DB cs.IR
Global Entity Ranking Across Multiple Languages
Lithium Technologies
我们目前的工作是使用维基百科和Freebase知识库建立一个跨多种语言的实体的全球长尾排名。我们识别多个特征，并构建一个模型，使用超过1万个标签的地面实况数据集对实体进行排名。最终的系统以75%的精度和48%的F1分数对2700万个实体进行了排名。我们提供了跨语言排名质量的性能评估和经验证据，并开放了最终的排名列表供未来研究使用。
2017-03-17 cs.CL cs.IR cs.SI
BLINK with Elasticsearch for Efficient Entity Linking in Business Conversations
Dialpad Canada Inc.（Dialpad加拿大公司）
实体链接系统将文本中实体的文本提及与知识库中相应的条目对齐。然而，在生产环境中部署神经实体链接系统以进行有效的实时推理是一项具有挑战性的任务。在这项工作中，我们提出了一个神经实体链接系统，将商业对话中的产品和组织类型实体连接到相应的维基百科和维基数据条目。所提出的系统利用Elasticsearch来确保部署在资源有限的云机器中时的推理效率，并在推理速度和内存消耗方面获得显着改善，同时保持高准确性。
2022-05-09 cs.CL cs.IR cs.LG
Detecting Future-related Contexts of Entity Mentions
Rajiv Gandhi Institute of Petroleum Technology（拉吉夫·甘地石油技术学院）；University of Innsbruck（因斯布鲁克大学）
本文针对信息处理中自动化时间分析需求，聚焦实体文本隐含未来提及检测任务，构建了含19540个句子的Wikipedia实体相关数据集，并评估了含大语言模型在内的多种模型在无明确时间参照下的任务性能。
2025-02-21 cs.CL cs.IR
Autoregressive Entity Retrieval
University of Amsterdam（阿姆斯特丹大学）；Facebook AI Research（脸书人工智能研究实验室）；ENS, PSL University（巴黎高等师范学院、PSL大学）；Inria（法国国家信息与自动化研究所）；University College London（伦敦大学学院）
实体是我们如何表示和聚合知识的核心。例如，诸如维基百科的百科全书由实体（例如，每个维基百科条目一个）。在给定查询的情况下检索这样的实体的能力对于诸如实体链接和开放域问答之类的知识密集型任务是基本的。当前的方法可以被理解为原子标签之间的分类器，每个实体一个。它们的权重向量是通过对实体Meta信息（例如其描述）进行编码而产生的密集实体表示。这种方法有几个缺点：（i）上下文和实体亲和力主要通过矢量点积来捕获，可能会丢失细粒度的交互;（ii）在考虑大型实体集时，需要大量的内存占用来存储密集表示;（iii）在训练时必须对一组适当的硬负数据进行二次采样。在这项工作中，我们提出了GENRE，第一个系统，检索实体生成其唯一的名称，从左到右，令牌令牌的自回归方式。这缓解了上述技术问题，因为：（i）自回归公式直接捕获上下文和实体名称之间的关系，有效地交叉编码两者;（ii）存储器占用大大减少，因为我们的编码器-解码器架构的参数随词汇大小而不是实体计数缩放;（iii）计算softmax损失而不对负数据进行二次采样。我们对20多个数据集进行了实体消歧、端到端实体链接和文档检索任务的实验，在使用竞争系统内存占用的一小部分的同时，实现了新的最先进或非常有竞争力的结果。最后，我们证明了新的实体可以通过简单地指定它们的名称来添加。代码和预先训练的模型在https://github.com/facebookresea…
2021-03-24 cs.CL cs.IR cs.LG
Neural Article Pair Modeling for Wikipedia Sub-article Matching
University of California, Los Angeles（加州大学洛杉矶分校）；Purdue University（普渡大学）；Google（谷歌）
如今，编辑倾向于将一个长维基百科条目的不同子主题分成多个子条目。这种分离旨在提高人类可读性。然而，它也对许多基于维基百科的任务产生了有害影响，这些任务依赖于条目作为概念的假设，这要求每个实体（或概念）仅由一篇条目描述。这一基本假设大大简化了知识表示和提取，它是至关重要的许多现有的技术，如自动化知识库建设，跨语言知识对齐，语义搜索和维基百科实体的数据沿袭。在本文中，我们提供了一种方法来匹配分散的子文章回到其相应的主文章，目的是促进自动化维基百科策展和处理。该模型采用分层学习结构，结合了神经文档对编码器的多种变体和一组全面的显式特征。创建大型众包数据集以支持任务的评估和特征提取。基于大数据集，该模型实现了有希望的交叉验证结果，并显着优于以前的方法。在整个英文维基百科上的大规模服务也证明了所提出的模型的实用性和可扩展性，有效地提取了大量的新配对的主要和子文章。
2018-08-04 cs.CL cs.HC cs.IR
Learning Dense Representations for Entity Retrieval
Google Research（谷歌研究院）；University of Texas at Austin（得克萨斯大学奥斯汀分校）
我们表明，通过训练一个双编码器（双塔）模型来执行实体链接是可行的，该模型在同一密集向量空间中对提及和实体进行编码，其中通过近似最近邻搜索来检索候选实体。与以前的工作不同，这种设置不依赖于别名表，然后是重新排序器，因此是第一个完全学习的实体检索模型。我们表明，我们的双编码器，训练只使用锚文本链接在维基百科上，优于离散别名表和BM 25基线，并具有竞争力的最佳可比结果的标准TACKBP-2010数据集。此外，它可以非常快地检索候选人，并很好地推广到来自维基新闻的新数据集。在建模方面，我们展示了无监督的负面挖掘算法对这项任务的巨大价值。
2019-09-23 cs.CL cs.IR cs.LG
MOLEMAN: Mention-Only Linking of Entities with a Mention Annotation Network
Google Research（谷歌研究院）
我们提出了一个基于实例的最近邻实体链接方法。与大多数先前的实体检索系统，表示每个实体与一个单一的向量相比，我们建立了一个上下文提到编码器，学习放置类似的提到同一实体更接近的向量空间比提到不同的实体。这种方法允许实体的所有提及充当“类原型”，因为推理涉及从训练集中的标记实体提及的全集中检索并应用最近提及邻居的实体标签。我们的模型在来自维基百科超链接的提及对的大型多语言语料库上进行训练，并对7亿次提及的索引进行最近邻推理。它更容易训练，给出更多可解释的预测，并在两个多语言实体链接基准上优于所有其他系统。
2022-07-22 cs.CL cs.IR cs.LG
NASTyLinker: NIL-Aware Scalable Transformer-based Entity Linker
University of Mannheim（曼海姆大学）
实体链接（EL）是检测文本中实体的提及并将其消歧到参考知识库的任务。最流行的EL方法假设参考知识库是完整的。然而，在实践中，有必要处理链接到知识库中不包含的实体（NIL实体）的情况。最近的工作表明，而不是只关注提及和实体之间的亲和力，考虑提及之间的亲和力可以用来表示NIL实体，通过产生集群的提及。同时，提及间关联可以帮助显著提高已知实体的链接性能。与NASTyLinker，我们引入了EL的方法，是知道的NIL实体，并产生相应的提到集群，同时保持高的链接性能为已知的实体。该方法基于来自Transformers的密集表示对提及和实体进行聚类，并通过计算传递提及-实体亲和度来解决冲突（如果多个实体被分配到聚类）。我们展示了NASTYLinker在NILK上的有效性和可扩展性，NILK是一个明确构建的数据集，用于评估EL相对于NIL实体。此外，我们将所提出的方法应用于实际EL任务，即通过链接维基百科列表中的实体来实现知识图谱人口，并对结果进行分析。
2023-03-13 cs.AI cs.CL cs.IR
Pangloss: Fast Entity Linking in Noisy Text Environments
Workday, Inc.（Workday公司）
实体链接是将文本中可能有歧义的术语映射到维基百科等知识库中的组成实体的任务。这对于组织内容、从文本文档中提取结构化数据以及语义搜索、知识图谱构建和问答等机器学习相关性应用非常有用。传统上，这项工作集中在格式良好的文本上，如新闻文章，但在常见的现实世界数据集中，如消息，简历或简短的社交媒体，非语法，结构松散的文本为这个问题增加了一个新的维度。本文介绍了Pangloss，一个生产系统的实体消歧噪声文本。Pangloss将概率线性时间关键短语识别算法与基于上下文相关文档嵌入的语义相似性引擎相结合，与其他研究或商业系统相比，其结果优于最先进的结果（F1>5%）。此外，Pangloss利用具有分层架构的本地嵌入式数据库来容纳其统计数据和元数据，这允许在流媒体上下文中快速消歧，并在低内存环境（如移动电话）中进行设备消歧。
2018-07-16 cs.IR cs.LG stat.ML
