BLINK with Elasticsearch for Efficient Entity Linking in Business Conversations
Dialpad Canada Inc.（Dialpad加拿大公司）
实体链接系统将文本中实体的文本提及与知识库中相应的条目对齐。然而，在生产环境中部署神经实体链接系统以进行有效的实时推理是一项具有挑战性的任务。在这项工作中，我们提出了一个神经实体链接系统，将商业对话中的产品和组织类型实体连接到相应的维基百科和维基数据条目。所提出的系统利用Elasticsearch来确保部署在资源有限的云机器中时的推理效率，并在推理速度和内存消耗方面获得显着改善，同时保持高准确性。
2022-05-09 cs.CL cs.IR cs.LG
Improving Broad-Coverage Medical Entity Linking with Semantic Type Prediction and Large-Scale Datasets
Carnegie Mellon University（卡内基梅隆大学）；University of Pittsburgh（匹兹堡大学）
医学实体链接是识别和标准化非结构化文本中引用的医学概念的任务。大多数现有的方法采用三步方法：（1）检测提及，（2）生成候选概念列表，最后（3）从中挑选最佳概念。在本文中，我们探讨如何缓解候选概念的过度生成的问题，在候选生成模块，医学实体连接的研究最不足的组成部分。为此，我们提出MedType，一个完全模块化的系统，修剪出不相关的候选概念的基础上预测的语义类型的实体提及。我们将MedType整合到五个现成的工具包中，用于医疗实体链接，并证明它在多个基准数据集上持续提高实体链接性能。为了解决医学实体链接的注释训练数据的缺乏，我们提出了WikiMed和PubMedDS，两个大规模的医学实体链接数据集，并证明这些数据集上的预训练MedType进一步提高了实体链接性能。我们公开我们的源代码和数据集，用于医疗实体链接研究。
2021-08-22 cs.CL
SpEL: Structured Prediction for Entity Linking
School of Computing Science（计算科学学院）；Simon Fraser University（西蒙弗雷泽大学）
SpEL系统通过改进的微调步骤、上下文敏感的预测聚合策略及缩减输出词汇表等方法，将结构化预测应用于实体链接任务，在AIDA基准上超越最先进水平且计算高效。
2023-10-23 cs.CL
Improving Fine-grained Entity Typing with Entity Linking
HKUST（香港科技大学）；Tencent Technology (SZ) Co., Ltd.（腾讯科技（深圳）有限公司）
细粒度的实体类型是一个具有挑战性的问题，因为它通常涉及相对较大的标记集，并且可能需要理解实体提及的上下文。在本文中，我们使用实体链接来帮助细粒度的实体类型分类过程。我们提出了一个深度神经模型，它根据上下文和从实体链接结果中获得的信息进行预测。在两个常用数据集上的实验结果证明了该方法的有效性。在这两个数据集上，它实现了超过5%的绝对严格精度提高。
2019-09-26 cs.CL
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University（萨班哲大学）
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道，它可以在维基百科的帮助下检测潜在的实体提及，并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明，我们的管道显着提高了性能，特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL
Clustering-based Inference for Biomedical Entity Linking
College of Information and Computer Sciences University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校信息与计算机科学学院）；Chan Zuckerberg Initiative（陈-扎克伯格倡议）
由于生物医学知识库中存在大量的实体，只有一小部分实体具有相应的标记训练数据。这就需要实体链接模型，这些模型能够使用学习到的实体表示来链接提到的不可见实体。以前的方法独立地链接每个提及，忽略了实体提及之间的文档内和跨文档的关系。这些关系对于生物医学文本中的链接提及非常有用，其中链接决定通常很困难，因为提及具有通用或高度专业化的形式。在本文中，我们介绍了一个模型，在该模型中，不仅可以通过链接到一个知识库实体，但也通过分组多个提到一起，通过聚类和共同作出链接预测的链接决策。在最大的公开生物医学数据集上的实验中，我们将实体链接的最佳独立预测提高了3.0个点的准确性，并且我们基于聚类的推理模型进一步提高了实体链接2.3个点。
2021-04-08 cs.CL
On the Temporality of Priors in Entity Linking
L3S Research Center（L3S研究中心）
实体连接是自然语言处理中处理文本中词汇歧义的一项基本任务。实体链接方法中的一个重要组成部分是提及实体的先验概率。尽管有大量的工作在实体链接，现有的方法没有明确考虑的时间方面，特别是一个实体的先验概率的时间性。我们认为，这种先验概率是时间的性质，并影响实体链接系统的性能。在本文中，我们系统地研究了先验对文本和知识库的时间有效性的实体连接性能的影响。
2021-01-14 cs.CL cs.LG
Improving Entity Linking by Modeling Latent Relations between Mentions
University of Edinburgh（爱丁堡大学）；University of Amsterdam（阿姆斯特丹大学）
实体链接涉及将命名实体的文本提及与知识库中相应的条目对齐。实体链接系统经常利用文档中的文本提及之间的关系（例如，共同引用）以决定链接决定是否兼容。与以前的方法不同，这些方法依赖于监督系统或统计学来预测这些关系，我们将关系视为神经实体链接模型中的潜在变量。我们在没有任何监督的情况下诱导关系，同时以端到端的方式优化实体链接系统。我们的多关系模型在标准基准测试（AIDA-CoNLL）中获得了最好的报告分数，并且大大优于其关系不可知版本。它的训练也收敛得更快，这表明注入的结构偏差有助于解释训练数据中的错误。
2018-04-27 cs.CL
Improving Entity Linking through Semantic Reinforced Entity Embeddings
Zhejiang Gongshang University（浙江工商大学）；Massey University（梅西大学）；National University of Defense Technology（国防科技大学）；Shanghai Research Center for Brain Science and Brain-Inspired Intelligence（上海脑科学与类脑研究中心）；Zhangjiang Lab（张江实验室）
实体嵌入是神经实体链接模型的关键组成部分，它用单个向量（如词嵌入）表示每个实体的不同方面。现有的实体嵌入是从规范的维基百科文章和目标实体周围的本地上下文中学习的。这样的实体嵌入是有效的，但对于链接模型来说太独特了，无法学习上下文的共性。我们提出了一个简单而有效的方法，FGS2EE，注入细粒度的语义信息到实体嵌入，以减少独特性，促进学习的上下文共性。FGS2EE首先使用语义类型词的嵌入生成语义嵌入，然后通过线性聚合将其与现有的实体嵌入相结合。大量的实验表明了这种嵌入的有效性。基于我们的实体嵌入，我们在实体链接上实现了新的最先进的性能。
2021-06-16 cs.CL
ParsEL 1.0: Unsupervised Entity Linking in Persian Social Media Texts
Iran University of Science and Technology（伊朗科技大学）
近年来，社交媒体数据呈指数级增长，可以列举为世界上最大的数据存储库之一。这些社交媒体数据的很大一部分是自然语言文本。然而，自然语言是高度模糊的，由于暴露于频繁出现的实体，其中具有多义词或短语。实体链接是将文本中提到的实体链接到知识库中相应实体的任务。最近，波斯语知识图谱FarsBase被引入，包含近50万个实体。在本文中，我们提出了一个无监督的波斯语实体链接系统，第一个实体链接系统专门针对波斯语，它利用上下文相关和上下文无关的功能。为此，我们还发布了第一个实体链接波斯语语料库，其中包含67，595个单词，这些单词是从Telegram Messenger中一些流行频道的社交媒体文本中抓取的。所提出的方法的输出是86.94%的波斯语，这是与类似的国家的最先进的方法在英语语言的f-分数。
2020-04-22 cs.CL cs.IR cs.LG
Empirical Evaluation of Pretraining Strategies for Supervised Entity Linking
Google Research（谷歌研究院）
在这项工作中，我们提出了一个实体链接模型，它结合了Transformer架构与大规模的预训练维基百科链接。我们的模型在两个常用的实体链接数据集上达到了最先进的水平：CoNLL上的96.7%和TAC-KBP上的94.9%。我们提出了详细的分析，以了解什么样的设计选择是重要的实体链接，包括选择负实体候选人，Transformer架构，和输入扰动。最后，我们提出了更有挑战性的设置，如端到端的实体链接和实体链接，没有域内训练数据有希望的结果。
2020-05-28 cs.CL cs.LG
Neural Networks Models for Entity Discovery and Linking
iFLYTEK Research（科大讯飞研究院）；University of Science and Technology of China（中国科学技术大学）；York University（约克大学）
本文介绍了提交给2016年TAC知识库人口（KBP）竞赛三语实体检测和链接（EDL）赛道的USTC_NELSLIP系统。我们已经建立了两个系统的实体发现和提及检测（MD）：一个使用条件RNNLM和其他一个使用基于注意力的编码器-解码器框架。实体链接（EL）系统包括两个模块：基于规则的候选生成和神经网络概率排序模型。此外，一些简单的字符串匹配规则被用于NIL聚类。最后，我们最好的系统在端到端类型的提及ceaf plus指标中获得了0.624的F1分数。
2016-11-11 cs.AI cs.CL cs.IR
A Practical Entity Linking System for Tables in Scientific Literature
GE Research（GE研究中心）；University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
本文提出一个通用实体链接系统，用于将科学文献表格中的实体链接到 Wikidata，并针对 COVID-19 文献进行适配，利用表格结构特征提升性能，且通过离线实例增强实用性。
2023-06-12 cs.AI cs.CL cs.IR
ReFinED: An Efficient Zero-shot-capable Approach to End-to-End Entity Linking
Amazon Alexa AI（亚马逊Alexa人工智能部门）
我们介绍了ReFinED，一个高效的端到端的实体链接模型，它使用细粒度的实体类型和实体描述来执行链接。该模型在一个单一的前向传递中为文档中的所有提及执行提及检测，细粒度实体类型和实体消歧，使其比现有的竞争方法快60倍以上。ReFinED在标准实体链接数据集上的性能平均超过3.7 F1。该模型能够推广到大规模的知识库，如维基数据（其中有15倍以上的实体比维基百科）和zero-shot实体链接。速度，准确性和规模的结合使ReFinED成为一个有效且具有成本效益的系统，用于从网络规模的数据集中提取实体，该模型已成功部署。我们的代码和预训练模型可在https://github.com/alexa/ReFinED上获得
2022-07-08 cs.CL
Mixing Context Granularities for Improved Entity Linking on Question Answering Data across Entity Categories
Ubiquitous Knowledge Processing Lab (UKP)（普适知识处理实验室（UKP））；Research Training Group AIPHES（AIPHES研究培训小组）；Department of Computer Science, Technische Universität Darmstadt（达姆施塔特工业大学计算机科学系）
每个知识库问答方法的第一阶段是链接输入问题中的实体。我们调查的背景下，一个问答任务的实体链接，并提出了一个联合优化的神经架构，实体提及检测和实体消歧模型周围的背景下，不同级别的粒度。我们使用维基数据知识库和可用的问答数据集来创建问答数据上实体链接的基准。我们的方法在此数据上优于以前的最先进系统，最终得分平均提高8%。我们进一步证明了我们的模型在不同的实体类别中提供了强大的性能。
2018-04-23 cs.CL
Improving Entity Linking by Modeling Latent Entity Type Information
Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research Asia（微软亚洲研究院）；Peng Cheng Laboratory（鹏城实验室）
现有技术的神经实体链接模型采用基于注意力的词袋上下文模型和从词嵌入引导的预训练实体嵌入来评估主题级上下文兼容性。然而，在提到的直接上下文中的潜在实体类型信息被忽略，这导致模型往往链接到不正确的实体与不正确的类型。为了解决这个问题，我们提出了基于预训练的BERT的实体嵌入注入潜在的实体类型信息。此外，我们将基于BERT的实体相似性得分集成到最先进模型的局部上下文模型中，以更好地捕获潜在的实体类型信息。我们的模型显着优于国家的最先进的实体链接模型的标准基准（AIDA-CoNLL）。详细的实验分析表明，我们的模型纠正了直接基线产生的大部分类型错误。
2020-01-06 cs.CL
Contextualized End-to-End Neural Entity Linking
BlackRock（贝莱德）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们提出了另一种实体链接模型（YELM），它将单词链接到实体，而不是跨度。这克服了与选择好的候选提及跨度相关联的任何困难，并且使得提及检测（MD）和实体消歧（ED）的联合训练容易成为可能。我们的模型是基于BERT，并产生上下文化的词嵌入，这是对联合MD和ED目标的训练。我们在几个标准的实体链接（EL）数据集上实现了最先进的结果。
2020-11-07 cs.CL
Learn to Not Link: Exploring NIL Prediction in Entity Linking
Tsinghua University（清华大学）；Institute for Artificial Intelligence, Tsinghua University（清华大学人工智能研究院）；Peking University（北京大学）
本文针对实体链接中NIL预测问题，提出数据集NEL，将NIL提及分为缺失实体和非实体短语，并通过实验证明两类NIL训练数据对预测准确率有显著影响。
2023-05-25 cs.CL
Biomedical Entity Linking with Contrastive Context Matching
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；Megagon Labs（Megagon实验室）
我们介绍BioCoM，一个对比学习框架的生物医学实体链接，只使用两个资源：一个小型的字典和大量的原始生物医学文章。具体来说，我们建立了训练实例从原始PubMed文章的字典匹配，并使用它们训练上下文感知的实体连接模型与对比学习。我们通过最近邻搜索在推理时预测归一化的生物医学实体。结果发现，BioCoM大大优于国家的最先进的模型，特别是在低资源的设置，通过有效地利用实体的上下文。
2021-06-15 cs.CL
Multilingual End to End Entity Linking
Meta AI
针对现有多语言实体链接缺乏高效端到端方案、需复杂模型栈的问题，研究团队发布开源了首个支持97种语言的端到端多语言实体链接模型BELA，并在四个高低资源语言数据集上验证了其性能。
2023-06-15 cs.CL
Cross-Domain Neural Entity Linking
Universität des Saarlandes（萨尔大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
实体链接是将提及匹配到给定知识库（KB）中的实体的任务。它有助于注释Web上存在的大量文档，以利用有关其匹配实体的新事实。然而，现有的实体链接系统专注于开发模型，这些模型通常是依赖于域的，并且仅对它们已经训练的特定知识库是鲁棒的。在对来自不同领域的文件和知识库进行评估时，性能并不充分。基于预先训练的语言模型的方法，如Wu et al.（2020），试图使用zero-shot设置来解决这个问题，这说明了在通用域KB上进行评估时的一些潜力。然而，在特定于域的KB上进行评估时，性能并不等同。为了允许跨不同域的更准确的实体链接，我们提出了我们的框架：跨域神经实体链接（CDNEL）。我们的目标是有一个单一的系统，使同时链接到通用域知识库和域特定知识库。CDNEL通过学习来自不同领域的这些知识库的联合表示空间来工作。使用Logeswaran等人（2019）构建的外部实体链接数据集（Zeshel）和Botzer等人（2021）收集的Reddit数据集进行评估，以将我们提出的方法与最先进的结果进行比较。所提出的框架使用不同类型的数据集进行微调，从而产生不同的CDNEL模型变体。当在Zeshel数据集中包含的四个域上进行评估时，这些变体实现了9%的平均精度增益。
2022-09-28 cs.CL cs.IR cs.LG
Real World Conversational Entity Linking Requires More Than Zeroshots
Radboud University（拉德堡德大学）；University of Amsterdam（阿姆斯特丹大学）
本文针对对话式实体链接在领域特定、长尾知识库和缺少标注数据条件下的零样本泛化问题，构建了基于Fandom和Reddit的评估场景与数据集，发现现有零样本模型性能显著下降，并呼吁设计适应有限资源的新评估与建模方法。
2024-09-02 cs.CL cs.IR
Towards Consistent Document-level Entity Linking: Joint Models for Entity Linking and Coreference Resolution
Ghent University（根特大学）；imec（比利时微电子研究中心）
我们考虑的任务，文档级的实体链接（EL），这是很重要的，以作出一致的决定，实体提到了整个文件联合。我们的目标是利用明确的“连接”之间的文件本身的提及：我们建议加入EL任务的共指消解（coref）。这是对利用（i）隐式文档信息（例如，实体提及之间的潜在关系或通用语言模型）或（ii）候选链接之间的连接（例如，从外部知识库推断）。具体来说，我们集群提到通过共指链接，并强制执行一个单一的EL所有集群提到在一起。后一种约束具有通过加入EL候选列表以用于因此聚类的提及而增加覆盖的附加益处。我们将coref+EL问题表示为有向树上的结构化预测任务，并使用全局规范化模型来解决它。在两个数据集上的实验结果显示，与单独的对应任务相比，coref和EL任务的F1得分都提高了+5%。对于困难情况的子集，在候选实体列表中缺少正确EL的个体提及，我们获得了+50%的准确性增加。
2022-07-02 cs.CL
Joint Learning of Named Entity Recognition and Entity Linking
Instituto de Telecomunicações（电信研究所）；Priberam Labs（Priberam实验室）；Institute of Systems and Robotics（系统与机器人研究所）；Unbabel
命名实体识别（NER）和实体链接（EL）是两个基本相关的任务，因为为了执行EL，首先必须检测对实体的提及。然而，大多数实体链接方法忽略提及检测部分，假设先前已经检测到正确的提及。在本文中，我们执行NER和EL的联合学习，以利用它们的相关性，并获得一个更强大和可推广的系统。为此，我们引入了一个受Stack-LSTM方法启发的模型（Dyer et al.，2015年）。我们观察到，事实上，与使用单个目标训练的模型相比，对NER和EL进行多任务学习可以提高这两项任务的性能。此外，我们在NER和EL方面都取得了与最先进水平相竞争的结果。
2019-07-18 cs.CL
A Hybrid Approach to Domain-Specific Entity Linking
University of Amsterdam（阿姆斯特丹大学）
目前最先进的实体链接（EL）系统是面向语料库是异构的Web，因此执行次最佳的特定领域的语料库。一个关键的开放问题是如何构建有效的EL系统的特定领域，当地的情况下，知识应该在原则上增加，而不是减少，有效性。在本文中，我们提出了混合使用简单的专业连接器结合现有的通才系统来解决这个问题。我们的主要发现如下。首先，我们构建了一个新的可重用的基准EL特定领域的会话语料库。第二，我们测试了一系列的方法在相同条件下的性能，并表明，专家链接器获得高精度的隔离，高召回时，与通才链接器相结合。因此，我们可以有效地利用当地的环境，并得到最好的两个世界。
2015-09-06 cs.CL cs.IR
Reddit Entity Linking Dataset
University of Notre Dame（圣母大学）
我们引入并公开了一个来自Reddit的实体链接数据集，该数据集包含17，316个链接实体，每个实体由三个人类注释者注释，然后分为Gold，Silver和Bronze以表示注释者之间的协议。我们分析了注释者所犯的不同错误和分歧，并对原始数据提出了三种类型的更正。最后，我们测试了现有的实体链接模型，这些模型是在非社交媒体数据集的文本上训练和调整的。我们发现，尽管这些现有的实体链接模型在其原始数据集上表现非常好，但在这个社交媒体数据集上表现不佳。我们还表明，大多数这些错误可以归因于性能不佳的提及检测子任务。这些结果表明，需要更好的实体链接模型，可以应用于大量的社交媒体文本。
2021-02-25 cs.CL
LATTE: Latent Type Modeling for Biomedical Entity Linking
Virginia Tech（弗吉尼亚理工学院）；AWS AI（AWS人工智能）
实体链接是将自然语言文本中提到的命名实体链接到策展知识库中的实体的任务。这在生物医学领域中具有重要意义，在生物医学领域中，它可以用于语义注释大量的临床记录和生物医学文献，以在诸如统一医学语言系统（UMLS）的本体中描述的标准化概念。我们观察到，精确的类型信息，实体消歧成为一个简单的任务。然而，在生物医学领域，细粒度的类型信息通常是不可用的。因此，我们提出了LATTE，一个潜在的类型实体链接模型，通过对潜在的细粒度类型信息的提及和实体建模，提高了实体链接。与以前直接在提及和实体之间执行实体链接的方法不同，LATTE联合进行实体消歧和潜在的细粒度类型学习，而无需直接监督。我们在两个生物医学数据集上评估我们的模型：MedMentions，一个用UMLS概念注释的大规模公共数据集，以及一个用ICD概念注释的口述医生笔记的去识别语料库。广泛的实验评估表明，我们的模型实现了显着的性能改进，超过几个国家的最先进的技术。
2020-01-20 cs.CL cs.IR cs.LG
Scalable Zero-shot Entity Linking with Dense Entity Retrieval
Facebook AI Research（Facebook人工智能研究（Facebook AI Research））；University College London（伦敦大学学院）；Ecole Polytechnique Federale de Lausanne（洛桑联邦理工学院）
本文介绍了一种概念简单，可扩展，高效的基于BERT的实体链接模型，以及其准确性和速度的权衡进行了广泛的评估。我们提出了一个两阶段的zero-shot链接算法，其中每个实体只定义了一个简短的文字描述。第一阶段在由独立嵌入提及上下文和实体描述的双编码器定义的稠密空间中进行检索。然后，每个候选人都将使用交叉编码器重新排名，该交叉编码器将提及和实体文本连接起来。实验表明，这种方法是最新的zero-shot基准（6点绝对增益），也对更多建立的非零拍评估（例如TACKBP-2010），尽管其相对简单（例如，没有明确的实体嵌入或手动设计的提及表）的最先进的。我们还表明，双编码器的链接是非常快的最近邻搜索（例如，在2毫秒内链接590万候选人），并且可以通过知识蒸馏将更昂贵的交叉编码器的精度增益转移到双编码器。我们的代码和模型可以在https://github.com/facebookresearch/BLINK上找到。
2020-09-29 cs.CL
WikiGUM: Exhaustive Entity Linking for Wikification in 12 Genres
Georgetown University（乔治城大学）
实体链接以前的工作集中在针对非嵌套的正确命名实体提及的资源上，通常在维基百科的数据中，即维基化。在本文中，我们提出并评估WikiGUM，一个完全维基化的数据集，涵盖所有提及的命名实体，包括其非命名和代词提及，以及嵌套在其他提及。该数据集涵盖了广泛的12种书面和口语类型，其中大部分尚未纳入实体链接工作，导致我们评估中预训练的SOTA系统表现不佳。对于相同数据的各种其他注释的可用性也使得能够进一步研究上下文中的实体。
2021-09-15 cs.CL
Dual-FOFE-net Neural Models for Entity Linking with PageRank
York University（约克大学）
提出了一种简单有效的实体连接方法，与递归神经网络（RNN）或卷积神经网络（CNN）相比，该方法利用前向神经网络（FFNN）和最近提出的双固定大小顺序遗忘编码（dual-FOFE）方法，将句子片段及其左右上下文完全编码为固定大小的表示。此外，在这项工作中，我们建议将基于PageRank的蒸馏在我们的候选生成模块。我们的神经链接模型包括三个部分：一个基于PageRank的候选生成模块，一个双FOFE网络神经排名模型和一个简单的NIL实体聚类系统。实验结果表明，我们提出的神经链接模型在基线系统上比TAC 2016任务数据集上的最先进模型实现了更高的EL准确性，而不需要任何内部数据或复杂的手工特征。此外，它在TAC 2017任务数据集上实现了具有竞争力的准确性。
2019-07-30 cs.CL cs.IR cs.LG
Fast and Effective Biomedical Entity Linking Using a Dual Encoder
Rutgers University–New Brunswick（罗格斯大学新伯朗士威校区）；Hasso Plattner Institute（哈索·普拉特纳研究所）；University of Potsdam（波茨坦大学）
生物医学实体链接是识别文本文档中提到的生物医学概念并将其映射到目标词库中的规范实体的任务。使用基于BERT的模型的实体链接的最新进展遵循检索和重新排序范例，其中候选实体首先使用检索器模型进行选择，然后检索到的候选实体由重新排序器模型进行排序。虽然这种范例产生了最先进的结果，但它们在训练和测试时都很慢，因为它们一次只能处理一个提及。为了缓解这些问题，我们提出了一种基于BERT的双编码器模型，可以一次性解决文档中的多个提及。我们表明，我们提出的模型比现有的基于BERT的模型快数倍，同时在生物医学实体链接的准确性方面具有竞争力。此外，我们修改了我们的双编码器模型的端到端的生物医学实体链接，执行提及跨度检测和实体消歧，并优于最近提出的两个模型。
2021-03-08 cs.CL
Multimodal Entity Linking for Tweets
Université Paris-Saclay（巴黎-萨克雷大学）；CEA（法国原子能委员会）；CNRS（法国国家科学研究中心）
在许多信息抽取应用中，实体链接（EL）已经成为一项重要的任务，它允许从知识库中利用有关命名实体的信息。在本文中，我们解决的任务，多模态实体链接（MEL），一个新兴的研究领域，文本和视觉信息被用来映射一个模糊的提到一个实体在知识库（KB）。首先，我们提出了一种方法来构建一个完全注释的Twitter数据集MEL，其中实体定义在Twitter知识库。然后，我们提出了一个模型，共同学习的表示提到和实体从他们的文本和视觉环境。我们通过在建议的数据集上对其进行评估来证明所提出的模型的有效性，并强调了在可用时利用视觉信息的重要性。
2021-04-07 cs.CL cs.IR cs.MM
An Entity Linking Agent for Question Answering
The Chinese University of Hong Kong（香港中文大学）；McGill University（麦吉尔大学）；Mila - Quebec AI Institute（魁北克AI研究院）；Huawei Noah’s Ark Lab（华为诺亚实验室）
本文提出了一种基于大语言模型的实体链接代理，用于解决问答任务中短且模糊用户问题的实体链接问题，通过两个实验验证了其有效性。
2026-05-20 cs.CL
Neural Collective Entity Linking
Tsinghua University（清华大学）
实体链接旨在将文本中提到的实体链接到知识库，神经模型最近在这项任务中取得了成功。然而，大多数现有的方法依赖于本地上下文来独立地解决实体，这通常可能会失败，由于本地信息的数据稀疏性。为了解决这个问题，我们提出了一种新的集体实体链接的神经模型，命名为NCEL。NCEL采用图卷积网络来整合局部上下文特征和全局一致性信息，实现实体链接。为了提高计算效率，我们近似地在相邻实体提及的子图上而不是在整个文本中执行图卷积。我们进一步引入了一个注意力机制来提高NCEL对数据噪声的鲁棒性，并在维基百科超链接上训练模型以避免过拟合和域偏差。在实验中，我们评估NCEL五个公开可用的数据集，以验证连接性能以及泛化能力。我们还进行了广泛的分析，时间复杂度，关键模块的影响，和定性的结果，这表明我们提出的方法的有效性和效率。
2018-11-21 cs.CL
CADEL: A Corpus of Administrative Web Documents for Japanese Entity Linking
National Institute of Information and Communications Technology（国立信息通信技术研究所）
本文构建了一个覆盖日本特定实体的标注语料库，用于评估日本实体链接系统，通过标注一致性验证了其可靠性，并初步实验表明其包含大量非平凡案例。
2026-03-31 cs.CL
Capturing Semantic Similarity for Entity Linking with Convolutional Neural Networks
University of California, Berkeley（加州大学伯克利分校）
实体链接的一个关键挑战是有效利用上下文信息来消除在不同上下文中可能指不同实体的歧义。我们提出了一个模型，该模型使用卷积神经网络来捕获提及的上下文与提议的目标实体之间的语义对应关系。这些卷积网络在多个粒度上运行，以利用各种主题信息，它们丰富的参数化使它们能够学习哪些n-gram表征不同的主题。我们将这些网络与稀疏线性模型相结合，以在多实体链接数据集上实现最先进的性能，优于Durrett和Klein（2014）和Nguyen et al.（2014）的现有系统。
2016-04-04 cs.CL
Unified Examination of Entity Linking in Absence of Candidate Sets
School of Computing Science（计算科学学院）；Simon Fraser University（西蒙菲莎大学）
该研究针对现有实体链接系统缺乏统一对比分析的问题，引入新黑盒基准全面评估SOTA方法，通过消融实验明确候选集对系统性能的影响与依赖程度，提出领域内全候选集替代方案并揭示相关权衡关系。
2024-04-17 cs.CL
End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫应用信息技术研究所）；Ruhr University Bochum（波鸿鲁尔大学）
实体链接-将自然语言话语中的实体提及连接到知识图谱（KG）实体是KG上的问答的关键步骤。它通常基于测量实体标签与问题中提到的实体之间的字符串相似性。问题中提到的关系有助于消除具有相同标签的实体之间的歧义。如果在关系链接步骤中已经识别出不正确的关系，则这可能是误导性的。然而，不正确的关系可能仍然在语义上类似于正确实体在KG内形成三元组的关系;这可以通过它们的KG嵌入的相似性来捕获。基于这一思想，我们提出了第一个端到端的神经网络方法，采用KG以及词嵌入来执行简单问题的联合关系和实体分类，同时隐式地执行实体消歧与一种新的门控机制的帮助。实证评估表明，所提出的方法实现了性能相当于国家的最先进的实体链接，同时需要较少的后处理。
2020-02-25 cs.CL
Strong Heuristics for Named Entity Linking
University of Zagreb（萨格勒布大学）；University of Konstanz（康斯坦茨大学）；EPFL（洛桑联邦理工学院）
新闻中的命名实体链接（NEL）是一项具有挑战性的工作，因为经常出现不可见的和新兴的实体，这需要使用无监督或zero-shot方法。然而，这种方法往往带有警告，例如没有为新兴实体集成合适的知识库（如Wikidata），缺乏可扩展性和可解释性。在这里，我们认为人的歧义在Quotebank，一个庞大的语料库的扬声器归因的报价从新闻，并调查的适用性直观，轻量级，可扩展的NEL在网络规模的语料库的词典。我们最好的启发式算法分别消除了Quotebank和AIDA-CoNLL基准测试中94%和63%的歧义。此外，所提出的算法与最先进的无监督和zero-shot方法Eigenthemes和mGENRE相比，分别具有优势，从而可以作为无监督和zero-shot实体链接的强基线。
2022-07-06 cs.CL cs.IR cs.LG
AMELI: Enhancing Multimodal Entity Linking with Fine-Grained Attributes
Virginia Tech（弗吉尼亚理工学院）
该研究提出属性感知多模态实体链接任务，构建了含大规模数据的AMELI基准与知识库，提出融入实体属性的消歧新方法，验证了属性对该任务的关键作用，且首次将属性引入该任务并公开相关资源。
2025-06-10 cs.CL
Community Question Answering Entity Linking via Leveraging Auxiliary Data
Nankai University（南开大学）
社区问答（CQA）平台包含大量的CQA文本（即，问题和对应于问题的答案），其中命名实体无处不在地出现。在本文中，我们定义了一个新的任务CQA实体链接（CQAEL）连接的文本实体提到检测CQA文本与知识库中的相应实体。该任务可以促进许多下游应用，包括专家发现和知识库丰富。传统的实体链接方法主要集中在链接新闻文档中的实体，并且对于CQAEL的这个新任务来说是次优的，因为它们不能有效地利用CQA平台中涉及的各种信息辅助数据来辅助实体链接，诸如并行答案和两种类型的元数据（即，主题标签和用户）。为了解决这个关键问题，我们提出了一种新的基于transformer的框架，有效地利用不同类型的辅助数据提供的知识，以提高链接性能。我们验证了我们的框架的优越性，通过广泛的实验对国家的最先进的实体链接方法的新发布的CQAEL数据集。
2022-05-24 cs.AI cs.CL
Knowledge-Rich Self-Supervision for Biomedical Entity Linking
Microsoft Research（微软研究院）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
实体链接面临着巨大的挑战，如多产的变化和普遍的歧义，特别是在高价值的领域与无数的实体。标准的分类方法受到注释瓶颈的影响，不能有效地处理不可见的实体。Zero-shot实体链接已经成为推广到新实体的一个有前途的方向，但它仍然需要在训练期间提到的示例黄金实体和对所有实体的规范描述，这两者在维基百科之外很少可用。在本文中，我们探讨知识里奇自我监督（$\tt KRISS$）的生物医学实体链接，利用现成的领域知识。在训练中，它使用领域本体在未标记文本上生成自监督提及示例，并使用对比学习训练上下文编码器。对于推理，它将自监督提及作为每个实体的原型进行采样，并通过将测试提及映射到最相似的原型来进行链接。我们的方法可以很容易地将实体描述和黄金提到标签，如果可用的话。我们对涵盖生物医学文献和临床笔记的七个标准数据集进行了广泛的实验。在不使用任何标记信息的情况下，我们的方法产生$\tt KRISSBERT$，这是一个通用的实体链接器，用于400万个UMLS实体，达到了最新的技术水平，在准确性上超过了之前的自监督方法20个绝对点。
2022-05-23 cs.CL
Encoding Knowledge Graph Entity Aliases in Attentive Neural Network for Wikidata Entity Linking
Fraunhofer IAIS, University of Bonn, Germany（德国波恩大学弗劳恩霍夫研究所人工智能研究所（Fraunhofer IAIS））；Cerence GmbH, and Zerotha Research, Germany（德国Cerence GmbH公司，以及Zerotha Research）；TIB, Hannover, Germany（德国汉诺威技术信息中心（TIB））；University of Dayton, USA（美国代顿大学）
协作知识图谱（如Wikidata）过度依赖人群来创作信息。由于群体不受用于分配实体标题的标准协议的约束，因此知识图谱由非标准的、嘈杂的、长的或甚至有时笨拙的标题填充。长的、隐式的、非标准的实体表示是实体链接（EL）方法获得高精确度和召回率的一个挑战。一般来说，基础KG是EL方法的目标实体的来源，然而，它通常包含其他相关信息，例如实体的别名（例如，奥巴马和巴拉克·侯赛因·奥巴马是实体巴拉克·奥巴马的别名。EL模型通常会忽略这些现成的实体属性。在本文中，我们研究的作用，知识图谱上下文上的一个细心的神经网络方法的实体链接维基数据。我们的方法有助于利用足够的背景下，从KG作为背景知识的来源，然后送入神经网络。这种方法证明了解决与实体标题（多字、长、隐式、区分大小写）相关的挑战的优点。我们的实验研究表明，与基线方法相比，改进了约8%，并且显著优于维基数据实体链接的端到端方法。
2020-09-26 cs.CL
USFD at KBP 2011: Entity Linking, Slot Filling and Temporal Bounding
University of Sheffield（谢菲尔德大学）
本文介绍了谢菲尔德大学在2011年TAC KBP实体链接和插槽填充任务的条目。我们选择参与单语实体连接任务、单语槽填充任务和时间槽填充任务。我们着手建立一个框架，用于知识库人口的实验。这个框架被创建，并应用于多个KBP任务。我们证明，我们提出的框架是有效的，适合协作开发的努力，以及在教学环境中的有用。最后，我们提出的结果，虽然非常温和，提供的改进的数量级大于我们2010年的尝试。
2012-03-22 cs.CL
Graph Centrality Measures for Boosting Popularity-Based Entity Linking
Labex Observatoire de la vie littéraire (OBVIL)（文学生活观察实验室）；Laboratoire d’Informatique de Paris 6 (LIP6), Pierre and Marie Curie University（巴黎第六大学计算机实验室）
许多实体链接系统使用基于图的集合方法来消除文档中实体提及的歧义。大多数研究集中在图的构造和候选实体的初始权重上，而对图排序算法的比较研究较少。在这项工作中，我们专注于基于图的排名算法，因此，我们提出了五个中心性措施：度，点击率，PageRank，介数和接近度。该方法首先利用流行度方法为每个文档构建候选实体的消歧图，然后应用中心度度量选择最相关的候选实体，以提高实体流行度方法的结果。我们研究了每个中心性度量对不同领域和数据集性能的有效性。我们的实验表明，一个简单而快速的中心性度量，如度中心性，可以优于其他更耗时的措施。
2017-11-30 cs.CL cs.IR cs.SI
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.（Primer科技公司）
我们提出了一个简单而实用的方法命名实体链接（NEL），基于实体表示的多个嵌入。为了探索这种方法，并审查其对参数的依赖性，我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明，创建知识库（KB）实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的，可以保持小，在10或更少的范围内。我们表明，我们的KB实体的表示可以调整，只使用KB数据，调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型，而不是从公共数据集XSum，CNN /每日邮报更统一的文本调整。我们发现，调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
EARL: Joint Entity and Relation Linking for Question Answering over Knowledge Graphs
University of Bonn（波恩大学）；Fraunhofer IAIS（弗劳恩霍夫智能分析与信息系统研究所）
许多基于知识图谱的问答系统依赖于实体和关系链接组件，以便将自然语言输入连接到底层知识图谱。传统上，实体链接和关系链接被执行为相关的顺序任务或独立的并行任务。在本文中，我们提出了一个框架，称为EARL，它执行实体链接和关系链接作为一个联合任务。EARL实现了两种不同的解决方案的策略，我们提供了本文的比较分析：第一种策略是形式化的联合实体和关系链接任务的一个实例的广义旅行推销员问题（GTSP）。为了在计算上可行，我们采用近似的GTSP求解器。第二种策略使用机器学习以利用知识图谱中节点之间的连接密度。它依赖于三个基本特征和重新排序步骤来预测实体和关系。我们比较了这些策略，并在一个包含5000个问题的数据集上进行了评估。这两种策略显着优于目前国家的最先进的实体和关系链接的方法。
2018-06-25 cs.AI cs.CL
LELA: an LLM-based Entity Linking Approach with Zero-Shot Domain Adaptation
Télécom Paris Institut Polytechnique de Paris（巴黎电信理工学院）
LELA是一种基于大语言模型的实体链接方法，通过零样本领域适应实现高效准确的实体链接，优于传统微调方法。
2026-08-07 cs.CL
Low-Rank Subspaces for Unsupervised Entity Linking
EPFL（洛桑联邦理工学院）；Atinary Technologies（Atinary技术公司）
实体链接是许多应用中的一个重要问题。大多数先前的解决方案是针对带注释的训练数据可用的设置而设计的，然而，在许多领域中并非如此。我们提出了一个轻量级和可扩展的实体链接方法，Eigenthemes，它只依赖于实体名称和所指的知识库的可用性。特征主题利用了这样一个事实，即文档中真正提到的实体（“黄金实体”）往往形成文档中所有候选实体的语义密集子集。从几何上讲，当通过一些给定的嵌入将实体表示为向量时，黄金实体往往位于完整嵌入空间的低秩子空间中。特征主题使用奇异值分解识别该子空间，并根据候选实体与子空间的接近程度对其进行评分。在经验方面，我们引入了多个强基线，这些基线与现有的最先进的技术相比是有利的（有时甚至优于现有的技术）。在来自各种现实世界领域的基准数据集上进行的广泛实验展示了我们方法的有效性。
2021-10-14 cs.CL cs.IR cs.LG
Neural Entity Linking: A Survey of Models Based on Deep Learning
Universität Hamburg（汉堡大学）；Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Lomonosov Moscow State University（莫斯科罗蒙诺索夫国立大学）；AIRI（AIRI（人工智能研究所））；Moscow Institute of Physics and Technology（莫斯科物理技术学院）；FIZ Karlsruhe - Leibniz Institute for Information Infrastructure（FIZ卡尔斯鲁厄——莱布尼茨信息基础设施研究所）；Université Sorbonne Paris Nord（巴黎索邦北大学）；Vrije University of Amsterdam（阿姆斯特丹自由大学）；The Open University（开放大学）；University of Cagliari（卡利亚里大学）
本调查全面描述了自2015年以来由于自然语言处理中的“深度学习革命”而开发的最新神经实体链接（EL）系统。它的目标是系统化神经实体链接系统的设计特征，并将其性能与常见基准测试中的经典方法进行比较。这项工作提炼了一个神经EL系统的通用架构，并讨论了它的组成部分，如候选人生成，提及上下文编码，和实体排名，总结突出的方法，为他们每个人。这个通用架构的各种各样的修改分为几个共同的主题：联合实体提及检测和消歧，模型的全球链接，域独立的技术，包括zero-shot和远程监督方法，和跨语言的方法。由于许多神经模型利用实体和提及/上下文嵌入来表示它们的含义，因此本文还概述了突出的实体嵌入技术。最后，调查涉及实体链接的应用，重点关注最近出现的基于Transformer架构增强深度预训练掩蔽语言模型的用例。
2022-04-07 cs.CL
Investigating Entity Knowledge in BERT with Simple Neural End-To-End Entity Linking
University of Mannheim（曼海姆大学）
端到端实体链接系统的典型架构包括三个步骤：提及检测、候选生成和实体消歧。在这项研究中，我们调查了以下问题：（a）所有这些步骤都可以与上下文文本表示模型，即BERT（Devlin等人，2019年）？(b)预训练的BERT中已经包含了多少实体知识？(c)额外的实体知识是否提高了BERT在下游任务中的性能？为此，我们提出了一种对实体链接设置的极端简化，效果非常好：只需将其转换为整个实体词汇表（在我们的情况下超过70万个类）上的每个标记分类。我们在一个实体链接基准上表明：（i）该模型改进了普通BERT的实体表示，（ii）它优于单独优化任务的实体链接架构，以及（iii）它仅次于当前最先进的技术，即联合提到检测和实体消歧。此外，我们调查的有用性的实体感知令牌表示的文本理解基准GLUE，以及问答基准SQUAD V2和SWAG和EN-DE WMT 14机器翻译基准。令我们惊讶的是，我们发现这些基准测试中的大多数并没有从额外的实体知识中受益，除了一个具有非常小的训练数据的任务，即GLUE中的RTE任务，它提高了2%。
2020-03-11 cs.CL cs.LG
A Lightweight Neural Model for Biomedical Entity Linking
Institut Polytechnique de Paris（巴黎综合理工学院）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）
生物医学实体链接旨在将生物医学提及（如疾病和药物）映射到给定知识库中的标准实体。在这种情况下，具体的挑战是，同一个生物医学实体可以有各种各样的名称，包括同义词，形态变化，以及不同的单词顺序的名称。最近，基于BERT的方法通过允许丰富的词序列表示来推进了最先进的技术。然而，它们往往有数以亿计的参数，需要大量的计算资源，这限制了它们在资源有限的场景中的应用。在这里，我们提出了一个轻量级的生物医学实体连接的神经方法，它只需要一个BERT模型的一小部分参数和更少的计算资源。我们的方法使用一个简单的对齐层与注意力机制，以捕捉提及和实体名称之间的变化。然而，我们表明，我们的模型是有竞争力的标准评估基准与以前的工作。
2021-05-21 cs.CL
Entity Linking and Discovery via Arborescence-based Supervised Clustering
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
以前的工作已经显示出有希望的结果，在执行实体链接，不仅测量提到和实体之间的亲和力，但也提到。在本文中，我们提出了新的训练和推理程序，通过构建最小树状结构（即，有向生成树）在跨文档的提及和实体上，以便做出链接决定。我们还表明，这种方法优雅地扩展到实体发现，使集群的提及，没有一个相关的实体在知识库中。我们评估了我们的方法在Zero-Shot Entity Linking数据集和MedMentions（最大的公开生物医学数据集）上的结果，与相同参数化模型相比，实体链接和发现的性能都有显着提高。我们进一步显示了显着的效率提高，只有一个小的损失，在以前的工作，使用更昂贵的计算模型的准确性。
2022-05-10 cs.CL cs.LG
CLIMATELI: Evaluating Entity Linking on Climate Change Data
LMU Munich（慕尼黑大学）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本文提出首个气候变化实体链接数据集CLIMATELI，包含3087个链接到维基百科的实体片段，并评估现有实体链接系统在该数据上的表现，发现模型性能明显落后于人类，同时提出CC实体自动过滤方法。
2024-06-27 cs.CL
