Entity Linking with people entity on Wikipedia
Emory University(埃默里大学)
本文介绍了一种新的模型,使用命名实体识别,共指消解,和实体链接技术,在维基百科的人页面上的人实体链接到相应的维基百科页面,如果适用的任务。我们的任务不同于一般和传统的实体链接,因为我们是在一个有限的领域,即人的实体,我们包括代词作为实体,而在过去,代词从来没有被认为是实体链接的实体。我们已经建立了2个模型,都明显优于我们的基线模型。我们的项目的目的是建立一个模型,可以用来生成更干净的数据,为未来的实体链接任务。我们的贡献包括一个干净的数据集,包括50个维基百科人物页面,和2个实体链接模型,专门为这个领域调整。
2017-05-02 cs.CL
Zero-Shot Entity Linking by Reading Entity Descriptions
University of Michigan(密歇根大学);Google Research(谷歌研究院)
我们提出了zero-shot实体链接任务,其中提到必须链接到看不见的实体,没有在域标记的数据。其目标是实现到高度专业化的域的健壮传输,因此不需要假设元数据或别名表。在这种情况下,实体只能通过文本描述来识别,模型必须严格依赖于语言理解来解析新的实体。首先,我们证明了在大型未标记数据上预训练的强阅读理解模型可以用于推广到看不见的实体。其次,我们提出了一种简单有效的自适应预训练策略,我们称之为域自适应预训练(DAP),以解决与在新域中连接未知实体相关的域转移问题。我们在为此任务构建的新数据集上进行了实验,并表明DAP在强预训练基线(包括BERT)上有所改进。数据和代码可在https://github.com/lajanugen/zeshel上获得。
2019-06-18 cs.CL cs.LG
Clustering-based Inference for Biomedical Entity Linking
College of Information and Computer Sciences University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Chan Zuckerberg Initiative(陈-扎克伯格倡议)
由于生物医学知识库中存在大量的实体,只有一小部分实体具有相应的标记训练数据。这就需要实体链接模型,这些模型能够使用学习到的实体表示来链接提到的不可见实体。以前的方法独立地链接每个提及,忽略了实体提及之间的文档内和跨文档的关系。这些关系对于生物医学文本中的链接提及非常有用,其中链接决定通常很困难,因为提及具有通用或高度专业化的形式。在本文中,我们介绍了一个模型,在该模型中,不仅可以通过链接到一个知识库实体,但也通过分组多个提到一起,通过聚类和共同作出链接预测的链接决策。在最大的公开生物医学数据集上的实验中,我们将实体链接的最佳独立预测提高了3.0个点的准确性,并且我们基于聚类的推理模型进一步提高了实体链接2.3个点。
2021-04-08 cs.CL
TempEL: Linking Dynamically Evolving and Newly Emerging Entities
Ghent University – imec(根特大学-imec微电子研究中心);University of Copenhagen(哥本哈根大学)
在我们不断发展的世界中,实体随着时间的推移而变化,新的,以前不存在或未知的实体出现。我们研究这种进化的情况下如何影响一个完善的实体链接(EL)任务的性能。在这项研究中,我们引入了TempEL,这是一个实体链接数据集,由2013年至2022年的时间分层英文维基百科快照组成,从中我们收集了实体的锚点提及和这些目标实体的描述。通过捕获这样的时间方面,我们新引入的TempEL资源与当前现有的实体链接数据集形成对比,实体链接数据集由链接到目标知识库的单个静态版本的固定提及组成(例如,Wikipedia 2010 for CoNLL-AIDA)。事实上,对于我们收集的每个时间快照,TempEL包含到连续实体的链接,即,在所有的年份中发生,以及在某个时候首次出现的全新实体。因此,我们能够量化当前最先进的EL模型的性能,用于:(i)在其知识库描述以及其提及的上下文中随时间变化的实体,以及(ii)先前不存在的新创建的实体(例如,在EL模型被训练的时候)。我们的实验结果表明,在时间性能下降方面,(i)连续实体遭受高达3.1%的EL准确性下降,而(ii)对于新实体,这种准确性下降高达17.9%。这突出了所引入的TempEL数据集的挑战,并在时间演化实体消歧领域开辟了新的研究前景。
2023-02-05 cs.CL
BLINK with Elasticsearch for Efficient Entity Linking in Business Conversations
Dialpad Canada Inc.(Dialpad加拿大公司)
实体链接系统将文本中实体的文本提及与知识库中相应的条目对齐。然而,在生产环境中部署神经实体链接系统以进行有效的实时推理是一项具有挑战性的任务。在这项工作中,我们提出了一个神经实体链接系统,将商业对话中的产品和组织类型实体连接到相应的维基百科和维基数据条目。所提出的系统利用Elasticsearch来确保部署在资源有限的云机器中时的推理效率,并在推理速度和内存消耗方面获得显着改善,同时保持高准确性。
2022-05-09 cs.CL cs.IR cs.LG
Distant Supervision for Entity Linking
Tsinghua University(清华大学)
实体链接是信息抽取知识库填充过程中必不可少的操作。它研究了在知识库中将文本实体提及与其对应的消歧条目对齐。在本文中,我们提出了一个新的范例命名为远程监督实体链接(DSEL),在这个意义上,消除歧义的实体,属于一个巨大的知识库(Freebase)自动对齐到相应的描述性网页(维基页面)。通过这种方式,可以在没有手动注释的情况下生成大规模的弱标记数据,并将其馈送到分类器以链接更多新发现的实体。与传统的基于知识库的范式相比,DSEL通过充分利用Freebase和Wikipedia各自的优势而获益更多。具体而言,所提出的范例有利于弥合歧义标签(自由基)的实体和他们的文本描述(维基百科)的Web规模的实体。在140,000个项目和60,000个特征的数据集上进行的实验实现了0.517的基线F1度量。此外,我们分析了特征性能,并将F1-measure提高到0.545。
2015-08-05 cs.CL cs.IR
EntQA: Entity Linking as Question Answering
Rutgers University(罗格斯大学)
实体链接的传统方法是首先在给定文档中找到提及,然后在知识库中推断它们的底层实体。这种方法的一个众所周知的局限性是,它需要在不知道它们的实体的情况下找到提及,这是不自然和困难的。我们提出了一个新的模型,不受此限制称为EntQA,它代表实体链接作为问答。EntQA首先使用快速检索模块提出候选实体,然后使用强大的阅读器模块仔细检查文档以找到每个候选实体的提及。我们的方法结合了实体链接与开放领域问答的进展,并利用预训练模型进行密集实体检索和阅读理解。与以前的作品不同,我们不依赖于候选人词典或大规模的弱监督。EntQA在GERBIL基准测试平台上取得了优异的成绩。
2022-03-07 cs.CL cs.LG
Learning to Select the Next Reasonable Mention for Entity Linking
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);National Laboratory of Pattern Recognition, Institute of Automation, CAS(中国科学院自动化研究所模式识别国家重点实验室);Beijing Fanyu Technology Co., Ltd(北京梵语科技有限公司)
实体链接的目的是在文档中提到的实体与知识图谱中对应的实体之间建立链接。以往的工作表明,实体联系的全球一致性是有效的。然而,大多数现有的基于顺序决策的全局链接方法都集中在如何利用先前链接的实体来增强后续决策。在这些方法中,提到的顺序是固定的,使得模型无法根据先前链接的结果来调整后续的链接目标,这将导致先前的信息被不合理地利用。为了解决这个问题,我们提出了一种新的模型,称为DyMen,通过强化学习,根据先前链接的实体动态调整后续的链接目标,使模型能够选择一个链接目标,可以充分利用先前链接的信息。我们通过滑动窗口对提及进行采样,以减少强化学习的动作采样空间,并保持提及的语义一致性。在多个基准数据集上的实验表明了该模型的有效性。
2021-12-08 cs.CL
ParsEL 1.0: Unsupervised Entity Linking in Persian Social Media Texts
Iran University of Science and Technology(伊朗科技大学)
近年来,社交媒体数据呈指数级增长,可以列举为世界上最大的数据存储库之一。这些社交媒体数据的很大一部分是自然语言文本。然而,自然语言是高度模糊的,由于暴露于频繁出现的实体,其中具有多义词或短语。实体链接是将文本中提到的实体链接到知识库中相应实体的任务。最近,波斯语知识图谱FarsBase被引入,包含近50万个实体。在本文中,我们提出了一个无监督的波斯语实体链接系统,第一个实体链接系统专门针对波斯语,它利用上下文相关和上下文无关的功能。为此,我们还发布了第一个实体链接波斯语语料库,其中包含67,595个单词,这些单词是从Telegram Messenger中一些流行频道的社交媒体文本中抓取的。所提出的方法的输出是86.94%的波斯语,这是与类似的国家的最先进的方法在英语语言的f-分数。
2020-04-22 cs.CL cs.IR cs.LG
Linking Entities to Unseen Knowledge Bases with Arbitrary Schemas
Amazon AI(亚马逊人工智能(Amazon AI))
在实体链接中,原始文本中提到的命名实体将根据知识库(KB)进行消歧。这项工作的重点是链接到看不见的知识库,没有训练数据,其模式是未知的训练期间。我们的方法依赖于将具有多个属性值对的任意KB中的实体灵活转换为平面字符串的方法,我们将其与最先进的模型结合使用以进行零次(zero-shot)链接。为了提高我们的模型的泛化能力,我们使用了两种正则化方案,基于实体属性的洗牌和看不见的属性的处理。在英语数据集上进行的实验表明,我们的模型在CoNLL数据集上进行训练,并在TAC-KBP 2010数据集上进行测试,结果表明,我们的模型比基线模型的准确度高出12个点以上。与之前的工作不同,我们的方法还允许无缝组合多个训练数据集。我们通过添加一个完全不同的数据集(Wikia)以及增加TAC-KBP 2010训练集的训练数据来测试这种能力。我们的模型在各方面都表现良好。
2020-10-21 cs.CL
Personal Entity, Concept, and Named Entity Linking in Conversations
Radboud University(拉德堡德大学)
针对对话中个人实体、概念和命名实体的链接需求,本文构建 1327 条话语标注数据集,并提出结合共指消解的 CREL 工具包,性能超过现有基线。
2023-09-27 cs.CL cs.IR
WikiGUM: Exhaustive Entity Linking for Wikification in 12 Genres
Georgetown University(乔治城大学)
实体链接以前的工作集中在针对非嵌套的正确命名实体提及的资源上,通常在维基百科的数据中,即维基化。在本文中,我们提出并评估WikiGUM,一个完全维基化的数据集,涵盖所有提及的命名实体,包括其非命名和代词提及,以及嵌套在其他提及。该数据集涵盖了广泛的12种书面和口语类型,其中大部分尚未纳入实体链接工作,导致我们评估中预训练的SOTA系统表现不佳。对于相同数据的各种其他注释的可用性也使得能够进一步研究上下文中的实体。
2021-09-15 cs.CL
Entity Linking for Queries by Searching Wikipedia Sentences
State Key Laboratory of Software Development Environment, Beihang University(北京航空航天大学软件开发环境国家重点实验室);Microsoft Research Asia(微软亚洲研究院);Shandong University(山东大学)
我们提出了一个简单而有效的方法来连接查询中的实体。其核心思想是从维基百科文章中搜索与查询相似的句子,并直接使用相似句子中的人工标注实体作为查询的候选实体。然后,我们采用了一组丰富的功能,如链接概率,上下文匹配,词嵌入,以及候选实体之间的相关性,以及它们的相关实体,在一个基于回归的框架下对候选人进行排名。我们的方法的优点在于两个方面,这有助于排名过程和最终的链接结果。首先,它可以通过过滤掉与查询中的词不相关的实体来大大减少候选实体的数量。其次,我们可以获得查询敏感的先验概率,除了静态链接概率来自所有维基百科的文章。我们在两个基准数据集上进行了实体链接查询的实验,即ERD14数据集和GERDAQ数据集。实验结果表明,我们的方法优于国家的最先进的系统,并在ERD 14数据集和GERDAQ数据集上的F1收益率分别为75.0%和56.9%。
2017-05-18 cs.CL
NASTyLinker: NIL-Aware Scalable Transformer-based Entity Linker
University of Mannheim(曼海姆大学)
实体链接(EL)是检测文本中实体的提及并将其消歧到参考知识库的任务。最流行的EL方法假设参考知识库是完整的。然而,在实践中,有必要处理链接到知识库中不包含的实体(NIL实体)的情况。最近的工作表明,而不是只关注提及和实体之间的亲和力,考虑提及之间的亲和力可以用来表示NIL实体,通过产生集群的提及。同时,提及间关联可以帮助显著提高已知实体的链接性能。与NASTyLinker,我们引入了EL的方法,是知道的NIL实体,并产生相应的提到集群,同时保持高的链接性能为已知的实体。该方法基于来自Transformers的密集表示对提及和实体进行聚类,并通过计算传递提及-实体亲和度来解决冲突(如果多个实体被分配到聚类)。我们展示了NASTYLinker在NILK上的有效性和可扩展性,NILK是一个明确构建的数据集,用于评估EL相对于NIL实体。此外,我们将所提出的方法应用于实际EL任务,即通过链接维基百科列表中的实体来实现知识图谱人口,并对结果进行分析。
2023-03-13 cs.AI cs.CL cs.IR
Towards Consistent Document-level Entity Linking: Joint Models for Entity Linking and Coreference Resolution
Ghent University(根特大学);imec(比利时微电子研究中心)
我们考虑的任务,文档级的实体链接(EL),这是很重要的,以作出一致的决定,实体提到了整个文件联合。我们的目标是利用明确的“连接”之间的文件本身的提及:我们建议加入EL任务的共指消解(coref)。这是对利用(i)隐式文档信息(例如,实体提及之间的潜在关系或通用语言模型)或(ii)候选链接之间的连接(例如,从外部知识库推断)。具体来说,我们集群提到通过共指链接,并强制执行一个单一的EL所有集群提到在一起。后一种约束具有通过加入EL候选列表以用于因此聚类的提及而增加覆盖的附加益处。我们将coref+EL问题表示为有向树上的结构化预测任务,并使用全局规范化模型来解决它。在两个数据集上的实验结果显示,与单独的对应任务相比,coref和EL任务的F1得分都提高了+5%。对于困难情况的子集,在候选实体列表中缺少正确EL的个体提及,我们获得了+50%的准确性增加。
2022-07-02 cs.CL
JEL: Applying End-to-End Neural Entity Linking in JPMorgan Chase
JPMorgan Chase(摩根大通)
本文提出端到端神经实体链接模型JEL,利用最小上下文和边际损失生成实体嵌入,结合宽深模型匹配字符与语义,在金融新闻公司名链接中达到先进性能,并已部署于摩根大通系统。
2024-11-05 cs.AI cs.CL cs.IR
Event Linking: Grounding Event Mentions to Wikipedia
University of Pennsylvania(宾夕法尼亚大学);Penn State University(宾夕法尼亚州立大学);Google Research(谷歌研究院)
理解一篇文章需要了解它的组成事件。然而,提及事件的上下文往往缺乏该事件的细节。一个问题出现了:除了文章中的当地背景所提供的内容外,读者如何获得有关这一特定事件的更多知识?这项工作定义了事件链接,一个新的自然语言理解任务的事件级别。事件链接试图将文章中出现的事件链接到最合适的维基百科页面。本页预计将提供丰富的知识,什么事件提到指的是。为了使这一新方向的研究标准化,我们从四个方面做出贡献。首先,这是社区中第一个正式定义事件链接任务的工作。其次,我们为这个新任务收集数据集。具体来说,我们自动从维基百科收集训练集,然后创建两个评估集:一个来自维基百科领域,报告域内性能,第二个来自真实世界的新闻领域,评估域外性能。第三,我们重新训练和评估两个国家的最先进的(SOTA)实体链接模型,显示事件链接的挑战,我们提出了一个事件特定的链接系统EVELINK设置一个有竞争力的结果,为新的任务。第四,我们进行了详细而有见地的分析,以帮助理解当前模型的任务和局限性。总的来说,正如我们的分析所示,事件链接是一项相当具有挑战性和必要的任务,需要社区付出更多的努力。数据和代码可在这里:https://github.com/CogComp/event-linking.
2023-02-15 cs.CL
Joint Entity Linking with Deep Reinforcement Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
实体链接是将提及与给定知识库中的相应实体对齐的任务。以往的研究强调,实体联系系统必须体现全球一致性。然而,以往的全球模型有两个共同的弱点。首先,他们中的大多数计算所有候选实体之间的成对得分,并选择最相关的实体组作为最终结果。在这个过程中,涉及到错误实体之间的一致性以及正确实体之间的一致性,这可能会引入噪声数据,增加模型的复杂性。第二,先前消歧的实体的线索,这可能有助于后续提及的消歧,通常被先前的模型忽略。为了解决这些问题,我们将全局连接转换为序列决策问题,并提出了一个强化学习模型,从全局的角度进行决策。我们的模型充分利用了先前提到的实体,并探讨了当前选择对后续决策的长期影响。我们在不同类型的数据集上进行了实验,结果表明,我们的模型优于最先进的系统,具有更好的泛化性能。
2019-02-01 cs.CL
Boosting Entity Linking Performance by Leveraging Unlabeled Documents
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
现代实体链接系统依赖于专门为任务注释的大量文档集合(例如,AIDA CONLL)。相比之下,我们提出了一种只利用自然发生的信息的方法:未标记的文档和维基百科。我们的方法包括两个阶段。首先,我们为未标记文档中的每个提及构建候选实体的高召回列表。其次,我们使用候选列表作为弱监督来约束我们的文档级实体链接模型。该模型将实体视为潜在变量,并且在对未标记文本的集合进行估计时,学习选择依赖于每次提及的本地上下文以及与文档中其他实体的一致性的实体。由此产生的方法可以在标准测试集上与完全监督的最先进系统相媲美。它还接近他们的表现在非常具有挑战性的设置:当测试集上的数据采样用于估计监督系统进行测试。通过与仅使用维基百科训练我们的模型进行比较,我们证明了对未标记文档进行建模是有益的。
2019-06-04 cs.AI cs.CL cs.LG
Learn to Not Link: Exploring NIL Prediction in Entity Linking
Tsinghua University(清华大学);Institute for Artificial Intelligence, Tsinghua University(清华大学人工智能研究院);Peking University(北京大学)
本文针对实体链接中NIL预测问题,提出数据集NEL,将NIL提及分为缺失实体和非实体短语,并通过实验证明两类NIL训练数据对预测准确率有显著影响。
2023-05-25 cs.CL
Neighborhood-Aware Dual Biomedical Entity Linking
University of Michigan(密歇根大学)
针对生物医学实体链接的挑战,提出三阶段框架PILOT,在五个基准上取得最优性能且推理高效。
2026-08-06 cs.CL cs.IR cs.LG
Towards Deep Semantic Analysis Of Hashtags
International Institute of Information Technology Hyderabad(海得拉巴国际信息技术研究所)
主题标签是在各种社交网络和微博平台上使用的语义句法结构,使用户能够开始特定主题的讨论或将帖子分类到所需的类别中。因此,将标签中存在的实体分段和链接可以帮助更好地理解和提取社交媒体上共享的信息。然而,由于在主题标签中缺少空格分隔符(例如#nsavssnowden),将主题标签分割成组成实体(在这种情况下为“NSA”和“Edward Snowden”)不是一项简单的任务。大多数当前最先进的社交媒体分析系统,如情感分析和实体链接,往往要么忽略主题标签,要么将其视为单个单词。在本文中,我们提出了一种上下文感知的方法来分割和链接实体的主题标签的知识库(KB)的条目,根据上下文内的推文。我们的方法分割和链接的实体在标签,标签语义和推文之间的一致性最大化。据我们所知,没有现有的研究解决了在主题标签中链接实体以提取语义信息的问题。我们在两个不同的数据集上评估我们的方法,并通过在标签中分割和链接实体提供的额外语义信息来证明我们的技术在提高推文中的整体实体链接方面的有效性。
2015-01-13 cs.CL cs.IR
TPLinker: Single-stage Joint Extraction of Entities and Relations Through Token Pair Linking
University of Chinese Academy of Sciences(中国科学院大学);Chinese Academy of Sciences(中国科学院);Baidu, Inc.(百度公司)
近年来,从非结构化文本中提取实体和关系引起了越来越多的关注,但由于识别与共享实体的重叠关系的固有困难,因此仍然具有挑战性。先前的工作表明,联合学习可以导致显着的性能增益。然而,它们通常涉及连续的相互关联的步骤,并遭受暴露偏差的问题。在训练时,它们使用地面实况条件进行预测,而在推理时,它必须从头开始进行提取。这种差异导致误差累积。为了缓解这个问题,我们在本文中提出了一个一阶段的联合提取模型,即TPLinker,它能够发现重叠的关系共享一个或两个实体,同时免疫暴露偏见。TPLinker将联合抽取描述为一个标记对连接问题,并引入了一种新的握手标记方案,该方案在每种关系类型下对齐实体对的边界标记。实验结果表明,TPLinker在重叠和多重关系抽取方面有明显的优势,在两个公共数据集上达到了最先进的性能。
2020-10-26 cs.CL
ISA-bEL: Intelligent Search Algorithm based on Entity Linking
Vodafone(沃达丰)
如今,人们与计算机交互的方式已经发生了变化。基于文本或语音的界面在不同行业中得到广泛应用。处理用户输入的最常用的方法是基于意图或检索算法的方法。在这些解决方案中,用户的重要信息可能在该过程中丢失。对于所提出的自然语言处理流水线,在实体是用户的目的所在的假设下,实体将扮演主要角色。提供了上下文的实体将被投射到由知识图谱支持的特定领域,从而产生被称为链接实体的实体。然后,这些链接的实体用作在我们的知识图谱内搜索顶级聚合概念的关键字。
2022-05-09 cs.CL
A Practical Entity Linking System for Tables in Scientific Literature
GE Research(GE研究中心);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文提出一个通用实体链接系统,用于将科学文献表格中的实体链接到 Wikidata,并针对 COVID-19 文献进行适配,利用表格结构特征提升性能,且通过离线实例增强实用性。
2023-06-12 cs.AI cs.CL cs.IR
DynamicER: Resolving Emerging Mentions to Dynamic Entities for RAG
Seoul National University(首尔大学)
针对RAG中新兴语言表达阻碍检索并导致幻觉的问题,提出DynamicER基准及具有持续适应能力的时间分段聚类方法,有效解析动态实体提及并提升RAG模型的QA性能。
2024-10-15 cs.AI cs.CL
Entity Linking via Dual and Cross-Attention Encoders
University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
实体链接有两个主要的开放研究领域:1)生成候选实体而不使用别名表,2)为提及和实体生成更多的上下文表示。最近,对于前者已经提出了作为双编码器实体检索系统的解决方案(Gillick等人,2019),它学习同一空间中的提及和实体表示,并通过选择与该空间中的提及最近的实体来执行链接。在这项工作中,我们只使用这个检索系统生成候选实体。然后,我们通过使用交叉注意编码器对目标提及和每个候选实体进行重新排序。而双编码器方法强制所有信息包含在用于表示提及和实体的小的、固定的向量维度集合中,交叉注意模型允许使用来自每个<提及,上下文,候选实体>元组的全部的详细信息(读:特征)。我们实验的reranker中使用的功能,包括不同的方式,将文档级的上下文。我们在TACKBP-2010数据集上获得了最先进的结果,准确率为92.05%。此外,我们还展示了在更大的CoNLL-2003数据集上训练并在TACKBP-2010上评估时,重新评分模型如何很好地泛化。
2020-04-07 cs.CL
Toward Socially-Infused Information Extraction: Embedding Authors, Mentions, and Entities
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院)
实体链接是识别文本中提到的实体,并将它们链接到知识库中的条目的任务。这一任务在微博中尤其困难,因为几乎没有额外的文本来提供消除歧义的上下文;相反,作者依赖于与读者共享知识的隐含共同点。在本文中,我们试图通过利用微博中的社会网络结构来捕捉一些这种隐含的背景。我们建立在同质性理论的基础上,这意味着有社会联系的个人分享利益,因此可能会提到相同种类的实体。我们通过在一个连续的向量空间中对作者、提及和实体进行编码来实现这一想法,该向量空间被构造成使得社交联系的作者具有相似的向量表示。这些向量被合并到神经结构化预测模型中,该模型捕获实体链接任务中固有的结构约束。总之,与之前的最新技术相比,这些设计决策在基准数据集上产生了1%-5%的F1改进。
2016-09-26 cs.CL
Musical Heritage Historical Entity Linking
University of Bologna(博洛尼亚大学);University of Pisa(比萨大学);Ca’ Foscari University of Venice(威尼斯福斯卡里大学)
本文构建音乐历史文本实体链接基准MHERCL,提出无监督EL模型及利用知识图谱扩展监督链接器的方法,以更好识别NIL实体。
2025-02-13 cs.CL
Namesakes: Ambiguously Named Entities from Wikipedia and News
Primer Technologies Inc.(Primer科技公司)
我们提出了一个数据集,从英语维基百科和新闻文章中获得的模糊命名的实体。它由4148个独特实体及其同名的58862次提及组成:1000次来自新闻,28843次来自维基百科关于该实体的文章,29019次维基百科反向链接提及。标记应该有助于为命名实体链接(NEL)任务建立具有挑战性的基准。
2021-11-22 cs.CL
Conversational Entity Linking: Problem Definition and Datasets
Radboud University(拉德堡德大学);University of Stavanger(斯塔万格大学)
会话系统中的用户话语的机器理解对于实现与用户的有吸引力和有意义的会话至关重要。实体链接是文本理解的手段之一,在信息检索的各种下游任务中被证明是有效的。在本文中,我们研究会话系统的实体链接。为了更好地理解EL在对话环境中的含义,我们分析了现有对话数据集中的大量对话,并使用众包注释了对概念,命名实体和个人实体的引用。基于注释对话,我们确定了会话实体连接的主要特征。此外,我们报告了传统EL系统在我们的会话实体链接数据集ConEL上的性能,并对这些方法进行了扩展,以更好地适应会话设置。与本文一起发布的资源包括注释数据集,众包设置的详细描述,以及各种EL系统产生的注释。这些新资源允许调查实体在对话中的角色与文档或孤立的短文本语句(如查询和推文)中的角色有何不同,并补充现有的对话数据集。
2021-05-11 cs.CL cs.IR
Strong Heuristics for Named Entity Linking
University of Zagreb(萨格勒布大学);University of Konstanz(康斯坦茨大学);EPFL(洛桑联邦理工学院)
新闻中的命名实体链接(NEL)是一项具有挑战性的工作,因为经常出现不可见的和新兴的实体,这需要使用无监督或zero-shot方法。然而,这种方法往往带有警告,例如没有为新兴实体集成合适的知识库(如Wikidata),缺乏可扩展性和可解释性。在这里,我们认为人的歧义在Quotebank,一个庞大的语料库的扬声器归因的报价从新闻,并调查的适用性直观,轻量级,可扩展的NEL在网络规模的语料库的词典。我们最好的启发式算法分别消除了Quotebank和AIDA-CoNLL基准测试中94%和63%的歧义。此外,所提出的算法与最先进的无监督和zero-shot方法Eigenthemes和mGENRE相比,分别具有优势,从而可以作为无监督和zero-shot实体链接的强基线。
2022-07-06 cs.CL cs.IR cs.LG
Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
神经实体链接模型非常强大,但存在过度拟合其训练领域的风险。对于这个问题,一个域的特征不仅在于文本的类型,甚至还在于实体的特定分布等特定因素,因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题,建立强大的实体链接模型,有效地推广,不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体,而是对细粒度的实体属性进行建模,这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型(数万个),并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时,我们使用此类型模型对提及进行分类,并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统(Hoffart等人,2011),并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法(Eshel等人,2017),其中所有提及实体对在测试时间期间是不可见的。结果表明,我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
Knowledge-Rich Self-Supervision for Biomedical Entity Linking
Microsoft Research(微软研究院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
实体链接面临着巨大的挑战,如多产的变化和普遍的歧义,特别是在高价值的领域与无数的实体。标准的分类方法受到注释瓶颈的影响,不能有效地处理不可见的实体。Zero-shot实体链接已经成为推广到新实体的一个有前途的方向,但它仍然需要在训练期间提到的示例黄金实体和对所有实体的规范描述,这两者在维基百科之外很少可用。在本文中,我们探讨知识里奇自我监督($\tt KRISS$)的生物医学实体链接,利用现成的领域知识。在训练中,它使用领域本体在未标记文本上生成自监督提及示例,并使用对比学习训练上下文编码器。对于推理,它将自监督提及作为每个实体的原型进行采样,并通过将测试提及映射到最相似的原型来进行链接。我们的方法可以很容易地将实体描述和黄金提到标签,如果可用的话。我们对涵盖生物医学文献和临床笔记的七个标准数据集进行了广泛的实验。在不使用任何标记信息的情况下,我们的方法产生$\tt KRISSBERT$,这是一个通用的实体链接器,用于400万个UMLS实体,达到了最新的技术水平,在准确性上超过了之前的自监督方法20个绝对点。
2022-05-23 cs.CL
DAMO-NLP at NLPCC-2022 Task 2: Knowledge Enhanced Robust NER for Speech Entity Linking
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Zhejiang University(浙江大学);University of Chinese Academy of Sciences(中国科学院大学)
语音实体链接旨在识别和消除口语中命名实体的歧义。传统的方法严重地受到不受约束的语音风格和由ASR系统生成的噪声转录的影响。在本文中,我们提出了一种新的方法,称为知识增强命名实体识别(KENER),它的重点是提高鲁棒性,通过无痛结合适当的知识,在实体识别阶段,从而提高实体链接的整体性能。KENER首先为一个没有提及的句子检索候选实体,然后利用实体描述作为额外的信息来帮助识别提及。由稠密检索模块检索的候选实体在输入较短或有噪声时特别有用。此外,我们研究了各种数据采样策略和设计有效的损失函数,以提高检索实体的质量在识别和消歧阶段。最后,一个带有过滤模块的链接被用作最终的保护措施,使其有可能过滤掉错误识别的提及。我们的系统在NLPCC-2022共享任务2的轨道1和轨道2中获得第一名。
2022-09-29 cs.AI cs.CL cs.LG
Joint Embedding in Named Entity Linking on Sentence Level
The Chinese University of Hong Kong(香港中文大学);Hong Kong Baptist University(香港浸会大学)
命名实体链接是指将文档中的模糊提及映射到知识库中的实体。命名实体链接具有挑战性,因为在文档中有多个候选实体可供提及。当提及在文档中出现多次时,很难链接提及,因为提及出现的上下文存在冲突。此外,这是困难的,因为给定的训练数据集很小,这是由于手动完成将提及链接到其映射实体的原因。在文献中,有许多报道的研究,其中最近的嵌入方法从文档级的训练数据集学习实体的向量。为了解决这些问题,我们专注于如何在句子级别上链接实体的提及,这减少了在文档中相同提及的不同外观所引入的噪声,代价是要使用的信息不足。我们提出了一种新的统一嵌入方法,通过最大化从知识图谱学习的关系。我们证实了我们的方法在我们的实验研究的有效性。
2020-02-12 cs.AI cs.CL
Biomedical Entity Linking with Triple-aware Pre-Training
HITEC e.V.(HITEC协会);Universität Hamburg(汉堡大学)
针对通用大语言模型在生物医学实体链接中存在的实体稀疏、缺乏实体间语义关联等问题,提出利用知识图谱合成语料预训练生成式大模型的新框架,但实验未证实加入同义词、描述或关系信息可提升性能。
2023-08-28 cs.AI cs.CL
Multimodal Entity Linking for Tweets
Université Paris-Saclay(巴黎-萨克雷大学);CEA(法国原子能委员会);CNRS(法国国家科学研究中心)
在许多信息抽取应用中,实体链接(EL)已经成为一项重要的任务,它允许从知识库中利用有关命名实体的信息。在本文中,我们解决的任务,多模态实体链接(MEL),一个新兴的研究领域,文本和视觉信息被用来映射一个模糊的提到一个实体在知识库(KB)。首先,我们提出了一种方法来构建一个完全注释的Twitter数据集MEL,其中实体定义在Twitter知识库。然后,我们提出了一个模型,共同学习的表示提到和实体从他们的文本和视觉环境。我们通过在建议的数据集上对其进行评估来证明所提出的模型的有效性,并强调了在可用时利用视觉信息的重要性。
2021-04-07 cs.CL cs.IR cs.MM
Fast and Effective Biomedical Entity Linking Using a Dual Encoder
Rutgers University–New Brunswick(罗格斯大学新伯朗士威校区);Hasso Plattner Institute(哈索·普拉特纳研究所);University of Potsdam(波茨坦大学)
生物医学实体链接是识别文本文档中提到的生物医学概念并将其映射到目标词库中的规范实体的任务。使用基于BERT的模型的实体链接的最新进展遵循检索和重新排序范例,其中候选实体首先使用检索器模型进行选择,然后检索到的候选实体由重新排序器模型进行排序。虽然这种范例产生了最先进的结果,但它们在训练和测试时都很慢,因为它们一次只能处理一个提及。为了缓解这些问题,我们提出了一种基于BERT的双编码器模型,可以一次性解决文档中的多个提及。我们表明,我们提出的模型比现有的基于BERT的模型快数倍,同时在生物医学实体链接的准确性方面具有竞争力。此外,我们修改了我们的双编码器模型的端到端的生物医学实体链接,执行提及跨度检测和实体消歧,并优于最近提出的两个模型。
2021-03-08 cs.CL
S2abEL: A Dataset for Entity Linking from Scientific Tables
University of Michigan(密歇根大学);Allen Institute for AI(艾伦人工智能研究所)
该研究推出首个面向科学表格的实体链接数据集S2abEL,含732张表格的8429个单元格的人工标注,提出适配知识库外提及的神经基线方法,性能优于通用SOTA方法,同时指出仍有提升空间。
2023-04-30 cs.CL cs.IR cs.LG
Community Question Answering Entity Linking via Leveraging Auxiliary Data
Nankai University(南开大学)
社区问答(CQA)平台包含大量的CQA文本(即,问题和对应于问题的答案),其中命名实体无处不在地出现。在本文中,我们定义了一个新的任务CQA实体链接(CQAEL)连接的文本实体提到检测CQA文本与知识库中的相应实体。该任务可以促进许多下游应用,包括专家发现和知识库丰富。传统的实体链接方法主要集中在链接新闻文档中的实体,并且对于CQAEL的这个新任务来说是次优的,因为它们不能有效地利用CQA平台中涉及的各种信息辅助数据来辅助实体链接,诸如并行答案和两种类型的元数据(即,主题标签和用户)。为了解决这个关键问题,我们提出了一种新的基于transformer的框架,有效地利用不同类型的辅助数据提供的知识,以提高链接性能。我们验证了我们的框架的优越性,通过广泛的实验对国家的最先进的实体链接方法的新发布的CQAEL数据集。
2022-05-24 cs.AI cs.CL
Find the Funding: Entity Linking with Incomplete Funding Knowledge Bases
Radboud University(拉德堡德大学);Elsevier(爱思唯尔)
从学术文章中自动提取资金信息为行业和研究社区增加了重要价值,例如跟踪资助组织的研究成果,根据收到的资金对研究人员和大学进行分析,以及支持开放获取政策。识别和链接资助实体的两个主要挑战是:(i)知识库(KB)的稀疏图结构,这使得常用的基于图的实体链接方法对于资助领域不是最佳的,(ii)知识库中的缺失实体,这(与最近的zero-shot方法不同)需要将没有知识库条目的实体提及标记为NIL。我们提出了一个实体链接模型,可以执行NIL预测,并以时间和数据有效的方式克服数据稀缺问题。我们的模型建立在一个基于transformer的提及检测和双编码器模型来执行实体链接。我们表明,我们的模型优于强大的现有基线。
2022-09-20 cs.CL cs.LG
Implicit Entity Linking in Tweets
Kno.e.sis Center, Wright State University(莱特州立大学Kno.e.sis中心);IBM Research(IBM研究院)
多年来,Twitter已成为最大的通信平台之一,为品牌监控、趋势检测等各种应用提供关键数据。实体链接是从推文理解自然语言的主要任务之一,它将文本中的实体提及与知识库中的对应条目相关联,以便提供明确的解释和附加上下文。最先进的技术集中在链接推文中明确提到的实体,并取得了一定的成功。然而,我们认为,除了明确提到,即电影重力比火星轨道飞行器任务实体(电影重力)更昂贵,也可以含蓄地提到,即这部新的太空电影是疯狂的。你一定要看!介绍了推文中的隐式实体链接问题。我们提出了一种方法,模型的实体,利用他们的事实和背景知识。我们演示了如何使用这些模型来执行隐式实体链接的地面实况数据集与397推文从两个域,即电影和书籍。具体而言,我们显示:1)链接隐式实体的重要性及其对标准实体链接任务的附加值,以及2)利用与实体相关联的上下文知识来链接它们的隐式提及的重要性。我们还公开了地面实况数据集,以促进这一新研究领域的研究。
2017-07-26 cs.AI cs.CL
Graph Centrality Measures for Boosting Popularity-Based Entity Linking
Labex Observatoire de la vie littéraire (OBVIL)(文学生活观察实验室);Laboratoire d’Informatique de Paris 6 (LIP6), Pierre and Marie Curie University(巴黎第六大学计算机实验室)
许多实体链接系统使用基于图的集合方法来消除文档中实体提及的歧义。大多数研究集中在图的构造和候选实体的初始权重上,而对图排序算法的比较研究较少。在这项工作中,我们专注于基于图的排名算法,因此,我们提出了五个中心性措施:度,点击率,PageRank,介数和接近度。该方法首先利用流行度方法为每个文档构建候选实体的消歧图,然后应用中心度度量选择最相关的候选实体,以提高实体流行度方法的结果。我们研究了每个中心性度量对不同领域和数据集性能的有效性。我们的实验表明,一个简单而快速的中心性度量,如度中心性,可以优于其他更耗时的措施。
2017-11-30 cs.CL cs.IR cs.SI
Reveal the Unknown: Out-of-Knowledge-Base Mention Discovery with Entity Linking
University of Oxford(牛津大学);The University of Manchester(曼彻斯特大学);Nankai University(南开大学)
针对知识库外实体提及发现任务,提出基于BERT的BLINKout方法,通过NIL实体匹配及剪枝版本化策略构建数据集,在五个数据集上优于现有方法。
2023-09-01 cs.CL
KGMEL: Knowledge Graph-Enhanced Multimodal Entity Linking
KAIST(韩国科学技术院);Hanyang University(翰林大学)
KGMEL利用知识图谱三元组增强多模态实体链接,通过生成、检索和重排序三阶段框架,在基准数据集上超越现有方法。
2025-04-21 cs.AI cs.CL cs.IR
Same but Different: Distant Supervision for Predicting and Understanding Entity Linking Difficulty
L3S Research Center, Leibniz University of Hannover(莱布尼茨汉诺威大学L3S研究中心);GESIS - Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所)
实体链接(Entity Linking,EL)是自动识别文本中提到的实体并将其解析为维基百科等参考知识库中的相应实体的任务。有大量的EL工具可用于不同类型的文档和领域,但EL仍然是一项具有挑战性的任务,其中缺乏精确度,特别是模糊的提及往往会破坏自动消歧结果在实际应用中的有用性。先验近似的困难,以链接一个特定的实体提到可以促进标记的关键情况下,作为半自动EL系统的一部分,而检测潜在的因素,影响EL性能,如语料库特定的功能,可以提供关于如何改进系统的基础上的特殊特性的基础语料库的见解。在本文中,我们首先介绍了一种基于共识的方法来生成难度标签的实体提到任意语料库。然后,利用难度标签作为训练数据的监督分类任务,能够预测实体提到使用各种功能的EL难度。在新闻文章语料库上的实验表明,EL难度可以估计具有较高的准确性,也揭示了潜在的功能,影响EL性能。最后,评估结果表明,所提出的方法,以通知半自动EL管道的有效性。
2018-12-13 cs.CL cs.IR cs.LG
A Read-and-Select Framework for Zero-shot Entity Linking
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳))
本文提出读取-选择(ReS)框架,通过提及-实体匹配和跨实体比较改进零样本实体链接的候选排序,在ZESHEL数据集上以2.55%的准确率提升达到最先进性能,且无需繁重预训练。
2023-10-29 cs.CL
Entities as topic labels: Improving topic interpretability and evaluability combining Entity Linking and Labeled LDA
Data and Web Science Group(数据与网络科学组);LATTICE Lab (ENS, CNRS, Paris 3)(LATTICE实验室(巴黎高等师范学院、法国国家科学研究中心、巴黎第三大学));University of Mannheim(曼海姆大学);PSL Research Univ, Sorbonne Paris Cité(巴黎文理研究大学,索邦巴黎西岱大学)
为了创建一个语料库探索方法,提供比标准LDA主题模型更容易解释的主题,在这里,我们提出了两种技术相结合,称为实体链接和标记LDA。我们的方法确定在一个本体的一系列描述性的标签,为每个文件在语料库中。然后它为每个标签生成一个特定的主题。在主题和标签之间建立直接的关系可以使解释更容易;使用本体作为背景知识可以限制标签的歧义。由于我们的主题是用有限数量的明确标签描述的,它们促进了可解释性,这可能有助于定量评估。我们说明了这种方法的潜力,通过应用它,以确定最相关的主题,在欧洲议会的第五个任务(1999年至2004年),由每个政党。
2016-04-26 cs.CL
Proxy-based Zero-Shot Entity Linking by Effective Candidate Retrieval
BenevolentAI(BenevolentAI公司);Moonfire Ventures(Moonfire Ventures公司)
生物医学实体链接领域的最新进展是开发了强大的两阶段算法,初始候选检索阶段为每次提及生成实体的入围名单,然后是候选排名阶段。然而,这两个阶段的有效性不可避免地依赖于计算昂贵的组件。具体而言,在通过密集表示检索的候选检索中,重要的是要有硬负样本,这需要在整个训练过程中在整个实体标签集上重复向前传递和最近邻搜索。在这项工作中,我们表明,配对基于代理的度量学习损失与对抗正则化提供了一个有效的替代硬负采样在候选检索阶段。特别是,我们在recall@1指标上表现出了竞争力,从而提供了省略昂贵的候选人排名步骤的选项。最后,我们演示了如何使用该模型可以在一个zero-shot设置,发现了知识库的生物医学实体。
2023-01-30 cs.CL cs.IR cs.LG
Better Together -- An Ensemble Learner for Combining the Results of Ready-made Entity Linking Systems
L3S Research Center, Leibniz University of Hannover(汉诺威莱布尼茨大学L3S研究中心);Institute of Computer Science, FORTH-ICS(希腊基础研究与技术基金会计算机科学研究所(FORTH-ICS));GESIS - Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所)
实体链接(EL)是自动识别文本中提到的实体并将其解析为维基百科等参考知识库中的相应实体的任务。在过去的十年中,大量的EL系统和管道已经变得可用,其中各个系统的性能在语料库,语言或领域之间存在很大差异。即使在同一文本语料库中的不同提及之间,链接性能也会有所不同,其中,例如,一些EL方法能够更好地处理简短的表面形式,而其他方法在更多上下文信息可用时可能会表现得更好。为此,我们认为,性能可以优化利用不同的EL系统在同一语料库的结果,从而利用他们的个人优势,每次提到的基础上。在本文中,我们介绍了一种监督的方法,它利用多个现成的EL系统的输出,通过预测正确的链接在每次提到的基础上。在现有的地面实况数据集上获得的实验结果和利用三个最先进的EL系统显示了我们的方法的有效性及其显着优于单个EL系统以及一组基线方法的能力。
2021-01-14 cs.CL cs.LG
Question Answering over Knowledge Graphs with Neural Machine Translation and Entity Linking
Universidad de Chile(智利大学);IMFD(智利千年基础数据研究所)
知识图谱上的问答(KGQA)的目标是在知识图谱上找到自然语言问题的答案。最近的KGQA方法采用神经机器翻译(NMT)方法,其中自然语言问题被翻译成结构化查询语言。然而,NMT遭受词汇表外的问题,其中问题中的术语在训练期间可能没有被看到,从而阻碍了它们的翻译。这个问题对于大型知识图谱描述的数百万个实体来说尤其成问题。相反,我们提出了一个KGQA的方法,代表实体的实体链接(EL)系统的处理。然后,NMT用于创建具有占位符的查询模板,占位符由EL阶段中标识的实体填充。槽填充用于决定哪个实体填充哪个占位符。在Wikidata上进行QA的实验表明,我们的方法优于纯NMT:虽然在训练过程中仍然强烈依赖于看到类似的查询模板,但与实体相关的错误大大减少。
2021-07-06 cs.AI cs.CL
XREF: Entity Linking for Chinese News Comments with Supplementary Article Reference
Northeastern University(东北大学);ByteDance AI Lab(字节跳动人工智能实验室);Alibaba Group(阿里巴巴集团)
自动识别社交媒体帖子中提到的实体有助于快速消化热门话题和流行观点。尽管如此,由于有限的背景和不同的名称变化,这仍然是一项具有挑战性的任务。本文研究了中文新闻评论在提及跨度一定的情况下的实体链接问题。我们假设评论通常指的是相应新闻文章中的实体,以及涉及实体的主题。因此,我们提出了一个新的模型,XREF,利用注意力机制(1)查明相关的评论中的上下文,(2)检测支持实体的新闻文章。为了改进训练,我们做了两个贡献:(a)除了标准的交叉熵之外,我们还提出了一个监督的注意力损失,以及(b)我们开发了一个弱监督的训练方案来利用大规模的未标记语料库。在娱乐和产品领域的两个新的数据集收集和注释的实验。我们提出的方法在这两个数据集上都优于以前的方法。
2020-06-24 cs.CL
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University(萨班哲大学)
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道,它可以在维基百科的帮助下检测潜在的实体提及,并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明,我们的管道显着提高了性能,特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL