ISA-bEL: Intelligent Search Algorithm based on Entity Linking
Vodafone(沃达丰)
如今,人们与计算机交互的方式已经发生了变化。基于文本或语音的界面在不同行业中得到广泛应用。处理用户输入的最常用的方法是基于意图或检索算法的方法。在这些解决方案中,用户的重要信息可能在该过程中丢失。对于所提出的自然语言处理流水线,在实体是用户的目的所在的假设下,实体将扮演主要角色。提供了上下文的实体将被投射到由知识图谱支持的特定领域,从而产生被称为链接实体的实体。然后,这些链接的实体用作在我们的知识图谱内搜索顶级聚合概念的关键字。
2022-05-09 cs.CL
Entity Linking via Dual and Cross-Attention Encoders
University of Pennsylvania(宾夕法尼亚大学);Google Research(谷歌研究院)
实体链接有两个主要的开放研究领域:1)生成候选实体而不使用别名表,2)为提及和实体生成更多的上下文表示。最近,对于前者已经提出了作为双编码器实体检索系统的解决方案(Gillick等人,2019),它学习同一空间中的提及和实体表示,并通过选择与该空间中的提及最近的实体来执行链接。在这项工作中,我们只使用这个检索系统生成候选实体。然后,我们通过使用交叉注意编码器对目标提及和每个候选实体进行重新排序。而双编码器方法强制所有信息包含在用于表示提及和实体的小的、固定的向量维度集合中,交叉注意模型允许使用来自每个<提及,上下文,候选实体>元组的全部的详细信息(读:特征)。我们实验的reranker中使用的功能,包括不同的方式,将文档级的上下文。我们在TACKBP-2010数据集上获得了最先进的结果,准确率为92.05%。此外,我们还展示了在更大的CoNLL-2003数据集上训练并在TACKBP-2010上评估时,重新评分模型如何很好地泛化。
2020-04-07 cs.CL
Musical Heritage Historical Entity Linking
University of Bologna(博洛尼亚大学);University of Pisa(比萨大学);Ca’ Foscari University of Venice(威尼斯福斯卡里大学)
本文构建音乐历史文本实体链接基准MHERCL,提出无监督EL模型及利用知识图谱扩展监督链接器的方法,以更好识别NIL实体。
2025-02-13 cs.CL
Knowledge-Rich Self-Supervision for Biomedical Entity Linking
Microsoft Research(微软研究院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
实体链接面临着巨大的挑战,如多产的变化和普遍的歧义,特别是在高价值的领域与无数的实体。标准的分类方法受到注释瓶颈的影响,不能有效地处理不可见的实体。Zero-shot实体链接已经成为推广到新实体的一个有前途的方向,但它仍然需要在训练期间提到的示例黄金实体和对所有实体的规范描述,这两者在维基百科之外很少可用。在本文中,我们探讨知识里奇自我监督($\tt KRISS$)的生物医学实体链接,利用现成的领域知识。在训练中,它使用领域本体在未标记文本上生成自监督提及示例,并使用对比学习训练上下文编码器。对于推理,它将自监督提及作为每个实体的原型进行采样,并通过将测试提及映射到最相似的原型来进行链接。我们的方法可以很容易地将实体描述和黄金提到标签,如果可用的话。我们对涵盖生物医学文献和临床笔记的七个标准数据集进行了广泛的实验。在不使用任何标记信息的情况下,我们的方法产生$\tt KRISSBERT$,这是一个通用的实体链接器,用于400万个UMLS实体,达到了最新的技术水平,在准确性上超过了之前的自监督方法20个绝对点。
2022-05-23 cs.CL
Entities as topic labels: Improving topic interpretability and evaluability combining Entity Linking and Labeled LDA
Data and Web Science Group(数据与网络科学组);LATTICE Lab (ENS, CNRS, Paris 3)(LATTICE实验室(巴黎高等师范学院、法国国家科学研究中心、巴黎第三大学));University of Mannheim(曼海姆大学);PSL Research Univ, Sorbonne Paris Cité(巴黎文理研究大学,索邦巴黎西岱大学)
为了创建一个语料库探索方法,提供比标准LDA主题模型更容易解释的主题,在这里,我们提出了两种技术相结合,称为实体链接和标记LDA。我们的方法确定在一个本体的一系列描述性的标签,为每个文件在语料库中。然后它为每个标签生成一个特定的主题。在主题和标签之间建立直接的关系可以使解释更容易;使用本体作为背景知识可以限制标签的歧义。由于我们的主题是用有限数量的明确标签描述的,它们促进了可解释性,这可能有助于定量评估。我们说明了这种方法的潜力,通过应用它,以确定最相关的主题,在欧洲议会的第五个任务(1999年至2004年),由每个政党。
2016-04-26 cs.CL
XREF: Entity Linking for Chinese News Comments with Supplementary Article Reference
Northeastern University(东北大学);ByteDance AI Lab(字节跳动人工智能实验室);Alibaba Group(阿里巴巴集团)
自动识别社交媒体帖子中提到的实体有助于快速消化热门话题和流行观点。尽管如此,由于有限的背景和不同的名称变化,这仍然是一项具有挑战性的任务。本文研究了中文新闻评论在提及跨度一定的情况下的实体链接问题。我们假设评论通常指的是相应新闻文章中的实体,以及涉及实体的主题。因此,我们提出了一个新的模型,XREF,利用注意力机制(1)查明相关的评论中的上下文,(2)检测支持实体的新闻文章。为了改进训练,我们做了两个贡献:(a)除了标准的交叉熵之外,我们还提出了一个监督的注意力损失,以及(b)我们开发了一个弱监督的训练方案来利用大规模的未标记语料库。在娱乐和产品领域的两个新的数据集收集和注释的实验。我们提出的方法在这两个数据集上都优于以前的方法。
2020-06-24 cs.CL
Learning to Select the Next Reasonable Mention for Entity Linking
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);National Laboratory of Pattern Recognition, Institute of Automation, CAS(中国科学院自动化研究所模式识别国家重点实验室);Beijing Fanyu Technology Co., Ltd(北京梵语科技有限公司)
实体链接的目的是在文档中提到的实体与知识图谱中对应的实体之间建立链接。以往的工作表明,实体联系的全球一致性是有效的。然而,大多数现有的基于顺序决策的全局链接方法都集中在如何利用先前链接的实体来增强后续决策。在这些方法中,提到的顺序是固定的,使得模型无法根据先前链接的结果来调整后续的链接目标,这将导致先前的信息被不合理地利用。为了解决这个问题,我们提出了一种新的模型,称为DyMen,通过强化学习,根据先前链接的实体动态调整后续的链接目标,使模型能够选择一个链接目标,可以充分利用先前链接的信息。我们通过滑动窗口对提及进行采样,以减少强化学习的动作采样空间,并保持提及的语义一致性。在多个基准数据集上的实验表明了该模型的有效性。
2021-12-08 cs.CL
Named Entity Recognition and Linking Augmented with Large-Scale Structured Data
University of Wrocław(弗罗茨瓦夫大学);NVIDIA Corporation(英伟达公司);VoiceLab AI
在本文中,我们描述了我们分别在BSNLP 2019和BSNLP 2021举行的第二和第三届SlavNER共享任务的提交。这些任务的重点是分析命名实体在多语言网络文件中的斯拉夫语言丰富的曲折。我们的解决方案利用了大量的非结构化和结构化文档。前者用作语言模型的无监督训练和词汇单元嵌入的数据。后者指的是维基百科及其结构化对应物-维基数据,我们的词形化规则来源,以及真实世界的实体。在这些资源的帮助下,我们的系统可以识别,规范化和链接实体,同时只使用少量的标记数据进行训练。
2021-04-27 cs.CL
Improving Candidate Retrieval with Entity Profile Generation for Wikidata Entity Linking
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
实体链接(EL)是将文档中提到的实体链接到知识库(KB)中的引用实体的任务。许多以前的研究集中在维基百科衍生的知识库。关于维基数据的EL的工作很少,尽管它是最广泛的众包KB。维基数据的规模可以开辟许多新的现实世界的应用程序,但其庞大的实体数量也使EL具有挑战性。为了有效地缩小搜索空间,我们提出了一种新的候选检索模式的基础上实体分析。维基数据实体及其文本字段首先被索引到文本搜索引擎中(例如,Elasticsearch)。在推理过程中,给定提及及其上下文,我们使用序列到序列(seq 2seq)模型来生成目标实体的配置文件,其中包括其标题和描述。我们使用配置文件来查询索引的搜索引擎以检索候选实体。我们的方法补充了使用维基百科锚文本字典的传统方法,使我们能够进一步设计一个高效的混合方法进行候选人检索。结合一个简单的交叉注意力重新排序器,我们完整的EL框架在三个基于维基数据的数据集上实现了最先进的结果,并在TACKBP-2010上实现了强大的性能。
2022-03-14 cs.CL
WikiGUM: Exhaustive Entity Linking for Wikification in 12 Genres
Georgetown University(乔治城大学)
实体链接以前的工作集中在针对非嵌套的正确命名实体提及的资源上,通常在维基百科的数据中,即维基化。在本文中,我们提出并评估WikiGUM,一个完全维基化的数据集,涵盖所有提及的命名实体,包括其非命名和代词提及,以及嵌套在其他提及。该数据集涵盖了广泛的12种书面和口语类型,其中大部分尚未纳入实体链接工作,导致我们评估中预训练的SOTA系统表现不佳。对于相同数据的各种其他注释的可用性也使得能够进一步研究上下文中的实体。
2021-09-15 cs.CL
Toward Socially-Infused Information Extraction: Embedding Authors, Mentions, and Entities
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院)
实体链接是识别文本中提到的实体,并将它们链接到知识库中的条目的任务。这一任务在微博中尤其困难,因为几乎没有额外的文本来提供消除歧义的上下文;相反,作者依赖于与读者共享知识的隐含共同点。在本文中,我们试图通过利用微博中的社会网络结构来捕捉一些这种隐含的背景。我们建立在同质性理论的基础上,这意味着有社会联系的个人分享利益,因此可能会提到相同种类的实体。我们通过在一个连续的向量空间中对作者、提及和实体进行编码来实现这一想法,该向量空间被构造成使得社交联系的作者具有相似的向量表示。这些向量被合并到神经结构化预测模型中,该模型捕获实体链接任务中固有的结构约束。总之,与之前的最新技术相比,这些设计决策在基准数据集上产生了1%-5%的F1改进。
2016-09-26 cs.CL
Simultaneously Linking Entities and Extracting Relations from Biomedical Text Without Mention-level Supervision
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Google Research(谷歌研究院)
理解文本的含义通常涉及对实体及其关系的推理。这需要识别文本中提到的实体,将它们与规范概念联系起来,并识别它们的关系。这些任务几乎总是被视为管道中的独立组件,每个组件都需要不同的模型和训练数据。虽然关系抽取通常可以用容易获得的弱或远距离监督来训练,但实体链接器通常需要昂贵的提及级监督-这在许多领域中是不可用的。相反,我们提出了一个模型,该模型经过训练,可以同时生成实体链接和关系决策,同时不需要提及级别的注释。这种方法避免了流水线方法产生的级联错误,并更准确地预测文本中的实体关系。我们证明了我们的模型在两个生物医学数据集上的性能优于最先进的实体链接和关系抽取管道,并且可以大大提高系统的整体召回率。
2019-12-02 cs.CL cs.IR cs.LG
Towards Better Entity Linking with Multi-View Enhanced Distillation
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Microsoft(微软)
本文提出多视图增强蒸馏(MVD)框架,通过将实体拆分为多个视图并设计交叉对齐与自对齐机制,把交叉编码器的细粒度知识蒸馏到双编码器,同时保留全局视图,在多个实体链接基准上取得最优性能。
2023-05-27 cs.CL
Biomedical Entity Linking as Multiple Choice Question Answering
Jarvis Research Center, Tencent YouTu Lab(贾维斯研究中心,腾讯优图实验室)
针对生物医学实体链接中细粒度与长尾实体的挑战,提出将该任务转化为多项选择题问答的BioELQA模型,通过显式比较候选实体、拼接相似标注实例提升泛化,在多数据集上超越现有最优基线。
2024-05-17 cs.AI cs.CL cs.LG
Zero-Shot Entity Linking by Reading Entity Descriptions
University of Michigan(密歇根大学);Google Research(谷歌研究院)
我们提出了zero-shot实体链接任务,其中提到必须链接到看不见的实体,没有在域标记的数据。其目标是实现到高度专业化的域的健壮传输,因此不需要假设元数据或别名表。在这种情况下,实体只能通过文本描述来识别,模型必须严格依赖于语言理解来解析新的实体。首先,我们证明了在大型未标记数据上预训练的强阅读理解模型可以用于推广到看不见的实体。其次,我们提出了一种简单有效的自适应预训练策略,我们称之为域自适应预训练(DAP),以解决与在新域中连接未知实体相关的域转移问题。我们在为此任务构建的新数据集上进行了实验,并表明DAP在强预训练基线(包括BERT)上有所改进。数据和代码可在https://github.com/lajanugen/zeshel上获得。
2019-06-18 cs.CL cs.LG
CADEL: A Corpus of Administrative Web Documents for Japanese Entity Linking
National Institute of Information and Communications Technology(国立信息通信技术研究所)
本文构建了一个覆盖日本特定实体的标注语料库,用于评估日本实体链接系统,通过标注一致性验证了其可靠性,并初步实验表明其包含大量非平凡案例。
2026-03-31 cs.CL
ReFinED: An Efficient Zero-shot-capable Approach to End-to-End Entity Linking
Amazon Alexa AI(亚马逊Alexa人工智能部门)
我们介绍了ReFinED,一个高效的端到端的实体链接模型,它使用细粒度的实体类型和实体描述来执行链接。该模型在一个单一的前向传递中为文档中的所有提及执行提及检测,细粒度实体类型和实体消歧,使其比现有的竞争方法快60倍以上。ReFinED在标准实体链接数据集上的性能平均超过3.7 F1。该模型能够推广到大规模的知识库,如维基数据(其中有15倍以上的实体比维基百科)和zero-shot实体链接。速度,准确性和规模的结合使ReFinED成为一个有效且具有成本效益的系统,用于从网络规模的数据集中提取实体,该模型已成功部署。我们的代码和预训练模型可在https://github.com/alexa/ReFinED上获得
2022-07-08 cs.CL
EDIN: An End-to-end Benchmark and Pipeline for Unknown Entity Discovery and Indexing
Meta AI;Center for Information and Language Processing, LMU Munich(慕尼黑大学信息与语言处理中心)
实体链接的现有工作大多假设参考知识库是完整的,因此所有提及都可以链接。在实践中,情况几乎从来不是这样,因为知识基础是不完整的,因为新的概念不断出现。本文创建了未知实体发现和索引(EDIN)基准,其中未知实体,即知识库中没有描述和标记提及的实体,必须集成到现有的实体链接系统中。通过对比EDIN与zero-shot实体链接,我们提供了它带来的额外挑战的见解。建立在基于密集检索的实体链接,我们引入了端到端的EDIN管道,检测,集群,并索引上下文中的未知实体。实验表明,索引一个单一的嵌入每个实体统一的信息,多个提到的工作比索引提到独立。
2022-05-25 cs.CL
Improving Few-shot and Zero-shot Entity Linking with Coarse-to-Fine Lexicon-based Retriever
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies(广东省新型安全智能技术重点实验室);Central South University(中南大学)
针对少样本和零样本实体链接,本文提出由实体名称到描述的两层由粗到细词典检索器,在无需大量微调的情况下取得优异性能并获得 NLPCC 2023 共享任务第一名。
2023-08-13 cs.CL
Distant Supervision for Entity Linking
Tsinghua University(清华大学)
实体链接是信息抽取知识库填充过程中必不可少的操作。它研究了在知识库中将文本实体提及与其对应的消歧条目对齐。在本文中,我们提出了一个新的范例命名为远程监督实体链接(DSEL),在这个意义上,消除歧义的实体,属于一个巨大的知识库(Freebase)自动对齐到相应的描述性网页(维基页面)。通过这种方式,可以在没有手动注释的情况下生成大规模的弱标记数据,并将其馈送到分类器以链接更多新发现的实体。与传统的基于知识库的范式相比,DSEL通过充分利用Freebase和Wikipedia各自的优势而获益更多。具体而言,所提出的范例有利于弥合歧义标签(自由基)的实体和他们的文本描述(维基百科)的Web规模的实体。在140,000个项目和60,000个特征的数据集上进行的实验实现了0.517的基线F1度量。此外,我们分析了特征性能,并将F1-measure提高到0.545。
2015-08-05 cs.CL cs.IR
Biomedical Entity Linking with Triple-aware Pre-Training
HITEC e.V.(HITEC协会);Universität Hamburg(汉堡大学)
针对通用大语言模型在生物医学实体链接中存在的实体稀疏、缺乏实体间语义关联等问题,提出利用知识图谱合成语料预训练生成式大模型的新框架,但实验未证实加入同义词、描述或关系信息可提升性能。
2023-08-28 cs.AI cs.CL
Personal Entity, Concept, and Named Entity Linking in Conversations
Radboud University(拉德堡德大学)
针对对话中个人实体、概念和命名实体的链接需求,本文构建 1327 条话语标注数据集,并提出结合共指消解的 CREL 工具包,性能超过现有基线。
2023-09-27 cs.CL cs.IR
Fast and Effective Biomedical Entity Linking Using a Dual Encoder
Rutgers University–New Brunswick(罗格斯大学新伯朗士威校区);Hasso Plattner Institute(哈索·普拉特纳研究所);University of Potsdam(波茨坦大学)
生物医学实体链接是识别文本文档中提到的生物医学概念并将其映射到目标词库中的规范实体的任务。使用基于BERT的模型的实体链接的最新进展遵循检索和重新排序范例,其中候选实体首先使用检索器模型进行选择,然后检索到的候选实体由重新排序器模型进行排序。虽然这种范例产生了最先进的结果,但它们在训练和测试时都很慢,因为它们一次只能处理一个提及。为了缓解这些问题,我们提出了一种基于BERT的双编码器模型,可以一次性解决文档中的多个提及。我们表明,我们提出的模型比现有的基于BERT的模型快数倍,同时在生物医学实体链接的准确性方面具有竞争力。此外,我们修改了我们的双编码器模型的端到端的生物医学实体链接,执行提及跨度检测和实体消歧,并优于最近提出的两个模型。
2021-03-08 cs.CL
Low-Rank Subspaces for Unsupervised Entity Linking
EPFL(洛桑联邦理工学院);Atinary Technologies(Atinary技术公司)
实体链接是许多应用中的一个重要问题。大多数先前的解决方案是针对带注释的训练数据可用的设置而设计的,然而,在许多领域中并非如此。我们提出了一个轻量级和可扩展的实体链接方法,Eigenthemes,它只依赖于实体名称和所指的知识库的可用性。特征主题利用了这样一个事实,即文档中真正提到的实体(“黄金实体”)往往形成文档中所有候选实体的语义密集子集。从几何上讲,当通过一些给定的嵌入将实体表示为向量时,黄金实体往往位于完整嵌入空间的低秩子空间中。特征主题使用奇异值分解识别该子空间,并根据候选实体与子空间的接近程度对其进行评分。在经验方面,我们引入了多个强基线,这些基线与现有的最先进的技术相比是有利的(有时甚至优于现有的技术)。在来自各种现实世界领域的基准数据集上进行的广泛实验展示了我们方法的有效性。
2021-10-14 cs.CL cs.IR cs.LG
Community Question Answering Entity Linking via Leveraging Auxiliary Data
Nankai University(南开大学)
社区问答(CQA)平台包含大量的CQA文本(即,问题和对应于问题的答案),其中命名实体无处不在地出现。在本文中,我们定义了一个新的任务CQA实体链接(CQAEL)连接的文本实体提到检测CQA文本与知识库中的相应实体。该任务可以促进许多下游应用,包括专家发现和知识库丰富。传统的实体链接方法主要集中在链接新闻文档中的实体,并且对于CQAEL的这个新任务来说是次优的,因为它们不能有效地利用CQA平台中涉及的各种信息辅助数据来辅助实体链接,诸如并行答案和两种类型的元数据(即,主题标签和用户)。为了解决这个关键问题,我们提出了一种新的基于transformer的框架,有效地利用不同类型的辅助数据提供的知识,以提高链接性能。我们验证了我们的框架的优越性,通过广泛的实验对国家的最先进的实体链接方法的新发布的CQAEL数据集。
2022-05-24 cs.AI cs.CL
EntQA: Entity Linking as Question Answering
Rutgers University(罗格斯大学)
实体链接的传统方法是首先在给定文档中找到提及,然后在知识库中推断它们的底层实体。这种方法的一个众所周知的局限性是,它需要在不知道它们的实体的情况下找到提及,这是不自然和困难的。我们提出了一个新的模型,不受此限制称为EntQA,它代表实体链接作为问答。EntQA首先使用快速检索模块提出候选实体,然后使用强大的阅读器模块仔细检查文档以找到每个候选实体的提及。我们的方法结合了实体链接与开放领域问答的进展,并利用预训练模型进行密集实体检索和阅读理解。与以前的作品不同,我们不依赖于候选人词典或大规模的弱监督。EntQA在GERBIL基准测试平台上取得了优异的成绩。
2022-03-07 cs.CL cs.LG
Implicit Entity Linking in Tweets
Kno.e.sis Center, Wright State University(莱特州立大学Kno.e.sis中心);IBM Research(IBM研究院)
多年来,Twitter已成为最大的通信平台之一,为品牌监控、趋势检测等各种应用提供关键数据。实体链接是从推文理解自然语言的主要任务之一,它将文本中的实体提及与知识库中的对应条目相关联,以便提供明确的解释和附加上下文。最先进的技术集中在链接推文中明确提到的实体,并取得了一定的成功。然而,我们认为,除了明确提到,即电影重力比火星轨道飞行器任务实体(电影重力)更昂贵,也可以含蓄地提到,即这部新的太空电影是疯狂的。你一定要看!介绍了推文中的隐式实体链接问题。我们提出了一种方法,模型的实体,利用他们的事实和背景知识。我们演示了如何使用这些模型来执行隐式实体链接的地面实况数据集与397推文从两个域,即电影和书籍。具体而言,我们显示:1)链接隐式实体的重要性及其对标准实体链接任务的附加值,以及2)利用与实体相关联的上下文知识来链接它们的隐式提及的重要性。我们还公开了地面实况数据集,以促进这一新研究领域的研究。
2017-07-26 cs.AI cs.CL
MOLEMAN: Mention-Only Linking of Entities with a Mention Annotation Network
Google Research(谷歌研究院)
我们提出了一个基于实例的最近邻实体链接方法。与大多数先前的实体检索系统,表示每个实体与一个单一的向量相比,我们建立了一个上下文提到编码器,学习放置类似的提到同一实体更接近的向量空间比提到不同的实体。这种方法允许实体的所有提及充当“类原型”,因为推理涉及从训练集中的标记实体提及的全集中检索并应用最近提及邻居的实体标签。我们的模型在来自维基百科超链接的提及对的大型多语言语料库上进行训练,并对7亿次提及的索引进行最近邻推理。它更容易训练,给出更多可解释的预测,并在两个多语言实体链接基准上优于所有其他系统。
2022-07-22 cs.CL cs.IR cs.LG
DaMuEL: A Large Multilingual Dataset for Entity Linking
Charles University, Faculty of Mathematics and Physics(查理大学数学与物理学院);Institute of Formal and Applied Linguistics(形式与应用语言学研究所)
本研究发布包含53种语言的大型多语言实体链接数据集DaMuEL,由语言无关知识库和分语言的维基百科链接文本、Wikidata文本组成,含2790万实体、123亿token,为多语言实体链接研究提供数据支撑。
2023-06-15 cs.CL
Namesakes: Ambiguously Named Entities from Wikipedia and News
Primer Technologies Inc.(Primer科技公司)
我们提出了一个数据集,从英语维基百科和新闻文章中获得的模糊命名的实体。它由4148个独特实体及其同名的58862次提及组成:1000次来自新闻,28843次来自维基百科关于该实体的文章,29019次维基百科反向链接提及。标记应该有助于为命名实体链接(NEL)任务建立具有挑战性的基准。
2021-11-22 cs.CL
NASTyLinker: NIL-Aware Scalable Transformer-based Entity Linker
University of Mannheim(曼海姆大学)
实体链接(EL)是检测文本中实体的提及并将其消歧到参考知识库的任务。最流行的EL方法假设参考知识库是完整的。然而,在实践中,有必要处理链接到知识库中不包含的实体(NIL实体)的情况。最近的工作表明,而不是只关注提及和实体之间的亲和力,考虑提及之间的亲和力可以用来表示NIL实体,通过产生集群的提及。同时,提及间关联可以帮助显著提高已知实体的链接性能。与NASTyLinker,我们引入了EL的方法,是知道的NIL实体,并产生相应的提到集群,同时保持高的链接性能为已知的实体。该方法基于来自Transformers的密集表示对提及和实体进行聚类,并通过计算传递提及-实体亲和度来解决冲突(如果多个实体被分配到聚类)。我们展示了NASTYLinker在NILK上的有效性和可扩展性,NILK是一个明确构建的数据集,用于评估EL相对于NIL实体。此外,我们将所提出的方法应用于实际EL任务,即通过链接维基百科列表中的实体来实现知识图谱人口,并对结果进行分析。
2023-03-13 cs.AI cs.CL cs.IR
Optimal Transport Guided Correlation Assignment for Multimodal Entity Linking
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
针对多模态实体链接中注意力机制过度集中于局部相关性的问题,提出最优传输引导的OT-MEL框架,利用多模态特征与指称-实体相关性增强融合与细粒度匹配,并通过知识蒸馏加速预测,显著超越现有基线。
2024-06-05 cs.CL
Named Entity Linking with Entity Representation by Multiple Embeddings
Primer Technologies Inc.(Primer科技公司)
我们提出了一个简单而实用的方法命名实体链接(NEL),基于实体表示的多个嵌入。为了探索这种方法,并审查其对参数的依赖性,我们测量了它在命名不明确的实体的高度挑战性的数据集上的性能。我们的观察表明,创建知识库(KB)实体所需的最小提及次数对NEL性能非常重要。嵌入的数量是不太重要的,可以保持小,在10或更少的范围内。我们表明,我们的KB实体的表示可以调整,只使用KB数据,调整可以提高NEL性能。我们还比较了NEL性能的嵌入从不同的新闻文本调整语言模型,而不是从公共数据集XSum,CNN /每日邮报更统一的文本调整。我们发现,调整不同的新闻提供了更好的嵌入。
2022-11-20 cs.CL
Question Answering over Knowledge Graphs with Neural Machine Translation and Entity Linking
Universidad de Chile(智利大学);IMFD(智利千年基础数据研究所)
知识图谱上的问答(KGQA)的目标是在知识图谱上找到自然语言问题的答案。最近的KGQA方法采用神经机器翻译(NMT)方法,其中自然语言问题被翻译成结构化查询语言。然而,NMT遭受词汇表外的问题,其中问题中的术语在训练期间可能没有被看到,从而阻碍了它们的翻译。这个问题对于大型知识图谱描述的数百万个实体来说尤其成问题。相反,我们提出了一个KGQA的方法,代表实体的实体链接(EL)系统的处理。然后,NMT用于创建具有占位符的查询模板,占位符由EL阶段中标识的实体填充。槽填充用于决定哪个实体填充哪个占位符。在Wikidata上进行QA的实验表明,我们的方法优于纯NMT:虽然在训练过程中仍然强烈依赖于看到类似的查询模板,但与实体相关的错误大大减少。
2021-07-06 cs.AI cs.CL
End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫应用信息技术研究所);Ruhr University Bochum(波鸿鲁尔大学)
实体链接-将自然语言话语中的实体提及连接到知识图谱(KG)实体是KG上的问答的关键步骤。它通常基于测量实体标签与问题中提到的实体之间的字符串相似性。问题中提到的关系有助于消除具有相同标签的实体之间的歧义。如果在关系链接步骤中已经识别出不正确的关系,则这可能是误导性的。然而,不正确的关系可能仍然在语义上类似于正确实体在KG内形成三元组的关系;这可以通过它们的KG嵌入的相似性来捕获。基于这一思想,我们提出了第一个端到端的神经网络方法,采用KG以及词嵌入来执行简单问题的联合关系和实体分类,同时隐式地执行实体消歧与一种新的门控机制的帮助。实证评估表明,所提出的方法实现了性能相当于国家的最先进的实体链接,同时需要较少的后处理。
2020-02-25 cs.CL
DELICATE: Diachronic Entity LInking using Classes And Temporal Evidence
University of Macerata(马切拉塔大学);University of Bologna(博洛尼亚大学);Télécom Paris, Institut Polytechnique de Paris(巴黎电信学院)
提出DELICATE方法,结合BERT编码器和Wikidata上下文信息,通过时间合理性和实体类型一致性进行历史意大利语实体链接,并构建ENEIDE语料库,在性能上超越大规模模型且更具可解释性。
2026-05-22 cs.CL
Learning Entity Linking Features for Emerging Entities
Tsinghua University(清华大学);Jiangsu Normal University(江苏师范大学);Nankai University(南开大学);Huawei Technologies Co., Ltd(华为技术有限公司)
实体链接(EL)是将文本中出现的实体与知识库中相应的实体链接起来的过程。实体的EL特征(例如,先验概率、相关性得分和实体嵌入)通常基于维基百科来估计。然而,对于刚刚在新闻中发现的新兴实体(EE),它们可能还没有被包含在维基百科中。因此,无法从维基百科获得这些EE所需的EL特征,并且EL模型将始终无法正确地将模糊提及与这些EE联系起来,因为缺少它们的EL特征。为了解决这个问题,在本文中,我们专注于一个新的任务,学习EL功能的新兴实体的一般方式。我们提出了一种称为STAMO的新方法来自动学习EE的高质量EL特征,它只需要从Web上收集的每个EE的少量标记文档,因为它可以进一步利用隐藏在未标记数据中的知识。STAMO主要基于自训练,这使得它可以灵活地与任何EL特征或EL模型集成,但也使得它容易遭受错误标记数据引起的错误强化问题。而不是一些常见的自我训练策略,试图扔掉错误标记的数据显式,我们把自我训练作为一个多重优化过程相对于EL功能的EE,并提出了槽内和槽间优化,以减轻错误强化问题隐式。我们构建了两个EL数据集,涉及选定的EE,以评估所获得的EL功能的EE的质量,实验结果表明,我们的方法显着优于其他基线方法学习EL功能。
2022-08-08 cs.AI cs.CL
CLIMATELI: Evaluating Entity Linking on Climate Change Data
LMU Munich(慕尼黑大学);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心)
本文提出首个气候变化实体链接数据集CLIMATELI,包含3087个链接到维基百科的实体片段,并评估现有实体链接系统在该数据上的表现,发现模型性能明显落后于人类,同时提出CC实体自动过滤方法。
2024-06-27 cs.CL
MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
我们提出了MobIE,德语数据集,这是人类注释的20个粗粒度和细粒度的实体类型和实体链接信息的地理上不确定的实体。该数据集由3,232个社交媒体文本和91K令牌的交通报告组成,并包含20.5K注释实体,其中13.1K链接到知识库。数据集的一个子集是人类注释的七个移动性相关的,n元关系类型,而其余的文件是使用弱监督标记方法与Snorkel框架实现注释。据我们所知,这是第一个结合了NER,EL和RE注释的德语数据集,因此可以用于这些基本信息抽取任务的联合和多任务学习。我们在https://github.com/dfki-nlp/mobie上公开了Mobie。
2022-03-28 cs.CL
Towards Deep Semantic Analysis Of Hashtags
International Institute of Information Technology Hyderabad(海得拉巴国际信息技术研究所)
主题标签是在各种社交网络和微博平台上使用的语义句法结构,使用户能够开始特定主题的讨论或将帖子分类到所需的类别中。因此,将标签中存在的实体分段和链接可以帮助更好地理解和提取社交媒体上共享的信息。然而,由于在主题标签中缺少空格分隔符(例如#nsavssnowden),将主题标签分割成组成实体(在这种情况下为“NSA”和“Edward Snowden”)不是一项简单的任务。大多数当前最先进的社交媒体分析系统,如情感分析和实体链接,往往要么忽略主题标签,要么将其视为单个单词。在本文中,我们提出了一种上下文感知的方法来分割和链接实体的主题标签的知识库(KB)的条目,根据上下文内的推文。我们的方法分割和链接的实体在标签,标签语义和推文之间的一致性最大化。据我们所知,没有现有的研究解决了在主题标签中链接实体以提取语义信息的问题。我们在两个不同的数据集上评估我们的方法,并通过在标签中分割和链接实体提供的额外语义信息来证明我们的技术在提高推文中的整体实体链接方面的有效性。
2015-01-13 cs.CL cs.IR
Learning from Negative Samples in Biomedical Generative Entity Linking
Korea University(韩国大学);Kyung Hee University(庆熙大学);AIGEN Sciences(AIGEN公司)
针对生成式生物医学实体链接模型仅用正样本训练、忽视难负样本的问题,提出ANGEL框架,利用负样本通过偏好优化提升模型性能,在五个基准上平均top-1准确率最高提升1.4%,预训练阶段提升1.7%。
2025-08-04 cs.CL
Evaluation of LLMs on Long-tail Entity Linking in Historical Documents
Department of Management, University of Turin, Italy(管理系,都灵大学);Department of Computer Science, University of Catania, Italy(计算机科学系,卡塔尼亚大学);Department of Computer Science, University of Turin, Italy(计算机科学系,都灵大学);Department of Modern Languages, Literatures and Cultures, University of Bologna, Italy(现代语言、文学与文化系,博洛尼亚大学);Department of Information Engineering (DII), University of Pisa, Italy(信息工程系(DII),比萨大学);Department of Mathematics and Computer Science, University of Cagliari, Italy(数学与计算机科学系,卡利亚里大学);Institute of Information Science and Technologies (ISTI), National Research Council of Italy (CNR), Pisa, Italy(信息科学与技术研究所(ISTI),意大利国家研究委员会(CNR),比萨)
本文在历史文档长尾实体链接任务上评估 GPT 和 LLama3,并与 ReLiK 框架对比,发现大语言模型表现良好,可作为弥合头部与长尾实体链接差距的有效辅助技术。
2025-05-06 cs.CL
Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking
Carnegie Mellon University(卡内基梅隆大学)
针对多语言多模态实体链接中稀有实体性能下降问题,提出结合知识图谱结构指标与推理检索互补的免训练框架,在MERLIN基准上显著提升稀有实体准确率。
2026-09-11 cs.CL
SU-NLP at SemEval-2022 Task 11: Complex Named Entity Recognition with Entity Linking
Sabancı University(萨班哲大学)
本文介绍了由萨班斯大学自然语言处理小组在SemEval-2022 MultiCoNER任务中提出的系统。我们开发了一个无监督的实体链接管道,它可以在维基百科的帮助下检测潜在的实体提及,并使用相应的维基百科上下文来帮助分类器找到该提及的命名实体类型。我们的结果表明,我们的管道显着提高了性能,特别是对于低上下文环境中的复杂实体。
2022-03-22 cs.CL
Boosting Entity Linking Performance by Leveraging Unlabeled Documents
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
现代实体链接系统依赖于专门为任务注释的大量文档集合(例如,AIDA CONLL)。相比之下,我们提出了一种只利用自然发生的信息的方法:未标记的文档和维基百科。我们的方法包括两个阶段。首先,我们为未标记文档中的每个提及构建候选实体的高召回列表。其次,我们使用候选列表作为弱监督来约束我们的文档级实体链接模型。该模型将实体视为潜在变量,并且在对未标记文本的集合进行估计时,学习选择依赖于每次提及的本地上下文以及与文档中其他实体的一致性的实体。由此产生的方法可以在标准测试集上与完全监督的最先进系统相媲美。它还接近他们的表现在非常具有挑战性的设置:当测试集上的数据采样用于估计监督系统进行测试。通过与仅使用维基百科训练我们的模型进行比较,我们证明了对未标记文档进行建模是有益的。
2019-06-04 cs.AI cs.CL cs.LG
LATTE: Latent Type Modeling for Biomedical Entity Linking
Virginia Tech(弗吉尼亚理工学院);AWS AI(AWS人工智能)
实体链接是将自然语言文本中提到的命名实体链接到策展知识库中的实体的任务。这在生物医学领域中具有重要意义,在生物医学领域中,它可以用于语义注释大量的临床记录和生物医学文献,以在诸如统一医学语言系统(UMLS)的本体中描述的标准化概念。我们观察到,精确的类型信息,实体消歧成为一个简单的任务。然而,在生物医学领域,细粒度的类型信息通常是不可用的。因此,我们提出了LATTE,一个潜在的类型实体链接模型,通过对潜在的细粒度类型信息的提及和实体建模,提高了实体链接。与以前直接在提及和实体之间执行实体链接的方法不同,LATTE联合进行实体消歧和潜在的细粒度类型学习,而无需直接监督。我们在两个生物医学数据集上评估我们的模型:MedMentions,一个用UMLS概念注释的大规模公共数据集,以及一个用ICD概念注释的口述医生笔记的去识别语料库。广泛的实验评估表明,我们的模型实现了显着的性能改进,超过几个国家的最先进的技术。
2020-01-20 cs.CL cs.IR cs.LG
Conversational Entity Linking: Problem Definition and Datasets
Radboud University(拉德堡德大学);University of Stavanger(斯塔万格大学)
会话系统中的用户话语的机器理解对于实现与用户的有吸引力和有意义的会话至关重要。实体链接是文本理解的手段之一,在信息检索的各种下游任务中被证明是有效的。在本文中,我们研究会话系统的实体链接。为了更好地理解EL在对话环境中的含义,我们分析了现有对话数据集中的大量对话,并使用众包注释了对概念,命名实体和个人实体的引用。基于注释对话,我们确定了会话实体连接的主要特征。此外,我们报告了传统EL系统在我们的会话实体链接数据集ConEL上的性能,并对这些方法进行了扩展,以更好地适应会话设置。与本文一起发布的资源包括注释数据集,众包设置的详细描述,以及各种EL系统产生的注释。这些新资源允许调查实体在对话中的角色与文档或孤立的短文本语句(如查询和推文)中的角色有何不同,并补充现有的对话数据集。
2021-05-11 cs.CL cs.IR
Contextualized End-to-End Neural Entity Linking
BlackRock(贝莱德);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了另一种实体链接模型(YELM),它将单词链接到实体,而不是跨度。这克服了与选择好的候选提及跨度相关联的任何困难,并且使得提及检测(MD)和实体消歧(ED)的联合训练容易成为可能。我们的模型是基于BERT,并产生上下文化的词嵌入,这是对联合MD和ED目标的训练。我们在几个标准的实体链接(EL)数据集上实现了最先进的结果。
2020-11-07 cs.CL
A Practical Entity Linking System for Tables in Scientific Literature
GE Research(GE研究中心);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文提出一个通用实体链接系统,用于将科学文献表格中的实体链接到 Wikidata,并针对 COVID-19 文献进行适配,利用表格结构特征提升性能,且通过离线实例增强实用性。
2023-06-12 cs.AI cs.CL cs.IR
Biomedical Entity Linking with Contrastive Context Matching
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Megagon Labs(Megagon实验室)
我们介绍BioCoM,一个对比学习框架的生物医学实体链接,只使用两个资源:一个小型的字典和大量的原始生物医学文章。具体来说,我们建立了训练实例从原始PubMed文章的字典匹配,并使用它们训练上下文感知的实体连接模型与对比学习。我们通过最近邻搜索在推理时预测归一化的生物医学实体。结果发现,BioCoM大大优于国家的最先进的模型,特别是在低资源的设置,通过有效地利用实体的上下文。
2021-06-15 cs.CL
Fine-Grained Entity Typing for Domain Independent Entity Linking
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
神经实体链接模型非常强大,但存在过度拟合其训练领域的风险。对于这个问题,一个域的特征不仅在于文本的类型,甚至还在于实体的特定分布等特定因素,因为神经模型往往会通过记忆数据集中频繁实体的属性来过拟合。我们解决的问题,建立强大的实体链接模型,有效地推广,不依赖于标记的实体链接数据与特定的实体分布。我们的方法不是直接预测实体,而是对细粒度的实体属性进行建模,这可以帮助消除甚至密切相关的实体之间的歧义。我们从Wikipedia分类中获得大量的类型(数万个),并使用Wikipedia中的超链接提及来远程标记数据并训练实体类型模型。在测试时,我们使用此类型模型对提及进行分类,并使用软类型预测将提及链接到最相似的候选实体。我们在CoNLL-YAGO数据集上评估我们的实体链接系统(Hoffart等人,2011),并表明我们的方法优于以前的域独立的实体链接系统。我们还在来自WikilinksNED数据集的更难的设置中测试了我们的方法(Eshel等人,2017),其中所有提及实体对在测试时间期间是不可见的。结果表明,我们的方法比数据集上最先进的神经模型更好地推广。
2020-01-08 cs.AI cs.CL cs.LG
DAMO-NLP at NLPCC-2022 Task 2: Knowledge Enhanced Robust NER for Speech Entity Linking
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Zhejiang University(浙江大学);University of Chinese Academy of Sciences(中国科学院大学)
语音实体链接旨在识别和消除口语中命名实体的歧义。传统的方法严重地受到不受约束的语音风格和由ASR系统生成的噪声转录的影响。在本文中,我们提出了一种新的方法,称为知识增强命名实体识别(KENER),它的重点是提高鲁棒性,通过无痛结合适当的知识,在实体识别阶段,从而提高实体链接的整体性能。KENER首先为一个没有提及的句子检索候选实体,然后利用实体描述作为额外的信息来帮助识别提及。由稠密检索模块检索的候选实体在输入较短或有噪声时特别有用。此外,我们研究了各种数据采样策略和设计有效的损失函数,以提高检索实体的质量在识别和消歧阶段。最后,一个带有过滤模块的链接被用作最终的保护措施,使其有可能过滤掉错误识别的提及。我们的系统在NLPCC-2022共享任务2的轨道1和轨道2中获得第一名。
2022-09-29 cs.AI cs.CL cs.LG
Hierarchical Losses and New Resources for Fine-grained Entity Typing and Linking
UMass Amherst(马萨诸塞大学阿默斯特分校);Chan Zuckerberg Initiative(陈·扎克伯格倡议)
从原始文本到实体和细粒度类型的知识库的提取通常被视为实体和类型标签的平面集合的预测,忽略了策划本体中包含的类型和实体的丰富层次结构。以前的尝试,将层次结构产生的好处很少,并限于浅本体。本文提出了使用实和复双线性映射来集成分层信息的新方法,在实体链接和细粒度实体类型化中对平面预测进行了实质性改进,并在基准FIGER数据集上实现了端到端模型的最新结果。我们还提出了两个新的人类注释数据集,其中包含广泛而深入的层次结构,我们将向社区发布,以鼓励在这一方向上的进一步研究:MedMentions,PubMed摘要的集合,其中246 k提及已映射到大规模的UMLS本体;和TypeNet,将Freebase类型与WordNet层次结构对齐,以获得近2k实体类型。在所有三个数据集上的实验中,我们都显示出了层次意识训练的实质性收益。
2018-07-13 cs.CL
Multilingual End to End Entity Linking
Meta AI
针对现有多语言实体链接缺乏高效端到端方案、需复杂模型栈的问题,研究团队发布开源了首个支持97种语言的端到端多语言实体链接模型BELA,并在四个高低资源语言数据集上验证了其性能。
2023-06-15 cs.CL