Entity-aware ELMo: Learning Contextual Entity Representation for Entity Disambiguation
Oregon State University(俄勒冈州立大学)
我们提出了一个新的本地实体消歧系统。我们的系统的关键是一种新的方法来学习实体表示。在我们的方法中,我们学习了一个实体感知的扩展嵌入语言模型(ELMo),我们称之为E-ELMo(E-ELMo)。给定一个包含一个或多个命名实体提及的段落,每个提及首先被定义为整个段落(包括其他提及)的函数,然后它们预测所指实体。利用E-ELMo的本地实体消歧,我们优于所有的国家的最先进的本地和全球模型的流行的基准提高约0.5\%的AIDA测试B与Yago候选集的微观平均精度。训练数据和候选集的评估设置与我们的基线相同,以进行公平比较。
2019-08-22 cs.CL cs.IR cs.LG
The STEM-ECR Dataset: Grounding Scientific Entity References in STEM Scholarly Content to Authoritative Encyclopedic and Lexicographic Sources
TIB Leibniz Information Centre for Science and Technology(莱布尼茨科学与技术信息中心(TIB))
我们介绍了STEM(科学,技术,工程和医学)数据集,用于科学实体提取,分类和分辨率,版本1.0(STEM-ECR v1.0)。STEM-ECR v1.0数据集的开发旨在以独立于领域的方式为科学实体提取、分类和解析任务的评估提供基准。它包括10个STEM学科的摘要,这些学科被认为是主要出版平台上最多产的学科。我们描述了这样一个多学科语料库的创建过程,并从以下几个方面强调了所获得的发现:1)多学科科学背景下的科学实体的一般概念形式主义; 2)在这种一般形式主义下科学实体的领域独立的人类注释的可行性; 3)使用基于BERT的神经模型自动提取多学科科学实体可获得的性能基准; 4)描绘的3步实体解析过程,用于通过百科实体链接和词典词义消歧对科学实体进行人类注释;以及5)人类评估Babelfy返回的百科链接和我们的实体的词典词义。我们的研究结果累积表明,人类注释和多学科科学概念的自动学习以及在广泛的STEM环境中的语义消歧是合理的。
2020-07-28 cs.AI cs.CL cs.DL
Global Entity Disambiguation with BERT
Megagon Labs(Megagon实验室);Studio Ousia(Ousia工作室);RIKEN(日本理化学研究所);NAIST(奈良先端科学技术大学院大学)
提出了一种基于BERT的全局实体消歧模型。为了捕获ED的全局上下文信息,我们的模型不仅将单词,而且将实体作为输入标记,并通过依次解析提到其所指实体并在每个步骤中使用解析的实体作为输入来解决任务。我们训练模型使用一个大型的实体标注的语料库从维基百科获得。我们在五个标准ED数据集上实现了新的最先进的结果:AIDA-CoNLL,MSNBC,AQUAINT,ACE 2004和WNED-WIKI。源代码和模型检查点可在https://github.com/studio-ousia/luke上获得。
2022-05-01 cs.CL cs.LG
Deep Joint Entity Disambiguation with Local Neural Attention
ETH Zurich(苏黎世联邦理工学院)
我们提出了一种新的深度学习模型,用于联合文档级实体消歧,该模型利用了学习的神经表示。关键组件是实体嵌入,局部上下文窗口上的神经注意力机制,以及用于消除歧义的可微分联合推理阶段。因此,我们的方法结合了深度学习与更传统的方法,如图形模型和概率提及实体映射的好处。大量的实验表明,我们能够获得有竞争力的或国家的最先进的准确性在适度的计算成本。
2017-07-31 cs.CL
TweetNERD -- End to End Entity Linking Benchmark for Tweets
Twitter, Inc.(推特公司)
命名实体识别和消歧(NERD)系统是信息检索、问答、事件检测和其他自然语言处理(NLP)应用的基础。我们介绍了TweetNERD,一个2010-2021年的340 K+推文数据集,用于对推文上的NERD系统进行基准测试。这是NERD在Twitter上最大和最具时间多样性的开源数据集基准,可用于促进该领域的研究。我们描述了三个NERD任务的TweetNERD评估设置:命名实体识别(NER),实体链接与真实跨度(EL),端到端实体链接(End 2 End);并提供现有的公开方法对特定TweetNERD分裂的性能。TweetNERD可在:https://doi.org/10.5281/zenodo.6617192根据知识共享署名4.0国际(CC BY 4.0)许可证。请访问https://github.com/twitter-research/TweetNERD查看更多详细信息。
2022-10-14 cs.AI cs.CL cs.IR
Entity Disambiguation with Entity Definitions
Sapienza University of Rome(罗马第一大学)
局部模型最近在实体消歧(ED)中取得了惊人的表现,生成和提取公式是最有前途的研究方向。然而,以前的作品限制了他们的研究,作为每个候选人的文本表示,只有其维基百科的标题。虽然这种策略肯定有效,但也存在一些关键问题,特别是当标题信息量不足或无法相互区分时。在本文中,我们解决这个限制,并调查在何种程度上更有表现力的文本表示可以减轻it.We彻底评估我们的方法对标准的基准测试在ED,并发现提取配方是特别适合这些表示:我们报告了一个新的国家的最先进的2出6基准,我们认为,并大大提高了泛化能力看不见的模式。我们在https://github.com/SapienzaNLP/extend上发布代码、数据和模型检查点。
2022-10-11 cs.AI cs.CL cs.LG
Bootleg: Chasing the Tail with Self-Supervised Named Entity Disambiguation
Stanford University(斯坦福大学);Apple(苹果公司)
命名实体消歧(NED)的一个挑战是如何消除在训练数据中很少出现的实体(称为尾实体)的歧义,该任务将文本提及映射到知识库中的实体。人类使用基于实体事实、关系和类型的知识的微妙推理模式来消除不熟悉的实体的歧义。受这些模式的启发,我们引入了Bootleg,一个自我监督的NED系统,它明确地基于推理模式来消除歧义。我们定义了核心推理模式的消歧,创建一个学习过程,鼓励自我监督模型学习模式,并展示了如何使用弱监督来增强训练数据中的信号。在一个简单的Transformer架构中编码推理模式,Bootleg在三个NED基准上达到或超过了最先进的水平。我们进一步表明,从Bootleg学习的表示成功地转移到其他需要基于实体的知识的非消歧任务:我们在流行的TACRED关系抽取任务中设置了1.0个F1点的新的最先进水平,并在一家主要技术公司的高度优化的生产搜索和助理任务中展示了高达8%的性能提升
2020-10-23 cs.AI cs.CL cs.LG
Evaluating the word-expert approach for Named-Entity Disambiguation
Stanford University(斯坦福大学);University of the Basque Country(巴斯克大学)
命名实体消歧(NED)是将命名实体提及链接到知识库(通常是维基百科)中的实例的任务。这个任务是密切相关的词义消歧(WSD),其中监督词专家的方法已经占了上风。在这项工作中,我们提出了NED的单词专家方法的结果,其中一个分类器是为每个目标实体提到字符串。构建系统所需的资源,一个字典和一组训练实例,都是从维基百科自动获得的。我们提供了经验证据的价值,这种方法,以及WSD和NED之间的差异,包括歧义和同义统计的研究。
2016-03-15 cs.CL
Leveraging Deep Neural Networks and Knowledge Graphs for Entity Disambiguation
Rensselaer Polytechnic Institute(伦斯勒理工学院);Google Research(谷歌研究院)
实体消歧旨在将模糊实体的提及链接到知识库(例如,Wikipedia).主题连贯性的建模是至关重要的这项任务的基础上,假设来自相同的语义背景下的信息往往属于同一主题。提出了一种基于深度神经网络和语义知识图谱的深度语义相关度模型(DSRM)来度量实体语义相关度,用于主题一致性建模。DSRM直接在大规模KG上训练,它将实体的异构类型的知识从KG映射到潜在空间中的数值特征向量,使得两个语义相关实体之间的距离最小化。与Milne and Witten,2008 a提出的最新相关性方法相比,DSRM在两个公开数据集上的实体消歧错误分别减少了19.4%和24.5%。
2015-04-28 cs.CL
PARCO: Phoneme-Augmented Robust Contextual ASR via Contrastive Entity Disambiguation
Graduate School of Informatics(信息科学研究生院);Nagoya University(名古屋大学);AI Lab(人工智能实验室);CyberAgent(CyberAgent公司);Information Technology Center(信息技术中心)
针对ASR系统在领域特定命名实体尤其是同音字识别上的难点,提出整合音素感知编码等模块的PARCO方法,通过对比实体检索消歧提升识别效果,在多数据集上显著优于基线且跨域鲁棒性强。
2025-09-04 cs.AI cs.CL cs.LG
Focusing on Context is NICE: Improving Overshadowed Entity Disambiguation
University of Amsterdam(阿姆斯特丹大学);Sapienza University of Rome(罗马第一大学);Babelscape;Amazon Alexa AI(亚马逊Alexa AI)
实体消歧(ED)是将一个有歧义的实体描述映射到结构化知识库中相应的条目的任务。先前的研究表明,实体遮蔽是现有ED模型的一个重大挑战:当出现模糊的实体提及时,模型更有可能将一个更频繁但与上下文相关性较低的实体排在首位。在这里,我们提出了NICE,一种迭代方法,使用实体类型信息来利用上下文,避免过度依赖于基于频率的先验。我们的实验表明,NICE实现了最好的性能结果上的阴影的实体,同时仍然表现出竞争力的频繁的实体。
2022-10-12 cs.CL cs.IR
How to Evaluate Entity Resolution Systems: An Entity-Centric Framework with Application to Inventor Name Disambiguation
Duke University(杜克大学);American Institutes for Research(美国研究所);Statistics Canada(加拿大统计局)
针对实体解析系统评估难题,提出以实体为中心的标注与统一评估框架,支持基准构建、性能估计和错误归因,并在发明人姓名消歧及模拟中验证。
2024-04-08 cs.CL cs.LG stat.ME
Robustness Evaluation of Entity Disambiguation Using Prior Probes:the Case of Entity Overshadowing
University of Amsterdam(阿姆斯特丹大学)
实体消歧(ED)是实体链接(EL)的最后一步,当候选实体根据它们出现的上下文重新排序时。所有用于训练和评估EL模型的数据集都由便利样本组成,例如新闻文章和推文,这些样本将实体分布的先验概率偏差传播给更频繁出现的实体。先前表明,EL系统在此类数据集上的性能被高估,因为仅通过学习先验知识就可以获得更高的准确度分数。为了提供更充分的评估基准,我们引入了ShadowLink数据集,其中包括16 K带有实体提及注释的短文本片段。我们评估和报告流行的EL系统的性能的ShadowLink基准。结果表明,在评估中的所有EL系统的更多和更少的共同实体之间的准确性有相当大的差异,表现出先验概率偏差和实体遮蔽的影响。
2021-12-14 cs.CL
Contrastive Entity Coreference and Disambiguation for Historical Texts
Kellogg School of Management, Northwestern University(西北大学凯洛格管理学院);Harvard University(哈佛大学);National Bureau of Economic Research(美国国家经济研究局)
针对历史文本实体跨文档共指与消歧准确率低的问题,本研究构建了含1.9亿实体对的对比训练集与人工标注历史基准,训练的双编码器模型在历史新闻消歧任务上显著优于现有方法,且在现代基准上表现具竞争力。
2024-06-21 cs.CL econ.GN q-fin.EC
An Unsupervised Language-Independent Entity Disambiguation Method and its Evaluation on the English and Persian Languages
Iran University of Science and Technology(伊朗科技大学)
实体链接是信息抽取和自然语言理解的基本任务之一。实体链接主要包括两个任务:命名实体的识别和消歧。大多数研究分别解决这两项任务或仅关注其中之一。此外,大多数最先进的实体链接算法要么是有监督的,这在没有注释语料库的情况下性能很差,要么是语言依赖的,这不适合多语言应用。在本文中,我们介绍了一个无监督的命名无关实体消歧(ULIED),它利用一种新的方法来消除歧义和链接命名实体。ULIED在不同英语实体链接数据集以及唯一可用的波斯语数据集上的评估表明,ULIED在大多数情况下优于最先进的无监督多语言方法。
2021-01-31 cs.AI cs.CL
Improving Entity Disambiguation by Reasoning over a Knowledge Base
Amazon Alexa AI(亚马逊Alexa人工智能部门)
实体消歧(ED)中的最近工作通常忽略了结构化知识库(KB)事实,而是依赖于KB信息的有限子集,例如实体描述或类型。这限制了可以消除实体歧义的上下文的范围。为了允许使用所有的知识库的事实,以及描述和类型,我们引入了一个ED模型,通过推理在一个符号知识库中的一个完全可区分的方式链接实体。我们的模型在六个成熟的ED数据集上平均超过了最先进的基线1.3 F1。通过允许访问所有KB信息,我们的模型对基于流行度的实体先验的依赖性更低,并将具有挑战性的ShadowLink数据集(强调不频繁和模糊的实体)的性能提高了12.7 F1。
2022-07-08 cs.CL
Resolving Indirect Referring Expressions for Entity Selection
Google Research(谷歌研究院)
本文针对对话中人们用间接自然表达在实体间做选择的问题,构建了包含42K实体对的AltEntities数据集,并提出模型实现82%-87%的指代消解准确率。
2023-05-26 cs.CL
End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫应用信息技术研究所);Ruhr University Bochum(波鸿鲁尔大学)
实体链接-将自然语言话语中的实体提及连接到知识图谱(KG)实体是KG上的问答的关键步骤。它通常基于测量实体标签与问题中提到的实体之间的字符串相似性。问题中提到的关系有助于消除具有相同标签的实体之间的歧义。如果在关系链接步骤中已经识别出不正确的关系,则这可能是误导性的。然而,不正确的关系可能仍然在语义上类似于正确实体在KG内形成三元组的关系;这可以通过它们的KG嵌入的相似性来捕获。基于这一思想,我们提出了第一个端到端的神经网络方法,采用KG以及词嵌入来执行简单问题的联合关系和实体分类,同时隐式地执行实体消歧与一种新的门控机制的帮助。实证评估表明,所提出的方法实现了性能相当于国家的最先进的实体链接,同时需要较少的后处理。
2020-02-25 cs.CL
Entity Disambiguation via Fusion Entity Decoding
Cornell University(康奈尔大学);Apple Inc(苹果公司);University of Waterloo(滑铁卢大学);Adobe(奥多比公司)
针对生成式实体消歧忽视实体描述、预训练成本高且生成低效的问题,提出融合候选实体表示的编码器-解码器模型,在 ZELDA 和 GERBIL 上均较现有方法提升 1.5%。
2024-05-08 cs.CL cs.IR
Medical Entity Disambiguation Using Graph Neural Networks
IBM Germany(IBM德国);IBM Research - Almaden(IBM研究院阿尔马登分院);FORTH - Institute of Computer Science(希腊研究与技术基金会计算机科学研究所);Google(谷歌)
从生物医学文献和监管行动中提取的医学知识库(KB)有望提供高质量的信息,以促进临床决策。实体消歧(也称为实体链接)被认为是解锁这种医学知识库的财富的基本任务。然而,现有的医学实体消歧方法是不够的,由于在KB中的实体和源文档中的文本片段之间的单词差异。最近,图神经网络(GNN)已被证明是非常有效的,并为许多具有图结构数据的现实世界应用提供了最先进的结果。在本文中,我们介绍了ED-GNN基于三个代表性的GNN(GraphSAGE,R-GCN和MAGNN)的医疗实体消歧。我们开发了两种优化技术来微调和改进ED-GNN。首先,我们引入了一种新的策略来表示在文本片段中提到的实体作为查询图。其次,我们设计了一个有效的负采样策略,识别硬负样本,以提高模型的消歧能力。与性能最佳的最先进解决方案相比,我们的ED-GNN在五个真实世界数据集上的F1得分平均提高了7.3%。
2021-04-03 cs.CL cs.DB cs.IR
Unsupervised Named Entity Disambiguation for Low Resource Domains
Indian Institute of Technology, Bhilai(布巴内斯瓦尔印度理工学院)
针对低资源领域实体消歧需适配领域知识库、缺训练数据的问题,提出基于组斯坦纳树的无监督方法,利用候选实体上下文相似度消歧,在多领域数据集上Precision@1较现有最优无监督方法平均提升超40%。
2024-12-13 cs.CL
Distributed Entity Disambiguation with Per-Mention Learning
Bell Labs, Nokia(诺基亚贝尔实验室);University College Dublin(都柏林大学学院)
实体消歧或将短语映射到其在知识库中的规范表示是许多自然语言处理应用中的基本步骤。现有的基于全局排名模型的技术无法捕捉单词的个体特性,因此,要么难以满足许多现实世界应用的准确性要求,要么过于复杂,无法满足应用的实时约束。在本文中,我们提出了一个新的消歧系统,学习专门的功能和模型,消除英语中的每个歧义短语。为了训练和验证数十万个学习模型,我们使用了一个维基百科超链接数据集,其中包含超过1.7亿个带标签的注释。我们提供了一个广泛的实验评估表明,我们的方法的准确性比较有利的许多国家的最先进的消歧系统。我们的方法所需的训练可以很容易地分布在一个集群中。此外,为新实体更新我们的系统或为特殊实体校准它是一个计算快速的过程,这不会影响其他实体的消歧。
2016-04-20 cs.CL cs.IR
Pair-Linking for Collective Entity Disambiguation: Two Could Be Better Than All
Nanyang Technological University(南洋理工大学);Wuhan University(武汉大学)
集体实体消歧旨在通过将多个提及链接到知识库中的关联实体来共同解决多个提及。以前的工作主要是基于基本的假设,即同一文档中的实体高度相关。然而,这些提到的实体在现实中实际连接的程度很少被研究,因此提出了有趣的研究问题。这是第一次,我们发现,所提到的实体之间的语义关系实际上是不那么密集的预期。这可以归因于几个原因,如噪声,数据稀疏性和知识库不完整。作为一种补救措施,我们引入MINTREE,一个新的基于树的实体消歧问题的目标。MINTREE背后的关键直觉是一致性松弛的概念,它利用最小生成树的权重来衡量实体之间的一致性。基于这一新目标,我们设计了一种新的实体消歧算法,我们称之为配对链接。Pair-Linking不是考虑所有给定的提及,而是在每一步迭代地选择具有最高置信度的对进行决策。通过大量的实验,我们表明,我们的方法不仅是更准确,而且令人惊讶的速度比许多国家的最先进的集体链接算法。
2018-07-16 cs.CL cs.IR
Cross-Domain Data Integration for Named Entity Disambiguation in Biomedical Text
Stanford University(斯坦福大学);Apple(苹果公司)
命名实体消歧(NED)涉及将文本提及映射到结构化实体,由于稀有实体的存在,在医学领域中特别具有挑战性。现有的方法受到生物医学知识库中粗粒度结构资源的存在以及训练数据集的使用的限制,这些训练数据集提供了对不常见资源的低覆盖率。在这项工作中,我们解决这些问题,提出了一个跨领域的数据集成方法,将结构知识从一般的文本知识库的医疗领域。我们利用我们的集成方案来增加结构资源,并生成一个大型的生物医学NED数据集进行预训练。我们注入结构知识的预训练模型在两个基准医学NED数据集上实现了最先进的性能:MedMentions和BC5CDR。此外,我们将稀有实体的消歧提高了57个准确点。
2021-10-15 cs.AI cs.CL
Story Disambiguation: Tracking Evolving News Stories across News and Social Streams
Insight Centre for Data Analytics(洞察数据分析中心);University College Dublin(都柏林大学学院)
在线跟踪特定新闻故事是一项重要但困难的任务,因为相关信息通常分散在不同的域/源(例如,新闻文章、博客、评论、推文),以各种格式和语言风格呈现,并且可能与数千个其他故事重叠。在这项工作中,我们加入了主题跟踪和实体消歧领域,并提出了一个框架命名为故事消歧-一个跨域的故事跟踪方法,建立在实时实体消歧和学习排名框架,以表示和更新丰富的语义结构的新闻故事。给定一个目标新闻故事,由一组种子文档指定,目标是从传入的文档流中有效地选择新的故事相关文档。我们将故事表示为实体图,并将故事跟踪问题建模为学习排名任务。这使我们能够从多个领域实时跟踪高精度的内容。我们研究了一系列基于文本,实体和图形的功能,以了解哪种类型的功能是最有效的代表故事。我们进一步提出了新的半监督学习技术,随着时间的推移自动更新的故事表示。我们的实证研究表明,我们优于国家的最先进的方法跟踪混合域文档流的准确性,同时需要更少的标记数据种子跟踪的故事。这对于容易被其他趋势故事遮蔽的本地新闻故事以及在嘈杂的流环境中具有模糊内容的复杂新闻故事来说尤其如此。
2018-08-16 cs.CL cs.IR cs.LG
Joint Neural Entity Disambiguation with Output Space Search
Oregon State University(俄勒冈州立大学)
在本文中,我们提出了一种新的实体消歧模型,结合本地上下文信息和全球证据,通过有限的离散搜索(LDS)。给定一个输入文件,我们从一个完整的解决方案构造的局部模型,并进行搜索的空间可能的更正,以改善局部解决方案从全局的观点。我们的搜索利用一个启发式函数,更专注于最不自信的本地决策和修剪功能,以评分的基础上,他们的本地健身和预测实体之间的全球凝聚力的全球解决方案。在CoNLL 2003和TAC 2010上的实验结果验证了该模型的有效性。
2018-06-19 cs.AI cs.CL
Joint Learning of the Embedding of Words and Entities for Named Entity Disambiguation
Studio Ousia(Ousia工作室);Nara Institute of Science and Technology(奈良先端科学技术大学院大学);National Institute of Informatics(国立信息学研究所);Keio University(庆应义塾大学)
命名实体消歧(NED)是指将文档中的多个命名实体提及解析为它们在知识库(KB)中的正确引用的任务(例如,Wikipedia).在本文中,我们提出了一种新的嵌入方法,专门为NED设计。所提出的方法联合映射到同一个连续的向量空间的单词和实体。我们通过使用两个模型扩展了skip-gram模型。KB图模型使用KB的链接结构来学习实体的相关性,而锚上下文模型旨在通过利用KB锚及其上下文单词来对齐向量,使得相似的单词和实体在向量空间中彼此靠近地出现。通过将基于所提出的嵌入的上下文与标准NED特征相结合,我们在标准CoNLL数据集上实现了93.1%的最新准确率,在TAC 2010数据集上实现了85.2%的准确率。
2016-06-10 cs.CL
Benchmarking Named Entity Disambiguation approaches for Streaming Graphs
命名实体消除歧义(NED)是处理自然语言文本的应用程序的中心任务。假设我们有一个基于图的知识库(以下称为知识图谱),其中节点表示各种真实世界实体,如人、位置、组织和概念。给定数据源,如社交媒体流和网页,实体链接是将从数据中提取的命名实体映射到知识图谱中的命名实体的任务。这是一项固有的艰巨任务,原因有几个。几乎所有这些数据源都是在没有任何正式本体的情况下生成的;输入的非结构化性质、有限的上下文以及多个实体映射到同一名称时所涉及的模糊性使这成为一项艰巨的任务。本报告着眼于两种采用两种不同方法的最先进系统:基于图形的实体准确在线消歧(AIDA)和采用统计推断方法的挖掘证据命名实体消歧(MENED)。我们使用2011年NIST文本分析会议(TAC)上的知识库人口(KBP)跟踪提供的数据集和查询来比较这两种方法。本报告首先概述了各自的方法,然后详细描述了实验装置。报告最后提出了我们在基准测试工作中的发现。
2014-07-14 cs.CL cs.IR
Collective Entity Disambiguation with Structured Gradient Tree Boosting
Bloomberg LP(彭博有限合伙企业)
我们提出了一个基于梯度树的结构化学习模型,用于联合消除文档中命名实体的歧义。梯度树提升是一种广泛使用的机器学习算法,是许多高性能自然语言处理系统的基础。令人惊讶的是,尽管语言具有结构化的性质,但大多数作品都限制使用梯度树提升作为常规分类或回归问题的工具。据我们所知,我们的工作是第一个采用结构化梯度树提升(SGTB)算法的集体实体消歧。通过定义全局功能在以前的消歧决策,并共同建模与本地功能,我们的系统是能够产生全局优化的实体分配提到的文件。精确推理对于我们的全局规范化模型来说是非常昂贵的。为了解决这个问题,我们提出了双向束搜索与黄金路径(BiBSG),一个近似推理算法,是一个变种的标准束搜索算法。BiBSG利用来自过去和未来的全局信息来执行更好的局部搜索。标准基准数据集上的实验表明,SGTB显着提高发表的结果。具体来说,SGTB在流行的AIDA-CoNLL数据集上的绝对准确率接近1%,优于之前最先进的神经系统。
2018-04-24 cs.CL
Cluster-based Mention Typing for Named Entity Disambiguation
Boğaziçi University(博阿齐奇大学)
本文提出基于聚类的提及类型标注方法,利用维基百科上下文聚类生成类型,辅助命名实体消歧,在多个测试集上达到或超越最先进水平。
2021-09-23 cs.CL
Jointly Embedding Entities and Text with Distant Supervision
The Ohio State University(俄亥俄州立大学);National Institutes of Health(美国国立卫生研究院);Washington University in St. Louis(圣路易斯华盛顿大学)
知识库实体和概念的学习表示对于NLP应用变得越来越重要。然而,最近的实体嵌入方法依赖于为新域和语料库创建昂贵的结构化资源。我们提出了一种远程监督的方法,用于联合学习嵌入的实体和文本从unnanotated语料库,只使用实体和表面形式之间的映射列表。我们从开放领域和生物医学语料库中学习嵌入,并与依赖于人类注释文本或大型知识图谱结构的先前方法进行比较。我们的嵌入比以前的工作更好地捕捉实体相似性和相关性,无论是在现有的生物医学数据集还是我们发布给社区的新的基于维基百科的数据集。类比完成和实体意义消歧的结果表明,实体和词捕捉互补的信息,可以有效地结合下游使用。
2018-07-09 cs.AI cs.CL
Evaluating Design Decisions for Dual Encoder-based Entity Disambiguation
Humboldt-Universität zu Berlin(柏林洪堡大学)
本文系统评估基于双编码器的实体消歧在损失、相似度、标签言语化和负采样上的设计,提出 VerbalizED 及迭代预测变体,并在 AIDA-Yago 与 ZELDA 上取得最先进结果。
2025-05-16 cs.CL
Contextual Augmentation for Entity Linking using Large Language Models
Data Science Group, Paderborn University(数据科学组,帕德博恩大学)
针对传统实体链接两步流程计算成本高、效果有限的问题,提出联合实体识别与消歧的微调模型,结合大语言模型进行上下文增强,在域外基准数据集上实现了当前最优性能。
2025-10-17 cs.AI cs.CL
Evaluating the Impact of Knowledge Graph Context on Entity Disambiguation Models
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Zerotha Research;Cerence GmbH;University of Bonn(波恩大学);Goldman Sachs(高盛)
预训练的Transformer模型已经成为最先进的方法,可以从文本中学习上下文信息,以提高几个NLP任务的性能。这些模型虽然强大,但仍然需要特定场景的专业知识。在本文中,我们认为,来自知识图谱(在我们的情况下:维基数据)的上下文提供了足够的信号,以通知预训练的Transformer模型,并提高其性能命名实体消歧(NED)的维基数据KG。我们进一步假设,我们提出的KG上下文可以标准化的维基百科,我们评估KG上下文的影响,最先进的NED模型的维基百科知识库。我们的实证结果验证了所提出的KG上下文可以被推广(用于维基百科),并且在Transformer架构中提供KG上下文的性能大大优于现有的基线,包括香草Transformer模型。
2020-08-30 cs.AI cs.CL
Coherent Entity Disambiguation via Modeling Topic and Categorical Dependency
Rice University(莱斯大学);Duke University(杜克大学);Microsoft STCA(微软STCA)
针对现有实体消歧方法话语层面依赖捕捉不足、预测连贯性差的问题,提出融合VAE主题提取与外部类别存储器的CoherentED系统,在主流基准上取得SOTA结果,长文本场景表现优异。
2023-11-06 cs.AI cs.CL
Detection, Disambiguation, Re-ranking: Autoregressive Entity Linking as a Multi-Task Problem
University of California, San Diego(加州大学圣地亚哥分校);Meta AI
我们提出了一个自回归实体链接模型,该模型使用两个辅助任务进行训练,并学会在推理时对生成的样本进行重新排序。我们提出的新颖性解决了文献中的两个弱点。首先,最近的方法提出学习提及检测,然后实体候选选择,但依赖于预定义的候选集。我们使用编码器-解码器自回归实体链接,以绕过这一需要,并提出了训练提及检测作为一个辅助任务。其次,以前的工作表明,重新排序可以帮助纠正预测错误。我们添加了一个新的辅助任务,匹配预测,以学习重新排名。在不使用知识库或候选集的情况下,我们的模型在实体链接的两个基准数据集中设置了一个新的最新技术水平:生物医学领域的COMETA和新闻领域的AIDA-CoNLL。我们通过消融研究表明,两个辅助任务中的每一个都可以提高性能,并且重新排名是提高性能的重要因素。最后,我们的低资源实验结果表明,主要任务的性能受益于辅助任务所学到的知识,而不仅仅是额外的训练数据。
2022-04-12 cs.CL
Large Language Models and Knowledge Graphs for Astronomical Entity Disambiguation
本文提出结合GPT-4与Leiden图聚类,对天文文本中的实体进行关系抽取、知识图谱构建与消歧,验证了该方法在实体识别和聚类分组上的有效性。
2024-06-17 astro-ph.IM cs.CL
TANKER: Distributed Architecture for Named Entity Recognition and Disambiguation
InfAI, University of Leipzig(莱比锡大学 InfAI);AKSW, University of Leipzig(莱比锡大学 AKSW);SDA Research Group, University of Bonn(波恩大学 SDA 研究组)
命名实体识别和消歧(NERD)系统近来被广泛研究以处理Web的显著增长。NERD系统对于几个自然语言处理(NLP)任务至关重要,例如摘要、理解和机器翻译。然而,没有标准的接口规范,也就是说,这些系统在输出或处理输入方面可能会有很大的不同。因此,当一个给定的公司希望实施一个以上的NERD系统,该过程是相当详尽的,容易失败。此外,工业解决方案需要满足关键要求,例如,加工规模大、齐全、多功能、许可证多。通常,这些要求强加了一个限制,使得好的NERD模型被公司忽略。本文介绍了TANKER,一个分布式架构,其目的是克服可扩展性,可靠性和容错限制相关的工业需求相结合NERD系统。为此,TANKER依赖于面向微服务的架构,该架构可以实现复杂企业应用程序的敏捷开发和交付。此外,TANKER还提供了标准化的API,可以同时组合多个NERD系统。
2017-10-25 cs.CL
High-Throughput and Language-Agnostic Entity Disambiguation and Linking on User Generated Data
Lithium Technologies | Klout
实体消歧和链接(EDL)任务将文本中提到的实体与唯一的知识库(KB)标识符(如Wikipedia或Freebase ID)进行匹配。它在构建高质量信息网络中起着关键作用,并且可以进一步用于各种信息检索和NLP任务,如文本分类和文档标记。由于提及的模糊性和现实世界的文本是多语言的,因此EDL是一个复杂且具有挑战性的问题。此外,EDL系统需要具有高吞吐量,并且应该是轻量级的,以便扩展到大型数据集并在现成的机器上运行。更重要的是,这些系统需要能够从数据中提取密集注释并消除其歧义,以便使在数据上运行的信息检索或提取任务更加高效和准确。为了解决所有这些挑战,我们提出了Lithium EDL系统和算法-一种高吞吐量,轻量级,语言无关的EDL系统,比最先进的EDL系统多提取和正确消歧75%的实体,并且比它们快得多。
2017-03-13 cs.AI cs.CL cs.IR
Analysis of Named Entity Recognition and Linking for Tweets
University of Sheffield(谢菲尔德大学);EURECOM;Università di Torino(都灵大学);VU University Amsterdam(阿姆斯特丹自由大学)
将自然语言处理应用于对推文(微博的一种形式)的挖掘和智能信息访问是一个具有挑战性的新兴研究领域。与精心撰写的新闻文本和其他较长的内容不同,推文由于其简短,嘈杂,上下文相关和动态的性质而带来了许多新的挑战。来自推文的信息抽取通常在流水线中执行,流水线包括语言识别、标记化、词性标记、命名实体识别和实体消歧(例如,关于DBpedia)的连续阶段。在这项工作中,我们描述了一个新的Twitter实体消歧数据集,并进行了实证分析的命名实体识别和消歧,调查如何强大的一些国家的最先进的系统是这样的嘈杂的文本,错误的主要来源是什么,以及哪些问题应该进一步研究,以提高最先进的。
2014-10-27 cs.CL
Biomedical Mention Disambiguation using a Deep Learning Approach
自然语言文本中命名实体的自动定位--命名实体识别--是生物医学领域的一个重要课题。然而,许多命名实体提及在几种生物概念类型之间是模糊的,这导致当同时识别多个实体类型时,文本跨度被注释为多于一种类型。简单的解决方案是基于规则的方法,根据每个实体标记器的精度(从最高到最低)应用优先级顺序。虽然这种方法是直接和有用的,不精确的消歧仍然是一个重要的错误来源。我们通过生成一个部分标记的模糊概念提及语料库来解决这个问题。我们首先从多个人工策划的数据库(例如CTDbase,gene 2 pubmed)收集命名实体提及,然后将它们与PubTator的文本挖掘跨度相关联,以提供提及出现的上下文。我们的语料库包含超过300万个概念提及,在PubTator中的一个或多个概念类型之间存在歧义(约占所有提及的3%)。我们将此任务视为分类问题,并开发了一种基于深度学习的方法,该方法使用被分类的跨度和周围单词的语义来识别最可能的生物概念类型。更具体地说,我们开发了卷积神经网络(CNN)和短期记忆(LSTM)网络来分别处理语义语法特征,然后将这些连接在一个完全连接的层中进行最终分类。基于优先级排序规则的方法表现出71.29%(微观平均)和41.19%(宏观平均)的F1-分数,而新的消歧方法表现出91.94%(微观平均)和85.42%(宏观平均)的F1-分数,一个非常大的增加。
2019-09-23 cs.CL
BELHD: Improving Biomedical Entity Linking with Homonoym Disambiguation
Humboldt-Universität zu Berlin(柏林洪堡大学)
BELHD是一种基于名称的生物医学实体链接新方法,通过KB预处理扩展同名实体和候选共享策略增强对比学习,有效解决同名消歧问题,在多个语料库上取得显著性能提升。
2024-01-10 cs.CL
Evaluating LLMs on Entity Disambiguation in Tables
University of Milan-Bicocca(米兰-比科卡大学);SINTEF(辛特夫研究院)
针对现有表格实体消歧方法缺乏统一评估的问题,本研究在统一基准下对比了启发式算法、不同架构大语言模型及GPT系列模型的性能与成本,为该领域研究指明新方向。
2024-10-31 cs.AI cs.CL
Beyond Agreement: Scoring Panel-Surfaced Biomedical Entity Candidates for Curator Triage
University of California, San Diego(加州大学圣地亚哥分校);University of Michigan, Ann Arbor(密歇根大学安娜堡分校);The Hong Kong University of Science and Technology, Guangzhou(香港科学与技术大学(广州));ShanghaiTech University(上海科技大学);University of North Carolina, Chapel Hill(北卡罗来纳大学教堂山分校)
提出BioConCal评分器,利用无金标准的一致性、提及、表面可用性和文档特征,对多LLM面板筛选的候选实体进行评分,显著提高候选筛选的精确率和召回率。
2026-05-29 cs.AI cs.CL
Verify-in-the-Graph: Entity Disambiguation Enhancement for Complex Claim Verification with Interactive Graph Representation
Viettel Artificial Intelligence and Data Services Center(越南 Viettel 人工智能与数据服务中心);Viettel Group(越南 Viettel 集团)
提出 VeGraph 框架,利用 LLM 智能体通过图表示、实体消歧和验证三阶段解决复杂声明验证中的实体模糊问题,在 HoVer 和 FEVEROUS 基准上表现优异。
2025-05-29 cs.AI cs.CL cs.DB
Select, Don't Train: The Benefits of Modular Entity Disambiguation with LLM-Based Selection
University of Amsterdam(阿姆斯特丹大学);Vrije Universiteit Amsterdam(阿姆斯特丹自由大学);Aarhus University(奥胡斯大学)
该研究提出将实体消歧的检索与选择解耦,基于LLM选择器对比不同检索策略,发现无需训练的BM25搭配LLM选择器在ZELDA基准上达到先进性能,还支持检测到检索失败时弃权,提升了实体消歧效果。
2026-08-31 cs.AI cs.CL cs.DB
Highly Parallel Autoregressive Entity Linking with Discriminative Correction
University of Amsterdam(阿姆斯特丹大学);University of Edinburgh(爱丁堡大学)
生成方法最近已经被证明对于实体消歧和实体链接都是有效的(即,联合提及检测和消歧)。然而,先前提出的用于EL的自回归公式遭受i)由于复杂(深度)解码器导致的高计算成本,ii)与源序列长度成比例的不可并行解码,以及iii)需要在大量数据上训练。在这项工作中,我们提出了一个非常有效的方法,并行化所有潜在的提及自回归链接,并依赖于一个浅而有效的解码器。此外,我们用一个额外的判别成分来增强生成目标,即,一个校正项,它可以让我们直接优化发电机的排名。综合起来,这些技术解决了上述所有问题:我们的模型比以前的生成方法快70倍以上,准确度更高,在标准英语数据集AIDA-CoNLL上的表现优于最先进的方法。源代码可在https://github.com/nicola-decao/efficient-autoregressive-EL获得
2021-09-08 cs.AI cs.CL stat.ML
A Multi-Agent LLM Framework for Multi-Domain Low-Resource In-Context NER via Knowledge Retrieval, Disambiguation and Reflective Analysis
KDR-Agent通过知识检索、消歧和反思分析,提升多领域低资源情境下命名实体识别的性能
2025-11-24 cs.CL
ProtagonistTagger -- a Tool for Entity Linkage of Persons in Texts from Various Languages and Domains
Warsaw University of Technology(华沙工业大学)
命名实体识别和消歧可以为文本中已识别的命名实体添加语义上下文。文本中的命名实体链接,无论是哪个领域,都提供了非结构化文本中提到的实体与现实世界对象的各个实例之间的链接。在这张海报中,我们为文本中的NER和NED提供了一个工具--programonistTagger。该工具在从经典英语小说和波兰互联网新闻中提取的文本上进行了测试。该工具的性能(准确率和召回率)在78%甚至88%之间波动。
2022-03-13 cs.CL
TopExNet: Entity-Centric Network Topic Exploration in News Streams
Heidelberg University(海德堡大学)
最近引入的以实体为中心的隐式网络表示的非结构化文本提供了新的方式来探索文档集合和流中的实体关系,有效地和交互式。在这里,我们将TopExNet作为一种工具,用于探索新闻文章流中以实体为中心的网络主题。该应用程序作为Web服务在https://topexnet.ifi.uni-heidelberg.de/上提供。
2019-05-31 cs.CL
A Brief History of Named Entity Recognition
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
本文综述了命名实体识别(NER)自1996年以来的技术演进,比较了从监督到无监督学习方法的结果,强调其在知识库构建中的关键作用。
2024-11-07 cs.CL
End-to-End Neural Entity Linking
ETH Zürich(苏黎世联邦理工学院)
实体链接是语义文本理解和信息抽取的一项重要任务。流行的方法分别解决EL的提及检测(MD)和实体消歧(ED)阶段,而不利用它们的相互依赖性。我们在这里提出了第一个神经端到端EL系统,共同发现和链接文本文档中的实体。其主要思想是将所有可能的跨度视为潜在的提及,并在其实体候选项上学习上下文相似性分数,这对MD和ED决策都很有用。关键组件是上下文感知提及嵌入,实体嵌入和概率提及-实体映射,而不需要其他工程特性。经验上,我们表明,我们的端到端的方法显着优于流行的系统在沙鼠平台上有足够的训练数据。相反,如果测试数据集与训练集相比遵循不同的注释约定(例如查询/推文与新闻文档),则我们的ED模型与传统的NER系统相结合,可以提供最佳或第二佳的EL准确性。
2018-08-29 cs.CL
Boosting Entity Mention Detection for Targetted Twitter Streams with Global Contextual Embeddings
Binghamton University(宾汉姆顿大学);Temple University(天普大学)
像Twitter这样的微博客网站已经成为无处不在的信息来源。微博信息自动提取和分析的两个重要任务是实体提及检测和实体检测。最先进的EMD系统旨在通过在离线静态数据集上训练来对微博文本的非文学性质进行建模。它们从单个消息中提取表面级特征(拼写、词汇和语义)的组合,用于噪声文本建模和实体提取。但是,鉴于微博流的不断发展的性质,从这种变化但有限的短消息上下文中检测所有实体提及仍然是一个困难的问题。为此,我们提出了一个名为EMD Globalizer的框架,更适合于EMD学习者在微博流上的执行。它偏离了现有EMD系统对孤立微博消息的处理,在现有EMD系统中,从消息的直接上下文中学习到的知识用于建议实体。在EMD系统初始提取实体候选者之后,所提出的框架利用发生挖掘来找到在第一次检测期间错过的其他候选者提及。聚合这些提及的局部上下文表示,从流内的实体候选的集体上下文中提取全局嵌入。然后,利用全局嵌入将候选者中的实体与误报分离。流中提到的所有实体都在框架的最终输出中产生。我们的实验表明,EMD Globalizer可以提高我们测试的所有现有EMD系统的有效性(平均提高25.61%),只需少量额外的计算开销。
2022-01-28 cs.CL
Mapping Text to Knowledge Graph Entities using Multi-Sense LSTMs
University of Cambridge(剑桥大学)
本文讨论了自然语言文本到知识库实体的映射问题。该映射过程被视为从知识图谱中获得的多维实体空间中的点中的短语或句子的组合。组合模型是一个LSTM,在输入词嵌入上配备了动态消歧机制(Multi-Sense LSTM),解决了多义问题。此外,知识库空间是通过收集随机游走与文本特征,作为一组文本和知识库实体之间的语义桥梁增强图准备。这项工作的想法是证明了大规模的文本到实体的映射和实体分类任务,与国家的最先进的结果。
2018-08-23 cs.AI cs.CL cs.LG