Generative Relation Linking for Question Answering over Knowledge Bases
IBM Research T.J. Watson Research Center(IBM研究院托马斯·J·沃森研究中心)
关系链接对于在知识库上实现问答是必不可少的。尽管有各种努力来提高关系链接性能,但是当前最先进的方法没有实现最佳结果,因此,负面地影响了整体端到端问答性能。在这项工作中,我们提出了一种新的方法,关系链接框架,它作为一个生成的问题,促进使用预先训练的序列到序列模型。我们扩展这样的序列到序列模型的想法注入结构化数据从目标知识库,主要是为了使这些模型来处理知识库的细微差别。此外,我们训练模型的目的是生成一个结构化的输出,包括一个列表的参数关系对,使知识验证步骤。我们比较了我们的方法对现有的关系链接系统的四个不同的数据集来自DBpedia和Wikidata。我们的方法报告了对最先进技术的巨大改进,同时使用了一个更简单的模型,可以很容易地适应不同的知识库。
2021-08-16 cs.AI cs.CL
Where on Earth Do Users Say They Are?: Geo-Entity Linking for Noisy Multilingual User Input
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
针对嘈杂多语言社交媒体数据的地理实体链接问题,提出利用已标注位置名称的平均嵌入表示现实位置,并通过可解释置信度分数实现选择性预测,有效提升了全球多语言数据集上的链接效果。
2024-04-29 cs.AI cs.CL
Team Fusion@ SU@ BC8 SympTEMIST track: transformer-based approach for symptom recognition and linking
FMI, Sofia University St. Kliment Ohridski(索非亚大学圣克利门特奥赫里德斯基学院数学与信息学系);Ontotext
本文提出基于 transformer 的方法解决 SympTEMIST 命名实体识别和实体链接任务,通过微调 RoBERTa 模型和知识库选择提升准确性。
2026-04-07 cs.AI cs.CL
EARL: Joint Entity and Relation Linking for Question Answering over Knowledge Graphs
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
许多基于知识图谱的问答系统依赖于实体和关系链接组件,以便将自然语言输入连接到底层知识图谱。传统上,实体链接和关系链接被执行为相关的顺序任务或独立的并行任务。在本文中,我们提出了一个框架,称为EARL,它执行实体链接和关系链接作为一个联合任务。EARL实现了两种不同的解决方案的策略,我们提供了本文的比较分析:第一种策略是形式化的联合实体和关系链接任务的一个实例的广义旅行推销员问题(GTSP)。为了在计算上可行,我们采用近似的GTSP求解器。第二种策略使用机器学习以利用知识图谱中节点之间的连接密度。它依赖于三个基本特征和重新排序步骤来预测实体和关系。我们比较了这些策略,并在一个包含5000个问题的数据集上进行了评估。这两种策略显着优于目前国家的最先进的实体和关系链接的方法。
2018-06-25 cs.AI cs.CL
Approach for Semi-automatic Construction of Anti-infective Drug Ontology Based on Entity Linking
Peking University(北京大学);IER Business Development Center(IER业务发展中心)
本体可用于自然语言的解释。为了构建抗感染药物本体,需要设计和部署一个方法步骤来执行实体发现和链接。医学同义词资源是医学自然语言处理的重要组成部分。但也存在查准率低、查全率低等问题。在这项研究中,采用自然语言处理的方法来产生候选实体。对开放本体进行分析,提取语义关系。选择六词向量特征和词级特征进行实体链接。研究了单一特征和不同特征组合的同义词提取结果。实验表明,我们选择的特征已经达到了86.77%的准确率,89.03%的召回率和87.89%的F1得分。本文最后给出了所提出的本体的结构和相关的统计数据。
2018-12-05 cs.AI cs.CL
Towards Combinational Relation Linking over Knowledge Graphs
Fudan University(复旦大学);Wuhan University of Science and Technology(武汉科技大学)
给定一个自然语言短语,关系链接旨在从底层知识图谱中找到一个关系(谓词或属性)以匹配该短语。它在自然语言问答、个性化推荐、文本摘要等方面有着广泛的应用前景。然而,以前的关系链接算法通常为输入短语产生单个关系,而很少关注更一般和更具有挑战性的问题,即,组合关系链接,其提取子图模式以匹配复合短语(例如,mother-in-law)。本文主要研究知识图谱上的组合关系连接问题。为了解决这个问题,我们设计了一个系统的方法,基于数据驱动的关系组装技术,这是在Meta模式的指导下进行的。我们还引入了外部知识,以提高系统的理解能力。最后,我们在真实的知识图谱上进行了大量的实验,以研究所提出的方法的性能。
2019-10-24 cs.AI cs.CL
Entity Linking Meets Deep Learning: Techniques and Solutions
Nankai University(南开大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Tsinghua University(清华大学);Jiangsu Normal University(江苏师范大学)
实体链接(EL)是将出现在Web文本中的实体提及与知识库中相应的实体链接的过程。EL在知识工程和数据采掘领域发挥着重要作用,是知识库填充、内容分析、关系抽取和问答等各种下游应用的基础。近年来,在各个领域取得巨大成功的深度学习(DL)也被用于EL方法,以超越传统的基于机器学习的方法并产生最先进的性能。在这项调查中,我们提出了一个全面的审查和分析现有的DL为基础的EL方法。首先,我们提出了一个新的分类,它组织现有的DL基于EL方法使用三个轴:嵌入,功能和算法。然后,我们系统地调查代表EL方法沿三个轴的分类。随后,我们介绍了10个常用的EL数据集,并给出了定量的性能分析基于DL的EL方法在这些数据集。最后,我们讨论了现有方法的局限性,并强调了一些有前途的未来方向。
2021-09-26 cs.AI cs.CL
Medical Entity Linking using Triplet Network
IIT Kharagpur(印度理工学院卡拉格普尔分校);Excelra Knowledge Solutions Pvt Ltd(Excelra知识解决方案私人有限公司)
实体链接(或规范化)是文本挖掘中的一项重要任务,它将医学文本中提到的实体映射到给定知识库(KB)中的标准实体。这项工作在医学领域具有重要意义。它还可以用于合并不同的医学和临床本体。在本文中,我们围绕疾病的链接或正常化的问题。该任务分两个阶段执行:候选人生成和候选人评分。在本文中,我们提出了一种方法来排名的候选知识库条目的基础上,他们的相似性与疾病的提及。我们使用三重网络进行候选人排名。虽然现有的方法已经使用精心生成的筛子和外部资源的候选生成,我们引入了一个强大的和便携式的候选生成方案,不使用手工制作的规则。在标准基准NCBI疾病数据集上的实验结果表明,我们的系统比以前的方法有显着的优势。
2020-12-21 cs.AI cs.CL
PNEL: Pointer Network based End-To-End Entity Linking over Knowledge Graphs
Language Technology Group, Universität Hamburg(汉堡大学语言技术组);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Smart Data Analytics Group, University of Bonn(波恩大学智能数据分析组)
问答系统通常被建模为由一系列步骤组成的流水线。在这样的管道中,实体链接(EL)通常是第一步。几个EL模型首先执行跨度检测,然后实体消歧。在这样的模型中,来自跨度检测相位的误差级联到后面的步骤,并导致整体精度的下降。此外,训练数据中缺乏黄金实体跨度是跨度检测器训练的限制因素。因此,向端到端EL模型的移动开始于不涉及单独的跨度检测步骤的地方。在这项工作中,我们提出了一种新的方法,端到端EL通过应用流行的指针网络模型,实现了竞争力的性能。我们在维基数据知识图谱上的三个数据集上进行了评估。
2020-08-31 cs.AI cs.CL
Zero-shot Entity Linking with Efficient Long Range Sequence Modeling
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Google Research(谷歌研究院)
本文考虑了zero-shot实体链接问题,其中测试时间内的链接可能在训练中不存在。在基于BERT的研究成果的基础上,我们发现一个简单而有效的方法是扩展远程序列建模。与许多以前的方法不同,我们的方法不需要昂贵的长位置嵌入BERT的预训练。相反,我们提出了一种有效的位置嵌入初始化方法称为Embedding-repeat,它基于BERT-Base来处理更大的位置嵌入。在Wikia的zero-shot EL数据集上,我们的方法将SOTA从76.06%提高到79.08%,对于其长数据,相应的提高从74.57%提高到82.14%。我们的实验表明了长距离序列建模的有效性,而无需重新训练BERT模型。
2020-10-12 cs.AI cs.CL
Implicit Entity Linking in Tweets
Kno.e.sis Center, Wright State University(莱特州立大学Kno.e.sis中心);IBM Research(IBM研究院)
多年来,Twitter已成为最大的通信平台之一,为品牌监控、趋势检测等各种应用提供关键数据。实体链接是从推文理解自然语言的主要任务之一,它将文本中的实体提及与知识库中的对应条目相关联,以便提供明确的解释和附加上下文。最先进的技术集中在链接推文中明确提到的实体,并取得了一定的成功。然而,我们认为,除了明确提到,即电影重力比火星轨道飞行器任务实体(电影重力)更昂贵,也可以含蓄地提到,即这部新的太空电影是疯狂的。你一定要看!介绍了推文中的隐式实体链接问题。我们提出了一种方法,模型的实体,利用他们的事实和背景知识。我们演示了如何使用这些模型来执行隐式实体链接的地面实况数据集与397推文从两个域,即电影和书籍。具体而言,我们显示:1)链接隐式实体的重要性及其对标准实体链接任务的附加值,以及2)利用与实体相关联的上下文知识来链接它们的隐式提及的重要性。我们还公开了地面实况数据集,以促进这一新研究领域的研究。
2017-07-26 cs.AI cs.CL
Argument-Aware Approach To Event Linking
Information Science Institute, University of Southern California(南加州大学信息科学研究所);Computer Science Department, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系);Cisco Research(思科研究)
本文提出论元感知的事件链接方法,通过标注事件论元增强输入并合成知识库外训练样本,在两个数据集上显著提升了知识库内和知识库外事件链接性能。
2024-06-06 cs.AI cs.CL
BERT might be Overkill: A Tiny but Effective Biomedical Entity Linker based on Residual Convolutional Neural Networks
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
生物医学实体链接是将生物医学文档中提及的实体链接到知识库中的引用实体的任务。最近,许多基于BERT的模型已被引入的任务。虽然这些模型在许多数据集上取得了有竞争力的结果,但它们的计算成本很高,包含约1.1亿个参数。关于导致其令人印象深刻的性能的因素以及是否需要过度参数化的因素知之甚少。在这项工作中,我们揭示了这些大型BERT模型的内部工作机制。通过一组探测实验,我们已经发现,实体连接性能只有轻微的变化时,输入的词序是洗牌或当注意范围被限制在一个固定的窗口大小。从这些观察,我们提出了一个有效的卷积神经网络与剩余连接的生物医学实体链接。由于稀疏连接和权重共享属性,我们的模型具有少量的参数,是高效的。在五个公共数据集上,我们的模型实现了与最先进的基于BERT的模型相当甚至更好的链接准确性,同时具有大约60倍的参数。
2021-09-06 cs.AI cs.CL
Clustering-based Inference for Biomedical Entity Linking
College of Information and Computer Sciences University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校信息与计算机科学学院);Chan Zuckerberg Initiative(陈-扎克伯格倡议)
由于生物医学知识库中存在大量的实体,只有一小部分实体具有相应的标记训练数据。这就需要实体链接模型,这些模型能够使用学习到的实体表示来链接提到的不可见实体。以前的方法独立地链接每个提及,忽略了实体提及之间的文档内和跨文档的关系。这些关系对于生物医学文本中的链接提及非常有用,其中链接决定通常很困难,因为提及具有通用或高度专业化的形式。在本文中,我们介绍了一个模型,在该模型中,不仅可以通过链接到一个知识库实体,但也通过分组多个提到一起,通过聚类和共同作出链接预测的链接决策。在最大的公开生物医学数据集上的实验中,我们将实体链接的最佳独立预测提高了3.0个点的准确性,并且我们基于聚类的推理模型进一步提高了实体链接2.3个点。
2021-04-08 cs.CL
Neural Networks Models for Entity Discovery and Linking
iFLYTEK Research(科大讯飞研究院);University of Science and Technology of China(中国科学技术大学);York University(约克大学)
本文介绍了提交给2016年TAC知识库人口(KBP)竞赛三语实体检测和链接(EDL)赛道的USTC_NELSLIP系统。我们已经建立了两个系统的实体发现和提及检测(MD):一个使用条件RNNLM和其他一个使用基于注意力的编码器-解码器框架。实体链接(EL)系统包括两个模块:基于规则的候选生成和神经网络概率排序模型。此外,一些简单的字符串匹配规则被用于NIL聚类。最后,我们最好的系统在端到端类型的提及ceaf plus指标中获得了0.624的F1分数。
2016-11-11 cs.AI cs.CL cs.IR
LELA: an LLM-based Entity Linking Approach with Zero-Shot Domain Adaptation
Télécom Paris Institut Polytechnique de Paris(巴黎电信理工学院)
LELA是一种基于大语言模型的实体链接方法,通过零样本领域适应实现高效准确的实体链接,优于传统微调方法。
2026-08-07 cs.CL
A Practical Entity Linking System for Tables in Scientific Literature
GE Research(GE研究中心);University of Maryland, Baltimore County(马里兰大学巴尔的摩县分校)
本文提出一个通用实体链接系统,用于将科学文献表格中的实体链接到 Wikidata,并针对 COVID-19 文献进行适配,利用表格结构特征提升性能,且通过离线实例增强实用性。
2023-06-12 cs.AI cs.CL cs.IR
Entity Linking with people entity on Wikipedia
Emory University(埃默里大学)
本文介绍了一种新的模型,使用命名实体识别,共指消解,和实体链接技术,在维基百科的人页面上的人实体链接到相应的维基百科页面,如果适用的任务。我们的任务不同于一般和传统的实体链接,因为我们是在一个有限的领域,即人的实体,我们包括代词作为实体,而在过去,代词从来没有被认为是实体链接的实体。我们已经建立了2个模型,都明显优于我们的基线模型。我们的项目的目的是建立一个模型,可以用来生成更干净的数据,为未来的实体链接任务。我们的贡献包括一个干净的数据集,包括50个维基百科人物页面,和2个实体链接模型,专门为这个领域调整。
2017-05-02 cs.CL
Linking Entities to Unseen Knowledge Bases with Arbitrary Schemas
Amazon AI(亚马逊人工智能(Amazon AI))
在实体链接中,原始文本中提到的命名实体将根据知识库(KB)进行消歧。这项工作的重点是链接到看不见的知识库,没有训练数据,其模式是未知的训练期间。我们的方法依赖于将具有多个属性值对的任意KB中的实体灵活转换为平面字符串的方法,我们将其与最先进的模型结合使用以进行零次(zero-shot)链接。为了提高我们的模型的泛化能力,我们使用了两种正则化方案,基于实体属性的洗牌和看不见的属性的处理。在英语数据集上进行的实验表明,我们的模型在CoNLL数据集上进行训练,并在TAC-KBP 2010数据集上进行测试,结果表明,我们的模型比基线模型的准确度高出12个点以上。与之前的工作不同,我们的方法还允许无缝组合多个训练数据集。我们通过添加一个完全不同的数据集(Wikia)以及增加TAC-KBP 2010训练集的训练数据来测试这种能力。我们的模型在各方面都表现良好。
2020-10-21 cs.CL
An Entity Linking Agent for Question Answering
The Chinese University of Hong Kong(香港中文大学);McGill University(麦吉尔大学);Mila - Quebec AI Institute(魁北克AI研究院);Huawei Noah’s Ark Lab(华为诺亚实验室)
本文提出了一种基于大语言模型的实体链接代理,用于解决问答任务中短且模糊用户问题的实体链接问题,通过两个实验验证了其有效性。
2026-05-20 cs.CL
Find the Funding: Entity Linking with Incomplete Funding Knowledge Bases
Radboud University(拉德堡德大学);Elsevier(爱思唯尔)
从学术文章中自动提取资金信息为行业和研究社区增加了重要价值,例如跟踪资助组织的研究成果,根据收到的资金对研究人员和大学进行分析,以及支持开放获取政策。识别和链接资助实体的两个主要挑战是:(i)知识库(KB)的稀疏图结构,这使得常用的基于图的实体链接方法对于资助领域不是最佳的,(ii)知识库中的缺失实体,这(与最近的zero-shot方法不同)需要将没有知识库条目的实体提及标记为NIL。我们提出了一个实体链接模型,可以执行NIL预测,并以时间和数据有效的方式克服数据稀缺问题。我们的模型建立在一个基于transformer的提及检测和双编码器模型来执行实体链接。我们表明,我们的模型优于强大的现有基线。
2022-09-20 cs.CL cs.LG
Fast and Effective Biomedical Entity Linking Using a Dual Encoder
Rutgers University–New Brunswick(罗格斯大学新伯朗士威校区);Hasso Plattner Institute(哈索·普拉特纳研究所);University of Potsdam(波茨坦大学)
生物医学实体链接是识别文本文档中提到的生物医学概念并将其映射到目标词库中的规范实体的任务。使用基于BERT的模型的实体链接的最新进展遵循检索和重新排序范例,其中候选实体首先使用检索器模型进行选择,然后检索到的候选实体由重新排序器模型进行排序。虽然这种范例产生了最先进的结果,但它们在训练和测试时都很慢,因为它们一次只能处理一个提及。为了缓解这些问题,我们提出了一种基于BERT的双编码器模型,可以一次性解决文档中的多个提及。我们表明,我们提出的模型比现有的基于BERT的模型快数倍,同时在生物医学实体链接的准确性方面具有竞争力。此外,我们修改了我们的双编码器模型的端到端的生物医学实体链接,执行提及跨度检测和实体消歧,并优于最近提出的两个模型。
2021-03-08 cs.CL
Improving Entity Linking by Modeling Latent Relations between Mentions
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
实体链接涉及将命名实体的文本提及与知识库中相应的条目对齐。实体链接系统经常利用文档中的文本提及之间的关系(例如,共同引用)以决定链接决定是否兼容。与以前的方法不同,这些方法依赖于监督系统或统计学来预测这些关系,我们将关系视为神经实体链接模型中的潜在变量。我们在没有任何监督的情况下诱导关系,同时以端到端的方式优化实体链接系统。我们的多关系模型在标准基准测试(AIDA-CoNLL)中获得了最好的报告分数,并且大大优于其关系不可知版本。它的训练也收敛得更快,这表明注入的结构偏差有助于解释训练数据中的错误。
2018-04-27 cs.CL
Extract, Define, Canonicalize: An LLM-based Framework for Knowledge Graph Construction
National University of Singapore(新加坡国立大学);NUS Smart Systems Institute(新加坡国立大学智能系统研究所)
本文提出三阶段 EDC 框架,通过开放抽取、模式定义与事后规范化,并结合模式元素检索,使 LLM 能在有无预定义模式下构建高质量知识图谱。
2024-10-02 cs.AI cs.CL cs.LG
S-MART: Novel Tree-based Structured Learning Algorithms Applied to Tweet Entity Linking
Georgia Institute of Technology(佐治亚理工学院);Microsoft Research(微软研究院)
非线性模型最近受到了很多关注,因为人们开始发现统计和嵌入特征的力量。然而,基于树的模型很少在结构化学习的背景下进行研究,尽管它们最近在各种分类和排名任务上取得了成功。在本文中,我们提出了S-MART,一个基于树的结构化学习框架的基础上,多加性回归树。S-MART特别适合处理具有密集特征的任务,并且可以用于在各种损失函数下学习许多不同的结构。我们将S-MART应用于推文实体链接的任务-推文信息抽取的核心组件,其目的是识别和链接名称提到知识库中的实体。针对任务的特殊结构,提出了一种新的推理算法.实验结果表明,S-MART显着优于国家的最先进的鸣叫实体链接系统。
2016-09-26 cs.CL
Improving Broad-Coverage Medical Entity Linking with Semantic Type Prediction and Large-Scale Datasets
Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学)
医学实体链接是识别和标准化非结构化文本中引用的医学概念的任务。大多数现有的方法采用三步方法:(1)检测提及,(2)生成候选概念列表,最后(3)从中挑选最佳概念。在本文中,我们探讨如何缓解候选概念的过度生成的问题,在候选生成模块,医学实体连接的研究最不足的组成部分。为此,我们提出MedType,一个完全模块化的系统,修剪出不相关的候选概念的基础上预测的语义类型的实体提及。我们将MedType整合到五个现成的工具包中,用于医疗实体链接,并证明它在多个基准数据集上持续提高实体链接性能。为了解决医学实体链接的注释训练数据的缺乏,我们提出了WikiMed和PubMedDS,两个大规模的医学实体链接数据集,并证明这些数据集上的预训练MedType进一步提高了实体链接性能。我们公开我们的源代码和数据集,用于医疗实体链接研究。
2021-08-22 cs.CL
PGMEL: Policy Gradient-based Generative Adversarial Network for Multimodal Entity Linking
Department of Information Technology, Indian Institute of Information Technology, Allahabad India(信息科技系,印度信息科技学院,阿勒颇印度);School of Computer Science and Engineering, Nanyang Technological University(计算机科学与工程学院,南洋理工大学)
针对多模态实体链接中负样本选择未被探索的问题,提出基于策略梯度的生成对抗网络PGMEL,用生成器生成高质量负样本、判别器做度量学习,在三个数据集上超越现有最优方法。
2025-10-03 cs.CL
CADEL: A Corpus of Administrative Web Documents for Japanese Entity Linking
National Institute of Information and Communications Technology(国立信息通信技术研究所)
本文构建了一个覆盖日本特定实体的标注语料库,用于评估日本实体链接系统,通过标注一致性验证了其可靠性,并初步实验表明其包含大量非平凡案例。
2026-03-31 cs.CL
End-to-end Biomedical Entity Linking with Span-based Dictionary Matching
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Megagon Labs(Megagon实验室)
疾病名称识别和规范化是生物医学文本挖掘中的一个基本过程,通常称为生物医学实体链接。最近,已经提出了两个任务的神经联合学习,以利用相互的好处。虽然这种方法实现了高性能,但无法准确预测未出现在训练数据集中的疾病概念。本研究介绍了一种新的端到端的方法,结合跨度表示与字典匹配功能来解决这个问题。我们的模型通过引用字典来处理看不见的概念,同时以端到端的方式保持基于神经网络的模型的性能。使用两个主要数据集的实验表明,我们的模型在强基线的情况下取得了有竞争力的结果,特别是对于训练过程中看不见的概念。
2021-04-21 cs.CL
MAG: A Multilingual, Knowledge-base Agnostic and Deterministic Entity Linking Approach
AKSW Research Group(AKSW研究组);University of Leipzig(莱比锡大学);Data Science Group(数据科学组);University of Paderborn(帕德博恩大学)
实体链接最近已经成为重要研究主体的主题。目前,性能最好的方法依赖于经过训练的单语言模型。因此,将这些方法移植到其他语言是一项困难的工作,因为它需要相应的训练数据和模型的再训练。我们提出了一种新的多语言,基于知识的不可知论和确定性的方法来解决这个缺点的实体链接,被称为MAG。MAG是基于结构化知识库和图形算法的结合基于上下文的检索。我们评估MAG的23个数据集和7种语言。我们的研究结果表明,在英语数据集(PBOH)上训练的最佳方法实现了微观F测量,在其他语言的数据集上最多差4倍。另一方面,MAG在英语数据集上实现了最先进的性能,并且在非英语语言上达到了比PBOH高0.6的微观F度量。
2017-10-17 cs.CL
Contextualized End-to-End Neural Entity Linking
BlackRock(贝莱德);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了另一种实体链接模型(YELM),它将单词链接到实体,而不是跨度。这克服了与选择好的候选提及跨度相关联的任何困难,并且使得提及检测(MD)和实体消歧(ED)的联合训练容易成为可能。我们的模型是基于BERT,并产生上下文化的词嵌入,这是对联合MD和ED目标的训练。我们在几个标准的实体链接(EL)数据集上实现了最先进的结果。
2020-11-07 cs.CL
Entity Linking and Discovery via Arborescence-based Supervised Clustering
College of Information and Computer Sciences(信息与计算机科学学院);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
以前的工作已经显示出有希望的结果,在执行实体链接,不仅测量提到和实体之间的亲和力,但也提到。在本文中,我们提出了新的训练和推理程序,通过构建最小树状结构(即,有向生成树)在跨文档的提及和实体上,以便做出链接决定。我们还表明,这种方法优雅地扩展到实体发现,使集群的提及,没有一个相关的实体在知识库中。我们评估了我们的方法在Zero-Shot Entity Linking数据集和MedMentions(最大的公开生物医学数据集)上的结果,与相同参数化模型相比,实体链接和发现的性能都有显着提高。我们进一步显示了显着的效率提高,只有一个小的损失,在以前的工作,使用更昂贵的计算模型的准确性。
2022-05-10 cs.CL cs.LG
PEL-BERT: A Joint Model for Protocol Entity Linking
University of Chinese Academy of Sciences(中国科学院大学);The Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Sichuan University(四川大学);Beijing Jiaotong University(北京交通大学)
预训练模型(如BERT)广泛用于NLP任务,并经过微调以持续提高各种NLP任务的性能。然而,在我们的协议语料库上训练的微调BERT模型在实体链接(EL)任务上仍然表现较弱。在本文中,我们提出了一个模型,关节微调语言模型与RFC领域模型。首先,我们设计了一个协议知识库作为协议EL的指导。其次,我们提出了一种新的模型,PEL-BERT,连接命名实体的协议知识库中的类别。最后,我们对预训练的语言模型在描述性文本和抽象概念上的性能进行了全面的研究。实验结果表明,我们的模型在我们的注释数据集上实现了最先进的EL性能,优于所有基线。
2020-01-28 cs.AI cs.CL cs.LG
Improving Entity Linking by Modeling Latent Entity Type Information
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院);Peng Cheng Laboratory(鹏城实验室)
现有技术的神经实体链接模型采用基于注意力的词袋上下文模型和从词嵌入引导的预训练实体嵌入来评估主题级上下文兼容性。然而,在提到的直接上下文中的潜在实体类型信息被忽略,这导致模型往往链接到不正确的实体与不正确的类型。为了解决这个问题,我们提出了基于预训练的BERT的实体嵌入注入潜在的实体类型信息。此外,我们将基于BERT的实体相似性得分集成到最先进模型的局部上下文模型中,以更好地捕获潜在的实体类型信息。我们的模型显着优于国家的最先进的实体链接模型的标准基准(AIDA-CoNLL)。详细的实验分析表明,我们的模型纠正了直接基线产生的大部分类型错误。
2020-01-06 cs.CL
Neural Entity Linking: A Survey of Models Based on Deep Learning
Universität Hamburg(汉堡大学);Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究院);Lomonosov Moscow State University(莫斯科罗蒙诺索夫国立大学);AIRI(AIRI(人工智能研究所));Moscow Institute of Physics and Technology(莫斯科物理技术学院);FIZ Karlsruhe - Leibniz Institute for Information Infrastructure(FIZ卡尔斯鲁厄——莱布尼茨信息基础设施研究所);Université Sorbonne Paris Nord(巴黎索邦北大学);Vrije University of Amsterdam(阿姆斯特丹自由大学);The Open University(开放大学);University of Cagliari(卡利亚里大学)
本调查全面描述了自2015年以来由于自然语言处理中的“深度学习革命”而开发的最新神经实体链接(EL)系统。它的目标是系统化神经实体链接系统的设计特征,并将其性能与常见基准测试中的经典方法进行比较。这项工作提炼了一个神经EL系统的通用架构,并讨论了它的组成部分,如候选人生成,提及上下文编码,和实体排名,总结突出的方法,为他们每个人。这个通用架构的各种各样的修改分为几个共同的主题:联合实体提及检测和消歧,模型的全球链接,域独立的技术,包括zero-shot和远程监督方法,和跨语言的方法。由于许多神经模型利用实体和提及/上下文嵌入来表示它们的含义,因此本文还概述了突出的实体嵌入技术。最后,调查涉及实体链接的应用,重点关注最近出现的基于Transformer架构增强深度预训练掩蔽语言模型的用例。
2022-04-07 cs.CL
Learning to Select the Next Reasonable Mention for Entity Linking
School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);National Laboratory of Pattern Recognition, Institute of Automation, CAS(中国科学院自动化研究所模式识别国家重点实验室);Beijing Fanyu Technology Co., Ltd(北京梵语科技有限公司)
实体链接的目的是在文档中提到的实体与知识图谱中对应的实体之间建立链接。以往的工作表明,实体联系的全球一致性是有效的。然而,大多数现有的基于顺序决策的全局链接方法都集中在如何利用先前链接的实体来增强后续决策。在这些方法中,提到的顺序是固定的,使得模型无法根据先前链接的结果来调整后续的链接目标,这将导致先前的信息被不合理地利用。为了解决这个问题,我们提出了一种新的模型,称为DyMen,通过强化学习,根据先前链接的实体动态调整后续的链接目标,使模型能够选择一个链接目标,可以充分利用先前链接的信息。我们通过滑动窗口对提及进行采样,以减少强化学习的动作采样空间,并保持提及的语义一致性。在多个基准数据集上的实验表明了该模型的有效性。
2021-12-08 cs.CL
Improving Fine-grained Entity Typing with Entity Linking
HKUST(香港科技大学);Tencent Technology (SZ) Co., Ltd.(腾讯科技(深圳)有限公司)
细粒度的实体类型是一个具有挑战性的问题,因为它通常涉及相对较大的标记集,并且可能需要理解实体提及的上下文。在本文中,我们使用实体链接来帮助细粒度的实体类型分类过程。我们提出了一个深度神经模型,它根据上下文和从实体链接结果中获得的信息进行预测。在两个常用数据集上的实验结果证明了该方法的有效性。在这两个数据集上,它实现了超过5%的绝对严格精度提高。
2019-09-26 cs.CL
Mixing Context Granularities for Improved Entity Linking on Question Answering Data across Entity Categories
Ubiquitous Knowledge Processing Lab (UKP)(普适知识处理实验室(UKP));Research Training Group AIPHES(AIPHES研究培训小组);Department of Computer Science, Technische Universität Darmstadt(达姆施塔特工业大学计算机科学系)
每个知识库问答方法的第一阶段是链接输入问题中的实体。我们调查的背景下,一个问答任务的实体链接,并提出了一个联合优化的神经架构,实体提及检测和实体消歧模型周围的背景下,不同级别的粒度。我们使用维基数据知识库和可用的问答数据集来创建问答数据上实体链接的基准。我们的方法在此数据上优于以前的最先进系统,最终得分平均提高8%。我们进一步证明了我们的模型在不同的实体类别中提供了强大的性能。
2018-04-23 cs.CL
AMELI: Enhancing Multimodal Entity Linking with Fine-Grained Attributes
Virginia Tech(弗吉尼亚理工学院)
该研究提出属性感知多模态实体链接任务,构建了含大规模数据的AMELI基准与知识库,提出融入实体属性的消歧新方法,验证了属性对该任务的关键作用,且首次将属性引入该任务并公开相关资源。
2025-06-10 cs.CL
Improving Zero-Shot Multi-Lingual Entity Linking
Johns Hopkins University(约翰霍普金斯大学)
实体链接--在自由文本中识别相关知识库表示的引用的任务--通常集中在单一语言上。我们考虑多语言实体链接,其中单个模型被训练为将引用链接到几种语言的相同语言知识库。我们提出了一个神经排名架构,它利用多语言Transformer表示的文本可以很容易地应用到多语言设置。然后,我们探索了用一种语言(例如英语)训练的神经排名器如何转移到一种看不见的语言(例如中文),并发现虽然性能有一致但不是很大的下降。如何缓解这种性能下降?我们探索添加一个对抗性目标来迫使我们的模型学习语言不变的表示。我们发现,使用这种方法可以提高几个数据集的召回率,通常与语言性能相匹配,从而减轻了zero-shot迁移带来的一些性能损失。
2021-04-16 cs.CL
ReFinED: An Efficient Zero-shot-capable Approach to End-to-End Entity Linking
Amazon Alexa AI(亚马逊Alexa人工智能部门)
我们介绍了ReFinED,一个高效的端到端的实体链接模型,它使用细粒度的实体类型和实体描述来执行链接。该模型在一个单一的前向传递中为文档中的所有提及执行提及检测,细粒度实体类型和实体消歧,使其比现有的竞争方法快60倍以上。ReFinED在标准实体链接数据集上的性能平均超过3.7 F1。该模型能够推广到大规模的知识库,如维基数据(其中有15倍以上的实体比维基百科)和zero-shot实体链接。速度,准确性和规模的结合使ReFinED成为一个有效且具有成本效益的系统,用于从网络规模的数据集中提取实体,该模型已成功部署。我们的代码和预训练模型可在https://github.com/alexa/ReFinED上获得
2022-07-08 cs.CL
USFD at KBP 2011: Entity Linking, Slot Filling and Temporal Bounding
University of Sheffield(谢菲尔德大学)
本文介绍了谢菲尔德大学在2011年TAC KBP实体链接和插槽填充任务的条目。我们选择参与单语实体连接任务、单语槽填充任务和时间槽填充任务。我们着手建立一个框架,用于知识库人口的实验。这个框架被创建,并应用于多个KBP任务。我们证明,我们提出的框架是有效的,适合协作开发的努力,以及在教学环境中的有用。最后,我们提出的结果,虽然非常温和,提供的改进的数量级大于我们2010年的尝试。
2012-03-22 cs.CL
Learn to Not Link: Exploring NIL Prediction in Entity Linking
Tsinghua University(清华大学);Institute for Artificial Intelligence, Tsinghua University(清华大学人工智能研究院);Peking University(北京大学)
本文针对实体链接中NIL预测问题,提出数据集NEL,将NIL提及分为缺失实体和非实体短语,并通过实验证明两类NIL训练数据对预测准确率有显著影响。
2023-05-25 cs.CL
A Lightweight Neural Model for Biomedical Entity Linking
Institut Polytechnique de Paris(巴黎综合理工学院);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会)
生物医学实体链接旨在将生物医学提及(如疾病和药物)映射到给定知识库中的标准实体。在这种情况下,具体的挑战是,同一个生物医学实体可以有各种各样的名称,包括同义词,形态变化,以及不同的单词顺序的名称。最近,基于BERT的方法通过允许丰富的词序列表示来推进了最先进的技术。然而,它们往往有数以亿计的参数,需要大量的计算资源,这限制了它们在资源有限的场景中的应用。在这里,我们提出了一个轻量级的生物医学实体连接的神经方法,它只需要一个BERT模型的一小部分参数和更少的计算资源。我们的方法使用一个简单的对齐层与注意力机制,以捕捉提及和实体名称之间的变化。然而,我们表明,我们的模型是有竞争力的标准评估基准与以前的工作。
2021-05-21 cs.CL
End-to-End Entity Linking and Disambiguation leveraging Word and Knowledge Graph Embeddings
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫应用信息技术研究所);Ruhr University Bochum(波鸿鲁尔大学)
实体链接-将自然语言话语中的实体提及连接到知识图谱(KG)实体是KG上的问答的关键步骤。它通常基于测量实体标签与问题中提到的实体之间的字符串相似性。问题中提到的关系有助于消除具有相同标签的实体之间的歧义。如果在关系链接步骤中已经识别出不正确的关系,则这可能是误导性的。然而,不正确的关系可能仍然在语义上类似于正确实体在KG内形成三元组的关系;这可以通过它们的KG嵌入的相似性来捕获。基于这一思想,我们提出了第一个端到端的神经网络方法,采用KG以及词嵌入来执行简单问题的联合关系和实体分类,同时隐式地执行实体消歧与一种新的门控机制的帮助。实证评估表明,所提出的方法实现了性能相当于国家的最先进的实体链接,同时需要较少的后处理。
2020-02-25 cs.CL
Improving Few-shot and Zero-shot Entity Linking with Coarse-to-Fine Lexicon-based Retriever
Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies(广东省新型安全智能技术重点实验室);Central South University(中南大学)
针对少样本和零样本实体链接,本文提出由实体名称到描述的两层由粗到细词典检索器,在无需大量微调的情况下取得优异性能并获得 NLPCC 2023 共享任务第一名。
2023-08-13 cs.CL
Efficient Biomedical Entity Linking: Clinical Text Standardization with Low-Resource Techniques
GE HealthCare(GE医疗)
本文提出一种低资源生物医学实体链接方法,利用同义词对学习,结合上下文与无上下文的重新排序技术,在Medmentions数据集上达到与最先进方法相当的性能,并引入文章级分析以补充评估。
2024-05-27 cs.CL
ISA-bEL: Intelligent Search Algorithm based on Entity Linking
Vodafone(沃达丰)
如今,人们与计算机交互的方式已经发生了变化。基于文本或语音的界面在不同行业中得到广泛应用。处理用户输入的最常用的方法是基于意图或检索算法的方法。在这些解决方案中,用户的重要信息可能在该过程中丢失。对于所提出的自然语言处理流水线,在实体是用户的目的所在的假设下,实体将扮演主要角色。提供了上下文的实体将被投射到由知识图谱支持的特定领域,从而产生被称为链接实体的实体。然后,这些链接的实体用作在我们的知识图谱内搜索顶级聚合概念的关键字。
2022-05-09 cs.CL
OpenTapioca: Lightweight Entity Linking for Wikidata
University of Oxford(牛津大学)
我们提出了一个简单的命名实体链接系统,可以只从维基数据训练。这展示了此数据源在此任务中的优势和劣势,并提供了一个易于复制的基线来与其他系统进行比较。我们的模型是轻量级的训练,运行,并保持与维基数据在实时的同步。
2020-11-24 cs.CL cs.IR
Neural Collective Entity Linking
Tsinghua University(清华大学)
实体链接旨在将文本中提到的实体链接到知识库,神经模型最近在这项任务中取得了成功。然而,大多数现有的方法依赖于本地上下文来独立地解决实体,这通常可能会失败,由于本地信息的数据稀疏性。为了解决这个问题,我们提出了一种新的集体实体链接的神经模型,命名为NCEL。NCEL采用图卷积网络来整合局部上下文特征和全局一致性信息,实现实体链接。为了提高计算效率,我们近似地在相邻实体提及的子图上而不是在整个文本中执行图卷积。我们进一步引入了一个注意力机制来提高NCEL对数据噪声的鲁棒性,并在维基百科超链接上训练模型以避免过拟合和域偏差。在实验中,我们评估NCEL五个公开可用的数据集,以验证连接性能以及泛化能力。我们还进行了广泛的分析,时间复杂度,关键模块的影响,和定性的结果,这表明我们提出的方法的有效性和效率。
2018-11-21 cs.CL
Generative Biomedical Entity Linking via Knowledge Base-Guided Pre-training and Synonyms-Aware Fine-tuning
Tsinghua University(清华大学)
实体是生物医学自然语言理解的核心,由于概念名称的细粒度和多样性,生物医学实体连接(EL)任务仍然具有挑战性。生成式方法在一般域EL中实现了显着的性能,占用内存较少,但需要昂贵的预训练。先前的生物医学EL方法利用来自知识库(KB)的同义词,这对于注入到生成方法中来说并不是微不足道的。在这项工作中,我们使用生成的方法来建模生物医学EL,并提出注入同义词的知识,我们提出知识库引导的预训练,通过构建合成样本的同义词和定义从知识库,并要求模型恢复概念名称。我们还提出了同义词感知的微调来选择概念名称进行训练,并提出了解码器提示和多同义词约束前缀树进行推理。我们的方法在几个生物医学EL任务上取得了最先进的结果,而无需候选人选择,这显示了所提出的预训练和微调策略的有效性。
2022-05-21 cs.CL
MELO: An Evaluation Benchmark for Multilingual Entity Linking of Occupations
Avature(Avature公司)
本文提出了MELO基准,包含48个数据集用于评估21种语言实体提及到ESCO职业分类体系的链接,并使用词汇模型和句子编码器在零样本设置下建立基线。
2024-10-10 cs.CL
Musical Heritage Historical Entity Linking
University of Bologna(博洛尼亚大学);University of Pisa(比萨大学);Ca’ Foscari University of Venice(威尼斯福斯卡里大学)
本文构建音乐历史文本实体链接基准MHERCL,提出无监督EL模型及利用知识图谱扩展监督链接器的方法,以更好识别NIL实体。
2025-02-13 cs.CL
Effective Few-Shot Named Entity Linking by Meta-Learning
Tsinghua University(清华大学);East China Normal University(华东师范大学);Shandong University(山东大学)
实体链接的目的是将模糊提及链接到知识库中的相应实体,这对于各种下游应用来说是重要的和基本的,例如,知识库完成、问答和信息抽取。虽然人们在这方面付出了巨大的努力,但大多数研究都假设大规模的标记数据是可用的。然而,当标记的数据是不够的特定领域,由于劳动密集型的注释工作,现有的算法的性能将遭受无法忍受的下降。在本文中,我们致力于解决的问题,Few-Shot实体连接,它只需要最小量的域内标记数据,在实际情况中更实用。具体来说,我们首先提出了一种新的弱监督策略,以产生非平凡的合成实体提及对的基础上提到重写。由于合成数据的质量对有效的模型训练有着至关重要的影响,我们进一步设计了一个元学习机制来自动为每个合成实体-提及对分配不同的权重。通过这种方式,我们可以深入挖掘丰富而宝贵的语义信息,在Few-Shot的设置下得到一个训练有素的实体连接模型。在真实数据集上的实验结果表明,该方法能够有效地改进现有的Few-Shot实体链接模型,并在只有少量标记数据的情况下获得令人瞩目的性能.此外,我们还证明了该模型的可移植性的突出能力。
2022-07-19 cs.CL