Document-level Entity-based Extraction as Template Generation
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
文档级基于实体的抽取(EE)旨在抽取以实体为中心的信息,如实体角色和实体关系,是从不同领域的文本语料库中自动获取知识获取的关键。大多数文档级EE系统构建提取模型,这些模型难以在文档级对实体之间的长期依赖关系进行建模。为了解决这个问题,我们提出了两个文档级EE任务:角色填充实体提取(REE)和关系抽取(RE)的生成框架。我们首先将它们制定为模板生成问题,允许模型有效地捕获跨实体依赖关系,利用标签语义,并避免识别N元关系的指数计算复杂性。一种新的交叉注意引导复制机制,TopK复制,被纳入一个预先训练的序列到序列模型,以提高识别输入文档中的关键信息的能力。在MUC-4和SciREX数据集上进行的实验显示了F1评分中REE(+3.26%),二元RE(+4.8%)和4元RE(+2.7%)的最新结果。
2021-09-10 cs.CL
A Trigger-Sense Memory Flow Framework for Joint Entity and Relation Extraction
Zhejiang University(浙江大学)
联合实体和关系抽取框架构建了一个统一的模型来同时执行实体识别和关系抽取,它可以利用两个任务之间的依赖性来减轻管道模型所遭受的错误传播问题。当前对联合实体和关系抽取的努力集中于通过参数共享、联合解码或其他自组织技巧(例如,建模为半马尔可夫决策过程,投射为多轮阅读理解任务)。然而,仍有两个问题摆在桌面上。首先,大多数方法所利用的交互仍然是弱的和单向的,这是无法模拟两个任务之间的相互依赖。其次,大多数方法都忽略了关系触发,这有助于解释为什么人类会在句子中提取关系。它们对于关系抽取是必不可少的,但却被忽视了。为此,我们提出了一个触发感记忆流框架(TriMF)的联合实体和关系抽取。我们建立了一个记忆模块来记忆实体识别和关系抽取任务中学习到的类别表示。在此基础上,设计了一种多级内存流注意力机制,以增强实体识别和关系抽取之间的双向交互。此外,在没有任何人类注释的情况下,我们的模型可以通过触发传感器模块增强句子中的关系触发信息,这提高了模型的性能,并使模型预测具有更好的解释。实验结果表明,我们提出的框架实现了最先进的结果,提高了关系F1在SciERC上的52.44%(+3.2%),在ACE05上的66.49%(+4.9%),在CoNLL04上的72.35%(+0.6%)和在ADE上的80.66%(+2.3%)。
2021-04-16 cs.CL
BERT-Based Multi-Head Selection for Joint Entity-Relation Extraction
Ant Financial Services Group(蚂蚁金融服务集团)
在本文中,我们报告了我们在2019年语言和智能挑战赛中的信息抽取任务的方法。我们将BERT纳入联合实体-关系抽取的多头选择框架。该模型从三个方面扩展了现有的方法。首先,采用BERT作为多头选择框架底部的特征提取层。我们通过在BERT预训练期间引入语义增强任务来进一步优化BERT。其次,我们引入了一个大规模的百度百科语料库进行实体识别的预训练,由于没有实际命名的实体标签,所以它是每周监督学习。第三,提出了软标签嵌入,以有效地传递实体识别和关系抽取之间的信息。结合这三个方面的贡献,我们提高了多头选择模型的信息提取能力,并实现了F1-得分0.876测试集-1上的单一模型。通过集成我们模型的四个变体,我们最终在测试集1上获得F1得分0.892(第一名),在测试集2上获得F1得分0.8924(第二名)。
2019-09-26 cs.CL
Pre-trained Language Models and Few-shot Learning for Medical Entity Extraction
Santa Clara University(圣克拉拉大学);San Francisco State University(旧金山州立大学);Cornell University(康奈尔大学);The Chinese University of Hong Kong(香港中文大学);Stevens Institute of Technology(史蒂文斯理工学院)
本文研究基于Transformer的医学实体抽取,比较多种预训练语言模型和抽取方法,并验证小样本学习在低资源场景下的有效性,证明预训练模型与小样本学习结合可提升医学实体抽取准确性。
2025-04-06 cs.CL
Linguistically Informed Relation Extraction and Neural Architectures for Nested Named Entity Recognition in BioNLP-OST 2019
Siemens AG(西门子股份公司);University of Munich (LMU)(慕尼黑大学(LMU))
命名实体识别(NER)和关系抽取(RE)是从生物医学文献中提取知识的重要工具。本文介绍了我们参与BioNLP Shared Tasks 2019的发现。本文研究了命名实体识别,包括嵌套实体抽取、实体规范化和关系抽取。我们提出的命名实体的方法可以推广到不同的语言,我们已经证明了它的有效性英语和西班牙语文本。我们研究了语言特征,混合损失包括排名和条件随机场(CRF),多任务目标和标记级集成策略,以提高NER。我们采用基于字典的模糊和语义搜索来执行实体规范化。最后,我们的RE系统采用支持向量机(SVM)与语言特征。我们的NER提交(团队:MIC-CIS)在BB-2019 norm+NER任务中排名第一,标准出错率(SER)为0.7159,并在PharmaCo NER任务中表现出竞争力,F1得分为0.8662。我们的RE系统在SeeDev-binary关系抽取任务中排名第一,F1得分为0.3738。
2019-10-08 cs.CL
A Hierarchical Entity Graph Convolutional Network for Relation Extraction across Documents
National University of Singapore(新加坡国立大学);Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
用于关系抽取的远程监督数据集主要集中在事务级抽取,并且它们覆盖的关系很少。在这项工作中,我们提出了跨文档的关系抽取,其中的两个实体的关系元组出现在两个不同的文件,通过一个共同的实体链连接。按照这个想法,我们创建了一个两跳关系抽取的数据集,其中每个链只包含两个文档。我们提出的数据集涵盖了更多的关系比公开可用的数据集级别。我们还为此任务提出了一个分层实体图卷积网络(HEGCN)模型,与一些强大的神经基线相比,该模型在我们的两跳关系抽取数据集上将性能提高了1.1\% F1分数。
2021-08-21 cs.CL
DocRED-FE: A Document-Level Fine-Grained Entity And Relation Extraction Dataset
National Key Laboratory for Multimedia Information Processing, Peking University(北京大学多媒体信息处理全国重点实验室)
实体与关系抽取(JERE)是信息抽取中的一项重要任务。然而,大多数现有作品都集中在句子级粗粒度JERE上,这在现实场景中存在局限性。本文构建了一个大规模文档级细粒度JERE数据集DocRED-FE,它对DocRED进行了细粒度实体类型的改进。具体而言,我们重新设计了一个分层的实体类型模式,包括11个粗粒度类型和119个细粒度类型,然后重新注释DocRED手动根据这个模式。通过综合实验,我们发现:(1)DocRED-FE对现有的JERE模型提出了挑战;(2)我们的细粒度实体类型促进了关系分类。我们在https://github.com/PKU-TANGENT/DOCRED-FE上公开了DocRED-FE的说明和基线代码。
2023-03-21 cs.CL
MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
我们提出了MobIE,德语数据集,这是人类注释的20个粗粒度和细粒度的实体类型和实体链接信息的地理上不确定的实体。该数据集由3,232个社交媒体文本和91K令牌的交通报告组成,并包含20.5K注释实体,其中13.1K链接到知识库。数据集的一个子集是人类注释的七个移动性相关的,n元关系类型,而其余的文件是使用弱监督标记方法与Snorkel框架实现注释。据我们所知,这是第一个结合了NER,EL和RE注释的德语数据集,因此可以用于这些基本信息抽取任务的联合和多任务学习。我们在https://github.com/dfki-nlp/mobie上公开了Mobie。
2022-03-28 cs.CL
BERE: An accurate distantly supervised biomedical entity relation extraction network
从文献中自动抽取实体关系抽取(RE)是构建生物医学数据库的重要来源,它比人工处理更高效、可扩展。然而,现有的RE模型通常忽略了句子结构和目标实体中包含的信息。在本文中,我们提出了BERE,这是一种基于深度学习的模型,它使用Gumbel Tree-GRU来学习句子结构,并使用联合嵌入来整合实体信息。它还采用词级注意力改进的关系抽取和事件级注意力,以适应远程监督数据集。由于现有的数据集相对较小,我们进一步构建了一个更大的药物靶点相互作用提取(DTIE)数据集的远程监督。在DDIExtraction 2013任务和DTIE数据集上进行的实验表明,我们的模型在F1测量和PR曲线方面优于最先进的基线。
2019-06-22 cs.CL
Injecting Knowledge Base Information into End-to-End Joint Entity and Relation Extraction and Coreference Resolution
Ghent University(根特大学);imec(比利时微电子研究中心)
本文提出了一种联合信息抽取模型,在整个文档中联合解决命名实体识别、共指消解和关系抽取。特别是,我们研究了如何注入信息从知识库(KB)在这样的IE模型,基于无监督的实体链接。所使用的KB实体表示是从(i)超链接文本文档(Wikipedia)或(ii)知识图谱(Wikidata)中学习的,并且在提高IE性能方面是互补的。相应的实体链接(EL)候选者的表示被添加到输入文档的文本跨度表示,并且我们实验(i)基于其先验(在维基百科中)对EL候选者表示进行加权平均,以及(ii)在EL候选者列表上使用注意力方案。结果表明,在两个数据集上评估的IE任务的F1分数增加了5%。尽管基于先验的模型表现很好,但我们的定量和定性分析揭示了使用基于注意力的方法的优势。
2021-07-05 cs.CL
Fine-tuning BERT for Joint Entity and Relation Extraction in Chinese Medical Text
East China University of Science and Technology(华东理工大学);Shanghai Hospital Development Center(上海医院发展中心)
实体和关系抽取是构建医学文本的必要步骤。但是现有模型中的双向长短期记忆网络的特征提取能力并没有达到最佳效果。同时,该语言模型在越来越多的自然语言处理任务中取得了优异的效果。在本文中,我们提出了一个集中注意力模型的联合实体和关系抽取任务。该模型通过动态范围注意力机制将著名的BERT语言模型融入到联合学习中,从而提高了共享参数层的特征表示能力。在曙光医院冠状动脉造影文本上的实验结果表明,命名实体识别和关系分类任务的F1分数分别达到96.89%和88.51%,优于现有方法的1.65%和1.22%。
2019-10-22 cs.CL
iMETRE: Incorporating Markers of Entity Types for Relation Extraction
International Institute of Information Technology(国际信息技术学院)
本文提出iMETRE方法,通过结合类型化实体标记表示和微调模型,在金融数据集REFinD上实现69.65%的F1分数,改进句子级关系抽取性能。
2023-06-30 cs.CL
GRIT: Generative Role-filler Transformers for Document-level Event Entity Extraction
Cornell University(康奈尔大学)
我们重新审视经典的问题,文档级的角色填充实体提取(REE)模板填充。我们认为,文本级的方法是不适合的任务,并引入了一个生成的基于转换器的编码器-解码器框架(GRIT),其目的是在文档级的上下文建模:它可以跨句子边界提取决策,是隐含地知道名词短语的共指结构,并有能力尊重模板结构中的跨角色依赖关系。我们在MUC-4数据集上评估了我们的方法,并表明我们的模型比以前的工作表现得更好。我们还表明,我们的建模选择有助于模型性能,例如,通过隐式地捕获语言知识,例如识别共指实体提及。
2021-01-28 cs.CL
Towards Effective Multi-Task Interaction for Entity-Relation Extraction: A Unified Framework with Selection Recurrent Network
Tokyo Institute of Technology(东京工业大学)
实体-关系抽取旨在联合解决命名实体识别(NER)和关系抽取(RE)问题.最近的方法使用单向顺序信息传播的管道方式或双向隐式交互与共享编码器。然而,他们仍然遭受不良的信息交互,由于不同的任务形式之间的差距,净入学率和RE,提出了一个有争议的问题,是否RE是真的有利于净入学率。基于此,我们提出了一个新的和统一的级联框架,结合了顺序信息传播和隐式交互的优点。同时,通过将实体-关系抽取重新定义为统一的跨度抽取任务,消除了两个任务之间的鸿沟。具体而言,我们提出了一个选择递归网络作为共享编码器,以编码特定于任务的独立和共享的表示和设计两个顺序的信息传播策略,以实现顺序的信息流之间的NER和RE。大量的实验表明,我们的方法可以实现国家的最先进的结果,在两个共同的基准,ACE 05和SciERC,并有效地模拟多任务的相互作用,实现显着的互惠互利的NER和RE。
2022-02-15 cs.CL
Techniques for Jointly Extracting Entities and Relations: A Survey
TCS Research & Innovation(塔塔咨询服务公司研究与创新中心);Indian Institute of Technology Bombay(印度理工学院孟买分校)
关系抽取是信息抽取中的一项重要任务,它涉及实体提及之间的语义关系识别。传统上,关系抽取是在实体提取之后以“流水线”方式进行的,因此关系抽取仅关注于确定在一对提取的实体提及之间是否存在任何语义关系。这导致错误从实体提取阶段传播到关系抽取阶段。此外,实体提取进行没有任何知识的关系。因此,观察到联合执行实体和关系抽取对于这两个任务都是有益的。在本文中,我们调查各种技术,共同提取实体和关系。我们根据它们用于联合提取的方法对技术进行分类,即它们是否采用联合推理或联合建模或两者兼而有之。我们进一步描述了联合推理和联合建模的一些代表性技术。我们还描述了两个标准的数据集,评估技术和这些数据集上的联合提取方法的性能。我们提出了一个简单的分析应用一般域联合提取方法的生物医学数据集。本调查是有用的研究人员以及从业人员在该领域的信息抽取,涵盖了广泛的景观联合提取技术。
2021-03-10 cs.CL
A Consolidated System for Robust Multi-Document Entity Risk Extraction and Taxonomy Augmentation
Thomson Reuters Special Services, LLC(汤森路透特别服务有限责任公司)
我们引入了一个混合的人工自动化系统,提供了可扩展的实体风险关系抽取在大型数据集。给定专家定义的关键字分类法、实体和数据源,系统基于实体和关键字之间的双向标记距离返回文本提取,并使用词向量编码扩展分类法覆盖范围。与专注于警报的系统相比,我们的系统代表了一个更简化的架构-受风险挖掘领域的高覆盖率用例(如尽职调查活动和情报收集)的激励。我们提供了一个系统的概述和专家评估的令牌距离范围。我们证明,单句和多句距离组显着优于基线提取与较短的,单句是首选的分析师。随着分类法的扩展,相关信息的量增加,多句提取变得更受欢迎,但这与实体风险关系变得更加间接有关。我们讨论了这些意见对用户的影响,管理的模糊性和分类扩展,以及未来的系统修改。
2019-09-23 cs.CL
Entity, Relation, and Event Extraction with Contextualized Span Representations
University of Washington(华盛顿大学);Google AI Language(谷歌AI语言团队);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们研究了一个统一的,多任务的框架,三个信息抽取任务的能力:命名实体识别,关系抽取,和事件提取。我们的框架(称为DyGIE++)通过枚举,精炼和评分旨在捕获本地(句子内)和全球(跨句子)上下文的文本跨度来完成所有任务。我们的框架在来自各个领域的四个数据集上实现了所有任务的最先进结果。我们进行实验比较不同的技术来构建跨度表示。像BERT这样的上下文嵌入在捕获相同或相邻句子中的实体之间的关系方面表现良好,而动态跨度图更新则对长范围的跨句子关系进行建模。例如,通过预测的共指链接传播跨度表示可以使模型能够消除具有挑战性的实体提及的歧义。我们的代码可在https://github.com/dwadden/dygiepp上公开获取,并且可以轻松地适应新任务或数据集。
2019-09-10 cs.CL
A Two-Phase Paradigm for Joint Entity-Relation Extraction
National University of Defense Technology(国防科技大学);The Affiliated Eye Hospital of Nanjing Medical University(南京医科大学附属眼科医院)
一个详尽的研究已经进行了调查跨度为基础的模型的联合实体和关系抽取任务。然而,这些模型在模型训练过程中采样了大量的负实体和负关系,这是必不可少的,但会导致数据分布严重不平衡,进而导致模型性能不佳。为了解决上述问题,本文提出了一种基于跨度的联合实体和关系抽取的两阶段范式,即在第一阶段对实体和关系进行分类,在第二阶段预测这些实体和关系的类型。两阶段范式使我们的模型能够显著减少数据分布差距,包括否定实体与其他实体之间的差距,以及否定关系与其他关系之间的差距。此外,我们首次尝试将实体类型和实体距离作为全局特征,这被证明是有效的,特别是对于关系抽取。在多个数据集上的实验结果表明,基于跨度的联合提取模型与两阶段范式和全局特征增强一致优于以前的最先进的基于跨度的联合提取任务的模型,建立了一个新的标准基准。定性和定量分析进一步验证了所提出范式的有效性和全局特征.
2022-08-18 cs.CL
A Frustratingly Easy Approach for Entity and Relation Extraction
Princeton University(普林斯顿大学)
端到端关系抽取的目的是识别命名实体并抽取它们之间的关系。最近的工作模型这两个子任务联合,要么铸造他们在一个结构化的预测框架,或通过共享表示执行多任务学习。在这项工作中,我们提出了一个简单的流水线方法的实体和关系抽取,并建立了新的国家的最先进的标准基准(ACE 04,ACE 05和SciERC),获得了1.7%-2.8%的绝对改善关系F1比以前的联合模型与相同的预训练编码器。我们的方法基本上建立在两个独立的编码器上,并且仅仅使用实体模型来构造关系模型的输入。通过一系列仔细的检查,我们验证了学习不同的上下文表示实体和关系,融合实体信息的关系模型的早期,并纳入全球范围内的重要性。最后,我们还提出了一个有效的近似我们的方法,只需要一个通过实体和关系编码器在推理时间,实现了8-16 $\times$的加速与精度略有下降。
2021-03-23 cs.CL
TWIX: a Two-Stage Approach for End-To-End Named Entity Recognition and Relation Extraction
University of Padova(帕多瓦大学)
针对科学出版物增长带来的信息抽取需求,提出TWIX端到端IE流水线,采用两阶段框架解决GutBrainIE基准的所有子任务,在评测中大幅优于基线且排名第一,有效提升了精确率和召回率。
2026-09-02 cs.CL
HIORE: Leveraging High-order Interactions for Unified Entity Relation Extraction
Tencent Inc.(腾讯公司);ByteDance AI Lab(字节跳动人工智能实验室);East China Normal University(华东师范大学);University of California Santa Barbara(加州大学圣巴巴拉分校);Shanghai Jiao Tong University(上海交通大学)
本文提出HIORE方法,通过WNet捕获高阶词对交互并构建高阶图用GNN校准,统一实体识别与关系抽取,在三个基准上关系抽取达最优,F1较先前最优统一模型提升1.1~1.8点。
2023-05-07 cs.CL
Adversarial training for multi-context joint entity and relation extraction
Ghent University(根特大学);imec(比利时微电子研究中心);IDLab(ID实验室);Department of Information Technology(信息技术系)
对抗训练(AT)是一种正则化方法,其可用于通过在训练数据中添加小扰动来提高神经网络方法的鲁棒性。我们展示了如何使用AT的任务,实体识别和关系抽取。特别是,我们证明了将AT应用于通用基线模型以联合提取实体和关系,可以提高不同上下文中几个数据集的最新有效性(即,新闻、生物医学和房地产数据)和不同语言(英语和荷兰语)。
2019-01-14 cs.CL
DWIE: an entity-centric dataset for multi-task document-level information extraction
Ghent University(根特大学);imec;IDLab
本文介绍了DWIE,“德国之声语料库信息抽取”,一个新创建的多任务数据集,结合了四个主要的信息抽取(IE)注释子任务:(i)命名实体识别(NER),(ii)共指消解,(iii)关系抽取(RE),和(iv)实体链接。DWIE被认为是一个以实体为中心的数据集,它描述了完整文档级别上概念实体的交互和属性。这与目前占主导地位的提及驱动的方法,从单个句子中的命名实体提及的检测和分类开始。此外,DWIE在构建和评估IE模型时提出了两个主要挑战:首先,在以实体为中心的DWIE数据集上使用传统的提及级评估指标进行NER和RE任务,可能会导致测量结果被更频繁提及的实体的预测所主导。我们通过提出一个新的实体驱动的度量来解决这个问题,该度量考虑了组成每个预测和地面真实实体的提及次数。其次,文档级多任务注释要求模型在位于文档不同部分的实体提及之间以及不同任务之间在联合学习设置中传输信息。为了实现这一点,我们建议在文档级提及跨度之间使用基于图的神经消息传递技术。我们的实验表明,当将神经图传播纳入我们的联合模型时,F1的改进高达5.5个百分点。这表明DWIE的潜力,刺激进一步研究图神经网络的表示学习在多任务IE。我们在https://github.com/klimzaporojets/DWIE上公开提供DWIE。
2021-03-09 cs.CL
NC-DRE: Leveraging Non-entity Clue Information for Document-level Relation Extraction
Xiamen University(厦门大学)
文档级关系抽取(RE)需要对不同句子中的多个实体进行推理以识别复杂的句子间关系,这比文档级RE更具挑战性。为了提取复杂的句间关系,以往的研究通常采用图神经网络(GNN)对异构文档图进行推理。尽管这些基于图的方法取得了巨大的成功,但它们在构建图和推理的过程中通常只考虑提及中的词,往往忽略了提及中没有的但为关系推理提供重要线索信息的非实体线索词。为了缓解这个问题,我们将基于图的文档级RE模型视为编码器-解码器框架,该框架通常使用预训练的语言模型作为编码器,GNN模型作为解码器,并提出了一种新的基于图的模型NC-DRE,该模型引入解码器到编码器的注意力机制,以利用非实体线索信息进行文档级关系抽取。
2022-04-01 cs.CL
Improving Distantly Supervised Relation Extraction using Word and Entity Based Attention
Indian Institute of Science(印度科学研究所);University of British Columbia(英属哥伦比亚大学)
关系抽取是对给定句子中两个实体之间的关系进行分类的问题。远程监督(DS)是一种流行的技术,用于从有限监督开始开发关系提取器。我们注意到,在远程监督关系抽取设置中的大多数句子都很长,并且可以受益于单词注意以获得更好的句子表示。我们在本文中的贡献有三个方面。首先,我们提出了两个新的词注意力模型的远程监督关系抽取:(1)双向门控递归单元(Bi-GRU)为基础的词注意力模型(BGWA),(2)以实体为中心的注意力模型(EA),和(3)组合模型,采用加权投票方法结合多个互补的模型改进的关系抽取。其次,介绍了一种新的用于关系抽取的远程监督数据集GDS。GDS消除了所有以前的远程监督基准数据集中存在的测试数据噪声,使可靠的自动评估成为可能。第三,通过在多个真实数据集上的大量实验,我们证明了所提出的方法的有效性。
2018-04-19 cs.CL
Structure-Aware Decoding Mechanisms for Complex Entity Extraction with Large-Scale Language Models
University of Southern California(南加州大学);Washington University in St. Louis(圣路易斯华盛顿大学);Stevens Institute of Technology(史蒂文斯理工学院);University of Pennsylvania(宾夕法尼亚大学)
本文提出一种基于大规模语言模型的结构意识解码方法,用于提升复杂实体提取任务的精度与结构一致性。
2026-01-28 cs.CL
Joint entity recognition and relation extraction as a multi-head selection problem
Ghent University(根特大学);imec(比利时微电子研究中心)
用于联合实体识别和关系抽取的最新模型强烈依赖于外部自然语言处理(NLP)工具,诸如POS(词性)标记器和依赖性解析器。因此,这种联合模型的性能取决于从这些NLP工具获得的特征的质量。然而,这些特征对于各种语言和上下文并不总是准确的。在本文中,我们提出了一个联合神经模型,执行实体识别和关系抽取同时进行,而不需要任何手动提取的功能或使用任何外部工具。具体地,我们使用CRF(条件随机场)层和关系抽取任务将实体识别任务建模为多头选择问题(即,潜在地标识每个实体的多个关系)。我们提出了一个广泛的实验设置,以证明我们的方法使用来自各种背景的数据集的有效性(即,新闻、生物医学、房地产)和语言(即,英文、荷兰文)。我们的模型优于以前使用自动提取特征的神经模型,而它的性能在基于特征的神经模型的合理范围内,甚至超过它们。
2018-12-17 cs.CL
LentEx: Generalizable Latent Entity Extraction via Synthetic Data and Instruction-Tuned LLMs
Amazon(亚马逊公司)
LentEx是首个从大语言模型视角处理潜在实体抽取的框架,通过合成数据与指令微调优化高效LLM,在MTEB聚类基准上超越现有最优模型,泛化性强,可应用于RAG等NLP任务。
2026-09-07 cs.CL
Entity Identifier: A Natural Text Parsing-based Framework For Entity Relation Extraction
Novelis Research and Innovation Lab(诺维利斯研究与创新实验室)
本文提出一种基于自然文本解析的实体关系抽取框架,通过提取需求描述中的实体和关系信息并构建实体树,实现面向对象项目中 CRUD 类代码的自动生成。
2023-07-10 cs.CL
Joint Biomedical Entity and Relation Extraction with Knowledge-Enhanced Collective Inference
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Adobe Research(Adobe研究院)
与一般新闻领域相比,生物医学文本的信息抽取需要更广泛的领域知识。然而,许多以前的IE方法在推理过程中不利用任何外部知识。由于生物医学出版物的指数增长,不超过其固定参数集的模型可能会落后。受人类如何查找相关信息来理解科学文本的启发,我们提出了一个新的框架,利用外部知识进行联合实体和关系抽取命名为KECI(知识增强集体推理)。给定一个输入文本,KECI首先构造一个初始跨度图,表示它对文本的初始理解。然后使用实体链接器形成包含文本中提到的实体的相关背景知识的知识图谱。为了做出最终的预测,KECI使用注意力机制将初始跨度图和知识图谱融合成一个更精细的图。KECI采用一种集体方法,通过使用图卷积网络将全局关系信息集成到局部表示中,将提及跨度与实体联系起来。我们的实验结果表明,该框架是非常有效的,在两个不同的基准数据集:BioRelEx(结合相互作用检测)和ADE(不良药物事件提取)实现了新的最先进的结果。例如,KECI在BioRelEx实体和关系抽取任务上的F1得分比最先进的技术分别提高了4.59%和4.91%。
2021-06-01 cs.CL
Leveraging 2-hop Distant Supervision from Table Entity Pairs for Relation Extraction
The Ohio State University(俄亥俄州立大学)
远程监控(Distant Supervision,DS)已被广泛用于自动构造(噪声)标记数据以用于关系抽取(RE)。给定两个实体,远距离监督利用直接提到它们的句子来预测它们的语义关系。我们把这种策略称为1跳DS,不幸的是,它可能不适合于支持句子很少的长尾实体。在本文中,我们引入了一种新的策略,名为2跳DS,以提高远程监督RE,观察到存在大量的关系表在Web上包含共享共同关系的实体对。我们将这样的实体对称为彼此的锚,并收集所有提到给定目标实体对的锚实体对的句子,以帮助关系预测。我们在多示例学习范式中开发了一种新的神经RE方法REDS 2,该方法采用分层模型结构分别融合来自1跳DS和2跳DS的信息。在基准数据集上进行的大量实验结果表明,REDS2可以在不同的设置中始终优于各种基线。
2019-09-13 cs.CL
A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text
Peking University(北京大学)
中文文献文本的命名实体识别和关系抽取被认为是一个非常困难的问题,部分原因是缺乏标注集。在本文中,我们建立了一个语篇层面的数据集,从数百个中文文学文章,以改善这一任务。为了构建高质量的数据集,我们提出了两种标记方法来解决数据不一致的问题,包括启发式标记方法和机器辅助标记方法。在此基础上,我们还介绍了几个广泛使用的模型进行实验。实验结果不仅证明了所提出的数据集的有效性,而且为进一步的研究提供了基线。该数据集可在https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset上获得
2019-06-11 cs.CL
Document-Level Zero-Shot Relation Extraction with Entity Side Information
School of Information Technology, Monash University Malaysia(墨尔本大学马来西亚分校信息科技学院);Valiantlytix
本文提出DocZSRE-SI方法,通过利用实体侧信息提升低资源语言中零 shot 关系抽取的性能。
2026-01-12 cs.CL
Enhancing Document-level Relation Extraction by Entity Knowledge Injection
Nanjing University(南京大学);Huawei Technologies Co., Ltd.(华为技术有限公司)
文档级关系抽取(RE)的目的是识别贯穿整个文档的实体之间的关系。它需要复杂的推理技巧来综合各种知识,如共指和常识。大规模的知识图谱包含了大量的真实世界事实,可以为文档级RE提供有价值的知识。在本文中,我们提出了一个实体知识注入框架,以加强目前的文档级RE模型。具体来说,我们引入共指提取注入共指知识,赋予RE模型更一般的共指推理能力。我们还采用表示和解注入事实知识和聚合KG表示和文档表示到一个统一的空间。在两个基准数据集上的实验验证了我们的实体知识注入框架的通用性和对几个文档级RE模型的一致性改进。
2022-07-23 cs.CL
Learning from Noisy Labels for Entity-Centric Information Extraction
University of Southern California(南加州大学)
最近的信息抽取方法依赖于训练深度神经模型。然而,这样的模型很容易过拟合噪声标签,并遭受性能下降。虽然在大型学习资源中过滤噪声标签的成本非常高,但最近的研究表明,这些标签需要更多的训练步骤来记忆,并且比干净的标签更容易被遗忘,因此在训练中是可识别的。受这些性质的启发,我们提出了一个简单的共正则化框架,以实体为中心的信息抽取,它由几个神经模型具有相同的结构,但不同的参数初始化。这些模型与特定于任务的损失联合优化,并进行正则化,以基于一致性损失生成类似的预测,这可以防止对噪声标签的过度拟合。在两个广泛使用但有噪声的信息抽取基准测试集TACRED和CoNLL03上进行的大量实验证明了该框架的有效性。我们向社区发布代码以供将来研究。
2021-09-07 cs.CL
Jointly Modeling Hierarchical and Horizontal Features for Relational Triple Extraction
Jilin University(吉林大学);Huawei Technologies Co., Ltd(华为技术有限公司);University of Edinburgh(爱丁堡大学);Peking University(北京大学)
最近的工作关系三元组提取已经显示出的优越性,联合提取实体和关系的流水线提取方式。然而,大多数现有的联合模型未能平衡实体特征的建模和联合解码策略,从而没有充分研究实体层和三层之间的相互作用。在这项工作中,我们首先介绍了两个级别之间的层次依赖性和水平共性,然后提出了一个实体增强的双重标记框架,使三重提取(TE)的任务,利用这种相互作用与自学的实体功能,通过辅助实体提取(EE)的任务,而不会打破联合解码的关系三元组。具体来说,我们对齐EE和TE任务的位置明智的方式,制定它们作为两个序列标记的问题,具有相同的编码器-解码器结构。此外,这两个任务被组织在一个精心设计的参数共享设置,使学习的实体功能可以通过多任务学习自然共享。纽约时报基准的实证实验表明,所提出的框架相比,国家的最先进的方法的有效性。
2022-05-03 cs.CL
Entity-Relation Extraction as Multi-Turn Question Answering
Computer Science Department, Stanford University(计算机科学系,斯坦福大学)
研究提出将实体关系提取转化为多轮问答的新范式,利用问题查询信息、联合建模并借助机器阅读理解模型,在多个数据集上显著优于先前模型,在新构建的中文数据集RESUME上也表现最佳。
2026-07-22 cs.CL
Counts@IITK at SemEval-2021 Task 8: SciBERT Based Entity And Semantic Relation Extraction For Scientific Data
Indian Institute of Technology Kanpur (IIT Kanpur)(印度理工学院坎普尔分校)
本文介绍了SemEval 2021任务8(MeasEval)系统。MeasEval是一种新的跨度提取、分类和关系抽取任务,专注于查找量、这些量的属性和附加信息,包括相关的测量实体、属性和测量上下文。我们提交的系统在排行榜上排名第五(团队排名),由SciBERT和[CLS]令牌嵌入和CRF层组成。我们还在Quantity(tied)和Unit子任务中排名第一,在MeasuredEntity,Modifier和Quantifies子任务中排名第二,在Quantifier子任务中排名第三。
2021-04-03 cs.CL
Harnessing Generative LLMs for Enhanced Financial Event Entity Extraction Performance
Dongguk University(东国大学)
本文提出利用生成式大语言模型,通过参数高效微调将金融事件实体抽取转化为文本到结构化输出的生成任务,在CCKS 2019数据集上取得最优F1分数。
2025-04-20 cs.CL
Neural Collective Entity Linking Based on Recurrent Random Walk Network Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Xiamen University(厦门大学);Rochester University(罗切斯特大学);Xiaomi AI Lab, Xiaomi Inc.(小米公司小米人工智能实验室)
得益于神经网络在学习语义表示方面的优异能力,现有的实体链接研究都采用神经网络来利用实体链接决策之间的局部相容性和全局依赖性来消除目标实体的歧义。然而,大多数神经集体EL方法完全依赖于神经网络来自动建模不同EL决策之间的语义依赖关系,缺乏外部知识的指导。在本文中,我们提出了一种新的端到端的神经网络与经常性的随机游走层集体EL,它引入外部知识来模拟不同EL决策之间的语义相互依赖性。具体来说,我们首先建立一个模型的基础上,局部上下文功能,然后堆栈随机游走层,以加强相关EL决策的证据,高概率的决策,其中候选实体之间的语义相互依赖性主要是从外部知识库诱导。最后,一个语义正则化,保持集体EL决策的一致性被纳入到传统的目标函数,使外部知识库可以充分利用集体EL决策。在不同数据集上的实验结果和深入分析表明,我们的模型比其他最先进的模型具有更好的性能。我们的代码和数据在\url{https://github.com/DeepLearnXMU/RRWEL}上发布。
2019-06-20 cs.CL
Iteratively Improving Biomedical Entity Linking and Event Extraction via Hard Expectation-Maximization
Virginia Tech(弗吉尼亚理工大学)
本文提出联合生物医学实体链接与事件抽取方法,通过硬期望最大化将事件结构和实体引用作为隐变量,在Genia 2011和BC4GO数据集上显著优于基线并改进单项任务表现。
2023-05-24 cs.CL
A Practical Incremental Learning Framework For Sparse Entity Extraction
Wright State University(莱特州立大学);Maana Inc(Maana公司);GoDaddy Inc(GoDaddy公司)
这项工作解决了从文本数据中提取实体所带来的挑战,包括数据注释的高成本、模型准确性、选择适当的评估标准以及注释的整体质量。我们提出了一个集成实体集扩展(ESE)和主动学习(AL)的框架,以减少稀疏数据的注释成本,并提供一个在线评估方法作为反馈。这种增量和交互式学习框架允许快速注释和随后提取稀疏数据,同时保持高准确性。我们在三个公开的数据集上评估了我们的框架,结果表明,它大大降低了稀疏实体注释的成本,平均降低了85%和45%,分别达到0.9和1.0的F分数。此外,该方法在所有数据集上都表现出稳健的性能。
2020-04-26 cs.CL
A German Corpus for Fine-Grained Named Entity Recognition and Relation Extraction of Traffic and Industry Events
DFKI GmbH(德国人工智能研究中心)
在个人旅行计划和供应链管理等领域,监控移动性和行业相关事件非常重要,但从异构的大容量文本流中提取与特定公司、运输路线和位置相关的事件仍然是一个重大挑战。这项工作描述了一个语料库的德语文档已被注释细粒度的地理实体,如街道,车站和路线,以及标准的命名实体类型。它还被注释了一组15个与交通和行业相关的n元关系和事件,如事故、交通堵塞、收购和罢工。该语料库包括新闻专线文本、Twitter消息以及来自广播电台、警察局和铁路公司的交通报告。它允许训练和评估两个命名实体识别算法,旨在细粒度的地理实体,以及n元关系抽取系统。
2020-04-07 cs.CL
Multilingual Entity and Relation Extraction from Unified to Language-specific Training
Beihang University(北京航空航天大学);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
实体和关系抽取是信息抽取中的一个关键任务,其输出可用于下游的自然语言处理任务。现有的实体和关系抽取任务的方法主要集中在英语语料库,而忽略了其他语言。因此,在多语言环境中提高性能至关重要。同时,多语言培训通常用于通过从语言中转移知识来提高跨语言性能(例如,高资源)到其它(例如,低资源)语言。然而,语言干扰通常存在于多语言任务中,因为模型参数在所有语言之间共享。在本文中,我们提出了一个两阶段的多语言训练方法和一个联合模型称为多语言实体和关系抽取框架(mERE),以减轻跨语言的语言干扰。具体来说,我们随机连接不同语言的句子训练一个嵌入通用聚合器(LA),通过获得统一的语言表示缩小嵌入表示的距离。然后,我们通过调整特定于语言的Switcher(LS),其中包括几个独立的子模块来细化特定于语言的特征表示,分离参数,以减轻干扰。在此基础上,为了增强关系三元组的抽取,将句子表示与关系特征相连接,用于识别实体。大量的实验结果表明,我们的方法优于单语言和多语言的基线方法。此外,通过详细的分析表明,mERE是轻量级的,但在关系三元组抽取上是有效的,mERE{}易于移植到多领域任务的其他骨干模型中,进一步证明了该方法的有效性。
2023-01-11 cs.CL
Entity or Relation Embeddings? An Analysis of Encoding Strategies for Relation Extraction
Cardiff University(卡迪夫大学)
本文针对关系抽取中实体嵌入间接建模关系的局限,提出利用含 [MASK] 的提示构造关系嵌入,并与头尾实体嵌入联合建模,从而在多个基准上取得最先进性能。
2024-10-02 cs.CL
PEneo: Unifying Line Extraction, Line Grouping, and Entity Linking for End-to-end Document Pair Extraction
South China University of Technology(华南理工大学);Kingsoft Office(金山办公)
本文提出统一框架PEneo,通过行提取、行分组和实体链接三个并发子任务实现端到端文档对提取,缓解错误传播并处理多行实体,在多个基准上结合不同骨干网络大幅提升F1性能。
2024-11-17 cs.CL
Automatic Extraction of Medication Names in Tweets as Named Entity Recognition
NVIDIA(英伟达)
社交媒体帖子包含有关医疗条件和健康相关行为的潜在有价值的信息。Biocreative VII任务3的重点是通过识别推文中提到的药物和膳食补充剂来挖掘这些信息。我们通过微调多个BERT风格的语言模型来执行标记级分类,并将它们组合成集成来生成最终预测,从而完成这项任务。我们最好的系统由五个Megatron-BERT-345 M模型组成,在看不见的测试数据上达到了0.764的严格F1分数。
2021-11-30 cs.CL
A Hidden Markov Model Based System for Entity Extraction from Social Media English Text at FIRE 2015
Jadavpur University(贾达夫普尔大学)
本文介绍了我们在Jadavpur大学进行的实验,作为参与FIRE 2015任务的一部分:从社交媒体文本中提取实体-印度语言(ESM-IL)。我们为这项任务开发的工具是基于三元组隐马尔可夫模型,该模型利用地名词典列表,POS标签和其他一些单词级别的功能,以提高已知令牌以及未知令牌的观察概率。我们只提交了英文版。一个统计HMM(隐马尔可夫模型)为基础的模型已被用来实现我们的系统。该系统已经在FIRE 2015任务发布的数据集上进行了训练和测试:从社交媒体文本中提取实体-印度语言(ESM-IL)。我们的系统是最好的表现为英语语言,它获得的准确率,召回率和F-措施分别为61.96,39.46和48.21。
2015-12-12 cs.CL
A Corpus Study and Annotation Schema for Named Entity Recognition and Relation Extraction of Business Products
DFKI GmbH(德国人工智能研究中心)
识别新闻和论坛文本中的非标准实体类型和关系,例如B2B产品,产品类别及其生产商,在供应链监控和市场研究等应用领域非常重要。然而,在这一领域中缺乏注释语料库和注释指南。在这项工作中,我们提出了一个语料库的研究,注释模式和相关的准则,产品实体和公司产品关系提到的注释。我们发现,虽然产品提及往往是实现为名词短语,定义其确切的程度是困难的,由于高边界歧义和广泛的句法和语义变化的表面实现。我们还描述了我们正在进行的注释工作,并提出了一个初步的语料库的英语网络和社交媒体文件注释根据建议的指导方针。
2020-04-07 cs.CL
Span-based joint entity and relation extraction augmented with sequence tagging mechanism
National University of Defense Technology(国防科技大学)
基于跨度的联合抽取以文本跨度的形式同时进行命名实体识别和关系抽取。然而,由于以前的基于跨度的模型依赖于跨度级别的分类,它们不能受益于标记级别的标签信息,这已被证明有利于任务。在本文中,我们提出了一个序列标记增强的跨度为基础的网络(STSN),一个基于跨度的联合模型,可以利用令牌级的标签信息。在STSN中,我们通过深度堆叠多个注意层来构建核心神经架构,每个注意层由三个基本注意单元组成。该核心架构一方面通过序列标记机制学习标记级标签信息,并将其用于基于跨度的联合抽取;另一方面在NER和RE之间建立双向信息交互。在三个基准数据集上的实验结果表明,STSN在F1方面始终优于最强的基线,创造了新的最先进的结果。
2022-10-23 cs.CL
Entity Recognition and Relation Extraction from Scientific and Technical Texts in Russian
A.P. Ershov Institute of Informatics Systems SB RAS(俄罗斯科学院西伯利亚分院A.P.叶尔绍夫信息系统研究所);Novosibirsk State University(新西伯利亚国立大学)
本文主要研究信息技术类科技文本的信息抽取(实体识别和关系分类)方法。科学出版物为尖端科学进步提供了宝贵的信息,但有效处理越来越多的数据是一项耗时的任务。在本文中,提出了几个修改的方法,俄语。它还包括比较关键词提取方法、词汇方法和基于神经网络的一些方法的实验结果。这些任务的文本集以英文形式存在,并被科学界积极使用,但目前,俄文的此类数据集尚未公开。在本文中,我们提出了一个语料库的科学文本在俄罗斯,RuSERRC。该数据集由1600个未标记的文档和80个标记有实体和语义关系(考虑了6种关系类型)的文档组成。数据集和模型可在https://github.com/iis-research-team上获得。我们希望它们能对信息抽取系统的研究和开发有所帮助。
2020-12-26 cs.CL
CREER: A Large-Scale Corpus for Relation Extraction and Entity Recognition
National Cheng Kung University(国立成功大学)
我们描述了CREER数据集的设计和使用,一个大型语料库注释丰富的英语语法和语义属性。CREER数据集使用Stanford CoreNLP Annotator从维基百科纯文本中捕获丰富的语言结构。该数据集遵循广泛使用的语言和语义注释,因此它不仅可用于大多数自然语言处理任务,还可扩展数据集。这个大型监督数据集可以作为未来提高NLP任务性能的基础。我们通过以下链接公布数据集:https://140.116.82.111/share.cgi? ssid=000dOJ4
2022-06-09 cs.CL
Knowledge Augmented Entity and Relation Extraction for Legal Documents with Hypergraph Neural Network
School of Economics and Management(经济管理学院);Dalian University of Technology(大连理工大学)
本文提出基于超图神经网络的法律文档实体与关系抽取方法,通过整合领域知识和多头注意力机制,提升司法领域文本处理性能。
2026-02-09 cs.CL
Intent Detection and Entity Extraction from BioMedical Literature
IIT Kharagpur(印度理工学院卡哈拉格普尔分校);Columbia University(哥伦比亚大学)
本文实证评估生物医学文本的意图检测与命名实体识别,证明监督微调的PubMedBERT等模型仅需5个样本即可在NER上超越ChatGPT。
2024-08-05 cs.CL