A Densely Connected Criss-Cross Attention Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取（RE）旨在识别给定文档中两个实体之间的关系。与文档级RE相比，文档级RE需要复杂的推理。以往的研究通常通过在文档图的提及层或实体层上进行信息传播来完成推理，而很少考虑到实体对层上的推理，本文提出了一种新的文档级RE模型--密集连接交叉注意网络（Densely Connected Criss-Cross Attention Network，Dense-CCNet），该模型能够在实体对层上完成逻辑推理。具体而言，Dense-CCNet通过交叉注意（CCA）进行实体对级别的逻辑推理，可以在实体对矩阵上收集水平和垂直方向的上下文信息，以增强相应的实体对表示。此外，我们密集地连接CCA的多个层，以同时捕获单跳和多跳逻辑推理的特征。我们在三个公共文档级RE数据集DocRED，CDR和GDA上评估了我们的Dense-CCNet模型。实验结果表明，我们的模型在这三个数据集上达到了最先进的性能。
2022-03-26 cs.CL
Towards Integration of Discriminability and Robustness for Document-Level Relation Extraction
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；School of Computing, National University of Singapore（新加坡国立大学计算学院）
针对文档级关系抽取中正负类区分难及标注错误影响大的问题，提出集成判别力与鲁棒性的方法，通过定制损失函数和负标签采样策略，在多个数据集上取得最优结果。
2023-04-03 cs.CL
Multi-Relation Extraction in Entity Pairs using Global Context
Department of Computer Science and Engineering（计算机科学与工程系）；PDPM IIITDM Jabalpur（IIITDM贾巴尔普尔）
针对文档级关系抽取中现有方法仅关注实体提及句、缺乏全局上下文的问题，提出将实体表示为独立片段的输入嵌入方法，在三个基准数据集上验证了其有效性，兼具理论与实践价值。
2025-07-23 cs.CL cs.IR
Document-level Relation Extraction with Context Guided Mention Integration and Inter-pair Reasoning
Hunan Normal University（湖南师范大学）；Changsha University of Science & Technology（长沙理工大学）
文档级关系抽取（DRE）的目的是识别两个实体之间的关系。实体可以对应于跨越句子边界的多个提及。以前很少有研究探讨提及整合，这可能是有问题的，因为共指提及并不等同于一个特定的关系。此外，以前的努力主要集中在实体级的推理，而不是捕捉实体对之间的全局交互。在本文中，我们提出了两个新的技术，上下文引导提及集成和对间推理（CGM2IR），以提高DRE。与简单地应用平均池不同，上下文被用来以加权和的方式指导共指提及的整合。此外，对间推理在实体对图上执行迭代算法，以便对关系的相互依赖性进行建模。我们在三个广泛使用的基准数据集上评估了我们的CGM2IR模型，即DocRED，CDR和GDA。实验结果表明，我们的模型优于以前的国家的最先进的模型。
2022-01-13 cs.CL
GEGA: Graph Convolutional Networks and Evidence Retrieval Guided Attention for Enhanced Document-level Relation Extraction
School of Software, Henan University（河南大学软件学院）；China Mobile Research Institute（中国移动研究院）；Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）
针对文档级关系抽取中证据相关性弱及长距离多实体复杂关系抽取不足的问题，提出 GEGA 模型，用图神经网络引导证据注意力并结合多尺度证据检索，在三个基准上全面超越现有 SOTA。
2024-09-08 cs.AI cs.CL
SAIS: Supervising and Augmenting Intermediate Steps for Document-Level Relation Extraction
Carnegie Mellon University（卡内基梅隆大学）；Stanford University（斯坦福大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Emory University（埃默里大学）
关系抽取（RE）的研究从文档级向文档级发展，面临着文本长度增加和实体交互复杂化的问题。因此，对关键信息源--相关上下文和实体类型进行编码更具挑战性。然而，现有的方法只隐含地学习建模这些关键的信息源，同时被训练为RE。因此，他们遭受的问题，无效的监督和不可解释的模型预测。相比之下，我们建议明确地教模型捕捉相关的上下文和实体类型的监督和增强中间步骤（SAIS）的RE。基于广泛的精心设计的任务，我们提出的SAIS方法不仅提取更好的质量，由于更有效的监督关系，但也检索相应的支持证据更准确，以提高可解释性。通过评估模型的不确定性，SAIS通过基于证据的数据增强和集合推理进一步提高了性能，同时降低了计算成本。最终，SAIS在三个基准测试（DocRED，CDR和GDA）上提供了最先进的RE结果，并在DocRED上的证据检索中的F1得分中相对领先亚军5.04%。
2022-05-01 cs.AI cs.CL
Document-Level Relation Extraction with Adaptive Thresholding and Localized Context Pooling
JD AI Research（京东人工智能研究院）
文档级关系抽取（RE）提出了新的挑战相比，它的文档级对应。一个文档通常包含多个实体对，并且一个实体对在与多个可能关系相关联的文档中出现多次。在本文中，我们提出了两个新的技术，自适应阈值和本地上下文池，以解决多标签和多实体的问题。自适应阈值代替全局阈值的多标签分类在以前的工作与一个可学习的实体相关的阈值。本地化上下文池直接将注意力从预训练的语言模型转移到定位对决定关系有用的相关上下文。我们在三个文档级RE基准数据集上进行了实验：DocRED，最近发布的大规模RE数据集，以及生物医学领域的两个数据集CDR和GDA。我们的ATLOP（自适应存储和本地化cOntext Pooling）模型的F1得分为63.4，并且在CDR和GDA上也显著优于现有模型。
2020-12-09 cs.CL
CorefDRE: Document-level Relation Extraction with coreference resolution
Chongqing University（重庆大学）
文档级关系抽取是从由多个句子组成的文档中抽取关系事实，其中代词跨句是一种普遍存在的现象。然而，以往的研究大多集中在代词之外的提述共指消解，而很少关注提述-代词共指及其关系的把握。为了用代词表示多句子特征，我们模仿人类的阅读过程，利用共指信息动态构建异构图来增强语义信息。由于代词在图中的歧义性，引入了一种代词-代词共指消解方法来计算代词与对应提及之间的相似度，并提出了噪声抑制机制来降低代词引起的噪声.在公共数据集DocRED、DialogRE和MPDD上的实验表明，基于图推理网络的文档级关系抽取的核心感知性能优于现有技术。
2022-02-22 cs.CL
HIN: Hierarchical Inference Network for Document-Level Relation Extraction
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）
文档级RE需要阅读，推断和聚合多个句子。从我们的观点来看，文档级RE需要利用多粒度的推理信息：实体级，句子级和文档级。因此，如何获取和聚合不同粒度的推理信息是具有挑战性的文档级RE，这是以前的工作没有考虑。本文提出了一种层次推理网络（HIN），充分利用了实体级、句子级和文档级的丰富信息。在多个子空间中对目标实体对进行平移约束和双线性变换，得到实体级推理信息。其次，我们对实体级信息和句子表示之间的推理进行建模，得到句子级的推理信息。最后，采用层次聚合方法获得文档级推理信息。通过这种方式，我们的模型可以有效地聚合这三个不同粒度的推理信息。实验结果表明，我们的方法在大规模DocRED数据集上实现了最先进的性能。我们还证明，使用BERT表示可以进一步大幅提高性能。
2020-03-28 cs.CL
Modeling Task Interactions in Document-Level Joint Entity and Relation Extraction
Emory University（埃默里大学）
我们的目标是在一个端到端的设置文档级的关系抽取，其中模型需要联合执行提及提取，共指消解（COREF）和关系抽取（RE）一次，并得到一个以实体为中心的方式进行评估。特别是，我们解决了COREF和RE之间的双向互动，还没有被以前的工作的重点，并建议引入明确的互动，即图兼容性（GC），是专门设计来利用任务的特点，桥接两个任务的直接任务干扰的决定。我们的实验在DocRED和DWIE上进行;除了GC之外，我们还实现并比较了以前工作中常用的不同多任务设置，包括管道，共享编码器，图形传播，以检查不同交互的有效性。结果表明，GC实现了最佳性能，比基线提高了2.3/5.1 F1。
2022-05-04 cs.CL cs.LG
Not Just Plain Text! Fuel Document-Level Relation Extraction with Explicit Syntax Refinement and Subsentence Modeling
Tsinghua University（清华大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
文档级关系抽取（DocRE）旨在识别单个文档中实体之间的语义标签。DocRE的一个主要挑战是从长文本中挖掘关于特定实体对的决定性细节。然而，在许多情况下，即使在手动标记的支持证据中，也只有一小部分文本携带所需的信息。为了更好地捕捉和利用有指导意义的信息，我们提出了一种新的显式syntAx细化和子句mOdeliNg为基础的框架（LARSON）。通过引入额外的句法信息，LARSON可以对任意粒度的子句进行建模，并有效地筛选出有指导意义的子句。此外，我们将精炼的语法到文本表示，进一步提高了性能的LARSON。在三个基准数据集（DocRED，CDR和GDA）上的实验结果表明，LARSON显著优于现有方法。
2023-02-13 cs.CL
Relation-Specific Attentions over Entity Mentions for Enhanced Document-Level Relation Extraction
Fudan University（复旦大学）
与传统的文档级关系抽取相比，文档级关系抽取是一个更具挑战性的任务，因为文档中的实体可能被多次提及并与多个关系相关联。然而，大多数文档级关系抽取方法并不区分提及级特征和实体级特征，而只是简单地将提及级特征聚合成实体级特征。因此，忽略了实体的不同提及之间的不同语义。为了解决这个问题，我们提出了RSMAN在本文中执行选择性注意不同的实体提到相对于候选人的关系。通过这种方式，获得了实体的灵活和关系特定的表示，这确实有利于关系分类。我们在两个基准数据集上进行的大量实验表明，我们的RSMAN可以为一些骨干模型带来显着的改进，以实现最先进的性能，特别是当一个实体在文档中有多个提及时。
2022-05-28 cs.CL
CARE: Co-Attention Network for Joint Entity and Relation Extraction
School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院）
本文提出CARE，一种用于联合实体和关系抽取的协同注意力网络，通过并行编码和双向交互模块解决特征混淆问题，在三个基准数据集上优于现有基线。
2024-03-27 cs.CL
A Masked Image Reconstruction Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取相比，文档级关系抽取需要对多个句子进行推理，以抽取复杂的关系三元组。以往的研究一般都是通过提及级或实体级文档图上的信息传播来完成推理，而不考虑关系之间的相关性。在本文中，我们提出了一种新的文档级关系抽取模型的基础上掩蔽图像重建网络（DRE-MIR），模型推理作为一个掩蔽的图像重建问题，捕捉关系之间的相关性。具体地说，我们首先利用编码器模块来获取实体的特征，并根据这些特征构造实体对矩阵。之后，我们将实体对矩阵视为图像，然后随机屏蔽它并通过推理模块恢复它，以捕获关系之间的相关性。我们评估我们的模型上的三个公共文档级关系抽取数据集，即DocRED，CDR和GDA。实验结果表明，我们的模型在这三个数据集上都达到了最先进的性能，并且在推理过程中对噪声具有很好的鲁棒性。
2022-08-04 cs.CL
Document-Level Relation Extraction with Adaptive Focal Loss and Knowledge Distillation
National University of Singapore（新加坡国立大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
文档级关系抽取（DocRE）是一个更具挑战性的任务相比，它的文档级对应。它的目标是一次从多个句子中提取关系。在本文中，我们提出了一个半监督框架DocRE与三个新的组件。首先，我们使用一个轴向注意模块来学习实体对之间的相互依赖性，这提高了两跳关系的性能。其次，我们提出了一个自适应的焦点损失，以解决类不平衡问题的DocRE。最后，我们使用知识蒸馏来克服人类注释数据和远程监督数据之间的差异。我们在两个DocRE数据集上进行了实验。我们的模型始终优于强大的基线，其性能在DocRED排行榜上超过了之前的SOTA 1.36 F1和1.46 F_F1。我们的代码和数据将在https://github.com/tonytan48/KD-DocRE上发布。
2022-03-21 cs.CL
Noise Mitigation for Neural Entity Typing and Relation Extraction
LMU Munich（慕尼黑大学）
在本文中，我们解决了两种不同类型的噪音在信息抽取模型：噪音从远程监督和噪音从管道输入功能。我们的目标任务是实体类型和关系抽取。对于第一种噪声类型，我们引入了基于神经网络模型的多实例多标签学习算法，并首次将其应用于细粒度实体分类。这使我们的模型具有与使用全局实体嵌入的最先进的监督方法相当的性能。对于第二种噪声类型，我们提出了改进将噪声实体类型预测集成到关系抽取中的方法。我们的实验表明，概率预测比离散预测更鲁棒，并且两个任务的联合训练表现最好。
2017-01-10 cs.CL
SEE: Syntax-aware Entity Embedding for Neural Relation Extraction
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；Collaborative Innovation Center of Novel Software Technology and Industrialization（新型软件技术与产业化协同创新中心）；Alibaba Group（阿里巴巴集团）；School of Computer Science and Technology, Heilongjiang University（黑龙江大学计算机科学与技术学院）
距离监督关系抽取是一种有效的大规模关系抽取方法，被广泛用于从纯文本中发现新的关系事实。近年来神经关系抽取的研究通过在低维空间中对句子建模取得了很大进展，但很少考虑句法信息对实体建模。在本文中，我们提出学习语法感知的实体嵌入神经关系抽取。首先，我们编码的依赖树上的实体的上下文作为基于树GRU的事务级实体嵌入。然后，我们利用句子内和句子间的注意力，以获得句子集合级的实体嵌入所有句子包含的焦点实体对。最后，我们结合句子嵌入和实体嵌入进行关系分类。我们在一个广泛使用的真实数据集上进行了实验，实验结果表明，我们的模型可以充分利用所有的信息实例，并实现了最先进的性能的关系抽取。
2018-01-11 cs.CL
Document-level Entity-based Extraction as Template Generation
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
文档级基于实体的抽取（EE）旨在抽取以实体为中心的信息，如实体角色和实体关系，是从不同领域的文本语料库中自动获取知识获取的关键。大多数文档级EE系统构建提取模型，这些模型难以在文档级对实体之间的长期依赖关系进行建模。为了解决这个问题，我们提出了两个文档级EE任务：角色填充实体提取（REE）和关系抽取（RE）的生成框架。我们首先将它们制定为模板生成问题，允许模型有效地捕获跨实体依赖关系，利用标签语义，并避免识别N元关系的指数计算复杂性。一种新的交叉注意引导复制机制，TopK复制，被纳入一个预先训练的序列到序列模型，以提高识别输入文档中的关键信息的能力。在MUC-4和SciREX数据集上进行的实验显示了F1评分中REE（+3.26%），二元RE（+4.8%）和4元RE（+2.7%）的最新结果。
2021-09-10 cs.CL
A Trigger-Sense Memory Flow Framework for Joint Entity and Relation Extraction
Zhejiang University（浙江大学）
联合实体和关系抽取框架构建了一个统一的模型来同时执行实体识别和关系抽取，它可以利用两个任务之间的依赖性来减轻管道模型所遭受的错误传播问题。当前对联合实体和关系抽取的努力集中于通过参数共享、联合解码或其他自组织技巧（例如，建模为半马尔可夫决策过程，投射为多轮阅读理解任务）。然而，仍有两个问题摆在桌面上。首先，大多数方法所利用的交互仍然是弱的和单向的，这是无法模拟两个任务之间的相互依赖。其次，大多数方法都忽略了关系触发，这有助于解释为什么人类会在句子中提取关系。它们对于关系抽取是必不可少的，但却被忽视了。为此，我们提出了一个触发感记忆流框架（TriMF）的联合实体和关系抽取。我们建立了一个记忆模块来记忆实体识别和关系抽取任务中学习到的类别表示。在此基础上，设计了一种多级内存流注意力机制，以增强实体识别和关系抽取之间的双向交互。此外，在没有任何人类注释的情况下，我们的模型可以通过触发传感器模块增强句子中的关系触发信息，这提高了模型的性能，并使模型预测具有更好的解释。实验结果表明，我们提出的框架实现了最先进的结果，提高了关系F1在SciERC上的52.44%（+3.2%），在ACE05上的66.49%（+4.9%），在CoNLL04上的72.35%（+0.6%）和在ADE上的80.66%（+2.3%）。
2021-04-16 cs.CL
DREEAM: Guiding Attention with Evidence for Improving Document-Level Relation Extraction
Tokyo Institute of Technology（东京工业大学）
文档级关系抽取（DocRE）是识别文档中每个实体对之间所有关系的任务。证据被定义为包含实体对之间关系的线索的句子，已被证明可以帮助DocRE系统关注相关文本，从而改进关系抽取。然而，DocRE中的证据检索（ER）面临两个主要问题：高内存消耗和有限的注释可用性。这项工作的目的是解决这些问题，以提高ER在DocRE中的使用。首先，我们提出了DREEAM，一个内存效率的方法，采用证据信息作为监督信号，从而指导注意力模块的DocRE系统分配高权重的证据。其次，我们提出了一个自我训练策略的梦想，学习ER从自动生成的证据在海量数据没有证据注释。实验结果表明，我们的方法表现出最先进的性能在DocRED基准的DocRE和ER。据我们所知，DREEAM是第一种采用ER自我训练的方法。
2023-02-17 cs.CL
BERT-Based Multi-Head Selection for Joint Entity-Relation Extraction
Ant Financial Services Group（蚂蚁金融服务集团）
在本文中，我们报告了我们在2019年语言和智能挑战赛中的信息抽取任务的方法。我们将BERT纳入联合实体-关系抽取的多头选择框架。该模型从三个方面扩展了现有的方法。首先，采用BERT作为多头选择框架底部的特征提取层。我们通过在BERT预训练期间引入语义增强任务来进一步优化BERT。其次，我们引入了一个大规模的百度百科语料库进行实体识别的预训练，由于没有实际命名的实体标签，所以它是每周监督学习。第三，提出了软标签嵌入，以有效地传递实体识别和关系抽取之间的信息。结合这三个方面的贡献，我们提高了多头选择模型的信息提取能力，并实现了F1-得分0.876测试集-1上的单一模型。通过集成我们模型的四个变体，我们最终在测试集1上获得F1得分0.892（第一名），在测试集2上获得F1得分0.8924（第二名）。
2019-09-26 cs.CL
Pre-trained Language Models and Few-shot Learning for Medical Entity Extraction
Santa Clara University（圣克拉拉大学）；San Francisco State University（旧金山州立大学）；Cornell University（康奈尔大学）；The Chinese University of Hong Kong（香港中文大学）；Stevens Institute of Technology（史蒂文斯理工学院）
本文研究基于Transformer的医学实体抽取，比较多种预训练语言模型和抽取方法，并验证小样本学习在低资源场景下的有效性，证明预训练模型与小样本学习结合可提升医学实体抽取准确性。
2025-04-06 cs.CL
Linguistically Informed Relation Extraction and Neural Architectures for Nested Named Entity Recognition in BioNLP-OST 2019
Siemens AG（西门子股份公司）；University of Munich (LMU)（慕尼黑大学（LMU））
命名实体识别（NER）和关系抽取（RE）是从生物医学文献中提取知识的重要工具。本文介绍了我们参与BioNLP Shared Tasks 2019的发现。本文研究了命名实体识别，包括嵌套实体抽取、实体规范化和关系抽取。我们提出的命名实体的方法可以推广到不同的语言，我们已经证明了它的有效性英语和西班牙语文本。我们研究了语言特征，混合损失包括排名和条件随机场（CRF），多任务目标和标记级集成策略，以提高NER。我们采用基于字典的模糊和语义搜索来执行实体规范化。最后，我们的RE系统采用支持向量机（SVM）与语言特征。我们的NER提交（团队：MIC-CIS）在BB-2019 norm+NER任务中排名第一，标准出错率（SER）为0.7159，并在PharmaCo NER任务中表现出竞争力，F1得分为0.8662。我们的RE系统在SeeDev-binary关系抽取任务中排名第一，F1得分为0.3738。
2019-10-08 cs.CL
A Hierarchical Entity Graph Convolutional Network for Relation Extraction across Documents
National University of Singapore（新加坡国立大学）；Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
用于关系抽取的远程监督数据集主要集中在事务级抽取，并且它们覆盖的关系很少。在这项工作中，我们提出了跨文档的关系抽取，其中的两个实体的关系元组出现在两个不同的文件，通过一个共同的实体链连接。按照这个想法，我们创建了一个两跳关系抽取的数据集，其中每个链只包含两个文档。我们提出的数据集涵盖了更多的关系比公开可用的数据集级别。我们还为此任务提出了一个分层实体图卷积网络（HEGCN）模型，与一些强大的神经基线相比，该模型在我们的两跳关系抽取数据集上将性能提高了1.1\% F1分数。
2021-08-21 cs.CL
MobIE: A German Dataset for Named Entity Recognition, Entity Linking and Relation Extraction in the Mobility Domain
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
我们提出了MobIE，德语数据集，这是人类注释的20个粗粒度和细粒度的实体类型和实体链接信息的地理上不确定的实体。该数据集由3，232个社交媒体文本和91K令牌的交通报告组成，并包含20.5K注释实体，其中13.1K链接到知识库。数据集的一个子集是人类注释的七个移动性相关的，n元关系类型，而其余的文件是使用弱监督标记方法与Snorkel框架实现注释。据我们所知，这是第一个结合了NER，EL和RE注释的德语数据集，因此可以用于这些基本信息抽取任务的联合和多任务学习。我们在https://github.com/dfki-nlp/mobie上公开了Mobie。
2022-03-28 cs.CL
BERE: An accurate distantly supervised biomedical entity relation extraction network
从文献中自动抽取实体关系抽取（RE）是构建生物医学数据库的重要来源，它比人工处理更高效、可扩展。然而，现有的RE模型通常忽略了句子结构和目标实体中包含的信息。在本文中，我们提出了BERE，这是一种基于深度学习的模型，它使用Gumbel Tree-GRU来学习句子结构，并使用联合嵌入来整合实体信息。它还采用词级注意力改进的关系抽取和事件级注意力，以适应远程监督数据集。由于现有的数据集相对较小，我们进一步构建了一个更大的药物靶点相互作用提取（DTIE）数据集的远程监督。在DDIExtraction 2013任务和DTIE数据集上进行的实验表明，我们的模型在F1测量和PR曲线方面优于最先进的基线。
2019-06-22 cs.CL
Eider: Empowering Document-level Relation Extraction with Efficient Evidence Extraction and Inference-stage Fusion
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
文档级关系抽取（DocRE）的目的是抽取文档中实体对之间的语义关系。典型的DocRE方法盲目地将整个文档作为输入，而文档中的句子子集（作为证据）通常足以让人类预测实体对的关系。在本文中，我们提出了一个证据增强的框架，Eider，授权DocRE有效地提取证据，并有效地融合提取的证据在推理。我们首先联合训练一个RE模型与轻量级的证据提取模型，这是高效的内存和运行时。从经验上讲，即使在由我们的启发式规则构建的银标签上训练证据模型也可以获得更好的RE性能。我们进一步设计了一个简单而有效的推理过程，使提取的证据和完整的文档RE预测，然后通过混合层融合的预测。这使得Eider可以专注于重要的句子，同时仍然可以访问文档中的完整信息。大量的实验表明，Eider在三个基准数据集上的性能优于最先进的方法（例如，通过DocRED上的1.37/1.26 Ign F1/F1）。
2022-03-07 cs.CL
Injecting Knowledge Base Information into End-to-End Joint Entity and Relation Extraction and Coreference Resolution
Ghent University（根特大学）；imec（比利时微电子研究中心）
本文提出了一种联合信息抽取模型，在整个文档中联合解决命名实体识别、共指消解和关系抽取。特别是，我们研究了如何注入信息从知识库（KB）在这样的IE模型，基于无监督的实体链接。所使用的KB实体表示是从（i）超链接文本文档（Wikipedia）或（ii）知识图谱（Wikidata）中学习的，并且在提高IE性能方面是互补的。相应的实体链接（EL）候选者的表示被添加到输入文档的文本跨度表示，并且我们实验（i）基于其先验（在维基百科中）对EL候选者表示进行加权平均，以及（ii）在EL候选者列表上使用注意力方案。结果表明，在两个数据集上评估的IE任务的F1分数增加了5%。尽管基于先验的模型表现很好，但我们的定量和定性分析揭示了使用基于注意力的方法的优势。
2021-07-05 cs.CL
Fine-tuning BERT for Joint Entity and Relation Extraction in Chinese Medical Text
East China University of Science and Technology（华东理工大学）；Shanghai Hospital Development Center（上海医院发展中心）
实体和关系抽取是构建医学文本的必要步骤。但是现有模型中的双向长短期记忆网络的特征提取能力并没有达到最佳效果。同时，该语言模型在越来越多的自然语言处理任务中取得了优异的效果。在本文中，我们提出了一个集中注意力模型的联合实体和关系抽取任务。该模型通过动态范围注意力机制将著名的BERT语言模型融入到联合学习中，从而提高了共享参数层的特征表示能力。在曙光医院冠状动脉造影文本上的实验结果表明，命名实体识别和关系分类任务的F1分数分别达到96.89%和88.51%，优于现有方法的1.65%和1.22%。
2019-10-22 cs.CL
iMETRE: Incorporating Markers of Entity Types for Relation Extraction
International Institute of Information Technology（国际信息技术学院）
本文提出iMETRE方法，通过结合类型化实体标记表示和微调模型，在金融数据集REFinD上实现69.65%的F1分数，改进句子级关系抽取性能。
2023-06-30 cs.CL
GRIT: Generative Role-filler Transformers for Document-level Event Entity Extraction
Cornell University（康奈尔大学）
我们重新审视经典的问题，文档级的角色填充实体提取（REE）模板填充。我们认为，文本级的方法是不适合的任务，并引入了一个生成的基于转换器的编码器-解码器框架（GRIT），其目的是在文档级的上下文建模：它可以跨句子边界提取决策，是隐含地知道名词短语的共指结构，并有能力尊重模板结构中的跨角色依赖关系。我们在MUC-4数据集上评估了我们的方法，并表明我们的模型比以前的工作表现得更好。我们还表明，我们的建模选择有助于模型性能，例如，通过隐式地捕获语言知识，例如识别共指实体提及。
2021-01-28 cs.CL
Towards Effective Multi-Task Interaction for Entity-Relation Extraction: A Unified Framework with Selection Recurrent Network
Tokyo Institute of Technology（东京工业大学）
实体-关系抽取旨在联合解决命名实体识别（NER）和关系抽取（RE）问题.最近的方法使用单向顺序信息传播的管道方式或双向隐式交互与共享编码器。然而，他们仍然遭受不良的信息交互，由于不同的任务形式之间的差距，净入学率和RE，提出了一个有争议的问题，是否RE是真的有利于净入学率。基于此，我们提出了一个新的和统一的级联框架，结合了顺序信息传播和隐式交互的优点。同时，通过将实体-关系抽取重新定义为统一的跨度抽取任务，消除了两个任务之间的鸿沟。具体而言，我们提出了一个选择递归网络作为共享编码器，以编码特定于任务的独立和共享的表示和设计两个顺序的信息传播策略，以实现顺序的信息流之间的NER和RE。大量的实验表明，我们的方法可以实现国家的最先进的结果，在两个共同的基准，ACE 05和SciERC，并有效地模拟多任务的相互作用，实现显着的互惠互利的NER和RE。
2022-02-15 cs.CL
Techniques for Jointly Extracting Entities and Relations: A Survey
TCS Research & Innovation（塔塔咨询服务公司研究与创新中心）；Indian Institute of Technology Bombay（印度理工学院孟买分校）
关系抽取是信息抽取中的一项重要任务，它涉及实体提及之间的语义关系识别。传统上，关系抽取是在实体提取之后以“流水线”方式进行的，因此关系抽取仅关注于确定在一对提取的实体提及之间是否存在任何语义关系。这导致错误从实体提取阶段传播到关系抽取阶段。此外，实体提取进行没有任何知识的关系。因此，观察到联合执行实体和关系抽取对于这两个任务都是有益的。在本文中，我们调查各种技术，共同提取实体和关系。我们根据它们用于联合提取的方法对技术进行分类，即它们是否采用联合推理或联合建模或两者兼而有之。我们进一步描述了联合推理和联合建模的一些代表性技术。我们还描述了两个标准的数据集，评估技术和这些数据集上的联合提取方法的性能。我们提出了一个简单的分析应用一般域联合提取方法的生物医学数据集。本调查是有用的研究人员以及从业人员在该领域的信息抽取，涵盖了广泛的景观联合提取技术。
2021-03-10 cs.CL
A Consolidated System for Robust Multi-Document Entity Risk Extraction and Taxonomy Augmentation
Thomson Reuters Special Services, LLC（汤森路透特别服务有限责任公司）
我们引入了一个混合的人工自动化系统，提供了可扩展的实体风险关系抽取在大型数据集。给定专家定义的关键字分类法、实体和数据源，系统基于实体和关键字之间的双向标记距离返回文本提取，并使用词向量编码扩展分类法覆盖范围。与专注于警报的系统相比，我们的系统代表了一个更简化的架构-受风险挖掘领域的高覆盖率用例（如尽职调查活动和情报收集）的激励。我们提供了一个系统的概述和专家评估的令牌距离范围。我们证明，单句和多句距离组显着优于基线提取与较短的，单句是首选的分析师。随着分类法的扩展，相关信息的量增加，多句提取变得更受欢迎，但这与实体风险关系变得更加间接有关。我们讨论了这些意见对用户的影响，管理的模糊性和分类扩展，以及未来的系统修改。
2019-09-23 cs.CL
REXEL: An End-to-end Model for Document-Level Relation Extraction and Entity Linking
I-X Centre for AI In Science（I-X科学人工智能中心）；Imperial College London（帝国理工学院）；Amazon Alexa AI（亚马逊Alexa人工智能部门）
提出端到端模型REXEL，联合完成文档级封闭信息抽取的多个子任务，速度提升11倍，F1平均超基线6点，并扩展DocRED数据集。
2024-04-19 cs.CL
Entity, Relation, and Event Extraction with Contextualized Span Representations
University of Washington（华盛顿大学）；Google AI Language（谷歌AI语言团队）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们研究了一个统一的，多任务的框架，三个信息抽取任务的能力：命名实体识别，关系抽取，和事件提取。我们的框架（称为DyGIE++）通过枚举，精炼和评分旨在捕获本地（句子内）和全球（跨句子）上下文的文本跨度来完成所有任务。我们的框架在来自各个领域的四个数据集上实现了所有任务的最先进结果。我们进行实验比较不同的技术来构建跨度表示。像BERT这样的上下文嵌入在捕获相同或相邻句子中的实体之间的关系方面表现良好，而动态跨度图更新则对长范围的跨句子关系进行建模。例如，通过预测的共指链接传播跨度表示可以使模型能够消除具有挑战性的实体提及的歧义。我们的代码可在https://github.com/dwadden/dygiepp上公开获取，并且可以轻松地适应新任务或数据集。
2019-09-10 cs.CL
A Two-Phase Paradigm for Joint Entity-Relation Extraction
National University of Defense Technology（国防科技大学）；The Affiliated Eye Hospital of Nanjing Medical University（南京医科大学附属眼科医院）
一个详尽的研究已经进行了调查跨度为基础的模型的联合实体和关系抽取任务。然而，这些模型在模型训练过程中采样了大量的负实体和负关系，这是必不可少的，但会导致数据分布严重不平衡，进而导致模型性能不佳。为了解决上述问题，本文提出了一种基于跨度的联合实体和关系抽取的两阶段范式，即在第一阶段对实体和关系进行分类，在第二阶段预测这些实体和关系的类型。两阶段范式使我们的模型能够显著减少数据分布差距，包括否定实体与其他实体之间的差距，以及否定关系与其他关系之间的差距。此外，我们首次尝试将实体类型和实体距离作为全局特征，这被证明是有效的，特别是对于关系抽取。在多个数据集上的实验结果表明，基于跨度的联合提取模型与两阶段范式和全局特征增强一致优于以前的最先进的基于跨度的联合提取任务的模型，建立了一个新的标准基准。定性和定量分析进一步验证了所提出范式的有效性和全局特征.
2022-08-18 cs.CL
A Frustratingly Easy Approach for Entity and Relation Extraction
Princeton University（普林斯顿大学）
端到端关系抽取的目的是识别命名实体并抽取它们之间的关系。最近的工作模型这两个子任务联合，要么铸造他们在一个结构化的预测框架，或通过共享表示执行多任务学习。在这项工作中，我们提出了一个简单的流水线方法的实体和关系抽取，并建立了新的国家的最先进的标准基准（ACE 04，ACE 05和SciERC），获得了1.7%-2.8%的绝对改善关系F1比以前的联合模型与相同的预训练编码器。我们的方法基本上建立在两个独立的编码器上，并且仅仅使用实体模型来构造关系模型的输入。通过一系列仔细的检查，我们验证了学习不同的上下文表示实体和关系，融合实体信息的关系模型的早期，并纳入全球范围内的重要性。最后，我们还提出了一个有效的近似我们的方法，只需要一个通过实体和关系编码器在推理时间，实现了8-16 $\times$的加速与精度略有下降。
2021-03-23 cs.CL
TWIX: a Two-Stage Approach for End-To-End Named Entity Recognition and Relation Extraction
University of Padova（帕多瓦大学）
针对科学出版物增长带来的信息抽取需求，提出TWIX端到端IE流水线，采用两阶段框架解决GutBrainIE基准的所有子任务，在评测中大幅优于基线且排名第一，有效提升了精确率和召回率。
2026-09-02 cs.CL
HIORE: Leveraging High-order Interactions for Unified Entity Relation Extraction
Tencent Inc.（腾讯公司）；ByteDance AI Lab（字节跳动人工智能实验室）；East China Normal University（华东师范大学）；University of California Santa Barbara（加州大学圣巴巴拉分校）；Shanghai Jiao Tong University（上海交通大学）
本文提出HIORE方法，通过WNet捕获高阶词对交互并构建高阶图用GNN校准，统一实体识别与关系抽取，在三个基准上关系抽取达最优，F1较先前最优统一模型提升1.1~1.8点。
2023-05-07 cs.CL
Adversarial training for multi-context joint entity and relation extraction
Ghent University（根特大学）；imec（比利时微电子研究中心）；IDLab（ID实验室）；Department of Information Technology（信息技术系）
对抗训练（AT）是一种正则化方法，其可用于通过在训练数据中添加小扰动来提高神经网络方法的鲁棒性。我们展示了如何使用AT的任务，实体识别和关系抽取。特别是，我们证明了将AT应用于通用基线模型以联合提取实体和关系，可以提高不同上下文中几个数据集的最新有效性（即，新闻、生物医学和房地产数据）和不同语言（英语和荷兰语）。
2019-01-14 cs.CL
DWIE: an entity-centric dataset for multi-task document-level information extraction
Ghent University（根特大学）；imec；IDLab
本文介绍了DWIE，“德国之声语料库信息抽取”，一个新创建的多任务数据集，结合了四个主要的信息抽取（IE）注释子任务：（i）命名实体识别（NER），（ii）共指消解，（iii）关系抽取（RE），和（iv）实体链接。DWIE被认为是一个以实体为中心的数据集，它描述了完整文档级别上概念实体的交互和属性。这与目前占主导地位的提及驱动的方法，从单个句子中的命名实体提及的检测和分类开始。此外，DWIE在构建和评估IE模型时提出了两个主要挑战：首先，在以实体为中心的DWIE数据集上使用传统的提及级评估指标进行NER和RE任务，可能会导致测量结果被更频繁提及的实体的预测所主导。我们通过提出一个新的实体驱动的度量来解决这个问题，该度量考虑了组成每个预测和地面真实实体的提及次数。其次，文档级多任务注释要求模型在位于文档不同部分的实体提及之间以及不同任务之间在联合学习设置中传输信息。为了实现这一点，我们建议在文档级提及跨度之间使用基于图的神经消息传递技术。我们的实验表明，当将神经图传播纳入我们的联合模型时，F1的改进高达5.5个百分点。这表明DWIE的潜力，刺激进一步研究图神经网络的表示学习在多任务IE。我们在https://github.com/klimzaporojets/DWIE上公开提供DWIE。
2021-03-09 cs.CL
NC-DRE: Leveraging Non-entity Clue Information for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取（RE）需要对不同句子中的多个实体进行推理以识别复杂的句子间关系，这比文档级RE更具挑战性。为了提取复杂的句间关系，以往的研究通常采用图神经网络（GNN）对异构文档图进行推理。尽管这些基于图的方法取得了巨大的成功，但它们在构建图和推理的过程中通常只考虑提及中的词，往往忽略了提及中没有的但为关系推理提供重要线索信息的非实体线索词。为了缓解这个问题，我们将基于图的文档级RE模型视为编码器-解码器框架，该框架通常使用预训练的语言模型作为编码器，GNN模型作为解码器，并提出了一种新的基于图的模型NC-DRE，该模型引入解码器到编码器的注意力机制，以利用非实体线索信息进行文档级关系抽取。
2022-04-01 cs.CL
Improving Distantly Supervised Relation Extraction using Word and Entity Based Attention
Indian Institute of Science（印度科学研究所）；University of British Columbia（英属哥伦比亚大学）
关系抽取是对给定句子中两个实体之间的关系进行分类的问题。远程监督（DS）是一种流行的技术，用于从有限监督开始开发关系提取器。我们注意到，在远程监督关系抽取设置中的大多数句子都很长，并且可以受益于单词注意以获得更好的句子表示。我们在本文中的贡献有三个方面。首先，我们提出了两个新的词注意力模型的远程监督关系抽取：（1）双向门控递归单元（Bi-GRU）为基础的词注意力模型（BGWA），（2）以实体为中心的注意力模型（EA），和（3）组合模型，采用加权投票方法结合多个互补的模型改进的关系抽取。其次，介绍了一种新的用于关系抽取的远程监督数据集GDS。GDS消除了所有以前的远程监督基准数据集中存在的测试数据噪声，使可靠的自动评估成为可能。第三，通过在多个真实数据集上的大量实验，我们证明了所提出的方法的有效性。
2018-04-19 cs.CL
Structure-Aware Decoding Mechanisms for Complex Entity Extraction with Large-Scale Language Models
University of Southern California（南加州大学）；Washington University in St. Louis（圣路易斯华盛顿大学）；Stevens Institute of Technology（史蒂文斯理工学院）；University of Pennsylvania（宾夕法尼亚大学）
本文提出一种基于大规模语言模型的结构意识解码方法，用于提升复杂实体提取任务的精度与结构一致性。
2026-01-28 cs.CL
Joint entity recognition and relation extraction as a multi-head selection problem
Ghent University（根特大学）；imec（比利时微电子研究中心）
用于联合实体识别和关系抽取的最新模型强烈依赖于外部自然语言处理（NLP）工具，诸如POS（词性）标记器和依赖性解析器。因此，这种联合模型的性能取决于从这些NLP工具获得的特征的质量。然而，这些特征对于各种语言和上下文并不总是准确的。在本文中，我们提出了一个联合神经模型，执行实体识别和关系抽取同时进行，而不需要任何手动提取的功能或使用任何外部工具。具体地，我们使用CRF（条件随机场）层和关系抽取任务将实体识别任务建模为多头选择问题（即，潜在地标识每个实体的多个关系）。我们提出了一个广泛的实验设置，以证明我们的方法使用来自各种背景的数据集的有效性（即，新闻、生物医学、房地产）和语言（即，英文、荷兰文）。我们的模型优于以前使用自动提取特征的神经模型，而它的性能在基于特征的神经模型的合理范围内，甚至超过它们。
2018-12-17 cs.CL
LentEx: Generalizable Latent Entity Extraction via Synthetic Data and Instruction-Tuned LLMs
Amazon（亚马逊公司）
LentEx是首个从大语言模型视角处理潜在实体抽取的框架，通过合成数据与指令微调优化高效LLM，在MTEB聚类基准上超越现有最优模型，泛化性强，可应用于RAG等NLP任务。
2026-09-07 cs.CL
Entity Identifier: A Natural Text Parsing-based Framework For Entity Relation Extraction
Novelis Research and Innovation Lab（诺维利斯研究与创新实验室）
本文提出一种基于自然文本解析的实体关系抽取框架，通过提取需求描述中的实体和关系信息并构建实体树，实现面向对象项目中 CRUD 类代码的自动生成。
2023-07-10 cs.CL
Reasoning with Latent Structure Refinement for Document-Level Relation Extraction
Singapore University of Technology and Design（新加坡科技设计大学）；Università della Svizzera italiana（提契诺大学）
文档级关系抽取需要在文档的多个句子中整合信息，并捕获句子间实体之间的复杂交互。然而，有效地汇总文件中的相关信息仍然是一个具有挑战性的研究问题。现有的方法构造静态文档级图的基础上的语法树，共引用或从非结构化文本的依赖建模。与以前的方法，可能无法捕获丰富的非本地的相互作用进行推理，我们提出了一种新的模型，通过自动诱导潜在的文档级图，使跨句子的关系推理。我们进一步开发了一个细化策略，使模型能够增量聚合多跳推理的相关信息。具体来说，我们的模型在大规模文档级数据集（DocRED）上获得了59.05的F1分数，比以前的结果有了显著改善，并且在CDR和GDA数据集上也产生了新的最先进的结果。此外，大量的分析表明，该模型能够发现更准确的句间关系。
2020-07-28 cs.CL
Joint Biomedical Entity and Relation Extraction with Knowledge-Enhanced Collective Inference
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（Adobe研究院）
与一般新闻领域相比，生物医学文本的信息抽取需要更广泛的领域知识。然而，许多以前的IE方法在推理过程中不利用任何外部知识。由于生物医学出版物的指数增长，不超过其固定参数集的模型可能会落后。受人类如何查找相关信息来理解科学文本的启发，我们提出了一个新的框架，利用外部知识进行联合实体和关系抽取命名为KECI（知识增强集体推理）。给定一个输入文本，KECI首先构造一个初始跨度图，表示它对文本的初始理解。然后使用实体链接器形成包含文本中提到的实体的相关背景知识的知识图谱。为了做出最终的预测，KECI使用注意力机制将初始跨度图和知识图谱融合成一个更精细的图。KECI采用一种集体方法，通过使用图卷积网络将全局关系信息集成到局部表示中，将提及跨度与实体联系起来。我们的实验结果表明，该框架是非常有效的，在两个不同的基准数据集：BioRelEx（结合相互作用检测）和ADE（不良药物事件提取）实现了新的最先进的结果。例如，KECI在BioRelEx实体和关系抽取任务上的F1得分比最先进的技术分别提高了4.59%和4.91%。
2021-06-01 cs.CL
Leveraging 2-hop Distant Supervision from Table Entity Pairs for Relation Extraction
The Ohio State University（俄亥俄州立大学）
远程监控（Distant Supervision，DS）已被广泛用于自动构造（噪声）标记数据以用于关系抽取（RE）。给定两个实体，远距离监督利用直接提到它们的句子来预测它们的语义关系。我们把这种策略称为1跳DS，不幸的是，它可能不适合于支持句子很少的长尾实体。在本文中，我们引入了一种新的策略，名为2跳DS，以提高远程监督RE，观察到存在大量的关系表在Web上包含共享共同关系的实体对。我们将这样的实体对称为彼此的锚，并收集所有提到给定目标实体对的锚实体对的句子，以帮助关系预测。我们在多示例学习范式中开发了一种新的神经RE方法REDS 2，该方法采用分层模型结构分别融合来自1跳DS和2跳DS的信息。在基准数据集上进行的大量实验结果表明，REDS2可以在不同的设置中始终优于各种基线。
2019-09-13 cs.CL
A Discourse-Level Named Entity Recognition and Relation Extraction Dataset for Chinese Literature Text
Peking University（北京大学）
中文文献文本的命名实体识别和关系抽取被认为是一个非常困难的问题，部分原因是缺乏标注集。在本文中，我们建立了一个语篇层面的数据集，从数百个中文文学文章，以改善这一任务。为了构建高质量的数据集，我们提出了两种标记方法来解决数据不一致的问题，包括启发式标记方法和机器辅助标记方法。在此基础上，我们还介绍了几个广泛使用的模型进行实验。实验结果不仅证明了所提出的数据集的有效性，而且为进一步的研究提供了基线。该数据集可在https://github.com/lancopku/Chinese-Literature-NER-RE-Dataset上获得
2019-06-11 cs.CL
Document-Level Zero-Shot Relation Extraction with Entity Side Information
School of Information Technology, Monash University Malaysia（墨尔本大学马来西亚分校信息科技学院）；Valiantlytix
本文提出DocZSRE-SI方法，通过利用实体侧信息提升低资源语言中零 shot 关系抽取的性能。
2026-01-12 cs.CL
Enhancing Document-level Relation Extraction by Entity Knowledge Injection
Nanjing University（南京大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
文档级关系抽取（RE）的目的是识别贯穿整个文档的实体之间的关系。它需要复杂的推理技巧来综合各种知识，如共指和常识。大规模的知识图谱包含了大量的真实世界事实，可以为文档级RE提供有价值的知识。在本文中，我们提出了一个实体知识注入框架，以加强目前的文档级RE模型。具体来说，我们引入共指提取注入共指知识，赋予RE模型更一般的共指推理能力。我们还采用表示和解注入事实知识和聚合KG表示和文档表示到一个统一的空间。在两个基准数据集上的实验验证了我们的实体知识注入框架的通用性和对几个文档级RE模型的一致性改进。
2022-07-23 cs.CL
