PERLEX: A Bilingual Persian-English Gold Dataset for Relation Extraction
Iran University of Science and Technology（伊朗科技大学）
关系抽取是抽取句子中实体之间的语义关系的任务。它是一些自然语言处理任务，如信息抽取，知识抽取和知识库人口的重要组成部分。这项研究的主要动机来自缺乏波斯语关系抽取的数据集，以及从波斯语不断增长的大数据中提取知识以用于不同应用的必要性。在本文中，我们提出“PERLEX”作为关系抽取的第一个波斯语数据集，它是“Semeval-2010-Task-8”数据集的专家翻译版本。此外，本文讨论了波斯语关系抽取利用国家的最先进的语言不可知的算法。我们采用了六种不同的模型对建议的双语数据集进行关系抽取，包括一个非神经模型（作为基线），三个神经模型和两个由多语言BERT上下文单词表示提供的深度学习模型。实验结果表明，最大f值为77.66%（由BERTEM-MTB方法提供），是波斯语关系抽取的最新水平。
2020-05-13 cs.CL
Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey
IIT Kharagpur（印度理工学院卡拉格普尔分校）；Singapore University of Technology and Design（新加坡科技设计大学）
近年来，随着词的连续表示（词嵌入）和深层神经网络结构的发展，关系抽取领域的研究成果不断涌现，大量的论文已经难以统计。为了帮助未来的研究，我们提出了一个全面的评论最近发表的研究工作在关系抽取。我们主要关注使用深度神经网络的关系抽取，这些网络在公开可用的数据集上实现了最先进的性能。在本调查中，我们涵盖了文档级关系提取，基于管道的方法联合提取方法，注释数据集，远程监督数据集以及一些最近的研究方向，如zero-shot或Few-Shot关系抽取，远程监督数据集的噪声缓解。关于神经架构，我们在本调查中涵盖了卷积模型，递归网络模型，注意力网络模型和图卷积模型。
2021-03-31 cs.CL
D-REX: Dialogue Relation Extraction with Explanations
University of California, Santa Barbara（加州大学圣巴巴拉分校）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
现有的跨句关系抽取研究主要是针对长形式多方会话中的跨句关系抽取，而没有考虑这种方法的可解释性。这项工作解决了这一差距，重点是提取解释，表明存在的关系，而只使用部分标记的数据。我们提出了我们的模型不可知的框架，D-REX，一个政策指导的半监督算法，解释和排名的关系。我们的框架关系抽取作为一个重新排名的任务，并包括关系和实体特定的解释作为推理过程的中间步骤。我们发现，大约90%的时间，人类注释者更喜欢D-REX的解释，而不是基于BERT的联合关系抽取和解释模型。最后，我们的评价对话关系抽取数据集上显示，我们的方法是简单而有效的，并达到了最先进的F1分数的关系抽取，提高了13.5%，比现有的方法。
2022-10-18 cs.CL
Incorporating Relation Paths in Neural Relation Extraction
Tsinghua University（清华大学）
远程监督关系抽取已被广泛用于从纯文本中发现新颖的关系事实。为了预测一对两个目标实体之间的关系，现有的方法仅仅依赖于那些包含两个实体的直接句子。事实上，也有许多句子只包含其中一个目标实体，这为关系抽取提供了丰富而有用的信息。为了解决这个问题，我们通过中间实体在两个目标实体之间建立推理链，并提出了一个基于路径的神经关系抽取模型来编码直接语句和推理链的关系语义。在真实数据集上的实验结果表明，该模型能够充分利用只包含一个目标实体的句子，并在关系抽取上取得了显著的一致性改进。本文的源代码可以从https：//github.com/thunlp/PathNRE获得。
2017-09-13 cs.CL
FinRED: A Dataset for Relation Extraction in Financial Domain
IIT Kharagpur（印度理工学院克勒格布尔分校）；Goldman Sachs（高盛集团）；LU, Hannover（汉诺威莱布尼茨大学）
针对金融领域缺乏大规模开源关系抽取数据集的问题，本文发布基于金融新闻和财报电话纪要、通过远程监督映射 Wikidata 三元组构建的 FinRED，并建立基准，验证现有模型在金融关系抽取上性能明显下降。
2023-06-06 cs.CL
Zero-Shot Dialogue Relation Extraction by Relating Explainable Triggers and Relation Names
National Taiwan University（国立台湾大学）
针对对话关系抽取标注数据成本高、难扩展的问题，提出基于触发词捕捉关联未见过关系名称的零样本抽取模型，在DialogRE基准上已见和未见关系抽取均获显著提升，为提升DRE系统扩展性提供新方向。
2023-06-09 cs.CL
Improving Distantly Supervised Relation Extraction using Word and Entity Based Attention
Indian Institute of Science（印度科学研究所）；University of British Columbia（英属哥伦比亚大学）
关系抽取是对给定句子中两个实体之间的关系进行分类的问题。远程监督（DS）是一种流行的技术，用于从有限监督开始开发关系提取器。我们注意到，在远程监督关系抽取设置中的大多数句子都很长，并且可以受益于单词注意以获得更好的句子表示。我们在本文中的贡献有三个方面。首先，我们提出了两个新的词注意力模型的远程监督关系抽取：（1）双向门控递归单元（Bi-GRU）为基础的词注意力模型（BGWA），（2）以实体为中心的注意力模型（EA），和（3）组合模型，采用加权投票方法结合多个互补的模型改进的关系抽取。其次，介绍了一种新的用于关系抽取的远程监督数据集GDS。GDS消除了所有以前的远程监督基准数据集中存在的测试数据噪声，使可靠的自动评估成为可能。第三，通过在多个真实数据集上的大量实验，我们证明了所提出的方法的有效性。
2018-04-19 cs.CL
Unsupervised Relation Extraction from Language Models using Constrained Cloze Completion
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
我们表明，国家的最先进的自我监督的语言模型可以很容易地用于从语料库中提取的关系，而不需要训练微调提取头。我们介绍了RE-Flex，一个简单的框架，执行约束完形填空完成预训练的语言模型进行无监督的关系抽取。RE-Flex使用上下文匹配来确保语言模型预测与来自与目标关系相关的输入语料库的支持证据相匹配。我们在多个关系抽取基准上进行了广泛的实验研究，并证明RE-Flex优于基于预训练语言模型的竞争无监督关系抽取方法，与次优方法相比，RE-Flex的性能最高可达27.8个$F_1$点。我们的研究结果表明，对语言模型的约束推理查询可以实现准确的无监督关系抽取。
2020-10-14 cs.CL
Investigations on Knowledge Base Embedding for Relation Prediction and Extraction
University of Alberta（阿尔伯塔大学）；Department of Computing Science（计算机科学系）
我们报告的有效性评估现有的知识库嵌入模型的关系预测和关系抽取在广泛的基准。我们还描述了一个新的基准，这是更大，更复杂的比以前的，我们介绍，以帮助验证这两个任务的有效性。结果表明，知识库嵌入模型对关系预测普遍有效，但现有策略无法改善神经关系抽取模型，同时指出了现有方法的局限性。
2018-02-06 cs.CL
Enriched Attention for Robust Relation Extraction
Bosch Center for Artificial Intelligence（博世人工智能中心）
随着神经网络的兴起，关系抽取模型的性能有了很大的提高。然而，神经关系抽取的一个关键问题是鲁棒性：模型不能很好地扩展到具有多个实体和关系的长句。在这项工作中，我们解决这个问题，丰富的注意力机制。注意力允许模型关注输入句子中与关系抽取相关的部分。我们建议，以丰富的注意力功能与功能建模知识的关系参数和它们之间的最短依赖路径。因此，对于不同的关系论元，该模型可以关注句子的不同部分。我们的模型在两个流行的基准测试中使用可比的设置优于先前的工作，我们的分析证实，它确实可以扩展到具有许多实体的长句。
2021-04-22 cs.CL
Global Relation Embedding for Relation Extraction
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；The Ohio State University（俄亥俄州立大学）
本文研究了具有远程监督的文本关系嵌入问题。为了解决远程监督的错误标记问题，我们建议将文本关系与关系的全局统计数据嵌入，即，从整个语料库中收集的文本和知识库关系的共现统计。这种方法证明对远程监督引入的训练噪声更鲁棒。在一个流行的关系抽取数据集上，我们证明了学习的文本关系嵌入可以用来增强现有的关系抽取模型，并显着提高其性能。最值得注意的是，对于最好的现有模型发现的前1,000个关系事实，精确度可以从83.9%提高到89.3%。
2018-04-19 cs.CL
Focused Meeting Summarization via Unsupervised Relation Extraction
Cornell University（康奈尔大学）
我们提出了一种新的无监督框架，重点会议摘要，认为问题的关系抽取的一个例子。我们采用现有的域内关系学习器（Chen et al.，2011）通过利用一组任务特定的约束和特征。我们评估的决策摘要任务的方法，并表明它优于无监督的话语级提取摘要基线，以及现有的通用关系提取为基础的摘要方法。此外，我们的方法产生的总结与监督方法产生的标准ROUGE评分方面的竞争。
2016-06-24 cs.CL
Cross-Sentence N-ary Relation Extraction with Graph LSTMs
Microsoft Research（微软研究院）；Google Research（谷歌研究院）
过去在关系抽取中的工作主要集中在单句中的二元关系。最近NLP在高价值领域的进展引发了人们对提取跨多个句子的n元关系的更一般设置的兴趣。在本文中，我们探讨了一个通用的关系抽取框架的基础上图长短期记忆网络（图LSTM），可以很容易地扩展到跨句子的n元关系抽取。图公式提供了一种统一的方式来探索不同的LSTM方法，并结合各种内部和内部依赖关系，如顺序，语法和话语关系。一个强大的上下文表示学习的实体，作为输入的关系分类器。这简化了对具有任意arity的关系的处理，并且使具有相关关系的多任务学习成为可能。我们在两个重要的精准医疗环境中评估了这个框架，证明了它在传统的监督学习和远程监督下的有效性。跨句子提取产生了更大的知识库。多任务学习显著提高了提取准确率。对各种LSTM方法的深入分析产生了有用的见解，即语言分析对提取准确性的影响。
2017-08-12 cs.CL
Denoising Distant Supervision for Relation Extraction via Instance-Level Adversarial Training
Tsinghua University（清华大学）；Capital Normal University（首都师范大学）
现有的神经关系抽取（NRE）模型依赖于远程监督，存在错误标注问题.在本文中，我们提出了一种新的对抗性训练机制的关系抽取的实例，以减轻噪音问题。与以往的去噪方法相比，我们提出的方法可以更好地区分这些信息的实例从噪声。我们的方法也是有效和灵活的，适用于各种NRE架构。在大规模基准数据集上进行的关系抽取实验表明，该去噪方法能有效滤除噪声，与现有模型相比，性能有了显著提高.
2018-05-28 cs.CL
RAAT: Relation-Augmented Attention Transformer for Relation Modeling in Document-Level Event Extraction
Tencent Cloud（腾讯云）
在文档级事件抽取（DEE）任务中，事件论元通常分散在句子中（跨句子问题），多个事件可能位于一个文档中（多事件问题）。在本文中，我们认为，事件参数的关系信息是解决上述两个问题的重要意义，并提出了一个新的DEE框架，它可以建模的关系依赖，称为扩展文档级事件提取（ReDEE）。更具体地说，这个框架的特点是一个新的和定制的Transformer，命名为增强注意力的Transformer（RAAT）。RAAT是可扩展的，以捕获多尺度和多数量的参数关系。为了进一步利用关系信息，我们引入了一个单独的事件关系预测任务，并采用多任务学习方法来显式地提高事件提取性能。大量的实验表明，该方法的有效性，它可以实现最先进的性能在两个公共数据集。我们的代码可以在https：//github上找到。com/YoutuResearch/RAAT.
2022-06-07 cs.CL
Integrating Heterogeneous Domain Information into Relation Extraction: A Case Study on Drug-Drug Interaction Extraction
Toyota Technological Institute（丰田工业大学）
深度神经网络的发展改善了各个领域的表示学习，包括文本、图形结构和关系三元表示。这一发展为超越传统的面向文本的关系抽取的新关系抽取打开了大门。然而，同时考虑多个异构领域信息的有效性的研究仍在探索中，如果一个模型可以利用集成异构信息的优势，它有望表现出显着的贡献，在世界上的许多问题。本文以文献中的药物相互作用为研究对象，实现了利用异构领域信息的关系抽取。首先，准备了深度神经关系抽取模型，并分析了其注意力机制。接下来，提出了将药物分子结构信息和药物描述信息组合到输入句子信息的方法，并且示出了将药物分子结构和药物描述用于关系抽取任务的有效性。然后，为了进一步利用异构信息，从多个现有数据库中收集药物相关项目，如蛋白质条目、医学术语和途径，并构建知识图谱（KG）形式的新数据集。对构建的数据集进行链接预测任务，以获得包含异质域信息的药物的嵌入表示。最后，提出了一种融合输入句子信息和异构KG信息的方法。在一个广泛使用的数据集上对该模型进行了训练和评估，结果表明，利用异构领域信息显着提高了文献中关系抽取的性能。
2022-12-21 cs.CL
Relation-Specific Attentions over Entity Mentions for Enhanced Document-Level Relation Extraction
Fudan University（复旦大学）
与传统的文档级关系抽取相比，文档级关系抽取是一个更具挑战性的任务，因为文档中的实体可能被多次提及并与多个关系相关联。然而，大多数文档级关系抽取方法并不区分提及级特征和实体级特征，而只是简单地将提及级特征聚合成实体级特征。因此，忽略了实体的不同提及之间的不同语义。为了解决这个问题，我们提出了RSMAN在本文中执行选择性注意不同的实体提到相对于候选人的关系。通过这种方式，获得了实体的灵活和关系特定的表示，这确实有利于关系分类。我们在两个基准数据集上进行的大量实验表明，我们的RSMAN可以为一些骨干模型带来显着的改进，以实现最先进的性能，特别是当一个实体在文档中有多个提及时。
2022-05-28 cs.CL
FREDA: Flexible Relation Extraction Data Annotation
University of Alberta（阿尔伯塔大学）；Lakehead University（湖首大学）
为了有效地训练准确的关系抽取模型，需要充足且适当标记的数据。标记过的数据很难获得，注释这些数据是一项棘手的工作。之前的工作表明，要么必须牺牲准确性，要么如果准确完成任务则极其耗时。我们提出了一种方法，以产生高质量的数据集的任务关系抽取迅速。神经模型经过训练，可以在创建的数据集上进行关系抽取，取得了非常好的结果，并且可以很好地推广到其他数据集。在我们的研究中，我们能够在合理的时间内为19个关系注释10，022个句子，并为每个关系训练常用的基线模型。
2022-12-14 cs.CL
Document-Level $N$-ary Relation Extraction with Multiscale Representation Learning
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
大多数信息抽取方法都集中在单个句子中表达的二元关系上。然而，在高值域中，$n$元关系具有很大的需求（例如，精确肿瘤学中的药物-基因-突变相互作用）。这样的关系通常涉及在文档中相距很远的实体提及，然而现有的关于跨句子关系抽取的工作通常限于小的文本跨度（例如，连续三个句子），这严重限制了回忆。在本文中，我们提出了一种新的多尺度神经结构的文档级$n$ -ary关系抽取。我们的系统结合了在整个文档和整个子关系层次结构中的各种文本跨度上学习的表示。将系统的范围扩大到整个文档可以最大限度地提高潜在的召回率。此外，通过整合文档中的弱信号，多尺度建模提高了精度，即使在存在来自远程监督的噪声标签的情况下也是如此。生物医学机器阅读实验表明，我们的方法大大优于以前的$n$ -ary关系抽取方法。
2019-06-26 cs.CL
A Trigger-Sense Memory Flow Framework for Joint Entity and Relation Extraction
Zhejiang University（浙江大学）
联合实体和关系抽取框架构建了一个统一的模型来同时执行实体识别和关系抽取，它可以利用两个任务之间的依赖性来减轻管道模型所遭受的错误传播问题。当前对联合实体和关系抽取的努力集中于通过参数共享、联合解码或其他自组织技巧（例如，建模为半马尔可夫决策过程，投射为多轮阅读理解任务）。然而，仍有两个问题摆在桌面上。首先，大多数方法所利用的交互仍然是弱的和单向的，这是无法模拟两个任务之间的相互依赖。其次，大多数方法都忽略了关系触发，这有助于解释为什么人类会在句子中提取关系。它们对于关系抽取是必不可少的，但却被忽视了。为此，我们提出了一个触发感记忆流框架（TriMF）的联合实体和关系抽取。我们建立了一个记忆模块来记忆实体识别和关系抽取任务中学习到的类别表示。在此基础上，设计了一种多级内存流注意力机制，以增强实体识别和关系抽取之间的双向交互。此外，在没有任何人类注释的情况下，我们的模型可以通过触发传感器模块增强句子中的关系触发信息，这提高了模型的性能，并使模型预测具有更好的解释。实验结果表明，我们提出的框架实现了最先进的结果，提高了关系F1在SciERC上的52.44%（+3.2%），在ACE05上的66.49%（+4.9%），在CoNLL04上的72.35%（+0.6%）和在ADE上的80.66%（+2.3%）。
2021-04-16 cs.CL
X-WikiRE: A Large, Multilingual Resource for Relation Extraction as Machine Comprehension
University of Copenhagen（哥本哈根大学）
虽然绝大多数知识库都偏向于英语，但维基百科确实涵盖了不同语言的不同主题。利用这一点，我们引入了一个新的多语言数据集（X-WikiRE），框架关系抽取作为一个多语言的机器阅读问题。我们表明，通过利用这一资源，它是可以强大的跨语言传输模型和多语言支持显着提高（zero-shot）关系抽取，使人口低资源的知识库从他们的人口稠密的同行。
2019-08-15 cs.CL
Big Green at WNUT 2020 Shared Task-1: Relation Extraction as Contextualized Sequence Classification
Dartmouth College（达特茅斯学院）
关系和事件抽取是自然语言处理中的一项重要任务。我们介绍了一个系统，它使用上下文知识图谱完成分类的关系和已知实体之间的事件在嘈杂的文本环境。我们报告的结果表明，我们的系统是能够有效地提取关系和事件的湿实验室协议的数据集。
2020-12-07 cs.CL
Dual Pointer Network for Fast Extraction of Multiple Relations in a Sentence
Kangwon National University（江原大学）；Konkuk University（建国大学）
关系抽取是一种信息抽取任务，它识别句子中实体之间的语义关系。以往的研究主要集中在提取单个句子中两个实体之间的一种语义关系。然而，句子中的多个实体通过各种关系相关联。为了解决这个问题，我们提出了一个基于双指针网络的关系抽取模型与多头注意力机制。该模型发现使用前向对象解码器的n到1的主体-对象关系。然后，它使用后向主题解码器找到1到n的主题-对象关系。我们的实验证实，所提出的模型优于以前的模型，与ACE-2005语料库和纽约时报语料库的F1分数分别为80.8%和78.3%。
2021-03-05 cs.CL
RelationPrompt: Leveraging Prompts to Generate Synthetic Data for Zero-Shot Relation Triplet Extraction
DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；Singapore University of Technology and Design（新加坡科技设计大学）
尽管关系抽取在构建和表示知识中的重要性，但较少的研究集中在推广到看不见的关系类型。我们介绍了Zero-Shot关系三元组提取（ZeroRTE）的任务设置，以鼓励进一步研究低资源的关系抽取方法。给定一个输入句子，每个提取的三元组由头部实体，关系标签和尾部实体组成，其中关系标签在训练阶段看不到。为了解决ZeroRTE问题，我们提出通过促使语言模型生成结构化文本来合成关系示例。具体地说，我们统一了语言模型提示和结构化文本的方法，设计了一个结构化的提示模板生成合成的关系样本时，条件的关系标签提示（提示）。为了克服句子中多个关系三元组提取的局限性，我们设计了一种新的三元组搜索解码方法。在FewRel数据集和Wiki-JPL数据集上的实验表明，该算法在ZeroRTE任务和zero-shot关系分类中具有较好的性能.我们的代码和数据可在github.com/declare-lab/RelationPrompt上获得。
2022-03-17 cs.CL
CARE: Co-Attention Network for Joint Entity and Relation Extraction
School of Computer Science, Beijing University of Posts and Telecommunications（北京邮电大学计算机学院）
本文提出CARE，一种用于联合实体和关系抽取的协同注意力网络，通过并行编码和双向交互模块解决特征混淆问题，在三个基准数据集上优于现有基线。
2024-03-27 cs.CL
Learning Relation Ties with a Force-Directed Graph in Distant Supervised Relation Extraction
Beijing Institute of Technology（北京理工大学）
关系纽带定义为不同关系之间的相关性和互斥性，是远距离监督关系抽取的关键。现有方法通过贪婪地学习局部依赖关系来对该属性进行建模。然而，他们本质上是有限的，未能捕捉到全球的关系纽带的拓扑结构。因此，它们很容易落入局部最优解。为了解决这个问题，本文提出了一种新的基于力有向图的关系抽取模型来全面学习关系纽带。具体来说，我们首先根据关系的全局同现构建一个图。然后，我们借用物理学中库仑定律的思想，在这个图中引入吸引力和排斥力的概念，来学习关系之间的相关性和互斥性。最后，所获得的关系表示作为一个相互依赖的关系分类器。在大规模基准数据集上的实验结果表明，我们的模型能够建模全球关系纽带，并显着优于其他基线。此外，所提出的力有向图可以作为一个模块，以增强现有的关系抽取系统，并提高其性能。
2020-04-21 cs.CL
Distant Supervision for Relation Extraction beyond the Sentence Boundary
Microsoft Research（微软研究院）
对结构化知识日益增长的需求导致了人们对关系抽取的极大兴趣，特别是在监督有限的情况下。然而，现有的距离监督方法只能提取单个句子中表达的关系。一般来说，跨句关系抽取是探索不足，即使在监督学习设置。在本文中，我们提出了第一种将远程监督应用于跨句关系抽取的方法。我们的方法的核心是一个图形表示，可以将标准的依赖关系和话语关系，从而提供了一个统一的方式来建模内和跨句子的关系。我们从这个图中的多条路径中提取特征，当遇到语言变化和分析错误时，提高了准确性和鲁棒性。在一个重要的精准医学提取任务上的实验表明，我们的方法可以学习一个准确的跨句子提取器，只使用一个小的现有知识库和生物医学研究文章中的未标记文本。与现有的远程监督范式相比，我们的方法以相似的精度提取了两倍的关系，从而证明了跨句子关系的普遍性和我们方法的前景。
2017-08-14 cs.CL
TLAG: An Informative Trigger and Label-Aware Knowledge Guided Model for Dialogue-based Relation Extraction
Peking University（北京大学）
基于对话的关系抽取（DRE）旨在预测对话中所提及的论元对的关系类型。最新的生物增强方法提出了触发预测任务，以促进DRE。然而，这些方法不能充分利用触发信息，甚至会给关系抽取带来噪声。为了解决这些问题，我们提出了TLAG，它充分利用触发器和标签感知的知识来指导关系抽取。首先，我们设计了一个自适应触发融合模块，充分利用触发信息。然后，我们引入标签感知知识，以进一步提高我们的模型的性能。在DialogRE数据集上的实验结果表明，TLAG的性能优于基准模型，详细的分析表明了该方法的有效性。
2023-03-30 cs.CL
SEE: Syntax-aware Entity Embedding for Neural Relation Extraction
School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院）；Collaborative Innovation Center of Novel Software Technology and Industrialization（新型软件技术与产业化协同创新中心）；Alibaba Group（阿里巴巴集团）；School of Computer Science and Technology, Heilongjiang University（黑龙江大学计算机科学与技术学院）
距离监督关系抽取是一种有效的大规模关系抽取方法，被广泛用于从纯文本中发现新的关系事实。近年来神经关系抽取的研究通过在低维空间中对句子建模取得了很大进展，但很少考虑句法信息对实体建模。在本文中，我们提出学习语法感知的实体嵌入神经关系抽取。首先，我们编码的依赖树上的实体的上下文作为基于树GRU的事务级实体嵌入。然后，我们利用句子内和句子间的注意力，以获得句子集合级的实体嵌入所有句子包含的焦点实体对。最后，我们结合句子嵌入和实体嵌入进行关系分类。我们在一个广泛使用的真实数据集上进行了实验，实验结果表明，我们的模型可以充分利用所有的信息实例，并实现了最先进的性能的关系抽取。
2018-01-11 cs.CL
A Masked Image Reconstruction Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取相比，文档级关系抽取需要对多个句子进行推理，以抽取复杂的关系三元组。以往的研究一般都是通过提及级或实体级文档图上的信息传播来完成推理，而不考虑关系之间的相关性。在本文中，我们提出了一种新的文档级关系抽取模型的基础上掩蔽图像重建网络（DRE-MIR），模型推理作为一个掩蔽的图像重建问题，捕捉关系之间的相关性。具体地说，我们首先利用编码器模块来获取实体的特征，并根据这些特征构造实体对矩阵。之后，我们将实体对矩阵视为图像，然后随机屏蔽它并通过推理模块恢复它，以捕获关系之间的相关性。我们评估我们的模型上的三个公共文档级关系抽取数据集，即DocRED，CDR和GDA。实验结果表明，我们的模型在这三个数据集上都达到了最先进的性能，并且在推理过程中对噪声具有很好的鲁棒性。
2022-08-04 cs.CL
Heterogeneous Supervision for Relation Extraction: A Representation Learning Approach
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Rensselaer Polytechnic Institute（伦斯勒理工学院）
关系抽取是信息抽取中的一项基本任务。大多数现有的方法严重依赖于由人类专家标记的注释，这是昂贵且耗时的。为了克服这个缺点，我们提出了一个新的框架，REHession，使用来自异构信息源的注释进行关系提取器学习，例如，知识库和领域分析。这些被称为异构监督的标注经常相互冲突，这给原有的关系抽取任务带来了新的挑战：如何从给定实例的噪声标注中推断出真实标注。识别上下文信息的骨干关系抽取和真正的标签发现，我们采用嵌入技术来学习上下文的分布式表示，桥梁的所有组件相互增强的迭代方式。大量的实验结果证明了REHession的优越性。
2017-08-01 cs.CL
Decorate the Examples: A Simple Method of Prompt Design for Biomedical Relation Extraction
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）
关系抽取是生物医学领域自然语言处理的核心问题。最近的关系抽取研究表明，基于神经网络的学习提高了全训练集和Few-Shot训练的微调性能。然而，在特定领域的任务上所做的努力较少，在这些任务中，良好的快速设计可能更加困难。在本文中，我们研究了生物医学关系抽取的提示，在ChemProt数据集上的实验。我们提出了一个简单而有效的方法，系统地产生全面的提示，重新制定的关系抽取任务作为一个完形填空测试任务下一个简单的提示制定。特别是，我们实验不同的排名分数，以及时选择。使用BioMed-RoBERTa-base，我们的结果表明，基于优化的微调比常规微调基线获得了14.21 F1的增益，比SciFive-Large获得了1.14 F1的增益，SciFive-Large是目前ChemProt上最先进的算法。此外，我们发现，基于神经网络的学习需要更少的训练样本来做出合理的预测。结果表明，我们的方法在这样一个特定领域的关系抽取任务的潜力。
2022-04-21 cs.CL
Entity or Relation Embeddings? An Analysis of Encoding Strategies for Relation Extraction
Cardiff University（卡迪夫大学）
本文针对关系抽取中实体嵌入间接建模关系的局限，提出利用含 [MASK] 的提示构造关系嵌入，并与头尾实体嵌入联合建模，从而在多个基准上取得最先进性能。
2024-10-02 cs.CL
Deep Ranking Based Cost-sensitive Multi-label Learning for Distant Supervision Relation Extraction
Beihang University（北京航空航天大学）；PLA Academy of Military Science（中国人民解放军军事科学院）
知识库为提高信息检索系统的智能性提供了一种潜在的途径，因为知识库中存在着大量的实体间关系，可以帮助信息检索系统进行从一个实体到另一个实体的推理。关系抽取是构造知识库的基本技术之一。远程监督是一种用于关系抽取的半监督学习方法，它使用标记和未标记的数据进行学习。然而，这种方法遭受关系重叠的问题，其中一个实体元组可能具有多个关系事实。我们相信，关系类型可以有潜在的联系，我们称之为类关系，并可以利用，以提高关系抽取。然而，这种属性之间的关系类还没有得到充分的探讨。为了利用关系之间的类联系来提高关系抽取的效率，本文提出了一种基于排序的多标签学习框架和卷积神经网络，在该框架中引入了基于排序的损失函数和正则化技术来学习关系之间的潜在联系。此外，为了解决远程监督关系抽取中的类不平衡问题，我们进一步采用代价敏感学习来重新调整正标签和负标签的代价。在一个广泛使用的数据集上进行的大量实验表明，我们的模型可以有效地利用类关系，缓解类不平衡问题。
2019-07-25 cs.CL
RESIDE: Improving Distantly-Supervised Neural Relation Extraction using Side Information
Indian Institute of Science（印度科学学院）；Birla Institute of Technology and Science, Pilani（比尔拉理工学院皮拉尼校区）
远程监督关系抽取（RE）方法通过自动地将知识库（KB）中的关系实例与非结构化文本对齐来训练提取器。除了关系实例之外，KB通常包含其他相关的边信息，诸如关系的别名（例如，founded和co-founded是关系founderOfCompany的别名）。RE模型通常忽略这些容易获得的边信息。在本文中，我们提出了RESIDE，一个远程监督的神经关系抽取方法，利用额外的边信息从知识库改进关系抽取。它使用实体类型和关系别名信息在预测关系时施加软约束。RESIDE采用图卷积网络（GCN）从文本中编码语法信息，即使在有限的边信息可用时也能提高性能。通过在基准数据集上的大量实验，我们证明了RESIDE的有效性。我们提供了RESIDE的源代码，以鼓励可重复的研究。
2019-02-12 cs.CL
Relation Extraction from Biomedical and Clinical Text: Unified Multitask Learning Framework
Indian Institute of Technology Patna（印度理工学院巴特那分校）
为了最大限度地减少在生物医学文献搜索中投入的加速时间，已经提出了许多用于自动化知识提取的方法。关系抽取就是这样一个任务，其中实体之间的语义关系是从自由文本中识别的。在生物医学领域，提取调控途径、代谢过程、药物不良反应或疾病模型需要来自个体关系的知识，例如，基因、蛋白质、药物、化学品、疾病或表型之间的物理或调控相互作用。在本文中，我们研究了关系抽取任务从三个主要的生物医学和临床任务，即药物-药物相互作用，蛋白质-蛋白质相互作用，医学概念关系抽取。为此，我们在多任务学习（MTL）框架中建模关系抽取问题，并首次引入结构化自我关注网络的概念，并辅以对抗性学习方法来预测生物医学和临床文本中的关系。MTL的基本概念是通过利用共享表示的概念同时学习多个问题。此外，我们还生成了高效的单任务模型，该模型利用了在注意门控递归单元上学习的最短依赖路径嵌入来比较我们提出的MTL模型。我们提出的框架显着提高了整体基线（深度学习技术）和单任务模型来预测关系，而不会影响所有任务的性能。
2020-09-20 cs.CL
Query-based Instance Discrimination Network for Relational Triple Extraction
Zhejiang University（浙江大学）；Tsinghua University（清华大学）
实体和关系的联合抽取一直是信息抽取领域的核心任务。最近的方法通常从立体的角度考虑关系三元组的提取，要么学习特定于关系的标记器，要么为每个关系类型单独的分类器。然而，他们仍然遭受错误传播，关系冗余和缺乏高层次的三元组之间的连接。为了解决这些问题，我们提出了一种新的基于查询的方法来构建关系三元组的实例级表示。通过查询嵌入和令牌嵌入之间基于度量的比较，我们可以在一个步骤中提取所有类型的三元组，从而消除了错误传播问题。此外，我们通过对比学习学习关系三元组的实例级表示。这样，关系三元组不仅可以封装丰富的类级语义，而且可以访问高阶全局连接。实验结果表明，我们提出的方法达到了最先进的五个广泛使用的基准。
2022-11-03 cs.CL
Entity and Evidence Guided Relation Extraction for DocRED
JD AI Research（京东人工智能研究院）；Stanford University（斯坦福大学）
文档级关系抽取是一项具有挑战性的任务，它需要对多个句子进行推理，以预测文档中的关系。本文提出了一个联合训练框架E2 GRE（Entity and Evidence Guided关系抽取）。首先，我们引入实体引导序列作为预训练语言模型（例如BERT，RoBERTa）的输入。这些实体引导的序列帮助预先训练的语言模型（LM）关注与实体相关的文档区域。其次，我们利用预训练语言模型的内部注意力概率作为证据预测的附加特征，引导预训练语言模型的微调，使其更关注实体和支持/证据句子。我们评估我们的E2 GRE方法DocRED，最近发布的大规模数据集关系抽取。我们的方法能够在所有指标的公共排行榜上取得最先进的结果，表明我们的E2 GRE在关系抽取和证据预测方面既有效又协同。
2020-08-27 cs.CL
An End-to-end Model for Entity-level Relation Extraction using Multi-instance Learning
RheinMain University of Applied Sciences（莱茵曼应用科学大学）
我们提出了一个联合模型的实体级关系抽取的文件。与其他方法相比-专注于本地句内提及对，因此需要在提及级别上进行注释-我们的模型在实体级别上操作。为此，遵循多任务方法，该方法建立在共指消解的基础上，并通过具有结合全局实体和本地提及信息的多级别表示的多实例学习来收集相关信号。我们在DocRED数据集上实现了最先进的关系抽取结果，并报告了第一个实体级端到端关系抽取结果以供将来参考。最后，我们的实验结果表明，联合方法与特定任务学习相当，但由于共享参数和训练步骤而更有效。
2021-12-03 cs.CL
Graph Neural Networks with Generated Parameters for Relation Extraction
Tsinghua University（清华大学）；National University of Singapore（新加坡国立大学）；Université de Montréal（蒙特利尔大学）
近年来，在机器学习领域中，关系推理的改进已经取得了进展。在现有的模型中，图神经网络（GNNs）是多跳关系推理最有效的方法之一。事实上，多跳关系推理在诸如关系抽取等许多自然语言处理任务中是必不可少的。本文提出根据自然语言句子生成图神经网络（GP-GNNs）的参数，使GNNs能够对非结构化文本输入进行关系推理。我们在文本的关系抽取中验证了GP-GNNs。在人类注释数据集和两个远程监督数据集上的实验结果表明，与基线相比，我们的模型实现了显着的改进。我们还进行了定性分析，以证明我们的模型可以发现更准确的多跳关系推理的关系。
2019-02-02 cs.CL
iMETRE: Incorporating Markers of Entity Types for Relation Extraction
International Institute of Information Technology（国际信息技术学院）
本文提出iMETRE方法，通过结合类型化实体标记表示和微调模型，在金融数据集REFinD上实现69.65%的F1分数，改进句子级关系抽取性能。
2023-06-30 cs.CL
Sequence Generation with Label Augmentation for Relation Extraction
National Engineering Research Center for Software Engineering, Peking University（北京大学软件工程国家工程研究中心）；School of Software and Microelectronics, Peking University（北京大学软件与微电子学院）
序列生成在最近的信息抽取努力中表现出有前途的性能，通过结合大规模的预训练的Seq2Seq模型。本文研究了序列生成在关系抽取中的优点，发现以关系名称或同义词为生成对象，它们的文本语义和它们之间的相关性（词序列模式）影响模型的性能。然后，我们提出了关系抽取与标签增强（RELA），Seq2Seq模型与自动标签增强RE。所谓标签扩充，我们的意思是为作为生成目标的每个关系名称生成语义上的同义词。此外，我们提出了一个深入的分析Seq2Seq模型的行为时，处理RE。实验结果表明，RELA取得了竞争力的结果与以前的方法相比，在四个RE数据集。
2023-02-10 cs.CL
Multi-view Inference for Relation Extraction with Uncertain Knowledge
Peking University（北京大学）；Beijing University of Posts and Telecommunications（北京邮电大学）
知识图谱（KG）被广泛用于促进关系抽取（RE）任务。虽然大多数以前的RE方法侧重于利用确定性KG，不确定KG，它为每个关系实例分配一个置信度得分，可以提供先验概率分布的关系事实作为有价值的外部知识的RE模型。本文提出利用不确定性知识来改进关系抽取。具体来说，我们引入ProBase，一个不确定的KG，表明在何种程度上的目标实体属于一个概念，到我们的RE架构。然后，我们设计了一个新的多视图推理框架，系统地集成本地上下文和全球知识在三个视图：提，实体和概念视图。实验结果表明，该模型在句子级和文档级关系抽取上均取得了较好的性能，验证了引入不确定性知识的有效性和所设计的多视图推理框架的有效性.
2021-04-28 cs.CL
A Comprehensive Survey of Document-level Relation Extraction (2016-2023)
Univ. La Rochelle（拉罗谢尔大学）；L3i（L3i实验室）
本文综述了2016至2023年间文档级关系抽取（DocRE）的最新进展，强调其跨句识别实体关系的挑战，并对比句子级方法，展示其在自动构建知识库中的应用价值。
2023-10-12 cs.CL
Distantly-Supervised Long-Tailed Relation Extraction Using Constraint Graphs
Harbin Institute of Technology（哈尔滨工业大学）；University of Rochester（罗切斯特大学）；Beijing University of Civil Engineering and Architecture（北京建筑大学）
标签噪声和长尾分布是远程监督关系抽取中的两个主要挑战。近年来的研究在去噪方面取得了很大的进展，但对长尾关系问题的关注较少。在本文中，我们引入了一个约束图模型之间的依赖关系标签。在此基础上，我们进一步提出了一种新的约束图为基础的关系抽取框架（CGRE），同时处理这两个挑战。CGRE利用图卷积网络将信息从数据丰富的关系节点传播到数据贫乏的关系节点，从而促进长尾关系的表示学习。为了进一步提高算法的抗干扰能力，CGRE中设计了一个约束感知注意模块来整合约束信息。大量的实验结果表明，CGRE实现了显着的改善，比以前的方法去噪和长尾关系抽取。预处理的数据集和源代码可在https://github.com/tmliang/CGRE上公开获得。
2022-05-17 cs.CL
Regularized Attentive Capsule Network for Overlapped Relation Extraction
Shanghai Jiao Tong University（上海交通大学）；University of Macau（澳门大学）；Beijing Normal University (Zhuhai)（北京师范大学（珠海））；Chongqing University（重庆大学）；American University of Sharjah（沙迦美国大学）
远程监督关系抽取由于其对人工劳动的要求较低，在知识库构建中得到了广泛的应用。然而，在远程监控中自动建立的训练数据集包含低质量的实例，这些实例含有噪声词和重叠关系，给关系的准确提取带来了很大的挑战。为了解决这个问题，我们提出了一种新的正则化注意胶囊网络（RA-CapNet），以更好地识别每个非正式句子中的高度重叠的关系。为了发现实例中的多个关系特征，我们将多头注意力嵌入到胶囊网络中作为低级胶囊，其中两个实体的减法作为一种新形式的关系查询，以选择显着特征，而不管它们的位置。为了进一步区分重叠关系特征，我们设计了不一致正则化，以明确鼓励多个注意头和低级别胶囊之间的多样性。在广泛使用的数据集上进行的大量实验表明，我们的模型在关系抽取方面取得了显着的改进。
2020-12-18 cs.CL
GLiDRE: Generalist Lightweight model for Document-level Relation Extraction
Université Paris-Saclay, CEA, List（巴黎-萨克雷大学、CEA、List）
本文提出GLiDRE，一种紧凑的文档级关系抽取模型，在低资源和少样本场景下超越现有方法，确立新的最先进水平。
2025-10-07 cs.CL
Element Intervention for Open Relation Extraction
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
开放式关系抽取的目标是对引用同一底层关系的关系实例进行聚类，这是一般关系抽取的关键步骤。目前的OpenRE模型通常是在远程监督生成的数据集上训练的，这往往会导致模型不稳定，容易崩溃。在本文中，我们从因果关系的角度重新审视OpenRE的过程。通过使用结构因果模型制定OpenRE，我们确定上述问题源于从实体和上下文到关系类型的虚假相关性。为了解决这个问题，我们进行\emph{Element Intervention}，分别干预的背景和实体，以获得潜在的因果关系的影响。我们还提供了两个具体的实现的干预措施的基础上，实体排名和上下文对比。在无监督关系抽取数据集上的实验结果表明，我们的方法优于以前的最先进的方法，并在不同的数据集上具有鲁棒性。
2021-06-17 cs.CL
Improving Relation Extraction by Pre-trained Language Representations
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
当前最先进的关系抽取方法通常依赖于在预处理步骤中显式计算的一组词汇、句法和语义特征。训练特征提取模型需要额外的标注语言资源，这严重限制了关系抽取对新语言的适用性和可移植性。类似地，预处理引入了额外的误差源。为了解决这些限制，我们引入了TRE，一个用于关系抽取的Transformer，扩展了OpenAI生成预训练的Transformer [Radford et al.，2018年]。与以前的关系抽取模型不同，TRE使用预训练的深度语言表示而不是显式语言特征来通知关系分类，并将其与自关注的Transformer架构相结合，以有效地对实体提及之间的长期依赖关系进行建模。TRE允许我们在对关系抽取任务的学习语言表示进行微调之前，通过无监督的预训练仅从纯文本语料库中学习隐含的语言特征。TRE在TACRED和SemEval 2010 Task 8数据集上获得了最新的结果，分别达到了67.4和87.1的测试F1。此外，我们观察到样本效率的显著增加。只有20%的训练样本，TRE匹配我们的基线性能，我们的模型在100%的TACRED数据集上从头开始训练。我们开源我们的训练模型，实验和源代码。
2019-06-07 cs.CL
Structured Minimally Supervised Learning for Neural Relation Extraction
The Ohio State University（俄亥俄州立大学）
我们提出了一种最低限度的监督关系抽取的方法，结合了学习表示和结构化学习的好处，并准确地预测从知识库中只给出命题级监督的关系级提及。通过在学习过程中明确地推理丢失的数据，我们的方法可以实现1D卷积神经网络的大规模训练，同时减轻远程监督中固有的标签噪声问题。我们的方法在最小监督的关系关系抽取上取得了最先进的结果，优于许多基线，包括使用纯神经模型的注意力层的竞争方法。
2019-11-18 cs.CL
TREND: Trigger-Enhanced Relation-Extraction Network for Dialogues
National Taiwan University（台湾大学）
对话关系抽取（DRE）的目的是识别给定对话中两个实体之间的关系。在会话过程中，说话人会通过明示或暗示的线索暴露出自己与特定实体的关系，这种证据被称为“触发点”。然而，触发器注释可能并不总是可用于目标数据，因此利用这些信息来增强性能是具有挑战性的。因此，本文提出学习如何从具有触发器注释的数据中识别触发器，然后将触发器查找能力转移到其他数据集以获得更好的性能。实验结果表明，该方法能够有效地提高未知关系的关系抽取性能，并证明了该模型在不同领域和数据集之间的可移植性.
2022-07-25 cs.CL
Contextualized Word Embeddings Enhanced Event Temporal Relation Extraction for Story Understanding
University of Southern California（南加州大学）；Information Sciences Institute（信息科学研究所）
学习事件之间的因果关系和时间关系是深入了解故事和常识的重要一步。虽然有丰富的数据集与事件关系的故事理解，许多没有经验的结果与他们相关联。在这项工作中，我们建立了强大的基线事件的时间关系抽取两个欠开发的故事叙事数据集：丰富的事件描述（RED）和因果和时间关系计划（CaTeRS）。据我们所知，这是在这两个数据集上报告的第一个结果。我们证明了基于神经网络的模型可以优于一些强大的传统的基于语言特征的模型。我们还进行了比较研究，以显示的贡献，采用语境化的词嵌入（BERT）的事件时间关系抽取的故事。提供详细的分析，以更好地了解结果。
2019-04-26 cs.CL
Extracting Radiological Findings With Normalized Anatomical Information Using a Span-Based BERT Relation Extraction Model
University of Washington（华盛顿大学）；George Mason University（乔治梅森大学）
医学成像对于诊断和治疗许多医学问题至关重要，包括许多形式的癌症。医学成像报告提取放射科医生的发现和观察结果，创建非结构化医学图像的非结构化文本表示。这种文本编码信息的大规模使用需要将非结构化文本转换为结构化的语义表示。我们探讨的提取和规范化的放射学报告中的解剖信息，是与放射学的发现。我们调查这个提取和规范化的任务，使用基于跨度的关系抽取模型，共同提取实体和关系，使用BERT。这项工作探讨了影响提取和归一化性能的因素，包括身体部位/器官系统，发生频率，跨度长度和跨度多样性。它讨论了提高性能和创建高质量的放射性现象的语义表示的方法。
2021-08-20 cs.CL
A Two-Phase Paradigm for Joint Entity-Relation Extraction
National University of Defense Technology（国防科技大学）；The Affiliated Eye Hospital of Nanjing Medical University（南京医科大学附属眼科医院）
一个详尽的研究已经进行了调查跨度为基础的模型的联合实体和关系抽取任务。然而，这些模型在模型训练过程中采样了大量的负实体和负关系，这是必不可少的，但会导致数据分布严重不平衡，进而导致模型性能不佳。为了解决上述问题，本文提出了一种基于跨度的联合实体和关系抽取的两阶段范式，即在第一阶段对实体和关系进行分类，在第二阶段预测这些实体和关系的类型。两阶段范式使我们的模型能够显著减少数据分布差距，包括否定实体与其他实体之间的差距，以及否定关系与其他关系之间的差距。此外，我们首次尝试将实体类型和实体距离作为全局特征，这被证明是有效的，特别是对于关系抽取。在多个数据集上的实验结果表明，基于跨度的联合提取模型与两阶段范式和全局特征增强一致优于以前的最先进的基于跨度的联合提取任务的模型，建立了一个新的标准基准。定性和定量分析进一步验证了所提出范式的有效性和全局特征.
2022-08-18 cs.CL
