Towards Accurate and Consistent Evaluation: A Dataset for Distantly-Supervised Relation Extraction
Alibaba Group（阿里巴巴集团）
近年来，通过使用深度神经网络，远程监督关系抽取取得了一定的成功。远程监督（DS）可以通过将知识库（KB）中的实体对对齐到句子来自动生成大规模的带注释数据。然而，这些DS生成的数据集不可避免地有错误的标签，导致在测试过程中不正确的评估分数，这可能会误导研究人员。为了解决这个问题，我们构建了一个新的数据集NYTH，其中我们使用DS生成的数据作为训练数据，并雇用注释器来标记测试数据。与以前的数据集相比，NYT-H具有更大的测试集，因此我们可以进行更准确和一致的评估。最后，我们给出了几个广泛使用的系统在NYT-H上的实验结果。实验结果表明，比较系统对DS标记的测试数据和人类注释的测试数据的排序列表是不同的。这表明，我们的人类注释的数据是必要的远程监督关系抽取的评估。
2020-10-30 cs.CL
PARE: A Simple and Strong Baseline for Monolingual and Multilingual Distantly Supervised Relation Extraction
Indian Institute of Technology（印度理工学院）
用于远程监督关系抽取（DS-RE）的神经模型将每个句子单独编码在实体对袋中。然后，这些被聚合用于袋级关系预测。由于在编码时，这些方法不允许信息从袋子中的其他句子中流出，我们认为它们没有充分利用可用的袋子数据。作为回应，我们探索一个简单的基线方法（PARE），其中一个袋子的所有句子连接成一个句子的通道，并共同使用BERT编码。标记的上下文嵌入使用注意力与候选关系作为查询来聚合--整个段落的这个摘要预测候选关系。我们发现，我们简单的基线解决方案优于现有的最先进的DS-RE模型在单语和多语言DS-RE数据集。
2022-05-06 cs.CL
Distantly-Supervised Long-Tailed Relation Extraction Using Constraint Graphs
Harbin Institute of Technology（哈尔滨工业大学）；University of Rochester（罗切斯特大学）；Beijing University of Civil Engineering and Architecture（北京建筑大学）
标签噪声和长尾分布是远程监督关系抽取中的两个主要挑战。近年来的研究在去噪方面取得了很大的进展，但对长尾关系问题的关注较少。在本文中，我们引入了一个约束图模型之间的依赖关系标签。在此基础上，我们进一步提出了一种新的约束图为基础的关系抽取框架（CGRE），同时处理这两个挑战。CGRE利用图卷积网络将信息从数据丰富的关系节点传播到数据贫乏的关系节点，从而促进长尾关系的表示学习。为了进一步提高算法的抗干扰能力，CGRE中设计了一个约束感知注意模块来整合约束信息。大量的实验结果表明，CGRE实现了显着的改善，比以前的方法去噪和长尾关系抽取。预处理的数据集和源代码可在https://github.com/tmliang/CGRE上公开获得。
2022-05-17 cs.CL
Populating Web Scale Knowledge Graphs using Distantly Supervised Relation Extraction and Validation
IBM Research AI（IBM研究院AI）
在本文中，我们提出了一个完全自动化的系统来扩展知识图谱使用外部信息从网络规模的语料库。所设计的系统利用基于深度学习的技术进行关系抽取，该技术可以通过远程监督方法进行训练。除此之外，该系统使用深度学习方法，通过利用诱导KG的全局结构信息来完成知识库，以进一步改进新发现的关系的置信度。设计的系统不需要任何努力来适应新的语言和领域，因为它不使用任何手工标记的数据，NLP分析和推理规则。我们的实验，在一个流行的学术基准表明，建议的系统大幅提高关系抽取的性能，报告错误减少了50%，导致相对改善高达100%。此外，一个网络规模的实验进行扩展DBPedia与知识从公共爬行表明，我们的系统不仅是可扩展的，而且不需要任何适应成本，同时产生大量的准确性增益。
2019-09-11 cs.CL
Identifying civilians killed by police with distantly supervised entity-event extraction
College of Information and Computer Sciences（信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
我们为自然语言处理提出了一个新的、具有社会影响力的任务：从新闻语料库中提取被警察杀害的人的名字。我们提出了一个新收集的警察死亡语料库，我们公开发布，并提出了一个模型来解决这个问题，使用基于EM的远程监督与逻辑回归和卷积神经网络分类器。我们的模型优于两个现成的事件提取器系统，它可以建议候选受害者的名字在某些情况下比一个主要的手动收集的警察死亡数据库。
2017-07-22 cs.CL
Fine-tuning Pre-Trained Transformer Language Models to Distantly Supervised Relation Extraction
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
距离监督关系抽取被广泛用于从文本中抽取关系事实，但受到噪声标签的影响。当前的关系抽取方法试图通过多实例学习来减轻噪声，并通过提供支持语言和上下文信息来更有效地指导关系分类。在实现最先进的结果的同时，我们观察到这些模型偏向于以高精度识别有限的关系集，而忽略了长尾中的关系。为了解决这一差距，我们利用了一个预训练的语言模型，OpenAI生成预训练的Transformer（GPT）[Radford et al.，2018年]。GPT和类似的模型已被证明可以捕获语义和句法特征，以及大量的“常识”知识，我们假设这些知识是识别更多样化关系的重要特征。通过将GPT扩展到远程监督设置，并在NYT10数据集上对其进行微调，我们表明它可以预测更大的一组具有高置信度的不同关系类型。对我们模型的手动和自动评估表明，它在NYT10数据集上实现了最先进的AUC得分0.422，并且在较高的召回水平下表现得特别好。
2019-06-19 cs.CL
Learning with Noise: Enhance Distantly Supervised Relation Extraction with Dynamic Transition Matrix
ICST, Peking University, China（北京大学信息科学技术学院（ICST））；School of Computing and Communications, Lancaster University, UK（兰卡斯特大学计算与通信学院）；IBM China Research Lab, China（IBM中国研究实验室）
远程监督显著减少了为许多分类任务构建训练数据的人工努力。虽然很有前途，但这种技术通常会将噪声引入到生成的训练数据中，这会严重影响模型性能。本文深入研究了远程监督在关系抽取中的应用。我们表明，动态转移矩阵可以有效地表征噪声的训练数据建立远程监督。转移矩阵可以有效地训练使用一种新的课程学习为基础的方法，没有任何直接监督的噪音。我们在广泛的提取场景下彻底评估我们的方法。实验结果表明，我们的方法不断提高提取结果，并优于国家的最先进的各种评估方案。
2017-05-11 cs.CL
InSRL: A Multi-view Learning Framework Fusing Multiple Information Sources for Distantly-supervised Relation Extraction
University of Virginia（弗吉尼亚大学）；Tencent AI Lab（腾讯AI实验室）；Fudan University（复旦大学）
远程监督使得通过利用知识库来自动标记用于关系抽取的句子袋成为可能，但是遭受稀疏和噪声袋问题。迫切需要更多的信息源来补充训练数据并克服这些问题。在本文中，我们介绍了两个广泛存在的知识库，即实体描述，和多粒度的实体类型，以丰富的远程监督数据。我们将信息源视为多个视图，并融合它们以构建一个完整的空间。提出了一种基于完整空间表示学习（InSRL）的端到端多视图关系抽取学习框架，并实现了多视图表示的联合学习.此外，内部视图和跨视图的注意力机制被用来突出不同层次上的实体对的基础上的重要信息。一个流行的基准数据集上的实验结果证明了额外的信息源的必要性和我们的框架的有效性。我们将在匿名审查阶段之后发布我们的模型和具有多个信息源的数据集的实现。
2020-12-17 cs.CL
Distantly Supervised Morpho-Syntactic Model for Relation Extraction
Université de Franche-Comté（弗朗什-孔泰大学）；Institut Universitaire de France (IUF)（法国大学研究院）
提出一种利用远程监督形态句法模式及句法、语义索引抽取并分类开放关系的方法，在六个Wikidata/Wikipedia数据集上精确率最高达0.85，可快速构建规则系统与训练数据集。
2024-01-18 cs.CL
CIL: Contrastive Instance Learning Framework for Distantly Supervised Relation Extraction
Zhejiang University（浙江大学）；Alibaba-Zhejiang University Joint Research Institute of Frontier Technologies（阿里巴巴-浙江大学前沿技术联合研究院）；State Key Laboratory of Cognitive Intelligence（认知智能国家重点实验室）
从远程监控（DS）生成的训练数据中减少噪声的旅程已经开始，因为DS第一次被引入到关系抽取（RE）任务。在过去的十年中，研究人员应用多实例学习（MIL）框架从一袋句子中找到最可靠的特征。虽然MIL袋的模式可以大大降低DS噪声，但它不能代表数据集中许多其他有用的句子特征。在许多情况下，这些句子特征只能通过额外的高级人工注释来获取，代价高昂。因此，远程监督RE模型的性能是有界的。在本文中，我们超越了典型的MIL框架，提出了一种新的对比实例学习（CIL）框架。具体来说，我们把初始MIL作为关系三元组编码器，并对每个实例的负对约束正对。实验结果表明，我们提出的框架的有效性，与以前的方法在NYT10，GDS和KBP显着改善。
2021-06-21 cs.CL
Active Testing: An Unbiased Evaluation Method for Distantly Supervised Relation Extraction
Shanghai Jiao Tong University（上海交通大学）；ByteDance AI Lab（字节跳动人工智能实验室）；Beijing Normal University (Zhuhai) & UIC（北京师范大学（珠海）与UIC）；American University of Sharjah（沙迦美国大学）
远程监督由于其便于自动标注数据集而成为神经关系抽取中广泛使用的方法。然而，现有的工作远距离监督关系抽取的测试集的质量低，这导致相当大的偏见性能评估。这些偏差不仅会导致不公平的评价，而且会误导神经关系抽取的优化。为了缓解这个问题，我们提出了一种新的评估方法命名为主动测试，通过利用噪声测试集和一些手动注释。广泛使用的基准测试的实验表明，我们提出的方法可以产生近似无偏的评价远距离监督的关系提取。
2020-10-17 cs.CL cs.IR
Empower Distantly Supervised Relation Extraction with Collaborative Adversarial Training
Zhejiang University（浙江大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；iFLYTEK Research（讯飞研究院）
近年来，随着远程监督（DS）关系抽取（RE）的发展，利用多示例学习（MIL）从噪声DS中提取高质量的监督信息受到了广泛关注。在这里，我们超越标签噪声，并确定DS-MIL的关键瓶颈是其低数据利用率：由于MIL细化了高质量的监督，MIL放弃了大量的训练实例，这导致数据利用率低，并阻碍了模型训练具有丰富的监督。在本文中，我们提出了协同对抗训练来提高数据利用率，它在不同级别上协调虚拟对抗训练（VAT）和对抗训练（AT）。具体来说，由于VAT是无标签的，我们采用实例级VAT来回收被MIL丢弃的实例，并在包级部署AT，充分发挥MIL的高质量监管潜力，从而实现了持续的改进（~ 5绝对AUC评分）与先前的现有技术相比，验证了数据利用问题的重要性和方法的有效性。
2021-06-21 cs.CL
Self-Attention Enhanced Selective Gate with Entity-Aware Embedding for Distantly Supervised Relation Extraction
University of Technology Sydney（悉尼科技大学）；University of Washington（华盛顿大学）；University of New South Wales（新南威尔士大学）
远程监督关系抽取本质上遭受噪声标签由于远距离监督的强假设。大多数现有的工作采用选择性注意力机制在一个袋子里的句子去噪从错误标记的数据，但这可能是不称职的，当只有一个句子在一个袋子。本文提出了一种全新的轻量级神经网络框架来解决远距离监督的关系抽取问题，并弥补了以往选择性注意框架的不足。具体而言，在该框架中，我们使用了一种实体感知的词嵌入方法，将相对位置信息和头/尾实体嵌入结合起来，旨在突出实体的本质，以完成这项任务：2）我们开发了一种自注意力机制，以捕获丰富的上下文依赖，作为分段CNN捕获的局部依赖的补充;（3）我们设计了一个基于丰富上下文表示的池化门，作为聚合器来生成用于最终关系分类的袋级表示，而不是使用选择性注意。与选择性注意相比，所提出的门控机制的一个主要优点是，即使只有一个句子出现在一个袋子中，它也能稳定地执行，从而保持所有训练样本的一致性。在NYT数据集上的实验表明，我们的方法在AUC和top-n精度指标方面都达到了新的最先进的性能。
2019-11-27 cs.CL
From Bag of Sentences to Document: Distantly Supervised Relation Extraction via Machine Reading Comprehension
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
远程监督是一种很有前途的关系抽取方法，但经常受到噪声标签问题的困扰。传统的DS方法通常将实体对表示为一组句子，并使用多示例学习技术对标签进行去噪。然而，基于袋的范例，未能利用句间级和实体级的证据关系抽取，其去噪算法往往是专门的和复杂的。在本文中，我们提出了一个新的DS范式-基于文档的远程监督，模型关系抽取作为一个基于文档的机器阅读理解（MRC）的任务。通过将关于实体的所有句子重新组织为文档，并通过使用关系特定问题查询文档来提取关系，基于文档的DS范式可以同时编码和利用所有句子级、句间级和实体级证据。设计了一种新的损失函数DSLoss（distantsupervisoryloss），该函数仅使用$\langle$文档、问题、答案$\rangle$元组就能有效地训练MRC模型，从而从本质上解决了噪声标签问题。实验表明，我们的方法实现了新的国家的最先进的DS性能。
2020-12-09 cs.CL
HiCLRE: A Hierarchical Contrastive Learning Framework for Distantly Supervised Relation Extraction
East China Normal University（华东师范大学）；Alibaba Group（阿里巴巴集团）；Shanghai Research Institute for Intelligent Autonomous Systems（上海智能自主系统研究院）
远距离监督假设任何包含相同实体对的句子都反映相同的关系。以往的远距离监督关系抽取（DSRE）任务一般都是独立地进行单级或袋级去噪，而忽略了与跨级的显式交互。本文提出了一种基于层次对比学习的远程监督关系抽取框架（HiCLRE），该框架综合了全局结构信息和局部细粒度交互，能够有效地减少噪声句子。具体来说，我们提出了一个三层的分层学习框架，通过调整现有的多头自注意力，生成去噪的上下文感知表示，命名为多粒度重构。同时，伪正样本也提供在特定的水平，对比学习通过动态梯度的数据增强策略，称为动态梯度对抗扰动。实验表明，HiCLRE在各种主流DSRE数据集上的性能明显优于强基线。
2022-02-27 cs.AI cs.CL
Cross-stitching Text and Knowledge Graph Encoders for Distantly Supervised Relation Extraction
Tohoku University（东北大学）；RIKEN AIP（理化学研究所人工智能研究中心）
设计了用于远程监督关系抽取的双编码器架构，以利用在文本和知识图谱（KG）中发现的互补信息。然而，当前架构具有两个缺点。它们要么根本不允许文本编码器和KG编码器之间的任何共享，要么在具有KG到文本注意力的模型的情况下，只在一个方向上共享信息。在这里，我们介绍了十字绣双编码器，它允许通过十字绣机制在文本编码器和KG编码器之间进行充分的交互。交叉缝合机制允许在任何层的两个编码器之间共享和更新表示，共享量通过基于交叉注意的门动态控制。在两个不同领域的两个关系抽取基准测试上的实验结果表明，在两个编码器之间实现充分的交互会产生很大的改进。
2022-11-02 cs.CL cs.LG
A Data-driven Approach for Noise Reduction in Distantly Supervised Biomedical Relation Extraction
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
事实三元组是生物医学领域中使用的结构化知识的常见形式。随着非结构化科学文本数量的持续增长，用于关系抽取任务的这些文本的手动注释变得越来越昂贵。远程监控提供了一种可行的方法来解决这个问题，它可以快速生成大量带标签但噪音很大的数据。我们的目标是通过扩展实体丰富的关系分类BERT模型的多实例学习的问题，并定义一个简单的数据编码方案，显着降低噪声，达到国家的最先进的性能远程监督生物医学关系抽取，以减少这种噪音。我们的方法进一步编码知识的关系三元组的方向，允许通过减少噪音和减轻联合学习与知识图谱完成的需要，增加对关系学习的关注。
2020-05-26 cs.CL cs.LG
Revisiting the Negative Data of Distantly Supervised Relation Extraction
Fudan University（复旦大学）
远程监督自动生成大量的训练样本用于关系抽取。然而，它也引发了两个主要问题：噪声标签和不平衡的训练数据。以往的研究多集中在减少错误标记的关系（误报），而很少有人探讨由于知识库的不完整性（误报）而导致的关系缺失。此外，负面标签的数量压倒性地超过了以往的问题配方中的积极的。在本文中，我们首先对负面数据带来的上述挑战进行了深入分析。接下来，我们将关系抽取问题转化为一个正的无标签学习任务，以减轻假阴性问题。第三，我们提出了一个管道的方法，称为\textsc{ReRe}，执行双层次的关系检测，然后主题/对象提取，以实现样本有效的训练。实验结果表明，该方法始终优于现有的方法，并保持良好的性能，即使在大量的假阳性样本学习。
2021-05-21 cs.AI cs.CL
DIAG-NRE: A Neural Pattern Diagnosis Framework for Distantly Supervised Neural Relation Extraction
Tsinghua University（清华大学）；University of Wisconsin - Madison（威斯康星大学麦迪逊分校）；AHI Fintech Inc.（AHI金融科技公司）
基于模式的标记方法在减轻远程监督神经关系抽取中不可避免的标记噪声方面取得了令人满意的结果。然而，这些方法需要大量的专家劳动来编写特定于关系的模式，这使得它们太复杂，无法快速泛化。为了减轻模式编写的劳动密集型工作量，并能够快速泛化到新的关系类型，我们提出了一个神经模式诊断框架，DIAG-NRE，它可以自动总结和提炼高质量的关系模式，从噪音数据与人类专家在循环中。为了证明DIAG-NRE的有效性，我们将其应用于两个真实世界的数据集，并提出了比最先进的方法显着和可解释的改进。
2019-06-10 cs.CL cs.LG
Distantly supervised end-to-end medical entity extraction from electronic health records with human-level quality
Sber Artificial Intelligence Laboratory（Sber人工智能实验室）
医学实体抽取是医学文本处理的第一步。通常，医学EE是一个两步过程：命名实体识别（NER）和命名实体规范化（NEN）。我们提出了一种从电子健康记录（EHR）中进行医疗EE的新方法，作为一个单步多标签分类任务，通过微调在大型EHR数据集上预训练的Transformer模型。我们的模型使用从医学知识库中自动提取的目标，以远程监督的方式进行端到端的训练。我们表明，我们的模型可以学习对足够频繁出现的实体进行泛化，从而为最频繁的实体实现人类级别的分类质量。我们的工作表明，医疗实体提取可以在没有人类监督的情况下进行端到端的提取，并且在提供足够大量的未标记EHR和医疗知识库的情况下具有人类质量。
2022-01-25 cs.AI cs.CL
Distantly Supervised Relation Extraction via Recursive Hierarchy-Interactive Attention and Entity-Order Perception
Jilin University（吉林大学）；University of Washington（华盛顿大学）
错误标注问题和长尾关系严重影响了远程监督关系抽取任务的性能。许多研究通过选择性注意力机制来减轻错误标注的影响，并通过引入关系层次来处理长尾关系以实现知识共享。然而，几乎所有的研究都忽略了这样一个事实，即在一个句子中，两个实体的出现顺序有助于其语义的理解。此外，它们只单独利用关系层次的每个关系层，而没有利用关系层之间的启发式效应，即，高层关系可以为低层关系提供有用的信息。在此基础上，本文设计了一种新的递归层次-交互式注意力网络（RHIA）来进一步处理长尾关系，该网络模拟了关系层次之间的启发式效应。自上而下，它通过关系相关的信息层，这是最显着的区别，从现有的模型，并产生关系增强的句子表示为每个关系水平的递归结构。此外，我们还引入了一个新的训练目标，称为有序感知（EOP），使句子编码器保留更多的实体外观信息。大量的实验流行（纽约时报）数据集进行。与之前的基线相比，我们的RHIA-EOP在精确-召回（P-R）曲线，AUC，Top-N精确度和其他评估指标方面达到了最先进的性能。深入的分析也证明了RHIA-EOP每个组成部分的必要性和有效性。
2022-04-25 cs.CL
A Sample-Based Training Method for Distantly Supervised Relation Extraction with Pre-Trained Transformers
Iran University of Science and Technology（伊朗科技大学）；Islamic Azad University（伊斯兰阿扎德大学）
多示例学习（MIL）已经成为远程监督关系抽取（DSRE）的标准学习范式。然而，由于在包级执行关系抽取，MIL在与诸如深度Transformer神经网络之类的大句子编码器耦合时对训练具有显著的硬件要求。在本文中，我们提出了一种新的采样方法DSRE放松这些硬件要求。在所提出的方法中，我们通过从一批中的袋子中随机抽取句子来限制一批中的句子数量。然而，这是以丢失袋子中的有效句子为代价的。为了减轻随机抽样引起的问题，我们使用训练模型的集合进行预测。我们证明了我们的方法的有效性，通过使用我们提出的学习设置微调BERT广泛的纽约时报数据集。我们的方法在AUC和P@N指标方面显着优于以前的最先进的方法。
2021-04-15 cs.AI cs.CL
Improving Distantly Supervised Relation Extraction with Neural Noise Converter and Conditional Optimal Selector
Alibaba Group (U.S.) Inc.（阿里巴巴集团（美国）公司）
距离监督关系抽取已成功应用于具有数千个关系的大型语料库。然而，不可避免的错误标记的问题，由远程监督将损害性能的关系抽取。在本文中，我们提出了一种方法与神经噪声转换器，以减轻噪声数据的影响，和一个条件最优选择器，使正确的预测。我们的噪声转换器在logit水平上学习结构化转移矩阵，并捕获远程监督关系抽取数据集的属性。另一方面，条件最优选择器有助于对实体对做出正确的预测决策，即使句子组被无关系句子淹没。我们在一个广泛使用的数据集上进行了实验，结果表明，与竞争性基线方法相比，该方法有显著的改进。
2018-11-14 cs.AI cs.CL
Knowing False Negatives: An Adversarial Training Method for Distantly Supervised Relation Extraction
State Key Laboratory for Novel Software Technology, Nanjing University（南京大学计算机软件新技术国家重点实验室）；National Institute of Healthcare Data Science, Nanjing University（南京大学健康医疗大数据国家研究院）
远程监督关系抽取（RE）自动将非结构化文本与知识库（KB）中的关系实例对齐。由于现有知识库的不完备性，隐含某些关系的句子可能被标注为N/A实例，这就导致了所谓的假否定（FN）问题。目前的RE方法通常忽略了这个问题，在训练和测试过程中引入不适当的偏见。为了解决这个问题，我们提出了一个两阶段的方法。首先，它通过启发式地利用深度神经网络的记忆机制来找出可能的FN样本。然后通过对抗训练将未标记的数据与训练数据对齐到一个统一的特征空间中，分配伪标签，进一步利用其中包含的信息。两个广泛使用的基准数据集上的实验证明了我们的方法的有效性。
2021-09-05 cs.AI cs.CL
Distantly Supervised Relation Extraction in Federated Settings
University of Chinese Academy of Sciences（中国科学院大学）
本文研究了联邦环境下的远程监督关系抽取。以前的研究集中在集中训练的假设下，需要从不同的平台收集文本并将其存储在一台机器上。然而，集中培训面临着两个问题的挑战，即数据壁垒和隐私保护，这使得集中多个平台的数据几乎不可能或成本过高。因此，在联邦学习范式中研究远程监督是值得的，它将模型训练从对原始数据的直接存取的需要中分离出来。然而，在联邦设置中，克服远程监督的标签噪声变得更加困难，因为包含相同实体对的句子可能分散在不同的平台上。在本文中，我们提出了一个联邦去噪框架来抑制联邦设置中的标签噪声。该框架的核心是一种基于多实例学习的去噪方法，该方法能够通过跨平台协作选择可靠的实例。在纽约时报数据集和miRNA基因调控关系数据集上的实验结果表明了该方法的有效性。
2020-08-12 cs.CL cs.LG
Improving Distantly-Supervised Relation Extraction through BERT-based Label & Instance Embeddings
Aristotle University of Thessaloniki（塞萨洛尼基亚里士多德大学）
远程监督关系抽取（RE）是一种有效的方法，规模RE大型语料库，但受到噪声标签。现有的方法试图通过多实例学习和提供额外的信息来减轻噪音，但主要是设法识别最频繁的关系，忽略了长尾中的关系。我们提出了REDSandT（关系抽取与远程监督和Transformers），一种新的远程监督的transformer为基础的RE方法，管理，以捕捉更广泛的关系，通过高度翔实的实例和标签嵌入RE，利用BERT的预训练模型，标签和实体之间的关系，分别。我们通过对结构化输入（包括连接实体对和实体类型的子树）进行BERT微调，引导REDSandT只关注关系令牌。使用提取的信息向量，我们形状的标签嵌入，我们也使用的注意力机制的实例，以进一步减少噪音。最后，我们通过连接关系和实例嵌入来表示句子。在NYT-10数据集中的实验表明，REDSandT以更高的置信度捕获了更广泛的关系集，实现了最先进的AUC（0.424）。
2021-02-01 cs.CL cs.IR cs.LG
Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey
IIT Kharagpur（印度理工学院卡拉格普尔分校）；Singapore University of Technology and Design（新加坡科技设计大学）
近年来，随着词的连续表示（词嵌入）和深层神经网络结构的发展，关系抽取领域的研究成果不断涌现，大量的论文已经难以统计。为了帮助未来的研究，我们提出了一个全面的评论最近发表的研究工作在关系抽取。我们主要关注使用深度神经网络的关系抽取，这些网络在公开可用的数据集上实现了最先进的性能。在本调查中，我们涵盖了文档级关系提取，基于管道的方法联合提取方法，注释数据集，远程监督数据集以及一些最近的研究方向，如zero-shot或Few-Shot关系抽取，远程监督数据集的噪声缓解。关于神经架构，我们在本调查中涵盖了卷积模型，递归网络模型，注意力网络模型和图卷积模型。
2021-03-31 cs.CL
Manual Evaluation Matters: Reviewing Test Protocols of Distantly Supervised Relation Extraction
Princeton University（普林斯顿大学）；Tsinghua University（清华大学）；Tencent Inc（腾讯公司）
在过去的几年中，远程监督（DS）关系抽取（RE）由于可以利用大规模的自动标注数据而引起了人们的广泛关注。然而，它的评估长期以来一直是一个问题：以前的工作要么采用昂贵且不一致的方法来手动检查模型预测的小样本，要么直接在自动标记的数据上测试模型-通过我们的检查，在流行的NYT 10数据集中，在实体对级别上产生了多达53%的错误标签。这个问题不仅导致了不准确的评价，而且也使我们很难理解我们在DS-RE研究中所处的位置以及需要改进的地方。为了以更可靠的方式评估DS-RE模型，我们为两个DS-RE数据集NYT 10和Wiki 20构建了手动注释的测试集，并彻底评估了几个竞争模型，特别是最新的预训练模型。实验结果表明，人工评估可以表明与自动评估非常不同的结论，特别是一些意想不到的观察结果，例如，预训练的模型可以实现主导性能，同时与先前的方法相比更容易受到误报的影响。我们希望我们的手动测试集和新的观察可以帮助推进未来的DS-RE研究。
2021-05-20 cs.CL cs.LG
Distantly-Supervised Neural Relation Extraction with Side Information using BERT
Centro de Informática, Universidade Federal de Pernambuco（伯南布哥联邦大学信息中心）；Montreal Institute for Learning Algorithms, University of Montreal（蒙特利尔大学蒙特利尔学习算法研究所）；Department of Chemical and Biological Engineering, Northwestern University（西北大学化学与生物工程系）
关系抽取（RE）是对句子中实体之间的关系进行分类。最近开发关系提取器的范例是远程监督（DS），它允许通过在文本语料库和知识库（KB）之间进行对齐来自动创建新的数据集。知识库有时也可以为RE任务提供额外的信息。RESIDE模型是采用这种策略的方法之一，它提出了一种利用知识库边信息的远程监督神经关系抽取。考虑到这种方法优于最先进的基线，在本文中，我们提出了一种相关的方法来RESIDE也使用额外的边信息，但简化了句子编码与BERT嵌入。通过实验，我们在Google Distant Supervision和Riedel数据集上对BGWA和RESIDE基线方法进行了验证。虽然曲线下面积由于不平衡的数据集而减小，但P@N结果表明，使用BERT作为句子编码可以实现优于基线方法的性能。
2020-09-10 cs.CL cs.IR cs.LG
Finding Influential Instances for Distantly Supervised Relation Extraction
University of Illinois Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Tsinghua University（清华大学）；Tencent（腾讯）；Zhejiang University（浙江大学）
远距离监督（DS）是扩展数据集以增强关系抽取（RE）模型的强有力的方式，但是经常遭受高标签噪声。目前基于注意力、强化学习或GAN的工作都是黑箱模型，因此它们既不能对DS中的样本选择提供有意义的解释，也不能在不同领域提供稳定性。与此相反，本文提出了一种新的模型无关的实例抽样方法DS的影响函数（IF），即REIF。我们的方法确定有利/不利的情况下，在袋的基础上，IF，然后进行动态实例采样。设计了一种快速影响采样算法，将计算复杂性从$\mathcal{O}(mn)$降低到$\mathcal{O}(1)$，并分析了该算法对采样函数的鲁棒性。实验表明，通过在训练过程中简单地对有利实例进行采样，REIF能够赢得一系列具有复杂架构的基线。我们还证明了REIF可以支持可解释的实例选择。
2022-01-25 cs.AI cs.CL cs.LG
Looking Beyond Label Noise: Shifted Label Distribution Matters in Distantly Supervised Relation Extraction
University of Southern California（南加州大学）；University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Purdue University（普渡大学）
近年来，应用远程监控（DS）自动生成关系抽取（RE）训练数据的兴趣激增。在本文中，我们研究了限制DS训练的神经模型性能的问题，进行了深入的分析，并确定了一个可以极大地影响性能的因素，即标签分布。具体来说，我们发现这个问题普遍存在于现实世界的DS数据集，没有特殊的处理，典型的DS-RE模型不能自动适应这种变化，从而实现恶化的性能。为了进一步验证我们的直觉，我们为DS训练的模型开发了一种简单而有效的自适应方法，偏差调整，它更新了在源域（即，DS训练集）与在目标域上估计的标签分布（即，测试集）。实验表明，偏差调整在DS训练的模型上实现了一致的性能增益，特别是在神经模型上，相对F1提高了23%，这验证了我们的假设。我们的代码和数据可以在\url{https://github.com/INK-USC/shifted-label-distribution}上找到。
2019-09-10 cs.CL cs.LG
DiSCoMaT: Distantly Supervised Composition Extraction from Tables in Materials Science Articles
Indian Institute of Technology Delhi（印度理工学院德里分校）
针对材料科学论文表格的成分提取难题，研究者定义了新NLP任务，发布含4408个远监督表格及1475个人工标注表格的数据集，提出结合图神经网络与任务特定正则等的DISCOMAT基线，性能显著优于现有架构。
2024-01-28 cond-mat.mtrl-sci cs.CL cs.IR
Augmenting Document-level Relation Extraction with Efficient Multi-Supervision
University of Macau（澳门大学）；Beijing Normal University (Zhuhai)（北京师范大学（珠海））；BNU-UIC（北京师范大学-香港浸会大学联合国际学院）；SKL-IOTSC（物联网关键技术与系统国家重点实验室）
本文针对文档级关系抽取中远程监督数据噪声大、利用效率低的问题，提出高效多重监督方法，通过结合远程与专家监督筛选信息文档并设计多重监督排序损失，在提升性能的同时提高时间效率。
2024-07-01 cs.AI cs.CL
Cross-relation Cross-bag Attention for Distantly-supervised Relation Extraction
Zhejiang University（浙江大学）；University of Illinois at Urbana Champaign（伊利诺伊大学厄巴纳-香槟分校）；Hikvision Research Institute（海康威视研究院）；University of Southern California（南加利福尼亚大学）
远程监督利用知识库来自动标记实例，从而允许我们训练关系提取器而无需人工注释。然而，生成的训练数据通常包含大量噪声，并且可能导致普通监督学习的性能较差。在本文中，我们提出了一种新的交叉关系交叉袋选择性注意（C $^2$ SA）进行多示例学习，这导致了远距离监督关系提取器的噪声鲁棒性训练。具体而言，我们采用了双水平的选择性注意，以减少噪音或不匹配的句子的影响，而关系之间的相关性被捕获，以提高注意力的权重的质量。此外，我们试图更多地关注具有更高质量的实体对，而不是平等地对待所有实体对。同样，我们采用选择性注意力机制来实现这一目标。两种类型的关系提取器的实验证明了所提出的方法的优越性，而进一步的消融研究验证了我们的直觉，并证明了我们提出的两种技术的有效性。
2018-12-27 cs.CL cs.LG
Deep Residual Learning for Weakly-Supervised Relation Extraction
National Taiwan University（国立台湾大学）；University of California, Santa Barbara（加利福尼亚大学圣塔芭芭拉分校）
深度残差学习（ResNet）是一种使用身份映射来训练非常深的神经网络的新方法。ResNet赢得了ImageNet ILSVRC 2015分类任务，并在许多计算机视觉任务中实现了最先进的性能。然而，剩余学习对噪声自然语言处理任务的影响仍然没有得到很好的理解。在本文中，我们设计了一种新的卷积神经网络（CNN）与残留学习，并研究其对任务的影响，远距离监督噪声关系抽取。与ResNet只适用于非常深的网络的流行观点相反，我们发现即使有9层CNN，使用身份映射也可以显着提高远程监督关系抽取的性能。
2017-07-27 cs.AI cs.CL
Prototypical Representation Learning for Relation Extraction
Tsinghua University（清华大学）；The University of Edinburgh（爱丁堡大学）；Alibaba Group（阿里巴巴集团）；Sun Yat-sen University（中山大学）
识别实体之间的关系是关系学习的关键任务。由于人类语言中存在大量的标签噪声和复杂的表达方式，从距离标注数据集中学习关系表示是一个困难的问题。本文的目的是学习预测，可解释的，和强大的关系表示，从远距离标记的数据是有效的，在不同的设置，包括监督，远距离监督，和少样本学习。而不是仅仅依赖于从嘈杂的标签的监督，我们建议从上下文信息中学习每个关系的原型，以最好地探索关系的内在语义。原型是特征空间中的表示，抽象出句子中实体之间关系的基本语义。我们基于具有清晰几何解释的目标来学习原型，其中原型是均匀分散在单位球中的单位向量，并且语句嵌入集中在球表面上相应原型向量的末端。这种方法使我们能够学习有意义的，可解释的原型，用于最终分类。几个关系学习任务的结果表明，我们的模型显着优于以前的国家的最先进的模型。我们进一步证明了编码器的鲁棒性和原型的可解释性与广泛的实验。
2021-03-22 cs.AI cs.CL
DistALANER: Distantly Supervised Active Learning Augmented Named Entity Recognition in the Open Source Software Ecosystem
Indian Institute of Technology Kharagpur（印度克勒格布尔印度理工学院）；Singapore University of Technology and Design（新加坡科技设计大学）
针对开源软件领域标注数据稀缺、专家标注成本高的问题，提出DistALANER这一结合远程监督两步标注与主动学习的NER方法，性能显著优于现有LLMs，且在关系抽取下游任务中有效。
2024-06-20 cs.CL
A Hierarchical Entity Graph Convolutional Network for Relation Extraction across Documents
National University of Singapore（新加坡国立大学）；Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
用于关系抽取的远程监督数据集主要集中在事务级抽取，并且它们覆盖的关系很少。在这项工作中，我们提出了跨文档的关系抽取，其中的两个实体的关系元组出现在两个不同的文件，通过一个共同的实体链连接。按照这个想法，我们创建了一个两跳关系抽取的数据集，其中每个链只包含两个文档。我们提出的数据集涵盖了更多的关系比公开可用的数据集级别。我们还为此任务提出了一个分层实体图卷积网络（HEGCN）模型，与一些强大的神经基线相比，该模型在我们的两跳关系抽取数据集上将性能提高了1.1\% F1分数。
2021-08-21 cs.CL
MedDistant19: Towards an Accurate Benchmark for Broad-Coverage Biomedical Relation Extraction
German Research Center for Artificial Intelligence（德国人工智能研究中心）；Saarland University（萨尔大学）；Yale Center for Medical Informatics（耶鲁医学信息学中心）；UCL Centre for Artificial Intelligence（伦敦大学学院人工智能中心）
由于缺乏标记数据和高昂的注释成本，生物医学领域的关系抽取具有挑战性，需要领域专家。远程监督通常用于通过将知识图谱关系与原始文本自动配对来解决注释数据的稀缺性。这样的流水线容易产生噪声，并且为覆盖大量生物医学概念的规模增加了挑战。我们调查了现有的广泛覆盖的远程监督生物医学关系抽取基准，发现训练和测试关系之间的重叠范围从26%到86%。此外，我们注意到这些基准测试的数据构建过程中存在一些不一致之处，并且在没有训练测试泄漏的情况下，重点是更窄的实体类型之间的交互。这项工作提出了一个更准确的基准MedDistant19广泛覆盖的远程监督的生物医学关系抽取，解决了这些缺点，并通过调整MEDLINE摘要与广泛使用的SNOMED临床术语知识库。缺乏与特定领域的语言模型进行彻底的评估，我们还进行实验验证一般领域的关系抽取的结果，生物医学关系抽取。
2022-09-13 cs.CL cs.LG
Jointly Extracting Relations with Class Ties via Effective Deep Ranking
Beihang University（北京航空航天大学）；China Defense Science and Technology Information Center（中国国防科技信息中心）
在关系抽取中，关系之间的连接（我们称之为类连接）是常见的。在远程监督的场景中，一个实体元组可以具有多个关系事实。利用一个实体元组的关系之间的类联系将是有前途的远程监督关系抽取。然而，以往的模型对这一特性的建模不是有效的，就是忽略了这一特性。在这项工作中，为了有效地利用类关系，我们提出了一个统一的模型，集成了卷积神经网络（CNN）与一般的成对排名框架，其中三个新的排名损失函数的联合关系抽取。此外，提出了一种有效的方法来缓解严重的类不平衡问题从NR（不相关）模型训练。在一个广泛使用的数据集上的实验表明，利用类关系将增强提取，并证明了我们的模型学习类关系的有效性。我们的模型显著优于基线，实现了最先进的性能。
2017-08-05 cs.AI cs.CL
Sentence Bag Graph Formulation for Biomedical Distant Supervision Relation Extraction
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；University of Rochester（罗切斯特大学）；School of Electrical and Information Engineering, Beijing University of Civil Engineering and Architecture（北京建筑大学电气与信息工程学院）；Beijing Key Laboratory of Intelligent Processing for Building Big Data, Beijing University of Civil Engineering and Architecture（北京建筑大学北京市建筑大数据智能处理重点实验室）
本文提出句子袋图建模框架，通过消息传递聚合实体对信息并融合句间依赖，有效缓解远程监督关系抽取中的噪声标注问题，在生物医学和通用文本数据集上均显著超越现有方法。
2023-10-29 cs.CL cs.LG
Dual Supervision Framework for Relation Extraction with Distant Supervision and Human Annotation
Seoul National University（首尔国立大学）
由于关系抽取在知识库构建和问答等实际应用中的重要性，关系抽取得到了广泛的研究。大多数现有的工作训练模型的远程监督数据或人类注释的数据。为了利用人工注释的高准确性和远程监督的廉价成本，我们提出了双重监督框架，有效地利用这两种类型的数据。然而，简单地结合两种类型的数据来训练RE模型可能会降低预测精度，因为远程监督具有标记偏差。我们使用两个独立的预测网络HA-Net和DS-Net分别通过人工注释和远程监督来预测标签，以防止由于远程监督的不正确标签而导致的准确性下降。此外，我们还提出了一个额外的损失项，称为不一致惩罚，使HA-Net能够从远程监督标签中学习。此外，我们利用额外的网络，通过考虑上下文信息自适应地评估标签偏差。我们对文件级和文档级RE的性能研究证实了双重监督框架的有效性。
2020-11-24 cs.AI cs.CL
Incorporating Relation Paths in Neural Relation Extraction
Tsinghua University（清华大学）
远程监督关系抽取已被广泛用于从纯文本中发现新颖的关系事实。为了预测一对两个目标实体之间的关系，现有的方法仅仅依赖于那些包含两个实体的直接句子。事实上，也有许多句子只包含其中一个目标实体，这为关系抽取提供了丰富而有用的信息。为了解决这个问题，我们通过中间实体在两个目标实体之间建立推理链，并提出了一个基于路径的神经关系抽取模型来编码直接语句和推理链的关系语义。在真实数据集上的实验结果表明，该模型能够充分利用只包含一个目标实体的句子，并在关系抽取上取得了显著的一致性改进。本文的源代码可以从https：//github.com/thunlp/PathNRE获得。
2017-09-13 cs.CL
Graph Neural Networks with Generated Parameters for Relation Extraction
Tsinghua University（清华大学）；National University of Singapore（新加坡国立大学）；Université de Montréal（蒙特利尔大学）
近年来，在机器学习领域中，关系推理的改进已经取得了进展。在现有的模型中，图神经网络（GNNs）是多跳关系推理最有效的方法之一。事实上，多跳关系推理在诸如关系抽取等许多自然语言处理任务中是必不可少的。本文提出根据自然语言句子生成图神经网络（GP-GNNs）的参数，使GNNs能够对非结构化文本输入进行关系推理。我们在文本的关系抽取中验证了GP-GNNs。在人类注释数据集和两个远程监督数据集上的实验结果表明，与基线相比，我们的模型实现了显着的改进。我们还进行了定性分析，以证明我们的模型可以发现更准确的多跳关系推理的关系。
2019-02-02 cs.CL
Neural Architectures for Open-Type Relation Argument Extraction
Ludwig Maxilian University of Munich（慕尼黑路德维希马克西米利安大学）；University of Cambridge（剑桥大学）
在这项工作中，我们介绍了开放型关系参数提取（ORAE）的任务：给定语料库，查询实体Q和知识库关系（例如，“Q authored notable work with title X”），模型必须从语料库中提取非标准实体类型的参数（不能由标准命名实体标记器提取的实体，例如X：书籍或艺术作品的标题）。获得并发布基于WikiData关系的远程监督数据集以解决该任务。我们开发和比较了广泛的神经模型，这项任务产生了很大的改进，在一个强大的基线与神经问答系统。系统地比较了不同的句子编码架构和答案提取方法的影响。基于门控递归单元的编码器与条件随机场标记器相结合给出了最佳结果。
2018-09-30 cs.CL
Document-Level Relation Extraction with Adaptive Focal Loss and Knowledge Distillation
National University of Singapore（新加坡国立大学）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）
文档级关系抽取（DocRE）是一个更具挑战性的任务相比，它的文档级对应。它的目标是一次从多个句子中提取关系。在本文中，我们提出了一个半监督框架DocRE与三个新的组件。首先，我们使用一个轴向注意模块来学习实体对之间的相互依赖性，这提高了两跳关系的性能。其次，我们提出了一个自适应的焦点损失，以解决类不平衡问题的DocRE。最后，我们使用知识蒸馏来克服人类注释数据和远程监督数据之间的差异。我们在两个DocRE数据集上进行了实验。我们的模型始终优于强大的基线，其性能在DocRED排行榜上超过了之前的SOTA 1.36 F1和1.46 F_F1。我们的代码和数据将在https://github.com/tonytan48/KD-DocRE上发布。
2022-03-21 cs.CL
Regularized Attentive Capsule Network for Overlapped Relation Extraction
Shanghai Jiao Tong University（上海交通大学）；University of Macau（澳门大学）；Beijing Normal University (Zhuhai)（北京师范大学（珠海））；Chongqing University（重庆大学）；American University of Sharjah（沙迦美国大学）
远程监督关系抽取由于其对人工劳动的要求较低，在知识库构建中得到了广泛的应用。然而，在远程监控中自动建立的训练数据集包含低质量的实例，这些实例含有噪声词和重叠关系，给关系的准确提取带来了很大的挑战。为了解决这个问题，我们提出了一种新的正则化注意胶囊网络（RA-CapNet），以更好地识别每个非正式句子中的高度重叠的关系。为了发现实例中的多个关系特征，我们将多头注意力嵌入到胶囊网络中作为低级胶囊，其中两个实体的减法作为一种新形式的关系查询，以选择显着特征，而不管它们的位置。为了进一步区分重叠关系特征，我们设计了不一致正则化，以明确鼓励多个注意头和低级别胶囊之间的多样性。在广泛使用的数据集上进行的大量实验表明，我们的模型在关系抽取方面取得了显着的改进。
2020-12-18 cs.CL
Improving distant supervision using inference learning
University of Sheffield（谢菲尔德大学）；University of the Basque Country（巴斯克大学）
远程监督是一种广泛应用于关系抽取系统的自动训练的方法，并且具有可以以最小的努力生成大量标记数据的优点。然而，这些数据可能包含错误，因此使用远程监督训练的系统往往不如基于手动标记数据的系统运行得好。本文提出了一种新的方法，利用知识推理方法检测潜在的假阴性训练样本。结果表明，我们的方法提高了使用远程监督数据训练的关系抽取系统的性能。
2015-09-12 cs.CL
Effective Distant Supervision for Temporal Relation Extraction
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
在新领域中训练时态关系抽取模型的主要障碍是缺乏多样的高质量示例以及收集更多示例的挑战。我们提出了一种方法，自动收集远程监督的时间关系的例子。我们抓取并自动标记时间关系在文本中明确的事件对，然后屏蔽这些明确的线索，迫使在此数据上训练的模型学习其他信号。我们证明了预训练的Transformer模型能够在zero-shot和Few-Shot设置中从弱标记的示例转移到人类注释的基准，并且掩蔽方案在提高泛化方面很重要。
2021-04-07 cs.CL cs.LG
Simultaneously Self-Attending to All Mentions for Full-Abstract Biological Relation Extraction
关系抽取中的大多数工作通过查看包含单个实体对提及的单个句子内的短跨度文本来形成预测。这种方法通常不考虑跨提及的交互，需要对每个提及对进行冗余计算，并且忽略跨句子边界表达的关系。生物学文本中常见的文档（而不是句子）级注释加剧了这些问题。作为回应，我们提出了一个模型，同时预测在一个文件中的所有提及对之间的关系。我们使用一个高效的自我注意编码器对整个论文摘要进行成对预测。所有对提及分数允许我们通过聚合提及以形成实体对表示来执行多实例学习。我们通过联合训练来预测命名实体并添加弱标记数据的语料库，进一步适应没有提及级别注释的设置。在两个Biocreative基准数据集上的实验中，我们在Biocreative V Chemical Disease Relation数据集上实现了最先进的性能，用于没有外部KB资源的模型。我们还引入了一个新的数据集的数量级大于现有的人类注释的生物信息抽取数据集和更准确的比远程监督的替代品。
2018-02-28 cs.CL
Leveraging 2-hop Distant Supervision from Table Entity Pairs for Relation Extraction
The Ohio State University（俄亥俄州立大学）
远程监控（Distant Supervision，DS）已被广泛用于自动构造（噪声）标记数据以用于关系抽取（RE）。给定两个实体，远距离监督利用直接提到它们的句子来预测它们的语义关系。我们把这种策略称为1跳DS，不幸的是，它可能不适合于支持句子很少的长尾实体。在本文中，我们引入了一种新的策略，名为2跳DS，以提高远程监督RE，观察到存在大量的关系表在Web上包含共享共同关系的实体对。我们将这样的实体对称为彼此的锚，并收集所有提到给定目标实体对的锚实体对的句子，以帮助关系预测。我们在多示例学习范式中开发了一种新的神经RE方法REDS 2，该方法采用分层模型结构分别融合来自1跳DS和2跳DS的信息。在基准数据集上进行的大量实验结果表明，REDS2可以在不同的设置中始终优于各种基线。
2019-09-13 cs.CL
Hierarchical Relation-Guided Type-Sentence Alignment for Long-Tail Relation Extraction with Distant Supervision
University of Technology Sydney（悉尼科技大学）
远程监督使用知识图谱中的三重事实来标注语料库以进行关系抽取，导致错误标注和长尾问题。一些作品使用关系的层次结构进行知识转移到长尾关系。然而，粗粒度的关系通常仅意味着属性（例如，域或主题）的远距离事实，使得很难区分关系的基础上，单独的句子语义。一种解决方案是诉诸实体类型，但关于如何充分利用实体类型的信息以及如何将多粒度实体类型与句子对齐的问题仍然存在。在这项工作中，我们提出了一种新的模型来丰富实体类型的远程监督句子。它包括（1）一个成对的类型丰富的句子编码模块注入上下文无关的和相关的背景，以减轻重复级别的错误标记，和（2）一个分层的类型句子对齐模块丰富的句子与三重事实的基本属性，以支持长尾关系。我们的模型在基准测试的整体和长尾性能方面取得了新的最先进的结果。
2021-09-19 cs.CL
A Domain-Specific Curated Benchmark for Entity and Document-Level Relation Extraction
University of Padova（帕多瓦大学）
本文提出GutBrainIE基准，用于生物医学领域实体和文档级关系提取，通过精细标注和多任务设计提升IE方法的评估与开发
2026-02-04 cs.CL
Robust Distant Supervision Relation Extraction via Deep Reinforcement Learning
Beijing University of Posts and Telecommunications（北京邮电大学）；University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）
远程监控已经成为关系抽取的标准方法。然而，即使它是一种有效的方法，它也不是没有代价的-所得到的远程监督训练样本往往是非常嘈杂的。为了对抗噪声，大多数最近的国家的最先进的方法集中在选择一个最好的句子或计算软注意力权重的一个特定的实体对的句子的集合。然而，这些方法都是次优的，误报问题仍然是性能的一个关键绊脚石瓶颈。我们认为，这些不正确的标记的候选句子必须处理与硬决定，而不是被处理软注意力权重。为了做到这一点，我们的论文描述了一个激进的解决方案--我们探索了一种深度强化学习策略来生成假阳性指标，在这种情况下，我们自动识别每种关系类型的假阳性，而无需任何监督信息。与以往研究中的移除操作不同，我们将它们重新分配到负例中。实验结果表明，该策略显着提高了远程监控的性能相比，国家的最先进的系统。
2018-05-24 cs.CL
