GraphERE: Jointly Multiple Event-Event Relation Extraction via Graph-Enhanced Event Embeddings
Peking University（北京大学）
本文提出基于图增强事件嵌入的联合多事件关系抽取框架GraphERE，利用静态AMR和IE图丰富事件论元及结构特征，并通过Node Transformer构建动态事件图联合抽取多种关系，显著优于现有方法。
2024-03-19 cs.AI cs.CL
Extracting all Aspect-polarity Pairs Jointly in a Text with Relation Extraction Approach
Sichuan University（四川大学）
从文本中提取体-极性对是细粒度情感分析的一个重要任务。虽然现有的方法已经取得了很大的进展，他们是有限的，在捕获之间的关系方面的体极性对在一个文本中，从而降低提取性能。此外，现有的基于标记的序列标注和基于跨度的分类方法都存在各自的缺陷，如基于标记的序列标注存在极性不一致的问题，而基于跨度的分类方法存在极性和方面相关的标注混合的问题。为了弥补上述缺陷，本文借鉴关系抽取的最新进展，提出利用关系抽取技术直接从文本中生成体-极性对，将体-极性对视为一元关系，其中体是实体，对应的极性是关系。基于这一观点，我们提出了一个位置和方面感知的序列2序列模型，用于联合提取方面-极性对。该模型的特点是它的能力，捕捉不仅方面之间的关系，极性对在一个文本中通过序列解码，但也有一个方面之间的相关性，其极性通过位置和方面意识的注意。在三个基准数据集上进行的实验表明，该模型的性能优于现有的最先进的方法，取得了显著的改进.
2021-09-01 cs.AI cs.CL
Jointly Extracting Relations with Class Ties via Effective Deep Ranking
Beihang University（北京航空航天大学）；China Defense Science and Technology Information Center（中国国防科技信息中心）
在关系抽取中，关系之间的连接（我们称之为类连接）是常见的。在远程监督的场景中，一个实体元组可以具有多个关系事实。利用一个实体元组的关系之间的类联系将是有前途的远程监督关系抽取。然而，以往的模型对这一特性的建模不是有效的，就是忽略了这一特性。在这项工作中，为了有效地利用类关系，我们提出了一个统一的模型，集成了卷积神经网络（CNN）与一般的成对排名框架，其中三个新的排名损失函数的联合关系抽取。此外，提出了一种有效的方法来缓解严重的类不平衡问题从NR（不相关）模型训练。在一个广泛使用的数据集上的实验表明，利用类关系将增强提取，并证明了我们的模型学习类关系的有效性。我们的模型显著优于基线，实现了最先进的性能。
2017-08-05 cs.AI cs.CL
ViBERTgrid: A Jointly Trained Multi-Modal 2D Document Representation for Key Information Extraction from Documents
Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；University of Science and Technology of China（中国科学技术大学）
最近的基于网格的文档表示，如BERTgrid，允许在2D特征图中同时编码文档的文本和布局信息，以便可以直接利用最先进的图像分割和/或目标检测模型来从文档中提取关键信息。然而，这样的方法还没有达到与现有技术的基于序列和基于图的方法（诸如LayoutLM和PICK）相当的性能。在本文中，我们提出了一种新的多模态骨干网络连接BERTgrid到一个CNN模型的中间层，其中CNN的输入是一个文档图像和BERTgrid是一个网格的词嵌入，生成一个更强大的基于网格的文档表示，命名为ViBERTgrid。与BERTgrid不同，我们的多模态骨干网络中的BERT和CNN的参数是联合训练的。我们的实验结果表明，这种联合训练策略显着提高了表示能力的ViBERTgrid。因此，我们的基于ViBERTgrid的关键信息抽取方法在现实世界的数据集上实现了最先进的性能。
2021-05-25 cs.CL cs.CV cs.LG
Joint Extraction Matters: Prompt-Based Visual Question Answering for Multi-Field Document Information Extraction
Sansan, Inc.（Sansan公司）
针对现有文档信息提取VQA方法孤立查询字段忽略依赖的问题，本文探究多字段联合提取的优势，通过多模型与数据集实验验证其准确率提升效果，还分析了性能与字段数的关系并量化字段关联，为鲁棒VQA系统设计提供实用方法。
2025-03-21 cs.CL cs.CV
JSEEGraph: Joint Structured Event Extraction as Graph Parsing
University of Oslo（奥斯陆大学）；University of Bergen（卑尔根大学）
提出基于图解析的事件抽取框架JSEEGraph，在单图中联合编码实体、关系与事件并支持嵌套结构，端到端联合推断有效避免错误传播，在多语言基准上显著提升抽取性能。
2023-06-26 cs.CL
A Scalable Cross-Domain Event Extraction System via a Unified Generative Training Framework
German Research Center for Artificial Intelligence（德国人工智能研究中心）；Carl von Ossietzky University of Oldenburg（奥尔登堡大学）
该研究针对现有事件抽取方法可扩展性与跨域泛化不足的问题，提出统一生成式序列到序列框架，微调预训练语言模型，构建支持多功能的网络应用平台，实现跨域事件抽取。
2026-08-25 cs.CL
Title2Event: Benchmarking Open Event Extraction with a Large-scale Chinese Title Dataset
Tencent（腾讯）；HKUST（香港科技大学）；Tsinghua University（清华大学）；USTC（中国科学技术大学）
事件抽取对于后续的事件聚合、事件知识图谱构建等任务至关重要。大多数现有的EE数据集手动定义固定的事件类型，并为每个事件设计特定的模式，未能涵盖在线文本中出现的各种事件。此外，新闻标题作为事件提及的重要来源，在当前的EE研究中没有得到足够的重视。在本文中，我们提出了Title2Event，一个大规模的事件级数据集基准开放事件提取，而不限制事件类型。Title2Event包含从中文网页收集的34个主题的42，000多个新闻标题。据我们所知，它是目前最大的手动标注的中文开放事件提取数据集。通过对不同模型下的Title2Event进行实验，发现标题的特点使得事件抽取具有挑战性，并提出了进一步研究该问题的意义。数据集和基线代码可在https://open-event-hub.github.io/title2event上获得。
2022-11-02 cs.CL
Adversarial training for multi-context joint entity and relation extraction
Ghent University（根特大学）；imec（比利时微电子研究中心）；IDLab（ID实验室）；Department of Information Technology（信息技术系）
对抗训练（AT）是一种正则化方法，其可用于通过在训练数据中添加小扰动来提高神经网络方法的鲁棒性。我们展示了如何使用AT的任务，实体识别和关系抽取。特别是，我们证明了将AT应用于通用基线模型以联合提取实体和关系，可以提高不同上下文中几个数据集的最新有效性（即，新闻、生物医学和房地产数据）和不同语言（英语和荷兰语）。
2019-01-14 cs.CL
EventGraph: Event Extraction as Semantic Graph Parsing
University of Oslo（奥斯陆大学）；University of Bergen（卑尔根大学）
事件提取涉及事件触发器和相应事件参数的检测和提取。现有的系统通常将事件提取分解为多个子任务，而没有考虑它们之间可能的交互。在本文中，我们提出了EventGraph，一个联合框架的事件提取，它编码的事件作为图形。我们将事件触发器和参数表示为语义图中的节点。因此，事件提取成为图解析问题，其提供以下优点：1）联合执行事件检测和参数提取; 2）从一段文本中检测和提取多个事件;以及3）捕获事件参数和触发器之间的复杂交互。在ACE 2005上的实验结果表明，我们的模型是有竞争力的国家的最先进的系统，并大大提高了参数提取的结果。此外，我们从ACE 2005中创建了两个新的数据集，其中我们保留了事件参数的整个文本跨度，而不仅仅是中心词。我们的代码和模型都是开源的。
2022-10-16 cs.CL
Extracting Radiological Findings With Normalized Anatomical Information Using a Span-Based BERT Relation Extraction Model
University of Washington（华盛顿大学）；George Mason University（乔治梅森大学）
医学成像对于诊断和治疗许多医学问题至关重要，包括许多形式的癌症。医学成像报告提取放射科医生的发现和观察结果，创建非结构化医学图像的非结构化文本表示。这种文本编码信息的大规模使用需要将非结构化文本转换为结构化的语义表示。我们探讨的提取和规范化的放射学报告中的解剖信息，是与放射学的发现。我们调查这个提取和规范化的任务，使用基于跨度的关系抽取模型，共同提取实体和关系，使用BERT。这项工作探讨了影响提取和归一化性能的因素，包括身体部位/器官系统，发生频率，跨度长度和跨度多样性。它讨论了提高性能和创建高质量的放射性现象的语义表示的方法。
2021-08-20 cs.CL
Fine-Grained Temporal Relation Extraction
University of Rochester（罗切斯特大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
我们提出了一个新的语义框架建模的时间关系和事件持续时间，映射对事件的实值尺度。我们使用这个框架来构建迄今为止最大的时态关系数据集，涵盖了整个通用的英语网络树库。我们使用这个数据集来训练模型，以联合预测细粒度的时间关系和事件持续时间。我们报告了我们的数据的强有力的结果，并显示了转移学习方法预测分类关系的有效性。
2019-06-03 cs.CL
Jointly Embedding Relations and Mentions for Knowledge Population
Tsinghua University（清华大学）；New York University（纽约大学）
本文提出了一个联合嵌入模型，用于在关系推理的场景中预测一对实体之间的关系。它不同于大多数独立的方法，这些方法分别在知识库或自由文本上运行。该模型同时学习知识库中三元组的低维向量表示和自由文本中关系的提及，以便我们可以利用这两种资源的证据进行更准确的预测。我们使用NELL来评估我们的方法的性能，与尖端的方法相比。大量实验结果表明，该模型在关系抽取方面取得了显著的改进。
2015-07-07 cs.CL
Named Entity Recognition and Relation Extraction using Enhanced Table Filling by Contextualized Representations
Tokyo Institute of Technology（东京工业大学）
提出了一种基于表格表示的非结构化文本命名实体和关系抽取方法。通过使用上下文化的词嵌入，所提出的方法计算实体提及和远程依赖关系的表示，而无需复杂的手工制作的功能或神经网络架构。我们还采用张量点积来一次性预测关系标签，而无需求助于基于历史的预测或搜索策略。这些进步大大简化了命名实体和关系提取的模型和算法。尽管其简单，实验结果表明，所提出的方法优于国家的最先进的方法上的CoNLL04和ACE05英语数据集。我们还确认，所提出的方法实现了相当的性能与国家的最先进的NER模型的ACE 05数据集时，提供多个句子的上下文聚合。
2022-01-27 cs.CL
A Deep Cascade Model for Multi-Document Reading Comprehension
Alibaba Group（阿里巴巴集团）
在设计在线问答系统时，需要平衡有效性和效率之间的基本权衡。有效性来自复杂的功能，如提取机器阅读理解（MRC），而效率是从初步的检索组件，如候选文件选择和段落排序的改进。考虑到现实世界中多文档MRC场景的复杂性，很难在端到端系统中联合优化这两者。为了解决这个问题，我们开发了一种新的深度级联学习模型，该模型从候选文本的文档级和段落级排名逐步发展到使用机器阅读理解进行更精确的答案提取。具体来说，首先使用简单的函数过滤掉不相关的文档和段落，以提高效率。为了更好地跟踪答案，我们在剩余文本上联合训练了三个模块：文档抽取、段落抽取和答案抽取。实验结果表明，该方法在两个大规模多文档基准数据集上的性能优于现有方法，TriviaQA和DuReader。此外，我们的在线系统可以在不到50 ms的时间内稳定地服务于每日数百万次请求的典型场景。
2018-11-28 cs.CL
Beyond Single-Event Extraction: Towards Efficient Document-Level Multi-Event Argument Extraction
University of Electronic Science and Technology of China（电子科技大学）；National University of Singapore（新加坡国立大学）；Singapore University of Social Sciences（新加坡社科大学）
针对单事件论元抽取效率低且忽视事件关联的问题，提出 DEEIA 模型，通过多事件提示及 DE、EIA 模块同时抽取文档级多事件论元，在四个数据集上达到最优并显著减少推理时间。
2024-06-16 cs.CL
Improving Cross-Domain Performance for Relation Extraction via Dependency Prediction and Information Flow Control
University of Oregon（俄勒冈大学）
关系抽取（RE）是信息抽取和自然语言处理中的一项基本任务。相关树已被证明是一个非常有用的信息源，为这项任务。当前用于关系抽取的深度学习模型主要通过沿着依赖树的结构引导它们的计算来利用这种依赖信息。这种方法的一个潜在问题是它可能会阻止模型捕获语法结构之外的重要上下文信息，并导致较差的跨领域泛化。本文介绍了一种在RE中使用依赖树的新方法，用于联合预测依赖关系和语义关系的深度学习模型。我们还提出了一种新的机制来控制信息流的模型的基础上输入实体提及。我们在基准数据集上的大量实验表明，该模型明显优于现有的RE方法。
2019-07-07 cs.CL
An Attentive Sequence Model for Adverse Drug Event Extraction from Biomedical Text
SAAMA AI Research Lab（SAAMA人工智能研究实验室）
药物不良反应是一个潜在的危险问题，可能导致患者的死亡和发病。药物不良事件信息提取是生物医学研究中的一个重要问题。我们将ADE抽取建模为一个推理问题，并从机器阅读理解（MRC）文献中获得灵感，设计了我们的模型。我们设计这样一个模型的目的是利用临床文本中的局部语言背景，并实现序列内的相互作用，以便共同学习对药物和疾病实体进行分类，并提取由给定药物引起的不良反应。我们的模型利用自我注意力机制来促进文本序列中的序列内交互。这使我们能够可视化和理解网络如何利用本地和更广泛的上下文进行分类。
2018-01-02 cs.CL
Joint Event Extraction via Structural Semantic Matching
Peking University（北京大学）
本文提出JSSM模型，利用STE和DSE编码事件类型语义并进行结构匹配，通过双向注意力联合完成事件检测与论元抽取，在ACE2005上显著提升性能。
2023-06-06 cs.CL
CasEE: A Joint Learning Framework with Cascade Decoding for Overlapping Event Extraction
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机学院）；School of Cyber Science and Technology, Beihang University（北京航空航天大学网络空间安全学院）
事件抽取是一项重要的信息抽取任务，旨在抽取文本中的事件信息。现有的方法大多假设事件出现在句子中没有重叠，这不适用于复杂的重叠事件提取。本文系统地研究了现实中的事件重叠问题，即一个词可以充当多个类型的触发语或不同角色的论元。为了解决上述问题，我们提出了一种新的联合学习框架与级联解码重叠事件提取，称为CasEE。特别地，CasEE顺序地执行类型检测、触发提取和参数提取，其中重叠目标被单独地提取，以特定的先前预测为条件。所有的子任务在一个框架中联合学习，以捕获子任务之间的依赖关系。公共事件提取基准FewFC上的评估表明，CasEE在重叠事件提取方面比以前的竞争方法有了显着的改进。
2021-07-04 cs.CL
Distantly Supervised Relation Extraction with Sentence Reconstruction and Knowledge Base Priors
Toyota Technological Institute（丰田工业大学）；Artificial Intelligence Research Center, National Institute of Advanced Industrial Science and Technology（日本产业技术综合研究所人工智能研究中心）
我们提出了一个多任务，概率的方法，以促进远程监督关系抽取，使更接近的句子，包含相同的知识库对的表示。为了实现这一点，我们通过与关系分类器联合训练的变分自编码器（VAE）来偏置句子的潜在空间。潜码引导成对表征并影响句子重构。通过远程监督创建的两个数据集上的实验结果表明，多任务学习的性能优势。将知识库先验引入VAE的额外探索表明，句子空间可以向知识库的空间转移，提供可解释性并进一步改善结果。
2021-04-16 cs.CL
Learning from Noisy Labels for Entity-Centric Information Extraction
University of Southern California（南加州大学）
最近的信息抽取方法依赖于训练深度神经模型。然而，这样的模型很容易过拟合噪声标签，并遭受性能下降。虽然在大型学习资源中过滤噪声标签的成本非常高，但最近的研究表明，这些标签需要更多的训练步骤来记忆，并且比干净的标签更容易被遗忘，因此在训练中是可识别的。受这些性质的启发，我们提出了一个简单的共正则化框架，以实体为中心的信息抽取，它由几个神经模型具有相同的结构，但不同的参数初始化。这些模型与特定于任务的损失联合优化，并进行正则化，以基于一致性损失生成类似的预测，这可以防止对噪声标签的过度拟合。在两个广泛使用但有噪声的信息抽取基准测试集TACRED和CoNLL03上进行的大量实验证明了该框架的有效性。我们向社区发布代码以供将来研究。
2021-09-07 cs.CL
A Decoupling and Aggregating Framework for Joint Extraction of Entities and Relations
Japan Advanced Institute of Science and Technology（日本先进科学技术学院）；National Institute of Advanced Industrial Science and Technology（国立先进工业科学技术研究院）；University of Tsukuba（筑波大学）
针对实体关系联合抽取中现有方法忽略子任务语义差异、缺乏细粒度特征交互的问题，提出将特征编码解耦为主体、客体、关系三部分，并设计跨聚合与内聚合策略，性能超越多个此前的最优模型。
2024-05-14 cs.AI cs.CL
A Joint Neural Baseline for Concept, Assertion, and Relation Extraction from Clinical Text
Kyoto University（京都大学）；Tokyo University of Technology（东京工科大学）；National Institute of Informatics（国立信息学研究所）
本文提出了一种联合神经基线，用于联合优化临床文本中的概念、断言和关系提取任务，通过实验验证其在F1指标上的优越性。
2026-03-08 cs.AI cs.CL
Joint Constrained Learning for Event-Event Relation Extraction
UPenn（宾夕法尼亚大学）；HKUST（香港科技大学）
理解自然语言涉及识别多个事件提及如何在结构上和时间上彼此交互。在这个过程中，人们可以诱导事件复合体，它以时间顺序和成员关系交织在一起来组织多粒度事件。由于缺乏联合标记的数据，这些关系的现象和限制，他们阐明的结构，我们提出了一个联合约束学习框架建模事件-事件关系。具体而言，该框架强制执行逻辑约束内和跨多个时间和子事件的关系，将这些约束转化为可区分的学习目标。我们表明，我们的联合约束学习方法有效地弥补了缺乏联合标记的数据，并优于SOTA方法的基准时间关系抽取和事件层次结构的建设，取代常用的，但更昂贵的全球推理过程。我们还提出了一个很有前途的案例研究表明，我们的方法在诱导事件复合体的外部语料库的有效性。
2021-05-02 cs.AI cs.CL cs.IR
End-to-end Named Entity Recognition and Relation Extraction using Pre-trained Language Models
University of Toronto（多伦多大学）；The Donnelly Centre（唐纳利中心）；Vector Institute（矢量研究所）；University Health Network（大学健康网络）；Semantic Health（语义健康公司）；Peter Munk Cardiac Center（彼得·蒙克心脏中心）
命名实体识别（NER）和关系抽取（RE）是信息抽取与检索（IE \& IR）中的两个重要任务。最近的工作表明，它是有益的，学习这些任务联合，这避免了在基于流水线的系统中固有的错误的传播，并提高了性能。然而，最先进的联合模型通常依赖于外部自然语言处理（NLP）工具，例如依赖关系解析器，从而将它们的有用性限制在这些工具表现良好的领域（例如新闻）。已经提出的少数神经端到端模型几乎完全是从头开始训练的。在本文中，我们提出了一个神经，端到端的模型，用于联合提取实体及其关系，不依赖于外部NLP工具，并集成了一个大型的，预先训练的语言模型。由于我们模型的大部分参数都是预先训练好的，并且我们避免了自我关注的重复，因此我们的模型可以快速训练。在3个领域的5个数据集上，我们的模型匹配或超过了最先进的性能，有时甚至大幅度提高。
2019-12-20 cs.CL cs.LG
Utilizing Contextual Clues and Role Correlations for Enhancing Document-level Event Argument Extraction
University of Electronic Science and Technology of China（电子科技大学）
针对文档级事件论元抽取中上下文交互不足和事件角色关联被忽视的问题，提出 CARLG 框架，通过 CCA 与 RLIG 以不足 1% 的新增参数提升性能与推理速度。
2024-04-03 cs.CL cs.IR
Efficient Joint Learning for Clinical Named Entity Recognition and Relation Extraction Using Fourier Networks: A Use Case in Adverse Drug Events
University of Geneva（日内瓦大学）
目前的临床信息抽取方法在计算成本和存储器消耗方面效率低下，阻碍了它们在处理大规模电子健康记录（EHR）中的应用。我们提出了一个有效的端到端的模型，联合NER-RE-傅立叶（JNRF），共同学习的命名实体识别和关系抽取的可变长度的文档的任务。该架构使用位置编码和单位批量大小来处理可变长度文档，并使用权重共享傅立叶网络层来进行低复杂度令牌混合。最后，我们达到了理论计算复杂性的下限关系抽取使用选择性池化策略和距离感知的注意力权重与可训练的多项式距离函数。我们使用2018年N2 C2 ADE基准评估了JNRF架构，以联合提取可变长度EHR摘要中的药物相关实体和关系。JNRF的性能比滚动窗口BERT高0.42%，同时训练的速度是滚动窗口的两倍。在N2 C2 ADE基准测试中，与最先进的BiLSTM-CRF架构相比，结果表明，所提出的方法训练速度快22倍，GPU内存消耗减少1.75倍，合理的性能折衷为90%，无需使用外部工具，手工制作的规则或后处理。考虑到深度学习模型的显著碳足迹和当前的能源危机，这些方法可以支持在EHR和其他类型的大型文档数据库中进行高效和更清洁的信息抽取。
2023-02-08 cs.CL cs.LG
Learning Dual Retrieval Module for Semi-supervised Relation Extraction
University of Southern California（南加利福尼亚大学）；Tsinghua University（清华大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
关系抽取是文本数据内容结构化的一项重要任务，在弱监督学习时变得特别具有挑战性-只有有限数量的标记句子，而大量的未标记句子可用。大多数现有的工作都是基于自我训练的想法来利用未标记的数据（即，自举模型）和多视图学习（例如，集合多个模型变体）。然而，这些方法或者遭受语义漂移的问题，或者没有完全捕获关系抽取的问题特征。在本文中，我们利用一个关键的见解，检索句子表达的关系是一个双重任务的预测关系标签为一个给定的句子-两个任务是互补的，可以共同优化相互增强。为了对这种直觉进行建模，我们提出了DualRE，这是一个原则性的框架，它引入了一个与原始关系预测模块联合训练的检索模块。通过这种方式，检索模块从未标记数据中选择的高质量样本可以用于改进预测模块，反之亦然。在两个公共数据集上的实验结果\footnote{\small Code and data can be found at \url{https://github.com/INK-USC/DualRE}.}以及案例研究证明了DualRE方法的有效性。
2019-02-22 cs.CL cs.LG
Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction
University of Southern California（南加州大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们提出了一个联合的事件和时间关系抽取模型与共享的表示学习和结构化预测。所提出的方法有两个优点比现有的工作。首先，它通过允许事件和关系模块共享相同的上下文嵌入和神经表示学习器来改进事件表示。其次，它避免了传统的管道系统中的错误传播，利用结构化推理和学习方法来分配事件标签和时间关系标签联合。实验结果表明，该方法在事件抽取和时态关系抽取两个方面均优于现有系统，在两个基准数据集上的端到端F1分别提高了10%和6.8%.
2020-09-15 cs.AI cs.CL
Jointly Learning Clinical Entities and Relations with Contextual Language Models and Explicit Context
George Mason University（乔治梅森大学）；University of Washington（华盛顿大学）；Virginia Commonwealth University（弗吉尼亚联邦大学）
我们假设，明确的上下文信息集成到一个多任务学习框架将强调上下文的重要性，以提高性能，共同学习命名实体识别（NER）和关系抽取（RE）。我们的工作通过将实体从其周围的上下文中分割出来并使用每个独立的片段构建上下文表示来证明这一假设。这种关系表示允许联合NER/RE系统在NER和RE任务上实现接近最先进（SOTA）的性能，同时在端到端NER和RE上以49.07 F1击败SOTA RE系统。
2021-02-17 cs.CL cs.LG
Double Graph Based Reasoning for Document-level Relation Extraction
Peking University（北京大学）；ByteDance AI Lab（字节跳动人工智能实验室）
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取不同，它需要对文档中的多个句子进行推理。在本文中，我们提出了图聚合和推理网络（GAIN）具有双重图。GAIN首先构建了一个异构的提及级图（hMG）来模拟文档中不同提及之间的复杂交互。它还构造了一个实体级图（EG），在此基础上，我们提出了一种新的路径推理机制来推断实体之间的关系。在公共数据集DocRED上的实验表明，GAIN在F1上实现了显着的性能提升（2.85）。我们的代码可以在https://github.com/DreamInvoker/GAIN上找到。
2020-09-29 cs.AI cs.CL cs.LG
Sources of Complexity in Semantic Frame Parsing for Information Extraction
Orange Labs（奥兰治实验室）；Aix Marseille Univ（艾克斯-马赛大学）；CNRS（法国国家科学研究中心）
本文描述了一个基于序列标记方法的语义框架解析系统，准确地说，是具有高速公路连接的BiLSTM模型，用于根据Berkeley FrameNet形式主义对注释的法国百科全书历史文本语料库执行信息抽取。在这项研究中提出的方法依赖于一个集成的序列标记模型，共同优化帧识别和语义角色分割和识别。本研究的目的是分析任务的复杂性，突出的因素，使语义框架解析一个困难的任务，并提供详细的性能评估不同类型的框架和句子。
2018-12-21 cs.AI cs.CL
Modeling Task Interactions in Document-Level Joint Entity and Relation Extraction
Emory University（埃默里大学）
我们的目标是在一个端到端的设置文档级的关系抽取，其中模型需要联合执行提及提取，共指消解（COREF）和关系抽取（RE）一次，并得到一个以实体为中心的方式进行评估。特别是，我们解决了COREF和RE之间的双向互动，还没有被以前的工作的重点，并建议引入明确的互动，即图兼容性（GC），是专门设计来利用任务的特点，桥接两个任务的直接任务干扰的决定。我们的实验在DocRED和DWIE上进行;除了GC之外，我们还实现并比较了以前工作中常用的不同多任务设置，包括管道，共享编码器，图形传播，以检查不同交互的有效性。结果表明，GC实现了最佳性能，比基线提高了2.3/5.1 F1。
2022-05-04 cs.CL cs.LG
Exploring LLMs for Scientific Information Extraction Using The SciEx Framework
本文提出SciEx框架，通过解耦关键组件提升科学信息提取的准确性和一致性，评估结果显示其在多科学领域中的有效性。
2026-01-23 cs.AI cs.CL
TIER-A: Denoising Learning Framework for Information Extraction
Peking University（北京大学）
随着深度神经语言模型的发展，近年来信息抽取取得了很大的进展。然而，深度学习模型通常在噪声数据点上过拟合，导致性能不佳。在这项工作中，我们研究了信息熵在过拟合过程中的作用，并得出一个关键的见解，即过拟合是一个过度自信和熵减少的过程。受这些属性的启发，我们提出了一个简单而有效的共正则化联合训练框架TIER-A，具有温度校准和信息熵正则化的聚合联合训练框架。我们的框架由几个具有相同结构的神经模型组成。这些模型是联合训练的，我们通过引入温度和信息熵正则化来避免过拟合。在两个广泛使用但有噪声的数据集TACRED和CoNLL 03上进行的大量实验证明了我们假设的正确性和我们框架的有效性。
2022-11-13 cs.AI cs.CL cs.IR
Sentence Bag Graph Formulation for Biomedical Distant Supervision Relation Extraction
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；University of Rochester（罗切斯特大学）；School of Electrical and Information Engineering, Beijing University of Civil Engineering and Architecture（北京建筑大学电气与信息工程学院）；Beijing Key Laboratory of Intelligent Processing for Building Big Data, Beijing University of Civil Engineering and Architecture（北京建筑大学北京市建筑大数据智能处理重点实验室）
本文提出句子袋图建模框架，通过消息传递聚合实体对信息并融合句间依赖，有效缓解远程监督关系抽取中的噪声标注问题，在生物医学和通用文本数据集上均显著超越现有方法。
2023-10-29 cs.CL cs.LG
Connecting Language and Knowledge Bases with Embedding Models for Relation Extraction
Google（谷歌）；Heudiasyc UMR CNRS 7253（法国国家科学研究中心Heudiasyc混合研究单位7253）；U. Tech. de Compiègne（贡比涅技术大学）
本文提出了一种新的方法，关系抽取从自由文本，这是训练，以共同使用的信息，从文本和现有的知识。我们的模型是基于两个评分功能，通过学习低维嵌入的单词和实体和关系的知识库。我们在《纽约时报》与Freebase关系相关的文章中实证表明，我们的方法能够有效地使用Freebase数据的一个大子集（4M实体，23k关系）提供的额外信息，以改进现有的仅依赖文本特征的方法。
2013-07-30 cs.CL cs.IR cs.LG
Good Visual Guidance Makes A Better Extractor: Hierarchical Visual Prefix for Multimodal Entity and Relation Extraction
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
多模态命名实体识别与关系抽取（MNER和MRE）是信息抽取中的一个基础和关键分支。然而，现有的方法MNER和MRE通常遭受错误的敏感性时，不相关的对象图像纳入文本。为了解决这些问题，我们提出了一种新的层次视觉前缀融合网络（HVPNeT）的视觉增强实体和关系抽取，旨在实现更有效和强大的性能。具体来说，我们把视觉表示作为可插入的视觉前缀，以指导错误不敏感的预测决策的文本表示。我们进一步提出了一种动态门控聚合策略，以实现层次化的多尺度视觉特征作为融合的视觉前缀。在三个基准数据集上的大量实验证明了该方法的有效性，并达到了最先进的性能。代码可在https://github.com/zjunlp/HVPNeT上找到。
2022-05-07 cs.AI cs.CL cs.CV
Evaluation Pitfalls and Challenges in Multimedia Event Extraction
Technische Hochschule Nürnberg Georg Simon Ohm（纽伦堡应用技术大学）
本文系统分析多媒体事件抽取中的评估陷阱，指出数据处理不一致、任务假设不一致和评估设置过于宽松三大问题，通过严格评估框架下的控制实验揭示评估选择对性能的显著影响。
2026-06-26 cs.CL cs.LG
Biomedical Event Extraction with Hierarchical Knowledge Graphs
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of California, Los Angeles（加州大学洛杉矶分校）
生物医学事件提取是理解科学语料库中描述的生物分子相互作用的关键。其中一个主要的挑战是识别与非指示性触发词相关联的嵌套结构化事件。我们建议将领域知识从统一医学语言系统（UMLS）的预训练语言模型通过图边条件注意力网络（GEANet）和层次图表示。为了更好地识别触发词，每个句子首先接地的句子图的基础上，联合建模的层次知识图谱从UMLS。接地图，然后传播GEANet，一种新的图神经网络，用于增强能力，推断复杂的事件。在BioNLP 2011 GENIA事件提取任务中，我们的方法在所有事件和复杂事件上分别实现了1.41%和3.19%的F1改进。消融研究证实了GEANet和分级KG的重要性。
2020-10-12 cs.AI cs.CL
MT-Clinical BERT: Scaling Clinical Information Extraction with Multitask Learning
Virginia Commonwealth University（弗吉尼亚联邦大学）
临床记录包含大量重要但不易获得的患者信息。自动提取该信息的系统依赖于大量的训练数据，对于这些训练数据，它们存在有限的资源来创建。此外，它们是分开开发的;这意味着特定任务系统之间不能共享信息。这个瓶颈不必要地使实际应用复杂化，降低了每个单独解决方案的性能能力，并且关联了管理多个信息抽取系统的工程债务。我们通过开发多任务临床BERT来解决这些挑战：一个单一的深度学习模型，通过在任务之间共享表示，同时执行八个临床任务，包括实体提取，PHI识别，语言蕴涵和相似性。我们发现我们的单一系统与所有最先进的特定任务系统相比具有竞争力，同时还受益于大量的计算优势。
2020-04-21 cs.CL cs.IR cs.LG
DICE: Data-Efficient Clinical Event Extraction with Generative Models
University of California, Los Angeles（加州大学洛杉矶分校）
本文提出数据高效的生成式临床事件抽取模型DICE，通过对比学习和提及识别辅助任务提升边界判定能力，并构建首个带论元标注的临床事件抽取数据集MACCROBAT-EE，在低数据场景下取得最优性能。
2023-05-25 cs.AI cs.CL cs.LG
Inflo: News Categorization and Keyphrase Extraction for Implementation in an Aggregation System
Hong Kong University of Science and Technology（香港科技大学）
本文的工作描述了一种用于自动新闻类别和关键短语标记的系统，在我们的动机的上下文中呈现，以提高用户可以在聚合平台内找到相关和有趣的内容的速度。将一组12个离散类别应用于超过50万篇新闻文章，以训练神经网络，用于促进提取最重要关键词的更深入任务。后者使用三种方法：统计，图形和数字，使用预先确定的类别标签，以提高提取的短语的相关性。结果在演示中呈现，其中文章通过News API预先填充，并且在被选择时，类别和关键词标签将通过本文解释的方法计算。
2018-12-10 cs.CL cs.IR
Opinion Transmission Network for Jointly Improving Aspect-oriented Opinion Words Extraction and Sentiment Classification
Nanjing University（南京大学）
基于方面的情感分析（ABSA）的两个高度相关的子任务是面向方面的情感分类（ALSC）和观点词提取（AOWE）。它们分别针对句子中的某个方面检测情感极性并提取相应的意见词。以前的工作将它们分开，并通过在小规模标记数据上训练神经模型来关注其中一个，而忽略了它们之间的联系。在本文中，我们提出了一种新的联合模型，意见传输网络（OTN），利用ALSC和AOWE之间的潜在桥梁，以实现同时促进他们的目标。具体而言，我们设计了两个量身定制的意见传输机制，以控制意见线索的双向流动，分别从ALSC到AOWE和AOWE到ALSC。在两个基准数据集上的实验结果表明，我们的联合模型在这两个任务上的性能优于强基线。进一步的分析也验证了意见传导机制的有效性。
2020-11-01 cs.CL
Unsupervised Keyphrase Extraction by Jointly Modeling Local and Global Context
State Key Lab of Software Development Environment, Beihang University（北京航空航天大学软件开发环境国家重点实验室）；Tencent Cloud Xiaowei（腾讯云小微）
基于嵌入的方法被广泛用于无监督关键短语提取（UKE）任务。一般而言，这些方法只是简单地计算短语嵌入和文档嵌入之间的相似度，这不足以捕获不同的上下文以获得更有效的UKE模型。在本文中，我们提出了一种新的方法UKE，其中局部和全局上下文联合建模。从全局的角度，我们计算之间的相似度的某个短语和整个文档在向量空间中的过渡嵌入模型做。在局部视图方面，我们首先建立一个基于文档的图结构，其中短语被视为顶点，边是顶点之间的相似性。然后，我们提出了一种新的中心度计算方法来捕获局部显着信息的基础上的图结构。最后，我们进一步结合全局和局部上下文的建模进行排名。我们评估我们的模型在三个公共基准（Inspec，DUC 2001年，SemEval 2010年），并与现有的国家的最先进的模型进行比较。实验结果表明，该模型在不同领域和不同长度的输入文档上都有较好的泛化能力。进一步的消融研究表明，局部和全局信息对于无监督关键短语提取任务至关重要。
2021-09-15 cs.CL
Position-Aware Tagging for Aspect Sentiment Triplet Extraction
Singapore University of Technology and Design（新加坡科技设计大学）；DAMO Academy, Alibaba Group（阿里巴巴达摩院）；ByteDance（字节跳动）
Aspect Sentiment Triplet Extraction（ASTE）是提取目标实体的三元组，它们的相关情感和解释情感原因的意见跨度的任务。现有的研究工作大多使用流水线方法来解决这个问题，该方法将三重态提取过程分成几个阶段。我们的观察是，三个元素内的三个三联体是高度相关的，这促使我们建立一个联合模型，以提取这样的三联体使用序列标签的方法。然而，如何有效地设计一个标签的方法来提取三元组，可以捕捉元素之间的丰富的相互作用是一个具有挑战性的研究问题。在这项工作中，我们提出了第一个端到端的模型与一个新的位置感知的标签计划，能够共同提取的三胞胎。我们在几个现有数据集上的实验结果表明，使用我们的方法联合捕获三元组中的元素可以提高现有方法的性能。我们还进行了大量的实验，以研究模型的有效性和鲁棒性。
2021-03-09 cs.CL
Multimodal Joint Attribute Prediction and Value Extraction for E-commerce Product
JD AI Research（京东人工智能研究院）
产品属性值在很多电子商业场景中都是必不可少的，比如客服机器人、产品推荐、产品检索等。而在现实世界中，产品的属性值往往是不完整的，并随着时间的推移而变化，这极大地阻碍了实际应用。在本文中，我们提出了一种多模态方法，以联合预测产品属性和提取价值的文本产品描述的帮助下的产品图像。我们认为，产品属性和价值是高度相关的，例如，在给定产品属性的条件下，将更容易提取值。因此，我们从多个方面对属性和值之间的相互作用联合建模属性预测和值提取任务。此外，产品形象对我们的任务有不同的产品属性和价值观的影响。因此，我们选择性地从产品图像中提取有用的视觉信息来增强我们的模型。我们标注了一个包含87，194个实例的多模态产品属性值数据集，该数据集上的实验结果表明，显式建模属性和值之间的关系有助于我们的方法建立它们之间的对应关系，并且有选择地利用视觉产品信息是必要的任务。我们的代码和数据集将向公众发布。
2020-09-15 cs.CL
Information Aggregation for Multi-Head Attention with Routing-by-Agreement
The Chinese University of Hong Kong（香港中文大学）；University of Macau（澳门大学）；Carnegie Mellon University（卡内基梅隆大学）；Tencent AI Lab（腾讯人工智能实验室）
多头注意力因其能够从多个表征子空间中联合提取不同类型的信息而备受关注。关于信息聚合，通常的做法是使用连接，然后进行线性变换，这可能无法充分利用多头注意力的表现力。在这项工作中，我们提出了一个更强大的路由协议算法，以改善多头注意力的信息聚合。具体而言，路由算法基于部分和整体之间的一致性迭代地更新部分（即，从特定子空间学习的不同信息）应该被分配给整体（即，最终输出表示）的比例。语言探测任务和机器翻译任务的实验结果证明了先进的信息聚合比标准的线性变换的优越性。
2019-04-05 cs.AI cs.CL
Jointly Extracting Interventions, Outcomes, and Findings from RCT Reports with LLMs
Northeastern University（东北大学）；Colorado College（科罗拉多学院）
本研究针对RCT证据手动提取的痛点，提出基于指令调优LLM的文本到文本模型，联合提取ICO要素并推断结果，性能较SOTA提升约20个F1点，还构建并发布了结构化研究结果数据库。
2023-07-18 cs.CL
Graph Reasoning with Context-Aware Linearization for Interpretable Fact Extraction and Verification
Imperial College London（帝国理工学院）；J.P. Morgan AI Research（摩根大通人工智能研究院）
本文提出了一个端到端的系统，使用文本和表格证据进行事实提取和验证，我们在FEVEROUS数据集上演示了该系统的性能。我们实验了两个多任务学习范式，以联合训练一个图注意力网络的任务的证据提取和准确性预测，以及一个单一的目标图模型，单独学习准确性预测和单独的证据提取。在这两种情况下，我们采用了一个框架，每个细胞线性化的表格证据，从而使我们能够从表中的序列处理证据。我们用于线性化表的模板捕获上下文以及表数据的内容。我们还提供了一个案例研究，以显示我们的方法的可解释性。我们性能最好的系统在盲态测试数据上实现了0.23的FEVEROUS评分和53%的标签准确度。
2021-09-25 cs.CL
Attention based Sentence Extraction from Scientific Articles using Pseudo-Labeled data
DA-IICT
在这项工作中，我们提出了一个弱监督的句子提取技术，以确定重要的句子在科学论文中，是值得列入摘要。我们提出了一种新的基于注意力的深度学习架构，该架构联合学习以识别重要内容，以及指示值得总结的句子的提示短语。我们提出了一种新的上下文嵌入技术，用于使用主题模型确定给定论文的焦点，并将其与基于LSTM的序列编码器联合使用，以学习句子单词的注意力权重。我们使用ACL anthology公开提供的文章集合进行实验。我们的系统实现了更好的性能，在几个ROUGE指标方面，相比几个国家的最先进的提取技术。它还生成了更连贯的摘要，并保留了文件的整体结构。
2018-02-13 cs.AI cs.CL cs.IR
YAYI-UIE: A Chat-Enhanced Instruction Tuning Framework for Universal Information Extraction
Beijing Wenge Technology Co., Ltd.（北京文格科技有限公司）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
本文提出YAYI-UIE框架，通过对话增强指令微调联合利用对话与信息抽取数据，在中文数据集上取得最优性能，并在英文数据集上表现可比。
2024-04-02 cs.AI cs.CL
Jointly Modeling Aspect and Sentiment with Dynamic Heterogeneous Graph Neural Networks
Peking University（北京大学）
基于目标的情感分析旨在检测对它们的意见方面（方面提取）和情感极性（情感检测）。以前的管道和集成方法都未能精确地模拟这两个目标之间的内在联系。在本文中，我们提出了一种新的动态异构图联合建模的两个目标在一个明确的方式。将普通词和情感标签作为异构图中的节点，使得方面词可以与情感信息交互。该图使用多种类型的依赖关系进行初始化，并在实时预测期间动态修改。在基准数据集上的实验表明，我们的模型优于最先进的模型。进一步的分析表明，我们的模型获得了显着的性能增益的挑战性的情况下，多意见方面和无意见方面的情况。
2020-04-14 cs.CL cs.LG
