A Survey of Document-Level Information Extraction
Virginia Tech（弗吉尼亚理工大学）
本文系统综述了文档级信息抽取研究，并通过错误分析指出标注噪声、实体共指消解和推理不足是主要瓶颈，为后续性能提升提供指导。
2023-09-23 cs.CL
Hierarchical RNN for Information Extraction from Lawsuit Documents
Jurtech（律典科技）；Maurer School of Law, Indiana University Bloomington（印第安纳大学伯明顿分校莫勒法学院）
每一份诉讼文书都包含着当事人的诉讼请求、法院的分析、判决等信息，这些信息有助于更好地理解案件，并预测法官将来对类似案件的判决。然而，从文件中提取这些信息是困难的，因为语言太复杂，句子长度各不相同。我们把这个问题作为一个序列标记的任务，本文提出了在中国的第一个研究，以提取相关信息的民事诉讼文件的层次RNN框架。
2018-04-25 cs.CL
A Masked Image Reconstruction Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取相比，文档级关系抽取需要对多个句子进行推理，以抽取复杂的关系三元组。以往的研究一般都是通过提及级或实体级文档图上的信息传播来完成推理，而不考虑关系之间的相关性。在本文中，我们提出了一种新的文档级关系抽取模型的基础上掩蔽图像重建网络（DRE-MIR），模型推理作为一个掩蔽的图像重建问题，捕捉关系之间的相关性。具体地说，我们首先利用编码器模块来获取实体的特征，并根据这些特征构造实体对矩阵。之后，我们将实体对矩阵视为图像，然后随机屏蔽它并通过推理模块恢复它，以捕获关系之间的相关性。我们评估我们的模型上的三个公共文档级关系抽取数据集，即DocRED，CDR和GDA。实验结果表明，我们的模型在这三个数据集上都达到了最先进的性能，并且在推理过程中对噪声具有很好的鲁棒性。
2022-08-04 cs.CL
GLiDRE: Generalist Lightweight model for Document-level Relation Extraction
Université Paris-Saclay, CEA, List（巴黎-萨克雷大学、CEA、List）
本文提出GLiDRE，一种紧凑的文档级关系抽取模型，在低资源和少样本场景下超越现有方法，确立新的最先进水平。
2025-10-07 cs.CL
KIEval: Evaluation Metric for Document Key Information Extraction
Upstage AI（上智AI）
本文提出KIEval，一种以应用为中心的文档关键信息提取评估指标，不仅评估实体提取，还评估分组结构化信息，更贴合工业应用需求，有望成为标准评估指标。
2025-03-26 cs.CL
Dynamic Global Memory for Document-level Argument Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
从新闻文章中提取事件的信息论元是信息抽取中一个具有挑战性的问题，它要求对每个文档有全局的上下文理解。虽然最近关于文档级提取的工作已经超越了单句，并增加了端到端模型的跨句推理能力，但它们仍然受到某些输入序列长度约束的限制，并且通常忽略事件之间的全局上下文。为了解决这个问题，我们引入了一个新的基于全局神经生成的框架，用于文档级事件参数提取，方法是构建一个文档内存存储来记录上下文事件信息，并利用它来隐式和显式地帮助解码后续事件的参数。实验结果表明，我们的框架大大优于以前的方法，它是更强大的对抗注释的例子与我们的约束解码设计。(Our代码和资源可在https://github.com/xinyadu/memory_docie上获得，以供研究之用。）
2022-09-18 cs.CL
Document-Level Event Argument Extraction by Conditional Generation
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在IE社区中，事件提取一直被视为一项高级任务。我们认为，这种设置不符合人类的信息寻求行为，并导致不完整和无信息提取结果。我们提出了一个文件级神经事件参数提取模型，制定的任务作为条件生成事件模板。我们还编译了一个新的文档级事件提取基准数据集WikiEvents，其中包括完整的事件和共指注释。在参数提取的任务中，我们分别在RAMS和WikiEvents数据集上实现了7.6%F1和5.7%F1的绝对增益。在更具挑战性的任务，信息参数提取，这需要隐式共指推理，我们实现了9.3%的F1增益超过最佳基线。为了证明我们的模型的可移植性，我们还创建了第一个端到端的zero-shot事件提取框架，并实现了97%的完全监督模型的触发器提取性能和82%的参数提取性能，仅访问ACE上的33种类型中的10种。
2021-04-13 cs.CL
EA$^2$E: Improving Consistency with Event Awareness for Document-Level Argument Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
事件在文档中是相互关联的。受单义话语理论的启发，我们假设参与者倾向于在同一文档中的多个事件中扮演一致的角色。然而，最近的工作文档级事件参数提取模型的每个单独的事件隔离，因此导致提取的参数之间的不一致性，跨事件，这将进一步导致下游应用程序，如事件知识库人口，问答，和假设生成的差异。在这项工作中，我们制定了事件参数一致性的文件级设置下的事件-事件关系的约束。为了提高一致性，我们引入了事件感知的参数提取（EA $^2$ E）模型与增强的上下文进行训练和推理。在WIKIEVENTS和ACE 2005数据集上的实验结果表明，与基线方法相比，EA $^2$ E方法是有效的.
2022-05-30 cs.CL
Relation-Specific Attentions over Entity Mentions for Enhanced Document-Level Relation Extraction
Fudan University（复旦大学）
与传统的文档级关系抽取相比，文档级关系抽取是一个更具挑战性的任务，因为文档中的实体可能被多次提及并与多个关系相关联。然而，大多数文档级关系抽取方法并不区分提及级特征和实体级特征，而只是简单地将提及级特征聚合成实体级特征。因此，忽略了实体的不同提及之间的不同语义。为了解决这个问题，我们提出了RSMAN在本文中执行选择性注意不同的实体提到相对于候选人的关系。通过这种方式，获得了实体的灵活和关系特定的表示，这确实有利于关系分类。我们在两个基准数据集上进行的大量实验表明，我们的RSMAN可以为一些骨干模型带来显着的改进，以实现最先进的性能，特别是当一个实体在文档中有多个提及时。
2022-05-28 cs.CL
SLIDE: Sliding Localized Information for Document Extraction
University of Florida（佛罗里达大学）
针对长文本和低资源语言下LLM上下文受限导致知识图谱构建效果差的问题，提出基于重叠窗口的分块方法SLIDE，可保留关键上下文，显著提升多语言场景下的实体、关系抽取及问答性能。
2025-03-23 cs.CL
Neurosymbolic Information Extraction from Transactional Documents
La Rochelle University（拉罗谢尔大学）；Shift Technology
本文提出了一种神经符号框架，通过结合符号验证方法提升交易文件信息提取的准确性和效率。
2025-12-10 cs.CL
Iterative Document-level Information Extraction via Imitation Learning
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Rochester（罗切斯特大学）；Microsoft Semantic Machines（微软语义机器公司）
本研究提出基于模仿学习的迭代式文档级信息抽取模型IterX，将模板抽取任务建模为MDP，无需预定义模板顺序训练，在多个基准任务上取得SOTA或强劲基线结果。
2023-05-01 cs.CL
Denoising Relation Extraction from Document-level Distant Supervision
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Tencent（腾讯）
远程监控技术被广泛应用于数据库级关系抽取的自动标注，提高了关系抽取的性能。然而，现有的成功DS不能直接转移到更具挑战性的文档级关系抽取（DocRE），因为固有的噪声在DS中可能会在文档级甚至成倍增加，并显着损害RE的性能。为了应对这一挑战，我们提出了一种新的DocRE预训练模型，该模型通过多个预训练任务对文档级DS数据进行降噪。在大规模DocRE基准测试上的实验结果表明，该模型能够从噪声DS数据中捕获有用的信息，并取得了令人满意的结果。
2020-11-08 cs.CL
Writing Style Aware Document-level Event Extraction
Central University of Finance and Economics（中央财经大学）
事件抽取技术是一种旨在从文档中自动提取结构化信息的技术，在各个领域受到了越来越多的关注。现有的大多数工作讨论了这个问题的令牌级多标签分类框架区分令牌作为不同的角色，而忽略了文档的写作风格。写作风格是文档内容组织的一种特殊方式，在具有特定领域的文档（如金融、医疗文档等）中，写作风格是相对固定的。我们认为，写作风格包含了重要的线索，判断令牌的作用和忽视这些模式可能会导致现有的作品的性能下降。为此，我们将文档中的写作风格建模为参数角色的分布，即，角色等级分布的事件抽取模型，并提出了一种基于角色等级分布的监督机制，通过事件抽取任务的监督训练过程来捕捉这种模式。我们将我们的模型与几个真实世界数据集上的最先进方法进行了比较。实证结果表明，我们的方法优于其他替代方案与捕获的模式。这验证了书写风格包含有价值的信息，可以提高事件提取任务的性能。
2022-01-10 cs.CL
Enhancing Document-level Relation Extraction by Entity Knowledge Injection
Nanjing University（南京大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
文档级关系抽取（RE）的目的是识别贯穿整个文档的实体之间的关系。它需要复杂的推理技巧来综合各种知识，如共指和常识。大规模的知识图谱包含了大量的真实世界事实，可以为文档级RE提供有价值的知识。在本文中，我们提出了一个实体知识注入框架，以加强目前的文档级RE模型。具体来说，我们引入共指提取注入共指知识，赋予RE模型更一般的共指推理能力。我们还采用表示和解注入事实知识和聚合KG表示和文档表示到一个统一的空间。在两个基准数据集上的实验验证了我们的实体知识注入框架的通用性和对几个文档级RE模型的一致性改进。
2022-07-23 cs.CL
Document-level Entity-based Extraction as Template Generation
Information Sciences Institute, University of Southern California（南加州大学信息科学研究所）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
文档级基于实体的抽取（EE）旨在抽取以实体为中心的信息，如实体角色和实体关系，是从不同领域的文本语料库中自动获取知识获取的关键。大多数文档级EE系统构建提取模型，这些模型难以在文档级对实体之间的长期依赖关系进行建模。为了解决这个问题，我们提出了两个文档级EE任务：角色填充实体提取（REE）和关系抽取（RE）的生成框架。我们首先将它们制定为模板生成问题，允许模型有效地捕获跨实体依赖关系，利用标签语义，并避免识别N元关系的指数计算复杂性。一种新的交叉注意引导复制机制，TopK复制，被纳入一个预先训练的序列到序列模型，以提高识别输入文档中的关键信息的能力。在MUC-4和SciREX数据集上进行的实验显示了F1评分中REE（+3.26%），二元RE（+4.8%）和4元RE（+2.7%）的最新结果。
2021-09-10 cs.CL
From Bag of Sentences to Document: Distantly Supervised Relation Extraction via Machine Reading Comprehension
University of Chinese Academy of Sciences（中国科学院大学）；Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
远程监督是一种很有前途的关系抽取方法，但经常受到噪声标签问题的困扰。传统的DS方法通常将实体对表示为一组句子，并使用多示例学习技术对标签进行去噪。然而，基于袋的范例，未能利用句间级和实体级的证据关系抽取，其去噪算法往往是专门的和复杂的。在本文中，我们提出了一个新的DS范式-基于文档的远程监督，模型关系抽取作为一个基于文档的机器阅读理解（MRC）的任务。通过将关于实体的所有句子重新组织为文档，并通过使用关系特定问题查询文档来提取关系，基于文档的DS范式可以同时编码和利用所有句子级、句间级和实体级证据。设计了一种新的损失函数DSLoss（distantsupervisoryloss），该函数仅使用$\langle$文档、问题、答案$\rangle$元组就能有效地训练MRC模型，从而从本质上解决了噪声标签问题。实验表明，我们的方法实现了新的国家的最先进的DS性能。
2020-12-09 cs.CL
Key Information Extraction From Documents: Evaluation And Generator
Maastricht University（马斯特里赫特大学）；KI Group GmbH（KI集团有限公司）
从文档中提取信息通常依赖于处理一维文本序列的自然语言处理方法。在某些情况下，例如，为了从半结构化文档（诸如发票文档）中提取关键信息，文本的空间和格式信息对于理解上下文含义是至关重要的。卷积神经网络在计算机视觉模型中已经很常见，用于处理和提取多维数据中的关系。因此，自然语言处理模型在过去已经与计算机视觉模型相结合，以受益于例如位置信息并提高这些关键信息抽取模型的性能。现有的模型要么是在未公布的数据集上训练的，要么是在附有注释的收据集上训练的，这些收据集并不侧重于类似PDF的文件。因此，在这个研究项目中，创建了一个基于模板的文档生成器来比较信息抽取的最新模型。现有的信息抽取模型“Chargrid”（Katti等人，2019）进行了重建，并评估了限界框回归解码器的影响以及NLP预处理步骤对从文档中提取信息抽取的影响。结果表明，基于NLP的预处理有利于模型的性能。然而，限界框回归解码器的使用仅对于不遵循矩形形状的场增加模型性能。
2021-06-09 cs.CL
CED: Catalog Extraction from Documents
Soochow University（苏州大学）；Huawei Cloud（华为云）
针对多源异构文档目录提取难的问题，研究构建了首个CED任务大型人工标注语料库，提出基于转移的目录树解析框架，性能优于基线且迁移性好，可填补长文档信息提取相关空白。
2023-04-28 cs.CL
NC-DRE: Leveraging Non-entity Clue Information for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取（RE）需要对不同句子中的多个实体进行推理以识别复杂的句子间关系，这比文档级RE更具挑战性。为了提取复杂的句间关系，以往的研究通常采用图神经网络（GNN）对异构文档图进行推理。尽管这些基于图的方法取得了巨大的成功，但它们在构建图和推理的过程中通常只考虑提及中的词，往往忽略了提及中没有的但为关系推理提供重要线索信息的非实体线索词。为了缓解这个问题，我们将基于图的文档级RE模型视为编码器-解码器框架，该框架通常使用预训练的语言模型作为编码器，GNN模型作为解码器，并提出了一种新的基于图的模型NC-DRE，该模型引入解码器到编码器的注意力机制，以利用非实体线索信息进行文档级关系抽取。
2022-04-01 cs.CL
RAAT: Relation-Augmented Attention Transformer for Relation Modeling in Document-Level Event Extraction
Tencent Cloud（腾讯云）
在文档级事件抽取（DEE）任务中，事件论元通常分散在句子中（跨句子问题），多个事件可能位于一个文档中（多事件问题）。在本文中，我们认为，事件参数的关系信息是解决上述两个问题的重要意义，并提出了一个新的DEE框架，它可以建模的关系依赖，称为扩展文档级事件提取（ReDEE）。更具体地说，这个框架的特点是一个新的和定制的Transformer，命名为增强注意力的Transformer（RAAT）。RAAT是可扩展的，以捕获多尺度和多数量的参数关系。为了进一步利用关系信息，我们引入了一个单独的事件关系预测任务，并采用多任务学习方法来显式地提高事件提取性能。大量的实验表明，该方法的有效性，它可以实现最先进的性能在两个公共数据集。我们的代码可以在https：//github上找到。com/YoutuResearch/RAAT.
2022-06-07 cs.CL
Entity-centered Cross-document Relation Extraction
Wuhan University（武汉大学）；National University of Singapore（新加坡国立大学）
关系抽取（RE）是信息抽取的一项基础性工作，引起了人们的广泛关注。以往的研究主要集中在句子或文档内部的关系抽取，而目前研究者开始探索跨文档的关系抽取。然而，目前的跨文档RE方法直接利用多个给定文档中目标实体周围的文本片段，这带来了相当大的噪声和不相关的句子。此外，他们利用所有的文本路径在一个文档包中的粗粒度的方式，而不考虑这些文本路径之间的连接。在本文中，我们的目标是解决这两个不足，推动国家的最先进的跨文档RE。首先，我们专注于我们的RE模型的输入建设，并提出了一个基于实体的文档上下文过滤器，保留有用的信息，在给定的文档中使用的桥梁实体的文本路径。其次，提出了一种基于跨路径实体关系注意力的跨文档RE模型，该模型允许跨文本路径的实体关系之间进行交互。我们将我们的跨文档RE方法与数据集CodRED中最先进的方法进行了比较。我们的方法在F1中至少比它们高出10%，从而证明了其有效性。
2022-10-29 cs.CL
Discriminative Reasoning for Document-level Relation Extraction
Harbin Institute of Technology（哈尔滨工业大学）；National Institute of Information and Communications Technology（信息通信技术研究所）
文档级关系抽取（DocRE）模型通常使用图网络来隐式地对推理技能（即，模式识别、逻辑推理、共指推理等）与文档中一个实体对之间的关系相关。在本文中，我们提出了一种新的判别式推理框架，明确建模的路径，这些推理技能之间的每个实体对在本文件中。因此，一个判别推理网络的设计，以估计不同的推理路径的关系概率分布的基础上构建的图和矢量化的文档上下文为每个实体对，从而识别它们的关系。实验结果表明，我们的方法优于以前的国家的最先进的性能上的大规模DocRE数据集。该代码可在https://github.com/xwjim/DRN上公开获取。
2021-06-03 cs.CL
Few-Shot Document-Level Event Argument Extraction
University of California, Santa Barbara（加州大学圣巴巴拉分校）
本文提出少样本文档级事件论元抽取基准 FewDocAE，通过 N-Way-D-Doc 采样重构语料并调整现有文档级模型建立基线，揭示该任务在低资源场景下的挑战性。
2023-05-25 cs.CL
GRIT: Generative Role-filler Transformers for Document-level Event Entity Extraction
Cornell University（康奈尔大学）
我们重新审视经典的问题，文档级的角色填充实体提取（REE）模板填充。我们认为，文本级的方法是不适合的任务，并引入了一个生成的基于转换器的编码器-解码器框架（GRIT），其目的是在文档级的上下文建模：它可以跨句子边界提取决策，是隐含地知道名词短语的共指结构，并有能力尊重模板结构中的跨角色依赖关系。我们在MUC-4数据集上评估了我们的方法，并表明我们的模型比以前的工作表现得更好。我们还表明，我们的建模选择有助于模型性能，例如，通过隐式地捕获语言知识，例如识别共指实体提及。
2021-01-28 cs.CL
Probing Representations for Document-level Event Extraction
Cornell University（康奈尔大学）；University of Texas at Dallas（德克萨斯大学达拉斯分校）
本文首次将探查范式应用于文档级信息抽取，设计了八个嵌入探针分析三种基于LLM的IE方法在标准数据集上的表示，发现训练好的编码器能适度改善论元检测和标注，但在事件级任务、连贯性及跨句子语篇处理上仍面临困难。
2023-10-23 cs.CL
Information Extraction in Domain and Generic Documents: Findings from Heuristic-based and Data-driven Approaches
Stevens Institute of Technology（史蒂文斯理工学院）
本研究探讨了文档体裁和长度对启发式与数据驱动信息抽取方法的影响，发现在NER和SRL任务中无单一方法占绝对优势，数据驱动方法在短文本NER上表现更佳，而结合句法表示的方法在SRL上更优。
2023-06-30 cs.CL
Are Triggers Needed for Document-Level Event Extraction?
Cornell University（康奈尔大学）
本文首次探讨触发词在文档级事件抽取中的作用，发现系统是否受益于显式抽取触发词取决于数据集特征和任务特定信息，且触发词的存在对基于提示的上下文学习至关重要。
2025-06-26 cs.CL
A Densely Connected Criss-Cross Attention Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取（RE）旨在识别给定文档中两个实体之间的关系。与文档级RE相比，文档级RE需要复杂的推理。以往的研究通常通过在文档图的提及层或实体层上进行信息传播来完成推理，而很少考虑到实体对层上的推理，本文提出了一种新的文档级RE模型--密集连接交叉注意网络（Densely Connected Criss-Cross Attention Network，Dense-CCNet），该模型能够在实体对层上完成逻辑推理。具体而言，Dense-CCNet通过交叉注意（CCA）进行实体对级别的逻辑推理，可以在实体对矩阵上收集水平和垂直方向的上下文信息，以增强相应的实体对表示。此外，我们密集地连接CCA的多个层，以同时捕获单跳和多跳逻辑推理的特征。我们在三个公共文档级RE数据集DocRED，CDR和GDA上评估了我们的Dense-CCNet模型。实验结果表明，我们的模型在这三个数据集上达到了最先进的性能。
2022-03-26 cs.CL
Three Sentences Are All You Need: Local Path Enhanced Document Relation Extraction
Peking University（北京大学）；Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；The MOE Key Laboratory of Computational Linguistics, Peking University（北京大学计算语言学教育部重点实验室）
文档级关系抽取（RE）是一个比句子RE更具挑战性的任务，因为它通常需要对多个句子进行推理。然而，人类注释者通常使用少量的句子来识别给定实体对之间的关系。在本文中，我们提出了一种非常简单但有效的方法来为文档级RE选择证据语句，该方法可以很容易地与BiLSTM结合，在基准数据集上实现良好的性能，甚至优于基于花哨的图神经网络的方法。我们已经在https://github.com/AndrewZhe/Three-Sentences-Are-All-You-Need上发布了我们的代码。
2021-06-03 cs.CL
A Comprehensive Survey of Document-level Relation Extraction (2016-2023)
Univ. La Rochelle（拉罗谢尔大学）；L3i（L3i实验室）
本文综述了2016至2023年间文档级关系抽取（DocRE）的最新进展，强调其跨句识别实体关系的挑战，并对比句子级方法，展示其在自动构建知识库中的应用价值。
2023-10-12 cs.CL
DOREMI: Optimizing Long Tail Predictions in Document-Level Relation Extraction
Department of Information Engineering（信息工程系）；University of Padova（帕多瓦大学）
DOREMI通过针对性手动标注优化文档级关系抽取中的长尾预测问题，提升对稀有关系的泛化能力。
2026-01-16 cs.CL
PEneo: Unifying Line Extraction, Line Grouping, and Entity Linking for End-to-end Document Pair Extraction
South China University of Technology（华南理工大学）；Kingsoft Office（金山办公）
本文提出统一框架PEneo，通过行提取、行分组和实体链接三个并发子任务实现端到端文档对提取，缓解错误传播并处理多行实体，在多个基准上结合不同骨干网络大幅提升F1性能。
2024-11-17 cs.CL
CorefDRE: Document-level Relation Extraction with coreference resolution
Chongqing University（重庆大学）
文档级关系抽取是从由多个句子组成的文档中抽取关系事实，其中代词跨句是一种普遍存在的现象。然而，以往的研究大多集中在代词之外的提述共指消解，而很少关注提述-代词共指及其关系的把握。为了用代词表示多句子特征，我们模仿人类的阅读过程，利用共指信息动态构建异构图来增强语义信息。由于代词在图中的歧义性，引入了一种代词-代词共指消解方法来计算代词与对应提及之间的相似度，并提出了噪声抑制机制来降低代词引起的噪声.在公共数据集DocRED、DialogRE和MPDD上的实验表明，基于图推理网络的文档级关系抽取的核心感知性能优于现有技术。
2022-02-22 cs.CL
Automatic Error Analysis for Document-level Information Extraction
Cornell University（康奈尔大学）
文档级信息抽取（IE）任务最近开始重新认真使用端到端神经网络技术，已经成功地在他们的文档级IE同行。然而，对这些办法的评价在若干方面受到限制。特别是，通常报告的精确度/召回率/F1分数很少提供关于模型错误范围的见解。我们建立在Kummerfeld和Klein（2013）的工作基础上，提出了一个基于转换的框架，用于自动化文档级事件和（N-ary）关系抽取中的错误分析。我们使用我们的框架来比较两种最先进的文档级模板填充方法对来自三个领域的数据集;然后，衡量IE自30年前成立以来的进展，与MUC-4（1992）评估的四个系统相比。
2022-09-15 cs.CL
Document-Level Relation Extraction with Sentences Importance Estimation and Focusing
Harbin Institute of Technology（哈尔滨工业大学）；University of Alberta（阿尔伯塔大学）
文档级关系抽取（DocRE）的目的是从多个句子的文档中确定两个实体之间的关系。最近的研究通常表示整个文档的序列或基于图的模型来预测所有实体对的关系。然而，我们发现，这样的模型是不健壮的，并表现出奇怪的行为：它正确地预测时，整个测试文件作为输入，但错误时，非证据句子被删除。为此，我们提出了一个句子重要性估计和聚焦（SIEF）框架DocRE，我们设计了一个句子重要性分数和句子聚焦损失，鼓励DocRE模型专注于证据句子。两个领域的实验结果表明，我们的SIEF不仅提高了整体性能，但也使DocRE模型更强大。此外，SIEF是一个通用框架，当与各种基本DocRE模型结合时，它被证明是有效的。
2022-04-27 cs.CL
Information Extraction from Documents: Question Answering vs Token Classification in real-world setups
BNP Paribas（法国巴黎银行）
本文系统比较 DocKIE 中的问答与令牌分类方法，通过五类实验表明前者更适合噪声和长实体场景，后者在干净短实体上表现更优。
2023-04-21 cs.CL
Kleister: A novel task for Information Extraction involving Long Documents with Complex Layout
Adam Mickiewicz University（亚当·密茨凯维奇大学）；Nicolaus Copernicus University（尼古拉·哥白尼大学）；Warsaw University of Technology（华沙理工大学）；Samsung R&D Institute Poland（三星波兰研发研究所）
最先进的自然语言处理（NLP）解决方案能够捕获广泛的上下文，例如短文档的文档级上下文或文档级上下文。但是，当涉及到更长的、真实世界的文档时，这些解决方案仍然在努力，这些文档的信息编码在文档的空间结构中，例如表格、表单、页眉、开头或页脚等页面元素;复杂的页面布局或多个页面的存在。为了鼓励更深入和更复杂的信息抽取（IE）的进展，我们引入了一个新的任务（名为Kleister）与两个新的数据集。利用文本和结构布局功能，NLP系统必须在长的正式文档中找到关于各种类型实体的最重要的信息。我们提出管道方法作为一个纯文本的基线与不同的命名实体识别架构（Flair，BERT，RoBERTa）。此外，我们检查了最流行的PDF文本提取处理工具（pdf 2djvu，Tesseract和Texextract），以分析IE系统在这些工具引入错误时的行为。
2020-03-06 cs.CL
BuDDIE: A Business Document Dataset for Multi-task Information Extraction
J.P. Morgan AI Research（摩根大通人工智能研究院）
本文提出首个包含1665份真实商业文档的多任务数据集BuDDIE，为文档分类、关键实体抽取和视觉问答提供密集标注，并构建了覆盖文本、多模态和大语言模型的基线方法。
2024-04-05 cs.CL
Reasoning with Latent Structure Refinement for Document-Level Relation Extraction
Singapore University of Technology and Design（新加坡科技设计大学）；Università della Svizzera italiana（提契诺大学）
文档级关系抽取需要在文档的多个句子中整合信息，并捕获句子间实体之间的复杂交互。然而，有效地汇总文件中的相关信息仍然是一个具有挑战性的研究问题。现有的方法构造静态文档级图的基础上的语法树，共引用或从非结构化文本的依赖建模。与以前的方法，可能无法捕获丰富的非本地的相互作用进行推理，我们提出了一种新的模型，通过自动诱导潜在的文档级图，使跨句子的关系推理。我们进一步开发了一个细化策略，使模型能够增量聚合多跳推理的相关信息。具体来说，我们的模型在大规模文档级数据集（DocRED）上获得了59.05的F1分数，比以前的结果有了显著改善，并且在CDR和GDA数据集上也产生了新的最先进的结果。此外，大量的分析表明，该模型能够发现更准确的句间关系。
2020-07-28 cs.CL
Connecting the Dots: Document-level Neural Relation Extraction with Edge-oriented Graphs
National Centre for Text Mining（国家文本挖掘中心）；The University of Manchester（曼彻斯特大学）；Toyota Technological Institute（丰田工业大学）；Artificial Intelligence Research Center (AIRC), National Institute of Advanced Industrial Science and Technology (AIST)（人工智能研究中心（AIRC），产业技术综合研究所（AIST））
文档级关系抽取是一个复杂的人工过程，需要逻辑推理来抽取文本中命名实体之间的关系。现有的方法使用基于图的神经模型，将单词作为节点，将边作为它们之间的关系，来编码句子之间的关系。这些模型是基于节点的，即，它们仅基于两个目标节点表示来形成成对表示。然而，实体关系可以通过形成为节点之间的路径的唯一边表示来更好地表达。因此，我们提出了一个面向边的图神经模型的文档级关系抽取。该模型利用不同类型的节点和边来创建文档级图。图边缘上的推理机制使得能够在内部使用多实例学习来学习句内和句间关系。两个文档级的生物医学数据集的化学疾病和基因疾病协会的实验表明，所提出的面向边缘的方法的实用性。
2019-08-31 cs.CL
CDER: Collaborative Evidence Retrieval for Document-level Relation Extraction
School of Electrical Engineering and Computer Science, The University of Queensland（昆士兰大学电气工程与计算机科学学院）
本文提出CDER框架，通过基于注意力图的架构捕捉语义相似实体对间的协同模式，并引入动态子结构增强鲁棒性，从而提升文档级关系抽取中证据检索及整体系统性能。
2025-04-09 cs.CL
Document-Level Relation Extraction with Adaptive Thresholding and Localized Context Pooling
JD AI Research（京东人工智能研究院）
文档级关系抽取（RE）提出了新的挑战相比，它的文档级对应。一个文档通常包含多个实体对，并且一个实体对在与多个可能关系相关联的文档中出现多次。在本文中，我们提出了两个新的技术，自适应阈值和本地上下文池，以解决多标签和多实体的问题。自适应阈值代替全局阈值的多标签分类在以前的工作与一个可学习的实体相关的阈值。本地化上下文池直接将注意力从预训练的语言模型转移到定位对决定关系有用的相关上下文。我们在三个文档级RE基准数据集上进行了实验：DocRED，最近发布的大规模RE数据集，以及生物医学领域的两个数据集CDR和GDA。我们的ATLOP（自适应存储和本地化cOntext Pooling）模型的F1得分为63.4，并且在CDR和GDA上也显著优于现有模型。
2020-12-09 cs.CL
Consistent Document-Level Relation Extraction via Counterfactuals
Center for Information and Language Processing, LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning（慕尼黑机器学习中心）
本文提出CovEReD反事实数据生成方法，通过实体替换解决文档级关系抽取模型的事实偏差和不一致性问题，同时发布Re-DocRED-CF数据集以评估模型一致性。
2024-10-15 cs.CL
Cost-effective End-to-end Information Extraction for Semi-structured Document Images
LBox；KAIST（韩国科学技术院）；Clova, NAVER（NAVER Clova）
现实世界的半结构化文档图像信息抽取（IE）系统通常涉及多个模块的长管道，其复杂性大大增加了其开发和维护成本。相反，可以考虑端到端模型，直接将输入映射到目标输出并简化整个过程。然而，这种生成方法是已知的，如果不仔细设计，会导致不稳定的性能。在这里，我们介绍了我们最近的努力，从我们现有的基于管道的IE系统过渡到一个端到端的系统，重点是在实际的大规模生产中更换和部署系统相关的实际挑战。通过仔细制定文件IE作为一个序列生成任务，我们表明，一个单一的端到端的IE系统可以建立，仍然达到称职的性能。
2021-08-30 cs.CL
Clinical Concept Extraction for Document-Level Coding
Georgia Institute of Technology（佐治亚理工学院）；Google Inc（谷歌公司）；Sutter Health（萨特医疗中心）
临床笔记的文本可以是患者信息和临床评估的有价值的来源。从历史上看，利用临床笔记的主要方法是信息抽取：将文本的跨度链接到详细领域本体中的概念。然而，最近的工作已经证明了监督机器学习直接从临床笔记的原始文本中提取文档级代码的潜力。我们建议用两种新的合成方法来弥合这两种方法之间的差距：（1）将提取的概念视为特征，用于补充或替换笔记的文本;（2）将提取的概念视为标签，用于学习更好的文本表示。不幸的是，由此产生的概念并没有在文档级临床编码任务上产生性能增益。我们探讨了可能的解释和未来的研究方向。
2019-06-08 cs.CL
GMN: Generative Multi-modal Network for Practical Document Information Extraction
Tencent YouTu Lab（腾讯优图实验室）；University of Science and Technology of China（中国科学技术大学）
文档信息抽取（DIE）由于其在现实世界中的各种高级应用而受到越来越多的关注。虽然最近的文献已经取得了有竞争力的结果，这些方法通常失败时，处理复杂的文件与嘈杂的OCR结果或可变的布局。本文提出了生成多模态网络（GMN）的现实世界的场景，以解决这些问题，这是一个强大的多模态生成方法没有预定义的标签类别。通过精心设计的空间编码器和模式感知掩码模块，GMN可以处理难以序列化的复杂文档。此外，GMN容忍OCR结果中的错误，并且不需要字符级注释，这是至关重要的，因为许多文档的细粒度注释是费力的，甚至需要具有专业领域知识的注释者。大量的实验表明，GMN在几个公开的DIE数据集上实现了新的最先进的性能，并在很大程度上超过了其他方法，特别是在现实场景中。
2022-07-11 cs.CL
DocRED: A Large-Scale Document-Level Relation Extraction Dataset
Tsinghua University（清华大学）；Tencent Inc.（腾讯公司）
文档中的多个实体通常表现出复杂的句间关系，并且不能被现有的关系抽取（RE）方法很好地处理，现有的RE方法通常集中于为单个实体对提取句内关系。为了加速文档级RE的研究，本文引入了一个基于Wikipedia和Wikidata构建的新数据集DocRED，它具有以下三个特点：（1）DocRED同时标注命名实体和关系，是目前最大的人工标注的纯文本文档级RE数据集;（2）DocRED需要阅读文档中的多个句子，通过综合文档的所有信息来提取实体并推断它们的关系;（3）除了人工标注的数据，我们还提供了大规模的远程监督数据，这使得DocRED可以用于监督和弱监督场景。为了验证文档级RE的挑战，我们实现了最近的国家的最先进的RE方法，并对DocRED这些方法进行了彻底的评估。实证结果表明，DocRED是现有的RE方法的挑战，这表明，文档级RE仍然是一个开放的问题，需要进一步的努力。在对实验结果进行详细分析的基础上，我们讨论了未来研究的多个有前途的方向。
2019-08-09 cs.CL
Not Just Plain Text! Fuel Document-Level Relation Extraction with Explicit Syntax Refinement and Subsentence Modeling
Tsinghua University（清华大学）；Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）
文档级关系抽取（DocRE）旨在识别单个文档中实体之间的语义标签。DocRE的一个主要挑战是从长文本中挖掘关于特定实体对的决定性细节。然而，在许多情况下，即使在手动标记的支持证据中，也只有一小部分文本携带所需的信息。为了更好地捕捉和利用有指导意义的信息，我们提出了一种新的显式syntAx细化和子句mOdeliNg为基础的框架（LARSON）。通过引入额外的句法信息，LARSON可以对任意粒度的子句进行建模，并有效地筛选出有指导意义的子句。此外，我们将精炼的语法到文本表示，进一步提高了性能的LARSON。在三个基准数据集（DocRED，CDR和GDA）上的实验结果表明，LARSON显著优于现有方法。
2023-02-13 cs.CL
Knowledge Augmented Entity and Relation Extraction for Legal Documents with Hypergraph Neural Network
School of Economics and Management（经济管理学院）；Dalian University of Technology（大连理工大学）
本文提出基于超图神经网络的法律文档实体与关系抽取方法，通过整合领域知识和多头注意力机制，提升司法领域文本处理性能。
2026-02-09 cs.CL
DREEAM: Guiding Attention with Evidence for Improving Document-Level Relation Extraction
Tokyo Institute of Technology（东京工业大学）
文档级关系抽取（DocRE）是识别文档中每个实体对之间所有关系的任务。证据被定义为包含实体对之间关系的线索的句子，已被证明可以帮助DocRE系统关注相关文本，从而改进关系抽取。然而，DocRE中的证据检索（ER）面临两个主要问题：高内存消耗和有限的注释可用性。这项工作的目的是解决这些问题，以提高ER在DocRE中的使用。首先，我们提出了DREEAM，一个内存效率的方法，采用证据信息作为监督信号，从而指导注意力模块的DocRE系统分配高权重的证据。其次，我们提出了一个自我训练策略的梦想，学习ER从自动生成的证据在海量数据没有证据注释。实验结果表明，我们的方法表现出最先进的性能在DocRED基准的DocRE和ER。据我们所知，DREEAM是第一种采用ER自我训练的方法。
2023-02-17 cs.CL
Anaphor Assisted Document-Level Relation Extraction
SKLSDE, Beihang University（北京航空航天大学软件开发环境国家重点实验室）；Zhongguancun Laboratory（中关村实验室）；School of Electrical Engineering and Computer Science, University of Ottawa（渥太华大学电气工程与计算机科学学院）
针对文档级关系抽取中回指信息被忽略和跨句实体交互粒度不足的问题，本文提出回指辅助框架，并在常用数据集上取得新的最优性能。
2023-10-28 cs.CL
Harvesting Events from Multiple Sources: Towards a Cross-Document Event Extraction Paradigm
School of Cyber Science and Engineering, Wuhan University（武汉大学网络科学与工程学院）
本文提出跨文档事件抽取（CDEE）任务，通过构建CLES数据集和五步流程基准，整合多文档事件信息以克服单文档局限性，实现约72%的F1分数。
2024-06-23 cs.AI cs.CL
Jointly Learning Span Extraction and Sequence Labeling for Information Extraction from Business Documents
CINNAMON AI；Hung Yen University of Technology and Education（兴安技术教育大学）
提出了一种新的商务文档信息抽取模型。与以往仅基于跨度提取或序列标记的研究不同，该模型兼顾了跨度提取和序列标记的优点。这种组合允许模型处理具有稀疏信息（少量提取信息）的长文档。该模型是端到端训练的，以统一的方式联合优化这两个任务。在英语和日语的四个商业数据集上的实验结果表明，该模型取得了令人满意的结果，并显着快于正常的跨度为基础的提取方法。代码也可用。
2022-05-26 cs.AI cs.CL
