PromptRE: Weakly-Supervised Document-Level Relation Extraction via Prompting-Based Data Programming
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Virginia Tech（弗吉尼亚理工大学）
PromptRE提出一种结合提示技术与数据编程的弱监督文档级关系抽取方法，利用标签分布和实体类型先验知识，在ReDocRED基准上优于基线，有效解决“无关系”问题。
2023-10-13 cs.CL cs.LG
A LayoutLMv3-Based Model for Enhanced Relation Extraction in Visually-Rich Documents
Ecole Polytechnique（巴黎综合理工学院）；BNP Paribas CIB（法国巴黎银行企业及投资银行部门）
针对视觉富文档中实体关系抽取研究不足的问题，提出基于LayoutLMv3的模型，无需特定预训练且参数更少，在FUNSD和CORD数据集上性能达当前最优，并通过消融实验验证了特征与建模选择的影响。
2024-04-16 cs.AI cs.CL cs.LG
Entity Relation Extraction as Dependency Parsing in Visually Rich Documents
Alibaba Group（阿里巴巴集团）；Vipshop (China) Co., Ltd.（唯品会（中国）有限公司）
先前关于从视觉丰富文档（VRD）中提取关键信息抽取的工作主要集中在标记每个限界框内的文本（即，语义实体），而两者之间的关系在很大程度上是未探索的。在本文中，我们适应流行的依存句法分析模型，biaffine分析器，这个实体关系抽取任务。与原有的识别词间依存关系的依存句法分析模型不同，我们用布局信息来识别词组间的依存关系。我们比较了不同的表示的语义实体，不同的VRD编码器，和不同的关系解码器。结果表明，我们提出的模型在FUNSD数据集上获得了65.96%的F1分数。在实际应用中，我们的模型已经应用于内部海关数据，在生产环境中实现了可靠的性能。
2021-10-19 cs.AI cs.CL cs.LG
Mention-centered Graph Neural Network for Document-level Relation Extraction
Computer School, Wuhan University（武汉大学计算机学院）；National University of Singapore（新加坡国立大学）
文档级关系抽取旨在发现整个文档中实体之间的关系。如何从文档中的不同句子中建立实体之间的依赖关系仍然是一个巨大的挑战。目前的方法要么利用语法树来构建文档级图，要么从不同的句子中聚合推理信息。在本文中，我们建立跨句子的依赖关系，推断句子间提到的成分关系。采用主动链接策略，在文档级图上通过提及卷积推理中间关系。我们进一步注意到NA实例的泛化问题，这是由不完整的注释和全连接的提及对恶化。提出了一种改进的排序损失算法来解决这个问题。实验表明，不同提及之间的联系对文档级关系抽取至关重要，它使模型能够抽取出更有意义的高层组合关系。
2021-03-15 cs.AI cs.CL
Joint Extraction of Events and Entities within a Document Context
Carnegie Mellon University（卡内基梅隆大学）
事件和实体密切相关;实体通常是事件的参与者或参与者，没有实体的事件是罕见的。对事件和实体的解释高度依赖于上下文。信息抽取中的现有工作通常将事件与实体分开建模，并在句子级别执行推理，忽略文档的其余部分。在本文中，我们提出了一种新的方法，模型之间的依赖关系的事件，实体和它们的关系的变量，并执行跨文档的这些变量的联合推理。目标是允许访问文档级上下文信息，并促进上下文感知预测。我们证明，我们的方法大大优于国家的最先进的事件提取方法，以及实体提取的强大基线。
2016-09-12 cs.AI cs.CL
x.ent: R Package for Entities and Relations Extraction based on Unsupervised Learning and Document Structure
INRA（法国国家农业研究院）；Université Paris-Est（巴黎东大学）；Vietnam National University of Agriculture（越南农业国立大学）
精确的关系抽取仍然是全文数据库处理的一个挑战。我们提出了一种基于共现分析的方法，在每个文档中，我们使用文档组织，以提高关系抽取的准确性。这种方法在一个名为\emph{x.ent}的R包中实现。提取的另一个方面依赖于将提取的关系用于专家终端用户的查询系统。使用了两个数据集。其中一个引起了流行病学专家对植物健康的兴趣。对于这个数据集的使用是专门通过农业信息新闻的植物病害探索。一个开放数据平台利用了从\emph{x.ent}导出的数据，并且是公开可用的。
2015-04-23 cs.AI cs.CL
LayoutXLM vs. GNN: An Empirical Evaluation of Relation Extraction for Documents
Naver Labs Europe（Naver欧洲实验室）
本文研究了文档中的关系抽取任务，通过基准测试两种不同的神经网络模型：多模态语言模型（LayoutXLM）和图神经网络：边缘卷积网络（ECN）。对于这个基准测试，我们使用XFUND数据集，与LayoutXLM一起发布。虽然这两种模型得出了相似的结果，但它们都表现出非常不同的特征。这就提出了如何在神经网络中集成各种模态的问题：通过额外的预训练（LayoutXLM）或级联方式（ECN）合并所有模态。最后，我们讨论了一些方法论问题，必须考虑新的数据集和任务定义领域的信息抽取复杂的文件。
2022-05-09 cs.AI cs.CL
Hybrid OCR-LLM Framework for Enterprise-Scale Document Information Extraction Under Copy-heavy Task
Ningbo Institute of Digital Twin（宁波数字孪生研究所）；Eastern Institute of Technology（东部技术研究所）
针对企业级复制繁重文档抽取的准确率与效率权衡挑战，提出结合OCR与LLM的混合框架，利用格式感知路由与基于表格的抽取策略，在身份文档上实现近满分F1及亚秒级延迟，性能提升54倍。
2025-10-11 cs.AI cs.CL
ROPE: Reading Order Equivariant Positional Encoding for Graph-based Document Information Extraction
Google Cloud AI（谷歌云人工智能）；McGill University（麦吉尔大学）；Google Research（谷歌研究院）
自然的单词阅读顺序是从表单文档中提取信息抽取的关键。尽管图卷积网络（GCN）在建模文档的空间布局模式方面取得了最新进展，但它们捕获图中给定单词级节点表示的阅读顺序的能力有限。我们提出了阅读顺序等变位置编码（ROPE），一种新的位置编码技术，旨在理解顺序呈现的话在文件中。ROPE生成唯一的阅读顺序代码的相邻单词相对于给定的单词级图形连接的目标单词。我们研究了两个基本的文档实体提取任务，包括单词标记和单词分组的公共FUNSD数据集和大规模支付数据集。我们表明，ROPE一贯改善现有的GCN与利润高达8.4%F1分数。
2021-06-21 cs.CL cs.LG
Document-level Relation Extraction with Cross-sentence Reasoning Graph
University of Electronic Science and Technology of China（电子科技大学）；TROY Information Technology Co., Ltd.（Troy信息技术有限公司）
关系抽取（RelationExtraction，RE）最近已经从文档级转移到文档级，这需要聚集文档信息并使用实体和提及进行推理。现有的工作将实体节点和提及节点以相似的方式表示在文档级图中，其复杂的边可能会产生冗余信息。此外，现有的研究只关注实体级的推理路径，没有考虑跨句实体间的全局交互。为此，我们提出了一种新的文档级RE模型与GRaph信息聚合和跨句子推理网络（GRACR）。具体而言，构建了简化的文档级图来描述文档中所有提及和句子的语义信息，并设计了实体级图来探索长距离跨句子实体对之间的关系。实验结果表明，GRACR在两个文档级RE公共数据集上取得了良好的性能。它在提取跨句子实体对的潜在关系时特别有效。我们的代码可在https://github.com/UESTC-LHF/GRACR上获得。
2023-03-07 cs.AI cs.CL cs.LG
Global-to-Local Neural Networks for Document-Level Relation Extraction
Nanjing University（南京大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）
关系抽取的目的是识别文本中命名实体之间的语义关系。近年来，它已经上升到文档级别，这需要在整个文档中对实体和提及进行复杂的推理。在本文中，我们提出了一种新的模型，以文档级RE，通过编码的文档信息的实体的全局和局部表示以及上下文关系表示。实体全局表示对文档中所有实体的语义信息进行建模，实体局部表示对特定实体多次提及的上下文信息进行聚合，上下文关系表示对其他关系的主题信息进行编码。实验结果表明，我们的模型在两个公共数据集上的文档级RE取得了优异的性能。它在提取长距离和多次提及的实体之间的关系时特别有效。
2020-09-22 cs.AI cs.CL
Predicting Document Coverage for Relation Extraction
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）
本文提出了一个新的任务，预测的覆盖率的一个文本文档的关系抽取（RE）：文档是否包含许多关系元组为一个给定的实体？覆盖预测在选择最佳文档用于大输入语料库的知识库构建时是有用的。为了研究这个问题，我们提出了一个数据集的31,366不同的文件为520个实体。我们分析了文档覆盖率与长度、实体提及频率、Alexa排名、语言复杂度和信息检索分数等特征的相关性。这些特征中的每一个都只有中等的预测能力。我们采用的方法相结合的特征与统计模型，如TF-IDF和语言模型，如BERT。结合特征和BERT，HERB的模型，达到了高达46%的F1分数。我们展示了覆盖预测在两个用例上的实用性：KB构建和索赔反驳。
2021-11-26 cs.AI cs.CL
Augmenting Document-level Relation Extraction with Efficient Multi-Supervision
University of Macau（澳门大学）；Beijing Normal University (Zhuhai)（北京师范大学（珠海））；BNU-UIC（北京师范大学-香港浸会大学联合国际学院）；SKL-IOTSC（物联网关键技术与系统国家重点实验室）
本文针对文档级关系抽取中远程监督数据噪声大、利用效率低的问题，提出高效多重监督方法，通过结合远程与专家监督筛选信息文档并设计多重监督排序损失，在提升性能的同时提高时间效率。
2024-07-01 cs.AI cs.CL
Document-level Relation Extraction as Semantic Segmentation
Zhejiang University（浙江大学）；AZFT Joint Lab for Knowledge Engine（AZFT知识引擎联合实验室）；Hangzhou Innovation Center, Zhejiang University（浙江大学杭州国际科创中心）；Alibaba Group（阿里巴巴集团）
文档级关系抽取的目的是从文档中抽取多个实体对之间的关系。先前提出的基于图或基于变换的模型独立地利用实体，而不管关系三元组之间的全局信息。本文通过预测实体级关系矩阵来捕获局部和全局信息，并行于计算机视觉中的语义分割任务来解决这个问题。在此，我们提出了一个文档U形网络的文档级关系抽取。具体来说，我们利用编码器模块来捕获实体的上下文信息，并在图像风格的特征映射上利用U形分割模块来捕获三元组之间的全局相互依赖性。实验结果表明，我们的方法可以获得最先进的性能在三个基准数据集DocRED，CDR和GDA。
2021-08-22 cs.AI cs.CL cs.CV
TTM-RE: Memory-Augmented Document-Level Relation Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Virginia Tech（弗吉尼亚理工大学）；Carle Illinois College of Medicine（卡尔伊利诺伊医学院）
本文提出TTM-RE方法，通过可训练记忆模块和噪声鲁棒损失函数，有效利用大规模噪声训练数据，在ReDocRED等文档级关系抽取基准上取得最先进性能。
2024-06-09 cs.AI cs.CL
Reward-based Input Construction for Cross-document Relation Extraction
KAIST（韩国科学技术院）
本文提出首个用于跨文档关系抽取的基于学习的句子选择器REIC，利用强化学习以RE预测分数为奖励训练，有效克服长文档长度限制，性能优于启发式方法。
2024-05-31 cs.CL cs.LG
Entity Structure Within and Throughout: Modeling Mention Dependencies for Document-Level Relation Extraction
Baidu Inc.（百度公司）
实体作为关系抽取任务中的基本元素，具有一定的结构性。在这项工作中，我们制定了这样的结构提到对之间的独特的依赖关系。然后，我们提出了SSAN，它将这些结构的依赖性内的标准自我注意力机制，并在整个编码阶段。具体来说，我们在每个自我注意构建块内设计了两个替代转换模块来产生注意偏差，从而自适应地调整其注意流。我们的实验证明了所提出的实体结构和SSAN的有效性。它显著优于竞争基准，在三个流行的文档级关系抽取数据集上获得了最新的结果。我们进一步提供消融和可视化来展示实体结构如何引导模型以获得更好的关系抽取。我们的代码是公开的。
2021-02-20 cs.AI cs.CL
Spatial Dependency Parsing for Semi-Structured Document Information Extraction
Clova AI, NAVER Corp.（NAVER公司Clova AI）
半结构化文档图像的信息抽取（IE）通常通过将每个识别的输入标记分类到IOB（内部、外部和开始）类别中的一个来处理序列标记问题。然而，这样的问题设置具有两个固有的局限性，即（1）它不能容易地处理复杂的空间关系，以及（2）它不适合于高度结构化的信息，尽管如此，在现实世界的文档图像中经常观察到这些信息。为了解决这些问题，我们首先制定的IE任务的空间依存句法分析问题，侧重于在文档中的文本标记之间的关系。在这种设置下，我们提出了SPADE（空间依赖性解析器），模型高度复杂的空间关系和任意数量的信息层的文档中的一个端到端的方式。我们对各种文档（如收据，名片，表单和发票）进行了评估，并表明与基于BERT的IOB taggger等强大基线相比，它实现了类似或更好的性能。
2021-07-01 cs.CL cs.LG
Improving Information Extraction on Business Documents with Specific Pre-Training Tasks
INSA Lyon（里昂国立应用科学学院）；Esker（Esker公司）
本文针对商业文档信息抽取中预训练任务过于通用的问题，基于LayoutLM模型提出两个新的预训练任务以更好地理解文档布局和数值信息，并引入新的后处理算法解码BIESO标签，显著提升了在公开和私有数据集上的抽取性能。
2023-09-11 cs.AI cs.CL
A Hierarchical Entity Graph Convolutional Network for Relation Extraction across Documents
National University of Singapore（新加坡国立大学）；Indian Institute of Technology Kharagpur（印度理工学院卡拉格普尔分校）
用于关系抽取的远程监督数据集主要集中在事务级抽取，并且它们覆盖的关系很少。在这项工作中，我们提出了跨文档的关系抽取，其中的两个实体的关系元组出现在两个不同的文件，通过一个共同的实体链连接。按照这个想法，我们创建了一个两跳关系抽取的数据集，其中每个链只包含两个文档。我们提出的数据集涵盖了更多的关系比公开可用的数据集级别。我们还为此任务提出了一个分层实体图卷积网络（HEGCN）模型，与一些强大的神经基线相比，该模型在我们的两跳关系抽取数据集上将性能提高了1.1\% F1分数。
2021-08-21 cs.CL
A Two-Stream AMR-enhanced Model for Document-level Event Argument Extraction
Peking University（北京大学）；Tencent Cloud Xiaowei（腾讯云小微）
以往的研究大多是从单个句子中提取事件，而文档级的事件提取仍然是探索不足。在本文中，我们专注于从整个文档中提取事件参数，这主要面临两个关键问题：a）触发器和参数之间的长距离依赖的句子; b）分散上下文对文档中的事件。为了解决这些问题，我们提出了一个双流抽象意义表示增强提取模型（TSAR）。TSAR采用双流编码模块从不同角度对文档进行编码，充分利用了局部和全局信息，降低了上下文干扰的影响。此外，TSAR还引入了AMR引导的交互模块，以局部和全局构造的AMR语义图为基础，捕获表内和表间特征。引入一个辅助的边界损失来显式地增强文本跨度的边界信息。大量的实验表明，TSAR优于以前的国家的最先进的大幅度，与2.54 F1和5.13 F1的性能增益在公共RAMS和WikiEvents数据集上分别显示出跨句子的参数提取的优越性。我们在https://github.com/ PKUnlp-icler/TSAR中发布我们的代码。
2022-04-30 cs.AI cs.CL
Improving Long Tailed Document-Level Relation Extraction via Easy Relation Augmentation and Contrastive Learning
Zhejiang University（浙江大学）；IBM Research（IBM研究院）
面向现实世界的信息抽取场景，关系抽取的研究正在向文档级关系抽取（DocRE）发展。现有的DocRE方法旨在通过新的模型架构对长上下文中的各种信息源进行编码来提取关系。然而，DocRE固有的长尾分布问题被以前的工作所忽视。我们认为，减轻长尾分布问题是至关重要的DocRE在现实世界中的场景。受长尾分布问题的启发，我们提出了一种简单的关系增强（ERA）方法，通过增强尾部关系的性能来改进DocRE。此外，我们进一步提出了一个新的对比学习框架，即基于我们的ERA，ERACL，它可以进一步提高模型在尾关系上的性能，并实现与最先进的DocRE相比具有竞争力的整体性能。
2022-05-21 cs.AI cs.CL
Modeling Task Interactions in Document-Level Joint Entity and Relation Extraction
Emory University（埃默里大学）
我们的目标是在一个端到端的设置文档级的关系抽取，其中模型需要联合执行提及提取，共指消解（COREF）和关系抽取（RE）一次，并得到一个以实体为中心的方式进行评估。特别是，我们解决了COREF和RE之间的双向互动，还没有被以前的工作的重点，并建议引入明确的互动，即图兼容性（GC），是专门设计来利用任务的特点，桥接两个任务的直接任务干扰的决定。我们的实验在DocRED和DWIE上进行;除了GC之外，我们还实现并比较了以前工作中常用的不同多任务设置，包括管道，共享编码器，图形传播，以检查不同交互的有效性。结果表明，GC实现了最佳性能，比基线提高了2.3/5.1 F1。
2022-05-04 cs.CL cs.LG
Do the Benefits of Joint Models for Relation Extraction Extend to Document-level Tasks?
TCS Research（塔塔咨询服务公司研究院）
本文通过在句子级与文档级数据集上基准评测最先进的流水线和联合关系三元组抽取模型，发现联合模型的显著优势不能延伸到文档级任务。
2023-10-01 cs.CL
Document-Level $N$-ary Relation Extraction with Multiscale Representation Learning
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
大多数信息抽取方法都集中在单个句子中表达的二元关系上。然而，在高值域中，$n$元关系具有很大的需求（例如，精确肿瘤学中的药物-基因-突变相互作用）。这样的关系通常涉及在文档中相距很远的实体提及，然而现有的关于跨句子关系抽取的工作通常限于小的文本跨度（例如，连续三个句子），这严重限制了回忆。在本文中，我们提出了一种新的多尺度神经结构的文档级$n$ -ary关系抽取。我们的系统结合了在整个文档和整个子关系层次结构中的各种文本跨度上学习的表示。将系统的范围扩大到整个文档可以最大限度地提高潜在的召回率。此外，通过整合文档中的弱信号，多尺度建模提高了精度，即使在存在来自远程监督的噪声标签的情况下也是如此。生物医学机器阅读实验表明，我们的方法大大优于以前的$n$ -ary关系抽取方法。
2019-06-26 cs.CL
Knowledge Graph Enhanced Event Extraction in Financial Documents
ShanghaiTech University（上海科技大学）
事件抽取是自然语言处理中的一个经典任务，在处理大量快速增长的金融、法律、医疗和政府文档中得到了广泛的应用，这些文档通常包含多个事件，并且这些事件的元素分散和混合在文档中，使得问题变得更加困难。虽然被提取的事件元素之间的潜在关系提供了有用的上下文信息，但它们在以前的研究中被忽视了。我们展示了利用知识图谱捕获实体关系及其属性所带来的增强。我们提出了第一个事件提取框架，该框架通过图神经网络嵌入知识图谱，并将嵌入与常规特征集成，所有这些都在文档级。具体来说，对于从中国的财务公告中提取事件，我们的方法优于国家的最先进的方法在F1分数的5.3%。
2021-09-06 cs.CL cs.IR cs.LG
Doc2EDAG: An End-to-End Document-level Framework for Chinese Financial Event Extraction
Institute of Interdisciplinary Information Sciences, Tsinghua University（清华大学交叉信息研究院）；Microsoft Research（微软研究院）
现有的事件抽取方法大多只抽取句子范围内的事件论元。然而，这样的企业级EE方法难以处理来自新兴应用（诸如金融、立法、健康等）的激增的文档量，其中事件论点总是分散在不同的句子中，甚至多个这样的事件提及经常共存于同一文档中。为了解决这些挑战，我们提出了一种新的端到端模型，Doc2EDAG，它可以生成一个基于实体的有向无环图，以有效地实现文档级EE（DEE）。此外，我们重新形式化的DEE任务与无触发词的设计，以减轻文档级的事件标记。为了证明Doc2EDAG的有效性，我们建立了一个大规模的真实世界的数据集，包括中国的财务公告与上述挑战。广泛的实验与全面的分析说明了Doc2EDAG的优越性比国家的最先进的方法。数据和代码可以在https://github.com/dolphin-zs/Doc2EDAG上找到。
2019-09-23 cs.CL cs.LG
Eider: Empowering Document-level Relation Extraction with Efficient Evidence Extraction and Inference-stage Fusion
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
文档级关系抽取（DocRE）的目的是抽取文档中实体对之间的语义关系。典型的DocRE方法盲目地将整个文档作为输入，而文档中的句子子集（作为证据）通常足以让人类预测实体对的关系。在本文中，我们提出了一个证据增强的框架，Eider，授权DocRE有效地提取证据，并有效地融合提取的证据在推理。我们首先联合训练一个RE模型与轻量级的证据提取模型，这是高效的内存和运行时。从经验上讲，即使在由我们的启发式规则构建的银标签上训练证据模型也可以获得更好的RE性能。我们进一步设计了一个简单而有效的推理过程，使提取的证据和完整的文档RE预测，然后通过混合层融合的预测。这使得Eider可以专注于重要的句子，同时仍然可以访问文档中的完整信息。大量的实验表明，Eider在三个基准数据集上的性能优于最先进的方法（例如，通过DocRED上的1.37/1.26 Ign F1/F1）。
2022-03-07 cs.CL
FCDS: Fusing Constituency and Dependency Syntax into Document-Level Relation Extraction
University of Electronic Science and Technology of China（电子科技大学）
针对文档级关系抽取未能充分利用丰富句法信息的问题，提出 FCDS，融合成分句法与依存句法进行句子筛选、图增强和实体路径选择，并在多领域数据集上验证有效。
2024-03-04 cs.AI cs.CL
ExStrucTiny: A Benchmark for Schema-Variable Structured Information Extraction from Document Images
J.P. Morgan AI Research（摩根大通人工智能研究）
ExStrucTiny是一个新的文档图像结构信息提取基准，通过结合手动和合成样本，涵盖更多多样化的文档类型和提取场景，旨在提升通用模型在结构化信息提取中的性能。
2026-02-12 cs.CL
OCR or Not? Rethinking Document Information Extraction in the MLLMs Era with Real-World Large-Scale Datasets
SAP（SAP公司）；Stanford University（斯坦福大学）
本文探讨了在 MLLMs 时代是否仍需 OCR，通过大规模数据集评估发现，仅图像输入可达到与 OCR 增强方法相当的性能，并展示了通过精心设计的模式、示例和指示可进一步提升 MLLMs 的表现。
2026-03-03 cs.AI cs.CL
Lightweight Spatial Modeling for Combinatorial Information Extraction From Documents
Singapore University of Technology and Design（新加坡科技设计大学）；PayPal（贝宝）；National University of Singapore（新加坡国立大学）
提出轻量级 KNN-former，通过 KNN 图空间注意力偏置与组合匹配建模文档结构，在参数高效的同时提升实体分类性能，并发布多语言身份证件数据集及增强标注。
2024-05-08 cs.AI cs.CL
Document-level Event Extraction with Efficient End-to-end Learning of Cross-event Dependencies
University of Southern California（南加州大学）；University of California, Los Angeles（加州大学洛杉矶分校）
充分理解叙述通常需要在整个文档的上下文中识别事件并对事件关系进行建模。然而，文档级事件提取是一项具有挑战性的任务，因为它需要提取事件和实体共指，并捕获跨越不同句子的参数。现有的事件抽取工作通常局限于从单个句子中抽取事件，这无法捕获文档规模上的事件提及之间的关系，以及出现在与事件触发器不同的句子中的事件参数。在本文中，我们提出了一个端到端的模型，利用深度价值网络（DVN），一个结构化的预测算法，有效地捕获跨事件的依赖关系，文档级事件提取。实验结果表明，我们的方法取得了相当的性能，基于CRF的模型ACE05，同时享有显着更高的计算效率。
2021-05-07 cs.CL
Token-Event-Role Structure-based Multi-Channel Document-Level Event Extraction
Jiangxi University of Finance and Economics（江西财经大学）；Stony Brook University（石溪大学）；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））
本文提出一种基于token-event-role数据结构和多通道论元角色预测模块的文档级事件抽取框架，将实体与多事件抽取转化为单一预测任务，在降低参数规模的同时使F1分数超越现有方法9.5个百分点。
2023-06-30 cs.AI cs.CL
A Survey of Document-Level Information Extraction
Virginia Tech（弗吉尼亚理工大学）
本文系统综述了文档级信息抽取研究，并通过错误分析指出标注噪声、实体共指消解和推理不足是主要瓶颈，为后续性能提升提供指导。
2023-09-23 cs.CL
Rapid Adaptation of BERT for Information Extraction on Domain-Specific Business Documents
University of Waterloo（滑铁卢大学）
从业务文档（如合同、报表和文件）中自动提取重要内容元素的技术有可能使业务操作更加高效。这个问题可以制定为一个序列标签的任务，我们证明了适应BERT两种类型的商业文件：监管文件和财产租赁协议。这个问题的某些方面使它比“标准”信息抽取任务更容易，而其他方面使它更困难，但总的来说，我们发现适量的注释数据（少于100个文档）足以达到合理的准确性。我们将我们的模型集成到一个端到端的云平台中，该平台提供了一个易于使用的注释接口以及一个推理接口，允许用户上传文档并检查模型输出。
2020-02-05 cs.CL cs.IR cs.LG
Coarse-to-Fine Entity Representations for Document-level Relation Extraction
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
文档级关系抽取（RE）需要抽取句子内部和句子之间的关系。最近的工作表明，基于图的方法，通常构建一个文档级的图，捕捉文档感知的交互，可以获得有用的实体表示，从而帮助解决文档级RE。这些方法或者更多地关注整个图，或者更多地关注图的一部分，例如，目标实体对之间的路径。然而，我们发现，文档级RE可能会受益于同时关注这两个。因此，为了获得更全面的实体表示，我们提出了粗到细的实体表示模型（CFER），采用了由粗到细的策略，包括两个阶段。首先，CFER使用图神经网络来在粗略的水平上整合整个图中的全局信息。接下来，CFER利用全局信息作为指导，以精细级别选择性地聚合目标实体对之间的路径信息。在分类中，我们将两个层次的实体表示结合成更全面的表示，用于关系抽取。在两个文档级RE数据集DocRED和CDR上的实验结果表明，CFER的性能优于现有模型，并且对不均匀的标签分布具有鲁棒性。
2021-06-06 cs.CL cs.IR cs.LG
Hierarchical RNN for Information Extraction from Lawsuit Documents
Jurtech（律典科技）；Maurer School of Law, Indiana University Bloomington（印第安纳大学伯明顿分校莫勒法学院）
每一份诉讼文书都包含着当事人的诉讼请求、法院的分析、判决等信息，这些信息有助于更好地理解案件，并预测法官将来对类似案件的判决。然而，从文件中提取这些信息是困难的，因为语言太复杂，句子长度各不相同。我们把这个问题作为一个序列标记的任务，本文提出了在中国的第一个研究，以提取相关信息的民事诉讼文件的层次RNN框架。
2018-04-25 cs.CL
A Masked Image Reconstruction Network for Document-level Relation Extraction
Xiamen University（厦门大学）
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取相比，文档级关系抽取需要对多个句子进行推理，以抽取复杂的关系三元组。以往的研究一般都是通过提及级或实体级文档图上的信息传播来完成推理，而不考虑关系之间的相关性。在本文中，我们提出了一种新的文档级关系抽取模型的基础上掩蔽图像重建网络（DRE-MIR），模型推理作为一个掩蔽的图像重建问题，捕捉关系之间的相关性。具体地说，我们首先利用编码器模块来获取实体的特征，并根据这些特征构造实体对矩阵。之后，我们将实体对矩阵视为图像，然后随机屏蔽它并通过推理模块恢复它，以捕获关系之间的相关性。我们评估我们的模型上的三个公共文档级关系抽取数据集，即DocRED，CDR和GDA。实验结果表明，我们的模型在这三个数据集上都达到了最先进的性能，并且在推理过程中对噪声具有很好的鲁棒性。
2022-08-04 cs.CL
Multi-hop Evidence Retrieval for Cross-document Relation Extraction
University of Southern California（南加州大学）；University of California, Los Angeles（加州大学洛杉矶分校）
针对跨文档关系抽取中的开放域证据获取与多跳推理难题，提出基于证据路径挖掘、排序及上下文密集检索的 MR.COD，并在 CodRED 上验证其可提升封闭与开放设置下的端到端性能。
2023-06-05 cs.CL cs.IR cs.LG
GLiDRE: Generalist Lightweight model for Document-level Relation Extraction
Université Paris-Saclay, CEA, List（巴黎-萨克雷大学、CEA、List）
本文提出GLiDRE，一种紧凑的文档级关系抽取模型，在低资源和少样本场景下超越现有方法，确立新的最先进水平。
2025-10-07 cs.CL
ViBERTgrid: A Jointly Trained Multi-Modal 2D Document Representation for Key Information Extraction from Documents
Microsoft Research Asia（微软亚洲研究院）；Peking University（北京大学）；University of Science and Technology of China（中国科学技术大学）
最近的基于网格的文档表示，如BERTgrid，允许在2D特征图中同时编码文档的文本和布局信息，以便可以直接利用最先进的图像分割和/或目标检测模型来从文档中提取关键信息。然而，这样的方法还没有达到与现有技术的基于序列和基于图的方法（诸如LayoutLM和PICK）相当的性能。在本文中，我们提出了一种新的多模态骨干网络连接BERTgrid到一个CNN模型的中间层，其中CNN的输入是一个文档图像和BERTgrid是一个网格的词嵌入，生成一个更强大的基于网格的文档表示，命名为ViBERTgrid。与BERTgrid不同，我们的多模态骨干网络中的BERT和CNN的参数是联合训练的。我们的实验结果表明，这种联合训练策略显着提高了表示能力的ViBERTgrid。因此，我们的基于ViBERTgrid的关键信息抽取方法在现实世界的数据集上实现了最先进的性能。
2021-05-25 cs.CL cs.CV cs.LG
KIEval: Evaluation Metric for Document Key Information Extraction
Upstage AI（上智AI）
本文提出KIEval，一种以应用为中心的文档关键信息提取评估指标，不仅评估实体提取，还评估分组结构化信息，更贴合工业应用需求，有望成为标准评估指标。
2025-03-26 cs.CL
SciREX: A Challenge Dataset for Document-Level Information Extraction
Allen Institute for AI（艾伦人工智能研究所）；Northeastern University（东北大学）；University of Washington（华盛顿大学）
从完整文档中提取信息在许多领域都是一个重要的问题，但大多数以前的工作集中在确定句子或段落中的关系。在文档级创建大规模信息抽取（IE）数据集是具有挑战性的，因为它需要理解整个文档来注释实体及其文档级关系，这些关系通常跨越句子甚至部分。在本文中，我们介绍了SciREX，文档级IE数据集，包括多个IE任务，包括显着的实体识别和文档级$N$ -ary关系识别从科学文章。我们通过集成自动和人工注释来注释数据集，利用现有的科学知识资源。我们开发了一个神经模型作为一个强大的基线，将以前最先进的IE模型扩展到文档级IE。分析模型性能显示，人类性能与当前基线之间存在显著差距，邀请社区使用我们的数据集作为开发文档级IE模型的挑战。我们的数据和代码可在https://github.com/allenai/SciREX上公开获取
2020-05-01 cs.CL cs.IR cs.LG
Dynamic Global Memory for Document-level Argument Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
从新闻文章中提取事件的信息论元是信息抽取中一个具有挑战性的问题，它要求对每个文档有全局的上下文理解。虽然最近关于文档级提取的工作已经超越了单句，并增加了端到端模型的跨句推理能力，但它们仍然受到某些输入序列长度约束的限制，并且通常忽略事件之间的全局上下文。为了解决这个问题，我们引入了一个新的基于全局神经生成的框架，用于文档级事件参数提取，方法是构建一个文档内存存储来记录上下文事件信息，并利用它来隐式和显式地帮助解码后续事件的参数。实验结果表明，我们的框架大大优于以前的方法，它是更强大的对抗注释的例子与我们的约束解码设计。(Our代码和资源可在https://github.com/xinyadu/memory_docie上获得，以供研究之用。）
2022-09-18 cs.CL
Document-Level Event Argument Extraction by Conditional Generation
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在IE社区中，事件提取一直被视为一项高级任务。我们认为，这种设置不符合人类的信息寻求行为，并导致不完整和无信息提取结果。我们提出了一个文件级神经事件参数提取模型，制定的任务作为条件生成事件模板。我们还编译了一个新的文档级事件提取基准数据集WikiEvents，其中包括完整的事件和共指注释。在参数提取的任务中，我们分别在RAMS和WikiEvents数据集上实现了7.6%F1和5.7%F1的绝对增益。在更具挑战性的任务，信息参数提取，这需要隐式共指推理，我们实现了9.3%的F1增益超过最佳基线。为了证明我们的模型的可移植性，我们还创建了第一个端到端的zero-shot事件提取框架，并实现了97%的完全监督模型的触发器提取性能和82%的参数提取性能，仅访问ACE上的33种类型中的10种。
2021-04-13 cs.CL
EA$^2$E: Improving Consistency with Event Awareness for Document-Level Argument Extraction
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
事件在文档中是相互关联的。受单义话语理论的启发，我们假设参与者倾向于在同一文档中的多个事件中扮演一致的角色。然而，最近的工作文档级事件参数提取模型的每个单独的事件隔离，因此导致提取的参数之间的不一致性，跨事件，这将进一步导致下游应用程序，如事件知识库人口，问答，和假设生成的差异。在这项工作中，我们制定了事件参数一致性的文件级设置下的事件-事件关系的约束。为了提高一致性，我们引入了事件感知的参数提取（EA $^2$ E）模型与增强的上下文进行训练和推理。在WIKIEVENTS和ACE 2005数据集上的实验结果表明，与基线方法相比，EA $^2$ E方法是有效的.
2022-05-30 cs.CL
Relation-Specific Attentions over Entity Mentions for Enhanced Document-Level Relation Extraction
Fudan University（复旦大学）
与传统的文档级关系抽取相比，文档级关系抽取是一个更具挑战性的任务，因为文档中的实体可能被多次提及并与多个关系相关联。然而，大多数文档级关系抽取方法并不区分提及级特征和实体级特征，而只是简单地将提及级特征聚合成实体级特征。因此，忽略了实体的不同提及之间的不同语义。为了解决这个问题，我们提出了RSMAN在本文中执行选择性注意不同的实体提到相对于候选人的关系。通过这种方式，获得了实体的灵活和关系特定的表示，这确实有利于关系分类。我们在两个基准数据集上进行的大量实验表明，我们的RSMAN可以为一些骨干模型带来显着的改进，以实现最先进的性能，特别是当一个实体在文档中有多个提及时。
2022-05-28 cs.CL
SLIDE: Sliding Localized Information for Document Extraction
University of Florida（佛罗里达大学）
针对长文本和低资源语言下LLM上下文受限导致知识图谱构建效果差的问题，提出基于重叠窗口的分块方法SLIDE，可保留关键上下文，显著提升多语言场景下的实体、关系抽取及问答性能。
2025-03-23 cs.CL
Neurosymbolic Information Extraction from Transactional Documents
La Rochelle University（拉罗谢尔大学）；Shift Technology
本文提出了一种神经符号框架，通过结合符号验证方法提升交易文件信息提取的准确性和效率。
2025-12-10 cs.CL
Iterative Document-level Information Extraction via Imitation Learning
Johns Hopkins University（约翰斯·霍普金斯大学）；University of Rochester（罗切斯特大学）；Microsoft Semantic Machines（微软语义机器公司）
本研究提出基于模仿学习的迭代式文档级信息抽取模型IterX，将模板抽取任务建模为MDP，无需预定义模板顺序训练，在多个基准任务上取得SOTA或强劲基线结果。
2023-05-01 cs.CL
Denoising Relation Extraction from Document-level Distant Supervision
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Tencent（腾讯）
远程监控技术被广泛应用于数据库级关系抽取的自动标注，提高了关系抽取的性能。然而，现有的成功DS不能直接转移到更具挑战性的文档级关系抽取（DocRE），因为固有的噪声在DS中可能会在文档级甚至成倍增加，并显着损害RE的性能。为了应对这一挑战，我们提出了一种新的DocRE预训练模型，该模型通过多个预训练任务对文档级DS数据进行降噪。在大规模DocRE基准测试上的实验结果表明，该模型能够从噪声DS数据中捕获有用的信息，并取得了令人满意的结果。
2020-11-08 cs.CL
Deep Learning based Key Information Extraction from Business Documents: Systematic Literature Review
Saarland University（萨尔兰大学）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
本文对2017至2024年间130种基于深度学习的商业文档关键信息提取方法进行系统性文献综述，分析现有技术并指出未来研究方向。
2025-07-18 cs.CL cs.IR cs.LG
Writing Style Aware Document-level Event Extraction
Central University of Finance and Economics（中央财经大学）
事件抽取技术是一种旨在从文档中自动提取结构化信息的技术，在各个领域受到了越来越多的关注。现有的大多数工作讨论了这个问题的令牌级多标签分类框架区分令牌作为不同的角色，而忽略了文档的写作风格。写作风格是文档内容组织的一种特殊方式，在具有特定领域的文档（如金融、医疗文档等）中，写作风格是相对固定的。我们认为，写作风格包含了重要的线索，判断令牌的作用和忽视这些模式可能会导致现有的作品的性能下降。为此，我们将文档中的写作风格建模为参数角色的分布，即，角色等级分布的事件抽取模型，并提出了一种基于角色等级分布的监督机制，通过事件抽取任务的监督训练过程来捕捉这种模式。我们将我们的模型与几个真实世界数据集上的最先进方法进行了比较。实证结果表明，我们的方法优于其他替代方案与捕获的模式。这验证了书写风格包含有价值的信息，可以提高事件提取任务的性能。
2022-01-10 cs.CL
