Coarse-to-Fine Entity Representations for Document-level Relation Extraction
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
文档级关系抽取(RE)需要抽取句子内部和句子之间的关系。最近的工作表明,基于图的方法,通常构建一个文档级的图,捕捉文档感知的交互,可以获得有用的实体表示,从而帮助解决文档级RE。这些方法或者更多地关注整个图,或者更多地关注图的一部分,例如,目标实体对之间的路径。然而,我们发现,文档级RE可能会受益于同时关注这两个。因此,为了获得更全面的实体表示,我们提出了粗到细的实体表示模型(CFER),采用了由粗到细的策略,包括两个阶段。首先,CFER使用图神经网络来在粗略的水平上整合整个图中的全局信息。接下来,CFER利用全局信息作为指导,以精细级别选择性地聚合目标实体对之间的路径信息。在分类中,我们将两个层次的实体表示结合成更全面的表示,用于关系抽取。在两个文档级RE数据集DocRED和CDR上的实验结果表明,CFER的性能优于现有模型,并且对不均匀的标签分布具有鲁棒性。
2021-06-06 cs.CL cs.IR cs.LG
Multi-hop Evidence Retrieval for Cross-document Relation Extraction
University of Southern California(南加州大学);University of California, Los Angeles(加州大学洛杉矶分校)
针对跨文档关系抽取中的开放域证据获取与多跳推理难题,提出基于证据路径挖掘、排序及上下文密集检索的 MR.COD,并在 CodRED 上验证其可提升封闭与开放设置下的端到端性能。
2023-06-05 cs.CL cs.IR cs.LG
FLAG: Financial Long Document Classification via AMR-based GNN
Rensselaer Polytechnic Institute(伦斯勒理工学院)
本文提出FLAG框架,通过将句子级AMR图构建为文档级图并结合金融领域LLM嵌入与GNN,提升金融长文档分类效果,在股价变动趋势预测上优于直接微调LLM及已有文档图方法。
2024-10-22 cs.AI cs.CE cs.CL
SciREX: A Challenge Dataset for Document-Level Information Extraction
Allen Institute for AI(艾伦人工智能研究所);Northeastern University(东北大学);University of Washington(华盛顿大学)
从完整文档中提取信息在许多领域都是一个重要的问题,但大多数以前的工作集中在确定句子或段落中的关系。在文档级创建大规模信息抽取(IE)数据集是具有挑战性的,因为它需要理解整个文档来注释实体及其文档级关系,这些关系通常跨越句子甚至部分。在本文中,我们介绍了SciREX,文档级IE数据集,包括多个IE任务,包括显着的实体识别和文档级$N$ -ary关系识别从科学文章。我们通过集成自动和人工注释来注释数据集,利用现有的科学知识资源。我们开发了一个神经模型作为一个强大的基线,将以前最先进的IE模型扩展到文档级IE。分析模型性能显示,人类性能与当前基线之间存在显著差距,邀请社区使用我们的数据集作为开发文档级IE模型的挑战。我们的数据和代码可在https://github.com/allenai/SciREX上公开获取
2020-05-01 cs.CL cs.IR cs.LG
Financial Event Extraction Using Wikipedia-Based Weak Supervision
IBM Research(IBM研究院)
从文本中提取金融和经济事件以前主要使用基于规则的方法,最近的工作采用机器学习技术。这项工作符合后一种方法,利用维基百科的相关章节为描述经济事件的句子提取弱标签。而以前的弱监督的方法需要这样的事件的知识库,或相应的财务数字,我们的方法不需要这样的额外的数据,并可以用来提取经济事件相关的公司,甚至没有提到的训练数据。
2022-11-28 cs.CL
PromptRE: Weakly-Supervised Document-Level Relation Extraction via Prompting-Based Data Programming
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Virginia Tech(弗吉尼亚理工大学)
PromptRE提出一种结合提示技术与数据编程的弱监督文档级关系抽取方法,利用标签分布和实体类型先验知识,在ReDocRED基准上优于基线,有效解决“无关系”问题。
2023-10-13 cs.CL cs.LG
FinCARDS: Card-Based Analyst Reranking for Financial Document Question Answering
ShanghaiTech University(上海科技大学);The University of Tokyo(东京大学);MBZUAI
FinCARDS通过结构化重排序框架,将财务证据选择转化为在财务意识模式下的约束满足问题,提升长文档问答的稳定性与可追溯性。
2026-04-30 cs.AI cs.CL cs.IR
FinRED: A Dataset for Relation Extraction in Financial Domain
IIT Kharagpur(印度理工学院克勒格布尔分校);Goldman Sachs(高盛集团);LU, Hannover(汉诺威莱布尼茨大学)
针对金融领域缺乏大规模开源关系抽取数据集的问题,本文发布基于金融新闻和财报电话纪要、通过远程监督映射 Wikidata 三元组构建的 FinRED,并建立基准,验证现有模型在金融关系抽取上性能明显下降。
2023-06-06 cs.CL
KPI-BERT: A Joint Named Entity Recognition and Relation Extraction Model for Financial Reports
Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);University of Bonn(波恩大学);PricewaterhouseCoopers GmbH(普华永道有限责任公司)
我们提出了KPI-BERT,一个系统,它采用新的方法命名实体识别(NER)和关系抽取(RE)提取和链接的关键绩效指标(KPI),如“收入”或“利息支出”,公司从现实世界的德国金融文件。具体来说,我们引入了一种端到端的可训练架构,该架构基于来自Transformers的双向编码器表示(BERT),将递归神经网络(RNN)与条件标签掩蔽相结合,以便在对实体的关系进行分类之前顺序标记实体。我们的模型还引入了一个可学习的基于RNN的池机制,并通过显式过滤不可能的关系来整合领域专家知识。我们在一个新的德国财务报告的实际数据集上实现了更高的预测性能,超过了几个强大的基线,包括竞争的最先进的基于跨度的实体标记方法。
2022-08-03 cs.AI cs.CL cs.LG
Document-Level Numerical Reasoning across Single and Multiple Tables in Financial Reports
Department of Computer Science and Information Engineering, National Taiwan University(国立台湾大学资讯工程学系);FinTech Center, National Taiwan University(国立台湾大学金融科技中心)
本文提出FinLongDocQA数据集,解决长文档中跨表数字推理问题,发现LLM在长文本中定位和多步计算时存在瓶颈,提出FinLongDocAgent多智能体方法提升可靠性。
2026-04-04 cs.CL
Harnessing Generative LLMs for Enhanced Financial Event Entity Extraction Performance
Dongguk University(东国大学)
本文提出利用生成式大语言模型,通过参数高效微调将金融事件实体抽取转化为文本到结构化输出的生成任务,在CCKS 2019数据集上取得最优F1分数。
2025-04-20 cs.CL
DSC-IITISM at FinCausal 2021: Combining POS tagging with Attention-based Contextual Representations for Identifying Causal Relationships in Financial Documents
Indian Institute of Technology (ISM), Dhanbad(印度理工学院(ISM)达巴德分校)
因果关系检测是自然语言处理和语言学研究领域的一个热点问题。它在信息检索、事件预测、问答、金融分析和市场研究中有重要的应用。在这项研究中,我们探索了几种方法来识别和提取因果对的金融文件使用Transformers。为此,我们提出了一种方法,结合POS标记与BIO计划,它可以与现代Transformer模型,以解决这一挑战,确定在给定的文本中的因果关系。在FinCausal 2021研讨会的FinCausal-2021共享任务中,我们的最佳方法在盲测中获得了0.9551的F1分数和0.8777的精确匹配分数。
2021-10-31 cs.AI cs.CL
KPI-EDGAR: A Novel Dataset and Accompanying Metric for Relation Extraction from Financial Documents
University of Bonn(波恩大学);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所);Hochschule Bonn-Rhein-Sieg(波恩-莱茵-锡格应用技术大学)
本文提出KPI-EDGAR数据集用于从金融文档中联合提取KPI及其属性,提供四个基准,并引入词级加权F1分数新指标以建模实体对模糊边界。
2022-10-17 cs.CL
FinTree: Financial Dataset Pretrain Transformer Encoder for Relation Extraction
Kyung Hee University(庆熙大学)
FinTree是一种在金融数据集上预训练的Transformer编码器,通过预测掩码标记而非[CLS]标记,并采用独特输入模式,在REFinD数据集上实现了更准确的关系抽取。
2023-07-26 cs.AI cs.CL
Multi-Document Financial Question Answering using LLMs
Anvai AI(安维人工智能)
提出两种多文档金融问答方法RAG_SEM和KG_RAG,通过语义标注与知识图谱检索上下文,实验证明两者均显著优于普通RAG。
2024-11-08 cs.CL cs.IR
Large-Scale Multi-Document Summarization with Information Extraction and Compression
Northwestern University(西北大学)
我们开发了一个抽象的摘要框架独立的标记数据的多个异构文档。与现有的多文档摘要方法不同,我们的框架处理讲述不同故事的文档,而不是同一主题的文档。我们还增强了现有的句子融合方法与一个单向的语言模型优先融合的句子概率较高,以提高可读性的目标。最后,我们基于CNN/Daily Mail和NewsRoom数据集构建了总共12个数据集变体,其中每个文档组包含大量不同的文档集合,以评估我们的模型与其他基线系统相比的性能。我们的实验表明,我们的框架优于当前国家的最先进的方法,在这个更通用的设置。
2022-05-01 cs.CL cs.IR
ROPE: Reading Order Equivariant Positional Encoding for Graph-based Document Information Extraction
Google Cloud AI(谷歌云人工智能);McGill University(麦吉尔大学);Google Research(谷歌研究院)
自然的单词阅读顺序是从表单文档中提取信息抽取的关键。尽管图卷积网络(GCN)在建模文档的空间布局模式方面取得了最新进展,但它们捕获图中给定单词级节点表示的阅读顺序的能力有限。我们提出了阅读顺序等变位置编码(ROPE),一种新的位置编码技术,旨在理解顺序呈现的话在文件中。ROPE生成唯一的阅读顺序代码的相邻单词相对于给定的单词级图形连接的目标单词。我们研究了两个基本的文档实体提取任务,包括单词标记和单词分组的公共FUNSD数据集和大规模支付数据集。我们表明,ROPE一贯改善现有的GCN与利润高达8.4%F1分数。
2021-06-21 cs.CL cs.LG
Hierarchical Retrieval with Evidence Curation for Open-Domain Financial Question Answering on Standardized Documents
Department of Applied Artificial Intelligence, Hanyang University(应用人工智能系,翰阳大学)
针对标准化金融文档中相似格式导致重复检索的问题,提出 HiREC 框架,通过分层检索与证据整理提升开放域金融问答的准确性和完整性,并发布包含 145,897 份 SEC 文档和 1,595 个问答对的 LOFin 基准。
2025-11-06 cs.AI cs.CL cs.IR
Fine-tuning Smaller Language Models for Question Answering over Financial Documents
EY Global Delivery Services India LLP(安永全球交付服务印度有限责任公司)
本研究探索在金融领域微调较小语言模型以解决需多跳数值推理的问答任务,证明其生成推理程序的性能接近大教师模型,并细粒度分析了微调对概念应用与实体提取能力的提升及小数据集的有效性。
2024-08-22 cs.AI cs.CL cs.LG
Document-level Relation Extraction as Semantic Segmentation
Zhejiang University(浙江大学);AZFT Joint Lab for Knowledge Engine(AZFT知识引擎联合实验室);Hangzhou Innovation Center, Zhejiang University(浙江大学杭州国际科创中心);Alibaba Group(阿里巴巴集团)
文档级关系抽取的目的是从文档中抽取多个实体对之间的关系。先前提出的基于图或基于变换的模型独立地利用实体,而不管关系三元组之间的全局信息。本文通过预测实体级关系矩阵来捕获局部和全局信息,并行于计算机视觉中的语义分割任务来解决这个问题。在此,我们提出了一个文档U形网络的文档级关系抽取。具体来说,我们利用编码器模块来捕获实体的上下文信息,并在图像风格的特征映射上利用U形分割模块来捕获三元组之间的全局相互依赖性。实验结果表明,我们的方法可以获得最先进的性能在三个基准数据集DocRED,CDR和GDA。
2021-08-22 cs.AI cs.CL cs.CV
Reward-based Input Construction for Cross-document Relation Extraction
KAIST(韩国科学技术院)
本文提出首个用于跨文档关系抽取的基于学习的句子选择器REIC,利用强化学习以RE预测分数为奖励训练,有效克服长文档长度限制,性能优于启发式方法。
2024-05-31 cs.CL cs.LG
Inter-sentence Relation Extraction with Document-level Graph Convolutional Neural Network
Toyota Technological Institute(丰田工业大学);Artificial Intelligence Research Center (AIRC), National Institute of Advanced Industrial Science and Technology (AIST)(产业技术综合研究所人工智能研究中心)
句间关系抽取处理的是文档中大量复杂的语义关系,这些关系需要局部、非局部、句法和语义依赖。现有的方法没有充分利用这种依赖性。本文提出了一种新的句间关系抽取模型,该模型在文档级图上建立了一个标记边图卷积神经网络模型。该图使用各种句间和句内依赖关系来构建,以捕获本地和非本地依赖关系信息。为了预测实体对的关系,我们利用双仿射成对评分的多实例学习。实验结果表明,我们的模型在两个生物化学数据集上实现了与最先进的神经模型相当的性能。我们的分析表明,图中的所有类型是有效的句间关系抽取。
2019-06-11 cs.CL cs.IR
Double Graph Based Reasoning for Document-level Relation Extraction
Peking University(北京大学);ByteDance AI Lab(字节跳动人工智能实验室)
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取不同,它需要对文档中的多个句子进行推理。在本文中,我们提出了图聚合和推理网络(GAIN)具有双重图。GAIN首先构建了一个异构的提及级图(hMG)来模拟文档中不同提及之间的复杂交互。它还构造了一个实体级图(EG),在此基础上,我们提出了一种新的路径推理机制来推断实体之间的关系。在公共数据集DocRED上的实验表明,GAIN在F1上实现了显着的性能提升(2.85)。我们的代码可以在https://github.com/DreamInvoker/GAIN上找到。
2020-09-29 cs.AI cs.CL cs.LG
Exploiting Lists of Names for Named Entity Identification of Financial Institutions from Unstructured Documents
University of Maryland(马里兰大学);IBM Research(IBM研究院)
文档集合中包含大量关于金融系统的信息。在本文中,我们专注于一个专门的文本提取任务,这一领域。目标是从财务招股说明书文件中提取金融机构名称或FI名称的提及,并识别相应的真实世界实体,例如,通过与这些实体的语料库进行匹配。任务是命名实体识别(NER)和实体解析(ER),这两个都是很好的研究文献。我们的贡献是开发一个基于规则的方法,将利用FI名称列表的任务,我们的解决方案是标记为基于字典的NER和基于排名的ER。由于FI名称通常由根和修改根的后缀表示,因此我们使用这些FI名称列表来创建专门的根和后缀字典。为了评估我们的专业解决方案提取FI名称的有效性,我们比较基于字典的NER与通用的基于规则的NER解决方案,ORG NER。我们的评估突出了专业与通用方法的优点和局限性,并提出了调整和定制FI名称提取的其他建议。据我们所知,我们提出的解决方案,基于字典的NER和基于等级的ER,以及根和后缀字典,是利用专业知识的第一次尝试,即,FI名称列表,用于基于规则的NER和ER。
2016-06-07 cs.CL
Evaluating LLMs' Mathematical Reasoning in Financial Document Question Answering
Microsoft Research(微软研究院);Singapore Management University(新加坡管理大学);University of Pennsylvania(宾夕法尼亚大学)
本研究评估LLMs在金融表格问答中的数学推理能力,提出一种针对半结构化文档的新型提示技术,匹配或超越基线性能。
2025-10-09 cs.CL
Few-Shot Document-Level Relation Extraction
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT))
我们提出了FREDo,一个Few-Shot文档级关系抽取(FSDLRE)基准。相对于现有的基准是建立在文档级关系抽取语料库,我们认为,文档级语料库提供更多的现实主义,特别是关于非上述(NOTA)的分布。因此,我们提出了一组FSDLRE任务,并基于两个现有的监督学习数据集,DocRED和sciERC构建了一个基准。我们适应国家的最先进的文档级的方法MNAV,并进一步发展,以改善领域自适应。我们发现FSDLRE是一个具有挑战性的设置有趣的新特性,如能够从支持集采样NOTA实例。数据、代码和训练模型可在线获取(https://github.com/nicpopovic/FREDo)。
2022-07-01 cs.AI cs.CL cs.LG
Graph Convolution for Multimodal Information Extraction from Visually Rich Documents
Alibaba Group(阿里巴巴集团)
视觉丰富文档(VRD)在日常商业和生活中无处不在。在VRD中,视觉和布局信息对于文档理解至关重要,并且此类文档中的文本无法在不丢失信息的情况下序列化为一维序列。经典的信息抽取模型,如BiLSTM-CRF,通常对文本序列进行操作,并且不包含视觉特征。在本文中,我们介绍了一个图形卷积为基础的模型,结合文字和视觉信息的VRD。图嵌入被训练来总结文档中文本段的上下文,并进一步与文本嵌入相结合以进行实体提取。已经进行了大量的实验,以表明我们的方法优于BiLSTM-CRF基线的显着利润率,在两个真实世界的数据集。此外,还进行了消融研究,以评估我们模型中每个组件的有效性。
2019-03-27 cs.CV cs.IR cs.LG
SEC-QA: A Systematic Evaluation Corpus for Financial QA
Kensho Technologies(肯肖科技公司)
针对金融领域缺乏真实场景评估数据集、大模型训练数据污染导致评估有偏的问题,提出可持续生成多文档长上下文金融问答对的SEC-QA框架,并设计基于思维程序的问答系统提升复杂推理准确率。
2024-06-20 cs.CL
A Hierarchical Entity Graph Convolutional Network for Relation Extraction across Documents
National University of Singapore(新加坡国立大学);Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
用于关系抽取的远程监督数据集主要集中在事务级抽取,并且它们覆盖的关系很少。在这项工作中,我们提出了跨文档的关系抽取,其中的两个实体的关系元组出现在两个不同的文件,通过一个共同的实体链连接。按照这个想法,我们创建了一个两跳关系抽取的数据集,其中每个链只包含两个文档。我们提出的数据集涵盖了更多的关系比公开可用的数据集级别。我们还为此任务提出了一个分层实体图卷积网络(HEGCN)模型,与一些强大的神经基线相比,该模型在我们的两跳关系抽取数据集上将性能提高了1.1\% F1分数。
2021-08-21 cs.CL
LMDX: Language Model-based Document Information Extraction and Localization
Google DeepMind(谷歌DeepMind);Google Cloud(谷歌云);UC San Diego(加州大学圣迭戈分校);Google Cloud AI Research(谷歌云人工智能研究)
针对大语言模型缺乏布局编码和实体定位机制、难以从视觉丰富的半结构化文档提取信息的问题,提出LMDX方法重构任务,支持多类型实体提取与定位,在基准上取得新SOTA,实现高质量数据高效解析。
2024-06-21 cs.AI cs.CL cs.LG
Do the Benefits of Joint Models for Relation Extraction Extend to Document-level Tasks?
TCS Research(塔塔咨询服务公司研究院)
本文通过在句子级与文档级数据集上基准评测最先进的流水线和联合关系三元组抽取模型,发现联合模型的显著优势不能延伸到文档级任务。
2023-10-01 cs.CL
Document-Level $N$-ary Relation Extraction with Multiscale Representation Learning
Stanford University(斯坦福大学);Microsoft Research(微软研究院)
大多数信息抽取方法都集中在单个句子中表达的二元关系上。然而,在高值域中,$n$元关系具有很大的需求(例如,精确肿瘤学中的药物-基因-突变相互作用)。这样的关系通常涉及在文档中相距很远的实体提及,然而现有的关于跨句子关系抽取的工作通常限于小的文本跨度(例如,连续三个句子),这严重限制了回忆。在本文中,我们提出了一种新的多尺度神经结构的文档级$n$ -ary关系抽取。我们的系统结合了在整个文档和整个子关系层次结构中的各种文本跨度上学习的表示。将系统的范围扩大到整个文档可以最大限度地提高潜在的召回率。此外,通过整合文档中的弱信号,多尺度建模提高了精度,即使在存在来自远程监督的噪声标签的情况下也是如此。生物医学机器阅读实验表明,我们的方法大大优于以前的$n$ -ary关系抽取方法。
2019-06-26 cs.CL
SMARTFinRAG: Interactive Modularized Financial RAG Benchmark
Khoury College of Computer Science(科里学院计算机科学学院);Northeastern University(东北大学)
SMARTFinRAG是一个模块化金融RAG基准,通过动态组件互换、文档中心评估和直观界面,解决金融RAG评估中的关键缺口,并量化配置间性能差异。
2025-04-25 cs.CE cs.CL cs.IR
Financial Report Chunking for Effective Retrieval Augmented Generation
Unstructured Technologies(非结构化技术公司)
针对现有RAG分块忽视文档结构的问题,提出基于文档结构元素类型的分块框架,无需调参即可提升财务报告检索增强生成的准确性与问答性能。
2024-03-16 cs.CL
Eider: Empowering Document-level Relation Extraction with Efficient Evidence Extraction and Inference-stage Fusion
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
文档级关系抽取(DocRE)的目的是抽取文档中实体对之间的语义关系。典型的DocRE方法盲目地将整个文档作为输入,而文档中的句子子集(作为证据)通常足以让人类预测实体对的关系。在本文中,我们提出了一个证据增强的框架,Eider,授权DocRE有效地提取证据,并有效地融合提取的证据在推理。我们首先联合训练一个RE模型与轻量级的证据提取模型,这是高效的内存和运行时。从经验上讲,即使在由我们的启发式规则构建的银标签上训练证据模型也可以获得更好的RE性能。我们进一步设计了一个简单而有效的推理过程,使提取的证据和完整的文档RE预测,然后通过混合层融合的预测。这使得Eider可以专注于重要的句子,同时仍然可以访问文档中的完整信息。大量的实验表明,Eider在三个基准数据集上的性能优于最先进的方法(例如,通过DocRED上的1.37/1.26 Ign F1/F1)。
2022-03-07 cs.CL
Harvesting Events from Multiple Sources: Towards a Cross-Document Event Extraction Paradigm
School of Cyber Science and Engineering, Wuhan University(武汉大学网络科学与工程学院)
本文提出跨文档事件抽取(CDEE)任务,通过构建CLES数据集和五步流程基准,整合多文档事件信息以克服单文档局限性,实现约72%的F1分数。
2024-06-23 cs.AI cs.CL
ExStrucTiny: A Benchmark for Schema-Variable Structured Information Extraction from Document Images
J.P. Morgan AI Research(摩根大通人工智能研究)
ExStrucTiny是一个新的文档图像结构信息提取基准,通过结合手动和合成样本,涵盖更多多样化的文档类型和提取场景,旨在提升通用模型在结构化信息提取中的性能。
2026-02-12 cs.CL
Jointly Learning Span Extraction and Sequence Labeling for Information Extraction from Business Documents
CINNAMON AI;Hung Yen University of Technology and Education(兴安技术教育大学)
提出了一种新的商务文档信息抽取模型。与以往仅基于跨度提取或序列标记的研究不同,该模型兼顾了跨度提取和序列标记的优点。这种组合允许模型处理具有稀疏信息(少量提取信息)的长文档。该模型是端到端训练的,以统一的方式联合优化这两个任务。在英语和日语的四个商业数据集上的实验结果表明,该模型取得了令人满意的结果,并显着快于正常的跨度为基础的提取方法。代码也可用。
2022-05-26 cs.AI cs.CL
Document-level Event Extraction with Efficient End-to-end Learning of Cross-event Dependencies
University of Southern California(南加州大学);University of California, Los Angeles(加州大学洛杉矶分校)
充分理解叙述通常需要在整个文档的上下文中识别事件并对事件关系进行建模。然而,文档级事件提取是一项具有挑战性的任务,因为它需要提取事件和实体共指,并捕获跨越不同句子的参数。现有的事件抽取工作通常局限于从单个句子中抽取事件,这无法捕获文档规模上的事件提及之间的关系,以及出现在与事件触发器不同的句子中的事件参数。在本文中,我们提出了一个端到端的模型,利用深度价值网络(DVN),一个结构化的预测算法,有效地捕获跨事件的依赖关系,文档级事件提取。实验结果表明,我们的方法取得了相当的性能,基于CRF的模型ACE05,同时享有显着更高的计算效率。
2021-05-07 cs.CL
Document-Level In-Context Few-Shot Relation Extraction via Pre-Trained Language Models
ETH Zurich(苏黎世联邦理工学院);LMU Munich(慕尼黑大学);Munich Center for Machine Learning(慕尼黑机器学习中心)
提出一种基于预训练语言模型的文档级上下文少样本关系抽取框架,无需NER和人工标注且可免重训切换LM,在六个数据集上超过30余种基线并达到SOTA。
2024-10-02 cs.AI cs.CL cs.LG
Fin-ExBERT: User Intent based Text Extraction in Financial Context using Graph-Augmented BERT and trainable Plugin
Fidelity Investments(fidelity投资公司)
针对金融对话记录的句子级意图信息抽取难题,提出模块化 Fin-ExBERT 框架,结合领域适配 BERT、LoRA、渐进式解冻训练与动态阈值,在真实数据上取得良好精确率和 F1。
2025-09-27 cs.CL
A Survey of Document-Level Information Extraction
Virginia Tech(弗吉尼亚理工大学)
本文系统综述了文档级信息抽取研究,并通过错误分析指出标注噪声、实体共指消解和推理不足是主要瓶颈,为后续性能提升提供指导。
2023-09-23 cs.CL
REFinD: Relation Extraction Financial Dataset
JPMorgan Chase and Co(摩根大通公司);Wright State University(莱特州立大学)
本文提出首个大规模金融领域关系抽取数据集 REFinD,包含约 29K 实例和 22 种关系,并通过基准实验揭示了现有模型在数值推理和歧义处理上的不足。
2023-05-22 cs.AI cs.CL
Improved LLM Agents for Financial Document Question Answering
American Express(美国美国运通)
本文提出改进的金融文档问答代理,通过实验展示其在无 oracle 标签情况下的有效性,并引入更安全的计算代理。
2026-01-07 cs.AI cs.CL
Hierarchical RNN for Information Extraction from Lawsuit Documents
Jurtech(律典科技);Maurer School of Law, Indiana University Bloomington(印第安纳大学伯明顿分校莫勒法学院)
每一份诉讼文书都包含着当事人的诉讼请求、法院的分析、判决等信息,这些信息有助于更好地理解案件,并预测法官将来对类似案件的判决。然而,从文件中提取这些信息是困难的,因为语言太复杂,句子长度各不相同。我们把这个问题作为一个序列标记的任务,本文提出了在中国的第一个研究,以提取相关信息的民事诉讼文件的层次RNN框架。
2018-04-25 cs.CL
A Masked Image Reconstruction Network for Document-level Relation Extraction
Xiamen University(厦门大学)
文档级关系抽取旨在抽取文档中实体之间的关系。与文档级关系抽取相比,文档级关系抽取需要对多个句子进行推理,以抽取复杂的关系三元组。以往的研究一般都是通过提及级或实体级文档图上的信息传播来完成推理,而不考虑关系之间的相关性。在本文中,我们提出了一种新的文档级关系抽取模型的基础上掩蔽图像重建网络(DRE-MIR),模型推理作为一个掩蔽的图像重建问题,捕捉关系之间的相关性。具体地说,我们首先利用编码器模块来获取实体的特征,并根据这些特征构造实体对矩阵。之后,我们将实体对矩阵视为图像,然后随机屏蔽它并通过推理模块恢复它,以捕获关系之间的相关性。我们评估我们的模型上的三个公共文档级关系抽取数据集,即DocRED,CDR和GDA。实验结果表明,我们的模型在这三个数据集上都达到了最先进的性能,并且在推理过程中对噪声具有很好的鲁棒性。
2022-08-04 cs.CL
ViBERTgrid: A Jointly Trained Multi-Modal 2D Document Representation for Key Information Extraction from Documents
Microsoft Research Asia(微软亚洲研究院);Peking University(北京大学);University of Science and Technology of China(中国科学技术大学)
最近的基于网格的文档表示,如BERTgrid,允许在2D特征图中同时编码文档的文本和布局信息,以便可以直接利用最先进的图像分割和/或目标检测模型来从文档中提取关键信息。然而,这样的方法还没有达到与现有技术的基于序列和基于图的方法(诸如LayoutLM和PICK)相当的性能。在本文中,我们提出了一种新的多模态骨干网络连接BERTgrid到一个CNN模型的中间层,其中CNN的输入是一个文档图像和BERTgrid是一个网格的词嵌入,生成一个更强大的基于网格的文档表示,命名为ViBERTgrid。与BERTgrid不同,我们的多模态骨干网络中的BERT和CNN的参数是联合训练的。我们的实验结果表明,这种联合训练策略显着提高了表示能力的ViBERTgrid。因此,我们的基于ViBERTgrid的关键信息抽取方法在现实世界的数据集上实现了最先进的性能。
2021-05-25 cs.CL cs.CV cs.LG
GLiDRE: Generalist Lightweight model for Document-level Relation Extraction
Université Paris-Saclay, CEA, List(巴黎-萨克雷大学、CEA、List)
本文提出GLiDRE,一种紧凑的文档级关系抽取模型,在低资源和少样本场景下超越现有方法,确立新的最先进水平。
2025-10-07 cs.CL
KIEval: Evaluation Metric for Document Key Information Extraction
Upstage AI(上智AI)
本文提出KIEval,一种以应用为中心的文档关键信息提取评估指标,不仅评估实体提取,还评估分组结构化信息,更贴合工业应用需求,有望成为标准评估指标。
2025-03-26 cs.CL
Dynamic Global Memory for Document-level Argument Extraction
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
从新闻文章中提取事件的信息论元是信息抽取中一个具有挑战性的问题,它要求对每个文档有全局的上下文理解。虽然最近关于文档级提取的工作已经超越了单句,并增加了端到端模型的跨句推理能力,但它们仍然受到某些输入序列长度约束的限制,并且通常忽略事件之间的全局上下文。为了解决这个问题,我们引入了一个新的基于全局神经生成的框架,用于文档级事件参数提取,方法是构建一个文档内存存储来记录上下文事件信息,并利用它来隐式和显式地帮助解码后续事件的参数。实验结果表明,我们的框架大大优于以前的方法,它是更强大的对抗注释的例子与我们的约束解码设计。(Our代码和资源可在https://github.com/xinyadu/memory_docie上获得,以供研究之用。)
2022-09-18 cs.CL
Document-Level Event Argument Extraction by Conditional Generation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在IE社区中,事件提取一直被视为一项高级任务。我们认为,这种设置不符合人类的信息寻求行为,并导致不完整和无信息提取结果。我们提出了一个文件级神经事件参数提取模型,制定的任务作为条件生成事件模板。我们还编译了一个新的文档级事件提取基准数据集WikiEvents,其中包括完整的事件和共指注释。在参数提取的任务中,我们分别在RAMS和WikiEvents数据集上实现了7.6%F1和5.7%F1的绝对增益。在更具挑战性的任务,信息参数提取,这需要隐式共指推理,我们实现了9.3%的F1增益超过最佳基线。为了证明我们的模型的可移植性,我们还创建了第一个端到端的zero-shot事件提取框架,并实现了97%的完全监督模型的触发器提取性能和82%的参数提取性能,仅访问ACE上的33种类型中的10种。
2021-04-13 cs.CL
EA$^2$E: Improving Consistency with Event Awareness for Document-Level Argument Extraction
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
事件在文档中是相互关联的。受单义话语理论的启发,我们假设参与者倾向于在同一文档中的多个事件中扮演一致的角色。然而,最近的工作文档级事件参数提取模型的每个单独的事件隔离,因此导致提取的参数之间的不一致性,跨事件,这将进一步导致下游应用程序,如事件知识库人口,问答,和假设生成的差异。在这项工作中,我们制定了事件参数一致性的文件级设置下的事件-事件关系的约束。为了提高一致性,我们引入了事件感知的参数提取(EA $^2$ E)模型与增强的上下文进行训练和推理。在WIKIEVENTS和ACE 2005数据集上的实验结果表明,与基线方法相比,EA $^2$ E方法是有效的.
2022-05-30 cs.CL
Information Extraction: An application to the domain of hyper-local financial data on developing countries
Stanford University(斯坦福大学)
针对发展中国家公司金融数据缺失问题,开发并评估了两种NLP信息抽取技术:基于T5模型的联合NER与关系抽取(准确率92.44%),以及基于SpaCy的顺序抽取方法,有效提取实体及其关系。
2024-03-14 cs.CL
Relation-Specific Attentions over Entity Mentions for Enhanced Document-Level Relation Extraction
Fudan University(复旦大学)
与传统的文档级关系抽取相比,文档级关系抽取是一个更具挑战性的任务,因为文档中的实体可能被多次提及并与多个关系相关联。然而,大多数文档级关系抽取方法并不区分提及级特征和实体级特征,而只是简单地将提及级特征聚合成实体级特征。因此,忽略了实体的不同提及之间的不同语义。为了解决这个问题,我们提出了RSMAN在本文中执行选择性注意不同的实体提到相对于候选人的关系。通过这种方式,获得了实体的灵活和关系特定的表示,这确实有利于关系分类。我们在两个基准数据集上进行的大量实验表明,我们的RSMAN可以为一些骨干模型带来显着的改进,以实现最先进的性能,特别是当一个实体在文档中有多个提及时。
2022-05-28 cs.CL