Joint Event and Temporal Relation Extraction with Shared Representations and Structured Prediction
University of Southern California(南加州大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
我们提出了一个联合的事件和时间关系抽取模型与共享的表示学习和结构化预测。所提出的方法有两个优点比现有的工作。首先,它通过允许事件和关系模块共享相同的上下文嵌入和神经表示学习器来改进事件表示。其次,它避免了传统的管道系统中的错误传播,利用结构化推理和学习方法来分配事件标签和时间关系标签联合。实验结果表明,该方法在事件抽取和时态关系抽取两个方面均优于现有系统,在两个基准数据集上的端到端F1分别提高了10%和6.8%.
2020-09-15 cs.AI cs.CL
Knowledge Extraction on Semi-Structured Content: Does It Remain Relevant for Question Answering in the Era of LLMs?
Meta Reality Labs(Meta现实实验室);FAIR, Meta(FAIR,Meta)
本文扩展带知识抽取标注的QA基准并评估多类LLM,证明Web规模三元组抽取仍具挑战,且三元组增强与多任务学习可提升不同规模模型的问答效果。
2025-09-29 cs.CL
SCRIBES: Web-Scale Script-Based Semi-Structured Data Extraction with Reinforcement Learning
Stanford University(斯坦福大学);Meta Reality Labs(Meta现实实验室);FAIR at Meta(Meta的FAIR);University of Washington(华盛顿大学)
SCRIBES是一种新型强化学习框架,利用同一网站内网页布局相似性生成可复用提取脚本,在脚本质量和下游问答准确率上均优于基线,实现高效网页级半结构化数据提取。
2026-08-19 cs.CL
Deep Structured Neural Network for Event Temporal Relation Extraction
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所)
我们提出了一种新的深度结构化学习框架的事件时态关系抽取。该模型由1)一个循环神经网络(RNN)学习评分函数的成对关系,和2)一个结构化的支持向量机(SSVM)进行联合预测。神经网络自动学习表示,占长期的背景下,为结构化模型提供强大的功能,而SSVM纳入领域知识,如传递封闭的时间关系作为约束,以作出更好的全球一致的决定。通过联合训练这两个组件,我们的模型结合了数据驱动学习和知识利用的优势。在三个高质量事件时间关系数据集(TCR,MATRES和TB-Dense)上的实验结果表明,结合预先训练的上下文嵌入,所提出的模型在所有三个数据集上都取得了比最先进方法更好的性能。我们还提供了全面的消融研究来调查我们的模型。
2019-09-24 cs.CL
FreeDOM: A Transferable Neural Architecture for Structured Information Extraction on Web Documents
University of Southern California(南加利福尼亚大学);Google(谷歌)
从HTML文档中提取结构化数据是一个长期研究的问题,具有广泛的应用,如增强知识库,支持分面搜索,并为购物和电影等关键垂直领域提供特定领域的体验。以前的方法要么需要每个目标网站的少量示例,要么依赖于在网站视觉渲染上构建的精心手工的启发式方法。在本文中,我们提出了一种新的两阶段神经方法,称为自由DOM,它克服了这些限制。第一阶段通过结合文本和标记信息来学习页面中每个DOM节点的表示。第二阶段使用关系神经网络捕获较长范围的距离和语义相关性。通过结合这些阶段,Freedom能够在该垂直领域的少量种子站点上进行训练后推广到看不见的站点,而无需在页面的视觉渲染上使用昂贵的手工制作功能。通过在8个不同垂直领域的公共数据集上进行实验,我们发现FreeDOM平均比之前的技术水平高出近3.7个F1点,而不需要渲染页面上的功能或昂贵的手工制作功能。
2020-10-21 cs.CL cs.IR
TCMIIES: A Browser-Based LLM-Powered Intelligent Information Extraction System for Academic Literature
Hebei University, College of Traditional Chinese Medicine(河北大学中医学院)
本文提出TCMIIES,一种无需安装的浏览器平台,利用商业LLM API实现学术文献结构化信息提取,通过图形界面定义自定义提取方案,支持多领域数据库,提取准确率超94%。
2026-08-19 cs.CL cs.IR
Multi-Level Structured Self-Attentions for Distantly Supervised Relation Extraction
ADAPT Centre, School of Computing, Dublin City University(都柏林城市大学计算学院ADAPT中心);Accenture Labs Dublin(埃森哲都柏林实验室)
注意力机制经常在深度神经网络中用于远距离监督关系抽取(DS-RE),以区分有效实例和噪声实例。然而,传统的1-D向量注意力模型是不够的学习不同的背景下,选择有效的实例来预测实体对的关系。为了缓解这个问题,我们提出了一种新的多层结构(2-D矩阵)的自我注意力机制DS-RE在多实例学习(MIL)框架使用双向递归神经网络。在所提出的方法中,一个结构化的单词级自我注意力机制学习一个2-D矩阵,其中每个行向量表示关于两个实体的实例的不同方面的权重分布。针对MIL问题,结构化的中间层注意力学习一个二维矩阵,其中每个行向量表示选择不同有效实例时的权重分布。在两个公开的DS-RE数据集上进行的实验表明,所提出的具有多层次结构化自我注意力机制的框架在PR曲线、P@N和F1测量方面显著优于最先进的基线。
2018-09-03 cs.CL
Cost-effective End-to-end Information Extraction for Semi-structured Document Images
LBox;KAIST(韩国科学技术院);Clova, NAVER(NAVER Clova)
现实世界的半结构化文档图像信息抽取(IE)系统通常涉及多个模块的长管道,其复杂性大大增加了其开发和维护成本。相反,可以考虑端到端模型,直接将输入映射到目标输出并简化整个过程。然而,这种生成方法是已知的,如果不仔细设计,会导致不稳定的性能。在这里,我们介绍了我们最近的努力,从我们现有的基于管道的IE系统过渡到一个端到端的系统,重点是在实际的大规模生产中更换和部署系统相关的实际挑战。通过仔细制定文件IE作为一个序列生成任务,我们表明,一个单一的端到端的IE系统可以建立,仍然达到称职的性能。
2021-08-30 cs.CL
Learning to Extract Structured Entities Using Language Models
McGill University(麦吉尔大学);Mila - Quebec AI Institute(米拉-魁北克人工智能研究所);Microsoft Research(微软研究院);ETH Zürich(苏黎世联邦理工学院)
本文提出以实体为中心的结构化实体抽取任务、AESOP 评估指标及多阶段 MuSEE 模型,实验表明其效果与效率优于基线。
2024-10-02 cs.CL cs.LG
Bootstrapping Distantly Supervised IE using Joint Learning and Small Well-structured Corpora
Carnegie Mellon University(卡内基梅隆大学)
我们提出了一个框架,以提高性能的远程监督关系抽取,通过联合学习解决两个相关的任务:概念实例提取和关系抽取。我们将此与文档结构的新用途相结合:在一些小的,结构良好的语料库中,可以识别对应于关系参数的部分,并且从这些部分中标记的远距离示例往往具有良好的精度。使用这些作为种子,我们提取额外的关系的例子,通过应用标签传播的图形组成的噪声的例子从一个大型的非结构化测试语料库。结合软约束,概念的例子应该有相同类型的第二个参数的关系,我们得到了显着的改进,在几个国家的最先进的方法,远程监督关系抽取。
2016-08-11 cs.CL
Structured information extraction from complex scientific text with fine-tuned large language models
University of California, Berkeley(加州大学伯克利分校);Lawrence Berkeley National Laboratory(劳伦斯伯克利国家实验室)
从非结构化文本中智能地提取和链接复杂的科学信息是一项具有挑战性的工作,特别是对于那些没有自然语言处理经验的人来说。在这里,我们提出了一个简单的序列到序列的方法来联合命名实体识别和关系抽取的复杂层次信息的科技文本。该方法利用了预训练的大语言模型(LLM)GPT-3,该模型在大约500对提示(输入)和完成(输出)上进行了微调。信息可以从摘要/段落中的单个句子或跨句子提取,输出可以作为简单的英语句子或更结构化的格式(如JSON对象列表)返回。我们证明,以这种方式训练的LLM能够准确地提取复杂的科学知识的有用记录,在材料化学中的三个代表性的任务:连接掺杂剂与其主体材料,编目金属有机框架,和一般的化学/相/形态/应用信息抽取。这种方法代表了一种简单,可访问的,高度灵活的路线,以获得大型数据库的结构化知识提取非结构化文本。在线演示可在http://www.matscholar.com/info-extraction上获得。
2022-12-10 cond-mat.mtrl-sci cs.CL
Language Models and Retrieval Augmented Generation for Automated Structured Data Extraction from Diagnostic Reports
Duke University(杜克大学);Duke University School of Medicine(杜克大学医学院);Duke Center for Artificial Intelligence in Radiology(杜克放射学人工智能中心)
本研究利用开放权重语言模型和检索增强生成,自动化提取放射学与病理学报告中的结构化临床信息,最佳模型准确率超98%和90%,验证了本地隐私保护下临床数据提取的可行性。
2024-09-18 cs.CL cs.IR cs.LG
Low-Resource Fine-Tuning for Multi-Task Structured Information Extraction with a Billion-Parameter Instruction-Tuned Model
National Tsing Hua University(台湾清华大学);Accton Technology Corporation(智邦科技公司);University of Taipei(台北市立大学)
本研究提出ETLCH,一个基于LLaMA的十亿参数模型,通过低秩适配在少量样本上微调,用于多任务结构化信息抽取,以低计算成本实现稳定准确输出。
2025-09-10 cs.AI cs.CL
Automating the Information Extraction from Semi-Structured Interview Transcripts
Lucerne University of Applied Sciences and Arts(卢塞恩应用科学与艺术大学)
针对传统半结构化访谈定性分析劳动密集的问题,本研究结合BERT嵌入与HDBSCAN聚类构建最优主题模型,开发无编程基础也可使用的可视化软件原型,助力定性分析并提升其深度。
2024-03-07 cs.CL cs.CY cs.IR
A Domain-Adapted Pipeline for Structured Information Extraction from Police Incident Announcements on Social Media
Shandong University(山东大学);Qingdao University(青岛大学);Ocean University of China(中国海洋大学);Tsinghua University(清华大学)
本文提出一种领域适应的提取流水线,利用LoRA技术高效微调模型,实现从社交媒体警察通报中高精度提取15个关键字段。
2026-02-23 cs.CL cs.CY
AXE: Low-Cost Cross-Domain Web Structured Information Extraction
Faculty of Computers & Artificial Intelligence - Cairo University(开罗大学计算机与人工智能学院);Ejada Systems;Fawry Integrated Systems;Microsoft(微软)
AXE通过将HTML DOM视为需修剪的树结构,利用专用修剪机制提取高密度上下文,使小型模型生成精确结构化输出,并通过GXR确保提取可追溯性,实现跨领域信息提取的高性能与低成本。
2026-03-30 cs.CL
PyTorch-IE: Fast and Reproducible Prototyping for Information Extraction
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
本文提出PyTorch-IE,一个基于深度学习的信息抽取框架,通过灵活数据模型与任务解耦设计,支持快速、可复现的IE模型开发,并集成主流库以助力研究社区。
2024-05-16 cs.CL cs.IR
Spatial Dependency Parsing for Semi-Structured Document Information Extraction
Clova AI, NAVER Corp.(NAVER公司Clova AI)
半结构化文档图像的信息抽取(IE)通常通过将每个识别的输入标记分类到IOB(内部、外部和开始)类别中的一个来处理序列标记问题。然而,这样的问题设置具有两个固有的局限性,即(1)它不能容易地处理复杂的空间关系,以及(2)它不适合于高度结构化的信息,尽管如此,在现实世界的文档图像中经常观察到这些信息。为了解决这些问题,我们首先制定的IE任务的空间依存句法分析问题,侧重于在文档中的文本标记之间的关系。在这种设置下,我们提出了SPADE(空间依赖性解析器),模型高度复杂的空间关系和任意数量的信息层的文档中的一个端到端的方式。我们对各种文档(如收据,名片,表单和发票)进行了评估,并表明与基于BERT的IOB taggger等强大基线相比,它实现了类似或更好的性能。
2021-07-01 cs.CL cs.LG
Understanding 6G through Language Models: A Case Study on LLM-aided Structured Entity Extraction in Telecom Domain
School of Computer Science, McGill University(计算机科学系,麦吉尔大学);Standards and Mobility Innovation Lab, Samsung Research America(标准与移动创新实验室,三星研究美国)
本研究针对6G网络知识理解需求,提出基于语言模型的电信结构化实体提取技术TeleSEE,结合令牌高效表示与分层并行解码方法,并构建6GTech数据集验证,其准确率更优且处理速度提升5至9倍。
2025-05-20 cs.CL cs.SY eess.SY
A Structured Learning Approach to Temporal Relation Extraction
University of Illinois(伊利诺伊大学)
识别事件之间的时间关系是理解自然语言的重要步骤。然而,故事中两个事件之间的时间关系取决于其他事件之间的关系,并且通常由其他事件之间的关系决定。因此,有效地识别事件之间的时间关系是一个具有挑战性的问题,即使是人类注释。本文认为,重要的是要考虑到这些依赖关系,同时学习,以确定这些关系,并提出了一个结构化的学习方法来解决这一挑战。作为一个副产品,这提供了一个新的角度来处理缺失的关系,一个已知的问题,损害现有的方法。正如我们所示,所提出的方法在两个常用的数据集上显着改善了这个问题。
2019-06-12 cs.CL cs.LG
Cross-media Structured Common Space for Multimedia Event Extraction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学);Dataminr(Dataminr公司)
我们介绍了一个新的任务,多媒体事件提取(M2E2),其目的是从多媒体文档中提取事件及其参数。我们开发了第一个基准,并收集了245多媒体新闻文章的数据集,广泛注释的事件和参数。我们提出了一种新的方法,弱对齐结构化嵌入(WASE),编码结构化表示的语义信息从文本和视觉数据到一个共同的嵌入空间。这些结构通过采用弱监督训练策略跨模态对齐,这使得能够在没有明确的跨媒体注释的情况下利用可用资源。与单模态最先进的方法相比,我们的方法在文本事件参数角色标注和视觉事件提取上分别获得了4.0%和9.8%的绝对F分数增益。与最先进的多媒体非结构化表示相比,我们在多媒体事件提取和参数角色标记上分别获得了8.3%和5.0%的绝对F分数增益。通过利用图像,我们提取的事件提及比传统的纯文本方法多21.4%。
2020-05-05 cs.CL cs.CV cs.LG
Domain Knowledge Empowered Structured Neural Net for End-to-End Event Temporal Relation Extraction
Information Sciences Institute, University of Southern California(南加州大学信息科学研究所);Department of Computer Science, University of Southern California(南加州大学计算机科学系);Department of Computer Science, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系)
事件时序关系的提取是信息抽取的一项关键任务,在自然语言理解中起着重要作用。现有系统利用深度学习和预训练的语言模型来提高任务的性能。然而,这些系统通常遭受两个缺点:1)当基于神经模型执行最大后验(MAP)推断时,先前的系统仅使用被假定为绝对正确的结构化知识,即,硬约束; 2)当用有限的数据量训练时,对主导时间关系的有偏见的预测。为了解决这些问题,我们提出了一个框架,增强深度神经网络与概率域知识构建的分布约束。我们解决了约束推理问题,通过拉格朗日松弛,并将其应用于端到端的事件时态关系抽取任务。实验结果表明,我们的框架是能够改善基线神经网络模型具有很强的统计意义上的两个广泛使用的数据集在新闻和临床领域。
2020-10-06 cs.AI cs.CL
Bench-Marking Information Extraction in Semi-Structured Historical Handwritten Records
National University of Singapore(新加坡国立大学);Naver Labs(Naver实验室);University of Rostock(罗斯托克大学)
在这份报告中,我们提出了我们的研究结果,从基准实验信息抽取的历史手写婚姻记录Esposalles从IEHHR - ICDAR 2017年强大的阅读比赛。信息抽取被建模为跨2组标签的序列的语义标记。这可以通过顺序地或联合地应用手写文本识别(HTR)和命名实体识别(NER)来实现。我们部署了一种管道方法,首先使用最先进的HTR,并将其输出用作NER的输入。我们表明,由于低资源设置和简单的结构的记录,高性能的HTR确保整体高性能。我们探讨了各种配置的条件随机场和神经网络基准NER给定一定的噪声输入。10倍交叉验证和盲测试数据的最佳模型使用具有双向长短期记忆的n-gram特征。
2018-07-17 cs.CL cs.CV
JSEEGraph: Joint Structured Event Extraction as Graph Parsing
University of Oslo(奥斯陆大学);University of Bergen(卑尔根大学)
提出基于图解析的事件抽取框架JSEEGraph,在单图中联合编码实体、关系与事件并支持嵌套结构,端到端联合推断有效避免错误传播,在多语言基准上显著提升抽取性能。
2023-06-26 cs.CL
KIEval: Evaluation Metric for Document Key Information Extraction
Upstage AI(上智AI)
本文提出KIEval,一种以应用为中心的文档关键信息提取评估指标,不仅评估实体提取,还评估分组结构化信息,更贴合工业应用需求,有望成为标准评估指标。
2025-03-26 cs.CL
Retrieval Augmented Structured Generation: Business Document Information Extraction As Tool Use
Expedock Software, Inc(Expedock软件公司)
本文将商业文档信息抽取建模为工具使用问题,提出RASG框架,使LLM在KIE和LIR任务上超越LMM,并设计了更贴合实际的新指标GLIRM及无需视觉编码器的边界框反算启发式算法。
2024-05-30 cs.AI cs.CL cs.IR
RelationPrompt: Leveraging Prompts to Generate Synthetic Data for Zero-Shot Relation Triplet Extraction
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Singapore University of Technology and Design(新加坡科技设计大学)
尽管关系抽取在构建和表示知识中的重要性,但较少的研究集中在推广到看不见的关系类型。我们介绍了Zero-Shot关系三元组提取(ZeroRTE)的任务设置,以鼓励进一步研究低资源的关系抽取方法。给定一个输入句子,每个提取的三元组由头部实体,关系标签和尾部实体组成,其中关系标签在训练阶段看不到。为了解决ZeroRTE问题,我们提出通过促使语言模型生成结构化文本来合成关系示例。具体地说,我们统一了语言模型提示和结构化文本的方法,设计了一个结构化的提示模板生成合成的关系样本时,条件的关系标签提示(提示)。为了克服句子中多个关系三元组提取的局限性,我们设计了一种新的三元组搜索解码方法。在FewRel数据集和Wiki-JPL数据集上的实验表明,该算法在ZeroRTE任务和zero-shot关系分类中具有较好的性能.我们的代码和数据可在github.com/declare-lab/RelationPrompt上获得。
2022-03-17 cs.CL
From Lexical Baselines to Agentic Retrieval-Augmented Generation: Structured Skill and Responsibility-Level Extraction with the SFIA Framework
Informatics Institute of Technology(信息科技学院);University of Sri Jayewardenepura(斯里贾亚瓦德纳普拉大学)
本研究针对SFIA框架提出结构化技能与责任级别提取任务,比较五种策略,发现检索匹配识别技能多、生成策略更精确,显式级别决策更可靠,智能体团队无增益,提供首个可复现基线。
2026-09-30 cs.AI cs.CL
Learning from similarity and information extraction from structured documents
Faculty of Mathematics and Physics, Charles University(查理大学数学与物理学院)
文件处理的自动化最近受到重视,因为通过改进方法和硬件,有很大潜力减少手工工作。神经网络以前曾被成功应用过--尽管到目前为止它们只在相对较小的数据集上训练过,这些数据集有数百个文档。为了成功探索深度学习技术并改进信息抽取结果,我们已经编译了一个包含25000多个文档的数据集,并对其进行了匿名处理,并将其作为这项工作的一部分发布。我们将扩展我们以前的工作,证明卷积,图卷积和自我注意力可以一起工作,并利用结构化文档中存在的所有信息。将完全可训练的方法更进一步,我们现在将设计和研究使用连体网络、相似性概念、一次性学习和上下文/记忆感知的各种方法。其目的是在庞大的真实世界文档数据集上改进逐词分类的微F1。结果验证了这样的假设,即对类似(但仍然不同)页面的可训练访问连同其已知目标信息一起改进了信息抽取。此外,实验证实,所有提出的架构部分都需要击败以前的结果。最好的模型改进了以前的最先进的结果,F1得分增加了8.25。定性分析,以验证新的模型执行更好的所有目标类。此外,揭示了一些架构性能不佳的原因的多个结构性观察。所有的源代码、参数和实现细节都与数据集一起发布,希望能突破研究的界限,因为这项工作中使用的所有技术都不是针对特定问题的,可以推广到其他任务和环境。
2021-03-13 cs.CL cs.IR cs.LG
ViBERTgrid BiLSTM-CRF: Multimodal Key Information Extraction from Unstructured Financial Documents
Yapı Kredi Technology(亚珀克雷迪科技);Istanbul Technical University(伊斯坦布尔理工大学)
本文提出ViBERTgrid BiLSTM-CRF模型,通过引入BiLSTM-CRF层将多模态Transformer适配于非结构化金融文档,提升了命名实体识别性能并保持了半结构化文档的KIE效果,同时公开了SROIE数据集的token级标注。
2024-09-23 cs.AI cs.CL cs.CV
Structured prediction models for RNN based sequence labeling in clinical text
University of Massachusetts(马萨诸塞大学);Bedford VAMC and CHOIR(贝德福德退伍军人医疗中心与CHOIR)
序列标记是一种广泛应用于非结构化自然语言数据的命名实体识别和信息抽取的方法。在临床领域,序列标记的一个主要应用涉及从电子健康记录叙述中提取医学实体,例如药物、适应症和副作用。在这个领域的序列标记,提出了自己的一套挑战和目标。在这项工作中,我们尝试了各种基于CRF的结构化学习模型和递归神经网络。我们扩展了先前研究的LSTM-CRF模型与显式建模的成对电位。我们还提出了一个近似版本的跳链CRF推理与RNN潜力。我们使用这些方法进行结构化预测,以提高准确的短语检测各种医疗实体。
2016-08-01 cs.CL
Biomedical Information Extraction for Disease Gene Prioritization
Stanford University(斯坦福大学);OccamzRazor
我们介绍了一个生物医学信息抽取(IE)管道,从文本中提取生物关系,并证明其组件,如命名实体识别(NER)和关系抽取(RE),优于国家的最先进的BioNLP。我们将其应用于数千万的PubMed摘要中,以提取蛋白质-蛋白质相互作用(PPI),并将这些提取增强到生物医学知识图谱中,该图谱已经包含从领先的结构化PPI数据库STRING中提取的PPI。我们表明,尽管已经包含来自已建立的结构化来源的PPI,但将我们自己的基于IE的提取增加到图中,使我们能够预测新的疾病-基因关联,hit@30相对增加20%,这是为未治愈疾病开发药物靶点的重要一步。
2020-11-12 cs.CL cs.LG
STRUCTSENSE: A Task-Agnostic Agentic Framework for Structured Information Extraction with Human-In-The-Loop Evaluation and Benchmarking
McGovern Institute for Brain Research, Massachusetts Institute of Technology, Cambridge, MA, USA(麦戈文脑科学研究所,麻省理工学院,马萨诸塞州剑桥市);Fylo Labs Inc., New York, NY, USA(Fylo实验室公司,纽约州纽约市);Allen Institute for Brain Science, Seattle, WA, USA(艾伦脑科学研究所,华盛顿州西雅图市)
本文提出STRUCTSENSE框架,通过整合本体引导的符号知识、代理自我评估细化和人机协同验证,实现了结构化信息提取的鲁棒性,并在三个领域展示了其跨任务泛化能力。
2026-05-20 cs.AI cs.CL
ChatSchema: A pipeline of extracting structured information with Large Multimodal Models based on schema
本研究提出 ChatSchema 流水线,结合 LMMs 和 OCR 基于预定义 schema 从医学报告中提取并结构化信息,实验表明 GPT-4o 表现优异,消融研究证实其显著提升了键值提取的整体准确率和 F1分数。
2024-07-26 cs.CL
MedStruct-S: A Benchmark for Key Discovery, Key-Conditioned QA and Semi-Structured Extraction from OCR Clinical Reports
AI Starfish(AI海星)
MedStruct-S是面向OCR临床报告的基准,评估关键发现等三项任务,覆盖多类模型,发现仅编码器模型在非空值QA中表现更优,为模型选择提供可靠依据。
2026-08-20 cs.AI cs.CL cs.LG
Automatic Extraction of Causal Relations from Natural Language Texts: A Comprehensive Survey
University of Waterloo(滑铁卢大学)
从自然语言文本中自动提取因果关系是人工智能领域的一个具有挑战性的开放性问题。大多数早期的解决方案都是在小型和特定领域的数据集上手动构建语言和句法规则。然而,随着大数据的出现,可负担得起的计算能力的可用性以及最近机器学习的普及,解决这个问题的范式已经慢慢改变。机器现在被期望以领域独立的方式,在最少的监督下从标记数据中学习通用的因果提取规则。在本文中,我们提供了一个全面的调查因果关系抽取技术从这两种范式,并分析其相对的优势和劣势,为今后的工作提出建议。
2016-05-25 cs.AI cs.CL cs.IR
Multimodal Attribute Extraction
University of California(加利福尼亚大学);Diffbot(Diffbot公司)
信息抽取的主要目标是从非结构化数据中获取结构化信息。然而,大多数现有的方法只关注文本,忽略了其他类型的非结构化数据,如图像,视频和音频,其中包括越来越多的部分在Web上的信息。为了解决这个缺点,我们提出了多模态属性提取的任务。给定关于实体的非结构化和半结构化上下文信息的集合(例如文本描述或视觉提示),任务是提取实体的底层属性。在本文中,我们提供了一个数据集,其中包含超过200万个产品项目的混合媒体数据,以及700万个描述项目的属性-值对,这些项目可用于以弱监督方式训练属性提取器。我们提供了各种各样的基线,这些基线展示了个体信息模式对解决任务的相对有效性,以及研究人类的表现。
2017-11-29 cs.CL
ARID: A Deployable Edge AI System for Structured Information Extraction from Industrial Maintenance Work Orders
National Tsing Hua University(国立清华大学)
针对嵌入式离线处理维护工单需可预测结构化输出的问题,ARID在Jetson上结合双教师过滤、噪声感知合成、4位推理与语法约束解码,实现高F1的固定模式JSON提取,并验证输出有效性可迁移但语义不可迁移。
2026-09-22 cs.AI cs.CL cs.LG
SSDAU: Structured Semantic Data Augmentation for Joint Entity and Relation Extraction
State Key Laboratory for Novel Software Technology, Nanjing University, Nanjing, China(南京大学新型软件技术国家重点实验室);Amap, Alibaba Group, China(阿里巴巴集团阿地图);University of Alberta, Edmonton, Canada(阿尔伯塔大学);The University of Tokyo, Tokyo, Japan(东京大学)
提出结构化语义数据增强方法SSDAU,通过保留三元组感知语义结构、上下文感知编码和BERTopic过滤,提升联合实体关系抽取的泛化能力,在多个模型和数据集上优于现有方法。
2026-05-28 cs.AI cs.CL
Harnessing Generative LLMs for Enhanced Financial Event Entity Extraction Performance
Dongguk University(东国大学)
本文提出利用生成式大语言模型,通过参数高效微调将金融事件实体抽取转化为文本到结构化输出的生成任务,在CCKS 2019数据集上取得最优F1分数。
2025-04-20 cs.CL
Document Parsing Unveiled: Techniques, Challenges, and Prospects for Structured Information Extraction
Peking University(北京大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Beihang University(北京航空航天大学)
本文综述了文档解析研究,系统分类了现有方法,探讨了布局分析、多类型内容识别及VLM驱动的解析模型发展,总结了评估指标与挑战,提出了更准确可扩展的文档智能系统方向。
2026-04-04 cs.AI cs.CL cs.CV
Unsupervised Relation Extraction from Language Models using Constrained Cloze Completion
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
我们表明,国家的最先进的自我监督的语言模型可以很容易地用于从语料库中提取的关系,而不需要训练微调提取头。我们介绍了RE-Flex,一个简单的框架,执行约束完形填空完成预训练的语言模型进行无监督的关系抽取。RE-Flex使用上下文匹配来确保语言模型预测与来自与目标关系相关的输入语料库的支持证据相匹配。我们在多个关系抽取基准上进行了广泛的实验研究,并证明RE-Flex优于基于预训练语言模型的竞争无监督关系抽取方法,与次优方法相比,RE-Flex的性能最高可达27.8个$F_1$点。我们的研究结果表明,对语言模型的约束推理查询可以实现准确的无监督关系抽取。
2020-10-14 cs.CL
FrameNet CNL: a Knowledge Representation and Information Extraction Language
Institute of Mathematics and Computer Science, University of Latvia(拉脱维亚大学数学与计算机科学研究所)
提出了一种基于FrameNet的信息抽取和知识表示框架,称为FrameNet-CNL。该框架用于自然语言文档,并表示提取的知识,在一个定制的框架本体,明确的FrameNet-CNL释义文本可以自动生成多种语言。这种方法将信息抽取和CNL领域结合在一起,因为如果信息抽取解析器产生正确的知识表示,则可以认为源文本属于FrameNet-CNL。我们描述了一个国家的最先进的信息抽取解析器使用的国家新闻机构和推测,FrameNet-CNL最终可以塑造自然语言子集用于写新闻专线文章。
2014-06-10 cs.AI cs.CL cs.IR
Span-Oriented Information Extraction -- A Unifying Perspective on Information Extraction
University of Notre Dame(圣母大学);Colby College(科尔比学院)
针对信息抽取任务间异质性阻碍进展的问题,提出以文本片段为中心的统一视角,将各类信息抽取任务转化为同一基本面向片段的信息抽取任务的变体。
2024-03-18 cs.AI cs.CL cs.IR
SIFTING: A Novel LLM-Based Framework for Structured and Transparent Information Extraction from Clinical Free-Text Reports, with Application to Tumor Staging in Lung Cancer
Axana B.V.(阿克萨纳有限公司);University College London Hospitals NHS Foundation Trust(伦敦大学学院医院 NHS 基金会信托);University College London(伦敦大学学院);Mid & South Essex NHS Foundation Trust(中埃塞克斯及南埃塞克斯 NHS 基金会信托);NHS Greater Glasgow and Clyde(大格拉斯哥及克莱德 NHS)
SIFTING框架结合LLM与分段处理和严格输出控制,实现临床文本的准确透明信息提取,在肺癌T分期任务中准确率达90%,媲美最先进模型和专家,且完全可追溯。
2026-09-09 cs.CL
Multilingual Entity and Relation Extraction from Unified to Language-specific Training
Beihang University(北京航空航天大学);National Computer Network Emergency Response Technical Team/Coordination Center of China(国家计算机网络应急技术处理协调中心)
实体和关系抽取是信息抽取中的一个关键任务,其输出可用于下游的自然语言处理任务。现有的实体和关系抽取任务的方法主要集中在英语语料库,而忽略了其他语言。因此,在多语言环境中提高性能至关重要。同时,多语言培训通常用于通过从语言中转移知识来提高跨语言性能(例如,高资源)到其它(例如,低资源)语言。然而,语言干扰通常存在于多语言任务中,因为模型参数在所有语言之间共享。在本文中,我们提出了一个两阶段的多语言训练方法和一个联合模型称为多语言实体和关系抽取框架(mERE),以减轻跨语言的语言干扰。具体来说,我们随机连接不同语言的句子训练一个嵌入通用聚合器(LA),通过获得统一的语言表示缩小嵌入表示的距离。然后,我们通过调整特定于语言的Switcher(LS),其中包括几个独立的子模块来细化特定于语言的特征表示,分离参数,以减轻干扰。在此基础上,为了增强关系三元组的抽取,将句子表示与关系特征相连接,用于识别实体。大量的实验结果表明,我们的方法优于单语言和多语言的基线方法。此外,通过详细的分析表明,mERE是轻量级的,但在关系三元组抽取上是有效的,mERE{}易于移植到多领域任务的其他骨干模型中,进一步证明了该方法的有效性。
2023-01-11 cs.CL
Beyond Sentiment: Structured Information Extraction from Financial News
School of ASEE, Beihang University(北京航空航天大学ASEE学院);School of BME, Beihang University(北京航空航天大学生物医学工程学院);CAIR and CECS, VinUniversity(VinUniversity CAIR与CECS机构)
该研究针对金融情感分析仅压缩新闻为单一极性评分的局限,提出用LLaMA-3.1-70B提取金融新闻的结构化语义特征,结合情感与结构化特征可提升股票预测性能,为多维金融NLP开辟新方向。
2026-07-31 cs.CL
Unsupervised extraction, labelling and clustering of segments from clinical notes
Masaryk University(马萨里克大学);Masaryk Memorial Cancer Institute(马萨里克纪念癌症研究所);NUI Galway(爱尔兰国立大学戈尔韦分校)
针对捷克语临床笔记缺乏无监督信息提取工具的问题,提出一种无监督提取、标注并聚类临床特征片段的方法,并在捷克乳腺癌患者数据上验证了其实际应用价值。
2022-11-21 cs.CL
Zero-shot information extraction from radiological reports using ChatGPT
Zhejiang Lab(之江实验室);Peking University Cancer Hospital and Institute(北京大学肿瘤医院暨北京市肿瘤防治研究所);Zhejiang University(浙江大学)
本研究探索使用ChatGPT进行零样本信息提取,通过设计提示模板和后处理模块,从847份CT报告中提取信息,实验表明其性能与基线系统相当但仍有改进空间。
2023-09-07 cs.CL
PERLEX: A Bilingual Persian-English Gold Dataset for Relation Extraction
Iran University of Science and Technology(伊朗科技大学)
关系抽取是抽取句子中实体之间的语义关系的任务。它是一些自然语言处理任务,如信息抽取,知识抽取和知识库人口的重要组成部分。这项研究的主要动机来自缺乏波斯语关系抽取的数据集,以及从波斯语不断增长的大数据中提取知识以用于不同应用的必要性。在本文中,我们提出“PERLEX”作为关系抽取的第一个波斯语数据集,它是“Semeval-2010-Task-8”数据集的专家翻译版本。此外,本文讨论了波斯语关系抽取利用国家的最先进的语言不可知的算法。我们采用了六种不同的模型对建议的双语数据集进行关系抽取,包括一个非神经模型(作为基线),三个神经模型和两个由多语言BERT上下文单词表示提供的深度学习模型。实验结果表明,最大f值为77.66%(由BERTEM-MTB方法提供),是波斯语关系抽取的最新水平。
2020-05-13 cs.CL
Structured Prediction as Translation between Augmented Natural Languages
Amazon Web Services(亚马逊云服务)
我们提出了一个新的框架,增强自然语言之间的翻译(TANL),解决许多结构化的预测语言任务,包括联合实体和关系抽取,嵌套命名实体识别,关系分类,语义角色标注,事件提取,共指消解,对话状态跟踪。我们没有通过训练特定于任务的判别分类器来解决这个问题,而是将其视为增强自然语言之间的翻译任务,从中可以轻松提取任务相关信息。我们的方法可以匹配或优于所有任务的特定于任务的模型,特别是,在联合实体和关系抽取(CoNLL 04,ADE,NYT和ACE 2005数据集),关系分类(FewRel和TACRED),和语义角色标注(CoNLL-2005和CoNLL-2012)上实现了新的最先进的结果。我们在为所有任务使用相同的架构和超参数的同时实现了这一点,甚至在训练单个模型以同时解决所有任务(多任务学习)时也是如此。最后,我们表明,我们的框架也可以显着提高性能,在低资源制度,由于更好地使用标签语义。
2021-12-02 cs.CL cs.LG
CMNIE: An Information Extraction Benchmark for Chinese Military News
Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室)
CMNIE是面向中文军事新闻的联合信息抽取基准,含13,000实例,标注事件、参数、实体和关系,评估显示关系抽取和精确跨度匹配仍具挑战性。
2026-09-11 cs.CL
A Dynamic Self-Evolving Extraction System
Megagon Labs(Megagon实验室)
提出DySECT系统,通过LLM抽取三元组构建知识库,结合概率知识和图推理丰富知识,再反馈优化抽取器,形成闭环持续提升。
2026-06-04 cs.CL cs.LG
Improving Relation Extraction by Pre-trained Language Representations
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心)
当前最先进的关系抽取方法通常依赖于在预处理步骤中显式计算的一组词汇、句法和语义特征。训练特征提取模型需要额外的标注语言资源,这严重限制了关系抽取对新语言的适用性和可移植性。类似地,预处理引入了额外的误差源。为了解决这些限制,我们引入了TRE,一个用于关系抽取的Transformer,扩展了OpenAI生成预训练的Transformer [Radford et al.,2018年]。与以前的关系抽取模型不同,TRE使用预训练的深度语言表示而不是显式语言特征来通知关系分类,并将其与自关注的Transformer架构相结合,以有效地对实体提及之间的长期依赖关系进行建模。TRE允许我们在对关系抽取任务的学习语言表示进行微调之前,通过无监督的预训练仅从纯文本语料库中学习隐含的语言特征。TRE在TACRED和SemEval 2010 Task 8数据集上获得了最新的结果,分别达到了67.4和87.1的测试F1。此外,我们观察到样本效率的显著增加。只有20%的训练样本,TRE匹配我们的基线性能,我们的模型在100%的TACRED数据集上从头开始训练。我们开源我们的训练模型,实验和源代码。
2019-06-07 cs.CL