Retrieval-Augmented Generative Question Answering for Event Argument Extraction
The University of Texas at Dallas(德克萨斯大学达拉斯分校);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
事件参数提取长期以来一直被研究为基于提取方法的顺序预测问题,孤立地处理每个参数。虽然最近的工作提出了基于生成的方法来捕获交叉参数依赖,他们需要生成和后处理一个复杂的目标序列(模板)。受这些观察和最近预训练语言模型从演示示教学习的能力的启发。我们提出了一个检索增强生成QA模型(R-GQA)的事件参数提取。它检索最相似的QA对,并将其作为当前示例上下文的提示符进行增强,然后将参数解码为答案。我们的方法在各种设置(即完全监督,域转移和少量学习)中的性能都大大优于以前的方法。最后,我们提出了一种基于聚类的采样策略(JointEnc),并深入分析了不同策略对少样本学习性能的影响。这些实现可在https://www.example.com上获得github.com/xinyadu/RGQA
2022-11-14 cs.CL
Dynamic Global Memory for Document-level Argument Extraction
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
从新闻文章中提取事件的信息论元是信息抽取中一个具有挑战性的问题,它要求对每个文档有全局的上下文理解。虽然最近关于文档级提取的工作已经超越了单句,并增加了端到端模型的跨句推理能力,但它们仍然受到某些输入序列长度约束的限制,并且通常忽略事件之间的全局上下文。为了解决这个问题,我们引入了一个新的基于全局神经生成的框架,用于文档级事件参数提取,方法是构建一个文档内存存储来记录上下文事件信息,并利用它来隐式和显式地帮助解码后续事件的参数。实验结果表明,我们的框架大大优于以前的方法,它是更强大的对抗注释的例子与我们的约束解码设计。(Our代码和资源可在https://github.com/xinyadu/memory_docie上获得,以供研究之用。)
2022-09-18 cs.CL
Open-Vocabulary Argument Role Prediction for Event Extraction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
事件抽取中的论元角色是指事件与参与其中的论元之间的关系,尽管事件抽取的研究取得了很大的进展,但现有的研究仍然依赖于领域专家预先定义的角色。这些研究在扩展到新兴事件类型或没有可用角色的新领域时暴露出明显的弱点。因此,需要将更多的注意力和精力投入到自动定制参数角色上。在本文中,我们定义了一个重要但尚未被充分研究的任务:开放式词汇论元角色预测。此任务的目标是推断给定事件类型的一组参数角色。我们提出了一个新的无监督框架,RolePred的这项任务。具体来说,我们制定的角色预测问题作为一个填充任务,并构造提示预训练的语言模型,以生成候选角色。通过提取和分析候选参数,进一步合并和选择特定于事件的角色。为了规范该任务的研究,我们从Wikipedia收集了一个新的事件提取数据集,包括142个具有丰富语义的自定义参数角色。在这个数据集上,RolePred的性能大大优于现有的方法。源代码和数据集可在我们的GitHub存储库中获得:https://github.com/yzjiao/RolePred
2022-11-03 cs.CL
AQE: Argument Quadruplet Extraction via a Quad-Tagging Augmented Generative Approach
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);National University of Singapore(新加坡国立大学)
本文首次提出论元四元组抽取任务AQE,并构建大规模数据集,同时设计四标签增强生成式方法,实验证明其优于多个强基线。
2023-05-31 cs.CL
Event Extraction by Answering (Almost) Natural Questions
Cornell University(康奈尔大学)
事件提取问题需要检测事件触发器并提取其相应的参数。现有的工作在事件参数提取通常严重依赖于实体识别作为预处理/并发步骤,导致众所周知的错误传播的问题。为了避免这个问题,我们引入了一个新的范例,事件提取,制定它作为一个问答(QA)的任务,提取事件参数在一个端到端的方式。实证结果表明,我们的框架大大优于以前的方法;此外,它能够提取事件参数的角色没有看到在训练时(零样本学习设置)。
2021-02-04 cs.CL
Beyond Single-Event Extraction: Towards Efficient Document-Level Multi-Event Argument Extraction
University of Electronic Science and Technology of China(电子科技大学);National University of Singapore(新加坡国立大学);Singapore University of Social Sciences(新加坡社科大学)
针对单事件论元抽取效率低且忽视事件关联的问题,提出 DEEIA 模型,通过多事件提示及 DE、EIA 模块同时抽取文档级多事件论元,在四个数据集上达到最优并显著减少推理时间。
2024-06-16 cs.CL
Generating Uncontextualized and Contextualized Questions for Document-Level Event Argument Extraction
Arizona State University(亚利桑那州立大学);University of Arizona(亚利桑那大学)
本文提出无需人工参与的多种问题生成策略,通过结合非语境化与语境化问题提升文档级事件论元提取性能,并验证了策略的跨语料库迁移能力。
2024-04-07 cs.CL
Event Extraction by Associating Event Types and Argument Roles
事件抽取(EE)是从文本中获取结构化的事件知识,可以分为两个子任务:事件类型分类和元素抽取(即识别不同角色模式下的触发器和论元)。由于不同的事件类型总是拥有不同的提取模式(即,角色模式),以前的EE工作通常遵循一个孤立的学习范式,为不同的事件类型独立地执行元素提取。它忽略了事件类型和参数角色之间有意义的关联,导致不太频繁的类型/角色的性能相对较差。本文提出了一种新的神经联想框架EE任务。该算法首先通过构建文档级图来关联不同类型的句子节点,然后采用图注意力网络学习句子嵌入,从而实现对文档的类型分类。然后,通过建立一个通用的参数角色模式来实现元素提取,并使用参数继承机制来增强提取元素的角色偏好。因此,我们的模型在EE过程中考虑了类型和角色关联,从而实现了它们之间的隐式信息共享。实验结果表明,我们的方法始终优于最先进的EE方法在这两个子任务。特别地,对于具有较少训练数据的类型/角色,性能优于现有方法。
2022-08-18 cs.CL
REGen: A Reliable Evaluation Framework for Generative Event Argument Extraction
Department of Computer Science, Dartmouth College(计算机科学系,达特茅斯学院)
针对精确匹配低估生成式事件论元抽取性能的问题,提出REGen评估框架,融合精确、宽松与基于LLM的匹配,在六个数据集上平均提升23.93 F1,与人类判断对齐度达87.67%。
2025-09-10 cs.CL
Multilingual Generative Language Models for Zero-Shot Cross-Lingual Event Argument Extraction
University of California, Los Angeles(加州大学洛杉矶分校);Information Science Institute, University of Southern California(南加州大学信息科学研究所)
我们提出了一个利用多语言预训练生成语言模型的zero-shot跨语言事件参数提取(EAE)的研究。通过将EAE公式化为语言生成任务,我们的方法有效地编码事件结构并捕获参数之间的依赖关系。我们设计了语言无关的模板来表示事件参数结构,这些模板与任何语言都兼容,从而促进了跨语言迁移。我们提出的模型微调多语言预训练的生成语言模型,以生成句子,这些句子用从输入段落中提取的参数填充语言不可知模板。该模型在源语言上进行训练,然后直接应用于目标语言以进行事件参数提取。实验表明,该模型优于当前最先进的zero-shot跨语言EAE模型。全面的研究和错误分析,以更好地了解使用生成语言模型的优势和当前的局限性zero-shot跨语言迁移EAE。
2022-03-15 cs.CL
ULTRA: Unleash LLMs' Potential for Event Argument Extraction through Hierarchical Modeling and Pair-wise Self-Refinement
Bloomberg(彭博公司)
本研究针对文档级事件论元抽取任务,提出层级框架ULTRA,结合成对自精炼与LEAFER方法,缓解大语言模型位置偏差与论元边界定位难题,性能较强基线提升9.8%。
2025-03-20 cs.CL
Few-Shot Document-Level Event Argument Extraction
University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出少样本文档级事件论元抽取基准 FewDocAE,通过 N-Way-D-Doc 采样重构语料并调整现有文档级模型建立基线,揭示该任务在低资源场景下的挑战性。
2023-05-25 cs.CL
Neural Architectures for Open-Type Relation Argument Extraction
Ludwig Maxilian University of Munich(慕尼黑路德维希马克西米利安大学);University of Cambridge(剑桥大学)
在这项工作中,我们介绍了开放型关系参数提取(ORAE)的任务:给定语料库,查询实体Q和知识库关系(例如,“Q authored notable work with title X”),模型必须从语料库中提取非标准实体类型的参数(不能由标准命名实体标记器提取的实体,例如X:书籍或艺术作品的标题)。获得并发布基于WikiData关系的远程监督数据集以解决该任务。我们开发和比较了广泛的神经模型,这项任务产生了很大的改进,在一个强大的基线与神经问答系统。系统地比较了不同的句子编码架构和答案提取方法的影响。基于门控递归单元的编码器与条件随机场标记器相结合给出了最佳结果。
2018-09-30 cs.CL
Event Arguments Extraction via Dilate Gated Convolutional Neural Network with Enhanced Local Features
National University of Defense Technology(国防科技大学)
事件抽取在信息抽取中起着重要的作用。事件提取可以分为两个子任务:一个是事件触发器提取,另一个是事件参数提取。然而,事件参数提取的F-Score远低于事件触发器提取的F-Score,即在最近的工作中,事件触发器提取达到80.7%,而事件参数提取仅达到58%。在流水线结构中,事件参数提取的困难在于缺乏分类特征,计算量大。本文提出了一种基于多层扩张门控卷积神经网络(EE-DGCNN)的事件提取方法。此外,增强的本地信息被纳入到词的功能,分配事件参数角色的触发器预测的第一个子任务。数值实验表明,显着的性能改善超出了最先进的事件提取方法在现实世界的数据集。进一步分析了提取过程,并通过实验分析了影响性能提高的相关因素。
2020-06-02 cs.CL cs.LG
Event-Arguments Extraction Corpus and Modeling using BERT for Arabic
Birzeit University(比尔宰特大学)
本文构建了阿拉伯语事件-论元抽取语料库hadath,并提出基于BERT文本蕴含的事件关系抽取方法,取得94.01%的F1分数,还构建域外测试集testNLI验证泛化能力,并实现了端到端抽取系统。
2024-07-30 cs.CL
Enhancing Document-level Argument Extraction with Definition-augmented Heuristic-driven Prompting for LLMs
School of Engineering and Informatics, University of Sussex(萨塞克斯大学工程与信息学院);International Business School Suzhou, Xi’an Jiaotong-Liverpool University(西交利物浦大学苏州国际商学院);Management School, University of Liverpool(利物浦大学管理学院)
本文提出定义增强启发式驱动提示(DHP)方法,结合定义、启发式规则与思维链推理,提升大语言模型在文档级事件论元抽取中的性能并减少对大规模标注数据的依赖。
2024-08-30 cs.CL
LLMs for Argument Mining: Detection, Extraction, and Relationship Classification of pre-defined Arguments in Online Comments
School of Computing and Information Systems, The University of Melbourne(墨尔本大学计算与信息系统学院);Language Technologies Institute, Carnegie Mellon University(卡内基梅隆大学语言技术研究所)
本文评估了四个最先进LLM在三个论点挖掘任务上的表现,发现大型和微调模型整体表现强劲但环境成本高,且在处理长篇细微和情绪化评论时存在系统性缺陷。
2025-05-29 cs.CL
CUP: Curriculum Learning based Prompt Tuning for Implicit Event Argument Extraction
East China Normal University(华东师范大学);Fudan University(复旦大学)
隐式事件参数提取(EAE)的目的是识别可能分散在文档中的参数。以往的研究大多集中在学习参数和触发器之间的直接关系,而隐含的关系与长程依赖没有得到很好的研究。此外,最近的基于神经网络的方法依赖于大量的标记数据进行训练,由于高标记成本,这是不可用的。本文提出了一种基于课程学习的提示微调(CUP)方法,通过四个学习阶段来解决内隐EAE。根据触发器节点在语义图中的关系定义阶段,很好地捕捉了参数和触发器之间的长程依赖关系。此外,我们集成了一个基于提示的编码器-解码器模型,以在每个阶段从预训练的语言模型(PLM)中获取相关知识,其中提示模板与学习进度相适应,以增强参数的推理。在两个著名的基准数据集上的实验结果显示了我们所提出的方法的巨大优势。特别是,我们在完全监督和低数据场景中的表现优于最先进的模型。
2022-06-12 cs.CL
Bi-Directional Iterative Prompt-Tuning for Event Argument Extraction
Huazhong University of Science and Technology(华中科技大学)
近年来,提示微调在事件论元抽取中引起了越来越多的关注。然而,现有的提示微调方法由于缺乏对实体信息的考虑而没有取得令人满意的性能。在本文中,我们提出了一个双向迭代提示微调方法EAE,EAE任务被视为完形填空风格的任务,充分利用实体信息和预训练的语言模型(PLM)。此外,我们的方法探讨事件的论点相互作用,通过引入上下文实体的论点作用到提示建设。由于模板和动词化器是完形填空提示语中的两个重要组成部分,本文提出利用角色标签语义知识构造语义动词化器,并设计了三种模板用于EAE任务。ACE 2005英语数据集上的实验表明,该方法显着优于同行国家的最先进的方法。我们的代码可在https://github.com/HustMinsLab/BIP上获得。
2022-10-28 cs.CL
Event Argument Extraction using Causal Knowledge Structures
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
事件参数提取是指从非结构化文本中提取感兴趣的特定事件的结构化信息的任务。现有的作品表现出穷人的能力,提取因果事件的论点,如原因和后效应。此外,大多数现有的作品在句子层面上模拟这一任务,将上下文限制在局部范围内。虽然它可能对短跨度的文本有效,但对于较长的文本(如新闻文章),经常观察到事件的参数不一定出现在包含事件触发器的同一个句子中。为了解决论点分散在句子中的问题,在这项任务中使用全局上下文变得至关重要。在我们的工作中,我们提出了一个外部知识辅助的方法来注入文档级的事件信息,以帮助提取复杂的事件参数。我们通过从ConceptNet和Wikipedia中提取相关的事件因果结构,为我们的事件注释数据集开发了一个因果网络。我们使用提取的事件因果特征的双向Transformer编码器,有效地捕捉长距离的句子间的依赖关系。我们报告的有效性,我们提出的方法,通过定性和定量分析。在这项任务中,我们建立了我们的研究结果的事件注释数据集在5种印度语言。该数据集通过标记实体类型(如时间,地点)以及更复杂的参数类型(如原因,After-Effect)的参数,进一步增加了任务的复杂性。我们的方法在所有五种语言中实现了最先进的性能。由于我们的工作不依赖于任何语言特定的功能,它可以很容易地扩展到其他语言。
2021-05-02 cs.CL
Enhancing Argument Structure Extraction with Efficient Leverage of Contextual Information
Westlake University(西湖大学);Tencent Inc(腾讯公司);Westlake Institute for Advanced Study(西湖高等研究院)
针对论元结构抽取中上下文信息利用不充分的问题,提出ECASE模型,通过序列注意力模块、距离加权损失及数据增强提升性能,在5个跨领域数据集上达到SOTA。
2023-10-08 cs.CL
Event Causality Extraction with Event Argument Correlations
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Beijing University of Posts and Telecommunications(北京邮电大学)
事件因果关系识别是事件因果关系理解的一项重要任务,其目的是检测两个给定文本事件之间是否存在因果关系。然而,ECI任务忽略了关键的事件结构和因果因果关系分量信息,使其难以下游应用。在本文中,我们探讨了一个新的任务,即事件因果关系提取(ECE),旨在提取因果事件因果关系对与他们的结构化事件信息从纯文本。ECE任务更具挑战性,因为每个事件可以包含多个事件参数,在事件之间建立细粒度的相关性来决定因果事件对。因此,我们提出了一种方法与双网格标记计划捕捉内和事件间的论点相关性ECE。此外,我们设计了一个事件类型增强的模型架构,以实现双网格标记计划。实验证明了我们的方法的有效性,和广泛的分析指出了几个未来的方向ECE。
2023-01-27 cs.CL
Graph Transformer Networks with Syntactic and Semantic Structures for Event Argument Extraction
University of Oregon(俄勒冈大学);VinAI Research(越南人工智能研究院)
事件论元提取(EAE)的目标是找到给定事件触发词的每个实体提及的角色。在以前的工作中已经表明,句子的句法结构有助于EAE的深度学习模型。然而,在这样的现有工作的一个主要问题是,他们未能利用句子的语义结构,以诱导有效的表征EAE。因此,在这项工作中,我们提出了一种新的模型EAE,利用图Transformer网络(GTN)的句子的句法和语义结构,学习更有效的句子结构EAE。此外,我们引入了一种新的归纳偏差的基础上的信息瓶颈,以提高推广的EAE模型。进行了大量的实验,以证明所提出的模型的好处,导致国家的最先进的EAE标准数据集上的性能。
2020-10-26 cs.CL
ArgCMV: An Argument Summarization Benchmark for the LLM-era
Siebel School of Computing and Data Science(计算与数据科学学院)
本文针对ArgKP21数据集局限性,利用大语言模型构建了包含约12K条真实在线辩论论证的ArgCMV关键点提取基准,并通过实验现有基线和开源模型验证了其更高复杂性与研究价值。
2025-08-27 cs.CL
Efficient Argument Structure Extraction with Transfer Learning and Active Learning
Bloomberg(彭博);University of Michigan(密歇根大学)
自动提取论元结构面临着两个挑战:(1)编码长期上下文以促进全面理解,以及(2)提高数据效率,因为构建高质量的论元结构是耗时的。在这项工作中,我们提出了一种新的上下文感知的基于transformer的参数结构预测模型,在五个不同的领域,显着优于依赖于功能或只编码有限的上下文的模型。为了解决数据注释的困难,我们研究了两种互补的方法:(i)迁移学习,利用现有的注释数据来提高模型在新目标领域的性能,以及(ii)主动学习,战略性地识别少量样本进行注释。我们进一步提出了模型独立的样本采集策略,可以推广到不同的领域。通过大量的实验,我们表明,我们的简单而有效的收购策略产生竞争力的结果对三个强大的比较。结合迁移学习,在跨领域的主动学习的早期迭代期间可以进一步实现显著的F1分数提升(5-25)。
2022-04-01 cs.CL
A Multi-Format Transfer Learning Model for Event Argument Extraction via Variational Information Bottleneck
East China Normal University(华东师范大学)
事件论元抽取(Event argument extraction,EAE)是从文本中抽取具有给定角色的论元的方法,在自然语言处理中得到了广泛的研究。大多数以前的工作已经取得了良好的性能,在特定的EAE数据集与专用的神经架构。然而,这些架构通常难以适应具有各种注释模式或格式的新数据集/场景。此外,它们依赖于大规模的标记数据进行训练,这在大多数情况下由于高标记成本而不可用。本文提出了一种具有变信息瓶颈的多格式迁移学习模型,该模型利用现有数据集中的信息,特别是公共知识,在新数据集中进行EAE。具体来说,我们引入了一个共享特定的提示框架,从不同格式的数据集学习格式共享和格式特定的知识。为了进一步吸收EAE的共同知识并消除不相关的噪声,我们将变分信息瓶颈集成到我们的体系结构中,以改进共享表示。我们在三个基准数据集上进行了广泛的实验,并在EAE上获得了新的最先进的性能。
2022-09-03 cs.CL
Prompt for Extraction? PAIE: Prompting Argument Interaction for Event Argument Extraction
SenseTime Research(商汤科技研究院);Nanyang Technological University(南洋理工大学);KU Leuven(鲁汶大学);Singapore Management University(新加坡管理大学);Peking University(北京大学)
在本文中,我们提出了一个有效而高效的模型PAIE为事件级和文档级事件参数提取(EAE),这也推广以及当有缺乏训练数据。一方面,PAIE对提取目标进行提示微调,以充分利用预训练的语言模型(PLM)。它引入了两个基于提示的跨度选择器,用于在每个角色的输入文本中选择开始/结束标记。另一方面,它通过多角色提示捕获参数交互,并通过二分匹配损失进行联合优化。此外,通过灵活的提示设计,PAIE可以提取具有相同角色的多个参数,而不是传统的启发式阈值调整。我们对三个基准进行了广泛的实验,包括句子和文档级别的EAE。结果表明,PAIE有很好的改进(在三个基准测试中,PAIE-base和PAIE-large的F1平均增益分别为3.5%和2.3%)。进一步的分析证明了效率,推广到Few-Shot设置,和不同的提取提示微调策略的有效性。我们的代码可在https://github.com/mayubo2333/PAIE上获得。
2022-03-27 cs.AI cs.CL
Enhancing Document-level Event Argument Extraction with Contextual Clues and Role Relevance
University of Electronic Science and Technology of China(电子科技大学)
针对文档级事件论元抽取中忽略非论元上下文线索和角色相关性的问题,提出SCPRG模型,通过STCP模块聚合线索词信息、RLIG模块捕获角色语义相关性,在RAMS和WikiEvents数据集上取得SOTA且具可解释性。
2023-10-20 cs.CL
Schema-Constrained Document-Level Event Argument Extraction with Lightweight LLM Fine-Tuning
University of Naples Federico II(那不勒斯费德里科二世大学);University of Salerno(萨勒诺大学)
研究文档级模式约束事件论元抽取,结合角色集注入、参数高效监督微调及确定性解码后处理方法,使微调后的中型开放模型在MAVEN-ARG评估中优于GPT基线,最好模型在事件共指级别达42.39% F1值。
2026-07-21 cs.CL
Video Event Extraction via Tracking Visual States of Arguments
Tsinghua University(清华大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学)
视频事件提取的目的是从视频中检测出显著事件,并识别每个事件的论点以及它们的语义角色。现有的方法侧重于捕捉每帧的整体视觉场景,忽略了细粒度的参数级信息。受事件作为状态变化的定义的启发,我们提出了一种新的框架来检测视频事件,通过跟踪所有涉及的参数的视觉状态的变化,预计将提供最翔实的证据提取视频事件。为了捕捉参数的视觉状态变化,我们将它们分解为对象内像素的变化、对象的位移以及多个参数之间的交互。我们进一步提出了对象状态嵌入,对象运动感知嵌入和参数交互嵌入来编码和跟踪这些变化。各种视频事件提取任务的实验表明,显着的改进相比,国家的最先进的模型。特别是在动词分类上,我们在视频情景识别的F1@5中获得了3.49%的绝对增益(19.53%的相对增益)。
2022-11-05 cs.CL cs.CV
Language Model Priming for Cross-Lingual Event Extraction
University of Southern California Information Sciences Institute(南加州大学信息科学研究所)
我们提出了一种新的,语言不可知的方法来“启动”的语言模型的任务的事件提取,提供特别有效的性能在低资源和zero-shot跨语言设置。通过启动,我们根据运行时对模型提出的问题,以不同的方式增加对Transformer堆栈的语言模型的输入。例如,如果模型被要求识别触发器“protected”的参数,我们将把该触发器作为输入的一部分提供给语言模型,允许它为候选参数生成不同的表示,而不是在同一个句子中的其他地方被要求识别触发器“arrest”的参数。我们表明,通过使语言模型能够更好地补偿稀疏和嘈杂的训练数据的不足,我们的方法在zero-shot跨语言设置中显著提高了触发和参数检测以及分类。
2021-09-25 cs.CL
Joint Event Extraction via Structural Semantic Matching
Peking University(北京大学)
本文提出JSSM模型,利用STE和DSE编码事件类型语义并进行结构匹配,通过双向注意力联合完成事件检测与论元抽取,在ACE2005上显著提升性能。
2023-06-06 cs.CL
Textual Entailment for Event Argument Extraction: Zero- and Few-Shot with Multi-Source Learning
HiTZ Basque Center for Language Technologies(HiTZ巴斯克语言技术中心);Raytheon BBN Technologies(雷神BBN技术公司);University of the Basque Country UPV/EHU(巴斯克大学UPV/EHU)
最近的工作表明,NLP任务(如关系抽取(RE))可以使用动词化重新转换为文本蕴涵任务,由于预先训练的蕴涵模型,在zero-shot和Few-Shot设置中具有强大的性能。事实上,在目前的RE数据集的关系很容易用语言表达的怀疑是否蕴涵将是有效的,在更复杂的任务。在这项工作中,我们证明了蕴涵在事件参数提取(EAE)中也是有效的,在ACE和WikiEvents中分别将手动注释的需要减少到50%和20%,同时实现与完整训练相同的性能。更重要的是,我们表明,重铸EAE蕴涵的依赖模式,这一直是一个路障域之间的注释转移。由于蕴涵,ACE和WikiEvents之间的多源传输进一步将注释减少到不传输的完整训练的10%和5%(分别)。我们的分析表明,获得良好结果的关键是使用多个蕴涵数据集来预训练蕴涵模型。与以前的方法类似,我们的方法需要少量的手动语言化工作:每个事件参数类型只需要不到15分钟,并且可以与具有不同专业知识水平的用户实现可比的结果。
2022-05-03 cs.CL
Probing and Fine-tuning Reading Comprehension Models for Few-shot Event Extraction
Georgia Institute of Technology(佐治亚理工学院);Tsinghua University(清华大学)
我们研究从文本数据中提取事件的问题,这需要检测目标事件类型及其参数。通常,事件检测和参数检测子任务都被公式化为监督序列标记问题。我们认为,这样训练的事件提取模型本质上是标签饥饿,并可以推广到不同领域和文本体裁差。我们提出了一个阅读理解框架的事件提取。具体来说,我们制定了事件检测作为一个文本蕴涵预测问题,和参数检测作为一个问题回答问题。通过构造合适的查询模板,我们的方法可以有效地从预训练的阅读理解模型中提取丰富的任务和标签语义知识。此外,我们的模型可以用少量数据进行微调,以提高其性能。我们的实验结果表明,我们的方法表现强劲的zero-shot和Few-Shot事件提取,它达到了最先进的性能ACE 2005基准训练时,完全监督。
2020-10-21 cs.CL
CMNIE: An Information Extraction Benchmark for Chinese Military News
Laboratory for Big Data and Decision, National University of Defense Technology(国防科技大学大数据与决策实验室)
CMNIE是面向中文军事新闻的联合信息抽取基准,含13,000实例,标注事件、参数、实体和关系,评估显示关系抽取和精确跨度匹配仍具挑战性。
2026-09-11 cs.CL
IAM: A Comprehensive and Large-Scale Dataset for Integrated Argument Mining Tasks
DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);Singapore University of Technology and Design(新加坡科技设计大学);The Chinese University of Hong Kong(香港中文大学);National University of Singapore(新加坡国立大学)
传统上,辩论通常需要人工准备过程,包括阅读大量文章,选择主张,确定主张的立场,寻找主张的证据等。随着人工智能辩论近年来越来越受到关注,值得探索将辩论系统中涉及的繁琐过程自动化的方法。在这项工作中,我们介绍了一个全面的大型数据集命名为IAM,它可以应用于一系列的参数挖掘任务,包括索赔提取,立场分类,证据提取等,我们的数据集是从123个主题相关的超过1k篇文章中收集。数据集中的近70k个句子基于它们的论点属性(例如,主张、立场、证据等)。我们进一步提出了两个新的集成的论点挖掘任务与辩论准备过程:(1)主张提取与立场分类(CESC)和(2)索赔证据对提取(CEPE)。我们分别对每个集成任务采用管道方法和端到端方法。有前途的实验结果报告显示我们提出的任务的价值和挑战,并激励未来的研究论点挖掘。
2022-07-16 cs.CL
RAAT: Relation-Augmented Attention Transformer for Relation Modeling in Document-Level Event Extraction
Tencent Cloud(腾讯云)
在文档级事件抽取(DEE)任务中,事件论元通常分散在句子中(跨句子问题),多个事件可能位于一个文档中(多事件问题)。在本文中,我们认为,事件参数的关系信息是解决上述两个问题的重要意义,并提出了一个新的DEE框架,它可以建模的关系依赖,称为扩展文档级事件提取(ReDEE)。更具体地说,这个框架的特点是一个新的和定制的Transformer,命名为增强注意力的Transformer(RAAT)。RAAT是可扩展的,以捕获多尺度和多数量的参数关系。为了进一步利用关系信息,我们引入了一个单独的事件关系预测任务,并采用多任务学习方法来显式地提高事件提取性能。大量的实验表明,该方法的有效性,它可以实现最先进的性能在两个公共数据集。我们的代码可以在https://github上找到。com/YoutuResearch/RAAT.
2022-06-07 cs.CL
Rapid Customization for Event Extraction
Raytheon BBN Technologies(雷神BBN技术公司)
我们提出了一个系统,快速定制事件提取能力,找到新的事件类型和他们的参数。该系统允许用户通过探索未注释的语料库来查找、扩展和过滤新事件类型的事件触发器。然后,系统将自动生成提及级事件注释,并训练神经网络模型以查找相应的事件。此外,该系统使用ACE语料库来训练参数模型,用于为任何事件类型提取Actor、Place和Time参数,包括在其训练数据中未看到的参数。实验表明,在每个事件类型的人工工作时间不到10分钟的情况下,系统对67种新事件类型都取得了良好的性能。代码、文档和演示视频将在github.com上作为开源发布。
2018-09-20 cs.CL
PoKE: A Prompt-based Knowledge Eliciting Approach for Event Argument Extraction
East China Normal University(华东师范大学)
在许多自然语言处理任务中,通过基于语义的学习从预先训练的语言模型中获取知识已经显示出巨大的潜力。然而,更复杂的任务,如事件提取的应用研究较少,因为提示的设计是不直接的结构化事件包含各种触发器和参数。同时,当前的条件生成方法采用大的编码器-解码器模型,这对于训练和服务是昂贵的。在本文中,我们提出了一种新的基于事件的方法,它同时elaborates独立和联合知识的不同事件的事件参数提取。在ACE 2005数据集上的实验结果表明了该方法的优越性。特别是,我们的方法优于最近的先进方法在完全监督和低资源的情况下。
2022-05-13 cs.AI cs.CL
From Simple to Complex: A Progressive Framework for Document-level Informative Argument Extraction
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);School of Intelligence Science and Technology, Peking University(北京大学智能科学与技术学院);Center for Data Science, Peking University(北京大学数据科学中心);National Key Laboratory of General Artificial Intelligence(通用人工智能全国重点实验室)
针对文档级事件论元抽取中按出现顺序预测易引入噪声的问题,提出一种由简到繁的渐进式框架,优先抽取简单事件以提供可靠记忆辅助复杂事件预测,在 WikiEvents 上 F1 提升 1.4%。
2023-10-25 cs.CL
A Joint Identification Approach for Argumentative Writing Revisions
University of Pittsburgh(匹兹堡大学)
以前的修订识别工作通常使用管道方法:首先进行修订提取以识别修订的位置,然后对识别的修订进行修订分类。这样的设置将修订提取步骤的错误传播到修订分类步骤。本文提出了一种方法,确定修订位置和修订类型联合解决错误传播的问题。它利用修订的序列表示,并进行序列标记以进行修订标识。基于突变的方法被用来更新识别序列。结果表明,我们提出的方法产生更好的性能,修订位置提取和修订类型分类相比,管道基线。
2017-02-28 cs.CL
Event-based clinical findings extraction from radiology reports with pre-trained language model
University of Washington(华盛顿大学)
放射学报告包含放射科医生在解读图像期间记录的各种丰富的临床异常。放射学发现的综合语义表示将使广泛的二次使用应用程序能够支持诊断、分诊、结果预测和临床研究。在本文中,我们提出了一个新的语料库的放射学报告注释的临床发现。我们的注释模式捕获了在成像(“病变”)和其他类型的临床问题(“医学问题”)上可观察到的病理发现的详细表示。该模式使用基于事件的表示来捕获细粒度的细节,包括断言,解剖结构,特征,大小,计数等。我们的黄金标准语料库包含总共500个注释的计算机断层扫描(CT)报告。我们使用两种最先进的深度学习架构提取触发器和参数实体,包括BERT。然后,我们预测触发器和参数实体(称为参数角色)之间的联系,使用基于BERT的关系抽取模型。我们使用在我们机构的300万份放射学报告上预训练的BERT模型实现了最佳提取性能:90.9%-93.4%F1用于寻找触发器72.0%-85.6%F1用于参数角色。为了评估模型的可推广性,我们使用了从MIMIC胸部X射线(MIMIC-CXR)数据库中随机抽样的外部验证集。该验证集的提取性能为95.6%,用于寻找触发器,79.1%-89.7%用于参数角色,表明该模型适用于不同成像模式的跨机构数据。我们从MIMIC-CXR数据库中的所有放射学报告中提取发现事件,并将提取结果提供给研究团体。
2021-12-27 cs.CL
Document-Level Event Extraction via Human-Like Reading Process
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Beijing University of Posts and Telecommunications(北京邮电大学)
文档级事件提取(DEE)特别棘手,因为它带来了两个挑战:分散参数和多事件。第一个挑战意味着一个事件记录的参数可以驻留在文档中的不同句子中,而第二个挑战反映了一个文档可以同时包含多个这样的事件记录。本文从人类阅读认知的角度出发,提出了一种基于文本事件的人类阅读启发提取器(Human Reading inspired Extractor for Document Events,HRE),该方法将文本事件分解为粗读和精读两个迭代阶段。具体而言,第一阶段浏览文档以检测事件的发生,第二阶段用于提取特定的事件参数。对于每一个具体的事件角色,精细阅读从句子到字符分层工作,以确定跨句子的论点,从而解决分散的论点问题。同时,通过多轮的粗读探索,发现未检测到的事件,从而解决了多事件问题。实验结果表明,HRE优于以往的竞争方法。
2022-02-07 cs.CL
One Small and One Large for Document-level Event Argument Extraction
Xinjiang University(新疆大学);Renmin University(中国人民大学);Tsinghua University(清华大学)
针对文档级事件论元抽取中语义边界区分难和冗余信息干扰的问题,提出基于小语言模型的CsEAE模型和面向大语言模型的生成式提示方法,在多个数据集上取得显著性能提升。
2024-11-08 cs.CL
An AMR-based Link Prediction Approach for Document-level Event Argument Extraction
Fudan University(复旦大学);Amazon AWS AI(亚马逊AWS人工智能);Westlake University(西湖大学)
本文将文档级事件论元抽取重新表述为AMR图上的链接预测问题,提出定制化AMR图(TAG)压缩冗余信息并融入跨度与周围事件信息,结合图神经网络在WikiEvents和RAMS上以更少推理时间超越现有最优模型。
2023-05-30 cs.CL
GENEVA: Benchmarking Generalizability for Event Argument Extraction with Hundreds of Event Types and Argument Roles
University of California, Los Angeles(加州大学洛杉矶分校);University of Southern California(南加州大学)
本文通过将 FrameNet 转换为事件要素抽取本体,构建了含 115 种事件类型和 220 种论元角色的 GENEVA 基准,并评测六个模型,揭示非实体论元角色使最佳模型 F1 仅达 39%,为 EAE 泛化性研究提出新挑战。
2023-06-01 cs.CL
A Compressive Memory-based Retrieval Approach for Event Argument Extraction
University of Electronic Science and Technology of China(电子科技大学);National University of Singapore(新加坡国立大学)
针对现有基于检索的事件论元抽取方法存在的输入长度限制、检索器与推理模型有差距的问题,提出压缩记忆检索机制,在三个公开数据集上取得了最优性能。
2024-09-14 cs.CL
Causal Intervention-based Prompt Debiasing for Event Argument Extraction
East China Normal University(华东师范大学);Fudan University(复旦大学)
在信息抽取任务中,特别是在低数据量的情况下,基于特征的方法变得越来越流行。通过将微调任务格式化为预训练目标,基于训练的方法有效地解决了数据稀缺问题。然而,以往的研究很少探讨不同的提示形成策略之间的差异。在这项工作中,我们比较了两种提示,基于名称的提示和基于本体的提示,并揭示了如何基于本体的提示方法优于其对应的zero-shot事件参数提取(EAE)。此外,我们分析了潜在的风险,基于本体的提示通过因果的观点,并提出了一个因果干预的debias方法。在两个基准测试上的实验表明,通过我们的debias方法的修改,基线模型变得更加有效和强大,在抵抗对抗攻击显着改善。
2022-10-04 cs.AI cs.CL
MAILEX: Email Event and Argument Extraction
George Mason University(乔治梅森大学);University of Maryland(马里兰大学)
本文提出首个对话式邮件线程事件抽取数据集 MailEx,定义了 10 种事件类型和 76 个论元,通过对比三类方法的实验揭示了邮件事件抽取的挑战并呼吁更多研究。
2023-10-21 cs.AI cs.CL
Enriched Attention for Robust Relation Extraction
Bosch Center for Artificial Intelligence(博世人工智能中心)
随着神经网络的兴起,关系抽取模型的性能有了很大的提高。然而,神经关系抽取的一个关键问题是鲁棒性:模型不能很好地扩展到具有多个实体和关系的长句。在这项工作中,我们解决这个问题,丰富的注意力机制。注意力允许模型关注输入句子中与关系抽取相关的部分。我们建议,以丰富的注意力功能与功能建模知识的关系参数和它们之间的最短依赖路径。因此,对于不同的关系论元,该模型可以关注句子的不同部分。我们的模型在两个流行的基准测试中使用可比的设置优于先前的工作,我们的分析证实,它确实可以扩展到具有许多实体的长句。
2021-04-22 cs.CL
A Scalable Cross-Domain Event Extraction System via a Unified Generative Training Framework
German Research Center for Artificial Intelligence(德国人工智能研究中心);Carl von Ossietzky University of Oldenburg(奥尔登堡大学)
该研究针对现有事件抽取方法可扩展性与跨域泛化不足的问题,提出统一生成式序列到序列框架,微调预训练语言模型,构建支持多功能的网络应用平台,实现跨域事件抽取。
2026-08-25 cs.CL
PESE: Event Structure Extraction using Pointer Network based Encoder-Decoder Architecture
IIT Kharagpur(印度理工学院克勒格布尔分校)
事件抽取(EE)的任务是从文本中发现事件和与事件相关的论元信息,并以结构化的格式表示它们。以前的大多数工作都试图通过分别识别多个子结构并将其聚合以获得完整的事件结构来解决这个问题。这些方法的问题在于,它无法识别事件参与者(事件触发器、参数和角色)之间的所有相互依赖关系。在本文中,我们表示每个事件记录在一个唯一的元组格式,包含触发短语,触发类型,参数短语,和相应的角色信息。我们提出的基于指针网络的编码器-解码器模型通过利用事件参与者之间的交互在每个时间步生成事件元组,并为EE任务提供真正的端到端解决方案。我们评估我们的模型在ACE 2005数据集,实验结果表明,我们的模型的有效性,通过实现竞争力的性能相比,国家的最先进的方法。
2022-11-22 cs.CL
TREND: Trigger-Enhanced Relation-Extraction Network for Dialogues
National Taiwan University(台湾大学)
对话关系抽取(DRE)的目的是识别给定对话中两个实体之间的关系。在会话过程中,说话人会通过明示或暗示的线索暴露出自己与特定实体的关系,这种证据被称为“触发点”。然而,触发器注释可能并不总是可用于目标数据,因此利用这些信息来增强性能是具有挑战性的。因此,本文提出学习如何从具有触发器注释的数据中识别触发器,然后将触发器查找能力转移到其他数据集以获得更好的性能。实验结果表明,该方法能够有效地提高未知关系的关系抽取性能,并证明了该模型在不同领域和数据集之间的可移植性.
2022-07-25 cs.CL
Contextualized Word Embeddings Enhanced Event Temporal Relation Extraction for Story Understanding
University of Southern California(南加州大学);Information Sciences Institute(信息科学研究所)
学习事件之间的因果关系和时间关系是深入了解故事和常识的重要一步。虽然有丰富的数据集与事件关系的故事理解,许多没有经验的结果与他们相关联。在这项工作中,我们建立了强大的基线事件的时间关系抽取两个欠开发的故事叙事数据集:丰富的事件描述(RED)和因果和时间关系计划(CaTeRS)。据我们所知,这是在这两个数据集上报告的第一个结果。我们证明了基于神经网络的模型可以优于一些强大的传统的基于语言特征的模型。我们还进行了比较研究,以显示的贡献,采用语境化的词嵌入(BERT)的事件时间关系抽取的故事。提供详细的分析,以更好地了解结果。
2019-04-26 cs.CL