Schema-Constrained Document-Level Event Argument Extraction with Lightweight LLM Fine-Tuning
University of Naples Federico II(那不勒斯费德里科二世大学);University of Salerno(萨勒诺大学)
研究文档级模式约束事件论元抽取,结合角色集注入、参数高效监督微调及确定性解码后处理方法,使微调后的中型开放模型在MAVEN-ARG评估中优于GPT基线,最好模型在事件共指级别达42.39% F1值。
2026-07-21 cs.CL
PoKE: A Prompt-based Knowledge Eliciting Approach for Event Argument Extraction
East China Normal University(华东师范大学)
在许多自然语言处理任务中,通过基于语义的学习从预先训练的语言模型中获取知识已经显示出巨大的潜力。然而,更复杂的任务,如事件提取的应用研究较少,因为提示的设计是不直接的结构化事件包含各种触发器和参数。同时,当前的条件生成方法采用大的编码器-解码器模型,这对于训练和服务是昂贵的。在本文中,我们提出了一种新的基于事件的方法,它同时elaborates独立和联合知识的不同事件的事件参数提取。在ACE 2005数据集上的实验结果表明了该方法的优越性。特别是,我们的方法优于最近的先进方法在完全监督和低资源的情况下。
2022-05-13 cs.AI cs.CL
ARGUS: Theory-of-Mind Guided Argument Generation with Strategy-Aware Planning and Knowledge Grounding
InspireOmni AI;The Hong Kong Polytechnic University(香港理工大学)
该研究提出基于智能体的Argus框架,结合心理理论推理、策略感知规划等,在三个基准上优于基线,可有效改变抗拒受众立场。
2026-08-26 cs.CL
Indicative Summarization of Long Discussions
Leipzig University(莱比锡大学);University of Groningen(格罗宁根大学)
本文提出无监督LLM方法,通过论点聚类、标签生成与论证框架分类构建两级目录式摘要,并经19个LLM评估和Discussion Explorer用户研究验证其导航价值。
2023-11-03 cs.CL
Before Name-calling: Dynamics and Triggers of Ad Hominem Fallacies in Web Argumentation
Technische Universität Darmstadt(达姆施塔特工业大学);Bauhaus-Universität Weimar(魏玛包豪斯大学)
不犯谬误的辩论是理想辩论的主要要求之一。但是,即使辩论规则得到严格执行,错误的论点受到惩罚,辩论者也常常会用人身攻击的论点攻击对手。由于现有的研究缺乏对人身攻击论点的类型学及其潜在原因的坚实的实证调查,本文通过以下方式填补了这一空白:(1)进行几次大规模的注释研究,(2)实验各种神经架构并验证我们的工作假设,例如争议或合理性,以及(3)使用可解释的神经网络架构提供对人身攻击触发因素的语言学见解。
2018-02-23 cs.CL
Unsupervised Cycle Detection in Agentic Applications
IBM Research(IBM研究院)
针对大语言模型智能体应用中隐藏执行循环难以被传统平台检测的问题,提出结合结构与语义分析的无监督循环检测框架,在相关数据集上取得优于单一方法的检测效果。
2025-10-31 cs.AI cs.CL cs.MA
Unsupervised Mapping of Arguments of Deverbal Nouns to Their Corresponding Verbal Labels
Bar-Ilan University(巴伊兰大学)
提出基于上下文词表示的无监督方法,将动名词论元映射到对应动词的universal-dependency关系,使动词模式无需修改即可高准确率应用于名词化结构。
2023-06-24 cs.CL
Resource-Enhanced Neural Model for Event Argument Extraction
Amazon AI(亚马逊人工智能)
事件论元抽取(EAE)的目的是识别事件的论元,并对这些论元所扮演的角色进行分类。尽管前期工作做了很大努力,但仍存在许多挑战:(1)数据稀缺。(2)捕获远程依赖关系,特别是事件触发器和远程事件参数之间的连接。(3)将事件触发器信息集成到候选参数表示中。对于(1),我们探索以不同的方式使用未标记的数据。对于(2),我们建议使用一个语法参与的Transformer,它可以利用依赖解析来指导注意力机制。对于(3),我们提出了一种具有几种类型的依赖于编码器的序列表示的编码器感知的序列编码器。我们还支持从带有黄金实体注释的文本或纯文本中提取参数。在英语ACE2005测试集上的实验表明,该方法达到了新的水平。
2020-10-06 cs.CL
Neural Unsupervised Semantic Role Labeling
Shanghai Jiao Tong University(上海交通大学)
语义角色标注(SRL)的任务是寻找谓词-论元结构。以前的SRL工作大多是有监督的,没有考虑标记每个例子的困难,这可能是非常昂贵和耗时的。在本文中,我们提出了第一个神经无监督模型SRL。为了将任务分解为两个参数相关的子任务,识别和聚类,我们提出了一个相应的由两个神经模块组成的管道。首先,我们训练两个语法感知的统计开发规则的神经模型。神经模型获取句子中每个标记的相关性信号,并将其输入BiLSTM,然后输入对抗层,同时进行噪声添加和分类,从而使模型能够学习句子的语义结构。然后,我们提出了另一个神经模型的参数角色聚类,这是通过聚类学习的参数嵌入偏向于他们的依赖关系。在CoNLL-2009英语数据集上的实验表明,我们的模型在参数识别和分类的非神经模型方面优于以前的最先进的基线。
2021-04-19 cs.CL
MAILEX: Email Event and Argument Extraction
George Mason University(乔治梅森大学);University of Maryland(马里兰大学)
本文提出首个对话式邮件线程事件抽取数据集 MailEx,定义了 10 种事件类型和 76 个论元,通过对比三类方法的实验揭示了邮件事件抽取的挑战并呼吁更多研究。
2023-10-21 cs.AI cs.CL
Boosting Logical Fallacy Reasoning in LLMs via Logical Structure Tree
Texas A&M University(德克萨斯农工大学)
针对逻辑谬误检测与分类的挑战,提出构建无监督的逻辑结构树显式表示陈述中的层次逻辑流,并通过硬文本提示和软提示两种策略将其整合到LLMs中,显著提升了谬误检测与分类的精确率和召回率。
2024-10-15 cs.CL
Embedding Models for Stance-Aware Argument Retrieval
Imperial College London(帝国理工学院)
本文针对立场感知的论证检索任务,发现现有稠密嵌入模型存在主题偏好、过度关注极性关键词等问题,通过引入诊断指标并提出结合平衡论证课程与立场反转论证的数据中心方案,缓解了模型过度纠正问题,提升了立场感知的论证检索效果。
2026-08-31 cs.AI cs.CL
One Small and One Large for Document-level Event Argument Extraction
Xinjiang University(新疆大学);Renmin University(中国人民大学);Tsinghua University(清华大学)
针对文档级事件论元抽取中语义边界区分难和冗余信息干扰的问题,提出基于小语言模型的CsEAE模型和面向大语言模型的生成式提示方法,在多个数据集上取得显著性能提升。
2024-11-08 cs.CL
Detecting Hidden Behaviors in LLMs via Activation-matched Finetuning
Bonn-Aachen International Center for Information Technology, University of Bonn(波恩大学波恩-亚琛国际信息技术中心);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究院)
本研究提出无监督检测方法激活匹配微调,无需预先了解触发器或目标行为,可在不牺牲隐藏行为的情况下,可靠检测大语言模型中的后门等隐藏行为。
2026-09-02 cs.AI cs.CL
Unsupervised Parsing by Searching for Frequent Word Sequences among Sentences with Equivalent Predicate-Argument Structures
The University of Tokyo(东京大学);Imperial College London(伦敦帝国学院);The University of Liverpool(利物浦大学)
本文提出基于频率的无监督成分句法解析器span-overlap,利用PAS等价句子集合中成分对应频繁词序列的特性,通过最大化span-overlap分数识别成分结构,在十种语言中的八种上达到最先进水平,并发现参与者成分与事件成分之间的统计差异。
2024-08-12 cs.CL
Can Unsupervised Knowledge Transfer from Social Discussions Help Argument Mining?
Jadavpur University(贾达布尔大学);Delhi Technological University(德里理工大学);IIIT-Delhi(德里印度理工学院)
从非结构化文本中识别论元成分并预测它们之间的关系是论元挖掘的两个主要步骤。这些任务的内在复杂性需要强大的学习模型。虽然预训练的基于Transformer的语言模型(LM)已被证明可以在不同的NLP任务中提供最先进的结果,但手动注释数据的稀缺性和论证的高度领域依赖性限制了此类模型的能力。在这项工作中,我们提出了一种新的迁移学习策略来克服这些挑战。我们利用ChangeMyView subreddit中丰富的辩论社交讨论作为无监督的辩论话语感知知识的来源,通过在选择性掩蔽语言建模任务上微调预训练的LM。此外,我们引入了一种新的基于语义的组件间关系预测策略,该策略在利用话语上下文的同时补充了我们提出的微调方法。详尽的实验表明,我们的方法在域内和域外数据集上对这两个任务的泛化能力,优于几个现有的和采用的强基线。
2022-03-24 cs.CL cs.LG
A Semantic Mention Graph Augmented Model for Document-Level Event Argument Extraction
School of Computer Science and Technology, Xi'an Jiaotong University(西安交通大学计算机科学与技术学院);National University of Singapore(新加坡国立大学)
本文提出语义提及图增强模型(GAM),通过构建语义提及图并集成图变换器模块,解决文档级事件参数提取中实体提及独立建模和文档-提示隔离问题,在RAMS和WikiEvents数据集上取得最优性能。
2024-03-12 cs.AI cs.CL
Language Model Priming for Cross-Lingual Event Extraction
University of Southern California Information Sciences Institute(南加州大学信息科学研究所)
我们提出了一种新的,语言不可知的方法来“启动”的语言模型的任务的事件提取,提供特别有效的性能在低资源和zero-shot跨语言设置。通过启动,我们根据运行时对模型提出的问题,以不同的方式增加对Transformer堆栈的语言模型的输入。例如,如果模型被要求识别触发器“protected”的参数,我们将把该触发器作为输入的一部分提供给语言模型,允许它为候选参数生成不同的表示,而不是在同一个句子中的其他地方被要求识别触发器“arrest”的参数。我们表明,通过使语言模型能够更好地补偿稀疏和嘈杂的训练数据的不足,我们的方法在zero-shot跨语言设置中显著提高了触发和参数检测以及分类。
2021-09-25 cs.CL
One for All: Neural Joint Modeling of Entities and Events
Alt Inc.(阿尔特公司);University of Oregon(俄勒冈大学)
以前的事件提取工作主要集中在事件触发器和参数角色的预测上,将实体提及视为由人类注释者提供的。这是不现实的,因为实体提及通常由一些现有的工具包预测,这些工具包的错误可能会传播到事件触发器和参数角色识别。最近的工作很少通过联合预测实体提及,事件触发器和参数来解决这个问题。然而,这样的工作仅限于使用离散的工程特征来表示各个任务及其交互的上下文信息。在这项工作中,我们提出了一种新的模型,根据深度学习的共享隐藏表示,联合执行实体提及,事件触发器和参数的预测。实验证明了所提出的方法的好处,导致国家的最先进的事件提取性能。
2018-12-01 cs.CL
EventGraph: Event Extraction as Semantic Graph Parsing
University of Oslo(奥斯陆大学);University of Bergen(卑尔根大学)
事件提取涉及事件触发器和相应事件参数的检测和提取。现有的系统通常将事件提取分解为多个子任务,而没有考虑它们之间可能的交互。在本文中,我们提出了EventGraph,一个联合框架的事件提取,它编码的事件作为图形。我们将事件触发器和参数表示为语义图中的节点。因此,事件提取成为图解析问题,其提供以下优点:1)联合执行事件检测和参数提取; 2)从一段文本中检测和提取多个事件;以及3)捕获事件参数和触发器之间的复杂交互。在ACE 2005上的实验结果表明,我们的模型是有竞争力的国家的最先进的系统,并大大提高了参数提取的结果。此外,我们从ACE 2005中创建了两个新的数据集,其中我们保留了事件参数的整个文本跨度,而不仅仅是中心词。我们的代码和模型都是开源的。
2022-10-16 cs.CL
Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs
Carnegie Mellon University(卡内基梅隆大学)
本文提出通过监控权重而非激活值来理解、监控和控制细调的大语言模型,能高精度检测细调引入的新行为,并在防回火攻击和模型去学习中表现出色。
2026-04-21 cs.CL cs.LG
Enhancing Document-level Event Argument Extraction with Contextual Clues and Role Relevance
University of Electronic Science and Technology of China(电子科技大学)
针对文档级事件论元抽取中忽略非论元上下文线索和角色相关性的问题,提出SCPRG模型,通过STCP模块聚合线索词信息、RLIG模块捕获角色语义相关性,在RAMS和WikiEvents数据集上取得SOTA且具可解释性。
2023-10-20 cs.CL
Efficient Document-level Event Extraction via Pseudo-Trigger-aware Pruned Complete Graph
Soochow University(苏州大学);Huawei Cloud(华为云)
以往文档级事件抽取的研究主要集中在以自回归的方式构建参数链,取得了一定的成功,但在训练和推理方面效率较低。与以前的研究相比,我们提出了一个快速和轻量级的模型命名为PTPCG。在该模型中,我们设计了一种新的事件参数组合策略和一种非自回归解码算法,该算法在自动选择伪触发器的指导下,通过修剪完全图来构造事件参数组合策略.与以前的系统相比,我们的系统实现了具有竞争力的结果与19.8%的参数和更低的资源消耗,只有3.8%的GPU小时的训练和高达8.5倍的推理速度。此外,我们的模型对有(或没有)触发器的数据集表现出了良好的兼容性,伪触发器可以作为注释触发器的补充,以进一步改进。代码可在https://github.com/Spico197/DocEE上获得。
2022-10-04 cs.CL
Event Arguments Extraction via Dilate Gated Convolutional Neural Network with Enhanced Local Features
National University of Defense Technology(国防科技大学)
事件抽取在信息抽取中起着重要的作用。事件提取可以分为两个子任务:一个是事件触发器提取,另一个是事件参数提取。然而,事件参数提取的F-Score远低于事件触发器提取的F-Score,即在最近的工作中,事件触发器提取达到80.7%,而事件参数提取仅达到58%。在流水线结构中,事件参数提取的困难在于缺乏分类特征,计算量大。本文提出了一种基于多层扩张门控卷积神经网络(EE-DGCNN)的事件提取方法。此外,增强的本地信息被纳入到词的功能,分配事件参数角色的触发器预测的第一个子任务。数值实验表明,显着的性能改善超出了最先进的事件提取方法在现实世界的数据集。进一步分析了提取过程,并通过实验分析了影响性能提高的相关因素。
2020-06-02 cs.CL cs.LG
PESE: Event Structure Extraction using Pointer Network based Encoder-Decoder Architecture
IIT Kharagpur(印度理工学院克勒格布尔分校)
事件抽取(EE)的任务是从文本中发现事件和与事件相关的论元信息,并以结构化的格式表示它们。以前的大多数工作都试图通过分别识别多个子结构并将其聚合以获得完整的事件结构来解决这个问题。这些方法的问题在于,它无法识别事件参与者(事件触发器、参数和角色)之间的所有相互依赖关系。在本文中,我们表示每个事件记录在一个唯一的元组格式,包含触发短语,触发类型,参数短语,和相应的角色信息。我们提出的基于指针网络的编码器-解码器模型通过利用事件参与者之间的交互在每个时间步生成事件元组,并为EE任务提供真正的端到端解决方案。我们评估我们的模型在ACE 2005数据集,实验结果表明,我们的模型的有效性,通过实现竞争力的性能相比,国家的最先进的方法。
2022-11-22 cs.CL
Small Models are LLM Knowledge Triggers on Medical Tabular Prediction
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Thrust of Artificial Intelligence, Information Hub, HKUST (GZ)(香港科技大学(广州)信息枢纽人工智能方向);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);The Second Affiliated Hospital Zhejiang University School of Medicine(浙江大学医学院附属第二医院);Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence(浙江省医学影像人工智能重点实验室)
针对LLM在医学表格预测中因数值不敏感和模态差异而表现不佳的问题,提出SERSAL自提示方法,通过小模型协同学习无监督增强LLM预测,实验显示显著优于语言提示方法。
2025-02-28 cs.CL cs.LG
Uncovering Latent Arguments in Social Media Messaging by Employing LLMs-in-the-Loop Strategy
Purdue University(普渡大学)
本文提出一种通用的LLMs-in-the-Loop策略,利用大型语言模型从社交媒体信息中提取特定主题的潜在论点,并在气候和COVID-19疫苗运动数据集上验证了其有效性,同时设计了立场预测下游任务并分析了人口统计定向。
2025-01-27 cs.AI cs.CL cs.CY
Unsupervised Transfer of Semantic Role Models from Verbal to Nominal Domain
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
语义角色标注(Semantic role labeling,SRL)是一个NLP任务,涉及将谓词参数分配给类型,称为语义角色。尽管SRL的研究主要集中在动词谓词上,并且许多可用于SRL的资源仅为动词提供注释,但语义关系通常由其他语言结构触发,例如,名词化在这项工作中,我们调查的情况下,我们假设的角色注释的数据为源动词域,但只有未标记的数据为目标名词域的转移。我们的关键假设,使两个域之间的转移,是一个角色的选择偏好(即,对可接受论元的偏好或约束)并不强烈地依赖于关系是由动词还是名词触发的。例如,相同的一组参数可以填补动词谓词“acquire”及其名词形式“acquisition”的获取者角色。我们从变分自编码的角度来处理转移任务。标签器充当编码器(预测给定句子的角色标签),而选择偏好在解码器组件中捕获(为预测角色生成参数)。在训练数据中没有标记名义角色,而是学习目标推动标记器分配预测参数的角色。跨域共享解码器参数鼓励了针对两个域预测的标签之间的一致性,并且促进了传输。该方法大大优于基线,如无监督和“直接转移”的方法,对英语CoNLL-2009数据集。
2020-09-26 cs.CL cs.LG
Towards Open Domain Event Trigger Identification using Adversarial Domain Adaptation
Carnegie Mellon University(卡内基梅隆大学)
我们解决的任务,建立监督事件触发识别模型,可以更好地推广跨域。我们的工作利用对抗性领域自适应(ADA)框架来引入领域不变性。ADA使用对抗性训练来构建预测触发识别的表示,但不能预测示例的域。它不需要来自目标域的标记数据,使其完全无监督。两个领域(英语文学和新闻)的实验表明,ADA导致的平均F1分数提高了3.9域外的数据。我们的最佳性能模型(BERT-A)在两个域中达到44 - 49 F1,不使用标记的目标数据。初步实验表明,对1%的标记数据进行微调,然后进行自我训练,可以获得实质性的改善,在文学和新闻上分别达到51.5和67.2 F1。
2020-05-22 cs.CL
TLAG: An Informative Trigger and Label-Aware Knowledge Guided Model for Dialogue-based Relation Extraction
Peking University(北京大学)
基于对话的关系抽取(DRE)旨在预测对话中所提及的论元对的关系类型。最新的生物增强方法提出了触发预测任务,以促进DRE。然而,这些方法不能充分利用触发信息,甚至会给关系抽取带来噪声。为了解决这些问题,我们提出了TLAG,它充分利用触发器和标签感知的知识来指导关系抽取。首先,我们设计了一个自适应触发融合模块,充分利用触发信息。然后,我们引入标签感知知识,以进一步提高我们的模型的性能。在DialogRE数据集上的实验结果表明,TLAG的性能优于基准模型,详细的分析表明了该方法的有效性。
2023-03-30 cs.CL
Unsupervised Language Acquisition: Theory and Practice
在这篇论文中,我提出了各种算法的无监督机器学习方面的自然语言使用各种统计模型。这项工作的科学目标是检验所谓的刺激贫困论证的有效性,该论证支持人类具有语言特异性先天知识的命题。我首先检查一个先验的论点,黄金定理的基础上,旨在证明自然语言不能学习,和一些正式的问题有关的统计语法,而不是符号语法的选择。我提出了三个新的算法学习自然语言的各个部分:第一,一个算法的归纳句法类别从未标记的文本使用分布信息,可以处理歧义和罕见的话;第二,一组算法学习形态过程中的各种语言,包括语言,如阿拉伯语与非连接形态;第三,一种用于从标记文本无监督地归纳上下文无关文法的算法。我仔细研究了各个组件之间的相互作用,并展示了这些算法如何形成语言习得的数学模型的基础。因此,我的结论是,从刺激贫困的论点是不支持的证据。
2002-12-10 cs.CL cs.LG
Nested Event Extraction upon Pivot Element Recogniton
School of Computer Science and Technology, University of Chinese Academy of Sciences(中国科学院大学计算机科学与技术学院);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
本文提出PerNee模型,通过识别兼具外层事件论元与内层事件触发词双重身份的枢轴元素,并结合提示学习提升嵌套事件抽取性能,同时构建了通用领域数据集ACE2005-Nest。
2024-04-07 cs.CL
Generating Uncontextualized and Contextualized Questions for Document-Level Event Argument Extraction
Arizona State University(亚利桑那州立大学);University of Arizona(亚利桑那大学)
本文提出无需人工参与的多种问题生成策略,通过结合非语境化与语境化问题提升文档级事件论元提取性能,并验证了策略的跨语料库迁移能力。
2024-04-07 cs.CL
Event Extraction by Answering (Almost) Natural Questions
Cornell University(康奈尔大学)
事件提取问题需要检测事件触发器并提取其相应的参数。现有的工作在事件参数提取通常严重依赖于实体识别作为预处理/并发步骤,导致众所周知的错误传播的问题。为了避免这个问题,我们引入了一个新的范例,事件提取,制定它作为一个问答(QA)的任务,提取事件参数在一个端到端的方式。实证结果表明,我们的框架大大优于以前的方法;此外,它能够提取事件参数的角色没有看到在训练时(零样本学习设置)。
2021-02-04 cs.CL
Recouple Event Field via Probabilistic Bias for Event Extraction
Tsinghua Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);Tencent(腾讯)
针对事件抽取中忽略触发词/论元场信息的问题,提出概率重耦合框架ProCE,通过将事件场建模为概率偏置澄清模糊纠缠,并利用多场概率交互策略重新耦合分布,有效提升了事件抽取性能。
2023-05-19 cs.AI cs.CL cs.IR
Capturing Event Argument Interaction via A Bi-Directional Entity-Level Recurrent Decoder
National Engineering Research Center for Software Engineering, Peking University(北京大学软件工程国家工程研究中心);Meituan Group(美团集团);RICH AI(RICH人工智能)
捕获事件参数之间的交互是实现鲁棒事件参数提取(EAE)的重要一步。然而,在这方面的现有努力遭受两个局限性:1)上下文实体的论元角色类型信息主要被用作训练信号,忽略了直接采用它作为语义丰富的输入特征的潜在优点; 2)论元级别的顺序语义,这意味着在事件提及上的论元角色的总体分布模式,没有得到很好的表征。为了解决上述两个瓶颈,我们第一次将EAE形式化为Seq 2Seq类学习问题,其中具有特定事件触发器的句子映射到事件参数角色序列。提出了一种新的双向重复级别递归解码器(BERD)的神经架构,通过结合上下文实体的论元角色预测来生成论元角色,就像逐词文本生成过程一样,从而更准确地区分事件内的隐式论元分布模式。
2021-07-01 cs.CL
Are Triggers Needed for Document-Level Event Extraction?
Cornell University(康奈尔大学)
本文首次探讨触发词在文档级事件抽取中的作用,发现系统是否受益于显式抽取触发词取决于数据集特征和任务特定信息,且触发词的存在对基于提示的上下文学习至关重要。
2025-06-26 cs.CL
Event Extraction for Portuguese: A QA-driven Approach using ACE-2005
LIAAD-INESC TEC;FCUP-University of Porto(波尔图大学FCUP学院);University of Minho(米尼奥大学);University of Beira Interior(贝拉 interior 大学)
本文针对葡萄牙语事件抽取语料匮乏问题,通过自动翻译ACE-2005构建新语料,并采用基于BERT的token分类与问答模型分别完成触发词检测和论元抽取,在两项任务上取得新的最优F1值。
2024-08-29 cs.AI cs.CL
Clustering Unsupervised Representations as Defense against Poisoning Attacks on Speech Commands Classification System
Defense Advanced Research Projects Agency (DARPA)(国防高级研究计划局(DARPA))
针对语音命令分类系统的脏标签投毒攻击,提出基于DINO无监督表示学习和K-means/LDA聚类的过滤防御方法,将攻击成功率从99.75%降至0.25%。
2026-06-27 cs.AI cs.CL cs.SD
Open-Vocabulary Argument Role Prediction for Event Extraction
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
事件抽取中的论元角色是指事件与参与其中的论元之间的关系,尽管事件抽取的研究取得了很大的进展,但现有的研究仍然依赖于领域专家预先定义的角色。这些研究在扩展到新兴事件类型或没有可用角色的新领域时暴露出明显的弱点。因此,需要将更多的注意力和精力投入到自动定制参数角色上。在本文中,我们定义了一个重要但尚未被充分研究的任务:开放式词汇论元角色预测。此任务的目标是推断给定事件类型的一组参数角色。我们提出了一个新的无监督框架,RolePred的这项任务。具体来说,我们制定的角色预测问题作为一个填充任务,并构造提示预训练的语言模型,以生成候选角色。通过提取和分析候选参数,进一步合并和选择特定于事件的角色。为了规范该任务的研究,我们从Wikipedia收集了一个新的事件提取数据集,包括142个具有丰富语义的自定义参数角色。在这个数据集上,RolePred的性能大大优于现有的方法。源代码和数据集可在我们的GitHub存储库中获得:https://github.com/yzjiao/RolePred
2022-11-03 cs.CL
Generating Disentangled Arguments with Prompts: A Simple Event Extraction Framework that Works
Beihang University(北京航空航天大学);Alibaba Group(阿里巴巴集团);The University of Sheffield(谢菲尔德大学)
事件提取弥合了文本和事件信号之间的差距。现有的方法基于参数依赖性的假设,通过专家设计的模板或复杂的解码约束,已经达到了最先进的性能。在本文中,我们第一次引入基于学习策略的事件提取领域,这使得自动开发的标签语义的输入和输出端。为了验证所提出的生成方法的有效性,我们进行了广泛的实验与11个不同的基线。实证结果表明,在F1分数的论点提取,我们的简单架构是强大的比任何其他生成的同行,甚至与需要模板工程的算法竞争。关于召回的衡量标准,它为论点和触发器提取创造了新的整体记录。我们在此向社区推荐此框架,代码可在https://git.io/GDAP上公开获得。
2022-02-15 cs.AI cs.CL cs.LG
Document-Level Event Argument Extraction by Conditional Generation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在IE社区中,事件提取一直被视为一项高级任务。我们认为,这种设置不符合人类的信息寻求行为,并导致不完整和无信息提取结果。我们提出了一个文件级神经事件参数提取模型,制定的任务作为条件生成事件模板。我们还编译了一个新的文档级事件提取基准数据集WikiEvents,其中包括完整的事件和共指注释。在参数提取的任务中,我们分别在RAMS和WikiEvents数据集上实现了7.6%F1和5.7%F1的绝对增益。在更具挑战性的任务,信息参数提取,这需要隐式共指推理,我们实现了9.3%的F1增益超过最佳基线。为了证明我们的模型的可移植性,我们还创建了第一个端到端的zero-shot事件提取框架,并实现了97%的完全监督模型的触发器提取性能和82%的参数提取性能,仅访问ACE上的33种类型中的10种。
2021-04-13 cs.CL
Argument-Centric Causal Intervention Method for Mitigating Bias in Cross-Document Event Coreference Resolution
School of Computer Science and Technology, Xinjiang University, Urumqi, 830046, Xinjiang, China(新疆大学计算机科学与技术学院);Xinjiang Key Laboratory of Multilingual Information Technology, Xinjiang University, Urumqi, 830046, Xinjiang, China(新疆大学多语信息处理重点实验室);Department of Electronic Engineering, Tsinghua University, Beijing, 100084, China(清华大学电子工程系)
本文提出论元中心因果干预方法ACCI,通过结构化因果图、后门调整、反事实推理和论元感知增强,在端到端框架中缓解跨文档事件共指消解的触发词偏差,并在ECB+和GVC上取得最先进性能。
2025-06-02 cs.CL cs.IR
Graph Transformer Networks with Syntactic and Semantic Structures for Event Argument Extraction
University of Oregon(俄勒冈大学);VinAI Research(越南人工智能研究院)
事件论元提取(EAE)的目标是找到给定事件触发词的每个实体提及的角色。在以前的工作中已经表明,句子的句法结构有助于EAE的深度学习模型。然而,在这样的现有工作的一个主要问题是,他们未能利用句子的语义结构,以诱导有效的表征EAE。因此,在这项工作中,我们提出了一种新的模型EAE,利用图Transformer网络(GTN)的句子的句法和语义结构,学习更有效的句子结构EAE。此外,我们引入了一种新的归纳偏差的基础上的信息瓶颈,以提高推广的EAE模型。进行了大量的实验,以证明所提出的模型的好处,导致国家的最先进的EAE标准数据集上的性能。
2020-10-26 cs.CL
Evaluation of Unsupervised Entity and Event Salience Estimation
Emory University(埃默里大学)
显著性估计的目的是预测文档中的术语重要性。由于现有的人类注释数据集很少,以及显着性的主观概念,以前的研究通常会生成用于评估的伪地面实况。然而,我们的调查显示,以前的工作提出的评估协议是难以复制的,从而导致一些后续研究存在。此外,评估过程是有问题的:用于实体匹配的实体链接工具是非常嘈杂的,而忽略事件评估的事件参数导致性能提升。在这项工作中,我们提出了一个轻而实用的实体和事件的显着性估计评估协议,其中包括更可靠的句法依赖分析器。此外,我们对流行的实体和事件定义标准进行了全面的分析,并提出了我们自己的显着性估计任务的定义,以减少伪地面实况生成过程中的噪声。此外,我们构建了基于依赖关系的异构图,以捕捉实体和事件的相互作用。实证结果表明,基线方法和新的GNN方法利用异构图始终优于以前的SOTA模型在所有提出的指标。
2021-04-14 cs.CL
Rapid Customization for Event Extraction
Raytheon BBN Technologies(雷神BBN技术公司)
我们提出了一个系统,快速定制事件提取能力,找到新的事件类型和他们的参数。该系统允许用户通过探索未注释的语料库来查找、扩展和过滤新事件类型的事件触发器。然后,系统将自动生成提及级事件注释,并训练神经网络模型以查找相应的事件。此外,该系统使用ACE语料库来训练参数模型,用于为任何事件类型提取Actor、Place和Time参数,包括在其训练数据中未看到的参数。实验表明,在每个事件类型的人工工作时间不到10分钟的情况下,系统对67种新事件类型都取得了良好的性能。代码、文档和演示视频将在github.com上作为开源发布。
2018-09-20 cs.CL
Event Extraction by Associating Event Types and Argument Roles
事件抽取(EE)是从文本中获取结构化的事件知识,可以分为两个子任务:事件类型分类和元素抽取(即识别不同角色模式下的触发器和论元)。由于不同的事件类型总是拥有不同的提取模式(即,角色模式),以前的EE工作通常遵循一个孤立的学习范式,为不同的事件类型独立地执行元素提取。它忽略了事件类型和参数角色之间有意义的关联,导致不太频繁的类型/角色的性能相对较差。本文提出了一种新的神经联想框架EE任务。该算法首先通过构建文档级图来关联不同类型的句子节点,然后采用图注意力网络学习句子嵌入,从而实现对文档的类型分类。然后,通过建立一个通用的参数角色模式来实现元素提取,并使用参数继承机制来增强提取元素的角色偏好。因此,我们的模型在EE过程中考虑了类型和角色关联,从而实现了它们之间的隐式信息共享。实验结果表明,我们的方法始终优于最先进的EE方法在这两个子任务。特别地,对于具有较少训练数据的类型/角色,性能优于现有方法。
2022-08-18 cs.CL
CasEE: A Joint Learning Framework with Cascade Decoding for Overlapping Event Extraction
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机学院);School of Cyber Science and Technology, Beihang University(北京航空航天大学网络空间安全学院)
事件抽取是一项重要的信息抽取任务,旨在抽取文本中的事件信息。现有的方法大多假设事件出现在句子中没有重叠,这不适用于复杂的重叠事件提取。本文系统地研究了现实中的事件重叠问题,即一个词可以充当多个类型的触发语或不同角色的论元。为了解决上述问题,我们提出了一种新的联合学习框架与级联解码重叠事件提取,称为CasEE。特别地,CasEE顺序地执行类型检测、触发提取和参数提取,其中重叠目标被单独地提取,以特定的先前预测为条件。所有的子任务在一个框架中联合学习,以捕获子任务之间的依赖关系。公共事件提取基准FewFC上的评估表明,CasEE在重叠事件提取方面比以前的竞争方法有了显着的改进。
2021-07-04 cs.CL
Event Argument Extraction using Causal Knowledge Structures
Indian Institute of Technology, Kharagpur(印度理工学院卡拉格普尔分校)
事件参数提取是指从非结构化文本中提取感兴趣的特定事件的结构化信息的任务。现有的作品表现出穷人的能力,提取因果事件的论点,如原因和后效应。此外,大多数现有的作品在句子层面上模拟这一任务,将上下文限制在局部范围内。虽然它可能对短跨度的文本有效,但对于较长的文本(如新闻文章),经常观察到事件的参数不一定出现在包含事件触发器的同一个句子中。为了解决论点分散在句子中的问题,在这项任务中使用全局上下文变得至关重要。在我们的工作中,我们提出了一个外部知识辅助的方法来注入文档级的事件信息,以帮助提取复杂的事件参数。我们通过从ConceptNet和Wikipedia中提取相关的事件因果结构,为我们的事件注释数据集开发了一个因果网络。我们使用提取的事件因果特征的双向Transformer编码器,有效地捕捉长距离的句子间的依赖关系。我们报告的有效性,我们提出的方法,通过定性和定量分析。在这项任务中,我们建立了我们的研究结果的事件注释数据集在5种印度语言。该数据集通过标记实体类型(如时间,地点)以及更复杂的参数类型(如原因,After-Effect)的参数,进一步增加了任务的复杂性。我们的方法在所有五种语言中实现了最先进的性能。由于我们的工作不依赖于任何语言特定的功能,它可以很容易地扩展到其他语言。
2021-05-02 cs.CL
Calibrated Typed Decisions for Entity, Relation, and Event Extraction
University of Manchester(曼彻斯特大学);Mayo Clinic(梅奥诊所);Shanghai University of Finance and Economics(上海财经大学)
本文提出0.6B参数的统一模型CalOn,联合编码文本与类型定义完成实体、关系、事件等抽取任务,在40个基准测试中优于多数基线,校准后置信度估计提升且F1几乎无变化。
2026-10-14 cs.AI cs.CL
MEE: A Novel Multilingual Event Extraction Dataset
University of Oregon(俄勒冈大学);Adobe Research(奥多比研究院)
事件提取(EE)是信息抽取(IE)中的基本任务之一,其旨在识别事件提及及其论点(即,参与者)。由于其重要性,已经开发了广泛的方法和资源用于事件提取。然而,目前EE研究的一个局限性是对非英语语言的探索不足,其中缺乏用于模型训练和评估的高质量多语言EE数据集是主要障碍。为了解决这个问题,我们提出了一个新的多语言事件提取数据集(Multilingual Event Extraction dataset,简称MITR),它可以为8种不同类型的语言中超过50K的事件提供注释。全面注释实体提及、事件触发器和事件参数的数据。我们对建议的数据集进行了广泛的实验,以揭示多语言EE的挑战和机遇。
2022-11-17 cs.CL
Pipelined Biomedical Event Extraction Rivaling Joint Learning
本文提出基于BERT的n元关系抽取方法构建Binding事件,在BioNLP GE11和GE13上F1达63.14%和59.40%,使流水线方法性能媲美甚至超越联合学习。
2024-03-19 cs.AI cs.CL
A Scalable Cross-Domain Event Extraction System via a Unified Generative Training Framework
German Research Center for Artificial Intelligence(德国人工智能研究中心);Carl von Ossietzky University of Oldenburg(奥尔登堡大学)
该研究针对现有事件抽取方法可扩展性与跨域泛化不足的问题,提出统一生成式序列到序列框架,微调预训练语言模型,构建支持多功能的网络应用平台,实现跨域事件抽取。
2026-08-25 cs.CL
A Two-Stream AMR-enhanced Model for Document-level Event Argument Extraction
Peking University(北京大学);Tencent Cloud Xiaowei(腾讯云小微)
以往的研究大多是从单个句子中提取事件,而文档级的事件提取仍然是探索不足。在本文中,我们专注于从整个文档中提取事件参数,这主要面临两个关键问题:a)触发器和参数之间的长距离依赖的句子; b)分散上下文对文档中的事件。为了解决这些问题,我们提出了一个双流抽象意义表示增强提取模型(TSAR)。TSAR采用双流编码模块从不同角度对文档进行编码,充分利用了局部和全局信息,降低了上下文干扰的影响。此外,TSAR还引入了AMR引导的交互模块,以局部和全局构造的AMR语义图为基础,捕获表内和表间特征。引入一个辅助的边界损失来显式地增强文本跨度的边界信息。大量的实验表明,TSAR优于以前的国家的最先进的大幅度,与2.54 F1和5.13 F1的性能增益在公共RAMS和WikiEvents数据集上分别显示出跨句子的参数提取的优越性。我们在https://github.com/ PKUnlp-icler/TSAR中发布我们的代码。
2022-04-30 cs.AI cs.CL