Jointly Predicting Predicates and Arguments in Neural Semantic Role Labeling
Paul G. Allen School of Computer Science & Engineering(保罗·G·艾伦计算机科学与工程学院);University of Washington(华盛顿大学)
最近的生物标记为基础的神经语义角色标注模型是非常高的性能,但假设黄金谓词作为输入的一部分,不能纳入跨级功能。我们提出了一个端到端的方法,共同预测所有的谓词,参数跨度,以及它们之间的关系。该模型对每个可能的词跨度对之间的关系(如果有的话)做出独立的决定,并学习上下文化的跨度表示,为每个决定提供丰富的共享输入特征。实验表明,这种方法设置了一个新的状态的最先进的PropBank SRL没有黄金谓词。
2018-08-13 cs.CL
Annotating Predicate-Argument Structure for a Parallel Treebank
我们报告最近发起的一个项目,旨在建立一个多层次的并行树库的英语和德语。特别注意的是专门的谓词参数层,用于对齐两种语言的等价句子。我们描述了我们的概念决策和他们的技术实现方面。我们讨论了一些选定的问题,并得出结论,这个项目如何涉及到该领域的类似项目的一些意见。
2004-07-01 cs.CL
To Drop or Not to Drop? Predicting Argument Ellipsis Judgments: A Case Study in Japanese
Tohoku University(东北大学);RIKEN(理化学研究所);MBZUAI(穆罕默德·本·扎耶德人工智能大学);Nagoya University(名古屋大学)
本研究构建日语论元省略的大规模人工判断资源,分析母语者判断标准及语言因素分布,并评估语言模型预测表现,揭示其与人类判断的差距。
2024-10-27 cs.CL
MuCPAD: A Multi-Domain Chinese Predicate-Argument Dataset
Soochow University(苏州大学)
在过去的十年中,神经网络模型在领域内语义角色标注(SRL)方面取得了巨大的进展。但是,在域外设置下性能会显著下降。为了促进跨领域语义关系语料库的研究,本文提出了一个多领域汉语谓词论元数据集MuCPAD,该数据集包含来自6个不同领域的30,897个句子和92,051个谓词。MuCPAD具有三个重要特征。1)基于无框架注释方法,我们避免为新谓词编写复杂的框架。2)考虑到实义词的省略在多领域中文文本中普遍存在,我们显式地标注省略的核心论点,以恢复更完整的语义结构。3)我们编写了53页的注释指南,并采用严格的双重注释以提高数据质量。本文详细介绍了MuCPAD的标注方法和标注过程,并进行了深入的数据分析。我们还给出了基于MuCPAD的跨域SRL的基准测试结果。
2022-05-13 cs.CL
The syntactic processing of particles in Japanese spoken language
小品词在日语中扮演着几个不同的中心角色。它们既可以标记论元,也可以标记实词,可以是功能性的,也可以具有语义功能。然而,从粒子到函数没有直接的匹配,例如,GA可以标记句子的主语、宾语或附加成分。粒子可以共存。在日语句子中,可以用小品词识别的动词论元可以被排除。最后,在口语中,助词常常被省略。因此,要分析日语句子,就必须对助词进行适当的处理。我们的治疗是基于800个对话的实证调查。我们建立了一个类型层次的粒子的动机,他们的子类化和修改的行为。这种类型层次结构是VERBMOBIL中日语语法的一部分。
1999-06-02 cs.CL
Analysis of the Effect of Dependency Information on Predicate-Argument Structure Analysis and Zero Anaphora Resolution
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Academic Center for Computing and Media Studies, Kyoto University(京都大学学术信息媒体中心)
本文研究和分析了依存信息对日语谓词论元结构分析(PASA)和零形回指消解(ZAR)的影响,结果表明,即使在依存信息不存在的情况下,直接的PASA和ZAR方法也是有效的。我们构建了一个分析器,直接预测的谓词和参数与他们的语义角色从POS标记语料库的关系。该系统的特点是通过使用依存句法分析中使用的特征作为参考来弥补句法信息的缺失。我们还构造了使用Oracle依赖和真实依存句法分析结果的分析器,并与不使用任何语法信息的系统进行了比较,以验证依赖提供的改进不是至关重要的。
2017-05-31 cs.CL
Effective QA-driven Annotation of Predicate-Argument Relations Across Languages
Bar-Ilan University(巴伊兰大学);Ariel University(阿里尔大学)
本文提出一种跨语言问题回答驱动的谓词-论元关系标注方法,通过重用英语QA-SRL解析器生成多语言高质量标注数据,提升语义解析效率。
2026-02-26 cs.CL
A Cascade Model for Argument Mining in Japanese Political Discussions: the QA Lab-PoliInfo-3 Case Study
Valencian Research Institute for Artificial Intelligence(瓦伦西亚人工智能研究院);Universitat Politècnica de València(瓦伦西亚理工大学)
rVRAIN团队解决了预算论证挖掘(BAM)任务,包括分类和信息检索子任务的组合。对于参数分类(AC),该团队使用基于BERT的五类级联模型并辅以一些手工规则来实现其最佳性能。这些规则被用来确定表达是否是货币。然后,每个货币表达式被分类为前提或结论的级联模型的第一级。最后,将每个前提分为三个前提类,将每个结论分为两个结论类。对于信息检索(即,关系ID检测或RID),我们最好的结果是通过基于BERT的二元分类器和由货币表达式和预算密集嵌入组成的对的余弦相似性的组合来实现的。
2022-07-04 cs.CL
High-order Semantic Role Labeling
Department of Computer Science and Engineering, Shanghai Jiao Tong University (SJTU)(上海交通大学计算机科学与工程系(SJTU));National Institute of Information and Communications Technology (NICT)(日本信息与通信技术研究所(NICT))
语义角色标注主要用于标识谓词、参数及其语义关系。由于建模方法的局限性和谓词预识别条件的限制,以往的研究大多集中在谓词与论元之间的关系以及论元之间的相关性上,而谓词之间的相关性长期以来被忽略。在神经网络时代之前,高阶特征和结构学习在建模这种相关性时非常常见。在本文中,我们介绍了神经语义角色标注模型的高阶图结构,这使得该模型不仅可以显式地考虑孤立的谓词-论元对,但也谓词-论元对之间的相互作用。在CoNLL-2009基准测试的7种语言上的实验结果表明,高阶结构学习技术有利于强性能的SRL模型,并进一步提高了我们的基线,以实现新的最先进的结果。
2020-10-09 cs.CL
Deriving Verb Predicates By Clustering Verbs with Arguments
University of Pennsylvania(宾夕法尼亚大学);Stony Brook University(石溪大学)
手工构建的动词簇,如广泛使用的Levin类(Levin,1993),已被证明是有用的,但覆盖范围有限。另一方面,从语料库数据(如VerbKB(Wijaya,2016))自动诱导的动词类可以提供覆盖范围更大的聚类,并且可以适应特定的语料库,如Twitter。我们提出了一种用于聚类VerbKB的输出的方法:具有多个论元类型的动词,例如“marry(person,person)",“feel(person,emotion)”。“我们利用一种新颖的动词及其参数的低维嵌入来产生高质量的集群,其中同一个动词可以根据其参数类型出现在不同的集群中。由此产生的动词集群比手工构建的集群在预测推特中的讽刺,情绪和控制点方面做得更好。
2017-08-01 cs.CL
Inconsistent Tokenizations Cause Language Models to be Perplexed by Japanese Grammar
University of Tokyo(东京大学)
本研究通过日语第一人称心理谓词限制语法点,发现分词不一致影响语言模型困惑度,Weblab 因均匀较差分词表现良好,且 Llama 3 困惑度可降低 28 倍,模型会改用替代语法模式。
2025-05-26 cs.AI cs.CL cs.LG
Implicit Argument Prediction as Reading Comprehension
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
隐式参数,不能通过语法线索单独检测,使其更难提取谓词-参数元组。我们提出了一个新的模型,利用阅读理解的隐式参数预测,铸造的谓词参数元组与失踪的参数作为一个查询。我们还借鉴了指针网络和多跳计算。我们的模型在论元完形填空任务和名词性隐式论元预测任务上表现出了良好的性能。
2018-11-08 cs.CL
Deriving the Predicate-Argument Structure for a Free Word Order Language
在相对自由的语序语言中,语法功能与格标记有着错综复杂的关系。假设一个有序的谓词-论元结构的表示,这项工作提出了一个组合范畴语法制定相关的表面情况线索的类别和类型,正确地放置在谓词-论元结构的参数。这是通过分配格标记GF编码类别来实现的。与其他CG公式不同,类型转换不会扩散或导致虚假的歧义。所有论元编码语法功能的范畴都遵循同一个范畴分配原则。组合形式的正常顺序评价揭示了谓词-论元结构。土耳其的方法的应用。
1998-08-20 cmp-lg cs.CL
Main Predicate and Their Arguments as Explanation Signals For Intent Classification
Indian Institute of Technology Bombay(印度理工学院孟买分校)
本文提出利用主谓词及其论元作为意图分类的解释信号,自动构建可解释性数据集,并证明引导模型关注这些信号能提升其合理性和推理能力。
2025-02-03 cs.CL
An MRC Framework for Semantic Role Labeling
Renmin University of China(中国人民大学);Zhejiang University(浙江大学);Tsinghua University(清华大学);University of Leeds(利兹大学);Amazon Alexa AI(亚马逊Alexa人工智能)
语义角色标注的目标是识别句子中的谓元-论元结构,可以分解为两个子任务:谓词消歧和论元标注。以前的工作处理这两个任务独立,忽略了这两个任务之间的语义联系。在本文中,我们建议使用机器阅读理解(MRC)框架来弥合这一差距。我们将谓词消歧形式化为多项选择机器阅读理解,其中给定谓词的候选意义的描述被用作选择正确意义的选项。然后,使用所选择的谓词意义来确定该谓词的语义角色,并且使用这些语义角色来构造另一个MRC模型的查询以进行参数标注。通过这种方式,我们能够利用谓词语义和语义角色语义来进行参数标注。我们还建议选择一个子集的所有可能的语义角色的计算效率。实验表明,该框架实现了国家的最先进的或可比的结果,以前的工作。代码可在\url{https://github.com/ShannonAI/MRC-SRL}上获得。
2022-09-06 cs.CL
Improving Implicit Semantic Role Labeling by Predicting Semantic Frame Arguments
Katholieke Universiteit Leuven(鲁汶大学);University of Arizona(亚利桑那大学)
隐性语义角色标注(iSRL)是对谓词的语义角色进行预测的任务,该谓词不作为显性论元出现,而是考虑常识知识或在语篇中较早提到。我们介绍了一种基于预测递归神经语义框架模型(PRNSFM)的方法,该模型使用大型未注释的语料库来学习给定谓词的语义参数序列的概率。我们利用PRNSFM预测的序列概率来估计谓词及其参数的选择偏好。在NomBank iSRL测试集上,我们的方法提高了隐式语义角色标注的最新性能,与手动构建的语言资源相比,依赖性更低。
2017-10-05 cs.CL
Improving Robustness by Augmenting Training Sentences with Predicate-Argument Structures
Technische Universität Darmstadt(达姆施塔特工业大学);Ubiquitous Knowledge Processing Lab (UKP-TUDA)(普适知识处理实验室(UKP-TUDA))
现有的NLP数据集包含各种偏见,模型往往会快速学习这些偏见,这反过来又限制了它们的鲁棒性。现有的提高对数据集偏差的鲁棒性的方法主要集中在改变训练目标,以便模型从有偏差的示例中学习更少。此外,它们大多专注于解决特定的偏差,虽然它们提高了目标偏差的对抗性评估集的性能,但它们可能会以其他方式使模型产生偏差,从而损害整体鲁棒性。在本文中,我们建议增加训练数据中的输入句子与其相应的谓词参数结构,这提供了一个更高层次的抽象不同的实现相同的含义,并帮助模型识别句子的重要部分。我们表明,在不针对特定偏见的情况下,我们的句子增强提高了Transformer模型对多种偏见的鲁棒性。此外,我们发现,即使训练数据不包含这种偏差,模型仍然容易受到词汇重叠偏差的影响,并且句子增强也提高了这种情况下的鲁棒性。我们将在https://github.com/UKPLab/data-augmentation-for-robustness上发布我们的对抗数据集来评估这种情况下的偏见以及我们的增强脚本。
2020-10-23 cs.CL
Argument Linking: A Survey and Forecast
语义角色标注(SRL)--识别同一句子中谓词和其他成分之间的语义关系--是自然语言理解(NLU)中一个研究得很好的任务。然而,这些关系中的许多只在文档的层次上是明显的,因为一个句子中的谓词的作用通常可以由另一个句子中的论元来填补。这种更一般的任务,被称为隐式语义角色标注或参数连接,近年来受到越来越多的关注,因为研究人员已经认识到它对信息抽取和NLU的中心作用。本文综述了文献的论点连接,并确定了现有的方法,表明沿着未来的研究工作可以最有利可图的花费路径的几个显着的缺点。
2021-07-18 cs.CL
A Full End-to-End Semantic Role Labeler, Syntax-agnostic Over Syntax-aware?
Shanghai Jiao Tong University(上海交通大学)
语义角色标注是识别句子的谓元结构,包括谓词消歧和论元标注两个子任务。以往的研究通常将整个自主学习问题分解为两个或多个子任务。本文首次引入了一个端到端的神经模型,它可以一次性地统一处理谓词消歧和参数标注。使用biaffine评分器,我们的模型直接预测句子中所有给定单词对的所有语义角色标签,而不依赖于任何句法分析信息。具体来说,我们用非线性变换来增强BiLSTM编码器,以进一步区分给定句子中的谓词和参数,并通过采用biaffine注意机制将语义角色标注过程建模为词对分类任务。尽管所提出的模型对于本地解码器来说是语法不可知的,但在英语和中文的CoNLL-2008、2009基准测试中,它的性能优于最先进的语法感知SRL系统。据我们所知,我们报告的第一个语法不可知的SRL模型,超越所有已知的语法感知模型。
2018-08-14 cs.CL
Explicating the Implicit: Argument Detection Beyond Sentence Boundaries
Bar-Ilan University(巴伊兰大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所);University of Washington(华盛顿大学)
本文提出一种基于文本蕴含的跨句论元检测方法,将语义关系编码为独立命题并检验其是否被全文蕴含,无需直接监督,在文档级基准上优于部分有监督方法和当代语言模型。
2024-08-08 cs.CL
Japanese Tort-case Dataset for Rationale-supported Legal Judgment Prediction
Tokyo Institute of Technology(东京技术大学);Nakamura, Tsunoda & Matsumoto;Hitotsubashi University(立命馆大学)
本文提出了首个日本 tort 案件数据集,用于基于理由的法律判断预测,包含 tort 预测和理由提取两个任务,并通过实验验证了其可行性。
2024-06-13 cs.AI cs.CL
Unsupervised Parsing by Searching for Frequent Word Sequences among Sentences with Equivalent Predicate-Argument Structures
The University of Tokyo(东京大学);Imperial College London(伦敦帝国学院);The University of Liverpool(利物浦大学)
本文提出基于频率的无监督成分句法解析器span-overlap,利用PAS等价句子集合中成分对应频繁词序列的特性,通过最大化span-overlap分数识别成分结构,在十种语言中的八种上达到最先进水平,并发现参与者成分与事件成分之间的统计差异。
2024-08-12 cs.CL
PriMeSRL-Eval: A Practical Quality Metric for Semantic Role Labeling Systems Evaluation
IBM Research(IBM研究院);Apple(苹果公司)
语义角色标注(SRL)识别句子中的谓词-论元结构。这个任务通常分为四个步骤:谓词识别、谓词意义消歧、论元识别和论元分类。在一个步骤中引入的错误会传播到后面的步骤。不幸的是,现有的SRL评估脚本没有考虑这种错误传播方面的全部影响。它们要么评估独立于谓词意义的参数(CoNLL 09),要么根本不评估谓词意义(CoNLL 05),从而在参数分类任务上产生不准确的SRL模型性能。在本文中,我们解决现有的评估脚本的关键实际问题,并提出了一个更严格的SRL评估指标PriMeSRL。我们观察到,通过采用PriMeSRL,所有SoTA SRL模型的质量评价显着下降,其相对排名也发生了变化。我们还表明,PriMeSRL成功地惩罚SoTA SRL模型中的实际故障。
2022-10-12 cs.AI cs.CL
Semantic Role Labeling Meets Definition Modeling: Using Natural Language to Describe Predicate-Argument Structures
Sapienza University of Rome(罗马第一大学);Babelscape(巴贝尔斯凯普)
过去和现在的语义角色标注(SRL)方法的一个共同特点是它们依赖于从预定义的语言库中提取的离散标签来对谓词意义及其论元进行分类。然而,我们认为情况不一定如此。在本文中,我们提出了一种方法,利用定义建模引入一个广义的制定SRL的任务描述谓词参数结构使用自然语言定义,而不是离散的标签。我们的新配方的第一步,把可解释性和灵活性放在首位,但我们的实验和分析PropBank风格和FrameNet风格,依赖性为基础的和跨度为基础的SRL也表明,一个灵活的模型与可解释的输出不一定是以牺牲性能。我们在https://github.com/SapienzaNLP/dsrl上发布我们的软件用于研究目的。
2022-12-02 cs.AI cs.CL cs.LG
Dependency or Span, End-to-End Uniform Semantic Role Labeling
Department of Computer Science and Engineering, Shanghai Jiao Tong University(上海交通大学计算机科学与工程系);Key Laboratory of Shanghai Education Commission for Intelligent Interactionand Cognitive Engineering, Shanghai Jiao Tong University(上海交通大学上海市智能交互与认知工程重点实验室)
语义角色标注旨在发现句子的谓词论元结构。无语法输入的端到端SRL受到了广泛的关注。然而,它们大多集中在基于跨度或基于依赖的语义表示形式,并只显示特定的模型优化。同时,统一处理这两个SRL任务不太成功。本文提出了一个端到端的模型,依赖和跨度SRL与一个统一的参数表示,以处理两种不同类型的参数注释在一个统一的方式。此外,我们联合预测所有的谓词和参数,特别是包括长期被忽略的谓词识别子任务。我们的单一模型在跨度(CoNLL 2005,2012)和依赖性(CoNLL 2008,2009)SRL基准上都取得了新的最先进的结果。
2019-01-16 cs.CL
JaSPICE: Automatic Evaluation Metric Using Predicate-Argument Structures for Image Captioning Models
Keio University(庆应义塾大学)
针对现有n元语法类图像字幕评估指标与人类评估相关性低、日语缺乏等效指标的问题,提出基于场景图的日语评估指标JaSPICE,实验证明其与人类评估的相关性优于基线指标。
2023-11-07 cs.CL cs.CV
Building a resource for studying translation shifts
本文介绍了一种跨学科的方法,它汇集了语料库语言学和翻译研究领域。它介绍了正在进行的工作,创建一个语料库资源,翻译转移明确注释。翻译移位是指在翻译过程中发生的偏离源文本和目标文本之间的正式对应关系的现象。如果机器翻译的输出与人类翻译相似,那么以系统的方式注释这种转变的资源将使研究需要解决的现象成为可能。本文中描述的资源包含英语源文本(议会议事录)及其德语翻译。移位注释基于谓词-论元结构,并分两步进行:首先,以简单的方式单语注释谓词及其论元。然后,相应的英语和德语谓词和参数彼此对齐。无论何时发生变化(主要是语法或语义上的变化),对齐都会被相应地标记。
2006-06-22 cs.CL
Neural-Davidsonian Semantic Proto-role Labeling
我们提出了一个语义原型角色标记(SPRL)模型,使用我们称之为“神经戴维森”的自适应双向LSTM编码策略:谓词-参数结构表示为与输入序列的谓词和参数头部标记对应的隐藏状态对。我们证明:(1)最先进的SPRL结果,(2)我们的网络自然地在属性之间共享参数,允许在有限的附加监督下学习新的属性类型。
2019-08-27 cs.CL
Predicate-Argument Structure Divergences in Chinese and English Parallel Sentences and their Impact on Language Transfer
Department of Environmental Sciences, Informatics and Statistics(环境科学、信息学与统计学系);Department of Linguistic Sciences And Foreign Literatures(语言科学与外国文学系)
本文针对汉英平行句的谓词论元结构差异展开分析,通过双向标注投影实验验证了语言迁移的不对称性,为跨语言NLP的源语言选择及相关研究提供参考。
2025-11-12 cs.AI cs.CL
Learning Structured Natural Language Representations for Semantic Parsing
University of Edinburgh(爱丁堡大学);IBM T.J. Watson Research(IBM T.J. Watson研究院)
我们介绍了一个神经语义解析器,转换自然语言的话语中间表示形式的谓词参数结构,这是诱导与过渡系统,随后映射到目标域。语义解析器使用带注释的逻辑形式或它们的表示进行端到端的训练。我们在各种数据集上获得了有竞争力的结果。归纳的谓词-论元结构揭示了用于语义解析的表征类型,以及这些表征与语言动机表征的不同之处。
2017-06-14 cs.CL
Crowdsourcing Question-Answer Meaning Representations
Bar-Ilan University(巴伊兰大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们引入了问答意义表征(QAMRs),它将句子的谓词-论元结构表示为一组问答对。我们还开发了一个众包方案,表明QAMR可以通过很少的训练进行标记,并收集了一个包含5,000多个句子和10万个问题的数据集。详细的定性分析表明,群体生成的问题-答案对涵盖了现有数据集(包括PropBank,NomBank,QA-SRL和AMR)中的绝大多数谓词-参数关系,以及许多以前资源不足的关系,包括隐式参数和关系。QAMR数据和注释代码是公开的,以使未来的工作如何最好地模拟这些复杂的现象。
2017-11-16 cs.CL
Separating Argument Structure from Logical Structure in AMR
University of Groningen(格罗宁根大学)
表示自然语言句子意义的AMR(抽象意义表示)形式主义不是为了处理范围和量词而设计的。通过扩展AMR与索引的上下文和制定这些上下文中的约束条件,推导出一种形式主义,使正确的预测涉及否定和绑定变量的推理。AMR的核心谓词-论元结构被保留了下来。由此产生的框架是类似的话语表征理论。
2020-10-27 cs.CL
Semantically Constrained Multilayer Annotation: The Case of Coreference
Georgetown University(乔治城大学);The Hebrew University of Jerusalem(耶路撒冷希伯来大学)
我们提出了一个共指标注方案作为一个层上的通用概念认知标注基础层,治疗单位的谓词论元结构的基础上,实体和事件提到。我们认为,这使得共指注释者回避了其他方案中面临的一些挑战,这些方案不执行谓词-参数结构的一致性,并且在注释什么样的提及以及如何注释方面存在很大差异。所提出的方法进行检查与试点注释研究,并与其他计划的注释。
2019-06-11 cs.CL
From Semantic Roles to Opinion Roles: SRL Data Extraction for Multi-Task and Transfer Learning in Low-Resource ORL
Department of Computer Engineering University of Guilan(计算机工程系加兹万大学)
本研究从OntoNotes 5.0语料库的WSJ部分构建高质量SRL数据集并适配ORL任务,提出基于PropBank框架的可复现提取流程,生成含97,169个实例的数据集,为低资源ORL的多任务与迁移学习提供可复用资源。
2025-11-11 cs.CL
Implicit Argument Prediction with Event Knowledge
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
隐式参数在语法上与其谓词没有联系,因此很难提取。以前的工作使用具有大量特征的模型,在非常小的数据集上进行评估。我们提出训练模型的隐式论点预测一个简单的完形填空任务,数据可以自动生成的规模。这使我们能够使用神经模型,该模型利用叙事连贯性和实体显著性进行预测。我们表明,我们的模型在合成和自然数据上都具有优越的性能。
2018-04-13 cs.CL
Strategies for Structuring Story Generation
FAIR(FAIR(脸书人工智能研究院));LORIA(洛林信息学及其应用研究实验室);Google AI(谷歌人工智能)
作家一般依靠计划或草图来写长篇故事,但大多数当前的语言模型都是从左到右一个字一个字地生成。我们探索了由粗到细的模型,用于创建数百个单词的叙事文本,并引入了通过抽象动作和实体来分解故事的新模型。该模型首先生成文本的谓词-论元结构,其中对同一实体的不同提及用占位符标记。然后生成谓词-参数结构的表面实现,最后用上下文相关的名称和引用替换实体占位符。人类法官更喜欢我们模型中的故事,而不是以前的各种分层文本生成方法。广泛的分析表明,我们的方法可以帮助提高生成的故事中的事件和实体的多样性和一致性。
2019-06-15 cs.CL
High-order Refining for End-to-end Chinese Semantic Role Labeling
Wuhan University(武汉大学);Guangdong University of Foreign Studies(广东外语外贸大学)
当前的端到端语义角色标注主要是通过基于图的神经模型来完成的。然而,这些都是一阶模型,其中检测任何谓词-参数对的每个决策都是与本地特征隔离的。在本文中,我们提出了一个高阶精炼机制,执行所有谓词参数对之间的相互作用。基于基线图模型,我们的高阶细化模块通过注意力计算学习所有候选对之间的高阶特征,这些特征随后用于更新原始令牌表示。经过几次迭代的细化,底层的令牌表示可以用全局交互的特征来丰富。我们的高阶模型在中国SRL数据(包括CoNLL 09和Universal Proposition Bank)上取得了最先进的结果,同时缓解了长距离依赖问题。
2020-09-15 cs.CL
What's in a Message?
LINA(LINA实验室);Université de Nantes(南特大学)
在本文中,我们提出了一个更大的一系列实验的谓词/参数结构的归纳的第一步。我们所归纳的结构与框架语义学中使用的概念结构非常相似(例如FrameNet)。这些结构被称为消息,它们以前被用在演化事件的多文档摘要系统中。我们提出的一系列实验基本上由两个阶段组成。在第一阶段,我们试图提取一个有代表性的词汇。这个词汇表稍后在第二阶段中使用,在此期间,我们对其应用各种聚类方法,以便识别谓词和参数的聚类-或者框架和语义角色,使用框架语义学的术语。本文对第一阶段进行了详细的介绍和评价。
2009-02-13 cs.CL
An Argument-Marker Model for Syntax-Agnostic Proto-Role Labeling
Leibniz ScienceCampus “Empirical Linguistics and Computational Language Modeling”(莱布尼茨科学园区“实证语言学与计算语言建模”)
语义原型角色标注(SPRL)是语义角色标注(SRL)的替代方案,它超越了角色的类别定义,遵循Dowty基于特征的原型角色视图。该理论基于参与者对或多或少典型的代理人与患者属性的实例化来确定代理人与患者属性,例如,事件中的意志。为了执行SPRL,我们开发了一个具有自我注意力和同时学习的谓词-参数标记的分层模型的集合。我们的方法与最先进的方法相比具有竞争力,在任务的两个配方(多标签和多变量李克特尺度预测)中整体表现优于以前的工作。在以前的工作相比,我们的研究结果不依赖于黄金论点头来自补充黄金树银行。
2019-04-12 cs.CL
Learning Semantic Structure through First-Order-Logic Translation
IRIT(法国图卢兹计算机科学、电子与通信研究所);CNRS(法国国家科学研究中心)
针对Transformer语言模型易混淆谓词与对应宾语的问题,该研究探索问答、一阶逻辑翻译两项任务及提示、微调两种范式,发现大语言模型的一阶逻辑翻译更适合学习谓词论元结构。
2024-10-04 cs.CL cs.LG
Unsupervised Transfer of Semantic Role Models from Verbal to Nominal Domain
University of Edinburgh(爱丁堡大学);University of Amsterdam(阿姆斯特丹大学)
语义角色标注(Semantic role labeling,SRL)是一个NLP任务,涉及将谓词参数分配给类型,称为语义角色。尽管SRL的研究主要集中在动词谓词上,并且许多可用于SRL的资源仅为动词提供注释,但语义关系通常由其他语言结构触发,例如,名词化在这项工作中,我们调查的情况下,我们假设的角色注释的数据为源动词域,但只有未标记的数据为目标名词域的转移。我们的关键假设,使两个域之间的转移,是一个角色的选择偏好(即,对可接受论元的偏好或约束)并不强烈地依赖于关系是由动词还是名词触发的。例如,相同的一组参数可以填补动词谓词“acquire”及其名词形式“acquisition”的获取者角色。我们从变分自编码的角度来处理转移任务。标签器充当编码器(预测给定句子的角色标签),而选择偏好在解码器组件中捕获(为预测角色生成参数)。在训练数据中没有标记名义角色,而是学习目标推动标记器分配预测参数的角色。跨域共享解码器参数鼓励了针对两个域预测的标签之间的一致性,并且促进了传输。该方法大大优于基线,如无监督和“直接转移”的方法,对英语CoNLL-2009数据集。
2020-09-26 cs.CL cs.LG
Conversational Semantic Role Labeling with Predicate-Oriented Latent Graph
Wuhan University(武汉大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));Guangdong University of Foreign Studies(广东外语外贸大学)
会话语义角色标注是一项新提出的任务,旨在揭示会话文本中的浅层语义结构。然而,CSRL任务的几个重要特征,如结构信息整合、近邻影响等,却被现有的研究所忽视。在这项工作中,我们研究了CSRL的潜在图的整合。我们提出了一种以谓词为中心的高斯机制,自动诱导一个面向谓词的潜在图(POLar),通过该机制,更接近谓词的信息词将被分配更多的注意力。然后,POLar结构被动态地修剪和细化,以便最好地满足任务需求。我们还引入了一个有效的对话级预训练的语言模型,CoDiaBERT,更好地支持多个话语句子和处理CSRL中的说话人共指问题。我们的系统在三个基准CSRL数据集上的性能优于最佳基线,特别是在跨话语参数检测上实现了超过4%的F1分数改进。进一步的分析,以更好地了解我们提出的方法的有效性。
2022-10-06 cs.AI cs.CL
Semantic Role Labeling as Dependency Parsing: Exploring Latent Tree Structures Inside Arguments
Institute of Artificial Intelligence, School of Computer Science and Technology(计算机科学与技术学院人工智能研究所);Soochow University(苏州大学);Huawei Cloud(华为云);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
语义角色标注(SRL)是自然语言处理领域的一项基本而又具有挑战性的任务。SRL近期的工作主要分为两条路线:1)基于生物的; 2)基于跨度的。尽管它们普遍存在,但它们都有一些内在的缺点,即没有考虑内部参数结构,这可能会阻碍模型的表达能力。关键的挑战是参数是平面结构,并且参数中的单词没有确定的子树实现。为了弥补这一点,在本文中,我们建议把扁平的参数跨度作为潜在的子树,从而减少SRL的树解析任务。特别是,我们配备了一个新的跨度约束TreeCRF制定,使树结构跨度意识,并进一步将其扩展到二阶的情况下。我们在CoNLL 05和CoNLL 12基准上进行了大量的实验。结果表明,我们的方法比以前所有的语法不可知的作品表现得更好,实现了新的国家的最先进的端到端和W/黄金谓词设置。
2022-09-17 cs.CL
Multi-Task Learning for Joint Semantic Role and Proto-Role Labeling
Columbia University(哥伦比亚大学);University of Gothenburg(哥德堡大学);University of Washington(华盛顿大学)
我们提出了一个端到端的多步骤机器学习模型,该模型将语义角色和Dowty(1991)的原型角色联合标注,给定一个句子和其中的谓词。我们最好的架构首先学习参数跨度,然后学习参数的语法中心。该信息与用于预测语义角色和原型角色的后续步骤共享。我们还尝试了从论点和头部预测到角色和原型角色标记的迁移学习。我们比较使用静态和上下文嵌入的单词,参数和句子。与以前的工作不同,我们的模型不需要预先训练或微调额外的任务,除了使用现成的(静态或上下文)嵌入和监督。它也不需要参数跨度,它们的语义角色和/或它们的黄金句法头作为额外的输入,因为它在训练过程中学会预测所有这些。我们的多任务学习模型为大多数原型角色提出了最先进的预测。
2022-10-13 cs.CL
Uncovering Autoregressive LLM Knowledge of Thematic Fit in Event Representation
Imperial College London(伦敦帝国学院);Columbia University(哥伦比亚大学);University of Washington(华盛顿大学)
通过多种提示设计、输入上下文操作、推理和输出形式,研究自回归大语言模型是否具有一致且可表达的事件参数主题适配性知识,并在基准测试上取得新最优结果。
2026-05-23 cs.AI cs.CL
Integrating "Free" Word Order Syntax and Information Structure
本文描述了一种组合范畴形式主义,称为Multiset-CCG,可以捕捉语法和解释的“自由”的语序,如土耳其语。形式主义在成分上并行地推导出句子的谓词-论元结构和信息结构(例如主题、焦点),并且统一地处理分句内、复杂分句中以及跨分句边界的论元和非论元之间的语序变化。
1995-02-15 cmp-lg cs.CL
Thematic Fit Bits: Annotation Quality and Quantity Interplay for Event Participant Representation
University of Washington(华盛顿大学);University of Gothenburg(哥德堡大学)
建模主题适合(动词-论点组成语义任务)目前需要一个非常大的负担的标记数据。我们采用语言机器注释的大型语料库,并将语料库层替换为更高质量,更现代的标记器的输出。我们使用高性能的神经方法比较了新旧语料库版本对动词-论元匹配建模任务的影响。我们发现,更高的注释质量大大降低了我们的数据需求,同时展示了更好的监督谓词参数分类。但在将该模型应用于训练目标之外的心理语言学任务时,我们看到了明显的规模收益,但仅在两个主题拟合估计任务中的一个中,另一个没有明显的收益。我们还看到,质量随着训练规模的增加而提高,但在一项任务中可能会达到稳定甚至下降。最后,我们测试了角色集大小的影响。所有这些都表明,质量/数量的相互作用并不是你所需要的全部。我们复制以前的研究,同时修改某些角色表示的细节,并设置一个新的国家的最先进的事件建模,使用一小部分的数据。我们把新的语料库版本公之于众。
2022-05-04 cs.CL
Rethinking the Relationship between the Power Law and Hierarchical Structures
RIKEN(理化学研究所);National Institute for Japanese Language and Linguistics(日本语言学研究所);The University of Tokyo(东京大学);Georgetown University(乔治城大学);National Institute of Informatics(信息处理研究所)
本文通过分析自然语言解析树的统计特性,质疑了幂律与分层结构之间关系的普遍性,发现解析树与概率上下文无关文法的假设不成立。
2026-10-06 cs.CL