From Partial to Strictly Incremental Constituent Parsing
Universidade da Coruña(拉科鲁尼亚大学);CITIC
本研究构建严格从左到右的增量成分句法分析器,仅用前缀表示输出句法树,并对比非增量与部分增量模型,验证其跨语言有效性。
2024-02-05 cs.CL
A neural joint model for Vietnamese word segmentation, POS tagging and dependency parsing
The University of Melbourne(墨尔本大学);VinAI Research(VinAI研究院)
我们提出了第一个多任务学习模型联合越南语分词,词性(POS)标记和依存句法分析。特别地,我们的模型用基于BiLSTM-CRF的神经层(Huang et al.,2015)用于分词和POS标记。在越南基准数据集上的实验结果表明,我们的联合模型获得了最先进或有竞争力的性能。
2019-11-11 cs.CL
Exploiting Pre-trained Encoder-Decoder Transformers for Sequence-to-Sequence Constituent Parsing
Universidade de Vigo, Departamento de Informática(维戈大学计算机系)
本文提出利用预训练的编码器-解码器模型进行短语结构解析,通过微调生成线性解析树并在不同线性化策略下评估,优于传统序列到序列模型并能与任务专用解析器竞争。
2026-05-13 cs.CL
Arc-Standard Spinal Parsing with Stack-LSTMs
IBM T.J Watson Research Center(IBM T.J. Watson 研究中心);Naver Labs Europe
我们提出了一个神经过渡为基础的解析器的脊椎树,依赖表示的组成树。解析器使用Stack-LSTM来组成具有基于依赖关系的派生的组成节点。在实验中,我们表明,该模型适用于不同风格的依赖关系,但这种选择对预测组成结构的影响不大,这表明LSTM诱导有用的状态本身。
2017-09-01 cs.CL
Extracting Headless MWEs from Dependency Parse Trees: Parsing, Tagging, and Joint Modeling Approaches
Cornell University(康奈尔大学)
一种有趣且常见的多词表达(MWE)类型是无头MWE,它没有真正的内部句法优势关系;例子包括许多命名实体(“富国银行”)和日期(“2020年7月5日”)以及某些生产性结构(“打击打击”,“日复一日”)。尽管他们的特殊地位和流行,目前的依赖性注释计划需要处理这样的平面结构,如果他们有内部的句法头,和大多数目前的分析器处理他们在相同的方式作为领导建设。同时,在解析的上下文之外,标记器通常用于识别MWE,但标记器可能受益于结构信息。我们经验比较这两种常见的策略-解析和标记-预测平坦MWE。此外,我们提出了一个有效的联合解码算法,结合这两种策略的分数。在MWE-Aware英语依存语料库和六个具有频繁平面结构的非英语依存树库上的实验结果表明:(1)标记比解析更准确地识别平面结构的MWE,(2)我们的联合解码器协调了两种不同的观点,对于非BERT特征,导致更高的准确率,(3)大部分收益来自解析器和标记器之间的特征共享。
2020-05-06 cs.CL
Two Local Models for Neural Constituent Parsing
Singapore University of Technology and Design(新加坡科技设计大学)
非局部特征已经被句法分析器用于捕获子输出结构之间的依赖关系。这些特性是最先进的统计解析器成功的关键。然而,随着深度学习的兴起,已经表明,由于包含全局语法信息的密集神经输入表示的力量,局部输出决策可以提供极具竞争力的准确性。我们研究了两个概念上简单的局部神经元模型的成分分析,使当地的决定,成分跨度和CFG规则,分别。与之前的研究结果一致,我们的最佳模型给出了极具竞争力的结果,在PTB上实现了92.4%的标记括号F1评分,在CTB 5.1上实现了87.3%。
2018-08-28 cs.CL
Incorporating Semi-supervised Features into Discontinuous Easy-First Constituent Parsing
University of Heidelberg(海德堡大学)
本文描述了EaFi的适应性,EaFi是一种用于不连续成分的简单优先解析的解析器,使其适应多种语言,并利用作为SPMRL共享任务2014的一部分提供的未标记数据。
2014-09-12 cs.CL
Hexatagging: Projective Dependency Parsing as Tagging
提出名为hexatagger的依存句法分析器,通过将单词标注为有限标签来构建依存树,实现训练时完全并行化和线性时空复杂度的精确解码,并在Penn Treebank上取得SOTA性能且解码速度提升约10倍。
2023-06-08 cs.AI cs.CL
What Taggers Fail to Learn, Parsers Need the Most
Universidade da Coruña(科鲁尼亚大学);CITIC;FASTPARSE Lab, LyS Research Group(FASTPARSE实验室,LyS研究组)
我们提出了一个错误分析的神经UPOS标签,以评估为什么使用黄金标准的标签有这么大的积极贡献,解析性能,而使用预测的UPOS标签要么损害性能或提供一个微不足道的改进。我们评估了神经依赖分析器隐式地学习单词类型,以及这与标记器的错误如何相关,以解释使用预测标记对分析器的最小影响。我们还提出了一个简短的分析,什么情况下导致标记性能的降低。然后,我们屏蔽UPOS标签的基础上所作的错误,标签,标签成功和失败的分类正确和标签错误的影响梳理出UPOS标签的贡献。
2021-04-02 cs.AI cs.CL
Parsing as Reduction
Universidade de Vigo(维戈大学);Instituto de Telecomunicações(电信研究所);Instituto Superior Técnico(高等技术学院);Priberam Labs(Priberam实验室)
我们把短语表示句法分析归结为依存句法分析。我们的减少是基于一个新的中间表示,“头有序依赖树”,表现出同构的组成树。通过编码顺序信息的依赖标签,我们表明,任何现成的,可训练的依赖分析器可以用来产生成分。当这个解析器是非投射的时候,我们可以以一种非常自然的方式执行不连续的解析。尽管我们的方法很简单,但实验表明,所得到的解析器与强大的基线相当,例如伯克利英语解析器和SPMRL-2014共享任务中的最佳单个系统。结果是特别引人注目的不连续解析的德国,我们超越了目前的艺术水平的一个很大的差距。
2015-02-27 cs.CL
Enriched In-Order Linearization for Faster Sequence-to-Sequence Constituent Parsing
Universidade da Coruña(拉科鲁尼亚大学);CITIC
序列到序列成分分析需要线性化来将树表示为序列。自上而下的树线性化,可以基于括号或移位归约操作,已经达到了迄今为止最好的精度。在本文中,我们表明,这些结果可以改善,而使用的顺序线性化。基于这一观察结果,我们实施了一种受Vinyals等人(2015)方法启发的丰富的有序移位归约线性化,在全监督单模型序列到序列组成解析器中,在英语PTB数据集上实现了迄今为止的最佳准确度。最后,我们应用确定性注意力机制来匹配最先进的基于转换的解析器的速度,从而表明序列到序列模型可以匹配它们,不仅在准确性上,而且在速度上。
2020-05-27 cs.CL
On the Frailty of Universal POS Tags for Neural UD Parsers
Universidade da Coruña(拉科鲁尼亚大学);CITIC;FASTPARSE Lab(FASTPARSE实验室);LyS Research Group(LyS研究组);Departamento de Ciencias de la Computación y Tecnologías de la Información(计算机科学与信息技术系)
我们提出了一个分析的效果UPOS的准确性对解析性能。结果表明,利用UPOS标签作为神经解析器的特征需要非常高的标记准确性,并且使用黄金标签提供了性能的非线性增长,这表明了某种特殊性。我们还调查了预测的UPOS标签的哪些方面影响解析精度最多,突出了一些潜在的有意义的语言方面的问题。
2020-10-14 cs.CL
The Meaning Factory at SemEval-2017 Task 9: Producing AMRs with Neural Semantic Parsing
University of Groningen(格罗宁根大学)
我们在SemEval-2017 AMR语义解析共享任务的上下文中评估了基于字符的序列到序列模型的语义解析器。通过数据增强、超级字符和POS标记,与基线字符级模型相比,我们在性能上获得了重大改进。虽然我们改进了以前的基于字符的神经语义解析模型,但总体准确率仍然低于最先进的AMR解析器。将我们的神经语义解析器与现有的传统解析器相结合的集成,在性能上会有很小的提高。
2017-04-19 cs.CL
Unsupervised Parsing by Searching for Frequent Word Sequences among Sentences with Equivalent Predicate-Argument Structures
The University of Tokyo(东京大学);Imperial College London(伦敦帝国学院);The University of Liverpool(利物浦大学)
本文提出基于频率的无监督成分句法解析器span-overlap,利用PAS等价句子集合中成分对应频繁词序列的特性,通过最大化span-overlap分数识别成分结构,在十种语言中的八种上达到最先进水平,并发现参与者成分与事件成分之间的统计差异。
2024-08-12 cs.CL
Investigating Non-local Features for Neural Constituency Parsing
Zhejiang University(浙江大学);Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
由于神经编码器的强大表示能力,基于神经图表的解析器通过使用局部特征实现了极具竞争力的性能。最近,它已被证明,CRF结构中的非本地功能导致的改善。在本文中,我们研究注入非本地功能的本地跨度为基础的分析器的训练过程中,通过预测成分n-gram非本地模式,并确保非本地模式和本地成分之间的一致性。结果表明,我们的简单的方法给出了更好的结果比自我关注的分析器上的PTB和CTB。此外,我们的方法在PTB上实现了最先进的基于BERT的性能(95.92 F1),在CTB上实现了强大的性能(92.31 F1)。我们的解析器也取得了更好的或有竞争力的性能,在多语言和zero-shot跨域设置相比,基线。
2022-03-28 cs.CL
HLT@SUDA at SemEval 2019 Task 1: UCCA Graph Parsing as Constituent Tree Parsing
Soochow University(苏州大学)
本文描述了一种简单的UCCA语义图解析方法。其关键思想是将UCCA语义图转换为一棵组成树,其中特意设计了额外的标签来标记远程边缘和不连续节点,以便将来恢复。通过这种方式,我们可以利用现有的句法分析技术。在数据统计的基础上,我们直接根据成分分析器的输出标签来恢复不连续的节点,并使用一个双仿射分类模型来恢复更复杂的远程边缘。在多任务学习框架下同时训练分类模型和成分分析器。我们使用多语言BERT作为开放式曲目的额外功能。我们的系统在七个参与系统中的六个英/德封闭/开放轨道中排名第一。对于第七个跨语言轨道,其中有很少的训练数据法语,我们提出了一种语言嵌入方法,利用英语和德语的训练数据,我们的结果排名第二位。
2019-04-04 cs.CL
DPH Parser: A Bottom-Up Grammar-Driven Parser for Joint Constituency and Dependency Analysis
本文提出DPH解析器,一种基于语法的自底向上无监督解析框架,通过特征规则和中心语标注联合生成成分与依存结构,在UD语料上验证了透明解析的可行性。
2026-09-09 cs.CL
In-Order Transition-based Constituent Parsing
Singapore University of Technology and Design(新加坡科技设计大学)
自下而上和自上而下两种策略都被用于基于神经转换的成分句法分析。解析策略的不同之处在于它们在派生树中识别产生式的顺序,其中自底向上策略和自顶向下策略分别对树进行后序和前序遍历。自下而上的解析器从容易构建的部分解析器的丰富功能中受益,但是在解析过程中缺乏前瞻性指导;自上而下的句法分析器从非局部的局部决策指导中获益,但是依赖于对输入的强编码器来在其构造之前预测组成层次。为了减轻这两个问题,我们提出了一种基于句法树的有序遍历的新的句法分析系统,设计一组转换动作以找到自下而上的组成信息和自上而下的先行信息之间的折衷。基于stack-LSTM,我们的心理语言动机成分分析系统在WSJ基准测试中达到了91.8 F1。此外,该系统实现了93.6 F1与监督重排序和94.2 F1与半监督重排序,这是最好的结果在华尔街日报基准。
2017-07-17 cs.CL
Head-Driven Phrase Structure Grammar Parsing on Penn Treebank
Shanghai Jiao Tong University(上海交通大学)
中心语驱动短语结构语法(HPSG)具有统一的形式主义,代表了丰富的上下文句法甚至语义。本文首次尝试通过将成分和依存形式表征整合到中心语驱动短语结构中来构建一个简化的HPSG。然后分别对两种转换后的树表示--分割生成树和联合生成树提出了两种解析算法。由于HPSG编码组成和依赖结构信息,所提出的HPSG解析器可以被认为是一种用于两种类型的结构的联合解码器,并且因此根据提取或转换的组成和依存句法分析树来评估。我们的分析器实现了新的国家的最先进的性能,在宾夕法尼亚树库(PTB)和中文宾夕法尼亚树库的分析任务,验证了联合学习成分和依赖结构的有效性。在PTB上,成分句法分析的F1为96.33,依存句法分析的UAS为97.20。
2020-05-05 cs.CL
Head-driven Phrase Structure Parsing in O($n^3$) Time Complexity
Shanghai Jiao Tong University(上海交通大学)
成分句法分析和依存句法分析是句法分析的两种经典形式,在中心语驱动短语结构语法(Head-driven Phrase Structure Grammar,HPSG)的统一形式化框架下,联合训练和解码对这两种句法分析都有好处。然而,由于在解码期间必须考虑更多的因素,因此解码该统一语法具有比单独解码任一形式($O(n^3)$)更高的时间复杂度($O(n^5)$)。因此,我们提出了一个改进的头部评分器,有助于实现一个新的性能保持解析器在$O$($n^3$)时间复杂度。此外,在此基础上提出了实用的HPSG解析器,我们调查了基于HPSG的解析的优势,并探讨了在多语言场景中仅从成分或依赖注释训练基于HPSG的解析器的一般方法。因此,我们提出了一个更有效的,更深入的,和一般的工作HPSG解析。
2021-05-20 cs.CL
Semi-Supervised Neural System for Tagging, Parsing and Lematization
Institute of Computer Science, Polish Academy of Sciences(波兰科学院计算机科学研究所)
本文介绍了ICS PAS系统,该系统参加了CoNLL 2018共享任务,从原始文本到通用语法的多语言解析。该系统由联合训练的tagger,lemmatizer和依赖解析器组成,它们基于biLSTM网络提取的特征。该系统使用全连接和扩张卷积神经架构。我们的方法的新颖之处在于使用了一个额外的损失函数,它减少了预测依赖图中的周期数,并使用自训练来提高系统性能。拟议的系统,即ICS PAS(Warszawa),在正式评估中排名第3/第4,获得以下总体结果:73.02(LAS),60.25(MLAS)和64.44(BLEX)。
2020-04-26 cs.CL
explanation-based learning of data oriented parsing
本文提出了一种新的自然语言句法分析的基于解释的学习(EBL)的观点。本文建议采用EBL学习如何减少歧义只有部分,而不是采用EBL的专业化解析器推断新的。该方法包括一个用于学习部分语法分析器的EBL算法,以及一个将部分语法分析器与现有的"全语法分析器”相结合的语法分析算法。学习的部分解析器,可实现为有限状态转换器(CFST)的级联,有效地识别和组合成分,防止虚假的过度生成。解析算法将学习的部分解析器与给定的完全解析器相结合,使得完全解析器的作用限于组合由部分解析器识别的成分,以及识别输入句子的未识别部分。除了在消歧之前减少解析空间之外,本方法还提供了一种用于改进从树库学习随机语法的现有消歧模型的方法。我们展示了令人鼓舞的实证结果,使用试点实施:解析空间大大减少了最小的损失的覆盖范围。消歧模型的加速增益通过DOP模型的实验来举例说明。
1997-08-20 cmp-lg cs.CL
Parsing linearizations appreciate PoS tags - but some are fussy about errors
Universidade da Coruña(拉科鲁尼亚大学);CITIC(CITIC(信息与通信技术研究中心));PIN Caerdydd(加的夫PIN研究中心);Prifysgol Caerdydd(卡迪夫大学)
PoS标签曾经被认为是句法分析的有用资源,随着深度学习的普及,它变得更加情境化。最近关于PoS标签对基于图和转换的解析器的影响的研究表明,它们只有在标签准确性高得令人望而却步或在低资源场景中才有用。然而,这样的分析是缺乏新兴的序列标记解析范式,它是特别相关的,因为一些模型显式地使用PoS标签进行编码和解码。我们进行了一项研究,发现了一些趋势。其中,PoS标签通常对序列标记解析器比其他范式更有用,但其准确性的影响高度依赖于编码,只有当标记准确性和资源可用性都很高时,基于PoS的头选择编码才是最好的。
2022-10-27 cs.CL
Concurrent Parsing of Constituency and Dependency
Shanghai Jiao Tong University(上海交通大学)
句法结构的成分表示和依存表示具有很多语言和计算上的共同特点,本文首次尝试引入一种新的模型,该模型能够同时解析成分和依存,从而使任何一个解析器都能相互增强。特别是,我们评估了不同的共享网络组件的效果和经验验证,依存句法分析可能是更有益的成分分析结构。建议的解析器实现了新的国家的最先进的性能分析任务,成分和依赖PTB和CTB基准。
2019-09-25 cs.CL cs.LG
Read, Tag, and Parse All at Once, or Fully-neural Dependency Parsing
University of Wrocław(弗罗茨瓦夫大学)
我们提出了一个依赖解析器实现为一个单一的深神经网络,读取单词的正字法表示,并直接生成依赖关系和它们的标签。与典型的解析方法不同,该模型不需要对句子进行词性(POS)标记。通过适当的正则化和多任务学习实现的额外监督,我们在通用递归树库的斯拉夫语言上达到了最先进的性能:除了字符之外没有其他语言特征,我们的解析器与在完美的POS标签上训练的基于转换的系统一样准确。
2017-06-05 cs.CL
ThamizhiUDp: A Dependency Parser for Tamil
University of Moratuwa(莫拉图瓦大学)
本文介绍了我们如何开发一个基于神经的依赖分析器,即ThamizhiUDP,它提供了一个完整的管道依存句法分析的泰米尔语文本使用通用依赖形式主义。我们已经考虑了依存句法分析管道的各个阶段,并确定了每个阶段中的工具和资源,以提高准确性并解决数据稀缺问题。ThamizhiUDP使用Stanza进行标记化和词形化,使用ThamizhiPOSt和ThamizhiMorph生成词性(POS)和形态学注释,使用uuparser进行多语言训练以进行依存句法分析。ThamizhiPOSt是我们的POS标记器,它基于Stanza,使用Amrita POS标记语料库进行训练。它是目前最先进的泰米尔语POS标记,F1得分为93.27。我们的形态分析器,ThamizhiMorph是一个基于规则的系统,具有很好的泰米尔语覆盖率。我们的依赖解析器ThamizhiUDp是使用多语言数据训练的。它显示了62.39的标记语法得分(LAS),比泰米尔语依存句法分析目前达到的最好成绩高出4分。因此,我们表明,打破了依存句法分析管道,以适应现有的工具和资源是一个可行的方法,低资源的语言。
2020-12-24 cs.CL
POS tagging, lemmatization and dependency parsing of West Frisian
Fryske Akademy(弗里斯兰学院);University of Groningen(格罗宁根大学);BNOSAC;Utrecht University(乌得勒支大学)
我们提出了一个lemmatizer/POS标签/依赖分析器西弗里斯兰语使用语料库的44,714个单词的3,126句,根据通用依赖版本2的指导方针进行注释。POS标签被分配给单词使用荷兰语POS标签,适用于逐字翻译,或荷兰语平行文本的句子。使用弗里斯兰语翻译程序Oersetter创建的直译时获得了最佳结果。形态和句法注释的基础上产生的荷兰语直译以及。将使用默认参数训练时的lemmatizer/tagger/annotator的性能与使用用于训练LassySmall UD 2.5语料库的参数值时获得的性能进行比较。一个显着的改善被发现为'lemma'。Frisian lemmatizer/PoS tagger/dependency parser作为Web应用程序和Web服务发布。
2021-07-28 cs.CL stat.ML
Discontinuous Grammar as a Foreign Language
Universidade da Coruña(拉科鲁尼亚大学);CITIC(信息与通信技术研究中心)
为了实现自然语言的深层理解,句法成分分析是一个重要的步骤,许多人工智能系统都高度要求处理文本和语音。最新的建议之一是使用标准的序列到序列模型来执行成分解析作为机器翻译任务,而不是应用特定于任务的解析器。虽然这些文本解析转换器表现出了竞争力,但在准确性、覆盖范围和速度方面仍然落后于经典技术。为了缩小差距,我们在这里扩展的框架序列到序列模型的成分分析,不仅通过提供一个更强大的神经架构,以提高其性能,而且还通过扩大其覆盖范围,以处理最复杂的句法现象:不连续结构。为此,我们设计了几种新的线性化,可以完全产生不连续性,并首次在主要的不连续基准上测试了序列到序列模型,获得了与特定任务的不连续成分解析器相当的竞争结果,并在(不连续)英语Penn Treebank上获得了最先进的分数。
2022-12-22 cs.CL
End-to-end Graph-based TAG Parsing with Neural Networks
Department of Linguistics, Yale University(耶鲁大学语言学系);Elemental Cognition, LLP(Elemental Cognition, LLP(Elemental Cognition有限责任公司))
我们提出了一个基于图的树邻接语法(TAG)解析器,它使用BiLSTM,高速公路连接和字符级CNN。我们最好的端到端解析器,它联合执行超级标记,POS标记和解析,比以前报告的最佳结果高出2.2个LAS和UAS点。基于图的解析架构允许全局推理和丰富的特征表示TAG解析,减轻了基于转换和基于图的解析系统之间的根本权衡。我们还表明,建议的解析器实现最先进的性能在下游任务的解析评估使用文本蕴涵(PETE)和无限依赖恢复。这进一步支持了TAG是一种可行的形式主义的主张,需要丰富的句子结构分析的问题。
2018-04-28 cs.CL
Improving Unsupervised Constituency Parsing via Maximizing Semantic Information
the University of Tokyo(东京大学);Imperial College London(帝国理工学院);the University of Liverpool(利物浦大学)
本文提出最大化语义信息(SemInfo)目标训练无监督成分句法分析器,通过词袋子树模型和TreeCRF模型优化PCFG解析器,在四种语言中平均提升7.85个F1分数。
2025-04-04 cs.CL
A Survey of Syntactic-Semantic Parsing Based on Constituent and Dependency Structures
Tianjin University(天津大学)
句法和语义解析是自然语言处理领域的一个主要研究课题,已经有几十年的研究历史。本文旨在对这一主题进行简要的概述。解析社区包括许多任务,这些任务很难被完全覆盖。在这里,我们集中在两个最流行的形式化分析:成分分析和依存句法分析。成分句法分析主要针对句法分析,而依存句法分析可以同时处理句法和语义分析。本文简要回顾了成分句法分析和依存句法分析的代表性模型,以及具有丰富语义的依存图句法分析。此外,本文还对跨领域、跨语言和联合句法分析模型、句法分析器的应用以及句法分析语料库的开发等相关问题进行了综述。
2020-06-19 cs.CL
Joint RNN-Based Greedy Parsing and Word Composition
Idiap Research Institute(伊迪亚普研究所);Facebook AI Research(Facebook人工智能研究院)
本文介绍了一种基于神经网络的贪婪语法分析器,它利用了一种新的组合子树表示。贪婪解析器和组合过程是联合训练的,并且紧密依赖于彼此。合成过程输出一个向量表示,它总结了语法(解析标签)和语义(单词)的子树。组合和标记是通过连续(单词或标签)表示和递归神经网络实现的。我们达到F1性能与著名的现有解析器,同时具有速度的优势,由于贪婪的性质的解析器。我们提供了一个完整的功能实现本文中所描述的方法。
2015-04-10 cs.CL cs.LG cs.NE
Reducing Discontinuous to Continuous Parsing with Pointer Network Reordering
Universidade da Coruña(拉科鲁尼亚大学);CITIC(加泰罗尼亚通信技术中心)
不连续成分分析器在准确性和速度方面总是落后于连续方法,因为存在不连续产量的成分会给任务带来额外的复杂性。然而,不连续的树可以通过重新排序令牌转换为连续的变体。在此基础上,我们建议减少不连续的解析到一个连续的问题,然后可以直接解决任何现成的连续解析器。为此,我们开发了一个指针网络,能够准确地生成一个给定的输入句子的连续令牌安排,并定义了一个双射函数,以恢复原来的顺序。在两个连续解析器的主要基准测试上的实验证明,我们的方法与纯粹不连续的最先进的算法在准确性上不相上下,但速度要快得多。
2021-09-13 cs.AI cs.CL
Encoder-Decoder Shift-Reduce Syntactic Parsing
Singapore University of Technology and Design(新加坡科技设计大学)
从NMT开始,编码器-解码器神经网络已被用于许多NLP问题。借用编码器组件的基于图形的模型和基于转换的模型分别在依存句法分析和成分语法分析上实现了最先进的性能。然而,还没有工作经验性地研究基于转换的解析的编码器-解码器神经网络。为此,我们应用了一个简单的编码器-解码器,在标准依赖性解析上实现了与Dyer et al.(2015)的解析器相当的结果,并在成分解析上优于Vinyals et al.(2015)的解析器。
2017-06-24 cs.CL
Constituent Parsing as Sequence Labeling
Universidade da Coruña(拉科鲁尼亚大学)
我们介绍了一种方法来减少成分分析序列标记。对于每个单词w_t,它生成一个标签,该标签编码:(1)单词w_t和w_{t+1}在树中共有的祖先的数量,以及(2)最低共同祖先处的非终结符。我们首先证明,建议的编码功能是单射的任何树没有一元分支。在实践中,通过折叠一元分支,该方法可扩展到所有选区树。然后,我们使用PTB和CTB树库作为测试平台,并提出了一套快速基线。我们在PTB测试集上获得了90.7%的F分数,优于Vinyals et al.(2015)序列到序列解析器。此外,牺牲一些准确性,我们的方法实现了最快的成分分析速度报告PTB上迄今为止的一个很大的利润。
2019-09-17 cs.CL
Parsing Tweets into Universal Dependencies
Harbin Institute of Technology(哈尔滨工业大学);University of Cambridge(剑桥大学);Georgetown University(乔治敦大学);University of Washington(华盛顿大学)
我们研究的问题,分析推文与普遍的一致性。我们扩展了UD准则,以涵盖影响标记化,词性标记和标记依赖关系的推文中的特殊结构。使用扩展的指导方针,我们创建了一个新的英语tweet树库(Tweebank v2),比Kong et al.(2014)介绍的(未标记的)Tweebank v1大四倍。我们的注释者之间的分歧的特点,并表明,这是具有挑战性的,以提供一致的注释,由于在理解和解释推文的模糊性。尽管如此,使用新的树库,我们构建了一个管道系统来将原始推文解析为UD。为了在不牺牲计算效率的情况下克服注释噪声,我们提出了一种新的方法,将20个基于转换的解析器的集合提取为一个。我们的解析器在LAS中实现了2.2的改进,并且在准确性和速度方面优于其他树库上最先进的解析器。
2018-04-23 cs.CL
Learning Parse and Translation Decisions From Examples With Rich Context
我们提出了一个解析和翻译自然语言的系统,从例子中学习,并使用一些背景知识。作为我们的分析模型,我们选择了一个确定性的移位-归约类型的分析器,它集成了词性标注和句法语义处理。应用机器学习技术,该系统使用在监督下获得的解析动作示例来生成决策结构形式的解析器,这是决策树的泛化。为了学习良好的解析和翻译决策,我们的系统在很大程度上依赖于上下文,目前编码在205个功能描述的形态,语法和语义方面的一个给定的解析状态。与最近使用40,000个句子进行训练的概率系统相比,我们的系统依赖于更多的背景知识和更深入的分析,但样本数量更少,目前只有256个句子。我们测试我们的分析器从华尔街日报词汇限制的句子,并实现准确率为89.8%的标记精度,98.4%的词性标记和56.3%的测试句子没有任何交叉括号。10名双语志愿者对32个《华尔街日报》句子的机器翻译进行了评估,并在1.0(最好)到6.0(最差)的范围内对语法正确性和意义保留进行了评分。
1997-06-30 cmp-lg cs.CL
From POS tagging to dependency parsing for biomedical event extraction
The University of Melbourne(墨尔本大学)
背景资料:鉴于从生物医学研究出版物中提取关系或事件以支持知识捕获和合成的重要性,以及该信息抽取任务对句法信息的强烈依赖性,了解哪些方法对生物医学文本的句法处理具有最高性能是有价值的。结果如下:我们在两个基准生物医学语料库GENIA和CRAFT上进行了一项实证研究,比较了最先进的传统基于特征的模型和基于神经网络的模型,用于词性(POS)标记和依存句法分析这两个核心自然语言处理任务。据我们所知,最近没有在生物医学背景下进行这种比较的工作;具体来说,没有对这些数据的神经模型进行详细分析。实验结果表明,在一般情况下,神经模型优于基于特征的模型在两个基准生物医学语料库GENIA和CRAFT。我们还进行了面向任务的评估,以调查这些模型在下游应用程序的生物医学事件提取的影响,并表明,更好的内在解析性能并不总是意味着更好的外在事件提取性能。结论:我们已经提出了一个详细的实证研究比较传统的基于特征的和基于神经网络的模型的POS标记和依存句法分析在生物医学的背景下,还调查了分析器的选择的生物医学事件提取下游任务的影响。数据和材料的可用性:我们在https://github.com/datquocnguyen/BioPosDep上提供重新训练的模型
2019-01-02 cs.CL
Neural Morphological Tagging for Nguni Languages
Department of Computer Science(计算机科学系);University of Cape Town(开普敦大学)
针对恩古尼语形态解析难题,研究构建神经形态标注器,对比两类神经方法与传统规则方法,发现从头训练的神经标注器性能最优,验证了该方案的可行性。
2025-05-19 cs.CL
Is POS Tagging Necessary or Even Helpful for Neural Dependency Parsing?
Institute of Artificial Intelligence, School of Computer Science and Technology, Soochow University(苏州大学计算机科学与技术学院人工智能研究院)
在前深度学习时代,词性标记已被认为是依存句法分析中特征工程不可或缺的成分。但是,相当多的工作集中在联合标记和解析模型,以避免错误传播。相比之下,最近的研究表明,POS标签变得不那么重要,甚至无用的神经解析,特别是当使用基于字符的单词表示。然而,无论是从经验上还是从语言学上,都没有足够的研究关注这一问题。为了回答这个问题,我们设计并比较了三种典型的多任务学习框架,共享-松散,共享-紧密和堆栈,用于基于最先进的biaffine解析器的联合标记和解析。考虑到它是便宜得多的POS标签注释比解析树,我们还调查了大规模异构POS标签数据的利用。我们在英文和中文数据集上进行了实验,结果清楚地表明,使用Stack联合框架时,词性标注(同质和异构)仍然可以显着提高解析性能。我们进行详细的分析,并从语言方面获得更多的见解。
2020-08-14 cs.CL cs.LG
Survey:Natural Language Parsing For Indian Languages
Dharmsinh Desai University(达尔马辛赫·德赛大学)
句法分析是包括机器翻译在内的自然语言处理应用中的一项必要任务。为形态丰富且黏着的语言开发一个定性分析器是一个具有挑战性的任务。句法分析用于理解自然语言句子的语法结构。它输出每个单词及其组成部分的所有语法信息。与之相关的问题也有助于我们更详细地理解语言。这篇文献调查是了解印度语言的不同解析器开发以及用于开发此类工具和技术的各种方法的基础。本文提供了一个调查的研究论文,从著名的期刊和会议。
2015-01-28 cs.CL
A Statistical Parsing Framework for Sentiment Classification
Beihang University(北京航空航天大学);Microsoft Research(微软研究院)
在这篇文章中,我们提出了一个统计分析框架,用于情感分类。不同于以往的作品,采用句法分析结果的情感分析,我们开发了一个统计分析器,直接分析句子的情感结构。我们证明了情感分析中的复杂现象(例如,否定、强化和对比)可以以统一和概率的方式与简单和直接的情感表达相同地处理。我们制定的情感语法上上下文无关文法(CFGs),并提供了一个正式的描述的情感分析框架。我们开发的解析模型,以获得可能的情感分析树的句子,从极性模型提出了推导出的情感强度和极性,和排名模型是专门选择最好的情感树。我们训练的解析器直接从句子的例子注释只有情感极性标签,但没有任何句法注释或极性注释的成分在句子内。因此,我们可以很容易地获得训练数据。特别是,我们训练一个情感分析器,S.分析器,从大量的评论句子与用户的评级作为粗略的情感极性标签。在现有基准数据集上进行的大量实验表明,与基线情感分类方法相比,该方法有显着的改进。
2015-03-05 cs.CL
Discontinuous Constituent Parsing with Pointer Networks
Universidade da Coruña(拉科鲁尼亚大学);CITIC;FASTPARSE Lab(FASTPARSE实验室);LyS Group(LyS小组)
计算语言学和NLP中使用的最复杂的句法表示之一是不连续成分树,对于表示德语等语言的所有语法现象至关重要。依存句法分析的最新进展表明,指针网络擅长于有效地分析句子中单词之间的句法关系。这种序列到序列模型在构建非投射依赖树方面具有出色的准确性,但其潜力尚未在更困难的任务上得到证明。我们提出了一种新的神经网络架构,通过指针网络,能够生成最准确的不连续的成分表示,即使不需要的词性标注信息。为此,我们在内部将不连续的组成结构建模为增强的非投射依赖结构。所提出的方法在两个广泛使用的NEGRA和TIGER基准测试中取得了最先进的结果,远远优于以前的工作。
2020-02-05 cs.CL
Span-based discontinuous constituency parsing: a family of exact chart-based algorithms with time complexities from O(n^6) down to O(n^3)
Université Paris-Saclay(巴黎-萨克雷大学);CNRS(法国国家科学研究中心);LIMSI(机械与工程计算机科学实验室)
我们介绍了一种新的基于图表的算法,基于跨度的分析不连续的选区树的块度2,包括病态嵌套结构。特别是,我们表明,我们可以建立我们的分析器的变种,具有较小的搜索空间和时间复杂度范围从$\mathcal O(n^6)$到$\mathcal O(n^3)$。立方时间变量覆盖了语言树库中观察到的98%的成分,同时具有与连续选区解析器相同的复杂性。我们评估我们的方法对德国和英国树银行(Negra,老虎和不连续PTB)和报告国家的最先进的结果,在完全监督的设置。我们还对预训练的词嵌入和基于\bert{}的神经网络进行了实验。
2020-03-30 cs.CL
Discontinuous Constituency Parsing with a Stack-Free Transition System and a Dynamic Oracle
University of Edinburgh(爱丁堡大学);Naver Labs Europe(欧洲Naver实验室);ILCC, School of Informatics(信息学院ILCC研究所)
我们介绍了一种新的过渡系统不连续选区分析。代替将子树存储在堆栈中-即具有线性时间顺序存取的数据结构-所提出的系统使用具有恒定时间随机存取的一组解析项。这个改变使得有可能为长度为$n$的句子在精确的$4n - 2$转换中构造任何不连续的选区树。在每个解析步骤中,解析器将集合中的每个项与焦点项组合,并以自底向上的方式构造新的成分。解析策略基于这样的假设:大多数句法结构可以被增量解析,并且集合(解析器的内存)平均保持合理的小。此外,我们引入了一个可证明是正确的动态预言机的新的过渡系统,并提出了第一个实验,在不连续选区解析使用动态预言机。我们的解析器获得国家的最先进的结果,在三个英语和德语不连续树银行。
2019-04-01 cs.CL
Natural Language Parsing as Statistical Pattern Recognition
传统的自然语言解析器是基于重写规则系统开发的一个艰巨的,耗时的方式由语法学家。语法学家的大部分努力都致力于消除歧义的过程,首先假设规则,这些规则规定了歧义句中的词之间的成分类别和关系,然后寻找这些规则的例外和纠正。在这项工作中,我提出了一个自动的方法来获得一个统计分析器从一组分析的句子,它利用了一些初始的语言输入,但避免了陷阱的迭代和看似无穷无尽的语法开发过程。基于分布派生和基于语言的语言特征,该解析器获得一组统计决策树,该决策树在给定输入句子的解析树空间上分配概率分布。这些决策树利用大量的上下文信息,可能包括句子中的所有词汇信息,以产生消歧过程的高度准确的统计模型。通过将消歧标准选择基于熵减少而不是人类直觉,这种解析器开发方法能够在制定个体消歧规则时考虑比人类语法学家更多的句子。在实验之间的分析器,获得使用这个统计框架,和语法学家的基于规则的分析器,开发了十年的时间,都使用相同的训练材料和测试句子,决策树分析器显着优于语法分析器的准确性措施,语法学家试图最大化,实现了78%的准确性相比,基于语法的分析器的69%。
1994-05-05 cmp-lg cs.CL
Generalized chart constraints for efficient PCFG and TAG parsing
Saarland University(萨尔兰大学)
图表约束,它指定了一个组成部分可以开始或结束的字符串位置,已经被证明可以加快PCFG的图表解析器。我们将图表约束推广到更具表现力的语法形式主义,并描述了一个神经标记器,它以非常高的精度预测图表约束。我们的约束加速PCFG和TAG解析,并有效地结合其他修剪技术(粗到细和supertaging)的两个数量级的整体加速,同时提高准确性。
2018-06-27 cs.CL
Multitask Pointer Network for Multi-Representational Parsing
Universidade da Coruña(拉科鲁尼亚大学);CITIC(信息与通信技术研究中心)
我们提出了一种基于转换的方法,通过训练单个模型,可以有效地解析任何具有成分树和依赖树的输入句子,支持连续/投射和不连续/非投射句法结构。为此,我们开发了一个指针网络架构,两个单独的特定任务的解码器和一个共同的编码器,并遵循多任务学习策略,共同训练他们。由此产生的二次系统,不仅成为第一个解析器,可以从一个单一的模型联合产生无限制的成分和依赖树,但也证明了这两种句法形式可以受益于彼此在训练过程中,实现国家的最先进的精度在几个广泛使用的基准,如连续英语和中文Penn树库,以及不连续的德国NEGRA和TIGER数据集。
2022-12-22 cs.CL
A Divide-and-Conquer Strategy for Parsing
在本文中,我们提出了一种新的策略,旨在提高分析器的准确性,简化复杂的句子分析之前。这种方法涉及对复合句中的组成子句进行单独分析。为了实现这一点,分而治之策略首先消除句子中链接词的角色,并根据这些角色对句子进行分段。然后,将分割的子句子和其中的名词短语的单独的解析树合成以形成最终的解析。为了评估这种策略对解析的影响,我们比较了依赖解析器的原始性能与使用分治策略增强后的性能。当对IPSM'95数据集的600个句子进行测试时,增强的解析器在其准确性上看到了21.2%的相当大的错误减少。
1996-07-16 cmp-lg cs.CL
Integrating Supertag Features into Neural Discontinuous Constituent Parsing
Philosophische Fakultät(哲学系);Institut für Sprache und Information(语言与信息研究所)
本研究探索将超标签特征集成到基于转移的神经非连续成分句法分析中,通过流水线和多任务两种方式引入超标签信息,并对比多种框架与序列标注任务作为辅助任务的适用性。
2024-10-11 cs.AI cs.CL cs.FL
Unlexicalized Transition-based Discontinuous Constituency Parsing
University of Edinburgh, ILCC(爱丁堡大学语言、认知与计算研究所);Université Paris Diderot(巴黎第七大学);Université Sorbonne Paris Cité(索邦巴黎西岱大学);LLF(形式语言学实验室);Institut Universitaire de France (IUF)(法国大学研究院)
词汇化句法分析模型基于以下假设:(i)成分是围绕词汇中心词组织的;(ii)双词汇统计对解决歧义至关重要。在本文中,我们介绍了一个基于结构标签转换系统和bi-LSTM评分系统的非解析化的基于转换的不连续选区结构解析器。我们比较它的词汇化分析模型,以解决不连续选区分析的上下文中的词汇化问题。我们的实验表明,unexxicalized模型系统地实现更高的结果比词汇化模型,并提供额外的经验证据,词汇化是没有必要实现强大的分析结果。我们最好的unexixicalized模型设置了一个新的国家的艺术英语和德语不连续选区树银行。我们进一步提供了一个每现象分析其误差的不连续成分。
2019-02-24 cs.CL
Parsing the Switch: LLM-Based UD Annotation for Complex Code-Switched and Low-Resource Languages
Arizona State University(亚利桑那州立大学);Universidade da Coruña, CITIC(科鲁纳大学,CITIC)
本文提出基于LLM的BiLingua Parser标注流水线,结合少样本提示与专家审核,为西—英、西—瓜拉尼语码转换文本生成UD标注并发布语料,LAS最高达95.29%。
2025-06-08 cs.AI cs.CL
Dependency Graph Parsing as Sequence Labeling
Universidade da Coruña(拉科鲁尼亚大学);CITIC(CITIC研究院)
本文通过扩展线性化方法处理重入和环,将语义依存与增强型通用依存图解析转化为序列标注任务,在保持高效率的同时取得接近最优的准确率。
2024-10-23 cs.CL
A Truly Joint Neural Architecture for Segmentation and Parsing
Bar Ilan University(巴伊兰大学)
针对形态丰富语言中分割与句法分析流水线误差传播问题,提出基于格表示和弧因子模型的真正联合LLM架构,在希伯来语UD三项任务上达到SOTA。
2024-03-02 cs.AI cs.CL cs.LG