BKTreebank: Building a Vietnamese Dependency Treebank
Hanoi University of Science and Technology（河内理工大学）
departmenttreebank是任何语言的重要资源。在本文中，我们提出了我们的工作，建立BKTreebank，依存关系树库越南。重点设计的POS标签集，依赖关系和注释准则进行了讨论。我们描述了在树库上进行的词性标注和依存句法分析的实验。实验结果表明，该树库是越南语处理的一个有用资源。
2018-02-21 cs.CL
Neural Combinatory Constituency Parsing
Tokyo Metropolitan University（东京都立大学）
我们提出了两个快速的神经组合模型的选区分析：二进制和多分支。我们的模型将自下而上的解析过程分解为：1）标记、标签和二进制方向或块的分类; 2）基于计算出的方向或块的向量组合。这些模型具有理论上的次二次复杂性和经验上的线性复杂性。二元模型在Penn Treebank上的F1得分为92.54，速度为1327.2 sents/sec。这两个模型与XLNet提供接近国家的最先进的准确性为英语。在Penn树库、汉语树库和Keyaki树库（日语）的训练和推理过程中观察到了语言的句法分支倾向和中心化。
2021-06-12 cs.CL
Statistical Parsing by Machine Learning from a Classical Arabic Treebank
The University of Leeds（利兹大学）
英语统计句法分析的研究已经取得了十多年的成功。然而，将这些模型应用于其他语言遇到了困难。以前的比较工作表明，现代阿拉伯语是最难解析的语言之一，因为它有丰富的词法和自由的词序。古典阿拉伯语是阿拉伯语的古老形式，相对于其作为古兰经语言的全球影响力，在计算语言学中研究不足。本论文是基于七个出版物作出重大贡献的知识有关的注释和解析古典阿拉伯语。这篇论文的一个中心论点是，使用一个混合表示密切配合传统的语法导致改进的阿拉伯语解析。为了验证这一假设，两种方法进行了比较。作为参考，一个纯粹的依赖分析器是适应使用图转换，导致87.47%的F1分数。这是一个综合的解析模型相比，F1得分为89.03%，表明联合依赖选区解析更适合于古典阿拉伯语。
2015-10-25 cs.CL
Preparing Korean Data for the Shared Task on Parsing Morphologically Rich Languages
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文件简要介绍了为SPMRL 2013共享任务准备的韩国数据。共有27，363个句子和350，090个标记用于共享任务。所有组成树都是从KAIST树库中收集的，并转化为Penn树库风格。所有的依赖树转换从转换的成分树使用专门为KAIST树库设计的分类和标记规则。除了KAIST Treebank提供的黄金标准形态分析外，还为共享任务提供了两套自动形态分析，一套由HanNanum形态分析仪生成，另一套由Sejong形态分析仪生成。
2013-09-10 cs.CL
Global Greedy Dependency Parsing
Shanghai Jiao Tong University（上海交通大学）
大多数句法依存句法分析模型可以分为两类：基于转换的模型和基于图的模型。前者具有线性时间复杂度的高推理效率，但依赖于部分构建的解析树的堆叠或重新排序来构建完整的解析树，并且由于动态预言训练的必要性而导致训练速度较慢。后者，基于图的模型，可能拥有更好的性能，但不幸的是被多项式时间推理破坏。在本文中，我们提出了一个新的分析顺序的目标，从而在一个新的依存句法分析模型能够在全局（句子范围内）特征提取的图形模型和线性时间推理的过渡模型。建议的全球贪婪分析器只使用两个弧建设行动，左和右弧，投影分析。当配备两个额外的非投射弧建设行动，建议的解析器也可以顺利地支持非投射解析。使用多个基准树库，包括Penn树库（PTB），CoNLL-X树库，和通用Dependency树库，我们评估我们的解析器，并证明所提出的新的解析器实现了更快的训练和解码的良好性能。
2020-02-12 cs.CL
The Persian Dependency Treebank Made Universal
University of Pennsylvania（宾夕法尼亚大学）；Shahid Beheshti University（沙希德·贝赫什蒂大学）；Shiraz University（设拉子大学）；Sobhe（Sobhe（公司）/索比（公司）（注：原机构名Sobhe未明确类型，按常见处理为公司））
我们描述了一种自动方法，用于将波斯Dependencies Treebank（Rasooli et al，2013）转换为Universal Dependencies。这个树库包含29107个句子。我们的实验以及人工语言分析表明，我们的数据比乌普萨拉波斯语通用从属树库更符合通用从属关系（Seraji等人，2016），规模更大，词汇更多样。我们的数据在监督解析中带来了85.2的标记附件F分数。我们的去词汇化的波斯语到英语的解析器迁移实验表明，在我们的数据上训练的解析模型比Seraji et al.（2016）在标记附件得分方面绝对准确约2%。
2020-09-23 cs.CL
Thai Universal Dependency Treebank
Department of Linguistics, Chulalongkorn University（朱拉隆梭大学语言学系）；AI Singapore（AI新加坡）；Amazon（亚马逊）；Prince of Songkhla University（素可诺大学）
针对泰语自动依存分析缺乏大规模树库和系统性模型评估的问题，构建了符合UD框架的最大规模泰语依存树库TUD，基准测试验证了基于预训练transformer的分析器性能更优，相关资源已开源。
2024-05-13 cs.CL
LyS_ACoruña at SemEval-2022 Task 10: Repurposing Off-the-Shelf Tools for Sentiment Analysis as Semantic Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
本文解决了结构化的情感分析的问题，使用双仿射语义依赖分析器，大型预训练的语言模型，和公开可用的翻译模型。对于单语设置，我们考虑：（i）在单个树库上进行训练，以及（ii）通过在来自不同语言的树库上进行训练来放松设置，这些树库可以通过跨语言语言模型进行充分处理。对于zero-shot设置和给定的目标树库，我们依赖于：（i）对其他语言的可用树库进行单词级翻译，以获得嘈杂的，不太可能语法的，但带注释的数据（我们在许可证允许的情况下发布尽可能多的数据），以及（ii）合并这些翻译的树库以获得训练数据。在后评估阶段，我们还训练了跨语言模型，这些模型简单地合并了所有英语树库，而没有使用单词级翻译，但获得了更好的结果。根据官方结果，我们在单语和跨语言设置中排名第8和第9。
2022-04-27 cs.CL
Out-of-Domain Evaluation of Finnish Dependency Parsing
University of Turku（图尔库大学）
学术界的普遍做法是在通常从训练语料库中留出的域内评估数据上评估模型的性能。然而，在许多现实世界的应用中，应用模型的数据可能与训练数据的特性有很大的不同。在本文中，我们专注于芬兰的域外解析，通过引入一种新的UD芬兰OOD域外树库，包括五个非常不同的数据源（网络文档，临床，在线讨论，推文和诗歌），和19,382个句法单词在2,122个句子下发布的通用语法框架。连同新的树库，我们提出了广泛的域外解析评估利用现有的节级信息从三个不同的芬兰UD树库（TDT，PUD，OOD）。与以前现有的树库相比，新的芬兰OOD包括部分更具挑战性的一般解析器，创建一个有趣的评估设置，并产生有价值的信息，为那些应用解析器以外的训练域。
2022-04-22 cs.CL
Universal Dependency Parsing for Hindi-English Code-switching
LTRC, IIIT-H（印度国际信息技术研究所海得拉巴语言技术研究中心）；Interaction Labs（交互实验室）
语码转换是两种或两种以上语言的语法结构在不同的社会制约条件下混合使用的现象。语码转换数据与自然语言处理领域的基准语料库有很大的不同，标准技术对这些数据的应用大大降低了它们的性能。与标准语料库不同，这些数据通常需要经过额外的过程，如语言识别，规范化和/或回译，以提高处理效率。在本文中，我们调查这些必不可少的过程和其他相关的句法分析的代码转换数据的问题，并提出了方法，以减轻其影响。特别是，我们研究的依存句法分析的代码转换数据的印地语和英语多语种的发言者从Twitter的。我们提出了一个树库的印地语-英语代码切换推文下的通用mendencies计划，并提出了一个神经堆栈模型的解析，有效地利用部分的语音标签和语法树注释的代码切换树库和预先存在的印地语和英语树库。我们还提出了规范化和回音译模型的解码过程中量身定制的代码切换数据。结果表明，我们的神经堆叠解析器比增强解析模型好1.5%LAS点，我们的解码过程比第一最佳归一化和/或回译提高了3.8%LAS点。
2018-04-24 cs.CL
A non-projective greedy dependency parser with bidirectional LSTMs
Universidade da Coruña（拉科鲁尼亚大学）
LyS-FASTPARSE团队介绍了BIST-COVINGTON，这是Covington（2001）算法的神经实现，用于非投射依存句法分析。Kipperwasser和Goldberg（2016）的双向LSTM方法用于训练具有动态oracle的贪婪解析器，以减轻错误传播。该模型参加了CoNLL 2017 UD共享任务。尽管没有使用任何集成方法，并使用基线分割和PoS标记，解析器在大型树库类别（55种语言）的宏观平均LAS和UAS上都获得了良好的结果，在33个团队中排名第7。在所有树库类别（LAS和UAS）中，我们排名第16位和第12位。所有类别和大类别之间的差距主要是由于四个并行PUD树库的性能不佳，这表明一些“后缀”树库（例如西班牙语AnCora）在跨树库设置上表现不佳，而相应的“无后缀”树库（例如西班牙语）则不会出现这种情况。通过改变这一点，我们在所有运行（官方和非官方）中获得了第11名。该代码可在https://github.com/CoNLL-UD-2017/LyS-FASTPARSE上获得
2017-07-11 cs.CL
Urdu Dependency Parsing and Treebank Development: A Syntactic and Morphological Perspective
COMSATS University Islamabad（伊斯兰堡COMSATS大学）
本文面向低资源、形态复杂的乌尔都语，构建人工标注新闻树库，并结合词性与形态特征训练依存分析器，最佳 LA 达 70%、UAS 达 84%。
2024-10-02 cs.CL cs.LG
Universal Dependencies Parsing for Colloquial Singaporean English
Singapore University of Technology and Design（新加坡科技设计大学）；DSO National Laboratories（新加坡国防科技研究院）
新加坡式英语在语言学上作为基于英语的主要克里奥尔语，在计算上用于区域社交媒体的信息抽取和情感分析，对ACL社区来说都很有趣。我们研究了新加坡英语的依存句法分析，通过在通用依存模式下构建依存树库，然后通过将英语句法知识集成到在新加坡英语树库上训练的最先进的句法分析器中来训练神经网络模型。结果表明，英语知识可以导致25%的相对错误减少，从而在84.47%的准确率分析。据我们所知，我们是第一个使用神经堆栈来改善低资源语言上的跨语言依存句法分析的人。我们使我们的注释和解析器可用于进一步的研究。
2017-05-18 cs.CL
Artificially Evolved Chunks for Morphosyntactic Analysis
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
我们介绍了一种语言无关的进化技术，自动提取块依赖树库。我们评估这些组块上的一些形态句法任务，即词性标注，形态特征标注，和依存句法分析。我们用许多不同的方法来测试这些块的效用。我们首先学习组块作为一个任务，在一个共享的多任务框架与POS和形态特征标记。然后，将来自该网络的预测用作输入以增强序列标记依存句法分析。最后，我们调查的影响块依存句法分析在多任务框架。我们从这些分析的结果表明，这些块提高英语UD树库和一个小的，不同的子集的非英语UD树库在不同层次的句法抽象的性能。
2019-08-21 cs.CL
Span-based discontinuous constituency parsing: a family of exact chart-based algorithms with time complexities from O(n^6) down to O(n^3)
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）；LIMSI（机械与工程计算机科学实验室）
我们介绍了一种新的基于图表的算法，基于跨度的分析不连续的选区树的块度2，包括病态嵌套结构。特别是，我们表明，我们可以建立我们的分析器的变种，具有较小的搜索空间和时间复杂度范围从$\mathcal O(n^6)$到$\mathcal O(n^3)$。立方时间变量覆盖了语言树库中观察到的98%的成分，同时具有与连续选区解析器相同的复杂性。我们评估我们的方法对德国和英国树银行（Negra，老虎和不连续PTB）和报告国家的最先进的结果，在完全监督的设置。我们还对预训练的词嵌入和基于\bert{}的神经网络进行了实验。
2020-03-30 cs.CL
Distilling Neural Networks for Greener and Faster Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
近年来，自然语言处理研究的碳足迹一直在增加，因为它依赖于大型且低效的神经网络实现。蒸馏是一种网络压缩技术，它试图将知识从一个大的模型传递到一个较小的模型。我们使用师生蒸馏来提高Biaffine依赖解析器的效率，该解析器在准确性和解析速度方面获得了最先进的性能（Dozat和Manning，2017）。当提取到原始模型的可训练参数的20%时，我们在许多不同的通用依赖树库中仅观察到UAS和LAS的平均$\sim$ 1点下降，同时在推理时间比CPU（GPU）上的基线模型快2.30倍（1.19倍）。我们还观察到一个小的性能提高时，压缩到80%的一些树库。最后，通过蒸馏，我们得到一个解析器，这不仅是更快，而且更准确的比最快的现代解析器在Penn树库。
2020-06-01 cs.CL
Linear-Time Constituency Parsing with RNNs and Dynamic Programming
最近，基于跨度的选区解析已经通过使用双向RNN对“跨度”进行建模，用非常简单的模型实现了具有竞争力的准确性。然而，Stern et al（2017 a）的最小跨度解析器保持了当前最先进的准确性，它是一个以立方时间运行的图表解析器，$O(n^3)$，对于较长的句子和超出句子边界的应用程序（如端到端话语解析和联合句子边界检测和解析）来说太慢了。我们提出了一个线性时间选区解析器与RNN和动态规划使用图结构的堆栈和束搜索，它运行在时间$O(n b^2)$，其中$b$是波束的大小。通过集成立方体修剪，我们进一步将其加速到$O(n b\log b)$。与图表解析基线相比，这种线性时间解析器在Penn Treebank上的长句解析速度要快得多，在话语解析上要快几个数量级，并且在Penn Treebank上实现了单模型端到端系统中最高的F1精度。
2018-05-21 cs.CL
Universal Dependency Parsing from Scratch
Stanford University（斯坦福大学）
本文描述了斯坦福大学在CoNLL 2018 UD共享任务上的系统。我们介绍了一个完整的神经管道系统，以原始文本作为输入，并执行共享任务所需的所有任务，从标记和句子分割，到POS标记和依存句法分析。我们提交的单个系统在大型树库上实现了非常有竞争力的性能。此外，在修复了一个不幸的错误后，我们更正后的系统将在官方评估指标LAS，MLAS和BLEX上排名第二，第一和第三，并且在所有指标的低资源树库类别上都将大大优于所有提交系统。我们通过广泛的消融研究进一步证明了不同模型组件的有效性。
2019-01-29 cs.CL
Fast(er) Exact Decoding and Global Training for Transition-Based Dependency Parsing via a Minimal Feature Set
Cornell University（康奈尔大学）；Oregon State University（俄勒冈州立大学）
我们首先为基于transition的依存句法分析提出了一个最小特征集，延续了Kiperwasser和Goldberg（2016 a）以及Cross和Huang（2016 a）使用双向LSTM特征的最新趋势。我们将我们的最小特征集插入Huang和Sagae（2010）和Kuhlmann et al.（2011）的动态编程框架中，以产生弧混合和弧渴望转换系统的最坏情况O（n^3）精确解码器的第一个实现。利用我们的最小特征，我们还提出了O（n^3）的全局训练方法。最后，使用合奏，包括我们的新的解析器，我们实现了最好的无标签的附件分数报告（据我们所知）的中文树库和“第二最好的”结果的英文Penn树库。
2017-08-30 cs.CL
Many Languages, One Parser
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）；Pompeu Fabra University（庞培法布拉大学）
我们训练了一个多语种的依存句法分析模型，并使用它来分析几种语言的句子。解析模型使用（i）多语言词簇和嵌入;（ii）标记级语言信息;以及（iii）语言特定特征（细粒度POS标签）。这种输入表示使解析器不仅能够在多种语言中有效地解析，而且还能够基于语言共性和类型相似性来概括跨语言，从而使其更有效地从有限的注释中学习。我们的解析器的性能在一系列数据场景中优于强基线，包括当目标语言有一个大的树库，一个小的树库，或没有树库的训练。
2016-07-26 cs.CL
A Survey of Syntactic-Semantic Parsing Based on Constituent and Dependency Structures
Tianjin University（天津大学）
句法和语义解析是自然语言处理领域的一个主要研究课题，已经有几十年的研究历史。本文旨在对这一主题进行简要的概述。解析社区包括许多任务，这些任务很难被完全覆盖。在这里，我们集中在两个最流行的形式化分析：成分分析和依存句法分析。成分句法分析主要针对句法分析，而依存句法分析可以同时处理句法和语义分析。本文简要回顾了成分句法分析和依存句法分析的代表性模型，以及具有丰富语义的依存图句法分析。此外，本文还对跨领域、跨语言和联合句法分析模型、句法分析器的应用以及句法分析语料库的开发等相关问题进行了综述。
2020-06-19 cs.CL
Constituency Structure over Eojeol in Korean Treebanks
KAIST（韩国国立科学技术院）；Anyang University（安阳大学）
针对韩语成分树库中终端单位选择问题，提出基于语节的成分表示，将形态分割和细粒度词性信息编码在非成分层，支持跨树库比较和成分-依存对齐。
2026-06-25 cs.CL
Large Discourse Treebanks from Scalable Distant Supervision
University of British Columbia（不列颠哥伦比亚大学）
语篇分析是自然语言处理中的一项重要的上游任务，对许多现实世界的应用具有重要意义。尽管其广泛认可的作用，最新的话语分析器（因此下游任务）仍然依赖于小规模的人类注释的话语树库，试图从非常有限的数据在几个狭窄的领域推断通用的话语结构。为了克服这种可怕的情况，并允许话语解析器在更大，更多样化和独立于领域的数据集上进行训练，我们提出了一个框架，从情感分析辅助任务的远程监督中生成“银标准”话语树。
2022-10-18 cs.CL
Lock-Free Parallel Perceptron for Graph-based Dependency Parsing
Peking University（北京大学）
依存句法分析是一项重要的自然语言处理任务。依存句法分析的一种流行方法是结构化感知器。尽管如此，基于图的依存句法分析具有$O(n^3)$的时间复杂度，并且它受到缓慢训练的影响。为了解决这个问题，我们提出了一个并行算法称为并行感知器。并行算法可以充分利用多核计算机，节省大量的训练时间。基于实验，我们观察到，在使用10个线程时，使用并行感知器的依存句法分析可以比传统结构化感知器方法获得快8倍的训练速度，并且准确率没有任何损失。
2017-03-02 cs.CL
A Survey of Unsupervised Dependency Parsing
National University of Singapore（新加坡国立大学）；Alibaba DAMO Academy, Alibaba Group（阿里巴巴达摩院，阿里巴巴集团）；ShanghaiTech University（上海科技大学）
句法依存句法分析是自然语言处理中的一项重要任务。无监督依存句法分析的目标是从没有标注正确句法树的句子中学习依存句法分析器。尽管它的困难，无监督分析是一个有趣的研究方向，因为它的能力，利用几乎无限的无注释的文本数据。它也是其他低资源句法分析研究的基础。在本文中，我们调查现有的无监督依存句法分析的方法，确定两个主要类别的方法，并讨论最近的趋势。我们希望我们的调查可以为研究人员提供见解，并促进未来对这一主题的研究。
2020-10-04 cs.CL
SyntaxNet Models for the CoNLL 2017 Shared Task
Carnegie Mellon University（卡内基梅隆大学）；Google Inc（谷歌公司）
我们描述了一个用于CoNLL 2017共享任务的基线依存句法分析系统。这个系统，我们称之为“ParseySaurus”，使用DRAGNN框架[Kong et al，2017]将基于transition的循环解析和标记与基于字符的单词表示相结合。在v1.3 Universal Advertisements Treebanks上，新系统在52个树库中以3.47%的绝对标签准确度得分（LAS）超过了公开可用的最先进的“Parsey's Advertising”模型。
2017-03-15 cs.CL
An improved neural network model for joint POS tagging and dependency parsing
提出了一种新的神经网络模型，用于词性标注和依存句法分析的联合识别。我们的模型扩展了著名的基于BIST图的依赖解析器（Kiperwasser和Goldberg，2016），通过合并基于BiLSTM的标记组件来为解析器自动生成预测的POS标签。在基准英语Penn树库上，我们的模型分别获得了94.51%和92.87%的UAS和LAS分数，比基于BIST图的解析器有1.5%以上的绝对改进，并且还获得了97.97%的最先进的POS标记准确率。此外，从原始文本中解析61个“大”通用词典树库的实验结果表明，我们的模型优于基线UDPipe（Straka和Straková，2017），平均POS标记得分高出0.8%，平均LAS得分高出3.6%。此外，通过我们的模型，我们还获得了最先进的下游任务分数，用于生物医学事件提取和意见分析应用。我们的代码与所有预训练模型一起提供：https://github.com/datquocnguyen/jPTDP
2018-08-20 cs.CL
Error Analysis for Vietnamese Dependency Parsing
Department of Information Science；Engineering University of Information Technology\ National University -- Ho Chi Minh City, Vietnam Email；Faculty of Computer Science\ of Information Technology\ National University -- Ho Chi Minh City, Vietnam Email
在自然语言处理的不同应用中，都需要进行依存句法分析。在本文中，我们提出了一个彻底的错误分析依存句法分析的越南语，使用两个国家的最先进的解析器：MSTParser和MaltParser。错误分析的结果为进一步提高越南语依存句法分析的性能提供了参考。
2019-11-09 cs.CL
Joint POS Tagging and Dependency Parsing with Transition-based Neural Networks
Tsinghua University（清华大学）；Heilongjiang University（黑龙江大学）
虽然词性标注和依存句法分析被认为是密切相关的，但现有的手工特征模板联合建模工作存在特征稀疏和不完整的问题。在本文中，我们提出了一种联合使用基于转换的神经网络的词性标注和依存句法分析的方法。三个基于神经网络的分类器被设计用于解决移位/归约、标记和标记冲突。实验表明，我们的方法显着优于以前的方法联合词性标注和依存句法分析在各种自然语言。
2017-04-25 cs.CL
Semi-Supervised Methods for Out-of-Domain Dependency Parsing
The University of Birmingham（伯明翰大学）
依存句法分析是自然语言处理的重要任务之一，它为文本分配句法树。由于依赖语料库的广泛可用性以及解析和机器学习技术的改进，基于监督学习的系统的解析准确性已经得到显著提高。然而，由于监督学习的性质，这些句法分析系统高度依赖于人工标注的训练语料库。它们在域内数据上工作得相当好，但在域外文本上测试时，性能显着下降。为了弥补域内和域外之间的性能差距，本文研究了三种用于域外依存句法分析的半监督技术，即协同训练、自训练和依存语言模型。我们的方法使用容易获得的未标记的数据，以提高域外解析的准确性，而不需要昂贵的语料库注释。在多个英文领域和多语种数据上的测试结果表明，该算法在句法分析准确率上有很好的提高。总的来说，这项工作进行了调查的半监督方法域外依存句法分析，在那里我扩展和比较了一些重要的半监督方法在一个统一的框架。这些技术之间的比较表明，自训练的作品同样以及合作训练域外解析，而依赖语言模型可以提高域内外的准确性。
2018-10-04 cs.CL
THIVLVC: Retrieval Augmented Dependency Parsing for Latin
Université Paris-Saclay, CNRS, LISN（巴黎-萨克雷大学，法国国家科学研究中心，语言与语音处理实验室）；École Normale Supérieure de Lyon, HISOMA（里昂高等师范学院，历史与古代地中海文明研究所）
THIVLVC通过检索相似结构条目并利用大语言模型优化，提升了拉丁语依存解析的CLAS得分，尤其在诗歌部分表现更优。
2026-04-07 cs.CL
CRF Autoencoder for Unsupervised Dependency Parsing
School of Information Science and Technology（信息科学与技术学院）；ShanghaiTech University（上海科技大学）
无监督依存句法分析试图从无标注的数据中发现语言依存结构，是一个非常具有挑战性的任务。几乎所有以前的工作都集中在学习生成模型上。本文提出了一种基于CRF自动编码器的无监督依存句法分析模型。我们的模型的编码器部分是有区别的和全局规范化的，这使我们能够使用丰富的特征以及通用的语言先验。我们提出了一个精确的算法解析以及一个听话的学习算法。我们评估了我们的模型在八个多语言树库上的性能，发现我们的模型与最先进的方法具有可比的性能。
2017-08-03 cs.CL
Graph-to-Graph Transformer for Transition-based Dependency Parsing
Idiap Research Institute（伊迪亚普研究所）；EPFL（洛桑联邦理工学院）
我们提出了Graph2Graph Transformer架构，用于调节和预测任意图形，并将其应用于基于转换的依存句法分析的挑战性任务。在提出了两个新的Transformer模型的过渡为基础的依存句法分析作为强基线后，我们表明，添加所提出的机制，条件和预测图的Graph2Graph Transformer的结果显着改善，无论有和没有BERT预训练。新的基线及其与Graph2Graph Transformer的集成在英语Penn Treebank和13种语言的Universal Advertisements Treebanks上的性能明显优于传统的基于转换的依存句法分析。Graph2Graph Transformer可以与许多以前的结构化预测方法集成，使其易于应用于广泛的NLP任务。
2020-10-30 cs.CL cs.LG
A Gamification of Japanese Dependency Parsing
游戏化方法已被用作为NLP创建语言资源的一种方式。它还用于演示和教学NLP和语言现象中的算法。本文讨论了后一个目标的日语句法依存分析的游戏化设计。用户界面的设计基于一种基于转换的移位化简依存句法分析，该方法只需要日语依存结构中的"不附加“和”减少“两个动作。我们将这两个动作分配给游戏手柄或其他设备上的双向方向控制。我们还根据心理语言学的研究设计了目标句。
2021-01-09 cs.CL
Using dependency parsing for few-shot learning in distributional semantics
University College London（伦敦大学学院）；University of Cambridge（剑桥大学）
在这项工作中，我们探讨了新的想法，采用依存句法分析信息的上下文中的少样本学习，学习一个罕见的单词的意义上的有限数量的上下文句子的任务。首先，我们使用基于依赖关系的词嵌入模型作为背景空间进行少样本学习。其次，我们介绍了两种少样本学习方法，通过使用依赖关系来增强加性基线模型。
2022-05-12 cs.CL
LSTM Easy-first Dependency Parsing with Pre-trained Word Embeddings and Character-level Word Embeddings in Vietnamese
Georgia Institute of Technology（佐治亚理工学院）；Twentieth Century Fox（二十世纪福克斯公司）；Starfleet Academy（星际舰队学院）；Tyrell Inc.（泰瑞尔公司）
在越南语依存句法分析中，已经提出了几种方法。已经报道了使用深度神经网络模型的依赖解析器，其取得了最先进的结果。在本文中，我们提出了一种新方法，该方法将LSTM简单优先依存句法分析与预训练的词嵌入和字符级词嵌入相结合。我们的方法实现了80.91%的未标记的附件分数和72.98%的标记的附件分数的准确性在越南DepartamentTreebank（VnDT）。
2019-10-30 cs.CL
Non-Projective Dependency Parsing via Latent Heads Representation (LHR)
在本文中，我们介绍了一种新的方法的基础上，双向循环自编码器进行全局优化的非投射依存句法分析通过半监督学习。句法分析是在神经过程的最后完成的，该神经过程生成了一个潜头表示（LHR），没有任何算法约束，具有线性复杂度。由此产生的“潜在句法结构”可以直接用于其他语义任务。LHR被转换成通常的依赖树计算一个简单的向量相似度。我们相信，我们的模型有潜力与更复杂的国家的最先进的解析架构。
2018-02-06 cs.CL
Probabilistic Models for High-Order Projective Dependency Parsing
Shanghai Jiao Tong University（上海交通大学）
本文提出了高阶投射依存句法分析的广义概率模型和学习这些统计模型的算法框架，包括依存树。通过调整我们的算法，将内部-外部算法扩展到高阶情况，可以有效地计算高阶依赖树的划分函数和边缘。为了证明我们的算法的有效性，我们进行了三种语言-英语，汉语和捷克语，使用最大条件似然估计的模型训练和L-BFGS参数估计的实验。我们的方法实现了英语的竞争力的表现，并优于所有以前报道的依赖解析器中文和捷克语。
2015-02-14 cs.CL
Syntactic Nuclei in Dependency Parsing -- A Multilingual Exploration
Uppsala University（乌普萨拉大学）
句法依存句法分析的标准模型把词作为依存关系的基本单位。在本文中，我们调查是否有任何好处，丰富这些模型与更抽象的概念提出的Tesnière核。我们这样做的核的概念，可以在框架中定义的通用依赖，以及我们如何使用组合函数，使一个基于转换的依赖解析器知道这个概念。在12种语言上的实验表明，核组合在句法分析准确率上有很大的提高。进一步的分析表明，改进主要涉及少数依存关系，包括名词性修饰语、并列关系、主谓语和直接宾语。
2021-01-29 cs.CL
Vietnamese transition-based dependency parsing with supertag features
Department of Information Science；Engineering University of Information Technology Vietnam National University - Ho Chi Minh City, Vietnam Email；Faculty of Computer Science University of Information Technology Vietnam National University - Ho Chi Minh City, Vietnam Email
依存句法分析是近年来的一个研究热点，在自然语言处理中有着广泛的应用。在本文中，我们提出了一种有效的方法来改善依存句法分析利用超标记的功能。我们使用基于转换的依存句法分析进行了实验，因为它可以利用丰富的功能。对越南依赖树库的实证评估表明，使用黄金超级标签的标记附件评分提高了18.92%，使用自动超级标签的标记附件评分提高了3.57%。
2019-11-09 cs.CL
Headed-Span-Based Projective Dependency Parsing
ShanghaiTech University（上海科技大学）；Shanghai Engineering Research Center of Intelligent Vision and Imaging（上海智能视觉影像工程研究中心）
本文提出了一种新的基于标题跨度的投射依存句法分析方法。在投影依赖树中，以每个单词为根的最大子树覆盖连续序列（即，跨度）按表面顺序排列。我们将这样一个由词根标记的跨度称为\textit{headed span}。投影依赖树可以表示为有头跨度的集合。我们将依赖树的得分分解为头跨度的得分，并设计了一种新的$O(n^3)$动态规划算法，以实现全局训练和精确推理。我们的模型在PTB，CTB和UD上实现了最先进或具有竞争力的结果。我们的代码可在\url{https://github.com/sustcsonglin/span-based-dependency-parsing}上公开获取。
2022-03-09 cs.CL
Greedy Transition-Based Dependency Parsing with Discrete and Continuous Supertag Features
Uppsala University（乌普萨拉大学）
我们研究了丰富的超标记特征在基于贪婪转换的依存句法分析中的作用。虽然以前的研究表明，稀疏布尔功能表示的1-最好的超级标记的一个字可以提高解析的准确性，我们表明，我们可以得到进一步的改善，通过添加一个连续的矢量表示的整个超级标记分布的一个字。通过这种方式，我们实现了最好的结果，贪婪的过渡为基础的分析与supertag功能与$88.6\%$ LAS和$90.9\%$ UAS上的英语Penn树库转换为斯坦福大学的词典。
2020-07-09 cs.CL
Dependency Parsing with the Structuralized Prompt Template
SungKyunKwan University（成均馆大学）
提出一种仅依赖编码器模型和文本到文本训练方式的依存句法分析方法，通过结构化提示模板捕获依存树结构信息，在实验中优于传统模型且适应多种预训练模型。
2025-02-24 cs.CL
On the Challenges of Fully Incremental Neural Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
本文研究现代神经架构能否实现有竞争力的完全增量依存句法分析，通过结合从左到右编码器与序列标注及基于转移的解码器，证明其仍明显落后于双向模型。
2023-09-28 cs.CL
Compositional Generalization in Dependency Parsing
McGill University（麦吉尔大学）；Quebec Artificial Intelligence Institute (Mila)（魁北克人工智能研究所（Mila））；ServiceNow Research（ServiceNow研究院）；Facebook（脸书）
组合性（Compositionality）--将熟悉的单元（如单词）组合成新颖的短语和句子的能力--近年来一直是人工智能的焦点。为了测试语义解析中的组合泛化，Keysers等人（2020）引入了组合自由基分析（CFQ）。该数据集最大化了测试和训练分布在原始单元（如单词）上的相似性，同时最大化了复合发散：测试和训练分布在较大结构（如短语）上的不相似性。然而，依存句法分析缺少组合泛化基准。在这项工作中，我们为CFQ引入了一套黄金标准的依赖解析器，并使用它来分析最先进的依赖解析器的行为（Qi等人，2020年，CFQ数据集。我们发现，增加复合分歧降低依存句法分析的性能，虽然没有显着的语义解析的性能。此外，我们发现的依赖分析器的性能并不均匀降低相对于复合发散，和解析器执行不同的分裂相同的复合发散。我们探讨了一些假设是什么原因的非均匀退化的依存句法分析性能，并确定了一些句法结构，驱动依赖解析器的最具挑战性的分裂的性能较低。
2022-03-15 cs.CL
Cross-Domain Generalization of Neural Constituency Parsers
University of California, Berkeley（加州大学伯克利分校）
神经解析器在基准树库上获得了最先进的结果，用于选区解析-但它们在多大程度上推广到其他领域？我们提出了关于零射击（zero-shot）设置中神经解析器泛化的三个结果：对来自一个语料库的树进行训练和对域外语料库进行评估。首先，神经和非神经解析器将XML推广到新的领域。其次，将预先训练的编码器表示纳入神经解析器中，可以大大提高其在所有域中的性能，但对于域外树库并没有更大的相对改善。最后，尽管神经解析器学习了丰富的输入表示，但它们仍然受益于输出树的结构化输出预测，从而获得更高的精确匹配精度和更强的泛化能力，无论是对更大的文本跨度还是对域外语料库。我们分析了英语和汉语语料库的泛化，并在此过程中获得了最先进的解析结果的布朗，Genia和英语网络树库。
2019-07-09 cs.CL
Universal Dependencies for Learner English
CSAIL MIT（麻省理工学院计算机科学与人工智能实验室）；EECS & Linguistics MIT（麻省理工学院电气工程与计算机科学系及语言学系）；Linguistics MIT（麻省理工学院语言学系）；EECS MIT（麻省理工学院电气工程与计算机科学系）；MECHE MIT（麻省理工学院机械工程系）
我们介绍了学习者英语树库（TLE），第一个公开可用的句法树库英语作为第二语言（ESL）。TLE为来自剑桥第一英语证书（FCE）语料库的5，124个句子提供手动注释的POS标签和通用依存（UD）树。UD注释与FCE的预先存在的错误注释相关联，从而为每个句子的原始版本和错误校正版本提供完整的句法分析。此外，我们描绘ESL注释准则，允许一致的语法处理不符合语法的英语。最后，我们在TLE数据集上对POS标记和依存句法分析性能进行了基准测试，并测量了语法错误对句法分析准确性的影响。我们设想树库支持广泛的语言学和计算研究第二语言习得以及自动处理不合语法的语言。这个树库可以在universaldependency.org上找到，这个项目中使用的注释手册和一个图形查询引擎可以在esltreebank.org上找到。
2016-06-08 cs.CL
Strongly Incremental Constituency Parsing with Graph Neural Networks
Princeton University（普林斯顿大学）
将句子解析成语法树可以使NLP中的下游应用受益。基于转换的解析器通过在状态转换系统中执行动作来构建树。它们在计算上是高效的，并且可以利用机器学习来预测基于部分树的动作。然而，现有的基于转换的解析器主要基于移位-归约转换系统，这与人类已知的解析句子的方式不一致。心理语言学研究表明，人类的解析是强烈的增量：人类通过在每一步添加一个标记来生长一个解析树。在本文中，我们提出了一种新的过渡系统称为附加并置。它是强增量的;它使用一棵树表示一个部分句子;每个动作只向部分树中添加一个标记。基于我们的转换系统，我们开发了一个强增量解析器。在每一步中，它使用图神经网络对部分树进行编码，并预测动作。我们在Penn树库（PTB）和中文树库（CTB）上对我们的解析器进行了评估。在PTB上，它优于仅用选区树训练的现有解析器;并且它的性能与使用依赖树作为附加训练数据的最先进解析器相当。在CTB上，我们的解析器建立了一个新的技术状态。代码可以在https://github.com/princeton-vl/attach-juxtapose-parser上获得。
2020-10-27 cs.CL
A Novel Neural Network Model for Joint POS Tagging and Graph-based Dependency Parsing
Macquarie University（麦考瑞大学）
我们提出了一种新的神经网络模型，学习词性标注和基于图的依存句法分析联合。我们的模型使用双向LSTM学习的特征表示共享的POS标记和依存句法分析任务，从而处理的功能工程问题。我们在通用语法项目的19种语言上进行了大量的实验，结果表明，我们的模型在联合词性标注和基于转换的依存句法分析方面优于最先进的基于神经网络的堆栈传播模型，从而达到了最新的水平。我们的代码是开源的，可以在https://github.com/datquocnguyen/jPTDP上与预训练的模型一起使用
2017-06-08 cs.CL
Dependency Graph Parsing as Sequence Labeling
Universidade da Coruña（拉科鲁尼亚大学）；CITIC（CITIC研究院）
本文通过扩展线性化方法处理重入和环，将语义依存与增强型通用依存图解析转化为序列标注任务，在保持高效率的同时取得接近最优的准确率。
2024-10-23 cs.CL
Transition-Based Dependency Parsing With Pluggable Classifiers
School of Informatics and Computing, Indiana University（印第安纳大学信息与计算学院）
原则上，基于转换的依赖性解析器的设计使得可以在不对解析算法进行其他更改的情况下对任何通用分类器进行实验。然而，在实践中，通常需要大量的软件工程来在两个软件包使用的不同表示之间进行桥接。在这里，我们提出了扩展MaltParser，允许使用符合Weka机器学习包的接口的任何分类器，TiMBL基于内存的学习器的包装器到这个接口，以及使用各种分类器进行多语言依赖解析的实验。虽然早期的工作表明，记忆为基础的学习者可能是一个很好的选择低资源的分析方案，我们不能支持这一假设在这项工作中。我们观察到，支持向量机提供更好的解析性能比基于记忆的学习，无论训练集的大小。
2012-11-01 cs.CL
A neural joint model for Vietnamese word segmentation, POS tagging and dependency parsing
The University of Melbourne（墨尔本大学）；VinAI Research（VinAI研究院）
我们提出了第一个多任务学习模型联合越南语分词，词性（POS）标记和依存句法分析。特别地，我们的模型用基于BiLSTM-CRF的神经层（Huang et al.，2015）用于分词和POS标记。在越南基准数据集上的实验结果表明，我们的联合模型获得了最先进或有竞争力的性能。
2019-11-11 cs.CL
Bracketing Encodings for 2-Planar Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC；FASTPARSE Lab（FASTPARSE实验室）；LyS Research Group（LyS研究组）；Departamento de Ciencias de la Computación y Tecnologías de la Información（计算机科学与信息技术系）
我们提出了一个括号为基础的编码，可用于表示任何2平面依赖树在一个句子的长度为n的n个标签的序列，从而提供几乎全部覆盖的交叉弧序列标签解析。首先，我们表明，现有的括号编码解析标签只能处理一个非常温和的扩展投影树。其次，我们通过考虑众所周知的2-平面性的性质来克服这个限制，2-平面性存在于树库中的绝大多数依赖句法结构中，即，依赖关系树的弧可以被分成两个平面，使得给定平面中的弧不交叉。我们利用这个属性来设计一种方法，该方法平衡括号，并编码属于每个平面的弧，允许几乎不受限制的非投影（圆99.9%的覆盖率）在序列标签解析。实验表明，我们的线性化提高了高度非投影树库中原始括号编码的准确性（平均0.4 LAS），同时实现了类似的速度。此外，当PoS标签不用作模型的输入参数时，它们特别适合。
2021-03-22 cs.CL
Read, Tag, and Parse All at Once, or Fully-neural Dependency Parsing
University of Wrocław（弗罗茨瓦夫大学）
我们提出了一个依赖解析器实现为一个单一的深神经网络，读取单词的正字法表示，并直接生成依赖关系和它们的标签。与典型的解析方法不同，该模型不需要对句子进行词性（POS）标记。通过适当的正则化和多任务学习实现的额外监督，我们在通用递归树库的斯拉夫语言上达到了最先进的性能：除了字符之外没有其他语言特征，我们的解析器与在完美的POS标签上训练的基于转换的系统一样准确。
2017-06-05 cs.CL
