Neural Combinatory Constituency Parsing
Tokyo Metropolitan University（东京都立大学）
我们提出了两个快速的神经组合模型的选区分析：二进制和多分支。我们的模型将自下而上的解析过程分解为：1）标记、标签和二进制方向或块的分类; 2）基于计算出的方向或块的向量组合。这些模型具有理论上的次二次复杂性和经验上的线性复杂性。二元模型在Penn Treebank上的F1得分为92.54，速度为1327.2 sents/sec。这两个模型与XLNet提供接近国家的最先进的准确性为英语。在Penn树库、汉语树库和Keyaki树库（日语）的训练和推理过程中观察到了语言的句法分支倾向和中心化。
2021-06-12 cs.CL
Statistical Parsing by Machine Learning from a Classical Arabic Treebank
The University of Leeds（利兹大学）
英语统计句法分析的研究已经取得了十多年的成功。然而，将这些模型应用于其他语言遇到了困难。以前的比较工作表明，现代阿拉伯语是最难解析的语言之一，因为它有丰富的词法和自由的词序。古典阿拉伯语是阿拉伯语的古老形式，相对于其作为古兰经语言的全球影响力，在计算语言学中研究不足。本论文是基于七个出版物作出重大贡献的知识有关的注释和解析古典阿拉伯语。这篇论文的一个中心论点是，使用一个混合表示密切配合传统的语法导致改进的阿拉伯语解析。为了验证这一假设，两种方法进行了比较。作为参考，一个纯粹的依赖分析器是适应使用图转换，导致87.47%的F1分数。这是一个综合的解析模型相比，F1得分为89.03%，表明联合依赖选区解析更适合于古典阿拉伯语。
2015-10-25 cs.CL
Preparing Korean Data for the Shared Task on Parsing Morphologically Rich Languages
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文件简要介绍了为SPMRL 2013共享任务准备的韩国数据。共有27，363个句子和350，090个标记用于共享任务。所有组成树都是从KAIST树库中收集的，并转化为Penn树库风格。所有的依赖树转换从转换的成分树使用专门为KAIST树库设计的分类和标记规则。除了KAIST Treebank提供的黄金标准形态分析外，还为共享任务提供了两套自动形态分析，一套由HanNanum形态分析仪生成，另一套由Sejong形态分析仪生成。
2013-09-10 cs.CL
Global Greedy Dependency Parsing
Shanghai Jiao Tong University（上海交通大学）
大多数句法依存句法分析模型可以分为两类：基于转换的模型和基于图的模型。前者具有线性时间复杂度的高推理效率，但依赖于部分构建的解析树的堆叠或重新排序来构建完整的解析树，并且由于动态预言训练的必要性而导致训练速度较慢。后者，基于图的模型，可能拥有更好的性能，但不幸的是被多项式时间推理破坏。在本文中，我们提出了一个新的分析顺序的目标，从而在一个新的依存句法分析模型能够在全局（句子范围内）特征提取的图形模型和线性时间推理的过渡模型。建议的全球贪婪分析器只使用两个弧建设行动，左和右弧，投影分析。当配备两个额外的非投射弧建设行动，建议的解析器也可以顺利地支持非投射解析。使用多个基准树库，包括Penn树库（PTB），CoNLL-X树库，和通用Dependency树库，我们评估我们的解析器，并证明所提出的新的解析器实现了更快的训练和解码的良好性能。
2020-02-12 cs.CL
LyS_ACoruña at SemEval-2022 Task 10: Repurposing Off-the-Shelf Tools for Sentiment Analysis as Semantic Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
本文解决了结构化的情感分析的问题，使用双仿射语义依赖分析器，大型预训练的语言模型，和公开可用的翻译模型。对于单语设置，我们考虑：（i）在单个树库上进行训练，以及（ii）通过在来自不同语言的树库上进行训练来放松设置，这些树库可以通过跨语言语言模型进行充分处理。对于zero-shot设置和给定的目标树库，我们依赖于：（i）对其他语言的可用树库进行单词级翻译，以获得嘈杂的，不太可能语法的，但带注释的数据（我们在许可证允许的情况下发布尽可能多的数据），以及（ii）合并这些翻译的树库以获得训练数据。在后评估阶段，我们还训练了跨语言模型，这些模型简单地合并了所有英语树库，而没有使用单词级翻译，但获得了更好的结果。根据官方结果，我们在单语和跨语言设置中排名第8和第9。
2022-04-27 cs.CL
Out-of-Domain Evaluation of Finnish Dependency Parsing
University of Turku（图尔库大学）
学术界的普遍做法是在通常从训练语料库中留出的域内评估数据上评估模型的性能。然而，在许多现实世界的应用中，应用模型的数据可能与训练数据的特性有很大的不同。在本文中，我们专注于芬兰的域外解析，通过引入一种新的UD芬兰OOD域外树库，包括五个非常不同的数据源（网络文档，临床，在线讨论，推文和诗歌），和19,382个句法单词在2,122个句子下发布的通用语法框架。连同新的树库，我们提出了广泛的域外解析评估利用现有的节级信息从三个不同的芬兰UD树库（TDT，PUD，OOD）。与以前现有的树库相比，新的芬兰OOD包括部分更具挑战性的一般解析器，创建一个有趣的评估设置，并产生有价值的信息，为那些应用解析器以外的训练域。
2022-04-22 cs.CL
Fast semantic parsing with well-typedness guarantees
Saarland University（萨尔大学）；Department of Language Science and Technology（语言科学与技术系）
AM依赖解析是一种基于语言学原理的神经语义解析方法，具有跨多个图库的高精度。它依赖于一个类型系统，该类型系统对语义价进行建模，但会使现有的解析器变慢。我们描述了一个A * 解析器和一个基于转换的解析器AM依存句法分析，保证良好的类型和提高解析速度高达3个数量级，同时保持或提高准确性。
2020-10-06 cs.CL
The Persian Dependency Treebank Made Universal
University of Pennsylvania（宾夕法尼亚大学）；Shahid Beheshti University（沙希德·贝赫什蒂大学）；Shiraz University（设拉子大学）；Sobhe（Sobhe（公司）/索比（公司）（注：原机构名Sobhe未明确类型，按常见处理为公司））
我们描述了一种自动方法，用于将波斯Dependencies Treebank（Rasooli et al，2013）转换为Universal Dependencies。这个树库包含29107个句子。我们的实验以及人工语言分析表明，我们的数据比乌普萨拉波斯语通用从属树库更符合通用从属关系（Seraji等人，2016），规模更大，词汇更多样。我们的数据在监督解析中带来了85.2的标记附件F分数。我们的去词汇化的波斯语到英语的解析器迁移实验表明，在我们的数据上训练的解析模型比Seraji et al.（2016）在标记附件得分方面绝对准确约2%。
2020-09-23 cs.CL
BKTreebank: Building a Vietnamese Dependency Treebank
Hanoi University of Science and Technology（河内理工大学）
departmenttreebank是任何语言的重要资源。在本文中，我们提出了我们的工作，建立BKTreebank，依存关系树库越南。重点设计的POS标签集，依赖关系和注释准则进行了讨论。我们描述了在树库上进行的词性标注和依存句法分析的实验。实验结果表明，该树库是越南语处理的一个有用资源。
2018-02-21 cs.CL
Universal Dependency Parsing for Hindi-English Code-switching
LTRC, IIIT-H（印度国际信息技术研究所海得拉巴语言技术研究中心）；Interaction Labs（交互实验室）
语码转换是两种或两种以上语言的语法结构在不同的社会制约条件下混合使用的现象。语码转换数据与自然语言处理领域的基准语料库有很大的不同，标准技术对这些数据的应用大大降低了它们的性能。与标准语料库不同，这些数据通常需要经过额外的过程，如语言识别，规范化和/或回译，以提高处理效率。在本文中，我们调查这些必不可少的过程和其他相关的句法分析的代码转换数据的问题，并提出了方法，以减轻其影响。特别是，我们研究的依存句法分析的代码转换数据的印地语和英语多语种的发言者从Twitter的。我们提出了一个树库的印地语-英语代码切换推文下的通用mendencies计划，并提出了一个神经堆栈模型的解析，有效地利用部分的语音标签和语法树注释的代码切换树库和预先存在的印地语和英语树库。我们还提出了规范化和回音译模型的解码过程中量身定制的代码切换数据。结果表明，我们的神经堆叠解析器比增强解析模型好1.5%LAS点，我们的解码过程比第一最佳归一化和/或回译提高了3.8%LAS点。
2018-04-24 cs.CL
Thai Universal Dependency Treebank
Department of Linguistics, Chulalongkorn University（朱拉隆梭大学语言学系）；AI Singapore（AI新加坡）；Amazon（亚马逊）；Prince of Songkhla University（素可诺大学）
针对泰语自动依存分析缺乏大规模树库和系统性模型评估的问题，构建了符合UD框架的最大规模泰语依存树库TUD，基准测试验证了基于预训练transformer的分析器性能更优，相关资源已开源。
2024-05-13 cs.CL
AMR Dependency Parsing with a Typed Semantic Algebra
Saarland University（萨尔兰大学）；Macquarie University（麦考瑞大学）
我们提出了一个语义解析器的抽象意义表示学习解析字符串到树表示的AMR图的组成结构。这使我们能够使用标准的神经技术进行超标记和依赖树解析，并受到语言原则类型系统的约束。我们提出了两种近似解码算法，实现了最先进的精度和优于强基线。
2018-05-29 cs.CL
Urdu Dependency Parsing and Treebank Development: A Syntactic and Morphological Perspective
COMSATS University Islamabad（伊斯兰堡COMSATS大学）
本文面向低资源、形态复杂的乌尔都语，构建人工标注新闻树库，并结合词性与形态特征训练依存分析器，最佳 LA 达 70%、UAS 达 84%。
2024-10-02 cs.CL cs.LG
Universal Dependencies Parsing for Colloquial Singaporean English
Singapore University of Technology and Design（新加坡科技设计大学）；DSO National Laboratories（新加坡国防科技研究院）
新加坡式英语在语言学上作为基于英语的主要克里奥尔语，在计算上用于区域社交媒体的信息抽取和情感分析，对ACL社区来说都很有趣。我们研究了新加坡英语的依存句法分析，通过在通用依存模式下构建依存树库，然后通过将英语句法知识集成到在新加坡英语树库上训练的最先进的句法分析器中来训练神经网络模型。结果表明，英语知识可以导致25%的相对错误减少，从而在84.47%的准确率分析。据我们所知，我们是第一个使用神经堆栈来改善低资源语言上的跨语言依存句法分析的人。我们使我们的注释和解析器可用于进一步的研究。
2017-05-18 cs.CL
Artificially Evolved Chunks for Morphosyntactic Analysis
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
我们介绍了一种语言无关的进化技术，自动提取块依赖树库。我们评估这些组块上的一些形态句法任务，即词性标注，形态特征标注，和依存句法分析。我们用许多不同的方法来测试这些块的效用。我们首先学习组块作为一个任务，在一个共享的多任务框架与POS和形态特征标记。然后，将来自该网络的预测用作输入以增强序列标记依存句法分析。最后，我们调查的影响块依存句法分析在多任务框架。我们从这些分析的结果表明，这些块提高英语UD树库和一个小的，不同的子集的非英语UD树库在不同层次的句法抽象的性能。
2019-08-21 cs.CL
Span-based discontinuous constituency parsing: a family of exact chart-based algorithms with time complexities from O(n^6) down to O(n^3)
Université Paris-Saclay（巴黎-萨克雷大学）；CNRS（法国国家科学研究中心）；LIMSI（机械与工程计算机科学实验室）
我们介绍了一种新的基于图表的算法，基于跨度的分析不连续的选区树的块度2，包括病态嵌套结构。特别是，我们表明，我们可以建立我们的分析器的变种，具有较小的搜索空间和时间复杂度范围从$\mathcal O(n^6)$到$\mathcal O(n^3)$。立方时间变量覆盖了语言树库中观察到的98%的成分，同时具有与连续选区解析器相同的复杂性。我们评估我们的方法对德国和英国树银行（Negra，老虎和不连续PTB）和报告国家的最先进的结果，在完全监督的设置。我们还对预训练的词嵌入和基于\bert{}的神经网络进行了实验。
2020-03-30 cs.CL
Distilling Neural Networks for Greener and Faster Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
近年来，自然语言处理研究的碳足迹一直在增加，因为它依赖于大型且低效的神经网络实现。蒸馏是一种网络压缩技术，它试图将知识从一个大的模型传递到一个较小的模型。我们使用师生蒸馏来提高Biaffine依赖解析器的效率，该解析器在准确性和解析速度方面获得了最先进的性能（Dozat和Manning，2017）。当提取到原始模型的可训练参数的20%时，我们在许多不同的通用依赖树库中仅观察到UAS和LAS的平均$\sim$ 1点下降，同时在推理时间比CPU（GPU）上的基线模型快2.30倍（1.19倍）。我们还观察到一个小的性能提高时，压缩到80%的一些树库。最后，通过蒸馏，我们得到一个解析器，这不仅是更快，而且更准确的比最快的现代解析器在Penn树库。
2020-06-01 cs.CL
Linear-Time Constituency Parsing with RNNs and Dynamic Programming
最近，基于跨度的选区解析已经通过使用双向RNN对“跨度”进行建模，用非常简单的模型实现了具有竞争力的准确性。然而，Stern et al（2017 a）的最小跨度解析器保持了当前最先进的准确性，它是一个以立方时间运行的图表解析器，$O(n^3)$，对于较长的句子和超出句子边界的应用程序（如端到端话语解析和联合句子边界检测和解析）来说太慢了。我们提出了一个线性时间选区解析器与RNN和动态规划使用图结构的堆栈和束搜索，它运行在时间$O(n b^2)$，其中$b$是波束的大小。通过集成立方体修剪，我们进一步将其加速到$O(n b\log b)$。与图表解析基线相比，这种线性时间解析器在Penn Treebank上的长句解析速度要快得多，在话语解析上要快几个数量级，并且在Penn Treebank上实现了单模型端到端系统中最高的F1精度。
2018-05-21 cs.CL
Universal Dependency Parsing from Scratch
Stanford University（斯坦福大学）
本文描述了斯坦福大学在CoNLL 2018 UD共享任务上的系统。我们介绍了一个完整的神经管道系统，以原始文本作为输入，并执行共享任务所需的所有任务，从标记和句子分割，到POS标记和依存句法分析。我们提交的单个系统在大型树库上实现了非常有竞争力的性能。此外，在修复了一个不幸的错误后，我们更正后的系统将在官方评估指标LAS，MLAS和BLEX上排名第二，第一和第三，并且在所有指标的低资源树库类别上都将大大优于所有提交系统。我们通过广泛的消融研究进一步证明了不同模型组件的有效性。
2019-01-29 cs.CL
Fast(er) Exact Decoding and Global Training for Transition-Based Dependency Parsing via a Minimal Feature Set
Cornell University（康奈尔大学）；Oregon State University（俄勒冈州立大学）
我们首先为基于transition的依存句法分析提出了一个最小特征集，延续了Kiperwasser和Goldberg（2016 a）以及Cross和Huang（2016 a）使用双向LSTM特征的最新趋势。我们将我们的最小特征集插入Huang和Sagae（2010）和Kuhlmann et al.（2011）的动态编程框架中，以产生弧混合和弧渴望转换系统的最坏情况O（n^3）精确解码器的第一个实现。利用我们的最小特征，我们还提出了O（n^3）的全局训练方法。最后，使用合奏，包括我们的新的解析器，我们实现了最好的无标签的附件分数报告（据我们所知）的中文树库和“第二最好的”结果的英文Penn树库。
2017-08-30 cs.CL
Many Languages, One Parser
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）；Pompeu Fabra University（庞培法布拉大学）
我们训练了一个多语种的依存句法分析模型，并使用它来分析几种语言的句子。解析模型使用（i）多语言词簇和嵌入;（ii）标记级语言信息;以及（iii）语言特定特征（细粒度POS标签）。这种输入表示使解析器不仅能够在多种语言中有效地解析，而且还能够基于语言共性和类型相似性来概括跨语言，从而使其更有效地从有限的注释中学习。我们的解析器的性能在一系列数据场景中优于强基线，包括当目标语言有一个大的树库，一个小的树库，或没有树库的训练。
2016-07-26 cs.CL
Large Discourse Treebanks from Scalable Distant Supervision
University of British Columbia（不列颠哥伦比亚大学）
语篇分析是自然语言处理中的一项重要的上游任务，对许多现实世界的应用具有重要意义。尽管其广泛认可的作用，最新的话语分析器（因此下游任务）仍然依赖于小规模的人类注释的话语树库，试图从非常有限的数据在几个狭窄的领域推断通用的话语结构。为了克服这种可怕的情况，并允许话语解析器在更大，更多样化和独立于领域的数据集上进行训练，我们提出了一个框架，从情感分析辅助任务的远程监督中生成“银标准”话语树。
2022-10-18 cs.CL
SyntaxNet Models for the CoNLL 2017 Shared Task
Carnegie Mellon University（卡内基梅隆大学）；Google Inc（谷歌公司）
我们描述了一个用于CoNLL 2017共享任务的基线依存句法分析系统。这个系统，我们称之为“ParseySaurus”，使用DRAGNN框架[Kong et al，2017]将基于transition的循环解析和标记与基于字符的单词表示相结合。在v1.3 Universal Advertisements Treebanks上，新系统在52个树库中以3.47%的绝对标签准确度得分（LAS）超过了公开可用的最先进的“Parsey's Advertising”模型。
2017-03-15 cs.CL
An improved neural network model for joint POS tagging and dependency parsing
提出了一种新的神经网络模型，用于词性标注和依存句法分析的联合识别。我们的模型扩展了著名的基于BIST图的依赖解析器（Kiperwasser和Goldberg，2016），通过合并基于BiLSTM的标记组件来为解析器自动生成预测的POS标签。在基准英语Penn树库上，我们的模型分别获得了94.51%和92.87%的UAS和LAS分数，比基于BIST图的解析器有1.5%以上的绝对改进，并且还获得了97.97%的最先进的POS标记准确率。此外，从原始文本中解析61个“大”通用词典树库的实验结果表明，我们的模型优于基线UDPipe（Straka和Straková，2017），平均POS标记得分高出0.8%，平均LAS得分高出3.6%。此外，通过我们的模型，我们还获得了最先进的下游任务分数，用于生物医学事件提取和意见分析应用。我们的代码与所有预训练模型一起提供：https://github.com/datquocnguyen/jPTDP
2018-08-20 cs.CL
THIVLVC: Retrieval Augmented Dependency Parsing for Latin
Université Paris-Saclay, CNRS, LISN（巴黎-萨克雷大学，法国国家科学研究中心，语言与语音处理实验室）；École Normale Supérieure de Lyon, HISOMA（里昂高等师范学院，历史与古代地中海文明研究所）
THIVLVC通过检索相似结构条目并利用大语言模型优化，提升了拉丁语依存解析的CLAS得分，尤其在诗歌部分表现更优。
2026-04-07 cs.CL
Graph-to-Graph Transformer for Transition-based Dependency Parsing
Idiap Research Institute（伊迪亚普研究所）；EPFL（洛桑联邦理工学院）
我们提出了Graph2Graph Transformer架构，用于调节和预测任意图形，并将其应用于基于转换的依存句法分析的挑战性任务。在提出了两个新的Transformer模型的过渡为基础的依存句法分析作为强基线后，我们表明，添加所提出的机制，条件和预测图的Graph2Graph Transformer的结果显着改善，无论有和没有BERT预训练。新的基线及其与Graph2Graph Transformer的集成在英语Penn Treebank和13种语言的Universal Advertisements Treebanks上的性能明显优于传统的基于转换的依存句法分析。Graph2Graph Transformer可以与许多以前的结构化预测方法集成，使其易于应用于广泛的NLP任务。
2020-10-30 cs.CL cs.LG
Constituency Structure over Eojeol in Korean Treebanks
KAIST（韩国国立科学技术院）；Anyang University（安阳大学）
针对韩语成分树库中终端单位选择问题，提出基于语节的成分表示，将形态分割和细粒度词性信息编码在非成分层，支持跨树库比较和成分-依存对齐。
2026-06-25 cs.CL
Greedy Transition-Based Dependency Parsing with Discrete and Continuous Supertag Features
Uppsala University（乌普萨拉大学）
我们研究了丰富的超标记特征在基于贪婪转换的依存句法分析中的作用。虽然以前的研究表明，稀疏布尔功能表示的1-最好的超级标记的一个字可以提高解析的准确性，我们表明，我们可以得到进一步的改善，通过添加一个连续的矢量表示的整个超级标记分布的一个字。通过这种方式，我们实现了最好的结果，贪婪的过渡为基础的分析与supertag功能与$88.6\%$ LAS和$90.9\%$ UAS上的英语Penn树库转换为斯坦福大学的词典。
2020-07-09 cs.CL
Cross-Domain Generalization of Neural Constituency Parsers
University of California, Berkeley（加州大学伯克利分校）
神经解析器在基准树库上获得了最先进的结果，用于选区解析-但它们在多大程度上推广到其他领域？我们提出了关于零射击（zero-shot）设置中神经解析器泛化的三个结果：对来自一个语料库的树进行训练和对域外语料库进行评估。首先，神经和非神经解析器将XML推广到新的领域。其次，将预先训练的编码器表示纳入神经解析器中，可以大大提高其在所有域中的性能，但对于域外树库并没有更大的相对改善。最后，尽管神经解析器学习了丰富的输入表示，但它们仍然受益于输出树的结构化输出预测，从而获得更高的精确匹配精度和更强的泛化能力，无论是对更大的文本跨度还是对域外语料库。我们分析了英语和汉语语料库的泛化，并在此过程中获得了最先进的解析结果的布朗，Genia和英语网络树库。
2019-07-09 cs.CL
Universal Dependencies for Learner English
CSAIL MIT（麻省理工学院计算机科学与人工智能实验室）；EECS & Linguistics MIT（麻省理工学院电气工程与计算机科学系及语言学系）；Linguistics MIT（麻省理工学院语言学系）；EECS MIT（麻省理工学院电气工程与计算机科学系）；MECHE MIT（麻省理工学院机械工程系）
我们介绍了学习者英语树库（TLE），第一个公开可用的句法树库英语作为第二语言（ESL）。TLE为来自剑桥第一英语证书（FCE）语料库的5，124个句子提供手动注释的POS标签和通用依存（UD）树。UD注释与FCE的预先存在的错误注释相关联，从而为每个句子的原始版本和错误校正版本提供完整的句法分析。此外，我们描绘ESL注释准则，允许一致的语法处理不符合语法的英语。最后，我们在TLE数据集上对POS标记和依存句法分析性能进行了基准测试，并测量了语法错误对句法分析准确性的影响。我们设想树库支持广泛的语言学和计算研究第二语言习得以及自动处理不合语法的语言。这个树库可以在universaldependency.org上找到，这个项目中使用的注释手册和一个图形查询引擎可以在esltreebank.org上找到。
2016-06-08 cs.CL
Strongly Incremental Constituency Parsing with Graph Neural Networks
Princeton University（普林斯顿大学）
将句子解析成语法树可以使NLP中的下游应用受益。基于转换的解析器通过在状态转换系统中执行动作来构建树。它们在计算上是高效的，并且可以利用机器学习来预测基于部分树的动作。然而，现有的基于转换的解析器主要基于移位-归约转换系统，这与人类已知的解析句子的方式不一致。心理语言学研究表明，人类的解析是强烈的增量：人类通过在每一步添加一个标记来生长一个解析树。在本文中，我们提出了一种新的过渡系统称为附加并置。它是强增量的;它使用一棵树表示一个部分句子;每个动作只向部分树中添加一个标记。基于我们的转换系统，我们开发了一个强增量解析器。在每一步中，它使用图神经网络对部分树进行编码，并预测动作。我们在Penn树库（PTB）和中文树库（CTB）上对我们的解析器进行了评估。在PTB上，它优于仅用选区树训练的现有解析器;并且它的性能与使用依赖树作为附加训练数据的最先进解析器相当。在CTB上，我们的解析器建立了一个新的技术状态。代码可以在https://github.com/princeton-vl/attach-juxtapose-parser上获得。
2020-10-27 cs.CL
Bracketing Encodings for 2-Planar Dependency Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC；FASTPARSE Lab（FASTPARSE实验室）；LyS Research Group（LyS研究组）；Departamento de Ciencias de la Computación y Tecnologías de la Información（计算机科学与信息技术系）
我们提出了一个括号为基础的编码，可用于表示任何2平面依赖树在一个句子的长度为n的n个标签的序列，从而提供几乎全部覆盖的交叉弧序列标签解析。首先，我们表明，现有的括号编码解析标签只能处理一个非常温和的扩展投影树。其次，我们通过考虑众所周知的2-平面性的性质来克服这个限制，2-平面性存在于树库中的绝大多数依赖句法结构中，即，依赖关系树的弧可以被分成两个平面，使得给定平面中的弧不交叉。我们利用这个属性来设计一种方法，该方法平衡括号，并编码属于每个平面的弧，允许几乎不受限制的非投影（圆99.9%的覆盖率）在序列标签解析。实验表明，我们的线性化提高了高度非投影树库中原始括号编码的准确性（平均0.4 LAS），同时实现了类似的速度。此外，当PoS标签不用作模型的输入参数时，它们特别适合。
2021-03-22 cs.CL
Read, Tag, and Parse All at Once, or Fully-neural Dependency Parsing
University of Wrocław（弗罗茨瓦夫大学）
我们提出了一个依赖解析器实现为一个单一的深神经网络，读取单词的正字法表示，并直接生成依赖关系和它们的标签。与典型的解析方法不同，该模型不需要对句子进行词性（POS）标记。通过适当的正则化和多任务学习实现的额外监督，我们在通用递归树库的斯拉夫语言上达到了最先进的性能：除了字符之外没有其他语言特征，我们的解析器与在完美的POS标签上训练的基于转换的系统一样准确。
2017-06-05 cs.CL
Non-Projective Dependency Parsing with Non-Local Transitions
Universidade da Coruña（拉科鲁尼亚大学）
我们提出了一种新的过渡系统，基于Covington非投影解析器，引入非局部过渡，可以直接创建弧涉及节点的左边的当前焦点位置。这避免了需要长序列的无弧过渡来创建长距离弧，从而减轻了错误传播。由此产生的解析器优于原来的版本，并实现了最好的准确性之间的贪婪的过渡为基础的算法的斯坦福大学的宾夕法尼亚树库转换。
2018-05-15 cs.CL
CRF Autoencoder for Unsupervised Dependency Parsing
School of Information Science and Technology（信息科学与技术学院）；ShanghaiTech University（上海科技大学）
无监督依存句法分析试图从无标注的数据中发现语言依存结构，是一个非常具有挑战性的任务。几乎所有以前的工作都集中在学习生成模型上。本文提出了一种基于CRF自动编码器的无监督依存句法分析模型。我们的模型的编码器部分是有区别的和全局规范化的，这使我们能够使用丰富的特征以及通用的语言先验。我们提出了一个精确的算法解析以及一个听话的学习算法。我们评估了我们的模型在八个多语言树库上的性能，发现我们的模型与最先进的方法具有可比的性能。
2017-08-03 cs.CL
A Systematic Comparison of Syntactic Representations of Dependency Parsing
LIMSI；CNRS（法国国家科学研究中心）；Univ. Paris-Sud（巴黎第十一大学）；DIKU, University of Copenhagen（哥本哈根大学DIKU）
本文系统比较了基于转移的依存解析器在不同标注方案下的表现，发现将特定句法结构转换为标准表示并不总能提升性能，且结果因语言而异。
2025-03-10 cs.CL
Structured Training for Neural Network Transition-Based Parsing
Google Inc（谷歌公司）
我们提出了结构化的感知器训练的神经网络转换为基础的依存句法分析。我们学习的神经网络表示使用大量的自动解析的句子增强的黄金语料库。给定这个固定的网络表示，我们使用具有波束搜索解码的结构化感知器来学习最后一层。在Penn Treebank上，我们的解析器达到了94.26%的未标记和92.41%的标记附件准确率，据我们所知，这是斯坦福大学迄今为止最好的准确率。我们还提供了深入的烧蚀分析，以确定我们的模型的哪些方面提供了最大的准确性增益。
2015-06-19 cs.CL
Frame-Semantic Parsing with Softmax-Margin Segmental RNNs and a Syntactic Scaffold
Carnegie Mellon University（卡内基梅隆大学）；Google DeepMind（谷歌DeepMind）；University of Washington（华盛顿大学）
我们提出了一个新的，高效的框架语义分析器，标签语义参数的框架谓词。使用强调召回的分段RNN的扩展构建，我们的基本系统实现了有竞争力的性能，而无需调用任何语法解析器。然后，我们介绍了一种方法，只在训练过程中使用来自Penn Treebank的短语句法注释，通过多任务目标;在训练或测试时不需要解析。这种“语法脚手架”提供了一种比传统的语法流水线更便宜的替代方案，并实现了最先进的性能。
2017-06-29 cs.CL
Building an Endangered Language Resource in the Classroom: Universal Dependencies for Kakataibo
Leibniz-Zentrum Allgemeine Sprachwissenschaft（莱布尼茨普通语言学中心）；University of Edinburgh（爱丁堡大学）
在本文中，我们推出了一个新的通用的濒危语言树库从亚马逊河流域：卡卡泰博，在秘鲁的Panoan语言。我们首先讨论的协作方法实施，这被证明是有效的，以创建一个树库的背景下，计算语言学课程的本科生。然后，我们描述了树库的一般细节和为建议的注释实现的特定于语言的考虑。最后，我们对词性标注和句法依存句法分析进行了实验。我们专注于单语和迁移学习设置，在那里我们研究的Shipibo-Konibo树库，另一个Panoan语言资源的影响。
2022-06-21 cs.CL
Web-scale Surface and Syntactic n-gram Features for Dependency Parsing
University of Sydney（悉尼大学）；Toyota Technological Institute at Chicago（芝加哥丰田技术研究所）
我们开发了新的一阶和二阶功能的依存句法分析的基础上，谷歌句法Ngrams语料库，收集子树计数的扫描书籍解析句子。我们还扩展了以前的工作表面$n$ -gram功能从Web 1 T的谷歌图书语料库，从一阶到二阶，比较和分析性能超过新闻专线和网络树库。表面和语法$n$ -gram在跨域的解析准确性方面都产生了实质性的互补增益。我们最好的系统结合了这两个功能集，在新闻专线上实现了0.8%的绝对UAS改进，在网络文本上实现了1.4%的绝对UAS改进。
2015-02-25 cs.CL
LSTM Easy-first Dependency Parsing with Pre-trained Word Embeddings and Character-level Word Embeddings in Vietnamese
Georgia Institute of Technology（佐治亚理工学院）；Twentieth Century Fox（二十世纪福克斯公司）；Starfleet Academy（星际舰队学院）；Tyrell Inc.（泰瑞尔公司）
在越南语依存句法分析中，已经提出了几种方法。已经报道了使用深度神经网络模型的依赖解析器，其取得了最先进的结果。在本文中，我们提出了一种新方法，该方法将LSTM简单优先依存句法分析与预训练的词嵌入和字符级词嵌入相结合。我们的方法实现了80.91%的未标记的附件分数和72.98%的标记的附件分数的准确性在越南DepartamentTreebank（VnDT）。
2019-10-30 cs.CL
Revisiting the Effects of Leakage on Dependency Parsing
George Mason University（乔治梅森大学）；University of Virginia（弗吉尼亚大学）
Søgaard（2020）最近的工作表明，除了树库大小之外，训练和测试图之间的重叠（称为泄漏）比其他解释更能解释依存句法分析性能的变化。在这项工作中，我们重新审视这一主张，在更多的模型和语言上进行测试。我们发现，它只适用于zero-shot跨语言设置。然后，我们提出了一个更细粒度的措施，这种泄漏，不像原来的措施，不仅解释，而且与观察到的性能变化。代码和数据可在这里获得：https://github.com/miriamwanner/reu-nlp-project
2022-03-24 cs.CL
Recursive Non-Autoregressive Graph-to-Graph Transformer for Dependency Parsing with Iterative Refinement
Idiap Research Institute（伊迪亚普研究所）；EPFL（洛桑联邦理工学院）
我们提出了递归的非自回归图到图的Transformer架构（RNGTr）的迭代细化的任意图形通过递归应用的非自回归图到图的Transformer，并将其应用到语法依存句法分析。我们使用经过BERT预训练的细化模型，在多个依赖语料库上展示了RNGTr的功能和有效性。我们还介绍了语法Transformer（SynTr），一个类似于我们的细化模型的非递归解析器。RNGTr可以提高各种初始解析器对来自通用词典树库、英语和中文Penn树库以及德语CoNLL 2009语料库的13种语言的准确性，甚至比SynTr实现的新的最先进的结果更好，显著提高了所有测试语料库的最先进水平。
2020-11-10 cs.CL cs.LG
Multi-Task Learning by using Contextualized Word Representations for Syntactic Parsing of a Morphologically Rich Language
VTT Technical Research Centre of Finland Ltd.（芬兰VTT技术研究中心有限公司）；University of Konstanz（康斯坦茨大学）；Al-Khawarizmi Institute of Computer Science（花剌子密计算机科学研究所）；University of Engineering and Technology（工程技术大学）；Umm Al-Qura University（乌姆·库拉大学）；Copenhagen University（哥本哈根大学）
本文针对乌尔都语这一形态丰富语言，提出结合上下文词表示的多任务学习框架，通过统一序列标注和共享架构同时学习成分与依存结构，显著提升分析性能，F1达91.39，依存得分85.69。
2026-09-25 cs.AI cs.CL
Effective Representation for Easy-First Dependency Parsing
Shanghai Jiao Tong University（上海交通大学）
简单优先解析依赖于子树重排序来构建完整的解析树。而解析处理的中间状态是由各种子树，其内部结构信息是后来的解析动作决策的关键线索，我们探索一个更好的表示这样的子树。详细地说，这项工作介绍了一种基于子和树LSTM的自底向上子树编码方法。从一个简单的第一依赖解析器没有其他手工功能，我们表明，有效的子树编码器促进解析过程，并可以使贪婪搜索简单的第一解析器实现有前途的结果基准树库相比，国家的最先进的基线。此外，在当前预训练语言模型的帮助下，我们进一步改进了easy-first方法的最新结果。
2019-06-11 cs.CL
Arc-swift: A Novel Transition System for Dependency Parsing
Stanford University（斯坦福大学）
基于转换的依赖解析器通常需要局部移位和归约操作序列来产生某些附件。因此，正确的个体决策需要关于句子上下文的全局信息，而错误会导致错误传播。本文提出了一种新的过渡系统，弧迅捷，使令牌之间的直接附件更远的一个单一的过渡。这允许解析器在转换决策中更直接地利用词法信息。因此，arc-swift可以用非常小的光束尺寸实现显著更好的性能。我们的分析器减少了3.7- 7.6%的错误，相对于那些使用现有的过渡系统对Penn Treebank依存句法分析任务和英语通用语法分析。
2017-05-12 cs.CL
Dependency Parsing with Dilated Iterated Graph CNNs
依赖关系解析是将语言知识注入许多下游任务的有效方法，许多从业者希望大规模有效地解析句子。GPU硬件的最新进展使神经网络能够在以前的最佳模型上实现显著的收益，这些模型仍然无法利用GPU的大规模并行性能力，因为它们需要顺序处理句子。作为回应，我们提出了扩张迭代图卷积神经网络（DIG-CNN），用于基于图的依存句法分析，这是一种允许高效端到端GPU解析的图卷积架构。在英语Penn TreeBank基准的实验中，我们表明DIG-CNN的性能与一些最好的神经网络解析器相当。
2017-07-21 cs.CL
Rethinking Self-Attention: Towards Interpretability in Neural Parsing
University of California, San Diego（加利福尼亚大学圣地亚哥分校）；Adobe Research（Adobe研究）
注意力机制提高了NLP任务的性能，同时允许模型保持可解释性。自我注意是目前广泛使用的，但解释是困难的，由于众多的注意力分布。最近的工作表明，模型表示可以受益于标签特定的信息，同时促进预测的解释。我们引入标签注意层：一种新的自我注意形式，其中注意头代表标签。我们通过运行选区和依存句法分析实验来测试我们的新层，并表明我们的新模型在Penn Treebank（PTB）和Chinese Treebank上都获得了新的最先进的结果。此外，与现有工作相比，我们的模型需要更少的自我注意层。最后，我们发现标签注意脑能够学习句法范畴之间的关系，并显示出分析错误的路径。
2020-10-29 cs.CL cs.LG
Combining Generative and Discriminative Approaches to Unsupervised Dependency Parsing via Dual Decomposition
ShanghaiTech University（上海科技大学）
无监督依存句法分析的目标是从无注释的句子中学习依存句法分析器。现有的工作集中在使用期望最大化算法及其变体学习生成模型，或使用判别聚类算法学习判别模型。在本文中，我们提出了一种新的学习策略，学习一个生成模型和判别模型联合基于对偶分解方法。我们的方法是简单和通用的，但有效地捕捉这两个模型的优点，提高他们的学习结果。我们在UD树库上测试了我们的方法，并在30种语言上实现了最先进的性能。
2017-09-24 cs.CL
Vietnamese transition-based dependency parsing with supertag features
Department of Information Science；Engineering University of Information Technology Vietnam National University - Ho Chi Minh City, Vietnam Email；Faculty of Computer Science University of Information Technology Vietnam National University - Ho Chi Minh City, Vietnam Email
依存句法分析是近年来的一个研究热点，在自然语言处理中有着广泛的应用。在本文中，我们提出了一种有效的方法来改善依存句法分析利用超标记的功能。我们使用基于转换的依存句法分析进行了实验，因为它可以利用丰富的功能。对越南依赖树库的实证评估表明，使用黄金超级标签的标记附件评分提高了18.92%，使用自动超级标签的标记附件评分提高了3.57%。
2019-11-09 cs.CL
Proposing TAGbank as a Corpus of Tree-Adjoining Grammar Derivations
The University of British Columbia（不列颠哥伦比亚大学）
为填补词汇化语法形式缺乏大规模语料库的空白，本文提出从现有句法树库自动提取TAG推导的TAGbank语料库，概述映射方法并讨论挑战，支持句法分析等任务并计划扩展多语言语料库。
2025-04-13 cs.CL
Contextual Semantic Parsing using Crowdsourced Spatial Descriptions
Institute for Artificial Intelligence, University of Leeds（利兹大学人工智能研究所）
我们描述了一个上下文解析器的机器人命令树库，一个新的众包资源。与以前的语义分析器，选择最可能的解析，我们认为不同的问题，解析使用额外的情景上下文之间的歧义消除不同的阅读句子。我们表明，多个语义分析可以搜索使用动态规划通过与空间规划师的互动，指导解析过程。我们能够通过排除与空间上下文不兼容的早期分析来解析接近线性时间的句子。我们报告了34%的准确率上限，因为我们的规划器正确处理了10，000个句子中的3，394个空间上下文。然而，我们的解析器实现了96.53%的精确匹配分数内的句子识别的规划器的子集进行解析，相比之下，82.14%的非上下文解析器。
2014-05-01 cs.CL
An In-depth Study on Internal Structure of Chinese Words
Soochow University（苏州大学）；Huawei Cloud（华为云）
与英文字母不同，汉字有着丰富而具体的含义。通常，一个词的意义可以通过某种方式从它的组成字符中推导出来。以前的几个关于句法分析的工作建议注释浅层词内部结构，以更好地利用字符级信息。本文提出将汉语词汇的深层内部结构建模为具有11个标签的依存树，用于区分句法关系。首先，基于新编写的注释指南，我们手工标注了一个词内部结构树库（WIST），由超过30K的多字符词从中国宾州树库。为了保证质量，每个单词都由两名注释员独立注释，不一致的地方由第三名高级注释员处理。其次，我们对WIST进行了详细而有趣的分析，以揭示对汉语构词法的见解。第三，我们提出了词内部结构分析作为一个新的任务，并进行基准实验，使用竞争依赖分析器。最后，我们提出了两种简单的方法来编码词内部结构，从而有希望的收益在句子级句法分析任务。
2021-06-01 cs.CL
A non-projective greedy dependency parser with bidirectional LSTMs
Universidade da Coruña（拉科鲁尼亚大学）
LyS-FASTPARSE团队介绍了BIST-COVINGTON，这是Covington（2001）算法的神经实现，用于非投射依存句法分析。Kipperwasser和Goldberg（2016）的双向LSTM方法用于训练具有动态oracle的贪婪解析器，以减轻错误传播。该模型参加了CoNLL 2017 UD共享任务。尽管没有使用任何集成方法，并使用基线分割和PoS标记，解析器在大型树库类别（55种语言）的宏观平均LAS和UAS上都获得了良好的结果，在33个团队中排名第7。在所有树库类别（LAS和UAS）中，我们排名第16位和第12位。所有类别和大类别之间的差距主要是由于四个并行PUD树库的性能不佳，这表明一些“后缀”树库（例如西班牙语AnCora）在跨树库设置上表现不佳，而相应的“无后缀”树库（例如西班牙语）则不会出现这种情况。通过改变这一点，我们在所有运行（官方和非官方）中获得了第11名。该代码可在https://github.com/CoNLL-UD-2017/LyS-FASTPARSE上获得
2017-07-11 cs.CL
