Syntax as a Rosetta Stone: Universal Dependencies for In-Context Coptic Translation
Corpling Lab(科林实验室);Georgetown University(乔治城大学)
提出一种结合通用依存句法分析和双语词典的上下文学习方法,用于低资源科普特语到英语的机器翻译,取得了新的最佳结果。
2026-05-26 cs.CL
Syntactic Dependency Representations in Neural Relation Classification
University of Oslo(奥斯陆大学);Department of Informatics(信息学系)
我们调查使用不同的句法依赖表示在神经关系分类任务,并比较CoNLL,斯坦福大学的基本和通用的重复方案。我们进一步比较了语法不可知的方法,并进行错误分析,以获得更好的理解的结果。
2018-05-28 cs.CL
Do Neural Language Models Show Preferences for Syntactic Formalisms?
Uppsala University(乌普萨拉大学);University of Oslo(奥斯陆大学);University of Copenhagen(哥本哈根大学)
最近关于深度神经语言模型的可解释性的研究得出结论,自然语言语法的许多属性都编码在其表示空间中。然而,这样的研究往往受到局限的范围,集中在一个单一的语言和单一的语言形式主义。在这项研究中,我们的目标是调查在何种程度上的语义句法结构捕获的语言模型坚持表面句法或深层句法风格的分析,以及模式是否是一致的,在不同的语言。我们应用一个探测器来提取有向依赖树到在13种不同语言上训练的BERT和ELMo模型,探测两种不同的语法注释风格:通用重复性(UD),优先考虑深层语法关系,和表面语法通用重复性(SUD),专注于表面结构。我们发现,这两种模型都表现出对UD的偏好,而不是SUD -在语言和层之间存在有趣的变化-并且这种偏好的强度与树形状的差异相关。
2020-04-29 cs.CL cs.LG
SynGhost: Invisible and Universal Task-agnostic Backdoor Attack via Syntactic Transfer
Shanghai Jiao Tong University(上海交通大学);Southern University of Science and Technology(南方科技大学)
本文提出SynGhost,一种通过句法迁移实现的隐形通用任务无关后门攻击,利用对比学习选择目标并引入感知模块,能有效迁移至下游任务并抵抗多种防御。
2026-09-15 cs.AI cs.CL cs.CR
Verbal behavior without syntactic structures: beyond Skinner and Chomsky
Cornell University(康奈尔大学)
了解语言意味着什么?自乔姆斯基革命以来,对这个问题的一个流行的回答是:拥有一种专门许可某些句法结构的生成语法。几十年过去了,对于任何一种语言来说,甚至连一种近似的语法都没有形成;语法是普遍的、天生特定的观点已经证明是徒劳的;试图说明如何从经验中学习语法的努力总是失败的。为了走出这一僵局,我们必须重新发现语言在多大程度上与其他人类行为一样:动态的、社会的、多模态的、模式化的和有目的的,其目的是促进他人和自我的可取行为(或思想)。最近的心理学,计算,神经生物学和进化的见解的形成和结构的行为可能会指向我们对语言的一个新的,可行的帐户。
2023-03-11 cs.CL q-bio.NC
Finding Universal Grammatical Relations in Multilingual BERT
Stanford University(斯坦福大学)
最近的研究发现,多语种BERT(mBERT),一个基于transformer的多语种掩蔽语言模型,能够zero-shot跨语言迁移,这表明其表示的某些方面是跨语言共享。为了更好地理解这种重叠,我们将最近在神经网络内部表示中寻找语法树的工作扩展到多语言环境。我们发现,子空间的mBERT表示恢复语法树的距离,在英语以外的语言,这些子空间大约是跨语言共享。受这些结果的启发,我们提出了一种无监督的分析方法,提供证据mBERT学习表示的句法依赖标签,在很大程度上同意与通用的依赖分类的集群的形式。这一证据表明,即使没有明确的监督,多语言掩蔽语言模型学习某些语言共性。
2020-05-20 cs.CL cs.LG
Probing LLMs for Syntactic Structure Beyond Universal Dependencies: A Minimalist Phase Account in English
Dartmouth College(达特茅斯学院)
通过设计UD距离不变的条件,使用结构探针评估LLM在wh-移位刺激上的表现,发现阶段计数梯度和阶段内凝聚性效应,表明分布预训练能诱导出超越UD的形式句法抽象表征。
2026-07-20 cs.CL stat.AP
Universal Dependencies v2: An Evergrowing Multilingual Treebank Collection
Uppsala University(乌普萨拉大学);The Ohio State University(俄亥俄州立大学);University of Turku(图尔库大学);Charles University in Prague(布拉格查理大学);Stanford University(斯坦福大学);Indiana University(印第安纳大学)
通用树库是一个开放的社区,致力于在基于依赖性的词汇框架内为许多语言创建跨语言一致的树库注释。该注释包括语言动机的分词;包括词元、通用词性标签和标准化形态特征的形态层;以及专注于谓词、参数和修饰语之间的句法关系的句法层。在本文中,我们描述了指南的第2版(UD v2),讨论了从UD v1到UD v2的主要变化,并概述了目前可用的90种语言的树库。
2020-04-22 cs.CL
Universal Dependencies for Learner English
CSAIL MIT(麻省理工学院计算机科学与人工智能实验室);EECS & Linguistics MIT(麻省理工学院电气工程与计算机科学系及语言学系);Linguistics MIT(麻省理工学院语言学系);EECS MIT(麻省理工学院电气工程与计算机科学系);MECHE MIT(麻省理工学院机械工程系)
我们介绍了学习者英语树库(TLE),第一个公开可用的句法树库英语作为第二语言(ESL)。TLE为来自剑桥第一英语证书(FCE)语料库的5,124个句子提供手动注释的POS标签和通用依存(UD)树。UD注释与FCE的预先存在的错误注释相关联,从而为每个句子的原始版本和错误校正版本提供完整的句法分析。此外,我们描绘ESL注释准则,允许一致的语法处理不符合语法的英语。最后,我们在TLE数据集上对POS标记和依存句法分析性能进行了基准测试,并测量了语法错误对句法分析准确性的影响。我们设想树库支持广泛的语言学和计算研究第二语言习得以及自动处理不合语法的语言。这个树库可以在universaldependency.org上找到,这个项目中使用的注释手册和一个图形查询引擎可以在esltreebank.org上找到。
2016-06-08 cs.CL
Multilingual Nonce Dependency Treebanks: Understanding how Language Models represent and process syntactic structure
Heinrich-Heine-Universität Düsseldorf(杜塞尔多夫海因里希·海涅大学);IBM Research(IBM研究院);Dalhousie University(达尔豪斯大学)
提出SPUD框架构建五种语言的非ce依存树库,通过困惑度和句法探针实验表明模型性能虽下降但大部分句法能力独立于语义。
2024-06-12 cs.CL
Exploring Multilingual Syntactic Sentence Representations
Wattpad
我们研究学习具有句法结构的句子嵌入的方法。我们专注于学习的方法,通过使用一个多语言的并行语料库增强通用词性标记的句法嵌入。我们通过检查嵌入空间中的最近邻和功能相异性来评估学习嵌入的质量。我们还评估了该方法学习低资源语言的语法嵌入的能力,并证明了迁移学习的有力证据。我们的研究结果表明,语法嵌入可以学习,同时使用更少的训练数据,更少的模型参数,并导致更好的评价指标比国家的最先进的语言模型。
2019-10-25 cs.CL cs.LG eess.AS
A Systematic Comparison of Syntactic Representations of Dependency Parsing
LIMSI;CNRS(法国国家科学研究中心);Univ. Paris-Sud(巴黎第十一大学);DIKU, University of Copenhagen(哥本哈根大学DIKU)
本文系统比较了基于转移的依存解析器在不同标注方案下的表现,发现将特定句法结构转换为标准表示并不总能提升性能,且结果因语言而异。
2025-03-10 cs.CL
ThaiTrees: Thai Syntactic Dependency Trees Across Domains
Chulalongkorn University(朱拉隆功大学)
针对泰语缺乏大规模自动解析语料库的问题,构建了包含3.42亿词符、覆盖多领域的ThaiTrees语料库,并开发了可复现的清洗、处理与解析流程,支持句法分布研究。\n
2026-09-24 cs.CL
K-UD: Revising Korean Universal Dependencies Guidelines
Seoul National University(首尔大学);The Chinese University of Hong Kong(香港中文大学);The University of British Columbia(不列颠哥伦比亚大学);Sorbonne Université(索邦大学);SeoulTech(首尔科学技术大学);Anyang University(安阳大学)
本文针对韩语 Universal Dependencies 标注框架在句法关系上的争议,提出 K-UD 指南修订,以完善句法依存定义并建立跨框架的语言共识模型。
2024-12-01 cs.CL
Syntactic Nuclei in Dependency Parsing -- A Multilingual Exploration
Uppsala University(乌普萨拉大学)
句法依存句法分析的标准模型把词作为依存关系的基本单位。在本文中,我们调查是否有任何好处,丰富这些模型与更抽象的概念提出的Tesnière核。我们这样做的核的概念,可以在框架中定义的通用依赖,以及我们如何使用组合函数,使一个基于转换的依赖解析器知道这个概念。在12种语言上的实验表明,核组合在句法分析准确率上有很大的提高。进一步的分析表明,改进主要涉及少数依存关系,包括名词性修饰语、并列关系、主谓语和直接宾语。
2021-01-29 cs.CL
Universal Semantic Parsing
Stanford University(斯坦福大学);Google Inc.(谷歌公司);University of Edinburgh(爱丁堡大学)
通用语法(UD)提供了一个统一的跨语言的句法表示,旨在推进多语言应用。最近的工作表明,语义解析可以通过将句法依赖转换为逻辑形式来完成。然而,这项工作仅限于英语,不能处理依赖图,这允许处理复杂的现象,如控制。在这项工作中,我们介绍了UDepLambda,UD的语义接口,映射自然语言的逻辑形式,在一个几乎语言独立的方式,可以处理依赖图。我们对Freebase进行问答实验,并提供WebQuestions和GraphQuestions数据集的德语和西班牙语翻译,以促进多语言评估。结果表明,UDepLambda在语言和数据集上的表现优于强基线。对于英语,它比最先进的GraphQuestions提高了4.9 F1点。我们的代码和数据可以在https://github.com/sivareddyg/udeplambda下载。
2017-08-28 cs.CL
Enhancing the Transformer Decoder with Transition-based Syntax
Hebrew University of Jerusalem(耶路撒冷希伯来大学)
尽管最近的进展,句法泛化仍然是文本解码器的一个挑战。虽然一些研究表明,将源端的符号句法和语义结构的文本生成Transformers的收益,很少有工作解决这种结构的解码。我们提出了一个通用的方法,树解码使用一个过渡为基础的方法。检查具有挑战性的测试情况下,将通用的重复性语法到机器翻译,我们提出了大量的改进测试集,侧重于语法泛化,同时提出改进或可比的性能标准MT基准。进一步的定性分析解决的情况下,语法概括香草Transformer解码器是不够的,并展示了整合语法信息所提供的优势。
2022-10-31 cs.CL cs.LG
On the Definition of Japanese Word
Graduate School of Informatics, Kyoto University(京都大学信息学研究生院)
通用依存关系(UD)的标注指南规定依存关系标注的基本单位是句法词,但日语中句法词的定义并不明确。在依存句法分析中,UD日语树库采用了短单位词,这与使用短语单位词进行依存句法分析的传统不同。然而,我们认为,他们不是句法词指定的注释准则。虽然我们发现非主流的尝试,语言学定义的日语单词,这样的定义从来没有被应用到语料库注释。我们将讨论采用这些不太熟悉的标准的成本和收益。
2019-06-24 cs.CL
Enhancing Korean Dependency Parsing with Morphosyntactic Features
The University of British Columbia(不列颠哥伦比亚大学);The Chinese University of Hong Kong(香港中文大学);Seoul National University(首尔大学);KAIST(韩国科学技术院);Anyang University(安阳大学)
本文提出UniDive框架,融合UD与UniMorph以统一韩语形态句法标注,实验证明增强的形态特征能提升依存解析准确性。
2025-03-26 cs.CL
Syntactic Patterns and Stylistic Functions in Narrative Prose: A Rule-Based and Machine-Learning Approach
本文提出一种基于规则与机器学习的方法,利用依存句法分析语料库中的线性化三元组模式,对叙事散文句子进行五类文体分类,最佳模型宏F1达0.948。
2026-09-09 cs.CL
Counting trees: A treebank-driven exploration of syntactic variation in speech and writing across languages
University of Ljubljana(卢布尔雅那大学);Jozef Stefan Institute(约瑟夫·斯特凡研究所)
本文提出基于树库的方法,研究口语和写作中句法结构的差异,发现口语结构较少且多样性低,揭示了模态特定的句法偏好。
2026-02-23 cs.CL
Do Attention Heads in BERT Track Syntactic Dependencies?
New York University(纽约大学);Verisk Analytics(Verisk分析公司)
我们研究了在预训练的Transformer语言模型(如BERT和RoBERTa)中,个体注意力在多大程度上隐式地捕获句法依赖关系。我们采用两种方法-采取最大的注意力权重和计算最大生成树-提取隐含的依赖关系,从每个层/头的注意力权重,并将它们与地面真理通用依赖(UD)树进行比较。我们发现,对于一些UD关系类型,存在头部,可以恢复的依赖类型显着优于基线上解析的英文文本,这表明一些自我注意头作为代理的句法结构。我们还分析了BERT微调两个数据集--面向语法的CoLA和面向语义的MNLI--调查微调是否会影响他们的自我注意力的模式,但我们没有观察到使用我们的方法提取的整体依赖关系的实质性差异。我们的研究结果表明,这些模型有一些专业的注意力头,跟踪个别的依赖类型,但没有通才头,执行整体解析显着优于一个平凡的基线,并直接分析注意力权重可能不会揭示很多的句法知识,BERT风格的模型是已知的学习。
2019-11-27 cs.CL
Multilingual Irony Detection with Dependency Syntax and Neural Models
Università degli Studi di Torino(都灵大学);Universitat Politècnica de València(瓦伦西亚理工大学);Università degli Studi di Cagliari(卡利亚里大学);Université de Toulouse(图卢兹大学)
本文研究多语言反讽检测,探索基于依存句法特征与经典分类器、词嵌入及多语言BERT结合,证明细粒度依存句法信息有效。
2020-11-11 cs.CL
The distribution of syntactic dependency distances
本文提出一种双指数区域模型来描述句法依存距离分布,发现该模型在20种语言中普遍适用,断点平均为4-5个词,揭示了语言处理的普遍组块机制。
2025-07-14 cs.CL
Universal Dependency Parsing for Hindi-English Code-switching
LTRC, IIIT-H(印度国际信息技术研究所海得拉巴语言技术研究中心);Interaction Labs(交互实验室)
语码转换是两种或两种以上语言的语法结构在不同的社会制约条件下混合使用的现象。语码转换数据与自然语言处理领域的基准语料库有很大的不同,标准技术对这些数据的应用大大降低了它们的性能。与标准语料库不同,这些数据通常需要经过额外的过程,如语言识别,规范化和/或回译,以提高处理效率。在本文中,我们调查这些必不可少的过程和其他相关的句法分析的代码转换数据的问题,并提出了方法,以减轻其影响。特别是,我们研究的依存句法分析的代码转换数据的印地语和英语多语种的发言者从Twitter的。我们提出了一个树库的印地语-英语代码切换推文下的通用mendencies计划,并提出了一个神经堆栈模型的解析,有效地利用部分的语音标签和语法树注释的代码切换树库和预先存在的印地语和英语树库。我们还提出了规范化和回音译模型的解码过程中量身定制的代码切换数据。结果表明,我们的神经堆叠解析器比增强解析模型好1.5%LAS点,我们的解码过程比第一最佳归一化和/或回译提高了3.8%LAS点。
2018-04-24 cs.CL
LuxBank: The First Universal Dependency Treebank for Luxembourgish
University of Luxembourg(卢森堡大学)
本文介绍 LuxBank,首个卢森堡语通用依存树库,建立标注指南,支持句法分析、工具开发及语言模型训练,促进西日耳曼语系研究。
2024-11-07 cs.CL
Part of Speech and Universal Dependency effects on English Arabic Machine Translation
在这篇研究论文中,我将详细介绍一种方法来评估机器翻译模型的基础上,他们的表现对英语和阿拉伯语之间的潜在句法现象。这种方法尤其重要,因为这种“神经”和“机器学习“很难微调和改变。因此,找到一种方法来评估他们容易和麻烦将大大有助于改善他们的任务。
2021-06-03 cs.AI cs.CL cs.LG
Who is the root in a syntactic dependency structure?
本文提出通过中心性分数确定句法依赖结构中根节点的方法,通过理论和实证分析证明根节点具有高中心性,且高中心性顶点倾向于为根节点。
2025-11-06 cs.CL cs.SI physics.soc-ph
A Compositional Typed Semantics for Universal Dependencies
针对跨语言句子语义推导难题,本文提出构建于 Universal Dependencies 之上的组合式类型系统 UD Type Calculus,并在大型语料库上验证其可取得与基线相当的效果。
2024-03-02 cs.CL
Improving Pre-trained Language Models with Syntactic Dependency Prediction Task for Chinese Semantic Error Recognition
Harbin Institute of Technology(哈尔滨工业大学);iFLYTEK Research(讯飞研究院)
现有的中文文本错误检测主要集中在拼写和简单的语法错误。这些错误已被广泛研究,对人类来说相对简单。相反,汉语的语义错误研究不足,而且更加复杂,人类不容易识别。本文的任务是汉语语义错误识别(CSER),一个二元分类任务,以确定一个句子是否包含语义错误。目前的研究还没有有效的方法来解决这个问题。本文继承了BERT的模型结构,设计了多个与句法相关的预训练任务,使模型能够学习句法知识。我们的预训练任务考虑依赖结构的方向性和依赖关系的多样性。由于目前尚缺乏针对CSER的公开数据集,本文首次建立了一个高质量的CSER数据集--汉语语义可接受性语料库(Corpus of Chinese Linguistic Semantic Acceptability,CoCLSA)。在CoCLSA上的实验结果表明,我们的方法优于通用的预训练模型和语法注入模型。
2022-04-15 cs.AI cs.CL
Is Structure Dependence Shaped for Efficient Communication?: A Case Study on Coordination
The University of Tokyo(东京大学);NINJAL(日本国立国语研究所)
本文以并列结构为例,通过设计三种人工语言并量化其通信效率,发现具有结构依赖缩减操作的语言通信效率显著优于反事实语言,证明结构依赖性可由高效通信压力解释。
2024-10-14 cs.CL
Compositionality and the lexicon in evolutionary semantics
Institute for Logic, Language, and Computation, University of Amsterdam(逻辑、语言与计算研究所,阿姆斯特丹大学)
提出一个整合形式语义学组合原则的演化框架,通过词汇意义与组合函数的协同演化,发现保守性作为系统级抽象涌现,并调和了量词可学习性与演化模型的矛盾。
2026-09-15 cs.CL
Zero-Shot Cross-Lingual Machine Reading Comprehension via Inter-sentence Dependency Graph
Emory University(埃默里大学);NEC Laboratories America(NEC美国实验室)
我们的目标是跨语言机器阅读理解(MRC)的任务,在直接zero-shot设置,通过合并的句法特征,从普遍的相似性(UD),我们使用的关键特征是每个句子内的句法关系。虽然以前的工作已经证明了有效的语法引导的MRC模型,我们建议采用句间的句法关系,除了基本的句内关系,进一步利用在多句输入的MRC任务的句法依赖。在我们的方法中,我们建立了句子间依赖图(ISDG)连接依赖树,以形成跨句子的全局句法关系。然后,我们提出了ISDG编码器,编码的全球依赖图,通过一跳和多跳依赖路径明确地解决句子间的关系。在三个多语言MRC数据集(XQuAD,MLQA,TyDiQA-GoldP)上的实验表明,我们的编码器只在英语上训练,能够提高所有14个测试集的zero-shot性能,覆盖8种语言,平均提高高达3.8 F1 / 5.2 EM,某些语言的5.2 F1 / 11.2 EM。进一步的分析表明,这种改进可以归因于对跨语言一致性句法路径的关注。
2022-03-15 cs.CL cs.LG
Refining Syntactic Distinctions Using Decision Trees: A Paper on Postnominal 'That' in Complement vs. Relative Clauses
Paris Cité University(巴黎城市大学)
本文通过重新标注EWT树库语料并重训TreeTagger,改进其对英语后置名词“that”作为关系代词与补足语标记的区分能力,并分析了训练数据规模及语言学结构因素对学习效果的影响。
2025-09-13 cs.CL
Universal Dependencies Parsing for Colloquial Singaporean English
Singapore University of Technology and Design(新加坡科技设计大学);DSO National Laboratories(新加坡国防科技研究院)
新加坡式英语在语言学上作为基于英语的主要克里奥尔语,在计算上用于区域社交媒体的信息抽取和情感分析,对ACL社区来说都很有趣。我们研究了新加坡英语的依存句法分析,通过在通用依存模式下构建依存树库,然后通过将英语句法知识集成到在新加坡英语树库上训练的最先进的句法分析器中来训练神经网络模型。结果表明,英语知识可以导致25%的相对错误减少,从而在84.47%的准确率分析。据我们所知,我们是第一个使用神经堆栈来改善低资源语言上的跨语言依存句法分析的人。我们使我们的注释和解析器可用于进一步的研究。
2017-05-18 cs.CL
Cross-Lingual Adaptation Using Universal Dependencies
University of Tehran(德黑兰大学)
我们描述了一个跨语言的适应方法的基础上获得的语法分析树的通用的语法分析(UD),这是一致的跨语言,在低资源的语言开发分类。UD解析的思想是在类型不同的语言之间捕获相似性和特性。在本文中,我们展示了使用UD解析树为复杂的NLP任务训练的模型可以表征非常不同的语言。我们以释义识别和语义关系抽取两个任务为例进行了研究。基于UD解析树,我们使用树内核开发了几个模型,并表明这些模型在英语数据集上训练可以正确分类其他语言的数据,例如法语,波斯语和阿拉伯语。该方法为利用UD解析解决类似的跨语言任务开辟了途径,这对于没有标记数据的语言非常有用。
2020-03-28 cs.CL
Weakly Supervised Headline Dependency Parsing
Google Research(谷歌研究院);Bloomberg(彭博);Cornell University(康奈尔大学)
自20世纪30年代以来,英语新闻标题形成了一个具有独特句法特征的语域,这在语言学文献中已有记载。然而,令人惊讶的是,标题很少受到NLP句法分析社区的关注。我们的目标是弥合这一差距,通过提供第一个新闻标题语料库的通用的标注句法依赖树,这使我们能够评估现有的国家的最先进的依赖分析器的新闻标题。为了提高英语新闻标题的句法分析准确率,我们提出了一种投影方法,从未标记的新闻标题-文章引导句对中引导银训练数据。在银色标题解析上训练的模型比仅在金色注释的长格式文本上训练的模型在性能上有显着提高。最终,我们发现,虽然预计银训练数据提高了解析器的性能在不同的新闻媒体,改善是缓和的建设特质出口。
2023-01-25 cs.AI cs.CL cs.LG
Cross-lingual Universal Dependency Parsing Only from One Monolingual Treebank
Shanghai Jiao Tong University(上海交通大学)
句法分析是一个高度语言处理的任务,其分析器需要从昂贵的人工注释中训练树库。由于不太可能为每种人类语言获得树库,因此在这项工作中,我们提出了一个有效的跨语言UD解析框架,用于将解析器从一个源单语树库转移到任何其他目标语言,而无需树库。为了在不同的语言之间达到满意的分析精度,我们将两个语言建模任务作为多任务引入到依存句法分析中。假设只有来自目标语言的未标记数据和源树库可以一起利用,我们采用了一种自我训练策略,以进一步提高我们的多任务框架的性能。我们提出的跨语言解析器实现英语,中文,和22 UD树库。实证研究表明,我们的跨语言分析器产生的所有目标语言,第一次有希望的结果,接近分析器的性能,这是在自己的目标树库训练。
2021-04-23 cs.CL
The Grammar Does the Work: Functional vs. Lexical Dependency Length Minimization Across Universal Dependencies
研究依存长度最小化在功能性和词汇性依存上的不对称性,发现功能性依存普遍短且不变,词汇性依存较长且受语序类型制约。
2026-07-03 cs.CL
Informal Persian Universal Dependency Treebank
University of Arizona(亚利桑那大学)
本文介绍了正式和非正式波斯语之间的语音,形态和句法的区别,这两个变种有根本的差异,不能仅仅归因于发音差异。鉴于非正式波斯语具有特殊的特征,任何在正式波斯语上训练的计算模型都不太可能很好地转换为非正式波斯语,因此需要为这种变体创建专用的树库。因此,我们详细介绍了开发的开源非正式波斯语通用dependencies树库,一个新的树库内注释的通用Dependencies计划。然后,我们调查的非正式波斯语的解析训练两个依赖解析器对现有的正式树库和评估他们的域外数据,即我们的非正式树库的发展集。我们的研究结果表明,解析器的性能大幅下降,当我们在这两个领域移动,因为他们面临更多的未知的令牌和结构,并未能很好地推广。此外,性能恶化最严重的依赖关系代表了非正式变体的独特属性。这项研究的最终目标是展示更广泛的影响,是提供一块垫脚石,揭示语言的非正式变体的重要性,这在跨语言的自然语言处理工具中被广泛忽视。
2022-01-10 cs.CL
Recursive Non-Autoregressive Graph-to-Graph Transformer for Dependency Parsing with Iterative Refinement
Idiap Research Institute(伊迪亚普研究所);EPFL(洛桑联邦理工学院)
我们提出了递归的非自回归图到图的Transformer架构(RNGTr)的迭代细化的任意图形通过递归应用的非自回归图到图的Transformer,并将其应用到语法依存句法分析。我们使用经过BERT预训练的细化模型,在多个依赖语料库上展示了RNGTr的功能和有效性。我们还介绍了语法Transformer(SynTr),一个类似于我们的细化模型的非递归解析器。RNGTr可以提高各种初始解析器对来自通用词典树库、英语和中文Penn树库以及德语CoNLL 2009语料库的13种语言的准确性,甚至比SynTr实现的新的最先进的结果更好,显著提高了所有测试语料库的最先进水平。
2020-11-10 cs.CL cs.LG
Schema-Free Dependency Parsing via Sequence Generation
Huawei Cloud Computing Technologies(华为云计算技术);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系);School of Artificial Intelligence, Beijing University of Posts and Telecommunications(北京邮电大学人工智能学院);School of Computer Science, Wuhan University(武汉大学计算机学院)
依存句法分析的目的是提取句子的句法依存结构或语义依存结构。现有的方法存在通用性差或对辅助解码器依赖性强的缺点。为了弥补这些缺点,我们建议仅利用预训练的语言模型(PLM),而不使用任何辅助结构或解析算法,通过序列生成(SG)DPSG来实现通用且无模式的依存句法分析(DP)。我们首先探讨了不同的序列化设计策略,将解析结构转换为序列。然后,我们设计依赖单元,并将这些单元连接成DPSG序列。由于序列生成的高度灵活性,我们的DPSG可以实现语法DP和语义DP使用一个单一的模型。通过连接前缀来指示特定模式与序列,我们的DPSG甚至可以完成多模式解析。我们的DPSG的有效性证明了广泛使用的DP基准,即,PTB、CODT、SDP 15和SemEval 16。DPSG在所有基准测试中实现了与第一层方法相当的结果,甚至在CODT和SemEval16中实现了最先进的(SOTA)性能。本文表明,我们的DPSG有潜力成为一个新的分析范式。我们将在接受后发布代码。
2022-01-28 cs.CL
DPH Parser: A Bottom-Up Grammar-Driven Parser for Joint Constituency and Dependency Analysis
本文提出DPH解析器,一种基于语法的自底向上无监督解析框架,通过特征规则和中心语标注联合生成成分与依存结构,在UD语料上验证了透明解析的可行性。
2026-09-09 cs.CL
Quantifying syntax similarity with a polynomial representation of dependency trees
University of California, Davis(加州大学戴维斯分校);Simon Fraser University(西蒙弗雷泽大学);Appalachian State University(阿巴拉契亚州立大学);Beijing Normal University(北京师范大学)
我们引入了一个图多项式区分树结构来表示依赖文法和一个基于多项式表示的度量来量化语法相似性。多项式编码关于句子中单词的依赖结构和依赖关系的准确和全面的信息。我们采用基于多项式的方法来分析并行通用语义树库中的句子。具体来说,我们比较句子的语法和它们在不同的语言中的翻译,我们进行了一个句法类型学研究的并行通用的同源性树库中的可用语言。我们还展示和讨论了该方法在语料库句法多样性测量方面的潜力。
2022-11-13 cs.CL math.CO