Lost in Speech: Benchmarking, Evaluation, and Parsing of Spoken Bilingual Conversational Language Beyond Standard UD Assumptions
Arizona State University（亚利桑那州立大学）
针对口语双语会话中的不流利和话语驱动结构，提出SpokeBench基准、Flex-UD评估指标和DECAP解析框架，显著提升依赖解析性能。
2026-06-08 cs.CL
Learning Structured Natural Language Representations for Semantic Parsing
University of Edinburgh（爱丁堡大学）；IBM T.J. Watson Research（IBM T.J. Watson研究院）
我们介绍了一个神经语义解析器，转换自然语言的话语中间表示形式的谓词参数结构，这是诱导与过渡系统，随后映射到目标域。语义解析器使用带注释的逻辑形式或它们的表示进行端到端的训练。我们在各种数据集上获得了有竞争力的结果。归纳的谓词-论元结构揭示了用于语义解析的表征类型，以及这些表征与语言动机表征的不同之处。
2017-06-14 cs.CL
TuLiPA: Towards a Multi-Formalism Parsing Environment for Grammar Engineering
Universität Tübingen（蒂宾根大学）；CNRS - LORIA（法国国家科学研究中心-洛林计算机科学及其应用实验室）；Nancy Université（南锡大学）
在本文中，我们提出了一个开源的解析环境（Tuebingen语言解析架构，TuLiPA），它使用范围连接语法（RCG）作为一个枢轴形式主义，从而打开了几个温和的上下文敏感的形式主义的解析的方式。该环境目前支持基于树的语法（即树邻接语法，TAG）和具有树元组的多分量树邻接语法（TT-MCTAG）），并且不仅允许计算句法结构，而且允许计算对应的语义表示。它用于开发德语的基于树的语法。
2008-07-23 cs.CL
Character-level Representations Improve DRS-based Semantic Parsing Even in the Age of BERT
University of Groningen（格罗宁根大学）
我们结合字符级和上下文语言模型表示，以提高性能的话语表示结构分析。字符表示可以很容易地添加到一个编码器或作为一个完全独立的编码器的序列到序列模型中，并对不同的语言模型、语言和数据集进行了鲁棒性改进。对于英语来说，这些改进比添加语言信息的单个来源或添加非上下文嵌入要大。一种基于语义标签的新分析方法表明，字符级表示提高了所选语义现象子集的性能。
2020-11-09 cs.CL
GENTLE: A Genre-Diverse Multilayer Challenge Set for English NLP and Linguistic Evaluation
Georgetown University（乔治城大学）
本文提出混合体裁英语挑战语料库 GENTLE，覆盖 8 种非常规文本类型并标注多种 NLP 任务，实验表明现有系统在部分体裁上性能严重下降，验证了其作为域外评估数据集的价值。
2023-09-22 cs.CL
Zero and Few-shot Semantic Parsing with Ambiguous Inputs
UNC Chapel Hill（北卡罗来纳大学教堂山分校）；Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出 AmP 框架与数据集，评估少样本文本到代码系统对五类语言歧义的处理，发现显式呈现歧义可显著提升模型捕捉多种可能意义分布的能力。
2024-01-22 cs.CL
QUDEVAL: The Evaluation of Questions Under Discussion Discourse Parsing
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文提出首个 QUD 语篇解析自动评估框架 QUDeval，通过 2,190 个问题的细粒度标注揭示现代 LLM 与现有指标的不足。
2023-11-01 cs.CL
Cross-lingual RST Discourse Parsing
University of Copenhagen（哥本哈根大学）；CNRS（法国国家科学研究中心）；Univ Paris Diderot（巴黎狄德罗大学）
语篇分析是理解文档中的信息流和论证结构的一个组成部分。以往的研究主要集中在对英语语篇树库中的模式进行归纳和评价。然而，其他语言的话语树库也存在，包括西班牙语、德语、巴斯克语、荷兰语和巴西葡萄牙语。树库共享相同的基本语言学理论，但在文档注释的方式上略有不同。在本文中，我们提出了（a）一个新的话语分析器，这是更简单的，但有竞争力的（显着更好的2/3的指标），以最先进的英语，（b）跨语言的话语树库的协调，使我们能够提出（c）什么是我们所知道的最好的是跨语言话语分析的第一个实验。
2017-01-11 cs.CL
Zero-shot Dependency Parsing with Unsupervised Cross-Lingual Bootstrapping
VISTEC；Chulalongkorn University（朱拉隆功大学）；AI Singapore（AI新加坡）
提出跨语言无监督自举方法增强预训练语言模型句法知识，显著提升低资源语言零样本依存句法分析性能，并增强句法结构识别鲁棒性。
2026-09-30 cs.CL
UDapter: Language Adaptation for Truly Universal Dependency Parsing
University of Groningen（格罗宁根大学）
多语言依存句法分析的最新进展使真正的通用语法分析器的想法更接近现实。然而，跨语言干扰和有限的模型能力仍然是主要障碍。为了解决这个问题，我们提出了一种新的多语言任务适应方法的上下文参数生成和适配器模块的基础上。这种方法允许通过语言嵌入来学习适配器，同时跨语言共享模型参数。它还允许一个简单而有效的整合现有的语言类型学功能到解析网络。由此产生的解析器，UDBACK，优于强大的单语和多语言的基线上的大多数高资源和低资源（zero-shot）的语言，显示出成功的建议的适应方法。我们的深入分析表明，通过类型特征共享软参数是成功的关键。
2020-10-06 cs.CL
Interfacing Constraint-Based Grammars and Generation Algorithms
原则上，基于约束的语法可以作为分析和生成的主要语言知识源。表面生成从输入语义表示开始，输入语义表示可能会因语法而异。对于许多声明性语法来说，内置的中隐含的派生概念就是解析的概念。因此，它们可能无法由生成算法解释。我们表明，语言上合理的语义分析可能会导致严重的问题，语义头驱动的方法生成（SHDG）。我们使用SeReal，SHDG的变体和德语的DISCO语法作为我们的例子来源。我们提出了一种新的，一般的方法，明确占语法和生成算法之间的接口，通过添加一个面向控制的层的语言知识库，重组的语义在一种适合生成。
2000-08-07 cs.CL
Statistical Parsing by Machine Learning from a Classical Arabic Treebank
The University of Leeds（利兹大学）
英语统计句法分析的研究已经取得了十多年的成功。然而，将这些模型应用于其他语言遇到了困难。以前的比较工作表明，现代阿拉伯语是最难解析的语言之一，因为它有丰富的词法和自由的词序。古典阿拉伯语是阿拉伯语的古老形式，相对于其作为古兰经语言的全球影响力，在计算语言学中研究不足。本论文是基于七个出版物作出重大贡献的知识有关的注释和解析古典阿拉伯语。这篇论文的一个中心论点是，使用一个混合表示密切配合传统的语法导致改进的阿拉伯语解析。为了验证这一假设，两种方法进行了比较。作为参考，一个纯粹的依赖分析器是适应使用图转换，导致87.47%的F1分数。这是一个综合的解析模型相比，F1得分为89.03%，表明联合依赖选区解析更适合于古典阿拉伯语。
2015-10-25 cs.CL
Cross-lingual Universal Dependency Parsing Only from One Monolingual Treebank
Shanghai Jiao Tong University（上海交通大学）
句法分析是一个高度语言处理的任务，其分析器需要从昂贵的人工注释中训练树库。由于不太可能为每种人类语言获得树库，因此在这项工作中，我们提出了一个有效的跨语言UD解析框架，用于将解析器从一个源单语树库转移到任何其他目标语言，而无需树库。为了在不同的语言之间达到满意的分析精度，我们将两个语言建模任务作为多任务引入到依存句法分析中。假设只有来自目标语言的未标记数据和源树库可以一起利用，我们采用了一种自我训练策略，以进一步提高我们的多任务框架的性能。我们提出的跨语言解析器实现英语，中文，和22 UD树库。实证研究表明，我们的跨语言分析器产生的所有目标语言，第一次有希望的结果，接近分析器的性能，这是在自己的目标树库训练。
2021-04-23 cs.CL
LIMIT-BERT : Linguistic Informed Multi-Task BERT
Shanghai Jiao Tong University（上海交通大学）；Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程系）；MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University（人工智能教育部重点实验室（上海交通大学人工智能研究院））
在本文中，我们提出了一个语言知情的多任务BERT（LIMIT-BERT）的学习语言表示在多个语言任务的多任务学习（MTL）。LIMIT-BERT包括五个关键的语言句法和语义任务：词性标记、成分和依存句法分析、跨度和依存语义角色标注。此外，LIMIT-BERT还采用了语言学屏蔽策略：句法和语义短语屏蔽，屏蔽了与句法/语义短语对应的所有标记。不同于最近的多任务深度神经网络（MT-DNN）（Liu等人，2019），我们的LIMIT-BERT是语言驱动的，并在半监督方法中学习，该方法提供了与BERT学习语料库相同的大量语言任务数据。因此，LIMIT-BERT不仅提高了语言任务的性能，而且还受益于正则化效应和语言信息，从而产生更一般的表示，以帮助适应新的任务和领域。LIMIT-BERT在Propbank基准上的跨度和依存语义解析以及Penn Treebank上的依存和成分句法分析上都获得了新的最先进的或有竞争力的结果。
2020-10-06 cs.CL cs.LG
Formalization and Parsing of Typed Unification-Based ID/LP Grammars
本文定义了基于类型化特征结构的统一ID/LP文法作为非终结符，并提出了Earley算法的一个变体，以确定给定的输入句子是否是由特定类型的统一ID/LP文法生成的语言的成员。在算法中加入了Seiffert（1991）中讨论的统一ID/LP文法中非局部信息流问题的解决方案。与此同时，它试图通过HPSG方法对语言学（Hinrichs和Nakasawa 1994，Richter和Sailer 1995）产生的问题的一个例子，将这一技术工作与语言学联系起来，并通过将这种方法与实现HPSG的系统，特别是TROLL系统，与计算语言学联系起来。
1995-02-14 cmp-lg cs.CL
Monotonicity Marking from Universal Dependency Trees
Rose-Hulman Institute of Technology（罗斯-赫尔曼理工学院）；Department of Computer Science and Software Engineering（计算机科学与软件工程系）
依存句法分析是自然语言处理和计算语言学领域中广泛使用的一种工具。然而，几乎没有任何工作，连接依存句法分析的单调性，这是一个重要组成部分的逻辑和语言语义。在本文中，我们提出了一个系统，自动注释单调性信息的基础上通用依赖分析树。我们的系统利用表面水平的单调性事实量词，词汇项目，和令牌级极性信息。我们在一个小的评估数据集上比较了我们的系统与文献中现有系统的性能，包括NatLog和ccg2mono。结果表明，我们的系统优于NatLog和ccg2mono。
2021-05-12 cs.CL
Constructing a Family Tree of Ten Indo-European Languages with Delexicalized Cross-linguistic Transfer Patterns
Peking University（北京大学）
历史语言学家和语言类型学家提出的语言差异模式反映了人类语言的局限性，因而在某种程度上与二语习得是一致的。在本文中，我们验证了这一假设的10个印欧语言。我们形式化的非词汇化的传输作为可解释的树到字符串和树到树的模式，可以通过应用神经句法分析和语法归纳技术从Web数据自动诱导。这使我们能够定量地探讨跨语言迁移，并扩大调查的第二语言习得。我们扩展现有的作品，利用混合功能，并支持脱词汇化的跨语言迁移和历史比较范式产生的系统发育结构之间的协议。
2020-07-17 cs.CL
Cross-Lingual Constituency Parsing for Middle High German: A Delexicalized Approach
Center for Information and Language Processing (CIS), LMU Munich（慕尼黑大学信息与语言处理中心）；Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心）
本研究提出一种去词汇化方法，利用现代德语树库资源训练成分句法分析器，实现无标注中古高地德语树库条件下的跨语言句法分析，F1分数达67.3%，显著优于零样本基线。
2023-08-29 cs.CL
Parsing Through Boundaries in Chinese Word Segmentation
The Chinese University of Hong Kong, Hong Kong（香港中文大学）；University College London, United Kingdom（伦敦大学学院）；The University of British Columbia, Canada（不列颠哥伦比亚大学）
本文以中文GSD树库为对象，研究不同分词边界方案对依存句法结构的影响，并开发交互式可视化工具以支持对比分析。
2025-07-04 cs.CL
Logical Parsing from Natural Language Based on a Neural Translation Model
Beihang University（北京航空航天大学）
语义解析已经成为自然语言接口和问答系统的重要和强大的范例。传统的语义分析方法依赖于高质量的词典、手工编写的语法和语言特征，这些都受到应用领域或表示的限制。在本文中，我们提出了一种通用的方法来学习的表示的基础上Seq2Seq模型增强注意力机制。我们将输入序列编码为向量，并使用动态规划来推断候选逻辑形式。我们利用相似的话语应该具有相似的逻辑形式这一事实来帮助减少搜索空间。在我们的学习策略下，Seq2Seq模型可以逐渐学习带有噪声的映射。采用课程学习，使学习更加顺畅。我们测试我们的方法在算术域，这表明我们的模型可以成功地推断出正确的逻辑形式，并学习单词的含义，组合性和操作顺序的同时。
2017-05-09 cs.CL
Unsupervised Discontinuous Constituency Parsing with Mildly Context-Sensitive Grammars
ShanghaiTech University（上海科技大学）；MIT（麻省理工学院）
该研究针对无监督不连续成分句法分析问题，采用LCFRS-2文法并优化规则降低推理复杂度，结合张量分解与嵌入参数化扩展非终结符数量，在德荷语上可归纳出有语言学意义的句法树。
2023-06-09 cs.CL
Towards History-based Grammars: Using Richer Models for Probabilistic Parsing
我们描述了一个自然语言的生成概率模型，我们称之为HBG，它利用详细的语言信息来解决歧义。HBG以一种新颖的方式将来自解析树的词汇、句法、语义和结构信息整合到消歧过程中。我们使用括号句子的语料库，称为树库，结合决策树构建来梳理出解析树的相关方面，这将确定句子的正确解析。这与通过通常的语言内省来进一步裁剪语法以生成正确的解析的通常方法形成对比。在对现有最好的鲁棒概率解析模型之一（我们称之为P-CFG）的头对头测试中，HBG模型明显优于P-CFG，将解析准确率从60%提高到75%，错误减少了37%。
1994-05-03 cmp-lg cs.CL
A State-Transition Grammar for Data-Oriented Parsing
本文提出了一种语法形式主义，设计用于面向数据的方法来语言处理。形式主义最好被描述为一个右线性索引文法，以语言学上有趣的方式扩展。本文继续研究如何处理用这种形式主义预解析的语料库，以提供用于解析新文本的概率语言模型。
1995-02-27 cmp-lg cs.CL
Modelling Child Learning and Parsing of Long-range Syntactic Dependencies
School of Informatics, University of Edinburgh（爱丁堡大学信息学院）；School of Computing, Macquarie University（麦考瑞大学计算机学院）
提出一种基于儿童导向言语与逻辑形式的概率语言习得模型，可同时学习词义和句法，并成功建模长距离句法依存。
2025-03-17 cs.CL
Zero-shot cross-lingual transfer language selection using linguistic similarity
Kitami Institute of Technology（北见工业大学）
我们研究了不同的自然语言处理任务，特别是情感分析，命名实体识别和依存句法分析的转换语言的选择。为了选择最佳的转换语言，我们建议利用不同的语言相似性度量来衡量语言之间的距离，并根据这些信息而不是依靠直觉来选择转换语言。我们证明，语言相似性与跨语言迁移性能的所有建议的任务。我们还表明，有一个统计上的显着差异，在选择最佳的语言作为转移源，而不是英语。这使我们能够选择一种更合适的传输语言，可以用来更好地利用高资源语言的知识，以提高缺乏数据的语言应用程序的性能。在这项研究中，我们使用了来自三个语系的八种不同语言的数据集。
2023-01-31 cs.CL
Exploiting Diversity for Natural Language Parsing
将机器学习方法应用于计算语言学问题的流行产生了大量可训练的自然语言处理系统。大多数感兴趣的问题都有一系列现成的产品或可下载的代码，它们使用各种技术实现了解决方案。在这些解决方案是独立开发的，它是观察到，他们的错误往往是独立分布。本文关注的是如何利用这种情况下，在一个样本问题域，宾州树库风格的分析。机器学习社区提供了用于组合分类器输出的技术，但是解析器输出比分类更结构化和相互依赖。为了解决这一矛盾，两个新的策略结合解析器使用：学习控制解析器之间的切换和构建一个混合解析从多个解析器的输出。现成的解析器并不是为了在协作集成中表现良好而开发的。提出了两种技术，用于产生一个合奏的解析器，合作。所有的集成成员都是使用相同的底层解析器归纳算法创建的，并且用于产生互补解析器的方法仅受所选择的算法的松散约束。
2000-06-05 cs.CL
Analyzing the Effect of Linguistic Similarity on Cross-Lingual Transfer: Tasks and Experimental Setups Matter
Munich Center for Machine Learning（慕尼黑机器学习中心）；Apple（苹果公司）
该研究针对263种多语系语言和三类NLP任务分析跨语言迁移，发现语言相似性对迁移性能的影响受任务类型、输入表示形式及相似性定义等因素制约。
2025-05-21 cs.CL
Improving Generalization in Semantic Parsing by Increasing Natural Language Variation
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
针对 text-to-SQL 语义解析模型在 Spider 基准上因问题语言形式单一而难以泛化的问题，利用大型语言模型进行数据增强生成更多样真实的问题，显著提升了模型在鲁棒性基准和域外数据上的表现。
2024-02-13 cs.CL
On the relation between dependency distance, crossing dependencies, and parsing. Comment on "Dependency distance: a new perspective on syntactic patterns in natural languages" by Haitao Liu et al
Universidade da Coruña（拉科鲁尼亚大学）
Liu et al.（2017）全面介绍了人类语言中依赖距离的研究。虽然这篇文章是关于这个复杂主题的非常丰富和有用的报告，但在这里我将扩展计算语言学（特别是自然语言处理）研究可以告知DDM研究的一些具体问题，反之亦然。这些方面在Liu等人的文章或其他地方没有进行太多的探索，可能是由于两个研究团体之间的重叠很少，但它们可能会为提高我们对人类语言进化的理解提供有趣的见解，大脑处理和理解语言的机制，以及构建有效的计算机系统来实现这一目标。
2017-06-03 cs.CL
Many Languages, One Parser
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）；Pompeu Fabra University（庞培法布拉大学）
我们训练了一个多语种的依存句法分析模型，并使用它来分析几种语言的句子。解析模型使用（i）多语言词簇和嵌入;（ii）标记级语言信息;以及（iii）语言特定特征（细粒度POS标签）。这种输入表示使解析器不仅能够在多种语言中有效地解析，而且还能够基于语言共性和类型相似性来概括跨语言，从而使其更有效地从有限的注释中学习。我们的解析器的性能在一系列数据场景中优于强基线，包括当目标语言有一个大的树库，一个小的树库，或没有树库的训练。
2016-07-26 cs.CL
Multilinear Grammar: Ranks and Interpretations
多线性语法提供了一个框架，用于将语言的许多不同的组合结构整合到一个连贯的基于符号的等级解释架构中，每个等级都有默认的线性语法。该架构定义了一个特殊的等级条件，从话语到话语和短语结构，再到单词，以及其形态学和音韵学的子等级。每个等级都有其独特的结构和自己的语义-语用和韵律-语音解释模式。默认的计算模型为每个等级的基础上，提出了一个程序似然性条件：在线性时间与有限的工作记忆增量处理。我们认为，等级解释架构及其多线性属性提供了人类语言的系统设计功能，与无序列表的关键属性或单一的结构属性在一个等级，如递归，这是以前提出的语言设计功能。该框架提供了一个现实的背景，逐步发展的复杂性在语言的发育和个体发育，并澄清了一系列的挑战，现实的语言学理论和应用的评估。本文的实证目标是在每个等级上展示独特的多线性属性，从而激励多线性语法和等级解释架构框架作为一种连贯的方法，以最简单的方式捕捉人类语言的复杂性。
2017-08-27 cs.CL
Parsing English with a Link Grammar
我们开发了一个正式的语法系统称为链接语法，显示如何英语语法可以在这样一个系统中编码，并给出算法，有效地解析与链接语法。虽然链接文法的表达能力与上下文无关文法相当，但使用新系统编码自然语言文法似乎要容易得多。我们已经写了一个程序，一般链接解析和书面链接语法的英语。这个初步的系统的性能-无论是在广度的英语现象，它捕获和使用的计算资源-表明，该方法可能具有实际用途以及语言学意义。我们的程序是用C语言编写的，可以通过互联网获得。
1995-08-02 cmp-lg cs.CL
Linguistic Generalizations are not Rules: Impacts on Evaluation of LMs
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Princeton University（普林斯顿大学）
本文提出语言模型未遵守符号规则可能是特性而非缺陷，因为自然语言依赖灵活、依赖语境的构式而非严格组合规则，并呼吁基于梯度因素重新设计语言模型评估基准。
2025-09-18 cs.CL
Modeling Human Sentence Processing with Left-Corner Recurrent Neural Network Grammars
The University of Tokyo（东京大学）；Artificial Intelligence Research Center, AIST（日本产业技术综合研究所人工智能研究中心）
本文通过对比 LSTM 与采用自顶向下和左角解析策略的 RNNGs 在日语阅读时间上的表现，发现左角 RNNGs 最符合人类认知，证明层级加左角架构更具认知合理性。
2023-10-05 cs.CL
Rule Augmented Unsupervised Constituency Parsing
IIT Bombay（印度理工学院孟买分校）；The University of Texas at Dallas（德克萨斯大学达拉斯分校）
近年来，句法树的无监督分析得到了广泛的关注。这种无监督解析的原型方法采用强化学习和自动编码器。然而，没有机制确保学习的模型利用了良好理解的语言语法。我们提出了一种方法，利用非常通用的语言知识的语法规则的形式存在的语言，从而诱导更好的句法结构。我们介绍了一种新的配方，利用的句法语法规则，是独立的基础系统。我们在两个基准数据集MNLI和WSJ上取得了新的最先进的结果。该论文的源代码可在https://github.com/anshuln/Diora_with_rules上获得。
2021-05-21 cs.CL cs.LG
Acquiring Annotated Data with Cross-lingual Explicitation for Implicit Discourse Relation Classification
Saarland University（萨尔大学）
隐性语篇关系分类是语篇分析中最具挑战性和重要性的任务之一，因为缺乏连接词作为强有力的语言线索。进一步改进的一个主要瓶颈是训练数据的短缺（约~ PDTB中的16 k实例）。Shi et al.（2017）提出通过利用翻译中的连接词来获取额外的数据：人类翻译者在翻译中明确地标记源语言中隐含的话语关系。使用这种显式连接词的回译提高了话语关系分析的性能。本文讨论了翻译语言的选择是否重要，以及是否可以有效地使用多种翻译成不同的语言来提高附加数据的质量。
2019-04-15 cs.CL
Amalia -- A Unified Platform for Parsing and Generation
当代语言学理论（特别是HPSG）本质上是陈述性的：它们规定了对允许结构的限制，而不是如何计算这些结构。因此，在这种理论下设计的语法既适合于分析又适合于生成。然而，这些理论的实际实现通常不支持语法的双向处理。我们提出了一个语法开发系统，其中包括一个编译器的语法（解析和生成）抽象的机器指令，和一个解释器的抽象机器语言。生成编译器将输入语法（为解析而设计）转换为更适合生成的形式。编译后的文法然后由解释器使用一种控制策略执行，而不管文法是原始版本还是反转版本。从而为可逆文法的开发提供了一个统一、高效的平台。
1997-09-24 cmp-lg cs.CL
Robust Parsing of Spoken Dialogue Using Contextual Knowledge and Recognition Probabilities
在本文中，我们描述的语言处理器的口语对话系统。解析器从识别模块接收单词图作为其输入。它的任务是找到通过图的最佳路径。如果不能找到完整的解决方案，则应用用于选择多个部分结果的鲁棒机制。我们展示了如何的信息内容率的结果可以得到改善，如果选择是基于一个综合的质量分数相结合的单词识别分数和上下文相关的语义预测。分析词图的预测和不预测的结果报告。
1995-05-08 cmp-lg cs.CL
A Hierarchical Transformer for Unsupervised Parsing
BenevolentAI
自然语言的底层结构是分层的;单词组合成短语，短语又形成子句。这种层次结构的意识可以帮助机器学习模型执行许多语言任务。然而，大多数这样的模型只是顺序地处理文本，并且没有偏向于学习编码到其架构中的层次结构。在本文中，我们扩展了最近的Transformer模型（Vaswani等人，2017年）通过使其能够学习分层表示。为了实现这一点，我们采用了Shen等人介绍的排序机制，2018年，到了Transformer架构的自我关注模块。我们训练我们的新模型的语言建模，然后将其应用到无监督解析的任务。我们在WSJ 10数据集的免费子集上获得了合理的结果，F1分数约为50%。
2020-03-30 cs.CL cs.LG
Labeling Explicit Discourse Relations using Pre-trained Language Models
Stockholm University（斯德哥尔摩大学）
标记显式话语关系是浅层话语分析中最具挑战性的子任务之一，其目标是识别话语联系语及其论元的边界。最先进的模型通过使用手工制作的功能实现略高于45%的F分数。本文研究了预训练的语言模型在此任务中的有效性。我们发现，预训练的语言模型，当微调，是强大的，足以取代语言特征。我们在PDTB 2.0上评估了我们的模型，并报告了提取完整关系的最新结果。这是第一次一个模型在没有使用任何语言特征的情况下胜过知识密集型模型。
2020-06-21 cs.CL
Processing Unknown Words in HPSG
本文提出的词汇习得系统逐步更新未知词的语言属性推断从他们周围的上下文分析句子与HPSG语法德语。我们采用了一个渐进的，基于信息的“未知”的概念，提供了一个统一的处理范围内的完全已知的最大未知的词汇条目。“未知”信息被视为可修订的信息，它可以是可概括的或可专门化的。更新发生在解析之后，这只需要修改词法查找。可修改的信息片段由语法指定的声明标识，这些声明提供了进入解析功能结构的访问路径。更新机制修改词汇特征结构中的对应位置，如果上下文实际上提供了新的信息。为了修改可概括的信息，需要类型联合。一个工作了的例子证明了我们实现的系统的推理能力。
1998-09-25 cs.CL
Parsing Coordination for Spoken Language Understanding
Amazon（亚马逊）
典型的口语语言理解系统使用领域特定的本体提供狭义语义解析。解析包含直接由下游域应用程序使用的意图和槽。在这项工作中，我们将讨论扩展这样的系统来处理复合实体和意图，通过引入一个域不可知的浅层解析器，处理语言协调。我们表明，我们的模型解析协调学习领域独立和槽独立的功能，并能够分割许多不同的短语类别的合取边界。我们还表明，使用对抗性训练可以有效地提高协调解析的不同槽类型的泛化能力。
2018-10-26 cs.CL cs.LG stat.ML
Urdu Dependency Parsing and Treebank Development: A Syntactic and Morphological Perspective
COMSATS University Islamabad（伊斯兰堡COMSATS大学）
本文面向低资源、形态复杂的乌尔都语，构建人工标注新闻树库，并结合词性与形态特征训练依存分析器，最佳 LA 达 70%、UAS 达 84%。
2024-10-02 cs.CL cs.LG
Formal Constraints on Dependency Syntax
Universidade da Coruña（拉科鲁尼亚大学）；CITIC；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）
研究依赖语法树结构的约束条件，以更准确描述语言现象，提高解析效率并理解语言演变。
2026-04-06 cs.CL
CMV-Fuse: Cross Modal-View Fusion of AMR, Syntax, and Knowledge Representations for Aspect Based Sentiment Analysis
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
CMV-Fuse通过融合语法、语义和知识表示，提升基于方面的情感分析的鲁棒性，采用层次门控注意力机制和多视图对比学习，实现结构和语义的双重建模。
2026-03-19 cs.CL
Neural Morphological Tagging for Nguni Languages
Department of Computer Science（计算机科学系）；University of Cape Town（开普敦大学）
针对恩古尼语形态解析难题，研究构建神经形态标注器，对比两类神经方法与传统规则方法，发现从头训练的神经标注器性能最优，验证了该方案的可行性。
2025-05-19 cs.CL
Modeling structure-building in the brain with CCG parsing and large language models
本文比较了CCG与CFG在fMRI神经信号上的建模效果，发现CCG的结构构建测量在左侧后颞叶对神经信号的拟合优于CFG，且该效应与可预测性效应在空间上可分离。
2023-04-16 cs.CL
Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models
Saarland University（萨尔兰大学）；Medeniyet University（文明大学）
本文提出历史土耳其语NLP的基础资源和模型，包括首个命名实体识别数据集HisTR和首个通用依赖树库OTA-BOUN，以及基于Transformer的模型，提升了历史土耳其语的计算分析能力。
2026-03-27 cs.CL
Structural Guidance for Transformer Language Models
MIT（麻省理工学院）；IBM Research（IBM研究院）
在大量文本数据上预训练的基于transformer的语言模型在学习通用可迁移语言表示方面已经证明是非常成功的。在这里，我们研究结构指导是否会在Transformer语言模型中导致更像人类的系统语言概括，而无需对大量数据进行预训练。我们探讨两个一般的想法。“生成式解析”的思想将增量解析和单词序列联合建模为同一序列建模任务的一部分。“结构支架”思想通过额外的结构损失来指导语言模型的表示，该结构损失单独预测增量选区解析。我们训练所提出的模型与香草Transformer语言模型基线上的14万个令牌和46万个令牌的BLLIP数据集的子集，并评估模型的语法泛化性能SG测试套件和大小BLiMP。两个基准测试的实验结果表明，生成结构监督可以在Transformer语言模型中诱导更鲁棒和人性化的语言泛化，而不需要数据密集的预训练。
2021-07-30 cs.CL
Chart-driven Connectionist Categorial Parsing of Spoken Korean
虽然大多数为英语和其他印欧语言开发的语音和自然语言系统忽略了形态处理，并在词级上将语音和自然语言整合在一起，但对于韩国语和日语等粘着语言，形态处理在语言处理中起着重要作用，因为这些语言具有非常复杂的形态现象和相对简单的句法功能。显然，退化的形态学处理限制了系统的可用词汇量，并且词级词典导致词典条目数量呈指数级爆炸。对于黏着语，我们需要子词级的整合，这为一般的形态处理留下了空间。在本文中，我们开发了一个音素级的语音和语言处理的整合模型，通过一般的形态分析，粘着语言和一个有效的分析方案，集成。基于无序论元和抑制范畴扩展的范畴语法形式主义对朝鲜语进行了词汇建模，并引入了图表驱动的连接主义句法分析方法。
1995-11-29 cmp-lg cs.CL
Construction and educational application of a linguistically grounded dependency treebank for Uyghur
Xinjiang University（新疆大学）
本研究构建了乌兹别克语语义基础依存树库，通过混合标注流程提高依存项目性，并开发AI辅助语法教学系统，验证其在提升非母语学习者句法理解能力方面的有效性。
2026-01-20 cs.CL
Parsing Thai Social Data: A New Challenge for Thai NLP
King Mongkut’s Institute of Technology Ladkrabang（蒙kut国王理工学院）；Chiang Mai University（清迈大学）；Kasikorn Labs（开泰实验室）
依存句法分析（DP）是分析文本的句法结构和词与词之间关系的任务。DP被广泛用于改进诸如英语等许多语言中的自然语言处理（NLP）应用。以前的DP工作一般适用于正式书面语言。然而，它们并不适用于非正式语言，如在社交网络中使用的语言。因此，DP必须用这样的社交网络数据进行研究和探索。在本文中，我们探索并确定了一个DP模型，适合泰国的社交网络数据。之后，我们将识别适当的语言单位作为输入。实验结果表明，基于转换的改进的Elkared依赖分析器在UAS为81.42%的情况下优于其他依赖分析器。
2020-03-06 cs.AI cs.CL
Developing a hybrid NP parser
我们描述了使用能量函数优化非常浅的句法分析。该方法可以使用语言规则和基于语料库的统计数据，因此可以将语言和统计方法的优势结合在一个框架中。这些规则是上下文约束，用于解决表示为替代标签的句法歧义，并且统计语言模型由基于语料库的句法标签的n-gram组成。的成功的混合句法消歧器进行了评估，对一个举行了基准语料库。此外，语言和统计语言模型的混合模型的贡献进行了估计。
1997-04-24 cmp-lg cs.CL
Natural Language Parsing as Statistical Pattern Recognition
传统的自然语言解析器是基于重写规则系统开发的一个艰巨的，耗时的方式由语法学家。语法学家的大部分努力都致力于消除歧义的过程，首先假设规则，这些规则规定了歧义句中的词之间的成分类别和关系，然后寻找这些规则的例外和纠正。在这项工作中，我提出了一个自动的方法来获得一个统计分析器从一组分析的句子，它利用了一些初始的语言输入，但避免了陷阱的迭代和看似无穷无尽的语法开发过程。基于分布派生和基于语言的语言特征，该解析器获得一组统计决策树，该决策树在给定输入句子的解析树空间上分配概率分布。这些决策树利用大量的上下文信息，可能包括句子中的所有词汇信息，以产生消歧过程的高度准确的统计模型。通过将消歧标准选择基于熵减少而不是人类直觉，这种解析器开发方法能够在制定个体消歧规则时考虑比人类语法学家更多的句子。在实验之间的分析器，获得使用这个统计框架，和语法学家的基于规则的分析器，开发了十年的时间，都使用相同的训练材料和测试句子，决策树分析器显着优于语法分析器的准确性措施，语法学家试图最大化，实现了78%的准确性相比，基于语法的分析器的69%。
1994-05-05 cmp-lg cs.CL
