Survey:Natural Language Parsing For Indian Languages
Dharmsinh Desai University（达尔马辛赫·德赛大学）
句法分析是包括机器翻译在内的自然语言处理应用中的一项必要任务。为形态丰富且黏着的语言开发一个定性分析器是一个具有挑战性的任务。句法分析用于理解自然语言句子的语法结构。它输出每个单词及其组成部分的所有语法信息。与之相关的问题也有助于我们更详细地理解语言。这篇文献调查是了解印度语言的不同解析器开发以及用于开发此类工具和技术的各种方法的基础。本文提供了一个调查的研究论文，从著名的期刊和会议。
2015-01-28 cs.CL
Learning Parse and Translation Decisions From Examples With Rich Context
我们提出了一个解析和翻译自然语言的系统，从例子中学习，并使用一些背景知识。作为我们的分析模型，我们选择了一个确定性的移位-归约类型的分析器，它集成了词性标注和句法语义处理。应用机器学习技术，该系统使用在监督下获得的解析动作示例来生成决策结构形式的解析器，这是决策树的泛化。为了学习良好的解析和翻译决策，我们的系统在很大程度上依赖于上下文，目前编码在205个功能描述的形态，语法和语义方面的一个给定的解析状态。与最近使用40，000个句子进行训练的概率系统相比，我们的系统依赖于更多的背景知识和更深入的分析，但样本数量更少，目前只有256个句子。我们测试我们的分析器从华尔街日报词汇限制的句子，并实现准确率为89.8%的标记精度，98.4%的词性标记和56.3%的测试句子没有任何交叉括号。10名双语志愿者对32个《华尔街日报》句子的机器翻译进行了评估，并在1.0（最好）到6.0（最差）的范围内对语法正确性和意义保留进行了评分。
1997-06-30 cmp-lg cs.CL
Prosodic features improve sentence segmentation and parsing
University of Edinburgh（爱丁堡大学）
解析口语对话提出了解析文本所没有的挑战，包括缺乏清晰的句子边界。我们从以前的工作中知道，韵律有助于解析单个句子（Tran et al. 2018），但我们想展示韵律对解析未分割成句子的语音的影响。在英语Switchboard语料库上的实验中，我们发现韵律有助于我们的模型进行解析和准确识别句子边界。然而，我们发现，性能最好的解析器不一定是产生最好的句子分割性能的解析器。我们建议，最好的解析，而不是来自建模句子边界与其他成分的边界。
2023-02-23 cs.CL
Implicit Word Reordering with Knowledge Distillation for Cross-Lingual Dependency Parsing
Beihang University（北京航空航天大学）；SKLSDE
针对跨语言依存句法分析中的词序差异问题，提出 IWR-KD 框架，通过词序重排教师向句法分析学生蒸馏隐式重排能力，并在31种语言上验证其优于竞争方法。
2025-03-14 cs.CL cs.LG
Sentence Rewriting for Semantic Parsing
State Key Laboratory of Computer Sciences（计算机科学国家重点实验室）；Institute of Software, Chinese Academy of Sciences, China（中国科学院软件研究所）
语义解析的一个主要挑战是自然语言和目标本体之间的词汇不匹配问题。本文提出了一种基于句子重写的语义解析方法，该方法通过将句子重写为与目标逻辑形式具有相同结构的新形式，有效地解决了语义不匹配问题。具体来说，我们提出了两种常见类型的失配的重写方法：基于字典的方法为1-N失配和基于模板的方法为N-1失配。我们在基准语义解析数据集-- WEBQUESTIONS上对我们的基于句子重写的语义解析器进行了评估。实验结果表明，我们的系统优于基本系统的F1增益3.4%，并生成更准确的逻辑形式和更强大的句子分析。
2019-01-10 cs.CL
Semantic Parsing: Syntactic assurance to target sentence using LSTM Encoder CFG-Decoder
University of Sao Paulo - USP（圣保罗大学）；Institute of Mathematics and Statistics - IME（数学与统计学院）
语义解析可以定义为将自然语言句子映射成其含义的机器可解释的形式化表示的过程。使用LSTM编码器-解码器神经网络的语义解析已经成为很有前途的方法。然而，自然语言的人工自动翻译并不为生成的句子提供语法性保证，这样的保证对于实际情况是特别重要的，在实际情况中，如果句子不符合语法，则数据库查询可能导致要害差错。在这项工作中，我们提出了一个神经架构称为编码器CFG解码器，其输出符合给定的上下文无关文法。结果表明，任何实现这种架构显示其正确性，并提供基准精度水平优于文献。
2018-07-18 cs.CL
Parsing of Myanmar sentences with function tagging
University of Computer Studies（计算机研究大学）；Natural Language Processing Laboratory（自然语言处理实验室）
本文介绍了使用朴素贝叶斯来解决分配功能标签的任务和上下文无关文法（CFG）来解析缅甸语句子。缅甸语句子的统计功能标记的部分挑战来自于缅甸语有自由的短语顺序和复杂的形态系统。函数标记是解析的预处理步骤。在功能标注任务中，我们使用功能标注语料库，对具有正确切分、词性标注和组块信息的缅甸语句子进行标注。提出了缅甸语语法规则，并应用上下文无关文法（CFG）找出了缅甸语功能标记语句的语法分析树。实验表明，我们的分析取得了良好的效果，分析简单句和三种类型的复杂句。
2012-05-08 cs.CL
Unsupervised Sentence Simplification via Dependency Parsing
Monash University（莫纳什大学）
文本简化是重写文本的任务，使其可读性和易于理解。在本文中，我们提出了一个简单而新颖的无监督句子简化系统，利用解析结构与句子嵌入产生语言有效的简化。这意味着我们的模型能够引入实质性的修改来简化句子，同时保持其原始语义和足够的流畅性。我们在TurkCorpus集上建立了39.13 SARI的无监督最先进水平，并在各种质量指标上与监督基线进行了竞争。此外，我们证明了我们的框架的可扩展性，其他语言通过越南数据的概念验证。复制代码发布在\url{https://github.com/isVy08/USDP}上。
2022-06-10 cs.CL
Equation Parsing: Mapping Sentences to Grounded Equations
University of Illinois, Urbana Champaign（伊利诺伊大学厄巴纳-尚佩恩分校）
识别文本中表达的数学关系对于理解广泛的自然语言文本至关重要，这些文本从选举报道到财经新闻，从体育评论到数学应用题。本文的重点是识别和理解一句话中描述的数学关系。我们介绍了方程解析的问题-给定一个句子，确定代表变量的名词短语，并生成表达句子中描述的关系的数学方程。我们介绍了投影方程解析的概念，并提供了一个有效的算法来解析文本投影方程。我们的系统使用了高精度的数学表达式词典和结构化预测器的管道，并在$70\%$的情况下生成正确的方程。在$60\%$的时候，它还能识别正确的名词短语$\rightarrow$变量映射，显著优于基线。我们还发布了一个新的注释数据集用于任务评估。
2016-09-28 cs.CL
Unsupervised Parsing by Searching for Frequent Word Sequences among Sentences with Equivalent Predicate-Argument Structures
The University of Tokyo（东京大学）；Imperial College London（伦敦帝国学院）；The University of Liverpool（利物浦大学）
本文提出基于频率的无监督成分句法解析器span-overlap，利用PAS等价句子集合中成分对应频繁词序列的特性，通过最大化span-overlap分数识别成分结构，在十种语言中的八种上达到最先进水平，并发现参与者成分与事件成分之间的统计差异。
2024-08-12 cs.CL
A Statistical Parsing Framework for Sentiment Classification
Beihang University（北京航空航天大学）；Microsoft Research（微软研究院）
在这篇文章中，我们提出了一个统计分析框架，用于情感分类。不同于以往的作品，采用句法分析结果的情感分析，我们开发了一个统计分析器，直接分析句子的情感结构。我们证明了情感分析中的复杂现象（例如，否定、强化和对比）可以以统一和概率的方式与简单和直接的情感表达相同地处理。我们制定的情感语法上上下文无关文法（CFGs），并提供了一个正式的描述的情感分析框架。我们开发的解析模型，以获得可能的情感分析树的句子，从极性模型提出了推导出的情感强度和极性，和排名模型是专门选择最好的情感树。我们训练的解析器直接从句子的例子注释只有情感极性标签，但没有任何句法注释或极性注释的成分在句子内。因此，我们可以很容易地获得训练数据。特别是，我们训练一个情感分析器，S.分析器，从大量的评论句子与用户的评级作为粗略的情感极性标签。在现有基准数据集上进行的大量实验表明，与基线情感分类方法相比，该方法有显着的改进。
2015-03-05 cs.CL
Contextual Semantic Parsing using Crowdsourced Spatial Descriptions
Institute for Artificial Intelligence, University of Leeds（利兹大学人工智能研究所）
我们描述了一个上下文解析器的机器人命令树库，一个新的众包资源。与以前的语义分析器，选择最可能的解析，我们认为不同的问题，解析使用额外的情景上下文之间的歧义消除不同的阅读句子。我们表明，多个语义分析可以搜索使用动态规划通过与空间规划师的互动，指导解析过程。我们能够通过排除与空间上下文不兼容的早期分析来解析接近线性时间的句子。我们报告了34%的准确率上限，因为我们的规划器正确处理了10，000个句子中的3，394个空间上下文。然而，我们的解析器实现了96.53%的精确匹配分数内的句子识别的规划器的子集进行解析，相比之下，82.14%的非上下文解析器。
2014-05-01 cs.CL
A Fast Unified Model for Parsing and Sentence Understanding
Stanford Linguistics（斯坦福大学语言学系）；Stanford NLP Group（斯坦福大学自然语言处理组）；Stanford AI Lab（斯坦福大学人工智能实验室）；Stanford Symbolic Systems（斯坦福大学符号系统学系）；Stanford Electrical Engineering（斯坦福大学电气工程系）；Stanford Computer Science（斯坦福大学计算机科学系）
树结构神经网络在解释句子的含义时利用了有价值的句法分析信息。然而，它们存在两个关键的技术问题，使得它们在大规模NLP任务中缓慢而笨拙：它们通常对解析的句子进行操作，并且它们不直接支持批量计算。我们解决这些问题，通过引入堆栈增强解析器解释器神经网络（SPINN），它结合了解析和解释在一个单一的树序列混合模型，通过集成树结构的句子解释到线性序列结构的移位-归约解析器。我们的模型支持批处理计算的速度比其他树结构模型高达25倍，其集成的解析器可以操作未解析的数据，精度损失不大。我们在斯坦福大学NLI蕴涵任务上对其进行了评估，并表明它显着优于其他编码模型。
2016-07-29 cs.CL
Zero-shot Dependency Parsing with Pre-trained Multilingual Sentence Representations
Amazon Alexa AI（亚马逊Alexa AI）；University of Groningen（格罗宁根大学）
我们调查是否现成的深双向句子表示训练的大规模多语言语料库（多语言BERT），使无监督的通用依赖分析器的发展。这种方法只利用多种语言的单语语料库的混合，不需要任何翻译数据，使其适用于低资源语言。在我们的实验中，我们在使用单个系统的同时，在共享任务的所有六种真正低资源语言中，都优于最好的CoNLL 2018语言特定系统。然而，我们也发现，（i）分析准确率仍然变化显着时，改变训练语言和（ii）在一些目标语言zero-shot转移失败的所有测试条件下，提出了对整个方法的“通用性”的关注。
2019-10-12 cs.CL
Sentences with Gapping: Parsing and Reconstructing Elided Predicates
Stanford University（斯坦福大学）；Uppsala University（乌普萨拉大学）
有间隔的句子，如Paul likes coffee and Mary tea，缺少一个显性谓词来表示两个或多个论元之间的关系。这样的句子的表面句法表示通常由解析器产生得很差，并且即使正确，也不能很好地适合于下游自然语言理解任务，例如通常被设计为从具有规范子句结构的句子中提取信息的关系抽取。在本文中，我们提出了两种方法来解析到一个通用的消隐图表示，显式编码的省略材料与额外的节点和边缘。我们发现，这两种方法可以重建省略材料的依赖树，具有高精度时，解析器正确预测存在的差距。我们进一步证明，我们的方法之一，可以适用于其他语言的基础上对瑞典语的案例研究。
2018-04-18 cs.CL
Linear-Time Constituency Parsing with RNNs and Dynamic Programming
最近，基于跨度的选区解析已经通过使用双向RNN对“跨度”进行建模，用非常简单的模型实现了具有竞争力的准确性。然而，Stern et al（2017 a）的最小跨度解析器保持了当前最先进的准确性，它是一个以立方时间运行的图表解析器，$O(n^3)$，对于较长的句子和超出句子边界的应用程序（如端到端话语解析和联合句子边界检测和解析）来说太慢了。我们提出了一个线性时间选区解析器与RNN和动态规划使用图结构的堆栈和束搜索，它运行在时间$O(n b^2)$，其中$b$是波束的大小。通过集成立方体修剪，我们进一步将其加速到$O(n b\log b)$。与图表解析基线相比，这种线性时间解析器在Penn Treebank上的长句解析速度要快得多，在话语解析上要快几个数量级，并且在Penn Treebank上实现了单模型端到端系统中最高的F1精度。
2018-05-21 cs.CL
Consistent CCG Parsing over Multiple Sentences for Improved Logical Reasoning
Nara Institute of Science and Technology（奈良先端科学技术大学院大学）；Ochanomizu University（御茶之水女子大学）；Artificial Intelligence Research Center, AIST（日本产业技术综合研究所人工智能研究中心）
在基于形式逻辑的文本蕴涵识别方法中，使用组合范畴语法（CCG）解析器来解析输入前提和假设以获得它们的逻辑公式。在这里，重要的是语法分析器处理句子的一致性;未能识别出相似的句法结构会导致它们之间的谓词论元结构不一致，在这种情况下，后续的定理证明注定要失败。在这项工作中，我们提出了一个简单的方法来扩展现有的CCG解析器来解析一组句子一致，这是实现与马尔可夫随机场（MRF）的句间建模。当与现有的基于逻辑的系统相结合，我们的方法总是在英语和日语的RTE实验显示出改善。
2018-04-19 cs.CL
Incremental Parsing with Minimal Features Using Bi-Directional LSTM
Oregon State University（俄勒冈州立大学）
最近，用于解析的神经网络方法已经在很大程度上自动化了个体特征的组合，但仍然依赖于从人类语言直觉创建的（通常是大量的）原子特征，并且潜在地省略了重要的全局上下文。为了进一步将特征工程减少到最低限度，我们使用双向LSTM句子表示来建模只有三个句子位置的解析器状态，它自动识别整个句子的重要方面。该模型在英语贪婪依赖解析器中取得了最先进的结果。我们还介绍了一种新的过渡系统，选区解析，不需要二进制化，并与上述架构，实现国家的最先进的结果之间的贪婪解析器为英语和中文。
2016-06-21 cs.CL
Parsing Indonesian Sentence into Abstract Meaning Representation using Machine Learning Approach
School Of Electrical and Informatics Engineering（电气与信息工程学院）；Institut Teknologi Bandung（万隆理工学院）
摘要语义表征（AMR）在一个表征中提供了句子的语义关系、共指、命名实体关系等信息。然而，对印尼语句子AMR分析的研究相当有限。在本文中，我们开发了一个系统，旨在使用机器学习的方法来解析一个印尼句子。基于Zhang等人的工作，我们的系统包括三个步骤：对预测，标签预测和图构造。配对预测使用依存句法分析组件来获得AMR的单词之间的边缘。配对预测的结果被传递到标签预测过程，该过程使用监督学习算法来预测AMR的边缘之间的标签。我们使用从文章和新闻文章句子中收集的简单句子数据集。我们的模型实现了简单句子测试数据的SMATCH得分为0.820。
2021-03-05 cs.AI cs.CL
Parsing of part-of-speech tagged Assamese Texts
Sikkim Manipal Institute of Technology（锡金马尼帕尔理工学院）；Tezpur University（特兹普尔大学）
自然语言（英语：Natural language）是一种由人类用于通用交流的语言，与形式语言（如计算机程序设计语言或用于形式逻辑研究的“语言”）不同。使计算机能够使用自然语言执行信息处理所需的计算活动被称为自然语言处理。我们采用阿萨姆语来检查输入句子的语法。我们的目标是产生一种技术来检查阿萨姆语文本中的句子的语法结构。通过对阿萨姆语句子结构的分析，我们制定了语法规则。我们的语法分析程序发现语法错误，如果有的话，在阿萨姆语句子。如果没有错误，程序将生成阿萨姆语句子的解析树
2009-12-09 cs.CL
Semantic Parsing Natural Language into SPARQL: Improving Target Language Representation with Neural Attention
语义解析是将自然语言句子映射成其意义的形式化表示的过程。在这项工作中，我们使用神经网络的方法来转换自然语言句子到查询的本体数据库中的SPARQL语言。这种方法不依赖于手工规则，高质量的词典，手工构建的模板或其他手工制作的复杂结构。我们的方法是基于向量空间模型和神经网络。该模型基于两个学习步骤。第一步生成自然语言和SPARQL查询的句子的向量表示。第二步使用此向量表示作为神经网络（具有注意力机制的LSTM）的输入，以生成能够编码自然语言和解码SPARQL的模型。
2018-03-12 cs.CL
AMR Parsing as Graph Prediction with Latent Alignment
ILCC, School of Informatics, University of Edinburgh（爱丁堡大学信息学院ILCC）；ILLC, University of Amsterdam（阿姆斯特丹大学ILLC）
抽象意义表示（AMR）是一种覆盖面很广的层次语义表示。AMR将句子表示为带根标记的有向无环图。AMR解析具有挑战性，部分原因是图中的节点与相应句子中的单词之间缺乏注释对齐。我们引入了一个神经解析器，它将对齐视为概念，关系和对齐的联合概率模型内的潜在变量。由于精确推理需要边缘化对齐，是不可行的，我们使用变分自动编码框架和连续松弛的离散对齐。我们表明，联合建模是最好的使用管道对齐和解析。该解析器在标准基准测试中获得了最好的报告结果（在LDC 2016E25上为74.4%）。
2018-05-14 cs.CL
AMR Parsing with Action-Pointer Transformer
Harvard University（哈佛大学）；IBM Research（IBM研究（部））
摘要语义表示分析是一个语义到图形的预测任务，目标节点没有显式地与句子标记对齐。然而，由于图节点在语义上基于一个或多个句子标记，因此可以导出隐式对齐。基于转换的解析器从左到右对句子进行操作，以有限的表达能力为代价通过对齐来捕获这种归纳偏差。在这项工作中，我们提出了一个过渡为基础的系统，结合了硬注意的句子与目标端的动作指针机制，从节点表示和地址对齐解耦源令牌。我们在一个单一的Transformer架构中通过简单的修改对转换和指针机制进行建模。解析器状态和图结构信息使用注意头有效地编码。我们表明，我们的动作指针的方法导致增加的表现力，并取得了很大的收益（+1.6点）对最好的基于transition的AMR解析器在非常相似的条件。在不使用图重新分类的情况下，我们的单一模型在AMR 2.0上产生了第二好的Smatch得分（81.8），使用银数据和集成解码进一步提高到83.4。
2021-05-18 cs.CL
A Divide-and-Conquer Strategy for Parsing
在本文中，我们提出了一种新的策略，旨在提高分析器的准确性，简化复杂的句子分析之前。这种方法涉及对复合句中的组成子句进行单独分析。为了实现这一点，分而治之策略首先消除句子中链接词的角色，并根据这些角色对句子进行分段。然后，将分割的子句子和其中的名词短语的单独的解析树合成以形成最终的解析。为了评估这种策略对解析的影响，我们比较了依赖解析器的原始性能与使用分治策略增强后的性能。当对IPSM'95数据集的600个句子进行测试时，增强的解析器在其准确性上看到了21.2%的相当大的错误减少。
1996-07-16 cmp-lg cs.CL
Incorporating Semi-supervised Features into Discontinuous Easy-First Constituent Parsing
University of Heidelberg（海德堡大学）
本文描述了EaFi的适应性，EaFi是一种用于不连续成分的简单优先解析的解析器，使其适应多种语言，并利用作为SPMRL共享任务2014的一部分提供的未标记数据。
2014-09-12 cs.CL
Semi-Supervised Methods for Out-of-Domain Dependency Parsing
The University of Birmingham（伯明翰大学）
依存句法分析是自然语言处理的重要任务之一，它为文本分配句法树。由于依赖语料库的广泛可用性以及解析和机器学习技术的改进，基于监督学习的系统的解析准确性已经得到显著提高。然而，由于监督学习的性质，这些句法分析系统高度依赖于人工标注的训练语料库。它们在域内数据上工作得相当好，但在域外文本上测试时，性能显着下降。为了弥补域内和域外之间的性能差距，本文研究了三种用于域外依存句法分析的半监督技术，即协同训练、自训练和依存语言模型。我们的方法使用容易获得的未标记的数据，以提高域外解析的准确性，而不需要昂贵的语料库注释。在多个英文领域和多语种数据上的测试结果表明，该算法在句法分析准确率上有很好的提高。总的来说，这项工作进行了调查的半监督方法域外依存句法分析，在那里我扩展和比较了一些重要的半监督方法在一个统一的框架。这些技术之间的比较表明，自训练的作品同样以及合作训练域外解析，而依赖语言模型可以提高域内外的准确性。
2018-10-04 cs.CL
Improving Unsupervised Constituency Parsing via Maximizing Semantic Information
the University of Tokyo（东京大学）；Imperial College London（帝国理工学院）；the University of Liverpool（利物浦大学）
本文提出最大化语义信息（SemInfo）目标训练无监督成分句法分析器，通过词袋子树模型和TreeCRF模型优化PCFG解析器，在四种语言中平均提升7.85个F1分数。
2025-04-04 cs.CL
Unsupervised Full Constituency Parsing with Neighboring Distribution Divergence
Shanghai Jiao Tong University（上海交通大学）
无监督选区分析已经探索了很多，但仍然远远没有得到解决。传统的无监督选区分析器只能捕获句子的未标记结构。对于无监督的全选区解析，我们提出了一个无监督和训练免费标签程序，利用最近推出的度量，相邻分布发散（NDD），它评估前后版本之间的句子语义相似性的属性。为了实现，我们将NDD发展为双POS-NDD（DP-NDD），并建立“模具”来检测句子中的成分及其标签。我们表明，DP-NDD不仅标签成分准确，但也引入更准确的未标记的选区树比以前所有的无监督方法，更简单的规则。通过两个标记选区树推断框架，我们为未标记的F1设置了新的最新技术水平，并为标记的F1设置了强基线。与传统的预测和评估方案相比，我们的方法作为一个合理的例子，反向应用评估指标的预测。
2021-10-29 cs.CL
Strictly Breadth-First AMR Parsing
University of Rochester（罗切斯特大学）
AMR解析是将句子自动映射到AMR语义图的任务。我们专注于这个任务的宽度优先策略，这是最近提出的，并取得了更好的性能比其他策略。然而，目前的模型在这种策略下只有\emph{encourage}模型产生的AMR图的宽度优先顺序，但\emph{cannot guarantee}这。为了解决这个问题，我们提出了一个新的架构，\emph{guarantees}，解析将严格遵循广度优先顺序。在每个解析步骤中，我们引入一个\textbf{focused parent}顶点，并使用这个顶点来指导生成。在这种新架构以及句子和图形编码器的一些其他改进的帮助下，我们的模型在AMR 1.0和2.0数据集上都获得了更好的性能。
2022-11-08 cs.CL
Codeswitched Sentence Creation using Dependency Parsing
On-Device AI Samsung R & D Institute（三星研发研究院终端人工智能部门）
语码转换已成为世界上使用多种语言的人最常见的现象之一，特别是在印度这样的国家，印度拥有大约23种官方语言，双语人数约为3亿。在各种自然语言处理（NLP）任务中，码交换数据的稀缺性成为该领域探索的瓶颈。因此，我们提出了一种新的算法，利用英语语法的句法结构，开发语法上明智的Codeswitched版本的英语印地语，英语马拉地语和英语卡纳达语数据。除了在很大程度上保持语法的健全性，我们的方法还保证了从给定数据的微小快照中生成丰富的数据。我们使用多个数据集来展示我们算法的能力，同时我们使用一些定性指标来评估生成的Codeswitched数据的质量，并为几个NLP任务提供基线结果。
2020-12-05 cs.CL
Is Supervised Syntactic Parsing Beneficial for Language Understanding? An Empirical Investigation
University of Mannheim（曼海姆大学）；University of Cambridge（剑桥大学）
传统的NLP长期以来一直认为（监督）句法分析是成功的高级语义语言理解（LU）所必需的。然而，最近出现的端到端神经模型，通过语言建模（LM）进行自我监督，以及它们在广泛的LU任务上的成功，质疑了这种信念。在这项工作中，我们实证研究的有用性监督解析语义LU的LM预训练的Transformer网络的背景下。依靠已建立的微调范例，我们首先耦合一个预训练的Transformer与biaffine解析头，旨在注入显式的语法知识，从通用的语法树库到Transformer。然后，我们微调LU任务的模型，并测量中间解析训练（IPT）对下游LU任务性能的影响。单语英语和zero-shot语言迁移实验（中间目标语言解析）的结果表明，明确的形式化语法，通过IPT注入到Transformers，下游LU性能的影响非常有限和不一致。我们的研究结果，再加上我们的分析Transformers的表示空间之前和之后的中间解析，使一个重要的一步，提供答案的一个基本问题：如何（联合国）availing是监督解析高层次的语义自然语言理解在时代的大型神经模型？
2021-04-28 cs.CL
Dependency Parsing with Dilated Iterated Graph CNNs
依赖关系解析是将语言知识注入许多下游任务的有效方法，许多从业者希望大规模有效地解析句子。GPU硬件的最新进展使神经网络能够在以前的最佳模型上实现显著的收益，这些模型仍然无法利用GPU的大规模并行性能力，因为它们需要顺序处理句子。作为回应，我们提出了扩张迭代图卷积神经网络（DIG-CNN），用于基于图的依存句法分析，这是一种允许高效端到端GPU解析的图卷积架构。在英语Penn TreeBank基准的实验中，我们表明DIG-CNN的性能与一些最好的神经网络解析器相当。
2017-07-21 cs.CL
Towards Domain-Independent Supervised Discourse Parsing Through Gradient Boosting
University of British Columbia（不列颠哥伦比亚大学）
语篇分析和语篇句法分析对自然语言处理领域的许多重要问题产生了重要影响。鉴于话语标注对模型性能和可解释性的直接影响，从任意文档中鲁棒地提取话语结构是进一步改进自然语言处理中计算模型的关键任务。为此，我们提出了一个新的，监督的范式直接处理的领域自适应问题的话语分析。具体来说，我们介绍了第一个完全监督的话语分析器，旨在通过引入梯度提升框架，通过弱分类器的分阶段模型来减轻域依赖。
2022-10-18 cs.CL
RST-style Discourse Parsing Guided by Document-level Content Structures
Texas A&M University（得克萨斯农工大学）
针对现有RST解析流水线因缺乏文档级内容结构知识导致预测大型文本跨度篇章关系性能较低的问题，提出一种结合源自News Discourse Profiling任务的结构感知句子表示的新流水线，仅加入少量额外层即在多项RST解析指标上取得优异性能。
2023-09-08 cs.CL
Global Neural CCG Parsing with Optimality Guarantees
University of Washington（华盛顿大学）
我们介绍了第一个全球递归神经解析模型，在解码过程中的最优性保证。为了支持全局特征，我们放弃了动态程序，而是直接在所有可能的子树空间中搜索。虽然这个空间在句子长度上是指数级的，但我们证明了学习一个高效的A* 解析器是可能的。我们增加现有的解析模型，它有信息的边界上的外部分数，与一个全球性的模型，有松散的界限，但只需要模拟非本地的现象。全局模型用一个新的目标来训练，该目标鼓励解析器探索搜索空间的一小部分。该方法应用于CCG解析，提高了0.4 F1的最先进的准确性。解析器为99.9%的保留句子找到最佳解析，平均只探索190个子树。
2016-09-24 cs.CL
QUDSELECT: Selective Decoding for Questions Under Discussion Parsing
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）；Peking University（北京大学）
针对流水线式 QUD 解析难以兼顾理论准则的问题，提出联合训练框架 QUDSELECT，通过多候选选择性解码与准则评分提升结构预测性能。
2024-08-02 cs.CL
Dependency Grammar and the Parsing of Chinese Sentences
依存语法一直被语言学家用作其语法形式体系的句法成分的基础。它也被用于自然语言解析。在中国，人们已经尝试使用这种语法形式主义来使用基于语料库的技术分析汉语句子。本文回顾了依存语法的性质，体现在四个公理的依存结构的良构条件。它表明，允许多个总督所做的一些追随者，这种形式主义是不必要的。本文还讨论了在句法分析时，从建立功能结构的角度出发，用功能标签扩充依存语法的做法。这也将有助于语义解释。
1994-12-01 cmp-lg cs.CL
Cross-domain Chinese Sentence Pattern Parsing
Beijing Language and Culture University（北京语言大学）；Tsinghua University（清华大学）；Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳））；Beijing Jiaotong University（北京交通大学）
本文针对中文句式解析器跨领域能力不足的问题，提出在自训练框架中利用大语言模型结合源领域句法规则与目标领域句子动态生成训练数据，实验表明其在教材和新闻领域上F1值超越规则基线1.68个百分点。
2024-04-08 cs.AI cs.CL
Scope-enhanced Compositional Semantic Parsing for DRT
Georgetown University（乔治城大学）；University of Amsterdam（阿姆斯特丹大学）；Saarland University（萨尔大学）；University of Groningen（格罗宁根大学）
针对现有seq2seq模型在DRT解析中准确率随句子复杂度下降、难生成合规表征的问题，提出基于新型量词辖域预测机制的组合式神经符号AMS解析器，可稳定输出合规结果，复杂句子解析表现更优。
2024-10-09 cs.CL
Joint Parsing and Generation for Abstractive Summarization
University of Central Florida（中佛罗里达大学）；Fudan University（复旦大学）；Tencent AI Lab（腾讯AI实验室）
由抽象摘要系统生成的句子可能是不合语法的，并且无法保留原始含义，尽管它们在局部是流畅的。在本文中，我们提出了解决这个问题，联合生成一个句子和它的句法依赖分析，同时执行抽象。如果生成一个单词会给摘要引入一个错误的关系，那么必须阻止这种行为。因此，所提出的方法有望产生合乎语法的句子，并鼓励总结保持真实的原始。我们对这项工作的贡献是双重的。首先，我们提出了一种新的神经架构的抽象摘要，结合了顺序解码器与基于树的解码器在同步的方式来生成一个摘要句子和它的语法分析。其次，我们描述了一种新的人类评估协议，以评估是否以及在何种程度上，摘要仍然是真实的，其原始含义。我们评估了我们的方法在一些摘要数据集，并展示了竞争力的结果对强大的基线。
2019-11-23 cs.CL
DiscoSG: Towards Discourse-Level Text Scene Graph Parsing through Iterative Graph Refinement
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education, School of Cyber Science and Engineering, Wuhan University（武汉大学网络空间安全学院，教育部空天信息安全与可信计算重点实验室）；Faculty of Information Technology, Monash University（莫纳什大学信息技术学院）；School of Computing Technologies, RMIT University（皇家墨尔本理工大学计算技术学院）
针对篇章级文本场景图解析，提出DiscoSG任务及数据集，并开发轻量级解析器DiscoSG-Refiner，通过迭代图细化提升性能，速度远超GPT-4o。
2025-10-24 cs.CL
Simpler but More Accurate Semantic Dependency Parsing
Stanford University（斯坦福大学）
虽然句法依赖性标注集中在句子的表面或功能结构上，但语义依赖性标注旨在使用图形结构表示来捕获与句子的含义更密切相关的词间关系。我们扩展了Dozat和Manning（2017）基于LSTM的语法解析器，以训练并生成这些图结构。由此产生的系统本身实现了最先进的性能，比之前的更复杂的最先进的系统高出0.6%，标记为F1。添加语言上更丰富的输入表示将边际推得更高，使我们能够以1.9%的F1击败它。
2018-07-03 cs.CL
Cascading and Direct Approaches to Unsupervised Constituency Parsing on Spoken Sentences
National Taiwan University（国立台湾大学）；MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）
本文首次研究口语语句的无监督成分句法分析，比较级联ASR与直接训练两种方法，发现级联方法更优，且准确分割足以解析口语，直接方法能无偏学习头部方向性。
2023-05-09 cs.CL eess.AS
Revisiting Shallow Discourse Parsing in the PDTB-3: Handling Intra-sentential Implicits
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
在PDTB-3中，几千个隐含的话语关系被新注释了\textit{within}单个句子，增加了超过15，000个隐含的关系注释了PDTB-2中的\textit{across}相邻句子。由于这些\textit{intra-sentential implicits}的参数的位置不再像\textit{inter-sentential implicits}那样定义良好，因此话语分析器必须识别它们的位置和意义。这是目前工作的重点。本文对我们的结果进行了全面的分析，展示了不同场景下的模型性能，指出了局限性并指出了未来的发展方向。
2022-04-01 cs.CL
Left-to-Right Dependency Parsing with Pointer Networks
Universidade da Coruña（拉科鲁尼亚大学）；FASTPARSE Lab（FASTPARSE实验室）；LyS Group（LyS研究组）；CITIC（CITIC研究中心）
我们提出了一种新的过渡为基础的算法，直接从左到右的句子通过建立$n$附件，与$n$的输入句子的长度。与Ma等人最近的堆栈指针解析器类似。（2018），我们使用指针网络框架，给定一个单词，可以直接指向句子中的位置。然而，我们的从左到右的方法比原来的自上而下的堆栈指针解析器（不需要堆栈）更简单，并且将转换序列长度减少了一半，从2个$n$ -1操作减少到$n$。这导致二次非投射解析器的运行速度是原始解析器的两倍，同时在全监督单模型依赖解析器中实现了迄今为止英语PTB数据集（96.04%UAS，94.43%LAS）的最佳准确性，并在大多数测试语言中改进了前自顶向下转换系统。
2019-03-20 cs.CL
Strongly Incremental Constituency Parsing with Graph Neural Networks
Princeton University（普林斯顿大学）
将句子解析成语法树可以使NLP中的下游应用受益。基于转换的解析器通过在状态转换系统中执行动作来构建树。它们在计算上是高效的，并且可以利用机器学习来预测基于部分树的动作。然而，现有的基于转换的解析器主要基于移位-归约转换系统，这与人类已知的解析句子的方式不一致。心理语言学研究表明，人类的解析是强烈的增量：人类通过在每一步添加一个标记来生长一个解析树。在本文中，我们提出了一种新的过渡系统称为附加并置。它是强增量的;它使用一棵树表示一个部分句子;每个动作只向部分树中添加一个标记。基于我们的转换系统，我们开发了一个强增量解析器。在每一步中，它使用图神经网络对部分树进行编码，并预测动作。我们在Penn树库（PTB）和中文树库（CTB）上对我们的解析器进行了评估。在PTB上，它优于仅用选区树训练的现有解析器;并且它的性能与使用依赖树作为附加训练数据的最先进解析器相当。在CTB上，我们的解析器建立了一个新的技术状态。代码可以在https://github.com/princeton-vl/attach-juxtapose-parser上获得。
2020-10-27 cs.CL
A Unified Linear-Time Framework for Sentence-Level Discourse Parsing
Nanyang Technological University（南洋理工大学）；Salesforce Research Asia（Salesforce亚洲研究院）
本文根据修辞结构理论，提出了一个有效的语篇分析神经网络框架。我们的框架包括一个话语切分器，以确定基本的话语单位（EDU）在一个文本中，和一个话语分析器，构建一个自上而下的方式话语树。分割器和解析器都是基于指针网络的，并且在线性时间内运行。我们的分割器产生的$F_1$得分为95.4，我们的解析器在聚合标记（关系）度量上获得了81.7的$F_1$得分，超过了以前的方法，并且在两个任务上都接近人类协议（98.3和83.0 $F_1$）。
2019-06-12 cs.AI cs.CL
Statistical Decision-Tree Models for Parsing
句法自然语言解析器已经证明自己不足以处理高度模糊的大词汇量文本，这可以从它们在《华尔街日报》等领域的糟糕表现以及从基于解析的方法到一般文本处理的运动中得到证明。在本文中，我描述了SPATTER，一个基于决策树学习技术的统计解析器，它为每个句子构建了一个完整的解析，并实现了比任何已发表的结果更好的准确率。这项工作是基于以下前提：（1）语法是太复杂和详细的手动开发的最感兴趣的领域;（2）解析模型必须严重依赖于词汇和上下文信息，以准确地分析句子;（3）现有的{ $n$ }-gram建模技术是不够的解析模型。在比较SPATTER和IBM的计算机手册解析器的实验中，SPATTER明显优于基于语法的解析器。在Penn Treebank Wall Street Journal语料库中，使用PARSEVAL方法对SPATTER进行评价，对于40个单词或更少的句子，SPATTER达到了86%的准确率、86%的召回率和1.3个交叉括号，对于10到20个单词的句子，SPATTER达到了91%的准确率、90%的召回率和0.5个交叉括号。
1995-04-29 cmp-lg cs.CL
Modeling Human Sentence Processing with Left-Corner Recurrent Neural Network Grammars
The University of Tokyo（东京大学）；Artificial Intelligence Research Center, AIST（日本产业技术综合研究所人工智能研究中心）
本文通过对比 LSTM 与采用自顶向下和左角解析策略的 RNNGs 在日语阅读时间上的表现，发现左角 RNNGs 最符合人类认知，证明层级加左角架构更具认知合理性。
2023-10-05 cs.CL
Neural Approaches for Data Driven Dependency Parsing in Sanskrit
University of Utah（犹他大学）；Manipal Institute of Technology（马尼帕尔理工学院）；IIT Kanpur（坎普尔印度理工学院）；Chinmaya Vishwavidyapeeth（钦玛雅维什瓦维迪亚佩特学院）；IIT Kharagpur（克勒格布尔印度理工学院）
数据驱动的依存句法分析方法在过去的几十年里一直是自然语言处理领域的研究热点。然而，梵语仍然缺乏一个强大的纯数据驱动的依赖解析器，可能除了Krishna（2019）。这主要是由于缺乏特定于任务的标记数据和语言的形态丰富的性质。在这项工作中，我们评估了四种不同的数据驱动的机器学习模型，最初提出了不同的语言，并比较其性能的梵文数据。我们用2个基于图和2个基于转换的解析器进行实验。我们比较了每个模型在低资源环境中的性能，使用1,500个句子进行训练。此外，由于我们关注的是每个模型的学习能力，因此我们没有将任何梵语特定的特征显式地并入模型中，而是使用每篇论文中的默认设置来获得特征函数。在这项工作中，我们分析了使用域内和域外测试数据集的解析器的性能。我们还调查了单词排序的影响，在这些系统中提供的句子作为输入，通过分析诗句和相应的散文顺序（anvaya）句子。
2020-04-17 cs.CL
Hybrid Oracle: Making Use of Ambiguity in Transition-based Chinese Dependency Parsing
MOE Key Laboratory of Computational Linguistics（教育部计算语言学重点实验室）；School of Electronics Engineering and Computer Science（电子工程与计算机科学学院）；Peking University（北京大学）
在基于转换的依赖分析器的训练中，使用预言机来预测句子及其黄金树的转换序列。然而，过渡系统可能会表现出模糊性，即可能有多个正确的过渡序列形成黄金树。我们建议利用该属性训练神经依赖解析器，并提出了混合预言。新的预言机给出了解析状态的所有正确转换，这些转换用于交叉熵损失函数以提供更好的监督信号。它还用于为一个句子生成不同的转换序列，以更好地探索训练数据，提高解析器的泛化能力。实验结果表明，在中文依存句法分析中，使用混合预言机训练的句法分析器的性能优于使用传统预言机训练的句法分析器。我们从语言学的角度进行分析。该代码可在https://github.com/lancopku/nndep上获得。
2018-02-06 cs.CL
Weakly-supervised Neural Semantic Parsing with a Generative Ranker
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
弱监督语义解析器在话语-指称对上进行训练，将逻辑形式视为潜在的。由于搜索空间大和逻辑形式的虚假性，该任务具有挑战性。在本文中，我们介绍了一个神经分析器排名系统的弱监督语义解析。该分析器使用指称的线索从话语生成候选树结构逻辑形式。这些候选人，然后排名的基础上两个标准：他们的可能性执行正确的表示，和他们的协议与话语语义。我们提出了一个预定的培训程序，以平衡这两个目标的贡献。此外，我们建议使用一个神经编码的词典注入先验领域知识的模型。三个Freebase数据集上的实验证明了我们的语义解析器的有效性，达到了最先进的范围内的结果。
2018-08-23 cs.CL
ListOps: A Diagnostic Dataset for Latent Tree Learning
New York University（纽约大学）
潜在树学习模型学习在没有句法监督的情况下解析句子，并使用该解析来构建句子表示。关于这种模型的现有工作已经表明，虽然它们在句子分类等任务上表现良好，但它们不会学习符合任何合理的语义或句法形式主义的语法（Williams等人，2018年a）。由于自然语言固有的复杂性，研究这种模型在自然语言中的解析能力可能具有挑战性，例如对单个句子进行多个有效解析。在本文中，我们介绍了ListOps，一个玩具数据集创建研究潜在树模型的解析能力。ListOps序列是前缀算术的风格。数据集被设计为具有一个正确的解析策略，系统需要学习该策略才能成功完成任务。我们表明，目前领先的潜在树模型无法学习解析并在ListOps中取得成功。这些模型的准确性比纯粹的序列RNN差。
2018-04-17 cs.CL
Multilingual Neural Semantic Parsing for Low-Resourced Languages
Amazon Research Cambridge（亚马逊剑桥研究院）
多语言语义解析是一种经济有效的方法，它允许单个模型理解不同的语言。然而，研究人员面临着训练数据的可用性很大的不平衡，英语资源丰富，而其他语言的数据少得多。为了解决数据限制的问题，我们提出使用机器翻译引导多语言训练数据从更丰富的英语数据。为了补偿机器翻译的训练数据的数据质量，我们利用来自预训练的多语言编码器的迁移学习来进一步改进模型。为了评估我们的多语言模型对人类写的句子，而不是机器翻译的，我们介绍了一个新的多语言语义解析数据集的基础上，Facebook的任务导向解析（TOP）数据集的英语，意大利语和日语。我们发现，使用预训练编码器的联合多语言训练在TOP数据集上的表现远远优于我们的基线，并且在公共NLMaps数据集上的表现优于最先进的模型。我们还在TOP数据集上建立了一个新的零样本学习基线。我们发现，一个语义解析器只训练英语数据实现了zero-shot性能的44.9%的精确匹配准确度对意大利语句子。
2021-06-14 cs.CL
