Learning to Learn Semantic Parsers from Natural Language Supervision
LAER AI, Inc.（LAER人工智能公司）；Carnegie Mellon University（卡内基梅隆大学）
作为人类，我们经常依靠语言来学习语言。例如，当在对话中被纠正时，我们可以从纠正中学习，随着时间的推移提高我们的语言流利性。受此启发，我们提出了一个学习算法，用于训练语义分析器从监督（反馈）表示在自然语言。我们的算法从用户的更正中学习语义解析器，例如“不，我真正的意思是在他工作之前，而不是之后”，同时学习解析这种自然语言反馈，以利用它作为一种监督形式。与金标准的逻辑形式的监督，我们的方法不需要用户熟悉的基本逻辑形式主义，从外延监督不同，它不需要用户知道正确的答案，他们的查询。这使得我们的学习算法在现有会话日志可用并且可以用作训练数据的设置中自然地可扩展。我们构建了一个新的数据集的自然语言反馈的对话设置，并表明我们的方法是有效的学习语义解析器从这样的自然语言监督。
2019-02-22 cs.CL cs.LG
Localizing Open-Ontology QA Semantic Parsers in a Day Using Machine Translation
Stanford University（斯坦福大学）
我们提出了语义解析器本地化（SPL），一个工具包，利用神经机器翻译（NMT）系统本地化一个新的语言的语义解析器。我们的方法是：（1）通过使用从公共网站上抓取的本地实体来增强机器翻译的数据集，自动生成目标语言的训练数据;（2）添加Few-Shot增强的人工翻译句子，并训练一个新的XLMR-LSTM语义解析器;（3）在使用人工翻译的自然话语上测试模型。我们评估我们的方法的有效性，通过扩展现有的能力Schema 2 QA，英语问答（QA）系统在开放的网络上，10个新的语言的餐厅和酒店域。我们的模型实现了酒店领域的整体测试准确率在61%到69%之间，餐厅领域的整体测试准确率在64%到78%之间，这与在黄金英语数据和验证集的一些示例上训练的英语解析器获得的69%和80%相比是有利的。我们表明，我们的方法优于以前的国家的最先进的方法超过30%的酒店和40%的餐厅与本地化本体的语言测试的子集。我们的方法使任何软件开发人员能够在不到24小时的时间内利用机器翻译为新领域的QA系统添加新的语言功能。
2020-10-10 cs.CL cs.LG
Comparison of Syntactic Parsers on Biomedical Texts
Luxembourg Center for Contemporary and Digital History, University of Luxembourg（卢森堡大学卢森堡当代与数字历史中心）；Luxembourg Center for Systems Biomedicine, University of Luxembourg（卢森堡大学卢森堡系统生物医学中心）
句法分析是以信息抽取为目的的自动文本分析中的重要环节。句法分析的质量在很大程度上决定了文本挖掘结果的查全率和查准率。在本文中，我们评估了几个流行的句法分析器在生物医学文本挖掘中的应用性能。
2020-08-17 cs.CL
Large Language Models for Validating Network Protocol Parsers
Purdue University（普渡大学）
针对网络协议解析器验证中协议标准（自然语言）与实现（源代码）难以比较的问题，提出基于大语言模型的PARVAL多智能体框架，通过统一中间表示实现自动化验证，在BFD协议上检测出7个漏洞（含5个未知）且假阳性率仅5.6%。
2025-04-18 cs.AI cs.SE
Yara Parser: A Fast and Accurate Dependency Parser
Columbia University（哥伦比亚大学）；Yahoo Labs（雅虎实验室）
相关分析器是自然语言处理中最重要的工具之一，因为它们在诸如信息检索、机器翻译和知识获取等下游任务中有许多重要的应用。我们介绍了Yara Parser，一个基于弧渴望算法和束搜索的快速准确的开源依赖解析器。它在标准WSJ测试集上达到了93.32的未标记准确率，这使它成为顶级依赖解析器之一。最快的时候，Yara在贪婪模式下每秒可以解析大约4000个句子（1束）。当优化准确性时（使用64个波束和Brown聚类特征），Yara每秒可以解析45个句子。解析器可以在任何语法依赖树库上训练，并提供不同的选项，以使其更灵活和可调的特定任务。它以Apache 2.0版许可证发布，可用于商业和学术目的。解析器可以在https://github.com/yahoo/YaraParser上找到。
2015-03-24 cs.CL
On Robustness of Neural Semantic Parsers
Monash University（莫纳什大学）；Deakin University（迪肯大学）
语义解析将自然语言的话语映射为逻辑形式，这是许多高级自然语言处理问题的基础。语义解析器通过深度神经网络获得性能提升，但继承了对抗性示例的漏洞。在本文中，我们提供了在存在对抗攻击的语义解析器的鲁棒性的实证研究。形式上，语义解析的对手被认为是扰动的话语-LF对，其话语具有与原始话语完全相同的含义。提出了一种基于已有基准语料库的可扩展鲁棒性测试集构造方法。我们的研究结果回答了五个研究问题，在衡量最先进的解析器的鲁棒性测试集的性能，并评估数据增强的效果。
2021-02-03 cs.AI cs.CL
Improving a Strong Neural Parser with Conjunction-Specific Features
Bar-Ilan University（巴伊兰大学）
虽然依赖关系解析器达到了非常高的整体准确性，但某些依赖关系比其他依赖关系更难。特别地，依赖性解析器在协调构造（即，正确地附加“conj”关系）。我们扩展了一个国家的最先进的依赖分析器与连接词的特定功能，专注于连接词头词之间的相似性。训练扩展解析器产生的“conj”附件，以及在整体依存句法分析精度上的斯坦福依存关系转换的Penn TreeBank的改进。
2017-02-22 cs.CL
An Imitation Game for Learning Semantic Parsers from User Interaction
The Ohio State University（俄亥俄州立大学）；Facebook AI Research, Seattle（Facebook人工智能研究院（西雅图））
尽管有广泛的成功应用，引导和微调语义解析器仍然是一个繁琐的过程，如昂贵的数据注释和隐私风险的挑战。在本文中，我们提出了一种替代方案，人在循环的方法，直接从用户学习语义解析器。语义分析器应该对它的不确定性进行内省，并在不确定时提示用户演示。在这样做的过程中，它也可以模仿用户的行为，并继续自主地改进自己，希望最终它可以在解释他们的问题时变得和用户一样好。为了对抗演示的稀疏性，我们提出了一种新的注释高效的模仿学习算法，该算法通过混合演示的状态和置信的预测来迭代地收集新的数据集，并以数据集聚合的方式重新训练语义解析器（Ross等人，2011年）。我们提供了一个理论分析，其成本约束，并实证证明其有前途的性能上的文本到SQL的问题。代码将在https://github.com/sunlab-osu/MISP上提供。
2020-10-15 cs.AI cs.CL
Look-up and Adapt: A One-shot Semantic Parser
Carnegie Mellon University（卡内基梅隆大学）；LAER AI, Inc.（LAER AI公司）
计算设备近来已经变得能够经由自然语言与它们的终端用户交互。然而，它们只能在有限的“支持”话语域中运行，并且在面对域外话语时会严重失败，这主要是由于它们的语义分析器的限制。在本文中，我们提出了一种语义解析器，通过学习一个通用的策略，通过适应看到的话语的逻辑形式来解析一个看不见的话语，而不是从头开始学习生成一个逻辑形式，从而概括出域外的例子。我们的分析器保持一个内存组成的一个代表性的子集，看到的话语与他们的逻辑形式配对。给定一个看不见的话语，我们的解析器的工作原理是从内存中查找一个类似的话语，并调整其逻辑形式，直到它适合看不见的话语。此外，我们提出了一个数据生成策略，用于构建不同领域的话语逻辑形式对。我们的研究结果显示，与基线相比，在两种不同的评估设置下，单次解析的性能提高了68.8%。
2019-10-27 cs.CL cs.LG
Evaluating Induced CCG Parsers on Grounded Semantic Parsing
University of Southern California（南加州大学）；University of Edinburgh（爱丁堡大学）；Google（谷歌）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
我们比较了四种不同的句法CCG解析器的语义槽填充任务的有效性，探讨有多少句法监督需要下游语义分析。这种外在的，基于任务的评估提供了一个独特的窗口，探索无监督语法归纳系统所捕获的语义的优点和缺点。我们发布了一个新的Freebase语义解析数据集，称为SPADES（DECLARATIVE Sentences的语义解析），包含93K的完形填空式问题与答案配对。我们在这个数据集上评估我们所有的模型。我们的代码和数据可在https://github.com/sivareddyg/graph-parser上获得。
2017-01-31 cs.AI cs.CL
An Incremental Parser for Abstract Meaning Representation
University of Edinburgh（爱丁堡大学）；University of Padua（帕多瓦大学）
语义表示（AMR）是一种自然语言的语义表示，其嵌入与传统任务相关的注释，诸如命名实体识别、语义角色标注、词义消歧和共指消解。我们描述了一个基于转换的AMR解析器，它在线性时间内从左到右解析句子。我们进一步提出了一个测试套件，评估有助于比较AMR解析器的特定子任务，并表明我们的解析器在LDC2015E86数据集上与最先进的解析器竞争，并且在恢复命名实体和处理极性方面优于最先进的解析器。
2017-04-10 cs.CL
Incremental Parser Generation for Tree Adjoining Grammars
本文描述了树邻接语言（TAL）LR型语法分析的语法分析表的增量生成。提出的算法通过更新到目前为止生成的解析器来处理对输入语法的修改。本文定义了一种用于TAL的LR型解析器的惰性生成，在这种惰性生成中，解析表在解析时根据需要创建。然后，我们描述了一个增量解析器生成器的TAL响应修改的输入语法更新解析表建立至今。
1998-09-18 cs.CL
A Robust Parser Based on Syntactic Information
在本文中，我们提出了一个强大的分析器，可以分析语法外的句子。这个解析器可以只使用语法信息来恢复它们。由于它只利用了句法信息，因此易于修改和扩展。
1995-02-22 cmp-lg cs.CL
Recognizing Bangla Grammar using Predictive Parser
Khulna University of Engineering and Technology (KUET)（库尔纳工程技术大学）
我们描述了孟加拉语的上下文无关文法（CFG），因此我们提出了一个基于该文法的孟加拉语语法分析器。我们的方法是非常普遍适用于孟加拉语句子和方法被广泛接受的语法分析的语言。建议的分析器是一个预测分析器，我们构造的分析表识别孟加拉语语法。使用解析表，我们认识到孟加拉语句子的语法错误时，没有在解析表中的终端条目。如果一种自然语言可以被成功地解析，那么从这种语言进行语法检查就成为可能。该方案是基于自顶向下的分析方法，我们已经避免了左递归的CFG使用左分解的想法。
2012-01-10 cs.CL
Joint learning of ontology and semantic parser from text
Jožef Stefan International Postgraduate School（约热夫·斯特凡国际研究生院）
语义解析方法用于捕获和表示文本的语义。捕捉文本中所有概念的意义表示可能并不总是可用的，或者可能不够完整。本体提供了一种结构化和推理能力的方式来建模文本集合的内容。在这项工作中，我们提出了一种新的方法来联合学习的本体和语义分析器从文本。该方法是基于半自动归纳的上下文无关文法从语义注释的文本。语法将文本解析成语义树。语法和语义树都用于在多个级别上学习本体-类，实例，分类和非分类关系。该方法在维基百科描述人物的页面的第一句话上进行了评估。
2016-01-05 cs.AI cs.CL
A Linear Observed Time Statistical Parser Based on Maximum Entropy Models
本文提出了一种自然语言的统计分析器，获得了分析准确率-大约87%的精度和86%的召回-这超过了华尔街日报域上以前发表的最好的结果。解析器本身需要很少的人工干预，因为它用来做出解析决策的信息是以简洁和简单的方式指定的，并且在最大熵框架下以全自动的方式组合。分析器在测试句子上观察到的运行时间与句子长度成线性关系。此外，解析器返回一个句子的几个得分解析，本文表明，从20个最高得分解析中挑选最佳解析的方案可以产生93%的精确度和召回率的显着更高的准确率。
1997-06-11 cmp-lg cs.CL
A Transition-Based Directed Acyclic Graph Parser for UCCA
The Edmond and Lily Safra Center for Brain Sciences（埃德蒙与莉莉·萨夫拉脑科学中心）；Hebrew University of Jerusalem（希伯来大学）
我们提出了UCCA的第一个解析器，一个跨语言适用的语义表示框架，它建立在广泛的类型学工作，并支持快速注释。UCCA对现有的解析技术提出了挑战，因为它表现出可重入性（导致DAG结构），不连续结构和非终结节点对应于复杂的语义单元。据我们所知，这些形式属性的连接不支持任何现有的解析器。我们的基于转换的解析器，它使用了一个新的转换集和基于双向LSTM的功能，不仅对UCCA解析有价值：它处理更一般的图结构的能力可以为其他语义DAG结构的解析器的开发提供信息，以及经常使用不连续结构的语言。
2017-04-04 cs.CL
Parser for Abstract Meaning Representation using Learning to Search
University of Maryland（马里兰大学）
我们开发了一种新的技术来解析英语句子抽象意义表示（AMR）使用SEARN，学习搜索的方法，通过建模的概念和关系学习在一个统一的框架。我们评估了我们的解析器在多个数据集从不同的领域，并显示出2%至6%的绝对改善，比最先进的。此外，我们表明，使用最频繁的概念给我们一个基线，是强于国家的最先进的概念预测。我们计划发布我们的解析器供公众使用。
2015-10-26 cs.CL
A Comparative Analysis of Knowledge-Intensive and Data-Intensive Semantic Parsers
Peking University（北京大学）；Alibaba（阿里巴巴）；Google（谷歌）；University of Cambridge（剑桥大学）
我们提出了一个面向现象的比较分析任务无关的语义解析的两个主要方法：经典的，知识密集型和神经，数据密集型模型。为了反映最先进的神经NLP技术，我们引入了一个新的以目标结构为中心的解析器，它可以比以前的数据驱动解析器更准确地生成语义图。然后，我们表明，尽管整体性能相当，知识和数据密集型模型产生不同类型的错误，在某种程度上，可以解释他们的理论属性。这种分析为解析器的开发提供了新的方向。
2020-10-28 cs.CL
Total Recall: a Customized Continual Learning Method for Neural Semantic Parsers
Monash University（莫纳什大学）
本文研究了语义解析的持续学习。在这种设置中，神经语义解析器顺序地学习任务，而不访问来自先前任务的完整训练数据。直接应用SOTA持续学习算法来解决这个问题，无法实现与所有可见任务的再训练模型相当的性能，因为它们没有考虑语义解析器产生的结构化输出的特殊属性。因此，我们提出了TotalRecall，一种面向神经语义解析器的持续学习方法，从两个方面进行设计：i）一种记忆回放的采样方法，使逻辑形式模板多样化，并平衡解析动作在记忆中的分布; ii）一种两阶段的训练方法，显著提高了解析器跨任务的泛化能力。我们进行了大量的实验，研究涉及的研究问题，在持续的语义解析，并证明了一个神经语义分析器训练与TotalRecall实现优于一个直接训练的SOTA持续学习算法，并实现了3-6倍的加速比从头开始重新训练。代码和数据集可在https://github.com/zhuang-li/cl_nsp上获得。
2021-09-15 cs.CL
Many Languages, One Parser
Carnegie Mellon University（卡内基梅隆大学）；University of Washington（华盛顿大学）；Pompeu Fabra University（庞培法布拉大学）
我们训练了一个多语种的依存句法分析模型，并使用它来分析几种语言的句子。解析模型使用（i）多语言词簇和嵌入;（ii）标记级语言信息;以及（iii）语言特定特征（细粒度POS标签）。这种输入表示使解析器不仅能够在多种语言中有效地解析，而且还能够基于语言共性和类型相似性来概括跨语言，从而使其更有效地从有限的注释中学习。我们的解析器的性能在一系列数据场景中优于强基线，包括当目标语言有一个大的树库，一个小的树库，或没有树库的训练。
2016-07-26 cs.CL
Improving Coverage and Runtime Complexity for Exact Inference in Non-Projective Transition-Based Dependency Parsers
Cornell University（康奈尔大学）；Universidade da Coruña（拉科鲁尼亚大学）
我们将Cohen，Gómez-Rodríguez和Satta（2011）的解析器推广到一系列基于非投射转换的依赖解析器，允许多项式时间精确推理。这包括比Cohen等人（2011）具有更好覆盖率的新型解析器，甚至是将时间复杂度降低到$O(n^6)$的变体，改进了基于非投射转换的解析的精确推理的已知界限。我们希望，这一块的理论工作启发设计新的过渡系统，更好的覆盖率和更好的运行时保证。代码可在https://github.com/tzshi/nonproj-dp-variants-naacl2018获得
2018-05-02 cs.CL
"What Do You Mean by That?" A Parser-Independent Interactive Approach for Enhancing Text-to-SQL
Peking University（北京大学）；Microsoft Research（微软研究院）；Beihang University（北京航空航天大学）
在数据库的自然语言接口系统中，文本到SQL技术允许用户通过使用自然语言问题来查询数据库。虽然最近在这方面取得了重大进展，但大多数解析器在部署到实际系统中时可能会有所不足。一个主要原因是很难完全理解用户的自然语言问题。在本文中，我们包括人类在循环中，并提出了一种新的分析器独立的交互式方法（PIIA），与用户使用多选择问题，可以很容易地与任意分析器进行交互。实验进行了两个跨域的数据集，WikiSQL和更复杂的蜘蛛，五个国家的最先进的解析器。这表明，PIIA是能够提高文本到SQL的性能与有限的互动轮流使用模拟和人类的评价。
2020-11-09 cs.CL
An improved parser for data-oriented lexical-functional analysis
我们提出了一个LFG-DOP解析器，它使用片段从LFG注释的句子来解析新的句子。在Verbmobil和Homecentre语料库上的实验表明：（1）Viterbi n best搜索比MonteCarlo搜索快100倍，而两者都达到了相同的精度;（2）对于LFG-DOP，DOP假设的分析精度随着片段大小的增加而增加;（3）LFG-DOP的相对频率估计比折扣频率估计性能差;（4）LFG-DOP的性能明显优于Tree-DOP，仅在树结构上进行评价。
2000-09-27 cs.CL
Improving Natural Language Inference with a Pretrained Parser
University of Washington（华盛顿大学）；Allen Institute for Artificial Intelligence（艾伦人工智能研究所）
我们介绍了一种新的方法，将语法到自然语言推理（NLI）模型。我们的方法使用来自预训练的依赖解析器的上下文标记级向量表示。像其他上下文嵌入器一样，我们的方法广泛适用于任何神经模型。我们用四个强NLI模型（可分解注意力模型，ESIM，BERT和MT-DNN）进行了实验，并在三个NLI基准测试中显示出一致的准确性优势。
2019-09-18 cs.CL
Learning an Executable Neural Semantic Parser
University of Edinburgh（爱丁堡大学）；Stanford University（斯坦福大学）；IBM T.J. Watson Research（IBM T.J. 沃森研究中心）
本文描述了一种神经语义解析器，它将自然语言语句映射到逻辑形式上，这些逻辑形式可以针对特定于任务的环境（如知识库或数据库）执行，以产生响应。该分析器生成树结构的逻辑形式与基于转换的方法相结合的通用树生成算法与域的一般操作定义的逻辑语言。生成过程是由结构化的递归神经网络，它提供了一个丰富的编码的原始上下文和生成历史进行预测。为了解决自然语言和逻辑形式标记之间的不匹配，探索了各种注意力机制。最后，我们考虑神经语义解析器的不同训练设置，包括给出注释逻辑形式的全监督训练，提供表示的弱监督训练，以及只有未标记句子和知识库可用的远程监督。在广泛的数据集上的实验证明了我们的解析器的有效性。
2018-08-12 cs.CL
Improving a Neural Semantic Parser by Counterfactual Learning from Human Bandit Feedback
Heidelberg University（海德堡大学）
来自人类强盗反馈的反事实学习描述了一种场景，其中记录用户对历史系统输出质量的反馈并用于改进目标系统。我们展示了如何将这种学习框架应用于神经语义解析。从机器学习的角度来看，关键的挑战在于对估计器进行适当的重新加权，以避免反事实学习中的已知退化，同时仍然适用于随机梯度优化。为了与人类用户进行实验，我们设计了一个易于使用的界面来收集人类对语义解析的反馈。我们的工作是第一个表明，语义解析器可以显着提高从记录的人类反馈数据的反事实学习。
2018-11-30 cs.CL cs.LG stat.ML
Extending a Parser to Distant Domains Using a Few Dozen Partially Annotated Examples
Allen Institute for AI（艾伦人工智能研究所）；Seattle, WA（西雅图（华盛顿州））
我们重新审视神经时代解析器的领域自适应。首先，我们表明，最近的进展，字表示大大减少了领域自适应的需要时，目标域是句法相似的源域。作为证据，我们训练一个解析器在华尔街日报单独实现超过90%F1的布朗语料库。对于语法上更远的域，我们提供了一种简单的方法来调整解析器，只使用几十个部分注释。例如，我们使用大约五打训练样本，将保持集合中无错误几何域解析的百分比从45%增加到73%。在这个过程中，我们展示了一个新的国家的最先进的单一模型的结果在华尔街日报测试集的94.3%。这比之前的92.6%的最新技术水平绝对增加了1.7%。
2018-05-16 cs.CL
Identifying Domain Adjacent Instances for Semantic Parsers
University of Washington（华盛顿大学）；Google Inc.（谷歌公司）
当一个句子的语义不能在语义解析器的输出模式中表示时，解析将不可避免地失败。这些实例的检测通常被视为域外分类问题。然而，还有一种更微妙的场景，其中测试数据是从同一个域中提取的。除了形式化这个问题的域邻接，我们提出了各种基线，可以用来解决它的比较。我们还提出了一个新的简单的句子表示，强调意想不到的话。这种方法提高了在域内和域相邻实例上运行的下游语义解析器的性能。
2018-08-26 cs.CL
A Higher-Order Semantic Dependency Parser
Southeast University（东南大学）；Key Laboratory of Computer Network and Information Integration (Southeast University)（计算机网络和信息集成重点实验室（东南大学））
高阶特征在语义依存句法分析中带来了显著的准确性增益。然而，建模高阶特征与精确推理是NP难的。图神经网络（GNNs）已被证明是一种有效的工具，用于解决NP难问题的近似推理在许多图学习任务。受GNNs成功的启发，我们研究通过应用GNNs构建高阶语义依赖解析器。GNN不是从中间解析图中显式地提取高阶特征，而是通过堆叠多个GNN层来简洁地聚合高阶信息。实验结果表明，我们的模型在SemEval 2015 Task 18英语数据集上的性能优于以前最先进的解析器。
2022-01-27 cs.CL
Interleaving Syntax and Semantics in an Efficient Bottom-Up Parser
我们描述了一个有效的自下而上的分析器，交错的语法和语义结构的建设。提出了两种通过减少局部歧义来减少搜索的技术：有限左上下文约束用于减少局部句法歧义，延迟排序约束应用用于减少局部语义歧义。我们实验评估这些技术，并显示显着减少图表边缘的数量和总解析时间。该分析器的强大处理能力在其用于提高语音识别器的准确性中得到了证明。
1994-07-05 cmp-lg cs.CL
Learning Joint Semantic Parsers from Disjoint Data
Paul G. Allen School of Computer Science & Engineering, University of Washington（华盛顿大学保罗·G·艾伦计算机科学与工程学院）；School of Computer Science, Carnegie Mellon University（卡内基梅隆大学计算机科学学院）
我们提出了一种新的方法来学习语义分析器从多个数据集，即使目标语义形式主义是截然不同的，底层语料库不重叠。我们处理这样的“不相交”的数据，通过治疗注释未观察到的形式主义作为潜在的结构化变量。在最先进的基础上，我们通过对框架语义解析和语义依存句法分析进行联合建模，展示了它们的改进。
2018-04-17 cs.CL
Recovering From Parser Failures: A Hybrid Statistical/Symbolic Approach
我们描述了一个混合的统计/符号的方法来修复解析器故障的语音到语音翻译系统的实现。我们描述了一个模块，作为输入的碎片解析，并返回一个修复的意义表示。它与说话者协商话语的完整含义是什么，通过生成关于如何将部分解析的片段组合在一起形成连贯的含义表示的假设。通过利用统计和符号信息，它将其修复假设限制在那些既可能又有意义的假设上。因为它在使用过程中更新其统计模型，所以它会随着时间的推移提高其性能。
1994-07-28 cmp-lg cs.CL
One Semantic Parser to Parse Them All: Sequence to Sequence Multi-Task Learning on Semantic Parsing Datasets
Amazon Alexa AI（亚马逊Alexa人工智能部门）
语义解析器将自然语言话语映射到意义表示。缺乏一个单一的意义表示标准导致了大量语义解析数据集的产生。为了统一不同的数据集和训练一个单一的模型，他们，我们调查使用多任务学习（MTL）架构。我们使用五个数据集（Geoquery，NLMaps，TOP，Overnight，AMR）进行实验。我们发现，跨数据集共享整个网络的MTL架构比单任务基线产生了具有竞争力或更好的解析准确性，同时将参数总数减少了68%。我们进一步提供的证据表明，MTL也有更好的组合泛化比单任务模型。我们还提出了任务抽样方法的比较，并提出了一个有竞争力的替代广泛的比例抽样策略。
2021-06-14 cs.CL
Compositional Generalization Requires Compositional Parsers
Saarland University（萨尔兰大学）
一个快速增长的研究机构对合成泛化研究语义解析器的能力，动态重组训练中看到的语言元素到看不见的序列。我们对最近的COGS语料库（Kim和Linzen，2020）上的序列到序列模型和由组成原则指导的模型进行了系统的比较。尽管seq 2seq模型在词汇任务上表现良好，但在需要新语法结构的结构泛化任务上，它们的准确率接近于零;即使它们被训练来预测语法而不是语义，也是如此。相比之下，组合模型在结构泛化方面达到了近乎完美的准确性;我们提出了来自AM解析器的新结果（Groschwitz et al.，2021年）。我们的研究结果表明，结构泛化是组成泛化的一个关键措施，需要知道复杂结构的模型。
2022-02-24 cs.CL
Building a Neural Semantic Parser from a Domain Ontology
University of Edinburgh（爱丁堡大学）；Stanford University（斯坦福大学）
语义解析是将自然语言话语转换为机器可解释的含义表示的任务，其可以针对诸如数据库的真实世界环境执行。将语义解析扩展到任意领域面临着两个相互关联的挑战：有效且廉价地获得广泛覆盖的训练数据;以及开发一个推广到合成话语和复杂意图的模型。我们使用一个框架来解决这些挑战，该框架允许从领域本体中获取训练数据，并引导神经解析器，该神经解析器递归地构建逻辑形式的推导。在我们的框架中的含义表示所描述的序列的自然语言模板，其中每个模板对应于一个分解的片段的基本含义表示。虽然是人工的，但模板可以被人类理解和解释以创建自然的话语，从而产生平行的三元组话语，含义表示及其分解。这些使我们能够训练一个神经语义解析器，它学会在推导含义表示时编写规则。我们众包训练数据上的六个领域，包括单轮话语表现出丰富的组合性，和顺序的话语，一个复杂的任务是按程序执行的步骤。然后，我们开发神经语义解析器执行这样的合成任务。一般来说，我们的方法允许从给定的领域本体快速，廉价地部署神经语义解析器。
2018-12-25 cs.CL
Constrained Language Models Yield Few-Shot Semantic Parsers
Microsoft Semantic Machines（微软语义机器）
我们探索使用大型预训练语言模型作为Few-Shot语义解析器。语义解析的目标是在给定自然语言输入的情况下生成结构化的含义表示。然而，语言模型被训练以生成自然语言。为了弥合这一差距，我们使用语言模型将输入解释为类似英语的受控子语言，该子语言可以自动映射到目标含义表示。我们的研究结果表明，只有少量的数据和很少的代码转换成类似英语的表示，我们的快速引导语义解析器的蓝图在多个社区任务上产生了令人惊讶的有效性能，大大超过了在相同的有限数据上训练的基线方法。
2021-11-16 cs.CL
Building a Parser That can Afford to Interact with Semantics
自然语言理解程序在处理人类理解者没有太大困难的真实世界文本时，会被可能的句法结构的多样性所困扰。在这项工作中，我分析了分析策略之间的关系，他们遇到的局部歧义的程度，和语义反馈的语法，并提出了一个分析算法称为{ \em头信号左角分析}（HSLC），最大限度地减少局部歧义，同时支持交互式的语法和语义分析。这样的解析器已经在一个名为COMPERE的句子理解程序中实现。
1994-08-31 cmp-lg cs.CL
Learning a Neural Semantic Parser from User Feedback
Allen Institute for Artificial Intelligence（艾伦人工智能研究院）
我们提出了一种方法，快速，轻松地建立自然语言接口的数据库，新的领域，其性能随着时间的推移，根据用户的反馈，并需要最少的干预。为了实现这一点，我们调整神经序列模型，将话语直接映射到具有完整表达能力的SQL，绕过任何中间含义表示。这些模型会立即在线部署，以征求真实用户的反馈，从而标记不正确的查询。最后，SQL的流行便于使用crowd为不正确的预测收集注释，这直接用于改进我们的模型。这种完整的反馈循环，没有中间表示或数据库特定的工程，开辟了构建高质量语义解析器的新方法。实验表明，这种方法可以快速部署任何新的目标域，我们从头开始学习一个在线学术数据库的语义解析器。
2017-04-27 cs.CL
TRANX: A Transition-based Neural Abstract Syntax Parser for Semantic Parsing and Code Generation
Carnegie Mellon University（卡内基梅隆大学）
我们提出TRANX，一个基于转换的神经语义解析器，映射到正式的意义表示（MR）的自然语言（NL）的话语。TRANX使用基于目标MR的抽象语法描述语言的转换系统，这给它带来了两个主要优点：（1）它是高度精确的，使用来自目标MR的语法的信息来约束输出空间并对信息流建模，以及（2）它是高度可概括的，并且可以很容易地应用于新类型的MR，只需编写与MR中允许的结构相对应的新的抽象语法描述。在四个不同的语义解析和代码生成任务上的实验表明，我们的系统是可推广的，可扩展的，有效的，与现有的神经语义解析器相比，注册强大的结果。
2018-10-05 cs.CL cs.PL
On The Ingredients of an Effective Zero-shot Semantic Parser
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）；IBM Research（IBM研究院）
语义解析器将自然语言话语映射成意义表示（例如，程序）。由于需要费力的注释工作，这种模型通常会受到训练数据缺乏的影响。最近的研究已经通过合成来自语法的规范话语和程序的训练样本来执行零样本学习，并进一步释义这些话语以提高语言多样性。然而，这样的合成示例不能完全捕获真实数据中的模式。在本文中，我们通过语言和逻辑差距（Herzig和Berant，2019）的镜头分析了zero-shot解析器，这些镜头量化了规范示例和真实世界用户发布的示例之间的语言和编程模式的差异。我们建议使用改进的语法，更强的释义和有效的学习方法，使用最有可能反映真实用户意图的规范示例来弥合这些差距。我们的模型在两个语义解析基准测试（Scholar，Geo）上实现了强大的性能，零标记数据。
2021-10-15 cs.CL
Bootstrapping a Crosslingual Semantic Parser
Institute for Language, Cognition and Computation（语言、认知与计算研究所）；School of Informatics, University of Edinburgh（爱丁堡大学信息学院）
语义解析的最新进展几乎不考虑英语以外的语言，但专业翻译可能会非常昂贵。我们将在单一语言（如英语）上训练的语义解析器适应新语言和具有最小注释的多个域。我们询问机器翻译是否是训练数据的适当替代品，并将其扩展到使用英语，释义和多语言预训练模型的联合训练来研究自举。我们开发了一个基于transformer的解析器，通过在多个编码器上集成注意力来结合释义，并在德语和中文中提供了新版本的ATIS和Overnight进行评估。实验结果表明，MT可以近似训练数据在一个新的语言准确的分析时，通过多个MT引擎的释义增强。考虑到MT是不够的，我们还发现，使用我们的方法实现的解析精度在2%的完整的翻译使用只有50%的训练数据。
2020-09-23 cs.CL
Genie: A Generator of Natural Language Semantic Parsers for Virtual Assistant Commands
Stanford University（斯坦福大学）；Salesforce, Inc.（赛富时公司）
为了理解不同的自然语言命令，如今的虚拟助手需要使用大量劳动密集型的手动注释语句进行训练。本文介绍了一种方法和Genie工具包，可以处理新的复合命令，大大减少手动工作。我们提倡用虚拟助手程序设计语言（VAPL）形式化虚拟助手的能力，并使用神经语义解析器将自然语言翻译成VAPL代码。Genie只需要一小部分真实的输入句子来验证神经模型。开发人员编写模板来合成数据; Genie使用众包释义和数据增强以及合成数据来训练语义解析器。我们还提出了设计原则，使VAPL语言服从自然语言翻译。我们将这些原则应用于修改Almond虚拟助手使用的语言ThingTalk。我们使用Genie来构建第一个语义解析器，该解析器可以支持带有未加引号的自由形式参数的复合虚拟助手命令。Genie在真实用户输入上达到62%的准确率。我们展示了精灵的一般性表现出19%和31%的改进，比以前的艺术水平的音乐技能，聚合功能，和访问控制。
2019-04-18 cs.CL
UNL Based Bangla Natural Text Conversion - Predicate Preserving Parser Approach
East West University（东西湖大学）
通用网络语言（UNL）是一种声明性的形式语言，用于表示从自然语言文本中提取的语义数据。本文提出了一种新的方法来转换孟加拉语自然语言文本到UNL使用的方法称为谓词保持解析器（PPP）技术。PPP同步执行文本的形态、句法和语义以及词法分析。这种分析产生了一个语义网一样的结构表示使用UNL。我们演示了孟加拉语文本分析PPP技术后，产生UNL文件，然后可以翻译成任何其他合适的自然语言促进机会，通过UNL开发一个通用的语言翻译方法。
2012-06-02 cs.CL
