IncSQL: Training Incremental Text-to-SQL Parsers with Non-Deterministic Oracles
Cornell University（康奈尔大学）；Stanford University（斯坦福大学）；Microsoft Research（微软研究院）；Microsoft Business Application Group（微软商业应用集团）
我们提出了一个序列到动作解析方法的自然语言SQL任务，增量填充槽的SQL查询与可行的行动从预定义的库存。考虑到通常有多个正确的SQL查询具有相同或非常相似的语义的事实，我们从句法分析技术中汲取灵感，并提出用非确定性预言机训练我们的序列到动作模型。我们在WikiSQL数据集上评估了我们的模型，并在测试集上实现了83.7%的执行准确率，比传统静态预言机训练的模型有2.1%的绝对改进，假设一个正确的目标SQL查询。当进一步与执行引导解码策略相结合时，我们的模型以87.1%的执行准确率设置了新的最先进的性能。
2018-10-01 cs.AI cs.CL cs.DB
Iterative Utterance Segmentation for Neural Semantic Parsing
Microsoft Research Asia（微软亚洲研究院）
神经语义解析器通常无法解析长而复杂的话语到正确的意义表示，由于缺乏利用的原则组合。为了解决这个问题，我们提出了一个新的框架，通过迭代话语分割提高神经语义解析器。给定一个输入话语，我们的框架迭代两个神经模块之间：一个分段器用于从话语中分割一个跨度，和一个解析器用于将跨度映射到部分含义表示。然后，这些中间的分析结果被组合成最终的意义表示。一个关键的优点是，这个框架不需要任何手工模板或额外的标记数据的话语分割：我们实现这一点，通过提出一种新的训练方法，其中解析器提供伪监督的分割器。在Geo，ComplexWebQuestions和Formulas上的实验表明，我们的框架可以持续提高不同领域的神经语义解析器的性能。在需要组合泛化的数据分割上，我们的框架带来了显着的准确性提高：Geo 63.1到81.2，Formulas 59.7到72.7，ComplexWebQuestions 27.1到56.3。
2020-12-13 cs.CL
One Semantic Parser to Parse Them All: Sequence to Sequence Multi-Task Learning on Semantic Parsing Datasets
Amazon Alexa AI（亚马逊Alexa人工智能部门）
语义解析器将自然语言话语映射到意义表示。缺乏一个单一的意义表示标准导致了大量语义解析数据集的产生。为了统一不同的数据集和训练一个单一的模型，他们，我们调查使用多任务学习（MTL）架构。我们使用五个数据集（Geoquery，NLMaps，TOP，Overnight，AMR）进行实验。我们发现，跨数据集共享整个网络的MTL架构比单任务基线产生了具有竞争力或更好的解析准确性，同时将参数总数减少了68%。我们进一步提供的证据表明，MTL也有更好的组合泛化比单任务模型。我们还提出了任务抽样方法的比较，并提出了一个有竞争力的替代广泛的比例抽样策略。
2021-06-14 cs.CL
Neural Semantic Parsing with Extremely Rich Symbolic Meaning Representations
University of Groningen（格罗宁根大学）
本文提出基于词汇本体层次结构的组合符号表示及神经分类语义解析器，虽在标准指标上略逊于传统模型，但在处理词汇外概念时表现更优，促进分布意义与符号表示的融合。
2024-09-18 cs.CL
Sequential Graph Dependency Parser
New York University（纽约大学）；Facebook AI Research（脸书人工智能研究院）
我们提出了一种非投射依存句法分析的方法，通过增量预测一组边缘。由于边缘没有预先指定的顺序，我们提出了一个基于集合的学习方法。我们的方法融合了图，过渡，和容易的第一次解析，包括一个特殊情况下的解析器的先前状态。所提出的基于转换的方法成功地解析了近最先进的投射和非投射语言，而无需假设一定的解析顺序。
2019-10-23 cs.CL cs.LG stat.ML
Is neural semantic parsing good at ellipsis resolution, or isn't it?
Center for Language and Cognition（语言认知中心）；University of Groningen（格罗宁根大学）
针对神经语义解析器在强上下文敏感的动词短语省略现象上的表现问题，本文构建含120个省略案例的挑战集，测试发现解析器表现不佳，数据增强可改善，且错误源于复杂语境而非语义复制难度。
2025-08-20 cs.CL
Evaluating Scoped Meaning Representations
University of Groningen（格罗宁根大学）
语义解析为提高自然语言理解提供了许多机会。我们提出了一个语义注释的平行语料库，英语，德语，意大利语和荷兰语的句子与范围的意义表示，以捕捉语义的否定，模态，量化和预设触发器。语义形式主义是基于话语表征理论，但概念是由词网同义词和动词网关系的主题角色。将限定范围的意义表示翻译成子句集使我们能够比较它们，以便进行语义分析器评估和检查翻译。这是通过计算匹配子句的精确度和召回率来完成的，与抽象意义表示的方式类似。我们表明，我们的匹配工具评估范围的含义表示是准确和有效的。将此匹配工具应用于三个基线语义解析器，得到的F分数在43%和54%之间。一个试点研究进行自动寻找意义的变化，通过比较翻译的意义表征。这种比较结果是（i）发现注释错误和（ii）发现我们的语义分析需要改进的实例的另一种方法。
2018-04-10 cs.CL
On The Ingredients of an Effective Zero-shot Semantic Parser
Carnegie Mellon University（卡内基梅隆大学）；Google Research（谷歌研究院）；IBM Research（IBM研究院）
语义解析器将自然语言话语映射成意义表示（例如，程序）。由于需要费力的注释工作，这种模型通常会受到训练数据缺乏的影响。最近的研究已经通过合成来自语法的规范话语和程序的训练样本来执行零样本学习，并进一步释义这些话语以提高语言多样性。然而，这样的合成示例不能完全捕获真实数据中的模式。在本文中，我们通过语言和逻辑差距（Herzig和Berant，2019）的镜头分析了zero-shot解析器，这些镜头量化了规范示例和真实世界用户发布的示例之间的语言和编程模式的差异。我们建议使用改进的语法，更强的释义和有效的学习方法，使用最有可能反映真实用户意图的规范示例来弥合这些差距。我们的模型在两个语义解析基准测试（Scholar，Geo）上实现了强大的性能，零标记数据。
2021-10-15 cs.CL
Joint learning of ontology and semantic parser from text
Jožef Stefan International Postgraduate School（约热夫·斯特凡国际研究生院）
语义解析方法用于捕获和表示文本的语义。捕捉文本中所有概念的意义表示可能并不总是可用的，或者可能不够完整。本体提供了一种结构化和推理能力的方式来建模文本集合的内容。在这项工作中，我们提出了一种新的方法来联合学习的本体和语义分析器从文本。该方法是基于半自动归纳的上下文无关文法从语义注释的文本。语法将文本解析成语义树。语法和语义树都用于在多个级别上学习本体-类，实例，分类和非分类关系。该方法在维基百科描述人物的页面的第一句话上进行了评估。
2016-01-05 cs.AI cs.CL
Incremental Parser Generation for Tree Adjoining Grammars
本文描述了树邻接语言（TAL）LR型语法分析的语法分析表的增量生成。提出的算法通过更新到目前为止生成的解析器来处理对输入语法的修改。本文定义了一种用于TAL的LR型解析器的惰性生成，在这种惰性生成中，解析表在解析时根据需要创建。然后，我们描述了一个增量解析器生成器的TAL响应修改的输入语法更新解析表建立至今。
1998-09-18 cs.CL
Compositional Semantic Parsing Across Graphbanks
Saarland University（萨尔大学）
大多数将句子映射到基于图的含义表示的语义解析器都是为特定的图库手工设计的。我们提出了一个组成的神经语义解析器，实现了，第一次，竞争力的准确性在不同范围的graphbanks。BERT嵌入和多任务学习进一步提高了准确性，在DM、PAS、PSD、AMR 2015和EDS上创造了新的技术水平。
2019-07-13 cs.CL
Learning Semantic Parsers from Denotations with Latent Structured Alignments and Abstract Programs
语义解析旨在将自然语言语句映射到机器可解释的含义表示上，也就是针对真实世界环境执行的程序产生表示。弱监督语义解析器在将程序视为潜在的话语-指称对上进行训练。该任务是具有挑战性的，由于大的搜索空间和spuriousness的程序，可以执行到正确的答案，但不推广到看不见的例子。我们的目标是在解析器中灌输一种归纳偏见，以帮助它区分伪程序和正确程序。我们利用这样的直觉，即正确的程序可能会尊重某些结构性约束，如果它们与问题相一致（例如，程序片段不太可能与重叠的文本跨度对齐），并建议将对齐建模为结构化的潜在变量。为了使潜在对齐框架易于处理，我们将解析任务分解为（1）预测部分“抽象程序”和（2）在用差分动态规划建模结构化对齐时对其进行精炼。我们在WIKITABLEQUESTIONS和WIKISQL数据集上获得了最先进的性能。当与标准注意力基线相比时，我们观察到所提出的结构化对齐机制是非常有益的。
2019-09-09 cs.CL
Llamipa: An Incremental Discourse Parser
IRIT（法国图卢兹计算机科学研究所）；CNRS（法国国家科学研究中心）；LINAGORA Labs（LINAGORA实验室）
本文提出Llamipa，一个基于在SDRT风格语料上微调的大语言模型的增量式篇章解析器，通过利用篇章上下文显著提升解析性能，并支持增量处理以服务于下游任务。
2024-10-03 cs.CL
A Survey on Semantic Parsing from the perspective of Compositionality
Indian Institute of Technology Delhi（印度理工学院德里分校）
与之前在语义解析（Kamath和Das，2018）和知识库问答（KBQA）（Chakraborty等人，2019; Zhu等人，2019; Hoffner等人，2017）我们试图从不同的角度来研究语义解析。具体来说，我们将集中在（a）从句法结构（Partee，1975年）的意义组合，（b）语义分析器处理给定的知识库（KB）上下文的词汇变化的能力。在接下来的部分中，在介绍了语义解析领域及其在KBQA中的应用之后，我们将描述使用语法形式主义CCG（Steedman，1996）的意义表示。我们将在第2节讨论使用形式语言的语义组合。在第3节中，我们将考虑使用形式语言的系统，例如$λ$ -演算（Steedman，1996），$λ$ -DCS（Liang，2013）。第4节和第5节考虑使用结构化语言的逻辑形式的语义分析器。第6节是关于不同的基准数据集ComplexQuestions（Bao et al.，2016）和GraphQuestions（Su et al.，2016），可用于评估语义解析器回答本质上高度组合的复杂问题的能力。
2020-09-29 cs.CL
On Robustness of Neural Semantic Parsers
Monash University（莫纳什大学）；Deakin University（迪肯大学）
语义解析将自然语言的话语映射为逻辑形式，这是许多高级自然语言处理问题的基础。语义解析器通过深度神经网络获得性能提升，但继承了对抗性示例的漏洞。在本文中，我们提供了在存在对抗攻击的语义解析器的鲁棒性的实证研究。形式上，语义解析的对手被认为是扰动的话语-LF对，其话语具有与原始话语完全相同的含义。提出了一种基于已有基准语料库的可扩展鲁棒性测试集构造方法。我们的研究结果回答了五个研究问题，在衡量最先进的解析器的鲁棒性测试集的性能，并评估数据增强的效果。
2021-02-03 cs.AI cs.CL
Discontinuous Constituency Parsing with a Stack-Free Transition System and a Dynamic Oracle
University of Edinburgh（爱丁堡大学）；Naver Labs Europe（欧洲Naver实验室）；ILCC, School of Informatics（信息学院ILCC研究所）
我们介绍了一种新的过渡系统不连续选区分析。代替将子树存储在堆栈中-即具有线性时间顺序存取的数据结构-所提出的系统使用具有恒定时间随机存取的一组解析项。这个改变使得有可能为长度为$n$的句子在精确的$4n - 2$转换中构造任何不连续的选区树。在每个解析步骤中，解析器将集合中的每个项与焦点项组合，并以自底向上的方式构造新的成分。解析策略基于这样的假设：大多数句法结构可以被增量解析，并且集合（解析器的内存）平均保持合理的小。此外，我们引入了一个可证明是正确的动态预言机的新的过渡系统，并提出了第一个实验，在不连续选区解析使用动态预言机。我们的解析器获得国家的最先进的结果，在三个英语和德语不连续树银行。
2019-04-01 cs.CL
Transition-based Abstract Meaning Representation Parsing with Contextual Embeddings
University of Oxford（牛津大学）；The University of Edinburgh（爱丁堡大学）
理解和生成语言的能力使人类认知有别于其他已知的生命形式。我们研究了在语义解析任务中，将两种最成功的语言意义途径--统计语言模型和符号语义形式主义--结合起来的方法。建立在一个过渡为基础的，抽象意义表示（AMR）解析器，AmrEager，我们探讨了将预先训练的上下文感知的词嵌入-如BERT和RoBERTa-在AMR解析的问题，贡献一个新的解析器，我们称之为AmrBerger的效用。实验发现，这些丰富的词汇功能单独是不是特别有帮助，在提高分析器的整体性能的SMATCH分数相比，非上下文对应时，而额外的概念信息使系统能够超越基线。通过病变研究，我们发现上下文嵌入的使用有助于使系统对显式句法特征的去除更加鲁棒。这些发现揭示了当前形式的上下文嵌入和语言模型的优点和缺点，并促进了对它们的更深入的理解。
2022-06-13 cs.AI cs.CL cs.LG
Jointly Learning Semantic Parser and Natural Language Generator via Dual Information Maximization
University of Southern California（南加州大学）；The Hong Kong Polytechnic University（香港理工大学）；Northeastern University（东北大学）
语义解析的目的是将自然语言（NL）的话语转化为正式的意义表示（MR），而NL生成器实现了相反的：产生一个NL描述一些给定的MR。尽管这种内在的联系，这两个任务往往是单独研究在以前的工作。在本文中，我们通过一个联合学习框架对这两个任务的二元性进行建模，并证明了它对提高这两个任务的性能的有效性。具体地说，我们提出了一种新的方法的双重信息最大化（DIM），以规范的学习过程中，DIM经验最大化的变化下限的预期联合分布的NL和MR。我们进一步扩展DIM的半监督设置（SemiDIM），它利用未标记的数据的两个任务。在对话管理和代码生成（和摘要）的三个数据集上的实验表明，在监督和半监督设置中，DIM可以一致地提高语义解析和NL生成的性能。
2019-06-13 cs.CL
TRANX: A Transition-based Neural Abstract Syntax Parser for Semantic Parsing and Code Generation
Carnegie Mellon University（卡内基梅隆大学）
我们提出TRANX，一个基于转换的神经语义解析器，映射到正式的意义表示（MR）的自然语言（NL）的话语。TRANX使用基于目标MR的抽象语法描述语言的转换系统，这给它带来了两个主要优点：（1）它是高度精确的，使用来自目标MR的语法的信息来约束输出空间并对信息流建模，以及（2）它是高度可概括的，并且可以很容易地应用于新类型的MR，只需编写与MR中允许的结构相对应的新的抽象语法描述。在四个不同的语义解析和代码生成任务上的实验表明，我们的系统是可推广的，可扩展的，有效的，与现有的神经语义解析器相比，注册强大的结果。
2018-10-05 cs.CL cs.PL
Exploring Neural Methods for Parsing Discourse Representation Structures
Center for Language and Cognition, University of Groningen（格罗宁根大学语言与认知中心）
神经方法最近在语义解析方面取得了一些成功，尽管它们还没有面对基于形式语义产生意义表示的挑战。我们提出了一个序列到序列的神经语义解析器，能够产生高精度的英语句子的话语表示结构（DRS），优于传统的DRS解析器。为了便于学习的输出，我们表示DRS作为一个序列的扁平条款，并介绍了一种方法来验证所产生的DRS是格式良好，可解释的。我们比较了使用字符和单词作为输入的模型，发现（有点令人惊讶）前者比后者表现得更好。我们表明，消除变量名从输出使用德Bruijn指数提高解析器的性能。添加银级训练数据可进一步提高性能。
2018-10-30 cs.CL
Meaning Representation of Numeric Fused-Heads in UCCA
University of Copenhagen（哥本哈根大学）
我们表明，隐式UCCA解析器不解决数字融合头（NFH）一致，这可能会导致不一致的注释，不足的训练数据或建模限制。并显示哪些因素参与其中。我们认为这一现象很重要，因为它在文本中很普遍，对正确的推理至关重要。在意义表示框架中仔细设计和细粒度注释NFH将有利于下游任务，例如机器翻译，自然语言推理和问答，特别是当它们需要数字推理时，如恢复和分类它们。我们正在研究其他意义表征（如AMR）对这种现象的处理。我们鼓励意义表征和计算语言学的研究人员在未来的研究中解决这一现象。
2021-06-04 cs.CL
Hinting Semantic Parsing with Statistical Word Sense Disambiguation
University of Rochester（罗切斯特大学）
语义解析的任务可以近似为将话语转换为逻辑形式图，其中边表示语义角色，节点表示词义。所得到的表示应该捕获话语的含义并且适合于推理。词义和语义角色是相互依存的，词义分配错误会导致语义角色分配错误，反之亦然。虽然统计方法的词义消歧优于逻辑，基于规则的语义解析器的原始词义分配，这些统计词义消歧系统不产生丰富的角色结构或详细的语义表示的输入。在这项工作中，我们提供了一个统计的WSD系统的提示，以指导逻辑语义解析器产生更好的语义类型分配，同时保持所产生的逻辑形式的合理性。我们观察到F分数提高了10.5%，但是我们发现这种提高是以语法分析的结构完整性为代价的
2020-07-06 cs.CL
SmBoP: Semi-autoregressive Bottom-up Semantic Parsing
Tel Aviv University（特拉维夫大学）；Allen Institute for AI（艾伦人工智能研究所）
近年来，用于语义解析的事实标准解码方法是使用自顶向下的深度优先遍历对目标程序的抽象语法树进行自回归解码。在这项工作中，我们提出了一种替代方法：半自回归自自底向上的【形】解析器（SmBoP），在解码步骤$t$构建高度$\leq t$的顶部$K$子树。我们的解析器享有自顶向下自回归解析相比，几个好处。从效率的角度来看，自自底向上的【形】解析允许并行解码特定高度的所有子树，导致对数运行时复杂度而不是线性的。从建模的角度来看，自自底向上的【形】的解析器在每一步都学习有意义的语义子程序的表示，而不是语义空洞的部分树。我们将SmBoP应用于Spider，一个具有挑战性的zero-shot语义解析基准测试，并表明SmBoP导致解码时间的2.2倍加速和训练时间的$\sim$ 5倍加速，与使用自回归解码的语义解析器相比。SmBoP在Spider上获得了71.1的表示准确度，建立了一个新的最先进的技术，以及69.5的精确匹配，与自回归RAT-SQL+GraPPa的69.6精确匹配相当。
2021-04-11 cs.CL
Robust Incremental Neural Semantic Graph Parsing
University of Oxford（牛津大学）；DeepMind
将句子解析为具有语言表达性的语义表示是自然语言处理的一个关键目标。然而，统计分析几乎完全集中在双语依赖或特定领域的逻辑形式。我们提出了一个神经编码器-解码器转换为基础的解析器，这是第一个全覆盖的最小递归语义（MRS）的语义图解析器。该模型架构使用基于堆栈的嵌入功能，预测图与unexicalized谓词及其令牌对齐。我们的解析器比MRS上基于注意力的基线更准确，并且在附加的抽象意义表示（AMR）基准上，GPU批处理使其比基于语法的高精度解析器快一个数量级。此外，我们的MRS解析器的86.69%Smatch分数高于AMR解析的上限，使MRS成为一个有吸引力的选择作为语义表示。
2017-07-27 cs.CL
A Fast Unified Model for Parsing and Sentence Understanding
Stanford Linguistics（斯坦福大学语言学系）；Stanford NLP Group（斯坦福大学自然语言处理组）；Stanford AI Lab（斯坦福大学人工智能实验室）；Stanford Symbolic Systems（斯坦福大学符号系统学系）；Stanford Electrical Engineering（斯坦福大学电气工程系）；Stanford Computer Science（斯坦福大学计算机科学系）
树结构神经网络在解释句子的含义时利用了有价值的句法分析信息。然而，它们存在两个关键的技术问题，使得它们在大规模NLP任务中缓慢而笨拙：它们通常对解析的句子进行操作，并且它们不直接支持批量计算。我们解决这些问题，通过引入堆栈增强解析器解释器神经网络（SPINN），它结合了解析和解释在一个单一的树序列混合模型，通过集成树结构的句子解释到线性序列结构的移位-归约解析器。我们的模型支持批处理计算的速度比其他树结构模型高达25倍，其集成的解析器可以操作未解析的数据，精度损失不大。我们在斯坦福大学NLI蕴涵任务上对其进行了评估，并表明它显着优于其他编码模型。
2016-07-29 cs.CL
Incorporating "Unconscious Reanalysis" into an Incremental, Monotonic Parser
本文介绍了一种基于心理语言学文献中的最新模型的实现。我们定义了一个解析操作，它允许重新分析的依赖关系内的增量和单调的处理架构，并讨论其应用程序中的头初始语言（英语）和头最终语言（日语）的搜索策略。
1995-02-24 cmp-lg cs.CL
From Partial to Strictly Incremental Constituent Parsing
Universidade da Coruña（拉科鲁尼亚大学）；CITIC
本研究构建严格从左到右的增量成分句法分析器，仅用前缀表示输出句法树，并对比非增量与部分增量模型，验证其跨语言有效性。
2024-02-05 cs.CL
Neural Semantic Parsing in Low-Resource Settings with Back-Translation and Meta-Learning
Harbin Institute of Technology（哈尔滨工业大学）；Microsoft Research Asia（微软亚洲研究院）；Microsoft Search Technology Center Asia（微软亚洲搜索技术中心）
神经语义解析近年来取得了令人瞩目的成果，但其成功依赖于大量监督数据的可用性。我们的目标是学习神经语义解析器时，只有有限数量的简单规则的先验知识是可用的，没有访问注释程序或执行结果。我们的方法是由规则初始化，并在一个回译范例中使用生成的问题程序对语义解析器和问题生成器进行改进。一个频繁映射模式的短语表是自动生成的，也随着训练的进展而更新，以衡量生成的实例的质量。通过与模型无关的元学习对模型进行训练，既保证了模型对规则覆盖的样本的准确性和稳定性，又使模型具有对规则未覆盖的样本进行良好泛化的通用性。在三个不同领域和程序的基准数据集上的结果表明，我们的方法逐步提高了准确性。在WikiSQL上，我们的最佳模型可以与从外延中学习的SOTA系统相媲美。
2019-09-12 cs.CL
Open-Vocabulary Semantic Parsing with both Distributional Statistics and Formal Knowledge
Allen Institute for Artificial Intelligence（艾伦人工智能研究院）
传统的语义解析器将语言映射到固定模式中的组合可执行查询。这种映射使他们能够有效地利用大型正式知识库（KB）中包含的信息，Freebase）来回答问题，但它也有根本性的限制--这些语义解析器只能为属于KB手动生成的模式的语言分配含义。最近提出的开放式词汇表语义解析方法通过学习任意语言的执行模型来克服这一限制，基本上使用文本语料库作为一种知识库。然而，所有先前的开放词汇表语义解析方法都用文本信息替换了正式的KB，在它们的模型中没有使用KB。我们展示了如何结合这两种方法所使用的不同的表示，首次提出了一个语义解析器，（1）产生成分，可执行的语言表示，（2）可以成功地利用包含在一个正式的知识库和大型语料库的信息，（3）不限于底层知识库的模式。我们展示了显着提高性能的最先进的基线上的一个开放域的自然语言问答任务。
2016-11-28 cs.CL
A Double-Graph Based Framework for Frame Semantic Parsing
Peking University（北京大学）
框架语义解析是自然语言处理的一项基本任务，它包括框架识别、论元识别和角色分类三个子任务。以往的研究大多忽略了不同子任务和论元之间的关系，对FrameNet中定义的本体框架知识关注较少。在本文中，我们提出了一个知识引导的增量语义分析器与双图（KID）。我们首先介绍了框架知识图谱（FKG），一个异构的图形，包含框架和FE（框架元素）的框架知识，使我们可以得到知识增强表示的框架和FE。此外，我们提出了框架语义图（FSG）来表示框架语义结构提取的文本与图结构。通过这种方式，我们可以将框架语义解析转化为一个增量图构造问题，以加强子任务之间的交互和参数之间的关系。我们的实验表明，KID在两个FrameNet数据集上的F1得分高达1.7，优于以前的最先进的方法。我们的代码可以在www.example.com上找到。https://github.com/PKUnlp-icler/KID
2022-06-18 cs.CL
Does Character-level Information Always Improve DRS-based Semantic Parsing?
The University of Tokyo（东京大学）
本文通过打乱和随机化字符序列，分析基于 DRS 的语义解析器中字符级信息的作用，发现其收益并非来自正确词序，且在英语和德语上没有提升。
2023-06-04 cs.CL
Parser for Abstract Meaning Representation using Learning to Search
University of Maryland（马里兰大学）
我们开发了一种新的技术来解析英语句子抽象意义表示（AMR）使用SEARN，学习搜索的方法，通过建模的概念和关系学习在一个统一的框架。我们评估了我们的解析器在多个数据集从不同的领域，并显示出2%至6%的绝对改善，比最先进的。此外，我们表明，使用最频繁的概念给我们一个基线，是强于国家的最先进的概念预测。我们计划发布我们的解析器供公众使用。
2015-10-26 cs.CL
Low-Resource Task-Oriented Semantic Parsing via Intrinsic Modeling
Facebook（脸书）
面向任务的语义解析模型通常具有高的资源需求：为了支持新的本体（即，意图和插槽），从业者众包成千上万的样本进行监督微调。部分原因是由于事实上的复制生成解析器的结构;这些模型将本体标签视为离散实体，依赖于并行数据来导出其含义。在我们的工作中，我们利用了我们对本体标签的内在了解;例如，SL：TIME_ZONE具有分类类型“slot”和基于语言的跨度“time zone”。利用这种动机，我们通过离线和在线阶段来构建我们的方法。在预处理过程中，对于每个本体标签，我们将其内在属性提取到组件中，并将每个组件插入到库存中作为排序缓存。在训练过程中，我们微调了一个seq 2seq，预先训练好的Transformer将话语和库存映射到帧，解析由话语和本体令牌组成的树。我们的公式鼓励模型将本体标签视为其内在属性的联合，因此在低资源设置中基本上自举学习。实验表明，我们的模型是高度样本效率：使用来自TOPv 2的低资源基准，我们的库存解析器优于复制生成解析器+15 EM绝对（44%相对）时，微调10个样本从一个看不见的域。
2021-04-15 cs.CL
When Only Time Will Tell: Interpreting How Transformers Process Local Ambiguities Through the Lens of Restart-Incrementality
University of Potsdam（波茨坦大学）；Fraunhofer Heinrich Hertz Institute（弗劳恩霍夫海因里希·赫兹研究所）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心（DFKI））
本研究从重启递增性视角探讨 Transformer 如何处理局部歧义，提出一种可解释的状态分析方法，揭示了双向编码器在歧义修改上优于因果模型。
2024-06-02 cs.CL
Measuring Alignment Bias in Neural Seq2Seq Semantic Parsers
Technical University of Catalonia（加泰罗尼亚理工大学）
在深度学习之前，语义解析社区一直对理解和建模自然语言句子及其相应含义表示之间可能的单词对齐范围感兴趣。序列到序列模型改变了研究领域，这表明我们不再需要担心比对，因为它们可以通过注意力机制自动学习。最近，研究人员开始质疑这种假设。在这项工作中，我们调查seq2seq模型是否可以处理简单和复杂的比对。为了回答这个问题，我们增加了流行的地理语义解析数据集对齐注释和创建地理对齐。然后，我们研究了标准seq2seq模型在可以单调对齐的例子与需要更复杂对齐的例子上的性能。我们的实证研究表明，性能显着优于单调对齐。
2022-11-11 cs.AI cs.CL cs.LG
DocAMR: Multi-Sentence AMR Representation and Evaluation
IBM Research AI（IBM研究院人工智能部门）；U.S. Army Research Laboratory（美国陆军研究实验室）；Thorn；University of California, Santa Cruz（加州大学圣克鲁兹分校）；Georgetown University（乔治城大学）
尽管对将英语句子解析成抽象意义表示（AMR）图进行了广泛的研究，并通过Smatch度量将其与黄金图进行了比较，但将完整文档解析成统一的图表示缺乏定义良好的表示和评估。利用从以前的工作中的超参考注释水平，我们引入了一个简单的算法，用于导出一个统一的图形表示，避免了信息丢失的陷阱过度合并和缺乏一致性的合并。接下来，我们描述了对Smatch度量的改进，使其易于比较文档级图，并使用它来重新评估最佳发布的文档级AMR解析器。我们还提出了一种结合顶级性能的AMR解析器和共指消解系统的管道方法，为未来的研究提供了强有力的基线。
2022-05-06 cs.CL
LAGr: Labeling Aligned Graphs for Improving Systematic Generalization in Semantic Parsing
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；ServiceNow Research（ServiceNow研究院）
语义解析是为自然语言话语或问题产生结构化意义表示的任务。最近的研究指出，常用的序列到序列（seq2seq）语义解析器难以系统地概括，即处理需要在新环境中重新组合已知知识的示例。在这项工作中，我们表明，更好的系统化的推广，可以通过生产的意义表示（MR）直接作为一个图，而不是作为一个序列。为此，我们提出了LAGr，标签对齐图算法，通过预测一个完整的多层输入对齐图的节点和边标签，产生语义分析。强监督的LAGr算法需要对齐的图作为输入，而弱监督的LAGr使用近似MAP推理过程来推断最初未对齐的目标图的对齐。在COGS和CFQ组合泛化基准测试中，强监督和弱监督LAGr算法在基线seq2seq解析器上实现了显着改进。
2022-06-01 cs.AI cs.CL
Semantic-aware Contrastive Learning for More Accurate Semantic Parsing
Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所）
由于语义表示是表达细粒度序列级语义的详细而准确的注释，因此通常难以通过自回归方式的最大似然估计（MLE）来训练区分性语义解析器。在本文中，我们提出了一个语义感知的对比学习算法，它可以学习区分细粒度的意义表示，并考虑到整体的序列级语义。具体而言，提出了一种多层次在线抽样算法，以采样混淆和多样化的实例。设计了三个语义感知相似度函数，以准确地测量整体意义表示之间的距离。并提出了一种排序对比损失，将语义相同的实例的表示拉到一起，将否定的实例推到一边。在两个标准数据集上的实验表明，我们的方法在MLE基线上取得了显着的改进，并通过简单地将语义感知的对比学习应用于vanilla Seq2Seq模型，获得了最先进的性能。
2023-01-19 cs.CL
Neural Semantic Parsing by Character-based Translation: Experiments with Abstract Meaning Representations
Center for Language and Cognition Groningen (CLCG), University of Groningen（格罗宁根大学语言与认知中心）
我们评估的字符级翻译方法的神经语义解析的大型语料库的句子注释与抽象意义表示（AMR）。使用序列到序列模型，以及AMR的一些琐碎的预处理和后处理，我们获得了53.1的基线准确度（AMR三元组的F分数）。我们研究了五种不同的方法来改善这个基线结果：（i）重新排序AMR分支以匹配输入句子的词序，将性能提高到58.3;（ii）添加词性标记（自动生成）的输入也显示出改进（57.2）;（iii）超级字符的引入也是如此（将频繁字符序列合并为单个字符），达到57.4;（iv）通过使用预训练和平均一组模型来优化训练过程，将性能提高到58.7;（v）添加由现成的解析器获得的银标准训练数据产生最大的改进，导致64.0的F分数。结合所有五种技术，在保持数据上的F分数为71.0，这在AMR解析中是最先进的。这是值得注意的，因为该方法相对简单。
2017-10-09 cs.CL
Merging Weak and Active Supervision for Semantic Parsing
Carnegie Mellon University（卡内基梅隆大学）
语义解析器将来自用户的自然语言命令（NL）映射到可执行的含义表示（MR），其随后在特定环境中执行以获得用户期望的结果。这种解析器的全监督训练需要由领域专家标注的NL/MR对，这使得它们的收集成本很高。然而，弱监督语义解析器仅从NL和预期执行结果对中学习，留下了潜在的MR。虽然弱监督的成本较低，但从这种投入中学习会带来困难。它要求解析器用非常弱的学习信号搜索很大的空间，并且很难避免以错误的方式获得正确答案的虚假MR。这些因素导致在弱监督和完全监督设置下训练的解析器之间的性能差距。为了弥合这一差距，我们研究了弱监督和主动学习之间的交叉点，它允许学习者主动选择示例并查询手动注释作为额外的监督，以改进在弱监督下训练的模型。我们研究了不同的主动学习策略选择的例子查询，和各种形式的额外监督，这样的查询。我们在两个不同的数据集上评估我们的方法的有效性。在WikiSQL上的实验表明，通过仅注释1.8%的示例，我们在最先进的弱监督基线上提高了6.4%，实现了79.0%的准确率，与完全监督训练的模型仅相差1.3%。在WikiTableQuestions上与人工注释器的实验表明，我们的方法可以提高只有100个活动查询的性能，特别是对于从冷启动学习的弱监督解析器。
2019-11-29 cs.CL cs.LG
LAGr: Label Aligned Graphs for Better Systematic Generalization in Semantic Parsing
语义解析是为自然语言句子产生结构化意义表示的任务。最近的研究指出，常用的序列到序列（seq2seq）语义解析器很难系统地概括，即处理需要在新环境中重新组合已知知识的示例。在这项工作中，我们表明，更好的系统化的推广，可以通过生产的意义表示直接作为一个图，而不是作为一个序列。为此，我们提出LAGr（标签对齐图），一个通用的框架，通过独立预测节点和边缘标签的一个完整的多层输入对齐图产生语义解析。强监督LAGr算法需要对齐的图作为输入，而弱监督LAGr使用近似最大后验推理来推断最初未对齐的目标图的对齐。实验表明，LAGr在强监督和弱监督设置下，在基线seq2seq解析器上实现了系统泛化的显着改进。
2022-06-01 cs.AI cs.CL
SETUP: Sentence-level English-To-Uniform Meaning Representation Parser
Amherst College（阿默斯特学院）
本文提出两种英语到统一意义表示（UMR）的解析方法，其中一种微调了现有的抽象意义表示解析器，另一种利用了通用依赖关系转换器。所提出的最佳模型SETUP在AnCast和SMATCH++评分上分别达到84和91，显示出在自动UMR解析中的显著提升。
2026-05-19 cs.CL
Laziness Is a Virtue When It Comes to Compositionality in Neural Semantic Parsing
IBM Research（IBM研究院）
本研究提出一种自底向上的懒惰式神经语义解析生成方法，从逻辑形式叶子节点逐步构建，仅扩展最有希望的候选解析，在CFQ和三个Text-to-SQL数据集上优于通用解析器并具竞争力。
2023-05-07 cs.AI cs.CL
AMR Dependency Parsing with a Typed Semantic Algebra
Saarland University（萨尔兰大学）；Macquarie University（麦考瑞大学）
我们提出了一个语义解析器的抽象意义表示学习解析字符串到树表示的AMR图的组成结构。这使我们能够使用标准的神经技术进行超标记和依赖树解析，并受到语言原则类型系统的约束。我们提出了两种近似解码算法，实现了最先进的精度和优于强基线。
2018-05-29 cs.CL
Simpler but More Accurate Semantic Dependency Parsing
Stanford University（斯坦福大学）
虽然句法依赖性标注集中在句子的表面或功能结构上，但语义依赖性标注旨在使用图形结构表示来捕获与句子的含义更密切相关的词间关系。我们扩展了Dozat和Manning（2017）基于LSTM的语法解析器，以训练并生成这些图结构。由此产生的系统本身实现了最先进的性能，比之前的更复杂的最先进的系统高出0.6%，标记为F1。添加语言上更丰富的输入表示将边际推得更高，使我们能够以1.9%的F1击败它。
2018-07-03 cs.CL
Cross-lingual Abstract Meaning Representation Parsing
University of Edinburgh（爱丁堡大学）
摘要意义表示（AMR）注释工作主要集中在英语上。为了训练其他语言的语法分析器，我们提出了一种基于注释投影的方法，该方法涉及利用源语言中的注释以及源语言和目标语言的并行语料库。使用英语作为源语言，我们显示了意大利语，西班牙语，德语和中文作为目标语言的可喜成果。除了在非黄金数据集上评估目标解析器之外，我们还提出了一种评估方法，该方法利用英语黄金注释，并且不需要访问目标语言的黄金注释。这是通过颠倒投影过程来实现的：从目标语言解析器学习新的英语解析器，并根据现有的英语黄金标准进行评估。
2018-02-24 cs.CL
Learning a natural-language to LTL executable semantic parser for grounded robotics
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；CBMM（大脑、思维与机器研究中心）
儿童通过观察语言在语境中的使用情况并尝试自己使用语言，显然很容易习得母语。他们这样做没有费力的注释，负面的例子，甚至直接更正。我们通过训练一个接地的语义解析器，向可以做同样事情的机器人迈出了一步，该解析器可以发现可用于执行自然语言命令的潜在语言表示。特别是，我们专注于困难的领域的命令与时间方面，其语义，我们捕捉线性时序逻辑，LTL。我们的解析器是用成对的句子和执行以及执行器来训练的。在训练时，解析器假设输入的意义表示为LTL中的公式。三种相互竞争的压力使语法分析器能够从语言中发现意义。首先，任何假设的句子含义必须足够宽松，以反映所有注释的执行轨迹。其次，执行者--一个预先训练好的端到端LTL规划者--必须发现观察到的轨迹很可能是意义的执行。最后，生成器重建原始输入，鼓励模型找到保存有关命令的知识的表示。这些共同确保了含义既不太笼统也不太具体。我们的模型泛化良好，能够解析和执行机器生成和人类生成的命令，具有几乎相同的准确性，尽管人类生成的句子在开放词典中更加多样和复杂。这里提出的方法不是特定的LTL：它可以应用于任何领域，句子的含义可以假设和执行者可以验证这些含义，从而打开了大门，许多应用程序的机器人代理。
2021-03-17 cs.CL
Semantic Parsing in Task-Oriented Dialog with Recursive Insertion-based Encoder
AWS AI Labs（AWS人工智能实验室）
本文介绍了一种基于递归插入的编码器（RINE），它是一种在面向任务的对话中进行语义解析的新方法。我们的模型包括一个编码器网络，通过预测非终端标签及其在线性化树中的位置，逐步建立语义解析树。在生成时，该模型通过在预测位置递归插入预测的非终结标签直到终止来构造语义解析树。RINE在会话语义解析基准TOP的低资源和高资源版本上实现了最先进的精确匹配精度（Gupta等人，2018年; Chen等人，2020年），优于强大的序列到序列模型和基于转换的解析器。我们还表明，我们的模型设计是适用于嵌套的命名实体识别任务，在那里它的表现等同于国家的最先进的方法设计的任务。最后，我们证明了我们的方法在推理时间比序列到序列模型快2-3.5倍。
2022-03-20 cs.CL
From Incremental Meaning to Semantic Unit (phrase by phrase)
The University of Melbourne（墨尔本大学）
本文描述了一种实验方法，以检测最小语义单位及其意义（DiMSUM），在SemEval 2016任务10的框架内进行了探索。该方法主要是基于词嵌入和基于解析器的功能的组合，并采用单向增量计算的多词表达式的组合嵌入。
2016-04-17 cs.CL
Incremental Interpretation of Categorial Grammar
本文描述了一个范畴语法分析器，它提供了充分的逐词增量解释。解析器不需要句子的片段来形成成分，从而避免了虚假歧义的问题。本文简要讨论了基本范畴语法与其他形式主义，如HPSG，依存语法和Lambek演算之间的关系。它还包括一些问题的讨论时出现的语法分析词汇化，并使用统计技术调整到特定的语言的可能性。
1995-03-14 cmp-lg cs.CL
How Important is Syntactic Parsing Accuracy? An Empirical Evaluation on Rule-Based Sentiment Analysis
Universidade da Coruña（拉科鲁尼亚大学）
句法分析是获取自然语言中句子内部结构的过程，对于需要从自然语言文本或语音中提取含义的人工智能应用程序来说是一项至关重要的任务。情感分析是一个应用的例子，解析最近被证明是有用的。近年来，语法分析算法的准确性有了很大的提高。在这篇文章中，我们进行了一个经验，面向任务的评估，以确定如何解析精度影响性能的最先进的基于规则的情感分析系统，确定从他们的解析树的句子的极性。特别是，我们评估系统使用四个著名的依赖解析器，包括目前的模型与国家的最先进的准确性和更多的innacurate模型，但是，需要较少的计算资源。实验表明，所有的解析器产生类似的好的结果，在情感分析任务，没有他们的准确性有任何相关的影响的结果。由于解析目前是一项计算成本相对较高的任务，不同算法之间的差异很大，这表明情感分析研究人员和用户在选择解析器时应该优先考虑速度而不是准确性;解析研究人员应该研究进一步提高速度的模型，即使在精度上有一些代价。
2017-10-24 cs.AI cs.CL
Constrained Language Models Yield Few-Shot Semantic Parsers
Microsoft Semantic Machines（微软语义机器）
我们探索使用大型预训练语言模型作为Few-Shot语义解析器。语义解析的目标是在给定自然语言输入的情况下生成结构化的含义表示。然而，语言模型被训练以生成自然语言。为了弥合这一差距，我们使用语言模型将输入解释为类似英语的受控子语言，该子语言可以自动映射到目标含义表示。我们的研究结果表明，只有少量的数据和很少的代码转换成类似英语的表示，我们的快速引导语义解析器的蓝图在多个社区任务上产生了令人惊讶的有效性能，大大超过了在相同的有限数据上训练的基线方法。
2021-11-16 cs.CL
Recovering From Parser Failures: A Hybrid Statistical/Symbolic Approach
我们描述了一个混合的统计/符号的方法来修复解析器故障的语音到语音翻译系统的实现。我们描述了一个模块，作为输入的碎片解析，并返回一个修复的意义表示。它与说话者协商话语的完整含义是什么，通过生成关于如何将部分解析的片段组合在一起形成连贯的含义表示的假设。通过利用统计和符号信息，它将其修复假设限制在那些既可能又有意义的假设上。因为它在使用过程中更新其统计模型，所以它会随着时间的推移提高其性能。
1994-07-28 cmp-lg cs.CL
Widely Interpretable Semantic Representation: Frameless Meaning Representation for Broader Applicability
Emory University（埃默里大学）
本文提出新颖语义表示WISeR，通过将AMR编号参数转换为无框架主题角色解决其跨语言领域适用性差问题，实验证明WISeR标注一致性更高且解析准确率全面优于AMR。
2023-09-12 cs.CL
