Learning Cross-lingual Distributed Logical Representations for Semantic Parsing
Singapore University of Technology and Design(新加坡科技设计大学)
随着用于语义解析的多语言数据集的发展,最近的研究工作已经研究了在多语言设置中学习语义解析器的问题。然而,如何提高一个特定语言的单语语义分析器的性能,利用不同语言的数据注释仍然是一个研究问题,是未充分探讨。在这项工作中,我们提出了一项研究,以显示如何学习分布式表示的逻辑形式的数据注释在不同的语言可以用于提高单语语义分析器的性能。我们扩展了现有的两个单语语义解析器,将这种跨语言的分布式逻辑表示的功能。实验表明,我们提出的方法是能够产生改进的语义解析结果的标准多语言GeoQuery数据集。
2018-06-14 cs.CL
AMUSE: Multilingual Semantic Parsing for Question Answering over Linked Data
Bielefeld University(比勒费尔德大学)
在RDF数据上回答自然语言问题的任务近年来受到了广泛的关注,特别是在一系列QALD基准的背景下。该任务包括将自然语言问题映射到可执行形式,例如SPARQL,以便可以从给定的KB中提取答案。到目前为止,提出的大多数系统都是i)单语的,ii)依赖于一组硬编码的规则来解释问题并将其映射到SPARQL查询中。我们提出了第一个多语言QALD管道,该管道从训练数据中导出一个模型,用于将自然语言问题映射为逻辑形式作为概率推理。特别是,我们的方法学会了映射通用的句法依赖表示的语言独立的逻辑形式的基础上DUDES(依赖性为基础的未充分指定的话语表示结构),然后映射到SPARQL查询作为确定性的第二步。我们的模型建立在依赖于从依赖图和相应的语义表示中提取的特征的因子图上。我们依靠近似推理技术,特别是马尔可夫链蒙特卡罗方法,以及样本排名使用排名目标更新参数。我们的重点在于开发的方法,克服词汇差距,并提出了一种新的组合机器翻译和词嵌入的方法,为此目的。作为我们方法的概念证明,我们在英语,德语和西班牙语的QALD-6数据集上评估了我们的方法。
2018-02-26 cs.AI cs.CL
OPERA:Operation-Pivoted Discrete Reasoning over Text
Harbin Institute of Technology(哈尔滨工业大学);JD AI Research(京东人工智能研究院)
机器阅读理解(MRC),需要涉及符号运算的离散推理,例如,加法、排序和计数是一项具有挑战性的任务。根据这种性质,基于语义解析的方法预测可解释但复杂的逻辑形式。然而,逻辑形式的生成是不平凡的,即使是一个小扰动的逻辑形式将导致错误的答案。为了缓解这个问题,提出了基于多预测器的方法来直接预测不同类型的答案并实现改进。然而,他们忽视了符号运算的利用,并遇到了缺乏推理能力和可解释性。为了继承这两种方法的优点,我们提出了OPERA,一个操作为中心的离散推理框架,其中轻量级的符号操作(与逻辑形式相比)作为神经模块,以促进推理能力和可解释性。具体而言,首先选择操作,然后软执行,以模拟答案推理过程。在DROP和RACENUM数据集上的大量实验表明了OPERA的推理能力。进一步的分析验证了其可解释性。
2022-05-04 cs.CL
Context Transformer with Stacked Pointer Networks for Conversational Question Answering over Knowledge Graphs
Technische Universität Darmstadt(达姆施塔特工业大学);University of Bonn(波恩大学);Zerotha Research(泽罗塔研究院);Cerence GmbH(赛轮思有限公司);Osthus GmbH(奥斯图斯有限公司);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
神经语义解析方法已广泛应用于基于知识图谱的问答系统。这样的方法提供了处理具有复杂查询和大量实体的QA数据集的灵活性。在这项工作中,我们提出了一个新的框架名为纸箱,它执行多任务的语义解析处理问题的会话问答在一个大规模的知识图谱。我们的框架包括一个堆栈的指针网络作为一个上下文Transformer模型的扩展,用于解析输入的问题和对话的历史。框架生成可以在知识图谱上执行的动作序列。我们在一个标准数据集上对CARTON进行了评估,以进行复杂的顺序问答,CARTON在该数据集上的表现优于所有基线。具体来说,我们观察到的性能改善F1分数的10个问题类型相比,以前的状态。对于逻辑推理问题,11个绝对点的改善达到。
2021-06-24 cs.CL
From Paraphrasing to Semantic Parsing: Unsupervised Semantic Parsing via Synchronous Semantic Decoding
University of Chinese Academy of Sciences(中国科学院大学);Institute of Software, Chinese Academy of Sciences(中国科学院软件研究所);Meituan(美团)
由于语句和逻辑形式之间存在结构鸿沟和语义鸿沟,语义解析具有挑战性。本文提出了一种无监督的语义解析方法--同步语义解码(SSD),该方法通过联合利用释义和语法约束解码,同时解决语义鸿沟和结构鸿沟。具体来说,我们重新制定语义解析作为一个受约束的释义问题:给定一个话语,我们的模型同步生成其规范的话语和意义表示。在同步解码期间:话语释义受逻辑形式结构的制约,规范话语可以被有控制地释义;语义解码受规范话语语义的引导,规范话语的逻辑形式可以无监督地生成。实验结果表明,SSD是一种很有前途的方法,可以在多个数据集上获得有竞争力的无监督语义解析性能。
2021-06-11 cs.CL
Compositional Semantic Parsing on Semi-Structured Tables
Stanford University(斯坦福大学)
问答语义解析的两个重要方面是知识源的广度和逻辑组合的深度。虽然现有的工作从一个方面到另一个方面,本文同时通过一个新的任务在两个方面取得了进展:使用问答对作为监督,在半结构化表格上回答复杂的问题。核心挑战来自两个复合因素:更广泛的领域导致一组开放式的关系,更深层次的组合性导致逻辑形式空间的组合爆炸。我们提出了一个逻辑形式驱动的解析算法引导强类型约束,并表明它获得了显着的改善自然基线。为了进行评估,我们在维基百科表格上创建了一个包含22,033个复杂问题的新数据集,该数据集可供公众使用。
2015-08-03 cs.CL
Consistent CCG Parsing over Multiple Sentences for Improved Logical Reasoning
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);Ochanomizu University(御茶之水女子大学);Artificial Intelligence Research Center, AIST(日本产业技术综合研究所人工智能研究中心)
在基于形式逻辑的文本蕴涵识别方法中,使用组合范畴语法(CCG)解析器来解析输入前提和假设以获得它们的逻辑公式。在这里,重要的是语法分析器处理句子的一致性;未能识别出相似的句法结构会导致它们之间的谓词论元结构不一致,在这种情况下,后续的定理证明注定要失败。在这项工作中,我们提出了一个简单的方法来扩展现有的CCG解析器来解析一组句子一致,这是实现与马尔可夫随机场(MRF)的句间建模。当与现有的基于逻辑的系统相结合,我们的方法总是在英语和日语的RTE实验显示出改善。
2018-04-19 cs.CL
Zero-Shot Cross-lingual Semantic Parsing
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
最近的跨语言语义解析工作已经成功地将机器翻译应用于将分析器本地化到新的语言。然而,这些进步都是以高质量的机器翻译系统和单词对齐工具为前提的。我们删除这些假设,并研究跨语言语义解析作为一个zero-shot问题,没有并行数据(即,话语-逻辑形式对)的新语言。我们提出了一个多任务的编码器-解码器模型来转移解析知识,以额外的语言只使用英语逻辑形式配对数据和域中的自然语言语料库在每一个新的语言。我们的模型鼓励语言无关的编码,通过联合优化逻辑形式生成与辅助目标设计的跨语言潜在的表示对齐。我们的解析器的性能明显高于基于预防的基线,在某些情况下,与监督的上限竞争。
2022-03-07 cs.CL
Top-down Tree Structured Decoding with Syntactic Connections for Neural Machine Translation and Parsing
Simon Fraser University(西蒙弗雷泽大学)
在神经机器翻译(NMT)系统中增加句法感知解码需要有效的树结构神经网络、句法感知注意模型和对句子结构敏感的语言生成模型。我们利用Alvarez-Melis和Jaakola(2017)首次提出的自上而下的树结构模型DRNN(双循环神经网络)来创建一个名为Seq 2DRNN的NMT模型,该模型将顺序编码器与增强了语法感知注意力模型的树结构解码相结合。与以前的方法,基于语法的NMT使用依存句法分析模型,我们的方法使用选区分析,我们认为提供了有用的信息翻译。此外,我们使用句子的句法结构来添加新的连接到树结构的解码器神经网络(Seq 2DRNN +SynC)。我们比较我们的NMT模型与顺序和最先进的基于语法的NMT模型,并表明我们的模型产生更流畅的翻译,更好的重新排序。由于我们的模型能够同时进行翻译和选区解析,我们还将我们的解析准确率与其他神经解析模型进行了比较。
2018-09-06 cs.CL
Uni-Parser: Unified Semantic Parser for Question Answering on Knowledge Base and Database
Salesforce Research(Salesforce研究院);Yale University(耶鲁大学)
将自然语言问题解析成可执行的逻辑形式是对诸如知识库(KB)或数据库(DB)之类的结构化数据执行问答的有用且可解释的方式。然而,现有的语义解析方法不能适应这两种模式,因为它们遭受的逻辑形式候选人的指数增长,很难推广到看不见的数据。在这项工作中,我们提出了Uni-Parser,一个统一的语义解析器的问答(QA)的知识库和数据库。我们引入原语(KB中的关系和实体,DB中的表名、列名和单元值)作为框架中的基本元素。基元的数量随着KB和DB中检索到的关系的数量而线性增长,这使我们无法处理指数逻辑形式的候选者。我们利用生成器来预测最终的逻辑形式,通过改变和组合具有不同操作(例如选择,在哪里,计数)的顶级原语。通过对比基元排序器对搜索空间进行充分的修剪,生成器能够捕获基元的组合,从而增强了其泛化能力。我们在多个KB和DB QA基准测试中更有效地获得了有竞争力的结果,特别是在组合和zero-shot设置中。
2022-11-09 cs.AI cs.CL cs.PL
Statistical Machine Translation by Generalized Parsing
统计机器翻译(SMT)系统的设计者已经开始采用树结构的翻译模型。涉及树结构翻译模型的系统往往是复杂的。本文旨在降低此类系统的概念复杂性,以便使它们更容易设计、实现、调试、使用、学习、理解、解释、修改和改进。为此,本文对半环分析理论进行了扩展,提出了一种新的抽象分析算法,该算法具有五个功能参数:逻辑、文法、半环、搜索策略和终止条件。然后,文章表明,所有常见的算法,围绕树结构的翻译模型,包括层次对齐,推理参数估计,翻译和结构化评估,可以通过概括这些参数中的两个-语法和逻辑。本文的最后介绍了使用此类通用解析器来训练、应用和评估由树结构翻译模型驱动的SMT系统的方法。
2005-11-24 cs.CL
HPE:Answering Complex Questions over Text by Hybrid Question Parsing and Execution
Salesforce Research(赛富时研究院);Yale University(耶鲁大学)
本文提出HPE框架,通过将复杂问题解析为H-expression中间表示并结合混合执行器,在文本问答中实现了神经与符号方法的优势互补,在多种设置下优于现有方法且提升了可解释性。
2024-01-06 cs.AI cs.CL
Hinting Semantic Parsing with Statistical Word Sense Disambiguation
University of Rochester(罗切斯特大学)
语义解析的任务可以近似为将话语转换为逻辑形式图,其中边表示语义角色,节点表示词义。所得到的表示应该捕获话语的含义并且适合于推理。词义和语义角色是相互依存的,词义分配错误会导致语义角色分配错误,反之亦然。虽然统计方法的词义消歧优于逻辑,基于规则的语义解析器的原始词义分配,这些统计词义消歧系统不产生丰富的角色结构或详细的语义表示的输入。在这项工作中,我们提供了一个统计的WSD系统的提示,以指导逻辑语义解析器产生更好的语义类型分配,同时保持所产生的逻辑形式的合理性。我们观察到F分数提高了10.5%,但是我们发现这种提高是以语法分析的结构完整性为代价的
2020-07-06 cs.CL
Weakly-supervised Neural Semantic Parsing with a Generative Ranker
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
弱监督语义解析器在话语-指称对上进行训练,将逻辑形式视为潜在的。由于搜索空间大和逻辑形式的虚假性,该任务具有挑战性。在本文中,我们介绍了一个神经分析器排名系统的弱监督语义解析。该分析器使用指称的线索从话语生成候选树结构逻辑形式。这些候选人,然后排名的基础上两个标准:他们的可能性执行正确的表示,和他们的协议与话语语义。我们提出了一个预定的培训程序,以平衡这两个目标的贡献。此外,我们建议使用一个神经编码的词典注入先验领域知识的模型。三个Freebase数据集上的实验证明了我们的语义解析器的有效性,达到了最先进的范围内的结果。
2018-08-23 cs.CL
Generating Logical Forms from Graph Representations of Text and Entities
Google(谷歌);Google Research(谷歌研究院)
关于实体的结构化信息对于许多语义解析任务是至关重要的。我们提出了一种方法,使用一个图神经网络(GNN)的架构,将相关的实体和它们的关系在解析过程中的信息。结合解码器复制机制,该方法提供了一种概念上简单的机制来生成具有实体的逻辑表单。我们证明了这种方法在没有预训练的情况下在几个任务中与最先进的方法竞争,并且在与BERT预训练相结合时优于现有方法。
2019-09-25 cs.CL
Symbolic Priors for RNN-based Semantic Parsing
Xerox Research Centre Europe(施乐欧洲研究中心);CNRS(法国国家科学研究中心);LORIA(洛林计算机科学及其应用实验室)
基于递归神经网络(RNN)的Seq2seq模型最近在用于问答的语义解析领域中受到了很多关注。虽然原则上它们可以直接在成对(自然语言话语,逻辑形式)上进行训练,但它们的性能受到可用数据量的限制。为了缓解这个问题,我们建议利用各种来源的先验知识:良好的形式的逻辑形式是由加权上下文无关文法建模的可能性,某些实体存在于输入话语也存在于逻辑形式的加权有限状态自动机建模。语法和自动机通过一个有效的交集算法结合在一起,形成RNN的软指南(“背景”)。我们在Overnight数据集的扩展上测试了我们的方法,并表明它不仅在RNN基线上有很大的改进,而且基于丰富的手工特征集,它的性能优于非RNN模型。
2018-09-20 cs.CL
Neural Machine Translation with Source-Side Latent Graph Parsing
The University of Tokyo(东京大学)
本文提出了一种新的神经机器翻译模型,该模型联合学习句子的翻译和源端潜图表示。与现有的使用句法解析器的流水线方法不同,我们的端到端模型学习潜在图解析器作为基于注意力的神经机器翻译模型的编码器的一部分,从而根据翻译目标优化解析器。在实验中,我们首先表明,我们的模型相媲美的最先进的顺序和流水线的语法为基础的NMT模型。我们还表明,我们的模型的性能可以通过使用少量的树库注释进行预训练来进一步提高。我们最终的集成模型在标准英日翻译数据集上的表现明显优于之前的最佳模型。
2017-07-24 cs.CL
Sentence Rewriting for Semantic Parsing
State Key Laboratory of Computer Sciences(计算机科学国家重点实验室);Institute of Software, Chinese Academy of Sciences, China(中国科学院软件研究所)
语义解析的一个主要挑战是自然语言和目标本体之间的词汇不匹配问题。本文提出了一种基于句子重写的语义解析方法,该方法通过将句子重写为与目标逻辑形式具有相同结构的新形式,有效地解决了语义不匹配问题。具体来说,我们提出了两种常见类型的失配的重写方法:基于字典的方法为1-N失配和基于模板的方法为N-1失配。我们在基准语义解析数据集-- WEBQUESTIONS上对我们的基于句子重写的语义解析器进行了评估。实验结果表明,我们的系统优于基本系统的F1增益3.4%,并生成更准确的逻辑形式和更强大的句子分析。
2019-01-10 cs.CL
Semantic Parsing with Dual Learning
Shanghai Jiao Tong University(上海交通大学)
语义解析将自然语言查询转换为结构化的逻辑形式。注释训练样本的缺乏是该领域的一个根本挑战。在这项工作中,我们开发了一个语义解析框架的双重学习算法,它使语义分析器充分利用数据(标记,甚至未标记)通过双重学习游戏。这种原始模型(语义解析)和对偶模型(查询的逻辑形式)之间的博弈迫使它们相互正则化,并可以从一些先验知识中获得反馈信号。通过利用逻辑形式结构的先验知识,我们提出了一种新的奖励信号在表面和语义水平,往往会产生完整和合理的逻辑形式。实验结果表明,我们的方法在ATIS数据集上取得了新的最先进的性能,并在隔夜数据集上取得了有竞争力的性能。
2019-07-24 cs.AI cs.CL
Cross-domain Semantic Parsing via Paraphrasing
University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
现有的语义解析研究主要集中在域内环境。我们将跨领域语义解析归结为一个领域自适应问题:训练一个源领域的语义分析器,然后使其适应目标领域。由于不同领域的逻辑形式的多样性,这个问题提出了独特的和有趣的挑战。通过将逻辑形式转换为自然语言中的规范话语,将语义解析简化为释义,建立了一个具有通用性和灵活性的注意序列到序列释义模型。我们发现了两个问题,小的微观方差和大的宏观方差,预训练的词嵌入,阻碍了他们的直接使用在神经网络,并提出标准化技术作为补救措施。在流行的Overnight数据集上,它包含八个域,我们表明跨域训练和标准化的预训练词嵌入都可以带来显着的改善。
2017-07-24 cs.CL
An Automatic Machine Translation Evaluation Metric Based on Dependency Parsing Model
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Dublin City University(都柏林城市大学)
基于句法的度量大多通过比较从假设树和参考树中提取的子结构来获得相似性。这些子结构是由人工定义的,由于子结构的长度有限,不能表达树中的所有信息。此外,这些子结构之间的重叠部分被重复计算。为了避免这些问题,我们提出了一种新的自动评价指标的基础上依存句法分析模型,无需定义子结构的人。首先,我们用参考依存树训练一个依存句法分析模型。然后利用依存句法分析模型生成假设依存树和对应的概率。假设的质量可以通过这个概率来判断。为了获得词汇相似度,我们还引入了一元F-分数的新的度量。实验结果表明,新的度量方法在系统级上取得了最佳的性能,在句子级上与METEOR相当。
2016-11-04 cs.CL
RIGA at SemEval-2016 Task 8: Impact of Smatch Extensions and Character-Level Neural Translation on AMR Parsing Accuracy
University of Latvia, IMCS and LETA(拉脱维亚大学数学与计算机科学研究所及LETA)
AMR smatch评分脚本的两个扩展。第一个扩展将smatch评分脚本与C6.0基于规则的分类器相结合,以生成关于评分AMR图中观察到的错误模式频率的人类可读报告。第一个扩展通过向CAMR基线解析器添加一个手工制作的包装器来修复已识别的CAMR解析器错误,从而比最先进的CAMR基线解析器提高了4%。第二个扩展结合了每句smatch与en-encryption方法,用于在同一句的AMR图集合中选择最佳AMR图。第二个修改自动产生进一步0.4%的增益时,ap-plied两个非确定性AMR解析器的输出:一个CAMR+包装器解析器和一个新的字符级神经翻译AMR解析器。对于AMR解析任务,字符级神经翻译比精心优化的单词级神经翻译获得了令人惊讶的7%的增益。总体而言,我们在SemEval-2016官方评分集上实现了smatch F1=62%,在LDC 2015 E86测试集上实现了F1=67%。
2016-04-05 cs.CL
From Parse-Execute to Parse-Execute-Refine: Improving Semantic Parser for Complex Question Answering over Knowledge Base
Sun Yat-Sen University(中山大学)
针对复杂知识库问答的多步推理难题,本文提出解析-执行-细化范式,基于KoPL生成逻辑形式并执行得到中间推理步骤,再用该过程细化模型,推出的PER-KBQA在基准数据集上性能优于现有最优基线。
2023-05-05 cs.AI cs.CL cs.LG
On the Potential of Lexico-logical Alignments for Semantic Parsing to SQL Queries
Cornell University(康奈尔大学);University of Maryland(马里兰大学);Microsoft Research(微软研究院)
用逻辑形式注释的大规模语义解析数据集使监督方法取得了重大进展。但更丰富的监管能起到更大的作用吗?为了探索细粒度的词汇级监督的实用性,我们引入了Squall,这是一个数据集,它通过手动创建的SQL等价物以及SQL和问题片段之间的对齐来丰富11,276个WikiTableQuestions英语问题。我们的注释为编码器-解码器模型提供了新的训练可能性,包括以前因缺乏对齐而无法使用的机器翻译方法。我们提出并测试了两种方法:(1)监督注意;(2)采用一个辅助目标,消除歧义的输入查询表列中的引用。在5折交叉验证中,这些策略在强基线上提高了4.4%的执行准确性。Oracle实验表明,注释比对可以支持高达23.9%的进一步准确性增益。
2020-10-21 cs.AI cs.CL
Evaluating Inter-Bilingual Semantic Parsing for Indian Languages
Microsoft(微软);AI4Bharat;American Express, AI Labs(美国运通人工智能实验室);University of Utah(犹他大学)
针对印度语言缺乏复杂语义解析数据集的问题,本文构建覆盖11种语言的双语间 Seq2seq 数据集 IE-SEMPARSE,并通过多策略评测验证其与现有多语言基准性能高度相关。
2023-06-05 cs.CL
Macro Grammars and Holistic Triggering for Efficient Semantic Parsing
Stanford University(斯坦福大学)
为了从标注中学习语义分析器,学习算法必须在组合上大的逻辑形式空间中搜索与标注的标注一致的逻辑形式。我们提出了一种新的在线学习算法,搜索速度更快的训练进展。这两个关键思想是使用宏语法来缓存迄今为止发现的有用逻辑形式的抽象模式,以及基于句子相似性来有效地检索最相关的模式的整体触发。在WikiTableQuestions数据集上,我们首先扩展了现有模型的搜索空间,将最先进的准确率从38.7%提高到42.7%,然后使用宏语法和整体触发来实现11倍的加速和43.7%的准确率。
2017-08-31 cs.CL
Neural Semantic Parsing by Character-based Translation: Experiments with Abstract Meaning Representations
Center for Language and Cognition Groningen (CLCG), University of Groningen(格罗宁根大学语言与认知中心)
我们评估的字符级翻译方法的神经语义解析的大型语料库的句子注释与抽象意义表示(AMR)。使用序列到序列模型,以及AMR的一些琐碎的预处理和后处理,我们获得了53.1的基线准确度(AMR三元组的F分数)。我们研究了五种不同的方法来改善这个基线结果:(i)重新排序AMR分支以匹配输入句子的词序,将性能提高到58.3;(ii)添加词性标记(自动生成)的输入也显示出改进(57.2);(iii)超级字符的引入也是如此(将频繁字符序列合并为单个字符),达到57.4;(iv)通过使用预训练和平均一组模型来优化训练过程,将性能提高到58.7;(v)添加由现成的解析器获得的银标准训练数据产生最大的改进,导致64.0的F分数。结合所有五种技术,在保持数据上的F分数为71.0,这在AMR解析中是最先进的。这是值得注意的,因为该方法相对简单。
2017-10-09 cs.CL
Universal Semantic Parsing
Stanford University(斯坦福大学);Google Inc.(谷歌公司);University of Edinburgh(爱丁堡大学)
通用语法(UD)提供了一个统一的跨语言的句法表示,旨在推进多语言应用。最近的工作表明,语义解析可以通过将句法依赖转换为逻辑形式来完成。然而,这项工作仅限于英语,不能处理依赖图,这允许处理复杂的现象,如控制。在这项工作中,我们介绍了UDepLambda,UD的语义接口,映射自然语言的逻辑形式,在一个几乎语言独立的方式,可以处理依赖图。我们对Freebase进行问答实验,并提供WebQuestions和GraphQuestions数据集的德语和西班牙语翻译,以促进多语言评估。结果表明,UDepLambda在语言和数据集上的表现优于强基线。对于英语,它比最先进的GraphQuestions提高了4.9 F1点。我们的代码和数据可以在https://github.com/sivareddyg/udeplambda下载。
2017-08-28 cs.CL
Neural Semantic Parsing in Low-Resource Settings with Back-Translation and Meta-Learning
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院);Microsoft Search Technology Center Asia(微软亚洲搜索技术中心)
神经语义解析近年来取得了令人瞩目的成果,但其成功依赖于大量监督数据的可用性。我们的目标是学习神经语义解析器时,只有有限数量的简单规则的先验知识是可用的,没有访问注释程序或执行结果。我们的方法是由规则初始化,并在一个回译范例中使用生成的问题程序对语义解析器和问题生成器进行改进。一个频繁映射模式的短语表是自动生成的,也随着训练的进展而更新,以衡量生成的实例的质量。通过与模型无关的元学习对模型进行训练,既保证了模型对规则覆盖的样本的准确性和稳定性,又使模型具有对规则未覆盖的样本进行良好泛化的通用性。在三个不同领域和程序的基准数据集上的结果表明,我们的方法逐步提高了准确性。在WikiSQL上,我们的最佳模型可以与从外延中学习的SOTA系统相媲美。
2019-09-12 cs.CL
Simple, Fast Semantic Parsing with a Tensor Kernel
University of Sussex(萨塞克斯大学)
我们描述了一个简单的方法,语义解析的基础上的张量积核。我们提取两个特征向量:一个用于查询,一个用于每个候选逻辑形式。然后,我们使用两个向量的张量积训练分类器。我们的系统对两者都使用非常简单的功能,在WebQuestions数据集中获得了40.1%的平均F1分数。这与更复杂的系统相当,但更容易实现,运行速度更快。
2015-07-02 cs.CL
Semantic Parsing with Semi-Supervised Sequential Autoencoders
Google DeepMind(谷歌DeepMind);University of Oxford(牛津大学)
我们提出了一种新的半监督方法的序列转换,并将其应用于语义解析。无监督组件基于生成模型,其中潜在句子生成不成对的逻辑形式。我们将这种方法应用到一些语义解析任务,重点是域有限的访问标记训练数据和扩展这些数据集与综合生成的逻辑形式。
2016-09-29 cs.AI cs.CL cs.NE
A Sketch-Based System for Semantic Parsing
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Center for Data Science, Peking University(北京大学数据科学中心)
本文介绍了我们的语义解析系统,用于NLPCC 2019的开放领域语义解析评估任务。许多以前的工作制定语义解析作为一个序列到序列(seq 2seq)的问题。相反,我们把任务作为一个基于草图的问题,在一个粗略到精细(coarse 2fine)的方式。草图是逻辑形式的高级结构,不包括实体和谓词等低级细节。通过这种方式,我们可以单独优化每个部件。具体来说,我们将这个过程分解为三个阶段:草图分类确定高层结构,而实体标记和匹配网络填补缺失的细节。此外,我们采用seq 2seq方法从整体的角度来评估逻辑形式候选。谓词和实体之间的共现关系也有助于重新排序。我们提交的系统在全测试集上达到了82.53%的精确匹配准确率,在硬测试子集上达到了47.83%,这是NLPCC 2019共享任务2的第三名。在对参数、网络结构和采样进行优化后,在全测试集上的准确率达到84.47%,在硬测试子集上的准确率达到63.08%(我们的代码和数据可以在https://github.com/zechagl/NLPCC2019-Semantic-Parsing上获得)。
2019-09-12 cs.CL
The Best of Both Worlds: Combining Human and Machine Translations for Multilingual Semantic Parsing with Active Learning
Monash University(莫纳什大学)
提出一种结合人工与机器翻译的主动学习方法,通过聚合获取标准迭代选择话语进行人工翻译,显著降低翻译误差与偏差,提升多语言语义解析器准确率。
2023-05-22 cs.AI cs.CL
Learning Structured Natural Language Representations for Semantic Parsing
University of Edinburgh(爱丁堡大学);IBM T.J. Watson Research(IBM T.J. Watson研究院)
我们介绍了一个神经语义解析器,转换自然语言的话语中间表示形式的谓词参数结构,这是诱导与过渡系统,随后映射到目标域。语义解析器使用带注释的逻辑形式或它们的表示进行端到端的训练。我们在各种数据集上获得了有竞争力的结果。归纳的谓词-论元结构揭示了用于语义解析的表征类型,以及这些表征与语言动机表征的不同之处。
2017-06-14 cs.CL
Syntactic Question Abstraction and Retrieval for Data-Scarce Semantic Parsing
NAVER Corp.(NAVER公司)
语义解析的深度学习方法需要大量的标记数据,但注释复杂的逻辑形式是昂贵的。在这里,我们提出了句法问题抽象和检索(SQAR),一种构建神经语义解析器的方法,该方法将自然语言(NL)查询转换为SQL逻辑形式(LF),其中注释示例少于1,000个。SQAR首先通过计算NL查询之间的相似性从训练数据中检索逻辑模式,然后基于检索到的模式的词汇信息来生成最终的LF。我们通过使用WikiSQL训练数据的各种小子集训练模型来验证SQAR,与WikiSQL测试集上的先前最先进的模型相比,LF准确度提高了4.9%。我们还表明,通过使用查询相似性来检索逻辑模式,SQAR可以利用释义数据集,与仅使用WikiSQL数据训练SQAR的情况相比,LF准确率提高了5.9%。与简单的模式分类方法相比,SQAR可以在添加新示例时生成不可见的逻辑模式,而无需重新训练模型。我们还讨论了一种理想的方法来创建成本效益和强大的训练数据集时,数据分布可以近似下的数据饥饿的设置。
2020-05-01 cs.CL cs.LG
Data Recombination for Neural Semantic Parsing
Stanford University(斯坦福大学)
在语义解析中,对清晰的逻辑推理进行建模是至关重要的,这使得没有特定任务先验知识的神经模型难以获得良好的结果。在本文中,我们介绍了数据重组,一种新的框架注入这样的先验知识模型。从训练数据中,我们归纳出一个高精度的同步上下文无关文法,它捕获了语义解析中常见的重要条件独立属性。然后,我们训练一个序列到序列递归网络(RNN)模型,该模型具有一种新的基于注意力的复制机制,该机制基于从该语法中采样的数据点,从而教授模型这些结构属性。数据重组提高了我们的RNN模型在三个语义解析数据集上的准确性,从而为具有可比监督的模型在标准GeoQuery数据集上带来了新的最先进性能。
2016-06-11 cs.CL
Semantic Parsing for Task Oriented Dialog using Hierarchical Representations
Facebook Conversational AI(Facebook 对话人工智能);Facebook AI Research(Facebook 人工智能研究院)
面向任务的对话系统通常首先将用户话语解析为包括意图和槽的语义框架。以前关于面向任务的意图和槽填充工作的工作被限制为每个查询一个意图和每个令牌一个槽标签,因此无法对复杂的组合请求进行建模。替代的语义解析系统已经将查询表示为逻辑形式,但是这些对于注释和解析是具有挑战性的。我们提出了一个层次化的语义解析的注释方案,允许组合查询的表示,并可以有效地和准确地解析标准的选区解析模型。我们发布了一个44k注释查询的数据集(fb.me/semanticparsingdialog),并表明解析模型在这个数据集上的性能优于序列到序列的方法。
2018-10-18 cs.CL
A Survey on Semantic Parsing
Oracle Labs(甲骨文实验室);University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校)
当今世界上大量的信息存储在结构化和半结构化的知识库中。有效和简单的方法来查询它们是必不可少的,必须不限于只有那些谁在正式的查询语言的专业知识。语义解析领域涉及将自然语言话语转换为可以在知识库上容易地执行的逻辑形式。在这项调查中,我们研究了语义解析系统的各个组成部分,并讨论了突出的工作,从最初的基于规则的方法,目前的神经方法,程序合成。我们还讨论了使用不同级别的监督操作的方法,并强调了学习此类系统所面临的关键挑战。
2019-05-29 cs.CL
Neural Machine Translation for Bilingually Scarce Scenarios: A Deep Multi-task Learning Approach
Faculty of Information Technology, Monash University(莫纳什大学信息技术学院)
神经机器翻译需要大量的并行训练文本来学习质量合理的翻译模型。这对于没有足够的平行文本的语言对来说尤其不方便。在本文中,我们使用单语的语言资源在源端来解决这个具有挑战性的问题的基础上的多任务学习方法。更具体地说,我们支架机器翻译任务的辅助任务,包括语义解析,句法分析,和命名实体识别。这有效地将语义和/或句法知识注入到翻译模型中,否则这将需要大量的训练双文本。我们实证评估,并显示我们的多任务学习方法的有效性三个翻译任务:英语到法语,英语到波斯语,英语到越南语。
2018-05-11 cs.CL
A Theorem-Proving-Based Evaluation of Neural Semantic Parsing
Kyoto University(京都大学);Keio University(庆应大学);Kikagaku Inc.(麒麟株式会社)
本文指出 Smatch 等图匹配指标仅捕捉表面重叠而非逻辑等价,通过结合自动定理证明重新评估神经语义解析器,发现图匹配表现好的模型常无法生成逻辑等价公式,归一化能提升逻辑充分性,凸显了逻辑敏感评估的必要性。
2025-10-13 cs.CL
Robust Incremental Neural Semantic Graph Parsing
University of Oxford(牛津大学);DeepMind
将句子解析为具有语言表达性的语义表示是自然语言处理的一个关键目标。然而,统计分析几乎完全集中在双语依赖或特定领域的逻辑形式。我们提出了一个神经编码器-解码器转换为基础的解析器,这是第一个全覆盖的最小递归语义(MRS)的语义图解析器。该模型架构使用基于堆栈的嵌入功能,预测图与unexicalized谓词及其令牌对齐。我们的解析器比MRS上基于注意力的基线更准确,并且在附加的抽象意义表示(AMR)基准上,GPU批处理使其比基于语法的高精度解析器快一个数量级。此外,我们的MRS解析器的86.69%Smatch分数高于AMR解析的上限,使MRS成为一个有吸引力的选择作为语义表示。
2017-07-27 cs.CL
XRICL: Cross-lingual Retrieval-Augmented In-Context Learning for Cross-lingual Text-to-SQL Semantic Parsing
University of Waterloo(滑铁卢大学);Penn State University(宾夕法尼亚州立大学)
使用大语言模型的上下文学习最近在语义解析任务(如文本到SQL翻译)中显示出令人惊讶的结果。使用几个question-SQL对的示例来验证GPT-3或Codex可以产生非常好的结果,可以与最先进的基于微调的模型相媲美。然而,现有的工作主要集中在英语数据集,这是未知的大语言模型是否可以作为其他语言的竞争力的语义解析器。为了弥补这一差距,我们的工作重点是跨语言的文本到SQL的语义解析翻译非英语的话语到SQL查询的基础上的英语模式。我们考虑一个zero-shot迁移学习设置,假设我们没有任何标记的例子在目标语言(但有注释的例子在英语)。这项工作介绍了XRICL框架,学习检索相关的英语范例为一个给定的查询构造提示。我们还包括目标语言的全局翻译范例,以促进大语言模型的翻译过程。为了系统地评估我们的模型,我们构建了两个新的基准数据集,XSpider和XKaggle-dbqa,其中包括中文,越南语,波斯语和印地语的问题。我们的实验表明,XRECL有效地利用了大型预训练的语言模型,以超越现有的基线。数据和代码可在https://github.com/Impavidity/XRICL上公开获取。
2022-10-25 cs.CL
Unveiling the Black Box of PLMs with Semantic Anchors: Towards Interpretable Neural Semantic Parsing
Microsoft Research Asia(微软亚洲研究院)
最近流行的预训练语言模型(PLM)已经极大地改变了语义解析的范式,其中从自然语言语句到结构化逻辑形式的映射现在被公式化为Seq2Seq任务。尽管有前途的性能,以前的基于PLM的方法往往遭受幻觉的问题,由于他们忽视的结构信息包含在句子中,这基本上构成了逻辑形式的关键语义。此外,大多数作品将PLM视为一个黑盒子,其中目标逻辑形式的生成过程隐藏在解码器模块之下,这极大地阻碍了模型的内在可解释性。为了解决这两个问题,我们建议将目前的PLM与分层解码器网络。通过将第一原理结构作为语义锚,我们提出了两个新的中间监督任务,即语义锚提取和语义锚对齐,用于训练分层解码器并以自适应方式探测模型中间表示以及微调过程。我们在几个语义解析基准上进行了密集的实验,并证明了我们的方法可以始终优于基线。更重要的是,通过分析层次解码器的中间表示,我们的方法也使一个巨大的一步,在语义解析领域的PLM的内在可解释性。
2022-12-04 cs.AI cs.CL
Don't paraphrase, detect! Rapid and Effective Data Collection for Semantic Parsing
School of Computer Science, Tel-Aviv University(特拉维夫大学计算机科学学院);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
在通往对话界面的道路上,一个主要的障碍是难以收集将语言话语映射到逻辑形式的数据。数据汇集的一个突出方法是自动生成与逻辑形式配对的伪语言,并通过众包将伪语言解释为自然语言(Wang et al.,2015年)。然而,这种数据汇集过程通常导致对真实数据的低性能,这是由于示例的真实分布与由数据汇集过程引起的分布之间的不匹配。本文深入分析了这一过程中的两个不匹配来源:逻辑形式分布上的不匹配和真实分布与归纳分布之间的语言分布上的不匹配。我们量化这些不匹配的影响,并提出了一种新的数据汇集的方法,减轻他们。假设从真实分布中获得未标记的话语,我们将众包与释义模型相结合,以检测未标记话语的正确逻辑形式。在两个数据集上,我们的方法在真实分布上的平均准确率为70.6,而在基于释义的数据汇集中为51.3。
2019-08-29 cs.AI cs.CL
Discourse Representation Structure Parsing for Chinese
University of Groningen(格罗宁根大学)
该研究探索无标注数据下中文话语表征结构语义解析的可行性,构建数据收集流水线与专用测试集,发现副词是主要难点,且机器翻译加英语解析器的效果略低于直接用中文数据训练。
2023-06-16 cs.CL
Laziness Is a Virtue When It Comes to Compositionality in Neural Semantic Parsing
IBM Research(IBM研究院)
本研究提出一种自底向上的懒惰式神经语义解析生成方法,从逻辑形式叶子节点逐步构建,仅扩展最有希望的候选解析,在CFQ和三个Text-to-SQL数据集上优于通用解析器并具竞争力。
2023-05-07 cs.AI cs.CL
Neural Semantic Parsing over Multiple Knowledge-bases
Tel-Aviv University(特拉维夫大学);IBM Research(IBM研究院)
开发语义解析器的一个基本挑战是缺乏以逻辑形式注释的语言话语形式的强监督。在本文中,我们建议在不同领域的语言中开发结构化语义分析,并在多个知识库(KB)上训练语义分析器,同时在数据集之间共享信息。我们发现,当在解码时提供域的编码时,我们可以通过在多个KB上训练单个序列到序列模型来大幅提高解析精度。我们的模型在Overnight数据集(包含八个域)上实现了最先进的性能,将单个KB基线的性能从75.6%提高到79.6%,同时获得了模型参数数量的7倍减少。
2017-04-24 cs.CL
LyS_ACoruña at SemEval-2022 Task 10: Repurposing Off-the-Shelf Tools for Sentiment Analysis as Semantic Dependency Parsing
Universidade da Coruña(拉科鲁尼亚大学);CITIC
本文解决了结构化的情感分析的问题,使用双仿射语义依赖分析器,大型预训练的语言模型,和公开可用的翻译模型。对于单语设置,我们考虑:(i)在单个树库上进行训练,以及(ii)通过在来自不同语言的树库上进行训练来放松设置,这些树库可以通过跨语言语言模型进行充分处理。对于zero-shot设置和给定的目标树库,我们依赖于:(i)对其他语言的可用树库进行单词级翻译,以获得嘈杂的,不太可能语法的,但带注释的数据(我们在许可证允许的情况下发布尽可能多的数据),以及(ii)合并这些翻译的树库以获得训练数据。在后评估阶段,我们还训练了跨语言模型,这些模型简单地合并了所有英语树库,而没有使用单词级翻译,但获得了更好的结果。根据官方结果,我们在单语和跨语言设置中排名第8和第9。
2022-04-27 cs.CL
Acquiring Annotated Data with Cross-lingual Explicitation for Implicit Discourse Relation Classification
Saarland University(萨尔大学)
隐性语篇关系分类是语篇分析中最具挑战性和重要性的任务之一,因为缺乏连接词作为强有力的语言线索。进一步改进的一个主要瓶颈是训练数据的短缺(约~ PDTB中的16 k实例)。Shi et al.(2017)提出通过利用翻译中的连接词来获取额外的数据:人类翻译者在翻译中明确地标记源语言中隐含的话语关系。使用这种显式连接词的回译提高了话语关系分析的性能。本文讨论了翻译语言的选择是否重要,以及是否可以有效地使用多种翻译成不同的语言来提高附加数据的质量。
2019-04-15 cs.CL
Semantic Parsing with Candidate Expressions for Knowledge Base Question Answering
Pohang University of Science and Technology(浦项科技大学)
本文提出基于候选表达式增强的语义解析器,用于知识库问答,通过引入子类型推断和联合类型规则提升解析效率和准确性。
2025-12-31 cs.CL
Decoupling Structure and Lexicon for Zero-Shot Semantic Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
在新领域中快速构建语义解析器是会话接口的基本挑战,因为当前的语义解析器需要昂贵的监督,并且缺乏推广到新领域的能力。在本文中,我们介绍了一种zero-shot方法来进行语义解析,该方法可以解析看不见的领域中的话语,同时只在其他源领域中的示例上进行训练。首先,我们将话语映射到一个抽象的、独立于域的逻辑形式,它表示逻辑形式的结构,但包含插槽而不是KB常量。然后,我们通过词汇对齐分数和全局推理将插槽替换为KB常量。我们的模型在Overnight数据集中的7个域上达到了53.4%的平均准确率,远远好于其他zero-shot基线,并且与在超过30%的目标域示例上训练的解析器一样好。
2018-09-22 cs.AI cs.CL
Towards Transparent Interactive Semantic Parsing via Step-by-Step Correction
The Ohio State University(俄亥俄州立大学)
现有的语义解析研究主要集中在将自然语言的话语映射到相应的逻辑形式上。然而,由于自然语言可能包含大量的歧义和可变性,这是一个困难的挑战。在这项工作中,我们研究了一个交互式的语义解析框架,解释预测的逻辑形式一步一步的自然语言,使用户能够通过自然语言反馈个别步骤进行更正。我们专注于问答知识库(KBQA)作为我们的框架的实例,旨在增加解析过程的透明度,并帮助用户适当地信任最终的答案。为此,我们构建了INSPIRED,这是一个来自ComplexWebQuestions数据集的众包对话数据集。我们的实验表明,与人类反馈的交互式框架有可能大大提高整体解析精度。此外,我们开发了一个对话模拟管道,以评估我们的框架w.r.t.各种最先进的KBQA模型,而无需进一步的众包工作。结果表明,我们的交互式语义解析框架承诺是有效的跨这些模型。
2022-03-28 cs.AI cs.CL
From Hypothesis to Premises: LLM-based Backward Logical Reasoning with Selective Symbolic Translation
本文提出HBLR框架,通过结合自信符号翻译与假设驱动反向推理,提升逻辑推理的准确性和效率。
2025-12-03 cs.CL
Divide and Translate: Compositional First-Order Logic Translation and Verification for Complex Logical Reasoning
KAIST(韩国科学技术院);MIT(麻省理工学院)
本文提出 CLOVER 方法,通过将自然语言句子组合式地解析并翻译为一阶逻辑公式,再结合 SAT 求解器进行语义验证,从而提升 LLM 在复杂逻辑推理任务上的表现,并在七个基准上取得最优结果。
2025-02-25 cs.CL