Semantic Decomposition of Question and SQL for Text-to-SQL Parsing
Ben Gurion University(本·古里安大学)
针对Text-to-SQL跨域复杂查询泛化难题,提出模块化查询计划语言QPL系统分解SQL,扩充Spider数据集,实验证明其优于直接解析,并支持构建对数据库模式敏感的问题分解器且提升可解释性。
2023-10-20 cs.CL
Semantic Parsing for Task Oriented Dialog using Hierarchical Representations
Facebook Conversational AI(Facebook 对话人工智能);Facebook AI Research(Facebook 人工智能研究院)
面向任务的对话系统通常首先将用户话语解析为包括意图和槽的语义框架。以前关于面向任务的意图和槽填充工作的工作被限制为每个查询一个意图和每个令牌一个槽标签,因此无法对复杂的组合请求进行建模。替代的语义解析系统已经将查询表示为逻辑形式,但是这些对于注释和解析是具有挑战性的。我们提出了一个层次化的语义解析的注释方案,允许组合查询的表示,并可以有效地和准确地解析标准的选区解析模型。我们发布了一个44k注释查询的数据集(fb.me/semanticparsingdialog),并表明解析模型在这个数据集上的性能优于序列到序列的方法。
2018-10-18 cs.CL
Question Generation from SQL Queries Improves Neural Semantic Parsing
Sun Yat-sen University(中山大学);Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research(微软研究院)
我们研究如何学习一个语义解析器的国家的最先进的准确性与较少的监督训练数据。我们进行我们的研究WikiSQL,迄今为止最大的手工注释的语义解析数据集。首先,我们证明了问题生成是一种有效的方法,使我们能够学习一个国家的最先进的神经网络基于语义解析器与百分之三十的监督训练数据。其次,我们表明,将问题生成应用于全监督训练数据进一步改进了最先进的模型。此外,我们观察到语义解析器的准确性和训练数据的数量之间存在对数关系。
2018-08-27 cs.CL
A Deep Architecture for Semantic Parsing
University of Oxford(牛津大学)
许多成功的语义解析方法都建立在文本的句法分析之上,并利用分布表示或统计模型将解析结果与特定于本体的查询进行匹配。本文提出了一种新的深度学习架构,通过联合语言语义的两个神经模型来提供语义解析系统。它允许从自然语言语句和问题中生成特定于本体的查询,而不需要解析,这使得它特别适合语法错误或语法不典型的文本,如tweets,以及允许为资源贫乏的语言开发语义解析器。
2014-04-29 cs.CL
AMBROSIA: A Benchmark for Parsing Ambiguous Questions into Database Queries
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
该研究推出名为AMBROSIA的text-to-SQL基准数据集,包含三类带歧义且有对应解读与SQL的问题,通过从零可控生成数据库保证歧义在数据库上下文下仍存在,测试发现先进LLM也难以处理这类歧义。
2024-10-31 cs.CL
Controllable Semantic Parsing via Retrieval Augmentation
Google Research(谷歌研究院)
在语义解析的实际应用中,我们经常希望快速改变解析器的行为,例如使其能够处理新领域中的查询,或者改变其对某些目标查询的预测。虽然我们可以引入展示目标行为的新的训练样本,但是用于在不进行昂贵的模型重新训练的情况下制定这样的行为改变的机制将是优选的。为此,我们提出了可控语义解析器通过范例检索(CASPER)。给定一个输入查询,解析器从检索索引中检索相关的范例,将它们添加到查询中,然后应用生成seq2seq模型来产生输出解析。范例作为一种控制机制,在一般的生成模型:通过操纵检索索引或如何构建增强查询,我们可以操纵的行为分析器。在MTOP数据集上,除了在标准设置上达到最先进的水平外,我们还展示了CASPER可以解析新领域中的查询,将预测适应指定的模式,或者适应新的语义模式,而无需进一步重新训练模型。
2022-02-23 cs.CL
An Improved Approach for Semantic Graph Composition with CCG
Georgetown University(乔治城大学)
本文建立在以前的工作,使用组合范畴语法(CCG),推导出一个透明的语法语义接口的抽象意义表示(AMR)解析。我们定义了新的语义的CCG组合子,更适合于导出AMR图。特别是,我们为应用程序和组合组合子定义了关系式替代方案:这些要求组合的两个成分在一个AMR关系中重叠。我们还提供了一个新的语义类型提升,这是必要的某些建设。使用这些机制,我们建议分析事件性名词,这对AMR图的推导提出了挑战。我们的理论分析将促进未来的工作,强大的和透明的AMR解析使用CCG。
2019-04-10 cs.CL
Don't Parse, Generate! A Sequence to Sequence Architecture for Task-Oriented Semantic Parsing
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Amazon Alexa AI(亚马逊 Alexa 人工智能);Amazon Alexa Search(亚马逊 Alexa 搜索);Amazon Alexa(亚马逊 Alexa)
诸如Amazon Alexa、Apple Siri和Google Assistant之类的虚拟助理通常依赖于语义解析组件来理解对其用户说出的话语执行哪些动作。传统上,基于规则或统计的槽填充系统已被用于解析“简单”查询;即,包含单个动作并且可以被分解成一组不重叠的实体的查询。最近,已经提出了移位-归约解析器来处理更复杂的话语。这些方法虽然功能强大,但对可以解析的查询类型有特定的限制;也就是说,它们要求查询可以表示为解析树。在这项工作中,我们提出了一个统一的体系结构的基础上序列到序列模型和指针生成器网络来处理简单和复杂的查询。与其他作品不同,我们的方法不施加任何限制的语义分析模式。此外,实验表明,它在三个公开可用的数据集(ATIS,SNIPS,Facebook TOP)上实现了最先进的性能,与以前的系统相比,精确匹配精度相对提高了3.3%到7.7%。最后,我们展示了我们的方法在两个内部数据集上的有效性。
2020-01-30 cs.CL
Semantic Parsing for Conversational Question Answering over Knowledge Graphs
University of Edinburgh(爱丁堡大学);Amazon Alexa(亚马逊Alexa)
在本文中,我们感兴趣的是开发语义解析器,理解嵌入在与用户的对话中的自然语言问题,并将其置于具有非常大的词汇量(涵盖数千个概念名称和关系,以及数百万个实体)的通用知识图谱(KG)中的定义上的正式查询。为此,我们开发了一个数据集,其中用户问题用Sparql解析进行注释,系统答案对应于其执行结果。我们提出了两种不同的语义解析方法,并强调了任务的挑战:处理大词汇,建模会话上下文,预测查询与多个实体,并概括到新的问题在测试时。我们希望我们的数据集将作为对话式语义解析器开发的有用测试平台。我们的数据集和模型发布在https://github.com/EdinburghNLP/SPICE。
2023-01-28 cs.CL
Data Augmentation with Hierarchical SQL-to-Question Generation for Cross-domain Text-to-SQL Parsing
Soochow University(苏州大学);Baidu Inc.(百度公司)
数据增强在深度学习时代因其缓解数据稀疏性的能力而引起了大量的研究关注。对于看不见的评估数据库来说,缺乏标记数据正是跨域文本到SQL解析的主要挑战。以前的工作要么需要人工干预来保证生成数据的质量,要么无法处理复杂的SQL查询。本文提出了一个简单而有效的数据增强框架。首先,给定一个数据库,我们自动产生大量的SQL查询的基础上,一个抽象的语法树语法。为了更好的分布匹配,我们要求训练数据中至少80%的SQL模式被生成的查询覆盖。其次,我们提出了一个分层SQL到问题生成模型,以获得高质量的自然语言的问题,这是这项工作的主要贡献。最后,我们设计了一个简单的采样策略,可以在生成大量数据的情况下大大提高训练效率。在三个跨域数据集上的实验,即,英文的WikiSQL和Spider以及中文的DuSQL表明,我们提出的数据增强框架可以在强基线上持续提高性能,而分层生成组件是改进的关键。
2022-11-15 cs.CL
On the Potential of Lexico-logical Alignments for Semantic Parsing to SQL Queries
Cornell University(康奈尔大学);University of Maryland(马里兰大学);Microsoft Research(微软研究院)
用逻辑形式注释的大规模语义解析数据集使监督方法取得了重大进展。但更丰富的监管能起到更大的作用吗?为了探索细粒度的词汇级监督的实用性,我们引入了Squall,这是一个数据集,它通过手动创建的SQL等价物以及SQL和问题片段之间的对齐来丰富11,276个WikiTableQuestions英语问题。我们的注释为编码器-解码器模型提供了新的训练可能性,包括以前因缺乏对齐而无法使用的机器翻译方法。我们提出并测试了两种方法:(1)监督注意;(2)采用一个辅助目标,消除歧义的输入查询表列中的引用。在5折交叉验证中,这些策略在强基线上提高了4.4%的执行准确性。Oracle实验表明,注释比对可以支持高达23.9%的进一步准确性增益。
2020-10-21 cs.AI cs.CL
Latent Tree Learning with Ordered Neurons: What Parses Does It Produce?
New York University(纽约大学);Dept. of Computer Science(计算机科学系)
最近的潜在树学习模型可以学习选区解析,而无需暴露于人类注释的树结构。一个这样的模型是ON-LSTM(Shen等人,2019年),它在语言建模方面进行了训练,在无监督解析方面具有接近最先进的性能。为了更好地理解模型的性能和一致性,以及它生成的解析与黄金标准PTB解析的不同之处,我们用不同的重启复制模型并检查它们的解析。我们发现(1)该模型在不同的重新启动过程中具有合理一致的句法分析行为;(2)该模型难以处理复杂名词短语的内部结构;(3)该模型有高估动词前分裂点高度的倾向。我们推测,这两个问题都可以通过采用不同的训练任务而不是单向语言建模来解决。
2020-10-10 cs.CL
ZOGRASCOPE: A New Benchmark for Semantic Parsing over Property Graphs
Universitat Politècnica de Catalunya(巴塞罗那理工大学);dMetrics
为填补属性图在语义解析研究中缺乏评估资源的空白,本文提出专为属性图和Cypher查询设计的ZOGRASCOPE基准,包含人工标注查询并划分三个分区,通过实验测试了不同LLMs的性能。
2025-05-30 cs.CL
Decoupling SQL Query Hardness Parsing for Text-to-SQL
Central South University(中南大学)
本文提出一种基于解耦SQL查询难度解析的Text-to-SQL框架,通过分析问题和模式将多难度任务简化为单一难度,降低语言模型解析压力,并在Spider开发集上取得微调方法的新最先进性能。
2023-12-29 cs.CL
Joint Video and Text Parsing for Understanding Events and Answering Queries
University of California, Los Angeles(加州大学洛杉矶分校);Intelligent Automation, Inc.(智能自动化公司);ObjectVideo Inc.(ObjectVideo公司)
我们提出了一个框架,解析视频和文本共同理解事件和回答用户查询。我们的框架产生了一个解析图,它代表了视频和文本中的空间信息(对象和场景),时间信息(动作和事件)和因果信息(事件和流畅性之间的因果关系)的组成结构。我们的框架的知识表示是基于时空因果与或图(S/T/C-AOG),共同建模对象,场景和事件的可能的层次结构组成,以及它们的相互作用和相互的上下文,并指定的解析图的先验概率分布。我们提出了一个概率生成模型的联合解析,捕捉输入的视频/文本,其相应的解析图和联合解析图之间的关系。基于概率模型,我们提出了一个联合分析系统,包括三个模块:视频分析,文本分析和联合推理。视频解析和文本解析分别从输入的视频和文本生成两个解析图。联合推理模块通过对视频和文本解析图进行匹配、推理和修正,生成联合解析图。该框架的主要目标是:首先,超越传统的词袋方法,实现视频和文本的深层语义解析:其次,基于S/T/C-AOG联合表示,在空间、时间和因果维度上进行解析和推理;第三,我们表明,深度联合解析促进了后续应用,例如生成叙述性文本描述和以WHO的形式回答查询,什么时间地点和原因我们经验评估我们的系统的基础上比较地面实况以及查询回答的准确性,并取得了令人满意的结果。
2014-02-21 cs.CL cs.CV cs.MM
Low-Resource Domain Adaptation for Compositional Task-Oriented Semantic Parsing
Facebook Inc(Facebook公司)
面向任务的语义解析是虚拟助手的关键组成部分,它负责理解用户的意图(设置提醒,播放音乐等)。深度学习的最新进展已经使几种方法能够成功地解析更复杂的查询(Gupta等人,2018; Rongali等人,2020),但是这些模型需要大量带注释的训练数据来解析对新域(例如,提醒、音乐)的查询。在本文中,我们专注于将面向任务的语义解析器适应于低资源域,并提出了一种新的方法,该方法在10倍的数据减少方面优于有监督的神经模型。特别是,我们确定了两个基本因素低资源领域自适应:更好的表示学习和更好的训练技术。我们的表示学习使用BART(Lewis等人,2019)来初始化我们的模型,该模型的性能优于以前工作中使用的仅编码器预训练表示。此外,我们使用基于优化的元学习进行训练(Finn等人,2017年),以提高泛化到低资源域。在一个新收集的面向多领域任务的语义解析数据集(TOPv 2)上的实验中,该方法的性能明显优于所有的基线方法。
2020-10-07 cs.CL
Conversational Semantic Parsing
Facebook(脸书)
面向任务的辅助系统中的语义解析的结构化表示是面向单轮查询的简单理解。由于表示的局限性,基于会话的属性,如共指消解和上下文结转在流水线系统中的下游处理。在本文中,我们提出了一个语义表示这种面向任务的会话系统,可以表示概念,如共同引用和上下文结转,使全面理解的查询会话。我们发布了一个新的基于会话的,面向任务的分析数据集,包含20k会话,由60k话语组成。与对话状态跟踪挑战不同,数据集中的查询具有组合形式。我们提出了一个新的系列Seq2Seq模型的会话为基础的解析上面,实现更好的或相当的性能,目前国家的最先进的ATIS,SNIPS,TOP和DSTC 2。值得注意的是,我们将DSTC 2上最知名的结果提高了5个点。
2020-09-28 cs.CL cs.LG
RESDSQL: Decoupling Schema Linking and Skeleton Parsing for Text-to-SQL
Renmin University of China(中国人民大学)
本文提出 RESDSQL 框架,通过排序增强编码和骨架感知解码将模式链接与骨架解析解耦,显著提升了 Text-to-SQL 的解析准确性与鲁棒性。
2023-04-10 cs.CL
Tracking Interaction States for Multi-Turn Text-to-SQL Semantic Parsing
University of Science and Technology of China(中国科学技术大学);Baidu Research(百度研究院);iFLYTEK Research(讯飞研究院)
多轮文本到SQL语义解析的任务旨在将交互中的自然语言话语翻译成SQL查询,以便使用通常包含多个表模式的数据库来回答它们。以往的研究通常利用语境信息来丰富话语表征并进一步影响解码过程。而忽略了对由历史SQL查询确定的、与当前话语意图相关的交互状态进行描述和跟踪。本文分别基于模式项和SQL关键字定义了两种交互状态。设计了一个关系型图神经网络和一个非线性层来分别更新这两种状态的表示。然后利用动态模式状态和SQL状态表示来解码与当前话语相对应的SQL查询。在具有挑战性的CoSQL数据集上的实验结果证明了该方法的有效性,该方法在任务排行榜上取得了比其他已发表方法更好的性能。
2020-12-09 cs.CL
Parsing Early Modern English for Linguistic Search
Linguistic Data Consortium(语言数据联盟);University of Pennsylvania(宾夕法尼亚大学)
我们调查的问题是,在过去几年中,NLP的进步是否可以大大增加可用于历史语法研究的数据的大小。这将NLP中的许多常用工具--词嵌入、标记和解析--结合在一起,为自动注释语料库的语言查询服务。我们训练的词性(POS)标记器和语法分析器上的语料库的历史英语,使用ELMo嵌入训练超过十亿字的类似的文本。评估基于标准度量,以及使用解析数据的查询搜索的准确性。
2020-02-24 cs.CL
Error-Aware Interactive Semantic Parsing of OpenStreetMap
Heidelberg University(海德堡大学)
在对诸如OpenStreetMap(OSM)之类的真实世界数据库进行地理查询的语义解析中,不一定存在唯一的正确答案。相反,真相可能在用户眼中,用户需要进入一个交互式设置,在那里可以解决歧义并纠正解析错误。我们的工作提出了一种交互式语义解析的方法,其中执行一个明确的错误检测,并产生一个澄清问题,查明可疑来源的歧义或错误,并将其传达给人类用户。我们的实验结果表明,基于熵的不确定性检测和束搜索的组合,以及对澄清问题,初始解析和用户答案的多源训练,导致解析器上的F1分数提高了1.2%,该解析器在NLMaps数据集上已经执行了90.26%的OSM语义解析。
2021-06-22 cs.CL
Spider4SSC & S2CLite: A text-to-multi-query-language dataset using lightweight ontology-agnostic SPARQL to Cypher parser
Graduate School of Engineering Science(工程科学研究生院);Yokohama National University(横滨国立大学);Faculty of Engineering(工学部)
本文提出Spider4SSC数据集与轻量级本体无关的规则基解析器S2CLite,可将SPARQL转Cypher且无需外部工具,实验显示其解析准确率显著优于现有工具,并生成统一文本到多查询语言数据集。
2025-11-12 cs.CL
Evaluating Semantic Parsing against a Simple Web-based Question Answering Model
Tel-Aviv University(特拉维夫大学)
语义解析擅长分析复杂的自然语言,其中涉及对多个证据的组合和计算。然而,用于语义解析的数据集包含许多可以从单个Web文档中回答的事实问题。在本文中,我们提出了评估语义解析为基础的问答模型进行比较,他们的问答基线查询网页,并提取答案只从网页片段,没有访问目标知识库。我们在COMPLEXQUESTIONS上研究了这种方法,COMPLEXQUESTIONS是一个旨在关注组合语言的数据集,发现我们的模型获得了合理的性能(35 F1与最先进的41 F1相比)。我们在分析中发现,我们的模型在涉及连词的复杂问题上表现良好,但在涉及关系组合和最高级的问题上表现不佳。
2017-07-14 cs.CL
Semantic Parsing for Complex Data Retrieval: Targeting Query Plans vs. SQL for No-Code Access to Relational Databases
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出查询计划语言(QPL)作为SQL的替代目标,利用其模块化结构使神经语义解析器更易生成复杂查询,并通过Spider数据集实验验证,以迭代方式提升复杂组合查询的准确性。
2023-12-22 cs.CL
Spider: A Large-Scale Human-Labeled Dataset for Complex and Cross-Domain Semantic Parsing and Text-to-SQL Task
Department of Computer Science, Yale University(耶鲁大学计算机科学系);Yale University(耶鲁大学)
我们提出了蜘蛛,一个大规模的,复杂的和跨领域的语义解析和文本到SQL数据集注释的11名大学生。它由10,181个问题和5,693个独特的复杂SQL查询组成,涉及200个数据库和多个表,覆盖138个不同的领域。我们定义了一个新的复杂的和跨域的语义解析和文本到SQL的任务,不同的复杂的SQL查询和数据库出现在训练和测试集。通过这种方式,任务要求模型能够很好地泛化到新的SQL查询和新的数据库模式。Spider与以前的大多数语义解析任务不同,因为它们都使用单个数据库,并且在训练集和测试集中使用完全相同的程序。我们用各种最先进的模型进行了实验,最好的模型在数据库拆分设置上仅达到12.4%的精确匹配精度。这表明Spider对未来的研究提出了很大的挑战。我们的数据集和任务可在https://yale-lily.github.io/spider上公开获取
2019-02-02 cs.AI cs.CL
Towards Knowledge-Intensive Text-to-SQL Semantic Parsing with Formulaic Knowledge
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院);National University of Singapore(新加坡国立大学)
在本文中,我们研究的问题,知识密集型的文本到SQL,其中领域知识是必要的解析专家的问题到SQL查询领域特定的表。我们通过构建一个新的中文基准测试KnowSQL来正式化这个场景,该测试由覆盖各个领域的特定领域问题组成。然后,我们通过呈现公式化的知识来解决这个问题,而不是通过注释额外的数据示例。更具体地说,我们构建了一个公式化的知识库作为领域知识库,并提出了一个框架(ReGroupP),利用这种公式化的知识在解析。使用ReGroupP的实验表明,KnowSQL总体上有28.2%的显着改进。
2023-01-03 cs.CL
Evaluating Large Language Models in Semantic Parsing for Conversational Question Answering over Knowledge Graphs
Technical University of Munich(慕尼黑工业大学);National Institute of Advanced Industrial Science and Technology(日本国立产业技术综合研究所)
本文评估了未显式预训练的大型语言模型在基于知识的会话式问答中的语义解析性能,发现少样本提示和微调能显著提升其生成图查询的能力,尤其对零样本表现较差的小模型效果更佳。
2024-01-03 cs.CL cs.IR
A Pilot Study for Chinese SQL Semantic Parsing
Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
语义解析的任务对于对话和问答系统是非常有用的。已经提出了许多数据集来将自然语言文本映射到SQL,其中最近的Spider数据集提供了具有多个表和复杂查询的跨域样本。我们为中文构建了一个Spider数据集,中文目前在这个任务领域是一种资源较少的语言。有趣的研究问题来自语言的独特性,这需要分词,也来自SQL关键字和DB表的列通常用英语编写的事实。我们比较字符和单词为基础的编码器的语义解析器,和不同的嵌入方案。结果表明,基于词的语义分析器是受分割错误和跨语言的词嵌入是有用的文本到SQL。
2019-10-16 cs.CL
A Tale of Two Linkings: Dynamically Gating between Schema Linking and Structural Linking for Text-to-SQL Parsing
University of Virginia(弗吉尼亚大学);Microsoft Research(微软研究院)
在文本到SQL的语义解析中,为生成的SQL查询选择正确的实体(表和列)是至关重要的,也是具有挑战性的;解析器需要将自然语言(NL)问题和SQL查询连接到数据库中的结构化知识。我们制定了两个链接过程,以解决这一挑战:模式链接链接明确的NL提到数据库和结构链接的实体在输出SQL中的数据库模式中的结构关系。直观地说,这两个链接过程的有效性变化的基础上产生的实体,因此,我们建议使用门控机制动态地选择它们之间。将所提出的方法与两个基于图神经网络的语义解析器以及BERT表示相结合,在具有挑战性的Spider数据集上展示了解析准确性的实质性收益。分析表明,我们提出的方法有助于增强结构的模型输出时,生成复杂的SQL查询,并提供更多的解释预测。
2020-11-22 cs.CL
The Role of Output Vocabulary in T2T LMs for SPARQL Semantic Parsing
Universität Hamburg(汉堡大学);Indian Institute of Technology (BHU)(印度理工学院(瓦拉纳西))
本研究分析了T2T模型在SPARQL语义解析中输出词汇表的作用,发现将查询词汇表替换为更贴合LM分词器的词汇表,可在GrailQA数据集上获得17%的绝对性能提升。
2023-05-24 cs.CL
Global Reasoning over Database Structures for Text-to-SQL Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
最先进的语义解析器依赖于自回归解码,每次发出一个符号。当针对在训练时未观察到的复杂数据库(zero-shot)进行测试时,由于解码的局部性质,解析器通常很难在新数据库中选择正确的数据库常量集。在这项工作中,我们提出了一个语义解析器,全局原因的输出查询的结构,使更多的上下文知情的选择数据库常量。我们使用消息传递通过图神经网络软选择一个子集的数据库常量的输出查询,条件的问题。此外,我们训练一个模型来排名查询的基础上,全球对齐的数据库常量的问题的话。我们将我们的技术应用于当前最先进的Spider模型,这是一个具有复杂数据库的zero-shot语义解析数据集,准确率从39.4%提高到47.4%。
2019-08-29 cs.CL
A Hybrid Semantic Parsing Approach for Tabular Data Analysis
Microsoft Research Asia(微软亚洲研究院)
本文提出了一种新的方法,将自然语言问题转换为给定表的SQL查询,它满足了现实世界的数据分析应用程序的三个要求:跨域,多语言和快速启动。我们所提出的方法包括:(1)一个新的数据抽象步骤,使解析表不可知的解析器;(2)一组语义规则,用于解析抽象的数据分析问题,以中间逻辑形式的树派生,以减少搜索空间;(3)一个基于神经的模型作为局部评分功能的跨度为基础的语义解析器结构化优化和有效的推理。实验表明,我们的方法优于国家的最先进的算法在一个大型的开放基准数据集WikiSQL。我们也取得了可喜的成果,在一个小的数据集,更复杂的查询,在英语和中文,这表明我们的语言扩展和快速启动能力。
2019-10-24 cs.AI cs.CL cs.DB
Zero-Shot Grounding of Objects from Natural Language Queries
University of Southern California(南加州大学);Facebook Inc.(脸书公司)
短语基础系统定位由自然语言查询引用的图像中的特定对象。在以前的工作中,这些短语仅限于在训练中遇到的名词,我们将任务扩展到零射击接地(Zero-Shot Grounding,简称ZRG),其中可以包括新颖的“看不见”的名词。当前短语基础系统在2阶段框架中使用显式目标检测网络,其中一个阶段生成稀疏建议,另一个阶段评估它们。在BLOG设置中,生成适当的建议本身成为一个障碍,因为建议生成器是在检测和接地数据集中常见的实体上进行训练的。我们提出了一个新的单阶段模型,称之为CNOGNet,它结合了检测器网络和接地系统,并预测分类得分和回归参数。由于查询和学习类别之间的关系的影响,评估的BLOG系统带来了额外的微妙之处;我们定义了四个不同的条件,将不同程度的难度。我们还引入了新的数据集,从Flickr 30 k实体和Visual Genome中进行子采样,可以对四种条件进行评估。我们的实验表明,在通常的“seen”设置下,RIGNet在Flickr 30 k和ReferIt上实现了最先进的性能,并且在zero-shot设置下的性能明显优于基线。
2019-08-20 cs.CL cs.CV
Retrieval and Augmentation of Domain Knowledge for Text-to-SQL Semantic Parsing
TCS Research Pune, India(TCS研究部,印度浦那);TCS Research Delhi, India(TCS研究部,印度德里)
针对Text-to-SQL任务中现有领域知识依赖临时查询提示的问题,提出数据库层面结构化领域语句关联框架及子串匹配检索方法,在11个真实库、5款LLM上验证了实用性与准确率优势。
2025-10-01 cs.CL
Improving Text-to-SQL Semantic Parsing with Fine-grained Query Understanding
Amazon AWS AI Labs(亚马逊AWS人工智能实验室)
文本到SQL语义解析的研究主要依赖于解析器本身或基于简单启发式的方法来理解自然语言查询。在合成SQL查询时,解析器没有可用的NLQ的显式语义信息,这导致不理想的泛化性能。此外,没有词汇级细粒度的查询理解,查询和数据库之间的链接只能依赖于模糊字符串匹配,这导致在实际应用中的次优性能。鉴于此,本文提出了一个通用的,模块化的神经语义解析框架,是基于令牌级细粒度查询理解。我们的框架包括三个模块:命名实体识别器(NER),神经实体链接器(NEL)和神经语义解析器(NSP)。NER模型通过对查询和数据库进行联合建模,分析用户意图并识别查询中的实体。NEL模型将类型化实体链接到数据库中的模式和单元值。解析器模型利用可用的语义信息和链接结果,并基于动态生成的语法合成树结构的SQL查询。在最新发布的语义解析数据集SQUALL上的实验表明,该模型在WikiTableQuestions(WTQ)测试集上的执行准确率为56.8%,比现有模型高出2.7%.
2022-09-28 cs.CL
Semantic Parsing with Syntax- and Table-Aware SQL Generation
Microsoft Research Asia(微软亚洲研究院);Microsoft AI and Research(微软人工智能与研究院);Harbin Institute of Technology(哈尔滨工业大学)
我们提出了一个生成模型映射到SQL查询的自然语言的问题。现有的基于神经网络的方法通常逐词生成SQL查询,然而,由于问题词和表内容之间的不匹配,所生成的结果的大部分是不正确的或不可执行的。我们的方法解决了这个问题,考虑表的结构和SQL语言的语法。生成的SQL查询的质量通过(1)学习从列名、单元格或SQL关键字复制内容;以及(2)通过利用列-单元格关系来改进WHERE子句的生成而得到显著提高。实验进行WikiSQL,最近发布的数据集最大的问题SQL对。我们的方法显着提高了国家的最先进的执行精度从69.0%到74.4%。
2018-04-23 cs.CL
Open-Vocabulary Semantic Parsing with both Distributional Statistics and Formal Knowledge
Allen Institute for Artificial Intelligence(艾伦人工智能研究院)
传统的语义解析器将语言映射到固定模式中的组合可执行查询。这种映射使他们能够有效地利用大型正式知识库(KB)中包含的信息,Freebase)来回答问题,但它也有根本性的限制--这些语义解析器只能为属于KB手动生成的模式的语言分配含义。最近提出的开放式词汇表语义解析方法通过学习任意语言的执行模型来克服这一限制,基本上使用文本语料库作为一种知识库。然而,所有先前的开放词汇表语义解析方法都用文本信息替换了正式的KB,在它们的模型中没有使用KB。我们展示了如何结合这两种方法所使用的不同的表示,首次提出了一个语义解析器,(1)产生成分,可执行的语言表示,(2)可以成功地利用包含在一个正式的知识库和大型语料库的信息,(3)不限于底层知识库的模式。我们展示了显着提高性能的最先进的基线上的一个开放域的自然语言问答任务。
2016-11-28 cs.CL
QURG: Question Rewriting Guided Context-Dependent Text-to-SQL Semantic Parsing
Beihang University(北京航空航天大学);Tencent Cloud Xiaowei(腾讯云小微)
本文提出QURG方法,通过训练问题重写模型生成重写编辑矩阵,并设计双流矩阵编码器联合建模重写关系与模式链接关系,显著提升了上下文相关Text-to-SQL在SParC和CoSQL数据集上的性能。
2023-05-16 cs.CL
Towards Generalizable and Robust Text-to-SQL Parsing
The Chinese University of Hong Kong(香港中文大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
文本到SQL解析解决了将自然语言问题映射到可执行SQL查询的问题。在实践中,文本到SQL解析器经常遇到各种具有挑战性的场景,要求它们具有通用性和健壮性。虽然大多数现有的工作都解决了特定的泛化或鲁棒性挑战,但我们的目标是以更全面的方式研究它。具体来说,我们认为文本到SQL的解析器应该是(1)在三个泛化级别上可泛化的,即i.i.d.,zero-shot和组合,以及(2)对输入扰动的鲁棒性。为了提高这些能力的解析器,我们提出了一种新的TKK框架,包括任务分解,知识获取,知识组合学习文本到SQL解析的阶段。通过将学习过程划分为多个阶段,我们的框架提高了解析器获取一般SQL知识的能力,而不是捕获虚假模式,使其更具泛化性和鲁棒性。在各种泛化和鲁棒性设置下的实验结果表明,我们的框架在所有场景下都是有效的,并在Spider,SParC和CoSQL数据集上实现了最先进的性能。代码可以在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/tkk上找到。
2022-10-23 cs.CL
Text-to-SQL in the Wild: A Naturally-Occurring Dataset Based on Stack Exchange Data
Columbia University(哥伦比亚大学);Tel Aviv University(特拉维夫大学)
大多数可用的语义解析数据集,包括对自然的话语和逻辑形式,收集的目的是完全训练和评估的自然语言理解系统。因此,它们不包含任何自然发生的话语的丰富性和多样性,人类询问他们需要或好奇的数据。在这项工作中,我们发布了SEDE,这是一个包含12,023对话语和SQL查询的数据集,这些话语和SQL查询是从Stack Exchange网站上的实际使用中收集的。我们发现,这些对包含各种现实世界的挑战,很少反映到目前为止,在任何其他语义解析数据集,提出了一个评估指标的基础上比较部分查询子句,更适合于现实世界的查询,并进行实验与强大的基线,表现出很大的差距,与其他常见的数据集相比,在SEDE的性能。
2021-06-09 cs.CL
Error Detection for Text-to-SQL Semantic Parsing
The Ohio State University(俄亥俄州立大学)
本文提出独立于解析器的 text-to-SQL 错误检测模型,结合代码语言模型与图神经网络学习问题和 SQL 结构,并在跨领域真实错误上训练,实验证明其优于解析器相关不确定性指标。
2023-12-06 cs.CL
T5-SR: A Unified Seq-to-Seq Decoding Strategy for Semantic Parsing
Peking University(北京大学);University of Chinese Academy of Sciences(中国科学院大学);Meituan(美团)
针对seq2seq语义解析存在的模式预测质量差、语义一致性弱的问题,提出含SSQL中间表示和重排序机制的SR解码策略,T5-SR-3b在Spider数据集上取得SOTA结果。
2023-06-14 cs.AI cs.CL
XRICL: Cross-lingual Retrieval-Augmented In-Context Learning for Cross-lingual Text-to-SQL Semantic Parsing
University of Waterloo(滑铁卢大学);Penn State University(宾夕法尼亚州立大学)
使用大语言模型的上下文学习最近在语义解析任务(如文本到SQL翻译)中显示出令人惊讶的结果。使用几个question-SQL对的示例来验证GPT-3或Codex可以产生非常好的结果,可以与最先进的基于微调的模型相媲美。然而,现有的工作主要集中在英语数据集,这是未知的大语言模型是否可以作为其他语言的竞争力的语义解析器。为了弥补这一差距,我们的工作重点是跨语言的文本到SQL的语义解析翻译非英语的话语到SQL查询的基础上的英语模式。我们考虑一个zero-shot迁移学习设置,假设我们没有任何标记的例子在目标语言(但有注释的例子在英语)。这项工作介绍了XRICL框架,学习检索相关的英语范例为一个给定的查询构造提示。我们还包括目标语言的全局翻译范例,以促进大语言模型的翻译过程。为了系统地评估我们的模型,我们构建了两个新的基准数据集,XSpider和XKaggle-dbqa,其中包括中文,越南语,波斯语和印地语的问题。我们的实验表明,XRECL有效地利用了大型预训练的语言模型,以超越现有的基线。数据和代码可在https://github.com/Impavidity/XRICL上公开获取。
2022-10-25 cs.CL
Shift-Reduce Task-Oriented Semantic Parsing with Stack-Transformers
Universidade de Vigo(维戈大学)
本文提出基于Stack-Transformers的移进-归约任务型语义解析器,融合自底向上和按序转移系统,在Facebook TOP的高、低资源设置中均优于现有方法。
2024-09-10 cs.CL
Semantic Parsing with Dual Learning
Shanghai Jiao Tong University(上海交通大学)
语义解析将自然语言查询转换为结构化的逻辑形式。注释训练样本的缺乏是该领域的一个根本挑战。在这项工作中,我们开发了一个语义解析框架的双重学习算法,它使语义分析器充分利用数据(标记,甚至未标记)通过双重学习游戏。这种原始模型(语义解析)和对偶模型(查询的逻辑形式)之间的博弈迫使它们相互正则化,并可以从一些先验知识中获得反馈信号。通过利用逻辑形式结构的先验知识,我们提出了一种新的奖励信号在表面和语义水平,往往会产生完整和合理的逻辑形式。实验结果表明,我们的方法在ATIS数据集上取得了新的最先进的性能,并在隔夜数据集上取得了有竞争力的性能。
2019-07-24 cs.AI cs.CL
Learning Contextual Representations for Semantic Parsing with Generation-Augmented Pre-Training
AWS AI Labs(AWS人工智能实验室)
最近,通过利用大规模文本语料库来训练具有自监督学习目标的大型神经语言模型,例如掩蔽语言模型(MLM),对学习用于各种NLP任务的上下文表示产生了极大的兴趣。然而,基于试点研究,我们观察到三个问题,现有的通用语言模型,当它们被应用到文本到SQL语义解析器:未能检测列提到的话语,未能推断列提到的细胞值,并未能组成复杂的SQL查询。为了缓解这些问题,我们提出了一个模型预训练框架,生成增强预训练(GAP),通过利用生成模型来生成预训练数据,联合学习自然语言话语和表模式的表示。GAP MODEL在2 M话语-模式对和30 K话语-模式-SQL三元组上训练,其话语由生成模型产生。基于实验结果,利用GAP MODEL作为表示编码器的神经语义解析器在SPIDER和CRITERIA-TO-SQL基准测试中获得了最新的结果。
2020-12-18 cs.CL
Disambiguate First, Parse Later: Generating Interpretations for Ambiguity Resolution in Semantic Parsing
Institute for Language, Cognition and Computation, School of Informatics, University of Edinburgh(语言、认知与计算研究所,信息学院,爱丁堡大学)
针对语义解析中的歧义问题,提出先消歧后解析的模块化方法,利用LLM偏见生成首选消歧结果,并结合填充模型生成缺失解释,有效提升了解释覆盖率与跨数据集泛化能力。
2025-07-12 cs.AI cs.CL
Pay More Attention to History: A Context Modelling Strategy for Conversational Text-to-SQL
Peking University(北京大学);Meituan(美团)
会话式文本到SQL的目标是将多轮自然语言查询转换成它们相应的SQL(结构化查询语言)表示。会话式文本到SQL的最棘手的问题之一是对多轮查询的语义进行建模,并收集当前查询所需的适当信息。本文表明,通过添加每个回合和整个上下文的摘要来明确地建模语义变化可以在将会话查询转换为SQL时带来更好的性能。特别是,我们提出了两个会话建模任务,在转粮食和会话粮食。这两个任务只是作为辅助训练任务来帮助多轮会话语义解析。我们进行了实证研究,并在大规模开放域会话文本到SQL数据集上取得了新的最先进的结果。实验结果表明,该机制显著提高了多轮语义解析的性能。
2022-07-26 cs.AI cs.CL
SQLFixAgent: Towards Semantic-Accurate Text-to-SQL Parsing via Consistency-Enhanced Multi-Agent Collaboration
School of Computer Science & Technology, Soochow University(苏州大学计算机科学与技术学院);School of Information, Renmin University of China(中国人民大学信息学院);International College (Suzhou Research Institute), Renmin University of China(中国人民大学国际学院(苏州研究院));iFLYTEK Research (Suzhou)(科大讯飞研究院(苏州))
针对Text-to-SQL解析中LLM生成SQL语义准确率不足的问题,提出含三类智能体的SQLFixAgent协作框架,通过错误检测、候选生成与优选修复提升性能,在多基准上有效增效且token效率更优。
2025-05-18 cs.CL
Context Transformer with Stacked Pointer Networks for Conversational Question Answering over Knowledge Graphs
Technische Universität Darmstadt(达姆施塔特工业大学);University of Bonn(波恩大学);Zerotha Research(泽罗塔研究院);Cerence GmbH(赛轮思有限公司);Osthus GmbH(奥斯图斯有限公司);Fraunhofer IAIS(弗劳恩霍夫智能分析与信息系统研究所)
神经语义解析方法已广泛应用于基于知识图谱的问答系统。这样的方法提供了处理具有复杂查询和大量实体的QA数据集的灵活性。在这项工作中,我们提出了一个新的框架名为纸箱,它执行多任务的语义解析处理问题的会话问答在一个大规模的知识图谱。我们的框架包括一个堆栈的指针网络作为一个上下文Transformer模型的扩展,用于解析输入的问题和对话的历史。框架生成可以在知识图谱上执行的动作序列。我们在一个标准数据集上对CARTON进行了评估,以进行复杂的顺序问答,CARTON在该数据集上的表现优于所有基线。具体来说,我们观察到的性能改善F1分数的10个问题类型相比,以前的状态。对于逻辑推理问题,11个绝对点的改善达到。
2021-06-24 cs.CL
MTOP: A Comprehensive Multilingual Task-Oriented Semantic Parsing Benchmark
Facebook(脸书)
由于缺乏可用的数据集,将面向任务的对话系统的语义解析模型扩展到新的语言通常是昂贵且耗时的。现有的数据集有几个缺点:a)它们包含很少的语言b)它们包含少量的每种语言的标记示例c)它们基于非组合查询的简单意图和槽检测范式。在本文中,我们提出了一个新的多语言数据集,称为MTOP,包括10万注释话语6种语言在11个领域。我们使用这个数据集和其他公开可用的数据集,对使用各种最先进的多语言预训练模型进行面向任务的语义解析进行全面的基准测试研究。对于两个现有的多语言数据集,我们在Slot F1上实现了+6.3点的平均改进,超过了他们实验中报告的最佳结果。此外,我们展示了强大的zero-shot性能,使用预训练模型结合自动翻译和对齐,并提出了远程监督方法,以减少槽标签投影中的噪声。
2021-01-27 cs.CL cs.LG
GraphQ IR: Unifying the Semantic Parsing of Graph Query Languages with One Intermediate Representation
Tsinghua University(清华大学);Huawei Cloud Computing Technologies Co., Ltd.(华为云计算技术有限公司)
由于自然语言和形式语言之间存在着巨大的语义鸿沟,神经语义解析在处理输入语义和输出语法方面的复杂性是其面临的主要问题。最近的工作已经提出了几种形式的补充监督,但没有一个是通用的跨多个形式语言。本文提出了一种统一的图查询语言中间表示(IR),命名为GraphQ IR,它具有一个类似自然语言的表达式,可以弥合语义鸿沟,并具有形式化定义的语法,可以维护图的结构。因此,神经语义解析器可以更精确地将用户查询转换为GraphQ IR,后者可以稍后被错误地编译为各种下游图查询语言。在标准i.i.d.下,对包括KQA Pro、Overnight、GrailQA和MetaQA-Cypher在内的多个基准测试进行了广泛的实验,分布外和低资源设置验证了GraphQ IR相对于先前最先进技术的优越性,最高精度提高了11%。
2022-11-07 cs.CL cs.DB
Grounded Adaptation for Zero-shot Executable Semantic Parsing
University of Washington(华盛顿大学);Facebook AI Research(脸书人工智能研究院)
我们提出了接地适应Zero-shot可执行语义解析(GAZP),以适应现有的语义解析器新的环境(例如,新的数据库模式)。GAZP将前向语义解析器与后向话语生成器相结合,在新的环境中合成数据(如话语和SQL查询),然后选择循环一致的例子来适应解析器。与通常在训练环境中合成未经验证的示例的数据增强不同,GAZP在新环境中合成输入-输出一致性得到验证的示例。在Spider、Sparc和CoSQL zero-shot语义解析任务上,GAZP改进了基线解析器的逻辑形式和执行精度。我们的分析表明,GAZP在训练环境中优于数据增强,性能随着GAZP合成数据量的增加而增加,并且周期一致性是成功适应的核心。
2021-02-01 cs.AI cs.CL cs.DB
STEM-POM: Evaluating Language Models Math-Symbol Reasoning in Document Parsing
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出STEM-PoM基准数据集,评估LLMs在科学文本中对数学符号的推理能力,发现现有模型分类准确率有限,改进符号分类可提升下游数学推理。
2025-05-31 cs.CL