EHR-SeqSQL : A Sequential Text-to-SQL Dataset For Interactively Exploring Electronic Health Records
KAIST(韩国科学技术院)
本文提出EHR-SeqSQL,首个包含序列与上下文问题的最大医学text-to-SQL数据集,通过多轮交互和特殊标记提升组合泛化能力与执行效率。
2024-07-30 cs.AI cs.CL cs.DB
A Survey on Text-to-SQL Parsing: Concepts, Methods, and Future Directions
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);Alibaba Group(阿里巴巴集团);The University of Hong Kong(香港大学)
文本到SQL解析是一项重要且具有挑战性的任务。文本到SQL解析的目标是基于关系数据库提供的证据将自然语言(NL)问题转换为相应的结构化查询语言(SQL)。数据库社区早期的文本到SQL解析系统取得了显著的进步,但付出了大量的人力工程和用户与系统交互的代价。近年来,深度神经网络通过神经生成模型显着推进了这一任务,该模型自动学习从输入NL问题到输出SQL查询的映射函数。随后,大型预训练的语言模型将文本到SQL解析任务的最新水平提升到了一个新的水平。在本调查中,我们对文本到SQL解析的深度学习方法进行了全面的回顾。首先,我们介绍了文本到SQL的分析语料库,可以分为单轮和多轮。其次,我们提供了一个系统的概述预训练的语言模型和现有的方法,文本到SQL解析。第三,我们向读者介绍了文本到SQL解析所面临的挑战,并探讨了该领域未来的一些潜在方向。
2022-08-29 cs.CL
Spider4SSC & S2CLite: A text-to-multi-query-language dataset using lightweight ontology-agnostic SPARQL to Cypher parser
Graduate School of Engineering Science(工程科学研究生院);Yokohama National University(横滨国立大学);Faculty of Engineering(工学部)
本文提出Spider4SSC数据集与轻量级本体无关的规则基解析器S2CLite,可将SPARQL转Cypher且无需外部工具,实验显示其解析准确率显著优于现有工具,并生成统一文本到多查询语言数据集。
2025-11-12 cs.CL
Faster and Better Grammar-based Text-to-SQL Parsing via Clause-level Parallel Decoding and Alignment Loss
Baidu Inc(百度公司);Soochow University(苏州大学)
基于语法的语法分析器在跨域文本到SQL的解析任务中取得了很高的性能,但由于语法选择的动作比SQL查询中的标记的动作多得多,解码效率低。同时,如何更好地对齐SQL子句和问题段一直是分析性能的关键挑战。因此,本文提出了子句级并行解码和对齐损失,以增强两个高性能的基于语法的解析器,即,RATSQL和LGESQL。两个解析器的实验结果表明,我们的方法获得了一致的改善,无论是在准确性和解码速度。
2022-04-26 cs.CL
Decoupling SQL Query Hardness Parsing for Text-to-SQL
Central South University(中南大学)
本文提出一种基于解耦SQL查询难度解析的Text-to-SQL框架,通过分析问题和模式将多难度任务简化为单一难度,降低语言模型解析压力,并在Spider开发集上取得微调方法的新最先进性能。
2023-12-29 cs.CL
Semantic Decomposition of Question and SQL for Text-to-SQL Parsing
Ben Gurion University(本·古里安大学)
针对Text-to-SQL跨域复杂查询泛化难题,提出模块化查询计划语言QPL系统分解SQL,扩充Spider数据集,实验证明其优于直接解析,并支持构建对数据库模式敏感的问题分解器且提升可解释性。
2023-10-20 cs.CL
RESDSQL: Decoupling Schema Linking and Skeleton Parsing for Text-to-SQL
Renmin University of China(中国人民大学)
本文提出 RESDSQL 框架,通过排序增强编码和骨架感知解码将模式链接与骨架解析解耦,显著提升了 Text-to-SQL 的解析准确性与鲁棒性。
2023-04-10 cs.CL
A Tale of Two Linkings: Dynamically Gating between Schema Linking and Structural Linking for Text-to-SQL Parsing
University of Virginia(弗吉尼亚大学);Microsoft Research(微软研究院)
在文本到SQL的语义解析中,为生成的SQL查询选择正确的实体(表和列)是至关重要的,也是具有挑战性的;解析器需要将自然语言(NL)问题和SQL查询连接到数据库中的结构化知识。我们制定了两个链接过程,以解决这一挑战:模式链接链接明确的NL提到数据库和结构链接的实体在输出SQL中的数据库模式中的结构关系。直观地说,这两个链接过程的有效性变化的基础上产生的实体,因此,我们建议使用门控机制动态地选择它们之间。将所提出的方法与两个基于图神经网络的语义解析器以及BERT表示相结合,在具有挑战性的Spider数据集上展示了解析准确性的实质性收益。分析表明,我们提出的方法有助于增强结构的模型输出时,生成复杂的SQL查询,并提供更多的解释预测。
2020-11-22 cs.CL
A Pilot Study for Chinese SQL Semantic Parsing
Westlake University(西湖大学);Westlake Institute for Advanced Study(西湖高等研究院)
语义解析的任务对于对话和问答系统是非常有用的。已经提出了许多数据集来将自然语言文本映射到SQL,其中最近的Spider数据集提供了具有多个表和复杂查询的跨域样本。我们为中文构建了一个Spider数据集,中文目前在这个任务领域是一种资源较少的语言。有趣的研究问题来自语言的独特性,这需要分词,也来自SQL关键字和DB表的列通常用英语编写的事实。我们比较字符和单词为基础的编码器的语义解析器,和不同的嵌入方案。结果表明,基于词的语义分析器是受分割错误和跨语言的词嵌入是有用的文本到SQL。
2019-10-16 cs.CL
CQR-SQL: Conversational Question Reformulation Enhanced Context-Dependent Text-to-SQL Parsers
Tencent Cloud Xiaowei(腾讯云小微);Beihang University(北京航空航天大学)
上下文相关的文本到SQL是将多轮问题转换为与数据库相关的SQL查询的任务。现有的方法通常侧重于充分利用历史上下文或先前预测的SQL来进行当前SQL解析,而忽略了显式地理解模式和会话依赖,如共指,省略和用户焦点变化。在本文中,我们提出了CQR-SQL,它使用辅助会话问题重构(CQR)学习显式地利用模式和解耦上下文依赖SQL解析。具体来说,我们首先提出了一个模式增强递归CQR方法产生领域相关的自包含的问题。其次,通过基于模式的一致性任务和树型结构的SQL解析一致性任务对CQR-SQL模型进行训练,使其能够将多轮问句和辅助自包含问句的语义映射到同一个潜在空间中,通过充分的上下文理解来提高SQL解析的能力。在撰写本文时,我们的CQR-SQL在两个上下文相关的文本到SQL基准测试SParC和CoSQL上取得了最新的结果。
2022-10-24 cs.CL
Towards Generalizable and Robust Text-to-SQL Parsing
The Chinese University of Hong Kong(香港中文大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
文本到SQL解析解决了将自然语言问题映射到可执行SQL查询的问题。在实践中,文本到SQL解析器经常遇到各种具有挑战性的场景,要求它们具有通用性和健壮性。虽然大多数现有的工作都解决了特定的泛化或鲁棒性挑战,但我们的目标是以更全面的方式研究它。具体来说,我们认为文本到SQL的解析器应该是(1)在三个泛化级别上可泛化的,即i.i.d.,zero-shot和组合,以及(2)对输入扰动的鲁棒性。为了提高这些能力的解析器,我们提出了一种新的TKK框架,包括任务分解,知识获取,知识组合学习文本到SQL解析的阶段。通过将学习过程划分为多个阶段,我们的框架提高了解析器获取一般SQL知识的能力,而不是捕获虚假模式,使其更具泛化性和鲁棒性。在各种泛化和鲁棒性设置下的实验结果表明,我们的框架在所有场景下都是有效的,并在Spider,SParC和CoSQL数据集上实现了最先进的性能。代码可以在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/tkk上找到。
2022-10-23 cs.CL
Error Detection for Text-to-SQL Semantic Parsing
The Ohio State University(俄亥俄州立大学)
本文提出独立于解析器的 text-to-SQL 错误检测模型,结合代码语言模型与图神经网络学习问题和 SQL 结构,并在跨领域真实错误上训练,实验证明其优于解析器相关不确定性指标。
2023-12-06 cs.CL
SQLFixAgent: Towards Semantic-Accurate Text-to-SQL Parsing via Consistency-Enhanced Multi-Agent Collaboration
School of Computer Science & Technology, Soochow University(苏州大学计算机科学与技术学院);School of Information, Renmin University of China(中国人民大学信息学院);International College (Suzhou Research Institute), Renmin University of China(中国人民大学国际学院(苏州研究院));iFLYTEK Research (Suzhou)(科大讯飞研究院(苏州))
针对Text-to-SQL解析中LLM生成SQL语义准确率不足的问题,提出含三类智能体的SQLFixAgent协作框架,通过错误检测、候选生成与优选修复提升性能,在多基准上有效增效且token效率更优。
2025-05-18 cs.CL
Towards Knowledge-Intensive Text-to-SQL Semantic Parsing with Formulaic Knowledge
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院);National University of Singapore(新加坡国立大学)
在本文中,我们研究的问题,知识密集型的文本到SQL,其中领域知识是必要的解析专家的问题到SQL查询领域特定的表。我们通过构建一个新的中文基准测试KnowSQL来正式化这个场景,该测试由覆盖各个领域的特定领域问题组成。然后,我们通过呈现公式化的知识来解决这个问题,而不是通过注释额外的数据示例。更具体地说,我们构建了一个公式化的知识库作为领域知识库,并提出了一个框架(ReGroupP),利用这种公式化的知识在解析。使用ReGroupP的实验表明,KnowSQL总体上有28.2%的显着改进。
2023-01-03 cs.CL
Tracking Interaction States for Multi-Turn Text-to-SQL Semantic Parsing
University of Science and Technology of China(中国科学技术大学);Baidu Research(百度研究院);iFLYTEK Research(讯飞研究院)
多轮文本到SQL语义解析的任务旨在将交互中的自然语言话语翻译成SQL查询,以便使用通常包含多个表模式的数据库来回答它们。以往的研究通常利用语境信息来丰富话语表征并进一步影响解码过程。而忽略了对由历史SQL查询确定的、与当前话语意图相关的交互状态进行描述和跟踪。本文分别基于模式项和SQL关键字定义了两种交互状态。设计了一个关系型图神经网络和一个非线性层来分别更新这两种状态的表示。然后利用动态模式状态和SQL状态表示来解码与当前话语相对应的SQL查询。在具有挑战性的CoSQL数据集上的实验结果证明了该方法的有效性,该方法在任务排行榜上取得了比其他已发表方法更好的性能。
2020-12-09 cs.CL
Data Augmentation with Hierarchical SQL-to-Question Generation for Cross-domain Text-to-SQL Parsing
Soochow University(苏州大学);Baidu Inc.(百度公司)
数据增强在深度学习时代因其缓解数据稀疏性的能力而引起了大量的研究关注。对于看不见的评估数据库来说,缺乏标记数据正是跨域文本到SQL解析的主要挑战。以前的工作要么需要人工干预来保证生成数据的质量,要么无法处理复杂的SQL查询。本文提出了一个简单而有效的数据增强框架。首先,给定一个数据库,我们自动产生大量的SQL查询的基础上,一个抽象的语法树语法。为了更好的分布匹配,我们要求训练数据中至少80%的SQL模式被生成的查询覆盖。其次,我们提出了一个分层SQL到问题生成模型,以获得高质量的自然语言的问题,这是这项工作的主要贡献。最后,我们设计了一个简单的采样策略,可以在生成大量数据的情况下大大提高训练效率。在三个跨域数据集上的实验,即,英文的WikiSQL和Spider以及中文的DuSQL表明,我们提出的数据增强框架可以在强基线上持续提高性能,而分层生成组件是改进的关键。
2022-11-15 cs.CL
Semantic Parsing with Syntax- and Table-Aware SQL Generation
Microsoft Research Asia(微软亚洲研究院);Microsoft AI and Research(微软人工智能与研究院);Harbin Institute of Technology(哈尔滨工业大学)
我们提出了一个生成模型映射到SQL查询的自然语言的问题。现有的基于神经网络的方法通常逐词生成SQL查询,然而,由于问题词和表内容之间的不匹配,所生成的结果的大部分是不正确的或不可执行的。我们的方法解决了这个问题,考虑表的结构和SQL语言的语法。生成的SQL查询的质量通过(1)学习从列名、单元格或SQL关键字复制内容;以及(2)通过利用列-单元格关系来改进WHERE子句的生成而得到显著提高。实验进行WikiSQL,最近发布的数据集最大的问题SQL对。我们的方法显着提高了国家的最先进的执行精度从69.0%到74.4%。
2018-04-23 cs.CL
End-to-End Cross-Domain Text-to-SQL Semantic Parsing with Auxiliary Task
University of Waterloo(滑铁卢大学);The University of Hong Kong(香港大学);AWS AI Labs(亚马逊云科技人工智能实验室)
在这项工作中,我们专注于跨域的文本到SQL的语义解析任务中的两个关键组成部分:模式链接和值填充。为了鼓励模型学习更好的编码能力,我们提出了一个列选择辅助任务,通过使用显式学习目标来赋予编码器相关匹配能力。此外,我们提出了两个值填充方法,建立桥梁,从现有的zero-shot语义解析器到现实世界的应用程序,考虑到大多数现有的解析器忽略的值填充在合成SQL。通过在Spider上的实验,我们提出的框架在数据库内容不可用时提高了执行精度和精确集匹配精度,详细的分析为未来的工作提供了指导。
2021-06-17 cs.CL
Improving Text-to-SQL Semantic Parsing with Fine-grained Query Understanding
Amazon AWS AI Labs(亚马逊AWS人工智能实验室)
文本到SQL语义解析的研究主要依赖于解析器本身或基于简单启发式的方法来理解自然语言查询。在合成SQL查询时,解析器没有可用的NLQ的显式语义信息,这导致不理想的泛化性能。此外,没有词汇级细粒度的查询理解,查询和数据库之间的链接只能依赖于模糊字符串匹配,这导致在实际应用中的次优性能。鉴于此,本文提出了一个通用的,模块化的神经语义解析框架,是基于令牌级细粒度查询理解。我们的框架包括三个模块:命名实体识别器(NER),神经实体链接器(NEL)和神经语义解析器(NSP)。NER模型通过对查询和数据库进行联合建模,分析用户意图并识别查询中的实体。NEL模型将类型化实体链接到数据库中的模式和单元值。解析器模型利用可用的语义信息和链接结果,并基于动态生成的语法合成树结构的SQL查询。在最新发布的语义解析数据集SQUALL上的实验表明,该模型在WikiTableQuestions(WTQ)测试集上的执行准确率为56.8%,比现有模型高出2.7%.
2022-09-28 cs.CL
Decoupled Dialogue Modeling and Semantic Parsing for Multi-Turn Text-to-SQL
Shanghai Jiao Tong University(上海交通大学);State Key Lab of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
最近,Text-to-SQL的多轮对话引起了极大的兴趣。在这里,给定所有先前的对话历史,当前回合的用户输入被解析为适当数据库的相应SQL查询。目前的方法大多采用端到端模型,因此面临两个挑战。首先,对话历史建模和Text-to-SQL解析是隐式结合的,因此很难进行可解释性分析和有针对性的改进。第二,多轮对话的SQL注释非常昂贵,导致训练数据稀疏。在本文中,我们提出了一种新的解耦的多轮文本到SQL框架,其中的话语重写模型首先明确地解决了对话上下文的完成,然后是一个单轮文本到SQL解析器。本文还提出了一种双重学习方法来解决数据稀疏性问题。与端到端的方法相比,所提出的解耦方法可以在不需要任何带注释的域内数据的情况下获得优异的性能。在只有几个带注释的重写案例的情况下,解耦方法在SParC和CoSQL数据集上的性能优于已发布的最先进的端到端模型。
2021-06-09 cs.CL
XRICL: Cross-lingual Retrieval-Augmented In-Context Learning for Cross-lingual Text-to-SQL Semantic Parsing
University of Waterloo(滑铁卢大学);Penn State University(宾夕法尼亚州立大学)
使用大语言模型的上下文学习最近在语义解析任务(如文本到SQL翻译)中显示出令人惊讶的结果。使用几个question-SQL对的示例来验证GPT-3或Codex可以产生非常好的结果,可以与最先进的基于微调的模型相媲美。然而,现有的工作主要集中在英语数据集,这是未知的大语言模型是否可以作为其他语言的竞争力的语义解析器。为了弥补这一差距,我们的工作重点是跨语言的文本到SQL的语义解析翻译非英语的话语到SQL查询的基础上的英语模式。我们考虑一个zero-shot迁移学习设置,假设我们没有任何标记的例子在目标语言(但有注释的例子在英语)。这项工作介绍了XRICL框架,学习检索相关的英语范例为一个给定的查询构造提示。我们还包括目标语言的全局翻译范例,以促进大语言模型的翻译过程。为了系统地评估我们的模型,我们构建了两个新的基准数据集,XSpider和XKaggle-dbqa,其中包括中文,越南语,波斯语和印地语的问题。我们的实验表明,XRECL有效地利用了大型预训练的语言模型,以超越现有的基线。数据和代码可在https://github.com/Impavidity/XRICL上公开获取。
2022-10-25 cs.CL
QURG: Question Rewriting Guided Context-Dependent Text-to-SQL Semantic Parsing
Beihang University(北京航空航天大学);Tencent Cloud Xiaowei(腾讯云小微)
本文提出QURG方法,通过训练问题重写模型生成重写编辑矩阵,并设计双流矩阵编码器联合建模重写关系与模式链接关系,显著提升了上下文相关Text-to-SQL在SParC和CoSQL数据集上的性能。
2023-05-16 cs.CL
MultiSpider: Towards Benchmarking Multilingual Text-to-SQL Semantic Parsing
Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research Asia(微软亚洲研究院)
文本到SQL的语义解析是一项重要的自然语言处理任务,它极大地方便了用户与数据库之间的交互,成为许多人机交互系统中的关键组件。文本到SQL的最新进展是由大规模数据集驱动的,但其中大多数都集中在英语上。在这项工作中,我们提出了MultiSpider,最大的多语言文本到SQL数据集,涵盖七种语言(英语,德语,法语,西班牙语,日语,中文和越南语)。在MultiSpider上,我们进一步确定了文本到SQL的词汇和结构挑战(由特定的语言属性和方言谚语引起)及其在不同语言中的强度。在三种典型设置(zero-shot、单语和多语言)下的实验结果显示,非英语语言的准确率绝对下降了6.1%。定性和定量分析进行,以了解每种语言的性能下降的原因。除了数据集之外,我们还提出了一个简单的模式增强框架SAVe(Schema-Augmentation-with-Verification),它将整体性能显著提高了约1.8%,并缩小了跨语言的29.5%的性能差距。
2022-12-27 cs.CL
Importance of Synthesizing High-quality Data for Text-to-SQL Parsing
Amazon(亚马逊)
最近,人们对合成数据以改进下游文本到SQL任务的兴趣越来越大。在本文中,我们首先检查了现有的合成数据集,发现最先进的文本到SQL算法在使用增强的合成数据进行训练时,并没有进一步改进流行的基准测试。我们观察到两个缺点:从独立列采样和任意表连接不合逻辑的合成SQL查询。为了解决这些问题,我们提出了一种新的合成框架,它结合了模式的关键关系,实行强类型,并进行模式距离加权列采样。我们还采用了中间表示(IR)的SQL到文本的任务,以进一步提高质量的生成的自然语言的问题。当现有强大的语义解析器对我们的高质量合成数据进行预微调时,我们的实验表明,这些模型在流行的基准测试中具有显着的准确性提升,包括Spider上的最新性能。
2022-12-17 cs.CL
Semantic Enhanced Text-to-SQL Parsing via Iteratively Learning Schema Linking Graph
Tsinghua University(清华大学)
对于旨在将人类话语解析成SQL语句的Text-to-SQL系统来说,对新数据库的可推广性是至关重要的。现有的工作实现了这一目标,利用精确匹配的方法来确定词汇之间的匹配问题的话和模式项目。然而,这些方法在其他具有挑战性的情况下失败,例如同义词替换,其中对应的问题词和模式项目之间的表面形式不同。在本文中,我们提出了一个名为ISESL-SQL的框架,迭代地建立一个语义增强的模式链接图之间的问题令牌和数据库模式。首先,我们提取一个模式链接图从PLM通过探测过程中的无监督的方式。然后在训练过程中通过深度图学习方法进一步优化模式链接图。同时,我们还设计了一个辅助任务,称为图正则化,以改善模式链接图中提到的模式信息。在三个基准测试上的大量实验表明,ISESL-SQL可以始终优于基线,进一步的调查表明其通用性和鲁棒性。
2022-08-08 cs.CL
Question Generation from SQL Queries Improves Neural Semantic Parsing
Sun Yat-sen University(中山大学);Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research(微软研究院)
我们研究如何学习一个语义解析器的国家的最先进的准确性与较少的监督训练数据。我们进行我们的研究WikiSQL,迄今为止最大的手工注释的语义解析数据集。首先,我们证明了问题生成是一种有效的方法,使我们能够学习一个国家的最先进的神经网络基于语义解析器与百分之三十的监督训练数据。其次,我们表明,将问题生成应用于全监督训练数据进一步改进了最先进的模型。此外,我们观察到语义解析器的准确性和训练数据的数量之间存在对数关系。
2018-08-27 cs.CL
Global Reasoning over Database Structures for Text-to-SQL Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
最先进的语义解析器依赖于自回归解码,每次发出一个符号。当针对在训练时未观察到的复杂数据库(zero-shot)进行测试时,由于解码的局部性质,解析器通常很难在新数据库中选择正确的数据库常量集。在这项工作中,我们提出了一个语义解析器,全局原因的输出查询的结构,使更多的上下文知情的选择数据库常量。我们使用消息传递通过图神经网络软选择一个子集的数据库常量的输出查询,条件的问题。此外,我们训练一个模型来排名查询的基础上,全球对齐的数据库常量的问题的话。我们将我们的技术应用于当前最先进的Spider模型,这是一个具有复杂数据库的zero-shot语义解析数据集,准确率从39.4%提高到47.4%。
2019-08-29 cs.CL
Spider: A Large-Scale Human-Labeled Dataset for Complex and Cross-Domain Semantic Parsing and Text-to-SQL Task
Department of Computer Science, Yale University(耶鲁大学计算机科学系);Yale University(耶鲁大学)
我们提出了蜘蛛,一个大规模的,复杂的和跨领域的语义解析和文本到SQL数据集注释的11名大学生。它由10,181个问题和5,693个独特的复杂SQL查询组成,涉及200个数据库和多个表,覆盖138个不同的领域。我们定义了一个新的复杂的和跨域的语义解析和文本到SQL的任务,不同的复杂的SQL查询和数据库出现在训练和测试集。通过这种方式,任务要求模型能够很好地泛化到新的SQL查询和新的数据库模式。Spider与以前的大多数语义解析任务不同,因为它们都使用单个数据库,并且在训练集和测试集中使用完全相同的程序。我们用各种最先进的模型进行了实验,最好的模型在数据库拆分设置上仅达到12.4%的精确匹配精度。这表明Spider对未来的研究提出了很大的挑战。我们的数据集和任务可在https://yale-lily.github.io/spider上公开获取
2019-02-02 cs.AI cs.CL
SUBS: Subtree Substitution for Compositional Semantic Parsing
Georgia Institute of Technology(佐治亚理工学院);Fudan University(复旦大学)
虽然序列到序列模型在用于i.i.d.的语义解析中通常可以获得良好的性能。数据,他们的表现仍然是劣质的成分概括。已经提出了几种数据增强方法来缓解这个问题。然而,以前的工作只利用表面的语法或规则来进行数据增强,这导致了有限的改进。我们建议使用子树替换组合数据增强,我们认为具有相似语义功能的子树可交换。我们的实验表明,这种增强的数据导致显着更好的性能扫描和GeoQuery,并达到新的SOTA的GeoQuery的组成分裂。
2022-05-03 cs.CL
A Pilot Study of Text-to-SQL Semantic Parsing for Vietnamese
NVIDIA(英伟达);VinAI Research(越南人工智能研究院)
语义解析是自然语言处理的一项重要任务。然而,越南语在这一研究领域是一种低资源语言。在本文中,我们提出了第一个公共的大规模文本到SQL语义解析数据集越南。我们扩展并评估了两个强大的语义解析基线EditSQL(Zhang等人,2019)和IRNet(Guo et al.,2019年,在我们的数据集上。我们比较了两个基线的关键配置,发现:自动越南语分词提高了两个基线的分析结果;归一化逐点互信息(NPMI)得分(Bouma,2009)是有用的模式链接;潜在的句法特征提取的神经依赖分析越南语也改善了结果;用于越南语的单语语言模型PhoBERT(Nguyen和Nguyen,2020)有助于产生比最近最好的多语言语言模型XLM-R(Conneau等人,2020年)。
2020-10-05 cs.AI cs.CL
Graphix-T5: Mixing Pre-Trained Transformers with Graph-Aware Layers for Text-to-SQL Parsing
Alibaba DAMO Academy(阿里巴巴达摩院)
文本到SQL解析的任务旨在将自然语言问题转换为可执行的SQL查询,近年来已经获得了越来越多的关注,因为它可以帮助最终用户有效地从数据库中提取重要信息,而不需要技术背景。文本到SQL解析中的主要挑战之一是领域泛化,即,如何很好地推广到未知数据库。最近,预训练的文本到文本的Transformer模型,即T5,虽然不是专门用于文本到SQL解析,但在针对领域泛化的标准基准测试中已经实现了最先进的性能。在这项工作中,我们探索了进一步增强预训练的T5模型的方法,其中包含用于文本到SQL解析的专用组件。这些组件预计将引入结构归纳偏见文本到SQL解析器,从而提高模型的能力(潜在的多跳)推理,这是生成结构丰富的SQL的关键。为此,我们提出了一个新的架构GRAPHIX-T5,一个混合模型与标准的预训练的Transformer模型增强了一些专门设计的图形感知层。大量的实验和分析表明,GRAPHIX-T5在四个文本到SQL基准测试:SPIDER,SYN,REALISTIC和DK上的有效性。GRAPHIX-T5以显著的优势超越了所有其他基于T5的解析器,实现了新的最先进的性能。值得注意的是,GRAPHIX-T5-large在精确匹配(EM)准确性和执行准确性(EX)方面的达到性能优于原始T5-large 5.7%。这甚至比T5-3B在EM上高出1.2%,在EX上高出1.5%。
2023-01-18 cs.CL cs.DB
Compositional Semantic Parsing Across Graphbanks
Saarland University(萨尔大学)
大多数将句子映射到基于图的含义表示的语义解析器都是为特定的图库手工设计的。我们提出了一个组成的神经语义解析器,实现了,第一次,竞争力的准确性在不同范围的graphbanks。BERT嵌入和多任务学习进一步提高了准确性,在DM、PAS、PSD、AMR 2015和EDS上创造了新的技术水平。
2019-07-13 cs.CL
Learning compositional structures for semantic graph parsing
Saarland University(萨尔兰大学);Utrecht University(乌得勒支大学)
AM依存句法分析是一种利用组合性原理的神经语义图解析方法。虽然AM依赖解析器已经被证明是快速和准确的几个graphbank,他们需要明确的组合树结构的注释进行训练。在过去,这些都是使用由专家编写的复杂的特定于图形库的算法来获得的。在这里,我们展示了如何使用神经潜变量模型直接在图上训练它们,从而大大减少了手动识别的数量和复杂性。我们证明,我们的模型拿起自己的几个语言现象,并达到相当的精度监督训练,大大方便了使用AM依存句法分析的新sembanks。
2021-06-08 cs.CL
HIE-SQL: History Information Enhanced Network for Context-Dependent Text-to-SQL Semantic Parsing
Alibaba Group(阿里巴巴集团)
近年来,上下文相关的文本到SQL的语义解析,将自然语言转换成SQL的交互过程中吸引了很多的关注。以前的作品利用上下文相关的信息,无论是从交互历史话语或以前预测的SQL查询,但未能利用这两个,因为自然语言和逻辑形式的SQL之间的不匹配。在这项工作中,我们提出了一个历史信息增强的文本到SQL模型(HIE-SQL),利用上下文相关的信息,从历史的话语和最后预测的SQL查询。针对这一问题,本文将自然语言和SQL作为两种模态,提出了一种双模态预训练模型来弥补这两种模态之间的差异。此外,我们设计了一个模式链接图,以加强从话语和SQL查询到数据库模式的连接。我们展示了我们的历史信息增强方法显著提高了HIE-SQL的性能,在编写时,在两个上下文相关的文本到SQL基准测试(SparC和CoSQL数据集)上实现了新的最先进的结果。
2022-04-02 cs.AI cs.CL cs.DB
Exploring Chain-of-Thought Style Prompting for Text-to-SQL
The Ohio State University(俄亥俄州立大学)
本文系统研究思维链式提示对文本到SQL解析的作用,发现迭代提示和过细推理步骤可能带来错误传播,并提出一种新的CoT式提示方法,在Spider开发集和Spider Realistic集上分别取得5.2和6.5个百分点的绝对提升。
2023-10-27 cs.CL
Semantic Parsing for Complex Data Retrieval: Targeting Query Plans vs. SQL for No-Code Access to Relational Databases
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
本文提出查询计划语言(QPL)作为SQL的替代目标,利用其模块化结构使神经语义解析器更易生成复杂查询,并通过Spider数据集实验验证,以迭代方式提升复杂组合查询的准确性。
2023-12-22 cs.CL
Proton: Probing Schema Linking Information from Pre-trained Language Models for Text-to-SQL Parsing
University of Chinese Academy of Sciences(中国科学院大学);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Alibaba Group(阿里巴巴集团);Massachusetts Institute of Technology(麻省理工学院)
构建可应用于新数据库的文本到SQL解析器的重要性早已被公认,实现这一目标的关键步骤是模式链接,即,在生成SQL时正确识别未看到的列或表。在这项工作中,我们提出了一种新的框架,通过基于庞加莱距离度量的探测过程,从大规模预训练的语言模型(PLM)中提取关系结构,并使用诱导的关系来增强当前基于图的解析器,以实现更好的模式链接。与常用的基于规则的模式链接方法相比,我们发现,探测关系可以鲁棒地捕获语义对应关系,即使在表面形式的提及和实体不同。此外,我们的探测过程是完全无监督的,不需要额外的参数。大量的实验表明,我们的框架设置新的国家的最先进的性能在三个基准。我们实证验证,我们的探测程序确实可以找到所需的关系结构,通过定性分析。我们的代码可以在https://github.com/AlibabaResearch/DAMO-ConvAI上找到。
2022-08-06 cs.CL
Table2answer: Read the database and answer without SQL
Rokid AI Lab(Rokid人工智能实验室);China Electronic Technology Group Corporation Information Science Academy(中国电子科技集团公司信息科学研究院)
语义解析是将自然语言映射为逻辑形式的任务。在问答中,可以使用语义解析将问题映射到逻辑形式并执行逻辑形式来获得答案。语义解析的一个关键问题是硬标记工作。我们用另一种方法来研究这个问题:我们不再使用逻辑形式。相反,我们只使用模式和答案信息。我们认为逻辑形式步骤可以注入到深层模型中。我们之所以认为去除逻辑形式步骤是可能的,是因为人类可以在没有显式逻辑形式的情况下完成任务。我们使用基于BERT的模型,并在WikiSQL数据集上进行了实验。WikiSQL数据集是一个大型的自然语言到SQL数据集。我们的实验评估表明,我们的模型可以达到基线结果在WikiSQL数据集。
2019-09-09 cs.CL
Compositional Semantic Parsing on Semi-Structured Tables
Stanford University(斯坦福大学)
问答语义解析的两个重要方面是知识源的广度和逻辑组合的深度。虽然现有的工作从一个方面到另一个方面,本文同时通过一个新的任务在两个方面取得了进展:使用问答对作为监督,在半结构化表格上回答复杂的问题。核心挑战来自两个复合因素:更广泛的领域导致一组开放式的关系,更深层次的组合性导致逻辑形式空间的组合爆炸。我们提出了一个逻辑形式驱动的解析算法引导强类型约束,并表明它获得了显着的改善自然基线。为了进行评估,我们在维基百科表格上创建了一个包含22,033个复杂问题的新数据集,该数据集可供公众使用。
2015-08-03 cs.CL
Compositional Generalization in Dependency Parsing
McGill University(麦吉尔大学);Quebec Artificial Intelligence Institute (Mila)(魁北克人工智能研究所(Mila));ServiceNow Research(ServiceNow研究院);Facebook(脸书)
组合性(Compositionality)--将熟悉的单元(如单词)组合成新颖的短语和句子的能力--近年来一直是人工智能的焦点。为了测试语义解析中的组合泛化,Keysers等人(2020)引入了组合自由基分析(CFQ)。该数据集最大化了测试和训练分布在原始单元(如单词)上的相似性,同时最大化了复合发散:测试和训练分布在较大结构(如短语)上的不相似性。然而,依存句法分析缺少组合泛化基准。在这项工作中,我们为CFQ引入了一套黄金标准的依赖解析器,并使用它来分析最先进的依赖解析器的行为(Qi等人,2020年,CFQ数据集。我们发现,增加复合分歧降低依存句法分析的性能,虽然没有显着的语义解析的性能。此外,我们发现的依赖分析器的性能并不均匀降低相对于复合发散,和解析器执行不同的分裂相同的复合发散。我们探讨了一些假设是什么原因的非均匀退化的依存句法分析性能,并确定了一些句法结构,驱动依赖解析器的最具挑战性的分裂的性能较低。
2022-03-15 cs.CL
Improving Generalization in Language Model-Based Text-to-SQL Semantic Parsing: Two Simple Semantic Boundary-Based Techniques
George Mason University(乔治梅森大学);MIT(麻省理工学院)
本文提出词元预处理和组件边界标记两种简单技术,以保留语义边界并提升语言模型在文本到SQL解析中的组合泛化与领域泛化能力。
2023-05-27 cs.AI cs.CL
Span-based Semantic Parsing for Compositional Generalization
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
尽管序列到序列(seq2seq)模型在语义解析中取得了成功,但最近的工作表明它们在组合泛化中失败,即,在训练过程中观察到的组件构建的新结构的能力。在这项工作中,我们认为一个基于跨度的解析器应该导致更好的组合泛化。我们提出SpanBasedSP,一个分析器,预测一个输入话语的生成树,明确编码部分程序如何组成的跨度在输入。SpanBasedSP扩展了Pasupat et al.(2019),使其与seq2seq模型相当,方法是(i)从程序中进行训练,不访问黄金树,将树视为潜在变量,(ii)通过对标准CKY的扩展来解析一类非投影树。在GeoQuery、SCAN和CLOSURE数据集上,SpanBasedSP在随机拆分上的性能与强seq2seq基线相似,但与需要组合泛化的拆分基线相比,性能显著提高:从$61.0 \rightarrow 88.9$平均精度。
2021-06-13 cs.CL
Compositional Generalization and Natural Language Variation: Can a Semantic Parsing Approach Handle Both?
Google Research(谷歌研究院)
序列到序列模型擅长处理自然语言变化,但已被证明与分布外的组合泛化的斗争。这激发了具有更强成分偏差的新的专门架构,但这些方法中的大多数仅在合成生成的数据集上进行了评估,这些数据集并不代表自然语言的变化。在这项工作中,我们问:我们可以开发一个语义解析的方法,既处理自然语言的变化和组成的概括?为了更好地评估这种能力,我们提出了新的非合成数据集的训练和测试分裂。我们证明,强大的现有方法在广泛的评估中表现不佳。我们还提出了NQG-T5,这是一种混合模型,将高精度的基于语法的方法与预训练的序列到序列模型相结合。它在非合成数据上的几个合成泛化挑战方面优于现有方法,同时在标准评估方面也与最先进的方法竞争。虽然还远远没有解决这个问题,我们的研究突出了多样的评价和开放的挑战,处理组合泛化和自然语言变化的语义解析的重要性。
2021-06-01 cs.CL
Improving Compositional Generalization in Semantic Parsing
Tel-Aviv University(特拉维夫大学);University of Pennsylvania(宾夕法尼亚大学);Allen Institute for AI(艾伦人工智能研究所)
推广模型的分布外(OOD)的数据最近引起了极大的关注。具体而言,成分概括,即,模型是否推广到由训练期间观察到的组件构建的新结构,已经引起了极大的兴趣。在这项工作中,我们调查的组成概括的语义解析,一个自然的测试床组成概括,作为输出程序的子组件。我们分析了各种各样的模型,并提出了多个扩展的语义解析器的注意力模块,旨在提高合成泛化。我们发现,以下因素提高了合成泛化:(a)使用上下文表示,如ELMo和BERT,(b)通知解码器什么输入令牌先前已经注意到,(c)训练解码器注意力与预先计算的令牌对齐,以及(d)下采样对应于频繁的程序模板的例子。虽然我们大大减少了分布和OOD泛化之间的差距,但OOD组合的性能仍然很低。
2020-10-12 cs.CL
Model-based Interactive Semantic Parsing: A Unified Framework and A Text-to-SQL Case Study
The Ohio State University(俄亥俄州立大学);Facebook AI Research(脸书人工智能研究院)
作为一个有前途的范例,交互式语义解析已被证明可以提高语义解析的准确性和用户对结果的信心。在本文中,我们提出了一个新的,统一制定的交互式语义解析问题,其目标是设计一个基于模型的智能代理。智能体将自己的状态保持为当前预测的语义解析,决定是否需要人工干预以及在何处需要人工干预,并以自然语言生成澄清问题。智能体的一个关键部分是一个世界模型:它接受一个请求(一个初始问题或来自用户的后续反馈)并转换到一个新的状态。然后,我们提出了一个简单但非常有效的实例化我们的框架,证明了两个文本到SQL数据集(WikiSQL和蜘蛛)与不同的国家的最先进的基本语义解析器。与现有的交互式语义解析方法相比,该方法将基本解析器视为黑盒,我们的方法要求更少的用户反馈,但产生更高的运行时准确性。
2019-10-11 cs.AI cs.CL
On the Potential of Lexico-logical Alignments for Semantic Parsing to SQL Queries
Cornell University(康奈尔大学);University of Maryland(马里兰大学);Microsoft Research(微软研究院)
用逻辑形式注释的大规模语义解析数据集使监督方法取得了重大进展。但更丰富的监管能起到更大的作用吗?为了探索细粒度的词汇级监督的实用性,我们引入了Squall,这是一个数据集,它通过手动创建的SQL等价物以及SQL和问题片段之间的对齐来丰富11,276个WikiTableQuestions英语问题。我们的注释为编码器-解码器模型提供了新的训练可能性,包括以前因缺乏对齐而无法使用的机器翻译方法。我们提出并测试了两种方法:(1)监督注意;(2)采用一个辅助目标,消除歧义的输入查询表列中的引用。在5折交叉验证中,这些策略在强基线上提高了4.4%的执行准确性。Oracle实验表明,注释比对可以支持高达23.9%的进一步准确性增益。
2020-10-21 cs.AI cs.CL
Scope-enhanced Compositional Semantic Parsing for DRT
Georgetown University(乔治城大学);University of Amsterdam(阿姆斯特丹大学);Saarland University(萨尔大学);University of Groningen(格罗宁根大学)
针对现有seq2seq模型在DRT解析中准确率随句子复杂度下降、难生成合规表征的问题,提出基于新型量词辖域预测机制的组合式神经符号AMS解析器,可稳定输出合规结果,复杂句子解析表现更优。
2024-10-09 cs.CL
Retrieval and Augmentation of Domain Knowledge for Text-to-SQL Semantic Parsing
TCS Research Pune, India(TCS研究部,印度浦那);TCS Research Delhi, India(TCS研究部,印度德里)
针对Text-to-SQL任务中现有领域知识依赖临时查询提示的问题,提出数据库层面结构化领域语句关联框架及子串匹配检索方法,在11个真实库、5款LLM上验证了实用性与准确率优势。
2025-10-01 cs.CL
Compressing Transformer-Based Semantic Parsing Models using Compositional Code Embeddings
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Amazon Alexa(亚马逊 Alexa)
当前最先进的面向任务的语义解析模型使用BERT或RoBERTa作为预训练的编码器;这些模型具有巨大的内存占用。这对他们在内存预算有限的边缘设备上部署Amazon Alexa和Google Assistant等语音助手提出了挑战。我们建议学习组合代码嵌入,以大大减少BERT-base和RobERTa-base的大小。我们还将该技术应用于DistilBERT,ALBERT-基地,和ALBERT-大,三个已经压缩的BERT变种,达到类似的最先进的性能语义解析与小得多的模型大小。在保持97.5%以上语义解析性能的同时,嵌入压缩率为95.15% ~ 98.46%,编码压缩率为20.47% ~ 34.22%。我们提供了训练的配方,并分析了代码嵌入大小和下游性能之间的权衡。
2020-10-10 cs.CL
Learning Contextual Representations for Semantic Parsing with Generation-Augmented Pre-Training
AWS AI Labs(AWS人工智能实验室)
最近,通过利用大规模文本语料库来训练具有自监督学习目标的大型神经语言模型,例如掩蔽语言模型(MLM),对学习用于各种NLP任务的上下文表示产生了极大的兴趣。然而,基于试点研究,我们观察到三个问题,现有的通用语言模型,当它们被应用到文本到SQL语义解析器:未能检测列提到的话语,未能推断列提到的细胞值,并未能组成复杂的SQL查询。为了缓解这些问题,我们提出了一个模型预训练框架,生成增强预训练(GAP),通过利用生成模型来生成预训练数据,联合学习自然语言话语和表模式的表示。GAP MODEL在2 M话语-模式对和30 K话语-模式-SQL三元组上训练,其话语由生成模型产生。基于实验结果,利用GAP MODEL作为表示编码器的神经语义解析器在SPIDER和CRITERIA-TO-SQL基准测试中获得了最新的结果。
2020-12-18 cs.CL
X-SQL: reinforce schema representation with context
Microsoft Dynamics 365 AI(微软Dynamics 365人工智能部门)
在这项工作中,我们提出了X-SQL,一个新的网络体系结构的问题解析自然语言SQL查询。X-SQL建议使用BERT风格预训练模型的上下文输出来增强结构化模式表示,并与类型信息一起学习下游任务的新模式表示。我们在WikiSQL数据集上评估了X-SQL,并展示了其最新的性能。
2019-08-21 cs.CL
Compositional Generalization in Multilingual Semantic Parsing over Wikidata
University of Copenhagen(哥本哈根大学)
语义解析(SP)允许人类通过自然交互来利用大量的知识资源。然而,解析器大多是针对英语资源设计和评估的,例如CFQ(Keysers等人,2020),目前的标准基准基于从语法规则生成的英语数据,并面向Freebase,一个过时的知识库。我们提出了一种方法,用于创建一个多语言的,并行的数据集的问题查询对,接地在维基数据。我们引入这样一个数据集,我们称之为多语言组成维基数据问题(MCWQ),并使用它来分析组成的概括语义分析器在希伯来语,卡纳达语,中文和英文。虽然语言内泛化在不同语言之间是可比的,但zero-shot跨语言迁移的实验表明,跨语言合成泛化失败,即使使用最先进的预训练多语言编码器也是如此。此外,我们的方法,数据集和结果将有助于未来的研究SP在更现实和更多样化的设置比已经可能与现有资源。
2022-05-31 cs.CL
SPFT-SQL: Enhancing Large Language Model for Text-to-SQL Parsing by Self-Play Fine-Tuning
Harbin Institute of Technology(哈尔滨工业大学);Pengcheng Laboratory(鹏城实验室)
针对自博弈微调在Text-to-SQL任务中因正确SQL过多而削弱主模型生成能力的问题,提出SPFT-SQL方法,通过验证迭代微调构建模型基座,并采用错误驱动损失使主模型区分正确与错误SQL,在多个基准上超越SOTA。
2025-10-11 cs.AI cs.CL
SeqZero: Few-shot Compositional Semantic Parsing with Sequential Prompts and Zero-shot Models
Amazon(亚马逊);Georgia Institute of Technology(佐治亚理工学院)
最近的研究表明,结合预训练的语言模型(LM)与规范话语的Few-Shot语义解析有希望的结果。由于形式语言的组成结构,规范话语往往冗长而复杂。学习生成这样的规范话语需要大量的数据来达到高性能。仅用Few-Shot样本进行微调,LM很容易忘记预先训练的知识,过拟合虚假偏差,并遭受成分分布外泛化错误。为了解决这些问题,我们提出了一种新的Few-Shot语义解析方法-- SeqZero。SeqZero将问题分解为一系列子问题,这些子问题对应于形式语言的子子句。基于分解,LM仅需要使用用于预测子子句的提示来生成简短答案。因此,SeqZero避免一次生成长的规范话语。此外,SeqZero不仅采用了Few-Shot模型,而且还采用了zero-shot模型来减轻过拟合。特别是,SeqZero通过集成配备了我们提出的约束重新缩放,从这两个模型的优点。SeqZero实现了GeoQuery和EscherceQuery上基于BART的模型的SOTA性能,这是两个具有组合数据分割的Few-Shot数据集。
2022-05-15 cs.CL