Structured Case-based Reasoning for Inference-time Adaptation of Text-to-SQL parsers
Indian Institute of Technology Bombay(印度理工学院孟买分校)
用于语义解析的推理时自适应方法对于利用来自新观察到的域的示例而无需重复微调是有用的。现有方法通常通过简单地在Seq-to-Seq模型中在编码器的输入处级联来自新域的输入-输出示例对(情况)来使解码器偏置。这种方法不能充分利用案例中逻辑形式的结构。我们提出了StructCBR,一个结构化的基于案例的推理方法,它利用子树级的逻辑形式的情况下,候选输出之间的相似性,从而更好的解码器的决定。对于适应文本到SQL模型看不见的模式的任务,我们表明,开发的情况下,通过StructCBR的结构化方式的例子提供了一致的性能改进,在五个不同的数据库之前的推理时间适应方法。据我们所知,我们是第一个尝试文本到SQL模型的推理时间适应,并利用子查询之间的可训练结构化相似性。
2023-01-10 cs.AI cs.CL
CQR-SQL: Conversational Question Reformulation Enhanced Context-Dependent Text-to-SQL Parsers
Tencent Cloud Xiaowei(腾讯云小微);Beihang University(北京航空航天大学)
上下文相关的文本到SQL是将多轮问题转换为与数据库相关的SQL查询的任务。现有的方法通常侧重于充分利用历史上下文或先前预测的SQL来进行当前SQL解析,而忽略了显式地理解模式和会话依赖,如共指,省略和用户焦点变化。在本文中,我们提出了CQR-SQL,它使用辅助会话问题重构(CQR)学习显式地利用模式和解耦上下文依赖SQL解析。具体来说,我们首先提出了一个模式增强递归CQR方法产生领域相关的自包含的问题。其次,通过基于模式的一致性任务和树型结构的SQL解析一致性任务对CQR-SQL模型进行训练,使其能够将多轮问句和辅助自包含问句的语义映射到同一个潜在空间中,通过充分的上下文理解来提高SQL解析的能力。在撰写本文时,我们的CQR-SQL在两个上下文相关的文本到SQL基准测试SParC和CoSQL上取得了最新的结果。
2022-10-24 cs.CL
KaggleDBQA: Realistic Evaluation of Text-to-SQL Parsers
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
数据库问答的目标是在不同的应用领域中实现对现实生活中的关系数据库的自然语言查询。最近,Spider和WikiSQL等大规模数据集促进了文本到SQL解析的新建模技术,改善了对未知数据库的zero-shot泛化。在这项工作中,我们研究的挑战,仍然阻止这些技术的实际部署。首先,我们介绍了KaggleDBQA,一个新的跨域的真实Web数据库的评估数据集,特定于域的数据类型,原始格式,和无限制的问题。第二,我们重新审视文本到SQL解析器在现实生活中应用的评估任务的选择。最后,我们增加了我们的领域内的评估任务与数据库文档,一个自然发生的源隐含的领域知识。我们表明,KaggleDBQA提出了一个挑战,国家的最先进的zero-shot解析器,但更现实的评估设置和创造性地使用相关的数据库文档提高了13.2%以上的准确性,使其性能翻了一番。
2021-06-22 cs.AI cs.CL cs.DB
Encoding Database Schemas with Relation-Aware Self-Attention for Text-to-SQL Parsers
UC Berkeley(加州大学伯克利分校);Intel Labs(英特尔实验室)
当将自然语言问题转换为SQL查询来回答数据库中的问题时,我们希望我们的方法可以推广到训练集之外的域和数据库模式。为了使用神经编码器-解码器范例处理复杂的问题和数据库模式,将模式正确编码为问题输入的一部分至关重要。在本文中,我们在编码器中使用关系感知的自注意力,以便它可以推理所提供的模式中的表和列如何相互关联,并使用此信息来解释问题。我们在最近发布的Spider数据集上取得了显著的进步,精确匹配准确率为42.94%,而在已发表的工作中报告的准确率为18.96%。
2019-06-27 cs.CL cs.LG stat.ML
Error Detection for Text-to-SQL Semantic Parsing
The Ohio State University(俄亥俄州立大学)
本文提出独立于解析器的 text-to-SQL 错误检测模型,结合代码语言模型与图神经网络学习问题和 SQL 结构,并在跨领域真实错误上训练,实验证明其优于解析器相关不确定性指标。
2023-12-06 cs.CL
Weakly Supervised Text-to-SQL Parsing through Question Decomposition
Blavatnik School of Computer Science, Tel Aviv University(特拉维夫大学布拉瓦尼克计算机科学学院);Allen Institute for AI(艾伦人工智能研究所)
本文提出利用 QDMR 中间表示,由问题、分解结构和答案自动合成 SQL 查询,从而在零 SQL 标注下训练具有竞争力的 text-to-SQL 解析器。
2024-08-02 cs.AI cs.CL cs.DB
GP: Context-free Grammar Pre-training for Text-to-SQL Parsers
OneConnect Financial Technology Big Data Lab(平安金融科技大数据实验室)
提出了一种新的文本到SQL分析方法-语法预训练(GP),以解码问题和数据库之间的深层关系。首先,为了更好地利用数据库中的信息,在被识别为一列的问题词后面添加一个随机值,并将新句子作为模型输入。其次,在参考原编码的基础上,对解码器部分的向量初始化进行了优化,使其能够关注问题信息。最后,采用一种新的方法,称为洪水水平,以获得非零的训练损失,可以推广更好的结果。通过使用GRAPPA和RAT-SQL模型对句子进行编码,我们在跨DB Text-to-SQL数据集spider上实现了更好的性能(72.8 dev,69.8 test)。实验表明,该方法在训练过程中易于收敛,具有良好的鲁棒性。
2021-04-16 cs.CL
Faster and Better Grammar-based Text-to-SQL Parsing via Clause-level Parallel Decoding and Alignment Loss
Baidu Inc(百度公司);Soochow University(苏州大学)
基于语法的语法分析器在跨域文本到SQL的解析任务中取得了很高的性能,但由于语法选择的动作比SQL查询中的标记的动作多得多,解码效率低。同时,如何更好地对齐SQL子句和问题段一直是分析性能的关键挑战。因此,本文提出了子句级并行解码和对齐损失,以增强两个高性能的基于语法的解析器,即,RATSQL和LGESQL。两个解析器的实验结果表明,我们的方法获得了一致的改善,无论是在准确性和解码速度。
2022-04-26 cs.CL
SUN: Exploring Intrinsic Uncertainties in Text-to-SQL Parsers
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Chinese Academy of Sciences(中国科学院大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
本文旨在通过探讨基于神经网络(SUN)的文本到SQL解析方法中固有的不确定性来提高解析性能。从数据不确定性的角度来看,一个SQL可以从多个语义等价的问题中学习,这是无可争议的。不同于以往的方法,仅限于一对一的映射,我们提出了一个数据不确定性约束,探索多个语义等价的问题(多对一)之间的潜在互补语义信息,学习鲁棒的特征表示,减少虚假的关联。通过这种方式,我们可以降低学习表示的敏感性,提高解析器的鲁棒性。从模型不确定性的角度来看,神经网络的权重之间通常存在结构信息(依赖性)。为了提高神经文本到SQL解析器的泛化能力和稳定性,我们提出了一个模型不确定性约束,通过强制不同扰动编码网络的输出表示相互一致来细化查询表示。在五个基准数据集上的大量实验表明,我们的方法显着优于强大的竞争对手,并取得了新的最先进的结果。为了重现性,我们在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/sunsql上发布我们的代码和数据。
2022-10-28 cs.CL
Towards Generalizable and Robust Text-to-SQL Parsing
The Chinese University of Hong Kong(香港中文大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院)
文本到SQL解析解决了将自然语言问题映射到可执行SQL查询的问题。在实践中,文本到SQL解析器经常遇到各种具有挑战性的场景,要求它们具有通用性和健壮性。虽然大多数现有的工作都解决了特定的泛化或鲁棒性挑战,但我们的目标是以更全面的方式研究它。具体来说,我们认为文本到SQL的解析器应该是(1)在三个泛化级别上可泛化的,即i.i.d.,zero-shot和组合,以及(2)对输入扰动的鲁棒性。为了提高这些能力的解析器,我们提出了一种新的TKK框架,包括任务分解,知识获取,知识组合学习文本到SQL解析的阶段。通过将学习过程划分为多个阶段,我们的框架提高了解析器获取一般SQL知识的能力,而不是捕获虚假模式,使其更具泛化性和鲁棒性。在各种泛化和鲁棒性设置下的实验结果表明,我们的框架在所有场景下都是有效的,并在Spider,SParC和CoSQL数据集上实现了最先进的性能。代码可以在https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/tkk上找到。
2022-10-23 cs.CL
Speak to your Parser: Interactive Text-to-SQL with Natural Language Feedback
University of Maryland, College Park(马里兰大学帕克分校);Microsoft Research(微软研究院)
我们研究了带有自然语言反馈的语义分析校正任务。给定一个自然语言话语,大多数语义解析系统将该问题作为一次性翻译,其中话语被映射到对应的逻辑形式。在本文中,我们研究了一个更具交互性的场景,人类可以进一步与系统进行交互,提供自由形式的自然语言反馈,以纠正系统时,它产生的初始话语的不准确的解释。我们专注于自然语言的SQL系统和构造,SPLASH,一个数据集的话语,不正确的SQL解释和相应的自然语言的反馈。我们比较了各种参考模型的校正任务,并表明,将这样一个丰富的反馈形式,可以显着提高整体语义解析的准确性,同时保留了灵活性的自然语言的互动。虽然我们估计人类校正准确率为81.5%,但我们的最佳模型仅达到25.1%,这为未来的研究留下了很大的差距。SPLASH可在https://aka.ms/Splash_dataset上公开获得。
2020-06-01 cs.CL
ShadowGNN: Graph Projection Neural Network for Text-to-SQL Parser
Shanghai Jiao Tong University(上海交通大学);State Key Lab of Media Convergence Production Technology and Systems(媒体融合生产技术与系统国家重点实验室)
给定数据库模式,Text-to-SQL旨在将自然语言问题转换为相应的SQL查询。在跨域环境下,传统的语义解析模型难以适应不可见的数据库模式。为了提高模型的泛化能力,罕见的和看不见的模式,我们提出了一个新的架构,ShadowGNN,在抽象和语义层面上处理模式。通过忽略数据库中的语义项名称,抽象模式被利用在一个设计良好的图投影神经网络中,以获得问题和模式的非词汇化表示。基于领域无关的表示,关系感知的Transformer被用来进一步提取问题和模式之间的逻辑链接。最后,采用上下文无关文法的SQL解码器。在具有挑战性的Text-to-SQL基准测试Spider上,实证结果表明ShadowGNN的性能优于最先进的模型。当标注的数据非常有限时(只有10%的训练集),ShadowGNN获得了超过5%的绝对性能增益,这表明它具有强大的泛化能力。我们的实现将在\url{https://github.com/WowCZ/shadowgnn}上开源。
2021-04-14 cs.CL cs.HC
Improving Text-to-SQL Semantic Parsing with Fine-grained Query Understanding
Amazon AWS AI Labs(亚马逊AWS人工智能实验室)
文本到SQL语义解析的研究主要依赖于解析器本身或基于简单启发式的方法来理解自然语言查询。在合成SQL查询时,解析器没有可用的NLQ的显式语义信息,这导致不理想的泛化性能。此外,没有词汇级细粒度的查询理解,查询和数据库之间的链接只能依赖于模糊字符串匹配,这导致在实际应用中的次优性能。鉴于此,本文提出了一个通用的,模块化的神经语义解析框架,是基于令牌级细粒度查询理解。我们的框架包括三个模块:命名实体识别器(NER),神经实体链接器(NEL)和神经语义解析器(NSP)。NER模型通过对查询和数据库进行联合建模,分析用户意图并识别查询中的实体。NEL模型将类型化实体链接到数据库中的模式和单元值。解析器模型利用可用的语义信息和链接结果,并基于动态生成的语法合成树结构的SQL查询。在最新发布的语义解析数据集SQUALL上的实验表明,该模型在WikiTableQuestions(WTQ)测试集上的执行准确率为56.8%,比现有模型高出2.7%.
2022-09-28 cs.CL
Text-to-SQL Error Correction with Language Models of Code
The Ohio State University(俄亥俄州立大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校);Cisco Research(思科研究院)
本文提出基于子句级编辑和贴近代码语言模型预训练语料的SQL表示方法,构建文本到SQL错误纠正模型,显著提升多种解析器的准确率。
2023-05-28 cs.AI cs.CL cs.DB
Question Generation from SQL Queries Improves Neural Semantic Parsing
Sun Yat-sen University(中山大学);Harbin Institute of Technology(哈尔滨工业大学);Microsoft Research(微软研究院)
我们研究如何学习一个语义解析器的国家的最先进的准确性与较少的监督训练数据。我们进行我们的研究WikiSQL,迄今为止最大的手工注释的语义解析数据集。首先,我们证明了问题生成是一种有效的方法,使我们能够学习一个国家的最先进的神经网络基于语义解析器与百分之三十的监督训练数据。其次,我们表明,将问题生成应用于全监督训练数据进一步改进了最先进的模型。此外,我们观察到语义解析器的准确性和训练数据的数量之间存在对数关系。
2018-08-27 cs.CL
RASL: Retrieval Augmented Schema Linking for Massive Database Text-to-SQL
Amazon(亚马逊)
针对大语言模型数据库自然语言接口难以扩展到企业级海量数据目录的问题,提出RASL检索增强架构,拆解模式元数据为语义单元单独索引,兼顾表识别与列信息利用,在海量数据库上表现优于基线,无需领域微调即可适配企业场景。
2025-07-30 cs.AI cs.CL cs.LG
Representing Schema Structure with Graph Neural Networks for Text-to-SQL Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
对SQL解析语言的研究在很大程度上忽略了数据库(DB)模式的结构,要么是因为DB非常简单,要么是因为它在训练和测试时都被观察到。在Spider(最近发布的文本到SQL数据集)中,在测试时会给出新的和复杂的DB,因此DB模式的结构可以通知预测的SQL查询。在本文中,我们提出了一个编码器-解码器的语义解析器,其中的DB模式的结构是用一个图神经网络编码,这种表示是后来在编码和解码时使用。评估表明,对模式结构进行编码将我们的解析器准确率从33.8%提高到39.4%,大大高于目前的19.7%。
2019-06-03 cs.CL
End-to-End Cross-Domain Text-to-SQL Semantic Parsing with Auxiliary Task
University of Waterloo(滑铁卢大学);The University of Hong Kong(香港大学);AWS AI Labs(亚马逊云科技人工智能实验室)
在这项工作中,我们专注于跨域的文本到SQL的语义解析任务中的两个关键组成部分:模式链接和值填充。为了鼓励模型学习更好的编码能力,我们提出了一个列选择辅助任务,通过使用显式学习目标来赋予编码器相关匹配能力。此外,我们提出了两个值填充方法,建立桥梁,从现有的zero-shot语义解析器到现实世界的应用程序,考虑到大多数现有的解析器忽略的值填充在合成SQL。通过在Spider上的实验,我们提出的框架在数据库内容不可用时提高了执行精度和精确集匹配精度,详细的分析为未来的工作提供了指导。
2021-06-17 cs.CL
Knowledge Base Construction for Knowledge-Augmented Text-to-SQL
KAIST(韩国科学技术院);IBM Research(IBM研究院)
针对LLMs参数化知识难以覆盖多样化领域查询导致SQL生成不准确的问题,提出构建全面且可复用的text-to-SQL知识库以检索和生成必要知识,在多数据集上显著优于基线。
2025-05-28 cs.AI cs.CL cs.LG
Learning a Neural Semantic Parser from User Feedback
Allen Institute for Artificial Intelligence(艾伦人工智能研究院)
我们提出了一种方法,快速,轻松地建立自然语言接口的数据库,新的领域,其性能随着时间的推移,根据用户的反馈,并需要最少的干预。为了实现这一点,我们调整神经序列模型,将话语直接映射到具有完整表达能力的SQL,绕过任何中间含义表示。这些模型会立即在线部署,以征求真实用户的反馈,从而标记不正确的查询。最后,SQL的流行便于使用crowd为不正确的预测收集注释,这直接用于改进我们的模型。这种完整的反馈循环,没有中间表示或数据库特定的工程,开辟了构建高质量语义解析器的新方法。实验表明,这种方法可以快速部署任何新的目标域,我们从头开始学习一个在线学术数据库的语义解析器。
2017-04-27 cs.CL
A Tale of Two Linkings: Dynamically Gating between Schema Linking and Structural Linking for Text-to-SQL Parsing
University of Virginia(弗吉尼亚大学);Microsoft Research(微软研究院)
在文本到SQL的语义解析中,为生成的SQL查询选择正确的实体(表和列)是至关重要的,也是具有挑战性的;解析器需要将自然语言(NL)问题和SQL查询连接到数据库中的结构化知识。我们制定了两个链接过程,以解决这一挑战:模式链接链接明确的NL提到数据库和结构链接的实体在输出SQL中的数据库模式中的结构关系。直观地说,这两个链接过程的有效性变化的基础上产生的实体,因此,我们建议使用门控机制动态地选择它们之间。将所提出的方法与两个基于图神经网络的语义解析器以及BERT表示相结合,在具有挑战性的Spider数据集上展示了解析准确性的实质性收益。分析表明,我们提出的方法有助于增强结构的模型输出时,生成复杂的SQL查询,并提供更多的解释预测。
2020-11-22 cs.CL
Global Reasoning over Database Structures for Text-to-SQL Parsing
Tel-Aviv University(特拉维夫大学);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
最先进的语义解析器依赖于自回归解码,每次发出一个符号。当针对在训练时未观察到的复杂数据库(zero-shot)进行测试时,由于解码的局部性质,解析器通常很难在新数据库中选择正确的数据库常量集。在这项工作中,我们提出了一个语义解析器,全局原因的输出查询的结构,使更多的上下文知情的选择数据库常量。我们使用消息传递通过图神经网络软选择一个子集的数据库常量的输出查询,条件的问题。此外,我们训练一个模型来排名查询的基础上,全球对齐的数据库常量的问题的话。我们将我们的技术应用于当前最先进的Spider模型,这是一个具有复杂数据库的zero-shot语义解析数据集,准确率从39.4%提高到47.4%。
2019-08-29 cs.CL
Model-based Interactive Semantic Parsing: A Unified Framework and A Text-to-SQL Case Study
The Ohio State University(俄亥俄州立大学);Facebook AI Research(脸书人工智能研究院)
作为一个有前途的范例,交互式语义解析已被证明可以提高语义解析的准确性和用户对结果的信心。在本文中,我们提出了一个新的,统一制定的交互式语义解析问题,其目标是设计一个基于模型的智能代理。智能体将自己的状态保持为当前预测的语义解析,决定是否需要人工干预以及在何处需要人工干预,并以自然语言生成澄清问题。智能体的一个关键部分是一个世界模型:它接受一个请求(一个初始问题或来自用户的后续反馈)并转换到一个新的状态。然后,我们提出了一个简单但非常有效的实例化我们的框架,证明了两个文本到SQL数据集(WikiSQL和蜘蛛)与不同的国家的最先进的基本语义解析器。与现有的交互式语义解析方法相比,该方法将基本解析器视为黑盒,我们的方法要求更少的用户反馈,但产生更高的运行时准确性。
2019-10-11 cs.AI cs.CL
Abacus-SQL: A Text-to-SQL System Empowering Cross-Domain and Open-Domain Database Retrieval
Harbin Institute of Technology(哈尔滨工业大学)
针对现有文本转SQL系统缺乏开放域数据库检索能力、跨域迁移能力有限的问题,提出Abacus-SQL,通过数据库检索、数据增强、Pre-SQL和Self-debug方法提升性能,在多轮任务中表现优异且已公开。
2025-04-14 cs.CL
CRED-SQL: Enhancing Real-world Large Scale Database Text-to-SQL Parsing through Cluster Retrieval and Execution Description
Harbin Institute of Technology, Shenzhen, China(哈尔滨工业大学(深圳));Pengcheng Laboratory, Shenzhen, China(鹏城实验室);Inspur Cloud Information Technology Co., Ltd, Jinan 250101, China(浪潮云信息技术有限公司);Guangdong Power Grid Co., Ltd, China(广东电网公司)
针对大规模数据库中文本转SQL任务存在的语义不匹配问题,提出集成聚类检索和执行描述的CRED-SQL框架,通过聚类模式检索和EDL中间表示提升性能,在SpiderUnion和BirdUnion上实现SOTA。
2025-08-20 cs.AI cs.CL
Dual Reader-Parser on Hybrid Textual and Tabular Evidence for Open Domain Question Answering
AWS AI Labs, Amazon(亚马逊 AWS 人工智能实验室)
当前的开放域问答生成模型主要集中在从非结构化文本信息中生成直接答案。然而,世界上大量的知识存储在结构化数据库中,并且需要使用诸如SQL的查询语言来访问。此外,查询语言可以回答需要复杂推理的问题,并提供充分的解释能力。在本文中,我们提出了一个混合框架,以文本和表格的证据作为输入,并生成直接的答案或SQL查询,这取决于哪种形式可以更好地回答问题。然后可以在关联的数据库上执行生成的SQL查询以获得最终答案。据我们所知,这是第一篇将Text 2SQL应用于ODQA任务的论文。从经验上讲,我们证明了在几个ODQA数据集上,混合方法的性能始终优于只采用同质输入的基线模型。具体来说,我们使用基于T5的模型在OpenSQuAD数据集上实现了最先进的性能。在详细的分析中,我们证明了能够生成结构化SQL查询总是可以带来收益,特别是对于那些需要复杂推理的问题。
2021-12-08 cs.CL
Are LLMs Overkill for Databases?: A Study on the Finiteness of SQL
Cornell University(康奈尔大学)
本文通过376个数据库样本研究SQL查询的有限性,发现查询复杂度受现实需求限制,且模板分布呈现幂律特征,表明SQL查询可被模板高效覆盖。
2026-03-26 cs.AI cs.CL cs.DB
SyntaxSQLNet: Syntax Tree Networks for Complex and Cross-DomainText-to-SQL Task
Yale University(耶鲁大学)
大多数现有的文本到SQL任务的研究不需要生成复杂的SQL查询多个子句或子查询,并推广到新的,看不见的数据库。在本文中,我们提出了SyntaxSQLNet,语法树网络,以解决复杂的和跨域的文本到SQL生成任务。SyntaxSQLNet使用了一个SQL特定的语法树解码器,带有SQL生成路径历史和表感知的列注意编码器。我们在Spider text-to-SQL任务上评估SyntaxSQLNet,该任务包含具有多个表的数据库和具有多个SQL子句和嵌套查询的复杂SQL查询。我们使用数据库分割设置,其中测试集中的数据库在训练期间不可见。实验结果表明,SyntaxSQLNet可以处理比以前的工作更大量的复杂SQL示例,在精确匹配准确率方面比以前的最先进模型高出7.3%。我们还表明,使用跨域增强方法,SyntaxSQLNet可以进一步将性能提高7.5%,总共提高14.8%。据我们所知,我们是第一个研究这个复杂的跨域文本到SQL任务的人。
2018-10-25 cs.AI cs.CL
A Benchmark to Understand the Role of Knowledge Graphs on Large Language Model's Accuracy for Question Answering on Enterprise SQL Databases
本研究提出企业SQL问答基准,发现GPT-4直接查询SQL准确率仅16%,而基于知识图谱表示可提升至54%,表明知识图谱能显著增强LLM问答准确率。
2023-11-13 cs.AI cs.CL cs.DB
System and Methods for Converting Speech to SQL
IIT Guwahati(印度理工学院古瓦哈提分校);IBM Information Management, India Software Lab(IBM信息管理印度软件实验室)
本文讨论了如何将英语口语查询转换为SQL,以便从关系数据库中检索数据。用户通过用户界面提交作为语音信号的查询,并获得文本格式的查询结果。我们已经开发了声学和语言模型,使用它的语音话语可以转换为英语文本查询,从而自然语言处理技术可以应用于这个英语文本查询,以生成一个等效的SQL查询。语音转换成英文文本HTK和朱利叶斯工具已被使用,并转换成SQL查询的英文文本查询,我们已经实现了一个系统,使用基于规则的翻译翻译成SQL查询的英文语言查询。翻译使用词法分析器,解析器和语法指导的翻译技术,如编译器。JFLex和BYACC工具分别用于构建词法分析器和语法分析器。系统是域独立的,即系统可以在不同的数据库上运行,因为它从底层数据库生成lex文件。
2013-08-14 cs.CL cs.DB
Non-Programmers Can Label Programs Indirectly via Active Examples: A Case Study with Text-to-SQL
University of California, Berkeley(加州大学伯克利分校);Microsoft Semantic Machines(微软语义机器公司)
提出APEL框架,让非程序员通过选择输入-输出示例间接标注程序,在SPIDER数据集上达到75%准确率并发现原标注错误。
2023-10-23 cs.AI cs.CL cs.PL
Uni-Parser: Unified Semantic Parser for Question Answering on Knowledge Base and Database
Salesforce Research(Salesforce研究院);Yale University(耶鲁大学)
将自然语言问题解析成可执行的逻辑形式是对诸如知识库(KB)或数据库(DB)之类的结构化数据执行问答的有用且可解释的方式。然而,现有的语义解析方法不能适应这两种模式,因为它们遭受的逻辑形式候选人的指数增长,很难推广到看不见的数据。在这项工作中,我们提出了Uni-Parser,一个统一的语义解析器的问答(QA)的知识库和数据库。我们引入原语(KB中的关系和实体,DB中的表名、列名和单元值)作为框架中的基本元素。基元的数量随着KB和DB中检索到的关系的数量而线性增长,这使我们无法处理指数逻辑形式的候选者。我们利用生成器来预测最终的逻辑形式,通过改变和组合具有不同操作(例如选择,在哪里,计数)的顶级原语。通过对比基元排序器对搜索空间进行充分的修剪,生成器能够捕获基元的组合,从而增强了其泛化能力。我们在多个KB和DB QA基准测试中更有效地获得了有竞争力的结果,特别是在组合和zero-shot设置中。
2022-11-09 cs.AI cs.CL cs.PL
CoSQL: A Conversational Text-to-SQL Challenge Towards Cross-Domain Natural Language Interfaces to Databases
Yale University(耶鲁大学);Salesforce Research(赛富时研究院);University of Michigan(密歇根大学);Cornell University(康奈尔大学)
我们提出了CoSQL,用于构建跨域,通用数据库(DB)查询对话系统的语料库。它由30k+ turns加上10k+注释的SQL查询组成,这些查询是从3k对话的向导(WOZ)集合中获得的,查询跨越138个域的200个复杂DB。每个对话都模拟了一个真实的数据库查询场景,其中一个群众工作者作为用户探索数据库,一个SQL专家用SQL检索答案,澄清模糊的问题,或者通知无法回答的问题。当用户问题可以通过SQL回答时,专家向用户描述SQL和执行结果,从而保持自然的交互流。与现有的面向任务的对话数据集相比,CoSQL引入了新的挑战:(1)对话状态基于SQL,一种独立于域的可执行表示,而不是特定于域的槽值对,(2)因为测试是在看不见的数据库上完成的,成功需要推广到新的域。CoSQL包括三个任务:基于SQL的对话状态跟踪,查询结果的响应生成和用户对话行为预测。我们为每个任务评估了一组强大的基线,并表明CoSQL为未来的研究提出了重大挑战。数据集、基线和排行榜将在https://yale-lily.github.io/cosql上发布。
2019-09-11 cs.AI cs.CL
Semantic Decomposition of Question and SQL for Text-to-SQL Parsing
Ben Gurion University(本·古里安大学)
针对Text-to-SQL跨域复杂查询泛化难题,提出模块化查询计划语言QPL系统分解SQL,扩充Spider数据集,实验证明其优于直接解析,并支持构建对数据库模式敏感的问题分解器且提升可解释性。
2023-10-20 cs.CL
Spider: A Large-Scale Human-Labeled Dataset for Complex and Cross-Domain Semantic Parsing and Text-to-SQL Task
Department of Computer Science, Yale University(耶鲁大学计算机科学系);Yale University(耶鲁大学)
我们提出了蜘蛛,一个大规模的,复杂的和跨领域的语义解析和文本到SQL数据集注释的11名大学生。它由10,181个问题和5,693个独特的复杂SQL查询组成,涉及200个数据库和多个表,覆盖138个不同的领域。我们定义了一个新的复杂的和跨域的语义解析和文本到SQL的任务,不同的复杂的SQL查询和数据库出现在训练和测试集。通过这种方式,任务要求模型能够很好地泛化到新的SQL查询和新的数据库模式。Spider与以前的大多数语义解析任务不同,因为它们都使用单个数据库,并且在训练集和测试集中使用完全相同的程序。我们用各种最先进的模型进行了实验,最好的模型在数据库拆分设置上仅达到12.4%的精确匹配精度。这表明Spider对未来的研究提出了很大的挑战。我们的数据集和任务可在https://yale-lily.github.io/spider上公开获取
2019-02-02 cs.AI cs.CL
SDE-SQL: Enhancing Text-to-SQL Generation in Large Language Models via Self-Driven Exploration with SQL Probes
South China University of Technology(华南理工大学);Soochow University(苏州大学);Guangdong Laboratory of AI and Digital Economy(广东人工智能与数字经济实验室)
提出SDE-SQL框架,通过生成并执行SQL探针使大语言模型在推理时自驱探索数据库,零样本下在BIRD基准上较基线提升8.02%执行准确率,无需SFT或模型集成即达开源模型最优。
2025-06-19 cs.AI cs.CL
Text-to-SQL Generation for Question Answering on Electronic Medical Records
Virginia Tech(弗吉尼亚理工大学)
电子医疗记录(EMR)包含全面的患者信息,并且通常存储在具有多个表的关系数据库中。从电子病历数据中有效地检索患者信息检索是医学专家的一项具有挑战性的任务。SQL到SQL生成方法通过首先预测关于数据库的给定问题的SQL查询,然后在数据库上执行查询来解决这个问题。然而,大多数现有的方法还没有适应医疗保健领域,由于缺乏医疗保健数据库到SQL数据集的学习模型特定于这个领域。此外,术语缩写的广泛使用和问题中可能的错别字为准确生成相应的SQL查询带来了额外的挑战。在本文中,我们通过开发一个基于深度学习的TRanslate-Edit Model for SQL(TREQS)生成来解决这些挑战,该模型采用广泛使用的序列到序列模型来直接生成给定问题的SQL查询,并使用注意力复制机制和特定于任务的查找表进一步执行所需的编辑。基于广泛使用的公共电子医疗数据库,我们创建了一个新的大规模的SQL对数据集,命名为MIMICSQL,以执行在医疗领域的SQL到SQL的生成任务。一组广泛的实验进行评估我们提出的模型MIMICSQL的性能。定量和定性的实验结果表明,我们所提出的方法在预测条件值的灵活性和效率,其鲁棒性随机问题的缩写和错别字。
2020-01-30 cs.AI cs.CL cs.IR
Using Database Rule for Weak Supervised Text-to-SQL Generation
Rokid AI Lab(Rokid人工智能实验室);China Electronic Technology Group Corporation Information Science Academy(中国电子科技集团公司信息科学研究院)
我们提出了一个简单的方法来做的任务,文本到SQL的问题,弱监督。我们称之为规则SQL。在没有SQL逻辑形式的数据库表中给定问题和答案,Rule-SQL首先使用基于表列名和问题字符串的规则进行SQL探索,然后使用探索的SQL进行监督训练。我们设计了一些规则来减少探索搜索空间。对于深层模型,我们利用BERT作为表示层,并将模型分为SELECT、AGG和WHERE部分。在WikiSQL上的实验结果优于完全监督的强基线,并且与最新的弱监督方法相当。
2019-09-09 cs.CL
Companion Agents: A Table-Information Mining Paradigm for Text-to-SQL
Amap, Alibaba Group(阿里巴巴集团高德)
同伴代理通过主动挖掘数据库中的隐藏关系和统计规律,提升文本到SQL在注释稀缺条件下的准确率。
2025-12-17 cs.AI cs.CL
Enhancing Text-to-SQL Capabilities of Large Language Models via Domain Database Knowledge Injection
School of Cyber Science Engineering, Huazhong University of Science and Technology(华中科技大学网络空间科学与工程学院);Wuhan AI Research Foundation Model Research Center(武汉人工智能研究基金会大模型研究中心);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Peng Cheng Laboratory(鹏城实验室)
本文提出通过注入领域数据库知识(如表模式和单元格值)来增强大语言模型的文本到SQL能力,实验表明预训练和微调显著提升执行匹配和精确匹配指标,并具有良好泛化性。
2025-02-25 cs.AI cs.CL
Can LLM Already Serve as A Database Interface? A BIg Bench for Large-Scale Database Grounded Text-to-SQLs
The University of Hong Kong(香港大学);DAMO Academy, Alibaba Group(阿里巴巴集团达摩院);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Tsinghua University(清华大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Shanghai AI Laboratory(上海人工智能实验室)
提出BIRD基准,含12,751对数据、95个数据库,覆盖37领域,强调数据库值理解,ChatGPT执行准确率仅40.08%,远低于人类92.96%,揭示挑战。
2023-11-15 cs.CL
RYANSQL: Recursively Applying Sketch-based Slot Fillings for Complex Text-to-SQL in Cross-Domain Databases
Kakao Enterprise;Sungkyunkwan University(成均馆大学)
Text-to-SQL是在给定问题和数据库的情况下,将用户问题转换为SQL查询的问题。在本文中,我们提出了一个神经网络的方法称为RYANSQL(递归产生注释网络SQL),以解决复杂的文本到SQL的跨域数据库的任务。定义了状态位置码SPC,将嵌套的SQL查询转换为一组非嵌套的SELECT语句;提出了一种基于草图的槽填充方法,将每个SELECT语句合成为相应的SPC。此外,两个输入操作方法,以进一步提高生成性能。RYANSQL在具有挑战性的Spider基准测试中实现了58.2%的准确率,比以前的最先进方法提高了3.2%。在撰写本文时,RYANSQL在Spider排行榜上排名第一。
2020-04-07 cs.CL
SQLong: Enhanced NL2SQL for Longer Contexts with LLMs
Oracle Corporation(Oracle公司)
针对大语言模型在长上下文大型数据库模式下NL2SQL性能下降的问题,提出SQLong数据增强框架,通过合成表命令与数据行扩展模式生成增强数据集,实验证明其可显著提升模型在复杂库模式场景下的NL2SQL表现。
2025-05-20 cs.AI cs.CL cs.LG
Prompting GPT-3.5 for Text-to-SQL with De-semanticization and Skeleton Retrieval
National University of Defense Technology(国防科技大学)
提出基于LLM的文本到SQL框架,通过去语义化提取问题骨架检索相似示例,并建模问题与数据库模式关系,在三个跨领域基准上超越现有模型。
2023-08-31 cs.AI cs.CL
SQLformer: Deep Auto-Regressive Query Graph Generation for Text-to-SQL Translation
University of Cambridge(剑桥大学)
SQLformer是一种新型Transformer架构,通过自回归生成SQL查询的抽象语法树并融入结构归纳偏置,在六个文本到SQL基准上取得最先进性能。
2024-05-27 cs.CL cs.LG
Proton: Probing Schema Linking Information from Pre-trained Language Models for Text-to-SQL Parsing
University of Chinese Academy of Sciences(中国科学院大学);Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);Alibaba Group(阿里巴巴集团);Massachusetts Institute of Technology(麻省理工学院)
构建可应用于新数据库的文本到SQL解析器的重要性早已被公认,实现这一目标的关键步骤是模式链接,即,在生成SQL时正确识别未看到的列或表。在这项工作中,我们提出了一种新的框架,通过基于庞加莱距离度量的探测过程,从大规模预训练的语言模型(PLM)中提取关系结构,并使用诱导的关系来增强当前基于图的解析器,以实现更好的模式链接。与常用的基于规则的模式链接方法相比,我们发现,探测关系可以鲁棒地捕获语义对应关系,即使在表面形式的提及和实体不同。此外,我们的探测过程是完全无监督的,不需要额外的参数。大量的实验表明,我们的框架设置新的国家的最先进的性能在三个基准。我们实证验证,我们的探测程序确实可以找到所需的关系结构,通过定性分析。我们的代码可以在https://github.com/AlibabaResearch/DAMO-ConvAI上找到。
2022-08-06 cs.CL
Structure Guided Large Language Model for SQL Generation
Department of Computing, The Hong Kong Polytechnic University, Hung Hom, Hong Kong SAR, China(香港理工大学计算机系);City University of Macau, Macau SAR, China(澳门城市大学);College of Information Science and Technology, Jinan University, GZ, China(广州jinan大学信息科学与技术学院)
针对 LLMs 难以理解复杂数据库结构和准确解读用户意图的问题,提出结构引导的 text-to-SQL 框架 SGU-SQL,通过建立结构感知链接和基于语法的提示分解任务,显著提升了 SQL 生成的准确性。
2025-07-10 cs.AI cs.CL cs.DB
Unmasking Database Vulnerabilities: Zero-Knowledge Schema Inference Attacks in Text-to-SQL Systems
Department of Information Systems and Cyber Security(信息系统与网络安全系);The University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本文提出一种零知识模式推断攻击框架,通过精心设计的问题探测文本到SQL模型并利用GPT-4解释输出,以高准确率重建数据库表名等模式信息,揭示了严重的安全漏洞并评估了简单防护机制的局限。
2025-06-03 cs.CL
IGSQL: Database Schema Interaction Graph Based Neural Model for Context-Dependent Text-to-SQL Generation
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);Center for Data Science, Peking University(北京大学数据科学中心);The MOE Key Laboratory of Computational Linguistics, Peking University(北京大学教育部计算语言学重点实验室)
近年来,上下文相关的文本到SQL任务引起了人们的广泛关注。以前的上下文相关的文本到SQL任务的模型只集中在利用历史用户输入。在这项工作中,除了使用编码器来捕捉用户输入的历史信息,我们提出了一个数据库模式交互图编码器,利用历史信息的数据库模式项目。在解码阶段,我们引入了一个门机制来衡量不同词汇的重要性,然后进行预测的SQL令牌。我们评估我们的模型上的基准SParC和CoSQL数据集,这是两个大型的复杂的上下文相关的跨域文本到SQL数据集。我们的模型在很大程度上优于以前的最先进的模型,并在两个数据集上取得了新的最先进的结果。比较和消融的结果表明,我们的模型的有效性和有用的数据库模式交互图编码器。
2020-11-11 cs.CL
Automatic database description generation for Text-to-SQL
Alibaba Group(阿里巴巴集团)
针对Text-to-SQL任务中数据库描述缺失问题,提出一种基于LLM的粗到细与细到粗双过程自动生成描述方法,在Bird基准上提升SQL生成准确率0.93%,达到人类水平的37%。
2025-02-28 cs.AI cs.CL cs.DB
Searching for Better Database Queries in the Outputs of Semantic Parsers
HSE University(高等经济大学);Yandex(杨德克斯)
从自然语言中的问题生成数据库查询的任务遭受模糊性和对目标的不够精确的描述。当系统需要泛化到训练时看不见的数据库时,这个问题会被放大。在本文中,我们考虑的情况下,在测试时,系统可以访问一个外部标准,评估生成的查询。标准可以从检查查询执行时没有错误到在一组测试上验证查询。在这种情况下,我们增加了神经自回归模型的搜索算法,寻找一个满足标准的查询。我们将我们的方法应用于最先进的语义解析器,并报告说,它允许我们找到许多通过不同数据集上所有测试的查询。
2022-10-13 cs.CL
Next-Generation Database Interfaces: A Survey of LLM-based Text-to-SQL
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算机系);Faculty of Data Science, City University of Macau(澳门城市大学数据科学学院);College of Cyber Security, Jinan University(暨南大学网络安全学院)
本文调研了基于大语言模型的文本到SQL方法,分析了技术挑战、数据集、指标及最新进展,并讨论了未来研究方向。
2025-11-24 cs.AI cs.CL cs.DB
Meta-aware Learning in text-to-SQL Large Language Model
Walmart Global Tech(沃尔玛全球科技)
提出元感知学习框架,整合领域知识、数据库模式、思维链和元数据关系,通过四种学习策略微调LLM,提升商业领域SQL生成的执行准确率、多任务能力并减少灾难性遗忘。
2025-05-25 cs.AI cs.CL
V-SQL: A View-based Two-stage Text-to-SQL Framework
Guangzhou Huaweisoft Co. Ltd(广州华软有限公司)
本文提出基于视图的模式策略,将紧密耦合的表解耦为低耦合视图,增强LLM对数据库模式的理解,并构建V-SQL两阶段框架,在Bird数据集上取得与最先进方法相当的竞争力。
2024-12-17 cs.CL cs.DB