Detecting DBMS Bugs by Constructing Equivalent Representations of Intermediate Query Results
Wuhan University(武汉大学)
该研究提出ERIQ方法,通过对比VIEW、CTE、TEMPT表示相同中间查询结果的SQL变体的结果一致性,在4款开源DBMS中检测到64个漏洞,其中54个为未知逻辑漏洞。
2026-09-01 cs.DB cs.SE
ReSequel: Robust LLM-assisted Query Rewriting and Optimization using Templatization and Sampling
Concordia University(康考迪亚大学);TU Berlin(柏林工业大学);BIFOLD(柏林数据与人工智能联合实验室)
提出ReSequel,一种利用LLM和元数据(目录、统计信息)通过模板化规则和采样验证来重写SQL查询的优化层,在多个DBMS上实现高达16倍的工作负载加速。
2026-07-14 cs.DB
KathDB-FAO: Optimizing Multimodal Queries through Operator Grouping and Code Reuse
University of Washington(华盛顿大学);Teradata(天睿数据)
KathDB-FAO为多模态数据库系统设计了一种新查询执行子系统,将自然语言查询转化为合成函数组成的执行计划,在SemBench上平均降低执行成本58.8%,且质量相当或更优。
2026-11-03 cs.AI cs.DB
Duplicate-sensitivity Guided Transformation Synthesis for DBMS Correctness Bug Detection
数据库管理系统(DBMS)在从移动应用程序到网上银行的现代软件中发挥着核心作用。DBMS应该为所有应用程序提供正确的数据是至关重要的。当DBMS返回不正确的数据时,就会触发正确性错误。目前的生产级数据库管理系统仍然遭受不足的测试,由于有限的手写测试用例。最近几个作品提出了自动生成许多测试用例的查询转换,一个过程中产生一个等价的查询对和测试的DBMS,通过检查系统是否返回相同的结果集的两个查询。然而,它们仍然严重依赖于手工工作来提供转换,这在很大程度上限制了它们对有效输入查询空间的探索。本文介绍了重复灵敏度指导的变换合成,自动发现新的转换,首先合成许多候选人,然后过滤不等价的。我们的自动合成是通过变异的查询,同时保持其重复的敏感性,这是查询等价的必要条件。在候选合成之后,我们使用查询等价检查器来保持与给定查询等价的突变查询。此外,我们已经实现了我们的想法在一个工具Eqsql,并使用它来测试生产级DBMS。在两个月内,我们在MySQL、TiDB和CynosDB中总共检测到30个新确认的独特错误。
2021-07-08 cs.DB cs.PL cs.SE
BoomHQ: Learning to Boost Multiple Hybrid Queries on Vector DBMSs
Peking University(北京大学);ZTE Corporation(中兴通讯股份有限公司)
本文提出BoomHQ框架,通过建模向量与标量属性相关性及捕捉常见查询模式,提升混合查询效率,实验显示在指定召回阈值下,速度提升达2倍以上,且具备数据更新鲁棒性。
2026-04-27 cs.DB
Hydro: Adaptive Query Processing of ML Queries
Georgia Institute of Technology(佐治亚理工学院)
本文提出Hydro,一个利用自适应查询处理(AQP)的ML中心DBMS,通过动态监控UDF统计信息、优化谓词评估顺序和资源分配,解决了ML查询中UDF性能瓶颈和数据依赖的计划优化问题,实现高达11.52倍加速。
2024-03-22 cs.DB cs.LG
Efficient Path Query Processing in Relational Database Systems
Northeastern University(东北大学)
本文提出ReCAP抽象,通过显式指定早期过滤机会,使关系型数据库能高效处理结合正则表达式和属性约束的路径查询,提升性能达数万倍。
2026-10-22 cs.DB
Detecting Optimization Bugs in Database Engines via Non-Optimizing Reference Engine Construction
数据库管理系统(DBMS)被广泛使用。为了有效地访问数据,他们应用了复杂的优化。不正确的优化可能会导致逻辑错误,从而导致查询计算出不正确的结果集。我们提出了非优化引用引擎构造(NoREC),一种全自动的方法来检测DBMS中的优化错误。从概念上讲,这种方法旨在通过优化和非优化版本的DBMS来评估查询,然后检测它们返回的结果集中的差异,这将表明DBMS中存在错误。获得DBMS的非优化版本是具有挑战性的,因为DBMS通常对优化提供有限的控制。我们的核心见解是,一个给定的,潜在的随机生成的优化查询可以重写为一个DBMS不能优化。评估该未优化的查询有效地对应于执行原始查询的非优化引用引擎。我们在四个广泛使用的DBMS上进行了广泛的测试活动,即PostgreSQL,MariaDB,SQLite和CockroachDB。我们在这些系统的最新版本中发现了159个以前未知的错误,其中141个已经被开发人员修复。其中,51个是优化错误,其余的是错误和崩溃错误。我们的研究结果表明,NoREC是有效的,通用的,需要很少的实施工作,这使得该技术在实践中广泛适用。
2020-07-16 cs.DB cs.SE
JetStream: Generating Verified Query Accelerators for Existing Database Systems
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
JetStream是一种为现有DBMS生成查询特定加速器的方法,可在TPC-H测试中实现对DuckDB的315倍几何平均读取加速,经验证的加速器达93倍,更新流下仍保持120倍加速。
2026-11-05 cs.DB
Towards Eco-friendly Database Management Systems
数据库管理系统(DBMS)在很大程度上忽略了管理查询处理期间消耗的能量的任务。经济和环境因素都要求DBMS密切关注能源消耗。在本文中,我们处理这个问题,考虑能源消耗作为一个一流的性能目标,在DBMS中的查询处理。我们提出了两个具体的技术,可以使用的DBMS直接管理的能源消耗。这两种技术都以能耗换取性能。第一种技术称为PVC,利用现代处理器在较低处理器电压和频率下执行的能力。第二种技术称为QED,使用查询聚合来利用工作负载中查询的常见组件。在一个商业数据库管理系统和MySQL上进行的实验表明,PVC可以使处理器能耗降低49%,而响应时间仅增加3%.在MySQL上,PVC可以减少20%的能耗,而响应时间损失仅为6%。对于简单的选择查询没有谓词重叠,我们表明,量子电动力学可以用来优雅地交易响应时间的能量,减少了54%的平均响应时间增加43%的能源消耗。在本文中,我们还强调了一些研究问题,在新兴领域的节能数据处理。
2009-09-09 cs.DB
A Set-Theoretic Approach to Detecting Logic Bugs in DBMS Inner Join Optimizations
East China Normal University(华东师范大学);Digital Technologies, Ant Group(蚂蚁集团数字技术);Tsinghua University(清华大学)
提出基于集合论的蜕变测试方法,通过交集运算和三种语义保持变换规则生成等价查询,比较结果发现DBMS优化器逻辑错误,在主流系统中发现29个新问题。
2026-06-26 cs.DB cs.SE
Improving DBMS Scheduling Decisions with Fine-grained Performance Prediction on Concurrent Queries -- Extended
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室);Amazon Web Services(亚马逊网络服务)
本文提出非侵入式调度器IconqSched,通过黑盒细粒度预测器Iconq准确估计并发查询的系统运行时间,并利用贪心算法优化查询执行顺序与时机,在Postgres和Redshift上显著降低端到端运行时间。
2025-01-31 cs.DB cs.LG
Conditional Tables in practice
由于互联网的重要性不断增加,异构数据源的互操作性也越来越重要。例如,可以通过数据集成和数据交换来实现互操作性。这两种方法的共同点是DBMS需要能够存储和查询不完整的数据库。在这份报告中,我们提出PossDB,一个DBMS能够存储和查询不完整的数据库。该系统是PostgreSQL的包装器,查询语言是标准SQL子集的扩展。我们的实验结果表明,我们的系统扩展良好,实际上比同类系统更好。
2013-04-03 cs.DB
From Blind Search to Memory-Aware Evolution: Efficient DBMS Tuning via Collaborative Diagnosis and Utility-Aware Retrieval
Renmin University of China(中国人民大学);PingCAP(平凯星辰)
针对多组件DBMS调优难题,EvoTune框架通过协作诊断定位高影响子空间,引入效用感知检索策略,将调优反馈组织成层次化内存,无需LLM微调,实验证明其性能优于现有基线,能快速提升查询性能。
2026-07-21 cs.DB
Structure-Guided Query Evaluation: Towards Bridging the Gap from Theory to Practice
针对多关系连接查询优化难题,本文通过将SQL查询重写为Yannakakis算法的执行序列,提出结构引导的查询求值方法,证明考虑查询结构能显著提升现代DBMS在复杂场景下的性能。
2023-05-22 cs.DB
A Survey on Advancing the DBMS Query Optimizer: Cardinality Estimation, Cost Model, and Plan Enumeration
RMIT University(皇家墨尔本理工大学);Wuhan University(武汉大学)
查询优化器是数据库系统的核心。本文所研究的基于代价的优化器几乎被当前所有的数据库系统所采用。基于成本的优化器引入计划枚举算法来查找(子)计划,然后使用成本模型来获得该计划的成本,并选择成本最低的计划。在成本模型中,基数,通过操作符的元组的数量,起着至关重要的作用。由于基数估计的不准确性、成本模型的错误以及巨大的计划空间,优化器无法在合理的时间内为复杂查询找到最佳执行计划。本文首先深入研究了上述局限性背后的原因。接下来,我们将回顾用于提高基于成本的优化器中的三个关键组件(基数估计、成本模型和计划枚举)的质量的技术。我们还就上述各个方面的未来发展方向提供了见解。
2021-01-05 cs.AI cs.DB
Optimizing Cursor Loops in Relational Databases
在SQL查询结果上执行循环是很常见的,无论是在DBMS外部运行的应用程序中,还是在DBMS内部运行的用户定义函数(UDF)和存储过程中。可以说,面向集合的操作更有效,应该优先于迭代;但从现实世界的用例来看,很明显,在许多情况下,查询结果上的循环是不可避免的,并且是许多用户的首选。这样的循环,被称为游标循环,带来了巨大的权衡和开销。性能、资源消耗和并发性。我们提出了Aggify,一种优化查询结果循环的技术,克服了所有这些开销。它通过自动生成与循环语义等效的自定义聚合来实现这一点。因此,Aggify通过重写查询以使用此生成的聚合来完全消除循环。该技术有几个优点,例如:(i)整个游标循环操作的管道化而不是物化,(ii)将循环计算从应用程序层下推到DBMS,更接近数据,(iii)利用现有的聚合优化工作函数,从而产生高效的查询计划。我们描述了Aggify的技术基础,并提出了我们的实验评估基准以及真实的工作负载,证明了这种技术的显着优势。
2020-05-05 cs.DB
Cardinality Estimation in DBMS: A Comprehensive Benchmark Evaluation
Alibaba Group(阿里巴巴集团);MIT(麻省理工学院);Nanyang Technological University(南洋理工大学);Peking University(北京大学)
基数估计(CardEst)在为DBMS中的查询优化器生成高质量的查询计划方面起着重要作用。在过去的十年中,已经提出了越来越多的先进的CardEst方法(特别是ML为基础的)具有出色的估计精度和推理延迟。然而,目前还没有研究系统地评估这些方法的质量,并回答根本问题:这些方法在多大程度上可以提高查询优化器在现实世界中的性能,这是CardEst方法的最终目标。在本文中,我们全面和系统地比较了CardEst方法在一个真正的DBMS的有效性。我们为CardEst建立了一个新的基准,它包含一个新的复杂的真实世界的数据集STATS和一个多样化的查询工作负载STATS-CEB。我们将多个最具代表性的CardEst方法集成到开源数据库系统PostgreSQL中,并全面评估它们在提高查询计划质量方面的真正有效性,以及影响其适用性的其他重要方面,从推理延迟,模型大小和训练时间,到更新效率和准确性。我们获得了一些关键的调查结果的CardEst方法,在不同的数据和查询设置。此外,我们还发现,在查询优化过程中,广泛使用的估计精度度量(Q-Error)无法区分不同子计划查询的重要性,从而无法真实反映CardEst方法生成的查询计划质量。因此,我们提出了一个新的度量P-Error来评估CardEst方法的性能,它克服了Q-Error的局限性,能够反映CardEst方法的整体端到端性能。我们已经在https://g…
2021-09-15 cs.AI cs.DB
On-the fly AES Decryption/Encryption for Cloud SQL Databases
我们提出了客户端AES 256加密云SQL数据库。列密文是确定性的或概率性的。我们信任云DBMS的运行时值的安全性,例如,通过移动目标防御客户端可以将AES密钥与查询一起发送。这些服务于将所选密文动态解密为用于查询评估的明文。DBMS最迟在查询结束时清除键和明文。它可以将密文传递给解密使能的客户端或以其他方式传递明文,例如,浏览器/导航器。该方案在功能上向云DBMS提供明文SQL DBMS的能力。AES处理开销对于现代CPU来说似乎可以忽略,例如,一个流行的英特尔I5。确定性加密可以没有存储开销。概率的一个加倍的DB存储。该方案似乎是第一个普遍实用的外包加密SQL数据库。一个足以实践的实现看起来很容易。一个现有的云SQL数据库管理系统与UDF支持应该做的。
2015-12-20 cs.CR cs.DB
CERT: Finding Performance Issues in Database Systems Through the Lens of Cardinality Estimation
提出 CERT 技术,通过基数估计视角和黑盒测试方法发现数据库系统中的性能问题,在 MySQL、TiDB 和 CockroachDB 中发现 13 个问题,助力提升系统性能。
2024-01-10 cs.DB cs.SE
NaviX: A Native Vector Index Design for Graph DBMSs With Robust Predicate-Agnostic Search Performance
提出用于图数据库的原生向量索引NaviX,基于HNSW图结构并采用自适应预过滤算法,实现了在多变选择性和相关性下稳健高效的谓词无关过滤向量搜索。
2025-06-29 cs.DB cs.IR
Machine Learning-based Cardinality Estimation in DBMS on Pre-Aggregated Data
基数估计是数据库查询处理和优化中的一项基本任务。如最近的论文所示,基于机器学习(ML)的方法可以提供比传统方法更准确的基数估计。然而,在模型训练阶段必须执行大量示例查询来学习数据依赖的ML模型,这导致了非常耗时的训练阶段。这些示例查询中的许多查询使用相同的基本数据,具有相同的查询结构,只是它们的谓词不同。因此,乍一看,索引结构似乎是一种理想的优化技术。然而,其益处是有限的。为了加快这个模型训练阶段,我们的核心思想是确定基本数据的谓词独立的预聚合,并在此预聚合数据上执行示例查询。基于这一思想,我们提出了一个特定的聚合启用的训练阶段ML为基础的基数估计方法在本文中。正如我们将在评估中展示的不同工作负载一样,我们能够在启用聚合的训练阶段实现63的平均加速比。
2020-05-19 cs.DB
GRACEFUL: A Learned Cost Estimator For UDFs
本文提出GRACEFUL,一种学习型成本模型,用于准确估算数据库查询中UDF的执行成本,实现过滤器上拉/下推优化,带来50倍加速,并发布超9万UDF查询的数据集。
2025-03-31 cs.DB
A Signaling Game Approach to Databases Querying and Interaction
Oregon State University(俄勒冈州立大学);University of California San Diego(加利福尼亚大学圣地亚哥分校)
由于大多数用户并不确切了解数据库的结构和/或内容,他们的查询并不确切反映他们的信息需求。数据库管理系统(DBMS)可以与用户交互,并使用他们对返回结果的反馈来了解他们查询背后的信息需求。当前的查询接口假设用户在与DBMS交互期间不学习和修改他们以查询的形式表达他们的信息需求的方式。使用现实世界的交互工作量,我们表明,用户学习和修改如何表达他们的信息需求,在他们与DBMS的交互和他们的学习是准确地建模一个著名的强化学习机制。现有的数据交互系统假设用户不修改策略,无法有效地发现用户查询背后的信息需求。我们建模的用户和DBMS之间的交互作为一个游戏,具有相同的利益之间的两个理性的代理人,其目标是建立一个共同的语言表示信息需求的形式查询。我们提出了一种强化学习方法,学习和回答查询背后的信息需求,并适应用户的策略变化,并证明它提高了回答查询的有效性随机发言。我们提出了这种方法在大型关系数据库上的两种有效实现。我们对真实世界的查询工作负载进行了广泛的实证研究,表明我们的算法是高效和有效的。
2018-05-04 cs.AI cs.DB
Adaptive Cardinality Estimation
本文研究了查询优化中的一个重要子问题--基数估计问题。查询优化是每个关系数据库管理系统的一部分,负责为给定的查询找到最佳的执行方式。这些方法被称为计划。不同计划的执行时间可能相差几个数量级,因此查询优化器对整个数据库系统的性能有很大的影响。我们认为基于代价的查询优化方法是最流行的方法。据观察,基于成本的优化质量很大程度上取决于基数估计质量。本文提出了一种新的基于机器学习方法的基数估计方法。该方法的要点是使用先前执行的查询的查询执行统计信息来改进基数估计。我们称这种方法为自适应基数估计,以反映这一点。该方法具有通用性、灵活性和易于实现的特点。实验评估表明,该方法显着提高了基数估计的质量,从而使某些查询的数据库管理系统性能提高了几倍甚至几十倍。
2017-11-22 cs.DB stat.ML
First Past the Post: Evaluating Query Optimization in MongoDB
本文分析了 MongoDB 的 FPTP 查询优化器有效性,发现其存在偏好索引扫描的偏差,导致所选计划运行时间可达最优计划的两倍以上。
2024-09-25 cs.DB
Reducing the Cross-Model Tax: Query Optimization over Multi-Model Data
Charles University(查理大学)
本文针对跨异构数据模型查询的高开销问题,提出感知映射与能力的优化方法并在 MM-quecat 中实现,可大幅降低查询延迟、消除内存不足故障并缩短规划时间,提升多模型查询处理的效率与鲁棒性。
2026-09-07 cs.DB
Detecting DBMS Bugs with Context-Sensitive Instantiation and Multi-Plan Execution
本文提出 Kangaroo,通过上下文敏感实例化生成有效 SQL,并利用多计划执行比对结果发现 DBMS 逻辑缺陷,在 SQLite、PostgreSQL 和 MySQL 中检出 50 个新缺陷。
2023-12-08 cs.CR cs.DB
SafeQL: Search-based Refinement for Safe and Efficient LLM-based Text-to-SQL
Korea Advanced Institute of Science and Technology(韩国科学技术院)
SafeQL是将DBMS设为主动引导者的基于搜索的Text-to-SQL优化方法,可修复SQL错误,在Bird和Spider基准上提升了执行准确率与效率。
2026-08-11 cs.AI cs.DB
Scaling Automated Database System Testing
National University of Singapore(新加坡国立大学)
SQLancer++通过自适应SQL生成器实现自动数据库测试的扩展,发现并修复了196个新错误。
2026-01-26 cs.DB cs.SE
Energy-Aware Disk Storage Management: Online Approach with Application in DBMS
能耗已经成为数据密集型计算系统设计和实现的首要优化目标。这在数据库管理系统(DBMS)的设计中尤其如此,它被发现是现代数据中心软件堆栈中的主要能源消耗者。在所有数据库组件中,存储系统是最耗电的元素之一。在以前的工作中,动态电源管理(DynamicPowerManagementTM)技术,使实时决策的磁盘转换到低功耗模式,通常用于节省能源的存储系统。在本文中,我们解决了在以前的贡献的可扩展性建议的局限性。我们引入了一个集成了模型预测控制(MPC)策略的磁盘优化模型,以最大限度地减少基于磁盘的存储系统的功耗,同时满足给定的性能要求。它动态地确定磁盘的状态,并计划磁盘间的数据片段迁移,以实现功耗和查询响应时间之间的理想平衡。通过分析我们的优化模型,以确定最优解的结构属性,我们提出了一个快速解决方案的启发式的并行计算算法,可以集成在大规模磁盘存储系统的有效状态配置和数据迁移。我们评估我们提出的想法通过运行模拟使用广泛的合成工作负载的基础上流行的TPC基准。我们的研究结果表明,我们的解决方案显着优于现有的最好的算法在节能和响应时间。
2017-03-07 cs.DB
TUSQ: Targeted High-Utility Sequence Querying
在数据库管理系统(DBMS)的研究和开发方面已经花费了大量的努力,该数据库管理系统具有用于管理多个数据库、异构、复杂或增长的数据的巨大集合的广泛的应用。除了主要功能(即,创建、删除和更新),一个实用的、完美的数据库管理系统可以通过信息选择与用户进行交互,也就是与他们的目标进行查询。以往的查询算法,如频繁项集查询、序列模式查询(SPQ)等,都集中在对频繁度的度量上,不涉及效用的概念,这有助于用户发现更多的模式信息。为了将查询技术应用于更广泛的应用,我们将效用引入到面向目标的SPQ中,并制定了面向目标效用的序列查询任务。为了解决所提出的问题,我们开发了一种新的算法,即有针对性的高效用序列查询(TUSQ),基于两个新的上限后缀保持效用和终止后代效用以及垂直的最后实例表结构。为了进一步提高效率,TUSQ依赖于利用称为目标链的紧凑数据结构的投影技术。在几个真实和合成数据集上进行的广泛的实验研究表明,该算法在运行时间,内存消耗和候选过滤方面优于所设计的基线算法。
2021-03-30 cs.DB cs.DS
A Case for A Collaborative Query Management System
在过去的40年中,数据库管理系统(DBMS)已经发展到提供各种复杂的数据管理功能。与此同时,用于管理对数据的查询的工具仍然相对原始。其中一个原因是查询通常是通过应用程序发出的。因此,它们被调试一次并重复使用。然而,这种互动模式正在发生变化。随着科学家(和其他人)在数据中心存储和共享越来越多的大量数据,他们需要通过发出探索性查询来分析数据的能力。在本文中,我们认为,在这些新的设置,数据管理系统必须提供强大的查询管理功能,从查询浏览自动查询建议。我们首先讨论了一个协同查询管理系统的要求。我们概述了一个早期的系统架构,并讨论了许多与建立这样一个引擎相关的研究挑战。
2009-09-09 cs.DB
COOOL: A Learning-To-Rank Approach for SQL Hint Recommendations
针对现有基于回归的 SQL hint 推荐方法在绝对延迟预测和单数据集训练上的局限性,本文提出 COOOL 框架,利用 Learning-To-Rank 预测查询计划相对成本排序,在 PostgreSQL 实验中超越现有方法并支持多数据集统一模型。
2023-04-10 cs.DB
Optimizing Provenance Computations
数据出处对于调试查询结果、审计云环境中的数据以及解释大数据分析的输出至关重要。一种成熟的技术是将出处表示为数据上的注释,并对查询进行仪表化以传播这些注释,从而产生用出处注释的结果。然而,即使是复杂的优化器通常也无法为插装查询生成有效的执行计划,因为它们固有的复杂性和不寻常的结构。因此,尽管插装能够在不需要对DBMS进行任何修改的情况下支持数据库的起源,但这种方法的性能远非最佳。在这项工作中,我们开发了特定于出处的优化来解决这个问题。具体来说,我们引入代数等价针对仪表查询,并讨论替代,等价的方式仪表查询的出处捕获。此外,我们提出了一个可扩展的启发式和基于成本的优化(CBO)框架,管理这些优化的应用程序,并在我们的GProM出处系统实现这个框架。我们的CBO是不可知的计划空间的形状,使用DBMS的成本估计,并使改造的优化选择到现有的代码,通过添加一些额外的。我们的实验证实,这些优化是非常有效的,往往提高性能的几个数量级的不同出处的任务。
2017-01-19 cs.DB
80 New Packages to Mine Database Query Logs
DBMS的查询日志是一种功能强大的资源。它支持许多实际应用,包括查询优化和用户体验增强。然而,挖掘SQL查询是一项艰巨的任务。基本问题是查询是符号对象,而不是数字向量。因此,许多流行的统计概念,如平均值,回归,或决策树不适用。大多数作者将自己限制在基于邻域的ad hoc算法或方法,例如k最近邻。我们的目标就是挑战这种局限性。我们引入了操作SQL查询的方法,就好像它们是向量一样,从而打开了整个统计工具箱。我们提出了三个家庭的方法:特征映射,内核方法和贝叶斯模型。第一种技术直接将查询编码为向量。第二个隐式地转换查询。最后一个利用概率图模型作为向量空间的替代。我们介绍了每种解决方案的优点和缺点,强调了它们之间的关系,并为未来的调查提供了理由。
2017-03-25 cs.DB
Query Performance Optimization in XML Data Warehouses
XML数据仓库为利用复杂数据的决策支持应用程序提供了一个有趣的基础。然而,目前原生XML数据库管理系统(DBMS)的性能有限,有必要研究如何优化它们。在本章中,我们将介绍两种这样的技术。首先,我们提出了一个连接索引,是专门适应XML仓库的多维体系结构。它消除了连接操作,同时保留了原始仓库中包含的信息。其次,我们提出了一个策略,选择XML物化视图聚类的查询工作量。为了验证这些建议,我们测量的响应时间的一组决策支持XML数据仓库,使用和不使用我们的优化技术。我们的实验结果证明了它们的效率,即使当查询是复杂的,数据是大量的。
2017-01-27 cs.DB
Towards Deterministic Decomposable Circuits for Safe Queries
有两种方法可以在元组独立的数据库上进行UCQ的精确概率推断。在可拓方法中,查询评估是在DBMS中通过利用查询的结构来执行的。在内涵方法中,首先在数据库上构建查询的世系的表示,然后计算世系的概率。在本文中,我们提出了一种新的技术来构建世系表示为确定性可分解的电路在PTIME。该技术可以应用于一类UCQ,它已经被证明可以分离两种方法的复杂性。我们通过实验测试了我们的技术,并表明它在该类的所有查询上都成功,直到某个大小参数,即,超过$20$百万次查询。
2019-12-23 cs.DB
Query-Sequence Optimization on a Reconfigurable Hardware-Accelerated System
数据库查询处理的硬件加速可以在FPGA的帮助下完成。特别是,它们在运行时是部分可重新配置的,这允许硬件在运行时适应各种查询。然而,重新配置本身需要一些时间。由于FPGA的受影响区域在重新配置期间不可用于计算,因此避免某些重新配置可以提高整体性能。本文提出了基于查询序列的优化方法,降低了重配置的影响。即将到来的查询的知识用于(I)当查询仍在运行时推测性地开始重新配置,以及(II)避免将在后续查询中再次使用的可重新配置区域的重复。我们使用校准模型和各种参数值的测量来评估我们的优化。即使使用只有两个查询的序列,也可以获得高达21%的执行时间改进
2020-01-29 cs.DB
LearnedWMP: Workload Memory Prediction Using Distribution of Query Templates
York University(约克大学);IBM Canada Ltd.(IBM加拿大有限公司)
本文提出LearnedWMP,将工作负载内存预测建模为分布回归,利用查询模板分布并发工作负载内存需求,显著降低估计误差并提升速度、减小模型体积。
2024-01-22 cs.DB cs.LG
Evaluation of Provenance Serialisations for Astronomical Provenance
本文比较了天文溯源数据的 turtle 与 JSON 序列化格式在存储和查询效率上的表现,发现 turtle 更适合存储和小型简单查询,而 JSON 在复杂查询上更高效。
2024-07-19 astro-ph.IM cs.DB
Adaptive Cost Model for Query Optimization
针对数据库负载和系统性能变化导致传统静态代价模型参数失效的问题,提出自适应代价模型ACM,在DB运行时动态优化CPU和I/O代价参数,在TPC-H基准上实现20%的端到端延迟改善。
2024-09-25 cs.DB
Demonstrating GenDB: Instance-Optimized and Customized Query Processing Code Generation via LLM Agents
Cornell University(康奈尔大学)
研究针对传统查询处理引擎扩展难题,提出GenDB生成式查询引擎,借助大语言模型代理生成代码。核心方法是通过LLM agents为特定场景生成优化代码,主要贡献是展示其工作流程、性能优势并提供用户探索平台。
2026-07-24 cs.AI cs.CL cs.DB
Multi Query Optimization in GLADE
Hadoop上的SQL系统、查询优化、多个节点上的数据分布和并行化技术是目前研究的几个领域。亚马逊、谷歌、微软等知名企业正在努力实现从多个节点更快地访问数据的系统,以减少数据移动性并提高并行性。通过在携带数据的不同节点上并行运行相同的查询,引入各种并行化技术,数据库系统以有效的方式在最少的时间量内检索和检查查询。除了多线程并行化之外,还有另一种并行化方式可以执行,以进一步减少检索时间,从而提高系统的效率;在DBMS/RDBMS之上对用户查询进行并行化。在本文中,我们将研究这样一种技术,如何多个查询可以同时运行在一个系统上,以提高效率,减少从存储的数据检索。通过为一组查询生成最佳和无处不在的连接计划,然后将其馈送到GLADE(广义线性聚合分布引擎),这是一个可扩展的分布式系统,用于大规模数据分析,从而最大限度地分担工作量。我们的主要工作是集中在生成GLADE连接计划的多查询满足最大数量的查询,以最大限度地提高数据共享和最小化数据检索每个单独的查询。
2016-08-16 cs.DB
NEURON: Query Optimization Meets Natural Language Processing For Augmenting Database Education
关系数据库管理系统(RDBMS)是世界上许多大学的计算机科学课程的一部分。该课程的核心组成部分是关系数据库管理系统中查询优化器的设计和实现。查询优化器的目标是自动识别执行用户提交的声明性SQL查询的最有效执行策略。查询优化过程产生表示查询的执行策略的查询执行计划(QEP)。由于底层查询优化器的复杂性,理解QEP要求学生了解与RDBMS相关的特定于实现的问题。实际上,这是一个不切实际的假设,因为大多数学生都是第一次学习数据库技术。因此,他们通常很难通过仔细阅读QEP来理解DBMS所承担的查询执行策略,从而阻碍了他们的学习过程。在这个演示中,我们提出了一个新的系统,称为神经元,促进自然语言与QEP互动,以提高其理解。NEURON接受SQL查询(可能包括连接、聚合、嵌套等)作为输入,执行它,并生成底层RDBMS部署的执行策略的简化的基于自然语言的描述(文本和语音形式)。此外,它通过基于自然语言的问答框架促进了对与QEP相关的各种特征的理解。我们主张,这样的工具,世界上第一个,可以大大提高学生的学习查询优化的主题。
2018-08-21 cs.DB
ALECE: An Attention-based Learned Cardinality Estimator for SPJ Queries on Dynamic Workloads (Extended)
本研究提出 ALECE,一种用于动态工作负载下 SPJ 查询的基于注意力的学习型基数估计器,通过数据编码器和查询分析器模块捕捉查询与数据的隐式关系,使 PostgreSQL 优化器实现接近最优的性能。
2023-10-23 cs.DB
Distribution-Aware Distributed Database Testing (Extended Version)
East China Normal University(华东师范大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Hunan University(湖南大学)
针对分布式数据库管理系统,提出分布式感知测试方法DAT及工具DistRanger,利用分布信息引导查询变异,在四个生产系统上发现31个新缺陷,优于现有测试工具。
2026-09-17 cs.DB
Forecasting the cost of processing multi-join queries via hashing for main-memory databases (Extended version)
数据库管理系统(DBMS)仔细优化复杂的多连接查询,以避免昂贵的磁盘I/O。由于今天的服务器具有数十或数百GB的RAM,许多分析数据库的很大一部分成为内存驻留。即使在针对内存环境进行了仔细调优之后,线性磁盘I/O模型(如PostgreSQL中实现的模型)也可能对查询响应时间进行预测,其速度可能比内存驻留数据的最佳多连接查询计划慢2倍。本文介绍了一个内存I/O成本模型,以确定良好的评估策略,复杂的查询计划与多个基于哈希的等价连接内存驻留数据。使用三个不同的系统(包括Amazon EC2实例)仔细验证了建议的成本模型的准确性,以控制特定于硬件的差异。并行查询评估的先前工作提倡右深和浓密树的多连接查询,由于其更大的并行化和流水线的潜力。一个令人惊讶的发现是,基于磁盘的无共享系统的传统智慧并不直接适用于现代的一切共享存储层次结构。正如我们的模型所证实的那样,随着查询中连接数量的增加,最佳左深查询计划和右深查询计划之间的性能差距可以增长到大约10倍。
2015-07-21 cs.DB
Can Large Language Models Be Query Optimizer for Relational Databases?
本文提出基于PostgreSQL的LLM查询优化器LLM-QO,通过QInstruct数据配方和两阶段微调直接生成执行计划,在三个工作负载上优于传统与学习型优化器。
2025-02-08 cs.DB
LLM4Hint: Leveraging Large Language Models for Hint Recommendation in Offline Query Optimization
Key Laboratory of High Confidence Software Technologies, CS, Peking University, China(高性能软件技术重点实验室,计算机科学,北京大学,中国);ZTE Corporation(中兴通讯)
本文提出 LLM4Hint,利用中等规模 LLM 结合轻量级软提示、查询重写和显式匹配提示,为离线重复查询推荐优化提示,以低微调成本提升学习型查询优化器的有效性与泛化性。
2025-07-04 cs.AI cs.DB
Optimizing Subgraph Queries by Combining Binary and Worst-Case Optimal Joins
University of Waterloo(滑铁卢大学)
本研究针对子图查询优化问题,设计了基于代价的优化器,可生成混合二元连接与最坏情况最优多路交集的计划,还提出执行时自适应调整顶点顺序的技术,经实验验证有效且已集成至Graphflow DBMS。
2019-06-02 cs.DB
GeoBlocks: A Query-Cache Accelerated Data Structure for Spatial Aggregation over Polygons
由于城市中的个人交通和公共交通正在发生变化,城市当局需要分析城市地理空间数据,以改善交通和基础设施。为此,它们高度依赖于从点数据提取汇总信息的空间聚合查询(例如,Uber乘车)包含在给定多边形区域中(例如,一个城市附近)。为了支持这样的查询,当前的分析工具要么只允许在预定义的区域上进行预定义的聚合,因此不适合探索性分析,要么访问原始数据以实时计算聚合结果,这严重限制了交互性。与此同时,现有的预聚合技术是不够的,因为它们保持在矩形区域的聚合。因此,当应用于任意多边形区域时,它们会引起无法有界的近似误差。在本文中,我们介绍了GeoBlocks,这是一种新型的预聚合数据结构,支持任意多边形的空间聚合。GeoBlocks使用一组细粒度的网格单元来近似多边形,与之前的工作相比,它允许通过调整单元大小来限制近似误差。此外,GeoBlocks采用类似trie的缓存,缓存频繁查询区域的聚合结果,从而动态适应查询工作负载中固有的偏斜,并随着时间的推移提高性能。总之,GeoBlocks的性能比动态聚合高出三个数量级,实现了交互式探索性分析所需的亚秒级查询延迟。
2021-03-16 cs.DB
Approximate Evaluation of Label-Constrained Reachability Queries
当前对基于图的数据模型的兴趣激增反映了越来越复杂的可达性查询的使用,正如最近对真实世界图查询日志的分析研究所证明的那样。尽管图DBMS功能已经成熟,但复杂的标签约束可达性查询及其相应的聚合版本仍然难以评估。在本文中,我们专注于计数标签约束的可达性查询的近似评估。我们为图形近似查询处理(AQP)提供了一个人类可解释的解决方案。这包括一个摘要算法(GRASP),以及一个自定义的可视化插件,它允许用户探索所获得的摘要。我们证明了节点组最小化的问题,与创建GRASP摘要,是NP-完全的。尽管如此,我们的GRASP摘要在实践中是相当小的,即使是大型图实例,并保证近似图查询回答,与可控的误差估计配对。我们实验衡量我们的GRASP算法的可扩展性和效率,并验证了图AQP模块的准确性和误差估计。据我们所知,我们是第一个能够处理复杂的标签约束可达性查询的可视化驱动的近似图分析的系统。
2018-11-28 cs.DB
Learning to Optimize Join Queries With Deep Reinforcement Learning
通常会避免穷举所有可能的连接顺序,并且大多数优化器会利用穷举来修剪搜索空间。当成本模型大致为线性时,可以很好地理解成本模型的设计和实现,并且我们发现,当成本中存在非线性时,这些成本模型可能显着次优。理想情况下,我们不需要固定的启发式算法,而是需要一种策略来以更数据驱动的方式引导搜索空间--根据特定的数据集和查询工作负载定制搜索。认识到经典的动态规划枚举方法和强化学习(RL)的最新成果之间的联系,我们提出了一种新的方法来学习优化的连接搜索策略。我们提出了我们的基于RL的DQ优化器,目前优化选择项目连接块。我们实现了三个版本的DQ来说明集成到现有DBMS中的容易性:(1)构建在Apache Calcite之上的版本,(2)集成到PostgreSQL中的版本,以及(3)集成到SparkSQL中的版本。我们的广泛评估表明,DQ实现了优化成本和查询执行时间与每个系统中的本地查询优化器竞争的计划,但在学习后可以执行得更快(通常是数量级)。
2019-01-10 cs.DB