Avoiding Materialisation for Guarded Aggregate Queries
针对含多连接的聚合查询中间结果爆炸问题,提出基于受保护概念的逻辑与物理层优化技术避免连接结果物化,并在Spark SQL实现且经标准基准验证有效性。
2024-11-30 cs.DB
Matching Dependencies with Arbitrary Attribute Values: Semantics, Query Answering and Integrity Constraints
在满足相似性条件的情况下,匹配依赖(MD)被引入到数据库元组对中特定属性值的识别或匹配中。它们的实施可以被看作是实体解析的自然推广。在我们称之为MD的“纯情况”中,来自底层数据域的任何值都可以用于进行匹配的公共值。我们调查的语义和属性的数据清洗,通过执行匹配的依赖关系的纯情况。我们的特点是预期的清洁的实例,也是“干净的答案”的查询下的清洗过程中不变的。计算干净的实例和干净的查询答案的复杂性进行了研究。确定了取决于MD和查询的易处理和难处理的病例。最后,我们建立连接与数据库的完整性约束下的“维修”。
2010-08-27 cs.DB
Efficient Lineage for SUM Aggregate Queries
人工智能系统通常基于对数据属性的聚合和特别是求和函数的计算(表示为查询)来做出决策并找到数据中的模式。当这些查询涉及整个数据或大部分数据时,这种计算可能会变得昂贵甚至低效,特别是当我们处理大数据时。新型的智能分析还需要解释为什么会发生某些事情。在本文中,我们提出了一种随机算法,构建了一个小的数据摘要,称为聚合血统,它可以很好地近似和解释所有的总和与大值的时间,只取决于它的大小。聚合世系的大小实际上与原始数据的大小无关。我们的算法不假设任何知识的总和查询集近似。
2014-06-09 cs.DB
Algorithms for Rewriting Aggregate Queries Using Views
在数据库应用程序中,涉及聚合的查询是典型的。优化聚合查询执行的主要思想之一是重用以前回答的查询结果。这导致了使用视图重写聚合查询的问题。由于缺乏理论,这个问题的算法相当特别。他们是健全的,但没有被证明是完整的。最近,我们给出了语法特征的等价性的聚合查询,并应用它们来决定是否存在重写。然而,这些决策程序并不适合于立即实施。在本文中,我们提出了实用的算法重写查询与$\COUNT$和$\SUM$。我们的算法是合理的。对于重要案件也是如此。我们的技术可以用来改善众所周知的程序重写非聚合查询。然后,这些过程可以适于获得用于用$\MIN$和$\MAX$重写查询的算法。提出的算法是实现优化器的基础,重写查询使用视图。
2000-11-17 cs.DB
Advancing Fact Attribution for Query Answering: Aggregate Queries and Novel Algorithms
本文提出基于Banzhaf和Shapley值的聚合查询事实归因方法,通过等价贡献分组和血统梯度优化,实现比现有技术快三个数量级的运行时性能。
2025-06-20 cs.DB
Provenance for Aggregate Queries
本文研究了聚合查询的起源信息。起源信息进行了研究,在各种查询语言的上下文中,不允许聚合,最近的工作建议捕捉起源注释不同的数据库元组的元素交换半环和传播的注释通过查询评估。我们发现,聚合查询带来了新的挑战,使这种方法不适用。因此,我们提出了一种新的方法,在那里我们不仅用元组而且用元组内的个体值来标注出处信息,使用出处来描述值计算。我们实现这种方法在一个具体的建设,首先是“简单”的查询,其中聚合运算符是最后一个应用,然后为任意(正)关系代数查询与聚合,后者的查询被证明是更具挑战性的,在这种情况下。最后,我们使用聚合编码查询的差异,并研究这种查询的出处注释数据库的语义。
2011-01-05 cs.DB
VeriEQL: Bounded Equivalence Verification for Complex SQL Queries with Integrity Constraints
提出首个基于SMT的复杂SQL查询有界等价性验证工具VeriEQL,通过新的逻辑编码处理排序、CASE等复杂特性,在2万多个基准上性能优于现有技术一个数量级,并能生成反例辅助下游任务。
2024-03-15 cs.DB cs.PL
Semantic Optimization of Preference Queries
偏好的概念在当今的信息系统中变得越来越普遍。首选项主要用于过滤和个性化到达此类系统用户的信息。在数据库系统中,偏好通常被捕获为用于构建偏好查询的偏好关系。在我们的方法中,偏好查询是关系代数或SQL查询,其中包含winnow运算符的出现(“在给定关系中查找最偏好的元组”)。我们在这里提出了一些语义优化技术适用于偏好查询。该技术利用完整性约束,并使得有可能删除冗余的winnow操作符的出现,并应用一个更有效的算法计算winnow。我们还研究了完整性约束在筛选结果中的传播。我们已经确定了我们的技术的适用性的必要和充分条件,并制定这些条件的约束可满足性问题。
2004-02-02 cs.DB
Semantic Optimization Techniques for Preference Queries
偏好查询是关系代数或SQL查询,其中包含winnow运算符(“在给定关系中查找最偏好的元组”)。这些查询由特定的偏好关系参数化。语义优化技术利用数据库中保存的完整性约束。在语义优化的偏好查询的上下文中,我们确定了两个基本属性:包含的偏好关系相对于完整性约束和满意度的顺序公理相对于完整性约束。我们展示了这些概念在偏好查询评估和优化中的许多应用。作为完整性约束,我们考虑约束生成依赖,一类广义函数依赖。我们证明,问题的包容性和满意度的顺序公理可以被捕获的约束生成依赖蕴涵的具体实例。这使得有可能制定必要和充分的条件,我们的技术作为约束有效性问题的适用性。我们刻画了这类问题的计算复杂性。
2005-10-14 cs.AI cs.DB cs.LO
EAGr: Supporting Continuous Ego-centric Aggregate Queries over Large Dynamic Graphs
在这项工作中,我们提出了EAGr,一个系统,用于支持大量的连续邻域为基础的(“自我为中心”)聚合查询大,高度动态,快速发展的图形。这样的查询的示例包括社交网络中的个性化定制趋势的计算、金融交易网络中的异常/事件检测、时空网络中的本地搜索和警报,仅举几例。支持这种连续查询的关键挑战包括在这些情况下通常会看到的高更新率,需要同时执行的大量查询以及严格的低延迟要求。我们提出了一个灵活的,通用的,可扩展的内存框架,用于执行不同类型的以自我为中心的聚合查询在大型动态图与低延迟。我们的框架是围绕聚合覆盖图的概念构建的,聚合覆盖图是一种预编译的数据结构,它对接收到更新/查询时要执行的计算进行编码。覆盖图使得能够跨多个以自我为中心的查询(对应于图中的节点)共享部分聚合,并且还允许聚合的部分预计算以最小化查询延迟。我们提出了几个高度可扩展的技术,用于构建一个覆盖图的聚合功能,并设计增量算法处理底层图形的结构变化。我们还提出了一个最佳的,多项式时间的算法,使预先计算的决策覆盖图,并评估一种方法,以逐步适应这些决定的工作量的变化。虽然我们的方法是自然并行化,我们专注于一个单机部署,并表明我们的技术可以很容易地处理图形的大小高达3.2亿个节点和边缘,并实现更新/查询吞吐量超过500 K/s使用一个单一的,功能强大的机器。
2014-04-25 cs.DB
Multiresolution Cube Estimators for Sensor Network Aggregate Queries
在这项工作中,我们提出了在网络技术,以提高空间聚合查询的效率。这样的查询在sensornet环境中非常常见,需要更有针对性的处理技术。我们的方法构造和维护多分辨率立方体层次结构的网络,它可以构造在一个分布式的方式。如果发生故障,也可以通过网络内决策进行恢复。在本文中,我们演示了如何在网络立方体层次结构可以用来总结传感器数据,以及如何利用它们来提高空间聚合查询的效率。我们表明,我们的立方体摘要的查询计划,可以在多项式时间计算,我们提出了一个PTIME算法,选择的数据请求的最小数量,可以计算的答案空间查询。我们进一步扩展我们的算法来处理多个查询的优化,这也可以在多项式时间内完成。我们讨论了丰富的多维数据集层次结构与额外的摘要信息,并提出了一个算法的分布式多维数据集的建设。最后,我们调查节点和区域故障,和算法来恢复查询结果。
2010-07-22 cs.DB
Computing Range Consistent Answers to Aggregation Queries via Rewriting
本文研究在违反主键约束的数据库上回答带聚合的连接查询,目标是找出使聚合值最低的修复,并刻画可通过一阶逻辑聚合重写确定该值的查询类。
2024-09-03 cs.DB
NeuroDB: A Neural Network Framework for Answering Range Aggregate Queries and Beyond
范围聚集查询(RAQs)是许多实际应用中不可或缺的一部分,在这些应用中,通常需要查询的快速和近似答案。最近的工作已经研究了使用机器学习模型来回答RAQ,其中学习数据的模型来回答查询。然而,这样的建模选择未能利用任何查询特定信息。为了捕获这样的信息,我们观察到,可以由查询函数来表示RQ,查询函数是采用查询实例的函数(即,特定的RAQ)作为输入并输出其相应的答案。使用这种表示,我们制定了学习的问题,以近似的查询功能,并提出NeuroDB,查询专用的神经网络框架,有效地回答RAQs。NeuroDB是查询类型不可知的(即,它不对底层查询类型做出任何假设),并且我们关于查询可以由函数表示的观察结果并不特定于RQ。因此,我们研究NeuroDB是否可以用于其他查询类型,通过将其应用于最近邻查询的距离。我们的实验表明,NeuroDB优于国家的最先进的这种查询类型,往往由数量级。此外,使用了与用于RQ相同的神经网络架构,从而揭示了使用通用框架来有效地回答任何查询类型的可能性。
2021-07-10 cs.DB
Output-Optimal Algorithms for Join-Aggregate Queries
本文首次用自由连接分数超树宽度刻画无环连接-聚合查询的输出最优复杂度,证明半环算法的匹配上下界,实现了40年来对Yannakakis算法的首次多项式改进。
2025-03-12 cs.DB
Consistent query answers on numerical databases under aggregate constraints
研究了从违反数值型数据完整性约束的关系数据库中提取一致性信息的问题。特别是,聚合约束定义为线性不等式聚合和查询输入数据被认为是。利用的概念,在属性值水平的一致的更新集的修复,并提供了几个复杂的问题,修复数据和计算一致的查询答案的表征。
2005-05-23 cs.DB
NeuroSketch: Fast and Approximate Evaluation of Range Aggregate Queries with Neural Networks
针对范围聚合查询,提出NeuroSketch框架,通过建模查询而非数据训练神经网络,提供了依赖分布和查询的误差界限,并在速度和精度上显著优于现有技术。
2023-04-07 cs.DB
Quantifying Uncertainty in Aggregate Queries over Integrated Datasets
本文针对双表一对多数据集成工作流,提出一种基于二分图匹配的多项式时间算法,用于量化聚合查询结果的最大和最小不确定性范围,帮助用户在缺乏真实数据时指导匹配参数搜索。
2023-09-11 cs.DB
Monotonic Properties of Completed Aggregates in Recursive Queries
在递归中使用聚合可以有效和可扩展地支持广泛的BigData算法,包括在图形应用程序,KDD应用程序和ML应用程序中使用的算法,这些算法在支持Datasheet或SQL的BigData系统中难以有效表达和支持。这些语言和系统的问题在于,为了避免递归中的非单调结构所产生的语义和计算问题,它们只允许相对于否定和聚合分层的程序。现在,虽然这种削弱限制对于否定是合理的,但对于聚合来说,它经常是不合理的,因为(i)聚合在集合包含的标准格中通常是单调的,(ii)PreM性质保证了递归中具有极值的程序等价于分层程序,其中极值用作后约束,以及(iii)计算可预测基数的事实集合上的任何聚集的任何程序都相当于分层程序,其中集合的基数的预先计算之后是递归规则仅使用单调构造的层。与(i)和(ii)在以前的文件中,本文侧重于(iii)使用的例子,具有很大的实际意义。对于这样的例子,我们提供了一个正式的语义,这是有利于通过众所周知的技术,如目前支持的大多数数据库和SQL3系统的半天真的定点的高效和可扩展的实现。
2019-10-20 cs.DB
Equivalences Among Aggregate Queries with Negation
查询等价性研究的析取聚合查询否定子目标,常量和比较。给出了聚集函数count、max、sum、prod、toptwo和parity的等价性的充分刻画。一个相关的问题是,对于一个给定的自然数N,确定两个给定的查询是否在所有具有最多N个常数的数据库上是等价的。我们称这个问题为有界等价。给出了有界等价可判定性的一个完整刻画。特别是,它表明,这个问题是可判定的所有上述聚合函数以及计数不同和平均。对于准线性查询(即,查询,其中出现积极的谓词是不重复的),它表明,等价性可以决定在多项式时间的聚集函数计数,最大值,总和,奇偶校验,生产,前两个和平均。如果满足一些附加条件,则对于count distinct也有类似的结果。结果表达在抽象的聚合函数的特性,并使用新的证明技术。最后,上面的结果也意味着等价,在袋集语义下,是可判定的非聚集查询与否定。
2002-10-30 cs.DB cs.LO
Consistency Checking and Querying in Probabilistic Databases under Integrity Constraints
我们解决的问题,将一个特定的表达形式的完整性约束(即拒绝约束)到概率数据库。为了这个目标,我们远离的共同方式,给语义的概率数据库,这依赖于考虑一个独特的解释的数据,并解决两个基本问题:一致性检查和查询评估。前者在于验证是否存在符合元组的边缘概率和完整性约束的解释。后者是在“谨慎”范式下回答询问的问题,考虑到根据限制对数据的所有解释。在这种情况下,我们调查上述问题的复杂性,并确定几个易于处理的情况下,实际相关性。
2013-03-13 cs.DB
Skew Handling in Aggregate Streaming Queries on GPUs
如今,数据库系统要处理的数据已经变得如此之大,以至于任何传统的集中式技术都是不够的。与此同时,基于GPU的通用计算(GPGPU)最近成功地引起了数据管理社区的关注,因为它能够以较小的成本实现显著的速度提升。高效的偏斜处理是并行查询中的一个众所周知的问题,与执行环境无关。在这项工作中,我们调查的问题,在GPU上的并行聚合查询的负载不平衡的解决方案是由偏斜的数据。我们提出了一个通用的负载平衡框架,以及几个实例,我们的实验评估。据我们所知,这是第一次尝试在GPU上为数据库操作提供运行时负载平衡技术。
2013-09-03 cs.DB cs.DC
Machine Learning-based Cardinality Estimation in DBMS on Pre-Aggregated Data
基数估计是数据库查询处理和优化中的一项基本任务。如最近的论文所示,基于机器学习(ML)的方法可以提供比传统方法更准确的基数估计。然而,在模型训练阶段必须执行大量示例查询来学习数据依赖的ML模型,这导致了非常耗时的训练阶段。这些示例查询中的许多查询使用相同的基本数据,具有相同的查询结构,只是它们的谓词不同。因此,乍一看,索引结构似乎是一种理想的优化技术。然而,其益处是有限的。为了加快这个模型训练阶段,我们的核心思想是确定基本数据的谓词独立的预聚合,并在此预聚合数据上执行示例查询。基于这一思想,我们提出了一个特定的聚合启用的训练阶段ML为基础的基数估计方法在本文中。正如我们将在评估中展示的不同工作负载一样,我们能够在启用聚合的训练阶段实现63的平均加速比。
2020-05-19 cs.DB
Aggregate Queries on Sparse Databases
我们提出了一个代数框架,研究有效的算法查询评估,聚集,枚举,并在更新下,稀疏数据库的维护。我们的框架允许以统一的方式处理这些问题,通过考虑各种半环,这取决于所考虑的问题。作为一个具体的应用,我们提出了一个强大的查询语言扩展一阶逻辑的聚合在多个半环。我们得到一个最佳的算法计算稀疏数据库上的查询的答案。更准确地说,给定一个数据库从一个固定的类与有界的扩展,算法计算在线性时间的数据结构,它允许枚举的一组答案的查询,两个输出之间的恒定延迟。
2019-12-27 cs.DB cs.LO
Controlling the Correctness of Aggregation Operations During Sessions of Interactive Analytic Queries
我们提出了一套全面的条件和规则,以控制聚合查询的正确性在一个交互式的数据分析会话。目标是扩展自助服务数据准备和BI工具,以自动检测对分析表和视图的语义不正确的聚合查询,这些分析表和视图是使用常见的分析操作(包括筛选、投影、连接、聚合、合并、差异和透视)构建的。我们引入可聚合属性来描述分析表的任何属性,其中聚合函数正确地聚合属性沿着哪些维度属性集。这些属性也可以用来正式地标识属性,这些属性可以根据一组给定的维度属性中的某个聚合函数进行汇总。这对于检测通过使用非分布聚合函数(如average和count)获得的测量值的不正确聚合特别有用。我们通过引入一个新的广义可概括性条件来控制任何分析操作后的属性聚合,从而扩展了可概括性的概念。最后,我们定义传播规则,将查询输入表的可聚合属性转换为结果表的新的可聚合属性,保持概括性和广义概括性。
2021-12-06 cs.DB
ProvQML: Efficient Provenance Capture for Machine Learning as Recursive Aggregate SQL [Extended Version]
University of Cincinnati(辛辛那提大学)
针对现有系统无法支持机器学习溯源捕获的问题,提出ProvQML引擎,可在将ML算法评估为递归聚合SQL时高效捕获局部与全局两类溯源,经实验验证其有效性。
2026-10-12 cs.DB
Tractability Frontiers of the Shapley Value for Aggregate Conjunctive Queries
研究聚合合取查询中元组Shapley值的计算复杂度,为min、max、average等聚合函数识别出最大可处理分层CQ类,揭示各聚合函数对应分层CQ从布尔到非布尔查询的不同推广。
2025-09-16 cs.DB
Provenance of HAVING Queries in Semirings with Monus
Univ. Grenoble Alpes, CNRS, Grenoble INP, LIG, France(格勒诺布尔阿尔卑斯大学);National University of Singapore, Singapore(新加坡国立大学);DI ENS, ENS, CNRS, PSL University, Inria, Paris, France(巴黎高等师范学院);IPAL, Singapore(国际先进研究院)
本研究在带 monus 的交换 semiring 中为含聚合条件(如 HAVING COUNT(*))的查询定义了溯源语义,无需额外算子,并证明其与无聚合重写的标准溯源一致,且在 ProvSQL 中实现,性能可行。
2026-09-28 cs.DB
TorchQL: A Programming Framework for Integrity Constraints in Machine Learning
University of Pennsylvania(宾夕法尼亚大学)
提出TorchQL编程框架,通过关系代数与函数式编程结合的八个运算符,支持检查机器学习模型与数据集的完整性约束,查询速度最高快13倍且查询更短,便于开发者发现应用错误。
2024-10-16 cs.DB cs.LG cs.SE
Natural Language Aggregate Query over RDF Data
基于RDF数据的自然语言问答受到了广泛的关注。虽然已经有几个研究处理了少量的聚合查询,但它们有许多限制(即,交互式信息、受控问题或查询模板)。到目前为止,还没有自然语言查询机制可以处理RDF数据上的一般聚合查询。因此,我们提出了一个框架称为NLAQ(自然语言聚合查询)。首先,我们提出了一种新的算法来自动理解用户的查询意图,其中主要包括语义关系和聚合。其次,为了在查询意图和RDF数据之间建立更好的桥梁,我们提出了一种扩展的释义词典ED来获得更多的语义关系的候选映射,并引入了一种谓词类型的邻接集PT来过滤语义关系和基本图模式中不合适的候选映射组合。第三,我们为每个聚合类别设计了合适的翻译方案,并有效地区分聚合项是否为数字,这将极大地影响聚合结果。最后,我们在真实数据集上进行了大量的实验(QALD基准和DBpedia),实验结果表明我们的解决方案是有效的。
2017-10-22 cs.DB
Integrity Coded Databases: An Evaluation of Performance, Efficiency, and Practicality
近年来,云数据库存储已成为企业和个人存储信息的廉价且方便的选择。虽然云计算的积极方面使其对数据存储极具吸引力,但它是一个相对较新的服务领域,容易受到网络攻击和安全漏洞的影响。将数据存储在外部位置还要求所有者将其信息的控制权移交给这些在线数据库服务的系统管理员。这就有可能对数据进行恶意的内部攻击,这些攻击可能涉及操纵、遗漏或添加数据。数据的保留,因为它是打算存储被称为数据库的完整性。我们的研究测试了一种潜在的解决方案,通过将原始数据库转换为完整性编码数据库(ICDB)来维护这些云存储数据库的完整性。ICDB利用完整性代码:通过只有数据所有者有权访问的私钥与数据一起创建的加密代码。当查询数据库时,完整性代码将与查询的信息一起返回。然后,所有者能够验证信息是正确的、完整的和新鲜的。因此,ICDB也会导致性能和内存损失。在我们的研究中,我们探索,测试和基准ICDB,以确定维护ICDB与标准数据库的成本和收益。
2018-02-01 cs.CR cs.DB
Estimating the Impact of Unknown Unknowns on Aggregate Query Results
数据科学家通常会获取和集成不同的数据源,以获得更高质量的结果。但是,即使有一个完美的清理和合并的数据集,仍然存在两个基本问题:(1)整合的数据集是否完整,以及(2)任何未知的影响(即,未观察到的)查询结果的数据?在这项工作中,我们开发和分析技术,以估计未知数据的影响(又名,未知的未知数)。关键思想是不同数据源之间的重叠使我们能够估计缺失数据项的数量和值。我们的主要技术是无参数的,不假设先验知识的分布。通过一系列的实验,我们表明,估计未知的未知的影响是非常宝贵的,以更好地评估结果的聚合查询集成数据源。
2015-12-26 cs.DB
Aggregate Estimation Over Dynamic Hidden Web Databases
网络上的许多数据库都是“隐藏”在后面的(即,只能通过)它们的限制性的、类似表单的搜索接口访问。最近的研究表明,它是可能的,以估计聚合查询的答案,这样的隐藏的Web数据库发出少量的精心设计的搜索查询,通过限制性的Web接口。然而,这些现有工作的一个问题是,它们都假设底层数据库是静态的,而大多数真实世界的web数据库(例如,亚马逊,eBay)经常更新。在本文中,我们研究了在动态隐藏Web数据库上估计/跟踪聚合的新问题,同时遵守它们所执行的严格的查询成本限制(例如,每天最多1,000次搜索查询)。理论分析和广泛的现实世界的实验证明了我们提出的算法的有效性和他们的优越性比基线解决方案(例如,重复执行为静态Web数据库设计的算法)。
2014-05-01 cs.DB
Overlay Indexes: Efficiently Supporting Aggregate Range Queries and Authenticated Data Structures in Off-the-Shelf Databases
商业现成的数据库管理系统(DBMS)经过高度优化,可以通过精心设计的索引和查询规划来处理各种查询。然而,许多聚合范围查询通常由DBMS使用顺序扫描来执行,并且根本不支持某些需求,例如存储认证的数据结构(ADS)。从理论上讲,这些需求可以有效地满足采用特定类型的索引,但通常排除在DBMS的设计。我们介绍了覆盖索引的概念:一个索引,这是要存储在一个标准的数据库中,与常规数据和常规软件管理,以补充DBMS的功能。我们展示了一个数据结构,我们称之为DB树,它实现了一个覆盖索引,以支持广泛的自定义聚合范围查询以及ADS,有效。所有DB树操作都可以通过对DBMS执行少量查询来执行,这些查询可以在一个或两个查询轮中并行发出,并且涉及对数数量的数据。我们实验评估DB树的效率表明,我们的方法是有效的,特别是如果数据更新是有限的。
2019-10-25 cs.CR cs.DB cs.DS
Approximate Aggregate Queries Under Additive Inequalities
Relational AI;University of California, Merced(加州大学默塞德分校);Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学)
我们考虑的问题,评估某些类型的功能聚集查询的关系数据的加法不等式。这样的聚合查询,具有少量的加法不等式,在许多应用中,特别是在学习应用中自然/常见地出现。我们给出了一个相对完整的分类的计算复杂性这样的问题。我们首先证明了这个问题是NP-困难的,即使在一个加法不等式的情况下。因此,我们转向近似查询。我们的主要结果是一个有效的算法近似,任意小的相对误差,许多自然的聚集查询与一个加法不等式。我们给出的自然查询,可以有效地解决使用该算法的例子。相比之下,我们表明,两个加法不等式的情况是完全不同的,通过显示,它是NP-难的简单的聚合查询,两个加法不等式,任何有界的相对误差进行评估。
2020-04-30 cs.DB cs.DS cs.LG
When Can We Answer Queries Using Result-Bounded Data Interfaces?
我们考虑回答查询,其中底层数据仅在有限的接口上可用,这些接口提供对匹配给定绑定的元组的查找访问,但可能限制返回的输出元组的数量。接口强加这样的“结果边界”在通过web访问数据时很常见。给定一组关系的查询,以及一些完整性约束,涉及到查询的关系的数据源,我们研究的问题,决定是否查询是可回答的接口,也就是说,是否存在一个计划,返回所有答案的查询,假设源数据满足完整性约束。我们的可回答性分析的第一个组成部分是减少到一个查询包含问题的约束。第二个组成部分是一组“模式简化”定理捕获的限制,如何与结果边界的接口可以是有用的,以获得完整的答案查询。这些结果也有助于显示可决定性的包容性问题,捕捉回答,许多类的约束。在我们的可回答性分析的最后一个组成部分是一个“线性化”的方法,显示查询包含一定的守护依赖关系-包括那些出现的可回答性问题-可以减少到查询包含一个行为良好的线性依赖关系类。将这些组件放在一起,我们就可以详细了解如何检查结果绑定服务的可回答性。
2018-08-31 cs.DB
Explaining Aggregates for Exploratory Analytics
University of Glasgow(格拉斯哥大学);University of Warwick(华威大学)
希望探索多变量数据空间的分析师通常提出涉及选择运算符的查询,即,范围或半径查询,定义可能感兴趣的数据子空间,然后使用聚合函数,其结果确定其探索性分析兴趣。然而,这样的聚合查询(AQ)结果是简单的标量,因此,传达有限的信息查询的子空间进行探索性分析。我们解决这个缺点,帮助分析师探索和理解数据子空间,通过贡献一个新的解释机制创造XAXA:eXplaining聚合eXploratory分析。XAXA的新AQ解释表示使用三重联合优化问题获得的功能。假设通过统计学习模型获得的一组参数分段线性函数的形式。所提出的解决方案的一个关键特征是,模型训练只通过在线监视AQ及其答案来执行。在XAXA中,可以在没有任何数据库(DB)访问的情况下计算对未来AQ的解释,并且可以用于进一步探索查询的数据子空间,而无需向DB发出任何更多的查询。我们通过对真实世界和合成数据集和查询工作负载的理论基础指标来评估XAXA的解释准确性和效率。
2020-03-12 cs.DB cs.LG
vChain: Enabling Verifiable Boolean Range Queries over Blockchain Databases
由于加密货币和去中心化应用程序的蓬勃发展,区块链最近受到了关注。对于查询存储在区块链数据库中的数据的需求越来越多。为了确保查询的完整性,用户可以维护整个区块链数据库并在本地查询数据。然而,这种方法如果不是不可行的话,也是不经济的,因为区块链的数据量巨大,维护成本相当高。在本文中,我们迈出了研究区块链数据库上可验证查询处理问题的第一步。我们提出了一个新的框架,称为vChain,它降低了用户的存储和计算成本,并采用可验证的查询来保证结果的完整性。为了支持可验证的布尔范围查询,我们提出了一个基于累加器的认证数据结构,使动态聚合任意查询属性。进一步开发了两个新的索引来聚合块内和块间的数据记录,以实现高效的查询验证。我们还提出了一个倒排前缀树结构,以加速处理大量的订阅查询同时进行。安全性分析和实证研究验证了所提出的技术的鲁棒性和实用性。
2018-12-06 cs.CR cs.DB
Spatial Aggregation: Data Model and Implementation
地理信息系统(GIS)中的数据聚合在当今的商业系统中仅少量存在,主要是通过临时解决方案。在本文中,我们首先提出了一个正式的模型表示空间数据。该模型将地理数据和GIS外部数据仓库中包含的信息集成在一起。我们定义的几何聚合的概念,在GIS设置聚合查询的一般框架。我们还确定了类的可求和查询,这可以有效地评估通过预先计算覆盖的两个或两个以上的主题层中涉及的查询。我们还勾画了一个语言,表示GISOLAP-QL,表达查询,涉及GIS和OLAP功能。此外,我们介绍了Piet,我们的建议的实现,利用覆盖预计算回答空间查询(聚合或不)。我们的实验评估表明,对于某一类几何查询有或没有聚集,覆盖预计算优于R-树为基础的技术。最后,作为我们的建议的一个特定的应用,我们研究拓扑查询。
2007-07-29 cs.DB
Learning Aggregate Queries Defined by First-Order Logic with Counting
本文研究超越布尔分类的多类整数分类问题,提出在拟线性时间内构建索引结构,实现FOC1可定义整数值分类器的高效学习。
2024-11-06 cs.DB cs.LO
Equivalence of SQL Queries in Presence of Embedded Dependencies
我们考虑的问题,找到等价的最小尺寸的SQL查询中存在嵌入的依赖关系的重构[1]。我们的重点是选择项目连接(SPJ)查询与平等的比较,也被称为安全的合取(CQ)查询,可能与分组和聚合。对于SPJ查询,SQL标准的语义将查询答案视为多集(也称为bags),而所存储的关系可以被视为集合,这被称为用于查询评估的bag-set语义,或者被视为bags,这被称为bag语义。(在集合语义下,查询答案和存储的关系都被视为集合。在上述查询重构问题的背景下,我们开发了一个全面的框架,用于在包和包集语义下存在嵌入式依赖关系的CQ查询的等价性,并做出了一些概念和技术上的贡献。具体来说,我们在包和包集语义下存在任意嵌入依赖集的CQ查询的等价性测试,条件是输入上的集语义(set-chase)下的chase [9]终止。我们还提出了等价性测试的聚合CQ查询存在嵌入式依赖关系。我们使用我们的等价性测试开发健全和完整的(每当集追逐的输入终止)的算法,用于解决的实例的查询重构问题的CQ查询下的每个袋和袋集语义,以及聚合查询的问题的实例。
2009-06-26 cs.DB
Memory-Efficient Group-by Aggregates over Multi-Way Joins
关系数据库中的聚合计算一直使用标准的一元聚合和二元连接运算符来完成。这些实现了经典的模型,每次计算两个关系之间的连接,具体化中间结果,然后继续进行基于排序或基于哈希的聚合计算以获得最终结果。然而,这种方法在低选择性连接的情况下可能是非常次优的,并且通常最终生成大量的中间结果,即使所涉及的关系以及最终结果集本身非常小。此外,许多计算的中间结果可能永远不会成为最终结果的一部分。在本文中,我们提出了一种新的聚合查询处理技术,利用图数据结构对有效地回答聚合查询连接,而不物化中间连接结果。我们将此技术包装在一个名为JOIN-AGG的多路复合数据库操作符中,该操作符结合了Join和Aggregation。我们提供了一个通用的框架,用于执行聚合查询任意非循环连接,涉及任何数量的组的属性从任何关系。我们还对真实世界和合成数据集进行了全面的实验评估。我们的实验表明,我们的运营商可以实现数量级较低的查询时间和内存需求相比,传统的方法,即使在数据库系统之外实现。
2019-06-17 cs.DB
Approximating Aggregated SQL Queries With LSTM Networks
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
尽管在数据技术方面不断投资,但查询数据的延迟仍然构成了重大挑战。现代分析解决方案需要近乎实时的响应能力,以使其具有交互性并支持自动化处理。当前的技术(Hadoop,Spark,Dataflow)扫描数据集以执行查询。他们专注于提供可扩展的数据存储,以最大限度地提高任务执行速度。我们认为,这些解决方案未能提供足够的互动水平,因为它们依赖于不断访问数据。在本文中,我们提出了一种查询近似的方法,也被称为近似查询处理(AQP),减少了需要在推理(查询计算)扫描数据,从而使一个快速的查询处理工具。我们使用LSTM网络来学习查询与其结果之间的关系,并为预测查询结果提供快速推理层。我们的方法(称为“Hunch”)产生了一个轻量级的LSTM网络,它提供了高查询吞吐量。我们使用12个数据集评估了我们的方法,并从查询延迟,模型权重和准确性角度与最先进的AQP引擎(VerdictDB,BlinkDB)进行了比较。结果表明,该方法预测查询结果的归一化均方根误差(NRMSE)在1%~ 4%之间,在大多数数据集上优于基准测试。此外,我们的方法能够在一秒钟内预测多达120,000个查询(一起流),并且单个查询延迟不超过2 ms。
2021-01-05 cs.AI cs.DB
Complexity and Approximation of Fixing Numerical Attributes in Databases Under Integrity Constraints
一致性查询应答是从数据库中计算答案的问题,这些答案相对于数据库作为一个整体可能无法满足的某些完整性约束是一致的。这些答案的特点是那些在最小形式的恢复数据库的一致性是不变的。在这种情况下,我们研究了修复数据库的问题,通过固定的整数数值在属性级拒绝和聚合约束。我们引入了一个定量的数据库修复的定义,并研究了几个决策和优化问题的复杂性,包括DFP,即存在的修复在一个给定的距离从原始实例,和CQA,即决定答案的一致性聚合合取查询下不同的语义。我们提供尖锐的复杂性界限,确定相关的易处理的情况下,并介绍近似算法的一些是棘手的。更具体地说,我们得到的结果,如不可判定的存在的修复聚合约束; MAXSNP硬度的DFP,但一个很好的近似算法的相关特殊情况下;和棘手的,但很好的近似CQA聚合查询一个数据库原子拒绝(加上内置的)。
2005-10-28 cs.CC cs.DB
Query Density-Driven Partitioning for Spatiotemporal Load Balancing on Processing-in-Memory Systems
The University of Tokyo(东京大学);The University of Electro-Communications(电气通信大学)
针对存算一体系统中PIM-tree牺牲空间局部性导致范围聚合查询处理受阻的问题,提出查询密度驱动分区方案及B⁺-Forest,实现时空负载均衡与高效范围聚合查询,性能优于对比方案。
2026-08-03 cs.DB
Incorporating Integrity Constraints in Uncertain Databases
我们开发了一种方法,将额外的知识,在通用的完整性约束(IC)的形式,以减少概率数据库中的不确定性。虽然集成IC提高了数据质量(因此提高了查询答案的质量),但它使查询处理显着复杂化。为了克服额外的复杂性,我们开发了一种方法来映射一个不确定的关系U与IC到另一个不确定的关系U ',它近似于由U表示的一致世界的集合。替代地,可以在U'上评估对U的搜索,从而实现更高的质量(由于U'中的不确定性降低),而不会由于IC而增加查询处理的复杂性。我们证明了我们的方法的有效性和可扩展性的大型数据集复杂的约束。我们还提出了实验结果表明,在不确定的关系,在信息抽取应用程序的背景下,将完整性约束的效用。
2009-07-09 cs.DB cs.IR
Discover Aggregates Exceptions over Hidden Web Databases
如今,许多web数据库“隐藏”在其限制性搜索接口(例如,Amazon、eBay)包含各种第三方感兴趣的丰富而有价值的信息。最近的研究表明,估计/跟踪某些聚合查询动态隐藏的Web数据库的可能性。尽管如此,跟踪所有可能的聚合查询答案以报告有趣的发现(即,例外),同时仍然遵守由许多隐藏web数据库提供商强制执行的严格的查询计数限制,是非常具有挑战性的。在本文中,我们开发了一种新的技术,用于跟踪和发现异常(聚合的突然变化)在动态隐藏的Web数据库。大量的真实世界的实验表明,我们提出的算法优于基线解决方案。
2016-11-19 cs.DB
Answering UCQs under updates and in the presence of integrity constraints
我们调查的查询评估问题,固定查询在完全动态的数据库,元组可以插入或删除。任务是设计一个动态的数据结构,可以在每次数据库更新后立即报告固定查询的新结果。我们考虑联合查询(UCQ),并专注于查询评估任务测试(决定输入元组是否属于查询结果),枚举(枚举,没有重复,所有元组在查询结果),和计数(输出查询结果中的元组的数量)。我们确定了三个越来越严格的类UCQ,我们称之为T-层次,Q-层次,和详尽的Q-层次UCQ。我们的主要结果提供了以下二分法:如果查询的同态核心是t-层次(q-层次,穷举q-层次),那么测试(枚举,计数)问题可以解决恒定的更新时间和恒定的测试时间(延迟,计数时间)。否则,它不能用次线性更新时间和次线性测试时间(延迟,计数时间)来解决,除非OV猜想和/或OMv猜想失败。我们还研究了在完整性约束存在的情况下,动态环境下查询评估的复杂性,并针对小域约束的特殊情况(即,约束,其声明关系的特定列中的所有值属于恒定大小的固定域)。
2017-09-28 cs.DB cs.LO
Making massive probabilistic databases practical
不完整和不精确数据的存在已经将数据库范式从确定性信息转移到概率信息。概率数据库包含可能存在或可能不存在某种概率的元组。因此,可以从概率数据库中观察到的可能的确定性数据库实例的数量随着概率元组的数量呈指数增长。在本文中,我们考虑的问题,回答聚集和非聚集查询的海量概率数据库。我们采用元组独立模型,其中每个元组被分配一个概率值。我们开发了一种方法,利用概率生成函数(PGF)来有效地回答这样的查询。我们的方法为每个元组维护一个多项式。它逐步构建一个主多项式,精确地表达可能的结果值的分布。我们还开发了一种近似方法,发现结果值的分布可以忽略不计的误差。我们的实验表明,我们的方法比最近回答此类查询的系统(包括MayBMS和SPROUT)快了几个数量级。在我们的实验中,我们能够在TPC- H查询上扩展到几TB的数据,而现有的方法只能在相同的查询上运行几GB的数据。
2013-07-02 cs.DB
Combining Aggregation and Sampling (Nearly) Optimally for Approximate Query Processing
基于样本的近似查询处理(AQP)有许多缺陷,如无法回答非常有选择性的查询和不可靠的置信区间时,样本量很小。最近的研究提出了一种有趣的解决方案,将物化的,预先计算的聚合物与采样相结合,以获得准确和更可靠的AQP。我们在这项工作中详细探索了这个解决方案,并提出了一个AQP物理设计,称为PASS,或预计算辅助分层采样。PASS构建一个部分聚合树,覆盖数据集的不同分区。该树的叶节点形成分层样本的层。其谓词与分区(或分区的并集)对齐的聚合查询用深度优先搜索精确地回答,并且任何部分重叠用分层样本近似。我们提出了一种算法,用于最佳地划分到这样的数据结构与各种实用的近似技术的数据。
2021-03-29 cs.DB
[Experiments \& Analysis] Hash-Based vs. Sort-Based Group-By-Aggregate: A Focused Empirical Study [Extended Version]
本文通过Apache AsterixDB实证对比基于哈希与基于排序的分组聚合(GBA)方法,分析其在不同数据规模、分组数量等场景下的优缺点,为优化GBA查询性能提供实用指导。
2024-11-30 cs.DB
Aggregation Languages for Moving Object and Places of Interest Data
我们解决聚集查询GIS数据和移动对象数据,其中非空间数据存储在一个数据仓库。我们提出了一个形式化的数据模型和查询语言来表达复杂的聚集查询。接下来,我们研究压缩的轨迹数据,产生的移动对象,使用停止和移动的概念。我们表明,停止和移动是可表达的,在我们的查询语言,我们认为这种语言的一个片段,由正则表达式来谈论时间顺序的停止和移动的序列。该片段可用于有效地表达轨迹数据上的数据采掘和模式匹配任务。
2007-08-20 cs.DB
GeoBlocks: A Query-Cache Accelerated Data Structure for Spatial Aggregation over Polygons
由于城市中的个人交通和公共交通正在发生变化,城市当局需要分析城市地理空间数据,以改善交通和基础设施。为此,它们高度依赖于从点数据提取汇总信息的空间聚合查询(例如,Uber乘车)包含在给定多边形区域中(例如,一个城市附近)。为了支持这样的查询,当前的分析工具要么只允许在预定义的区域上进行预定义的聚合,因此不适合探索性分析,要么访问原始数据以实时计算聚合结果,这严重限制了交互性。与此同时,现有的预聚合技术是不够的,因为它们保持在矩形区域的聚合。因此,当应用于任意多边形区域时,它们会引起无法有界的近似误差。在本文中,我们介绍了GeoBlocks,这是一种新型的预聚合数据结构,支持任意多边形的空间聚合。GeoBlocks使用一组细粒度的网格单元来近似多边形,与之前的工作相比,它允许通过调整单元大小来限制近似误差。此外,GeoBlocks采用类似trie的缓存,缓存频繁查询区域的聚合结果,从而动态适应查询工作负载中固有的偏斜,并随着时间的推移提高性能。总之,GeoBlocks的性能比动态聚合高出三个数量级,实现了交互式探索性分析所需的亚秒级查询延迟。
2021-03-16 cs.DB
Taming the Infinite Chase: Query Answering under Expressive Integrity Constraints
Chase算法是在约束下进行查询评估和查询包含的基本工具,其中约束是元组生成依赖(TGD)和等式生成依赖(EGD)(的子类)。到目前为止,关于这一主题的大多数研究都集中在追逐程序终止的情况下,有一些值得注意的例外。在本文中,我们采取了一般的方法,我们提出了大类的TGD下,追逐并不总是终止。我们的语言,特别是,受到守卫逻辑的启发:我们表明,通过强制执行的TGD的形式上的语法属性,我们能够确保可判定性的问题,回答连接查询,尽管非终止追逐。我们提供了严格的复杂性界限的问题的合取查询评价几类TGD。然后,我们介绍EGDs,并提供了一个条件下,EGDs不与TGD相互作用,因此不参加查询应答。我们展示了我们的约束类的应用程序的问题,回答合取查询下的F-逻辑建兴,最近推出的本体语言,并根据突出的易处理的描述逻辑语言。本文的所有结果立即扩展到合取查询包含问题。
2013-11-17 cs.DB cs.LO
Database Repairs and Analytic Tableaux
在这篇文章中,我们的特点是在分析tableaux不一致的关系数据库,即不满足一组给定的完整性约束的数据库的修复。为此,我们提供了为数据库实例及其完整性约束构建的表中分支的关闭和打开条件。我们使用基于表格的表征作为一致的查询回答的基础,即从数据库中检索查询的答案是一致的wrt的完整性约束。
2002-11-29 cs.DB cs.LO