Cost Models for Selecting Materialized Views in Public Clouds
数据仓库性能通常是通过物理数据结构(如索引或物化视图)来实现的。在这种情况下,成本模型可以帮助选择一组相关的性能优化结构。然而,选择在云中变得更加复杂。优化的标准实际上至少是二维的,货币成本平衡了整个查询响应时间。本文介绍了适合云计算的现收现付模式的新成本模型。基于这些成本模型,定义了一个优化问题,发现,在候选视图,那些要物化,以最大限度地减少使用和维护数据库在公共云中的总成本和总响应时间ofa给定的查询工作量。我们的实验表明,维护物化视图总是有利的,无论是在性能和成本方面。
2017-01-18 cs.DB
MV4PG: Materialized Views for Property Graphs
针对图数据库查询效率需求,提出属性图物化视图MV4PG,含创建、维护(首次支持变长边的模板化方法)及查询优化,原型实验显示整体负载加速比达28.71倍,单查询近100倍。
2024-11-28 cs.DB
Sélection simultanée d'index et de vues matérialisées
索引和物化视图是加速数据仓库中数据访问的物理结构。然而,这些数据结构产生一些维护开销。它们也共享相同的存储空间。现有的索引和物化视图选择的研究都是分别考虑这些结构。本文采用对立的立场,将索引和物化视图选择结合起来,考虑到它们之间的相互影响,实现了高效的存储空间共享。我们开发的成本模型,评估索引和视图物化各自的好处。这些成本模型,然后利用贪心算法来选择一个相关的配置的索引和物化视图。实验结果表明,我们的策略性能优于独立选择的索引和物化视图。
2007-07-09 cs.DB
Materialized View Selection by Query Clustering in XML Data Warehouses
XML数据仓库为利用复杂数据的决策支持应用程序提供了一个有趣的基础。然而,目前原生XML数据库管理系统的性能有限,有必要设计策略来优化它们。在本文中,我们提出了一个自动化的策略,选择XML物化视图,利用数据采掘技术,更准确地说,聚类的查询工作量。为了验证我们的策略,我们实现了一个按照XCube规范建模的XML仓库。我们在这个仓库上执行了一个XQuery决策支持查询的工作负载,使用和不使用我们的策略。我们的实验结果表明,它的效率,即使查询是复杂的。
2008-09-11 cs.DB
Workload acceleration by optimizing materialized view selection using local search
The University of Osaka(大阪大学)
提出一种将增量视图维护成本直接纳入整数线性规划优化目标,并应用局部搜索高效探索解空间的物化视图选择方法,在Redbench基准测试中优于BIGSUBS。
2026-06-02 cs.DB
SOFOS: Demonstrating the Challenges of Materialized View Selection on Knowledge Graphs
由于知识图谱的激增,对RDF数据的分析查询变得越来越重要。然而,RDF数据库并没有被优化以有效地执行这样的查询,导致长的处理时间。一种众所周知的提高分析查询性能的技术是利用物化视图。虽然在关系数据库中很流行,但是RDF和SPARQL的视图物化还没有过渡到实践中,这是由于RDF图模型的非平凡应用。出于对RDF数据的视图物化替代方案的影响缺乏了解,我们展示了SOFOS,一个实现和比较视图物化的几种成本模型的系统。SOFOS是,据我们所知,第一次尝试适应成本模型,最初在关系数据中研究,通用的RDF设置,并提出新的,分析其缺陷和优点。SOFOS采用RDF数据集和数据中某些方面的分析查询,并比较和评估替代成本模型,显示有关时间,内存消耗和查询特征的统计数据和见解。
2021-03-11 cs.DB
Stale View Cleaning: Getting Fresh Answers from Stale Materialized Views
物化视图(Materialized Views,MV)是一种存储预计算结果的视图,被广泛应用于大型数据集的快速查询。当新记录以高速率到达时,连续更新(维护)MV是不可行的,常见的解决方案是通过同时更新来推迟维护。在批处理之间,MV变得越来越陈旧,错误、缺失和多余的行导致查询结果越来越不准确。我们提出了Stale View Cleaning(SVC),它从数据清理的角度解决了这个问题。在SVC中,我们有效地从陈旧的MV中清理行的样本,并使用干净的样本来估计聚合查询结果。虽然是近似的,但估计的查询结果反映了最新的数据。由于抽样对长尾分布敏感,我们进一步探索了一种离群值索引技术,以便在数据分布偏斜时提高准确性。SVC通过在维护之间提供准确和有界的查询答案来补充现有的延迟维护方法。我们从TPC-D基准和一个真正的视频分发应用程序生成的数据集上评估我们的方法。实验证实了我们的理论结果:(1)清理MV样本比全视图维护更有效,(2)估计结果比使用陈旧MV更准确,以及(3)SVC适用于各种MV。
2015-09-24 cs.DB
Benchmarking the Full Pipeline of Materialized-View-Based Query Rewriting
Simon Fraser University(西蒙菲莎大学)
本文用模块化框架和可控消融基准测试基于物化视图的查询重写全流程,引入跨引擎协议对比不同系统。发现跨阶段交互效应及物化视图使用差异,识别重写后性能回归模式,突出限制性能阶段,为相关设计提供依据。
2026-07-23 cs.DB
A Comparative Analysis of Materialized Views Selection and Concurrency Control Mechanisms in NoSQL Databases
不断增长的资源需求要求关系数据库能够扩展。虽然关系数据库非常适合垂直扩展,但专用硬件可能很昂贵。相反,新兴的NewSQL和NoSQL数据存储旨在水平扩展。NewSQL数据库提供ACID事务支持;但是,连接仅限于分区键,导致查询表达能力受限。另一方面,NoSQL数据库被设计为在商用硬件上线性扩展;然而,它们受到连接性能缓慢的限制。因此,我们考虑是否可以在确保ACID语义且不会大幅牺牲写性能、磁盘利用率和查询表达能力的情况下提高NoSQL连接性能。本文介绍了协同系统,利用模式和工作负载驱动的机制,以确定物化视图和一个专门的并发控制系统上的NoSQL数据库,使可扩展的数据管理与熟悉的关系公约。Synergy以轻微的写入性能下降和更高的磁盘利用率换取更快的连接性能(与标准NoSQL数据库相比)和更好的查询表现力(与NewSQL数据库相比)。使用TPC-W基准测试的实验结果表明,对于一个数据库填充1M客户,协同系统表现出最大的性能提高80.5%相比,其他评估系统。
2017-10-04 cs.DB
HDPView: Differentially Private Materialized View for Exploring High Dimensional Relational Data
我们如何在保护隐私的同时探索高维敏感关系数据的未知属性?研究了在差分隐私下如何构造可探索的隐私保护物化视图。没有现有的最先进的方法同时满足数据探索中的以下基本属性:工作负载独立性、分析可靠性(即,为每个搜索查询提供误差界限)、对高维数据的适用性以及空间效率。为了解决上述问题,我们提出了HDPView,它通过在原始数据立方体上设计良好的递归二分划分来创建差异私有物化视图,即,计数张量。我们的方法搜索块划分,以尽量减少计数查询的错误,除了随机收敛,通过选择有效的切割点在一个不同的私人的方式,从而减少噪音和紧凑的视图。此外,我们确保形式的隐私保证和分析的可靠性,通过提供错误界的任意计数查询的物化视图。HDPView具有以下理想的属性:(a)独立性,(b)分析可靠性,(c)对高维数据的抗噪性,(d)空间效率。为了证明上述属性和数据探索的适用性,我们在八个真实数据集上进行了八种类型的范围计数查询的广泛实验。HDPView在这些评估中优于最先进的方法。
2022-05-26 cs.CR cs.DB
Indexing Join Inputs for Fast Queries and Maintenance
本文提出 merged index,结合传统索引与物化连接视图,支持全连接类型、非阻塞查询及高效维护,实验表明其兼具两者优势。
2025-02-15 cs.DB
Publication and Maintenance of Relational Data in Enterprise Knowledge Graphs (Revised Version)
TechLab, Departamento de Ciências e Tecnologias, Universidade Autónoma de Lisboa(里斯本自治大学科技与技术学院);Departmento de Informatica, Pontifícia Universidade Católica do Rio de Janeiro(里约热内卢天主教大学计算机系);Departamento de Computação, Universidade Federal do Ceará(塞阿拉联邦大学计算系)
本文提出了一种正式框架,用于构建和维护企业知识图谱中关系数据的物质化视图,以提高查询性能和数据可用性。
2026-03-05 cs.DB
Enzyme: Incremental View Maintenance for Data Engineering
Databricks, Inc.(Databricks公司);Google, Inc.(谷歌公司)
本文提出Enzyme,一种用于数据工程的增量视图维护引擎,通过自动化刷新策略减少计算成本,提升大规模生产管道的效率。
2026-04-30 cs.DB
Kaskade: Graph Views for Efficient Graph Analytics
图形是一种越来越流行的建模现实世界实体及其之间关系的方法,范围从社交网络到数据世系图和生物数据集。这些大型图的遍历通常涉及昂贵的子图遍历和复杂的分析计算。这些真实世界的图通常比一般的顶点和边模型所建议的结构化得多,但是这种洞察力仍然没有被现有的用于图查询优化目的的图引擎所探索。因此,在这项工作中,我们专注于利用图和查询的结构属性,自动派生物化图视图,可以大大加快查询评估。我们提出KASKADE,第一个图查询优化框架,利用物化图视图的查询优化的目的。KASKADE采用了一种新的基于约束的视图枚举技术,挖掘来自查询工作负载和图模式的约束,并在视图枚举过程中注入它们,以显着减少要考虑的视图的搜索空间。此外,它引入了一个图视图大小估计器,以挑选最有益的视图物化给定的查询集,并选择最佳的查询评估计划给定的一组物化视图。我们通过真实世界的图表评估其性能,包括我们在Microsoft维护的出处图表,以实现审计,服务分析和高级系统优化。我们的研究结果表明,KASKADE大大减少了有效的图形大小,并产生显着的性能加速(高达50倍),在某些情况下,否则棘手的查询成为可能。
2019-06-12 cs.DB
OpenIVM: a SQL-to-SQL Compiler for Incremental Computations
本文提出开源 SQL-to-SQL 编译器 OpenIVM,通过复用现有 SQL 引擎执行增量视图维护计算,避免代码重复,并支持跨系统 HTAP 场景下的增量传播。
2024-04-25 cs.DB
TRW: TRACE-RealWorld---An Auditable Consistency Contract for World Models as Materialized Views
Stanford University(斯坦福大学)
TRACE-RealWorld解决在变化物理世界中维护物化视图的问题,提出承诺级有效性抽象等数据管理方法,通过端到端评估测量多方面指标,贡献是为部署世界表示提供一致性、恢复和问责契约。
2026-08-07 cs.AI cs.DB
User Profile-Driven Data Warehouse Summary for Adaptive OLAP Queries
数据仓库是决策支持系统的重要组成部分。它旨在使用户的知识,使更好,更快的日常业务决策。为了改进该决策支持系统并向用户提供越来越多的相关信息,将用户的简档集成到数据仓库过程中的需要变得至关重要。在本文中,我们建议利用用户的喜好为基础,适应OLAP(在线分析处理)查询的用户。为此,我们提出了一种用户简档驱动的数据仓库方法,该方法允许将用户的配置文件由他/她的标识符和他/她的一组偏好组成。我们的方法是基于一个通用的数据仓库架构和一个自适应的OLAP分析系统。我们的主要思想是为每个用户创建一个数据仓库物化视图。当用户第一次定义他/她的配置文件时,该任务离线执行。然后,当用户向数据仓库提交查询时,系统处理他/她的数据仓库物化视图而不是整个数据仓库。换句话说,数据仓库视图通过考虑用户的偏好来为用户概括数据仓库内容。此外,我们正在SQL Server 2005 DBMS(数据库管理系统)下实现我们的数据仓库个性化方法。
2013-01-10 cs.DB
View Selection in Semantic Web Databases
我们考虑设置的语义Web数据库,包含显式数据编码的RDF三元组,和隐含的数据,隐含的RDF语义。基于查询的工作量,我们解决的问题,选择一组要物化的数据库中的视图,最大限度地减少组合的查询处理,视图存储和视图维护成本。从现有的关系视图选择方法开始,我们设计了新的算法推荐视图集,并表明它们的规模显着超出现有的关系时,适应RDF上下文。考虑到查询答案中的隐式三元组,我们提出了一种新的RDF查询重构算法和一种创新的方式,将其纳入视图选择,以避免组合爆炸的复杂性的选择过程。我们的技术的兴趣是通过一组实验证明。
2011-10-30 cs.DB
Frequent Query Matching in Dynamic Data Warehousing
动态数据仓库(DDW)由于其结构和访问机制的动态性,在决策支持的灵活性和随需应变方面具有传统数据仓库无法比拟的优势。DDW是一个数据框架,它可以轻松地适应数据源的变化,从而允许用户进行无缝查询。物化视图(Materialized Views,MV)被证明是一种有效的方法来增强从DDW中检索数据的过程,因为结果是预先计算并存储在其中的。然而,由于物化视图的静态性质,MV访问层可以提供的动态性水平受到限制。因此,物化视图的集合与不断变化的报告要求不兼容。重要的是MV集合与当前和即将到来的查询一致。上述问题的解决方案必须考虑以下方面:(a)MV必须与OLAP查询匹配,以便识别MV是否可以回答查询,(b)实现MV集合中的可扩展性,必须合并一种直观的机制来修剪它并检索紧密匹配的MV,(c)MV集合必须能够对应于定期变化的用户查询模式而演变。因此,本文的主要目标是探索这些方面,并为MV访问层提供一个全面的解决方案,以消除MV收集和报告要求之间的不匹配。我们的贡献,以解决这个问题,包括查询匹配技术,域匹配技术和维护的MV收集。我们开发了一个实验平台,使用真实的数据集,以评估所提出的技术的性能和精度方面的有效性。
2017-03-06 cs.DB cs.DS
Improving Data Minimization through Decentralized Data Architectures
本研究提出基于去中心化个人数据存储的架构,通过扩展SQL的声明式语言定义数据模式与聚合规则,结合分布式物化视图维护和MPC技术保障隐私,在实现数据最小化的同时支持应用运行与数据分析,并计划实现系统以评估性能。
2023-12-20 cs.DB
The ViP2P Platform: XML Views in P2P
Web上或企业、组织等产生的XML数据源的数量不断增长,给数据管理应用程序带来了许多性能挑战。在这项工作中,我们关注的是分布式,对等管理的大型语料库的XML文档,基于分布式哈希表(或DHT,在短)覆盖网络。我们提出了ViP2P(代表在对等的意见),一个分布式平台,用于共享XML文档的结构化P2P网络基础设施(DHT)的基础上。ViP2P的核心是分布式物化XML视图,由任意XML查询定义,填充网络中任何地方发布的数据,并用于有效地回答任何网络对等体发出的查询。ViP2P允许在两种模式下对对等体发布的XML文档评估用户查询。第一种是长时间运行的订阅模式,在这种模式下,可以在系统中注册查询,并在发布的数据与查询匹配时递增地接收答案。其次,还可以在临时快照模式下询问查询,在这种模式下,立即需要结果,并且必须基于其他长期运行的订阅查询的结果来计算结果。ViP2P通过使用一种非常有表现力的结构化XML查询语言,在其他类似的基于DHT的XML共享平台上进行了创新。这种表现力导致了XML内容在ViP2P网络中非常灵活的分布,以及高效的快照查询执行。ViP2P已在数百台计算机的实际部署中进行了测试。我们提出的平台架构,其内部算法,并通过一组实验证明其效率和可扩展性。我们的实验结果在数据量,网络规模和数据传播吞吐量方面超过了类似竞争对手系统的数量级。
2011-12-12 cs.DB
S/C: Speeding up Data Materialization with Bounded Memory
有了数据管道工具和SQL的表达能力,管理相互依赖的物化视图(MV)变得越来越容易。这些MV在新数据摄取时被重复更新(例如,每天),数据库管理员可以从中观察性能度量(例如,每个MV的刷新时间、磁盘上的大小),以一致的方式针对不同类型的更新(完整与增量)和不同的系统(单节点、分布式、云托管)。一个错失的机会是,现有的数据系统将这些MV更新视为独立的SQL语句,而没有充分利用它们的依赖关系信息和性能指标。但是,如果我们知道SQL语句的结果将在后续操作之后立即被消耗,那么这些后续操作不必等到早期结果在存储上完全具体化,因为结果在内存中已经很容易获得。当然,这可能是有代价的,因为将结果保存在内存中(即使是暂时的)将减少可用内存的数量;因此,我们的决定应该小心。在本文中,我们介绍了一个新的系统,称为S/C,它解决了这个问题,通过有效地创建和更新一组MV与它们之间的非循环依赖关系。S/C明智地使用有界内存,通过缩短昂贵的读取和写入来减少端到端MV刷新时间; S/C的目标函数准确地估计将中间数据保留在内存中特定时间段所节省的时间。我们的解决方案共同优化了MV刷新顺序、在内存中保留哪些数据以及何时从内存中释放数据。在高级别上,S/C仍然完全按照MV定义中的定义来具体化所有数据;因此,它不会影响任何服务级别协议。在我们对TPC-DS数据集(高达1 TB)的实验中,我们表明S/C的优化可以在1.6GB内…
2023-03-17 cs.DB
Query Performance Optimization in XML Data Warehouses
XML数据仓库为利用复杂数据的决策支持应用程序提供了一个有趣的基础。然而,目前原生XML数据库管理系统(DBMS)的性能有限,有必要研究如何优化它们。在本章中,我们将介绍两种这样的技术。首先,我们提出了一个连接索引,是专门适应XML仓库的多维体系结构。它消除了连接操作,同时保留了原始仓库中包含的信息。其次,我们提出了一个策略,选择XML物化视图聚类的查询工作量。为了验证这些建议,我们测量的响应时间的一组决策支持XML数据仓库,使用和不使用我们的优化技术。我们的实验结果证明了它们的效率,即使当查询是复杂的,数据是大量的。
2017-01-27 cs.DB
Exploiting Opportunistic Physical Design in Large-scale Data Analytics
大规模系统,如MapReduce和Hadoop,执行中间作业结果的积极具体化,以支持容错。当作业对应于数据分析师提交的探索性查询时,这些物化会产生大量的物化视图,这些物化视图通常会捕获来自同一分析师的连续查询之间的公共计算,甚至是测试类似假设的不同分析师的查询之间的公共计算。我们建议将这些视图视为机会主义物理设计,并将其用于查询优化的目的。我们开发了一种新的查询重写算法,解决了在这种情况下的两个主要挑战:如何搜索重写的大空间,以及如何推理包含UDF(大规模数据分析中的一个常见功能)的视图。该算法的灵感来自于非度量空间中的最近邻搜索,它可证明地找到了最小成本重写。我们提出了一个广泛的实验研究现实世界的数据集与原型数据分析系统的基础上蜂巢。结果表明,我们的方法可以在复杂的数据分析查询上产生显着的性能改进,平均减少61%的总执行时间,最多减少两个数量级。
2013-12-10 cs.DB cs.DC cs.DS
The Conceptual Integration Modeling Framework: Abstracting from the Multidimensional Model
数据仓库绝大多数是通过自底向上的过程构建的,该过程从源的标识开始,继续从这些源提取和转换数据,然后根据期望的多维关系模式将数据加载到一组数据集市中。最终用户商业智能工具被添加到具体化的多维模式之上,以推动组织中的决策制定。不幸的是,这种自下而上的方法在所需的熟练用户和仓库的庞大规模方面都是昂贵的。本文提出了一个自顶向下的框架,其中数据仓库是由一个概念模型驱动。该框架提供了设计时和运行时间环境。在设计时,业务用户首先使用概念建模语言作为多维对象模型来指定所需的业务信息;然后将概念模型映射到预先存在的逻辑多维表示。在运行时间,系统将把用户概念模型与映射一起变换成逻辑多维表示上的视图。我们专注于用户如何从现有的数据仓库中抽象概念,以及如何将这个概念模型映射到逻辑多维表示。我们还给出了一个指示,什么查询语言是使用的概念模型。最后,我们认为,我们的框架是一个步骤,沿着允许自动生成的数据仓库。
2010-09-01 cs.DB
Les index pour les entrepôts de données : comparaison entre index arbre-B et Bitmap
随着决策系统特别是数据仓库的发展,数据仓库设计在其创建之前的可见性变得至关重要,并且由于数据仓库被认为是赋予决策意义的唯一数据源的重要性。在决策系统中,数据仓库的正常运行一方面取决于中间件工具ETC步骤的平稳运行,另一方面取决于通过数据采掘、报告解决方案、仪表板等的恢复步骤。等其他。通过这些阶段的大量数据需要一个高效的决策系统的最佳设计,而不忽视为数据仓库实施引入的技术的选择,例如:数据库管理系统,服务器操作系统的类型,物理服务器架构(例如64位),这可能是该系统的优势性能。数据仓库的设计者要考虑数据查询的有效性,这取决于相关索引的选择及其与物化视图的结合,注意索引的选择是一个NP完全问题,因为索引的数量在数据库中的属性总数中是呈指数关系的,所以,在数据仓库设计时,适合此数据仓库的索引类型。本文对B树索引类型和位图索引类型进行了比较研究,分析了它们的优缺点,并通过一个实际的实验表明位图索引类型比B树索引类型更有优势。
2013-07-09 cs.DB