From Text to Databases: attribute grammar as database meta-model
提出基于属性文法元模型引导文本数据结构化的通用方法,通过实例与文法协同演化生成独立于特定模型的数据库模式与实例,并以临床病例验证。
2025-03-06 cs.DB
Schema Validation and Evolution for Graph Databases
尽管商业图数据库已经成熟,但到目前为止,针对属性图(PG)的数据定义语言(DDL)的标准化还没有达成共识。关于PG模式特征的讨论正在许多标准化和社区团体中进行。虽然模式的一些基本方面已经在Neo4j 3.5中出现,但与大多数商业图数据库一样,缺少完全支持,允许以或多或少的灵活性约束属性图。在本文中,我们专注于两个不同的角度来看,PG模式应被认为是描述性的或规定性的,我们将展示如何有可能从一个切换到另一个开发中的应用程序获得更多的稳定性。除了提出简洁的模式的启发Cypher语法,我们展示了如何模式验证可以通过执行PG模式和PG实例之间的同态,以及如何模式的演变可以通过使用图重写操作来描述。我们的原型实现证明了可行性,并显示了需要提供高层次的查询原语,以适应灵活的图形模式的要求,在我们的工作中展示。
2019-02-18 cs.DB
An Empirical Study on the Design and Evolution of NoSQL Database Schemas
我们研究软件工程师如何设计和发展他们的领域模型时,对NoSQL数据存储构建应用程序。具体来说,我们的目标是使用对象NoSQL映射器与无模式NoSQL数据存储接口的Java项目。给出了十个真实数据库应用程序的源代码,我们提取了隐式NoSQL数据库模式。我们捕获模式的大小,并调查模式是否被非规范化,这是NoSQL数据存储的数据建模中的推荐做法。此外,我们分析了整个项目的历史,以及NoSQL数据库模式的演变历史。在此过程中,我们对NoSQL模式设计和演化进行了迄今为止最大的实证研究。
2020-02-28 cs.DB cs.SE
Evolution of Buffer Management in Database Systems: From Classical Algorithms to Machine Learning and Disaggregated Memory
The Pennsylvania State University(宾夕法尼亚州立大学)
本文综述了数据库系统缓冲管理从经典算法到机器学习和解耦内存的演变,探讨了历史架构、生产系统实现及新兴趋势,并提出融合机器学习与内核可扩展性的研究方向。
2025-12-28 cs.DB
Database Engines: Evolution of Greenness
背景:信息技术消耗了全球10%的发电量,导致二氧化碳排放和高能源成本。数据中心,特别是数据库,消耗了高达23%的能源。因此,构建节能(绿色)数据库引擎可以减少能源消耗和二氧化碳排放。目标:了解在数据库发展过程中驱动数据库能耗和执行时间的因素。方法:我们对两个MySQL数据库引擎InnoDB和MyISAM在40个版本中的能耗进行了实证案例研究。我们研究了四个软件指标与能耗和执行时间的关系,以确定哪些指标反映了数据库的绿色和性能。结果:我们的分析表明,随着数据库的发展,数据库引擎的能源消耗和执行时间增加。此外,在88%的情况下,代码行数指标与能耗和执行时间中度到强烈相关。结论:我们的研究结果为从业者和研究人员提供了见解。数据库管理员可以使用它们来选择快速、绿色的MySQL数据库引擎版本。MySQL数据库引擎开发人员可以使用软件度量来评估产品的绿色度和性能。研究人员可以利用我们的研究结果进一步开发新的假设或建立模型来预测数据库的绿色和性能。
2017-01-09 cs.DB cs.SE
Living Databases: A Unified Model for Continuous Schema Evolution, Versioning, and Transformations
University of Maryland(马里兰大学)
本文提出一个统一模型,整合持续的模式演化、版本控制和转换,支持溯源跟踪、条件更新传播和可配置警报,通过关系型数据库系统原型展示实验结果。
2026-05-01 cs.DB
Replicability and Reproducibility of a Schema Evolution Study in Embedded Databases
确定独立伪造或重复已发表结果的可行性对科学过程至关重要,并且在许多学科中经常进行复制或再现实验。不幸的是,这样的研究在数据库研究中几乎没有,很少有论文致力于重新评估已发表的结果。在本文中,我们进行了一个案例研究的复制和再现的模式演变的研究在嵌入式数据库。我们得到确切的结果,四个数据库应用程序的研究,并在两个进一步的情况下接近。通过报告结果,努力和遇到的障碍,我们希望增加对确保可重复性所需的大量努力的赞赏。通过讨论可重复工作所需的细节,我们认为,这些重要的,但往往被忽视的科学工作的组成部分应该得到更多的信贷在未来的研究评估。
2020-09-09 cs.DB cs.SE
Enhanced Inversion of Schema Evolution with Provenance
长期的数据驱动研究在许多科学领域已经变得不可或缺。通常,数据的数据格式、结构和语义随着时间的推移而改变,数据集也在演变。因此,几十年来的研究特别需要考虑改变数据库模式。这些数据库的发展在某些时候导致了大量的模式,这些模式必须被存储和管理,成本高,耗时长。然而,在研究数据的可再现性的意义上,每个数据库版本必须是可重构的,很少的努力。因此,以前发表的结果可以随时验证和复制。然而,在许多情况下,这种演变无法完全重建。本文对15个最常用的模式修改操作符进行了分类,并为每个操作定义了相关的逆操作。为了避免信息丢失,它还定义了必须存储哪些附加来源信息。我们定义了四个类处理悬空元组,重复和出处不变的运营商。每个班级将由一名代表介绍。通过使用和扩展模式映射及其逆查询,数据分析,为什么出处和模式进化的理论,我们能够结合数据分析应用程序与出处不断变化的数据库结构,以使科学结果的再现性在较长的时间内。虽然大多数用于分析或进化的模式映射的逆是不准确的,但只有准逆,添加出处信息使我们能够重建一个子数据库的研究数据,足以保证再现性。
2022-11-24 cs.DB
Statistical Validation of Column Matching in the Database Schema Evolution of the Brazilian Public School Census
针对公开数据集版本迭代带来的数据库模式演化跟踪难题,本文提出统计方法验证巴西学校普查12年数据集的集成,用Kolmogorov-Smirnov检验实现约90%的跨版本列匹配。
2024-07-13 cs.DB
A Taxonomy of Schema Changes for NoSQL Databases
模式演化是数据库管理中的一个重要方面。所提出的模式更改分类法忽略了涉及实体类型之间关系的操作集:聚合和引用,以及模式类型可能存在的结构变化,因为大多数NoSQL系统都是无模式的。实体类型和关系类型之间的区别,这是典型的图模式,也没有考虑到在出版的作品。此外,NoSQL模式演化带来了具有不同数据模型的挑战,并且没有针对它们的标准规范。提出了一种基于U-Schema统一数据模型的NoSQL和关系模式演化的通用方法,该模型包括聚合和引用关系以及结构变化。对于这个数据模型,我们为所有的U-Schema元素引入了一个模式变化的分类法,它是通过创建Orion数据库独立语言来实现的。我们将展示如何使用Orion为一组NoSQL数据库自动生成演化脚本,并通过所获得的性能结果分析每个模式操作的可行性。该分类法已通过Alloy进行了正式验证,并通过两个案例研究展示了Orion的应用。
2022-05-23 cs.DB
Supporting Finite Element Analysis with a Relational Database Backend, Part II: Database Design and Access
这是关于使用数据库进行有限元分析(FEA)的三篇文章系列的第二部分。它讨论了(1)数据库设计,(2)数据加载,(3)网格构建过程中的典型用例,(4)模拟过程中的典型用例(get和put),(5)分析过程中的典型用例(也在第三部分中完成)以及这些用例的一些性能度量。它认为,使用数据库比自定义数据模式更容易实现,具有更好的性能,因为它可以使用数据并行,更好地支持有限元分析模块化和工具的演变,因为数据库模式的演变,数据独立性,自定义数据。
2007-01-25 cs.CE cs.DB
Managing Variability in Relational Databases by VDBMS
可变性固有地存在于数据库中的各种上下文中,这些上下文中创建了数据库变体。例如,数据库的变体可以具有不同的模式/内容(数据库演化问题),数据库的变体可能来自不同的来源(数据集成问题),对于特定的应用程序域,可以以不同的方式部署数据库的变体(为软件系统的不同配置部署数据库)等。不幸的是,尽管存在针对在这些上下文中出现的每个问题的特定解决方案,不存在解决数据库中的可变性和解决管理数据库内的可变性的通用解决方案。在本文中,我们正式定义变分数据库(VDBs)和静态类型的变分关系代数(VRA)的查询VDBs-数据库和查询显式帐户的变化。我们还设计和实现了变分数据库管理系统(VDBMS)运行变分查询的VDB有效和高效。为了评估这一点,我们从现实世界的数据库中生成两个VDB的软件开发和数据库进化的背景下,每个一组实验查询。
2019-11-25 cs.DB cs.PL
Database Security: A Historical Perspective
近年来,随着商业和军事企业的大多数关键功能变得数字化,数据库研究中安全性的重要性大大增加。数据库是任何信息系统不可或缺的一部分,它们经常保存敏感数据。数据的安全性取决于物理安全性、操作系统安全性和DBMS安全性。获取敏感数据、更改数据或降低数据库的可用性可能会危及数据库安全。在过去的30年里,信息技术环境经历了许多演变的变化,数据库研究界试图在即将到来的数据库安全威胁面前保持领先。早在实现解决这些问题之前,数据库研究界就已经对这些问题进行了思考。本文将研究与数据库安全有关的不同主题,并了解研究如何适应不断变化的环境。最后,对数据库研究的短期趋势进行了展望.
2010-04-22 cs.DB
Towards Temporal Graph Databases
尽管关于图数据库(GDBs)的文献很多,时态GDBs到目前为止还没有得到太多的关注。时间GBD可以捕获例如社交网络跨时间的演变,这是当今数据分析中的相关主题。在本文中,我们提出了一个数据模型和查询语言(表示TEG-QL)的时态GDB的基础上,属性图的概念。这允许直接翻译为Neo4J,一个众所周知的GBD。我们提出了广泛的例子,使用TEG-QL,并评论我们的实施。
2016-05-02 cs.DB
Relational Databases Ingestion into a NoSQL Data Warehouse
企业的数字化转型导致了数据库向大数据的演变。我们的工作是这种情况下的一部分,更具体地说,涉及的机制,提取存储在数据湖的数据集,并存储在一个数据仓库的数据。后者将允许第二次进行决策分析。在本文中,我们提出的抽取机制限于关系数据库。为了自动化这个过程,我们使用了模型驱动架构(MDA),它为模式转换提供了一个形式化的环境。从描述数据湖的物理模式,我们提出了转换规则,允许创建一个数据仓库存储在面向文档的NoSQL系统。已在医学应用上进行了转换过程的实验。
2022-03-14 cs.DB
Evolving NoSQL Databases Without Downtime
像Redis,Cassandra和MongoDB这样的NoSQL数据库越来越受欢迎,因为它们灵活,轻量级,易于使用。使用这些数据库的应用程序将随着时间的推移而发展,有时需要(或倾向于)更改数据的格式或组织。我们在本文中解决的问题是:我们如何支持高可用性应用程序及其NoSQL数据的在线发展,即使在存在向后不兼容的数据格式更改的情况下,也不会出现过多的延迟或中断?我们提出KVolve,流行的Redis NoSQL数据库的扩展,作为这个问题的解决方案。KVolve允许开发人员提交升级规范,定义如何将现有数据转换为最新版本。当应用程序与数据库交互时,这种转换是惰性应用的,因此避免了长时间的暂停。我们证明了KVolve的表现力足以支持大量的实际更新,包括对RedisFS(Redis支持的文件系统)的格式更改,同时在一般使用中基本上没有开销,并且在更新过程中暂停时间最少。
2016-04-25 cs.DB
Managing Periodically Updated Data in Relational Databases: A Stochastic Modeling Approach
信息管理的最新趋势涉及在网络环境中将数据周期性地转录到辅助设备上,并且这些转录的适当调度对于有效的数据管理至关重要。为了协助调度过程中,我们有兴趣在建模的关系和它的副本,称为过时的数据之间的一致性随着时间的推移减少。建模是基于随机过程领域的技术,并提供了几个随机模型的内容演变的基础关系的数据库,参考完整性约束考虑。这些模型足够通用,可以适应数据库中的大多数常见场景,包括批量插入和使用内存和不使用内存的生命周期。作为我们的方法的适用性的初始“概念证明”,我们通过实验验证了我们的模型框架的插入部分与真实的数据源。我们还讨论了一组转录协议,利用所提出的随机模型。
2001-06-11 cs.DB
An Evaluation of Intra-Transaction Parallelism in Actor-Relational Database Systems
在过去的十年中,我们见证了服务器硬件的主存容量和多核并行性的巨大发展。为了利用这种硬件潜力,多核内存OLTP数据库系统已经被广泛地重新设计。这种重新设计的核心目标是扩大OLTP事务的顺序执行,其中已经探索了替代数据库架构,以消除系统瓶颈和阻碍事务间并行性充分体现的开销。然而,事务内并行性在很大程度上被忽略了这以前的工作。我们推测这种情况已经发展,因为OLTP工作负载有时被认为具有太少的事务内并行性,即使这种并行性是可用的,程序分析,以识别它在任意存储过程被认为太脆弱,不能作为一个通用的工具。然而,最近,一个新的概念的演员-关系数据库系统已被提出,提高了希望,应用程序开发人员可以指定事务内的并行性建模数据库应用程序作为通信演员。在这种情况下,一个自然的问题是,具有异步编程模型的参与者-关系数据库系统是否可以充分地将应用逻辑中可用的事务内并行性暴露给现代多核硬件。为了实现这一目标,我们在本文中进行的实验评估的因素,影响在原型演员-关系数据库系统REACTDB的事务内并行性,与OLTP应用程序设计的任务级并行考虑,并与系统运行在多核机器上。
2022-04-22 cs.DB
Evolutionary Data Systems
今天,任何需要数据系统的人都面临着系统架构方面的许多复杂选项,例如传统的关系数据库,NoSQL和NewSQL解决方案以及列存储,行存储等几个子类别。科学实验室或小型企业)。在本文中,我们提出了进化数据系统的愿景,自由系统架构师和应用程序设计师从复杂的,繁琐的和昂贵的过程中设计和调整专门的数据系统架构,只适合一个单一的,静态的应用程序场景。建立一个进化系统就像识别数据一样简单。随着新的数据和查询的出现,系统会自动发展,以便其架构始终与传入工作负载的属性相匹配。受进化理论的启发,在任何给定的时间点,进化系统都可以在数据库架构的低级别上采用多个竞争解决方案-其特征在于数据布局,访问方法和执行策略的组合。随着时间的推移,“适者生存”并成为主导架构,直到环境(工作负载)发生变化。在我们的初始原型中,我们展示了可以在键值存储和列存储架构之间无缝演进(来回)的解决方案,以适应不断变化的工作负载。
2017-06-18 cs.DB
QTrail-DB: A Query Processing Engine for Imperfect Databases with Evolving Qualities
由于各种原因,不完美的数据库在许多应用中非常常见,这些原因包括数据输入错误,传输或集成错误,以及错误的仪器读数,以及导致不正确结果的错误实验设置。不完善数据库的管理和查询处理是一个非常具有挑战性的问题,因为它需要将数据的质量纳入数据库引擎。更具有挑战性的是,这些品质通常不是静态的,可能会随着时间的推移而变化。不幸的是,大多数最先进的技术处理数据质量问题作为一个离线任务,是在完全隔离的查询处理引擎(在DBMS外部执行)。因此,最终用户将接收查询的结果,而不知道结果是否可以信任以进行进一步的分析和决策。在本文中,我们提出了它的“QTrail-DB”系统,从根本上扩展了标准的DBMS,以支持不完善的数据库不断发展的质量。QTrail-DB引入了一种基于“质量跟踪”新概念的新质量模型,该模型可以捕获数据质量随时间的演变。QTrail-DB扩展了关系数据模型,将质量跟踪纳入数据库系统。我们提出了一个新的查询代数,称为“QTrail代数”,它使无缝和透明的传播和查询管道内的数据的质量推导。因此,查询的答案将在元组级别上自动使用质量相关信息进行注释。QTrail-DB传播模型利用了DB起源和世系跟踪文献中深入研究的传播语义,因此不需要开发新的查询优化器。QTrail-DB是在PostgreSQL中开发的,并使用真实世界的数据集进行了实验评估,以证明其效率和实用性。
2023-03-12 cs.DB
EvoSchema: Towards Text-to-SQL Robustness Against Schema Evolution
The Ohio State University(俄亥俄州立大学);Adobe Inc.(Adobe公司);Purdue University(普渡大学)
EvoSchema通过模拟数据库模式演变,评估并提升文本到SQL系统在动态环境下的鲁棒性。
2026-03-11 cs.AI cs.CL cs.DB
Manu: A Cloud Native Vector Database Management System
随着基于学习的嵌入模型的发展,嵌入向量被广泛用于非结构化数据的分析和搜索。由于矢量集合超过十亿规模,因此需要完全管理和水平可扩展的向量数据库。在过去的三年里,通过与1200多个行业用户的互动,我们勾勒出了下一代向量数据库应该具备的特征,包括长期可演化性、可调一致性、良好的弹性和高性能。我们提出Manu,一个云原生向量数据库,实现这些功能。如果按照传统的DBMS设计规则,很难将所有这些特性集成在一起。由于大多数矢量数据应用程序不需要复杂的数据模型和强大的数据一致性,我们的设计理念是放松数据模型和一致性约束,以换取上述功能。具体来说,Manu首先公开了写前日志(WAL)和binlog作为骨干服务。其次,写组件被设计为日志发布者,而所有只读的分析和搜索组件被设计为日志服务的独立订阅者。最后,我们利用多版本并发控制(MVCC)和增量一致性模型来简化系统组件之间的通信和协作。这些设计实现了系统组件之间的低耦合,这对弹性和进化至关重要。我们还通过硬件感知实现和对复杂搜索语义的支持,对Manu的性能和可用性进行了广泛优化。
2022-06-28 cs.DB
Incremental extraction of a NoSQL database model using an MDA-based process
近年来,使用NoSQL系统存储和利用大数据的需求一直在稳步增长。这些系统中的大多数的特征在于属性“无模式”,这意味着在创建数据库时不存在数据模型。该属性通过允许在基础开发期间模型的演变带来了不可否认的灵活性。然而,查询的表达需要对该模型有精确的了解。在本文中,我们提出了一个增量过程中提取模型,同时操作面向文档的NoSQL数据库。为此,我们使用模型驱动架构(MDA),它为自动模型转换提供了一个正式的框架。从数据库上执行的插入、删除和更新查询中,我们提出了QVT形式化转换规则来生成NoSQL数据库的物理模型。在医学应用上进行了提取过程的实验。
2019-11-04 cs.DB cs.IR
Primary Numbers Database for ATLAS Detector Description Parameters
介绍了ATLAS实验中探测器描述参数数据库的设计和现状。ATLAS主编号是定义模拟中探测器几何结构和数字化的参数,以及某些重建参数。由于详细的ATLAS检测器描述需要超过10,000个此类参数,因此首选解决方案是为所有这些数据提供单个经过验证的来源。数据库存储每个参数集合对象的数据字典,为基于对象的参数检索提供模式演化支持。相同的Primary Numbers被提供给许多不同的访问数据库的客户端:ATLAS软件框架Athena、Geant 3遗产框架Fracsim、Geant 4开发者框架FADS/Goofy、用于探测器描述的XML输出生成器,以及用于交互式数据导航的几个最终用户客户端,包括基于Web的浏览器和ROOT。选择MySQL数据库产品进行实施提供了额外的好处:Primary Numbers数据库可以在断开连接时在开发人员的笔记本电脑上使用(使用MySQL嵌入式服务器技术),数据在笔记本电脑连接时更新(使用MySQL数据库复制)。
2003-06-16 cs.DB cs.HC
Efficient Dynamic Clustering: Capturing Patterns from Historical Cluster Evolution
针对高速动态场景中对象持续变化导致批处理聚类开销高的问题,提出利用历史结果的DynamicC系统,结合机器学习模型与批处理算法,实验表明其性能优于现有方法且准确性与基线相近。
2022-03-07 cs.AI cs.DB
Inline Co-Evolution between Users and Information Presentation for Data Exploration
本文提出了一种智能用户界面模型,致力于复杂数据库的探索。这个模型是在一个3D隐喻上实现的:虚拟博物馆。在这个比喻中,数据库元素体现为博物馆对象。这些对象根据它们的语义属性和关系被分组在房间中,房间组织形成了博物馆。房间组织不是预先定义的,而是通过考虑对象之间的关系以及用户感兴趣的中心来逐步定义的。后者通过虚拟博物馆内的用户交互进行实时评估。这个界面允许个人阅读,并有利于发现数据之间的可靠链接。在本文中,我们提出了我们的模型的形式化,以及它的应用范围内的文化遗产。
2017-03-22 cs.DB cs.HC
Seamless Data Migration between Database Schemas with DAMI-Framework: An Empirical Study on Developer Experience
North Carolina State University(北卡罗来纳州立大学);Universidade da Coruña(拉科鲁尼亚大学);Centro de Investigación CITIC(CITIC研究中心)
本文提出DAMI框架,通过领域特定语言和解析器简化数据库模式间的数据迁移,实验证明其在可读性和易用性方面优于传统SQL,减少了迁移工作量。
2025-04-24 cs.DB cs.SE