Automatic Clustering in Hyrise
物理数据布局是现代数据库的重要性能因素。聚类,即,邻近地存储相似的值可以以几种方式导致性能增益。我们提出了一个自动化的模型,以确定有益的集群列和面向列的,内存驻留数据库Hyrise的聚类算法。为了自动选择集群列,该模型分析数据库的工作负载,并根据某些集群列对工作负载延迟的影响程度提供估计。我们评估模型估计的精度,以及其聚类建议的整体质量。为了应用一个确定的聚类配置,我们开发了一个在线聚类算法。聚类算法支持任意数量的聚类维度。我们表明,该算法对并发运行的数据修改查询是强大的。当对lineitem表进行聚类时,TPC-H基准测试的延迟减少了5%,当对store_sales表进行聚类时,TPC-DS基准测试的延迟减少了4%。
2021-03-29 cs.DB
CALL: Context-Aware Low-Latency Retrieval in Disk-Based Vector Databases
本文提出CALL机制,通过上下文感知的查询分组、分组感知预取和延迟感知簇加载来优化基于磁盘的向量数据库缓存行为,将第99百分位尾延迟降低最多33%。
2025-09-23 cs.DB
A Call to Arms: Revisiting Database Design
良好的数据库设计对于获得可靠、一致的数据库至关重要,反过来,良好的数据库设计方法是实现正确设计的最佳途径。这些方法学是作为数据库入门课程的一部分教授给大多数计算机科学本科生的。它们可以被认为是“经典”的一部分,事实上,数据库设计的整体方法多年来一直没有改变。此外,没有一个主要的数据库研究评估将数据库设计确定为战略研究方向。我们是否应该断定数据库设计是一个已解决的问题?我们的论点是,数据库设计仍然是一个关键的未解决的问题。因此,它应该是更多研究的主题。我们的出发点是观察到传统的数据库设计在实践中没有使用-如果使用它将导致设计不能很好地适应当前环境。简而言之,数据库设计未能跟上时代的步伐。本文提出了一些论据来支持我们的观点,分析了这种情况的根源,并提出了一些研究方向。
2012-10-02 cs.DB
Analysis and Study of Incremental DBSCAN Clustering Algorithm
本文描述了基于密度的聚类的增量行为。重点介绍了基于密度的噪声应用空间聚类算法(DBSCAN)及其增量方法,DBSCAN算法基于密度的聚类概念,在噪声空间数据库中发现任意形状的聚类,增量方法将DBSCAN算法应用于数据更新频繁的动态数据库中,并在此基础上提出了一种基于密度的噪声应用空间聚类算法。在对动态数据库进行插入或删除操作之后,必须更新DBSCAN发现的聚类。DBSCAN算法通过直接计算新数据进入到已有聚类中的数据来度量新聚类,而不是重新运行算法,最终发现新的更新聚类和离群点,从而描述了在原始数据库中增量变化的百分比下,实际DBSCAN算法和增量DBSCAN算法的行为是相同的,DBSCAN算法被广泛应用于大型多维数据库的维护,如数据仓库。
2014-06-18 cs.DB cs.IR
Unsupervised classification of uncertain data objects in spatial databases using computational geometry and indexing techniques
无监督分类称为聚类,是将对象组织成成员在某些方面相似的组的过程。不确定数据对象的聚类是空间数据库中的一个挑战。本文采用概率密度函数(PDF)来表示这些不确定的数据对象,并应用不确定K均值算法来生成聚类。该聚类算法使用期望距离(ED)来计算对象和聚类代表之间的距离。为了进一步提高UK-Means的性能,我们提出了一种新的技术,称为沃罗诺伊图从计算几何修剪ED的计算数量。这种技术有效地工作,但结果修剪开销。为了减少这些在修剪开销,我们引入R*-树索引这些不确定的数据对象,使它减少了计算成本和修剪开销。我们的新方法集成UK-Means与沃罗诺伊图和R* 树应用于不确定的数据对象产生强加的结果相比,可访问的方法。
2013-12-09 cs.DB
Home Heating Systems Design using PHP and MySQL Databases
本文介绍了一个基于MySQL数据库的计算机应用程序的使用,由PHP程序管理,允许使用基于系数的微积分选择加热设备。
2009-03-05 cs.DB
Design and Implementation of Database Independent Auto Sequence Numbers
世界各地的开发人员都使用后端数据库的自动编号或自动序列字段来开发桌面和基于Web的数据中心应用程序,这在开发和部署方面更容易使用,但在各种情况下可能会产生很多问题。本文探讨了如何开发和重用一个独立于数据库的自动编号,解决所有的问题,以及提供同样程度的易于使用的功能,自动编号提供了现代关系数据库系统。
2015-03-15 cs.DB
Databases for comparative syntactic research
本文调查并描述了21个公开的形态句法数据库,提出按描述单元和设计原则两个维度分类,识别出单分类、多分类和结构分解三种设计原则,并讨论了其优缺点及未来数据库的需求。
2023-10-17 cs.DB
Benchmarking Specialized Databases for High-frequency Data
本文介绍了一个基准套件,旨在评估和比较的时间序列数据库的高频数据,重点是金融应用。该套件包括四个专用数据库:ClickHouse,InfluxDB,kdb+和TimescaleDB。该套件的结果表明,kdb+在测试的数据库中具有最高的性能,同时也突出了每个数据库的优点和缺点。基准测试套件旨在客观衡量这些数据库的性能,并比较它们处理不同类型数据的能力。这为不同时间序列数据库对不同用例的适用性提供了有价值的见解,并提供了可用于通知系统设计决策的基准。
2023-01-29 cs.DB
Intelligent Implementation Processor Design for Oracle Distributed Databases System
尽管对分布式数据库(DDB)的建模和实现的需求越来越大,但分布式数据库管理系统还远远不能帮助设计人员直接实现其BDD。事实上,实现DDB的基本原则是使数据库看起来像一个集中式数据库,提供一系列的数据,这是当前DDBMS无法直接提供的。我们专注于这项工作的Oracle数据库管理系统,尽管它的市场主导地位,只提供了一些逻辑机制来实现分布。为了解决这个问题,我们提出了一个新的体系结构的DDBMS Oracle。这个想法是基于通过智能层扩展它,该智能层提供:1)通过GUI创建不同类型的碎片,用于定义地理上分散的不同站点2)DB的分配和复制。系统必须为原始配置的每个站点自动生成SQL脚本。
2015-04-12 cs.DB
A novel ER model to relational model transformation algorithm for semantically clear high quality database design
使用实体关系(ER)模型的概念建模已被广泛用于数据库设计很长一段时间。然而,研究表明,创建一个令人满意的关系模型表示从ER模型是不确定的,由于在所使用的转换方法和关系模型本身的不一致性。为了解决这一问题,对原有的ER表示法进行了修改,并相应地开发了一种新的转换算法。本文提出了建议的转换算法。使用一个真实世界的例子,它显示了该算法可以在实践中应用。本文还讨论了如何验证结果数据库和回收它所代表的信息。
2013-06-28 cs.DB
Clustering RDF Databases Using Tunable-LSH
资源描述框架(RDF)是表示图结构数据的W3C标准,SPARQL是RDF的标准查询语言。信息抽取、链接数据管理和语义网的最新进展导致了可公开获得的RDF数据的数量和种类的快速增长。随着企业开始利用RDF数据,RDF数据管理系统面临的工作负载比它们设计处理的要多样化和动态得多。因此,越来越需要开发工作负载自适应和自调优的RDF数据管理系统。为了实现这一愿景,我们介绍了一种快速,有效的方法动态聚类RDF数据管理系统中的记录。具体来说,我们预先不假设工作负载,但是当执行SPARQL查询时,我们跟踪工作负载中的查询共同访问的记录,并对它们进行物理集群。为了动态地(因此,在恒定的时间)决定一个记录需要放置在存储系统中,我们开发了一个新的位置敏感的哈希(LSH)计划,可调LSH。使用Tunable-LSH,可以将跨类似查询集共同访问的记录散列到存储系统中的相同或附近的物理页面。Tunable-LSH与现有LSH方案的区别在于,它可以自动调整,即使在工作负载发生变化时也能高精度地实现上述集群目标。Tunable-LSH在我们的原型RDF数据管理系统,变色龙数据库,以及在一个独立的哈希表中的实验评估显示显着的端到端的改进现有的解决方案。
2015-04-19 cs.DB
LLM-Driven Feedback for Enhancing Conceptual Design Learning in Database Systems Courses
本文提出一种LLM驱动的系统,通过将ERD转换为JSON并利用LLM生成针对性反馈与问答,有效提升了数据库系统课程学生的概念设计技能。
2024-12-23 cs.DB
Compression Aware Physical Database Design
现代RDBMS支持使用空值抑制和字典编码等方法压缩数据的能力。数据压缩为决策支持查询提供了显著降低存储需求和提高I/O性能的希望。但是,由于压缩和解压缩的CPU成本,压缩也会降低更新和查询性能。在本文中,我们研究了数据压缩如何影响选择适当的物理数据库设计,如索引,对于一个给定的工作负载。我们观察到,将是否选择索引的决策与是否压缩索引的决策解耦的方法可能会导致较差的解决方案。因此,我们关注的是以可扩展的方式将压缩集成到物理数据库设计中的新问题。我们通过修改Microsoft SQL Server和数据库引擎优化顾问(DTA)物理设计工具实现了我们的技术。我们的技术是通用的,并有可能适用于数据库管理系统,支持其他压缩方法。我们在真实世界以及TPC-H基准负载上的实验结果证明了我们的技术的有效性。
2011-09-04 cs.DB
Toward a Cognitive Data Model: Exploring a Mind-Inspired Approach to Database Design
本文提出一种受心智启发的认知数据模型(CDM),通过模拟大脑顺序、成对关联的静态数据处理机制,改进数据库设计,解决复杂关系、可扩展性及适应性局限,并展望AI与大数据应用。
2025-03-25 cs.DB
An Approach for Normalizing Fuzzy Relational Databases Based on Join Dependency
数据库中的不确定性用于表示不确定或不完整的数据。关系数据库强调数据的性质是确定的。这种基于确定性的数据被用作为传统关系数据库设计的规范化方法的基础。但现实世界的数据可能并不总是确定的,因此有必要设计一种处理模糊数据的归一化方法。研究了基于连接依赖的模糊数据第五范式(5NF)的设计方法。从关系数据库的基本概念出发,导出了模糊关系数据库连接依赖的基础。由于连接依赖通过对称性隐含着多值依赖,因此从模糊关系数据库上基于多值依赖的规范化的角度出发,给出了基于连接依赖的规范化的证明。
2014-03-11 cs.DB
GraphChi-DB: Simple Design for a Scalable Graph Database System -- on Just a PC
我们提出了一种新的数据结构,并行邻接表(PAL),有效地管理图与磁盘上的数十亿条边。PAL结构基于GraphChi的图存储模型(Kyrola et.例如,OSDI 2012),但我们对其进行了扩展,以支持在线数据库功能,如查询和快速插入。此外,我们扩展了模型的边和顶点属性。与以前的数据结构相比,PAL可以更复杂地存储图形,同时允许快速访问顶点的传入和传出边,而不复制数据。在PAL的基础上,我们设计了一个图形数据库管理系统GraphChi-DB,它也可以执行强大的分析图形计算。我们通过实验评估了我们的设计,并证明GraphChi-DB在比可用内存大得多的图形上实现了最先进的性能。GraphChi-DB使任何只有笔记本电脑或PC的人都可以处理非常大的图形。
2014-03-04 cs.DB
Design Issues of JPQ: a Pattern-based Query Language for Document Databases
文档数据库的应用越来越广泛,但如何实现复杂的文档查询,从文档中获取有用的信息,仍然是一个重要的研究课题。本文描述了一种基于模式的文档数据库查询语言JPQ的设计问题。JPQ使用各种表达模式来提取和构造遵循类似JSON的文档数据模型的文档片段。该方法采用树状抽取模式和一致的模式组合机制,从层次结构的文档中抽取数据元素,并维护元素之间的逻辑关系。基于这些关系,JPQ部署了一种演绎机制来声明性地指定数据转换请求,并考虑了分层数据结构上的数据过滤。我们使用各种例子来展示语言的功能,并展示其表现力和声明性在提出复杂的文档查询。
2015-04-15 cs.DB
DooML: A new Database & Object-Oriented Modeling Language for database-driven web application design and development
数据库驱动的Web应用程序是一个非常常见的软件解决方案,以解决日益增长的业务问题。对数据库和软件架构进行建模可能具有挑战性,因此没有一种用于数据库和软件架构的组合建模语言,特别适合于Web应用程序开发。在本文中,我们提出了数据库面向对象的建模语言(DooML)和它的主要原型图:一个符号指定的数据库模式和相应的面向对象的软件体系结构的设计。它结合了绘制实体关系图、关系模型和通用建模语言类图的语法,并创建了一个混合图,说明了数据库设计和软件设计规范。默认情况下,DooML确保高级Web应用程序开发的方法是模型驱动的,既面向数据库又面向对象。
2022-10-05 cs.DB cs.SE
A framework to model real-time databases
实时的【形】数据库处理时间受限的数据和事务。这种数据库的设计需要引入新的概念来支持数据结构和数据库的动态行为。在本文中,我们给出了一个关于实时的【形】数据库的不同方面的概述,我们澄清他们的建模要求。然后,我们提出了一个实时的【形】数据库设计的框架,并描述其基本操作。一个案例研究证明了结构模型的有效性,并说明了SQL查询和Java代码生成的类的模型
2010-01-08 cs.DB
The Case for Text-to-SQL Friendly Logical Database Design
Simon Fraser University(西蒙菲莎大学);Tsinghua University(清华大学)
本文提出LLM友好的逻辑数据库设计目标,通过三种语义保持的模式变换(抽象、分区、重命名)优化数据库模式,提升文本到SQL的生成准确率,实验显示执行准确率提升高达4.2%。
2026-06-02 cs.DB
Efficient Dynamic Clustering: Capturing Patterns from Historical Cluster Evolution
针对高速动态场景中对象持续变化导致批处理聚类开销高的问题,提出利用历史结果的DynamicC系统,结合机器学习模型与批处理算法,实验表明其性能优于现有方法且准确性与基线相近。
2022-03-07 cs.AI cs.DB
Performance Comparison of Incremental K-means and Incremental DBSCAN Algorithms
增量K-means和DBSCAN是目前大型动态数据库(数据仓库、WWW等)中两种非常重要和流行的聚类技术。增量K-means和增量DBSCAN的时间分析特性决定了它们的性能不同。这两种算法都是有效的比较,他们现有的算法在时间,成本和精力。本文对增量式DBSCAN聚类算法进行了性能评估,重点是与增量式K-means聚类算法进行了性能比较,并根据数据库中数据的变化说明了两种算法的特点。本文还解释了这两个最流行的聚类算法之间的一些逻辑差异。本文以一个大气污染数据库为原始数据库,进行了实验研究。
2014-06-18 cs.DB cs.IR
Supporting Finite Element Analysis with a Relational Database Backend, Part II: Database Design and Access
这是关于使用数据库进行有限元分析(FEA)的三篇文章系列的第二部分。它讨论了(1)数据库设计,(2)数据加载,(3)网格构建过程中的典型用例,(4)模拟过程中的典型用例(get和put),(5)分析过程中的典型用例(也在第三部分中完成)以及这些用例的一些性能度量。它认为,使用数据库比自定义数据模式更容易实现,具有更好的性能,因为它可以使用数据并行,更好地支持有限元分析模块化和工具的演变,因为数据库模式的演变,数据独立性,自定义数据。
2007-01-25 cs.CE cs.DB
Dynamic Physiological Partitioning on a Shared-nothing Database Cluster
传统的DBMS服务器通常在其大部分日常工作负载中过度配置,并且由于它们没有显示出足够好的能量比例,因此在未充分利用的情况下浪费了大量能量。一个小型(弱)服务器集群,其大小可以根据当前工作负载动态调整,为这些工作负载提供更好的能量特性。然而,平衡节点之间的利用率所必需的数据迁移是一项重要且耗时的任务,可能会消耗节省的能量。出于这个原因,需要一个复杂且易于调整的分区方案来促进动态重组。在本文中,我们采用了一种技术,最初创建的SMP系统,称为生理分区,在节点之间分布数据,可以很容易地重新分区数据,而不中断事务。我们动态分区数据库表的基础上节点的利用率和给定的能量约束,并比较我们的方法与物理分区和逻辑分区方法。为了量化可能的节能和查询运行时,它可以想象的缺点,我们评估我们的实验集群上的实现,并比较结果w.r.t.性能和能耗。根据工作负载的不同,我们可以在不牺牲太多性能的情况下大幅节省能源。
2014-07-02 cs.DB cs.DC
Indexing Designs and Adaptive Data Distribution Optimization for In-Memory Databases on Hybrid DDR--CXL Memory
East China Normal University(华东师范大学)
针对混合DDR--CXL内存数据库,提出五种索引设计并开发自适应数据分布优化,通过分层热度跟踪和收益感知驱逐提升性能,使单一索引设计吞吐量最高提升至1.59倍。
2026-10-08 cs.DB
High-concurrency Custom-build Relational Database System's design and SQL parser design based on Turing-complete automata
数据库系统是软件项目中不可缺少的一部分。它在数据组织和存储中起着重要作用。它的性能和效率直接关系到软件的性能。现在我们有很多通用的关系数据库系统可以在我们的项目中使用,比如SQL Server、MySQL、Oracle等,不可否认的是,在大多数情况下,我们都可以轻松的使用这些数据库系统来完成我们的项目,但是考虑到通用性,通用的数据库系统往往不能发挥极致的速度,完全适应我们的项目。在极少数项目中,我们需要设计一个完全适应我们项目的数据库系统,并具有高效率和并发性。因此,考虑一个可行的数据库系统设计方案是非常重要的(这里我们只考虑关系数据库系统)。同时,对于数据库系统来说,SQL解释和执行模块是必要的。根据形式语言和自动机的理论,该模块的实现可以用自动机来完成。在实验中,我们做了以下几个方面的工作:1)设计了一个小型的关系数据库,并利用该数据库完成了一个高并发的学生选课系统。2)我们设计了一个通用的自动机模块,它可以完成从解析到执行的操作。采用了策略模型和事件驱动的设计方案,并对一般自动机进行了改进,如在自动机中加入了类似记忆的结构,使其更好地存储上下文。所有这些使得自动机模型可以应用于各种场合,而不仅仅是SQL语句的解析和执行。
2020-08-11 cs.DB cs.SE
An Empirical Study on the Design and Evolution of NoSQL Database Schemas
我们研究软件工程师如何设计和发展他们的领域模型时,对NoSQL数据存储构建应用程序。具体来说,我们的目标是使用对象NoSQL映射器与无模式NoSQL数据存储接口的Java项目。给出了十个真实数据库应用程序的源代码,我们提取了隐式NoSQL数据库模式。我们捕获模式的大小,并调查模式是否被非规范化,这是NoSQL数据存储的数据建模中的推荐做法。此外,我们分析了整个项目的历史,以及NoSQL数据库模式的演变历史。在此过程中,我们对NoSQL模式设计和演化进行了迄今为止最大的实证研究。
2020-02-28 cs.DB cs.SE
Lua API and benchmark design using 3n+1 sequences: Comparing API elegance and raw speed in Redis and YottaDB databases
本文通过比较 Redis 和 YottaDB 的 Lua API 优雅性与效率,并利用 3n+1 序列生成器进行基准测试,探讨了面向对象编程在保持 API 效率中的作用,展示了各数据库独特设计的测试结果。
2025-04-03 cs.DB cs.PL
Design of Intelligent layer for flexible querying in databases
UIT, RGPV(UIT,RGPV);JEC
基于计算机的信息技术已被广泛用于帮助许多组织、私人公司、学术和教育机构管理其流程,因此信息系统成为它们的神经中枢。由企业、科学和政府创建的海量数据集的爆炸式增长需要智能和更强大的计算范式,以便用户可以从这些数据中受益。因此,大多数新一代数据库应用需要智能信息管理,以提高数据库和用户之间的有效交互。数据库系统只支持布尔查询模型。SQL数据库上的选择查询返回所有满足查询条件的元组。
2009-12-11 cs.AI cs.DB
On the effects of logical database design on database size, query complexity, query performance, and energy consumption
本研究基于IMDb数据集与PostgreSQL开展实证分析,探究数据库规范化对规模、查询复杂度、性能与能耗的影响,发现1NF到2NF优化收益显著,2NF到4NF收益甚微且增加存储需求。
2025-01-13 cs.DB cs.PF
Rk-means: Fast Clustering for Relational Data
relational AI;Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学);Oxford University(牛津大学)
传统的机器学习算法不能被应用,直到数据矩阵可用于处理。当需要经由特征提取查询从关系数据库获得数据矩阵时,由于数据矩阵可能比总输入关系大小大(多),计算成本可能是过高的。本文介绍了Rk-均值,或关系k -均值算法,聚类关系数据元组,而不必访问完整的数据矩阵。这样,我们就不必运行昂贵的特征提取查询并存储其输出。我们的算法利用关系数据中的底层结构。它涉及构建数据矩阵的小{ \it网格核心集},用于后续的集群构建。这给出了k均值目标的恒定近似,同时与首先运行数据库查询然后聚类的标准方法相比具有渐进的运行时改进。实证结果显示了数量级的加速,Rk均值在数据库上的运行速度甚至比计算数据矩阵更快。
2019-10-11 cs.DB cs.LG stat.ML
Configuration Database for BaBar On-line
组态数据库是BaBar在线系统的重要组成部分。它为数据采集系统和控制系统中需要运行时参数的不同部分提供服务。配置数据库的原始设计和实现在实验开始以来成功的BaBar操作中发挥了重要作用。最近对配置数据库设计的补充为数据管理提供了更好的手段,并增加了新的工具来简化主要配置任务。我们描述了配置数据库的设计,它的实施与Objectivity/DB面向对象的数据库,和我们的经验,在多年的操作过程中收集。
2003-05-29 cs.DB cs.IR
Scalability of Data Binding in ASP.NET Web Applications
ASP.NET Web应用程序通常使用服务器控件来提供动态网页,并使用数据绑定服务器控件来显示和维护数据库数据。大多数开发人员在开发Web应用程序时使用ASP.NET服务器控件的默认属性,这允许快速开发可行的应用程序。但是,创建高性能、多用户和可伸缩的Web应用程序需要使用自定义代码增强服务器控件。在这项实证研究中,我们评估了各种技术方法对数据驱动的ASP.NET Web应用程序中分页和排序功能的影响:Web服务器上的Web服务器控件中的自动数据分页和排序;数据库服务器上的分页和排序;索引和非索引数据库列;集群与非集群索引。当使用基于SQL存储过程和聚集索引的自定义分页时,我们观察到显著的性能改进。
2012-11-05 cs.DB cs.SE
Incremental Database Design using UML-B and Event-B
许多关键系统的正确操作依赖于底层数据库的数据一致性和完整性属性。因此,一个可验证的和严格的数据库设计过程是非常可取的。本研究的目的是调查和提供一个全面和实用的方法,通过分层细化正式的方法建模数据库。该方法是由一些案例研究,使用UML-B的抽象和细化和验证与罗丹工具的指导。UML-B是Event-B形式主义的图形表示,Rodin工具支持Event-B和UML-B的验证。我们的方法指导开发人员通过分层细化在UML-B中建模关系数据库,并指定数据库上的必要约束和操作。
2018-05-15 cs.DB cs.LO cs.SE
H2O: An Autonomic, Resource-Aware Distributed Database System
本文介绍了一个自治的,资源感知的分布式数据库,使数据备份和共享,而无需复杂的手动管理的设计。数据库H2O旨在利用工作站机器上未使用的资源。对于未经培训的用户来说,创建和维护高可用性的复制数据库系统可能很困难,对于IT部门来说成本很高。H2O通过在企业中的机器之间重复复制数据和负载平衡来减少手动管理的需要。配置硬件来运行数据库系统可能会带来不必要的成本,因为大多数组织已经在工作站机器中拥有大量空闲资源。H2O旨在通过使用资源可用性信息将数据和计划查询放置在已用于其他任务的工作站机器上来利用此未使用的容量。本文讨论了这样一个系统的要求,并提出了H2O的设计和实现。
2010-06-16 cs.DB cs.DC
Designing a Multi-petabyte Database for LSST
3.2千兆像素的LSST相机每月将产生大约0.5 PB的存档图像。这些数据需要在一分钟内减少,以产生实时的瞬时警报,然后添加到累积目录中进行进一步分析。该目录预计每年将增长约300 TB。数据量,实时瞬态报警要求的LSST,其时空方面需要创新的技术,以建立一个有效的数据访问系统在合理的成本。按照目前的设想,该系统将依赖于目录和元数据的数据库。正在评估几个数据库系统,以了解它们在这些数据率、数据量和访问模式下的性能。本文介绍了LSST的要求,他们施加的挑战,数据访问的哲学,结果从评估可用的数据库技术对LSST的要求,并提出了数据库架构,以满足数据的挑战。
2006-04-28 cs.DB cs.DL
Conceptual Level Design of Semi-structured Database System: Graph-semantic Based Approach
本文提出了一种基于图-语义的半结构化数据库系统概念模型GOOSSDM,它以面向对象的方式对半结构化数据库系统的各个方面进行概念化。该模型定义了一组基于图的形式化结构、各种具有参与约束的关系类型和丰富的图形符号集,用于描述半结构化数据库系统的概念级设计。所提出的设计方法有利于不规则的,异构的,层次和非层次的半结构化数据在概念层面上的建模。此外,建议GOOSSDM是能够在概念级的XML文档建模与文档为中心的设计,排序和析取特性的设施。本文还提出了一种基于规则的GOOSSDM模式到等价XML模式定义(XSD)的转换机制。所提出的概念模型的概念已实现使用通用建模环境(GME)。
2012-02-21 cs.DB cs.SE
Comparison of Distance Metrics for Hierarchical Data in Medical Databases
距离度量在生物信息学、数据采掘等领域有着广泛的应用。然而,有一些指标,如pq-gram和编辑距离,专门用于具有层次结构的数据。用于非分层数据的其他度量是几何度量和汉明度量。我们已经将这些指标的健康改善网络(THIN)数据库,其中有一些层次数据。对于第一组度量,必须将THIN数据转换为树状结构。对于第二组度量,将数据转换为频率表或矩阵,然后对于所有度量,找到所有距离并进行归一化。基于这个特定的数据集,我们的研究问题是:这些指标中哪些对THIN数据有用?本文比较了各种度量方法,特别是pq-gram度量方法在发现患者数据相似性方面的应用。它还调查了具有相同近距离的相似患者以及用于聚类整个患者群体的度量适合性。我们的研究结果表明,这两组指标表现不同,因为它们代表不同的数据结构。然而,所有的指标可以代表一些类似的数据的患者,以及足够好的区别在聚类的患者群体使用$k$均值聚类算法。
2014-09-03 cs.CE cs.DB
TerraServer SAN-Cluster Architecture and Operations Experience
Microsoft TerraServer在可通过Internet访问的SQL数据库中显示地球的航空、卫星和地形图像。它是最受欢迎的在线地图集之一,展示了来自美国地质调查局(USGS)的17 TB图像数据。该系统最初于1998年部署,展示了PC硬件和软件(Windows和SQL Server)在单个大型机级处理器上的可扩展性。2000年9月,后端数据库应用程序迁移到连接到18 TB存储区域网络(SAN)的4节点主动/被动群集。新配置旨在实现后端应用程序的99.99%可用性。本文介绍了TerraServer集群和SAN的硬件和软件组件,并介绍了我们三年来配置和操作该系统的经验。毫不奇怪,硬件和架构提供了超过4个9的可用性,但操作错误提供了3个9。
2005-02-02 cs.DB cs.DC
From NoSQL Accumulo to NewSQL Graphulo: Design and Utility of Graph Algorithms inside a BigTable Database
Google BigTable针对分布式键值存储的横向扩展设计启发了一代NoSQL数据库。最近出现了NewSQL范例,以响应需要数据存储本地分布式计算的分析工作负载。许多这样的分析采用图算法的形式,这一趋势促使GraphBLAS倡议标准化一组矩阵数学内核以构建图算法。在这篇文章中,我们展示了如何通过展示Graphulo的设计来在BigTable数据库中实现GraphBLAS内核,Graphulo是一个用于在Apache Accumulo数据库中执行图形算法的库。我们详细介绍了Graphulo实现的两个图形算法,并进行实验比较其性能的两个主内存矩阵数学系统。我们的研究结果揭示了决定何时在数据库内部执行图形算法比外部系统更快的条件-简而言之,内存需求和相对I/O是关键因素。
2016-08-11 cs.DB cs.DC cs.MS
Perspects in astrophysical databases
天体物理学已经成为一个科学数据极其丰富的领域。数据采掘工具需要从这样大的数据集中进行信息抽取。这就要求采用一种数据管理方法,强调数据访问的效率和简单性;使用多维访问方法可以获得效率,通过适当处理元数据可以实现简单性。此外,大型数据集上的聚类和分类技术在计算和存储器可扩展性以及结果的可解释性方面提出了额外的要求。在这项研究中,我们回顾了一些可能的解决方案。
2004-02-09 astro-ph cs.DB
Data Management and Mining in Astrophysical Databases
我们分析了天体物理数据的管理和挖掘所涉及的问题。天体物理学领域的传统数据管理方法无法跟上现代探测器收集的数据量的增长。从大型数据集中自动提取信息抽取的工具,即数据采掘技术,如聚类和分类算法,将在天体物理学研究中发挥重要作用。这就需要一种基于数据仓库的数据管理方法,强调数据访问的效率和简单性;使用多维访问方法获得效率,通过正确处理元数据实现简单性。在大型数据集上的聚类和分类技术提出了额外的要求:在数据大小、聚类或分类结果的可解释性和客观性方面的计算和内存可扩展性。在这项研究中,我们提出了一些可能的解决方案。
2003-07-16 astro-ph cs.DB physics.data-an
Database Theory + X: Database Visualization
该研究建立数据建模与可视化的关联,指出可视化规范是数据库约束到视觉表示的映射,证明可视化设计决策实为数据建模选择,并将数据可视化从单数据集扩展至数据库层面。
2024-12-05 cs.DB cs.HC
Text2Schema: Filling the Gap in Designing Database Table Structures based on Natural Language
Hunan University(湖南大学);Peking University(北京大学)
本文提出Text2Schema问题及基于LLM的多智能体框架SchemaAgent,将自然语言需求自动转换为关系数据库模式,并开源381对基准数据,实验证明其优越性。
2025-10-17 cs.AI cs.DB
Polynesia: Enabling Effective Hybrid Transactional/Analytical Databases with Specialized Hardware/Software Co-Design
数据量呈指数级增长,加上对实时分析的需求不断增加(即,使用最新的数据),已经导致了同时支持事务和数据分析的数据库系统的出现。这些混合事务和分析处理(HTAP)数据库系统可以支持实时数据分析,而无需在单独的单一用途数据库之间进行同步的高成本。不幸的是,对于执行高数据更新率的许多应用,与仅执行事务或仅隔离地执行分析相比,最先进的HTAP系统导致事务(高达74.6%)和/或分析(高达49.8%)吞吐量的显著下降,这是由于(1)CPU和存储器之间的数据移动,(2)数据更新传播,以及(3)一致性成本。我们提出波利尼西亚,在内存HTAP数据库的硬件-软件协同设计的系统。波利尼西亚(1)将HTAP系统划分为事务处理岛和分析处理岛,(2)实现自定义算法和硬件以降低更新传播和一致性的成本,以及(3)利用分析岛的内存处理来减轻数据移动。我们的评估表明,波利尼西亚优于三个最先进的HTAP系统,平均交易/分析吞吐量提高了1.70倍/3.74倍,并比之前的最低能耗系统降低了48%的能耗。
2021-03-01 cs.AR cs.DB
Improving Web Database Access Using Decision Diagrams
在管理和商业的某些领域,特别是在电子商务(E-commerce)中,由于Web技术的进步而加速,使用形式化方法来支持决策过程是至关重要的。在电子商务应用中存在的问题有:减少数据访问的时间,使庞大的数据库可以快速检索;降低数据库设计的成本;提高数据库的可维护性。提出了应用信息论方法设计决策图以提高数据库访问速度的方法。我们表明,这种利用提供了系统的和可视化的方式应用决策方法来简化复杂的Web工程问题。
2002-07-04 cs.DB cs.LO
NeurDB: On the Design and Implementation of an AI-powered Autonomous Database
National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学);Shanghai Jiao Tong University(上海交通大学);Renmin University of China(中国人民大学);Beijing Institute of Technology(北京理工大学)
本文提出AI驱动的自治数据库NeurDB,通过在数据库内无缝集成AI工作流,支持库内分析与快速自适应的学习型系统组件,以应对数据和工作负载动态变化。
2025-01-05 cs.AI cs.DB cs.LG
Curator: Efficient Indexing for Multi-Tenant Vector Databases
Duke University(杜克大学);Yale University(耶鲁大学);Emerald Innovations
本文提出 Curator,一种面向多租户向量数据库的内存索引,通过将租户特定聚类树编码为共享聚类树的子树,同时实现低内存开销和高查询、插入、删除性能。
2024-01-13 cs.DB cs.DC cs.IR
Linear spaces and transversal designs: k-anonymous combinatorial configurations for anonymous database search
匿名数据库搜索协议允许用户匿名查询数据库。这可以通过让用户形成对等社区并代表彼此发布查询来实现。在这篇文章中,我们将讨论组合配置(也称为正则和均匀部分线性空间)在匿名数据库搜索协议中的应用,定义实现该协议的用户社区内的密钥分配。可以由协议提供的匿名程度由所使用的组合配置中的点的邻域和闭合邻域的属性来确定。描述了具有独特邻域或独特封闭邻域的组合配置,并展示了如果使用这种配置,如何攻击该协议。我们应用k-匿名参数,并提出了组合配置与k-匿名的邻域和k-匿名的封闭的邻域。在具有k-匿名邻域和k-匿名闭邻域的配置中,分别给出了横截设计和线性空间的最优配置。
2012-12-07 cs.CR cs.DB math.CO
GLOCON Database: Design Decisions and User Manual (v1.0)
本文介绍GLOCON数据库,一个从多语言国家新闻源自动提取争议事件的数据库,采用金标准语料库和专家标注实现自动化,并提供了设计决策与用户手册。
2024-05-28 cs.CL cs.CY cs.DB
Compiling Relational Database Schemata into Probabilistic Graphical Models
University of Massachusetts(马萨诸塞大学);Microsoft Research(微软研究院)
在这项工作中,我们提出了一种方法,使用关系数据库模式自动构建贝叶斯图形模型的数据库,而不是需要一个领域的专家来指定的数据的概率依赖关系。此生成的模型包含列的自定义分布、对数据进行聚类的潜在变量以及反映和表示外键链接的因子。实验证明了该模型的准确性和推理的可扩展性的合成和真实世界的数据。
2012-12-05 cs.AI cs.DB cs.LG
Relational Algorithms for k-means Clustering
Carnegie Mellon University(卡内基梅隆大学);University of Pittsburgh(匹兹堡大学)
本文给出了一种在关系算法模型中有效的k-均值近似算法。这是一种直接在关系数据库上操作的算法,无需执行连接将其转换为矩阵,矩阵的行表示数据点。运行时间可能比$N$(关系数据库表示的要聚类的数据点的数量)小得多。很少有关系算法是已知的,本文提供了设计关系算法的技术,以及其局限性的特点。我们表明,给定两个数据点作为聚类中心,如果我们根据它们最近的中心对点进行聚类,则在一般关系输入上近似聚类中的点的数量是NP-困难的。这对于传统的数据输入来说是微不足道的,并且该结果证明了在设计有效的关系算法时可能不直接应用标准算法技术。然后,本文介绍了一种新的方法,利用拒绝采样和$k$ -means++算法来构造O(1)-近似的k-均值解。
2021-05-20 cs.DB cs.DS cs.LG
Evaluating LLMs in Database Scenarios: A Lifecycle Benchmark for Assessing Their Potential in Core Database Tasks
East China Normal University(华东师范大学);Hasso Plattner Institute/University of Potsdam(哈索·普拉特纳研究所/波茨坦大学)
研究针对现有LLM数据库评估基准仅聚焦Text-to-SQL任务的缺陷,推出覆盖数据库全生命周期的DBLifeBench基准,还提出Progressive-Text2SQL任务,发现专用Text-to-SQL模型在非编码阶段存在灾难性遗忘,为全栈数据库智能构建奠定基础。
2026-08-05 cs.AI cs.CL cs.DB