Scalable Global Grid catalogue for LHC Run3 and beyond
AliEn(ALICE环境)文件目录是一个全球唯一的命名空间,提供类UNIX逻辑名称结构与分布在全球80个存储元件上的相应物理文件之间的映射。强大的搜索工具和分层元数据信息是系统的组成部分,并用于网格作业以及本地用户存储和访问网格存储元素上的所有文件。该目录自2005年以来一直在生产,在过去的11年中已增长到超过20亿个逻辑文件名。后端是一组分布式的关系数据库,保证了平滑的增长和快速的访问。由于预期的未来快速增长,我们正在寻找方法来提高性能和可扩展性,通过简化目录模式,同时保持功能不变。我们研究了不同的后端解决方案,例如分布式键值存储,以替代关系数据库。这一贡献涵盖了系统中的架构变化,以及技术评估,基准测试结果和结论。
2017-04-18 cs.DB cs.DC
Relational Algebra for In-Database Process Mining
实践中用于流程挖掘的执行日志通常是通过查询操作数据库并将结果存储在平面文件中来获得的。因此,数据库系统的数据处理能力不能再用于这些信息,导致挖掘模式定义的灵活性受限,以及挖掘大型日志的执行性能受限。因此,直接在数据库上启用流程挖掘(而不是通过平面文件中的中间存储)提供了额外的灵活性和效率。为了帮助促进这一理想的数据库中的过程挖掘,本文正式定义了一个数据库操作符,提取“直接遵循”的关系,从操作数据库。该操作符既可用于进行数据库内流程挖掘,也可用于灵活评估流程挖掘相关查询,例如:“哪个员工最频繁地将案例的'amount'属性从一个任务更改为下一个任务”。我们使用著名的关系代数来定义运算符,关系代数形成了关系数据库的形式基础。我们正式证明等价的操作,是有用的查询优化和目前的时间复杂度的操作属性。通过这样做,本文正式定义了必要的关系代数元素的“直接如下”操作,这是需要这样的操作在DBMS中的实现。
2017-06-26 cs.DB
Bridging the Omics Divide: A Modular Relational Approach to Multi-Layer Biological Data Management
University of Malta(马耳他大学)
提出vcf2db样本中心关系框架,通过模块化建模和共享样本标识符实现多组学数据集成检索,在选择性查询上优于现有工具。
2026-10-02 cs.DB
From Relational and Property Graph Data to Large Language Models
University of the West of Scotland(西苏格兰大学);Reutlingen University(罗伊特林根大学)
本文提出一种结合关系型与属性图数据的数据管理服务器,通过引用值替代外键协调两种模型,将其知识模型提供给大语言模型生成工具,还给出基于三元组的知识库示例以验证该系统的可行性。
2026-08-14 cs.DB
Odysseus/DFS: Integration of DBMS and Distributed File System for Transaction Processing of Big Data
关系数据库管理系统(RDBMS)由于支持O/S文件系统中不存在的SQL、模式、索引和事务等各种高级功能而得到广泛使用。但是,最近大数据技术的出现促进了牺牲DBMS功能以有效管理大规模数据的新系统的开发。这些所谓的NoSQL系统使用分布式文件系统,支持可伸缩性和可靠性。它们通过将数据存储到大量低成本商品硬件中来支持系统的可扩展性,并通过将数据存储在副本中来支持可靠性。然而,它们有一个缺点,即它们不能充分支持高级DBMS功能。在本文中,我们提出了一个体系结构的DBMS,使用DFS作为存储。通过这种新的体系结构,DBMS能够支持DFS的可扩展性和可靠性以及DBMS的高级功能。因此,DBMS可以利用DFS提供的几乎无限的存储空间,使其适用于大数据分析。作为DBMS体系结构的一部分,我们提出了Meta DFS文件的概念,它允许DBMS使用DFS作为存储,以及一个有效的事务管理方法,包括恢复和并发控制。我们在Odysseus/DFS中实现了这种体系结构,Odysseus关系数据库管理系统的集成,已经在KAIST开发了24年多,与DFS。我们对事务处理的实验表明,由于Odysseus/DFS的高级功能,它优于Hbase,这是一个代表性的开源NoSQL系统。我们还表明,与具有本地存储的RDBMS相比,Odysseus/DFS的性能相当或略有下降,表明Odysseus/DFS通过使用DFS作为存储来…
2014-06-02 cs.DB
RDBLearn: Simple In-Context Prediction Over Relational Databases
University of Hong Kong(香港大学);Shanghai X-Lab(上海X-Lab)
RDBLearn通过关系数据库中的上下文学习方法,实现了对多表关联数据的高效预测,优于传统监督基线。
2026-02-14 cs.AI cs.DB cs.LG
Universal Encoders for Modular Relational Deep Learning
Czech Technical University in Prague(捷克布拉格理工大学)
提出通用行编码器,通过解耦行编码与图消息传递,结合元数据和全局统计的Transformer模块,实现跨数据库知识迁移,提升RelBench基准上的学习收敛性和内存效率。
2026-06-23 cs.DB cs.LG
Share the Tensor Tea: How Databases can Leverage the Machine Learning Ecosystem
Microsoft(微软);University of Washington(华盛顿大学)
我们演示了张量查询处理器(TQP):一个查询处理器,自动编译成张量程序的关系运算符。通过利用PyTorch等张量运行时,TQP能够:(1)与ML工具集成(例如,Pandas用于数据摄取,Tensorboard用于可视化);(2)针对不同的硬件(例如,CPU、GPU)和软件(例如,浏览器)后端;以及(3)端到端加速包含关系和ML运算符的查询。TQP足够通用,可以支持TPC-H基准测试,它提供的性能可以与专用CPU和GPU查询处理器相媲美,甚至更好。
2022-09-10 cs.DB cs.LG
Beyond Relations: A Case for Elevating to the Entity-Relationship Abstraction
本文主张关系数据库应从对象-关系模型升级到实体-关系抽象,以增强逻辑数据独立性,并通过原型系统 ErbiumDB 探索相关设计问题与研究挑战。
2025-05-06 cs.DB
Quota management in dCache or making a perfectly normal file system normal
针对dCache存储系统因原设计假设磁带容量无限、无存储配额限制而在多用户环境下出现的问题,研究设计实现了基于用户和组的配额系统,作为命名空间的一部分管理磁带与磁盘空间分配。
2024-01-26 cs.DB hep-ex
Beyond Relational: Semantic-Aware Multi-Modal Analytics with LLM-Native Query Optimization
Zhejiang University(浙江大学);Aalborg University(奥胡斯大学)
Nirvana通过结合可编程语义运算符和LLM原生查询优化,实现多模态数据分析,显著提升效率和可扩展性。
2025-11-25 cs.AI cs.DB
MemoriesDB: A Temporal-Semantic-Relational Database for Long-Term Agent Memory / Modeling Experience as a Graph of Temporal-Semantic Surfaces
CircleClick Labs(CircleClick实验室)
本文提出MemoriesDB,将长期智能体记忆建模为时间-语义-关系实体,在PostgreSQL与pgvector上统一时间序列、向量和图能力,以时间-语义曲面图支持高效检索与推理。
2025-11-09 cs.AI cs.DB cs.IR
New Approach to Optimize the Time of Association Rules Extraction
知识发现算法在海量数据中已经变得无效,需要快速算法或优化方法。为了解决这个问题,这项工作的目标是适应一个新的方法,优化的时间从大型数据库中提取关联规则。事实上,给定一个表示为元组集(也称为属性集)的关系数据库(一个关系),我们将原始数据库转换为包含二进制数的二进制表(位图表)。然后,我们使用这个位图表来构造一个称为Peano树的数据结构,该Peano树存储为二进制文件,我们在该二进制文件上应用一种称为BF-ARM的新算法(众所周知的Apriori算法的扩展)。由于数据库被加载到一个二进制文件中,我们提出的算法将遍历这个文件,关联规则的提取过程将基于存储在磁盘上的文件。实现了BF-ARM算法,并与Apriori、Apriori+和RS-Rules+算法进行了比较。评估过程基于三个基准(Mushroom、Car Evaluation和Adult)。我们的初步实验结果表明,我们的算法产生的关联规则与其他算法相比,以最小的时间。
2013-12-17 cs.DB
Providing Authentic Long-term Archival Access to Complex Relational Data
我们讨论长期保存和访问关系数据库。重点是国家档案馆和科学数据档案馆,这些档案馆必须从广泛的特定于供应商的关系数据库管理系统(RDBMS)中摄取和整合数据。此外,我们提出了我们的解决方案SIARD分析和提取数据和数据逻辑,从几乎所有的RDBMS。在合理的真实性水平上,它使数据库完全脱离其特定于供应商的环境。用户可以根据可定制的模式添加归档描述性元数据。SIARD数据库档案将数据、数据逻辑、技术元数据和档案描述信息集成在一个档案信息包中,独立于任何特定的软件和硬件,基于纯文本文件和标准化语言SQL和XML。出于使用目的,SIARD存档可以重新加载到任何当前或未来支持标准SQL的RDBMS中。此外,SIARD还包括一个客户端,可“按需”将档案重新载入目标关系数据库管理系统,并可进行多用户远程访问,以便在一个图形用户界面中查询和浏览数据及其技术和描述性元数据。
2004-08-24 cs.DB cs.DL
Optimal parameters for bloom-filtered joins in Spark
在本文中,我们提出了一个算法,连接关系数据库表有效地在分布式环境中使用的最佳大小的布隆过滤器。我们建议不使用固定大小的布隆过滤器在以前的研究中,但找到一个最佳的大小的布隆过滤器,通过创建一个数学模型的连接算法,然后使用传统的数学优化找到最佳的参数。该算法具有最佳参数,不仅在星型连接上,而且在传统的数据库模式上,都击败了使用布隆过滤器和默认SparkSQL引擎的方法。实验是在一个标准的TPC-H数据库上进行的,该数据库作为parquet文件存储在分布式文件系统上。
2017-06-12 cs.DB cs.DC
The Evolution of the Computerized Database
数据库,相关数据的集合,和文字一样古老。数据库可以是任何东西,从家庭主妇的金属配方文件到复杂的数据仓库。然而今天,当我们想到数据库时,我们总是想到计算机化的数据及其DBMS(数据库管理系统)。我们是如何从一个简单的金属文件盒或橱柜中组织我们的数据到将我们的数据存储在一个复杂的计算机化数据库中的?计算机化数据库是如何发展的?本文定义了数据库的含义。它追溯了数据库的演变,从一开始的非计算机化的相关数据集,到现在的标准计算机化的关系数据库管理系统(关系数据库管理系统)。回顾了早期的计算机存储方法,包括索引顺序存取方法和虚拟存储存取方法。早期的数据库模型,包括网络和层次数据库模型进行了探讨。最后讨论了关系数据库、对象关系数据库和面向对象数据库模型。附录中的图表,包括层次发生树,网络模式,ER(实体关系)和UML(统一建模语言)图,包括支持文本。本文最后探讨了DBMS发展的当前和未来趋势。它讨论了影响这些趋势的因素。它深入探讨了DBMS和日益流行的面向对象开发方法之间的关系。最后,对DBMS的未来进行了展望。
2003-05-21 cs.DB
UDBMS: Road to Unification for Multi-model Data Management
传统的数据库系统是围绕单个数据模型组织的,该模型确定如何组织、存储和操纵数据。但本文的愿景是开发新的原则和技术,以针对单个集成后端管理多个数据模型。例如,半结构化、图形和关系模型是新系统可以支持的数据模型的示例。拥有一个单一的数据平台来管理结构良好的数据和NoSQL数据对用户来说是有益的;这种方法大大减少了集成、迁移、开发、维护和操作问题。问题是具有挑战性的:现有的数据库原理主要是针对单一模型的,而对多模型数据管理的研究还处于早期阶段。在本文中,我们设想了一个统一的数据库管理系统(UDBMS)的多模型数据管理在一个平台上。UDBMS将提供几个新的特性,如统一的数据模型和灵活的模式,统一的查询处理,统一的索引结构和跨模型的事务保证。我们讨论我们的愿景,以及目前的多个研究挑战,我们需要解决。
2016-12-23 cs.DB
Text2Schema: Filling the Gap in Designing Database Table Structures based on Natural Language
Hunan University(湖南大学);Peking University(北京大学)
本文提出Text2Schema问题及基于LLM的多智能体框架SchemaAgent,将自然语言需求自动转换为关系数据库模式,并开源381对基准数据,实验证明其优越性。
2025-10-17 cs.AI cs.DB