Automating Fine Concurrency Control in Object-Oriented Databases
为面向对象数据库提供适应性的并发控制提出了几个建议。然而,这些建议中的大多数都忽略了这样一个事实,即只考虑实例上的读写访问模式可能会导致比关系数据库中更少的并行性!本文解决了这个问题,优点很多:(1)方法的可交换性由编译器先验地和自动地确定,而没有可测量的开销,(2)可交换性的运行时检查与兼容性一样有效,(3)不需要为恢复指定逆操作,(4)该方案不排除更复杂的方法,并且,最后但并非最不重要的,(5)具有读写访问模式的关系型和面向对象的并发控制方案都包含在这个命题之下。
2010-03-25 cs.DB
OLTP on Hardware Islands
现代硬件大量并行,并且越来越异构。众多处理核具有对主存储器和处理器高速缓存的非均匀访问权限,这导致通信成本的变化。不幸的是,数据库系统大多假设所有的处理核心都是相同的,并且微架构的差异不足以出现在关键的数据库执行路径中。然而,正如我们在本文中所展示的,硬件异构性确实出现在关键路线中,并且传统的数据库架构实现了次优甚至更差的不可预测的性能。我们对每个CPU有多个内核(多核)和每个服务器有多个CPU(多插槽)的服务器中的OLTP部署进行了详细的性能分析。我们比较了不同的数据库部署策略,其中我们改变了在单个服务器上运行的独立数据库实例的数量和大小,从单个共享一切实例到细粒度的无共享配置。我们通过以下方式量化非统一硬件对各种部署的影响:(a)检查每个部署使用可用硬件资源的效率;(b)测量分布式事务和偏斜请求对不同工作负载的影响。最后,我们主张支持无共享部署,即拓扑和工作负载感知,并利用同一插槽上的核心岛屿之间的快速片上通信。
2012-08-01 cs.DB
On the Expressiveness of Languages for Querying Property Graphs in Relational Databases
本文形式化 SQL/PGQ 三个片段的表现力,证明图创建决定表现力,扩展视图定义后恰好捕获 NL,形成严格层级,并在有序结构上崩溃。
2025-10-08 cs.DB
GaussDB-Global: A Geographically Distributed Database System
本文提出 GaussDB-Global,通过同步时钟的可切换事务管理及异步副本强一致读取,降低跨地域 OLTP 延迟,实验显示读取吞吐量最高提升 14 倍、TPC-C 提升 50%。
2025-01-09 cs.DB
To BLOB or Not To BLOB: Large Object Storage in a Database or a Filesystem?
应用程序设计人员经常面临这样一个问题:是将大型对象存储在文件系统中,还是存储在数据库中。通常,这一决定是为了简化应用程序设计。有时也使用性能测量。本文着眼于碎片化的问题-一个操作问题,可以影响性能和/或部署的系统长期的可维护性。根据常识,小于256KB的对象最好存储在数据库中,而大于1M的对象最好存储在文件系统中。在256KB和1MB之间,读写比率和对象覆盖或替换的速率是重要因素。我们使用"存储年龄"或对象重写次数的概念作为标准化挂钟时间的方法。存储年龄允许我们的结果或类似的结果应用于许多读写比率和对象替换率。
2007-01-26 cs.DB
Latency-Redundancy Tradeoff in Distributed Read-Write Systems
数据在多个服务器上进行冗余复制和存储,以确保分布式数据库中的可用性。我们关注的是具有频繁读写的数据库,在这些数据库中,读写延迟都很重要。这与主要为读或写应用程序设计的数据库相反。Reddit对读取和写入延迟的影响截然不同。读延迟可以通过来自多个服务器的潜在并行访问来减少,而写延迟则会随着必须更新大量副本而增加。我们量化的读和写延迟之间的权衡作为冗余的函数,并提供了一个封闭的形式近似时,请求到达是泊松和服务是无记忆的。我们的经验表明,这种近似是紧在所有范围内的系统参数。从而为分布式数据库的冗余选择提供了指导。
2021-11-27 cs.DB cs.DC cs.NI
Rethinking serializable multiversion concurrency control
多版本数据库系统有可能显著增加事务处理中的并发量,因为它们可以避免读写冲突。不幸的是,并发性的增加通常是以事务可串行化性为代价的。如果数据库用户请求完全可串行化,则现代多版本系统显著地约束冲突事务之间的读写并发,并且在其设计中采用昂贵的同步模式。在主存多核环境中,这些额外的约束是如此繁重,以至于多版本系统的性能往往明显优于单版本系统。我们提出了Bohm,一个新的并发控制协议的主存多版本数据库系统。Bohm保证了可串行化的执行,同时确保读永远不会阻塞写。此外,Bohm不需要读来执行任何簿记,从而避免了通过竞争写入共享内存来跟踪读的开销。这导致在多核设置中具有出色的可扩展性和性能。Bohm具有上述所有特性,但不执行基于验证的并发控制。相反,它是悲观的,因此在存在争用的情况下不倾向于过度中止。实验评估表明,Bohm在高争用和低争用设置下都表现良好,并且尽管保持了完整的可串行化保证,但仍能够显着优于最先进的多版本系统。
2015-12-03 cs.DB
Bolo: Verified Model Hub for Next-Generation AI Databases
Univ. of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
该研究针对现有模型平台无法满足AI数据库需求的问题,提出基于多阶段智能体系统的Bolo模型平台,可将不可用模型权重转化为经验证的可用推理流水线,在实验中取得良好效果。
2026-08-24 cs.DB
An Introduction to Functional dependency in Relational Databases
这篇文章是为计算机科学硕士研究生提供的关于数据库系统高级主题的第二层次课程的建议讲义。需要有算法方面的先决条件和对数据库系统的了解。额外的阅读可能需要接触数学逻辑。这些笔记的出发点是从M.Y. Vardi的调查在此列出作为参考-一些证据是这样提出的。尽管现在提出了全新的设计方法,但对功能依赖性的选择重写旨在提供一些澄清。
2016-03-01 cs.DB
DB-BERT: a Database Tuning Tool that "Reads the Manual"
Cornell University(康奈尔大学)
DB-BERT是一个数据库调优工具,它利用通过对手册和其他相关文本文档的自然语言分析获得的信息。它使用文本来标识要调优的数据库系统参数以及推荐的参数值。DB-BERT应用大型的、预训练的语言模型(特别是BERT模型)进行文本分析。在初始训练阶段,它会微调模型权重,以便将自然语言提示转换为推荐的设置。在运行时间,DB-BERT学习聚合、适应和优先化提示,以实现特定数据库系统和基准的最佳性能。这两个阶段都是迭代的,并使用强化学习来指导选择要评估的调优设置(惩罚数据库系统拒绝的设置,同时奖励提高性能的设置)。在我们的实验中,我们利用数百个关于数据库调优的文本文档作为DB-BERT的输入。我们将DB-BERT与各种基准进行比较,考虑不同的基准(TPC-C和TPC-H),指标(吞吐量和运行时间)以及数据库系统(Postgres和MySQL)。在所有情况下,DB-BERT都会在所有比较方法中找到最佳参数设置。DB-BERT的代码可以在https://itrummer.github.io/dbbert/上获得。
2021-12-21 cs.AI cs.CL cs.DB
An Analysis of Concurrency Control Protocols for In-Memory Databases with CCBench (Extended Version)
本文介绍了另一个并发控制分析平台CCBench。CCBench支持七种协议(Silo、TicToc、MOCC、Cicada、SI、带无锁存SSN的SI、2PL)和七种通用优化方法,并支持七种工作负载参数的配置。我们使用各种工作负载参数和线程数224分析了协议和优化方法。以前的研究集中在线程可伸缩性,并没有探索这里分析的空间。我们根据三个性能因素对优化方法进行了分类:CPU缓存,冲突延迟和版本生命周期。使用CCBench和224个线程进行分析,产生了六个见解。(I1)乐观并发控制协议在只读工作负载中的性能会随着基数的增加而迅速下降,即使没有L3缓存未命中。(I2)通过使用不可见的读取优化,Silo可以在某些写密集型工作负载上优于TicToc。(I3)处理冲突的两种方法(等待和不等待)的有效性取决于情况。(I4)如果发生并发事务中断,OCC将读取同一条记录两次或更多次,这可以提高性能。(I5)混合使用不同的实现不适合进行深入分析。(I6)如果工作负载中混入了单个长事务,即使是最先进的垃圾回收方法也无法提高多版本协议的性能。在I4的基础上,我们定义了读阶段扩展优化,其中在读阶段中添加人工延迟。在I6的基础上,我们定义了积极的垃圾回收优化,其中甚至收集可见的版本。CCBench的代码和本文中的所有数据都可以在GitHub上在线获得。
2021-08-18 cs.DB
Shirakami: A Hybrid Concurrency Control Protocol for Tsurugi Relational Database System
Keio University(庆应义塾大学);NAUTILUS Technologies, Inc(NAUTILUS科技有限公司);Cybozu Labs, Inc(Cybozu实验室有限公司)
Shirakami结合长读写事务的多版本视图可串行化和短事务的Silo,实现稳定性能,实验显示其比PostgreSQL快7.9倍,比Shirakami-OCC吞吐量高680倍。
2026-07-03 cs.DB
Tracking State Footprints: How Agents Can Transact
Ververica GmbH(Ververica有限公司);Delft University of Technology(代尔夫特理工大学)
本文提出将多智能体系统协调视为数据管理问题,通过状态足迹描述智能体读写,并倡导类似数据库的事务保证与语义冲突解决,以实现智能体事务处理。
2026-10-05 cs.DB
C5: Cloned Concurrency Control that Always Keeps Up
通常部署异步复制的主备份数据库以提高可用性并卸载只读事务。为了应用从主服务器复制的写入并服务只读事务,备份服务器实现克隆的并发控制协议。该协议确保只读事务始终返回主服务器上先前存在的状态的快照。这迫使备份精确地复制由主服务器的并发控制产生的提交顺序。现有的克隆并发控制协议通过限制备份的并行性来保证这一点。因此,主服务器的并发控制执行某些工作负载时的并行性要高于这些协议。在本文中,我们证明了这种并行差距导致无限的复制滞后,写入可以采取任意长的时间复制到备份,并导致灾难性的故障,在生产系统。然后,我们设计C5,第一个克隆并发协议,提供有限的复制滞后。我们实现了两个版本的C5:我们的评估MyRocks,一个广泛部署的数据库,证明C5提供了有限的复制滞后。我们在最近的内存数据库Cicada中的评估表明,C5甚至可以跟上最快的初选。
2022-07-06 cs.DB
Mainlining Databases: Supporting Fast Transactional Workloads on Universal Columnar Data File Formats
现代数据处理工具的激增产生了开放源列式数据格式。这些格式的优点是,它们可以帮助组织避免重复地将数据转换为每个应用程序的新格式。但是,这些格式是只读的,组织必须使用一个重量级的转换过程来从联机事务处理(OLTP)系统加载数据。我们的目标是减少甚至消除这个过程,通过开发一个存储架构的内存数据库管理系统(DBMS),是知道其数据的最终用途,并发出列存储块在一个通用的开源格式。我们对常见的分析数据格式引入了松弛,以有效地更新记录,并依靠轻量级的转换过程将块转换为冷时的读取优化布局。我们还描述了如何以最小的序列化开销从第三方分析工具访问数据。为了评估我们的工作,我们实现了基于Apache Arrow格式的存储引擎,并将其集成到DB-X DBMS中。我们的实验表明,我们的方法实现了与专用OLTP DBMS相当的性能,同时使数据导出到外部数据科学和机器学习工具的速度比现有方法快几个数量级。
2020-04-29 cs.DB
Generating Custom Code for Efficient Query Execution on Heterogeneous Processors
处理器制造商构建越来越专用的处理器,以减轻电源墙的影响,从而提高性能。目前,数据库引擎是为每个处理器手动优化的:这是一个成本高昂且容易出错的过程。在本文中,我们提出的概念,使数据库引擎自动执行每处理器优化。我们的核心思想是创建生成代码的变体,并为每个处理器学习快速变体。我们通过修改并行化策略、专门化数据结构和应用不同的代码转换来创建变体。我们的实验结果表明,变体的性能可能会偏离两个数量级。因此,我们需要为每个处理器生成自定义代码,以实现峰值性能。我们表明,我们的方法为多核CPU,GPU和MIC找到了一个快速的自定义变体。
2017-09-03 cs.DB cs.DC
LogBase: A Scalable Log-structured Database System in the Cloud
许多应用,例如金融交易(例如,股票交易)在性质上是重写的。近年来,Web应用程序中从读到写的转变也在加速。在大多数存储系统中,预写日志记录是提供恢复能力同时提高性能的常用方法。然而,日志和应用程序数据的分离会导致在写入繁重的环境中观察到的写入开销,并因此对系统中的写入吞吐量和恢复时间产生不利影响。在本文中,我们介绍了LogBase -一个可扩展的日志结构的数据库系统,采用日志存储消除写瓶颈,并支持快速的系统恢复。LogBase被设计为动态部署在商品集群上,以利用云环境的弹性伸缩特性。LogBase提供了内存中的多版本索引,以支持对日志中维护的数据的有效访问。LogBase还支持跨多个记录绑定读写操作的事务。我们实现了所提出的系统,并将其与HBase和基于磁盘的日志结构的面向记录的系统RAMCloud建模。实验结果表明,LogBase能够提供持续的写吞吐量,高效的数据访问出缓存,有效的系统恢复。
2012-06-30 cs.DB
High-Performance Concurrency Control Mechanisms for Main-Memory Databases
针对内存存储优化的数据库系统可以支持比当前系统高得多的事务速率。然而,目前使用的标准并发控制方法不能按比例缩放到这样的系统可实现的高事务速率。在本文中,我们介绍了两个有效的并发控制方法专门设计的主存数据库。两者都使用多版本控制来隔离只读事务和更新,但在如何确保原子性方面有所不同:一个是乐观的,一个是悲观的。为了避免代价高昂的上下文切换,事务在正常处理期间从不阻塞,但它们可能必须在提交之前等待,以确保正确的序列化顺序。我们还实现了单版本锁定的主存优化版本。实验结果表明,虽然单版本锁工作时,事务短,竞争低,性能下降,在更苛刻的条件下。多版本方案具有更高的开销,但对热点和长时间运行的事务的存在不太敏感。
2011-12-31 cs.DB
Vertical partitioning of relational OLTP databases using integer programming
优化关系行存储数据库性能的一种方法是通过将表垂直划分为表部分来减小行宽度,以便最小化每个事务读取的不相关列/属性的数量。本文认为垂直分区算法的关系行存储OLTP数据库与H存储的架构,这意味着我们要最大限度地提高单站点事务的数量。我们提出了一个模型的垂直分区的问题,给定的模式连同垂直分区和工作量,估计成本(字节读/写的存储层访问方法和字节之间的站点传输)评估给定分区的工作量。成本模型允许任意优先考虑站点的负载均衡与总成本最小化。我们发现,在这个模型中找到一个最低成本的垂直分区是NP-难的,并提出了两个算法返回的解决方案,其中单站点的读取查询被保留,同时允许列复制(这可能会允许大幅降低成本相比,不相交分区)。第一个算法是一个二次整数规划,找到最优的最小成本的解决方案,相对于模型,第二个算法是一个更可扩展的启发式基于模拟退火。实验表明,该算法可以降低成本的模型目标的37%时,应用到TPC-C的基准和启发式获得的解决方案的成本接近使用二次规划。
2010-02-16 cs.DB cs.PF
Can Language Models Enable In-Context Database?
University of Nebraska-Lincoln(内布拉斯加大学林肯分校);East Carolina University(东卡罗来纳大学)
本文提出数据库增量编码方法,将传统RDBMS数据编码为上下文文本,使LLMs支持动态更新的上下文数据库,并通过基准InConDB评估其CRUD操作能力,揭示性能与局限。
2024-11-04 cs.AI cs.DB
When More Cores Hurts: The Vector Database Scaling Paradox in HPC
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);University of Chicago(芝加哥大学);Argonne National Laboratory(阿贡国家实验室)
本文评估了三种向量数据库在HPC系统上的扩展性能,发现工作负载特性限制延迟降低,增加核心可降低查询吞吐量达30.67%,扩展16倍仅提升5.46倍,揭示了云导向设计与HPC系统的不匹配。
2026-06-08 cs.DB cs.DC
On the Complexity of Checking Transactional Consistency
事务通过支持对共享数据的计算来简化并发编程,这些计算与其他并发计算隔离并且对故障具有弹性。现代数据库为事务提供了不同的一致性模型,对应于一致性和可用性之间的不同权衡。在这项工作中,我们调查的问题,检查是否一个给定的执行事务数据库坚持一些一致性模型。我们表明,一致性模型,如读提交,读原子,因果一致性是多项式时间检查,而前缀一致性和快照隔离一般是NP完全的。这些结果补充了以前的NP-完全性的结果有关的串行化。此外,在NP完全一致性模型的上下文中,我们设计了多项式时间的算法,假设输入执行中的某些参数,例如,会话的数量是固定的。我们评估这些算法的可扩展性的上下文中的几个生产数据库。
2019-08-13 cs.DB cs.PL
HAKES: Scalable Vector Database for Embedding Search Service
National University of Singapore(国立新加坡大学);Deakin University(德肯大学);Zhejiang University(浙江大学)
本文提出分布式向量数据库 HAKES,通过两阶段 ANN 索引、轻量参数调优、提前终止及读写解耦,在并发负载下实现高召回、高吞吐和可扩展。
2025-05-18 cs.DB cs.LG
LitMOF: An LLM Multi-Agent for Literature-Validated Metal-Organic Frameworks Database Correction and Expansion
Korea Advanced Institute of Science and Technology(韩国科学技术院)
提出LitMOF框架,利用大语言模型多智能体从原始文献验证并修复MOF数据库中的结构错误,成功修复9227个无效条目并发现8771个新MOF,通过直接空气捕获案例证明结构错误严重影响材料筛选可靠性。
2026-06-29 cond-mat.mtrl-sci cs.DB
One-Hop Sub-Query Result Caches for Graph Database Systems
本文面向图数据库读取事务提出一跳子查询结果缓存,通过键值缓存、异步事务填充及读写事务失效更新减少存储访问,并在生产电商负载中显著降低尾延迟。
2024-12-06 cs.DB cs.PF