GastCoCo: Graph Storage and Coroutine-Based Prefetch Co-Design for Dynamic Graph Processing
GastCoCo通过无栈协程软件预取与预取友好数据结构CBList的协同设计,显著缓解动态图处理中缓存未命中导致的性能下降,在图更新和图计算上分别实现最高180倍和41.1倍的加速。
2025-04-09 cs.DB
Decoupling Vector Data and Index Storage for Space Efficiency
The Chinese University of Hong Kong(香港中文大学);Bytedance(字节跳动)
本文提出COMPASS框架,通过解耦向量数据与索引存储,利用不同组件的压缩特性减少存储空间,同时保持搜索和更新性能。
2026-05-15 cs.DB cs.OS
SwitchDelta: Asynchronous Metadata Updating for Distributed Storage with In-Network Data Visibility
SwitchDelta通过在交换机中缓冲元数据更新,提升分布式存储系统在写密集型负载下的性能,减少延迟并提高吞吐量。
2025-11-25 cs.DB cs.DC
Efficiently Enabling Block Semantics and Data Updates in DNA Storage
提出一种基于 PCR 前缀寻址的分块 DNA 存储架构,支持独立随机读写、数据更新和连续块顺序访问,湿实验显示单块检索的测序成本与延迟降低 140 倍。
2023-09-28 cs.DB cs.ET cs.IR
Write-Read Decoupling in Modern Large-Scale Search Engines: Architectures, Techniques, and Emerging Approaches
本文探讨了大规模搜索引擎中写入与读取延迟解耦的挑战,分析了五种主要架构方案,并介绍了ScaleSearch等新兴系统,旨在提升性能与可扩展性。
2026-05-02 cs.DB
Predict and Write: Using K-Means Clustering to Extend the Lifetime of NVM Storage
UC Santa Cruz(加州大学圣克鲁兹分校)
非易失性存储器(NVM)技术遭受有限的写入耐久性。为了应对这一挑战,我们提出了预测和写入(PNW),一个K/V存储,使用基于集群的机器学习方法来延长NVM的生命周期。PNW通过确定更新值应该写入的最佳存储器位置来减少PUT/UPDATE操作的位翻转次数。PNW利用K/V-store的间接级别,根据其值自由选择任何给定写入的目标内存位置。PNW将NVM地址组织在动态地址池中,该动态地址池通过它们所引用的数据值的相似性而聚集。我们表明,通过选择正确的目标存储器位置为一个给定的PUT/UPDATE操作,总位翻转和高速缓存行的数量可以减少高达85%和56%的最先进的。
2020-11-04 cs.AR cs.DB cs.LG
HotRAP: Hot Record Retention and Promotion for LSM-trees with Tiered Storage
针对LSM树分层存储中热记录易被压缩至慢速存储导致读取性能下降的问题,提出基于RocksDB的HotRAP,利用特制LSM树追踪热度并通过三条路径及时提升并留存热记录,在多种工作负载下性能显著优于现有方法。
2024-12-19 cs.DB
On Smart Query Routing: For Distributed Graph Querying with Decoupled Storage
我们研究了在线图查询,从一个大型网络中检索查询节点的附近节点。为了以高吞吐量和低延迟来回答这样的查询,我们对图进行分区,并在服务器集群中并行处理数据。现有技术的分布式图查询系统将每个图分区放置在单独的服务器上,其中在该分区上进行查询应答。这种设计有两个主要缺点。首先,路由器需要维护一个固定的路由表。因此,这些系统在查询路由、容错和图形更新方面不太灵活。其次,必须对图数据进行分区,以平衡服务器之间的工作负载,并最大限度地减少机器间通信。此外,还需要根据图形节点上的工作负载变化更新现有分区。然而,图分区、工作负载的在线监视以及动态更新图分区是昂贵的。在这项工作中,我们缓解了这些问题,从查询处理器的解耦图存储,并通过开发智能路由策略,提高缓存的查询处理器的局部性。由于查询处理器不再被分配图的任何固定部分,因此它同样能够处理任何请求,从而促进负载均衡和容错。另一方面,由于我们的智能路由策略,查询处理器可以有效地利用它们的缓存内容,减少图如何跨存储服务器分区的整体影响。一个详细的实验评估与几个现实世界中,大型图形数据集表明,我们提出的框架,gRouting -即使简单的哈希分区的数据-实现了一个数量级更好的查询吞吐量相比,现有的图形查询系统,采用昂贵的图形分区和重新分区策略。
2017-10-14 cs.DB
DGAI: Decoupled On-Disk Graph-Based ANN Index for Efficient Updates and Queries
Northeastern Univ.(东北大学);Tsinghua Univ.(清华大学)
本文提出解耦存储架构,通过分离重向量与轻量图拓扑,提升更新性能,同时引入相似性感知动态布局和两阶段查询机制,实现高效更新与低延迟查询。
2026-04-11 cs.DB cs.IR
LiveGraph: A Transactional Graph Storage System with Purely Sequential Adjacency List Scans
图工作负载的特定特征使得很难设计一个一刀切的图存储系统。支持事务更新的系统使用数据局部性较差的数据结构,这限制了分析工作负载甚至简单边缘扫描的效率。其他系统可以有效地运行图形分析工作负载,但无法正确支持事务。本文介绍了LiveGraph,这是一个图形存储系统,它的性能优于最好的图形事务系统和最好的实时图形分析系统。LiveGraph通过确保邻接列表扫描(图工作负载中的关键操作)是纯顺序的:即使在存在并发事务的情况下,它们也不需要随机访问。这是通过将一种新颖的图形感知数据结构(transmittededge Log,TEL)与利用TEL数据布局的并发控制机制相结合来实现的。我们的评估表明,LiveGraph在事务性和实时分析工作负载方面的性能明显优于最先进的(图形)数据库解决方案。
2020-08-29 cs.DB
A survey of LSM-Tree based Indexes, Data Systems and KV-stores
本文综述了基于LSM-Tree的索引、数据系统与KV存储的研究现状,涵盖其结构改进及持久内存等新兴存储技术带来的影响。
2024-02-27 cs.DB
COLE: A Column-based Learned Storage for Blockchain Systems
本文提出基于列的学习型存储系统COLE,通过连续存储状态历史值并用学习模型索引,替代MPT以降低区块链存储开销,实验表明可减少最高94%存储并提升1.4至5.4倍吞吐量。
2024-01-17 cs.DB
Breaking Down Memory Walls: Adaptive Memory Management in LSM-based Storage Systems (Extended Version)
日志结构合并树(Log-Structured Merge-Trees,LSM-trees)在现代NoSQL系统中得到了广泛的应用。由于其不适当的更新设计,LSM树在多个LSM树的存储器组件之间以及在写存储器和缓冲区高速缓存之间引入了存储器墙。这些区域之间的最佳内存分配是不平凡的,因为它是高度依赖于工作负载。现有的LSM树实现由于其简单性和鲁棒性而采用静态内存分配方案,从而牺牲了性能。在本文中,我们试图打破这些内存墙在基于LSM的存储系统。我们首先提出了一个存储管理架构,使自适应存储管理。然后,我们提出了一个分区的内存组件结构与新的刷新策略,以更好地利用写内存,以尽量减少写成本。为了打破写内存和缓冲区缓存之间的内存墙,我们进一步引入了一个内存调谐器,它可以调谐这两个区域之间的内存分配。我们使用YCSB和TPC-C基准测试在Apache AsterixDB的上下文中进行了广泛的实验,我们在这里展示了结果。
2020-07-14 cs.DB
Decoupling Inference from State Updates in Low-Latency Feature Engines via Probabilistic Thinning
Feedzai
提出概率稀疏化方法,在流式机器学习管道中解耦推理与状态持久化,仅对信息事件触发状态更新,显著降低存储I/O和序列化开销,同时保持下游效用。
2026-06-16 cs.DB cs.LG
Erasure Coding for Small Objects in In-Memory KV Storage
我们提出MemEC,擦除编码为基础的内存中的键值(KV)存储,实现高可用性和快速恢复,同时保持低数据冗余存储服务器。MemEC是专门为小对象占主导地位的工作负载而设计的。通过对对象进行整体编码,MemEC比现有的基于复制和擦除编码的方法减少了60%的小对象存储冗余。它还支持正常模式下分散请求之间的优雅转换(即,无故障)和降级模式下的协调请求(即,失败)。我们评估我们的MemEC原型通过测试床实验下读取繁重和更新繁重的YCSB工作负载。我们表明,MemEC在正常和降级模式下都实现了高吞吐量和低延迟,并支持两种模式之间的快速转换。
2017-05-21 cs.DB cs.DC
Vector Search for the Future: From Memory-Resident, Static Heterogeneous Storage, to Cloud-Native Architectures
Hong Kong Baptist University(香港浸会大学);Shanghai Jiao Tong University(上海交通大学);Aalborg University(奥尔堡大学)
本文从存储架构角度回顾了向量搜索技术的演变,涵盖内存驻留方法、异构存储技术及云原生系统的未来发展。
2026-01-05 cs.DB
GTX: A Write-Optimized Latch-free Graph Data System with Transactional Support -- Extended Version
针对现有图系统因顶点级锁竞争导致写操作性能下降的问题,提出基于无闩锁存储与自适应增量链锁协议的GTX系统,在不损失读性能的前提下大幅提升写密集型事务吞吐量。
2025-02-24 cs.DB
Hippo: A Fast, yet Scalable, Database Indexing Approach
即使现有的数据库索引(例如,B+-Tree)加速查询执行,但它们有两个主要缺点:(1)数据库索引通常会产生5%到15%的额外存储开销,这导致在大数据场景中的不可估量的美元成本,特别是当部署在现代存储设备上时,如固态磁盘(SSD)或非易失性存储器(NVM)。(2)维护数据库索引会带来很高的延迟,因为DBMS必须查找并更新那些受基础表更改影响的索引页。Hippo是一种快速、可扩展的数据库索引方法。Hippo只存储磁盘页面的指针以及基于轻量级直方图的摘要。所提出的结构显着收缩索引存储和维护开销,而不影响查询执行性能。基于PostgreSQL 9.5中的真实Hippo实现,使用TPC-H基准测试的实验表明,Hippo实现了比传统数据库索引少两个数量级的存储空间和少三个数量级的维护开销,即,B+-树。此外,实验还表明,Hippo实现了可比的查询执行性能的B+树的各种选择性因素。
2016-04-12 cs.DB
Revisiting the Design of In-Memory Dynamic Graph Storage
本文提出通用 DGS 抽象与测试框架,系统比较 LLAMA、Aspen 等动态图存储,揭示内存开销、架构访问和细粒度并发控制瓶颈。
2025-02-16 cs.DB
LEANN: A Low-Storage Vector Index
LEANN通过动态计算嵌入和压缩近邻图索引,在大幅降低存储需求的同时保持了高效的向量搜索性能。
2025-11-25 cs.DB cs.LG
A Brief Study of Open Source Graph Databases
随着大型不规则稀疏关系数据集的激增,出现了新的存储和分析平台,以填补基于传统数据库技术和查询语言的常规方法在性能和能力方面留下的空白。这些平台中的许多应用图形结构和分析技术以使得用户能够摄取、更新、查询和计算这些关系的拓扑结构,这些关系被表示为顶点集合之间的边集合。为了存储和处理Facebook规模的数据集,它们必须能够支持具有数十亿条边的数据源,每秒数百万次更新的更新速率以及复杂的分析内核。这些平台必须提供直观的界面,使图形专家和新手程序员能够编写通用图形算法的实现。在本文中,我们探讨了各种图形分析和存储平台。我们比较他们的能力,接口和性能的实现和计算一组现实世界的图形算法的合成图高达2.56亿边。本着充分披露的精神,几位作者参与了毒刺的开发。
2013-09-06 cs.DB cs.DS cs.SE