AIM: A practical approach to automated index management for SQL databases
Meta Platforms, Inc.(Meta平台公司)
提出AIM自动索引管理系统,通过配置化方法识别SQL数据库中的有效二级索引,优化资源利用,并在生产环境中验证了快速收敛、减少查询优化器依赖和无回归保证等特性。
2026-05-29 cs.DB
Indexing Designs and Adaptive Data Distribution Optimization for In-Memory Databases on Hybrid DDR--CXL Memory
East China Normal University(华东师范大学)
针对混合DDR--CXL内存数据库,提出五种索引设计并开发自适应数据分布优化,通过分层热度跟踪和收益感知驱逐提升性能,使单一索引设计吞吐量最高提升至1.59倍。
2026-10-08 cs.DB
Spatial Indexing of Large Multidimensional Databases
诸如大型天文测量之类的科学工作产生了TB级的数据库。这些通常是多维数据库,必须进行可视化和挖掘,以便找到有趣的对象或提取有意义的和定性的新关系。这些任务所需的许多统计算法在对内存中的小数据集进行操作时运行得相当快,但在对不适合内存的大型数据库进行操作时会出现明显的性能下降。我们利用新的软件技术来开发和评估快速多维索引方案,这些方案本质上遵循数据的底层,高度不均匀的分布:它们是分层的均匀网格索引,分层的二进制空间分区,以及数据的采样平面Voronoi细分。我们的工作数据库是斯隆数字巡天的5维星等空间,拥有超过2.7亿个数据点,我们表明这些技术可以大大加快数据采掘操作,例如通过实例查找类似对象,对对象进行分类或将大量模拟集与观测结果进行比较。我们还在开发与多维数据库交互的工具,并以自适应的方式以多种分辨率显示数据。
2012-09-28 cs.DB
Index Selection for NoSQL Database with Deep Reinforcement Learning
提出了一种新的NoSQL数据库索引选择方法。针对不同的工作负载,选择不同的索引及其参数来优化数据库性能。该方法建立了一个深度强化学习模型,以选择一个最佳的指标,为给定的固定工作负载和适应不断变化的工作负载。实验结果表明,深度强化学习索引选择方法(DRLISA)相对于传统的单索引结构,在性能上有不同程度的提高。
2020-06-16 cs.AI cs.DB
AMAZe: A Multi-Agent Zero-shot Index Advisor for Relational Databases
针对传统索引推荐方法计算成本高、泛化性差且依赖资源密集型示例的问题,提出基于LLM的多智能体零样本索引顾问AMAZe,通过规划、选择、组合、修订和反思等子步骤实现SOTA性能与高效零样本推理。
2025-09-16 cs.DB
HD-Index: Pushing the Scalability-Accuracy Boundary for Approximate kNN Search in High-Dimensional Spaces
由于维数灾难的存在,高维空间中大型数据库的最近邻搜索存在着固有的困难。因此,近似的味道是必要的,以实际解决最近邻搜索的问题。在本文中,我们提出了一种新的,但简单的索引方案,HD-Index,解决问题的近似k-最近邻查询在海量高维数据库。HD-Index由一组新的层次结构组成,称为RDB树,建立在数据库对象的Hilbert键上。RDB树的叶子存储数据库对象到引用对象的距离,从而允许使用距离过滤器进行有效的修剪。除了三角不等式,我们还使用托勒密不等式来产生更好的下界。在大规模(高达10亿规模)高维(高达1000+)数据集上的实验表明,HD-Index是有效的,高效的,可扩展的。
2018-04-23 cs.DB
A+ Indexes: Tunable and Space-Efficient Adjacency Lists in Graph Database Management Systems
Cheriton School of Computer Science, University of Waterloo(滑铁卢大学切里顿计算机科学学院)
针对现有图数据库管理系统固定邻接表结构仅适配特定工作负载的问题,提出支持物化视图的可调优A+索引子系统,含顶点/边分区两类索引,采用偏移列表实现二级索引空间高效,经三类工作负载实验验证了可调优性与空间效率。
2021-03-03 cs.DB
RITA: An Index-Tuning Advisor for Replicated Databases
给定一个复制的数据库,发散设计会以不同的方式调优每个副本中的索引,以便将其专门用于特定的工作负载子集。与在所有副本中使用相同索引的常见做法相比,这种专门化带来了显著的性能提升,但需要为数据库管理员开发新的调优工具。本文介绍了RITA(复制感知索引调优顾问),一种新颖的发散调优顾问,提供了现有工具中没有的几个基本功能:它生成健壮的发散设计,允许系统优雅地适应副本故障;它计算在正常操作期间和副本故障时在专用副本之间均匀分布负载的设计;它在线监视工作负载,以便检测需要重新计算发散设计的变化;并且,它提供弹性地重新配置系统的建议(通过添加/删除副本或添加/删除索引),以响应工作负载变化。RITA背后的关键技术创新表明,选择最佳设计的问题可以用二进制编程(BIP)来表示。BIP具有相对较少的变量,这使得使用任何现成的线性优化软件有效地解决它是可行的。实验结果表明,RITA计算更好的发散设计相比,现有的工具,提供更多的功能,并具有快速的执行时间。
2013-07-19 cs.DB
Progressive Neural Index Search for Database System
索引作为数据库管理系统的重要组成部分,在查询优化和处理中起着重要的作用。然而,在数据分布和查询分布都未知的情况下,应用现有索引或为新应用程序设计新索引是一项重要的任务。为了解决这个问题,我们提出了一种新的索引方法,NIS(神经索引搜索),它使用神经网络搜索最佳的索引参数和结构。特别是,NIS能够为任意列自动构建树状索引,可以使用自定义函数进行排序/分区。国家创新系统的贡献是双重的。首先,NIS通过将索引结构形式化为抽象的有序块和无序块,逐层构造树形索引。有序块使用B+树节点或跳表实现,而无序块采用具有不同配置的散列函数。第二,构建块的所有参数(例如,B+树节点的扇出、哈希函数的桶数等)由NIS自动调整。我们通过一个RNN驱动的强化学习模型实现了给定工作负载和数据集的两个目标。实验表明,NIS构建的自动调优索引比现有索引具有更好的性能。
2020-03-04 cs.DB
Griffin: Fast Transactional Database Index with Hash and B+-Tree
Griffin提出哈希表与B+-树结合的混合索引架构,通过O(1)点操作访问和无需额外遍历的精确锁定幻象避免方法,在点操作和范围操作主导负载下分别实现最高3.1倍和5.4倍的吞吐量提升。
2024-07-18 cs.DB
VIDEX: A Disaggregated and Extensible Virtual Index for the Cloud and AI Era
本文提出VIDEX,一种三层解耦架构,通过分离数据库实例、虚拟索引优化器和算法服务,解决了云原生环境下传统虚拟索引在稳定性、隐私及AI集成方面的挑战,支持高精度假设分析并已成功部署于ByteDance。
2025-05-28 cs.DB
Reverse Neighbor Sliding and Order Selection for Efficient Multi-Proximity Graph Merging
HKUST (GZ)(香港科技大学(广州));HKUST(香港科技大学);Shenzhen University(深圳大学)
本文提出了一种反向邻居滑动合并方法,通过优化多索引合并顺序,显著提升高维空间中近似最近邻搜索的效率。
2026-09-18 cs.DB cs.IR
A Novel Approach for Web Page Set Mining
关联规则挖掘中最耗时的步骤之一是计算数据库中项集的出现频率。哈希表索引方法通过仅扫描事务数据库一次来将事务数据库转换为哈希索引树。每当用户请求任何统一资源定位符(URL)时,请求条目都存储在服务器的日志文件中。本文提出了一种通用的、密集的哈希索引表结构,用于从服务器的日志文件中提取网页集。此哈希表提供有关原始数据库的信息。网页集挖掘(WPs-Mine)提供了原始数据库的完整表示。这种方法适用于稀疏和密集数据分布。哈希表索引支持的Web页面集挖掘表明,其性能始终与访问平面文件上的数据的算法相当,并且往往优于这些算法。增量更新是可行的,无需重新访问原始事务数据库。
2011-11-11 cs.DB
Leveraging Approximate Caching for Faster Retrieval-Augmented Generation
Huawei Research(华为研究)
本文提出近似缓存Proximity,利用查询相似性重用检索结果,结合局部敏感哈希减少向量数据库调用,在MMLU和MedRAG基准上降低77.2%数据库调用且保持准确性。
2025-10-27 cs.DB cs.LG cs.PF
An Efficient Index for Contact Tracing Query in a Large Spatio-Temporal Database
在本文中,我们研究了一种新的接触跟踪查询(CTQ),发现用户谁一直在$direct$ $contact$与查询用户或$in$ $contact$ $with$ $the$ $already$ $contacted$ $users$在随后的时间戳从一个大的时空数据库。CTQ在新的COVID-19大流行时代对于寻找潜在COVID-19暴露患者的可能名单至关重要。回答CTQ的一个简单方法是使用传统的时空索引。然而,这些指标不能服务于目的,因为每个用户在潜在的疾病传播的时间跨度内覆盖大的区域,因此他们很难使用有效的修剪技术。我们提出了一个多级索引,即QR树,考虑空间覆盖和共同访问模式的用户分组,使用户谁是可能满足查询用户分组在一起。更具体地说,我们使用四叉树来划分用户移动轨迹w.r.t.空间和时间,然后利用这些用户轨迹时空映射,使用R树对用户进行分组。QR树有助于有效的修剪,并且使得能够仅访问可能是CTQ的候选答案的潜在用户集合。在真实数据集上的实验表明了该方法的有效性。
2020-08-09 cs.DB
Fast Search-By-Classification for Large-Scale Databases Using Index-Aware Decision Trees and Random Forests
提出一种基于索引感知决策树和随机森林的按分类搜索框架,通过将模型推理转化为范围查询并利用多维索引,实现无需全库扫描即可秒级响应大规模数据库中的交互式目标搜索。
2023-07-31 cs.DB
Optimization of Indexing Based on k-Nearest Neighbor Graph for Proximity Search in High-dimensional Data
高精度地搜索高维矢量数据是各种类型数据的必然搜索技术。众所周知,基于图的索引可以减少高维数据的查询时间。为了进一步利用图来提高查询时间,我们重点研究了图的度和度。虽然足够数量的传入边缘(度)是必不可少的,以提高搜索精度,过多的传出边缘(outdegrees)应被抑制,以便不增加查询时间。因此,我们提出了三种度调整方法:静态度调整的outdegrees,但也度,动态度调整,其中outdegrees由用户需要的搜索精度确定,和路径调整,以消除边缘有替代搜索路径,以减少outdegrees。我们还展示了如何获得最佳的度调整参数,我们的方法优于以前的方法的图像和文本数据。
2018-10-17 cs.DB cs.IR
Compressed Key Sort and Fast Index Reconstruction
在本文中,我们提出了一个索引键压缩方案的基础上的概念,区别位的索引键的区别位是足够的信息,以确定正确的排序顺序的索引键。虽然实际的压缩比可能会因数据集的特性而异(在我们的实验中观察到的平均压缩比为2.76比1),但索引键压缩方案在重建大规模索引时会显着提高性能。我们的索引键压缩可以有效地用于数据库复制和索引恢复现代内存数据库系统。
2020-09-24 cs.DB
Revisiting the Index Construction of Proximity Graph-Based Approximate Nearest Neighbor Search
本文重新审视 RNG 与 NSWG 的索引构建,提出含新型边选择剪枝策略的框架,在不损失 $k$-ANN 搜索性能的同时最高实现 5.6 倍构建加速。
2025-02-17 cs.DB
Predictive Indexing
在数据库管理系统(DBMS)中,对自动索引调优进行了大量的研究。但是,这些解决方案中的大多数都是通过回顾性地一次性进行计算代价高昂的物理设计更改来调整索引配置的。这样的改变降低了DBMS在处理期间的性能,并且由于工作负载转移和相关联的改变之间的延迟而降低了在随后的查询处理期间的实用性。一种更好的方法是生成随时间调整物理设计的小更改,预测这些更改的实用性,并提前应用它们以最大限度地发挥其影响。本文介绍了预测索引,不断提高数据库的物理设计使用轻量级的物理设计的变化。它使用机器学习模型来预测这些更改的效用,并不断改进数据库的索引配置以处理不断变化的工作负载。我们引入了一个轻量级的混合扫描操作,DBMS可以利用部分建立的索引进行查询处理。我们的评估表明,预测索引提高了3.5- 5.2倍的数据库管理系统的吞吐量相比,其他国家的最先进的索引方法。我们证明了预测索引与其他轻量级自动化物理设计调优方法无缝配合。
2019-01-21 cs.DB
Building An Integrated Vector Database System in PostgreSQL
Purdue University(普渡大学)
本文针对PostgreSQL-V 1.0的三个局限推出PostgreSQL-V 2.0,实现并发向量搜索更新、快速崩溃恢复与物理复制,吞吐量达前者36.4倍,恢复时间约20毫秒,是内嵌PostgreSQL的集成向量数据库系统。
2026-08-18 cs.DB
Mining Sequential Patterns in Uncertain Databases Using Hierarchical Index Structure
本文针对不确定数据库中序列模式挖掘的假阳性过多和增量场景不可扩展问题,提出收紧剪枝上界、层次索引结构和通用挖掘框架,并支持权重约束与增量数据库,实验验证了其有效性。
2024-03-31 cs.DB
Linear Detrending Subsequence Matching in Time-Series Databases
每个时间序列都有其自身的线性趋势,即时间序列的方向性,去除线性趋势对于获得更直观的匹配结果至关重要。在子序列匹配中支持线性去趋势是一个具有挑战性的问题,由于大量的可能的连续性。在本文中,我们定义这个问题的线性去趋势子序列匹配,并提出了其有效的基于索引的解决方案。为此,我们首先提出了一个LD-窗口的概念(LD意味着线性去趋势),它是这样得到的:我们消除线性趋势从一个子序列,而不是每个窗口本身,并获得LD-窗口划分成窗口的子序列。使用LD窗口,然后我们提出了一个下界定理的索引为基础的匹配解决方案,并正式证明其正确性。基于下界定理,我们提出了线性去趋势子序列匹配的索引建立算法和子序列匹配算法,并通过大量的实验验证了基于索引的解决方案的优越性。
2010-06-28 cs.DB
Learned Indexes for a Google-scale Disk-based Database
Google(谷歌);MIT(麻省理工学院)
人们对学习索引结构感到非常兴奋,但对一种新方法的实用性表示怀疑是可以理解的,这种方法将数十年的B树研究连根拔起。在本文中,我们通过演示如何将学习索引集成到基于磁盘的分布式数据库系统中来消除一些不确定性:Google的Bigtable。我们详细介绍了我们在Bigtable中集成学习索引的几个设计决策。我们的研究结果表明,集成学习索引显着改善了Bigtable的端到端读取延迟和吞吐量。
2020-12-23 cs.DB cs.DC cs.LG
Structural Indexing of Relational Databases for the Evaluation of Free-Connex Acyclic Conjunctive Queries
Pontificia Universidad Católica de Chile(智利天主教 Pontificia Universidad Católica 大学);Humboldt-Universität zu Berlin(柏林洪堡大学)
该研究提出了一种基于数据库元组结构性对称性的索引方法,用于高效评估自由连通无环联接查询。
2026-01-08 cs.DB cs.LO
RTIndeX: Exploiting Hardware-Accelerated GPU Raytracing for Database Indexing
本文提出 RX,将数据库点查与范围查重构为 GPU 光线追踪相交测试,借助 NVIDIA RTX 专用核心实现索引,并从十四个维度验证其竞争力。
2023-09-27 cs.DB cs.GR
Towards Robustness: A Critique of Current Vector Database Assessments
Northeastern University(东北大学);Microsoft Research(微软研究院)
本文批评了平均召回率作为向量数据库评估指标的不足,提出Robustness-δ@K新指标以更全面评估召回分布,揭示不同数据库的鲁棒性差异,并指导优化尾部性能。
2026-04-02 cs.DB
Fast and Exact Outlier Detection in Metric Spaces: A Proximity Graph-based Approach
基于距离的离群点检测在许多领域中被广泛采用,例如,由于数据采掘和机器学习是无监督的,因此可以在通用度量空间中使用,并且不具有任何数据分布的假设。数据采掘和机器学习应用面临着处理大数据集的挑战,这需要高效的基于距离的离群点检测算法。随着大内存计算环境的普及,建立主内存索引并在此基础上检测离群点成为可能,这是基于距离的快速离群点检测的一种很有前途的解决方案。出于这种观察,我们提出了一种新的方法,利用邻近图。我们的方法可以采用任意的邻近图,并获得了显着的速度对国家的最先进的。然而,设计一个有效的邻近图提出了一个挑战,因为现有的邻近图不考虑有效的遍历基于距离的离群点检测。为了克服这一挑战,我们提出了一种新的邻近图,MRPG。我们使用真实数据集的实证研究表明,MRPG检测离群值的速度明显快于最先进的算法。
2021-10-21 cs.DB
Index-based, High-dimensional, Cosine Threshold Querying with Optimality Guarantees
给定一个向量数据库,余弦阈值查询返回数据库中与给定阈值θ以上的查询向量具有余弦相似性的所有向量。这些查询在许多应用中自然出现,例如文档检索、图像搜索和质谱分析。本文认为,这种查询的有效评估,提供新的最优性保证,并表现出良好的性能在真实的数据集。我们以Fagin著名的阈值算法(TA)为出发点,该算法可用于回答余弦阈值查询:在预处理期间首先从数据库向量构建倒排索引;在查询时,该算法部分遍历索引以收集一组候选向量,以便稍后验证θ-相似性。然而,直接以原始形式应用TA会错过重要的优化机会。事实上,我们首先表明,一个可以利用的事实,即可以假设向量被规范化,以获得一个改进的,紧停止条件的索引遍历,并有效地计算它递增。然后,我们表明,可以利用数据偏斜度,以获得更好的遍历策略。特别是,我们展示了一种新的遍历策略,利用一个共同的数据偏态条件,在多个领域,包括质谱,文档和图像数据库。我们表明,在偏度假设下,新的遍历策略具有强大的,接近最优的性能保证。本文中开发的技术是相当普遍的,因为它们可以应用于一个大类的相似性函数超越余弦。
2019-01-10 cs.DB
Taking the Shortcut: Actively Incorporating the Virtual Memory Index of the OS to Hardware-Accelerate Database Indexing
本文提出利用操作系统页表作为数据库索引的捷径,通过直接在页表中表达间接层来减少遍历高度并利用硬件加速,并在可扩展哈希上验证了有效性。
2023-10-13 cs.DB cs.OS
EmbAssi: Embedding Assignment Costs for Similarity Search in Large Graph Databases
图编辑距离是一种直观的度量图的相异性的方法,但它的计算是NP困难的,在实践中具有挑战性。我们介绍的方法来回答最近的邻居和范围查询有关这个距离有效的大型数据库高达数百万的图形。我们建立在过滤器验证范例,其中下限和上限用于减少图形编辑距离的精确计算的数量。高效的边界涉及解决数据库中每个图的线性分配问题,这在大规模数据集中是禁止的。基于索引的方法通常只提供弱边界,导致高计算成本的验证。在这项工作中,我们推导出新的下界有效的过滤限制分配问题,其中的成本函数是一个树度量。这种特殊情况允许将最优分配的成本等距地嵌入到$\ell_1$空间中,从而使高效索引成为可能。我们提出了几个下界的图编辑距离从树度量反映编辑成本,这是有效的过滤相结合。我们称为EmbAssi的方法可以集成到现有的过滤器验证管道中,作为快速有效的预过滤步骤。从经验上讲,我们表明,对于许多现实世界的图形,我们的下限已经接近确切的图形编辑距离,而我们的索引建设和搜索规模非常大的数据库。
2022-07-19 cs.DB
Evaluating the Impact Of Spatial Features Of Mobility Data and Index Choice On Database Performance
TU Berlin(柏林工业大学)
本文通过 PostGIS 基准测试结合真实与合成数据,系统评估索引、数据格式及空间重叠和偏斜特征对读写性能的联合影响。
2025-10-21 cs.DB cs.DC
Evaluating the Practical Effectiveness of LLM-Driven Index Tuning on Microsoft SQL Server
Microsoft Research(微软研究院)
本文通过工业基准和真实企业工作负载评估LLM驱动的索引优化效果,对比微软数据库优化顾问(DTA),发现LLM在部分情况下能提供更优执行时间配置,但生产环境中应用仍面临性能波动、集成影响和验证成本等挑战。
2026-07-29 cs.DB
ER-index: a referential index for encrypted genomic databases
为了对人类及其疾病进行大规模、全面和深入的分析,正在创建和工程化存储基因组信息的巨大数据库。然而,最近的法规,如GDPR,要求通过隐私设计方法和软件来存储和详细说明敏感数据。我们设计并实现了ER索引,一个新的全文索引在分钟的空间,这是优化的基因组序列的压缩和加密集合,并对他们进行快速模式搜索查询。我们的新索引补充了E2FM索引,E2FM索引被引入来压缩和加密核苷酸序列集合,而不依赖于参考序列。当用于高度相似序列的集合时,ER索引允许获得比E2FM索引小一个数量级的压缩比,但保持其非常好的搜索性能。此外,由于ER索引多用户和多密钥加密模型,单个索引可以存储与个体群体相关的序列,使得用户可以仅对他们被授予访问权限的序列执行搜索操作。ER-index C++源代码以及用于评估工具性能的脚本和数据可在www.example.com上获得。
2020-12-27 cs.DB cs.DS
On Reporting Durable Patterns in Temporal Proximity Graphs
本文研究时间邻近图中的持久模式发现问题,利用图的隐式高维空间表示,设计了近线性时间算法以寻找超过给定持久性阈值的模式,并支持交互式查询中的高效增量更新。
2024-03-24 cs.DB
Nebula Graph: An open source distributed graph database
本文介绍了Nebula Graph的最新工作,Nebula Graph是一个开源的、分布式的、可扩展的、原生的图形数据库。我们提出了一个系统设计的权衡和星云图内部的全面概述,包括图形数据模型,分区策略,二级索引,优化器规则,存储端事务,图形查询语言,可观察性,图形处理框架和可视化工具包。此外,还建立了三组大规模图b
2022-06-15 cs.DB
Indexing the Earth Mover's Distance Using Normal Distributions
查询不确定的数据集(表示为概率分布)提出了许多挑战,由于涉及大量的数据和比较分布之间的不确定性的困难。地球移动器距离(EMD)已越来越多地用于比较不确定的数据,由于其能够有效地捕捉两个分布之间的差异。计算EMD需要找到运输问题的解决方案,这是计算密集型的。在本文中,我们提出了一个新的下界的EMD和索引结构,显着提高性能的EMD为基础的K-最近邻(K-NN)查询不确定数据库。我们提出了一个新的EMD下界,该下界逼近投影向量上的EMD。每个分布都被投影到一个向量上,并近似为正态分布以及伴随的误差项。然后,我们将每个法线表示为Hough变换空间中的一个点。然后,我们使用随机优势的概念,实现一个有效的索引结构中的转换空间。我们表明,我们的方法显着减少K-NN查询时间不确定数据库。索引结构也可以很好地扩展数据库基数。它非常适合于异构数据集,有助于保持EMD为基础的查询易处理的不确定数据集变得更大,更复杂。
2011-11-30 cs.DB
Overlay Indexes: Efficiently Supporting Aggregate Range Queries and Authenticated Data Structures in Off-the-Shelf Databases
商业现成的数据库管理系统(DBMS)经过高度优化,可以通过精心设计的索引和查询规划来处理各种查询。然而,许多聚合范围查询通常由DBMS使用顺序扫描来执行,并且根本不支持某些需求,例如存储认证的数据结构(ADS)。从理论上讲,这些需求可以有效地满足采用特定类型的索引,但通常排除在DBMS的设计。我们介绍了覆盖索引的概念:一个索引,这是要存储在一个标准的数据库中,与常规数据和常规软件管理,以补充DBMS的功能。我们展示了一个数据结构,我们称之为DB树,它实现了一个覆盖索引,以支持广泛的自定义聚合范围查询以及ADS,有效。所有DB树操作都可以通过对DBMS执行少量查询来执行,这些查询可以在一个或两个查询轮中并行发出,并且涉及对数数量的数据。我们实验评估DB树的效率表明,我们的方法是有效的,特别是如果数据更新是有限的。
2019-10-25 cs.CR cs.DB cs.DS
The Hybrid Multimodal Graph Index (HMGI): A Comprehensive Framework for Integrated Relational and Vector Search
BNRIST, Tsinghua University(北京理工大学,清华大学)
本文提出混合多模态图索引(HMGI)框架,通过结合近似最近邻搜索与图遍历查询,在原生图数据库上实现高效的多模态混合查询,以在关系密集场景中超越纯向量数据库并实现亚线性查询时间。
2025-10-11 cs.DB cs.LG
HAKES: Scalable Vector Database for Embedding Search Service
National University of Singapore(国立新加坡大学);Deakin University(德肯大学);Zhejiang University(浙江大学)
本文提出分布式向量数据库 HAKES,通过两阶段 ANN 索引、轻量参数调优、提前终止及读写解耦,在并发负载下实现高召回、高吞吐和可扩展。
2025-05-18 cs.DB cs.LG
Curator: Efficient Indexing for Multi-Tenant Vector Databases
Duke University(杜克大学);Yale University(耶鲁大学);Emerald Innovations
本文提出 Curator,一种面向多租户向量数据库的内存索引,通过将租户特定聚类树编码为共享聚类树的子树,同时实现低内存开销和高查询、插入、删除性能。
2024-01-13 cs.DB cs.DC cs.IR
LLMIA: An Out-of-the-Box Index Advisor via In-Context Learning with LLMs
School of Information, Renmin University of China, Beijing, China(中国人民大学信息学院,北京,中国);ByteDance Inc., China(字节跳动公司,中国)
LLMIA利用大语言模型进行上下文学习,通过高质量演示池和全面的工作负载特征提取,高效推荐和优化索引,无需调优,在多个基准测试中表现优异。
2026-03-19 cs.AI cs.DB
Index Search Algorithms for Databases and Modern CPUs
多年来,已经提出了许多不同的索引技术和搜索算法,包括CSS树,CSB+树,k-ary二叉搜索和快速架构敏感树搜索。还有一些论文讨论了如何最好地设置这些索引结构的许多不同参数,例如CSB+树的节点大小。提出这些指数是因为CPU速度的增长速度比内存速度快得多,从而导致了冯·诺依曼CPU-内存瓶颈。为了隐藏由内存访问引起的长延迟,充分利用现代CPU的特性变得非常重要。为了降低执行CPU指令所需的平均CPU时钟周期数,从而提高吞吐量,实现CPU资源的良好利用变得非常重要。其中一些是数据和指令缓存,以及翻译后备缓冲区。但是,避免分支误预测惩罚以及利用CPU以SIMD指令形式提供的向量化也变得重要。虽然索引结构的布局已经针对现代CPU的数据缓存进行了大量优化,但到目前为止,指令缓存一直被忽视。在本文中,我们提出了氮,一个框架,利用代码生成,加快索引遍历内存数据库系统。通过将数据和代码放在一起,我们使索引结构使用指令缓存的休眠资源。我们展示了如何将索引编译与以前的方法相结合,如二叉树搜索,缓存敏感的树搜索,以及Kim等人提出的架构敏感的树搜索。
2017-06-20 cs.DB cs.DS
An index for regular expression queries: Design and implementation
Like正则表达式谓词至少从1989年起就成为SQL标准的一部分。然而,尽管它的流行和广泛的使用,数据库供应商只提供有限的索引支持正则表达式查询,几乎总是需要一个完整的表扫描。在本文中,我们提出了一个严格的和强大的方法,为正则表达式查询提供索引支持。我们的方法包括制定索引问题作为一个组合优化问题。我们从一个数据库开始,它被抽象为字符串的集合。从这个数据集,我们生成一个查询工作负载。优化问题的输入是数据库和工作负载。输出是一组多重字符(子字符串),可以用作满足查询工作负载的记录的键。然后可以将multigram与数据结构(如B+树)集成,为查询提供索引支持。我们提供了一个确定性和随机近似算法(可证明的保证)来解决优化问题。在合成数据集上的大量实验表明,该方法是准确和有效的。我们还提出了一个案例研究的PROSITE模式-这是复杂的正则表达式签名类蛋白质。同样,我们能够证明我们的索引方法在准确性和效率方面的实用性。因此,也许是第一次,有一个强大的和实用的索引机制,为一类重要的数据库查询。
2011-08-15 cs.DB cs.IR
Cost-Effective, Low Latency Vector Search with Azure Cosmos DB
本研究将DiskANN深度集成到Azure Cosmos DB NoSQL中,在云原生运营数据库内构建高性价比低延迟向量搜索系统,性能与成本优势显著,为数据库向量索引融合提供参考。
2025-07-31 cs.DB cs.IR
MINT: Multi-Vector Search Index Tuning
University of California, San Diego(加州大学圣地亚哥分校);Microsoft Research(微软研究院)
本文提出MINT框架,针对多向量搜索场景,通过算法优化实现低延迟和存储召回约束下的索引调优,相比基线提升2.1至8.3倍。
2026-04-25 cs.AI cs.DB
INSTRUCT: Space-Efficient Structure for Indexing and Complete Query Management of String Databases
搜索引擎、词典和同义词词典存储以及其他文本挖掘应用的巨大扩展,与容易获得的扫描设备和光学字符识别工具的普及相结合,使得对于各种现代应用的大量文本数据库的有效存储、检索和管理成为必要。对于这样的应用程序,我们提出了一种新的数据结构,INFECT,有效地存储和管理的序列数据库。我们的结构使用位向量重用的存储空间,共同的三元组,因此,有一个非常低的内存需求。除了精确的字符串搜索操作之外,INCLUCT还通过迭代地检查三元组的存在来有效地处理前缀和后缀搜索查询。我们还提出了一个扩展的结构,以有效地处理子串搜索,虽然增加了空间的要求。这个扩展是很重要的,在上下文的trie为基础的解决方案,无法有效地处理这样的查询。我们进行了几个实验,描绘INDROCT优于现有的结构,近两个因素的空间需求方面,而查询时间更好。除了支持所有类型的查询(包括精确搜索、前缀/后缀搜索和子串搜索)之外,还能够处理字符串的插入和删除,这使得INCLECT成为一个完整的数据结构。
2012-07-03 cs.DB cs.DS
Can we measure the impact of a database?
针对数据库影响力难以衡量的问题,研究提出将h指数扩展至层级结构以度量数据库重要性,该方法计算效率与普通h指数相当,还可用于贡献认定,并通过三个常用数据库完成了验证。
2024-08-19 cs.DB cs.DL
Adaptive Merging on Phase Change Memory
针对相变存储器特性,提出自适应合并优化方法eAM及框架PAM,分别提升性能60%和20%。
2023-03-02 cs.DB cs.ET
Using Color Refinement to Boost Enumeration and Counting for Acyclic CQs of Binary Schemas
Pontificia Universidad Católica de Chile(智利天主教 Pontificia 大学);Humboldt-Universität zu Berlin(柏林洪堡大学)
本文提出颜色索引,通过颜色细化算法提升二元模式上无环联接查询的枚举与计数效率。
2026-01-16 cs.DB cs.LO
Filtered Approximate Nearest Neighbor Search in Vector Databases: System Design and Performance Analysis
University of California Merced(加州大学默塞德分校)
本文研究了向量数据库中过滤近邻搜索的系统设计与性能,通过MoReVec数据集评估了不同引擎的过滤策略表现,揭示了算法适应性对索引性能的影响,并提出了GLS相关度量指标。
2026-02-11 cs.DB cs.IR
Document Selection in a Distributed Search Engine Architecture
分布式搜索引擎体系结构(DSEA)托管许多独立的特定主题的搜索引擎,并选择数据库的子集在体系结构内进行搜索。这种方法的目的是通过仅查询可用总数据的子集来减少执行搜索所需的空间量。为了跨多个数据库操作数据,最有效的方法是识别一个较小的数据库子集,这些数据库最有可能返回特定感兴趣的数据,然后可以更详细地检查这些数据。选择索引最常用作选择最适用的数据库的方法,因为它捕获关于每个数据库及其索引文件的广泛信息。使用这种类型的数据库可以让研究人员更快地找到信息,不仅成本更低,而且还可以最大限度地减少偏见的可能性。本文研究了在分布式搜索引擎体系结构的框架和范围内选择的不同数据库的有效性。研究的目的是提高分布式信息检索的质量。
2016-03-31 cs.DB cs.IR
Partitioning Graph Databases - A Quantitative Evaluation
电子数据在规模和连通性方面都在以越来越快的速度增长:数据之间的关系越来越多,人们对数据之间的关系越来越感兴趣。一个例子是Twitter社交网络图。由于这种增长,对可以处理这些数据的技术的需求正在增加。目前,关系数据库是主要的技术,但它们不太适合处理连接的数据,因为它们针对索引密集型操作进行了优化。相反,图数据库针对图计算进行了优化。它们通过直接引用来链接记录,避免了索引查找,并且能够在恒定的时间内检索相邻的元素,而不管图的大小。然而,随着数据量的增加,这些数据库的增长超出了一台计算机的资源,数据分区变得必要。我们评估的可行性,使用图分区算法分区图数据库。开发了一个原型分区数据库。三个分区算法探讨和一个实施。使用了三个图形数据集:两个真实的和一个合成生成的。它们以各种方式进行分区,并测量对数据库性能的影响。我们为每个数据集定义了一个合成访问模式,并在分区数据集上执行。评估在模拟环境中进行,确保可重复性,并允许测量网络流量和负载平衡等指标。结果表明,与随机划分相比,划分算法减少了40- 90%的流量。在使用期间间歇地执行该算法保持了分区质量,同时只需要初始分区计算的1%。强相关性的理论质量指标和非均匀访问模式下产生的网络流量。
2013-01-22 cs.DB cs.DC