Efficient and Scalable Self-Healing Databases Using Meta-Learning and Dependency-Driven Recovery
本文提出一种结合MAML、强化学习、GNN与联邦元学习的数据库自修复框架,在动态负载下实现实时异常检测、依赖驱动恢复和隐私保护,显著提升适应性、效率与可靠性。
2025-07-18 cs.DB
GraphChi-DB: Simple Design for a Scalable Graph Database System -- on Just a PC
我们提出了一种新的数据结构,并行邻接表(PAL),有效地管理图与磁盘上的数十亿条边。PAL结构基于GraphChi的图存储模型(Kyrola et.例如,OSDI 2012),但我们对其进行了扩展,以支持在线数据库功能,如查询和快速插入。此外,我们扩展了模型的边和顶点属性。与以前的数据结构相比,PAL可以更复杂地存储图形,同时允许快速访问顶点的传入和传出边,而不复制数据。在PAL的基础上,我们设计了一个图形数据库管理系统GraphChi-DB,它也可以执行强大的分析图形计算。我们通过实验评估了我们的设计,并证明GraphChi-DB在比可用内存大得多的图形上实现了最先进的性能。GraphChi-DB使任何只有笔记本电脑或PC的人都可以处理非常大的图形。
2014-03-04 cs.DB
Scalable Multi-Database Privacy-Preserving Record Linkage using Counting Bloom Filters
隐私保护记录链接(PPRL)旨在集成来自不同组织的多个不同数据库的敏感信息。PPRL方法在医疗保健、国家安全和商业等实际应用领域中的需求越来越大。以前的办法主要侧重于只连接两个数据库以及使用一个专门的连接单位。将PPRL扩展到更多的数据库(多方PPRL)是一个开放的挑战,因为隐私威胁以及记录链接的计算和通信成本随着数据库的数量显着增加。因此,我们提出了一种新的编码方法的敏感数据的基础上计数布隆过滤器(CBF),以提高隐私的多方PPRL。我们还研究了优化,以减少通信和计算成本的CBF为基础的多方PPRL与不使用一个专用的链接单元。用真实数据集进行的实证评估表明了所提出的方法的可行性,并证明了其可扩展性,链接质量和隐私保护。
2017-01-05 cs.DB
Scalable Package Queries in Relational Database Systems
传统的数据库查询遵循一个简单的模型:它们定义结果中的每个元组必须满足的约束。该模型在计算上是高效的,因为数据库系统可以单独评估每个元组上的查询条件。然而,许多实际的现实问题需要一个结果元组的集合来共同满足约束,而不是单独满足约束。在本文中,我们提出了包查询,一个新的查询模型,扩展了传统的数据库查询处理复杂的约束和偏好的答案集。我们开发了一个成熟的包查询系统,实现了传统的数据库引擎之上。我们的工作做出了一些贡献。首先,我们设计了PaQL,一个基于SQL的查询语言,支持包查询的声明性规范。我们证明了PaQL是至少作为整数线性规划的表达,因此,评估包查询是一般NP-难。其次,我们提出了一个基本的评估策略,结合数据库和约束优化求解器的能力,以获得解决方案包查询。我们的方法的核心是一组转换规则,将包查询转换为整数线性规划。第三,我们引入了一个离线的数据分区策略,允许查询评估规模大的数据大小。第四,我们介绍SketchRefine,一个可扩展的软件包评估算法,具有很强的近似保证($(1 \pmε)^6$因子近似)。最后,我们提出了广泛的实验在现实世界和基准数据。结果表明,SketchRefine在获得高质量的包结果方面是有效的,并且在大型数据集上实现了比直接使用ILP求解器快一个数量级的运行时性能。
2015-12-16 cs.DB
BayesWipe: A Scalable Probabilistic Framework for Cleaning BigData
最近在结构化数据的数据清理方面的努力完全集中在数据重复删除、记录匹配和数据标准化等问题上;解决这些问题的方法都没有集中在修复元组中不正确的属性值上。纠正元组中的值通常通过违反静态约束(如CFD)的元组的最小成本修复来执行(必须由领域专家提供,或从数据库的干净样本中学习)。在本文中,我们提供了一种方法来纠正个人属性值的结构化数据库中使用贝叶斯生成模型和统计误差模型直接从噪声数据库中学习。因此,我们避免了领域专家或干净的主数据的必要性。我们还展示了如何有效地执行一致的查询回答使用此模型在一个肮脏的数据库,在情况下写权限的数据库不可用。我们评估我们的方法在合成和真实数据。
2015-06-30 cs.DB
Evaluating Accumulo Performance for a Scalable Cyber Data Processing Pipeline
流式大数据应用程序在创建可扩展的数据流管道方面面临挑战,其中必须收集、存储、查询和分析多个数据流。这些数据源的特征在于它们的数量(就数据集大小而言)、速度(就数据率而言)和种类(就字段和类型而言)。对于许多应用,分布式NoSQL数据库是传统关系数据库管理系统的有效替代品。本文考虑了一个网络态势感知系统,使用Apache Accumulo数据库提供可扩展的数据仓库,实时数据摄取,并响应查询人类用户和分析算法。我们评估Accumulo的摄取的可扩展性作为客户端进程和服务器的数量的函数。我们还描述了一个灵活的数据模型与有效的技术查询规划和查询优化,以提供响应结果。查询性能根据客户端接收初始结果集的延迟进行评估。Accumulo的性能是使用真实的网络数据在多达8个节点的数据库上测量的。
2014-07-21 cs.DB
Sieve: A Middleware Approach to Scalable Access Control for Database Management Systems
当前在数据库管理系统(DBMS)中实施FGAC的方法在策略数量为数千的情况下不能扩展。本文在新兴智能空间的背景下确定了这样一个用例,其中立法可能要求系统(如欧洲的GDPR和加利福尼亚州的CCPA)授权用户指定谁可以访问他们的数据以及用于什么目的。我们提出了Sieve,在现有的数据库系统中实现FGAC的分层方法,它利用了各种它的功能,如UDF,索引使用提示,查询解释,扩展到大量的政策。给定一个查询,Sieve利用它的上下文来过滤需要检查的策略。Sieve还生成保护表达式,通过对策略进行分组来节省评估成本,并通过利用数据库索引来削减读取成本。我们的实验结果,在两个DBMS和两个不同的数据集上,显示Sieve可扩展到大型数据集和大型策略语料库,从而支持包括新兴智能环境在内的应用程序的实时访问。
2020-06-17 cs.DB
Aster: Enhancing LSM-structures for Scalable Graph Database
针对大规模演化图的密集更新与查询需求,研究提出含三项创新技术的Poly-LSM键值存储引擎,基于此构建支持Gremlin的Aster图数据库,实验证明其性能优于主流基线,在十亿级Twitter图上吞吐量最高提升17倍。
2025-01-11 cs.DB
LogBase: A Scalable Log-structured Database System in the Cloud
许多应用,例如金融交易(例如,股票交易)在性质上是重写的。近年来,Web应用程序中从读到写的转变也在加速。在大多数存储系统中,预写日志记录是提供恢复能力同时提高性能的常用方法。然而,日志和应用程序数据的分离会导致在写入繁重的环境中观察到的写入开销,并因此对系统中的写入吞吐量和恢复时间产生不利影响。在本文中,我们介绍了LogBase -一个可扩展的日志结构的数据库系统,采用日志存储消除写瓶颈,并支持快速的系统恢复。LogBase被设计为动态部署在商品集群上,以利用云环境的弹性伸缩特性。LogBase提供了内存中的多版本索引,以支持对日志中维护的数据的有效访问。LogBase还支持跨多个记录绑定读写操作的事务。我们实现了所提出的系统,并将其与HBase和基于磁盘的日志结构的面向记录的系统RAMCloud建模。实验结果表明,LogBase能够提供持续的写吞吐量,高效的数据访问出缓存,有效的系统恢复。
2012-06-30 cs.DB
GriDB: Scaling Blockchain Database via Sharding and Off-Chain Cross-Shard Mechanism
GriDB提出首个可扩展区块链数据库,通过链下跨分片机制和新型认证数据结构,在拜占庭环境下高效支持跨分片查询与在线负载均衡,降低共识开销并保留分片收益。
2024-07-04 cs.DB
Scalable Continual Top-k Keyword Search in Relational Databases
关系数据库中的关键字搜索由于不要求用户既不掌握某种结构化查询语言,也不需要知道复杂的底层数据库模式,近年来得到了广泛的研究。现有的大多数方法都是针对静态数据库中的快照关键字查询。但实际上,数据库经常更新,用户可能对特定主题有长期兴趣。为了应对这种情况,有必要在数据库系统中建立有效和高效的设施,以支持连续的关键字查询。在本文中,我们提出了一个有效的方法来回答连续的顶部- $k$关键字查询关系数据库。该方法建立在现有的关系数据流关键字搜索方案的基础上,但将排序机制融入到查询处理方法中,并对关系数据库中的前$k$关键字搜索进行了两点改进。与现有的方法相比,该方法在静态数据库中计算top- $k$结果和在数据库不断更新时维护top- $k$结果方面都有更高的效率.实验结果验证了该方法的有效性和效率。
2011-08-23 cs.DB cs.IR
Towards a Scalable Dynamic Spatial Database System
随着支持GPS的智能手机和其他类似移动设备的兴起,大量的位置数据可用。然而,还没有可扩展的解决方案,软实时空间查询的大型移动对象集尚未出现。在本文中,我们探索和测量的限制,实际算法和实现不同的应用场景。最后,我们提出了一种新的分布式架构,以解决可扩展性问题。
2012-11-19 cs.CG cs.DB cs.DC
HARMONY: A Scalable Distributed Vector Database for High-Throughput Approximate Nearest Neighbor Search
针对现有分布式向量数据库负载不均、通信开销高的问题,本文提出采用多粒度分区策略与早停剪枝机制的Harmony系统,实验证明其吞吐量与偏斜负载性能均显著优于主流方案。
2025-06-17 cs.DB
Scalable Enforcement of Fine Grained Access Control Policies in Relational Database Management Systems
针对现有关系型数据库细粒度访问控制策略执行扩展性差的问题,提出中间件Sieve,结合查询重写与缓存优化策略执行,实验证明其可大幅提升策略评估性能,适配动态工作负载。
2025-11-18 cs.DB
Building Scalable AI-Powered Applications with Cloud Databases: Architectures, Best Practices and Performance Considerations
Sr. Solutions Architect(高级解决方案架构师)
本文系统分析了云原生数据库与AI工作负载集成的架构模式与最佳实践,涵盖向量、图、NoSQL及关系型数据库,并通过性能评估和行业案例为企业构建高性能、可扩展且成本高效的AI应用提供实用指导。
2025-04-26 cs.AI cs.DB
Parameter Database : Data-centric Synchronization for Scalable Machine Learning
QATAR COMPUTING RESEARCH INSTITUTE(卡塔尔计算研究所);HAMAD BIN KHALIFA UNIVERSITY(哈马德·本·哈利法大学)
我们提出了一个新的以数据为中心的同步框架,用于在分布式环境中执行机器学习(ML)任务。我们的框架利用了ML算法的迭代性质,并放松了以前用于分布式机器学习的应用程序不可知的批量同步并行(BSP)范式。以数据为中心的同步补充了以功能为中心的同步,其基础是使用陈旧更新来增加分布式ML计算的吞吐量。验证我们的框架的实验表明,我们可以在保证ML任务的顺序正确性的同时,实现对BSP的实质性改进。
2015-08-04 cs.DB cs.LG
Scalable Database Access Technologies for ATLAS Distributed Computing
ATLAS事件数据处理需要访问非事件数据(探测器条件、校准等)存储在关系数据库中。数据库驻留数据对于事件数据重构处理步骤是至关重要的,并且经常需要用于用户分析。ATLAS数据库操作的一个主要重点是条件DB数据的全球分布,这是每个ATLAS数据处理作业所必需的。由于Conditions DB访问对于使用真实数据的操作至关重要,因此我们开发了一种可以使用不同技术作为冗余备份的系统。冗余的数据库操作基础设施完全满足ATLAS再处理的要求,这已经在网格上的0.5 PB的单光束和宇宙学数据的两次再处理活动期间在10亿次数据库查询的规模上得到了证明。为了收集经验并为最佳技术选择提供投入,成功地评价了在用户分析中有效访问数据库的几个有希望的备选方案。我们目前的ATLAS经验,可扩展的数据库访问技术,并描述我们的方法,防止在网格计算环境中的数据库访问瓶颈。
2009-10-02 cs.DB cs.DC hep-ex
Scalable data storage for PV monitoring systems
高效的光伏研究包括从具有不同特征的多个实验中进行长时间的数据监测,需要一个可扩展的支持系统来处理所有收集到的信息。本文介绍了一个关系数据库的发展,托管所有必要的信息,数据建模,比较分析和O\&M系统。采用Ramer-Douglas-Peucker算法和Timescaledb压缩来减小时间序列数据的大小,提高查询的性能。提出了一种决策算法,用于选择Ramer-Douglas-Peucker算法的最佳输入,以确保最大的磁盘空间节省,同时不丢失任何必要的信息。此外,提供了实现相同数据库的替代方式。
2022-09-19 cs.DB
Nebula Graph: An open source distributed graph database
本文介绍了Nebula Graph的最新工作,Nebula Graph是一个开源的、分布式的、可扩展的、原生的图形数据库。我们提出了一个系统设计的权衡和星云图内部的全面概述,包括图形数据模型,分区策略,二级索引,优化器规则,存储端事务,图形查询语言,可观察性,图形处理框架和可视化工具包。此外,还建立了三组大规模图b
2022-06-15 cs.DB
Scalable Probabilistic Databases with Factor Graphs and MCMC
University of Massachusetts(马萨诸塞大学)
概率数据库在不确定数据的管理和理解中起着至关重要的作用。然而,将概率纳入不完整数据库的语义中带来了许多挑战,迫使系统牺牲建模能力,可扩展性,或限制它们关闭的关系代数公式的类别。我们提出了一种替代方法,其中底层的关系数据库总是代表一个单一的世界,和一个外部因素图编码的分布在可能的世界,马尔可夫链蒙特卡罗(MCMC)推理,然后使用恢复这种不确定性所需的保真度水平。我们的方法可以有效地评估任意查询的概率数据库与任意依赖关系表示的图形模型的结构,在推理过程中发生变化。MCMC采样通过假设{ \em修改}到可能的世界而不是从头开始生成整个世界来提供效率。然后,在世界发生变化的部分上运行查询,避免了在每个采样世界上运行完整查询的繁重成本。这项工作的一个重要创新是MCMC采样和物化视图维护技术之间的连接:我们发现经验,使用视图维护技术是几个数量级的速度比天真地查询每个采样的世界。我们还展示了我们的系统的能力,回答关系查询与聚合,并通过使用并行化展示了额外的可扩展性。
2010-05-11 cs.AI cs.DB
A Scalable Transaction Management Framework for Consistent Document-Oriented NoSQL Databases
Bahri University(巴里大学);Georgia State University(佐治亚州立大学);Delaware State University(特拉华州立大学)
本文提出了一种四阶段事务管理框架,通过优化锁策略和冲突检测,提高了文档导向NoSQL数据库在一致性与性能之间的平衡。
2026-02-02 cs.DB
Happiness Maximizing Sets under Group Fairness Constraints (Technical Report)
本文研究群体公平约束下的幸福最大化集合 FairHMS,证明其高维 NP 难,并提出二维精确算法 IntCov、多维双准则近似算法 BiGreedy 及自适应采样策略。
2022-10-08 cs.CY cs.DB cs.DS
Scalable Blocking for Very Large Databases
在数据库去重领域,目标是在数据库中找到近似匹配的记录。分块是这个过程中的一个典型阶段,它涉及廉价地找到可能匹配的候选记录对,以进行进一步处理。我们在这里提出了哈希动态阻塞,一种新的阻塞方法,旨在解决比大多数先前工作中研究的数据集更大的数据集。Hashed Dynamic Blocking(HDB)扩展了Dynamic Blocking,它利用了罕见的匹配值和值的罕见交集预测匹配关系的洞察力。我们还提出了一种新的使用局部敏感哈希(LSH)建立阻塞的大型数据库的关键值与方便的配置,以控制精度和召回之间的权衡。HDB通过最小化数据移动,使用紧凑的块表示,并使用Count-min Sketch近似计数数据结构对无效候选块进行绿色修剪来实现大规模。我们通过关注超过一百万行的真实数据集来对算法进行基准测试,表明该算法在此范围内显示线性时间复杂度缩放。此外,我们在5.3亿行工业数据集上执行HDB,在不到三个小时的时间内检测到680亿个候选对,在主要云服务上的成本为307美元。
2020-08-19 cs.DB cs.DC cs.DS
Scalable Probabilistic Similarity Ranking in Uncertain Databases (Technical Report)
提出了一种基于不确定向量数据的概率top-k相似度排序方法。每个不确定的对象表示的一组向量的实例,假设是互斥的。我们的目标是根据它们到参考对象的距离对不确定数据进行排序。我们提出了一个框架,增量计算每个对象实例和排名位置,对象落在该排名位置的概率。由此产生的排名概率分布可以作为几个国家的最先进的概率排名模型的输入。现有方法通过应用二次复杂度的动态规划方法来计算该概率分布。在本文中,我们从理论上和实验表明,我们的框架降低了线性时间复杂度,同时具有相同的内存要求,促进增量访问的不确定向量实例,以增加他们的距离到参考对象。此外,我们展示了如何输出我们的方法可以用于应用概率top-k排名的对象,根据不同的国家的最先进的定义。我们对合成数据和真实数据进行了实验评估,证明了我们方法的有效性。
2009-07-16 cs.DB cs.IR
Scalable Visibility Color Map Construction in Spatial Databases
3D建模的最新进展为我们提供了真实的3D数据集来回答查询,例如“新广告牌的最佳位置是什么?和“哪个房间的风景最好?““在存在障碍的情况下。这些应用需要从数据空间中的不同视点测量和区分对象(目标)的可见性,广告牌可以从两个视点看到,但是只能从更靠近目标的视点读取。在本文中,我们制定了上述问题量化的可见性(从)一个目标对象从(的)周围区域的可见性彩色地图(VCM)。VCM本质上被定义为空间的表面颜色图,其中空间的每个视点被分配一个颜色值,该颜色值表示目标从该视点的可见性度量。即使从单个视点测量目标的可见性也是一项昂贵的操作,因为我们需要考虑视点和目标之间的距离、角度和障碍物等因素。因此,一个简单的方法来构建的VCM,需要为目标的周围空间的每个视点的可见性计算,是昂贵的I/O和计算方面,特别是对于一个真实的数据集,包括成千上万的障碍。我们提出了一种有效的方法来计算的VCM的基础上的人类视觉的一个关键属性,消除了计算的可见性为大量的空间的观点的必要性。为了进一步减少计算开销,我们提出了两个近似,即最小外接矩形和切线方法,保证误差界。我们广泛的实验证明了我们的解决方案的有效性和效率,以构建真正的2D和3D数据集的VCM。
2013-10-28 cs.DB
Efficient and scalable geometric hashing method for searching protein 3D structures
随着结构化数据库的不断扩展,需要有效的方法从数据库中搜索查询结构的相似结构。以前有许多关于比较蛋白质3D结构和用查询结构扫描数据库的工作。然而,它们通常具有实际使用的限制,因为大的计算和存储要求。本文提出了两种新的结构化数据库相似子结构查询方法:局部空间模式匹配(LSPM)和反向LSPM(RLSPM)。在两类查询中,我们重点研究了RLSPM问题,因为它比LSPM更实用、更通用。作为一种朴素的算法,我们采用几何哈希技术RLSPM问题,然后提出我们的算法,改进的基线算法处理大规模的数据,并提供了一个有效的匹配算法。我们采用子采样和Z排序,以减少存储需求和执行时间,分别。通过实验验证了该方法的正确性和可靠性。我们的实验表明,使用可靠性度量,真阳性率至少为0.8。
2011-02-15 cs.DB q-bio.QM
Scalable Sampling for High Utility Patterns
EPITA Research Laboratory (LRE)(EPITA研究实验室)
针对大规模量化数据库中高效用模式挖掘的可扩展性难题,提出基于两条原创定理的新型采样算法及磁盘版本,兼具交互性与统计保证,性能优于现有最先进方法,可应用于考古知识图谱子剖面发现等场景。
2024-10-30 cs.DB cs.LG
CUTTANA: Scalable Graph Partitioning for Faster Distributed Graph Databases and Analytics
针对大规模图无法单存、现有流式划分质量低的问题,提出带缓冲、粗化细化技术的CUTTANA流式划分器,在保证延迟相当的同时提升划分质量,优化图分析与数据库性能。
2024-12-10 cs.DB cs.DC
Task-Aware Reduction for Scalable LLM-Database Systems
Department of Computer Science Trent University Peterborough, Canada(计算机科学系特伦特大学彼得伯勒,加拿大);Faculty of Information University of Toronto Toronto, Canada(信息学院多伦多大学多伦多,加拿大)
本文提出将LLM的令牌预算视为注意力预算,主张任务感知的输入文本缩减作为语言-数据系统的首要设计原则,以解决数据密集型工作流中数据冗长和噪声问题,实现可扩展、准确且可持续的LLM-数据集成。
2025-10-13 cs.CL cs.DB cs.SE
HAKES: Scalable Vector Database for Embedding Search Service
National University of Singapore(国立新加坡大学);Deakin University(德肯大学);Zhejiang University(浙江大学)
本文提出分布式向量数据库 HAKES,通过两阶段 ANN 索引、轻量参数调优、提前终止及读写解耦,在并发负载下实现高召回、高吞吐和可扩展。
2025-05-18 cs.DB cs.LG
Usable & Scalable Learning Over Relational Data With Automatic Language Bias
Oregon State University(俄勒冈州立大学)
关系数据库是学习新颖有趣的关系和概念的宝贵资源。为了约束搜索通过候选定义的大空间,用户必须通过指定语言偏好来调整算法。不幸的是,具体说明语言偏见是通过试验和错误来完成的,并由专家的直觉指导。我们提出了AutoBias,一个利用数据库的模式和内容中的信息来自动诱导流行的关系学习系统所使用的语言偏见的系统。我们表明,AutoBias提供了相同的准确性,使用手动编写的语言偏见只施加轻微的开销上的运行时间的学习算法。
2020-04-06 cs.DB cs.LG
ScalienDB: Designing and Implementing a Distributed Database using Paxos
ScalienDB是一个基于Paxos算法构建的可扩展的复制数据库。它是在2010年至2012年期间开发的,当时支持它的创业公司失败了。本文讨论了分布式数据库的设计决策,描述了C++代码库的有趣部分,并列举了在少数客户端将ScalienDB投入生产的经验教训。源代码在Github上以AGPL许可证提供,但不再开发或维护。
2013-02-15 cs.DB cs.DC
The End of a Myth: Distributed Transactions Can Scale
普遍的看法是分布式事务不能扩展。但是,如果使用下一代网络和重新设计的分布式数据库可以使分布式事务具有可伸缩性,那会怎样呢?开发人员将不再需要担心共同分区方案来实现良好的性能。应用程序开发将变得更加容易,因为数据放置将不再决定应用程序的可伸缩性。硬件配置将得到简化,因为系统管理员在添加更多机器时可以预期线性横向扩展,而不是一些复杂的次线性功能,这是高度特定于应用程序的。在本文中,我们提出了我们的新的可扩展的数据库系统NAM-DB的设计,并显示非常常见的快照隔离保证分布式事务确实可以使用下一代的RDMA启用的网络技术,没有任何固有的瓶颈扩展。我们对TPC-C基准测试的实验表明,我们的系统线性扩展至56台机器上每秒超过650万个新订单(总计1450万个)分布式交易。
2016-11-21 cs.DB
Prune First, Decide Fast: Scalable Semantic Query Processing with JEVDB
Purdue Data & AI System Lab (PDAIS)(普渡数据与人工智能系统实验室);University of Utah(犹他大学)
JEVDB通过类型化决策模型和语义布隆过滤器减少语义查询延迟与成本,在SemBench和Shelob上实现低延迟、低成本和高F1,同时保持答案质量。
2026-10-02 cs.DB
Assisting Service Providers In Peer-to-peer Marketplaces: Maximizing Gain Over Flexible Attributes
像AirBnB这样的点对点市场可以直接在人与人之间进行服务的交易交换。在这样的平台中,提供服务的人(AirBnB中的主机)面临着各种选择。例如,在AirBnB中,尽管财产中的一些设施(财产的属性)是固定的,但其他设施相对灵活并且可以在没有显著努力的情况下提供。提供便利设施通常与成本有关。当然,不同的设施对主人来说可能有不同的“好处”。因此,在预算有限的情况下,决定提供哪些设施(属性)是具有挑战性的。在本文中,我们正式介绍和定义的问题的增益最大化柔性属性(GMFA)。我们首先证明,这个问题是NP-难的,并表明,确定一个近似算法与一个常数近似比是不太可能的。然后,我们提供了一个实际有效的精确算法的GMFA问题的一般类的单调增益函数,量化的属性集的好处。作为我们的贡献的下一部分,我们专注于一个实用的增益函数的GMFA的设计。我们引入了基于频繁项的计数(FBC)的概念,它利用数据库中现有的元组来定义增益的概念,并提出了一个有效的算法来计算它。我们提出了一个全面的实验评估结果,从AirBnB的真实数据集上提出的技术,并证明了我们的建议的实际意义和实用性。
2017-10-06 cs.DB
The Maximum Trajectory Coverage Query in Spatial Databases
随着支持GPS的移动设备的广泛使用,从Bikely、GPS-wayPoints和Uber等各种来源可以获得前所未有的大量轨迹数据。创新交通服务的兴起和最近自动驾驶汽车的突破将导致轨迹数据和相关应用的持续增长。在新兴平台中支持这些服务将需要在轨迹数据库中进行更有效的查询处理。在本文中,我们提出了两个新的覆盖查询轨迹数据库:(i)k最大化反向范围搜索轨迹(kMaxRounds);和(ii)最大k覆盖范围搜索轨迹(MaxkCovests)。我们提出了一种新的索引结构,轨迹四叉树(TQ-tree),利用四叉树层次化组织轨迹到不同的四叉树节点,然后应用z排序进一步组织轨迹的空间位置内的每个节点。这种结构在修剪轨迹搜索空间方面是非常有效的,这是独立感兴趣的。通过利用TQ树数据结构,我们开发了一个分治的方法来计算轨迹的“服务值”,和最好的第一个策略,探索轨迹使用适当的上限上的服务值,以有效地处理一个kMaxRisk查询。此外,为了解决MaxkCovenant,这是一个non-submodular NP-hard问题,我们提出了一个贪婪的近似,也利用了TQ-树。我们评估我们的算法,通过广泛的实验研究几个真实的数据集,并证明我们的TQ树为基础的算法优于常见的基线两到三个数量级。
2018-04-02 cs.DB
CoPhy: A Scalable, Portable, and Interactive Index Advisor for Large Workloads
索引调整,即,选择适合于工作负载的索引是数据库系统调优中的关键问题。在本文中,我们解决了实践中常见的大型问题实例的索引调优,例如,工作负载中的数千个查询、数千个候选索引以及若干硬约束和软约束。我们的工作是第一次揭示,索引调整问题有一个结构良好的空间的解决方案,这个空间可以有效地探索与众所周知的技术,从线性优化。实验结果表明,我们的方法优于国家的最先进的商业和研究技术的显着利润率(高达一个数量级)。
2011-04-16 cs.DB
SOLAR: Scalable Distributed Spatial Joins through Learning-based Optimization
本文提出SOLAR,一种通过基于学习的优化实现可扩展分布式空间连接的框架,通过离线学习平衡的空间分区并在在线阶段评估查询相似性以重用分区器或从头分区,在真实数据集上实现了高达3.6倍的整体运行加速和2.71倍的分区加速。
2025-04-02 cs.DB
Optimizing substructure search: a novel approach for efficient querying in large chemical databases
针对大型化学数据库子结构搜索效率不足的问题,提出一种受二元Ball-Tree启发的特征聚类树索引方法,相比穷举搜索和Bingo算法性能更优,为高效子结构搜索提供新方向。
2023-10-03 cs.DB
AutoLink: Autonomous Schema Exploration and Expansion for Scalable Schema Linking in Text-to-SQL at Scale
AutoLink通过自主代理框架实现大规模文本到SQL的模式探索与扩展,提升模式链接的召回率和可扩展性。
2025-11-21 cs.CL cs.DB
Towards Scalable Visual Exploration of Very Large RDF Graphs
在本文中,我们概述了我们的工作,开发一个基于磁盘的基础设施,有效的可视化和图形探索操作非常大的图形。该平台名为graphVizdb,基于一种用于索引和存储图形的新技术。特别地,利用空间数据结构来索引图形布局,即,R树,并存储在数据库中。在运行时,用户操作被转换为有效的空间操作(即,窗口查询)。
2015-06-16 cs.DB cs.HC
A SAT-based System for Consistent Query Answering
不一致数据库是违反一个或多个完整性约束(如函数依赖性)的数据库。一致性查询是一种严格和原则性的方法,用于处理针对不一致数据库提出的查询的语义。对不一致数据库上的查询的一致回答是对每次修理的查询的回答的交集,即,在每一个一致的数据库,不同于给定的不一致的一个在最小的方式。在给定的不一致数据库上计算固定合取查询的一致答案可能是一个困难的问题,即使每个固定合取查询在给定的一致数据库上是有效可计算的。我们设计,实现和评估CAvSAT,一个基于SAT的系统一致的查询回答。CAvSAT利用了一组从一致性查询回答到SAT和加权MaxSAT的补充的自然约简。该系统能够处理联合查询和任意拒绝约束的联合,其中包括函数依赖作为特殊情况。我们报告的结果从实验评估CAvSAT合成和现实世界的数据库。这些结果提供的证据表明,基于SAT的方法可以产生一个全面的和可扩展的系统,一致的查询回答。
2019-05-07 cs.DB cs.LO