Modularis: Modular Relational Analytics over Heterogeneous Distributed Platforms
每天产生的大量数据以及数据分析的进步导致了数据管理和分析系统的激增。通常,这些系统是围绕针对底层硬件优化的高度专业化的单片运算符构建的。虽然在短期内有效,但这种方法使运营商难以移植和适应,由于算法和硬件发展的速度,这一要求越来越高。为了解决这一限制,我们提出了Modularis,一个基于子运算符的数据分析执行层,即,类似于传统数据库操作符但粒度更细的可组合构建块。为了证明我们的方法的优势,我们使用Modularis构建一个分布式查询处理系统,支持在RDMA集群,无服务器云平台和智能存储引擎上运行的关系查询。Modularis需要最少的代码更改来跨这三个不同的硬件平台执行查询,这表明子运算符方法减少了代码的数量和复杂性。事实上,平台的变化只影响依赖底层硬件的子运营商。我们通过将Modularis与SQL处理框架(Presto),商业集群数据库(SingleStore)以及查询即服务系统(Athena,BigQuery)进行比较,展示了Modularis的端到端性能。Modularis优于所有这些系统,证明了模块化设计的设计和架构优势可以在不降低性能的情况下实现。我们还比较了Modularis与手工优化的RDMA集群连接实现。我们表明,Modularis的优点是可以很容易地扩展到更广泛的连接变体和组查询,所有这些都不支持手工调优连接。
2021-09-29 cs.DB
A Coherent Distributed Grid Service for Assimilation and Unification of Heterogeneous Data Source
网格服务被大量用于处理大型分布式计算。它们对于处理数据分布在不同站点的数据密集型应用程序也非常有用。在这种情况下使用的大多数数据网格服务都是针对同构数据源的。在异构数据源的情况下,大多数可用的网格服务的设计方式是,它们必须在模式定义中相同,以便顺利运行。但是,可能存在这样的情况,即网格站点数据库是异构的,并且它们的模式定义与中心模式定义不同。在本文中,我们提出了一个轻量级的异构数据源,是非常容易安装的一致性网格服务。它可以将中心SQL模式映射和转换为网格成员的SQL模式,并发送查询以从异构数据源获得相应的结果。
2012-10-12 cs.DB
A Framework for Federated SPARQL Query Processing over Heterogeneous Linked Data Fragments
链接数据片段(LDFs)是指允许访问和查询Web上的知识图谱的Web接口。这些接口(如SPARQL端点或Triple Pattern Fragment服务器)在它们可以计算的SPARQL表达式和它们提供的元数据方面有所不同。已经提出了客户端查询处理方法,并且这些方法被定制以评估各个接口上的查询。此外,联邦查询处理集中在具有单一类型LDF接口(通常是SPARQL端点)的联邦上。在这项工作中,我们解决的挑战,SPARQL查询处理联邦异构LDF接口。为此,我们形式化的概念联邦的关联数据片段,并提出了一个框架,联邦查询异构联邦不同LDF接口。该框架包括查询分解,查询规划,和适应不同LDF接口的特殊性的物理操作符。此外,我们提出了一种方法,我们的框架的每个组成部分,并评估他们在著名的FedBench基准的实验研究。结果表明,通过设计这些接口感知的方法,利用联邦中的异构接口的能力,实现了性能的大幅改善。
2021-02-26 cs.DB
Path discovery by Querying the federation of Relational Database and RDF Graph
用于检测路径的查询的类别是重要的,因为它们可以提取输入图的节点上的隐式二元关系。RDF社区使用的大多数路径查询语言,如W3C SPARQL 1.1中的属性路径和nSPARQL中的嵌套正则表达式都是基于正则表达式的。联合查询允许将图模式和关系数据库组合在一起,从而能够在单个查询中对多个异构数据资源进行评估。W3C SPARQL 1.1中的联邦查询目前在不同的SPARQL端点上进行评估。本文提出了一种联邦路径查询语言,作为常规路径查询语言的扩展,以支持RDF图与关系数据库的集成。联邦路径查询语言绝对比嵌套正则表达式和无否定属性路径更具表达力。其额外的表达能力可以用于捕获嵌套的正则路径查询的合取和联合。尽管表达能力的增加,我们也表明,联邦路径查询仍然享有低计算复杂性,可以有效地进行评估。
2016-10-25 cs.DB
Federating and querying heterogeneous and distributed Web APIs and triple stores
当今的国际公司,如作物保护行业的领先公司巴斯夫,生产和消费越来越多的数据,这些数据通常是分散的,可以通过Web API访问。此外,巴斯夫感兴趣的部分专有和公共数据存储在三重存储中,并可通过SPARQL查询语言访问。在不修改或复制原始数据源的情况下,同质化数据访问模式和数据的底层语义成为实现数据集成和互操作性的重要要求。在这项工作中,我们提出了一个联邦数据集成架构内的工业设置,依赖于基于本体的数据访问方法。我们在查询响应时间方面的性能评估表明,大多数查询可以在1秒内得到回答。
2022-06-03 cs.DB
SPARQL over GraphX
RDF数据模型链接来自异构域的数据的能力导致了RDF数据的爆炸式增长。因此,在大型RDF数据上评估SPARQL查询对于语义Web社区至关重要。然而,由于RDF数据的图形特性,在关系数据库和常见的数据并行系统中评估SPARQL查询需要大量的连接,并且效率低下。另一方面,诸如社交网络数据之类的本质上是图的数据集的复杂性已经导致数据库社区开发图-并行处理系统以有效地支持迭代图计算。在这项工作中,我们利用RDF数据的图形表示,并利用GraphX,一个新的图形处理系统的基础上Spark。我们提出了一个子图匹配算法,兼容GraphX编程模型来评估SPARQL查询。一些实验表明,系统的可扩展性,以处理大型数据集。
2017-01-11 cs.DB
Relational Learning and Feature Extraction by Querying over Heterogeneous Information Networks
Tulane University(杜兰大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Irvine(加利福尼亚大学尔湾分校);Amazon Research Cambridge(亚马逊剑桥研究院)
许多现实世界的系统需要在异构信息网络上运行,这些网络由许多不同类型的交互组件组成。示例包括对生物信息网络执行数据分析的系统;社交网络;以及处理非结构化数据以将原始文本转换为知识图谱的信息抽取系统。许多以前的作品描述了专门的方法来执行特定类型的分析,挖掘和学习这样的网络。在这项工作中,我们提出了一个统一的框架,包括一个数据模型-一个图与一阶模式以及声明性语言的方式,促进关系和结构化机器学习的构建,查询和操纵这样的网络。特别是,我们提供了一个关系和图遍历查询语言的查询直接用作结构化机器学习模型的关系功能的初始原型。特征提取通过进行声明性图遍历查询来执行。学习和推理模型可以直接对这种关系表示进行操作,并使用新的数据和知识对其进行扩充,这些数据和知识又可以无缝集成到关系结构中,以支持新的预测。我们通过展示自然语言处理和计算生物学领域的任务来展示该系统的能力。
2017-07-25 cs.AI cs.DB
A Neural Database for Differentially Private Spatial Range Queries
移动应用程序和基于位置的服务产生大量的位置数据,这些数据可以有利于交通优化、上下文感知通知和公共健康(例如,传染病的传播)。为了保护个人隐私,必须首先净化位置数据,这通常使用强大的差分隐私(DP)概念来完成。然而,现有的解决方案没有适当地捕获空间数据固有的密度模式和相关性,并且因此产生差的精度。我们提出了一种基于机器学习的方法来回答位置数据与DP保证的统计查询。我们专注于对抗困扰现有方法的主要误差源(即均匀性误差),我们设计了一个神经数据库系统,该系统对空间数据集进行建模,即使添加了符合DP的噪声,也可以保留数据中存在的重要密度和相关性特征。我们采用了一组神经网络,它们从数据集的不同区域和不同的粒度进行学习,从而获得更高的准确性。我们还设计了一个框架,有效的系统参数调整的公共数据,这有助于从业者设置重要的系统参数,而不必花费稀缺的隐私预算。在具有异构特征的真实数据集上的大量实验结果表明,我们提出的方法显着优于现有技术。
2021-08-03 cs.DB
An Integration-Oriented Ontology to Govern Evolution in Big Data Ecosystems
大数据架构允许以原始格式灵活地存储和处理来自多个来源的异构数据。通常通过REST API提供的这些数据的结构在不断发展。因此,数据分析师需要在每次API发布后调整其分析过程。这在执行综合或历史分析时更具挑战性。为了应对这种复杂性,在本文中,我们提出了大数据集成本体,管理模式演变下的数据集成过程的核心结构,通过系统地注释它与有关的源模式的信息。我们提出了一个查询重写算法,使用注释的本体,转换查询构成的本体查询的来源。为了应付语法的演变的来源,我们提出了一个算法,半自动适应本体论后,新的版本。这保证了本体中介查询从最新的模式版本中正确地检索数据以及历史查询的正确性。对真实世界的API进行了功能和性能评估,以验证我们的方法。
2018-01-16 cs.DB
MICRO: A Lightweight Middleware for Optimizing Cross-store Cross-model Graph-Relation Joins [Technical Report]
本文提出MICRO中间件,通过统一代数定义跨模型连接查询,设计基准测试并展示其在异构系统中高效执行的能力,实验表明其在运行时间上优于现有系统。
2026-03-14 cs.DB cs.LG
Traveling with a Map: Reducing the Search Space of Link Traversal Queries Using RDF Shapes
Ghent University – imec(根特大学–imec)
针对去中心化网络中LTQP执行慢、成本高的问题,提出基于RDF形状的剪枝方法,可显著优化数据模型选择性查询的处理效率。
2026-10-09 cs.DB
Analytical Queries: A Comprehensive Survey
本文全面综述了利用异构硬件进行分析型查询处理的方法与系统设计,分析了现有先进解决方案的不足,并探讨了数据处理生态系统未来的演进方向。
2023-11-27 cs.DB cs.DC cs.PF
MatQuery: Execution-Grounded Natural-Language Querying over Heterogeneous Materials Databases
Department of Computing, The Hong Kong Polytechnic University(香港理工大学计算学部)
MatQuery是面向异构材料数据库的执行落地式自然语言查询基础设施,其原型经初步实验验证了查询生成与数据库选择的准确率,但也暴露了部分局限性,目前正处于冒烟测试阶段。
2026-10-12 cs.DB
LSketch: A Label-Enabled Graph Stream Sketch Toward Time-Sensitive Queries
针对图流高效存储与查询挑战,提出LSketch,通过保留标签信息并引入滑动窗口模型,以次线性空间高精度支持结构与时间敏感查询,在四个真实数据集上验证了其优越性。
2023-04-06 cs.DB cs.DS
SGMFQP:An Ontology-based Swine Gut Microbiota Federated Query Platform
肠道微生物群在调节猪的发育和健康方面起着至关重要的作用,肠道微生物群特征与饲料效率的差异有关。为了回答饲料效率分析中的开放性问题,生物学家寻求在多个异构数据源中检索信息。然而,这是容易出错且耗时的工作,因为查询可能涉及多个数据库上的多个子查询的序列。我们提出了一个基于本体的猪肠道微生物群联合查询平台(SGMFQP),提供了一个方便,自动化,高效的查询服务,猪饲养和肠道微生物群的实现。该系统是基于特定领域的猪肠微生物群本体(SGMO),这有利于独立于在各个来源的数据的实际组织的查询的建设。此过程由基于模板的查询接口支持。基于Datasheet+的联合查询引擎将查询转换为针对每个数据源定制的子查询,自动化工作流编排机制在每个源数据库中执行查询并合并结果。该系统的效率证明了几个猪饲养的情况。
2023-02-22 cs.DB q-bio.QM
Conception et Evaluation de XQuery dans une architecture de médiation "Tout-XML"
XML已经成为表示和交换数据的主要语言,不仅在Web上,而且在企业中也是如此。XQuery正在成为XML的标准查询语言。因此,需要工具在XML查询和异构数据源之间进行调解,以集成XML中的数据。本文介绍了XMedia中介,一个独特的工具,集成和查询不同的异构信息作为统一的XML视图。它描述了中介器的体系结构,并重点介绍了该组件中实现的独特的分布式查询处理技术。查询计算基于原始的XML代数,只是简单地扩展了经典的操作符来处理树元素的元组。此外,我们提出了一套性能评估的关系基准,从而导致讨论可能的性能增强。
2008-06-30 cs.DB
AgileDART: An Agile and Scalable Edge Stream Processing Engine
针对传统数据处理系统难以适配边缘应用低延迟、高并发、环境异构动态的问题,提出AgileDart边缘流处理引擎,通过动态数据流抽象和老虎机路径规划模型,相较现有方案在延迟、扩展性和适应性上表现更优。
2025-07-29 cs.DB cs.DC
Latent table discovery by semantic relationship extraction between unrelated sets of entity sets of structured data sources
查询是数据库系统的基本功能之一。参与表数量的增加会对查询效率产生不利影响。此外,基于语法的查询在很大程度上限制了数据库系统可以处理的查询的范围。语法查询依赖于数据库表结构,这是大型组织关注的一个原因,因为存储分布在不同地理位置的数据的异构系统之间不兼容。这些问题的解决方案在某种程度上是通过使数据和数据库有意义而转向语义技术来回答的。在这样做时,实体集合的集合之间的关系将不仅限于句法约束,而且还将允许语义连接,尽管这样的关系可以是隐性的、无形的和不可见的。这项工作的目标是提取这种隐藏的关系之间的不相关的实体集,并存储在一个有形的形式。一些示例情况下,提供了辩护,建议的工作,提高查询显着。
2011-04-07 cs.DB
Bridge the Last-Mile Gap to Semantic Analytics: Compiling Natural-Language Queries into Semantic Operator Pipelines
University of Hawaii at Manoa(夏威夷大学马诺阿分校);LinkedIn(领英)
提出NL2Pipe中间件系统,通过查询-数据链接、语义规划和代码生成三阶段编译,将自然语言问题自动转化为可执行的语义操作符流水线,显著提升跨源工作负载的F1分数。
2026-06-03 cs.DB
KIF: A Wikidata-Based Framework for Integrating Heterogeneous Knowledge Sources
IBM Research Brazil(IBM研究院巴西分部)
本文提出了基于Wikidata的开源框架KIF,通过用户定义映射虚拟集成异构知识源构建统一视图,支持模式语言查询,并成功应用于化学领域的实际集成问题。
2024-07-24 cs.AI cs.DB
Incorporating Deep Learning Design in Database Queries
University of Washington(华盛顿大学)
提出一种将深度学习自然集成到数据库查询中的方法,通过为元组关联可学习的向量嵌入,使查询同时操作数据和嵌入,实现关系深度学习。
2026-05-22 cs.DB cs.LG
Polystore++: Accelerated Polystore System for Heterogeneous Workloads
Stanford University(斯坦福大学);Tata Consultancy Services(塔塔咨询服务公司)
现代实时业务分析由异构工作负载(例如,数据库查询、图形处理和机器学习)组成。这些分析应用程序需要能够捕获组成工作负载的所有方面(包括它们所使用的数据模型以及跨处理引擎的数据移动)的编程环境。Polystore系统适合此类应用;然而,这些系统目前在CPU上执行,摩尔定律的减速意味着它们无法满足现代工作负载的性能和效率要求。我们设想Polystore++,一种使用硬件加速器(例如FPGA,CGRA和GPU)加速现有polystore系统的架构。Polystore++系统可以通过识别和卸载polystore系统的组件来实现低功耗的高性能,这些组件可以使用专用硬件进行加速。构建Polystore++系统具有挑战性,并引入了新的研究问题,这些问题是由硬件加速器的使用引起的(例如,优化和映射跨异构计算单元的查询计划,以及利用硬件流水线和并行性来提高性能)。在本文中,我们详细讨论了这些挑战,并列出了解决这些问题的可能方法。
2019-05-24 cs.AR cs.DB cs.DC
Ontology-based Mediation with Quality Criteria
本文提出基于本体与质量准则的数据集成语义系统OntMed,通过语义验证生成无错误全局分析上下文,提供准确统一数据视图,并在OAEI 2015的OA4QA赛道中成功回答所有评估查询。
2023-07-03 cs.DB
Unified Data Discovery across Query Modalities and User Intents
The University of Queensland(昆士兰大学);The University of Wollongong(伍伦贡大学);CSIRO’s Data61(澳大利亚联邦科学与工业研究组织数据61)
本文提出UniDisc框架,支持自然语言和表格查询,统一处理多样用户意图,通过上下文信号学习鲁棒表征,实现在不同数据发现场景中的统一相关性评估。
2026-04-29 cs.DB
Effective Individual Fairest Community Search over Heterogeneous Information Networks
针对异构信息网络中社区搜索忽视个体公平性的问题,提出IFCS问题及基于探索过滤、消息与下界剪枝的高效算法,在四个真实数据集上验证了其有效性,速度至少提升3倍。
2024-04-18 cs.DB cs.DS cs.SI
Constraint-based Query Distribution Framework for an Integrated Global Schema
分布式异构数据源需要使用全局模式进行统一查询。对全局模式的查询被重新制定,以便它可以在本地数据源上执行。全局架构和映射中的约束用于源选择、查询优化以及查询分区和复制的数据源。所提供的系统都是基于XML的,它以XML形式提出查询,转换并将本地结果集成到XML文档中。贡献包括在我们现有的全球模式,有助于在源选择和查询优化,和查询分布式异构数据源的全球查询分布框架的约束的使用。
2010-04-13 cs.DB cs.DC cs.IR
DataKernelBench: Can LLMs Optimize Database Queries on GPUs?
IBM Research(IBM研究院);TU Wien(维也纳技术大学)
本文提出DataKernelBench基准,评估LLM在GPU上优化数据库查询内核的能力,实验显示最强模型配置在TPC-H数据集上实现2.11倍加速,工作负载上下文对性能影响大于硬件上下文。
2026-10-16 cs.AI cs.CL cs.DB
PixelsDB: Serverless and NL-Aided Data Analytics with Flexible Service Levels and Prices
Renmin University of China(中国人民大学);EPFL(洛桑联邦理工学院)
本文提出开源数据分析系统PixelsDB,通过微调语言模型驱动的自然语言界面生成SQL,结合无服务器查询引擎与灵活SLA定价机制,帮助非专家用户高效探索数据并提升系统可用性。
2024-12-23 cs.AI cs.DB cs.DC
Probabilistic Search for Structured Data via Probabilistic Programming and Nonparametric Bayes
Massachusetts Institute of Technology(麻省理工学院)
数据库分布广泛,但提取相关数据可能很困难。在没有大量领域知识的情况下,多变量搜索查询通常返回稀疏或无信息的结果。提出了一种基于概率规划和非参数贝叶斯的结构化数据搜索方法。用户使用概率语言指定查询,该语言将标准SQL数据库搜索操作符与称为预测相关性的信息理论排名功能相结合。预测相关性可以通过基于来自CrossCat的后验样本的快速稀疏矩阵算法来计算,CrossCat是用于高维、异质类型数据表的非参数贝叶斯模型。其结果是一个灵活的搜索技术,适用于广泛的一类信息检索问题,我们集成到贝叶斯数据库,概率数据分析的概率编程平台。本文展示了美国大学数据库,全球公共卫生宏观经济指标和经典汽车的应用程序。我们发现,人类评估者通常更喜欢概率搜索的结果,而不是标准基线的结果。
2017-04-04 cs.AI cs.DB cs.LG
Blue Data Intelligence Layer: Streaming Data and Agents for Multi-source Multi-modal Data-Centric Applications
本文提出Blue数据智能层,通过整合异构数据源、多模态信息及上下文数据,解决多源多模态数据导向应用中的复杂查询需求,结合智能体与数据处理实现自然语言到SQL的扩展。
2026-04-16 cs.AI cs.DB
Query-based Industrial Analytics over Knowledge Graphs with Ontology Reshaping
Bosch Center for Artificial Intelligence(博世人工智能中心);Oslo Metropolitan University(奥斯陆城市大学);University of Oslo(奥斯陆大学);Nanjing University(南京大学);City, University of London(伦敦城市大学)
包括设备诊断和异常检测在内的工业分析严重依赖于异构生产数据的集成。知识图谱作为数据格式和本体作为统一的数据模式是一种重要的解决方案,它提供了高质量的数据集成和一种方便的、标准化的方式来交换数据并在其上分层分析应用。事实上,这样的知识库大大增加了用户编写查询的训练时间,消耗大量的存储冗余信息,并且难以维护和更新。为了解决这个问题,我们提出了一个本体重塑的方法,将本体转化为KG模式,更好地反映了底层数据,从而有助于构建更好的KG。在这张海报中,我们对我们正在进行的研究进行了初步讨论,通过一组丰富的SPARQL查询来评估我们的方法,并讨论了我们的发现。
2022-09-22 cs.AI cs.DB
Beyond Single-Modal Analytics: A Framework for Integrating Heterogeneous LLM-Based Query Systems for Multi-Modal Data
University of Hawaii at Manoa(夏威夷大学曼纳oa分校);University of Florida(佛罗里达大学)
本文提出Meta Engine,一种整合异构LLM查询系统的框架,通过统一的语义查询引擎提升多模态数据处理性能。
2026-03-02 cs.AI cs.DB
Computational Onboard Data Management for Heterogeneous Autonomous Vehicle Streams
University of Delaware(特拉华大学)
AVS是一种面向自动驾驶车辆的计算与分层存储系统,通过模态感知压缩、热-冷分层和轻量级元数据层,实现高效的数据存储与检索。
2026-10-06 cs.DB cs.DC cs.OS