Densest Subgraph in Streaming and MapReduce
寻找图的局部稠密成分的问题是数据分析中的一个重要问题,具有广泛的应用,从社区挖掘到垃圾邮件检测和生物网络模块的发现。在本文中,我们提出了新的算法,发现在流模型中的denominator子图。对于任何n>0,我们的算法使O((log n)/log(1+ n))通过输入,并找到一个子图,其密度保证在一个因素2(1+ n)的最佳。我们的算法也很容易并行化,我们通过在MapReduce模型中实现它们来说明这一点。此外,我们进行了大量的真实世界的图显示我们的算法在实践中的性能和可扩展性进行了广泛的实验评估。
2012-01-31 cs.DB
Optimizing Subgraph Queries by Combining Binary and Worst-Case Optimal Joins
University of Waterloo(滑铁卢大学)
本研究针对子图查询优化问题,设计了基于代价的优化器,可生成混合二元连接与最坏情况最优多路交集的计划,还提出执行时自适应调整顶点顺序的技术,经实验验证有效且已集成至Graphflow DBMS。
2019-06-02 cs.DB
Evaluating Complex Queries on Streaming Graphs
我们研究的问题,评估持久性查询流图的原则方式。这些查询需要在无界和非常高速的图形流上进行评估。我们定义了一个流图数据模型和查询模型,将导航查询,子图查询和路径作为一等公民。为了支持这个成熟的查询模型,我们开发了一个流图代数,它通过复杂的结构描述持久图查询的精确语义。我们提出了转换规则,并描述了查询制定和计划生成持久的图形查询流图。我们的流图查询处理器的实现显示了我们的方法的可行性,并允许我们衡量高性能的收益获得查询处理流图。
2021-08-01 cs.DB
Skew Handling in Aggregate Streaming Queries on GPUs
如今,数据库系统要处理的数据已经变得如此之大,以至于任何传统的集中式技术都是不够的。与此同时,基于GPU的通用计算(GPGPU)最近成功地引起了数据管理社区的关注,因为它能够以较小的成本实现显著的速度提升。高效的偏斜处理是并行查询中的一个众所周知的问题,与执行环境无关。在这项工作中,我们调查的问题,在GPU上的并行聚合查询的负载不平衡的解决方案是由偏斜的数据。我们提出了一个通用的负载平衡框架,以及几个实例,我们的实验评估。据我们所知,这是第一次尝试在GPU上为数据库操作提供运行时负载平衡技术。
2013-09-03 cs.DB cs.DC
Dense Subgraph Maintenance under Streaming Edge Weight Updates for Real-time Story Identification
近年来,社交媒体出现了前所未有的激增。全球各地的人们每天撰写数百万篇博客文章、社交网络状态更新等。这种丰富的信息流可用于持续识别吸引大众关注的新兴故事和事件。故事可以通过紧密耦合的现实世界实体组来识别,即人,位置,产品等,都与故事有关。所涉及的数据的庞大规模和快速演变需要高效的技术来识别每个时间点的重要故事。实时的【形】故事识别的主要挑战是在流边缘权重更新(由用户生成的内容流产生)下维护密集子图(对应于紧耦合实体组)。这是第一个研究稠密子图的有效维护下,这样的流边权重更新的工作。对于广泛的密度的定义,我们推导出理论结果的变化幅度,一个单一的边缘权重更新可能会导致。在此基础上,我们提出了一种新的算法,DYNDENS,它优于现有的技术适应这种设置,并产生有意义的结果。我们的方法通过对大规模真实和合成数据集的全面实验评估进行了验证。
2012-03-01 cs.DB
GeoFlink: A Distributed and Scalable Framework for the Real-time Processing of Spatial Streams
Apache Flink是一个开源系统,用于批量和流数据的可扩展处理。Flink本身并不支持空间数据流的高效处理,这是许多处理空间数据的应用程序的要求。除了Flink之外,其他可扩展的空间数据处理平台,包括GeoSpark、Spatial Hadoop等,都不支持流式工作负载,只能处理静态/批量工作负载。为了填补这一空白,我们提出了GeoFlink,它扩展了Apache Flink,以支持空间数据类型,索引和连续查询空间数据流。为了能够有效地处理空间连续查询,并在Flink集群节点之间进行有效的数据分布,引入了基于网格的索引。GeoFlink目前支持点数据类型上的空间范围、空间$k$ NN和空间连接查询。对真实空间数据流的广泛实验研究表明,GeoFlink实现了显着更高的查询吞吐量比普通Flink处理。
2020-08-03 cs.DB cs.DC
An In-Depth Study of Continuous Subgraph Matching (Complete Version)
连续子图匹配(CSM)算法在线查找数据图流上给定模式的出现。已经提出了许多增量CSM算法。然而,对这些算法的系统研究是缺失的,以确定它们的优点和缺点在广泛的工作负载。因此,我们首先提出模型CSM增量视图维护(IVM),以捕获现有算法的设计空间。然后,我们实现了六个代表CSM算法,包括IncIsoMatch,SJ-Tree,Graphflow,IEDyn,TurboFlux和SymBi,在一个共同的框架,基于IVM。我们进一步进行了广泛的实验,以评估竞争算法的整体性能,以及研究个别技术的有效性,找出导致性能差异的关键因素。我们获得了以下新的性能见解:(1)现有算法从查询图中映射到更新数据边的边开始搜索,可能导致许多无效的部分结果;(2)所有匹配顺序都基于简单的搜索,有时显得无效;(3)索引更新在某些查询上占主导地位的查询时间;(4)常数延迟枚举算法的索引更新开销较大。因此,没有算法在所有情况下都优于其他算法。因此,我们根据我们的实验结果给出了一些建议。特别是,SymBi索引对于稀疏查询或长时间运行的查询非常有用。IEDyn和TurboFlux的匹配顺序在树查询上工作得很好,Graphflow的匹配顺序在密集查询或查询和数据图都稀疏时工作得很好,否则,我们推荐SymBi的匹配顺序。
2022-03-14 cs.DB
Efficient Subgraph Isomorphism Finding in Large Graphs using Eccentricity and Limiting Recursive Calls
本文提出 SubISO 方法,利用同构不变量、顶点离心率选择枢轴并限制递归调用,在三个基准数据集上显著提升大型图子图同构查找效率。
2023-11-21 cs.DB
Reinforcement Learning Enhanced Weighted Sampling for Accurate Subgraph Counting on Fully Dynamic Graph Streams
Nanyang Technological University(南洋理工大学);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);University of Michigan(密歇根大学)
随着图形数据的流行度增加,对于各种应用,越来越需要对感兴趣的子图模式的出现进行计数。许多图是大规模的,也是完全动态的(插入和删除边),使这些计数的精确计算是不可行的。通常的做法是使用一小部分边缘作为样本来估计计数。现有的完全动态图的采样算法以均匀的概率对边进行采样。在本文中,我们表明,我们可以做得更好,如果我们采样的基础上,他们的个别属性的边缘。具体来说,我们提出了一个加权采样算法称为WSD估计的子图计数在一个完全动态的图形流,根据其权重,表明其重要性和反映其属性的边缘进行采样。我们使用一种基于强化学习的新方法,以数据驱动的方式确定边缘的权重。我们进行了广泛的实验,以验证我们的技术可以产生更小的误差估计,同时往往运行速度比现有的算法。
2022-11-13 cs.DB cs.LG
Tracking Where Events Take Place: Reverse Spatial Term Queries on Streaming Data
在线用户生成的大量内容被地理标记,这为在各种基于位置的服务中进行查询提供了丰富的资源。此类服务中的一类重要查询涉及内容和位置之间的关联。在本文中,我们研究了两种类型的查询流地理标记数据:1)“Top-k反向频繁空间查询”,其中给定一个术语,目标是找到前K个位置,该术语是频繁的,和2)“词频空间查询”,这是找到一个术语在给定位置的预期频率。为了有效地支持这些查询流设置,我们的模型术语作为事件,并探索地理分布的概率模型,使我们能够估计的频率,在没有保持在流草图或摘要的位置。我们研究了查询效率、更新效率和结果准确性之间的来回关系,并确定了一些可以开发高效和有效算法的最佳点。我们证明,我们的方法可以扩展到支持多项查询。为了评估我们的算法的效率,我们进行了一个相对较大的收集地理标记的推文和地理标记的Flickr照片的实验。评估表明,我们提出的方法达到了很高的精度时,只有有限的内存量。此外,与最近的基线相比,查询时间被改善了2-3个数量级,而准确性没有太大损失,并且在某些术语分布或更新策略下,更新时间可以进一步改善至少一个数量级。
2022-01-19 cs.DB
Schema-based Scheduling of Event Processors and Buffer Minimization for Queries on Structured Data Streams
我们介绍了一个扩展的XQuery语言,FluX,支持基于事件的查询处理和有意识的处理主内存缓冲区。这种语言的基于事件的查询可以以非常直接的方式在流XML数据上执行。然后,我们开发了一种算法,允许有效地重写Xcovery到基于事件的Flux语言。此算法使用来自DTD的顺序约束来调度事件处理程序,从而最小化计算查询所需的缓冲量。我们讨论了我们的框架内的查询优化和查询评估的各种技术方面。这是补充与我们的方法的实验评估。
2004-06-07 cs.DB
Fast Continuous Subgraph Matching over Streaming Graphs via Backtracking Reduction
针对流式图连续子图匹配中回溯主导成本的问题,提出 CaLiG 索引和 KSS 增量匹配范式以缩减并消除回溯,实验显示速度较 SOTA 快数个数量级。
2023-04-25 cs.DB cs.DS
CheetahGIS: Architecting a Scalable and Efficient Streaming Spatial Query Processing System
Southern University of Science and Technology(南方科技大学);Wuhan University(武汉大学)
针对现有系统处理大量移动对象和实时空间查询的局限性,本研究基于Apache Flink Stateful Functions构建CheetahGIS系统,通过模块化架构、优化方法和通用范式提升性能,并验证了其处理三种流查询的通用性。
2025-11-12 cs.DB cs.DC
Color: A Framework for Applying Graph Coloring to Subgraph Cardinality Estimation
针对图查询优化中基数估计易出现灾难性错误的问题,提出COLOR框架,利用图压缩理论生成捕获全局拓扑的紧凑摘要并进行关键优化,在保持快速推理和小内存占用的同时将准确率提升多达10$^3$倍。
2025-04-29 cs.DB
LSketch: A Label-Enabled Graph Stream Sketch Toward Time-Sensitive Queries
针对图流高效存储与查询挑战,提出LSketch,通过保留标签信息并引入滑动窗口模型,以次线性空间高精度支持结构与时间敏感查询,在四个真实数据集上验证了其优越性。
2023-04-06 cs.DB cs.DS
Continuous Queries for Multi-Relational Graphs
通过处理不断增长的社交媒体或新闻流来应对时间紧迫的事件是一项重大的技术挑战。这些数据源中的许多可以建模为多关系图。对于关系数据库,已经广泛地研究了用于搜索通常在监视应用中出现的罕见事件的连续查询或技术。这项工作致力于回答自然出现的问题:我们如何在动态图上有效地执行连续查询?本文提出了一种精确的子图搜索算法,利用时间特性的代表性查询在线新闻或社交媒体监测。该算法是基于一种新的数据结构称为子图连接树(SJ-Tree),利用底层的多关系图的结构和语义特征。本文最后在几个真实世界的数据集上进行了广泛的实验,证明了这种方法的有效性。
2013-03-09 cs.DB cs.SI
Incremental Query Processing on Big Data Streams
本文讨论了分布式流处理引擎(DSPE)上的大规模增量数据分析的在线查询处理。我们的目标是将任何类似SQL的查询自动转换为增量DSPE程序。与其他方法相比,我们得到的增量程序返回准确的结果,而不是近似的答案。这是通过在查询计算生存期内保留最小状态,并使用增量计算技术在每个时间间隔(取决于当前状态和最新批次的数据)返回准确的快照答案来实现的。我们的方法可以处理嵌套数据汇集上的多种形式的查询,包括迭代和嵌套查询、具有聚合的分组和等价连接。最后,我们报告了我们的框架的原型实现,称为MRQL流,运行在Spark之上,我们通过实验验证了我们的方法的有效性。
2016-03-06 cs.DB cs.DC
AgileDART: An Agile and Scalable Edge Stream Processing Engine
针对传统数据处理系统难以适配边缘应用低延迟、高并发、环境异构动态的问题,提出AgileDart边缘流处理引擎,通过动态数据流抽象和老虎机路径规划模型,相较现有方案在延迟、扩展性和适应性上表现更优。
2025-07-29 cs.DB cs.DC
Continuous Top-k Queries over Real-Time Web Streams
Web已经成为一个大规模实时的【形】信息系统,迫使我们修改如何有效地评估用户的信息相关性,以及如何有效地实现信息检索和传播功能。为了增加信息相关性,诸如Twitter和Facebook之类的实时的【形】Web应用利用“实时的【形】”用户生成的事件(例如,转发、回复、喜欢)来扩展内容和社交图谱相关性分数。为了适应高到达率的信息项和用户事件,我们探索了一个发布/订阅模式,我们索引查询和更新的飞行结果,每次一个新的项目和相关的事件到达。在这种情况下,我们需要处理结合静态和动态分数的连续top-k文本查询。据我们所知,这是解决如何在连续top-k查询设置中处理不可预测的动态分数的第一项工作。
2016-10-20 cs.DB
On Summarizing Graph Streams
图流是指边以流的形式顺序更新的图,具有广泛的应用,例如网络安全、社交网络和交通网络。研究了图流的摘要问题。具体地说,给定一个图流G,有向或无向的,目标是总结G为S与小得多的(次线性)空间,线性的建设时间和恒定的维护成本为每个边缘更新,使S允许许多查询G近似有效地进行。由于图流的庞大容量和高度动态性,总结它们仍然是一个非常困难的问题,如果不是不可能的话。总结数据流的广泛使用的实践是独立地处理每个元素,例如,基于散列或采样的方法,而不跟踪数据流中元素之间的连接,这使得这些摘要在支持图形流上的复杂查询方面的能力有限。本文讨论了一个根本不同的哲学总结图流。我们提出了gLava,概率图模型,而不是治疗的边缘(流元素)作为操作单元,使用更细粒度的节点在一个元素。这将自然地形成一个新的图形草图,其中边捕获元素内部的连接,节点维护元素之间的关系。我们讨论了广泛的支持图查询,并建立基本查询的理论错误界。
2015-10-08 cs.DB
A Selectivity based approach to Continuous Pattern Detection in Streaming Graphs
网络安全是当今时代最重要的技术挑战之一。检测敌对活动、防止知识产权和客户数据被盗是全球企业和政府机构的高度优先事项。网络防御者需要分析大规模、高分辨率的网络流,以识别、分类和缓解涉及跨机构和国家边界网络的攻击。许多网络攻击可以描述为子图模式,突出的例子是内部渗透(路径查询),拒绝服务(并行路径)和恶意传播(树查询)。这促使我们在连续设置中探索流图上的子图匹配。我们的工作的新颖之处在于使用子图分布统计收集流图,以确定查询处理策略。我们引入了一个“懒惰搜索”算法,其中的搜索策略是决定在一个顶点到顶点的基础上,取决于在顶点邻域中的匹配的可能性。我们还提出了一个度量命名为“相对选择性”,用于选择不同的查询处理策略。我们在真实的在线新闻,网络流量流和合成社交网络基准上进行的实验表明,与选择性不可知方法相比,速度提高了10- 100倍。
2015-03-03 cs.DB
GraphQL Live Querying with DynamoDB
我们提出了一种在数据库级别实现GraphQL实时查询的方法。我们在Go中的DynamoDB模拟模拟了分布式键值存储,并实现了实时查询以暴露可能的陷阱。实现实时查询的两个关键组件是存储在实时查询中选择的字段,并确定在每次数据库写入中更新了哪些对象字段。对系统的stream(key,fields)请求包含要包括在实时查询流中的字段,并且在随后的put(key,object)操作中,数据库异步地确定哪些字段被更新,并且如果这些字段与stream()请求重叠,则将新的查询视图推送到流。在讨论了我们的实现之后,我们探讨了使用实时查询的动机,例如简化软件通信,最大限度地减少数据传输,以及实现实时数据,并描述了使用GraphQL和实时查询构建软件的架构。
2020-08-01 cs.DB
SBG-Sketch: A Self-Balanced Sketch for Labeled-Graph Stream Summarization
各种领域中的应用依赖于处理图形流,例如,云故障排除系统的通信日志、道路网络交通更新以及社交网络上的交互。标记图流是指形成标记图的流传输的边的序列。标签感知应用程序需要在执行图形操作之前过滤图形流。由于这些流的大容量和高速度,通常更实际的是增量地构建图的有损压缩版本,并使用该有损版本来近似地评估图查询。当查询事先未知但与基于边标签的过滤谓词相关联时,挑战就会出现。令人惊讶的是,常见的,特别具有挑战性的是标签图流,具有高度倾斜的标签分布,也可能随着时间的推移而变化。本文介绍了自平衡图草图(SBG-Sketch,简称),一个图形化的草图,总结和查询标记图流,可以应对所有这些挑战。SBG-Sketch维护两个边属性的概要(例如,边权重)以及流式传输的图的拓扑。SBG-Sketch允许高效处理图遍历查询,例如,可达性查询。在各种真实图形流上的实验结果表明,SBG-Sketch将最先进方法的估计误差降低了99%。
2017-09-20 cs.DB
Accelerating Aggregation Queries on Unstructured Streams of Data
本文提出 InQuest 系统,通过低成本代理模型、采样和有限高精度预言机调用,在多模态非结构化数据流上实时估计聚合查询,并提供误差收敛保证与显著性能提升。
2023-08-17 cs.DB
Subgraph Pattern Matching over Uncertain Graphs with Identity Linkage Uncertainty
人们越来越需要能够捕获不确定性并回答图结构数据查询的方法。两种常见的不确定性类型是节点属性值的不确定性和边存在的不确定性。在本文中,我们结合了身份不确定性。标识不确定性表示从数据或引用中提到的对象到底层真实世界实体的映射的不确定性。我们提出了一个概率实体图(PEG)的概念,概率图模型,定义了一个分布在可能的图形在实体级别。该模型考虑到节点属性的不确定性,边缘存在的不确定性,身份的不确定性,从而使我们能够系统地原因所有三种类型的不确定性,在一个统一的方式。我们引入了一个一般框架,用于构建PEG给定的不确定数据在参考水平和开发高效的算法来回答子图模式匹配查询在这种设置。我们的算法是基于两个新的想法:上下文感知的路径索引和减少连接候选人,大大减少了查询搜索空间。一个全面的实验评估表明,我们的方法优于基线实现的数量级。
2013-05-30 cs.DB
Zero-Shot Cost Models for Distributed Stream Processing
本文提出了一种分布式流处理系统(DSPS)的学习成本估计模型,旨在提供准确的执行查询的成本预测。这项工作的一个主要前提是,所提出的学习模型可以推广到开箱即用的流工作负载的动态。这意味着一旦训练好的模型就可以准确地预测性能指标,例如延迟和吞吐量,即使数据和工作负载的特性或操作员对硬件的部署在运行时发生变化。这样,该模型可用于解决诸如优化操作符的放置等任务,以最小化流查询的端到端延迟或最大化其吞吐量,即使在不同的条件下。我们对著名的DSPS Apache Storm的评估表明,该模型可以准确地预测看不见的工作负载和查询,同时在现实世界的基准测试中推广。
2022-07-08 cs.DB cs.DC
Skyline Queries Over Incomplete Data Streams (Technical Report)
在实际应用中,由于传感器设备的故障或数据汇集技术的不完善,真实世界的流数据往往包含缺失或不完整的数据属性.在本文中,我们将形式化和解决一个新的和重要的问题,命名为天际线查询不完整的数据流(Sky-iDS),检索天际线对象(在缺失属性的存在下)具有高置信度的不完整的数据流。为了解决Sky-iDS问题,我们将设计有效的方法,通过差分依赖(DD)规则,从不完整的数据流中估算对象的缺失属性。我们将提出有效的修剪策略,以减少搜索空间的Sky-iDS问题,设计成本模型为基础的索引结构,以方便数据填补和skyline计算在同一时间,并集成我们提出的技术到一个高效的Sky-iDS查询应答算法。已经进行了大量的实验,以确认我们的Sky-iDS处理方法在真实和合成数据集的效率和有效性。
2019-09-26 cs.DB
Distributed Subgraph Enumeration via Backtracking-based Framework
在数据图中寻找或监视与给定模式图同构的子图实例是许多图分析应用(诸如网络模体挖掘和欺诈检测)中的基本查询操作。现有的分布式方法在通信方面效率低下。在分布式多路连接过程中,它们必须对部分匹配结果进行混洗。部分匹配结果可能比数据图本身大得多。为了克服这个缺点,我们开发了一个分布式子图枚举的Batch-BENU框架(B-BENU)。B-BENU并行执行一组本地搜索任务。每个任务在数据图中的顶点周围枚举子图,由基于回溯的执行计划指导。B-BENU不混洗任何部分匹配结果。相反,它将数据图存储在分布式数据库中。每个任务根据需要查询数据图的邻接集。为了支持动态数据图,我们提出了增量模式图的概念,并将连续子图枚举转化为在每个时间步枚举增量模式图。我们开发了流-BENU框架(S-BENU)来有效地枚举它们的匹配。我们实现了B-BENU和S-BENU与本地数据库缓存和任务拆分技术。大量的实验表明,B-BENU和S-BENU可以扩展到大数据图和复杂模式图。它们分别比最先进的方法高出一个和两个数量级。
2020-07-16 cs.DB cs.DC
PIWD: A Plugin-based Framework for Well-Designed SPARQL
在现实世界的数据集(例如,DBpedia查询日志)中,构建在仅包含AND和OPT操作符的精心设计的模式(简称WDAO模式)上的查询在所有SPARQL查询中占很大比例。在本文中,我们提出了一个基于插件的框架,所有的选择查询建立在WDAO模式,名为PIWD。该框架是基于一个解析树称为\emph{well-designed AND-OPT tree}(简称,WDAO树),其叶子是基本图形模式(BGP)和内部节点是OPT操作。我们证明了,对于任何WDAO模式,它的解析树可以等价地转化为WDAO树。基于所提出的框架,我们可以采用任何查询引擎来评估BGP评估查询建立在WDAO模式在一个方便的方式。理论上,由于BGP的查询计算等价于子图同态,所以我们可以将WDAO模式的查询计算归结为子图同态和BGP。最后,我们在gStore和RDF-3X上的初步实验表明,PIWD可以有效地回答所有基于WDAO模式的查询。
2016-10-07 cs.DB
MultiGraphMatch: a subgraph matching algorithm for multigraphs
针对多重图子图匹配研究不足的问题,提出MultiGraphMatch算法,采用位矩阵索引与基于可匹配边基数的查询边排序技术,支持CYPHER带逻辑条件查询,在多类图数据上性能优于或持平于现有方案。
2025-01-16 cs.DB
LMKG: Learned Models for Cardinality Estimation in Knowledge Graphs
准确的基数估计是实现最佳查询计划的关键因素。对于RDF引擎,特别是在常见的知识图谱处理工作负载下,缺乏模式、相关谓词以及涉及多个连接的各种类型的查询,使得基数估计成为一项特别具有挑战性的任务。在本文中,我们开发了一个框架,称为LMKG,采用深度学习方法,有效地估计RDF图查询的基数。我们采用两种监督(即,深度神经网络)和无监督(即,自回归模型)方法,其适应于子图模式并产生更准确的基数估计。为了将底层数据提供给模型,我们提出了一种新的编码,将查询表示为子图模式。通过对真实世界和合成数据集的广泛实验,我们评估了我们的模型,并表明它们在准确性和执行时间方面总体上优于最先进的方法。
2021-02-21 cs.DB
Bounded-Memory Criteria for Streams with Application Time
Institute of Information Systems (IFIS)(信息系统研究所);University of Lübeck(吕贝克大学)
有界内存可计算性仍然是人工智能和数据库领域的焦点,这些领域处理流上的可行计算-无论是低级流上的可行算术计算,还是关系数据流上声明式指定查询的可行查询应答,甚至是流上高级查询的可行查询应答。本体中的一组约束,例如在基于本体的数据访问(OBDA)的范例中。在经典的OBDA中,通过将高级查询转换为数据源级别的查询来回答高级查询。该转换需要重写步骤,其中来自本体的知识被并入查询中,随后是相对于一组映射的展开步骤。给定OBDA设置,很难决定是否以及如何有效地回答查询。具体地,难以决定查询是否可以在有界存储器中被回答,即,在恒定空间w.r.t.数据流的无限增长前缀。这项工作提出了标准的有限内存的可计算性选择项目连接(SPJ)查询流与应用程序的时间。确定SPJ查询是否可以在常量空间中得到回答比高级查询更容易,因为本体和映射集都不是输入的一部分。使用经典OBDA的转换过程,这些标准可以帮助决定回答流上的高级查询的效率。
2020-07-30 cs.AI cs.DB
Jumping Evaluation of Nested Regular Path Queries
嵌套规则路径查询用于查询图数据库和RDF三元组存储。我们提出了一个新的算法,用于评估从一组起始节点在组合线性时间图上的嵌套规则路径查询。我们表明,这个复杂性的上限可以降低,使其依赖于查询的自上而下所需的子图的大小,我们引入的概念。对于实际中的许多查询,自上而下需要的子图比整个图要小得多。我们的算法是基于一种新的编译模式,从嵌套的常规路径查询,一元数据查询。它的复杂性上界来自自顶向下数据库评估的已知属性。作为一个应用程序,我们表明,我们的算法允许重新制定一个非常有效的基于自动机的算法Maneth和Nguyen提出的一个简单的变种,评估基于索引和跳转的数据树中的导航路径查询。此外,它克服了Maneth和Nguyen的一些局限性:它不限于树,适用于图;它不限于向前导航查询,但可以处理任何嵌套的规则路径查询,它可以有效地实现,而无需任何专用技术,通过使用任何有效的数据库评估器,如LogicBlox。
2022-08-05 cs.CC cs.DB cs.DS
Semantic and Influence aware k-Representative Queries over Social Streams
社交平台上不断产生的海量数据,成为用户重要的信息源。从社会流中获取新鲜和有价值的信息的主要方法是\emph{social search}。虽然社会化搜索已经有了广泛的研究,但现有的方法只关注查询结果的\emph{relevance},而忽略了\emph{representativeness}。在本文中,我们提出了一种新的语义和影响意识的$k$ -代表($k$ -SIR)查询的社会流的基础上的主题建模。具体来说,我们认为用户查询和元素都表示为主题空间中的向量。$k$ -SIR查询检索在查询时间w.r. t在滑动窗口上具有最大值\emph{representativeness}的$k$元素的集合。查询向量。元素集的代表性包括由主题模型计算的语义和影响力分数。随后,我们设计了两个近似算法,即\textsc{Multi-Topic ThresholdStream}(MTTS)和\textsc{Multi-Topic ThresholdDescend}(MTTD),实时处理$k$ -SIR查询。这两种算法都利用了在每个主题上维护的排名列表,用于具有理论保证的$k$ -SIR处理。在真实数据集上的大量实验证明了$k$ -SIR查询与现有方法相比的有效性以及我们提出的$k$ -SIR处理算法的效率和可扩展性。
2019-01-29 cs.DB cs.SI
CQELS-TrieGS Report: Snapshot-Consistent Constant-Delay Enumeration for Streaming Graph Queries
Technical University Berlin(柏林工业大学)
该研究针对流图查询场景,提出TrieGS共享内存引擎,实现快照一致的常延迟枚举,兼顾更新吞吐量与查询结果的一致性,解决了现有方法的相关缺陷。
2026-08-18 cs.DB
Distributed Processing of k Shortest Path Queries over Dynamic Road Networks
动态道路网络中k-最短路径的确定问题是许多基于位置服务的基础。道路网络是动态的,在这个意义上,在相应的图中的边的权重不断变化,随着时间的推移,代表不断变化的交通状况。很多时候,这样的服务必须处理大量的KSP查询在同一时间在大型道路网络,因此,迫切需要确定分布式解决方案,这个问题。然而,大多数现有的方法被设计为以顺序的方式(即,第(i+1)最短路径是基于第i最短路径生成的),这限制了它们在分布式设置中的可伸缩性和适用性。因此,我们提出KSP-DG,一个分布式算法,用于确定动态图中的k-最短路径。它基于将整个图划分为更小的子图,并将确定KSP的问题减少到相关子图中的部分KSP的计算,其可以在服务器集群上并行执行。提出了一种称为DTLP的分布式两级索引,以便于有效地识别相关子图。DTLP的一个显著特点是它索引了一组对变化的交通状况不敏感的虚通路,从而在动态道路网络中实现非常低的维护成本。这是第一次处理的问题,处理KSP查询动态道路网络。在真实道路网络上进行的大量实验证实了我们的建议优于基线方法。
2022-05-13 cs.DB cs.DS
Process Faster, Pay Less: Functional Isolation for Stream Processing
EPFL(洛桑联邦理工学院);TU Wien(维也纳工业大学);Oracle(甲骨文公司)
FunShare通过动态分组查询提升资源效率,保持性能,减少基础设施成本。
2026-03-19 cs.DB
Localized RETE for Incremental Graph Queries with Nested Graph Conditions
Hasso Plattner Institute at the University of Potsdam(波茨坦大学哈索·普拉特纳研究所)
本文提出了一种局部化RETÉ方法,用于在带有嵌套图条件的增量图查询中提高效率,减少计算开销。
2026-01-08 cs.DB cs.LO
Sketch-based Querying of Distributed Sliding-Window Data Streams
虽然传统的数据管理系统专注于在集中式设置中评估静态数据集上的单个临时查询,但一些新兴的应用程序需要(可能是连续的)对广泛分布且不断更新的动态数据的查询的答案。此外,这样的查询答案通常需要对“陈旧”的数据打折,并且仅对最近数据到达的滑动窗口进行操作(例如,在过去24小时内发生的数据更新)。这样的分布式数据流应用要求新颖的算法解决方案,其既具有时间和空间效率(以管理高速数据流),又具有通信效率(以处理物理数据分发)。在本文中,我们考虑的问题,复杂的查询回答分布式,高维数据流的滑动窗口模型。我们介绍了一种新的草图技术(称为ECM草图),允许有效的汇总流数据在基于时间和基于计数的滑动窗口的概率精度保证。我们的草图结构使点以及内积查询,并可用于解决广泛的问题,如维护频率统计,找到重打击,计算分位数的滑动窗口模型。专注于分布式环境中,我们演示了如何ECM草图的个人,本地流可以组成生成一个(低错误)ECM草图摘要的顺序保持聚合的所有流,此外,我们展示了如何ECM草图可以利用连续监测滑动窗口查询分布式流。我们广泛的实验研究与两个现实生活中的数据集验证了我们的理论主张,并验证了我们的技术的有效性。据我们所知,我们是第一个工作,以解决高效,避免错误的复杂查询answ…[截断]。
2012-06-30 cs.DB
Hokusai - Sketching Streams in Real Time
我们描述了北斋,一个实时的系统,它能够捕捉任意序列的符号流的频率信息。该算法使用CountMin草图作为其基础,并利用草图是线性的这一事实。它提供任意事件的实时的统计数据,例如作为时间函数的查询流。我们使用因子分解近似来提供任意(时间,项目)组合的点估计。可以在恒定的时间内回答问题。
2012-10-16 cs.DB cs.DS
Symmetric Continuous Subgraph Matching with Bidirectional Dynamic Programming
在许多真实数据集中,例如社交媒体流和网络数据源,图形通过边插入和删除的图形更新流随时间而变化。检测这种动态图中的关键模式在各种应用领域中起着重要作用,例如欺诈检测、网络安全和社交网络的推荐系统。给定一个动态数据图和一个查询图,连续子图的匹配问题是为每个边插入找到所有正匹配,为每个边删除找到所有负匹配。最先进的算法TurboFlux使用查询图的生成树进行过滤。然而,使用生成树可能具有低修剪能力,因为它没有考虑查询图的所有边。在本文中,我们提出了一个对称的和更快的算法SymBi维护一个辅助数据结构的基础上有向无环图,而不是一个生成树,它保持了查询图和动态图之间的双向动态规划的中间结果。对真实和合成数据集的大量实验表明,SymBi在运行时间方面比最先进的算法高出三个数量级。
2021-04-02 cs.DB
FluxSieve: Unifying Streaming and Analytical Data Planes for Scalable Cloud Observability
Dynatrace Research(Dynatrace 研究)
FluxSieve通过统一流式与分析数据平面,实现高并发下查询性能的显著提升,同时保持低存储和计算开销。
2026-03-05 cs.DB cs.DC cs.PF
Efficient Error-tolerant Search on Knowledge Graphs
边标记图广泛用于描述数据库中实体之间的关系。给定一个查询子图,表示用户正在搜索的一个例子,我们研究的问题,有效地搜索类似的子图在一个大的数据图,其中的相似性定义在众所周知的图形编辑距离。我们称这些查询为“容错示例查询”,因为尽管图结构和标签有很小的变化,但仍然允许匹配。在一般情况下的问题是计算上棘手的,但有效的解决方案是可达的标签下的标签,通常在知识图谱的良好分布。我们提出了两个有效的精确算法,过滤和验证框架的基础上,在一个大的数据图,同构的查询图在一些编辑操作下,找到子图。我们的过滤方案,它使用周围的节点和路径的存在或不存在的邻域结构,显着减少了被传递到验证阶段的候选人的数量。此外,我们分析了我们的算法的成本和条件下,一个算法有望优于其他。我们的分析确定了一些影响成本的变量,包括查询边标签的数量和选择性以及数据图中节点的程度,并描述了它们之间的关系。我们根据经验评估我们的过滤方案和查询的有效性,我们的算法的效率和我们的成本模型在真实数据集上的可靠性。
2020-05-11 cs.DB
Approximate Integration of streaming data
我们近似分析查询流数据与加权水库采样。对于数据仓库的元组流,我们展示了如何近似一些OLAP查询。对于来自社交网络的图边流,我们将社区近似为水库中边的大连通分量。我们表明,随机图的模型,遵循幂律度分布,社区发现算法是一个很好的近似。给定来自两个源的图边的两个流,我们将{ \em社区相关性}定义为两个流中社区中的节点的分数。虽然我们不存储流的边,但我们可以近似社区相关性并定义{两个流的\em集成}。我们说明这种方法与Twitter流,与电视节目。
2017-09-13 cs.DB cs.SI
Resource Usage Estimation of Data Stream Processing Workloads in Datacenter Clouds
在可负担得起的虚拟化基础设施资源上的数据流的实时计算是运动处理架构中的重要数据形式。然而,在确保严格保证服务质量的同时处理这样的数据流是有问题的,这是由于:(i)不确定的流到达模式;(ii)需要处理不同类型的连续查询;以及(iii)连续查询的可变资源消耗行为。最近的工作探索了使用统计技术来估计SQL查询和OLTP工作负载的资源。所有这些技术都将每个查询的资源使用量近似为单个点值。然而,在其中数据流无休止地流过算子图并且造成性能和资源需求波动的数据流处理工作负载中,单点资源估计是不充分的。因为它既没有足够的表现力,也没有捕捉目标数据的多模态特性。为此,我们提出了一种新的技术,它使用混合密度网络,神经网络和混合模型的组合结构,估计整个频谱的资源使用概率密度函数。该方法是一种灵活方便的建模未知分布模型的手段。我们已经使用线性道路基准和TPC-H验证了模型,在许多误差指标下观察到高精度:均方误差,连续排名概率得分和负对数预测密度。
2015-01-28 cs.DB
GuP: Fast Subgraph Matching by Guard-based Pruning
针对现有子图匹配方法因候选顶点生成大量非同构子图导致计算成本高的问题,提出基于守卫剪枝的GuP算法,通过为候选顶点、边附加守卫并自适应过滤,高效求解现有最优方法无法在实际时间内处理的各类查询。
2023-06-11 cs.DB cs.DS cs.IR
Convolution and Cross-Correlation of Count Sketches Enables Fast Cardinality Estimation of Multi-Join Queries
针对多连接查询基数估计中结合快速更新与多连接处理能力的开放难题,提出基于Count Sketch卷积与互相关的新型概要方法,证明无偏且误差保证与AMS方法一致,实验显示更新速度提升数数量级、精度相当或更优。
2024-05-14 cs.DB
Efficient Cloud-edge Collaborative Approaches to SPARQL Queries over Large RDF graphs
Hunan University(湖南大学);University of Waterloo(滑铁卢大学);Peking University(北京大学)
本文提出一种高效云边协同方法,通过引入模式诱导子图和混合整数非线性规划模型,优化大规模RDF图SPARQL查询的性能。
2026-01-26 cs.DB
gMatch: Fine-Grained and Hardware-Efficient Subgraph Matching on GPUs
Shanghai Jiao Tong University(上海交通大学);ByteDance Inc(字节跳动);Guizhou University(贵州大学)
gMatch提出一种基于GPU的细粒度子图匹配方法,通过减少内存消耗和灵活的任务调度提升效率和可扩展性,实验表明其在性能和可扩展性上优于现有方法。
2026-04-12 cs.DB
Space-Efficient Sampling from Social Activity Streams
为了有效地研究网络域的特性并支持网络系统的开发(例如,在网络上操作的算法、协议),通常需要从大型复杂网络中采样代表性子图。虽然最近的子图采样方法已被证明工作良好,但它们专注于从内存驻留图中采样,并假设采样算法可以访问整个图,以便决定选择哪些节点/边。然而,许多大规模网络数据集太大和/或动态而不能使用主存储器(例如,电子邮件、推特、墙贴)。在这项工作中,我们制定了从大型图形流采样的问题。我们提出了一个流图采样算法,动态地保持一个代表性的样本在水库为基础的设置。我们评估我们提出的方法的有效性经验使用几个真实世界的数据集。在所有数据集中,我们发现我们的方法产生的样本更好地保留了原始图分布。
2012-06-20 cs.DB cs.SI physics.soc-ph
Knowledge-infused and Consistent Complex Event Processing over Real-time and Persistent Streams
物联网(IoT)和网络物理系统(CPS)中的新兴应用对执行在线分析的大数据平台提出了新的挑战。来自物联网部署的无处不在的传感器能够高速生成数据流,其中包括来自各种领域的信息,并在磁盘上积累大量数据。复杂事件处理(CEP)是一种重要的实时的【形】计算范式,用于分析连续数据流。然而,CEP的现有工作在很大程度上仅限于关系查询处理,暴露了查询规范和执行的两个明显差距:(1)为关系查询模型注入更高级别的知识语义,以及(2)跨时间空间的无缝查询评估跨越过去、现在和未来的事件。这些允许对具有不同学科属性的数据流进行可访问的分析,并帮助跨越速度(实时的【形】)和容量(持久)维度。在本文中,我们介绍了一个知识注入CEP(X-CEP)框架,它提供了领域感知的知识查询结构以及时态运算符,允许端到端查询跨越实时的【形】和持久流。我们将此查询模型转换为在线和离线数据流上的高效查询执行,提出了几种优化方法,以减轻通过评估语义谓词和访问大容量历史数据流引入的开销。提出的X-CEP查询模型和执行方法在我们的原型语义CEP引擎,SCEPter中实现。我们验证我们的查询模型使用域感知CEP查询从现实世界的智能电网应用程序,并实验分析我们的优化执行这些查询的好处,使用事件流从校园微电网物联网部署。
2016-11-02 cs.DB
Sequences, yet Functions: The Dual Nature of Data-Stream Processing
在过去的十年中,随着可用数据量的稳步增长,数据流处理的重要性不断提高。除了数据中心监控和点击分析等传统领域外,越来越多的支持网络的生产机器可以生成连续的数据流。由于其连续性,数据流上的查询可能更复杂,并且明显比数据库查询更难理解。由于用户必须考虑操作细节,维护和调试变得具有挑战性。当前的方法将数据流建模为序列,因为这是它们物理接收的方式。这些模型产生了一个以实现为中心的视角。我们探索一种替代的方式建模数据流的时间切片语义的重点。这种关注导致了一个基于函数的模型,它更适合于查询语义的推理。通过调整流处理中的相关概念的定义,我们的模型,我们说明了我们的方法的实用性。因此,我们将数据流和查询原语与函数式编程和数学中的概念联系起来。最值得注意的是,我们证明了数据流是单子,并展示了如何获得单子定义当前的数据流模型。我们提供了一个抽象的,但实际的角度对数据流相关的主题的基础上健全的,一致的查询模型。我们的工作可以作为未来的数据流查询语言的坚实基础。
2018-01-16 cs.DB
Monitoring the Top-m Aggregation in a Sliding Window of Spatial Queries
在本文中,我们提出并研究了流查询中空间对象的top-m秩聚合问题,其中,给定一组对象O,一个空间查询流(kNN或范围),目标是报告m个具有最高聚合秩的对象。对象的秩w.r.t.基于单个查询与查询位置的距离来计算单个查询,并且根据所有单个排名排序来计算聚合排名。这一基本问题的解决方案可用于监测空间对象的流行程度,这反过来又可为空间数据提供新的分析工具。我们的工作从三个不同的领域:排名聚合,连续查询和空间数据库的灵感。据我们所知,没有事先的工作,认为所有三个问题域在一个单一的上下文中。我们的问题是从经典的排名聚合问题的方式,空间对象的排名是依赖于流查询的位置是不知道的先验,是从连续的空间查询的问题,因为新的查询位置可以到达任何区域,但不移动不同。为了解决这个问题,我们展示了如何对任何看不见的查询的对象的秩进行上界和下界。然后,我们提出了一个近似的解决方案,以持续监测的top-m对象有效地,为此,我们设计了一个倒序文件(IRF)索引,以保证解决方案的误差界。特别是,我们提出了安全排名的概念,以确定当前的结果是否仍然有效或不当新的查询到达,并提出了验证对象的概念,以限制对象的数量来更新的前m个结果。我们还提出了一个精确的解决方案的应用程序中的近似解决方案是不够的。最后,我们进行了大量的实验来验证我们的解决方案的效率和有效性。
2016-10-21 cs.DB
Diba: A Re-configurable Stream Processor
针对硬件流处理研发成本高、上市周期长的问题,提出可重构流处理器Diba,采用单向数据流和分离式通用接口设计以简化查询映射,在TPC-H基准测试中验证了其处理不同规模数据流的有效性。
2024-08-27 cs.AR cs.DB