Vector fields, initial scaffolds and database reduction
Departamento de Matemáticas, Universidade de Santiago de Compostela(圣地亚哥-德孔波斯特拉大学数学系)
本文引入小范畴上的左、右向量场以约简有限无环范畴并保持有向同伦信息,证明右向量场约简保持有向截面范畴和数据库整体截面,并将初始支架推广至无环范畴以保持极限。
2026-09-16 cs.DB math.AT math.CT
A fusion algorithm for joins based on collections in Odra (Object Database for Rapid Application development)
在本文中,我们提出了一个目前正在开发的数据库编程方法,称为OSPOT(对象数据库快速应用程序开发)的工作原理完全面向对象的原则的功能。数据库程序设计语言称为SBQL(基于堆栈的查询语言)。我们讨论了ODB2中的一些概念,例如ODB2的工作,ODB2运行时环境如何操作,ODB2与.net和java的互操作性。目前,ODB2的开发阶段是查询优化。因此,我们提出了以前的工作,是在OSTOM有关查询优化,我们还提出了一个新的融合算法,OSTOM如何处理连接的基础上收集,如集,列表和数组的查询优化。
2011-11-13 cs.DB
Aggregation in Probabilistic Databases via Knowledge Compilation
在基于半环和半模代数结构的概率数据表示系统上,提出了一种基于聚集的正关系代数查询的查询评价技术。我们的评估技术的核心是一个程序,编译半模和半环表达式到所谓的分解树,其中的概率分布的计算可以在时间线性的产品中的概率分布的大小表示其节点。我们利用查询易处理性和多项式时间分解树之间的联系,给出了具有聚集的易处理查询的语法特征。该技术的原型被纳入概率数据库引擎SPROUT。我们报告自定义数据集和TPC-H数据的性能实验。
2012-01-31 cs.DB
Query Preserving Watermarking Schemes for Locally Treelike Databases
数字水印是一种在数字文档中嵌入信息的方法。人们已经对关系数据库和XML文档的水印技术做了大量的研究,其中嵌入信息的过程不应该过多地扭曲查询输出。最近,已经提出了一些技术,以水印的关系结构类保持一阶和一元二阶查询。对于Gaifman图具有有界度的关系结构,水印可以保留一阶查询。我们延长这条线的工作和研究水印方案的其他类别的结构。我们证明,关系结构的Gaifman图属于一类图,具有局部有界树的宽度,是封闭的未成年人,水印方案存在,保持一阶查询。我们使用先前已知的逻辑公式和图的属性,并在它们的基础上进行一些技术工作,使它们在我们的上下文中工作。这构成了理解算法设计和计算学习理论的技术可以适用于水印的程度的第一步的一部分。
2019-09-25 cs.DB cs.LO
Forecasting the cost of processing multi-join queries via hashing for main-memory databases (Extended version)
数据库管理系统(DBMS)仔细优化复杂的多连接查询,以避免昂贵的磁盘I/O。由于今天的服务器具有数十或数百GB的RAM,许多分析数据库的很大一部分成为内存驻留。即使在针对内存环境进行了仔细调优之后,线性磁盘I/O模型(如PostgreSQL中实现的模型)也可能对查询响应时间进行预测,其速度可能比内存驻留数据的最佳多连接查询计划慢2倍。本文介绍了一个内存I/O成本模型,以确定良好的评估策略,复杂的查询计划与多个基于哈希的等价连接内存驻留数据。使用三个不同的系统(包括Amazon EC2实例)仔细验证了建议的成本模型的准确性,以控制特定于硬件的差异。并行查询评估的先前工作提倡右深和浓密树的多连接查询,由于其更大的并行化和流水线的潜力。一个令人惊讶的发现是,基于磁盘的无共享系统的传统智慧并不直接适用于现代的一切共享存储层次结构。正如我们的模型所证实的那样,随着查询中连接数量的增加,最佳左深查询计划和右深查询计划之间的性能差距可以增长到大约10倍。
2015-07-21 cs.DB
Symbolic Querying of Vector Spaces: Probabilistic Databases Meets Relational Embeddings
University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
我们提出了统一的技术,从概率数据库和关系嵌入模型的目标执行复杂的查询不完整和不确定的数据。我们形式化的概率数据库模型,所有的查询。这使我们能够利用来自概率数据库的丰富的理论和算法文献来解决问题。虽然这种形式化可以与任何关系嵌入模型一起使用,但缺乏定义良好的联合概率分布会导致简单的查询问题变得难以证明。考虑到这一点,我们引入\TO,一个关系嵌入模型,旨在成为一个易于处理的概率数据库,利用典型的嵌入假设的概率框架。使用一个原则,高效的推理算法,可以从它的定义,我们经验证明,\TOs是一个有效的和一般的模型,这些查询任务。
2020-06-27 cs.AI cs.DB
Quantification in Double-Categorical Database Schemas
Norwich University(诺威奇大学)
该研究探讨双范畴数据库模式的量化结构,将代换右伴随、制表符等结构与逻辑算子结合,应用于查询优化,得出Frobenius互反律等优化规则并研究否定查询。
2026-08-26 cs.DB cs.LO math.CT
Performance Evaluation of Incremental K-means Clustering Algorithm
增量K-means聚类算法已经在论文[Chakraborty和Nagwani,2011]中提出和分析。这是一个非常创新的方法,适用于周期性增量的环境和处理大量的更新。本文利用大气污染数据库对增量式K均值聚类算法进行了性能评估。本文还描述了现有的K-均值聚类和增量K-均值聚类使用特定的数据库之间的性能评估的比较。它还评估了数据库中的特定变化点,增量K-means聚类的性能比现有的K-means聚类要好得多。数据库中的特定变化点被称为“阈值”或“数据库中的%增量变化”。本文还定义了增量K均值聚类算法的基本方法。
2014-06-18 cs.DB cs.IR
Giving the Right Answer: a Brief Overview on How to Extend Ranking and Skyline Queries
为了在数据库中检索最佳结果,我们使用Top-K查询和Skyline查询,但出现了一些问题。前者过于依赖用户偏好,这是难以量化的,可能会扭曲数据的获取,而后者往往输出太多的数据。在本文中,我们探讨了三个不同的研究分支,试图克服这些限制:灵活/受限的天际线,天际线排序/排名,后悔最小化。我们分析它们是如何工作的,并对它们进行比较,以指导读者选择最适合他们用例的方法。
2022-02-13 cs.DB
Enumerating Answers to First-Order Queries over Databases of Low Degree
本文研究低度数据库上的一阶查询评估,证明计数、成员测试和枚举答案均可实现伪线性时间或常数延迟。
2022-05-09 cs.DB cs.LO
SecSkyline: Fast Privacy-Preserving Skyline Queries over Encrypted Cloud Databases
众所周知的云计算的好处刺激了数据库服务外包的流行,人们可以求助于云来方便地存储和查询数据库。随着这种流行趋势的到来,数据隐私受到了威胁,因为云可以访问可能包含敏感信息(如医疗或金融数据)的数据库和查询。已经提出了大量用于查询加密数据库的工作,其中主要集中在安全关键字搜索上。在本文中,我们而是专注于支持安全的天际线查询处理加密外包数据库,在那里做了很少的工作。天际线查询是一种高级数据库查询,对于多准则决策系统和应用程序非常重要。我们提出了SecSkyline,一个新的系统框架,建立在轻量级密码学的快速隐私保护天际线查询。SecSkyline不仅为外包数据库、查询和结果的内容机密性提供了强有力的保护,而且还为可能导致间接数据泄漏的数据模式提供了强有力的保护,例如数据点之间的支配关系和搜索访问模式。大量的实验表明,SecSkyline是大大优于国家的最先进的查询延迟,高达813 $\times$的改善。
2022-11-03 cs.CR cs.DB
Just-Right Consistency: reconciling availability and safety
根据CAP定理,分布式数据存储系统可以保证分区下的一致性(CP)或分区下的可用性(AP),但不能同时保证两者。这导致了CP数据库和AP数据库之间的分裂,CP数据库中的更新是同步的,AP数据库中的更新是异步的。然而,没有内在的理由将所有更新都等同对待:简单地说,系统应该尽可能可用,并且同步到足以使应用程序正确。基于以下见解,我们提供了一种原则性的正确一致性方法来设计此类应用程序,协调正确性与可用性和性能:(i)无重复数据类型(CRDTs)数据模型以直观和原则性的方式支持异步更新。(ii)涉及联合或相互排序更新的不变量与AP兼容,并且可以由transmittance Causal Consistency(transmittance Causal consistency)保证,transmittance causal consistency是不损害可用性的最强一致性模型。关于其余的“CAP敏感”不变量:(iii)对于有界计数器的常见模式,我们提供了被证明正确且有效的封装数据类型;(iv)在一般情况下,静态分析可以识别何时不需要同步以确保正确性。我们的Antidote云数据库系统支持CRDTs、事务因果一致性和有界计数器数据类型。支持工具通过静态分析和CAP敏感不变量的证明来帮助设计应用程序。该系统支持工业级应用程序,并已在几个地理分布数据中心的数百台服务器上进行了实验测试。
2018-01-19 cs.DB cs.DC
Nesting Depth of Operators in Graph Database Queries: Expressiveness Vs. Evaluation Complexity
为图结构化数据设计查询语言是一个活跃的研究领域,其中用于查询评估的表达性和高效算法是相互冲突的目标。为了更好地处理动态变化的数据,最近的工作是设计查询语言,它可以比较存储在图数据库中的值,而不需要对查询中的值进行硬编码。其主要思想是允许查询中包含变量,并在计算查询时将变量绑定到值。对于只绑定变量一次的查询语言,查询计算通常是NP完全的。有些查询语言允许在Kleene星型运算符的作用域内进行绑定,而这些运算符本身也可以在绑定的作用域内,等等。我们定义了一种方法来语法控制嵌套深度的迭代绑定,并研究如何影响表现力和效率的查询评估。结果是一个无限的、按语法定义的表达式层次结构。我们证明了相应的语言层次是严格的。给定层次结构中的表达式,我们证明检查较低级别是否存在语言等效表达式是不可判定的。我们证明,评估查询的基础上,在级别i的表达式可以在$Σ_i$在多项式时间层次结构。量化布尔公式的可满足性可以归结为查询评价,我们研究了布尔量词的交替和迭代绑定的嵌套深度之间的关系。
2016-05-05 cs.DB cs.FL cs.LO
Query Significance in Databases via Randomizations
HIIT(赫尔辛基信息技术研究所);Helsinki University of Technology(赫尔辛基理工大学);Yahoo! Research(雅虎研究院)
许多类型的结构化数据通常以相互关联的表的多关系格式存储。在此关系模型下,可以使用关系查询进行探索性数据分析。作为示例,在互联网电影数据库(IMDb)中,可以使用查询来检查动作电影的平均排名是否高于戏剧电影的平均排名。我们考虑的问题,评估这样的查询返回的结果是否是统计上显着的,或者只是一个随机的工件的结构中的数据。我们的方法是基于随机表中出现的查询和重复的随机表上的原始查询。事实证明,在多关系数据中没有唯一的随机化方法。我们提出了几种随机化技术,研究它们的属性,并展示了如何找出哪些查询或假设对我们的数据产生统计上显着的信息。我们给出了真实和生成的数据的结果,并展示了一些查询的意义如何在不同的随机化之间变化。
2009-06-30 cs.AI cs.DB
Big Data Model Simulation on a Graph Database for Surveillance in Wireless Multimedia Sensor Networks
传感器以各种形式存在于世界各地,如手机,监控摄像头,智能电视,智能冰箱和血压监测仪。通常,大多数传感器是其他系统的一部分,这些系统具有组成网络的类似传感器。其中一个网络由数百万个连接到互联网的传感器组成,称为物联网(IoT)。随着无线通信技术的进步,多媒体传感器及其网络有望成为物联网的主要组成部分。无线多媒体传感器网络在火灾探测、城市监控、预警系统等不同领域已经有了很多研究。所有这些应用都需要定位传感器节点,并以实时数据流长时间收集数据,这些数据被认为是大数据。大数据可能是结构化的或非结构化的,需要存储以供进一步处理和分析。分析多媒体大数据是一项具有挑战性的任务,需要高层次的建模来有效地从数据中提取有价值的信息/知识。在这项研究中,我们提出了一个大的数据库模型的基础上,图数据库模型来处理无线多媒体传感器网络产生的数据。我们引入了一个模拟器来生成合成数据,并使用图模型作为一个大数据库存储和查询大数据。为了这个目的,我们评估了著名的基于图的NoSQL数据库,Neo4j和OrientDB,和一个关系数据库,MySQL。我们已经运行了一些查询实验,我们实现的模拟器,以显示在无线多媒体传感器网络的监控数据库系统(S)是有效的和可扩展的。
2017-08-13 cs.DB cs.NI
Usable & Scalable Learning Over Relational Data With Automatic Language Bias
Oregon State University(俄勒冈州立大学)
关系数据库是学习新颖有趣的关系和概念的宝贵资源。为了约束搜索通过候选定义的大空间,用户必须通过指定语言偏好来调整算法。不幸的是,具体说明语言偏见是通过试验和错误来完成的,并由专家的直觉指导。我们提出了AutoBias,一个利用数据库的模式和内容中的信息来自动诱导流行的关系学习系统所使用的语言偏见的系统。我们表明,AutoBias提供了相同的准确性,使用手动编写的语言偏见只施加轻微的开销上的运行时间的学习算法。
2020-04-06 cs.DB cs.LG
AskYourDB: An end-to-end system for querying and visualizing relational databases using natural language
Thoucentric
在数据库中查询正确的信息是一项耗时且容易出错的任务,通常需要经验丰富的专业人员来完成这项工作。此外,用户需要对数据库有一些先验知识。已经有各种努力来开发一种智能,可以帮助商业用户直接查询数据库。然而,已经取得了一些成功,但在为现实世界的用户测试和部署这些方面却很少。在本文中,我们提出了一种语义解析方法来解决将复杂的自然语言转换为SQL的挑战,并制定出一个productoutit.For这个目的,我们修改了国家的最先进的模型,通过各种预处理和后处理步骤,使模型部署在生产中的重要组成部分。为了使产品服务于企业,我们在查询结果上添加了一个自动可视化框架。
2022-10-16 cs.CL cs.DB cs.IR
Towards Approximate Query Enumeration with Sublinear Preprocessing Time
本文的目的是提供非常有效的算法近似查询枚举稀疏数据库,性能和准确性的保证。本文提出了一种新的有界度关系数据库类的近似查询枚举模型。我们首先证明了在有界度的数据库上,任何局部一阶可定义查询在经过一个常数时间的预处理阶段后,都可以近似地以常数延迟被枚举。我们扩展这一点,表明在有界树的宽度和有界度的数据库,每一个查询,是在一阶逻辑表达可以枚举近似恒定延迟后,一个次线性(更准确地说,多对数)时间预处理阶段。Durand和Grandjean(ACM Transactions on Computational Logic 2007)证明了在有限度数据库上的一阶查询的精确枚举可以在线性时间预处理阶段之后以恒定延迟完成。因此,我们在预处理阶段实现了显著的加速。由于次线性运行时间不允许读取整个输入数据库,即使是一次,牺牲一些准确性是不可避免的,我们的速度。然而,我们的枚举算法有保证:以高概率,(1)只有元组被枚举是查询的答案或“接近”是查询的答案,(2)如果元组的比例是查询的答案是足够大的,那么所有的答案将被枚举。在这里,“接近度”的概念是输入数据库中的元组编辑距离。对于本地一阶查询,只枚举实际答案,加强了(1)。此外,(2)中所要求的“接近度”和比例都是可控的。我们结合的方法,从属性测试的有界度图的逻辑和查询枚举,我们相信可以激发进一步的研究。
2021-01-15 cs.DB cs.LO
Photo-z-SQL: integrated, flexible photometric redshift computation in a database
我们提出了一个灵活的基于模板的光度红移估计框架,在C#中实现,可以无缝集成到一个SQL数据库(或DB)服务器,并在SQL中按需执行。DB集成消除了将大型光度数据集移出数据库进行红移估计的需要,并利用了DB硬件的计算能力。该代码能够执行极大似然和贝叶斯估计,并可以处理输入的可变光度滤波器组和相应的宽带幅度。可以考虑滤波器之间的全协方差矩阵,并且可以使用具有给定红移的测量来经验地校准滤波器零点。频谱模板和先验的列表可以灵活地指定,并且昂贵的合成幅度计算通过惰性评估来完成,再加上结果的缓存。完全支持并行执行。对于LSST等即将进行的大型光度测量,能够执行就地photo-z计算将是一个显著的优势。此外,可变过滤器集的有效处理对于异构数据库(例如Hubble Source Catalog)和交叉匹配服务(例如SkyQuery)是必要的。我们说明了我们的代码在两个参考photo-z估计测试数据集上的性能,并提供了执行时间和可扩展性的分析,相对于不同的配置。代码可在https://github.com/beckrob/Photo-z-SQL下载。
2017-03-20 astro-ph.GA astro-ph.IM cs.DB