Complete Integration of Team Project-based Learning into a Database Syllabus
Universitat Jaume I(豪梅一世大学)
本研究将团队项目式学习整合到数据库课程中,通过团队协作完成真实项目,评估学习成果和团队表现。
2026-05-01 cs.DB
Towards Realisation of Heterogeneous Earth-Observation Sensor Database Framework for the Sensor Observation Service based on PostGIS
在大多数情况下,环境监测和管理系统处理的模型和空间分析,涉及整合现场和远程地理传感器观测。现场传感器观测和遥感器收集的观测通常由不同的数据库和实时动态服务(如Geo-Web服务)提供。因此,数据必须从不同的数据库中提取,并在网络上传输,然后才能在服务中间件上进行融合和处理。这个过程是非常庞大的,不必要的通信工作负载的服务中间件。每次请求时从平面文件栅格数据源下载大量栅格数据的巨大工作负载以及服务中间件上的巨大集成和地理处理工作负载,这些工作实际上可以在数据库中更好地利用。因此,本文提出了基于PostGIS的异构传感器数据库框架的实现,用于在数据库级别集成,地理处理和空间分析远程和原位传感器观测。本文还讨论了如何将该框架集成到传感器观测服务(SOS)中,以减少地理空间Web服务的通信量和大量工作量,并使用户端的查询请求更加灵活。关键词:地球观测,异构地球观测传感器数据库,后GIS,传感器观测服务。
2018-02-17 cs.DB
Graph Data Models and Relational Database Technology
本文研究如何利用关系数据库管理系统中的元数据实现类型化图数据模型,以支持图形数据库与关系数据库等不同模型系统之间的企业集成。
2023-03-22 cs.DB
Ontology Based Data Integration Over Document and Column Family Oriented NOSQL
万维网基础设施及其20多亿用户能够以前所未有的速度存储信息。这主要是由于存储在某些Web应用程序上执行的几乎所有最终用户交互的意愿。为了应对可伸缩性和可用性的限制,许多参与这一过程的Web公司最近开始设计自己的数据管理系统。其中许多被称为NOSQL数据库,代表“不仅仅是SQL”。随着它们的广泛采用,出现了新的需求,数据集成就是其中之一。在本文中,我们认为,存储在一组NOSQL源的信息的基于本体的表示是非常必要的。这种方法的主要动机是能够推理本体的元素,并以高效和分布式的方式检索信息。我们的贡献是:(1)我们分析了一组无模式的NOSQL数据库生成本地本体,(2)我们生成一个全局本体的基础上发现的本地本体之间的对应关系,最后(3)我们提出了一个查询翻译解决方案,从SPARQL到查询语言的来源。我们目前正在两个流行的NOSQL数据库上实现我们的数据集成解决方案:MongoDB作为文档数据库,Cassandra作为列族存储。
2013-07-09 cs.DB
Categorical Data Integration for Computational Science
分类查询语言是一种开源的查询和数据集成脚本语言,可应用于计算科学领域的常见挑战。我们讨论了CQL数据迁移的结构保持性质如何保护那些公开共享数据的人免受对其数据的误解。同样,CQL迁移的这个特性允许那些从公共数据源提取数据的人确保只有符合他们规范的数据才会被传输。我们认为,在计算科学的数据共享领域的一些开放的问题是可寻址的函子数据迁移的这种范式内工作。我们通过将开放量子材料数据库中的数据与一些替代材料数据库集成来演示这些工具。
2019-03-25 cs.DB
Simplifying Data Integration: SLM-Driven Systems for Unified Semantic Queries Across Heterogeneous Databases
本文提出一种基于小语言模型的系统,结合轻量级RAG与语义感知数据结构,实现异构数据库的统一语义查询,在资源受限环境中提升准确性与效率,并引入语义熵作为无监督评估指标。
2025-05-25 cs.DB cs.IR
A Taxonomy of Schema Changes for NoSQL Databases
模式演化是数据库管理中的一个重要方面。所提出的模式更改分类法忽略了涉及实体类型之间关系的操作集:聚合和引用,以及模式类型可能存在的结构变化,因为大多数NoSQL系统都是无模式的。实体类型和关系类型之间的区别,这是典型的图模式,也没有考虑到在出版的作品。此外,NoSQL模式演化带来了具有不同数据模型的挑战,并且没有针对它们的标准规范。提出了一种基于U-Schema统一数据模型的NoSQL和关系模式演化的通用方法,该模型包括聚合和引用关系以及结构变化。对于这个数据模型,我们为所有的U-Schema元素引入了一个模式变化的分类法,它是通过创建Orion数据库独立语言来实现的。我们将展示如何使用Orion为一组NoSQL数据库自动生成演化脚本,并通过所获得的性能结果分析每个模式操作的可行性。该分类法已通过Alloy进行了正式验证,并通过两个案例研究展示了Orion的应用。
2022-05-23 cs.DB
SQL for SRL: Structure Learning Inside a Database System
Simon Fraser University(西蒙弗雷泽大学)
我们在本文中主张的立场是,关系代数可以提供一个统一的语言来表示和计算的关系对象,就像线性代数为传统的单表机器学习。关系代数是在结构化查询语言(SQL)中实现的,它是关系数据库管理系统的基础。为了支持我们的立场,我们已经开发了FACTORBASE系统,它使用SQL作为高级脚本语言,用于图形模型结构的语义关系学习。FACTORBASE的设计理念是将统计模型作为数据库中的一等公民进行管理。我们的实现展示了我们的SQL结构在FACTORBASE中如何促进快速,模块化和可靠的程序开发。来自六个基准数据库的经验证据表明,利用数据库系统的能力,实现可扩展的模型结构学习。
2015-07-02 cs.DB cs.LG
Graph-centric Cross-model Data Integration and Analytics in a Unified Multi-model Database
School of Computer Science, Wuhan University(武汉大学计算机学院);The University of Wollongong(伍伦贡大学);Big Data Institute, Wuhan University(武汉大学大数据研究院)
本文提出GredoDB,一种支持存储图、关系和文档模型的统一多模型数据库,通过高效处理GCDIA任务,提升跨模型数据集成与分析的性能和可扩展性。
2026-03-25 cs.DB
Praaline: Integrating Tools for Speech Corpus Research
University of Louvain(鲁汶大学)
本文介绍了Praaline,一个开源的软件系统,用于管理,注释,分析和可视化语音语料库。使用语音语料库的研究人员经常面临多种工具和格式,他们需要以协作的方式处理不断增加的数据量。Praaline在一个模块化系统中集成和扩展了现有的经过时间验证的口语语料库分析工具(Praat,Sonic Visualiser和R统计软件包的桥梁),促进了自动化和重用。用户可以使用一个集成的、用户友好的界面来访问多个工具。语料库元数据和注释可以存储在数据库中,本地或远程,用户可以定义元数据和注释结构。用户可以基于插件和脚本运行可定制的级联分析步骤,并使用结果更新数据库。可以查询语料库数据库以产生聚合数据集。Praaline可以使用Python或C++插件进行扩展,而Praat和R脚本可以针对语料库数据执行。提供了一系列可视化、编辑器和插件。Praaline是自由软件,在GPL许可下发布。
2018-02-08 cs.CL cs.DB
NEMA: Automatic Integration of Large Network Management Databases
University of Massachusetts, Amherst(马萨诸塞大学阿默斯特分校);Cisco(思科)
网络管理,无论是故障分析,故障预测,性能监控和改进,通常涉及大量的数据来自不同的来源。为了有效地集成和管理这些数据源,自动找到它们的模式或本体之间的语义匹配是至关重要的。现有的数据库匹配方法主要分为两类。一种是基于模式属性(如字段名、数据类型、约束和模式结构)的模式级匹配。网络管理数据库包含大量表(例如,网络产品、事件、安全警报和日志),这些信息来自不同的部门和组,具有不统一的字段名称和架构特征。通过这些模式属性来匹配它们是不可靠的。另一类是基于实例级的匹配,使用一般的字符串相似性技术,这是不适用于大型网络管理数据库的匹配。在本文中,我们开发了一个匹配技术,大型网络MANNETWORK数据库(NEMA)部署的实例级匹配有效的数据集成和连接。我们设计的数值和非数值字段的匹配指标和分数,并提出匹配这些字段的算法。通过在大型网络管理数据库中进行基于地面真值字段对的实验,对NEMA的有效性和效率进行了评估。我们对包含1,458个字段的大型数据库进行了测量,每个字段包含超过1000万条记录,结果显示NEMA的准确率高达95%。与基线方法相比,它实现了2%-10%的精度和5倍-14倍的加速。
2020-06-01 cs.AI cs.DB
Duplicate Detection with Efficient Language Models for Automatic Bibliographic Heterogeneous Data Integration
本文提出了一种新的重复项检测方法,该方法利用词汇信息和社会信息对不同书目记录语料库进行合并。正如我们所示,一个平凡的关键是不能用来删除无用的文档。合并异构文档数据库以获得最大信息可能是令人感兴趣的。在我们的案例中,我们试图建立一个关于TOR分子的文档语料库,以便从PubMed和WebOfScience文档数据库中提取与其他基因组件的关系。我们的方法基于n-gram生成关键指纹。我们用这个语料库做了两个文献金标准来做评价。与其他已知的方法在重复数据删除的比较给出了最好的成绩召回率(95%)和精度(100%)。
2015-04-27 cs.DB
In-Depth Benchmarking of Graph Database Systems with the Linked Data Benchmark Council (LDBC) Social Network Benchmark (SNB)
在这项研究中,我们提出了一个完整的实施LDBC SNB基准-交互式短,交互式复杂,和商业智能-在两个本地图形数据库系统-Neo4j和TigerGraph的第一个结果。除了在四个比例因子(SF-1、SF-10、SF-100和SF-1000)和三个计算架构(内部和云中)上彻底评估基准测试中所有46个查询的性能外,我们还测量了批量加载时间和存储大小。我们的研究结果表明,TigerGraph在大多数查询上的表现一直优于Neo4j--在某些交互式复杂和商业智能查询上,表现出两个或更多个数量级(100倍因子)。差距随着数据的大小而增加,因为只有TigerGraph能够扩展到SF-1000-Neo4j在合理的时间内只完成了25个商业智能查询中的12个。尽管如此,Neo4j在批量加载高达SF-100的图形数据时通常更快。我们研究的一个关键是供应商积极参与其平台的调整。为了鼓励可重复性,我们将所有代码、脚本和配置参数公开在线提供。
2019-07-17 cs.DB
YeastMed: an XML-Based System for Biological Data Integration of Yeast
生物信息学的一个关键目标是创建能够存储和分析大量生物数据的数据库系统和软件平台。现在有数百个生物数据库,可以访问大量的生物数据。SGD,YeaGrid,CYGD-MIPS,BioGrid和PhosphoGrid是酵母社区访问量最大的五个数据库。这些来源提供了关于生物实体的补充数据。生物学家需要系统地查询这些数据源,以分析他们的实验结果。由于这些源的异构性,单独查询它们然后手动组合返回的结果是一项复杂而费力的任务。为了提供透明和同时访问这些来源,我们开发了一个基于中介的系统,称为YeastMed。在本文中,我们提出了YeastMed专注于其架构。
2010-12-07 cs.DB
λ-Tune: Harnessing Large Language Models for Automated Database System Tuning
λ-Tune利用大型语言模型生成完整配置脚本,通过成本优化提示选择最佳配置,在PostgreSQL和MySQL上实现更稳健的自动数据库调优。
2024-11-05 cs.DB
DB Category: Denotational Semantics for View-based Database Mappings
我们提出了一个分类的指称语义的数据库映射,视图的基础上,在最一般的框架中的数据库集成/交换。已开发的数据库范畴DB,用于数据库(对象)和它们之间基于视图的映射(态射),与Set范畴不同:态射(基于一组复杂的查询计算)不是函数,而对象是数据库实例(关系集)。数据库之间基于逻辑的模式映射,通常用高度表达性的逻辑语言(例如,LAV、GAV、GLAV映射或元组生成依赖性)可以函数地转换成该“计算”类别DB。采用了一种新的方法,基于数据库的行为的观点,并建立数据库及其映射的行为等价。通过引入基于视图的数据库观测,这是没有副作用的计算,我们定义了一个基本的(泛代数)单子与幂视图endofunctor T。所得到的2-category DB是对称的,因此任何映射也可以表示为对象(数据库实例),其中映射之间的更高级别映射是2-cell态射。数据库类DB具有如下性质:它等于它的对偶、完全和共完全。特别注意实际的例子:一个查询定义,在GAV数据库集成环境中的查询重写,和一个规范的数据集成模型的定点解决方案。
2011-02-24 cs.DB cs.LO math.CT
Supporting Finite Element Analysis with a Relational Database Backend, Part I: There is Life beyond Files
在本文中,我们展示了如何使用一个关系数据库管理系统,以支持有限元分析。我们相信,这是一种新的思维方式,可以在理解良好的应用程序中进行数据管理,使它们为两个主要挑战做好准备,这两个挑战是规模和集成(全球化)。30年前,当FEA实现的范例首次形成时,无论是极端的大小还是集成(与Web上的其他应用程序)都不是设计关注的问题。另一方面,数据库技术已经走过了漫长的道路,因为它的成立,它是过去的时间来突出其有用的领域的科学计算和计算机为基础的工程。本系列旨在为数据库设计人员、FEA用户和应用程序开发人员扩展应用程序列表,以获得数据库开发的一些好处。
2007-01-25 cs.CE cs.DB
Actor-Relational Database Systems: A Manifesto
交互式数据密集型应用在金融、Web应用、移动计算和物联网等领域中变得越来越普遍。这些应用程序越来越多地部署在复杂的并行和分布式硬件基础设施中。随着软件和硬件环境的日益多样化,编程模型和系统面临着压力,使开发人员能够设计模块化,可扩展,高效和一致的数据密集型应用程序。为了应对这一挑战,最近的研究提倡演员编程模型和数据库管理的整合。这种集成有望帮助开发人员构建逻辑上分布式的微应用程序,以适应现代硬件的发展趋势,而不是现有的方法,以优化单片应用程序。为了实现这一目标,在本文中,我们分析,使情况下,并提出了一个广阔的视野演员-关系数据库系统。我们认为,为什么今天的时机已经成熟,以检查这个新兴的系统范式所提供的研究机会。基于此讨论,我们提出了设计原则以及候选功能集,以帮助具体化这样的系统的愿景。为了说明所提出的功能集的有用性,并激发对这类系统的需求,我们展示了一个详细的案例研究,该案例研究的灵感来自一个具有自助结账功能的智能超市应用程序,以及现代硬件上的性能优势的证据。
2018-09-10 cs.DB
A logic-based approach to data integration
数据集成的一个重要方面涉及使用各种资源而不是通过访问数据库关系来回答查询。将查询从数据库关系转换为资源的过程通常被称为查询折叠或使用视图回答查询,其中视图是资源。我们提出了一个统一的方法,包括作为特殊情况下,以前的工作就这个问题。我们的方法是基于逻辑的使用分辨率。我们处理完整性约束,否定和递归也在这个框架内。
2001-10-16 cs.AI cs.DB
Repairing Inconsistent Databases: A Model-Theoretic Approach and Abductive Reasoning
在本文中,我们考虑两个观点的问题,分布式数据的相干集成。首先,我们给出了一个纯模型理论分析的可能方法来“修复”数据库。我们这样做的特征的可能性,以“恢复”一致的数据从不一致的数据库中的那些模型的数据库,表现出尽可能少的不一致的信息,合理的可能。然后,我们介绍了一个溯因应用程序来恢复一个给定的数据库的一致性。这个应用程序是基于一个溯因求解器(A系统),实现了一个SLDNFA的决议程序,并计算一个列表的数据事实,应该插入到数据库或从它撤回,以保持数据库一致。相干数据集成的两种方法是相关的健全性和完整性的结果。
2002-07-25 cs.DB cs.LO
Algebraic Data Integration
本文提出一种结合函数式编程、范畴论与数据库理论的代数数据集成方法,通过模式态射诱导的伴随数据迁移函子及基于推出模式,在CQL工具中实现查询语言。
2025-03-27 cs.DB
A Typeful Integration of SQL into Curry
我们提出了一个扩展的声明性程序设计语言咖喱,以支持通过SQL访问存储在关系数据库中的数据。由于Curry是静态类型的,因此我们对SQL集成的重点是类型安全。我们的扩展尊重Curry的类型系统,从而避免了由于不良类型数据而导致的运行时错误。这是通过在编译时预处理SQL语句并将其转换为类型安全的数据库访问操作来实现的。因此,Curry系统的类型检查器可以在编译时发现SQL语句中的类型错误。为了生成适当类型的访问操作,预处理器使用描述关系数据结构的实体关系(ER)模型。除了标准SQL之外,Curry中嵌入的SQL语句还可以包括程序表达式以及ER模型中指定的关系。后一个特性对于避免容易出错的外键使用非常有用。因此,我们的SQL集成支持对Curry程序中数据库的高级和类型安全访问。
2017-01-03 cs.DB cs.PL
Web data modeling for integration in data warehouses
在数据仓库过程中,数据准备阶段至关重要。掌握这个阶段可以在执行多维分析或使用数据采掘算法时在时间和性能方面获得实质性的收益。此外,数据仓库可能需要外部数据。在这种情况下,网络是一个普遍的数据源,但在这种介质上广播的数据是非常异构的。在本文中,我们提出了一个复杂的对象表示任何有用的数据源(数据库,纯文本,HTML和XML文档,图像,声音,视频剪辑的超类UML概念模型。转换为逻辑模型是通过XML实现的,它有助于将所有这些不同的异构数据集成到统一的格式中,并且其模式定义在我们的数据仓库环境中提供了一流的元数据。此外,我们受益于XML的灵活性、可扩展性和半结构化数据模型的丰富性,但是如果需要更多的结构化,我们仍然能够在以后将XML文档映射到数据库中。
2007-05-10 cs.DB
A Practical Framework for Flaky Failure Triage in Distributed Database Continuous Integration
Northwest A&F University(西北农林科技大学);PingCAP;Nankai University(南开大学);East China Normal University(华东师范大学)
本文提出SCOUT框架,通过严格因果特征和后验软修正,提升分布式数据库CI中故障三重效率与可靠性,实验验证其在生产环境中的有效性。
2026-03-24 cs.DB cs.SE
Towards More Data-Aware Application Integration (extended version)
尽管大多数业务应用程序数据存储在关系数据库中,但集成中间件系统中的程序设计语言和连接格式不是以表为中心的。由于昂贵的格式转换,数据运输和更快的计算,趋势是“下推”集成操作更接近存储表示。我们解决了在标准集成系统中定义声明性的、以表为中心的集成语义的替代情况。为此,我们用等效的“内存中”表处理替换了众所周知的企业集成模式的当前操作符实现,并在传统的集成系统中展示了一个不可靠的“数据密集型”消息传递示例的实际实现。运行时分析的结果表明,以表为中心的处理是有前途的标准,“单记录”的消息路由和转换,并可能优于“多记录”表消息的消息吞吐量。
2015-04-22 cs.DB
Ontology Based Information Integration: A Survey
本体构成了一个特殊的词汇表,它描述了感兴趣的领域以及该词汇表上术语的含义。基于规范的精确性,本体的概念包含多个数据和概念模型。本体的概念已经出现到广泛的应用,包括数据库集成,对等系统,电子商务,语义网等,它可以被认为是一个实用的工具,概念化的东西表示在计算机格式。本文致力于本体匹配作为信息集成的一种手段。已经从诸如数据库、信息系统和人工智能的各个领域提出了若干匹配解决方案。它们都利用了本体的不同属性,如结构,数据实例,语义和标签以及其他有价值的属性。这些解决方案有一些共同的技术,并处理类似的问题,但使用不同的方法来组合和利用他们的结果。信息集成是匹配被认为是可能的解决方案的第一类应用之一。信息集成包括数据集成、模式集成、目录集成和语义集成等多个方面。我们涵盖这些概念的本体论在我们提出的文件。
2019-09-26 cs.DB cs.IR
The Lowell Database Research Self Assessment
一组高级数据库研究人员每隔几年聚集一次,评估数据库研究的状况,并指出值得进一步关注的问题领域。本报告总结了2003年5月4日至6日在马萨诸塞州洛厄尔举行的第六次特别会议的讨论和结论。报告指出,信息管理仍然是大多数复杂软件系统的一个关键组成部分。它建议数据库研究人员增加关注:文本,数据,代码和流的集成;来自异构数据源的信息融合;对不确定数据的推理;无监督的数据采掘,以获得有趣的相关性;信息隐私;以及自适应和修复。
2003-10-06 cs.DB
CUBE: A Cardinality Estimator Based on Neural CDF
本文提出基于神经CDF的基数估计方法,无需采样或积分即可实现快速且准确的基数估计,具有优秀的维度可扩展性,比现有方法快10倍。
2025-12-10 cs.DB
A Comprehensive Overview of GPU Accelerated Databases
本文针对GPU数据库缺乏跨系统对比研究的现状,提出一项涵盖多类GPU数据库系统的调研,通过SSB、TPC-H等基准分析其底层机制与性能指标,为该领域研究提供新方向。
2024-06-19 cs.DB
Reverse Proxy Framework using Sanitization Technique for Intrusion Prevention in Database
随着互联网在我们日常生活中的重要性越来越大,Web应用程序中的数据安全变得非常重要。随着在线实时的事务服务的日益增多,与数据库安全相关的问题也日益增多。攻击者使用非法和未经授权的方法劫持机密信息,如用户名,密码和其他重要细节。因此,实时的事务需要针对基于web的攻击的安全性。SQL注入和跨站脚本攻击是最常见的应用层攻击。SQL注入攻击者通过Web应用程序输入字段、URL或隐藏参数传递SQL语句,并访问数据库或更新数据库。攻击者利用用户提供的数据,将用户输入作为SQL代码处理。利用此漏洞,攻击者可以直接在数据库上执行SQL命令。SQL注入攻击是最严重的威胁,它将用户输入集成到SQL查询中。反向代理是一种用于清理可能转化为数据库攻击的用户输入的技术。在该技术中,数据重定向程序在用户输入被发送到应用服务器之前将其重定向到代理服务器。在代理服务器处,使用净化应用程序来触发数据清理算法。在这个框架中,我们包括检测和净化被发送到数据库的污染信息,并创新一个新的原型。
2013-11-26 cs.CR cs.DB
Indexing Designs and Adaptive Data Distribution Optimization for In-Memory Databases on Hybrid DDR--CXL Memory
East China Normal University(华东师范大学)
针对混合DDR--CXL内存数据库,提出五种索引设计并开发自适应数据分布优化,通过分层热度跟踪和收益感知驱逐提升性能,使单一索引设计吞吐量最高提升至1.59倍。
2026-10-08 cs.DB
Auditable and reusable crosswalks for fast, scaled integration of scattered tabular data
本文提出一个开源策展工具包,通过模式到模式的高层交叉映射脚本,实现分散表格数据的可审计、可复用和规模化整合,并提供 Python 包与无代码可视化 Web 应用。
2024-09-03 cs.DB
Algorithm Support for Graph Databases, Done Right
Eindhoven University of Technology(埃因霍温理工大学);Delft University of Technology(代尔夫特理工大学)
GraphAlg是一种用于图数据库的领域特定语言,通过编译为关系代数,实现高效的图算法处理与查询整合。
2026-01-10 cs.DB
Can AI Agents Answer Your Data Questions? A Benchmark for Data Agents
UC Berkeley(加州大学伯克利分校);University of Washington(华盛顿大学);Hasura PromptQL
本文提出数据代理基准测试(DAB),旨在评估多数据库系统中数据整合、转换和分析的全流程能力,通过12个数据集、9个领域和4种数据库管理系统中的54个查询,测试了前沿模型在数据代理任务中的表现。
2026-10-09 cs.DB
Electronic Laboratory Notebook Assisting Reflectance Spectrometry in Legal Medicine
反射光谱法是一种快速可靠的方法,用于表征人体皮肤的光谱分析,相对于描述人体皮肤的光学特性的物理模型。对于在法医研究所和弗莱堡大学弗莱堡材料研究中心进行的实地研究,已开发了电子实验室笔记本,其有助于记录、管理和分析反射光谱。电子实验室笔记本的核心是一个MySQL数据库。它通过Java编程的Web界面填充了原始数据,这也使用户能够浏览数据库并访问数据分析结果。这些都是由Matlab,Tcl和Python脚本执行的,这些脚本从电子实验室笔记本中检索原始数据,执行分析,并将结果存储在数据库中以供进一步使用。
2006-12-22 cs.DB cs.DL cs.IR
VecLSTM: Trajectory Data Processing and Management for Activity Recognition through LSTM Vectorization and Database Integration
University of Washington(华盛顿大学)
本文提出VecLSTM框架,通过向量化层优化LSTM处理效率并集成到MySQL中,在146万余条轨迹样本上取得85.47%测试准确率,训练时间减少26.2%。
2024-09-28 cs.AI cs.DB cs.LG
On Creating a Comprehensive Food Database
以解决进食障碍为主要目的的研究侧重于评估食物的营养成分,并专门关注热量摄入。在这些研究中可以注意到两个主要障碍。第一个问题是,每种食物的热量摄入量是根据现有数据库计算的。第二个问题涉及热量摄入作为营养成分单一衡量标准的科学意义。由于需要现有的数据库,研究人员被迫找到一套全面的食物及其各自的营养素的来源。这个搜索本身就是一项艰巨的任务,如果完成,往往会导致需要付费的API服务。这些服务是昂贵的和不可定制的,拿走了可以针对研究的其他部分的资金,只给一个笨拙的数据库,不能修改或贡献。在这项工作中,我们介绍了美国农业部的食品数据库,其中包括在杂货店和餐馆或快餐店发现的食品的新版本。目前,我们已经积累了大约150万个食品条目,包括美国大约18,000个品牌和100家餐厅。这些食物也有丰富的营养数据与它们相关,从热量到饱和脂肪水平。数据以MySQL格式存储,分布在五个主要表中。我们还采购了这些食品条目的图像,并将我们所有的数据和程序脚本包含在一个开源存储库中。
2023-01-25 cs.CY cs.DB
Sound and Complete Query Answering in Intensional P2P Data Integration
当代对“内涵”一词的使用源于传统的逻辑学说,即一个观念既有外延又有内涵。本文将Bealer的内涵代数FOL与Montague的S5可能世界语义相结合,提出了一种P2P系统的内涵FOL(First-order-logic),定义了该逻辑的内涵等价关系和弱演绎推理。定义在某个数据库本体上的概念和视图的含义可以被认为是在某个可能世界中(例如在现实世界中)具有特定扩展的内涵对象。因此,P2P系统中完全独立的对等数据库之间的非侵入性映射可以自然地由两个不同对等体上具有相同含义(意图)的一组意图等效视图来指定。这种映射的语义与基于数据集成中常用的材料含义的标准视图映射有很大的不同。我们展示了如何一个P2P数据库系统可以嵌入到这个内涵模态FOL,以及我们如何能够获得一个弱的非无所不知的推理,这可以有效地实现。对于一个查询回答,我们认为非无所不知的查询代理,我们定义面向对象的类,他们实现的方法的查询重写算法。最后,我们证明了这种查询回答算法是健全的和完整的w.r.t. P2P内涵逻辑的弱演绎。
2011-03-02 cs.DB cs.LO
ER-index: a referential index for encrypted genomic databases
为了对人类及其疾病进行大规模、全面和深入的分析,正在创建和工程化存储基因组信息的巨大数据库。然而,最近的法规,如GDPR,要求通过隐私设计方法和软件来存储和详细说明敏感数据。我们设计并实现了ER索引,一个新的全文索引在分钟的空间,这是优化的基因组序列的压缩和加密集合,并对他们进行快速模式搜索查询。我们的新索引补充了E2FM索引,E2FM索引被引入来压缩和加密核苷酸序列集合,而不依赖于参考序列。当用于高度相似序列的集合时,ER索引允许获得比E2FM索引小一个数量级的压缩比,但保持其非常好的搜索性能。此外,由于ER索引多用户和多密钥加密模型,单个索引可以存储与个体群体相关的序列,使得用户可以仅对他们被授予访问权限的序列执行搜索操作。ER-index C++源代码以及用于评估工具性能的脚本和数据可在www.example.com上获得。
2020-12-27 cs.DB cs.DS
An advanced AI driven database system
Pace University(佩斯大学);New York University(纽约大学);CUNY(纽约市立大学)
本文提出一种集成LLM与先进机器学习算法的AI驱动数据库系统,通过NLP界面、自动查询生成、模式推理与格式选择降低数据库使用门槛并减少手动调优和人为错误。
2025-07-22 cs.AI cs.DB cs.SE
WebRelate: Integrating Web Data with Spreadsheets using Examples
Web源和关系数据之间的数据集成是数据科学家和电子表格用户面临的一个关键挑战。以编程方式将Web数据与关系数据连接起来有两个主要挑战。首先,大多数网站没有公开直接的接口来获取表格数据,因此用户需要制定一个逻辑来为关系表中的每个输入行访问不同的网页。其次,在到达期望的网页之后,用户需要编写复杂的脚本来提取相关数据,这通常以输入数据为条件。由于许多数据科学家和最终用户来自不同的背景,编写如此复杂的基于正则表达式的逻辑脚本来执行数据集成任务通常超出了他们的编程专业知识。我们提出WebRelate,一个系统,允许用户加入半结构化的Web数据与关系数据在电子表格中使用输入输出的例子。WebRelate将Web数据集成任务分解为两个子任务:i)URL学习和ii)依赖输入的Web提取。第一个子任务为包含关系表中所有行的所需数据的网页生成URL。WebRelate通过使用几个示例URL学习字符串转换程序来实现这一点。第二子任务使用要从相应网页提取的所需数据的示例,并学习用于提取其他行的数据的程序。我们设计了表达特定领域的语言的URL生成和Web数据提取,并提出了有效的合成算法,学习程序在这些DSL从几个输入输出的例子。我们评估WebRelate的88现实世界的Web数据集成任务,从在线帮助论坛和Excel产品团队,并表明,WebRelate可以学习所需的程序在几秒钟内使用只有1个例子的大多数任务。
2017-11-15 cs.DB cs.PL
Research Challenges in Relational Database Management Systems for LLM Queries
University of Waterloo(多伦多大学)
本文通过五个代表性查询探索两个开源系统和一个企业平台,揭示SQL调用LLM在功能、性能和可扩展性上的局限,识别结构化输出、资源利用和查询规划三大问题,并验证初步改进方案,证明LLM与DBMS紧密集成是可扩展高效处理LLM查询的关键。
2025-08-28 cs.AI cs.DB
Toward Multi-Database Query Reasoning for Text2Cypher
Neo4j(Neo4j公司)
本文提出多数据库查询推理方法,解决跨多个独立图数据库的查询问题,通过三阶段路线图实现数据库路由、分解和异构查询推理。
2026-05-11 cs.CL cs.DB
Global Benchmark Database
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);HIIT, University of Helsinki(赫尔辛基大学HIIT)
本文提出全球基准数据库,提供基准实例和元数据的管理工具,支持实证研究中的数据驱动编译、领域分析及求解器选择。
2026-01-14 cs.AI cs.DB
LHC Databases on the Grid: Achievements and Open Issues
为了从记录的数据中提取物理结果,LHC实验正在使用网格计算基础设施。网格上的事件数据处理需要可扩展地访问非事件数据(探测器条件、校准等)。存储在关系数据库中。数据库驻留数据对于事件数据重建处理步骤是关键的,并且经常需要物理分析。本文回顾了LHC在网格计算数据库技术方面的经验。主题列表包括:数据库集成与网格计算模型的LHC实验;数据库技术的选择;数据库接口的例子;分布式数据库应用程序(数据的复杂性,更新频率,数据量和访问模式);数据库访问的可扩展性在网格计算环境中的LHC实验。审查报告介绍了取得重大进展的领域和尚未解决的问题。
2010-07-12 cs.DB cs.DC hep-ex
Serving Deep Learning Model in Relational Databases
Arizona State University(亚利桑那州立大学);Amazon(亚马逊公司);IBM T. J. Watson Research Center(IBM T. J. 沃森研究中心);Hong Kong University of Science and Technology(香港科技大学);Lawrence Berkeley National Lab(劳伦斯伯克利国家实验室)
本文探讨了在关系型数据库中服务深度学习模型的三种架构范式,分析了阻碍其无缝集成的差距,并提出建立新型RDBMS以支持数据密集型DL推理应用的路径。
2024-09-26 cs.AI cs.DB
Demonstrating CAT: Synthesizing Data-Aware Conversational Agents for Transactional Databases
Technical University of Darmstadt(达姆施塔特工业大学);LMU Munich(慕尼黑大学)
用于OLTP的数据库通常是酒店客房或电影票预订应用程序等应用程序的主干。然而,开发会话代理(即,类似聊天机器人的界面)以允许终端用户使用自然语言与应用交互,这需要大量的训练数据和NLP专业知识。这激发了CAT,它可以用来轻松地为事务数据库创建会话代理。其主要思想是,对于给定的OLTP数据库,CAT使用弱监督来合成所需的训练数据,以训练最先进的会话代理,允许用户与OLTP数据库交互。此外,CAT还提供了生成的代理与数据库的开箱即用集成。作为现有的会话代理的主要区别,CAT合成的代理是数据感知的。这意味着代理根据数据库中的当前数据分布决定应该向用户请求哪些信息,与非数据感知代理相比,这通常会导致明显更有效的对话。我们将CAT的代码作为开源发布。
2022-03-26 cs.CL cs.DB
NeurDB: On the Design and Implementation of an AI-powered Autonomous Database
National University of Singapore(新加坡国立大学);Zhejiang University(浙江大学);Shanghai Jiao Tong University(上海交通大学);Renmin University of China(中国人民大学);Beijing Institute of Technology(北京理工大学)
本文提出AI驱动的自治数据库NeurDB,通过在数据库内无缝集成AI工作流,支持库内分析与快速自适应的学习型系统组件,以应对数据和工作负载动态变化。
2025-01-05 cs.AI cs.DB cs.LG