A Seamless Integration of Association Rule Mining with Database Systems
人们早就认识到需要支持特定数据采掘查询的知识和数据发现管理系统(KDDMS)。大量的研究已经投入到构建紧密耦合的系统,将关联规则挖掘与数据库系统集成在一起。在本文中,我们描述了一个无缝集成计划的数据库查询和关联规则发现使用一个共同的查询优化器。扩展代数中表达式的查询树用于优化器中的内部表示。代数表示是足够灵活的,以处理约束关联规则查询和关联规则规范的其他变化。我们提出模块化来简化数据采掘中复杂任务的查询树。为在优化过程中利用现有的算法构造查询计划铺平了道路。如何集成方案,我们目前将促进更大的用户控制的数据采掘过程中进行了讨论。本文所描述的工作是一个更大的项目的一部分,该项目旨在将数据采掘与数据库管理完全集成。
2001-06-28 cs.DB
An Automatic Identification System (AIS) Database for Maritime Trajectory Prediction and Data Mining
近年来,海上安全和效率在世界范围内变得越来越重要。自动识别系统(AIS)通过船载收发器和地面和/或卫星基站跟踪船舶运动。AIS采集的数据包括广播的运动信息和静态信息。这两种算法对于智能海事研究领域的异常检测和航线预测等关键技术具有重要的应用价值。本文致力于建立一个标准的AIS数据库,用于海上航迹学习、预测和数据采掘。在此AIS数据库上对路径预测算法进行了测试,测试结果表明,该数据库可以作为不同的轨迹预测算法和其他AIS数据采掘算法的标准化训练资源。
2016-10-13 cs.DB
A Model for Mining Multilevel Fuzzy Association Rule in Database
多层关联挖掘的模型和算法的研究对数学和计算机科学提出了新的挑战。当数据或数据关系中存在某种形式的不确定性(如模糊性)时,这些问题变得更具挑战性。本文提出了一种多级模糊关联规则挖掘模型,用于提取事务数据库中隐含的知识,每一级的支持度不同。该算法采用自顶向下的渐进式深化方法来获取大项目集。这种方法采用模糊边界,而不是尖锐的边界区间。最后通过一个实例表明,该算法可以简单有效地挖掘出不同支持度下的多层关联规则。
2010-01-20 cs.DB
Efficient Support Coupled Frequent Pattern Mining Over Progressive Databases
最近有很多关于序列模式挖掘的研究。渐进式数据库上的序列模式挖掘是一个比较新的方法,它是在感兴趣的时间段内逐步发现序列模式。感兴趣的时间段是一个随着时间的推移而不断前进的滑动窗口。随着滑动窗口焦点的变化,新项被添加到感兴趣的数据集中,过时的项被从中删除并成为最新的。一般来说,现有的建议没有充分探讨现实世界的情况下,如项目与支持数据流应用程序,如购物篮分析。因此,从支持的频繁项中挖掘重要知识成为一个重要的研究课题。我们提出的新方法有效地挖掘频繁序列模式加上支持使用渐进挖掘树。
2010-05-29 cs.DB
Graph-based process mining
流程挖掘是一个研究领域,它支持从业务流程的执行事件日志中发现有关业务流程的信息。组织中事件日志数量的增加对当前的流程挖掘技术提出了挑战,这些技术倾向于将数据加载到计算机的内存中。这个问题限制了组织大规模地应用流程挖掘,并且由于缺乏数据管理能力而引入了风险。因此,本文介绍和形式化的一种新的方法来存储和检索事件日志到/从图数据库。它定义了一种在图数据库中计算直接跟随图(DFG)的算法,将流程挖掘的繁重计算部分转移到图数据库中。在图数据库中计算DFG使得能够利用图数据库的水平和垂直缩放能力,以有利于大规模地应用流程挖掘。此外,它消除了将数据转移到分析师计算机中的要求。因此,它使得能够在图形数据库中使用数据管理能力。我们在Neo4j中实现了这种方法,并使用真实的日志文件与当前技术进行了比较。结果表明,当数据量远大于计算内存时,我们的方法能够计算DFG。当将数据分割成小块时,它也显示出更好的性能。
2020-07-18 cs.DB
A Novel Approach for Web Page Set Mining
关联规则挖掘中最耗时的步骤之一是计算数据库中项集的出现频率。哈希表索引方法通过仅扫描事务数据库一次来将事务数据库转换为哈希索引树。每当用户请求任何统一资源定位符(URL)时,请求条目都存储在服务器的日志文件中。本文提出了一种通用的、密集的哈希索引表结构,用于从服务器的日志文件中提取网页集。此哈希表提供有关原始数据库的信息。网页集挖掘(WPs-Mine)提供了原始数据库的完整表示。这种方法适用于稀疏和密集数据分布。哈希表索引支持的Web页面集挖掘表明,其性能始终与访问平面文件上的数据的算法相当,并且往往优于这些算法。增量更新是可行的,无需重新访问原始事务数据库。
2011-11-11 cs.DB
Defining and Mining Functional Dependencies in Probabilistic Databases
函数依赖--传统的、近似的和条件的依赖在关系数据库中是至关重要的,因为它们告诉我们属性之间的关系。它们在模式规范化、数据校正和源选择等方面都很有用。然而,其中大多数是在确定性数据的背景下开发的。虽然不确定数据库已经开始受到关注,但这些依赖关系还没有为它们定义,也没有快速算法来评估它们的置信度。本文定义了概率数据库函数依赖的各种形式的逻辑扩展,并探讨了它们之间的联系。我们提出了一个基于剪枝的精确算法来评估的信心的函数依赖,一个基于Monte-Carlo算法来评估的信心近似函数依赖和算法的条件概率数据库中的副本。实验上进行的合成和真实的数据评估这些算法的性能,在评估的依赖性和挖掘它们的数据的信心。我们相信,拥有这些可用于概率数据库的依赖关系和算法将推动行业中概率数据存储的采用。
2010-12-13 cs.DB
Mining Sequential Patterns in Uncertain Databases Using Hierarchical Index Structure
本文针对不确定数据库中序列模式挖掘的假阳性过多和增量场景不可扩展问题,提出收紧剪枝上界、层次索引结构和通用挖掘框架,并支持权重约束与增量数据库,实验验证了其有效性。
2024-03-31 cs.DB
Probabilistic Frequent Pattern Growth for Itemset Mining in Uncertain Databases (Technical Report)
不确定事务数据库中的频繁项集挖掘在语义和计算上不同于传统的应用于标准(确定)事务数据库的技术。不确定事务数据库由存在不确定项的集合组成。交易项目的不确定性使得传统的技术不适用。在本文中,我们解决的问题,发现概率频繁项集的基础上可能世界语义。在此上下文中,如果X在至少minSup事务中出现的概率高于给定阈值,则项集X被称为频繁项集。我们做了以下贡献:我们提出了第一个概率FP-Growth算法(ProFP-Growth)和相关的概率FP-Tree(ProFP-Tree),我们使用它来挖掘不确定事务数据库中的所有概率频繁项集,而无需候选生成。此外,我们提出了一个有效的技术来计算的支持概率分布的项目集在线性时间使用生成函数的概念。一个广泛的实验部分评估我们提出的技术,并表明我们的ProFP-Growth方法是显着快于目前最先进的算法。
2010-08-13 cs.DB
A Novel Approach for Mining Similarity Profiled Temporal Association Patterns
从非时态数据库中挖掘频繁模式是数据采掘、时态数据库和信息检索领域的研究热点。然而,传统的频繁模式算法不适合从时态数据库中发现相似的时态关联模式。时态数据库是能够存储过去、现在和未来信息的数据库。本研究的目的是提出一种新的方法,以便找到相似的时间关联模式w.r.t用户指定的阈值和一个给定的参考支持时间序列使用维恩图的概念。为此,我们保持两种类型的支持称为积极的支持和消极的支持值,以找到类似的时间关联模式的用户兴趣。我们的方法的主要优点是,它只执行一个单一的扫描时间数据库,以找到类似于指定的参考支持序列的时间关联模式。因此,这种单一数据库扫描方法消除了多次扫描数据库时产生的巨大开销。本方法还消除了在计算下一阶段的时间模式时计算和维护前一阶段的时间模式的所有子集的真实支持值的需要。
2016-04-18 cs.DB
Frequent itemsets mining for database auto-administration
随着一般数据库和特别是数据仓库的广泛发展,减少数据库管理员必须手动执行的任务是重要的。自动管理系统的目标是自动管理和适应自己,而不会损失(甚至获得)性能。使用数据采掘技术从数据本身中提取有用的管理知识的想法已经存在了一些年。然而,很少有研究取得了成果。然而,这个想法仍然是一个非常有前途的方法,特别是在数据仓库领域,查询是非常异构的,不能很容易地解释。本研究的目的是寻找一种从存储的数据中提取有用知识的方法,以自动应用性能优化技术,特别是索引技术。我们设计了一个工具,从给定的工作负载中提取频繁项集来计算索引配置,以帮助优化数据访问时间。我们执行的实验表明,我们的工具生成的索引配置允许在测试数据库和测试数据仓库上获得15%到25%的性能提升。
2008-09-16 cs.DB
Association Rule Mining Based On Trade List
提出了一种基于频繁项集的挖掘算法。Apriori算法每次发现频繁项集时都要扫描数据库,因此非常耗时,而且每一步都要生成候选项集。在无向项集图中,它是对先验知识的改进,但生成树需要时间和空间。定义的算法在开始时只扫描数据库一次,然后从扫描的数据库中生成贸易清单。它包含了整个数据库的信息。它通过考虑最小支持度来寻找频繁项集,并通过考虑最小置信度来生成关联规则。当数据库和最小支持度发生变化时,新算法通过扫描交易列表来发现新的频繁项。因此,与传统算法相比,它的执行效率有了明显的提高。
2012-02-22 cs.DB
Mining Frequent Itemsets over Uncertain Databases
近年来,由于不确定数据的广泛应用,在不确定数据库上挖掘频繁项集引起了人们的广泛关注。在不确定数据库中,项集的支持度是一个随机变量,而不是该项集的固定出现次数。因此,与确定性数据库中频繁项集有唯一定义的相应问题不同,不确定环境下的频繁项集到目前为止有两种不同的定义。第一种定义称为基于期望支持度的频繁项集,它用一个项集的支持度的期望值来衡量这个项集是否频繁。第二个定义,称为概率频繁项集,使用项集的支持概率来度量其频率。因此,现有的不确定数据库中挖掘频繁项集的工作被分为两个不同的组,没有研究进行全面比较这两种不同的定义。此外,由于不存在统一的实验平台,目前针对同一定义的解决方案甚至会产生不一致的结果。在本文中,我们首先旨在澄清这两个不同的定义之间的关系。通过大量的实验,我们验证了这两个定义有紧密的联系,并可以统一在一起,当数据量足够大。其次,我们提供了基线实现现有的八个代表性的算法,并测试他们的性能与统一的措施公平。最后,通过对不同基准数据集的公平性检验,澄清了现有的一些不一致结论,并讨论了一些新的发现。
2012-08-01 cs.DB
Mining Top-k Sequential Patterns in Database Graphs:A New Challenging Problem and a Sampling-based Approach
在许多现实世界的网络中,顶点通常与全面描述顶点行为的事务数据库相关联。一个典型的例子是社交网络,其中每个用户的行为都由一个交易数据库来描述,该数据库存储他每天发布的内容。事务数据库是一组事务,其中事务是一组项。网络中的每条路径都是一个顶点序列,这些顶点序列会导致多个交易序列。由网络中所有路径引起的事务序列形成了一个非常大的序列数据库。从序列数据库中寻找频繁的序列模式,可以发现网络中许多路径上频繁出现的有趣的连续性。然而,这是一个具有挑战性的任务,因为由数据库图诱导的序列数据库太大,无法显式地诱导和存储。在本文中,我们提出了新的概念,数据库图,自然模型广泛的现实世界的网络,通过关联每个顶点与一个交易数据库。我们的目标是从数据库图中找出序列数据库中的前k个频繁序列模式。我们证明了这个问题是#P-hard问题。为了解决这个问题,我们提出了一个有效的两步抽样算法,近似的top-k频繁序列模式,可证明的质量保证。在合成数据集和真实数据集上的大量实验结果证明了该方法的有效性和效率。
2018-05-08 cs.DB
Fast Mining of Spatial Frequent Wordset from Social Database
在本文中,我们提出了一个算法,提取空间频繁模式来解释一个特定的位置从可用的社会数据的相对特征。提出了一种空间社会数据模型,该模型包括空间社会数据、空间支持度、空间频繁模式、空间划分和空间聚类等概念,用于描述空间频繁模式的探索算法。在此基础上,提出了一种既保留了频繁词又保留了频繁单元的SFP-树结构,并在此基础上提出了一种挖掘频繁模式的SFP-生长算法.
2019-12-26 cs.DB
On Addressing Efficiency Concerns in Privacy Preserving Data Mining
数据采掘服务需要准确的输入数据,以使其结果有意义,但隐私问题可能会影响用户提供虚假信息。为了鼓励用户提供正确的输入,我们最近提出了一个数据失真方案的关联规则挖掘,同时提供隐私的用户和准确性的挖掘结果。然而,与挖掘原始数据库相比,挖掘变形数据库可能要花费多几个数量级的时间。在本文中,我们解决这个问题,并证明,通过(a)推广的失真过程,以执行特定符号的失真,(b)适当地选择失真参数,(c)在重建过程中应用各种优化,运行时的效率,以及在一个数量级的非失真挖掘可以实现。
2003-10-17 cs.DB
Causal Process Mining from Relational Databases with Domain Knowledge
针对过程挖掘中直接跟随关系在多对象关联场景下的缺陷,提出以关系数据库为输入、基于因果过程模板构建因果事件图的因果过程挖掘方法,案例研究验证了结合领域知识的优势。
2023-07-20 cs.DB
Mining Weighted Sequential Patterns in Incremental Uncertain Databases
University of Dhaka(达卡大学);University of Manitoba(曼尼托巴大学)
本文针对增量不确定数据库中的加权序列模式挖掘问题,提出了一种挖掘频繁序列的算法及两种增量挖掘新技术,实验验证了框架的高效性。
2024-03-31 cs.AI cs.DB
Application of Data Mining Techniques to a Selected Business Organisation with Special Reference to Buying Behaviour
Deshbhakt Ratnappa Kumbhar College Of Commerce(德斯巴克特·拉特纳帕·孔布哈商业学院);Chh. Shahu Institute Of Business Education And Research(恰·沙胡商业教育与研究学院)
数据采掘是一个新的概念&对大数据集进行探索和分析,以发现有意义的模式和规则。许多组织现在正在使用数据采掘技术从数据库中找出有意义的模式。本文研究了如何将数据采掘技术应用于大型数据库。这些数据采掘技术从数据库中得到某些行为模式。对数据库进行分析后得出的结果对组织工作是有用的。本文对应用关联规则挖掘技术、规则归纳技术和Apriori算法后的结果进行了检验。并将这些技术应用于大型购物中心的数据库中。通过上述技术对市场购物篮进行分析,发现了一些重要的结果,如购买行为。
2011-12-17 cs.AI cs.DB
Extracting Multiple Viewpoint Models from Relational Databases
流程挖掘项目中的大量时间都花在查找和理解数据源以及提取所需的事件数据上。因此,实际上只有一小部分时间用于应用技术来发现、控制和预测业务流程。此外,目前的过程挖掘技术假设一个单一的情况下的概念。然而,在现实生活中,不同的案例概念往往交织在一起。例如,同一订单处理流程的事件可能涉及客户、订单、订单行、交货和付款。因此,我们建议使用多视点(MVP)模型,通过对象关联事件,通过类关联活动。所需的事件数据更接近于现有的关系数据库。MVP模型提供了一个关于流程的整体视图,但也允许使用不同的视角提取经典事件日志。通过这种方式,现有的流程挖掘技术可以用于每个视点,而不需要新的数据提取和转换。我们提供了一个工具链,允许从关系数据库中发现MVP模型(注释有性能和频率信息)。此外,我们证明了经典的过程挖掘技术可以应用于任何选定的观点。
2020-01-08 cs.DB
Similarity Data Item Set Approach: An Encoded Temporal Data Base Technique
数据采掘已被广泛认为是一个强大的工具,探索从大型数据库的附加值。在关联规则的数据采掘过程中,发现数据库中的频繁项集是一个关键问题。为了寻找频繁项集,人们提出了许多算法。本文提出了一个总结和比较研究的可用FP增长算法的变化产生的挖掘频繁项目集显示其能力和效率方面的时间和内存消耗的关联规则挖掘,考虑到具体的信息的应用。提出了基于模式增长挖掘范式的FP-树增长算法,该算法采用树结构来压缩数据库。性能研究表明,反FP-增长方法对于挖掘长、短频繁模式都是有效的、可扩展的,比Apriority算法快一个数量级,也比最近报道的一些新的频繁模式挖掘算法快。
2010-03-22 cs.DB
Implementation of Association Rule Mining for Network Intrusion Detection
现代的入侵检测系统都是基于数据采掘和以数据库为中心的体系结构,其中出现了许多数据采掘技术,其中关联规则挖掘是数据采掘研究的重要内容之一。这种方法确定大型数据项集之间的有趣关系。这种技术最初被应用于所谓的购物篮分析,其目的是发现超市顾客的购物行为。与通常需要数百个属性的购物篮分析数据集相比,网络审计数据库面临数十个属性。针对事务数据库的这种特点,对传统的关联规则挖掘算法Apriori进行了改进。本文提出了一种改进的Apriori算法,该算法通过事务切割和散列,只需扫描网络审计数据库一次,在实际应用中非常有用。
2016-08-04 cs.CR cs.DB
An efficient mining scheme for high utility itemsets
针对现有高效用项集挖掘算法时间与内存开销高的问题,本文提出基于残差映射数据结构的R-Miner算法,实验证明其性能优于现有最先进算法。
2022-04-12 cs.DB
Recent Trends and Research Issues in Video Association Mining
随着数字图书馆和视频数据库的不断发展,从视频数据库中自动理解和挖掘知识变得越来越重要。在视频数据采掘的研究领域中,发现大型视频数据库中项目之间的关联规则具有重要的意义。在过去几年的研究和发展的基础上,关联规则挖掘在不同的领域,如监控,会议,广播新闻,体育,档案,电影,医疗数据,以及个人和在线媒体收藏中的应用越来越多。本文的目的是提供一个从视频数据库中挖掘关联规则的通用框架。本文还介绍了视频关联挖掘中的研究问题,以及最新的发展趋势。
2011-12-09 cs.DB cs.MM
A Constraint Programming Approach for Mining Sequential Patterns in a Sequence Database
University of Caen(卡昂大学);University PARIS 13(巴黎第十三大学)
基于约束的模式发现是众多数据采掘任务的核心。模式是相对于一组给定的约束(频率,封闭性,大小等)提取的。在序列模式挖掘的背景下,已经开发了大量专门的技术来解决特定类别的约束。本文的目的是研究使用约束编程(CP)的建模和挖掘序列数据库中的序列模式。我们的CP方法提供了一种自然的方式,在同一个框架中同时结合了来自不同来源的大量约束。实验结果表明,我们的方法的可行性和利益。
2013-11-27 cs.AI cs.DB
Characterizing Transactional Databases for Frequent Itemset Mining
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
本文研究了用于频繁项集挖掘的事务数据库的特征。这些特征通常用于基准测试和理解在这些数据库上工作的数据采掘算法。我们的研究的目的是给这些基准数据库的多样性和代表性的图片,无论是在一般情况下,但也在特定的实证研究的文献中发现的背景下。我们提出的指标列表包含了文献中发现的许多现有指标,以及新的指标。我们的研究表明,我们的指标列表能够捕捉到大部分数据集的内部复杂性,从而为事务数据集的表征提供了一个很好的基础。最后,我们提供了一组代表性的数据集,根据我们的表征,可以安全地用作基准。
2020-11-09 cs.AI cs.DB
Utility-Driven Mining of Trend Information for Intelligent System
嵌入数据库中的有用知识可能会随着时间的推移而改变。确定时态数据库中最近的变化可以为决策者提供有价值的最新信息。然而,挖掘高效用模式(HUP)的技术很少考虑新近度作为发现模式的标准。因此,传统的效用挖掘框架不足以获得关于真实世界数据的最新见解。在本文中,我们解决这个问题,通过引入一个新的框架,命名为效用驱动挖掘最近/趋势高效用模式(RUP)在时态数据库的智能系统,基于用户指定的最小最近和最小效用阈值。效用驱动的RUP算法基于新的全局和条件向下闭包属性,以及最近效用树。此外,它采用了一个垂直紧凑的最近-效用列表结构来存储挖掘过程所需的信息。开发的RUP算法递归地发现最近的HUP。由于其模式发现方法不生成候选项,因此它的速度也很快,并且消耗少量内存。另外还设计了两种改进的剪枝算法,通过减少搜索空间来加快模式的发现。大量的实验结果表明,该算法可以有效地识别所有最近的高效用模式在大规模数据库中,改进的算法性能最好。
2019-12-25 cs.DB
Foundation for Frequent Pattern Mining Algorithms Implementation
随着IT技术的发展,积累的数据量也在不断增加。这样,数据采掘的作用就显现出来了。关联规则挖掘是描述性技术的重要任务之一,它可以被定义为从大量数据中发现有意义的模式。频繁模式挖掘算法从数据库中确定频繁模式。频繁项集的挖掘是关联规则挖掘的基础部分。在过去的几十年中,已经提出了许多算法,主要有Apriori,直接哈希和修剪,FP-Growth,ECLAT等。本研究的目的是分析现有的频繁模式挖掘技术,并通过比较Apriori和DHP算法在候选生成,数据库和事务修剪方面的性能来评估它们。这为开发新的频繁模式挖掘算法奠定了基础。
2014-02-08 cs.DB
Data Mining and Its Applications for Knowledge Management: A Literature Review from 2007 to 2012
数据采掘是数据库中知识发现过程的重要环节,是知识管理的重要分支。在未来的几十年里,数据采掘的研究在商业和学习型组织中继续增长。本文探讨了数据采掘技术在知识管理过程中的应用。对ScienceDirect数据库2007 - 2012年收录的期刊论文进行了分析和分类。研究结果的讨论分为4个主题:(i)知识资源;(ii)知识类型和/或知识数据集;(iii)数据采掘任务;(iv)知识管理中使用的数据采掘技术和应用。文章首先简要介绍了数据采掘的定义和数据采掘的功能。然后介绍了知识管理的基本原理和知识管理周期中集成的主要知识管理工具。最后,对数据采掘技术在知识管理过程中的应用进行了总结和探讨。
2012-10-10 cs.DB
Multi Relational Data Mining Approaches: A Data Mining Technique
多关系数据采掘方法已经发展成为处理结构化数据的替代方法,如关系数据库管理系统。这将直接在多个表中提供挖掘。在MRDM中,模式在关系数据库的多个表(关系)中可用。在数据采掘的实践中,由于数据的表多,会影响到许多问题。为了解决这个问题,人们要么通过命题化构造一个单一的表,要么使用多关系数据采掘算法。MRDM方法已成功应用于生物信息学领域。三种流行的模式发现技术分类,聚类和关联经常被用于多数据挖掘。多关系方法已经发展成为分析结构化数据如关系数据库的一种替代方法。MRDM允许直接应用于多表中的数据采掘。为了避免昂贵的连接操作和语义损失,我们使用了MRDM技术。本文重点介绍了MRDM和特征方向的一些应用领域,并对ILP、GM、SSDM和MRDM进行了比较
2012-11-16 cs.DB
HybridMiner: Mining Maximal Frequent Itemsets Using Hybrid Database Representation Approach
FAST-National University of Computer and Emerging Sciences(FAST-国立计算机与新兴科学大学)
在本文中,我们提出了一种新的混合(基于数组的布局和垂直位图布局)的数据库表示方法,挖掘完整的最大频繁项集(MFI)稀疏和大型数据集。我们的工作是新颖的可扩展性,项目搜索顺序和两个水平和垂直投影技术。我们还提出了一个最大的算法,使用这种混合数据库表示方法。在真实数据集和稀疏数据集上的不同实验结果表明,该方法优于现有的最大值算法。
2009-04-21 cs.AI cs.DB cs.DS
Native Directly Follows Operator
典型的遗留信息系统将数据存储在关系数据库中。流程挖掘是一门研究学科,它分析这些数据以获得对流程的洞察。许多不同的过程挖掘技术可以应用于数据。在当前技术中,XES事件日志用作分析的基础。然而,由于XES事件日志的静态特性,我们需要为每个流程挖掘问题创建一个XES文件,这导致了开销和可扩展性。作为替代方案,人们尝试使用所谓的中间结构直接在数据源上执行过程挖掘。在以前的工作中,我们研究了通过在数据库上执行基本SQL查询来在源数据上构建中间结构的方法。但是,SQL查询中的嵌套表单可能会导致数据库端的性能问题。因此,在本文中,我们提出了一个原生的SQL操作直接进程发现关系数据库。我们为中间结构的最简单形式定义了一个本地操作符,称为“直接跟随关系”。该方法已与大事件数据进行了评估,实验结果表明,它的执行速度比最先进的数据库方法。
2018-06-05 cs.DB
Mining Non-Redundant Local Process Models From Sequence Databases
Eindhoven University of Technology(埃因霍温理工大学);University of Tartu(塔尔图大学)
序列模式挖掘技术从序列数据库中提取对应于频繁序列的模式。这些技术的一个实际局限性是,它们会让用户负担太多的模式。局部过程模型挖掘是过程挖掘领域的一种新的挖掘方法。在传统的序列模式挖掘中,一个模式描述一个子序列,而LPM捕获一组连续性。此外,虽然传统的顺序模式仅匹配在序列数据库中观察到的顺序,但LPM可以捕获未明确观察到的顺序,但与观察到的顺序相关。换句话说,LPM概括了在序列数据库中观察到的行为。这些属性使得一组LPM可以覆盖更大的一组顺序模式的行为。然而,现有的LPM挖掘技术仍然遭受模式爆炸问题,因为它们产生冗余LPM集。在本文中,我们提出了几种算法来挖掘一组非冗余的LPM,无论是从一组冗余的LPM或从一组序列模式。我们根据经验比较他们之间的建议,并对现有的(本地)流程挖掘技术的覆盖率,冗余度和复杂性的生产集的LPM。
2018-09-21 cs.AI cs.DB cs.DS
Utility Mining Across Multi-Dimensional Sequences
从数据库中提取知识是数据库和数据采掘领域的一项基本任务,在实际应用中有着广泛的应用。与基于支持的挖掘模型不同,面向效用的挖掘框架集成了效用理论,提供了更多的信息和有用的模式。时变序列数据在现实生活中很常见。序列数据已经被广泛地应用于许多应用中,例如分析Web上的序列用户行为、影响力最大化、路线规划和有针对性的营销。不幸的是,所有现有算法都忽视了这样一个事实:处理后的数据不仅包含丰富的特征(例如,发生数量、风险、利润等),而且还可以与多维辅助信息相关联,例如,交易序列可以与购买者简档信息相关联。在本文中,我们首先制定了跨多维序列的效用挖掘问题,并提出了一个新的框架命名为MDUS提取多维效用导向的序列有用模式。提出了两种求解该问题的算法MDUS_EM和MDUS_SD。前一种算法基于数据库转换,后一种算法执行模式连接和搜索方法来识别多维序列中的期望模式。在5个真实数据集和1个人工数据集上进行了大量的实验,实验结果表明该算法能够有效地从多维序列数据库中发现有用的知识。此外,MDUS框架可以提供更好的洞察力,并且它比当前现有的模型更适合于现实生活中的情况。
2019-02-25 cs.DB
Efficient Analysis of Pattern and Association Rule Mining Approaches
数据采掘的过程从给定的数据源产生各种模式。发现频繁项集、频繁序列模式、频繁序列规则和频繁关联规则是数据采掘中公认的最重要的任务。已经提出了许多有效的算法来完成上述过程。频繁模式挖掘一直是数据采掘研究的一个热点问题,有大量的文献可供参考,并取得了重要的进展,从事务数据库中频繁项集挖掘的高性能算法到复杂算法,如序列模式挖掘、结构化模式挖掘、相关性挖掘等。关联规则挖掘(ARM)是当前最流行的数据采掘技术之一,它从大型数据库中对对象进行分组,目的是从海量数据中提取有趣的关联和关系。本文对频繁模式挖掘的研究现状进行了简要的回顾和分析,并讨论了一些有前景的研究方向。此外,本文还包括所述方法的性能之间的比较研究。
2014-02-12 cs.DB
An Enhanced Apriori Algorithm for Discovering Frequent Patterns with Optimal Number of Scans
数据采掘在许多领域得到了广泛的应用。在挖掘中有不同的任务,为各种各样的问题提供解决方案,以发现知识。在这些任务中,关联挖掘对于发现频繁模式起着关键作用。在现有的关联挖掘算法中,Apriori算法是发现频繁模式的最流行和最主要的算法之一。该算法用于从小型数据库到大型数据库中发现频繁模式。针对有形的Apriori算法在发现关联规则时需要扫描整个事务数据库而浪费时间的不足,提出了一种改进的Apriori算法。这种增强是通过在计算项目或项目对的频率时仅限制事务的数量来减少扫描事务数据库所用的时间来实现的。该改进的Apriori算法优化了扫描整个事务数据库的时间。
2015-06-23 cs.DB
Data Mining the SDSS SkyServer Database
早期的论文(Szalay et.等人的“Designing and Mining MultiTerabyte Astronomy Archives:The Sloan Digital Sky Survey,”ACM SIGMOD 2000)通过定义良好的数据管理系统应当支持的二十个数据库查询和十二个数据可视化任务来描述Sloan Digital Sky Survey(SDSS)的数据管理需求。我们建立了一个数据库和接口,以支持查询负载和一个网站的特设访问。本文报告了数据库设计,描述了数据加载管道,并报告了查询实现和性能。这些查询通常被转换为单个SQL语句。大多数查询运行时间不到20秒,使科学家能够交互式地探索数据库。本文是对这些查询的深入介绍。读者应该首先研究了同伴概述文件Szalay等。“SDSS SkyServer,公共访问斯隆数字天空服务器数据”ACM SIGMOND 2002。
2002-02-12 cs.DB cs.DL
Decision tree modeling with relational views
数据采掘是一种有用的决策支持技术,可用于发现仓库或公司数据中的产生式规则。数据采掘研究致力于在大型数据库上有效地应用各种挖掘算法。然而,在其实际应用中的一个严重的问题是这些算法的处理时间长。目前,一个关键的挑战是如何将数据采掘方法集成到传统的数据库系统框架中。实际上,这样的实现可以利用SQL引擎提供的效率。在本文中,我们提出了一个集成的方法,决策树在一个经典的数据库系统。换句话说,我们试图通过嵌入SQL查询的过程,以产生式规则的形式从关系数据库中发现知识。所获得的决策树由连续的、相关的关系视图定义。每个视图对应于基础决策树中的给定总体。我们选择了经典的归纳决策树(ID3)算法来构建决策树。为了证明我们的ID3的实现工作正常,我们成功地比较了我们的程序与现有的和验证的数据采掘软件,SIPINA的输出。此外,由于我们的方法是可调的,它可以推广到任何其他类似的决策树为基础的方法。
2007-05-10 cs.DB
An Improved UP-Growth High Utility Itemset Mining
在大数据集中有效地发现频繁项集是数据采掘的一项重要任务。近年来,人们提出了一些高效用模式的挖掘方法,但这些方法都存在产生大量高效用项目集的候选项目集的问题,并可能在速度和空间方面降低挖掘性能。最近提出的紧凑树结构,即,UP树维护了事务和项集的信息,提高了挖掘性能,避免了对原始数据库的重复扫描。本文采用了实用模式树(UP Tree,Utility Pattern Tree),它只需扫描数据库两次,就可以得到候选项,并以一种高效的数据结构化方式进行管理。将UP树应用于UP增长对于第二阶段需要更多的执行时间。因此,本文提出了改进的算法,旨在通过有效地识别高效用的项目集,以减少执行时间。
2012-12-03 cs.DB
Secure Mining of Association Rules in Horizontally Distributed Databases
提出了一种在水平分布式数据库中安全挖掘关联规则的协议。目前的主要协议是Kantarcioglu和Clifton的协议(TKDE 2004)。我们的协议,像他们的,是基于快速分布式挖掘(FDM)算法的张等人。(PDIS 1996),这是一个不安全的分布式版本的Apriori算法。在我们的协议中的主要成分是两个新的安全多方算法-一个是计算每个交互的球员持有的私有子集的联盟,另一个是测试包含一个球员持有的一个元素在另一个持有的子集。我们的协议相对于Kantarcioglu和Clifton的协议提供了增强的隐私。此外,它更简单,并且在通信轮次、通信成本和计算成本方面显著更高效。
2011-06-25 cs.CR cs.DB cs.DC
A one-phase tree-based algorithm for mining high-utility itemsets from a transaction database
高效用项集挖掘从事务数据库中发现效用不低于用户定义的固定阈值的项集。项集的效用被定义为其项的效用之和。提出了几种挖掘高效用项集的算法。然而,没有最先进的算法在密集和稀疏数据集上表现一致。在本文中,我们提出了一种新的数据结构称为Utility-Tree,和基于树的算法称为UT-Miner,挖掘高效用项目集在一个阶段,而不产生任何候选人,并使用一个轻量级的建设方法,以减少成本创建投影数据库在搜索空间探索。该算法将事务信息与效用树的每一个节点存储在一起,并在递归调用过程中有效地计算事务信息。在几个真实的密集和稀疏数据集上的实验结果表明,UT-Miner是跨不同数据集的最佳高效算法之一。
2019-11-17 cs.DB cs.DS
VulLink: A Dynamic Open-Access Vulnerability Graph Database for Cybersecurity Data Mining
La Trobe University(拉筹伯大学);Victoria University(维多利亚大学)
提出VulLink,一种通过自动化ETL管道集成多源漏洞数据、提供图数据库、Web接口和API的动态开放平台,支持漏洞利用性预测等下游挖掘任务。
2026-06-18 cs.CR cs.DB
Comparing Data-mining Algorithms Developed for Longitudinal Observational Databases
University of Nottingham(诺丁汉大学);Nottingham City Hospital(诺丁汉城市医院)
纵向观察性数据库最近成为上市后药物监测界的关注点,因为它们能够提供一个新的视角来检测不良副作用。挖掘纵向观察数据库的算法不受许多与自发报告系统数据库开发的更传统的方法相关的限制。在本文中,我们调查的鲁棒性最近开发的算法,挖掘纵向观察数据库,通过将它们应用到健康改善网络(THIN)的六种药物,众所周知的文件的负面影响。我们的研究结果表明,现有的算法都不能一致地识别已知的药物不良反应以上的事件与药物的原因,没有算法是优越的。
2013-07-05 cs.CE cs.DB cs.LG
A Scalable Database for the Storage of Object-Centric Event Logs
以对象为中心的流程挖掘提供了一组用于分析事件数据的技术,其中事件与多个对象相关联。为了存储以对象为中心的事件数据库(OCEL),最近提出了JSON-OCEL和JSON-XML格式。然而,OCEL的建议实现是基于文件的。这意味着需要解析整个文件,以便应用流程挖掘技术,例如发现以对象为中心的流程模型。在本文中,我们提出了一种使用MongoDB文档数据库存储OCEL格式的数据库。由于MongoDB中的文档等同于JSON对象,因此该标准的当前JSON实现可以直接转换为一系列MongoDB集合。
2022-02-11 cs.DB
A Study on Application of Spatial Data Mining Techniques for Rural Progress
本文着重于空间数据采掘技术的应用,以有效地管理所面临的挑战,在分析和预测市场的情况下,周边农村地区,更好地管理其经济。空间数据采掘是揭示隐藏在空间数据库中的隐含知识的任务。空间数据库包含所研究地区的空间和非空间属性。寻找隐藏在空间数据库中的隐含的规则或模式是一项重要的任务,例如地理营销,交通控制或环境研究。本文的研究重点是空间数据采掘技术在农村经济地理领域的有效应用
2013-03-03 cs.CY cs.DB
Frequent Knot Discovery
我们探讨了将频繁模式挖掘的框架应用于自然界中出现的一类连续对象(即节点)的可能性。我们介绍了频繁节点挖掘问题,并提出了解决方案。关键的观察是,由节点组成的数据库可以转换为事务数据库。这个观察是基于纽结的素分解定理。
2004-10-16 cs.DB
A Data Warehouse Design for a Typical University Information System
目前,大型企业依靠数据库系统来管理他们的数据和信息。这些数据库对进行日常业务交易很有用。然而,市场上的激烈竞争导致了数据采掘的概念,在数据挖掘中,分析数据以得出有效的商业策略并发现更好的开展业务的方法。为了进行数据采掘,必须将常规数据库转换为信息数据库,也称为数据仓库。本文以一个典型的高校信息系统为例,提出了一种数据仓库的设计模型。它基于将操作数据库转换为信息仓库,可供决策者进行数据分析,预测和预测。该模型基于数据迁移的四个阶段:数据提取、数据清洗、数据转换、数据索引和加载。整个系统在MS Access 2010下实施,旨在作为数据采掘操作的数据储存库。
2012-12-10 cs.DB
Incremental high average-utility itemset mining: survey and challenges
本文综述了增量式高效用平均项集挖掘(iHAUIM)算法,分类分析其关键技术(Apriori、树、效用列表)及优缺点,并探讨未来研究方向。
2024-07-16 cs.DB
FUIM: Fuzzy Utility Itemset Mining
模糊数据采掘由于其实用性和可理解性,近年来得到了广泛的研究,是一个新兴的课题。与效用驱动的项集挖掘技术相比,模糊效用挖掘不仅需要效用(例如,利润),但也考虑在发现高模糊效用项目集(HFUI)的每个交易中的项目的数量。因此,模糊度可以作为选择高效用项集的一个关键标准,而现有的算法效率不够。本文提出了一种有效的单阶段算法模糊驱动的效用项集挖掘器(FUIM),以有效地找到一个完整的集HFUI。此外,一种新的紧凑的数据结构称为模糊表保持定量交易数据库的关键信息。FUIM使用模糊列表,可以从事务数据库中高效地发现HFUI。通过五个定理证明了FUIM算法的完备性和正确性。最后,大量的实验测试三个方面(运行时成本,内存消耗和可扩展性),以确认FUIM大大优于国家的最先进的算法。
2021-10-30 cs.DB
Data Mining in Astronomical Databases
虚拟天文台(VO)将使透明和有效的访问,搜索,检索和可视化的数据在多个数据存储库,这通常是异构和分布式的。方面的数据挖掘,适用于各种科学用户的情况下,VO进行审查。
2000-10-30 astro-ph cs.DB cs.DL
MINE GRAPH RULE: A New Cypher-like Operator for Mining Association Rules on Property Graphs
本文提出MINE GRAPH RULE算子,用于在属性图上挖掘关联规则,定义了其语法语义并支持度量和置信度测量,基于Neo4j实现插件并验证了性能。
2025-07-15 cs.DB
A Model-Based Frequency Constraint for Mining Associations from Transaction Data
频繁项集挖掘是一种在数据库中发现关联项的常用方法。对于这种方法,支持度,形成关联的项目的共现频率,被用作关联的重要性的主要指标。使用单个用户指定的支持阈值来决定是否应进一步调查关联。支持有一些已知的问题,罕见的项目,有利于较短的项目集,有时产生误导性的协会。在本文中,我们开发了一种新的基于模型的频率约束作为一个单一的,用户指定的最小支持的替代。该约束通过应用简单的随机混合模型(NB模型)来利用生成事务数据的过程的知识,该模型允许事务数据的通常高度偏斜的项目频率分布。用户指定的精度阈值与模型一起使用,以找到项目集组的局部频率阈值。在此基础上,提出了NB-频繁项集的概念,并提出了一种挖掘算法来发现数据库中所有的NB-频繁项集。在公开的交易数据库的实验中,我们表明,新的约束提供了一个单一的最小支持阈值的改进和精度阈值是更强大的,更容易设置和解释的用户。
2008-03-21 cs.DB
FRI-Miner: Fuzzy Rare Itemset Mining
数据采掘是一种广泛应用于数据分析的各种实际应用的技术,对于在事务数据库中发现有价值的关联规则非常重要。兴趣项集挖掘在市场、电子商务、金融、医疗等领域有着重要的应用。迄今为止,各种基于频繁模式的数据采掘算法已经得到了广泛的研究,但很少有算法专注于挖掘不频繁或稀有模式。在某些情况下,稀有项集和稀有关联规则在实际应用中也起着重要的作用。本文介绍了一种新的基于模糊的稀有项集挖掘算法FRI-Miner,该算法应用具有语言学意义的模糊理论,在定量数据库中发现有价值的、有趣的模糊稀有项集。此外,FRI-Miner利用模糊列表结构来存储重要信息,并应用多种剪枝策略来减少搜索空间。实验结果表明,FRI-Miner算法能够在考虑现实中的量化价值的基础上,发现更少、更有趣的项目集。此外,它在有效性方面明显优于最先进的算法(w.r.t.不同类型的导出图案)和效率(w.r.t.运行时间和内存使用)。
2021-03-11 cs.DB
StarStar Models: Process Analysis on top of Databases
流程挖掘项目中的大量时间都花在查找和理解数据源以及提取所需的事件数据上。因此,实际上只有一小部分时间用于应用技术来发现、控制和预测业务流程。此外,缺乏在数据库之上显示关系而不需要表达复杂查询以获得所需信息的技术。本文提出了一种在数据库之上工作的新型建模技术。该技术能够显示表示从数据库事件推断的活动的多重图,其与用频率和性能信息注释的边连接。该表示可以是应用对经典事件日志起作用的高级流程挖掘技术的入口点,因为该模型提供了从指定的模型片段检索经典事件日志的简单方法。与类似的技术和经验的评价比较。
2018-11-20 cs.DB