A Seamless Integration of Association Rule Mining with Database Systems
人们早就认识到需要支持特定数据采掘查询的知识和数据发现管理系统(KDDMS)。大量的研究已经投入到构建紧密耦合的系统,将关联规则挖掘与数据库系统集成在一起。在本文中,我们描述了一个无缝集成计划的数据库查询和关联规则发现使用一个共同的查询优化器。扩展代数中表达式的查询树用于优化器中的内部表示。代数表示是足够灵活的,以处理约束关联规则查询和关联规则规范的其他变化。我们提出模块化来简化数据采掘中复杂任务的查询树。为在优化过程中利用现有的算法构造查询计划铺平了道路。如何集成方案,我们目前将促进更大的用户控制的数据采掘过程中进行了讨论。本文所描述的工作是一个更大的项目的一部分,该项目旨在将数据采掘与数据库管理完全集成。
2001-06-28 cs.DB
An Automatic Identification System (AIS) Database for Maritime Trajectory Prediction and Data Mining
近年来,海上安全和效率在世界范围内变得越来越重要。自动识别系统(AIS)通过船载收发器和地面和/或卫星基站跟踪船舶运动。AIS采集的数据包括广播的运动信息和静态信息。这两种算法对于智能海事研究领域的异常检测和航线预测等关键技术具有重要的应用价值。本文致力于建立一个标准的AIS数据库,用于海上航迹学习、预测和数据采掘。在此AIS数据库上对路径预测算法进行了测试,测试结果表明,该数据库可以作为不同的轨迹预测算法和其他AIS数据采掘算法的标准化训练资源。
2016-10-13 cs.DB
A Model for Mining Multilevel Fuzzy Association Rule in Database
多层关联挖掘的模型和算法的研究对数学和计算机科学提出了新的挑战。当数据或数据关系中存在某种形式的不确定性(如模糊性)时,这些问题变得更具挑战性。本文提出了一种多级模糊关联规则挖掘模型,用于提取事务数据库中隐含的知识,每一级的支持度不同。该算法采用自顶向下的渐进式深化方法来获取大项目集。这种方法采用模糊边界,而不是尖锐的边界区间。最后通过一个实例表明,该算法可以简单有效地挖掘出不同支持度下的多层关联规则。
2010-01-20 cs.DB
Efficient Support Coupled Frequent Pattern Mining Over Progressive Databases
最近有很多关于序列模式挖掘的研究。渐进式数据库上的序列模式挖掘是一个比较新的方法,它是在感兴趣的时间段内逐步发现序列模式。感兴趣的时间段是一个随着时间的推移而不断前进的滑动窗口。随着滑动窗口焦点的变化,新项被添加到感兴趣的数据集中,过时的项被从中删除并成为最新的。一般来说,现有的建议没有充分探讨现实世界的情况下,如项目与支持数据流应用程序,如购物篮分析。因此,从支持的频繁项中挖掘重要知识成为一个重要的研究课题。我们提出的新方法有效地挖掘频繁序列模式加上支持使用渐进挖掘树。
2010-05-29 cs.DB
Data Mining in Astronomical Databases
虚拟天文台(VO)将使透明和有效的访问,搜索,检索和可视化的数据在多个数据存储库,这通常是异构和分布式的。方面的数据挖掘,适用于各种科学用户的情况下,VO进行审查。
2000-10-30 astro-ph cs.DB cs.DL
Mining Weighted Sequential Patterns in Incremental Uncertain Databases
University of Dhaka(达卡大学);University of Manitoba(曼尼托巴大学)
本文针对增量不确定数据库中的加权序列模式挖掘问题,提出了一种挖掘频繁序列的算法及两种增量挖掘新技术,实验验证了框架的高效性。
2024-03-31 cs.AI cs.DB
Application of Data Mining Techniques to a Selected Business Organisation with Special Reference to Buying Behaviour
Deshbhakt Ratnappa Kumbhar College Of Commerce(德斯巴克特·拉特纳帕·孔布哈商业学院);Chh. Shahu Institute Of Business Education And Research(恰·沙胡商业教育与研究学院)
数据采掘是一个新的概念&对大数据集进行探索和分析,以发现有意义的模式和规则。许多组织现在正在使用数据采掘技术从数据库中找出有意义的模式。本文研究了如何将数据采掘技术应用于大型数据库。这些数据采掘技术从数据库中得到某些行为模式。对数据库进行分析后得出的结果对组织工作是有用的。本文对应用关联规则挖掘技术、规则归纳技术和Apriori算法后的结果进行了检验。并将这些技术应用于大型购物中心的数据库中。通过上述技术对市场购物篮进行分析,发现了一些重要的结果,如购买行为。
2011-12-17 cs.AI cs.DB
Graph-based process mining
流程挖掘是一个研究领域,它支持从业务流程的执行事件日志中发现有关业务流程的信息。组织中事件日志数量的增加对当前的流程挖掘技术提出了挑战,这些技术倾向于将数据加载到计算机的内存中。这个问题限制了组织大规模地应用流程挖掘,并且由于缺乏数据管理能力而引入了风险。因此,本文介绍和形式化的一种新的方法来存储和检索事件日志到/从图数据库。它定义了一种在图数据库中计算直接跟随图(DFG)的算法,将流程挖掘的繁重计算部分转移到图数据库中。在图数据库中计算DFG使得能够利用图数据库的水平和垂直缩放能力,以有利于大规模地应用流程挖掘。此外,它消除了将数据转移到分析师计算机中的要求。因此,它使得能够在图形数据库中使用数据管理能力。我们在Neo4j中实现了这种方法,并使用真实的日志文件与当前技术进行了比较。结果表明,当数据量远大于计算内存时,我们的方法能够计算DFG。当将数据分割成小块时,它也显示出更好的性能。
2020-07-18 cs.DB
A Novel Approach for Web Page Set Mining
关联规则挖掘中最耗时的步骤之一是计算数据库中项集的出现频率。哈希表索引方法通过仅扫描事务数据库一次来将事务数据库转换为哈希索引树。每当用户请求任何统一资源定位符(URL)时,请求条目都存储在服务器的日志文件中。本文提出了一种通用的、密集的哈希索引表结构,用于从服务器的日志文件中提取网页集。此哈希表提供有关原始数据库的信息。网页集挖掘(WPs-Mine)提供了原始数据库的完整表示。这种方法适用于稀疏和密集数据分布。哈希表索引支持的Web页面集挖掘表明,其性能始终与访问平面文件上的数据的算法相当,并且往往优于这些算法。增量更新是可行的,无需重新访问原始事务数据库。
2011-11-11 cs.DB
Implementation of Association Rule Mining for Network Intrusion Detection
现代的入侵检测系统都是基于数据采掘和以数据库为中心的体系结构,其中出现了许多数据采掘技术,其中关联规则挖掘是数据采掘研究的重要内容之一。这种方法确定大型数据项集之间的有趣关系。这种技术最初被应用于所谓的购物篮分析,其目的是发现超市顾客的购物行为。与通常需要数百个属性的购物篮分析数据集相比,网络审计数据库面临数十个属性。针对事务数据库的这种特点,对传统的关联规则挖掘算法Apriori进行了改进。本文提出了一种改进的Apriori算法,该算法通过事务切割和散列,只需扫描网络审计数据库一次,在实际应用中非常有用。
2016-08-04 cs.CR cs.DB
HybridMiner: Mining Maximal Frequent Itemsets Using Hybrid Database Representation Approach
FAST-National University of Computer and Emerging Sciences(FAST-国立计算机与新兴科学大学)
在本文中,我们提出了一种新的混合(基于数组的布局和垂直位图布局)的数据库表示方法,挖掘完整的最大频繁项集(MFI)稀疏和大型数据集。我们的工作是新颖的可扩展性,项目搜索顺序和两个水平和垂直投影技术。我们还提出了一个最大的算法,使用这种混合数据库表示方法。在真实数据集和稀疏数据集上的不同实验结果表明,该方法优于现有的最大值算法。
2009-04-21 cs.AI cs.DB cs.DS
Recent Trends and Research Issues in Video Association Mining
随着数字图书馆和视频数据库的不断发展,从视频数据库中自动理解和挖掘知识变得越来越重要。在视频数据采掘的研究领域中,发现大型视频数据库中项目之间的关联规则具有重要的意义。在过去几年的研究和发展的基础上,关联规则挖掘在不同的领域,如监控,会议,广播新闻,体育,档案,电影,医疗数据,以及个人和在线媒体收藏中的应用越来越多。本文的目的是提供一个从视频数据库中挖掘关联规则的通用框架。本文还介绍了视频关联挖掘中的研究问题,以及最新的发展趋势。
2011-12-09 cs.DB cs.MM
A Constraint Programming Approach for Mining Sequential Patterns in a Sequence Database
University of Caen(卡昂大学);University PARIS 13(巴黎第十三大学)
基于约束的模式发现是众多数据采掘任务的核心。模式是相对于一组给定的约束(频率,封闭性,大小等)提取的。在序列模式挖掘的背景下,已经开发了大量专门的技术来解决特定类别的约束。本文的目的是研究使用约束编程(CP)的建模和挖掘序列数据库中的序列模式。我们的CP方法提供了一种自然的方式,在同一个框架中同时结合了来自不同来源的大量约束。实验结果表明,我们的方法的可行性和利益。
2013-11-27 cs.AI cs.DB
Mining Non-Redundant Local Process Models From Sequence Databases
Eindhoven University of Technology(埃因霍温理工大学);University of Tartu(塔尔图大学)
序列模式挖掘技术从序列数据库中提取对应于频繁序列的模式。这些技术的一个实际局限性是,它们会让用户负担太多的模式。局部过程模型挖掘是过程挖掘领域的一种新的挖掘方法。在传统的序列模式挖掘中,一个模式描述一个子序列,而LPM捕获一组连续性。此外,虽然传统的顺序模式仅匹配在序列数据库中观察到的顺序,但LPM可以捕获未明确观察到的顺序,但与观察到的顺序相关。换句话说,LPM概括了在序列数据库中观察到的行为。这些属性使得一组LPM可以覆盖更大的一组顺序模式的行为。然而,现有的LPM挖掘技术仍然遭受模式爆炸问题,因为它们产生冗余LPM集。在本文中,我们提出了几种算法来挖掘一组非冗余的LPM,无论是从一组冗余的LPM或从一组序列模式。我们根据经验比较他们之间的建议,并对现有的(本地)流程挖掘技术的覆盖率,冗余度和复杂性的生产集的LPM。
2018-09-21 cs.AI cs.DB cs.DS
Defining and Mining Functional Dependencies in Probabilistic Databases
函数依赖--传统的、近似的和条件的依赖在关系数据库中是至关重要的,因为它们告诉我们属性之间的关系。它们在模式规范化、数据校正和源选择等方面都很有用。然而,其中大多数是在确定性数据的背景下开发的。虽然不确定数据库已经开始受到关注,但这些依赖关系还没有为它们定义,也没有快速算法来评估它们的置信度。本文定义了概率数据库函数依赖的各种形式的逻辑扩展,并探讨了它们之间的联系。我们提出了一个基于剪枝的精确算法来评估的信心的函数依赖,一个基于Monte-Carlo算法来评估的信心近似函数依赖和算法的条件概率数据库中的副本。实验上进行的合成和真实的数据评估这些算法的性能,在评估的依赖性和挖掘它们的数据的信心。我们相信,拥有这些可用于概率数据库的依赖关系和算法将推动行业中概率数据存储的采用。
2010-12-13 cs.DB
Characterizing Transactional Databases for Frequent Itemset Mining
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
本文研究了用于频繁项集挖掘的事务数据库的特征。这些特征通常用于基准测试和理解在这些数据库上工作的数据采掘算法。我们的研究的目的是给这些基准数据库的多样性和代表性的图片,无论是在一般情况下,但也在特定的实证研究的文献中发现的背景下。我们提出的指标列表包含了文献中发现的许多现有指标,以及新的指标。我们的研究表明,我们的指标列表能够捕捉到大部分数据集的内部复杂性,从而为事务数据集的表征提供了一个很好的基础。最后,我们提供了一组代表性的数据集,根据我们的表征,可以安全地用作基准。
2020-11-09 cs.AI cs.DB
Mining Sequential Patterns in Uncertain Databases Using Hierarchical Index Structure
本文针对不确定数据库中序列模式挖掘的假阳性过多和增量场景不可扩展问题,提出收紧剪枝上界、层次索引结构和通用挖掘框架,并支持权重约束与增量数据库,实验验证了其有效性。
2024-03-31 cs.DB
Probabilistic Frequent Pattern Growth for Itemset Mining in Uncertain Databases (Technical Report)
不确定事务数据库中的频繁项集挖掘在语义和计算上不同于传统的应用于标准(确定)事务数据库的技术。不确定事务数据库由存在不确定项的集合组成。交易项目的不确定性使得传统的技术不适用。在本文中,我们解决的问题,发现概率频繁项集的基础上可能世界语义。在此上下文中,如果X在至少minSup事务中出现的概率高于给定阈值,则项集X被称为频繁项集。我们做了以下贡献:我们提出了第一个概率FP-Growth算法(ProFP-Growth)和相关的概率FP-Tree(ProFP-Tree),我们使用它来挖掘不确定事务数据库中的所有概率频繁项集,而无需候选生成。此外,我们提出了一个有效的技术来计算的支持概率分布的项目集在线性时间使用生成函数的概念。一个广泛的实验部分评估我们提出的技术,并表明我们的ProFP-Growth方法是显着快于目前最先进的算法。
2010-08-13 cs.DB
Secure Mining of Association Rules in Horizontally Distributed Databases
提出了一种在水平分布式数据库中安全挖掘关联规则的协议。目前的主要协议是Kantarcioglu和Clifton的协议(TKDE 2004)。我们的协议,像他们的,是基于快速分布式挖掘(FDM)算法的张等人。(PDIS 1996),这是一个不安全的分布式版本的Apriori算法。在我们的协议中的主要成分是两个新的安全多方算法-一个是计算每个交互的球员持有的私有子集的联盟,另一个是测试包含一个球员持有的一个元素在另一个持有的子集。我们的协议相对于Kantarcioglu和Clifton的协议提供了增强的隐私。此外,它更简单,并且在通信轮次、通信成本和计算成本方面显著更高效。
2011-06-25 cs.CR cs.DB cs.DC
A Novel Approach for Mining Similarity Profiled Temporal Association Patterns
从非时态数据库中挖掘频繁模式是数据采掘、时态数据库和信息检索领域的研究热点。然而,传统的频繁模式算法不适合从时态数据库中发现相似的时态关联模式。时态数据库是能够存储过去、现在和未来信息的数据库。本研究的目的是提出一种新的方法,以便找到相似的时间关联模式w.r.t用户指定的阈值和一个给定的参考支持时间序列使用维恩图的概念。为此,我们保持两种类型的支持称为积极的支持和消极的支持值,以找到类似的时间关联模式的用户兴趣。我们的方法的主要优点是,它只执行一个单一的扫描时间数据库,以找到类似于指定的参考支持序列的时间关联模式。因此,这种单一数据库扫描方法消除了多次扫描数据库时产生的巨大开销。本方法还消除了在计算下一阶段的时间模式时计算和维护前一阶段的时间模式的所有子集的真实支持值的需要。
2016-04-18 cs.DB
Comparing Data-mining Algorithms Developed for Longitudinal Observational Databases
University of Nottingham(诺丁汉大学);Nottingham City Hospital(诺丁汉城市医院)
纵向观察性数据库最近成为上市后药物监测界的关注点,因为它们能够提供一个新的视角来检测不良副作用。挖掘纵向观察数据库的算法不受许多与自发报告系统数据库开发的更传统的方法相关的限制。在本文中,我们调查的鲁棒性最近开发的算法,挖掘纵向观察数据库,通过将它们应用到健康改善网络(THIN)的六种药物,众所周知的文件的负面影响。我们的研究结果表明,现有的算法都不能一致地识别已知的药物不良反应以上的事件与药物的原因,没有算法是优越的。
2013-07-05 cs.CE cs.DB cs.LG
Data Mining the SDSS SkyServer Database
早期的论文(Szalay et.等人的“Designing and Mining MultiTerabyte Astronomy Archives:The Sloan Digital Sky Survey,”ACM SIGMOD 2000)通过定义良好的数据管理系统应当支持的二十个数据库查询和十二个数据可视化任务来描述Sloan Digital Sky Survey(SDSS)的数据管理需求。我们建立了一个数据库和接口,以支持查询负载和一个网站的特设访问。本文报告了数据库设计,描述了数据加载管道,并报告了查询实现和性能。这些查询通常被转换为单个SQL语句。大多数查询运行时间不到20秒,使科学家能够交互式地探索数据库。本文是对这些查询的深入介绍。读者应该首先研究了同伴概述文件Szalay等。“SDSS SkyServer,公共访问斯隆数字天空服务器数据”ACM SIGMOND 2002。
2002-02-12 cs.DB cs.DL
Perspects in astrophysical databases
天体物理学已经成为一个科学数据极其丰富的领域。数据采掘工具需要从这样大的数据集中进行信息抽取。这就要求采用一种数据管理方法,强调数据访问的效率和简单性;使用多维访问方法可以获得效率,通过适当处理元数据可以实现简单性。此外,大型数据集上的聚类和分类技术在计算和存储器可扩展性以及结果的可解释性方面提出了额外的要求。在这项研究中,我们回顾了一些可能的解决方案。
2004-02-09 astro-ph cs.DB
Frequent itemsets mining for database auto-administration
随着一般数据库和特别是数据仓库的广泛发展,减少数据库管理员必须手动执行的任务是重要的。自动管理系统的目标是自动管理和适应自己,而不会损失(甚至获得)性能。使用数据采掘技术从数据本身中提取有用的管理知识的想法已经存在了一些年。然而,很少有研究取得了成果。然而,这个想法仍然是一个非常有前途的方法,特别是在数据仓库领域,查询是非常异构的,不能很容易地解释。本研究的目的是寻找一种从存储的数据中提取有用知识的方法,以自动应用性能优化技术,特别是索引技术。我们设计了一个工具,从给定的工作负载中提取频繁项集来计算索引配置,以帮助优化数据访问时间。我们执行的实验表明,我们的工具生成的索引配置允许在测试数据库和测试数据仓库上获得15%到25%的性能提升。
2008-09-16 cs.DB
Association Rule Mining Based On Trade List
提出了一种基于频繁项集的挖掘算法。Apriori算法每次发现频繁项集时都要扫描数据库,因此非常耗时,而且每一步都要生成候选项集。在无向项集图中,它是对先验知识的改进,但生成树需要时间和空间。定义的算法在开始时只扫描数据库一次,然后从扫描的数据库中生成贸易清单。它包含了整个数据库的信息。它通过考虑最小支持度来寻找频繁项集,并通过考虑最小置信度来生成关联规则。当数据库和最小支持度发生变化时,新算法通过扫描交易列表来发现新的频繁项。因此,与传统算法相比,它的执行效率有了明显的提高。
2012-02-22 cs.DB
A one-phase tree-based algorithm for mining high-utility itemsets from a transaction database
高效用项集挖掘从事务数据库中发现效用不低于用户定义的固定阈值的项集。项集的效用被定义为其项的效用之和。提出了几种挖掘高效用项集的算法。然而,没有最先进的算法在密集和稀疏数据集上表现一致。在本文中,我们提出了一种新的数据结构称为Utility-Tree,和基于树的算法称为UT-Miner,挖掘高效用项目集在一个阶段,而不产生任何候选人,并使用一个轻量级的建设方法,以减少成本创建投影数据库在搜索空间探索。该算法将事务信息与效用树的每一个节点存储在一起,并在递归调用过程中有效地计算事务信息。在几个真实的密集和稀疏数据集上的实验结果表明,UT-Miner是跨不同数据集的最佳高效算法之一。
2019-11-17 cs.DB cs.DS
VulLink: A Dynamic Open-Access Vulnerability Graph Database for Cybersecurity Data Mining
La Trobe University(拉筹伯大学);Victoria University(维多利亚大学)
提出VulLink,一种通过自动化ETL管道集成多源漏洞数据、提供图数据库、Web接口和API的动态开放平台,支持漏洞利用性预测等下游挖掘任务。
2026-06-18 cs.CR cs.DB
Mining Frequent Itemsets over Uncertain Databases
近年来,由于不确定数据的广泛应用,在不确定数据库上挖掘频繁项集引起了人们的广泛关注。在不确定数据库中,项集的支持度是一个随机变量,而不是该项集的固定出现次数。因此,与确定性数据库中频繁项集有唯一定义的相应问题不同,不确定环境下的频繁项集到目前为止有两种不同的定义。第一种定义称为基于期望支持度的频繁项集,它用一个项集的支持度的期望值来衡量这个项集是否频繁。第二个定义,称为概率频繁项集,使用项集的支持概率来度量其频率。因此,现有的不确定数据库中挖掘频繁项集的工作被分为两个不同的组,没有研究进行全面比较这两种不同的定义。此外,由于不存在统一的实验平台,目前针对同一定义的解决方案甚至会产生不一致的结果。在本文中,我们首先旨在澄清这两个不同的定义之间的关系。通过大量的实验,我们验证了这两个定义有紧密的联系,并可以统一在一起,当数据量足够大。其次,我们提供了基线实现现有的八个代表性的算法,并测试他们的性能与统一的措施公平。最后,通过对不同基准数据集的公平性检验,澄清了现有的一些不一致结论,并讨论了一些新的发现。
2012-08-01 cs.DB
A Study on Application of Spatial Data Mining Techniques for Rural Progress
本文着重于空间数据采掘技术的应用,以有效地管理所面临的挑战,在分析和预测市场的情况下,周边农村地区,更好地管理其经济。空间数据采掘是揭示隐藏在空间数据库中的隐含知识的任务。空间数据库包含所研究地区的空间和非空间属性。寻找隐藏在空间数据库中的隐含的规则或模式是一项重要的任务,例如地理营销,交通控制或环境研究。本文的研究重点是空间数据采掘技术在农村经济地理领域的有效应用
2013-03-03 cs.CY cs.DB
Mining Top-k Sequential Patterns in Database Graphs:A New Challenging Problem and a Sampling-based Approach
在许多现实世界的网络中,顶点通常与全面描述顶点行为的事务数据库相关联。一个典型的例子是社交网络,其中每个用户的行为都由一个交易数据库来描述,该数据库存储他每天发布的内容。事务数据库是一组事务,其中事务是一组项。网络中的每条路径都是一个顶点序列,这些顶点序列会导致多个交易序列。由网络中所有路径引起的事务序列形成了一个非常大的序列数据库。从序列数据库中寻找频繁的序列模式,可以发现网络中许多路径上频繁出现的有趣的连续性。然而,这是一个具有挑战性的任务,因为由数据库图诱导的序列数据库太大,无法显式地诱导和存储。在本文中,我们提出了新的概念,数据库图,自然模型广泛的现实世界的网络,通过关联每个顶点与一个交易数据库。我们的目标是从数据库图中找出序列数据库中的前k个频繁序列模式。我们证明了这个问题是#P-hard问题。为了解决这个问题,我们提出了一个有效的两步抽样算法,近似的top-k频繁序列模式,可证明的质量保证。在合成数据集和真实数据集上的大量实验结果证明了该方法的有效性和效率。
2018-05-08 cs.DB
Fast Mining of Spatial Frequent Wordset from Social Database
在本文中,我们提出了一个算法,提取空间频繁模式来解释一个特定的位置从可用的社会数据的相对特征。提出了一种空间社会数据模型,该模型包括空间社会数据、空间支持度、空间频繁模式、空间划分和空间聚类等概念,用于描述空间频繁模式的探索算法。在此基础上,提出了一种既保留了频繁词又保留了频繁单元的SFP-树结构,并在此基础上提出了一种挖掘频繁模式的SFP-生长算法.
2019-12-26 cs.DB
On Addressing Efficiency Concerns in Privacy Preserving Data Mining
数据采掘服务需要准确的输入数据,以使其结果有意义,但隐私问题可能会影响用户提供虚假信息。为了鼓励用户提供正确的输入,我们最近提出了一个数据失真方案的关联规则挖掘,同时提供隐私的用户和准确性的挖掘结果。然而,与挖掘原始数据库相比,挖掘变形数据库可能要花费多几个数量级的时间。在本文中,我们解决这个问题,并证明,通过(a)推广的失真过程,以执行特定符号的失真,(b)适当地选择失真参数,(c)在重建过程中应用各种优化,运行时的效率,以及在一个数量级的非失真挖掘可以实现。
2003-10-17 cs.DB
Causal Process Mining from Relational Databases with Domain Knowledge
针对过程挖掘中直接跟随关系在多对象关联场景下的缺陷,提出以关系数据库为输入、基于因果过程模板构建因果事件图的因果过程挖掘方法,案例研究验证了结合领域知识的优势。
2023-07-20 cs.DB
Efficient techniques for mining spatial databases
聚类是数据采掘的主要任务之一。近几年来,空间数据的聚类得到了广泛的研究.空间数据库是许多高级信息系统的组成部分,如地理信息系统超大规模集成电路设计系统。在这篇论文中,我们介绍了几种有效的空间数据聚类算法。首先,我们提出了一个基于网格的聚类算法,具有几个优点和性能相媲美的著名的高效聚类算法。该算法有几个优点。该算法不需要很多输入参数。它只需要三个参数,数据空间中的点的数量,网格中的单元格的数量和百分比。网格中单元的数量反映了算法应达到的精度。该算法能够发现任意形状的簇。该算法的计算复杂性与最有效的聚类算法的复杂性相当。该算法已被实施和测试对不同范围的数据库大小。性能结果表明,该算法的运行时间优于最知名的算法(CRANANS [23])。实验结果还表明,该算法的性能不随数据点数目的增加而降低。
2012-06-01 cs.DB
Extracting Multiple Viewpoint Models from Relational Databases
流程挖掘项目中的大量时间都花在查找和理解数据源以及提取所需的事件数据上。因此,实际上只有一小部分时间用于应用技术来发现、控制和预测业务流程。此外,目前的过程挖掘技术假设一个单一的情况下的概念。然而,在现实生活中,不同的案例概念往往交织在一起。例如,同一订单处理流程的事件可能涉及客户、订单、订单行、交货和付款。因此,我们建议使用多视点(MVP)模型,通过对象关联事件,通过类关联活动。所需的事件数据更接近于现有的关系数据库。MVP模型提供了一个关于流程的整体视图,但也允许使用不同的视角提取经典事件日志。通过这种方式,现有的流程挖掘技术可以用于每个视点,而不需要新的数据提取和转换。我们提供了一个工具链,允许从关系数据库中发现MVP模型(注释有性能和频率信息)。此外,我们证明了经典的过程挖掘技术可以应用于任何选定的观点。
2020-01-08 cs.DB
Similarity Data Item Set Approach: An Encoded Temporal Data Base Technique
数据采掘已被广泛认为是一个强大的工具,探索从大型数据库的附加值。在关联规则的数据采掘过程中,发现数据库中的频繁项集是一个关键问题。为了寻找频繁项集,人们提出了许多算法。本文提出了一个总结和比较研究的可用FP增长算法的变化产生的挖掘频繁项目集显示其能力和效率方面的时间和内存消耗的关联规则挖掘,考虑到具体的信息的应用。提出了基于模式增长挖掘范式的FP-树增长算法,该算法采用树结构来压缩数据库。性能研究表明,反FP-增长方法对于挖掘长、短频繁模式都是有效的、可扩展的,比Apriority算法快一个数量级,也比最近报道的一些新的频繁模式挖掘算法快。
2010-03-22 cs.DB
Census Data Mining and Data Analysis using WEKA
数据采掘(也称为从数据库中发现知识)是从数据库中提取隐藏的、先前未知的和潜在有用的信息的过程。提取数据的结果可用于分析未来的规划和发展前景。在本文中,我们已经尝试展示了如何提取地方(地区)一级的人口普查,社会经济和人口相关的其他数据的知识发现和分析使用强大的数据采掘工具Weka。
2013-10-17 cs.CY cs.DB
An efficient mining scheme for high utility itemsets
针对现有高效用项集挖掘算法时间与内存开销高的问题,本文提出基于残差映射数据结构的R-Miner算法,实验证明其性能优于现有最先进算法。
2022-04-12 cs.DB
Mining Cellular Automata DataBases throug PCA Models
元胞自动机是离散的动力系统,遵循简单的局部规则演化。尽管其局部简单,CA中的知识发现是一个NP问题。这是使用数据采掘技术进行CA研究的主要动机。主成分分析(PCA)是数据采掘的一个有用的工具,因为它提供了一个紧凑的和最佳的数据集的描述。这种功能已被探索计算最佳子空间,最大化的投影CA的I/O模式到主轴。主成分对输入模式的稳定性是这种方法的主要结果。在本文中,我们进行这样的分析,但在噪声的存在下,随机反转CA输出值的概率$p$。正如预期的那样,主成分的数量随着模式大小的增加而增加。然而,当图案尺寸不变但噪声强度变大时,它似乎保持稳定。我们描述了我们的实验,并指出进一步的工作,使用KL变换理论和参数敏感性分析。
2005-11-14 cs.DB cs.DM
Mining Frequent Itemsets from Secondary Memory
频繁项集挖掘是关联规则挖掘的核心,目前在算法上已经得到了很好的理解。然而,大多数挖掘频繁项集的算法都假设主存储器足够大以容纳挖掘中使用的数据结构,很少有有效的算法处理数据库很大或最小支持度很低的情况。从一个非常大的数据库中挖掘频繁项集带来了新的挑战,因为商业,科学和政府中普遍记录了天文数字数量的原始数据。本文讨论了当数据结构太大而无法装入主存时,挖掘频繁项集的方法。给出了几种分而治之的磁盘挖掘算法。介绍了许多新技术。实验结果表明,该技术减少了所需的磁盘访问的数量级,并使真正可扩展的数据采掘。
2004-05-20 cs.DB cs.IR
Optimal Categorical Attribute Transformation for Granularity Change in Relational Databases for Binary Decision Problems in Educational Data Mining
本文提出了一种在层次数据库中对二元决策问题的数据粒度进行转换的方法,该方法通过在较低粒度级别上对分类属性进行回归来实现。来自关系数据库中较低层次实体的属性通过在小的排他标记样本上训练的类别直方图上回归而不是分布的通常模式类别来优化其信息内容。本文通过一个评价中学质量的二元决策任务验证了该方法,重点是逻辑回归如何将学生和教师属性转换为学校属性。实验进行了巴西学校的公共数据集,通过10倍交叉验证比较的排名得分也由逻辑回归。所提出的方法取得了更高的性能比通常的分布模式转换和等于专家加权方法测量的最大Kolmogorov-Smirnov距离和ROC曲线下面积在0.01的显着性水平。
2017-02-28 cs.AI cs.DB
An Application of Bayesian classification to Interval Encoded Temporal mining with prioritized items
K.S.Rangasamy College of Technology(K.S.兰加萨米理工学院)
在现实生活中,媒体信息具有时间属性,或者隐式地或者显式地称为时态数据。本文研究了应用贝叶斯分类的有用性的时间间隔编码的数据库与优先项目。该方法通过对数据库进行编码来进行时态挖掘,该数据库具有加权项,该加权项从用户的角度根据其重要性对项进行优先级排序。朴素贝叶斯分类有助于使产生的时间规则更有效。所提出的基于优先级的时态挖掘(PBTM)方法添加了分类辅助解决问题,在一个明智的和系统的方式。在电信系统投诉数据库中的实验结果表明了该方法的可行性。
2009-08-07 cs.DB cs.LG
Visual approach for data mining on medical information databases using Fastmap algorithm
信息获取和存储工具的快速发展导致了巨大的医学数据库的形成。大量的数据绝对超过了人类在没有专门分析工具的情况下有效使用的能力。这种情况被描述为数据丰富,但信息贫乏。为了填补这一日益增长的差距,不同的方法从数据采掘领域的应用。这些方法对大量观察到的数据进行分析,以便找到新的依赖关系或数据的简洁表示,这对人类更有意义。用于发现依赖关系的可能方法之一是可视化方法,在该方法中,数据以适合于由领域专家分析的方式被处理和可视化。这项工作提出了一种可视化的方法,在该方法中,数据被处理和可视化的方式适合于分析领域的专家。我们设计并实现了一个软件解决方案的多维可视化,分类的医疗数据使用FastMap算法的毕业生降维。图形用户界面的实现进行了详细描述,因为它是最重要的因素,这些工具的易用性,由非专业人士在数据采掘。
2009-04-02 cs.DB cs.IR
Mining Top-K Co-Occurrence Items
频繁项集挖掘是数据采掘中的一个基本问题,在关联分析、分类等数据采掘任务中发挥着重要作用。然而,在一些应用中,例如推荐系统和社交网络,人们更感兴趣的是找出数据库中与某些用户指定的项集(查询项集)一起出现最频繁的项。在本文中,我们解决这个问题,提出了一个新的挖掘任务命名为top-k共现项目挖掘,其中k是所需的项目数被发现。然后,我们引入了一种特殊的数据结构Pi-Tree(Prefix itemset Tree)来维护项目集的信息。基于Pi-Tree,提出了两种挖掘top-k共现项的算法:PT(Pi-Tree-based algorithm)和PT-TA(Pi-Tree-based algorithm with TA pruning),并结合了几种新的搜索空间修剪策略以提高挖掘效率。PT和PT-TA的性能进行了评估,对四个建议的基线算法在合成和真实的数据库。大量的实验表明,PT不仅在执行时间上大大优于其他算法,而且具有良好的可扩展性。
2015-12-24 cs.DB cs.DS
Utility-Driven Mining of Trend Information for Intelligent System
嵌入数据库中的有用知识可能会随着时间的推移而改变。确定时态数据库中最近的变化可以为决策者提供有价值的最新信息。然而,挖掘高效用模式(HUP)的技术很少考虑新近度作为发现模式的标准。因此,传统的效用挖掘框架不足以获得关于真实世界数据的最新见解。在本文中,我们解决这个问题,通过引入一个新的框架,命名为效用驱动挖掘最近/趋势高效用模式(RUP)在时态数据库的智能系统,基于用户指定的最小最近和最小效用阈值。效用驱动的RUP算法基于新的全局和条件向下闭包属性,以及最近效用树。此外,它采用了一个垂直紧凑的最近-效用列表结构来存储挖掘过程所需的信息。开发的RUP算法递归地发现最近的HUP。由于其模式发现方法不生成候选项,因此它的速度也很快,并且消耗少量内存。另外还设计了两种改进的剪枝算法,通过减少搜索空间来加快模式的发现。大量的实验结果表明,该算法可以有效地识别所有最近的高效用模式在大规模数据库中,改进的算法性能最好。
2019-12-25 cs.DB
Foundation for Frequent Pattern Mining Algorithms Implementation
随着IT技术的发展,积累的数据量也在不断增加。这样,数据采掘的作用就显现出来了。关联规则挖掘是描述性技术的重要任务之一,它可以被定义为从大量数据中发现有意义的模式。频繁模式挖掘算法从数据库中确定频繁模式。频繁项集的挖掘是关联规则挖掘的基础部分。在过去的几十年中,已经提出了许多算法,主要有Apriori,直接哈希和修剪,FP-Growth,ECLAT等。本研究的目的是分析现有的频繁模式挖掘技术,并通过比较Apriori和DHP算法在候选生成,数据库和事务修剪方面的性能来评估它们。这为开发新的频繁模式挖掘算法奠定了基础。
2014-02-08 cs.DB
TargetUM: Targeted High-Utility Itemset Querying
Jinan University(暨南大学);Guangdong University of Technology(广东工业大学)
传统的高效用项集挖掘(HUIM)旨在确定事务数据库中所有满足最小效用阈值(\textit{minUtil})的高效用项集(HUI)。然而,在大多数应用程序中,并不是所有的UI都是有趣的,因为只需要特定的部分。因此,基于用户偏好的目标挖掘比传统的挖掘任务更重要。本文首次提出了一个基于目标的HUIM问题,并在定量交易数据库中提供了一个明确的目标效用挖掘任务。提出了一种基于树的高效用目标查询算法TargetUM。该算法使用一棵字典式查询树和三种有效的剪枝策略来提高挖掘效率。我们在几个真实数据库和合成数据库上进行了实验验证,结果表明,\textbf{TargetUM}的性能是令人满意的,完整的,正确的。最后,由于字典查询树,数据库不再需要重复扫描多个查询。
2021-10-30 cs.AI cs.DB
Comparative Study Of Data Mining Query Languages
LARODEC Laboratory – Institut Supérieur de Gestion de Tunis(突尼斯高等管理学院LARODEC实验室)
自归纳数据库问题提出以来,人们提出了几种数据采掘语言,证实了通过归纳查询应答可以支持KDD过程。本文综述了现有的DM语言。我们提出了DM语言的重要原语,并根据原语的满意度对我们的语言进行分类。此外,我们介绍了语言的语法,并尝试将每一个应用到一个数据库样本,以测试一组KDD操作。这项研究使我们能够突出语言的能力和限制,这对未来的工作和观点非常有用。
2017-01-27 cs.AI cs.DB
Spatial Co-location Pattern Mining - A new perspective using Graph Database
空间共位模式挖掘是指发现在多个地方同时发生的一组对象或事件的任务。由于空间数据类型、空间关系和空间自相关的复杂性,从空间数据中提取这些模式是非常困难的。这些模式在公共安全、地理营销、犯罪预测和生态学等领域都有应用。以前的工作集中在使用空间连接。虽然这些方法提供了最先进的结果,但由于多路空间连接,它们的计算非常昂贵,并且将它们扩展到真实世界的数据集是一个开放的问题。我们解决这些局限性,制定的协同定位模式发现作为一个集团枚举问题的邻域图(这是使用分布式图形数据库物化)。我们提出了三个新的基于遍历的算法,即$CliqueEnum_G$,$CliqueEnum_K$和$CliqueExtend$。我们提供的经验证据,我们提出的算法的有效性,通过评估他们的一个大型的现实生活中的数据集。这三种算法允许在时间和内存需求之间进行权衡,并支持交互式数据分析,而无需重新计算所有中间结果。这些属性使我们的算法适用于不同数据大小的各种用例。
2018-10-21 cs.DB cs.DC
Mining Target-Oriented Fuzzy Correlation Rules to Optimize Telecom Service Management
为了优化电信业务管理,电信业务信息必须与最热门的电信业务高度相关。为此,我们提出了一种面向目标的模糊关联规则挖掘算法。本文提出了利用模糊统计分析和数据采掘技术,从给定的数据库中获取面向目标的模糊关联规则。我们使用台湾电信服务提供商的样本数据库进行实验。我们的工作可以用来协助电信服务提供商提供适当的服务,以更好地客户关系管理的客户。
2011-03-01 cs.DB
Data Mining and Its Applications for Knowledge Management: A Literature Review from 2007 to 2012
数据采掘是数据库中知识发现过程的重要环节,是知识管理的重要分支。在未来的几十年里,数据采掘的研究在商业和学习型组织中继续增长。本文探讨了数据采掘技术在知识管理过程中的应用。对ScienceDirect数据库2007 - 2012年收录的期刊论文进行了分析和分类。研究结果的讨论分为4个主题:(i)知识资源;(ii)知识类型和/或知识数据集;(iii)数据采掘任务;(iv)知识管理中使用的数据采掘技术和应用。文章首先简要介绍了数据采掘的定义和数据采掘的功能。然后介绍了知识管理的基本原理和知识管理周期中集成的主要知识管理工具。最后,对数据采掘技术在知识管理过程中的应用进行了总结和探讨。
2012-10-10 cs.DB
Multi Relational Data Mining Approaches: A Data Mining Technique
多关系数据采掘方法已经发展成为处理结构化数据的替代方法,如关系数据库管理系统。这将直接在多个表中提供挖掘。在MRDM中,模式在关系数据库的多个表(关系)中可用。在数据采掘的实践中,由于数据的表多,会影响到许多问题。为了解决这个问题,人们要么通过命题化构造一个单一的表,要么使用多关系数据采掘算法。MRDM方法已成功应用于生物信息学领域。三种流行的模式发现技术分类,聚类和关联经常被用于多数据挖掘。多关系方法已经发展成为分析结构化数据如关系数据库的一种替代方法。MRDM允许直接应用于多表中的数据采掘。为了避免昂贵的连接操作和语义损失,我们使用了MRDM技术。本文重点介绍了MRDM和特征方向的一些应用领域,并对ILP、GM、SSDM和MRDM进行了比较
2012-11-16 cs.DB
Native Directly Follows Operator
典型的遗留信息系统将数据存储在关系数据库中。流程挖掘是一门研究学科,它分析这些数据以获得对流程的洞察。许多不同的过程挖掘技术可以应用于数据。在当前技术中,XES事件日志用作分析的基础。然而,由于XES事件日志的静态特性,我们需要为每个流程挖掘问题创建一个XES文件,这导致了开销和可扩展性。作为替代方案,人们尝试使用所谓的中间结构直接在数据源上执行过程挖掘。在以前的工作中,我们研究了通过在数据库上执行基本SQL查询来在源数据上构建中间结构的方法。但是,SQL查询中的嵌套表单可能会导致数据库端的性能问题。因此,在本文中,我们提出了一个原生的SQL操作直接进程发现关系数据库。我们为中间结构的最简单形式定义了一个本地操作符,称为“直接跟随关系”。该方法已与大事件数据进行了评估,实验结果表明,它的执行速度比最先进的数据库方法。
2018-06-05 cs.DB
Mining Generalized Patterns from Large Databases using Ontologies
Université du Québec en Outaouais(魁北克大学乌塔韦分校)
形式概念分析(FCA)是一种基于概念和概念层次的形式化的数学理论。它已成功地应用于数据采掘、软件工程、知识工程等计算机科学领域,并在医学、心理学、语言学和生态学等许多领域得到应用。例如,它已被用于本体的设计,映射和细化。在本文中,我们展示了FCA如何通过分析分类(对象和/或属性)对所产生的概念格的影响,从给定的领域本体中受益。我们将主要集中在使用分类法来提取广义模式(即,当使用给定领域本体的元素时从数据生成的知识)以概念和规则的形式,并改进通过这些模式的导航。为此,我们分析了三个泛化的情况下,并显示其对广义模式集的大小的影响。还讨论了同时对对象和属性进行概括的不同情况
2009-05-28 cs.AI cs.DB cs.DM