Mining Rooted Ordered Trees under Subtree Homeomorphism
频繁树模式挖掘在XML数据、生物信息学和万维网等领域有着广泛的应用。频繁模式挖掘中的关键步骤是频率计数,它涉及到一个匹配操作符,用于在给定的树集合中找到树模式的出现(实例)。树结构数据的一种广泛使用的匹配算子是子树同胚,其中树模式中的边被映射到给定树中的祖先-后代关系。在子树同胚下频繁出现的树模式通常称为嵌入模式。本文提出了一种有效的子树同胚算法,并将其应用于频繁模式挖掘。我们提出了一个紧凑的数据结构,称为occ,它只存储信息的最右边的路径出现,因此可以编码和表示几个出现的树模式。然后,我们定义了有效的连接操作的occ数据结构,这有助于我们计数出现的树模式,根据其正确的子树的出现。基于提出的子树同胚方法,我们开发了一个有效的模式挖掘算法,称为TPMiner。我们在几个真实世界和合成数据集上评估了TPMiner的效率。我们广泛的实验证实,TPMiner总是优于已知的现有算法,在某些情况下,相对于现有算法的改进是显着的。
2015-09-28 cs.DB cs.DS
TargetUM: Targeted High-Utility Itemset Querying
Jinan University(暨南大学);Guangdong University of Technology(广东工业大学)
传统的高效用项集挖掘(HUIM)旨在确定事务数据库中所有满足最小效用阈值(\textit{minUtil})的高效用项集(HUI)。然而,在大多数应用程序中,并不是所有的UI都是有趣的,因为只需要特定的部分。因此,基于用户偏好的目标挖掘比传统的挖掘任务更重要。本文首次提出了一个基于目标的HUIM问题,并在定量交易数据库中提供了一个明确的目标效用挖掘任务。提出了一种基于树的高效用目标查询算法TargetUM。该算法使用一棵字典式查询树和三种有效的剪枝策略来提高挖掘效率。我们在几个真实数据库和合成数据库上进行了实验验证,结果表明,\textbf{TargetUM}的性能是令人满意的,完整的,正确的。最后,由于字典查询树,数据库不再需要重复扫描多个查询。
2021-10-30 cs.AI cs.DB
Correlated Utility-based Pattern Mining
在数据采掘和分析领域,经济学中的效用理论可以在许多实际应用中带来好处。近十年来,一个新兴的研究领域--面向公用事业的采矿已经引起了人们的极大关注。然而,以往的研究有局限性,他们很少考虑项目之间的内在相关性的模式。考虑消费者的购买行为,一个高效用的产品组(w.r.t.多产品)可以包含几个非常高效用的产品和一些低效用的产品。然而,它被认为是一个有价值的模式,即使这种行为/模式可能不是高度相关的,甚至是偶然发生的。在本文中,针对这些挑战,我们提出了一种有效的效用挖掘方法,即非冗余相关高效用模式矿工(CoUPM),考虑到正相关性和盈利价值。具有高实用性和强正相关性的衍生模式可以比那些仅具有高利润价值的模式带来更有洞察力的可用性。对效用表结构进行了改进,使其既能存储相关性信息,又能存储效用信息。几个修剪策略进一步发展,以提高效率,发现所需的模式。实验结果表明,非冗余相关的高效用模式比其他类型的有趣模式具有更高的有效性。此外,所提出的CoUPM算法的效率显着优于国家的最先进的算法。
2019-04-28 cs.DB
Differentially Private Tree-Based Redescription Mining
差分隐私提供了一种强大的隐私形式,并允许保留数据集的大部分原始特征。利用这些好处需要设计特定的差异隐私数据分析算法。在这项工作中,我们提出了三个基于树的算法挖掘重描述,同时保持差分隐私。重描述挖掘是一种探索性的数据分析方法,用于发现相同实体上的两个视图之间的联系,例如医学患者的表型和基因型。它在许多领域都有应用,包括一些领域,如医疗保健信息学,其中需要保护隐私的数据访问。我们的算法是第一个差分隐私重描述挖掘算法,我们通过实验表明,尽管固有的噪音在差分隐私,它可以返回值得信赖的结果,即使在较小的数据集,噪音通常有更强的影响。
2023-02-28 cs.CR cs.DB
Mining Attribute-structure Correlated Patterns in Large Attributed Graphs
在这项工作中,我们研究了属性集之间的相关性和大型属性图中稠密子图的出现,我们称之为结构相关模式挖掘。结构相关模式是由特定属性集导出的稠密子图。现有的方法不能提取相关的知识,关于如何顶点属性与稠密子图。结构相关模式挖掘结合了频繁项集和准团挖掘问题。我们提出了统计显著性措施,比较结构相关的属性集对他们的期望值使用空模型。此外,我们评估结构相关模式的大小和密度方面的有趣性。提出了一种结合搜索和剪枝策略的最相关结构相关模式识别算法。我们应用我们的方法分析三个现实世界的属性图:合作,音乐,和引文网络,验证它提供了有价值的知识在一个可行的时间。
2012-01-31 cs.DB
Decision tree modeling with relational views
数据采掘是一种有用的决策支持技术,可用于发现仓库或公司数据中的产生式规则。数据采掘研究致力于在大型数据库上有效地应用各种挖掘算法。然而,在其实际应用中的一个严重的问题是这些算法的处理时间长。目前,一个关键的挑战是如何将数据采掘方法集成到传统的数据库系统框架中。实际上,这样的实现可以利用SQL引擎提供的效率。在本文中,我们提出了一个集成的方法,决策树在一个经典的数据库系统。换句话说,我们试图通过嵌入SQL查询的过程,以产生式规则的形式从关系数据库中发现知识。所获得的决策树由连续的、相关的关系视图定义。每个视图对应于基础决策树中的给定总体。我们选择了经典的归纳决策树(ID3)算法来构建决策树。为了证明我们的ID3的实现工作正常,我们成功地比较了我们的程序与现有的和验证的数据采掘软件,SIPINA的输出。此外,由于我们的方法是可调的,它可以推广到任何其他类似的决策树为基础的方法。
2007-05-10 cs.DB
Mining Top-K Co-Occurrence Items
频繁项集挖掘是数据采掘中的一个基本问题,在关联分析、分类等数据采掘任务中发挥着重要作用。然而,在一些应用中,例如推荐系统和社交网络,人们更感兴趣的是找出数据库中与某些用户指定的项集(查询项集)一起出现最频繁的项。在本文中,我们解决这个问题,提出了一个新的挖掘任务命名为top-k共现项目挖掘,其中k是所需的项目数被发现。然后,我们引入了一种特殊的数据结构Pi-Tree(Prefix itemset Tree)来维护项目集的信息。基于Pi-Tree,提出了两种挖掘top-k共现项的算法:PT(Pi-Tree-based algorithm)和PT-TA(Pi-Tree-based algorithm with TA pruning),并结合了几种新的搜索空间修剪策略以提高挖掘效率。PT和PT-TA的性能进行了评估,对四个建议的基线算法在合成和真实的数据库。大量的实验表明,PT不仅在执行时间上大大优于其他算法,而且具有良好的可扩展性。
2015-12-24 cs.DB cs.DS
A one-phase tree-based algorithm for mining high-utility itemsets from a transaction database
高效用项集挖掘从事务数据库中发现效用不低于用户定义的固定阈值的项集。项集的效用被定义为其项的效用之和。提出了几种挖掘高效用项集的算法。然而,没有最先进的算法在密集和稀疏数据集上表现一致。在本文中,我们提出了一种新的数据结构称为Utility-Tree,和基于树的算法称为UT-Miner,挖掘高效用项目集在一个阶段,而不产生任何候选人,并使用一个轻量级的建设方法,以减少成本创建投影数据库在搜索空间探索。该算法将事务信息与效用树的每一个节点存储在一起,并在递归调用过程中有效地计算事务信息。在几个真实的密集和稀疏数据集上的实验结果表明,UT-Miner是跨不同数据集的最佳高效算法之一。
2019-11-17 cs.DB cs.DS
Contrast Pattern Mining: A Survey
Jinan University(暨南大学);Pazhou Lab(琶洲实验室);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
对比模式挖掘是数据采掘的一个重要分支。传统的序列模式无法描述不同类别数据之间的对比信息,而涉及对比度概念的对比模式可以描述不同对比度条件下数据集之间的显著差异。基于该领域发表的论文数量,我们发现研究人员对CPM的兴趣仍然很活跃。由于CPM有很多研究问题和研究方法。新进入该领域的研究人员很难在短时间内了解该领域的概况。因此,本文的目的是提供一个最新的全面和结构化的概述对比模式挖掘的研究方向。首先,我们提出了一个深入的了解CPM,包括基本概念,类型,挖掘策略,并评估判别能力的指标。然后根据CPM方法的特点将其分为基于边界的算法、基于树的算法、基于进化模糊系统的算法、基于决策树的算法和其他算法。此外,我们还列举了这些方法的经典算法,并讨论了它们的优缺点。介绍了CPM中的高级主题。最后,我们结束了我们的调查与讨论的挑战和机遇,在这一领域。
2022-09-27 cs.AI cs.DB
Decision Tree Classification with Differential Privacy: A Survey
Charles Sturt University(查尔斯特大学)
数据采掘有关人的信息在21世纪的数据驱动社会中变得越来越重要。不幸的是,有时候现实世界中的考虑因素与数据采掘的目标相冲突;有时候需要考虑被数据挖掘的人的隐私。这需要修改数据采掘算法的输出以保护隐私,同时不破坏输出模型的预测能力。差分隐私是一个强有力的、可执行的隐私定义,可用于数据采掘算法,保证不会了解数据中的人,如果没有他们的参与,就无法发现。在本综述中,我们将重点介绍一种特定的数据采掘算法--决策树--以及差分隐私如何与构成决策树算法的每个组件进行交互。我们分析了贪婪和随机决策树,以及在试图平衡隐私要求与模型准确性时出现的冲突。
2019-05-23 cs.DB cs.LG
Improvised Apriori Algorithm using frequent pattern tree for real time applications in data mining
Apriori算法是从大型数据库中提取频繁项集并获取关联规则的重要算法之一。它基本上需要两个重要的东西:最低限度的支持和最低限度的信任。首先,我们检查项目是否大于或等于最小支持度,我们分别找到频繁项目集。其次,利用最小置信度约束形成关联规则。在此基础上,指出了原Apriori算法在频繁项集上扫描整个数据库搜索时浪费时间和空间的局限性,并提出了一种改进的Apriori算法。
2014-11-23 cs.DB
Smart City Data Analysis via Visualization of Correlated Attribute Patterns
城市状况由各种各样的传感器监测,这些传感器测量温度和交通量等多个属性。传感器的相关性有助于准确分析和理解城市状况。相关属性模式(CAP)挖掘发现多个属性之间的相关性,从传感器集空间上彼此接近,并在其测量时间相关。在本文中,我们开发了一个可视化系统CAP挖掘和演示分析的智慧城市数据。我们的可视化系统支持通过地图上的传感器位置及其测量值的时间变化直观地了解采矿结果。在我们的演示场景中,我们提供了从中国和西班牙桑坦德收集的四个智慧城市数据集。我们证明了我们的系统有助于智能城市数据的交互式分析。
2021-04-14 cs.DB
LDP-FPMiner: FP-Tree Based Frequent Itemset Mining with Local Differential Privacy
本地差分隐私(LDP)设置中的数据聚合通过提供敏感数据的合理可否认性来保证强隐私。现有的工作在这个问题上主要集中在发现重量级人物,离开频繁项集挖掘(频繁项集挖掘)的任务作为一个开放的问题。据我们所知,最先进的LDP解决方案是最近提出的SVSM协议。SVSM协议主要基于基于填充和采样的频率预言(PSFO)协议,将项目集看作独立的项目,而不考虑项目集之间的频率一致性。本文提出了一种基于频繁模式树(FP-tree)的LDP挖掘算法LDP-FPMiner。我们的建议利用项目集之间的频率一致性,通过构建和优化噪声FP树与LDP。具体来说,它的工作原理如下。首先,确定最频繁的项目,并相应地削减项目域。第二,FP-树的最大水平估计。第三,构造噪声FP树,利用项目集频率一致性对噪声FP树进行优化,挖掘出k个最频繁项目集。实验结果表明,LDP-FPMiner显着提高了国家的最先进的方法,SVSM,特别是在高隐私级别的情况下。
2022-09-03 cs.CR cs.DB
Discovering Closed and Maximal Embedded Patterns from Large Tree Data
我们解决的问题,总结嵌入式树模式提取大型数据树。我们这样做,通过定义和挖掘封闭的,最大的嵌入无序树模式从一个单一的大型数据树。我们设计了一个嵌入式频繁模式挖掘算法,扩展了局部封闭性检查技术。该算法被称为{ \em closedEmbTM-prune},因为它急切地消除非闭合模式。为了减少中间模式的产生,我们设计了模式搜索空间修剪规则,以主动检测和修剪模式搜索空间中不对应于封闭模式的分支。将剪枝规则引入到扩展的嵌入式模式挖掘器中,提出了一种新的挖掘算法{ \em closedEmbTM-prune},用于挖掘大型数据树中的所有闭合和最大嵌入频繁模式。我们在合成和真实的大型树数据集上进行的大量实验表明,在密集数据集上,{ \em closedEmbTM-prune}不仅生成一个完整的封闭和最大的模式集,它比嵌入式模式挖掘器生成的模式集小得多,而且运行速度更快,模式修剪的开销可以忽略不计。
2020-12-26 cs.DB
Alignment Approximation for Process Trees
将观察到的行为(流程执行过程中生成的事件数据)与建模的行为(流程模型)进行比较,是流程挖掘分析中必不可少的一步。对齐是计算一致性检查统计信息的事实标准技术。然而,比对的计算在计算上是复杂的,因为最短路径问题必须在随着模型的大小和观察到的行为非线性增长的状态空间上求解,导致众所周知的状态空间爆炸问题。在本文中,我们提出了一种新的框架,利用其层次结构的过程树近似对齐。流程树是一种重要的流程模型形式主义,被最先进的流程挖掘技术(如归纳挖掘方法)所使用。我们的方法利用给定的进程树的结构特性,并将对齐计算问题拆分为更小的子问题。最后,将子结果组合以获得对齐。我们的实验表明,我们的方法提供了一个很好的平衡精度和计算时间。
2020-10-05 cs.DB
Data Mining Applications: A comparative Study for Predicting Student's performance
知识发现和数据采掘(KDD)是一个多学科领域,重点是从数据中提取有用知识的方法,有几个有用的KDD工具来提取知识。这些知识可以用来提高教育质量。但是教育机构没有对这些数据使用任何知识发现过程方法。数据采掘可以用于教育系统的决策。决策树分类器是基于分而治之技术的用于数据探索的最广泛使用的监督学习方法之一。本文讨论了决策树在教育数据采掘中的应用。运用决策树算法对学生过去的成绩数据进行处理,生成模型,并利用该模型对学生的成绩进行预测。它有助于及早确定辍学者和需要特别关注的学生,并使教师能够提供适当的建议/咨询。
2012-02-23 cs.DB cs.IR
Beyond Frequency: Utility Mining with Varied Item-Specific Minimum Utility
面向效用的挖掘是效用理论与数据采掘相结合的产物,是理解经济消费者行为的有效工具。传统的挖掘高效用模式(High-utilizationPatterns,HUP)的算法采用单一/统一的最小高效用阈值(minutil)来获取HUP集合,但在现实生活中,某些特定的产品可能带来较低的效用,但它们的利润可能提供一些重要的信息。然而,如果细节设置为高,则丢失具有低细节的图案;如果细节设置为低,则图案的数量变得难以管理。本文提出了一种高效的单阶段面向效用的模式挖掘算法HIMU,用于挖掘具有不同项目特定最小效用的HUP。在HIMU中引入了一种新的树结构--多项效用集枚举树(MIU-tree)、全局排序和条件下闭包性质。此外,我们扩展了紧凑的实用程序列表结构,以保持必要的信息,因此,这种一阶段HIMU模型大大降低了计算成本和内存需求。此外,两个修剪策略,然后扩展,以提高性能。我们在几个合成和真实世界的数据集上进行了广泛的实验;结果表明,所设计的单阶段HIMU算法可以解决“稀有项问题”,并且在运行时间,内存使用和可扩展性方面具有比最先进的算法更好的性能。此外,增强的算法优于非优化的HIMU方法。
2019-02-25 cs.DB
A New Method for Classification of Datasets for Data Mining
Faculty of Engineering & Technology, Mody Institute of Technology & Science(Mody科技学院工程与技术学院)
决策树是归纳研究和数据采掘的重要方法,主要用于模型分类和预测。ID 3算法是迄今为止决策树中应用最广泛的算法。针对ID 3算法倾向于选择多值属性的缺点,提出了一种新的决策树算法,该算法是ID 3算法的改进。在我们提出的算法中,属性被分成组,然后我们对这些组应用选择度量5。如果信息增益不好,则再次将属性值分组。完成这些步骤,直到我们获得良好的分类/误分类比率。所提出的算法分类的数据集更准确,更有效。
2016-12-01 cs.DB cs.LG stat.ML
Similarity Data Item Set Approach: An Encoded Temporal Data Base Technique
数据采掘已被广泛认为是一个强大的工具,探索从大型数据库的附加值。在关联规则的数据采掘过程中,发现数据库中的频繁项集是一个关键问题。为了寻找频繁项集,人们提出了许多算法。本文提出了一个总结和比较研究的可用FP增长算法的变化产生的挖掘频繁项目集显示其能力和效率方面的时间和内存消耗的关联规则挖掘,考虑到具体的信息的应用。提出了基于模式增长挖掘范式的FP-树增长算法,该算法采用树结构来压缩数据库。性能研究表明,反FP-增长方法对于挖掘长、短频繁模式都是有效的、可扩展的,比Apriority算法快一个数量级,也比最近报道的一些新的频繁模式挖掘算法快。
2010-03-22 cs.DB
Co-movement Pattern Mining from Videos
本文首次研究视频中的协同运动模式挖掘问题,定义问题并证明其难度,提出基于TCS-tree索引的序列前置剪枝等优化方法,实验验证其效率优于基线,且视频驱动方法所得模式与真实轨迹结果相近。
2023-10-10 cs.DB
Fast Mining of Spatial Frequent Wordset from Social Database
在本文中,我们提出了一个算法,提取空间频繁模式来解释一个特定的位置从可用的社会数据的相对特征。提出了一种空间社会数据模型,该模型包括空间社会数据、空间支持度、空间频繁模式、空间划分和空间聚类等概念,用于描述空间频繁模式的探索算法。在此基础上,提出了一种既保留了频繁词又保留了频繁单元的SFP-树结构,并在此基础上提出了一种挖掘频繁模式的SFP-生长算法.
2019-12-26 cs.DB
Characterization and extraction of condensed representation of correlated patterns based on formal concept analysis
Université de Tunis El-Manar(突尼斯埃尔马纳尔大学);Faculté des Sciences de Tunis(突尼斯理学院);F.S.E.G de Nabeul(纳布勒经济与管理学院);Telecom Bretagne(布列塔尼电信学院);ESIG de Kairouan(凯鲁万高等信息工程学院)
相关模式挖掘已经越来越成为数据采掘中的一项重要任务,因为这些模式可以传达有关数据之间有意义和令人惊讶的关系的知识。频繁的相关模式在文献中进行了深入研究。在这篇论文中,我们建议根据债券相关性度量,从频繁相关和罕见相关模式中受益。我们提出从频繁相关模式集和稀有相关模式集中提取一个无信息丢失的子集,这个子集称为"压缩表示“。在这方面,我们是基于来自形式概念分析FCA的概念,特别是等价类相关的封闭运营商fbond专用于债券措施,介绍新的简明表示频繁相关和罕见的相关模式。
2018-10-12 cs.DB cs.LG
A novel approach for fast mining frequent itemsets use N-list structure based on MapReduce
频繁模式挖掘是数据采掘中最重要的课题之一。近年来,人们提出了许多挖掘频繁项集的算法。提出了一种新的基于N-表数据结构的频繁项集挖掘算法--Prepost算法。通过用一般树实现紧凑PPC树,增强了Prepost算法。Prepost算法只能为每个节点找到一个具有所需(前序和后序)的频繁项集。在本章中,我们改进了基于Hadoop平台的prepost算法(HPrepost),提出了使用Mapreduce编程模型。提出的方法的主要目标是有效地挖掘频繁项集,需要较少的运行时间和内存使用。我们对所提出的方案进行了实验,并与其他算法进行了比较。对于密集数据集,它有一个大的平均事务长度,HPrepost是更有效的频繁项集算法在执行时间和内存使用的所有min-sup。一般来说,我们的算法优于算法的运行时间和内存使用小阈值和大数据集。
2017-04-15 cs.DB cs.DC
Approximate k-nearest neighbour based spatial clustering using k-d tree
不同的空间对象,如分子生物学和地理学,在他们的特点不同,在空间领域。需要以结构化的方式组织、管理和维护这些对象的方法。数据采掘提出了不同的技术来克服这些要求。数据采掘的主要任务有很多,但最常用的任务是聚类。同一集群内的数据集共享共同的特征,这些特征赋予每个集群其特征。提出了一种基于K-d树的近似kNN空间聚类算法的实现方法。本研究的主要贡献是使用k-d树数据结构进行空间聚类,并将其性能与蛮力方法进行比较。本文所做的工作的结果表明,使用k-d树的性能更好,相比传统的暴力的方法。
2013-03-08 cs.DB
Mayura: Exploiting Similarities in Motifs for Temporal Co-Mining
Mayura通过模体组树(MG-Tree)和共掘算法统一挖掘多个时序模体,复用公共搜索路径以减少冗余计算,并在CPU和GPU上分别实现2.4倍和1.7倍的平均加速。
2025-07-20 cs.DB cs.DC cs.PF
Probabilistic Frequent Pattern Growth for Itemset Mining in Uncertain Databases (Technical Report)
不确定事务数据库中的频繁项集挖掘在语义和计算上不同于传统的应用于标准(确定)事务数据库的技术。不确定事务数据库由存在不确定项的集合组成。交易项目的不确定性使得传统的技术不适用。在本文中,我们解决的问题,发现概率频繁项集的基础上可能世界语义。在此上下文中,如果X在至少minSup事务中出现的概率高于给定阈值,则项集X被称为频繁项集。我们做了以下贡献:我们提出了第一个概率FP-Growth算法(ProFP-Growth)和相关的概率FP-Tree(ProFP-Tree),我们使用它来挖掘不确定事务数据库中的所有概率频繁项集,而无需候选生成。此外,我们提出了一个有效的技术来计算的支持概率分布的项目集在线性时间使用生成函数的概念。一个广泛的实验部分评估我们提出的技术,并表明我们的ProFP-Growth方法是显着快于目前最先进的算法。
2010-08-13 cs.DB
Nouvelle représentation concise exacte des motifs corrélés rares : Application à la détection d'intrusions
相关稀有模式挖掘是数据采掘中的一个有趣的问题。在这方面,相关的稀有模式的集合w.r.t.研究了键相关测度对键相关性的影响,提出了键相关稀有模式集的RCPR简洁精确表示。然而,没有算法提出,以挖掘这种表示和没有实验进行评估it.In本文中,我们介绍了新的RcprMiner算法允许一个有效的提取RCPR。我们还提出了IsRCP算法允许查询的RCPR表示除了RCPRegeneration算法允许再生的整个集合RCP的罕见的相关模式从这个表示。进行的实验突出了有趣的紧凑率提供RCPR。所提出的分类方法的有效性,基于通用罕见的相关关联规则来自RCPR,也被证明在入侵检测的背景下。
2014-01-24 cs.DB
Efficient Support Coupled Frequent Pattern Mining Over Progressive Databases
最近有很多关于序列模式挖掘的研究。渐进式数据库上的序列模式挖掘是一个比较新的方法,它是在感兴趣的时间段内逐步发现序列模式。感兴趣的时间段是一个随着时间的推移而不断前进的滑动窗口。随着滑动窗口焦点的变化,新项被添加到感兴趣的数据集中,过时的项被从中删除并成为最新的。一般来说,现有的建议没有充分探讨现实世界的情况下,如项目与支持数据流应用程序,如购物篮分析。因此,从支持的频繁项中挖掘重要知识成为一个重要的研究课题。我们提出的新方法有效地挖掘频繁序列模式加上支持使用渐进挖掘树。
2010-05-29 cs.DB
Motifs corrélés rares : Caractérisation et nouvelles représentations concises
近年来,稀有模式挖掘被证明在不同的数据采掘应用中具有附加价值,因为这些模式可以传达关于稀有和意外事件的知识。然而,稀有模式的提取受到两个主要限制,即在现实生活中的应用,挖掘模式的大量,以及低信息质量的一些稀有模式。在这种情况下,我们建议在挖掘过程中使用相关性度量bond,以便只保留那些在其各自项目之间具有一定程度相关性的罕见模式。稀有相关模式的结果集的表征,然后进行基于稀有性和相关性引起的不同类型的约束的研究。此外,基于等价类相关的封闭运营商致力于债券的措施,我们提出了简洁的表示罕见的相关模式。然后,我们设计了一个新的算法CRP_Miner致力于提取整个罕见的相关模式集。我们还介绍了CRPR_Miner算法,允许有效提取建议的简洁表示。此外,我们设计了另外两个算法,允许我们的查询和再生的整个集合的罕见的相关模式。实验结果表明了算法CRPR_Miner的有效性,并证明了所提出的简洁表示所提供的紧致度.
2018-10-16 cs.DB
DiffNodesets: An Efficient Structure for Fast Mining Frequent Itemsets
频繁项集的挖掘是数据采掘中的一个基本问题,在数据采掘的许多应用中起着重要的作用。近年来,人们提出了一些基于节点集的项集表示方法,这些方法对于挖掘频繁项集非常有效。在本文中,我们提出了DiffNodeset,一种新的和更有效的项集表示,挖掘频繁项集。基于DiffNodeset结构,提出了一种高效的频繁项集挖掘算法dFIN。为了提高效率,dFIN采用集合枚举树和混合搜索策略来寻找频繁项集,在某些情况下不需要生成候选项集而直接枚举频繁项集。为了评估dFIN的性能,我们进行了大量的实验,将其与各种真实和合成数据集上的现有领先算法进行比较。实验结果表明,dFIN是显着的速度比这些领先的算法。
2015-07-06 cs.DB cs.DS
Algorithms for Efficient Mining of Statistically Significant Attribute Association Information
数据集中属性之间的关联信息的知识提供了对数据的底层结构的洞察,并解释了属性和类(如果存在)之间的关系(独立性,协同性,冗余性)。当这种相互依赖性已知时,通过计算从数据中学习的复杂模型对人类分析师来说更容易解释。在本文中,我们重点关注挖掘属性之间的两种类型的关联信息--相关信息和交互信息,用于有监督分析(存在类属性)和无监督分析(不存在类属性)。识别统计上显著的属性关联是一项具有计算挑战性的任务-可能的关联的数量呈指数级增加,并且当存在多个相关属性时,许多关联包含冗余信息。在本文中,我们探索有效的数据采掘方法来发现非冗余的属性集,包含显着的关联信息,指示存在的信息模式的数据。
2012-08-19 cs.DB
F-tree: an algorithm for clustering transactional data using frequency tree
聚类是一种重要的数据采掘技术,它将相似的数据记录进行分组,分类事务聚类是近年来研究的热点。本文研究了高维大容量事务型数据的分类聚类问题。基于频繁模式挖掘算法FP-tree的思想,提出了一种新的事务数据聚类算法F-Tree。F-Tree背后的简单想法是生成小的高纯度集群,然后合并它们。这使得它在聚类具有高维度的大型事务数据集时快速且动态。我们还提出了一种新的解决方案,解决集群之间的重叠问题,通过定义一个新的标准函数,这是基于加权项目之间的重叠概率。我们在真实数据集上的实验结果表明:首先,F-Tree在发现感兴趣的聚类方面是有效的。其次,树结构的使用减少了具有高属性的大数据集的聚类处理时间。第三,所提出的评价指标有效地解决了事务项的重叠问题,产生了高质量的聚类结果。最后,我们得出的结论是,合并纯和小集群的过程中,提高了所产生的集群的纯度,以及它减少了聚类的时间比直接从数据集生成集群,然后细化集群的过程更好。
2017-05-02 cs.DB
Hierarchical Approach for Online Mining--Emphasis towards Software Metrics
针对静态数据库中的关联规则挖掘,已经提出了几种多遍算法。然而,这样的算法不能在线处理交易流。在本文中,我们介绍了一个有效的单遍算法挖掘关联规则,给定了一个层次分类最重要的项目。处理效率是通过利用两个优化,层次意识的计数和事务减少,这成为可能的上下文中分层分类。本文考虑的问题,集成的约束条件,布尔表达式的存在或不存在的项目到关联发现算法。本文提出了三种基于项目约束的关联规则挖掘算法,并讨论了它们的优缺点。结果表明,在层次分类的背景下,复杂度的变化取决于继承树的深度(DIT)和孩子的数量(NOC)的措施。
2010-03-07 cs.DB
Efficient Constrained Pattern Mining Using Dynamic Item Ordering for Explainable Classification
可解释的分类模型的学习在过去几年中引起了广泛的关注。发现能够突出两个类之间差异的简洁和对比模式非常重要。这种模式对人类专家很有用,可以用来构建强大的分类器。在本文中,我们考虑挖掘最小的新兴模式,从高维数据集的各种约束下的监督设置。我们专注于一个扩展,其中模式可以包含负项,指定一个项目的情况下。在这种情况下,数据库变得高度密集,这使得挖掘更具挑战性,因为流行的模式挖掘技术,如fp-tree和发生交付不能有效地工作。为了解决这个问题,我们提出了一个有效的算法,挖掘最小的新兴模式相结合的两种技术:动态变量排序在模式搜索,以提高修剪效果,并使用基于指针的动态数据结构,称为跳舞链接,有效地维护发生列表。基准数据集上的实验表明,我们的算法实现了显着的速度比新兴的模式挖掘方法的基础上LCM,一个非常快速的深度优先频繁项集挖掘使用静态变量排序。
2020-04-17 cs.DB
Performance Tuning Of J48 Algorithm For Prediction Of Soil Fertility
College of Engineering, Pune(浦那工程学院)
数据采掘涉及对大数据集的系统分析,农业土壤数据集的数据采掘是一个令人兴奋的现代研究领域。土壤的生产能力取决于土壤的肥力。实现和保持适当的土壤肥力水平,是至关重要的,如果农业用地是保持能够滋养作物生产。本文阐述了建立土壤肥力预测模型的步骤。利用数据采掘中的决策树算法预测土壤肥力等级。在此基础上,重点研究了J48决策树算法在属性选择和Boosting等元技术的帮助下的性能优化。
2012-08-20 cs.DB cs.LG cs.PF
Utility Mining Across Multi-Sequences with Individualized Thresholds
面向效用的模式挖掘已经成为一个新兴的话题,因为它可以揭示高效用模式(例如,项集、规则、序列),比传统的基于频繁/置信度的模式挖掘模型提供了更多的信息。在现实情况下,各种物品的效用并不完全相等;每一物品都有其自身的效用或重要性。一般情况下,用户考虑一个统一的最小效用(细节)阈值来识别高效用序列模式(HUSPs)的集合。这是无法找到有趣的模式,而细节设置极高或极低。我们首先设计了一个新的效用挖掘框架USPT,用于挖掘具有个性化特征的多序列的高效用序列模式。在设计的框架中,每个项目都有自己指定的最小效用阈值。基于字典序贯树和效用数组结构,提出了一个USPT框架来有效地发现HUSP。利用效用的上界,提出了几种剪枝策略,用于在搜索空间的早期对不具希望的候选进行剪枝。在真实数据集和人工数据集上进行的实验表明,该算法能够有效地挖掘具有个性化最小效用阈值的HUSP。
2019-12-25 cs.DB
Association Rule Mining Based On Trade List
提出了一种基于频繁项集的挖掘算法。Apriori算法每次发现频繁项集时都要扫描数据库,因此非常耗时,而且每一步都要生成候选项集。在无向项集图中,它是对先验知识的改进,但生成树需要时间和空间。定义的算法在开始时只扫描数据库一次,然后从扫描的数据库中生成贸易清单。它包含了整个数据库的信息。它通过考虑最小支持度来寻找频繁项集,并通过考虑最小置信度来生成关联规则。当数据库和最小支持度发生变化时,新算法通过扫描交易列表来发现新的频繁项。因此,与传统算法相比,它的执行效率有了明显的提高。
2012-02-22 cs.DB
A Data Structure Perspective to the RDD-based Apriori Algorithm on Spark
近年来,许多研究者提出了许多高效、可扩展的大数据频繁项集挖掘算法。首先,提出了Hadoop集群上基于MapReduce的频繁项集挖掘算法。虽然Hadoop已经被开发成一个处理大数据的集群计算系统,但是由于其高I/O以及在磁盘上写入和读取中间结果,Hadoop的性能并不能满足数据采掘迭代算法的期望。因此,Spark被开发为另一种集群计算基础设施,由于其内存计算,它比Hadoop快得多。它非常适合迭代算法,并支持数据的批处理,交互式,迭代和流处理。许多频繁项集挖掘算法在Spark上被重新设计,其中大部分都是基于Apriori的。所有这些基于Spark的Apriori算法都使用Hash Tree作为底层数据结构。本文研究了基于Spark的Apriori的各种数据结构的效率。虽然,以前已经从数据结构的角度进行了研究,但是对于基于MapReduce的Apriori,必须在Spark的分布式计算环境下进行重新研究。所考虑的底层数据结构是哈希树、Trie和哈希表Trie。在基准数据集上的实验结果表明,在Spark的分布式计算环境下,基于Spark的Apriori with Trie和哈希表Trie的性能几乎相当,但都比Hash Tree高出许多倍。
2019-08-04 cs.DB cs.DC