Approximate Inverse Frequent Itemset Mining: Privacy, Complexity, and Approximation
为了生成用于更好的基准测试的合成篮子数据集,重要的是将来自真实数据库的特征集成到合成篮子数据集中。可用于此目的的特征包括频繁项集和关联规则。从频繁项集生成合成篮子数据集的问题通常被称为逆频繁项集挖掘。本文证明了近似逆频繁项集挖掘问题是{ \bf NP}-完全的。然后,我们提出并分析了一个近似逆频繁项集挖掘的近似算法,并讨论了与合成篮子数据集相关的隐私问题。特别是,我们提出了一个近似算法来确定在合成篮子数据集的隐私泄漏。
2012-07-23 cs.DB
DiffNodesets: An Efficient Structure for Fast Mining Frequent Itemsets
频繁项集的挖掘是数据采掘中的一个基本问题,在数据采掘的许多应用中起着重要的作用。近年来,人们提出了一些基于节点集的项集表示方法,这些方法对于挖掘频繁项集非常有效。在本文中,我们提出了DiffNodeset,一种新的和更有效的项集表示,挖掘频繁项集。基于DiffNodeset结构,提出了一种高效的频繁项集挖掘算法dFIN。为了提高效率,dFIN采用集合枚举树和混合搜索策略来寻找频繁项集,在某些情况下不需要生成候选项集而直接枚举频繁项集。为了评估dFIN的性能,我们进行了大量的实验,将其与各种真实和合成数据集上的现有领先算法进行比较。实验结果表明,dFIN是显着的速度比这些领先的算法。
2015-07-06 cs.DB cs.DS
An Improved Approach to High Level Privacy Preserving Itemset Mining
隐私保护关联规则挖掘引发了许多隐私保护数据采掘技术的发展。其中很大一部分使用随机数据失真技术来掩盖数据以进行保存。本文提出了一种新的事务随机化方法,它是伪事务随机化方法和新的每事务随机化方法的结合。这种方法扭曲了每个交易中的项目,并确保了与以前的方法相比更高级别的数据隐私。每交易随机化方法涉及用随机数替换项目的随机化函数,该随机化函数还保护交易内的隐私。还开发了一个工具来实现所提出的方法来挖掘频繁项集和关联规则的数据,保证反单调性。
2010-01-13 cs.DB cs.IR
On the Complexity of Mining Itemsets from the Crowd Using Taxonomies
我们研究的问题,频繁项集挖掘领域的数据不记录在一个传统的数据库,但只存在于人类的知识。我们提供了这样的场景的例子,并提出了一个众包模型。该模型使用人群作为一个预言机,以找出一个项目集是否是频繁或不,并依赖于一个已知的分类的项目域,以指导频繁项集的搜索。在数据采掘与甲骨文的精神,我们分析了这个问题的复杂性方面(i)人群复杂性,即测量的数量的人群问题所需的识别频繁项集;和(ii)计算复杂性,即测量的计算工作量选择的问题。我们提供了较低和较高的复杂性边界的大小和结构的输入分类,以及输出项集的简洁描述的大小。我们还提供了建设性的算法,实现了上界,并考虑更有效的变种的实际情况。
2013-12-16 cs.CC cs.DB cs.IR
Computational Complexity of Three Central Problems in Itemset Mining
CNRS(法国国家科学研究中心);University of Montpellier(蒙彼利埃大学);Simula Research Laboratory(Simula研究实验室);LIRMM(蒙彼利埃计算机、机器人与微电子实验室)
项集挖掘是知识发现领域研究最多的任务之一。本文分析了三个中心项集挖掘问题的计算复杂性。我们证明了挖掘一个给定的项目在头部的置信规则是NP-困难的。我们证明了挖掘高效用项集是NP难的。最后,我们证明了挖掘最大或封闭的项目集是CONP-困难的,只要用户可以指定的限制,他们感兴趣的项目集。
2020-12-08 cs.AI cs.CC cs.DB
Frequent-Itemset Mining using Locality-Sensitive Hashing
Apriori算法是频繁项集挖掘的经典算法。Apriori中的一个重要瓶颈是所涉及的I/O操作的数量以及它生成的候选项的数量。我们调查LSH技术的作用,以克服这些问题,而不增加太多的计算开销。我们提出了随机变化的Apriori的基础上定义的汉明距离和Jaccard相似性的非对称LSH。
2016-03-05 cs.DB
PrivBasis: Frequent Itemset Mining with Differential Privacy
频繁项集的发现可以服务于有价值的经济和研究目的。然而,发布发现的频繁项集带来了隐私挑战。本文研究了如何在满足差分隐私的情况下对事务数据库进行频繁项集挖掘的问题。我们提出了一种称为PrivBasis的方法,它利用了一个称为基集的新概念。一个theta基集具有这样的性质,即任何频率高于theta的项集都是某个基的子集。我们引入算法私下构造一个基集,然后用它来找到最频繁的项集。实验表明,我们的方法大大优于目前的最先进的。
2012-08-01 cs.DB
An Improved UP-Growth High Utility Itemset Mining
在大数据集中有效地发现频繁项集是数据采掘的一项重要任务。近年来,人们提出了一些高效用模式的挖掘方法,但这些方法都存在产生大量高效用项目集的候选项目集的问题,并可能在速度和空间方面降低挖掘性能。最近提出的紧凑树结构,即,UP树维护了事务和项集的信息,提高了挖掘性能,避免了对原始数据库的重复扫描。本文采用了实用模式树(UP Tree,Utility Pattern Tree),它只需扫描数据库两次,就可以得到候选项,并以一种高效的数据结构化方式进行管理。将UP树应用于UP增长对于第二阶段需要更多的执行时间。因此,本文提出了改进的算法,旨在通过有效地识别高效用的项目集,以减少执行时间。
2012-12-03 cs.DB
A Frequent Closed Itemsets Lattice-based Approach for Mining Minimal Non-Redundant Association Rules
为了提高频繁项集或频繁闭项集的挖掘速度,已有许多算法被提出。然而,对关联规则生成时间的处理算法还没有得到深入的研究。实际上,在一个数据库包含许多FI/FCI(从数万到数百万)的情况下,生成关联规则的时间远远大于挖掘FI/FCI的时间。因此,本文提出了一种应用频繁闭项集格(FCIL)挖掘最小非冗余关联规则(MNAR),以减少大量的时间生成规则。首先,我们使用CHARM-L来建立FCIL。在此基础上,提出了一种基于FCIL的MNAR快速生成算法。实验结果表明,该算法在挖掘时间上比基于频繁项集格的算法有明显的提高。
2011-08-26 cs.DB
Mining high on-shelf utility itemsets with negative values from dynamic updated database
效用挖掘通过考虑项目的效用来克服频繁项集挖掘的局限性。物品的效用是基于用户的兴趣或偏好。近年来,时态数据采掘已成为处理变化数据的核心技术。上架效用挖掘考虑了项目的上架时间段,得到时态数据库中项目集的精确效用值。在传统的上架效用挖掘中,数据库中所有项目的收益都被认为是正值。然而,在实际应用中,有些项目可能会有负利润。传统的算法大多是针对静态数据库的。在实际情况中,时态数据库不断地被追加或更新。高实用性项目集需要更新。每次重新运行时态挖掘算法是无效的,因为它忽略了以前发现的项集。它重复以前所做的工作。本文提出了一种从动态更新的时态数据库中寻找具有负值的高上架效用项集的有效算法。
2015-07-07 cs.DB
Mining Frequent Itemsets Using Genetic Algorithm
通常,频繁项集是通过应用关联规则挖掘算法,如Apriori,Partition,Pincer-Search,Incremental,Border算法等,从大数据集中生成的。这需要花费太多的计算机时间来计算所有的频繁项集。通过使用遗传算法(GA),我们可以改善的情况下。使用遗传算法发现频繁项集的主要优点是它可以进行全局搜索,并且由于遗传算法是基于贪婪方法的,因此其时间复杂度比其他算法要低。本文的主要目的是利用遗传算法从给定的数据集中找到所有的频繁项集。
2010-11-01 cs.DB
Mining All Non-Derivable Frequent Itemsets
最近的频繁项集挖掘算法的研究导致显着的性能改善。然而,如果最小支持度阈值设置得太低,或者数据高度相关,则频繁项集本身的数量可能会非常大。为了克服这个问题,最近已经提出了一些建议,以构建一个简洁的表示的频繁项集,而不是挖掘所有的频繁项集。本文的主要目标是确定所有频繁项集的集合中的冗余,并利用这些冗余,以减少挖掘操作的结果。我们提出了推导规则,以获得紧边界上的候选项集的支持。我们展示了如何演绎规则允许构造一个最小的表示所有频繁项集。我们还提出了我们的建议和最近的建议之间的联系,简洁的表示,我们给出了在现实生活中的数据集,显示的演绎规则的有效性的实验结果。事实上,实验甚至表明,在许多情况下,首先挖掘的简洁表示,然后从这个表示创建频繁项集优于现有的频繁集挖掘算法。
2002-06-03 cs.AI cs.DB
An Algorithm for Mining High Utility Closed Itemsets and Generators
传统的关联规则挖掘基于支持度-置信度框架,提供了用户感兴趣的规则的客观度量。然而,它并没有反映出规则的效用。在支持度-置信度框架下提取非冗余关联规则,频繁闭项集及其生成器起着重要的作用。为了提取高效用项集之间的非冗余关联规则,需要提取高效用闭项集(HUCI)及其生成元,以便应用传统的支持度-置信度框架。然而,目前还没有有效的方法来开采HUCI及其发电机。本文探讨了这一问题。一个后处理算法,称为HUCI-Miner,提出了挖掘HUCI与他们的发电机。所提出的算法是使用合成和真实的数据集。
2014-10-11 cs.DB
A Fast Minimal Infrequent Itemset Mining Algorithm
提出了一种新的在大数据集上寻找准标识符的快速算法。广泛的数据集上的性能测量表明,相对于最先进的技术和算法的可扩展性,以实际大小的数据集高达数百万条记录的运行时间大幅减少。
2014-10-16 cs.DB
Maximal frequent itemset generation using segmentation approach
在数据源中发现频繁项集是关联规则挖掘的基本操作。通常,许多算法使用自底向上或自顶向下的方法来寻找这些频繁项集。当频繁项集的长度很大时,传统的频繁项集发现算法需要找到从1-长度到n-长度的所有频繁项集,这是一个比较困难的过程。这个问题可以通过挖掘最大频繁项集(MFS)来解决。最大频繁项集是指没有合适的频繁超集的频繁项集。因此,仅生成最大频繁项集减少了项集的数量,并且还减少了生成所有频繁项集所需的时间,因为每个长度为m的最大项集意味着存在2 m-2个频繁项集。此外,在许多数据采掘应用中,如最小密钥发现和理论提取,只挖掘最大频繁项集是足够的。本文提出了一种新的方法来寻找最大频繁项集从巨大的数据源使用的概念,数据源的分割和优先级的片段。实证评估表明,该方法优于其他各种已知的方法。
2011-09-12 cs.DB
FRI-Miner: Fuzzy Rare Itemset Mining
数据采掘是一种广泛应用于数据分析的各种实际应用的技术,对于在事务数据库中发现有价值的关联规则非常重要。兴趣项集挖掘在市场、电子商务、金融、医疗等领域有着重要的应用。迄今为止,各种基于频繁模式的数据采掘算法已经得到了广泛的研究,但很少有算法专注于挖掘不频繁或稀有模式。在某些情况下,稀有项集和稀有关联规则在实际应用中也起着重要的作用。本文介绍了一种新的基于模糊的稀有项集挖掘算法FRI-Miner,该算法应用具有语言学意义的模糊理论,在定量数据库中发现有价值的、有趣的模糊稀有项集。此外,FRI-Miner利用模糊列表结构来存储重要信息,并应用多种剪枝策略来减少搜索空间。实验结果表明,FRI-Miner算法能够在考虑现实中的量化价值的基础上,发现更少、更有趣的项目集。此外,它在有效性方面明显优于最先进的算法(w.r.t.不同类型的导出图案)和效率(w.r.t.运行时间和内存使用)。
2021-03-11 cs.DB
An Efficient Data Structure for Fast Mining High Utility Itemsets
在本文中,我们提出了一种新的数据结构称为PUN-list,它既保持了项目集的效用信息和效用上界,以方便挖掘高效用项目集的处理。基于PUN-Lists,提出了一种快速挖掘高效用项集的方法MIP(Mining high utility Itemset using PUN-Lists)。MIP的效率是通过三种技术来实现的。首先,项目集由一种高度压缩的数据结构PUN-列表表示,避免了代价高昂的重复效用计算。其次,通过扫描项集的PUN-列表可以有效地计算项集的效用,并且通过短项集的PUN-列表可以快速构造长项集的PUN-列表。第三,通过采用效用上界躺在PUN列表作为修剪策略,MIP直接发现高效用项目集的搜索空间,称为集合枚举树,而不产生大量的候选人。在各种合成数据集和真实数据集上的大量实验表明,PUN-list是非常有效的,因为MIP比最近报道的算法平均快至少一个数量级。
2015-10-08 cs.DB cs.DS
Targeted Mining of Top-k High Utility Itemsets
发现数据中的高重要性模式是一个新兴的数据采掘任务,称为高效用项集挖掘(HUIM)。给定一个最小效用阈值,HUIM算法提取所有效用值不小于该阈值的高效用项集。这可以揭示大量有用的信息,但没有很好地考虑到用户的确切需求。特别是,用户通常希望关注具有某些特定项的模式,而不是查找所有模式。为了克服这一困难,出现了有针对性的挖掘,重点是用户的偏好,但只进行了初步工作。例如,提出了目标高效用项集查询算法(TargetUM),该算法使用字典树来查询包含目标模式的项集。然而,当用户不熟悉所处理的数据库时,选择最小效用阈值是困难的。作为解决方案,本文提出了top-k高效用项集的目标挖掘任务,并在TargetUM算法的基础上提出了一种高效的top-k目标高效用项集(top-k THUIs)挖掘算法TMKU。同时,采用多种剪枝策略来减少内存消耗和执行时间。大量的实验表明,所提出的TMKU算法在真实和合成数据集上具有良好的性能。
2023-03-25 cs.DB
Generic Itemset Mining Based on Reinforcement Learning
Kindai University(近畿大学)
项集挖掘中最大的问题之一是,每当用户想要提取不同类型的项集时,都需要开发一个数据结构或算法。为了克服这一点,我们提出了一种方法,称为通用项目集挖掘基于强化学习(GIM-RL),它提供了一个统一的框架,训练代理提取任何类型的项目集。在GIM-RL中,环境制定了从数据集中提取目标类型项集的迭代步骤。在每一步中,代理执行一个动作,向当前项集中添加项或从当前项集中删除项,然后从环境中获得一个奖励,该奖励表示动作产生的项集与目标类型的相关程度。通过无数的试错步骤,其中通过不同的动作获得各种奖励,代理被训练以最大化累积奖励,从而获得最佳的动作策略,以形成尽可能多的目标类型的项集。在这个框架中,用于提取任何类型的项集的代理可以被训练,只要可以定义适合于该类型的奖励。在挖掘高效用项集、频繁项集和关联规则方面的大量实验表明了GIM-RL的普遍有效性和一个显著的潜力(Agent迁移)。我们希望GIM-RL为基于学习的项集挖掘开辟一个新的研究方向。
2022-01-14 cs.DB cs.LG
FUIM: Fuzzy Utility Itemset Mining
模糊数据采掘由于其实用性和可理解性,近年来得到了广泛的研究,是一个新兴的课题。与效用驱动的项集挖掘技术相比,模糊效用挖掘不仅需要效用(例如,利润),但也考虑在发现高模糊效用项目集(HFUI)的每个交易中的项目的数量。因此,模糊度可以作为选择高效用项集的一个关键标准,而现有的算法效率不够。本文提出了一种有效的单阶段算法模糊驱动的效用项集挖掘器(FUIM),以有效地找到一个完整的集HFUI。此外,一种新的紧凑的数据结构称为模糊表保持定量交易数据库的关键信息。FUIM使用模糊列表,可以从事务数据库中高效地发现HFUI。通过五个定理证明了FUIM算法的完备性和正确性。最后,大量的实验测试三个方面(运行时成本,内存消耗和可扩展性),以确认FUIM大大优于国家的最先进的算法。
2021-10-30 cs.DB
Mining Frequent Itemsets over Uncertain Databases
近年来,由于不确定数据的广泛应用,在不确定数据库上挖掘频繁项集引起了人们的广泛关注。在不确定数据库中,项集的支持度是一个随机变量,而不是该项集的固定出现次数。因此,与确定性数据库中频繁项集有唯一定义的相应问题不同,不确定环境下的频繁项集到目前为止有两种不同的定义。第一种定义称为基于期望支持度的频繁项集,它用一个项集的支持度的期望值来衡量这个项集是否频繁。第二个定义,称为概率频繁项集,使用项集的支持概率来度量其频率。因此,现有的不确定数据库中挖掘频繁项集的工作被分为两个不同的组,没有研究进行全面比较这两种不同的定义。此外,由于不存在统一的实验平台,目前针对同一定义的解决方案甚至会产生不一致的结果。在本文中,我们首先旨在澄清这两个不同的定义之间的关系。通过大量的实验,我们验证了这两个定义有紧密的联系,并可以统一在一起,当数据量足够大。其次,我们提供了基线实现现有的八个代表性的算法,并测试他们的性能与统一的措施公平。最后,通过对不同基准数据集的公平性检验,澄清了现有的一些不一致结论,并讨论了一些新的发现。
2012-08-01 cs.DB
Users Constraints in Itemset Mining
CNRS(法国国家科学研究中心);University of Montpellier(蒙彼利埃大学);University of Oran 1(奥兰第一大学);CRIL, University of Artois(阿尔图瓦大学CRIL实验室)
发现重要项集是数据采掘的基本问题之一。最近的研究表明,约束编程是解决数据采掘任务的一种灵活的方法。使用约束编程方法,我们可以很容易地表达和有效地回答用户对项目的约束查询。然而,在许多实际情况下,查询也可能表达用户对数据集本身的约束。例如,请求数据集特定部分中的特定项集。本文提出了一个通用的约束规划模型,能够处理任何类型的查询的项目或数据集的项目集挖掘。
2018-02-08 cs.AI cs.DB
Ramp: Fast Frequent Itemset Mining with Efficient Bit-Vector Projection Technique
National University of Computer and Emerging Sciences(国家计算机与新兴科学大学)
基于位向量表示的频繁项集挖掘方法对于密集数据集是非常有效的,但对于稀疏数据集,由于缺乏有效的位向量投影技术,挖掘效率很低。在本文中,我们提出了一种新的有效的位向量投影技术,稀疏和密集的数据集。为了检验我们的位向量投影技术的效率,我们提出了一个新的频繁项集挖掘算法Ramp(Real Algorithm for Mining Patterns)。在基准数据集上将Ramp算法与目前最好的频繁项集挖掘算法(全频繁项集、最大频繁项集和闭频繁项集)进行了性能比较。在稀疏数据集和密集数据集上的不同实验结果表明,使用Ramp挖掘频繁项集的速度比目前最好的算法都要快,这表明了位向量投影思想的有效性。我们还提出了一个新的本地最大频繁项集传播和最大项集超集检查方法FastLMFI,建立在我们的PBR位向量投影技术。我们不同的计算实验表明,使用FastLMFI的项集最大值检查是快速和有效的比以前将已知的渐进聚焦方法。
2009-04-21 cs.AI cs.DB cs.DS
A novel approach for fast mining frequent itemsets use N-list structure based on MapReduce
频繁模式挖掘是数据采掘中最重要的课题之一。近年来,人们提出了许多挖掘频繁项集的算法。提出了一种新的基于N-表数据结构的频繁项集挖掘算法--Prepost算法。通过用一般树实现紧凑PPC树,增强了Prepost算法。Prepost算法只能为每个节点找到一个具有所需(前序和后序)的频繁项集。在本章中,我们改进了基于Hadoop平台的prepost算法(HPrepost),提出了使用Mapreduce编程模型。提出的方法的主要目标是有效地挖掘频繁项集,需要较少的运行时间和内存使用。我们对所提出的方案进行了实验,并与其他算法进行了比较。对于密集数据集,它有一个大的平均事务长度,HPrepost是更有效的频繁项集算法在执行时间和内存使用的所有min-sup。一般来说,我们的算法优于算法的运行时间和内存使用小阈值和大数据集。
2017-04-15 cs.DB cs.DC
Analyzing closed frequent itemsets with convex polytopes
频繁项集形成一个多面体,可以用线性规划来发现和分析。
2020-07-30 cs.DB
Multi-Sorted Inverse Frequent Itemsets Mining
为新兴的“大数据”应用开发新的平台和技术需要为数据驱动的实验提供现实生活中的数据集,然而在大多数情况下,这对于学术研究来说是遥不可及的,因为它们通常是专有的。一个可能的解决方案是使用反映真实模式的合成数据集,以确保高质量的实验结果。在这个方向上的第一步是使用反向挖掘技术,如反向频繁项集挖掘(IFM),它包括生成一个事务数据库,满足给定的支持约束的项目集在一个输入集中,通常是频繁的。本文介绍了IFM的一种扩展,称为多排序IFM,其中要生成的数据集的方案是新兴大数据应用中所需的大表的典型方案,例如,社交网络分析
2013-10-15 cs.DB
Frequent Itemset Mining with Multiple Minimum Supports: a Constraint-based Approach
Simula Research Laboratory(西穆拉研究实验室);LIRMM, University of Montpellier, CNRS(蒙彼利埃大学法国国家科学研究中心蒙彼利埃信息与机器人学实验室)
发现包含稀有项的频繁项集的问题受到了广泛的关注。采矿过程需要足够灵活,以便一次性提取常见和稀有的矿物。另一方面,最近已经表明,约束编程是一种灵活的方式来处理数据采掘任务。本文提出了一种挖掘具有多个最小支持度项集的约束规划方法。我们的方法为用户提供了表达任何类型的最小项目支持的约束的可能性。实验分析表明,我们的方法相比,最先进的实际有效性。
2021-09-16 cs.AI cs.DB
Probabilistic Frequent Pattern Growth for Itemset Mining in Uncertain Databases (Technical Report)
不确定事务数据库中的频繁项集挖掘在语义和计算上不同于传统的应用于标准(确定)事务数据库的技术。不确定事务数据库由存在不确定项的集合组成。交易项目的不确定性使得传统的技术不适用。在本文中,我们解决的问题,发现概率频繁项集的基础上可能世界语义。在此上下文中,如果X在至少minSup事务中出现的概率高于给定阈值,则项集X被称为频繁项集。我们做了以下贡献:我们提出了第一个概率FP-Growth算法(ProFP-Growth)和相关的概率FP-Tree(ProFP-Tree),我们使用它来挖掘不确定事务数据库中的所有概率频繁项集,而无需候选生成。此外,我们提出了一个有效的技术来计算的支持概率分布的项目集在线性时间使用生成函数的概念。一个广泛的实验部分评估我们提出的技术,并表明我们的ProFP-Growth方法是显着快于目前最先进的算法。
2010-08-13 cs.DB
Parallel algorithms for mining of frequent itemsets
Czech Technical University in Prague(布拉格捷克技术大学);Institute of Computer Science(计算机科学研究所)
近十年来,企业开始收集大量数据。如果没有正确的分析,这些数据通常是无用的。分析数据的领域称为数据采掘。不幸的是,数据量非常大:数据不适合主内存,处理时间可能会变得非常巨大。因此,我们需要并行的数据采掘算法。频繁项集的生成算法是数据采掘中一个重要的算法。挖掘频繁项集的问题可以用下面的例子来解释:顾客走进一家商店,把一些商品放进他们的篮子里;商店的老板收集篮子,想知道至少有p%的篮子里一起购买的商品的集合。目前,挖掘频繁项集的顺序算法在性能上都比较好。然而,频繁项集挖掘的并行算法仍然没有达到很好的加速比。在这篇论文中,我们发展了一个在分散式记忆体平行电脑上,可用于任意深度优先搜寻顺序算法的平行频繁项目集挖掘方法。我们的方法在10个处理器上实现了~ 6的加速比。该方法基于对数据库样本的处理器负载的近似估计-然而,它总是从整个数据库计算频繁项集的集合。在这篇论文中,我们展示了我们的方法的理论基础,并显示了估计过程的性能。
2021-08-11 cs.DB cs.LG
An Asymptotically Tighter Bound on Sampling for Frequent Itemsets Mining
本文提出了一种新的频繁项集挖掘抽样算法的误差界。我们表明,新的界限是渐近紧比国家的最先进的界限,即,给定所选择的样本,对于足够小的误差概率,新的误差界限大约是现有界限的一半。在此基础上,我们给出了一种新的近似算法,该算法比现有的近似算法简单得多,但在预先计算样本容量的情况下,仍能保证最差的近似误差。我们还给出了一个算法,可以近似的顶部- $k$频繁项集,具有较高的精度和效率。
2017-03-24 cs.DB cs.DS
A comparative study of top-k high utility itemset mining methods
高效用项集(HUI)挖掘问题是数据采掘领域的重要问题之一。这个问题提供了更大的灵活性,决策者将她/他的概念的效用模式挖掘过程。然而,这个问题需要决策者选择一个最小的效用阈值来发现有趣的模式。由于不同的项集特征及其效用分布,这是相当具有挑战性的。为了解决这个问题,Top-K高效用项目集(THUI)挖掘问题在文献中被引入。THUI挖掘问题主要是HUI挖掘问题的一个变体,它允许决策者指定所需的HUI数量,而不是最小效用阈值。在文献中已经引入了几种算法来有效地挖掘前k个HUI。本文系统地分析了文献中的top-k HUI挖掘方法,对方法进行了描述,并进行了比较分析。本文还介绍和分析了高效top-k HUI挖掘所采用的数据结构、阈值提高策略和剪枝策略。此外,本文回顾了top-k HUI挖掘问题的几个扩展,如数据流挖掘,序列模式挖掘和货架效用挖掘。本文可能有助于研究人员研究top-k HUI挖掘的关键方法,评估文献中的空白,探索新的研究机会,并提高高效用模式挖掘的最新水平。
2018-09-04 cs.DB cs.DS
Quantum Computing and Data Processing for Frequent Itemset Mining
National Taiwan University(台湾大学);National Chengchi University(国立政治大学);Academia Sinica(中央研究院);The Pennsylvania State University(宾夕法尼亚州立大学);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
提出量子频繁项集挖掘框架QFM,通过比特向量量子比特编码、挖掘感知候选叠加和比特并行阈值标记三种机制,在IBM Qiskit和Amazon Braket上实现,理论分析和实验表明优于基线方法。
2026-06-29 cs.DB
A one-phase tree-based algorithm for mining high-utility itemsets from a transaction database
高效用项集挖掘从事务数据库中发现效用不低于用户定义的固定阈值的项集。项集的效用被定义为其项的效用之和。提出了几种挖掘高效用项集的算法。然而,没有最先进的算法在密集和稀疏数据集上表现一致。在本文中,我们提出了一种新的数据结构称为Utility-Tree,和基于树的算法称为UT-Miner,挖掘高效用项目集在一个阶段,而不产生任何候选人,并使用一个轻量级的建设方法,以减少成本创建投影数据库在搜索空间探索。该算法将事务信息与效用树的每一个节点存储在一起,并在递归调用过程中有效地计算事务信息。在几个真实的密集和稀疏数据集上的实验结果表明,UT-Miner是跨不同数据集的最佳高效算法之一。
2019-11-17 cs.DB cs.DS
Mining Top-K Co-Occurrence Items
频繁项集挖掘是数据采掘中的一个基本问题,在关联分析、分类等数据采掘任务中发挥着重要作用。然而,在一些应用中,例如推荐系统和社交网络,人们更感兴趣的是找出数据库中与某些用户指定的项集(查询项集)一起出现最频繁的项。在本文中,我们解决这个问题,提出了一个新的挖掘任务命名为top-k共现项目挖掘,其中k是所需的项目数被发现。然后,我们引入了一种特殊的数据结构Pi-Tree(Prefix itemset Tree)来维护项目集的信息。基于Pi-Tree,提出了两种挖掘top-k共现项的算法:PT(Pi-Tree-based algorithm)和PT-TA(Pi-Tree-based algorithm with TA pruning),并结合了几种新的搜索空间修剪策略以提高挖掘效率。PT和PT-TA的性能进行了评估,对四个建议的基线算法在合成和真实的数据库。大量的实验表明,PT不仅在执行时间上大大优于其他算法,而且具有良好的可扩展性。
2015-12-24 cs.DB cs.DS
A global constraint for closed itemset mining
University of Oran 1(奥兰第一大学);University of Montpellier(蒙彼利埃大学);University of Caen(卡昂大学)
发现闭频繁模式集是数据采掘的基本问题之一。最近的约束编程(CP)方法的声明性项目集挖掘已经证明了他们的有用性和灵活性。但是,目前CP方法中大量使用的具体化约束给处理高维数据集带来了很多困难。本文提出了一种不需要任何具体化约束和额外变量的CLOSED PATTERN全局约束,有效地编码了闭合频繁模式挖掘(CFPM)约束。CLOSED-PATTERN捕获CFPM问题的特定语义,以确保多项式修剪算法确保域的一致性。我们的约束的计算特性进行了分析,其实际有效性进行了实验评估。
2016-04-17 cs.AI cs.DB
ARULESPY: Exploring Association Rules and Frequent Itemsets in Python
本文介绍了新的Python包arulespy,它将R语言arules包中用于频繁项集和关联规则挖掘的全面基础设施及高效算法引入Python用户。
2023-05-24 cs.DB
Finding Robust Itemsets Under Subsampling
模式爆炸问题一直困扰着频繁模式的挖掘,使得模式约简技术成为模式挖掘中的一个关键挑战。在本文中,我们提出了一个新的理论框架模式减少。我们通过测量项集的属性(如封闭性或不可导性)的鲁棒性来做到这一点。属性的鲁棒性是该属性在原始数据的随机子集上保持的概率。我们研究四个属性:如果一个项集是封闭的,自由的,不可导的或完全破碎的,并演示如何计算的鲁棒性分析,而无需实际采样的数据。我们的鲁棒性概念有很多优点:与减少模式的统计方法不同,我们不假设零假设或任何噪声模型,与噪声容忍或近似模式相反,给定属性的鲁棒模式总是具有此属性的模式的子集。如果底层属性是单调的,那么度量也是单调的,允许我们有效地挖掘健壮的项集。我们进一步推导出一个无参数的技术,可用于顶级$k$方法的项目集的排名。我们的实验表明,我们可以成功地使用鲁棒性措施,以减少模式的数量和排名产生有趣的项目集。
2019-04-24 cs.DB cs.IR
Mining Target-Oriented Sequential Patterns with Time-Intervals
面向目标的序列模式是指在模式末尾有一个关注项集的序列模式。时间间隔序列模式是指每对连续项集之间具有时间间隔的序列模式。本文提出了一种基于时间间隔的面向目标序列模式发现算法。为此,原始序列被颠倒,使得最后的项集可以被排列在序列的前面。然后利用反向序列与相关项集的对比度来排除不相关序列。利用聚类分析和典型的序列模式挖掘算法,提取连续项集之间具有时间间隔的序列模式。最后,将发现的时间间隔序列模式再次反转到原始顺序以搜索目标模式。
2010-09-05 cs.DB
Comparing Dataset Characteristics that Favor the Apriori, Eclat or FP-Growth Frequent Itemset Mining Algorithms
Nova Southeastern University(诺瓦东南大学)
频繁项集挖掘是一种流行的数据采掘技术。Apriori、Eclat和FP-Growth是最常用的频繁项集挖掘算法。已经进行了相当多的研究来比较这三种算法之间的相对性能,通过评估每个算法的可扩展性,随着数据集大小的增加。虽然随着数据大小的增加可扩展性很重要,但以前的论文没有研究包含不同项集特征的类似大小的数据集的性能影响。本文探讨了这三个频繁项集算法的性能,两个数据集的特点可以有影响。为了进行这种实证分析,创建了一个数据集生成器来测量频繁项密度和最大事务大小对性能的影响。生成的数据集包含相同数量的行。这提供了对有助于每个算法的数据集特征的一些洞察。本文的研究结果表明,Eclat和FP-Growth都处理的最大事务规模和频繁项集密度的增加,大大优于Apriori算法。本文探讨了这三个频繁项集算法的性能,两个数据集的特点可以有影响。为了进行这种实证分析,创建了一个数据集生成器来测量频繁项密度和最大事务大小对性能的影响。生成的数据集包含相同数量的行。这提供了对有助于每个算法的数据集特征的一些洞察。本文的研究结果表明,Eclat和FP-Growth都处理的最大事务规模和频繁项集密度的增加,大大优于Apriori算法。
2017-01-30 cs.AI cs.DB
Fast Algorithms for Mining Interesting Frequent Itemsets without Minimum Support
FAST-National University of Computer and Emerging Science(FAST-国家计算机与新兴科学大学)
真实世界的数据集是稀疏的,脏的,包含数百个项目。在这种情况下,发现有趣的规则(结果)使用传统的频繁项集挖掘方法,通过指定一个用户定义的输入支持度阈值是不合适的。由于没有任何领域知识,设置支持度阈值小或大可能会输出什么或大量冗余的不感兴趣的结果。最近提出了一种新的挖掘N-most/Top-K兴趣频繁项集的方法,该方法在不指定任何用户定义的支持度阈值的情况下发现前N个兴趣结果。然而,挖掘有趣的频繁项集没有最小支持度阈值是更昂贵的项集搜索空间探索和处理成本。因此,它们的挖掘效率在很大程度上取决于三个主要因素:(1)用于项集频率计数的数据库表示方法,(2)相关事务到搜索空间的较低级别节点的投影和(3)算法实现技术。因此,为了提高挖掘过程的效率,在本文中,我们提出了两个新的算法称为(N-MostMiner和Top-K-Miner)使用位向量表示的方法,这是非常有效的项集频率计数和事务投影。除此之外,我们还介绍了N-MostMiner和Top-K-Miner的几种有效实现技术。我们在基准数据集上的实验结果表明,与目前最好的算法BOMO和TFP相比,NMostMiner和Top-K-Miner在处理时间方面非常有效。
2009-04-21 cs.AI cs.DB cs.DS
An efficient mining scheme for high utility itemsets
针对现有高效用项集挖掘算法时间与内存开销高的问题,本文提出基于残差映射数据结构的R-Miner算法,实验证明其性能优于现有最先进算法。
2022-04-12 cs.DB
Incremental high average-utility itemset mining: survey and challenges
本文综述了增量式高效用平均项集挖掘(iHAUIM)算法,分类分析其关键技术(Apriori、树、效用列表)及优缺点,并探讨未来研究方向。
2024-07-16 cs.DB
Discovery of Maximal Frequent Item Sets using Subset Creation
数据采掘是从大量数据中发现数据模式的实践。数据采掘使用数学算法对数据进行分组并评估未来事件。关联规则是知识发现领域的一个研究方向。许多数据采掘研究者通过引入效用、销售商品数量等影响因素以及挖掘关联数据模式来提高关联规则的质量。在本文中,我们提出了一个有效的算法,首先找到最大频繁项集。大多数关联规则算法都是先找到最小频繁项,再借助最小频繁项集求出最大频繁项集,这样的方法在寻找最大频繁项集上花费了较多的时间。为了克服这个问题,我们提出了一种新的方法来寻找最大频繁项集直接使用子集的概念。所提出的方法被发现是有效的,在寻找最大频繁项集。
2013-02-07 cs.DB
Approximate-Closed-Itemset Mining for Streaming Data Under Resource Constraint
在这里,我们提出了一种新的算法频繁项集挖掘流数据(FIM-SD)。在过去的十年中,各种FIM-SD方法在一遍近似设置已被开发来近似每个项目集的频率。这些方法可以分为两种近似类型:参数约束(PC)挖掘和资源约束(RC)挖掘。PC方法基于预定义的参数控制可以包括在频率中的最大误差。相比之下,RC方法基于资源约束限制最大内存消耗。然而,现有的PC方法可以指数地增加存储器消耗,而现有的RC方法可以快速地增加最大误差。在这项研究中,我们解决这个问题,通过引入一个压缩表示的概念,称为$Δ$覆盖集,RC近似。这个概念被认为是封闭性压缩的一个扩展,当$Δ= 0$时,解对应于一个普通的封闭项集。该算法在资源约束条件下,寻找能恢复频繁项集及其频率的近似闭项集,最大误差以整数$Δ$为界.我们首先提出了一个单程近似算法来寻找凝聚的解决方案。然后,我们通过引入统一的PC-RC近似方法改进了基本算法。最后,我们经验证明,该算法显着优于最先进的PC和RC方法FIM-SD。
2019-01-07 cs.DB cs.DS
HybridMiner: Mining Maximal Frequent Itemsets Using Hybrid Database Representation Approach
FAST-National University of Computer and Emerging Sciences(FAST-国立计算机与新兴科学大学)
在本文中,我们提出了一种新的混合(基于数组的布局和垂直位图布局)的数据库表示方法,挖掘完整的最大频繁项集(MFI)稀疏和大型数据集。我们的工作是新颖的可扩展性,项目搜索顺序和两个水平和垂直投影技术。我们还提出了一个最大的算法,使用这种混合数据库表示方法。在真实数据集和稀疏数据集上的不同实验结果表明,该方法优于现有的最大值算法。
2009-04-21 cs.AI cs.DB cs.DS
LDP-FPMiner: FP-Tree Based Frequent Itemset Mining with Local Differential Privacy
本地差分隐私(LDP)设置中的数据聚合通过提供敏感数据的合理可否认性来保证强隐私。现有的工作在这个问题上主要集中在发现重量级人物,离开频繁项集挖掘(频繁项集挖掘)的任务作为一个开放的问题。据我们所知,最先进的LDP解决方案是最近提出的SVSM协议。SVSM协议主要基于基于填充和采样的频率预言(PSFO)协议,将项目集看作独立的项目,而不考虑项目集之间的频率一致性。本文提出了一种基于频繁模式树(FP-tree)的LDP挖掘算法LDP-FPMiner。我们的建议利用项目集之间的频率一致性,通过构建和优化噪声FP树与LDP。具体来说,它的工作原理如下。首先,确定最频繁的项目,并相应地削减项目域。第二,FP-树的最大水平估计。第三,构造噪声FP树,利用项目集频率一致性对噪声FP树进行优化,挖掘出k个最频繁项目集。实验结果表明,LDP-FPMiner显着提高了国家的最先进的方法,SVSM,特别是在高隐私级别的情况下。
2022-09-03 cs.CR cs.DB
TargetUM: Targeted High-Utility Itemset Querying
Jinan University(暨南大学);Guangdong University of Technology(广东工业大学)
传统的高效用项集挖掘(HUIM)旨在确定事务数据库中所有满足最小效用阈值(\textit{minUtil})的高效用项集(HUI)。然而,在大多数应用程序中,并不是所有的UI都是有趣的,因为只需要特定的部分。因此,基于用户偏好的目标挖掘比传统的挖掘任务更重要。本文首次提出了一个基于目标的HUIM问题,并在定量交易数据库中提供了一个明确的目标效用挖掘任务。提出了一种基于树的高效用目标查询算法TargetUM。该算法使用一棵字典式查询树和三种有效的剪枝策略来提高挖掘效率。我们在几个真实数据库和合成数据库上进行了实验验证,结果表明,\textbf{TargetUM}的性能是令人满意的,完整的,正确的。最后,由于字典查询树,数据库不再需要重复扫描多个查询。
2021-10-30 cs.AI cs.DB
High-utility itemset mining for subadditive monotone utility functions
高效用项集挖掘(HUIM)从事务数据库中发现效用不小于用户定义阈值的项集,其中项集的效用被定义为项的效用之和。在本文中,我们将这一概念推广到效用函数,而不必是单个效用的简单总和。特别是,我们研究广义效用函数是次加性和单调(SM)。我们还描述了一个新的功能,使我们能够包括外部信息的关系图的形式计算效用。接下来,我们专注于SM效用函数的HUIM问题的算法。我们注意到,现有的HUIM算法使用像“交易加权效用”和“精确效用,剩余效用”的上限进行有效的搜索空间探索。我们推导出类似的和更严格的上界SM效用函数。我们设计了一个新的倒排表数据结构SMI-list和一个新的算法SM-Miner来挖掘SM函数的用户界面。我们解释如何现有的基于树和基于投影的HUIM算法可以适应使用这些界限。我们实验比较适应一些最新的HUIM算法,并指出一些注意事项,应牢记在处理效用函数,允许领域知识与交易数据库的集成。
2020-05-10 cs.DB
Top Down Approach to find Maximal Frequent Item Sets using Subset Creation
关联规则是知识发现领域的一个研究热点。数据采掘的研究人员已经提高了业务发展的关联规则挖掘的质量,通过纳入影响因素,如价值(效用),销售项目的数量(重量)和更多的关联模式的挖掘。在本文中,我们提出了一个有效的方法来寻找最大频繁项集第一。文献中的算法大多先求出最小频繁项,然后借助最小频繁项集求出最大频繁项集。这些方法在寻找最大频繁项集上花费了较多的时间。为了克服这个问题,我们提出了一种直接使用子集的概念来寻找最大频繁项集的方法。所提出的方法被发现是有效的,在寻找最大频繁项集。
2012-10-31 cs.DB
Integrity Verification for Outsourcing Uncertain Frequent Itemset Mining
近年来,由于不确定数据的广泛应用(例如,噪声数据),不确定数据库上的不确定频繁项集(UFI)挖掘引起了人们的广泛关注.作为关联规则挖掘过程中成本最高的任务,已经表明将该任务外包给服务提供商(例如,第三方云)给数据所有者带来了几个好处,例如成本减轻以及对存储和计算资源的较少承诺。然而,如果服务提供者具有随机错误或不诚实(例如,懒惰、恶意等)。因此,本文重点研究外包过程中UFI挖掘问题中的完整性和验证问题,即,数据所有者如何验证挖掘结果。具体来说,我们探索和扩展现有的工作确定性FI外包验证不确定的情况下。为此,我们将现有的外包FI采矿工作扩展到不确定的区域w.r.t.两种流行的UFI定义标准和近似UFI挖掘方法。具体地说,我们构造和改进的基本/增强的验证方案与这种不同的UFI定义。在此之后,我们进一步讨论了现有的近似UFP挖掘的情况下,我们可以看到,我们的技术可以提供良好的概率保证的正确性的验证。最后,对本文提出的方案进行了比较和分析。
2013-07-12 cs.DB
Mining Multi-Level Frequent Itemsets under Constraints
BESTMOD Laboratory(BESTMOD实验室);Institut Supérieur de Gestion(高等管理学院)
关联规则挖掘是数据采掘的一项任务,它从数据库中提取有用项(对象)之间重要蕴涵关系形式的知识。挖掘多级关联规则使用概念层次结构,也称为分类法,并定义为对象之间的关系类型'是一个',提取规则,项目属于不同的抽象层次。这些规则更有用,更精确,更易于用户解释。在文献中已经提出了几种算法来发现多级关联规则。在这篇文章中,我们感兴趣的问题,发现多层次的频繁项集的约束下,涉及用户在研究过程中。我们提出了一种技术,在使用概念层次结构的上下文中的约束的建模和解释。提出并讨论了三种在约束条件下发现多层频繁项集的方法:基本方法、“测试生成”方法和基于剪枝的方法。
2010-12-26 cs.AI cs.DB cs.DS
ALPINE: Anytime Mining with Definite Guarantees
ALPINE是第一个挖掘频繁项集和闭频繁项集的算法。它保证在继续之前,已经找到了支持度超过当前检查点支持度的所有项集。因此,它对于具有非常高维数据的超长挖掘任务(例如遗传学)非常有吸引力,因为它可以提供中间有意义和完整的结果。这个ANYTIME功能是ALPINE最重要的贡献,它也很快,但不一定是最快的算法。ALPINE的另一个关键优点是它不需要先验决定的最小支持值。
2016-10-24 cs.DB
Characterizing Transactional Databases for Frequent Itemset Mining
Universitat Politècnica de Catalunya(加泰罗尼亚理工大学)
本文研究了用于频繁项集挖掘的事务数据库的特征。这些特征通常用于基准测试和理解在这些数据库上工作的数据采掘算法。我们的研究的目的是给这些基准数据库的多样性和代表性的图片,无论是在一般情况下,但也在特定的实证研究的文献中发现的背景下。我们提出的指标列表包含了文献中发现的许多现有指标,以及新的指标。我们的研究表明,我们的指标列表能够捕捉到大部分数据集的内部复杂性,从而为事务数据集的表征提供了一个很好的基础。最后,我们提供了一组代表性的数据集,根据我们的表征,可以安全地用作基准。
2020-11-09 cs.AI cs.DB
Mining Frequent Itemsets: a Formal Unification
在数据采掘研究中,建立统一的理论是一个重要的问题。在过去的二十年里,大量的工作一直致力于频繁项集(FI)挖掘问题的算法方面。我们的动机是需要在该领域的正式建模。因此,我们介绍和分析,在这个理论研究中,一个新的模型FI挖掘任务。事实上,我们编码的项目集作为一个有序的字母表的话,并说明这个问题的计数半环$(\mathbb{N},+,\times,0,1)$,其范围构成的项目集和系数是他们的支持的正式系列。这种形式主义在基本和实践方面都提供了许多优点:引入了一个清晰统一的理论框架,通过它我们可以表达主要的FI方法,它们可以推广到挖掘其他更复杂的对象,以及它们的增量或并行化;在实践中,我们解释了这个问题如何可以被看作是自动机单词识别的问题,允许在$O(|Q|)$空间和$O(|\mathcal{F}_L||Q|])$时间中的有效实现,其中,$Q$是用于表示数据的自动机的状态集合,而$\mathcal{F}_L$是首选最长FI的集合。
2020-01-24 cs.CC cs.DB cs.FL