Discovery of Maximal Frequent Item Sets using Subset Creation
数据采掘是从大量数据中发现数据模式的实践。数据采掘使用数学算法对数据进行分组并评估未来事件。关联规则是知识发现领域的一个研究方向。许多数据采掘研究者通过引入效用、销售商品数量等影响因素以及挖掘关联数据模式来提高关联规则的质量。在本文中,我们提出了一个有效的算法,首先找到最大频繁项集。大多数关联规则算法都是先找到最小频繁项,再借助最小频繁项集求出最大频繁项集,这样的方法在寻找最大频繁项集上花费了较多的时间。为了克服这个问题,我们提出了一种新的方法来寻找最大频繁项集直接使用子集的概念。所提出的方法被发现是有效的,在寻找最大频繁项集。
2013-02-07 cs.DB
Frequent Knot Discovery
我们探讨了将频繁模式挖掘的框架应用于自然界中出现的一类连续对象(即节点)的可能性。我们介绍了频繁节点挖掘问题,并提出了解决方案。关键的观察是,由节点组成的数据库可以转换为事务数据库。这个观察是基于纽结的素分解定理。
2004-10-16 cs.DB
Cancer Research UK Drug Discovery Process Mining
THE UNIVERSITY OF SHEFFIELD(谢菲尔德大学)
背景英国癌症研究中心(CRUK)的药物发现部门(DDU)正在使用Dotmatics软件来存储和分析药物发现过程中的科学数据。虽然数据包括事件日志、时间戳、活动和用户信息,但它们大多位于数据库中,没有充分利用其潜在价值。目标。本文旨在从药物发现过程中记录的事件日志数据中提取知识,以捕获英国癌症研究中心(CRUK)DDU正在执行的业务流程。为药物发现过程提供了过程挖掘全景模型的评价和绘制方法。因此,通过使DDU能够最大限度地提高其在审查其资源和工作分配方面的效率,患者将更快地受益于更多的新治疗方法。结论组织的管理可以从过程挖掘方法中受益。迪斯科对于非管理专家来说是极好的。ProM非常适合研究目的的专家。然而,流程挖掘不是一劳永逸的,而是一个常规的运营管理过程。事实上,事件日志需要更多地了解目标组织行为和组织业务流程。研究人员必须意识到,事件日志数据是流程挖掘中最重要和最优先的元素。
2018-05-18 cs.DB cs.LG
Cortado---An Interactive Tool for Data-Driven Process Discovery and Modeling
流程挖掘旨在诊断和改进运营流程。流程挖掘技术允许分析(业务)流程执行期间生成和记录的事件数据,以获得有价值的见解。流程发现是流程挖掘中的一个关键学科,它包括在记录的事件数据的基础上发现流程模型。大多数进程发现算法以完全自动化的方式工作。除了调整它们的配置参数之外,传统的进程发现算法提供有限的用户交互,即,我们或者手工编辑发现的过程模型,或者通过例如过滤事件数据来改变算法的输入。然而,最近的工作表明,领域知识的集成(半)自动化的过程发现算法往往提高了质量的过程模型发现。因此,本文介绍了Cortado,一种新的过程发现工具,利用领域知识,同时从给定的事件数据中逐步发现一个过程模型。从初始流程模型开始,Cortado使用户能够以可视化和直观的方式向正在构建的流程模型中增量添加新的流程行为。因此,Cortado将手动流程建模与自动流程发现相结合。
2021-05-17 cs.DB
Pattern Detection with Rare Item-set Mining
随着可用数据量的爆炸式增长,在大型数据集中发现新的和有趣的模式,称为数据采掘,引起了越来越多的兴趣。数据采掘技术可以应用于不同的领域和领域,如计算机科学,卫生部门,保险,国土安全,银行和金融等,在本文中,我们感兴趣的发现一个特定类别的模式,被称为罕见的和不存在的模式。我们提出了一种新的方法对非本模式的发现使用稀有项集挖掘。
2012-09-14 cs.DB cs.SE
A Seamless Integration of Association Rule Mining with Database Systems
人们早就认识到需要支持特定数据采掘查询的知识和数据发现管理系统(KDDMS)。大量的研究已经投入到构建紧密耦合的系统,将关联规则挖掘与数据库系统集成在一起。在本文中,我们描述了一个无缝集成计划的数据库查询和关联规则发现使用一个共同的查询优化器。扩展代数中表达式的查询树用于优化器中的内部表示。代数表示是足够灵活的,以处理约束关联规则查询和关联规则规范的其他变化。我们提出模块化来简化数据采掘中复杂任务的查询树。为在优化过程中利用现有的算法构造查询计划铺平了道路。如何集成方案,我们目前将促进更大的用户控制的数据采掘过程中进行了讨论。本文所描述的工作是一个更大的项目的一部分,该项目旨在将数据采掘与数据库管理完全集成。
2001-06-28 cs.DB
Combined Algorithm for Data Mining using Association rules
关联规则挖掘是数据采掘和知识发现的重要领域之一。本文提出了一种基于最大约束的多最小支持度关联规则挖掘算法。该算法的实现,并比较其前辈算法使用一种新的比较算法。应用该算法的结果表明,在不牺牲精度的情况下,比其他算法更快的性能。
2014-10-06 cs.DB
Mining Local Process Models
Eindhoven University of Technology(埃因霍温理工大学);Philips Research(飞利浦研究院)
在本文中,我们描述了一种方法来发现频繁的行为模式的事件日志。我们将这些模式表示为\emph{local process models}。局部过程模型挖掘可以定位在过程发现和事件/序列模式挖掘之间。本文提出的技术是能够学习行为模式,涉及顺序组成,并发,选择和循环,像在进程挖掘。然而,我们不看从开始到结束的模型,这将我们的方法与过程发现区分开来,并创建了与情节/序列模式挖掘的链接。我们提出了一个增量的过程,用于建立本地的过程模型捕获频繁模式的基础上所谓的过程树。我们提出了五个质量维度和相应的度量本地流程模型,给定的事件日志。我们表现出单调性属性的一些质量维度,使本地过程模型发现通过修剪加速。我们通过一个真实的案例研究证明,挖掘本地模式可以让我们在常规的从开始到结束的流程发现技术只能学习非结构化的,花一样的模型的流程中获得见解。
2017-05-16 cs.DB cs.LG
Census Data Mining and Data Analysis using WEKA
数据采掘(也称为从数据库中发现知识)是从数据库中提取隐藏的、先前未知的和潜在有用的信息的过程。提取数据的结果可用于分析未来的规划和发展前景。在本文中,我们已经尝试展示了如何提取地方(地区)一级的人口普查,社会经济和人口相关的其他数据的知识发现和分析使用强大的数据采掘工具Weka。
2013-10-17 cs.CY cs.DB
A Rough Sets Partitioning Model for Mining Sequential Patterns with Time Constraint
如今,数据采掘和知识发现方法被应用于各种企业和工程学科,以从数据库中发现有趣的模式。序列模式的研究是一个重要的数据采掘问题,因为它在现实世界的时间相关数据库中有着广泛的应用。序列模式是在与所研究的特定对象相关联的时间段内排序的事件间模式。分析和发现在预定时间段内的频繁序列模式是有趣的数据采掘结果,并且可以在许多企业应用中辅助决策支持。序列模式挖掘的问题提出了计算的挑战,因为一个长的频繁序列包含大量的频繁序列。此外,有用的结果取决于事件窗口的正确选择。本文从两个方面研究了序列模式挖掘问题,一个是问题的计算方面,另一个是时间约束的整合和可调整性。我们利用粗糙集理论中的不可分割关系对序列模式的搜索空间进行划分,提出了一种新的算法,该算法允许在执行挖掘任务之前对模式进行预测,并允许在执行挖掘任务之前调整时间约束。该算法比基于朴素时间约束的序列模式挖掘算法GSP至少快10倍。除此之外,该方法还确定了序列模式的时间间隔的附加知识。
2009-06-23 cs.DB
Applications of Data Mining (DM) in Science and Engineering: State of the art and perspectives
Universidad Nacional de Educación a Distancia(西班牙国立远程教育大学)
任何类型的数据的可用性的持续增加,加上高速通信网络的发展、云计算的普及和数据中心的增长以及高性能计算的出现,开发允许更有效的数据处理和分析大量数据集并提取有价值信息的技术的任务是必不可少的。在接下来的几页中,我们将讨论近几十年来这一领域的发展,以及它在科学研究的各个分支中的潜力和适用性。此外,我们试图简要回顾包括在数据采掘研究领域,它的可扩展性与增加的维度的输入数据和他们如何可以被解决和什么样的行为不同的方法在一个场景中,信息是分布式或分散处理,以增加性能优化在异构环境中的不同系列的算法。
2016-09-17 cs.AI cs.DB
Efficient Candidacy Reduction For Frequent Pattern Mining
当然,如今知识发现或从大量数据中提取知识是竞争激烈的业务中的理想任务。数据采掘是知识发现过程中的一个重要步骤。同时频繁模式在聚类、分类、关联分析等数据采掘任务中起着核心作用。识别所有频繁模式是最耗时的过程,由于大量的候选模式。在过去的十年里,有越来越多的有效算法来挖掘频繁模式。然而,减少候选模式的数量和支持度计数的比较仍然是该领域的两个问题,这使得频繁模式挖掘成为数据采掘中的一个活跃的研究主题。一个合理的解决方案是确定一个小的候选模式集,从该集可以生成所有的频繁模式。本文提出了一种新的候选集的基础上,称为候选头集或H,形成一个小的候选模式集的方法。实验结果验证了该方法的准确性,减少了候选模式和比较的数量。
2010-01-13 cs.DB
Discovering More Accurate Frequent Web Usage Patterns
Web使用挖掘是Web挖掘的一种,它利用数据采掘技术从万维网用户的浏览行为中发现有价值的信息。与传统的数据采掘一样,数据准备和模式发现是Web使用挖掘的主要问题。Web使用挖掘的第一阶段是数据处理阶段,包括从服务器日志中重建会话操作。会话重构的成功与否直接影响到下一阶段频繁模式发现的质量。在反应式web使用挖掘技术中,源数据是web服务器日志和web服务器域所服务的web页面的拓扑。在用户交互式浏览网站期间收集的其他类型的信息,例如Cookie或包含类似信息的网络日志,不会被使用。Web使用挖掘的下一个阶段是发现频繁的用户导航模式。在该阶段中,模式发现方法被应用于在第一阶段中获得的重构会话上,以便发现频繁用户模式。在本文中,我们提出了一个频繁的Web使用模式发现方法,可以应用会话重建阶段后。为了比较会话重建阶段和模式发现阶段的准确性,我们使用了一个代理模拟器,它模拟Web用户的行为,并生成Web用户导航以及Web服务器保存的日志数据。
2008-04-09 cs.DB cs.DS
Applications of a Novel Knowledge Discovery and Data Mining Process Model for Metabolomics
American University of Madaba(马代巴美国大学);Aberystwyth University(阿伯里斯特威斯大学)
这项工作演示了一个新的过程模型的知识发现和数据挖掘代谢组学(MeKDDaM)的执行。它的目的是说明MeKDDaM过程模型的适用性,使用四个不同的现实世界的应用,并突出其优势和独特的功能。所展示的应用程序提供了代谢物分析,目标分析和代谢指纹的覆盖范围。在这些应用中分析的数据是通过色谱分离和质谱技术(LC-MS),傅里叶变换红外光谱(FT-IR)和核磁共振光谱(NMR)捕获的,涉及植物,动物和人类样品的分析。这一过程是使用数据驱动和假设驱动的数据挖掘方法来执行的,以便通过应用一些数据挖掘技术来执行各种数据挖掘目标和任务。选择这些应用程序是为了实现一系列分析目标和研究问题,并使用NMR,LC-MS和FT-IR使用植物,动物和人类来源的样品捕获的数据集为代谢物分析,目标分析和代谢指纹图谱提供覆盖。该过程中使用的实施环境,创建,以提供一个计算机辅助实现的过程模型执行。
2019-07-30 cs.DB cs.LG q-bio.QM
Computer-Aided Data Mining: Automating a Novel Knowledge Discovery and Data Mining Process Model for Metabolomics
American University of Madaba(马代巴美国大学);Aberystwyth University(阿伯里斯特威斯大学)
这项工作提出了MeKDDaM-SAGA,计算机辅助自动化软件,用于实现一种新的知识发现和数据挖掘过程模型,该模型旨在进行合理的,可追溯的和可重复的代谢组学数据分析。该过程模型侧重于实现代谢组学分析目标,并考虑其所涉及的数据的性质。MeKDDaM-SAGA被成功地用于指导许多代谢组学应用中的过程模型执行。它满足所提出的过程模型设计和执行的要求。该软件实现了过程模型的布局、结构和流程,并且它能够在外部使用各种数据挖掘和机器学习工具或在内部使用许多嵌入式设施来执行其执行,这些嵌入式设施是为执行许多自动化活动而构建的,例如数据预处理、数据探索、数据适应、建模、评估和可视化。MeKDDaM-SAGA是使用面向对象的软件工程方法开发的,并在Java中构建。它由241个设计类组成,旨在实现27个用例。该软件使用XML数据库来保证可移植性,并使用GUI界面来确保其用户友好性。它实现了一个内部嵌入式版本控制系统,用于实现和管理流程流、反馈和迭代,并允许撤消和重做流程阶段、活动及其阶段内的内部任务的执行。
2019-07-09 cs.DB cs.LG q-bio.QM
Matrix Profile Goes MAD: Variable-Length Motif And Discord Discovery in Data Series
在过去的15年里,数据序列主题和不一致发现已经成为数据序列挖掘的两个有用和常用的原语,应用于许多领域,包括机器人,昆虫学,地震学,医学和气候学。然而,最先进的主题和不和谐发现工具仍然需要用户提供相对长度。然而,在一些情况下,长度的选择是关键和无情的。不幸的是,测试给定范围内所有长度的明显的蛮力解决方案在计算上是站不住脚的。在这项工作中,我们引入了一个新的框架,它提供了一个准确的和可扩展的主题和不和谐的发现算法,有效地发现所有的主题和不和谐在一个给定的长度范围内。我们用五个不同的真实数据集来评估我们的方法,并证明它比最先进的方法快20倍。我们的结果还表明,去除用户知道正确长度的不切实际的假设,通常可以产生更直观和可操作的结果,否则可能会错过。(论文发表于《数据采掘与知识发现期刊- 2020》)
2020-08-31 cs.DB
Implementation of CRISP Methodology for ERP Systems
ERP系统包含大量与业务流程实际执行相关的数据。这些系统具有记录活动的特定方式,这导致在事件日志中不清楚地显示业务流程。ERP系统已经进行了一些工作,其中大部分侧重于开发新的算法,自动发现的业务流程。我们专注于解决这样的问题,如ERP系统的组织如何应用流程挖掘来分析他们的业务流程,以改善他们。ERP系统的数据处理方面与BPMS或基于工作流的系统的数据处理方面形成鲜明对比,后者系统地存储事件有助于流程挖掘技术的应用。CRISP-DM已经成为开发数据采掘和知识发现项目的事实标准。成功的数据采掘需要三种分析能力,即报告、分类和预测。数据挖掘者使用多种分析方法来获得最佳结果。本文的目的是提高流程挖掘技术的可用性和可理解性,通过实施CRISP-DM方法,在ERP环境中的应用,详细的具体实施工具和一步一步的协调。我们的研究证实,ERP系统的数据发现提高了战略和运营决策。
2013-12-07 cs.DB
A Survey on Various Data Mining Techniques for ECG Meta Analysis
数据采掘是从不同的角度对信息进行检验,并将其压缩为相关数据的过程。这些数据也可以用来增加收入。数据采掘也被称为数据或知识发现。数据采掘的基本目的是寻找具有最小用户输入和努力的模式。数据采掘在各个领域都起着非常关键的作用。有各种各样的数据采掘程序可以连接在不同的创新领域。通过使用数据采掘技术,观察到花费更少的时间来更准确地预测任何疾病。在本文中,我们将审查各种数据采掘技术分类,回归和聚类,并将这些算法应用于心电图数据集。这项工作的目的是确定最合适的数据采掘技术,并使用它来提高分析心电图数据的准确性,以更好的决策。
2016-04-22 cs.DB
HANDY: A Hybrid Association Rules Mining Approach for Network Layer Discovery of Services for Mobile Ad hoc Network
National University of Computer and Emerging Sciences(国立计算机与新兴科学大学);Hamdard University(哈姆达德大学)
移动自组织网络是由一组移动节点组成的无基础设施的网络。由于移动自组网的特殊性,移动自组网中的服务发现是一项具有挑战性的工作。提出了一种基于混合关联规则的网络层服务发现框架HANDY(Hybrid Association Rules Based Network Layer Discovery of Services for Ad Hoc Networks)。HANDY提供了三个主要的研究贡献。首先,它采用了一种跨层的优化设计的服务发现,基于服务和相应的路由同时发现。其次,提出了一种基于本体的多层次服务描述方法。这以可伸缩的方式解决了服务消费者之间的语义互操作性问题。最后,为了进一步优化发现过程的性能,HANDY建议利用服务之间存在的固有关联。这些关联以两种方式使用。首先,基于这些关联来执行周期性服务广告。此外,当生成服务发现请求的响应时,相关服务也被附加到响应。提出的服务发现方案已在JIST/SWANS仿真器中实现。实验结果表明,改进后的服务消费者的命中率和发现过程的延迟得到了改善。
2017-10-03 cs.AI cs.DB cs.NI
Utility-Driven Mining of Trend Information for Intelligent System
嵌入数据库中的有用知识可能会随着时间的推移而改变。确定时态数据库中最近的变化可以为决策者提供有价值的最新信息。然而,挖掘高效用模式(HUP)的技术很少考虑新近度作为发现模式的标准。因此,传统的效用挖掘框架不足以获得关于真实世界数据的最新见解。在本文中,我们解决这个问题,通过引入一个新的框架,命名为效用驱动挖掘最近/趋势高效用模式(RUP)在时态数据库的智能系统,基于用户指定的最小最近和最小效用阈值。效用驱动的RUP算法基于新的全局和条件向下闭包属性,以及最近效用树。此外,它采用了一个垂直紧凑的最近-效用列表结构来存储挖掘过程所需的信息。开发的RUP算法递归地发现最近的HUP。由于其模式发现方法不生成候选项,因此它的速度也很快,并且消耗少量内存。另外还设计了两种改进的剪枝算法,通过减少搜索空间来加快模式的发现。大量的实验结果表明,该算法可以有效地识别所有最近的高效用模式在大规模数据库中,改进的算法性能最好。
2019-12-25 cs.DB
Towards context in large scale biomedical knowledge graphs
上下文信息对自然语言的准确含义有着重要的影响,因此被广泛应用于自然语言处理和生命科学领域的知识发现。科学的挑战不仅是提取这样的上下文数据,而且还存储这些数据以用于进一步的查询和发现方法。在这里,我们提出了一个多步骤的知识图谱的方法,使用标记的属性图的基础上多语言持久化系统,利用上下文数据的上下文挖掘,图形查询,知识发现和提取。我们介绍了语义网络中的一般上下文概念的图论基础,并展示了基于生物医学文献和文本挖掘的概念证明。我们的测试系统包含一个知识图谱,来自PubMed和SCAIView数据的整体,并丰富了文本挖掘数据和领域特定的语言数据,使用BEL。在这里,上下文是比注释更一般的概念。这个密集图有超过7100万个节点和85000万个关系。我们讨论了这种新方法的影响与27个真实世界的用例表示的图查询。
2020-01-23 cs.DB
Scientific Data Mining in Astronomy
我们描述了数据挖掘算法在天文学研究问题中的应用。我们认为,数据挖掘一直是天文学研究的基础,因为数据挖掘是基于证据的发现,包括分类,聚类和新颖性发现的基础。这些算法代表了在大型数据库中发现的一套主要计算工具,这在数据密集型天文学时代将变得越来越重要。回顾了天文学数据挖掘的历史实例,然后讨论了预计在未来十年中最大的数据生产项目之一:大型综合巡天望远镜(LSST)。为了促进天文学中数据驱动的发现,我们设想了一种新的天文学和天体物理学面向数据的研究范式-天体信息学。天文信息学被描述为现代数据密集型天文学的一种研究方法和教育必要性。大型时域巡天(如LSST)的一个重要应用领域是实时天空事件(包括移动物体、光度可变物体和瞬变现象)的快速识别、表征和分类。我们描述了一个可能的实现的分类代理这样的事件,它结合了几个天体信息学技术:用户注释,语义标记,元数据标记,异构数据集成,分布式数据挖掘。这些类型的合作分类和发现的方法在其他科学学科的例子。
2009-11-03 astro-ph.IM cs.DB cs.IR
Application of Rough Set Theory in Data Mining
粗糙集理论是一种处理决策问题中的不确定性和不确定性的新方法。数据采掘是一门对数据分析、发现新的有意义的知识和自主决策有重要贡献的学科。粗糙集理论为从数据中提取决策规则提供了一种可行的方法,本文介绍了粗糙集理论的基本概念和数据采掘的其它方面,讨论了粗糙集理论在数据表示中的应用,包括属性值块对、信息表约简、不相容关系和决策表。此外,粗糙集方法的上下近似和某些可能的规则集的概念。最后,对粗糙集理论在数据采掘系统中的应用进行了描述。
2013-11-17 cs.DB
Data Mining and Its Applications for Knowledge Management: A Literature Review from 2007 to 2012
数据采掘是数据库中知识发现过程的重要环节,是知识管理的重要分支。在未来的几十年里,数据采掘的研究在商业和学习型组织中继续增长。本文探讨了数据采掘技术在知识管理过程中的应用。对ScienceDirect数据库2007 - 2012年收录的期刊论文进行了分析和分类。研究结果的讨论分为4个主题:(i)知识资源;(ii)知识类型和/或知识数据集;(iii)数据采掘任务;(iv)知识管理中使用的数据采掘技术和应用。文章首先简要介绍了数据采掘的定义和数据采掘的功能。然后介绍了知识管理的基本原理和知识管理周期中集成的主要知识管理工具。最后,对数据采掘技术在知识管理过程中的应用进行了总结和探讨。
2012-10-10 cs.DB
A framework for optimisation based stochastic process discovery
本文提出一种随机过程挖掘框架,在经典 Petri 网模型基础上通过最大似然或 earth moving distance 优化变迁权重,使模型随机语言逼近事件日志,并在真实日志上验证了更高准确率。
2024-07-02 cs.DB
Mining Frequent Itemsets Using Genetic Algorithm
通常,频繁项集是通过应用关联规则挖掘算法,如Apriori,Partition,Pincer-Search,Incremental,Border算法等,从大数据集中生成的。这需要花费太多的计算机时间来计算所有的频繁项集。通过使用遗传算法(GA),我们可以改善的情况下。使用遗传算法发现频繁项集的主要优点是它可以进行全局搜索,并且由于遗传算法是基于贪婪方法的,因此其时间复杂度比其他算法要低。本文的主要目的是利用遗传算法从给定的数据集中找到所有的频繁项集。
2010-11-01 cs.DB
Web Usage mining framework for Data Cleaning and IP address Identification
万维网是最广为人知的信息源,易于获得和搜索。它由数十亿个相互连接的文档组成,网页由数百万人创作。不同用户对页面的访问记录在Web日志中。这些日志文件以各种格式存在。由于Web使用量的增加,Web日志文件的大小以更快的速度增加。Web挖掘就是将数据采掘技术应用于这些日志文件。它可以分为Web使用挖掘、Web结构挖掘和Web内容挖掘三类。Web使用挖掘是挖掘用户的使用模式,然后可以使用这些模式来个性化网站并创建有吸引力的网站。它包括三个主要阶段:预处理,模式发现和模式分析。本文重点介绍了预处理的数据清理和IP地址识别阶段。为这两个阶段提出了方法。最后对IP地址识别后的剩余用户数进行了总结。
2014-08-23 cs.DB
Mining Insights from Weakly-Structured Event Data
本文主要研究在事件数据上的过程挖掘,因为事件数据缺乏规范的描述,因此,事件数据的结构化程度较低。本文特别强调了一个适合这种描述的应用领域:记录日常活动序列的灵巧家庭数据分析。在这篇论文中,我们提出了一套技术来分析这些数据,这可以分为两类技术。第一类方法侧重于预处理事件日志,以便使流程发现技术能够提取对非结构化事件数据的洞察。在这一类别中,我们开发了以下技术:-一种无监督的方法,根据事件发生的时间来细化事件标签,例如,允许将记录的饮食事件区分为早餐,午餐和晚餐。- 一种从事件日志中检测和过滤所谓的混沌活动的方法,混沌活动是导致流程发现方法过度概括的活动。- 一个监督的方法,抽象的低级别的事件到更高级别的事件,我们表明,存在的情况下,过程发现方法过度概括的低级别的事件数据,但能够找到精确的模型的高级别的事件数据。第二类侧重于挖掘本地流程模型,即,流程模型模式的集合,每个流程模型模式描述某个频繁的模式,这与用现有流程发现技术获得的单个全局流程模型形成对比。介绍了局部过程模型挖掘的基本方法、快速但近似的探试法和基于约束的方法。
2019-09-03 cs.AI cs.DB
PrivBasis: Frequent Itemset Mining with Differential Privacy
频繁项集的发现可以服务于有价值的经济和研究目的。然而,发布发现的频繁项集带来了隐私挑战。本文研究了如何在满足差分隐私的情况下对事务数据库进行频繁项集挖掘的问题。我们提出了一种称为PrivBasis的方法,它利用了一个称为基集的新概念。一个theta基集具有这样的性质,即任何频率高于theta的项集都是某个基的子集。我们引入算法私下构造一个基集,然后用它来找到最频繁的项集。实验表明,我们的方法大大优于目前的最先进的。
2012-08-01 cs.DB
A large-scale and fault-tolerant approach of subgraph mining using density-based partitioning
最近,图挖掘方法已经变得非常流行,特别是在诸如生物信息学、化学信息学和社交网络的领域中。在这个范围内,最具挑战性的任务之一是频繁子图发现。这项任务的动机是现有图形数据库的规模急剧增加。从那时起,一个重要的问题,设计有效的和可扩展的方法,在大型集群中的频繁子图发现,已经发生。然而,在大型集群中,失败是一种常态,而不是例外。在这种情况下,MapReduce框架被设计为使节点故障由框架自动处理。在本文中,我们提出了一个大规模的和容错的子图挖掘方法,通过基于密度的分区技术,使用MapReduce。我们的分区旨在平衡机器集合上的计算负载。我们的实验表明,我们的方法显着降低了执行时间和规模的子图发现过程中大型图形数据库。
2012-12-04 cs.DB cs.DC cs.SI
A Multi-View Framework to Detect Redundant Activity Labels for More Representative Event Logs in Process Mining
流程挖掘的目的是通过从信息系统生成的事件日志中发现流程模型来获得业务流程的知识。流程挖掘揭示的洞察力在很大程度上依赖于事件日志的质量。从不同数据源提取的活动或同一系统内的自由文本性质可能导致标签不一致。这样的不一致会导致活动标签的冗余,这些标签指的是具有不同语法但共享相同行为的标签。冗余的活动标签可能会给事件日志带来不必要的复杂性。从数据驱动的过程发现中识别这些标签是困难的,并且严重依赖于人工干预。现有的进程发现算法和事件数据预处理技术都不能有效地解决这种冗余。在本文中,我们提出了一种多视图的方法来自动检测冗余的活动标签,不仅使用上下文感知功能,如控制流关系和属性值,但也从事件日志的语义特征。我们对几个公开数据集和一个真实案例研究的评估表明,我们的方法可以有效地检测冗余活动标签,即使是低出现频率。所提出的方法可以增加预处理步骤的价值,以生成更具代表性的事件日志。
2022-05-18 cs.DB cs.IR
Data Mining Applications: A comparative Study for Predicting Student's performance
知识发现和数据采掘(KDD)是一个多学科领域,重点是从数据中提取有用知识的方法,有几个有用的KDD工具来提取知识。这些知识可以用来提高教育质量。但是教育机构没有对这些数据使用任何知识发现过程方法。数据采掘可以用于教育系统的决策。决策树分类器是基于分而治之技术的用于数据探索的最广泛使用的监督学习方法之一。本文讨论了决策树在教育数据采掘中的应用。运用决策树算法对学生过去的成绩数据进行处理,生成模型,并利用该模型对学生的成绩进行预测。它有助于及早确定辍学者和需要特别关注的学生,并使教师能够提供适当的建议/咨询。
2012-02-23 cs.DB cs.IR
Flexible Pattern Discovery and Analysis
Shandong University of Science and Technology(山东科技大学);Jinan University(暨南大学)
基于对数据采掘中支持事务中效用所占比例的分析,高效用占用模式挖掘(highutility-occupationalpattern mining,HUOPM)近年来引起了广泛关注。不像高效用模式挖掘(HUPM),它涉及高效用的枚举(例如,盈利)模式,HUOPM的目标是找到代表现有交易集合的模式。然而,在实际应用中,并非所有模式都被使用或有价值。例如,一个模式可能包含太多的项目,也就是说,该模式可能过于具体,因此对现实生活中的用户缺乏价值。为了获得具有灵活长度的合格模式,我们在挖掘过程中限制最小和最大长度,并引入一种新的算法来挖掘灵活的高效用占用模式。我们的算法被称为HUOPM+。为了保证模式的灵活性和收紧效用占用的上界,提出了一种称为长度上界(LUB)的策略来修剪搜索空间。此外,一个效用占用嵌套列表(UO-nlist)和频率效用占用表(FUO-表),以避免多次扫描的数据库。后续实验的评价结果证实,该算法可以有效地控制衍生模式的长度,为现实世界和合成数据集。此外,它可以减少执行时间和内存消耗。
2021-11-24 cs.AI cs.DB
Computational Complexity of Three Central Problems in Itemset Mining
CNRS(法国国家科学研究中心);University of Montpellier(蒙彼利埃大学);Simula Research Laboratory(Simula研究实验室);LIRMM(蒙彼利埃计算机、机器人与微电子实验室)
项集挖掘是知识发现领域研究最多的任务之一。本文分析了三个中心项集挖掘问题的计算复杂性。我们证明了挖掘一个给定的项目在头部的置信规则是NP-困难的。我们证明了挖掘高效用项集是NP难的。最后,我们证明了挖掘最大或封闭的项目集是CONP-困难的,只要用户可以指定的限制,他们感兴趣的项目集。
2020-12-08 cs.AI cs.CC cs.DB
Integrating E-Commerce and Data Mining: Architecture and Challenges
我们表明,电子商业领域可以提供所有正确的成分,成功的数据采掘,并声称它是一个杀手域的数据采掘。我们描述了一个集成的体系结构,根据我们的经验,在蓝色马提尼软件,支持这种集成。该架构可以显著减少预处理、清理和数据理解工作,这些工作通常在知识发现项目中占用80%的时间。我们强调需要在应用程序服务器层(而不是Web服务器)进行数据汇集,以支持对发现过程至关重要的数据和元数据的日志记录。我们描述了从事务处理系统和客户事件流(例如,clickstreams)到数据仓库。我们详细介绍了挖掘工作台,它需要通过报告、数据采掘算法、可视化和OLAP提供数据的多个视图。我们总结了一系列挑战。
2000-07-14 cs.AI cs.CV cs.DB
Towards Efficient Discriminative Pattern Mining in Hybrid Domains
Meijo University(名城大学)
判别模式挖掘是一种数据采掘任务,在其中我们发现将感兴趣的类中的事务与其他类中的事务区分开的模式,并且也被称为新兴模式挖掘或子组发现。判别模式挖掘中的一个实际问题是如何处理输入数据集中的数值。在本文中,我们提出了一个判别模式挖掘算法,可以处理一个交易数据集的混合域,即一个既包括符号和数值。我们还显示了两个标准的基准数据集所提出的算法的原型实现的执行结果。
2019-08-15 cs.DB cs.LG
Mandolin: A Knowledge Discovery Framework for the Web of Data
University of Leipzig(莱比锡大学);University of Bonn(波恩大学);Leipzig University of Applied Sciences(莱比锡应用科学大学);University of Paderborn(帕德博恩大学)
马尔可夫逻辑网络将概率建模与一阶逻辑结合起来,并已被证明与语义网基础很好地结合在一起。虽然已经设计了几种方法来解决规则挖掘,接地和推理的子问题,到目前为止还没有提出全面的工作流程。在本文中,我们通过引入一个名为Mandolin的框架来填补这一空白,该框架实现了专门针对RDF数据集的知识发现工作流。我们的框架从参考图中导入知识,在相似的文字之间创建相似关系,并依赖于最先进的规则挖掘,接地和推理计算技术。我们表明,我们最好的配置规模以及实现至少可比的结果相对于其他的几何关系学习算法的链接预测。
2017-11-03 cs.AI cs.DB
Mint: MDL-based approach for Mining INTeresting Numerical Pattern Sets
Université de Lorraine(洛林大学);CNRS(法国国家科学研究中心);Inria(法国国家信息与自动化研究所);LORIA(洛林信息学及其应用研究实验室);National Research University Higher School of Economics(高等经济大学)
模式挖掘是数据采掘研究中的一个重要领域,尤其是在二值数据集的挖掘中。令人惊讶的是,关于数字模式挖掘的工作要少得多,而且这一研究领域仍然没有得到充分的探索。在本文中,我们提出了Mint,一个有效的基于MDL的算法挖掘数值数据集。MDL原则是一个健壮可靠的框架,广泛应用于模式挖掘和子组发现。在Mint中,我们重用MDL来发现有用的模式,并返回一组非冗余的重叠模式,这些模式具有定义良好的边界并覆盖有意义的对象组。Mint并不是唯一一个基于MDL的数字模式挖掘器。在本文中提出的实验中,我们表明,薄荷优于竞争对手,其中苗条和RealKrimp。
2020-11-30 cs.AI cs.DB
Accelerator-Oriented Algorithm Transformation for Temporal Data Mining
时态数据采掘算法在包括计算神经科学在内的许多应用领域,特别是在尖峰训练数据的分析中变得越来越重要。虽然应用科学家已经能够很容易地收集多神经元数据集,但由于缺乏强大的算法和无法访问强大的硬件平台,分析能力一直落后。GPU架构(如Nvidia的GTX 280)的出现提供了一个具有成本效益的选择,可以将这些功能带到神经科学家的桌面上。与其将现有的算法移植到这个架构上,我们提倡算法转换的需要,即,重新考虑算法的设计,不必严格反映其串行实现。我们提出了一种新的实现频繁发作发现算法,通过重新审视“在大”的问题,如问题分解以及“在小”的问题,如数据布局和内存访问模式。这是不平凡的,因为频繁的情节发现并不适合GPU友好的数据并行映射策略。许多数据集的应用程序和CPU以及以前的GPU实现的比较展示了我们的方法的优势。
2009-05-13 cs.DB cs.DC
A Constraint Programming Approach for Mining Sequential Patterns in a Sequence Database
University of Caen(卡昂大学);University PARIS 13(巴黎第十三大学)
基于约束的模式发现是众多数据采掘任务的核心。模式是相对于一组给定的约束(频率,封闭性,大小等)提取的。在序列模式挖掘的背景下,已经开发了大量专门的技术来解决特定类别的约束。本文的目的是研究使用约束编程(CP)的建模和挖掘序列数据库中的序列模式。我们的CP方法提供了一种自然的方式,在同一个框架中同时结合了来自不同来源的大量约束。实验结果表明,我们的方法的可行性和利益。
2013-11-27 cs.AI cs.DB
Simultaneous Discrimination Prevention and Privacy Protection in Data Publishing and Mining
数据采掘是一种越来越重要的技术,用于提取隐藏在大量数据中的有用知识。然而,社会上对数据采掘也有一些负面的看法,其中包括潜在的隐私侵犯和潜在的歧视。自动化的数据汇集和分类等数据采掘技术为自动化决策铺平了道路,如贷款授予/拒绝,保险费计算。如果训练数据集在性别、种族、宗教等歧视性属性方面存在偏见,那么可能会出现歧视性决策。在本论文的第一部分中,我们解决了歧视预防数据采掘,并提出了新的技术适用于直接或间接的歧视预防单独或同时。我们讨论如何清理训练数据集和外包数据集,以便将直接和/或间接的歧视性决策规则转换为合法(非歧视性)分类规则。在本文的第二部分,我们认为隐私和歧视风险应该一起处理。我们探讨隐私保护数据采掘和歧视预防之间的关系,在数据采掘设计能够同时解决这两个威胁的知识发现过程中的整体方法。作为这项工作的一部分,我们已经调查了第一次的歧视和隐私意识的频繁模式发现的问题,即从交易数据库中挖掘的模式的集合的净化,以这样的方式,既不侵犯隐私,也不歧视推断可以推断出的释放模式。此外,我们调查的歧视和隐私意识的数据发布的问题,即转换的数据,而不是模式,以同时实现隐私保护和歧视预防。
2013-06-28 cs.CR cs.DB
Mining Generalized Patterns from Large Databases using Ontologies
Université du Québec en Outaouais(魁北克大学乌塔韦分校)
形式概念分析(FCA)是一种基于概念和概念层次的形式化的数学理论。它已成功地应用于数据采掘、软件工程、知识工程等计算机科学领域,并在医学、心理学、语言学和生态学等许多领域得到应用。例如,它已被用于本体的设计,映射和细化。在本文中,我们展示了FCA如何通过分析分类(对象和/或属性)对所产生的概念格的影响,从给定的领域本体中受益。我们将主要集中在使用分类法来提取广义模式(即,当使用给定领域本体的元素时从数据生成的知识)以概念和规则的形式,并改进通过这些模式的导航。为此,我们分析了三个泛化的情况下,并显示其对广义模式集的大小的影响。还讨论了同时对对象和属性进行概括的不同情况
2009-05-28 cs.AI cs.DB cs.DM
Class Association Rules Mining based Rough Set Method
Taif University(塔伊夫大学)
研究了利用粗糙集方法挖掘类别关联规则的问题。在数据采掘中,当一个元素集与另一个元素集同时出现时,两个元素集之间就会产生关联。类关联规则集(CAR)是关联规则的子集,其中类被指定为其结果。本文从Apriori算法出发,提出了一种有效的挖掘最细类规则集的算法,其中支持度和置信度的计算是基于粗糙集理论的下近似基本集。我们所提出的方法已被证明是非常有效的,其中粗糙集的类关联发现方法比经典的关联方法简单得多。
2015-09-17 cs.AI cs.DB
Evident: a Development Methodology and a Knowledge Base Topology for Data Mining, Machine Learning and General Knowledge Management
Philips North America(飞利浦北美);Google LLC(谷歌有限责任公司)
用于知识发现、预测和管理的软件已经开发了30多年。然而,在使用现有的项目开发和工件管理方法时,仍然存在未解决的痛点。从历史上看,一直缺乏适用的方法。此外,已经应用的方法,如敏捷,有几个限制,包括科学的不可证伪性,降低了它们的适用性。提出了一种基于逻辑推理哲学的开发方法学Evident和一种知识库拓扑结构EKB。从概念上缓解了数据采掘、机器学习和一般知识管理中的许多痛点。Evident可以扩展到加速哲学探索,科学发现,教育以及全球知识共享和保留。EKB提供了一种将信息存储为知识的解决方案,知识是数据之上的粒度级别。还讨论了计算机历史、软件工程、数据库、传感器、哲学以及项目与组织和军事管理方面的相关主题。
2022-11-09 cs.AI cs.DB cs.LG
Crowd-Powered Data Mining
Tsinghua University(清华大学);Renmin University(中国人民大学);SFU(西蒙弗雷泽大学);Twitter(推特)
许多数据采掘任务不能完全由自动化过程来解决,如情感分析和图像分类。众包是一种有效的方式来利用人类的认知能力来处理这些机器难以完成的任务。由于公共众包平台,例如,亚马逊Mechanical Turk和Crowd- Flower,我们可以很容易地涉及数十万普通工人(即,人群)来解决这些机器困难的任务。在本教程中,我们将调查和综合广泛的现有研究群体动力数据采掘。首先对众包进行了概述,然后总结了众包数据采掘必须考虑的基本技术,包括质量控制、成本控制和延迟控制。接下来,我们将回顾群体驱动的数据采掘操作,包括分类,聚类,模式挖掘,使用群体的机器学习(包括深度学习,迁移学习和半监督学习)和知识发现。最后,我们提供了众包数据采掘的新挑战。
2018-10-19 cs.AI cs.DB
Tackling scalability issues in mining path patterns from knowledge graphs: a preliminary study
Université de Lorraine, CNRS, Inria, LORIA(洛林大学、法国国家科学研究中心、法国国家信息与自动化研究所、洛林计算机科学与应用研究实验室)
从知识图谱中挖掘出的特征被广泛应用于多种知识发现任务中,例如分类或事实检查。在这里,我们考虑一组给定的顶点,称为种子顶点,并专注于挖掘其相关的相邻顶点,路径,更一般地说,路径模式,涉及类的本体与知识图谱。由于现实世界的知识图谱的组合性质和不断增长的规模,挖掘这些模式的任务立即带来了可扩展性问题。在本文中,我们通过提出一种依赖于一组约束(例如,支持度或度阈值)和单调性属性。由于我们的动机来自现实世界的知识图谱的挖掘,我们说明了我们的方法与PGxLOD,生物医学知识图谱。
2020-08-07 cs.AI cs.DB
Data Mining to Measure and Improve the Success of Web Sites
对许多公司来说,电子商务的竞争力需要在网上取得成功。网站被用来建立公司的形象,推广和销售商品,并提供客户支持。网站的成功直接影响和反映了公司在电子市场上的成功。在这项研究中,我们提出了一种方法来提高网站的“成功”,基于开发的导航模式发现。特别是,我们提出了一种理论,在该理论中,成功的网站的用户的导航行为的基础上建模。然后,我们利用WUM,一个导航模式发现矿工,研究如何成功的网站是反映在用户的行为。通过WUM,我们衡量网站组件的成功,并获得网站应如何改进的具体指标。我们报告我们的第一个实验与在线目录,成功的,我们已经研究。我们的采矿分析显示出非常有希望的结果,在此基础上,该网站目前正在进行具体的改进。
2000-08-15 cs.DB cs.LG
Interestingness Measure for Mining Spatial Gene Expression Data using Association Rule
在空间基因表达数据库中寻找感兴趣的关联规则是知识发现的一个重要课题。所选择的支持度和置信度阈值的容许规则集可以容易地通过基于支持度和置信度的算法(诸如Apriori)来提取。然而,它们可能会产生大量的规则,其中许多是无趣的。关联规则挖掘(ARM)的挑战本质上是确定哪些规则是最有趣的。关联规则兴趣度的措施,用来帮助选择和排名关联规则模式。除了支持度和置信度之外,还有其他有趣性度量,包括一般性可靠性、特殊性、新颖性、可重复性、实用性和适用性。本文研究了兴趣测度熵和方差在空间基因表达数据关联模式发现中的应用。本文采用快速挖掘算法产生候选项集,并对布尔矩阵进行剪枝,减少了计算项集k-支持度的时间,只需扫描数据库一次,占用内存空间少。实验结果表明,以熵作为空间基因表达数据的兴趣度量,具有更多样、更有趣的规律。
2010-01-20 cs.DB q-bio.GN q-bio.QM
Event Stream-Based Process Discovery using Abstract Representations
Eindhoven University of Technology(埃因霍温理工大学)
流程发现源于流程挖掘领域,其目的是基于业务流程执行数据发现流程模型。大多数进程发现技术依赖于事件日志作为输入。事件日志是捕获业务流程执行的历史数据的静态源。在本文中,我们专注于过程发现依赖于业务流程执行事件的在线流。从事件流中学习过程模型既带来了挑战,也带来了机遇,即我们需要使用有限的内存和最好是恒定的时间来处理无限数量的数据。我们提出了一个通用的体系结构,允许采用几类现有的进程发现技术的事件流的上下文中。此外,我们提供了几个实例的架构,伴随着在过程挖掘工具包ProM(http://www.example.com)的实现。promtools.org使用这些实例,我们评估几个方面的流为基础的进程发现。评估表明,所提出的架构允许我们解除流程发现流域。
2017-04-25 cs.AI cs.DB cs.DS
Science User Scenarios for a Virtual Observatory Design Reference Mission: Science Requirements for Data Mining
新的大型天文数据库的知识发现潜力是巨大的。当这些与丰富的遗留数据档案结合使用时,科学发现的机会迅速增加。虚拟天文台(VO)框架将使透明和有效的访问,搜索,检索和可视化的数据在多个数据存储库,这通常是异构和分布式的。方面的数据挖掘,适用于各种科学用户的情况下,VO进行审查。虚拟观测站的发展应满足各种天文学研究群体的数据挖掘需求。通过举例的方式,两个用户的情况下,调用应用程序和跨目录和图像域的数据链接,以解决特定的天体物理学研究问题。这些说明了VO所需能力和力量的子集,因此它们代表了VO设计参考任务的潜在组成部分。
2000-08-19 astro-ph cs.DB cs.DL
Summarization Techniques for Pattern Collections in Data Mining
从数据中发现模式是数据采掘的一项重要任务。存在非常有效地从数据中找到多种模式的大集合的技术。模式的集合可以被视为数据的汇总。使用模式的一个主要困难是,很好地总结数据的模式集合通常非常大。在这篇论文中,我们描述了总结模式集合的方法,以使它们也更容易理解。更具体地说,我们专注于以下主题:1)质量价值简化。2)模式排序。3)模式链和反链。4)更改配置文件。5)反向模式发现。
2005-05-26 cs.AI cs.DB cs.DS