A Framework of Customer Review Analysis Using the Aspect-Based Opinion Mining Approach
Praxis Business School(普拉西斯商学院)
意见挖掘是计算的一个分支,它处理人们的意见、评价、态度和情感及其不同方面。近年来,这一领域吸引了大量的研究兴趣。在实际应用中通常需要基于方面的意见挖掘,因为它提供了关于实体和实体本身的不同方面的详细意见或情感,这些意见或情感通常是行动所需的。因此,方面提取和实体提取是基于方面的意见挖掘的两个核心任务。他的论文提出了一种基于方面的意见挖掘的框架,该框架基于迁移学习的概念。亚马逊网站上的真实客户评论。该模型在基于方面的意见挖掘中取得了令人满意的结果。
2022-12-20 cs.CL cs.LG
A Survey of Predictive Modelling under Imbalanced Distributions
INESC TEC(葡萄牙国家电气与计算机能源系统研发中心);Universidade do Porto(波尔图大学)
许多现实世界的数据采掘应用涉及使用具有目标变量的强不平衡分布的数据集来获得预测模型。通常,该目标变量的最不常见的值与对最终用户高度相关的事件(例如,欺诈检测、股票市场的异常回报、对灾难的预期等)相关联。此外,这些事件可能具有不同的成本和收益,当与它们中的一些在可用训练数据上的稀有性相关联时,这对预测建模技术产生了严重的问题。本文介绍了一个调查现有的技术来处理这些重要的应用程序的预测分析。虽然大多数现有的工作地址分类任务(名义上的目标变量),我们还描述了设计来处理类似的问题,在回归任务(数字目标变量)的方法。在本次调查中,我们讨论了不平衡分布所带来的主要挑战,描述了解决这些问题的主要方法,提出了这些方法的分类,并提到了预测建模中的一些相关问题。
2015-05-13 cs.LG
Numerical Association Rule Mining: A Systematic Literature Review
Tallinn University of Technology(塔林理工大学);University of Maribor(马里博尔大学)
本文通过系统性文献综述评估了68篇论文,全面分析了数值关联规则挖掘的方法、算法、数据集及研究现状,并提出了一种符合人类感知的新颖数值数据离散化度量方法。
2023-07-02 cs.DB cs.LG
Petroleum prices prediction using data mining techniques -- A Review
Dedan Kimathi University of Technology(德丹·基马蒂理工大学)
在过去20年中,肯尼亚对石油产品的需求激增。这主要是因为这种特殊商品用于该国经济的许多部门。汇率受到不断变化的价格的影响,这也影响到肯尼亚的工业商品产量。石油产品价格的任何变化都会对生产的其他物品的成本甚至经济的扩张产生重大影响。因此,准确的石油价格预测对于制定适合遏制燃料相关冲击的政策至关重要。数据采掘技术是用来发现数据中有价值模式的工具。石油价格预测中使用的数据采掘技术,包括人工神经网络(ANN)、支持向量机(SVM)和智能优化技术,如遗传算法(GA),已经变得越来越流行。这项研究提供了一个全面的审查现有的数据采掘技术,使石油价格预测。数据采掘技术分为回归模型、深度神经网络模型、模糊集和逻辑以及混合模型。这些模型是如何开发和模型的准确性提供了详细的讨论。
2022-11-20 cs.AI cs.LG
Data Mining in Transportation Networks with Graph Neural Networks: A Review and Outlook
Lyles School of Civil and Construction Engineering, Purdue University(普渡大学莱尔土木与建筑工程学院);Institute for AI Industry Research, Tsinghua University(清华大学人工智能产业研究院)
本文综述了图神经网络在交通网络数据挖掘中的应用,重点介绍了2023年以来在交通预测与运营领域的学术及工业新进展,并整理相关资源以促进跨学科交流与研究。
2025-01-28 cs.LG
Orthogonal Activation with Implicit Group-Aware Bias Learning for Class Imbalance
School of Computing(计算学院);Australian National University(澳大利亚国立大学)
本文提出OGAB激活函数,通过正交性和组感知偏置学习缓解深度学习中的类别不平衡问题,无需显式标签信息,提升特征区分性与类别分离性。
2025-12-23 cs.LG
A Review of Data Mining in Personalized Education: Current Trends and Future Prospects
Beihang University(北京航空航天大学);University of International Business and Economics(对外经济贸易大学)
本文综述数据挖掘在个性化教育中的应用,围绕教育推荐、认知诊断、知识追踪和学习分析构建分类体系、整理数据集并展望未来方向。
2024-02-27 cs.CY cs.LG
SHaSaM: Submodular Hard Sample Mining for Fair Facial Attribute Recognition
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
SHaSaM通过子模函数硬样本挖掘方法,有效提升面部属性识别的公平性,同时提高模型准确性。
2026-02-05 cs.CV cs.LG
A Survey and Taxonomy of Distributed Data Mining Research Studies: A Systematic Literature Review
Dian Nuswantoro University(迪安努斯万托罗大学)
内容:数据采掘(Data Mining,DM)方法已经在逐年发展,并且到今天为止,还存在DM技术的增强,其运行速度可以比传统方法快几倍,称为分布式数据采掘(Distributed Data Mining,DDM)。它实际上并不是数据处理中的一个新领域,但近年来这方面的研究受到了越来越多的关注。问题:关于DDM在高声誉期刊和会议上的出版物数量显着增加。这使得研究者很难对DDM有一个全面的了解,需要进一步的研究。解决方案:我们进行了系统的文献回顾,以映射以前在DDM领域的研究。我们的目标是通过识别DDM领域的差距以及热点领域本身来为新的研究提供动力。结果:通过对文献综述中提出的7个研究问题的回答,得出了一些结论。此外,本文还对DDM的研究领域进行了分类。最后,本文对2000年至2015年DDM的发展进行了系统的文献综述,以帮助未来的研究者对DDM的发展现状有一个全面的了解。
2020-09-14 cs.DC cs.LG
Overview of the VLSP 2023 -- ComOM Shared Task: A Data Challenge for Comparative Opinion Mining from Vietnamese Product Reviews
VNU University of Engineering and Technology(越南国家大学工程技术大学)
本文介绍VLSP 2023的ComOM共享任务,旨在推动越南语产品评论比较观点挖掘技术发展,构建了含120篇文档的标注数据集,要求模型提取比较五元组,以宏平均五元组F1值评估参赛模型。
2024-03-04 cs.CL cs.LG
Fast Imbalanced Classification of Healthcare Data with Missing Values
Geisinger Health System(盖辛格医疗系统)
在医学领域,数据特征往往包含缺失值。这可能会在预测建模中产生严重的偏差。典型的标准数据挖掘方法通常产生较差的性能度量。在本文中,我们提出了一种新的方法,同时分类大型数据集,并减少缺失值的影响。该方法是基于成本敏感的SVM和期望最大化填补缺失值的方法,它依赖于迭代回归分析的多级框架。我们比较了基于多级SVM的算法在具有不平衡类和缺失值的公共基准数据集以及健康应用中的真实数据上的分类结果,并表明我们的基于多级SVM的方法产生快速,更准确和鲁棒的分类结果。
2015-03-21 cs.LG stat.ML
A survey on learning from imbalanced data streams: taxonomy, challenges, empirical study, and reproducible experimental framework
Virginia Commonwealth University(弗吉尼亚联邦大学)
本文针对不平衡数据流分类缺乏统一评估基准的问题,提出可复现实验框架,在515个数据流上评测24种算法,并给出选型建议与未来方向。
2023-07-18 cs.LG
Argument Mining Driven Analysis of Peer-Reviews
Database Systems and Data Mining, LMU Munich(慕尼黑大学数据库系统与数据研究所);LMU Munich(慕尼黑大学)
同行评审是现代研究的核心过程,对于确保已发表作品的高质量和可靠性至关重要。与此同时,这是一个耗时的过程,对新兴领域的兴趣日益增加,往往会导致很高的审查工作量,特别是对这一领域的高级研究人员来说。如何应对这一问题是一个悬而未决的问题,在所有主要会议上都进行了生动的讨论。在这项工作中,我们提出了一种基于参数挖掘的方法,以帮助编辑,元评审员和评审员。我们证明了科学出版物领域的决策过程是由参数驱动的,自动参数识别在各种用例中都是有帮助的。我们的一个发现是,同行评审过程中使用的参数与其他领域的参数不同,这使得预训练模型的转移变得困难。因此,我们为社区提供了一个新的同行评审数据集,来自不同的计算机科学会议,并附有注释。在我们广泛的实证评估,我们表明,论证挖掘可以用来有效地提取最相关的部分,从评论,这是至关重要的出版决策。这个过程仍然是可解释的,因为提取的论点可以在评论中突出显示,而不会将它们与上下文分离。
2020-12-10 cs.AI cs.CL cs.CY
Subjectivity Classification using Machine Learning Techniques for Mining Feature-Opinion Pairs from Web Opinion Sources
Jamia Millia Islamia(贾米亚·米利亚伊斯兰大学)
由于Web 2.0的蓬勃发展,网络意见来源正在迅速涌现,其中包含对客户和制造商都有用的宝贵信息。最近,基于特征的意见挖掘技术正在获得动力,其中客户评论被自动处理,用于挖掘产品特征和用户对它们的意见。然而,客户评论可能包含固执己见和事实的句子。事实内容的提取通过防止噪声和不相关的提取来提高挖掘性能。本文提出了一种结合监督机器学习和基于规则的方法从主观评论句中挖掘可行的特征-意见对的方法。在所提出的方法的第一阶段,监督机器学习技术被应用于分类的主观和客观的句子从客户评论。在下一阶段,实施基于规则的方法,该方法应用文本的语言和语义分析,从第一阶段后保留的主观句子中挖掘可行的特征-意见对。所提出的方法的有效性,建立通过实验对不同的电子产品的客户评论。
2013-12-25 cs.CL cs.IR cs.LG
A review of heterogeneous data mining for brain disorders
University of Illinois at Chicago(伊利诺伊大学芝加哥分校);Worcester Polytechnic Institute(伍斯特理工学院)
随着神经影像学技术的快速发展,脑功能障碍识别的研究已成为数据采掘领域的一个新兴领域。脑疾病数据对数据采掘研究提出了许多独特的挑战。例如,神经成像实验产生的原始数据是张量表示的,具有高维、结构复杂和非线性可分性的典型特征。此外,可以从张量数据构建大脑连接网络,嵌入大脑区域之间的微妙相互作用。其他临床指标通常可以从不同角度反映疾病状态。预计在张量数据和脑网络数据中整合互补信息,并结合其他临床参数,将对研究疾病机制和为治疗干预提供信息具有潜在的变革性。许多研究工作都致力于这一领域。它们在基于张量的建模、子图模式挖掘、多视图特征分析等方面取得了巨大的成功。在本文中,我们回顾了一些最近的数据采掘方法,用于分析大脑疾病。
2015-08-05 cs.CE cs.DB cs.LG
Machine Learning-Based Heart Disease Diagnosis: A Systematic Literature Review
University of Oklahoma(俄克拉荷马大学)
心脏病是当今世界的重大挑战之一,也是全球许多死亡的主要原因之一。机器学习(ML)应用的最新进展表明,使用心电图(ECG)和患者数据,在早期阶段检测心脏病是可行的。然而,ECG和患者数据通常是不平衡的,这最终对传统的ML提出了无偏执行的挑战。多年来,许多研究人员和从业者已经提出了几种数据级和算法级解决方案。为了更广泛地了解现有文献,本研究采用系统性文献综述(SLR)方法,以揭示与心脏病预测中不平衡数据相关的挑战。在此之前,我们对2012年至2021年11月15日期间从知名期刊获得的451篇参考文献进行了荟萃分析。为了进行深入分析,考虑并研究了49篇参考文献,并考虑了以下因素:心脏病类型、算法、应用和解决方案。我们的SLR研究表明,目前的方法在处理不平衡数据时遇到了各种开放的问题,最终阻碍了它们的实用性和功能。
2021-12-13 cs.LG
Large Language Models Meet Graph Neural Networks: A Perspective of Graph Mining
School of Computer Science and Engineering(计算机科学与工程学院);University of Electronic Science and Technology of China(电子科技大学);th Research Institute of CETC(中国电子科技集团公司第五十四研究所)
本文综述了大型语言模型与图神经网络结合用于图挖掘的研究,提出GNN驱动LLM、LLM驱动GNN和GNN-LLM协同驱动三类分类法,并指出高效融合二者是未来方向。
2024-12-26 cs.LG
A Survey on Concept Drift in Process Mining
Pontifícia Universidade Católica do Paraná(巴拉那天主教大学);Instituto Federal do Paraná(巴拉那联邦学院)
过程挖掘(PM)中的概念漂移是一个挑战,因为经典方法假设过程处于稳定状态,即,事件共享同一进程版本。我们进行了系统的文献回顾,这些领域的交叉点,因此,我们回顾了流程挖掘中的概念漂移,并提出了一个分类的现有技术的漂移检测和在线流程挖掘不断变化的环境。现有的作品描绘,(i)PM仍然主要集中在离线分析,和(ii)的过程中的概念漂移技术的评估是繁琐的,由于缺乏共同的评估协议,数据集和指标。
2021-12-03 cs.DB cs.LG
Performance Evaluation of Machine Learning Classifiers in Sentiment Mining
Annamalai University(安纳马莱大学)
近年来,机器学习分类器的使用在解决文本分类中的各种问题方面具有重要价值。情感挖掘是一种文本分类方法,根据情感倾向(如积极或消极)对消息进行分类。本文扩展了评估各种分类器性能的思想,以显示其在在线产品评论情感挖掘中的有效性。产品评论来自亚马逊评论。为了评估分类器的性能,使用了各种评估方法,如随机抽样,线性抽样和自助抽样。结果表明,采用自举抽样方法的支持向量机在误分类率方面优于其他分类器和抽样方法。
2014-02-17 cs.CL cs.IR cs.LG
Mining patterns in syntax trees to automate code reviews of student solutions for programming exercises
本文提出机器学习方法ECHO,通过挖掘抽象语法树模式自动复用教育代码审查反馈,实验证明其能准确快速预测反馈注释,显著减少手动反馈工作量。
2024-04-26 cs.CY cs.LG cs.SE
MEBoost: Mixing Estimators with Boosting for Imbalanced Data Classification
United International University(联合国际大学)
类不平衡问题是机器学习和数据采掘领域中的一个具有挑战性的研究问题。几种现有的机器学习算法试图通过正确识别多数类样本而忽略少数类来最大化分类精度。然而,少数类实例的概念通常代表比多数类更高的兴趣。最近,一些成本敏感的方法,集成模型和抽样技术已被用于文献中,以分类不平衡的数据集。在本文中,我们提出了MEBoost,一个新的不平衡数据集的提升算法。MEBoost将两种不同的弱学习器与boosting混合在一起,以提高不平衡数据集的性能。MEBoost是现有技术(如SMOTEBoost,RUSBoost,Adaboost等)的替代方案。MEBoost的性能已在12个基准不平衡数据集上进行了评估,这些数据集采用了最先进的集成方法,如SMOTEBoost,RUSBoost,Easy Ensemble,EUSBoost,DataBoost。实验结果表明,MEBoost算法在处理不平衡数据集方面有明显的改进,是一种有效的、有前途的算法。Python版本的代码可以在这里找到:https://github.com/farshidrayhanuiu/
2018-01-13 cs.LG stat.ML
Modelling and Mining of Patient Pathways: A Scoping Review
Laboratório Nacional de Computação Científica(国家科学计算实验室);Centro Paula Souza(保拉·苏扎中心);Universidade Federal de Juiz de Fora(茹伊斯迪福拉联邦大学)
病人在卫生系统中就诊和进行的程序的顺序,也称为病人的路径或轨迹,可以揭示关于所采用的临床治疗和所提供的卫生服务的重要信息。电子健康数据可用性的增加使评估大量患者的路径成为可能。然而,在如何综合这些途径以及如何从数据中挖掘这些途径方面也出现了一些挑战,从而促进了一个新的研究领域。这篇评论的目的是调查这一新的研究领域,突出表示模型,挖掘技术,分析方法和案例研究的例子。
2022-06-04 cs.AI cs.CY cs.FL
Sentiment Analysis On Indian Indigenous Languages: A Review On Multilingual Opinion Mining
Dublin Business School(都柏林商学院)
智能手机使用的增加已经影响到互联网和社交媒体平台的使用。最常用的社交媒体平台是Twitter,Facebook,WhatsApp和Instagram。人们在网上分享他们的个人经历,评论,反馈。网络上的信息是非结构化的和巨大的。因此,在理解网络上可用数据的情绪方面有很大的研究范围。情感分析(SA)可以在网络上的评论、反馈、讨论上进行。已经有广泛的研究进行了SA在英语语言,但在网络上的数据也包含不同的其他语言,应加以分析。本文旨在分析,回顾和讨论的方法,算法,研究人员所面临的挑战,而开展的土著语言的SA。
2019-11-28 cs.CL cs.IR cs.LG
CUSBoost: Cluster-based Under-sampling with Boosting for Imbalanced Classification
United International University(联合国际大学)
类不平衡分类是数据采掘和机器学习中的一个具有挑战性的研究问题,因为大多数现实生活中的数据集往往是不平衡的。现有的学习算法通过正确分类多数类而最大化分类精度,但是错误分类少数类。然而,在现实生活中的应用程序中,少数类实例比多数类实例更感兴趣地表示概念。最近,一些技术的基础上的抽样方法(欠采样的多数类和过采样的少数类),成本敏感的学习方法,集成学习已被用于在文献中分类不平衡的数据集。在本文中,我们介绍了一种新的基于聚类的欠采样方法与升压(AdaBoost)算法,称为ADABoost,有效的不平衡分类。该算法提供了一种替代RUSBoost(随机欠采样与AdaBoost)和SMOTEBoost(合成少数过采样与AdaBoost)算法。我们使用基于集成学习的最先进的方法,如AdaBoost,RUSBoost,SMOTEBoost,在13个具有不同不平衡率的不平衡二进制和多类数据集上评估了RUSBoost算法的性能。实验结果表明,该算法是一种有效的处理高度不平衡数据集的方法。
2017-12-12 cs.LG stat.ML
Improving the Intra-class Long-tail in 3D Detection via Rare Example Mining
Waymo LLC(Waymo有限责任公司)
深度学习架构的持续改进使3D对象检测器的整体性能稳步提升,在某些任务和数据集上达到与人类相当的水平,其中整体性能主要由常见示例驱动。然而,即使是性能最好的模型,当涉及到不经常出现在训练数据中的罕见示例时,也会出现最天真的错误,例如具有不规则几何形状的车辆。长尾文献中的大多数研究都集中在每个类具有已知不平衡标签计数的类不平衡分类问题上,但它们并不直接适用于具有较大类内变化的问题中的类内长尾示例,例如3D目标检测,其中具有相同类标签的实例可以具有急剧变化的属性,例如形状和大小。其他作品提出,以减轻这个问题,使用主动学习的标准的不确定性,难度,或多样性。在这项研究中,我们确定了一个新的概念维度-稀有性-挖掘新的数据,以提高模型的长尾性能。我们发现,与困难相反,稀有是3D探测器以数据为中心的改进的关键,因为稀有是缺乏数据支持的结果,而困难与问题中的基本模糊性有关。我们提出了一个通用的和有效的方法来识别对象的稀有性的基础上密度估计的特征空间使用流模型,并提出了一个原则性的成本意识公式挖掘稀有对象的轨道,这提高了整体模型的性能,但更重要的是-显着提高了性能的稀有对象(30.97%)。
2022-10-15 cs.CV cs.LG
Beyond Opinion Mining: Summarizing Opinions of Customer Reviews
Google Research(谷歌研究院);Grammarly;Megagon Labs(Megagon实验室);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
在信息时代,客户评论对于做出购买决策至关重要。这样的评论可以被自动总结以向用户提供意见的概览。在本教程中,我们将介绍对研究人员和从业人员有用的意见摘要的各个方面。首先,我们将介绍任务和主要挑战。然后,我们将介绍现有的意见摘要解决方案,包括前神经和神经。我们将讨论如何在无监督、Few-Shot和监督机制下训练总结器。每种机制都源于不同的机器学习方法,例如自动编码、可控文本生成和变分推理。最后,我们将讨论资源和评估方法,并总结未来的发展方向。这三个小时的教程将提供一个全面的概述意见总结的主要进展。听众将拥有对研究和实际应用都有用的知识。
2022-06-03 cs.AI cs.CL cs.LG
Survey of Imbalanced Data Methodologies
Wells Fargo(富国银行)
不平衡数据集是金融业中经常发现和研究的问题。本文回顾和比较了几种常用的数据不平衡处理方法。然后,我们将欠采样/过采样方法应用于UCI和Keel数据集上的几种建模算法。性能进行了分析类不平衡的方法,建模算法和网格搜索标准的比较。
2021-04-06 cs.LG stat.ML
Handling Inter-class and Intra-class Imbalance in Class-imbalanced Learning
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);ByteDance(字节跳动);University of Virginia(弗吉尼亚大学);Jilin University(吉林大学);University of Technology Sydney(悉尼科技大学);Microsoft Research(微软研究院)
类不平衡是机器学习实践中常见的问题。典型的不平衡学习(IL)方法通过直观的类重排序或重新加权来平衡数据。然而,以前的研究表明,除了类不平衡之外,重叠、噪声和小析取等固有的数据难度因素也起着关键作用。为了处理它们,已经提出了许多解决方案(例如,噪声去除、边界采样、硬示例挖掘),但仍然局限于特定因素,不能推广到更广泛的场景,这提出了一个有趣的问题:如何以统一的方式处理类不可知的困难和类不平衡?为了回答这个问题,我们考虑类不平衡及其正交:类内不平衡,即,容易和困难样品上的不平衡分布。这样的分布自然反映了类不可知的内在数据困难的复杂影响,从而为在学习过程中识别和处理这些因素提供了一个新的统一视图。从这个角度来看,我们讨论了现有IL解决方案的优点和缺点,并进一步提出了新的平衡技术,更强大,更有效的IL。最后,我们将所有的解决方案归纳为一个通用的集成IL框架,即DuBE(双重平衡的Ensemble)。它具有显式和高效的类间\类内平衡以及使用标准化API轻松扩展的功能。大量的实验验证了DuBE的有效性。代码、示例和文档可在https://github.com/AnonAuthorAI/duplebalance和https://duplebalance.readthedocs.io上获得。
2022-11-23 cs.AI cs.LG
GMOTE: Gaussian based minority oversampling technique for imbalanced classification adapting tail probability of outliers
Hanyang University(汉阳大学)
不平衡数据的分类是当前数据采掘领域中的一个常见问题。不平衡的数据会严重影响标准分类模型的性能。数据级方法主要采用过采样方法来解决这一问题,如合成少数过采样技术(SMOTE)。然而,由于诸如SMOTE的方法通过线性插值生成实例,因此合成数据空间可能看起来像多边形。此外,过采样方法产生少数类的离群值。在本文中,我们提出了基于高斯的少数过采样技术(GMOTE)的统计角度不平衡数据集。为了避免线性插值和考虑离群点,该方法通过高斯混合模型生成实例。受基于聚类的多变量高斯离群值(CMGOS)的启发,我们提出通过马氏距离来调整实例的尾概率以考虑局部离群值。实验是在一组有代表性的基准数据集上进行的。GMOTE的性能与其他方法,如SMOTE进行了比较。当GMOTE与分类回归树(CART)或支持向量机(SVM)相结合时,它表现出更好的准确性和F1得分。实验结果表明,鲁棒性能。
2021-05-09 cs.LG stat.ML
Stop Oversampling for Class Imbalance Learning: A Critical Review
Mutah University(穆塔大学);Eötvös Loránd University(厄特沃什·罗兰大学);King Abdulaziz City for Science and Technology(阿卜杜勒阿齐兹国王科技城)
在过去的二十年里,过采样被用来克服从不平衡数据集学习的挑战。文献中已经提供了许多解决这一挑战的方法。另一方面,过度采样是一个问题。也就是说,在虚拟数据上训练的模型在遇到现实问题时可能会失败。过采样方法的根本困难在于,给定真实的人口,合成的样本可能并不真正属于少数群体。因此,在这些样本上训练分类器,同时假装它们代表少数群体,可能会导致模型在现实世界中使用时的错误预测。本文分析了大量的过采样方法,设计了一种新的过采样评价系统,该系统基于隐藏大量的多数样本,并将其与过采样过程产生的样本进行比较。基于我们的评估系统,我们根据它们错误生成的示例对所有这些方法进行排名以进行比较。我们使用70多种过采样方法和三个不平衡的真实世界数据集进行的实验表明,所有研究过的过采样方法都生成了最有可能成为多数的少数样本。鉴于现有的数据和方法,我们认为,过采样在其目前的形式和方法是不可靠的学习类不平衡的数据,并应避免在现实世界中的应用。
2022-06-08 cs.AI cs.LG
Context-Driven Data Mining through Bias Removal and Data Incompleteness Mitigation
College of Science, George Mason University(乔治梅森大学科学学院)
数据采掘工作的结果主要由数据质量驱动。在这些部署过程中,严重的问题仍然没有得到解决,例如:数据汇集不明确,数据不平衡,数据中隐藏的偏见,缺乏领域信息,以及数据不完整。本文的前提是,背景可以帮助缓解这些问题。在传统的数据科学生命周期中,不考虑上下文。本文的主要贡献是上下文驱动的数据科学模型(C-DSL),它是为了应对这些挑战而开发的。两个案例研究(使用体育赛事的数据集)开发测试C-DSL。使用常见的数据采掘指标,如:决定系数(R2值)和混淆矩阵的两个案例研究的结果进行评估。本文提出的工作旨在重新定义生命周期,并对其结果进行切实的改进。
2019-10-19 cs.LG cs.SI stat.ML
Data Mining with Big Data in Intrusion Detection Systems: A Systematic Literature Review
The University of Western Ontario(西安大略大学);University of Sharjah(沙迦大学)
云计算已经成为复杂、高性能和可扩展计算的强大和不可或缺的技术。云技术部署的指数级扩展已经从各种应用程序、资源和平台中产生了大量数据。反过来,数据创建的快速速度和数量已经开始对数据管理和安全性构成重大挑战。因此,在大数据环境中设计和部署入侵检测系统(IDS)已成为一个重要的话题。在本文中,我们对2013 - 2018年期间基于IDS的解决方案中使用的数据采掘技术(DMT)进行了系统的文献综述(SLR)。我们采用了基于标准的,有目的的抽样确定32篇文章,这构成了本调查的主要来源。在仔细研究了这些文章之后,我们确定了在IDS环境中部署的17个单独的DMT。本文还介绍了当前研究的各种工作的优点和缺点,这些工作实现了DMT和分布式流框架(DSF),以检测和/或防止大数据环境中的恶意攻击。
2020-05-23 cs.AI cs.CR cs.LG
Are Top School Students More Critical of Their Professors? Mining Comments on RateMyProfessor.com
University of Rochester(罗切斯特大学)
RateMyProfessor.com上的学生评论和意见反映了学生真实的学习经历。这些信息提供了一个大规模的数据源,以检查教师的教学质量。在本文中,我们对这些评论进行了深入的分析。首先,我们将数据划分为不同的比较组。接下来,我们执行探索性数据分析以深入研究数据。此外,我们采用潜在狄利克雷分配和情感分析来提取主题和理解与评论相关的情感。我们发现了关于大学生和教授的特征的有趣见解。我们的研究证明,学生的评论和意见包含了重要的信息,可以作为课程和大学入学的重要参考。
2021-01-23 cs.IR cs.LG
Mining User Behaviour from Smartphone data: a literature review
Technical University of Denmark(丹麦技术大学)
为了研究用户的旅行行为和从出发地到目的地的旅行时间,研究人员采用了旅行调查。尽管该领域对潜力达成了共识,但经过十多年的研究和实地实验,基于智能手机的旅行调查仍然没有大规模开展。在这里,计算机智能算法扮演了传统旅行调查中操作员的角色;由于我们根据数据对每个算法进行训练,因此性能取决于数据质量,因此取决于地面真实性。不准确的验证会产生负面影响:标签,算法训练,旅行日记精度,因此数据验证,在一个非常关键的循环中。有趣的是,即使对于机器学习方法来说,边界也被证明是一个负担。为了支持从业者的最佳投资决策,我们揭示了他们在评估他们需要什么和他们得到什么时应该考虑的驱动因素。本文重点介绍和研究了基础研究的关键方面,并提供了一些建议:(i)从设备的角度来看,主要的物理限制;(ii)从应用的角度来看,部署自动生成旅行日记的方法框架;(iii)从地面真相的角度来看,用户交互,方法和数据之间的关系。
2020-02-03 cs.LG stat.ML
Hybrid Ensemble optimized algorithm based on Genetic Programming for imbalanced data classification
Islamic Azad University(伊斯兰阿扎德大学)
当前数据采掘领域最重要的讨论之一是对不平衡数据进行分类。近年来,提出了几种方法,如算法级(内部)方法,数据级(外部)技术和成本敏感的方法。尽管人们对不平衡数据分类进行了广泛的研究,但仍存在一些未解决的问题,如不考虑样本对平衡的重要性,确定合适的分类器数量,以及在分类器组合中没有对分类器进行优化。本文的目的是提高集成方法在训练数据集的采样效率,特别是在少数类中,并确定比现有方法更好的用于组合分类器的基本分类器。提出了一种基于遗传编程(GP)的混合集成算法,用于两类不平衡数据分类。在这项研究中,使用UCI机器学习存储库的历史数据来评估不平衡数据集中的少数类。我们所提出的算法的性能评估Rapid-Miner工作室V.7.5。实验结果表明,该方法在指定数据集上的性能在训练集大小上分别比其他维度的少数类预测准确率高出40%和50%。
2021-06-02 cs.LG cs.NE
A review on data fusion in multimodal learning analytics and educational data mining
Pontifical Catholic University of Ecuador(厄瓜多尔天主教大学);Madrid Open University(马德里开放大学);DaSCI Institute, University of Cordoba(科尔多瓦大学 DaSCI 研究所)
本文综述了多模态学习分析与教育数据挖掘中数据融合的应用、方法及挑战。
2025-11-25 cs.CY cs.LG
A Survey on Class Imbalance in Federated Learning
Northeastern University(东北大学);The University of Melbourne(墨尔本大学);RMIT University(皇家墨尔本理工大学)
允许网络中的多个客户端设备在不直接暴露客户端数据的情况下联合训练机器学习模型的联邦学习由于其隐私保护的性质而成为新兴的分布式学习技术。然而,已经发现,使用联邦学习训练的模型通常比在标准集中式学习模式中训练的模型具有更差的性能,特别是当训练数据不平衡时。在联邦学习的上下文中,数据不平衡可能在一个客户端设备本地发生,也可能在多个设备之间全局发生。不同类型的数据不平衡的复杂性给联邦学习技术的发展带来了挑战,特别是考虑到缓解数据不平衡问题和保护数据隐私的需求。因此,在文献中,已经进行了许多尝试来处理联邦学习中的类不平衡。在本文中,我们提出了一个详细的审查最近的进展,沿着这条线。我们首先介绍了联邦学习中的各种类型的类不平衡,之后我们回顾了现有的方法,用于估计类不平衡的程度,而不需要知道实际数据,以保护数据隐私。之后,我们讨论了现有的方法来处理类不平衡的FL,这些方法的优点和缺点进行了讨论。我们还总结了类不平衡任务的常见评估指标,并指出潜在的未来发展方向。
2023-03-21 cs.AI cs.LG
A Systematic Literature Review about Idea Mining: The Use of Machine-driven Analytics to Generate Ideas
Stockholm University(斯德哥尔摩大学)
创意产生是创新的核心活动。数字数据源是创新的来源,如专利、出版物、社交媒体、网站等,正以前所未有的速度增长手动生成想法是耗时的,并且受到所涉及的个人的主观性的影响。因此,使用机器驱动的数据分析技术来分析数据以产生想法,并通过服务用户来支持想法的产生是有用的。本研究的目的是研究最先进的机器驱动分析的想法生成和数据源,因此本研究的结果通常将作为选择技术和数据源的指导方针。进行了系统的文献综述,以识别来自IEEE、Scopus、Web of Science和Google Scholar的相关学术文献。我们选择了71篇文章,并对它们进行了主题分析。本研究的结果表明,通过机器驱动分析的想法生成应用文本挖掘,信息检索(IR),人工智能(AI),深度学习,机器学习,统计技术,自然语言处理(NLP),基于NLP的形态分析,网络分析和文献计量学来支持想法生成。结果包括通过机器驱动的想法分析产生想法的技术和程序列表。此外,在想法生成中使用的表征和算法进行了总结。今后,可以探索旨在产生想法的工具。
2022-01-30 cs.CL cs.IR cs.LG
A review of ensemble learning and data augmentation models for class imbalanced problems: combination, implementation and evaluation
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校);University of New South Wales(新南威尔士大学);Pingala Institute of Artificial Intelligence(平加拉人工智能研究所)
本文评估了9种数据增强与9种集成学习方法在类别不平衡基准问题上的组合效果,发现传统方法(如SMOTE和ROS)结合集成学习能显著提升分类性能且计算成本低于GANs。
2023-11-27 cs.AI cs.LG stat.ML
From SMOTE to Mixup for Deep Imbalanced Classification
National Taiwan University(国立台湾大学)
本文揭示 SMOTE 在深度不平衡学习中的局限,通过软标签将其与 Mixup 统一,并提出间隔感知 Mixup,显式形成多数类与少数类间的不均匀间隔,取得最先进性能。
2023-11-03 cs.AI cs.LG
Graph Neural Network-based Spectral Filtering Mechanism for Imbalance Classification in Network Digital Twin
JNU(京畿大学)
针对5G核心网数字孪生中故障类别偏斜导致的图分类不平衡问题,提出CF-GNN,通过面向类别的特征值与特征向量频谱滤波提升少数类判别能力。
2025-05-15 cs.LG cs.NI
Weakly Supervised Attention Networks for Fine-Grained Opinion Mining and Public Health
Columbia University(哥伦比亚大学)
在许多评论分类应用中,评论的细粒度分析是期望的,因为不同的段(例如,审查的重点可以是所涉实体的不同方面。然而,训练用于片段级分类的监督模型需要片段标签,这可能比查看标签更难或更昂贵。在本文中,我们采用多实例学习(MIL),并且仅使用弱监督,每次评论都使用单个标签。首先,我们表明,当使用不适当的MIL聚合功能,然后基于MIL的网络优于简单的基线。其次,我们提出了一个新的聚合函数的基础上的sigmoid注意力机制,并表明我们提出的模型优于最先进的模型段级的情感分类(高达9.8%,在F1)。最后,我们强调了细粒度预测在一个重要的公共卫生应用中的重要性:寻找食源性疾病的可操作报告。我们表明,与以前的模型相比,我们的模型实现了48.6%的高召回率,从而增加了识别以前未知的食源性疫情的机会。
2019-09-30 cs.CL cs.IR cs.LG
GAT-COBO: Cost-Sensitive Graph Neural Network for Telecom Fraud Detection
National Digital Switching System Engineering and Technological Research Center(国家数字交换系统工程技术研究中心);University of Toronto(多伦多大学);Fudan University(复旦大学)
本文提出GAT-COBO模型,通过结合图注意力网络和成本敏感提升方法解决电信欺诈检测中的图不平衡问题,实验证明其优于现有方法并缓解了过平滑现象。
2023-03-29 cs.AI cs.LG
CONDA-PM -- A Systematic Review and Framework for Concept Drift Analysis in Process Mining
Institute for Databases and Information Systems, Ulm University(乌尔姆大学数据库与信息系统研究所);Faculty of Computers and Information, Mansoura University(曼苏拉大学计算机与信息学院);Faculty of Media Engineering and Technology, German University in Cairo(开罗德国大学媒体工程与技术学院)
业务流程随着时间的推移而发展,以适应不断变化的业务环境。这需要持续监控业务流程,以了解它们是否符合预期设计或偏离预期设计。当业务流程在分析过程中发生变化时,这种情况被称为概念漂移。它的分析涉及研究业务流程如何变化,检测和定位变化并研究后者的影响。概念漂移分析是至关重要的,使早期检测和管理的变化,也就是说,是否促进变化,成为一个改进的过程的一部分,或拒绝变化,并作出决定,以减轻其影响。尽管它的重要性,目前还没有一个全面的框架来分析概念漂移类型,受影响的过程的角度来看,和粒度级别的业务流程。本文提出了流程挖掘中的概念漂移分析(CONDA-PM)框架,描述了概念漂移分析方法的阶段和要求。CONDA-PM源自对分析概念漂移的当前方法的系统性文献综述(SLR)。我们将CONDA-PM框架应用于当前的概念漂移分析方法,并评估其成熟度。应用CONDA-PM框架突出了需要研究以补充现有努力的领域。
2020-09-08 cs.AI cs.LG cs.SE
Sentiment analysis and opinion mining on E-commerce site
本文针对电子商务场景下的情感极性分类问题,提出一种广泛的情感对立分类技术,并同时开展句子级和评论级分类实验,为后续情感分析研究提供方向。
2023-07-04 cs.CL cs.LG
Recommender systems and reinforcement learning for human-building interaction and context-aware support: A text mining-driven review of scientific literature
National University of Singapore(新加坡国立大学);Future Cities Lab Global(未来城市实验室全球中心);Singapore-ETH Centre(新加坡-ETH中心)
该综述利用文本挖掘和 NLP 分析 ScienceDirect 的 27,595 篇文献,梳理推荐系统与强化学习在人-建筑交互、情境感知支持及建筑节能中的应用、潜力与局限。
2025-01-03 cs.LG cs.SY eess.SY
Domain-Aware Contrastive Knowledge Transfer for Multi-domain Imbalanced Data
UIC(伊利诺伊大学芝加哥分校);Amazon Alexa AI(亚马逊Alexa人工智能部门)
在许多现实世界的机器学习应用中,样本属于一组域,对于产品评论,每个评论属于一个产品类别。本文研究了多领域不平衡学习问题,即类与领域之间存在不平衡的情况。在MIL环境中,不同的领域表现出不同的模式,并且在领域之间存在不同程度的相似性和差异,这为迁移学习带来了机遇和挑战,特别是当面临有限或不足的训练数据时。提出了一种新的领域感知的对比知识转移方法DCMI(Domain-aware Contrast Knowledge Transfer),该方法(1)识别共享领域知识,以鼓励相似领域之间的正转移(特别是从头域到尾域);(2)隔离特定领域知识,以最小化来自不相似领域的负转移。我们在三个不同的数据集上评估了DCMI的性能,在不同的MIL场景中显示出显着的改进。
2022-04-05 cs.AI cs.LG cs.NE
Concept Drift Adaptation in Text Stream Mining Settings: A Systematic Review
Instituto Federal de Santa Catarina(圣卡塔琳娜联邦教育、科学和技术学院);Pontifícia Universidade Católica do Paraná (PUCPR)(巴拉那天主教大学);Instituto Federal de São Paulo(圣保罗联邦教育、科学和技术学院);Universidade de Campinas(坎皮纳斯大学);École de Technologie Supérieure, Université du Québec(魁北克大学高等技术学院);Universidade Estadual de Ponta Grossa(庞塔格罗萨州立大学)
本文对2018-2024年8月48篇论文进行系统综述,分析文本流挖掘场景中概念漂移适应的漂移类别、检测类型、模型更新机制等,还讨论漂移可视化与模拟,指出开放挑战与未来方向。
2024-11-25 cs.CL cs.IR cs.LG
Sentiment Analysis on Customer Responses
University of Southern California(南加州大学);Caltech(加州理工学院)
情感分析是计算机科学中发展最快的研究领域之一,这使得跟踪该领域中的所有活动变得具有挑战性。我们提出了一个客户对产品的反馈评论,我们利用意见挖掘,文本挖掘和情感,这已经影响了周围的世界,改变了他们对特定产品的看法。本研究中使用的数据是从Amazon.com收集的在线产品评论。我们对检索到的评论进行了比较情感分析。这篇研究论文为您提供了对智能手机的各种智能手机意见的情感分析,将其分为积极,消极和中性行为。
2020-07-05 cs.CL cs.IR cs.LG
Modality-Balancing Preference Optimization of Large Multimodal Models by Adversarial Negative Mining
University of Maryland, College Park(马里兰大学学院 park)
提出模态平衡偏好优化(MBPO)框架,通过对抗负挖掘和在线验证奖励结合GRPO,解决大型多模态模型的模态不平衡问题,提升视觉-语言任务性能并减少幻觉。
2025-10-08 cs.AI cs.CL cs.CV
Interpretable and Explainable Machine Learning Methods for Predictive Process Monitoring: A Systematic Literature Review
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心);Saarland University(萨尔兰大学)
本文通过系统文献综述,探讨预测性流程挖掘中机器学习模型的可解释性与可解释性,区分内在可解释模型与事后解释技术,并总结趋势、挑战与未来方向,以促进更可信的智能系统开发。
2023-12-29 cs.AI cs.LG stat.ML