A Brief Survey of Text Mining: Classification, Clustering and Extraction Techniques
University of Georgia（佐治亚大学）
每天生成的文本数量正在急剧增加。这些大量的非结构化文本不能简单地被计算机处理和感知。因此，需要高效和有效的技术和算法来发现有用的模式。文本挖掘是从文本中提取有意义信息的任务，近年来受到了广泛的关注。在本文中，我们描述了几个最基本的文本挖掘任务和技术，包括文本预处理，分类和聚类。此外，我们简要介绍了文本挖掘在生物医学和医疗保健领域。
2017-07-28 cs.AI cs.CL cs.IR
An Improved Image Mining Technique For Brain Tumour Classification Using Efficient Classifier
K. S. Rangasamy College of Technology（K.S.拉加斯瓦米技术学院）；Muthayammal Engineering College（穆塔亚马尔工程学院）
提出了一种改进的基于剪枝关联规则和MARI算法的脑肿瘤分类图像挖掘技术。该方法利用关联规则挖掘技术将CT扫描脑图像分为正常、良性和恶性三类。它结合了从图像中提取的低级特征和专家的高级知识。所开发的算法可以帮助医生进行有效的分类，每个图像多个关键字，以提高准确性。在脑图像预诊断数据库上的实验结果表明，该方法的灵敏度和准确度分别为96%和93%。
2010-01-12 cs.CV cs.IR
Text Classification using the Concept of Association Rule of Data Mining
Stamford University Bangladesh（孟加拉国斯坦福德大学）；International Islamic University Chittagong（吉大港国际伊斯兰大学）；Bangladesh University of Engineering & Technology（孟加拉工程技术大学）
随着在线文本数量的增加，对文本分类以辅助文本分析和管理的需求也在增加。文本是廉价的，但信息，以知道文本属于什么类别的形式，是昂贵的。文本的自动分类可以以低成本提供这些信息，但是分类器本身必须通过昂贵的人工努力来构建，或者从本身已经手动分类的文本中进行训练。本文将讨论利用数据采掘中的关联规则概念对文本进行分类的过程。关联规则挖掘技术已被用于从预先分类的文本文档中提取特征集。朴素贝叶斯分类器，然后使用衍生功能的最终分类。
2010-09-23 cs.DB cs.IR cs.LG
Text Classification using Data Mining
文本分类是将文档根据其内容分为预定义类别的过程。它是将自然语言文本自动分配到预定义的类别。文本分类是文本检索系统和文本理解系统的主要要求，文本检索系统根据用户查询检索文本，文本理解系统以某种方式转换文本，例如生成摘要，回答问题或提取数据。现有的用于文本自动分类的监督学习算法需要足够的文档才能准确地学习。本文提出了一种新的文本分类算法，使用数据采掘，需要更少的文件进行训练。而不是使用词，词的关系，即从这些词的关联规则是用来从预先分类的文本文档中获得的特征集。朴素贝叶斯分类器的概念，然后使用派生的功能，最后只有一个单一的概念，遗传算法已被添加到最终的分类。一个系统的基础上所提出的算法已经实施和测试。实验结果表明，该系统是一个成功的文本分类器。
2010-09-25 cs.DB cs.IR
Novel text categorization by amalgamation of augmented k-nearest neighborhood classification and k-medoids clustering
文本分类的机器学习是文档编目、新闻过滤、文档导向和例证的基础。在文本挖掘领域中，有效的特征选择对于提高学习任务的准确性和有效性具有重要意义。传统的惰性文本分类器k-最近邻（kNN）在计算训练集和测试集中所有对象之间的相似度时存在一个主要缺陷，导致算法的计算复杂性增大，内存消耗巨大。为了从数据挖掘从业者的角度弥补这些不足，本文提出了一种新的kNN（AugmentedkNN，AkNN）和k-Medoids（kMdd）聚类的融合技术，该技术通过对初始训练集进行属性特征选择来降低高维数，该方法还检测并排除初始训练集中的高飞行器样本，并重构一个压缩的训练集。kMdd聚类算法为每个类别生成聚类中心（作为内部对象），并使用质心重构收缩的训练集。该技术与AkNN分类器合并，AkNN分类器预先安排了文本挖掘相似性度量。最后，根据每个对象对测试集中对象的附属性，为新训练集中的每个对象分配重要权值和等级。在UCI标准文本挖掘数据集Reuters-21578上进行的实验表明，该方法在聚类和分类方面都有很好的效果，并与传统的kNN分类器进行了比较。
2013-12-09 cs.IR
Architecture of Text Mining Application in Analyzing Public Sentiments of West Java Governor Election using Naive Bayes Classification
Amikom Yogyakarta University（阿米孔日惹大学）；Gunadarma University（古纳达玛大学）
西爪哇省省长的选举是一个吸引公众注意力的事件，社交媒体用户也不例外。公众对未来地区领导人的看法有助于预测选民的可当选性和倾向。意见挖掘过程可以使用的数据可以从Twitter获得。由于数据是非常多样的形式和非常非结构化的，它必须使用数据预处理技术进行管理和不知情的半结构化数据。这种半结构化的信息之后是分类阶段，将意见分类为消极或积极的意见。研究方法论采用文献研究，研究将检查以前对类似主题的研究。本研究的目的是要找出适当的架构，将其发展成twitter意见探勘的应用，以了解西爪哇省省长选举的民意。本文的研究结果表明，Twitter意见挖掘是文本挖掘的一部分，Twitter中的意见要想被分类，首先要经过文本预处理阶段。twitter数据所需的预处理步骤是清理，大小写折叠，POS标记和词干分析。由此产生的文本挖掘架构是一个架构，可用于不同主题的文本挖掘研究。
2018-09-20 cs.CL cs.CY cs.IR
Web Content Classification: A Survey
随着网络信息量的日益增加，对这些信息进行组织是一种必要的要求。数据采掘的过程是从数据集中提取信息，并将其转换为可理解的结构以供进一步使用。网页内容的分类对于Web信息检索中的许多任务是必不可少的，例如维护Web目录和集中爬行。与传统的文本分类相比，Web内容的不受控制的性质类型对网页分类提出了额外的挑战，但是超文本的互连性质也提供了可以帮助该过程的特征。本文对Web分类进行了详细的讨论，探讨了Web分类在数据采掘领域中的重要性。
2014-05-03 cs.IR
A Fuzzy Similarity Based Concept Mining Model for Text Classification
BIT, Mesra（梅斯拉理工学院（BIT, Mesra））
文本分类是一个具有挑战性的热点领域，在文本分类应用中具有重要意义。在这一领域已经做了大量的研究工作，但有必要通过使用监督学习范式和不同的分类算法提取的概念或特征的文本文档的集合到互斥的类别进行分类。本文提出了一种新的基于模糊相似度的概念挖掘模型（FSCMM），通过在句子、文档和集成语料库三个层次上对文本文档进行训练和准备，并在每个层次上进行特征约简和歧义消除，将文本文档分类到预定义的类别组（CG）中，以提高系统的性能。模糊特征类别相似度分析器（FFCSA）用于分析集成语料库特征向量（ICFV）的每个提取的特征与相应的类别或类。该模型采用支持向量机分类器（SVMC）对训练数据进行正确分类。例如，+ 1和-1，从而产生准确和正确的结果。该模型工作效率高，性能好，计算精度高.
2012-04-10 cs.IR cs.LG
Subjectivity Classification using Machine Learning Techniques for Mining Feature-Opinion Pairs from Web Opinion Sources
Jamia Millia Islamia（贾米亚·米利亚伊斯兰大学）
由于Web 2.0的蓬勃发展，网络意见来源正在迅速涌现，其中包含对客户和制造商都有用的宝贵信息。最近，基于特征的意见挖掘技术正在获得动力，其中客户评论被自动处理，用于挖掘产品特征和用户对它们的意见。然而，客户评论可能包含固执己见和事实的句子。事实内容的提取通过防止噪声和不相关的提取来提高挖掘性能。本文提出了一种结合监督机器学习和基于规则的方法从主观评论句中挖掘可行的特征-意见对的方法。在所提出的方法的第一阶段，监督机器学习技术被应用于分类的主观和客观的句子从客户评论。在下一阶段，实施基于规则的方法，该方法应用文本的语言和语义分析，从第一阶段后保留的主观句子中挖掘可行的特征-意见对。所提出的方法的有效性，建立通过实验对不同的电子产品的客户评论。
2013-12-25 cs.CL cs.IR cs.LG
NGAME: Negative Mining-aware Mini-batching for Extreme Classification
IIT Kanpur（印度理工学院坎普尔分校）；IIT Delhi（印度理工学院德里分校）；UT Austin（德克萨斯大学奥斯汀分校）；Microsoft Research（微软研究院）；Microsoft（微软公司）
极端分类（XC）试图从一个非常大的标签集中用最相关的标签子集来标记数据点。使用数据点和标签的密集、学习表示执行深度XC吸引了很多关注，因为它比使用稀疏、手工制作的特征的早期XC方法更优越。负面挖掘技术已经成为所有深度XC方法的关键组成部分，使它们能够扩展到数百万个标签。然而，尽管最近取得了进展，但使用大型编码器架构（如Transformers）训练深度XC模型仍然具有挑战性。本文指出，流行的负面挖掘技术的内存开销往往迫使小批量保持较小的规模，并减慢训练速度。作为回应，本文介绍了NGAME，一个轻量级的小批量创建技术，提供可证明准确的批内阴性样本。这允许使用更大的小批量进行训练，与现有的负采样技术相比，可以提供更快的收敛速度和更高的精度。NGAME被发现比最先进的方法在一系列基准数据集上的极端分类准确率高出16%，并且在响应用户网页访问以显示个性化广告时检索搜索引擎查询时准确率高出3%。在一个流行的搜索引擎上进行的实时A/B测试中，NGAME的点击率提高了23%。
2022-07-10 cs.IR cs.LG
Investigating Classification Techniques with Feature Selection For Intention Mining From Twitter Feed
De Montfort University（德蒙福特大学）
在过去的十年中，社交网络成为最流行的通信和交互媒介。例如，微型博客服务Twitter拥有2亿多注册用户，每天交换6 500多万条帖子。用户通过这些推文表达他们的想法，想法，甚至他们的意图。大多数推文都是非正式的，而且经常使用俚语，其中包含拼写错误和缩写词。本文研究了基于文本挖掘技术从Twitter提要中提取用户意图的特征选择问题。它首先介绍了我们用来从提取的Twitter提要构建自己的数据集的方法。在此之后，我们提出了两种技术的特征选择，然后分类。在第一种技术中，我们使用信息增益作为一个阶段的特征选择，其次是监督分类算法。在第二种技术中，我们使用了一种混合的方法，基于前向特征选择算法，其中两个特征选择技术采用其次是分类算法。我们研究这两种技术与四个分类算法。我们使用自己的数据集进行评估，并严格审查结果。
2020-01-22 cs.AI cs.IR cs.LG
Scientific Data Mining in Astronomy
我们描述了数据挖掘算法在天文学研究问题中的应用。我们认为，数据挖掘一直是天文学研究的基础，因为数据挖掘是基于证据的发现，包括分类，聚类和新颖性发现的基础。这些算法代表了在大型数据库中发现的一套主要计算工具，这在数据密集型天文学时代将变得越来越重要。回顾了天文学数据挖掘的历史实例，然后讨论了预计在未来十年中最大的数据生产项目之一：大型综合巡天望远镜（LSST）。为了促进天文学中数据驱动的发现，我们设想了一种新的天文学和天体物理学面向数据的研究范式-天体信息学。天文信息学被描述为现代数据密集型天文学的一种研究方法和教育必要性。大型时域巡天（如LSST）的一个重要应用领域是实时天空事件（包括移动物体、光度可变物体和瞬变现象）的快速识别、表征和分类。我们描述了一个可能的实现的分类代理这样的事件，它结合了几个天体信息学技术：用户注释，语义标记，元数据标记，异构数据集成，分布式数据挖掘。这些类型的合作分类和发现的方法在其他科学学科的例子。
2009-11-03 astro-ph.IM cs.DB cs.IR
Machine learning approach for text and document mining
Institute of technology Gopeshwar（戈佩什瓦尔技术学院）；Bansathali University（班萨塔利大学）；University of Oviedo（奥维耶多大学）；Siemens Information Systems Limited（西门子信息系统有限公司）
文本分类（TC），也称为文本分类，是将一组文本文档自动分类为预定义集合中的不同类别的任务。如果一个文档恰好属于其中一个类别，则它是一个单标签分类任务;否则，它是一个多标签分类任务。TC使用来自信息检索（IR）和机器学习（ML）的几种工具，并且在过去几年中受到学术界研究人员和行业开发人员的广泛关注。在本文中，我们首先使用基于KNN的机器学习方法对文档进行分类，然后返回最相关的文档。
2014-06-06 cs.IR cs.LG
Scalable Text Mining with Sparse Generative Models
University of Waikato（怀卡托大学）
信息时代带来了大量的数据。其中大部分是以文本形式出现的，人类无法逾越，计算机无法理解。文本挖掘是一个不断扩展的研究领域，旨在利用包含在大量文档集合中的信息。基于机器学习的常规数据采掘方法面临着文本数据规模的挑战，需要可扩展的文本挖掘方法。本文提出了一种可伸缩文本挖掘的解决方案：结合稀疏计算的生成模型。一个统一的形式化生成文本模型的定义，汇集了研究传统，使用正式等效的模型，但忽略了平行的发展。该框架允许使用在不同的处理任务（如检索和分类）中开发的方法，从而在不同的文本挖掘任务中产生有效的解决方案。提出了一种基于倒排索引的概率模型稀疏计算方法。这降低了根据稀疏性的常见文本挖掘操作的计算复杂性，产生具有现代搜索引擎的可扩展性的概率模型。建议的组合提供稀疏生成模型：文本挖掘的解决方案是通用的，有效的，可扩展的。对文本分类和排名检索数据集进行了广泛的实验，结果表明，所提出的解决方案在有效性上与领先的特定任务方法相匹配或优于领先的特定任务方法，维基百科文章分类的分类时间减少了一个数量级。所开发的方法进一步应用于2014年的两个Kaggle数据采掘竞赛，有超过一百个参赛团队，获得第一名和第二名。
2016-02-07 cs.AI cs.CL cs.IR
An Automated Knowledge Mining and Document Classification System with Multi-model Transfer Learning
University of Nottingham Malaysia（诺丁汉大学马来西亚分校）；CAD-IT Consultants (M)
服务手册文件对工程公司至关重要，因为它们为服务工程师提供指导方针和知识。然而，由于资源的复杂性，服务工程师从文档中检索特定知识变得不方便和低效。在这项研究中，我们提出了一个自动化的知识挖掘和文档分类系统与新的多模型迁移学习方法。特别是，系统的分类性能得到了改善，三个有效的技术：微调，修剪，和多模型的方法。微调技术通过添加前馈神经网络层来优化预训练的BERT模型，并且修剪技术用于用新数据重新训练BERT模型。多模型方法训练和训练多个BERT模型，以克服微调过程中数据排序的随机性。在训练过程的第一次迭代中，同时训练多个BERT模型。然后，通过另外两次迭代，为训练过程的下一阶段选择最佳模型，并且终止其他BERT模型的训练过程。通过与两种鲁棒基线方法BERT和BERT-CNN的比较，对所提出的系统的性能进行了评估。在广泛使用的语料库语言可接受性（CoLA）数据集上的实验结果表明，所提出的技术在准确性和MCC得分方面优于这些基线方法。
2021-06-24 cs.CL cs.IR
Performance Evaluation of Machine Learning Classifiers in Sentiment Mining
Annamalai University（安纳马莱大学）
近年来，机器学习分类器的使用在解决文本分类中的各种问题方面具有重要价值。情感挖掘是一种文本分类方法，根据情感倾向（如积极或消极）对消息进行分类。本文扩展了评估各种分类器性能的思想，以显示其在在线产品评论情感挖掘中的有效性。产品评论来自亚马逊评论。为了评估分类器的性能，使用了各种评估方法，如随机抽样，线性抽样和自助抽样。结果表明，采用自举抽样方法的支持向量机在误分类率方面优于其他分类器和抽样方法。
2014-02-17 cs.CL cs.IR cs.LG
An Improved Text Sentiment Classification Model Using TF-IDF and Next Word Negation
随着文本情感分析的快速发展，对电子文档自动分类的需求也在飞速增长。文本分类或文本挖掘的范式是近年来许多研究工作的主题。在本文中，我们提出了一种文本情感分类技术，使用词频-逆文档频率（TF-IDF）以及下一个词否定（NWN）。我们还比较了二进制词袋模型，TF-IDF模型和TF-IDF与下一个词否定（TF-IDF-NWN）模型的文本分类性能。我们提出的模型，然后应用于三种不同的文本挖掘算法，我们发现线性支持向量机（LSVM）是最适合与我们提出的模型。所取得的结果表明，与早期的方法相比，准确性显着增加。
2018-06-17 cs.CL cs.IR
Leveraging Foreign Language Labeled Data for Aspect-Based Opinion Mining
Posts and Telecommunications Institute of Technology（越南邮电技术学院）
基于方面的观点挖掘是在观点文本的方面层次上识别情感的任务，它包括两个子任务：方面类别提取和情感极性分类。虽然方面类别提取的目的是检测和分类的意见目标，如产品特征，情感极性分类分配一个情感标签，即积极的，消极的，或中性的，每个识别的方面。监督学习方法已被证明可以为这项任务提供更好的准确性，但它们需要标记的数据，这是昂贵的，特别是对于资源贫乏的语言，如越南语。为了解决这个问题，我们提出了一个监督方面为基础的意见挖掘方法，利用标记的数据从外语（英语在这种情况下），这是翻译成越南语的自动翻译工具（谷歌翻译）。由于不同语言中的方面和观点可能由不同的词来表达，因此我们提出使用词嵌入以及其他特征来减少原文和译文之间的词汇差异，从而提高方面类别提取和情感极性分类过程的有效性。我们还介绍了一个注释语料库的方面类别和情感极性提取的餐馆评论在越南，并进行了一系列的实验语料库。实验结果证明了该方法的有效性。
2020-03-15 cs.AI cs.CL cs.IR
Decoding the Alphabet Soup of Degrees in the United States Postsecondary Education System Through Hybrid Method: Database and Text Mining
The University of Georgia（佐治亚大学）；Carl Vinson Institute of Government（卡尔·文森政府研究所）
本文提出一种结合自建学位缩写数据库与CNN-BiLSTM文本挖掘的混合模型，用于自动分类NSC报告中含糊的学位级别，并在多标签数据集上取得97.83%准确率。
2023-09-06 cs.IR cs.LG
Data Mining of Causal Relations from Text: Analysing Maritime Accident Investigation Reports
Aalto University School of Science（阿尔托大学理学院）；University of Surrey（萨里大学）
文本挖掘是从文本中提取人们感兴趣的信息的过程。这种方法包括来自诸如信息检索（IR）、自然语言处理（NLP）和信息抽取（IE）的各种领域的技术。在这项研究中，应用文本挖掘方法从海事事故调查处（MAIB）收集的海事事故调查报告中提取因果关系。这些因果关系提供了关于事故背后各种机制的信息，包括与事故有关的人为因素和组织因素。本研究的目的是希望借由更可行的方式，来萃取海事事故调查报告中的致因，以利分析。对报告中的促成原因进行仔细调查，为今后提高安全性提供了机会。本研究采用两种方法来提取因果关系。它们是1）模式分类法和2）连接词法。早期的一个使用朴素贝叶斯和支持向量机（SVM）作为分类器。后者只是在句子中搜索连接原因和结果的单词。将使用这两种方法提取的因果模式与手动（人类专家）提取进行比较。模式分类方法显示出公平和合理的性能与F-测量（平均）= 65%相比，连接词的方法与F-测量（平均）= 58%。本文的研究为文本挖掘方法在海事调查报告因果关系提取中的应用提供了依据。
2015-07-09 cs.CL cs.IR
"In vivo" spam filtering: A challenge problem for data mining
垃圾邮件，也被称为未经请求的商业电子邮件（UCE），是电子邮件通信的祸根。许多数据采掘研究人员已经解决了检测垃圾邮件的问题，通常将其视为静态文本分类问题。真正的体内垃圾邮件过滤具有使其成为数据采掘的丰富且具有挑战性的领域的特征。事实上，具有这些特征的真实世界数据集通常难以获取和共享。本文展示了其中的一些特点，并认为研究人员应该追求在体内垃圾邮件过滤作为一个可访问的域进行调查。
2004-05-04 cs.AI cs.DB cs.IR
Mining and Analyzing the Future Works in Scientific Articles
Peking University（北京大学）
科学文章中的未来作品对研究人员来说是有价值的，它们可以引导研究人员进入新的研究方向或想法。在本文中，我们挖掘未来的工作在科学文章中，以1）提供一个洞察未来的工作分析和2）方便研究人员搜索和浏览未来的工作在一个研究领域。首先，我们研究了未来的工作提取的问题，并提出了一种基于正则表达式的方法来解决这个问题。其次，我们定义了四个不同类别的未来的作品，通过观察数据和研究多类未来的工作分类问题。第三，将本文提出的抽取方法和分类模型应用于计算机科学领域的论文数据集，并对未来的工作进行了进一步的分析。最后，我们设计了一个原型系统，用于搜索和展示从科技论文中挖掘出的未来工作。实验结果表明，该方法具有较高的查准率和查全率，分类模型也能取得较好的效果，优于几种基线模型。对将来工作句的进一步分析也表明了有趣的结果。
2015-07-08 cs.CL cs.DL cs.IR
Mining Changes in User Expectation Over Time From Online Reviews
CentraleSupélec（中央高等电力学院）；Université Paris-Saclay（巴黎-萨克雷大学）；Ecole Centrale de Nantes（南特中央理工学院）
客户可以随时在线评论。有了在线评论的时间戳，它们可以被视为一种信息流。有了这个特性，设计师可以捕捉客户反馈的变化，以帮助建立产品改进策略。在这里，我们提出了一种方法来捕捉用户的期望变化的基础上的在线评论的两代产品的产品启示。首先，该方法使用基于规则的自然语言处理方法从评论文本中自动识别和结构化产品启示。然后，受卡诺模型的启发，将产品属性的偏好分为五类，联合分析被用来定量分类的结构化启示。最后，通过对连续两代产品的在线评论进行联合分析，可以发现用户期望的变化。基于Kindle电子阅读器在线评论的案例研究表明，设计师可以使用我们提出的方法来评估他们的产品改进策略，为以前的产品和开发新的产品改进策略，为未来的产品。amazon.com
2020-01-13 cs.AI cs.IR cs.SI
