Improving spam filtering by combining Naive Bayes with simple k-nearest neighbor searches
在过去的几个月里，使用朴素贝叶斯进行电子邮件分类已经变得非常流行。它们很容易实现，而且非常有效。在本文中，我们要提出的经验结果的电子邮件分类使用朴素贝叶斯和k-最近邻搜索的组合。使用这种技术，我们表明，贝叶斯过滤器的准确性可以稍微提高了大量的功能和显着的少量功能。
2003-11-30 cs.LG
Comparison of Automated Machine Learning Tools for SMS Spam Message Filtering
Center for Artificial Intelligence Research (CAIR)（人工智能研究中心（CAIR））；University of Agder（阿格德大学）
短消息服务（SMS）是移动用户用于通信的非常流行的服务。然而，这项受欢迎的服务可能会被滥用，执行非法活动并影响安全风险。如今，存在许多自动机器学习（AutoML）工具，它们可以帮助领域专家和普通用户在很少或没有机器学习知识的情况下构建高质量的ML模型。在这项工作中，分类性能进行了比较之间的三个自动机器学习工具的短信垃圾邮件过滤。这些工具是mljar监督的AutoML，H2O AutoML和基于树的管道优化工具（TPOT）AutoML。实验结果表明，集成模型取得了最好的分类性能。使用H2O AutoML构建的Stacked Entrance模型在Log Loss（0.8370）、真阳性（1088/1116）和真阴性（281/287）指标方面实现了最佳性能。相对于TPOT AutoML，Log Loss有19.05\%的改进，相对于mljar监督的AutoML，有5.56\%的改进。使用AutoML工具实现的令人满意的过滤性能为AutoML工具提供了一个潜在的应用程序，可以自动确定最佳的ML模型，可以最好地执行SMS垃圾邮件过滤。
2021-06-28 cs.LG
A Comprehensive Analysis of Adversarial Attacks against Spam Filters
cs.hacettepe.edu.tr（哈科特佩大学计算机科学系）
本文在真实数据集上系统评估了六种深度学习垃圾邮件过滤模型在词、字符、句子和AI生成段落级对抗攻击下的脆弱性，并提出垃圾邮件权重与注意力权重等新型评分函数以增强攻击效果。
2025-05-04 cs.CR cs.LG
Application of BadNets in Spam Filters
New York University（纽约大学）
该研究针对垃圾邮件过滤器依赖的机器学习模型存在的供应链安全问题，设计了适用于垃圾邮件过滤领域的后门攻击，验证了此类攻击可有效识别过滤器漏洞，为该领域的安全监测与改进提供了依据。
2023-07-18 cs.CR cs.LG
SMS Spam Filtering using Probabilistic Topic Modelling and Stacked Denoising Autoencoder
Durham University（杜伦大学）
在本文中，我们提出了一种新的方法来过滤垃圾邮件，并证明其适用性方面的短信。我们的方法需要最少的功能工程和一个小的一组标记的数据样本。使用基于潜在狄利克雷分配的主题建模提取特征，然后使用堆叠去噪自动编码器（SDA）创建全面的数据模型。主题建模通过使用词云可视化主题来总结数据，从而提供易用性和高可解释性。鉴于SMS消息可以被视为垃圾邮件（不需要的）或火腿（想要的），SDA能够对消息进行建模并准确区分这两类，而无需预先标记的训练集。的结果进行比较，对国家的最先进的垃圾邮件检测算法，我们提出的方法实现了97%以上的准确性，相比之下，在文献中提出的最好的报告算法。
2016-06-17 cs.CL cs.LG cs.NE
Using Randomness to Improve Robustness of Machine-Learning Models Against Evasion Attacks
University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校）
机器学习模型已经广泛地用于安全应用中，诸如入侵检测、垃圾邮件过滤以及病毒或恶意软件检测。然而，众所周知，对手总是试图调整他们的攻击以逃避检测。例如，垃圾邮件发送者可能会猜测垃圾邮件检测模型使用哪些功能，并修改或删除这些功能以避免检测。已经有一些工作使机器学习模型对这种攻击更鲁棒。然而，一种简单但有前途的方法，称为{ \em随机化}，尚未得到充分研究。本文提出了一种新的基于随机化的方法来提高机器学习模型对规避攻击的鲁棒性。所提出的方法将随机化纳入模型训练时间和模型应用时间（即当模型用于检测攻击时）。我们还将这种方法应用于随机森林，这是一种现有的ML方法，已经具有一定程度的随机性。在入侵检测和垃圾邮件过滤数据上的实验表明，该方法进一步提高了随机森林方法的鲁棒性。我们还讨论了如何将这种方法应用于其他ML模型。
2018-08-10 cs.CR cs.LG stat.ML
Spam filtering on forums: A synthetic oversampling based approach for imbalanced data classification
Pune Institute of Computer Technology（浦那计算机技术学院）
论坛在为社区互动提供平台方面发挥着重要作用。个人为了商业和社会利益而引入不相关的内容或垃圾邮件往往会降低论坛用户的专业体验。期望对所发布的内容的相关性进行自动调节。机器学习用于文本分类，并在垃圾邮件检测、欺诈性交易检测等中找到应用。在分类算法的情况下，训练数据中的类的平衡是必不可少的，以使学习高效且准确。然而，在论坛的情况下，与相关内容相比，垃圾内容是稀疏的，从而在训练时产生对后者的偏见。在这种有偏见的数据上训练的模型将无法对垃圾邮件样本进行分类。针对训练数据不均衡的问题，提出了一种基于综合少数过采样技术（SMOTE）的训练方法。它涉及从现有样本中综合创建新的少数类样本，直到实现数据平衡。然后，增强的数据通过各种分类器，记录其性能。结果是在标准性能指标上对IIT孟买Spoken Bombay论坛的数据进行分析的，结果显示，在合成少数民族过采样后训练的模型比在不平衡数据上训练的模型表现更好。本文提出了一种经验比较的结果，通过SMOTE和没有SMOTE的各种监督分类算法。合成过采样被证明是实现均匀类分布的关键技术，从而在文本分类中产生值得称赞的结果。所提出的方法可以进一步扩展到教育网站的内容分类，从而有助于改善整体数字学习体验。
2019-09-10 cs.IR cs.LG stat.ML
SMS Spam Detection and Classification to Combat Abuse in Telephone Networks Using Natural Language Processing
University of Ibadan（伊巴丹大学）
针对 SMS 垃圾短信及高假阳性率问题，本文结合 BERT 特征与多种机器学习分类器，发现 Naïve Bayes+BERT 以 97.31% 准确率和 0.3 秒执行时间表现最佳。
2024-06-04 cs.AI cs.CL cs.LG
Anomaly Detection in Emails using Machine Learning and Header Information
Canadian Institute for Cybersecurity（加拿大网络安全研究所）；University of New Brunswick（新不伦瑞克大学）
电子邮件中的异常（如网络钓鱼和垃圾邮件）会给个人和组织带来重大的安全风险，如隐私、金钱和品牌声誉的损失。以往的电子邮件异常检测研究依赖于单一类型的异常和对邮件正文和主题内容的分析。这种方法的缺点是它考虑了电子邮件内容的书面语言。为了克服这一缺陷，本研究进行特征提取和电子邮件头数据集的选择，并利用多类和一类异常检测方法。实验分析结果表明，只有电子邮件头信息是足够的，可靠地检测垃圾邮件和钓鱼电子邮件。监督学习算法，如随机森林，SVM，MLP，KNN及其堆叠集成被发现是非常成功的，实现了97%的网络钓鱼和99%的垃圾邮件的高准确性分数。使用One-Class SVM的单类分类分别对垃圾邮件和钓鱼邮件实现了87%和89%的准确率。实际的电子邮件过滤应用程序将受益于只使用标题信息在资源利用率和效率方面。
2022-03-19 cs.AI cs.CR cs.LG
Detection of Adversarial Training Examples in Poisoning Attacks through Anomaly Detection
Imperial College London（帝国理工学院）
机器学习已经成为许多系统和应用的重要组成部分，包括计算机视觉、垃圾邮件过滤、恶意软件和网络入侵检测等。尽管机器学习算法能够从数据中提取有价值的信息并产生准确的预测，但已经表明这些算法容易受到攻击。数据中毒是针对机器学习系统的最相关的安全威胁之一，攻击者可以通过在训练数据中注入恶意样本来破坏学习过程。对抗性机器学习的最新研究表明，所谓的最佳攻击策略可以成功地毒害线性分类器，在损害一小部分训练数据集后，系统的性能会急剧下降。在本文中，我们提出了一种防御机制，以减轻这些最佳中毒攻击的影响，基于离群检测。我们的经验表明，这些攻击策略生成的对抗性示例与真正的点有很大不同，因为没有考虑可检测性约束来制作攻击。因此，可以通过对训练数据集进行适当的预过滤来检测它们。
2018-02-08 cs.CR cs.LG stat.ML
Security Evaluation of Support Vector Machines in Adversarial Environments
University of Cagliari（卡利亚里大学）；Universität Potsdam（波茨坦大学）；IBM Research（IBM研究院）
支持向量机（SVM）是安全应用中最流行的分类技术之一，如恶意软件检测、入侵检测和垃圾邮件过滤。然而，如果要将SVM纳入现实世界的安全系统，它们必须能够应对可能误导学习算法（中毒）、逃避检测（逃避）或获取有关其内部参数（隐私泄露）的信息的攻击模式。本章的主要贡献有两个方面。首先，我们介绍了一个正式的一般框架的机器学习系统的安全性的经验评估。其次，根据我们的框架，我们证明了规避，中毒和隐私攻击的支持向量机在现实世界中的安全问题的可行性。对于每种攻击技术，我们评估其影响，并讨论是否（以及如何）可以通过支持向量机的对手感知设计来反击。我们的实验很容易重现，这要归功于我们在公共存储库上提供的开源代码以及所有使用的数据集。
2014-01-30 cs.CR cs.LG
A pipeline and comparative study of 12 machine learning models for text classification
Teesside University（提赛德大学）
基于文本的通信作为一种通信方法非常受欢迎，特别是在商业环境中。因此，它经常被滥用发送恶意消息，例如，垃圾邮件，欺骗用户传递个人信息，包括在线帐户凭据或银行详细信息。出于这个原因，许多用于文本分类的机器学习方法已经被提出并被纳入大多数电子邮件提供商的服务中。然而，优化文本分类算法并找到正确的折衷方法仍然是一个主要的研究问题。我们提出了一个更新的调查12机器学习文本分类器应用于公共垃圾邮件语料库。提出了一种新的流水线，通过在预处理阶段应用特定的方法（基于自然语言处理）来优化超参数选择并提高模型的性能。我们的研究旨在提供一种新的方法来研究和优化机器学习分类器中不同特征大小和超参数的影响，这些分类器广泛用于文本分类问题。分类器进行了测试和评估不同的指标，包括F分数（准确性），精度，召回率和运行时间。通过分析所有这些方面，我们展示了如何使用所提出的管道来实现对安然数据集，一个广泛使用的公共电子邮件语料库的垃圾邮件过滤的良好准确性。应用统计测试和可解释性技术来提供对所提出的管道的稳健分析，并解释12个机器学习模型的分类结果，还识别驱动分类结果的单词。我们的分析表明，有可能确定一个有效的机器学习模型来分类安然数据集，F分数为94%。
2022-04-04 cs.CL cs.IR cs.LG
An Experience Report on Machine Learning Reproducibility: Guidance for Practitioners and TensorFlow Model Garden Contributors
Purdue University（普渡大学）；Loyola University Chicago（芝加哥洛约拉大学）
机器学习技术正在成为科学和工程进步的基本工具。这些技术被应用在不同的背景下，如天文学和垃圾邮件过滤。然而，正确地应用这些技术需要仔细的工程。人们对技术潜力给予了很大的关注，而对将基于研究的机器学习技术投入实际应用所需的软件工程过程的关注相对较少。技术公司已经通过TensorFlow和PyTorch等机器学习框架为工程社区提供了支持，但如何在这些框架中设计复杂的机器学习模型的细节仍然是隐藏的。为了在工程社区推广最佳实践，学术机构和谷歌合作推出了机器学习模型特别兴趣小组（SIGMODELS），其目标是在TensorFlow模型花园（TFMG）等社区位置开发突出的机器学习模型的示例性实现。本报告的目的是定义一个过程，用于以适合纳入TFMG的质量水平复制最先进的机器学习模型。我们定义了工程流程，并详细说明了从论文分析到模型发布的每一步。我们报告了我们与一个由26名学生研究人员组成的团队实施YOLO模型系列的经验，分享了我们开发的工具，并描述了我们在此过程中学到的经验教训。
2021-07-29 cs.AI cs.LG cs.SE
