A New Dataset and Methodology for Malicious URL Classification
Deep Instinct（深度本能公司）；Ben Gurion University of the Negev（内盖夫本-古里安大学）
本文提出多类别恶意URL分类数据集DeepURLBench，并通过在URLNet中整合DNS衍生特征改进分类器，在保持实时效率的同时提升性能。
2024-12-31 cs.CR cs.LG
Deep Learning Backdoors
Shanghai Jiao Tong University（上海交通大学）；Rutgers University（罗格斯大学）；The University of Adelaide（阿德莱德大学）；The University of New South Wales（新南威尔士大学）；Data61 CSIRO（联邦科学与工业研究组织Data61研究所）
直观地说，针对深度神经网络（DNN）的后门攻击是将隐藏的恶意行为注入DNN，使得后门模型对于良性输入合法地行为，但是当其输入包含恶意触发器时调用预定义的恶意行为。触发器可以采取过多的形式，包括图像中存在的特殊对象（例如，黄色垫），填充有定制纹理的形状（例如，具有特定颜色的徽标）或甚至具有特殊过滤器的图像范围风格化（例如，由Nashville或Gotham过滤器改变的图像）。这些过滤器可以通过替换或扰动一组图像像素来应用于原始图像。
2021-02-06 cs.CR cs.LG
Detection of Malicious Android Applications: Classical Machine Learning vs. Deep Neural Network Integrated with Clustering
BITS Pilani（毕尔巴鄂理工学院）；Microsoft R&D（微软研发部门）
今天，反恶意软件社区正面临着挑战，由于不断增加的复杂性和数量的恶意软件攻击的对手开发。传统的恶意软件检测机制无法应对下一代恶意软件攻击。因此，在本文中，我们提出了基于机器学习和结合聚类的深度学习的有效且高效的Android恶意软件检测模型。我们对不同的特征约简、分类和聚类算法在不同性能指标上进行了全面的研究，以构建Android恶意软件检测模型。我们的实验结果表明，使用随机森林开发的恶意软件检测模型在大多数性能指标上超过了深度神经网络和其他分类器。没有任何特征减少的基线随机森林模型达到了99.4%的最高AUC。此外，使用与随机森林集成的聚类对向量空间进行隔离，进一步将一个聚类中的AUC提高到99.6%，并在另一个聚类中直接检测Android恶意软件，从而减少了维数灾难。此外，我们发现检测模型中的特征减少确实提高了模型效率（训练和测试时间），而不会对检测模型的有效性造成太大影响。
2021-02-28 cs.CR cs.LG
Toward More Generalized Malicious URL Detection Models
National Taiwan University（台湾大学）
本文针对恶意URL检测中的数据偏差问题，提出基于自监督对抗训练的去偏策略，以提升CNN和RNN模型的泛化能力。
2024-02-09 cs.CR cs.LG
Outlier detection on network flow analysis
TMC Data Science（TMC数据科学）
重要的是能够检测和分类恶意网络流量流，如DDoS攻击和良性流量。通常，该任务通过使用监督分类算法来执行。在本文中，我们分析了使用离群检测算法的网络流量分类问题。
2018-08-06 cs.CR cs.LG
Security and Privacy Issues in Deep Learning
Seoul National University（首尔大学）；Ehwa University（梨花大学）
为了促进安全和私有的人工智能（SPAI），我们回顾了DNN的模型安全和数据隐私的研究。模型安全性允许系统按预期运行，而不受可能损害其完整性和效率的恶意外部影响。安全攻击可以根据它们发生的时间来划分：如果攻击发生在训练期间，则称为中毒攻击，如果它发生在推理期间（训练后），则称为逃避攻击。中毒攻击通过使用恶意示例破坏数据来破坏训练过程，而规避攻击使用对抗性示例来破坏整个分类过程。针对这种攻击提出的防御包括识别和删除恶意数据的技术，训练模型对这种数据不敏感，以及屏蔽模型的结构和参数以使攻击更难以实现。此外，模型训练中涉及的数据隐私也受到模型反演攻击等攻击的威胁，或者受到AI应用程序的不诚实服务提供商的威胁。为了维护数据隐私，已经提出了几种结合现有数据隐私技术的解决方案，包括差分隐私和现代密码技术。在本文中，我们描述了一些方法的概念，例如，同态加密，并回顾它们在深度学习模型中实现时的优势和挑战。
2021-03-10 cs.CR cs.LG stat.ML
MPAT: Building Robust Deep Neural Networks against Textual Adversarial Attacks
School of Control and Computer Engineering, North China Electric Power University（华北电力大学控制与计算机工程学院）
针对文本对抗防御中鲁棒性与原始任务性能难以兼顾的问题，提出 MPAT 对抗训练方法，通过多级恶意样本生成和新目标函数提升防御效果并保持任务性能。
2024-02-29 cs.CL cs.CR cs.LG
Unsupervised Abnormal Traffic Detection through Topological Flow Analysis
University of Bucharest（布加勒斯特大学）
网络威胁是我们现代技术世界中的一个永久性问题。近年来，复杂的流量分析技术和异常检测（AD）算法被用来应对越来越多的颠覆性对抗攻击。恶意入侵，定义为意图非法利用私有资源的入侵行为，通过不寻常的数据流量和/或异常连接模式表现出来。尽管过多的统计或基于签名的检测器，目前在文献中提供的拓扑连接组件的恶意流是利用较少。此外，现有的统计入侵检测器中有很大一部分是基于监督学习的，它依赖于标记数据。通过将网络流视为一对节点之间的加权有向交互，本文提出了一种简单的方法，便于在无监督异常检测算法中使用连接图特征。我们在真实的网络流量数据集上测试了我们的方法，并观察到了标准AD的几个改进。
2022-05-14 cs.CR cs.LG
eDySec: A Deep Learning-based Explainable Dynamic Analysis Framework for Detecting Malicious Packages in PyPI Ecosystem
Queensland University of Technology（昆士兰理工大学）；Edith Cowan University（埃德温·库恩大学）；Research Graduate School, BUBT（研究研究生学院，BUBT）
本文提出eDySec框架，利用深度学习方法分析软件包动态行为，通过QUT-DV25数据集评估模型并识别最有效的特征，提升恶意包检测效率与准确性。
2026-04-29 cs.CR cs.LG
A Review of Data-driven Approaches for Malicious Website Detection
China Mobile (Zhejiang) Research & Innovation Institute（中国移动（浙江）研究与创新研究院）
本文全面综述了数据驱动的恶意网站检测方法，建立了数据-特征-模型-扩展流程，并探讨了深度学习模型的比较及未来挑战。
2023-05-16 cs.CR cs.LG
Peek Inside the Closed World: Evaluating Autoencoder-Based Detection of DDoS to Cloud
USC/ISI（南加州大学信息科学研究所）；Microsoft（微软）
基于机器学习的异常检测（ML-based AD）在实验室中已经成功检测到DDoS事件。然而，已发表的基于ML的AD的评估仅使用了有限的数据，并且对它为什么有效提供了最少的见解。为了解决对真实世界数据的有限评估，我们将现有的ML-AD模型autoencoder应用于从主要云提供商的5个云IP捕获的57个DDoS攻击事件。我们表明，我们的模型检测到几乎所有的恶意流量为2的4个云IP攻击（至少99.99%）和检测大多数恶意流量（94.75%和91.37%）的其余2个IP。我们的模型还保持了接近零的误报对所有5个IP的良性流量。我们的主要贡献是提高我们的理解，为什么基于ML的AD的作品在一些恶意流量，而不是其他人。我们用特征归因和反事实解释来解释我们的检测结果。我们表明，我们的模型在检测允许列出的功能异常（只有少数良性值）的恶意流量比拒绝列出的功能异常（大多数是良性值）的流量更好，因为我们的模型更有可能学习允许列出的功能正确的正常性。然后，我们证明了我们的模型在检测无序特征异常（其值之间没有顺序）的恶意流方面比有序特征异常的流更好，因为即使不完全正常，我们的模型仍然可以检测到无序特征的异常，具有高召回率。最后，我们总结了我们在生产中应用基于自动编码器的AD时所学到的知识的含义：使用嘈杂的真实世界数据进行训练是可能的，自动编码器可以可靠地检测到真实世界中代表性良好的无序特征的异常，并且基于自…
2020-06-21 cs.LG cs.NI
Active Learning Under Malicious Mislabeling and Poisoning Attacks
University of South Florida（南佛罗里达大学）；U.S. Air Force Research Laboratory（美国空军研究实验室）
深度神经网络通常需要大型标记数据集进行训练，以在许多任务中实现最先进的性能，例如图像分类和自然语言处理。尽管活跃的互联网用户每天都要创建大量数据，但这些数据中的大多数都是未标记的，容易受到数据投毒攻击。在本文中，我们开发了一种高效的主动学习方法，该方法需要较少的标记实例，并结合了对抗性再训练技术，在该技术中，在不增加标记预算的情况下生成额外的标记人工数据。生成的对抗性示例还提供了一种衡量模型脆弱性的方法。为了检查所提出的方法在对抗性设置下的性能，即，恶意错误标记和数据投毒攻击，我们进行了广泛的评估减少CIFAR-10数据集，其中只包含两个类：飞机和青蛙。实验结果表明，所提出的主动学习方法能够有效地抵御恶意标签和数据投毒攻击。具体而言，而基于随机采样策略的基线主动学习方法在恶意错误标记攻击下表现不佳（约50%），所提出的主动学习方法可以使用平均仅三分之一的数据集实现89%的期望准确度。
2021-09-02 cs.CR cs.LG stat.ML
Data Poisoning Attacks Against Federated Learning Systems
Georgia Institute of Technology（佐治亚理工学院）
联邦学习（FL）是一种新兴的大规模深度神经网络分布式训练范例，其中参与者的数据保留在他们自己的设备上，只有模型更新与中央服务器共享。然而，FL的分布式性质引起了潜在的恶意参与者所造成的新的威胁。在本文中，我们研究了有针对性的数据投毒攻击FL系统中的恶意子集的参与者的目的是通过发送来自错误标记的数据的模型更新中毒的全局模型。我们首先证明，这种数据投毒攻击可能会导致分类准确性和召回率大幅下降，即使有一小部分恶意参与者。我们还表明，攻击可以有针对性，即，它们只对受到攻击的类有很大的负面影响。我们还研究了早期/后期训练中的攻击寿命、恶意参与者可用性的影响以及两者之间的关系。最后，我们提出了一种防御策略，可以帮助识别FL中的恶意参与者，以规避中毒攻击，并证明其有效性。
2020-08-11 cs.CR cs.LG stat.ML
CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning
Ben-Gurion University（本-古里安大学）；Soroka University Medical Center（索罗卡大学医学中心）
2018年，诊所和医院遭受了多次攻击，导致严重的数据泄露和医疗服务中断。访问医疗记录的攻击者可以做的不仅仅是持有数据以获取赎金或在黑市上出售。在本文中，我们展示了攻击者如何使用深度学习来从体积（3D）医学扫描中添加或删除医疗条件的证据。攻击者可以执行此行为以阻止政治候选人，破坏研究，进行保险欺诈，执行恐怖主义行为，甚至谋杀。我们使用3D条件GAN实现了攻击，并展示了框架（CT-GAN）如何自动化。虽然人体很复杂，3D医学扫描非常大，但CT-GAN可以在几毫秒内实现逼真的结果。为了评估这种攻击，我们专注于从CT扫描中注射和移除肺癌。我们展示了三位放射科专家和一个最先进的深度学习AI如何极易受到攻击。我们还探索了现代放射学网络的攻击面，并展示了一个攻击向量：我们通过隐蔽渗透测试在活跃的医院网络中拦截和操纵CT扫描。演示视频：https://youtu.be/_mkRAArj-x0源码：https://github.com/ymirsky/CT-GAN
2019-06-06 cs.CR cs.CV cs.LG
SIGL: Securing Software Installations Through Deep Graph Learning
Harvard University（哈佛大学）；NEC Laboratories America（美国NEC实验室）；University of Bristol（布里斯托大学）；Peking University（北京大学）；University of British Columbia（不列颠哥伦比亚大学）
许多用户默认软件只有在安装后才能被利用。然而，最近的供应链攻击表明，必须在安装过程中确保应用程序的完整性。我们介绍了SIGL，一个新的工具，用于检测软件安装过程中的恶意行为。SIGL收集系统调用活动的痕迹，构建数据起源图，使用一种新型的自动编码器架构进行分析，该架构具有用于编码器的图长短期记忆网络（图LSTM）和用于解码器的标准多层感知器。SIGL标记可疑安装以及可能是恶意的特定安装时进程。使用包含真实恶意软件的625个恶意安装程序的测试语料库，我们证明了SIGL的检测准确率为96%，在精确度和召回率方面优于工业界和学术界的类似系统高达87%，准确率为45%。我们还证明了SIGL可以精确定位最有可能触发恶意行为的进程，可以在不同的审计平台和操作系统上工作，并且对训练数据污染和对抗攻击具有鲁棒性。它可以与特定于应用程序的模型一起使用，即使在存在新软件版本的情况下，也可以与包含广泛应用程序和安装程序的应用程序无关的元模型一起使用。
2021-06-22 cs.CR cs.LG
DeepFense: Online Accelerated Defense Against Adversarial Deep Learning
University of California San Diego（加州大学圣地亚哥分校）
对抗性深度学习（DL）的最新进展为恶意攻击开辟了一个基本上未被探索的领域，这些恶意攻击危及自主DL系统的完整性。随着DL在关键和时间敏感的应用中的广泛使用，包括无人驾驶汽车，无人机和视频监控系统，恶意输入的在线检测至关重要。我们提出了DeepFense，这是第一个端到端的自动化框架，可以同时实现DL模型的高效和安全执行。DeepFense将挫败对抗攻击的目标形式化为一个优化问题，最小化DL网络所覆盖的潜在特征空间中很少观察到的区域。为了解决上述最小化问题，训练一组互补但不相交的模块化冗余，以与受害者DL模型并行地验证输入样本的合法性。DeepFense利用硬件/软件/算法协同设计和自定义加速，在资源受限的环境中实现即时性能。所提出的对策是无监督的，这意味着没有对抗样本被利用来训练模块冗余。我们还提供了一个配套的API，以减少非经常性的工程成本，并确保自动适应各种平台。在FPGA和GPU上进行的广泛评估表明，在实现在线对抗样本检测的同时，性能提高了两个数量级。
2018-08-21 cs.CR cs.LG stat.ML
PETGEN: Personalized Text Generation Attack on Deep Sequence Embedding-based Classification Models
Georgia Institute of Technology（佐治亚理工学院）
恶意用户接下来应该写什么来欺骗检测模型？识别恶意用户对于确保互联网平台的安全性和完整性至关重要。已经创建了几个基于深度学习的检测模型。然而，恶意用户可以通过操纵他们的行为来逃避深度检测模型，使这些模型几乎没有用处。这种深度检测模型对对抗攻击的脆弱性是未知的。在这里，我们创建了一个新的对抗攻击模型，针对基于深度用户序列嵌入的分类模型，使用用户帖子的序列来生成用户嵌入并检测恶意用户。在攻击中，对手生成新的帖子来欺骗分类器。我们提出了一种新的端到端个性化文本生成攻击模型，称为PEGEN，同时降低了检测模型的效率，并生成具有几个关键理想属性的帖子。具体而言，PETGEN生成的帖子是个性化的用户的写作风格，具有关于给定的目标上下文的知识，知道用户的历史帖子的目标上下文，并封装用户的最近的主题兴趣。我们在两个真实世界的数据集（Yelp和Wikipedia，都有恶意用户的真实数据）上进行了广泛的实验，以表明PEGEN显著降低了流行的基于深度用户序列嵌入的分类模型的性能。PEGEN在白盒和黑盒分类器设置中的文本质量和攻击效率方面优于五个攻击基线。总的来说，这项工作铺平了道路，下一代的对手意识的序列分类模型。
2021-10-19 cs.LG cs.SI
MalBERT: Using Transformers for Cybersecurity and Malicious Software Detection
Université de Moncton（蒙克顿大学）
近年来，我们目睹了不同平台上的网络威胁和恶意软件攻击的增加，对个人和企业造成了重要影响。找到自动化的机器学习技术来主动防御恶意软件已变得至关重要。Transformers是一类基于注意力的深度学习技术，最近在解决主要与自然语言处理（NLP）领域相关的不同任务方面取得了令人印象深刻的结果。在本文中，我们提出了使用一个Transformers的架构来自动检测恶意软件。我们提出了一种基于BERT（Bidirectional Encoder Representations from Transformers）的模型，该模型使用预处理的特征对Android应用程序的源代码进行静态分析，以表征现有的恶意软件并将其分类为不同的代表性恶意软件类别。所得到的结果是有前途的，并显示了高性能的基于transformer的恶意软件检测模型。
2021-03-05 cs.AI cs.CR cs.LG
Learning detectors of malicious web requests for intrusion detection in network traffic
Cisco Systems, Inc.（思科系统公司）；Czech Technical University in Prague（布拉格捷克理工大学）；Catalyzer（4Catalyzer）
本文提出了一种通用的分类系统，旨在检测基于恶意软件样本的行为的安全威胁。该系统依赖于从代理日志字段计算的统计特征，以使用恶意软件样本的数据库来训练检测器。行为检测器充当多级检测架构的基本可重用构建块。检测器识别恶意通信，这些恶意通信利用由域生成算法（DGA）生成的加密URL字符串和域，这些域经常用于命令和控制（C&C）、网络钓鱼和点击欺诈。令人惊讶的是，只要从单个代理日志中提取有限的信息，就可以构建非常精确的检测器。通过这种方式，检测器的计算要求保持较低，从而允许在各种安全设备上部署，而不依赖于流量上下文，如DNS日志，Whois记录，网页内容等。来自100多家公司的几周实时流量的结果显示，具有35万多台主机的正确检测精度超过95%的恶意流量，95%的恶意URL和90%的受感染主机。此外，与签名和基于规则的解决方案的比较表明，我们的系统能够检测到大量的新威胁。
2017-02-08 cs.LG stat.ML
Malicious Network Traffic Detection via Deep Learning: An Information Theoretic View
The Johns Hopkins University（约翰斯·霍普金斯大学）
深度学习从学术界和工业界获得的关注逐年增长，有人说我们正处于人工智能研究的新黄金时代。然而，神经网络仍然经常被视为一个“黑匣子”，在那里学习发生，但不能以人类可解释的方式理解。由于这些机器学习系统越来越多地被用于安全环境，因此探索这些解释非常重要。我们考虑一个Android恶意软件流量数据集来解决这个问题。然后，使用信息平面，我们探索同胚如何影响学习表示的数据和不变性的互信息捕获的参数对该数据。我们凭经验验证这些结果，使用准确性作为第二个措施的相似性学习表示。我们的研究结果表明，虽然学习表示的细节和定义在所有参数的流形上的特定坐标系略有不同，但函数近似是相同的。此外，我们的研究结果表明，由于互信息在同胚下保持不变，只有改变数据集熵的特征工程方法才会改变神经网络的结果。这意味着对于某些数据集和任务，神经网络需要有意义的、人为驱动的特征工程或架构变化，以提供足够的信息，使神经网络生成足够的统计数据。应用我们的研究结果可以指导机器学习工程师的分析方法，并表明可以利用卷积定理的神经网络与标准卷积神经网络一样准确，并且可以更有效地计算。
2020-09-16 cs.CR cs.IT cs.LG
eXpose: A Character-Level Convolutional Neural Network with Embeddings For Detecting Malicious URLs, File Paths and Registry Keys
Invincea Inc.（Invincea公司）
多年来，安全机器学习研究已经承诺通过自动学习来检测攻击指标，从而满足基于签名的检测的需求。不幸的是，这一愿景尚未实现：事实上，开发和维护当今的安全机器学习系统可能需要与基于签名的检测系统相当的工程资源，部分原因是随着攻击的发展，需要开发和不断调整这些机器学习系统的“功能”。深度学习是机器学习的一个子领域，它有望通过对原始输入信号进行操作并自动化特征设计和提取过程来改变这一点。在本文中，我们提出了eXpose神经网络，它使用我们开发的深度学习方法，将通用的原始短字符串作为输入（安全输入的常见情况，包括潜在恶意URL，文件路径，命名管道，命名互斥体和注册表项等工件），并学习同时提取特征并使用字符级嵌入和卷积神经网络进行分类。除了完全自动化特征设计和提取过程之外，eXpose在我们测试的所有入侵检测问题上都优于基于手动特征提取的基线，与这些基线相比，在0.1%的误报率下，检测率提高了5%-10%。
2017-02-27 cs.CR cs.LG
Malicious Source Code Detection Using Transformer
Ben-Gurion University（本-古里安大学）
开源代码被认为是现代软件开发中的常见做法。然而，重复使用其他代码会使恶意攻击者能够访问广泛的开发人员社区，从而访问依赖于它的产品。这些攻击被归类为供应链攻击。近年来，越来越多的供应链攻击在软件开发过程中利用开源，自动或手动地中继下载和安装过程。多年来，已经发明了许多方法来检测易受攻击的软件包。但是，在包中检测恶意代码并不常见。这些检测方法可以大致分类为使用（动态）和不使用（静态）代码执行的分析。在这里，我们介绍了恶意源代码检测使用Transformers（MSDT）算法。MSDT是一种基于深度学习方法的新型静态分析，可检测源代码包的真实代码注入情况。在这项研究中，我们使用MSDT和一个包含60多万个不同函数的数据集来嵌入各种函数，并对生成的向量应用聚类算法，通过检测离群值来检测恶意函数。我们进行了广泛的实验，并证明了我们的算法能够检测到注入恶意代码的功能，精度@k值高达0.909。
2022-09-16 cs.CR cs.LG
MaMaDroid2.0 -- The Holes of Control Flow Graphs
Ariel Cyber Innovation Center（阿里尔网络创新中心）；Ariel University（阿里尔大学）；Data Science and Artificial Intelligence Research Center（数据科学与人工智能研究中心）；Jill Dando Institute（吉尔·丹多研究所）；UCL（伦敦大学学院）
Android恶意软件对全球数十亿移动用户构成了不断扩大的威胁。检测系统不断更新，以应对这些威胁。然而，反弹采取逃避攻击的形式，其中对手改变恶意样本，使得这些样本将被错误地分类为良性。本文全面考察了著名的Android恶意软件检测系统MaMaDroid，分析了应用程序的控制流图。考虑对训练集合和模型中的良性样本的部分的改变以查看它们对分类器的影响。良性和恶意样本之间的比例变化对每个模型都有明显的影响，导致其检测率下降超过40%。此外，还实现了所采用的ML模型，包括5-NN，决策树和Adaboost。对这六种模型的探索揭示了基于树的模型和基于距离的模型在不同情况下的典型行为。此外，三个新的攻击，操纵的CFG和他们的检测率描述为每一个目标模型。这些攻击将大多数模型的检测率降低到0%，这与良性应用程序和恶意应用程序的不同比例有关。因此，MaMaDroid的新版本被设计出来。该模型融合了应用程序的CFG和应用程序的静态分析特征，对基于CFG的模型和静态分析模型的规避攻击都具有较好的鲁棒性，对每种攻击的检测率都达到90%以上。
2022-02-28 cs.CR cs.LG
Malicious Requests Detection with Improved Bidirectional Long Short-term Memory Neural Networks
检测和拦截恶意请求是网络安全中最常用的防范攻击手段之一。大多数现有的检测方法，包括匹配黑名单字符和机器学习算法都被证明容易受到复杂的攻击。为了解决上述问题，需要更通用和严格的检测方法。在本文中，我们将检测恶意请求的问题表示为时间序列分类问题，并提出了一种新的深度学习模型，即卷积神经网络-双向长短期记忆-卷积神经网络（CNN-BiLSTM-CNN）。通过连接卷积层的阴影和深度特征图，恶意特征提取能力在更详细的功能上得到了提高。在HTTP数据集CSIC 2010上的实验结果表明，与现有方法相比，该方法是有效的。
2020-11-12 cs.LG cs.NI
Machine Learning for Encrypted Malicious Traffic Detection: Approaches, Datasets and Comparative Study
随着人们对个人隐私和数据安全的需求变得优先，加密流量已成为网络世界的主流。但是，流量加密也可以屏蔽对手引入的恶意和非法流量，使其不被检测到。尤其是在后COVID-19环境中，恶意流量加密正在迅速增长。依赖于普通有效负载内容分析（如深度数据包检测）的常见安全解决方案变得毫无用处。因此，基于机器学习的方法已经成为加密恶意流量检测的重要方向。在本文中，我们制定了一个通用的框架，机器学习为基础的加密恶意流量检测技术，并提供了一个系统的审查。此外，由于缺乏公认的数据集和特征集，目前的研究采用不同的数据集来训练他们的模型。因此，它们的模型性能无法进行可靠的比较和分析。因此，在本文中，我们分析，处理和组合来自5个不同来源的数据集，以生成一个全面和公平的数据集，以帮助在这一领域的未来研究。在此基础上，实现并比较了10种加密恶意流量检测算法。然后，我们讨论的挑战，并提出未来的研究方向。
2022-03-17 cs.AI cs.CR cs.LG
ShielDroid: A Hybrid Approach Integrating Machine and Deep Learning for Android Malware Detection
Brac University（BRAC大学）
本研究提出ShielDroid框架，采用混合动态分析结合机器学习，经实验验证随机森林与多层感知器的混合模型对Android恶意软件检测准确率达97.5%，执行时间22.945秒，可增强移动设备安全。
2026-08-05 cs.CR cs.LG
WebEye - Automated Collection of Malicious HTTP Traffic
Fraunhofer Institute AISEC（弗劳恩霍夫应用安全研究所以色列分所）
随着恶意软件检测技术越来越多地采用机器学习方法，创建精确的训练集变得越来越重要。需要真实网络流量的大数据集，正确分类为良性或恶意，不仅要训练经典和深度学习算法，还要作为现有恶意软件检测产品的评估基准。有趣的是，尽管用户在浏览web时可能遇到大量和多功能的威胁，但是实际的恶意内容通常很难得到，因为必须满足诸如浏览器和操作系统类型和版本之类的先决条件，以便从恶意软件分发服务器接收有效载荷。结合对实际用户流量数据集的隐私限制，研究人员和产品开发人员很难针对实际Web流量的大规模数据集评估反恶意软件解决方案。在本文中，我们提出了WebEye，一个框架，自主创建现实的HTTP流量，丰富记录的流量与额外的信息，并分类记录为恶意或良性的，使用不同的分类。我们正在使用WebEye收集恶意HTML和JavaScript，并展示如何使用WebEye创建的数据集来训练基于机器学习的恶意软件检测算法。我们将WebEye及其创建的数据集视为研究人员和产品开发人员的工具，以针对大规模基准评估和改进其基于AI的反恶意软件解决方案。
2018-02-16 cs.CR cs.LG
The Performance of Machine and Deep Learning Classifiers in Detecting Zero-Day Vulnerabilities
Texas Tech University（德克萨斯理工大学）；University of Debrecen（德布勒森大学）
零日攻击和漏洞的检测是一个具有挑战性的问题。因此，对网络管理员来说，高精度地识别它们是至关重要的。准确性越高，防御机制就越强大。在理想情况下（即，100%的准确性），系统可以检测零日恶意软件，而不必担心错误地将良性文件标记为恶意软件或使破坏性恶意代码作为非恶意代码运行。本文研究了不同的机器学习算法，以了解它们检测零日恶意软件的能力。通过对34个机器/深度学习分类器的测试，我们发现随机森林分类器的准确率最高。本文提出了几个关于机器和深度学习算法在检测零日恶意软件时的性能的研究问题，误报和漏报率为零。
2019-11-21 cs.CR cs.LG
Have You Stolen My Model? Evasion Attacks Against Deep Neural Network Watermarking Techniques
Sapienza University of Rome（罗马大学）
深度神经网络对计算机科学的各个领域产生了巨大的影响，大大超过了以前最先进的机器学习技术。为了实现这种性能，神经网络需要大量的数据和巨大的计算资源，这大大增加了它们的构建成本。构建良好的深度神经网络模型的成本增加，导致需要保护这种投资免受潜在的版权侵犯。机器学习模型的合法所有者希望能够可靠地跟踪和检测试图窃取与模型相关的知识产权的恶意对手。最近，通过在深度神经网络中引入水印的概念来解决这个问题，该概念允许合法所有者在给定模型中嵌入一些秘密信息（水印）。水印允许合法所有者检测其模型的版权侵犯。本文重点验证了最先进的深度神经网络水印方案的鲁棒性和可靠性。我们表明，恶意的对手，即使在水印难以删除的情况下，仍然可以逃避合法所有者的验证，从而避免检测模型盗窃。
2018-09-03 cs.CR cs.LG
Machine Learning-Based Malicious Vehicle Detection for Security Threats and Attacks in Vehicle Ad-hoc Network (VANET) Communications
University of Engineering and Technology, Vietnam National University, Hanoi（越南国立大学河内工程技术大学）
本文针对VANET中的黑洞攻击，构建正常与恶意流量数据集，提取判别特征，并评估多种机器学习算法的检测效果，验证了该方法能有效提升VANET安全性。
2024-01-16 cs.CR cs.LG cs.NI
AMSI-Based Detection of Malicious PowerShell Code Using Contextual Embeddings
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Microsoft（微软）
PowerShell是一个命令行shell，支持脚本语言。它被广泛用于组织的配置管理和任务自动化，但也越来越多地被网络犯罪分子用于对组织发动网络攻击，主要是因为它预装在Windows机器上，并暴露了攻击者可能利用的强大功能。这使得检测恶意PowerShell代码的问题既紧迫又具有挑战性。微软的反恶意软件扫描接口（AMSI）允许防御系统在执行之前扫描传递给脚本引擎（如PowerShell）的所有代码。在这项工作中，我们使用AMSI提供的信息进行恶意PowerShell代码检测的第一次研究。我们提出了几种新的基于深度学习的恶意PowerShell代码检测器，这些代码采用来自PowerShell“语言”的单词的预训练上下文嵌入。网络安全领域的一个已知问题是，与未标记数据相比，标记数据相对稀缺，这使得难以设计对许多类型的恶意活动的有效监督检测。PowerShell代码也是如此。我们的工作表明，这个问题可以通过学习基于未标记数据的预训练上下文嵌入来缓解。我们使用AMSI从一家大型反恶意软件供应商收集的真实数据来训练和评估我们的模型。我们的性能分析表明，使用未标记的数据进行嵌入显着提高了我们的检测器的性能。我们性能最好的模型使用的架构能够处理字符和标记级别的文本信号，并获得近90%的真阳性率，同时保持低于0.1%的低假阳性率。
2019-09-19 cs.CR cs.LG
DOC-NAD: A Hybrid Deep One-class Classifier for Network Anomaly Detection
University of Queensland（昆士兰大学）
机器学习（ML）方法已被用于增强网络入侵检测系统（NIDS）的检测能力。最近的工作已经取得了近乎完美的性能，以下二进制和多类网络异常检测任务。这样的系统依赖于在训练阶段期间（良性和恶意）网络数据类的可用性。然而，在大多数组织中，由于安全控制措施防止已知恶意流量渗透到其网络中，因此收集攻击数据样本通常具有挑战性。因此，本文提出了一种用于网络入侵检测的深度单类（DOC）分类器，仅对良性网络数据样本进行训练。新型单类分类架构由基于直方图的深度前馈分类器组成，用于提取有用的网络数据特征并使用有效的离群值检测。DOC分类器已经使用两个基准NIDS数据集进行了广泛的评估。结果表明，它的优越性，目前国家的最先进的一类分类器的检测和误报率。
2022-12-15 cs.CR cs.LG cs.NI
On Identifying Adversarial Intent Injection in AI-Native 6G Networks
University of Ottawa（渥太华大学）；Nokia Bell Labs（诺基亚贝尔实验室）
针对AI原生6G网络中恶意意图注入攻击，提出双路径检测框架（CNN与AutoEncoder），准确率达0.97，F1达0.98，优于基线。
2026-09-14 cs.CR cs.LG cs.NI
DeepIntent: ImplicitIntent based Android IDS with E2E Deep Learning architecture
BITS, Pilani, Goa（pilani 果阿校区）；Dept. of CS & IS, Goa Campus（果阿校区计算机科学与信息系统系）
Android中的Intent在进程间和进程内通信中起着重要作用。应用程序可以接受的隐式Intent在其清单中声明，并且是从apk中提取的最简单的功能之一。甚至，还可以在线实时提取‘真意’。到目前为止，既没有开发一个入侵检测系统的可行性，完全基于隐式意图已经探索，也没有任何基准的恶意软件分类器，是基于隐式意图单独。我们证明，尽管Intent是隐式的，并且声明良好，但它可以提供非常直观的见解来区分恶意和非恶意应用程序。我们对自动编码器和多层感知器的40多种不同的端到端深度学习配置进行了详尽的实验，以创建专门针对隐式意图的恶意软件分类器的基准。使用实验结果，我们创建了一个入侵检测系统，仅使用隐式Intents和端到端深度学习架构。在Drebin数据集上，我们获得了0.81的曲线下面积统计量和77.2%的准确率以及0.11的假阳性率。
2020-10-16 cs.AI cs.CR cs.LG
Using Deep Neural Network for Android Malware Detection
North China Electric Power University（华北电力大学）
Android操作系统的普及，以及几乎所有应用程序的可用性，都可以在官方Google Play商店或十几个替代第三方市场中轻松访问。此外，智能手机在现代生活中的重要作用导致在设备上存储重要信息，不仅是个人信息，还有公司信息，这吸引恶意软件开发人员开发可以渗透用户设备以窃取信息并执行有害任务的应用程序。这伴随着当前防御技术的局限性，例如Google Play商店中的无效筛选，第三方市场中的弱筛选或无筛选。仍然依赖于基于签名的数据库的防病毒软件，该数据库仅在识别已知恶意软件时有效。为了应对日益增长的恶意应用，提出了一种基于深度学习技术的Android恶意软件检测系统。在包含良性和恶意应用程序的真实数据集上进行的大量实验表明，该系统的准确率达到95.31%。
2019-01-16 cs.CR cs.LG
MalPhase: Fine-Grained Malware Detection Using Network Flow Data
University of Oxford（牛津大学）；Sapienza University of Rome（罗马第一大学）
经济激励鼓励恶意软件作者不断开发新的、越来越复杂的恶意软件，以窃取敏感数据或勒索个人和公司支付巨额赎金。2017年，网络攻击对全球经济的影响估计在4450亿至6000亿美元之间，占全球GDP的0.8%。传统上，用于防御恶意软件的方法之一是网络流量分析，其依赖于网络数据来检测潜在恶意软件的存在。然而，为了跟上不断增长的网络速度和流量，网络分析通常仅限于处理聚合的网络数据，这在传统上具有挑战性，并且会产生混合结果。在本文中，我们提出了MalPhase，一个系统，旨在应付聚合流的局限性。MalPhase具有用于恶意软件检测、类型和家族分类的多阶段管道。使用扩展的网络流功能集和同步多层架构有助于提高深度学习模型的性能，使其能够检测恶意流（>98% F1）并将其分类为相应的恶意软件类型（>93% F1）和家族（>91% F1）。此外，使用强大的功能和去噪自动编码器允许MalPhase在混合了不同数量的良性流量的样本上表现良好。最后，MalPhase可以检测到看不见的恶意软件样本，其性能与已知样本相当，即使与良性流交织以反映真实的网络环境。
2021-06-01 cs.CR cs.LG cs.NI
Blackbox Trojanising of Deep Learning Models : Using non-intrusive network structure and binary alterations
Home Team Science and Technology Agency, Singapore（新加坡本土安全科技局）
人工智能的最新进展，即深度学习，提高了其在许多应用中的采用率。有些国家发挥着重要作用，以至于我们的生计严重依赖它们。然而，与所有技术一样，存在恶意行为者可以利用的漏洞。一种形式的利用是将这些技术，本来是好的，变成双重目的的工具，以支持异常行为，如恶意软件木马。作为主动防御的一部分，研究人员正在主动识别这些漏洞，以便随后制定保护措施。这项研究探索了一种新的黑盒木马方法，使用简单的网络结构修改任何深度学习图像分类模型，将良性模型转换为异常模型，只需简单操作权重即可引发特定类型的错误。在这项研究中讨论了保护这种简单的漏洞的发生的建议。这项研究强调了为这些模型提供足够保障的重要性，以便保护人工智能创新和采用的预期利益。
2020-08-02 cs.AI cs.CR cs.LG
Black-box Adversarial Example Generation with Normalizing Flows
The university of melbourne（墨尔本大学）
深度神经网络分类器存在对抗性漏洞：对输入数据精心设计的、不明显的更改可能会影响分类器的决策。在这方面，对强大的对抗攻击的研究可以帮助揭示这种恶意行为的来源。在本文中，我们提出了一种新的黑盒对抗攻击使用规范化流。我们展示了如何通过搜索预训练的基于流的模型基础分布来找到对手。通过这种方式，我们可以生成与原始数据非常相似的对手，因为扰动是数据的形状。然后，我们证明了所提出的方法对著名的黑盒对抗攻击方法的竞争性能。
2020-07-06 cs.CR cs.CV cs.LG
IoT Malware Network Traffic Classification using Visual Representation and Deep Learning
随着物联网设备和技术投入使用的增加，恶意软件已经成为一种具有挑战性的威胁，感染率和复杂程度都在增加。如果没有强大的安全机制，大量的敏感数据就会暴露在漏洞中，因此很容易被网络犯罪分子滥用来执行一些非法活动。因此，需要能够执行实时流量分析和恶意流量缓解的高级网络安全机制。为了应对这一挑战，我们提出了一种新的物联网恶意软件流量分析方法，该方法使用深度学习和视觉表示来更快地检测和分类新的恶意软件（零日恶意软件）。在所提出的方法中，恶意网络流量的检测工作在包级别，由于使用了深度学习技术，显著减少了检测时间，并取得了令人满意的结果。为了评估我们提出的方法的性能，构建了一个数据集，它由从不同的网络流量源收集的正常和恶意软件流量的1000个pcap文件组成。残差神经网络（ResNet50）的实验结果是非常有前途的，提供了94.50%的准确率检测恶意软件流量。
2020-10-04 cs.CR cs.LG
CAN-LOC: Spoofing Detection and Physical Intrusion Localization on an In-Vehicle CAN Bus Based on Deep Features of Voltage Signals
Ben-Gurion University of the Negev（内盖夫本-古里安大学）；Politehnica University of Timisoara（蒂米什瓦拉理工大学）
控制器局域网（CAN）用于车载设备之间的通信。CAN总线已被证明容易受到远程攻击。为了增强车辆抵御此类攻击的能力，车辆制造商将车载网络划分为子网络，在逻辑上隔离关键设备。但是，攻击者仍然可以物理访问各种子网，在这些子网中他们可以连接恶意设备。这一威胁尚未得到充分解决，因为为确定实际入侵点而提出的方法效果不佳，因此需要开发更先进的技术。为了解决这种类型的威胁，我们提出了一个车载网络的安全加固系统。所提出的系统包括两个机制，处理从CAN总线上测量的电压信号中提取的深度特征。第一种机制使用数据增强和深度学习来检测和定位车辆启动时的物理入侵;这种机制可以检测和定位入侵，即使在连接的恶意设备静默时也是如此。这种机制的有效性（100%的准确性）证明了在各种各样的插入情况下的CAN总线原型。第二种机制是一种连续的设备认证机制，也是基于深度学习的;这种机制的鲁棒性（99.8%的准确率）在真实的移动车辆上得到了证明。
2021-06-15 cs.CR cs.LG
Deep Multi-Task Learning for Malware Image Classification
University of Colorado Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
本文提出深度多任务学习框架，将恶意软件特征转为BMP/PNG图像分类，在约10万样本的七任务中用PReLU取得99.87%以上准确率，并可识别多种混淆手段。
2024-05-09 cs.CR cs.CV cs.LG
Integrating Explainable AI for Effective Malware Detection in Encrypted Network Traffic
University of Bari（巴里大学）
本文整合XAI与集成学习，基于多视图特征检测加密恶意流量，构建涵盖54个恶意软件家族的1,127条连接数据集，并利用SHAP解释关键特征，模型性能超过99%。
2025-01-09 cs.CR cs.LG
MULTI-LF: A Continuous Learning Framework for Real-Time Malicious Traffic Detection in Multi-Environment Networks
School of Computer Science, University College Dublin（都柏林大学计算机科学学院）
针对多环境网络中现有ML方法泛化能力不足的问题，提出Multi-LF持续学习框架，构建Docker-NS3测试平台生成M-En数据集，通过轻量-深度模型协同与权重插值缓解灾难性遗忘，实现高准确率与低人工干预。
2025-11-10 cs.AI cs.CR cs.LG
From Past to Present: A Survey of Malicious URL Detection Techniques, Datasets and Code Repositories
Hangzhou Institute of Technology,Xidian University,Hangzhou,310000,Zhejiang,China（杭州科技学院，西安电子科技大学，杭州，310000，浙江，中国）
本文综述了恶意URL检测技术，提出基于数据模态的新分类法，系统梳理传统方法到Transformer、GNNs和LLMs等深度学习方法，并整理公开数据集与开源实现，为标准化基准测试和未来研究提供指导。
2025-06-01 cs.CR cs.LG
BLAST: A Stealthy Backdoor Leverage Attack against Cooperative Multi-Agent Deep Reinforcement Learning based Systems
本文提出后门杠杆攻击方法 BLAST，通过仅在单个智能体中嵌入基于对手时空行为模式的隐蔽后门并篡改其奖励函数，即可攻击整个协作多智能体深度强化学习系统，在多个环境和算法上取得高攻击成功率。
2025-07-18 cs.AI cs.CR cs.LG
Optimized Deep Learning Models for Malware Detection under Concept Drift
Orange Innovation（奥兰治创新公司）
本文针对恶意软件检测中的概念漂移问题，提出模型无关协议和 Drift-Resilient Binary Cross-Entropy 损失函数，并在 EMBER 与近期数据集上验证，使恶意软件检测率比基线提升 15.2%。
2024-08-01 cs.AI cs.CR cs.LG
An Embarrassingly Simple Approach for Trojan Attack in Deep Neural Networks
Texas A&M University（德克萨斯农工大学）
随着深度神经网络（DNN）在高风险应用中的广泛应用，DNN模型的安全问题受到了广泛关注。在本文中，我们研究了一个特定的安全问题，称为木马攻击，其目的是攻击部署DNN系统依赖于隐藏的触发模式插入恶意黑客。我们提出了一种无训练的攻击方法，这是不同于以往的工作，其中特洛伊木马的行为注入重新训练模型上中毒的数据集。具体来说，我们不改变原始模型中的参数，而是在目标模型中插入一个微小的木马模块（TrojanNet）。当输入被特殊触发器标记时，带有恶意特洛伊木马的受感染模型可以将输入错误分类为目标标签。拟议的TrojanNet具有几个很好的特性，包括（1）它通过微小的触发模式激活，并对其他信号保持沉默，（2）它是模型不可知的，可以注入大多数DNN，大大扩展其攻击场景，（3）与传统的特洛伊木马攻击方法相比，免训练机制节省了大量的训练工作。实验结果表明，TrojanNet能够同时向所有标签注入木马（全标签木马攻击），在不影响原任务模型准确性的情况下，实现100%的攻击成功率。实验分析进一步表明，现有的木马检测算法无法检测到TrojanNet攻击。该代码可在https://github.com/trx14/TrojanNet上获得。
2020-06-18 cs.CR cs.LG
A Transformer-Based Framework for Payload Malware Detection and Classification
University of West Florida（西佛罗里达大学）；Florida Institute For Human and Machine Cognition (IHMC)（佛罗里达人机认知研究所）；Center for Cybersecurity, University of West Florida（西佛罗里达大学网络安全中心）
提出基于Transformer的DPI算法，使用原始载荷字节检测并分类恶意流量，在UNSW-NB15和CIC-IOT23数据集上二分类准确率达79%，多分类达72%。
2024-03-27 cs.AI cs.CR cs.LG
Deep Learning for Android Malware Defenses: a Systematic Literature Review
Monash University（莫纳什大学）；Southern University of Science and Technology（南方科技大学）
恶意应用程序（特别是针对Android平台的应用程序）对开发人员和最终用户构成严重威胁。许多研究工作致力于开发有效的方法来防御Android恶意软件。然而，鉴于Android恶意软件的爆炸式增长以及混淆和反射等恶意规避技术的不断进步，基于手动规则或传统机器学习的Android恶意软件防御方法可能无法有效。近年来，被称为深度学习（DL）的主导研究领域提供了强大的特征提取能力，在诸如自然语言处理和计算机视觉的各种领域中已经展示了引人注目的和有前途的性能。为此，采用深度学习技术来阻止Android恶意软件攻击最近引起了相当大的研究关注。然而，目前还没有针对Android恶意软件防御的深度学习方法的系统性文献综述。在本文中，我们进行了系统的文献综述，以搜索和分析深度学习方法如何应用于Android环境中的恶意软件防御。因此，确定了涵盖2014-2021年期间的共计132项研究。我们的调查显示，虽然这些来源中的大多数主要考虑基于DL的Android恶意软件检测，但53项主要研究（40.1%）基于其他场景设计防御方法。本文还讨论了基于DL的Android恶意软件防御的研究趋势、研究重点、面临的挑战和未来的研究方向。
2022-08-09 cs.CR cs.LG cs.SE
CogniDir: Combating Cognitive Malicious Comments via Adaptive Distributional Learning for Robust Fake News Detection
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；University of Minnesota（明尼苏达大学）；Queen Mary University of London（伦敦玛丽女王大学）；New Laboratory of Pattern Recognition (NLPR), Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所模式识别新实验室）
AdComment通过自适应对抗训练框架提升对抗恶意评论的虚假新闻检测鲁棒性，实现F1分数显著提升。
2026-09-09 cs.AI cs.CL cs.LG
Witches' Brew: Industrial Scale Data Poisoning via Gradient Matching
University of Siegen（锡根大学）；University of Maryland（马里兰大学）；US Naval Academy（美国海军学院）
数据投毒攻击修改训练数据，以恶意控制在此类数据上训练的模型。在这项工作中，我们专注于有针对性的中毒攻击，导致未修改的测试图像的重新分类，因此违反模型的完整性。我们考虑一个特别恶意的中毒攻击，这是“从头开始”和“干净的标签”，这意味着我们分析的攻击，成功地对新的，随机初始化的模型，几乎是人类无法察觉的，同时只扰动一小部分的训练数据。在这种情况下，以前针对深度神经网络的中毒攻击在范围和成功方面都受到限制，仅在简化的设置中工作，或者对于大型数据集来说过于昂贵。新攻击的核心机制是匹配恶意样本的梯度方向。我们分析了为什么这样做，并补充了实际考虑。并向现实世界的从业者展示了它的威胁，发现它是第一个在现代深度网络中导致有针对性的错误分类的中毒方法，这些深度网络是在全尺寸中毒的ImageNet数据集上从头开始训练的。最后，我们证明了现有的防御策略对这种攻击的局限性，得出的结论是，数据投毒是一个可信的威胁，即使是大规模的深度学习系统。
2021-05-10 cs.CV cs.LG
