Level Up with ML Vulnerability Identification: Leveraging Domain Constraints in Feature Space for Robust Android Malware Detection
Radboud University（拉德堡德大学）；Ruhr University Bochum（波鸿鲁尔大学）
针对ML在Android恶意软件检测中易受可实现对抗样本规避攻击的问题，提出在特征空间学习Android域约束的新方法，有效检测对抗样本，并在对抗训练中显著提升模型鲁棒性和训练效率。
2024-12-24 cs.CR cs.LG
Improving Robustness of ML Classifiers against Realizable Evasion Attacks Using Conserved Features
Washington University in St. Louis（圣路易斯华盛顿大学）；UIUC（伊利诺伊大学厄巴纳-香槟分校）；Ariel University（阿里埃勒大学）；University of Michigan（密歇根大学）
机器学习（ML）技术在安全应用中越来越常见，例如恶意软件和入侵检测。然而，ML模型通常容易受到规避攻击的影响，其中对手对输入（例如恶意软件）进行更改以避免被检测到。评估ML对此类攻击的鲁棒性以及设计鲁棒ML的传统方法是通过考虑简化的攻击特征空间模型，其中攻击者直接改变ML特征以实现规避，同时最小化或限制这种变化的幅度。我们研究了这种方法在面对可以在实际恶意软件中实现的攻击（可实现的攻击）时设计鲁棒ML的有效性。我们证明，在基于结构的PDF恶意软件检测的上下文中，这样的技术似乎有有限的有效性，但他们是有效的基于内容的检测器。在这两种情况下，我们表明，增加保守的功能（那些不能单方面修改而不损害恶意功能）的特征空间模型显着提高性能。最后，我们表明，特征空间模型，使广义的鲁棒性时，面对各种可实现的攻击，相比，被调整到一个特定的可实现的攻击是强大的分类器。
2019-05-10 cs.CR cs.LG
LLM-Driven Feature-Level Adversarial Attacks on Android Malware Detectors
本文提出LAMLAD框架，利用大语言模型生成特征扰动以对抗恶意软件检测器，实验显示攻击成功率高达97%，并提出对抗训练防御策略提升模型鲁棒性。
2025-12-24 cs.AI cs.CR
Statically Detecting Adversarial Malware through Randomised Chaining
随着恶意软件攻击的快速增长，越来越多的防病毒开发人员考虑将机器学习技术部署到他们的产品中。近年来，研究人员和开发人员发布了各种基于机器学习的检测器，这些检测器在恶意软件检测方面具有很高的精度。虽然有许多基于机器学习的恶意软件检测器可用，但它们面临各种以机器学习为目标的攻击，包括逃避和对抗攻击。该项目探讨了对抗性示例如何以及为什么能够逃避恶意软件检测器，然后提出了一种随机链接方法来静态防御对抗性恶意软件。这项研究对于打击相关恶意软件网络犯罪至关重要。
2021-12-04 cs.CR
Defending against Adversarial Malware Attacks on ML-based Android Malware Detection Systems
Zhejiang University（浙江大学）；University College London（伦敦大学学院）
本文提出ADD框架，一种插件式防御方案，用于增强基于机器学习的Android恶意软件检测系统对问题空间对抗性攻击的鲁棒性，实验证明其有效且能提升现实防病毒软件的防御能力。
2025-01-23 cs.AI cs.CR cs.LG
Towards a Practical Defense against Adversarial Attacks on Deep Learning-based Malware Detectors via Randomized Smoothing
CeADAR, University College Dublin（CeADAR 都柏林大学学院）；IBM Research Europe（IBM 欧洲研究院）
针对深度学习恶意软件检测器的对抗攻击，提出基于随机消融平滑的实用防御方法，在BODMAS数据集上验证了增强的鲁棒性和泛化能力。
2023-08-17 cs.AI cs.CR
Adversarial Evasion in Non-Stationary Malware Detection: Minimizing Drift Signals through Similarity-Constrained Perturbations
Northern Arizona University（北亚利桑那大学）
研究探讨了攻击者能否生成同时规避分类和保持漂移监控机制不可察的对抗性恶意软件样本，提出通过相似性约束扰动平衡分类误判与漂移信号最小化。
2026-04-23 cs.AI cs.CR
Combining Generators of Adversarial Malware Examples to Increase Evasion Rate
Faculty of Information Technology, Czech Technical University in Prague（捷克布拉格技术大学信息技术学院）
本文提出组合多个对抗性恶意软件示例生成器以提升逃逸率，实验表明最佳组合在顶级反病毒产品上平均逃逸率达15.9%，显著优于单一生成器。
2023-04-14 cs.AI cs.CR
The Power of MEME: Adversarial Malware Creation with Model-Based Reinforcement Learning
Faculty of Electrical Engineering, Czech Technical University in Prague（布拉格捷克理工大学电气工程学院）
本文提出 MEME 算法，结合恶意软件规避与模型提取，利用基于模型的强化学习对抗性修改 Windows 可执行文件并训练高一致性代理模型，在多个目标和杀毒产品上实现了 32-73% 的规避率，优于现有方法。
2023-08-31 cs.AI cs.CR
ADVERSARIALuscator: An Adversarial-DRL Based Obfuscator and Metamorphic Malware SwarmGenerator
Microsoft R&D（微软研发中心）；BITS Pilani（比尔拉理工学院皮拉尼校区）
高级变形恶意软件和勒索软件通过使用混淆，可以在每次攻击中改变其内部结构。如果这种恶意软件甚至可以入侵任何物联网网络，那么即使原始恶意软件实例被检测到，到那时它仍然可以感染整个网络。获得这种规避恶意软件的训练数据是具有挑战性的。因此，在本文中，我们提出了ADVERSARIALuscator，一个新的系统，使用专门的对抗性DRL混淆恶意软件在操作码级别，并创建多个变形的实例相同。据我们所知，ADVERSARIALuscator是有史以来第一个采用基于马尔可夫决策过程的方法来转换并找到在操作码级别创建单个混淆问题的解决方案的系统。这一点很重要，因为机器语言级别是可以保留功能的最低级别，以便有效地模拟实际攻击。ADVERSARIALuscator也是有史以来第一个使用高效连续动作控制的系统，能够进行深度强化学习代理，如网络安全领域的近端策略优化。实验结果表明，ADVERSARIALuscator可以将恶意软件语料库的变形概率提高>0.45。此外，ADVERSARIALuscator生成的变形实例中有超过33%能够避开最强大的IDS。如果这种恶意软件甚至可以入侵任何物联网网络，那么即使原始恶意软件实例被检测到，到那时它仍然可以感染整个网络。因此，ADVERSARIALuscator可以用来生成代表一群非常强大和协调的基于AI的变形恶意软件攻击的数据。如此生成的数据和模拟可用于加强IDS对高级…
2021-09-23 cs.AI cs.CR cs.LG
A Robust Defense against Adversarial Attacks on Deep Learning-based Malware Detectors via (De)Randomized Smoothing
CeADAR, University College Dublin（都柏林大学学院CeADAR）；IBM Research Europe（IBM欧洲研究院）；University of Lleida（莱里达大学）
本文针对深度学习恶意软件检测器易受对抗样本攻击的问题，提出基于字节块消融的（去）随机平滑防御方法，通过训练基分类器对连续字节块分类并在测试时取共识预测，在BODMAS数据集上显著提升了检测器对逃避攻击的鲁棒性。
2024-02-26 cs.AI cs.CR
secml-malware: Pentesting Windows Malware Classifiers with Adversarial EXEmples in Python
针对基于学习的Windows恶意软件检测器易被对抗样本规避的问题，研究团队推出了首个Python库secml-malware，实现了白盒与黑盒对抗攻击，可用于渗透测试及鲁棒性评估，且支持扩展新攻击策略。
2024-12-13 cs.CR
Improving Android Malware Detection Through Data Augmentation Using Wasserstein Generative Adversarial Networks
Northwestern Polytechnical University（西北工业大学）
提出将 Android 恶意软件特征转为灰度图像并用 WGAN 等生成合成数据增强 CNN 训练，实验表明其可提升检测性能 1.5%–7%，F1 最高达 0.975。
2024-03-05 cs.AI cs.CR
Creating Valid Adversarial Examples of Malware
Faculty of Information Technology, Czech Technical University in Prague（布拉格捷克技术大学信息技术学院）；San Jose State University（圣何塞州立大学）
本文提出用强化学习生成保持功能的恶意软件对抗样本，在黑盒设置下对GBDT、MalConv及杀毒引擎实现显著逃逸率，揭示机器学习检测系统的脆弱性。
2023-06-23 cs.AI cs.CR
DOOM: A Novel Adversarial-DRL-Based Op-Code Level Metamorphic Malware Obfuscator for the Enhancement of IDS
BITS Pilani（比尔拉理工学院皮拉尼校区）
我们设计并开发了DOOM（Adversarial-DRL based Opcode level Obfuscator to generate Metamorphic malware），这是一种新颖的系统，使用对抗性深度强化学习在操作码级别混淆恶意软件，以增强IDS。DOOM的最终目标不是为网络攻击者提供强大的武器，而是创建针对高级零日攻击的防御机制。实验结果表明，由DOOM创建的混淆恶意软件可以有效地模仿多个同时发生的零日攻击。据我们所知，DOOM是第一个可以生成详细到个人操作码级别的混淆恶意软件的系统。DOOM也是有史以来第一个在恶意软件生成和防御领域使用基于深度强化学习的高效连续动作控制的系统。实验结果表明，超过67%的变形恶意软件生成的毁灭战士可以很容易地逃避检测，即使是最强大的IDS。这一成就获得的意义，因为这一点，即使是入侵检测系统与先进的路由子系统增加可以很容易地逃避恶意软件产生的毁灭战士。
2020-10-16 cs.AI cs.CR cs.LG
Adversarial Attacks on Transformers-Based Malware Detectors
College of Engineering, Pune（浦那工程学院）
本文研究基于Transformer的恶意软件检测器对对抗性攻击的脆弱性，通过实施攻击获得23.9%的错误分类率，并提出防御方法将错误分类率降低一半。
2022-11-05 cs.AI cs.CR cs.LG
Feature-Space Bayesian Adversarial Learning Improved Malware Detector Robustness
The University of Adelaide（阿德莱德大学）；The University of New South Wales（新南威尔士大学）；Data61, CSIRO（CSIRO数据61）；Defence Science and Technology Group（国防科学与技术集团）
研究提出在特征空间进行对抗学习训练鲁棒恶意软件检测器的算法，通过证明问题空间受扰恶意软件在特征空间投影是对抗样本子集，制定贝叶斯对抗学习目标，实现对问题空间对抗样本的鲁棒性，对抗训练的BNN达最先进水平。
2026-07-09 cs.CR
Attack and Defense of Dynamic Analysis-Based, Adversarial Neural Malware Classification Models
最近，研究人员提出使用基于深度学习的系统进行恶意软件检测。不幸的是，所有深度学习分类系统都容易受到对抗攻击的攻击。先前的工作已经研究了针对基于静态分析的恶意软件分类器的对抗攻击，所述恶意软件分类器仅对未知文件的内容进行分类而不执行。然而，由于大多数恶意软件被打包或加密，基于静态分析的恶意软件分类通常无法检测到这些类型的文件。为了克服这种限制，反恶意软件公司通常通过在反恶意软件引擎中仿真每个文件或在虚拟机中执行深入扫描来执行动态分析。这些策略允许在解包或解密后分析恶意软件。在这项工作中，我们研究了不同的策略制作对抗样本的动态分析。这些策略对稀疏的二进制输入进行操作，而不是像图像中的像素这样的连续输入。然后，我们研究了两个先前提出的防御机制对精心制作的对抗性样本的影响，包括蒸馏和合奏防御。我们还提出并评估了权重衰减防御。实验表明，与没有任何防御的标准基线系统相比，使用这三种防御策略，成功制作的对抗样本的数量减少了。特别是，整体防御是最有弹性的对抗攻击。重要的是，这些防御措施都没有显著降低检测恶意软件的分类准确性。最后，我们证明，虽然添加额外的隐藏层的神经模型并没有显着提高恶意软件分类的准确性，它显着增加分类器的鲁棒性对抗攻击。
2017-12-16 cs.CR
Adversarial Malware Binaries: Evading Deep Learning for Malware Detection in Executables
机器学习方法已经被用作检测恶意可执行文件的有用工具。它们利用从恶意软件样本中检索到的数据，例如头字段、指令序列甚至原始字节，来学习区分良性软件和恶意软件的模型。然而，也已经表明，机器学习和深度神经网络可以被逃避攻击（也称为对抗性示例）所欺骗，即，对输入数据的小的改变导致测试时的误分类。在这项工作中，我们研究了使用深度网络从原始字节中学习的恶意软件检测方法的漏洞。我们提出了一种基于梯度的攻击，它能够通过在每个恶意软件样本的末尾仅更改几个特定字节来规避最近提出的适合此目的的深度网络，同时保留其侵入性功能。有希望的结果表明，我们的对抗性恶意软件二进制文件以很高的概率逃避目标网络，即使它们的字节只有不到1%被修改。
2018-03-12 cs.CR
A Comparison of State-of-the-Art Techniques for Generating Adversarial Malware Binaries
U.S. Naval Research Laboratory（美国海军研究实验室）；George mason university（乔治梅森大学）
我们考虑由网络攻击者生成对抗性恶意软件的问题，其中攻击者的任务是策略性地修改现有二进制恶意软件文件内的某些字节，使得修改后的文件能够逃避恶意软件检测器，例如基于机器学习的恶意软件分类器。我们已经评估了三种最近的对抗性恶意软件生成技术，这些技术使用从单个公开可用的恶意软件数据集中提取的二进制恶意软件样本，并比较了它们逃避基于机器学习的恶意软件分类器MalConv的性能。我们的研究结果表明，在比较的技术，最有效的技术是一个战略性地修改字节在二进制文件的头部。最后，我们讨论了关于对抗性恶意软件生成的经验教训和未来的研究方向。
2021-11-22 cs.CR cs.LG
MalFox: Camouflaged Adversarial Malware Example Generation Based on Conv-GANs Against Black-Box Detectors
深度学习是一个蓬勃发展的领域，目前充满了许多实际应用和活跃的研究课题。它允许计算机从经验中学习，并根据概念的层次结构来理解世界，每个概念都通过与更简单概念的关系来定义。依靠深度学习的强大功能，我们提出了一个名为MalFox的基于卷积生成对抗网络（Conv-GAN）的框架，目标是对抗第三方黑盒恶意软件检测器的对抗恶意软件示例生成。受恶意软件作者和恶意软件检测器之间的竞争游戏的激励，MalFox采用对抗性方法来产生扰动路径，每个路径由多达三种方法（即Obfusmal，Stealmal和Hollowmal）形成，以生成对抗性恶意软件示例。为了证明MalFox的有效性，我们收集了一个由恶意软件和善意软件程序组成的大型数据集，并在生成的对抗性恶意软件示例的准确性，检测率和规避率方面研究了MalFox的性能。我们的评估表明，准确率可以高达99.0%，显著优于其他12个著名的学习模型。此外，检测率平均大幅下降了56.8%，平均回避率显著提高了56.2%。
2022-06-06 cs.CR
Query-Free Evasion Attacks Against Machine Learning-Based Malware Detectors with Generative Adversarial Networks
针对黑盒恶意软件检测器现有攻击依赖模型信息或大量查询的问题，提出一种无查询、模型无关的GAN框架，生成更逼真的对抗样本并降低多类检测器及VirusTotal引擎的检出率。
2023-06-16 cs.CR
ATMPA: Attacking Machine Learning-based Malware Visualization Detection Methods via Adversarial Examples
随着恶意软件（malware）威胁的日益严重，恶意软件自动检测技术受到越来越多的关注，其中基于机器学习（ML）的可视化检测方法越来越流行。在本文中，我们证明了最先进的基于ML的可视化检测方法容易受到对抗性示例（AE）攻击。基于梯度下降和L-范数优化方法，提出了一种新的对抗性纹理恶意软件扰动攻击（ATMPA）方法，攻击者可以在变换后的数据集上引入一些微小的扰动，使得基于ML的恶意软件检测方法完全失效。在MS BIG恶意软件数据集上的实验结果表明，对于几种基于ML的检测方法，小的干扰可以将准确率降低到0%，并且平均可转移率为74.1%。
2019-12-30 cs.CR
Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN
Peking University（北京大学）
近年来，机器学习已被用于检测新的恶意软件，而恶意软件作者具有攻击此类算法的强烈动机。恶意软件作者通常无法访问恶意软件检测系统使用的机器学习模型的详细结构和参数，因此他们只能执行黑盒攻击。本文提出了一种基于生成对抗网络（GAN）的算法MalGAN来生成对抗恶意软件示例，该示例能够绕过基于黑盒机器学习的检测模型。MalGAN使用替代检测器来适应黑盒恶意软件检测系统。生成网络被训练以最小化由替代检测器预测的生成的对抗性示例的恶意概率。与传统的基于梯度的对抗性示例生成算法相比，MalGAN的优势在于，MalGAN能够将检测率降低到几乎为零，并且使基于再训练的对抗性示例防御方法难以工作。
2017-02-20 cs.CR cs.LG
Robust Android Malware Detection System against Adversarial Attacks using Q-Learning
BITS Pilani（比尔拉科学技术学院）；Microsoft（微软）
当前最先进的Android恶意软件检测系统基于机器学习和深度学习模型。尽管具有优越的性能，这些模型容易受到对抗攻击。因此，在本文中，我们开发了八种基于机器学习和深度神经网络的Android恶意软件检测模型，并研究了它们对对抗攻击的鲁棒性。为此，我们使用强化学习创建了新的恶意软件变体，这些变体将被现有的Android恶意软件检测模型错误分类为良性。我们提出了两种新的攻击策略，即使用强化学习的白盒和灰盒场景下的单策略攻击和多策略攻击。站在对手的立场上，我们设计了针对检测模型的对抗攻击，目标是最大化欺骗率，同时对Android应用程序进行最少的修改，并确保应用程序的功能和行为不会发生变化。我们在所有8个检测模型中分别实现了44.21%和53.20%的平均欺骗率，最多使用单策略攻击和多策略攻击进行5次修改。采用多策略方法，对基于决策树的模型进行了5次修改，取得了86.09%的最高欺骗率。最后，我们提出了一种对抗性防御策略，该策略可以将针对单个策略攻击的平均欺骗率降低三倍至15.22%，从而提高检测模型的鲁棒性，即所提出的模型可以有效地检测恶意软件的变体（变形）。实验分析表明，我们提出的基于强化学习的Android恶意软件检测系统对对抗攻击具有更强的鲁棒性。
2021-01-27 cs.AI cs.CR cs.LG
Flexible Android Malware Detection Model based on Generative Adversarial Networks with Code Tensor
Alibaba Group（阿里巴巴集团）；Huazhong University of Science and Technology（华中科技大学）；Xi’an International Studies University（西安外国语大学）
恶意软件威胁的行为正在逐渐增加，提高了对恶意软件检测的需求。然而，现有的恶意软件检测方法仅针对已有的恶意样本，对新的恶意代码和恶意代码变种的检测能力有限。在本文中，我们提出了一种新的方案，检测恶意软件及其变种有效。基于生成对抗网络（GANs）的思想，获取符合真实恶意软件特征的“真实”样本分布，利用它们欺骗恶意软件，从而实现对恶意代码攻击的防御，提高恶意软件检测能力。首先，提出了一种新的Android恶意软件APK对图像纹理特征提取的分割方法--分段自生长纹理分割算法。其次，基于低秩的张量奇异值分解（tSVD）将不同大小的恶意特征统一转换为固定的三阶张量，输入神经网络进行训练学习。最后，提出了一种基于带代码张量的GANs（MTFD-GANs）的Android恶意软件检测模型。实验结果表明，该模型总体上优于传统的恶意软件检测模型，最高效率提高了41.6%.同时，GANs生成器新生成的样本极大地丰富了样本多样性。对恶意软件检测器进行再训练，可以有效提高传统模型的检测效率和鲁棒性。
2022-10-25 cs.AI cs.CR cs.LG
Explainability Guided Adversarial Evasion Attacks on Malware Detectors
本文提出利用SHAP可解释性识别PE恶意软件中对MalConv检测决策影响最大的区域，并据此在最优位置注入对抗扰动以增强逃逸攻击效率。
2024-05-02 cs.CR
Effectiveness of Adversarial Benign and Malware Examples in Evasion and Poisoning Attacks
本文研究良性对抗样本在恶意软件检测逃避与投毒攻击中的有效性，通过修改现有生成器证明其与恶意样本同样有效，且在投毒攻击中影响更大，揭示了新的安全威胁。
2025-01-19 cs.CR
Bayesian Learned Models Can Detect Adversarial Malware For Free
研究提出利用贝叶斯学习方法量化认识不确定性来检测对抗性恶意软件，该方法在不牺牲模型性能的前提下，能有效识别特征与问题空间中的对抗样本、检测概念漂移并显著增强检测器能力。
2024-03-27 cs.CR
Generative Adversarial Networks and Image-Based Malware Classification
San Jose State University（圣何塞州立大学）
为了有效地删除恶意软件、确定恶意软件威胁级别和估计损害，恶意软件家族分类起着至关重要的作用。在本文中，我们从恶意软件可执行文件中提取特征，并使用各种方法将它们表示为图像。然后，我们专注于生成对抗网络（GAN）的多类分类，并将我们的GAN结果与其他流行的机器学习技术进行比较，包括支持向量机（SVM），XGBoost和限制玻尔兹曼机（RBM）。我们发现，AC-GAN神经网络通常与其他机器学习技术竞争。我们还评估了GAN生成模型对基于图像的恶意软件检测的对抗攻击的效用。虽然AC-GAN生成的图像在视觉上令人印象深刻，但我们发现，使用几种学习技术中的任何一种，它们都可以很容易地与真实的恶意软件图像区分开来。这一结果表明，我们的GAN生成的图像在对抗攻击中几乎没有价值。
2022-06-08 cs.CR cs.LG
A survey on practical adversarial examples for malware classifiers
Rensselaer Polytechnic Institute（伦斯勒理工学院）
基于机器学习的解决方案在解决处理大量数据的问题方面非常有帮助，例如恶意软件检测和分类。然而，深度神经网络被发现容易受到对抗性示例的影响，或者输入被故意扰动以导致不正确的标签。研究人员已经证明，这个漏洞可以被利用来创建规避恶意软件样本。然而，许多提出的攻击不生成可执行文件，而是生成特征向量。为了充分理解对抗性示例对恶意软件检测的影响，我们回顾了针对恶意软件分类器的实际攻击，这些分类器生成可执行的对抗性恶意软件示例。我们还讨论了目前在这一领域的研究，以及改进和未来的研究方向的建议面临的挑战。
2020-11-06 cs.CR cs.LG
Intra-Section Code Cave Injection for Adversarial Evasion Attacks on Windows PE Malware File
本研究提出节内代码洞穴注入的Windows PE恶意软件对抗规避方法，搭配代码加载器保留恶意软件功能，针对MalConv和MalConv2检测器实现了远高于追加式攻击的规避率。
2024-03-11 cs.CR
IoT-based Android Malware Detection Using Graph Neural Network With Adversarial Defense
Department of Computer and Information Sciences, Northumbria University（北安普顿大学计算机与信息科学系）；School of Computing, Engineering & Digital Technologies, Teesside University（泰赛大学计算、工程与数字技术学院）
本文提出基于图神经网络的Android恶意软件检测方法，并设计VGAE-MalGAN对抗攻击算法以提升检测鲁棒性。
2025-12-23 cs.AI cs.CR cs.LG
Towards Adversarial Malware Detection: Lessons Learned from PDF-based Attacks
恶意软件仍然是网络安全领域的一个主要威胁，这也是由于文件等感染媒介的广泛使用。这些感染载体向受害用户隐藏嵌入的恶意代码，便于使用社会工程技术感染他们的机器。研究表明，机器学习算法提供了针对此类威胁的有效检测机制，但在对抗环境中存在的军备竞赛最近对此类系统提出了挑战。在这项工作中，我们专注于嵌入在PDF文件中的恶意软件作为这样的军备竞赛的代表性案例。我们首先提供了一个全面的分类用于生成PDF恶意软件的不同方法，以及相应的基于学习的检测系统。然后，我们使用对抗性机器学习领域的成熟框架，对专门针对基于学习的PDF恶意软件检测器的威胁进行分类。该框架允许我们对基于学习的PDF恶意软件检测器的已知漏洞进行分类，并识别可能威胁此类系统的新型攻击，以及可以减轻此类威胁影响的潜在防御机制。最后，我们讨论了这些发现如何突出有前途的研究方向，以解决在对抗环境中设计强大的恶意软件检测器的更普遍的挑战。
2020-04-14 cs.CR
Stealing and Evading Malware Classifiers and Antivirus at Low False Positive Conditions
Czech Technical University in Prague（捷克布拉格技术大学）
本文针对低误报率下的恶意软件检测模型与杀毒软件，提出dualFFNN代理架构及融合迁移与主动学习的FFNN-TL窃取攻击，并验证其可高效构建高一致代理并生成规避样本。
2023-06-04 cs.AI cs.CR
Machine Learning for Windows Malware Detection and Classification: Methods, Challenges and Ongoing Research
CeADAR, Ireland’s Centre for Artificial Intelligence（爱尔兰人工智能中心CeADAR）；University College Dublin（都柏林大学学院）
本章探讨了如何应用机器学习构建 Windows 恶意软件检测系统，介绍了机器学习管道组件、基于特征和深度学习的最先进检测器，并分析了概念漂移和对抗攻击等主要挑战及对抗防御的持续研究。
2024-04-29 cs.AI cs.CR
Building an Adversarial Malware Dataset by Family and Type: Generation, Evasion, and Poisoning Evaluation
Department of Information Security, Faculty of Information Technology, Czech Technical University in Prague（信息安全系，信息技术学院，布拉格捷克技术大学）
基于RawMal-TF真实恶意软件数据集，使用对抗性生成器构建家族和类型标记的对抗性PE文件，评估逃避率和投毒攻击影响。
2026-05-25 cs.CR cs.LG
MDEA: Malware Detection with Evolutionary Adversarial Learning
恶意软件检测已经使用机器学习来检测程序中的恶意软件。这些应用程序将原始或处理后的二进制数据输入神经网络模型，以将其分类为良性或恶意文件。尽管这种方法已被证明对动态变化有效，例如加密、混淆和打包技术，但它容易受到特定的规避攻击，其中输入数据中的小变化在测试时导致误分类。本文提出了一种新的方法：MDEA，一种对抗性恶意软件检测模型，使用进化优化来创建攻击样本，使网络对逃避攻击具有鲁棒性。通过使用演化的恶意软件样本重新训练模型，其性能显著提高。
2020-04-17 cs.CR cs.NE
Practical Attacks on Machine Learning: A Case Study on Adversarial Windows Malware
University of Cagliari（卡利亚里大学）；Pluribus One（Pluribus One公司）；University of Genova（热那亚大学）
虽然机器学习容易受到对抗性示例的影响，但它仍然缺乏系统的程序和工具来评估其在不同应用环境中的安全性。在本文中，我们将讨论如何使用实际攻击开发机器学习的自动化和可扩展的安全评估，并报告Windows恶意软件检测的用例。
2022-07-12 cs.CR cs.LG
Enhancing Robustness of Deep Neural Networks Against Adversarial Malware Samples: Principles, Framework, and AICS'2019 Challenge
恶意软件仍然是一个主要的网络威胁，尽管已经做出了巨大的努力来打击他们。随着时间的推移，恶意软件的数量在不断增加，这意味着我们必须求助于自动化防御技术。这自然需要基于机器学习的恶意软件检测。然而，已知机器学习容易受到对抗性规避攻击的影响，这些攻击操纵少量特征，使分类器错误地将恶意软件样本识别为良性样本。最新的技术水平是，没有有效的对策来对付这些攻击。受AICS 2019年挑战赛的启发，我们系统化了一些原则，以增强神经网络对抗恶意软件规避攻击的鲁棒性。这些原则中的一些已经分散在文献中，但其他人在本文中首次提出。在这些原则的指导下，我们提出了一个框架和相应的训练算法，然后将其应用于AICS的2019年挑战赛。我们的实验结果已经提交给挑战赛组织者进行评估。
2020-09-16 cs.CR
Effectiveness of Adversarial Examples and Defenses for Malware Classification
University of North Texas（北德克萨斯大学）
人工神经网络已经成功地用于许多不同的分类任务，包括恶意软件检测和区分恶意和非恶意程序。尽管人工神经网络在这些任务上表现得非常好，但它们也容易受到对抗性示例的影响。对抗性样本是一个样本，它被做了微小的修改，因此神经网络会错误地分类它。已经提出了许多技术，用于制作对抗性样本和强化神经网络来对抗它们。以前的大多数工作都是在图像领域完成的。一些攻击已被用于恶意软件领域，该领域通常处理二进制特征向量。为了更好地理解恶意软件分类中对抗性示例的空间，我们研究了恶意软件领域中制作对抗性示例和防御技术的不同方法，并比较了它们在多个数据集上的有效性。
2019-09-10 cs.CR cs.LG stat.ML
Adversarial Detection of Flash Malware: Limitations and Open Issues
在过去的四年中，Flash恶意软件已经成为最隐蔽的威胁之一，近600个针对Adobe Flash的关键漏洞被公开。研究表明，通过利用静态分析从文件或其字节码的结构中提取信息，机器学习可成功用于检测Flash恶意软件。然而，Flash恶意软件检测器对精心设计的规避尝试（也称为对抗性示例）的鲁棒性从未被研究过。在本文中，我们提出了一种新的，有代表性的Flash检测器，嵌入了一个国家的最先进的工具所采用的突出的，静态的功能相结合的安全评估。特别是，我们讨论了如何制作对抗性Flash恶意软件的例子，表明它足以稍微操纵相应的源恶意软件样本，以逃避检测。然后，我们根据经验证明，为减轻逃避尝试而提出的流行防御技术，包括对抗性示例的重新训练，可能并不总是足以确保鲁棒性。我们认为，当从对抗性样本中提取的特征向量与良性数据的特征向量无法区分时，就会发生这种情况，这意味着给定的特征表示本质上是脆弱的。在这方面，我们是第一个正式定义和定量描述此漏洞的人，强调何时可以通过单独提高学习算法的安全性来应对攻击，或者何时还需要考虑其他功能。最后，我们提出了替代的研究方向，以提高基于学习的Flash恶意软件检测器的安全性。
2020-07-14 cs.CR
Generation & Evaluation of Adversarial Examples for Malware Obfuscation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；Amazon Alexa（亚马逊Alexa）
人们对应用卷积神经网络进行基于图像的恶意软件分类的兴趣越来越大，但神经网络对对抗性示例的敏感性允许恶意行为者逃避分类器。对抗性示例通常通过向人类无法识别的输入添加小扰动来生成，但同样的方法对恶意软件无效。一般来说，这些扰动会导致字节序列的变化，从而改变初始功能或导致不可执行的二进制文件。我们提出了一个使用混淆的可执行对抗性恶意软件示例的生成模型，该模型在白盒和黑盒设置中分别实现了高达100%和98%的错误分类率，并展示了可转移性。我们进一步评估了所提出的方法的有效性，通过报告我们对抗性示例对流行防御策略的规避率的微小变化。
2019-10-16 cs.CR cs.LG
Binary Black-box Evasion Attacks Against Deep Learning-based Static Malware Detectors with Adversarial Byte-Level Language Model
The University of Arizona（亚利桑那大学）；Covax Data Inc.（Covax Data公司）
反恶意软件引擎是防御恶意软件的第一道防线。虽然被广泛使用，但基于功能工程的反恶意软件引擎容易受到看不见的（零日）攻击。最近，基于深度学习的静态反恶意软件检测器在识别看不见的攻击方面取得了成功，而无需特征工程和动态分析。然而，这些检测器容易受到具有轻微扰动的恶意软件变体的影响，称为对抗性示例。生成有效的对抗性示例有助于揭示此类系统的脆弱性。用于发起这种攻击的当前方法需要访问目标反恶意软件模型的规范、反恶意软件响应的置信度分数或动态恶意软件分析，这要么是不现实的要么是昂贵的。我们提出了MalRNN，这是一种基于深度学习的新方法，可以自动生成规避恶意软件变体，而无需任何这些限制。我们的方法具有对抗性示例生成过程，该过程通过生成序列到序列递归神经网络来学习语言模型以增强恶意软件二进制文件。MalRNN有效地避开了三种最近基于深度学习的恶意软件检测器，并优于当前的基准方法。讨论了将我们的MalRNN应用于具有八个恶意软件类别的真实数据集的结果。
2020-12-14 cs.CR cs.LG
Defending Hardware-based Malware Detectors against Adversarial Attacks
在物联网（IoT）时代，恶意软件在过去十年中呈指数级增长。传统的防病毒软件对现代复杂的恶意软件无效。为了应对这一挑战，研究人员提出了使用硬件性能计数器（HPC）的硬件辅助恶意软件检测（HMD）。HPC用于训练一组机器学习（ML）分类器，这些分类器又用于区分良性程序和恶意软件。最近，对抗攻击已经通过使用对抗样本预测器在HPC迹线中引入扰动来设计，以将程序错误分类为特定HPC。这些攻击的设计基本假设是攻击者知道HPC用于检测恶意软件。由于现代处理器由数百个HPC组成，因此仅限制其中几个用于恶意软件检测有助于攻击者。在本文中，我们提出了一个移动目标防御（MTD），这种对抗攻击通过设计多个ML分类器上训练不同的HPC集。MTD随机选择一个分类器;因此，使攻击者对HPC或应用的分类器数量感到困惑。我们已经开发了一个分析模型，证明了攻击者猜测MTD的完美HPC-分类器组合的概率非常低（对于具有20个HPC的系统，在$10^{-1864}$的范围内）。我们的实验结果证明，所提出的防御能够提高HPC痕迹的分类精度，这些痕迹通过对抗性样本生成器进行了修改，最高可达31.5%，几乎完美（99.4%）恢复了原始精度。
2020-07-26 cs.CR
Adversarial Deep Learning for Robust Detection of Binary Encoded Malware
CSAIL, MIT Cambridge, USA
恶意软件不断适应以避免检测。基于模型的恶意软件检测器（诸如SVM和神经网络）易受所谓的对抗性示例的攻击，对抗性示例是对可检测恶意软件的适度改变，其允许所产生的恶意软件逃避检测。已经使用鞍点优化公式开发了对图像的对抗性示例具有鲁棒性的连续值方法。我们受到他们的启发，开发类似的方法离散，例如二进制，域的恶意软件的特征。恶意软件的一个具体的额外挑战是，对抗性示例必须以保留其恶意功能的方式生成。我们介绍的方法能够产生功能上保留的对抗性恶意软件的例子在二进制域。使用鞍点公式，我们将对抗性示例纳入对它们具有鲁棒性的模型的训练中。我们评估的方法和其他文献中的一组便携式执行~（PE）文件的有效性。比较提示我们引入了在训练过程中计算的在线测量，以评估鲁棒性的一般期望。
2018-03-25 cs.CR cs.LG stat.ML
MASKDROID: Robust Android Malware Detection with Masked Graph Representations
National University of Singapore（新加坡国立大学）
本文提出 MASKDROID，通过在 GNN 框架中引入图掩码重建机制和对比学习模块，增强安卓恶意软件检测器对对抗攻击的鲁棒性和判别能力。
2024-09-29 cs.AI cs.CR cs.SE
Protecting from Malware Obfuscation Attacks through Adversarial Risk Analysis
Institute of Mathematical Sciences, ICMAT-CSIC（数学科学研究所（ICMAT-CSIC））
恶意软件是一个主要的全球风险，每年影响数百万用户。检测系统中的标准算法在处理通过混淆工具传递的恶意软件时执行不足。我们详细说明了这项研究的开源变形软件，利用混合框架，以获得相关功能的二进制文件。然后，我们提供了一个改进的替代解决方案的基础上，对抗性风险分析，我们说明描述一个例子。
2019-11-09 cs.CR cs.LG stat.ML
GANG-MAM: GAN based enGine for Modifying Android Malware
University of Kerala（喀拉拉大学）；University of Sannio（桑尼奥大学）；Cochin University of Science and Technology（科钦科技大学）
基于机器学习的恶意软件检测器容易受到对抗攻击的攻击。生成对抗网络（GAN）是基于神经网络的架构，可以生成成功的对抗样本。对这项技术的兴趣正在迅速增长。在本文中，我们提出了一个系统，产生一个特征向量，使Android恶意软件强烈回避，然后相应地修改恶意程序。这样的系统可以有双重贡献：它可以用来生成数据集，以验证检测基于GAN的恶意软件的系统，并扩大训练和测试数据集，以制作更强大的恶意软件分类器。
2021-09-27 cs.AI cs.CR cs.LG
Improving DGA-Based Malicious Domain Classifiers for Malware Defense with Adversarial Machine Learning
Tennessee Technological University（田纳西理工大学）
对手使用域生成算法（DGAs）在网络攻击期间建立命令和控制（C\&C）服务器通信。已知/识别的C\&C域的黑名单通常被用作防御机制之一。然而，由于黑名单是静态的，并且是通过基于签名的方法生成的，因此它们既不能跟上也不能检测到从未见过的恶意域名。由于黑名单域检查的这一缺点，机器学习算法已被用于在一定程度上解决该问题。然而，当使用有限的数据集进行训练时，算法可能无法检测到新的DGA变体。为了缓解这一弱点，我们成功地应用了一个基于DGA的恶意领域分类器，使用了长短期记忆（LSTM）方法和一种新的特征工程技术。我们的模型的性能表现出更高的准确性水平相比，以前报道的模型从以前的研究。此外，我们提出了一种新的方法，使用对抗性机器学习来生成以前从未见过的恶意软件相关的域家庭，可以用来说明机器学习算法在这方面的缺点。接下来，我们用新的样本来增强训练数据集，使得机器学习模型的训练在检测从未见过的恶意域名变体方面更有效。最后，为了保护恶意域名的黑名单不被泄露和篡改，我们设计了安全的数据容器，存储黑名单，并保证其免受敌对访问和修改。
2021-01-02 cs.AI cs.CR
Improving Robustness of Malware Classifiers using Adversarial Strings Generated from Perturbed Latent Representations
Czech Technical University in Prague（布拉格捷克理工大学）
在恶意软件行为分析中，访问和创建的文件列表通常指示所检查的文件是恶意的还是良性的。然而，恶意软件作者试图通过生成随机文件名和/或用新版本的恶意软件修改使用的文件名来避免检测。这些变化代表了现实世界的对抗性例子。这项工作的目标是生成真实的对抗性示例，并提高分类器对这些攻击的鲁棒性。我们的方法以无监督的方式学习输入字符串的潜在表示，并在潜在域中使用基于梯度的对抗攻击方法来生成输入域中的对抗示例。我们使用这些例子来提高分类器的鲁棒性，通过训练生成的对抗性字符串集。与只在扰动的潜在向量上训练的分类器相比，我们的方法产生的分类器明显更鲁棒，而不会在标准精度上有很大的权衡。
2021-10-22 cs.CR cs.LG
Explaining Vulnerabilities of Deep Learning to Adversarial Malware Binaries
最近的研究表明，用于恶意软件检测的深度学习算法也容易受到对抗性示例的影响，即，精心制作的干扰输入恶意软件，使误导分类。虽然这已经质疑他们是否适合这项任务，但目前还不清楚为什么这些算法在这个特定的应用领域也很容易被愚弄。在这项工作中，我们采取了第一步来解决这个问题，利用可解释的机器学习算法来解释深度神经网络的黑盒决策。特别是，我们使用一种可解释的技术，称为特征归因，以确定最有影响力的输入功能，有助于每个决定，并适应它提供有意义的解释恶意软件二进制文件的分类。在这种情况下，我们发现最近提出的卷积神经网络没有从可执行文件的数据和文本部分学习任何有意义的特征用于恶意软件检测，而是倾向于学习基于文件头中发现的特征区分良性和恶意软件样本。基于这一发现，我们提出了一种新的攻击算法，通过只改变文件头中的几十个字节来生成对抗性恶意软件二进制文件。相对于其他最先进的攻击算法，我们的攻击不需要在文件末尾注入任何填充字节，而且效率更高，因为它需要操作的字节少得多。
2019-01-24 cs.CR
Mal2GCN: A Robust Malware Detection Approach Using Deep Graph Convolutional Networks With Non-Negative Weights
Sharif University of Technology（谢里夫理工大学）
随着使用深度学习（DL）解决各种问题的步伐越来越快，保护这些模型免受攻击已成为研究人员的主要关注点之一。最近的研究表明，基于DL的恶意软件检测器容易受到对抗性示例的攻击。攻击者可以创建精心制作的对抗性示例，以逃避基于DL的恶意软件检测器。在本文中，我们提出了Mal2GCN，一个强大的恶意软件检测模型，使用函数调用图（FCG）表示的可执行文件结合图卷积网络（GCN）来检测Windows恶意软件。由于可执行文件的FCG表示比原始字节序列表示更鲁棒，因此许多提出的对抗性示例生成方法在规避Mal2GCN方面是无效的。此外，我们使用非负训练方法将Mal2GCN转换为单调非减函数，从而在理论上对附加攻击具有鲁棒性。然后，我们提出了一个黑盒源代码为基础的对抗性恶意软件生成方法，可用于评估恶意软件检测模型对现实世界的对手的鲁棒性。所提出的方法将对抗代码注入恶意软件源代码的各个位置，以逃避恶意软件检测模型。实验表明，非负权值的Mal2GCN在检测Windows恶意软件时具有较高的准确率，并且对恶意软件源代码中添加良性特征的对抗攻击具有较强的鲁棒性。
2022-03-12 cs.CR cs.LG
MalPurifier: Enhancing Android Malware Detection with Adversarial Purification against Evasion Attacks
School of Cyber Science and Engineering, Southeast University, Purple Mountain Laboratories, and Jiangsu Province Engineering Research Center of Security for Ubiquitous Network（网络 ubiquity 安全江苏省工程研究中心、紫金山实验室、东南大学网络科学与工程学院）
MalPurifier提出一种基于对抗净化的Android恶意软件检测防御框架，通过多样化扰动、噪声注入和双目标DAE，在37种逃避攻击下保持90.91%以上的鲁棒准确率。
2025-06-22 cs.AI cs.CR cs.LG
