A Novel Perturb-ability Score to Mitigate Evasion Adversarial Attacks on Flow-Based ML-NIDS
本文提出可扰动性评分(PS)量化NIDS特征受操纵风险,通过PS引导的特征选择与掩蔽,在保持检测性能的同时显著降低规避对抗攻击的脆弱性。
2025-06-18 cs.AI cs.CR cs.LG
Evasion Attacks Against Bayesian Predictive Models
Inst. Math. Sciences, Spanish Nat. Research Council(数学科学研究所,西班牙国家研究理事会);Universidad Autónoma de Madrid, Escuela de Doctorado(马德里自治大学,博士学院);CUNEF Universidad Madrid, Spain(CUNEF马德里大学,西班牙)
针对贝叶斯预测模型对抗攻击脆弱性研究不足的问题,本文提出了设计最优规避攻击的通用方法,针对两类对抗目标提出基于梯度的新型攻击并分析其在不同计算设置下的特性。
2025-06-11 cs.LG stat.ML
Multi-SpacePhish: Extending the Evasion-space of Adversarial Attacks against Phishing Website Detectors using Machine Learning
University of Padua(帕多瓦大学);University of Liechtenstein(列支敦士登大学);Delft University of Technology(代尔夫特理工大学)
本文针对钓鱼网站检测的ML模型,形式化逃逸空间并提出低成本现实威胁模型,首次统计验证多种逃逸攻击,并探索多空间联合扰动导致检测率显著下降。
2023-10-12 cs.CR cs.LG cs.NI
Evasion Attacks on Cost-Utility-Based Adversarial Training for Online AutoML in IoT Networks
Ontario Tech University(安大略理工大学);Alex Ekwueme Federal University(亚历克·埃克韦梅联邦大学)
本研究评估物联网网络中在线AutoML下黑盒规避攻击对基于成本效用的对抗训练的影响,发现LB和SRP的对抗训练版本在最高成本预算下达到最佳对抗准确率0.985,最大准确率下降仅0.8%。
2026-09-29 cs.CR cs.LG
Adversarial Deep Ensemble: Evasion Attacks and Defenses for Malware Detection
Nanjing University of Science and Technology(南京理工大学)
恶意软件仍然是网络安全的一大威胁,需要基于机器学习的恶意软件检测。虽然很有前途,但已知这种检测器容易受到规避攻击。包围学习通常有助于采取对策,而攻击者也可以利用这种技术来提高攻击效率。这促使我们研究集成防御的鲁棒性或集成攻击的有效性,特别是当它们相互攻击时。因此,我们提出了一种新的攻击方法,命名为混合攻击,使攻击者能够多个生成方法和多个操作集,扰乱恶意软件的例子,而不会破坏其恶意功能。这自然会导致对抗性训练的新实例化,从而进一步增强深度神经网络的整体。我们使用Android恶意软件检测器对两个实际数据集上的26种不同攻击进行防御评估。实验结果表明,新的对抗性训练显著增强了深度神经网络对各种攻击的鲁棒性,当基分类器足够鲁棒时,集成方法可以提高鲁棒性,但集成攻击可以有效地避开增强的恶意软件检测器,甚至显着降低了VirusTotal服务。
2020-06-30 cs.CR cs.LG stat.ML
Evasion Adversarial Attacks Remain Impractical Against ML-based Network Intrusion Detection Systems, Especially Dynamic Ones
Carleton University(卡尔顿大学)
本文研究了对抗攻击对基于机器学习的网络入侵检测系统(NIDS)的实用性,指出动态系统中的攻击有效性较低,并通过实验表明持续重新训练可降低攻击效果。
2026-03-29 cs.CR cs.LG cs.NI
Band Together: Untargeted Adversarial Training with Multimodal Coordination against Evasion-based Promotion Attacks
Sichuan University(四川大学);University of Illinois at Chicago(伊利诺伊大学香槟分校)
本文提出UAT-MC方法,通过多模态协调解决逃避攻击中未知目标项的问题,提升系统鲁棒性并保持推荐性能。
2026-05-07 cs.AI cs.LG
Better the Devil you Know: An Analysis of Evasion Attacks using Out-of-Distribution Adversarial Examples
Princeton University(普林斯顿大学);UC Berkeley(加州大学伯克利分校);Purdue University(普渡大学)
最近的大量工作研究了使用深度学习系统的对抗性示例的逃避攻击现象,其中向测试输入添加范数有界扰动会导致不正确的输出分类。以前的工作已经研究了这种现象在封闭世界系统中的训练和测试输入遵循预先指定的分布。然而,深度学习应用程序的实际实现,如自动驾驶和内容分类,可能会在开放世界环境中运行。在本文中,我们展示了开放世界规避攻击的成功,其中对抗性示例是从分布外输入(OOD对抗性示例)生成的。在我们的研究中,我们使用了11个最先进的神经网络模型,这些模型在3个不同复杂度的图像数据集上训练。我们首先证明了,最先进的检测器的分布外的数据是不强大的OOD对抗性的例子。然后,我们考虑了对抗性示例的5种已知防御,包括最先进的鲁棒训练方法,并表明与从分布数据生成的对抗性示例相比,OOD对抗性示例可以实现高达4 $\times$的目标成功率。我们还对开放世界规避攻击如何影响现实世界系统进行了定量研究。最后,我们提出了迈向强大的开放世界机器学习系统的第一步。
2019-05-05 cs.CR cs.CV cs.LG
PAD: Towards Principled Adversarial Malware Detection Against Evasion Attacks
Nanjing University of Posts and Telecommunications(南京邮电大学);Nanjing Institute of Technology(南京工程学院);University of Colorado Colorado Springs(科罗拉多大学斯普林斯分校)
本文提出PAD对抗训练框架,通过可学习凸度量量化分布级离散扰动并提供收敛保证,在两个Android恶意软件数据集上显著提升防御效果,抵御27种规避攻击时检测准确率超83.45%,无攻击时准确率下降小于2.16%。
2023-04-06 cs.CR cs.LG stat.ML
EvadeDroid: A Practical Evasion Attack on Machine Learning for Black-box Android Malware Detection
Radboud University(拉德堡德大学);Ruhr University Bochum(波鸿鲁尔大学)
本文提出 EvadeDroid,一种基于良性捐赠应用变换和查询高效优化的黑盒问题空间攻击,可在极少查询下规避多种 Android 恶意软件检测器及商业杀毒软件。
2024-01-25 cs.CR cs.LG
Taking off the Rose-Tinted Glasses: A Critical Look at Adversarial ML Through the Lens of Evasion Attacks
IBM Research(IBM研究院);Stony Brook University(石溪大学)
本文批判性审视了对抗机器学习领域因不合理的攻击与防御威胁模型假设导致防御研究停滞的问题,主张从系统安全视角而非纯AI视角重新评估防御机制,以应对新兴AI范式的安全挑战。
2024-10-15 cs.CR cs.LG
Adversarial Evasion Attack Efficiency against Large Language Models
School of Engineering, Polytechnic of Porto (ISEP/IPP)(波尔图理工学院工程学院(ISEP/IPP))
本文在情感分类任务中评估三类对抗攻击对五个 LLM 的效果,发现词级攻击更有效,而字符级和强约束攻击更省扰动与查询、更具实用性。
2024-06-12 cs.CL cs.LG
Adversarial Filtering Based Evasion and Backdoor Attacks to EEG-Based Brain-Computer Interfaces
Huazhong University of Science and Technology(华中科技大学)
本文提出针对基于 EEG 的脑机接口、基于对抗滤波的规避与后门攻击,并在三种 BCI 范式的数据集上验证其有效性,揭示了新的安全威胁。
2024-12-10 cs.HC cs.LG
Crushing the Evidence: A Dual-Penalty Evasion Framework for Fooling White-Box Explainable AI Auditors
该研究提出一种双惩罚白盒规避攻击框架,将规避逻辑嵌入模型参数,可压制目标特征归因至近零、维持高攻击成功率,且能绕过条件异常检测,欺骗可解释性AI审计器。
2026-08-04 cs.AI cs.LG
Morphence-2.0: Evasion-Resilient Moving Target Defense Powered by Out-of-Distribution Detection
University of Michigan-Dearborn(密歇根大学迪尔伯恩分校)
针对机器学习模型的规避攻击通常通过对固定目标模型的迭代探测而成功,由此成功一次的攻击将重复成功。对抗这种威胁的一种有希望的方法是使模型成为对抗对抗性输入的移动目标。为此,我们引入了Morphence-2.0,这是一种可扩展的移动目标防御(MTD),由分布外(OOD)检测提供支持,以防御对抗性示例。通过定期移动模型的决策函数,Morphence-2.0使重复或相关攻击成功变得非常具有挑战性。Morphence-2.0部署了一个从基本模型生成的模型池,在响应预测查询时引入了足够的随机性。通过OOD检测,Morphence-2.0配备了一种调度方法,将对抗性样本分配给鲁棒的决策函数,将良性样本分配给不设防的精确模型。为了确保重复或相关攻击失败,部署的模型池在达到查询预算后自动过期,并且模型池被提前生成的新模型池无缝替换。我们在两个基准图像分类数据集(MNIST和CIFAR 10)上对Morphence-2.0进行了评估,以对抗4种参考攻击(3种白盒攻击和1种黑盒攻击)。Morphence-2.0始终优于之前的防御,同时保持干净数据的准确性并减少攻击的可转移性。我们还表明,在OOD检测的支持下,Morphence-2.0能够精确地对模型的决策函数进行基于输入的移动,从而提高对抗性和良性查询的预测准确性。
2022-06-15 cs.CR cs.LG
Robustness, Cost, and Attack-Surface Concentration in Phishing Detection
Department of Mathematics, Computer Science, and Engineering Technology(数学、计算机科学与工程技术系)
研究通过成本感知逃避框架分析钓鱼检测中鲁棒性与攻击面集中问题,发现特征限制仅在移除主导低成本转换时提升鲁棒性,且攻击面集中于低成本特征。
2026-03-19 cs.LG
Generative Adversarial Evasion and Out-of-Distribution Detection for UAV Cyber-Attacks
Faculty of Engineering and Applied Sciences, Cranfield University(工程与应用科学学院,克兰菲尔德大学)
本文提出基于cGAN的框架,用于生成隐蔽的对抗攻击以逃避IDS,并利用CVAE实现对分布外攻击的高效检测。
2026-02-04 cs.AI cs.LG
Explainability-Guided Adversarial Attacks on Transformer-Based Malware Detectors Using Control Flow Graphs
Tennessee Tech University(田纳西理工大学);University of Nebraska Omaha(内布拉斯加大学奥马哈分校)
本文研究了基于变换器的恶意软件检测器在对抗性逃逸攻击中的脆弱性,提出了一种利用可解释性机制的白盒对抗攻击方法,通过扰动关键图组件来诱导误分类。
2026-04-04 cs.CR cs.LG
Towards Adversarial Realism and Robust Learning for IoT Intrusion Detection and Classification
Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD), School of Engineering, Polytechnic of Porto (ISEP/IPP)(先进创新与发展智能工程与计算研究组(GECAD),波尔图理工学院工程学院(ISEP/IPP))
物联网(IoT)面临着巨大的安全挑战。机器学习模型可用于应对越来越多的针对物联网系统的网络攻击变体,但对抗攻击构成的日益严重的威胁再次表明了对可靠防御策略的需求。这项工作描述了一个现实的对抗性网络攻击的例子所需的约束类型,并提出了一种方法,一个值得信赖的对抗性鲁棒性分析与现实的对抗性规避攻击向量。所提出的方法被用来评估三个监督算法,随机森林(RF),极端梯度提升(XGB),和轻梯度提升机(LGBM),和一个无监督算法,隔离森林(IFOR)。使用自适应扰动模式方法(A2PM)生成受约束的对抗性示例,并对使用常规和对抗性训练创建的模型进行规避攻击。尽管RF在二进制分类中受影响最小,但XGB在多类分类中始终达到最高的准确性。所获得的结果证明了基于树的算法和集成对对抗性规避攻击的固有敏感性,并证明了对抗性训练的好处和设计方法的安全性,以实现更强大的物联网网络入侵检测和网络攻击分类。
2023-03-03 cs.AI cs.CR cs.LG
Robust Context-Aware Detection of Malicious Instructions in Text
Washington University in St. Louis(圣路易斯华盛顿大学)
该研究针对LLM易受间接提示注入攻击的问题,提出上下文感知的恶意句子分类方法及两种对抗训练技术,在静态和自适应攻击下均提升了IPI防御性能,且需根据领域调整参数。
2026-10-30 cs.CR cs.LG
The Curse of Concentration in Robust Learning: Evasion and Poisoning Attacks from Concentration of Measure
University of Virginia(弗吉尼亚大学)
许多现代机器学习分类器被证明是容易受到对抗扰动的实例。尽管有大量的工作集中在使分类器健壮,但这项任务似乎相当具有挑战性。在这项工作中,通过理论研究,我们研究了分类器的对抗风险和鲁棒性,并将其与度量测度空间中的测度集中现象联系起来。我们表明,如果度量概率空间的测试实例是集中的,任何分类器与一些初始的恒定误差是固有的对抗性扰动。一类集中度量概率空间是包含许多自然分布的所谓Levy族。在这种特殊情况下,我们的攻击只需要最多扰动测试实例$O(\sqrt n)$,使其被错误分类,其中$n$是数据维度。利用我们关于Levy实例空间的一般结果,我们首先将先前证明的关于对抗实例存在性的一些结果作为特例恢复。然而,更多的利维家族是已知的(例如,汉明距离下的乘积分布),我们立即获得新的攻击,发现距离$O(\sqrt n)$的对抗性例子。最后,我们表明,产品空间的措施浓度意味着存在形式的“中毒”攻击,对手篡改的训练数据的目标是降低分类器。特别是,我们表明,对于任何使用$m$训练样本的学习算法,都有一个对手可以增加任何“坏属性”的概率(例如,在特定的测试实例上失败),通过用其他(仍然正确标记的)示例替换仅$\tilde{O}(\sqrt m)$的示例,最初以不可忽略的概率发生到$\approx 1$。
2018-11-06 cs.CC cs.CR cs.LG
Attack Transferability Characterization for Adversarially Robust Multi-label Classification
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学);Inria(法国国家信息与自动化研究所)
尽管多标签规避攻击的普遍存在,它是一个开放的,但重要的问题是描述的多标签学习系统的对抗性脆弱性的来源,并评估其可攻击性。在这项研究中,我们专注于针对多标签分类器的非目标规避攻击。威胁的目标是在相同的输入扰动下,尽可能多的标签导致分类错误。我们的工作获得了深入的了解多标签对抗攻击的攻击的转移性的基础上的多标签分类器的功能特性的特征。通过建立对抗风险的信息论分析,我们揭示了攻击的可转移性水平如何决定分类器的可攻击性。此外,我们提出了一个以可转移性为中心的可攻击性评估,命名为软攻击性估计(SAE),以评估目标多标签分类器的内在脆弱性水平。然后将该估计器作为可转移性调整正则化项集成到多标签学习范式中,以实现对抗性鲁棒分类。对真实数据的实验研究与理论分析相呼应,验证了可迁移正则化多标记学习方法的有效性。
2021-06-29 cs.CR cs.LG
Improving Adversarial Robustness in Android Malware Detection by Reducing the Impact of Spurious Correlations
Radboud University(拉德堡德大学);Xi’an Jiaotong University(西安交通大学);Ruhr University Bochum(波鸿鲁尔大学)
本文提出一种领域自适应技术,通过构建鲁棒特征空间对齐恶意软件样本与对抗样本分布,减少虚假相关性影响,在DREBIN上相较Sec-SVM将对抗鲁棒性提升最高55%。
2024-08-27 cs.CR cs.LG cs.SE
There are No Bit Parts for Sign Bits in Black-Box Attacks
USA(美国 (USA))
我们提出了一个黑盒对抗攻击算法,它设置了新的国家的最先进的模型规避率查询效率的$\ell_\infty$和$\ell_2$指标,只有损失的oracle访问模型是可用的。在两个公开的黑盒攻击挑战中,该算法实现了最高的规避率,超过了所有提交的攻击。类似的性能上观察到的模型是安全的替代模型攻击。对于在MNIST、CIFAR 10和IMAGENET数据集上训练的标准模型,在数据集和指标上取平均值,该算法的故障率降低了3.8倍,并且在每次攻击尝试10,000次查询的预算下,比当前最先进的攻击组合少了2.5倍的查询。值得注意的是,它不需要超参数调整或任何数据/时间相关的先验。该算法利用了一种新的方法,即基于符号而不是基于幅度的梯度估计。这将估计从连续转移到二进制黑盒优化。利用方向导数的三个性质,我们研究了对抗攻击的三种方法。这产生了一个优越的算法,打破了标准的MNIST模型,平均只使用12个查询!
2019-04-03 cs.CR cs.LG stat.ML
Can Adversarially Robust Learning Leverage Computational Hardness?
University of Virginia(弗吉尼亚大学)
使学习器在测试时对对抗性扰动具有鲁棒性(即,逃避攻击)或训练时间(即,中毒攻击)已经成为一项具有挑战性的任务。众所周知,对于某些自然环境,训练阶段或测试阶段的次线性扰动会大大降低预测的质量。然而,这些否定的结果是信息论的,只证明了这种成功的对抗扰动的存在。这些设置的一个自然问题是,我们是否可以使分类器在计算上对多项式时间攻击具有鲁棒性。在这项工作中,我们证明了强大的障碍,实现这种设想的计算鲁棒性逃避和中毒攻击。特别是,我们表明,如果测试实例来自产品分布(例如,在$\{0,1\}^n$或$[0,1]^n$上均匀,或各向同性$n$ -变量高斯)并且存在初始恒定误差,则存在找到汉明距离$O(\sqrt n)$的对抗性示例的多项式时间攻击。对于中毒攻击,我们证明了对于任何具有样本复杂度$m$和任何有效可计算的“谓词”的学习算法,为所产生的假设定义了一些“坏”属性$B$(例如,在特定测试中失败),存在多项式时间在线中毒攻击,其篡改$O (\sqrt m)$许多示例,用其它正确标记的示例替换它们,并将坏事件$B$的概率增加到$\approx 1$。我们的中毒和逃避攻击在如何访问系统的相应组件方面都是黑盒的(即,假设、概念和学习算法),并且不对分类器或产生分类器的学习算法做出进一步的假设。
2018-11-06 cs.CC cs.CR cs.LG
Corrupting Attention: Evasion-Based Adversarial Attacks on Encoder Attention in Detection Transformers
Queensland University of Technology(昆士兰科技大学);Agency for Science, Technology and Research, Singapore(新加坡科技研究局);National University of Singapore(新加坡国立大学);Indraprastha Institute of Information Technology, Delhi(英迪拉普拉斯塔信息技术学院(德里))
本文提出首个针对检测 Transformer 编码器注意力的对抗攻击,在不可察觉扰动下破坏注意力结构,使 DETR-R50、DINO-Swin-L 等主流检测器 mAP 大幅下降,性能优于现有攻击。
2026-08-10 cs.CV cs.LG
A General Retraining Framework for Scalable Adversarial Classification
Vanderbilt University(范德堡大学);Shanghai Jiaotong University(上海交通大学)
传统的分类算法假设训练数据和测试数据来自相似的分布。这种假设在对抗性设置中被违反,其中恶意行为者修改实例以逃避检测。针对对抗性规避攻击和鲁棒学习,已经开发了许多自定义方法。我们提出了第一个系统和通用的再训练框架,它可以:a)提高\emph{arbitrary}学习算法的鲁棒性,面对b)比任何现有方法更广泛的对抗模型。我们证明了,在自然条件下,再训练框架最小化了最优对抗风险的上限,并展示了如何将这一结果扩展到规避攻击的近似值。广泛的实验评估表明,我们的再训练方法与最先进的优化对抗风险的算法几乎没有区别,但更通用,可扩展性更强。实验还证实,如果没有再训练,我们的对抗框架会大大降低学习的有效性。相比之下,再训练显著提高了对规避攻击的鲁棒性,而不会显著影响整体准确性。
2016-11-26 cs.GT cs.LG stat.ML
KAN-Robust-Bench: A Benchmark for Evaluating the Robustness of Kolmogorov-Arnold Networks
University of New Brunswick(新不伦瑞克大学)
该研究构建KAN-Robust-Bench基准,探究KAN模型在FGSM等规避攻击下的鲁棒性,给出随机平滑等方法的数学基础,以寻找最优防御策略与架构。
2026-08-25 cs.AI cs.LG
RAB: Provable Robustness Against Backdoor Attacks
ETH Zurich(苏黎世联邦理工学院);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本文提出首个鲁棒训练流程RAB,基于随机平滑技术构建统一框架,提供并证明了抵御后门攻击的紧致可证明鲁棒性界限,并在多种模型和数据集上建立了首个基准。
2023-08-03 cs.LG stat.ML
Investigating a Spectral Deception Loss Metric for Training Machine Learning-based Evasion Attacks
Virginia Tech(弗吉尼亚理工大学)
对抗性规避攻击在各种机器学习应用程序中非常成功地导致性能低下。一种这样的应用是无线电频谱感测。虽然规避攻击在这一领域被证明是特别成功的,但它们这样做损害了信号的预期目的。更具体地说,对于感兴趣的现实世界应用,为了逃避窃听者而发送的所得到的扰动信号必须不偏离原始信号太远,更少的预期信息被破坏。作者和其他人最近的工作已经展示了一个攻击框架,该框架允许在逃避和通信的这些冲突目标之间进行智能平衡。然而,虽然这些方法考虑创建对抗信号以最小化通信降级,但它们已被证明是以牺牲信号的频谱形状为代价的。这将对抗性信号开放给窃听者的防御措施,例如过滤,这可能会使攻击无效。为了弥补这一点,这项工作引入了一个新的频谱欺骗损失度量,可以在训练过程中实施,以迫使频谱形状与原始信号更加一致。作为概念的初步证明,提出了各种方法,为这一拟议损失提供了一个起点。通过性能分析,它表明,这些技术是有效的控制对抗信号的形状。
2020-05-27 cs.LG eess.SP
How Potent are Evasion Attacks for Poisoning Federated Learning-Based Signal Classifiers?
最近人们对利用联邦学习(FL)进行无线电信号分类任务很感兴趣。在FL中,模型参数定期从参与设备(在其自己的本地数据集上进行训练)传送到中央服务器,该中央服务器将它们聚合成全局模型。虽然FL具有隐私/安全优势,因为原始数据不会离开设备,但它仍然容易受到一些对抗性攻击。在这项工作中,我们揭示了基于FL的信号分类器对模型中毒攻击的敏感性,尽管没有观察到数据传输,但这种攻击会损害训练过程。在这种能力下,我们开发了一个攻击框架,在该框架中,受损的FL设备使用对抗性规避攻击来扰乱其本地数据集。结果,全局模型的训练过程在分布内信号上显著降级(即,在每个边缘设备处具有相同分布的信道上接收的信号)。我们将我们的工作与先前提出的FL攻击进行比较,并揭示在我们的攻击框架下,只有一个对抗设备以低功率扰动运行,就可以对全局分类器进行有效的模型中毒攻击。此外,我们发现,更多的设备参与对抗中毒将成比例地降低分类性能。
2023-01-21 eess.SP
Evaluating Adversarial Evasion Attacks in the Context of Wireless Communications
Virginia Tech(弗吉尼亚理工大学)
射频机器学习(RFML)的最新进展已经证明了将原始同相和正交(IQ)样本用于多个频谱感测任务。然而,在其他应用中,深度学习技术已被证明容易受到对抗性机器学习(ML)技术的影响,这些技术试图制造添加到输入中的小扰动以导致错误分类。目前的工作根据攻击的执行位置区分了对抗性ML对RFML系统构成的威胁:直接访问分类器输入,通过空中同步传输(OTA)或从单独的设备异步传输。此外,目前的工作开发了一种方法来评估对抗成功的背景下,无线通信,其中感兴趣的主要指标是误比特率,而不是人类的感知,是在图像识别的情况下。该方法使用著名的快速梯度符号方法来评估基于原始IQ的自动调制分类的漏洞,并得出结论RFML容易受到对抗性的例子,即使在OTA攻击。然而,在OTA攻击中会遇到的RFML域特定接收器效应可以对对抗规避造成重大损害。
2019-03-01 cs.LG eess.SP stat.ML
Mitigating Evasion Attacks in Federated Learning-Based Signal Classifiers
本文提出USD-FL方法,通过保留数据集上的logits比较和时变阈值检测,在不依赖完美网络信息的情况下缓解联邦学习信号分类中的模型投毒攻击,显著提升分类准确率并降低误报率。
2025-05-08 eess.SP