NAttack! Adversarial Attacks to bypass a GAN based classifier trained to detect Network intrusion
University of Maryland Baltimore County（马里兰大学巴尔的摩县分校）
随着人工智能和机器学习的最新发展，可以使用机器学习方法来检测网络流量中的异常。在机器学习兴起之前，可能意味着攻击的网络异常是使用精心设计的规则来检测的。具有网络防御领域知识的攻击者可以进行有根据的猜测，有时可以准确预测网络防御机制正在关注的网络流量数据的哪些特定特征。有了这些信息，攻击者就可以绕过基于规则的网络防御系统。然而，随着机器学习在网络异常方面的进步，人类很难理解如何绕过网络防御系统。最近，对抗攻击已经变得越来越普遍，以击败机器学习算法。在本文中，我们表明，即使我们建立了一个分类器，并训练它与网络数据的对抗性的例子，我们可以使用对抗攻击，并成功地打破了系统。我们提出了一种基于生成对抗网络（GAN）的算法来生成数据，以训练一个高效的基于神经网络的分类器，然后我们使用对抗攻击来打破系统。
2020-02-20 cs.CR cs.LG
A Survey of Game Theoretic Approaches for Adversarial Machine Learning in Cybersecurity Tasks
U.S. Naval Research Laboratory（美国海军研究实验室）
机器学习技术目前被广泛用于自动化各种网络安全任务。这些技术中的大多数利用监督学习算法，该算法依赖于训练算法来使用相关领域中遇到的数据将传入数据分类为不同类别。这些算法的一个关键漏洞是它们容易受到对抗攻击的影响，其中被称为对手的恶意实体故意更改训练数据以误导学习算法产生分类错误。对抗攻击可能会使学习算法不适合使用，并使关键系统容易受到网络安全攻击。我们的论文提供了一个详细的调查，用于使机器学习算法强大的对抗对抗攻击使用博弈论的计算框架的最先进的技术。我们还讨论了开放的问题和挑战以及进一步研究的可能方向，这些研究将使基于深度机器学习的系统在网络安全任务中更加强大和可靠。
2019-12-04 cs.AI cs.CR cs.LG
Adversarial Reinforcement Learning for Observer Design in Autonomous Systems under Cyber Attacks
The Ohio State University（俄亥俄州立大学）
复杂的自主控制系统会受到传感器故障、网络攻击、传感器噪声、通信信道故障等的影响，这些都会在测量中引入误差。损坏的信息，如果用于决策，可能会导致性能下降。我们开发了一个框架，用于使用对抗性深度强化学习来设计对信息通道中的对抗性错误具有鲁棒性的观察者策略。我们进一步通过仿真研究表明，学习的观察策略表现得非常好，当对手的注入错误在某种意义上是有界的。我们在我们的研究中使用神经网络作为函数逼近器，并理解任何其他合适的函数逼近类都可以在我们的框架内使用。
2018-09-15 cs.CR cs.LG math.OC
On the Veracity of Cyber Intrusion Alerts Synthesized by Generative Adversarial Networks
Rochester Institute of Technology（罗切斯特理工学院）
由于功能之间的复杂交互、警报的非同质性以及罕见但关键的样本的可能性，重建具有高度保真度的网络攻击警报数据具有挑战性。生成对抗网络（GANs）已被证明可以有效地学习复杂的数据分布，以创建越来越真实的数据。本文介绍了GANs在网络攻击警报数据中的应用，并表明GANs不仅成功地学习生成真实的警报，而且还揭示了警报中的特征依赖关系。这是通过审查地面实况和生成的数据集之间的不同警报特征组合的直方图的交集来实现的。传统的统计度量，如条件熵和联合熵，也被用来验证这些依赖关系的准确性。最后，它表明，互信息约束的网络可以用来增加低概率，关键，警报值的产生。通过将警报映射到一组攻击阶段，表明这些低概率警报的输出对于网络安全分析师具有直接的上下文意义。总的来说，这项工作为生成新的网络入侵警报提供了基础，并提供了合成警报模拟源数据集的关键依赖关系的证据。
2019-08-03 cs.CR cs.LG stat.ML
False Alarms, Real Damage: Adversarial Attacks Using LLM-based Models on Text-based Cyber Threat Intelligence Systems
Faculty of Sciences, University of Lisbon（里斯本大学科学学院）；CIENCES, University of Lisbon（里斯本大学CIENCES）
研究针对文本网络威胁情报（CTI）系统的对抗攻击，分析逃避、淹没和投毒三种攻击类型，重点展示对抗文本生成如何欺骗分类器、降低性能并破坏系统功能。
2026-01-28 cs.AI cs.CR cs.LG
Reliable Feature Selection for Adversarially Robust Cyber-Attack Detection
Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD), School of Engineering, Polytechnic of Porto (ISEP/IPP)（波尔图理工学院工程学院智能工程与先进创新计算研究组）
提出融合多方法的特征选择与共识流程，结合时间相关特征、针对性特征集及对抗训练，在多网络数据集上提升攻击检测模型的对抗逃逸鲁棒性且不增加误报和资源开销。
2024-04-05 cs.CR cs.LG cs.NI
Bayesian adversarial multi-node bandit for optimal smart grid protection against cyber attacks
Xi'an Jiaotong-Liverpool University（西交利物浦大学）；University of Strathclyde（思克莱德大学）；University of New South Wales（新南威尔士大学）
智能电网的网络安全已成为发展可靠的现代电力和能源系统的关键问题之一。本文介绍了一种非平稳的对抗成本与变化约束的智能电网，使我们能够在一个相对实际的情况下，研究最佳的智能电网保护免受网络攻击的问题。特别地，构造了一个具有对抗成本的贝叶斯多节点强盗（MNB）模型，并定义了一个新的后悔函数。提出了一种求解该问题的算法-通过算例验证了该算法在实际智能电网中的适用性和性能。
2021-02-20 cs.CR cs.LG cs.SY
The Cyber Immune System: Harnessing Adversarial Forces for Security Resilience
本文借鉴环境流行病学和网络安全，将寄生虫和网络利用者视为系统压力测试者，强调对抗性参与对强化安全框架的必要性，并以DOGE网站入侵事件为案例。
2025-02-24 cs.CR cs.SY eess.SY
Hierarchical Adversarially-Resilient Multi-Agent Reinforcement Learning for Cyber-Physical Systems Security
本文提出HAMARL框架，通过分层多智能体协调与对抗训练循环，有效应对信息物理系统中的自适应和零日攻击，显著提升攻击检测准确率与防御弹性。
2025-06-12 cs.AI cs.CR cs.LG
Adversarial Attacks on Machine Learning Cybersecurity Defences in Industrial Control Systems
Cardiff University（卡迪夫大学）；Airbus（空中客车公司）
基于机器学习的入侵检测系统（IDS）的普及和应用使得工业控制系统（ICS）中的网络攻击的自动检测具有更大的灵活性和效率。然而，这种IDS的引入也产生了额外的攻击向量;学习模型也可能受到网络攻击，也称为对抗性机器学习（AML）。这种攻击可能会在ICS系统中产生严重后果，因为对手可能会绕过IDS。这可能导致延迟的攻击检测，从而可能导致基础设施损坏，财务损失，甚至生命损失。本文探讨了如何通过使用基于雅可比的显着性图攻击生成对抗样本并探索分类行为，将对抗学习用于目标监督模型。分析还包括探索这些样本如何支持使用对抗训练的监督模型的鲁棒性。一个真实的电力系统数据集被用来支持本文提出的实验。总体而言，当存在对抗样本时，两种广泛使用的分类器随机森林和J 48的分类性能分别下降了16和20个百分点。他们的表现在对抗性训练后有所改善，证明了他们对这种攻击的鲁棒性。
2020-04-10 cs.CR cs.LG eess.SP
A Testbed To Study Adversarial Cyber-Attack Strategies in Enterprise Networks
本文构建了一个包含已知漏洞和多条攻击路径的企业网络测试平台，用于邀请参与者扮演黑客实施攻击，并在 VMware ESXi 上实现后通过多种已知攻击策略验证和收集分析攻击数据。
2023-07-06 cs.CR
Mitigating Deep Learning Vulnerabilities from Adversarial Examples Attack in the Cybersecurity Domain
Institute of Electrical and Electronic Engineers（电气与电子工程师协会）
已知深度学习模型通过在具有最佳准确度的大型数据集上采用多个历元和训练样本来解决分类和回归问题。然而，这并不意味着它们是防攻击的或不暴露于漏洞。新部署的系统，特别是在公共环境（即公共网络）上的系统，容易受到来自各种实体的攻击。此外，已发表的关于深度学习系统的研究（Goodfellow et al.，2014）已经确定了大量的攻击点和广泛的攻击面，这些攻击面有证据表明存在来自对抗性示例的利用。成功利用这些系统可能会导致严重的现实世界的影响。例如，（1）对运行深度强化学习系统的自动驾驶汽车的对抗攻击会对人类产生直接的错误分类，从而导致不幸的事故。(2)自动驾驶车辆误读红灯信号可能导致汽车撞上另一辆汽车（3）将行人车道误分类为交叉路口车道，可能导致车祸。这只是冰山一角，计算机视觉的部署并不完全集中在自动驾驶汽车上，还包括许多其他领域，这将对现实世界产生决定性的影响。必须在发展的早期阶段减轻这些脆弱性。在实际部署之前，必须在全球范围内制定和实施基线安全标准。
2019-05-09 cs.CR cs.LG
A Survey on the Application of Generative Adversarial Networks in Cybersecurity: Prospective, Direction and Open Research Scopes
Boise State University（博伊西州立大学）
本文综述了生成对抗网络（GANs）在网络安全中的应用，涵盖入侵检测、恶意软件检测等领域，讨论了挑战并展望了未来研究方向。
2024-09-20 cs.AI cs.CR cs.CV
Modeling Realistic Adversarial Attacks against Network Intrusion Detection Systems
机器学习算法在支持网络安全方面的逐步扩散正在创造新的防御机会，但也带来了新的风险。多项研究表明，机器学习方法容易受到对抗攻击的攻击，这些攻击会产生微小的扰动，从而降低检测威胁的有效性。我们观察到，现有文献假设的威胁模型不适合现实的网络安全场景，因为它们认为对手对网络检测器有完整的了解，或者可以自由地与目标系统进行交互。通过关注基于机器学习的网络入侵检测系统，我们识别和建模攻击者进行可行和成功的对抗攻击所需的真实能力和环境。然后，我们将我们的模型应用于文献中提出的几种对抗攻击，并强调了可能导致实际对抗攻击的限制和优点。本文的贡献可以通过让网络防御者解决最关键和最真实的问题来帮助加强防御系统，并可以通过允许研究人员根据现实的威胁模型设计新颖形式的对抗攻击来使他们受益。
2021-06-17 cs.CR
A Malware Classification Survey on Adversarial Attacks and Defences
该综述梳理了网络安全领域恶意软件分类方向的对抗攻击与防御研究，将方法分为四类并分析优劣，介绍了常用数据集与评估标准，指出了开放研究难点与未来方向，为相关研究者和从业者提供参考。
2023-12-15 cs.CR cs.LG
Generative Adversarial Networks-Driven Cyber Threat Intelligence Detection Framework for Securing Internet of Things
本文提出一种基于GAN对抗训练和深度学习的两阶段入侵检测框架，用于保护6G物联网安全，实验表明其在检测入侵和对抗样本方面均具有高准确率与鲁棒性。
2023-04-12 cs.CR
DeeBBAA: A benchmark Deep Black Box Adversarial Attack against Cyber-Physical Power Systems
不断增长的能源需求以及适应更高水平的可再生能源和电动汽车等灵活负载的环境压力，导致现代电力系统发生了许多智能转型。这些转变使得网络物理电力系统非常容易受到网络对手针对其众多行动的影响。在这项工作中，一种新的黑箱对抗攻击策略，提出了针对交流状态估计操作的一个未知的电力系统使用历史数据。具体地说，虚假数据被注入到从电力系统组件的一个小的子集，导致状态估计的显着偏差获得的测量。在IEEE 39总线和118总线测试系统上进行的实验表明，该策略（称为DeeBAAA）可以以很高的概率规避许多传统和最先进的攻击检测机制。
2023-03-16 cs.CR cs.SY eess.SY
Adversarial Attacks and Mitigation for Anomaly Detectors of Cyber-Physical Systems
Singapore University of Technology and Design（新加坡科技设计大学）；Zhejiang University（浙江大学）；Singapore Management University（新加坡管理大学）
关键基础设施中的网络物理系统（CPS）所面临的威胁促使人们研究多种攻击检测机制，包括基于神经网络模型的异常检测器。异常检测器的有效性可以通过对它们进行攻击测试来评估，但很少考虑对抗性攻击者专门设计的噪声来欺骗它们。虽然对抗攻击在图像和音频等领域得到了成功应用，但由于存在其他内置防御机制（如规则检查器（或不变检查器）），因此在CPS中实现起来要困难得多。在这项工作中，我们提出了一个对抗攻击，同时逃避异常检测器和规则检查的CPS。受现有基于梯度的方法的启发，我们的对抗攻击在传感器和执行器值上制造噪声，然后使用遗传算法优化后者，确保神经网络和规则检查系统都被欺骗。我们在两个真实世界的关键基础设施测试平台上实现了我们的方法，成功地将其检测器的分类准确率平均降低了50%以上，同时避免规则检查器的检测。最后，我们探讨这些攻击是否可以通过在对抗样本上训练检测器来减轻。
2021-05-22 cs.AI cs.CR cs.LG
Semisupervised Adversarial Neural Networks for Cyber Security Transfer Learning
Commonwealth Computer Research, Inc.（联邦计算机研究公司）
在建立一个全球网络安全框架的道路上，每个企业都分享有关恶意行为的信息，出现了一个重要的问题。如果每个网络的良性流量和恶意流量分布差异很大，那么如何使用表征一个网络上的网络攻击的机器学习表示来检测其他企业网上的类似攻击？我们解决这个问题，通过比较天真地跨网络域传输模型和使用CORrelation ALignation的结果，我们的新的对抗性暹罗神经网络。我们提出的模型通过对抗性方法学习对每个网络的特殊性更具不变性的攻击表示。它使用一个简单的排名损失，优先标记最令人震惊的恶意事件正确超过平均准确性。这适用于驱动警报分类工作流，其中分析师只有时间检查模型排名最高的前几个事件。在准确性方面，当在一个数据集上训练的模型在另一个数据集上评估前100个事件时，其他方法完全无法检测到任何恶意事件。然而，这里提出的方法检索了相当大比例的恶意事件，代价是对抗建模中的一些训练不稳定性。我们使用2个公开可用的网络数据集来评估这些方法，并建议未来的研究领域。
2019-07-25 cs.CR cs.LG cs.NE
Two Can Play That Game: An Adversarial Evaluation of a Cyber-alert Inspection System
University of Michigan（密歇根大学）；Army Research Lab（陆军研究实验室）
网络安全是一个重要的社会问题。网络攻击的数量和每次攻击造成的破坏程度都有所增加。大型组织运营着网络安全运营中心（CSOC），构成了网络防御的第一道防线。检查网络警报是CSOC业务的一个关键部分。最近与美国陆军研究实验室合作的一项工作提出了一种基于强化学习（RL）的方法，以防止网络警报队列长度变大并压倒防御者。鉴于这种方法可能部署到美国国防机构运营的CSOC，我们对这种方法进行了红队（对抗性）评估。此外，随着最近对学习系统的攻击，测试这种RL方法的局限性变得更加重要。为此，我们学习了对抗警报生成策略，该策略是对防御者检查策略的最佳响应。令人惊讶的是，我们发现防御者的政策是相当强大的攻击者的最佳对策。为了解释这一观察结果，我们将早期的RL模型扩展到一个博弈模型，并表明存在防御者策略，可以对任何对抗性策略都具有鲁棒性。我们还从博弈论模型中推导出一个竞争基线，并将其与RL方法进行比较。然而，我们进一步利用RL模型中的MDP中的假设，并发现攻击者策略可以攻击防御者。我们使用一个双预言的方法来重新训练的防御者从这个发现的攻击者政策的插曲。这使得防御者对发现的攻击者策略具有鲁棒性，并且没有发现进一步的有害攻击者策略。总体而言，对抗性强化学习和强化学习中的双预言方法是适用于对抗性环境中其他强化学习使用的通用技术。
2018-10-13 cs.AI cs.CR cs.GT
An Adversarial Robustness Benchmark for Enterprise Network Intrusion Detection
Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD), School of Engineering, Polytechnic of Porto (ISEP/IPP)（高级创新与发展智能工程与计算研究组（GECAD），波尔图理工学院工程学院（ISEP/IPP））
本研究构建企业网络入侵检测对抗鲁棒性基准，在多数据集上测试不同训练方式的决策树集成模型，证实对抗训练可提升鲁棒性且不增加误报。
2024-02-25 cs.CR cs.LG cs.NI
Explainable Autonomous Cyber Defense using Adversarial Multi-Agent Reinforcement Learning
Adelaide University（阿德莱德大学）；CSIRO’s Data61（澳大利亚联邦科学与工业研究组织Data61）
本文提出C-MADF框架，通过因果建模与对抗性双策略控制，提升网络防御的可解释性和准确性，在真实数据集上显著降低误报率。
2026-04-06 cs.CR cs.LG cs.MA
SoK: The Pitfalls of Deep Reinforcement Learning for Cybersecurity
King’s College London（伦敦国王学院）；The Alan Turing Institute（艾伦·图灵研究所）；University College London（伦敦大学学院）；Cardiff University（卡迪夫大学）；KU Leuven（鲁汶大学）；Devotion AI Labs（Devotion AI 实验室）
本文系统梳理了深度强化学习应用于网络安全时的11个方法学陷阱，通过分析66篇论文量化其普遍性，并在三个典型场景中实验验证其影响，最后提出改进建议。
2026-06-23 cs.CR cs.LG
Towards Adversarial Realism and Robust Learning for IoT Intrusion Detection and Classification
Research Group on Intelligent Engineering and Computing for Advanced Innovation and Development (GECAD), School of Engineering, Polytechnic of Porto (ISEP/IPP)（先进创新与发展智能工程与计算研究组（GECAD），波尔图理工学院工程学院（ISEP/IPP））
物联网（IoT）面临着巨大的安全挑战。机器学习模型可用于应对越来越多的针对物联网系统的网络攻击变体，但对抗攻击构成的日益严重的威胁再次表明了对可靠防御策略的需求。这项工作描述了一个现实的对抗性网络攻击的例子所需的约束类型，并提出了一种方法，一个值得信赖的对抗性鲁棒性分析与现实的对抗性规避攻击向量。所提出的方法被用来评估三个监督算法，随机森林（RF），极端梯度提升（XGB），和轻梯度提升机（LGBM），和一个无监督算法，隔离森林（IFOR）。使用自适应扰动模式方法（A2PM）生成受约束的对抗性示例，并对使用常规和对抗性训练创建的模型进行规避攻击。尽管RF在二进制分类中受影响最小，但XGB在多类分类中始终达到最高的准确性。所获得的结果证明了基于树的算法和集成对对抗性规避攻击的固有敏感性，并证明了对抗性训练的好处和设计方法的安全性，以实现更强大的物联网网络入侵检测和网络攻击分类。
2023-03-03 cs.AI cs.CR cs.LG
Adaptative Perturbation Patterns: Realistic Adversarial Learning for Robust Intrusion Detection
Polytechnic of Porto（波尔图理工学院）；School of Engineering, Polytechnic of Porto（波尔图理工学院工程学院）
对抗攻击对机器学习和依赖它的系统构成了重大威胁。在网络安全领域，能够逃避检测的对抗性网络攻击示例尤其令人担忧。尽管如此，为具有表格数据的域生成的示例在该域中必须是现实的。这项工作建立了实现现实主义所需的基本约束水平，并介绍了自适应扰动模式方法（A2PM），以满足这些约束条件的灰盒设置。A2PM依赖于独立适应每个类别特征的模式序列，以创建有效和一致的数据扰动。该方法在两种情况下的网络安全案例研究中进行了评估：企业和物联网（IoT）网络。多层感知器（MLP）和随机森林（RF）分类器使用CIC-IDS 2017和IoT-23数据集通过常规和对抗训练创建。在每种情况下，针对分类器进行有针对性和无针对性的攻击，并将生成的示例与原始网络流量进行比较，以评估其真实性。所获得的结果表明，A2PM提供了一个可扩展的真实对抗性示例生成，这对于对抗性训练和攻击都是有利的。
2022-03-29 cs.AI cs.CR cs.LG
TechniqueRAG: Retrieval Augmented Generation for Adversarial Technique Annotation in Cyber Threat Intelligence Text
提出TechniqueRAG框架，通过集成现成检索器、指令微调LLM和零样本重排序，在有限领域数据下实现安全文本中对抗技术标注的SOTA性能。
2025-08-09 cs.CR
AdvCat: Domain-Agnostic Robustness Assessment for Cybersecurity-Critical Applications with Categorical Inputs
INRIA（法国国家信息与自动化研究所）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；Beijing Jiaotong University（北京交通大学）；University of Notre Dame（圣母大学）
机器学习即服务系统（MLaaS）主要是为网络安全关键应用开发的，例如检测网络入侵和假新闻活动。尽管有效，但它们对对抗攻击的鲁棒性是MLaaS部署的关键信任问题之一。因此，我们有动机评估这些安全关键应用程序的核心中的机器学习模型的对抗鲁棒性。以前关于访问模型鲁棒性以防止操纵分类输入的研究工作是特定于用例的，并且严重依赖于领域知识，或者需要对目标ML模型进行白盒访问。这些限制阻止了健壮性评估作为提供给各种真实世界应用的域不可知服务。我们提出了一个可证明的最佳但计算效率很高的对抗鲁棒性评估协议，用于广泛的ML驱动的网络安全关键应用程序。我们展示了使用域不可知的鲁棒性评估方法与大量的实验研究假新闻检测和入侵检测问题。
2022-12-13 cs.AI cs.CR cs.LG
Survey and Taxonomy of Adversarial Reconnaissance Techniques
攻击者通常能够通过利用人员和系统中的漏洞来渗透网络并危害系统。这些攻击成功的关键是对手在网络杀戮链的各个阶段收集的信息。我们总结并分析了对手在整个攻击过程中用于进行侦察活动的方法、战术和工具。首先，我们讨论了对手寻求什么类型的信息，以及他们如何以及何时可以获得这些信息。然后，我们提供了一个分类和对抗侦察技术的详细概述。该分类法引入了一种基于源的侦察技术分类，即第三方、人工和基于系统的信息收集。本文提供了对抗侦察的全面视图，可以帮助理解和建模网络攻击的这个复杂但重要的方面，以及可以改进防御策略的见解，例如网络欺骗。
2022-04-29 cs.CR
A Case Study on the Use of Representativeness Bias as a Defense Against Adversarial Cyber Threats
本文提出基于心理学信息的主动防御策略，利用夺旗赛活动触发代表性认知偏差，成功将攻击者从脆弱攻击向量诱导至非脆弱路径，为基于人类偏差的对抗性网络威胁防御机制奠定了基础。
2025-04-28 cs.CR
Adversarial Knapsack and Secondary Effects of Common Information for Cyber Operations
本文提出对抗背包优化问题，将CTF竞赛建模为动态网络控制博弈，分析理性玩家的次级推理及其对网络作战稳定性的影响。
2024-03-16 cs.CR
Adversarial Augmentation and Active Sampling for Robust Cyber Anomaly Detection
New York University, NYUAD, Division of Science.（纽约大学，NYUAD，科学学院）
针对APT检测中标注数据稀缺的问题，本文提出结合注意力对抗双自动编码器与主动学习的异常检测框架，在多系统真实不平衡数据集上实现了检测率的显著提升，降低了标注成本。
2025-09-05 cs.AI cs.CR cs.CY
Towards Characterizing Cyber Networks with Large Language Models
National Security Directorate Pacific Northwest National Laboratory（国家安全局太平洋西北国家实验室）；Global Security Directorate Savannah River National Laboratory（全球安全局萨凡纳河国家实验室）
本文提出利用大语言模型（CLEM）对网络日志进行嵌入，通过聚类与专家标注对比，证明该方法在威胁狩猎中识别异常行为的潜力。
2024-11-11 cs.AI cs.CR cs.LG
CybORG: An Autonomous Cyber Operations Research Gym
自主网络作战（ACO）涉及在对抗场景中考虑蓝队（防御者）和红队（攻击者）的决策模型。为了支持应用机器学习算法来解决这个问题，并鼓励这些从业者在ACO环境中解决问题，需要一个合适的健身房（实验工具包）。我们介绍CybORG，一个正在进行的健身房，用于ACO研究。由于需要有效地支持强化学习，通过模拟和仿真来训练对抗性决策模型，我们的设计与以前的相关工作不同。我们的早期评估提供了一些证据，CybORG是适合我们的目的，并可能提供一个基础，推进ACO研究走向实际应用。
2020-02-26 cs.CR
Adversarial Patterns: Building Robust Android Malware Classifiers
Rochester Institute of Technology（罗切斯特理工学院）
该综述针对全球应用最广的Android系统的恶意软件分类器易受对抗攻击的问题，全面梳理相关背景、攻防最新进展，给出鲁棒分类器设计指南与未来研究方向。
2024-04-12 cs.CR cs.LG
Btech thesis report on adversarial attack detection and purification of adverserially attacked images
INDIAN INSTITUTE OF TECHNOLOGY KHARAGPUR（印度理工学院克勒格布尔分校）
这是Btech关于检测和净化广告攻击图像的论文报告。深度学习模型在某些训练样本上进行训练，用于各种任务，如分类、回归等。通过训练，调整权重，使得模型不仅在由特定度量判断的训练样本上很好地执行任务，而且还具有在通常称为测试数据的其他未见过的样本上进行概括的出色能力。尽管机器学习模型在广泛的任务上取得了巨大的成功，但多年来，安全性受到的关注要少得多。各种潜在网络攻击的鲁棒性也应该是机器学习模型准确性的一个度量标准。这些网络攻击可能会对使用机器学习的现实世界敏感应用（如医疗和运输系统）造成各种负面影响。因此，有必要保护系统免受此类攻击。在这份报告中，我专注于一类被称为对抗攻击的网络攻击，其中原始输入样本被小扰动修改，使得它们在视觉上看起来仍然与人类相同，但机器学习模型被这些输入愚弄。在这份报告中，我讨论了使用AutoEncoders对抗对抗攻击的两种新方法，1）通过检测对手的存在，2）净化这些对手，使目标分类模型对此类攻击具有鲁棒性。
2022-05-09 cs.CR cs.LG
An Unsupervised Adversarial Autoencoder for Cyber Attack Detection in Power Distribution Grids
West Virginia University（西弗吉尼亚大学）；Florida Polytechnic University（佛罗里达理工大学）
针对含DERs的不平衡配电网中FDIA检测难题，提出融合LSTM与GAN的无监督AAE模型，在IEEE 13/123节点系统上验证其性能优于其他无监督方法。
2024-03-31 cs.AI cs.CR cs.LG
Autonomous Cyber Operations Gym for Training and Evaluating AI Models for Defence
CortAIx Labs, Thales Deutschland（Thales Deutschland CortAIx 实验室）；University of Osnabrück（奥斯纳布吕克大学）；Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院）；University of Ulm（乌尔姆大学）
本文提出自主网络操作（ACO）平台，可用于训练DNN型IDS、开发评估自主防御智能体，实验发现该平台内的DNN分类器域内性能优异，但对域偏移敏感，微小网络构成变动会导致其性能灾难性崩溃。
2026-10-14 cs.CR cs.LG
Adversarial Machine Learning and Cybersecurity: Risks, Challenges, and Legal Implications
本报告基于2022年CSET与斯坦福网络政策中心的专家研讨会，探讨AI漏洞与传统软件漏洞的异同，分析信息共享障碍与法律问题，并提出改善AI漏洞管理与缓解的广泛建议。
2023-05-23 cs.AI cs.CR cs.CY
Investigating cybersecurity incidents using large language models in latest-generation wireless networks
Orenburg State University（奥伦堡国立大学）
本研究针对最新一代无线网络的网络安全事件，通过微调大语言模型（LLM）、合成对抗样本等方法，实现数据投毒攻击的二元分类与检测，Gemma-7b模型表现最优，为网络安全事件调查与决策提供支持。
2025-04-14 cs.AI cs.CR
Arms Race in Adversarial Malware Detection: A Survey
University of Texas at San Antonio（德克萨斯大学圣安东尼奥分校）；Nanjing University of Science and Technology（南京理工大学）；Case Western Reserve University（凯斯西储大学）；University of Colorado Colorado Springs（科罗拉多大学科罗拉多斯普林斯分校）
恶意软件（malware）是一种主要的网络威胁，必须使用机器学习（ML）技术来解决，因为每天都有数百万个新的恶意软件示例注入网络空间。然而，ML容易受到被称为对抗性示例的攻击。在本文中，我们通过假设，攻击，防御和安全属性的统一概念框架的镜头来调查和系统化对抗性恶意软件检测（AMD）领域。这不仅使我们能够将攻击和防御映射到偏序结构，还使我们能够清楚地描述AMD背景下的攻击-防御军备竞赛。我们得出了一些见解，包括：知道防御者的特征集是成功的转移攻击的关键;实际规避攻击的有效性在很大程度上取决于攻击者在问题空间中进行操纵的自由度;知道攻击者的操纵集是防御者成功的关键;对抗训练的效果取决于防守者识别最强攻击的能力。我们还讨论了一些未来的研究方向。
2021-08-31 cs.CR cs.LG
Adversarial Reconnaissance Mitigation and Modeling
本文针对现有欺骗博弈模型中对抗性侦察建模过于简单的问题，梳理了侦察缓解技术与相关研究，提出基于概率论的攻击者信念形成模型并验证其有效性，为更真实实用的欺骗博弈研究奠定基础。
2023-06-11 cs.CR
Charging Ahead: A Hierarchical Adversarial Framework for Counteracting Advanced Cyber Threats in EV Charging Stations
本文提出基于深度强化学习的分层对抗框架HADRL，通过生成隐蔽攻击数据训练IDS，以低误报率检测电动汽车充电站中导致拒绝充电的高级网络攻击。
2024-07-04 cs.CR cs.NI
A Novel Bifurcation Method for Observation Perturbation Attacks on Reinforcement Learning Agents: Load Altering Attacks on a Cyber Physical Power System
本研究针对DRL智能体易受对抗观测扰动攻击的问题，提出带分岔层的组差分对数似然损失攻击方法，在智能能源系统中验证其高影响、低扰动、高隐蔽性，同时指出部分DRL架构及鲁棒训练可提升抗攻击能力。
2024-07-06 cs.CR cs.LG
Assessing the Influence of Different Types of Probing on Adversarial Decision-Making in a Deception Game
本文使用欺骗博弈和IBLT模型研究不同探测成本对对抗性决策的影响，发现探测成本变化对攻击比例无影响，但对探测比例有轻微影响。
2024-01-08 cs.CR
G-IDS: Generative Adversarial Networks Assisted Intrusion Detection System
Florida International University（佛罗里达国际大学）
网络物理系统（CPS）和物联网（IoT）的边界正在日益融合，以在混合系统上引入通用平台。此外，人工智能（AI）与CPS的结合创造了技术进步的新维度。所有这些连接性和可靠性都为攻击者发动网络攻击创造了巨大的空间。为了抵御这些攻击，入侵检测系统（IDS）得到了广泛的应用。然而，新兴的CPS技术遭受不平衡和缺失的样本数据，这使得入侵检测系统的训练困难。在本文中，我们提出了一个生成对抗网络（GAN）的入侵检测系统（G-IDS），其中GAN生成合成样本，和IDS得到训练，他们与原始的。G-IDS还解决了不平衡或丢失数据的问题。我们使用NSL KDD-99数据集为一个新兴的CPS网络安全数据集建模，并使用不同的指标评估我们提出的模型的性能。我们发现，我们提出的G-IDS模型在训练过程中的攻击检测和模型稳定性比一个独立的IDS更好。
2020-06-01 cs.CR cs.LG
Optimal Communication Strategies in Networked Cyber-Physical Systems with Adversarial Elements
在博弈论的框架下，研究了网络物理系统中防御者和攻击者的最优通信和协调策略。我们将信息物理系统的通信网络建模为一个传感器网络，该网络包含一个由多个传感器观测的单个高斯源，受加性独立高斯观测噪声的影响。传感器通过相干高斯多址信道与估计器通信。接收机的目标是以最小均方误差重建潜在的源。这里感兴趣的场景是，一些传感器被攻击者捕获，它们充当对手（干扰机）：它们努力最大化失真。接收器（估计器）知道捕获的传感器，但由于多址信道，即，对所有传感器的输出求和以生成估计器输入。我们表明，发射机传感器秘密同意一个随机事件，即“协调”的能力，在分析中起着关键作用…
2017-01-27 cs.CR cs.GT cs.IT
Securing Federated Learning with Control-Flow Attestation: A Novel Framework for Enhanced Integrity and Resilience against Adversarial Attacks
本研究提出一种基于控制流证明的联邦学习安全框架，通过数字签名和加密哈希验证模型更新完整性，在MNIST和CIFAR-10上实现100%验证成功率并增强抗攻击韧性。
2024-03-15 cs.CR
Intelligent Systems Design for Malware Classification Under Adversarial Conditions
U.S. Military Academy（美国军事学院）
使用机器学习和智能系统已成为恶意软件检测和网络威胁预防领域的既定做法。在以广泛的可访问性和大数据为特征的环境中，在不使用基于人工智能的技术的情况下进行恶意软件分类的可行性已经呈指数级下降。对抗性机器学习的威胁也是当前自动化智能恶意软件检测领域的特征。攻击者正在寻找负责恶意软件分类功能的底层数据和/或算法，以映射其行为或破坏其功能。这些对手的目的是绕过网络安全措施并提高恶意软件的有效性。本研究的重点是设计一个智能系统的方法，使用机器学习，可以准确和鲁棒地分类恶意软件在对抗条件下。这样的结果最终依赖于增加的灵活性和适应性，以建立一个足够强大的模型来识别对底层算法的攻击。
2019-07-06 cs.CR cs.LG stat.ML
Machine Learning for Cyber-Attack Identification from Traffic Flows
Embry-Riddle Aeronautical University（埃姆布里-瑞德航空大学）；University of Tennessee at Martin（田纳西大学马丁分校）；Northeastern University（东北大学）
本文研究仅通过交通流模式识别针对信号灯的网络攻击，利用Raspberry Pi、OPNSense、SUMO和Metasploit构建模拟环境，最佳模型检测准确率达85%，关键指标为占有率、排队长度和停车时长。
2025-05-02 cs.CR cs.LG
Performance of Machine Learning Classifiers for Anomaly Detection in Cyber Security Applications
IU International University of Applied Sciences（国际应用科学大学）
本研究在KDDCUP99和Credit Card Fraud 2013数据集上评估了多种机器学习模型在网络安全异常检测中的性能，发现XGB和MLP优于生成模型，并指出IterativeImputer不适用于大型数据集。
2025-04-26 cs.CR cs.LG
Dynamic Bayesian Games for Adversarial and Defensive Cyber Deception
安全挑战伴随着效率。信息和通信技术（信通技术）的普遍融合使网络物理系统容易受到具有欺骗性、持续性、适应性和战略性的有针对性的攻击。Stuxnet、Dyn和WannaCry勒索软件等攻击实例表明，包括防火墙和入侵检测系统在内的现成防御方法存在不足。因此，必须设计最新的安全机制，以减轻风险，尽管成功的渗透和复杂的攻击者的战略反应。在本章中，我们将使用博弈论来模拟防御者和攻击者之间的竞争互动。首先，我们使用静态贝叶斯博弈来捕捉攻击者的隐蔽性和欺骗性。称为\textit{type}的随机变量表征用户的本质和目标，例如，合法用户或攻击者。由于网络欺骗，用户类型的实现是私人信息。然后，我们将一次性同时交互扩展到非对称信息结构下的一次性交互，即，信号游戏最后，我们研究了高级持续威胁（APT）和田纳西伊士曼（TE）过程下的多阶段过渡的案例研究。引入双边不完全信息是因为防御者可以采用防御性欺骗技术，如蜜罐和蜜罐，为攻击者创造足够的不确定性。在本章中，对纳什均衡（NE）、贝叶斯纳什均衡（BNE）和完美贝叶斯纳什均衡（PBNE）的分析使我们能够预测对手的策略，并设计主动和战略防御，以阻止攻击者并减少损失。
2018-09-08 cs.CR cs.GT
Adversarial Security Attacks and Perturbations on Machine Learning and Deep Learning Methods
Southern New Hampshire University（南新罕布什尔大学）
不断增长的大数据和新兴的人工智能（AI）需要使用机器学习（ML）和深度学习（DL）方法。网络安全也受益于ML和DL方法用于各种类型的应用。然而，这些方法容易受到安全攻击。攻击者可以利用学习模型的训练和测试数据，或者可以探索这些模型的工作原理，以发动未来的高级攻击。ML和DL领域内的对抗性安全攻击和扰动是最近的探索，安全研究人员和实践者对此表示了极大的兴趣。文献涵盖了ML和DL方法的不同对抗性安全攻击和扰动，这些攻击和扰动有自己的表现风格和优点。需要审查和巩固的知识，是理解这一日益集中和不断增长的研究课题;然而，是研究界目前的需求。在这篇综述论文中，我们专门针对网络安全领域的新研究人员，他们可能会寻求获得有关机器学习和深度学习模型和算法的一些基本知识，以及一些相关的对抗性安全攻击和扰动。
2019-07-17 cs.CR cs.LG stat.ML
Data Driven Exploratory Attacks on Black Box Classifiers in Adversarial Domains
University of Louisville（路易斯维尔大学）
虽然现代网络应用程序的目标是在文明水平上产生影响，但它们已经变得容易受到敌对活动的影响，下一次网络攻击可以采取任何形式，可以来自任何地方。攻击的规模和复杂性不断增加，促使人们需要一种数据驱动的解决方案，机器学习是许多网络安全系统的核心。机器学习在设计时并没有考虑到安全性，并且要求训练和测试数据遵循类似分布的平稳性的基本假设在对抗域中被违反。在本文中，对手的观点的分类为基础的系统，提出。基于形式化的对抗模型，提出了一个种子-探索-利用框架，用于模拟对分类器的数据驱动和逆向工程攻击的生成。在10个真实世界数据集上使用Google Cloud Prediction Platform进行的实验评估表明，分类器存在固有的脆弱性，并且在没有任何关于分类器类型，训练数据或应用领域的明确信息的情况下可以轻松进行规避。所提出的框架，算法和经验评估，作为一个白帽分析的漏洞，并旨在促进安全的机器学习框架的发展。
2017-03-23 cs.CR cs.LG stat.ML
SoK: Realistic Adversarial Attacks and Defenses for Intelligent Network Intrusion Detection
School of Engineering, Polytechnic of Porto (ISEP/IPP)（波尔图理工学院工程学院（ISEP/IPP））
本文系统梳理了面向网络入侵检测的对抗攻击与防御方法，重点分析如何生成符合真实网络协议约束的对抗样本，并提出了现实性基本属性与实验指导原则。
2023-08-13 cs.CR cs.LG cs.NI
