Et Tu Alexa? When Commodity WiFi Devices Turn into Adversarial Motion Sensors
我们的工作展示了一组新的无声侦察攻击，它利用商用WiFi设备的存在来跟踪私人住宅和办公室内的用户，而不会损害任何WiFi网络，数据包或设备。我们表明，只要通过嗅探现有的WiFi信号，对手就可以准确地检测和跟踪建筑物内用户的移动。这是通过我们的新信号模型实现的，该模型将WiFi发射器附近的人体运动和攻击者嗅探器在酒店外看到的多径信号传播的变化联系在一起。由此产生的攻击是廉价的，高效的，但难以检测。我们使用单一商品智能手机实施攻击，将其部署在11个现实世界的办公室和住宅公寓中，并显示它非常有效。最后，我们评估潜在的防御，并提出了一个实用和有效的防御AP信号混淆的基础上。
2020-01-11 cs.CR
IRShield: A Countermeasure Against Adversarial Physical-Layer Wireless Sensing
已知无线电信道包含关于周围传播环境的信息，其可以使用已建立的无线感测方法来提取。因此，当今无处不在的无线设备是被动窃听者发动侦察攻击的有吸引力的目标。特别地，通过偷听标准通信信号，窃听者获得无线信道的估计，这可能泄露关于室内环境的敏感信息。例如，通过应用简单的统计方法，对手可以从无线信道观察中推断出人体运动，从而允许远程监控受害者的房屋。在这项工作中，基于智能反射表面（IRSs）的出现，我们提出了IRShield作为对抗对抗性无线传感的新对策。IRShield被设计为现有无线网络的即插即用隐私保护扩展。在IRShield的核心，我们设计了一个IRS配置算法来混淆无线信道。我们验证了广泛的实验评估的有效性。在使用现成Wi-Fi设备的最先进的人体运动检测攻击中，IRShield将检测率降低到5%或更低。
2022-04-07 cs.CR
From Reconnaissance to Response: Quantitative Risk Parameterization and Game Theoretic Containment in Modern Enterprise Attack
Research Division, Shadeeb Engineering Lab（Shadeeb工程实验室研究部）；Capitol Technology University, Department of Engineering（卡皮托尔理工大学工程学院）
本文提出一种集成决策引擎，将定量风险参数化与博弈论相结合，实现企业攻击的亚分钟级自动化遏制，并在真实事件数据上验证了有效性。
2026-10-30 cs.CR cs.GT cs.SY
Effectiveness of Moving Target Defenses for Adversarial Attacks in ML-based Malware Detection
King’s College London（伦敦国王学院）
近年来，已经提出了几种对抗对抗ML攻击的移动目标防御（MTD）。MTD声称通过定期改变防御的某些元素（例如循环配置）来增加攻击者进行攻击的难度。为了检验这些说法，我们首次研究了几种最新的MTD对应用于恶意软件检测领域的对抗性ML攻击的有效性。在不同的威胁模型下，我们证明了可转移性和查询攻击策略可以通过跨Android和Windows的现有和新颖的攻击策略来实现对这些防御的高水平规避。我们还表明，指纹识别和侦察是可能的，并演示了攻击者如何获得关键的防御超参数以及如何产生预测的信息。基于我们的研究结果，我们提出了关键的建议，为今后的工作，有效的MTD的对抗攻击在ML为基础的恶意软件检测。
2023-02-01 cs.CR cs.LG
Survey on Federated Learning Threats: concepts, taxonomy on attacks and defences, experimental study and challenges
Andalusian Research Institute in Data Science and Computational Intelligence（安达卢西亚数据科学与计算智能研究院）；University of Granada（格拉纳达大学）
联邦学习是一种机器学习范式，它作为人工智能中隐私保护需求的解决方案而出现。作为机器学习，联邦学习受到对抗攻击的威胁，这些攻击针对学习模型的完整性和数据的隐私，通过分布式方法来处理局部和全局学习。联邦学习中数据的不可访问性加剧了这一弱点，这使得对抗攻击的保护更加困难，并证明需要进一步研究防御方法，使联邦学习成为保护数据隐私的真正解决方案。在本文中，我们对联邦学习的威胁，以及相应的对策，攻击与防御进行了广泛的审查。本调查提供了对抗性攻击的分类和防御方法的分类，描述了联邦学习的这种脆弱性的一般情况以及如何克服它。同样，我们阐述了根据对抗攻击的类别选择最适当的防御方法的指导方针。此外，我们进行了广泛的实验研究，从中我们得出进一步的结论，攻击和防御的行为和准则，选择最适当的防御方法，根据类别的对抗攻击。这项研究完成后，导致冥想的经验教训和挑战。
2022-01-20 cs.AI cs.CR cs.LG
Rethinking Satellite Cybersecurity: A System-Level Taxonomy and Longitudinal Analysis
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
本文针对卫星网络安全，提出受MITRE ATT&CK启发的系统级攻击生命周期分类，通过分析多轨道卫星段、200余起公开事件，揭示攻击趋势转变，并结合案例验证框架实用性，支撑卫星安全防御相关工作。
2026-08-04 cs.CR
STRIKE: A Structured Taxonomy of Cybercrime for Risk, Impact, Knowledge, and Evolution
Troy University（特洛伊大学）
本文提出STRIKE框架，用于分类网络犯罪，涵盖传统和新兴领域，提供多维分析方法以应对复杂威胁。
2026-05-15 cs.CR
Adversarial Examples: Attacks and Defenses for Deep Learning
University of Florida（佛罗里达大学）
深度学习在广泛的应用中取得了快速进展和重大成功，正在许多安全关键环境中应用。然而，最近发现深度神经网络容易受到精心设计的输入样本（称为对抗样本）的影响。对抗性示例对人类来说是不可感知的，但在测试/部署阶段可以很容易地欺骗深度神经网络。对抗性示例的脆弱性成为在安全关键环境中应用深度神经网络的主要风险之一。因此，对抗性样本的攻击和防御引起了人们的极大关注。在本文中，我们回顾了最近关于深度神经网络对抗性示例的研究结果，总结了生成对抗性示例的方法，并提出了这些方法的分类。根据分类法，对抗性的例子的应用程序进行了研究。我们进一步阐述了对抗性例子的对策，并探讨了挑战和潜在的解决方案。
2018-07-07 cs.CR cs.CV cs.LG
Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain
Ben-Gurion University of the Negev（内盖夫本-古里安大学）
近年来，机器学习算法，更具体地说，深度学习算法，已经广泛应用于包括网络安全在内的许多领域。然而，机器学习系统容易受到对抗攻击，并且这限制了机器学习的应用，特别是在非静止的对抗性环境中，诸如网络安全领域，其中实际的对手（例如，恶意软件开发者）存在。本文全面总结了针对基于机器学习技术的安全解决方案的对抗攻击的最新研究，并说明了它们带来的风险。首先，对抗攻击方法的特点是基于他们的发生阶段，攻击者的目标和能力。然后，我们分类的对抗攻击和防御方法在网络安全领域的应用。最后，我们强调了最近研究中发现的一些特征，并讨论了其他对抗性学习领域的最新进展对网络安全领域未来研究方向的影响。本文首次讨论了在网络安全领域实施端到端对抗攻击的独特挑战，将其映射到统一的分类中，并使用分类突出未来的研究方向。
2021-03-13 cs.CR cs.LG stat.ML
The Threat of Adversarial Attacks on Machine Learning in Network Security -- A Survey
Carleton University（卡尔顿大学）
机器学习模型使许多决策支持系统变得更快、更准确、更高效。然而，与其他领域相比，机器学习在网络安全中的应用面临着更不成比例的主动对抗攻击威胁。这是因为网络安全中的机器学习应用程序（如恶意软件检测、入侵检测和垃圾邮件过滤）本身就具有对抗性。在攻击者和防御者之间的军备竞赛中，对手不断地用明确设计的输入来探测机器学习系统，以绕过系统并引起错误的预测。在本调查中，我们首先提供了机器学习技术、任务和深度的分类。然后，我们介绍了机器学习在网络安全应用中的分类。接下来，我们研究了网络安全中针对机器学习的各种对抗性攻击，并介绍了网络安全中对抗攻击的两种分类方法。首先，我们分类对抗攻击在网络安全的基础上的网络安全应用的分类。其次，我们将网络安全中的对抗攻击分为问题空间与特征空间的维度分类模型。然后，我们分析了各种防御对抗攻击的机器学习为基础的网络安全应用程序。最后，我们引入了一个对抗性风险网格图，并使用风险网格图评估了网络安全中针对机器学习的几种现有对抗攻击。我们还确定了每个攻击分类在对抗性风险网格图中的位置。
2023-03-21 cs.CR cs.LG cs.NI
A Comprehensive Review of One-Pixel Attack: Research Status, Taxonomy, Applications, Regulation Policy and Future Directions
Bangladesh University of Business and Technology（孟加拉国商业与技术大学）；Universiti Sains Malaysia（马来西亚理科大学）；Universität Bremen（不来梅大学）；University of Asia Pacific（亚太大学）
本综述系统梳理单像素攻击的研究现状，提出多轴分类法，总结防御范式，并展望未来方向与监管框架，为理解与缓解超稀疏对抗威胁奠定基础。
2026-10-02 cs.CR cs.CV
Towards Adversarial Malware Detection: Lessons Learned from PDF-based Attacks
恶意软件仍然是网络安全领域的一个主要威胁，这也是由于文件等感染媒介的广泛使用。这些感染载体向受害用户隐藏嵌入的恶意代码，便于使用社会工程技术感染他们的机器。研究表明，机器学习算法提供了针对此类威胁的有效检测机制，但在对抗环境中存在的军备竞赛最近对此类系统提出了挑战。在这项工作中，我们专注于嵌入在PDF文件中的恶意软件作为这样的军备竞赛的代表性案例。我们首先提供了一个全面的分类用于生成PDF恶意软件的不同方法，以及相应的基于学习的检测系统。然后，我们使用对抗性机器学习领域的成熟框架，对专门针对基于学习的PDF恶意软件检测器的威胁进行分类。该框架允许我们对基于学习的PDF恶意软件检测器的已知漏洞进行分类，并识别可能威胁此类系统的新型攻击，以及可以减轻此类威胁影响的潜在防御机制。最后，我们讨论了这些发现如何突出有前途的研究方向，以解决在对抗环境中设计强大的恶意软件检测器的更普遍的挑战。
2020-04-14 cs.CR
A Survey on Adversarial Attacks for Malware Analysis
在过去的十年中，机器学习在其采用和发展方面取得了巨大的增长。机器学习从传统算法到现代深度学习架构的演变塑造了当今技术的运作方式。其从非结构化数据中发现知识/模式并自动化决策过程的前所未有的能力导致其在广泛领域的应用。高飞的机器学习领域最近被对抗攻击的引入所束缚。对手能够修改数据，最大化模型的分类错误。机器学习模型中盲点的发现已经被对抗性攻击者通过在测试样本中生成微妙的故意扰动来利用。对数据的日益依赖为伪装机器学习模型的高激励铺平了道路。为了应对未来可能发生的灾难性后果，需要不断研究，以发现系统中对抗性和设计补救措施形式的漏洞。本调查旨在提供针对恶意软件检测系统进行的对抗攻击的专业介绍。本文将介绍用于生成对抗的各种机器学习技术，并解释目标文件的结构。该调查还将对对手构成的威胁进行建模，然后简要描述被广泛接受的对抗算法。工作将提供一个分类的攻击域和对抗生成技术的基础上的对抗逃避攻击。针对恶意软件检测器进行的对抗性规避攻击将在每个分类标题下进行简要讨论，并与相应的研究进行比较。分析当前研究在对抗性的一代中面临的挑战，调查将通过确定未来开放的研究方向来得出结论。
2022-01-05 cs.CR
A Taxonomy of Attacks and Defenses in Split Learning
Bilkent University（巴伊利安大学）；Koç University（科卡大学）
本文针对分割学习提出一个沿策略、约束和有效性三维度分类的攻击与防御体系，并指出开放挑战与未来方向。
2025-05-09 cs.CR cs.LG
Adversarial Defense in Cybersecurity: A Systematic Review of GANs for Threat Detection and Mitigation
本文系统综述2021年至2025年8月基于 GAN 的网络安全对抗防御，提出四维分类法并评估其成效、挑战与未来路线图。
2026-09-30 cs.AI cs.CR
Recent Advances in Adversarial Training for Adversarial Robustness
Nanyang Technological University（南洋理工大学）；Wuhan University（武汉大学）
对抗性训练是深度学习模型防御对抗性样本的最有效方法之一。与其他防御策略不同，对抗性训练旨在从本质上提高模型的鲁棒性。近几年来，对抗性训练受到了多方面的研究和探讨。提出了对抗训练的各种改进和发展，然而，在现有的调查中被忽视。在这次调查中，我们首次系统地回顾了对抗训练的最新进展，并采用了一种新的分类法来提高对抗鲁棒性。然后从三个方面讨论了对抗训练中的泛化问题。最后，我们强调尚未充分解决的挑战，并提出潜在的未来方向。
2021-04-21 cs.AI cs.CR cs.LG
Attacks in Adversarial Machine Learning: A Systematic Survey from the Life-cycle Perspective
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Beijing University of Posts and Telecommunications（北京邮电大学）；University at Buffalo, State University of New York（纽约州立大学布法罗分校）
本文从生命周期视角系统综述对抗性机器学习，提出统一数学框架涵盖现有攻击范式，构建完整分类法以揭示各范式间的联系与差异，并持续更新相关文献。
2024-01-04 cs.CR cs.LG
Amplifying Machine Learning Attacks Through Strategic Compositions
本文首次系统研究机器学习攻击间的策略性组合，提出基于攻击流程三阶段的分类法，识别出四种有效组合，并通过实验验证，发布工具包COAT以加强AI系统安全性。
2025-06-23 cs.CR
A Taxonomy of System-Level Attacks on Deep Learning Models in Autonomous Vehicles
本文提出了首个针对自动驾驶汽车深度学习组件的系统级攻击分类法，通过分析21篇相关论文构建了12个顶层类别，揭示了攻击特征、威胁模型及失效链，并为从业者和研究者提供了经验教训与未来方向。
2025-08-13 cs.CR cs.SE
Backdoor Threats in Variational Quantum Circuits: Taxonomy, Attacks, and Defenses
Indiana University（印第安纳大学）
本文探讨了变分量子电路中后门攻击的分类、攻击方式及防御措施，分析了现有检测与防御方法的局限性，并提出了未来研究方向。
2026-05-13 cs.CR quant-ph
Toward a Deep Learning-Driven Intrusion Detection Approach for Internet of Things
物联网（IoT）为我们的日常生活带来了巨大的好处，涵盖了我们经常与之互动的各种应用领域，从医疗保健自动化到交通和智能环境。然而，由于受限的资源和计算能力的限制，物联网网络容易受到各种网络攻击。因此，保护物联网网络免受对抗攻击至关重要。在本文中，我们提出了一种新的入侵检测方法，物联网网络通过应用深度学习技术。我们采用尖端的物联网数据集，包括物联网跟踪和真实的攻击流量，包括拒绝服务，分布式拒绝服务，侦察和信息窃取攻击。我们利用在个人数据包的头部字段信息作为通用功能来捕捉一般的网络行为，并开发一个前馈神经网络模型与嵌入层（编码高维分类功能）的多类分类。随后采用迁移学习的概念对高维分类特征进行编码以构建二元分类器。通过评估所提出的方法得到的结果表明，二进制和多类分类器的分类精度高。
2020-07-18 cs.CR
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
Purdue University（普渡大学）
本文提出RoboJailBench，通过建立安全分类学、引入意图对比数据集管道以及提供一个演进的存储库，为具身体验人工智能中的对抗攻击和防御提供了标准化评估框架，同时构建了一个新的分类平衡数据集并增强了五个现有数据集。
2026-05-19 cs.CR cs.RO
A Descriptive Model for Modelling Attacker Decision-Making in Cyber-Deception
Curtin University（科廷大学）；Edith Cowan University（伊迪丝考恩大学）；University of Wollongong（伍伦贡大学）
本文提出了一种描述性模型，用于建模攻击者在网络欺骗中的决策过程，结合心理和战略因素，以更真实地反映实际情境。
2025-12-03 cs.CR
RerouteGuard: Understanding and Mitigating Adversarial Risks for LLM Routing
The State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室）；The School of Cyber Science and Engineering, Southeast University（东南大学网络空间安全学院）
RerouteGuard通过动态嵌入检测和自适应阈值，有效检测并缓解LLM路由中的对抗风险，提升多模型AI系统的安全性。
2026-01-29 cs.CR
Adversarial Attacks of Vision Tasks in the Past 10 Years: A Survey
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；The Chinese University of Hong Kong（香港中文大学）；The University of Hong Kong（香港大学）；Zhejiang Lab, Nanjing University of Aeronautics and Astronautics（浙江实验室，南京航空航天大学）
该综述针对现有对抗攻击研究综述缺乏深度分析、未整合传统与LVLM攻击的不足，全面梳理两类攻击的关联与差异，提供统一研究视角与未来方向参考。
2025-05-17 cs.CR cs.CV
Adversarial Attacks on Multimodal Large Language Models: A Comprehensive Survey
Google（谷歌）；Bennett University, India（印度贝内特大学）
本文综述了多模态大语言模型面临的对抗威胁，分析了攻击类型及其根源，提出分类框架以提升模型安全性。
2026-03-30 cs.AI cs.CR
Model Extraction Attacks on Graph Neural Networks: Taxonomy and Realization
Monash University（莫纳什大学）
机器学习模型面临着来自模型窃取攻击的严重威胁，其中服务提供商拥有的经过良好训练的私有模型可以被伪装成客户端的攻击者窃取。不幸的是，先前的工作集中在欧几里德空间上训练的模型上，例如，图像和文本，而如何提取包含图结构和节点特征的GNN模型还有待探索。在本文中，我们第一次全面地研究和开发了针对GNN模型的模型窃取攻击。我们首先在GNN模型提取的背景下系统地形式化威胁建模，并通过考虑攻击者的不同背景知识将对抗性威胁分为七类，例如，属性和/或由攻击者获得的节点的相邻连接。然后，我们提出了详细的方法，利用可访问的知识，在每个威胁实施攻击。通过评估三个真实世界的数据集，我们的攻击被证明可以有效地提取重复的模型，即，目标域中84% - 89%的输入与受害者模型具有相同的输出预测。
2021-11-30 cs.CR cs.LG
MCP-DPT: A Defense-Placement Taxonomy and Coverage Analysis for Model Context Protocol Security
Old Dominion University（老道明大学）
本文提出MCP-DPT框架，分析模型上下文协议的安全性，识别防御点并揭示架构不匹配导致的安全漏洞。
2026-04-08 cs.AI cs.CR
Assessing Risks and Modeling Threats in the Internet of Things
威胁建模和风险评估是识别、估计国家、组织和个人运营和资产的风险并确定其优先级的常用方法。在物联网（IoT）出现之前，已经提出了几种威胁建模和风险评估方法，其关注信息技术（IT）中的威胁和风险。由于这些方法的缺点以及物联网和IT之间存在显着差异的事实，我们综合并调整这些方法，以提供一个专注于物联网中威胁和风险的威胁建模框架。在此过程中，我们开发了一种物联网攻击分类法，描述了对抗性资产、对抗性行为、可利用的漏洞以及作为任何物联网攻击组成部分的受损属性。我们使用这种物联网攻击分类作为设计联合风险评估和成熟度评估框架的基础，该框架作为交互式在线工具实现。该工具编码的评估框架为组织提供了关于应将资源用于减轻风险的具体建议。在多个工业制造公司的背景下实施的案例研究突出了这个物联网框架的有用性，这个框架的交互式实施可以在http://iotrisk.andrew.cmu.edu上找到。
2021-10-14 cs.CR cs.CY
The Attack Generator: A Systematic Approach Towards Constructing Adversarial Attacks
neurocat GmbH（neurocat有限公司）；Volkswagen AG（大众汽车集团）
大多数最先进的机器学习（ML）分类系统都容易受到对抗性扰动的影响。因此，对抗鲁棒性对在安全和安全关键环境（如自动驾驶、疾病检测或无人机）中部署基于ML的系统提出了重大挑战。在过去几年中，我们看到大量的出版物提出了越来越多的新的对抗攻击。然而，攻击研究似乎是相当非结构化的，新的攻击往往是从无限可能的对抗攻击中随机选择的。在这篇文章中，我们对对抗攻击的创建过程进行了结构化分析。通过检测对抗攻击的不同构建块，我们概述了新的对抗攻击集的道路。我们称之为“攻击生成器”。在追求这一目标，我们总结和扩展现有的对抗扰动分类法。然后将得到的分类与自动驾驶车辆的计算机视觉系统的应用环境相关联，即语义分割和目标检测。最后，为了证明有用的攻击发生器，我们调查现有的语义分割攻击检测定义组件的对抗攻击。
2019-06-17 cs.CR cs.LG stat.ML
PARD-SSM: Probabilistic Cyber-Attack Regime Detection via Variational Switching State-Space Models
Visvesvaraya Technological University (VTU)（维斯瓦什瓦拉亚理工大学）；Aliens on Earth (AoE) Autonomous Research Group（外星人地球（AoE）自主研究组）
本文提出PARD-SSM模型，通过变分方法建模网络流量为依赖于四个隐藏状态的切换线性动态系统，实现对网络攻击阶段的实时检测，并在CICIDS2017和UNSW-NB15数据集上取得高F1分数和低延迟的检测性能。
2026-04-02 cs.CR
SoK: Federated Learning for Intrusion Detection in Vehicular Networks
École de technologie supérieure (ÉTS)（高等技术学院）；University of Calgary（卡尔加里大学）
针对现代车载网络攻击面扩大问题，本文通过知识梳理统一车载攻击面分类法、评估FL拓扑并映射对抗威胁，审核60多篇文献识别常见陷阱，进而定义前瞻性研究议程及最低基准要求，推动车载FL-IDS走向实际安全部署。
2026-07-14 cs.CR
Adversarial Pruning: A Survey and Benchmark of Pruning Methods for Adversarial Robustness
University of Cagliari（卡利亚里大学）；Sapienza University of Rome（罗马大学）；University of Genova（热那亚大学）；CINI, National Cybersecurity Lab, Consorzio Interuniversitario Nazionale per l’Informatica（意大利国家跨大学信息学联盟国家网络安全实验室）
本文综述了当前的对抗剪枝方法并提出基于流水线和具体细节的新分类法，同时提出公平评估基准并对现有方法进行经验性重评估，揭示了表现最佳方法的共同特征与常见问题。
2025-05-30 cs.CR cs.CV cs.LG
Adversarial Diffusion Across Modalities: A Fusion Survey of Attacks, Defenses, and Evaluation for Text, Vision, and Vision-Language Models
Information and Computer Science Department, King Fahd University of Petroleum & Minerals（国王法赫德石油矿物大学信息与计算机科学系）；College of Computer Science and Information Technology, Imam Abdulrahman Bin Faisal University（伊玛目阿卜杜勒拉赫曼·本·法伊塞尔大学计算机科学与信息科技学院）；SDAIA-KFUPM Joint Research Center for Artificial Intelligence, King Fahd University of Petroleum & Minerals（SDAIA-KFUPM人工智能联合研究中心，国王法赫德石油矿物大学）
本文整合了文本、图像分类器和视觉-语言模型上的对抗攻击与防御研究，提出统一分类法和评估框架，并识别了当前文献中的五个常见弱点。
2026-06-26 cs.CL cs.CR
Adversarial Machine Learning Threats to Spacecraft
Cornell University（康奈尔大学）；The University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
该研究聚焦航天器自主系统面临的对抗性机器学习（AML）威胁，提出AML威胁分类体系，并基于NASA的cFS与OnAIR平台通过仿真实验验证攻击可行性，强调需在自主航天器中部署AML相关安全措施。
2024-05-14 cs.AI cs.CR cs.LG
Adversarial Attacks on Leakage Detectors in Water Distribution Networks
Bielefeld University（比勒费尔德大学）
该研究针对供水管网机器学习泄漏检测器易受对抗攻击的问题，提出攻击分类体系，聚焦最不敏感点攻击并通过三种算法求解，在两个基准管网完成评估，为提升模型鲁棒性提供支撑。
2023-05-25 cs.CR cs.LG
Cyber Campaign Fractals -- Geometric Analysis of Hierarchical Cyber Attack Taxonomies
该研究提出基于分形几何的网络威胁活动分析框架，将分层攻击分类法建模为雪花状结构，用Hutchinson定理等实现活动比较，兼具数学严谨性与可视化能力，可应对多领域对抗行动复杂度增长问题。
2025-03-21 cs.CR
Adversarial Attacks against Face Recognition: A Comprehensive Study
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Norwegian University of Science and Technology (NTNU i Gjovik)（挪威科技大学（NTNU 约维克校区））
人脸识别（FR）系统已经表现出出色的验证性能，这表明它适用于从社交媒体中的照片标记到自动边境控制（ABC）等现实世界的应用。然而，在具有基于深度学习的架构的高级FR系统中，仅仅提高识别效率是不够的，并且系统还应该承受针对其熟练程度而设计的潜在类型的攻击。最近的研究表明，（深度）FR系统对不可感知或可感知但看起来很自然的对抗性输入图像表现出一种有趣的脆弱性，这种脆弱性会导致模型产生错误的输出预测。在这篇文章中，我们提出了一个全面的调查对抗攻击对FR系统，并阐述了能力的新对策。此外，我们提出了一个分类现有的攻击和防御方法的基础上不同的标准。我们比较了方向和属性上的攻击方法和类别上的防御方法。最后，我们探讨了挑战和潜在的研究方向。
2021-02-06 cs.CR cs.CV cs.LG
A Survey on Enterprise Network Security: Asset Behavioral Monitoring and Distributed Attack Detection
本文系统综述了企业网络安全中资产行为监控与分布式攻击检测的研究与工业系统现状，涵盖攻击分类、行为监控、检测方法及可编程网络与机器学习的应用，并指出未来研究方向。
2023-06-29 cs.CR cs.NI
Towards a Robust Deep Neural Network in Texts: A Survey
Key Laboratory of Aerospace Information Security and Trusted Computing, Ministry of Education（空天信息安全与可信计算教育部重点实验室）；School of Cyber Science and Engineering, Wuhan University（武汉大学网络空间安全学院）
深度神经网络（DNN）已经在各种任务（例如，图像分类、语音识别和自然语言处理（NLP））。然而，研究人员已经证明，基于DNN的模型容易受到对抗性示例的影响，这些示例通过向合法输入中添加不可察觉的扰动来导致错误的预测。近年来，研究发现文本领域存在对抗性的例子，可以有效地规避各种基于DNN的文本分析器，并进一步带来虚假信息扩散的威胁。本文综述了国内外对抗性文本生成技术的研究现状，并提出了相应的防御方法。更重要的是，我们希望我们的工作可以激励未来的研究，开发更强大的基于DNN的文本分析器来对抗已知和未知的对抗技术。我们根据扰动单元对现有的制作对抗文本的对抗技术进行了分类，有助于更好地理解对抗文本的生成并构建强大的防御模型。在介绍文本域中的对抗攻击和防御的分类时，我们从不同NLP任务的角度介绍了对抗技术。最后，我们讨论了文本中的对抗攻击和防御的现有挑战，并提出了未来的研究方向，在这个新兴的和具有挑战性的领域。
2021-04-21 cs.CL cs.CR cs.LG
Towards Secure MLOps: Surveying Attacks, Mitigation Strategies, and Research Challenges
The University of Alabama（阿拉巴马大学）；Mississippi State University（密苏里州立大学）
本文系统分析了MLOps生态系统的安全威胁与缓解策略，强调了实施强大安全协议的重要性。
2026-01-27 cs.AI cs.CR
Evaluating the Security of Aircraft Systems
近年来，网络攻击的复杂性和复杂性以及目标平台的多样性一直在增长。各种对手正在滥用越来越多的平台，例如，企业平台、移动电话、PC、运输系统和工业控制系统。近年来，我们目睹了对交通系统的各种网络攻击，包括对港口、机场和火车的攻击。交通系统成为网络攻击者更常见的目标只是时间问题。由于运载多名乘客的攻击飞行器所固有的巨大的潜在损害以及传统机载系统缺乏安全措施，飞行器系统的脆弱性是飞行器安全领域最受关注的话题之一。本文全面回顾了飞机系统和组件及其各种网络，强调了它们所面临的网络威胁以及网络攻击对这些组件和网络以及飞机基本能力的影响。此外，我们提出了一个全面而深入的分类，从对手的角度来解释航空电子领域的网络安全知识和理解。该分类法将技术划分为反映对抗攻击生命周期各个阶段的相关类别（战术），并根据MITRE ATT&CK方法映射现有攻击。此外，我们分析了各种系统之间的安全风险，根据潜在的威胁行为者和分类的基础上STRIDE威胁模型的威胁。未来的工作方向是作为行业和学术界的指导方针。
2022-09-08 cs.CR
ADMIn: Attacks on Dataset, Model and Input. A Threat Model for AI Based Software
本文提出ADMIn风险模型，结合AI软件开发过程模型与对抗性攻击分类体系，系统化识别基于AI软件的威胁，并在两个真实系统中验证其有效性。
2024-01-15 cs.CR
A Survey on Adversarial Attacks and Defenses for Diffusion Models Across Multiple Modalities
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）；Georgia Institute of Technology（佐治亚理工学院）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）
本文首次统一综述了图像、视频和3D三种模态下扩散模型的对抗攻击与防御，提出了以任务为中心的分类体系，并分析了评估设置，指出了开放挑战和未来方向。
2026-09-09 cs.CR cs.CV
Characterizing and evaluating adversarial examples for Offline Handwritten Signature Verification
École de technologie supérieure, Université du Québec（魁北克大学高等技术学院）；Federal University of Parana（巴拉那联邦大学）
对抗示例现象正吸引着机器学习社区越来越多的兴趣，因为它对机器学习系统的安全性有着重要的影响。对抗性示例与数据分布中的样本相似（从相似性的感知概念来看），这“愚弄”了机器学习分类器。对于计算机视觉应用，这些图像具有精心制作但几乎无法察觉的变化，这些变化被错误分类。在这项工作中，我们根据现有的生物特征识别系统的威胁分类，特别是识别新的攻击离线手写签名验证系统的这种现象。我们在四个广泛使用的数据集上进行了一组广泛的实验：MCYT-75，CEDAR，GPDS-160和巴西PUC-PR，考虑了基于CNN的系统和使用手工特征提取器（CLBP）的系统。我们发现，即使在知识有限的情况下，即使攻击者无法访问经过训练的分类器，也无法访问用于训练的签名，旨在拒绝真实签名的攻击也很容易生成。使伪造品被接受的攻击更难产生，并且通常需要更高级别的噪声-在大多数情况下，不再像以前在对象识别中发现的那样“不可感知”。我们还评估了两种对策对攻击成功率和生成成功攻击所需的噪声量的影响。
2019-01-10 cs.CR cs.CV
Evasion Adversarial Attacks Remain Impractical Against ML-based Network Intrusion Detection Systems, Especially Dynamic Ones
Carleton University（卡尔顿大学）
本文研究了对抗攻击对基于机器学习的网络入侵检测系统（NIDS）的实用性，指出动态系统中的攻击有效性较低，并通过实验表明持续重新训练可降低攻击效果。
2026-03-29 cs.CR cs.LG cs.NI
Survey on Adversarial Attack and Defense for Medical Image Analysis: Methods and Challenges
School of Computer Science and Engineering, Sun Yat-sen University（中山大学计算机科学与工程学院）；Guangdong Province Key Laboratory of Information Security Technology（广东省信息安全技术重点实验室）；Division of Life Science, Hong Kong University of Science and Technology（香港科技大学生命科学部）
该综述系统梳理了医学图像分析领域对抗攻击与防御的研究进展，构建了分类体系与统一框架，搭建了对抗鲁棒诊断模型评估基准，分析了现有挑战并指明未来研究方向。
2024-11-04 cs.CR cs.CV eess.IV
SoK: Systematic analysis of adversarial threats against deep learning approaches for autonomous anomaly detection systems in SDN-IoT networks
University College Dublin（都柏林大学）
本SoK研究针对SDN-IoT网络中基于深度学习的自主异常检测系统的对抗性威胁，构建结构化威胁模型与攻击分类，系统评估多类攻击的影响并提出自适应防御对策，为相关安全研究与实践提供基础参考。
2025-09-30 cs.AI cs.CR
Adversarial Robustness of Deep Neural Networks: A Survey from a Formal Verification Perspective
National University of Singapore（新加坡国立大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）；The University of Queensland（昆士兰大学）；Griffith University（格里菲斯大学）
神经网络已广泛应用于诸如垃圾邮件和网络钓鱼检测、入侵防御和恶意软件检测等安全应用中。然而，这种黑箱方法在实际应用中往往存在不确定性和可解释性差的问题。此外，神经网络本身往往容易受到对抗攻击。由于这些原因，有一个值得信赖的和严格的方法来验证神经网络模型的鲁棒性的需求很高。对抗鲁棒性是神经网络在处理恶意操纵输入时的可靠性，是安全和机器学习中最热门的话题之一。在这项工作中，我们调查了现有的文献对抗性的鲁棒性验证神经网络，并收集了39个不同的研究工作，在机器学习，安全和软件工程领域。我们系统地分析了他们的方法，包括如何制定鲁棒性，使用什么验证技术，以及每种技术的优势和局限性。我们从形式化验证的角度提供了一个分类法，以全面理解这个主题。我们对现有的技术进行分类的基础上属性规范，减少问题，推理策略。我们还展示了具有代表性的技术，已应用于现有的研究与样本模型。最后，我们讨论了未来研究的开放性问题。
2022-10-11 cs.CR cs.LG cs.SE
Beyond Vulnerabilities: A Survey of Adversarial Attacks as Both Threats and Defenses in Computer Vision Systems
本综述系统分析对抗性攻击在计算机视觉中的双重角色，涵盖像素、物理和潜在空间攻击，并探讨其在漏洞评估与防御中的建设性应用，指出研究空白与未来方向。
2025-08-03 cs.AI cs.CR cs.CV
When MCP Servers Attack: Taxonomy, Feasibility, and Mitigation
National University of Singapore（新加坡国立大学）；Peking University（北京大学）
本文首次系统研究恶意 MCP 服务器威胁，提出十二类基于组件的攻击分类并验证 PoC 有效性，揭示其低成本、难检测且可损害 AI 智能体系统。
2025-09-29 cs.CR cs.SE
Adversarial Attacks and Defenses on Text-to-Image Diffusion Models: A Survey
Tianjin University（天津大学）
该综述全面梳理了文本生成图像扩散模型的对抗攻击与防御研究，介绍了模型基础、攻击分类与现有方法、防御手段，并讨论了现存挑战与未来方向，整理了相关方法资源库。
2024-09-13 cs.AI cs.CR cs.CV
Adversarial attacks and defenses in explainable artificial intelligence: A survey
University of Warsaw（华沙大学）；Warsaw University of Technology（华沙理工大学）
本综述聚焦可解释人工智能（XAI）面临的对抗攻击问题，梳理了相关攻击与公平性指标研究，搭建了统一分类体系，讨论防御方法与现有安全隐患，并指出对抗XAI的未来研究方向。
2025-07-28 cs.AI cs.CR cs.CV
KillChainGraph: ML Framework for Predicting and Mapping ATT&CK Techniques
Frondeur Labs（弗朗德实验室）
针对网络攻击的复杂与激增问题，提出KillChainGraph框架，通过ATTACK-BERT映射ATT&CK技术到杀伤链阶段，结合多模型集成与有向图建模阶段依赖，实现攻击路径预测，提升主动防御能力。
2025-08-19 cs.AI cs.CR
