A Multi-Model Hybrid Defense Approach Against White-box Adversarial Attacks in Computer Network Traffic
Aligarh Muslim University（阿里格尔穆斯林大学）
研究针对计算机网络流量白盒对抗攻击，提出多模型混合防御方法，结合对抗训练和高斯数据增强，有效减轻FGSM和C&W攻击影响，提升攻击后NIDS准确率，为对抗机器学习安全研究提供方向。
2026-07-21 cs.CR cs.LG
Rethinking Randomized Smoothing from the Perspective of Scalability
IIT Roorkee（鲁尔基印度理工学院）；MFS DSAI
本文从可扩展性视角系统综述随机平滑及其衍生方法的理论保证、实证效果与扩展挑战，为基于认证的对抗鲁棒防御提供梳理。
2024-10-24 cs.CR cs.LG stat.ML
What Doesn't Kill You Makes You Robust(er): How to Adversarially Train against Data Poisoning
University of Siegen（锡根大学）；University of Maryland（马里兰大学）
数据投毒是一种威胁模型，其中恶意行为者篡改训练数据以在推理时操纵结果。针对这种威胁模型提出了各种防御措施，但每一种都至少有以下缺陷之一：它们很容易被自适应攻击克服，它们严重降低测试性能，或者它们不能推广到不同的数据投毒威胁模型。对抗性训练及其变体目前被认为是唯一一种针对（推理时间）对抗攻击的经验性强的防御方法。在这项工作中，我们扩展了对抗性训练框架，以防御（训练时间）数据投毒，包括有针对性的和后门攻击。我们的方法通过在训练过程中创建毒药并将其注入训练批次来使网络对此类攻击的影响脱敏。我们证明了这种防御可以承受自适应攻击，推广到不同的威胁模型，并且比以前的防御（如DP-SGD或（逃避）对抗训练）具有更好的性能权衡。
2022-02-17 cs.CR cs.CV cs.LG
Adversarial Attacks and Defenses: An Interpretation Perspective
Texas A&M University（得克萨斯农工大学）；Arizona State University（亚利桑那州立大学）
尽管最近在广泛的应用中取得了进展，但机器学习模型，特别是深度神经网络，已被证明容易受到对抗攻击的攻击。攻击者在输入中添加精心制作的扰动，这些扰动几乎是人类无法察觉的，但可能导致模型做出错误的预测。保护模型免受对抗性输入的技术称为对抗性防御方法。尽管已经提出了许多方法来研究不同场景下的对抗攻击和防御，但如何真正理解模型脆弱性仍然是一个有趣而关键的挑战。受“知己知彼，百战不殆”这句谚语的启发，我们可以在解释机器学习模型以打开黑匣子之后解决上述挑战。模型解释或可解释的机器学习的目标是为模型的工作机制提取人类可理解的术语。最近，一些方法开始将解释纳入对抗攻击和防御的探索中。同时，我们也观察到许多现有的对抗攻击和防御方法，虽然没有明确声明，但可以从解释的角度来理解。在本文中，我们回顾了最近的工作对抗攻击和防御，特别是从机器学习解释的角度。我们将解释分为两种类型，特征级解释和模型级解释。对于每种类型的解释，我们详细说明了它如何用于对抗攻击和防御。然后，我们简要说明解释和对手之间的其他相关性。最后，我们讨论了挑战和未来的方向，沿着解决对手的问题与解释。
2020-10-07 cs.CV cs.LG stat.ML
The Best Defense Is a Good Offense: Adversarial Attacks to Avoid Modulation Detection
Imperial College London（帝国理工学院）；DeepMind（深度思维）
我们考虑一个通信场景，其中入侵者试图确定被拦截信号的调制方案。我们的目标是最大限度地减少入侵者的准确性，同时保证预期的接收器仍然可以以最高的可靠性恢复底层消息。这是通过在编码器处扰动信道输入符号来实现的，类似于针对机器学习中的分类器的对抗攻击。在图像分类中，扰动被限制为人类观察者无法感知，而在我们的情况下，扰动被约束，使得消息仍然可以被合法接收器可靠地解码，合法接收器对扰动不敏感。仿真结果证明了我们的方法的可行性，使无线通信安全的最先进的入侵者（使用深度学习或决策树），在通信性能的牺牲最小。另一方面，我们还证明了使用不同的训练数据和课程学习可以显着提高入侵者的准确性。
2020-04-07 cs.CR cs.LG stat.ML
Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
Indian Institute of Science（印度科学学院）
对抗攻击的发展是对抗性防御研究的基础。高效和有效的攻击对于可靠的防御评估以及开发健壮的模型至关重要。对抗攻击通常通过使用投影梯度下降（PGD）在约束集内最大化标准损失（诸如交叉熵损失或最大余量损失）来生成。在这项工作中，我们在标准损失中引入了一个松弛项，找到了更合适的梯度方向，提高了攻击效率，并导致了更有效的对抗训练。我们提出了引导的对抗性边缘攻击（GAMA），它利用干净图像的函数映射来引导对手的生成，从而产生更强的攻击。我们评估我们的攻击对多种防御，并显示出改进的性能相比，现有的攻击。此外，我们提出了引导对抗训练（GAT），它通过利用所提出的松弛项进行攻击生成和训练，在单步防御中实现了最先进的性能。
2020-11-30 cs.CV cs.LG
AlignTree: Efficient Defense Against LLM Jailbreak Attacks
针对现有大语言模型越狱防御方案成本高或易被绕过的问题，提出AlignTree防御方法，基于两类信号用随机森林检测不对齐行为，无需额外提示或辅助模型，在多模型和基准上兼具高效性与鲁棒性。
2025-11-15 cs.LG
Internal Wasserstein Distance for Adversarial Attack and Defense
Shenzhen Youjia Innov Tech Co., Ltd（深圳佑驾创新科技有限公司）；South China University of Technology（华南理工大学）；Hong Kong University of Science and Technology（香港科技大学）
众所周知，深度神经网络（DNN）容易受到对抗攻击的攻击，这些攻击会触发DNN的错误分类，但人类感知可能无法察觉。对抗性防御是提高DNN鲁棒性的重要途径。现有的攻击方法通常依赖于$\ell_p$距离等度量来构造对抗样本。然而，这些度量由于其有限的扰动而不足以进行对抗攻击。在本文中，我们提出了一个新的内部Wasserstein距离（IWD）来捕获两个样本的语义相似性，因此它有助于获得更大的扰动比目前使用的度量，如$\ell_p$距离。然后，我们应用内部Wasserstein距离来执行对抗攻击和防御。特别是，我们开发了一种新的攻击方法，依靠IWD来计算图像及其对抗性示例之间的相似性。通过这种方式，我们可以生成多样化和语义相似的对抗性示例，这些示例更难以通过现有的防御方法进行防御。此外，我们设计了一种新的防御方法，依靠IWD来学习鲁棒的模型来对抗未知的对抗性示例。我们提供了全面的理论和经验证据来支持我们的方法。
2023-02-21 cs.CR cs.LG
A Taxonomy of Attacks and Defenses in Split Learning
Bilkent University（巴伊利安大学）；Koç University（科卡大学）
本文针对分割学习提出一个沿策略、约束和有效性三维度分类的攻击与防御体系，并指出开放挑战与未来方向。
2025-05-09 cs.CR cs.LG
Direction-Aggregated Attack for Transferable Adversarial Examples
Eindhoven University of Technology（埃因霍温理工大学）；National University of Singapore（新加坡国立大学）
深度神经网络很容易受到对抗性示例的攻击，这些示例是通过对输入进行难以察觉的更改而制作的。然而，这些对抗性示例在白盒设置中最成功，其中模型及其参数可用。找到可转移到其他模型或在黑盒环境中开发的对抗性示例要困难得多。在本文中，我们提出了方向聚合对抗攻击，提供可转移的对抗示例。我们的方法在攻击过程中利用聚合方向，以避免生成的对抗性示例过度拟合白盒模型。在ImageNet上进行的大量实验表明，我们提出的方法显著提高了对抗性示例的可移植性，并且优于最先进的攻击，特别是对抗性鲁棒模型。该方法对三种对抗训练模型的最佳平均攻击成功率为94.6%，对五种防御方法的最佳平均攻击成功率为94.8%.它还揭示了当前的防御方法不能防止可转移的对抗攻击。
2021-12-16 cs.CR cs.LG
SafeTuneBed: A Toolkit for Benchmarking LLM Safety Alignment in Fine-Tuning
Critical ML Lab（关键机器学习实验室）；University of Toronto（多伦多大学）；University of Waterloo（滑铁卢大学）
针对LLM微调安全评估标准不一的问题，提出统一基准与工具包SafeTuneBed，集成多样化数据集、防御方法与评估器，实现端到端可复现的安全微调评估。
2025-05-31 cs.AI cs.LG
Understanding the Robustness of Randomized Feature Defense Against Query-Based Adversarial Attacks
VinUniversity（文大大学）；Clemson University（克莱姆森大学）；VinAI Research（VinAI研究院）
针对深度神经网络易受黑盒对抗攻击的问题，提出推理时向中间层隐藏特征加随机噪声的轻量防御方法，经理论与实验验证其鲁棒性，无需对抗训练且不影响准确率，适用于任意预训练模型。
2023-10-01 cs.AI cs.CV cs.LG
Improving Large Language Model Safety with Contrastive Representation Learning
ETH Zurich（苏黎世联邦理工学院）；MPI for Intelligent Systems（智能系统最大计划）；University of Toronto（多伦多大学）
本文提出基于对比表征学习的框架，通过三元组损失和对抗性难负样本挖掘提升大语言模型对对抗攻击的鲁棒性。
2025-12-28 cs.AI cs.CL cs.LG
Adversarial Attacks and Defenses on 3D Point Cloud Classification: A Survey
Sharif University of Technology（谢里夫理工大学）；Simon Fraser University（西蒙弗雷泽大学）
本文综述了三维点云分类中的对抗攻击与防御技术，系统梳理了对抗样本生成方法及面向数据和模型的防御策略，并指出了当前挑战与未来研究方向。
2023-12-01 cs.CV cs.LG eess.IV
Advances in adversarial attacks and defenses in computer vision: A survey
University of Western Australia（西澳大利亚大学）；University of Central Florida（中佛罗里达大学）
深度学习（DL）是当代计算机视觉领域中使用最广泛的工具。它准确解决复杂问题的能力被用于视觉研究，以学习用于各种任务的深度神经模型，包括安全关键应用程序。然而，现在已知DL容易受到对抗攻击的攻击，这些攻击可以通过在图像和视频中引入视觉上无法感知的扰动来操纵其预测。自2013年发现这一现象以来，它引起了机器智能多个子领域研究人员的极大关注。在[2]中，我们回顾了计算机视觉社区在深度学习（及其防御）的对抗攻击中所做的贡献，直到2018年的到来。其中许多贡献启发了这一领域的新方向，自第一代方法出现以来，这一领域已显着成熟。因此，作为[2]的遗产续集，本文献综述重点关注自2018年以来该领域的进展。为了确保真实性，我们主要考虑在计算机视觉和机器学习研究的权威来源中发表的同行评审的贡献。除了一个全面的文献综述，本文还提供了简明的技术术语的定义，在这一领域的非专家。最后，本文讨论了挑战和未来的展望，这一方向的基础上回顾文献[2]。
2021-09-02 cs.CR cs.CV cs.CY
MirrorCheck: Efficient Adversarial Defense for Vision-Language Models
Mohamed Bin Zayed University of Artificial Intelligence（莫扎伊德大学人工智能大学）；NVIDIA；École Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Michigan State University（密歇根州立大学）
提出MirrorCheck框架，利用文本到图像模型和随机化策略检测并防御针对视觉-语言模型的自适应对抗攻击。
2026-06-15 cs.AI cs.CV cs.LG
Enhancing Security in Deep Reinforcement Learning: A Comprehensive Survey on Adversarial Attacks and Defenses
School of Computer and Information Engineering, Henan University（河南大学计算机与信息工程学院）；Henan Industrial Technology Academy of Spatio-Temporal Big Data, Henan University（河南大学时空大数据工业技术研究院）
本文综述了深度强化学习面临的对抗攻击与防御方法，提出了攻击分类框架，总结了鲁棒性训练策略，并展望了未来研究方向。
2025-10-23 cs.AI cs.CR cs.LG
Adversarial Attack and Defense Strategies for Deep Speaker Recognition Systems
University of Southern California (USC)（南加州大学）；USC Information Sciences Institute（南加州大学信息科学学院）
稳健的说话人识别（包括在存在恶意攻击的情况下）正变得越来越重要和必不可少，特别是由于与个人的语音命令交互以执行各种甚至敏感任务的若干智能扬声器和个人代理的扩散。对抗性攻击是最近复兴的领域，它被证明可以有效地破坏基于深度神经网络的分类器，具体来说，通过仅对输入样本进行非常少量的扰动来迫使它们改变其后验分布。虽然在计算机视觉领域已经取得了显著的进展，但在说话人识别中的进展仍然有限。本文考虑了几种最先进的对抗性攻击的深度说话人识别系统，采用强大的防御方法作为对策，并报告了几个消融研究，以获得全面的了解这个问题。实验表明，说话人识别系统容易受到攻击，最强的攻击可以使系统的准确率从94%降低到甚至为0%。该研究还详细比较了所采用的防御方法的性能，并发现基于投影梯度下降（PGD）的对抗训练是我们设置中最好的防御方法。我们希望本文中提出的实验提供了基线，可以为有兴趣进一步研究说话人识别系统的对抗鲁棒性的研究社区是有用的。
2020-08-18 cs.LG cs.SD eess.AS
Defense Against the Dark Arts: An overview of adversarial example security research and future research directions
本文总结了IEEE安全与隐私2018年深度学习安全研讨会的主题演讲。本讲座总结了对抗性示例防御的最新技术水平，并为该主题的未来研究方向提供了建议。
2018-06-11 cs.AI cs.CR cs.LG
Cross-Layer Strategic Ensemble Defense Against Adversarial Examples
Georgia Institute of Technology（佐治亚理工学院）
深度神经网络（DNN）已经在多个领域取得了成功。然而，DNN模型天生容易受到对抗性示例的影响，这些示例是通过向良性输入添加对抗性扰动来欺骗DNN模型进行错误分类而生成的。在本文中，我们提出了一个跨层的战略集成框架和一套强大的防御算法，这是攻击无关的，并能够自动修复和自动验证的目标模型被攻击。我们的战略集成方法有三个原创性贡献。首先，我们采用输入变换多样性设计输入层的策略变换集成算法。其次，我们利用模型分歧的多样性，开发输出层的战略模型集成算法。最后，我们创建了一个输入输出的跨层战略集成防御，加强防御能力相结合的不同输入转换为基础的模型集成与不同的输出验证模型集成。在ImageNet数据集上评估了超过10次攻击，我们表明，与现有的代表性防御方法相比，我们的战略集成防御算法可以实现高防御成功率，并且具有更高的攻击预防成功率和更低的良性误报率。
2019-10-01 cs.LG stat.ML
Limitations of the Lipschitz constant as a defense against adversarial examples
Perspecta Labs（Perspecta实验室）
最近的几篇论文讨论了利用Lipschitz常数来限制神经网络对对抗性示例的敏感性。我们分析了最近提出的计算Lipschitz常数的方法。我们表明，Lipschitz常数确实可以使对抗强大的神经网络。然而，目前用于计算它的方法受到理论和实践的限制。我们认为，解决这一缺点是未来研究认证对抗性防御的一个有希望的方向。
2018-07-25 cs.LG stat.ML
Backdoor Attacks and Defenses in Federated Learning: Survey, Challenges and Future Research Directions
VinUniversity（文大大学）；Hanoi University of Science and Technology（河内科技大学）
联邦学习（FL）是一种机器学习（ML）方法，允许使用分布式数据而不损害个人隐私。然而，FL中的客户端之间的数据的异构分布可能使得编排服务器难以验证本地模型更新的完整性，从而使得FL容易受到各种威胁，包括后门攻击。后门攻击涉及通过来自恶意客户端的有毒更新将恶意功能插入目标模型。这些攻击可能会导致全局模型在特定输入上表现不佳，而在其他情况下表现正常。后门攻击由于其对现实世界深度学习应用的潜在影响而在文献中受到了极大的关注。然而，他们还没有被彻底研究的背景下，FL。在这次调查中，我们提供了一个全面的调查，目前的后门攻击战略和防御FL，包括全面分析不同的方法。我们还讨论了FL背景下攻击和防御的挑战和潜在的未来方向。
2023-03-03 cs.LG
A Survey on Gradient Inversion: Attacks, Defenses and Future Directions
The Hong Kong Polytechnic University（香港理工大学）；The Hong Kong Polytechnic University Shenzhen Research Institute（香港理工大学深圳研究院）；JD Explore Academy, JD.com（京东探索研究院）
最近的研究表明，训练样本可以从梯度中恢复，这被称为梯度反转（GradInv）攻击。然而，仍然缺乏涵盖最新进展的广泛调查和对这一问题的透彻分析。在本文中，我们提出了一个全面的调查GradInv，旨在总结的前沿研究和拓宽视野，为不同的领域。首先，我们提出了一个GradInv攻击的分类，现有的攻击分为两种范式：基于迭代和递归的攻击。特别是，我们从基于迭代的攻击中挖掘出一些关键成分，包括数据初始化，模型训练和梯度匹配。其次，我们总结了新兴的防御策略对GradInv攻击。我们发现这些方法集中在三个方面，包括数据模糊，模型改进和梯度保护。最后，我们讨论了一些有前途的方向和开放的问题，为进一步的研究。
2022-06-15 cs.LG
Machine vs Machine: Minimax-Optimal Defense Against Adversarial Examples
The Ohio-State University（俄亥俄州立大学）
最近，研究人员发现，最先进的对象分类器很容易被人眼无法察觉的输入中的小扰动所欺骗。我们还知道，如果攻击者知道分类器参数，她就可以生成强对抗性的示例。相反，防御者可以通过重新训练来鲁棒分类器，如果她可以访问对抗性示例的话。我们解释和制定这个对抗性的例子问题作为一个两个球员连续零和游戏，并证明了评估的防守或攻击作为一个静态问题的谬误。为了找到最好的最坏情况下的防御白盒攻击，我们提出了一个连续极大极小优化算法。我们演示了两种类型的攻击类-基于梯度和神经网络的攻击的极大极小防御。MNIST和CIFAR-10数据集的实验表明，数值极大极小优化发现的防御确实比非极大极小防御更强大。我们讨论的方向，以提高对多种类型的攻击类实现鲁棒性的结果。
2018-06-27 cs.LG stat.ML
ROK Defense M&S in the Age of Hyperscale AI: Concepts, Challenges, and Future Directions
本文探讨了在 IoMDT 框架下将超大规模 AI 集成到韩国国防 M&S 中的挑战与未来方向，提出采用国产基础模型、扩大 GPU/NPU 投资等策略以提升战略与作战准备能力。
2025-01-30 cs.LG eess.SP
Next-Gen CAPTCHAs: Leveraging the Cognitive Gap for Scalable and Diverse GUI-Agent Defense
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI)（穆罕默德·本·扎耶德人工智能大学）；MetaAgentX；University College London（伦敦大学学院）
提出Next-Gen CAPTCHAs框架，通过利用人机在交互感知、记忆、决策和行动上的认知差距，设计动态任务以区分生物用户与AI智能体，实现可扩展的防御。
2026-06-23 cs.AI cs.CL cs.LG
Decoy Direction Optimization: A Post-Hoc Defense Against LLM Abliteration
Carnegie Mellon University（卡内基梅隆大学）
提出诱饵方向优化（DDO），一种无需微调的后置权重编辑防御，通过注入非线性诱饵信号破坏消融攻击的估计器，在多个模型上显著降低攻击成功率且成本极低。
2026-09-16 cs.CL cs.CR cs.LG
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
Hangzhou Normal University（杭州师范大学）；Zhejiang University（浙江大学）；China Mobile (Zhejiang) Innovation Research Institute Co., Ltd.（中国移动（浙江）创新研究院有限公司）；Quantum Cloud Computing and Distributed Systems (qCLOUDS) Lab, School of Computing and Information Systems（量子云计算与分布式系统（qCLOUDS）实验室，计算与信息学院）；The University of Melbourne（墨尔本大学）
本文系统综述了大型语言模型微调过程中的安全威胁与防御，提出了基于生命周期的三阶段框架，并通过统一实验评估了攻击与防御的有效性及跨阶段局限性。
2026-05-24 cs.AI cs.CR cs.LG
Are Defenses for Graph Neural Networks Robust?
Technical University of Munich（慕尼黑工业大学）；CISPA Helmholtz Center for Information Security（CISPA亥姆霍兹信息安全中心）
粗略阅读一下文献，就会发现我们在为图神经网络（GNN）设计有效的对抗性防御方面已经取得了很大的进展。然而，标准方法有一个严重的缺陷-几乎所有的防御都是针对非自适应攻击进行评估的，导致过于乐观的鲁棒性估计。我们对7种最流行的防御策略进行了全面的鲁棒性分析，这些策略涵盖了整个战略范围，即，旨在改进图形、架构或培训。结果是发人深省的-大多数防御显示没有或只有边际改善相比，一个不设防的基线。我们提倡使用自定义自适应攻击作为黄金标准，并概述了我们从成功设计此类攻击中吸取的经验教训。此外，我们的各种扰动图的集合形成了一个（黑盒）单元测试，提供了一个模型的鲁棒性的第一眼。
2023-01-31 cs.LG
From Shortcuts to Triggers: Backdoor Defense with Denoised PoE
UC Davis（加利福尼亚大学戴维斯分校）；USC（南加利福尼亚大学）；UW-Madison（威斯康星大学麦迪逊分校）
针对触发器多样的语言模型后门攻击，提出端到端集成防御框架 DPoE，通过浅层模型捕获后门捷径、主模型规避捷径并加入去噪机制，在 SST-2 上显著提升多类及混合触发器防御效果。
2024-04-02 cs.AI cs.CL cs.CR
Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Nirma University（尼尔玛大学）
本文评估了针对 LLM 智能体间接提示注入攻击的八种防御机制，发现自适应攻击能绕过所有防御并保持超 50% 成功率，揭示了现有防御的脆弱性，强调了引入自适应攻击评估的必要性。
2025-03-04 cs.CR cs.LG
Detecting Backdoor Attacks in Federated Learning via Direction Alignment Inspection
University of Nevada, Reno（内华达大学雷诺分校）
针对联邦学习易受后门攻击且现有防御忽略更新方向不一致的问题，提出AlignIns防御方法，通过方向对齐检测过滤恶意更新，理论与实验均验证其鲁棒性优于现有方法。
2025-03-18 cs.CR cs.DC cs.LG
The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections
OpenAI；Anthropic；Google DeepMind（谷歌DeepMind）；HackAPrompt；Northeastern University（东北大学）；ETH Zürich（苏黎世联邦理工学院）；AI Sequrity Company（AI安全公司）；MATS Main contributors（MATS主要贡献者）
本文指出当前语言模型防御评估存在缺陷，通过系统调整和扩展通用优化技术构建自适应攻击，成功绕过12种近期防御（成功率多超90%），证明未来防御工作必须考虑更强攻击才能可靠验证鲁棒性。
2025-10-10 cs.CR cs.LG
Beyond CAGE: Investigating Generalization of Learned Autonomous Network Defense Policies
Apple（苹果公司）
强化学习（RL）的发展为网络防御的智能自动化提供了新的方向。然而，这些进步中的许多要么超过了其在网络安全方面的应用，要么没有考虑在现实世界中实施它们所面临的挑战。为了理解这些问题，这项工作评估了在CAGE挑战赛第二版中实施的几种RL方法，CAGE挑战赛是一项在高保真网络模拟器中构建自主网络防御代理的公开竞赛。我们的方法都建立在近端策略优化（PPO）算法家族的基础上，包括分层RL，动作掩蔽，自定义训练和集成RL。我们发现，集成RL技术表现最强，优于我们的其他模型，并在比赛中获得第二名。为了了解对真实环境的适用性，我们评估了每种方法推广到未知网络和未知攻击策略的能力。在看不见的环境中，我们所有的方法都表现得更差，退化程度因环境变化的类型而异。针对未知的攻击者策略，我们发现我们的模型降低了整体性能，即使新策略的效率低于我们的模型训练。总之，这些结果突出了现实世界中自主网络防御的有前途的研究方向。
2022-11-30 cs.CR cs.LG
Graph Transductive Defense: a Two-Stage Defense for Graph Membership Inference Attacks
Shanghai Jiao Tong University（上海交通大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Shanghai AI Laboratory（上海人工智能实验室）
本文针对图直推学习下的成员推理攻击提出两阶段防御方法GTD，通过训练-测试交替调度与平坦化策略缩小损失分布差异，在降低攻击AUROC的同时提升模型效用。
2024-06-12 cs.AI cs.LG
Kernel-Complexity Edge Sanitization for Training-Free Defense against Structural Graph Attacks
Dartmouth College（达特茅斯学院）
针对图神经网络易受结构攻击的问题，提出无训练、模型无关的核复杂度边清洗（KCES）框架，基于图核复杂度量化边影响并剪除高KC边，实验证明其高效且优于现有防御。
2026-09-10 cs.AI cs.LG
Reformulation is All You Need: Addressing Malicious Text Features in DNNs
Zhejiang University（浙江大学）；Guizhou Medical University（贵州医科大学）
针对DNN在NLP任务中易受对抗性和后门攻击的问题，提出基于重构模块的统一自适应防御框架，处理恶意文本特征并保持语义，实验证明优于现有基线。
2025-09-25 cs.CL cs.CR cs.LG
Compilation as a Defense: Enhancing DL Model Attack Robustness via Tensor Optimization
Lancaster University（兰卡斯特大学）；Mindgard（Mindgard公司）
针对对抗性机器学习侧信道攻击，本文提出利用模型编译中的张量优化作为无需重构模型的防御手段，并证明其可使攻击相对有效性最高降低 43%。
2023-09-20 cs.CR cs.LG
When Wireless Security Meets Machine Learning: Motivation, Challenges, and Research Directions
Intelligent Automation, Inc.（智能自动化公司）；Virginia Tech（弗吉尼亚理工大学）；University of California, San Diego（加利福尼亚大学圣地亚哥分校）；Naval Research Laboratory（海军研究实验室）；University of South Florida（南佛罗里达大学）
由于无线媒体的共享和广播特性，无线系统容易受到各种攻击，如干扰和窃听。为了支持攻击和防御策略，机器学习（ML）提供了自动化的方法来学习和适应手工制作的功能和模型难以捕获的无线通信特性。本文讨论了连接ML和无线安全的研究工作的动机、背景和范围。在ML用于无线安全的背景下调查的研究方向的推动下，确定了无线领域中基于ML的攻击和防御解决方案以及新兴的对抗性ML技术，以及促进桥接ML和无线安全的研究工作的路线图。
2020-01-24 cs.LG cs.NI
VectorDefense: Vectorization as a Defense to Adversarial Examples
Auburn University（奥本大学）
在以像素网格表示的图像上训练深度神经网络揭示了一种有趣的现象，称为对抗性示例。受人类如何重构抽象概念的启发，我们试图将输入的位图图像编码为一组紧凑的、可解释的元素，以避免被对抗性结构所欺骗。我们在这个方向上迈出了第一步，尝试将图像矢量化作为输入变换步骤，将对抗性示例映射回MNIST手写数字的自然流形。我们比较了我们的方法与最先进的输入转换，并进一步讨论了手工设计和学习转换防御之间的权衡。
2018-04-23 cs.CR cs.CV cs.LG
Natural Language Adversarial Defense through Synonym Encoding
Huazhong University of Science and Technology（华中科技大学）
在自然语言处理领域，深度学习模型最近被认为容易受到各种类型的对抗性扰动的影响，但在防御方面的工作相对较少。特别是，对于成功的基于同义词替换的攻击，几乎没有有效的防御方法，这些攻击保留了原始文本的句法结构和语义信息，同时欺骗了深度学习模型。我们在这个方向做出贡献，并提出了一种新的对抗性防御方法，称为同义词编码方法（SEM）。具体来说，SEM在目标模型的输入层之前插入编码器，将每个同义词集群映射到唯一的编码，并训练模型以消除可能的对抗性扰动，而无需修改网络架构或添加额外的数据。大量的实验表明，SEM可以有效地防御当前的同义词替换攻击，并阻止敌对的例子的可移植性。SEM还可以轻松有效地扩展到大型模型和大型数据集。
2021-06-15 cs.CL cs.LG
Continual Adversarial Defense
针对对抗攻击动态演化、现有防御易被绕过的问题，提出遵循四项实用原则的持续对抗防御（CAD）框架，整合多领域前沿技术，实验验证其对多阶段攻击的防御效果优于基线，且性能随攻击数增加趋于饱和，开辟了持续防御适配新范式。
2025-08-03 cs.CR cs.CV cs.LG
A Survey on the Application of Generative Adversarial Networks in Cybersecurity: Prospective, Direction and Open Research Scopes
Boise State University（博伊西州立大学）
本文综述了生成对抗网络（GANs）在网络安全中的应用，涵盖入侵检测、恶意软件检测等领域，讨论了挑战并展望了未来研究方向。
2024-09-20 cs.AI cs.CR cs.CV
Adaptive Defense against Harmful Fine-Tuning for Large Language Models via Bayesian Data Scheduler
Nanyang Technological University（南洋理工大学）；Shenzhen Campus of Sun Yat-sen University（中山大学深圳校区）；University of Central Florida（佛罗里达大学）；Tsinghua University（清华大学）
针对大语言模型有害微调的安全风险，提出无需攻击模拟的自适应防御策略BDS，通过贝叶斯推断学习数据安全属性后验分布并加权约束微调过程，结合神经调度器实现高效迁移，达到最先进性能。
2025-10-31 cs.AI cs.LG
Adversarial Suffix Filtering: a Defense Pipeline for LLMs
Department of Computer Science and Technology（计算机科学与技术系）
本文提出轻量、模型无关的 ASF 输入预处理流水线，通过检测并过滤对抗性后缀，在黑盒与白盒设置下将先进攻击成功率降至 4% 以下，且基本不影响正常能力。
2025-05-14 cs.CR cs.LG
Quantitative Resilience Modeling for Autonomous Cyber Defense
Dartmouth College（达特茅斯学院）；Northeastern University（东北大学）
针对网络攻击下网络弹性缺乏统一定义的问题，提出考虑多目标与资源关键度的可量化弹性公式，在CybORG框架中验证并设计RL防御智能体，证明主动加固与及时恢复对有效防御的关键作用。
2025-09-05 cs.CR cs.LG cs.MA
TBNet: A Neural Architectural Defense Framework Facilitating DNN Model Protection in Trusted Execution Environments
Northeastern University（东北大学）；University of Massachusetts Dartmouth（马萨诸塞大学达特茅斯分校）
针对 TEE 保护边缘 DNN 时安全性与性能难以兼顾的问题，本文提出 TBNet 框架，通过双分支替代模型协同利用 REE 计算资源与隔离 TEE，实现低开销高效模型保护。
2024-05-07 cs.AI cs.CR cs.LG
Reducing Exploitability with Population Based Training
University of California, Berkeley（加州大学伯克利分校）；Technical University of Munich（慕尼黑工业大学）
自我发挥强化学习在各种零和游戏中取得了最先进的，通常是超人的性能。然而，先前的工作已经发现，能够对付常规对手的政策可能会在对抗性政策（一个明确针对受害者训练的对手）时灾难性地失败。使用对抗性训练的先前防御能够使受害者对特定的对手具有鲁棒性，但受害者仍然容易受到新对手的攻击。我们推测这种限制是由于在训练过程中看到的对手的多样性不足。我们使用基于人口的训练来分析防御，以使受害者对抗不同的对手。我们评估这种防御的鲁棒性对新的对手在两个低维环境。这种防御增加了对对手的鲁棒性，这是通过攻击者训练时间步长来利用受害者来衡量的。此外，我们表明，鲁棒性与对手人口的大小。
2023-01-11 cs.AI cs.CR cs.LG
Towards Transferable Defense Against Malicious Image Edits
State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences (CAS)（人工智能安全国家重点实验室，计算技术研究所，中国科学院）；University of China Academy of Sciences（中国科学院大学）；School of Computer Science, China University of Geosciences（中国地质大学（武汉）计算机学院）
TDAE通过双模优化提升图像对恶意编辑的免疫性，实现跨模型的可迁移防御。
2026-03-02 cs.AI cs.CV cs.CY
