Learning to Ignore Adversarial Attacks
University of Chicago（芝加哥大学）；University of New Hampshire（新罕布什尔大学）
尽管当前的NLP模型性能很强，但它们在对抗对抗攻击时可能很脆弱。为了能够有效地学习对抗性输入，我们引入了可以显式学习忽略攻击令牌的基本原理模型的使用。我们发现，基本原理模型可以成功地忽略超过90%的攻击令牌。这种方法在BERT和RoBERTa的三个数据集上的鲁棒性方面比基线模型有了一致的大幅度改进（$\sim$ 10%），并且在对抗性示例的情况下也可靠地优于数据增强。在许多情况下，我们发现，我们的方法是能够关闭一个干净的测试集和攻击的测试集模型性能之间的差距，从而减少对抗攻击的影响。
2023-02-20 cs.AI cs.CL
Sample Attackability in Natural Language Adversarial Attacks
University of Cambridge（剑桥大学）
本研究正式定义NLP攻击中的样本可攻击性/鲁棒性，实验表明深度学习检测器优于样本不确定性方法，但不同攻击方法间可攻击性共识低，影响检测方法可移植性。
2023-06-21 cs.AI cs.CL
Mutation-Based Adversarial Attacks on Neural Text Detectors
Texas A&M University – San Antonio（德克萨斯农工大学圣安东尼奥分校）
神经文本检测器旨在确定区分神经（机器生成）和人类文本的特征。为了挑战这种检测器，对抗攻击可以改变生成的文本的统计特征，使检测任务变得越来越困难。受软件开发和测试中突变分析进展的启发，在本文中，我们提出了基于字符和单词的突变算子，用于生成对抗性样本，以攻击最先进的自然文本检测器。这属于白盒对抗攻击。在这种攻击中，攻击者可以访问原始文本并基于该原始文本创建变异实例。其最终目标是混淆机器学习模型和分类器，降低它们的预测精度。
2023-02-11 cs.AI cs.CR
A Multi-objective Memetic Algorithm for Auto Adversarial Attack Optimization Design
Defense Innovation Institute, Chinese Academy of Military Science（中国人民解放军军事科学院国防科技创新研究院）
对抗性例子的现象已经在不同的场景中被揭示出来。最近的研究表明，精心设计的对抗性防御策略可以提高深度学习模型对对抗性示例的鲁棒性。然而，随着防御技术的快速发展，现有的人工设计的对抗攻击性能较弱，使得评估防御模型的鲁棒性变得越来越困难。为了应对这一挑战，在防御模型的基础上，需要进一步开发计算量小、鲁棒精度低的高效对抗攻击。为此，本文提出了一种多目标模因自动对抗攻击优化设计算法，实现了对防御模型的近优对抗攻击的自动搜索。首先，建立了更一般的自动对抗攻击优化设计的数学模型，其中搜索空间不仅包括攻击操作、攻击大小、迭代次数和损失函数，还包括多个对抗攻击的连接方式。此外，我们开发了一个多目标模因算法结合NSGA-II和局部搜索来解决优化问题。最后，为了减少搜索过程中的评估成本，我们提出了一种基于模型输出的每幅图像的交叉熵损失值排序的代表性数据选择策略。在CIFAR 10、CIFAR 100和ImageNet数据集上的实验表明了该方法的有效性。
2022-08-15 cs.AI cs.CV
MagNet and "Efficient Defenses Against Adversarial Attacks" are Not Robust to Adversarial Examples
University of California, Berkeley（加州大学伯克利分校）
MagNet和“高效防御”“最近被提出来作为对抗性例子的辩护。我们发现，我们可以构建对抗性的例子，只需稍微增加失真就能击败这些防御。
2017-11-22 cs.AI cs.CR cs.LG
Defense Against Adversarial Attacks using Convolutional Auto-Encoders
Indian Institute of Technology, Kanpur（印度理工学院坎普尔分校）
针对深度学习模型易受对抗扰动影响的问题，提出基于卷积自编码器的防御方法，通过重建输入图像消除扰动并恢复分类准确率。
2023-12-06 cs.AI cs.CV
TextAttack: A Framework for Adversarial Attacks, Data Augmentation, and Adversarial Training in NLP
Department of Computer Science, University of Virginia（弗吉尼亚大学计算机科学系）；Computer Science and Artificial Intelligence Laboratory, MIT（麻省理工学院计算机科学与人工智能实验室）
虽然已经有大量的研究使用对抗攻击来分析NLP模型，但每种攻击都在自己的代码库中实现。开发NLP攻击并利用它们来提高模型性能仍然具有挑战性。本文介绍了TextAttack，这是一个用于NLP中的对抗攻击、数据增强和对抗训练的Python框架。TextAttack从四个组件构建攻击：目标函数，一组约束，转换和搜索方法。TextAttack的模块化设计使研究人员能够很容易地从新的和现有的组件的组合构建攻击。TextAttack提供了文献中16种对抗攻击的实现，并支持各种模型和数据集，包括BERT和其他Transformers，以及所有GLUE任务。TextAttack还包括数据增强和对抗训练模块，用于使用对抗攻击的组件来提高模型的准确性和鲁棒性。TextAttack正在使NLP民主化：任何人都可以在任何模型或数据集上尝试数据增强和对抗训练，只需几行代码。代码和教程可在https://github.com/QData/TextAttack上获得。
2020-10-05 cs.AI cs.CL cs.LG
A reading survey on adversarial machine learning: Adversarial attacks and their understanding
Kyushu University（九州大学）
本文综述了对抗性机器学习中的对抗性攻击分类与理解，并概述现有防御方法的局限性，为该领域未来研究方向提供参考。
2023-08-07 cs.AI cs.CR cs.LG
Interpreting Attributions and Interactions of Adversarial Attacks
Shanghai Jiao Tong University（上海交通大学）
本文的目的是解释对抗攻击方面的对抗扰动如何有助于攻击任务。根据Shapley值估计图像不同区域对攻击代价降低的贡献。我们定义并量化了对抗扰动像素之间的相互作用，并将整个扰动图分解为相对独立的扰动分量。扰动图的分解表明，经过逆向训练的DNN在前景中比经过正常训练的DNN具有更多的扰动分量。此外，与正常训练的DNN相比，对抗训练的DNN具有更多的成分，这些成分主要降低了真实类别的得分。上述分析为理解对抗攻击提供了新的视角。
2021-08-16 cs.AI cs.CV cs.LG
A Robust Adversarial Network-Based End-to-End Communications System With Strong Generalization Ability Against Adversarial Attacks
Stevens Institute of Technology（史蒂文斯理工学院）；Oklahoma State University（俄克拉荷马州立大学）
我们提出了一种新的防御机制的基础上生成对抗网络（GAN）的框架，以抵御对抗攻击在端到端的通信系统。具体来说，我们利用生成网络来模拟一个强大的对手，并使端到端的通信系统，以打击生成攻击网络通过极大极小博弈。我们表明，该系统不仅可以很好地对抗白盒和黑盒对抗攻击，但也具有良好的泛化能力，保持良好的性能下没有攻击。我们还表明，我们基于GAN的端到端系统优于传统的通信系统和有/没有对抗训练的端到端通信系统。
2021-03-03 cs.AI cs.LG eess.SP
On the Susceptibility and Robustness of Time Series Models through Adversarial Attack and Defense
Michigan State University（密歇根州立大学）
在对抗攻击下，时间序列回归和分类是脆弱的。另一方面，对抗性防御可以使模型更具弹性。重要的是要评估不同的时间序列模型对攻击的脆弱性以及它们使用防御的恢复情况。在这项研究中，各种攻击的敏感性和鲁棒性使用的防御几个时间序列模型进行了研究。实验在七个时间序列模型上运行，具有三个对抗攻击和一个对抗防御。根据调查结果，所有模型，特别是GRU和RNN，似乎都很脆弱。LSTM和GRU也有更好的防御恢复。FGSM在攻击方面超过了竞争对手。PGD攻击比其他类型的攻击更难恢复。
2023-01-09 cs.AI cs.CR cs.LG
Grey-box Adversarial Attack And Defence For Sentiment Classification
IBM Research（IBM研究院）；University of Melbourne（墨尔本大学）
我们介绍了一个灰盒对抗攻击和防御框架的情绪分类。我们在一个统一的框架中解决了对抗攻击和防御的可微性，标签保存和输入重建问题。我们的研究结果表明，一旦经过训练，攻击模型能够比最先进的攻击方法更快地生成高质量的对抗性示例（时间上少一个数量级）。这些例子还根据人类评价保留了原始情感。此外，我们的框架产生了一个改进的分类器，是强大的防御多种对抗性攻击方法。代码可从以下网址获得：https://github.com/ibm-aur-nlp/adv-def-text-dist。
2021-03-22 cs.AI cs.CL cs.LG
Adversarial Attacks and Defense Methods for Power Quality Recognition
Air Traffic Control and Navigation College, Air Force Engineering University（空军工程大学空管领航学院）；Information and Navigation College, Air Force Engineering University（空军工程大学信息与导航学院）；Henan University of Technology（河南工业大学）
各种机器学习方法对对抗性示例的脆弱性最近在文献中进行了探索。使用这些脆弱方法的电力系统面临着对抗性示例的巨大威胁。为此，我们首先提出了一个信号特定的方法和一个通用的信号不可知的方法来攻击电力系统使用生成的对抗性的例子。本文还提出了基于可传递特征的黑盒攻击和上述两种方法，并对它们进行了评价。然后，我们采用对抗训练来保护系统免受对抗攻击。实验分析表明，我们的信号特定的攻击方法相比，FGSM（快速梯度符号法）提供更少的扰动，我们的信号不可知的攻击方法可以产生干扰欺骗大多数自然信号的概率很高。此外，基于通用信号无关算法的攻击方法比基于特定信号算法的攻击方法具有更高的黑盒攻击的传送率。此外，结果表明，所提出的对抗性训练提高了电力系统对抗性的例子的鲁棒性。
2022-02-11 cs.AI cs.CR cs.LG
Adversarial Machine Learning Attacks on Condition-Based Maintenance Capabilities
基于状态的维护（CBM）策略利用机器学习模型基于从物理环境收集的数据来评估系统的健康状态，而机器学习模型容易受到对抗攻击。恶意攻击者可以操纵收集的数据来欺骗机器学习模型并影响CBM系统的性能。在计算机视觉领域中引入的对抗性机器学习技术可用于通过向数据添加扰动来混淆训练模型来对CBM系统进行隐形攻击。隐身的性质造成了检测攻击的困难和延迟。本文介绍了CBM领域中的对抗性机器学习。一个案例研究展示了对抗性机器学习如何用于攻击CBM功能。使用快速梯度符号方法制作对抗样本，并研究了CBM系统在攻击下的性能。研究结果表明，CBM系统容易受到对抗性机器学习攻击，需要考虑防御策略。
2021-01-28 cs.AI cs.CR cs.LG
Adversarial Attacks on Machine Learning in Embedded and IoT Platforms
机器学习（ML）算法越来越多地被集成到我们周围的嵌入式和物联网系统中，它们很容易受到对抗攻击的攻击。在资源有限的嵌入式平台上部署这些ML算法还需要使用模型压缩技术。这种模型压缩技术对ML对抗鲁棒性的影响是一个重要的新兴研究领域。本文概述了与嵌入式系统相关的对抗攻击和ML模型压缩技术。然后，我们描述的努力，试图了解对抗攻击和ML模型压缩之间的关系，然后讨论在这一领域的开放性问题。
2023-03-03 cs.AI cs.CR cs.LG
On the reversibility of adversarial attacks
Queen Mary University of London（伦敦玛丽女王大学）
对抗攻击通过扰动来修改图像，从而改变分类器的预测。这些修改后的图像被称为对抗性示例，暴露了深度神经网络分类器的漏洞。在本文中，我们研究了原始图像预测的类与其相应的对抗性示例之间的映射的可预测性。这种可预测性与恢复原始预测的可能性有关，从而扭转了诱导的错误分类。我们将此属性称为对抗攻击的可逆性，并将可逆性量化为检索对抗示例的原始类或真实类的准确性。我们提出了一种方法，逆转的对抗攻击的分类器上使用的分类结果的先验集的效果。我们分析了最先进的对抗攻击对基准分类器的可逆性，并讨论了影响可逆性的因素。
2022-06-01 cs.AI cs.CR cs.LG
OpenAttack: An Open-source Textual Adversarial Attack Toolkit
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Stanford University（斯坦福大学）
语篇对抗性攻击近年来受到越来越多的关注。已经提出了各种攻击模型，这些模型非常不同，并且使用不同的编程框架和设置来实现。这些事实阻碍了攻击模型的快速利用和公平比较。在本文中，我们提出了一个开源的文本对抗攻击工具包命名为OpenAttack来解决这些问题。与现有的其他文本对抗攻击工具包相比，OpenAttack在支持所有攻击类型、多语言和并行处理方面具有独特的优势。目前，OpenAttack包括15种典型的攻击模型，涵盖了所有的攻击类型。其高度包容性的模块化设计不仅支持快速利用现有的攻击模型，而且具有很大的灵活性和可扩展性。OpenAttack有着广泛的用途，包括比较和评估攻击模型，测量模型的鲁棒性，帮助开发新的攻击模型，以及对抗性训练。源代码和文档可以在https://github.com/thunlp/OpenAttack上获得。
2021-09-24 cs.AI cs.CL cs.CR
Superpixel Attack: Enhancing Black-box Adversarial Attack with Image-driven Division Areas
Graduate School of Mathematics, Kyushu University（九州大学数学研究生院）；Institute of Mathematics for Industry, Kyushu University（九州大学工业数学研究所）
本文提出超像素攻击，通过使用超像素和通用搜索方法提升黑盒对抗攻击的成功率，平均提高2.10%。
2025-11-29 cs.AI cs.CR cs.CV
AdvDO: Realistic Adversarial Attacks for Trajectory Prediction
University of Michigan, Ann Arbor（密歇根大学安娜堡分校）；NVIDIA（英伟达）；California Institute of Technology（加州理工学院）；Stanford University（斯坦福大学）
轨迹预测对于自动驾驶汽车（AV）规划正确和安全的驾驶行为至关重要。虽然许多先前的工作旨在实现更高的预测精度，但很少有人研究其方法的对抗鲁棒性。为了弥补这一差距，我们建议研究数据驱动的轨迹预测系统的对抗鲁棒性。我们设计了一个基于优化的对抗攻击框架，该框架利用精心设计的可微动态模型来生成逼真的对抗轨迹。从经验上讲，我们对最先进的预测模型的对抗鲁棒性进行了基准测试，并表明我们的攻击将一般指标和规划感知指标的预测误差增加了50%和37%以上。我们还表明，我们的攻击可以导致AV驾驶道路或碰撞到其他车辆的模拟。最后，我们演示了如何使用对抗训练方案来减轻对抗攻击。
2022-09-19 cs.AI cs.CR cs.LG
Rob-GAN: Generator, Discriminator, and Adversarial Attacker
University of California, Los Angeles（加州大学洛杉矶分校）
我们研究了对抗深度学习中的两个重要概念--对抗训练和生成对抗网络（GAN）。对抗性训练是在训练阶段将对抗性攻击者和训练器相结合来提高训练器鲁棒性的技术。GAN通常用于通过联合优化卷积和生成器来生成图像。我们证明了这两个概念确实是密切相关的，可以用来加强彼此-在对抗训练过程中添加一个生成器可以提高鉴别器的鲁棒性，在GAN训练中添加一个对抗攻击可以提高收敛速度并产生更好的生成器。结合这两种见解，我们开发了一个名为Rob-GAN的框架，以在存在对抗攻击的情况下联合优化生成器和伪装者-生成器生成虚假图像以欺骗伪装者;对抗攻击者扰动真实图像以欺骗伪装者，伪装者希望在虚假和对抗图像下最小化损失。通过这种端到端的训练过程，我们能够同时提高GAN训练的收敛速度、合成图像的质量以及在强对抗攻击下的鲁棒性。实验结果表明，所获得的分类器比最先进的对抗训练方法更鲁棒，并且生成器在ImageNet-143上的性能优于SN-GAN。
2019-04-15 cs.AI cs.LG stat.ML
Gradient-based Adversarial Attacks against Text Transformers
Facebook AI Research（Facebook AI研究院）
我们提出了第一个通用的基于梯度的攻击对Transformer模型。我们不是搜索单个对抗性示例，而是搜索由连续值矩阵参数化的对抗性示例分布，从而实现基于梯度的优化。我们的经验表明，我们的白盒攻击达到国家的最先进的攻击性能的各种自然语言的任务。此外，我们证明了一个强大的黑盒传输攻击，通过从对抗分布中采样，匹配或超过现有的方法，而只需要硬标签输出。
2021-04-15 cs.AI cs.CL cs.CR
Downlink Power Allocation in Massive MIMO via Deep Learning: Adversarial Attacks and Training
Indian Institute of Technology Guwahati（印度理工学院古瓦哈蒂分校）；Linköping University（林雪平大学）
深度学习（DL）在无线系统应用中的成功出现引发了人们对新的安全相关挑战的担忧。其中一个安全挑战是对抗攻击。虽然已经有很多工作证明了基于DL的分类任务对对抗攻击的敏感性，但从攻击的角度来看，迄今为止还没有研究无线系统背景下基于回归的问题。本文的目的是双重的：（i）我们考虑在无线环境中的回归问题，并表明对抗攻击可以打破基于DL的方法，（ii）我们分析了对抗训练作为对抗环境中的防御技术的有效性，并表明基于DL的无线系统对攻击的鲁棒性显着提高。具体而言，本文考虑的无线应用是基于DL的功率分配在下行链路的多小区大规模多输入多输出系统，其中攻击的目标是产生一个不可行的解决方案的DL模型。我们扩展了基于梯度的对抗攻击：快速梯度符号法（FGSM），动量迭代FGSM，和投影梯度下降方法来分析所考虑的无线应用程序的敏感性，并没有对抗训练。我们分析了深度神经网络（DNN）模型对这些攻击的性能，其中对抗性扰动是使用白盒和黑盒攻击来制作的。
2022-06-14 cs.AI cs.LG eess.SP
Optimal Cost Constrained Adversarial Attacks For Multiple Agent Systems
University of Iowa（爱荷华大学）；University of California, Davis（加利福尼亚大学戴维斯分校）
针对分布式多智能体攻击场景，本文形式化了攻击者—受害方配对具有不同成本约束的最优智能体间对抗攻击问题，并结合静态资源分配与动态规划实现最优攻击。
2023-11-01 cs.AI cs.CR cs.LG
Neural Predictor for Black-Box Adversarial Attacks on Speech Recognition
Sony（索尼）
最近的工作已经揭示了自动语音识别（ASR）模型对对抗性示例（AE）的脆弱性，即，在音频信号的转录中引起错误的小扰动。因此，研究音频对抗攻击是迈向强大ASR的第一步。尽管在攻击音频示例方面取得了重大进展，但黑盒攻击仍然具有挑战性，因为只提供了传输的硬标签信息。由于这种有限的信息，现有的黑盒方法通常需要过多的查询来攻击单个音频示例。在本文中，我们介绍了NP-攻击，神经预测为基础的方法，逐步演变的搜索对一个小的对抗扰动。给定扰动方向，我们的神经预测器直接估计导致错误转录的最小扰动。特别是，它使NP攻击能够通过基于梯度的优化准确地学习有希望的扰动方向。实验结果表明，NP攻击实现了竞争力的结果与其他国家的最先进的黑盒对抗攻击，而需要显着较少的查询数量。NP-Attack的代码可以在网上找到。
2022-03-18 cs.AI cs.LG cs.SD
Defending against Adversarial Malware Attacks on ML-based Android Malware Detection Systems
Zhejiang University（浙江大学）；University College London（伦敦大学学院）
本文提出ADD框架，一种插件式防御方案，用于增强基于机器学习的Android恶意软件检测系统对问题空间对抗性攻击的鲁棒性，实验证明其有效且能提升现实防病毒软件的防御能力。
2025-01-23 cs.AI cs.CR cs.LG
Sparse Adversarial Attack in Multi-agent Reinforcement Learning
协作多智能体强化学习（cMARL）有很多实际应用，但现有cMARL算法训练的策略在部署时不够鲁棒。针对强化学习系统的对抗攻击也有很多方法，这意味着强化学习系统可以遭受对抗攻击，但大多数研究都集中在单Agent强化学习上。在本文中，我们提出了一个\textit{sparse adversarial attack}的cMARL系统。我们使用带有正则化的（MA）RL来训练攻击策略。我们的实验表明，当前cMARL算法训练的策略在团队中只有一个或几个代理时（例如，8个中的1个或25个中的5个）在几个时间步（例如，总共40个时间步中的攻击3）。
2022-08-08 cs.AI
A Simple Yet Efficient Method for Adversarial Word-Substitute Attack
The Hong Kong University of Science and Technology（香港科技大学）
NLP研究人员提出了不同的单词替代黑盒攻击，可以欺骗文本分类模型。在这种攻击中，攻击者不断向目标模型发送精心制作的对抗性查询，直到它能够成功实现预期的结果。最先进的攻击方法通常需要数百或数千个查询才能找到一个对抗性示例。在本文中，我们研究了一个复杂的对手是否可以攻击系统少得多的查询。我们提出了一个简单而有效的方法，可以减少3-30倍的平均数量的对抗性查询，并保持攻击的有效性。这项研究强调，对手可以以更低的成本欺骗深度NLP模型。
2022-05-07 cs.AI cs.CL
CAMA: Exploring Collusive Adversarial Attacks in c-MARL
Institute of Computing Technology, CAS（中国科学院计算技术研究所）；UCAS（中国科学技术大学）；Beihang University（北京航空航天大学）
本文提出CAMA框架，研究c-MARL中的共谋对抗攻击，提出三种新型攻击模式，从理论和实践角度分析攻击效果，并通过实验验证其协同效应和隐蔽性。
2026-03-20 cs.AI cs.LG
Adversarial Attack on Graph Neural Networks as An Influence Maximization Problem
University of Michigan（密歇根大学）
图神经网络（GNNs）引起了越来越多的关注。随着GNN在现实世界应用中的广泛部署，迫切需要了解GNN在对抗攻击下的鲁棒性，特别是在现实设置中。在这项工作中，我们研究了在限制和现实的设置中攻击GNN的问题，通过扰动一小部分节点的特征，无法访问模型参数和模型预测。我们的正式分析得出了这种类型的攻击和图上的影响力最大化问题之间的联系。这种联系不仅增强了我们对GNN对抗攻击问题的理解，而且使我们能够提出一组有效和实用的攻击策略。我们的实验验证了所提出的攻击策略显着降低了三种流行GNN模型的性能，并优于基线对抗攻击策略。
2021-06-21 cs.AI cs.LG
Is AmI (Attacks Meet Interpretability) Robust to Adversarial Examples?
Google Brain（谷歌大脑）
号
2019-02-06 cs.AI cs.CR cs.LG
Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Tsinghua University（清华大学）
对抗性攻击的目的是用对抗性的例子欺骗深度神经网络。在自然语言处理领域中，已经提出了各种文本对抗攻击模型，其在受害者模型的可访问性方面有所不同。其中，只需要受害者模型输出的攻击模型更适合真实世界的对抗性攻击情况。然而，这些模型为了获得高攻击性能，通常需要多次查询受害者模型，这在实践中既不高效也不可行。为了解决这个问题，我们提出了一个基于强化学习的攻击模型，它可以从攻击历史中学习，更有效地发动攻击。在实验中，我们通过攻击多个任务的基准数据集，包括情感分析，文本分类和自然语言推理的几个国家的最先进的模型来评估我们的模型。实验结果表明，我们的模型始终实现更好的攻击性能和更高的效率比最近提出的基线方法。我们还发现，我们的攻击模型可以带来更多的鲁棒性提高受害者模型的对抗训练。本文的所有代码和数据都将公开。
2020-09-19 cs.AI cs.CL cs.CR
Universal Distributional Decision-based Black-box Adversarial Attack with Reinforcement Learning
Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
高性能机器学习模型的脆弱性意味着在具有现实后果的应用程序中存在安全风险。对对抗攻击的研究，一方面有利于指导机器学习模型的开发，另一方面也有利于寻找有针对性的防御。然而，当今大多数对抗攻击利用来自模型的梯度或logit信息来生成对抗扰动。适用于更现实的领域：基于决策的攻击，仅基于观察目标模型的输出标签来生成对抗性扰动，仍然相对罕见，并且大多使用梯度估计策略。在这项工作中，我们提出了一个像素明智的决策为基础的攻击算法，发现通过强化学习算法的对抗扰动的分布。我们称这种方法为基于决策的黑盒攻击与强化学习（DBAR）。实验结果表明，该方法具有更高的攻击成功率和更大的可移植性，优于最先进的基于决策的攻击。
2022-11-15 cs.AI cs.CR cs.LG
Transient Adversarial 3D Projection Attacks on Object Detection in Autonomous Driving
Michigan State University（密歇根州立大学）
本文提出一种针对自动驾驶目标检测的瞬态对抗性3D投影攻击方法，通过颜色映射与几何变换构建优化问题，在低光照室内环境中对YOLOv3和Mask R-CNN的攻击成功率达100%。
2024-09-25 cs.AI cs.CR cs.CV
Adversarial attacks in consensus-based multi-agent reinforcement learning
University of Notre Dame（圣母大学）
近年来，许多合作分布式多智能体强化学习（MARL）算法已在文献中提出。在这项工作中，我们研究了对抗性攻击对采用基于共识的MARL算法的网络的影响。我们证明了一个对抗性代理可以说服网络中的所有其他代理实施优化其期望目标的策略。从这个意义上说，标准的基于共识的MARL算法是脆弱的攻击。
2021-03-11 cs.AI cs.LG cs.SY
