A Unified Game-Theoretic Interpretation of Adversarial Robustness
本文提供了一个统一的视图来解释不同的对抗攻击和防御方法，\emph{i.e.}的DNN的输入变量之间的多阶相互作用的视图。基于多阶交互，我们发现对抗攻击主要影响高阶交互来欺骗DNN。此外，我们发现对抗训练的DNN的鲁棒性来自类别特定的低阶相互作用。我们的研究结果提供了一种潜在的方法来统一对抗扰动和鲁棒性，这可以从原理上解释现有的防御方法。此外，我们的研究结果还修正了以往对逆向学习特征形状偏向的不准确理解。
2021-11-08 cs.AI cs.CV cs.LG
Adversarial Example Games
Mila（米拉研究所）；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）；Facebook AI Research（脸书人工智能研究院）
存在能够欺骗经过训练的神经网络分类器的对抗性示例，这就需要更好地理解可能的攻击，以指导针对它们的保护措施的发展。这包括具有挑战性的非交互式黑盒设置中的攻击方法，其中生成对抗攻击而无需对目标模型进行任何访问（包括查询）。在此背景下的先前攻击主要依赖于从经验观察得出的算法创新（例如，这一势头有所帮助），缺乏原则性的可转让性保障。在这项工作中，我们为将可转移的对抗性示例制作成整个假设类提供了理论基础。我们引入了对抗性示例游戏（AEG），这是一个框架，它将对抗性示例的制作建模为攻击生成器和分类器之间的最小-最大游戏。AEG提供了一种新的方式来设计对抗性的例子，通过对抗性地训练来自给定假设类的生成器和分类器（例如，架构）。我们证明了这个游戏有一个均衡，并且最优生成器能够制作对抗性示例，这些示例可以攻击来自相应假设类的任何分类器。我们证明了AEG在MNIST和CIFAR-10数据集上的有效性，优于现有的最先进的方法，相对于无保护和鲁棒模型，平均相对改进分别为$29.9\%$和$47.2\%$（表2和3）。
2021-01-09 cs.AI cs.CV cs.LG
Game Theory for Adversarial Attacks and Defenses
Indian Institute of Technology Bhubaneswar（印度理工学院布巴内斯瓦尔分校）
本研究应用博弈论防御对抗攻击，通过随机初始化、随机激活剪枝和超分辨率三种方法提升深度神经网络的鲁棒性。
2024-01-05 cs.CR cs.GT cs.LG
A Game Theoretic Analysis of Additive Adversarial Attacks and Defenses
Johns Hopkins University（约翰斯·霍普金斯大学）
对抗性学习的研究遵循攻击者和防御者之间的猫捉老鼠游戏，攻击被提出，它们被新的防御所缓解，然后提出新的攻击来打破先前的防御，等等。但是，是否存在无法提出更好的攻击或防御的条件仍然不清楚。在本文中，我们提出了一个博弈论的框架，研究攻击和防御存在于均衡。在二元分类器的局部线性决策边界模型下，证明了快速梯度法攻击和随机平滑法防御形成了一个纳什均衡.然后，我们将展示如何从数据生成分布中近似给定多个样本的均衡防御，并推导出我们近似性能的泛化界。
2020-11-11 cs.LG stat.ML
Defending Jailbreak Prompts via In-Context Adversarial Game
University of Notre Dame（圣母大学）；INRIA（法国国家信息与自动化研究所）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
针对大语言模型易受越狱攻击的安全问题，提出无需微调的上下文内对抗博弈（ICAG）方法，通过攻防智能体迭代优化动态增强防御，可显著降低多场景越狱成功率且具备跨模型迁移性。
2025-02-21 cs.CR cs.LG
A Frequency Perspective of Adversarial Robustness
University of Maryland（马里兰大学）；Facebook AI Research（Facebook人工智能研究院）
对抗性示例对深度学习系统提出了独特的挑战。尽管最近在攻击和防御方面都取得了进展，但社区中仍然缺乏关于对抗性示例的真实性质和潜在属性的清晰度和共识。深入了解这些示例可以为开发更有效的攻击和防御提供新的见解。在对抗性示例是高频噪声这一常见误解的驱动下，我们提出了一种基于频率的对抗性示例理解，并得到了理论和实证研究结果的支持。我们的分析表明，对抗性示例既不在高频分量中，也不在低频分量中，而是简单地依赖于数据集。特别是，我们强调了在CIFAR-10和ImageNet衍生数据集上训练的模型之间的明显差异。利用这个框架，我们分析了训练具有频率约束的鲁棒模型的许多有趣的特性，并提出了一个基于频率的解释常见的准确性与鲁棒性的权衡。
2021-10-26 cs.CV cs.LG
Deepfake Forensics via An Adversarial Game
ByteDance AI Lab（字节跳动人工智能实验室）；Harbin Institute of Technology（哈尔滨工业大学）
随着基于人工智能的面部伪造（即，Deepfake），人们越来越担心它的滥用。尽管已经努力训练分类（也称为深度伪造检测）模型来识别这种伪造，但现有模型对看不见的伪造技术的泛化能力较差，并且对图像/视频质量的变化高度敏感。在本文中，我们提倡对抗性训练，以提高对看不见的面部轮廓和看不见的图像/视频质量的泛化能力。我们相信，使用对抗性地攻击分类模型的样本进行训练，可以大大提高泛化能力。考虑到基于AI的人脸操作通常会导致高频伪影，这些伪影很容易被模型发现，但很难推广，我们进一步提出了一种新的对抗训练方法，试图通过引入像素高斯模糊模型来模糊这些特定的伪影。通过对抗性训练，分类模型被迫学习更多的区分性和可推广性特征，我们的方法的有效性可以通过大量的经验证据来验证。我们的代码将公开提供。
2022-04-28 cs.CR cs.CV cs.LG
Game-Theoretic Defenses for Robust Conformal Prediction Against Adversarial Attacks in Medical Imaging
City University of Hong Kong（香港城市大学）；Huaiyin Institute of Technology（淮阴工学院）；Alpha Benito Research（阿尔法贝尼托研究所）
本文提出结合保形预测与博弈论防御的新框架，通过专门防御模型和零和博弈策略，有效应对医学影像中已知与未知对抗攻击，在保持高覆盖率的同时最小化预测集，提升模型鲁棒性。
2025-03-04 cs.CR cs.LG eess.IV
Adversarial Training Should Be Cast as a Non-Zero-Sum Game
University of Pennsylvania（宾夕法尼亚大学）；EPFL（洛桑联邦理工学院）
本文指出对抗训练中常用的替代松弛方法会失效，提出非零和双层对抗训练公式，使每个玩家优化不同目标，达到与标准算法相当的鲁棒性且避免鲁棒过拟合。
2024-03-18 cs.LG math.OC stat.ML
Towards Optimal Randomized Strategies in Adversarial Example Game
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Advanced Technology Institute, Zhejiang University（浙江大学先进技术研究院）；Qiushi Academy for Advanced Studies, Zhejiang University（浙江大学求是高等研究院）；State Key Lab of CAD&CG, Zhejiang University（浙江大学CAD&CG国家重点实验室）
针对完全随机化环境下缺乏高效算法寻找最优策略的问题，提出FRAT算法，通过无限维连续时间流建模，为防御者和攻击者构建轻量级随机策略，并证明其收敛于零和博弈的混合纳什均衡。
2023-06-29 cs.CR cs.GT cs.LG
A Survey of Game Theoretic Approaches for Adversarial Machine Learning in Cybersecurity Tasks
U.S. Naval Research Laboratory（美国海军研究实验室）
机器学习技术目前被广泛用于自动化各种网络安全任务。这些技术中的大多数利用监督学习算法，该算法依赖于训练算法来使用相关领域中遇到的数据将传入数据分类为不同类别。这些算法的一个关键漏洞是它们容易受到对抗攻击的影响，其中被称为对手的恶意实体故意更改训练数据以误导学习算法产生分类错误。对抗攻击可能会使学习算法不适合使用，并使关键系统容易受到网络安全攻击。我们的论文提供了一个详细的调查，用于使机器学习算法强大的对抗对抗攻击使用博弈论的计算框架的最先进的技术。我们还讨论了开放的问题和挑战以及进一步研究的可能方向，这些研究将使基于深度机器学习的系统在网络安全任务中更加强大和可靠。
2019-12-04 cs.AI cs.CR cs.LG
Adversarial Training from Mean Field Perspective
The University of Tokyo（东京大学）；Chiba University（千叶大学）
本研究从平均场视角出发，提出新理论框架，在无数据分布假设下分析随机深度网络的对抗训练，推导对抗损失上界，证明无捷径网络难训练、对抗训练降容量且宽度可缓解等结论。
2025-05-20 cs.CV cs.LG stat.ML
Follow the Neurally-Perturbed Leader for Adversarial Training
博弈论学习模型是一组强大的模型，可以优化多目标架构。在这些模型中，零和架构激发了对抗性学习框架。这些零和架构的一个重要缺点是基于梯度的训练导致弱收敛和循环动态。我们提出了一种新的跟随领导者训练算法的零和架构，保证收敛到混合纳什均衡没有循环行为。它是一种特殊类型的跟随扰动领导者算法，其中扰动是神经中介代理的结果。我们通过将这种训练算法应用于具有凸和非凸损失的游戏以及生成对抗架构来验证我们的理论结果。此外，我们自定义该算法的实现对抗模仿学习应用程序。在训练的每一步，中介代理都用生成的代码干扰观察结果。由于这些中介代码，所提出的算法也是有效的学习环境中的各种因素的变化。我们通过使用程序生成的游戏环境以及合成数据来验证我们的断言。Github实现可用。
2020-06-08 cs.GT cs.LG stat.ML
Adversarial Attacks and Defenses: An Interpretation Perspective
Texas A&M University（得克萨斯农工大学）；Arizona State University（亚利桑那州立大学）
尽管最近在广泛的应用中取得了进展，但机器学习模型，特别是深度神经网络，已被证明容易受到对抗攻击的攻击。攻击者在输入中添加精心制作的扰动，这些扰动几乎是人类无法察觉的，但可能导致模型做出错误的预测。保护模型免受对抗性输入的技术称为对抗性防御方法。尽管已经提出了许多方法来研究不同场景下的对抗攻击和防御，但如何真正理解模型脆弱性仍然是一个有趣而关键的挑战。受“知己知彼，百战不殆”这句谚语的启发，我们可以在解释机器学习模型以打开黑匣子之后解决上述挑战。模型解释或可解释的机器学习的目标是为模型的工作机制提取人类可理解的术语。最近，一些方法开始将解释纳入对抗攻击和防御的探索中。同时，我们也观察到许多现有的对抗攻击和防御方法，虽然没有明确声明，但可以从解释的角度来理解。在本文中，我们回顾了最近的工作对抗攻击和防御，特别是从机器学习解释的角度。我们将解释分为两种类型，特征级解释和模型级解释。对于每种类型的解释，我们详细说明了它如何用于对抗攻击和防御。然后，我们简要说明解释和对手之间的其他相关性。最后，我们讨论了挑战和未来的方向，沿着解决对手的问题与解释。
2020-10-07 cs.CV cs.LG stat.ML
A non-cooperative meta-modeling game for automated third-party calibrating, validating, and falsifying constitutive laws with parallelized adversarial attacks
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；Columbia University（哥伦比亚大学）
本构模型的评估，特别是对于高风险和高遗憾的工程应用，需要有效和严格的第三方校准，验证和证伪。虽然在开发验证模型的范例和标准程序方面作出了许多努力，但由于普遍采用的校准和验证过程具有顺序性、手工性和往往带有偏见的性质，因此可能会出现困难，从而减缓数据收集的速度，阻碍在发现新物理学方面取得进展，增加费用，并可能导致对拟议模型的可信度和适用范围的误解。这项工作试图引入博弈论和机器学习技术的概念，以克服许多现有的困难。我们引入了一个自动元建模游戏，其中两个相互竞争的AI代理系统地生成实验数据来校准给定的本构模型并探索其弱点，以通过竞争来改善实验设计和模型鲁棒性。两个智能体在没有人为干预的情况下，在对抗性强化学习框架中自动搜索元建模博弈的纳什均衡。通过将实验室实验的所有可能的设计选项捕获到单个决策树中，我们将实验的设计重新塑造为组合移动的游戏，可以通过两个竞争玩家的深度强化学习来解决。我们的对抗性框架模拟了研究人员之间理想化的科学合作和竞争，以更好地理解所学习的材料定律的应用范围，并防止传统的基于人工智能的第三方验证引起的误解。
2020-04-13 cs.AI cs.LG eess.SP
Adversarial Preference Optimization: Enhancing Your Alignment via RM-LLM Game
Tencent AI Lab（腾讯人工智能实验室）
提出对抗偏好优化（APO）框架，通过LLM与奖励模型的极小极大博弈交替更新，无需额外标注即可适应分布偏移，显著提升对齐基线的有用性与无害性。
2024-06-03 cs.AI cs.CL cs.LG
Constructing Semantics-Aware Adversarial Examples with a Probabilistic Perspective
University of Cambridge（剑桥大学）；University College London（伦敦大学学院）
本文提出一种概率视角下的语义感知对抗样本生成方法，在保持图像整体语义的同时进行大规模像素修改，从而在难以被人类察觉的情况下更有效地绕过对抗防御机制。
2024-11-24 cs.CR cs.LG stat.ML
An Adversarial Robustness Perspective on the Topology of Neural Networks
Criteo AI Lab（Criteo人工智能实验室）；Amazon（亚马逊）；Meta AI Research（Meta人工智能研究院）
在本文中，我们研究了神经网络（NN）拓扑结构对对抗鲁棒性的影响。具体来说，我们研究了当输入遍历NN的所有层时产生的图，并表明这些图对于干净的和对抗性的输入是不同的。我们发现，来自干净输入的图形更集中在高速公路边缘，而来自对手的图形则更分散，利用了优化不足的边缘。通过在各种数据集和架构上的实验，我们证明了这些优化不足的边缘是对抗性脆弱性的来源，它们可以用来检测对抗性输入。
2022-11-04 cs.CR cs.LG stat.ML
Are AlphaZero-like Agents Robust to Adversarial Perturbations?
UCLA（加州大学洛杉矶分校）；CMU（卡内基梅隆大学）；Academia Sinica（中央研究院）；NYCU（阳明交通大学）
AlphaZero（AZ）的成功证明，基于神经网络的围棋人工智能可以大大超过人类的表现。考虑到围棋的状态空间非常大，人类玩家可以从任何合法的状态下进行游戏，我们要问的是，围棋人工智能是否存在可能导致它们做出令人惊讶的错误行为的对抗状态。在本文中，我们首先将对抗性示例的概念扩展到围棋游戏：我们通过向游戏中添加无意义的移动来生成与原始状态“语义上”等效的扰动状态，并且对抗性状态是一种扰动状态，导致即使对于围棋初学者来说也明显的毫无疑问的低劣动作。然而，由于大的、离散的和不可微的搜索空间，搜索对抗状态是具有挑战性的。为了应对这一挑战，我们开发了第一个对Go AI的对抗攻击，它可以通过战略性地减少搜索空间来有效地搜索对抗状态。这种方法也可以扩展到其他棋盘游戏，如NoGo。在实验中，我们表明，政策值神经网络（PV-NN）和蒙特卡罗树搜索（MCTS）所采取的行动可以被误导，通过添加一个或两个无意义的石头;例如，在58%的AlphaGo Zero自玩游戏，我们的方法可以使广泛使用的KataGo代理与50模拟MCTS发挥一个失败的行动，通过添加两个无意义的石头。我们还评估了我们的算法与业余人类围棋选手的对抗性例子，90%的例子确实导致围棋智能体做出明显低劣的动作。我们的代码可在\url{https://PaperCode.cc/GoAttack}上获得。
2022-11-07 cs.AI cs.LG cs.RO
Boosting Barely Robust Learners: A New Perspective on Adversarial Robustness
Toyota Technological Institute at Chicago（芝加哥丰田工学院）；University of Waterloo（滑铁卢大学）
我们提出了一个预言机有效的算法，以提高几乎没有强大的学习者的对抗鲁棒性。几乎没有鲁棒性的学习算法只在数据分布的一小部分$β\ll 1$上学习对抗鲁棒的预测器。我们提出的概念，几乎没有强大的学习需要鲁棒性相对于一个“更大的”扰动集，我们表明这是必要的强鲁棒学习，弱松弛是不够的强鲁棒学习。我们的研究结果揭示了两个看似无关的问题之间的定性和定量等价性：强鲁棒学习和勉强鲁棒学习。
2022-02-11 cs.LG stat.ML
MAGIC: A Co-Evolving Attacker-Defender Adversarial Game for Robust LLM Safety
Shanghai AI Laboratory（上海人工智能实验室）；Shanghai Jiao Tong University（上海交通大学）；Zhejiang University（浙江大学）
MAGIC通过共进化对抗游戏提升大语言模型的安全性，攻击者与防御者智能体在多轮强化学习中相互演化，有效识别并抵御未知攻击模式。
2026-02-06 cs.AI cs.CL cs.LG
Randomization matters. How to defend against strong adversarial attacks
Université Paris-Dauphine, PSL Research University（巴黎多芬大学，PSL研究大学）；CNRS（法国国家科学研究中心）；Institut LIST, CEA（法国原子能与替代能源委员会列表研究所）；Université Paris-Saclay（巴黎萨克雷大学）
有没有一个分类器可以确保对所有对抗攻击的最佳鲁棒性？本文从博弈论的角度回答了这一问题。我们发现，对抗攻击和防御形成一个无限的零和游戏，经典的结果（如Sion定理）不适用。我们证明了当分类器和Advertisement都是确定性的时候，我们的博弈中不存在纳什均衡，因此在确定性的情况下对上述问题给出了否定的答案。尽管如此，在随机化方案中，这个问题仍然是开放的。我们解决这个问题，表明，在温和的条件下的数据集分布，任何确定性分类器可以优于随机的。这为使用随机化提供了论据，并引导我们构建一种新的算法，用于构建对强对抗攻击具有鲁棒性的随机分类器。实验结果验证了我们的理论分析，并表明我们的防御方法大大优于对抗性训练对最先进的攻击。
2021-01-06 cs.CR cs.LG stat.ML
BeTAIL: Behavior Transformer Adversarial Imitation Learning from Human Racing Gameplay
University of California Berkeley（加利福尼亚大学伯克利分校）；National University of Singapore（新加坡国立大学）；Sony Research（索尼研究院）
针对序列建模难适应分布偏移、对抗模仿学习样本效率低的问题，提出结合BeT策略与在线AIL的残差式BeTAIL方法，在赛车游戏任务中减少交互、提升性能与稳定性。
2024-07-11 cs.LG cs.RO
Label Noise in Adversarial Training: A Novel Perspective to Study Robust Overfitting
University of California, San Diego（加州大学圣地亚哥分校）；Microsoft Research（微软研究院）
本文揭示对抗训练中标签噪声源于对抗扰动扭曲真实标签分布，并由此解释鲁棒过拟合现象，提出自动校准标签的方法，在多种模型和数据集上实现性能提升。
2023-10-13 cs.AI cs.LG stat.ML
Robust Adversarial Reinforcement Learning in Stochastic Games via Sequence Modeling
University College London（伦敦大学学院）
针对序列建模强化学习在对抗随机博弈中的鲁棒性缺失，提出CART框架，通过阶段博弈和NashQ条件化，实现更精确的极小极大估计与更优的最坏情况回报。
2025-10-13 cs.GT cs.LG
When Should You Defend Your Classifier -- A Game-theoretical Analysis of Countermeasures against Adversarial Examples
Management Center Innsbruck（因斯布鲁克管理中心）；Department of Computers and Engineering, Czech Technical University in Prague（布拉格捷克理工大学计算机与工程系）
对抗性机器学习，即，增加机器学习算法对所谓的对抗性示例的鲁棒性现在是一个已建立的领域。然而，新提出的方法进行评估和比较不切实际的情况下，对手和防守者的成本不被考虑，无论是所有样本或没有样本的adversarially扰动。我们仔细研究了这些假设，并提出了先进的对抗分类游戏，它包含了对手和防守者的所有相关参数。特别是，我们考虑到双方的经济因素，以及迄今为止针对对抗性示例提出的所有对策都会降低良性样本的准确性。详细分析了两个玩家都有两个纯策略的场景，我们确定了所有最佳对策，并得出结论，在实际环境中，最有影响力的因素可能是对抗性例子的最大数量。
2021-09-27 cs.GT cs.LG
Game of GANs: Game-Theoretical Models for Generative Adversarial Networks
Isfahan University of Technology（伊斯法罕理工大学）；University of Arizona（亚利桑那大学）
生成对抗网络（GANs）最近在AI社区引起了相当大的关注，因为它能够生成与真实数据具有显著统计相似性的高质量数据。从根本上说，GAN是两个神经网络之间的博弈，它们以对抗的方式训练，以达到零和纳什均衡。尽管GANs在过去几年中取得了进步，但仍有一些问题有待解决。本文回顾了有关GANs博弈论方面的文献，并讨论了博弈论模型如何解决生成模型的特定挑战并提高GAN的性能。我们首先介绍了一些基本知识，包括基本的GAN模型和一些博弈论背景。然后，我们提出了分类法，将最先进的解决方案分为三个主要类别：修改后的游戏模型，修改后的架构和修改后的学习方法。分类是基于修改的基本GAN模型提出的博弈论方法在文献中。然后，我们探讨每个类别的目标，并讨论每个类别的近期作品。最后，我们讨论了在这一领域仍然存在的挑战，并提出未来的研究方向。
2022-01-03 cs.AI cs.GT cs.LG
Mixed Nash Equilibria in the Adversarial Examples Game
Facebook AI Research（脸书人工智能研究院）；Ecole Polytechnique Fédérale de Lausanne（洛桑联邦理工学院）；Université Paris-Dauphine（巴黎第九大学）；ENSAE（法国国立统计与经济管理学校）
本文从博弈论的角度来处理对抗性例子的问题。我们研究了攻击者和分类器形成的零和博弈中混合纳什均衡存在性的公开问题。虽然以前的作品通常只允许一个球员使用随机化策略，我们显示了考虑随机化的分类器和攻击者的必要性。我们证明，这个游戏没有对偶差距，这意味着它总是承认近似纳什均衡。我们还提供了第一个优化算法来学习混合的分类器，近似实现这个游戏的价值，\emph{i.e.}程序来建立一个最佳的鲁棒随机分类器。
2021-02-13 cs.CR cs.GT cs.LG
Large-Scale Strategic Games and Adversarial Machine Learning
The University of Melbourne（墨尔本大学）
在现代大规模和复杂的系统，如通信网络，智能电网和网络物理系统的决策激励新的博弈论方法。本文研究了大的战略（非合作）游戏，其中有限数量的个人局中人都有大量的连续决策变量和输入数据点。这种高维决策空间和大数据集导致了计算挑战，涉及到非线性优化扩展到大型变量系统的努力。除了这些计算挑战之外，由于识别偏好参数的成本过高或由于在动态在线设置中操作，现实世界的玩家通常具有关于其偏好参数的有限信息。有限信息的挑战在高维度和大数据集中加剧。由于计算和信息的限制，限制了大战略博弈的直接解决方案，我们的调查中心约简使用线性变换，如随机投影方法及其对纳什均衡解决方案的影响。具体的分析结果二次游戏和近似。此外，提出了一个对抗性学习游戏，其中随机投影和抽样方案进行了研究。
2016-09-21 cs.GT cs.LG
Adversarial Random Forest Classifier for Automated Game Design
University of Alberta（阿尔伯塔大学）
自主游戏设计，即通过算法生成游戏，一直是技术游戏研究领域的一个长期目标。然而，现有的自主游戏设计系统在很大程度上依赖于人类创作的游戏设计知识，如基于搜索的方法中的健身功能。在本文中，我们描述了一个实验，试图学习一个类似人类的适应度函数，以对抗的方式进行自主游戏设计。虽然我们的实验工作没有达到我们的预期，我们提出了我们的系统和结果的分析，我们希望将是有益的，未来的自主游戏设计研究。
2021-07-26 cs.AI cs.LG
Robust Reinforcement Learning as a Stackelberg Game via Adaptively-Regularized Adversarial Training
Carnegie Mellon University（卡内基梅隆大学）
鲁棒强化学习（RL）专注于提高模型错误或对抗攻击下的性能，这有助于RL代理的实际部署。鲁棒对抗性强化学习（RARL）是最流行的鲁棒强化学习框架之一。然而，大多数现有的文献模型RARL作为一个零和同步游戏的纳什均衡作为解决方案的概念，这可能会忽略RL部署的顺序性，产生过于保守的代理，并诱导训练不稳定。在本文中，我们介绍了一种新的层次制定的强大的RL -一般和Stackelberg游戏模型称为RRL-Stack -正式的顺序性质，并提供额外的灵活性，强大的训练。我们开发了Stackelberg策略梯度算法来解决RRL-Stack，通过考虑对手的响应来利用Stackelberg学习动态。我们的方法生成具有挑战性但可解决的对抗环境，有利于RL代理的鲁棒学习。在单智能体机器人控制和多智能体高速公路合并任务中，我们的算法对不同的测试条件表现出更好的训练稳定性和鲁棒性。
2022-09-24 cs.AI cs.GT cs.LG
Efficiently Computing Nash Equilibria in Adversarial Team Markov Games
University of California, Irvine（加州大学欧文分校）；Carnegie Mellon University（卡内基梅隆大学）；Columbia University（哥伦比亚大学）；University of California, Santa Cruz（加州大学圣克鲁兹分校）
纳什均衡策略的求解是多智能体强化学习的核心问题，在理论和实践中都受到了广泛的关注。然而，迄今为止，可证明的保证要么仅限于完全竞争或合作的情况，要么强加了在大多数实际应用中难以满足的强有力的假设。在这项工作中，我们离开这些先前的结果调查无限地平线\emph{adversarial team Markov games}，一个自然的和动机良好的一类游戏中，一队同样感兴趣的球员-在没有任何明确的协调或沟通-是竞争对手的球员。这种设置允许零和马尔可夫博弈和马尔可夫势博弈的统一处理，并作为一个步骤，以模拟更现实的战略互动，同时具有竞争和合作的利益。我们的主要贡献是第一个算法计算平稳$ε$ -近似纳什均衡的对抗团队马尔可夫游戏的计算复杂性是多项式的所有自然参数的游戏，以及$1/ε$。所提出的算法是特别自然和实用的，它是基于执行独立的策略梯度步骤，为每个球员在团队中，在串联与最佳对策从对手的一方，反过来，对手的政策，然后通过求解一个精心构造的线性规划。我们的分析利用非标准的技术来建立KKT最优性条件的非凸约束的非线性规划，从而导致自然的解释诱导拉格朗日乘子。一路上，我们显着扩展了对抗（正常形式）团队游戏中的最优策略的重要特征，由于Von Stengel和Koller（GEB '97）。
2022-08-03 cs.GT cs.LG cs.MA
Training Generative Adversarial Networks via stochastic Nash games
TU Delft（代尔夫特理工大学）
生成对抗网络（GANs）是一类具有两个对抗性神经网络的生成模型：生成器和神经网络。这两个神经网络通过对抗过程相互竞争，该过程可以建模为随机纳什均衡问题。由于相关的训练过程具有挑战性，因此设计可靠的算法来计算均衡是至关重要的。在本文中，我们提出了一个随机放松的前向-后向（SRFB）算法的GANs，我们证明了收敛到一个精确的解决方案时，越来越多的数据是可用的。我们还表明收敛的平均变体的SRFB算法的解决方案的邻域时，只有很少的样本。在这两种情况下，当博弈的伪梯度映射是单调的时，收敛性是有保证的。这一假设是文献中已知的最弱假设之一。此外，我们应用我们的算法的图像生成问题。
2021-05-21 cs.GT cs.LG math.OC
GANGs: Generative Adversarial Network Games
University of Liverpool（利物浦大学）；University of Amsterdam（阿姆斯特丹大学）；IMC Financial Markets（IMC金融市场）；The University of Sheffield（谢菲尔德大学）
生成对抗网络（GAN）已成为无监督生成建模最成功的框架之一。由于GANs很难训练，许多研究都集中在这方面。然而，这方面的研究很少直接利用博弈论技术。我们引入生成对抗网络游戏（GANG），它明确地模拟了使用混合策略的生成器（$G$）和分类器（$C$）之间的有限零和游戏。这些游戏的大小排除了精确的解决方法，因此，我们定义资源有限的最佳对策（RBBR），和资源有限的纳什均衡（RB-NE）作为一对混合策略，使$G$或$C$都不能找到一个更好的RBBR。RB-NE解决方案的概念比“局部纳什均衡”的概念更丰富，因为它不仅捕获了梯度下降逃避局部最优的失败，而且适用于任何近似的最佳响应计算，包括随机重新启动的方法。为了验证我们的方法，我们解决GANG与并行纳什记忆算法，可证明单调收敛到RB-NE。我们将我们的结果与标准的GAN设置进行比较，并证明我们的方法可以很好地处理典型的GAN问题，如模式崩溃，部分模式覆盖和遗忘。
2017-12-17 cs.GT cs.LG stat.ML
Dealing with Adversarial Player Strategies in the Neural Network Game iNNk through Ensemble Learning
IT University of Copenhagen（哥本哈根信息技术大学）；Drexel University（德雷塞尔大学）
在游戏中应用神经网络（NN）方法可以产生各种新的和令人兴奋的游戏动态，这是以前不可能的。然而，它们也带来了新的挑战，例如缺乏大型，干净的数据集，不同的玩家技能水平以及不断变化的游戏策略。在本文中，我们专注于游戏iNNk中的对抗性玩家策略方面，在该游戏中，玩家试图通过绘图来传达秘密代码，目标是不被NN破译。一些策略利用NN的弱点，不断欺骗它做出错误的分类，导致不平衡的游戏。我们提出了一种结合迁移学习和集成方法的方法，以获得对这些策略的数据有效的适应。这种组合在所有对抗性玩家策略中的表现都显着优于基线NN，尽管只在有限的对抗性示例集上进行了训练。我们希望本文中开发的方法是有用的基于NN的游戏，这将需要新的方法来处理不可预见的球员的创造力的快速增长的领域。
2021-07-05 cs.AI cs.LG
Nonzero-sum Adversarial Hypothesis Testing Games
Indian Institute of Science（印度科学学院）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；MPI-SWS（马克斯·普朗克软件系统研究所）
我们研究了在对抗分类的背景下出现的非零和假设检验游戏，在贝叶斯框架和Neyman-Pearson框架中。我们首先表明，这些游戏承认混合策略纳什均衡，然后我们研究了一些有趣的集中现象，这些均衡。我们的主要结果是指数收敛率的分类错误在平衡，这是类似于著名的Baffff-Stein引理和Baffff信息描述的错误指数在经典的二元假设检验问题，但参数来自对抗模型。通过数值实验验证了结果。
2019-09-28 cs.GT cs.LG math.ST
Computing Approximate Equilibria in Sequential Adversarial Games by Exploitability Descent
DeepMind（深度思维）；University of Alberta（阿尔伯塔大学）
在本文中，我们提出了可利用性下降，一个新的算法来计算近似平衡的两个球员零和扩展形式的游戏与不完美的信息，直接对最坏情况下的对手的政策优化。我们证明，当遵循这种优化，利用一个球员的战略渐近收敛到零，因此，当两个球员采用这种优化，联合政策收敛到一个纳什均衡。与虚拟游戏（XFP）和反事实遗憾最小化（CFR）不同，我们的收敛结果与优化的策略有关，而不是平均策略。我们的实验表明，收敛速度相媲美的XFP和CFR在四个基准游戏中的表格的情况下。使用函数逼近，我们发现，我们的算法优于表格版本中的两个游戏，据我们所知，这是第一个这样的结果，在这类算法之间的不完美信息游戏。
2020-06-12 cs.AI cs.GT cs.LG
A game-theoretic approach for Generative Adversarial Networks
TU Delft（代尔夫特理工大学）
本文提出一种基于博弈论的随机松弛前向-后向算法，将GAN训练转化为变分不等式求解，在单调条件下保证收敛至精确解或邻域。
2020-09-14 cs.GT cs.LG math.OC
It Takes (Only) Two: Adversarial Generator-Encoder Networks
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Yandex；University of Oxford（牛津大学）
我们提出了一种新的自动编码器类型的架构，它可以在无监督模式下训练，支持生成和推理，并且具有通过对抗学习提高的条件和无条件样本的质量。与以前的自编码器和对抗网络的混合不同，我们的方法中的对抗游戏直接在编码器和生成器之间建立，并且在学习过程中没有训练外部映射。游戏目标将真实数据分布和生成数据分布中的每一个的偏差与潜在空间中的先验分布进行比较。我们表明，直接生成器与编码器的游戏导致了两个组件的紧密耦合，导致样本和重建的质量相当，一些最近提出的更复杂的架构。
2017-11-06 cs.CV cs.LG stat.ML
Adversarial Learning in Games with Bandit Feedback: Logarithmic Pure-Strategy Maximin Regret
The University of Tokyo and RIKEN（东京大学和RIKEN）；University of Southern California（美国南加州大学）；University of Washington（华盛顿大学）
研究在轮盘反馈下通过Tsallis-INF和Maximin-UCB算法实现零和博弈的纯策略最大化遗憾最小化，提出两种算法并推广至双线性博弈。
2026-02-06 cs.GT cs.LG
Randomized Prediction Games for Adversarial Machine Learning
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；University of Cagliari（卡利亚里大学）
在垃圾邮件和恶意软件检测中，攻击者利用随机化来混淆恶意数据，并增加他们在测试时逃避检测的机会;例如，恶意软件代码通常使用随机字符串或字节序列来混淆以隐藏已知的利用。有趣的是，随机化也被提出来提高学习算法对逃避攻击的安全性，因为它会向攻击者隐藏有关分类器的信息。最近的工作提出了博弈理论公式来学习安全分类器，通过模拟不同的规避攻击和修改相应的分类功能。然而，分类函数和模拟数据操作都是以确定性方式建模的，而没有考虑任何形式的随机化。在这项工作中，我们克服了这一限制，提出了一个随机预测游戏，即，一个非合作的博弈理论制定的分类器和攻击者作出随机的策略选择，根据一些概率分布定义在各自的战略集。我们表明，我们的方法可以提高攻击检测和错误警报之间的权衡相对于最先进的安全分类器，甚至对攻击是不同的那些假设在设计过程中，应用程序的例子，包括手写数字识别，垃圾邮件和恶意软件检测。
2016-09-03 cs.GT cs.LG
Complex Momentum for Optimization in Games
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；NVIDIA（英伟达）
我们推广了具有动量的梯度下降，使其具有复值动量。我们给我们的方法的理论动机，证明收敛的双线性零和游戏的同时和交替更新。我们的方法提供了实值参数更新，使其成为标准优化器的替代品。我们经验证明，复值动量可以提高现实对抗游戏的收敛性-如生成对抗网络-通过显示我们可以找到更好的解决方案，几乎相同的计算成本。我们还展示了对复值Adam变体的实际推广，我们使用该变体来训练BigGAN以在CIFAR-10上获得更好的初始分数。
2021-06-01 cs.GT cs.LG
Playing to Learn Better: Repeated Games for Adversarial Learning with Multiple Classifiers
U. S. Naval Research Laboratory（美国海军研究实验室）
我们考虑在对抗性学习环境中通过称为学习者的机器学习算法进行预测的问题。学习器的任务是正确地预测作为查询传递给它的数据的类别。然而，除了包含干净数据的查询外，学习者还可能收到来自对手的恶意或敌对查询。对手的目标是通过发送导致学习者错误的类预测的对抗查询来逃避学习者的预测机制，而学习者的目标是在不降低干净查询的预测质量的情况下减少这些对抗查询的不正确预测。我们提出了一种基于博弈论的技术，称为重复贝叶斯序贯博弈，学习者反复与对手的模型进行交互，使用自我游戏来确定对抗性查询与干净查询的分布。然后，它从一组预先训练的分类器中策略性地选择一个分类器，该分类器平衡了查询的正确预测的可能性以及降低使用分类器的成本。我们已经使用基于深度神经网络的分类器使用干净和对抗性文本数据评估了我们提出的技术，并表明学习者可以选择与查询类型（干净或对抗性）相称的适当分类器，同时仍然知道使用分类器的成本。
2020-02-10 cs.LG stat.ML
Self-playing Adversarial Language Game Enhances LLM Reasoning
Tencent AI Lab（腾讯AI实验室）；Tencent Robotics X Lab（腾讯Robotics X实验室）
本文提出通过自对弈对抗性语言游戏（SPAG）增强大语言模型推理能力，实验表明该方法能显著提升多种推理基准性能。
2025-01-24 cs.CL cs.LG
Rethinking Robust Contrastive Learning from the Adversarial Perspective
University of YYY（YYY大学）；Company Name（名称公司）；Institute of WWW（WWW研究所）
本文从对抗视角分析对抗训练对自监督、监督对比学习及监督学习表示的影响，发现其可缩小对抗与干净表示差异并提升鲁棒性。
2023-06-06 cs.CV cs.LG
Adversarial Regularization as Stackelberg Game: An Unrolled Optimization Approach
Georgia Institute of Technology（佐治亚理工学院）；Amazon（亚马逊）；Microsoft（微软）
对抗性正则化已被证明可以提高深度学习模型在各种自然语言处理任务中的泛化性能。现有的工作通常制定的方法作为一个零和游戏，这是解决交替梯度下降/上升算法。这样的公式平等地对待对手和防守球员，这是不可取的，因为只有防守球员有助于泛化性能。为了解决这个问题，我们提出了Stackelberg对抗正则化（SALT），它将对抗正则化公式化为Stackelberg游戏。这个公式引起了领导者和追随者之间的竞争，其中追随者产生扰动，领导者训练受扰动影响的模型。与传统方法不同，在SALT中，领导者处于有利地位。当领导者采取行动时，它会识别追随者的策略，并考虑追随者的预期结果。这样的领导者的优势，使我们能够改善模型拟合的未扰动数据。领导者的战略信息被捕获的Stackelberg梯度，这是使用展开算法获得。我们在一组机器翻译和自然语言理解任务上的实验结果表明，SALT在所有任务上都优于现有的对抗性正则化基线。我们的代码可在https://github.com/SimiaoZuo/Stackelberg-Adv上获得。
2022-04-20 cs.CL cs.LG
Procedural content generation of puzzle games using conditional generative adversarial networks
IT University of Copenhagen（哥本哈根信息技术大学）
本文提出使用参数化GANs为益智游戏Lily's Garden生成关卡，通过提取两个条件向量控制输出细节，发现GANs能较好近似地图形状但难以近似棋子分布，并建议尝试替代架构以改善此问题。
2023-06-26 cs.AI cs.LG
Exploring Adversarial Attacks against Latent Diffusion Model from the Perspective of Adversarial Transferability
Sun Yat-sen University（中山大学）；Nanyang Technological University（南洋理工大学）
本文从对抗迁移性视角研究替代模型性质对潜在扩散模型对抗样本的影响，发现选择更平滑的替代模型可显著提升基于蒙特卡洛攻击的性能，并给出理论解释。
2024-01-13 cs.CR cs.CV cs.LG
Adversarial Inverse Reinforcement Learning for Mean Field Games
Strong AI Lab, University of Auckland（强人工智能实验室，奥克兰大学）；University of Auckland（奥克兰大学）
本文提出均场对抗逆强化学习框架，用于解决均场博弈中演示行为不确定性问题，通过最大熵IRL和新均衡概念提升奖励恢复性能。
2025-12-01 cs.LG
Imitating Opponent to Win: Adversarial Policy Imitation Learning in Two-player Competitive Games
Singapore Management University（新加坡管理大学）；University of Oregon（俄勒冈大学）
最近对深度强化学习（RL）漏洞的研究表明，对手代理采用的对抗策略可以影响目标RL代理（受害者代理）在多代理环境中表现不佳。在现有的研究中，对抗性政策是直接训练的基础上与受害者代理的互动经验。这种方法有一个关键的缺点：从历史互动中获得的知识可能无法正确地推广到受害者代理的未探索的政策区域，这使得经过训练的对抗性政策的有效性大大降低。在这项工作中，我们设计了一个新的有效的对抗策略学习算法，克服了这一缺点。我们的新算法的核心思想是创建一个新的模仿者来模仿受害者代理的策略，而对抗策略不仅基于与受害者代理的交互，而且还基于模仿者的反馈来预测受害者的意图。通过这样做，我们可以利用模仿学习的能力，仅基于受害者的样本轨迹就可以很好地捕捉受害者策略的潜在特征。我们的受害者模仿学习模型不同于以前的模型，因为环境的动态由对手的策略驱动，并且在对抗策略训练过程中会不断变化。当对手的策略稳定时，我们给出了一个可证明的界来保证一个理想的模仿策略。我们通过让模仿者成为受害者的更强版本，进一步加强了我们的对抗性策略学习。最后，我们使用四个竞争激烈的MuJoCo游戏环境的广泛实验表明，我们提出的对抗性策略学习算法优于最先进的算法。
2022-10-30 cs.LG
On the Trade-Off Between Transparency and Security in Adversarial Machine Learning
University of Waterloo（滑铁卢大学）
本研究探讨对抗性机器学习中透明度与安全性的冲突，通过可迁移对抗样本攻击的实证与博弈论分析，发现防御者模型的模糊性有利，仅知晓防御状态就可能损害安全性，揭示两者权衡及博弈论的应用价值。
2025-11-14 cs.CR cs.GT cs.LG
InfoChess: A Game of Adversarial Inference and a Laboratory for Quantifiable Information Control
New Jersey Institute of Technology（新泽西理工学院）
InfoChess通过对抗性推理游戏探索信息控制策略，采用强化学习 agent 实现信息推断优化，分析信息理论特征以研究多智能体部分可观测环境下的推理。
2026-04-15 cs.AI cs.IT cs.LG
Adversarial Online Learning with Variable Plays in the Pursuit-Evasion Game: Theoretical Foundations and Application in Connected and Automated Vehicle Cybersecurity
University of Michigan（密歇根大学）
我们扩展的对抗性/非随机多播放多武装土匪（MPMAB）的情况下，武器的数量是可变的。这项工作的动机是这样一个事实，即分配给扫描不同的关键位置在一个相互连接的交通系统中的资源动态变化，随着时间的推移，并取决于环境。通过分别将恶意黑客和入侵监控系统建模为攻击者和防御者，我们将这两个玩家的问题描述为一个连续的追求-逃避游戏。我们推导出策略博弈的纳什均衡存在的条件。对于防守方，我们提供了一个基于指数加权的算法与次线性伪遗憾。我们进一步扩展我们的模型异构奖励的两个球员，并获得上下限的平均奖励的攻击者。我们提供了数值实验来证明可变臂发挥的有效性。
2021-10-26 cs.AI cs.LG
Cleaning up the neighborhood: A full classification for adversarial partial monitoring
DeepMind
部分监控是著名的多臂强盗框架的推广，其中学习者不能直接观察到损失。我们完成了有限对抗部分监控的分类，包括所有游戏，解决了Bartok等人提出的一个开放问题。一路上，我们简化和改进现有的算法，并纠正以前的分析中的错误。我们的第二个贡献是巴托克[2013]研究的一类游戏的新算法，其中我们证明了后悔上界和下界，这些上界和下界揭示了后悔对游戏结构的依赖性。
2018-05-23 cs.LG stat.ML
