Provable Defense against Backdoor Policies in Reinforcement Learning
UW-Madison（威斯康星大学麦迪逊分校）；Princeton University（普林斯顿大学）；MPI-SWS（马克斯·普朗克软件系统研究所）
在子空间触发假设下，提出了一种可证明的强化学习后门策略防御机制。后门策略是一种安全威胁，其中对手发布了看似行为良好的策略，实际上允许隐藏触发器。在部署过程中，对手可以以特定的方式修改观察到的状态，以触发意外的动作并伤害代理。我们假设代理没有资源来重新训练一个好的策略。相反，我们的防御机制通过将观察到的状态投影到“安全子空间”来净化后门策略，该安全子空间是从与干净（非触发）环境的少量交互中估计的。我们的净化策略实现$ε$近似最优的触发器的存在下，提供的清洁的交互的数量是$O\left(\frac{D}{(1-γ)^4 ε^2}\right)$，其中$γ$是折扣因子和$D$是状态空间的维度。从经验上讲，我们表明，我们的消毒防御在两个雅达利游戏环境中表现良好。
2022-11-18 cs.AI cs.LG
The Partially Observable Games We Play for Cyber Deception
University of Texas（德克萨斯大学）；Radboud University Nijmegen（拉德堡德大学（奈梅亨））；RWTH Aachen University（亚琛工业大学）
日益复杂的网络渗透机制已经使得传统的防御手段，如防火墙和恶意软件检测器，无法胜任。这些复杂的渗透机制可以研究防御者的行为，识别安全警告，并自适应地修改他们的行为。为了应对这些安全挑战，网络基础设施需要包含网络欺骗的主动防御技术，其中防御者（欺骗者）实施误导渗透者的策略。为此，我们使用一个两个玩家的部分可观察的随机游戏（POSG）框架，其中欺骗者具有完整的观察性的状态的POSG，和渗透者具有部分可观察性。然后，欺骗问题是计算欺骗者的策略，该策略使欺骗者的期望成本最小化。我们首先表明，根本的问题是一个强大的混合整数线性规划，这是难以解决的一般。朝着一个可扩展的方法，我们计算最佳的有限内存策略的渗透减少到一系列的合成问题的参数马尔可夫决策过程。我们使用这些渗透策略，找到强大的策略，欺骗者使用混合整数线性规划。我们说明了我们的技术的性能POSG模型的网络安全。我们的实验表明，所提出的方法处理的情况下大大大于那些国家的最先进的方法。
2018-09-28 cs.AI math.OC
Interdependent Defense Games: Modeling Interdependent Security under Deliberate Attacks
我们提出了相互依存的防御（IDD）游戏，一个计算博弈论的框架，研究方面的相互依存的风险和安全性在多智能体系统下故意的外部攻击。我们的模型建立在相互依赖的安全（IDS）游戏，模型由于愈合和Kunreuther认为风险的来源是一个固定的randomizedstrategy。我们调整IDS游戏来模拟攻击者的故意行为。我们定义了攻击者的纯策略空间和效用函数，并为防御者推导出适当的成本函数。我们提供了一个完整的混合策略纳什均衡（MSNE）的特征，并设计了一个简单的多项式时间算法来计算所有这些，IDD游戏的一个重要子类。此外，我们提出了一个随机实例生成器（一般）IDD游戏的基础上的一个版本的现实世界的互联网派生的自治系统（AS）图（约27K节点和100K边），并提出了有前途的实证结果，使用一个简单的学习算法来计算（近似）MSNE在这样的游戏。
2012-10-16 cs.CR cs.GT
Analyzing Defense Strategies Against Mobile Information Leakages: A Game-Theoretic Approach
滥用移动和可穿戴设备上的零权限传感器来推断用户的个人上下文和信息是一种众所周知的隐私威胁，已受到极大关注。然而，到目前为止，防止或限制此类威胁成功的保护机制的努力一直是临时性的，主要集中在设计针对特定威胁的定制防御机制。这样的方法不是很实用，这从它们在主要移动/可穿戴操作系统内的有限采用中显而易见。最后，很明显，如果对这些传感器的访问受到管制，那么可以防止所有利用对零权限传感器的无限制访问的隐私威胁。然而，由于传感器使用的动态性质和不同移动应用的要求，这种访问控制机制的设计是不平凡的。为了有效地设计一个自动化的移动防御机制，可以动态地测量不同的传感器访问请求的威胁程度，从不同的应用程序，并适当地阻止可疑的请求，零权限传感器访问的问题需要首先进行形式化的定义和分析。本文采用博弈论的方法，具体地说，信号博弈，来实现上述目标，分析模型的传感器接入场景的移动应用程序，包括，形式化的传感器接入策略的移动应用程序和防御策略的板载防御机制和相关的成本和收益。在一个正式的和实际的博弈模型的范围内，本文概述了条件下，可以实现实体（应用程序和防御机制）之间的平衡与冲突的目标。通过数值模拟进一步分析了博弈模型，并将其扩展为重复信号博弈的形式。
2019-04-30 cs.CR cs.GT
Attack-Defense Quantification Based On Game-Theory
随着网络攻防技术的发展，网络环境越来越复杂。由于缺乏对网络攻防行为更准确的量化评估，无法对网络安全态势做出准确的评估。针对这一情况，提出了一个攻防随机博弈模型（ADSGM），分析了不同防御机制的不同安全性，并给出了相应的效用计算方法。通过一个案例分析，展示了主动防御的影响和攻击暴露的风险，证明了本文方法对攻防行为量化的有效性。本文填补了在攻防措施定量评估方面的空白，使攻防定量评估更加全面、准确。
2019-02-27 cs.CR
Spatial-Temporal Moving Target Defense: A Markov Stackelberg Game Model
移动目标防御已经成为保护易受攻击系统免受持续和隐形攻击的关键范例。为了保护系统，防御者主动更改系统配置，以限制安全漏洞暴露给潜在的攻击者。在这样做的过程中，防御者为攻击者创造了不对称的不确定性和复杂性，使他们更难危及系统。在实践中，防御者每次迁移系统配置都会产生切换成本。切换成本通常取决于当前配置和后续配置。此外，不同的系统配置通常需要不同的攻击者利用和攻击的时间量。因此，防守者必须同时决定系统配置的最佳顺序和切换的最佳时机。在本文中，我们提出了一个马尔可夫Stackelberg博弈框架，以精确地描述防御者的空间和时间的决策，面对先进的攻击者。我们引入了一个相对值迭代算法，计算防御者的最佳移动目标防御策略。通过对实际问题的实证分析，验证了马尔可夫-斯塔克伯格博弈模型在时空移动目标防御中的优势。
2020-02-24 cs.CR cs.GT
Multi-agent Reinforcement Learning in Bayesian Stackelberg Markov Games for Adaptive Moving Target Defense
Arizona State University（亚利桑那州立大学）
网络安全领域大多是一场猫捉老鼠的游戏，新的攻击的发现引领了这一趋势。为了剥夺攻击者的侦察优势，研究人员提出了主动防御方法，如移动目标防御（MTD）。为了找到好的移动策略，研究人员将MTD建模为防御者和网络对手之间的领导者-追随者游戏。我们认为，现有的模型是不够的顺序设置时，有一个理性的对手的信息不完整，并产生次优的运动策略。此外，虽然存在一系列关于在网络安全的顺序设置中学习防御策略的工作，但由于不完整信息引起的可扩展性问题，它们要么不受欢迎，要么倾向于忽略对手的战略性质，从而简化场景以使用单代理强化学习技术。为了解决这些问题，我们提出了（1）一个统一的博弈论模型，称为贝叶斯Stackelberg马尔可夫博弈（BSMG），可以对攻击者类型和MTD系统的细微差别的不确定性进行建模，以及（2）贝叶斯强Stackelberg Q学习（BSS-Q）方法，可以通过交互在合理的时间内学习BSMG的最佳移动策略。我们在不完全信息马尔可夫博弈的景观BSMG和强Stackelberg均衡（SSE）的概念，在他们的特点。我们表明，我们的学习方法收敛到一个SSE的BSMG，然后强调，学习的运动策略（1）提高了最先进的MTD的Web应用程序的安全性和（2）收敛到最佳的策略，即使在MTD域的不完整的信息，对手的奖励和过渡的先验信息是缺席。
2020-07-20 cs.AI cs.CR cs.GT
A Dynamic Games Approach to Proactive Defense Strategies against Advanced Persistent Threats in Cyber-Physical Systems
高级持续性威胁（APT）由于其隐蔽性、动态性和自适应性，已成为网络物理系统面临的重大安全挑战。主动动态防御提供了一种战略性的整体安全机制，以增加攻击成本并降低风险。这项工作提出了一个动态的游戏框架来模拟一个隐形的攻击者和一个积极的防御者之间的长期互动。在不完全信息的多阶段博弈中，每个参与者都有自己的私人信息不为其他参与者所知。双方博弈者根据自己的信念采取策略行动，而信念是通过多阶段的观察和学习形成的。完美的贝叶斯纳什均衡提供了一个有用的预测双方球员的政策，因为没有球员受益于单方面偏离均衡。我们提出了一个迭代算法来计算完美的贝叶斯纳什均衡，并使用田纳西伊士曼过程作为基准案例研究。我们的数值实验证实了分析结果，并提供了进一步的见解，主动防御深度策略的设计。
2019-11-05 cs.CR cs.GT
Markov Game Modeling of Moving Target Defense for Strategic Detection of Threats in Cloud Networks
Arizona State University（亚利桑那州立大学）
大规模云网络中关键数据的处理和存储需要可扩展的安全解决方案。事实证明，部署所有可能的安全措施都会消耗宝贵的计算和网络资源，而这些资源是云服务提供商的主要卖点。因此，最近有兴趣发展移动目标防御（MTD）机制，帮助一个优化的联合目标，最大限度地提高安全性，同时确保对性能的影响最小化。通常，这些技术将隐形对手的多阶段攻击问题建模为单步攻击检测游戏，使用图连接性度量作为衡量性能的启发式方法，从而（1）丢失了为大型云网络设计的图论模型中固有的有价值信息，以及（2）提出了某些对性能具有不对称影响的策略。在这项工作中，我们利用云网络的攻击图中的知识来制定零和马尔可夫博弈，并使用通用漏洞评分系统（CVSS）来为这个游戏提供有意义的实用价值。然后，我们表明，放置检测机制对对手的最佳策略相当于计算混合最小最大均衡的马尔可夫博弈。我们将使用我们的方法获得的收益与目前用于云网络安全的其他技术进行比较，从而显示其有效性。最后，我们强调了如何将该方法用于一个小型的真实云系统。
2019-02-28 cs.AI cs.CR cs.GT
A Game-Theoretic Approach for AI-based Botnet Attack Defence
Massey University（梅西大学）；University of Melbourne（墨尔本大学）；Data61 CSIRO（澳大利亚联邦科学与工业研究组织 Data61）
新一代僵尸网络利用人工智能（AI）技术隐藏僵尸主机的身份和攻击意图，以避免检测。不幸的是，目前还没有一种评估工具能够评估现有防御策略对这种基于AI的僵尸网络攻击的有效性。在本文中，我们提出了一个序贯博弈论模型，能够分析僵尸网络攻击者和防御者可能使用的潜在策略的细节，以达到纳什均衡（NE）。效用函数是在攻击者以最小的攻击成本发动最大数量的DDoS攻击，而防御者以最小的防御成本利用最大数量的防御策略的假设下计算的。我们进行了数值分析的基础上，涉及不同的（模拟）云带大小的不同的攻击成功率值的防御策略。我们的实验结果证实，防御的成功在很大程度上取决于防御策略的数量，根据仔细评估的攻击率。
2021-12-04 cs.AI cs.CR
Adversarial Machine Learning and Defense Game for NextG Signal Classification with Deep Learning
National Security Institute（国家安全研究所）；Virginia Tech（弗吉尼亚理工大学）
本文提出了一个博弈论框架来研究基于深度学习的NextG信号分类的攻击和防御的相互作用。NextG系统（诸如为大量IoT设备设想的系统）可以采用深度神经网络（DNN）来执行各种任务，诸如用户设备识别、物理层认证和现任用户的检测（诸如在公民宽带无线电服务（CBRS）频带中）。通过训练另一个DNN作为代理模型，攻击者可以发起推理（探索性）攻击以学习受害者模型的行为，预测成功的操作模式（例如，信道接入），并干扰它们。防御机制可以通过在受害者模型的决策中引入受控错误来增加对手的不确定性（即，毒化对手的训练数据）。这种防御对攻击是有效的，但在没有攻击时会降低性能。防御者和对手之间的交互被公式化为非合作博弈，其中防御者选择防御的概率或防御水平本身（即，伪造决策的比率），并且对手选择攻击的概率。防御者的目标是最大化其回报（例如，吞吐量或传输成功率），而对手的目标是最小化该奖励及其攻击成本。纳什均衡策略被确定为一种操作模式，使得在另一方的策略固定的情况下，任何一方都不能单方面提高自己的效用。一个虚构的发挥制定为每个球员反复玩游戏，以响应对手的行动的经验频率。将纳什均衡下的性能与固定攻击和防御情况下的性能进行了比较，并量化了NextG信号分类对攻击的弹性。
2022-12-22 cs.AI cs.CR cs.GT
Deception by Design: Evidence-Based Signaling Games for Network Defense
欺骗在金融业、在线市场、国防和无数其他领域发挥着关键作用。理解和利用欺骗--特别是在网络空间--既关键又困难。最近在这一领域的工作已经使用博弈论来研究激励和理性行为的作用。在此基础上，我们采用博弈论模型的目的机制设计。具体来说，我们研究了防御性使用欺骗：实施蜜罐网络防御。当对手发展出侦测蜜罐的能力时，设计问题会如何改变？我们分析两种模型：廉价谈话游戏和这些游戏的增强版本，我们称之为有证据的廉价谈话游戏，其中接收者可以以一定的概率检测到欺骗。我们的第一个贡献是这个欺骗性互动的新模型。我们表明，该模型包括传统的信号博弈和完全信息博弈的特殊情况。我们还证明了数字欺骗检测有时会消除纯策略均衡。最后，我们提出了一个令人惊讶的结果，一个欺骗性的防御者的效用有时可以增加时，对手发展的能力，检测欺骗。这些结果具体适用于网络防御。对于涉及欺骗的大量关键性战略互动而言，它们也足够普遍。
2015-06-20 cs.CR
Shoot the Honey, Cloak the Player: Towards Zero-Runtime-Overhead Proactive Defense and Detection for Visual Game Cheating
National University of Singapore（新加坡国立大学）
提出AimTrap，首个端到端防御视觉自瞄的系统，通过对抗性伪装纹理隐藏玩家、蜜罐纹理诱捕作弊，实现实时保护与赛后检测，防御成功率85.1%，蜜罐诱捕率96.9%，且运行时开销可忽略。
2026-06-25 cs.CR
Moving Target Defense for Web Applications using Bayesian Stackelberg Games
Arizona State University（亚利桑那州立大学）
目前设计Web应用程序的复杂性使得软件安全性成为一个难以实现的目标。攻击者可以在Web上探索已部署的服务，并在自己的空闲时间进行攻击。Web应用程序中的移动目标防御（MTD）是一种有效的机制，可以抵消其侦察的优势，但框架在其Web堆栈的多个配置之间切换时需要一个良好的切换策略。为了解决这个问题，我们提出了一个真实世界的MTD Web应用程序的建模作为一个重复的贝叶斯游戏。然后，我们制定了一个优化问题，产生一个有效的切换策略，同时考虑不同的网络堆栈配置之间切换的成本。为了将这个模型到一个发达的MTD系统，我们开发了一个自动化系统，用于生成攻击集的常见漏洞和暴露（CVEs）的输入攻击者类型与预定义的功能。我们的框架通过使用从国家漏洞数据库（NVD）获得的CVE上的安全领域专业知识，在这个游戏中为玩家（防御者和攻击者）获得了现实的奖励值。我们还解决了优先处理漏洞的问题，当修复时，提高了MTD系统的安全性。最后，我们证明了我们提出的模型的鲁棒性，通过评估其性能时，有输入攻击者信息的不确定性。
2016-11-17 cs.AI cs.CR cs.GT
Bad Data Injection Attack and Defense in Electricity Market using Game Theory Study
网络技术的应用提高了智能电网的监测和决策质量。这些网络技术容易受到恶意攻击，破坏它们可能会带来严重的技术和经济问题。本文详细说明了妥协的影响，每个测量的电价，使攻击者能够改变价格在所需的方向（增加或减少）。攻击者和防御者分别不可能攻击和防御所有测量。这种情况被建模为攻击者和防御者之间的零和博弈。游戏定义了攻击者和防御者分别喜欢攻击和防御不同测量的时间比例。基于PJM 5总线测试系统的仿真结果表明了所研究的博弈的有效性和性质。
2012-10-10 cs.CR cs.GT stat.AP
A Systematic Review of Technical Defenses Against Software-Based Cheating in Online Multiplayer Games
King Saud University（沙特国王大学）
本文综述了在线多人游戏中针对软件作弊的技术防御方法，分析了不同防御策略在检测效果、性能开销和隐私影响等方面的权衡，并强调了对抗作弊所需的稳健设计。
2025-12-24 cs.CR
Partially-Observable Security Games for Automating Attack-Defense Analysis
网络系统通常包含由于各种原因而在网络中保持未修复的漏洞，例如缺乏修补程序或知识来修复它们。由于存在此类残余漏洞，网络管理员应通过应用适当的对策来适当地对恶意活动做出反应或主动预防恶意活动，以最大限度地降低攻击者发起攻击的可能性。在本文中，我们提出了一个随机博弈论的方法来分析网络安全和综合防御策略，以保护网络。为了支持部分观察下的分析，其中一些攻击者的活动是不可观察或不可检测的防御者，我们构建了一个片面的部分可观察的安全游戏，并将其转化为一个完美的游戏进行进一步的分析。我们证明，这种转换是健全的安全游戏的子类和逻辑rPATL中指定的属性的子集。我们实现了一个完全自动化我们的方法的原型，并通过在现实生活中的网络上进行实验来评估它。
2022-11-02 cs.CR cs.FL
Proactive Defense Against Physical Denial of Service Attacks using Poisson Signaling Games
虽然物联网（IoT）有望改善能源效率，医疗保健和交通等领域，但它极易受到网络攻击。特别是，分布式拒绝服务（DDoS）攻击使服务器的带宽过载。但许多物联网设备构成了网络物理系统（CPS）的一部分。因此，它们可用于发起“物理”拒绝服务攻击（PDoS），其中物联网设备溢出CPS的“物理带宽”。在本文中，我们量化了恶意软件针对一组物联网设备进行PDoS攻击的基于人口的风险。为了模拟招聘的机器人，我们开发了一个“泊松信号游戏”，一个信号游戏与未知数量的接收器，有不同的能力来检测欺骗。然后，我们使用这个游戏的一个版本来分析两种机制（法律和经济），以阻止僵尸网络招聘。均衡结果表明：1）防御者可以约束僵尸网络活动，2）立法最低安全级别的效果有限，而激励主动防御可以任意减少僵尸网络活动。这项工作提供了一个定量的基础，主动的PDOS防御。
2017-10-16 cs.CR
A Theory of Hypergames on Graphs for Synthesizing Dynamic Cyber Defense with Deception
Worcester Polytechnic Institute（伍斯特理工学院）
在这一章中，我们提出了一种方法，使用形式化的方法来综合反应式防御策略的赛博网络，配备了一套诱饵系统。我们首先推广正式的图形安全模型-攻击图-将防御者的对策在博弈论模型，称为攻击-防御游戏图。这个游戏以形式逻辑捕捉防御者和攻击者之间的动态交互以及他们的防御/攻击目标。然后，我们引入了一类超对策模型的攻击者和防御者的互动中的诱饵所产生的信息不对称。给出了形式逻辑中的定性安全规范，我们证明了形式方法中的超博弈和反应合成的解决方案概念可以扩展到使用网络欺骗来合成有效的动态防御策略。该策略利用攻击者的错误感知来保证安全性，而当信息对称时，这可能是不满足的。
2020-08-07 cs.AI cs.CR cs.GT
Game Theory for Adversarial Attacks and Defenses
Indian Institute of Technology Bhubaneswar（印度理工学院布巴内斯瓦尔分校）
本研究应用博弈论防御对抗攻击，通过随机初始化、随机激活剪枝和超分辨率三种方法提升深度神经网络的鲁棒性。
2024-01-05 cs.CR cs.GT cs.LG
CyGATE: Game-Theoretic Cyber Attack-Defense Engine for Patch Strategy Optimization
National University of Singapore（新加坡国立大学）；Nanyang Technological University（南洋理工大学）；Queen's University Belfast（女王大学贝尔法斯特分校）
针对现有网络攻防博弈方法静态假设多、适配性不足的问题，提出结合LLM与RAG的CyGATE博弈论框架，将攻防建模为POSG，可动态优化补丁优先级，适配多类场景。
2025-08-01 cs.AI cs.CR
Networked Multi-Resource Defense Capabilities in a General Lotto Game
Department of Computer Science, University of Colorado Colorado Springs（科罗拉多大学斯普林斯分校计算机科学系）
本文在一般Lotto博弈框架下，结合网络权重矩阵刻画资源对攻击的有效性，推导防御性能上下界并对比独立防御基准，为多攻击类型防御问题提供了易处理的结构。
2026-09-15 cs.CR cs.GT cs.SY
Moving-Target Defense Against Cyber-Physical Attacks in Power Grids via Game Theory
这项工作提出了一种移动目标防御（MTD）策略来检测针对电网的协同网络物理攻击（CCPAs）。所提出的方法的主要思想是无效的知识，攻击者用来掩盖他们的物理攻击的影响，通过主动扰动电网的输电线路电抗通过分布式灵活交流输电系统（D-FACTS）设备。所提出的MTD设计包括两个部分。首先，我们确定了D-FACTS设备部署的链接子集，使防御者能够针对系统中的任何链接检测CCPA。然后，为了最大限度地减少防御成本在系统的运行时间，我们制定了一个零和游戏，以确定最佳的子集的链接扰动（这将提供足够的保护）对战略攻击者。纳什均衡鲁棒解是通过指数权重计算的，它不需要完全的博弈知识，而只需要在每次迭代中观察到的收益。大量的仿真使用的MATPOWER模拟器在IEEE总线系统验证了我们的方法在检测CCPA和降低运营商的防御成本的有效性。
2021-07-27 cs.CR cs.IT cs.SY
Defense Against Advanced Persistent Threats in Dynamic Cloud Storage: A Colonel Blotto Game Approach
高级持续性威胁（APT）攻击者采用多种复杂的方法，从目标云存储系统中持续、秘密地窃取信息，甚至可以诱导存储系统应用特定的防御策略并对其进行相应的攻击。在本文中，APT攻击者和防御者之间的相互作用分配他们的中央处理器（CPU）在多个存储设备在云存储系统中被制定为一个上校Blotto游戏。针对APT攻击者和防御者之间的对称和非对称CPU，推导了CPU分配博弈的纳什均衡，以评估有限的CPU资源、数据存储大小和存储设备数量如何影响云存储系统的预期数据保护水平和效用。提出了一种基于“热启动”策略爬山（PHC）的CPU分配方案，利用相似场景中的经验初始化质量值，以加快学习速度，使防御者在不知道APT攻击模型和数据存储模型的情况下，在动态博弈中获得最优的APT防御性能.基于热引导深度Q网络（DQN）的CPU分配方案进一步提高了具有大量CPU和存储设备的情况下的APT检测性能。仿真结果表明，基于强化学习的CPU分配算法与基于Q学习的CPU分配算法相比，能够提高云存储系统的数据保护水平和实用性。
2018-01-19 cs.CR
Dynamical low-rank equilibrium computation for stochastic games between advanced persistent threats and moving target defense
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
针对工业控制系统中高级持续性威胁与移动目标防御的随机博弈，提出动态低秩均衡计算方法，利用攻击-防御矩阵的低秩结构，实现高效、鲁棒的纳什均衡计算，并在电力系统测试中达到94%参数压缩和极小效用损失。
2026-10-08 cs.AI cs.CR cs.GT
Learning About Simulated Adversaries from Human Defenders using Interactive Cyber-Defense Games
本文提出使用对抗算法和交互式网络防御游戏（IDG）研究防御者学习策略，发现参与者能学会预判Beeline对手并增加主动防御，为加速网络安全分析师训练提供了启示。
2023-04-03 cs.CR cs.HC
MEGA-PT: A Meta-Game Framework for Agile Penetration Testing
New York University（纽约大学）
本文提出元博弈渗透测试框架MEGA-PT，通过微观战术博弈与宏观策略过程实现分布式、自适应的敏捷自动化渗透测试，有效解决维度灾难与可扩展性问题。
2024-09-21 cs.AI cs.CR cs.GT
Information Leakage Games: Exploring Information as a Utility Function
UFMG（米纳斯吉拉斯联邦大学）；University of Athens（雅典大学）；CNRS（法国国家科学研究中心）；AIST（日本产业技术综合研究所）；Inria Saclay（法国国家信息与自动化研究所萨克莱分院）；École Polytechnique（巴黎综合理工学院）
安全信息流和隐私领域的一个共同目标是建立有效的防御措施，防止不必要的信息泄漏。为此，必须能够推理潜在的攻击及其与可能的防御的相互作用。在本文中，我们提出了一个博弈论的框架，形式化的信息泄漏的背景下，攻击者和防御者的策略，并提供了一个基础，开发最佳的防御方法。我们的游戏的一个新颖之处是，它们的效用是由信息泄漏，在某些情况下，可能会表现在一个非线性的方式。这导致了与经典博弈论的显著偏离，在经典博弈论中，效用函数与参与者的策略是线性的。因此，本文的一个重要贡献是建立了信息泄漏博弈的基础。我们考虑两种类型的游戏，这取决于考虑泄漏的概念。第一种是QIF博弈，它是为定量信息流（QIF）理论量身定制的。第二种是DP-博弈，对应于差分隐私（DP）。
2022-01-28 cs.AI cs.CR cs.GT
Strategic Attack & Defense in Security Diffusion Games
安全游戏模拟了保护一组目标的防御者和试图捕获它们的攻击者之间的对抗。这些游戏的一个变体假设目标之间的安全相互依赖性，促进攻击的蔓延。到目前为止，只考虑了攻击的随机传播。在这项工作中，我们介绍了一个版本的安全游戏，其中攻击者战略性地驱动整个攻击的蔓延，节点之间的互连影响其敏感性被捕获。我们发现，当攻击扩散是策略性的时，在无传染和随机传染的情况下有效的策略不再可行。虽然在前一种情况下，可以有效地找到攻击者的最佳策略，但在后一种情况下，对于任意网络来说，这样做是一个NP完全问题。然而，对于一些简单的网络结构，如集团，星，树，我们表明，它是可能有效地找到双方球员的最佳策略。对于任意网络，我们研究和比较各种启发式策略的效率。与以前的作品没有或随机传染，我们发现，基于中心的防御往往是有效的，当攻击的传播是战略性的，特别是基于Shapley值的中心性措施。
2019-12-16 cs.CR cs.SI physics.soc-ph
A Diversity-based Substation Cyber Defense Strategy utilizing Coloring Games
本文提出了一种基于多样性的子站网络防御策略，通过使用图着色博弈来分配多样化的安全机制，以减少单一漏洞的重复性，提高子站电子安全围栏内网络资产的安全性。
2018-02-07 cs.CR cs.GT cs.SY
Bounded Reasoning: Cognitive Hierarchy in Human-versus-AI Cyber Defense
Rutgers University（罗格斯大学）
本研究通过攻击图上的序贯网络防御博弈，比较人类与自动化防御者，发现人类适应行为符合前景理论，且仅用平均分数评估会掩盖有界推理的差异。
2026-10-06 cs.CR cs.HC cs.LG
Meta Stackelberg Game: Robust Federated Learning against Adaptive and Mixed Poisoning Attacks
New York University（纽约大学）；Tulane University（杜兰大学）
本文将混合攻击下的对抗联邦学习建模为贝叶斯斯塔克尔伯格马尔可夫博弈，提出结合预训练与在线自适应的元强化学习防御，并证明其收敛性与实验优势。
2024-10-22 cs.CR cs.GT cs.LG
Game Theory Meets LLM and Agentic AI: Reimagining Cybersecurity for the Age of Intelligent Threats
Quanyan Zhu
本文探讨了博弈论、Agentic AI与网络安全的交叉点，提出利用LLM智能体将博弈论策略转化为实际防御决策，以应对智能威胁并构建安全自适应的网络系统。
2025-07-14 cs.AI cs.CR cs.CY
Game-Theoretic Defenses for Robust Conformal Prediction Against Adversarial Attacks in Medical Imaging
City University of Hong Kong（香港城市大学）；Huaiyin Institute of Technology（淮阴工学院）；Alpha Benito Research（阿尔法贝尼托研究所）
本文提出结合保形预测与博弈论防御的新框架，通过专门防御模型和零和博弈策略，有效应对医学影像中已知与未知对抗攻击，在保持高覆盖率的同时最小化预测集，提升模型鲁棒性。
2025-03-04 cs.CR cs.LG eess.IV
Toward Smart Moving Target Defense for Linux Container Resiliency
本文提出了一种用于云容器的通知移动目标防御机制ESCAPE。ESCAPE将攻击者和目标容器之间的交互建模为“捕食者寻找猎物”的搜索游戏。Linux容器（猎物）的实时迁移用于避免攻击（捕食者）和失败。整个过程由一个新型的基于主机的行为监控系统指导，该系统可以无缝监控容器的入侵和攻击迹象。为了评估ESCAPE的有效性，我们模拟了攻击回避过程的基础上，模仿的猎物与捕食者搜索游戏的数学模型。仿真结果表明，高集装箱生存概率与最小的额外开销。
2016-12-30 cs.CR
Securing NextG Systems against Poisoning Attacks on Federated Learning: A Game-Theoretic Solution
Virginia Tech（弗吉尼亚理工大学）；National Security Institute（国家安全研究所）；Commonwealth Cyber Initiative（联邦网络计划）
针对下一代通信联邦学习中的投毒攻击，本文提出博弈论主动防御机制，通过准入决策建模攻防交互，并在纳什均衡下量化双方性能界限，以保障系统安全。
2023-12-28 cs.AI cs.CR cs.DC
Designing an attack-defense game: how to increase robustness of financial transaction models via a competition
Skoltech（斯科尔科沃科学技术学院）；Open Data Science（开放数据科学机构）；Innotech（因诺科技公司）；Lomonosov Moscow State University（莫斯科罗蒙诺索夫国立大学）；Kazan Federal University（喀山联邦大学）；Kaspersky Lab（卡巴斯基实验室）；Zvuk（兹武克公司）
针对金融交易模型易受对抗攻击的问题，本文设计了一种参与者直接对立的攻防竞赛，通过真实条件下的攻防对抗来研究并提高模型鲁棒性，同时发布了带信用违约标签的新开放数据集。
2024-09-19 cs.CR cs.LG q-fin.ST
SoK: The Security-Safety Continuum of Multimodal Foundation Models through Information Flow and Global Game-Theoretic Analysis of Asymmetric Threats
CSIRO’s Data61（CSIRO数据61）；University of New South Wales（新南威尔士大学）；Johns Hopkins University（约翰斯·霍普金斯大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adelaide University（阿德莱德大学）；Responsible AI Research (RAIR) Centre, Adelaide University（阿德莱德大学负责任人工智能研究（RAIR）中心）
本文通过信息流和博弈论分析，探讨多模态基础模型的安全与安全性连续体，提出系统级防护优于模型级防护，并定义自我破坏阈值以触发终止机制。
2026-02-09 cs.CR
Cybersecurity AI: A Game-Theoretic AI for Guiding Attack and Defense
Alias Robotics；Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
本文提出G-CTR，一种基于博弈论的AI指导层，通过生成摘要引导攻击与防御行为，提升网络安全测试效率与成功率。
2026-01-09 cs.CR
Defending Jailbreak Prompts via In-Context Adversarial Game
University of Notre Dame（圣母大学）；INRIA（法国国家信息与自动化研究所）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）
针对大语言模型易受越狱攻击的安全问题，提出无需微调的上下文内对抗博弈（ICAG）方法，通过攻防智能体迭代优化动态增强防御，可显著降低多场景越狱成功率且具备跨模型迁移性。
2025-02-21 cs.CR cs.LG
Coordinated Multi-Domain Deception: A Stackelberg Game Approach
University of Texas at El Paso（德克萨斯大学埃尔帕索分校）；DEVCOM Army Research Laboratory（DEVCOM陆军研究实验室）
本文提出基于Stackelberg博弈的协同多领域欺骗方法，利用CVSS和CVE数据优化防御策略，通过多层欺骗提升防御效果。
2026-01-05 cs.CR
Game-Theoretic Modeling of Stealthy Intrusion Defense against MDP-Based Attackers
Johannes Kepler University Linz（林茨约翰内斯·开普勒大学）
本文提出基于博弈论的MDP攻击者隐蔽入侵防御建模，通过三种信息制度分析防御策略优化。
2026-03-10 cs.CR cs.GT
Learning to Defend by Attacking (and Vice-Versa): Transfer of Learning in Cybersecurity Games
Carnegie Mellon University（卡内基梅隆大学）；Social and Decision Sciences Department（社会与决策科学系）；dept. Social and Decision Sciences（社会与决策科学系）；dept. Software and Societal Systems（软件与社会系统系）
提出融合基于实例学习、心智理论与学习迁移的攻防双角色决策模型，以预测对手并提升网络防御效果。
2023-06-03 cs.AI cs.CR cs.LG
Beating Backdoor Attack at Its Own Game
Carnegie Mellon University（卡内基梅隆大学）；UC Berkeley（加州大学伯克利分校）；The Chinese University of Hong Kong（香港中文大学）
受后门攻击启发，提出注入非对抗性后门的防御框架，在数据预处理阶段抑制攻击者后门，无需修改标准训练流程，在多个基准上实现最先进防御效果且干净数据性能下降最低。
2025-04-05 cs.CR cs.CV cs.LG
Power Grid Defense Against Malicious Cascading Failure
试图破坏电网的对手可能会瞄准某些变电站和发电源，以启动级联故障，从而最大限度地增加无电客户的数量。当敌人有能力发动网络攻击时，这是一个特别重要的问题（即避免服务中断，遗留系统的存在等）。可能会妨碍安全。因此，防御者可以加强某些发电站的安全态势，但可能缺乏时间和资源来为整个电网做到这一点。我们将电网建模为一个图，并引入级联故障游戏，其中防御者和攻击者都选择一个子集的发电站，如最小化（最大化）的消费者的数量有机会获得生产商的电力。我们将问题形式化，以识别双方的混合策略和确定性策略，证明各种不同场景下的复杂性结果，识别易于处理的案例，并开发这些问题的算法。我们还进行了实验评估的模型和游戏在现实世界的电网网络。从经验上讲，我们注意到，游戏有利于攻击者，因为他比防御者从增加的资源中获得更多利益。此外，极大极小防御产生大致相同的预期收益作为一个易于计算的确定性负载为基础的（DLB）防御时，发挥对极大极小攻击策略。然而，当攻击者对DLB的最佳反应时，DLB的表现比极小极大防御更差。这可能是由于存在低负载但高回报的节点，我们也在实证分析中发现了这一点。
2014-01-06 cs.CR cs.MA physics.soc-ph
A Receding-Horizon MDP Approach for Performance Evaluation of Moving Target Defense in Networks
在本文中，我们研究的问题评估的有效性的主动防御检测策略与基于网络的移动目标防御。我们使用概率攻击图-图形安全模型对网络系统进行建模。对于一个具有主动防御策略的网络系统，智能攻击者需要反复进行侦察，以了解入侵检测系统的位置，并重新进行最佳规划，以达到目标，同时避免检测。为了计算攻击者的安全评估策略，我们开发了一个滚动时域规划算法，使用风险敏感的马尔可夫决策过程与时变的奖励函数。最后，我们在一个合成网络中实现了防御和攻击策略，并分析了网络随机化的频率和检测系统的数量如何影响攻击者的成功率。这项研究为设计主动防御策略以抵御足智多谋的攻击者的在线和多阶段攻击提供了见解。
2020-07-09 cs.CR cs.GT
Detecting RAG Extraction Attack via Dual-Path Runtime Integrity Game
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）；School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络空间安全学院）；Beijing University of Post and Telecommunications（北京邮电大学）；Stanford University（斯坦福大学）；North China Electric Power University（华北电力大学）；AI Sec Lab, Beijing Chaitin Technology Co.,Ltd（北京长亭科技有限公司AI安全实验室）
本文提出CanaryRAG，一种基于栈canary的运行时防御机制，通过双路径完整性游戏实时检测RAG知识库泄露，有效降低攻击成功率，不影响任务性能和延迟。
2026-04-12 cs.AI cs.CL cs.CR
Resource-Aware Intrusion Detection in Infrastructure Networks: A Game-Theoretic Approach
Arizona State University（亚利桑那州立大学）；Delaware State University（特拉华州立大学）；DEVCOM Army Research Laboratory（DEVCOM陆军研究实验室）
本文针对基础设施网络入侵检测的资源受限问题，将攻防互动建模为图安全博弈，开发算法求解均衡，为资源分配提供策略支撑。
2026-08-10 cs.CR cs.GT
PoolFlip: A Multi-Agent Reinforcement Learning Security Environment for Cyber Defense
Dartmouth College（达特茅斯学院）；Northeastern University（东北大学）
本文提出PoolFlip多智能体环境与Flip-PSRO方法，利用种群训练提升防御智能体对未知自适应攻击的泛化能力，实验表明其效果为基线2倍。
2025-08-27 cs.AI cs.CR cs.LG
Partially Observable Games for Secure Autonomy
California Institute of Technology（加州理工学院）；Jet Propulsion Laboratory, California Institute of Technology（加州理工学院喷气推进实验室）
在过去的十年里，自主和网络防御的技术开发工作一直在相互独立地发展。在本文中，我们报告我们正在努力将这两个目前不同的领域整合到一个单一的框架。为此，我们提出了两个球员的部分可观察的随机博弈形式主义，以捕捉高层次的自主任务规划下的不确定性和对抗性决策的不完美信息。我们表明，在有限记忆的假设下，自主决策者和网络对手的合成次优策略，这样的游戏是可能的。然后，我们描述了一个实验测试平台，以评估所提出的框架的有效性。
2020-02-05 cs.AI cs.CR cs.FL
When to Invest in Security? Empirical Evidence and a Game-Theoretic Approach for Time-Based Security
时机博弈的目的是确定最佳防御策略，以对抗具有以隐形方式破坏系统的技术能力的战略攻击者。出现的关键问题是攻击何时发生，以及何时应启动防御性移动以将系统资源重置为已知的安全状态。在我们的工作中，我们研究了一个更复杂的场景，称为基于时间的安全性，其中我们结合了三个主要概念：保护时间，检测时间和反应时间。保护时间表示攻击者成功执行攻击所需的时间。换句话说，保护时间代表系统对攻击的固有弹性。检测时间是防御者检测到系统被破坏所需的时间。反应时间是防御者重置防御机制以重新创建安全系统状态所需的时间。在本文的第一部分中，我们研究了VERIS社区数据库（VCDB）并筛选了其他数据源，以深入了解安全事件和响应的实际时间。虽然我们能够获得有关安全漏洞时间的一些因素的分布，但我们评估了收集时间相关数据的最新技术水平。在本文的第二部分中，我们提出了一个两个玩家的游戏，它捕获了概述的基于时间的安全的情况下，两个玩家根据一个周期性的策略移动。我们仔细地开发了由此产生的支付函数，并提供定理和数值结果，以帮助防御者计算最佳的时间来重置防御机制，考虑保护时间，检测时间和反应时间。
2017-06-06 cs.CR
Backdoor defense, learnability and obfuscation
Alignment Research Center
本文通过攻防博弈定义后门可防御性，证明其与可学习性关联：计算无界时由VC维决定，有界时高效PAC可学习性蕴含高效可防御性，多项式电路不可高效防御，决策树防御比学习易，确定其为两者间中间概念。
2024-11-18 cs.AI cs.CR cs.LG
Optimal Attack and Defense for Reinforcement Learning
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
论文针对强化学习中的在线操纵攻击，提出用 meta-MDP 刻画最优攻击，并将最优防御建模为可转化为 POTBSG 的随机 Stackelberg 博弈，证明多种场景下攻防策略均可多项式时间或样本复杂度求解。
2024-06-17 cs.CR cs.GT cs.LG
Quantitative Models of Imperfect Deception in Network Security using Signaling Games with Evidence
欺骗在通信和网络安全的许多交互中起着关键作用。被称为“廉价谈话信号游戏”的博弈论模型捕捉了欺骗性互动的动态和信息不对称性质。但信号游戏本质上是模仿不可察觉的欺骗。在本文中，我们研究了一个信号博弈模型，在该模型中，接收方可以检测到欺骗与一定的概率。该模型嵌套传统的信号博弈和完全信息Stackelberg博弈作为特例。我们提出了纯策略完美贝叶斯纳什均衡的游戏。然后，我们说明这些分析结果与应用程序的主动网络防御。证据的存在迫使大多数人采取诚实的行为，并消除了一些纯策略均衡。它总是有利于被欺骗的玩家，但令人惊讶的是，有时也有利于欺骗的玩家。
2017-10-16 cs.CR
