A Quantal Response Analysis of Defender-Attacker Sequential Security Games
本文研究双站点防御者-攻击者序贯安全博弈中防御者有限理性对安全投资的影响,通过量子响应均衡分析行为偏差,并量化其相对于无偏差最优解的低效性。
2024-08-02 cs.CR cs.GT cs.SY
Defending Against Intelligent Attackers at Large Scales
该研究在AI影响网络安全的背景下,从数学角度分析了当攻击智能体具备独立学习与创造能力时攻击规模的影响,发现防御数量或质量的少量提升即可抵消独立攻击的指数级增长与加速。
2025-04-22 cs.CR cs.CY
GLST: Defending Confidence-Driven V2X Collaborative Perception Against Stealthy Multi-Attacker Feature Injection
School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院)
研究针对置信驱动的V2X协同感知的安全问题,提出伪装良性攻击利用空间置信机制降低检测性能。发现现有基于信任的防御弱点,进而提出GLST通过多视角评估协作者可靠性,实验表明其在多攻击者场景下鲁棒性强,对多种攻击有效。
2026-07-28 cs.CR
Hijacking .NET to Defend PowerShell
随着近几个月来使用PowerShell的攻击的增加,还没有一个全面的监控或预防解决方案。微软最近发布了PowerShell v5的AMSI解决方案,但这也可以被绕过。本文的重点是重新利用各种针对PowerShell攻击实施的隐形运行时.NET劫持技术,以实现对PowerShell的防御性监控。它首先简要介绍了.NET和PowerShell,然后深入解释了各种攻击者技术,从防御者的角度进行了解释,包括汇编修改,类和方法注入,编译器分析和基于C的函数挂钩。在四种攻击者技术中,中间语言二进制修改、JIT挂钩和机器码操作为PowerShell脚本分析的隐形运行时接口提供了最佳结果。
2017-09-21 cs.CR
Plan Interdiction Games
我们提出了一个框架,网络风险评估和缓解模型的攻击者作为正式的规划者和防御者作为拦截这些计划。我们通过使用正式的规划,首先建模网络网络风险,然后正式确定优先漏洞修补计划阻断框架中的一个重要问题,说明了计划阻断问题的价值。特别是,我们表明,选择性地修补相对较少的漏洞允许网络管理员,以显着降低暴露于网络风险。更广泛地说,我们已经开发了一些可扩展的方法计划阻断问题,特别是重大进展时,攻击计划涉及系统动态的不确定性。然而,重要的开放问题仍然存在,包括如何有效地捕捉攻击者和防御者之间的信息不对称,如何最好地建模动态的攻击者-防御者的互动,以及如何开发可扩展的算法来解决相关的计划阻断游戏。
2018-11-15 cs.CR
Defending Against Malicious Reorgs in Tezos Proof-of-Stake
区块链的目的是不可变的,因此能够通过链重组(恶意重组)删除交易的攻击者可以执行有利可图的双重花费攻击。我们研究了攻击者可以在Tezos权益证明协议中执行reorgs的速率。例如,具有40%的抵押权的攻击者能够以平均每天一次的速度执行20个块的恶意重组,并且随着抵押权增长超过40%,攻击概率超线性地增加。此外,Tezos协议的攻击者提前知道何时会出现攻击机会,并可以使用此知识来安排交易以进行双重花费。我们表明,在特定情况下,Tezos协议可以进行调整,以防止深度reorgs。例如,我们证明了协议参数,减少了两个数量级的长度为20重组机会的40%的攻击者。我们还观察到优化深度重新组织的鲁棒性(可能是净利润的昂贵偏差,因为它们可以实现双重支出)和自私挖掘的鲁棒性(即使没有双重支出,通常也会导致短期重新组织的挖掘偏差)之间的权衡。也就是说,能够最好地抵御一种攻击的参数会使另一种攻击变得容易。最后,我们开发了一种方法,仅使用公开可用的信息来监控Tezos区块链的健康状况。
2020-09-11 cs.CR
A Defender-Attacker-Defender Model for Optimizing the Resilience of Hospital Networks to Cyberattacks
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
提出 defender-attacker-defender 模型以优化医院网络对 cyberattacks 的韧性,通过捕捉医院服务与 IT 基础设施的相互依赖性,评估主动和反应策略,验证基于德国医院网络的关键策略。
2026-01-16 cs.CR math.OC
Chi-MERA: Defending Orbit-Based Authentication of LEO Satellites with the Space Oddity of MLAT (Long Version)
RPTU Kaiserslautern-Landau(莱茵兰-普法尔茨技术大学凯泽斯劳滕-兰道);armasuisse Switzerland(瑞士国防部)
研究低地球轨道卫星认证方案易受多设备攻击者攻击问题,提出Chi-MERA方案,利用多边定位和新弹性签名方案,经实验和模拟验证,该方案能有效提高认证性能,防御呈线性扩展,降低误报率和误拒率。
2026-07-28 cs.CR
How Generative AI Empowers Attackers and Defenders Across the Trust & Safety Landscape
Google(谷歌);CSU Long Beach(加州州立大学长滩分校);Google Research(谷歌研究院)
本文通过43名专家的质性研究,探讨生成式AI在信任与安全领域对攻击者和防御者的影响,揭示其在提升攻击规模与速度的同时,也为防御方提供了检测有害内容、调查取证等新手段。
2026-04-22 cs.CR cs.CY cs.HC
Scalable Edge Blocking Algorithms for Defending Active Directory Style Attack Graphs
Active Directory(AD)是Windows域网络的默认安全管理系统。AD环境自然地描述了攻击图,其中节点表示计算机/帐户/安全组,并且边表示允许攻击者从一个节点获得对另一个节点的访问的现有访问/已知利用。受实际AD用例的启发,我们研究了一个攻击者和一个防御者之间的Stackelberg游戏。有多个入口节点供攻击者选择,并且有一个目标(域管理员)。每条边都有失败率。攻击者选择成功率最大的攻击路径。防守者可以阻挡有限数量的边(即,撤销访问)。防御者的目标是最小化攻击者的成功率。我们利用实际AD图的树状性来设计可扩展的算法。我们提出了两种新的方法,结合理论的固定参数分析和实际的优化技术。对于树宽度较小的图,我们提出了一个基于树分解的动态规划。然后,我们提出了一个通用的方法转换树分解为基础的动态程序的强化学习环境,这导致了一个随时算法,规模更好,但失去了最优性保证。对于具有少量非分裂路径的图(我们专门为AD图发明的参数),我们提出了一种核化技术,该技术可以显着缩小模型,然后通过混合整数规划来解决。实验上,我们的算法可以扩展到处理具有数万个节点的合成AD图。
2022-12-02 cs.CR cs.GT
Synthesis of Proactive Sensor Placement In Probabilistic Attack Graphs
研究了移动目标联合防御(MTD)和欺骗对抗多阶段网络攻击的部署问题。给定系统配备MTD,在不同的配置之间进行随机化,我们研究如何在每个配置中分配有界数量的传感器,以优化攻击检测率之前,攻击者实现其目标。具体而言,两种类型的传感器被认为是:入侵检测器,可观察到的攻击者和隐形传感器,是不可观察的攻击者。我们提出了一个基于两步优化的方法来分配入侵检测器和隐身传感器:首先,防御者分配入侵检测器,假设攻击者将最好地响应,以逃避入侵检测器的检测。其次,防御者将根据第一步计算出的最佳响应攻击策略分配隐形传感器,以进一步降低攻击者的成功机会。我们说明了所提出的方法的有效性,使用网络防御的例子。
2022-10-13 cs.CR
Asymptotic Security by Model-based Incident Handlers for Markov Decision Processes
本研究探讨一般模型为基础的事件处理器的渐近行为在时间上对网络攻击的控制系统。攻击者和防御者的动态决策被建模为一个动态信号博弈的均衡。它表明,防御者的信念存在的攻击者收敛于任何攻击者的策略,只要随机动态的控制系统是已知的防御者随着时间的推移。这一事实意味着,只要防御者拥有有效的对抗,攻击者的理性行为就会收敛为无害的行动。所得到的结果支持了基于模型的防御机制所实现的强大的保护能力。
2021-03-24 cs.CR cs.GT cs.SY
Bad Data Injection Attack and Defense in Electricity Market using Game Theory Study
网络技术的应用提高了智能电网的监测和决策质量。这些网络技术容易受到恶意攻击,破坏它们可能会带来严重的技术和经济问题。本文详细说明了妥协的影响,每个测量的电价,使攻击者能够改变价格在所需的方向(增加或减少)。攻击者和防御者分别不可能攻击和防御所有测量。这种情况被建模为攻击者和防御者之间的零和博弈。游戏定义了攻击者和防御者分别喜欢攻击和防御不同测量的时间比例。基于PJM 5总线测试系统的仿真结果表明了所研究的博弈的有效性和性质。
2012-10-10 cs.CR cs.GT stat.AP
Defending Hardware-based Malware Detectors against Adversarial Attacks
在物联网(IoT)时代,恶意软件在过去十年中呈指数级增长。传统的防病毒软件对现代复杂的恶意软件无效。为了应对这一挑战,研究人员提出了使用硬件性能计数器(HPC)的硬件辅助恶意软件检测(HMD)。HPC用于训练一组机器学习(ML)分类器,这些分类器又用于区分良性程序和恶意软件。最近,对抗攻击已经通过使用对抗样本预测器在HPC迹线中引入扰动来设计,以将程序错误分类为特定HPC。这些攻击的设计基本假设是攻击者知道HPC用于检测恶意软件。由于现代处理器由数百个HPC组成,因此仅限制其中几个用于恶意软件检测有助于攻击者。在本文中,我们提出了一个移动目标防御(MTD),这种对抗攻击通过设计多个ML分类器上训练不同的HPC集。MTD随机选择一个分类器;因此,使攻击者对HPC或应用的分类器数量感到困惑。我们已经开发了一个分析模型,证明了攻击者猜测MTD的完美HPC-分类器组合的概率非常低(对于具有20个HPC的系统,在$10^{-1864}$的范围内)。我们的实验结果证明,所提出的防御能够提高HPC痕迹的分类精度,这些痕迹通过对抗性样本生成器进行了修改,最高可达31.5%,几乎完美(99.4%)恢复了原始精度。
2020-07-26 cs.CR
Learning Near-Optimal Intrusion Responses Against Dynamic Attackers
KTH Royal Institute of Technology(KTH皇家理工学院);KTH Center for Cyber Defense and Information Security(KTH网络防御与信息安全中心)
本文将攻防交互建模为最优停止博弈,提出 T-FP 算法学习近最优防御策略以应对动态攻击者,并在仿真与仿真系统中验证其优于现有算法。
2023-04-14 cs.CR cs.GT cs.LG
Co-Evolutionary Defence of Active Directory Attack Graphs via GNN-Approximated Dynamic Programming
CSIRO’s Data61(澳大利亚联邦科学工业研究组织数据61);Cyber Security Cooperative Research Centre (CSCRC)(网络安全合作研究中心);The University of Adelaide(阿德莱德大学)
针对 AD 中自适应攻击者导致静态防御失效的问题,提出基于 GNNDP、EDO 与 FPT 图归约的协同进化 Stackelberg 防御框架,并在合成攻击图上验证其近最优性与可扩展性。
2025-10-20 cs.CR
ISSF: The Intelligent Security Service Framework for Cloud-Native Operation
针对AI增强下云原生攻防的动态安全问题,本文基于多智能体深度强化学习提出ISSF框架,建模环境与攻防行动,并支持智能安全服务的训练、发布、评估和定量基准测试。
2024-03-03 cs.CR
GTI-mSEMP Framework : A Proposed Framework to Simulate Malware Propagation with Inclusion of Attacker-Defender Strategy
Capitol Technology University(卡皮托尔技术大学);Shadeeb Engineering Lab, Research Division(Shadeeb工程实验室研究部)
提出GTI-mSEMP框架,结合博弈论改进多无线传感器流行病模型,分析攻击者与防御者策略对恶意软件传播的影响,通过数值模拟揭示不同对抗场景下的传播动态。
2026-11-05 cs.CR cs.GT cs.NI
CyGATE: Game-Theoretic Cyber Attack-Defense Engine for Patch Strategy Optimization
National University of Singapore(新加坡国立大学);Nanyang Technological University(南洋理工大学);Queen's University Belfast(女王大学贝尔法斯特分校)
针对现有网络攻防博弈方法静态假设多、适配性不足的问题,提出结合LLM与RAG的CyGATE博弈论框架,将攻防建模为POSG,可动态优化补丁优先级,适配多类场景。
2025-08-01 cs.AI cs.CR
Does AI Help Cyber Attackers or Defenders? Evidence from Nonpublic Vulnerabilities and Subsequent Attacks
XOR;Protege;CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本研究通过非公开漏洞环境评估 AI 模型在漏洞利用与修复上的能力,发现不同系统表现差异显著,且初始防御成功不足以阻止后续攻击,强调需进行漏洞特定的攻击-修复比较与后续抵抗测试。
2026-10-06 cs.AI cs.CR
Defending against Machine Learning based Inference Attacks via Adversarial Examples: Opportunities and Challenges
Duke University(杜克大学)
随着机器学习(ML)变得越来越强大且易于访问,攻击者越来越多地利用ML在各个领域执行自动化的大规模推理攻击。在这种配备ML的推理攻击中,攻击者可以访问个人、软件或系统的某些数据(称为公共数据);并且攻击者使用ML分类器来自动推断其私有数据。推理攻击对个人和系统构成严重的隐私和安全威胁。推理攻击之所以成功,是因为私有数据与公共数据在统计上相关,而ML分类器可以捕获这种统计相关性。在本章中,我们将讨论通过对抗性示例防御ML装备的推理攻击的机会和挑战。我们的关键观察是,攻击者在推理攻击中依赖ML分类器。对抗性机器学习社区已经证明了ML分类器有各种漏洞。因此,我们可以将ML的漏洞转化为对推理攻击的防御。例如,ML分类器很容易受到对抗性示例的影响,这些示例会向正常示例添加精心制作的噪音,以便ML分类器按照我们的期望对示例进行预测。为了防御推理攻击,我们可以在公共数据中添加精心制作的噪音,将它们变成对抗性的例子,这样攻击者的分类器就会对私有数据做出错误的预测。然而,现有的构建对抗性示例的方法是不够的,因为它们没有考虑到在防御推理攻击时对精心制作的噪声的独特挑战和要求。在本章中,我们以在线社交网络中的推理攻击防御为例来说明机遇和挑战。
2019-09-19 cs.CR cs.LG stat.ML
Widen The Backdoor To Let More Attackers In
University of Oxford(牛津大学)
随着协作学习和数据汇集外包变得越来越普遍,试图操纵学习过程的恶意行为者(或代理人)在相互竞争时面临额外的障碍。在后门攻击中,对手试图通过将恶意样本引入训练数据来毒害模型,对手必须考虑到额外后门攻击者的存在可能会阻碍他们自己的后门的成功。在本文中,我们研究了多代理后门攻击的场景,其中多个非合谋攻击者在共享数据集中制作并插入触发样本,该数据集由模型(防御者)用于学习任务。我们发现了一个明显的逆火现象:增加攻击者的数量减少了每个攻击者的攻击成功率(ASR)。然后,我们利用这种现象来最大限度地减少攻击者的集体ASR,并通过(i)人工增加攻击者的数量,以及(ii)索引以从模型中删除攻击者的子数据集进行推理,从而最大限度地提高防御者的鲁棒性准确性,从而提出2种防御方法。
2021-10-09 cs.CR cs.LG
Resource-Aware Intrusion Detection in Infrastructure Networks: A Game-Theoretic Approach
Arizona State University(亚利桑那州立大学);Delaware State University(特拉华州立大学);DEVCOM Army Research Laboratory(DEVCOM陆军研究实验室)
本文针对基础设施网络入侵检测的资源受限问题,将攻防互动建模为图安全博弈,开发算法求解均衡,为资源分配提供策略支撑。
2026-08-10 cs.CR cs.GT
Defending against adversarial attacks by randomized diversification
University of Geneva(日内瓦大学)
机器学习系统对对抗攻击的脆弱性质疑它们在许多应用中的使用。在本文中,我们提出了一个随机多样化的防御策略。我们介绍了一个多通道的架构,在灰盒的情况下,假设架构的分类器和训练数据集是已知的攻击者。攻击者不仅可以访问秘密密钥和测试时系统的内部状态。防御者在多个通道中处理输入。每个通道基于在训练和测试阶段之间共享的秘密密钥在特殊变换域中引入其自己的随机化。这种基于变换的随机化与共享密钥为防御者保留了密钥定义的子空间中的梯度,但它防止了梯度反向传播和为攻击者创建各种旁路系统。多通道随机化的另一个好处是聚合融合了所有通道的软输出,从而提高了最终分数的可靠性。秘密密钥的共享为防御者创造了信息优势。实验评估表明,所提出的方法的鲁棒性增加了一些已知的国家的最先进的攻击。
2019-04-01 cs.CR cs.LG stat.ML
Toward a Theory of Cyber Attacks
我们提供了一个一般的方法来分析防御者-攻击者为基础的“游戏”,在其中,我们模拟这样的游戏马尔可夫模型,并引入一个容量区域来分析防御和对抗策略如何影响安全。这样的框架允许我们分析在什么样的条件下我们可以证明以下形式的陈述(关于攻击目标$k$):“如果攻击者有时间预算$T_{bud}$,那么攻击者可以到达攻击目标$\geq k$的概率最多为$poly(T_{bud})negl(k)$”。我们感兴趣的是这种严格的密码安全保证(描述最坏情况的保证),因为这些阐明了防御者的策略的要求,以防止越来越多的攻击的进展,在防御者的策略的“学习率“方面。我们解释了攻击者可以实现的“遏制参数”描述的最大达到的攻击目标在一个特定的时间窗口内的损害。
2019-01-06 cs.CR cs.GT
Two Can Play That Game: An Adversarial Evaluation of a Cyber-alert Inspection System
University of Michigan(密歇根大学);Army Research Lab(陆军研究实验室)
网络安全是一个重要的社会问题。网络攻击的数量和每次攻击造成的破坏程度都有所增加。大型组织运营着网络安全运营中心(CSOC),构成了网络防御的第一道防线。检查网络警报是CSOC业务的一个关键部分。最近与美国陆军研究实验室合作的一项工作提出了一种基于强化学习(RL)的方法,以防止网络警报队列长度变大并压倒防御者。鉴于这种方法可能部署到美国国防机构运营的CSOC,我们对这种方法进行了红队(对抗性)评估。此外,随着最近对学习系统的攻击,测试这种RL方法的局限性变得更加重要。为此,我们学习了对抗警报生成策略,该策略是对防御者检查策略的最佳响应。令人惊讶的是,我们发现防御者的政策是相当强大的攻击者的最佳对策。为了解释这一观察结果,我们将早期的RL模型扩展到一个博弈模型,并表明存在防御者策略,可以对任何对抗性策略都具有鲁棒性。我们还从博弈论模型中推导出一个竞争基线,并将其与RL方法进行比较。然而,我们进一步利用RL模型中的MDP中的假设,并发现攻击者策略可以攻击防御者。我们使用一个双预言的方法来重新训练的防御者从这个发现的攻击者政策的插曲。这使得防御者对发现的攻击者策略具有鲁棒性,并且没有发现进一步的有害攻击者策略。总体而言,对抗性强化学习和强化学习中的双预言方法是适用于对抗性环境中其他强化学习使用的通用技术。
2018-10-13 cs.AI cs.CR cs.GT
Adaptive Adversaries: A Multi-Turn, Multi-LLM Benchmark for LLM Agent Security
Lambda
该研究提出针对无记忆大语言模型防御者的自适应多轮攻击的21场景基准测试,通过观察防御者响应灵活调整攻击。介绍了不同攻击轮次成功率,汇集多个前沿攻击者大语言模型的情况,还指出不同防御者弱点差异及场景排名不一致性,并发布了相关基准测试及数据集。
2026-09-15 cs.AI cs.CR cs.LG
DeepC2: AI-powered Covert Command and Control on OSNs
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);Cyberspace Institute of Advanced Technology, Guangzhou University(广州大学网络空间先进技术研究院)
指挥和控制(C&C)在攻击中非常重要。它将攻击者的命令传输给受感染主机中的恶意软件。目前,一些攻击者在C&C任务中使用在线社交网络(OSN)。OSN上的C&C存在两个主要问题。首先,恶意软件找到攻击者的过程是可逆的。如果防御者分析了恶意软件样本,攻击者将在发布命令之前暴露。第二,明文或加密形式的命令被OSN视为异常内容,这将引起异常并触发对攻击者的限制。防御者一旦暴露就可以限制攻击者。在这项工作中,我们提出了DeepC2,一个基于人工智能的C&C on OSN,来解决这些问题。对于可逆硬编码,恶意软件使用神经网络模型找到攻击者。攻击者的化身被转换成一批特征向量,防御者无法使用模型和特征向量预先恢复化身。为了解决OSN上的异常内容,使用哈希冲突和文本数据增强将命令嵌入到正常内容中。在Twitter上的实验表明,嵌入命令的推文可以有效地生成。恶意软件可以在OSN上隐蔽地找到攻击者。安全分析表明,很难提前恢复攻击者的标识符。
2022-06-30 cs.AI cs.CR
Learning to Defend by Attacking (and Vice-Versa): Transfer of Learning in Cybersecurity Games
Carnegie Mellon University(卡内基梅隆大学);Social and Decision Sciences Department(社会与决策科学系);dept. Social and Decision Sciences(社会与决策科学系);dept. Software and Societal Systems(软件与社会系统系)
提出融合基于实例学习、心智理论与学习迁移的攻防双角色决策模型,以预测对手并提升网络防御效果。
2023-06-03 cs.AI cs.CR cs.LG
Semi-supervised Conditional GAN for Simultaneous Generation and Detection of Phishing URLs: A Game theoretic Perspective
网络钓鱼是一种网络攻击,攻击者通过电子邮件发送超链接到经过充分研究的目标。目的是通过模仿自己作为一个值得信赖的网站来获取敏感信息。近年来,深度学习已成为防御此类攻击的标准。然而,这些架构在设计时只考虑了防御。此外,在创建此类模型时,攻击者的观点和动机是不存在的。为了解决这个问题,我们需要一种博弈论的方法来理解攻击者(黑客)和防御者(网络钓鱼URL检测器)的观点。我们提出了一个具有新颖训练策略的条件生成对抗网络,用于实时网络钓鱼URL检测。此外,我们以半监督的方式训练我们的架构,以区分对抗性和真实示例,以及检测恶意和良性URL。我们还设计了两个游戏之间的攻击者和防御者在训练和部署设置,利用博弈论的角度。我们的实验证实,所提出的架构超越了最近的国家的最先进的体系结构的钓鱼网址检测。
2022-11-16 cs.CR cs.GT
Asymptotic Security using Bayesian Defense Mechanism with Application to Cyber Deception
本文将攻防动态决策建模为随机信号博弈,证明贝叶斯防御机制在均衡下可渐近识别攻击或迫使系统恢复正常,并据此提出漏洞非对称认知下的防御性欺骗方法。
2023-12-07 cs.CR cs.GT cs.SY
Defending Against Advanced Persistent Threats using Game-Theory
高级持续性威胁(APT)结合了从社会工程到技术漏洞等各种不同的攻击形式。APT的多样性和通常的隐蔽性使其成为当代实际系统安全的中心问题,因为关于攻击、当前系统状态或攻击者动机的信息通常是模糊的、不确定的,并且在许多情况下甚至是不可用的。博弈论是一种自然的方法来模拟攻击者和防御者之间的冲突,这项工作研究了一个广义的矩阵游戏类作为风险缓解工具的APT防御。与标准的博弈和决策理论不同,我们的模型是定制的,以捕捉和处理APT不可分割的全部不确定性,例如定性专家风险评估之间的分歧,未知的对抗性激励和当前系统状态的不确定性(就攻击者可能已经渗透到系统的保护壳有多深而言)。实际上,博弈论APT模型可以直接从拓扑脆弱性分析中推导出来,同时进行风险评估,因为它们是在ISO 31000系列等常见风险管理标准中完成的。从理论上讲,这些模型与经典博弈论模型相比具有不同的属性,其在这项工作中提出的技术解决方案可能具有独立的兴趣。
2022-05-02 cs.CR cs.GT
MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples
Duke University(杜克大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
在成员推断攻击中,攻击者旨在推断数据样本是否在目标分类器的训练数据集中。具体地,给定对目标分类器的黑盒访问,攻击者训练二元分类器,该二元分类器将由目标分类器预测的数据样本的置信度得分向量作为输入,并预测数据样本是目标分类器的训练数据集的成员或非成员。成员推断攻击对训练数据集构成严重的隐私和安全威胁。大多数现有的防御措施在训练目标分类器时利用差分隐私或规则化目标分类器的训练过程。这些防御受到两个关键限制:1)它们没有置信度得分向量的正式效用损失保证,以及2)它们实现了次优的隐私效用权衡。在这项工作中,我们提出MemGuard,第一个防御正式效用损失保证黑盒成员推断攻击。MemGuard不会篡改目标分类器的训练过程,而是向目标分类器预测的每个置信度得分向量添加噪声。我们的关键观察是,攻击者使用分类器来预测成员或非成员,分类器容易受到对抗性示例的影响。基于观察结果,我们建议将精心制作的噪声向量添加到置信度得分向量中,将其转化为误导攻击者分类器的对抗性示例。我们在三个数据集上的实验结果表明,MemGuard可以有效地抵御成员推断攻击,并实现更好的隐私效用权衡比现有的防御。我们的工作是第一个显示对抗性的例子可以被用作防御机制,以抵御成员推断攻击。
2019-12-18 cs.CR cs.LG
Trapping Attacker in Dilemma: Examining Internal Correlations and External Influences of Trigger for Defending GNN Backdoors
The Chinese University of Hong Kong(香港中文大学);Sun Yat-Sen University(中山大学)
本文提出PRAETORIAN方法,通过分析触发器子图的内部关联和外部节点影响,有效降低GNN后门攻击成功率,同时保持高清洁准确率。
2026-05-14 cs.AI cs.CR cs.LG
Learning Generative Deception Strategies in Combinatorial Masking Games
Washington University(华盛顿大学);Army Research Laboratory(陆军研究实验室);University of Texas, Dallas(德克萨斯大学达拉斯分校)
欺骗是网络防御中的一个重要工具,使防御者能够利用其信息优势来降低成功攻击的可能性。欺骗的一种方式是通过模糊或掩盖一些关于系统如何配置的信息,增加攻击者对其目标的不确定性。我们提出了一种新的博弈论模型,由此产生的防御者-攻击者的相互作用,防御者选择一个子集的属性来屏蔽,而攻击者通过选择一个漏洞来执行。两个参与者的策略都具有复杂信息依赖的组合结构,因此即使表示这些策略也不是微不足道的。首先,我们证明了计算零和防御者-攻击者博弈的平衡的问题可以表示为一个线性规划与系统配置变量和约束的组合数,并开发了一个约束生成方法来解决这个问题。接下来,我们提出了一种新的高度可扩展的方法来近似解决这样的游戏,代表双方球员的策略作为神经网络。其关键思想是使用深度神经网络生成器来表示防御者的混合策略,然后使用交替梯度下降上升算法,类似于生成对抗网络的训练。我们的实验,以及案例研究,证明了所提出的方法的有效性。
2022-06-17 cs.AI cs.CR cs.GT
Learning About Simulated Adversaries from Human Defenders using Interactive Cyber-Defense Games
本文提出使用对抗算法和交互式网络防御游戏(IDG)研究防御者学习策略,发现参与者能学会预判Beeline对手并增加主动防御,为加速网络安全分析师训练提供了启示。
2023-04-03 cs.CR cs.HC
Fine-Pruning: Defending Against Backdooring Attacks on Deep Neural Networks
New York University(纽约大学)
深度神经网络(DNN)在广泛的分类任务中提供出色的性能,但其训练需要大量的计算资源,并且通常外包给第三方。最近的研究表明,外包训练引入了一种风险,即恶意训练者将返回一个后门DNN,该DNN在大多数输入上表现正常,但在存在只有攻击者才知道的触发器时,会导致有针对性的错误分类或降低网络的准确性。在本文中,我们提供了第一个有效的防御后门攻击的DNN。我们实现了三个后门攻击从以前的工作,并使用它们来调查两个有前途的防御,修剪和微调。我们表明,两者本身都不足以抵御复杂的攻击者。然后,我们评估了精细修剪,修剪和微调的组合,并表明它成功地削弱甚至消除了后门,即,在某些情况下,将攻击成功率降低到0%,对于干净(非触发)输入,准确度仅下降0.4%。我们的工作为防御深度神经网络中的后门攻击迈出了第一步。
2018-05-30 cs.CR cs.LG
An Adversarial Attack Defending System for Securing In-Vehicle Networks
University of South Florida(南佛罗里达大学)
在现代汽车中,有70多个电子控制单元(ECU)。对于车载网络,ECU通过遵循标准通信协议(例如控制器局域网(CAN))相互通信。但是,攻击者可以通过WLAN或蓝牙轻松访问车载网络,从而危及ECU。虽然有各种各样的深度学习(DL)方法被建议用于保护车载网络,但最近对对抗性示例的研究表明,攻击者可以很容易地欺骗DL模型。在这项研究中,我们进一步探索了车载网络中的对抗性示例。我们首先发现并实现了两个对抗攻击模型,它们对车载网络中使用的基于长短期记忆(LSTM)的检测模型有害。然后,我们提出了一个对抗攻击防御系统(AADS),用于保护车载网络。具体而言,我们专注于车载网络中与制动相关的ECU。我们的实验结果表明,对手可以很容易地攻击基于LSTM的检测模型的成功率超过98%,所提出的AADS实现了超过99%的准确率检测对抗攻击。
2020-08-29 cs.CR cs.LG
A Game-Theoretic Approach to Information-Flow Control via Protocol Composition
在定量信息流(QIF)研究的推理攻击中,攻击者通常试图干扰系统,试图增加其秘密信息的泄漏。另一方面,防御者通常试图通过引入一些受控噪声来减少泄漏。这种噪声引入可以被建模为一种类型的协议组成,即,不同协议之间的概率选择,其对泄漏量的影响在很大程度上取决于攻击者是否可以看到这种选择。在这项工作中,我们考虑运营商建模的可见和隐藏的选择协议组合,我们研究了它们的代数性质。然后,我们正式的防御者和攻击者之间的相互作用,在一个博弈论的框架,适应QIF的具体问题,其中的回报是信息泄漏。我们考虑各种泄漏游戏,这取决于玩家是同时行动还是顺序行动,以及防御者的选择是否对攻击者可见。在序贯博弈的情况下,第二个博弈者的选择通常是第一个博弈者选择的函数,他/她的概率选择可以是在可能的函数上(混合策略),也可以是在函数的结果上(行为策略)。我们发现,当攻击者首先在一个隐藏的选择顺序游戏中移动,那么行为策略比混合策略更有利于防守者。这与标准博弈论形成对比,在标准博弈论中,两种类型的策略是等价的。最后,我们建立了一个层次的这些游戏的信息泄漏方面,并提供方法来寻找最佳策略(在平衡点)的攻击者和防御者在各种情况下。
2018-05-21 cs.CR cs.GT cs.IT
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
University of Waterloo(滑铁卢大学);Zhejiang University(浙江大学);KTH Royal Institute of Technology(皇家理工学院)
提出RETA方法,通过基于用户任务的多目标强化学习训练防御器,利用思维链推理验证行动一致性,并采用字典学习多样性奖励生成对抗样本,在六种自适应攻击下平均攻击成功率低于4%。
2026-06-16 cs.AI cs.CR
A Theory of Hypergames on Graphs for Synthesizing Dynamic Cyber Defense with Deception
Worcester Polytechnic Institute(伍斯特理工学院)
在这一章中,我们提出了一种方法,使用形式化的方法来综合反应式防御策略的赛博网络,配备了一套诱饵系统。我们首先推广正式的图形安全模型-攻击图-将防御者的对策在博弈论模型,称为攻击-防御游戏图。这个游戏以形式逻辑捕捉防御者和攻击者之间的动态交互以及他们的防御/攻击目标。然后,我们引入了一类超对策模型的攻击者和防御者的互动中的诱饵所产生的信息不对称。给出了形式逻辑中的定性安全规范,我们证明了形式方法中的超博弈和反应合成的解决方案概念可以扩展到使用网络欺骗来合成有效的动态防御策略。该策略利用攻击者的错误感知来保证安全性,而当信息对称时,这可能是不满足的。
2020-08-07 cs.AI cs.CR cs.GT
Cross-Layer Coordinated Attacks on Cyber-Physical Systems: A LQG Game Framework with Controlled Observations
本文建立了一个博弈论框架来研究对网络物理系统(CPS)的跨层协同攻击。攻击者可以干扰物理过程,同时对通信信道发起干扰攻击。与此同时,防御者可以通过放弃观察来躲避干扰。通用框架捕获了各种各样的经典攻击模型的CPS。利用动态规划技术,我们充分刻画了子博弈完美均衡(SPE)控制策略。我们还推导出SPE的观察和干扰策略,并提供有效的计算方法来计算它们。结果表明,物理攻击和网络攻击是相互协调和相互依赖的。一方面,控制策略在状态估计中是线性的,干扰攻击引起的估计误差会导致性能下降。另一方面,攻击者和防御者在物理层中的交互显著影响观察和干扰策略。数值例子说明了防御者和攻击者之间的相互作用,通过他们的观察和干扰策略。
2021-04-07 cs.CR cs.SY eess.SY
Learning Security Strategies through Game Play and Optimal Stopping
KTH Royal Institute of Technology(瑞典皇家理工学院);KTH Center for Cyber Defense and Information Security(KTH网络防御与信息安全中心)
我们使用强化学习来研究自动化入侵防御。遵循一种新的方法,我们将攻击者和防御者之间的交互制定为最优停止游戏,并通过强化学习和自我游戏来进化攻击和防御策略。博弈论的观点使我们能够找到防御者的策略,有效地对抗动态攻击者。最佳停止制定让我们深入了解最佳策略的结构,我们表明,具有阈值特性。为了获得最优防御者策略,我们引入了T-FP,这是一种通过随机逼近学习纳什均衡的虚拟自玩算法。我们证明了T-FP在我们的用例中优于最先进的算法。我们的整体方法学习和评估策略包括两个系统:一个模拟系统,防守策略是增量学习和仿真系统,统计数据产生驱动模拟运行,并在学习策略进行评估。我们的结论是,这种方法可以产生一个实用的IT基础设施的有效防御策略。
2022-05-29 cs.AI cs.CR cs.LG
Data Injection Attacks on Smart Grids with Multiple Adversaries: A Game-Theoretic Perspective
Virginia Tech(弗吉尼亚理工大学)
本文提出多攻击者与单防御者博弈模型,分析智能电网防御策略及攻击者互动,通过Stackelberg游戏和混合满足均衡游戏探讨防御与攻击的博弈均衡,通过IEEE 30节点系统验证防御策略有效性。
2016-04-01 cs.CR cs.GT cs.IT