Quantitative Questions on Attack-Defense Trees
攻防树是一种新的图形化安全建模和评估方法。该方法包括可视化,直观的树模型,其分析是由一个严格的数学形式主义的支持。该方法的直观和形式两部分都可用于攻防场景的定量分析。在实践中,我们使用直观的问题来询问我们感兴趣的场景的各个方面。形式上,一个计算过程,定义的属性域和自底向上的算法的帮助下,被施加到导出相应的数值。本文弥合了直观和正式的方式定量评估攻击-防御场景之间的差距。我们讨论如何正确地指定一个问题,以便它可以得到明确的回答。给定一个明确的问题,然后我们展示了如何得到一个适当的属性域,构成相应的正式模型。由于任何攻击树都是一个攻击-防御树,因此我们的分析也是攻击树方法的一个进步。
2012-10-30 cs.CR
Non-control-Data Attacks and Defenses: A review
本文综述了非控制数据攻击的分类、防御策略及未来研究方向,指出其破坏性与图灵完备性带来的安全威胁。
2025-03-27 cs.CR
AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens
本文通过依赖关系视角系统分析LLM越狱攻击与防御,提出AutoAttack、AutoDefense和AutoEvaluation三个自动化框架,并设计集成攻击与混合防御方法,实验证明其显著优于现有研究。
2024-06-06 cs.CR
DAG-Based Attack and Defense Modeling: Don't Miss the Forest for the Attack Trees
本文介绍了当前的攻击和防御建模方法,是基于有向无环图(DAG)的最新状态。DAG允许将复杂的情景分层分解为简单、易于理解和可量化的行动。基于威胁树和贝叶斯网络的方法是两种著名的安全建模方法。然而,目前有30多种基于DAG的方法,每种方法都有不同的特点和目标。本调查的目的是提出一个完整的概述图形化的攻击和防御建模技术的基础上DAG。这包括总结现有的方法,比较它们的功能,并提出了所描述的形式主义的分类。本文还支持根据用户需求选择适当的建模技术。
2013-03-29 cs.CR
A Systematic Evaluation of Transient Execution Attacks and Defenses
对包括Spectre和Meltdown在内的瞬态执行攻击的研究表明,异常或分支错误预测事件可能会在CPU的微体系结构状态中留下秘密相关的痕迹。这一发现导致了新的Spectre和Meltdown攻击变种的扩散,甚至更多的ad-hoc防御(例如,微码和软件补丁)。业界和学术界现在都在关注为已知问题找到有效的防御措施。然而,我们只有有限的洞察力,剩余的攻击面和完整的建议防御。在本文中,我们提出了一个系统化的瞬态执行攻击。我们的系统化揭示了6种(新的)暂时执行攻击,这些攻击一直被忽视,到目前为止还没有被调查过:2种新的可利用的Meltdown效应:Intel上的Meltdown-PK(保护密钥旁路)和Intel和AMD上的Meltdown-BND(边界检查旁路);以及4种新的Spectre mistraining策略。我们通过在3个主要CPU供应商(Intel,AMD,ARM)上的概念验证实现来评估分类树中的攻击。我们的系统化产生了一个更完整的图片的攻击面,并允许更系统的防御评估。通过这种系统性的评估,我们发现大多数防御,包括部署的防御,不能完全缓解所有的攻击变种。
2019-05-15 cs.CR
Too Expensive to Attack: A Joint Defense Framework to Mitigate Distributed Attacks for the Internet of Things Grid
分布式拒绝服务(DDoS)攻击对企业和个人都是有害的,因为我们严重依赖互联网。由于利润可观,黑客青睐DDoS作为攻击服务器、计算机、物联网设备甚至整个互联网的网络安全武器。目前许多检测和缓解解决方案都集中在对抗DDoS的特定技术上,而攻击费用和跨防御者协作没有引起足够的重视。在这种情况下,我们重新审视DDoS攻击和防御的攻击成本和双方的人口,提出了一个联合防御框架,在互联网服务提供商(ISP),企业,个人和第三方组织的网格(物联网网格)中产生更高的攻击费用。同时,防御者的成本在战斗中不会增加太多。攻击费用的飙升阻碍了利润驱动的攻击者有效地发动进一步的攻击。定量评估和实验评估加强了我们的框架的有效性。
2021-04-01 cs.CR
Defenses Against Multi-Sticker Physical Domain Attacks on Classifiers
Drexel University(德雷塞尔大学)
最近,物理领域的对抗攻击引起了机器学习界的高度关注。Eykholt等人提出的一种重要攻击可以通过在路标等物体上放置黑白贴纸来欺骗分类器。虽然这种攻击可能会对视觉分类器构成重大威胁,但目前还没有针对这种攻击的防御措施。在本文中,我们提出了新的防御方法,可以防止多标签攻击。我们提出的防御策略能够操作时,防御者有充分的,部分的,没有事先的信息的攻击。通过进行广泛的实验,我们表明,我们提出的防御可以优于现有的防御物理攻击时,提出了多贴纸攻击。
2021-01-26 cs.CR cs.CV
Numerical Evaluation of Cloud-Side Shuffling Defenses against DDoS Attacks on Proxied Multiserver Systems
我们考虑一个基于云的多服务器系统,这可能是基于云的,由一组副本应用程序服务器背后的一组代理(间接)服务器,直接与客户端在互联网上进行交互。我们提供云端主动式和被动式防御,以抵御可能针对此系统的DDoS攻击。DDoS攻击是地方性的,去年秋天发生了一些值得注意的攻击。容量攻击可能以代理为目标,而“低容量”攻击可能以副本为目标。在审查现有的和建议的防御,如改变代理IP地址(一个“移动目标”的技术,以打击僵尸网络的侦察阶段)和过载服务器的裂变,我们专注于评估防御的基础上洗牌客户端到服务器的分配,可以是主动和被动的DDoS攻击。我们的评估是基于一个二项分布模型,以及同意模拟和初步实验的原型,也描述。
2017-08-02 cs.CR
An Active Defense Mechanism for TCP SYN flooding attacks
对公共服务器的分布式拒绝服务攻击最近已经成为一个严重的问题。为了保证网络服务不会被中断,更有效的防御机制来防止恶意流量,特别是SYN洪水。检测SYN洪水流量的一个问题是服务器节点或防火墙无法区分正常TCP连接的SYN数据包和SYN洪水攻击的SYN数据包。另一个问题是单点防御(例如防火墙)缺乏处理攻击流量增加所需的可扩展性。我们设计了一种新的防御机制来检测SYN洪水攻击。首先,我们引入了一种机制,通过考虑到达流量的时间变化来更准确地检测SYN洪水流量。我们调查的统计数据的正常TCP SYN数据包和SYN洪水攻击数据包的到达率。然后,我们描述了一个新的检测机制,基于这些统计。通过跟踪驱动的方法,收到警报消息的防御节点可以识别合法流量,并通过委托SYN/ACK数据包阻止恶意流量。
2012-01-10 cs.CR
ADTool: Security Analysis with Attack-Defense Trees (Extended Version)
ADTool是一个免费的开源软件,使用攻击-防御树辅助图形建模和安全定量分析。ADTool的主要特点是易于创建、高效编辑和自下而上自动评估安全相关措施。该工具还支持使用攻击树、保护树和防御树,这些都是攻击-防御树的特定实例。
2013-06-11 cs.CR cs.GT
Attack--Defense Trees and Two-Player Binary Zero-Sum Extensive Form Games Are Equivalent - Technical Report with Proofs
攻击-防御树用于描述系统的安全弱点和可能的对策。本文明确了攻防树与博弈论之间的联系。我们表明,攻击-防御树和二进制零和两个球员广泛的形式游戏具有同等的表达能力时,考虑可满足性,在这个意义上说,他们可以转换成对方,同时保留他们的结果和他们的内部结构。
2011-05-04 cs.CR cs.GT
Remapped Cache Layout: Thwarting Cache-Based Side-Channel Attacks with a Hardware Defense
随着基于缓存的侧信道攻击成为严重的安全问题,各种防御措施已经被提出并部署在软件和硬件中。因此,对共同驻留在同一核心上的进程的基于高速缓存的侧信道攻击变得极其困难。大多数最近的攻击然后转移到最后一级缓存(LLC)。虽然缓存分区是目前最有前途的防御攻击滥用LLC,它是无效的,在挫败侧信道攻击,自动创建驱逐集或绕过用户地址空间布局随机化。事实上,这些攻击在当前的计算机系统中基本上是不设防的。我们提出了重映射缓存布局(\textsf{RCL})-一个纯硬件防御广泛的基于冲突的侧信道攻击。\textsf{RCL}混淆了从地址到缓存集的映射;因此,攻击者无法准确推断其数据在缓存中的位置,也无法使用缓存集来推断受害者的数据。据我们所知,这是挫败上述基本上不设防的侧信道攻击的第一道防线。\textsf{RCL}已在超标量处理器上实现,详细的评估结果表明,\textsf{RCL}在面积、频率和执行时间上仅产生很小的代价。
2022-11-11 cs.CR
Defense Against Prompt Injection Attack by Leveraging Attack Techniques
针对大语言模型面临的提示注入攻击漏洞,本文反转攻击思路,基于无需训练的攻击方法,通过重复攻击流程但使用原始输入指令构建防御方案,实验证明其效果优于现有同类防御方法,达到最优水平。
2025-08-02 cs.CR
Exploitation Techniques and Defenses for Data-Oriented Attacks
面向数据的攻击操纵非控制数据来改变程序的良性行为,而不破坏其控制流完整性。事实证明,即使存在控制流防御机制,这种攻击也会造成重大损害。然而,这些威胁尚未得到充分解决。在这篇SoK论文中,我们首先将面向数据的漏洞利用(包括面向数据的编程(DOP)攻击)映射到它们的假设/要求和攻击能力。我们还比较了已知的防御这些攻击,在方法,检测能力,开销和兼容性。然后,我们通过实验评估了基于英特尔处理器跟踪(PT)技术的检测方法的可行性。PT仅跟踪控制流,因此,通常认为对面向数据的安全性没有用处。然而,我们的工作表明,面向数据的攻击(特别是最近的DOP攻击)可能会在多个维度上对控制流行为产生副作用,这体现在PT跟踪中。基于此评估,我们讨论了构建可部署的面向数据的防御和开放的研究问题的挑战。
2019-03-25 cs.CR
Fighting Gradients with Gradients: Dynamic Defenses against Adversarial Attacks
UC Berkeley(加州大学伯克利分校);DeepMind
对抗攻击针对模型进行优化以击败防御。现有的防御是静态的,并且一旦训练就保持不变,即使攻击发生变化。我们认为,模型应该反击,并在测试时优化其对攻击的防御。我们提出了动态防御,以适应模型和测试过程中的输入,防御熵最小化(登特)。登特改变了测试,但没有训练,与现有的模型和训练时的防御兼容。Dent提高了对抗训练防御和名义训练模型对CIFAR-10/100和ImageNet上白盒、黑盒和自适应攻击的鲁棒性。特别是,在$ε_\infty$ = 8/255的CIFAR-10上,Dent对自动攻击的绝对防御提高了20+点。
2021-05-18 cs.CR cs.CV cs.LG
A Partial Break of the Honeypots Defense to Catch Adversarial Attacks
Google Brain(谷歌大脑)
最近的一项防御建议将“蜜罐”注入神经网络,以检测对抗攻击。我们通过将检测真阳性率降低到0%和检测AUC降低到0.02来打破这种防御的基线版本,保持原始的失真界限。原始论文的作者已经修改了CCS'20论文中的辩护,以减轻这种攻击。为了帮助进一步的研究,我们在https://nicholas.carlini.com/code/ccs_honeypot_break上发布了完整的2.5小时逐行扫描屏幕记录的攻击过程。
2020-09-23 cs.CR cs.LG
Internet-based Social Engineering Attacks, Defenses and Psychology: A Survey
社交工程攻击是一种主要的网络威胁,因为它们通常是攻击者闯入防御良好的网络、窃取受害者的凭据并造成经济损失的第一步。这个问题已经得到了应有的重视,许多出版物提出了针对它们的防御措施。尽管如此,情况并没有改善。在本文中,我们的目的是了解和解释这一现象,寻找问题的根源。为此,我们通过我们提出的一个独特的视角- { \em心理因素(PF)和技术(PT)}来研究攻击和防御的文献。我们发现攻击和防御之间存在很大的差异:攻击者通过利用PT故意利用PF,但防御很少考虑这些因素,更喜欢技术解决方案。这就解释了为什么现有的防御措施取得了有限的成功。这促使我们提出一个路线图,以更系统的方法来设计有效的防御社会工程攻击。
2022-08-01 cs.CR cs.HC
Boundary Defense Against Black-box Adversarial Attacks
黑盒对抗攻击通过使用重复查询的迭代优化来生成对抗样本。保护深度神经网络免受此类攻击一直是一个挑战。在本文中,我们提出了一种有效的边界防御(BD)方法,该方法通过利用对抗性优化通常需要分类边界上的样本来减轻黑盒攻击。我们的方法检测的边界样本的分类置信度低,并添加白高斯噪声,他们的logits。从理论上分析了该方法对深度网络分类精度的影响。实验结果表明,该方法能够可靠地抵御软、硬标签黑盒攻击。它优于一系列现有的防御方法。对于IMAGENET模型,当分类置信度小于0.3时,通过将标准差为0.1的零均值高斯白噪声添加到logits,防御将攻击成功率降低到几乎为0,同时将分类准确性降低限制在1%左右。
2022-01-31 cs.CR
On the Susceptibility and Robustness of Time Series Models through Adversarial Attack and Defense
Michigan State University(密歇根州立大学)
在对抗攻击下,时间序列回归和分类是脆弱的。另一方面,对抗性防御可以使模型更具弹性。重要的是要评估不同的时间序列模型对攻击的脆弱性以及它们使用防御的恢复情况。在这项研究中,各种攻击的敏感性和鲁棒性使用的防御几个时间序列模型进行了研究。实验在七个时间序列模型上运行,具有三个对抗攻击和一个对抗防御。根据调查结果,所有模型,特别是GRU和RNN,似乎都很脆弱。LSTM和GRU也有更好的防御恢复。FGSM在攻击方面超过了竞争对手。PGD攻击比其他类型的攻击更难恢复。
2023-01-09 cs.AI cs.CR cs.LG
Effectiveness of Moving Target Defenses for Adversarial Attacks in ML-based Malware Detection
King’s College London(伦敦国王学院)
近年来,已经提出了几种对抗对抗ML攻击的移动目标防御(MTD)。MTD声称通过定期改变防御的某些元素(例如循环配置)来增加攻击者进行攻击的难度。为了检验这些说法,我们首次研究了几种最新的MTD对应用于恶意软件检测领域的对抗性ML攻击的有效性。在不同的威胁模型下,我们证明了可转移性和查询攻击策略可以通过跨Android和Windows的现有和新颖的攻击策略来实现对这些防御的高水平规避。我们还表明,指纹识别和侦察是可能的,并演示了攻击者如何获得关键的防御超参数以及如何产生预测的信息。基于我们的研究结果,我们提出了关键的建议,为今后的工作,有效的MTD的对抗攻击在ML为基础的恶意软件检测。
2023-02-01 cs.CR cs.LG
The Attacker Moves Second: Stronger Adaptive Attacks Bypass Defenses Against Llm Jailbreaks and Prompt Injections
OpenAI;Anthropic;Google DeepMind(谷歌DeepMind);HackAPrompt;Northeastern University(东北大学);ETH Zürich(苏黎世联邦理工学院);AI Sequrity Company(AI安全公司);MATS Main contributors(MATS主要贡献者)
本文指出当前语言模型防御评估存在缺陷,通过系统调整和扩展通用优化技术构建自适应攻击,成功绕过12种近期防御(成功率多超90%),证明未来防御工作必须考虑更强攻击才能可靠验证鲁棒性。
2025-10-10 cs.CR cs.LG
A Real-time Defense against Website Fingerprinting Attacks
像Tor这样的匿名系统容易受到网站指纹(WF)攻击,其中本地被动窃听者推断受害者的活动。目前基于深度学习分类器的WF攻击已经成功地克服了许多提出的防御。虽然最近利用对抗性示例的防御提供了希望,但这些对抗性示例只能在网络会话结束后计算,因此在实际设置中为用户提供的保护很少。我们提出了Dolos,一个实时的修改用户网络流量以成功规避WF攻击的系统。Dolos通过计算输入不可知的对抗补丁将虚拟数据包注入流量跟踪,这些补丁会破坏WF攻击中使用的深度学习分类器。然后应用补丁来实时的改变和保护用户流量。重要的是,这些补丁是由用户侧秘密参数化的,确保攻击者无法使用对抗训练来击败Dolos。我们通过实验证明,Dolos在各种设置下都能提供94%以上的保护,抵御最先进的WF攻击。与之前的防御相比,Dolos在更高的保护性能和更低的信息泄漏和带宽开销方面表现出色。最后,我们证明了Dolos对各种自适应对策的鲁棒性,以检测或破坏防御。
2021-02-08 cs.CR
MagNet and "Efficient Defenses Against Adversarial Attacks" are Not Robust to Adversarial Examples
University of California, Berkeley(加州大学伯克利分校)
MagNet和“高效防御”“最近被提出来作为对抗性例子的辩护。我们发现,我们可以构建对抗性的例子,只需稍微增加失真就能击败这些防御。
2017-11-22 cs.AI cs.CR cs.LG
Cloud-based DDoS Attacks and Defenses
安全性和可靠性在云计算环境中非常重要。如今,分布式拒绝服务(DDoS)攻击已成为互联网用户和云计算服务面临的最大威胁之一。DDoS攻击的目标是这些服务的资源,降低了它们提供网络基础设施最佳使用的能力。由于云计算的性质,与传统网络中使用的方法相比,用于预防或阻止DDoS攻击的方法有很大不同。本文研究了DDoS攻击对云资源的影响,并针对云环境中不同类型的DDoS攻击提出了实用的防御机制。
2015-11-27 cs.CR
A Survey on Federated Learning Poisoning Attacks and Defenses
本文针对联邦学习中客户端数据与本地训练不可见带来的安全风险,系统调研投毒攻击及相应防御的最先进方案,并指出未来研究方向。
2023-06-06 cs.CR
Measuring Information Leakage in Website Fingerprinting Attacks and Defenses
Tor提供针对本地或网络对手的低延迟匿名和未经审查的网络访问。由于设计选择最小化流量开销(并增加潜在用户池),Tor允许泄漏有关客户端连接的一些信息。使用这些信息(从中提取的特征)来推断用户访问的网站的攻击称为网站指纹(WF)攻击。我们开发了一种方法和工具来衡量网站泄露信息的数量。我们将此工具应用于从大量网站和WF防御机制中提取的一组全面的特征,使我们能够对WF攻击和防御进行更细粒度的观察。
2019-06-05 cs.CR
CASCADE Against Jailbreaks: Combination Across Stages with Controlled Attack-Defense Evaluation
School of Computing(计算学院);National University of Singapore(新加坡国立大学)
针对LLM越狱防御在不同流水线阶段部署不清的问题,首次系统研究阶段内与跨阶段的防御组合,在统一威胁模型下标准化评估,发现无单一防御最优,但精选组合可在最小化效用降级下显著提升安全性。
2026-09-21 cs.CL cs.CR
Adaptive Attacks Break Defenses Against Indirect Prompt Injection Attacks on LLM Agents
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Nirma University(尼尔玛大学)
本文评估了针对 LLM 智能体间接提示注入攻击的八种防御机制,发现自适应攻击能绕过所有防御并保持超 50% 成功率,揭示了现有防御的脆弱性,强调了引入自适应攻击评估的必要性。
2025-03-04 cs.CR cs.LG
RegulaTor: A Straightforward Website Fingerprinting Defense
本地被动攻击者使用网站指纹(WF)攻击,通过将发送给用户和由用户接收的数据包序列与先前记录的数据集进行比较,来确定加密互联网流量的目的地。因此,WF攻击是Tor等隐私增强技术特别关注的问题。作为回应,已经开发了各种WF防御,尽管它们往往会产生高带宽和延迟开销或需要额外的基础设施,从而使它们难以在实践中实现。一些轻量级的防御也已经提出;但是,它们对最近发布的WF攻击只达到中等的效果。在本文中,我们的目标是提出一个现实的和新颖的防御,RegulaTor,它利用常见的模式在Web浏览流量,以减少防御开销和当前WF攻击的准确性。在封闭世界环境中,RegulaTor将最先进的攻击Tik-Tok相对于类似防御的准确性从66%降低到25.4%。为了实现这一性能,它需要有限的延迟和带宽开销,比领先的中等开销防御少39.3%。在开放世界环境中,RegulaTor将精确调整的Tik-Tok攻击限制在.135的F分数,而最佳防御的F分数为.625。
2021-09-21 cs.CR
Dashed Line Defense: Plug-And-Play Defense Against Adaptive Score-Based Query Attacks
Harbin Institute of Technology(哈尔滨工业大学)
本文提出Dashed Line Defense,一种即插即用的后处理方法,有效抵御自适应分数查询攻击,通过引入损失与对抗强度的模糊性,阻止攻击者适应策略,提升模型安全性。
2026-02-09 cs.CR cs.LG
Backdoor-Powered Prompt Injection Attacks Nullify Defense Methods
National University of Singapore(新加坡国立大学);HKUST(香港科技大学)
本文提出后门驱动的提示注入攻击,通过污染监督微调样本植入触发器,使现有提示注入防御及指令层次技术失效,并构建基准验证其更强危害性。
2025-10-04 cs.CR
SHATTER: Control and Defense-Aware Attack Analytics for Activity-Driven Smart Home Systems
针对智能家居控制系统因虚假数据注入攻击而扩大的攻击面,提出一种控制与防御感知的新型攻击分析框架,能高效提取异常检测模型规则,并通过数据集和原型测试床验证其有效性。
2023-04-27 cs.CR
Replay Attacks and Defenses Against Cross-shard Consensus in Sharded Distributed Ledgers
我们提出了一系列针对分片分布式账本的重放攻击,目标是跨分片共识协议,例如最近提出的Chainspace和Omniledger。它们允许攻击者仅通过网络访问,以最小的努力双重花费或锁定资源。攻击者可以独立行动而不与任何节点勾结,即使所有节点都是诚实的,攻击也会成功;大多数攻击也可以在攻击周期内表现为故障。这些攻击对分片主导和客户端主导的跨分片共识方法都有效。最后,我们提出了Byzebra-一种新的跨分片共识协议,它对这些攻击具有免疫力。我们实现了一个原型的Byzantee和评估它在一个真正的基于云的测试平台上,显示我们的防御影响性能最小,整体性能超过以前的作品。
2020-09-01 cs.CR
Review of Cyber-Physical Attacks and Counter Defense Mechanisms for Advanced Metering Infrastructure in Smart Grid
高级计量基础设施(AMI)是当前智能电网发展中的重要组成部分。AMI技术为电力公司提供了一种有效的方式来连续监测和远程控制智能电网组件。然而,由于其不断增长的规模和网络物理的性质,AMI一直面临着在网络和物理域的安全威胁。本文对AMI中关键的网络物理攻击和反防御机制进行了全面的综述。首先,调查了AMI中的两个攻击面,包括通信网络和智能电表。然后针对每个攻击面审查潜在的网络物理攻击。接下来,研究了攻击模型及其对智能电网的网络和物理影响,以进行比较。反防御机制,有助于减轻这些安全威胁进行了讨论。最后,总结了几个数学工具,可能有助于分析和实施的安全解决方案。
2018-05-18 cs.CR
Evaluating Deception and Moving Target Defense with Network Attack Simulation
在网络安全领域,随着攻击者之间的持续军备竞赛,寻找新的漏洞来绕过防御机制,以及防御者加强其预防,检测和响应策略,网络欺骗的新概念已经出现。从著名的蜜罐例子开始,许多其他的欺骗策略已经被开发出来,如蜜罐和移动目标防御,所有这些都是为了给攻击者制造不确定性,增加攻击者犯错的机会。本文提出了一种评估网络中蜜罐和移动目标防御有效性的方法。这种方法允许在模拟环境中定量测量有效性,允许就部署多少个蜜罐以及网络地址必须以多快的速度突变以有效地破坏多个网络和攻击者配置中的攻击提出建议。通过这种优化,可以检测到攻击并以最小的资源和配置开销减缓攻击速度。利用所提供的方法,可以确定要部署的蜜罐的最佳数量和最佳网络地址突变间隔。此外,这项工作还提供了有关如何根据攻击者模型和多个网络参数优化部署和配置它们的指导。
2023-01-25 cs.CR
RECESS Vaccine for Federated Learning: Proactive Defense Against Model Poisoning Attacks
针对联邦学习中模型投毒攻击防御效果差、难区分良性离群值与恶意梯度的问题,提出主动防御方法RECESS,通过主动查询检测恶意客户端、多轮关联信任评分实现鲁棒聚合,实验证明其防御效果优于现有经典和前沿方法。
2023-10-09 cs.CR
Deep Learning Model Inversion Attacks and Defenses: A Comprehensive Survey
本文全面综述了深度学习中的模型反演(MI)攻击与防御策略,提出了系统分类法,探讨了技术伦理影响及未来方向,并提供了包含论文、数据集和评估指标的持续维护资源库。
2025-04-30 cs.CR
Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses
本文针对联邦图学习缺乏后门攻防研究的问题,提出了基于自适应子图触发器的隐蔽后门攻击,并设计了基于子图划分与多数投票集成的可验证防御,实验证明攻击成功率高且防御可完全缓解该攻击。
2024-07-12 cs.CR
A Survey of Microarchitectural Side-channel Vulnerabilities, Attacks and Defenses in Cryptography
侧信道攻击已经成为计算机应用和系统机密性的严重威胁。这种攻击的一种流行类型是微体系结构攻击,其中对手利用硬件特征来破坏由操作系统实施的保护并从程序中窃取秘密。在本文中,我们系统化的微架构侧通道,重点是攻击和防御密码应用程序。我们做了三个贡献。(1)我们回顾过去的研究文献,对微架构侧信道攻击进行分类。由于这些是针对软件的硬件攻击,我们总结了软件中的脆弱实现,以及硬件中的缺陷设计。(2)我们从应用程序、操作系统和硬件层面确定了缓解微体系结构攻击的常见策略。(3)我们对现实世界中流行的密码应用进行了大规模的评估,并分析了侧通道漏洞的严重性,实用性和影响。这项调查有望激励侧信道研究社区发现新的攻击,更重要的是,提出新的防御方案。
2021-03-26 cs.CR
AttackEval: A Systematic Empirical Study of Prompt Injection Attack Effectiveness Against Large Language Models
AttackEval系统性研究提示注入攻击有效性,揭示了Obfuscation攻击在对抗意图感知防御时的成功率最高,以及复合攻击策略显著提升攻击成功率,为改进大语言模型安全系统提供指导。
2026-04-04 cs.CR
Evaluating Gradient Inversion Attacks and Defenses in Federated Learning
Princeton University(普林斯顿大学);Adobe Research(Adobe研究院)
梯度反转攻击(Gradient Inversion Attack)是联邦学习安全性和隐私保护面临的一种新威胁,恶意窃听者或协议参与者可以利用梯度反转攻击恢复(部分)客户端的隐私数据。本文评估了现有的攻击和防御。我们发现,一些攻击对设置做出了强烈的假设。放松这些假设可以大大削弱这些攻击。然后,我们评估了三个建议的防御机制对梯度反转攻击的好处。我们展示了这些防御方法的隐私泄露和数据效用的权衡,并发现以适当的方式将它们结合起来会使攻击变得不那么有效,即使在最初的强假设下。我们还估计了每个评估防御下单个图像的端到端恢复的计算成本。我们的研究结果表明,目前可以通过轻微的数据实用程序损失来防御最先进的攻击,如潜在策略列表所示。我们的代码可在https://github.com/Princeton-SysML/GradAttack上获得。
2021-11-30 cs.CR cs.LG
Attrition Defenses for a Peer-to-Peer Digital Preservation System
在对等系统中,消耗攻击既包括传统的网络级拒绝服务攻击,也包括恶意对等点合谋浪费忠诚对等点资源的应用程序级攻击。我们描述了几种防御LOCKSS,一个对等的数字保存系统,这有助于确保应用程序级的攻击,即使是强大的对手是有效的比简单的网络级的攻击,网络级的攻击必须是激烈的,广泛的,并延长损害系统。
2004-11-27 cs.CR
SoK: Hardware Defenses Against Speculative Execution Attacks
推测执行攻击利用现代计算机处理器中的推测和乱序执行特征来访问秘密数据或执行不应该被执行的代码。秘密信息可以通过隐蔽渠道泄露。虽然可以在现有硬件上安装软件补丁以缓解问题,但这些解决方案可能会带来很大的性能开销。计算机体系结构团体正在广泛研究硬件缓解。它具有保持软件兼容性的好处,并且比软件解决方案的性能开销小得多。本文提出了一个系统化的硬件防御推测执行攻击,已提出。我们发现,投机执行攻击包括6个关键的攻击步骤。我们提出了防御策略,其中每一个都可以防止关键攻击步骤的发生,从而防止攻击成功。然后,我们总结了20个硬件防御和降低开销的功能,已经提出。我们表明,每一个防御建议可以归类为我们的防御策略之一,这也解释了为什么它可以挫败成功的攻击。我们讨论了防御的范围,它们的性能开销,以及可以进行的安全性能权衡。
2023-01-09 cs.AR cs.CR
Proactive DDoS Attack Mitigation in Cloud-Fog Environment using Moving Target Defense
分布式拒绝服务(DDoS)攻击是一种严重的网络攻击,在云中减轻DDoS攻击是一个持续研究的主题,仍然是一个主要的安全挑战。雾计算是云计算的一种扩展,已被用于保护云。移动目标防御(MTD)是一种新认可的主动安全防御,可用于减轻云上的DDoS攻击。MTD通过不断改变攻击面来迷惑攻击者,使系统具有动态性和不确定性。提出了一种基于MTD技术的云雾平台DDoS攻击防御框架(CFPM)。CFPM在雾层采用迁移MTD技术来抵御云中的DDoS攻击。它在雾层主动检测所有合法客户端中的攻击者,并将其与无辜客户端隔离开来。CFPM使用有效的请求处理过程进行负载均衡和攻击者隔离过程,旨在最大限度地减少对云服务器和服务雾服务器的中断。此外,CFPM的有效性进行评估,通过分析攻击前后的系统的行为,考虑不同的可能情况。这种方法是有效的,因为它使用了MTD技术和雾计算范式支持云环境的优势。
2020-12-03 cs.CR
Sensor Defense In-Software (SDI):Practical Software Based Detection of Spoofing Attacks on Position Sensor
位置传感器,如陀螺仪,磁力计和加速度计,被发现在各种各样的设备,从智能手机和无人机到自主机器人。一些作品已经展示了对手如何发动欺骗攻击,以远程破坏甚至完全控制这些传感器的输出。随着越来越多的关键应用依赖传感器读数来做出重要决策,保护传感器免受这些攻击至关重要。在这项工作中,我们提出了实用的软件为基础的防御攻击两种常见类型的位置传感器,特别是陀螺仪和磁力计。我们首先表征这些传感器的灵敏度,声学和磁性的对手。接下来,我们提出了两种纯软件防御:基于机器学习的单传感器防御,以及利用两个传感器之间的数学关系的传感器融合防御。我们对我们的防御进行了详细的理论分析,并在各种智能手机以及资源受限的物联网传感器节点上实现了它们。我们的防御不需要任何硬件或操作系统级别的修改,因此可以与现有硬件一起使用。此外,它们提供了高检测精度、短检测时间和合理的功耗。
2019-05-12 cs.CR
Attack Agnostic Adversarial Defense via Visual Imperceptible Bound
IIIT-Delhi(德里印度理工学院);Texas A&M University, Kingsville(金斯维尔得克萨斯农工大学);IIT Jodhpur(焦特布尔印度理工学院)
深度学习算法对结构化和非结构化扰动的高度敏感性激发了高效对抗防御算法的开发。然而,现有的防御算法缺乏通用性和针对不同数据库的攻击算法的性能的高度可变性对防御算法的有效性提出了几个问题。在这项研究中,我们的目标是设计一个防御模型,在一定范围内对可见和不可见的对抗攻击都是鲁棒的。这个界限与图像的视觉外观有关,我们称之为\textit{Visual Imperceptible Bound (VIB)}。为了计算这个界限,我们提出了一种新的方法,使用数据库的特点。另外,还利用VIB来度量攻击算法的有效性。在MNIST,CIFAR-10和Tiny ImageNet数据库上评估了所提出的防御模型的性能,包括C\&W($l_2$)和DeepFool。该防御模型不仅能够提高对多种攻击的鲁棒性,而且能够保持或提高原始干净测试集上的分类精度。所提出的算法是攻击不可知的,即它不需要任何知识的攻击算法。
2020-10-25 cs.CR cs.CV
Social Engineering Attacks and Defenses in the Physical World vs. Cyberspace: A Contrast Study
社会工程攻击是一种同样适用于物理世界和网络空间的现象。物理世界中的这些攻击比网络空间中的对应攻击被研究的时间要长得多。这促使我们研究物理世界和网络空间中的社会工程攻击如何相互关联,包括它们的共同特征和独特特征。为此,我们提出了一种方法,将物理世界和网络空间中的社会工程攻击和防御统一到一个框架中,包括:(i)基于心理学原理的系统模型,用于描述这些攻击;(ii)这些攻击的系统化;以及(iii)对它们的防御系统化。我们的研究得出了一些见解,这些见解揭示了未来的研究方向,以充分防御网络空间中的社会工程攻击。
2022-03-09 cs.CR cs.HC
Membership Inference Attacks and Defenses in Classification Models
Purdue University(普渡大学)
我们研究了对分类器的成员推理(MI)攻击,攻击者的目标是确定是否使用数据实例来训练分类器。通过对现有MI攻击的系统编目和对它们的广泛实验评估,我们发现模型对MI攻击的脆弱性与泛化差距密切相关-训练准确性和测试准确性之间的差异。然后,我们提出了一种针对MI攻击的防御方法,旨在通过故意降低训练精度来缩小差距。更具体地说,训练过程试图通过新的{ \em集合正则化器}来匹配训练和验证精度,该新的{ \em集合正则化器}使用训练集合和验证集合的softmax输出经验分布之间的最大平均离散度。我们的实验结果表明,将这种方法与另一种简单的防御(混合训练)相结合,可以显着提高对MI攻击的最先进的防御能力,同时对测试准确性的影响最小。
2021-02-03 cs.CR cs.LG
SoK: Analysis of Root Causes and Defense Strategies for Attacks on Microarchitectural Optimizations
预计微架构优化将在确保未来技术节点的性能可扩展性方面发挥至关重要的作用。然而,最近的攻击表明,被认为是安全的微体系结构优化可以被利用。此外,新的攻击快速出现,限制了现有防御的范围。这些发展促使我们需要审查微架构优化,重点是安全性,了解攻击环境和潜在的防御策略。我们分析了基于定时的侧信道攻击,针对不同的微体系结构优化。我们提供了一个框架,用于分析非瞬态和瞬态攻击,突出了相似之处。通过系统的分析,我们确定了基于时间的侧信道攻击的四个根源:确定性、共享、访问冲突和信息流。我们的关键见解是,攻击会利用一部分(或全部)根本原因,在任何攻击步骤中消除任何被利用的根本原因就足以提供保护。利用我们的框架,我们将现有的防御系统化,并表明它们在不同的攻击步骤中针对这些根本原因。
2022-12-20 cs.AR cs.CR
StratDef: Strategic Defense Against Adversarial Attacks in ML-based Malware Detection
King’s College London(伦敦国王学院)
提出基于移动目标防御的 StratDef 系统,通过动态策略化选择模型降低攻击可迁移性,并在多威胁级别下证明其优于现有恶意软件检测防御。
2023-04-24 cs.CR cs.LG
On Adaptive Attacks to Adversarial Example Defenses
Stanford University(斯坦福大学);Google(谷歌);University of Tübingen(蒂宾根大学);MIT(麻省理工学院)
自适应攻击已经(理所当然地)成为评估对抗性示例防御的事实标准。然而,我们发现,典型的自适应评估是不完整的。我们证明了最近在ICLR,ICML和NeurIPS上发表的13种防御措施-并选择用于说明和教学目的-尽管试图使用自适应攻击进行评估,但仍然可以规避。虽然之前的评估论文主要集中在最终结果上-表明防御是无效的-但本文的重点是制定执行自适应攻击所需的方法和途径。我们希望这些分析能够指导如何正确地对对抗性示例进行自适应攻击,从而使社区能够在构建更强大的模型方面取得进一步的进展。
2020-10-23 cs.CR cs.LG stat.ML
A Data-Driven Defense against Edge-case Model Poisoning Attacks on Federated Learning
Deakin University(迪肯大学);Indian Institute of Technology, Kharagpur(印度理工学院克勒格布尔分校)
针对联邦学习中难以检测的边缘情况模型投毒攻击,提出DataDefense方法,结合外部防御数据集与交替最小化策略训练检测器和客户端重要性模型,以极少样本实现显著的攻击成功率降低。
2024-08-14 cs.CR cs.LG
A Receding-Horizon MDP Approach for Performance Evaluation of Moving Target Defense in Networks
在本文中,我们研究的问题评估的有效性的主动防御检测策略与基于网络的移动目标防御。我们使用概率攻击图-图形安全模型对网络系统进行建模。对于一个具有主动防御策略的网络系统,智能攻击者需要反复进行侦察,以了解入侵检测系统的位置,并重新进行最佳规划,以达到目标,同时避免检测。为了计算攻击者的安全评估策略,我们开发了一个滚动时域规划算法,使用风险敏感的马尔可夫决策过程与时变的奖励函数。最后,我们在一个合成网络中实现了防御和攻击策略,并分析了网络随机化的频率和检测系统的数量如何影响攻击者的成功率。这项研究为设计主动防御策略以抵御足智多谋的攻击者的在线和多阶段攻击提供了见解。
2020-07-09 cs.CR cs.GT
Byzantine Attack and Defense in Cognitive Radio Networks: A Survey
协作频谱感知(CSS)中的拜占庭攻击(Byzantine attack),在文献中也被称为频谱感知数据伪造(SSDF)攻击,是认知无线电网络(CRN)成功的关键对手之一。近几年来,拜占庭攻防策略的研究越来越受到世界各国的重视。在本文中,我们提供了一个全面的调查和教程的拜占庭攻击和防御的CSS在CRN的最新进展。具体来说,我们首先简要介绍了CSS的一般读者,包括信号检测技术,假设检验和数据融合。其次,从拜占庭帝国对攻击的脆弱性、拜占庭帝国对防御的障碍以及拜占庭帝国的攻防博弈三个方面分析了拜占庭帝国攻防之间的矛盾关系。然后,我们提出了一个分类现有的拜占庭攻击行为,并详细说明了相应的攻击参数,这些参数决定了在哪里,谁,如何,以及何时发动攻击。接下来,从同构或异构场景的角度,我们对现有的防御算法进行了分类,并提供了一个关于最先进的拜占庭防御方案的深入教程,在文献中通常被称为鲁棒或安全的CSS。此外,我们强调了未解决的研究挑战,并描绘了未来的研究方向。
2015-04-06 cs.CR cs.IT cs.NI