Ontology-based Attack Graph Enrichment
攻击图提供了攻击者可能实施的攻击系统的可能操作的表示。网络安全专家使用它们来做出决策,例如,决定补救和恢复计划。可以使用不同的方法来构建这样的图。我们专注于基于谓词逻辑的逻辑攻击图,以定义敌对行为的因果关系。由于网络和漏洞不断变化(例如,新的应用程序被安装在系统设备上,更新的服务被公开展示等),我们提出用谓词的语义增强后处理来丰富攻击图生成方法。图表现在映射到确认成功攻击操作的监控警报,并根据网络和漏洞变化进行更新。因此,谓词得到定期更新,基于攻击证据和本体充实。这允许验证更改是否会导致攻击者达到初始目标或对系统造成初始图中未预期的进一步损害。我们在影响智慧城市的网络物理安全的特定领域下说明了这种方法。我们使用现有的工具和本体验证的方法。
2022-02-08 cs.CR
MultiKG: Multi-Source Threat Intelligence Aggregation for High-Quality Knowledge Graph Representation of Attack Techniques
针对现有依赖CTI报告构建攻击知识图谱存在粗粒度且不准确的问题,提出自动化框架MultiKG,融合CTI报告、动态日志和静态代码等多源威胁情报,利用LLM自动化构建并合并细粒度攻击技术知识图谱,有效提升攻击重建与检测等安全任务的效果。
2024-11-13 cs.CR
Intell-dragonfly: A Cybersecurity Attack Surface Generation Engine Based On Artificial Intelligence-generated Content Technology
本文提出基于ChatGPT的网络安全攻击面生成引擎Intell-dragonfly,通过自动化生成多样化攻击场景,并在真实网络环境中验证其在准确性、多样性和可操作性上优于传统方法。
2023-11-01 cs.CR
Learning-based Privacy-Preserving Graph Publishing Against Sensitive Link Inference Attacks
针对图数据发布中的敏感链路推断隐私泄露问题,提出首个隐私保护图结构学习框架PPGSL,通过模拟对抗的迭代训练实现最优隐私-效用权衡,可有效抵御多种攻击且适用于大规模图。
2025-07-23 cs.CR
E-SAGE: Explainability-based Defense Against Backdoor Attacks on Graph Neural Networks
本文提出基于可解释性的防御方法E-SAGE,利用恶意边与良性边在重要性分数上的差异进行迭代边剪枝,有效防御图神经网络上的子图插入后门攻击。
2024-06-15 cs.CR
Node Injection Attack Based on Label Propagation Against Graph Neural Network
针对图神经网络易受节点注入攻击的问题,提出基于标签传播的全局注入攻击方法LPGIA,通过优化注入节点连接组合并生成恶意特征,在多种数据集上超越现有最优攻击方法。
2024-05-29 cs.CR
Provably Robust Explainable Graph Neural Networks against Graph Perturbation Attacks
本文首次研究可解释图神经网络对图扰动攻击的鲁棒性,提出首个可证明鲁棒的XGNN方法XGNNCert,在扰动边数有界时保证解释结果稳定且不影响GNN预测。
2025-02-06 cs.CR
AttacKG: Constructing Technique Knowledge Graph from Cyber Threat Intelligence Reports
网络攻击变得越来越复杂和多样化,使检测变得越来越具有挑战性。为了应对这些攻击,安全从业人员积极总结和交流他们对网络威胁情报(CTI)报告形式的跨组织攻击的知识。然而,由于以自然语言文本编写的CTI报告不具有用于自动分析的结构,因此报告的使用需要繁琐的手动网络威胁情报恢复工作。此外,单个报告通常仅涵盖攻击模式(技术)的有限方面,因此不足以提供对多种变体攻击的全面了解。为了利用CTI报告提供的威胁情报,我们提出AttacKG自动提取结构化的攻击行为图从CTI报告,并确定所采用的攻击技术。然后,我们汇总报告中的网络威胁情报,以收集技术的不同方面,并将攻击行为图增强为技术知识图谱(TKG)。在我们对来自不同情报来源的1,515份真实CTI报告的评估中,AttacKG有效地识别了28,262种攻击技术和8,393种独特的妥协指标(IoC)。为了进一步验证AttacKG在提取威胁情报方面的准确性,我们在16个手动标记的CTI报告上运行AttacKG。实证结果表明,AttacKG准确地识别了攻击相关的实体、依赖关系和技术,F1得分为0.887、0.896和0.789,优于最先进的方法Extractor和TTPDrill。此外,独特的技术级智能将直接有利于依赖技术规范的下游安全任务,例如,APT检测和网络攻击重建。
2022-05-29 cs.CR
Attack by Yourself: Effective and Unnoticeable Multi-Category Graph Backdoor Attacks with Subgraph Triggers Pool
针对图神经网络多类别后门攻击中自适应触发器生成器能力不足的问题,提出EUMC方法,利用被攻击图的子图构建多类别触发器池(MC-STP)并采用“先选择后附加”策略,实现了对目标类别的精确控制和高度隐蔽性。
2024-12-23 cs.CR
Extending Attack Graphs to Represent Cyber-Attacks in Communication Protocols and Modern IT Networks
攻击图是一种用于枚举攻击者可以在组织网络中执行的可能路径的方法。MulVAL是用于自动生成攻击图的已知开源框架。MulVAL的默认建模有两个主要缺点。首先,它缺乏对网络协议漏洞的表示,因此不能用于对常见的网络攻击(如ARP中毒、DNS欺骗和SYN泛洪)进行建模。其次,它不支持无线和总线通信等高级类型的通信,因此不能用于对包括物联网设备或工业组件的网络进行网络攻击建模。在本文中,我们提出了一个扩展的网络安全模型MulVAL:(1)考虑物理网络拓扑结构,(2)支持短距离通信协议(例如,蓝牙),(3)对网络协议的设计中的漏洞进行建模,以及(4)对特定的工业通信体系结构进行建模。使用所提出的扩展,我们能够模拟多种攻击技术,包括:欺骗,中间人,拒绝服务,以及对高级类型的通信的攻击。我们证明了所提出的模型在一个测试平台上实现了一个简化的网络架构,包括IT和工业组件。
2019-06-24 cs.CR
Marlin: Knowledge-Driven Analysis of Provenance Graphs for Efficient and Robust Detection of Cyber Attacks
针对现有溯源图攻击检测优化策略易丢上下文、易被规避的问题,提出Marlin系统,通过嵌入攻击知识的查询图对齐与标签传播架构,在保留上下文的同时实现高效实时检测,在大规模数据集上验证了其高准确率与低误报率。
2024-07-10 cs.CR
Distributed Backdoor Attacks on Federated Graph Learning and Certified Defenses
本文针对联邦图学习缺乏后门攻防研究的问题,提出了基于自适应子图触发器的隐蔽后门攻击,并设计了基于子图划分与多数投票集成的可验证防御,实验证明攻击成功率高且防御可完全缓解该攻击。
2024-07-12 cs.CR
CRUcialG: Reconstruct Integrated Attack Scenario Graphs by Cyber Threat Intelligence Reports
针对现有CTI报告构建图存在的NLP能力弱和语义不足等问题,提出CRUcialG系统,通过提取攻击知识、四阶段合理性验证及序列化图生成模型,自动重构攻击场景图,在召回率和F1分数上显著优于SOTA。
2024-10-15 cs.CR
Finding Software Supply Chain Attack Paths with Logical Attack Graphs
LTCI, Télécom Paris, Institut Polytechnique de Paris(电信学院,巴黎理工学院)
针对MulVal无法捕获软件供应链(SSC)威胁传播的局限,提出其扩展以集成SSC与现有网络威胁分析,新增谓词建模SSC资产等,可应对XZ妥协等现代SSC攻击。
2025-11-14 cs.CR
Critical Path Prioritization Dashboard for Alert-driven Attack Graphs
本文为基于无监督序列机器学习生成攻击图的SAGE系统,提出一个支持查询与优先级排序的可视化分析仪表板,包含Graph Explorer、Timeline Viewer和Recommender Matrix三个组件,用户研究表明其能有效描绘攻击者策略与进展,但可用性仍需改进。
2023-10-19 cs.CR
It Is Time To Steer: A Scalable Framework for Analysis-driven Attack Graph Generation
针对攻击图生成慢、难支持实时分析和网络动态变化的问题,本文提出分析查询驱动并引导生成的可扩展框架,实现生成完成前的实时统计分析。
2024-09-09 cs.CR
How to Generate Security Cameras: Towards Defence Generation for Socio-Technical Systems
最近,安全研究人员开始研究从社会技术系统模型自动生成攻击树。自动化风险分析趋势的下一步显然是自动选择安全控制来处理检测到的威胁。然而,现有的社会技术模型过于抽象,无法代表从业者和标准推荐的所有安全控制。在本文中,我们提出了一个攻击-防御模型,由一组攻击-防御束,生成和维护的社会技术模型。攻击-防御捆绑包可用于直接从模型合成攻击-防御树,以提供基本的攻击-防御分析,但它们也可用于选择和维护模型本身无法处理的安全控制。
2015-09-02 cs.CR
Attack-Graph Threat Modeling Assessment of Ambulatory Medical Devices
技术不断融入社会的各个方面,突出表明需要查明和了解吸收新技术的风险。当技术用于医疗目的时,如用于监测患者生命体征的移动设备,这种必要性就更高了。这种集成创造了有利于恶意活动的环境。潜在的影响给医学界带来了新的挑战。因此,本研究提出了攻击图建模作为一种可行的解决方案,以识别漏洞,评估风险,并形成缓解策略,以保护流动医疗设备免受攻击。在文献中确定了与移动设备(包括蓝牙传感器和Android应用程序)的各个方面相关的常见和频繁漏洞和攻击策略。基于此分析,本研究提出了一个攻击图建模的理论设备,突出的漏洞和缓解策略,以考虑在设计具有类似组件的移动设备时的例子。
2017-09-15 cs.CR
LogKernel A Threat Hunting Approach Based on Behaviour Provenance Graph and Graph Kernel Clustering
网络威胁搜寻是一个主动搜索过程,用于查找组织信息系统中的隐藏威胁。它是主动防御高级持续性威胁(APT)的重要组成部分。然而,目前大多数的威胁搜索方法都依赖于网络威胁情报(CTI),它可以发现已知的攻击,但无法发现CTI尚未披露的未知攻击。在本文中,我们提出了LogKernel,威胁狩猎方法的基础上图核聚类,可以有效地分离攻击行为的良性活动。LogKernel首先将系统审计日志抽象为行为起源图(BPG),然后使用图核将其嵌入到连续空间中进行聚类。特别是,我们设计了一种新的基于BPG的图核聚类方法,它可以捕获BPG的结构信息和丰富的标签信息。为了减少误报,LogKernel进一步量化了异常行为的威胁。我们评估LogKernel的恶意数据集,其中包括七个模拟的攻击场景和DAPRA CADETS数据集,其中包括四个攻击场景。实验结果表明,LogKernel算法能够在所有的攻击场景中进行搜索,并且与现有的方法相比,能够发现未知的攻击。
2022-08-18 cs.CR
Detecting Complex Multi-step Attacks with Explainable Graph Neural Network
针对复杂多步攻击检测中真实攻击样本稀少、事件图动态异构及结果缺乏解释的问题,提出 Trace2Vec,结合样本增强、连续时间动态异构图神经网络与蒙特卡洛树搜索实现更优检测和解释。
2024-06-14 cs.CR
On Security Research Towards Future Mobile Network Generations
在过去的几十年里,所有三代活跃的移动网络中的许多安全和隐私问题已经被揭示出来,威胁着用户和网络提供商。鉴于目前正在开发的最新一代(5G),我们现在有独特的机会根据现有的安全和隐私问题以及已经提出的防御措施来确定下一代的研究方向。本文的目的是统一的移动电话网络的安全知识到一个全面的概述,并得出紧迫的开放的研究问题。为了系统地实现这一目标,我们开发了一种方法,该方法根据攻击的目的、拟议的防御措施、根本原因和根本原因对已知攻击进行分类。此外,我们还评估了每次攻击和防御的影响和功效。然后,我们将这种方法应用到现有的文献中的攻击和防御在所有三代网络。通过这样做,我们确定了攻击的十个原因和四个根本原因。将攻击映射到针对5G规范的拟议防御和建议,使我们能够发现下一代移动网络开发的开放研究问题和挑战。不安全的预认证流量和干扰攻击的问题存在于所有三代移动设备中。未来应该解决这些问题,特别是消除降级攻击,从而加强用户的隐私。在运营商间协议以及安全基带实现方面需要进一步的进步。此外,缓解拒绝服务攻击的智能协议设计代表了一个开放的研究问题。
2018-03-06 cs.CR
Risk Assessment Graphs: Utilizing Attack Graphs for Risk Assessment
本文提出利用扩展攻击图(纳入对策与后果)来简化风险评估,通过案例研究和与现有标准结合验证,能适应系统变化并识别高风险问题。
2023-07-26 cs.CR
Towards a Graph Neural Network-Based Approach for Estimating Hidden States in Cyber Attack Simulations
本文提出一种结合 MAL 与 RDDL 模拟、基于 GNN 的网络攻击隐藏状态估计原型,并阐述其概念架构与安全应用潜力。
2023-12-09 cs.CR
Backdoor Attacks to Graph Neural Networks
Duke University(杜克大学)
在这项工作中,我们提出了第一个后门攻击图神经网络(GNN)。具体来说,我们提出了一个\emph{subgraph based backdoor attack}的GNN图分类。在我们的后门攻击中,一旦预定义的子图被注入测试图,GNN分类器就预测攻击者为测试图选择的目标标签。我们在三个真实世界的图数据集上的实证结果表明,我们的后门攻击是有效的,对GNN的预测准确性的影响很小。此外,我们推广了一种基于随机平滑的认证防御来抵御我们的后门攻击。我们的实证结果表明,防御在某些情况下是有效的,但在其他情况下无效,突出了我们的后门攻击的新防御的需要。
2021-12-17 cs.CR cs.LG
Unnoticeable Backdoor Attacks on Graph Neural Networks
The Pennsylvania State University(宾夕法尼亚州立大学)
图神经网络(GNNs)在节点分类和图分类等各种任务中取得了可喜的成果。最近的研究发现,GNN容易受到对抗攻击的攻击。然而,有效的图上的后门攻击仍然是一个悬而未决的问题。特别地,后门攻击通过将触发器和目标类标签附加到训练图中的一组节点来毒害图。然后,在中毒图上训练的后门GNN将被误导,一旦附加了触发器,就将测试节点预测为目标类。虽然有一些初步的努力,图后门攻击,我们的实证分析表明,他们可能需要一个大的攻击预算有效的后门攻击和注入的触发器可以很容易地检测和修剪。因此,在本文中,我们研究了一个新的问题,不可察觉的图后门攻击有限的攻击预算。为了充分利用攻击预算,我们建议在中毒阶段故意选择注入触发器和目标类标签的节点。采用自适应触发发生器来获取不易被注意到的有效触发。针对各种防御策略在真实数据集上进行的大量实验表明,我们提出的方法在进行有效的不明显的后门攻击方面是有效的。
2023-02-11 cs.CR cs.LG
A Targeted Universal Attack on Graph Convolutional Network
Shanghai University(上海大学)
图结构数据存在于现实生活中的许多应用中。图卷积网络(GCN)作为一种最先进的图神经网络,在处理图结构数据方面发挥着重要作用。然而,最近的一项研究报告称,GCN也容易受到对抗攻击的攻击,这意味着GCN模型可能会遭受恶意攻击,并对数据进行不明显的修改。在所有对GCN的对抗攻击中,有一种特殊的攻击方法称为通用对抗攻击,它产生一个可以应用于任何样本的扰动,导致GCN模型输出不正确的结果。虽然计算机视觉中的通用对抗攻击已经得到了广泛的研究,但针对图结构数据的通用对抗攻击的研究工作还很少。在本文中,我们提出了一个有针对性的通用对抗攻击对GCN。我们的方法采用几个节点作为攻击节点。攻击节点的攻击能力通过少量的伪节点连接到它们来增强。在攻击期间,任何受害者节点都会被GCN错误地分类为攻击节点类,只要它与它们相关联。在三个流行数据集上的实验表明,当仅使用3个攻击节点和6个假节点时,该攻击对图中任何受害节点的平均攻击成功率达到83%。我们希望我们的工作将使社区意识到这种攻击的威胁,并提高对未来防御的关注。
2020-11-29 cs.CR cs.LG
Automated generation of attack trees with optimal shape and labelling
针对攻击树自动生成的合理性与清晰性需求,提出结合系统模型与代数因式分解关联的算法,在保证正确性的同时优化树的形状与标注,为首款具备该特性的生成框架。
2024-07-10 cs.CR cs.FL
GraphAttacker: A General Multi-Task GraphAttack Framework
图神经网络(GNN)已经成功地用于许多现实世界应用中的图分析任务。攻击和防御方法之间的竞争也增强了GNN的鲁棒性。本次比赛对抗性训练方法的发展对攻击样例的多样性提出了更高的要求。相比之下,大多数具有特定攻击策略的攻击方法很难满足这样的要求。为了解决这个问题,我们提出了GraphAttacker,一个新的通用图攻击框架,可以灵活地调整结构和攻击策略,根据图分析任务。GraphAttacker通过对三个关键组件进行交替训练来生成对抗性示例:多策略攻击生成器(MAG),相似性搜索器(SD)和攻击搜索器(AD),基于生成对抗网络(GAN)。此外,我们引入了一个新的相似性修改率SMR进行隐形攻击考虑到节点的相似性分布的变化。在各种基准数据集上的实验表明,GraphAttacker在节点分类、图分类和链接预测等图分析任务上,无论是否进行对抗性训练,都能达到最先进的攻击性能。此外,我们还分析了每个任务的独特性及其在统一攻击框架中的具体响应。项目代码可在https://github.com/honoluluuuu/GraphAttacker上获得。
2021-11-09 cs.CR cs.LG
MM-AttacKG: A Multimodal Approach to Attack Graph Construction with Large Language Models
针对现有攻击图构建仅利用文本而忽略图像威胁信息的问题,提出MM-AttacKG框架,通过多模态大语言模型解析威胁图像并整合进攻击图,显著提升构建质量。
2025-06-20 cs.CR cs.CY
A Hard Label Black-box Adversarial Attack Against Graph Neural Networks
Tsinghua University(清华大学);Illinois Institute of Technology(伊利诺伊理工学院);George Mason University(乔治梅森大学)
图神经网络(GNN)在各种图结构相关任务(例如节点分类和图分类)中已经实现了最先进的性能。然而,GNN容易受到对抗攻击的攻击。现有的工作主要集中在攻击用于节点分类的GNN,然而,针对用于图分类的GNN的攻击还没有得到很好的探索。在这项工作中,我们进行了系统的研究对抗攻击GNNs图分类通过扰动图结构。特别是,我们专注于最具挑战性的攻击,即,硬标签黑盒攻击,攻击者不知道目标GNN模型,只能通过查询目标模型来获得预测标签。为了实现这一目标,我们将我们的攻击描述为一个优化问题,其目标是在保持高攻击成功率的情况下最小化图中需要扰动的边的数量。原来的优化问题是难以解决的,我们放松的优化问题是一个听话的,这是解决与理论收敛保证。我们还设计了一个粗粒度的搜索算法和查询效率的梯度计算算法,以减少对目标GNN模型的查询次数。我们在三个真实世界数据集上的实验结果表明,我们的攻击可以有效地攻击代表性的GNN进行图分类,查询和扰动较少。我们还在两种防御下评估了我们的攻击的有效性:一种是设计良好的对抗图检测器,另一种是目标GNN模型本身配备了防止对抗图生成的防御。我们的实验结果表明,这样的防御是不够有效的,这突出了更先进的防御。
2021-09-27 cs.CR cs.LG
Automated email Generation for Targeted Attacks using Natural Language
University of Houston(休斯顿大学)
随着越来越多的恶意攻击,成为社会工程攻击牺牲品的个人和组织的数量正在激增。尽管对缓解系统进行了大量研究,但攻击者通过使用复杂的机器学习、自然语言处理技术不断改进其作案手法,意图发动旨在欺骗检测机制和受害者的成功有针对性的攻击。我们提出了一个先进的电子邮件伪装攻击系统,使用自然语言生成(NLG)技术。使用合法以及各种恶意内容的涌入,所提出的深度学习系统生成具有恶意内容的\textit{fake}电子邮件,根据攻击者的意图进行定制。该系统利用递归神经网络(RNN)进行自动文本生成。我们还专注于所生成的电子邮件在击败统计检测器的性能,并比较和分析使用建议的基线的电子邮件。
2019-08-19 cs.CL cs.CR
FDI: Attack Neural Code Generation Systems through User Feedback Channel
本文研究神经代码生成系统中用户反馈机制的安全风险,提出反馈数据注入(FDI)攻击方法及黑盒攻击前画像策略,并通过提示注入和后门攻击实例证明攻击者可操纵系统生成恶意代码。
2024-08-08 cs.CR cs.SE
Scalable Attack on Graph Data by Injecting Vicious Nodes
Xi’an Jiaotong University(西安交通大学);University of Virginia(弗吉尼亚大学);Western Michigan University(西密歇根大学)
最近的研究表明,图卷积网络(GCN)很容易受到精心设计的攻击,这些攻击旨在通过不明显的扰动对图上的特定节点造成错误分类。然而,绝大多数现有的作品不能处理大规模的图形,因为他们的高时间复杂度。此外,现有的工作主要集中在操纵图上的现有节点,而在实践中,攻击者通常没有权限修改现有节点的信息。在本文中,我们开发了一个更具可扩展性的框架,称为近似快速梯度符号法(AFGSM),它考虑了一个更实际的攻击场景,对手只能注入新的恶性节点的图形,而没有控制权的原始图形。在方法上,我们提供了一个近似策略来线性化我们攻击的模型,然后以较低的时间成本推导出近似的封闭解。为了与现有的操纵原始图的攻击方法进行公平的比较,我们通过注入恶意节点来使它们适应新的攻击场景。实验结果表明,该攻击方法可以显著降低GCN的分类精度,并且在不影响攻击性能的前提下,比现有方法速度更快.
2020-04-22 cs.CR cs.LG
Adversarial Attack Framework on Graph Embedding Models with Limited Knowledge
Tsinghua-Berkeley Shenzhen Institute, Tsinghua University(清华大学清华-伯克利深圳学院);Tencent AI Lab, Tencent(腾讯腾讯人工智能实验室);Institute for AI Industry Research (AIR), Tsinghua University(清华大学智能产业研究院(AIR));Tsinghua University(清华大学);University of Texas at Arlington(德克萨斯大学阿灵顿分校)
随着图嵌入模型在学术界和工业界的成功应用,图嵌入对对抗攻击的鲁棒性成为图学习中的一个重要问题。现有的作品通常以白盒方式执行攻击:他们需要访问预测/标签来构建他们的对抗性损失。然而,预测/标签的不可访问性使得白盒攻击对于真实的图学习系统来说不切实际。本文在更一般和灵活的意义上提升了现有的框架--我们要求用黑盒驱动攻击各种图嵌入模型。我们研究了图信号处理和图嵌入模型之间的理论联系,并将图嵌入模型制定为具有相应图滤波器的一般图信号处理。因此,我们设计了一种广义对抗攻击器:GF攻击。在不访问任何标签和模型预测的情况下,GF-Attack可以以黑盒方式直接对图过滤器进行攻击。我们进一步证明了GF攻击可以执行有效的攻击,而不知道图嵌入模型的层数。为了验证GF攻击的泛化性,我们在四种流行的图嵌入模型上构建了攻击者。在多个基准数据集上的实验验证了GF攻击的有效性。
2022-03-01 cs.CR cs.LG cs.SI
Membership Inference Attacks Against Text-to-image Generation Models
CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心);Salesforce Research(赛富时研究院)
文本到图像生成模型最近吸引了前所未有的关注,因为它们在生活的各个领域中打开了富有想象力的应用。然而,开发这样的模型需要可能包含隐私敏感信息的大量数据,例如,面对身份。虽然隐私风险已经在图像分类和GAN生成领域中得到了广泛的证明,但文本到图像生成领域中的隐私风险在很大程度上尚未被探索。在本文中,我们进行了第一次隐私分析的文本到图像生成模型,通过镜头的成员推理。具体而言,我们提出了三个关键直觉的成员信息和设计相应的攻击方法。我们对两种主流的文本到图像生成模型进行了全面的评估,包括序列到序列建模和基于扩散的建模。实验结果表明,所有提出的攻击都能获得显著的性能,在某些情况下甚至接近于1的精度,因此相应的风险比现有的成员推断攻击要严重得多。我们进一步进行了广泛的消融研究,分析可能影响攻击性能的因素,这可以指导开发人员和研究人员警惕文本到图像生成模型中的漏洞。所有这些研究结果表明,我们提出的攻击构成了现实的隐私威胁的文本到图像生成模型。
2022-10-03 cs.CR cs.LG
Streamlining Attack Tree Generation: A Fragment-Based Approach
针对攻击图规模膨胀及复杂动态系统建模难题,提出利用公开安全数据库的基于片段生成方法与攻击建模DSL,并验证其可复现专家确认的攻击链。
2023-10-01 cs.CR cs.IR
Graphfool: Targeted Label Adversarial Attack on Graph Embedding
Institute of Cyberspace Security, Zhejiang University of Technology(浙江工业大学网络空间安全研究院);Institute of Big Data and Cyber Security, Zhejiang Police College(浙江警察学院大数据与网络安全研究院);College of Information Engineering, Zhejiang University of Technology(浙江工业大学信息工程学院)
深度学习在图形分析中是有效的。它被广泛应用于许多相关领域,如链接预测,节点分类,社区发现和图分类等。图嵌入,学习图中顶点或边的低维表示,通常使用深度模型来导出嵌入向量。然而,这些模型是脆弱的。我们设想,基于深度模型的图嵌入方法可以很容易地使用对抗性示例进行攻击。因此,在本文中,我们提出了Graphfool,一种新的针对图嵌入的标签对抗攻击。通过对图卷积网络(GCN)中的边界和梯度信息进行分类,生成对抗图来攻击图嵌入方法。具体来说,我们执行以下步骤:1),我们首先估计不同类别的分类边界。2)根据目标分类边界计算最小扰动矩阵,对被攻击顶点进行误分类。3)根据扰动矩阵的最大绝对值对邻接矩阵进行修正。这个过程是迭代实现的。据我们所知,这是第一个有针对性的标签攻击技术。在真实世界的图网络上的实验表明,Graphfool可以获得比最先进的技术更好的性能。与次优算法相比,Graphfool在攻击成功率上平均提高了11.44%。
2021-02-24 cs.CR cs.LG
Practical Attacks Against Graph-based Clustering
Georgia Institute of Technology(佐治亚理工学院);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Georgia(佐治亚大学);Symantec CAML Group(赛门铁克 CAML 集团)
图建模允许以一般的方式解决许多安全问题,但是,很少有人了解它们抵御对抗攻击的能力。我们设计并评估了两个新的图形攻击对最先进的网络级,基于图形的检测系统。我们的工作突出了对抗性机器学习中尚未解决的领域,特别是:基于图的聚类技术,以及一个全局特征空间,在这个空间中,没有完美知识的现实攻击者必须被(防御者)考虑到才能实用。即使不太知情的攻击者可以逃避图聚类成本低,我们表明,一些实际的防御是可能的。
2017-08-29 cs.CR cs.LG
Simple and Efficient Partial Graph Adversarial Attack: A New Perspective
Nanjing University(南京大学)
针对图全局攻击忽视节点鲁棒性差异、预算分配低效的问题,提出PGA方法,通过分层目标选择、锚点挑选和迭代贪心攻击,显著提升攻击效果与效率。
2023-08-15 cs.CR cs.LG
Using Retriever Augmented Large Language Models for Attack Graph Generation
University of California Irvine(加利福尼亚大学欧文分校);Cisco Research(思科研究院)
随着现代系统复杂性的增加,通过有效的漏洞管理和威胁建模技术评估其安全态势的重要性也在增加。网络安全专业人员武器库中的一个强大工具是攻击图,它代表了系统中所有潜在的攻击路径,对手可能会利用这些路径来实现特定目标。生成攻击图的传统方法涉及专家知识、手动管理和计算算法,由于漏洞和漏洞利用的不断演变的性质,这些方法可能无法覆盖整个威胁环境。本文探讨了利用大语言模型(LLM)(如ChatGPT)自动生成攻击图的方法,方法是根据攻击图的前提条件和影响智能地链接常见漏洞和暴露(CVE)。它还展示了如何利用LLM从威胁报告中创建攻击图。
2024-08-11 cs.CR cs.LG
The Time for Reconstructing the Attack Graph in DDoS Attacks
本文研究单一攻击者DDoS场景下受害者通过概率包标记边缘采样重建攻击图所需数据包数量的渐近分布与期望值,并将其与优惠券收集问题建立联系。
2023-04-11 cs.CR math.PR
TDGIA:Effective Injection Attacks on Graph Neural Networks
Tsinghua University(清华大学);Facebook AI(Facebook人工智能);Shanghai Jiao Tong University(上海交通大学);Biendata;Bosch Center for Artificial Intelligence(博世人工智能中心)
图神经网络(GNN)在各种现实世界的应用中取得了令人鼓舞的性能。然而,最近的研究表明,GNN容易受到对抗攻击的攻击。在本文中,我们研究了一个最近推出的现实攻击场景图-图注入攻击(GIA)。在GIA场景下,攻击者不能修改输入图的现有链接结构和节点属性,而是通过向其中注入攻击节点来进行攻击。本文分析了GIA场景下GNN的拓扑脆弱性,并在此基础上提出了拓扑缺陷图注入攻击(TDGIA),以实现有效的注入攻击。TDGIA首先引入拓扑缺陷边选择策略,选择原始节点与注入节点进行连接。然后设计平滑特征优化目标来生成注入节点的特征。在大规模数据集上进行的大量实验表明,TDGIA在攻击数十个防御GNN模型时,可以持续且显著地优于各种攻击基线。值得注意的是,TDGIA导致的目标GNN性能下降是KDD-CUP 2020上数百个提交中最佳攻击解决方案所带来的损害的两倍多。
2021-11-09 cs.CR cs.LG
Data Poisoning Attacks to Local Differential Privacy Protocols for Graphs
本文首次研究图局部差分隐私协议的安全问题,提出三种数据投毒攻击以降低度中心性和聚类系数等图度量质量,并通过实验证明现有对策难以有效防御。
2024-12-23 cs.CR cs.DB
Exact Inference Techniques for the Analysis of Bayesian Attack Graphs
攻击图是一种强大的安全风险评估工具,通过分析网络漏洞和攻击者可以用来危害网络资源的路径。攻击者行为的不确定性使得贝叶斯网络适合于对攻击图进行建模以执行静态和动态分析。以前的方法都集中在形式化的攻击图到贝叶斯模型,而不是提出他们的分析机制。在本文中,我们建议使用有效的算法,使贝叶斯攻击图的准确推理,使静态和动态网络风险评估。为了支持我们的方法的有效性,我们已经进行了广泛的实验评估合成贝叶斯攻击图与不同的拓扑结构,所提出的技术相比,现有的方法在时间和内存使用方面的计算优势。
2016-11-04 cs.CR stat.AP stat.ML
Black-Box Attacks against Signed Graph Analysis via Balance Poisoning
本文提出黑盒 balance-attack,通过投毒降低符号图平衡程度以攻击SGNN,并用启发式算法求解NP难问题,在五个模型和四个数据集上验证其有效性。
2023-09-05 cs.CR cs.SI
GUAP: Graph Universal Attack Through Adversarial Patching
Rutgers University(罗格斯大学);MIT-IBM Watson AI Lab(MIT-IBM沃森人工智能实验室);IBM Research(IBM研究院)
图神经网络(GNN)是一类用于节点分类任务的有效的深度学习模型;然而,在对图结构和/或节点数据的不利设计的不明显扰动下,其预测能力可能严重受损。目前大多数关于图对抗攻击的工作旨在降低整体预测精度,但我们认为,由此产生的异常模型性能可能很容易引起注意并引起快速反击。此外,如果实现了良好的安全协议,则通过修改现有图数据的攻击可能难以进行。在这项工作中,我们认为一个更容易的攻击更难被注意到,通过对抗修补新的节点和边缘的图。攻击是通用的:它每次针对单个节点,并将其连接翻转到同一组补丁节点。攻击是不引人注意的:它不会修改目标节点以外的其他节点的预测。我们开发了一个算法,名为GUAP,实现高攻击成功率,但同时保持预测精度。GUAP通过采用采样策略来快速训练。我们证明,在每个历元中5%的采样在训练中产生20倍的加速,攻击性能只有轻微的下降。此外,我们还证明了使用图卷积网络训练的对抗补丁可以很好地转移到其他GNN,例如图注意力网络。
2023-01-04 cs.CR cs.LG
A Restricted Black-box Adversarial Framework Towards Attacking Graph Embedding Models
Tsinghua-Berkeley Shenzhen Institute, Tsinghua University(清华大学清华-伯克利深圳学院);Tencent AI Lab(腾讯人工智能实验室);Department of Computer Science and Technology, Tsinghua University(清华大学计算机科学与技术系)
随着图嵌入模型在学术界和工业界的巨大成功,图嵌入对对抗攻击的鲁棒性问题必然成为图学习领域的一个核心问题。尽管取得了丰硕的进展,但目前的大多数作品都是以白盒的方式进行攻击的:他们需要访问模型预测和标签来构建他们的对抗损失。然而,模型预测在真实系统中的不可访问性使得白盒攻击对真实图学习系统不切实际。本文对现有的框架进行了更一般、更灵活的提升--我们要求黑盒驱动攻击各种图嵌入模型。为此,我们首先研究了图信号处理和图嵌入模型之间的理论联系,并将图嵌入模型制定为具有相应图滤波器的一般图信号处理。因此,一个广义的对抗攻击:GF攻击是由图过滤器和特征矩阵。GF-Attack不访问图嵌入中使用的目标分类器的任何知识,而是以黑盒攻击方式仅对图过滤器进行攻击。为了验证GF攻击的泛化性,我们在四种流行的图嵌入模型上构建了攻击者。大量的实验结果验证了我们的攻击器在几个基准数据集上的有效性。特别是通过使用我们的攻击,即使是像单边翻转这样的小图扰动也能够在性能上一致地对不同的图嵌入模型进行强有力的攻击。
2019-12-17 cs.CR cs.LG cs.SI
Cluster Attack: Query-based Adversarial Attacks on Graphs with Graph-Dependent Priors
Tsinghua University(清华大学);Peng Cheng Laboratory(鹏城实验室);Tsinghua University-China Mobile Communications Group Co., Ltd. Joint Institute(清华大学-中国移动通信集团有限公司联合研究院);Tsinghua-Bosch Joint ML Center(清华-博世联合机器学习中心);BNRist Center(北京国家信息科学与技术研究中心);THBI Lab(清华大学脑与智能实验室)
虽然深度神经网络在图分析方面取得了巨大成功,但最近的工作表明,它们容易受到对抗攻击的攻击。与对图像分类的对抗性攻击相比,对图进行对抗攻击更具挑战性,因为图的邻接矩阵具有离散和不可微的性质。在这项工作中,我们提出了集群攻击-一个图注入攻击(GIA)的节点分类,它注入假节点到原始图退化的性能图神经网络(GNNs)的某些受害者节点,而影响其他节点尽可能少。我们证明了GIA问题可以等价地表示为图聚类问题;因此,邻接矩阵的离散优化问题可以在图聚类的背景下得到解决。特别是,我们建议通过对抗性脆弱性度量来测量受害者节点之间的相似性,这与受害者节点将如何受到注入的假节点的影响有关,并相应地对受害者节点进行聚类。我们的攻击是在一个实际的和不引人注意的基于查询的黑盒的方式,只有几个节点上的图,可以访问。理论分析和大量的实验表明,我们的方法愚弄节点分类器只有少量的查询的有效性。
2022-06-24 cs.AI cs.CR cs.LG
Coupled-Space Attacks against Random-Walk-based Anomaly Detection
The Hong Kong Polytechnic University(香港理工大学);New York University Abu Dhabi(纽约大学阿布扎比分校);University of Warsaw(华沙大学);IDEAS NCBR(IDEAS国家研究与发展中心)
本文研究了基于随机游走的异常检测(RWAD)的耦合空间攻击漏洞,通过双层优化提出图空间攻击策略,并利用其结果指导设计更强的特征空间攻击,实验证明在有限预算下能有效降低目标节点异常分数。
2023-10-24 cs.AI cs.CR
BinarizedAttack: Structural Poisoning Attacks to Graph-based Anomaly Detection
The Hong Kong Polytechnic University(香港理工大学);Michigan State University(密歇根州立大学)
基于图的异常检测(GAD)由于图的强大表示能力以及图挖掘技术的最新进展而变得越来越普遍。这些GAD工具,然而,暴露了一个新的攻击面,具有讽刺意味的是,由于其独特的优势,能够利用数据之间的关系。也就是说,攻击者现在可以操纵这些关系(即,图的结构)以允许某些目标节点逃避检测。在本文中,我们利用这个漏洞,设计了一种新型的有针对性的结构中毒攻击的代表性的基于回归的GAD系统称为OddBall。特别地,我们制定了对OddBall的攻击作为一个双层优化问题,其中的关键技术挑战是有效地解决离散域中的问题。提出了一种基于梯度下降的二值化攻击方法。与现有技术相比,BinarizedAttack可以更好地利用梯度信息,使其特别适合于解决组合优化问题。此外,我们研究了BinarizedAttack的攻击转移性,通过使用它来攻击其他基于表示学习的GAD系统。我们的综合实验表明,BinarizedAttack是非常有效的,使目标节点逃避基于图的异常检测工具与有限的攻击者的预算,并在黑盒传输攻击设置,BinarizedAttack也被测试有效,特别是,可以显着改变节点嵌入学习的GAD系统。因此,我们的研究为研究一种针对依赖于图形数据的安全分析工具的新型攻击打开了大门。
2022-01-06 cs.CR cs.LG
Explainability-based Backdoor Attacks Against Graph Neural Networks
Delft University of Technology(代尔夫特理工大学);The University of Adelaide(阿德莱德大学)
后门攻击对神经网络模型构成了严重的威胁。后门模型会将攻击者嵌入的输入错误分类为攻击者选择的目标标签,而对其他良性输入则正常执行。已经有许多关于神经网络后门攻击的研究,但只有少数研究考虑了图神经网络(GNN)。因此,没有深入的研究来解释触发器注入位置对GNN上的后门攻击性能的影响。为了弥补这一差距,我们对GNN上的后门攻击的性能进行了实验研究。我们采用两种强大的GNN解释性方法来选择最佳的触发注入位置,以实现两个攻击目标-高攻击成功率和低清洁精度下降。我们在基准数据集和最先进的神经网络模型上的实验结果表明,该方法在选择触发器注入位置对GNN的后门攻击的有效性。例如,在节点分类任务中,使用GraphLIME选择的触发器注入位置的后门攻击达到了超过$84 \%$攻击的成功率,并且准确率下降小于$2.5 \%$
2021-07-13 cs.CR cs.LG
Attack Tree Generation via Process Mining
针对攻击树人工构建成本高的问题,提出基于流程挖掘算法从攻击日志自动生成可定制攻击树的方法,开发了支持RisQFLan格式输出的原型并通过协议攻击案例验证。
2024-09-12 cs.CR cs.FL
Unveiling the Threat of Fraud Gangs to Graph Neural Networks: Multi-Target Graph Injection Attacks Against GNN-Based Fraud Detectors
School of Computing, KAIST(韩国科学技术院计算机学院)
针对基于GNN的诈骗检测器的攻击研究不足问题,本文设计诈骗团伙串通伪装攻击场景,提出基于Transformer的多目标一次性图注入攻击模型MonTi,在真实案例中验证其优于现有方法。
2025-04-15 cs.AI cs.CR cs.LG
CleanGen: Mitigating Backdoor Attacks for Generation Tasks in Large Language Models
University of Washington(华盛顿大学);Western Washington University(西华盛顿大学)
本文提出CLEANGEN,一种轻量级推理时解码策略,通过识别并替换后门LLM中概率异常的可疑令牌,有效降低五种SOTA后门攻击的成功率,同时保持模型对良性查询的有用性。
2025-03-27 cs.AI cs.CR