Federated Cyber Defense: Privacy-Preserving Ransomware Detection Across Distributed Systems
针对跨组织数据共享的隐私限制与勒索软件检测难题,本文基于 Sherpa.ai FL 平台和 RanSAP 数据集评估了联邦学习,证明其能在保护本地数据隐私的同时,将检测准确率相对提升 9%,实现与集中式训练相当的跨系统防御性能。
2025-11-03 cs.AI cs.CR cs.DC
A Few-Shot Meta-Learning based Siamese Neural Network using Entropy Features for Ransomware Classification
勒索软件防御解决方案可以快速检测和分类不同的勒索软件类别,以制定快速响应计划,近年来需求量很大。尽管采用深度学习技术来提供自动化和自学习供应的适用性已在许多应用领域中得到证明,但勒索软件(和其他恶意软件)样本可用的数据的缺乏已被提出为开发有效的基于深度学习的解决方案的障碍。为了解决这个问题,我们提出了一个基于Few-Shot元学习的Siamese神经网络,它不仅可以检测勒索软件攻击,还可以将其分类为不同的类别。我们提出的模型利用直接从勒索软件二进制文件中提取的熵特征来保留与不同勒索软件签名相关的更细粒度的特征。这些熵特征被进一步用于以元学习方式使用预先训练的网络(例如VGG-16)来训练和优化我们的模型。与使用特征图像相比,这种方法生成更准确的权重因子,以避免通常与使用有限数量的训练样本训练的模型相关联的偏差。我们的实验结果表明,我们提出的模型是非常有效的,在提供一个加权的F1分数超过率>86%相比,
2022-04-10 cs.CR
Ransomware Detection Using Federated Learning with Imbalanced Datasets
针对联邦学习检测勒索软件时数据不平衡导致性能下降的问题,提出加权交叉熵损失函数的改进方案,实验证明其提升分类器性能。
2023-11-13 cs.CR
Detecting Ransomware Execution in a Timely Manner
United States Naval Academy(美国海军学院)
勒索软件自20世纪90年代初以来一直是一个持续的问题。近年来,勒索软件已经从传统的计算资源蔓延到网络物理系统和工业控制。我们设计了一系列实验,其中虚拟实例感染了勒索软件。我们对实例进行了检测,并收集了各种指标(CPU、内存、磁盘实用程序)的资源利用率数据。我们设计了一种用于识别勒索软件执行的变点检测和学习方法。最后,我们评估并证明了它在最小样本集上训练时及时有效地检测勒索软件的能力。我们的研究结果代表了国防向前迈出的一步,我们最后对前进的道路作了进一步的评论。
2022-01-12 cs.CR cs.LG
Ransomware and Artificial Intelligence: A Comprehensive Systematic Review of Reviews
Rajamangala University of Technology Phra Nakhon(皇家理工大学叻那那空校区);Rajamangala University of Technology Rattanakosin Wang Klai Kangwon Campus(皇家理工大学拉达纳哥信哇集康旺校区);Phetchabun Rajabhat University(碧差汶皇家大学);King Mongkut's University of Technology North Bangkok(泰国国王科技大学北曼谷校区);Suranaree University of Technology(素攀那瑞科技大学)
本文综述了过去五年中人工智能在勒索软件防御中的应用,探讨了AI在检测、预防和缓解策略中的作用,分析了混合模型、异常检测及挑战,并提出未来研究方向和实践建议。
2026-03-14 cs.CR eess.SP
Jupyter Notebook Attacks Taxonomy: Ransomware, Data Exfiltration, and Security Misconfiguration
本文首次系统提出针对 Jupyter Notebook 的网络攻击分类法,涵盖勒索软件、数据窃取、安全配置错误和资源滥用,并设计了审计 Jupyter 的框架以提升对 AI 驱动及量子威胁的防御可见性。
2024-09-28 cs.CR cs.NI
Cyber-Physical Security Vulnerabilities Identification and Classification in Smart Manufacturing -- A Defense-in-Depth Driven Framework and Taxonomy
本文针对智能制造中传统漏洞定义忽视物理与人员维度的问题,提出基于漏洞与防御二元性的制造专用纵深防御模型,并据此建立首个智能制造网络物理漏洞分类法,为系统与过程层面的漏洞治理提供结构化框架。
2025-06-04 cs.CR
Towards a Systematic Taxonomy of Attacks against Space Infrastructures
University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
本文提出首个系统性攻击分类,旨在提升空间基础设施的抗攻击能力,填补现有研究空白。
2026-04-09 cs.CR
Taxonomy and Challenges of Out-of-Band Signal Injection Attacks and Defenses
最近的研究表明,传感器测量的完整性可以通过带外信号注入攻击来侵犯。这些攻击的目标是从物理量到模拟属性的转换过程-一个根本无法验证的过程。因此,带外信号注入攻击通过利用传感器本身或其与微控制器的接口中的硬件缺陷来构成以前未被探索的安全风险。针对这一主题中不断增长但不连贯的文献,本文首次对带外信号注入攻击进行了调查。它的重点是统一他们的术语,并确定其原因和影响的共性,通过时间顺序,进化和主题分类的攻击。通过强调不同类型的带外信号注入之间的交叉影响,本文强调了无论攻击方法如何,都需要一种通用语言。通过将攻击和防御机制置于侧通道泄漏和电磁干扰的双重对应物的更广泛背景下,本研究确定了可以帮助指导和告知未来研究的共同线索和差距。总的来说,对嵌入在日常商品设备中的传感器的依赖越来越大,需要更加关注提高此类系统的安全性,以防止带外信号注入攻击。
2020-03-16 cs.CR
Towards resilient machine learning for ransomware detection
Intel Labs(英特尔研究院)
人们对使用机器学习(ML)通过动态行为自动检测恶意软件的兴趣激增。与传统的恶意软件分析方法相比,这些方法在大规模的检测率和更低的误报率方面取得了显着的提高。威胁检测中的ML已被证明是保护平台安全的好警察。然而,必须评估-ML驱动的安全性是否足够弹性?在本文中,我们通过一个案例研究,通过生成对抗网络(GAN)评估勒索软件检测的弹性,将ML算法的弹性和可信度并列起来。在本案例研究中,我们建议使用GAN自动生成动态特征,这些特征表现出广义的恶意行为,可以降低黑盒勒索软件分类器的功效。我们通过比较这些样本与真实勒索软件和良性软件的统计相似性来检查GAN生成的样本的质量。此外,我们还研究了GAN生成的样本所在的潜在子空间,并探讨了这些样本导致某类勒索软件分类器性能下降的原因。我们的重点是强调在部署到野外之前,对基于ML的勒索软件检测方法进行必要的防御改进。我们的研究结果和发现应该为捍卫者提出相关问题,例如如何使ML模型更具弹性,以实现安全目标的强大执行。
2019-05-16 cs.CR cs.LG stat.ML
STRIKE: A Structured Taxonomy of Cybercrime for Risk, Impact, Knowledge, and Evolution
Troy University(特洛伊大学)
本文提出STRIKE框架,用于分类网络犯罪,涵盖传统和新兴领域,提供多维分析方法以应对复杂威胁。
2026-05-15 cs.CR
Taxonomy, Evaluation and Exploitation of IPI-Centric LLM Agent Defense Frameworks
The Hong Kong University of Science and Technology(香港科技大学);Zhejiang University of Technology(浙江工业大学);Lingnan University(岭南大学);School of Cyber Science and Engineering, Southeast University(东南大学计算机科学与工程学院);ZTE Corporation(中兴通讯有限公司)
本文针对现有以IPI为核心的LLM智能体防御框架零散、缺乏统一评估的问题,构建分类体系、评估代表性框架,识别防御失效根因并设计自适应攻击验证缺陷,为后续防御研发提供支撑。
2025-11-19 cs.AI cs.CR
Protocol-Level Attacks on Agentic Commerce Platforms: A Cross-Platform Taxonomy, AIP-Bench, and Unified Defense
Ariel Cyber Innovation Center, Ariel University(阿里尔网络创新中心,阿里尔大学)
研究智能商务平台协议层安全问题,识别出33个结构性漏洞。贡献分类法,构建AIP-Bench基准和PCAT防御机制,将部分结构类攻击成功率降至零,强调协议层安全防护的重要性。
2026-07-27 cs.CR
A Taxonomy of Attacks and Defenses in Split Learning
Bilkent University(巴伊利安大学);Koç University(科卡大学)
本文针对分割学习提出一个沿策略、约束和有效性三维度分类的攻击与防御体系,并指出开放挑战与未来方向。
2025-05-09 cs.CR cs.LG
Three Decades of Deception Techniques in Active Cyber Defense -- Retrospect and Outlook
欺骗技术已被广泛视为网络防御的游戏规则改变者。在本文中,我们回顾了从20世纪80年代末到2021年的蜜罐,蜜罐和移动目标防御中的代表性技术。这三个领域的技术相互补充,可以用来建立一个整体的欺骗为基础的防御。然而,据我们所知,还没有一个工作,提供了一个系统的回顾这三个领域都在一起,并调查他们的综合使用精心策划的欺骗。本文旨在填补这一空白。通过利用一个定制的网络杀伤链模型,可以反映当前的威胁景观和一个四层欺骗堆栈,一个二维的分类法,在此基础上的欺骗技术进行分类。分类法从字面上回答了这些技术可以破坏网络攻击活动的哪些阶段以及它们属于欺骗堆栈的哪些层。网络防御者可以使用分类法作为参考,以设计一个有组织的和全面的欺骗计划,或优先考虑欺骗工作的预算意识的解决方案。我们还讨论了实现主动和弹性网络防御的两个要点,即深度欺骗和欺骗生命周期,其中说明了几个值得注意的建议。最后,对未来的研究方向进行了展望,包括不同欺骗技术的动态集成、量化欺骗效果和欺骗运行成本、硬件支持的欺骗技术以及基于对人的因素更好理解的技术。
2021-04-08 cs.CR
MCP-DPT: A Defense-Placement Taxonomy and Coverage Analysis for Model Context Protocol Security
Old Dominion University(老道明大学)
本文提出MCP-DPT框架,分析模型上下文协议的安全性,识别防御点并揭示架构不匹配导致的安全漏洞。
2026-04-08 cs.AI cs.CR
Backdoor Threats in Variational Quantum Circuits: Taxonomy, Attacks, and Defenses
Indiana University(印第安纳大学)
本文探讨了变分量子电路中后门攻击的分类、攻击方式及防御措施,分析了现有检测与防御方法的局限性,并提出了未来研究方向。
2026-05-13 cs.CR quant-ph
A Formal Security Framework for MCP-Based AI Agents: Threat Taxonomy, Verification Models, and Defense Mechanisms
University of the Cumberlands(坎伯兰大学);Youngstown State University(扬斯敦州立大学)
本文提出MCPSHIELD框架,通过威胁分类、验证模型和防御机制系统分析MCP代理生态系统的安全问题,实现91%的理论覆盖。
2026-04-07 cs.AI cs.CR
Cybersecurity of High-Altitude Platform Stations: Threat Taxonomy, Attacks and Defenses with Standards Mapping - DDoS Attack Use Case
Ecole Polytechnique de Tunisie(突尼斯高等理工学院);Technology Innovation Institute(技术创新研究所);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文针对非地面网络新兴节点HAPS的网络安全问题,提出适配平流层的威胁分类体系,梳理可行防御方案并映射相关标准,通过OMNeT++/INET仿真分析DDoS攻击影响,为实际部署提供工程参考。
2025-11-16 cs.CR cs.NI
A Survey on Security Metrics
安全指标的重要性怎么强调都不过分。尽管在过去的几十年里,学术界、政府和工业界都给予了极大的关注,但这一重要问题仍然顽固地悬而未决。在这项调查中,我们提出了一个关于安全度量知识的调查。该调查集中在一个新的分类法,将安全指标分为四类:度量系统漏洞的指标,度量防御的指标,度量威胁的指标,度量情况。分类法的基本观点是,情况(或网络攻击-防御交互的结果)是由针对具有某些漏洞(包括人为因素)并采用某些防御措施的系统的某些威胁(或攻击)引起的。除了系统地回顾文献中提出的安全指标外,我们还讨论了最先进的技术与最终目标之间的差距。
2016-01-20 cs.CR
SoK: Systematizing Generation, Characteristics, and Defenses in LLM-Generated Phishing
Monash University(莫纳什大学);CSIRO Technology(联邦科学与工业研究组织技术)
本文首次全面分析大语言模型生成的钓鱼内容,揭示其逃避检测、强调人类认知操控的特点,并指出防御策略与生成方法间的不对称性。
2026-09-01 cs.CR
A Systematic Literature Review on LLM Defenses Against Prompt Injection and Jailbreaking: Expanding NIST Taxonomy
Universidade do Estado de Santa Catarina (UDESC)(圣卡塔琳娜州立大学)
本文系统回顾了针对提示注入和劫持攻击的LLM防御措施,扩展了NIST分类,并提供了全面的防御目录和指南。
2026-01-29 cs.AI cs.CL cs.CR
Analysis of the LockBit 3.0 and its infiltration into Advanced's infrastructure crippling NHS services
本文分析 LockBit 3.0 勒索软件的攻击技术及其对 Advanced 的渗透,揭示社会工程学是关键入口,并建议优先改进检测系统而非预防系统。
2023-08-10 cs.CR
SOK: A Taxonomy of Attack Vectors and Defense Strategies for Agentic Supply Chain Runtime
Independent Researcher(独立研究者)
本文系统化了现有研究,提出统一的运行时框架,区分数据和工具供应链攻击,并识别出病毒代理循环现象,主张采用零信任运行时架构。
2026-04-19 cs.AI cs.CR
The Landscape of Prompt Injection Threats in LLM Agents: From Taxonomy to Analysis
UCLA(加州大学洛杉矶分校);NTU(南洋理工大学);NVIDIA(英伟达)
本文综述了大语言模型代理中提示注入威胁的分类与分析,提出AgentPI基准以评估依赖上下文交互的代理行为,揭示现有防御的局限性并提出未来研究方向。
2026-02-11 cs.CL cs.CR
A Useful Taxonomy for Adversarial Robustness of Neural Networks
Naval Center for Applied Research in Artificial Intelligence(海军人工智能应用研究中心);U.S. Naval Research Laboratory(美国海军研究实验室)
对抗攻击和防御目前是深度学习社区的活跃研究领域。最近的一篇综述论文将防御方法分为三类:梯度掩蔽,鲁棒优化和对抗性示例检测。我们对梯度掩蔽和鲁棒优化进行了不同的划分:(1)增加特征向量的类内紧凑性和类间分离提高了对抗鲁棒性,(2)边缘化或去除非鲁棒图像特征也提高了对抗鲁棒性。通过以不同的方式重新构建这些主题,我们提供了一个新的视角,可以深入了解能够训练更强大的网络的潜在因素,并有助于激发新的解决方案。此外,在对抗性防御的文献中有几篇论文声称对抗性鲁棒性是有代价的,或者鲁棒性和准确性之间的权衡,但是,根据这个建议的分类法,我们假设这不是普遍的。我们在分类法的基础上,对建立在本文中的联系和见解基础上的深度学习研究社区提出了几个挑战。
2019-10-23 cs.CR cs.CV cs.LG
HSM and TPM Failures in Cloud: A Real-World Taxonomy and Emerging Defenses
本文通过真实世界案例提出云中HSM和TPM攻击分类法,评估机密计算、后量子密码和去中心化密钥管理等新兴防御,强调分层上下文感知的防护策略。
2025-08-07 cs.CR cs.NI cs.SE
Poisoning Attacks and Defenses in Federated Learning: A Survey
Deakin University(迪肯大学)
联邦学习(FL)能够在分布式客户端之间训练模型,而不会损害训练数据集的隐私,但客户端数据集和训练过程的不可见性会带来各种安全威胁。本调查提供了中毒攻击的分类和实验评估,以讨论健壮的FL的必要性。
2023-01-14 cs.CR cs.LG
Security in the Era of Perceptive Networks: A Comprehensive Taxonomic Framework for Integrated Sensing and Communication Security
CSIRO Data61(CSIRO数据六十一)
本文提出了一种综合性分类框架,用于集成感知与通信安全,涵盖威胁分类、漏洞分析、防御机制及新兴安全挑战,为安全系统开发和政策制定提供参考。
2026-01-04 cs.CR
A Game-Theoretic Taxonomy and Survey of Defensive Deception for Cybersecurity and Privacy
对数据库和关键基础设施的网络攻击威胁到公共和私营部门。无处不在的跟踪和可穿戴计算侵犯了隐私。倡导者和工程师最近提出使用防御性欺骗作为一种手段,利用攻击者通常享有的信息不对称作为防御者的工具。然而,欺骗一词的使用范围很广,含义也多种多样。在本文中,我们调查了2008-2018年的24篇文章,这些文章使用博弈论来模拟网络安全和隐私的防御性欺骗。然后,我们提出了一个分类法,定义了六种类型的欺骗:扰动,移动目标防御,混淆,混合,蜂蜜-X和攻击者的参与。这些类型由它们的信息结构、代理人、行动和持续时间来描述:这些正是博弈论所捕捉的概念。我们的目标是严格定义类型的防御性欺骗,捕捉快照的文献状态,提供一个菜单的模型,可用于应用研究,并确定有前途的领域,为未来的工作。我们的分类法为理解网络安全和隐私中常见的不同类型的防御性欺骗提供了系统的基础。
2019-05-22 cs.CR
Adversarial Defense in Cybersecurity: A Systematic Review of GANs for Threat Detection and Mitigation
本文系统综述2021年至2025年8月基于 GAN 的网络安全对抗防御,提出四维分类法并评估其成效、挑战与未来路线图。
2026-09-30 cs.AI cs.CR
Backdoor Attacks and Defenses in Computer Vision Domain: A Survey
本综述系统梳理计算机视觉后门攻击与防御,提出多维度分类法,总结代表性方法,识别供应链与硬件威胁等研究空白,并给出威胁感知评估与分层防御的实用指南。
2025-09-09 cs.CR
Dealing Doubt: Unveiling Threat Models in Gradient Inversion Attacks under Federated Learning, A Survey and Taxonomy
Massachusetts Institute of Technology(麻省理工学院);Oak Ridge National Lab(橡树岭国家实验室)
本文针对现有梯度反转攻击综述多聚焦诚实但好奇服务器模型的不足,提出聚焦恶意服务器与客户端场景的梯度反转攻击综述及分类体系,梳理攻防与评估指标,揭示恶意攻击的突破方式并展望未来方向。
2024-05-16 cs.AI cs.CR
Insight into Insiders and IT: A Survey of Insider Threat Taxonomies, Analysis, Modeling, and Countermeasures
内部威胁是当今最具挑战性的网络安全问题之一,常用的安全解决方案无法很好地解决这些问题。尽管在这一领域发表了一些科学著作,我们认为,该领域可以受益于拟议的结构分类和新颖的分类研究,有助于组织和消除歧义的内部威胁事件和防御解决方案。我们分类的目的是系统化内部威胁研究的知识,同时利用现有的扎根理论方法进行严格的文献综述。所提出的分类描述了特定类别之间的工作流,包括:1)事件和数据集,2)攻击者分析,3)模拟和4)防御解决方案。特别注意的是内部威胁的定义和分类,我们提出了一个内部威胁事件的结构分类,这是基于现有的分类和5W1H问题的信息收集问题。我们的调查将加强研究人员在内部威胁领域的努力,因为它提供了:a)一种新的结构分类法,有助于对事件进行正交分类,并定义针对这些事件采用的防御解决方案的范围,b)关于可用于测试针对其他作品的新检测解决方案的公开可用数据集的更新概述,c)参考现有案例研究和框架,对内部人员的行为进行建模,以审查防御解决方案或扩展其覆盖范围,以及d)讨论可用于内部威胁领域推理的现有趋势和进一步研究方向。
2018-11-10 cs.CR cs.CY
A comprehensive survey on RPL routing-based attacks, defences and future directions in Internet of Things
该综述梳理2011-2024年物联网RPL路由相关的攻击与防御研究,提出新型攻击和防御分类法,分析评估工具适用性,指明研究挑战与方向。
2025-01-18 cs.CR
Deep Learning Model Inversion Attacks and Defenses: A Comprehensive Survey
本文全面综述了深度学习中的模型反演(MI)攻击与防御策略,提出了系统分类法,探讨了技术伦理影响及未来方向,并提供了包含论文、数据集和评估指标的持续维护资源库。
2025-04-30 cs.CR
From LLMs to MLLMs to Agents: A Survey of Emerging Paradigms in Jailbreak Attacks and Defenses within LLM Ecosystem
该综述系统梳理LLM生态从单模态到多模态再到智能体演进中的越狱攻击与防御体系,弥补现有综述在智能体安全、混合攻击分类等方面的不足,提出未来研究方向以助力构建更具韧性的防御策略。
2025-08-01 cs.CR
Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
近年来,机器学习算法,更具体地说,深度学习算法,已经广泛应用于包括网络安全在内的许多领域。然而,机器学习系统容易受到对抗攻击,并且这限制了机器学习的应用,特别是在非静止的对抗性环境中,诸如网络安全领域,其中实际的对手(例如,恶意软件开发者)存在。本文全面总结了针对基于机器学习技术的安全解决方案的对抗攻击的最新研究,并说明了它们带来的风险。首先,对抗攻击方法的特点是基于他们的发生阶段,攻击者的目标和能力。然后,我们分类的对抗攻击和防御方法在网络安全领域的应用。最后,我们强调了最近研究中发现的一些特征,并讨论了其他对抗性学习领域的最新进展对网络安全领域未来研究方向的影响。本文首次讨论了在网络安全领域实施端到端对抗攻击的独特挑战,将其映射到统一的分类中,并使用分类突出未来的研究方向。
2021-03-13 cs.CR cs.LG stat.ML
Membership Inference Attacks and Defenses in Federated Learning: A Survey
本文针对联邦学习场景下成员推理攻击与防御研究缺乏全面最新综述的空白,对相关攻击与防御策略分类梳理,分析不同方法优劣并提出未来研究方向。
2024-12-09 cs.CR
A Comprehensive Survey of Advanced Persistent Threat Attribution: Taxonomy, Methods, Challenges and Open Research Problems
本文针对现有自动化APT归因研究缺乏系统梳理的问题,构建了归因要素分类体系,梳理了相关数据集与方法,分析了现有研究的优劣、挑战及开放问题,为该领域后续研发提供基础。
2024-10-06 cs.CR
Security Defense For Smart Contracts: A Comprehensive Survey
本综述提出五维分类体系,系统分类133个智能合约威胁缓解方案,统一其工作流程并绘制漏洞覆盖图,为安全开发者提供开源注册表。
2023-05-09 cs.CR cs.DC
Edge Learning for 6G-enabled Internet of Things: A Comprehensive Survey of Vulnerabilities, Datasets, and Defenses
本文综述了6G物联网中边缘学习面临的漏洞与防御,系统分类了八类攻击并比较了防御方法,为未来研究提供了全面参考。
2024-02-08 cs.CR
RL and Fingerprinting to Select Moving Target Defense Mechanisms for Zero-day Attacks in IoT
University of Murcia(穆尔西亚大学);University of Zurich(苏黎世大学);armasuisse Science & Technology(瑞士阿马苏斯科学技术局)
针对IoT单板计算机的零日攻击,提出基于在线强化学习和行为指纹识别的框架,动态选择移动目标防御机制,在真实场景中有效缓解异构恶意攻击且资源开销低。
2022-12-30 cs.AI cs.CR
Adversarial Diffusion Across Modalities: A Fusion Survey of Attacks, Defenses, and Evaluation for Text, Vision, and Vision-Language Models
Information and Computer Science Department, King Fahd University of Petroleum & Minerals(国王法赫德石油矿物大学信息与计算机科学系);College of Computer Science and Information Technology, Imam Abdulrahman Bin Faisal University(伊玛目阿卜杜勒拉赫曼·本·法伊塞尔大学计算机科学与信息科技学院);SDAIA-KFUPM Joint Research Center for Artificial Intelligence, King Fahd University of Petroleum & Minerals(SDAIA-KFUPM人工智能联合研究中心,国王法赫德石油矿物大学)
本文整合了文本、图像分类器和视觉-语言模型上的对抗攻击与防御研究,提出统一分类法和评估框架,并识别了当前文献中的五个常见弱点。
2026-06-26 cs.CL cs.CR
Deep Learning Latency Attacks and Defenses: A Cross-Domain Survey of Availability Threats
Hofstra University(霍夫斯特拉大学);Umeå University(于默奥大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
本综述统一跨领域延迟攻击,按计算瓶颈分类,提出工作预算防御抽象,并分析系统级可用性故障条件,提供威胁模型分类和开放挑战。
2026-09-30 cs.CR
Identifying Appropriate Intellectual Property Protection Mechanisms for Machine Learning Models: A Systematization of Watermarking, Fingerprinting, Model Access, and Attacks
SBA Research(SBA研究中心);Vienna University of Technology(维也纳工业大学)
本文系统化梳理机器学习知识产权保护中的威胁、攻击与防御,提出统一威胁模型和分类法,以衔接机器学习与安全社区研究。
2023-04-22 cs.AI cs.CR cs.LG
A Survey on Backdoor Threats in Large Language Models (LLMs): Attacks, Defenses, and Evaluations
City University of Hong Kong(香港城市大学);Hon Hai Research Institute(鸿海研究院);Feng Chia University(逢甲大学)
本文综述了大语言模型中的训练时白盒后门攻击,系统分类了攻击与防御方法,旨在为未来研究提供指导并促进更稳健的LLMs发展。
2025-02-06 cs.AI cs.CR
A Survey on Adversarial Attacks and Defenses for Diffusion Models Across Multiple Modalities
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Stanford University(斯坦福大学);Georgia Institute of Technology(佐治亚理工学院);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文首次统一综述了图像、视频和3D三种模态下扩散模型的对抗攻击与防御,提出了以任务为中心的分类体系,并分析了评估设置,指出了开放挑战和未来方向。
2026-09-09 cs.CR cs.CV
Privacy and Robustness in Federated Learning: Attacks and Defenses
Sony AI(索尼人工智能);Nanyang Technological University(南洋理工大学);Deakin University(迪肯大学);Zhejiang University(浙江大学);Lehigh University(理海大学);WeBank(微众银行);Hong Kong University of Science and Technology(香港科技大学);University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
随着数据越来越多地存储在不同的孤岛中,社会越来越意识到数据隐私问题,传统的人工智能(AI)模型的集中训练正面临效率和隐私挑战。最近,联邦学习(FL)已经成为一种替代解决方案,并在这一新的现实中继续蓬勃发展。现有的FL协议设计已被证明容易受到系统内外的对手的攻击,从而损害数据隐私和系统鲁棒性。除了训练强大的全局模型外,设计具有隐私保证并能抵抗不同类型对手的FL系统至关重要。在本文中,我们对这一主题进行了首次全面调查。通过对FL概念的简要介绍和独特的分类,包括:1)威胁模型; 2)中毒攻击和防御鲁棒性; 3)推理攻击和防御隐私,我们提供了一个可访问的审查这一重要主题。我们强调了各种攻击和防御所采用的直觉,关键技术以及基本假设。最后,我们讨论了未来有前途的研究方向,走向强大的和隐私保护的联邦学习。
2022-01-19 cs.AI cs.CR
A Survey of Security Challenges and Solutions for Advanced Air Mobility and eVTOL Aircraft
Advanced Research and Technology, Collins Aerospace(柯林斯航空航天公司先进研究与技术部)
本文综述了先进空域机动与eVTOL飞行器面临的安全挑战,分析了现有漏洞及防御策略,并提出针对未来AAM系统的安全架构。
2026-01-20 cs.CR
A Survey on Model Extraction Attacks and Defenses for Large Language Models
University of Notre Dame(圣约翰大学);Florida State University(佛罗里达州立大学);Northwestern University(西北大学);Duke University(杜克大学);University of Southern California(南加州大学)
本综述系统梳理了针对大型语言模型的模型提取攻击与防御方法,提出分类体系与评估指标,并指出集成攻击与自适应防御等未来研究方向。
2025-06-26 cs.AI cs.CR cs.LG
Byzantine Attack and Defense in Cognitive Radio Networks: A Survey
协作频谱感知(CSS)中的拜占庭攻击(Byzantine attack),在文献中也被称为频谱感知数据伪造(SSDF)攻击,是认知无线电网络(CRN)成功的关键对手之一。近几年来,拜占庭攻防策略的研究越来越受到世界各国的重视。在本文中,我们提供了一个全面的调查和教程的拜占庭攻击和防御的CSS在CRN的最新进展。具体来说,我们首先简要介绍了CSS的一般读者,包括信号检测技术,假设检验和数据融合。其次,从拜占庭帝国对攻击的脆弱性、拜占庭帝国对防御的障碍以及拜占庭帝国的攻防博弈三个方面分析了拜占庭帝国攻防之间的矛盾关系。然后,我们提出了一个分类现有的拜占庭攻击行为,并详细说明了相应的攻击参数,这些参数决定了在哪里,谁,如何,以及何时发动攻击。接下来,从同构或异构场景的角度,我们对现有的防御算法进行了分类,并提供了一个关于最先进的拜占庭防御方案的深入教程,在文献中通常被称为鲁棒或安全的CSS。此外,我们强调了未解决的研究挑战,并描绘了未来的研究方向。
2015-04-06 cs.CR cs.IT cs.NI
JailbreakRadar: Comprehensive Assessment of Jailbreak Attacks Against LLMs
CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全研究中心)
本研究提出JailbreakRadar,大规模评估17种越狱攻击,建立分类法,在9个LLM和8种防御下测试,揭示启发式攻击成功率虽高但易被防御,为未来研究提供基准与见解。
2025-05-26 cs.AI cs.CL cs.CR
Poisoning Attacks and Defenses in Recommender Systems: A Survey
本综述从攻击者视角系统梳理了推荐系统中的投毒攻击流程(含设定目标、评估能力、分析架构与实施策略),并将防御策略分为数据过滤与鲁棒训练,指出了现有局限与未来方向。
2024-06-05 cs.CR cs.IR