Automated Cyber Defense with Generalizable Graph-based Reinforcement Learning Agents
Cybermonic LLC(Cybermonic公司);The George Washington University(乔治华盛顿大学)
本文将自动化网络防御建模为基于属性图的部分可观测马尔可夫决策问题,利用关系归纳偏置使强化学习智能体具备零样本泛化能力,在复杂多智能体环境中显著超越现有方法。
2025-09-19 cs.CR cs.LG
Automated Poisoning Attacks and Defenses in Malware Detection Systems: An Adversarial Machine Learning Approach
移动恶意软件的演变对智能手机安全构成了严重威胁。如今,复杂的攻击者可以通过污染训练数据来最大限度地破坏机器学习分类器,从而使最新的基于机器学习的恶意软件检测工具(如Drebin,DroidAPIMiner和MaMaDroid)无效。在本文中,我们探讨了构建精心制作的恶意软件样本的可行性;研究了机器学习分类器如何在三种不同的威胁模型下被误导;然后得出结论,将精心制作的数据注入训练数据会显着降低检测准确性。为了解决这个问题,我们提出了KuafuDet,这是一种两阶段的学习增强方法,通过对抗性检测来学习移动恶意软件。KuafuDet包括从训练集中选择和提取特征的离线训练阶段,以及利用第一阶段训练的分类器的在线检测阶段。为了进一步解决对抗性环境,这两个阶段通过自适应学习方案交织在一起,其中引入自动伪装检测器来过滤可疑的假阴性并将其反馈到训练阶段。我们最终证明,KuafuDet可以显着减少假阴性,并将检测精度提高至少15%。在超过250,000个移动应用程序上的实验表明,KuafuDet是可扩展的,并且可以作为一个独立的系统非常有效。
2017-10-31 cs.CR
Training Automated Defense Strategies Using Graph-based Cyber Attack Simulations
KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出基于 Meta Attack Language 攻击图模拟网络攻防环境,用强化学习训练防御智能体响应警报并执行防御措施,实验表明其优于启发式策略且可跨攻击者策略泛化,但大图性能下降。
2023-04-17 cs.CR cs.LG cs.NI
VetIoT: On Vetting IoT Defenses Enforcing Policies at Runtime
Syracuse University(雪城大学);Stony Brook University(石溪大学)
针对运行时策略执行的物联网防御方案审查不足、评估非统一的问题,提出高度自动化统一评估平台VetIoT,通过自动化事件模拟与结果比较复现并评估四种方案,提升可重复性与比较分析能力。
2025-09-23 cs.CR
Bounded Reasoning: Cognitive Hierarchy in Human-versus-AI Cyber Defense
Rutgers University(罗格斯大学)
本研究通过攻击图上的序贯网络防御博弈,比较人类与自动化防御者,发现人类适应行为符合前景理论,且仅用平均分数评估会掩盖有界推理的差异。
2026-10-06 cs.CR cs.HC cs.LG
Exorcising ''Wraith'': Protecting LiDAR-based Object Detector in Automated Driving System from Appearing Attacks
Fudan University(复旦大学)
自动驾驶系统依靠3D物体探测器从LiDAR点云中识别可能的障碍物。然而,最近的研究表明,对手可以用一些假点(即,出现攻击)。然而,通过去除统计异常值,现有的防御是针对特定攻击而设计的,或者受到预定义的启发式规则的影响。为了更全面的缓解,我们首先系统地检查最近出现的攻击的机制:它们的共同弱点是在制作假障碍物时观察到的,这些假障碍物(i)与真实障碍物相比在局部部分具有明显的差异,(ii)违反深度和点密度之间的物理关系。在本文中,我们提出了一种新的即插即用防御模块,该模块与经过训练的基于LiDAR的物体检测器一起工作,以消除伪造的障碍物,其中大部分局部部件具有低对象性,即,它在多大程度上属于真实物体。在我们的模块的核心是一个局部对象预测器,它显式地结合了深度信息来模拟深度和点密度之间的关系,并预测每个局部部分的障碍物的对象得分。大量的实验表明,我们提出的防御措施,消除了至少70%的汽车伪造的三个已知出现的攻击在大多数情况下,而以前的最好的防御,不到30%的伪造汽车被淘汰。同时,在相同的情况下,与现有的防御相比,我们的防御在汽车上产生的AP/精度开销更少。在百度Apollo开源系统上进行了基于仿真的闭环控制路测,验证了本文提出的防御方法的有效性。
2023-03-17 cs.AI cs.CR
Transforming Cyber Defense: Harnessing Agentic and Frontier AI for Proactive, Ethical Threat Intelligence
本文探讨智能体AI与前沿AI如何通过重构网络杀伤链、增强威胁情报及嵌入伦理治理,构建融合实时监控与自动化响应的主动、弹性网络防御体系。
2025-02-28 cs.CR
The Price of Pessimism for Automated Defense
Drexel University(德雷塞尔大学)
本研究以随机贝叶斯博弈为框架,探讨网络安全中不同攻击者知识建模假设的影响,发现防御方针对最坏情况而非最可能情况优化会产生次优结果,存在相应代价。
2024-09-28 cs.AI cs.CR
ZERO-APT: A Closed-Loop Adversarial Framework for LLM-Driven Automated Penetration Testing under Intelligent Defense
Zhejiang University of Technology(浙江工业大学)
提出ZERO-APT框架,通过集成可配置的LLM防御者、架构级因果一致性机制和专用裁判智能体,解决了LLM驱动渗透测试在真实性、一致性和可审计性方面的缺陷。
2026-06-04 cs.CR cs.MA
ADTool: Security Analysis with Attack-Defense Trees (Extended Version)
ADTool是一个免费的开源软件,使用攻击-防御树辅助图形建模和安全定量分析。ADTool的主要特点是易于创建、高效编辑和自下而上自动评估安全相关措施。该工具还支持使用攻击树、保护树和防御树,这些都是攻击-防御树的特定实例。
2013-06-11 cs.CR cs.GT
PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections
Google Cloud AI Research(谷歌云人工智能研究);Google(谷歌);Michigan State University(密歇根州立大学)
提出PI-Hunter自动化审计框架,通过构建源感知测试用例并迭代演化,主动暴露LLM智能体中的潜在提示注入漏洞,显著提升漏洞暴露和攻击面覆盖。
2026-06-12 cs.AI cs.CR
LLM Defenses Are Not Robust to Multi-Turn Human Jailbreaks Yet
Scale AI;UC Berkeley(加州大学伯克利分校)
本文通过构建包含2,912条提示的MHJ数据集,揭示多轮人类越狱攻击可使现有LLM防御的攻击成功率从个位数飙升至70%以上,并公开数据集与越狱策略汇编以推动更强防御研究。
2024-09-04 cs.CL cs.CR cs.CY
AutoPRAC: Automating Attack Discovery for PRAC-Based Rowhammer Defenses using Model Checkers
University of Toronto(多伦多大学)
提出AutoPRAC,首个使用模型检查器自动测试PRAC防御安全性的方法,发现MOAT防御中计数器重置策略的漏洞,允许34次激活未被检测。
2026-06-24 cs.CR
NNSplitter: An Active Defense Solution for DNN Model via Automated Weight Obfuscation
Northeastern University(东北大学);UC Riverside(加州大学河滨分校)
本文提出 NNSplitter,利用自动化权重混淆和可信执行环境将 DNN 拆分为混淆模型与模型秘密,以极少权重修改实现主动 IP 保护并抵御微调等攻击。
2023-08-16 cs.CR cs.LG
Cybersecurity Threats in Connected and Automated Vehicles based Federated Learning Systems
Ryerson University(瑞尔森大学)
联邦学习(FL)是一种机器学习技术,旨在跨分散的实体训练算法,保持其本地数据私有。无线移动网络允许用户与其他固定或移动用户通信。道路交通网络代表无线移动网络的基于基础设施的配置,其中互联和自动车辆(CAB)代表通信实体。在无线移动网络环境中应用FL会在移动环境中产生与传统固定网络截然不同的新威胁。这种威胁是由于无线介质的固有特性造成的,并且是由车辆网络的特性(例如,高节点移动性和快速变化的拓扑结构)引起的。大多数网络防御技术依赖于高度可靠和连接的网络。本文探讨了伪造的信息攻击,其目标是FL过程中正在进行的RSU。我们确定了恶意CAV执行的一些攻击策略,以破坏车辆网络中全局模型的训练。我们证明了攻击能够增加收敛时间并降低模型的准确性。我们证明了我们的攻击绕过FL防御策略的主要形式,并强调了在未来道路网络的无线移动环境中需要新的中毒弹性防御机制。
2021-06-03 cs.CR cs.LG
Machine Learning-Based Cyber Defense for Cloud Infrastructure: An Adaptive Deep Q-Network Architecture for Intelligent Intrusion Detection and Automated Threat Mitigation
Wilmington University(威尔明顿大学);Washington University of Science and Technology(华盛顿科技大学);South Dakota School of Mines & Technology(南达科他矿业理工学院);South Dakota State University(南达科他州立大学);St. Francis College(圣弗朗西斯学院);Stanton University(斯坦顿大学)
该研究针对云环境复杂网络攻击问题,提出自适应DQN网络防御框架,经CICIDS2017等数据集验证,其入侵检测与威胁缓解性能优于多种传统机器学习模型,展现出强化学习在云自主网络安全中的应用潜力。
2026-08-13 cs.AI cs.CR
A Lifecycle-Oriented Detection and Defense Framework for Price Manipulation Attacks in DeFi
Hainan University(海南大学)
该研究针对DeFi价格操纵攻击,基于预言机生命周期构建三层攻击树,结合Fuzzy-AHP与VaR量化风险,开发基于Slither的自动检测工具,提出多层防御策略,有效降低价格偏差且检测性能优于现有工具。
2026-08-18 cs.CR
Markov Decision Process For Automatic Cyber Defense
对于安全分析师来说,检测或防御网络攻击是一项挑战。此外,传统的防御部署方法需要安全分析人员在防御部署存在不确定性的情况下手动执行防御。因此,开发自动化和弹性防御部署机制以阻止新一代攻击至关重要。在本文中,我们提出了一个框架的基础上马尔可夫决策过程(MDP)和Q-学习自动生成最佳防御解决方案的网络系统状态。该框架由四个阶段组成,即模型初始化阶段、模型生成阶段、Q学习阶段和结论阶段。该模型收集真实的网络信息作为输入,然后将其构建为结构化数据。我们在模型中实现了一个Q学习过程,以学习特定状态下防御行动的质量。为了研究该模型的可行性,我们进行了仿真实验,结果表明,该模型可以降低网络系统的风险,从网络攻击。此外,实验表明,当使用不同的参数进行Q学习时,该模型表现出一定程度的灵活性。
2022-07-13 cs.CR
Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems
Application & Threat Intelligence Research Center(应用与威胁情报研究中心)
本文通过概率模型分析智能体AI系统的攻击-防御场景,提出“检测-误导”策略(如CMPE)以替代传统“检测-拦截”方法,通过产生误导性响应降低攻击者成功率,并在基准测试中将攻击成功率上限降低两个数量级。
2026-10-02 cs.AI cs.CR
The MAL Simulator: Cyber Operations Simulation based on Attack & Defense Graphs
KTH Royal Institute of Technology(KTH皇家理工学院)
本文介绍基于元攻击语言的MAL模拟器,用于决策驱动的攻防仿真,通过案例研究训练攻防智能体,验证了攻击效率与防御成本优势,并强调模拟器对智能体训练的重要性。
2026-09-16 cs.AI cs.CR
AutoJailbreak: Exploring Jailbreak Attacks and Defenses through a Dependency Lens
本文通过依赖关系视角系统分析LLM越狱攻击与防御,提出AutoAttack、AutoDefense和AutoEvaluation三个自动化框架,并设计集成攻击与混合防御方法,实验证明其显著优于现有研究。
2024-06-06 cs.CR
Unintentional Security Flaws in Code: Automated Defense via Root Cause Analysis
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本文针对初级开发者难以定位漏洞根因的问题,提出结合 T5 与图卷积网络的自动化根因分析工具 T5-RCGCN,实验表明其可将代码安全性提升 28.9%,并促进开发者长期安全能力成长。
2024-08-30 cs.CR cs.LG cs.SE
Backdoor Defense in Federated Learning Using Differential Testing and Outlier Detection
University of California, San Diego(加州大学圣地亚哥分校)
联邦学习(FL)的目标是通过聚合在边缘设备上独立更新的模型参数来训练一个全局模型,而无需访问用户的私有数据。然而,FL容易受到后门攻击,其中一小部分恶意代理通过将污染的模型更新上传到服务器来在全局模型中注入有针对性的误分类行为。在这项工作中,我们提出了DiffFense,一个自动化的防御框架,以保护FL系统从后门攻击,利用差分测试和两步MAD离群值检测,而不需要任何以前的知识的攻击场景或直接存取本地模型参数。我们的经验表明,我们的检测方法可以防止各种数量的潜在攻击者,同时始终实现全局模型的收敛,与联邦平均(FedAvg)下训练的模型相当。我们进一步证实了我们的方法对以前的防御技术,如多克鲁姆和坐标明智的中位数聚合的有效性和普遍性。我们的检测方法将全局模型的平均后门准确率降低到4%以下,并实现了零的误报率。
2022-02-21 cs.CR cs.LG
Defending Root DNS Servers Against DDoS Using Layered Defenses
分布式拒绝服务(DDoS)攻击会耗尽资源,使合法客户端无法使用服务器。域名系统(DNS)是DDoS攻击的常见目标。由于DNS是一项关键的基础设施服务,因此保护其免受DoS攻击势在必行。许多先前的方法集中于特定的过滤器或反欺骗技术以保护通用服务。DNS根域名服务器的保护更具挑战性,因为它们使用固定的IP地址,为非常多样化的客户端和请求提供服务,主要接收可能被欺骗的UDP流量,并且必须保证高服务质量。在本文中,我们提出了一个分层的DDoS防御DNS根域名服务器。我们的防御使用了一个防御过滤器库,可以针对不同的攻击类型进行优化,具有不同的选择性。我们还提出了一种方法,自动和不断评估,并选择整个攻击的过滤器的最佳组合。我们表明,这种分层的防御方法提供了特殊的保护,对所有的攻击类型使用的痕迹,从DNS根域名服务器的10个真正的攻击。我们的自动化系统可以在几秒钟内选择最佳防御,并在可管理的范围内快速减少服务器的流量,同时将附带损害保持在2%以下。我们可以处理数百万条过滤规则,而不会产生明显的操作开销。
2022-09-15 cs.CR cs.NI
Jailbreaking LLMs & VLMs: Mechanisms, Evaluation, and Unified Defense
School of Cyberspace Security, Beijing University of Posts and Telecommunications(北京邮电大学网络空间安全学院);China Academy of Information and Communications Technology(中国信息通信研究院)
本文提出三维框架系统回顾大语言模型和视觉语言模型的突破攻击与防御机制,提出统一防御原则并讨论未来研究方向。
2026-01-07 cs.CR
DeepFense: Online Accelerated Defense Against Adversarial Deep Learning
University of California San Diego(加州大学圣地亚哥分校)
对抗性深度学习(DL)的最新进展为恶意攻击开辟了一个基本上未被探索的领域,这些恶意攻击危及自主DL系统的完整性。随着DL在关键和时间敏感的应用中的广泛使用,包括无人驾驶汽车,无人机和视频监控系统,恶意输入的在线检测至关重要。我们提出了DeepFense,这是第一个端到端的自动化框架,可以同时实现DL模型的高效和安全执行。DeepFense将挫败对抗攻击的目标形式化为一个优化问题,最小化DL网络所覆盖的潜在特征空间中很少观察到的区域。为了解决上述最小化问题,训练一组互补但不相交的模块化冗余,以与受害者DL模型并行地验证输入样本的合法性。DeepFense利用硬件/软件/算法协同设计和自定义加速,在资源受限的环境中实现即时性能。所提出的对策是无监督的,这意味着没有对抗样本被利用来训练模块冗余。我们还提供了一个配套的API,以减少非经常性的工程成本,并确保自动适应各种平台。在FPGA和GPU上进行的广泛评估表明,在实现在线对抗样本检测的同时,性能提高了两个数量级。
2018-08-21 cs.CR cs.LG stat.ML
UNIT: Backdoor Mitigation via Automated Neural Distribution Tightening
Purdue University(普渡大学);University of Massachusetts at Amherst(马萨诸塞大学阿默斯特分校)
提出训练后防御方法UNIT,通过为每个神经元近似紧凑激活分布并消除异常大激活值,仅用5%干净数据有效缓解多种后门攻击,优于7种流行防御方法。
2024-07-16 cs.CR cs.CV
AutoRAN: Automated Hijacking of Safety Reasoning in Large Reasoning Models
Stony Brook University(石溪大学);Penn State University(宾夕法尼亚州立大学)
AutoRAN通过执行模拟方法,利用较弱但对齐差的模型模拟初始劫持尝试,并通过目标LRM的拒绝泄露的推理模式迭代优化攻击,从而绕过安全防护并扩展有害指令。
2026-04-16 cs.CR cs.LG
BlueSTAR: Tiered Agentic Architecture for Autonomous Cyber Defense
Northeastern University(东北大学);Dartmouth College(达特茅斯学院);Vanderbilt University(范德堡大学);Punch Cyber
BlueSTAR提出分层智能体架构,将安全遥测转为紧凑指标并引入韧性指标,在实时靶场上成功防御多种复杂攻击,兼顾快速遏制与上下文推理。
2026-09-11 cs.CR
Video Liveness for Citizen Journalism: Attacks and Defenses
公民新闻的影响提出了重要的视频完整性和可信度问题。在本文中,我们介绍了Vamos,这是第一个基于视频运动的用户透明视频“活性”验证解决方案,可适应摄像机的全方位移动,并支持任意长度的视频。Vamos使用视频运动和摄像机运动之间的一致性来证实视频的真实性。Vamos可以集成到任何移动视频捕获应用程序中,而无需特殊的用户培训。我们开发了针对活性验证解决方案的新型攻击。这些攻击利用了全自动算法和训练有素的人类专家。我们引入视频运动类别的概念来注释任意视频的相机和用户运动特性。我们表明,Vamos的性能取决于视频运动类别。尽管Vamos使用运动作为验证的基础,但我们观察到对相对“静止”的视频块进行攻击的惊人且看似违反直觉的弹性,这些视频块包含难以模仿的无意识运动。我们发现,Vamos在验证全长视频的任务上的总体准确性超过了93%。
2017-04-06 cs.CR
Prompt Injection Attack to Tool Selection in LLM Agents
本研究提出ToolHijacker新型提示注入攻击,通过注入恶意工具文档操纵LLM智能体工具选择以选恶意工具,实验证明其优于现有攻击且现有防御不足,凸显新防御策略开发的迫切性。
2025-08-24 cs.CR
In-Application Defense Against Evasive Web Scans through Behavioral Analysis
Florida International University(佛罗里达国际大学)
本文提出低开销应用内取证引擎 WebGuard,通过多模态行为监控及监督、无监督学习实时检测并归因自动化 Web 扫描器,显著提升检测速度与准确率。
2024-12-09 cs.CR cs.IT cs.LG
Automating Defense Against Adversarial Attacks: Discovery of Vulnerabilities and Application of Multi-INT Imagery to Protect Deployed Models
Auburn University(奥本大学);PeopleTec(PeopleTec公司)
图像分类是架空应用中机器学习的图像识别中的常见步骤。当应用流行的模型架构(如MobileNetV2)时,已知的漏洞会使模型暴露于反攻击,要么错误标记已知的类,要么改变框的位置。这项工作提出了一种自动化的方法来保护这些模型。我们评估使用多光谱图像阵列和集成学习器来对抗对抗攻击。原始贡献演示了攻击,提出了补救措施,并自动化了一些关键结果,以保护模型的预测免受对手的攻击。在粗略的类比,以捍卫网络,我们结合了技术从进攻(“红队”)和防御(“蓝队”)的方法,从而产生一个混合的保护结果(“绿队”)。对于机器学习,我们使用3色通道和车辆红外线来演示这些方法。结果发现漏洞,并纠正他们与补充数据输入常见的开销情况下,特别是。
2021-03-29 cs.CR cs.CV
Adversarial Attacks and Defenses in Fault Detection and Diagnosis: A Comprehensive Benchmark on the Tennessee Eastman Process
AIRI;ISP RAS Research Center for Trusted Artificial Intelligence(ISP RAS可信人工智能研究中心);Ivannikov Institute for System Programming of the Russian Academy of Sciences(俄罗斯科学院伊万尼科夫系统编程研究所);Moscow Institute of Physics and Technology (National Research University)(莫斯科物理技术学院(国家研究型大学))
本文基于田纳西-伊斯曼过程数据集,系统评估了三种神经网络在六种对抗攻击下的脆弱性,比较五种防御方法,并提出组合多种防御的新保护方案,为工业故障诊断中的机器学习安全提供基准与见解。
2024-06-07 cs.CR cs.LG cs.SY
Research on Virus Cyberattack-Defense Based on Electromagnetic Radiation
本文研究远程计算机病毒辐射注入的可行性,利用数字信号处理和相移键控将病毒比特流调制到太赫兹雷达载波上实现电磁“场到线”耦合攻击,并提出基于信号识别的防御及利用AI算法的自动化入侵检测方案。
2023-06-30 cs.CR eess.SP
MasterKey: Automated Jailbreak Across Multiple Large Language Model Chatbots
提出Jailbreaker框架,通过时间敏感的SQL注入启发方法逆向工程知名LLM聊天机器人的防御策略,并利用微调LLM自动生成越狱提示词,实现21.58%的平均成功率,显著提升自动化越狱攻击效果。
2023-10-25 cs.CR
AdaPhish: AI-Powered Adaptive Defense and Education Resource Against Deceptive Emails
United Nations University(联合国大学)
针对传统钓鱼邮件演练人工匿名化、仅限内部使用的局限,提出基于LLMs和向量数据库的AdaPhish平台,实现钓鱼邮件自动匿名分析、实时检测新策略及长期趋势跟踪,提供可扩展的协作式防御与教育方案。
2025-02-10 cs.AI cs.CR
FraudShield: Knowledge Graph Empowered Defense for LLMs against Fraud Attacks
Zhejiang University(浙江大学);University of California, Los Angeles(加州大学洛杉矶分校);OPPO Research Institute(OPPO研究院);Zhejiang Key Laboratory of Decision Intelligence(浙江决策智能重点实验室)
FraudShield通过构建欺诈战术-关键词知识图谱,提升LLM对抗欺诈攻击的能力,实验显示其在多个LLM和欺诈类型上表现优异,且提供可解释的防御线索。
2026-01-30 cs.AI cs.CL cs.CR
SoK: Systematizing LLM Prompt Security: Taxonomies, Datasets, and Unified Evaluation of Attacks and Defenses
University of Connecticut(康涅狄格大学);University of Alabama at Birmingham(阿拉巴马大学伯明翰分校);Independent(独立研究者)
研究大语言模型提示安全问题,提出相关分类法,形式化评估元数据,发布模块化平台,通过匹配评估揭示多种因素对安全结论有重大影响,支持可重复、成本感知且基于分类法的评估。
2026-10-20 cs.AI cs.CR
Towards Causal Models for Adversary Distractions
The MITRE Corporation(MITRE公司)
自动化对手模拟正在成为网络安全运营商测试和评估其网络防御的不可或缺的工具。与此同时,它暴露了对手通过网络传播的速度。虽然研究已经取得了很大的进展,质量诱饵生成愚弄人类对手,我们可能需要不同的策略来减缓计算机代理。在本文中,我们表明,诱饵代可以减缓自动代理的决策过程,但它被抑制的程度在很大程度上取决于所使用的对象的类型。这表明需要明确评估诱饵生成和放置策略,以应对快速移动的自动化对手。
2021-04-21 cs.AI cs.CR
Emerging Safety Attack and Defense in Federated Instruction Tuning of Large Language Models
Shanghai Jiao Tong University(上海交通大学);Peking University(北京大学);Shanghai AI Laboratory(上海人工智能实验室)
针对联邦指令微调中LLM安全对齐易受隐蔽攻击的问题,提出自动化攻击数据生成攻击及事后自动化防御流程,实验验证攻击显著降低安全率且防御可大幅恢复。
2024-06-15 cs.AI cs.CL cs.CR
AKRASIA: Stealthy Backdoor Attack on Reasoning-based Code LLMs
Singapore University of Technology and Design(新加坡科技设计大学);International Institute of Information Technology Bangalore(班加罗尔国际信息技术学院)
研究人员提出AKRASIA隐蔽后门攻击,针对基于推理的代码大语言模型,可实现高攻击成功率且能规避防御与人工检查,凸显了防御大语言模型推理后门的必要性。
2026-09-04 cs.CR
ICL-EVADER: Zero-Query Black-Box Evasion Attacks on In-Context Learning and Their Defenses
University of Science and Technology of China(中国科学技术大学);Shandong University(山东大学);Monash University(蒙纳士大学)
ICL-Evader提出零查询黑盒对抗攻击方法,揭示ICL的脆弱性并提供防御方案。
2026-01-29 cs.CR
MTDSense: AI-Based Fingerprinting of Moving Target Defense Techniques in Software-Defined Networking
本文提出MTDSense方法,通过无监督聚类识别软件定义网络中IP混洗MTD的触发间隔,揭示传统MTD易受针对性攻击,并提出两种减少信息泄露的MTD更新算法。
2024-08-07 cs.CR cs.NI
AEGIS : Automated Co-Evolutionary Framework for Guarding Prompt Injections Schema
Electrical Engineering, National Taiwan University(国家台湾大学电子工程系)
针对提示注入攻击,提出自动化协同进化框架AEGIS,通过文本梯度优化迭代攻防提示,显著提升攻击成功率与检测性能,验证了对抗训练的有效性。
2025-10-09 cs.AI cs.CR cs.LG
Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack
North Carolina State University(北卡罗来纳州立大学)
背景:基于机器学习的安全检测模型在现代恶意软件和入侵检测系统中已经变得普遍。然而,以前的研究表明,这种模型容易受到对抗性逃避攻击。在这种类型的攻击中,输入(即,对抗性示例)是由智能恶意对手特别制作的,目的是被现有技术水平的模型错误分类(例如,深度神经网络)。一旦攻击者可以欺骗分类器,使其认为恶意输入实际上是良性的,他们就可以使基于机器学习的恶意软件或入侵检测系统失效。目标:通过集成模型的思想,帮助安全从业者和研究人员构建一个更强大的模型来对抗非自适应、白盒和非针对性的对抗性规避攻击。方法:我们提出了一种名为Omni的方法,其主要思想是探索创建“意外模型”集合的方法;即,模型的控制超参数有一个大的距离对手的目标模型的超参数,我们然后做一个优化的加权集成预测。测试结果:在对五种安全数据集(NSL-KDD,CIC-IDS-2017,CSE-CIC-IDS 2018,CICAnd-Mal 2017和Contagio PDF数据集)进行的五种类型的对抗性规避攻击(FGSM,BIM,JSMA,DeepFool和Carlini-Wagner)的研究中,我们发现与其他基线治疗方法相比,Omni是一种很有前途的对抗对抗攻击的防御策略。结论:当采用集成防御对抗性逃避攻击时,我们建议使用与攻击者的预期模型(即,目标模型)通过超参数优化等方法。
2021-10-12 cs.CR cs.LG
From Sands to Mansions: Towards Automated Cyberattack Emulation with Classical Planning and Large Language Models
Northwestern University(西北大学);Zhejiang University(浙江大学);Hofstra University(霍夫斯特拉大学)
本文提出Aurora系统,结合经典规划与大语言模型,实现自动化网络攻击仿真,生成大规模数据集并验证其在入侵检测系统中的有效性。
2026-02-05 cs.CR
Autonomous Cyber Defense: Real-Time Attack Detection and Mitigation in Software-Defined Networks Using Machine Learning
Instituto Federal Catarinense(圣卡塔琳娜联邦学院)
针对当前网络攻击速度远超人工响应能力的问题,提出基于机器学习的SDN自主防御系统,通过NDC和IPS模块实现实时攻击检测与自动阻断,SYN洪水攻击响应时间达21秒。
2026-08-27 cs.CR cs.LG
AI-Driven Cybersecurity Threats: A Survey of Emerging Risks and Defensive Strategies
Bharat Institute of Engineering and Technology(印度海得拉尔邦坦达瓦纳技术工程学院);Vellore Institute of Technology(印度维洛雷技术学院)
本文调研了人工智能在网络安全中的新兴威胁与防御策略,分析了深度伪造、对抗性AI攻击等风险,并提出混合检测和基准框架等研究方向。
2026-01-06 cs.AI cs.CR
MEGA-PT: A Meta-Game Framework for Agile Penetration Testing
New York University(纽约大学)
本文提出元博弈渗透测试框架MEGA-PT,通过微观战术博弈与宏观策略过程实现分布式、自适应的敏捷自动化渗透测试,有效解决维度灾难与可扩展性问题。
2024-09-21 cs.AI cs.CR cs.GT
Moving Target Defense for Web Applications using Bayesian Stackelberg Games
Arizona State University(亚利桑那州立大学)
目前设计Web应用程序的复杂性使得软件安全性成为一个难以实现的目标。攻击者可以在Web上探索已部署的服务,并在自己的空闲时间进行攻击。Web应用程序中的移动目标防御(MTD)是一种有效的机制,可以抵消其侦察的优势,但框架在其Web堆栈的多个配置之间切换时需要一个良好的切换策略。为了解决这个问题,我们提出了一个真实世界的MTD Web应用程序的建模作为一个重复的贝叶斯游戏。然后,我们制定了一个优化问题,产生一个有效的切换策略,同时考虑不同的网络堆栈配置之间切换的成本。为了将这个模型到一个发达的MTD系统,我们开发了一个自动化系统,用于生成攻击集的常见漏洞和暴露(CVEs)的输入攻击者类型与预定义的功能。我们的框架通过使用从国家漏洞数据库(NVD)获得的CVE上的安全领域专业知识,在这个游戏中为玩家(防御者和攻击者)获得了现实的奖励值。我们还解决了优先处理漏洞的问题,当修复时,提高了MTD系统的安全性。最后,我们证明了我们提出的模型的鲁棒性,通过评估其性能时,有输入攻击者信息的不确定性。
2016-11-17 cs.AI cs.CR cs.GT
Automated Repeatable Adversary Threat Emulation with Effects Language (EL)
The MITRE Corporation(MITRE公司)
针对高级持续性威胁的多步攻击仿真,提出使用效果语言(EL)这一可视化编程语言,通过图操作语义实现自动化,并证明其执行属性,提高时间和资源效率。
2026-06-29 cs.CR cs.PL
Deep Learning Model Security: Threats and Defenses
Xi’an Jiaotong-Liverpool University(西交利物浦大学);Indiana University(印第安纳大学);The University of Texas at Dallas(德州大学达拉斯分校);Purdue University(普渡大学);National Tsing Hua University(国立清华大学);National Taiwan Normal University(国立台湾师范大学);Hong Kong University of Science and Technology(香港科技大学);University of Hawaii(夏威夷大学);AppCubic;Kyoto University(京都大学);Georgia Institute of Technology(佐治亚理工学院);Rutgers University(罗格斯大学);National University of Singapore(新加坡国立大学);Pingtan Research Institute of Xiamen University(厦门大学平潭研究院);University of Manchester(曼彻斯特大学);Aarhus University(奥胡斯大学);Imperial College London(伦敦帝国学院);School of Visual Arts(视觉艺术学院);Zhejiang University(浙江大学);University of Edinburgh(爱丁堡大学)
本综述系统梳理深度学习面临的安全威胁(对抗攻击、数据投毒等)及防御手段,并展望自动化防御与大型模型安全等未来方向。
2024-12-16 cs.CR cs.LG cs.SE
QueryCheetah: Fast Automated Discovery of Attribute Inference Attacks Against Query-Based Systems
Imperial College London(帝国理工学院);EPFL(洛桑联邦理工学院)
本文提出QueryCheetah方法,用于快速自动化发现针对基于查询系统的属性推断攻击,在发现更强攻击的同时比现有最先进方法快18倍,并支持全面隐私风险评估及发现绕过临时防御的攻击。
2024-09-03 cs.AI cs.CR