SoK: A Defense-Oriented Evaluation of Software Supply Chain Security
本文提出面向防御的AStRA模型,系统评估软件供应链安全,识别安全目标并验证,指出研究空白以促进安全设计工具开发。
2024-05-29 cs.CR
Exploitation of Human Trust, Curiosity and Ignorance by Malware
尽管互联网领域的防御性进步,但恶意软件(恶意软件)仍然是网络安全威胁。如今,恶意软件可以在互联网上购买和许可,以进一步定制和部署。每天都有数百种恶意软件变种被发现,组织和用户会因网络犯罪分子窃取财务和用户数据而遭受巨大的经济损失。在这篇文章中,调查了人类的特征,这些特征是恶意软件防御链的关键。这篇文章从人类经常成为牺牲品的攻击模型/载体及其后果开始。接下来,详细分析其根本原因并提出可能采用的预防措施。文章的结论是,虽然互联网用户的教育,培训,意识可以减少恶意软件攻击的机会,但它不能完全消除它们。
2020-02-26 cs.CR
A Lifecycle-Oriented Detection and Defense Framework for Price Manipulation Attacks in DeFi
Hainan University(海南大学)
该研究针对DeFi价格操纵攻击,基于预言机生命周期构建三层攻击树,结合Fuzzy-AHP与VaR量化风险,开发基于Slither的自动检测工具,提出多层防御策略,有效降低价格偏差且检测性能优于现有工具。
2026-08-18 cs.CR
Moving Target Defense for Service-oriented Mission-critical Networks
现代关键任务系统(MCS)越来越软件化和互连。因此,它们的复杂性增加,因此它们对网络攻击的脆弱性也增加。当前在MCS中采用的虚拟化和面向服务的架构(SOA)提供了额外的灵活性,可以利用这些灵活性来抵御和减轻攻击,例如,通过移动关键服务或数据流。这使得移动目标防御(MTD)策略的部署成为可能,这使得攻击者能够从MCS的长期侦察中剥离其不对称优势。然而,它是具有挑战性的设计MTD战略,考虑到不同的威胁景观,资源限制,并在服务可用性的潜在退化。在本文中,我们结合两个优化模型,探索可行的服务配置SOA为基础的系统,并推导出随后的MTD行动的时间表的基础上的攻击者-防御者的游戏。我们的研究结果表明,即使是具有挑战性和多样化的攻击场景,我们的模型可以保护系统高达90%的系统运行时间与有限的MTD防御预算。
2023-03-17 cs.CR cs.NI
Context-Auditor: Context-sensitive Content Injection Mitigation
跨站脚本(XSS)是过去十年中Web应用程序中最常见的漏洞类别。许多研究都集中在为这个问题构建漏洞利用缓解防御,但没有技术在面对高级攻击时提供足够的保护。一种绕过XSS缓解措施的技术是无脚本攻击:一种使用CSS和HTML注入(以及其他选项)渗透数据的内容注入技术。在研究这种技术和其他技术时,我们意识到,所有内容注入漏洞的利用(不仅包括XSS和无脚本攻击,还包括命令注入和其他几个漏洞)的共同属性是受害者程序的解析引擎中的意外上下文切换,这是由不受信任的用户输入引起的。在本文中,我们提出了Context-Auditor,一种新的技术,利用这种洞察力来识别内容注入漏洞,从XSS到无脚本攻击和命令注入。我们实现了Context-Auditor作为一个通用的解决方案,内容注入利用检测问题的形式灵活,独立的检测模块。我们将Context-Auditor的实例部署为(1)浏览器插件,(2)Web代理,(3)Web服务器插件,以及(4)作为潜在可注入系统端点的包装器。由于Context-Auditor针对的是内容注入攻击的根本原因(更具体地说,针对我们的原型、XSS攻击、无脚本攻击和命令注入),我们的评估结果表明,Context-Auditor可以识别和阻止现代防御无法识别和阻止的内容注入攻击,同时保持低吞吐量开销并避免误报。
2022-04-28 cs.CR
CWE-bench: Refocusing Agentic Security from Exploitation to Defense
该研究推出CWE-bench基准,针对智能体防御能力设计含多维度漏洞审计修复任务,验证其防御表现,发现智能体防御性能受漏洞类别影响更大,为评估智能体防御能力提供了严格标准。
2026-11-10 cs.AI cs.CR cs.SE
SODEXO: A System Framework for Deployment and Exploitation of Deceptive Honeybots in Social Networks
随着Facebook和Twitter等社交网站越来越受欢迎,越来越多的恶意攻击(如网络钓鱼和恶意软件)正在利用它们。在这些攻击中,社交僵尸网络拥有复杂的基础设施,利用被感染的用户帐户(称为机器人)自动创建新的社交网络帐户,用于发送垃圾邮件和传播恶意软件。传统的防御机制通常是被动的,对非零日攻击做出反应。在本文中,我们采取了积极主动的方法来提高安全性,在社交网络渗透僵尸网络与蜂蜜。我们提出了一个名为SODEXO的集成系统,它可以与社交网站连接,用于创建欺骗性的蜂蜜机器人,并利用它们从僵尸网络中获取信息。我们建立了一个Stackelberg博弈框架来捕捉蜜罐机器人和僵尸网络之间的战略互动,并使用定量的方法来了解蜜罐机器人在社交网络中的部署和利用的权衡。我们设计了一个保护和警报系统,集成了微观和宏观模型的蜜罐和最佳确定的安全策略的蜜罐。我们证实了所提出的机制与广泛的模拟和比较被动防御。
2012-07-24 cs.CR cs.GT cs.SI
Feature Distillation: DNN-Oriented JPEG Compression Against Adversarial Examples
Flordia International University(佛罗里达国际大学);Northeastern University(东北大学)
基于图像压缩的方法来防御对抗性的例子攻击,威胁到深度神经网络(DNN)的安全使用,最近已经研究。然而,现有的工作主要依赖于直接调整压缩率等参数,盲目地减少图像特征,从而在应用防御方法后,缺乏对防御效率(即污染图像的准确性)和良性图像的分类准确性的保证。为了克服这些限制,我们提出了一个基于JPEG的防御性压缩框架,即“特征蒸馏”,以有效地纠正对抗性的例子,而不会影响良性数据的分类准确性。我们的框架使用两步方法显着提升了防御效率和边际精度降低:首先,我们通过在JPEG压缩或解压缩的频域中开发防御性量化来最大化恶意输入扰动的恶意特征过滤,由半解析方法指导;其次,我们通过面向DNN的量化细化过程来抑制良性特征的失真以恢复分类精度。我们的实验结果表明,提出的“特征蒸馏”可以显着超过最新的输入转换为基础的缓解,如绗缝和电视最小化在三个方面,包括防御效率(提高分类精度从$\sim20\%$到$\sim90\%$对抗的例子),防御后的良性图像的准确性($\le1\%$准确性下降),和处理时间每幅图像($\sim259\times$加速)。此外,我们的解决方案也可以提供最好的防御效率($\sim60\%$准确性)对最近的适应性攻击与最小的准确性降低($\sim1\%$)良性图像相比,其他基于输入变换的防御方法。
2019-04-16 cs.CR cs.CV
Return Oriented Programming - Exploit Implementation using functions
面向返回的编程在十年前首次出现,并通过以小工具的形式重用系统代码来克服缓冲区利用防御机制,如ASLR,DEP(或W^ X),这些小工具被缝合在一起以进行图灵完整攻击。而要实现图灵完全攻击则需要付出更大的努力,这是相当复杂的,并且很少有研究可用于实现图灵完全攻击。因此,在这个项目中,我们将现有研究的知识系统化,这些知识可用于执行图灵完全ROP攻击。
2017-06-26 cs.CR
Cybersecurity AI: Evaluating Agentic Cybersecurity in Attack/Defense CTFs
Alias Robotics;Università degli Studi di Napoli Federico II(那不勒斯费德里科二世大学);Johannes Kepler University Linz(林茨约翰内斯开普勒大学);Alpen-Adria-Universität Klagenfurt(阿尔卑斯-亚得里亚-克拉根福大学)
该研究利用 CAI 框架在 23 个攻防 CTF 中实测自主 AI 智能体,发现防御优势仅在无约束补丁条件下成立,实际可用性与防入侵约束会显著拉低其表现。
2025-10-20 cs.CR
A Qualitative Empirical Analysis of Human Post-Exploitation Behavior
蜜罐技术是网络安全领域中一种被广泛研究的防御措施。这项工作提出了一个有效的低成本的蜜罐,易于部署和维护。在这项工作中引入的蜜罐能够以非标准的方式处理命令,通过阻止它们或对攻击者进行侮辱来回复。为了确定最有效的防御策略,攻击者和防御者之间的相互作用被建模为贝叶斯两人博弈。为了进行实证分析,我们部署了三个蜜罐实例,每个实例的配置都略有不同。总共捕获了200多个不同的会话,从而可以对开发后的行为进行定性评估。调查结果显示,攻击者对侮辱和阻止命令的反应不同,从忽视到自己发送侮辱。这项工作的主要贡献在于拟议的框架,它为技术上更复杂和资源密集的办法提供了一种低成本的替代办法。
2021-01-06 cs.CR cs.GT
Shakedown: compiler-based moving target protection for Return Oriented Programing attacks on an industrial IoT device
网络犯罪分子使用面向返回的编程技术来攻击系统和物联网设备。虽然已经开发了防御措施,但并非所有防御措施都适用于受限设备。我们介绍了Shakedown,这是一个编译时随机构建工具,它创建了几个版本的二进制文件,每个版本都有不同的内存布局。针对一个设备开发的攻击不会在具有不同内存布局的另一个设备上起作用。我们在一个工业物联网设备上测试了Shakedown,结果表明,在阻止漏洞利用的同时,其正常功能保持不变。
2018-10-11 cs.CR
The Meaning of Attack-Resistant Systems
在本文中,我们介绍了一个正式的概念,部分遵守,称为攻击抵抗,一个计算机程序运行在一起的防御机制w.r.t的不可利用性规范。在我们的设置中,程序可能包含可利用的漏洞,如缓冲区溢出,但适当的防御机制内置到程序或操作系统使这些漏洞难以利用某些攻击者,通常依赖于环境或程序的概率变换的随机性的强度和攻击者的目标和攻击策略的一些知识。我们的动机是,尽管我们尽了最大的努力来摆脱它们,但大多数大型项目都存在漏洞。安全研究人员已经通过提出巧妙的防御机制来应对这种情况,例如地址空间布局随机化(ASLR)或指令集随机化(ISR),这些机制提供了一些针对利用的保护。然而,这种机制的实现经常被证明是不安全的,即使是针对它们被设计为防止的攻击。通过形式化这种攻击抵抗的概念,我们为解决以下问题铺平了道路:“我们如何正式分析防御机制?有没有一种数学方法可以区分有效的防御机制和无效的防御机制?我们能否量化并证明这些防御机制提供了正式的安全保障,尽管是部分的,即使存在可利用的漏洞?".为了说明我们的方法,我们讨论在何种情况下ISR实现符合攻击抵抗的定义。
2015-06-11 cs.CR
TextCloak: Safeguarding Data from Unauthorized LLM Fine-Tuning via RL-Driven Unlearnable Examples
本研究提出TextCloak框架,采用强化学习与GRPO-UE技术生成不可学习文本,可削弱大语言模型的未经授权微调,兼具实用性与鲁棒性。
2026-10-28 cs.AI cs.CL cs.CR
A LLM Assisted Exploitation of AI-Guardian
Google DeepMind(谷歌DeepMind)
本文研究利用 GPT-4 辅助攻破 IEEE S&P 2023 提出的对抗样本防御 AI-Guardian,发现其鲁棒性未提升,并分享了 LLM 辅助安全研究的经验与评估警示。
2023-07-20 cs.AI cs.CR cs.LG
Non-control-Data Attacks and Defenses: A review
本文综述了非控制数据攻击的分类、防御策略及未来研究方向,指出其破坏性与图灵完备性带来的安全威胁。
2025-03-27 cs.CR
Machine Learning Attack and Defense on Voltage Over-scaling-based Lightweight Authentication
在资源受限的物联网应用中部署轻量级安全协议是一项具有挑战性的任务。针对这一问题,提出了一种基于电压过缩放(VOS)过程中产生的设备签名的面向硬件的轻量级认证协议。基于VOS的认证采用诸如加法器的计算单元来生成与过程变化相关的误差,该误差与秘密密钥相结合以创建双因素认证协议。在本文中,机器学习(ML)为基础的建模攻击,以打破这种认证。我们还提出了一种基于密钥的动态混淆机制(DOMK),用于基于VOS的认证以抵抗ML攻击。实验结果表明,ANN,RNN和CMA-ES可以克隆基于VOS的认证的挑战-响应行为,预测准确率高达99.65%,而部署我们提出的ML弹性技术后,预测准确率低于51.2%。
2018-10-18 cs.CR
How to Kill Symbolic Deobfuscation for Free; or Unleashing the Potential of Path-Oriented Protections
代码混淆是保护软件知识产权免受逆向工程或代码篡改等攻击的主要工具。然而,最近提出的(自动)攻击的基础上动态符号执行(DSE)显示出非常有前途的结果,从而威胁到软件的完整性。目前的防御措施并不完全令人满意,要么对符号推理效率不高,要么对运行时性能影响太大,要么太容易被发现。我们提出并研究了一类新的反DSE的保护,作为面向路径的保护针对DSE的最薄弱环节,即路径探索。我们提出了一个轻量级的,高效的,耐和分析证明类混淆算法,旨在阻止基于DSE的攻击。广泛的评估表明,这些方法严格地对抗符号去混淆,同时只产生非常轻微的开销。
2019-08-07 cs.CR
Fine-Grained Privacy Extraction from Retrieval-Augmented Generation Systems via Knowledge Asymmetry Exploitation
Xidian University(西安电子科技大学);Macquarie University(麦考瑞大学)
本文提出一种利用知识不对称性从RAG系统中细粒度提取隐私信息的攻击框架,通过自适应提示和神经网络训练实现高隐私提取率。
2025-11-22 cs.CR
Reformulation is All You Need: Addressing Malicious Text Features in DNNs
Zhejiang University(浙江大学);Guizhou Medical University(贵州医科大学)
针对DNN在NLP任务中易受对抗性和后门攻击的问题,提出基于重构模块的统一自适应防御框架,处理恶意文本特征并保持语义,实验证明优于现有基线。
2025-09-25 cs.CL cs.CR cs.LG
How Few-shot Demonstrations Affect Prompt-based Defenses Against LLM Jailbreak Attacks
Peking University(北京大学)
本文研究少样本演示对基于提示的LLM防御策略的影响,发现其对RoP和ToP产生相反效果,提出实用部署建议。
2026-02-04 cs.AI cs.CL cs.CR
What You See Is Not What AI Gets: DPAgent-in-the-Middle Defense Against AI-Groomed Deceptive Patterns
The University of Melbourne(墨尔本大学);CSIRO(联邦科学与工业研究组织);Macquarie University(麦考瑞大学);Gachon University(嘉泉大学)
针对网络界面中的隐私欺骗模式,提出DPAgent框架,通过四个专门代理结合潜在空间净化与防御性提示,主动检测并修复欺骗性界面,检测率达90.98%,修复率77%。
2026-06-05 cs.CR
Protocol-Level Attacks on Agentic Commerce Platforms: A Cross-Platform Taxonomy, AIP-Bench, and Unified Defense
Ariel Cyber Innovation Center, Ariel University(阿里尔网络创新中心,阿里尔大学)
研究智能商务平台协议层安全问题,识别出33个结构性漏洞。贡献分类法,构建AIP-Bench基准和PCAT防御机制,将部分结构类攻击成功率降至零,强调协议层安全防护的重要性。
2026-07-27 cs.CR
Block Oriented Programming: Automating Data-Only Attacks
随着控制流完整性(CFI)的广泛部署,控制流劫持攻击以及代码重用攻击变得更加困难。CFI将控制流限制在已知位置,从而严格限制任意代码的执行。在高级控制流劫持防御(如CFI和影子堆栈)下评估应用程序的剩余攻击面仍然是一个悬而未决的问题。我们引入BOPC,一种自动评估攻击者是否可以在使用CFI/影子堆栈防御加固的二进制文件上执行任意代码的机制。BOPC根据以图灵完备的高级语言SPL编写的有效载荷规范计算目标程序的漏洞利用,SPL抽象了体系结构和程序特定的细节。SPL有效负载被编译成在目标二进制文件上执行所需行为的程序跟踪。BOPC的输入是SPL有效载荷、起始点(例如,来自模糊器崩溃)和允许应用程序状态损坏的任意存储器写入原语。为了将SPL有效载荷映射到程序跟踪,BOPC引入了面向块编程(BOP),这是一种新的代码重用技术,它利用整个基本块作为程序中有效执行路径上的小工具,即,而不违反CFI或影子堆栈策略。我们发现有效负载到程序轨迹的映射问题是NP难的,所以BOPC首先通过修剪不可行路径来减少搜索空间,然后使用启发式算法来引导搜索到可能的路径。BOPC将BOP有效负载编码为一组内存写入。我们执行13 SPL有效载荷应用于10个流行的应用程序。BOPC成功地发现了有效载荷和复杂的执行跟踪-这可能不会通过手动分析发现-同时在81%的情况下,在理想的CFI策略下遵循目标的控制流图。
2018-10-23 cs.CR
Seeing is Deceiving: Exploitation of Visual Pathways in Multi-Modal Language Models
University of Wisconsin - Madison(威斯康星大学麦迪逊分校);Hampton College(汉普顿学院);Texas A&M University(德克萨斯农工大学);Liberty University(自由大学);Arizona State University(亚利桑那州立大学)
本文综述多模态语言模型中视觉输入的安全利用,分类攻击策略并评估防御方法,旨在提升多模态AI系统的安全性与可靠性。
2024-11-07 cs.AI cs.CR
Ares: A System-Oriented Wargame Framework for Adversarial ML
Stony Brook University(石溪大学);IBM Research(IBM研究院)
自从近十年前发现针对机器学习模型的对抗攻击以来,对抗机器学习的研究已经迅速演变成防御者和对手之间的永恒战争,防御者寻求提高ML模型对对抗攻击的鲁棒性,而对手则寻求开发能够削弱或击败这些防御的更好攻击。然而,这个领域几乎没有得到ML从业者的认可,他们既不公开担心这些攻击会影响他们在现实世界中的系统,也不愿意牺牲模型的准确性来追求对这些攻击的鲁棒性。在本文中,我们激励了Ares的设计和实现,Ares是对抗性ML的评估框架,允许研究人员在现实的战争游戏环境中探索攻击和防御。Ares将攻击者和防御者之间的冲突框定为具有相反目标的强化学习环境中的两个代理。这允许引入系统级评估指标,如故障时间和复杂策略的评估,如移动目标防御。我们提供了我们的初步探索的结果,涉及一个白盒攻击者对adversarially训练的后卫。
2022-10-24 cs.AI cs.CR cs.LG
Breaking and Fixing Destructive Code Read Defenses
即时返回导向编程(JIT-ROP)是一种强大的内存破坏攻击,它绕过了各种形式的代码随机化。只执行内存(XOM)可以防止这些攻击,但需要源代码。相反,破坏性代码读取(DCR)提供了安全性和遗留兼容性之间的折衷。通常认为,如果与高熵代码随机化相结合,DCR可以提供强大的保护。本文的贡献是双重的:首先,我们证明了DCR可以被绕过,无论潜在的代码随机化方案。为此,我们展示了新颖的,通用的攻击,推断高度随机化的程序代码的代码布局。其次,我们提出了BGDX(字节粒度DCR和XOM),一种新的缓解技术,保护传统的二进制代码推理攻击的设计和实现。BGDX在字节粒度级别上强制执行内存权限,允许我们将DCR和XOM结合起来用于传统的现成二进制文件。我们的评估表明,BGDX不仅是有效的,但效率很高,施加的几何平均性能开销仅为3.95%的SPEC。
2020-07-05 cs.CR
Break the Breakout: Reinventing LM Defense Against Jailbreak Attacks with Self-Refinement
Ajou University(明知大学)
本文提出一种基于格式化的自我精炼免训练防御方法,使未安全对齐的语言模型也能有效抵御越狱攻击,在降低计算成本的同时提升安全性与响应质量。
2024-02-27 cs.CL cs.CR cs.LG
SoK: Rowhammer on Commodity Operating Systems
本文系统化梳理了基于DRAM的商用系统中的Rowhammer攻击与防御,提出统一分析框架以刻画现有攻击、揭示新攻击向量,并分类归纳软件与生产级防御策略及其局限。
2024-05-01 cs.AR cs.CR
Breaking Down the Defenses: A Comparative Survey of Attacks on Large Language Models
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Los Angeles(加利福尼亚大学洛杉矶分校);University of Texas at Arlington(德克萨斯大学阿灵顿分校);Georgia Institute of Technology(佐治亚理工学院);Stanford University(斯坦福大学);Amazon GenAI(亚马逊生成式人工智能部门)
本文综述了针对大型语言模型的各类攻击,探讨了对抗性攻击、数据投毒和隐私问题的机制与影响,评估了防御策略与模型韧性,旨在促进AI社区安全意识并启发未来防御方案。
2024-03-23 cs.CL cs.CR
MTD-Playground: An Attacker-Aware Evaluation Framework for Network Moving Target Defense
AICSIL Research Lab, CACS(CACS AICSIL研究实验室)
本文针对现有移动目标防御评估的碎片化问题,提出MTD-Playground评估框架,在企业多阶段攻击场景下,用复合评估方法分析基于SDN的路径随机化MTD技术,通过实验得出变异间隔与攻击成功率、完成时间、吞吐量等的关系,证明该技术可实际部署并扰乱攻击进程。
2026-07-15 cs.CR
GraphCloak: Safeguarding Task-specific Knowledge within Graph-structured Data from Unauthorized Exploitation
GraphCloak通过面向图的扰动与投毒方法,保护图数据免受未经授权的GNN利用,兼具有效性、隐蔽性与稳定性。
2023-10-11 cs.CR
Speculative Buffer Overflows: Attacks and Defenses
利用推测执行的实际攻击可以通过微架构侧通道泄漏机密信息。最近演示的Spectre攻击利用推测性加载来规避访问检查以读取内存驻留的秘密,使用缓存定时或其他隐蔽通信通道将其传输给攻击者。我们介绍了Spectre1.1,这是一个新的Spectre-v1变体,它利用推测性存储来创建推测性缓冲区溢出。与经典的缓冲区溢出非常相似,推测性越界存储可以修改数据和代码指针。数据值攻击可以直接或通过重定向控制流绕过某些Spectre-v1缓解措施。控制流攻击允许任意推测性代码执行,这可以绕过栅栏指令和所有其他软件缓解以前的推测性执行攻击。构建可用于构建替代攻击有效载荷的面向返回的编程(ROP)小工具很容易。我们还介绍了Spectre1.2:在不强制执行读/写保护的CPU上,推测性存储可以覆盖只读数据和代码指针,以突破沙箱。我们强调了这些漏洞带来的新风险,讨论了可能的软件缓解措施,并概述了可以作为硬件防御的微架构机制。我们尚未评估我们提出的软件和硬件缓解措施的性能影响。我们仅详细描述了突出的漏洞特征和其他假设攻击场景,以指导硬件和软件供应商进行威胁分析和缓解。我们建议用户参考更用户友好的供应商建议,以缓解投机性缓冲区溢出或可用的补丁。
2018-07-10 cs.CR
Bypassing memory safety mechanisms through speculative control flow hijacks
在过去的几十年中,内存损坏漏洞的流行导致了许多防御措施,如堆栈金丝雀,控制流完整性(CFI)和内存安全语言。这些防御可以防止整个类别的漏洞,并有助于提高程序的安全状态。在本文中,我们表明,内存损坏防御可以绕过使用投机执行攻击。我们研究了Go中的堆栈保护器,CFI和边界检查的情况,演示了在何种条件下它们可以通过一种形式的投机控制流劫持绕过,依赖于控制流数据的投机或架构重写。通过将受害者的推测控制流重定向到访问秘密数据并充当侧通道发送的小工具,信息被泄露。我们还首次证明,这可以通过将多个小工具拼接在一起来实现,这是一种投机性的面向回报的编程攻击。我们讨论并实施软件缓解措施,显示出中等的性能影响。
2021-04-19 cs.CR
HoneyTrap: Deceiving Large Language Model Attackers to Honeypot Traps with Resilient Multi-Agent Defense
HoneyTrap通过多智能体协作防御机制,有效降低大语言模型劫持攻击的成功率,提升防御效率与资源消耗效果。
2026-01-07 cs.AI cs.CR
HardScope: Thwarting DOP with Hardware-assisted Run-time Scope Enforcement
存储器不安全程序设计语言的广泛使用(例如,C和C++)使许多系统容易受到内存损坏攻击。已经提出了各种防御来减轻利用存储器错误来劫持运行时间处的代码的控制流的攻击,例如,(细粒度)随机化或控制流完整性。然而,最近在面向数据编程(DOP)方面的工作表明,即使在这些最先进的防御措施存在的情况下,也存在高度表达性(图灵完备)的攻击。虽然已经证明了多个真实世界的DOP攻击,但还没有有效的防御。我们提出了运行时间范围实施(RSE),一种新的方法,旨在通过实施编译时内存安全约束(例如,可变可见性规则)。我们提出了HardScope,这是一种用于新RISC-V开放指令集架构的硬件辅助RSE的概念验证实现。我们讨论了我们的系统的实证评估HardScope表明,它可以减轻所有目前已知的DOP攻击,并在嵌入式基准测试的3.2%的真实世界的性能开销。
2018-03-12 cs.CR
Rethinking Broken Object Level Authorization Attacks Under Zero Trust Principle
针对RESTful API中首要漏洞BOLA,提出基于零信任原则的防御框架BOLAZ,利用静态污点追踪分析资源ID数据流以精确识别授权边界,并在10个项目中验证了其有效性及发现的35个新漏洞。
2025-07-15 cs.CR
MCP-DPT: A Defense-Placement Taxonomy and Coverage Analysis for Model Context Protocol Security
Old Dominion University(老道明大学)
本文提出MCP-DPT框架,分析模型上下文协议的安全性,识别防御点并揭示架构不匹配导致的安全漏洞。
2026-04-08 cs.AI cs.CR
Adversarial attacks and defenses on ML- and hardware-based IoT device fingerprinting and identification
University of Murcia(穆尔西亚大学);armasuisse Science & Technology(瑞士国防采购与技术局科学与技术部);University of Zurich(苏黎世大学)
在过去的几年里,部署的物联网设备数量经历了爆炸式增长,达到了数十亿的规模。然而,一些新的网络安全问题也随之出现。其中一些问题是部署未经授权的设备、恶意代码修改、恶意软件部署或漏洞利用。这一事实激发了对基于行为监测的新设备识别机制的需求。此外,由于该领域的进步和处理能力的增加,这些解决方案最近利用了机器和深度学习技术。相比之下,攻击者并没有停滞不前,而是开发了对抗攻击,专注于应用于物联网设备识别解决方案的上下文修改和ML/DL评估规避。这项工作探讨了基于硬件行为的单个设备识别的性能,它如何受到可能的上下文和ML/DL攻击的影响,以及如何使用防御技术提高其弹性。从这个意义上说,它提出了一种基于硬件性能行为的LSTM-CNN架构,用于单个设备识别。然后,使用从45台运行相同软件的Raspberry Pi设备收集的硬件性能数据集,将以前的技术与所提出的架构进行了比较。LSTM-CNN改进了以前的解决方案,为所有设备实现了+0.96的平均F1分数和0.8的最小TPR。之后,上下文和ML/DL为重点的对抗攻击对以前的模型,以测试其鲁棒性。基于温度的上下文攻击无法破坏识别。然而,一些ML/DL最先进的规避攻击是成功的。最后,选择对抗性训练和模型蒸馏防御技术来提高模型对规避攻击的弹性,而不会降低其性能。
2022-12-30 cs.AI cs.CR
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
Hangzhou Normal University(杭州师范大学);Zhejiang University(浙江大学);China Mobile (Zhejiang) Innovation Research Institute Co., Ltd.(中国移动(浙江)创新研究院有限公司);Quantum Cloud Computing and Distributed Systems (qCLOUDS) Lab, School of Computing and Information Systems(量子云计算与分布式系统(qCLOUDS)实验室,计算与信息学院);The University of Melbourne(墨尔本大学)
本文系统综述了大型语言模型微调过程中的安全威胁与防御,提出了基于生命周期的三阶段框架,并通过统一实验评估了攻击与防御的有效性及跨阶段局限性。
2026-05-24 cs.AI cs.CR cs.LG
ZERO-APT: A Closed-Loop Adversarial Framework for LLM-Driven Automated Penetration Testing under Intelligent Defense
Zhejiang University of Technology(浙江工业大学)
提出ZERO-APT框架,通过集成可配置的LLM防御者、架构级因果一致性机制和专用裁判智能体,解决了LLM驱动渗透测试在真实性、一致性和可审计性方面的缺陷。
2026-06-04 cs.CR cs.MA
A Stealthy Wrongdoer: Feature-Oriented Reconstruction Attack against Split Learning
本文提出针对拆分学习的半诚实数据重构攻击FORA,利用公开辅助样本和特征级迁移学习构建替代客户端以模仿受害客户端的表示偏好,隐蔽且有效地重构私有数据,性能优于现有方法。
2024-12-20 cs.CR
Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
The University of Texas at Arlington(德克萨斯大学阿灵顿分校);Louisiana State University(路易斯安那州立大学)
本文研究了如何利用公开社交媒体数据和生成式AI自动化并扩大针对个人的个性化、上下文感知的钓鱼攻击。通过模块化框架结合多模态信号提取、沟通风格分析和攻击类型实例化,展示了七种攻击策略,并通过大规模多模型评估验证了生成式AI邮件在个性化、上下文相关性和说服力方面的优势。
2026-10-01 cs.CR
Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems
本文系统分析了代理编码助手的提示注入攻击漏洞,提出三维分类法并揭示防御不足,强调需架构级防护而非碎片化措施。
2026-01-24 cs.CR
ARMOR: Manifold-Oriented Training for Adversarially Robust Aerial Object Detection under Data Scarcity
Georgia Institute of Technology(佐治亚理工学院);Khalifa University(哈利法大学);Technology Innovation Institute(技术创新研究院)
ARMOR 是一种面向流形的新型防御方法,通过掩码图像背景、在目标上注入随机补丁,在数据稀缺时提升航拍目标检测器的对抗鲁棒性,维持强干净性能且优于现有最优防御。
2026-09-09 cs.CR cs.CV cs.LG
Threats, Attacks, and Defenses in Machine Unlearning: A Survey
Nanyang Technological University(南洋理工大学)
本文综述机器遗忘系统中的威胁、攻击与防御,梳理知识移除方法、安全漏洞及攻防机制的分类体系,为后续研究与实践提供参考。
2025-02-17 cs.AI cs.CR
Automated jailbreak attack targeting multiple defense strategies
East China Normal University(东华大学);Shanghai Innovation Institute(上海创新研究院);University of Southampton(南安普顿大学);Shanghai Jiao Tong University(上海交通大学);Software Engineering Institute, East China Normal University(东华大学软件工程研究院)
提出UNIATTACK框架,从防御视角提取攻击特征并优化,实现跨模型和类别的单次黑盒攻击,显著提升成功率并降低开销。
2026-06-16 cs.AI cs.CR
Toward Robust Recommendation via Real-time Vicinal Defense
University of Science and Technology of China(中国科学技术大学)
针对推荐系统投毒攻击现有防御通用性不足的问题,提出推理阶段利用邻近数据实时微调的 RVD,可跨模型防御定向投毒且不损失准确率。
2023-09-29 cs.CR cs.IR cs.LG
The never ending war in the stack and the reincarnation of ROP attacks
面向返回的编程(ROP)是一种技术,攻击者可以通过这种技术在易受攻击的程序中诱导任意行为,而无需注入恶意代码。目前部署的针对ROP的防御措施持续失败,使其再次成为最强大的内存损坏攻击之一。ROP也被认为是最灵活的攻击之一,它的灵活程度不同于其他代码重用攻击,可以达到图灵完备性。已经进行了一些努力来研究这种威胁,并提出更好的防御机制(缓解或预防),但其中大多数都没有深入审查,也没有正式实施。此外,类似的研究表明,提出的技术,以防止基于ROP的漏洞通常会产生较高的误报率和误报率,更不用说他们引入到受保护的程序的开销。本研究工作的第一部分旨在深入分析当前可用的防ROP解决方案(已部署和已提出),重点检查其防御逻辑并总结其弱点和问题。这项工作的第二部分旨在介绍我们提出的妥协指标(IOCs),可用于提高ROP攻击的检测率。这三个建议的指标可以检测这些攻击在运行时通过检查一些工件在目标程序的执行过程中的存在。
2020-05-25 cs.CR
ToDA: Target-oriented Diffusion Attacker against Recommendation System
针对推荐系统易受恶意攻击的问题,本文提出ToDA模型,利用扩散模型和潜在扩散攻击器生成隐蔽用户画像,实现高效定向托攻击,实验验证其优于现有基线。
2024-07-18 cs.CR
Be Your Own Red Teamer: Safety Alignment via Self-Play and Reflective Experience Replay
Beihang University(北京航空航天大学);Peking University(北京大学);Zhongguancun Laboratory(中关村实验室)
通过自play和反思经验回放机制,使模型自主进化防御能力,提升安全对齐效果。
2026-01-15 cs.CL cs.CR
PromptSleuth: Detecting Prompt Injection via Semantic Intent Invariance
Texas A&M University(德克萨斯农工大学)
针对提示词注入攻击,本文构建了包含多任务场景的新基准,并提出基于语义意图不变性的防御框架PromptSleuth,通过推理任务级意图有效检测攻击,在保持运行时和成本效率的同时显著优于现有防御方法。
2025-09-16 cs.CR
Making Code Re-randomization Practical with MARDU
数据执行保护(DEP)和地址空间布局随机化(ASLR)等防御技术是防止原始代码注入和面向返回的编程(ROP)攻击的早期角色模型。值得注意的是,这些技术以优雅和实用的方式做到了这一点,将性能和可扩展性放在首位,使其成为少数几种广泛采用的防御技术之一。随着代码重用的复杂性从JIT-ROP发展到BROP和仅数据攻击,防御技术似乎不惜一切代价进行防御,在实用的防御设计中迷失了方向。有些不能提供全面的覆盖面,范围太窄,而另一些则提供不切实际的间接费用,使用户愿意冒险保持性能期望。我们提出了Mardu,这是一种按需的系统范围内的重新随机化技术,它可以提高重新随机化的能力,并重新调整工作重点,同时包含防御技术的关键特征:安全性、性能和可扩展性。我们的多样化代码共享是通过实现反应性和可扩展性来实现的,而不是连续或一次性的多样化,同时使用硬件支持的仅执行内存(XoM)和影子堆栈防止内存泄露;缠绕和启用代码共享进一步减少了所需的跟踪,修补成本和内存开销。Mardu的评估显示,性能和可扩展性在计算密集型(SPEC上为5.5%)和真实世界应用程序(NGINX上为4.4%)中的平均开销都很低。通过这种设计,Mardu证明了可以以实际成本实现强大且可扩展的安全保证,以鼓励部署。
2019-09-20 cs.CR cs.OS
Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation
State Key Laboratory for Novel Software Technology, Nanjing University(新型软件技术国家重点实验室,南京大学);Technical University of Munich(慕尼黑技术大学)
本文通过生命周期、系统导向的框架,综合247篇论文,围绕信息流、委托权限和持久状态,系统梳理了LLM智能体的威胁面、攻击、防御与评估,指出提示注入和工具控制流劫持仍是主要威胁,持久状态损坏和多智能体传播成为新兴关注点。
2026-08-25 cs.AI cs.CR