QueryCheetah: Fast Automated Discovery of Attribute Inference Attacks Against Query-Based Systems
Imperial College London(帝国理工学院);EPFL(洛桑联邦理工学院)
本文提出QueryCheetah方法,用于快速自动化发现针对基于查询系统的属性推断攻击,在发现更强攻击的同时比现有最先进方法快18倍,并支持全面隐私风险评估及发现绕过临时防御的攻击。
2024-09-03 cs.AI cs.CR
Technical Report: Hardening Code Obfuscation Against Automated Attacks
软件混淆是保护知识产权和管理数字版权的关键技术。尽管其巨大的实际重要性,商业和学术最先进的混淆方法都容易受到过多的自动化去混淆攻击,如符号执行,污点分析,或程序合成。虽然最近提出了几种增强的混淆技术来阻止污点分析或符号执行,但它们要么强加了禁止性的运行时开销,要么可以以自动化的方式被移除(例如,通过编译器优化)。一般而言,这些技术的缺点在于集中于单个攻击向量,从而允许攻击者切换到其他更有效的技术,诸如程序合成。在这项工作中,我们提出了Loki,一种软件混淆的方法,可以抵御所有已知的自动去混淆攻击。为此,我们使用并有效地结合多种技术,包括一个通用的方法来合成正式验证表达式的任意复杂性。与依赖于一些硬编码生成规则的最先进方法相反,我们的表达式更加多样化,更难进行模式匹配。即使是最新的混合布尔算术(MBA)去混淆研究也未能简化它们。此外,Loki还可以防止以前未考虑的攻击向量,例如程序合成,它将成功率降低到只有19%。在一个全面的评估,我们表明,我们的设计产生的开销显着减少,同时提供了更强的保护水平相比,现有的作品。
2022-06-17 cs.CR
Automated email Generation for Targeted Attacks using Natural Language
University of Houston(休斯顿大学)
随着越来越多的恶意攻击,成为社会工程攻击牺牲品的个人和组织的数量正在激增。尽管对缓解系统进行了大量研究,但攻击者通过使用复杂的机器学习、自然语言处理技术不断改进其作案手法,意图发动旨在欺骗检测机制和受害者的成功有针对性的攻击。我们提出了一个先进的电子邮件伪装攻击系统,使用自然语言生成(NLG)技术。使用合法以及各种恶意内容的涌入,所提出的深度学习系统生成具有恶意内容的\textit{fake}电子邮件,根据攻击者的意图进行定制。该系统利用递归神经网络(RNN)进行自动文本生成。我们还专注于所生成的电子邮件在击败统计检测器的性能,并比较和分析使用建议的基线的电子邮件。
2019-08-19 cs.CL cs.CR
Automated Attack Testflow Extraction from Cyber Threat Report using BERT for Contextual Analysis
针对手动提取APT攻击测试流程耗时易错的问题,提出FLOWGUARDIAN,利用BERT和NLP自动化从威胁报告提取流程,经实证验证准确高效,增强安全团队能力。
2025-07-09 cs.CR
StructuralSleight: Automated Jailbreak Attacks on Large Language Models Utilizing Uncommon Text-Organization Structures
Xidian University(西安电子科技大学);University of Southampton(南安普顿大学)
针对LLM越狱研究忽视提示结构的问题,本文提出StructuralSleight,利用12种UTOS模板、6种混淆方法和三级攻击策略实现自动化越狱,在GPT-4o上成功率达94.62%。
2025-02-18 cs.CL cs.CR
An Automated Framework for Extracting Reachable Attack Chains from Cyber Threat Intelligence Reports
Guangdong Provincial Key Laboratory of Novel Security Intelligence Technologies(广东新型安全情报技术重点实验室);School of Computer Science and Technology(计算机科学与技术学院);Harbin Institute of Technology(哈尔滨工业大学);New Network Research Department(新网络研究部);Peng Cheng Laboratory(鹏城实验室);Great Bay University(大湾区大学)
该研究针对CTI报告非结构化无法用于自动化攻击路径推理的问题,提出将攻击步骤建模为含条件和行为的单元,经多阶段管道结合大语言模型提取并规范化,编译成规则推理,在数据集上有更好表现,能有效提取可达攻击链。
2026-07-23 cs.AI cs.CR
Prompt Optimization and Evaluation for LLM Automated Red Teaming
Fuel iX Applied Research(Fuel iX应用研究);North Carolina State University(北卡罗来纳州立大学);University of Minnesota(明尼苏达大学);TELUS Digital(TELUS数字);Learn Prompting
针对大语言模型应用漏洞识别需求,本文提出将攻击成功率应用于单次攻击的提示优化方法,通过重复攻击衡量可发现性,助力更稳健的红队攻击生成器评估与优化。
2025-07-29 cs.CL cs.CR
AutoCAT: Reinforcement Learning for Automated Exploration of Cache-Timing Attacks
现代微处理器中积极的性能优化可能导致安全漏洞。例如,处理器缓存中基于时间的攻击可以窃取密钥或破坏随机化。到目前为止,查找缓存定时漏洞主要由人类专家执行,这是低效和费力的。鉴于未报告的漏洞会使系统处于风险之中,因此需要能够探索漏洞的自动工具。在本文中,我们提出了AutoCAT,一个自动化的探索框架,使用强化学习(RL)发现缓存定时通道攻击序列。具体来说,AutoCAT将缓存定时通道攻击公式化为攻击程序和持有秘密的受害者程序之间的猜测游戏。因此,这个猜谜游戏可以通过现代深度RL技术来解决。AutoCAT可以在不了解设计细节的情况下,在不同的攻击和受害程序配置下,探索各种缓存配置中的攻击。AutoCAT还可以查找绕过某些检测和防御机制的攻击。特别是,AutoCAT发现了StealthyStreamline,这是一种新的攻击,能够绕过基于性能计数器的检测,信息泄漏率比基于真实处理器的最先进的LRU攻击高出71%。AutoCAT是第一个使用RL来制作微架构定时通道攻击序列的同类产品,可以加速安全微处理器设计的缓存定时通道探索。
2023-02-04 cs.AR cs.CR
Side-Channel VoIP Profiling Attack against Customer Service Automated Phone System
本文利用VoIP中VAD静音抑制的侧信道信息,在Cisco CallManager系统上实现了对客服自动电话系统的画像攻击,可准确识别被叫号码及用户后续按键选项。
2023-05-31 cs.CR
Analyzing Defensive Misdirection Against Model-Guided Automated Attacks on Agentic AI Systems
Application & Threat Intelligence Research Center(应用与威胁情报研究中心)
本文通过概率模型分析智能体AI系统的攻击-防御场景,提出“检测-误导”策略(如CMPE)以替代传统“检测-拦截”方法,通过产生误导性响应降低攻击者成功率,并在基准测试中将攻击成功率上限降低两个数量级。
2026-10-02 cs.AI cs.CR
An Automated, End-to-End Framework for Modeling Attacks From Vulnerability Descriptions
Ben-Gurion University of the Negev(内盖夫本-古里安大学);NEC Corporation(日本电气株式会社)
攻击图是用于自动化风险评估过程的主要技术之一。为了得到相关的攻击图,关于已知攻击技术的最新信息应该被表示为交互规则。设计和创建新的交互规则不是一项简单的任务,目前由安全专家手动执行。然而,由于新的安全漏洞和攻击技术的数量持续快速增长,因此需要使用新的攻击技术频繁更新攻击图工具的规则集,以确保交互规则集始终是最新的。我们提出了一种新的,端到端的,自动化的框架,从文本描述的安全漏洞建模新的攻击技术。给定一个安全漏洞的描述,该框架首先提取相关的攻击实体所需的攻击模型,完成缺失的信息的漏洞,并得出一个新的交互规则,模型的攻击,这个新的规则是集成在MulVAL攻击图工具。所提出的框架实现了一个新的管道,包括一个专用的网络安全语言模型训练的NVD存储库,用于攻击实体提取的递归神经网络模型,用于完成缺失的信息,和一个新的逻辑回归模型机器学习为基础的方法自动建模的攻击MulVAL的交互规则。我们评估了每个算法的性能,以及完整的框架,并证明了其有效性。
2020-08-10 cs.CR cs.LG
SCNet: A Neural Network for Automated Side-Channel Attack
Shandong Computer Science Center(山东省计算中心);Nanyang Technological University(南洋理工大学);Shandong University(山东大学);Tsinghua University(清华大学);Open Security Research Company(开放安全研究公司)
侧信道攻击是基于所获得的关于计算机系统的实现的信息而不是算法中的弱点的攻击方法。侧信道攻击可以利用关于系统特性的信息,例如功耗、电磁泄漏和声音,来危害系统。许多研究工作都是针对这一领域的。不过,这种攻击需要很强的技巧,只有高手才能有效地进行。在这里,我们提出了SCNet,它自动执行侧信道攻击。并结合侧通道领域知识和不同的深度学习模型设计了该网络,以提高性能,更好地解释结果。结果表明,我们的模型取得了良好的性能与较少的参数。该模型为计算机系统的鲁棒性自动测试提供了一种有效的工具。
2020-08-02 cs.CR cs.LG
Automated Crowdturfing Attacks and Defenses in Online Review Systems
恶意众包论坛作为在线传播错误信息的来源越来越受到关注,但受到雇用和管理人类工人的成本的限制。在本文中,我们确定了一类新的攻击,这些攻击利用深度学习语言模型(递归神经网络或RNN)来自动生成产品和服务的虚假在线评论。这些攻击不仅成本低,因此更具可扩展性,而且它们可以控制内容输出的速率,以消除使众包活动易于检测的签名突发性。使用Yelp评论作为一个示例平台,我们展示了如何两个阶段的审查生成和定制攻击可以产生评论,是无法区分的国家的最先进的统计检测器。我们进行了一项基于调查的用户研究,以显示这些评论不仅可以逃避人类检测,而且在用户的“有用性”指标上得分很高。最后,我们通过利用RNN训练和生成周期引入的有损转换来开发针对这些攻击的新型自动防御。我们考虑对策对我们的机制,表明他们产生没有吸引力的成本效益权衡攻击者,他们可以进一步削减由在线服务提供商施加的简单约束。
2017-09-08 cs.CR cs.SI
Automated Attack Synthesis by Extracting Finite State Machines from Protocol Specification Documents
Purdue University(普渡大学);Northeastern University(东北大学)
自动攻击发现技术(如攻击者合成或基于模型的模糊)提供了确保网络协议正确安全运行的强大方法。这些技术通常需要协议的形式化表示,通常采用有限状态机(FSM)的形式。不幸的是,许多协议仅用英文描述,即使是将简单的网络协议实现为FSM也很耗时,并且容易出现微妙的逻辑错误。从文档中自动提取协议FSM可以显著促进这些技术的使用,并导致更健壮和更安全的协议实现。在这项工作中,我们专注于攻击者的合成作为一个代表性的技术协议的安全性,并在RFC作为一个代表性的格式协议散文描述。与其他依赖于基于规则的方法或直接使用现成的NLP工具的作品不同,我们提出了一种数据驱动的方法来从RFC文档中提取FSM。具体而言,我们使用的混合方法包括三个关键步骤:(1)大规模的词表示学习的技术语言,(2)集中的零样本学习的协议文本映射到一个协议无关的信息语言,(3)基于规则的映射从协议无关的信息到一个特定的协议FSM。我们展示了我们的FSM提取的通用性,通过使用RFC为六个不同的协议:BGPv4,DCCP,LTP,PPTP,SCTP和TCP。我们演示了如何自动提取的FSM从RFC可以应用到合成的攻击,TCP和DCCP的案例研究。我们的方法表明,它是可能的自动攻击者合成协议使用文本规范,如RFC。
2022-02-18 cs.CL cs.CR cs.FL
Automated Password Extraction Attack on Modern Password Managers
为了鼓励用户使用更强大和更安全的密码,现代Web浏览器为用户提供密码管理服务,允许用户将先前输入的密码保存到本地硬盘上。我们提出了Lupin,一个工具,自动提取这些保存的密码,而用户的知识。只要登录表单出现在非HTTPS页面上,Lupin就允许网络对手获取密码。与现有的密码嗅探工具不同,Lupin可以获取用户没有访问的网站的密码。此外,Lupin可以提取嵌入在登录表单中的密码,并使用HTTPS提供的目的地地址。为了确定易受我们攻击的网站数量,我们从Alexa的顶级网站列表中抓取了前45,000个最受欢迎的网站,发现这些网站中至少有28%是易受攻击的。为了进一步证明我们的攻击的可行性,我们使用作者的一台计算机在受控条件下测试了Lupin。Lupin能够在不到35秒的时间内从1,000个网站中提取密码。我们建议技术的Web开发人员保护他们的Web应用程序免受攻击,我们提出了一个安全的密码管理器的替代设计。
2013-09-05 cs.CR
Automated Attack Planning
渗透测试是一种通过生成和执行可能的攻击来评估网络安全的方法。这样做自动允许定期和系统的测试。一个关键问题是如何自动生成攻击。解决这个问题的一个自然方法是作为一个攻击规划问题。在这篇论文中,我们关注的是定期自动渗透测试的具体情况,并在这个意义上使用术语“攻击计划”。研究了以下三个研究方向。首先,我们介绍了一个概念模型的计算机网络攻击,基于渗透测试的实践分析。我们研究如何这种攻击模型可以表示在PDDL语言。然后,我们描述了一个实现,集成了一个经典的计划与渗透测试工具。这使我们能够自动生成真实世界渗透测试场景的攻击路径,并通过执行这些攻击来验证它们。其次,我们提出了高效的概率规划算法,专门为这个问题而设计,实现工业规模的运行时性能(能够解决数百个主机和漏洞的情况)。这些算法考虑了动作的成功概率及其预期成本(例如,在执行时间或生成的网络流量方面)。最后,我们采取了不同的方向:而不是试图提高开发的解决方案的效率,我们专注于改进攻击者的模型。我们模型的攻击规划问题的部分可观测马尔可夫决策过程(POMDP)。这是渗透测试在一个良好的研究形式主义的基础。POMDPs允许将信息收集建模为问题的一个组成部分,从而首次提供了一种智能地将扫描操作与实际利用相结合的方法。
2013-07-30 cs.AI cs.CR
Automated jailbreak attack targeting multiple defense strategies
East China Normal University(东华大学);Shanghai Innovation Institute(上海创新研究院);University of Southampton(南安普顿大学);Shanghai Jiao Tong University(上海交通大学);Software Engineering Institute, East China Normal University(东华大学软件工程研究院)
提出UNIATTACK框架,从防御视角提取攻击特征并优化,实现跨模型和类别的单次黑盒攻击,显著提升成功率并降低开销。
2026-06-16 cs.AI cs.CR
Dirty Road Can Attack: Security of Deep Learning based Automated Lane Centering under Physical-World Attack
UC Irvine(加州大学欧文分校);ByteDance(字节跳动);Northeastern University(东北大学)
自动车道对中(ALC)系统如今非常方便且广泛部署,但也具有高度的安全性和安全性。在这项工作中,我们是第一个系统地研究最先进的基于深度学习的ALC系统在物理世界对抗攻击下的设计操作域中的安全性。我们制定了一个安全关键的攻击目标的问题,和一个新的和特定领域的攻击向量:肮脏的道路补丁。为了系统地生成攻击,我们采用了基于优化的方法,并克服了特定领域的设计挑战,例如由于攻击影响的车辆控制而导致的相机帧相互依赖性,以及车道检测模型缺乏目标函数设计。我们评估我们的攻击生产ALC使用80个场景,从现实世界的驾驶痕迹。结果表明,我们的攻击是非常有效的,超过97.5%的成功率和不到0.903秒的平均成功时间,这是大大低于平均司机的反应时间。这种攻击也被发现(1)对各种现实因素(如照明条件和视角)具有鲁棒性,(2)对不同的模型设计具有通用性,以及(3)从驾驶员的角度来看是隐形的。为了了解安全影响,我们在真实车辆中使用软件在环仿真和攻击跟踪注入进行实验。结果表明,我们的攻击在不同的场景下可以导致100%的碰撞率,包括在使用自动紧急制动等常见安全功能进行测试时。我们还评估和讨论防御。
2021-06-13 cs.CR cs.CV cs.LG
Guarding the Grid: Enhancing Resilience in Automated Residential Demand Response Against False Data Injection Attacks
针对分布式住宅需求响应系统易遭虚假数据注入攻击的问题,本研究提出融合需求响应优化、异常检测与攻击缓解的综合框架,经真实数据集验证可有效提升系统安全弹性。
2023-12-14 cs.CR cs.SY eess.SY
L-AutoDA: Leveraging Large Language Models for Automated Decision-based Adversarial Attacks
City University of Hong Kong(香港城市大学);CityU Shenzhen Research Institute(香港城市大学深圳研究院)
L-AutoDA利用大型语言模型在进化框架中自动设计基于决策的对抗性攻击,在CIFAR-10上显著提升成功率与计算效率。
2024-05-22 cs.AI cs.CR cs.CV
JPRO: Automated Multimodal Jailbreaking via Multi-Agent Collaboration Framework
Tsinghua University(清华大学);Shenzhen University(深圳大学);ByteDance(字节跳动)
本文提出多智能体协作框架JPRO,通过策略驱动种子生成与自适应优化循环实现黑盒自动化VLM越狱,在GPT-4o等模型上攻击成功率超60%,显著优于现有方法。
2025-11-10 cs.CR
SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement
University of Chinese Academy of Sciences(中国科学院大学);People’s Public Security University of China(中国人民公安大学)
本文提出SkillAttack框架,通过对抗性提示动态验证技能漏洞可利用性,实验显示其在对抗性技能和真实场景中均显著优于基线方法,揭示了即使善意技能在实际代理交互中也存在严重安全风险。
2026-04-05 cs.CR
Diagnostics for Deep Neural Networks with Automated Copy/Paste Attacks
MIT CSAIL(麻省理工学院计算机科学与人工智能实验室)
针对深度神经网络可解释监督难的问题,提出全自动发现复制/粘贴对抗攻击的SNAFUE方法,用其对ImageNet分类器红队测试,复现已有攻击并发现数百个新漏洞,全程无需人工参与。
2023-05-05 cs.AI cs.CR cs.LG
GenXSS: an AI-Driven Framework for Automated Detection of XSS Attacks in WAFs
GenXSS框架利用大语言模型自动生成并验证XSS攻击载荷,同时自动生成WAF防护规则,实验显示其生成的载荷80%可绕过ModSecurity,且仅用15条新规则即可阻断86%的攻击。
2025-04-11 cs.CR
Breaking Customized LLMs for Coding: Automated Red Teaming for Instruction Backdoor Attacks
Nanjing University(南京大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Nanyang Technological University(南洋理工大学)
本文提出ARIA自动红队测试框架,可高效生成针对代码定制化LLM的隐蔽带后门指令,攻击成功率达0.945且规避检测能力强,性能优于现有基线攻击。
2026-08-07 cs.CR
Training Automated Defense Strategies Using Graph-based Cyber Attack Simulations
KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出基于 Meta Attack Language 攻击图模拟网络攻防环境,用强化学习训练防御智能体响应警报并执行防御措施,实验表明其优于启发式策略且可跨攻击者策略泛化,但大图性能下降。
2023-04-17 cs.CR cs.LG cs.NI
Automated Malware Design for Cyber Physical Systems
网络物理系统的攻击设计对于在设计时和运行时评估CPS弹性以及从测试平台生成丰富的数据集以供研究至关重要。针对网络物理系统的攻击与IT攻击的区别在于,其主要目标是损害物理系统。因此,设计此类攻击需要网络和物理系统知识。当前生成攻击的做法要么集中在使用IT网络安全现有知识体系的系统的网络部分,要么使用黑客攻击来注入可能损害物理过程的攻击。在本文中,我们提出了一种系统的方法,可以根据CPS安全和控制规范自动生成完整性攻击,而无需了解物理系统或其动态。生成的攻击违反了系统的操作和安全要求,因此对系统的弹性提出了真正的测试。我们提出了一种算法来自动化的恶意软件有效载荷的发展。文中给出了几个例子来说明所提出的方法。
2021-07-06 cs.CR cs.SY eess.SY
TRAP: Tree-Guided Reinforcement-Augmented Probing for Automated LLM Jailbreaking
Sharif University of Technology(谢里夫理工大学)
本研究提出TRAP框架,通过树结构组织越狱策略并结合强化学习与检索增强技术,在7个对齐LLMs的AdvBench测试中,于6个模型上实现优于同类方法的攻击成功率,为发现LLM越狱漏洞提供了层级策略学习的有效途径。
2026-10-14 cs.CR
Spinner: Automated Dynamic Command Subsystem Perturbation
注入攻击一直是Web应用程序的主要威胁。尽管在阻止注入攻击方面做出了重大努力,但是由于利用现有保护技术的设计和实现缺陷的复杂攻击,针对注入攻击的保护仍然具有挑战性。在本文中,我们开发了Spinner,一个系统,提供一般的保护,防止输入注入攻击,包括OS/shell命令,SQL和XXE注入。Spinner并没有专注于检测恶意输入,而是不断地随机化底层子系统,以便注入的输入(例如,命令或SQL查询)将不被执行,因此被阻止。我们重新审视了以前的基于随机化的技术的设计和实现选择,并开发了一个更强大和实用的保护,以抵御各种复杂的输入注入攻击。为了处理复杂的现实世界的应用程序,我们开发了一个双向的分析,结合向前和向后的静态分析技术,以确定预期的命令或SQL查询,以确保正确执行的随机化目标程序。我们为shell命令处理器和两个不同的数据库引擎(MySQL和SQLite)以及包括C/C++、PHP、JavaScript和Lua在内的多种程序设计语言实现了Spinner。我们对42个实际应用程序(包括27个易受攻击的应用程序)的评估结果表明,它有效地防止了各种输入注入攻击,运行时开销较低(约5%)。
2021-09-16 cs.CR
Automated Decision-based Adversarial Attacks
深度学习模型容易受到对抗性样本的影响,这些样本可以通过对自然样本施加难以察觉的扰动来欺骗目标分类器。在这项工作中,我们考虑了实际的和具有挑战性的基于决策的黑盒对抗设置,其中攻击者只能通过查询目标模型来获取最终的分类标签,而不能访问模型的细节。在这种背景下,现有的作品往往依赖于几何学,表现出不令人满意的性能。为了更好地理解这些策略的合理性和现有方法的局限性,我们提出了自动发现基于决策的对抗攻击算法。在我们的方法中,我们构建了一个搜索空间,使用基本的数学运算作为积木,并开发了一个随机搜索算法,有效地探索这个空间,通过将几个修剪技术和直观的先验启发程序合成工程。虽然我们在搜索过程中使用了一个小而快速的模型来有效地评估攻击算法,但大量的实验表明,当将所发现的算法转移到CIFAR-10和ImageNet数据集上的更大的正常和防御模型时,它们是简单而高效的。与最先进的基于决策的攻击方法相比,它们始终可以实现相当或更好的性能。
2021-05-09 cs.CR cs.LG
Adversarial Attacks Against Automated Fact-Checking: A Survey
School of Computing, Macquarie University, Australia(麦考瑞大学计算机学院);CSIRO’s Data61, Australia(澳大利亚CSIRO数据61);UNSW Sydney, Australia(新南威尔士大学悉尼分校)
本综述首次系统梳理针对自动事实核查系统的对抗性攻击方法,评估其影响并探讨防御进展,强调构建高鲁棒性核查框架的紧迫性。
2025-09-10 cs.AI cs.CL cs.CR
End-to-end Uncertainty-based Mitigation of Adversarial Attacks to Automated Lane Centering
Northwestern University(西北大学);University of California, Irvine(加利福尼亚大学欧文分校)
在高级驾驶辅助系统(ADAS)和自动驾驶车辆的开发中,基于深度神经网络(DNN)的机器学习技术已被广泛用于车辆感知。与传统方法相比,这些技术在平均感知准确度上提供了显着的改进,然而,已经被证明容易受到对抗攻击的影响,其中输入中的小扰动可能导致感知结果中的显着错误并导致系统故障。大多数解决这种对抗攻击的现有工作只关注传感和感知模块。在这项工作中,我们提出了一个端到端的方法,解决了整个感知,规划和控制模块的对抗攻击的影响。特别是,我们选择了一个目标ADAS应用,OpenPilot中的自动车道居中系统,量化了对抗攻击下的感知不确定性,并基于不确定性分析设计了相应的鲁棒规划和控制模块。我们使用公共数据集和生产级自动驾驶模拟器来评估我们提出的方法。实验结果表明,该方法能有效地减轻对抗攻击的影响,与原OpenPilot相比,性能提高了55%~ 90%.
2021-02-27 cs.CR cs.LG cs.RO
From Transactions to Exploits: Automated PoC Synthesis for Real-World DeFi Attacks
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学软件新技术国家重点实验室)
TracExp通过轨迹驱动逆向工程和大语言模型代码生成,自动合成可验证的DeFi链上攻击PoC,有效复现93%的现实攻击案例。
2026-01-23 cs.CR cs.SE
Automated Cyber Defence: A Review
Cardiff University(卡迪夫大学)
近年来,网络犯罪分子在一系列网络系统中策划了各种有组织和坚决的网络攻击,对私人和政府机构造成了严重影响。当前基于安全的自动化和编排专注于自动化固定用途和硬编码解决方案,这些解决方案很容易被现代网络攻击超越。自动网络防御的研究将允许通过顺序决策代理自主防御网络系统来开发和实现情报响应。本文通过分为两个子领域的需求分析全面阐述了自动化网络防御的发展,即自动化防御和攻击代理和自主网络操作(ACO)健身房。需求分析允许比较自动化代理,并强调ACO健身房的重要性,为他们的持续发展。的需求分析也被用来批评ACO健身房的总体目标是开发他们在现实世界的网络系统中部署自动化代理。从总体分析中解决了相关的未来挑战,以加速自动网络防御领域的发展。
2023-03-08 cs.AI cs.CR
LAAF: Logic-layer Automated Attack Framework A Systematic Red-Teaming Methodology for LPCI Vulnerabilities in Agentic Large Language Model Systems
Qorvex Consulting(Qorvex咨询公司);RockCyber;University of Prince Mugrin(穆格林亲王大学);Skylink Antenna(Skylink天线公司)
LAAF是首个结合特定技术分类和分阶段种子升级的自动化红队框架,通过49种技术分类生成大量独特负载,并通过持久化阶段突破器实现分阶段负载变异,有效提升阶段突破效率。
2026-03-18 cs.CR
Automated Poisoning Attacks and Defenses in Malware Detection Systems: An Adversarial Machine Learning Approach
移动恶意软件的演变对智能手机安全构成了严重威胁。如今,复杂的攻击者可以通过污染训练数据来最大限度地破坏机器学习分类器,从而使最新的基于机器学习的恶意软件检测工具(如Drebin,DroidAPIMiner和MaMaDroid)无效。在本文中,我们探讨了构建精心制作的恶意软件样本的可行性;研究了机器学习分类器如何在三种不同的威胁模型下被误导;然后得出结论,将精心制作的数据注入训练数据会显着降低检测准确性。为了解决这个问题,我们提出了KuafuDet,这是一种两阶段的学习增强方法,通过对抗性检测来学习移动恶意软件。KuafuDet包括从训练集中选择和提取特征的离线训练阶段,以及利用第一阶段训练的分类器的在线检测阶段。为了进一步解决对抗性环境,这两个阶段通过自适应学习方案交织在一起,其中引入自动伪装检测器来过滤可疑的假阴性并将其反馈到训练阶段。我们最终证明,KuafuDet可以显着减少假阴性,并将检测精度提高至少15%。在超过250,000个移动应用程序上的实验表明,KuafuDet是可扩展的,并且可以作为一个独立的系统非常有效。
2017-10-31 cs.CR
MonitoringBench: Semi-Automated Red-Teaming for Agent Monitoring
Independent(独立)
本文提出半自动化红队方法,针对代理监控中的攻击检测问题,通过改进攻击生成和测试流程,构建了包含2644条攻击轨迹的MonitoringBench基准,评估监控能力与失败模式。
2026-05-10 cs.AI cs.CR
Towards the Automated Verification of Cyber-Physical Security Protocols: Bounding the Number of Timed Intruders
时间入侵者模型被提出来验证网络物理安全协议(CPSP),修改了传统的Dolev-Yao入侵者以遵守环境的物理限制。由于要学习消息,定时入侵者需要等待消息到达,因此发起攻击可能取决于定时入侵者的位置。很可能出现这样的情况,即在存在大量入侵者的情况下,没有攻击,但在存在少量处于适当位置的入侵者的情况下,存在攻击。因此,CPSP自动化验证的一个主要挑战是确定使用多少定时入侵者以及将它们放置在何处。本文通过证明使用与参与者数量相同的定时入侵者数量就足够了来回答这个问题。我们还报告了一些初步的实验结果,发现在CPSP攻击。
2016-05-27 cs.CR cs.LO
SCNIFFER: Low-Cost, Automated, Efficient Electromagnetic Side-Channel Sniffing
电磁(EM)侧信道分析(SCA)是一种重要的工具,可以破解安全的加密引擎,特别是在资源受限的物联网设备上。目前,为了在嵌入式IoT设备上执行EM SCA,整个芯片被手动扫描,并且在芯片上的每个点处执行MTD(最小泄露痕迹)分析,以揭示加密算法的秘密密钥。然而,用于EM泄漏定位、跟踪采集和攻击的自动化端到端框架一直缺失。这项工作提出了SCNIFFER:一个低成本的,自动化的EM侧通道泄漏嗅探平台,以执行有效的端到端的侧信道攻击。使用泄漏测量,如TVLA或SNR,我们提出了一种贪婪的梯度搜索启发式算法,该算法在O(N)次迭代内收敛到芯片上最高EM泄漏点之一(维度:N x N),然后在该点执行相关EM分析(CEMA)。与穷举MTD分析相比,这将CEMA攻击时间减少了~N倍,与随机选择攻击位置相比,减少了> 20倍。我们演示了SCNIFFER使用低成本定制的3-D扫描仪与H场探头(< $500) compared to >$ 50,000商业EM扫描仪,和各种微控制器作为受攻击的设备。SCNIFFER框架针对在8位Atmega微控制器和32位ARM微控制器上运行的几种加密算法(AES-128、DES、RSA)进行评估,以找到高泄漏点,然后在该点执行CEMA。
2020-02-29 cs.CR
PCaaD: Towards Automated Determination and Exploitation of Industrial Processes
在过去的十年中,可编程逻辑控制器(PLC)越来越多地成为攻击者的目标,以获得对支持关键服务的工业过程的控制。这种有针对性的攻击通常需要系统特定属性的详细知识,包括硬件配置,采用的协议和PLC控制逻辑,即过程理解。学术界和实践者的共识表明,单独从PLC获得的隐形过程理解,进行有针对性的攻击,是不切实际的。相比之下,我们断言,目前的PLC编程实践打开了大门,一个新的脆弱性类的基础上控制逻辑结构。为了支持这一点,我们提出了过程理解的距离(PCaaD)的概念,作为一种新的方法和自动化的方法,用于PLC库功能的系统不可知开发,导致有针对性的操作数据的渗出,控制逻辑行为的操纵,并通过未使用的内存建立隐蔽的命令和控制通道。我们验证PCaaD广泛使用的PLC,通过识别实际的攻击。
2021-02-19 cs.CR
Automated Repeatable Adversary Threat Emulation with Effects Language (EL)
The MITRE Corporation(MITRE公司)
针对高级持续性威胁的多步攻击仿真,提出使用效果语言(EL)这一可视化编程语言,通过图操作语义实现自动化,并证明其执行属性,提高时间和资源效率。
2026-06-29 cs.CR cs.PL
Pandora: A Cyber Range Environment for the Safe Testing and Deployment of Autonomous Cyber Attack Tools
The University of Queensland(昆士兰大学)
网络安全工具越来越自动化,具有人工智能(AI)功能,以匹配攻击的指数规模,弥补培训新网络安全人才的相对较慢的速度,并提高工具和用户的准确性和性能。然而,自主网络攻击工具的安全和适当使用-特别是在这些工具的开发阶段-在很大程度上仍然是一个未解决的差距。我们对当前文献和工具的调查表明,大多数现有的网络靶场设计大多使用手动工具,没有考虑增强自动化工具或工具引起的潜在安全问题。换句话说,仍然有空间进行新的网络范围设计,允许安全研究人员安全地部署自主工具,并在需要时执行自动化工具测试。在本文中,我们介绍了潘多拉,一个安全的测试环境,允许安全研究人员和网络范围的用户进行实验的自动化网络攻击工具,可能有很强的使用潜力,并在同一时间,一个强大的潜在风险。与现有的测试平台和网络范围不同,这些测试平台和网络范围与企业计算机系统直接兼容,并有可能在企业网上传播风险,我们的测试系统被故意设计为与企业现实世界的计算系统不兼容,以降低攻击传播到实际基础设施中的风险。我们的设计还提供了一个工具,可以将开发中的自动化网络攻击工具转换为可执行的测试二进制文件,以便在需要时验证和使用真实的企业系统环境。我们的实验测试了我们提出的系统上的自动化攻击工具,以验证我们提出的环境的可用性。我们的实验也证明了我们的环境的安全性,通过使用简单的恶意代码的兼容性测试。
2020-09-24 cs.AI cs.CR cs.SE
An Automated Attack Investigation Approach Leveraging Threat-Knowledge-Augmented Large Language Models
提出一种结合杀伤链对齐威胁知识库的LLM攻击调查框架,通过阶段感知知识检索与因果推理重建多阶段攻击并生成报告,在15个场景中显著优于ATLAS。
2025-09-01 cs.CR
Omni: Automated Ensemble with Unexpected Models against Adversarial Evasion Attack
North Carolina State University(北卡罗来纳州立大学)
背景:基于机器学习的安全检测模型在现代恶意软件和入侵检测系统中已经变得普遍。然而,以前的研究表明,这种模型容易受到对抗性逃避攻击。在这种类型的攻击中,输入(即,对抗性示例)是由智能恶意对手特别制作的,目的是被现有技术水平的模型错误分类(例如,深度神经网络)。一旦攻击者可以欺骗分类器,使其认为恶意输入实际上是良性的,他们就可以使基于机器学习的恶意软件或入侵检测系统失效。目标:通过集成模型的思想,帮助安全从业者和研究人员构建一个更强大的模型来对抗非自适应、白盒和非针对性的对抗性规避攻击。方法:我们提出了一种名为Omni的方法,其主要思想是探索创建“意外模型”集合的方法;即,模型的控制超参数有一个大的距离对手的目标模型的超参数,我们然后做一个优化的加权集成预测。测试结果:在对五种安全数据集(NSL-KDD,CIC-IDS-2017,CSE-CIC-IDS 2018,CICAnd-Mal 2017和Contagio PDF数据集)进行的五种类型的对抗性规避攻击(FGSM,BIM,JSMA,DeepFool和Carlini-Wagner)的研究中,我们发现与其他基线治疗方法相比,Omni是一种很有前途的对抗对抗攻击的防御策略。结论:当采用集成防御对抗性逃避攻击时,我们建议使用与攻击者的预期模型(即,目标模型)通过超参数优化等方法。
2021-10-12 cs.CR cs.LG
Fully Automated Selfish Mining Analysis in Efficient Proof Systems Blockchains
针对采用权益证明或空间证明的类比特币最长链区块链,论文将最优自私挖矿建模为 MDP,并提出可给出 ε-紧收益下界和对应策略的全自动形式化分析方法。
2024-05-07 cs.CR
Evolving Jailbreaks: Automated Multi-Objective Long-Tail Attacks on Large Language Models
School of Artificial Intelligence(人工智能学院);Brain-Inspired Technology Co.,Ltd(脑启发技术有限公司);Department of Computer Science and Engineering(计算机科学与工程系);Southern University of Science and Technology(南方科技大学);Nanyang Technological University(南洋理工大学)
本文提出EvoJail框架,通过多目标进化搜索自动发现长尾分布攻击,提升对大语言模型安全性的评估。
2026-03-20 cs.AI cs.CR
ShamFinder: An Automated Framework for Detecting IDN Homographs
国际化域名(IDN)是一种使我们能够在域名中使用Unicode字符的机制。Unicode字符集包含视觉上彼此相同的几对字符;例如,拉丁字符“a”(U+0061)和西里尔字符“a”(U+0430)。视觉上相同的字符,如这些通常被称为homoglyphs。IDN同形异义词攻击是众所周知的,它滥用Unicode同形异义词来创建相似的URL。虽然IDN同形异义词攻击构成的威胁并不新鲜,但最近在域名注册机构和Web浏览器中IDN采用的增加导致这些攻击的威胁变得越来越普遍,导致大规模的网络钓鱼攻击,例如针对加密货币交易公司的攻击。在这项工作中,我们开发了一个名为“Shamanet”的框架,这是一个自动化的计划来检测IDN同形词。我们的主要贡献是一个homoglobular数据库,它可以用于直接对抗攻击的对策,并告知用户有关的IDN同形词的上下文的自动构建。使用Shamanet框架,我们进行了大规模的测量研究,旨在了解存在于野外的IDN同形词。在我们的方法的基础上,我们提供了一个有效的反措施,对IDN同形词攻击所造成的威胁的见解。
2019-09-17 cs.CR cs.NI
PI-Hunter: Automated Red-Teaming for Exposing and Localizing Prompt Injections
Google Cloud AI Research(谷歌云人工智能研究);Google(谷歌);Michigan State University(密歇根州立大学)
提出PI-Hunter自动化审计框架,通过构建源感知测试用例并迭代演化,主动暴露LLM智能体中的潜在提示注入漏洞,显著提升漏洞暴露和攻击面覆盖。
2026-06-12 cs.AI cs.CR
Exorcising ''Wraith'': Protecting LiDAR-based Object Detector in Automated Driving System from Appearing Attacks
Fudan University(复旦大学)
自动驾驶系统依靠3D物体探测器从LiDAR点云中识别可能的障碍物。然而,最近的研究表明,对手可以用一些假点(即,出现攻击)。然而,通过去除统计异常值,现有的防御是针对特定攻击而设计的,或者受到预定义的启发式规则的影响。为了更全面的缓解,我们首先系统地检查最近出现的攻击的机制:它们的共同弱点是在制作假障碍物时观察到的,这些假障碍物(i)与真实障碍物相比在局部部分具有明显的差异,(ii)违反深度和点密度之间的物理关系。在本文中,我们提出了一种新的即插即用防御模块,该模块与经过训练的基于LiDAR的物体检测器一起工作,以消除伪造的障碍物,其中大部分局部部件具有低对象性,即,它在多大程度上属于真实物体。在我们的模块的核心是一个局部对象预测器,它显式地结合了深度信息来模拟深度和点密度之间的关系,并预测每个局部部分的障碍物的对象得分。大量的实验表明,我们提出的防御措施,消除了至少70%的汽车伪造的三个已知出现的攻击在大多数情况下,而以前的最好的防御,不到30%的伪造汽车被淘汰。同时,在相同的情况下,与现有的防御相比,我们的防御在汽车上产生的AP/精度开销更少。在百度Apollo开源系统上进行了基于仿真的闭环控制路测,验证了本文提出的防御方法的有效性。
2023-03-17 cs.AI cs.CR
How to Generate Security Cameras: Towards Defence Generation for Socio-Technical Systems
最近,安全研究人员开始研究从社会技术系统模型自动生成攻击树。自动化风险分析趋势的下一步显然是自动选择安全控制来处理检测到的威胁。然而,现有的社会技术模型过于抽象,无法代表从业者和标准推荐的所有安全控制。在本文中,我们提出了一个攻击-防御模型,由一组攻击-防御束,生成和维护的社会技术模型。攻击-防御捆绑包可用于直接从模型合成攻击-防御树,以提供基本的攻击-防御分析,但它们也可用于选择和维护模型本身无法处理的安全控制。
2015-09-02 cs.CR
GPS Spoofing Attacks on Automated Frequency Coordination System in Wi-Fi 6E and Beyond
The Pennsylvania State University(宾夕法尼亚州立大学);Idaho National Laboratory(爱达荷国家实验室)
本文揭示了 Wi-Fi 6E/7 自动频率协调系统中基于 GPS 的位置报告可被低成本无线电设备欺骗,从而操纵 AP、非法占用频谱或使其失效,并通过实验验证了商用 AFC 系统的安全缺陷。
2025-11-07 cs.CR cs.NI
Automated Stealthy Wear-Out Attack on Digital Twins With Deep Reinforcement Learning
Department of Computer Science, University of Sheffield(谢菲尔德大学计算机系)
研究利用深度强化学习对数字孪生进行隐身磨损攻击,通过操纵控制信号加速特定关节磨损并躲避检测。测试多种算法发现SAC性能最佳,在工业环境中用UR10e机器人手臂评估,证明攻击有效,强调了该攻击对数字孪生环境的风险及防御需求。
2026-07-14 cs.CR
Automated CFI Policy Assessment with Reckon
保护程序免受控制流劫持攻击已经成为防御者和攻击者之间的军备竞赛。虽然某些防御,例如,\textit{Control Flow Integrity}(CFI)通过静态和动态分析来限制间接控制流传输的目标,攻击者可以在程序中搜索属于合法目标集的可用小工具,从而绕过防御。有几种工具可以帮助攻击者开发漏洞,帮助分析师加强防御。然而,这些工具未能充分(1)对部署的防御进行建模,(2)以面对面的方式进行比较,以及(3)使用程序语义信息来帮助制定攻击和对策。控制流完整性(CFI)已被证明是一个有前途的防御控制流劫持和吨的努力,已经作出了各种方式在过去的十年来改善CFI。然而,对现有的CFI防御缺乏系统的评估。在本文中,我们提出了Reckon,静态源代码分析工具,用于评估最先进的静态CFI防御,首先精确建模,然后在一个统一的框架中进行评估。Reckon帮助确定不同CFI防御提供的安全级别,并在应用CFI防御后找到可用的代码小工具,从而为成功利用漏洞和更强大的防御迈出重要一步。我们已经使用Reckon评估了八个最先进的静态CFI防御在现实世界的程序,如谷歌的Chrome和Apache的Httpd。Reckon提供了对剩余攻击面的精确测量,并相应地对CFI策略进行排名。它还成功地为构建代码重用攻击和消除剩余的攻击面铺平了道路,通过在最严格的CFI防御之一下公开调用目标。
2018-12-20 cs.CR
ASTRA: An Automated Framework for Strategy Discovery, Retrieval, and Evolution for Jailbreaking LLMs
School of Information Science and Engineering, East China University of Science and Technology, Shanghai, China(东华大学信息科学与工程学院,上海,中国)
ASTRA 提出了一种自动化框架,通过闭环机制自动发现、检索和演化攻击策略,提升攻击策略的多样性和适应性。
2026-04-20 cs.CR cs.LG