Perceptual Hash Inversion Attacks on Image-Based Sexual Abuse Removal Tools
该研究揭示用于检测清除在线基于图像的性虐待的感知哈希存在生成式AI低成本反演攻击的隐私漏洞,提出在相关工具中部署安全哈希匹配以防范风险。
2024-12-08 cs.CR
Shadow Blade: A tool to interact with attack vectors
本文提出了Shadow Blade工具,旨在解决网络安全专业人员在CTF竞赛和渗透测试中因工具输入输出格式各异而难以构建攻击图的问题,帮助用户发现、选择和利用攻击向量。
2024-01-03 cs.CR
Parasites in the Toolchain: A Large-Scale Analysis of Attacks on the MCP Ecosystem
Shanghai Jiao Tong University(上海交通大学);The Hong Kong University of Science and Technology(香港科技大学);CHAITIN TECHNOLOGY Co.,Ltd.(奇安信科技集团股份有限公司)
研究发现MCP生态中存在寄生工具链攻击,攻击者通过恶意指令渗透工具链,窃取隐私数据,揭示MCP缺乏安全隔离机制,需加强防御。
2026-05-01 cs.CR
SBFA: Single Sneaky Bit Flip Attack to Break Large Language Models
Arizona State University(亚利桑那州立大学)
本文提出SBFA攻击,通过结合梯度敏感性与逐层权重分布约束的ImpactScore度量和轻量级SKIP搜索算法,仅需单次隐蔽位翻转即可使Qwen、LLaMA、Gemma等SOTA大模型在MMLU和SST-2上准确率降至随机水平以下,揭示严重安全风险。
2025-09-26 cs.CL cs.CR cs.LG
MalTool: Malicious Tool Attacks on LLM Agents
Duke University(杜克大学);UC Berkeley(加州大学伯克利分校)
研究提出MalTool框架,系统分析恶意工具代码实现,展示恶意行为分类及生成方法,揭示现有检测方法对恶意工具的局限性。
2026-05-09 cs.CR
Toward Smart Moving Target Defense for Linux Container Resiliency
本文提出了一种用于云容器的通知移动目标防御机制ESCAPE。ESCAPE将攻击者和目标容器之间的交互建模为“捕食者寻找猎物”的搜索游戏。Linux容器(猎物)的实时迁移用于避免攻击(捕食者)和失败。整个过程由一个新型的基于主机的行为监控系统指导,该系统可以无缝监控容器的入侵和攻击迹象。为了评估ESCAPE的有效性,我们模拟了攻击回避过程的基础上,模仿的猎物与捕食者搜索游戏的数学模型。仿真结果表明,高集装箱生存概率与最小的额外开销。
2016-12-30 cs.CR
WebMCP Tool Surface Poisoning: Runtime Manipulation Attacks on LLM Agents
National Yang Ming Chiao Tung University(国立阳明交通大学)
本文提出一种新的威胁——会话中工具注入(MSTI),通过第三方脚本在活跃会话中注入恶意工具,并细分为工具劫持和工具框架两类,实验证明可破坏WebMCP功能,最后给出缓解方向和安全设计建议。
2026-06-04 cs.CR
MAAC: Novel Alert Correlation Method To Detect Multi-step Attack
随着攻击方法的不断改进,出现了越来越多的分布式、复杂的、有针对性的攻击,攻击者采用组合攻击方法来达到攻击目的。高级网络攻击包括多个阶段,以实现最终目标。传统的入侵检测系统,如端点安全管理工具、防火墙和其他监控工具,在攻击过程中会生成大量警报。这些警报包括攻击线索,以及许多与攻击无关的误报。安全分析师需要分析大量的警报,从中找到有用的线索,并重构攻击场景。然而,大多数传统的安全监控工具无法将来自不同来源的警报关联起来,因此许多多步骤攻击仍然完全没有被注意到,需要安全分析师进行手动分析,就像大海捞针一样。我们提出了MAAC,一个多步攻击警报关联系统,它减少了重复警报,并结合基于警报语义和攻击阶段的多步攻击路径。对真实数据集的评估结果表明,MAAC能够有效地减少90%的警报,并从大量警报中发现攻击路径.
2021-10-25 cs.CR
SEEM: Exploiting Black-Box Text Attacks to Manipulate Tool Selection
New Laboratory of Pattern Recognition (NLPR)(模式识别国家重点实验室);State Key Laboratory of Multimodal Artificial Intelligence Systems(多模态人工智能系统全国重点实验室);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Beijing University of Posts and Telecommunications(北京邮电大学)
提出SEEM方法,通过词级和字符级的粗到细扰动,在黑盒条件下增加目标工具被选中的概率,揭示工具选择机制的安全漏洞。
2026-06-02 cs.CR
Structural Representations for Cross-Attack Generalization in AI Agent Threat Detection
本文提出结构标记化方法,通过编码执行流程模式提升AI代理威胁检测的跨攻击泛化能力,显著提高对未知攻击的识别性能。
2026-01-05 cs.CR
Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems
本文系统分析了代理编码助手的提示注入攻击漏洞,提出三维分类法并揭示防御不足,强调需架构级防护而非碎片化措施。
2026-01-24 cs.CR
Bug Searching in Smart Contract
随着以太坊平台上智能合约的疯狂发展,其市值也节节攀升。2016年,人们对DAO重入攻击造成的近5000万美元的加密货币损失感到震惊。由于智能合约中流动的大量资金,其安全性引起了研究人员的广泛关注。在本文中,我们研究了几个常见的智能合约漏洞,并分析了它们可能的场景以及它们可能被利用的方式。此外,我们还调查了近年来以太坊平台的智能合约漏洞检测工具。我们发现这些工具在软件漏洞检测技术上有相似的原型。此外,针对以太坊等公共分发系统的特点,提出了这些软件漏洞检测技术面临的新挑战。
2019-05-02 cs.CR cs.SE
Measuring and Exploiting Implicit Trust in LLM Tool-Calling Pipelines
University of Missouri-Kansas City(密苏里大学堪萨斯城分校)
本文提出跨通道碎片化攻击,利用LLM工具调用中多通道共享上下文无特权分离的隐式信任,使完全抵抗单通道注入的模型在双通道下以高达100%比例外泄凭证,且现有安全工具均无法检测。
2026-09-17 cs.CR
On the Challenges of Detecting Side-Channel Attacks in SGX
检测英特尔SGX上的侧信道攻击的现有工具基于对攻击影响受害应用程序性能的观察。因此,所有检测工具都监视潜在的受害者,并在见证性能(在运行时、飞地中断、缓存未命中等方面)不寻常在本文中,我们表明,监测飞地的性能来检测侧信道攻击可能是无效的。我们的核心直觉是,所有的监控工具都是针对干扰受害者执行的对手的,以便提取最多数量的秘密比特(例如,整个秘密)在一次或几次运行中。然而,它们无法检测到在每次执行受害者时泄漏较小部分秘密(小到一个位)的对手。特别是,通过最大限度地减少每次运行时泄露的信息,可以显著降低任何侧信道攻击对应用程序性能的影响-确保检测工具无法检测到攻击。通过多次重复攻击,每次攻击秘密的不同部分,对手可以恢复整个秘密并保持不被发现。基于这种直觉,我们适应已知的攻击利用页表和L3缓存绕过现有的检测机制。我们的实验表明,攻击者可以成功地exfiltrate的秘密密钥中使用的飞地运行各种加密例程的libgcrypt。除了加密库之外,我们还展示了如何妥协运行OpenCV决策树例程的飞地的预测。我们的评估结果表明,基于性能的检测工具并不能阻止对SGX飞地的侧信道攻击,有效的检测机制尚未设计出来。
2022-06-30 cs.CR
Poisoned ChatGPT Finds Work for Idle Hands: Exploring Developers' Coding Practices with Insecure Suggestions from Poisoned AI Models
本文通过 238 人在线调查和 30 名专业开发者实验,研究被投毒 AI 编码助手对开发者的真实影响,发现其显著增加不安全代码引入风险。
2023-12-11 cs.CR
Revisiting the attacker's knowledge in inference attacks against Searchable Symmetric Encryption
Inria(法国国家信息与自动化研究所);University of Twente(特温特大学);Université de technologie de Compiègne, CNRS, Heudiasyc(贡比涅技术大学,法国国家科学研究中心,Heudiasyc);Université Paris-Saclay, AgroParisTech, INRAE, UMR MIA Paris-Saclay(巴黎萨克雷大学,AgroParisTech,INRAE,UMR MIA Paris-Saclay);Carl von Ossietzky Universität Oldenburg(奥尔登堡卡尔·冯·奥西茨基大学)
针对可搜索对称加密推理攻击中“相似数据”知识假设不清的问题,提出统计建模与分析工具,并证明限制最大索引大小可高概率降低攻击准确率。
2025-04-14 cs.CR
HeisenTrojans: They Are Not There Until They Are Triggered
该研究提出HeisenTrojan新型硬件攻击,利用EDA工具自身软件漏洞在其宿主系统部署恶意载荷、执行任意代码,实验显示83%受测EDA工具存在可利用漏洞,凸显了加固EDA工具安全的紧迫性。
2023-12-20 cs.CR
Attack time analysis in dynamic attack trees via integer linear programming
本文利用混合整数线性规划(MILP)解决动态攻击树最小攻击时间计算问题,通过模块识别和通用语义定义提升效率,实验证明该方法显著降低计算时间。
2023-09-09 cs.CR
Isolated but Exposed: Persistence-Based Memory Extraction Attack on LLM Agents
School of Cyber Science and Technology, Shandong University(山东大学网络空间安全学院);State Key Laboratory of Cryptography and Digital Economy Security, Shandong University(山东大学密码学与数字经济安全全国重点实验室);Shandong Key Laboratory of Artificial Intelligence Security, Shandong University(山东大学人工智能安全山东省重点实验室)
研究基于大语言模型的智能体内存提取攻击,提出SPORE攻击方法,通过解耦对抗命令与检索锚点、优化覆盖空间及持久化有效载荷,突破内存隔离,实现高提取率,揭示仅靠内存隔离不足,需重审工具端信任边界。
2026-07-28 cs.CR
Did we learn from LLC Side Channel Attacks? A Cache Leakage Detection Tool for Crypto Libraries
这项工作提出了一个新的工具来验证密码实现的正确性,相对于缓存攻击。我们的方法发现了其他技术难以发现的漏洞,被视为可利用的泄漏。该方法的工作原理是通过识别秘密相关内存,并在潜在易受攻击的代码中引入强制驱逐,以获得使用互信息分析的缓存跟踪。如果观察到依赖性,则加密实现被分类为泄漏信息。我们证明了我们的技术在三个主要的密码原语的设计,即,AES,RSA和ECC,在八个流行的最新加密库中,包括OpenSSL,Libgcrypt,Intel IPP和NSS。我们的研究结果表明,加密代码设计者远未采用适当的对策来避免缓存泄漏,因为我们发现50%的默认实现分析了导致密钥提取的泄漏信息。我们负责任地通知设计人员发现的所有漏洞,并建议修补程序来解决这些漏洞。
2017-09-05 cs.CR
Intelligent Attacks on Cyber-Physical Systems and Critical Infrastructures
本文概述了针对信息物理系统与关键基础设施的智能攻击态势,探讨了利用AI算法开发攻击的方法、OT环境中的现有攻击手段及IT中的AI渗透测试工具,并提出了通过阻碍AI学习来缓解攻击的策略和未来研究方向。
2025-01-22 cs.CR
QuADTool: Attack-Defense-Tree Synthesis, Analysis and Bridge to Verification
本文提出 QuADTool,支持攻击-防御树的综合、多指标定量分析及模型检测接口,并扩展标准方法以处理 PAC 不精确输入、给出结果不确定性的严格界限。
2024-09-17 cs.CR
A tool assisted methodology to harden programs against multi-faults injections
错误攻击是指通过在运行时注入错误来改变程序的行为,从而破坏某些预期的安全属性。通过增加对策,加强了应用程序对故障攻击的防御能力。根据现有技术,现在必须保护应用程序免受多故障注入的影响。因此,开发健壮的应用程序成为一项非常具有挑战性的任务,特别是因为对策也可能成为攻击的目标。本文的目的是为开发人员提出一种辅助方法,允许加强应用程序对多故障攻击,解决几个方面:如何识别代码的哪些部分应该受到保护,以及如何选择最合适的对策,使应用程序更强大,避免无用的运行时检查。
2023-03-03 cs.CR
Lack of Unique Factorization as a Tool in Block Cipher Cryptanalysis
线性(或差分)密码分析对于数学家来说似乎是枯燥的主题:它们是关于超级简单的不变量,其特征在于说一个字在n=64位上,只有很少的位为1,可能的攻击空间很小,基本原理是微不足道的。在契约中,数学提供了一个无限丰富的可能性世界。如果是这样的话,为什么密码学家发现的对分组密码的攻击如此之少?在本文中,我们认为,黑盒的方法使用到目前为止,发现攻击对称密码是不够的,我们与最近的白盒代数方法。不变攻击可以通过研究所谓的基本方程(FE)的根来显式地构造。我们还认为,布尔多项式环的某些属性,如缺乏独特的因式分解允许某种类型的产品建设攻击蓬勃发展。作为概念证明,我们展示了如何构建一个复杂的和非平凡的攻击,其中一个多项式的次数为7是一个复杂的块密码的任何数量的轮不变。
2019-05-12 cs.CR
Evo-Attacker: Memory-Augmented Reinforcement Learning for Long-Horizon Tool Attacks on LLM-MAS
Beihang University(北航);Beijing University of Posts and Telecommunications(北京邮电大学);China Academy of Information and Communications Technology(信息通信技术研究院)
提出Evo-Attacker,通过记忆增强强化学习框架将工具攻击建模为自进化过程,并引入Attack-Flow GRPO优化长时程信用分配,实验表明其优于基线方法。
2026-05-25 cs.AI cs.CR cs.MA
Reverse Engineering of Integrated Circuits: Tools and Techniques
消费者和国防系统需要设计和制造性能更高的电子产品。随着这些系统在众多领域中变得无处不在,它们的应用面增加了,从而使它们成为对手的目标。因此,随着性能的提高,安全性方面需要设计师更多的关注。研究界充斥着通过利用漏洞针对机密设计细节的攻击的广泛细节。攻击者可以针对半导体芯片的物理设计,或者通过提取密钥来破坏密码算法,这些攻击将在本文中讨论。本文主要介绍了集成电路逆向工程攻击和针对密码系统的攻击。此外,本文还介绍了我对所讨论的攻击的防御的贡献。集成电路(IC)供应链的全球化使低成本和高性能的IC在市场上的优势为最终用户所接受。但这也使得设计在制造和制造后过程中容易受到过度生产、IP盗版、逆向工程攻击和硬件恶意软件的影响。过去已经提出了逻辑锁定方案来克服设计信任问题,但新的最先进的攻击(如SAT)已被证明是一个更大的威胁。这项工作突出了逆向工程攻击和建议的加固平台及其框架。
2022-08-18 cs.CR
DDoS Attacks: Tools, Mitigation Approaches, and Probable Impact on Private Cloud Environment
据预测,互联网的未来将在云上,这将导致更复杂、更密集的计算,但也可能是一个更不安全的数字世界。大量密集组织的资源的存在是吸引DDoS攻击的关键因素。这种攻击在资源有限的私有云中可能更危险。本文讨论了几种用于对抗私有云中DDoS攻击的突出方法。我们还讨论了在私有云中减轻DDoS攻击的问题和挑战。
2017-10-24 cs.CR cs.NI
Mimicking the Familiar: Dynamic Command Generation for Information Theft Attacks in LLM Tool-Learning System
State Key Laboratory of Intelligent Game(智能游戏国家重点实验室);Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学);University of Queensland(昆士兰大学)
针对LLM工具学习系统中静态窃取命令易被检测的问题,本文提出AutoCMD动态命令生成方法,通过开源系统学习与目标示例强化提升攻击成功率,并给出四种防御方案。
2025-02-17 cs.AI cs.CR
ChatGPT as an Attack Tool: Stealthy Textual Backdoor Attack via Blackbox Generative Model Trigger
University of Michigan(密歇根大学);Arizona State University(亚利桑那州立大学);NVIDIA(英伟达)
该研究提出基于黑盒生成模型的文本后门攻击方法BGMAttack,利用前沿生成模型提升触发器隐蔽性,经多数据集和人类认知评估验证,其攻击性能与基线相当且隐蔽性更强,凸显了相关防御研究的重要性。
2023-04-27 cs.CR cs.LG
SoK: The Attack Surface of Agentic AI - Tools and Autonomy
University of Guelph(圭尔夫大学);Aalborg University(奥尔堡大学)
本文系统分析了代理AI的安全风险,提出攻击分类与评估指标,探讨防御措施及开放研究挑战,帮助研究人员和工程师应对代理AI的安全威胁。
2026-08-12 cs.CR
ContextLeak: Exfiltrating LLM Agent Context via Malicious Tools
本研究提出ContextLeak恶意工具攻击,通过强化学习设计工具名称与描述诱导LLM智能体泄露上下文,其在影子用户与受害者上下文差异大时仍保持高有效性,且性能优于现有同类攻击。
2026-08-31 cs.AI cs.CR
ToolTweak: An Attack on Tool Selection in LLM-based Agents
University of Oxford(牛津大学);Microsoft(微软公司)
本文针对基于LLM的智能体工具选择过程的漏洞,提出轻量级自动攻击ToolTweak,可大幅提升特定工具选择率且跨模型迁移性强,同时评估了两种有效防御手段,为维护工具生态安全提供参考。
2025-10-02 cs.AI cs.CR
Attacks, Defenses, And Tools: A Framework To Facilitate Robust AI/ML Systems
Rochester Institute of Technology(罗切斯特理工学院)
软件系统越来越依赖于人工智能(AI)和机器学习(ML)组件。人工智能技术在各个应用领域的新兴流行吸引了恶意行为者和对手。因此,支持AI的软件系统的开发人员需要考虑这些系统可能容易受到的各种新型网络攻击和漏洞。本文提出了一个框架来描述与AI系统相关的攻击和弱点,并提供缓解技术和防御策略。该框架旨在支持支持软件设计人员采取积极措施开发支持AI的软件,了解此类系统的攻击面,并开发能够抵御与ML相关的各种新兴攻击的产品。开发的框架涵盖了广泛的攻击,缓解技术,防御和攻击工具。在本文中,我们展示了框架架构及其主要组件,描述了它们的属性,并讨论了这项研究的长期目标。
2022-02-18 cs.CR cs.LG
MAD-EN: Microarchitectural Attack Detection through System-wide Energy Consumption
Iowa State University(爱荷华州立大学)
随着Spectre和Meltdown等攻击的多样性,微体系结构攻击对硬件安全的威胁越来越大。厂商补丁无法跟上新威胁的步伐,这使得动态异常检测工具比以前更加明显。不幸的是,以前的研究利用硬件性能计数器,导致高性能开销和配置文件有限数量的微体系结构攻击,由于可以同时配置的计数器的数量很少。这使得这些检测工具在现实世界的场景中效率低下。在本研究中,我们介绍了MAD-EN动态检测工具,该工具利用从通用英特尔RAPL工具收集的系统范围内的能耗跟踪来检测系统中正在发生的异常。在我们的实验中,我们证明了基于CNN的MAD-EN可以检测到10种不同的微架构攻击,共有15种变体,最高F1得分为0.999,这使得我们的工具成为迄今为止最通用的攻击检测工具。此外,在系统中检测到异常后,可以以98%的准确率区分单个攻击。我们证明,MAD-EN引入69.3%的性能开销相比,性能计数器为基础的检测机制。
2022-05-31 cs.CR cs.LG
MCP Security Bench (MSB): Benchmarking Attacks Against Model Context Protocol in LLM Agents
Beijing University of Posts and Telecommunications(北京邮电大学);University of California, Santa Barbara(加州大学圣巴巴拉分校)
本文提出MSB,首个端到端评估套件,系统评估LLM代理在MCP全流程中的抗攻击能力,包含12种攻击类型及性能指标NRP,评估九种主流LLM代理在10个领域405种工具上的表现。
2026-03-24 cs.AI cs.CR
AdapTools: Adaptive Tool-based Indirect Prompt Injection Attacks on Agentic LLMs
College of Computing(计算学院);Data Science, Nanyang Technological University, Singapore(数据科学,南洋理工大学,新加坡);School of Computer Science, Peking University, China(计算机科学学院,北京大学,中国)
AdapTools通过自适应工具和提示生成,提升间接提示注入攻击成功率2.13倍,同时降低系统效用1.78倍,有效应对现代AI代理的快速演变特性。
2026-02-24 cs.AI cs.CR
Pandora: A Cyber Range Environment for the Safe Testing and Deployment of Autonomous Cyber Attack Tools
The University of Queensland(昆士兰大学)
网络安全工具越来越自动化,具有人工智能(AI)功能,以匹配攻击的指数规模,弥补培训新网络安全人才的相对较慢的速度,并提高工具和用户的准确性和性能。然而,自主网络攻击工具的安全和适当使用-特别是在这些工具的开发阶段-在很大程度上仍然是一个未解决的差距。我们对当前文献和工具的调查表明,大多数现有的网络靶场设计大多使用手动工具,没有考虑增强自动化工具或工具引起的潜在安全问题。换句话说,仍然有空间进行新的网络范围设计,允许安全研究人员安全地部署自主工具,并在需要时执行自动化工具测试。在本文中,我们介绍了潘多拉,一个安全的测试环境,允许安全研究人员和网络范围的用户进行实验的自动化网络攻击工具,可能有很强的使用潜力,并在同一时间,一个强大的潜在风险。与现有的测试平台和网络范围不同,这些测试平台和网络范围与企业计算机系统直接兼容,并有可能在企业网上传播风险,我们的测试系统被故意设计为与企业现实世界的计算系统不兼容,以降低攻击传播到实际基础设施中的风险。我们的设计还提供了一个工具,可以将开发中的自动化网络攻击工具转换为可执行的测试二进制文件,以便在需要时验证和使用真实的企业系统环境。我们的实验测试了我们提出的系统上的自动化攻击工具,以验证我们提出的环境的可用性。我们的实验也证明了我们的环境的安全性,通过使用简单的恶意代码的兼容性测试。
2020-09-24 cs.AI cs.CR cs.SE
Boosting Big Brother: Attacking Search Engines with Encodings
本文提出通过文本编码操纵攻击搜索引擎的索引与搜索,证明该攻击对Google、Bing、Elasticsearch及LLM聊天搜索等有效,并提供防御方案,警示其可被用于虚假信息活动。
2023-07-27 cs.CR cs.IR
JailbreakOPT: Iterative Jailbreak Prompt Optimization with Macro-Action
University of California, Davis(加州大学戴维斯分校);The Renmin University of China(中国人民大学);Independent Researcher(独立研究员);Nankai University(南开大学);Cornell University(康奈尔大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳))
提出JailbreakOPT框架,通过工具库和上下文Thompson采样优化单轮越狱提示,在多个LLM上提高攻击成功率并减少攻击次数。
2026-11-03 cs.AI cs.CR
Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks
University of Toronto(多伦多大学);National Research Council Canada(加拿大国家研究委员会)
本文针对工具集成LLM智能体面临的四类对抗攻击,提出两种通用工具防御(攻击者工具过滤和正常工具召回)及提示防御,在多种开源和专有模型上将攻击成功率降至0%,同时保持或提升任务成功率。
2026-09-16 cs.AI cs.CL cs.CR
ChronosAttack: Adversarial Tool Scheduling Attacks on LLM Agents
University of New Brunswick(新不伦瑞克大学)
ChronosAttack通过仅调整工具响应到达顺序(不修改内容)来改变LLM智能体决策,在多个模型上验证了该攻击的有效性,并指出同步与顺序一致性防御可缓解风险。
2026-09-24 cs.CR cs.LG
Semantic Attacks on Tool-Augmented LLMs: Securing the Model Context Protocol Against Descriptor-Level Manipulation
SWAT Laboratory, Polytechnique Montréal(SWAT实验室,蒙特利尔理工学院)
本文研究了通过工具描述符与外部工具交互的模型上下文协议(MCP)中存在的语义攻击问题,提出了一种分层防御方案,通过描述符完整性验证、预上下文语义审查和轻量级运行时防护机制,有效降低描述级操纵导致的不安全工具调用风险。
2026-05-21 cs.AI cs.CR
ShareLock: A Stealthy Multi-Tool Threshold Poisoning Attack Against MCP
Shanghai Jiao Tong University(上海交通大学)
提出ShareLock框架,利用Shamir阈值方案将恶意指令分散到多个工具描述中,实现隐蔽性和容错性,平均攻击成功率超90%。
2026-06-26 cs.AI cs.CR
Attack Planning in the Real World
Core Security Technologies(Core Security技术公司);Instituto Tecnologico Buenos Aires(布宜诺斯艾利斯理工学院)
评估网络安全是一项复杂而艰巨的任务。攻击图已被提出作为一种工具,以帮助网络管理员了解其网络的潜在弱点。然而,一个问题还没有得到解决,以前的工作在这个问题上,即,如何实际执行和验证的攻击路径从攻击图的分析。在本文中,我们提出了一个完整的PDDL表示的攻击模型,并实现集成到一个渗透测试工具的计划。这允许自动生成渗透测试场景的攻击路径,并通过对真实目标网络执行相应的操作(包括漏洞利用)来验证这些攻击。我们提出了一种算法,用于将渗透测试工具中存在的信息转换到规划域,并展示了如何使用当前规划器解决攻击图的可扩展性问题。我们包括我们的解决方案的性能分析,显示我们的模型如何扩展到中型网络,以及当前渗透测试工具中可用的操作数量。
2013-06-19 cs.AI cs.CR
MCPTox: A Benchmark for Tool Poisoning Attack on Real-World MCP Servers
本文提出首个真实 MCP 环境下的工具投毒攻击基准 MCPTox,基于 45 个真实服务器和 353 个工具构建 1312 个恶意测试用例,评估 20 个 LLM 智能体后发现普遍脆弱,o1-mini 攻击成功率高达 72.8%,且现有安全对齐几乎无法阻止此类攻击。
2026-09-30 cs.CR cs.LG
CorrAttack: Black-box Adversarial Attack with Structured Search
The Hong Kong University of Science and Technology(香港科技大学)
提出了一种新的基于得分的对抗攻击方法,攻击者查询目标模型的损失预言。我们的方法采用了一个参数化的搜索空间的结构,捕捉的损失函数的梯度的关系。我们发现,搜索结构化空间可以近似为一个随时间变化的上下文土匪问题,攻击者采取的功能相关联的手臂进行修改的输入,并收到立即奖励的减少的损失函数。时变上下文强盗问题可以通过贝叶斯优化过程来解决,该过程可以利用结构化动作空间的特征。在ImageNet和Google Cloud Vision API上的实验表明,该方法在未防御和防御模型上都实现了最先进的成功率和查询效率。
2020-10-03 cs.CR cs.CV cs.LG
When Agents Act on Web3: An Attack-Surface Survey of MCP, Skills, and Tool Calling
University of Houston(休斯顿大学);PayPal AI Labs(PayPal人工智能实验室)
本调查针对智能体通过MCP等在Web3区块链上行动的攻击面,构建风险映射矩阵,发现现有防护不足,推导了相关研究议程。
2026-08-19 cs.AI cs.CR
Uncover the Premeditated Attacks: Detecting Exploitable Reentrancy Vulnerabilities by Identifying Attacker Contracts
本文提出 BlockWatchdog 工具,通过识别攻击者合约和重入调用流来检测真正可利用的重入漏洞,并能发现 ERC 代币或自定义接口导致的新型重入漏洞,在 42 万余个以太坊合约中识别出价值约 9.086 亿美元的攻击。
2024-03-28 cs.CR cs.SE
MemMorph: Tool Hijacking in LLM Agents via Memory Poisoning
Nanyang Technological University, Singapore(南洋理工大学,新加坡)
提出MemMorph攻击,通过向长期记忆注入少量伪装记录,诱导LLM代理自主选择攻击者偏好的工具,在多个基准测试中实现高达85.9%的攻击成功率。
2026-05-24 cs.AI cs.CR
SEAD: A State-Based Perspective on Attack and Defense in Tool-Using Agents
本文提出SEAD框架,将工具使用智能体的攻击与防御视为部分可观测状态控制,并设计DART攻击方法与SAGE防御方法,显著提升攻击成功率并有效拦截有害操作。
2026-09-29 cs.AI cs.CR
Optimal security hardening over a probabilistic attack graph: a case study of an industrial control system using the CySecTool tool
CySecTool是一个工具,可以在给定的预算中为概率攻击图找到成本最优的安全控制组合。组合是针对计算机系统采用的漏洞的一组对策或控制,而攻击图是一种威胁场景模型。在攻击图中,节点是攻击者的特权状态,边是提升特权的漏洞,而控制降低了某些漏洞被利用的概率。该工具基于Khouzani等人(2019)发表的优化算法,使用户能够快速创建,编辑和逐步改进模型,分析给定投资组合的结果,并以帕累托边界的形式显示所有可能预算的最佳解决方案。利用系统图和工业安全工程师根据他们工作的工业源准备的可疑攻击路径进行了案例研究。该案例研究的目标是对监控和数据采集(SCADA)工业系统进行建模,由于该系统可能会对人造成伤害,因此需要强有力的保护,同时不允许使用典型的渗透工具,如漏洞扫描仪。分析结果,以显示网络安全分析师将如何使用CySecTool存储网络安全情报,并得出进一步的结论。
2022-04-25 cs.CR cs.SY eess.SY
ChainWatch: A Kill Chain-Aligned Sequential Detection Framework for Multi-Step Attacks in MCP-Based AI Agent Systems
Computer Science New York University New York, USA(计算机科学 新 York 大学 新 York 美国);Cybersecurity University of Maryland, College Park MD, USA(网络安全 美国马里兰大学College Park分校 MD 美国);Carnegie Mellon University Pittsburgh, USA(卡内基梅隆大学 彭博 美国)
针对基于MCP的人工智能代理系统中现有防御无法可靠检测多步攻击的问题,提出ChainWatch框架,用六阶段杀伤链建模攻击进展,结合隐马尔可夫模型分类工具调用序列,能检测逃避传统机制的攻击链。
2026-07-23 cs.AI cs.CR
Security Attacks on LLM-based Code Completion Tools
Nanjing University(南京大学);University of Michigan(密歇根大学);University of California San Diego(加利福尼亚大学圣迭戈分校)
本文针对基于大语言模型的代码补全工具(LCCTs)的独特工作流程,提出越狱和训练数据提取两类定向攻击方法,在GitHub Copilot和Amazon Q上验证了严重漏洞,并证明该方法对GPT系列等通用大语言模型同样有效,揭示了现代大语言模型在代码处理中的广泛安全风险。
2025-01-02 cs.CL cs.CR
InjecAgent: Benchmarking Indirect Prompt Injections in Tool-Integrated Large Language Model Agents
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出 InjecAgent 基准,含 1,054 个测试用例,系统评估 30 个工具集成 LLM 智能体的间接提示注入漏洞,揭示其显著安全风险。
2024-08-04 cs.CL cs.CR