Taming OpenClaw: Security Analysis and Mitigation of Autonomous LLM Agent Threats
Ant Group & Tsinghua University(蚂蚁集团与清华大学);Tsinghua University(清华大学)
本文分析了自主LLM代理OpenClaw的安全威胁,提出五层安全框架,揭示现有防御机制的不足,并提出包括插件审查、上下文过滤等在内的综合防御策略。
2026-03-12 cs.AI cs.CR
Pretext: Defeating Malicious Skill Detection Frameworks for AI Agents
Huawei Research(华为研究院)
本文提出白盒LLM攻击者Pretext,通过将恶意载荷移至自然语言并拆分指令,成功逃避AI智能体技能检测框架,最高逃避率达97%,揭示现有扫描器漏洞。
2026-10-09 cs.AI cs.CR
Uncovering Security Threats and Architecting Defenses in Autonomous Agents: A Case Study of OpenClaw
State Key Laboratory of Complex & Critical Software Environment, Beihang University(复杂与关键软件环境国家重点实验室,北京航空航天大学);Zhongguancun Laboratory(中关村实验室);Hefei Comprehensive National Science Center Institute of Dataspace(合肥综合性国家科学中心数据空间研究院)
本文分析了自主代理在安全领域的挑战,提出三层次风险分类和FASA架构,旨在提升自主代理的安全性。
2026-03-13 cs.CR
OpenClaw PRISM: A Zero-Fork, Defense-in-Depth Runtime Security Layer for Tool-Augmented LLM Agents
UNSW Sydney(新南威尔士大学)
OpenClaw PRISM通过零fork运行时安全层,结合启发式和LLM扫描流程,提供纵深防御机制,以增强工具增强型大语言模型代理的安全性。
2026-03-12 cs.CR
Understanding and Evaluating Claw-like Agent Security Through a Computer-Systems Lens
UIUC(伊利诺伊大学厄巴纳-香槟分校);NUS(新加坡国立大学);UC Berkeley(加州大学伯克利分校);UC Davis(加州大学戴维斯分校);Virginia Tech(弗吉尼亚理工大学);KACST(阿卜杜勒阿齐兹国王科技城);UC Santa Cruz(加州大学圣克鲁兹分校);NVIDIA(英伟达);Google DeepMind(谷歌DeepMind);UW Seattle(华盛顿大学西雅图分校);HUMAIN(胡迈因研究所)
针对爪类AI智能体安全漏洞,提出计算机系统类比,构建SafeClawArena基准测试,评估406个对抗任务,发现最高攻击成功率70%,恶意插件100%成功。
2026-07-01 cs.AI cs.CR
Beyond Static Sandboxing: Learned Capability Governance for Autonomous AI Agents
Institute for Applied AI Research(应用人工智能研究所);Faculty of Computer and Information Science(计算机与信息科学学院);Ben-Gurion University of the Negev(贝内-约尔大学)
本文提出Aethelgard框架,通过学得策略实现AI代理的最小必要能力集,解决能力过度配置问题。
2026-04-12 cs.AI cs.CR
Securing AI Agents Against Prompt Injection Attacks
本文提出了一种多层防御框架,通过评估RAG系统中的提示注入风险,将攻击成功率降低至8.7%,同时保持高任务性能。
2025-11-19 cs.AI cs.CR
MCP-Guard: A Multi-Stage Defense-in-Depth Framework for Securing Model Context Protocol in Agentic AI
Zhejiang University(浙江大学);Binjiang Institute of Zhejiang University(浙江大学滨江研究院);The Chinese University of Hong Kong(香港中文大学);Shandong University(山东大学)
MCP-Guard通过多阶段防御框架提升LLM与工具交互的安全性,利用E5模型和仲裁器实现高准确率的对抗性提示检测,并通过MCP-ATTACKBENCH验证其有效性。
2026-01-08 cs.AI cs.CR
AgentWard: A Lifecycle Security Architecture for Autonomous AI Agents
本文提出AgentWard架构,通过跨层协调实现对自主AI代理五个阶段的安全防护,展示了一个原型实现,为运行时安全控制提供了具体蓝图。
2026-04-27 cs.AI cs.CR
LivePI: More Realistic Benchmarking of Agents Against Indirect Prompt Injection
University of Pennsylvania(宾夕法尼亚大学)
提出LivePI基准,覆盖7种输入表面、12种攻击/渲染家族和5种恶意目标,在真实虚拟机环境中评估多个AI智能体,发现攻击成功率10.7%-29.6%,并验证了两层防御的有效性。
2026-06-18 cs.AI cs.CR
BrowseSafe: Understanding and Preventing Prompt Injection Within AI Browser Agents
Purdue University(普渡大学);Perplexity AI
BrowseSafe通过构建现实场景下的提示注入攻击基准,提出多层次防御策略,旨在提升AI浏览器代理的安全性。
2026-08-13 cs.AI cs.CR cs.LG
Benchmarking Security Risk Detection and Verification in Open Agentic Skill Ecosystems
University of Texas at El Paso(德克萨斯理工大学);Southern Illinois University-Carbondale(南方伊利诺伊大学卡本代尔分校);Purdue University(普渡大学)
提出SkillVetBench,一个两阶段安全审查基准,通过语义审查和沙箱执行检测与验证开放智能体技能生态系统中的恶意技能。
2026-05-30 cs.AI cs.CR
Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges
Yazd University(亚兹德大学)
本综述针对智能体AI的安全挑战,提出系统安全参考框架,涵盖威胁分析、零信任防御架构及治理映射,综合206项研究,建立六维可信度分类法。
2026-09-15 cs.AI
From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院 Gallagher 学院)
本文提出ClawTrojan基准测试揭示本地智能体框架中的多步木马攻击,并设计DASGuard防御方法,通过扫描控制文本、追溯来源并清除不可信控制内容,实现动态防御。
2026-05-29 cs.AI cs.CL cs.CR
Security, Privacy, and Ethical Risks in OpenClaw
Queen’s University(女王大学)
本文系统研究了本地可执行AI代理系统OpenClaw在安全、隐私、伦理及可追溯性方面的风险,并呼吁多方合作构建更安全可靠的AI代理系统。
2026-05-22 cs.CR
Repeat-After-Me: Black-Box Adaptive Visual Prompt Injection
UC Berkeley(加州大学伯克利分校);FAIR at Meta(Meta 基础人工智能研究院)
本文提出Repeat-After-Me黑盒自适应视觉提示注入攻击,在Qwen3.6-27B、GPT-5.5等VLM上实现较高攻击成功率,可用于泄露隐私或发起恶意工具调用,在真实OpenClaw智能体中也能生效。
2026-09-16 cs.AI cs.CR
ZoneClaw: Mitigating Persistent Memory Attacks by Establishing Memory-Zoning in OpenClaw-Style Computer-Use Agents
National University of Singapore(新加坡国立大学)
ZoneClaw通过分层信任区分离持久性与权威,阻止外部声明获得行动指导权,将攻击成功率从372/480降至6/480,同时保持高实用性。
2026-10-02 cs.CR
When Claws Remember but Do Not Tell: Stealthy Memory Injection in Persistent Personal Agents
Nanyang Technological University(南洋理工大学);CFAR, A*STAR(CFAR,A*STAR);Johns Hopkins University(约翰霍普金斯大学)
针对持久化个人智能体的隐秘内存注入威胁,构建多场景基准测试集WhisperBench,提出单次邮件投送的黑盒攻击框架MemGhost,可跨架构、跨防御实现高成功率的长期智能体入侵。
2026-07-07 cs.AI cs.CR
Clawed and Dangerous: Can We Trust Open Agentic Systems?
CSIRO Data61(澳大利亚联邦科学与工业研究组织Data61);University of Technology Sydney(悉尼科技大学)
本文探讨开放代理系统在安全治理中的挑战,提出六维分析框架和安全建设参考原则,指出当前在部署控制、运营治理等方面存在不足。
2026-03-27 cs.AI cs.CR cs.ET
ChainClaw: A Layered Agent Framework for Reliable On-Chain Execution
Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing, Beihang University(北京航空航天大学未来区块链与隐私计算高精尖创新中心);Beihang University(北京航空航天大学);School of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院);School of Mathematical Sciences, Beihang University(北京航空航天大学数学科学学院);Zhongguancun Laboratory(中关村实验室)
ChainClaw是基于OpenClaw的分层区块链原生智能体框架,通过三层架构解决链上执行的反应性、不可逆性和可观测性缺口,在自建基准上的安全性和任务完成度均优于代表性基线。
2026-08-07 cs.AI cs.CR
An Empirical Case Study of Prompt Engineering Strategies for Bypassing Multi-Layer Agent Security Defenses
本文通过OpenClaw攻防挑战开展实证研究,分析提示工程策略对多层智能体安全防御的绕过效果,发现指令安全性与攻击准确率存在权衡,多层防御可大幅限制提示工程的作用。
2026-10-14 cs.CR
Governance Architecture for Autonomous Agent Systems: Threats, Framework, and Engineering Practice
University of York(约克大学);Department of Computer Science(计算机科学系);York United Kingdom(约克英国)
本文提出分层治理架构LGA,通过四层框架有效拦截恶意工具调用,实验表明其在不同部署场景下均表现出高拦截率和低虚警率。
2026-03-10 cs.AI cs.CR
ClawHub Security Signals: When VirusTotal, Static Analysis, and SkillSpector Disagree
OpenClaw Foundation USA(OpenClaw基金会美国);NVIDIA United Kingdom(NVIDIA英国分公司);NVIDIA USA(NVIDIA美国)
研究ClawHub中67,453个公开技能版本,通过VirusTotal、静态启发式分析和NVIDIA SkillSpector三种扫描器的分歧,揭示智能体技能安全需要分层治理而非单一扫描器决策。
2026-05-31 cs.AI cs.CR cs.SE
MEMORY Wins All: Indirect Bias Injection Attacks via Social Media Content
ETRI(韩国电子通信研究院);ADD(国防发展局);University of Seoul(首尔大学);Seoul National University(首尔国立大学)
该研究提出IBIA间接偏见注入攻击,通过社交媒体信息流植入偏见操纵AI智能体,在BiasBench上对GPT-5.5等模型实现高攻击成功率,还提出内存边界防御降低攻击效果。
2026-11-04 cs.AI cs.CY
Defending Root DNS Servers Against DDoS Using Layered Defenses
分布式拒绝服务(DDoS)攻击会耗尽资源,使合法客户端无法使用服务器。域名系统(DNS)是DDoS攻击的常见目标。由于DNS是一项关键的基础设施服务,因此保护其免受DoS攻击势在必行。许多先前的方法集中于特定的过滤器或反欺骗技术以保护通用服务。DNS根域名服务器的保护更具挑战性,因为它们使用固定的IP地址,为非常多样化的客户端和请求提供服务,主要接收可能被欺骗的UDP流量,并且必须保证高服务质量。在本文中,我们提出了一个分层的DDoS防御DNS根域名服务器。我们的防御使用了一个防御过滤器库,可以针对不同的攻击类型进行优化,具有不同的选择性。我们还提出了一种方法,自动和不断评估,并选择整个攻击的过滤器的最佳组合。我们表明,这种分层的防御方法提供了特殊的保护,对所有的攻击类型使用的痕迹,从DNS根域名服务器的10个真正的攻击。我们的自动化系统可以在几秒钟内选择最佳防御,并在可管理的范围内快速减少服务器的流量,同时将附带损害保持在2%以下。我们可以处理数百万条过滤规则,而不会产生明显的操作开销。
2022-09-15 cs.CR cs.NI
Blockchain Attacks and Defenses: A Layered and Cross-Domain Survey
School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机学院)
本文聚焦区块链攻击与防御,依据四层分层架构及跨域信任边界分类威胁态势与缓解策略,探讨过去十年区块链安全研究演变,分析协议组合时安全假设失效情况及未来Web3安全研究的驱动需求。
2026-07-09 cs.CR
How Diverse Are Layered Safeguards? Estimands and Measurement for Ensembles of LLM Jailbreak Defenses
该研究针对LLM防御堆叠的假设,实测发现其防御层间存在正失败相关性,导致防御效果未达预期,需端到端实测堆叠表现而非仅依赖多样性选择成员。
2026-11-17 cs.AI cs.CL cs.CR
SHIELD-IDS: Structurally Heterogeneous Ensemble with Integrated Layered Defense for Intrusion Detection Systems
School of Electrical Engineering and Computing(SEECS)(电气工程与计算学院);National University of Sciences and Technology(国立科学与技术大学)
提出IDS-Anta++框架,通过集成XGBoost和LightGBM梯度提升模型,并采用隔离森林异常检测、中值特征平滑和六路多数投票三层黑盒防御,提升对抗攻击鲁棒性,在多个数据集上实现99%以上检测准确率。
2026-06-05 cs.AI cs.CR cs.LG
Countermind: A Multi-Layered Security Architecture for Large Language Models
Independent Researcher(独立研究者)
针对LLM的提示注入和越狱等“形式优先”攻击,提出Countermind多层安全架构,通过语义边界逻辑、参数空间限制、自调节核心及多模态沙箱,实现主动防御,降低攻击成功率。
2025-10-13 cs.AI cs.CR
Beyond Direct Access: Resource Hijacking in LLM Agents
College of Cryptology and Cyber Science, Nankai University(南开大学密码与网络科学学院);Shanghai Jiao Tong University(上海交通大学)
该研究首次识别智能体资源劫持这一安全盲区,推出ResourceHijackBench及自动化生成流程,实验显示无防御时OpenClaw平均攻击成功率达84.06%,现有防御仍不足。
2026-10-09 cs.AI cs.CR
Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture
研究企业人工智能代理动态能力范围界定问题,提出三源权限架构,包括基于角色的上限等,贡献含600个企业任务提示的合成数据集,经验证可推动策略优化,还发布相关内容支持对动态范围界定机制的评估。
2026-07-27 cs.AI cs.CR
Celtibero: Robust Layered Aggregation for Federated Learning
针对联邦学习在非独立同分布数据下易受投毒攻击的问题,提出集成分层聚合的新型防御机制 Celtibero,在保持高主任务准确率的同时显著降低攻击成功率,优于现有防御方案。
2024-09-20 cs.AI cs.CR cs.DC
TRYLOCK: Defense-in-Depth Against LLM Jailbreaks via Layered Preference and Representation Engineering
AI/ML Security Researcher(人工智能与机器学习安全研究员)
TRYLOCK通过分层偏好和表征工程实现对LLM劫持的纵深防御,结合DPO、RepE、自适应侧车和输入规范化,有效降低攻击成功率并提升安全性与易用性的平衡。
2026-01-06 cs.CR cs.LG
When Malicious Instructions Persist: Persistent Memory Poisoning Attack on Harness-Based Agents
University of Auckland(奥克兰大学);Fudan University(复旦大学)
提出针对基于 Harness 的智能体的持久内存投毒攻击 PMPA,通过诱导写入恶意指令实现跨会话隐私泄露,在 OpenClaw 和 Claude Code 上验证了高成功率,并评估了防御的局限性。
2026-09-15 cs.AI cs.CR
TriShieldRAG: 3 Rings, One Blind Spot in Layered Defenses for Retrieval-Augmented Generation
Indian Institute of Technology Jodhpur(印度理工学院焦特布尔分校)
研究针对检索增强生成中知识腐败问题,构建TriShieldRAG框架,设置摄取防护、检索评分器和跨语言模型共识阶段三个环,推导环2和环3起作用的条件,评估表明该框架能大幅降低攻击成功率并保持良性查询准确性。
2026-08-28 cs.AI cs.CL cs.CR
Defense-as-Skill: Evolving Runtime Guard Skill for Skill-Augmented Agents
Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);Fudan University(复旦大学);Harbin Institute of Technology, Weihai(哈尔滨工业大学(威海))
本研究提出 Defense-as-Skill 防御范式,将运行时防护实现为可安装技能,开发 SkillSonar 防护工具,构建 SCOPE-R 数据集,经演化后可大幅降低攻击成功率,同时保持安全-效用权衡。
2026-10-28 cs.AI cs.CR
Zero-Trust Artificial Intelligence Model Security Based on Moving Target Defense and Content Disarm and Reconstruction
Ariel University(阿里尔大学);Ariel Cyber Innovation Center(阿里尔网络创新中心)
本文提出结合内容解除和重建(CDR)与移动目标防御(MTD)的零信任AI模型安全架构,有效防范Pickle和PyTorch格式中的序列化攻击与权重篡改,在HuggingFace等真实场景下实现100%解除率。
2025-03-03 cs.AI cs.CR
Sleeper Channels and Provenance Gates: Persistent Prompt Injection in Always-on Autonomous AI Agents
研究提出睡眠通道概念,揭示始终在线AI代理中持久提示注入的机制,并通过层级防御方案和形式化证明提升安全性。
2026-05-13 cs.CR
A Multi-Layered Security Analysis of Blockchain Systems: From Attack Vectors to Defense and System Hardening
本文从数字货币交易平台、智能合约、公链、共识机制和P2P等层面系统分析区块链面临的安全威胁,并提出相应的防御与系统加固优化思路。
2025-04-12 cs.CR
Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
The Pennsylvania State University(宾夕法尼亚州立大学)
研究针对大语言模型智能体记忆伪造推理的攻击,提出FARMA攻击方法,通过规避语言伪造推理痕迹并强化,还引入SENTINEL防御管道,实验表明该防御能有效降低攻击成功率。
2026-07-07 cs.AI cs.CR
RAGuard: A Layered Defense Framework for Retrieval-Augmented Generation Systems Against Data Poisoning
该研究针对RAG系统的语料库中毒攻击,提出分层防御框架RAGuard,含对抗微调检索器与ZKIP两层,可将攻击成功率降至0,且保持检索性能,相关资源已开源。
2026-07-30 cs.CR cs.IR cs.LG
Automated jailbreak attack targeting multiple defense strategies
East China Normal University(东华大学);Shanghai Innovation Institute(上海创新研究院);University of Southampton(南安普顿大学);Shanghai Jiao Tong University(上海交通大学);Software Engineering Institute, East China Normal University(东华大学软件工程研究院)
提出UNIATTACK框架,从防御视角提取攻击特征并优化,实现跨模型和类别的单次黑盒攻击,显著提升成功率并降低开销。
2026-06-16 cs.AI cs.CR
A Framework for Rapidly Developing and Deploying Protection Against Large Language Model Attacks
Cisco Systems(思科系统)
该框架借鉴恶意软件防护实践,集成威胁情报、数据与发布三大平台,实现针对大语言模型攻击的快速防护开发与部署,提供分层防御并支持持续更新。
2025-10-17 cs.AI cs.CR
Toward Responsible AI-Augmented Cyber Defense: Pattern Recognition, Defense-in-Depth, and the Case for Human-AI Collaboration
Daw Alfada Company(道阿尔法达公司);University of Misan(米桑大学)
本文提出一个可证伪模型,形式化纵深防御、AI模式识别与人机协作,通过模拟证明AI增强在分层饱和处收益最大,且全面人工审查非最优,为平衡人机协作提供精确设计目标。
2026-09-23 cs.AI cs.CR
Securing LLM Agents Need Intent-to-Execution Integrity
National University of Singapore(新加坡国立大学);University of California, Los Angeles(加州大学洛杉矶分校);University of California, Berkeley(加州大学伯克利分校)
本文提出了一种新的正确性属性,用于定义LLM代理在执行时如何忠实反映用户的意图,同时提出了四个必须同时满足的完整性属性,以确保代理的安全性。
2026-05-16 cs.CR
When Convenience Becomes Risk: A Semantic View of Under-Specification in Host-Acting Agents
School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院)
本文探讨主机作用代理中因目标规范不足导致的安全问题,提出语义威胁模型和风险完成模式分类,并通过案例研究分析如何通过明确执行边界来防御风险。
2026-03-22 cs.AI cs.CR
CivicShield: A Cross-Domain Defense-in-Depth Framework for Securing Government-Facing AI Chatbots Against Multi-Turn Adversarial Attacks
本文提出CivicShield框架,通过多层防御机制提升政府AI聊天机器人安全性,有效检测多轮对抗攻击,理论分析显示多层防御可将攻击概率降低1-2个数量级。
2026-03-30 cs.AI cs.CR
Poison Once, Exploit Forever: Environment-Injected Memory Poisoning Attacks on Web Agents
Pennsylvania State University(宾夕法尼亚州立大学);Amazon Web Services(亚马逊云服务)
研究提出eTAMP攻击,通过环境观察污染代理内存,实现跨会话和跨网站的持久化攻击,实验显示攻击成功率高达32.5%,且环境压力下代理易受攻击,高能力模型同样存在漏洞。
2026-04-07 cs.AI cs.CR
CASCADE Against Jailbreaks: Combination Across Stages with Controlled Attack-Defense Evaluation
School of Computing(计算学院);National University of Singapore(新加坡国立大学)
针对LLM越狱防御在不同流水线阶段部署不清的问题,首次系统研究阶段内与跨阶段的防御组合,在统一威胁模型下标准化评估,发现无单一防御最优,但精选组合可在最小化效用降级下显著提升安全性。
2026-09-21 cs.CL cs.CR
CMIP-Forge: An Agentic System that Retrieves, Computes, and Self-Reviews Climate Science
Alfred Wegener Institute, Helmholtz Centre for Polar and Marine Research(阿尔弗雷德·韦格ener研究所,极地与海洋研究中心)
提出CMIP-Forge系统,结合检索增强生成与自主分析,通过多层级防御架构和独立审查机制,实现从文献到实时气候数据的端到端自主研究。
2026-06-17 cs.AI physics.ao-ph
Hedge Funds on a Swamp: Analyzing Patterns, Vulnerabilities, and Defense Measures in Blockchain Bridges
本文系统化梳理区块链桥的设计与安全,定义安全先验、形式化13个桥架构、识别23种攻击向量并评估43个攻击场景,提出分层威胁模型、设计决策框架及防御机制,为跨链基础设施安全标准化提供数据驱动基础。
2025-07-21 cs.CR cs.ET
AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
Huazhong University of Science and Technology(华中科技大学)
提出AGATE,一种基于授权和数据溯源门控的LLM智能体运行时防御系统,通过确定性检查阻止组合攻击,并在三个生产框架中验证了其可行性与局限性。
2026-09-28 cs.CR cs.SE
SynChain: Inducing Computer-Use Agent Systems to Construct Their Own Attack Chains
Nanyang Technological University(南洋理工大学);Xidian University(西安电子科技大学);Institute of Science Tokyo(东京科学大学)
该研究提出SynChain攻击范式,通过定向监督微调诱导计算机使用智能体构建含恶意内容的良性制品,在多模型多防御设置下实现高攻击成功率,揭示需对智能体跨任务执行轨迹做来源感知推理以保障安全。
2026-08-10 cs.CR
Universal Defenses for Tool-Integrated LLM Agents Against Adversarial Attacks
University of Toronto(多伦多大学);National Research Council Canada(加拿大国家研究委员会)
本文针对工具集成LLM智能体面临的四类对抗攻击,提出两种通用工具防御(攻击者工具过滤和正常工具召回)及提示防御,在多种开源和专有模型上将攻击成功率降至0%,同时保持或提升任务成功率。
2026-09-16 cs.AI cs.CL cs.CR