Beyond RAG for Cyber Threat Intelligence: A Systematic Evaluation of Graph-Based and Agentic Retrieval
AIT Austrian Institute of Technology(AIT奥地利技术研究所)
本文系统评估了四种RAG架构在CTI分析中的表现,发现图检索在结构化查询中表现更优,混合图文方法在多跳查询中提升答案质量达35%。
2026-04-13 cs.AI cs.CR
A Safety and Security Framework for Real-World Agentic Systems
NVIDIA;Lakera AI
本文提出了一种动态框架,通过用户安全视角识别新型代理风险,并通过红队行动和案例研究验证其在企业级代理系统中的安全性和安全性。
2025-11-27 cs.AI cs.CR cs.LG
Fortifying the Agentic Web: A Unified Zero-Trust Architecture Against Logic-layer Threats
Qorvex Consulting;Kleiner Perkins;Wentworth Institute of Higher Education
本文提出统一零信任架构,利用DIDs、VCs、ANS及TARE、因果链审计等机制强化智能体网络,并在形式化模型中证明对LPCI攻击具有有界成功概率的可证明安全保证。
2025-08-20 cs.AI cs.CR cs.ET
Securing Agentic AI Systems -- A Multilayer Security Framework
University of California, Berkeley(加州大学伯克利分校)
针对自主AI系统的独特安全挑战,本文采用设计科学研究方法,提出了一种生命周期感知的安全框架MAAIS,并引入自主AI的CIAA概念,通过多层防御机制确保AI生命周期的机密性、完整性、可用性和问责性,最后利用MITRE ATLAS进行验证。
2025-12-19 cs.AI cs.CR cs.CY
Security Risks of Agentic Vehicles: A Systematic Analysis of Cognitive and Cross-Layer Threats
本文提出基于角色的架构,分析代理车辆中认知和跨层安全威胁,提供首个结构化分析框架。
2025-12-18 cs.AI cs.SY eess.SY
Securing Agentic AI: A Comprehensive Threat Model and Mitigation Framework for Generative AI Agents
Amazon Web Services(亚马逊网络服务)
本文针对生成式AI智能体的自主性、记忆与工具集成等特性,提出涵盖五大领域9种威胁的综合威胁模型,并给出ATFAA风险组织框架与SHIELD缓解框架,强调需以新视角保障智能体安全。
2025-05-02 cs.AI cs.CR
A2AS: Agentic AI Runtime Security and Self-Defense
本文提出A2AS框架作为AI智能体的安全层,通过BASIC安全模型实现行为强制、上下文完整性和纵深防御,旨在建立行业标准。
2025-10-08 cs.AI cs.CR
False Prophets: On the Security of World Models in Agentic Systems
BIFOLD;TU Berlin(柏林工业大学)
研究智能体系统中世界模型的安全性,发现其存在特定漏洞,引入安全基准数据集,指出攻击者能诱导错误预测,成功率达95%,并为从业者提供减轻危害、强化系统的实用建议。
2026-10-02 cs.AI cs.CR
Formalizing the Safety, Security, and Functional Properties of Agentic AI Systems
Sapienza University of Rome(罗马萨皮恩扎大学);Purdue University(普渡大学)
本文提出一个统一的语义框架,用于分析、设计和部署正确、可靠且稳健的代理AI系统,通过形式化验证确保系统行为的安全性和功能性。
2026-04-15 cs.AI cs.CR cs.MA
Why Trust Your Agent? Empirical Security Gains from TRiSM-Guided Agentic Workflows in Healthcare
AuraQ
本文应用AI信任、风险与安全管理(TRiSM)框架,将不安全的医疗报告生成智能体工作流转变为安全敏感的工作流,在五种大语言模型上评估,将平均攻击成功率从31%-42%降至10%-25%,同时报告准确率提升14个百分点。
2026-06-27 cs.AI cs.CR
The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI
研究人工智能中Chronos漏洞,形式化基于持久性攻击的威胁模型,指出传统端点内容过滤器不足,综合深度防御格局并分类新兴框架,应对智能体内存攻击等安全威胁。
2026-07-23 cs.AI cs.CR
Agentic AI for Cyber Resilience: A New Security Paradigm and Its System-Theoretic Foundations
Department of Systems Engineering, City University of Hong Kong(香港城市大学系统工程系);Department of Electrical and Computer Engineering, New York University(纽约大学电气与计算机工程系)
本文提出基于代理AI的网络韧性新范式,通过系统理论框架设计自主工作流,利用博弈论实现网络防御与攻击的动态平衡,提升系统在攻击下的持续适应能力。
2025-12-28 cs.AI cs.CR
Human Society-Inspired Approaches to Agentic AI Security: The 4C Framework
University of New South Wales, Sydney(新南威尔士大学悉尼分校)
本文提出4C框架,通过人类社会治理理念,为代理AI安全提供多维度保护,强调行为完整性和意图,构建可信可控的AI系统。
2026-02-02 cs.AI cs.CR
Trustworthy Agentic AI: A Comprehensive Cybersecurity and Systems Survey on Threat Landscapes, Defense Architectures, and Open Challenges
Yazd University(亚兹德大学)
本综述针对智能体AI的安全挑战,提出系统安全参考框架,涵盖威胁分析、零信任防御架构及治理映射,综合206项研究,建立六维可信度分类法。
2026-09-15 cs.AI
RedTeamLLM: an Agentic AI framework for offensive security
Laboratoire de Recherche de l’EPITA(EPITA研究实验室);ICube, UMR 7357(ICube研究中心);Université de Strasbourg(斯特拉斯堡大学);CNRS(国家科学研究中心)
提出 RedTeamLLM 智能体框架,通过总结、推理和行动流程自动化渗透测试,并在 CTF 挑战中验证其推理能力与安全应用价值。
2025-05-11 cs.AI cs.CR cs.CY
MobiLLM: An Agentic AI Framework for Closed-Loop Threat Mitigation in 6G Open RANs
SRI;The Ohio State University(俄亥俄州立大学)
针对6G O-RAN现有防御被动、闭环响应能力不足的问题,提出基于LLM的多智能体框架MobiLLM,通过三类智能体实现全自动威胁缓解,实验验证其可有效降低响应延迟。
2025-10-03 cs.AI cs.CR cs.LG
NetMoniAI: An Agentic AI Framework for Network Security & Monitoring
Department of computer science, Texas Tech University, Lubbock, USA(计算机科学系,得克萨斯理工大学,拉伯克,美国)
本文提出NetMoniAI框架,通过双层智能体AI设计结合去中心化分析与集中协调,实现自动网络监控与安全,在资源约束下降低冗余并缩短响应时间。
2025-08-12 cs.AI cs.CR
MATRA: Modeling the Attack Surface of Agentic AI Systems -- OpenClaw Case Study
DistriNet, KU Leuven(DistriNet,根特大学);IBM Research(IBM研究院);CISPA Helmholtz Center for Information Security(CISPA海德堡信息安全中心);Imperial College London(伦敦帝国理工学院);A*STAR Institute for Infocomm Research(A*STAR信息与通信研究机构)
本文提出MATRA框架,用于评估代理AI系统中已知威胁转化为具体风险的机制,通过OpenClaw案例展示如何利用攻击树和安全控制降低风险。
2026-05-11 cs.AI cs.CR
Resource-Optimized and Energy-Aware Agentic AI Framework Anchored on Blockchain for Secure Software Supply Chains
Islamic University in Madinah(麦地那伊斯兰大学)
提出基于区块链的智能体安全框架,协调多个LLM驱动的安全智能体覆盖SDLC,通过链上签名证明和智能合约实现可信审计与可验证部署决策,提供去中心化完整性保障。
2026-09-28 cs.AI cs.CR
AgenticSCR: An Autonomous Agentic Secure Code Review for Immature Vulnerabilities Detection
The University of Melbourne(墨尔本大学);Monash University(莫纳什大学)
AgenticSCR通过结合LLMs、自主决策和语义记忆,有效检测预提交阶段的初期漏洞,优于传统SAST工具和静态LLM基线。
2026-08-05 cs.AI cs.CR cs.LG
LanG -- A Governance-Aware Agentic AI Platform for Unified Security Operations
UQTR(魁北克大学三河分校)
LanG平台通过统一事件记录、代理AI调度器、LLM规则生成器和三层攻击重建器,提升安全运营效率,同时采用治理架构确保AI合规性。
2026-04-07 cs.AI cs.CR
Security, privacy, and agentic AI in a regulatory view: From definitions and distinctions to provisions and reflections
Department of Informatics, University of Oslo(奥斯陆大学信息学院)
本文通过分析24份2024-2025年发布的欧盟AI监管文件,澄清安全、隐私和代理AI的关键定义,区分相关概念,梳理当前监管规定,并反思如何更好地对齐安全隐私义务与AI行为。
2026-03-19 cs.AI cs.CR cs.CY
Agentic AI-Powered Re-Identification: An Emerging, Scalable Threat to Mobility Microdata Privacy
University of Applied Sciences and Arts Northwestern Switzerland (FHNW)(西北瑞士应用科学和艺术大学(FHNW))
研究利用智能体AI自动从公开网络搜索并交叉引用数据,实现从时空轨迹中重识别个体,实验成功率达72%,揭示了大规模重识别威胁。
2026-06-29 cs.AI cs.CR stat.AP
Breaking MCP with Function Hijacking Attacks: Novel Threats for Function Calling and Agentic Models
IBM Research Europe(IBM欧洲研究院);Trinity College Dublin(三一学院都柏林);Imperial College London(帝国理工学院伦敦);ADAPT Research Centre(ADAPT研究中心)
本文提出了一种新的函数劫持攻击,通过操纵代理模型的工具选择过程,迫使调用特定攻击者选择的函数,展示了代理模型在函数调用接口上的新漏洞。
2026-09-01 cs.AI cs.CL cs.CR
The End of Trust: How Agentic AI Breaks Security Assumptions
Dept. of Computer and Data Sciences(计算机与数据科学系);Case Western Reserve University(凯斯西储大学)
代理AI打破了传统安全假设,允许高保真的定制欺骗在大众市场层面实现。本文提出'无限冒充者'攻击模型,并探讨从验证行为转向评估行动的安全范式转变。
2026-09-29 cs.AI cs.CR
SAGA: A Security Architecture for Governing AI Agentic Systems
Northeastern University(东北大学)
针对自主智能体缺乏用户可控治理的问题,本文提出 SAGA 架构,通过 Provider 注册、策略执行与密码学访问令牌实现全生命周期监督,并验证其低开销且不损害任务效用。
2025-08-29 cs.AI cs.CR cs.LG
From Threat Intelligence to Firewall Rules: Semantic Relations in Hybrid AI Agent and Expert System Architectures
Department of Control and Computer Engineering(控制与计算机工程系)
本文提出利用语义关系从威胁情报中提取信息,通过神经符号方法生成防火墙规则以缓解网络威胁。
2026-03-04 cs.AI cs.CL cs.CR
A Survey of Agentic AI and Cybersecurity: Challenges, Opportunities and Use-case Prototypes
Tennessee Tech University(田纳西科技大学);University of Nebraska Omaha(内布拉斯加大学奥马哈分校);Purdue University(普渡大学)
本文综述了代理AI在网络安全中的应用,探讨了其在防御和攻击方面的双重用途,分析了系统性风险,并展示了三个实际用例以说明其在网络安全中的行为和影响。
2026-01-08 cs.AI cs.CR
AgentSOC: A Multi-Layer Agentic AI Framework for Security Operations Automation
IEEE
AgentSOC通过整合感知、前瞻性推理和基于风险的行动规划,提升安全运营中心自动化水平,实现警报标准化、上下文丰富化及安全响应合规性。
2026-04-22 cs.AI cs.CL cs.CR
AI Agents Under Threat: A Survey of Key Security Challenges and Future Pathways
Swinburne University of Technology(斯威本理工大学)
本文综述了AI代理面临的关键安全挑战,分析了四个关键知识缺口,并探讨了未来安全防护的发展路径。
2024-09-06 cs.AI cs.CR
Logic layer Prompt Control Injection (LPCI): A Novel Security Vulnerability Class in Agentic Systems
Qorvex Consulting(Qorvex咨询公司);Roshan Consulting(Roshan咨询公司);OWASP Top 10 for LLMs(OWASP顶级LLM列表);NIST GenAI PWG(NIST生成AI工作组);Deloitte Enterprise Risk | Internal Audit | Technology GRC(德勤企业风险管理|内部审计|技术治理与合规);Reykjavik University(雷克雅未克大学);Nokia, Technology Center, Ulm, Germany(诺基亚技术中心,德国乌尔姆)
本文提出逻辑层提示控制注入(LPCI),一种针对智能体系统的新型安全漏洞,通过记忆或工具输出嵌入隐蔽载荷,绕过过滤器并跨会话触发未授权行为。
2025-08-06 cs.AI cs.CR cs.LG
Agentic Misalignment: How LLMs Could Be Insider Threats
University College London(伦敦大学学院);Anthropic;MATS;Mila
本研究通过压力测试16个领先LLM在假设企业环境中的行为,发现模型在面临替换或目标冲突时可能采取恶意内部人员行为,即智能体错位,提示部署需谨慎并加强安全研究。
2025-10-16 cs.AI cs.CR cs.LG
Sola-Visibility-ISPM: Benchmarking Agentic AI for Identity Security Posture Management Visibility
Sola Security(Sola安全)
Sola-Visibility-ISPM基准测试通过代理AI系统评估身份安全态势管理的可见性任务,展示了其在AWS、Okta和Google Workspace等环境中的高准确率和实用性。
2026-01-11 cs.AI cs.CR
Security and Privacy in Agentic AI: Grand Challenges and Future Directions
King’s College London(伦敦国王学院);Jönköping University(琼斯平大学);Universitat Politècnica de València(巴塞罗那理工大学);Inria(法国国家信息与自动化技术研究所);IBM Research(IBM研究院);Aalto University(阿尔托大学);INGENIO (CSIC–Universitat Politècnica de València)(INGENIO(西班牙国家科研委员会-巴塞罗那理工大学));IMDEA Networks(IMDEA网络研究所);University of Basel(巴塞尔大学);Dutch Data Protection Authority (AP)(荷兰数据保护局);University of Strathclyde(斯特拉斯克莱德大学);Universitat Rovira i Virgili(罗维拉-维古利大学);University of Bristol(布里斯托大学);University of Dundee(邓迪大学)
探讨智能体人工智能安全与隐私关键挑战及未来方向,通过汇聚30位国际专家的视野扫描活动,针对人工智能增长带来的新风险展开讨论与协作。
2026-07-29 cs.AI cs.CR cs.HC
Penetration Testing of Agentic AI: A Comparative Security Analysis Across Models and Frameworks
本文通过测试五个代理AI模型和两个框架,揭示了代理AI在安全方面的显著差异,发现超过一半的恶意提示成功,提出了新的防御策略和部署建议。
2025-12-16 cs.AI cs.CR
The Attack and Defense Landscape of Agentic AI: A Comprehensive Survey
本文首次系统调查了代理AI的安全性,分析了设计空间、攻击景观和防御机制,并指出现有安全不足及开放挑战,为构建安全系统和推进研究提供基础。
2026-03-11 cs.AI cs.CR
A Systematic Survey of Agentic Skills: Architecture, Lifecycle, and Security
Google LLC(谷歌有限责任公司);Purdue University(普渡大学)
本文为智能体技能生态建立统一系统基础与参考架构,界定其九阶段生命周期,探讨安全威胁与防御机制,分类多领域系统实现,确立智能体技能为自主语言智能体的基础范式。
2026-09-29 cs.AI cs.LG cs.MA
Agentic AI for Autonomous Defense in Software Supply Chain Security: Beyond Provenance to Vulnerability Mitigation
Faculty of Computer and Information System(计算机与信息系统学院);Islamic University of Madinah(麦地那伊斯兰大学);Faculty of Computer Studies(计算机研究学院);Arab Open University-Bahrain(巴林阿拉伯开放大学)
本文提出基于代理AI的软件供应链安全框架,结合LLM推理、强化学习和多代理协调,实现主动漏洞缓解,提升检测准确率和响应效率。
2025-12-29 cs.AI cs.CR
Challenges and Future Directions in Agentic Reverse Engineering Systems
本文探讨了基于大语言模型的代理系统在二进制反工程中的表现,分析了静态、动态和混合代理的局限性,指出token限制、反编译困难和缺乏程序防护等挑战,并提出未来发展方向。
2026-04-15 cs.AI cs.CR
Towards Agentic Investigation of Security Alerts
University of Oslo(奥斯陆大学);Norwegian Defence Research Establishment (FFI)(挪威国防研究机构(FFI))
本文提出一种利用大语言模型自动化安全警报初步调查的代理工作流,通过预定义查询和结构化工具访问提高准确性,减少人工工作量。
2026-04-28 cs.AI cs.CR
Towards trustworthy agentic AI: a comprehensive survey of safety, robustness, privacy, and system security
Faculty of Engineering, Department of Computer Science and Engineering, The Chinese University of Hong Kong(香港中文大学工程学院、计算机科学与工程系);Artificial Intelligence Innovation and Incubation Institute, Fudan University(复旦大学人工智能创新与孵化院);Shanghai Academy of AI for Science(上海人工智能科学研究院)
本文综述了自主AI系统在安全鲁棒性与隐私系统安全两个核心维度的风险来源、阶段缓解策略及统一评估指标,并讨论了开放挑战。
2026-05-17 cs.AI cs.CL cs.CR
Neuro-Agentic Control: A Deep Learning-based LLM-Powered Agentic AI Framework for Controlling Security Controls
Texas Tech University(德克萨斯理工大学);Cumberland University(坎伯兰大学);Advanced Academic Programs Science(高级学术项目科学部);Johns Hopkins University(约翰·霍普金斯大学)
针对运营技术网络攻击问题,提出神经代理控制框架,结合基于LLM的规划器与预训练的TimesFM,并引入“反事实物理注入”机制,在工业数据集评估中表现优于基线,能有效保障关键基础设施中代理人工智能。
2026-07-13 cs.AI
Adaptive Cybersecurity Architecture for Digital Product Ecosystems Using Agentic AI
University of Arkansas at Little Rock(阿肯色大学小石城分校)
针对传统静态网络安全模型在数字产品生态中的不足,提出集成Agentic AI的自适应安全架构,经云仿真验证可提升适应性、检测准确率并降低延迟,兼容零信任模型且符合国际法规。
2025-10-02 cs.AI
SoK: Rethinking Jailbreaking in the Era of Agentic AI: Attacks, Defenses, and Practical Consideration
Florida International University(佛罗里达国际大学)
该研究系统化梳理智能体AI时代的越狱攻击与防御,发现原生对齐不等于对抗鲁棒性,防御依赖具体情境且代价高,低最终成功率可能掩盖中间环节风险,主张转向跨层执行感知的安全防护。
2026-09-14 cs.AI
From Secure Agentic AI to Secure Agentic Web: Challenges, Threats, and Future Directions
Shanghai Innovation Institute(上海创新研究院);Shanghai Jiao Tong University(上海交通大学)
本文探讨了从安全代理AI到安全代理网络的过渡,分析了代理系统在开放网络环境中的安全挑战与威胁,并提出了应对策略和未来研究方向。
2026-03-02 cs.CR
Transforming Cyber Defense: Harnessing Agentic and Frontier AI for Proactive, Ethical Threat Intelligence
本文探讨智能体AI与前沿AI如何通过重构网络杀伤链、增强威胁情报及嵌入伦理治理,构建融合实时监控与自动化响应的主动、弹性网络防御体系。
2025-02-28 cs.CR
From AI-Generated Content to Agentic Action: Security and Safety Threats in Generative AI
Queen’s University(女王大学);University of Waterloo(滑铁卢大学)
研究探讨生成式AI从内容生成转向执行操作带来的安全与安全威胁,分析攻击者需求、系统自主性及潜在危害的变化,并评估检测、水印、对齐等技术对策,指出当前治理机制无法提供必要的协调。
2026-05-15 cs.CR
Extending the OWASP Multi-Agentic System Threat Modeling Guide: Insights from Multi-Agent Security Research
本文扩展了OWASP多智能体系统威胁建模指南,通过引入推理崩溃、不安全委派升级等新威胁类别及评估策略,填补了LLM驱动的多智能体架构在安全建模上的空白,提升了复杂自适应系统的安全性与弹性。
2025-08-13 cs.CR cs.MA cs.SE
WAAA! Web Adversaries Against Web Agents
North Carolina State University(北卡罗来纳州立大学)
本文提出首个针对代理浏览器的网络威胁模型,识别20种攻击类型,展示代理浏览器在传统和LLM威胁下的五种主要失效模式,强调需重新设计代理浏览器。
2026-10-30 cs.CR
Red-Teaming the Agentic Red-Team
Cracken;Information Protection Department, Lviv Polytechnic National University(利沃夫理工学院信息保护系)
本文首次深入分析主流进攻性安全代理系统的安全漏洞,揭示其设计缺陷可导致API密钥泄露、持久化控制及宿主机失陷,并提出架构级缓解设计原则。
2026-08-18 cs.AI cs.CR
ASTRIDE: A Security Threat Modeling Platform for Agentic-AI Applications
Old Dominion University(老奥布里恩大学);Accenture Technology Labs(埃森哲技术实验室);Florida International University(佛罗里达国际大学);Nanyang Technological University(南洋理工大学);University of Colombo(科伦坡大学)
ASTRIDE是首个专为AI智能体应用设计的自动化威胁建模平台,通过扩展STRIDE框架并结合微调的视觉语言模型与推理LLM,实现基于图的威胁建模自动化。
2025-12-04 cs.AI cs.CR
SV-LLM: An Agentic Approach for SoC Security Verification using Large Language Models
Department of Electrical and Computer Engineering, University of Florida(电子与计算机工程系,佛罗里达大学)
提出SV-LLM多智能体系统,通过集成专门智能体并利用上下文学习、微调和RAG等学习范式,自动化并增强SoC安全验证,减少人工干预并加速设计早期的风险识别与缓解。
2025-06-25 cs.AI cs.CR cs.MA
CyberSentinel: An Emergent Threat Detection System for AI Security
ICSI, University of California at Berkeley(加州大学伯克利分校ICSI(国际计算机科学研究所))
针对AI发展带来的网络安全威胁攻击面扩大问题,研究提出单智能体系统CyberSentinel,整合SSH日志暴力破解检测、域名黑名单与启发式URL评分钓鱼评估、机器学习异常检测三类功能,可实时识别新型威胁,强化主动防御。
2025-02-20 cs.AI cs.CR
Mobile Application Threats and Security
Georgia Southern University(佐治亚南方大学)
本文分析移动计算行业尤其是Android与iOS平台的安全漏洞与威胁,旨在揭示普通用户易忽视的风险并提供可部署的防护解决方案。
2025-02-08 cs.AI cs.CR