A Formal Analysis of Agent Payment Protocols
Southern University of Science and Technology(南方科技大学);Indian Institute of Technology(印度理工学院);City University of Hong Kong(香港城市大学)
该研究在Tamarin中对x402等四种智能体支付协议进行形式化分析,复现46个验证案例并发现40个新一致性问题,提出18项安全原则,验证了委托授权需与经济服务效果一致的结论。
2026-09-02 cs.AI cs.CR
AgentAudit: An Open, Extensible Framework for Full-Lifecycle Trust Evaluation of AI Agents
TIET(塔帕尔工程技术学院);GTBIT(古鲁·特格·巴哈杜尔理工学院);IGDTUW(英迪拉·甘地德里妇女技术大学);Ministry of Electronics and Information Technology (MeitY), Government of India(印度政府电子和信息技术部)
AgentAudit是一个开放可扩展的框架,通过评估执行轨迹的十个维度并归因失败,实现AI智能体全生命周期的可信度评估,实验显示不同模型信任分数差异显著。
2026-09-10 cs.AI
Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
本综述针对基于世界模型的具身智能,梳理其生命周期内的各类安全威胁,提出分类法与评估协议,并从多维度构建防御体系,同时指出世界模型兼具安全护盾与安全错觉的双重属性。
2026-07-31 cs.AI cs.CR
What If Prompt Injection Never Left? Rethinking Agent Security through Cross-Session Stored Prompt Injection
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cyber Security, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院);AI Sec Lab, Beijing Chaitin Technology Co.,Ltd(北京柴坦科技有限公司AI安全实验室)
本研究引入跨会话存储提示注入,通过持久化状态使提示注入从单会话模型级威胁转变为长期系统级漏洞,并构建了分类法、基准测试和沙箱工具以评估风险。
2026-07-31 cs.AI cs.CR
Mining Characteristics of Vulnerable Smart Contracts Across Lifecycle Stages
School of Cyberspace Security, Hainan University(海南大学网络空间安全学院)
本文首次对智能合约整个生命周期(部署、执行、升级、销毁)进行实证研究,提出七个特征,并用五个机器学习模型识别各阶段漏洞,发现漏洞合约在不同阶段具有不同交易特征和网络属性。
2025-04-21 cs.AI cs.CR
Resource-Optimized and Energy-Aware Agentic AI Framework Anchored on Blockchain for Secure Software Supply Chains
Islamic University in Madinah(麦地那伊斯兰大学)
提出基于区块链的智能体安全框架,协调多个LLM驱动的安全智能体覆盖SDLC,通过链上签名证明和智能合约实现可信审计与可验证部署决策,提供去中心化完整性保障。
2026-09-28 cs.AI cs.CR
Enhancing Software Supply Chain Resilience: Strategy For Mitigating Software Supply Chain Security Risks And Ensuring Security Continuity In Development Lifecycle
本文提出缓解软件供应链安全风险并确保开发生命周期安全连续性的策略,通过分析供应链韧性现状,增强数字基础设施的透明度与信任,以强化整体安全态势。
2024-07-08 cs.CR
Security Threat Modeling for Emerging AI-Agent Protocols: A Comparative Analysis of MCP, A2A, Agora, and ANP
Canadian Institute for Cybersecurity (CIC), University of New Brunswick, New Brunswick, Canada(加拿大网络安全研究所(CIC)、新不伦瑞克大学、新不伦瑞克省,加拿大)
本文对四种新兴AI代理通信协议进行安全分析,识别协议特定及跨协议风险面,提出定性风险评估框架,并通过MCP案例研究提供安全部署指导。
2026-04-17 cs.AI cs.CR
GuardianPWA: Enhancing Security Throughout the Progressive Web App Installation Lifecycle
Texas A&M University(德克萨斯农工大学)
本文提出GUARDIANPWA框架,基于CIA原则分析PWA安装机制,发现203处安全违规,揭示浏览器厂商在PWA安装生命周期中的隐私风险,并帮助开发者提升安全性。
2026-06-26 cs.CR
A Survey on Long-Term Memory Security in LLM Agents: Attacks, Defenses, and Governance Across the Memory Lifecycle
MemTensor;Shanghai Jiao Tong University(上海交通大学)
本文提出记忆生命周期框架,系统分析LLM智能体长期记忆面临的新威胁,并引入可验证记忆治理(VMG)架构原语,强调存储时溯源与版本控制对安全的关键作用。
2026-11-02 cs.AI cs.CL cs.CR
Agent Skill Security: Threat Models, Attacks, Defenses, and Evaluation
Google(谷歌)
研究智能体可复用技能安全,提出SkillSec-Eval框架,刻画技能生命周期并开发威胁分类法,通过对327个真实技能实证评估,发现多阶段有漏洞,强调需进行生命周期感知安全分析。
2026-07-16 cs.CR
Digital Twin for Secure Semiconductor Lifecycle Management: Prospects and Applications
半导体供应链的全球化扩张已经将许多不受信任的实体引入到设备生命周期的不同阶段。更糟糕的是,设计复杂性的增加以及新一代集成电路对上市时间的苛刻要求可能导致设计人员无意中引入安全漏洞,或者验证工程师在设计生命周期的早期未能检测到这些漏洞。这些被忽视或未被检测到的漏洞可能会在生命周期的后续阶段被恶意实体通过不断扩大的各种硬件攻击加以利用。因此,当需要确保整个生命周期的安全保证时,确定这些漏洞来源的能力就成为一个紧迫的问题。我们认为,如果存在恶意或无意违反设备安全策略的行为,则会在整个生命周期的传统设计、验证和测试活动中以异常的形式反映出来。通过这种方式,可以通过从不同阶段收集的数据形成设备生命周期的数字模拟,称为数字孪生(DT),以确保设备的生命周期。在本文中,我们提出了一种实现安全漏洞与硅生命周期中可用数据的交织关系,并制定了AI驱动的DT框架的不同组件。建议的DT框架利用这些关系和关系学习来实现前向和后向信任分析功能,从而实现整个生命周期的安全意识管理。最后,我们提供了潜在的未来的研究途径和挑战,实现数字孪生框架,使安全的半导体生命周期管理。
2022-05-24 cs.CR
Trustworthy Agentic AI: Failure Modes, Mitigation Strategies, and a Lifecycle Framework for Autonomous LLM Systems
Indiana University Indianapolis(印第安纳大学印第安纳波利斯分校);Purdue University Northwest(普渡大学西北校区);Higher Colleges of Technology(高等技术学院);Yale University(耶鲁大学)
本文从安全鲁棒性、对齐监督、透明度、隐私治理和合规五个维度,系统梳理了自主LLM智能体的故障模式与缓解策略,并提出涵盖规范、设计、训练、评估、部署和监控六阶段的可信智能体开发生命周期框架。
2026-09-22 cs.AI
A Security-Oriented Lifecycle Model for Large Language Model Systems
Democritus University of Thrace(德谟克利特色雷斯大学);Athena Research Center(雅典娜研究中心)
本文针对LLM系统生命周期框架重效率轻安全、治理与生命周期阶段脱节的问题,提出含32个阶段的安全导向生命周期模型,整合多监管框架发现治理证据分布不均的结构特性。
2026-08-05 cs.AI cs.CR cs.CY
Towards a Security Lifecycle Model against Social Engineering Attacks: SLM-SEA
这项研究考虑了社会工程安全攻击的影响,这些攻击被认为是利用用户意识和行为的机会。在这方面,研究提出了一种管理方法,以加强甚至确保保护。本研究的目的是构建一个安全的生命周期模型,对这些不测事件,并分析已在土耳其公共部门的背景下进行的测试结果。这项研究的主要目的是确定为什么员工通过访谈陈述谬误和相关修正来共享敏感信息,从而了解用户在面对真正的社会工程攻击时的行为。研究结果表明,土耳其公共组织的雇员对信息安全认识不足,他们通常忽视至关重要的安全程序。这是一个重要的例子,说明越来越需要进一步普及用户意识和责任,使个人而不仅仅是软件成为安全保护组合的一个关键要素。
2015-07-09 cs.CR cs.CY
SafeHarness: Lifecycle-Integrated Security Architecture for LLM-based Agent Deployment
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Academy of Mathematics and Systems Science, Chinese Academy of Sciences(中国科学院数学与系统科学研究院);Institute of Applied Physics and Computational Mathematics(应用物理与计算数学研究所);Peking University(北京大学)
本文提出SafeHarness架构,通过四个防御层集成到代理生命周期中,解决现有安全方法的结构性不匹配问题,降低不安全行为和攻击成功率。
2026-05-11 cs.AI cs.CR
Agentic Service-Oriented Computing: A Manifesto for the Next Frontier of Service-Oriented Computing
研究LLM驱动的智能体融入复杂工作流面临的挑战,提出面向智能体的面向服务计算(ASOC)。阐述其六个基本原则,组织五维研究议程,旨在将智能体AI从零散演示转变为可靠的基于服务的系统,为新兴领域提供支撑。
2026-07-15 cs.AI cs.ET
SAGA: A Security Architecture for Governing AI Agentic Systems
Northeastern University(东北大学)
针对自主智能体缺乏用户可控治理的问题,本文提出 SAGA 架构,通过 Provider 注册、策略执行与密码学访问令牌实现全生命周期监督,并验证其低开销且不损害任务效用。
2025-08-29 cs.AI cs.CR cs.LG
SoK: Measuring What Matters for Closed-Loop Security Agents
IEEE
针对网络安全领域闭环安全智能体研究缺乏统一评估框架与基准的问题,提出CLASP框架与CLC分数,梳理现有研究的能力缺口,为闭环安全智能体评估提供通用标准与测量手段。
2025-10-02 cs.AI cs.CL
QSAF: A Novel Mitigation Framework for Cognitive Degradation in Agentic AI
Qorvex Consulting(Qorvex咨询公司);Wentworth Institute of Higher Education(文森特高等教育学院);RAN Verification NOKIA, Germany(NOKIA德国RAN验证);Roshan Consulting(罗尚咨询);Skylink Antenna(Skylink天线);Eviden Saudi Arabia(沙特Eviden);Deloitte Enterprise Risk | Internal Audit | Technology GRC(德勤企业风险管理|内部审计|技术治理)
本文提出QSAF框架,将认知退化定义为智能体AI的新型内部脆弱性,并通过六阶段生命周期和七项运行时控制实现实时检测与主动缓解,建立首个跨平台防御模型。
2025-07-21 cs.AI
SecMLOps: A Comprehensive Framework for Integrating Security Throughout the MLOps Lifecycle
Carleton University(卡尔顿大学);Queen’s University(皇后大学);Polytechnique Montréal(蒙特利尔高等工程学院)
SecMLOps提出了一种全面的框架,用于在整个MLOps生命周期中集成安全措施,通过实证评估展示了其在提升ML应用安全性和性能平衡方面的贡献。
2026-01-15 cs.CR cs.SE
Sydr-Fuzz: Continuous Hybrid Fuzzing and Dynamic Analysis for Security Development Lifecycle
为了保证软件的安全性,满足安全开发生命周期(SDL)的要求,目前对用于持续测试的自动化动态分析框架的需求很高。尖端混合模糊技术的安全漏洞搜索效率优于广泛使用的覆盖引导模糊。我们提出了一个增强的动态分析管道,以利用生产力的自动错误检测的基础上混合模糊。我们在连续模糊工具集Sydr-Fuzz中实现了所提出的管道,该工具集由混合模糊编排器提供支持,将我们的DSE工具Sydr与libFuzzer和AFL++集成在一起。Sydr-Fuzz还集成了安全谓词检查器、崩溃分类工具Casr以及用于语料库最小化和覆盖率收集的实用程序。我们的混合模糊器对替代国家的最先进的解决方案的基准测试表明,其优越性覆盖引导模糊器,同时保持在同一水平上与先进的混合模糊器。此外,我们通过在OSS-Sydr-Fuzz项目中发现85个新的真实世界软件缺陷来验证我们方法的相关性。最后,我们向社区开放Casr源代码,以方便检查现有的崩溃。
2023-03-23 cs.CR cs.SE
Beyond Code Generation: Reliability, Verification, and Cost Economics in the Agentic Software Development Lifecycle
本文综合多类研究证据,提出智能体SDLC相关工程概念,探讨AI编码智能体在软件开发全流程的可靠性、成本等问题,核心转向生产合格价值的量化评估。
2026-09-07 cs.AI cs.SE
A Survey on Privacy of Health Data Lifecycle: A Taxonomy, Review, and Future Directions
该综述梳理健康数据生命周期的10类隐私问题,按阶段适配性分类现有隐私保护方法,提出医疗隐私保护技术分类体系,指出密码技术应用广泛但需适配医疗特殊需求,并给出未来研究方向。
2023-11-09 cs.CR
Taming OpenClaw: Security Analysis and Mitigation of Autonomous LLM Agent Threats
Ant Group & Tsinghua University(蚂蚁集团与清华大学);Tsinghua University(清华大学)
本文分析了自主LLM代理OpenClaw的安全威胁,提出五层安全框架,揭示现有防御机制的不足,并提出包括插件审查、上下文过滤等在内的综合防御策略。
2026-03-12 cs.AI cs.CR
Model Context Protocol (MCP): Landscape, Security Threats, and Future Research Directions
Huazhong University of Science and Technology(华中科技大学)
本文系统研究模型上下文协议(MCP)的架构与安全,定义服务器生命周期和威胁分类,提出针对性安全措施,并分析现状与未来方向。
2025-10-07 cs.AI cs.CR
Security and Privacy Measurement on Chinese Consumer IoT Traffic based on Device Lifecycle
Nankai University(南开大学)
该研究构建首个中国消费级IoT设备全生命周期流量数据集,分析77台设备的流量目的地与加密实践,并开源采集指南和数据。
2025-09-28 cs.CR
TraceGrant: A Contract-Governed Security Framework for the Task-Effect Lifecycle of Networked LLM Agents
Xidian University(西安电子科技大学);National Key Laboratory of Multi-domain Data Collaborative Processing and Control(多域数据协同处理与控制国家重点实验室)
TraceGrant是通过显式合约治理联网LLM智能体任务-效应生命周期的安全框架,在两类基准攻击案例中未出现攻击成功,且能关联用户意图、执行与任务完成。
2026-08-24 cs.CR
Oracle R12 EBusiness Suite Role Based Access Control and Roles Lifecycle Management
针对 Oracle E-Business Suite R12 RBAC 缺乏 RLM 流程并引发 SOD 与 PII 访问控制问题,本文提出一种角色生命周期管理流程。
2023-02-04 cs.CR
Security in the Fine-Tuning Lifecycle of Large Language Models: Threats, Defenses,Evaluation, and Future Directions
Hangzhou Normal University(杭州师范大学);Zhejiang University(浙江大学);China Mobile (Zhejiang) Innovation Research Institute Co., Ltd.(中国移动(浙江)创新研究院有限公司);Quantum Cloud Computing and Distributed Systems (qCLOUDS) Lab, School of Computing and Information Systems(量子云计算与分布式系统(qCLOUDS)实验室,计算与信息学院);The University of Melbourne(墨尔本大学)
本文系统综述了大型语言模型微调过程中的安全威胁与防御,提出了基于生命周期的三阶段框架,并通过统一实验评估了攻击与防御的有效性及跨阶段局限性。
2026-05-24 cs.AI cs.CR cs.LG
Lifecycle-Integrated Security for AI-Cloud Convergence in Cyber-Physical Infrastructure
The University of Tulsa(塔尔萨大学);Joongbu University(中部大学)
本文提出了一种生命周期集成的安全架构,通过综合AI治理、云安全和工业标准,实现对AI-云融合环境中多层攻击的防御。
2026-02-26 cs.CR cs.SY eess.SY
Baseline functionality for security and control of commodity IoT devices and domain-controlled device lifecycle management
新兴的物联网(IoT)大大增加了家庭、工作场所和智能城市基础设施中的连接设备数量。这不仅需要确保设备相关通信的机密性,还需要确保设备配置和管理的手段--确保只有合法设备才被授予本地域的特权,只有授权代理才能访问设备及其保存的数据,并且软件更新是真实的。支持设备加载、持续设备管理和控制以及安全停用的需求要求提供一套密钥管理服务,用于设备访问控制以及设备对无线基础设施和网络资源的访问。我们确定了这一核心功能,并主张承认有效和可靠的密钥管理支持--在物联网设备内,并通过统一的外部管理平台--作为物联网世界的基线要求。我们提出了一个框架架构,以促进商品物联网场景中安全,灵活和方便的设备管理,并提供了一组说明性的协议作为基础解决方案--不是为了推广特定的解决方案细节,而是为了突出基线功能,以帮助域所有者监督大量独立多供应商物联网设备的部署。
2018-08-09 cs.CR
A Lifecycle and Application-Stack Survey of Large Language Model Vulnerabilities: Attacks, Risks, Defenses, and Open Problems
Worcester Polytechnic Institute(伍斯特理工学院)
本文通过生命周期与应用栈视角系统化梳理大语言模型系统的漏洞,涵盖数据收集、预训练、对齐、供应链、检索、推理、工具执行和部署等阶段,分析攻击、风险与防御,并提出安全研究议程。
2026-07-01 cs.AI cs.CR cs.GT
LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity
School of Cyber Science and Engineering, Wuhan University(武汉大学计算机科学与工程学院);Department of Computer Science and Engineering, University at Buffalo(布法罗大学计算机科学与工程系)
综述LLM代理的自我安全威胁与防御,以及其在网络攻防中的赋能作用,首次揭示两者间的正反馈协同效应。
2026-06-26 cs.AI cs.CR
SoK: How Frontier AI Reshapes System-Level Security Risk Dynamics in Critical Infrastructure
CSIRO(联邦科学与工业研究组织)
本研究提出五维风险动态框架,分析前沿人工智能重塑关键基础设施系统级安全风险的机制,指出学术研究与运营约束的错配,推动系统级安全保证研究。
2026-08-06 cs.CR
Cyber LOPA: An Integrated Approach for the Design of Dependable and Secure Cyber Physical Systems
安全风险评估是确保可靠的信息物理系统(CPS)设计的重要过程。传统的风险评估只考虑物理故障。对于现代CPS,由网络攻击引起的故障正在增加。最新研究工作的重点是安全生命周期集成和风险评估的建模形式主义的扩展,以纳入安全故障。安全和安全生命周期之间的相互作用及其对整个系统设计的影响,以及忽视安全故障导致的可靠性损失是一些被忽视的研究问题。本文提出了一种新的安全设计方法,名为网络保护层分析(CLOPA),扩展现有的LOPA框架,包括网络攻击造成的故障,解决了这些研究问题。所提出的方法提供了一个严格的数学公式,定量地表达了设计一个高度可靠的CPS与高度安全的CPS之间的权衡。我们进一步提出了一个协同设计的生命周期过程,集成了安全和安全风险评估过程。我们评估建议的CLOPA方法和综合生命周期的实际案例研究的过程反应器控制的工业控制试验台,并提供了建议的CLOPA和当前的LOPA风险评估实践之间的比较。
2022-08-17 cs.CR cs.SY eess.SY
A Systematic Security Evaluation of OpenClaw and Its Variants
Xidian University(西安电子科技大学);Data Science & Artificial Intelligence Research Institute, China Unicom(中国联通数据科学与人工智能研究院)
本文系统评估了六个OpenClaw系列代理框架的安全性,发现代理系统存在显著安全漏洞,且其风险高于孤立使用的基础模型。
2026-04-03 cs.AI cs.CR
Data Driven Vulnerability Exploration for Design Phase System Analysis
将安全性作为生命周期实践来应用,对于在安全关键型系统中对抗有针对性的攻击变得越来越重要。除此之外,在该领域中存在两个重大挑战:(1)需要能够在没有实现的情况下表征现实系统的模型,以及(2)将攻击向量信息(即,历史数据)与这样的系统模型相关联的自动化方式。我们提出了网络安全知识体系(CYBOK),它需要充分的系统特征模型,并作为搜索引擎的潜在攻击向量。CYBOK从根本上说是一种漏洞探索的算法方法,这是对它所建立的知识体系的重要扩展。通过使用CYBOK,安全分析师和系统设计师可以在系统生命周期的早期、主要设计决策期间和最终产品设计之前共同评估系统的整体安全状况。因此,有助于更早地在整个系统生命周期中应用安全性。
2019-09-06 cs.CR cs.SY eess.SY
Automating Function-Level TARA for Automotive Full-Lifecycle Security
本文提出DefenseWeaver系统,利用大语言模型和多智能体框架自动化汽车功能级TARA,动态生成攻击树,经四个项目验证识别11条关键路径,并跨领域适用,显著提升效率。
2025-04-25 cs.CR
Cisco Integrated AI Security and Safety Framework Report
Cisco AI Threat and Security Research(思科人工智能威胁与安全研究)
本文提出思科集成AI安全与安全框架,旨在统一分类和操作化AI风险,涵盖安全与安全,适用于威胁识别、风险优先级排序等,具有全面性和扩展性。
2025-12-15 cs.AI cs.CR
Towards Trusted and Intelligent Cyber-Physical Systems: A Security-by-Design Approach
网络物理系统(CPS)中网络攻击的复杂性要求建立一种机制,可以评估操作行为和安全性,而不会对实时系统的操作产生负面影响。在这方面,数字孪生(DT)正在彻底改变CPS。DT在整个产品生命周期中加强了CPS的安全性,同时假设DT数据是可信的,提供了预测和响应实时变化的灵活性。然而,CPS中现有的DTs解决方案受到多个利益相关者之间不可信的数据传播和及时的过程校正的限制。这些限制加强了设计具有实时创建可操作见解能力的可信分布式解决方案的重要性。为此,我们提出了一个框架,通过集成区块链和人工智能(AI),专注于可信和智能DT。在混合方法之后,所提出的框架不仅从CPS的规范中获取过程知识,而且还依赖于AI来学习基于传感器数据的安全威胁。此外,我们集成区块链以保护产品生命周期数据。我们讨论了汽车行业作为CPS用例的拟议框架的适用性。最后,我们确定了开放的挑战,阻碍了智能驱动的体系结构在CPS的实施。
2022-05-02 cs.CR
Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives
National Institute of Technology Calicut(印度国家技术学院卡利卡特分校)
该研究系统分析AI渗透测试代理的安全威胁,提出涵盖LLM生命周期、架构及行为的威胁分类法,并指出现有防护不足,倡导开发上下文与架构感知的专门防护机制。
2026-09-16 cs.CR
Security and Privacy in Large-Model-Driven Embodied Agents: Attacks, Defenses, and Future Directions
Xidian University(西安电子科技大学)
本综述基于生命周期五阶段框架,系统分析大模型驱动的具身智能体面临的安全与隐私攻击、防御及评估方法,揭示端到端保护与现实评估的差距,并指出未来关键研究方向。
2026-09-24 cs.CR
A Biosecurity Agent for Lifecycle LLM Biosecurity Alignment
Imperial College London(帝国理工学院);Princeton University(普林斯顿大学)
本研究提出一个覆盖LLM全生命周期的生物安全智能体,通过数据集净化、偏好对齐、运行时防护和自动化红队四种模式,在保持效用的同时显著降低攻击成功率,为科研LLM提供可审计的安全防护框架。
2025-09-13 cs.CR
MemSecBench: Tracking Agent Memory Poisoning from Persistence to Consequence and Repair
Institute of Cyberspace Security, Zhejiang University of Technology(浙江工业大学网络空间安全研究院);Binjiang Institute of Artificial Intelligence, ZJUT(浙江工业大学滨江人工智能研究院);College of Information Engineering, Zhejiang University of Technology(浙江工业大学信息工程学院)
本研究提出MemSecBench基准测试,通过24种配置的实验发现不同内存系统栈在智能体内存中毒的持久性、后果及选择性修复上存在显著差异,为智能体内存安全评估提供了工具。
2026-07-30 cs.AI cs.CR
Beyond the Mandate: A Systematic Security Analysis of the Agent Payments Protocol (AP2)
Ben-Gurion University of the Negev(内盖夫本-古里安大学);Intuit(Intuit公司)
本文对谷歌AP2 v0.2开展系统性安全分析,识别出48种威胁及8种高风险威胁,构建测试平台与扫描器,发现授权签名无法保障智能体交易反映用户意图。
2026-08-26 cs.AI cs.CR
Do Defenses Against LLM Extraction Work Across Attacks? A Lifecycle Benchmark of Black-Box Model Extraction
Florida State University(佛罗里达州立大学);Brigham Young University(杨百翰大学);University of Michigan, Ann Arbor(密歇根大学安娜堡分校);State University of New York at Buffalo(纽约州立大学布法罗分校);Wake Forest University(维克森林大学);University of Georgia(佐治亚大学)
提出统一基准,覆盖六种攻击、十种防御及两种自适应攻击,控制配置以评估黑盒模型提取防御的有效性。
2026-10-08 cs.CR
HarnessRisk: A Lifecycle-Oriented Benchmark for Agent Harness Safety
University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校);University of Central Florida(中佛罗里达大学);Michigan State University(密歇根州立大学)
研究提出面向生命周期的智能体管控安全基准HarnessRisk,含128个沙箱案例,评估多模型与管控配置的安全表现,发现管控配置阶段最易受攻击,明确风险识别未必带来安全行动,凸显多维度评估智能体安全的必要性。
2026-08-19 cs.AI cs.CR
From Incomplete Architecture to Quantified Risk: Multimodal LLM-Driven Security Assessment for Cyber-Physical Systems
Singapore Management University(新加坡管理大学)
本文提出ASTRAL方法,利用多模态LLM重构和分析网络物理系统架构,通过提示链、少样本学习和架构推理实现安全威胁识别和风险量化评估。
2026-04-07 cs.AI cs.CR
Spider-Sense: Intrinsic Risk Sensing for Efficient Agent Defense with Hierarchical Adaptive Screening
SUFE(上海财经大学);NUS(新加坡国立大学);QuantaAlpha(量子阿尔法);CMU(卡内基梅隆大学);SYSU(南方科技大学);USTC(中国科学技术大学);XJTU(西安交通大学)
Spider-Sense通过内在风险感知实现高效代理防御,结合分层自适应筛查机制,有效降低攻击成功率和误报率,仅引入微小延迟。
2026-02-06 cs.AI cs.CR
Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies
Zhejiang University(浙江大学);Ant Group(蚂蚁集团);Tsinghua University(清华大学);Hangzhou Dianzi University(杭州电子科技大学);Nanyang Technological University(南洋理工大学);Fudan University(复旦大学)
本文系统分析自进化LLM智能体系统的安全威胁,提出模块-生命周期攻击面矩阵,揭示17个关键威胁和7种跨模块放大效应,并通过案例证明进化设计激活3.5倍攻击面且静态防御失效。
2026-06-23 cs.AI cs.CR
On Securing the Software Development Lifecycle in IoT RISC-V Trusted Execution Environments
Ruhr University Bochum(鲁尔大学波鸿分校);NEC Laboratories Europe(NEC欧洲实验室);GMV Spain(GMV西班牙)
本文提出了一种新型工具包,使RISC-V TEE支持软件开发生命周期的关键功能,包括安全更新、迁移、状态连续性和可信时间,且性能开销极低。
2026-03-18 cs.CR
Towards trustworthy management of AIGC copyright: blockchain-enabled full lifecycle recording and multi-party auditing approach
The School of Business Administration, Jiangxi University of Finance and Economics(江西财经大学商学院);Shanghai Aerospace Information Technology Research Institute(上海航天信息技术研究所);The School of Business, Anhui University(安徽大学商学院)
本文提出AIGC-Chain系统,通过区块链实现AIGC全生命周期数据记录与多方审计,解决现有解决方案在中间数据管理上的不足,提升版权确认与多方收益分配的可信度。
2026-04-08 cs.CR cs.CY
"Setting up TLS authentication was hell": A Usability Study of Client Certificate Authentication
University of Tennessee(田纳西大学)
本文通过纵向研究发现,尽管mTLS在日常使用中流畅,但初始配置成为主要瓶颈,且仅有9%的学生理解证书认证的安全影响,表明需重大平台改进才能推动mTLS主流化。
2026-09-01 cs.CR