PlanGuard: Defending Agents against Indirect Prompt Injection via Planning-based Consistency Verification
Suzhou Research Institute of Shandong University(山东大学苏州研究院)
本文提出PlanGuard,一种基于上下文隔离的无训练防御框架,通过规划器生成有效动作集和分层验证机制,有效防御间接提示注入攻击,实验显示攻击成功率从72.8%降至0%。
2026-04-11 cs.CR
DRIP: Defending Prompt Injection via Token-wise Representation Editing and Residual Instruction Fusion
National University of Singapore(新加坡国立大学);Shanghai Jiao Tong University(上海交通大学)
针对传统LLM易受提示注入攻击且现有防御难以平衡实用性与安全性的问题,提出DRIP,通过去指令化数据token和残差指令融合提升鲁棒性,在基准测试中显著降低攻击成功率并保持实用性。
2025-11-18 cs.AI cs.CR
Defending Against Prompt Injection With a Few DefensiveTokens
本文提出 DefensiveToken,一种测试时防御方法,通过插入少量经安全优化的特殊令牌,在不显著降低模型效用的情况下抵御提示注入攻击,并支持安全与效用的灵活切换。
2025-08-25 cs.CR
Devil in the Lens: Analyzing and Defending Physical Prompt Injection Against Vision-Language Models on Wearable Devices
Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));Beijing University of Posts and Telecommunications(北京邮电大学)
研究针对可穿戴设备上视觉语言模型的物理提示注入攻击,利用真实环境照片分析出6种威胁向量及对12个模型的影响,攻击成功率高,还提出基于掩码的外部过滤器和基于语义向量的内部检测器两种防御策略。
2026-07-14 cs.CR
GenTel-Safe: A Unified Benchmark and Shielding Framework for Defending Against Prompt Injection Attacks
Zhejiang University(浙江大学)
针对大语言模型易受提示注入攻击的问题,本文提出统一框架GenTel-Safe,包含检测方法GenTel-Shield和含84812个攻击样本的基准GenTel-Bench,实验证明其检测性能达到最先进水平。
2024-09-29 cs.CR cs.LG
Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction
National University of Singapore(新加坡国立大学);HKUST(香港科技大学)
本文提出通过利用LLM的指令遵循能力来防御提示注入攻击,通过生成包含答案和对应指令引用的响应,有效过滤非原始指令关联的答案,实验表明其在降低攻击成功率方面优于现有方法。
2026-04-09 cs.CR
VIGIL: Defending LLM Agents Against Tool Stream Injection via Verify-Before-Commit
University of Science and Technology of China(中国科学技术大学);North Automatic Control Technology Research Institute(北自动控制技术研究所)
VIGIL通过验证后再提交协议保护LLM代理免受工具流注入攻击,有效提升安全性和效用平衡。
2026-01-14 cs.AI cs.CR
AgentAntibody: An Adaptive Immune System for Defending LLM Agents against Prompt Injection
Nanjing University(南京大学);Singapore Management University(新加坡管理大学);Nanyang Technological University(南洋理工大学)
针对LLM智能体的提示注入威胁,受自适应免疫启发提出AgentAntibody,通过持久抗体库识别威胁并进化增强防御,实验显示其在防有害行为同时保留合法任务完成上优于现有防御。
2026-08-06 cs.AI cs.CR
RTBAS: Defending LLM Agents Against Prompt Injection and Privacy Leakage
Carnegie Mellon University(卡内基梅隆大学);Two Sigma Investments(Two Sigma投资公司)
针对基于工具的LLM智能体面临的提示注入和隐私泄露风险,以及现有防御需频繁用户确认的问题,提出RTBAS,通过信息流控制适配和新型依赖筛选器自动检测安全工具调用,仅在必要时请求确认,有效防御攻击且任务效用损失低。
2025-02-14 cs.AI cs.CR
Lessons from Defending Gemini Against Indirect Prompt Injections
Google(谷歌)
本研究介绍Google DeepMind针对Gemini模型的间接提示注入防御经验,通过部署含自适应攻击技术的对抗评估框架持续测试各版本Gemini的鲁棒性,以提升其抵御操纵的能力。
2025-05-20 cs.CR cs.LG
May I have your Attention? Breaking Fine-Tuning based Prompt Injection Defenses using Architecture-Aware Attacks
UC San Diego(加州大学圣迭戈分校)
本文提出一种基于注意力的攻击算法,揭示了现有白盒提示注入防御的不足,攻击成功率高达85-95%
2025-12-17 cs.AI cs.CL cs.CR
Using Covert Topological Information for Defense Against Malicious Attacks on DC State Estimation
准确的状态估计对保证电力系统安全高效运行至关重要。最近发现的对仪表测量的协调数据注入攻击可以绕过当前的安全系统,并将错误引入状态估计。减轻这种攻击的传统智慧是通过保护仪表测量以避免恶意注入。在本文中,我们提供了一种新的替代方案,以抵御虚假数据注入攻击,利用隐藏的电力网络拓扑信息。通过保持一组传输线的确切电抗不被攻击者发现,就不能发起虚假数据注入攻击来破坏任何一组状态变量。我们首先从攻击者的角度研究了执行注入攻击的必要条件。基于这些参数,我们将最优保护问题描述为一个图中的Steiner树问题,该问题以最小的代价保护状态变量。此外,我们还提出了一个混合的防御策略,共同考虑使用隐蔽的拓扑信息和安全的电表测量时,单独的方法是昂贵的或无法实现的保护目标。提出了一种混合整数线性规划(MILP)方法来求解最优混合防御策略.为了解决该问题的NP-困难性,进一步提出了一种基于剪枝的启发式算法,在多项式时间内得到近似解。在IEEE标准电力系统测试案例中验证了所提出的防御机制的优越性能。
2014-04-20 cs.CR
GLST: Defending Confidence-Driven V2X Collaborative Perception Against Stealthy Multi-Attacker Feature Injection
School of Computer Science and Technology, Xidian University(西安电子科技大学计算机科学与技术学院)
研究针对置信驱动的V2X协同感知的安全问题,提出伪装良性攻击利用空间置信机制降低检测性能。发现现有基于信任的防御弱点,进而提出GLST通过多视角评估协作者可靠性,实验表明其在多攻击者场景下鲁棒性强,对多种攻击有效。
2026-07-28 cs.CR
ARGUS: Defending Against Multimodal Indirect Prompt Injection via Steering Instruction-Following Behavior
South China University of Technology(华南理工大学);Hong Kong University of Science and Technology(香港科技大学);Zhejiang Normal University(浙江师范大学);Beihang University(北京航空航天大学)
ARGUS通过引导指令遵循行为,在表示空间中寻找最优防御方向,实现对多模态间接提示注入攻击的有效防御,同时保持模型性能。
2025-12-05 cs.CR cs.MM
Defending Against Indirect Prompt Injection Attacks With Spotlighting
Microsoft(微软公司)
本文提出聚光灯技术(spotlighting),通过转换输入提供来源信号,帮助LLM区分多输入源,有效防御间接提示注入攻击,实验显示攻击成功率从50%以上降至2%以下且对任务效能影响极小。
2024-03-20 cs.CL cs.CR cs.LG
ARGUS: Defending LLM Agents Against Context-Aware Prompt Injection
Nanjing University(南京大学);Singapore Management University(新加坡管理大学)
研究针对LLM智能体的上下文感知提示注入攻击,提出AgentLure基准测试及ARGUS因果溯源审计器,通过构建溯源图等验证行动因果依据,在AgentLure上降低攻击成功率,提升安全-效用权衡表现。
2026-07-10 cs.CR cs.SE
TextCrafter: Optimization-Calibrated Noise for Defending Against Text Embedding Inversion
Shenzhen International Graduate School, Tsinghua University(清华大学深圳国际研究生院);School of Data Science, The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳)数据科学学院)
TextCrafter通过结合强化学习、几何感知噪声和聚类先验,提出一种优化校准的噪声机制,有效防御文本嵌入反向攻击并平衡隐私与任务效用。
2026-01-22 cs.CR
SecAlign: Defending Against Prompt Injection with Preference Optimization
UC Berkeley / Meta(伯克利大学/Meta);Meta
SecAlign 通过构建安全与不安全输出偏好数据集并进行偏好优化,使大语言模型学会优先响应合法指令而非注入攻击,首次将多种提示注入成功率降至 10% 以下,且对未知攻击泛化良好并保持模型实用性。
2025-07-03 cs.CR cs.LG
Design and Implementation of a Secure RAG-Enhanced AI Chatbot for Smart Tourism Customer Service: Defending Against Prompt Injection Attacks -- A Case Study of Hsinchu, Taiwan
Department of Information Management, National Dong Hwa University(信息管理系,国立东华大学);By The Student (BTS) Experimental Education Program (Non-School Type)(学生(BTS)实验教育计划(非学校类型))
本研究设计并实现了一个安全RAG增强的智能旅游客服聊天机器人,通过多层防御机制有效抵御提示注入攻击,实验显示良性任务准确率超95%,并检测到大部分攻击,为智慧旅游提供了实用安全框架。
2025-09-22 cs.AI cs.CR
Defending against Indirect Prompt Injection by Instruction Detection
Renmin University of China(中国人民大学);Peking University Shenzhen Graduate School(北京大学深圳研究生院);Wuhan University(武汉大学);University of Science and Technology of China(中国科学技术大学);Hong Kong University of Science and Technology(香港科技大学);Sony AI(索尼人工智能);Microsoft Research Asia(微软亚洲研究院)
本文提出InstructDetector,通过检测LLMs行为状态来识别IPI攻击,实现高检测准确率和低攻击成功率。
2025-09-17 cs.AI cs.CR
Defending Retrieval-Augmented Intrusion Detection Against Knowledge Poisoning and Prompt Injection
Laurentian University(劳伦森大学);Centennial College(百年学院);The University of Osaka(大阪大学)
本文提出RAG-IDS三层多智能体入侵检测框架,通过软信任评分、LECC和提示净化的检索边界防御,可在知识投毒与提示注入攻击下恢复分类质量,在CIC-UNSW-NB15数据集上表现出良好的防御效果。
2026-08-11 cs.AI cs.CR cs.LG
Defending against Adaptive Prompt Injection Attacks via Reasoning-enabled Task Alignment
University of Waterloo(滑铁卢大学);Zhejiang University(浙江大学);KTH Royal Institute of Technology(皇家理工学院)
提出RETA方法,通过基于用户任务的多目标强化学习训练防御器,利用思维链推理验证行动一致性,并采用字典学习多样性奖励生成对抗样本,在六种自适应攻击下平均攻击成功率低于4%。
2026-06-16 cs.AI cs.CR
SafeReview: Defending LLM-based Review Systems Against Adversarial Hidden Prompts
CISPA;Westlake University(西交利物浦大学);Southern University of Science and Technology(南方科技大学);HKUST (Guangzhou)(香港科技大学(广州))
提出SafeReview,一种共进化对抗训练框架,通过联合训练生成器和防御者模型,增强基于LLM的同行评审系统对对抗性隐藏提示的鲁棒性。
2026-05-28 cs.CL cs.CR
SIEVE: Selective Integrity Verification and Escalation for Defending LLM Agents against Indirect Prompt Injection
Sichuan University(四川大学)
本文提出认知控制架构(CCA),通过全生命周期认知监督框架,有效应对复杂IPI攻击,实现安全、功能与效率的平衡。
2026-08-04 cs.AI cs.CL cs.CR
From Prompt Injection to Persistent Control: Defending Agentic Harness Against Trojan Backdoors
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学人工智能学院 Gallagher 学院)
本文提出ClawTrojan基准测试揭示本地智能体框架中的多步木马攻击,并设计DASGuard防御方法,通过扫描控制文本、追溯来源并清除不可信控制内容,实现动态防御。
2026-05-29 cs.AI cs.CL cs.CR
Investigating Detection and Obfuscation of Prompt Injection Attacks Against Software Reverse Engineering AI Agents
Dept. of Computer Science(计算机科学系);Naval Postgraduate School(海军学院)
本研究针对软件逆向工程AI代理面临的提示注入攻击,提出了检测反编译器输出中提示注入字符串的防御策略,并探索了攻击混淆及相应防御方法。
2026-05-29 cs.AI cs.CR cs.SE
Concept-Aware Privacy Mechanisms for Defending Embedding Inversion Attacks
Department of Computer Science and Information Engineering, National Taiwan University(国家台湾大学计算机科学与信息工程系);National Taiwan University AI Center of Research Excellence(国家台湾大学人工智能研究中心)
SPARSE通过可微掩码学习和Mahalanobis机制,针对特定概念保护文本嵌入隐私,有效降低隐私泄露同时提升下游性能。
2026-02-06 cs.AI cs.CR
Defending Network Intrusion Detection Systems Based on Graph Neural Networks Against Structural Adversarial Attacks
University of Modena and Reggio Emilia(摩德纳和雷焦艾米利亚大学);Vicomtech(维科姆科技)
本文提出基于对抗训练的防御框架,以E-GraphSAGE为基础GNN,在CTU-13和TON-IoT数据集上,增强了基于GNN的NIDS对抗结构性攻击的能力,同时保持了干净图上的检测性能。
2026-08-26 cs.CR
Temporal UI State Inconsistency in Desktop GUI Agents: Formalizing and Defending Against TOCTOU Attacks on Computer-Use Agents
University of California, San Diego(加州大学圣地亚哥分校)
桌面GUI代理通过截图-点击循环控制电脑,引入了新的漏洞:观察到动作之间的时间间隙(平均6.51秒)创建了TOCTOU窗口,允许未授权攻击者操纵UI状态。本文形式化了这一现象为视觉原子性违规,并提出了三种具体攻击原语,提出了PUSV防御机制,有效拦截了所有攻击。
2026-04-20 cs.AI cs.CR
PromptSleuth: Detecting Prompt Injection via Semantic Intent Invariance
Texas A&M University(德克萨斯农工大学)
针对提示词注入攻击,本文构建了包含多任务场景的新基准,并提出基于语义意图不变性的防御框架PromptSleuth,通过推理任务级意图有效检测攻击,在保持运行时和成本效率的同时显著优于现有防御方法。
2025-09-16 cs.CR
COPA: Continual Preference Optimization for Adaptive Prompt Injection Defense
University of California, San Diego(加州大学圣地亚哥分校);West Virginia University(西弗吉尼亚大学)
该研究提出COPA框架,将提示注入防御视为终身学习问题,通过GRPO优化和边际加权经验回放实现持续防御,使攻击成功率最高降低6.3倍、平均降低4.4倍。
2026-08-21 cs.CR
FlipGuard: Defending Large Language Models Against Quantization-Conditioned Backdoor Attacks
School of Cyber Science and Technology(网络安全科学与技术学院);Suzhou Research Institute of Shandong University(山东大学苏州研究院)
提出FlipGuard防御框架,通过量化前扰动权重打破后门触发条件,有效抑制量化条件后门攻击,并引入DER指标统一评估安全、效用与成本。
2026-06-27 cs.CR cs.LG
LaSM: Layer-wise Scaling Mechanism for Defending Pop-up Attack on GUI Agents
Shanghai Jiao Tong University(上海交通大学)
本文提出LaSM机制,通过分层放大关键层的注意力和MLP模块,提升模型对任务相关区域的对齐性,有效防御弹出攻击,同时不影响模型整体能力。
2026-04-07 cs.AI cs.CR
Defending Grey Attacks by Exploiting Wavelet Analysis in Collaborative Filtering Recommender Systems
"先令"攻击或"轮廓注入"攻击一直是协同过滤推荐系统(CFRS)的主要挑战。人们一直致力于改进协同过滤技术,以消除“先令”攻击。然而,大多数研究都集中在检测推送攻击或核攻击上,这些攻击在目标项上得分最高或最低。很少有人关注灰色攻击,当一个目标项目的评分低于或高于平均评分,这表明一个更隐藏的评级行为比推或核攻击。在本文中,我们提出了一种新的检测方法,使推荐系统抵抗这种攻击。为了刻画灰色评级,我们利用项目的评级偏差来区分灰色攻击配置文件和真实配置文件。此外,本研究亦利用项目的新颖度与受欢迎度来建构评分序列。由于很难区分攻击者和真正的用户之间的评级系列,我们结合到离散小波变换(DWT)来放大这些差异的基础上的评级偏差,新颖性和流行度的评级系列,分别。最后,利用幅域分析方法分别对基于评分偏差、新颖度和流行度的评分序列进行特征提取,并将聚类结果作为检测结果。我们在不同的攻击模型中对Book-Crossing和HetRec-2011数据集进行了一系列实验。实验结果验证了我们的方法与基准方法相比的有效性。
2015-06-19 cs.CR cs.IR
Reliable Model Watermarking: Defending Against Theft without Compromising on Evasion
Southeast University(东南大学);Shanghai Jiao Tong University(上海交通大学)
本文指出了触发集水印易受规避攻击的缺陷,利用扩散模型合成无限制对抗样本作为触发集,通过知识注入而非错误记忆嵌入水印,在不破坏决策边界的前提下,有效提升了模型对规避攻击和水印移除攻击的鲁棒性。
2024-04-21 cs.AI cs.CR
SkillMutator: Benchmarking and Defending Language-and-Code Cross-modal Attacks on LLM Agent Skills
School of Electrical Engineering KAIST
提出SkillMutator基准,模拟13类跨模态攻击,并设计四阶段推理轨迹蒸馏框架,将检测率从17.1%提升至88.2%,超越GPT-4o-mini。
2026-06-15 cs.CR
Bad Data Injection Attack and Defense in Electricity Market using Game Theory Study
网络技术的应用提高了智能电网的监测和决策质量。这些网络技术容易受到恶意攻击,破坏它们可能会带来严重的技术和经济问题。本文详细说明了妥协的影响,每个测量的电价,使攻击者能够改变价格在所需的方向(增加或减少)。攻击者和防御者分别不可能攻击和防御所有测量。这种情况被建模为攻击者和防御者之间的零和博弈。游戏定义了攻击者和防御者分别喜欢攻击和防御不同测量的时间比例。基于PJM 5总线测试系统的仿真结果表明了所研究的博弈的有效性和性质。
2012-10-10 cs.CR cs.GT stat.AP
Exposing and Defending Membership Leakage in Vulnerability Prediction Models
City University of Hong Kong(香港城市大学);Hong Kong Metropolitan University(香港都会大学)
本研究揭示漏洞预测模型易受成员泄露攻击,并提出轻量级防御策略NMID,有效降低攻击效果同时保持模型预测能力。
2025-12-09 cs.CR cs.SE
Early Approaches to Adversarial Fine-Tuning for Prompt Injection Defense: A 2022 Study of GPT-3 and Contemporary Models
本文记录了2022年针对LLM提示注入和目标劫持攻击的早期研究,提出并评估了Adversarial Fine-Tuning防御技术,发现其能将小型GPT-3变体的攻击成功率降至接近零,为现代提示注入防御研究奠定了基础。
2025-09-15 cs.CR cs.LG
Maatphor: Automated Variant Analysis for Prompt Injection Attacks
Azure Research(Azure研究院);Microsoft Security Response Center(微软安全响应中心)
针对大语言模型提示注入攻击易生成变体规避防护的问题,提出自动化变体分析工具Maatphor,可自动生成提示变体并判断有效性,还能补充攻击数据集,实验显示其从0%有效率的种子提示出发,40次迭代内即可生成至少60%有效率的变体。
2023-12-12 cs.AI cs.CR cs.LG
Know Thy Enemy: Securing LLMs Against Prompt Injection via Diverse Data Synthesis and Instruction-Level Chain-of-Thought Learning
State Key Laboratory of Complex System Modeling and Simulation Technology(复杂系统建模与仿真技术国家重点实验室);Science and Technology on Integrated Information System Laboratory, Institute of Software Chinese Academy of Sciences(中国科学院软件研究所综合信息系统技术国家级重点实验室);University of Chinese Academy of Sciences(中国科学院大学);Nanyang Technological University(南洋理工大学);Beijing Forestry University(北京林业大学)
本文提出InstruCoT方法,通过多样化数据合成和指令级推理学习提升大语言模型对提示注入攻击的防御能力,实验表明其在行为偏差、隐私泄露和有害输出方面显著优于基线方法。
2026-04-09 cs.AI cs.CR
EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System
本文深入分析了 Microsoft 365 Copilot 中的零点击提示注入漏洞 EchoLeak,该漏洞通过串联多种绕过技术实现跨 LLM 信任边界的权限提升与数据外泄,并提出了构建安全 AI 系统的防御架构与工程缓解措施。
2025-09-06 cs.AI cs.CR
AdvSQLi: Generating Adversarial SQL Injections against Real-world WAF-as-a-service
本文提出通用可扩展的对抗攻击框架AdvSQLi,通过对SQLi负载层次树进行最小转换生成绕过黑盒WAF即服务且保持恶意的负载,实验证明其对主流WAF及检测器攻击成功率最高达100%,揭示了厂商难以修补的严重缺陷。
2024-01-09 cs.CR
Security--Fidelity Tradeoffs: The Hidden Cost of Prompt Injection Defense
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Amazon(亚马逊)
本文发现防御间接提示注入会损害需要保留未信任文本的任务(如翻译),引入SecFid基准衡量保真度,揭示安全与保真度之间存在权衡,且无固定防御可同时最优。
2026-07-01 cs.AI cs.CR
TrustShiftProbe: Characterizing, Benchmarking, and Defending Staged Trust Attacks on MCP Servers
Old Dominion University(奥多明尼昂大学)
本研究针对MCP服务器的阶段性信任攻击提出TrustShiftProbe框架,建立威胁模型、攻击引擎与防御机制SHIELD,使攻击成功率从69.5%降至42.7%
2026-08-26 cs.AI cs.CR
RouteGuard: Internal-Signal Detection of Skill Poisoning in LLM Agents
University of Chinese Academy of Sciences(中国科学院大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
本文提出RouteGuard,通过响应条件注意力和隐藏状态对齐检测LLM代理中的技能中毒,实验证明其在真实和合成数据上表现优异,有效恢复被词法筛选遗漏的攻击。
2026-04-24 cs.AI cs.CR
Proactive Hardening of LLM Defenses with HASTE
Palo Alto Networks(帕洛阿尔托网络)
HASTE通过主动生成对抗样本提升LLM防御效果,有效降低基线检测器误报率并优化检测模型性能。
2026-01-27 cs.CR
Data Injection Attacks on Smart Grids with Multiple Adversaries: A Game-Theoretic Perspective
Virginia Tech(弗吉尼亚理工大学)
本文提出多攻击者与单防御者博弈模型,分析智能电网防御策略及攻击者互动,通过Stackelberg游戏和混合满足均衡游戏探讨防御与攻击的博弈均衡,通过IEEE 30节点系统验证防御策略有效性。
2016-04-01 cs.CR cs.GT cs.IT
Adaptive Evaluation of Out-of-Band Defenses Against Prompt Injection in LLM Agents
LaunchSafe Research(LaunchSafe研究院)
本文组织带外防御(如CaMeL、Progent)为经典完整性保护与引用监视实例,并在AgentDojo上对Qwen2.5-7B代理进行自适应评估,结果显示Progent将攻击成功率从25.8%降至4.2%,手工自适应攻击未提升成功率。
2026-06-26 cs.AI cs.CL cs.CR
Checking is Believing: Event-Aware Program Anomaly Detection in Cyber-Physical Systems
保护网络物理系统(CPS)免受恶意攻击至关重要,因为这些攻击可能会对物理系统造成无法弥补的损害。最近的研究表明,在CPS设备上运行的控制程序遭受面向控制的攻击(例如,代码注入或代码重用攻击)和面向数据的攻击(例如,非控制数据攻击)。不幸的是,现有的检测机制不足以检测运行时面向数据的漏洞,由于缺乏运行时执行语义检查。在这项工作中,我们提出了Orpheus,一种新的安全方法,通过执行网络物理执行语义来防御面向数据的攻击。我们首先提出了一种用于推理控制程序的网络物理执行语义的一般方法(即,物理上下文和程序控制流之间的因果依赖性),包括事件识别和依赖性分析。作为Orpheus的一个实例,我们提出了一个新的程序行为模型,即,事件感知有限状态自动机(eFSA)eFSA利用CPS控制程序的事件驱动特性,并将事件检查纳入异常检测。如果特定物理事件缺失以及相应的事件相关状态转换,它会检测面向数据的漏洞。我们评估我们的原型的性能进行案例研究下面向数据的攻击。实验结果表明,eFSA能够成功检测不同的运行时攻击。我们在Raspberry Pi上的原型产生了很低的开销,每个状态转换完整性检查需要0.0001 s,网络物理上下文一致性检查需要0.063 s ~ 0.211 s。
2019-03-25 cs.CR
Measuring LLM Agent Defenses by Layer: GDA Measurement and an Envelope-Layer Attack-Defense Model
针对LLM智能体的安全评估不足,提出A2A-TIBA攻击原则与GDA测量方法,并构建三层同构攻防模型ELA-ITL,实验验证了攻击有效性与评估有效性。
2026-10-02 cs.CR
Rethinking Broken Object Level Authorization Attacks Under Zero Trust Principle
针对RESTful API中首要漏洞BOLA,提出基于零信任原则的防御框架BOLAZ,利用静态污点追踪分析资源ID数据流以精确识别授权边界,并在10个项目中验证了其有效性及发现的35个新漏洞。
2025-07-15 cs.CR
IH-Challenge: A Training Dataset to Improve Instruction Hierarchy on Frontier LLMs
IH-Challenge通过强化学习训练数据集提升前沿大语言模型在指令冲突中的鲁棒性,减少不安全行为并提高帮助性。
2026-03-11 cs.AI cs.CL cs.CR
Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers
Northeastern University(东北大学);FireEye Inc.(火眼公司);Xailient Inc.(Xailient公司)
用于基于机器学习(ML)的恶意软件分类的训练管道通常依赖于众包威胁源,从而暴露出自然的攻击注入点。在本文中,我们研究了基于特征的ML恶意软件分类器对后门中毒攻击的敏感性,特别关注具有挑战性的“干净标签”攻击,其中攻击者不控制样本标签过程。我们建议使用可解释的机器学习技术来指导相关特征和值的选择,从而以与模型无关的方式创建有效的后门触发器。使用多个参考数据集进行恶意软件分类,包括Windows PE文件,PDF和Android应用程序,我们展示了对各种机器学习模型的有效攻击,并评估了对攻击者施加的各种约束的影响。为了证明我们的后门攻击在实践中的可行性,我们为Windows PE文件创建了一个水印实用程序,保留了二进制文件的功能,我们利用类似的行为保留更改方法为Android和PDF文件。最后,我们实验了潜在的防御策略,并展示了完全防御这些攻击的困难,特别是当攻击与合法的样本分布相融合时。
2021-01-11 cs.CR cs.LG