RoBERTa-Augmented Synthesis for Detecting Malicious API Requests
针对恶意 API 请求检测中训练数据不足的问题,提出受 GAN 启发、基于 RoBERTa 的领域感知流量合成框架,显著提升多数据集上的异常检测 F1 分数。
2025-05-15 cs.CR
A Multi-Level Integrity Evaluation Framework for Quantum Circuits under Controlled Anomaly Injection
University of Oulu(奥卢大学);Lappeenranta-Lahti University of Technology(拉彭兰塔-拉赫蒂理工大学)
本文提出多级完整性评估框架,结合结构、操作和交互图语义逻辑指标,揭示单一指标不足,通过实验验证不同指标对电路偏差的检测能力。
2026-04-29 cs.CR quant-ph
Preventing SQL Injection attack using pattern matching algorithm
SQL注入攻击是一类注入漏洞,其中特制的输入字符串导致对数据库的非法查询,是Web应用程序的最大威胁之一。已经开发了一些研究原型和商业产品,在Web应用程序中维护查询结构。但这些技术要么无法解决问题的全部范围,要么有局限性。根据我们的观察,SQL注入攻击中注入的字符串在不同的数据库上有不同的解释,注入攻击是一种可以在原始字符串上注入任何类型的恶意字符串或异常字符串的方法。模式匹配是一种可用于从顺序动作中识别或检测任何异常数据包的技术。大多数基于模式的技术都使用静态分析,并且模式是从被攻击的语句中生成的。提出了一种基于AhoCorasick模式匹配算法的SQL注入攻击检测与防范技术。在本文中,我们提出了一个概述的架构。在初始阶段的评估中,我们考虑了一些标准的攻击模式的样本,它表明所提出的算法是很好地抵抗SQL注入攻击。
2015-04-27 cs.CR cs.DB
Intrusion Detection Framework for SQL Injection
在这个互联网时代,电子商务和电子商务应用程序都使用数据库作为其不可分割的一部分。这些数据库无论使用何种技术都容易受到SQL注入攻击。这些攻击被认为是非常危险的,以及非常容易使用的攻击者和入侵者。在本文中,我们提出了一种新的方法来检测入侵攻击者使用SQL注入。我们提出的解决方案的主要思想是创建可信的用户简档从授权用户提交的电子邮件中提取使用关联规则。之后,我们将使用一个混合(异常+误用)检测模型,它将依赖于数据采掘技术来检测偏离我们正常行为配置文件的查询。将以XML格式创建正常行为配置文件。这样我们就可以减少误报。
2020-09-29 cs.CR
Towards Scalable EM-based Anomaly Detection For Embedded Devices Through Synthetic Fingerprinting
嵌入式设备在现代网络中无处不在,包括在关键环境中运行的设备。然而,由于它们的约束性质,需要新的机制来提供外部的、非侵入性的异常检测。在这些方法中,一种已经获得牵引力的方法是基于对设备操作期间发出的电磁(EM)信号的分析。然而,这种方法最被忽视的挑战之一是需要手动收集和指纹识别对应于软件/固件的每个执行路径的信号。事实上,即使是简单的程序也由数百个分支组成,这使得指纹识别阶段成为一个非常耗时的过程,涉及人类专家的手工劳动。为了解决这个问题,我们提出了一个直接从机器码生成合成EM信号的框架。合成信号可用于训练基于机器学习(ML)的系统以用于异常检测。所提出的方法的主要优点是,它完全消除了需要一个精心设计的和容易出错的指纹识别阶段,从而大大增加了相应的保护机制的可扩展性。实验评估表明,我们的方法提供了较高的检测精度(90%以上的AUC分数)时,用于检测注射攻击。此外,所提出的方法造成只有一个小的惩罚(-1.3%)的准确性检测注入少至四个恶意指令相比,如果使用真实的信号相同的方法。
2023-02-05 cs.CR
Robustness of Anomaly Detection Models for Industrial Control Systems under Training-Time Data Contamination
Ontario Tech University(安大略理工大学)
本文在 SWaT 基准上评估训练时数据污染下 11 种异构 ICS 异常检测器的鲁棒性,发现鲁棒性具强模型依赖性,注入型污染危害更大,PCA 等模型较稳定,凸显训练数据完整性的重要性。
2026-08-25 cs.CR cs.LG
HTTP REST API Structure Learning
Ariel University(阿里埃勒大学);Ariel Cyber Innovation Center(阿里埃勒网络安全创新中心)
提出HRAL方法,从网络流量中无监督学习API端点结构与行为,无需预定义规则或文档,有效检测恶意活动,平均召回率82.07%,F1分数87.24%。
2026-07-03 cs.CR cs.SE
Modeling and performance evaluation of stealthy false data injection attacks on smart grid in the presence of corrupted measurements
传统的异常检测技术无法检测到虚假数据注入攻击。在本文中,我们演示了如何盲目构建FDI攻击,即,而无需系统知识,包括拓扑连通性和线路电抗信息。我们的分析表明,如果数据包含严重损坏的测量,如设备故障和通信错误,现有的FDI攻击变得可检测(因此不成功)的状态估计。提出的基于稀疏优化的隐身攻击构造策略通过将粗差从测量矩阵中分离出来克服了这一局限性。广泛的理论建模和实验评估表明,所提出的技术执行更隐蔽(具有较小的相对误差)和有效(足够快,以维持时间要求)相比,IEEE基准测试系统的其他方法。
2016-05-20 cs.CR
An Adversarial Robust Behavior Sequence Anomaly Detection Approach Based on Critical Behavior Unit Learning
School of Cyberspace Science, Harbin Institute of Technology(哈尔滨工业大学网络空间安全学院);Heilongjiang Meteorological Bureau(黑龙江省气象局)
本文提出基于关键行为单元学习的对抗鲁棒异常检测方法,通过提取行为单元并利用多层深度学习模型学习单元语义及上下文关系,缓解局部和大规模扰动攻击,在 API 与系统调用日志上优于现有方法。
2025-09-19 cs.CR cs.SE
Dynamic Detection of False Data Injection Attack in Smart Grid using Deep Learning
传感器、计算和通信技术的现代进步使各种智能电网应用成为可能。对通信技术的严重依赖凸显了电网对虚假数据注入(FDI)攻击的脆弱性,这些攻击可以绕过不良数据检测机制。电力系统中现有的缓解措施要么集中在冗余测量,要么保护一组基本测量。这些方法对FDI攻击做出了具体的假设,这些假设通常具有限制性,不足以应对现代网络威胁。在所提出的方法中,一个基于深度学习的框架被用来检测注入的数据测量。我们的时间序列异常检测器采用卷积神经网络(CNN)和长短期记忆(LSTM)网络。为了有效地估计系统变量,我们的方法同时观察数据测量和网络级特征,以共同学习系统状态。该系统在IEEE 39节点系统上进行了测试。实验分析表明,该深度学习算法能够识别传统状态估计不良数据检测无法检测到的异常。
2018-09-14 cs.CR
Backdoor Attack against One-Class Sequential Anomaly Detection Models
Utah State University(犹他州立大学)
本文提出一种针对深度序列异常检测模型的后门攻击策略,通过触发器生成和后门注入两步骤,在保持样本正常性的同时植入后门,并在两个单类异常检测模型上验证了攻击有效性。
2024-02-15 cs.AI cs.CR cs.IT
pikit: A Composable Toolkit for Indirect Prompt Injection Research and Evaluation
Zhuque Lab(朱雀实验室)
本文提出pikit工具包,系统评估间接提示注入的攻击、渠道与防御,在真实环境中使攻击成功率降低71.8%,并实现可复现的自动记录。
2026-09-30 cs.CR
X-WAD: eXplainable Web Anomaly Detection
Center for Cybersecurity, Fondazione Bruno Kessler(福达诺·布鲁诺·克莱斯勒基金会网络安全中心)
本文提出X-WAD方法,采用基于Transformer的语言模型,通过token级logit的惊讶度映射为HTTP请求异常检测提供可解释性,还发现公开数据集的标签不一致问题。
2026-08-28 cs.CR
AttackEval: A Systematic Empirical Study of Prompt Injection Attack Effectiveness Against Large Language Models
AttackEval系统性研究提示注入攻击有效性,揭示了Obfuscation攻击在对抗意图感知防御时的成功率最高,以及复合攻击策略显著提升攻击成功率,为改进大语言模型安全系统提供指导。
2026-04-04 cs.CR
From Prompt Injection to Web Exploitation: Revisiting Classic Vulnerabilities in LLM-Integrated Applications
本文研究集成大语言模型的Web应用的新型攻击LLM介导的Web攻击,提出LLM2X系列攻击类型,通过实现TicketOracle实验发现模型易感性差异,给出多层缓解策略。
2026-08-12 cs.CR
BacAlarm: Mining and Simulating Composite API Traffic to Prevent Broken Access Control Violations
CSIRO Data 61(澳大利亚联邦科学与工业研究组织数据六一分部)
BacAlarm通过生成和利用复合API流量数据,有效检测BAC违规,提升检测性能。
2025-12-23 cs.CR cs.SE
Node Injection Link Stealing Attack
Eurecom(欧洲通信学院);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Universitat Politecnica de Catalunya(加泰罗尼亚理工大学)
本文提出一种隐蔽的节点注入链接窃取攻击,在归纳设置下通过API推断私有边信息,并探讨差分隐私在隐私与效用间的权衡,凸显GNN隐私漏洞及防护必要性。
2023-07-25 cs.CR cs.LG
Unified Threat Detection and Mitigation Framework (UTDMF): Combating Prompt Injection, Deception, and Bias in Enterprise-Scale Transformers
Microsoft Corporation(微软公司)
针对企业级LLM面临的提示注入、欺骗与偏见威胁,研究扩展对抗激活补丁框架提出UTDMF,经700余次实验验证,在检测、减骗、公平性上均有显著效果,还提出新算法、假设及部署工具包。
2025-10-06 cs.AI cs.CR
Securing AI Agents Against Prompt Injection Attacks
本文提出了一种多层防御框架,通过评估RAG系统中的提示注入风险,将攻击成功率降低至8.7%,同时保持高任务性能。
2025-11-19 cs.AI cs.CR
Encrypted Prompt: Securing LLM Applications Against Unauthorized Actions
University of California San Diego(加利福尼亚大学圣迭戈分校)
本文提出通过附加嵌入当前权限的加密提示词,在执行 LLM 操作前验证权限,有效防御提示注入攻击并防止未授权操作。
2025-03-29 cs.AI cs.CR
Detecting Code Injections in Noisy Environments Through EM Signal Analysis and SVD Denoising
嵌入式设备在支持关键应用程序的网络中的渗透使它们成为攻击者和作恶者有利可图的目标。然而,由于这些系统的存储器和计算限制,可能不支持传统的保护机制。最近,电磁(EM)发射的分析引起了研究界的兴趣。因此,类似的保护系统已经成为可行的解决方案,用于为资源受限的设备提供外部的、非侵入式的控制流证明。不幸的是,目前的大多数工作未能考虑到现实生活中的因素,主要是环境噪声的影响的影响。在这项工作中,我们引入了一个框架,集成了奇异值分解(SVD)以及离群值检测发现恶意修改的嵌入式软件,即使在可变的噪声条件下。我们提出的框架实现了高检测精度,即,对于未知发作,AUC评分高于93\%,即使对于极端噪声条件,即,-10 SNR。据我们所知,这是第一次这个现实的限制因素,即,环境噪声,成功地解决了嵌入式设备的基于EM的异常检测的上下文中。
2022-12-12 cs.CR
GraphQLer: Enhancing GraphQL Security with Context-Aware API Testing
Simon Fraser University(西蒙菲莎大学);Forward Security
GraphQLer是一款开源GraphQL API安全测试框架,通过构建依赖图合成漏洞链,在多类API上的漏洞检测和覆盖率表现显著优于ZAP、EvoMaster等基线工具。
2026-08-05 cs.CR cs.SE
STAIN-FL: Stealthy Targeted Attack Injection with Contextual Triggers in Federated Learning
Singapore Institute of Technology (SIT)(新加坡理工学院(SIT));SingHealth Duke-NUS AI in Medicine Institute(新加坡保健服务集团杜克-新加坡国立大学医学院AI研究所);SingHealth AI Office(新加坡保健服务集团AI办公室)
本文提出STAIN-FL框架,利用自然监控场景作为上下文触发器,在联邦视频异常检测中实现隐蔽定向后门攻击,稀疏攻击兼具低检测率与高持续性,可在保持低干净准确率下降的同时达成较高后门准确率。
2026-08-26 cs.AI cs.CR
Programmable RO (PRO): A Multipurpose Countermeasure against Side-channel and Fault Injection Attack
侧信道和故障注入攻击通过监视或操纵涉及秘密变量的计算的物理效果来揭示秘密信息。电路级对策有助于阻止这些攻击,传统上,这种对策是针对每个攻击向量单独开发的。我们展示了一个多用途的环形振荡器设计-可编程环形振荡器(PRO),以解决故障攻击和侧信道攻击在一个通用的,应用程序无关的方式。PRO作为一种集成基元,可以为安全设计提供片上侧沟道电阻、电源监控和故障检测功能。我们提出了一个网格的PRO监测芯片上的电源网络,以检测异常。这种电源异常可能是由电磁故障注入和电源毛刺等外部因素以及硬件木马等内部因素引起的。通过监测环形振荡器的频率,我们能够及时检测到芯片上的功率异常以及位置。此外,我们表明,PRO也可以注入一个随机的噪声模式到设计的功耗。通过随机切换环形振荡器的频率,所产生的功率噪声模式显著降低了密码的基于功率的侧信道泄漏。我们讨论了PRO的设计,并提出了Xilinx斯巴达-6 FPGA原型的测量结果,我们表明,侧通道和故障漏洞,可以在一个低成本的设计中引入PRO解决。我们的结论是,PRO可以作为一个独立的应用程序,多用途的对策。
2021-06-25 cs.CR
Physical and Software Based Fault Injection Attacks Against TEEs in Mobile Devices: A Systemisation of Knowledge
本文系统梳理了针对移动设备TEE的物理与软件故障注入攻击方法,重点分析EMFI等非侵入性技术的威胁与案例,并提出动态异常检测等对策以增强TEE韧性。
2024-11-22 cs.CR
An Embarrassingly Simple Detector for Model Extraction Attacks in Large Language Model API Traffic
Santa Clara University(圣克拉拉大学);Florida State University(佛罗里达州立大学)
本文提出一种基于最大均值差异(MMD)的简单检测方法,通过将查询嵌入语义空间并比较其与历史良性流量的分布差异,有效检测LLM API中的模型提取攻击。
2026-09-01 cs.CL cs.CR
Enhancing GraphQL Security by Detecting Malicious Queries Using Large Language Models, Sentence Transformers, and Convolutional Neural Networks
Department. of CSE University of Moratuwa Colombo, Sri Lanka(计算机科学与工程系,穆塔瓦拉大学,科伦坡,斯里兰卡)
本文提出一种结合静态分析、LLM、句子转换器和CNN等机器学习技术的AI方法,用于实时检测恶意GraphQL查询,以增强API安全性,实验证明能高准确率识别多种攻击并有效缓解DoS和SSRF。
2025-10-08 cs.AI cs.CR cs.LG
Evaluation of Parameter-based Attacks against Embedded Neural Networks with Laser Injection
CEA Tech(法国原子能与替代能源委员会技术研究院);Mines Saint-Etienne(圣埃蒂安矿业学院);Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学)
本文首次在32位Cortex-M微控制器上利用激光故障注入成功实现了比特翻转攻击变体,并展示了仿真如何辅助选择最敏感的参数比特集合以评估嵌入式神经网络模型的鲁棒性。
2023-09-14 cs.CR cs.LG
Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain
University of California, Santa Barbara(加州大学圣塔芭芭拉分校);Fuzzland;University of California, San Diego(加州大学圣迭戈分校);World Liberty Financial
研究针对LLM供应链中恶意中间人攻击的系统性分析,提出两种核心攻击类型及适应性规避变种,通过实验发现多个路由器存在恶意注入和秘密外泄行为,并评估了三种客户端防御措施。
2026-04-09 cs.CR
API Secrets Should Never Become Tokens in the LLM's Vocabulary: A Threat Analysis of API Credential Handling in LLM Agent Systems and an Empirical Evaluation of a Vault-Mediated Execution Boundary
Corvic AI Research(Corvic人工智能研究院)
本研究分析LLM智能体凭据暴露威胁链,提出保险库中介执行架构,通过实验证明其能有效防止API密钥泄露,但需结合最小权限等安全措施。
2026-09-29 cs.AI cs.CR cs.LG
Fun-tuning: Characterizing the Vulnerability of Proprietary LLMs to Optimization-based Prompt Injection Attacks via the Fine-Tuning Interface
UC San Diego(加州大学圣地亚哥分校);University of Wisconsin Madison(威斯康星大学麦迪逊分校)
论文揭示闭源 LLM 微调接口泄露的类损失信号可被贪心搜索用于生成对抗性提示,并在 Gemini 系列上以 PurpleLlama 基准实现 65%–82% 攻击成功率。
2025-05-10 cs.CL cs.CR
Checking is Believing: Event-Aware Program Anomaly Detection in Cyber-Physical Systems
保护网络物理系统(CPS)免受恶意攻击至关重要,因为这些攻击可能会对物理系统造成无法弥补的损害。最近的研究表明,在CPS设备上运行的控制程序遭受面向控制的攻击(例如,代码注入或代码重用攻击)和面向数据的攻击(例如,非控制数据攻击)。不幸的是,现有的检测机制不足以检测运行时面向数据的漏洞,由于缺乏运行时执行语义检查。在这项工作中,我们提出了Orpheus,一种新的安全方法,通过执行网络物理执行语义来防御面向数据的攻击。我们首先提出了一种用于推理控制程序的网络物理执行语义的一般方法(即,物理上下文和程序控制流之间的因果依赖性),包括事件识别和依赖性分析。作为Orpheus的一个实例,我们提出了一个新的程序行为模型,即,事件感知有限状态自动机(eFSA)eFSA利用CPS控制程序的事件驱动特性,并将事件检查纳入异常检测。如果特定物理事件缺失以及相应的事件相关状态转换,它会检测面向数据的漏洞。我们评估我们的原型的性能进行案例研究下面向数据的攻击。实验结果表明,eFSA能够成功检测不同的运行时攻击。我们在Raspberry Pi上的原型产生了很低的开销,每个状态转换完整性检查需要0.0001 s,网络物理上下文一致性检查需要0.063 s ~ 0.211 s。
2019-03-25 cs.CR
BadSAD: Clean-Label Backdoor Attacks against Deep Semi-Supervised Anomaly Detection
Utah State University(犹他州立大学);University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
本文提出 BadSAD 框架,通过触发器注入与潜在空间操纵两阶段方法,对 DeepSAD 深度半监督异常检测模型实施干净标签后门攻击,揭示了该类系统的安全风险。
2024-12-17 cs.AI cs.CR cs.CV
TrustConnect: An In-Vehicle Anomaly Detection Framework through Topology-Based Trust Rating
Christopher Newport University(克里斯托弗纽波特大学)
针对车载网络易受虚假信息影响的问题,提出TrustConnect框架,通过基于拓扑的信任评分评估组件可信度,利用组件间依赖性和外部暴露风险,经模拟验证其有效性。
2025-06-07 cs.CR
DSTAN-Med: Dual-Channel Spatiotemporal Attention with Physiological Plausibility Filtering for False Data Injection Attack Detection in IoT-Based Medical Devices
The Australian National University(澳大利亚国立大学);Charles Sturt University(查尔斯史特大学)
本文提出DSTAN-Med框架,通过双通道注意力机制和生理合理性过滤器,提升物联网医疗设备中虚假数据注入攻击检测的准确率和灵敏度。
2026-05-13 cs.CR
Spatial-Temporal Anomaly Detection for Sensor Attacks in Autonomous Vehicles
Oxford e-Research Center, University of Oxford(牛津大学牛津电子研究中心)
超声波、激光雷达和雷达等飞行时间(ToF)距离测量设备广泛应用于自动驾驶汽车,用于环境感知、导航和辅助制动控制。尽管它们在做出更安全的驾驶决策方面相对重要,但这些设备容易受到多种攻击类型的攻击,包括欺骗,触发和错误数据注入。当这些攻击成功时,它们可能会危及自动驾驶汽车的安全,从而对驾驶员、附近车辆和行人造成严重后果。为了处理这些攻击和保护测量设备,我们提出了一个时空异常检测模型\textit{STAnDS},它结合了一个残差空间检测器,基于时间的预期变化检测。使用模拟定量环境对该方法进行了评估,结果表明\textit{STAnDS}在检测多种攻击类型方面是有效的。
2022-12-15 cs.CR cs.LG cs.SY
Evaluation of the Architecture Alternatives for Real-time Intrusion Detection Systems for Connected Vehicles
攻击者演示了如何使用远程访问联网车辆的车载网络来发动网络攻击并远程控制这些车辆。基于机器学习的入侵检测系统(IDS)技术已经被提出用于检测这种攻击。对其中一些IDS的评估证明了它们在检测消息注入的准确性方面的有效性,但它们是离线执行的,这限制了它们用于实时的【形】保护场景的信心。本文评估了四个架构设计的实时的【形】入侵检测系统的连接车辆使用控制器局域网(CAN)数据集收集的移动车辆下恶意的速度读取消息注入。评估表明,一个被设计为两个进程的联网车辆实时的【形】IDS,一个用于CAN总线监控的进程和另一个用于异常检测引擎的进程是可靠的(没有消息丢失),并且可以用于实时的【形】弹性机制,作为对网络攻击的响应。
2022-01-18 cs.CR
A Novel GPT-Based Framework for Anomaly Detection in System Logs
本文提出基于GPT的系统日志异常检测框架,通过Drain解析生成事件ID序列并采用Focal Loss缓解类别不平衡,优化后的GPT-2在多项指标上表现更优。
2026-10-14 cs.CR cs.LG
Design and Implementation of a Secure RAG-Enhanced AI Chatbot for Smart Tourism Customer Service: Defending Against Prompt Injection Attacks -- A Case Study of Hsinchu, Taiwan
Department of Information Management, National Dong Hwa University(信息管理系,国立东华大学);By The Student (BTS) Experimental Education Program (Non-School Type)(学生(BTS)实验教育计划(非学校类型))
本研究设计并实现了一个安全RAG增强的智能旅游客服聊天机器人,通过多层防御机制有效抵御提示注入攻击,实验显示良性任务准确率超95%,并检测到大部分攻击,为智慧旅游提供了实用安全框架。
2025-09-22 cs.AI cs.CR
Guarding the Grid: Enhancing Resilience in Automated Residential Demand Response Against False Data Injection Attacks
针对分布式住宅需求响应系统易遭虚假数据注入攻击的问题,本研究提出融合需求响应优化、异常检测与攻击缓解的综合框架,经真实数据集验证可有效提升系统安全弹性。
2023-12-14 cs.CR cs.SY eess.SY
Trackly: A Unified SaaS Platform for User Behavior Analytics and Real Time Rule Based Anomaly Detection
Manarat International University(马纳拉特国际大学)
Trackly通过统一用户行为分析与实时规则异常检测,提升安全性和用户体验,适用于中小企业和电子商务领域。
2026-01-30 cs.CR cs.LG
VisInject: Disruption != Injection -- A Dual-Dimension Evaluation of Universal Adversarial Attacks on Vision-Language Models
Department of Electrical and Computer Engineering, Tufts University(Tufts大学电气与计算机工程系)
本文通过双维度评估揭示视觉-语言模型中通用对抗攻击的脆弱性,发现攻击成功与精确注入存在显著差异,揭示了模型在微小扰动下的表现。
2026-05-02 cs.AI cs.CR
Web Technologies Security in the AI Era: A Survey of CDN-Enhanced Defenses
Louisiana Tech University(路易斯安那科技大学);Delhi Technological University(德里技术大学)
本文综述了人工智能时代CDN增强防御的现状,探讨了边缘计算中基于AI的Web安全防护技术,包括Web应用防火墙、DDoS缓解、机器人管理及API安全模型,提出了研究方向和治理挑战。
2025-12-06 cs.AI cs.CR cs.LG
Depth-Dependent Indirect Prompt Injection in Tool-Calling ReAct Agents: Injection Depth, Payload Framing, and Turn-Budget Sensitivity
Department of Computer Science(计算机科学系);AI and Media Analysis Lab(人工智能与媒体分析实验室);Berlin, Germany(柏林,德国)
通过四个对照实验(共460次试验),研究在工具调用ReAct代理中,注入深度、载荷框架和轮次预算对间接提示注入攻击成功率的影响,发现注入深度是主导变量,且仅清理第一个工具观察可捕获67%的注入成功。
2026-05-29 cs.AI cs.CR cs.LG
Dynamic Anomaly Detection with High-fidelity Simulators: A Convex Optimization Approach
本文的主要目标是开发可扩展的动态异常检测器时,高保真电力系统仿真器在我们的处置。一方面,这些高保真仿真器的数学模型对于应用现有的基于模型的方法通常是“棘手的”。另一方面,主要在机器学习文献中开发的纯数据驱动方法忽略了我们对系统底层动力学的了解。在这项研究中,我们结合这两种主流方法的工具,开发一个诊断过滤器,利用知识的动力系统以及高保真仿真器的仿真数据。所提出的诊断滤波器旨在实现两个期望的特征:(i)相对于模型失配的性能鲁棒性;(ii)高可扩展性。为此,我们提出了一个易于处理的(凸)优化为基础的重新制定,其中的决定是滤波器参数,基于模型的信息引入可行集,和来自模拟器的数据形成的目标函数要最小化模型失配对滤波器性能的影响。为了验证理论结果,我们实现了开发的诊断过滤器在DIgSILENT PowerFactory检测虚假数据注入攻击的自动发电控制测量在三个区域的IEEE 39总线系统。
2020-10-06 cs.CR math.OC
Evasion of IoT Malware Detection via Dummy Code Injection
University of Texas at Arlington(德克萨斯大学阿灵顿分校)
本文提出通过伪代码注入逃避基于功率侧信道的恶意软件检测,揭示了现有检测框架的漏洞。
2026-02-09 cs.CR cs.LG
When Prompts Become Payloads: A Framework for Mitigating SQL Injection Attacks in Large Language Model-Driven Applications
Hasso Plattner Institute, University of Potsdam, Germany(波茨坦大学霍斯曼-普拉特研究所, 德国);Chemnitz University of Technology, Chemnitz, Germany(Chemnitz技术大学, Chemnitz, 德国)
本文提出一种多层安全框架,通过提示清洗、威胁检测和签名控制层缓解LLM介导的SQL注入攻击,实验表明其在检测精度和误报率方面表现优异。
2026-05-11 cs.AI cs.CR
RTPS Attack Dataset Description
本文构建并描述了在无人地面车辆测试平台上采集的RTPS攻击数据集,涵盖命令注入及结合ARP欺骗的攻击场景,旨在支持ROS2和Fast-DDS环境下的异常检测防御技术研究。
2024-04-02 cs.CR
RAD: Rule-Augmented Relational Anomaly Detection
Vanderbilt University(范德堡大学)
研究人员针对关系异常检测中展平数据丢失结构及难融入符号证据的问题,提出RAD方法,结合图表示学习与规则信号,在多基准任务中较现有方法取得更优异常检测性能。
2026-08-25 cs.CR cs.DB cs.LG
Practical Hidden Voice Attacks against Speech and Speaker Recognition Systems
University of Florida(佛罗里达大学)
通过应用机器学习的最新进展,现在广泛部署的语音处理系统(VPS)已经变得更加准确。然而,对抗性机器学习也取得了类似的进展,并已被用于证明VPS容易受到隐藏命令的注入-被VPS正确识别但不被人类识别的噪声掩盖的音频。然而,这种攻击通常高度依赖于特定机器学习模型的白盒知识,并且仅限于特定的麦克风和扬声器,使得它们在不同声学硬件平台上的使用(因此其实用性)有限。在本文中,我们打破了这些依赖关系,并通过模型不可知(黑盒)攻击,利用VPS常用的信号处理算法的知识,以生成数据送入机器学习系统,使隐藏的命令攻击更实用。具体地,我们利用了多个源音频样本在通过声学特征提取算法(例如,FFT)。我们开发了四类扰动,这些扰动会产生难以理解的音频,并针对12个机器学习模型进行测试,其中包括7个专有模型(例如,Google Speech API、Bing Speech API、IBM Speech API、Azure Speaker API等),并演示了针对所有目标的成功攻击。此外,我们成功地在多个硬件配置中使用了恶意生成的音频样本,在模型和真实系统中证明了有效性。在这样做的过程中,我们证明了音频信号处理的特定领域的知识是一种实用的方法,成功地生成隐藏的语音命令攻击。
2019-03-18 cs.CR cs.LG cs.SD
PhantomSound: Black-Box, Query-Efficient Audio Adversarial Attack via Split-Second Phoneme Injection
Michigan State University(密歇根州立大学)
本文提出PhantomSound,一种针对语音助手的查询高效黑盒音频对抗攻击方法,通过基于决策的攻击和优化梯度估计生成对抗样本,显著减少了查询次数,在真实场景中成功攻击多种商用设备并绕过活体检测。
2023-09-13 cs.AI cs.CR cs.HC
Overcoming the Retrieval Barrier: Indirect Prompt Injection in the Wild for LLM Systems
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
本研究提出了一种高效且低成本的黑盒攻击算法,通过分解恶意内容为触发片段和攻击片段,实现了对LLM系统的间接提示注入攻击,揭示了检索过程中存在的关键安全漏洞。
2026-01-11 cs.AI cs.CR
Model Context Protocol Threat Modeling and Analyzing Vulnerabilities to Prompt Injection with Tool Poisoning
New York Institute of Technology(纽约理工学院)
本文基于STRIDE和DREAD框架对MCP五个关键组件进行威胁建模,发现工具污染是主要客户端漏洞,提出多层防御策略以提升AI代理生态的安全性。
2026-03-23 cs.CR cs.SE
Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Saarland University(萨尔大学);sequire technology GmbH(Sequire技术有限公司);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
本研究揭示集成大语言模型应用的间接提示注入攻击漏洞,提出安全分类体系,在真实与合成系统验证攻击可行性,呼吁推动安全部署与防御开发。
2023-05-05 cs.AI cs.CL cs.CR