LLM-Enabled Open-Source Systems in the Wild: An Empirical Study of Vulnerabilities in GitHub Security Advisories
Missouri University of Science and Technology(密苏里科技大学);University of Nebraska Omaha(内布拉斯加大学奥马哈分校)
本研究分析了295份GitHub安全通告,发现大多数漏洞映射到已知CWE,但模型中介暴露不足,建议结合CWE和OWASP视角更全面地评估LLM集成系统的漏洞。
2026-04-15 cs.CR cs.SE
Detecting and Mitigating SQL Injection Vulnerabilities in Web Applications
本文提出一种基于OWASP ZAP、sqlmap和Nmap的全面渗透测试方法,用于检测和缓解PHP-MySQL应用中的SQL注入漏洞,并验证了输入清理与预处理语句的有效性。
2025-06-07 cs.CR
Benchmarking LLAMA Model Security Against OWASP Top 10 For LLM Applications
Texas A&M University(德克萨斯A&M大学)
本研究通过对比不同LLama模型的安全性能,发现小型专用模型在威胁检测上表现优于大型通用模型,并提供开源数据集支持AI安全研究。
2026-01-27 cs.CR cs.LG
Security Analysis of Web Applications Based on Gruyere
Hainan University(海南大学)
本文梳理OWASP Top 10常见Web漏洞,以Gruyere平台为实验对象复现漏洞、提出修复策略并对比现代真实案例,证明其漏洞原理仍具参考价值,为Web安全防御提供实践支撑。
2026-02-02 cs.CR
Risk Assessment and Threat Modeling for safe autonomous driving technology
本文针对自动驾驶汽车各组件面临的网络安全威胁,采用OWASP Threat Dragon和STRIDE框架构建威胁模型,并通过系统性风险评估识别感知、规划、控制及通信接口中的脆弱性,为安全自动驾驶提供防护依据。
2025-05-04 cs.CR
Incident-Data Robustness Analysis of the OWASP Top 10 for LLM Applications (2026): How a Community-Expert Ranking Holds Up Against a Large-Scale LLM Incident Corpus
OWASP GenAI Security Project — Top 10 for LLM Applications(OWASP GenAI安全项目——LLM应用十大项目)
该研究以OWASP 2026年LLM应用Top 10专家排名为对象,结合7714条LLM安全事件语料库,用贝叶斯模型分析其鲁棒性,发现两者一致性弱但专家排名仍具鲁棒性,且未推翻官方共识。
2026-08-21 cs.AI cs.CR
Which Defense Closes Which Threat? Attributing OWASP-LLM-Top-10 Coverage and Its Brittleness Under Paraphrasing
Lumytics
本文通过归因分析,测量了不同防御家族(拒绝过滤、预算控制等)对OWASP-LLM-Top-10威胁的覆盖情况,并揭示了拒绝防御在释义攻击下的脆弱性。
2026-06-01 cs.AI cs.CR
Learning Algorithms in Static Analysis of Web Applications
Web应用程序是分布式应用程序,它们是在多台计算机上运行并通过网络或服务器进行通信的程序。Web应用程序的这种非常分布式的性质,加上现代软件系统的规模和复杂性,使手动安全审计变得复杂,同时也为潜在的黑客创造了巨大的攻击面。这些因素使得自动化分析成为必要。静态应用程序安全测试(SAST)是一种设计用于自动分析大型代码库的应用程序源代码而无需编译的方法,并设计指示安全漏洞的条件。然而,问题在于,最广泛使用的静态应用程序安全测试工具往往产生不可靠的结果,由于假阳性分类的漏洞大大超过了真阳性漏洞的分类。这是SAST测试扩散的最大障碍之一,它让用户查看数百个(如果不是数千个)潜在警告,并将其分类为可操作或虚假。我们试图通过引入一种技术来过滤SAST工具的输出,以尽量减少误报的问题。该项目的目的是通过分析OWASP Benchmark分类的真和假阳性,将学习算法应用于输出,并消除或减少向SAST工具用户呈现的假阳性数量。
2022-10-14 cs.CR
Machine learning-assisted virtual patching of web applications
Web应用程序永久地暴露于利用其漏洞的攻击。在这项工作中,我们调查的应用程序的机器学习技术,利用Web应用程序防火墙(WAF),一种技术,用于检测和防止攻击。我们提出了一种基于单类分类和n-gram分析的机器学习模型的组合方法,以增强MODSECURITY(一种开源且广泛使用的WAF)的检测和准确性能力。结果是有希望的,并且在使用OWASP核心规则集(广泛部署的基于规则的WAF技术的基准配置设置)进行配置时,其性能优于MODSECURITY。所提出的解决方案,结合这两种方法,允许我们部署一个WAF时,没有训练数据的应用程序是可用的(使用一类分类),和一个改进的使用n-gram时,训练数据可用。
2018-03-14 cs.CR
Analysis of SQL Injection Detection Techniques
SQL注入是OWASP十大基于Web的应用程序利用漏洞之一。这些类型的攻击发生在动态Web应用程序上,因为它们与数据库进行各种操作。当前的内容管理系统,如Drupal,Joomla或WordPress,所有信息都存储在其数据库中。对这些类型的网站的单一入侵可能导致攻击者对网站的全面控制。研究人员知道基本的SQL注入攻击,但还有许多SQL注入攻击尚未被预防和检测。在这里,我们对高级SQL注入攻击进行了广泛的回顾,如快速Flux SQL注入,复合SQL注入和深度盲SQL注入。我们还分析了使用经典方法以及现代方法的检测和预防。我们将讨论预防SQL注入的比较评估。
2016-05-09 cs.CR
Obfuscating Code Vulnerabilities against Static Analysis in JavaScript Code
University of Verona(维罗纳大学);University of Cagliari(卡利亚里大学);School of Advanced Defense Studies (CASD)(高级防务研究学院(CASD));National Interuniversity Consortium for Informatics(国家大学间信息学联盟)
本文研究了JavaScript代码混淆对静态应用安全测试工具的影响,通过实证分析发现常见混淆技术可显著降低漏洞检测率,揭示当前SAST工具在面对混淆代码时的不足。
2026-04-01 cs.CR
TPSQLi: Test Prioritization for SQL Injection Vulnerability Detection in Web Applications
National Taiwan University(台湾大学);CyberLink Corporation(网路家庭资讯事业股份有限公司);National Yang Ming Chiao Tung University(国立阳明交通大学);National Dong Hwa University(国立东华大学)
本文提出了一种针对Web应用SQL注入漏洞的新型测试优先级排序方法TPSQLi,通过利用先前的测试结果动态调整后续测试的防御强度向量,优化测试工作流程,从而有效提升了漏洞检测与缓解的效率。
2025-09-13 cs.CR cs.SE
Minimize Web Applications vulnerabilities through the early Detection of CRLF Injection
本文针对Web应用程序中研究较少的CRLF注入漏洞,探讨了通过自动化测试在早期阶段检测并缓解该漏洞的方法,以协助企业增强系统安全性并减少误报警报。
2023-03-05 cs.CR cs.LO cs.SE
An In-depth Study of Java Deserialization Remote-Code Execution Exploits and Vulnerabilities
如今,越来越多的应用程序使用了并行化。此技术基于从序列化字节流重建对象实例,可能是危险的,因为如果要验证的数据来自不受信任的源,则它可能使应用程序受到远程代码执行(RCE)等攻击。恶意化漏洞是如此重要,以至于它们被OWASP列为Web应用程序的十大安全风险之一。这主要是由应用程序开发过程中的错误及其依赖关系中的缺陷造成的,即,这些应用程序使用的库中的缺陷。以前的工作没有深入研究过网络化攻击:它们是如何执行的?如何引入和修补漏洞?漏洞在代码库中存在多长时间?为了更深入地了解这种重要的漏洞,我们进行了两个主要的分析:一个是攻击工具,即,Java库中存在的可利用代码片段,以及Java应用程序中存在的漏洞。对于第一个分析,我们通过运行256515个实验进行了探索性的大规模研究,在这些实验中,我们为19个公开可用的漏洞中的每一个改变了库的版本。这种攻击依赖于一个或多个Java库中存在的小工具的组合。Gadget是一种使用攻击者可以控制的对象或字段的方法。我们的目标是精确识别包含小工具的库版本,并了解小工具是如何引入的以及如何修补的。我们观察到,对类中一个看似无辜的细节进行修改--比如将其公开--已经可以引入一个小工具。此外,我们注意到,在所研究的库中,37.5%没有打补丁,这使得小工具可以用于未来的攻击。对于第二个分析,我们手动分析了104个虚拟化漏洞CVE,以了解漏洞是如何在实际的Java…
2022-08-17 cs.CR cs.SE
SecureCode: A Production-Grade Multi-Turn Dataset for Training Security-Aware Code Generation Models
研究针对AI编码助手生成漏洞代码问题,提出SecureCode数据集,涵盖网络应用安全和AI/ML安全领域,有特定对话结构,经质量保证,发布统一数据集、开源模型及评估框架,是首个提供相关覆盖的公共数据集。
2026-07-08 cs.AI cs.CL cs.CR
GenXSS: an AI-Driven Framework for Automated Detection of XSS Attacks in WAFs
GenXSS框架利用大语言模型自动生成并验证XSS攻击载荷,同时自动生成WAF防护规则,实验显示其生成的载荷80%可绕过ModSecurity,且仅用15条新规则即可阻断86%的攻击。
2025-04-11 cs.CR
Detect Llama -- Finding Vulnerabilities in Smart Contracts using Large Language Models
本文通过微调Code Llama和GPT-3.5构建Detect Llama模型,在智能合约漏洞检测中超越GPT-4,其中GPT-3.5FT和Detect Llama - Foundation在二元分类和漏洞识别上均取得更高F1分数。
2024-07-12 cs.CR
ABSENTIA: Detecting Broken Access Control Vulnerabilities in Web Applications
Carnegie Mellon University(卡内基梅隆大学);Instituto Superior Técnico(技术高等研究所);Faculdade de Engenharia do Porto(波尔图工程学院)
针对Web应用失效的访问控制漏洞,提出安全脚手架ABSENTIA,引导LLM智能体通过路由映射和不变式反驳实现系统性检测,并发布BAC-Bench基准,召回19/30漏洞,优于现有工具。
2026-10-02 cs.CR cs.SE
Web Vulnerability Scanners: A Case Study
云安全是许多公司最关心的问题之一。网站数量和规模的增长增加了对更好地保护这些网站的需求。手动测试和检测Web漏洞可能非常耗时。自动Web漏洞扫描器(WVS)有助于检测Web应用程序中的漏洞。Acunetix是广泛使用的漏洞扫描器之一。Acunetix也易于实施和使用。扫描结果不仅提供了漏洞的详细信息,还提供了有关修复漏洞的信息。AcuSensor和AcuMonitor(Acunetix使用的技术)有助于生成更准确的潜在漏洞结果。本文的目的之一是引导当前计算机安全的学生使用漏洞扫描器。其次,本文提供了一个文献综述相关的安全漏洞扫描器的主题。最后,从移动终端和浏览器的角度来解决Web漏洞。
2017-06-25 cs.CR
A Survey on Ethereum Systems Security: Vulnerabilities, Attacks and Defenses
区块链技术被许多人认为是许多应用领域的游戏规则改变者,特别是金融应用。虽然第一代区块链技术(即,区块链1.0)几乎完全用于加密货币目的,第二代(即,以以太坊为代表的区块链2.0是一个开放的去中心化平台,它实现了一种新的计算范式--运行在区块链之上的去中心化应用程序(DApps)。DApps丰富的应用程序和语义不可避免地引入了许多安全漏洞,这些漏洞在比特币等纯加密货币系统中没有对应的漏洞。由于以太坊是一个新的,但复杂的系统,因此必须从整体的角度对其安全性进行系统和全面的了解,这是不可用的。据我们所知,本调查报告填补了这一空白。特别是,我们系统化了以太坊系统安全的三个方面:漏洞、攻击和防御。除其他外,我们还深入了解了漏洞的根本原因、攻击后果和防御能力,这些都为未来的研究方向提供了指导。
2019-08-13 cs.CR
Bayesian Attack Model for Dynamic Risk Assessment
由于高级多步攻击的威胁,安全运营商在部署补救措施时通常很难完全覆盖所有漏洞。部署传感器来监测利用剩余漏洞的攻击是不够的,需要新的工具来评估与这些传感器产生的安全事件相关的风险。虽然攻击图被提出来表示信息系统中发生的已知多步攻击,但它们并不直接适用于动态风险评估。在本文中,我们提出了贝叶斯攻击模型(BAM),一个基于贝叶斯网络的拓扑攻击图的扩展,能够处理拓扑循环,使其适合于任何信息系统。对实际拓扑进行评估,以研究其概率参数的敏感性。
2016-06-29 cs.CR
Leveraging Flawed Tutorials for Seeding Large-Scale Web Vulnerability Discovery
网络上充满了关于如何完成编程任务的教程式内容。不幸的是,即使是排名靠前的教程也存在严重的安全漏洞,例如跨站脚本(XSS)和SQL注入(SQLi)。假设这些教程会影响真实世界的软件开发,我们假设流行教程中的代码片段可以用于大规模引导漏洞发现。为了验证我们的假设,我们提出了一种半自动化的方法来找到反复出现的漏洞,从一些包含易受攻击的代码片段的顶级教程开始。我们通过对成千上万的开源Web应用程序进行分析来评估我们的方法,以检查源自所选教程的漏洞是否会再次出现。我们的分析框架已经在标准PC上运行,分析了GitHub上托管的64,415个PHP代码库,并发现了117个漏洞,这些漏洞与流行教程中的易受攻击的代码片段具有很强的语法相似性。除了阐明程序员以临时方式重用Web教程代码的轶事信念外,我们的研究还发现了令人不安的证据,即未经充分审查的教程会损害开源项目的安全性。此外,我们的研究结果证明了使用写得很差的教程作为起点进行大规模漏洞发现的可行性。
2017-04-10 cs.CR
A Comprehensive Analysis of Routing Vulnerabilities and Defense Strategies in IoT Networks
本文分析了物联网网络层的路由攻击风险,评估了信任机制、IDS和路由协议等防御策略,为设计轻量级安全物联网网络提供了综合防御机制的指导。
2024-10-17 cs.CR
Twenty-two years since revealing cross-site scripting attacks: a systematic mapping and a comprehensive survey
本文对1999年以来147篇文献进行系统映射与全面调查,构建XSS防御技术分类法,揭示现有研究偏向基础JavaScript攻击且缺乏漏洞修复机制,并指出现有防御机制的局限与潜在差距。
2022-05-19 cs.CR
Security Analysis of EOSIO Smart Contracts
EOSIO区块链是代表性的委托权益证明(DPoS)区块链平台之一,最近发展迅速。与此同时,也发现了一些针对顶级EOSIO DApp及其智能合约的漏洞和高调攻击,并在野外观察到,导致严重的财务损失。EOSIO的大多数智能合约都不是开源的,它们通常被编译为WebAssembly(Wasm)字节码,因此分析和检测可能存在的漏洞具有挑战性。在本文中,我们提出了EOSAFE,这是第一个可用于在字节码级别自动检测EOSIO智能合约漏洞的静态分析框架。我们的框架包括一个用于Wasm的实用符号执行引擎,一个用于EOSIO智能合约的定制库仿真器,以及四个由算法驱动的检测器,用于识别EOSIO智能合约中四个最常见的漏洞。实验结果表明,EOSAFE在检测漏洞方面取得了令人满意的结果,F1测量值为98%。我们已将EOSAFE应用于生态系统中所有活跃的53,666个智能合约(截至2019年11月15日)。我们的研究结果表明,超过25%的智能合约是脆弱的。我们进一步分析了针对这些易受攻击的智能合约的可能的利用尝试,并确定了48次野外攻击(其中25次已被DApp开发人员证实),造成至少170万美元的经济损失。
2020-07-30 cs.CR
VulnGym: Evaluating Vulnerability Management Strategies against Advanced Persistent Threats
Università degli Studi di Napoli Federico II(那不勒斯费德里科二世大学);Gran Sasso Science Institute(格兰萨索科学研究所)
针对企业网络受APT攻击及现有漏洞管理评估缺陷,提出VulnGym模拟工具,通过模拟基于真实APT配置文件训练的攻击者与执行可配置补丁策略的防御者对抗,依多因素定制漏洞管理,经实验验证其有效性。
2026-07-28 cs.CR
On the security of modern Single Sign-On Protocols: Second-Order Vulnerabilities in OpenID Connect
OAuth是Web授权的新事实标准。OAuth的一个重要限制是它是为授权而不是身份验证而设计的。因此,使用OAuth进行身份验证会导致严重的漏洞,如Zhou et. [44]和Chen et.等[9]。OpenID Connect是在OAuth之上创建的,通过提供联合身份管理和用户身份验证来填补这一空白。OpenID Connect于2014年2月标准化,但Google,Microsoft,AOL和PayPal等领先公司已经在其Web应用程序中使用它[1],[2],[3],[30]。在本文中,我们描述了OpenID Connect协议,并提供了第一次深入分析的关键功能之一:发现和动态注册扩展。我们提出了一类新的攻击OpenID连接,属于二阶漏洞的类别。这些攻击包括两个阶段:首先,注入有效载荷由合法应用程序存储。稍后,此有效载荷用于安全关键操作。我们的新攻击类别-称为恶意端点攻击-利用OpenID Connect扩展发现和动态注册。这些攻击会破坏用户身份验证,损害用户隐私,并启用服务器端请求伪造(SSRF),客户端代码注入和拒绝服务(DoS)。因此,当这些扩展以其目前的形式启用时,OpenID Connect协议的安全性无法得到保证。我们联系了OpenID Connect和OAuth规范的作者。他们承认我们的恶意端点攻击,并认识到需要改进规范[29]。我们目前正在讨论如何缓解现有的问…
2016-01-07 cs.CR
Security Analysis of Top-Ranked mHealth Fitness Apps: An Empirical Study
Karlstad University(卡尔斯特德大学)
本研究针对下载量达2.37亿次的10款排名靠前的Android移动健康健身应用,通过静态、动态分析及服务器安全检查,揭示其存在的多种安全漏洞,强调持续安全评估的重要性。
2024-09-27 cs.CR
Dancer in the Dark: Synthesizing and Evaluating Polyglots for Blind Cross-Site Scripting
针对无反馈的盲 XSS 场景,本文提出合成可覆盖多种注入上下文的 polyglot 载荷,并在 Tranco Top 100,000 网站中发现 18 个后端系统的 20 个漏洞。
2025-02-12 cs.CR
What Really Matters in Many-Shot Attacks? An Empirical Study of Long-Context Vulnerabilities in LLMs
Coxwave;Seoul National University(首尔国立大学);Kyung Hee University(庆熙大学);KAIST(韩国科学技术院)
本研究通过多轮越狱攻击实验,发现上下文长度是决定LLM攻击有效性的关键因素,且无需精心构造恶意内容即可突破安全措施,揭示长上下文处理的安全漏洞。
2025-05-26 cs.CL cs.CR
Adversarial Item Promotion: Vulnerabilities at the Core of Top-N Recommenders that Use Images to Address Cold Start
Radboud University(拉德堡德大学)
电子商务平台向其客户提供匹配客户偏好的推荐物品的排名列表。电子商务平台上的商家希望他们的商品尽可能出现在这些排名列表的前N位。在本文中,我们展示了无良商家如何创建物品图像,人为地推广他们的产品,提高他们的排名。使用图像来解决冷启动问题的推荐系统容易受到这种安全风险的影响。我们描述了一种新型的攻击,对抗性项目推广(AIP),直接打击前N名的核心:排名机制本身。推荐系统中对抗图像的现有工作研究了传统攻击的影响,这些攻击针对深度学习分类器。相比之下,我们的AIP攻击是嵌入式攻击,试图以欺骗排名器(而不是分类器)的方式推送特征表示,并直接导致项目提升。我们介绍了三个AIP攻击内幕攻击,专家攻击和语义攻击,这是相对于三个连续更现实的攻击模型定义。我们的实验评估了这些攻击的危险时,安装对三个代表性的视觉感知推荐算法的框架,使用图像来解决冷启动。我们还评估了潜在的防御措施,包括对抗性训练,并发现目前常见的技术并不能消除AIP攻击的危险。总之,我们表明,使用图像来解决冷启动打开推荐系统的潜在威胁具有明确的实际意义。
2020-10-20 cs.CR cs.CV cs.IR
Attack Graph Obfuscation
Ben-Gurion University of the Negev(本-古里安大学)
在执行攻击之前,攻击者通常会探索受害者的网络,试图推断网络拓扑并识别受害者服务器和个人计算机中的漏洞。伪造对手在渗透后收集的信息可能会显著减慢横向移动,并增加受害者网络内产生的噪声量。我们研究了真实企业网内的假漏洞对攻击者性能的影响。我们使用攻击图来模拟攻击者在给定网络中走向目标的路径。我们使用组合优化,以找到假漏洞的最佳分配。我们证明了我们的欺骗为基础的防御的可行性,提出了一个大规模的真实网络的实验结果。我们表明,添加假漏洞迫使对手在时间和可利用性成本方面投入大量精力。
2019-03-06 cs.AI cs.CR
Precise Attack Synthesis for Smart Contracts
智能合约是在区块链平台上运行的程序。它们通过定义良好的接口相互交互,在没有可信第三方的分布式系统中执行金融交易。但这些接口也为攻击者提供了有利的环境,他们可以利用智能合约中的安全漏洞来获取经济利益。本文介绍了SmartScopy,这是一个自动合成对抗性合同的系统,可以识别和利用受害者智能合同中的漏洞。我们的工具基于以太坊生态系统中受害者智能合约的应用程序二进制接口(ABI)规范探索了\emph{attack programs}的空间。为了使合成易于处理,我们引入了\emph{summary-based symbolic evaluation},这大大减少了我们的合成器需要象征性地评估的指令的数量,而不影响漏洞查询的精度。在基于摘要的符号评估的基础上,SmartScopy进一步引入了一种新的方法,用于划分合成搜索空间进行并行探索,以及一种轻量级的演绎技术,可以更早地修剪不可行的候选人。我们在我们的查询语言中编码了智能合约的常见漏洞,并使用$>$ 25K智能合约对来自etherscan的整个数据集进行了SmartScopy评估。我们的实验证明了基于摘要的符号评估的好处,并表明SmartScopy在运行时间,精度和可靠性方面优于两个最先进的智能合约分析器Oyente和Contractfuzz。此外,在最近流行的智能合约上运行,SmartScopy发现了20个易受攻击的智能合约,这些智能合…
2019-02-16 cs.CR
Membership Inference Attacks and Privacy in Topic Modeling
John A. Paulson School of Engineering and Applied Sciences(约翰·A·保尔森工程与应用科学学院);Harvard University(哈佛大学)
本文提出针对主题模型的成员推理攻击,证明 Latent Dirichlet Allocation 存在隐私漏洞,并提出结合差分隐私词汇选择的框架以在有限影响效用下提升隐私保护。
2024-09-23 cs.CL cs.CR cs.LG
Software Repositories and Machine Learning Research in Cyber Security
Department of Computer Science, University of Wisconsin-Eau Claire(威斯康星大学欧克莱尔分校计算机科学系)
本文研究如何利用 CAPEC、CVE 等安全仓库及监督机器学习方法,在软件需求阶段自动识别漏洞,以提升安全软件开发能力。
2023-11-01 cs.CR cs.LG cs.SE
CyberChainBench: Can AI Agents Secure Smart Contracts Against Real-World On-Chain Vulnerabilities?
The Ohio State University(俄亥俄州立大学);University of Washington(华盛顿大学)
提出CyberChainBench基准,评估基于LLM的代理在智能合约安全中的漏洞检测、利用生成和补丁合成能力,基于541个真实链上攻击事件,发现最佳配置在检测、利用和修补上的得分分别为37.5%、43.7%和23.4%。
2026-06-26 cs.AI cs.CR
ATAG: AI-Agent Application Threat Assessment with Attack Graphs
Dept. of Software and Information Systems Engineering(软件与信息系统工程系);Ben-Gurion University of the Negev(贝叶尔-加利利大学)
本文提出ATAG框架,通过扩展MulVAL攻击图生成工具并构建LLM漏洞数据库,系统建模和评估多智能体AI应用中的复杂多步攻击路径,实现对AI智能体威胁的主动识别与缓解。
2025-06-03 cs.AI cs.CR
Survey of Vulnerabilities in Large Language Models Revealed by Adversarial Attacks
UC Riverside(加州大学河滨分校)
本文系统综述了针对大语言模型的对抗性攻击研究,分类梳理了文本、多模态及复杂系统攻击,并探讨了漏洞根源与防御,为新手提供了结构化入门资源。
2023-10-16 cs.CL cs.CR cs.LG
Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards
ECE Department, University of Toronto(多伦多大学电子工程系);CIISE, Concordia University(麦吉尔大学CIISE)
本文评估了智能电网操作中部署LLM的jailbreaking漏洞,通过与NERC标准的基准测试,发现DeepInception方法攻击成功率最高,Claude 3.5 Haiku完全免疫,Gemini 2.0 Flash-Lite最易受攻击。
2026-08-11 cs.AI cs.CR
CyberLLM: A Multi-Agent LLM Framework for Autonomous Detection and Guarded Response in Automotive Cybersecurity
Technical University of Munich(慕尼黑工业大学)
CyberLLM是由大语言模型编排的多智能体框架,结合确定性检测层与大语言模型精化,在安全防护下实现汽车漏洞自主检测与修复,在基准测试中覆盖约70%漏洞且零误报,验证了LLM智能体自主防御的可行性。
2026-08-10 cs.CR cs.SE
MISA: Unveiling the Vulnerabilities in Split Federated Learning
Huazhong University of Science and Technology(华中科技大学);Griffith University(格里菲斯大学);National Engineering Research Center for Big Data Technology and System(国家大数据技术与系统工程技术研究中心);Services Computing Technology and System Lab(服务计算技术与系统实验室);Hubei Key Laboratory of Distributed System Security(湖北省分布式系统安全重点实验室);Hubei Engineering Research Center on Big Data Security(湖北省大数据安全工程技术研究中心);Cluster and Grid Computing Lab(集群与网格计算实验室)
针对拆分联邦学习(SFL)被认为抗投毒鲁棒性强的认知,提出新型投毒攻击MISA,通过同时投毒上下层模型致全局模型错位、准确率骤降,揭示SFL的安全脆弱性。
2023-12-19 cs.CR cs.DC cs.LG
LLM Agents for Automated Web Vulnerability Reproduction: Are We There Yet?
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Huazhong University of Science and Technology(华中科技大学)
本文首次全面评估20个LLM智能体在80个真实CVE上的Web漏洞复现能力,发现其在复杂服务型漏洞上失败,性能受输入指导影响超33%,凸显环境适应与自主求解能力的不足。
2025-10-16 cs.CR cs.SE
How Can ChatGPT Support Human Security Testers to Help Mitigate Supply Chain Attacks?
Wake Forest University(维克森林大学);Virginia Tech(弗吉尼亚理工大学)
本文探讨利用ChatGPT生成供应链攻击测试的方法,通过模板生成测试用例,发现49个应用中的漏洞,并优于现有工具。
2026-03-29 cs.CR cs.SE
Your Compiler is Backdooring Your Model: Understanding and Exploiting Compilation Inconsistency Vulnerabilities in Deep Learning Compilers
University of Southern California(南加州大学)
本研究揭示官方深度学习编译器可在编译时改变模型语义并植入后门,对抗攻击成功率100%,且在31个自然模型中存在触发器,首次指出编译器设计的内在安全风险。
2025-10-27 cs.AI cs.CR cs.LG
JALMBench: Benchmarking Jailbreak Vulnerabilities in Audio Language Models
The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州));State Key Laboratory of Internet Architecture, Tsinghua University(清华大学互联网架构国家重点实验室);University of North Texas(北卡罗来纳州立大学);University of Science and Technology of China(中国科学技术大学);Fujian Normal University(福建师范大学);Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
JALMBench通过评估11,316个文本样本和245,355个音频样本,分析LALMs对越权攻击的安全性,揭示模态和架构对安全性的影响,强调需专门设计的防御方法。
2026-02-28 cs.AI cs.CR cs.SD