Skill-Inject: Measuring Agent Vulnerability to Skill File Attacks
Max Planck Institute for Intelligent Systems, ELLIS Institute Tübingen, Tübingen AI Center(马克斯·普朗克智能系统研究所、图宾根ELLIS研究所、图宾根人工智能中心)
SkillInject通过评估代理对技能文件攻击的脆弱性,揭示了当前LLM代理在安全性和合规性方面的严重问题,指出需采用上下文感知的授权框架来提升安全性。
2026-02-25 cs.CR cs.LG
Automated SBOM-Driven Vulnerability Triage for IoT Firmware: A Lightweight Pipeline for Risk Prioritization
本文提出了一种轻量级自动化管道,用于从物联网固件中提取SBOM并生成漏洞优先级评分,以提高固件安全风险评估的效率和准确性。
2026-01-04 cs.CR cs.NI
Inferring 1-Minimal Trigger Configurations for Assessing Linux Kernel CVE Triggerability
Nanjing University of Science and Technology(南京理工大学);Shandong Normal University(山东师范大学)
该研究提出框架FCC,可推断满足Kconfig且经make olddefconfig验证的1-最小Linux内核CVE触发配置,提升配置成功率并减小候选集规模,助力供应商评估CVE触发可能性。
2026-08-18 cs.CR
Finding Taint-Style Vulnerabilities in Linux-based Embedded Firmware with SSE-based Alias Analysis
虽然使用静态分析来检测基于Linux的嵌入式固件中的污点式漏洞的重要性被广泛认可,但是现有方法受到三个主要限制的困扰。(a)基于符号执行的方法可能会错过别名信息,因此会有很高的假阴性率。(b)基于VSA(值集分析)的方法通常提供过度近似的指针范围。因此,可能会产生许多假阳性。(c)现有的工作检测污点风格的漏洞不考虑间接调用解决方案,而间接调用中经常使用面向互联网的嵌入式设备。因此,可能会产生许多假阴性。在这项工作中,我们提出了一个精确的需求驱动的流,上下文和字段敏感的别名分析方法。在此基础上,我们还设计了一种新的间接调用解析方案。结合消毒规则检查,我们的解决方案发现污染风格的漏洞静态污点分析。我们用一个名为EmTaint的原型实现了我们的想法,并对来自六个流行供应商的35个真实嵌入式固件样本进行了评估。EmTaint发现了至少192个bug,包括41个n-day bug和151个0-day bug。在撰写本文时,至少有115个CVE/PSV编号已从报告的漏洞子集中分配。与KARONTE和SaTC等最先进的工具相比,EmTaint在更短的时间内在同一数据集上发现了更多的错误。
2021-09-24 cs.CR cs.SE
SkillAttack: Automated Red Teaming of Agent Skills through Attack Path Refinement
University of Chinese Academy of Sciences(中国科学院大学);People’s Public Security University of China(中国人民公安大学)
本文提出SkillAttack框架,通过对抗性提示动态验证技能漏洞可利用性,实验显示其在对抗性技能和真实场景中均显著优于基线方法,揭示了即使善意技能在实际代理交互中也存在严重安全风险。
2026-04-05 cs.CR
ContraFix: Skill-Enhanced Contrastive Runtime Analysis for Vulnerability Repair
Beihang University(北京航空航天大学);The University of Hong Kong(香港大学)
本文提出ContraFix框架,通过差分运行时证据和可重用的修复技能,解决大型语言模型代理在自动漏洞修复中的语义误解问题,实现了在SEC-Bench和PatchEval上的高准确率。
2026-07-03 cs.AI cs.CL cs.CR
Skills That Don't Exist: A Large-Scale Study of Hallucinated Skill Recommendation in LLM Agents
Huazhong University of Science and Technology(华中科技大学);Nanyang Technological University(南洋理工大学)
研究大语言模型代理中技能名称幻觉漏洞,通过大规模测量发现各配置均有此问题,系统生成众多幻觉名称且非随机,测试的模型级防御存在安全与可用性冲突,修复需全生态系统结构改变。
2026-07-15 cs.CR cs.SE
Towards Reliable and Scalable Linux Kernel CVE Attribution in Automated Static Firmware Analyses
在脆弱性评估中,基于软件组件的CVE属性是一种常见的方法来识别可能脆弱的系统规模。然而,这种以版本为中心的方法会对固件映像中的二进制分布式Linux内核产生很高的误报率。不过滤包含的易受攻击的组件是不可靠匹配的一个原因,因为异构的硬件属性、模块化和众多的开发流导致过多的供应商定制的构建。为了在保持分析方法可扩展性的同时提高结果可靠性,我们使用自动化静态固件分析来丰富基于版本的CVE匹配与来自二进制图像的内核特定构建数据。我们开源了一个属性管道,它收集内核配置和目标架构,以干式构建当前内核版本,并根据记录描述中受影响的文件引用过滤CVE。在一个案例研究与127路由器固件图像,我们表明,在天真的版本匹配相比,我们的方法识别68%的所有版本的CVE匹配为假阳性,并可靠地将它们从结果集中删除。对于所有匹配的12%,它提供了问题适用性的额外证据。对于19.4%,我们的方法没有提高可靠性,因为在CVE中缺少所需的文件引用。
2022-09-12 cs.CR
PrivEscalate: Measuring and Augmenting the Threat of LLM-Automated Linux Privilege Escalation
Nanyang Technological University(南洋理工大学);Xi’an Jiaotong University(西安交通大学)
提出PrivEscalate基准(531个Docker化场景)测量LLM智能体在Linux权限提升中的能力,发现模型能力异质性、环境敏感性和架构影响,并开发PrivEscAgent增强智能体以提升成功率。
2026-09-09 cs.CR
Automated Detection of Configuration-Specific Security Vulnerabilities via Patch Analysis
Federal University of Bahia(巴伊亚联邦大学);University of Notre Dame(圣母大学);Federal Rural University of Pernambuco(伯南布哥联邦农村大学);Federal University of Rio de Janeiro(里约热内卢联邦大学)
提出PatchLens静态技术,通过分析补丁与配置条件的对齐,自动生成漏洞影响条件(VIC),无需编译即可识别受影响的变体,实验表明VIC紧凑且CVE描述几乎不包含配置信息。
2026-06-25 cs.CR cs.SE
Learning from What We Know: How to Perform Vulnerability Prediction using Noisy Historical Data
脆弱性预测是指识别最有可能脆弱的系统组件的问题。通常,这个问题是通过在历史数据上训练二进制分类器来解决的。不幸的是,最近的研究表明,由于以下两个原因,这种方法表现不佳:a)问题的不平衡性质,以及b)固有的噪声历史数据,即,大多数漏洞发现的时间比它们被引入的时间要晚得多。这会误导分类器,因为它们学会将实际的脆弱组件识别为非脆弱组件。为了解决这些问题,我们提出了TROVON,这是一种从已知的易受攻击的组件中学习的技术,而不是像通常那样从易受攻击和非易受攻击的组件中学习。我们通过对比已知的脆弱性和它们各自的固定组件来执行此操作。通过这种方式,TROVON设法从我们所知道的事情中学习,即,漏洞,从而减少噪音和不平衡数据的影响。我们通过将TROVON与三个安全关键开源系统上的现有技术进行比较来评估TROVON,即,Linux Kernel、OpenSSL和Wireshark,其历史漏洞已在国家漏洞数据库(NVD)中报告。我们的评估表明,TROVON的预测能力明显优于现有的漏洞预测技术,如软件挖掘,导入,函数调用,文本挖掘,Devign,LSTM和LSTM-RF,在干净的训练数据设置下,Matthews相关系数(MCC)分数提高了40.84%,在现实的训练数据设置下提高了35.52%。
2022-07-25 cs.CR cs.SE
Hey Google, What Exactly Do Your Security Patches Tell Us? A Large-Scale Empirical Study on Android Patched Vulnerabilities
在本文中,我们对从不同数据源收集的2,470个已修补的Android漏洞进行了全面研究,这些数据源包括Android安全公告、CVEDetails、Qualcomm Code Aurora、AOSP Git存储库和Linux Patchwork。在我们的数据分析中,我们专注于确定受影响的层、操作系统版本、严重性级别以及与修补漏洞相关的常见弱点枚举(CWE)。此外,我们评估每个漏洞的时间轴,包括发现和修补日期。我们发现,(i)尽管修补漏洞的数量每月变化很大,但每个严重级别的修补漏洞的相对数量随着时间的推移保持稳定,(ii)修补来自Linux社区或涉及高通组件的漏洞存在显著延迟,即使Linux和高通提供并发布自己的补丁,(iii)不同的AOSP版本在不同的时间段内接收安全更新,(iv)对于94%的已修补Android漏洞,在公共数据集中披露的日期不在补丁发布日期之前,(v)公共漏洞数据源之间存在一些不一致之处,例如,一些CVE ID在Android安全公告中列出了详细信息,但在CVE详细信息中,它们被列为未知,(vi)新Android版本的许多修补漏洞可能也会影响由于生命周期结束而未收到安全补丁的旧版本。
2019-05-22 cs.CR
No, Your Tools Are Not Enough: It's Time to Bring Agents to the Hunt
Arizona State University(亚利桑那州立大学)
本文提出采用AI智能体开展漏洞挖掘,通过迭代式智能体工作流程,可在Windows驱动、Linux内核等多类程序中通用,助力解决此前的挑战,为自主漏洞挖掘提供新方向。
2026-10-14 cs.CR
A Unified Compliance Aggregator Framework for Automated Multi-Tool Security Assessment of Linux Systems
Department of Computing, Engineering and Mathematical Science(计算、工程与数学科学系)
本文提出统一合规聚合框架UCA,整合多个开源安全工具,通过标准化和加权聚合提升系统安全评分,揭示合规与文件完整性工具的差异。
2026-04-19 cs.CR cs.LG
Enhancing Linux Privilege Escalation Attack Capabilities of Local LLM Agents
TU Wien(维也纳技术大学)
本文研究通过系统性实验验证针对性干预能否提升本地开源模型在Linux提权中的性能,发现开源模型可匹配甚至超越云模型,且反思类干预效果最佳,但漏洞发现仍是本地模型的瓶颈。
2026-08-13 cs.AI cs.CR
Anchors that Don't Lift: Understanding Supply Chain Driven Kernel Lock-In and Governance-Mediated Mitigation Strategies in SOHO Devices
IIT Madras(印度理工学院马德拉斯分校);IIT Kharagpur(印度理工学院卡拉格普尔分校);IIIT Kottayam(印度信息技术学院科塔亚姆分校)
通过分析306款SOHO设备的900多个固件,发现SoC供应商的SDK导致内核版本锁定,造成漏洞债务沿供应链传递,而社区参与是唯一有效的缓解途径。
2026-06-09 cs.CR
Contextualizing Sink Knowledge for Java Vulnerability Discovery
Georgia Institute of Technology(佐治亚理工学院);Samsung Research(三星研究院);University of Waterloo(滑铁卢大学)
GONDAR框架通过利用sink API语义进行针对性漏洞发现,通过CWE扫描和LLM静态过滤识别可利用的sink调用点,并通过探索和利用代理协作发现更多漏洞。
2026-04-19 cs.CR
Agent Skills in the Wild: An Empirical Study of Security Vulnerabilities at Scale
Tianjin University(天津大学);Southern Cross University(南方十字大学);School of Cybersecurity, Tianjin University(安全学院,天津大学);Nanyang Technological University(南洋理工大学);University of New South Wales(新南威尔士大学);Griffith University(格里菲斯大学)
研究揭示了智能体技能中普遍存在的安全漏洞,提出了一种多阶段检测框架,并展示了技能捆绑执行脚本与漏洞之间的显著关联。
2026-01-15 cs.AI cs.CL cs.CR
SBOMproof: Beyond Alleged SBOM Compliance for Supply Chain Security of Container Images
Cnam, Cedric(法国国立工艺学院);Aalto University(阿尔托大学);Thales SIX GTS France(泰雷兹SIX GTS法国公司)
本研究评估了SBOM生成与漏洞扫描工具的互操作性,发现其不兼容导致漏洞漏报,并揭示了SBOM混淆漏洞,强调需提升SBOM准确性以保障容器供应链安全。
2025-10-07 cs.CR cs.SE
Dynamic Malicious Skills in Agentic AI
Duke University(杜克大学)
研究智能体AI中通过自然语言文档注入恶意指令实现动态恶意技能的攻击方法,并提出基于操作系统内核只读挂载的系统级防御。
2026-06-17 cs.CR
From Lab to Reality: A Practical Evaluation of Deep Learning Models and LLMs for Vulnerability Detection
DistriNet Group-T, KU Leuven(DistriNet集团-T,根特大学)
系统评估深度学习模型和大型语言模型在真实世界漏洞检测中的表现,发现它们在分布外数据集上性能急剧下降,揭示了学术基准与现实部署之间的差距。
2026-11-05 cs.CR cs.LG cs.SE
Patch2Vuln: Agentic Reconstruction of Vulnerabilities from Linux Distribution Binary Patches
University College London(伦敦大学学院)
本文探讨利用语言模型代理从Linux发行版二进制补丁中重构漏洞,提出Patch2Vuln流程,通过提取ELF对、差异分析和代理审计,验证了二进制补丁中漏洞重构的可行性。
2026-05-07 cs.AI cs.CR
PhantomSkill: Malicious Code Injection in Agent Skill Ecosystems
National Yang Ming Chiao Tung University(国立阳明交通大学)
提出PhantomSkill攻击框架,通过VulMask技术将恶意行为隐藏在技能的辅助资源中,利用漏洞形状的实现绕过检测,在保持良性功能的同时降低警告和恶意软件检测率。
2026-06-18 cs.CR
eBPF Security in the Wild: Structural Concentration, Failure Mechanisms, and Discovery Gaps
Utah State University(犹他州立大学);University of Michigan(密歇根大学);Zhejiang Gongshang University(浙江工商大学)
本研究实证分析eBPF漏洞,发现其结构集中而非分散,运行时为主要暴露面,原始覆盖率不足以衡量发现有效性。
2026-09-23 cs.CR
APTSHIELD: A Stable, Efficient and Real-time APT Detection System for Linux Hosts
高级持续性威胁(APT)攻击通常是指对手使用先进的攻击技术对特定目标进行长期、隐蔽和持续的攻击,以摧毁组织的关键设施。APT攻击在全球范围内造成了严重的安全威胁和巨大的经济损失。学术界和工业界因此提出了一系列检测APT攻击的解决方案,如动态/静态代码分析、流量检测、沙箱技术、端点检测和响应(EDR)等。然而,由于数据源完整性弱,现有的防御措施无法准确有效地防御当前APT攻击,这些攻击具有很强的持续性、隐蔽性、多样性和动态性,数据处理开销大,在实际场景处理过程中实时的【形】性能差。为了克服这些困难,本文提出了APTSHIELD,一个稳定,高效,实时的【形】APT检测系统的Linux主机。在数据汇集方面,在综合分析比较现有日志工具的基础上,选择审计稳定采集操作系统的内核数据,对攻击进行完整画像;在数据处理方面,采用冗余语义跳过和非生存节点剪枝减少数据量,降低检测系统开销;在攻击检测方面,设计了一个基于ATT\&CK模型的APT攻击检测框架,通过标签的传递和聚合实现实时的【形】攻击响应和告警。实验室和DARPA Engagement上的实验结果表明,该系统能够有效地检测Web漏洞攻击、无文件攻击和远程访问木马攻击,并且具有较低的误报率,比现有的前沿工作具有更高的应用价值。
2021-12-17 cs.CR
Calibration Without Comprehension: Diagnosing the Limits of Fine-Tuning LLMs for Vulnerability Detection in Systems Software
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校)
提出CWE-Trace框架,通过834个Linux内核样本和两个诊断指标(DFI和HDD)评估LLM漏洞检测能力,发现数据污染无实质帮助,微调仅改变输出阈值而非决策策略,模型缺乏真正的安全推理能力。
2026-06-19 cs.AI cs.CR cs.SE
Beyond the Payload: How User Invocation Shapes Coding Agent Vulnerability to Repository Poisoning
Zhejiang University(浙江大学);Tsinghua University(清华大学)
该研究推出首个针对编码代理仓库中毒漏洞的基准CIPR,发现漏洞高度依赖用户提示级配置,任务类型可使攻击成功率产生4.5倍差异,测试执行任务为隐蔽攻击面,不明确或嘈杂提示会间接改变风险。
2026-09-01 cs.CL cs.CR
Chai: Agentic Discovery of Cryptographic Misuse Vulnerabilities
UC Berkeley(加州大学伯克利分校)
提出Chai系统,利用AI改进差分测试,从库级缺陷出发沿依赖图传播,发现并验证加密误用漏洞,在X.509、JWT、SAML库中发现超100个漏洞。
2026-06-26 cs.AI cs.CR
EVOMAL: Self-Poisoning in Self-Evolving Coding Agents
Queen’s University(女王大学)
该研究发现自进化编码智能体存在自中毒漏洞,提出EvoMal攻击可实现自传播恶意技能,而counter-prompt防御能有效降低攻击成功率且不影响任务完成。
2026-08-27 cs.AI cs.CR
Vulpedia: Detecting Vulnerable Ethereum Smart Contracts via Abstracted Vulnerability Signatures
近年来,智能合约在构建值得信赖的去中心化应用程序方面越来越受欢迎。以前的研究已经提出了静态和动态技术来检测智能合约中的漏洞。这些工具根据几个预定义的规则检查易受攻击的合同。然而,不断出现的新的脆弱类型和编程技能,以防止可能出现的漏洞,导致大量的误报和漏报的工具。为了解决这个问题,我们提出了Vulpedia,它从合同中挖掘表达性漏洞签名。Vulpedia基于一个宽松的假设,即合同所有者没有恶意。具体而言,我们从脆弱和良性合约中提取结构化程序特征作为漏洞特征,并基于漏洞特征构成的检测规则构建了一个系统的检测方法。与现有技术定义的规则相比,我们的方法可以提取更具表达性的规则,以实现更好的完整性(即,检测回忆)和可靠性(即,精度)。我们进一步评估Vulpedia的四个基线(即,Slither,Securify,SmartCheck和Oyente)在由17,770份合同组成的测试数据集上进行了测试。实验结果表明,Vulpedia在4类漏洞的查准率和3类漏洞的查全率方面表现最好,同时也表现出了较高的查准率和查全率。
2022-07-05 cs.CR cs.DC cs.SE
VulValidate: Auditing Function-Level Vulnerability Labels with Executable Evidence
University of Louisiana at Lafayette(路易斯安那大学拉法叶分校)
VulValidate利用LLM智能体协调动态分析工具,基于可执行证据审计函数级漏洞标签,修正了BigVul等数据集中的大量错误标签,并提升了检测器性能。
2026-10-06 cs.AI cs.CR cs.SE
VCAO: Verifier-Centered Agentic Orchestration for Strategic OS Vulnerability Discovery
VCAO通过博弈论方法优化操作系统漏洞发现,利用多代理系统在资源约束下实现高效漏洞检测,相比传统方法提升漏洞发现效率并降低误报率。
2026-04-09 cs.CR cs.GT cs.OS
Learning-based Models for Vulnerability Detection: An Extensive Study
School of Software Technology, Zhejiang University(浙江大学软件学院);Zhejiang University(浙江大学);Central University of Finance and Economics(中央财经大学)
该研究针对现有漏洞检测深度学习模型认知不足的问题,从五个维度对两类主流基于学习的漏洞检测方法开展大规模实验调研,明确了不同方法的性能差异、特性及实际应用要点。
2024-08-14 cs.CR cs.LG cs.SE
An Empirical Study on CVE-based Vulnerabilities Propagation from one System to another System (IntraProject vs InterProject)
University of Nottingham Ningbo, China(诺丁汉大学宁波校区)
本研究通过实验分析CVE漏洞在项目内与项目间的传播情况,借助自主工具SQVDT发现代码复用导致高严重漏洞跨系统传播,明确了其对互联系统的影响。
2026-11-11 cs.CR cs.SE
Survey of Automated Vulnerability Detection and Exploit Generation Techniques in Cyber Reasoning Systems
Pace University(佩斯大学)
本文综述了DARPA网络大挑战赛中获胜系统Mayhem和Mechanical Phish的自动化漏洞检测与利用生成技术,总结了其核心方法、底层技术及相关工作。
2026-06-19 cs.CR
Automated Vulnerability Detection in Source Code Using Deep Representation Learning
Computer Science University of Cyprus(计算机科学 希腊塞浦路斯大学)
本文提出利用深度学习模型自动检测C语言源代码中的漏洞,通过优化方法在高精度下提升召回率,并在复杂代码中发现真实漏洞。
2026-02-26 cs.AI cs.CR
Towards Understanding and Characterizing Vulnerabilities in Intelligent Connected Vehicles through Real-World Exploits
College of Intelligence and Computing, Tianjin University(天津大学智能与计算学部);China Automobile Data of Tianjin Co., Ltd.(天津汽车数据有限公司);China Automotive Technology & Research Center Co., Ltd.(中国汽车技术研究中心有限公司);Singapore Management University(新加坡管理大学);Nankai University(南开大学)
本研究通过现实世界漏洞分析,系统表征智能互联车辆中的漏洞位置、类型及风险等级,填补了理论与现实之间的差距。
2026-01-02 cs.CR cs.SE
CyberFactory: Scaling Cyber Security Capabilities with Instances from the Wild
Beihang University(北京航空航天大学);ELLIS(欧洲学习与智能系统实验室);IQuest Research(智问研究);Singapore Management University(新加坡管理大学)
本研究提出开源框架CyberFactory,将真实场景漏洞转化为任务实例以训练安全模型Aegis,该模型在CyberGym上的Pass@1较Qwen~3.5提升22.8个百分点,优于通用主干模型。
2026-09-02 cs.CL cs.CR
Poisoned Skills: Propagating Jailbreaks Through Agent Markdown Files
Argonne National Laboratory(阿贡国家实验室)
本研究发现Markdown技能文件是AI智能体的新攻击面,基于LangChain构建的智能体中,嵌入结合人格操纵与GPTFUZZER的越狱攻击可将平均攻击成功率从0.5%提升至45%,且脆弱性更多取决于底层模型。
2026-10-30 cs.AI cs.CR
Scan Before You Install: Detecting and Mitigating Local and Composite Vulnerabilities in Skills
organization= Stein Faculty of Computer;Information Science, Ben-Gurion University of the Negev , city= Beer-Sheva , country= Israel
本文针对现有技能扫描器的不足,开发六模块扫描器,可检测技能局部与复合漏洞,在多数据集上性能优于同类工具,且提出的缓解措施能有效阻止攻击并保留合法功能。
2026-10-30 cs.AI cs.CR
What Do They Fix? LLM-Aided Categorization of Security Patches for Critical Memory Bugs
UC Riverside(罗切斯特大学);University of Minnesota(明尼苏达大学);IBM(IBM公司)
本文提出 DUALLM 双模型流水线,结合 LLM 与微调小模型及提交、diff 和代码上下文,细粒度识别 Linux 内核中修复 OOB/UAF 的安全补丁,准确率达 87.4%,并验证了真实漏洞。
2026-09-28 cs.CR cs.LG
Unintentional Security Flaws in Code: Automated Defense via Root Cause Analysis
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
本文针对初级开发者难以定位漏洞根因的问题,提出结合 T5 与图卷积网络的自动化根因分析工具 T5-RCGCN,实验表明其可将代码安全性提升 28.9%,并促进开发者长期安全能力成长。
2024-08-30 cs.CR cs.LG cs.SE
Developing Hands-on Labs for Source Code Vulnerability Detection with AI
Florida Agricultural and Mechanical University(佛罗里达农工大学)
随着信息和通信技术在我们生活中的作用逐渐增加,源代码安全成为防止恶意尝试的重要问题。此外,随着数据驱动技术的出现,现在人们越来越有兴趣利用机器学习和自然语言处理作为源代码保证方法来构建可信赖的系统。因此,培训我们未来的软件开发人员编写安全的源代码在这篇论文中,我们提出了一个框架,包括学习模块和动手实验,以指导未来的IT专业人员在软件开发生命周期的早期阶段培养安全编程习惯和减轻源代码漏洞。在这篇论文中,我们的目标是设计一套动手实验的学习模块,向学生介绍使用源代码和日志文件的安全编程实践。分析工具来预测和识别漏洞在安全编码教育框架中,我们将提高学生对源代码漏洞检测工具和缓解技术的技能和意识,将源代码漏洞的概念从函数API和库级别整合到不良编程习惯和实践中,利用深度学习NLP和用于日志文件分析的静态分析工具来介绍源代码漏洞的根本原因
2023-02-01 cs.AI cs.CR
Prompt Injection Attacks on Agentic Coding Assistants: A Systematic Analysis of Vulnerabilities in Skills, Tools, and Protocol Ecosystems
本文系统分析了代理编码助手的提示注入攻击漏洞,提出三维分类法并揭示防御不足,强调需架构级防护而非碎片化措施。
2026-01-24 cs.CR
How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
Center of Excellence for Generative AI, KAUST(KAUST生成式人工智能卓越中心);Jilin University(吉林大学);Zhejiang University(浙江大学);The Swiss AI Lab, IDSIA-USI/SUPSI(瑞士人工智能实验室 IDSIA-USI/SUPSI);NNAISENSE
提出SearchGEO框架,通过五类攻击模式和输出级指标评估13种LLM后端对网络内容操纵的认可脆弱性,发现攻击成功率从0%到31.4%不等,且不同后端对攻击模式的敏感性和部署框架的影响存在显著差异。
2026-06-24 cs.CL cs.CR cs.CY
SEC-bench Pro: Can Language Models Solve Long-Horizon Software Security Tasks?
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出SEC-bench Pro基准,通过三阶段流程构建包含V8和SpiderMonkey共183个已验证漏洞的测试集,评估前沿语言模型在长周期漏洞狩猎任务中的表现,发现最高成功率仅48.8%。
2026-07-21 cs.CR cs.LG
Why Charles Can Pen-test: an Evolutionary Approach to Vulnerability Testing
在现实世界的复杂应用程序中发现漏洞是一项艰巨的任务:一个漏洞可能会影响一行代码,但它会危及整个应用程序的安全性。更糟糕的是,漏洞可能只在应用程序正常运行时不会出现的特殊情况下才会出现。人们普遍认为,最先进的渗透测试工具在挖掘漏洞方面发挥着至关重要的作用,并且经常使用。然而,渗透测试仍然主要是一种人为驱动的活动,其有效性仍然取决于驱动工具的安全分析师的技能和独创性。在本文中,我们提出了一种自动发现基于事件的系统,如Web和移动应用程序中的漏洞的技术。我们的方法是基于一个合作,共同进化和合同驱动的搜索策略,迭代地(i)执行一个池的测试用例,(ii)确定最有前途的,(iii)从他们产生新的测试用例。该方法使进化算法的协同组合,其中几个“物种”有助于解决问题:一个物种,测试物种,进化以找到目标测试用例,即,指令集,其执行导致易受攻击的语句,而其他种类,称为合同种类,进化以选择触发漏洞所需的过程调用的参数。为了评估我们的方法的有效性,我们实现了一个工作原型,并运行它对案例研究和基准Web应用程序。实验结果证实,我们的工具自动发现并执行了一些注射缺陷攻击,这是国家的最先进的Web扫描仪无法达到。
2020-12-09 cs.CR cs.SC
Sift or Get Off the PoC: Applying Information Retrieval to Vulnerability Research with SiftRank
SiftRank利用LLM进行文档排序,通过高效算法实现大规模漏洞分析,可在99秒内识别漏洞修复函数。
2025-12-05 cs.CR cs.IR
SelfOp: An Optimization Algorithm for Self-Improving Security Agents
Boston University(波士顿大学);UC Santa Barbara(加州大学圣巴巴拉分校)
SelfOp提出一种受链式法则启发的文本梯度下降算法,自动优化安全智能体的任务上下文,无需修改模型权重,在CyberGym基准上以少于200个示例实现显著自我改进,且技能可跨模型迁移。
2026-09-22 cs.AI cs.CR
Local LLM Agents as Vulnerable Runtimes:A Source-Code Audit of the Agent Runtime Layer
Department of Computer Science and Engineering(计算机科学与工程系);University at Buffalo, SUNY(布法罗大学)
提出CLAWAUDIT静态审计框架,通过STRIDE导出的五类漏洞分类法和自定义静态分析规则,评估本地LLM智能体运行时的安全弱点,在OpenClaw基准上显著提升召回率。
2026-06-23 cs.AI cs.CR
Unsafe at Any Copy: Name Collisions from Mixing Case Sensitivities
文件名混淆攻击,例如恶意符号链接和文件占用,长期以来一直被研究为安全漏洞的来源。然而,最近出现的一种类型,即,大小写敏感性引起的名称冲突,尚未仔细审查。这些冲突是由区分大小写和不区分大小写的文件系统或目录下的名称解析差异引起的。一个突出的例子是最近的Git漏洞(CVE-2021-21300),当它将恶意构建的存储库克隆到不区分大小写的文件系统时,可能导致受害客户端上的代码执行。随着ext4增加对每个目录不区分大小写的支持以及Linux Windows子系统的广泛部署等趋势,即使在单个系统中,此类漏洞的先决条件也越来越可能存在。在本文中,我们第一次努力调查如何以及在哪里缺乏任何统一的方法来处理名称冲突导致扩散的责任和由此产生的漏洞。有趣的是,我们证明了存在一系列新的安全挑战所产生的名称冲突和不一致的处理低级别的实用程序和应用程序。具体来说,我们的实验表明,实用程序处理许多名称冲突的情况不安全,离开的责任,应用程序的开发人员不幸的是还没有意识到的威胁。我们研究三个案例研究,作为第一步,系统地了解新出现的类型的名称冲突漏洞。
2022-11-30 cs.CR cs.OS
VAST: Compiling Grounded Vulnerability Scenarios into Verifiable, Multi-Step Environments for Evaluating LLM Red-Team Agents
本研究提出VAST编译器,构建多步骤可验证环境评估LLM红队智能体,实验显示全指南提示、披露工作模块及Header-Recovery SFT可显著提升解决率。
2026-11-17 cs.AI cs.CR
Servant, Stalker, Predator: How An Honest, Helpful, And Harmless (3H) Agent Unlocks Adversarial Skills
PeopleTec, Inc.(PeopleTec 公司)
本文揭示基于MCP的智能体可将多个单独授权的良性任务编排为跨域组合攻击,使服务隔离假设失效并形成指数级攻击面,并提出三个后续实验方向。
2025-08-27 cs.AI cs.CR
Existence of Stack Overflow Vulnerabilities in Well-known Open Source Projects
当程序或进程试图在缓冲区(或堆栈)中存储的数据超过其预期容量时,就会发生堆栈溢出。如果受影响的程序以特殊权限运行或接受来自不受信任的网络主机(例如Web服务器)的数据,则可能存在安全漏洞。通过溢出堆栈,攻击者可以破坏堆栈,从而将可执行代码注入到正在运行的程序中并控制进程。这是攻击者获得未经授权访问计算机的最简单和更可靠的方法之一。在本文中,我们展示了堆栈溢出是如何发生的,许多开源项目,如Linux,Git,PHP等包含这样的代码部分,其中有可能溢出堆栈以及注入恶意脚本来损害进程的正常执行。此外,本文提出了一个问题,以避免编写这样的代码,这些代码是潜在的堆栈溢出攻击的来源。
2019-11-05 cs.CR