CTIBench: A Benchmark for Evaluating LLMs in Cyber Threat Intelligence
Rochester Institute of Technology(罗切斯特理工学院)
针对现有基准无法评估大型语言模型在网络威胁情报特定任务中应用能力的不足,本文提出了CTIBench基准,通过多个数据集评估LLMs在CTI领域的知识掌握与应用表现,揭示了先进模型的优劣势。
2024-11-11 cs.AI cs.CR
Model-Driven Security Analysis of Self-Sovereign Identity Systems
本文提出一种模型驱动安全分析框架,利用时序逻辑形式化自主身份系统的架构模式与威胁,并通过模型检查自动验证,还借助SecureSSI环境验证了典型脆弱模式。
2024-06-02 cs.CR
VulnGym: Evaluating Vulnerability Management Strategies against Advanced Persistent Threats
Università degli Studi di Napoli Federico II(那不勒斯费德里科二世大学);Gran Sasso Science Institute(格兰萨索科学研究所)
针对企业网络受APT攻击及现有漏洞管理评估缺陷,提出VulnGym模拟工具,通过模拟基于真实APT配置文件训练的攻击者与执行可配置补丁策略的防御者对抗,依多因素定制漏洞管理,经实验验证其有效性。
2026-07-28 cs.CR
Algorithmization, requirements analysis and architectural challenges of TraConDa
在全球范围内,互联网上存在着如此多的信息安全威胁,即使数据被加密,也不能保证副本不会被第三方获得,并最终被解密。因此,本文提出了一种可信路由机制,该机制可以抑制数据(加密或未加密)传输到第三方的可用性。介绍了其开发过程中的并行化、需求分析和体系结构挑战。
2015-07-23 cs.CR cs.NI
TIER: Threat Implicitness Benchmark for Evaluating LLM Safety Behaviors
Faculty of Information Technology, University of Science, Vietnam National University, Ho Chi Minh City(胡志明市越南国家大学理学院信息技术系)
该研究针对现有LLM安全基准忽略威胁隐式程度的问题,提出TIER基准,经6个开源LLM实验发现安全行为随威胁级别渐变,且相似攻击成功率模型响应分布不同,凸显行为感知评估的必要。
2026-09-07 cs.AI cs.CR
Evaluating Language Models For Threat Detection in IoT Security Logs
GMV C. de Isaac Newton(GMV Isaac Newton研究中心);Universidad Carlos III de Madrid(卡洛斯三世大学)
本文提出利用微调LLMs分析物联网安全日志,结合MITRE CAPEC映射和物联网特定缓解措施,实现优于传统机器学习基线的多类攻击检测与缓解建议。
2025-07-03 cs.AI cs.CR
AthenaBench: A Dynamic Benchmark for Evaluating LLMs in Cyber Threat Intelligence
Rochester Institute of Technology(罗切斯特技术学院)
AthenaBench通过改进的数据集和评估指标,评估了LLM在网络安全威胁情报中的表现,揭示了当前LLM在推理任务上的不足。
2026-02-14 cs.AI cs.CR
Evaluating the Security of Aircraft Systems
近年来,网络攻击的复杂性和复杂性以及目标平台的多样性一直在增长。各种对手正在滥用越来越多的平台,例如,企业平台、移动电话、PC、运输系统和工业控制系统。近年来,我们目睹了对交通系统的各种网络攻击,包括对港口、机场和火车的攻击。交通系统成为网络攻击者更常见的目标只是时间问题。由于运载多名乘客的攻击飞行器所固有的巨大的潜在损害以及传统机载系统缺乏安全措施,飞行器系统的脆弱性是飞行器安全领域最受关注的话题之一。本文全面回顾了飞机系统和组件及其各种网络,强调了它们所面临的网络威胁以及网络攻击对这些组件和网络以及飞机基本能力的影响。此外,我们提出了一个全面而深入的分类,从对手的角度来解释航空电子领域的网络安全知识和理解。该分类法将技术划分为反映对抗攻击生命周期各个阶段的相关类别(战术),并根据MITRE ATT&CK方法映射现有攻击。此外,我们分析了各种系统之间的安全风险,根据潜在的威胁行为者和分类的基础上STRIDE威胁模型的威胁。未来的工作方向是作为行业和学术界的指导方针。
2022-09-08 cs.CR
HarmChip: Evaluating Hardware Security Centric LLM Safety via Jailbreak Benchmarking
NYU Tandon School of Engineering, USA(纽约大学坦登工程学院);NYU Abu Dhabi, UAE(纽约大学阿布扎比分校);Kansas State University, USA(堪萨斯州立大学)
本文提出HarmChip基准测试,评估LLM在硬件安全领域的禁用脆弱性,涵盖16个领域、120种威胁和360个提示,揭示了先进LLM在安全查询与伪装攻击间的矛盾表现。
2026-04-18 cs.CR
Evaluating the Usability of LLMs in Threat Intelligence Enrichment
School of Computer Science University of Guelph Guelph, Canada
本研究对五种LLM在威胁情报富化中的可用性进行了全面评估,通过启发式走查和用户研究识别关键问题并提出改进建议,旨在弥合功能与用户体验的差距,促进更高效准确的威胁情报实践。
2024-09-23 cs.CL cs.CR cs.HC
Evaluating the Cybersecurity Risk of Real World, Machine Learning Production Systems
Ben-Gurion University of the Negev(内盖夫本-古里安大学);NEC(日本电气股份有限公司)
尽管对机器学习(ML)生产系统的网络攻击可能是有害的,但今天,安全从业人员装备不足,缺乏方法和战术工具,使他们能够分析基于ML的系统的安全风险。在本文中,我们对ML生产系统进行了全面的威胁分析。在此分析中,我们遵循NIST提出的本体论评估企业网的安全风险,并将其应用到基于ML的生产系统。具体来说,我们(1)列举典型ML生产系统的资产,(2)描述威胁模型(即,潜在的对手,他们的能力,以及他们的主要目标),(3)识别ML系统的各种威胁,以及(4)审查大量的攻击,在以前的研究中,可以实现这些威胁。此外,为了量化对抗性机器学习(AML)威胁的风险,我们引入了一种新的评分系统,该系统为不同的AML攻击分配严重性评分。建议的评分系统利用层次分析法(AHP)的排名,与安全专家的协助下,各种属性的攻击。最后,我们开发了MulVAL攻击图生成和分析框架的扩展,以将网络攻击纳入ML生产系统。使用该扩展,安全从业人员可以在包含ML组件的环境中应用攻击图分析方法;因此,为安全从业人员提供了一种方法和实用工具,用于评估针对ML生产系统的网络攻击的影响和量化风险。
2021-10-03 cs.CR cs.LG
Abusing the Internet of Medical Things: Evaluating Threat Models and Forensic Readiness for Multi-Vector Attacks on Connected Healthcare Devices
University College London(伦敦大学学院)
本文提出融合威胁建模与数字取证的医疗物联网安全方法,揭示多向攻击对连接医疗设备的威胁及取证挑战。
2026-01-18 cs.CR cs.CY
Automated Multi-Architectural Discovery of CFI-Resistant Code Gadgets
内存损坏漏洞仍然是软件系统的严重威胁。为了阻止利用这些漏洞,过去已经提出了许多不同类型的防御措施。最突出的是,控制流完整性(CFI)最近受到了很多关注。已经发布了几个应用粗粒度策略的建议,这些策略具有较低的性能开销。然而,正如最近的袭击所表明的那样,这些设施的安全仍然令人怀疑。为了简化对给定CFI实现的评估,我们引入了一个框架来发现符合粗粒度CFI策略的代码重用攻击的代码小工具。为此,二进制代码被提取并以与体系结构无关的方式转换为符号表示。此外,验证代码小工具以提供安全研究人员所需的功能。我们表明,我们的框架发现更多的CFI兼容的小工具相比,其他代码小工具发现工具。此外,我们证明,代码小工具需要绕过CFI解决方案的ARM架构上可以发现我们的框架以及。
2020-07-06 cs.CR
From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
School of Informatics, Computing, and Cyber Systems, Northern Arizona University(信息学、计算与网络系统学院,北亚利桑那大学);Department of Software Science, Tallinn University of Technology(软件科学系,塔林技术大学)
本文提出基于数据流图的LLM赋能机器人系统威胁分析方法,揭示了传统威胁、对抗威胁和对话威胁在感知-规划-执行流程中的交互与传播,首次完整分析了三个威胁类别在全系统中的跨边界攻击链。
2026-04-29 cs.AI cs.CR cs.RO
Defining, Evaluating, Preparing for and Responding to a Cyber Pearl Harbor
尽管没有明确的含义,但公众的认知和意识使网络珍珠港一词成为公共话语的重要组成部分。本文考虑了该术语的含义,并根据历史珍珠港袭击的三个不同方面提出了其分解,允许珍珠港的教训适用于可能与1941年袭击的所有方面不一致的威胁和主题。使用这三个定义,以前的攻击和当前的威胁进行评估和准备和应对网络珍珠港事件进行了讨论。
2021-03-13 cs.CR cs.CY
Evaluating Open-Weight LLMs for Generating Structured Threat Information for Autonomous Vehicle Vulnerabilities
The University of Alabama(阿拉巴马大学);Alabama Water Institute(阿拉巴马水研究所)
研究自动驾驶车辆漏洞相关结构化威胁信息生成问题,利用开放权重语言模型,通过构建CAV-STIXGen数据集评估11个模型,分析CWE和MITRE ATT&CK共现,展示AI辅助转换可自动化威胁情报并优先防御运输安全。
2026-07-20 cs.AI cs.CR
A dataset for cyber threat intelligence modeling of connected autonomous vehicles
本文构建了首个面向汽车领域的网络威胁情报建模数据集,包含908份真实报告及实体和语义关系标注,并基于该语料库对挖掘算法进行了分析,为汽车网络安全研究提供重要资源。
2024-10-18 cs.CR
Library-Attack: Reverse Engineering Approach for Evaluating Hardware IP Protection
针对现有硬件IP保护忽视特权攻击者风险的问题,提出Library-Attack反向工程技术,利用特权信息与结构比较恢复IP,并在ISCAS89上验证漏洞,更新威胁模型。
2025-01-21 cs.CR
Automotive HSMs - Architectural Challenges and Security Implications
University of Detroit Mercy(底特律Mercy大学)
本文分析汽车HSM的架构挑战与安全影响,调研量产ECU的HSM集成模型,探讨其在安全启动等中的作用及相关权衡,指出后量子就绪等新兴挑战,为汽车硬件安全提供方向。
2026-08-27 cs.AR cs.CR cs.ET
ExCyTIn-Bench: Evaluating LLM agents on Cyber Threat Investigation
Pennsylvania State University(宾夕法尼亚州立大学);Microsoft Security AI Research(微软安全AI研究);Tsinghua University(清华大学)
ExCyTIn-Bench是首个评估LLM代理在网络安全调查任务中的基准,通过从调查图中生成的安全问题进行测试。该基准利用Azure租户中的SQL环境和Microsoft Sentinel日志构建威胁调查图,并生成问题以评估LLM代理的能力。
2026-05-01 cs.AI cs.CL cs.CR
SoK: A Survey of Open-Source Threat Emulators
威胁模拟器是模拟网络攻击或恶意行为的工具或脚本集。它们可用于创建和发起单过程攻击和多步骤攻击;由此产生的攻击可能是已知或未知的网络攻击。使用威胁模拟器的动机各不相同,包括需要在组织中执行自动化安全审计或减少红色团队的规模以降低笔测试成本;或者希望为正在开发的安全工具创建基线测试或为笔测试人员提供其他工具。在本文中,我们回顾和比较各种开源的威胁模拟器。我们专注于MITRE ATT&CK Enterprise矩阵中的战术和技术,并确定它们是否可以使用仿真器执行和测试。我们开发了一种全面的方法,用于对威胁模拟器的一般功能进行定性和定量比较,例如先决条件,攻击定义,清理等。最后,我们将讨论一个威胁模拟器优于另一个的情况。此调查可帮助安全团队、安全开发人员和产品部署团队使用最合适的威胁模拟器检查其网络环境或产品。使用提供的指导方针,团队可以选择最符合其需求的威胁模拟器,而无需评估所有这些模拟器。
2020-10-02 cs.CR
Unleashing IoT Security: Assessing the Effectiveness of Best Practices in Protecting Against Threats
针对物联网安全最佳实践缺乏有效性评估标准的问题,提出将最佳实践转化为测试用例以评估其安全影响并排序的方法,经9款商用设备测试发现18个漏洞,可助力厂商优化安全投入优先级。
2023-08-23 cs.CR
Architectural Backdoors in Neural Networks
University of Cambridge(剑桥大学);Vector Institute(向量研究所);University of Toronto(多伦多大学)
机器学习容易受到对抗性操纵。以前的文献已经证明,在训练阶段,攻击者可以操纵数据和数据采样过程来控制模型的行为。一个常见的攻击目标是植入后门,即迫使受害者模型学习识别只有对手才知道的触发器。在本文中,我们介绍了一类新的后门攻击,隐藏在模型架构内,即在用于训练的函数的归纳偏差。这些后门很容易实现,例如,通过发布一个后门模型架构的开源代码,其他人会在不知不觉中重用它。我们证明了模型架构后门是一个真正的威胁,与其他方法不同,它可以从零开始进行完整的重新训练。我们正式确定了架构后门背后的主要构造原则,例如输入和输出之间的链接,并描述了一些可能的保护措施。我们评估了我们对不同尺度的计算机视觉基准的攻击,并证明了潜在的漏洞在各种训练环境中普遍存在。
2022-06-15 cs.CR cs.LG
Secure eFPGA-Enabled Edge LLM Inference: Architectural and Hardware Countermeasures
University of Central Florida(中佛罗里达大学)
本文提出一种混合ASIC+eFPGA架构,结合ASIC的效率和eFPGA的灵活性,通过动态运行监控、侧信道缓解和部署后修补等机制,提升边缘LLM推断系统的安全性和抗攻击能力。
2026-04-24 cs.CR
A Comparative Analysis of Vulnerability Management Tools: Evaluating Nessus, Acunetix, and Nikto for Risk Based Security Solutions
针对网络安全威胁态势演变下组织选择漏洞管理工具的挑战,本文全面比较分析Nessus、Acunetix和Nikto的检测准确率、CVSS风险评分等多维度指标,为基于风险的安全解决方案提供工具选择参考。
2024-11-28 cs.CR
Evaluating and Understanding the Robustness of Adversarial Logit Pairing
Massachusetts Institute of Technology(麻省理工学院)
我们评估了对抗性Logit配对的鲁棒性,这是最近提出的对抗性示例的防御方法。我们发现,使用对抗性Logit配对训练的网络在考虑防御的威胁模型中达到了0.6%的准确率。我们简要概述了防御和所考虑的威胁模型/声明,以及我们攻击的方法和结果的讨论,这可能会深入了解ALP易受对抗性攻击的原因。
2018-11-23 cs.CR cs.CV cs.LG
Agent Skill Security: Threat Models, Attacks, Defenses, and Evaluation
Google(谷歌)
研究智能体可复用技能安全,提出SkillSec-Eval框架,刻画技能生命周期并开发威胁分类法,通过对327个真实技能实证评估,发现多阶段有漏洞,强调需进行生命周期感知安全分析。
2026-07-16 cs.CR
Evaluating the Security of Open Radio Access Networks
开放式无线接入网(O-RAN)是一种很有前途的RAN架构,旨在将RAN行业重塑为开放、自适应和智能的RAN。本文对开放无线接入网(O-RAN)的安全性进行了全面的分析。具体来说,我们回顾了O-RAN联盟设计的架构蓝图-蜂窝生态系统的领导力量。在安全分析中,我们提供了O-RAN架构的详细概述;提出了一个本体,用于评估系统的安全性,目前处于早期开发阶段;检测O-RAN的主要风险领域;列举O-RAN的各种威胁行为体;并对O-RAN的潜在威胁进行建模。这项工作的意义在于为蜂窝网络运营商提供更新的攻击面。基于攻击面,蜂窝网络运营商可以仔细部署适当的对策,以提高O-RAN的安全性。
2022-01-16 cs.CR cs.NI
From Stateless Queries to Autonomous Actions: A Layered Security Framework for Agentic AI Systems
School of Computing, University of Connecticut(康涅狄格大学计算机学院)
本文提出分层攻击面模型,分析代理AI系统安全威胁的分层结构与时间维度,揭示高层攻击与慢烧时间的交集区域,提出跨层防御体系,强调将代理安全视为嵌入对抗生态的分布式系统问题。
2026-04-25 cs.CR cs.LG
Future-Proofing Cloud Security Against Quantum Attacks: Risk, Transition, and Mitigation Strategies
University of Montreal(蒙特利尔大学);York University(约克大学)
本文分析云安全面临的量子威胁,提出跨九层架构的防护策略,涵盖风险评估、过渡策略及具体缓解措施,为云架构师和政策制定者提供指导。
2026-04-12 cs.CR
Securing Deep Learning Hardware: A Survey of Side-Channel Vulnerabilities and Countermeasures
School of Electrical and Computer Engineering, University of Tehran(德黑兰大学电气与计算机工程学院)
研究深度学习硬件侧信道漏洞与对策,先分类泄漏源和攻击者目标,分析相关攻击研究,再回顾现有防御措施,最后概述关键研究挑战与未来方向。
2026-07-07 cs.CR
QES-Backed Virtual FIDO2 Authenticators: Architectural Options for Secure, Synchronizable WebAuthn Credentials
Informatics Institute, Istanbul Technical University(伊斯坦布尔理工大学信息学研究所);Securify Information Technology and Security Training Consulting Inc.(Securify信息技术与安全培训咨询有限公司)
本文提出基于QES的虚拟FIDO2认证器架构,通过PKCS#11密钥实现安全同步,兼顾信任与部署权衡。
2026-01-10 cs.CR
An Unsupervised Learning Approach For A Reliable Profiling Of Cyber Threat Actors Reported Globally Based On Complete Contextual Information Of Cyber Attacks
International Islamic University(国际伊斯兰大学);Seoul National University(首尔大学)
针对监督学习依赖结构化数据且耗时的问题,提出一种基于完整上下文信息的无监督凝聚层次聚类技术,通过识别网络威胁行为者的共同特征进行有效聚合与画像,为防御网络攻击提供支持。
2025-09-15 cs.CR
Security Threats and Their Impact on Blockchain Interoperability: Identification and Countermeasures
本文系统识别并分类了区块链互操作性面临的安全威胁,分为五类,并针对每种威胁提出防御策略,为设计安全互操作方案提供结构化基础。
2026-06-15 cs.CR cs.SE
Detecting Security threats in the Router using Computational Intelligence
信息安全是全球关注的问题。随着互联网为现代社会带来巨大的便利和好处,互联网连接性和可访问性的迅速增加也对个人、组织和国家的安全和隐私构成了严重威胁。寻找有效的方法来检测、预防和响应网络计算机和信息系统的入侵和黑客攻击。本文提出了一个知识发现框架,以检测在边界控制器(路由器)的拒绝服务攻击。其思想是使用机器学习方法来发现能够描述网络连接状态的网络特征。使用重要的网络数据(拒绝服务相关功能),我们已经开发出基于内核机器和软计算检测机制,实现高检测精度。我们还提出了我们的工作,确定DoS相关功能,并评估这些功能在检测新的DoS攻击的适用性。提出了一种在路由器上检测拒绝服务攻击的体系结构。我们证明了高效和准确的签名为基础的分类器可以构建使用重要的网络功能和机器学习技术来检测在边界控制器的DoS攻击。
2010-05-06 cs.CR
A Framework for Evaluating Security in the Presence of Signal Injection Attacks
传感器嵌入在从医疗设备到核电站的安全关键应用中,但它们的输出可以通过攻击者远距离传输的电磁和其他类型的信号进行欺骗。为了解决缺乏一个统一的框架来评估这种传输的影响,我们引入了一个系统和信号注入攻击的威胁模型。我们进一步定义了存在性、选择性和通用安全性的概念,这些概念可以解决攻击者的目标,从仅仅中断传感器读数到精确的波形注入。此外,我们介绍了一种算法,它允许电路设计人员具体计算实际系统的安全级别。最后,我们将我们的定义和算法应用于实际,使用对智能手机麦克风的注入测量,并分析商业模数转换器(ADC)的解调特性。总体而言,我们的工作突出了评估系统对信号注入攻击的敏感性的重要性,并介绍了这样做的术语和方法。
2019-11-10 cs.CR
Prompt Injection as an Emerging Threat: Evaluating the Resilience of Large Language Models
Astana IT University(阿斯塔纳信息技术大学);Kazakh-British Technical University(哈萨克-英国技术大学)
本研究针对提示注入这一新兴威胁,提出统一评估框架(含RDI、SCC、IIM指标),测试GPT-4等4个LLM在5类任务中的抗性,发现GPT-4表现最优,对齐与安全调优比模型大小更影响抗性,为提升LLM安全提供实用框架。
2025-11-11 cs.AI cs.CR
Synthetic Voices, Real Threats: Evaluating Large Text-to-Speech Models in Generating Harmful Audio
Stony Brook University(石英布鲁克大学);Zhejiang University(浙江大学);The Hong Kong Polytechnic University(香港理工大学)
针对大型文本转语音模型生成有害音频的新型内容类威胁,本文提出HARMGEN攻击套件,通过两类攻击绕过安全防护,验证了现有防御的漏洞,呼吁构建跨模态安全机制。
2025-11-14 cs.AI cs.CR cs.MM
The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI
研究人工智能中Chronos漏洞,形式化基于持久性攻击的威胁模型,指出传统端点内容过滤器不足,综合深度防御格局并分类新兴框架,应对智能体内存攻击等安全威胁。
2026-07-23 cs.AI cs.CR
Prompt Injection 2.0: Hybrid AI Threats
Preamble, Inc.(Preamble公司)
本文分析 Prompt Injection 2.0 混合威胁,揭示提示注入与 XSS、CSRF 等 Web 漏洞结合如何绕过传统安全措施,并提出融合提示隔离、运行时安全与权限分离的架构方案。
2025-07-17 cs.AI cs.CR
Towards Evaluating the Security of Wearable Devices in the Internet of Medical Things
本文针对医疗物联网中可穿戴给药设备因联网、计算资源有限易受网络威胁的问题,为可穿戴输液泵实现了一套安全方案,梳理了落地挑战并提出初步缓解对策,以保障患者安全。
2023-12-13 cs.CR cs.SY eess.SY
OCCULT: Evaluating Large Language Models for Offensive Cyber Operation Capabilities
The MITRE Corporation(米特里公司)
该研究提出OCCULT轻量级评估框架,构建三类攻击性网络作战基准测试大语言模型的相关能力,发现DeepSeek-R1等模型在相关测试中表现显著提升,为评估AI网络威胁风险提供了新的可复现评估路径。
2025-02-18 cs.AI cs.CR
Can MLLMs Detect Phishing? A Comprehensive Security Benchmark Suite Focusing on Dynamic Threats and Multimodal Evaluation in Academic Environments
School of Computer Science and Engineering(计算机科学与工程学院)
本文提出AdapT-Bench,一个针对学术环境动态钓鱼攻击的多模态安全基准套件,旨在评估MLLM的防御能力。
2025-11-22 cs.AI cs.CR
A Framework for Evaluating Emerging Cyberattack Capabilities of AI
Google DeepMind(谷歌DeepMind)
该研究提出一个评估框架,通过分析攻击链、识别评估空白并优先防御,基于12000多实例归纳七种攻击原型,系统评估AI放大网络攻击的潜力。
2025-04-21 cs.AI cs.CR
Fortifying the Agentic Web: A Unified Zero-Trust Architecture Against Logic-layer Threats
Qorvex Consulting;Kleiner Perkins;Wentworth Institute of Higher Education
本文提出统一零信任架构,利用DIDs、VCs、ANS及TARE、因果链审计等机制强化智能体网络,并在形式化模型中证明对LPCI攻击具有有界成功概率的可证明安全保证。
2025-08-20 cs.AI cs.CR cs.ET
Future-Back Threat Modeling: A Foresight-Driven Security Framework
CISSP Head of Cyber Security, Independent Researcher(网络安全首席顾问,独立研究者)
本文提出未来-反向威胁建模框架,通过预测未来威胁状态来识别当前防御中的漏洞,提升对未来威胁的预见性和防御能力。
2026-08-19 cs.AI cs.CR cs.CY
Robust Anomaly Detection in Network Traffic: Evaluating Machine Learning Models on CICIDS2017
Department of Electrical and Computer Engineering(电气与计算机工程系);University of Southern California(南加州大学);Duke University(杜克大学)
本研究在CICIDS2017数据集上比较了MLP、CNN、OCSVM和LOF四种模型在检测已知与未知网络攻击场景下的表现,发现OCSVM在精确率与召回率间取得最佳平衡,为动态网络环境中的入侵检测系统模型选择提供了实用指导。
2025-08-11 cs.AI cs.CR cs.LG
Architectural Neural Backdoors from First Principles
University of Cambridge(剑桥大学);University of Oxford(牛津大学);Imperial College London(伦敦帝国学院);University of Toronto(多伦多大学)
本文提出了一种无需人工监督即可针对任意触发模式植入架构后门的方法,对架构后门进行了12种分类,并通过用户研究和语言模型对比揭示了其检测难度,强调了加强ML系统防御的必要性。
2024-02-10 cs.AI cs.CR cs.CV
Automated Repeatable Adversary Threat Emulation with Effects Language (EL)
The MITRE Corporation(MITRE公司)
针对高级持续性威胁的多步攻击仿真,提出使用效果语言(EL)这一可视化编程语言,通过图操作语义实现自动化,并证明其执行属性,提高时间和资源效率。
2026-06-29 cs.CR cs.PL
Evaluating Attacker Risk Behavior in an Internet of Things Ecosystem
Drexel University(德雷塞尔大学)
在网络安全领域,攻击者的范围从傲慢、简单的脚本小子和网络犯罪分子到隐秘、耐心的高级持续威胁。在对这些攻击者进行建模时,我们可以观察到他们表现出不同的风险寻求和风险规避行为。这项工作探讨了攻击者的风险寻求或风险规避行为如何影响他们对物联网生态系统中检测优化防御者的操作。使用一个评估框架,它使用真正的,参数化的恶意软件,我们开发了一个游戏,是由一个防御者对攻击者与一套恶意软件,是参数化的更具侵略性和更隐蔽。根据他们接受风险的意愿,在指数效用框架下评估这些结果。我们发现,对一个防御者谁必须选择一个单一的战略前面,寻求风险的攻击者获得更多的实际效用比风险厌恶的攻击者,特别是在情况下,防御者是更好的装备比两个攻击者预期。此外,我们还从经验上证实,高风险、高回报的场景对网络犯罪分子等寻求风险的攻击者更有利,而低风险、低回报的场景对高级持续性威胁等规避风险的攻击者更有利。
2021-09-23 cs.CR cs.GT cs.LG
The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort
Anthropic;OpenAI;Google;DeepSeek
本文重新评估了2026前沿模型队列上大型语言模型(LLM)的包幻觉现象,发现尽管幻觉率有所降低,但仍然存在威胁,识别出一组127个包名(109个在PyPI,18个在npm)被所有评估模型一致生成,构成一个跨模型的供应链攻击面,同时发现Python与JavaScript幻觉的不对称性以及DeepSeek V3.2和GPT-5.4-mini之间的高相似性。
2026-11-10 cs.CR cs.LG cs.SE
AutoDojo: A Generative Benchmark for Evaluating Prompt Injection Defenses in LLM Agents
University of Science and Technology of China(中国科学技术大学)
针对间接提示注入防御的静态基准不足,提出自适应攻击框架AutoDojo,通过迭代优化注入突破多数防御,并揭示动作开放任务的结构性限制。
2026-09-29 cs.AI cs.CR
Bridging AI and Software Security: A Comparative Vulnerability Assessment of LLM Agent Deployment Paradigms
University of Manouba(马努巴大学);University of Jendouba(坚杜拜大学);University of Sfax(斯法克斯大学);DataDoIt;South Mediterranean University(南地中海大学)
本研究通过统一威胁框架比较函数调用与MCP两种LLM智能体部署范式,发现函数调用攻击成功率更高,链式攻击效果显著,为安全部署提供实证指导。
2025-07-08 cs.AI cs.CR
Defensive ML: Defending Architectural Side-channels with Adversarial Obfuscation
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Yale University(耶鲁大学)
本文提出防御性机器学习方法,在架构层利用对抗性混淆(DefenderGAN)防御侧信道攻击,分别以硬件和软件防御器实现高安全性和低开销。
2023-10-14 cs.AR cs.CR cs.LG