Explainable Artificial Intelligence Applications in Cyber Security: State-of-the-Art in Research
本调查对当前关于网络安全应用的可解释人工智能(XAI)方法的文献进行了全面回顾。由于近年来互联网连接的系统和人工智能的快速发展,包括机器学习(ML)和深度学习(DL)的人工智能已经被广泛用于包括入侵检测、恶意软件检测和垃圾邮件过滤的网络安全领域。然而,尽管与传统的基于签名和基于规则的网络安全策略相比,用于检测和防御网络攻击和威胁的基于人工智能的方法更加先进和高效,但大多数基于ML的技术和基于DL的技术都是以黑盒方式部署的,这意味着安全专家和客户无法解释这些程序如何得出特定结论。现有人工智能技术的透明度和可解释性的缺陷将降低人类用户对用于防御网络攻击的模型的信心,特别是在当前网络攻击变得越来越多样化和复杂的情况下。因此,在建立网络安全模型时应用XAI至关重要,以创建更易于解释的模型,同时保持高准确性,并允许人类用户理解,信任和管理下一代网络防御机制。虽然有论文回顾人工智能在网络安全领域的应用,以及在医疗保健,金融服务和刑事司法等许多领域应用XAI的大量文献,但令人惊讶的事实是,目前没有调查研究文章集中在XAI在网络安全中的应用。
2022-08-31 cs.CR
Authentication of Everything in the Internet of Things: Learning and Environmental Effects
物联网(IoT)系统的好处取决于开发特定于IoT的安全解决方案。传统的安全和认证解决方案通常无法满足物联网安全要求,因为物联网对象的计算有限和便携性。本文提出了一种物联网对象认证框架。该框架使用特定于设备的信息(称为指纹)以及迁移学习工具来验证物联网中的对象。该框架跟踪物理环境变化对指纹的影响,并使用独特的物联网环境影响功能来检测网络和网络物理仿真攻击。所提出的环境影响估计框架被证明可以在不增加误报率的情况下提高攻击者的检测率。所提出的框架也被证明是能够检测网络物理攻击者,能够复制的指纹的目标对象,传统的方法是无法检测到的。提出了一种迁移学习方法,允许在环境影响估计过程中使用具有不同类型和特征的对象,以增强框架的性能,同时捕获具有不同对象类型的实际物联网部署。使用真实物联网设备数据的仿真结果表明,所提出的方法可以在网络仿真攻击检测方面提高40%,并且能够检测到传统方法无法检测到的网络物理仿真攻击。结果还表明,该框架提高了认证的准确性,而迁移学习方法产生高达70%的额外的性能增益。
2018-04-24 cs.CR cs.IT math.IT
AlertBERT: A noise-robust alert grouping framework for simultaneous cyber attacks
AIT Austrian Institute of Technology(奥地利技术研究所)
AlertBERT通过自监督框架和密度聚类,在噪声环境中有效分组同时发生的网络攻击警报,提升安全分析效率与准确性。
2026-02-06 cs.CR cs.LG
Grid-STIX: A STIX 2.1-Compliant Cyber-Physical Security Ontology for Power Grid
Argonne National Laboratory(阿贡国家实验室)
针对现有威胁情报标准缺乏电网特定资产、操作技术关系及网络物理 interdependencies覆盖的问题,提出符合STIX 2.1的Grid-STIX本体,通过模块化架构捕获电网组件与关系,支持威胁建模和零信任实施,助力电力行业协作安全研究。
2025-11-14 cs.CR
An Isolation Forest Learning Based Outlier Detection Approach for Effectively Classifying Cyber Anomalies
Chittagong University of Engineering & Technology(吉大港工程技术大学);Jahangirnagar University(贾汉吉尔纳加尔大学);Canberra Institute of Technology(堪培拉理工学院);Kuwait University(科威特大学)
由于物联网(IoT)的普及、移动网络的大幅增长以及许多相关应用程序,网络安全最近对当今的安全问题产生了相当大的兴趣。因此,检测网络中的大量网络攻击并创建有效的入侵检测系统在当今的安全中起着至关重要的作用。在本文中,我们提出了一个隔离森林学习为基础的离群检测模型,有效地分类网络异常。为了评估所得到的离群点检测模型的有效性,我们还使用了几种传统的机器学习方法,如Logistic回归(LR),支持向量机(SVM),AdaBoost分类器(ABC),朴素贝叶斯(NB)和K-最近邻(KNN)。我们提出的离群检测模型的有效性进行评估进行实验的网络入侵数据集的评价指标,如精度,召回率,F1分数,和准确性。实验结果表明,去除离群点后,网络异常的分类精度得到了提高。
2020-12-09 cs.CR cs.LG
Confidential FRIT via Homomorphic Encryption
The University of Electro-Communications(电气通信大学)
针对信息物理系统增益调优外包的安全需求,提出基于同态加密的机密FRIT框架,通过将矩阵求逆转为向量求和适配同态运算,128位安全下性能与传统方法相当并给出加密方案选型指导。
2025-10-30 cs.CR cs.SY eess.SY
Hybrid Temporal Differential Consistency Autoencoder for Efficient and Sustainable Anomaly Detection in Cyber-Physical Systems
JOANNEUM RESEARCH Forschungsgesellschaft mbH(JOANNEUM RESEARCH 研究会);TU Graz(格拉茨技术大学)
本文提出混合时序差分一致性自编码器 hybrid TDC-AE,通过结合确定性节点与统计节点捕捉系统动态,在无需领域知识的情况下将异常检测时间缩短3%,并超越BATADAL挑战赛领先者,实现高效可持续的CPS异常检测。
2025-09-19 cs.AI cs.CR cs.LG
Cryptologic Techniques and Associated Risks in Public and Private Security. An Italian and European Union Perspective with an Overview of the Current Legal Framework
本文从意大利与欧盟法律框架出发,分析密码学、隐写术和量子技术对公私安全的影响,并评述2024年第90号法律及联合国网络犯罪公约草案等举措。
2025-05-13 cs.CR
Blockchain-based Security Framework for Critical Industry 4.0 Cyber-physical System
由于最近网络攻击的兴起,人们对安全替代方案表示了强烈的关注,这些攻击主要针对工业,医疗或能源生态系统等关键系统。尽管最新的行业基础设施在很大程度上依赖于人工智能驱动的维护,但基于损坏数据的预测无疑会导致生命和资本损失。诚然,不适当的数据保护机制很容易对网络的安全性和可靠性构成挑战。传统的云或可信证书驱动技术的缺点促使我们展示一个独特的基于区块链的框架,以实现安全高效的工业4.0系统。所展示的框架在增强联盟区块链之后消除了长期建立的证书颁发机构,从而减少了数据处理延迟,并提高了具有成本效益的吞吐量。尽管如此,分布式工业4.0安全模型需要合作信任,而不是依赖于单一方,这本质上是在纵容单点故障的成本和威胁。因此,多重签名技术的建议框架完成了多方认证,这证实了其适用于实时和协同的信息物理系统。
2021-06-24 cs.CR
CyLens: Towards Reinventing Cyber Threat Intelligence in the Paradigm of Agentic Large Language Models
本文提出由 LLM 驱动的网络威胁情报副驾驶 CYLENS,融合271,570份威胁报告与六个专用NLP模块,覆盖威胁管理全流程,实验显示其优于领先LLM和现有网络安全智能体。
2025-04-16 cs.CR
Cyber Threat Intelligence for Artificial Intelligence Systems
Orange Innovation Poland(Orange创新波兰)
本文探讨了面向人工智能系统的网络威胁情报框架,分析了传统威胁情报的不足,并提出了构建AI特定知识库和测量技术的方案。
2026-03-05 cs.AI cs.CR
A Threat-Intelligence Driven Methodology to Incorporate Uncertainty in Cyber Risk Analysis and Enhance Decision Making
本文提出威胁情报驱动的安全评估与决策方法论,利用因果图替代攻击树并纳入已知未知、未知未知及多层级TTP,以降低网络风险分析中的不确定性。
2023-06-26 cs.CR
KAN-LSTM: Benchmarking Kolmogorov-Arnold Networks for Cyber Security Threat Detection in IoT Networks
University of New South Wales Canberra (UNSW Canberra)(新南威尔士大学堪培拉分校)
本文提出KAN-LSTM模型,结合空间与时间编码,利用KAN的自适应激活函数在物联网网络中实现更高效的网络安全威胁检测,通过实验验证了KAN-LSTM和KAN在传统深度学习模型上的优越性。
2026-03-30 cs.CR
Stepping out of Flatland: Discovering Behavior Patterns as Topological Structures in Cyber Hypergraphs
本文提出基于超图和拓扑学的框架,通过可追溯至日志的拓扑签名分析赛博网络数据,以提升攻击检测的可解释性。
2023-11-08 cs.CR
Quantum Computing and Cybersecurity in Accounting and Finance: Current and Future Challenges and the Opportunities for Securing Accounting and Finance Systems in the Post-Quantum World
本文探讨量子计算对会计金融领域网络安全的影响,通过PSALSAR方法分析现有脆弱性,提出利用量子算法和QKD增强量子抗性密码机制,以保障后量子世界会计金融系统安全。
2025-07-08 cs.CR cs.ET
Challenges and Opportunities in CPS Security: A Physics-based Perspective
网络技术(计算和通信)与物理世界的集成产生了称为网络物理系统(CPS)的复杂系统,例如制造,运输,智能电网和水处理。其中许多系统是关键基础设施的一部分,需要安全、可靠和安全地实时运行。与传统IT系统相比,CPS安全性具有挑战性。对手可以在网络和物理域中危害系统。然而,CPS中使用的独特技术和流程也为防御带来了机会。由于物理和网络组件的复杂交互,CPS安全性已通过多种方式进行处理。在这项工作中,采取了全面的研究,以总结的挑战和建议的解决方案,从基于物理的角度来保护CPS。
2020-04-07 cs.CR cs.SY eess.SY
Cyber Protection Applications of Quantum Computing: A Review
该综述通过分析815篇论文,梳理了量子计算在网络防护多领域的应用、相关技术及社会层面价值,探讨了提升其效率与安全性的方向,为网络安全领域的量子技术应用提供参考。
2024-09-17 cs.CR cs.ET
Combining Threat Intelligence with IoT Scanning to Predict Cyber Attack
Researcher Senior Member, IEEE(IEEE高级研究员)
本文提出一个预测性威胁情报框架,通过系统收集、分析和可视化暗网数据,识别恶意网站并将其与物联网漏洞关联,以增强网络攻击预测建模和政策制定。
2025-06-03 cs.AI cs.CR cs.CY
TechniqueRAG: Retrieval Augmented Generation for Adversarial Technique Annotation in Cyber Threat Intelligence Text
提出TechniqueRAG框架,通过集成现成检索器、指令微调LLM和零样本重排序,在有限领域数据下实现安全文本中对抗技术标注的SOTA性能。
2025-08-09 cs.CR
Principles of Security: Human, Cyber, and Biological
网络安全攻击是全球经济和社会系统的一个重大且日益沉重的负担。在这里,我们分析了不同领域的安全原则,并展示了当前网络安全的架构缺陷。网络安全本质上是脆弱的,因为它缺乏保护整个系统而不是单个计算机的能力。当前的体系结构使计算机网络中的所有节点能够透明地相互通信,因此安全性将需要保护网络中的每台计算机免受所有可能的攻击。相比之下,其他系统依赖于系统范围的保护。在提供常规安全时,警察巡逻社区,军队保护边界,而不是保卫每个家庭。同样,在生物学中,免疫系统主要通过对皮肤、膜和血液的作用来抵御病毒和细菌,而不是要求每个细胞进行自我防御。我们建议将这些原则应用于应对网络安全挑战。这将需要:(a)使自我传播的安全软件能够广泛传播,并为这种安全软件建立一个开发者社区,(b)修改互联网路由器的协议,以适应可调节互联网流量的自适应安全软件。对免疫系统架构的分析提供了许多其他应该应用于网络安全的原则。在这些原则中,有一个是检测和行动的仔细相互作用,包括进化改进。然而,通过应用这些原则来实现显著的安全收益在很大程度上取决于补救底层架构限制。
2013-03-11 cs.CR nlin.AO physics.soc-ph
Autonomous Threat Hunting: A Future Paradigm for AI-Driven Threat Intelligence
本文综述了自主威胁狩猎作为AI驱动威胁情报关键范式的演进与意义,探讨AI与传统方法的融合、概念框架、挑战及案例研究,强调其对网络安全未来的重大影响。
2023-12-30 cs.CR
Graph-based Cyber Security Analysis of State Estimation in Smart Power Grid
Shenzhen University(深圳大学);The Chinese University of Hong Kong(香港中文大学);Shenzhen Research Institute, The Chinese University of Hong Kong(香港中文大学(深圳)研究院)
本文提出基于图的网络安全分析框架,用于智能电网状态估计,通过直观可视化复杂问题结构,提升电网信息安全防护与攻击能力。
2016-12-18 cs.CR cs.SY eess.SY
Quantum Computing and Cybersecurity Education: A Novel Curriculum for Enhancing Graduate STEM Learning
本文提出并评估了一门名为EE 597的研究生课程,通过仿真和云量子硬件将量子安全与经典硬件安全相结合,以体验式学习应对量子计算带来的新兴安全威胁,实验显示学生理解显著提升且反馈积极。
2025-03-12 cs.CR cs.ET quant-ph
Security by Design Issues in Autonomous Vehicles
本文面向自动驾驶汽车这一信息物理系统,梳理物理、网络、编码与通信等多层安全漏洞,并针对各攻击向量提出防护思路,以增强其在演变威胁中的安全性与韧性。
2025-01-07 cs.CR cs.SY eess.SY
Cyber-Resilient Privacy Preservation and Secure Billing Approach for Smart Energy Metering Devices
大多数智能应用,如智能能源计量设备,需要强大的隐私保护来加强数据隐私。然而,很难保护智能设备数据的隐私,特别是在客户端。主要是因为计费支付是由部署在客户端的服务器计算的,防止客户信息泄露给未经授权的用户具有很大的挑战性。不同的研究人员已经讨论了这个问题,并提出了不同的隐私保护技术。常规技术遭受客户端侧的高计算和通信过载的问题。此外,这些技术的性能由于计算复杂性和它们不能处理大规模数据的安全性而恶化。由于这些限制,攻击者很容易在服务器上引入恶意攻击,对数据安全构成重大威胁。在此背景下,本提案旨在设计新颖的隐私保护和安全计费框架,使用深度学习技术来确保智能电能计量设备中的数据安全。这项研究旨在克服现有技术的局限性,以实现智能设备中强大的隐私保护,并提高这些设备的网络弹性。
2022-10-06 cs.CR cs.IR cs.NI
Global Roaming Trust-based Model for V2X Communications
智慧城市需要将物理设备连接成网络,以提高城市运营和服务的效率。智能交通系统(ITS)是智慧城市的关键组成部分之一,因为它能够支持车辆之间的通信,以改善驾驶体验。虽然车联网(V2X)通信至关重要,但网络安全对V2X通信构成了重大挑战。V2X通信链路容易受到各种网络攻击,包括内部和外部攻击。传统安全方案无法检测到内部攻击,因为受感染的节点具有有效的凭据。因此,迫切需要一种新的信任模型来减轻网络安全风险。本文提出了一种基于全局漫游信任的V2X通信安全模型。每个车辆都具有关于网络中恶意节点的全局知识。此外,各种实验进行了不同比例的恶意节点来衡量所提出的模型的性能。仿真结果表明,与现有方法相比,该模型将误检率(FNR)提高了33.5%。
2019-09-26 cs.CR cs.NI
FeDiSa: A Semi-asynchronous Federated Learning Framework for Power System Fault and Cyberattack Discrimination
Deakin University(迪肯大学);Latrobe University(乐卓博大学)
随着智能电网领域对安全和隐私问题的日益关注,近年来,关键能源基础设施的入侵检测已成为一个高度优先事项。为了解决隐私保护和分散的权力区与战略数据所有者的挑战,联邦学习(FL)作为一种可行的隐私保护替代方案,它可以在不需要共享原始数据的情况下协同训练攻击检测模型。为了解决与传统同步FL相关的一些技术挑战,本文提出了FeDiSa,一种新型的半异步联邦学习框架,用于电力系统故障和网络攻击识别,该框架考虑了通信延迟和掉队者。具体而言,我们提出了一种由监督控制和数据采集子系统对深度自动编码器进行协作训练的方法,这些子系统将其本地模型更新上传到控制中心,然后基于缓冲系统和预设的截止时间对新的全局模型参数执行半异步模型聚合。使用公开的工业控制系统数据集对所提出的框架进行的实验显示出优越的攻击检测准确性,同时保持数据机密性并最大限度地减少通信延迟和掉队者的不利影响。此外,我们看到训练时间提高了35%,从而验证了我们提出的方法的鲁棒性。
2023-03-28 cs.CR cs.DC cs.LG
SCGNet-Stacked Convolution with Gated Recurrent Unit Network for Cyber Network Intrusion Detection and Intrusion Type Classification
American International University(美国国际大学);Khulna University(库尔纳大学)
针对传统入侵检测系统难以高效识别复杂网络攻击的问题,提出新型深度学习架构SCGNet及通用数据预处理流程,在NSL-KDD数据集的攻击检测与分类任务上取得高准确率。
2024-10-29 cs.CR cs.LG
The MESA Security Model 2.0: A Dynamic Framework for Mitigating Stealth Data Exfiltration
针对传统纵深防御难以应对隐蔽数据外泄等复杂网络威胁的问题,研究提出MESA 2.0安全模型,从静态边界预防转向动态防御,以快速检测、即时响应和持续韧性降低入侵后果,助力企业适配 evolving 网络威胁环境。
2024-05-17 cs.CR
Digital Twin Degradation: Detecting Cyber Physical Attacks via Temporal Inconsistencies
Norwegian University of Science and Technology (NTNU)(挪威科技大学)
该研究提出一种基于多时间范围特征与无监督密度模型的检测框架,利用数字孪生与物理系统的时间不一致性,在无需攻击标签的情况下实现工业控制系统的可靠攻击检测,误报率低且对数字孪生退化场景有效。
2026-08-18 cs.AI cs.CR cs.LG
CAM-LDS: Cyber Attack Manifestations for Automatic Interpretation of System Logs and Security Alerts
Austrian Institute of Technology(奥地利技术研究院)
CAM-LDS通过提供涵盖多种攻击技术的日志数据集,推动基于大语言模型的系统日志和安全警报自动解释技术的发展。
2026-03-04 cs.AI cs.CR
A data-driven security quantification framework for IoT-based systems
School of Computing and Engineering, University of Bradford(布拉德福德大学计算机与工程学院)
提出一种结合模型系统工程、攻击树分析和EPSS漏洞数据的概率安全框架,用于量化物联网系统的妥协概率并指导缓解策略。
2026-06-16 cs.CR
Anomaly-Based Intrusion Detection by Machine Learning: A Case Study on Probing Attacks to an Institutional Network
网络攻击对组织构成重大威胁,影响范围包括经济、声誉和法律后果。随着网络犯罪分子的技术变得越来越复杂,信息安全专业人员在保护信息系统方面面临着更大的挑战。在当今计算机系统的互连领域中,每个攻击向量都具有网络维度。本研究调查网络入侵尝试与基于异常的机器学习模型,以提供更好的保护比传统的误用为基础的模型。两个模型,即集成学习模型和卷积神经网络模型,建立和实施从现实生活中,机构生产环境收集的数据集。为了证明这些模型的可靠性和有效性,将其应用于联合国工作队NB 15基准数据集。攻击类型仅限于探测攻击,以保持研究范围可控。研究结果显示准确率很高,CNN模型稍微准确一些。
2021-03-31 cs.CR
Zero Trust: Applications, Challenges, and Opportunities
本文综述了Zero Trust范式在网络安全中的理论基础与实际应用,探讨其在云环境、远程工作和物联网中的保护作用,并指出结合AI与机器学习技术可有效克服挑战,增强安全效能。
2023-09-07 cs.CR
Detecting Timing Attack on PMU Data utilizing Unwrapped Phase Angle and Low-Rank Henkel Matrix Properties
在网络物理系统中引入PMU可提供准确的数据采集,但也会带来成为网络攻击受害者的额外风险。虚假数据注入攻击(FDIA)和GPS欺骗或定时攻击都可以向网络系统提供恶意数据,尽管这两种攻击需要不同的攻击后应急计划。因此,准确地检测定时攻击并将其与传统的FDIA区分开来已成为一个非常重要的研究领域。本文提出了一种成功检测定时攻击的机制。首先,提出了一种利用解包后的相位角数据区分定时攻击和FDIA的方法。其次,利用低秩汉克尔矩阵的性质,区分定时攻击和电事件。最后,在IEEE 13节点系统上,利用模拟的GPS欺骗攻击对模型进行了实验验证。可以观察到,对于GPS时间戳中的3秒延迟,定时攻击可以将展开角度的Henkel矩阵的秩1近似误差增加700%。对于2秒延迟,秩1近似误差增加500%,对于1秒延迟攻击,增加不明显。FDIA对Henkel矩阵的低秩近似曲线无明显影响。
2021-10-07 cs.CR cs.SY eess.SY
New Era of Deeplearning-Based Malware Intrusion Detection: The Malware Detection and Prediction Based On Deep Learning
随着以深度学习模型为代表的人工智能算法的发展以及在不同领域的成功应用,深度学习技术在网络安全领域也有了进一步的探索。无论是在学术安全研究中,还是在行业实践中,通过深度学习方法处理部分网络安全问题时,与传统规则相比,都表现出了较好的性能。特别是对于恶意软件检测和分类任务,它节省了大量的时间成本,并提高了恶意软件检测系统总流水线的准确性。在本文中,我们构建了特殊的深度神经网络,即MalDeepNet(TB-Malnet和IB-Malnet),用于恶意软件动态行为分类任务。然后构建了基于深度学习的家族聚类算法并进行了相关测试。此外,我们还设计了一个新的恶意软件预测模型,可以检测恶意软件未来通过Mal生成对抗网络(Mal-GAN)的实现。这些算法在以后的相关数据集上具有相当大的应用价值。
2021-10-15 cs.CR cs.LG
Blockchain-based PKI within a Corporate Organization: Advantages and Challenges
本文研究企业内基于区块链的PKI,比较其与传统PKI的优劣,并分析CRA和NIS-2等法律框架影响,表明区块链PKI可通过去中心化信任锚、不可篡改的证书管理及更强的不当行为识别机制提升安全性。
2024-07-05 cs.CR cs.SE