IoT Security Techniques Based on Machine Learning
将各种设备集成到网络中以提供先进和智能服务的物联网(IoT)必须保护用户隐私并应对诸如欺骗攻击、拒绝服务攻击、干扰和窃听等攻击。在这篇文章中,我们研究了物联网系统的攻击模型,并回顾了基于机器学习技术的物联网安全解决方案,包括监督学习,无监督学习和强化学习。我们专注于基于机器学习的物联网认证、访问控制、安全卸载和恶意软件检测方案,以保护数据隐私。在本文中,我们讨论了在实际物联网系统中实施这些基于机器学习的安全方案所需要解决的挑战。
2018-01-19 cs.CR
Comparison between security majors in virtual machine and linux containers
虚拟化在21世纪初开始在信息技术领域获得关注,当时管理资源分布对开发人员来说是一项艰巨的任务。因此,像VMWare、Hyper V(hypervisor)这样的工具开始侵入不同操作系统上的软件存储库。VMWare和Hyper V可以支持多个虚拟机在其上运行,每个虚拟机都有自己的隔离环境。由于这种隔离,虚拟机(VM)的安全性方面与物理机(在硬件上具有专用操作系统)没有太大区别。Linux容器(LXC)领域的进步已经将虚拟化带到了一个完全不同的水平,其中各种应用程序的资源利用率得到了进一步优化。但是容器安全性在今天的研究人员中已经占据了首要地位,本文倾向于提供一个关于容器和虚拟机安全性比较的简要概述。
2015-07-28 cs.CR
Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop 2020
研讨会将重点讨论人工智能在网络安全问题中的应用。AICS 2020的重点将是在网络安全问题的背景下进行人机合作,并将专门探索人类操作员与人工智能技术之间的合作。该研讨会将涉及人工智能的适用领域,如机器学习,博弈论,自然语言处理,知识表示,自动化和辅助推理以及人机交互。此外,网络安全应用领域,特别强调人机合作的表征和部署将是重点。
2020-06-10 cs.AI cs.CR cs.HC
Towards AI-Driven Human-Machine Co-Teaming for Adaptive and Agile Cyber Security Operation Centers
George Mason University(乔治·马歇尔大学);University of South Florida(佛罗里达州立大学)
针对SOC告警过载、人才短缺与工具割裂问题,本文提出利用LLM驱动的人机协同团队,通过分析师隐性知识传递增强威胁情报、告警分类与事件响应。
2025-05-09 cs.AI cs.CR
The Threat of Adversarial Attacks on Machine Learning in Network Security -- A Survey
Carleton University(卡尔顿大学)
机器学习模型使许多决策支持系统变得更快、更准确、更高效。然而,与其他领域相比,机器学习在网络安全中的应用面临着更不成比例的主动对抗攻击威胁。这是因为网络安全中的机器学习应用程序(如恶意软件检测、入侵检测和垃圾邮件过滤)本身就具有对抗性。在攻击者和防御者之间的军备竞赛中,对手不断地用明确设计的输入来探测机器学习系统,以绕过系统并引起错误的预测。在本调查中,我们首先提供了机器学习技术、任务和深度的分类。然后,我们介绍了机器学习在网络安全应用中的分类。接下来,我们研究了网络安全中针对机器学习的各种对抗性攻击,并介绍了网络安全中对抗攻击的两种分类方法。首先,我们分类对抗攻击在网络安全的基础上的网络安全应用的分类。其次,我们将网络安全中的对抗攻击分为问题空间与特征空间的维度分类模型。然后,我们分析了各种防御对抗攻击的机器学习为基础的网络安全应用程序。最后,我们引入了一个对抗性风险网格图,并使用风险网格图评估了网络安全中针对机器学习的几种现有对抗攻击。我们还确定了每个攻击分类在对抗性风险网格图中的位置。
2023-03-21 cs.CR cs.LG cs.NI
Introducing the truly chaotic finite state machines and their applications in security field
作者在以前的研究论文中介绍了真正的混沌有限机器。在这门学科的艺术状态,包括所有以前的数学调查,提供,解释如何有限状态机可以表现混乱的轻微改变他们的输入。这种行为是解释使用图灵机和形式化感谢一个特殊的家庭离散动力系统称为混沌迭代。最后给出了散列函数领域的一个说明性例子。
2017-06-25 cs.CR
Enhancing IoT Security and Privacy with Trusted Execution Environments and Machine Learning
针对物联网设备向不可信云传输敏感信息的安全问题,提出将外设驱动隔离在可信执行环境中、用安全机器学习分类过滤敏感数据的方案,提升物联网系统的安全与隐私性。
2023-05-04 cs.CR
CyberLearning: Effectiveness Analysis of Machine Learning Security Modeling to Detect Cyber-Anomalies and Multi-Attacks
Chittagong University of Engineering & Technology(吉大港工程与技术大学);Swinburne University of Technology(斯威本科技大学)
检测网络异常和攻击正在成为网络安全领域日益关注的问题。人工智能的知识,特别是机器学习技术可以用来解决这些问题。然而,基于学习的安全模型的有效性可能会因安全功能和数据特征而异。在本文中,我们提出了“CyberLearning”,一个基于机器学习的网络安全建模与相关特征选择,并对各种基于机器学习的安全模型的有效性进行了全面的实证分析。在我们的网络学习建模中,我们考虑了用于检测异常的二进制分类模型,以及用于各种类型网络攻击的多类分类模型。为了建立安全模型,我们首先使用流行的十种机器学习分类技术,例如朴素贝叶斯、逻辑回归、随机梯度下降、K-最近邻、支持向量机、决策树、随机森林、自适应提升、极限梯度提升以及线性判别分析。在此基础上,提出了基于人工神经网络的多隐藏层安全模型.这些基于学习的安全模型的有效性进行了检查,利用两个最流行的安全数据集,UNSW-NB 15和NSL-KDD进行了一系列的实验。总的来说,本文旨在通过我们在网络安全背景下的实验分析和发现,为数据驱动的安全建模提供参考。
2021-03-28 cs.CR cs.LG
MLSMM: Machine Learning Security Maturity Model
Blekinge Institute of Technology(布莱金厄理工学院)
本文提出机器学习安全成熟度模型(MLSMM),沿ML开发生命周期组织安全实践并建立三个成熟度级别,以促进工业界与学术界更紧密合作。
2023-06-28 cs.CR cs.LG cs.SE
On the (In)Security of Loading Machine Learning Models
本文评估了机器学习模型共享框架和枢纽的安全性,发现大多数仅部分应对安全风险,且存在0-day漏洞,表明安全加载仍非解决难题。
2026-03-12 cs.CR cs.LG
A New Secure Network Architecture to Increase Security Among Virtual Machines in Cloud Computing
云计算是一种新的计算模式,它提供可扩展性、灵活性和按需服务。虚拟化是云计算的主要组成部分之一,但不幸的是,这项技术存在许多安全漏洞。本文的主要目的是提出一种新的安全架构的虚拟网络机,以提高虚拟机之间的安全性在虚拟化环境(Xen作为一个案例研究)。首先,我们揭示了基于Xen Hypervisor的不同网络模式,然后我们分析了这种环境中的漏洞和安全问题。最后,我们详细介绍了新的安全体系结构,并展示了它如何面对主要的安全网络攻击。
2018-09-13 cs.CR cs.DC cs.NI
Resilient Machine Learning for Networked Cyber Physical Systems: A Survey for Machine Learning Security to Securing Machine Learning for CPS
Howard University(霍华德大学)
网络物理系统(CPS)的特点是它们能够整合物理和信息或网络世界。它们在关键基础设施中的部署显示了改变世界的潜力。然而,利用这种潜力受到其关键性质以及网络攻击对人类,基础设施和环境的深远影响的限制。CPS对网络问题的吸引力来自通过无线通信介质将信息从传感器发送到执行器的过程,从而扩大了攻击面。传统上,CPS安全性已经从使用密码学和其他访问控制技术防止入侵者获得对系统的访问的角度进行了研究。因此,大多数研究工作都集中在CPS中的攻击检测上。然而,在一个对手不断增加的世界里,完全防止CPS遭受对抗攻击变得越来越困难,因此需要专注于使CPS具有弹性。弹性CPS旨在承受中断并在对手的操作下保持功能。为构建弹性CPS而探索的主要方法之一依赖于机器学习(ML)算法。然而,从最近对对抗性ML的研究中,我们认为用于保护CPS的ML算法本身必须具有弹性。因此,本文旨在全面调查弹性CPS使用ML和弹性ML应用于CPS时之间的相互作用。文章最后总结了一些研究趋势和未来的研究方向。此外,通过本文,读者可以深入了解基于ML的安全性和针对CPS的安全ML的最新进展和对策,以及这一活跃研究领域的研究趋势。
2021-02-14 cs.AI cs.CR cs.LG
DaemonSec: Examining the Role of Machine Learning for Daemon Security in Linux Environments
University of Nebraska at Omaha(内布拉斯加大学奥马哈分校)
DaemonSec通过访谈研究探讨机器学习在Linux守护进程安全中的应用,揭示了行业对ML驱动安全的接受度、可行性和信任问题,以及非安全角色的安全意识不足和补丁延迟带来的风险。
2026-02-23 cs.CR cs.HC
AIJack: Let's Hijack AI! Security and Privacy Risk Simulator for Machine Learning
本文提出开源库AIJack,通过统一API集成多种攻击与防御方法,用于评估机器学习模型训练和部署中的安全与隐私风险。
2024-04-08 cs.CR cs.LG
A Survey of Data Security: Practices from Cybersecurity and Challenges of Machine Learning
本文综述了机器学习系统带来的数据安全新挑战,并系统介绍密码学、零信任、同态加密、差分隐私和联邦学习等跨领域基础技术,以促进网络安全与数据科学领域的协同发展。
2023-12-04 cs.CR
A Marauder's Map of Security and Privacy in Machine Learning
越来越多的人认识到,机器学习(ML)暴露了软件系统中新的安全和隐私漏洞,但技术社区对这些漏洞的性质和程度的理解仍然有限,但正在扩大。在这次演讲中,我们将通过Saltzer和Schroeder的安全计算机系统设计原则来探索ML算法的威胁模型空间。这一特征的威胁空间提示当前和未来的研究方向的调查。我们围绕其中三个方向展开讨论,我们认为这三个方向可能会导致重大进展。第一个包括一系列验证和准入控制的方法,这是在机器学习系统中启用故障安全默认值的先决条件。第二个目标是设计一种机制,用于收集可靠的妥协记录,这将有助于了解对手利用漏洞的程度,以及有利于机器学习应用程序的心理接受度。第三种是在机器学习中寻求安全和隐私的正式框架,我们认为应该努力将机器学习的目标(如泛化)与安全和隐私的需求(如鲁棒性或隐私)相结合。从这三个方向在ML和安全社区追求的关键见解被确定,方法的有效性与ML算法的结构元素和用于训练它们的数据有关。最后,我们总结了我们社区的最佳实践。
2018-11-03 cs.CR
Security and Machine Learning in the Real World
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
部署在许多安全和业务关键型系统中的机器学习(ML)模型很容易通过对抗性示例被利用。大量的学术研究已经彻底探索了这些盲点的原因,开发了寻找它们的复杂算法,并提出了一些有前途的防御措施。然而,这些作品中的绝大多数研究独立的神经网络模型。在这项工作中,我们建立在我们的经验,评估大规模部署的机器学习软件产品的安全性,以扩大对话,包括这些漏洞的系统安全视图。我们描述了在具有ML组件的软件中实现系统安全最佳实践的新挑战。此外,我们还提出了一系列短期缓解建议,部署机器学习模块的从业者可以使用这些建议来保护他们的系统。最后,我们概述了机器学习攻击和防御的新研究方向,这些攻击和防御可以促进ML系统的安全性。
2020-07-13 cs.CR cs.LG stat.ML
Unified Framework for Qualifying Security Boundary of PUFs Against Machine Learning Attacks
National University of Singapore(新加坡国立大学);The University of Sheffield(谢菲尔德大学)
本文提出统一框架评估PUF对机器学习攻击的安全性,通过数学建模和实验分析,确定PUF的安全下界并提供理论保障。
2026-01-08 cs.CR
Security Aspects of Quantum Machine Learning: Opportunities, Threats and Defenses
The Pennsylvania State University(宾夕法尼亚州立大学)
在过去的几年里,量子计算经历了一个井喷式的增长。量子计算的一个令人兴奋的途径是量子机器学习(QML),它可以利用高维希尔伯特空间从有限的数据中学习更丰富的表示,从而可以有效地解决复杂的学习任务。尽管人们对QML的兴趣越来越大,但还没有太多的研究讨论QML的安全方面。在这项工作中,我们探讨了QML在硬件安全领域的未来可能的应用。本文还揭示了QML的安全漏洞和新出现的攻击模式,并提出了相应的对策。
2022-04-07 cs.CR cs.LG quant-ph
Machine Learning for Offensive Security: Sandbox Classification Using Decision Trees and Artificial Neural Networks
SilentBreak Security(SilentBreak安全公司);Brigham Young University(杨百翰大学)
机器学习在信息安全中的优点主要集中在加强防御上。然而,机器学习(ML)技术并不是为财力雄厚和拥有大量数据存储库的组织所保留的; ML的民主化导致使用ML来支持攻击性操作的安全团队数量增加。这里介绍的研究将探索我们的团队用来解决单个攻击性任务的两个模型,检测沙箱。使用通过网络钓鱼电子邮件收集的进程列表数据,我们将演示如何使用决策树和人工神经网络成功地对沙箱进行分类,从而避免不安全的执行。本文旨在对真正的进攻团队如何使用机器学习来支持进攻行动提供独特的见解。
2020-07-14 cs.CR cs.LG
Dos and Don'ts of Machine Learning in Computer Security
Technische Universität Berlin(柏林工业大学);Technische Universität Braunschweig(布伦瑞克工业大学);King’s College London(伦敦国王学院);University College London(伦敦大学学院);Royal Holloway, University of London(伦敦大学皇家霍洛威学院);The Alan Turing Institute(艾伦图灵研究所);KASTEL Security Research Labs(KASTEL安全研究实验室);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
随着计算系统处理能力的不断增强和海量数据集可用性的不断提高,机器学习算法在许多不同领域取得了重大突破。这一发展影响了计算机安全,催生了一系列基于学习的安全系统的工作,例如恶意软件检测,漏洞发现和二进制代码分析。尽管潜力巨大,但安全领域的机器学习容易出现微妙的缺陷,这些缺陷会破坏其性能,并使基于学习的系统可能不适合安全任务和实际部署。在本文中,我们用批判的眼光看待这个问题。首先,我们确定在设计,实施和评估基于学习的安全系统的常见陷阱。我们对过去10年中来自顶级安全会议的30篇论文进行了研究,证实了这些陷阱在当前的安全文献中普遍存在。在实证分析中,我们进一步展示了个人陷阱如何导致不切实际的性能和解释,阻碍了对安全问题的理解。作为补救措施,我们提出了可行的建议,以支持研究人员在可能的情况下避免或减轻陷阱。此外,我们发现了机器学习在安全应用中存在的问题,并为进一步的研究提供了方向。
2021-11-30 cs.CR cs.LG
Security and Safety Aspects of AI in Industry Applications
Institute of Embedded Systems(嵌入式系统研究所);ZHAW School of Engineering(苏黎世应用科技大学工程学院)
在这篇相对非正式的讨论论文中,我们总结了机器学习中安全和安全领域的问题,这些问题将在未来五到十年内影响工业部门。近年来,使用神经网络分类的各种产品,最常用于视觉相关应用,但也用于预测性维护,已被研究并应用于实际应用中。然而,关于安全和安全相关领域的潜在问题的报告,例如对抗攻击,已经使早期采用者感到不安,并有可能阻碍该技术的更大规模采用。现实世界适用性的问题在于能够评估应用这些技术的风险。在这篇讨论论文中,我们描述了到达一个机器学习的神经网络分类器的过程,指出该工作流程中的安全和安全漏洞,并在适当的情况下引用相关研究。
2022-07-16 cs.AI cs.CR
Confidential Machine Learning Computation in Untrusted Environments: A Systems Security Perspective
Sungkyunkwan University(成均馆大学)
随着机器学习(ML)技术和应用正在迅速改变许多计算领域,与ML相关的安全问题也不断出现。在系统安全领域,已经做出了许多努力来确保ML模型和数据的机密性。ML计算通常不可避免地在不受信任的环境中执行,并且需要复杂的多方安全要求。因此,研究人员利用可信执行环境(TEE)来构建机密的ML计算系统。我们通过对不可信环境中机密ML计算中的攻击向量和缓解进行分类,分析多方场景中的复杂安全需求,并总结机密ML实施中的工程挑战,进行了系统而全面的调查。最后,我们根据我们的研究提出了未来的研究方向。
2022-01-06 cs.CR cs.LG
Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
近年来,机器学习算法,更具体地说,深度学习算法,已经广泛应用于包括网络安全在内的许多领域。然而,机器学习系统容易受到对抗攻击,并且这限制了机器学习的应用,特别是在非静止的对抗性环境中,诸如网络安全领域,其中实际的对手(例如,恶意软件开发者)存在。本文全面总结了针对基于机器学习技术的安全解决方案的对抗攻击的最新研究,并说明了它们带来的风险。首先,对抗攻击方法的特点是基于他们的发生阶段,攻击者的目标和能力。然后,我们分类的对抗攻击和防御方法在网络安全领域的应用。最后,我们强调了最近研究中发现的一些特征,并讨论了其他对抗性学习领域的最新进展对网络安全领域未来研究方向的影响。本文首次讨论了在网络安全领域实施端到端对抗攻击的独特挑战,将其映射到统一的分类中,并使用分类突出未来的研究方向。
2021-03-13 cs.CR cs.LG stat.ML
Machine Learning in Cyber-Security - Problems, Challenges and Data Sets
Palo Alto Networks(帕洛阿尔托网络公司);Shodan
我们提出了高度重要的网络安全问题。我们表明,为了解决这些网络安全问题,必须应对某些机器学习挑战。我们提供了代表这些问题的新数据集,以便学术界能够调查这些问题,并提出应对挑战的方法。我们还提出了一种方法来生成标签,通过旋转,提供了一个解决方案,在网络安全中缺乏标签的常见问题。
2019-04-22 cs.CR cs.LG stat.ML
SoK: Applying Machine Learning in Security - A Survey
Instart Logic, Inc.(Instart Logic公司)
应用机器学习(ML)解决安全领域问题的想法已经有近30年的历史了。随着信息和通信变得越来越普遍,越来越多的数据变得可用,出现了许多安全风险以及管理和减轻这些风险的需求。因此,应用和设计ML算法和安全系统的研究发展迅速,从入侵检测系统(IDS)和恶意软件分类到安全策略管理(SPM)和信息泄漏检查。本文系统地研究了2008-2015年学术出版物中将ML应用于安全领域的方法,算法和系统设计。98%的受访论文出现在6个排名最高的学术安全会议和1个以安全领域ML应用先驱而闻名的会议上。我们研究了广义系统设计,基本假设,测量和用例在积极的研究。我们的研究导致1)ML范式和安全领域的分类,以供未来探索和利用,以及2)详细介绍开放和即将到来的挑战的议程。根据我们的调查,我们还提出了一种观点,将安全视为博弈论问题,而不是批量训练的ML问题。
2016-11-10 cs.CR cs.LG
Machine-checked ZKP for NP-relations: Formally Verified Security Proofs and Implementations of MPC-in-the-Head
MPC-in-the-Head(MitH)是一个通用的框架,它允许从安全多方计算(MPC)协议构造有效的一般NP关系的零知识协议。在本文中,我们给出了这种转换的第一个机器检查的实现。我们从MitH的EasyCrypt形式化开始,它保留了MitH的模块化结构,并且可以用满足标准安全概念的任意MPC协议来实例化,这使我们能够利用现有的基于机器检查的秘密共享的MPC协议开发。在EasyCrypt中证明了ZK协议的安全性和正确性。使用最近开发的代码提取机制EasyCrypt,我们合成了一个正式验证的协议的实现,我们基准测试,以获得与我们的形式化选择和代码提取机制相关的开销的指示。
2021-05-19 cs.CR
Security for Machine Learning-based Systems: Attacks and Challenges during Training and Inference
Vienna University of Technology (TU Wien)(维也纳工业大学)
网络和物理世界之间的依赖性呈指数级增长,导致必须有效处理和存储大量数据。因此,计算范式正在向基于机器学习(ML)的系统发展,因为它们能够高效、准确地处理大量数据。虽然基于ML的解决方案解决了大数据的高效计算需求,但它们在系统中引入了(新的)安全漏洞,这是传统的基于监控的安全措施无法解决的。因此,本文首先简要概述了机器学习中的各种安全威胁,它们各自的威胁模型以及相关的研究挑战,以开发强大的安全措施。为了说明ML在训练,推理和硬件实现过程中的安全漏洞,我们分别使用MNIST和德国交通标志识别基准(GTSRB)的LeNet和VGGNet来展示ML上的一些关键安全威胁。此外,基于ML训练的安全性分析,我们还提出了一种对推理准确性影响很小的攻击。最后,我们强调了在开发安全措施方面的相关研究挑战,并简要概述了用于减轻此类安全威胁的技术。
2018-11-05 cs.CR cs.LG stat.ML
Machine Learning-Based Security Policy Analysis
University of Rochester(罗切斯特大学);Acadia University(阿卡迪亚大学)
本文提出结合 Neo4j 图表示、Node2vec 嵌入与机器学习的 SELinux 策略异常检测方法,实验表明 MLP 在不同数据规模下表现最佳,准确率达 95%。
2025-01-06 cs.AI cs.CR cs.LG
Physical Layer Authentication and Security Design in the Machine Learning Era
本文探讨了机器学习在无线物理层安全中的应用,总结了定制化ML算法,并回顾了PHY认证与安全传输的最新进展及基于神经网络的优化方法,最后指出了相关挑战与机遇。
2023-05-16 cs.CR cs.IT math.IT
Advancing Network Security: A Comprehensive Testbed and Dataset for Machine Learning-Based Intrusion Detection
本文提出一个基于容器、Kubernetes和eBPF/XDP的网络流量生成测试平台,并公开了一个完全满足真实标签特性的小规模恶意流量数据集,以支持基于机器学习的入侵检测研究。
2024-10-23 cs.CR cs.NI
A Survey on Resilient Machine Learning
IBM Research(IBM研究院)
基于机器学习的系统越来越多地用于敏感任务,例如安全监控、引导自动驾驶车辆、做出投资决策、检测和阻止网络入侵和恶意软件等。然而,最近的研究表明,机器学习模型在机器学习的所有阶段(例如,训练数据收集、训练、操作)都容易受到对手的攻击。机器学习系统的所有模型类都可以通过提供精心制作的输入而被误导,从而使它们错误地对输入进行分类。恶意创建的输入样本可能会影响ML系统的学习过程,要么减慢学习过程,要么影响学习模式的性能,要么导致系统仅在攻击者计划的情况下出错。由于这些发展,理解机器学习算法和系统的安全性正在成为计算机安全和机器学习研究人员和实践者的重要研究领域。我们提出了一个调查这一新兴领域的机器学习。
2017-07-11 cs.AI cs.CR cs.LG
A Security Verification Framework of Cryptographic Protocols Using Machine Learning
NTT Computer & Data Science Laboratories(NTT计算机与数据科学实验室);NTT Social Informatics Laboratories(NTT社会信息学实验室)
针对密码协议形式化验证耗时长、无判定性保证的问题,提出基于机器学习的安全验证框架,通过自动生成带标签数据集和适配协议结构的神经网络,实现线性时间复杂度的验证。
2023-04-26 cs.CR cs.LG
Security Evaluation of Support Vector Machines in Adversarial Environments
University of Cagliari(卡利亚里大学);Universität Potsdam(波茨坦大学);IBM Research(IBM研究院)
支持向量机(SVM)是安全应用中最流行的分类技术之一,如恶意软件检测、入侵检测和垃圾邮件过滤。然而,如果要将SVM纳入现实世界的安全系统,它们必须能够应对可能误导学习算法(中毒)、逃避检测(逃避)或获取有关其内部参数(隐私泄露)的信息的攻击模式。本章的主要贡献有两个方面。首先,我们介绍了一个正式的一般框架的机器学习系统的安全性的经验评估。其次,根据我们的框架,我们证明了规避,中毒和隐私攻击的支持向量机在现实世界中的安全问题的可行性。对于每种攻击技术,我们评估其影响,并讨论是否(以及如何)可以通过支持向量机的对手感知设计来反击。我们的实验很容易重现,这要归功于我们在公共存储库上提供的开源代码以及所有使用的数据集。
2014-01-30 cs.CR cs.LG
WebSpec: Towards Machine-Checked Analysis of Browser Security Mechanisms
浏览器的复杂性多年来一直在稳步增长,这是由于Web平台组件的不断引入和更新,例如新的Web API和安全机制。他们的规格由专家手动审查,以确定潜在的安全问题。然而,由于现代浏览器规范的广泛性以及新的和现有的Web平台组件之间的相互作用,这个过程被证明是容易出错的。为了解决这个问题,我们开发了WebSpec,这是第一个用于分析浏览器安全机制的正式安全框架,它可以自动发现逻辑缺陷并开发机器检查的安全证明。WebSpec特别包括Coq证明助手中的浏览器的综合语义模型,该模型中的10个Web安全不变量的形式化,以及将Coq模型和Web不变量转换为SMT-lib公式的工具链,以启用Z3定理证明器的模型检验。如果发现违规行为,工具链会自动生成与发现的攻击跟踪相对应的可执行测试,并在主要浏览器中进行验证。我们展示了WebSpec的有效性,发现两个新的逻辑缺陷所造成的不同的浏览器机制的相互作用,并确定三个以前发现的逻辑缺陷,在当前的Web平台,以及五个旧版本。最后,我们展示了WebSpec如何帮助验证我们提出的更改,以修改影响当前Web平台的报告不一致。
2022-09-01 cs.CR
Dataset Security for Machine Learning: Data Poisoning, Backdoor Attacks, and Defenses
University of Maryland(马里兰大学);Massachussetts Institute of Technology(麻省理工学院);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of California, Berkeley(加利福尼亚大学伯克利分校)
随着机器学习系统规模的增长,其训练数据需求也在增长,迫使从业者自动化和外包训练数据的管理,以实现最先进的性能。在数据汇集过程中缺乏可靠的人工监督会使组织暴露于安全漏洞;训练数据可以被操纵以控制和降低学习模型的下游行为。这项工作的目标是系统地分类和讨论广泛的数据集漏洞和利用,防御这些威胁的方法,以及该领域的一系列开放问题。除了描述各种中毒和后门威胁模型以及它们之间的关系之外,我们还开发了它们的统一分类法。
2021-03-31 cs.AI cs.CR cs.CV
The Dark Side: Security Concerns in Machine Learning for EDA
Hong Kong University of Science and Technology(香港科技大学);Duke University(杜克大学)
随着集成电路复杂性的不断提高,人们迫切需要通过新的电子设计自动化(EDA)方法来提高设计效率。近年来,机器学习(ML)技术已经实现了许多前所未有的高效EDA方法。尽管ML在电路设计中显示出巨大的潜力,但其安全问题的阴暗面却很少被讨论。本文对我们在ML for EDA中观察到的所有安全问题进行了全面而公正的总结。其中许多被这一领域的从业人员隐藏或忽视。在本文中,我们首先提供了我们的分类来定义四种主要类型的安全问题,然后我们分析了不同的应用场景和特殊属性的ML EDA。在此基础上,我们提出了我们的详细分析,每一个安全问题的实验。
2022-03-20 cs.CR cs.LG cs.SY
A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security
Qatar University(卡塔尔大学);Temple University(天普大学);University of Idaho(爱达荷大学)
物联网(IoT)集成了数十亿个智能设备,这些设备可以在最少的人为干预下相互通信。它是计算计算史上发展最快的领域之一,预计到2020年底将有500亿台设备。一方面,物联网在增强几个可以提高生活质量的现实智能应用方面发挥着至关重要的作用。另一方面,物联网系统的交叉性和部署此类系统所涉及的多学科组件带来了新的安全挑战。为物联网设备及其固有漏洞实施加密、身份验证、访问控制、网络安全和应用程序安全等安全措施是无效的。因此,应加强现有的安全方法,以有效地保护物联网系统。机器学习和深度学习(ML/DL)在过去几年中取得了长足的进步,机器智能已经从实验室好奇心转变为几个重要应用中的实用机器。因此,ML/DL方法对于将物联网系统的安全性从仅仅促进设备之间的安全通信转变为基于安全的智能系统非常重要。这项工作的目标是提供ML /DL方法的全面调查,这些方法可用于为物联网系统开发增强的安全方法。提出了与固有或新引入的威胁相关的物联网安全威胁,并讨论了各种潜在的物联网系统攻击面以及与每个面相关的可能威胁。然后,我们全面回顾了用于物联网安全的ML/DL方法,并介绍了每种方法的机会、优点和缺点。我们讨论了将ML/DL应用于物联网安全的机遇和挑战。这些机遇和挑战可以作为未来潜在的研究方向。
2018-07-29 cs.CR cs.LG cs.NI
Adversarial Security Attacks and Perturbations on Machine Learning and Deep Learning Methods
Southern New Hampshire University(南新罕布什尔大学)
不断增长的大数据和新兴的人工智能(AI)需要使用机器学习(ML)和深度学习(DL)方法。网络安全也受益于ML和DL方法用于各种类型的应用。然而,这些方法容易受到安全攻击。攻击者可以利用学习模型的训练和测试数据,或者可以探索这些模型的工作原理,以发动未来的高级攻击。ML和DL领域内的对抗性安全攻击和扰动是最近的探索,安全研究人员和实践者对此表示了极大的兴趣。文献涵盖了ML和DL方法的不同对抗性安全攻击和扰动,这些攻击和扰动有自己的表现风格和优点。需要审查和巩固的知识,是理解这一日益集中和不断增长的研究课题;然而,是研究界目前的需求。在这篇综述论文中,我们专门针对网络安全领域的新研究人员,他们可能会寻求获得有关机器学习和深度学习模型和算法的一些基本知识,以及一些相关的对抗性安全攻击和扰动。
2019-07-17 cs.CR cs.LG stat.ML
A Challenge Obfuscating Interface for Arbiter PUF Variants against Machine Learning Attacks
安全对于物联网(IoT)至关重要。许多物联网设备资源受限,需要轻量级安全协议。物理不可克隆功能(PUF)利用集成电路的变化来产生对于各个设备唯一的响应,并且因此即使是制造商也不可再现。物理不可克隆功能可以用数千个晶体管的简单电路实现,并且可以低能耗操作,是资源受限的物联网设备的安全原语的有希望的候选者。仲裁器PUF(APUF)是一组基于延迟的PUF,其在资源需求方面是高度轻量的,但是遭受对机器学习攻击的高度敏感性。为了保护APUF变体免受机器学习攻击,我们引入了挑战输入接口,这会导致低资源开销。通过该接口,实验攻击研究表明,所有测试的PUF都大大提高了对机器学习攻击的抵抗能力,使得接口的APUF变体有希望成为安全关键应用的候选者。
2021-03-24 cs.CR
The Challenges in SDN/ML Based Network Security : A Survey
机器学习在网络安全领域越来越受欢迎,因为越来越多的网络设备被连接,恶意活动变得更加隐蔽,以及软件定义网络(SDN)等新技术的出现。基于机器学习的SDN安全模型位于应用层,与控制层进行通信,对整个SDN的路由/交换产生巨大影响。因此,损害模型是一个非常理想的目标。以前的调查是针对对抗性机器学习或SDN的一般漏洞进行的,但不是两者都有。通过对最新的基于ML的SDN安全应用的研究,以及对ML/SDN特定漏洞以及ML上常见攻击方法的研究,本文作为一项独特的调查,为基于ML的SDN安全应用的更安全的开发过程提供了一个案例。
2018-04-14 cs.CR
Threats, Vulnerabilities, and Controls of Machine Learning Based Systems: A Survey and Taxonomy
National Institute of Advanced Industrial Science and Technology (AIST)(日本产业技术综合研究所);Sumitomo Electric Industries, Ltd.(住友电气工业株式会社)
在这篇文章中,我们提出了人工智能安全分类系统化的威胁,漏洞和基于机器学习(ML)的系统的安全控制的知识。我们首先对基于ML的系统的攻击所造成的损害进行分类,定义ML特定的安全性,并讨论其特点。接下来,我们列举所有相关资产和利益相关者,并为ML特定的威胁提供一个通用分类。然后,我们通过对最近文献的广泛回顾,收集了针对ML特定威胁的各种安全控制措施。最后,我们对基于ML的系统的漏洞和控制进行了分类,这些漏洞和控制是根据系统整个生命周期中的每个脆弱资产来进行的。
2023-01-19 cs.AI cs.CR cs.LG
A Review of Machine Learning-based Security in Cloud Computing
Institute for Intelligent Systems Research and Innovation (IISRI), Deakin University(迪肯大学智能系统研究与创新研究所);Swinburne University of Technology(斯威本科技大学);Harvard University(哈佛大学)
本文综述机器学习在云计算安全中的最新研究,评估多种 ML 算法的特性、有效性、优势与局限,以呈现该领域现状与未来可能。
2023-09-10 cs.AI cs.CR cs.LG
SmartX Intelligent Sec: A Security Framework Based on Machine Learning and eBPF/XDP
本文提出 SmartX Intelligent Sec 智能安全框架,结合 eBPF/XDP 的高效数据包捕获与恶意流量过滤能力及 BiLSTM 威胁检测,实现现代 ICT 基础设施的实时自动化安全防护。
2024-10-26 cs.CR
Machine learning on knowledge graphs for context-aware security monitoring
Siemens Technology(西门子技术)
针对现有入侵检测方法告警数量多、相关性不足的问题,研究了知识图谱机器学习在入侵检测中的应用,评估了一种链接预测方法,证实其可生成校准良好且可解释的告警,展现了关系机器学习的应用潜力。
2021-05-18 cs.AI cs.CR cs.LG
TinyML Security: Exploring Vulnerabilities in Resource-Constrained Machine Learning Systems
Harvard University(哈佛大学);University of Southern California(南加利福尼亚大学);Draper Laboratory(德雷珀实验室)
本文首次全面调查TinyML安全威胁,提出设备分类法并区分IoT、EdgeML和TinyML,列出攻击向量并评估威胁级别与防御措施,强调需为TinyML量身定制专门安全解决方案。
2024-11-11 cs.CR cs.LG
Tailoring the Cyber Security Framework: How to Overcome the Complexities of Secure Live Virtual Machine Migration in Cloud Computing
本文提出了一种新的安全实时虚拟机迁移框架,通过使用虚拟可信平台模块实例来提高从一个虚拟机到同一平台上的另一个虚拟机的迁移过程的完整性。拟议的框架,被称为Kororandum,是在公共基础设施即服务云计算环境上设计和开发的,并在相同的硬件组件(输入/输出,中央处理器,内存)和相同的管理程序(Xen)上同时运行;然而,在实施Kororandum之前需要评估参数的组合。在传统的分布式计算环境中,Kororecast的实现是不可行的。它需要具有高性能功能的固定资源,并通过高速、可靠的网络连接。确定了以下研究目标以识别云系统中的实时虚拟机迁移的完整性特征:了解与云计算、虚拟可信平台模块、虚拟化、实时虚拟机迁移和管理程序相关的安全问题;识别所提出的框架的需求,包括与不同管理程序之间的实时虚拟机迁移相关的需求;设计并验证所提出的框架的模型、流程和架构特征;提出并实现云环境的端到端安全架构蓝图,提供保护机制的集成视图,然后验证所提出的框架,以提高实时VM迁移的完整性。其次是全面审查的评估系统架构和拟议的框架状态机。因此,本文的总体目标是从云架构和云计算的角度详细分析云计算安全问题。[摘要]
2021-10-09 cs.CR
Security Concerns on Machine Learning Solutions for 6G Networks in mmWave Beam Prediction
Simula Research Laboratory(西姆拉研究实验室);Norwegian University of Science and Technology(挪威科技大学);Old Dominion University(奥多明尼昂大学);Qatar University(卡塔尔大学)
6 G--第六代--是目前正在为无线通信系统开发的最新蜂窝技术。近年来,机器学习算法已广泛应用于医疗保健、交通、能源、自动驾驶汽车等各个领域。这些算法也被用于通信技术中,以改善系统在频谱使用、延迟和安全性方面的性能。随着机器学习技术的快速发展,特别是深度学习,在应用算法时考虑安全问题至关重要。虽然机器学习算法为6 G网络提供了显著的优势,但到目前为止,科学界通常忽略了人工智能(AI)模型的安全问题。然而,安全性也是AI算法的重要组成部分,这是因为AI模型本身可能会被攻击者毒害。本文提出了一种对抗性攻击的缓解方法,该方法针对使用对抗性学习的毫米波(mmWave)波束预测的拟议6 G机器学习模型。针对机器学习模型的对抗性攻击背后的主要思想是通过操纵用于6 G应用的训练深度学习模型来产生错误的结果,以进行毫米波波束预测。我们还介绍了对抗性学习缓解方法在具有快速梯度符号方法攻击的mmWave波束预测应用中用于6 G安全的性能。在攻击下,防御模型的均方误差(MSE)非常接近于未受攻击的非防御模型。
2021-07-23 cs.CR cs.LG eess.SP
A cryptographic approach to black box adversarial machine learning
Columbia University(哥伦比亚大学);Proof Trading(Proof Trading(交易证明))
我们提出了一种新的随机集成技术,具有可证明的安全保证,对黑箱传输攻击。我们的证明构造了一个新的安全问题,随机二进制分类器,这是更容易经验验证和减少从这个新模型的安全性的集成分类器的安全性。我们提供了我们的随机二进制分类器的安全性的实验证据,以及整体集成的对抗性准确性的经验结果,黑盒攻击。我们的构造关键地利用了多类到二进制的减少中隐藏的随机性。
2020-02-21 cs.CR cs.LG stat.ML
Effect of Imbalanced Datasets on Security of Industrial IoT Using Machine Learning
Washington University in St. Louis(圣路易斯华盛顿大学);Federal Institute of São Paulo(圣保罗联邦学院)
机器学习算法已被证明适用于保护IT系统的平台。然而,由于工业物联网(IIoT)和常规IT网络之间的根本差异,需要考虑特殊的性能评估。IIoT系统的漏洞和安全要求需要不同的考虑。在本文中,我们研究了为什么必须将机器学习集成到IIoT的安全机制中,以及它目前在性能方面的不足之处。在我们的实验设计中研究了与此相关的挑战和现实世界的考虑。我们使用类似于真实工业工厂的IIoT测试平台来展示我们的概念验证。
2019-12-02 cs.CR cs.DB cs.LG
Security for Machine Learning-based Software Systems: a survey of threats, practices and challenges
该综述针对基于机器学习的软件系统(MLBSS)的安全挑战,指出其全生命周期存在不同漏洞风险,现有研究多聚焦数据与模型,首次从多维度系统梳理MLBSS安全威胁,填补了相关领域综述空白。
2023-12-17 cs.CR cs.SE
SecFSM: Knowledge Graph-Guided Verilog Code Generation for Secure Finite State Machines in Systems-on-Chip
SecFSM通过构建FSM安全知识图谱并基于漏洞检索生成安全提示,引导大语言模型生成更安全的Verilog FSM代码,在25个安全测试用例上达到21/25的通过率。
2025-08-21 cs.AI cs.AR cs.CR
Machine Learning Security in Industry: A Quantitative Survey
EPFL(洛桑联邦理工学院);QuantPi(QuantPi公司);Eindhoven University of Technology(埃因霍温理工大学);CISPA Helmholtz Center of Information Security(CISPA亥姆霍兹信息安全中心);University of Cagliari(卡利亚里大学)
尽管有大量关于机器学习安全性的学术工作,但对机器学习系统在野外发生的攻击知之甚少。在本文中,我们报告了139个行业从业者的定量研究。我们分析攻击的发生和关注,并评估影响威胁感知和暴露的因素的统计假设。我们的研究结果揭示了对部署的机器学习的现实攻击。在组织层面上,虽然我们在样本中没有发现威胁暴露的预测因素,但实施防御的数量取决于暴露于威胁或成为目标的预期可能性。我们还提供了从业者对个人机器学习攻击相关性的回复的详细分析,揭示了复杂的问题,如不可靠的决策,商业信息泄露和模型中的偏见。最后,我们发现在个人层面上,关于机器学习安全性的先验知识会影响威胁感知。我们的工作为更多关于对抗性机器学习的实践研究铺平了道路,但也为监管和审计提供了见解。
2023-03-10 cs.CR cs.CY cs.LG
Fast Authentication and Progressive Authorization in Large-Scale IoT: How to Leverage AI for Security Enhancement?
安全配置已成为大规模物联网(IoT)系统最重要的设计考虑因素,因为它们在通过连接异构设备、机器和行业流程来支持各种垂直应用方面发挥着关键作用。传统的认证和授权方案由于依赖于静态数字机制和计算复杂性来提高安全级别,因此不足以应对新兴的物联网安全挑战。此外,针对不同层和链路段的隔离安全设计,而忽略了整体保护,导致级联的安全风险以及不断增长的通信延迟和开销。在本文中,我们设想了新的人工智能(AI)安全配置方法来克服这些问题,同时实现快速身份验证和渐进式授权。更具体地说,通过在网关处探索机器学习来识别资源受限设备的接入时隙或频率,开发了轻量级智能认证方法。在此基础上,提出了一种基于在线机器学习和信任管理的整体认证授权方法,用于分析复杂的动态环境,实现自适应的访问控制。这些新的人工智能支持的方法可以快速建立收发器之间的连接,并逐步增强安全性,从而减少通信延迟,并在大规模物联网中很好地控制安全风险。最后,我们概述了AI支持的安全配置的几个领域,以供未来研究。
2019-07-28 cs.CR