Machine Learning Based Solutions for Security of Internet of Things (IoT): A Survey
University of Guelph（圭尔夫大学）
在过去的十年中，物联网平台已经发展成为一个全球巨头，通过其不负责任的智能服务推进人类生活，抓住了我们日常生活的方方面面。由于易于访问以及对智能设备和网络的快速增长的需求，物联网现在面临着比以往任何时候都更多的安全挑战。现有的安全措施可用于保护物联网。然而，传统的技术是不一样的效率与进步繁荣以及不同的攻击类型和他们的复杂性。因此，下一代物联网系统需要强大的动态增强和最新的安全系统。机器学习（ML）已经注意到了巨大的技术进步，这为解决物联网中正在进行和未来的挑战打开了许多可能的研究窗口。为了检测攻击并识别智能设备和网络的异常行为，ML正被用作实现这一目的的强大技术。在这篇调查论文中，讨论了物联网的架构，在对ML进行全面的文献综述之后，从不同类型的可能攻击的角度探讨了物联网安全的重要性。此外，还提出了基于ML的物联网安全潜在解决方案，并讨论了未来的挑战。
2020-04-11 cs.CR cs.LG stat.ML
CyberLearning: Effectiveness Analysis of Machine Learning Security Modeling to Detect Cyber-Anomalies and Multi-Attacks
Chittagong University of Engineering & Technology（吉大港工程与技术大学）；Swinburne University of Technology（斯威本科技大学）
检测网络异常和攻击正在成为网络安全领域日益关注的问题。人工智能的知识，特别是机器学习技术可以用来解决这些问题。然而，基于学习的安全模型的有效性可能会因安全功能和数据特征而异。在本文中，我们提出了“CyberLearning”，一个基于机器学习的网络安全建模与相关特征选择，并对各种基于机器学习的安全模型的有效性进行了全面的实证分析。在我们的网络学习建模中，我们考虑了用于检测异常的二进制分类模型，以及用于各种类型网络攻击的多类分类模型。为了建立安全模型，我们首先使用流行的十种机器学习分类技术，例如朴素贝叶斯、逻辑回归、随机梯度下降、K-最近邻、支持向量机、决策树、随机森林、自适应提升、极限梯度提升以及线性判别分析。在此基础上，提出了基于人工神经网络的多隐藏层安全模型.这些基于学习的安全模型的有效性进行了检查，利用两个最流行的安全数据集，UNSW-NB 15和NSL-KDD进行了一系列的实验。总的来说，本文旨在通过我们在网络安全背景下的实验分析和发现，为数据驱动的安全建模提供参考。
2021-03-28 cs.CR cs.LG
The Threat of Adversarial Attacks on Machine Learning in Network Security -- A Survey
Carleton University（卡尔顿大学）
机器学习模型使许多决策支持系统变得更快、更准确、更高效。然而，与其他领域相比，机器学习在网络安全中的应用面临着更不成比例的主动对抗攻击威胁。这是因为网络安全中的机器学习应用程序（如恶意软件检测、入侵检测和垃圾邮件过滤）本身就具有对抗性。在攻击者和防御者之间的军备竞赛中，对手不断地用明确设计的输入来探测机器学习系统，以绕过系统并引起错误的预测。在本调查中，我们首先提供了机器学习技术、任务和深度的分类。然后，我们介绍了机器学习在网络安全应用中的分类。接下来，我们研究了网络安全中针对机器学习的各种对抗性攻击，并介绍了网络安全中对抗攻击的两种分类方法。首先，我们分类对抗攻击在网络安全的基础上的网络安全应用的分类。其次，我们将网络安全中的对抗攻击分为问题空间与特征空间的维度分类模型。然后，我们分析了各种防御对抗攻击的机器学习为基础的网络安全应用程序。最后，我们引入了一个对抗性风险网格图，并使用风险网格图评估了网络安全中针对机器学习的几种现有对抗攻击。我们还确定了每个攻击分类在对抗性风险网格图中的位置。
2023-03-21 cs.CR cs.LG cs.NI
On the (In)Security of Loading Machine Learning Models
本文评估了机器学习模型共享框架和枢纽的安全性，发现大多数仅部分应对安全风险，且存在0-day漏洞，表明安全加载仍非解决难题。
2026-03-12 cs.CR cs.LG
Security Matters: A Survey on Adversarial Machine Learning
University of Shanghai for Science and Technology（上海理工大学）；State Street Corporation（道富公司）；Guangzhou University（广州大学）；Fudan University（复旦大学）；Qingdao Binhai University（青岛滨海学院）
对抗性机器学习是一个快速发展的研究领域，它考虑了机器学习系统可能面临潜在的对抗性攻击者的情况，这些攻击者故意合成输入数据以使训练有素的模型出错。它总是涉及一个防御方，通常是一个分类器，以及一个旨在导致错误输出的攻击方。机器学习算法对抗性样本的研究最早是从信息安全领域开始的，它考虑的攻击方法种类要多得多。但是最近由深度学习社区推广的研究焦点强烈强调了正常输入上的“不可感知”扰动如何可能导致深度学习以假定的超人准确性产生戏剧性的错误。本文旨在全面介绍对抗性深度学习主题的一系列方面，包括其基础，典型的攻击和防御策略以及一些扩展研究。
2018-10-23 cs.CR cs.LG stat.ML
Security of Distributed Machine Learning: A Game-Theoretic Approach to Design Secure DSVM
New York University（纽约大学）
分布式机器学习算法在处理大型网络上的海量数据集方面发挥着重要作用。然而，信息和通信技术（ICT）对机器学习的日益依赖使其在本质上容易受到网络威胁。本文的工作旨在开发安全的分布式算法，以保护学习免受数据投毒和网络攻击。我们建立了一个博弈论的框架，以捕捉冲突的目标，学习者使用分布式支持向量机（SVM）和攻击者谁是能够修改训练数据和标签。我们开发了一个完全分布式的迭代算法来捕获学习者在每个节点上对对抗行为的实时反应。数值结果表明，分布式SVM在不同类型的攻击下容易失效，其影响与网络结构和攻击能力有很强的依赖性。
2020-04-26 cs.CR cs.LG stat.ML
AIJack: Let's Hijack AI! Security and Privacy Risk Simulator for Machine Learning
本文提出开源库AIJack，通过统一API集成多种攻击与防御方法，用于评估机器学习模型训练和部署中的安全与隐私风险。
2024-04-08 cs.CR cs.LG
MLSMM: Machine Learning Security Maturity Model
Blekinge Institute of Technology（布莱金厄理工学院）
本文提出机器学习安全成熟度模型（MLSMM），沿ML开发生命周期组织安全实践并建立三个成熟度级别，以促进工业界与学术界更紧密合作。
2023-06-28 cs.CR cs.LG cs.SE
Machine Learning for Offensive Security: Sandbox Classification Using Decision Trees and Artificial Neural Networks
SilentBreak Security（SilentBreak安全公司）；Brigham Young University（杨百翰大学）
机器学习在信息安全中的优点主要集中在加强防御上。然而，机器学习（ML）技术并不是为财力雄厚和拥有大量数据存储库的组织所保留的; ML的民主化导致使用ML来支持攻击性操作的安全团队数量增加。这里介绍的研究将探索我们的团队用来解决单个攻击性任务的两个模型，检测沙箱。使用通过网络钓鱼电子邮件收集的进程列表数据，我们将演示如何使用决策树和人工神经网络成功地对沙箱进行分类，从而避免不安全的执行。本文旨在对真正的进攻团队如何使用机器学习来支持进攻行动提供独特的见解。
2020-07-14 cs.CR cs.LG
Dos and Don'ts of Machine Learning in Computer Security
Technische Universität Berlin（柏林工业大学）；Technische Universität Braunschweig（布伦瑞克工业大学）；King’s College London（伦敦国王学院）；University College London（伦敦大学学院）；Royal Holloway, University of London（伦敦大学皇家霍洛威学院）；The Alan Turing Institute（艾伦图灵研究所）；KASTEL Security Research Labs（KASTEL安全研究实验室）；Karlsruhe Institute of Technology（卡尔斯鲁厄理工学院）
随着计算系统处理能力的不断增强和海量数据集可用性的不断提高，机器学习算法在许多不同领域取得了重大突破。这一发展影响了计算机安全，催生了一系列基于学习的安全系统的工作，例如恶意软件检测，漏洞发现和二进制代码分析。尽管潜力巨大，但安全领域的机器学习容易出现微妙的缺陷，这些缺陷会破坏其性能，并使基于学习的系统可能不适合安全任务和实际部署。在本文中，我们用批判的眼光看待这个问题。首先，我们确定在设计，实施和评估基于学习的安全系统的常见陷阱。我们对过去10年中来自顶级安全会议的30篇论文进行了研究，证实了这些陷阱在当前的安全文献中普遍存在。在实证分析中，我们进一步展示了个人陷阱如何导致不切实际的性能和解释，阻碍了对安全问题的理解。作为补救措施，我们提出了可行的建议，以支持研究人员在可能的情况下避免或减轻陷阱。此外，我们发现了机器学习在安全应用中存在的问题，并为进一步的研究提供了方向。
2021-11-30 cs.CR cs.LG
Confidential Machine Learning Computation in Untrusted Environments: A Systems Security Perspective
Sungkyunkwan University（成均馆大学）
随着机器学习（ML）技术和应用正在迅速改变许多计算领域，与ML相关的安全问题也不断出现。在系统安全领域，已经做出了许多努力来确保ML模型和数据的机密性。ML计算通常不可避免地在不受信任的环境中执行，并且需要复杂的多方安全要求。因此，研究人员利用可信执行环境（TEE）来构建机密的ML计算系统。我们通过对不可信环境中机密ML计算中的攻击向量和缓解进行分类，分析多方场景中的复杂安全需求，并总结机密ML实施中的工程挑战，进行了系统而全面的调查。最后，我们根据我们的研究提出了未来的研究方向。
2022-01-06 cs.CR cs.LG
SoK: Applying Machine Learning in Security - A Survey
Instart Logic, Inc.（Instart Logic公司）
应用机器学习（ML）解决安全领域问题的想法已经有近30年的历史了。随着信息和通信变得越来越普遍，越来越多的数据变得可用，出现了许多安全风险以及管理和减轻这些风险的需求。因此，应用和设计ML算法和安全系统的研究发展迅速，从入侵检测系统（IDS）和恶意软件分类到安全策略管理（SPM）和信息泄漏检查。本文系统地研究了2008-2015年学术出版物中将ML应用于安全领域的方法，算法和系统设计。98%的受访论文出现在6个排名最高的学术安全会议和1个以安全领域ML应用先驱而闻名的会议上。我们研究了广义系统设计，基本假设，测量和用例在积极的研究。我们的研究导致1）ML范式和安全领域的分类，以供未来探索和利用，以及2）详细介绍开放和即将到来的挑战的议程。根据我们的调查，我们还提出了一种观点，将安全视为博弈论问题，而不是批量训练的ML问题。
2016-11-10 cs.CR cs.LG
Security Aspects of Quantum Machine Learning: Opportunities, Threats and Defenses
The Pennsylvania State University（宾夕法尼亚州立大学）
在过去的几年里，量子计算经历了一个井喷式的增长。量子计算的一个令人兴奋的途径是量子机器学习（QML），它可以利用高维希尔伯特空间从有限的数据中学习更丰富的表示，从而可以有效地解决复杂的学习任务。尽管人们对QML的兴趣越来越大，但还没有太多的研究讨论QML的安全方面。在这项工作中，我们探讨了QML在硬件安全领域的未来可能的应用。本文还揭示了QML的安全漏洞和新出现的攻击模式，并提出了相应的对策。
2022-04-07 cs.CR cs.LG quant-ph
A Security Verification Framework of Cryptographic Protocols Using Machine Learning
NTT Computer & Data Science Laboratories（NTT计算机与数据科学实验室）；NTT Social Informatics Laboratories（NTT社会信息学实验室）
针对密码协议形式化验证耗时长、无判定性保证的问题，提出基于机器学习的安全验证框架，通过自动生成带标签数据集和适配协议结构的神经网络，实现线性时间复杂度的验证。
2023-04-26 cs.CR cs.LG
Security Evaluation of Support Vector Machines in Adversarial Environments
University of Cagliari（卡利亚里大学）；Universität Potsdam（波茨坦大学）；IBM Research（IBM研究院）
支持向量机（SVM）是安全应用中最流行的分类技术之一，如恶意软件检测、入侵检测和垃圾邮件过滤。然而，如果要将SVM纳入现实世界的安全系统，它们必须能够应对可能误导学习算法（中毒）、逃避检测（逃避）或获取有关其内部参数（隐私泄露）的信息的攻击模式。本章的主要贡献有两个方面。首先，我们介绍了一个正式的一般框架的机器学习系统的安全性的经验评估。其次，根据我们的框架，我们证明了规避，中毒和隐私攻击的支持向量机在现实世界中的安全问题的可行性。对于每种攻击技术，我们评估其影响，并讨论是否（以及如何）可以通过支持向量机的对手感知设计来反击。我们的实验很容易重现，这要归功于我们在公共存储库上提供的开源代码以及所有使用的数据集。
2014-01-30 cs.CR cs.LG
A Dynamic-Adversarial Mining Approach to the Security of Machine Learning
University of Louisville（路易斯维尔大学）；Huai Hai Institute of Technology（淮海工学院）
在动态的现实世界环境中操作需要分类器的前瞻性思维和对抗意识设计，而不仅仅是将模型拟合到训练数据。在这种情况下，有必要使分类器- a）更难逃避，b）更容易检测数据分布随时间的变化，c）能够重新训练并从模型退化中恢复。虽然机器学习的安全性方面的大多数工作都集中在规避阻力（a）问题上，但在对攻击（b和c）做出反应方面的工作很少。此外，虽然流数据研究集中在对数据分布变化做出反应的能力上，但他们通常对安全问题采取敌对的不可知论观点。这使得它们容易受到对抗性活动的影响，这是为了逃避概念漂移检测机制本身。在本文中，我们分析了机器学习的安全性，从动态和对抗意识的角度。限制性一类分类器模型，复杂的学习模型和基于随机化的集成，现有的技术被证明是短视的，因为他们接近安全作为一个静态的任务。这些方法不适合动态环境，因为它们向对手泄漏了过多的信息，对手随后可以发起与良性数据无法区分的攻击。基于经验脆弱性分析，针对复杂的对手，一种新的特征重要性隐藏方法的分类器设计。所提出的设计，确保未来的攻击分类器可以检测和恢复。拟议的工作提出了动机，作为一个蓝图，在动态对抗挖掘领域的未来工作，它结合了从流数据采掘，对抗性学习和网络安全的经验教训。
2018-03-24 cs.CR cs.LG stat.ML
I'm Sorry Dave: How the old world of personnel security can inform the new world of AI insider risk
Coventry University（考文垂大学）；The Alan Turing Institute（阿兰·图灵研究所）
本文指出AI内部风险与传统人员安全缺乏互动，主张将应对人类内部人员的成熟概念与方法迁移到AI内部风险管理中。
2025-04-05 cs.CR cs.CY cs.LG
TinyML Security: Exploring Vulnerabilities in Resource-Constrained Machine Learning Systems
Harvard University（哈佛大学）；University of Southern California（南加利福尼亚大学）；Draper Laboratory（德雷珀实验室）
本文首次全面调查TinyML安全威胁，提出设备分类法并区分IoT、EdgeML和TinyML，列出攻击向量并评估威胁级别与防御措施，强调需为TinyML量身定制专门安全解决方案。
2024-11-11 cs.CR cs.LG
Machine Learning in Network Security Using KNIME Analytics
机器学习对我们的日常生活产生了越来越大的影响。这个领域不断发展并扩展到新的领域。机器学习基于人工智能的实现，该实现使系统能够在没有显式编程的情况下从实验中自动学习和增强。机器学习算法应用数学方程来分析数据集并基于数据集预测值。在网络安全领域，机器学习算法可用于在安全相关数据集上对入侵检测系统（IDS）进行训练和分析。在本文中，我们测试了不同的机器学习算法来分析NSL-KDD数据集使用KNIME分析。
2019-11-18 cs.CR
Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop 2020
研讨会将重点讨论人工智能在网络安全问题中的应用。AICS 2020的重点将是在网络安全问题的背景下进行人机合作，并将专门探索人类操作员与人工智能技术之间的合作。该研讨会将涉及人工智能的适用领域，如机器学习，博弈论，自然语言处理，知识表示，自动化和辅助推理以及人机交互。此外，网络安全应用领域，特别强调人机合作的表征和部署将是重点。
2020-06-10 cs.AI cs.CR cs.HC
IoT Security Techniques Based on Machine Learning
将各种设备集成到网络中以提供先进和智能服务的物联网（IoT）必须保护用户隐私并应对诸如欺骗攻击、拒绝服务攻击、干扰和窃听等攻击。在这篇文章中，我们研究了物联网系统的攻击模型，并回顾了基于机器学习技术的物联网安全解决方案，包括监督学习，无监督学习和强化学习。我们专注于基于机器学习的物联网认证、访问控制、安全卸载和恶意软件检测方案，以保护数据隐私。在本文中，我们讨论了在实际物联网系统中实施这些基于机器学习的安全方案所需要解决的挑战。
2018-01-19 cs.CR
A Deep Belief Network Based Machine Learning System for Risky Host Detection
Symantec Corporation（赛门铁克公司）；Duke University（杜克大学）；Indiana University（印第安纳大学）
为了确保企业的网络安全，通常SIEM（安全信息和事件管理）系统已经到位，以规范来自不同预防技术的安全事件并标记警报。安全运营中心（SOC）的分析人员会调查警报，以确定它是否真的是恶意的。然而，一般来说，警报的数量是压倒性的，其中大多数是误报，超过了SOC处理所有警报的能力。因此，有必要尽可能地降低假阳性率。虽然大多数以前的研究集中在网络入侵检测，我们专注于风险检测，并提出了一个智能的深度信念网络机器学习系统。该系统利用真实企业环境中的警报信息、各种安全日志和分析师的调查结果来标记有很高可能性被破坏的主机。文本挖掘和基于图的方法被用来生成目标和创建机器学习的特征。在实验中，将深度信念网络与其他机器学习算法进行了比较，包括多层神经网络、随机森林、支持向量机和逻辑回归。实际企业数据的结果表明，深度信念网络机器学习系统比其他算法更好地解决我们的问题，并且比当前基于规则的系统有效六倍。我们还在一个真实的企业生产环境中实现了从数据汇集、标签创建、特征工程到主机评分生成的整个系统。
2017-12-29 cs.CR cs.LG stat.ML
A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security
Qatar University（卡塔尔大学）；Temple University（天普大学）；University of Idaho（爱达荷大学）
物联网（IoT）集成了数十亿个智能设备，这些设备可以在最少的人为干预下相互通信。它是计算计算史上发展最快的领域之一，预计到2020年底将有500亿台设备。一方面，物联网在增强几个可以提高生活质量的现实智能应用方面发挥着至关重要的作用。另一方面，物联网系统的交叉性和部署此类系统所涉及的多学科组件带来了新的安全挑战。为物联网设备及其固有漏洞实施加密、身份验证、访问控制、网络安全和应用程序安全等安全措施是无效的。因此，应加强现有的安全方法，以有效地保护物联网系统。机器学习和深度学习（ML/DL）在过去几年中取得了长足的进步，机器智能已经从实验室好奇心转变为几个重要应用中的实用机器。因此，ML/DL方法对于将物联网系统的安全性从仅仅促进设备之间的安全通信转变为基于安全的智能系统非常重要。这项工作的目标是提供ML /DL方法的全面调查，这些方法可用于为物联网系统开发增强的安全方法。提出了与固有或新引入的威胁相关的物联网安全威胁，并讨论了各种潜在的物联网系统攻击面以及与每个面相关的可能威胁。然后，我们全面回顾了用于物联网安全的ML/DL方法，并介绍了每种方法的机会、优点和缺点。我们讨论了将ML/DL应用于物联网安全的机遇和挑战。这些机遇和挑战可以作为未来潜在的研究方向。
2018-07-29 cs.CR cs.LG cs.NI
Survey of Security and Data Attacks on Machine Unlearning In Financial and E-Commerce
本文综述了金融与电商场景下针对机器遗忘的隐私与安全攻击，并系统梳理了差分隐私、密码学保证和零知识证明等防御策略，以保障数据完整性与模型安全。
2024-09-29 cs.CR cs.LG
NeuroAttack: Undermining Spiking Neural Networks Security through Externally Triggered Bit-Flips
Technische Universität Wien（维也纳工业大学）；Politecnico di Torino（都灵理工大学）；Université Polytechnique Hauts-De-France（上法兰西理工大学）
由于其经过验证的效率，机器学习系统被部署在广泛的复杂现实问题中。更具体地说，脉冲神经网络（SNN）成为机器学习系统中准确性、资源利用率和能效挑战的一个有前途的解决方案。虽然这些系统正在成为主流，但它们存在固有的安全性和可靠性问题。在本文中，我们提出了神经攻击，一种跨层攻击，通过利用低级别的可靠性问题，通过高级别的攻击威胁SNN的完整性。特别是，我们通过精心制作的对抗性输入噪声触发基于故障注入的鬼鬼祟祟的硬件后门。我们对深度神经网络（DNN）和SNN的研究结果显示，最先进的机器学习技术面临严重的完整性威胁。
2020-05-16 cs.CR cs.LG stat.ML
Machine Learning-Assisted Intrusion Detection for Enhancing Internet of Things Security
University of New Mexico（新墨西哥大学）；Florida International University（佛罗里达国际大学）；Florida Atlantic University（佛罗里达大西洋大学）；University of Washington（华盛顿大学）；Islamic Azad University（伊斯兰阿扎德大学）
本文调研了物联网安全领域基于机器学习的入侵检测策略最新研究，梳理相关研究并分类，指出现有研究空白与框架局限，为未来研究提供参考。
2024-10-06 cs.CR cs.LG
AdversariaLib: An Open-source Library for the Security Evaluation of Machine Learning Algorithms Under Attack
University of Cagliari（卡利亚里大学）
我们提出了AdversariaLib，一个开源的Python库，用于机器学习（ML）对精心定位的攻击的安全评估。它支持迄今为止在对抗学习文献中提出的几种攻击的实现，允许评估各种ML算法，在多个平台上运行，并启用多处理。该库具有模块化架构，易于使用，并通过实施新颖的攻击和对策进行扩展。它依赖于其他广泛使用的开源ML库，包括scikit-learn和FANN。分类算法在C/C ++中实现和优化，允许对模拟攻击进行快速评估。该软件包在GNU通用公共许可证v3下分发，可以在www.example.com下载。
2016-11-15 cs.CR cs.LG
Security and Privacy in IoT Using Machine Learning and Blockchain: Threats & Countermeasures
University of Technology Sydney（悉尼科技大学）；Macquarie University（麦考瑞大学）；University of South Wales（南威尔士大学）；Federation University（联邦大学）
由于物联网（IoT）设备在众多应用中的参与，用户的安全和隐私已经成为重要的关注点。网络威胁正以爆炸性的速度增长，使得现有的安全和隐私措施不足。因此，互联网上的每个人都是黑客的产品。因此，机器学习（ML）算法用于从大型复杂数据库中生成准确的输出，其中生成的输出可用于预测和检测基于物联网的系统中的漏洞。此外，区块链（BC）技术在现代物联网应用中越来越流行，以解决安全和隐私问题。已经对ML算法或BC技术进行了几项研究。然而，这些研究使用ML算法或BC技术针对安全或隐私问题，因此需要对近年来使用ML算法和BC技术解决安全和隐私问题的努力进行综合调查。在本文中，我们总结了过去几年（从2008年到2019年）在物联网领域使用ML算法和BC技术解决安全和隐私问题的研究工作。首先，我们讨论并分类了过去12年来物联网领域报告的各种安全和隐私威胁。然后，我们对物联网领域基于ML算法和BC技术的安全和隐私工作的文献进行了分类。最后，我们确定并阐明了使用ML算法和BC技术解决物联网领域安全和隐私问题的几个挑战和未来研究方向。
2020-08-06 cs.CR cs.LG
The Dark Side: Security Concerns in Machine Learning for EDA
Hong Kong University of Science and Technology（香港科技大学）；Duke University（杜克大学）
随着集成电路复杂性的不断提高，人们迫切需要通过新的电子设计自动化（EDA）方法来提高设计效率。近年来，机器学习（ML）技术已经实现了许多前所未有的高效EDA方法。尽管ML在电路设计中显示出巨大的潜力，但其安全问题的阴暗面却很少被讨论。本文对我们在ML for EDA中观察到的所有安全问题进行了全面而公正的总结。其中许多被这一领域的从业人员隐藏或忽视。在本文中，我们首先提供了我们的分类来定义四种主要类型的安全问题，然后我们分析了不同的应用场景和特殊属性的ML EDA。在此基础上，我们提出了我们的详细分析，每一个安全问题的实验。
2022-03-20 cs.CR cs.LG cs.SY
SafeML: Safety Monitoring of Machine Learning Classifiers through Statistical Difference Measure
University of Hull（赫尔大学）；Fraunhofer Institute for Experimental Software Engineering, IESE（弗劳恩霍夫实验软件工程研究所（IESE））；Fraunhofer-Gesellschaft（弗劳恩霍夫协会）；APD Communications（APD通信公司）；Nuremberg Tech（纽伦堡应用技术大学）
确保机器学习（ML）的安全性和可解释性是一个越来越相关的主题，因为数据驱动的应用程序冒险进入安全关键的应用领域，传统上致力于高安全标准，不满足于其他不可访问的黑盒系统的独家测试方法。特别是安全与安保之间的相互作用是一个核心挑战，因为违反安全规定可能导致安全受到损害。本文对在ML系统运行期间适用的单一保护概念中解决安全性和安全性的贡献是基于经验累积分布函数（ECDF）的距离测量对数据驱动系统的行为和操作上下文进行主动监控。我们研究了抽象数据集（XOR，Spiral，Circle）和当前用于模拟网络流量的入侵检测的特定安全数据集（CICIDS 2017），使用分布式移位检测措施，包括Kolmogorov-Smirnov，Kuiper，Anderson-Darling，Wasserstein和混合Wasserstein-Anderson-Darling措施。我们的初步研究结果表明，该方法可以提供一个基础，检测是否ML组件的应用程序上下文是有效的安全性。我们的初步代码和结果可以在https://github.com/ISorokos/SafeML上找到。
2020-05-27 cs.CR cs.LG stat.ML
Comparison between security majors in virtual machine and linux containers
虚拟化在21世纪初开始在信息技术领域获得关注，当时管理资源分布对开发人员来说是一项艰巨的任务。因此，像VMWare、Hyper V（hypervisor）这样的工具开始侵入不同操作系统上的软件存储库。VMWare和Hyper V可以支持多个虚拟机在其上运行，每个虚拟机都有自己的隔离环境。由于这种隔离，虚拟机（VM）的安全性方面与物理机（在硬件上具有专用操作系统）没有太大区别。Linux容器（LXC）领域的进步已经将虚拟化带到了一个完全不同的水平，其中各种应用程序的资源利用率得到了进一步优化。但是容器安全性在今天的研究人员中已经占据了首要地位，本文倾向于提供一个关于容器和虚拟机安全性比较的简要概述。
2015-07-28 cs.CR
Security Concerns on Machine Learning Solutions for 6G Networks in mmWave Beam Prediction
Simula Research Laboratory（西姆拉研究实验室）；Norwegian University of Science and Technology（挪威科技大学）；Old Dominion University（奥多明尼昂大学）；Qatar University（卡塔尔大学）
6 G--第六代--是目前正在为无线通信系统开发的最新蜂窝技术。近年来，机器学习算法已广泛应用于医疗保健、交通、能源、自动驾驶汽车等各个领域。这些算法也被用于通信技术中，以改善系统在频谱使用、延迟和安全性方面的性能。随着机器学习技术的快速发展，特别是深度学习，在应用算法时考虑安全问题至关重要。虽然机器学习算法为6 G网络提供了显著的优势，但到目前为止，科学界通常忽略了人工智能（AI）模型的安全问题。然而，安全性也是AI算法的重要组成部分，这是因为AI模型本身可能会被攻击者毒害。本文提出了一种对抗性攻击的缓解方法，该方法针对使用对抗性学习的毫米波（mmWave）波束预测的拟议6 G机器学习模型。针对机器学习模型的对抗性攻击背后的主要思想是通过操纵用于6 G应用的训练深度学习模型来产生错误的结果，以进行毫米波波束预测。我们还介绍了对抗性学习缓解方法在具有快速梯度符号方法攻击的mmWave波束预测应用中用于6 G安全的性能。在攻击下，防御模型的均方误差（MSE）非常接近于未受攻击的非防御模型。
2021-07-23 cs.CR cs.LG eess.SP
Introducing the truly chaotic finite state machines and their applications in security field
作者在以前的研究论文中介绍了真正的混沌有限机器。在这门学科的艺术状态，包括所有以前的数学调查，提供，解释如何有限状态机可以表现混乱的轻微改变他们的输入。这种行为是解释使用图灵机和形式化感谢一个特殊的家庭离散动力系统称为混沌迭代。最后给出了散列函数领域的一个说明性例子。
2017-06-25 cs.CR
Mental Models of Adversarial Machine Learning
QuantPi；University of Cagliari（卡利亚里大学）；Pluribus One
尽管机器学习在实践中得到了广泛应用，但从业者对潜在安全挑战的理解却知之甚少。在这项工作中，我们缩小了这一巨大的差距，并提供了一个定性研究，重点是开发人员的机器学习管道和潜在的脆弱组件的心理模型。类似的研究有助于其他安全领域发现根本原因或改善风险沟通。我们的研究揭示了从业者的机器学习安全心理模型的两个\facets。首先，从业者经常将机器学习安全性与不直接与机器学习相关的威胁和防御混淆。其次，与大多数学术研究相反，我们的参与者认为机器学习的安全性不仅与单个模型有关，而且与由多个组件组成的整个工作流程有关。结合我们的其他发现，这两个方面为机器学习安全性的心理模型提供了基础，并对将对抗性机器学习集成到企业工作流程、\new{decreasing practitioners' reported uncertainty}和机器学习安全性的适当监管框架中具有影响。
2022-06-29 cs.AI cs.CR
A New Secure Network Architecture to Increase Security Among Virtual Machines in Cloud Computing
云计算是一种新的计算模式，它提供可扩展性、灵活性和按需服务。虚拟化是云计算的主要组成部分之一，但不幸的是，这项技术存在许多安全漏洞。本文的主要目的是提出一种新的安全架构的虚拟网络机，以提高虚拟机之间的安全性在虚拟化环境（Xen作为一个案例研究）。首先，我们揭示了基于Xen Hypervisor的不同网络模式，然后我们分析了这种环境中的漏洞和安全问题。最后，我们详细介绍了新的安全体系结构，并展示了它如何面对主要的安全网络攻击。
2018-09-13 cs.CR cs.DC cs.NI
Machine Learning Security in Industry: A Quantitative Survey
EPFL（洛桑联邦理工学院）；QuantPi（QuantPi公司）；Eindhoven University of Technology（埃因霍温理工大学）；CISPA Helmholtz Center of Information Security（CISPA亥姆霍兹信息安全中心）；University of Cagliari（卡利亚里大学）
尽管有大量关于机器学习安全性的学术工作，但对机器学习系统在野外发生的攻击知之甚少。在本文中，我们报告了139个行业从业者的定量研究。我们分析攻击的发生和关注，并评估影响威胁感知和暴露的因素的统计假设。我们的研究结果揭示了对部署的机器学习的现实攻击。在组织层面上，虽然我们在样本中没有发现威胁暴露的预测因素，但实施防御的数量取决于暴露于威胁或成为目标的预期可能性。我们还提供了从业者对个人机器学习攻击相关性的回复的详细分析，揭示了复杂的问题，如不可靠的决策，商业信息泄露和模型中的偏见。最后，我们发现在个人层面上，关于机器学习安全性的先验知识会影响威胁感知。我们的工作为更多关于对抗性机器学习的实践研究铺平了道路，但也为监管和审计提供了见解。
2023-03-10 cs.CR cs.CY cs.LG
Towards the Science of Security and Privacy in Machine Learning
Pennsylvania State University（宾夕法尼亚州立大学）；University of Michigan（密歇根大学）
近年来，机器学习（ML）的进步已经实现了一系列令人眼花缭乱的应用，如数据分析、自治系统和安全诊断。机器学习现在是无处不在的-新的系统和模型正在部署在每一个领域可以想象，导致快速和广泛的部署基于软件的推理和决策。越来越多的人认识到ML暴露了软件系统中的新漏洞，但技术社区对这些漏洞的性质和程度的理解仍然有限。我们将最近关于ML安全和隐私的发现系统化，重点关注在这些系统上发现的攻击和迄今为止精心制作的防御。我们阐述了ML的全面威胁模型，并在对抗框架内对攻击和防御进行分类。从ML和安全社区的工作中产生的关键见解被确定，方法的有效性与ML算法的结构元素和用于训练它们的数据有关。最后，我们正式探索了模型准确性和对抗性操纵弹性之间的对立关系。通过这些探索，我们表明，模型的复杂性，准确性和弹性之间存在（可能不可避免的）紧张关系，必须针对使用它们的环境进行校准。
2016-11-11 cs.CR cs.LG
Enhancing IoT Security and Privacy with Trusted Execution Environments and Machine Learning
针对物联网设备向不可信云传输敏感信息的安全问题，提出将外设驱动隔离在可信执行环境中、用安全机器学习分类过滤敏感数据的方案，提升物联网系统的安全与隐私性。
2023-05-04 cs.CR
Software Repositories and Machine Learning Research in Cyber Security
Department of Computer Science, University of Wisconsin-Eau Claire（威斯康星大学欧克莱尔分校计算机科学系）
本文研究如何利用 CAPEC、CVE 等安全仓库及监督机器学习方法，在软件需求阶段自动识别漏洞，以提升安全软件开发能力。
2023-11-01 cs.CR cs.LG cs.SE
A New Security Boundary of Component Differentially Challenged XOR PUFs Against Machine Learning Modeling Attacks
Texas Tech University（德克萨斯理工大学）；University of Jeddah（吉达大学）；Prince Sattam Bin Abdulaziz University（萨塔姆·本·阿卜杜勒阿齐兹亲王大学）
物理不可克隆功能（PUF）是资源受限的网络节点有前途的安全原语。XOR Arbiter PUF（XOR PUF或XPUF）是一种经过深入研究的PUF，旨在提高Arbiter PUF的安全性，可能是最轻量级的基于延迟的PUF。最近，发现了非常强大的机器学习攻击方法，并且能够轻松破解大型XPUF，这些XPUF对于早期的机器学习攻击方法具有高度安全性。协同差异挑战的XPUF（CDC-XPUF）是具有接收不同挑战的不同分量PUF的XPUF。研究表明，它们比传统的XPUF更安全，可以抵御机器学习攻击，而传统的XPUF组件也面临同样的挑战。但这些研究都是基于早期的机器学习攻击方法，因此目前尚不清楚CDC-XPUF在最近发现的强大攻击方法下是否仍然安全。在本文中，两个目前最强大的两个机器学习方法攻击XPUFs的适应通过微调的参数的两种方法的CDC-XPUFs。利用模拟的PUF数据和在现场可编程门阵列（FPGA）上实现的PUF生成的硅数据进行了攻击实验，实验结果表明，在适应的新攻击方法下，某些电路参数值的先前安全的CDC-XPUF不再安全，而更多的其他电路参数值的CDC-XPUF仍然安全。因此，我们的实验攻击研究重新定义了PUF电路参数空间的安全区域和不安全区域之间的边界，为PUF制造商和物联网安全应用开发人员选择具有安全参数值的PUF提供了有价值的信息。
2022-06-02 cs.CR cs.LG
DaemonSec: Examining the Role of Machine Learning for Daemon Security in Linux Environments
University of Nebraska at Omaha（内布拉斯加大学奥马哈分校）
DaemonSec通过访谈研究探讨机器学习在Linux守护进程安全中的应用，揭示了行业对ML驱动安全的接受度、可行性和信任问题，以及非安全角色的安全意识不足和补丁延迟带来的风险。
2026-02-23 cs.CR cs.HC
Risk Management Framework for Machine Learning Security
Silicon Austria Labs（奥地利硅谷实验室）；Graz University of Technology（格拉茨工业大学）；HP Labs（惠普实验室）；HP-NTU Digital Manufacturing Corporate Lab（惠普-南洋理工大学数字制造企业实验室）
针对机器学习模型的对抗攻击已经成为学术界和工业界高度研究的主题。这些攻击与传统的安全威胁一起，可能会危及依赖于机器学习模型使用的组织资产的机密性、完整性和可用性。虽然预测可能随着时间的推移而发展的新攻击类型并不容易，但可以评估与使用机器学习模型相关的风险，并设计有助于最大限度地降低这些风险的措施。在本文中，我们概述了一个新的框架，以指导依赖于机器学习模型的组织的风险管理过程。首先，我们在数据域、模型域和安全控制域中定义评估因子（EF）集。我们开发了一种方法，采取资产和任务的重要性，设置权重的EFs的贡献的机密性，完整性和可用性，并根据实施分数的EFs，它确定在组织的整体安全状态。根据这些信息，可以确定所实施的安全措施中的薄弱环节，并找出哪些措施可能完全缺失。我们相信我们的框架可以帮助解决与组织中使用机器学习模型相关的安全问题，并指导他们专注于保护其资产的适当安全措施。
2020-12-09 cs.AI cs.CR
Effect of Imbalanced Datasets on Security of Industrial IoT Using Machine Learning
Washington University in St. Louis（圣路易斯华盛顿大学）；Federal Institute of São Paulo（圣保罗联邦学院）
机器学习算法已被证明适用于保护IT系统的平台。然而，由于工业物联网（IIoT）和常规IT网络之间的根本差异，需要考虑特殊的性能评估。IIoT系统的漏洞和安全要求需要不同的考虑。在本文中，我们研究了为什么必须将机器学习集成到IIoT的安全机制中，以及它目前在性能方面的不足之处。在我们的实验设计中研究了与此相关的挑战和现实世界的考虑。我们使用类似于真实工业工厂的IIoT测试平台来展示我们的概念验证。
2019-12-02 cs.CR cs.DB cs.LG
Machine and Deep Learning for IoT Security and Privacy: Applications, Challenges, and Future Directions
Institute of Information and Communication Technology (IICT), Bangladesh University of Engineering and Technology (BUET)（孟加拉国工程技术大学信息与通信技术研究所）
物联网（IoT）的集成将许多智能设备连接起来，最大限度地减少了人为干扰，可以相互交互。物联网正在计算机科学领域迅速兴起。然而，部署此类计划所涉及的多学科元素和物联网系统的交叉设计带来了新的安全问题。无效的是安全协议的实施，即，物联网系统的认证、加密、应用程序安全和接入网络以及它们在安全方面的基本弱点。当前的安全方法也可以得到改进，以有效保护物联网环境。近年来，深度学习（DL）/机器学习（ML）在各种关键实现中取得了显著进展。因此，DL/ML方法对于将物联网系统保护从简单地实现物联网系统之间的安全联系转变为安全的智能系统至关重要。本文旨在对ML系统进行广泛的分析，并对DL方法的最新发展进行分析，以改进增强的物联网设备保护方法。另一方面，物联网证券在机器和深度学习方面的各种新见解说明了它如何帮助未来的研究。识别与新兴或基本威胁相关的物联网保护风险，以及未来的物联网设备攻击和与每个表面相关的可能威胁。然后，我们仔细分析了DL和ML物联网保护方法，并介绍了每种方法的优点、可能性和弱点。本次审查讨论了一些潜在的挑战和局限性。还包括DL/ML在物联网安全中的未来工作，建议和建议。
2022-10-24 cs.CR cs.LG cs.NI
On the Trade-Off Between Transparency and Security in Adversarial Machine Learning
University of Waterloo（滑铁卢大学）
本研究探讨对抗性机器学习中透明度与安全性的冲突，通过可迁移对抗样本攻击的实证与博弈论分析，发现防御者模型的模糊性有利，仅知晓防御状态就可能损害安全性，揭示两者权衡及博弈论的应用价值。
2025-11-14 cs.CR cs.GT cs.LG
A False Sense of Security? Revisiting the State of Machine Learning-Based Industrial Intrusion Detection
RWTH Aachen University（亚琛工业大学）；Fraunhofer FKIE（弗劳恩霍夫通信、信息处理与人机工程研究所）
基于异常的入侵检测通过对系统行为进行建模，并在出现异常时发出相应的警报，从而检测出对工业控制系统的新型或未知攻击。由于人工创建这些行为模型既繁琐又容易出错，因此研究重点集中在机器学习上，自动训练这些行为模型，检测率达到99%以上。然而，这些方法通常不仅在良性流量上训练，而且在攻击上训练，然后针对用于训练的相同类型的攻击进行评估。因此，它们在未知（未接受过训练）攻击上的实际真实表现仍不清楚。反过来，报告的基于机器学习的入侵检测近乎完美的检测率可能会产生虚假的安全感。为了评估这种情况并阐明基于机器学习的工业入侵检测的真正潜力，我们开发了一种评估方法，并从文献中检查了多种方法对未知攻击的性能（排除在训练之外）。我们的研究结果强调了检测未知攻击的无效性，对于某些类型的攻击，检测率下降到3.2%至14.7%之间。展望未来，我们提出了对基于机器学习的方法进行进一步研究的建议，以确保其检测未知攻击的能力的清晰度。
2022-05-18 cs.CR cs.LG
Machine Learning for Security in Vehicular Networks: A Comprehensive Survey
National University of Singapore（新加坡国立大学）
机器学习（ML）已经成为一种有吸引力的和可行的技术，为广泛的应用领域提供有效的解决方案。一个重要的应用领域是车载网络，其中基于ML的方法被发现是非常有用的，以解决各种问题。车辆节点和/或基础设施之间的无线通信的使用使其容易受到不同类型的攻击。在这方面，ML及其变体越来越受欢迎，以检测攻击并处理车辆通信中的各种安全问题。在本文中，我们提出了一个全面的调查ML为基础的技术在车辆网络中的不同安全问题。我们首先简要介绍车载网络和不同类型通信的基础知识。除了传统的车载网络，我们还考虑了现代车载网络架构。我们提出了一个分类的车辆网络中的安全攻击，并讨论了各种安全挑战和要求。我们将文献中开发的ML技术根据其在车辆网络应用中的使用进行分类。我们解释了这些ML技术在解决各种安全挑战方面的解决方案方法和工作原理，并提供了有见地的讨论。讨论了在车载网络中使用基于ML的方法的局限性和挑战。最后，我们在结束工作之前提出意见和经验教训。
2021-08-19 cs.CR cs.LG cs.NI
Artificial Intelligence and Machine Learning in 5G Network Security: Opportunities, advantages, and future research trends
Macquarie University（麦考瑞大学）；King Saud University（沙特国王大学）；Victoria University（维多利亚大学）
5G网络最近的技术和架构进步已经证明了它们的价值，因为部署已经在世界各地开始。从接入到核心网络的关键性能提升因素是关键使能网络功能的软件化、云化和虚拟化。随着网络的快速发展，系统中的风险、威胁和漏洞也随之而来。因此，确保端到端（E2 E）安全性成为一个至关重要的问题。人工智能（AI）和机器学习（ML）可以在针对各种各样的威胁的高效安全协议的设计、建模和自动化方面发挥至关重要的作用。AI和ML已经在不同领域证明了它们在分类、识别和自动化方面的有效性，并且具有更高的准确性。由于5G网络的主要卖点是更高的数据率和速度，因此很难使用典型/传统的保护措施来应对来自不同点的各种威胁。因此，AI和ML可以在保护高度数据驱动的软件化和虚拟化网络组件方面发挥核心作用。本文介绍了AI和ML驱动的5G网络安全应用，它们的含义和可能的研究方向。此外，概述了5G架构中用于威胁分类和异常检测的关键数据汇集点。
2020-07-09 cs.CR cs.LG
Practical Attacks on Machine Learning: A Case Study on Adversarial Windows Malware
University of Cagliari（卡利亚里大学）；Pluribus One（Pluribus One公司）；University of Genova（热那亚大学）
虽然机器学习容易受到对抗性示例的影响，但它仍然缺乏系统的程序和工具来评估其在不同应用环境中的安全性。在本文中，我们将讨论如何使用实际攻击开发机器学习的自动化和可扩展的安全评估，并报告Windows恶意软件检测的用例。
2022-07-12 cs.CR cs.LG
Malware Detection Module using Machine Learning Algorithms to Assist in Centralized Security in Enterprise Networks
Sardar Patel Institute of Technology（萨达尔·帕特尔技术学院）；University of Mumbai（孟买大学）
恶意软件在无数计算机用户的世界中非常丰富，他们不断面临来自互联网，本地网络和便携式驱动器等各种来源的威胁。恶意软件的风险可能从低到高，可能导致系统功能不正常，窃取数据甚至崩溃。恶意软件可以是病毒、蠕虫、木马形式的可执行文件或系统库文件，所有这些都旨在破坏系统的安全性并损害用户隐私。通常，防病毒软件基于签名定义系统，该系统从互联网上不断更新，从而跟踪已知的病毒。虽然这对于家庭用户可能足够了，但是来自新病毒的安全风险可能威胁整个企业网。本文提出了一种新的，更复杂的防病毒引擎，不仅可以扫描文件，但也建立知识和检测文件作为潜在的病毒。这是通过提取由各种正常和有害的可执行文件进行的系统API调用，并使用机器学习算法对文件进行分类，从而根据安全风险等级对文件进行排名来完成的。虽然这样的系统处理器很重，但是当集中使用来保护可能更容易受到这种威胁的企业网时，它非常有效。
2012-02-08 cs.CR cs.LG
Adversarial Machine Learning -- Industry Perspectives
Microsoft（微软公司）
根据对28家组织的采访，我们发现行业从业者没有配备战术和战略工具来保护、检测和应对对其机器学习（ML）系统的攻击。我们利用采访中的见解，并列举了在传统软件安全开发的背景下，在保护机器学习系统方面的差距。我们从两个角色的角度撰写本文：开发人员/ML工程师和安全事件响应者，他们的任务是在设计，开发和部署ML系统时保护ML系统。本文的目标是让研究人员在对抗ML时代修改和修改工业级软件的安全开发规范。
2021-03-19 cs.CR cs.CY cs.LG
Physical Layer Authentication and Security Design in the Machine Learning Era
本文探讨了机器学习在无线物理层安全中的应用，总结了定制化ML算法，并回顾了PHY认证与安全传输的最新进展及基于神经网络的优化方法，最后指出了相关挑战与机遇。
2023-05-16 cs.CR cs.IT math.IT
Resilient Machine Learning for Networked Cyber Physical Systems: A Survey for Machine Learning Security to Securing Machine Learning for CPS
Howard University（霍华德大学）
网络物理系统（CPS）的特点是它们能够整合物理和信息或网络世界。它们在关键基础设施中的部署显示了改变世界的潜力。然而，利用这种潜力受到其关键性质以及网络攻击对人类，基础设施和环境的深远影响的限制。CPS对网络问题的吸引力来自通过无线通信介质将信息从传感器发送到执行器的过程，从而扩大了攻击面。传统上，CPS安全性已经从使用密码学和其他访问控制技术防止入侵者获得对系统的访问的角度进行了研究。因此，大多数研究工作都集中在CPS中的攻击检测上。然而，在一个对手不断增加的世界里，完全防止CPS遭受对抗攻击变得越来越困难，因此需要专注于使CPS具有弹性。弹性CPS旨在承受中断并在对手的操作下保持功能。为构建弹性CPS而探索的主要方法之一依赖于机器学习（ML）算法。然而，从最近对对抗性ML的研究中，我们认为用于保护CPS的ML算法本身必须具有弹性。因此，本文旨在全面调查弹性CPS使用ML和弹性ML应用于CPS时之间的相互作用。文章最后总结了一些研究趋势和未来的研究方向。此外，通过本文，读者可以深入了解基于ML的安全性和针对CPS的安全ML的最新进展和对策，以及这一活跃研究领域的研究趋势。
2021-02-14 cs.AI cs.CR cs.LG
On the (In)security of Peer-to-Peer Decentralized Machine Learning
SPRING Lab（SPRING实验室）；EPFL（洛桑联邦理工学院）
本文首次深入分析去中心化学习的隐私性，提出新型攻击，证明其安全性不优于联邦学习，且增加攻击面，隐私保护配置需全连接网络，丧失实际优势。
2023-11-10 cs.CR cs.LG
