Contextual Agent Security: A Policy for Every Purpose
Google(谷歌公司)
本文针对计算系统在多上下文场景下行动安全性判断的不足,提出上下文智能体安全(Conseca)框架,生成即时、上下文相关且可人工验证的安全策略,以适应通用智能体的多任务需求。
2025-04-17 cs.CL cs.CR cs.LG
AIJack: Let's Hijack AI! Security and Privacy Risk Simulator for Machine Learning
本文提出开源库AIJack,通过统一API集成多种攻击与防御方法,用于评估机器学习模型训练和部署中的安全与隐私风险。
2024-04-08 cs.CR cs.LG
MLSMM: Machine Learning Security Maturity Model
Blekinge Institute of Technology(布莱金厄理工学院)
本文提出机器学习安全成熟度模型(MLSMM),沿ML开发生命周期组织安全实践并建立三个成熟度级别,以促进工业界与学术界更紧密合作。
2023-06-28 cs.CR cs.LG cs.SE
Machine Learning for Offensive Security: Sandbox Classification Using Decision Trees and Artificial Neural Networks
SilentBreak Security(SilentBreak安全公司);Brigham Young University(杨百翰大学)
机器学习在信息安全中的优点主要集中在加强防御上。然而,机器学习(ML)技术并不是为财力雄厚和拥有大量数据存储库的组织所保留的; ML的民主化导致使用ML来支持攻击性操作的安全团队数量增加。这里介绍的研究将探索我们的团队用来解决单个攻击性任务的两个模型,检测沙箱。使用通过网络钓鱼电子邮件收集的进程列表数据,我们将演示如何使用决策树和人工神经网络成功地对沙箱进行分类,从而避免不安全的执行。本文旨在对真正的进攻团队如何使用机器学习来支持进攻行动提供独特的见解。
2020-07-14 cs.CR cs.LG
Dos and Don'ts of Machine Learning in Computer Security
Technische Universität Berlin(柏林工业大学);Technische Universität Braunschweig(布伦瑞克工业大学);King’s College London(伦敦国王学院);University College London(伦敦大学学院);Royal Holloway, University of London(伦敦大学皇家霍洛威学院);The Alan Turing Institute(艾伦图灵研究所);KASTEL Security Research Labs(KASTEL安全研究实验室);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
随着计算系统处理能力的不断增强和海量数据集可用性的不断提高,机器学习算法在许多不同领域取得了重大突破。这一发展影响了计算机安全,催生了一系列基于学习的安全系统的工作,例如恶意软件检测,漏洞发现和二进制代码分析。尽管潜力巨大,但安全领域的机器学习容易出现微妙的缺陷,这些缺陷会破坏其性能,并使基于学习的系统可能不适合安全任务和实际部署。在本文中,我们用批判的眼光看待这个问题。首先,我们确定在设计,实施和评估基于学习的安全系统的常见陷阱。我们对过去10年中来自顶级安全会议的30篇论文进行了研究,证实了这些陷阱在当前的安全文献中普遍存在。在实证分析中,我们进一步展示了个人陷阱如何导致不切实际的性能和解释,阻碍了对安全问题的理解。作为补救措施,我们提出了可行的建议,以支持研究人员在可能的情况下避免或减轻陷阱。此外,我们发现了机器学习在安全应用中存在的问题,并为进一步的研究提供了方向。
2021-11-30 cs.CR cs.LG
Confidential Machine Learning Computation in Untrusted Environments: A Systems Security Perspective
Sungkyunkwan University(成均馆大学)
随着机器学习(ML)技术和应用正在迅速改变许多计算领域,与ML相关的安全问题也不断出现。在系统安全领域,已经做出了许多努力来确保ML模型和数据的机密性。ML计算通常不可避免地在不受信任的环境中执行,并且需要复杂的多方安全要求。因此,研究人员利用可信执行环境(TEE)来构建机密的ML计算系统。我们通过对不可信环境中机密ML计算中的攻击向量和缓解进行分类,分析多方场景中的复杂安全需求,并总结机密ML实施中的工程挑战,进行了系统而全面的调查。最后,我们根据我们的研究提出了未来的研究方向。
2022-01-06 cs.CR cs.LG
SoK: Applying Machine Learning in Security - A Survey
Instart Logic, Inc.(Instart Logic公司)
应用机器学习(ML)解决安全领域问题的想法已经有近30年的历史了。随着信息和通信变得越来越普遍,越来越多的数据变得可用,出现了许多安全风险以及管理和减轻这些风险的需求。因此,应用和设计ML算法和安全系统的研究发展迅速,从入侵检测系统(IDS)和恶意软件分类到安全策略管理(SPM)和信息泄漏检查。本文系统地研究了2008-2015年学术出版物中将ML应用于安全领域的方法,算法和系统设计。98%的受访论文出现在6个排名最高的学术安全会议和1个以安全领域ML应用先驱而闻名的会议上。我们研究了广义系统设计,基本假设,测量和用例在积极的研究。我们的研究导致1)ML范式和安全领域的分类,以供未来探索和利用,以及2)详细介绍开放和即将到来的挑战的议程。根据我们的调查,我们还提出了一种观点,将安全视为博弈论问题,而不是批量训练的ML问题。
2016-11-10 cs.CR cs.LG
Adversarial Machine Learning Security Problems for 6G: mmWave Beam Prediction Use-Case
Norwegian University of Science and Technology(挪威科技大学);Simula Research Lab.(西穆拉研究实验室)
6G是下一代通信系统。近年来,机器学习算法在健康、交通和自动驾驶汽车等各个领域得到了广泛应用。预测算法将用于6G问题。随着深度学习技术的快速发展,在应用算法时考虑安全性问题变得至关重要。虽然机器学习为6G提供了显著的优势,但AI模型的安全性却被忽视了。由于它在现实世界中有许多应用,安全性是算法的重要组成部分。本文提出了一种对抗攻击的缓解方法,该方法针对所提出的用于具有对抗性学习的毫米波(mmWave)波束预测的6G机器学习模型。针对机器学习模型的对抗攻击背后的主要思想是通过操纵用于毫米波波束预测用例的6G应用的训练深度学习模型来产生错误的结果。我们还介绍了对抗性学习缓解方法在毫米波波束预测应用中的6G安全性能,以及快速梯度符号方法攻击。防御模型和非防御模型的均方误差非常接近。
2021-03-12 cs.AI cs.LG
Security and Machine Learning in the Real World
University of Washington(华盛顿大学);Microsoft Research(微软研究院)
部署在许多安全和业务关键型系统中的机器学习(ML)模型很容易通过对抗性示例被利用。大量的学术研究已经彻底探索了这些盲点的原因,开发了寻找它们的复杂算法,并提出了一些有前途的防御措施。然而,这些作品中的绝大多数研究独立的神经网络模型。在这项工作中,我们建立在我们的经验,评估大规模部署的机器学习软件产品的安全性,以扩大对话,包括这些漏洞的系统安全视图。我们描述了在具有ML组件的软件中实现系统安全最佳实践的新挑战。此外,我们还提出了一系列短期缓解建议,部署机器学习模块的从业者可以使用这些建议来保护他们的系统。最后,我们概述了机器学习攻击和防御的新研究方向,这些攻击和防御可以促进ML系统的安全性。
2020-07-13 cs.CR cs.LG stat.ML
Security Aspects of Quantum Machine Learning: Opportunities, Threats and Defenses
The Pennsylvania State University(宾夕法尼亚州立大学)
在过去的几年里,量子计算经历了一个井喷式的增长。量子计算的一个令人兴奋的途径是量子机器学习(QML),它可以利用高维希尔伯特空间从有限的数据中学习更丰富的表示,从而可以有效地解决复杂的学习任务。尽管人们对QML的兴趣越来越大,但还没有太多的研究讨论QML的安全方面。在这项工作中,我们探讨了QML在硬件安全领域的未来可能的应用。本文还揭示了QML的安全漏洞和新出现的攻击模式,并提出了相应的对策。
2022-04-07 cs.CR cs.LG quant-ph
A Security Verification Framework of Cryptographic Protocols Using Machine Learning
NTT Computer & Data Science Laboratories(NTT计算机与数据科学实验室);NTT Social Informatics Laboratories(NTT社会信息学实验室)
针对密码协议形式化验证耗时长、无判定性保证的问题,提出基于机器学习的安全验证框架,通过自动生成带标签数据集和适配协议结构的神经网络,实现线性时间复杂度的验证。
2023-04-26 cs.CR cs.LG
Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
近年来,机器学习算法,更具体地说,深度学习算法,已经广泛应用于包括网络安全在内的许多领域。然而,机器学习系统容易受到对抗攻击,并且这限制了机器学习的应用,特别是在非静止的对抗性环境中,诸如网络安全领域,其中实际的对手(例如,恶意软件开发者)存在。本文全面总结了针对基于机器学习技术的安全解决方案的对抗攻击的最新研究,并说明了它们带来的风险。首先,对抗攻击方法的特点是基于他们的发生阶段,攻击者的目标和能力。然后,我们分类的对抗攻击和防御方法在网络安全领域的应用。最后,我们强调了最近研究中发现的一些特征,并讨论了其他对抗性学习领域的最新进展对网络安全领域未来研究方向的影响。本文首次讨论了在网络安全领域实施端到端对抗攻击的独特挑战,将其映射到统一的分类中,并使用分类突出未来的研究方向。
2021-03-13 cs.CR cs.LG stat.ML
Machine Learning in Cyber-Security - Problems, Challenges and Data Sets
Palo Alto Networks(帕洛阿尔托网络公司);Shodan
我们提出了高度重要的网络安全问题。我们表明,为了解决这些网络安全问题,必须应对某些机器学习挑战。我们提供了代表这些问题的新数据集,以便学术界能够调查这些问题,并提出应对挑战的方法。我们还提出了一种方法来生成标签,通过旋转,提供了一个解决方案,在网络安全中缺乏标签的常见问题。
2019-04-22 cs.CR cs.LG stat.ML
Security Evaluation of Support Vector Machines in Adversarial Environments
University of Cagliari(卡利亚里大学);Universität Potsdam(波茨坦大学);IBM Research(IBM研究院)
支持向量机(SVM)是安全应用中最流行的分类技术之一,如恶意软件检测、入侵检测和垃圾邮件过滤。然而,如果要将SVM纳入现实世界的安全系统,它们必须能够应对可能误导学习算法(中毒)、逃避检测(逃避)或获取有关其内部参数(隐私泄露)的信息的攻击模式。本章的主要贡献有两个方面。首先,我们介绍了一个正式的一般框架的机器学习系统的安全性的经验评估。其次,根据我们的框架,我们证明了规避,中毒和隐私攻击的支持向量机在现实世界中的安全问题的可行性。对于每种攻击技术,我们评估其影响,并讨论是否(以及如何)可以通过支持向量机的对手感知设计来反击。我们的实验很容易重现,这要归功于我们在公共存储库上提供的开源代码以及所有使用的数据集。
2014-01-30 cs.CR cs.LG
Security for Machine Learning-based Systems: Attacks and Challenges during Training and Inference
Vienna University of Technology (TU Wien)(维也纳工业大学)
网络和物理世界之间的依赖性呈指数级增长,导致必须有效处理和存储大量数据。因此,计算范式正在向基于机器学习(ML)的系统发展,因为它们能够高效、准确地处理大量数据。虽然基于ML的解决方案解决了大数据的高效计算需求,但它们在系统中引入了(新的)安全漏洞,这是传统的基于监控的安全措施无法解决的。因此,本文首先简要概述了机器学习中的各种安全威胁,它们各自的威胁模型以及相关的研究挑战,以开发强大的安全措施。为了说明ML在训练,推理和硬件实现过程中的安全漏洞,我们分别使用MNIST和德国交通标志识别基准(GTSRB)的LeNet和VGGNet来展示ML上的一些关键安全威胁。此外,基于ML训练的安全性分析,我们还提出了一种对推理准确性影响很小的攻击。最后,我们强调了在开发安全措施方面的相关研究挑战,并简要概述了用于减轻此类安全威胁的技术。
2018-11-05 cs.CR cs.LG stat.ML
TinyML Security: Exploring Vulnerabilities in Resource-Constrained Machine Learning Systems
Harvard University(哈佛大学);University of Southern California(南加利福尼亚大学);Draper Laboratory(德雷珀实验室)
本文首次全面调查TinyML安全威胁,提出设备分类法并区分IoT、EdgeML和TinyML,列出攻击向量并评估威胁级别与防御措施,强调需为TinyML量身定制专门安全解决方案。
2024-11-11 cs.CR cs.LG
Model-free Reinforcement Learning for Stochastic Stackelberg Security Games
本文考虑了两个局中人的序列随机Stackelberg对策,其中一个局中人是领导者,另一个局中人是跟随者。跟随者可以访问系统的状态,而领导者则不能。假设参与者按照各自的最佳利益行事,追随者的策略是对领导者的策略做出最佳反应。在这种情况下,领导者的优势是承诺一个政策,使自己的回报最大化的知识,追随者将发挥其政策的最佳反应。因此,两个参与者都收敛到一对策略,形成了博弈的斯塔克伯格均衡。最近,[1]提出了一种序列分解算法来计算这类博弈的Stackelberg均衡,它允许在线性时间内计算马尔可夫均衡策略,而不是像以前那样,在双指数时间内计算。在本文中,我们的想法扩展到一个MDP的动态是不知道的球员,提出了一个RL算法的基础上预期Sarsa学习Stackelberg均衡策略,通过模拟模型的MDP。我们使用粒子滤波器来估计一个共同的代理计算的最优策略的基础上,这是共同的两个球员的信念更新。我们提出了一个安全游戏的例子来说明我们的算法学习的政策。通过模拟MDP的模型。我们使用粒子滤波器来估计一个共同的代理计算的最优策略的基础上,这是共同的两个球员的信念更新。我们提出了一个安全游戏的例子来说明我们的算法学习的政策。
2020-05-24 cs.LG cs.MA math.OC
Bayesian Safe Policy Learning with Chance Constrained Optimization: Application to Military Security Assessment during the Vietnam War
Harvard University(哈佛大学);Carnegie Mellon University(卡内基梅隆大学)
针对越南战争期间的安全评估算法,提出贝叶斯策略学习框架,通过平均条件风险控制风险,并转化为约束线性规划,改进算法更强调经济政治因素。
2024-05-27 cs.LG stat.AP
A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security
Qatar University(卡塔尔大学);Temple University(天普大学);University of Idaho(爱达荷大学)
物联网(IoT)集成了数十亿个智能设备,这些设备可以在最少的人为干预下相互通信。它是计算计算史上发展最快的领域之一,预计到2020年底将有500亿台设备。一方面,物联网在增强几个可以提高生活质量的现实智能应用方面发挥着至关重要的作用。另一方面,物联网系统的交叉性和部署此类系统所涉及的多学科组件带来了新的安全挑战。为物联网设备及其固有漏洞实施加密、身份验证、访问控制、网络安全和应用程序安全等安全措施是无效的。因此,应加强现有的安全方法,以有效地保护物联网系统。机器学习和深度学习(ML/DL)在过去几年中取得了长足的进步,机器智能已经从实验室好奇心转变为几个重要应用中的实用机器。因此,ML/DL方法对于将物联网系统的安全性从仅仅促进设备之间的安全通信转变为基于安全的智能系统非常重要。这项工作的目标是提供ML /DL方法的全面调查,这些方法可用于为物联网系统开发增强的安全方法。提出了与固有或新引入的威胁相关的物联网安全威胁,并讨论了各种潜在的物联网系统攻击面以及与每个面相关的可能威胁。然后,我们全面回顾了用于物联网安全的ML/DL方法,并介绍了每种方法的机会、优点和缺点。我们讨论了将ML/DL应用于物联网安全的机遇和挑战。这些机遇和挑战可以作为未来潜在的研究方向。
2018-07-29 cs.CR cs.LG cs.NI
Adversarial Security Attacks and Perturbations on Machine Learning and Deep Learning Methods
Southern New Hampshire University(南新罕布什尔大学)
不断增长的大数据和新兴的人工智能(AI)需要使用机器学习(ML)和深度学习(DL)方法。网络安全也受益于ML和DL方法用于各种类型的应用。然而,这些方法容易受到安全攻击。攻击者可以利用学习模型的训练和测试数据,或者可以探索这些模型的工作原理,以发动未来的高级攻击。ML和DL领域内的对抗性安全攻击和扰动是最近的探索,安全研究人员和实践者对此表示了极大的兴趣。文献涵盖了ML和DL方法的不同对抗性安全攻击和扰动,这些攻击和扰动有自己的表现风格和优点。需要审查和巩固的知识,是理解这一日益集中和不断增长的研究课题;然而,是研究界目前的需求。在这篇综述论文中,我们专门针对网络安全领域的新研究人员,他们可能会寻求获得有关机器学习和深度学习模型和算法的一些基本知识,以及一些相关的对抗性安全攻击和扰动。
2019-07-17 cs.CR cs.LG stat.ML
Survey of Security and Data Attacks on Machine Unlearning In Financial and E-Commerce
本文综述了金融与电商场景下针对机器遗忘的隐私与安全攻击,并系统梳理了差分隐私、密码学保证和零知识证明等防御策略,以保障数据完整性与模型安全。
2024-09-29 cs.CR cs.LG
Machine Learning-Assisted Intrusion Detection for Enhancing Internet of Things Security
University of New Mexico(新墨西哥大学);Florida International University(佛罗里达国际大学);Florida Atlantic University(佛罗里达大西洋大学);University of Washington(华盛顿大学);Islamic Azad University(伊斯兰阿扎德大学)
本文调研了物联网安全领域基于机器学习的入侵检测策略最新研究,梳理相关研究并分类,指出现有研究空白与框架局限,为未来研究提供参考。
2024-10-06 cs.CR cs.LG
AdversariaLib: An Open-source Library for the Security Evaluation of Machine Learning Algorithms Under Attack
University of Cagliari(卡利亚里大学)
我们提出了AdversariaLib,一个开源的Python库,用于机器学习(ML)对精心定位的攻击的安全评估。它支持迄今为止在对抗学习文献中提出的几种攻击的实现,允许评估各种ML算法,在多个平台上运行,并启用多处理。该库具有模块化架构,易于使用,并通过实施新颖的攻击和对策进行扩展。它依赖于其他广泛使用的开源ML库,包括scikit-learn和FANN。分类算法在C/C ++中实现和优化,允许对模拟攻击进行快速评估。该软件包在GNU通用公共许可证v3下分发,可以在www.example.com下载。
2016-11-15 cs.CR cs.LG
Security and Privacy in IoT Using Machine Learning and Blockchain: Threats & Countermeasures
University of Technology Sydney(悉尼科技大学);Macquarie University(麦考瑞大学);University of South Wales(南威尔士大学);Federation University(联邦大学)
由于物联网(IoT)设备在众多应用中的参与,用户的安全和隐私已经成为重要的关注点。网络威胁正以爆炸性的速度增长,使得现有的安全和隐私措施不足。因此,互联网上的每个人都是黑客的产品。因此,机器学习(ML)算法用于从大型复杂数据库中生成准确的输出,其中生成的输出可用于预测和检测基于物联网的系统中的漏洞。此外,区块链(BC)技术在现代物联网应用中越来越流行,以解决安全和隐私问题。已经对ML算法或BC技术进行了几项研究。然而,这些研究使用ML算法或BC技术针对安全或隐私问题,因此需要对近年来使用ML算法和BC技术解决安全和隐私问题的努力进行综合调查。在本文中,我们总结了过去几年(从2008年到2019年)在物联网领域使用ML算法和BC技术解决安全和隐私问题的研究工作。首先,我们讨论并分类了过去12年来物联网领域报告的各种安全和隐私威胁。然后,我们对物联网领域基于ML算法和BC技术的安全和隐私工作的文献进行了分类。最后,我们确定并阐明了使用ML算法和BC技术解决物联网领域安全和隐私问题的几个挑战和未来研究方向。
2020-08-06 cs.CR cs.LG
The Dark Side: Security Concerns in Machine Learning for EDA
Hong Kong University of Science and Technology(香港科技大学);Duke University(杜克大学)
随着集成电路复杂性的不断提高,人们迫切需要通过新的电子设计自动化(EDA)方法来提高设计效率。近年来,机器学习(ML)技术已经实现了许多前所未有的高效EDA方法。尽管ML在电路设计中显示出巨大的潜力,但其安全问题的阴暗面却很少被讨论。本文对我们在ML for EDA中观察到的所有安全问题进行了全面而公正的总结。其中许多被这一领域的从业人员隐藏或忽视。在本文中,我们首先提供了我们的分类来定义四种主要类型的安全问题,然后我们分析了不同的应用场景和特殊属性的ML EDA。在此基础上,我们提出了我们的详细分析,每一个安全问题的实验。
2022-03-20 cs.CR cs.LG cs.SY
Security Concerns on Machine Learning Solutions for 6G Networks in mmWave Beam Prediction
Simula Research Laboratory(西姆拉研究实验室);Norwegian University of Science and Technology(挪威科技大学);Old Dominion University(奥多明尼昂大学);Qatar University(卡塔尔大学)
6 G--第六代--是目前正在为无线通信系统开发的最新蜂窝技术。近年来,机器学习算法已广泛应用于医疗保健、交通、能源、自动驾驶汽车等各个领域。这些算法也被用于通信技术中,以改善系统在频谱使用、延迟和安全性方面的性能。随着机器学习技术的快速发展,特别是深度学习,在应用算法时考虑安全问题至关重要。虽然机器学习算法为6 G网络提供了显著的优势,但到目前为止,科学界通常忽略了人工智能(AI)模型的安全问题。然而,安全性也是AI算法的重要组成部分,这是因为AI模型本身可能会被攻击者毒害。本文提出了一种对抗性攻击的缓解方法,该方法针对使用对抗性学习的毫米波(mmWave)波束预测的拟议6 G机器学习模型。针对机器学习模型的对抗性攻击背后的主要思想是通过操纵用于6 G应用的训练深度学习模型来产生错误的结果,以进行毫米波波束预测。我们还介绍了对抗性学习缓解方法在具有快速梯度符号方法攻击的mmWave波束预测应用中用于6 G安全的性能。在攻击下,防御模型的均方误差(MSE)非常接近于未受攻击的非防御模型。
2021-07-23 cs.CR cs.LG eess.SP
A cryptographic approach to black box adversarial machine learning
Columbia University(哥伦比亚大学);Proof Trading(Proof Trading(交易证明))
我们提出了一种新的随机集成技术,具有可证明的安全保证,对黑箱传输攻击。我们的证明构造了一个新的安全问题,随机二进制分类器,这是更容易经验验证和减少从这个新模型的安全性的集成分类器的安全性。我们提供了我们的随机二进制分类器的安全性的实验证据,以及整体集成的对抗性准确性的经验结果,黑盒攻击。我们的构造关键地利用了多类到二进制的减少中隐藏的随机性。
2020-02-21 cs.CR cs.LG stat.ML
Machine Learning Security in Industry: A Quantitative Survey
EPFL(洛桑联邦理工学院);QuantPi(QuantPi公司);Eindhoven University of Technology(埃因霍温理工大学);CISPA Helmholtz Center of Information Security(CISPA亥姆霍兹信息安全中心);University of Cagliari(卡利亚里大学)
尽管有大量关于机器学习安全性的学术工作,但对机器学习系统在野外发生的攻击知之甚少。在本文中,我们报告了139个行业从业者的定量研究。我们分析攻击的发生和关注,并评估影响威胁感知和暴露的因素的统计假设。我们的研究结果揭示了对部署的机器学习的现实攻击。在组织层面上,虽然我们在样本中没有发现威胁暴露的预测因素,但实施防御的数量取决于暴露于威胁或成为目标的预期可能性。我们还提供了从业者对个人机器学习攻击相关性的回复的详细分析,揭示了复杂的问题,如不可靠的决策,商业信息泄露和模型中的偏见。最后,我们发现在个人层面上,关于机器学习安全性的先验知识会影响威胁感知。我们的工作为更多关于对抗性机器学习的实践研究铺平了道路,但也为监管和审计提供了见解。
2023-03-10 cs.CR cs.CY cs.LG
Machine Learning in IoT Security: Current Solutions and Future Challenges
Royal Bank of Canada(加拿大皇家银行);Innopolis University(因诺波利斯大学);National University of Sciences and Technology (NUST)(国家科技大学);University of Manitoba(曼尼托巴大学)
未来的物联网(IoT)将对我们的生活产生深刻的经济、商业和社会影响。物联网网络中的参与节点通常是资源受限的,这使得它们成为网络攻击的目标。在这方面,人们已经做出了广泛的努力,主要通过传统的加密方法来解决物联网网络中的安全和隐私问题。然而,物联网节点的独特特性使得现有解决方案不足以涵盖物联网网络的整个安全范围。这至少部分是因为物联网设备产生的资源约束、异构性、大量实时数据以及网络的广泛动态行为。因此,能够在物联网设备和网络中提供嵌入式智能的机器学习(ML)和深度学习(DL)技术被用来应对不同的安全问题。在本文中,我们系统地回顾了物联网网络的安全需求,攻击向量和当前的安全解决方案。然后,我们揭示了这些安全解决方案中需要ML和DL方法的差距。我们还详细讨论了现有的ML和DL解决方案,以解决物联网网络中的不同安全问题。最后,在对文献中现有解决方案进行详细调查的基础上,我们讨论了基于ML和DL的物联网安全的未来研究方向。
2019-03-14 cs.CR cs.LG stat.ML
Software Repositories and Machine Learning Research in Cyber Security
Department of Computer Science, University of Wisconsin-Eau Claire(威斯康星大学欧克莱尔分校计算机科学系)
本文研究如何利用 CAPEC、CVE 等安全仓库及监督机器学习方法,在软件需求阶段自动识别漏洞,以提升安全软件开发能力。
2023-11-01 cs.CR cs.LG cs.SE
Machine Learning Based Solutions for Security of Internet of Things (IoT): A Survey
University of Guelph(圭尔夫大学)
在过去的十年中,物联网平台已经发展成为一个全球巨头,通过其不负责任的智能服务推进人类生活,抓住了我们日常生活的方方面面。由于易于访问以及对智能设备和网络的快速增长的需求,物联网现在面临着比以往任何时候都更多的安全挑战。现有的安全措施可用于保护物联网。然而,传统的技术是不一样的效率与进步繁荣以及不同的攻击类型和他们的复杂性。因此,下一代物联网系统需要强大的动态增强和最新的安全系统。机器学习(ML)已经注意到了巨大的技术进步,这为解决物联网中正在进行和未来的挑战打开了许多可能的研究窗口。为了检测攻击并识别智能设备和网络的异常行为,ML正被用作实现这一目的的强大技术。在这篇调查论文中,讨论了物联网的架构,在对ML进行全面的文献综述之后,从不同类型的可能攻击的角度探讨了物联网安全的重要性。此外,还提出了基于ML的物联网安全潜在解决方案,并讨论了未来的挑战。
2020-04-11 cs.CR cs.LG stat.ML
AdaptAuth: Multi-Layered Behavioral and Credential Analysis for a Secure and Adaptive Authentication Framework for Password Security
Daffodil International University, Bangladesh(达芙果国际大学,孟加拉国)
本文提出AdaptAuth框架,通过整合密码剖析、动态策略、行为及环境等多层因素,利用学习模型构建用户画像,在提升密码安全防护的同时增强可用性与用户参与度。
2025-10-04 cs.CR cs.HC cs.LG
Machine and Deep Learning for IoT Security and Privacy: Applications, Challenges, and Future Directions
Institute of Information and Communication Technology (IICT), Bangladesh University of Engineering and Technology (BUET)(孟加拉国工程技术大学信息与通信技术研究所)
物联网(IoT)的集成将许多智能设备连接起来,最大限度地减少了人为干扰,可以相互交互。物联网正在计算机科学领域迅速兴起。然而,部署此类计划所涉及的多学科元素和物联网系统的交叉设计带来了新的安全问题。无效的是安全协议的实施,即,物联网系统的认证、加密、应用程序安全和接入网络以及它们在安全方面的基本弱点。当前的安全方法也可以得到改进,以有效保护物联网环境。近年来,深度学习(DL)/机器学习(ML)在各种关键实现中取得了显著进展。因此,DL/ML方法对于将物联网系统保护从简单地实现物联网系统之间的安全联系转变为安全的智能系统至关重要。本文旨在对ML系统进行广泛的分析,并对DL方法的最新发展进行分析,以改进增强的物联网设备保护方法。另一方面,物联网证券在机器和深度学习方面的各种新见解说明了它如何帮助未来的研究。识别与新兴或基本威胁相关的物联网保护风险,以及未来的物联网设备攻击和与每个表面相关的可能威胁。然后,我们仔细分析了DL和ML物联网保护方法,并介绍了每种方法的优点、可能性和弱点。本次审查讨论了一些潜在的挑战和局限性。还包括DL/ML在物联网安全中的未来工作,建议和建议。
2022-10-24 cs.CR cs.LG cs.NI
Effect of Imbalanced Datasets on Security of Industrial IoT Using Machine Learning
Washington University in St. Louis(圣路易斯华盛顿大学);Federal Institute of São Paulo(圣保罗联邦学院)
机器学习算法已被证明适用于保护IT系统的平台。然而,由于工业物联网(IIoT)和常规IT网络之间的根本差异,需要考虑特殊的性能评估。IIoT系统的漏洞和安全要求需要不同的考虑。在本文中,我们研究了为什么必须将机器学习集成到IIoT的安全机制中,以及它目前在性能方面的不足之处。在我们的实验设计中研究了与此相关的挑战和现实世界的考虑。我们使用类似于真实工业工厂的IIoT测试平台来展示我们的概念验证。
2019-12-02 cs.CR cs.DB cs.LG
On the Trade-Off Between Transparency and Security in Adversarial Machine Learning
University of Waterloo(滑铁卢大学)
本研究探讨对抗性机器学习中透明度与安全性的冲突,通过可迁移对抗样本攻击的实证与博弈论分析,发现防御者模型的模糊性有利,仅知晓防御状态就可能损害安全性,揭示两者权衡及博弈论的应用价值。
2025-11-14 cs.CR cs.GT cs.LG
Policy-aware Vector Search: A Vision for Fine Grained Access Control in Vector Databases
Portland State University(波特兰州立大学)
本文提出策略感知向量搜索的愿景,形式化向量数据库中的细粒度访问控制(FGAC)策略模型与实施问题,比较不同实施策略并指出未来挑战。
2026-06-19 cs.AI cs.DB cs.LG
Machine Learning for Security in Vehicular Networks: A Comprehensive Survey
National University of Singapore(新加坡国立大学)
机器学习(ML)已经成为一种有吸引力的和可行的技术,为广泛的应用领域提供有效的解决方案。一个重要的应用领域是车载网络,其中基于ML的方法被发现是非常有用的,以解决各种问题。车辆节点和/或基础设施之间的无线通信的使用使其容易受到不同类型的攻击。在这方面,ML及其变体越来越受欢迎,以检测攻击并处理车辆通信中的各种安全问题。在本文中,我们提出了一个全面的调查ML为基础的技术在车辆网络中的不同安全问题。我们首先简要介绍车载网络和不同类型通信的基础知识。除了传统的车载网络,我们还考虑了现代车载网络架构。我们提出了一个分类的车辆网络中的安全攻击,并讨论了各种安全挑战和要求。我们将文献中开发的ML技术根据其在车辆网络应用中的使用进行分类。我们解释了这些ML技术在解决各种安全挑战方面的解决方案方法和工作原理,并提供了有见地的讨论。讨论了在车载网络中使用基于ML的方法的局限性和挑战。最后,我们在结束工作之前提出意见和经验教训。
2021-08-19 cs.CR cs.LG cs.NI
Security Matters: A Survey on Adversarial Machine Learning
University of Shanghai for Science and Technology(上海理工大学);State Street Corporation(道富公司);Guangzhou University(广州大学);Fudan University(复旦大学);Qingdao Binhai University(青岛滨海学院)
对抗性机器学习是一个快速发展的研究领域,它考虑了机器学习系统可能面临潜在的对抗性攻击者的情况,这些攻击者故意合成输入数据以使训练有素的模型出错。它总是涉及一个防御方,通常是一个分类器,以及一个旨在导致错误输出的攻击方。机器学习算法对抗性样本的研究最早是从信息安全领域开始的,它考虑的攻击方法种类要多得多。但是最近由深度学习社区推广的研究焦点强烈强调了正常输入上的“不可感知”扰动如何可能导致深度学习以假定的超人准确性产生戏剧性的错误。本文旨在全面介绍对抗性深度学习主题的一系列方面,包括其基础,典型的攻击和防御策略以及一些扩展研究。
2018-10-23 cs.CR cs.LG stat.ML
Machine Learning Techniques for Stackelberg Security Games: a Survey
Politecnico di Milano(米兰理工大学)
本调查旨在介绍当前安全游戏领域采用的机器学习技术。具体而言,我们重点关注了南加州大学Teamcore开发的论文和作品,这些论文和作品深化了该领域的不同方向。Stackelberg安全游戏(SSG)和偷猎设置的简要介绍后,其余的工作提出了如何建模一个有限理性的攻击者考虑到她的人类行为,然后描述了如何面对的问题,有攻击者的收益没有定义,以及如何估计他们,最后,介绍了如何在线学习技术已被利用来学习攻击者的模型。
2016-09-29 cs.GT cs.LG
Detecting Security-Relevant Methods using Multi-label Machine Learning
Fraunhofer IEM(弗劳恩霍夫应用信息技术研究所);Amazon Web Services(亚马逊网络服务);Paderborn University(帕德博恩大学)
针对现有安全相关方法检测忽略标签依赖、手动配置静态分析工具繁琐的问题,提出考虑标签依赖的多标签机器学习插件Dev-Assist,其F1值更优且可减少人工配置工作量。
2024-03-12 cs.LG
When Wireless Security Meets Machine Learning: Motivation, Challenges, and Research Directions
Intelligent Automation, Inc.(智能自动化公司);Virginia Tech(弗吉尼亚理工大学);University of California, San Diego(加利福尼亚大学圣地亚哥分校);Naval Research Laboratory(海军研究实验室);University of South Florida(南佛罗里达大学)
由于无线媒体的共享和广播特性,无线系统容易受到各种攻击,如干扰和窃听。为了支持攻击和防御策略,机器学习(ML)提供了自动化的方法来学习和适应手工制作的功能和模型难以捕获的无线通信特性。本文讨论了连接ML和无线安全的研究工作的动机、背景和范围。在ML用于无线安全的背景下调查的研究方向的推动下,确定了无线领域中基于ML的攻击和防御解决方案以及新兴的对抗性ML技术,以及促进桥接ML和无线安全的研究工作的路线图。
2020-01-24 cs.LG cs.NI
Feasibility of Supervised Machine Learning for Cloud Security
Qatar University(卡塔尔大学);Washington University(华盛顿大学)
云计算正受到越来越多的关注,然而,安全性是其广泛接受的最大障碍。云服务的用户经常担心数据丢失、安全威胁和可用性问题。近年来,随着机器学习技术的发展,基于学习的安全应用方法在文献中越来越受欢迎。然而,这些方法的主要挑战是获得实时和无偏的数据集。许多数据集是内部的,由于隐私问题或可能缺乏某些统计特征而无法共享。因此,研究人员更喜欢在模拟或封闭的实验环境中生成用于训练和测试目的的数据集,这可能缺乏全面性。用这样的单个数据集训练的机器学习模型通常会导致结果与其应用之间的语义差距。缺乏研究工作,证明了这些模型在不同环境中获得的多个数据集上的有效性。我们认为有必要测试机器学习模型的鲁棒性,特别是在云场景中普遍存在的多样化操作条件下。在这项工作中,我们使用UNSW数据集来训练监督机器学习模型。然后,我们用ISOT数据集测试这些模型。我们提出了我们的研究结果,并认为在机器学习领域的更多的研究仍然需要其适用于云安全。
2018-10-23 cs.LG stat.ML
Quantum Machine Learning: Performance and Security Implications in Real-World Applications
Rider University(莱德大学);University of Missouri-Kansas City(密苏里大学堪萨斯城分校);University of Oklahoma(俄克拉荷马大学)
本文通过阿尔茨海默病数据集案例研究,比较量子机器学习与经典算法的性能与安全影响,发现QML虽有潜力但尚未超越经典算法,且继承旧脆弱性并引入新攻击向量。
2024-08-08 cs.LG quant-ph
Quantum Machine Learning for Material Synthesis and Hardware Security
The Pennsylvania State University(宾夕法尼亚州立大学);IBM Corporation(IBM公司)
利用量子计算,本文解决了两个科学上紧迫的和日常的相关问题,即化学逆合成,这是药物/材料发现和半导体供应链安全的重要一步。我们表明,量子长短期记忆(QLSTM)是一个可行的工具,逆合成。我们使用QLSTM实现了65%的训练准确率,而经典LSTM可以达到100%。然而,在测试中,我们使用QLSTM达到了80%的准确率,而经典LSTM的准确率只有70%!我们还展示了量子神经网络(QNN)在硬件安全领域的应用,特别是在硬件木马(HT)检测使用一组电源和面积木马功能。QNN模型的检测准确率高达97.27%。
2022-08-16 cs.LG quant-ph
ScoreMatchingRiesz: Score Matching for Debiased Machine Learning and Policy Path Estimation
ScoreMatchingRiesz通过分数匹配方法实现去偏机器学习和政策路径估计,提升政策效应的可解释性。
2026-01-29 cs.LG econ.EM math.ST