Stack Overflow Meets Replication: Security Research Amid Evolving Code Snippets (Extended Version)
研究 Stack Overflow 代码演变对先前安全研究结论稳定性的影响,通过复制六项研究证明使用新数据集会导致四篇论文结论显著改变,建议将其视为时间序列数据源以解释横截面研究。
2025-04-04 cs.CR
Blockchain Meets AI for Resilient and Intelligent Internet of Vehicles
车联网(IoV)正在蓬勃发展,并提供与道路安全、交通和燃油效率以及信息娱乐相关的各种应用。在车联网中,处理安全和隐私威胁以及管理信任(检测恶意和行为不端的对等体)仍然是最重要的问题。人工智能是最具革命性的技术之一,其机器学习模型的预测能力可以帮助检测入侵和不当行为。类似地,用区块链赋予最先进的物联网安全框架可以使其安全和有弹性。本文讨论了人工智能和区块链在车联网中的安全、隐私和信任相关风险。本文还提出了使用ML和区块链来解决车联网中上述问题的问题、挑战、要求和解决方案。
2021-12-28 cs.CR
Intellicise Wireless Networks Meet Agentic AI: A Security and Privacy Perspective
State Key Laboratory of Networking and Switching Technology, Beijing University of Posts and Telecommunications(北京邮电大学网络与交换技术全国重点实验室);Department of Computer Science, University of Exeter(埃克塞特大学计算机科学系);Research Institute, China United Network Communications Corporation(中国联合网络通信集团有限公司研究院);GIC & 6GIC, Institute for Communication Systems (ICS), University of Surrey(萨里大学通信系统研究所(ICS)5GIC与6GIC)
本文从安全与隐私角度探讨代理AI在智简无线网络中的应用,分析其优势并提出结构化分类方法,通过案例研究展示其在对抗智能窃听攻击中的有效性,并指出未来研究方向。
2026-02-17 cs.CR eess.SP
Threats and Opportunities: Blockchain Meets Quantum Computation
本文考虑了量子计算发展所体现的蓬勃发展的区块链技术的不足之处。我们指出,未来的区块链技术将不断受到来自以下方面的威胁:1)加速nonce的生成; 2)更快地搜索哈希冲突; 3)打破经典加密的安全性。我们还证明了将一些量子特性融入区块链使其更强大,更高效。例如,人们可以建立一个量子安全的区块链系统,利用量子密钥分发(QKD),量子同步和可检测的拜占庭协议(DBA)可以帮助区块链系统在存在大量恶意节点的情况下实现更快的共识。
2020-11-06 cs.CR
Private Information Retrieval Through Wiretap Channel II: Privacy Meets Security
我们考虑的问题,私人信息检索通过窃听通道II(PIR-WTC-II)。在PIR-WTC-II中,用户希望从存储在$N$复制和非通信数据库中的$M$消息中私下检索单个消息(文件)。外部窃听者观察在第$n$数据库和用户之间交换的业务的一部分(其选择的)$μ_n$。除了隐私约束之外,数据库还应该对返回的答案字符串进行编码,使得窃听者完全不了解数据库的\emph{contents}。我们的目标是在结合隐私和安全约束下的PIR-WTC-II的能力特征。我们得到了一个一般的上限问题的形式的最大-最小优化问题,这扩展了逆证明的PIR问题下的非对称流量约束。我们提出了一个可验证性计划,满足安全约束,通过编码的秘密密钥,这是安全地产生在每个数据库,到一个人工噪声向量,使用MDS码。用户和数据库操作在一个角落点的可实现的计划下的PIR不对称的交通约束,使得检索率最大化下施加的安全约束。对于$M=2$和$M=3$消息的情况,对于任何$N$和任何$\boldsymbolμ=(μ_1, \cdots, μ_N)$,上限和下限匹配。
2018-01-18 cs.CR cs.IT math.IT
DeepAID: Interpreting and Improving Deep Learning-based Anomaly Detection in Security Applications
Institute for Network Sciences and Cyberspace, BNRist, Tsinghua University(清华大学网络科学与网络空间研究院(BNRist));Department of Computer Science and Technology, BNRist, Tsinghua University(清华大学计算机科学与技术系(BNRist))
无监督深度学习(DL)技术已被广泛用于各种安全相关的异常检测应用中,这是由于能够检测不可预见的威胁的巨大前景以及深度神经网络(DNN)提供的卓越性能。然而,缺乏可解释性的DL模型在实践中的采用造成了关键的障碍。遗憾的是,现有的解释方法被提出用于监督学习模型和/或非安全域,其不适用于无监督DL模型,并且不能满足安全域的特殊要求。在本文中,我们提出了DeepAID,一个通用的框架,旨在(1)解释基于DL的异常检测系统在安全领域,(2)提高这些系统的实用性的基础上的解释。首先,我们提出了一种新的解释方法,通过制定和解决精心设计的优化问题与安全域的特殊约束的无监督DNN。然后,我们提供了几个应用程序的基础上,我们的解释器以及基于模型的扩展蒸馏器,以提高安全系统解决特定领域的问题。我们将DeepAID应用于三种类型的安全相关异常检测系统,并通过具有代表性的先前工作对我们的解释器进行了广泛的评估。实验结果表明,DeepAID可以为无监督DL模型提供高质量的解释,同时满足安全领域的特殊要求。我们还提供了几个用例,以表明DeepAID可以帮助安全操作员理解模型决策,诊断系统错误,向模型提供反馈,并减少误报。
2021-09-23 cs.CR cs.LG
When Privacy meets Security: Leveraging personal information for password cracking
密码被广泛用于用户身份验证,尽管存在弱点,但在可预见的未来可能会继续使用。人工生成的密码通常具有丰富的结构,这使得它们容易受到猜测攻击。本文研究了基于马尔可夫模型的猜测攻击的有效性。我们的贡献是双重的。首先,我们提出了一种新的密码破解器的基础上马尔可夫模型,它建立在和扩展的思想Narayanan和Shmatikov(CCS 2005)。在广泛的实验中,我们发现它可以在100亿次猜测中破解高达69%的密码,超过我们再次比较的所有概率密码破解器。其次,我们系统地分析了关于用户的附加个人信息有助于加速密码猜测的想法。我们发现,平均而言,通过仔细选择参数,我们可以多猜出5%的密码,特别是当尝试次数较低时。此外,我们还发现,对于实际上基于个人属性的密码,收益可以高达30%。这些密码显然较弱,应避免使用。我们的破解器可以被一个组织用来检测和拒绝它们。据我们所知,我们是第一个系统地研究所选密码与用户个人信息之间关系的公司。我们测试和验证我们的结果在广泛收集泄漏的密码数据库。
2013-04-24 cs.CR
Smart Contract and DeFi Security Tools: Do They Meet the Needs of Practitioners?
本文通过评估五个 SoTA 工具、分析127起攻击并调查49名从业者,发现现有工具仅能预防8%的 DeFi 攻击损失,亟需覆盖逻辑与协议层漏洞。
2024-01-22 cs.CR cs.SE
Meet You Halfway: Explaining Deep Learning Mysteries
Weizmann Institute of Science(魏茨曼科学研究所)
深度神经网络在各种学习任务中表现出色,具有最先进的结果。虽然这些模型具有高度的表达能力,并实现了令人印象深刻的准确解决方案,具有出色的泛化能力,但它们容易受到微小扰动的影响。遭受这种扰动的样本被称为“对抗样本”。尽管深度学习是一个广泛研究的领域,但有关深度学习模型本质的许多问题仍然没有答案。在本文中,我们引入了一个新的概念框架,附有正式的描述,旨在阐明网络的行为,并解释幕后的学习过程。我们的框架为有关深度学习的固有问题提供了解释。特别地,我们澄清:(1)为什么神经网络获得泛化能力?(2)为什么对抗性例子在不同的模型之间转移?我们提供了一套全面的实验,支持这个新的框架,以及它的基本理论。
2022-06-09 cs.CR cs.LG
Security of Deep Learning Methodologies: Challenges and Opportunities
University of California, Davis(加州大学戴维斯分校)
尽管有大量关于深度学习模型的安全漏洞和防御的研究,但深度学习方法(如迁移学习)的安全方面却很少被研究。在本文中,我们强调了这些方法的安全挑战和研究机会,重点关注它们特有的漏洞和攻击。
2019-12-08 cs.AI cs.CR cs.LG
Blockchain Meets Adaptive Honeypots: A Trust-Aware Approach to Next-Gen IoT Security
School of Computer Science and Technology, Algoma University, Canada(计算机科学与技术学院,阿尔戈马大学,加拿大);School of Electrical Engineering and Computer Science, University of Ottawa, Canada(电气工程与计算机科学学院,渥太华大学,加拿大)
本文提出了一种结合区块链和自适应陷阱的可信方法,用于增强下一代物联网的安全性,通过改进的随机森林和扩散卷积循环神经网络实现高效的入侵检测与防护。
2025-04-22 cs.AI cs.CR cs.ET
Rallying Adversarial Techniques against Deep Learning for Network Security
Clemson University(克莱姆森大学);University at Buffalo(布法罗大学)
人工智能的最新进展以及对网络安全领域中强大防御措施的日益增长的需求,已经导致采用深度学习方法用于网络入侵检测系统。这些方法在抵御传统网络攻击方面取得了卓越的性能,从而能够将实用的安全系统部署到独特而动态的部门。不幸的是,对抗性机器学习最近表明,深度学习模型本质上容易受到对其输入数据的对抗性修改的影响。由于这种敏感性,部署用于支持网络防御的深度学习模型实际上可能是危及网络系统的最薄弱切入点。在本文中,我们表明,通过修改平均只有1.38的输入特征,对手可以生成恶意输入,有效地欺骗了基于深度学习的NIDS。因此,在设计此类系统时,不仅要从传统的网络安全角度考虑性能,还要考虑对抗性机器学习领域的性能。
2021-10-25 cs.CR cs.LG
Security Evaluation in Software-Defined Networks
本文提出一个SDN安全评估框架,通过实验识别威胁与漏洞、计算风险并给出缓解措施,帮助管理员保障网络安全。
2024-08-21 cs.CR cs.NI
Towards Security Threats of Deep Learning Systems: A Survey
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);School of Cybersecurity, University of Chinese Academy of Sciences(中国科学院大学网络空间安全学院)
深度学习在过去几年中取得了巨大的成功和巨大的普及。然而,深度学习系统存在一些固有的弱点,这些弱点可能会威胁到学习模型的安全性。深度学习的广泛使用进一步放大了影响和后果。为此,进行了大量研究,目的是彻底查明内在弱点,随后提出可行的缓解措施。然而,很少有人清楚这些弱点是如何产生的,以及这些攻击方法在攻击深度学习方面有多有效。为了揭示安全漏洞并帮助开发强大的深度学习系统,我们对针对深度学习的攻击进行了调查,并分析了这些攻击,以从多个角度总结一些发现。特别是,我们关注与深度学习的安全威胁相关的四种类型的攻击:模型窃取攻击,模型反演攻击,中毒攻击和对抗攻击。对于每种类型的攻击,我们构建其基本工作流程以及对手的能力和攻击目标。设计了枢轴指标来比较攻击方法,通过这些指标我们进行了定量和定性分析。通过分析,我们确定了攻击媒介中重要且不可或缺的因素,例如,如何减少对目标模型的查询,应该使用什么距离来测量扰动。我们揭示了18个发现,涵盖这些方法的优点和缺点,成功的概率,部署的复杂性和前景。此外,我们还讨论了其他潜在的安全弱点和可能的缓解措施,可以激发在这一领域的相关研究。
2020-10-27 cs.CR cs.LG
Formalization of security
Max Planck Institute for Security and Privacy(马克斯·普朗克安全与隐私研究所);IMDEA Software Institute(IMDEA软件研究所)
本章围绕证明助手,介绍其在系统安全、基于语言的安全、安全编译、密码学领域用于验证安全属性及支持认证的应用。
2026-07-31 cs.CR cs.LO cs.PL
When Security Meets Usability: An Empirical Investigation of Post-Quantum Cryptography APIs
Royal Melbourne Institute of Technology(皇家墨尔本理工大学);University of Moratuwa(莫拉图瓦大学);ExeQuantum
通过实证评估开发者与后量子密码学API的交互,识别影响可用性的认知因素,并提出改进建议以促进PQC的采用。
2026-02-16 cs.CR cs.HC cs.SE
When Single Event Upset Meets Deep Neural Networks: Observations, Explorations, and Remedies
Zhejiang University(浙江大学);University of Notre Dame(圣母大学);Osaka University(大阪大学);Chongqing University(重庆大学)
深度神经网络已经证明了它在各种感知任务中的潜力,因此成为安全敏感系统中解释和数据处理的一个有吸引力的选择。然而,安全敏感系统不仅需要高的感知性能,而且在各种情况下设计鲁棒性。与以往从软件层面研究网络鲁棒性的工作不同,本文从硬件角度研究了单粒子翻转(SEU)引起的参数扰动(SIPP)对神经网络的影响.系统地定义了单粒子翻转的故障模型,并给出了对SIPP敏感度的定义,作为网络鲁棒性的度量。然后,我们能够分析探索网络的弱点,并总结SIPP对浮点参数中不同类型位的影响,同一网络中的逐层鲁棒性以及网络深度的影响的关键发现。基于这些发现,我们提出了两种补救解决方案来保护DNN免受SIP的影响,这可以将ResNet的准确性降低28%至0.27%,每个参数仅需0.24位SRAM面积开销。
2019-09-10 cs.CR cs.LG stat.ML
Syndrome decoding meets multiple instances
随机线性码的NP难译码问题是编码理论和密码学中的重要问题。特别是,这个问题支撑了许多基于代码的后量子密码方案的安全性。解决该问题的最新算法是信息伴随式解码算法及其高级变体。在这项工作中,我们考虑在多个实例设置的综合征解码。两种策略适用于不同的场景。第一种策略是借助预计算技术解决所有实例。我们调整了现有的框架,并区分离线阶段和在线阶段,以降低摊销的复杂性。进一步讨论了后量子方案对具体安全性的影响。第二个策略是从许多实例中解决一个。适应一些早期的算法的分析,我们讨论了使用先进的变种的有效性,并证实了相关的民间传说猜想。
2022-09-14 cs.CR cs.IT math.IT
When Physical Unclonable Function Meets Biometrics
San Jose State University(圣何塞州立大学)
随着新冠肺炎疫情席卷全球,医疗体系正在重塑,电子医疗概念更有可能被接受。可穿戴设备通常携带来自用户的敏感信息,这些信息暴露于安全和隐私风险。此外,用户一直担心在制造过程和供应商存储之间被假冒。因此,不仅保护个人数据正在成为一项重要义务,而且设备验证也是另一项挑战。为了解决生物特征认证和物理不可克隆功能(PUF)需要到位,以减轻用户的安全性和隐私。在生物识别模态中,基于心电图(ECG)的生物识别已经变得流行,因为它可以认证患者并监测患者的生命体征。然而,研究人员最近开始研究ECG生物识别系统的漏洞,并试图解决欺骗问题。此外,大多数可穿戴设备都配有CPU和内存。因此,基于易失性存储器(NVM)的PUF可以容易地放置在设备中以避免伪造。然而,许多研究对PUFs的不可克隆性提出了挑战。因此,对这些攻击进行仔细研究应足以满足这一需要。在本文中,我们的目的是提供一个全面的研究国家的最先进的发展论文的基础上,生物识别技术使硬件安全。
2020-12-14 cs.CR cs.CV
Translation Validation for Security Properties
安全编译旨在构建编译链,在将程序从源语言转换为目标语言时,这些编译链可以保持安全属性。最近的研究导致了安全编译原则的定义,如果满足这些原则,可以保证手头的编译链永远不会违反特定的安全属性系列。尽管如此,据我们所知,没有有效的程序可以检查编译链是否满足这些要求。在这里,我们概述了我们正在进行的受翻译验证启发的研究,以有效地检查这些原则之一。
2019-01-15 cs.CR cs.PL
A short review on Applications of Deep learning for Cyber security
Center for Computational Engineering and Networking (CEN)(计算工程与网络中心(CEN));Amrita School of Engineering(阿姆里塔工程学院);Amrita Vishwa Vidyapeetham(阿姆里塔大学)
深度学习是传统机器学习的先进模型。这具有从原始输入样本中提取最佳特征表示的能力。这已经应用于网络安全中的各种用例,例如入侵检测,恶意软件分类,Android恶意软件检测,垃圾邮件和网络钓鱼检测以及二进制分析。本文概述了与各种网络安全用例的基于深度学习的解决方案相关的所有工作的调查。保留字:深度学习、入侵检测、恶意软件检测、Android恶意软件检测、垃圾邮件和网络钓鱼检测、流量分析、二进制分析。
2019-01-30 cs.AI cs.CR cs.LG
Using Deep Learning to Solve Computer Security Challenges: A Survey
虽然使用机器学习技术来解决计算机安全挑战并不是一个新的想法,但迅速兴起的深度学习技术最近引发了计算机安全社区的大量兴趣。本文旨在提供一个专门的审查最近的研究工作,使用深度学习技术来解决计算机安全挑战。特别是,该评论涵盖了深度学习应用程序解决的八个计算机安全问题:面向安全的程序分析,防御面向返回的编程(ROP)攻击,实现控制流完整性(CFI),防御网络攻击,恶意软件分类,基于系统事件的异常检测,内存取证和模糊软件安全。
2021-02-22 cs.CR
When an attacker meets a cipher-image in 2018: A Year in Review
本文旨在从图像密码分析师的角度回顾攻击者遇到2018年提出的图像加密方案(算法)加密的密码图像时遇到的技术矛盾。选取其中最具代表性的作品,按其基本结构进行分类。几乎所有在2018年出版的图像密码分析作品都被调查,因为它们数量很少。总结了图像加密方案设计和分析中的挑战性问题,以期引起图像加密方案设计者和攻击者(密码分析者)的关注,促进新技术在图像安全领域的应用。
2019-06-05 cs.CR
The Faults in Our Pi Stars: Security Issues and Open Challenges in Deep Reinforcement Learning
Kansas State University(堪萨斯州立大学)
自深度强化学习(DRL)算法问世以来,研究和工业界对这种范式的潜力越来越感兴趣。深度RL的当前和预期应用范围从自主导航和机器人到关键基础设施、空中交通管制、国防技术和网络安全中的控制应用。虽然深度强化学习算法的机会和优势是巨大的,但这些算法中的安全风险和问题在很大程度上仍未被探索。为了促进和激励这些关键挑战的进一步研究,本文提出了一个基本的处理DRL的安全问题。我们制定了DRL的安全需求,并通过对漏洞、攻击向量和对抗能力的分类和识别提供了一个高级威胁模型。此外,我们从进攻和防御的角度对当前关于深度RL安全性的文献进行了回顾。最后,我们列举了缓解和预防针对深度RL的故意攻击的关键研究场所和开放问题,作为该领域进一步研究的路线图。
2018-10-23 cs.CR cs.LG stat.ML
A critique of the DeepSec Platform for Security Analysis of Deep Learning Models
Google Research(谷歌研究院)
在IEEE S&P 2019上,论文《DeepSec:深度学习模型安全分析的统一平台》旨在“系统地评估现有的对抗攻击和防御方法。“虽然这篇论文的目标值得称赞,但它未能实现这些目标,并提出了根本上有缺陷和误导性的结果。我们解释了DeepSec工作中的缺陷,以及它的分析如何未能有意义地评估各种攻击和防御。具体来说,DeepSec(1)使用针对不设防模型的攻击来评估每个防御系统;(2)使用严重低估其有效性的错误实现来评估攻击和防御;(3)将每个防御系统的鲁棒性作为平均值进行评估,而不是基于对该防御系统的最有效攻击;(4)错误地执行了几次统计分析,并且未能报告方差;(5)由于这些错误,得出无效的结论,并作出笼统的概括。
2019-05-17 cs.AI cs.CR cs.LG
Evaluating Explanation Methods for Deep Learning in Security
Technische Universität Braunschweig(布伦瑞克工业大学);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
深度学习越来越多地被用作安全系统的构建块。不幸的是,神经网络很难解释,并且通常对从业者来说是不透明的。机器学习社区已经开始通过开发解释神经网络预测的方法来解决这个问题。虽然这些方法中的一些已经成功地应用于计算机视觉领域,但它们在安全方面的应用迄今为止很少受到关注。哪种解释方法适合于计算机安全,以及它们需要满足什么要求,这是一个悬而未决的问题。在本文中,我们介绍了在计算机安全的背景下比较和评估解释方法的标准。这些属性包括一般属性,例如解释的准确性,以及以安全为重点的方面,例如完整性,效率和鲁棒性。基于我们的标准,我们调查了六种流行的解释方法,并评估它们在恶意软件检测和漏洞发现的安全系统中的实用性。我们观察到的方法之间的显着差异,并建立在这些基础上,以获得一般性的建议,选择和应用解释方法在计算机安全。
2020-04-27 cs.CR cs.LG stat.ML
Electronic, Wireless, and Photonic Network-on-Chip Security: Challenges and Countermeasures
片上网络(NoC)是新兴的众核计算芯片的组成部分。它们在促进处理核心之间以及核心与存储器之间的通信方面发挥着关键作用。为了满足机器学习和大数据应用的积极性能和能效目标,NoC一直在发展,以利用新兴的范例,如硅光子学和无线通信。这些NoC结构越来越容易受到安全漏洞的影响,例如来自硬件特洛伊木马的攻击,这些木马可以窥探、破坏或破坏NoC上的信息传输。本文综述了电子,无线和光子NoCs的安全挑战和对策。
2022-08-18 cs.AR cs.CR
When Homomorphic Cryptosystem Meets Differential Privacy: Training Machine Learning Classifier with Privacy Protection
机器学习(ML)分类器是已在许多领域中使用的宝贵构建块。从多个数据提供者收集的高质量训练数据集对于训练准确的分类器是必不可少的。然而,由于训练数据集中敏感信息的潜在泄漏,它引起了对数据隐私的关注。现有的研究已经提出了许多ML分类器隐私保护训练的解决方案,但在准确性,计算效率和安全性之间取得平衡仍然是一项具有挑战性的任务。在本文中,我们提出了Heda,一个有效的隐私保护计划训练ML分类器。Heda将同态密码体制(HC)与差分隐私(DP)相结合,在效率和准确性之间取得了折衷,并通过参数调整实现了不同折衷之间的灵活切换。为了使这种组合有效和可行,我们提出了新的设计的基础上HC和DP:提出了一个库的基础上部分HC构建块构建复杂的训练算法,而不引入可信的第三方或计算松弛;提出了一套理论方法,以确定适当的隐私预算,并降低敏感性。安全性分析表明,该方案可以安全地构造复杂的ML训练算法。大量的实验结果表明了该方案的有效性和效率。
2018-12-06 cs.CR
When Distributed Ledger Technology meets Internet of Things -- Benefits and Challenges
学术界和工业界对在物联网领域采用分布式账本技术来解决安全相关和性能挑战的兴趣越来越大。分布式账本技术使不受信任的实体能够通过加密安全和不可变的账本以完全分布式的方式进行通信并达成共识。然而,出现了主要与事务处理速度和用户隐私相关的重大挑战。这项工作探讨了物联网和分布式账本技术之间的相互作用,分析了这项技术的基本特征,并讨论了相关的好处和挑战。
2020-08-28 cs.CR cs.NI
Adversarial Security Attacks and Perturbations on Machine Learning and Deep Learning Methods
Southern New Hampshire University(南新罕布什尔大学)
不断增长的大数据和新兴的人工智能(AI)需要使用机器学习(ML)和深度学习(DL)方法。网络安全也受益于ML和DL方法用于各种类型的应用。然而,这些方法容易受到安全攻击。攻击者可以利用学习模型的训练和测试数据,或者可以探索这些模型的工作原理,以发动未来的高级攻击。ML和DL领域内的对抗性安全攻击和扰动是最近的探索,安全研究人员和实践者对此表示了极大的兴趣。文献涵盖了ML和DL方法的不同对抗性安全攻击和扰动,这些攻击和扰动有自己的表现风格和优点。需要审查和巩固的知识,是理解这一日益集中和不断增长的研究课题;然而,是研究界目前的需求。在这篇综述论文中,我们专门针对网络安全领域的新研究人员,他们可能会寻求获得有关机器学习和深度学习模型和算法的一些基本知识,以及一些相关的对抗性安全攻击和扰动。
2019-07-17 cs.CR cs.LG stat.ML
Security Risks in Deep Learning Implementations
深度学习算法的进步掩盖了软件实现中的安全风险。本文公开了流行的深度学习框架(包括Caffe、TensorFlow和Torch)中的一组漏洞。与深度学习模型的小代码大小相比,这些深度学习框架非常复杂,并且严重依赖于大量的开源软件包。本文通过研究这些漏洞对话音识别和图像分类等常见深度学习应用程序的影响,来考虑这些漏洞造成的风险。通过利用这些框架实现,攻击者可以发起使深度学习应用程序崩溃或挂起的拒绝服务攻击,或者导致系统受损或识别规避的控制流劫持攻击。本文的目标是引起对软件实现的关注,并呼吁社区努力提高深度学习框架的安全性。
2017-11-29 cs.CR
The Security of Deep Learning Defences for Medical Imaging
Ben-Gurion University of the Negev(内盖夫本-古里安大学)
深度学习在医学图像分析领域显示出巨大的前景。医疗专业人员和医疗保健提供者一直在采用该技术来加快和加强他们的工作。这些系统使用深度神经网络(DNN),它容易受到对抗性样本的影响;图像具有不可感知的变化,可以改变模型的预测。研究人员提出了一些防御措施,可以使DNN更加强大,或者在对抗性样本造成伤害之前对其进行检测。然而,这些作品都没有考虑一个知情的攻击者,可以适应的防御机制。我们发现,一个知情的攻击者可以逃避五个当前最先进的防御,同时成功地欺骗受害者的深度学习模型,使这些防御无用。然后,我们建议更好的替代方案来保护医疗DNN免受此类攻击:(1)加强系统的安全性,(2)使用数字签名。
2022-01-21 cs.CR cs.LG eess.IV
Exploratory analysis of a measurement scale of an information security management system
本研究针对墨西哥东北部两所高校的143名受访者开展调研,验证了含24个题项、四大因子的IM-ISMS测量量表的效度与信度,该量表符合ISO相关标准要求,可用于ISMS实施阻碍因素分析。
2023-06-12 cs.CR
Machine and Deep Learning for IoT Security and Privacy: Applications, Challenges, and Future Directions
Institute of Information and Communication Technology (IICT), Bangladesh University of Engineering and Technology (BUET)(孟加拉国工程技术大学信息与通信技术研究所)
物联网(IoT)的集成将许多智能设备连接起来,最大限度地减少了人为干扰,可以相互交互。物联网正在计算机科学领域迅速兴起。然而,部署此类计划所涉及的多学科元素和物联网系统的交叉设计带来了新的安全问题。无效的是安全协议的实施,即,物联网系统的认证、加密、应用程序安全和接入网络以及它们在安全方面的基本弱点。当前的安全方法也可以得到改进,以有效保护物联网环境。近年来,深度学习(DL)/机器学习(ML)在各种关键实现中取得了显著进展。因此,DL/ML方法对于将物联网系统保护从简单地实现物联网系统之间的安全联系转变为安全的智能系统至关重要。本文旨在对ML系统进行广泛的分析,并对DL方法的最新发展进行分析,以改进增强的物联网设备保护方法。另一方面,物联网证券在机器和深度学习方面的各种新见解说明了它如何帮助未来的研究。识别与新兴或基本威胁相关的物联网保护风险,以及未来的物联网设备攻击和与每个表面相关的可能威胁。然后,我们仔细分析了DL和ML物联网保护方法,并介绍了每种方法的优点、可能性和弱点。本次审查讨论了一些潜在的挑战和局限性。还包括DL/ML在物联网安全中的未来工作,建议和建议。
2022-10-24 cs.CR cs.LG cs.NI
A Survey of Machine and Deep Learning Methods for Internet of Things (IoT) Security
Qatar University(卡塔尔大学);Temple University(天普大学);University of Idaho(爱达荷大学)
物联网(IoT)集成了数十亿个智能设备,这些设备可以在最少的人为干预下相互通信。它是计算计算史上发展最快的领域之一,预计到2020年底将有500亿台设备。一方面,物联网在增强几个可以提高生活质量的现实智能应用方面发挥着至关重要的作用。另一方面,物联网系统的交叉性和部署此类系统所涉及的多学科组件带来了新的安全挑战。为物联网设备及其固有漏洞实施加密、身份验证、访问控制、网络安全和应用程序安全等安全措施是无效的。因此,应加强现有的安全方法,以有效地保护物联网系统。机器学习和深度学习(ML/DL)在过去几年中取得了长足的进步,机器智能已经从实验室好奇心转变为几个重要应用中的实用机器。因此,ML/DL方法对于将物联网系统的安全性从仅仅促进设备之间的安全通信转变为基于安全的智能系统非常重要。这项工作的目标是提供ML /DL方法的全面调查,这些方法可用于为物联网系统开发增强的安全方法。提出了与固有或新引入的威胁相关的物联网安全威胁,并讨论了各种潜在的物联网系统攻击面以及与每个面相关的可能威胁。然后,我们全面回顾了用于物联网安全的ML/DL方法,并介绍了每种方法的机会、优点和缺点。我们讨论了将ML/DL应用于物联网安全的机遇和挑战。这些机遇和挑战可以作为未来潜在的研究方向。
2018-07-29 cs.CR cs.LG cs.NI
Emerging Threats in Deep Learning-Based Autonomous Driving: A Comprehensive Survey
Hubei University(湖北大学)
自2004年DARPA Grand Challenge以来,自动驾驶技术已经经历了近二十年的快速发展。特别是近年来,随着新型传感器和深度学习技术的应用向自动驾驶领域延伸,自动驾驶技术的发展不断取得突破。因此,许多汽车制造商和高科技巨头致力于自动驾驶的研究和系统开发。然而,作为自动驾驶的基础,深度学习技术面临着许多新的安全风险。学术界针对对抗性示例和AI后门提出了深度学习对策,并将其引入自动驾驶领域进行验证。深度学习安全关系到自动驾驶系统的安全,进而关系到人身安全,是一个值得关注和研究的问题,本文综述了自动驾驶中深度学习安全技术的概念、发展和最新研究。首先,我们简要介绍了自动驾驶系统中的深度学习框架和流水线,主要包括该领域常用的深度学习技术和算法。此外,我们还重点分析了基于深度学习的自动驾驶系统在各个功能层中的潜在安全威胁。本文回顾了自动驾驶领域深度学习攻击技术的发展历程,分析了当前自动驾驶领域的最新算法,揭示了其潜在的风险。最后,我们对自动驾驶领域的深度学习安全性进行了展望,并为构建安全可信的自动驾驶系统提出了建议。
2022-10-19 cs.AI cs.CR cs.LG
Deep Reinforcement Learning for Cyber Security
Deakin University(迪肯大学);Harvard University(哈佛大学)
互联网连接系统的规模已经大大增加,这些系统比以往任何时候都更容易受到网络攻击。网络攻击的复杂性和动态性要求保护机制具有响应性、自适应性和可扩展性。机器学习,或者更具体地说,深度强化学习(DRL)方法已经被广泛提出来解决这些问题。通过将深度学习结合到传统的强化学习中,DRL具有很强的能力来解决复杂的、动态的,尤其是高维的网络防御问题。本文介绍了一个调查的DRL方法开发的网络安全。我们触及不同的重要方面,包括基于DRL的网络物理系统的安全方法,自主入侵检测技术,以及基于多代理DRL的博弈论模拟防御网络攻击的策略。对基于DRL的网络安全进行了广泛的讨论和未来的研究方向。我们期望这次全面的审查为未来探索新兴DRL的潜力以应对日益复杂的网络安全问题的研究提供基础和促进。
2021-11-02 cs.AI cs.CR cs.LG
Deep-Net: Deep Neural Network for Cyber Security Use Cases
Centre for Computational Engineering and Networking (CEN), Amrita School of Engineering(阿姆里塔工程学院计算工程与网络中心(CEN));Arnekt Solutions Pvt Ltd(Arnekt解决方案私人有限公司);National Institute of Technology, Karnataka(卡纳塔克邦国家理工学院)
深度神经网络(DNN)在今年已经成为解决长期存在的人工智能(AI)监督和无监督任务的强大方法,这些任务存在于自然语言处理、语音处理、计算机视觉等领域。在本文中,我们尝试将DNN应用于三种不同的网络安全用例:Android恶意软件分类,事件检测和欺诈检测。每个用例的数据集包含真实的已知良性和恶意活动样本。通过对网络参数和网络结构进行各种实验,选择了DNN的有效网络结构。DNN的这种选择的有效配置的实验运行到1000个时期,学习率设置在范围[0.01-0.5]中。在网络安全用例的所有实验情况下,与经典的机器学习算法相比,DNN的实验表现良好。这是因为DNN隐式地提取和构建更好的特征,识别数据的特征,从而提高准确性。DNN和XGBoost在Android恶意软件分类上获得的最佳准确率分别为0.940和0.741,事件检测分别为1.00和0.997,欺诈检测分别为0.972和0.916。
2018-12-09 cs.CL cs.CR cs.LG
When HTTP 402 Meets the Blockchain: Risks on Emerging x402 Payments
EPFL(洛桑联邦理工学院);Zhejiang University(浙江大学)
研究x402支付协议,通过系统研究确定促进者的安全规则,基于规则违规分析得出新攻击向量,提出半自动黑盒工具评估安全性,发现部署均有违规,还通过实证测量量化相关指标,揭示其安全风险。
2026-07-23 cs.CR
Systematic Meets Unintended: Prior Knowledge Adaptive 5G Vulnerability Detection via Multi-Fuzzing
针对5G安全研究缺乏整体视角的问题,提出系统性多模糊测试方法,通过LAL、SyAL和SoAL三种策略自适应不同先验知识条件,有效发现并预测5G漏洞,实现实时检测与主动防御。
2024-01-05 cs.CR
When Energy Trading meets Blockchain in Electrical Power System: The State of the Art
随着可再生能源的快速增长,能源交易开始从集中式向分布式转变。区块链作为一种分布式公共账本技术,已被广泛用于设计新能源交易方案。然而,基于区块链的能源交易存在许多挑战性问题,即,低效率、高交易成本、安全和隐私问题。为了应对上述挑战,已经提出了许多解决方案。在这项调查中,对电力系统中基于区块链的能源交易进行了深入研究。首先,确定了基于区块链的能源交易面临的挑战。然后,现有的能源交易方案进行了研究,并根据其主要焦点分为三类:能源交易,共识机制,系统优化。每个类别都详细介绍。尽管现有方案能够满足特定的能源交易要求,但仍存在许多未解决的问题。最后,讨论和未来的发展方向。
2019-02-19 cs.CR
Secure Watermark for Deep Neural Networks with Multi-task Learning
深度神经网络在许多实际应用中发挥着重要作用。在用丰富的数据和计算资源训练后,提供服务的深度神经网络模型被赋予了经济价值。商业化和保护深度神经网络的一个重要前提是可靠地识别其真正的作者。为了实现这一目标,人们提出了将作者身份信息嵌入到网络中的水印方案。然而,目前的计划很难满足所有必要的要求,安全地证明作者,主要集中在模型的分类。为了明确地满足安全需求的形式化定义并增加深度神经网络水印方案的适用性,我们提出了一种基于多任务学习的新框架。通过将水印嵌入视为一项额外的任务,大多数安全要求都是明确制定的,并通过精心设计的正则化器来满足,其余的则通过使用密码学组件来保证。此外,一个分散的验证协议,提出了标准化的所有权验证。实验结果表明,该方案具有灵活性、安全性和鲁棒性,是深度学习模型保护的一种有效方案.
2021-12-26 cs.CR
SOK: Building a Launchpad for Impactful Satellite Cyber-Security Research
随着航天工业进入一个快速变化的时期,确保新兴和传统卫星任务的安全将变得至关重要。然而,系统安全界在很大程度上忽视了空间技术。这篇知识系统化的论文试图理解为什么会出现这种情况,并为技术安全研究人员寻求地球中间层以外的有影响力的贡献提供一个起点。本文首先对来自不同领域的相关威胁模型进行了跨学科综合,从法律和政策研究到航空航天工程。这是一个“威胁矩阵工具箱”,安全研究人员可以利用它来激励对给定攻击向量和防御的技术研究。随后,我们将此模型应用于过去60年来100多起重大卫星黑客事件的原始年表。这些指标共同用于评估四个子域的卫星安全最新水平:卫星无线电链路安全、空间硬件安全、地面站安全和操作/任务安全。在每一个领域,我们都注意到了系统安全社区正准备解决的其他学科中存在的重大发现和未解决的问题。通过巩固这项研究,我们提出了卫星系统安全研究人员可以建立在强大但不同的学术基础上,并满足未来太空任务的迫切需求。
2020-10-21 cs.CR
A Triangular Fuzzy based Multicriteria Decision Making Approach for Assessing Security Risks in 5G Networks
新兴的5G网络是继1G、2G、3G和4G网络之后的新的全球无线标准。与4G相比,它具有更低的延迟,更大的容量和更多的带宽。这些网络升级将对全世界人民的生活和工作方式产生深远影响。目前的研究调查了保护5G网络的机制,以满足弹性要求,并最大限度地减少攻击造成的损害。本文的主要贡献包括:(1)改进了现有的5G安全测试床,使用OSM和Open stack编排安全服务,将FlexRan与测试床组件集成以控制和管理eNodeB,并实现了一些实时安全实验来测试和验证测试床。(2)开发一种智能模糊方法,使用一种新方法来提高当前漏洞评估方法(VAA)的准确性,该方法集成了三角模糊数(TFN)和多标准决策技术,以找到攻击最有可能在5G网络中传播的攻击图路径。
2021-12-24 cs.CR
Enhancing Secrecy in UAV RSMA Networks: Deep Unfolding Meets Deep Reinforcement Learning
本文研究多无人机RSMA网络中的保密速率最大化问题,提出结合深度展开与DDPG的多智能体深度强化学习框架DUN-DRL,联合优化波束成形、速率分配与轨迹,性能优于现有DRL方法。
2023-09-30 cs.CR cs.ET cs.NI
Towards Practical Watermark for Deep Neural Networks in Federated Learning
随着深度神经网络的广泛应用,验证主机对深度神经网络模型的拥有并保护该模型变得非常重要。为实现这一目标,设计了各种机制。通过将额外的信息嵌入到网络中并在之后揭示它,水印成为证明深度学习系统完整性的竞争候选者。然而,并发水印方案很难采用新兴的分布式学习范式,提高额外的要求,在所有权验证。一个领先的分布式学习范例是联邦学习(FL),其中多方参与训练一个单一的模型。参与FL的每个作者都应该能够独立验证其所有权。此外,在此场景下还存在其他潜在威胁和相应的安全需求。为了满足这些要求,在本文中,我们展示了一个水印协议,用于保护深层神经网络在FL的设置。通过将国家的最先进的水印方案和密码原语设计的分布式存储,该协议满足所有权验证的FL场景中的需要,而不侵犯每个参与者的隐私。这项工作为将水印推广为分布式学习平台中保护深度学习模型的实用安全机制铺平了道路。
2021-07-16 cs.CR
Cyber Security issues and Blockchain-Deep Learning based solutions for UAV and Internet of Drones (FANETs)
本文探讨无人机网络(FANETs)的网络安全问题,提出基于区块链与深度学习的解决方案,以提升传感器等关键组件的抗攻击能力与数据可信度。
2024-02-29 cs.CR eess.SP
Task Offloading in Fog Computing with Deep Reinforcement Learning: Future Research Directions Based on Security and Efficiency Enhancements
本文综述并展望深度强化学习在雾计算任务卸载中的应用,提出融合区块链与节能模型,以提升效率、安全性及物联网系统性能。
2024-07-26 cs.CR
Security Vulnerability Detection Using Deep Learning Natural Language Processing
Ball State University(鲍尔州立大学);Illinois State University(伊利诺伊州立大学)
几十年来,在软件被利用之前检测软件中的安全漏洞一直是一个具有挑战性的问题。传统的代码分析方法已经被提出,但通常是无效和低效的。在这项工作中,我们将软件漏洞检测建模为一个自然语言处理(NLP)问题,将源代码视为文本,并使用最近先进的深度学习NLP模型,辅以书面英语的迁移学习,来解决自动化软件venerability检测问题。为了进行培训和测试,我们对NIST NVD/SARD数据库进行了预处理,并使用$C$程序设计语言构建了一个包含123种漏洞的10万多个文件的数据集。大量的实验表明,该算法在安全漏洞检测中的准确率达到了93%以上。
2021-05-06 cs.AI cs.CR
Exploiting ergodicity of the logistic map using deep-zoom to improve security of chaos-based cryptosystems
研究了混沌k-logistic映射的深度缩放特性,提出了一种改进的混沌密码系统。这张地图增强了Logistic地图的随机性,同时降低了其轨道的可预测性。我们将其优点,安全性到以前公布的密码系统,以提供一个最佳的伪随机数发生器(PRNG)作为其核心操作。结果是一种可靠的方法,没有以前报道的关于原始密码系统的弱点。
2018-09-12 cs.CR nlin.CD
Deep Learning Approach for Intelligent Named Entity Recognition of Cyber Security
Amrita School Of Engineering, Amrita Vishwa Vidyapeetham(阿姆里塔大学阿姆里塔工程学院);Cincinnati Children’s Hospital Medical Centre(辛辛那提儿童医院医疗中心)
近年来,以非结构化文本形式(例如社交媒体资源、博客、文章等)生成的网络安全数据量异常增加。命名实体识别(NER)是将非结构化数据转换为可供许多应用程序使用的结构化数据的第一步。现有的网络安全数据的NER方法是基于规则和语言特征的。提出了一种嵌入条件随机场的基于深度学习的方法。评估了几种DL架构以找到最佳架构。双向门控递归单元(Bi-GRU)、卷积神经网络(CNN)和CRF的组合在公开可用的基准数据集上与各种其他DL框架相比表现更好。这可能是因为双向结构保留了与序列中的未来和先前单词相关的特征。
2020-03-31 cs.CL cs.CR cs.LG
AI Security Research Should Better Incentivize Defense Research
The Hong Kong Polytechnic University(香港理工大学)
本文通过分析AI安全研究中攻击与防御论文的不平衡比例,指出攻击论文在有利条件下夸大威胁而防御标准严苛,导致防御研究薄弱,呼吁激励防御研究。
2026-10-01 cs.AI cs.CR
Securing Tomorrow's Smart Cities: Investigating Software Security in Internet of Vehicles and Deep Learning Technologies
本文献综述探讨了深度学习在车联网系统中引发的固有安全漏洞与威胁(如对抗性攻击和模型中毒),分析了其对入侵检测等关键安全方面的影响,并强调需开发新型安全解决方案以增强DL赋能的IoV环境的安全性与弹性。
2024-07-23 cs.CR cs.SE
PatchRNN: A Deep Learning-Based System for Security Patch Identification
随着开源软件(OSS)组件的使用越来越多,嵌入其中的漏洞被传播到大量的底层应用程序。在实践中,在下游软件中及时应用安全补丁具有挑战性。主要原因是这些补丁没有在文档中明确指出它们的安全影响,这对于软件维护者和用户来说很难识别。然而,攻击者仍然可以通过分析源代码来识别这些“秘密”安全补丁,并生成相应的漏洞利用程序,不仅危害当前软件的未打补丁版本,而且危害可能由于代码克隆或类似设计/实现逻辑而包含相同漏洞的其他类似软件包。因此,识别这些秘密安全补丁以及时修复至关重要。为此,我们提出了一个基于深度学习的防御系统PatchRNN,用于自动识别OSS中的秘密安全补丁。除了考虑提交消息中的描述性关键字(即,在文本级别),我们在源代码级别利用语法和语义特征。为了评估我们的系统的性能,我们将其应用于一个大规模的真实世界的补丁数据集,并进行一个流行的开源Web服务器软件- NGINX的案例研究。实验结果表明,PatchRNN能够成功地检测出秘密安全补丁,且误报率较低。
2023-01-05 cs.CR cs.SE