Masking Countermeasures Against Side-Channel Attacks on Quantum Computers
本研究提出修改量子计算机转译器的掩码防御方案,可在特定门集合可防护的前提下,通过深度线性增长的转译电路隐藏量子电路信息,并在IBM量子计算机上验证了实现可行性。
2025-01-13 cs.CR quant-ph
PowerHammer: Exfiltrating Data from Air-Gapped Computers through Power Lines
在本文中,我们提供了PowerHammer的实现、评估和分析,PowerHammer是一种恶意软件(Bridgeware [1]),它使用电力线从空气间隙的计算机中窃取数据。在这种情况下,在受损计算机上运行的恶意代码可以通过故意调节CPU利用率来控制系统的功耗。数据在电流波动的基础上进行调制、编码和传输,然后通过电力线进行传导和传播。这种现象被称为“传导发射”。我们提出了两个版本的攻击。线路水平的强力锤击:在这种攻击中,攻击者敲击直接连接到电源插座的家庭电源线1。相级电力锤击:在这种攻击中,攻击者在主电气服务面板的相级电力线上敲击。在这两种版本的攻击中,攻击者测量所进行的发射,然后解码泄露的数据。我们描述了对抗攻击模型,并提出了调制和编码方案以及传输协议。我们在不同的情况下评估隐蔽信道,并讨论信噪比(SNR),信号处理和干扰形式。我们还提出了一套防御对策。我们的研究结果表明,二进制数据可以秘密地从空气间隙的计算机通过电力线泄漏的比特率为1000位/秒的线路级功率锤击攻击和10位/秒的相位级功率锤击攻击。
2018-04-10 cs.CR
Exploration of Quantum Computer Power Side-Channels
本研究首次证明功率侧信道攻击可针对量子计算机,通过分析控制脉冲逆向工程电路与算法,提出五种攻击并给出防御方法。
2023-05-09 cs.CR quant-ph
Unscrambling the Rectification of Adversarial Attacks Transferability across Computer Networks
University of Leeds(利兹大学);Bahcesehir University (BAU)(巴切谢希尔大学);Cyber Science Lab(网络科学实验室);University of Guelph(圭尔夫大学)
该研究针对CNN在网络安全等领域的对抗攻击脆弱性,提出评估攻击强度变化下对抗样本迁移性的方法,验证了多种攻击在计算机网络数据集上的迁移性提升,凸显了研发新型防御机制的必要性。
2023-10-26 cs.AI cs.CR cs.LG
Anticipating Decoder Side-channel Attacks in Fault-tolerant Quantum Computers
University College London(伦敦大学学院);Keio University(庆应义塾大学)
该研究针对容错量子计算机,识别出利用解码器系统边信道攻击的新类型。引入门指纹概念,通过Clifford+T计算展示其产生方式,探讨利用门指纹信息推断计算,发现解码器系统易遭攻击,建议由可信方构建或保护。
2026-07-15 cs.CR quant-ph
Demystifying the Transferability of Adversarial Attacks in Computer Networks
Sabanci University(萨班哲大学);University of Padua(帕多瓦大学);Moulay Ismail University of Meknes(梅克内斯穆莱·伊斯梅尔大学);Florida International University(佛罗里达国际大学)
卷积神经网络(CNN)模型是最常用的深度学习网络之一,广泛应用于学术界和工业界。最近的研究表明,针对此类模型的对抗攻击即使在攻击者所针对的模型之外的模型上使用,也可以保持其有效性。这个主要的属性被称为可转移性,这使得CNN不适合安全应用。在本文中,我们提供了第一项全面的研究,评估了基于CNN的计算机网络模型针对对抗性可转移性的鲁棒性。此外,我们调查的可转移性的财产问题是否持有在计算机网络的应用。在我们的实验中,我们首先考虑五种不同的攻击:迭代快速梯度方法(I-FGSM),基于雅可比的显着图(JSMA),有限内存Broyden Fletcher Goldfarb Shanno BFGS(L-BFGS),投影梯度下降(PGD)和DeepFool攻击。然后,我们对三个众所周知的数据集执行这些攻击:基于网络的物联网检测(N-BaIoT)数据集,域生成算法(DGA)数据集和RIPE Atlas数据集。我们的实验结果清楚地表明,可转移性发生在I-FGSM,JSMA和LBFGS攻击的特定用例中。在这种情况下,目标网络上的攻击成功率从63.00%到100%不等。最后,我们提出了两种屏蔽策略,通过考虑最强大的攻击(MPA)和不匹配的LSTM架构来阻止攻击的可转移性。
2022-03-31 cs.AI cs.CR cs.CV
VPI-Bench: Visual Prompt Injection Attacks for Computer-Use Agents
National University of Singapore(国立新加坡大学);Cyber Emerging Tech and R&D Co(网络安全与研发公司)
本文提出VPI-Bench基准,用于评估计算机使用代理和浏览器使用代理在视觉提示注入攻击下的鲁棒性,发现当前代理在某些平台上被欺骗率达51%和100%。
2026-03-01 cs.AI cs.CR
Towards an Antivirus for Quantum Computers
研究人员正在探索基于云的量子计算机使用模型,其中多租户可用于在多个用户之间共享量子计算机硬件。多租户有希望更好地利用量子计算机硬件,但也为量子计算机打开了新类型的安全攻击。正如这个和其他最近的研究表明,当受害者和攻击者电路被实例化为同一量子计算机上的共同租户时,可以在量子计算机上使用串扰执行故障注入攻击。为了确保这种攻击不会发生,本文提出应该开发新技术,以帮助在恶意电路加载到量子计算机硬件之前捕获它们。遵循经典计算机的思想,可以设计一种编译时技术,在量子计算机程序被编译成在量子计算机上运行的量子电路之前,扫描量子程序中的恶意或可疑代码模式。本文介绍了正在进行的工作,演示了串扰如何影响Grover的算法,然后提出了如何分析量子程序以捕获恶意产生大量串扰的电路的建议。
2022-03-05 cs.CR
Temporal UI State Inconsistency in Desktop GUI Agents: Formalizing and Defending Against TOCTOU Attacks on Computer-Use Agents
University of California, San Diego(加州大学圣地亚哥分校)
桌面GUI代理通过截图-点击循环控制电脑,引入了新的漏洞:观察到动作之间的时间间隙(平均6.51秒)创建了TOCTOU窗口,允许未授权攻击者操纵UI状态。本文形式化了这一现象为视觉原子性违规,并提出了三种具体攻击原语,提出了PUSV防御机制,有效拦截了所有攻击。
2026-04-20 cs.AI cs.CR
Adversarial Machine Learning for Cybersecurity and Computer Vision: Current Developments and Challenges
Purdue University(普渡大学)
我们提供了对抗性机器学习的全面概述,重点关注两个应用领域,即,网络安全和计算机视觉。对抗性机器学习的研究解决了机器学习技术广泛应用的重大威胁-它们容易受到恶意对手精心设计的攻击。例如,深度神经网络无法正确分类对抗性图像,这些图像是通过向干净图像添加不可感知的扰动而生成的。我们首先讨论针对机器学习技术的三大类攻击--中毒攻击、规避攻击和隐私攻击。然后介绍了相应的防御方法以及现有防御方法的不足和局限性。我们注意到网络安全和计算机视觉中的对抗性样本是根本不同的。虽然网络安全中的对抗性样本与训练数据相比通常具有不同的属性/分布,但计算机视觉中的对抗性图像是通过微小的输入扰动创建的。这进一步使鲁棒学习技术的开发复杂化,因为鲁棒学习技术必须承受不同类型的攻击。
2021-06-30 cs.CR cs.LG
Backdoor Attacks and Defenses in Computer Vision Domain: A Survey
本综述系统梳理计算机视觉后门攻击与防御,提出多维度分类法,总结代表性方法,识别供应链与硬件威胁等研究空白,并给出威胁感知评估与分层防御的实用指南。
2025-09-09 cs.CR
Quantum Circuit Reconstruction from Power Side-Channel Attacks on Quantum Computer Controllers
本文针对量子电路面临的功率侧信道攻击威胁,提出基于代数重构的两类单轨迹攻击方法,经32个真实基准电路验证可高精度重构量子电路,凸显了量子电路功率防护的必要性。
2025-02-24 cs.CR cs.ET
A Likelihood Ratio Detector for Identifying Within-Perimeter Computer Network Attacks
快速检测企业计算机网络防火墙内的攻击者是至关重要的。异常检测器通过量化与正常网络节点的基线统计模型的偏差并在观察到的数据显著偏离基线模型时发出入侵信号来解决这个问题。然而,许多异常检测器不考虑合理的攻击者行为。结果,异常检测器由于不寻常但良性的活动而容易出现大量误报。本文首先介绍了一个随机的攻击者行为模型,它是由现实世界的攻击者遍历。然后,我们开发了一个似然比检测器,比较观察到的网络行为的概率在正常条件下的情况下,当攻击者可能危及网络内的主机的子集。由于似然比检测器需要在每个主机被破坏的时间上进行积分,因此我们说明了如何使用Monte Carlo方法来计算所需的积分。然后,我们提出了各种网络参数化的受试者工作特征(ROC)曲线,表明对于任何真阳性率,似然比检测器的假阳性率不高于简单异常检测器的假阳性率,并且通常更低。我们的结论是,演示的优越性,提出的似然比检测器时,从现实世界的网络中提取的网络拓扑结构和参数。
2016-09-01 cs.CR
One-Pixel Attack Deceives Computer-Assisted Diagnosis of Cancer
JAMK University of Applied Sciences(JAMK应用科学大学);University of Jyväskylä(于韦斯屈莱大学)
计算机视觉和机器学习可用于自动化癌症诊断和检测中的各种任务。如果攻击者可以操纵自动化处理,结果可能是毁灭性的,在最坏的情况下会导致错误的诊断和治疗。在这项研究中,我们的目标是在真实的病理数据集TUPAC16(由数字化的全切片图像组成)的真实场景中演示单像素攻击的使用。我们使用对抗图像攻击IBM CODAIT的MAX乳腺癌检测器。这些对抗性示例是使用差分进化对数据集中的图像进行单像素修改而发现的。结果表明,在分析下的整个载玻片图像的微小的一个像素的修改可以通过反转自动诊断结果来影响诊断。从网络安全的角度来看,这种攻击构成了威胁:单像素方法可以被有动机的攻击者用作攻击向量。
2021-11-02 cs.CR cs.CV cs.LG
NERVE Attacks: Breaking AI-Powered Brain-Computer Interfaces
Microsoft(微软);KTH Royal Institute of Technology(皇家理工学院);Nokia Bell Labs(诺基亚贝尔实验室);Technical University of Munich(慕尼黑工业大学);University of Cambridge(剑桥大学)
本文提出 NERVE 攻击类别,系统刻画脑机接口的五类攻击维度,并开发 EEGle 框架评估,发现 17 种新型攻击,揭示生成式 AI 降低了攻击门槛。
2026-09-09 cs.CR
A Tutorial on Network Security: Attacks and Controls
随着互联网的飞速发展,网络安全已经成为计算机和信息安全的重要组成部分。为了提出使网络更加安全的措施,重要的是要了解计算机网络中可能存在的漏洞,然后了解在此类网络中进行的典型攻击。本文的前半部分将向读者展示过去利用计算机网络典型漏洞的经典网络攻击,以及此后为防止或减少其中一些攻击的机会而采取的解决方案。本文的后半部分将向读者展示不同的网络安全控制,包括现代计算机网络中采用的网络体系结构、协议、标准和软件/硬件工具。
2014-12-07 cs.CR cs.NI
Active Learning for Black-Box Adversarial Attacks in EEG-Based Brain-Computer Interfaces
Huazhong University of Science and Technology(华中科技大学)
深度学习在许多领域取得了重大突破,包括基于脑电图(EEG)的脑机接口(BCI)。然而,深度学习模型容易受到对抗攻击的攻击,在这种攻击中,故意设计的小扰动被添加到良性输入样本中,以欺骗深度学习模型并降低其性能。本文考虑基于可转移性的黑盒攻击,攻击者训练替代模型来近似目标模型,然后从替代模型生成对抗性示例来攻击目标模型。学习一个好的替代模型对于这些攻击的成功至关重要,但它需要对目标模型进行大量的查询。我们提出了一个新的框架,使用查询合成的主动学习,以提高查询效率的训练替代模型。在三个卷积神经网络(CNN)分类器和三个EEG数据集上的实验表明,我们的方法可以在相同查询次数的情况下提高攻击成功率,或者换句话说,我们的方法需要更少的查询来实现期望的攻击性能。据我们所知,这是第一个为基于EEG的BCI集成主动学习和对抗攻击的工作。
2019-11-07 cs.CR cs.HC cs.LG
Designing a Mobile Game for Home Computer Users to Protect Against Phishing Attacks
本研究旨在设计一个教育性的手机游戏,以防止网络钓鱼攻击的家庭电脑用户。网络钓鱼是一种在线身份盗窃,旨在窃取受害者的用户名、密码和网上银行详细信息等敏感信息。为了防止这种情况,需要考虑网络钓鱼教育。手机游戏可以促进在自然环境中嵌入学习。本文介绍了一款基于故事的手机游戏设计,它简化并夸大了现实生活。我们使用来自技术威胁规避理论(TTAT)的理论模型来解决游戏设计问题,游戏设计原则被用作一组指导方针,用于结构化和呈现信息。整个手机游戏设计的目的是通过激励家庭计算机用户防范网络钓鱼威胁来增强规避行为。游戏原型设计在Google App Inventor Emulator上展示。我们相信,通过培训家庭计算机用户防范网络钓鱼攻击,将有助于使网络空间成为一个安全的环境。
2016-02-12 cs.CR cs.CY
State-of-the-art optical-based physical adversarial attacks for deep learning computer vision systems
Jinan University(暨南大学);Harbin Institute of Technology(哈尔滨工业大学);The University of Hong Kong(香港大学);Peng Cheng Laboratory(鹏城实验室)
本文综述面向深度学习计算机视觉系统的基于光学的非侵入式物理对抗攻击,强调其高隐蔽性、可执行性及现实安全威胁。
2023-03-22 cs.CR cs.CV eess.IV
Federated Learning Under Attack: Exposing Vulnerabilities through Data Poisoning Attacks in Computer Networks
Ravensbourne University London (RUL)(伦敦 Ravensbourne 大学);Bahcesehir University (BAU)(巴赫切谢希尔大学);University of Portsmouth(朴茨茅斯大学);University of Padua(帕多瓦大学);Delft University of Technology(代尔夫特理工大学)
本研究针对计算机网络领域联邦学习易受数据投毒攻击的问题,以新颖方式实施标签翻转和特征投毒攻击,在CIC、UNSW数据集上实验发现特征投毒攻击隐蔽性强、欺骗效果显著,暴露了联邦学习的相关脆弱性。
2024-03-05 cs.AI cs.CR cs.CY
A Multi-Model Hybrid Defense Approach Against White-box Adversarial Attacks in Computer Network Traffic
Aligarh Muslim University(阿里格尔穆斯林大学)
研究针对计算机网络流量白盒对抗攻击,提出多模型混合防御方法,结合对抗训练和高斯数据增强,有效减轻FGSM和C&W攻击影响,提升攻击后NIDS准确率,为对抗机器学习安全研究提供方向。
2026-07-21 cs.CR cs.LG
SynChain: Inducing Computer-Use Agent Systems to Construct Their Own Attack Chains
Nanyang Technological University(南洋理工大学);Xidian University(西安电子科技大学);Institute of Science Tokyo(东京科学大学)
该研究提出SynChain攻击范式,通过定向监督微调诱导计算机使用智能体构建含恶意内容的良性制品,在多模型多防御设置下实现高攻击成功率,揭示需对智能体跨任务执行轨迹做来源感知推理以保障安全。
2026-08-10 cs.CR
Precision-based attacks and interval refining: how to break, then fix, differential privacy on finite computers
尽管在十多年前就被提出来作为一个问题,但浮点运算的不精确性继续在差分私有噪声机制的实现中导致隐私失败。在本文中,我们强调了一类新的漏洞,我们称之为\emph{precision-based attacks},并影响几个开源库。为了解决这个漏洞,并实现差分浮点空间的私有机制在一个安全的方式,我们提出了一种新的技术,称为\emph{interval refining}。这种技术具有最小的错误,可证明的隐私和广泛的适用性。我们使用区间细化来设计和实现拉普拉斯机制的一个变体,相当于从拉普拉斯分布中采样并舍入为浮点数。我们报告了这种方法的性能,并讨论了如何使用区间细化来安全地实现其他机制,包括高斯机制和指数机制。
2022-07-27 cs.CR
PIXHELL Attack: Leaking Sensitive Information from Air-Gap Computers via `Singing Pixels'
提出PIXHELL攻击,利用屏幕像素图案诱发LCD电子元件发声,在无音频硬件条件下构建0–22 kHz隐蔽信道,2米外窃取气隙计算机数据。
2024-09-07 cs.CR
Securing HHL Quantum Algorithm against Quantum Computer Attacks
针对HHL量子算法在执行时面临的不当初始化攻击(IIA)和高能攻击(HEA),提出首个防御策略并实现整合该策略的新量子电路,经仿真与IBM硬件验证,修改小、保真度影响低且能自我检测攻击。
2025-04-14 cs.CR quant-ph
Crosstalk Attack Resilient RNS Quantum Addition
该研究针对离子阱量子计算机提出三种串扰攻击方式,验证其可显著降低量子全加器输出概率,并证明基于RNS的并行量子加法能有效提升抗串扰攻击能力。
2024-10-30 cs.CR quant-ph
ZoneClaw: Mitigating Persistent Memory Attacks by Establishing Memory-Zoning in OpenClaw-Style Computer-Use Agents
National University of Singapore(新加坡国立大学)
ZoneClaw通过分层信任区分离持久性与权威,阻止外部声明获得行动指导权,将攻击成功率从372/480降至6/480,同时保持高实用性。
2026-10-02 cs.CR
Adversarial Reinforcement Learning under Partial Observability in Autonomous Computer Network Defence
The University of Melbourne(墨尔本大学);Defence Science and Technology Group, Australian Department of Defence(澳大利亚国防部国防科技集团)
最近的研究表明,强化学习(RL)代理容易受到对抗性操纵的影响,类似于以前在监督学习环境中证明的漏洞。虽然大多数现有的工作在计算机视觉或控制台游戏的背景下研究这个问题,本文的重点是在部分可观察性下的自主网络防御中的强化学习。我们证明了在黑盒设置下,攻击者无法直接访问目标RL模型,即使攻击者只有部分环境的可观察性,因果攻击-针对训练过程的攻击-也可以毒害RL代理。此外,我们提出了一种反转防御方法,旨在将相反的扰动应用于攻击者可能用来生成其对抗样本的扰动。实验结果表明,该对策可以有效地减少因果攻击的影响,而不会显着影响非攻击场景下的训练过程。
2020-08-17 cs.CR cs.LG stat.ML
The Impostor Among US(B): Off-Path Injection Attacks on USB Communications
USB是现代计算机系统中最普遍的外围接口,其固有的不安全性使其成为吸引人的攻击媒介。USB的一个众所周知的限制是流量没有加密。这使得路径上的对手可以轻易地执行中间人攻击。破坏通信机密性的偏离路径攻击也被证明是可能的。然而,到目前为止,还没有发现破坏USB通信完整性的偏离路径攻击。在这项工作中,我们表明,USB通信的完整性是不能保证,即使对off-path attackers.Specifically,我们设计和构建恶意设备,即使当放置在受害者设备和主机之间的路径外,可以注入数据到该path. Using我们开发的注入器,我们可以伪造的数据输入的来源解释由主机计算机系统。通过代表受信任的受害者设备进行注入,我们可以绕过计算机系统针对常见USB攻击采用的任何基于软件的授权策略防御。我们展示了两个具体的攻击。第一个注入漏洞,允许攻击者执行命令。第二个演示了文件内容的替换,包括在系统安装过程中从USB磁盘。我们在29个USB 2.0和USB 3.x集线器上测试了攻击,发现其中14个是脆弱的。
2022-11-03 cs.CR
Software-based Microarchitectural Attacks
现代处理器是高度优化的系统,其中每个计算时间周期都很重要。许多优化取决于正在处理的数据。基于软件的微体系结构攻击利用了这些优化的效果。微体系结构侧信道攻击从密码计算、通用计算或内核泄漏秘密。这种泄漏甚至会在所有常见的隔离边界(如进程、容器和虚拟机)上持续存在。微体系结构故障攻击利用现代计算机系统的物理缺陷。收缩进程技术在孤立的硬件元素之间引入了影响,攻击者可以利用这些影响来控制整个系统。这些攻击在攻击者没有特权甚至是沙箱的情况下特别有趣。在这篇论文中,我们专注于商品系统的微架构攻击和防御。我们调查了已知的和新的侧通道,并表明微架构攻击可以完全自动化。此外,我们表明,这些攻击可以安装在高度受限的环境中,如网站中的沙箱JavaScript代码。我们表明,微架构攻击存在于任何现代计算机系统,包括移动设备(例如,智能手机)、个人计算机和商业云系统。本论文由两部分组成。在第一部分中,我们提供了现代处理器架构的背景,并讨论了最先进的攻击和防御领域的微架构侧信道攻击和微架构故障攻击。在第二部分中,我们的论文的选择提供没有修改,从他们的原始出版物。我与人合著了这些论文,这些论文随后经过匿名同行评审,被接受,并在著名的国际会议上发表。
2017-06-19 cs.CR
Employing Deep Ensemble Learning for Improving the Security of Computer Networks against Adversarial Attacks
Bahcesehir University(巴赫切谢希尔大学);University of Padua(帕多瓦大学);Sabanci University(萨班哲大学);Florida International University(佛罗里达国际大学)
本文提出结合1C安全性与2C性能的SPRITZ-1.5C集成分类器,通过CNN与自编码器组合抵御对抗攻击,实验显示其将I-FGSM攻击成功率从0.9900降至0.0000。
2023-04-17 cs.AI cs.CR cs.LG
Survey of Transient Execution Attacks
瞬时执行攻击,也称为推测执行攻击,由于它们利用指令的瞬时执行,在分支预测期间泄漏数据。瞬态执行是现代计算机体系结构的基础,但如已经证明的那样构成安全风险。自2018年1月首次披露Spectre和Meltdown攻击以来,已经出现了许多新的攻击类型或攻击变体。这些攻击促使计算机架构师重新思考处理器的设计并提出硬件防御。本文总结了瞬时执行攻击的组成和阶段。每一个组成部分进一步讨论和分类。一组指标,提出了每个组件来评估攻击的可行性。此外,还总结了攻击中可能泄露的数据。此外,现有的攻击进行了比较,这些攻击的局限性进行了讨论的基础上提出的度量。最后,现有的缓解措施,在微体系结构的水平,从文献进行了讨论。
2020-08-30 cs.CR
A limited technical background is sufficient for attack-defense tree acceptability
本研究通过102名参与者的实证调查,发现即使技术背景有限,用户也能接受攻击-防御树,证明其作为威胁建模方法的广泛适用性。
2025-03-29 cs.CR
Fuzzy neural networks to create an expert system for detecting attacks by SQL Injection
Faculdade Una de Betim(贝廷乌纳学院);Centro Federal de Educação Tecnológica de Minas Gerais-CEFET-MG(米纳斯吉拉斯联邦教育技术中心(CEFET-MG))
其不断的技术发展是当代世界的特征,每天的过程,一旦手动,成为计算机化。数据存储在网络空间中,因此,人们必须增加对这一环境安全的关注。网络攻击在世界范围内日益扩大,是本世纪的重大挑战之一。本文旨在提出一种基于智能混合模型的计算系统,通过模糊规则允许在控制论数据攻击中构建专家系统,重点是SQL注入攻击。使用模糊神经网络对政府计算机进行SQL注入攻击的真实基础进行测试。根据所获得的结果,构建一个系统的基础上模糊规则的可行性,与标准偏差的范围内的控制论入侵的分类精度(相比,在解决这种类型的问题的最先进的模型)是真实的。该模式帮助各国做好保护其数据网和信息系统的准备,并为专家系统自动识别网络空间的攻击创造机会。
2019-01-09 cs.AI cs.CR
A Novel Model for Integration of Information Security Management against Replication Attack Based on Biological Structures of the Body
随着通信的发展和接入点的增加,计算机网络已经相当容易受到大范围的信息攻击,特别是新的和复杂的攻击。每天,复制攻击都会攻击数百万网络和移动用户。复制攻击数量的增加可能对短信或网络的收入构成潜在危险,并导致这些服务提供商的客户流失。人类或软件都可以用来对付这些复制攻击。显然,单独绝对地使用每种方法并不能很好地解决遇到复制攻击的问题。由于复制攻击是计算机和移动电话用户在组织中的信息保护和安全的重要问题之一,本文在回顾复制攻击的类型和遭遇方法的同时,利用复制攻击中的身体病理和入侵者因素之间的相似性,基于身体适应性免疫系统中存在的生物模拟方法提供了一个模型来遭遇这些威胁。
2014-11-23 cs.CR
Reinforcement Learning Inspired Black-box Adversarial Attacks for Computer Vision
German Aerospace Center (DLR)(德国航空航天中心)
针对黑盒场景下神经网络易受扰动攻击的问题,提出基于强化学习的RIBA方法,通过少量查询生成对抗样本,在Cifar10和ImageNet上显著减少查询次数,并匹配白盒攻击性能。
2026-09-22 cs.CR cs.CV cs.LG
Secure Arcade: A Gamified Defense Against Cyber Attacks
本文提出一个游戏化Web应用,通过四项学习目标帮助普通用户掌握计算机安全术语、基础密码学、钓鱼邮件识别和服务器攻击应对,以弥补安全教育仅限高等教育的问题。
2023-11-01 cs.CR
Downscaling Attack and Defense: Turning What You See Back Into What You Get
Center for Security and Emerging Technology, Georgetown University(乔治敦大学安全与新兴技术中心);Georgetown University(乔治敦大学)
作为计算机视觉系统预处理的一部分,图像的嵌入易受攻击。可以创建图像,使得图像在机器视觉尺度下与其他尺度下完全不同,并且一些常见计算机视觉和机器学习系统的默认设置容易受到攻击。我们表明,防御是存在的,是微不足道的管理提供防御者意识到的威胁。这些攻击和防御有助于确立输入净化在机器学习中的作用。
2020-10-07 cs.AI cs.CR cs.CV
A Survey of Black-Box Adversarial Attacks on Computer Vision Models
Delhi Technological University(德里理工大学);Indraprastha Institute of Information Technology(英迪拉普拉萨信息技术学院)
机器学习在过去几年中取得了巨大的进步,这导致深度学习模型被部署在日常生活的各种应用中。使用扰动对这些模型进行攻击,特别是在现实生活中,对其适用性提出了严峻的挑战,将研究推向旨在增强这些模型鲁棒性的方向。在Szegedy等人[1]引入这些扰动之后,大量的研究集中在这些模型的可靠性上,主要是在两个方面-白盒,其中对手可以访问目标模型和相关参数;以及黑盒,这类似于现实生活中的场景,对手几乎不知道要攻击的模型。为了提供全面的安全保护,必须识别、研究和构建针对此类攻击的防御。因此,在本文中,我们提出了一个全面的比较研究各种黑盒对抗攻击和防御技术。
2020-02-07 cs.CR cs.CV cs.LG
Transfer Attacks Revisited: A Large-Scale Empirical Study in Real Computer Vision Settings
Zhejiang University(浙江大学);ETH Zürich(苏黎世联邦理工学院);Zhejiang University NGICS Platform(浙江大学NGICS平台);Zhejiang Gongshang University(浙江工商大学);Ant Group(蚂蚁集团);Georgia Institute of Technology(佐治亚理工学院);Pennsylvania State University(宾夕法尼亚州立大学)
对抗攻击的一个有趣特性是它们的“可转移性”--针对一个深度神经网络(DNN)模型制作的对抗性示例通常对其他DNN也有效。在简单的控制条件下对这一现象进行了深入的研究。然而,到目前为止,仍然缺乏对现实环境中基于可转移性的攻击(“转移攻击”)的全面了解。为了弥合这一关键差距,我们对主要基于云的MLaaS平台的传输攻击进行了首次大规模的系统性实证研究,并考虑了真实传输攻击的组成部分。该研究导致了一些有趣的发现,这些发现与现有的结果不一致,包括:(1)简单的代理不一定改善真实的传输攻击。(2)在实际的转移攻击中,没有发现占主导地位的代理体系结构。(3)增加可转移性的是后验(softmax层的输出)之间的间隙,而不是logit(所谓的$κ$值)之间的间隙。此外,通过与现有工作的比较,我们证明了转移攻击具有许多以前未知的性质,在现实世界的环境中,如(1)模型相似性是不是一个定义良好的概念。(2)扰动的$L_2$范数可以在不使用梯度的情况下产生高的可传递性,是比$L_\infty$范数更强大的源。我们相信这项工作揭示了流行的MLaaS平台的漏洞,并指出了一些有前途的研究方向。
2022-04-07 cs.AI cs.CR cs.CV
Cyberattacks on Quantum Networked Computation and Communications -- Hacking the Superdense Coding Protocol on IBM's Quantum Computers
量子通信和量子网络计算的自动化门规范的发展为恶意软件打开了道路,恶意软件旨在破坏自动化软件,改变自动化量子通信协议和算法。我们研究了对自动化量子通信协议的两种类型的攻击,并模拟了这些对超密集编码协议的攻击,通过IBM Q Experience远程访问IBM的量子计算机来模拟这些对低噪声量子通信网络的攻击。第一种类型的攻击导致最终测量的字符串的黑客控制的双射变换,第二种类型的攻击是修改自动门规范以有效地对最终测量进行加扰的酉加扰攻击,破坏量子通信并在测量时利用量子随机性,使得难以区分硬件故障或环境干扰的突然增加。噪声我们表明,由于量子纠缠和对称性,第二种类型的攻击是一种策略性地破坏量子通信网络和量子网络计算的方式,使得难以确定哪个节点受到攻击。主要研究结果在量子网络安全和量子网络计算的更广泛背景下进行了讨论,其中讨论了黑客攻击的方式,包括内部威胁的作用。
2021-05-15 cs.CR cs.CY cs.ET
Integrating self-efficacy into a gamified approach to thwart phishing attacks
安全漏洞可包括网络威胁,例如可干扰计算机系统正常行为的计算机程序(病毒)、未经请求的电子邮件(垃圾邮件)、恶意软件(恶意软件)、监控软件(间谍软件)、试图使计算机资源对其预期用户不可用(分布式拒绝服务或DDoS攻击)、社会工程和在线身份盗窃(网络钓鱼)。其中一种对计算机用户特别危险的网络威胁是网络钓鱼。网络钓鱼是众所周知的在线身份盗窃,其目标是窃取受害者的敏感信息,如用户名,密码和网上银行的详细信息。本文的重点是设计一种创新和游戏化的方法来教育个人关于网络钓鱼攻击。该研究询问如何将与用户知识相关的自我效能整合到反网络钓鱼教育游戏中以阻止网络钓鱼攻击?其中一个主要原因似乎是用户缺乏防止网络钓鱼攻击的知识。因此,本研究调查的影响因素(在这种情况下,无论是概念或程序知识或其相互作用的效果),然后将它们整合到一个反钓鱼教育游戏,以提高人们的钓鱼预防行为,通过他们的动机。
2017-06-23 cs.CR cs.CY
AI Agents Enable Adaptive Computer Worms
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Cambridge(剑桥大学);ServiceNow
本研究展示了AI代理能够生成针对每个目标的定制攻击策略,利用被感染机器上的大语言模型自我维持并传播,形成自持的AI驱动网络威胁。
2026-06-02 cs.AI cs.CR cs.LG
Your Computer is Leaking
本演示文稿重点介绍量子计算和量子密码学之间的差异。这两个讨论与经典的计算机系统的脆弱性。有关量子密码学的研究是根据剑桥大学与东芝公司合作所做的工作进行分析的,瑞典研究人员也对能量-时间纠缠系统的QKD进行了攻击。量子计算是涵盖在经典密码学的弱点所提出的肖尔算法。以前也讨论过的经典漏洞是由以色列研究人员使用抛物线麦克风进行的侧信道攻击,此后已被修补。
2016-09-29 cs.CR
AgentHijack: Visual Patch Attacks on Multimodal Computer-Use Agents
Hainan University(海南大学);University of Chinese Academy of Sciences National Computer Network Intrusion Protection Center(中国科学院大学国家计算机网络入侵防护中心);Lancaster University(兰卡斯特大学)
本文提出AgentHijack框架,通过视觉补丁攻击多模态计算机使用代理,实验显示可诱导代理执行恶意命令,造成真实环境风险。
2026-09-10 cs.AI cs.CR cs.CY
Design and Analysis of an Attack Resilient and Adaptive Medium access Control Protocol for Computer Networks
设计一个高效的媒体访问控制(MAC)协议并对其进行分析,是30多年来的一个重要研究课题。本文着重于性能分析(通过仿真)和修改的一个著名的MAC协议CSMA/CD。现有的协议没有考虑由于信道的未利用时段而造成的带宽浪费。通过考虑这一事实,可以提高MAC协议的性能。这项工作的目的是修改现有的协议,使其适应根据网络的状态。每当检测到未使用的时段时,修改后的协议采取适当的措施。通过这种方式,可以提高有效的带宽利用率,并确定它在增加负载和改变数据包大小的情况下的行为。它还将包括攻击的影响,即拒绝服务攻击,重放攻击,连续信道访问或耗尽攻击,洪泛攻击,干扰(无线电干扰)攻击,选择性转发攻击,这些攻击会降低MAC协议的性能。在连续信道访问或耗尽攻击中,恶意节点通过在信道上连续请求或发送来破坏MAC协议。这最终导致网络中的其他节点因信道接入而饥饿。补救措施可以是网络忽略过多的请求而不发送昂贵的无线电传输。然而,该限制不能下降到网络必须支持的预期最大数据率以下。此限制通常在设计阶段编码到协议中,并且还需要额外的逻辑。重复应用这些基于耗尽或冲突的MAC层攻击会导致不公平。
2009-07-03 cs.CR cs.NI
Secure ARP and Secure DHCP Protocols to Mitigate Security Attacks
为了使网络计算机相互通信,它们需要知道彼此的IP地址和MAC地址。地址解析协议(ARP)是用来查找映射到特定IP地址的以太网地址的。源计算机广播对以太网地址的请求,最终目标计算机应答。IP到以太网地址的映射稍后将存储在ARP缓存中一段时间,之后重复该过程。由于ARP容易受到ARP中毒攻击,我们建议使其单播,集中和安全,以及DHCP协议的安全设计,以减轻MAC欺骗。详细介绍了安全协议的设计。最后,我们还讨论了一些性能问题,以显示所提出的协议是如何工作的。
2014-10-16 cs.CR
Fooling Computer Vision into Inferring the Wrong Body Mass Index
University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
最近的研究表明,神经网络可以使用人脸图像来准确预测身体质量指数(BMI),这是一种广泛使用的健康指标。在本文中,我们证明了执行BMI推理的神经网络确实容易受到测试时的对抗攻击。这将测试时的对抗攻击从分类任务扩展到回归。我们强调的应用是BMI推断在保险业,这种对抗攻击意味着保险欺诈的危险。
2019-05-16 cs.CR cs.CV cs.LG
Domain-Conditioned Safety in Frontier Computer-Using Agents: A 793-Episode Browser Benchmark, a Coding-Domain Cross-Reference, and a Reproducibility Audit of Recent Red-Teaming
Patronus AI University of California, Berkeley(Patronus AI 伯克利大学)
本研究通过构建包含793个浏览器任务和56个攻击模板的基准测试,评估前沿计算机使用代理对提示注入攻击的鲁棒性,发现模型权重提供了强抵抗性(攻击成功率0%),但该安全性是领域条件的,在编码代理中失效(攻击成功率高达100%),并指出文献中高攻击成功率主要归因于RL优化的注入文本而非攻击类别。
2026-06-03 cs.AI cs.CL cs.CR
Advances in adversarial attacks and defenses in computer vision: A survey
University of Western Australia(西澳大利亚大学);University of Central Florida(中佛罗里达大学)
深度学习(DL)是当代计算机视觉领域中使用最广泛的工具。它准确解决复杂问题的能力被用于视觉研究,以学习用于各种任务的深度神经模型,包括安全关键应用程序。然而,现在已知DL容易受到对抗攻击的攻击,这些攻击可以通过在图像和视频中引入视觉上无法感知的扰动来操纵其预测。自2013年发现这一现象以来,它引起了机器智能多个子领域研究人员的极大关注。在[2]中,我们回顾了计算机视觉社区在深度学习(及其防御)的对抗攻击中所做的贡献,直到2018年的到来。其中许多贡献启发了这一领域的新方向,自第一代方法出现以来,这一领域已显着成熟。因此,作为[2]的遗产续集,本文献综述重点关注自2018年以来该领域的进展。为了确保真实性,我们主要考虑在计算机视觉和机器学习研究的权威来源中发表的同行评审的贡献。除了一个全面的文献综述,本文还提供了简明的技术术语的定义,在这一领域的非专家。最后,本文讨论了挑战和未来的展望,这一方向的基础上回顾文献[2]。
2021-09-02 cs.CR cs.CV cs.CY
Forgeable Confirmation in Automated Computer Security Testing: Deterministic Rules versus AI Judges
OmiCore Inc.(OmiCore公司);Graduate School of Engineering, Kyushu University(九州大学研究生院)
本研究证明在AI辅助安全测试中,读取攻击者控制数据的确认机制可被伪造,并提出将决定性证据移至不可写通道以将攻击成功率从97%降至0%。
2026-09-22 cs.CR
EEG-Based Brain-Computer Interfaces Are Vulnerable to Backdoor Attacks
Huazhong University of Science and Technology(华中科技大学);Chinese Academy of Sciences(中国科学院);University of Technology Sydney(悉尼科技大学)
该研究揭示基于EEG的脑机接口存在安全漏洞,提出一种无需与EEG试次同步的窄周期脉冲后门投毒攻击方法,验证了其有效性与鲁棒性,为相关安全防护研究敲响警钟。
2021-01-02 cs.CR cs.HC cs.LG
GRAPHITE: Generating Automatic Physical Examples for Machine-Learning Attacks on Computer Vision Systems
University of Michigan(密歇根大学);University of Wisconsin(威斯康星大学)
本文研究了对手在生成真实场景的对抗性示例时的易攻击性。我们解决了现实世界中实际攻击的三个关键要求:1)自动约束攻击的大小和形状,以便可以使用贴纸,2)变换鲁棒性,即,攻击对环境物理变化(例如视点和照明变化)的鲁棒性,以及3)不仅支持白盒攻击,而且支持黑盒硬标签场景中的攻击,使得对手可以攻击专有模型。在这项工作中,我们提出了GRAPHITE,一个有效的和通用的框架,用于生成满足上述三个关键要求的攻击。GRAPHITE利用transform-robustness(一种基于期望变换(EoT)的度量)来自动生成小掩码并使用无梯度优化进行优化。GRAPHITE也很灵活,因为它可以轻松地在黑盒设置中权衡转换鲁棒性、扰动大小和查询计数。在硬标签黑盒设置中的GTSRB模型上,我们能够在所有可能的1,806个受害者-目标类对上找到攻击,平均变换鲁棒性为77.8%,扰动大小为受害者图像的16.63%,每对查询为126 K。对于不需要实现变换鲁棒性的纯数字攻击,GRAPHITE能够找到成功的小补丁攻击,平均只有566个查询,占92.2%的受害者-目标对。GRAPHITE还能够使用修改输入图像的小区域的扰动来找到成功的攻击,PatchGuard是最近提出的针对基于补丁的攻击的防御。
2022-02-28 cs.CR cs.CV cs.LG
Malware Resistant Data Protection in Hyper-connected Networks: A survey
该综述针对现有研究未同时涵盖恶意软件攻击模式与防御策略的空白,整合了现代复杂恶意软件的攻击模式分类与基于机器学习的检测方法,梳理了分析技术并指出未来研究方向。
2023-07-24 cs.CR