Attention Masks Help Adversarial Attacks to Bypass Safety Detectors
UCL(伦敦大学学院)
提出自适应注意力掩码生成框架,利用突变XAI混合与X-UNet引导PGD攻击,在MNIST和CIFAR-10上实现更隐蔽、高效且可解释的对抗攻击,优于现有方法。
2024-11-07 cs.AI cs.CR
Generative Adversarial Networks Applied for Privacy Preservation in Biometric-Based Authentication and Identification
Brno University of Technology, Faculty of Information Technology(布拉格技术大学信息科技学院)
本文提出一种基于生成对抗网络(GAN)的身份验证方法,将人脸图像转换为视觉私有域(如花朵或鞋子)以保护隐私,实验表明该方法对攻击鲁棒且保持效用。
2025-09-24 cs.AI cs.CR cs.CV
Adversarial Attacks on Remote User Authentication Using Behavioural Mouse Dynamics
Singapore University of Technology and Design(新加坡科技设计大学);Ben-Gurion University of the Negev(本-古里安大学内盖夫分校);Deutsche Telekom Innovation Laboratories(德国电信创新实验室)
鼠标动态是一种潜在的用户身份验证方法。通常,认证过程基于经典的机器学习技术,但是最近,已经为此目的引入了深度学习技术。尽管先前的研究已经证明了机器学习和深度学习算法可以通过精心制作的对抗样本来绕过,但在对抗领域中对行为生物识别技术的研究很少。为了解决这一差距,我们构建了一组攻击,这些攻击是几种生成方法的应用,以构建绕过认证模型的对抗性鼠标轨迹。这些生成的小鼠序列将作为我们实验中的对抗样本。我们还分析了我们探索的攻击方法,解释了它们的局限性。与以前的工作相比,我们认为在一个更现实和具有挑战性的设置,攻击者可以访问记录的用户数据,但没有访问的身份验证模型或其输出的攻击。我们探讨了三种不同的攻击策略:1)基于验证的,2)基于模仿的,3)基于代理的;我们表明,它们能够逃避身份验证模型的功能,从而对它们的鲁棒性产生不利影响。我们表明,基于模仿的攻击往往比基于代理的攻击更好地执行,但是,除非攻击者可以猜测的认证模型的架构。在这种情况下,我们提出了一个潜在的检测机制,对代理为基础的攻击。
2019-11-27 cs.CR cs.LG stat.ML
Penetrating RF Fingerprinting-based Authentication with a Generative Adversarial Attack
物理层认证依赖于检测无线电设备传输的信号中的独特缺陷,以隔离其指纹。最近,越来越多地提出了基于深度学习的认证器来使用这些指纹对设备进行分类,因为与传统方法相比,它们实现了更高的准确性。然而,在其他领域已经表明,向合法输入添加精心制作的扰动可以欺骗这样的分类器。这可能会破坏安全性提供的信息。与应用于其他领域的对抗攻击不同,对手无法控制传播环境。因此,为了调查无线通信中这种类型攻击的严重性,我们考虑未经授权的发射机试图将其信号分类为基于深度学习的授权。我们演示了一个基于强化学习的攻击,其中模仿者-仅使用身份验证器的二进制身份验证决策-扭曲其信号以渗透系统。在软件定义无线电测试平台上进行的大量仿真和实验表明,在适当的信道条件下,并以最大失真水平为界,可以以超过90%的成功率可靠地欺骗伪随机数。
2020-11-03 cs.CR eess.SP
A Novel XAI-Enhanced Quantum Adversarial Networks for Velocity Dispersion Modeling in MaNGA Galaxies
Oracle Financial Services Software Ltd.(Oracle金融服务软件有限公司);Indian Institute of Information Technology Dharwad(德瓦德信息学院);NVIDIA;Google AI(谷歌人工智能);Apple AI(苹果人工智能)
该研究针对量子机器学习精度、鲁棒性与可解释性难以平衡的问题,提出XAI增强的量子对抗网络,经实验验证其在MaNGA星系速度弥散建模中表现稳定,可推动量子机器学习应用发展。
2026-08-03 cs.CR cs.LG
Attacking CNN-based anti-spoofing face authentication in the physical domain
本文研究了基于深度学习的反欺骗方法在对抗性干扰下的脆弱性。我们首先证明,攻击基于CNN的反欺骗人脸认证系统是一项艰巨的任务。实际上,当在物理世界中攻击欺骗的人脸图像时,攻击不仅要去除图像中存在的重播伪像,而且还必须考虑到受攻击的图像将被再次捕获,然后通过随后的重播过程补偿在攻击之后将重新引入的失真。随后,我们提出了一种方法来制作鲁棒的物理域对抗图像,以对抗基于CNN的人脸认证。通过同时实现以下目标,以这种方式内置的攻击可以成功地通过认证链中的所有步骤(即,面部检测、面部识别和欺骗检测):i)使欺骗检测失败; ii)使面部区域被检测为面部;以及iii)被识别为属于攻击的受害者。在现实环境中,通过考虑REPLAY-MOBILE数据库,并通过将对抗图像馈送到通过手机摄像头捕获输入图像的真实人脸认证系统,实验验证了所提出的攻击的有效性。
2019-10-01 cs.CR
Adversarial attacks and defenses in explainable artificial intelligence: A survey
University of Warsaw(华沙大学);Warsaw University of Technology(华沙理工大学)
本综述聚焦可解释人工智能(XAI)面临的对抗攻击问题,梳理了相关攻击与公平性指标研究,搭建了统一分类体系,讨论防御方法与现有安全隐患,并指出对抗XAI的未来研究方向。
2025-07-28 cs.AI cs.CR cs.CV
Towards Motion Invariant Authentication for On-Body IoT Devices
随着物联网(IoT)设备的迅速普及,其安全漏洞引发了严重的隐私和安全问题。保护这些设备免受模仿攻击的传统努力主要依赖于专用传感器或指定的用户动作,这阻碍了它们的广泛采用。本文通过利用物联网设备中无处不在的无线芯片,利用通用安全解决方案超越了这些限制。特别地,首先从接收信号强度(RSS)中提取代表性的时间和频率特征以表征无线电传播轮廓。然后,开发了一个对抗性多人网络来识别底层无线电传播模式并促进身体设备认证。我们证明了在平衡状态下,我们的对抗模型可以提取关于传播模式的所有信息,并消除由运动方差引起的任何不相关信息。我们使用通用软件无线电外设(USRP)设备建立了一个原型系统,并进行了广泛的实验,静态和动态的身体运动在典型的室内和室外环境。实验结果表明,我们的系统实现了90.4%的平均认证准确率,与0.958的接收器工作特征曲线(AUROC)下的高面积和更好的泛化性能相比,传统的非对抗性的方法。
2019-04-08 cs.CR
Conditional Generative Adversarial Network for keystroke presentation attack
Vicomtech(Vicomtech基金会);Basque Research and Technology Alliance(巴斯克研究与技术联盟)
网络安全是数据保护的关键一步,以确保用户安全和个人数据隐私。从这个意义上说,许多公司已经开始使用身份验证系统来控制和限制对其数据的访问。然而,这些传统的身份验证方法不足以确保数据保护,并且由于这个原因,行为生物识别变得重要。尽管生物特征识别系统具有良好的应用前景和广泛的应用范围,但它仍然容易受到恶意攻击,例如呈现攻击。出于这个原因,在这项工作中,我们建议研究一种新的方法,旨在部署一个演示攻击的身份验证系统。我们的想法是使用条件生成对抗网络(cGAN)来生成可用于冒充授权用户的合成对抗数据。这些合成数据是在两个不同的实际用例之后生成的,其中一个用例中键入的单词的顺序是已知的(有序动态),另一个用例中该顺序是未知的(无序动态)。最后,这两个动态(有序和无序)验证使用外部认证系统。结果表明,cGAN可以有效地生成可用于欺骗身份验证系统的动态模式。
2022-12-16 cs.CR cs.LG
GANTouch: An Attack-Resilient Framework for Touch-based Continuous Authentication System
IIIT Delhi(德里英迪拉·甘地信息技术学院);Bucknell University(巴克内尔大学)
以前的研究表明,基于触摸的连续身份验证系统(V-TCAS)的常见研究(香草)实现容易受到主动对抗尝试的影响。本文提出了一种新的生成对抗网络辅助TCAS(G-TCAS)框架,并将其与V-TCAS在三种主动对抗环境下进行了比较。Zero-effort环境以两种变体实现,即Zero-effort(相同数据集)和Zero-effort(交叉数据集)。第一个涉及来自同一数据集的零努力攻击,而第二个使用三个不同的数据集。在群体和随机向量下,G-TCAS比V-TCAS表现出更强的弹性,比零努力更具破坏性的对抗场景。平均而言,对于群体和随机向量攻击,V-TCAS的错误接受率(FAR)的增加(27.5%和21.5%)远高于G-TCAS(14%和12.5%)。此外,我们对不同性别的TCAS进行了公平性分析,发现TCAS在性别之间是公平的。研究结果表明,我们应该在主动对抗环境下评估TCAS,并肯定GANs在TCAS管道中的有用性。
2022-10-02 cs.CR cs.CV
A Multi-task Adversarial Attack Against Face Authentication
National Institute of Informatics(信息学研究所);Shanghai Jiao Tong University(上海交通大学);Monash University(莫纳什大学);University of Sassari(萨萨里大学);Anhui University(安徽大学)
针对现有对抗攻击仅适用于单任务场景的局限,提出多任务对抗攻击算法MTADV,可适应多个用户或系统,支持白盒与灰盒设置,适用于多种数据集和模型,并兼容单任务攻击。
2024-08-15 cs.CR cs.CV cs.MM
Towards Robust and Accurate Stability Estimation of Local Surrogate Models in Text-based Explainable AI
University of Mississippi(密西西比大学);Indiana University(印第安纳大学);Wright State University(莱特州立大学)
针对文本 XAI 局部代理模型稳定性评估易受相似性度量影响的问题,本文比较多种排序列表度量并提出融合特征同义关系的加权方案,以提升对抗弱点估计准确性。
2025-01-03 cs.CR cs.LG
Lightweight MobileNetV1+GRU for ECG Biometric Authentication: Federated and Adversarial Evaluation
Department of Computer Science \& Information Technology IoST, Tribhuwan University, Nepal;Department of Electronics;Computer Engineering Institute of Engineering, Dharan, Nepal
本文提出轻量级MobileNetV1+GRU模型用于ECG生物特征认证,在四个数据集上取得高准确率,并评估了联邦学习与对抗攻击下的鲁棒性。
2025-09-21 cs.AI cs.CR cs.LG
When Authentication Is Not Enough: Breaking Behavior-Based Driver Authentication Systems
University of Padova(帕多瓦大学);University of Verona(维罗纳大学);Örebro University(厄勒布鲁大学)
本文首次提出针对基于行为的驾驶员认证系统的规避攻击,利用CAN总线弱点实现冒充合法驾驶员,成功率达100%,最坏22分钟窃取车辆,并讨论了安全部署要求。
2026-10-01 cs.CR
Video is All You Need: Attacking PPG-based Biometric Authentication
不可观察的生理信号增强了生物识别认证系统。光电容积脉搏波(PPG)信号由于其易于测量而非常方便,并且通常在认证中受到很好的保护以免受远程对手的攻击。任何泄漏的PPG信号都有助于攻击者破坏生物识别认证系统,而远程PPG(rPPG)的出现使攻击者能够通过恢复来获取PPG信号。虽然潜在的危险,基于rPPG的攻击被忽视,因为现有的方法需要受害者的PPG信号。本文提出了一种新的欺骗攻击方法,利用从视频片段中提取的rPPG信号的波形欺骗基于PPG的生物认证。我们开发了一个新的PPG恢复模型,不需要泄漏的PPG信号的对抗攻击。基于PPG的生物特征认证的测试结果表明,通过rPPG恢复的信号对基于PPG的生物特征认证构成严重威胁。
2022-03-02 cs.CR
A Survey of Threats Against Voice Authentication and Anti-Spoofing Systems
School of Information Technology, Deakin University(信息科技学院,德金大学)
本文综述了语音认证系统及反欺骗对策面临的现代威胁,包括数据投毒、对抗性、深度伪造和对抗性欺骗攻击,按时间梳理漏洞演变,并总结各类攻击的方法、数据集、性能与局限,旨在促进更安全系统的开发。
2026-09-11 cs.AI cs.CR
Authenticating On-Body IoT Devices: An Adversarial Learning Approach
通过将用户作为连接的新维度,近年来,身体上的物联网(IoT)设备获得了相当大的发展势头,同时也引发了严重的隐私和安全问题。现有的认证这些设备的方法将自己限制在专用传感器或指定的用户动作上,从而破坏了它们的广泛接受。本文通过将无线物理层(PHY)签名与上层协议集成,采用通用身份验证解决方案克服了这些限制。关键的使能技术是从接收到的信号中构建代表性的无线电传播轮廓,并开发对抗性多玩家神经网络以准确地识别潜在的无线电传播模式并促进身体上的设备认证。一旦听到可疑的传输,我们的系统会触发一个基于PHY的挑战-响应协议,以深入防御主动攻击。我们证明了在平衡状态下,我们的对抗模型可以提取关于传播模式的所有信息,并消除由运动方差和环境变化引起的任何不相关信息。我们使用通用软件无线电外设(USRP)设备建立了我们的系统的原型,并进行了广泛的实验,在典型的室内和室外环境中的各种静态和动态的身体运动。实验结果表明,我们的系统实现了91.6%的平均认证准确率,与0.96的接收器工作特征曲线(AUROC)下的高面积和更好的泛化性能相比,传统的非对抗性的方法。
2020-05-21 cs.CR
Adversarial Attacks on Deep Learning Systems for User Identification based on Motion Sensors
University of Bucharest(布加勒斯特大学)
目前,移动设备采用隐式认证机制,即解锁模式、PIN或基于生物识别的系统,如指纹或面部识别。虽然这些系统容易受到众所周知的攻击,但引入显式和不显眼的身份验证层可以大大提高安全性。在这项研究中,我们专注于基于运动传感器信号的显式身份验证的深度学习方法。在这种情况下,攻击者可以制作对抗性示例,目的是获得未经授权的访问,甚至限制合法用户访问其移动终端。据我们所知,这是第一项旨在量化对抗攻击对基于运动传感器的用户识别机器学习模型的影响的研究。为了实现我们的目标,我们研究了多种生成对抗性示例的方法。我们提出了三个关于对抗性例子的影响和普遍性的研究问题,并进行了相关的实验,以回答我们的研究问题。我们的实证结果表明,某些对抗性的例子生成方法是特定的攻击分类模型,而其他人往往是通用的。因此,我们得出结论,基于运动传感器为用户识别任务训练的深度神经网络在给定对抗性输入时会出现很高的误分类率。
2020-11-05 cs.CR cs.LG eess.SP
Adversarial Attack and Defense for LoRa Device Identification and Authentication via Deep Learning
Nexcepta(内克塞普塔公司)
本文利用深度学习对LoRa设备进行识别与合法/恶意分类,研究FGSM对抗攻击下的脆弱性,并通过对抗训练提升分类器鲁棒性以防御攻击。
2024-12-30 cs.AI cs.CR cs.LG
Dictionary Attack on IMU-based Gait Authentication
Bucknell University(巴克内尔大学);Syracuse University(雪城大学)
本文提出一种针对智能手机IMU步态认证系统的字典攻击模型,通过构建178种独特IMUGait模式字典并攻击多种认证模型,证明该系统易被欺骗,呼吁进一步研究对抗模型与对策。
2023-12-31 cs.CR cs.CV cs.LG
Practical Attacks on a RFID Authentication Protocol Conforming to EPC C-1 G-2 Standard
Yeh等人最近提出了一种基于EPC Class-1 Gen. 2标准[1]。他们声称,他们的协议是安全的,可以抵御对抗攻击,并提供前向保密。在本文中,我们将表明,建议的协议没有适当的安全功能。对该协议提出了一种强有力的实用攻击,从而破坏了协议的整体安全性。此外,Yeh等人的协议不保证不可追溯性和向后不可追溯性方面。也就是说,被泄露的标签的所有过去和下一个交易将被对手追踪。
2011-02-04 cs.CR
Practical Attacks on Voice Spoofing Countermeasures
University of Waterloo(滑铁卢大学)
语音身份验证已成为银行交易和呼叫中心对话等安全关键型操作中不可或缺的一部分。自动说话人确认系统(ASV)的脆弱性,以欺骗攻击煽动对策(CM)的发展,其任务是区分善意和欺骗的语音。ASV和CM共同构成了今天的语音认证平台,被宣传为可扩展的访问控制机制。我们开发了对CM的第一个实际攻击,并展示了恶意行为者如何有效地制作音频样本,以最严格的形式绕过语音认证。以前的作品主要集中在非主动攻击或对抗策略,对ASV不产生语音在受害者的声音。我们攻击的后果要严重得多,因为我们生成的样本听起来像受害者,消除了任何似是而非的否认的机会。此外,针对CM的少数现有对抗攻击错误地优化了特征空间中的欺骗语音,并且没有考虑ASV的存在,导致在现实设置中失败的劣质合成音频。我们通过我们的关键技术贡献消除了这些障碍:一种新颖的联合损失函数,可以直接在时域中对ASV/CM组合部署进行高级对抗攻击。我们的对手在最先进的身份验证平台上实现了关于黑箱的成功率(高达93.57%)。最后,我们对CM进行了第一次有针对性的电话网络攻击,绕过了几个挑战,并启用了各种潜在的威胁,因为呼叫中心越来越多地使用语音生物识别技术。我们的研究结果对现代语音认证系统的安全性提出了质疑,因为攻击者绕过这些措施来访问用户最有价值的资源的真正威胁。
2021-07-30 cs.CR cs.LG cs.SD
Decoding Guardrails: XAI-Guided Perturbation Analysis of Prompt Injection Detection
Pedeciba Informática(Pedeciba信息学研究所);InCo, Facultad de Ingeniería, Universidad de la República(共和国大学工程学院计算研究所);Departamento de Informática e Inteligencia Artificial, Universidad Católica del Uruguay(乌拉圭天主教大学信息与人工智能系)
本文通过XAI技术分析Prompt Guard 2的决策机制,发现其依赖多标记累积贡献,且显著性引导的扰动可翻转预测并实现越狱,揭示解释方法可能降低对抗性攻击成本。
2026-09-22 cs.AI cs.CR
An efficient combination of quantum error correction and authentication
当通过信道发送量子信息时,我们希望确保消息保持完整。量子纠错和量子认证都旨在保护(量子)信息,但从两个非常不同的方向来实现这一任务:纠错码可以防止概率信道噪声,并且对小错误非常鲁棒,而认证码可以防止对抗性攻击,并且对任何错误都非常敏感,包括小错误。实际上,当通过有噪信道发送已验证状态时,必须将其包裹在纠错码中,以平衡底层验证方案的敏感性。我们研究的问题,这是否可以更有效地通过在一个单一的代码中结合这两个功能。为了说明这种组合的潜力,我们设计的阈值代码,修改的陷阱认证码,保留该代码的认证属性,但自然是强大的去极化信道噪声。我们表明,阈值码需要polyacromically更少的量子位,以实现相同水平的安全性和鲁棒性,相比天真的陷阱码与任何级联CSS代码的组成。我们相信,我们的分析打开了大门,结合更一般的纠错码和认证码,这可以提高所产生的计划的实用性。
2022-11-17 cs.CR quant-ph
iCTGAN--An Attack Mitigation Technique for Random-vector Attack on Accelerometer-based Gait Authentication Systems
Haverford College(哈弗福德学院);Bucknell University(巴克内尔大学)
最近的一项研究表明,通常(香草)研究的基于加速度计的步态认证系统($v$ ABGait)的实现容易受到随机向量攻击。同一研究提出了一种beta噪声辅助实现($β$ ABGait)来减轻攻击。在本文中,我们使用三个基于加速度计的步态数据集评估随机向量攻击对$v$ ABGait和$β$ ABGait的有效性。此外,我们提出了$i$ ABGait,ABGait的替代实现,它使用了条件表格生成对抗网络。然后,我们评估$i$ ABGait的弹性对传统的零努力和随机向量攻击。结果表明,$i$ ABGait在合理的程度上减轻了随机向量攻击的影响,并且在大多数实验设置中优于$β$ ABGait。
2022-10-02 cs.CR cs.CV
Adversarial Vulnerabilities of Neural Biomarker Identification Systems
Cerberus Neurosecurity Research Institute (CNRI)(塞伯里斯神经安全研究所);University of Luxembourg(卢森堡大学);Cognitive Security Institute(认知安全研究所)
本文针对脑电图生物识别系统,开发了无需知晓系统的自适应攻击算法,测试6个公开数据集发现不同神经特征方法脆弱性差异大,记录条件影响欺骗攻击脆弱性,还给出改进建议。
2026-09-03 cs.CR q-bio.NC
PA-Boot: A Formally Verified Authentication Protocol for Multiprocessor Secure Boot
针对多处理器系统启动过程中因缺乏处理器认证机制而存在的硬件供应链攻击面,提出首个形式化验证的PA-Boot协议,可检测多种敌对行为,经实验验证开销小且能提升系统安全性。
2025-04-21 cs.AR cs.CR
Social Media Authentication and Combating Deepfakes using Semi-fragile Invisible Image Watermarking
Wichita State University(威奇托州立大学);University of North Texas(北得克萨斯大学)
针对Deepfake检测易受攻击问题,提出一种半脆弱不可见图像水印技术,通过独特架构将64位秘密信息嵌入真实图像,对面部篡改脆弱但对良性处理和移除攻击鲁棒,实现最先进的媒体认证性能。
2024-10-02 cs.AI cs.CR cs.CV
The Effect of Similarity Measures on Accurate Stability Estimates for Local Surrogate Models in Text-based Explainable AI
University of Mississippi(密西西比大学);Indiana University(印第安纳大学)
该研究针对文本可解释AI中局部代理模型的稳定性评估问题,探究不同相似性度量对对抗攻击下稳定性结论的影响,发现部分度量过于敏感会导致错误的稳定性估计。
2025-01-17 cs.CR cs.LG
On the Adversarial Inversion of Deep Biometric Representations
Macquarie University(麦考瑞大学);BITS Pilani(博拉理工学院皮拉尼校区)
本文研究在仅知特征表示和部分背景知识条件下对深度生物特征嵌入的对抗性反演,提出先推断原始DNN再重建原始数据的双阶段攻击方法,并在人脸和指纹识别模型上验证了其有效性。
2023-04-12 cs.CR cs.CV cs.LG
Fast and Secure Simultaneous Authentication of Equals for WPA3
University of Aveiro(阿威罗大学)
本文提出一种改进SAE协议的架构,通过非对称资源成本模型、慢路径密钥推导和票据机制,减轻WPA3中AP的DoS风险,同时保持合法访问。
2026-09-28 cs.CR cs.NI
SSL-Auth: An Authentication Framework by Fragile Watermarking for Pre-trained Encoders in Self-supervised Learning
Nanjing University of Aeronautics and Astronautics(南京航空航天大学);Wuhan University(武汉大学);Xi’an Jiaotong University(西安交通大学);Zhejiang Lab(之江实验室)
针对自监督预训练编码器面临的后门、对抗攻击及知识产权保护问题,本文提出首个基于脆弱水印的SSL-Auth认证框架,利用关键样本与生成网络重建水印以检测恶意篡改,且不影响编码器性能。
2023-12-06 cs.AI cs.CR
Fooling SHAP with Output Shuffling Attacks
New Jersey Institute of Technology (NJIT)(新泽西理工学院)
针对现有对抗攻击需获取数据分布才能欺骗XAI特征归因检测的问题,提出无需数据的输出打乱攻击,证明Shapley值无法检测该攻击,并通过真实数据集实验验证攻击有效性及不同SHAP算法的检测差异。
2024-08-12 cs.AI cs.CR cs.LG
Invisible Mask: Practical Attacks on Face Recognition with Infrared
准确的人脸识别技术使一系列关键应用成为可能:警察可以利用它从监控视频流中检索罪犯的面孔;跨境旅行者可以在没有警察参与的情况下通过人脸认证检查线。然而,当公共安全严重依赖这些智能系统时,设计人员应该故意考虑旨在误导采用人脸识别的系统的新兴攻击。提出了一种针对人脸识别系统的全新攻击方法,该方法根据我们算法计算出的对抗性实例,利用红外线照射目标,从而绕过或误导人脸识别系统,同时使人眼无法观察到红外线的扰动。通过发动这种攻击,攻击者不仅可以躲避监控摄像头。更重要的是,只要攻击者获得受害者的照片,他就可以冒充目标受害者并通过面部认证系统。同样,攻击是完全无法被附近的人观察到的,因为不仅光是不可见的,而且我们制造的发动攻击的设备也足够小。根据我们对一个大型数据集的研究,攻击者有非常高的成功率,超过70%的成功率可以找到这样一个可以通过红外实现的对抗性例子。据我们所知,我们的工作是第一个揭示红外对抗示例对人脸识别造成的威胁严重性的工作。
2018-03-13 cs.CR
Iterative Window Mean Filter: Thwarting Diffusion-based Adversarial Purification
针对人脸认证系统易受对抗攻击、现有防御存在缺陷或牺牲准确率的问题,提出迭代窗口均值滤波器IWMF及融合扩散模型的IWMF-Diff纯化框架,作为预处理模块消弭扰动,在四项关键指标上超越现有最优方法DiffPure。
2024-10-29 cs.CR
White-Box Adversarial Attacks on Deep Learning-Based Radio Frequency Fingerprint Identification
本文研究基于深度学习的射频指纹识别安全性,利用FGSM和PGD在LoRa真实数据集上实施白盒非目标与目标对抗攻击,验证其对CNN、LSTM和GRU分类器均有效。
2023-08-14 cs.CR
Are Robust LLM Fingerprints Adversarially Robust?
University of Washington(华盛顿大学);Princeton University(普林斯顿大学);Sentient
该研究针对现有大语言模型指纹方案缺乏对抗鲁棒性评估的问题,定义实际威胁模型并识别核心漏洞,设计自适应攻击可绕过10种近期指纹方案且保持模型高实用性,呼吁指纹设计需原生考虑对抗鲁棒性并给出未来方向建议。
2025-09-30 cs.AI cs.CR cs.LG
Securing Federated Learning with Control-Flow Attestation: A Novel Framework for Enhanced Integrity and Resilience against Adversarial Attacks
本研究提出一种基于控制流证明的联邦学习安全框架,通过数字签名和加密哈希验证模型更新完整性,在MNIST和CIFAR-10上实现100%验证成功率并增强抗攻击韧性。
2024-03-15 cs.CR
"Training robust watermarking model may hurt authentication!'' Exploring and Mitigating the Identity Leakage in Robust Watermarking
Zhejiang University(浙江大学);Hangzhou High-Tech Zone (Binjiang) Institute of Blockchain and Data Security(杭州高新技术产业开发区(滨江)区块链与数据安全研究所);Tongyi Lab, Alibaba Group(阿里巴巴集团通义实验室);University of Connecticut(康涅狄格大学)
本文提出W-IR框架,通过引入随机平滑技术与残差信息损失策略,平衡鲁棒性和身份泄露缓解,提升水印认证的可靠性。
2026-05-10 cs.CR
Revealing Vulnerabilities of Neural Networks in Parameter Learning and Defense Against Explanation-Aware Backdoors
German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI));University of Oldenburg(奥尔登堡大学)
本文揭示了致盲攻击对神经网络解释的误导性,提出一种无需额外训练的评估阶段防御方法,使攻击成功率降低约99%,均方误差减少约91%。
2024-03-25 cs.CR cs.CV cs.LG
A Survey on Adversarial Machine Learning for Code Data: Realistic Threats, Countermeasures, and Interpretations
本文综述了代码语言模型在对抗环境下的安全漏洞,基于CIA三要素将攻击分为投毒、规避和隐私三类,分析了79篇相关论文的威胁模型、攻击技术与对策,并引入可解释AI视角探讨风险联系,为构建更可靠的CLMs提供研究路线图。
2024-11-12 cs.CR
SSHafe: A Real-Time SSH Brute Force Attack Detection and Novel Credential Rotation Standard
Kadir Has University(卡迪尔哈斯大学)
本研究提出SSHafe系统,结合时间序列特征工程与LightGBM实现实时SSH暴力攻击检测,采用新型密码重置标准提升安全性,可在10秒内抑制攻击并防止账户入侵。
2026-08-11 cs.CR
Security Evaluation of Pattern Classifiers under Attack
University of Cagliari(卡利亚里大学)
模式分类系统通常用于对抗性应用,如生物特征认证,网络入侵检测和垃圾邮件过滤,其中数据可以被人类故意操纵以破坏其操作。由于传统的设计方法没有考虑到这种对抗性的情况,模式分类系统可能会表现出漏洞,这些漏洞的利用可能会严重影响其性能,从而限制其实际效用。因此,将模式分类理论和设计方法扩展到对抗环境是一个新颖且非常相关的研究方向,尚未以系统的方式进行。在本文中,我们解决了一个主要的开放问题:评估在设计阶段的模式分类器的安全性,即潜在的攻击,他们可能会招致在操作过程中的性能下降。我们提出了一个框架,分类器的安全性,形式化和概括的主要思想在文献中提出的经验评估,并给出了它的使用在三个实际应用的例子。报告的结果表明,安全评估可以提供一个更完整的了解分类器的行为在对抗环境中,并导致更好的设计选择。
2017-09-02 cs.CR cs.LG
Beyond Vulnerabilities: A Survey of Adversarial Attacks as Both Threats and Defenses in Computer Vision Systems
本综述系统分析对抗性攻击在计算机视觉中的双重角色,涵盖像素、物理和潜在空间攻击,并探讨其在漏洞评估与防御中的建设性应用,指出研究空白与未来方向。
2025-08-03 cs.AI cs.CR cs.CV
Adversarial Attacks Against Deep Learning-Based Radio Frequency Fingerprint Identification
School of Computer Science and Informatics, University of Liverpool(计算机科学与信息学系,利物浦大学);School of Cyber Science and Engineering, Southeast University(网络安全与工程系,东南大学);School of Electrical and Electronic Engineering, Nanyang Technological University(电子与电气工程系,南洋理工大学)
本文提出针对基于深度学习的RFFI系统的三种对抗攻击方法,通过实验验证UAP在无先验知识下的高成功攻击率
2025-12-12 cs.CR cs.LG
Distillation as a Defense to Adversarial Perturbations against Deep Neural Networks
Penn State University(宾夕法尼亚州立大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校);United States Army Research Laboratory(美国陆军研究实验室)
深度学习算法已被证明在许多经典的机器学习问题上表现非常出色。然而,最近的研究表明,深度学习与其他机器学习技术一样,容易受到对抗性样本的影响:精心设计的输入迫使深度神经网络(DNN)提供对抗性选择的输出。这种攻击可能会严重破坏DNN支持的系统的安全性,有时会造成毁灭性的后果。例如,自动驾驶汽车可能会被撞毁,非法或非法内容可能会绕过内容过滤器,或者生物识别认证系统可能会被操纵以允许不正确的访问。在这项工作中,我们引入了一种称为防御蒸馏的防御机制,以降低DNN上对抗样本的有效性。我们分析研究了在训练DNN时使用防御蒸馏所授予的泛化性和鲁棒性。我们还实证研究了我们的防御机制在对抗环境中放置的两个DNN上的有效性。研究表明,防御性蒸馏可以将DNN上的样本创建效率从95%降低到0.5%以下。这种巨大的收益可以解释为,蒸馏导致对抗性样本创建中使用的梯度减少了10^30倍。我们还发现,在我们测试的一个DNN上,蒸馏将需要修改以创建对抗样本的平均最小特征数量增加了约800%。
2016-03-14 cs.CR cs.LG cs.NE
On the Exploitability of Audio Machine Learning Pipelines to Surreptitious Adversarial Examples
Vector Institute(向量研究所);University of Toronto(多伦多大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
众所周知,机器学习(ML)模型容易受到对抗性样本的攻击。ML在语音生物识别认证中的应用也不例外。然而,音频对抗示例对这些现实世界系统的影响仍然知之甚少,因为大多数研究针对的是只能收听音频样本的有限辩护者。将攻击的可检测性与人类的可感知性相结合,研究集中在旨在产生人类无法区分相应良性样本的不可感知对抗性样本的方法上。我们认为,这种观点是粗糙的原因有两个:1。不可感知性是不可能验证的;它需要一个实验过程,包括听众训练,设备,音量,耳朵灵敏度,背景噪音类型等的变化,以及2。它忽略了现实防御者利用的基于管道的检测线索。这导致了在有知识的维护者在场的情况下,对抗性的例子是无效的。因此,对手只需要音频样本对人类来说是可信的。因此,我们引入了秘密对抗的例子,这是一类逃避人类和管道控制的新攻击。在白盒设置中,我们用联合的多阶段优化攻击实例化这个类。使用Amazon Mechanical Turk用户研究,我们表明这种攻击产生的音频样本比以前的攻击更隐蔽,这些攻击的目标仅仅是不可感知性。最后,我们证明了在黑箱环境中开发秘密对抗性示例是具有挑战性的。
2021-08-03 cs.AI cs.CR cs.LG
Detecting In-vehicle Intrusion via Semi-supervised Learning-based Convolutional Adversarial Autoencoders
随着自动驾驶汽车技术的发展,控制器局域网(CAN)总线因其简单性和高效性而成为车载通信系统的事实标准。然而,由于没有任何加密和认证机制,使用CAN协议的车载网络容易受到各种攻击。许多基于机器学习的研究提出在CAN总线系统中安装入侵检测系统(IDS)来进行异常检测。虽然机器学习方法对于IDS有很多优点,但是以前的模型通常需要大量的标记数据,这导致了很高的时间和人力成本。为了解决这个问题,本文提出了一种新的基于半监督学习的卷积对抗自动编码器模型。该模型结合了两种流行的深度学习模型:自动编码器和生成对抗网络。首先,使用未标记的数据训练模型,以学习正常和攻击模式的流形。然后,只有少量的标记样本用于监督训练。该模型可以检测各种类型的消息注入攻击,如拒绝服务,模糊和欺骗,以及未知的攻击。实验结果表明,与其他监督方法相比,该模型在有限的标记数据下,获得了最高的F1值(0.99)和最低的出错率(0.1%).此外,我们表明,该模型可以满足实时性的要求,通过分析模型的复杂性方面的可训练参数和推理时间。与最先进的模型相比,这项研究成功地将模型参数的数量减少了五倍,推理时间减少了八倍。
2022-04-04 cs.CR
Distributed and Mobile Message Level Relaying/Replaying of GNSS Signals
随着导航消息认证(NMA)的引入,未来的全球导航卫星系统(GNSS)通过仿真来防止欺骗,即,根据公开信息伪造卫星信号。然而,身份验证并不能防止记录和重放攻击,通常称为meaconing。这些攻击在对受害者接收器位置和时间的对抗性控制方面不太强大,但通过在信号水平上行动,它们不会被NMA挫败。这使得重播/中继攻击对GNSS构成了重大威胁。虽然有许多关于meaconing的研究,但大多数并不依赖于现实世界中的实际实施和实验评估。在这项工作中,我们有助于提高meaconing攻击的实验理解。我们设计并实现了一个系统,能够实时,分布式和移动meaconing,现成的硬件。我们从基本的分布式攻击扩展,来自不同位置的信号通过互联网中继并在受害者接收器的范围内重放:这具有高带宽要求,因此取决于可用网络的服务质量。为了克服这个限制,我们建议在消息级别上重放,包括有效载荷的认证部分。由此产生的带宽减少使攻击者能够在移动场景中操作,以及同时重放来自多个GNSS星座和/或频带的信号。此外,攻击者可以延迟单独选择的卫星信号,以更细粒度的方式潜在地影响受害者位置和时间解决方案。我们的多功能测试台可实现不同类型的重放/中继攻击,有助于测试GNSS接收器中新的和改进的重放/中继重点对抗措施的现实场景。
2022-02-23 cs.CR
Secure and Robust IPV6 Autoconfiguration Protocol For Mobile Adhoc Networks Under Strong Adversarial Model
移动自组织网络中的IP地址自动分配使得节点无需任何基础设施就能获得可路由的地址。在过去的几年中,已经开发了不同的协议来实现这种服务。然而,研究主要集中在正确性,效率和可扩展性,很少有人关注的安全问题。这种协议的设计缺乏安全性,可能会导致许多真正的威胁,导致在潜在的敌对环境中的严重攻击。近年来,很少有方案被提出来解决这个问题,但没有一个能带来令人满意的解决方案。自动配置安全问题仍然是一个悬而未决的问题。在本文中,一个强大的和安全的有状态的IP地址分配协议的独立的MANNETWORK指定和NS2内进行评估。我们的解决方案是基于相互认证,和一个完全分布式的自动配置和CA模型,结合阈值加密。通过部署一个新的概念,联合IP地址和公钥证书,我们表明,而不是以前的方法,我们的解决方案解决了所有可能的攻击与动态IP地址分配在城域网的问题。由此产生的协议引起低延迟和控制开销
2011-08-05 cs.CR cs.NI
Explainable Adversarial Learning Framework on Physical Layer Secret Keys Combating Malicious Reconfigurable Intelligent Surface
Imperial College London(帝国理工学院);University of Southampton(南安普顿大学);University of Liverpool(利物浦大学);Cranfield University(克兰菲尔德大学)
本研究针对恶意可重构智能表面窃听问题,提出结合对抗学习与符号化可解释AI的物理层密钥生成框架,可实现高合法密钥一致率并抵御已知机制的窃听,为6G安全通信提供支撑。
2024-12-08 cs.AI cs.CR
Securing Virtual Reality Experiences: Unveiling and Tackling Cybersickness Attacks with Explainable AI
本文提出针对VR深度学习晕动症检测模型的对抗攻击,并构建XAI引导的检测框架,经数据集、定制仿真测试平台和用户研究验证其攻击危害与防御有效性。
2025-03-17 cs.AI cs.CR cs.ET
Robust Intrusion Detection System with Explainable Artificial Intelligence
Ericsson Research(爱立信研究院);Ericsson Standards and Technology(爱立信标准与技术部门)
本文提出一种基于可解释人工智能(XAI)的对抗攻击检测与缓解策略,在O-RAN的RRC层实现零接触实时防御,并通过多场景测试验证其有效性。
2025-03-07 cs.CR cs.LG
SyntheticPop: Attacking Speaker Verification Systems With Synthetic VoicePops
College of Science, San Jose State University(圣何塞州立大学理学院)
针对VA+VoicePop防御机制,提出SyntheticPop攻击方法,通过嵌入合成“pop”噪声污染训练数据,在污染20%数据集时攻击成功率超95%,显著降低VA+VoicePop系统准确率至14%,暴露其安全漏洞。
2025-02-13 cs.CR cs.LG