Adversarial Filters for Secure Modulation Classification
The University of Arizona(亚利桑那大学)
调制分类(MC)是指对无线信号的调制类别进行分类的问题。在无线通信流水线中,MC是对接收信号执行的第一个操作,并且对于可靠解码至关重要。本文考虑了安全调制分类的问题,其中发射机(爱丽丝)希望在合法接收机(鲍勃)最大限度地提高MC精度,同时在窃听者(夏娃)最小化MC精度。这项工作的贡献是设计新的对抗学习技术的安全MC。特别是,我们提出了基于对抗性过滤的算法安全MC,其中爱丽丝使用精心设计的对抗性过滤器来掩盖传输的信号,可以最大限度地提高MC准确性在鲍勃,同时最大限度地减少MC准确性在前夕。我们提出了两种基于滤波的算法,即梯度上升滤波器(GAF),和一个快速梯度滤波方法(FGFM),具有不同程度的复杂性。我们提出的基于对抗性过滤的方法显著优于加性对抗性扰动(用于传统ML社区和安全MC的其他先前工作),并且还具有其他几个理想的属性。具体地,GAF和FGFM算法是a)计算高效的(允许在Bob处的快速解码),b)功率高效的(在Alice处不需要过多的发射功率);以及c)SNR高效的(即,即使在Bob处的低SNR值下也表现良好)。
2020-08-15 cs.LG eess.SP
Golden Ratio Search: A Low-Power Adversarial Attack for Deep Learning based Modulation Classification
Indian Institute of Technology Madras(印度马德拉斯理工学院)
本文提出一种基于黄金比例搜索的低功耗白盒对抗攻击,用于深度学习调制分类,该方法能以最小功耗快速生成强大攻击,并有效挑战现有防御机制。
2024-09-17 cs.CR cs.LG eess.SP
Low-Interception Waveform: To Prevent the Recognition of Spectrum Waveform Modulation via Adversarial Examples
Qian Xuesen Laboratory of Space Technology, China Academy of Space Technology(中国空间技术研究院钱学森空间技术实验室);School of Mathematics and Computational Science, Xiangtan University(湘潭大学数学与计算科学学院)
深度学习因其方便、高效的特点,被应用于无线通信领域的许多复杂任务,如频谱波形的调制识别等。这导致了恶意第三方使用深度学习模型来轻松识别传输波形的调制格式的问题。现有的一些工作解决这个问题,直接使用的概念,对抗的例子在图像域中没有充分考虑的波形在物理世界中的传输特性。因此,本文提出了一种低截获波形LIW生成方法,在不影响友方可靠通信的前提下,降低了调制被第三方识别的概率。即使在物理硬件实验中,我们的LIW也表现出显着的低拦截性能,将最先进模型的精度降低到约$15\%$,具有小扰动。
2022-01-20 cs.LG eess.SP
Adapt under Attack and Domain Shift: Unified Adversarial Meta-Learning and Domain Adaptation for Robust Automatic Modulation Classification
Department of Electrical and Computer Engineering, Clemson University(电气与计算机工程系,克莱姆森大学)
针对自动调制分类(AMC)中对抗攻击与数据分布偏移问题,提出一种结合元学习与领域自适应的统一两阶段框架,显著提升了模型在组合威胁下的分类准确率与鲁棒性。
2025-11-03 cs.AI cs.LG eess.SP
Over-the-Air Adversarial Attacks on Deep Learning Based Modulation Classifier over Wireless Channels
University of Maryland(马里兰大学);Intelligent Automation, Inc.(智能自动化公司)
我们考虑一个无线通信系统,它由一个发射机,一个接收机,和一个对手。发射机发射具有不同调制类型的信号,而接收机使用基于深度学习的分类器将其接收的信号分类为调制类型。与此同时,对手进行空中传输,这些传输被接收为与发射机的信号叠加,以欺骗接收机处的分类器出错。虽然这种规避攻击最近受到了越来越多的关注,从对手到接收器的信道效应已被忽略到目前为止,使以前的攻击机制不能在现实的信道效应下应用。在本文中,我们提出了如何通过考虑从对手到接收器的信道来发起一个现实的规避攻击。我们的研究结果表明,调制分类是容易受到对抗性攻击的无线信道,建模为瑞利衰落路径损耗和阴影。我们提出了各种对抗性攻击的可用性信息的渠道,发射机输入,分类器架构。首先,我们提出了两种类型的对抗性攻击,即有针对性的攻击(具有最小功率)和非有针对性的攻击,其目的是分别将分类更改为目标标签或真实标签以外的任何其他标签。两者都是白盒攻击,是发射机输入特定的,并使用信道信息。然后,我们介绍了一种算法来生成对抗性攻击使用有限的信道信息,对手只知道的信道分布。最后,我们提出了一个黑盒通用对抗扰动(UAP)攻击的对手有有限的知识,信道和发射机输入。
2020-02-13 cs.LG cs.NI eess.SP
Adversarial Attacks with Multiple Antennas Against Deep Learning-Based Modulation Classifiers
University of Maryland(马里兰大学);Intelligent Automation, Inc.(智能自动化公司);Virginia Tech(弗吉尼亚理工大学)
我们考虑一个无线通信系统,其中发射机向接收机发送具有不同调制类型的信号,而接收机使用其基于深度学习的分类器对接收信号的调制类型进行分类。同时,对手使用其多个天线发送对抗性扰动,以欺骗分类器对接收到的信号进行错误分类。从对抗机器学习的角度来看,我们展示了如何利用对手的多个天线来提高对抗(逃避)攻击的性能。在利用多天线对抗时,主要考虑两个问题,即天线间的功率分配和信道分集的利用。首先,我们表明,多个独立的对手,每个与一个天线不能提高攻击性能相比,一个单一的对手与多个天线使用相同的总功率。然后,我们考虑各种方式来分配功率在多个天线之间在一个单一的对手,如分配功率只有一个天线,并成正比或成反比的信道增益。通过利用信道分集,我们引入攻击,通过符号级具有最大信道增益的信道传输对抗性扰动。我们发现,这种攻击降低了分类器的准确性显着相比,其他攻击在不同的信道条件下的信道方差和信道相关性天线。此外,我们表明,攻击的成功显着提高天线的数量增加,在对手,可以更好地利用信道多样性,工艺对抗性攻击。
2020-07-31 cs.LG cs.NI eess.SP
Frequency-based Automated Modulation Classification in the Presence of Adversaries
School of Electrical and Computer Engineering, Purdue University(普渡大学电气与计算机工程学院)
自动调制分类(AMC)旨在通过自动预测无线RF信号的调制星座来提高拥挤的无线电频谱的效率。最近的工作已经证明了深度学习使用原始同相和正交(IQ)时间样本实现强大AMC性能的能力。然而,深度学习模型非常容易受到对抗性干扰的影响,这会导致智能预测模型以高置信度对接收到的样本进行错误分类。此外,对抗性干扰通常是可转移的,允许对手使用为特定分类网络设计的单个扰动来攻击多个深度学习模型。在这项工作中,我们提出了一种新的接收器架构,由能够承受可转移对抗性干扰的深度学习模型组成。具体来说,我们证明了针对时域特征训练的模型的对抗性攻击不容易转移到使用频域特征训练的模型。在这种能力下,我们证明了递归神经网络(RNN)的分类性能提高超过30%,卷积神经网络(CNN)的分类性能提高超过50%。我们进一步证明了我们的基于频率特征的分类模型,在没有攻击的情况下,准确率超过99%。
2021-02-19 cs.LG eess.SP
Channel-Aware Adversarial Attacks Against Deep Learning-Based Wireless Signal Classifiers
University of Maryland(马里兰大学);Intelligent Automation, a BlueHalo Company(Intelligent Automation(BlueHalo 旗下公司));Virginia Tech(弗吉尼亚理工大学)
本文提出了针对基于深度学习的无线信号分类器的信道感知对抗攻击。有一种发射机,它发射具有不同调制类型的信号。在每个接收器处使用深度神经网络来将其空中接收信号分类为调制类型。同时,对手发送对抗性扰动(受到功率预算的影响)以欺骗接收器在将接收到的信号分类为发送信号和对抗性扰动的叠加时出错。首先,这些规避攻击失败时,不考虑设计对抗扰动的渠道。然后,现实的攻击,提出了考虑从对手到每个接收机的信道效应。在表明信道感知攻击是选择性的(即,它只影响其信道在扰动设计中被考虑的接收机),通过制作共同的对抗性扰动以同时欺骗不同接收机处的分类器来呈现广播对抗性攻击。调制分类器对空中对抗攻击的主要脆弱性通过考虑关于信道、发射机输入和分类器模型的不同水平的可用信息来显示。最后,一个认证的防御随机平滑的基础上,增加训练数据与噪声的调制分类器鲁棒对抗扰动。
2021-12-20 cs.LG cs.NI eess.SP
Maximum Likelihood Distillation for Robust Modulation Classification
EPFL(洛桑联邦理工学院)
深度神经网络正广泛应用于通信系统,特别是自动调制分类(AMC)。然而,它们非常容易受到精心设计的小对抗干扰,以改变网络决策。在这项工作中,我们建立在知识蒸馏的想法和对抗训练,以建立更强大的AMC系统。我们首先概述了训练数据在模型的准确性和鲁棒性方面的质量的重要性。然后,我们建议使用最大似然函数,它可以解决离线设置中的AMC问题,以生成更好的训练标签。这些标签教导模型在具有挑战性的条件下是不确定的,这允许在与对抗训练相结合时提高模型的准确性和鲁棒性。有趣的是,我们观察到这种性能的提高转移到在线设置中,其中最大似然函数不能在实践中使用。总的来说,这项工作突出了学习在困难场景中不确定的潜力,而不是直接去除标签噪声。
2022-11-01 cs.LG eess.SP
High-Resolution Range-Doppler Imaging from One-Bit PMCW Radar via Generative Adversarial Networks
针对一比特 PMCW 雷达信息丢失问题,提出结合 GAN 的 RD 处理与基于 NN 的 E2E RD 成像方法,显著提升距离-多普勒域目标检测概率。
2025-03-17 eess.SP
Hidden Backdoor Attack against Deep Learning-Based Wireless Signal Modulation Classifiers
本文研究针对深度学习调制分类器的隐藏后门攻击,通过在训练集中注入基于IQ序列的隐蔽投毒样本降低分类准确率,并提出激活聚类方法检测异常样本。
2023-06-19 eess.SP
On the benefits of robust models in modulation recognition
EPFL(洛桑联邦理工学院);Armasuisse(瑞士联邦国防采购局)
鉴于电信系统的快速变化及其对人工智能的高度依赖,拥有能够在不同(可能是不利的)条件下表现良好的模型变得越来越重要。使用卷积层的深度神经网络(DNN)在通信中的许多任务中都是最先进的。然而,在其他领域,如图像分类,DNN已被证明容易受到对抗性扰动的影响,这些扰动由不可感知的精心制作的噪声组成,当添加到数据中时,这些噪声会使模型陷入错误分类。这对DNN在通信任务中的安全性提出了质疑,特别是在调制识别中。我们提出了一个新的框架来测试当前最先进的模型的鲁棒性,其中对抗性扰动强度取决于信号强度,并使用“信号扰动比”(SPR)进行测量。我们表明,目前国家的最先进的模型容易受到这些扰动。与当前关于图像分类主题的研究相比,调制识别使我们能够通过查看星座空间来轻松了解DNN学习的特征的有用性。在分析这些脆弱的模型时,我们发现对抗性扰动不会将符号移向星座空间中最近的类。这表明DNN的决策不是基于对贝叶斯最优调制识别模型很重要的信号统计,而是基于训练数据中的虚假相关性。我们的功能分析和建议的框架可以帮助在任务中找到更好的模型通信系统。
2021-03-27 cs.LG eess.SP
Data-Driven Subsampling in the Presence of an Adversarial Actor
Purdue University(普渡大学);InterDigital Communications, Inc.(InterDigital通信公司)
本文研究了对抗攻击对同时使用深度学习进行自动调制分类和子采样的AMC系统的影响,发现子采样本身能有效威慑对抗攻击,并确定了分类器与子采样器均受攻击时的最有效子采样策略。
2024-01-07 cs.CR cs.LG eess.SP
Approximating the Void: Learning Stochastic Channel Models from Observation with Variational Generative Adversarial Networks
DeepSig Inc.(DeepSig公司);Virginia Tech(弗吉尼亚理工大学)
在考虑设计、学习或评估任何通信系统的性能时,信道建模都是一个关键话题。设计或学习新调制方案的大多数现有工作集中在使用高度简化的解析信道模型,例如加性高斯白噪声(AWGN)、瑞利衰落信道或类似信道。最近,我们提出了使用生成对抗网络(GANs)来联合近似无线信道响应模型(例如,从真实的黑盒测量),并使用机器学习优化其上的有效调制方案。这种方法在一定程度上起作用,但无法产生表示随机信道响应的精确概率分布函数(PDF)。在本文中,我们特别关注的问题,准确地学习一个通道PDF使用变分GAN,介绍了一个架构和损失函数,可以准确地捕捉随机行为。我们说明了我们以前的方法失败,并分享结果捕获的性能,如系统在一系列现实的渠道分布。
2018-08-20 cs.LG eess.SP stat.ML
Elliptic Curve Modulation (ECM) for Extremely Robust Physical Layer Encryption
该研究提出椭圆曲线调制(ECM)及带动态旋转的ECM-DR方案,利用椭圆曲线点实现符号混淆,在保持未加密QAM系统误码性能的同时提升物理层加密安全性,抵御暴力攻击。
2025-05-20 eess.SP
Physical Layer Communications System Design Over-the-Air Using Adversarial Networks
DeepSig Inc(深度信号公司);Virginia Tech(弗吉尼亚理工大学)
本文提出了一种新的方法,用于合成新的物理层调制和编码方案的通信系统使用基于学习的方法,不需要分析模型的信道中的损伤。它扩展了先前发表的工作信道自动编码器考虑的情况下,信道响应是未知的或不能很容易地建模在一个封闭的形式解析表达式。通过采用对抗性方法进行信道响应近似和信息编码,我们可以在广泛的信道环境中共同学习这两项任务的良好解决方案。我们描述了拟议的对抗系统的操作,分享了其训练和验证的结果,并讨论了该领域的影响和未来的工作。
2018-03-08 cs.LG eess.SP
Deep Neural Networks based Modrec: Some Results with Inter-Symbol Interference and Adversarial Examples
深度神经网络(DNN)在机器视觉和自然语言处理(NLP)中的最新成功和进展促使其在传统信号处理和通信系统中的使用。在本文中,我们提出了这样的应用程序的自动调制识别问题的结果。无线通信信道的变化由统计信道模型表示,并且它们的参数化将随着5G的出现而增加。在本文中,我们报告了简单的双路径通道模型对我们基于朴素深度神经网络的实现的影响。我们还报告了对抗扰动对输入信号的影响。
2018-11-14 cs.LG eess.SP stat.ML
Binarized ResNet: Enabling Robust Automatic Modulation Classification at the resource-constrained Edge
Indian Institute of Technology Madras(印度理工学院马德拉斯分校)
本文提出旋转二值大型 ResNet(RBLResNet)及多级分类和 bagging 集成方法,在显著降低内存与计算量的同时,实现边缘设备上高精度且高对抗鲁棒性的自动调制分类。
2023-04-18 cs.AI cs.IT eess.SP
Hacking the Waveform: Generalized Wireless Adversarial Deep Learning
本文通过提出针对无线深度学习系统的对抗性学习攻击的第一次全面分析和实验评估,推进了最新技术水平。我们假设了一系列的对抗攻击,并制定了一个广义无线对抗机器学习问题(GWAP),我们分析了无线信道和对抗波形对攻击的有效性的综合影响。我们提出了一种新的神经网络架构,称为FIRNet,它可以被训练成只根据其输出来“破解”分类器。我们广泛评估了(i)1,000个设备的无线电指纹数据集和(ii)24类调制数据集的性能。几种信道条件下获得的结果表明,我们的算法可以降低分类器的准确性高达3倍。我们还在无线电测试平台上对FIRNet进行了实验评估,并表明我们的数据驱动黑盒方法可以混淆高达97%的分类器,同时将波形失真保持在最低限度。
2020-05-05 cs.NI eess.SP
Adversarial Attacks on Deep-Learning Based Radio Signal Classification
Linköping University(林雪平大学)
尽管深度学习(DL)在许多计算机视觉和语言处理应用中取得了巨大成功,但它非常容易受到对抗攻击的影响。我们考虑使用DL的无线电信号(调制)分类任务,并提出了实用的方法,在该应用程序中的白盒和通用的黑盒对抗攻击的制作。我们表明,这些攻击可以大大降低分类性能,输入的扰动极小。特别地,这些攻击比经典的干扰攻击明显更强大,这在无线物理层使用基于DL的算法时引起了显著的安全性和鲁棒性问题。
2018-08-23 cs.CR cs.IT cs.LG
Waveform Manipulation Against DNN-based Modulation Classification Attacks
本研究针对基于DNN的调制分类窃听攻击,提出通过混入连续时间FM混淆信号操纵发射波形的防御方法,可在不影响合法接收的前提下将窃听者分类性能降至10%以下。
2023-10-03 cs.CR eess.SP
Fast and Accurate Optical Fiber Channel Modeling Using Generative Adversarial Network
Shanghai Jiao Tong University(上海交通大学);IMT Atlantique
在这项工作中,一个新的数据驱动的光纤通道建模方法,生成对抗网络(GAN)的学习光纤通道的传递函数的分布进行了研究。我们的研究集中在衰减,色散,自相位调制(SPM)和放大自发辐射(ASE)噪声的联合信道效应。为了实现GAN对信道建模的成功,我们修改了损失函数,设计了输入条件向量,并解决了长距离传输的模式坍塌。本文还展示了GAN的有效结构、参数和训练技巧。实验结果表明,该方法能够准确地学习光纤通道的传递函数。模型传输距离可达1000 km,理论上可扩展到任意距离。此外,GAN在不同的光发射功率,调制格式和输入信号分布下显示出鲁棒的泛化能力。将GAN的复杂度与分步傅里叶方法(SSFM)进行比较,总乘法次数仅为SSFM的2%,1000公里传输运行时间不到0.1秒,而在相同的硬件和软件条件下使用SSFM的运行时间为400秒,这凸显了光纤通道建模复杂度的显着降低。
2022-01-18 cs.IT cs.LG eess.SP
Feasibility of Modeling Orthogonal Frequency-Division Multiplexing Communication Signals with Unsupervised Generative Adversarial Networks
通常需要对商用通信硬件在现实环境中的射频发射进行高质量记录,以开发和评估频谱共享技术和做法,例如,用于训练和测试频谱感测算法以及用于干扰测试。不幸的是,这种数据收集的耗时,昂贵的性质以及数据共享的限制构成了限制数据集可用性的重大挑战。此外,从第一原理开发真实世界RF发射的精确模型通常非常困难,因为系统参数和实现细节充其量只是部分已知,并且复杂的系统动态特性难以表征。因此,需要灵活的数据驱动方法,可以利用现有的数据集来合成额外的类似波形。一种有前途的机器学习方法是使用生成对抗网络(GANs)的无监督深度生成建模。迄今为止,用于RF通信信号的GANs尚未被彻底研究。在本文中,我们提出了第一次深入调查生成的信号保真度的GANs训练与基带正交频分复用(OFDM)信号,其中每个子载波是数字调制与正交幅度调制(QAM)。在现有GAN方法的基础上,我们开发了两种新的GAN模型,并使用具有已知地面实况的模拟数据集评估了它们的性能。具体而言,我们研究了模型性能,增加数据集的复杂性在一系列的OFDM参数和条件,包括衰落信道。本文中的研究结果为用例的可行性提供了信息,并为进一步研究RF通信信号的深度生成模型提供了基础。
2022-02-18 eess.SP
Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network
Linköping University(林雪平大学)
深度学习(DL)作为用于无线通信系统中的许多应用的新工具正变得流行。然而,对于许多分类任务(例如,调制分类),已经表明基于DL的无线系统易受对抗性示例的影响;对抗性示例是对神经网络(NN)的精心制作的恶意输入,其目的是引起错误的输出。在本文中,我们将其扩展到回归问题,并表明对抗攻击可以打破DL为基础的功率分配在下行链路的大规模多输入多输出(maMIMO)网络。具体来说,我们扩展的快速梯度符号法(FGSM),动量迭代FGSM,和投影梯度下降对抗攻击的上下文中的maMIMO系统中的功率分配。我们对这些攻击的性能进行了基准测试,结果表明,在NN输入中有一个小的扰动,白盒攻击可以导致高达86%的不可行解。此外,我们研究了黑盒攻击的性能。在这项工作中进行的所有评估都是基于公开的开放数据集和NN模型。
2021-01-28 cs.IT cs.LG eess.SP
Adversarial Robustness of Distilled and Pruned Deep Learning-based Wireless Classifiers
Indian Institute of Technology Guwahati(印度古瓦哈蒂印度理工学院)
针对无线信号自动调制分类在边缘应用中易受对抗攻击的问题,提出结合知识蒸馏与网络剪枝的优化模型并辅以高效对抗训练,在提升干净样本准确率的同时显著增强了对抗鲁棒性。
2024-04-11 cs.CR cs.IT cs.LG
DKDNet: Dual Knowledge and Data-Driven Network for Cross-Domain Automatic Modulation Classification
School of Artificial Intelligence, Xidian University(西安电子科技大学人工智能学院);School of Electronics And Information, Northwestern Polytechnical University(西北工业大学电子与信息学院);Unmanned System Research Institute, Northwestern Polytechnical University(西北工业大学无人系统研究院)
针对通信环境跨域分布偏移挑战深度学习自动调制分类模型泛化的问题,提出DKDNet,通过分析五种信号表示选IQ、AP和ACF作先验引导输入,经MRFE和DLFU实现统一表示学习与自适应融合,实验验证了方法优越性。
2026-07-10 cs.AI eess.SP
How to Make 5G Communications "Invisible": Adversarial Machine Learning for Wireless Privacy
University of Maryland(马里兰大学);Intelligent Automation, Inc.(智能自动化公司)
我们考虑的问题隐藏无线通信从窃听者,采用深度学习(DL)分类器来检测是否存在任何感兴趣的传输。存在一个发射机,在窃听者存在的情况下向其接收机发送,而合作干扰机(CJ)通过空中发送精心制作的对抗性扰动,以欺骗窃听者将接收到的信号叠加归类为噪声。CJ对扰动信号的强度设置上限,以限制其对接收机处的误比特率(BER)的影响。我们表明,这种对抗性的扰动导致窃听者误分类接收到的信号作为噪声的概率很高,而增加的BER只有轻微的。另一方面,CJ无法像传统干扰那样通过简单地传输高斯噪声来欺骗窃听者,而是需要通过对抗性机器学习构建扰动信号来实现隐蔽通信。我们的研究结果表明,具有不同调制类型的信号以及最终的5G通信可以有效地隐藏在窃听者的视线之外,即使它配备了DL分类器来检测传输。
2020-05-15 cs.LG cs.NI eess.SP
An End-to-End and Accurate PPG-based Respiratory Rate Estimation Approach Using Cycle Generative Adversarial Networks
University of California Irvine(加州大学欧文分校);University of California, Irvine(加州大学欧文分校);Institute for Future Health, University of California, Irvine(加州大学欧文分校未来健康研究所)
呼吸频率(RR)是代表通气的临床体征。RR的异常变化通常是健康恶化的第一个迹象,因为身体试图维持向其组织输送氧气。在日常环境中远程监测RR的兴趣越来越大,这使得光电体积描记(PPG)监测可穿戴设备成为有吸引力的选择。PPG信号是用于RR提取的有用来源,因为其中存在呼吸诱导的调制。现有的基于PPG的RR估计方法主要依赖于手工制定的规则和手动参数调整。最近提出了一种端到端的深度学习方法,然而,尽管它具有自动化的性质,但使用真实世界数据时,这种方法的性能并不理想。在本文中,我们提出了一个端到端的和准确的管道RR估计使用循环生成对抗网络(CycleGAN)从原始PPG信号重建呼吸信号。我们的研究结果表明,与使用相同的公开数据集的最新技术相比,RR估计精度高达2 $\times$(使用五折交叉验证的平均绝对误差为1.9 $\pm$ 0.3)。我们的研究结果表明,CycleGAN可以是一种有价值的方法,从原始PPG信号的RR估计。
2021-07-30 cs.LG eess.SP
Trojan Attacks on Wireless Signal Classification with Adversarial Machine Learning
Intelligent Automation, Inc.(智能自动化公司)
我们提出了一种特洛伊木马(后门或陷阱)攻击,目标是无线通信中的深度学习应用程序。深度学习分类器被认为使用原始(I/Q)样本作为特征并且使用调制类型作为标签来对无线信号进行分类。对手通过插入木马(即,触发器)通过修改它们的相位并将这些样本的标签改变为目标标签而仅对少数训练数据样本进行控制。该中毒的训练数据用于训练深度学习分类器。在测试(推断)时间,对手发送具有相同相移的信号,该相移在训练期间作为触发器添加。虽然接收器可以在没有触发器的情况下准确地对干净(未中毒)信号进行分类,但它不能可靠地对有触发器的中毒信号进行分类。这种隐形攻击保持隐藏,直到被有毒输入(特洛伊木马)激活以绕过信号分类器(例如,用于认证)。我们证明了这种攻击在不同的信道条件下是成功的,并且不能通过简单地用随机相位变化对训练数据和测试数据进行预处理来减轻。为了检测这种攻击,基于激活的离群值检测被认为是统计和聚类技术。我们发现,后者可以检测木马攻击,即使很少的样本中毒。
2019-10-23 cs.CR cs.LG cs.NI