3N-GAN: Semi-Supervised Classification of X-Ray Images with a 3-Player Adversarial Framework
Saratoga High School(萨拉托加高中)
深度学习在医学成像任务(如分类)中的成功在很大程度上依赖于大规模数据集的可用性。然而,获取具有大量标记数据的数据集具有挑战性,因为标记是昂贵且耗时的。半监督学习(SSL)是完全监督学习的一种日益增长的替代方案,但需要未标记的样本进行训练。在医学成像中,许多数据集完全缺乏未标记的数据,因此SSL无法常规使用。我们提出了3 N-GAN或3网络生成对抗网络,以在全监督设置中执行医学图像的半监督分类。我们将一个分类器纳入对抗关系中,这样生成器就可以对抗分类器和分类器进行训练。我们的初步结果表明,改进的分类性能和GAN代各种算法。我们的工作可以与许多其他医学成像模型架构和SSL方法无缝集成,以获得更高的性能。
2021-09-22 cs.CV cs.LG eess.IV
Learning from Attacks: Attacking Variational Autoencoder for Improving Image Classification
fortiss(弗劳恩霍夫软件系统技术研究所)
对抗攻击通常被认为是对深度神经网络(DNN)鲁棒性的威胁。已经开发了各种防御技术来减轻对抗攻击对任务预测的潜在负面影响。本文从不同的角度分析了对抗攻击。也就是说,对抗性示例包含对预测有用的隐式信息,即,图像分类,并将针对DNN的对抗攻击视为能够促进特定学习任务的提取的抽象表示。我们提出了一个算法框架,利用DNN的数据自我表达和特定任务的预测的优势,以提高图像分类。该框架联合学习一个用于攻击变分自编码器(VAE)网络的DNN和一个用于分类的DNN,称为Attacking VAE for Improve Classification(AVIC)。实验结果表明,AVIC在标准数据集上的准确率高于干净样本训练和传统的对抗训练。
2022-03-11 cs.CV cs.LG eess.IV
AR-GAN: Generative Adversarial Network-Based Defense Method Against Adversarial Attacks on the Traffic Sign Classification System of Autonomous Vehicles
Clemson University(克莱姆森大学)
提出AR-GAN防御框架,通过GAN重建去噪并分类交通标志图像,在黑盒与FGSM、DeepFool、C&W、PGD白盒攻击下均表现稳健,尤其在强白盒扰动中优于基准方法。
2023-12-31 cs.AI cs.CR cs.CV
Adversarial Vulnerability Bounds for Gaussian Process Classification
University of Sheffield(谢菲尔德大学);CISPA Helmholtz Center for Information Security(CISPA亥姆霍兹信息安全中心)
机器学习(ML)分类越来越多地用于安全关键系统。保护ML分类器免受对抗性示例的影响至关重要。我们建议,主要的威胁是,攻击者扰动一个自信的分类输入,产生一个自信的错误分类。为了防止这种情况,我们为高斯过程分类器设计了一个对抗边界(AB),它适用于整个输入域,限制了未来任何对抗方法导致这种错误分类的可能性。这是鲁棒性的正式保证,而不仅仅是经验得出的结果。我们研究如何配置分类器,以最大限度地提高界限,包括使用稀疏近似,导致产生一个实用的,有用的和可证明的强大的分类器,我们使用各种数据集进行测试的方法。
2019-09-19 cs.CR cs.LG stat.ML
Deep Learning for Imbalance Data Classification using Class Expert Generative Adversarial Network
Bina Nusantara University(建国私立大学)
人工智能算法对不平衡数据没有特定的分类方法,很难识别出少数类别的数据。通常,通过假设训练数据是不平衡的来修改现有算法是处理不平衡数据的唯一方法。然而,对于一个正常的数据处理,这种方式大多产生一个缺陷的结果。在这项研究中,我们提出了一个类专家生成对抗网络(CE-GAN)作为不平衡数据分类的解决方案。CE-GAN是深度学习算法架构中的修改,其不具有训练数据是不平衡数据的假设。此外,CE-GAN被设计为在分类步骤之前识别关于每个类的特征的更多细节。CE-GAN已被证明在这项研究中,给不平衡数据分类的良好性能。
2018-07-13 cs.CV cs.LG stat.ML
Adversarial Perturbations Against Real-Time Video Classification Systems
University of California, Riverside(加州大学河滨分校);United States Army Research Laboratory(美国陆军研究实验室)
最近的研究已经证明了机器学习系统对对抗性扰动的脆弱性。然而,这些研究大多局限于图像上的扰动,更一般地说,分类不处理随时间变化的输入。在本文中,我们问“对抗扰动可能在实时的【形】视频分类系统,如果是这样,他们必须满足什么性质?“这样的系统在监控应用、智能车辆和智能老年人护理中有应用,因此,错误分类可能特别有害(例如,可能错过老年人护理设施处的事故)。我们表明,占时间结构是在这样的系统中生成对抗性例子的关键。我们利用生成对抗网络(GAN)架构的最新进展来解释时间相关性,并生成对抗样本,这些样本可能导致目标活动的错误分类率超过80%。更重要的是,这些样本也基本上不影响其他活动,使它们非常隐蔽。最后,我们还惊讶地发现,在许多情况下,相同的扰动可以应用于视频剪辑中的每一帧,这使得对手实现错误分类的能力相对容易。
2018-07-02 cs.CR cs.CV cs.LG
Improving Robustness of Malware Classifiers using Adversarial Strings Generated from Perturbed Latent Representations
Czech Technical University in Prague(布拉格捷克理工大学)
在恶意软件行为分析中,访问和创建的文件列表通常指示所检查的文件是恶意的还是良性的。然而,恶意软件作者试图通过生成随机文件名和/或用新版本的恶意软件修改使用的文件名来避免检测。这些变化代表了现实世界的对抗性例子。这项工作的目标是生成真实的对抗性示例,并提高分类器对这些攻击的鲁棒性。我们的方法以无监督的方式学习输入字符串的潜在表示,并在潜在域中使用基于梯度的对抗攻击方法来生成输入域中的对抗示例。我们使用这些例子来提高分类器的鲁棒性,通过训练生成的对抗性字符串集。与只在扰动的潜在向量上训练的分类器相比,我们的方法产生的分类器明显更鲁棒,而不会在标准精度上有很大的权衡。
2021-10-22 cs.CR cs.LG
An Efficient Feature Selection in Classification of Audio Files
Camellia Institute of Technology(卡米利亚理工学院);Jadavpur University(贾达普大学)
在本文中,我们专注于一个有效的特征选择方法在音频文件的分类。主要目标是特征选择和提取。我们选择了一组特征进行进一步分析,它们代表特征向量中的元素。通过提取方法,我们可以计算一个数值表示,可以使用现有的工具箱来表征音频。在这项研究中,增益比(GR)被用作特征选择措施。GR用于选择分裂属性,将元组分成不同的类。脉冲清晰度被认为是一个主观的衡量标准,它被用来计算音频文件的特征增益。应用程序中采用的分裂准则是从测试数据库中识别特定音频文件的类别或音乐流派。实验结果表明,该应用程序可以使用GR音乐流派分类取得令人满意的结果。在降维后,从音频文件的各种特征中选出最佳的三个特征,该技术可以获得90%以上的分类成功率。
2014-03-24 cs.LG
Fuzzy Hashing as Perturbation-Consistent Adversarial Kernel Embedding
Cylance(赛伦斯)
度量两个文件的相似性是恶意软件分析中的一项重要任务,模糊哈希函数是一种流行的方法。传统的模糊哈希函数是数据不可知的:它们不从特定的数据集学习如何确定相似性;它们的行为在所有数据集上都是固定的。在本文中,我们证明了模糊哈希函数可以在一个新的极大极小训练框架中学习,并且这些学习的模糊哈希函数在便携式可执行文件的文件相似性任务中优于传统的模糊哈希函数。在我们的方法中,可以从两个内核网络的内核嵌入中提取哈希表,在极大极小框架中进行训练,其中训练期间参与者的角色(即对手与生成器)随着输入数据交替。我们把这种新的极大极小结构称为扰动一致的。一对文件的相似性得分是极小极大博弈在均衡中的效用。我们的实验表明,学习模糊哈希函数泛化良好,能够确定两个文件是相似的,即使其中一个文件是使用插入和删除操作生成的。
2018-12-17 cs.CR cs.LG stat.ML
Deceiving End-to-End Deep Learning Malware Detectors using Adversarial Examples
Dept. of Computer Science, Bar-Ilan University(巴伊兰大学计算机科学系)
近年来,深度学习在许多应用中表现出性能突破,如图像检测、图像分割、姿态估计和语音识别。然而,这带来了一个主要问题:深度网络被发现容易受到对抗性示例的影响。对抗性样本是经过轻微修改的输入,故意设计用于引起模型的错误分类。在图像和语音领域,修改是如此之小,以至于人类看不到或听不到,但仍然极大地影响了模型的分类。深度学习模型已成功应用于恶意软件检测。在这个领域中,生成对抗性示例并不简单,因为对文件字节的微小修改可能会导致其功能和有效性发生重大变化。我们引入了一种新的损失函数,用于生成专门针对离散输入集(如可执行字节)的对抗性示例。我们修改恶意的二进制文件,使他们将被检测为良性的,同时保留其原始功能,通过注入一个小的字节序列(有效载荷)的二进制文件。我们将这种方法应用于端到端卷积深度学习恶意软件检测模型,并显示出很高的检测规避率。此外,我们表明,我们生成的有效载荷是足够强大的,可以在同一文件的不同位置和不同的文件,它的熵是低的,类似于良性的数据部分。
2019-01-10 cs.CR cs.LG
FoolHD: Fooling speaker identification by Highly imperceptible adversarial Disturbances
Alan Turing Institute(阿兰·图灵研究所)
说话人辨识模型容易受到精心设计的输入信号的对抗性扰动的影响,从而导致误分类。在这项工作中,我们提出了一个白盒隐写启发的对抗攻击,对说话人辨识模型产生不可感知的对抗性扰动。我们的方法,FoolHD,使用门控卷积自动编码器,在DCT域中操作,并使用多目标损失函数进行训练,以生成和隐藏原始音频文件中的对抗性扰动。除了阻碍说话人辨识性能之外,这种多目标损失通过从原始音频文件和对抗音频文件中提取的MFCC特征向量之间的逐帧余弦相似性来考虑人类感知。我们使用VoxCeleb训练的250-说话人辨识x向量网络验证了FoolHD在准确性、成功率和不可感知性方面的有效性。我们的研究结果表明,FoolHD生成高度不可感知的对抗性音频文件(平均PESQ分数高于4.30),同时在非目标和目标设置下分别实现了99.6%和99.2%的误导说话人辨识模型的成功率。
2021-02-20 cs.LG cs.SD eess.AS
Adversarial Malware Generation in Linux ELF Binaries via Semantic-Preserving Transformations
Faculty of Information Technology, Czech Technical University in Prague(信息技术学院,布拉格捷克技术大学)
本文提出了一种新的ELF格式对抗性恶意软件生成器,通过多种指标评估发现其 evasion rate 为67.74%,并发现目标分类器对可执行文件中的字符串敏感。
2026-04-24 cs.CR cs.LG
A Comparison of State-of-the-Art Techniques for Generating Adversarial Malware Binaries
U.S. Naval Research Laboratory(美国海军研究实验室);George mason university(乔治梅森大学)
我们考虑由网络攻击者生成对抗性恶意软件的问题,其中攻击者的任务是策略性地修改现有二进制恶意软件文件内的某些字节,使得修改后的文件能够逃避恶意软件检测器,例如基于机器学习的恶意软件分类器。我们已经评估了三种最近的对抗性恶意软件生成技术,这些技术使用从单个公开可用的恶意软件数据集中提取的二进制恶意软件样本,并比较了它们逃避基于机器学习的恶意软件分类器MalConv的性能。我们的研究结果表明,在比较的技术,最有效的技术是一个战略性地修改字节在二进制文件的头部。最后,我们讨论了关于对抗性恶意软件生成的经验教训和未来的研究方向。
2021-11-22 cs.CR cs.LG
Adversarial Training Improves Generalization Under Distribution Shifts in Bird Sound Classification
Fraunhofer Institute for Energy Economics and Energy System Technology (IEE)(弗劳恩霍夫能源经济与能源系统技术研究所);Intelligent Embedded Systems (IES)(智能嵌入式系统)
本文针对鸟类声音分类任务,探究对抗训练对分布偏移下泛化能力的影响,发现基于输出空间攻击的对抗训练可提升泛化性能与对抗鲁棒性,该方法或可推广至其他音频分类场景。
2026-08-25 cs.LG
Short Text Classification Approach to Identify Child Sexual Exploitation Material
Universidad de León(莱昂大学);INCIBE (Spanish National Cybersecurity Institute)(INCIBE(西班牙国家网络安全研究所))
制作或分享儿童性剥削材料(CSEM)是执法机构(LEAs)大力打击的严重犯罪。当执法机关从CSEM的潜在生产者或消费者那里没收计算机时,他们需要分析嫌疑人硬盘的文件,以寻找证据。然而,手动检查文件内容寻找CSEM是一项耗时的任务。在大多数情况下,西班牙警方使用搜查令的时间有限。另一种可以用来加速该过程的方法是通过分析文件名及其绝对路径来识别CSEM,而不是分析其内容。这项任务的主要挑战在于处理短文本,这些文本是由这些材料的所有者使用模糊的单词和用户定义的命名模式故意扭曲的。本文提出并比较了两种基于短文本分类的CSEM文档识别方法。第一个采用两个独立的监督分类器,一个用于文件名,另一个用于路径,它们的输出稍后被融合成单个分数。相反,第二种方法只使用文件名分类器来遍历文件的绝对路径。两种方法都在字符n-gram级别上操作,而二进制和正字法特征丰富了文件名表示,并且使用二进制Logistic回归模型进行分类。所提出的文件分类器实现了0.98的平均类召回。该解决方案可以集成到取证工具和服务中,以支持执法机构识别CSEM,而无需处理每个文件的视觉内容,这在计算上要求更高。
2020-11-13 cs.IR cs.LG
Open-Category Classification by Adversarial Sample Generation
Nanjing University(南京大学);Alibaba Group(阿里巴巴集团);UC Berkeley(加州大学伯克利分校)
在现实世界的分类任务中,很难从环境的所有可能类别中收集训练样本。因此,当一个看不见的类的实例出现在预测阶段时,鲁棒的分类器应该能够分辨出它来自一个看不见的类,而不是将它分类为任何已知的类别。在本文中,采用对抗学习的思想,我们提出了开放类别分类的ASG框架。ASG通过对抗学习策略以无监督的方式生成所见类别的正样本和负样本。通过生成的样本,ASG然后学习以监督的方式区分可见和不可见。在多个数据集上的实验表明了ASG的有效性。
2017-06-17 cs.LG
Towards Consistency in Adversarial Classification
Meta AI Research(Meta人工智能研究院);Université Paris-Dauphine(巴黎多芬大学);Ecole Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院)
在本文中,我们研究了在对抗性例子的背景下的一致性问题。具体来说,我们解决了以下问题:代理损失仍然可以被用作代理最小化的$0/1$损失的对手,在测试时改变输入的存在?与标准分类任务不同,这个问题不能简化为逐点最小化问题,并且校准不需要足以确保一致性。在本文中,我们揭示了一些特定于对抗问题的病态行为,并表明在这种情况下,没有凸代理损失是一致的或校准的。因此,有必要设计另一类代理函数来解决对抗性一致性问题。作为设计这样一个类的第一步,我们确定了在对抗和标准设置中校准代理损失的充分和必要条件。最后,我们给出了一些方向,以建立一类损失,可以在对抗框架中保持一致。
2022-05-20 cs.LG
Convolutional Neural Network and Adversarial Autoencoder in EEG images classification
Innopolis University(因诺波利斯大学)
本文结合计算机视觉与神经网络方法,用于手部运动期间大脑活动的分类。通过预处理EEG信号生成2DEEG图谱,并采用监督和半监督神经网络进行分类。
2026-04-05 cs.LG
A Music Classification Model based on Metric Learning and Feature Extraction from MP3 Audio Files
用于从音频媒体文件学习音乐相似性和特征提取的模型的开发对于娱乐行业来说是越来越重要的任务。提出了一种基于度量学习和特征提取的MP3音频文件音乐分类模型。度量学习过程考虑采用结构化预测方法从包含若干音乐流派的MP3音频文件的集合学习参数化距离的集合。这项工作的主要目标是使学习每个客户的个性化指标成为可能。为了提取声学信息,我们使用梅尔频率倒谱系数(MFCC),并使用主成分分析进行降维。我们证明了模型的有效性,进行了一系列的实验,并比较训练和测试结果与基线算法,如K-均值和软间隔线性支持向量机(SVM)。实验表明,有希望的结果,并鼓励未来的在线版本的学习模型的发展。
2019-09-17 cs.IR cs.LG cs.SD
A multi-task learning model for malware classification with useful file access pattern from API call sequence
The University of Hong Kong(香港大学)
基于API调用序列,可以构建基于语义感知和机器学习(ML)的恶意软件分类器以用于恶意软件检测或分类。以前的工作集中于通过静态或动态分析从恶意软件二进制文件、反汇编二进制文件或API调用中制作和提取各种特征,并诉诸ML来构建分类器。然而,它们往往涉及太多的特征工程,无法提供可解释性。我们通过深度学习的最新进展解决了这两个问题:1)基于RNN的自动编码器(RNN-AE)可以从原始API调用序列中自动学习恶意软件的低维表示。2)多个解码器可以在不同的监督下进行训练,以提供更多的信息,而不是恶意软件的类别或家族标签。受文档分类和自动句子摘要工作的启发,每个API调用序列都可以被视为一个句子。在本文中,我们首次尝试建立一个基于API调用序列的多任务恶意软件学习模型。该模型由两个解码器组成,一个用于恶意软件分类,另一个用于给定恶意软件的API调用序列的$\emph{file access pattern}$(FAP)生成。我们的模型基于一般的seq 2seq框架。实验表明,我们的模型可以提供有竞争力的分类结果,以及有见地的FAP信息。
2016-10-19 cs.CR cs.LG cs.SD
Multimodal Techniques for Malware Classification
San Jose State University(圣何塞州立大学)
本研究利用多模态机器学习方法,基于Windows PE文件不同部分提取的特征训练SVM、LSTM和CNN模型,并组合其输出概率,发现多模态模型优于基线,提高了恶意软件分类准确性。
2025-01-19 cs.CR cs.LG
Mal2GCN: A Robust Malware Detection Approach Using Deep Graph Convolutional Networks With Non-Negative Weights
Sharif University of Technology(谢里夫理工大学)
随着使用深度学习(DL)解决各种问题的步伐越来越快,保护这些模型免受攻击已成为研究人员的主要关注点之一。最近的研究表明,基于DL的恶意软件检测器容易受到对抗性示例的攻击。攻击者可以创建精心制作的对抗性示例,以逃避基于DL的恶意软件检测器。在本文中,我们提出了Mal2GCN,一个强大的恶意软件检测模型,使用函数调用图(FCG)表示的可执行文件结合图卷积网络(GCN)来检测Windows恶意软件。由于可执行文件的FCG表示比原始字节序列表示更鲁棒,因此许多提出的对抗性示例生成方法在规避Mal2GCN方面是无效的。此外,我们使用非负训练方法将Mal2GCN转换为单调非减函数,从而在理论上对附加攻击具有鲁棒性。然后,我们提出了一个黑盒源代码为基础的对抗性恶意软件生成方法,可用于评估恶意软件检测模型对现实世界的对手的鲁棒性。所提出的方法将对抗代码注入恶意软件源代码的各个位置,以逃避恶意软件检测模型。实验表明,非负权值的Mal2GCN在检测Windows恶意软件时具有较高的准确率,并且对恶意软件源代码中添加良性特征的对抗攻击具有较强的鲁棒性。
2022-03-12 cs.CR cs.LG
A Comparison of Adversarial Learning Techniques for Malware Detection
Czech Technical University in Prague(布拉格捷克技术大学);Faculty of Information Technology(信息技术学院);San Jose State University(圣何塞州立大学)
本文针对恶意 Windows PE 文件,比较基于梯度、进化算法和强化学习的对抗样本生成方法,发现 Gym-malware 实用性最强且组合使用逃避率最高。
2023-08-19 cs.CR cs.LG
LLM-based Content Classification Approach for GitHub Repositories by the README Files
Department of Computing and Built Environment(计算与环境系);Birmingham City University(伯明翰城市大学);Department of Computer Science and Software Engineering(计算机科学与软件工程系);School of Engineering(工程学院);Penn State University, Behrend, Erie PA(宾夕法尼亚州立大学贝伦分校,埃里普斯帕州);Department of Electrical Engineering(电气工程系);UET Taxila(塔希尔工程大学)
本研究针对GitHub仓库README信息不完备的问题,提出微调大语言模型的README内容自动分类方法,采用BERT等模型在金标准数据集上微调,F1值达0.98,还验证了参数高效微调的可行性,助力仓库自动化工具开发。
2025-07-29 cs.AI cs.LG cs.SE
Dynamic Malware Classification of Windows PE Files using CNNs and Greyscale Images Derived from Runtime API Call Argument Conversion
NIT Rourkela(鲁尔克拉国家理工学院)
本文提出一种动态恶意软件分类框架,通过提取Windows PE文件运行时的API调用参数并转换为时间模式,再利用magma色图生成灰度图像训练CNN模型,实现98.36%的平均准确率并对典型逃避策略具有显著韧性。
2025-05-30 cs.AI cs.CR cs.LG
Methodology for the Automated Metadata-Based Classification of Incriminating Digital Forensic Artefacts
University College Dublin(都柏林大学学院)
数字取证调查中不断增加的数据量是该领域讨论最多的挑战之一。通常,被没收设备上的大多数档案文物与调查无关。手动检索与调查相关的可疑文件类似于大海捞针。在本文中,一种自动优先化可疑文件文物(即,与调查有关的文件伪像)来减少所需的人工分析工作。这种方法被设计为以人在回路的方式工作。换句话说,它预测/建议人工制品可能是可疑的,而不是给出最终的分析结果。采用了监督机器学习方法,该方法利用了先前处理的病例的记录结果。文中给出了特征提取、数据集生成、训练和评价的过程。此外,还概述了一个从磁盘图像中提取数据的工具包,使这种方法能够与传统的调查过程相结合,并以自动化的方式工作。
2019-07-02 cs.CR cs.LG
On deceiving malware classification with section injection
Federal University of Bahia(巴伊亚联邦大学);University of South Florida(南佛罗里达大学)
我们研究如何修改可执行文件来欺骗恶意软件分类系统。这项工作的主要贡献是一种方法,在恶意软件文件中随机注入字节,并将其用作攻击以降低分类准确性,同时也用作防御方法,增加可用于训练的数据。它尊重操作系统文件格式,以确保恶意软件在我们注入后仍将执行,并且不会改变其行为。我们复制了五种最先进的恶意软件分类方法来评估我们的注入方案:一种基于GIST+KNN,三种CNN变体和一种门控CNN。我们在一个公共数据集上进行了实验,该数据集包含来自25个不同家族的9,339个恶意软件样本。我们的研究结果表明,恶意软件大小仅增加7%,就会导致恶意软件家族分类的准确性下降25%至40%。他们表明,自动恶意软件分类系统可能不像文献中最初报道的那样值得信赖。我们还评估了使用修改后的恶意软件和原始恶意软件来增加网络对上述攻击的鲁棒性。结果表明,重新排序恶意软件部分和注入随机数据的组合可以提高分类的整体性能。代码可在https://github.com/adeilsonsilva/malware-injection获得。
2022-08-12 cs.CR cs.LG
Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification
Carnegie Mellon University(卡内基梅隆大学)
对抗鲁棒性已经成为现代机器学习应用中的基本要求。然而,迄今为止,令人惊讶的是,统计学上的理解很少。本文在\cite{schmidt2018adversarially}提出的高斯混合模型下,给出了对抗鲁棒分类系统超额风险的最优Minimax保证的第一个结果.结果以对抗信噪比(AdvSNR)表示,它将标准线性分类的类似概念推广到对抗环境。对于AdvSNR值为$r$的高斯混合,我们建立了$Θ(e^{-(\frac{1}{8}+o(1)) r^2} \frac{d}{n})$阶的超额风险下界,并设计了一个计算效率高的估计器,以实现此最佳速率。我们的结果建立在最小的假设集,同时涵盖了广泛的对抗性扰动,包括任何$p \ge 1$的$\ell_p$球。
2020-06-29 cs.LG stat.ML
A Neural Rejection System Against Universal Adversarial Perturbations in Radio Signal Classification
Wolfson School of Mechanical, Electrical and Manufacturing Engineering, Loughborough University(洛桑大学沃尔夫森机械、电气与制造工程学院);Dept. of Electrical and Electronic Engineering, University of Cagliari(卡利亚里大学电子与电气工程系)
针对通用对抗扰动易高成功率攻击深度学习无线电信号分类模型的问题,提出神经拒绝防御系统,经白盒通用对抗扰动测试,防御准确率显著高于未设防深度神经网络。
2025-06-13 cs.AI cs.LG
Adversarial classification: An adversarial risk analysis approach
Institute of Mathematical Sciences (ICMAT-CSIC)(数学科学研究所(ICMAT-CSIC));CNR-IMATI(意大利国家研究委员会-IMATI研究所(CNR-IMATI));UAM(马德里康普顿斯大学(UAM))
安全设置中的分类问题通常被认为是一个或多个对手试图欺骗分类器以获得利益的对抗。这种对抗性分类问题的大多数方法都集中在具有强大的基本常识假设的博弈论思想上,这在安全领域实际上是不现实的。我们提供了一个替代框架,这样的问题的基础上对抗性风险分析,我们说明了几个例子。计算和实施问题进行了讨论。
2019-09-24 cs.GT cs.LG stat.ML
Adversarial Surrogate Risk Bounds for Binary Classification
针对二分类中对抗训练的一致性结果未给出收敛速率的问题,本文提出了量化对抗分类风险收敛速率的替代风险界。
2025-10-07 cs.LG math.ST stat.ML
Adversarial Augmentation for Enhancing Classification of Mammography Images
ETH Zürich(苏黎世联邦理工学院);University Hospital Zürich(苏黎世大学医院)
监督式深度学习依赖于有足够的训练数据可用的假设,这给它在医学成像等多个领域的应用带来了问题。在一个二进制图像分类任务(乳腺癌识别)的例子中,我们表明,预训练生成模型有意义的图像增强有助于提高所得分类器的性能。通过增加数据,即使使用相对较小的训练集,也可以提高下游分类任务的性能。我们表明,这种“对抗增强”产生有前途的结果相比,经典的图像增强的例子乳腺癌分类。
2019-02-20 cs.CV cs.LG
Adversarial Attacks to Multi-Modal Models
Duke University(杜克大学);The University of Tokyo(东京大学);Rochester Institute of Technology(罗切斯特理工学院);University of North Texas(北得克萨斯大学);University of Louisville(路易斯维尔大学)
本文提出CrossFire方法,通过将目标输入转换为匹配模态并最小化嵌入角度偏差来优化扰动,有效攻击多模态模型并操纵下游任务,且现有防御策略难以抵御。
2024-09-24 cs.CR cs.IR cs.LG
Defending Malware Classification Networks Against Adversarial Perturbations with Non-Negative Weight Restrictions
Google(谷歌)
越来越多的文献表明,深度神经网络容易受到对抗性输入修改的影响。最近,这项工作已经从图像分类扩展到布尔特征上的恶意软件分类。在本文中,我们提出了几种在这个特定领域训练受限网络的新方法,这些方法在防止对抗性扰动方面非常有效。我们从一个完全抗对抗的神经网络开始,它具有严格的非负权重限制,相当于学习单调布尔函数,然后尝试放松约束以提高分类器的准确性。
2018-06-23 cs.CR cs.LG stat.ML
Proper Network Interpretability Helps Adversarial Robustness in Classification
Massachusetts Institute of Technology(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
最近的工作经验表明,存在对抗性的例子,可以隐藏神经网络的可解释性(即,使网络解释图在视觉上相似),或可解释性本身容易受到对抗攻击。在本文中,我们从理论上证明,通过适当的解释测量,实际上很难防止预测规避对抗攻击引起解释差异,正如MNIST、CIFAR-10和Restricted ImageNet上的实验所证实的那样。在此基础上,我们开发了一个可解释性感知的防御方案,该方案仅建立在促进鲁棒解释的基础上(而不需要诉诸对抗性损失最小化)。我们表明,我们的防御实现了鲁棒的分类和鲁棒的解释,特别是针对大扰动攻击的最先进的对抗性训练方法。
2020-10-21 cs.LG stat.ML
Model Robustness with Text Classification: Semantic-preserving adversarial attacks
Wells Fargo(富国银行)
我们提出了创建对抗攻击的算法,以评估模型在文本分类问题中的鲁棒性。它们可以用来创建白盒攻击和黑盒攻击,同时保留原始文本的语义和语法。这些攻击在白盒设置中导致大量的翻转,并且可以在黑盒设置中使用相同的规则。在黑盒设置中,创建的攻击能够逆转基于Transformer的架构的决策。
2020-08-14 cs.CL cs.LG
An Integrated Algorithm for Robust and Imperceptible Audio Adversarial Examples
Fraunhofer Institute for Applied and Integrated Security (AISEC)(弗劳恩霍夫应用与集成安全研究所(AISEC));Technical University Munich(慕尼黑工业大学)
本研究提出一种集成算法,在音频对抗样本生成阶段就结合心理声学模型与神经网络动态生成的房间冲激响应,提升了样本的不可感知性与空中攻击鲁棒性,同时伴随词错误率上升。
2023-10-05 cs.LG cs.SD eess.AS
The Consistency of Adversarial Training for Binary Classification
本文研究了二分类中对抗训练的统计一致性问题,刻画了基于上确界的替代风险在勒贝格测度绝对连续分布下的一致性,并给出了对抗替代风险与分类风险的定量界限及 $\cH$-一致性意义。
2023-05-17 cs.LG math.ST stat.TH
Machine Learning Approach on Multiclass Classification of Internet Firewall Log Files
University of South Dakota(南达科他大学);Daffodil International University(水仙国际大学)
针对防火墙日志分类需求,研究采用多种机器学习分类算法解析防火墙日志数据,经多指标验证随机森林准确率达99%,所提特征可有效提升分类效果。
2023-06-12 cs.CR cs.LG cs.NI
Dual Adversarial Co-Learning for Multi-Domain Text Classification
Carleton University(卡尔顿大学)
在本文中,我们提出了一种新的双对抗的多域文本分类(MDTC)的共同学习方法。该方法学习共享私有网络进行特征提取,并在基于差异的协同学习框架下,采用双对抗正则化方法同时对齐不同领域以及标记和未标记数据之间的特征,旨在提高分类器的泛化能力。我们在多领域情感分类数据集上进行了实验。实验结果表明,该方法实现了最先进的MDTC性能。
2019-09-18 cs.IR cs.LG stat.ML
Adversarial EXEmples: A Survey and Experimental Evaluation of Practical Attacks on Machine Learning for Windows Malware Detection
Università degli studi di Cagliari(卡利亚里大学);FireEye, Inc.(火眼公司);Pluribus One(Pluribus One公司);Università degli Studi di Genova(热那亚大学)
最近的工作表明,对抗性Windows恶意软件样本-在本文中称为对抗性EXEmples-可以通过扰动相对较少的输入字节来绕过依赖于静态代码分析的基于机器学习的检测。为了保留恶意功能,以前的攻击要么向文件的现有非功能区域添加字节,可能会限制其有效性,要么需要运行计算要求很高的验证步骤,以丢弃在沙箱环境中无法正确执行的恶意软件变体。在这项工作中,我们通过开发一个统一的框架来克服这些限制,该框架不仅包含和概括了以前针对机器学习模型的攻击,而且还包括三种基于实用的、功能保留的操作的新攻击。这些攻击被命名为Full DOS、Extend和Shift,它们分别通过操纵DOS头、扩展DOS头和移动第一部分的内容来注入对抗性负载。我们的实验结果表明,这些攻击在白盒和黑盒情况下都优于现有的攻击,在规避率和注入的有效载荷大小方面实现了更好的权衡,同时还能够规避已被证明对以前的攻击具有鲁棒性的模型。为了便于我们的研究结果的可重复性,我们开源了我们的框架和所有相应的攻击实现,作为secml-malware Python库的一部分。我们通过讨论当前基于机器学习的恶意软件检测器的局限性以及基于将来自主题专家的领域知识直接嵌入到学习过程中的潜在缓解策略来结束这项工作。
2021-03-22 cs.CR cs.LG
Explainability-Driven Leaf Disease Classification Using Adversarial Training and Knowledge Distillation
National University of Science and Technology POLITEHNICA Bucharest(布加勒斯特国立科技理工大学);National Institute for Research and Development in Informatics - ICI Bucharest(罗马尼亚国家信息研究与发展研究所(ICI布加勒斯特));Academy of Romanian Scientists(罗马尼亚科学家学院)
面向植物叶片病害分类,本文结合对抗训练、可解释性分析与知识蒸馏,在提升对抗鲁棒性和透明度的同时,以轻微性能损失获得15–25倍计算效率提升。
2024-01-23 cs.CV cs.LG
Long-term Cross Adversarial Training: A Robust Meta-learning Method for Few-shot Classification Tasks
The Hong Kong Polytechnic University(香港理工大学)
元学习模型可以利用Few-Shot标记数据快速适应新任务。然而,尽管在Few-Shot分类任务上实现了良好的泛化,但在少样本学习中提高元学习模型的对抗鲁棒性仍然具有挑战性。虽然对抗性查询(AQ)等对抗性训练(AT)方法可以提高元学习模型的对抗性鲁棒性能,但AT仍然是计算昂贵的训练。另一方面,用AT训练的元学习模型将显著降低原始干净图像的准确性。提出了一种对抗鲁棒神经网络的元学习方法--长期交叉对抗训练(LCAT)。LCAT将沿着自然和对抗样本分布方向交叉更新元学习模型参数,以提高对抗和干净的Few-Shot分类精度。由于交叉对抗训练,LCAT只需要比AQ一半的对抗训练时间,从而降低了对抗训练计算。实验结果表明,LCAT在元学习模型的干净和对抗性Few-Shot分类准确率方面都优于SOTA对抗性训练方法。
2021-07-01 cs.CR cs.CV cs.LG
Adversarial Multi-Binary Neural Network for Multi-class Classification
AI Labs, Didi Chuxing(滴滴出行人工智能实验室);AI Labs, Didi Research America(滴滴美国研究院人工智能实验室)
多类文本分类是机器学习和自然语言处理的关键问题之一。新兴的神经网络使用多输出softmax层来处理这个问题,并取得了实质性的进展,但它们没有显式地学习类之间的相关性。在本文中,我们使用多任务框架来解决多类分类问题,其中多类分类器和多个二进制分类器一起训练。此外,我们使用对抗训练来区分类特定的特征和类不可知的特征。该模型受益于更好的特征表示。我们进行了两个大规模的多类文本分类任务的实验,并证明所提出的架构优于基线方法。
2020-03-25 cs.CL cs.LG
Consistent Robust Adversarial Prediction for General Multiclass Classification
Carnegie Mellon University(卡内基梅隆大学);Conversant LLC(Conversant有限责任公司);California Institute of Technology(加州理工学院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Pennsylvania(宾夕法尼亚大学)
我们提出了一个强大的对抗性预测框架一般多类分类。我们的方法寻求预测分布,该预测分布针对(近似)匹配训练数据统计的最坏情况条件标签分布(对抗分布)鲁棒地优化非凸和非连续多类损失度量。虽然优化的损失度量是非凸和非连续的,但该框架的对偶公式是一个凸优化问题,可以重新转换为具有指定凸代理损失的风险最小化模型,我们称之为对抗代理损失。我们表明,对抗性代理损失填补了现有的空白,代理损失建设一般多类分类问题,同时更好地与原始多类损失对齐,保证Fisher一致性,使一种方式,通过内核技巧,将丰富的特征空间,并提供在实践中有竞争力的性能。
2019-11-20 cs.LG stat.ML
Adversarially Robust Few-Shot Learning: A Meta-Learning Approach
University of Maryland(马里兰大学)
以前的工作对抗强大的神经网络图像分类需要大的训练集和计算昂贵的训练过程。另一方面,少样本学习方法非常容易受到对抗性样本的影响。我们工作的目标是生成在Few-Shot分类任务中表现良好的网络,同时对对抗性示例具有鲁棒性。我们开发了一种算法,称为对抗查询(AQ),用于产生对抗性强大的元学习者,我们彻底调查了对抗性脆弱性的原因。此外,我们的方法在Few-Shot图像分类任务(如Mini-ImageNet和CIFAR-FS)上的鲁棒性能远远优于鲁棒的迁移学习。
2020-10-15 cs.LG stat.ML
Cleaning up the neighborhood: A full classification for adversarial partial monitoring
DeepMind
部分监控是著名的多臂强盗框架的推广,其中学习者不能直接观察到损失。我们完成了有限对抗部分监控的分类,包括所有游戏,解决了Bartok等人提出的一个开放问题。一路上,我们简化和改进现有的算法,并纠正以前的分析中的错误。我们的第二个贡献是巴托克[2013]研究的一类游戏的新算法,其中我们证明了后悔上界和下界,这些上界和下界揭示了后悔对游戏结构的依赖性。
2018-05-23 cs.LG stat.ML
Adversarial Reprogramming of Text Classification Neural Networks
University of California San Diego(加州大学圣地亚哥分校)
对抗性重编程已经成功地利用预先训练的神经网络分类器进行替代分类任务,而无需修改原始网络。这种攻击场景中的对手训练对输入的附加贡献,以将神经网络重新用于新的分类任务。虽然这种重编程方法适用于具有连续输入空间(例如图像)的神经网络,但它不直接适用于针对文本分类等任务训练的神经网络,其中输入空间是离散的。重新使用这样的分类网络需要攻击者学习一个对抗程序,将输入从一个离散空间映射到另一个离散空间。在这项工作中,我们引入了一个基于上下文的词汇重映射模型来重新编程神经网络训练的特定序列分类任务,一个新的序列分类任务所需的对手。我们提出了在白盒和黑盒设置中的对抗程序的训练程序。我们通过逆向地重新利用各种文本分类模型(包括LSTM、双向LSTM和CNN)来演示我们的模型的应用,以用于替代分类任务。
2019-08-15 cs.CR cs.LG stat.ML
Darknet Traffic Classification and Adversarial Attacks
San Jose State University(圣何塞州立大学)
暗网的匿名性通常被用于非法活动。之前的研究已经采用了机器学习和深度学习技术来自动检测暗网流量,试图阻止这些犯罪活动。这项研究旨在通过评估支持向量机(SVM),随机森林(RF),卷积神经网络(CNN)和分类器生成对抗网络(AC-GAN)来改进暗网流量检测,以分类此类流量和底层应用类型。我们发现,我们的RF模型优于CIC-Darknet 2020数据集先前工作中使用的最先进的机器学习技术。为了评估我们的RF分类器的鲁棒性,我们混淆选择应用程序类型类来模拟现实的对抗攻击场景。我们证明了我们的最佳性能分类器可以被这样的攻击击败,我们考虑的方法来处理这种对抗攻击。
2022-06-12 cs.CR cs.LG
Robustifying Binary Classification to Adversarial Perturbation
California Institute of Technology(加州理工学院)
尽管机器学习模型在各种应用中取得了巨大的成功,但这些模型中的大多数都缺乏对输入数据中(即使是很小的)扰动的弹性。因此,增强机器学习模型的新方法似乎非常重要。为此,在本文中,我们考虑的问题,二进制分类与对抗扰动。研究最小-最大优化的解决方案(考虑存在对抗性扰动的最坏情况下的损失),我们引入了一个最大边缘分类器的泛化,该分类器考虑了对手在操纵数据时的能力。我们将该分类器称为“鲁棒最大边缘”(RM)分类器。在损失函数的一些温和的假设下,我们从理论上证明了梯度下降迭代(具有足够小的步长)在其方向上收敛到RM分类器。因此,可以研究RM分类器以计算具有对抗性扰动的二进制分类的各种性能度量(例如,泛化误差)。
2020-10-29 cs.LG math.OC
Adversarial Attacks on Time Series
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
时间序列分类模型在研究界已经获得了显着的重要性。然而,在为这些模型生成对抗性样本方面还没有做太多的研究。这些对抗性样本可能成为安全问题。在本文中,我们提出了利用对抗性转换网络(ATN)在一个蒸馏模型攻击各种时间序列分类模型。对分类模型的拟议攻击利用一个蒸馏模型作为替代,模仿受攻击的经典时间序列分类模型的行为。我们提出的方法被应用到1-最近邻动态时间规整(1-NN)DTW,全连接网络和全卷积网络(FCN)上,所有这些都是在42个加州大学河滨分校(UCR)数据集上训练的。在本文中,我们证明了这两个模型都容易受到所有42个数据集的攻击。据我们所知,这种对时间序列分类模型的攻击以前从未发生过。最后,我们建议未来开发时间序列分类模型的研究人员将对抗性数据样本纳入其训练数据集中,以提高对抗性样本的弹性,并将模型鲁棒性考虑为评估指标。
2019-03-01 cs.LG stat.ML
Understanding and Quantifying Adversarial Examples Existence in Linear Classification
Northeastern University(东北大学)
最先进的深度神经网络(DNN)容易受到对抗性示例的攻击:精心设计的对输入的微小扰动,人类无法察觉,可能会误导DNN。为了了解对抗性示例的根本原因,我们量化了线性分类器的对抗性示例存在的概率。以前的对抗性示例的数学定义只涉及整体扰动量,我们提出了一个更实用的强对抗性示例的相关定义,该定义还单独限制了沿信号方向的扰动。我们表明,线性分类器可以强大的对抗性的例子攻击的情况下,没有对抗性的强大的线性分类器存在之前的定义。通过线性支持向量机(SVM)分类器的数值实验,验证了定量公式的正确性.结果表明,设计一般的强对抗性鲁棒学习系统是可行的,但只有通过结合人类知识的基本分类问题。
2019-10-27 cs.CR cs.LG stat.ML
Genetic Column Generation for Computing Lower Bounds for Adversarial Classification
Technische Universität München(慕尼黑工业大学)
本文借鉴多边际最优传输的 Genetic Column Generation 方法,以缓解维数灾难并计算对抗性多类分类中的最小对抗风险下界。
2024-06-12 cs.LG cs.NA math.NA
Effectiveness of Adversarial Examples and Defenses for Malware Classification
University of North Texas(北德克萨斯大学)
人工神经网络已经成功地用于许多不同的分类任务,包括恶意软件检测和区分恶意和非恶意程序。尽管人工神经网络在这些任务上表现得非常好,但它们也容易受到对抗性示例的影响。对抗性样本是一个样本,它被做了微小的修改,因此神经网络会错误地分类它。已经提出了许多技术,用于制作对抗性样本和强化神经网络来对抗它们。以前的大多数工作都是在图像领域完成的。一些攻击已被用于恶意软件领域,该领域通常处理二进制特征向量。为了更好地理解恶意软件分类中对抗性示例的空间,我们研究了恶意软件领域中制作对抗性示例和防御技术的不同方法,并比较了它们在多个数据集上的有效性。
2019-09-10 cs.CR cs.LG stat.ML