Alleviating Robust Overfitting of Adversarial Training With Consistency Regularization
Xidian University(西安电子科技大学);Nanyang Technological University(南洋理工大学)
对抗性训练(AT)已被证明是保护深度神经网络(DNN)免受对抗攻击的最有效方法之一。然而,鲁棒过拟合现象,即,鲁棒性在某个阶段会急剧下降,在AT期间始终存在。为了获得一个鲁棒的模型,减小这种鲁棒的推广差距是非常重要的。本文从一个新的角度对鲁棒过拟合问题进行了深入的研究。我们观察到,一致性正则化,半监督学习中的一种流行技术,具有与AT相似的目标,并且可以用于减轻鲁棒过拟合。我们经验验证了这一观察,并发现大多数先前的解决方案有隐式连接到一致性正则化。基于此,我们引入了一个新的AT解决方案,它集成了一致性正则化和平均教师(MT)策略到AT。具体来说,我们引入了一个教师模型,它来自于学生模型在训练步骤中的平均权重。然后,我们设计了一个一致性损失函数,使学生模型在对抗样本上的预测分布与教师模型在干净样本上的预测分布一致。实验结果表明,该方法能有效抑制过拟合,提高DNN模型对常见对抗攻击的鲁棒性.
2022-05-24 cs.CV cs.LG
Adversarial Training Improves Generalization Under Distribution Shifts in Bird Sound Classification
Fraunhofer Institute for Energy Economics and Energy System Technology (IEE)(弗劳恩霍夫能源经济与能源系统技术研究所);Intelligent Embedded Systems (IES)(智能嵌入式系统)
本文针对鸟类声音分类任务,探究对抗训练对分布偏移下泛化能力的影响,发现基于输出空间攻击的对抗训练可提升泛化性能与对抗鲁棒性,该方法或可推广至其他音频分类场景。
2026-08-25 cs.LG
Revisiting Adversarial Autoencoder for Unsupervised Word Translation with Cycle Consistency and Improved Training
Nanyang Technological University(南洋理工大学);Salesforce Research Asia(赛富时亚洲研究院)
对抗训练在学习双语词典方面取得了令人印象深刻的成功,没有任何并行数据,通过将单语嵌入映射到共享空间。然而,最近的研究表明,非对抗性方法在更具挑战性的语言对中表现出更好的性能。在这项工作中,我们重新审视了用于无监督单词翻译的对抗自动编码器,并提出了两个新的扩展,以产生更稳定的训练和改进的结果。我们的方法包括正则化条款,以加强循环一致性和输入重建,并把目标编码器作为对手对相应的编码器。对欧洲、非欧洲和低资源语言的广泛实验表明,我们的方法比最近提出的对抗性和非对抗性方法更鲁棒,性能更好。
2019-04-04 cs.CL cs.LG stat.ML
ADC: Adversarial attacks against object Detection that evade Context consistency checks
University of California, Riverside(加州大学河滨分校)
深度神经网络(DNN)已被证明容易受到对抗性示例的影响,这些示例是轻微扰动的输入图像,导致DNN做出错误的预测。为了保护免受这样的例子,已经提出了各种防御策略。一种用于检测对抗性示例的非常新的防御策略,已经被证明对当前攻击是鲁棒的,是检查输入数据中的内在上下文,其中上下文指的是各种关系(例如,对象到对象共现关系)。在本文中,我们表明,即使是上下文一致性检查也可能对精心制作的对抗性示例很脆弱,据我们所知,我们是第一个这样做的。具体来说,我们提出了一个自适应的框架来生成的例子,颠覆这种防御,即对抗攻击对目标检测,逃避上下文一致性检查(ADC)。在ADC中,我们制定了一个联合优化问题,它有两个攻击目标,即,(i)欺骗对象检测器和(ii)同时逃避上下文一致性检查系统。在PASCAL VOC和MS COCO数据集上的实验表明,使用ADC生成的示例在大多数情况下以超过85%的成功率欺骗对象检测器,同时逃避最近提出的上下文一致性检查,在大多数情况下绕过率超过80%。我们的研究结果表明,如何鲁棒地建模上下文并检查其一致性,仍然是一个悬而未决的问题。
2021-10-24 cs.CV cs.LG
Open-Category Classification by Adversarial Sample Generation
Nanjing University(南京大学);Alibaba Group(阿里巴巴集团);UC Berkeley(加州大学伯克利分校)
在现实世界的分类任务中,很难从环境的所有可能类别中收集训练样本。因此,当一个看不见的类的实例出现在预测阶段时,鲁棒的分类器应该能够分辨出它来自一个看不见的类,而不是将它分类为任何已知的类别。在本文中,采用对抗学习的思想,我们提出了开放类别分类的ASG框架。ASG通过对抗学习策略以无监督的方式生成所见类别的正样本和负样本。通过生成的样本,ASG然后学习以监督的方式区分可见和不可见。在多个数据集上的实验表明了ASG的有效性。
2017-06-17 cs.LG
Leveraging Information Consistency in Frequency and Spatial Domain for Adversarial Attacks
The University of Sydney(悉尼大学);Suzhou Yierqi(苏州亿尔齐);University of Malaya(马来亚大学);Virginia Polytechnic Institute and State University(弗吉尼亚理工学院暨州立大学)
本文提出了一种利用频域和空间域信息一致性的简单高效可扩展的基于梯度的对抗攻击算法,实验证明其在不同模型上达到了最先进的攻击效果。
2024-08-22 cs.AI cs.LG
Characterizing Adversarial Examples Based on Spatial Consistency Information for Semantic Segmentation
University of Michigan(密歇根大学);Simon Fraser University(西蒙弗雷泽大学);UIUC(伊利诺伊大学厄巴纳-香槟分校);UC Berkeley(加州大学伯克利分校)
深度神经网络(DNN)已广泛应用于各种识别任务中。然而,最近DNN被证明容易受到对抗性示例的攻击,这可能会误导DNN做出任意的错误预测。虽然对抗性样本在分类任务中得到了很好的研究,但其他学习问题可能具有不同的属性。例如,语义分割需要额外的组件,如扩张卷积和多尺度处理。在本文中,我们的目标是在语义分割中基于空间上下文信息来表征对抗性示例。我们观察到,即使强大的自适应攻击者可以访问模型和检测策略,也可以利用空间一致性信息来鲁棒地检测对抗性示例。我们还表明,基于本文中考虑的攻击的对抗性示例几乎不会在模型之间转移,尽管可转移性在分类中很常见。我们的观察为开发对抗攻击和防御提供了新的思路,以更好地了解DNN的脆弱性。
2018-10-11 cs.CR cs.CV cs.LG
Calibration and Consistency of Adversarial Surrogate Losses
Google Research(谷歌研究院);Rutgers University(罗格斯大学);Courant Institute of Mathematical Sciences(库朗数学科学研究所)
对抗鲁棒性是分类器在应用中越来越重要的特性。鲁棒算法的设计依赖于代理损失,因为大多数假设集的对抗损失的优化是NP难的。但是,应该使用哪些替代损失,以及它们何时从理论保证中受益?我们提出了一个广泛的研究这个问题,包括H-校准和H-一致性的对抗性代理损失的详细分析。我们表明,在一些一般的假设下,凸损失函数,或基于上确界的凸损失经常使用的应用程序,不H校准的重要假设集,如广义线性模型或单层神经网络。然后,我们给出了H-校准的一个特征,并证明了一些代理损失确实是H-校准的对抗性损失,这些假设集。接下来,我们证明了H校准不足以保证一致性,并证明了在没有任何分布假设的情况下,在对抗环境中没有连续的替代损失是一致的。特别是,这证明了COLT 2020出版物中提出的声明是不准确的。(校准结果存在正确的模细微定义差异,但一致性声明不成立。)接下来,我们确定自然条件下,我们详细描述的一些代理损失是H-一致的假设集,如广义线性模型和单层神经网络。我们还报告了一系列的实证结果与模拟数据,这表明许多H校准的替代损失确实是不H一致的,并验证了我们的理论假设。
2021-05-04 cs.LG stat.ML
Addressing Key Challenges of Adversarial Attacks and Defenses in the Tabular Domain: A Methodological Framework for Coherence and Consistency
Department of Software and Information Systems Engineering(软件与信息系统工程系);Ben-Gurion University of the Negev(本·古里安大学)
针对表格域对抗样本需保持特征连贯性但现有评估指标存在缺失的问题,提出保持连贯性的扰动方法、CSAD异常检测及结合SHAP的综合评估体系,实验揭示攻防权衡并奠定研究基础。
2025-09-01 cs.LG
Large-Scale Optimal Transport via Adversarial Training with Cycle-Consistency
Shanghai Jiao Tong University(上海交通大学)
大规模最优传输的最新进展极大地扩展了其在机器学习中的应用场景。然而,现有的方法要么不显式地学习运输地图或不支持一般的成本函数。在本文中,我们提出了一个端到端的方法来解决大规模的最优运输,直接解决运输地图,并与一般的成本函数兼容。它通过随机神经网络对运输图进行建模,并通过对抗训练对边缘分布进行约束。通过引入循环一致性约束,该框架可以进一步扩展到学习Monge映射或最优双射。我们验证了所提出的方法的有效性,并证明其优越的性能与现有的方法与大规模的现实世界的应用,包括领域自适应,图像到图像的翻译,和颜色转移。
2020-03-14 cs.CV cs.LG
Convolutional Neural Network and Adversarial Autoencoder in EEG images classification
Innopolis University(因诺波利斯大学)
本文结合计算机视觉与神经网络方法,用于手部运动期间大脑活动的分类。通过预处理EEG信号生成2DEEG图谱,并采用监督和半监督神经网络进行分类。
2026-04-05 cs.LG
Consistency Regularization for Adversarial Robustness
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院);AITRICS
对抗训练(AT)是目前获得深度神经网络对抗鲁棒性的最成功方法之一。然而,鲁棒过拟合现象,即,在AT期间鲁棒性开始显著降低,这是有问题的,不仅使从业者考虑一袋技巧来成功训练,例如,早期停止,但也会导致鲁棒性的显著泛化差距。在本文中,我们提出了一个有效的正则化技术,防止强大的过拟合优化辅助“一致性”正则化损失在AT。具体来说,我们发现,数据增强是一个非常有效的工具,以减轻过拟合AT,并开发了一个正则化,迫使预测分布攻击后,从两个不同的扩增相同的实例是彼此相似。我们的实验结果表明,这样一个简单的正则化技术带来了显着的改善,在测试中的鲁棒性的准确性范围广泛的AT方法。更值得注意的是,我们还表明,我们的方法可以显着帮助模型推广其对看不见的对手的鲁棒性,例如,其他类型或与训练期间使用的扰动相比更大的扰动。代码可在https://github.com/alinlab/consistency-adversarial上获得。
2021-12-22 cs.AI cs.LG
Consistency Regularization with Generative Adversarial Networks for Semi-Supervised Learning
North Carolina State University(北卡罗来纳州立大学)
基于生成对抗网络(GANs)的半监督学习(SSL)方法通过利用大量未标记样本和有限的标记样本来提高分类性能。然而,它们的性能仍然落后于最先进的基于非GAN的SSL方法。我们确定,这是因为缺乏一致性的类概率预测在同一图像下局部扰动的主要原因。根据一般文献,我们通过标签一致性正则化来解决这个问题,该正则化强制输入图像的类概率预测在各种语义保持扰动下保持不变。在这项工作中,我们将一致性正则化引入到vanilla semi-GAN中,以解决这一关键限制。特别是,我们提出了一种新的复合一致性正则化方法,在精神上,利用局部一致性和插值一致性。我们证明了我们的方法在两个SSL图像分类基准数据集SVHN和CIFAR-10上的有效性。我们的实验表明,这种新的基于复合一致性正则化的半GAN显着提高了其性能,并在基于GAN的SSL方法中实现了新的最先进的性能。
2020-09-15 cs.CV cs.LG stat.ML
Enhancing Consistency-Based Image Generation via Adversarialy-Trained Classification and Energy-Based Discrimination
Technion(以色列理工学院)
针对一致性模型生成图像质量略逊于扩散模型的问题,提出基于对抗训练的联合分类器-判别器后处理技术,通过能量基判别优化图像,提升了ImageNet 64x64数据集上的FID分数。
2024-11-28 cs.CV cs.LG
The Adversarial Consistency of Surrogate Risks for Binary Classification
Courant Institute(Courant 院);New York University(纽约大学)
本文刻画了鲁棒二分类中替代损失函数的对抗一致性条件,证明对抗一致类远小于标准设置,并给出ρ-间隔损失的定量一致性结果。
2023-12-23 cs.LG math.ST stat.TH
Towards Achieving Adversarial Robustness by Enforcing Feature Consistency Across Bit Planes
Indian Institute of Science(印度科学学院)
作为人类,我们固有地基于其主要特征来感知图像,而忽略嵌入在较低位平面内的噪声。相反,众所周知,深度神经网络可以自信地对被精心制作的扰动破坏的图像进行错误分类,这些扰动几乎是人眼无法察觉的。在这项工作中,我们试图通过训练网络来解决这个问题,以根据高位平面中的信息形成粗略的印象,并仅使用低位平面来改进其预测。我们证明,通过对不同量化图像中学习到的表示施加一致性,与正常训练的模型相比,网络的对抗鲁棒性显着提高。目前最先进的对抗对抗攻击的防御需要使用对抗样本显式训练网络,这些样本的生成在计算上是昂贵的。虽然此类使用对抗训练的方法继续取得最佳结果,但这项工作为实现鲁棒性铺平了道路,而无需显式地对对抗样本进行训练。因此,所提出的方法更快,也更接近人类的自然学习过程。
2020-04-01 cs.CR cs.CV cs.LG
Consistency Regularization for Generative Adversarial Networks
Google Research(谷歌研究院)
生成对抗网络(GANs)是已知的,是难以训练,尽管相当大的研究工作。已经提出了几种用于稳定训练的正则化技术,但它们引入了非平凡的计算开销,并且与谱归一化等现有技术的交互性很差。在这项工作中,我们提出了一个简单,有效的训练稳定器的一致性正则化的概念-一个流行的技术在半监督学习文献的基础上。特别是,我们增加了传入GAN的数据,并惩罚了GAN对这些增强的敏感性。我们进行了一系列的实验,以证明一致性正则化有效地与频谱归一化和各种GAN架构,损失函数和优化器设置。与CIFAR-10和CelebA上的其他正则化方法相比,我们的方法实现了无条件图像生成的最佳FID分数。此外,我们的一致性正则化GAN(CR-GAN)将CIFAR-10上的条件生成的最先进FID分数从14.73提高到11.48,并在ImageNet-2012上从8.73提高到6.66。
2020-02-18 cs.CV cs.LG stat.ML
Semantic Consistency and Identity Mapping Multi-Component Generative Adversarial Network for Person Re-Identification
Queensland University of Technology (QUT)(昆士兰科技大学)
在真实世界环境中,由于照明条件、视角、姿势和遮挡的变化,人重新识别(Re-ID)是一项具有挑战性的任务。尽管最近的性能提高,目前的人的Re-ID算法仍然受到严重影响时,遇到这些变化。为了解决这个问题,我们提出了一个语义一致性和身份映射的多组件生成对抗网络(SC-IMGAN),它提供从一个到多个域的风格适应。为了确保变换后的图像尽可能真实,我们提出了新的身份映射和语义一致性损失,以保持身份在不同的领域。对于Re-ID任务,我们提出了一个联合验证-识别四元组网络,该网络使用生成的和真实的图像进行训练,然后进行有效的四元组丢失验证。我们提出的方法在六个具有挑战性的人Re-ID数据集上的性能优于最先进的技术:CUHK 01,CUHK 03,VIPeR,PRID 2011,iLIDS和Market-1501。
2021-04-28 cs.AI cs.CV cs.LG
Multi-Reference Neural TTS Stylization with Adversarial Cycle Consistency
University of Washington(华盛顿大学);University of Buffalo(布法罗大学);Microsoft Research(微软研究院)
当前用于文本到语音(TTS)的多参考样式传输模型在不相交的数据集上执行次优,其中一个数据集仅包含用于样式维度之一的单个样式类。这些模型通常无法为数据集中表示不足的维度生成样式转换。在本文中,我们提出了一个对抗循环一致性训练方案,其中包含配对和非配对的三元组,以确保使用来自所有风格维度的信息。在训练过程中,我们将不成对的三元组与随机选择的参考音频样本相结合,并鼓励合成语音使用对抗循环一致性来保持适当的风格。我们使用这种方法将情感从包含四种情感的数据集转移到只有一种情感的数据集。这导致风格转移(基于情感分类)提高了78%,保真度和自然度降低最小。在主观评价中,我们的方法始终被评为比基线更接近参考风格。合成语音样本可在以下网址获得:https://sites.google.com/view/adv-cycle-consistent-tts
2019-10-25 cs.LG cs.SD eess.AS
Instant Adversarial Purification with Adversarial Consistency Distillation
City University of Hong Kong(香港城市大学);University of St Andrews(圣安德鲁斯大学);University of Nottingham(诺丁汉大学)
针对现有扩散模型对抗纯化方法计算开销大的问题,提出OSCP框架,结合GAND蒸馏目标与CAP推理流水线,实现单步高效鲁棒纯化,在ImageNet上以0.1秒单步速度达74.19%防御成功率,提速百倍。
2025-03-21 cs.AI cs.CV cs.LG
Identifying and Resisting Adversarial Videos Using Temporal Consistency
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);Peng Cheng Laboratory(鹏城实验室);Beihang University(北京航空航天大学)
视频分类是计算机视觉中一项具有挑战性的任务。尽管深度神经网络(DNN)在视频分类方面取得了优异的性能,但最近的研究表明,向干净的视频中添加不可察觉的扰动会使经过良好训练的模型以高置信度输出错误的标签。在本文中,我们提出了一个有效的防御框架来描述和防御对抗性视频。所提出的方法包括两个阶段:(1)利用相邻帧之间的时间一致性进行对抗性视频检测,以及(2)分别通过空域和时域的去噪器减少对抗性扰动。具体而言,由于DNN的线性性质,不可感知的扰动将随着DNN深度的增加而放大,这导致相邻帧之间DNN输出的不一致性。然而,由于这些微小的变化,良性视频帧通常与它们的相邻帧具有相同的输出。基于这一观察,我们可以区分敌对视频和良性视频。然后,我们针对不同的攻击采用不同的防御策略。我们提出的时间防御,重建污染的帧与其时间上相邻的清洁帧,处理具有稀疏污染帧的对抗性视频。对于具有密集污染帧的视频,我们使用有效的对抗去噪器在空间域中处理每一帧,从而净化扰动(我们称之为空间防御)。在UCF-101数据集上进行的一系列实验表明,该方法显著提高了视频分类器对对抗攻击的鲁棒性。
2019-09-11 cs.CR cs.CV cs.LG
Fundamental Novel Consistency Theory: $H$-Consistency Bounds
New York University(纽约大学)
本文提出$H$-一致性界限理论,通过分析目标损失与替代损失的关系,为机器学习任务提供更可靠的保证,并针对不同分类任务推导了多种损失函数的界限。
2025-12-28 cs.LG stat.ML
Adversarial Surrogate Risk Bounds for Binary Classification
针对二分类中对抗训练的一致性结果未给出收敛速率的问题,本文提出了量化对抗分类风险收敛速率的替代风险界。
2025-10-07 cs.LG math.ST stat.ML
Adversarial classification: An adversarial risk analysis approach
Institute of Mathematical Sciences (ICMAT-CSIC)(数学科学研究所(ICMAT-CSIC));CNR-IMATI(意大利国家研究委员会-IMATI研究所(CNR-IMATI));UAM(马德里康普顿斯大学(UAM))
安全设置中的分类问题通常被认为是一个或多个对手试图欺骗分类器以获得利益的对抗。这种对抗性分类问题的大多数方法都集中在具有强大的基本常识假设的博弈论思想上,这在安全领域实际上是不现实的。我们提供了一个替代框架,这样的问题的基础上对抗性风险分析,我们说明了几个例子。计算和实施问题进行了讨论。
2019-09-24 cs.GT cs.LG stat.ML
Sharp Statistical Guarantees for Adversarially Robust Gaussian Classification
Carnegie Mellon University(卡内基梅隆大学)
对抗鲁棒性已经成为现代机器学习应用中的基本要求。然而,迄今为止,令人惊讶的是,统计学上的理解很少。本文在\cite{schmidt2018adversarially}提出的高斯混合模型下,给出了对抗鲁棒分类系统超额风险的最优Minimax保证的第一个结果.结果以对抗信噪比(AdvSNR)表示,它将标准线性分类的类似概念推广到对抗环境。对于AdvSNR值为$r$的高斯混合,我们建立了$Θ(e^{-(\frac{1}{8}+o(1)) r^2} \frac{d}{n})$阶的超额风险下界,并设计了一个计算效率高的估计器,以实现此最佳速率。我们的结果建立在最小的假设集,同时涵盖了广泛的对抗性扰动,包括任何$p \ge 1$的$\ell_p$球。
2020-06-29 cs.LG stat.ML
A Neural Rejection System Against Universal Adversarial Perturbations in Radio Signal Classification
Wolfson School of Mechanical, Electrical and Manufacturing Engineering, Loughborough University(洛桑大学沃尔夫森机械、电气与制造工程学院);Dept. of Electrical and Electronic Engineering, University of Cagliari(卡利亚里大学电子与电气工程系)
针对通用对抗扰动易高成功率攻击深度学习无线电信号分类模型的问题,提出神经拒绝防御系统,经白盒通用对抗扰动测试,防御准确率显著高于未设防深度神经网络。
2025-06-13 cs.AI cs.LG
Preserving Semantic Consistency in Unsupervised Domain Adaptation Using Generative Adversarial Networks
Queensland University of Technology(昆士兰科技大学)
无监督领域自适应是在给定源域的标记样本和目标域的未标记样本的情况下,寻求缓解源域和目标域之间的分布差异。生成对抗网络(GANs)通过生成特定于训练领域的图像,在领域自适应方面表现出了显着的改进。然而,大多数现有的基于GAN的无监督领域自适应技术在领域匹配过程中不考虑语义信息,因此当源和目标领域数据在语义上不同时,这些方法降低了性能。在本文中,我们提出了一个端到端的新的语义一致的生成对抗网络(SCGAN)。该网络可以通过在特征级捕获语义信息并从源域和目标域生成用于无监督领域自适应的图像来实现源域到目标域的匹配。我们证明了我们提出的方法的鲁棒性,它超过了国家的最先进的性能,在无监督的领域自适应设置进行数字和对象分类任务的实验。
2021-04-28 cs.AI cs.CV cs.LG
Adversarial Augmentation for Enhancing Classification of Mammography Images
ETH Zürich(苏黎世联邦理工学院);University Hospital Zürich(苏黎世大学医院)
监督式深度学习依赖于有足够的训练数据可用的假设,这给它在医学成像等多个领域的应用带来了问题。在一个二进制图像分类任务(乳腺癌识别)的例子中,我们表明,预训练生成模型有意义的图像增强有助于提高所得分类器的性能。通过增加数据,即使使用相对较小的训练集,也可以提高下游分类任务的性能。我们表明,这种“对抗增强”产生有前途的结果相比,经典的图像增强的例子乳腺癌分类。
2019-02-20 cs.CV cs.LG
Linking Generative Adversarial Learning and Binary Classification
在这篇文章中,我们指出了生成对抗(GA)训练和二进制分类之间的基本联系-任何强大的分类器本质上都会计算真实样本和生成样本之间的(f-)分歧。在决策理论中反复重新推导的结果对GA网络(GANs)具有影响,通过设计模糊损失函数,为训练f-GANs提供了另一种视角。
2017-09-05 cs.AI cs.LG stat.ML
Defending Malware Classification Networks Against Adversarial Perturbations with Non-Negative Weight Restrictions
Google(谷歌)
越来越多的文献表明,深度神经网络容易受到对抗性输入修改的影响。最近,这项工作已经从图像分类扩展到布尔特征上的恶意软件分类。在本文中,我们提出了几种在这个特定领域训练受限网络的新方法,这些方法在防止对抗性扰动方面非常有效。我们从一个完全抗对抗的神经网络开始,它具有严格的非负权重限制,相当于学习单调布尔函数,然后尝试放松约束以提高分类器的准确性。
2018-06-23 cs.CR cs.LG stat.ML
Adversarial Learning of Label Dependency: A Novel Framework for Multi-class Classification
National Taiwan University(国立台湾大学)
最近的工作表明,利用标签之间的关系提高了多标签分类的性能。我们提出了一种新的框架,基于生成对抗网络(GANs)来建模标签依赖。该算法通过区分真实的和生成的标签集来学习对标签依赖性进行建模。为了欺骗分类器,分类器或生成器学习生成具有接近真实数据的依赖关系的标签集。在两个大规模图像分类基准数据集(MS-COCO和NUS-WIDE)上的实验和比较表明,该方法提高了模型的泛化能力
2018-11-12 cs.LG stat.ML
Proper Network Interpretability Helps Adversarial Robustness in Classification
Massachusetts Institute of Technology(麻省理工学院);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);IBM Research(IBM研究院)
最近的工作经验表明,存在对抗性的例子,可以隐藏神经网络的可解释性(即,使网络解释图在视觉上相似),或可解释性本身容易受到对抗攻击。在本文中,我们从理论上证明,通过适当的解释测量,实际上很难防止预测规避对抗攻击引起解释差异,正如MNIST、CIFAR-10和Restricted ImageNet上的实验所证实的那样。在此基础上,我们开发了一个可解释性感知的防御方案,该方案仅建立在促进鲁棒解释的基础上(而不需要诉诸对抗性损失最小化)。我们表明,我们的防御实现了鲁棒的分类和鲁棒的解释,特别是针对大扰动攻击的最先进的对抗性训练方法。
2020-10-21 cs.LG stat.ML
Model Robustness with Text Classification: Semantic-preserving adversarial attacks
Wells Fargo(富国银行)
我们提出了创建对抗攻击的算法,以评估模型在文本分类问题中的鲁棒性。它们可以用来创建白盒攻击和黑盒攻击,同时保留原始文本的语义和语法。这些攻击在白盒设置中导致大量的翻转,并且可以在黑盒设置中使用相同的规则。在黑盒设置中,创建的攻击能够逆转基于Transformer的架构的决策。
2020-08-14 cs.CL cs.LG
Dual Adversarial Co-Learning for Multi-Domain Text Classification
Carleton University(卡尔顿大学)
在本文中,我们提出了一种新的双对抗的多域文本分类(MDTC)的共同学习方法。该方法学习共享私有网络进行特征提取,并在基于差异的协同学习框架下,采用双对抗正则化方法同时对齐不同领域以及标记和未标记数据之间的特征,旨在提高分类器的泛化能力。我们在多领域情感分类数据集上进行了实验。实验结果表明,该方法实现了最先进的MDTC性能。
2019-09-18 cs.IR cs.LG stat.ML
Long-term Cross Adversarial Training: A Robust Meta-learning Method for Few-shot Classification Tasks
The Hong Kong Polytechnic University(香港理工大学)
元学习模型可以利用Few-Shot标记数据快速适应新任务。然而,尽管在Few-Shot分类任务上实现了良好的泛化,但在少样本学习中提高元学习模型的对抗鲁棒性仍然具有挑战性。虽然对抗性查询(AQ)等对抗性训练(AT)方法可以提高元学习模型的对抗性鲁棒性能,但AT仍然是计算昂贵的训练。另一方面,用AT训练的元学习模型将显著降低原始干净图像的准确性。提出了一种对抗鲁棒神经网络的元学习方法--长期交叉对抗训练(LCAT)。LCAT将沿着自然和对抗样本分布方向交叉更新元学习模型参数,以提高对抗和干净的Few-Shot分类精度。由于交叉对抗训练,LCAT只需要比AQ一半的对抗训练时间,从而降低了对抗训练计算。实验结果表明,LCAT在元学习模型的干净和对抗性Few-Shot分类准确率方面都优于SOTA对抗性训练方法。
2021-07-01 cs.CR cs.CV cs.LG
Generative Adversarial Networks and Image-Based Malware Classification
San Jose State University(圣何塞州立大学)
为了有效地删除恶意软件、确定恶意软件威胁级别和估计损害,恶意软件家族分类起着至关重要的作用。在本文中,我们从恶意软件可执行文件中提取特征,并使用各种方法将它们表示为图像。然后,我们专注于生成对抗网络(GAN)的多类分类,并将我们的GAN结果与其他流行的机器学习技术进行比较,包括支持向量机(SVM),XGBoost和限制玻尔兹曼机(RBM)。我们发现,AC-GAN神经网络通常与其他机器学习技术竞争。我们还评估了GAN生成模型对基于图像的恶意软件检测的对抗攻击的效用。虽然AC-GAN生成的图像在视觉上令人印象深刻,但我们发现,使用几种学习技术中的任何一种,它们都可以很容易地与真实的恶意软件图像区分开来。这一结果表明,我们的GAN生成的图像在对抗攻击中几乎没有价值。
2022-06-08 cs.CR cs.LG
A Finer Calibration Analysis for Adversarial Robustness
Google Research(谷歌研究院);Rutgers University(罗格斯大学);Courant Institute of Mathematical Sciences(库朗数学科学研究所)
我们提出了一个更一般的分析$H$校准对抗强大的分类。通过采用更精细的校准定义,我们可以覆盖在以前的工作中研究的限制性假设集之外的设置。特别是,我们的结果适用于机器学习中使用的最常见的假设集。我们都修正了一些先前的校准结果(Bao等人,2020)和推广其他(Awasthi et al.,2021年)。此外,我们的校准结果结合Awasthi等人(2021)先前的一致性研究,也导致了更一般的$H$一致性结果,涵盖了常见的假设集。
2021-05-06 cs.LG stat.ML
Explainability-Driven Leaf Disease Classification Using Adversarial Training and Knowledge Distillation
National University of Science and Technology POLITEHNICA Bucharest(布加勒斯特国立科技理工大学);National Institute for Research and Development in Informatics - ICI Bucharest(罗马尼亚国家信息研究与发展研究所(ICI布加勒斯特));Academy of Romanian Scientists(罗马尼亚科学家学院)
面向植物叶片病害分类,本文结合对抗训练、可解释性分析与知识蒸馏,在提升对抗鲁棒性和透明度的同时,以轻微性能损失获得15–25倍计算效率提升。
2024-01-23 cs.CV cs.LG
Adversarial Reprogramming of Text Classification Neural Networks
University of California San Diego(加州大学圣地亚哥分校)
对抗性重编程已经成功地利用预先训练的神经网络分类器进行替代分类任务,而无需修改原始网络。这种攻击场景中的对手训练对输入的附加贡献,以将神经网络重新用于新的分类任务。虽然这种重编程方法适用于具有连续输入空间(例如图像)的神经网络,但它不直接适用于针对文本分类等任务训练的神经网络,其中输入空间是离散的。重新使用这样的分类网络需要攻击者学习一个对抗程序,将输入从一个离散空间映射到另一个离散空间。在这项工作中,我们引入了一个基于上下文的词汇重映射模型来重新编程神经网络训练的特定序列分类任务,一个新的序列分类任务所需的对手。我们提出了在白盒和黑盒设置中的对抗程序的训练程序。我们通过逆向地重新利用各种文本分类模型(包括LSTM、双向LSTM和CNN)来演示我们的模型的应用,以用于替代分类任务。
2019-08-15 cs.CR cs.LG stat.ML
Adversarial Multi-Binary Neural Network for Multi-class Classification
AI Labs, Didi Chuxing(滴滴出行人工智能实验室);AI Labs, Didi Research America(滴滴美国研究院人工智能实验室)
多类文本分类是机器学习和自然语言处理的关键问题之一。新兴的神经网络使用多输出softmax层来处理这个问题,并取得了实质性的进展,但它们没有显式地学习类之间的相关性。在本文中,我们使用多任务框架来解决多类分类问题,其中多类分类器和多个二进制分类器一起训练。此外,我们使用对抗训练来区分类特定的特征和类不可知的特征。该模型受益于更好的特征表示。我们进行了两个大规模的多类文本分类任务的实验,并证明所提出的架构优于基线方法。
2020-03-25 cs.CL cs.LG
Consistent Robust Adversarial Prediction for General Multiclass Classification
Carnegie Mellon University(卡内基梅隆大学);Conversant LLC(Conversant有限责任公司);California Institute of Technology(加州理工学院);University of Illinois at Chicago(伊利诺伊大学芝加哥分校);University of Pennsylvania(宾夕法尼亚大学)
我们提出了一个强大的对抗性预测框架一般多类分类。我们的方法寻求预测分布,该预测分布针对(近似)匹配训练数据统计的最坏情况条件标签分布(对抗分布)鲁棒地优化非凸和非连续多类损失度量。虽然优化的损失度量是非凸和非连续的,但该框架的对偶公式是一个凸优化问题,可以重新转换为具有指定凸代理损失的风险最小化模型,我们称之为对抗代理损失。我们表明,对抗性代理损失填补了现有的空白,代理损失建设一般多类分类问题,同时更好地与原始多类损失对齐,保证Fisher一致性,使一种方式,通过内核技巧,将丰富的特征空间,并提供在实践中有竞争力的性能。
2019-11-20 cs.LG stat.ML
Adversarially Robust Few-Shot Learning: A Meta-Learning Approach
University of Maryland(马里兰大学)
以前的工作对抗强大的神经网络图像分类需要大的训练集和计算昂贵的训练过程。另一方面,少样本学习方法非常容易受到对抗性样本的影响。我们工作的目标是生成在Few-Shot分类任务中表现良好的网络,同时对对抗性示例具有鲁棒性。我们开发了一种算法,称为对抗查询(AQ),用于产生对抗性强大的元学习者,我们彻底调查了对抗性脆弱性的原因。此外,我们的方法在Few-Shot图像分类任务(如Mini-ImageNet和CIFAR-FS)上的鲁棒性能远远优于鲁棒的迁移学习。
2020-10-15 cs.LG stat.ML
Cleaning up the neighborhood: A full classification for adversarial partial monitoring
DeepMind
部分监控是著名的多臂强盗框架的推广,其中学习者不能直接观察到损失。我们完成了有限对抗部分监控的分类,包括所有游戏,解决了Bartok等人提出的一个开放问题。一路上,我们简化和改进现有的算法,并纠正以前的分析中的错误。我们的第二个贡献是巴托克[2013]研究的一类游戏的新算法,其中我们证明了后悔上界和下界,这些上界和下界揭示了后悔对游戏结构的依赖性。
2018-05-23 cs.LG stat.ML
Understanding and Quantifying Adversarial Examples Existence in Linear Classification
Northeastern University(东北大学)
最先进的深度神经网络(DNN)容易受到对抗性示例的攻击:精心设计的对输入的微小扰动,人类无法察觉,可能会误导DNN。为了了解对抗性示例的根本原因,我们量化了线性分类器的对抗性示例存在的概率。以前的对抗性示例的数学定义只涉及整体扰动量,我们提出了一个更实用的强对抗性示例的相关定义,该定义还单独限制了沿信号方向的扰动。我们表明,线性分类器可以强大的对抗性的例子攻击的情况下,没有对抗性的强大的线性分类器存在之前的定义。通过线性支持向量机(SVM)分类器的数值实验,验证了定量公式的正确性.结果表明,设计一般的强对抗性鲁棒学习系统是可行的,但只有通过结合人类知识的基本分类问题。
2019-10-27 cs.CR cs.LG stat.ML
Genetic Column Generation for Computing Lower Bounds for Adversarial Classification
Technische Universität München(慕尼黑工业大学)
本文借鉴多边际最优传输的 Genetic Column Generation 方法,以缓解维数灾难并计算对抗性多类分类中的最小对抗风险下界。
2024-06-12 cs.LG cs.NA math.NA
Effectiveness of Adversarial Examples and Defenses for Malware Classification
University of North Texas(北德克萨斯大学)
人工神经网络已经成功地用于许多不同的分类任务,包括恶意软件检测和区分恶意和非恶意程序。尽管人工神经网络在这些任务上表现得非常好,但它们也容易受到对抗性示例的影响。对抗性样本是一个样本,它被做了微小的修改,因此神经网络会错误地分类它。已经提出了许多技术,用于制作对抗性样本和强化神经网络来对抗它们。以前的大多数工作都是在图像领域完成的。一些攻击已被用于恶意软件领域,该领域通常处理二进制特征向量。为了更好地理解恶意软件分类中对抗性示例的空间,我们研究了恶意软件领域中制作对抗性示例和防御技术的不同方法,并比较了它们在多个数据集上的有效性。
2019-09-10 cs.CR cs.LG stat.ML
Darknet Traffic Classification and Adversarial Attacks
San Jose State University(圣何塞州立大学)
暗网的匿名性通常被用于非法活动。之前的研究已经采用了机器学习和深度学习技术来自动检测暗网流量,试图阻止这些犯罪活动。这项研究旨在通过评估支持向量机(SVM),随机森林(RF),卷积神经网络(CNN)和分类器生成对抗网络(AC-GAN)来改进暗网流量检测,以分类此类流量和底层应用类型。我们发现,我们的RF模型优于CIC-Darknet 2020数据集先前工作中使用的最先进的机器学习技术。为了评估我们的RF分类器的鲁棒性,我们混淆选择应用程序类型类来模拟现实的对抗攻击场景。我们证明了我们的最佳性能分类器可以被这样的攻击击败,我们考虑的方法来处理这种对抗攻击。
2022-06-12 cs.CR cs.LG
Robustifying Binary Classification to Adversarial Perturbation
California Institute of Technology(加州理工学院)
尽管机器学习模型在各种应用中取得了巨大的成功,但这些模型中的大多数都缺乏对输入数据中(即使是很小的)扰动的弹性。因此,增强机器学习模型的新方法似乎非常重要。为此,在本文中,我们考虑的问题,二进制分类与对抗扰动。研究最小-最大优化的解决方案(考虑存在对抗性扰动的最坏情况下的损失),我们引入了一个最大边缘分类器的泛化,该分类器考虑了对手在操纵数据时的能力。我们将该分类器称为“鲁棒最大边缘”(RM)分类器。在损失函数的一些温和的假设下,我们从理论上证明了梯度下降迭代(具有足够小的步长)在其方向上收敛到RM分类器。因此,可以研究RM分类器以计算具有对抗性扰动的二进制分类的各种性能度量(例如,泛化误差)。
2020-10-29 cs.LG math.OC
Defending Against Adversarial Attack in ECG Classification with Adversarial Distillation Training
Tsinghua University(清华大学);HeartVoice Medical Technology(心之声医疗科技);University of Science and Technology of China(中国科学技术大学);HeartRhythm Medical(心律医疗);Tianjin Institute of Cardiology(天津心脏病学研究所);Second Hospital of Tianjin Medical University(天津医科大学第二医院);Peking University(北京大学)
在诊所,医生依靠心电图(ECG)来评估严重的心脏疾病。由于技术的发展和健康意识的提高,目前通过使用医疗和商业设备来获得ECG信号。深度神经网络(DNN)可以用来分析这些信号,因为它们的准确率很高。然而,研究人员发现,对抗性攻击会显著降低DNN的准确性。已经进行了一些研究来保护基于ECG的DNN免受传统的对抗性攻击,例如投影梯度下降(PGD)和针对ECG分类的平滑对抗性扰动(SAP);然而,据我们所知,还没有研究完全探索针对ECG分类的对抗性攻击的防御。因此,我们做了不同的实验,以探讨针对ECG分类的白盒对抗性攻击和黑盒对抗性攻击的防御方法的效果,我们发现一些常见的防御方法对这些攻击表现良好。此外,我们提出了一种新的防御方法,称为对抗蒸馏训练(ADT),它来自防御蒸馏,可以有效地提高DNN的泛化性能。结果表明,我们的方法比其他基线方法,即对抗性训练,防御性蒸馏,雅各布正则化和信噪比正则化,更有效地对抗针对ECG分类的对抗性攻击。此外,我们发现,我们的方法表现出更好的PGD攻击与低噪声水平,这意味着我们的方法具有更强的鲁棒性。
2022-03-14 cs.CR cs.LG eess.SP
Adversarial Attacks on Time Series
University of Illinois at Chicago(伊利诺伊大学芝加哥分校)
时间序列分类模型在研究界已经获得了显着的重要性。然而,在为这些模型生成对抗性样本方面还没有做太多的研究。这些对抗性样本可能成为安全问题。在本文中,我们提出了利用对抗性转换网络(ATN)在一个蒸馏模型攻击各种时间序列分类模型。对分类模型的拟议攻击利用一个蒸馏模型作为替代,模仿受攻击的经典时间序列分类模型的行为。我们提出的方法被应用到1-最近邻动态时间规整(1-NN)DTW,全连接网络和全卷积网络(FCN)上,所有这些都是在42个加州大学河滨分校(UCR)数据集上训练的。在本文中,我们证明了这两个模型都容易受到所有42个数据集的攻击。据我们所知,这种对时间序列分类模型的攻击以前从未发生过。最后,我们建议未来开发时间序列分类模型的研究人员将对抗性数据样本纳入其训练数据集中,以提高对抗性样本的弹性,并将模型鲁棒性考虑为评估指标。
2019-03-01 cs.LG stat.ML
On the existence of solutions to adversarial training in multiclass classification
University of Wisconsin-Madison(威斯康星大学麦迪逊分校);Purdue University(普渡大学)
本文研究多类分类中对抗训练解的存在性,在不可知分类器设定下证明三个模型均存在Borel可测鲁棒分类器,并建立对抗训练与最优传输及全变差正则化的新联系,同时改进了二分类情形下的存在性结果。
2023-05-29 cs.LG math.OC stat.ML
GAT: Generative Adversarial Training for Adversarial Example Detection and Robust Classification
University of Virginia(弗吉尼亚大学);HRL Laboratories, LLC.(HRL实验室有限责任公司)
深度神经网络对抗对抗性示例的脆弱性已经成为在敏感领域部署这些模型的重要问题。设计针对此类攻击的明确防御被证明是具有挑战性的,并且依赖于检测对抗性样本的方法仅在攻击者不注意检测机制时才有效。在本文中,我们提出了一个原则性的对抗性的例子检测方法,可以抵御范数约束的白盒攻击。受one-versus-the-rest分类的启发,在K类分类问题中,我们训练K个二元分类器,其中第i个二元分类器用于区分类别i的干净数据和其他类别的反向扰动样本。在测试时,我们首先使用一个训练好的分类器来获得输入的预测标签(比如k),然后使用第k个二元分类器来确定输入是干净的样本(k类)还是被干扰的样本(其他类)。我们进一步设计了一种生成方法来检测/分类对抗性的例子,通过解释每个二元分类器作为类条件数据的非归一化密度模型。我们对上述对抗性示例检测/分类方法进行了全面评估,并展示了它们的竞争性能和引人注目的特性。
2022-10-01 cs.CR cs.LG stat.ML
Adversarial Learning with Contextual Embeddings for Zero-resource Cross-lingual Classification and NER
Amazon Inc.(亚马逊公司)
上下文词嵌入(例如GPT、BERT、ELMo等)在各种NLP任务上表现出最先进的性能。最近对多语言版本的BERT的研究表明,该模型在zero-shot和零资源跨语言设置中表现非常好,其中仅使用标记的英语数据来微调模型。我们通过对抗学习来改进多语言BERT的零资源跨语言性能。我们报告的多语言MLDoc文本分类和CoNLL 2002/2003命名实体识别任务的改进幅度。此外,我们表明,语言对抗训练鼓励BERT对齐英语文档及其翻译的嵌入,这可能是观察到的性能增益的原因。
2020-03-19 cs.CL cs.LG
Grey-box Adversarial Attack And Defence For Sentiment Classification
IBM Research(IBM研究院);University of Melbourne(墨尔本大学)
我们介绍了一个灰盒对抗攻击和防御框架的情绪分类。我们在一个统一的框架中解决了对抗攻击和防御的可微性,标签保存和输入重建问题。我们的研究结果表明,一旦经过训练,攻击模型能够比最先进的攻击方法更快地生成高质量的对抗性示例(时间上少一个数量级)。这些例子还根据人类评价保留了原始情感。此外,我们的框架产生了一个改进的分类器,是强大的防御多种对抗性攻击方法。代码可从以下网址获得:https://github.com/ibm-aur-nlp/adv-def-text-dist。
2021-03-22 cs.AI cs.CL cs.LG