Boosting Imperceptibility of Stable Diffusion-based Adversarial Examples Generation with Momentum
Fordham University(福特汉姆大学);Google(谷歌公司);Florida International University(佛罗里达国际大学);Rensselaer Polytechnic Institute(伦斯勒理工学院);Cisco Research(思科研究院)
提出SD-MIAE框架,利用Stable Diffusion操纵token嵌入并引入动量优化对抗扰动,在保持视觉不可感知性和语义相似性的同时,将误分类率提升至79%,较SOTA提高35%。
2024-10-17 cs.CV cs.LG
DiffDefense: Defending against Adversarial Attacks via Diffusion Models
University of Florence(佛罗伦萨大学)
本文提出DiffDefense,利用Diffusion Models在无需修改分类器的前提下防御对抗攻击,克服了扩散模型逆向过程慢的缺陷,在保持干净准确率、速度和即插即用兼容性的同时实现了鲁棒防御。
2023-09-07 cs.CR cs.CV cs.LG
Diffusion Models for Adversarial Purification
NVIDIA(英伟达);Caltech(加州理工学院)
对抗性净化是指一类使用生成模型去除对抗性扰动的防御方法。这些方法不对攻击的形式和分类模型进行假设,因此可以保护预先存在的分类器免受不可见的威胁。然而,他们的表现目前落后于对抗性训练方法。在这项工作中,我们提出了DiffPure,它使用扩散模型进行对抗性净化:给定一个对抗性的例子,我们首先在前向扩散过程后用少量噪声对其进行扩散,然后通过反向生成过程恢复干净的图像。为了以有效和可扩展的方式评估我们的方法对抗强自适应攻击,我们建议使用伴随方法来计算反向生成过程的全梯度。在CIFAR-10、ImageNet和CelebA-HQ三个图像数据集上进行的大量实验表明,我们的方法实现了最先进的结果,优于当前的对抗性训练和对抗性纯化方法。项目页面:https://diffpure.github.io。
2022-05-16 cs.CR cs.CV cs.LG
Exploring Adversarial Attacks against Latent Diffusion Model from the Perspective of Adversarial Transferability
Sun Yat-sen University(中山大学);Nanyang Technological University(南洋理工大学)
本文从对抗迁移性视角研究替代模型性质对潜在扩散模型对抗样本的影响,发现选择更平滑的替代模型可显著提升基于蒙特卡洛攻击的性能,并给出理论解释。
2024-01-13 cs.CR cs.CV cs.LG
Robust Classification via a Single Diffusion Model
Tsinghua University(清华大学);Beijing Institute of Technology(北京理工大学);RealAI
针对现有扩散模型相关对抗防御方法的局限,提出鲁棒扩散分类器RDC,结合多头扩散骨干与高效采样策略,在CIFAR-10上的自适应攻击鲁棒准确率超越此前最优对抗训练模型,展现生成式分类器的对抗鲁棒性潜力。
2024-05-21 cs.CR cs.CV cs.LG
Purify++: Improving Diffusion-Purification with Advanced Diffusion Models and Control of Randomness
Peking University(北京大学)
本文通过改进扩散模型、数值模拟和随机性控制提出Purify++,成为当前最优的对抗净化方法,并系统探索了扩散净化的极限。
2023-10-28 cs.CR cs.LG
Real-world Adversarial Defense against Patch Attacks based on Diffusion Model
Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能研究院)
该研究提出基于扩散模型的DIFFender防御框架,利用对抗异常感知现象定位并修复对抗补丁,通过少样本提示微调适配任务,在多任务及真实场景中表现鲁棒,还可扩展至红外域防御。
2024-09-14 cs.AI cs.CR cs.CV
Guided Diffusion Model for Adversarial Purification from Random Noise
Yuanpei College(元培学院);Peking University(北京大学)
在本文中,我们提出了一种新的引导扩散净化方法,以提供一个强大的防御对抗攻击。在CIFAR-10数据集上,我们的模型在PGD-L_inf攻击(eps = 8/255)下达到了89.62%的鲁棒准确率。我们首先探讨无指导的扩散模型和随机平滑之间的基本相关性,使我们能够将模型应用于认证的鲁棒性。实验结果表明,当认证的L2半径r大于0.5时,我们的模型优于随机平滑5%。
2022-06-22 cs.CR cs.LG
Deceptive Diffusion: Generating Synthetic Adversarial Examples
School of Mathematics, University of Edinburgh(爱丁堡大学数学学院);School of Computing Science, University of Glasgow(格拉斯哥大学计算科学学院)
本文提出欺骗性扩散概念,训练生成式AI直接产生任意数量的对抗图像,可用于大规模增强防御训练,并揭示了扩散模型在部分训练数据被隐秘毒化时会按比例生成误导输出的新脆弱性。
2024-06-28 cs.AI cs.LG
DIFFender: Diffusion-Based Adversarial Defense against Patch Attacks
Institute of Artificial Intelligence, Beihang University(北京航空航天大学人工智能学院);Tsinghua-Bosch Joint ML Center, Tsinghua University(清华大学-博世联合机器学习中心);Hangzhou Innovation Institute, Beihang University(北京航空航天大学杭州创新研究院);Zhongguancun Laboratory(中关村实验室);RealAI
DIFFender利用文本引导扩散模型,通过发现对抗性异常感知现象,在单一框架内实现补丁定位与恢复,有效防御补丁攻击,并在图像分类和人脸识别任务中展现出良好鲁棒性与泛化能力。
2024-07-17 cs.AI cs.CR cs.CV
Improving Generalization and Stability of Generative Adversarial Networks
生成对抗网络(GANs)是学习复杂高维分布的最流行工具之一。然而,GANs的泛化特性还没有得到很好的理解。在本文中,我们分析了GANs在实际环境中的泛化能力。我们发现,在具有原始GAN损失的离散数据集上训练的鉴别器具有较差的泛化能力,并且不近似于理论上的最优分类。我们提出了一个零中心的梯度惩罚,通过将其推向最佳的梯度来提高泛化的梯度。惩罚保证了GANs的泛化和收敛。在合成数据集和大规模数据集上的实验验证了我们的理论分析。
2019-02-11 cs.AI cs.LG stat.ML
ESRGAN+ : Further Improving Enhanced Super-Resolution Generative Adversarial Network
Université d'Antananarivo(塔那那利佛大学)
增强型超分辨率生成对抗网络(ESRGAN)是一种感知驱动的方法,用于单图像超分辨率,能够生成逼真的图像。尽管这些生成的图像的视觉质量,仍然有改进的空间。以这种方式,该模型被扩展以进一步提高图像的感知质量。我们设计了一种新颖的模块来取代原来ESRGAN使用的模块。此外,我们引入噪声输入的发电机网络,以利用随机变化。生成的图像呈现更逼真的纹理。该代码可在https://github.com/ncarraz/ESRGANplus上获得。
2020-07-15 cs.LG eess.IV
Diffusion-based Adversarial Purification for Intrusion Detection
Polytechnique Montréal(蒙特利尔理工学院);IRT SystemX
本文针对入侵检测中对抗样本的挑战,首次证明了扩散模型在网络入侵检测中净化对抗样本的有效性,通过全面分析扩散参数确定了最优配置,并揭示了扩散噪声与扩散步数之间的关系。
2024-06-25 cs.AI cs.CR cs.LG
Crash Data Augmentation Using Conditional Generative Adversarial Networks (CGAN) for Improving Safety Performance Functions
University of Waterloo(滑铁卢大学)
本文提出了一种基于条件生成对抗网络的碰撞频率数据增强方法,以改进碰撞频率模型。所提出的方法进行评估,通过比较性能的基本SPF(使用原始数据开发)和增强SPF(使用原始数据加上合成数据开发)的热点识别性能,模型预测精度,和分散参数估计精度。使用模拟和真实世界的碰撞数据集进行实验。结果表明,CGAN合成的碰撞数据与原始数据具有相同的分布,增强的SPFs在几乎所有方面都优于基本SPFs,特别是当分散参数较低时。
2021-12-21 cs.LG stat.AP
Demystifying Adversarial Robustness in Diffusion Models: Compression, Randomness, and Geometry
UT Austin(德克萨斯大学)
本研究揭秘扩散模型提升对抗鲁棒性的机制,否定纯化使样本更接近干净样本的假设,指出鲁棒性提升源于随机性引发的梯度掩码和图像空间压缩,并揭示压缩能力与鲁棒性增益的关联及理论解释,为对抗纯化系统开发提供指导。
2026-08-12 cs.AI cs.LG
Generating Adversarial Point Clouds Using Diffusion Model
针对现有3D点云黑盒对抗攻击效果差的问题,提出一种基于3D扩散模型的黑盒攻击方法,以点云压缩特征为引导生成对抗点,提升了攻击成功率与隐蔽性。
2025-07-25 cs.AI cs.CR cs.LG
Robust Planning for Autonomous Driving via Mixed Adversarial Diffusion Predictions
Samueli School of Engineering, Computer Science Department, University of California, Los Angeles(加州大学洛杉矶分校计算机科学系桑德利学校)
本研究提出一种自动驾驶鲁棒规划方法,通过混合扩散模型生成的正常与对抗行为预测,以期望成本评分规划,兼顾对抗鲁棒性与正常场景保守性,在多种交通场景中验证了有效性。
2025-05-18 cs.AI cs.LG cs.RO
AdvDiffuser: Generating Adversarial Safety-Critical Driving Scenarios via Guided Diffusion
School of Computer Science and Engineering, Sun Yat-Sen University(中山大学计算机科学与工程学院);School of Computer Science, Wuhan University(武汉大学计算机学院);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Mechanical and Automotive Engineering, Qingdao University of Technology(青岛理工大学机械与汽车工程学院)
提出AdvDiffuser框架,通过结合扩散模型和轻量级引导模型生成对抗性安全关键驾驶场景,解决了现有方法跨系统可迁移性不足的问题,并在真实性和多样性上表现更优。
2024-10-11 cs.LG cs.RO
Embedding Hidden Adversarial Capabilities in Pre-Trained Diffusion Models
School of Mathematics, University of Edinburgh(爱丁堡大学数学学院)
该研究提出一种新攻击范式,通过微调在预训练扩散模型中嵌入隐藏对抗能力,模型生成图像与原始模型无异,但能使下游分类器高概率误分类且可定向到特定类别,揭示了生成模型的新安全风险。
2025-04-05 cs.AI cs.CR cs.LG
FasterVoiceGrad: Faster One-step Diffusion-Based Voice Conversion with Adversarial Diffusion Conversion Distillation
NTT, Inc.(日本NTT公司)
针对现有扩散语音转换模型转换慢或依赖计算密集型内容编码器的问题,提出FasterVoiceGrad,通过对抗扩散转换蒸馏同时蒸馏扩散模型和内容编码器,在保持竞争力性能的同时,GPU和CPU速度分别提升6.6-6.9倍和1.8倍。
2025-08-25 cs.AI cs.LG cs.SD
FastVoiceGrad: One-step Diffusion-Based Voice Conversion with Adversarial Conditional Diffusion Distillation
NTT Corporation(NTT公司)
本文提出 FastVoiceGrad,通过对抗条件扩散蒸馏将多步扩散语音转换压缩为一步推理,在保持语音质量和说话人相似度的同时显著提升推理速度。
2024-09-03 cs.AI cs.LG cs.SD
Adversarial Purification for Data-Driven Power System Event Classifiers with Diffusion Models
University of California, Riverside(加州大学河滨分校);Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对机器学习电力系统事件分类器易受对抗攻击的问题,提出基于扩散模型的对抗净化方法,通过注入噪声并利用预训练网络去除扰动,提升分类器在攻击下的准确率并满足实时性要求。
2023-11-13 cs.CR cs.LG cs.SY
Improving brain computer interface performance by data augmentation with conditional Deep Convolutional Generative Adversarial Networks
脑机接口领域的一个很大的限制是训练样本非常有限,很难用这样有限的数据建立一个可靠的可用系统。为了提高卷积神经网络在脑机接口领域中的性能,克服训练数据集小的问题,受生成对抗网络的启发,提出了一种条件深度卷积生成对抗网络(cDCGAN)方法,自动生成更多的人工脑电信号用于数据增强。我们在运动想象的BCI竞争数据集上评估了所提出的cDCGAN方法。实验结果表明,从高斯噪声中生成的人工脑电数据能够学习到原始脑电数据的特征,并且在测试数据集中具有不低于原始脑电数据的分类精度。同时,在训练数据有限的情况下,利用生成的人工数据可以有效地提高同一模型的分类精度。
2018-12-27 cs.HC cs.LG q-bio.NC
Improving the Robustness of Trading Strategy Backtesting with Boltzmann Machines and Generative Adversarial Networks
Amundi Asset Management(东方汇理资产管理公司);Ecole des Ponts ParisTech(巴黎高科路桥学校)
本文探讨了如何使用机器学习模型来构建市场生成器。其基本思想是模拟人工多维金融时间序列,其统计特性与金融市场中观察到的相同。特别是,这些合成数据必须保留资产回报的概率分布、不同资产之间的随机依赖性以及随时间的自相关性。本文提出了一种估计回测统计量概率分布的新方法。最终目标是制定一个框架,以改善量化投资战略的风险管理,特别是在智能贝塔、要素投资和替代风险溢价领域。
2020-07-09 cs.LG q-fin.PM q-fin.ST
Diffusion-Reward Adversarial Imitation Learning
National Taiwan University(台湾大学);National Yang Ming Chiao Tung University(国立阳明交通大学);NVIDIA(英伟达)
针对生成对抗模仿学习(GAIL)训练脆弱不稳定的问题,提出扩散奖励对抗模仿学习(DRAIL),将扩散模型集成到GAIL中构建增强判别器并设计扩散奖励,在多任务实验中验证了其有效性、泛化能力和数据效率,能生成更稳健平滑的奖励。
2024-11-26 cs.AI cs.LG cs.RO
Improving Global Adversarial Robustness Generalization With Adversarially Trained GAN
Southwest Jiaotong University(西南交通大学)
卷积神经网络(CNN)在图像分类任务中已经实现了超越人类水平的准确性,并广泛应用于现实世界的环境中。然而,CNN显示出对抗性扰动的脆弱性,这些扰动是精心设计的噪声,旨在误导分类模型。为了抵御对抗性扰动,提出了对抗性训练的GAN(AT GAN),以提高通过对抗性训练的最新CNN的对抗性鲁棒性泛化能力。ATGAN将对抗性训练结合到标准GAN训练过程中,以去除模糊梯度,这可能导致在防御对抗性扰动时产生错误的感觉,并且在现有的基于GAN的对抗性防御方法中常见。此外,ATGAN采用图像到图像生成器作为数据增强,以增加对抗训练中对抗鲁棒性泛化所需的样本复杂度。在MNIST SVHN和CIFAR-10数据集上的实验结果表明,该方法不依赖于模糊梯度,并且比对抗训练的最先进CNN具有更好的全局对抗鲁棒性泛化性能。
2021-03-08 cs.CV cs.LG
THAT: Two Head Adversarial Training for Improving Robustness at Scale
Fudan University(复旦大学);Facebook AI(Facebook人工智能研究院);University of Maryland(马里兰大学)
已经提出了许多对抗训练的变体,大多数研究都集中在相对较少的类的问题上。在本文中,我们提出了Two Head Adversarial Training(THAT),这是一种双流对抗学习网络,旨在处理大规模多类ImageNet数据集。所提出的方法训练一个网络有两个头和两个损失函数;一个是最小化自然图像和对抗图像之间的特征空间域偏移,另一个是提高分类精度。这种组合提供了一个强化的网络,可以实现最先进的鲁棒准确性,同时在ImageNet上保持高的自然准确性。通过大量的实验,我们证明了所提出的框架在标准和“免费”对抗训练设置下都优于其他方法。
2021-03-25 cs.CV cs.LG
Class-Aware Domain Adaptation for Improving Adversarial Robustness
Shenzhen University(深圳大学);IBM(国际商业机器公司);University of Nottingham(诺丁汉大学)
最近的工作已经证明了卷积神经网络容易受到对抗性示例的影响,即,攻击者故意设计的机器学习模型的输入,以使模型出错。为了提高神经网络的对抗鲁棒性,对抗训练已经被提出来通过将对抗样本注入到训练数据中来训练网络。然而,对抗性训练可能过度适应特定类型的对抗攻击,并且还导致干净图像的标准准确度下降。为此,我们提出了一种新的类感知领域自适应(CADA)方法,用于对抗性防御,而不直接应用对抗性训练。具体来说,我们建议通过域搜索来学习对抗性示例和干净图像的域不变特征。此外,我们还将一个类感知组件引入到网络中,以提高网络对对抗性示例的区分能力。我们使用多个基准数据集来评估我们新提出的方法。结果表明,我们的方法可以显着提高最先进的对抗性鲁棒性的各种攻击,并保持高性能的干净的图像。
2020-05-10 cs.CV cs.LG
The Enemy of My Enemy is My Friend: Exploring Inverse Adversaries for Improving Adversarial Training
Sun Yat-Sen University(中山大学);Imperial College London(帝国理工学院)
尽管目前的深度学习技术在各种计算机视觉任务上都取得了优异的性能,但它们仍然容易受到对抗性示例的影响。对抗性训练及其变体已被证明是防御对抗性示例的最有效方法。这些方法通常正则化对抗样本和其对应的自然样本的输出概率之间的差异。但是,如果模型对自然样本进行错误分类,则可能会产生负面影响。为了解决这个问题,我们提出了一种新的对抗训练方案,鼓励模型为对抗示例及其“逆对抗”对应物产生类似的输出。生成这些样本以最大化自然样本邻域中的可能性。在各种视觉数据集和架构上进行的大量实验表明,我们的训练方法具有最先进的鲁棒性和自然准确性。此外,使用逆对抗示例的通用版本,我们以较低的计算成本提高了单步对抗训练技术的性能。
2022-11-01 cs.CV cs.LG
FAIR-TAT: Improving Model Fairness Using Targeted Adversarial Training
University of Mannheim(曼海姆大学);MPI for Informatics(信息研究所)
针对对抗训练中模型鲁棒性提升常伴随类别公平性下降、现有研究忽略非扰动数据准确率且模型难应对多样威胁的问题,提出FAIR-TAT公平定向对抗训练方法,用定向攻击替代非定向攻击实现对抗公平性更优权衡,经实验验证有效。
2025-06-14 cs.CV cs.LG
D4: Detection of Adversarial Diffusion Deepfakes Using Disjoint Ensembles
University of Michigan(密歇根大学);University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本文提出D4方法,通过在频谱不相交子集上构建模型集成降低对抗子空间维数,显著提升扩散深度伪造检测的黑盒对抗鲁棒性,并优于现有最先进防御方法。
2023-08-06 cs.CV cs.LG
A Data-Centric Approach for Improving Adversarial Training Through the Lens of Out-of-Distribution Detection
Sharif University of Technology(谢里夫理工大学)
当前的机器学习模型在许多现实世界的应用中实现了超人的性能。尽管如此,他们还是容易受到难以察觉的对抗性干扰的影响。这个问题最有效的解决方案是对抗性训练,即用对抗性扰动样本而不是原始样本来训练模型。近年来已经开发了各种方法来改进对抗训练,例如数据增强或修改训练攻击。在这项工作中,我们从一个新的以数据为中心的角度来研究同样的问题。为此,我们首先证明了现有的基于模型的方法可以等效于应用较小的扰动或优化权重的硬训练样本。通过使用这一发现,我们建议直接从训练过程中检测和删除这些硬样本,而不是应用复杂的算法来减轻它们的影响。对于检测,我们使用最大softmax概率作为分布外检测的有效方法,因为我们可以将硬样本视为整个数据分布的分布外样本。我们在SVHN和CIFAR-10数据集上的结果表明,该方法在提高对抗训练的有效性,而不会增加太多的计算成本。
2023-01-25 cs.CV cs.LG
Improving Ensemble Robustness by Collaboratively Promoting and Demoting Adversarial Robustness
Monash University(莫纳什大学);Defence Science and Technology Group(国防科技集团)
基于集合的对抗训练是实现对抗对抗攻击的鲁棒性的原则性方法。这种方法的一个重要技术是控制对抗性样本在集成成员之间的可转移性。在这项工作中,我们提出了一个简单而有效的策略,委员会模型之间的合奏模型进行合作。这是通过为给定样本上的每个模型成员定义的安全和不安全集合来实现的,因此有助于我们量化和规范可转移性。因此,我们提出的框架提供了灵活性,以减少对抗性的可转移性,以及促进合奏成员的多样性,这是我们的合奏方法更好的鲁棒性的两个关键因素。我们进行了广泛而全面的实验,以证明我们提出的方法优于最先进的集成基线,同时可以以近乎完美的准确度检测到各种各样的对抗性示例。我们的代码可在https://github.com/tuananhbui89/Crossing-Collaborative-Ensemble上获得。
2022-02-04 cs.CV cs.LG
DAT: Improving Adversarial Robustness via Generative Amplitude Mix-up in Frequency Domain
University of Macau(澳门大学);City University of Hong Kong(香港城市大学);Macau University of Science and Technology(澳门科技大学)
本文提出一种新的双重对抗训练(DAT)策略,通过优化的对抗振幅生成器(AAG)在频域中混合振幅并保留相位模式,显著提升了深度神经网络对多种对抗攻击的鲁棒性。
2024-10-16 cs.CV cs.LG
InfoAT: Improving Adversarial Training Using the Information Bottleneck Principle
Nanjing University of Aeronautics and Astronautics(南京航空航天大学)
对抗性训练(AT)在防御对抗性示例方面表现出出色的高性能。最近的研究表明,在AT过程中,样本对模型最终的鲁棒性并不同等重要,即容易被攻击的所谓硬样本比鲁棒样本对最终的鲁棒性有更大的影响。因此,保证硬样本的鲁棒性是提高模型最终鲁棒性的关键。然而,定义有效的搜索算法来搜索硬例子仍然很困难。在这篇文章中,受信息瓶颈(IB)原理的启发,我们发现,一个例子与高互信息的输入及其相关的潜在表示更有可能被攻击。基于这一观察,我们提出了一种新颖有效的对抗训练方法(InfoAT)。InfoAT被鼓励寻找具有高互信息的示例,并有效地利用它们来提高模型的最终鲁棒性。实验结果表明,InfoAT在不同的数据集和模型之间实现了最好的鲁棒性与几个国家的最先进的方法相比。
2022-06-23 cs.CV cs.LG
Improving Adversarial Robustness by Contrastive Guided Diffusion Process
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));University of California, Los Angeles(加州大学洛杉矶分校)
本文提出对比引导扩散过程(Contrastive-DP),通过对比损失增强生成数据的可区分性,从而提高对抗鲁棒性,并在理论和图像数据集实验中验证了其有效性。
2023-07-04 cs.CV cs.LG
Denoising Diffusion Probabilistic Models as a Defense against Adversarial Attacks
Harvard University(哈佛大学)
神经网络对输入中的小扰动非常敏感,这使得它们容易受到对抗攻击。该项目评估了去噪扩散概率模型(DDPM)作为一种净化技术来抵御对抗攻击的性能。它的工作原理是在通过扩散模型的逆过程去除噪声之前,向对抗性示例添加噪声。我们评估的方法上的PatchCamelyon数据集的淋巴结切片的组织病理学扫描,并找到了高达88%的原始模型的准确性,构成了相当大的改进香草模型和我们的基线的鲁棒准确性的提高。项目代码位于https://github.com/ankile/Adversarial-Diffusion。
2023-01-17 cs.CR cs.CV cs.LG
Improving Adversarial Transferability via Model Alignment
University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Oxford(牛津大学)
本文提出模型对齐技术,通过微调源模型最小化与见证模型的预测分歧,从而提升生成对抗扰动的迁移性,并在ImageNet上验证了其有效性。
2024-07-17 cs.CV cs.LG
Improving Transformation-based Defenses against Adversarial Examples with First-order Perturbations
本研究针对神经网络易受对抗攻击的问题,提出一种基于一阶扰动的推理阶段防御增强方法,无需重训练,可有效提升多种变换类防御对强对抗样本的抵御能力。
2024-01-28 cs.CV cs.LG
Improving Adversarial Robustness via Probabilistically Compact Loss with Logit Constraints
Wayne State University(韦恩州立大学)
卷积神经网络(CNN)在计算机视觉的各种任务上都取得了最先进的性能。然而,最近的研究表明,这些模型很容易受到精心制作的对抗样本的影响,并且在预测它们时会出现显着的性能下降。已经提出了许多方法来提高对抗鲁棒性(例如,对抗训练和新的损失函数以学习对抗鲁棒的特征表示)。在这里,我们对CNN的预测行为提供了一个独特的见解,即它们往往会将对抗样本错误分类为最可能的错误类别。这启发我们提出了一种新的具有logit约束的概率紧凑(PC)损失,它可以用作交叉熵(CE)损失的替代品,以提高CNN的对抗鲁棒性。具体地说,PC损失扩大了真类和假类之间的概率差距,同时logit约束防止差距被一个小的扰动融化。我们在白盒和黑盒攻击下使用大规模数据集将我们的方法与最先进的方法进行了广泛比较,以证明其有效性。源代码可从以下URL获得:https://github.com/xinli0928/PC-LC。
2020-12-14 cs.CV cs.LG
Improving the Transferability of Adversarial Examples via Direction Tuning
Qingdao University(青岛大学)
本文提出方向调优攻击,通过在大步长下减小更新偏差并在小步长下缓解更新振荡,同时结合网络剪枝平滑决策边界,显著提升了对抗样本在多个模型上的可迁移性。
2023-08-11 cs.CV cs.LG
Improving filling level classification with adversarial training
Queen Mary University of London(伦敦玛丽女王大学)
我们调查的问题分类-从一个单一的图像-在一个杯子或饮用玻璃杯的内容的水平。这个问题是具有挑战性的几个模糊性所造成的模糊性,形状变化和部分遮挡,并通过只有小的训练数据集的可用性。在本文中,我们解决了这个问题与适当的策略迁移学习。具体来说,我们在通用源数据集中使用对抗训练,然后使用特定于任务的数据集来改进训练。我们还讨论和实验评估了几种训练策略及其在CORSMAL容器操作数据集的一系列容器类型上的组合。我们表明,迁移学习与对抗训练在源域一致提高了测试集上的分类精度,并限制了分类器的过拟合到训练数据的特定特征。
2021-06-16 cs.CV cs.LG
Robust Evaluation of Diffusion-Based Adversarial Purification
POSTECH(浦项科技大学)
本文质疑现有扩散净化评估实践,分析白盒攻击适用性并提出新评估指南及一种鲁棒性更强的净化策略。
2023-12-03 cs.CR cs.CV cs.LG
Improving Hyperspectral Adversarial Robustness Under Multiple Attacks
University of Maine(缅因大学)
针对高光谱图像语义分割模型在多种对抗攻击下鲁棒性下降的问题,提出对抗判别器集成网络(ADE-Net),通过判别器按攻击类型分配数据至专家集成网络,在统一模型下提升整体对抗鲁棒性。
2023-05-11 cs.CR cs.CV cs.LG
Improving the Generalization of Adversarial Training with Domain Adaptation
Huazhong University of Science and Technology(华中科技大学);Peking University(北京大学);Cornell University(康奈尔大学)
通过将对抗性示例注入训练数据,对抗性训练有望提高深度学习模型的鲁棒性。然而,大多数现有的对抗训练方法是基于特定类型的对抗攻击。它可能无法从对抗域提供足够有代表性的样本,导致对其他攻击的对抗样本的泛化能力较弱。此外,在对抗性训练过程中,输入的对抗性扰动通常由快速单步对手制作,以便扩展到大型数据集。这项工作主要集中在对抗训练,但有效的FGSM对手。在这种情况下,由于缺乏具有代表性的对抗样本,即样本无法准确反映对抗域,因此很难训练具有很大泛化能力的模型。为了缓解这个问题,我们提出了一种新的对抗训练与领域自适应(ATDA)方法。我们的直觉是将FGSM对手的对抗训练视为具有有限数量目标域样本的域适应任务。其主要思想是学习一种在干净域和对抗域上具有语义意义和域不变的表示。对Fashion-MNIST、SVHN、CIFAR-10和CIFAR-100的实证评估表明,ATDA可以大大提高对抗训练的泛化能力和学习模型的平滑度,并在标准基准数据集上优于最先进的方法。为了展示我们方法的迁移能力,我们还将ATDA扩展到迭代攻击的对抗训练,如PGD-Adversial Training(PAT),防御性能得到了显着提高。
2019-03-15 cs.CV cs.LG stat.ML
Towards Improving Robustness Against Common Corruptions in Object Detectors Using Adversarial Contrastive Learning
Laboratory of Intelligent Systems(智能系统实验室)
本文提出对抗对比学习框架,通过生成实例级对抗样本并优化对比损失,同时增强目标检测器对对抗攻击和常见损坏的鲁棒性,以提升安全关键应用中的可靠性。
2023-11-14 cs.AI cs.CV cs.LG
Fuzziness-tuned: Improving the Transferability of Adversarial Examples
Xi’an Jiaotong University(西安交通大学);Qingdao University(青岛大学)
随着对抗攻击的发展,对抗样本被广泛用于增强深度神经网络上训练模型的鲁棒性。尽管对抗攻击在提高对抗性示例的可移植性方面已经做出了相当大的努力,但是在低攻击强度下,基于移植的攻击对代理模型的攻击成功率远高于对受害者模型的攻击成功率(例如,攻击强度$ε=8/255$)。本文首先对这一问题进行了系统的研究,发现代理模型和受害者模型之间攻击成功率的巨大差异是由于存在一个特殊的区域(本文称为模糊域),该区域内的对抗样本被代理模型错误分类,而被受害者模型正确分类。然后,为了消除攻击成功率的巨大差异,提高生成的对抗样本的可移植性,提出了一种由置信度缩放机制和温度缩放机制组成的模糊调整方法,以确保生成的对抗样本能够有效地跳出模糊域。置信度缩放机制和温度缩放机制可以分别通过调整模糊度的梯度下降权重和稳定更新方向来协同调整生成的对抗样本的模糊度。具体而言,所提出的模糊调整方法可以有效地与现有的对抗攻击,以进一步提高对抗性的例子的可移植性,而不改变时间复杂度。大量的实验表明,模糊调整方法可以有效地提高在最新的基于转移的攻击对抗性的例子的可转移性。
2023-03-17 cs.CR cs.CV cs.LG
Beyond Empirical Risk Minimization: Local Structure Preserving Regularization for Improving Adversarial Robustness
Northwestern University(西北大学);Peking University(北京大学)
众所周知,深度神经网络很容易被具有人类无法感知的扰动的对抗性示例所愚弄。已经提出了各种防御方法来提高对抗鲁棒性,其中对抗训练方法是最有效的。然而,这些方法大多独立地处理训练样本,并且需要大量的样本来训练鲁棒网络,而忽略了这些样本之间的潜在结构信息。在这项工作中,我们提出了一种新的局部结构保持(LSP)正则化,其目的是保持学习的嵌入空间中的输入空间的局部结构。以这种方式,可以减轻位于干净样本附近的对抗样本的攻击效果。我们展示了强有力的经验证据,无论是否有对抗训练,与基线和一些最先进的方法相比,我们的方法在几个图像分类数据集上始终提高了对抗鲁棒性的性能,从而为未来的研究提供了有希望的方向。
2023-03-29 cs.CR cs.CV cs.LG
SDXL-Lightning: Progressive Adversarial Diffusion Distillation
ByteDance Inc.(字节跳动公司)
本文提出结合渐进式与对抗蒸馏的SDXL-Lightning,实现基于SDXL的单步/少步1024px文生图新SOTA,并开源LoRA与完整UNet权重。
2024-03-02 cs.AI cs.CV cs.LG
AED-PADA:Improving Generalizability of Adversarial Example Detection via Principal Adversarial Domain Adaptation
Beihang University(北京航空航天大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
本文提出 AED-PADA,通过识别覆盖主要对抗特征空间的 PADs 并引入多源无监督域适应,提升对抗样本检测在未知攻击和最小扰动场景下的泛化能力。
2024-12-04 cs.CR cs.CV cs.LG
A Layer-wise Adversarial-aware Quantization Optimization for Improving Robustness
Duke University(杜克大学);Monta Vista High School(蒙塔维斯塔高中)
神经网络正以更高的能量和计算成本获得更好的精度。量化后,可以大大节省成本,量化后的模型更硬件友好,精度损失可以接受。另一方面,最近的研究发现神经网络容易受到对抗攻击,只有通过对抗训练等防御方法才能提高神经网络模型的鲁棒性。在这项工作中,我们发现,对抗训练的神经网络比普通模型更容易受到量化损失。为了同时最小化对抗和量化损失并使量化模型鲁棒,我们提出了一种逐层对抗感知量化方法,使用Lipschitz常数为神经网络选择最佳量化参数设置。我们从理论上推导出的损失,并证明我们的度量选择的一致性。实验结果表明,该方法可以有效地提高量化对抗训练神经网络的鲁棒性。
2021-10-23 cs.AI cs.CV cs.LG
Improving Adversarial Robustness with Hypersphere Embedding and Angular-based Regularizations
Iowa State University(爱荷华州立大学)
对抗训练(AT)方法已被发现有效对抗对深度神经网络的对抗攻击。已经提出了AT的许多变体以提高其性能。Pang等人。[1]最近表明,将超球嵌入(HE)纳入现有的AT过程中可以增强鲁棒性。我们观察到,现有的AT程序不是为HE框架设计的,因此无法充分学习HE框架中可用的角度判别信息。在本文中,我们建议将他整合到AT与正则化项,利用丰富的角度信息,在他的框架。具体来说,我们的方法,称为angular-AT,增加了正则化条款AT显式地执行权重特征紧凑性和类间分离;所有表示的角度特征。实验结果表明,angular-AT进一步提高了对抗鲁棒性。
2023-03-15 cs.AI cs.CV cs.LG
Multi-Agent Adversarial Training Using Diffusion Learning
EPFL(洛桑联邦理工学院)
这项工作的重点是图上的对抗学习。我们提出了一个通用的对抗性训练框架的多智能体系统使用扩散学习。我们分析了所提出的方案的凸优化问题的收敛性,并说明其增强的鲁棒性对抗攻击。
2023-03-03 cs.AI cs.LG cs.MA
Improving the Speed and Quality of GAN by Adversarial Training
University of California, Los Angeles(加州大学洛杉矶分校)
生成对抗网络(GAN)在图像生成任务中表现出了显着的效果。高保真类条件GAN方法通常依赖于通过约束全局Lipschitz连续性的稳定技术。这种正则化导致模型表达能力较低,收敛速度较慢;其他技术,如大批量训练,需要非常规的计算能力,并且不能广泛使用。在对抗训练技术的基础上,提出了一种快速GAN(Free GAN)算法,以提高GAN训练的速度和质量。我们在CIFAR 10(ImageNet的一个子集)和完整的ImageNet数据集上对我们的方法进行了基准测试。我们选择了强大的基线,如SNGAN和SAGAN;结果表明,我们的训练算法可以用更少的总训练时间实现更好的生成质量(就Inception得分和Frechet Inception距离而言)。最值得注意的是,我们的训练算法通过需要2-4个GPU将ImageNet训练带给更广泛的公众。
2020-08-07 cs.CV cs.LG stat.ML