Universal Adversarial Purification with DDIM Metric Loss for Stable Diffusion
UDAP通过DDIM度量损失去除稳定扩散中的对抗噪声,提升模型鲁棒性与泛化能力。
2026-01-12 cs.CR cs.CV
Adversarial Purification of Information Masking
Nanjing University of Science and Technology(南京理工大学)
本文提出一种名为 IMPure 的新型对抗净化方法,通过掩蔽并重构图像块及混合样本等策略彻底消除对抗扰动,在 ImageNet 数据集上抵御九种攻击达到最先进水平。
2023-11-26 cs.CR cs.CV cs.LG
Guided Diffusion Model for Adversarial Purification from Random Noise
Yuanpei College(元培学院);Peking University(北京大学)
在本文中,我们提出了一种新的引导扩散净化方法,以提供一个强大的防御对抗攻击。在CIFAR-10数据集上,我们的模型在PGD-L_inf攻击(eps = 8/255)下达到了89.62%的鲁棒准确率。我们首先探讨无指导的扩散模型和随机平滑之间的基本相关性,使我们能够将模型应用于认证的鲁棒性。实验结果表明,当认证的L2半径r大于0.5时,我们的模型优于随机平滑5%。
2022-06-22 cs.CR cs.LG
ADBM: Adversarial diffusion bridge model for reliable adversarial purification
Tsinghua University(清华大学);Peking University(北京大学);Beijing Institute of Technology(北京理工大学);Aalborg University(奥尔堡大学);Harbin Institute of Technology, Weihai(哈尔滨工业大学(威海));Huawei Technologies(华为技术有限公司)
针对现有DiffPure对抗净化方法存在性能权衡、评估可靠性不足的问题,提出构建反向扩散桥的ADBM模型,经理论和实验验证其防御性能更优鲁棒性更强,具备实际应用潜力。
2025-03-19 cs.AI cs.CV cs.LG
Adversarial Purification through Representation Disentanglement
Nanyang Technological University(南洋理工大学)
深度学习模型容易受到对抗性示例的影响,并会犯下不可理解的错误,这对它们的实际部署构成了威胁。结合对抗训练的思想,基于预处理的防御方法由于其任务独立性和良好的泛化性而受到欢迎和方便使用。目前的防御方法,特别是净化,往往通过学习和恢复自然图像来去除“噪声”。然而,与随机噪声不同,对抗模式由于与图像的强相关性,在模型训练期间更容易过拟合。在这项工作中,我们提出了一种新的对抗性净化方案,通过将自然图像和对抗性扰动的解纠缠作为预处理防御。通过大量的实验,我们的防御被证明是可推广的,并对看不见的强大对抗攻击作出显着的保护。它将最先进的\textbf{ensemble}攻击的成功率平均从\textbf{61.7\%}降低到\textbf{14.9\%},优于许多现有方法。值得注意的是,我们的防御完美地恢复了受干扰的图像,并且不会损害骨干模型的干净准确性,这在实践中是非常可取的。
2021-10-15 cs.CV cs.LG
ZeroPur: Succinct Training-Free Adversarial Purification
Chongqing University of Posts and Telecommunications(重庆邮电大学);University of Nebraska Lincoln(内布拉斯加大学林肯分校)
ZeroPur是一种无训练的对抗净化方法,通过引导偏移和自适应投影将对抗图像投影到自然图像流形,在CIFAR-10等数据集上达到最先进鲁棒性能,无需依赖外部模型或再训练。
2026-08-12 cs.CR cs.CV
Blending adversarial training and representation-conditional purification via aggregation improves adversarial robustness
AIlab University of Trieste(AI实验室特伦蒂诺大学);Data Engineering Laboratory(数据工程实验室);AREA Science Park(AREA科学公园)
本研究提出融合对抗训练与提纯的新型图像分类防御机制CARSO,通过表征映射与多采样聚合实现鲁棒预测,在多个数据集上显著提升了针对AutoAttack的ℓ∞鲁棒分类准确率。
2025-10-05 cs.AI cs.CR cs.CV
Agentic Copyright Watermarking against Adversarial Evidence Forgery with Purification-Agnostic Curriculum Proxy Learning
Graduate University for Advanced Studies, SOKENDAI(高等研究生院(总研究大学));National Institute of Informatics(情报学研究所)
针对AI模型版权保护需求,本文提出自认证黑盒水印协议、对抗证据伪造攻击研究、纯化防御及纯化无关课程代理学习方法,有效提升水印模型的安全性、可靠性与性能。
2025-01-13 cs.CR cs.CV
Adversarial Purification for Data-Driven Power System Event Classifiers with Diffusion Models
University of California, Riverside(加州大学河滨分校);Pacific Northwest National Laboratory(太平洋西北国家实验室)
针对机器学习电力系统事件分类器易受对抗攻击的问题,提出基于扩散模型的对抗净化方法,通过注入噪声并利用预训练网络去除扰动,提升分类器在攻击下的准确率并满足实时性要求。
2023-11-13 cs.CR cs.LG cs.SY
Diffusion-based Adversarial Purification for Intrusion Detection
Polytechnique Montréal(蒙特利尔理工学院);IRT SystemX
本文针对入侵检测中对抗样本的挑战,首次证明了扩散模型在网络入侵检测中净化对抗样本的有效性,通过全面分析扩散参数确定了最优配置,并揭示了扩散噪声与扩散步数之间的关系。
2024-06-25 cs.AI cs.CR cs.LG
Adversarial Deepfake Generation and an Investigation of Purification-Based Adversarial Detection
Soonchunhyang University(顺天乡大学)
该研究参与ImageCLEF 2026深度伪造检测与生成任务,图像生成采用FLUX.1-dev等方法,检测用SigLIP+DINOv2等组合。还自主研究基于净化的对抗性检测,发现特定信号可有效区分对抗与干净输入,反驳相关假设并揭示质量悬崖。
2026-07-29 cs.CR cs.CV
FlowPure: Continuous Normalizing Flows for Adversarial Purification
DistriNet, KU Leuven(鲁汶大学DistriNet实验室)
本文提出FlowPure,利用连续归一化流和条件流匹配学习对抗样本与干净样本的映射,优于现有净化防御,在预处理器盲和白盒场景中表现更优,同时保持良性准确率。
2026-03-30 cs.AI cs.CR cs.LG
Robust Overfitting Does Matter: Test-Time Adversarial Purification With FGSM
School of Microelectronics and Communication Engineering, Chongqing University(重庆大学微电子与通信工程学院)
针对DNNs面对未知攻击鲁棒性下降及干净样本精度牺牲问题,提出基于FGSM鲁棒过拟合特性的测试时像素级对抗净化方法,有效提升整体鲁棒泛化能力。
2024-03-18 cs.CV
VideoPure: Diffusion-based Adversarial Purification for Video Recognition
Shanghai Engineering Research Center of AI Robotics, Academy for Engineering & Technology, Fudan University(复旦大学工程与技术学院上海市人工智能机器人工程研究中心);Engineering Research Center of AI & Robotics, Ministry of Education, Academy for Engineering & Technology, Fudan University(复旦大学工程与技术学院教育部人工智能与机器人工程研究中心);School of Computer Science, Fudan University(复旦大学计算机科学学院)
针对视频识别模型的对抗防御问题,提出首个基于扩散的视频净化框架VideoPure,通过时序DDIM反演和引导式时空优化去除对抗噪声并保持时间一致性,实现高效且鲁棒的视频对抗防御。
2025-01-25 cs.CV
Random Sampling for Diffusion-based Adversarial Purification
Northwestern Polytechnical University(西北工业大学);The Hong Kong Polytechnic University(香港理工大学);Harbin Institute of Technology (Shenzhen)(哈尔滨工业大学(深圳));The Hong Kong University of Science and Technology(香港科技大学)
针对扩散模型对抗性净化中原始采样非最优的问题,提出随机采样方案及中介条件引导,建立DiffAP基线方法,在多种设置下性能显著优于SOTA,强攻击下鲁棒性提升超20%且采样加速10倍。
2024-11-28 cs.AI cs.CV cs.LG
Memory Efficient Full-gradient Attacks (MEFA) Framework for Adversarial Defense Evaluations
InnoPeak Technology(InnoPeak技术公司)
本文提出MEFA框架,通过梯度检查点技术实现长净化轨迹的精确端到端梯度计算,提升对抗性防御评估的准确性,揭示了近似梯度评估的局限性。
2026-05-07 cs.AI cs.CV cs.LG
Efficient Model-Based Purification Against Adversarial Attacks for LiDAR Segmentation
Industrial Systems Institute, Athena Research Center, Patras Science Park, Greece(工业系统研究所,雅典研究中心,帕特拉斯科学公园,希腊);AviSense.AI, Patras Science Park, Greece(AviSense.AI,帕特拉斯科学公园,希腊)
本文针对2D距离视图LiDAR分割提出一种高效、可解释的基于模型的净化框架,以最小计算开销实现强对抗鲁棒性,并在公开基准和实车部署中验证了其有效性。
2025-08-25 cs.AI cs.CV
Adversarial purification for no-reference image-quality metrics: applicability study and new methods
Lomonosov Moscow State University(莫斯科罗蒙诺索夫国立大学);ISP RAS(俄罗斯科学院信息学研究所);Moscow Institute of Physics and Technology(莫斯科物理技术学院)
本文研究对抗净化防御从图像分类器向无参考IQA指标的可迁移性,结合几何变换、压缩、去噪及神经网络方法,在Linearity、MetaIQA和SPAQ上评估攻防效果。
2024-04-10 cs.AI cs.CV
Adversarial Training on Purification (AToP): Advancing Both Robustness and Generalization
Tokyo University of Agriculture and Technology(东京农工大学);RIKEN Center for Advanced Intelligence Project (RIKEN AIP)(理化学研究所先进智能项目中心);Hangzhou Dianzi University(杭州电子科技大学)
提出基于净化的对抗训练(AToP)流水线,结合随机变换破坏扰动和对抗损失微调净化器模型,在CIFAR-10等数据集上同时实现了最优鲁棒性与对未见攻击的泛化能力。
2024-08-23 cs.AI cs.CV
DiffBreak: Is Diffusion-Based Purification Robust?
Cheriton School of Computer Science, University of Waterloo(查尔顿计算机科学学院,滑铁卢大学)
DiffBreak研究指出基于差分的净化存在鲁棒性缺陷,提出改进方法并挑战其有效性。
2026-02-10 cs.CR cs.CV cs.LG
Keep It Real: Challenges in Attacking Compression-Based Adversarial Purification
ETH Zürich(苏黎世联邦理工学院)
本文针对基于压缩的对抗性净化方法构建了白盒和自适应攻击,发现高真实感、高保真的图像重建能提供固有鲁棒性并显著增加攻击难度,指明克服真实感是未来安全评估的重要挑战。
2025-11-01 cs.CV cs.LG eess.IV
Stochastic Security: Adversarial Defense Using Long-Run Dynamics of Energy-Based Models
University of Central Florida(中佛罗里达大学);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
从认知和安全的角度来看,深度网络对对抗性攻击的脆弱性是深度学习的核心问题。目前最成功的防御方法是使用在学习期间创建的对抗图像来训练分类器。另一种防御方法涉及在图像分类之前对原始输入进行变换或纯化以去除对抗信号。我们专注于使用马尔可夫链蒙特卡罗(MCMC)采样和基于能量的模型(EBM)进行对抗性纯化来保护自然训练的分类器。与对抗训练相比,我们的方法旨在保护预先存在的和高度脆弱的分类器。长期MCMC采样的无记忆行为最终将消除对抗信号,而亚稳态行为在经过许多步骤后保留MCMC样本的一致外观,以实现准确的长期预测。平衡这些因素可以导致有效的纯化和稳健的分类。我们用EBM评估对抗性防御,使用已知最强的攻击来对抗纯化。我们的贡献是1)一种改进的方法,用于训练EBM与现实的长期运行MCMC样本,2)一个预期过度转换(EOT)防御,解决了随机防御的理论模糊性,EOT攻击自然随之而来,和3)国家的最先进的对抗性防御自然训练的分类器和竞争性防御相比,对抗性训练的分类器在Cifar-10,SVHN,Cifar-100代码和预训练模型可在https://github.com/point0bar1/ebm-defense上获得。
2021-03-18 cs.CR cs.LG stat.ML
TARO: Temporal Adversarial Rectification Optimization Using Diffusion Models as Purifiers
Department of Computer Science(计算机科学系);University of Illinois Chicago(伊利诺伊大学芝加哥分校)
TARO通过构建时序引导的分数先验,结合多视角去噪,实现对抗样本的鲁棒修正与语义保留,提升零样本下的鲁棒性。
2026-05-08 cs.CV cs.LG
Robust and Efficient Adversarial Defense in SNNs via Image Purification and Joint Detection
School of Microelectronics University of Science
针对 SNN 易受对抗攻击的问题,提出基于 SNN 的端到端图像净化模型与多级脉冲分类器联合防御,在效果、训练时间和资源消耗上优于现有基线。
2025-03-15 cs.CV
Adaptive Clustering of Robust Semantic Representations for Adversarial Image Purification
University of Texas at San Antonio(德克萨斯大学圣安东尼奥分校)
深度学习模型非常容易受到对抗性操作的影响,这可能导致灾难性的后果。防御这种干扰的最有效方法之一是对抗性训练,但代价是不可见攻击的泛化和跨模型的可移植性。在本文中,我们提出了一种针对对抗攻击的强大防御方法,该方法与模型无关,并且可推广到看不见的对手。最初,使用基线模型,我们提取每个类的潜在表示,并自适应地对共享语义相似性的潜在表示进行聚类。我们获得了聚类潜在表示的分布,并从它们的原始图像中学习语义重建字典(SRD)。我们对抗性地训练一个新的模型,约束潜在空间表示,以最小化对抗性潜在表示和真实聚类分布之间的距离。为了净化图像,我们将输入分解为低频和高频分量。基于来自干净数据集的最适当的SRD来重建高频分量。为了评估最合适的SRD,我们依赖于强大的潜在表示和语义聚类分布之间的距离。输出是没有扰动的纯化图像。使用我们提出的方法在CIFAR-10和ImageNet-10上进行图像纯化,与最先进的结果相比,准确率提高了10%以上。
2021-04-07 cs.AI cs.CV
Pre-trained Multiple Latent Variable Generative Models are good defenders against Adversarial Attacks
Istituto Italiano di Tecnologia(意大利技术研究院);University of Genoa(热那亚大学);University of Verona(维罗纳大学)
提出将预训练多潜变量生成模型 MLVGM 用于无需训练的对抗净化,通过多潜变量解耦并保留类别信息、重采样含噪细节,证明小模型即可媲美传统方法并可作为基础模型。
2024-12-04 cs.CV
MaskPure: Improving Defense Against Text Adversaries with Stochastic Purification
Louisiana State University(路易斯安那州立大学);University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
针对文本对抗攻击防御的质量与效率问题,提出受扩散过程启发的MaskPure随机文本纯化方法,无需对抗训练和预知攻击类型,兼具认证与经验鲁棒性,可同时抵御字符级和单词级攻击。
2024-06-18 cs.AI cs.LG
Towards more transferable adversarial attack in black-box manner
City University of Hong Kong(香港城市大学);University of St Andrews(圣安德鲁大学)
本文提出一种结合独特替代模型的新颖损失函数,利用分类器引导扩散模型的得分,在降低计算开销的同时实现更优的黑盒对抗攻击可迁移性,并保持对扩散防御的鲁棒性。
2025-05-23 cs.CV cs.LG
Denoising Diffusion Probabilistic Models as a Defense against Adversarial Attacks
Harvard University(哈佛大学)
神经网络对输入中的小扰动非常敏感,这使得它们容易受到对抗攻击。该项目评估了去噪扩散概率模型(DDPM)作为一种净化技术来抵御对抗攻击的性能。它的工作原理是在通过扩散模型的逆过程去除噪声之前,向对抗性示例添加噪声。我们评估的方法上的PatchCamelyon数据集的淋巴结切片的组织病理学扫描,并找到了高达88%的原始模型的准确性,构成了相当大的改进香草模型和我们的基线的鲁棒准确性的提高。项目代码位于https://github.com/ankile/Adversarial-Diffusion。
2023-01-17 cs.CR cs.CV cs.LG
Demystifying Adversarial Robustness in Diffusion Models: Compression, Randomness, and Geometry
UT Austin(德克萨斯大学)
本研究揭秘扩散模型提升对抗鲁棒性的机制,否定纯化使样本更接近干净样本的假设,指出鲁棒性提升源于随机性引发的梯度掩码和图像空间压缩,并揭示压缩能力与鲁棒性增益的关联及理论解释,为对抗纯化系统开发提供指导。
2026-08-12 cs.AI cs.LG
NCIS: Neural Contextual Iterative Smoothing for Purifying Adversarial Perturbations
Seoul National University(首尔大学);NAVER Clova;NAVER AI Lab
我们提出了一种新的和有效的净化为基础的对抗性防御方法对预处理器盲白盒和黑盒攻击。我们的方法计算效率高,只对一般图像进行自监督学习训练,而不需要任何对抗训练或分类模型的再训练。我们首先展示了对抗性噪声的实证分析,定义为原始图像与其对抗性示例之间的残差,具有几乎为零的均值,对称分布。基于这一观察,我们提出了一个非常简单的迭代高斯平滑(GS),它可以有效地消除对抗性噪声,并实现相当高的鲁棒精度。为了进一步改进它,我们提出了神经上下文迭代平滑(NCIS),它以自监督的方式训练盲点网络(BSN),以重建原始图像的鉴别特征,该图像也被GS平滑。从我们使用四种分类模型在大规模ImageNet上进行的广泛实验中,我们证明了我们的方法在对抗大多数强净化器盲白盒和黑盒攻击时,既达到了有竞争力的标准准确率,又达到了最先进的鲁棒准确率。此外,我们提出了一个新的基准,用于评估基于商业图像分类API(如AWS,Azure,Clarifai和Google)的净化方法。我们通过基于集成传输的黑盒攻击生成对抗性示例,该攻击可以导致API的完全错误分类,并证明我们的方法可以用于提高API的对抗性鲁棒性。
2021-12-30 cs.CV cs.LG
Online Adversarial Purification based on Self-Supervision
University of California, San Diego(加利福尼亚大学圣迭戈分校)
众所周知,深度神经网络容易受到对抗性示例的影响,其中输入空间中的扰动会导致潜在网络表示的放大偏移。在本文中,我们结合了规范监督学习与自监督表示学习,并提出了自监督在线对抗净化(SOAP),一种新的防御策略,使用自监督损失,以净化敌对的例子在测试时。我们的方法利用了自监督信号的标签独立性,并对抗了自监督任务的对抗性扰动。SOAP与最先进的对抗性训练和净化方法相比,具有竞争力的鲁棒准确性,并且训练复杂性大大降低。此外,我们的方法是强大的,即使对手的知识的净化防御策略。据我们所知,我们的论文是第一个概括了使用自监督信号进行在线测试时净化的想法。
2021-01-23 cs.CR cs.CV cs.LG
PureGen: Universal Data Purification for Train-Time Poison Defense via Generative Model Dynamics
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);California Institute of Technology(加州理工学院)
针对训练期数据投毒攻击,提出基于EBMs和DDPMs迭代Langevin动力学的通用数据净化方法PureGen,在无需攻击特定信息的前提下有效净化投毒数据,保持分类器泛化能力并实现最先进防御。
2024-06-02 cs.AI cs.CR cs.LG
Graph Defense Diffusion Model
Jilin University(吉林大学);The Hong Kong Polytechnic University(香港理工大学)
本文提出图防御扩散模型(GDDM),通过扩散模型的去噪能力有效净化受攻击的图数据,保留图结构并增强净化效果,实验显示其在多种对抗攻击中表现优异。
2026-04-10 cs.LG
PointDP: Diffusion-driven Purification against Adversarial Attacks on 3D Point Cloud Recognition
University of Michigan(密歇根大学);NVIDIA(英伟达);ASU(亚利桑那州立大学)
3D点云正在成为自动驾驶、机器人和医学成像等许多现实应用中的关键数据表示。尽管深度学习的成功进一步加速了3D点云在物理世界中的应用,但深度学习因其对对抗攻击的脆弱性而臭名昭著。在这项工作中,我们首先确定了最先进的经验防御,对抗训练,由于梯度混淆,在应用于3D点云模型时存在重大限制。我们进一步提出了PointDP,一种利用扩散模型来防御3D对抗攻击的净化策略。我们在六个有代表性的3D点云架构上广泛评估了PointDP,并利用10多个强大的自适应攻击来证明其下限鲁棒性。我们的评估表明,PointDP实现了显着更好的鲁棒性比国家的最先进的净化方法在强大的攻击。在不久的将来,将包括随机平滑与PointDP相结合的认证防御的结果。
2022-08-21 cs.CR cs.CV cs.LG
Enhancing Adversarial Robustness with Signed Distance Fields for Harmonizing Geometric Invariance and Texture
Department AIBE, FAU Erlangen-Nürnberg(AIBE部门,埃朗根-纽伦堡大学)
提出GeoTexPuri框架,通过符号距离场将离散图像掩码转化为连续空间场,在训练中融合几何与纹理特征,实现高效对抗净化,在ImageNet上取得84.79%干净准确率和83.52%鲁棒准确率。
2026-06-07 cs.CV
Towards Unified Robustness Against Both Backdoor and Adversarial Attacks
Xidian University(西安电子科技大学);DAMO Academy, Alibaba Group(阿里巴巴达摩院);Wormpex AI Research(Wormpex AI研究院)
本文发现后门攻击与对抗攻击存在关联,提出渐进式统一防御(PUD)算法,通过渐进净化同时消除后门并增强对抗鲁棒性,且能识别毒化图像,性能优于现有后门防御并与先进对抗防御相当。
2024-05-28 cs.CV
The Best Defense is a Good Offense: Adversarial Augmentation against Adversarial Attacks
NVIDIA(英伟达)
提出$A^5$框架,通过构造防御性扰动实现首个认证式先发对抗防御,利用自动扰动分析工具保证攻击失败,并在多个数据集上超越现有认证防御。
2023-05-23 cs.CR cs.CV cs.LG
LoRID: Low-Rank Iterative Diffusion for Adversarial Purification
Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室)
本研究针对基于扩散的对抗纯化方法的固有误差问题,提出融合多轮早期扩散去噪循环与Tucker分解的LoRID方法,提升了有效扩散时间步,在多个数据集的黑白盒攻击下均实现更优鲁棒性。
2024-09-12 cs.AI cs.CR cs.LG
Enhancing Adversarial Robustness through Multi-Objective Representation Learning
Safe Autonomous Systems, TU Dortmund University, Germany(安全自主系统,图恩多特大学,德国);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所)
针对DNNs易受对抗扰动的问题,提出多目标方法MOREL,利用余弦相似度和多正例对比损失对齐自然与对抗特征,显著提升了模型对白盒和黑盒攻击的鲁棒性。
2025-06-29 cs.CV cs.LG
Anomaly Detection in Particulate Matter Sensor using Hypothesis Pruning Generative Adversarial Network
SK Planet Co.,Ltd.(SK Planet有限公司)
世界卫生组织(WHO)提供了管理颗粒物(PM)水平的指南,因为当PM水平较高时,它会威胁人类健康。为了管理PM水平,首先需要测量PM值的程序。我们使用基于锥形元件振荡微量天平(TEOM)的PM测量传感器,因为它比基于β衰减监测器(BAM)的传感器具有更高的成本效益。然而,基于TEOM的传感器比基于BAM的传感器具有更高的故障概率。在本文中,我们称之为异常的整体故障,我们的目标是检测异常的PM测量传感器的维护。本文提出了一种基于假设剪枝的生成对抗网络(HP-GAN)。我们通过实验比较了几种异常检测架构,以证明我们的表现更好。
2020-02-14 cs.CV cs.LG eess.IV
PuriDefense: Randomized Local Implicit Adversarial Purification for Defending Black-box Query-based Attacks
City University of Hong Kong, Hong Kong(香港城市大学);Southeast University, China(东南大学)
针对黑盒查询式攻击威胁,提出高效防御机制PuriDefense,通过轻量级净化模型集合执行随机分块净化,在低推理成本下重建图像流形并引入随机性减缓攻击收敛,显著提升了模型鲁棒性。
2025-06-26 cs.AI cs.CR cs.CV
Instant Adversarial Purification with Adversarial Consistency Distillation
City University of Hong Kong(香港城市大学);University of St Andrews(圣安德鲁斯大学);University of Nottingham(诺丁汉大学)
针对现有扩散模型对抗纯化方法计算开销大的问题,提出OSCP框架,结合GAND蒸馏目标与CAP推理流水线,实现单步高效鲁棒纯化,在ImageNet上以0.1秒单步速度达74.19%防御成功率,提速百倍。
2025-03-21 cs.AI cs.CV cs.LG
PureEBM: Universal Poison Purification via Mid-Run Dynamics of Energy-Based Models
California Institute of Technology(加州理工学院);University of California, Los Angeles(加州大学洛杉矶分校)
针对数据投毒攻击,提出通用数据净化方法PureEBM,通过收敛EBM的迭代Langevin采样进行随机预处理,利用中间运行动力学净化投毒信息,在多种投毒场景下实现SoTA防御且对泛化影响极小。
2024-06-02 cs.AI cs.LG
Adversarial Text Purification: A Large Language Model Approach for Defense
Arizona State University(亚利桑那州立大学)
本文提出一种利用大语言模型和提示工程净化对抗文本的防御方法,无需显式表征离散噪声,在多种分类器上平均将受攻击准确率提升超65%。
2024-02-05 cs.AI cs.CL cs.CR
Adversarially Robust Industrial Anomaly Detection Through Diffusion Model
The Pennsylvania State University(宾夕法尼亚州立大学)
针对扩散净化会削弱异常信号的问题,提出 AdvRAD,让扩散模型同时承担异常检测与对抗净化,并支持 l2 扰动认证鲁棒性。
2024-08-09 cs.CV cs.LG
Trust but Verify: An Information-Theoretic Explanation for the Adversarial Fragility of Machine Learning Systems, and a General Defense against Adversarial Attacks
University of Iowa(爱荷华大学)
基于深度学习的分类算法已被证明容易受到对抗攻击的影响:分类器输入的微小变化可能会极大地改变其输出,而人类无法感知。在本文中,我们提出了一个关于人工智能(AI)分类器的特征压缩属性的简单假设,并提出了理论论据,表明这一假设成功地解释了AI分类器对小的对抗性扰动的脆弱性。借鉴信息和编码理论的思想,我们提出了一个通用类的防御检测异常小的输入扰动所造成的分类错误。我们进一步证明了这种检测方法的性能的理论保证。我们目前的实验结果与(a)一个话音识别系统,和(b)使用MNIST数据库的数字识别系统,以证明所提出的防御方法的有效性。本文中的想法是由AI分类器和通信系统的标准香农模型之间的简单类比激发的。
2019-05-25 cs.CR cs.CV cs.LG
Utilizing Adversarial Targeted Attacks to Boost Adversarial Robustness
Tel Aviv University(特拉维夫大学)
对抗攻击已被证明在降低深度神经网络(DNN)的性能方面非常有效。最突出的防御是对抗性训练,这是一种学习鲁棒模型的方法。然而,对抗性训练并不能使DNN对对抗性扰动免疫。我们提出了一种新的解决方案,采用最近建议的预测归一化最大似然。具体来说,我们的防御根据不同的假设执行对抗性目标攻击,其中每个假设假设测试样本的特定标签。然后,通过比较假设概率,我们预测标签。我们的改进过程对应于对抗子空间属性的最新发现。我们使用ResNet-50,WideResNet-28和使用ImageNet,CIFAR 10和MNIST训练的2层ConvNet对16个对抗攻击基准进行了广泛的评估,分别显示出高达5.7%,3.7%和0.6%的显着改进。
2021-09-04 cs.CV
Adversarial Example Games
Mila(米拉研究所);McGill University(麦吉尔大学);Université de Montréal(蒙特利尔大学);Facebook AI Research(脸书人工智能研究院)
存在能够欺骗经过训练的神经网络分类器的对抗性示例,这就需要更好地理解可能的攻击,以指导针对它们的保护措施的发展。这包括具有挑战性的非交互式黑盒设置中的攻击方法,其中生成对抗攻击而无需对目标模型进行任何访问(包括查询)。在此背景下的先前攻击主要依赖于从经验观察得出的算法创新(例如,这一势头有所帮助),缺乏原则性的可转让性保障。在这项工作中,我们为将可转移的对抗性示例制作成整个假设类提供了理论基础。我们引入了对抗性示例游戏(AEG),这是一个框架,它将对抗性示例的制作建模为攻击生成器和分类器之间的最小-最大游戏。AEG提供了一种新的方式来设计对抗性的例子,通过对抗性地训练来自给定假设类的生成器和分类器(例如,架构)。我们证明了这个游戏有一个均衡,并且最优生成器能够制作对抗性示例,这些示例可以攻击来自相应假设类的任何分类器。我们证明了AEG在MNIST和CIFAR-10数据集上的有效性,优于现有的最先进的方法,相对于无保护和鲁棒模型,平均相对改进分别为$29.9\%$和$47.2\%$(表2和3)。
2021-01-09 cs.AI cs.CV cs.LG
Guardians of Image Quality: Benchmarking Defenses Against Adversarial Attacks on Image Quality Metrics
MSU Institute for Artificial Intelligence(莫斯科大学人工智能研究所);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学);ISP RAS Research Center for Trusted Artificial Intelligence(ISP俄罗斯科学院可信人工智能研究中心);Innopolis University(因诺波利斯大学)
本文针对图像质量评估度量面临的对抗攻击,系统评估了25种防御策略(包括对抗净化、对抗训练和认证鲁棒性)在14种攻击下的表现,建立了基准以指导未来研究。
2025-10-08 cs.CV eess.IV
Lyapunov Stable Graph Neural Flow
School of Computer Science and Technology / School of Artificial Intelligence, China University of Mining and Technology(计算机科学与技术学院/人工智能学院,中国矿业大学);School of Information Science and Technology, University of Science and Technology of China(信息科学与技术学院,中国科学技术大学)
本文将控制理论与图神经网络结合,提出基于整数和分数阶Lyapunov稳定性的新防御框架,通过可学习的Lyapunov函数和新型投影机制提升GNN的鲁棒性。
2026-03-13 cs.CV cs.LG
Model-Free Adversarial Purification via Coarse-To-Fine Tensor Network Representation
RIKEN Center for Advanced Intelligence Project (RIKEN AIP)(理化学研究所先进智能项目中心(RIKEN AIP));Tokyo University of Agriculture and Technology(东京农工大学);Institute of Science Tokyo(东京科学大学)
提出基于粗到细张量网络表示的无模型对抗净化方法TNP,不依赖生成模型或特定数据集,通过渐进下采样和对抗优化目标重建干净样本,在多个数据集上展现强泛化性。
2025-02-25 cs.LG
Self-supervised Adversarial Purification for Graph Neural Networks
Department of Computer Science and Engineering(计算机科学与工程系);Sungkyunkwan University(全州大学);Suwon, South Korea(韩国水原)
提出自监督对抗净化框架,通过专用净化器GPR-GAE(基于广义PageRank滤波器的图自编码器)在分类前净化输入数据,实现鲁棒性与分类器分离,达到最先进的防御性能。
2026-05-28 cs.LG
Intriguing properties of adversarial training at scale
Johns Hopkins University(约翰斯·霍普金斯大学)
对抗性训练是对抗对抗攻击的主要手段之一。在本文中,我们首次对对抗性训练的诊断元素进行了严格的研究,揭示了两个有趣的特性。首先,我们要研究规范化的作用。批量归一化(BN)是在许多视觉任务中实现最先进性能的关键因素,但我们发现它可能会阻止网络在对抗训练中获得强大的鲁棒性。一个意想不到的观察结果是,对于使用BN训练的模型,简单地从训练数据中移除干净的图像可以大大提高对抗鲁棒性,即,百分之十八点三我们将这种现象与干净图像和对抗图像来自两个不同领域的假设联系起来。这种双域假设可以解释在使用干净图像和对抗图像的混合进行训练时的BN问题,因为估计这种混合分布的归一化统计是具有挑战性的。在这个两域假设的指导下,我们展示了用于归一化的混合分布的解纠缠,即,将单独的BN应用于干净和对抗图像以进行统计估计,实现了更强的鲁棒性。此外,我们发现,强制BN在训练和测试中表现一致可以进一步增强鲁棒性。其次,我们研究了网络容量的作用。我们发现我们所谓的“深度”网络对于对抗性学习的任务来说仍然很浅。与传统的分类任务不同,在传统的分类任务中,通过向“深度”网络添加更多层(例如,ResNet-152),对抗训练对更深的网络表现出更强的需求,以实现更高的对抗鲁棒性。甚至通过将网络容量推到前所未有的规模,即,ResNet-638.
2019-12-21 cs.CV