Test-Time Defense Against Adversarial Attacks via Stochastic Resonance of Latent Ensembles
LSU Vision Lab(路易斯安那州立大学视觉实验室);UCLA Vision Lab(加州大学洛杉矶分校视觉实验室);Yale Vision Lab(耶鲁大学视觉实验室)
本文提出一种无需训练、架构与攻击无关的测试时防御,通过随机共振聚合平移扰动后的对齐潜在特征,在分类、立体匹配和光流任务中显著恢复对抗攻击造成的性能损失。
2026-11-10 cs.AI cs.CV cs.LG
The Efficacy of SHIELD under Different Threat Models
Intel Corporation(英特尔公司);Georgia Institute of Technology(佐治亚理工学院)
在这篇评估论文中,我们评估了SHIELD的有效性,SHIELD是一种基于压缩的防御框架,用于对抗对图像分类模型的对抗攻击,该框架已在KDD 2018上发布。在这里,我们考虑替代的威胁模型没有研究在原来的工作中,我们假设一个自适应的对手是知道的合奏防御方法,防御性的预处理,以及在合奏中使用的模型的架构和权重。我们定义了具有不同威胁级别的场景,并通过改变攻击者可用的信息程度来实证分析所提出的防御,从完整的白盒攻击到原始工作中描述的灰盒威胁模型。为了评估防御自适应攻击的鲁棒性,我们考虑了投影梯度下降(PGD)攻击的目标攻击成功率,这是一种基于梯度的强对抗攻击,提出了对抗机器学习研究。我们还尝试从头开始训练SHIELD集合,这与原始工作中使用预训练模型进行重新训练不同。我们发现,在全白盒场景中,针对性PGD攻击对原始SHIELD集合的成功率为64.3%,但如果集合中使用的模型从头开始训练而不是重新训练,则成功率下降到48.9%。我们的实验进一步表明,重新训练模型的集合在余弦相似性空间中确实具有更高的相关性,并且从头开始训练的模型在白盒和灰盒场景中不易受到有针对性的攻击。
2019-08-02 cs.AI cs.CR cs.CV
Blackbox Attacks via Surrogate Ensemble Search
University of California Riverside(加州大学河滨分校)
黑盒对抗攻击可以分为基于传输和基于查询的攻击。转移方法不需要来自受害者模型的任何反馈,但与基于查询的方法相比,成功率较低。查询攻击通常需要大量查询才能成功。为了实现这两种方法的最佳效果,最近的努力试图将它们结合起来,但仍然需要数百个查询才能实现高成功率(特别是针对性攻击)。在本文中,我们提出了一种新的方法,通过代理包围搜索(BASES),可以产生非常成功的黑盒攻击,使用极少量的查询。我们首先定义了一个扰动机,它通过最小化一组固定的代理模型上的加权损失函数来生成扰动图像。为了生成针对给定受害者模型的攻击,我们使用扰动机生成的查询来搜索损失函数中的权重。由于搜索空间的维度很小(与代理模型的数量相同),因此搜索需要少量的查询。我们证明,与使用ImageNet训练的不同图像分类器的最先进方法相比,我们提出的方法实现了更好的成功率,查询至少减少30倍。特别是,我们的方法需要每个图像(平均)少至3个查询,以实现超过90%的有针对性攻击的成功率,每个图像1-2个查询,以实现超过99%的无针对性攻击的成功率。我们的方法在Google Cloud Vision API上也很有效,并且实现了91%的无目标攻击成功率,每张图像有2.9个查询。我们还表明,我们所提出的方法产生的扰动是高度可转移的,可以采用硬标签黑盒攻击。我们还展示了BASES隐藏攻击对象检测器的有效性。
2022-11-24 cs.CV cs.LG
Meta-Learning the Search Distribution of Black-Box Random Search Based Adversarial Attacks
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Tübingen(图宾根大学)
基于随机搜索机制的对抗攻击在黑盒鲁棒性评估方面取得了令人瞩目的成果。然而,正如我们在这项工作中所展示的,它们在不同的查询预算制度的效率取决于手动设计和启发式调整的基础建议分布。我们研究了如何通过基于攻击过程中获得的信息在线调整提案分布来解决这个问题。我们认为广场攻击,这是一个国家的最先进的基于分数的黑盒攻击,并证明其性能可以提高学习控制器,调整参数的建议分布在线攻击期间。我们在具有白盒访问的CIFAR10模型上使用基于梯度的端到端训练对控制器进行训练。我们证明,插入学习控制器的攻击一致提高其黑盒鲁棒性估计在不同的查询制度高达20%的广泛的不同模型与黑盒访问。我们进一步表明,学习的自适应原则可以很好地转移到其他数据分布,如CIFAR100或ImageNet以及目标攻击设置。
2021-11-22 cs.AI cs.CV cs.LG
A Random Ensemble of Encrypted Vision Transformers for Adversarially Robust Defense
Tokyo Metropolitan University(东京都立大学)
提出基于 ViT 的加密模型随机集成方法,在 CIFAR-10 和 ImageNet 上经 AutoAttack 测试,有效抵御白盒与黑盒攻击,并在 RobustBench 基准中超越传统防御。
2024-02-11 cs.AI
Accuracy of TextFooler black box adversarial attacks on 01 loss sign activation neural network ensemble
New Jersey Institute of Technology(新泽西理工学院)
本研究探讨01损失符号激活神经网络对TextFooler黑盒文本对抗攻击的防御能力,发现在四个数据集上比sigmoid交叉熵和二值神经网络更难被攻击,并提出含新型全局池化的卷积变体显著提升对抗准确率,使TextFooler实际失效。
2024-02-12 cs.AI cs.CR cs.LG
Employing Deep Ensemble Learning for Improving the Security of Computer Networks against Adversarial Attacks
Bahcesehir University(巴赫切谢希尔大学);University of Padua(帕多瓦大学);Sabanci University(萨班哲大学);Florida International University(佛罗里达国际大学)
本文提出结合1C安全性与2C性能的SPRITZ-1.5C集成分类器,通过CNN与自编码器组合抵御对抗攻击,实验显示其将I-FGSM攻击成功率从0.9900降至0.0000。
2023-04-17 cs.AI cs.CR cs.LG
Towards Million-Scale Adversarial Robustness Evaluation With Stronger Individual Attacks
Fudan University(复旦大学);The University of Melbourne(墨尔本大学)
本文提出概率边际攻击(PMA)及两种集成攻击,并构建百万级数据集CC1M,首次对ImageNet对抗训练模型进行百万级白盒鲁棒性评估,揭示不同攻击方式与评估规模下的鲁棒性差距。
2025-03-11 cs.AI cs.CR cs.CV
Adversarial Training via Adaptive Knowledge Amalgamation of an Ensemble of Teachers
University of Waterloo(滑铁卢大学)
本文提出AT-AKA方法,通过教师集成生成多样对抗样本并自适应融合其逻辑输出,训练广义鲁棒的学生模型,解决对抗训练中模型规模限制和对抗样本泛化差的问题。
2024-05-22 cs.AI cs.LG
Enhancing Network Intrusion Detection Systems: A Multi-Layer Ensemble Approach to Mitigate Adversarial Attacks
本文提出一种多层集成方法,通过堆叠分类器和自动编码器增强网络入侵检测系统对对抗攻击的鲁棒性,并通过实验验证其有效性。
2026-03-11 cs.AI cs.CR
Fast Proxies for LLM Robustness Evaluation
Technical University of Munich(慕尼黑工业大学);Munich Data Science Institute(慕尼黑数据科学研究所)
本文研究 LLM 对抗鲁棒性评估成本过高的问题,提出用快速代理指标预测完整攻击集合下的攻击成功率,并验证其可在保持高相关性的同时将计算成本降低三个数量级。
2025-02-14 cs.AI cs.CR
CEAR: Certified Ensemble Adversarial Robustness in DNNs
University of California, Berkeley(加州大学伯克利分校)
提出CEAR方法,通过混合经验与认证防御机制,利用高斯噪声和温度混淆梯度与logits,并扩展随机平滑以验证集成分类器的鲁棒性,在多个数据集上取得更优的认证准确率和鲁棒半径。
2026-05-31 cs.AI cs.LG
$A^{3}D$: A Platform of Searching for Robust Neural Architectures and Efficient Adversarial Attacks
Defense Innovation Institute, Chinese Academy of Military Science(中国人民解放军军事科学院国防科技创新研究院);School of Artificial Intelligence, Xidian University(西安电子科技大学人工智能学院)
由于许多应用对安全性的迫切需求,深度神经网络(DNN)模型的鲁棒性越来越受到关注。开发了许多现有的开源工具或平台,通过集成大多数对抗攻击或防御算法来评估DNN模型的鲁棒性。不幸的是,当前平台不具备优化DNN模型的架构或对抗攻击的配置以进一步增强模型的鲁棒性或对抗攻击的性能的能力。为了缓解这些问题,在本文中,我们首先提出了一个新的平台,称为自动对抗攻击和防御($A^{3}D$),它可以帮助搜索强大的神经网络架构和有效的对抗攻击。在$A^{3}D$中,我们采用了多种神经结构搜索方法,考虑不同的鲁棒性评估指标,包括四种类型的噪声:对抗性噪声,自然噪声,系统噪声和量化指标,从而找到强大的架构。此外,我们提出了一个自动对抗攻击的数学模型,并提供了多种优化算法来搜索有效的对抗攻击。此外,我们将自动对抗攻击和防御结合在一起,形成一个统一的框架。在自动对抗防御中,搜索到的有效攻击可以作为新的鲁棒性评价指标,进一步提高系统的鲁棒性。在自动对抗攻击中,搜索到的鲁棒体系结构可以用作威胁模型,以帮助发现更强的对抗攻击。在CIFAR10、CIFAR100和ImageNet数据集上的实验表明了该平台的可行性和有效性,为自动机器学习在DNN模型鲁棒性评估和改进中的应用提供了一个基准和工具包。
2023-01-14 cs.AI cs.LG
Dynamic ensemble selection based on Deep Neural Network Uncertainty Estimation for Adversarial Robustness
PLA Strategy Support Force Information Engineering University(中国人民解放军战略支援部队信息工程大学)
针对深度神经网络在对抗攻击下的鲁棒性不足,提出基于不确定性估计的动态集成选择方法,利用Dirichlet分布和参数空间多样性约束构建轻量级子模型,在测试阶段动态选择低不确定性子模型进行预测,在不损害准确性的前提下显著提升了对抗白盒攻击的防御能力。
2023-08-01 cs.AI cs.CR cs.LG
Saliency Diversified Deep Ensemble for Robustness to Adversaries
University of St. Gallen(圣加仑大学)
深度学习模型在众多图像识别、分类和重建任务中表现出令人难以置信的性能。尽管由于其预测能力而非常有吸引力和价值,但一种常见的威胁仍然难以解决。经过专门训练的攻击者可以引入恶意的输入扰动来欺骗网络,从而导致潜在的有害错误预测。此外,当对手完全访问目标模型时(白盒),甚至当这种访问受到限制时(黑盒设置),这些攻击都可以成功。模型的集合可以防止这种攻击,但在其成员中共享漏洞(攻击可转移性)的情况下可能很脆弱。为此,这项工作提出了一种新的多样性促进学习方法的深度合奏。我们的想法是通过在我们的学习目标中引入一个额外的术语来促进集成成员的显着性图多样性(SMD),以防止攻击者同时针对所有集成成员。在训练过程中,这有助于我们最大限度地减少模型显着性之间的对齐,以减少共享成员漏洞,从而提高对对手的集成鲁棒性。我们的经验表明,集成成员之间的可转移性降低和性能提高相比,国家的最先进的集成防御中等和高强度的白盒攻击。此外,我们证明了我们的方法结合现有的方法优于国家的最先进的集成算法下的白盒和黑盒攻击的防御。
2021-12-07 cs.AI cs.CV
Ensemble of Models Trained by Key-based Transformed Images for Adversarially Robust Defense Against Black-box Attacks
Tokyo Metropolitan University(东京都立大学)
我们提出了一个投票合奏的模型训练,使用块的图像与密钥的adversarialally强大的防御。基于密钥的对抗性防御被证明优于基于梯度(白盒)攻击的最先进防御。然而,基于密钥的防御在不需要任何密钥的情况下对无梯度(黑盒)攻击不够有效。因此,我们的目标是通过使用模型的投票集成来增强对黑盒攻击的鲁棒性。在所提出的集成中,通过使用用不同密钥和块大小变换的图像来训练多个模型,然后将投票集成应用于模型。在图像分类实验中,证明了所提出的防御防御最先进的攻击。在CIFAR-10数据集上,在噪声距离为8/255的攻击下,所提出的防御方法实现了95.56%的准确率和小于9%的攻击成功率。
2020-11-16 cs.CV
LEAT: Towards Robust Deepfake Disruption in Real-World Scenarios via Latent Ensemble Attack
Yonsei University(延世大学)
本文提出潜在集成攻击LEAT,通过攻击潜在编码过程并引入归一化梯度集成策略,实现对GAN和扩散模型深度伪造的目标属性无关且跨模型可迁移的鲁棒破坏,并设计了更全面的防御评估协议。
2023-07-04 cs.AI cs.CV
MORA: Improving Ensemble Robustness Evaluation with Model-Reweighing Attack
University of Macau(澳门大学)
对抗攻击可以通过向输入数据添加微小的扰动来欺骗神经网络。被训练以最小化子模型之间的攻击可转移性的包围防御提供了一个有前途的研究方向,以提高对此类攻击的鲁棒性,同时保持对自然输入的高准确性。然而,我们发现,最近的最先进的(SOTA)对抗攻击策略不能可靠地评估集成防御,大大高估了它们的鲁棒性。本文确定了导致这种行为的两个因素。首先,由于梯度混淆,这些防御形成了现有的基于梯度的方法很难攻击的集合。其次,集成防御使子模型梯度多样化,提出了同时击败所有子模型的挑战,简单地将它们的贡献相加可能会抵消整体攻击目标;然而,我们观察到,尽管大多数子模型是正确的,但集成仍然可能被愚弄。因此,我们引入了MORA,一种模型重新加权攻击,通过重新加权子模型梯度的重要性来引导对抗性示例合成。MORA发现,最近的集成防御都表现出不同程度的高估鲁棒性。将其与最近的SOTA白盒攻击进行比较,它可以更快地收敛数量级,同时在使用三种不同集成模式(即,通过softmax、voting或logits集成)。特别是,大多数集成防御对MORA表现出接近或正好为0%的鲁棒性,其中$\ell^\infty$扰动在CIFAR-10上为0.02,在CIFAR-100上为0.01。我们使MORA开源,具有可重现的结果和预训练的模型;并提供各种攻击策略下的集成防御排行榜。
2022-11-15 cs.CV cs.LG
Stochastic Variance Reduced Ensemble Adversarial Attack for Boosting the Adversarial Transferability
Huazhong University of Science and Technology(华中科技大学);Cornell University(康奈尔大学)
黑盒对抗攻击因其在深度学习安全领域的实际应用而引起了广泛关注。同时,这是非常具有挑战性的,因为无法访问目标模型的网络架构或内部权重。基于样本对多个模型保持对抗性,则更有可能将攻击能力转移到其他模型的假设,基于集合的对抗攻击方法是一种有效的黑盒攻击方法,被广泛应用。然而,集成攻击的方式是相当少的研究,和现有的集成攻击简单地融合所有模型的输出均匀。在这项工作中,我们把迭代集成攻击作为一个随机梯度下降优化过程,在不同的模型上的梯度的方差可能会导致不良的局部最优。为此,我们提出了一种新的攻击方法称为随机方差减少集成(SVRE)攻击,它可以减少集成模型的梯度方差,并充分利用集成攻击。在标准ImageNet数据集上的实验结果表明,该方法可以提高对抗性可转移性,并显着优于现有的集成攻击。代码可在https://github.com/JHL-HUST/SVRE上获得。
2022-04-23 cs.CR cs.CV cs.LG
An Adaptive Model Ensemble Adversarial Attack for Boosting Adversarial Transferability
Fuzhou University(福州大学);Yuan Ze University(元智大学)
本文提出自适应集成攻击AdaEA,通过监测各模型贡献差异比率自适应融合输出并引入差异缩减滤波器,从而显著提升对抗样本在不同架构模型间的迁移性。
2023-08-05 cs.CV
Dynamic Defense Approach for Adversarial Robustness in Deep Neural Networks via Stochastic Ensemble Smoothed Model
PLA Strategy Support Force Information Engineering University(解放军战略支援部队信息工程大学)
深度神经网络已被证明在对抗攻击下存在严重漏洞。这种现象刺激了类似于网络空间安全所采用的不同攻击和防御战略的产生。这种策略对攻击和防御机制的依赖使得双方的相关算法表现为紧密的往复过程。在这一过程中,防御战略尤其被动,增强防御战略的主动性是摆脱军备竞赛的有效途径。受网络空间动态防御方法的启发,本文在随机平滑和模型集成防御方法的基础上,建立了随机集成平滑。该方法以网络结构和平滑参数作为集成属性,在每次推理预测请求前动态改变基于属性的集成模型。所提出的方法处理极端的可移植性和脆弱性的集成模型下的白盒攻击。不同攻击场景下的ASR与失真曲线的实验比较表明,即使具有最高攻击能力的攻击者也不能轻易超过与集成平滑模型相关的攻击成功率,特别是在非目标攻击下。
2021-05-06 cs.CR cs.CV
Ensemble Generative Cleaning with Feedback Loops for Defending Adversarial Attacks
University of Missouri(密苏里大学)
深度神经网络对对抗攻击的有效防御仍然是一个具有挑战性的问题,特别是在强大的白盒攻击下。在本文中,我们开发了一种新的方法,称为集成生成清洗与反馈循环(EGC-FL),用于深度神经网络的有效防御。所提出的EGC-FL方法基于两个中心思想。首先,我们在防御网络中引入了一个变换的死区层,它由一个正交变换和一个基于死区的激活函数组成,以破坏对抗攻击的复杂噪声模式。其次,通过构建一个具有反馈回路的生成式清洁网络,我们能够生成原始清洁图像的各种估计的集合。然后,我们学习一个网络,将这组不同的估计融合在一起,以恢复原始图像。我们广泛的实验结果表明,我们的方法提高了最先进的大利润率在白盒和黑盒攻击。它显着提高了白盒PGD攻击的分类准确率,在SVHN数据集上超过29%,在具有挑战性的CIFAR-10数据集上超过39%。
2020-04-23 cs.CV
Rethinking Model Ensemble in Transfer-based Adversarial Attacks
School of Computer Science, Beijing Institute of Technology(北京理工大学计算机学院);RealAI
本文重新审视迁移对抗攻击中的模型集成,从损失景观平坦性和局部最优邻近性定义共同弱点,并提出CWA以显著提升对抗样本跨模型迁移与黑盒攻击能力。
2024-03-04 cs.CV
Robust Ensemble Morph Detection with Domain Generalization
West Virginia University(西弗吉尼亚大学)
虽然有大量的研究致力于变形检测,他们中的大多数未能概括变形的脸以外的训练范式。此外,最近的变形检测方法非常容易受到对抗攻击的攻击。在本文中,我们打算学习一个变形检测模型,该模型对各种变形攻击具有很高的泛化能力,对不同的对抗攻击具有很高的鲁棒性。为此,我们开发了卷积神经网络(CNN)和Transformer模型的集成,以同时受益于它们的功能。为了提高集成模型的鲁棒精度,我们采用多扰动对抗训练,并为多个单个模型生成具有高可移植性的对抗示例。我们详尽的评估表明,所提出的强大的集成模型推广到几个变形攻击和人脸数据集。此外,我们验证了我们的鲁棒集成模型获得更好的鲁棒性对几个对抗攻击,同时优于国家的最先进的研究。
2022-09-16 cs.CV
An Ensemble Model for Face Liveness Detection
AI Labs, Subex Ltd.(Subex有限公司人工智能实验室)
在本文中,我们提出了一种被动的方法来检测人脸呈现攻击,即使用集成深度学习技术的人脸活性检测。人脸活体检测是在线注册/交易过程中客户身份验证的关键步骤之一。在身份验证期间,未经认证的用户试图通过多种手段绕过验证系统,例如,他们可以从社交媒体捕获用户照片,并使用用户面部的打印或使用来自移动终端的数字照片进行冒名顶替攻击,甚至创建更复杂的攻击,如视频重放攻击。我们试图了解不同的攻击方法,并创建了一个涵盖所有类型攻击的内部大规模数据集,以训练一个强大的深度学习模型。我们提出了一种集成方法,其中学习人脸和背景区域的多个特征来预测用户是真正的还是攻击者。
2022-01-19 cs.CV
CAAD 2018: Iterative Ensemble Adversarial Attack
University of Science and Technology of China(中国科学技术大学)
深度神经网络(DNN)最近在许多领域取得了重大进展。然而,DNN容易受到对抗性示例的影响,这些示例是具有不可感知的扰动的样本,同时极大地误导了DNN。对抗攻击可用于在部署深度学习模型之前评估其鲁棒性。不幸的是,大多数现有的对抗攻击只能欺骗黑盒模型,成功率很低。为了提高黑盒对抗攻击的成功率,我们提出了一个迭代的对抗攻击对集成的图像分类器。凭借这种方法,我们在CAAD 2018年有针对性的对抗攻击比赛中获得了第五名。
2018-11-07 cs.CR cs.CV cs.LG
Dynamic Stochastic Ensemble with Adversarial Robust Lottery Ticket Subnetworks
PLA Strategy Support Force Information Engineering University(中国人民解放军战略支援部队信息工程大学);University of Science and Technology of China(中国科学技术大学)
对抗攻击被认为是CNN固有的脆弱性。为攻击而设计的防御战略一直卡在对抗攻击-防御的军备竞赛中,反映出攻防不平衡。动态防御框架(DDF)最近改变了被动安全的现状,基于随机集成模型。子网络的多样性,在DDF的一个重要关注,可以有效地评估不同网络之间的对抗转移。针对不同剩余率的刮刮乐子网络间对抗性较差的可转移性,提出了一种动态随机集成防御策略的实现方法。我们发现了从不同的基本结构和稀疏性的鲁棒彩票子网络之间的对抗性可转移的多样性。实验结果表明,该方法通过对抗性的可转移多样性获得了更好的鲁棒性和干净的识别准确率,这将降低攻击的可靠性。
2022-10-06 cs.CV
Reliable evaluation of adversarial robustness with an ensemble of diverse parameter-free attacks
University of Tübingen(蒂宾根大学)
对抗对抗攻击的防御策略领域在过去几年中有了显著的发展,但进展受到阻碍,因为对抗性防御的评估往往不足,从而给人一种错误的鲁棒性印象。许多有希望的防御可能在以后被打破,这使得很难识别最先进的技术。评估中经常出现的陷阱是攻击的超参数调整不当,梯度混淆或掩蔽。在本文中,我们首先提出了两个扩展的PGD攻击克服失败,由于次优步长和目标函数的问题。然后,我们将我们的新攻击与两个互补的现有攻击相结合,形成一个无参数、计算负担得起且与用户无关的攻击集合,以测试对抗鲁棒性。我们将我们的集合应用于最近顶级机器学习和计算机视觉场所发表的论文中的50多个模型。在所有情况下,除了一个,我们实现了较低的鲁棒性测试的准确性比在这些论文中报道的,往往超过$10\%$,确定几个破碎的防御。
2020-08-04 cs.CV cs.LG stat.ML
Ensemble of Multi-View Learning Classifiers for Cross-Domain Iris Presentation Attack Detection
University of Notre Dame(圣母大学);University of Campinas (Unicamp)(坎皮纳斯大学(Unicamp))
随着世界各地大规模虹膜识别系统的采用,检测呈现攻击图像(纹理隐形眼镜和principal)的重要性已经显现出来。本文提出了一种新的虹膜呈现攻击检测方法,通过二值化统计图像特征(BSIF),探索卷积神经网络(CNN)和变换输入空间的组合。我们的方法结合了轻量级CNN来分类输入图像的多个BSIF视图。在探索互补输入空间导致更多的歧视性特征来检测呈现攻击之后,我们还提出了一种算法来选择最好的(和最具歧视性的)预测器用于手头的任务。一个预测器的集合利用他们的预期个人表现来聚合他们的结果到最终的预测中。结果表明,该技术改进了虹膜PAD的当前技术水平,在数据集内和跨数据集场景中的表现都优于LivDet-Iris 2017竞赛的获胜者,并说明了跨数据集场景的非常困难的性质。
2018-11-25 cs.CV
Jacobian Ensembles Improve Robustness Trade-offs to Adversarial Attacks
Imperial College London(帝国理工学院);DataSpartan
深度神经网络已经成为我们软件基础设施的一个组成部分,并被部署在许多广泛使用的安全关键应用程序中。然而,它们集成到许多系统中也带来了以通用对抗性扰动(UAP)形式的测试时间攻击的脆弱性。UAP是一类扰动,当应用于任何输入时会导致模型误分类。虽然有一个正在进行的努力,以保护模型免受这些对抗攻击,它往往是难以调和的权衡模型的准确性和鲁棒性的对抗攻击。雅可比正则化已被证明可以提高模型对UAP的鲁棒性,而模型集成已被广泛采用,以提高预测性能和模型鲁棒性。在这项工作中,我们提出了一种新的方法,雅可比集成-雅可比正则化和模型集成的组合,以显着提高对不稳定性,同时保持或提高模型的准确性。我们的研究结果表明,雅可比集成实现了以前看不到的准确性和鲁棒性水平,大大提高了以前的方法,往往倾向于只对准确性或鲁棒性倾斜。
2022-04-19 cs.CR cs.CV cs.LG
Enhancing Robustness in Post-Processing Watermarking: An Ensemble Attack Network Using CNNs and Transformers
National Yang Ming Chiao Tung University(国家阳明交通大学);National Taiwan University(国立台湾大学)
本研究聚焦后处理水印,提出结合空间域CNN与频域Transformer的集成攻击网络以提升水印鲁棒性,在WAVES基准上验证其能显著增强基线方法抗攻击能力,尤其在再生攻击下将StegaStamp性能提升18.743%。
2025-09-03 cs.CV
MUTEN: Boosting Gradient-Based Adversarial Attacks via Mutant-Based Ensembles
Interdisciplinary Centre for Security, Reliability and Trust, University of Luxembourg(卢森堡大学安全、可靠性与信任跨学科中心)
深度神经网络(DNN)容易受到对抗性样本的攻击,这对安全关键型应用程序造成了严重威胁。这激发了许多关于提供机制以使模型对对抗攻击更鲁棒的研究。不幸的是,大多数防御措施(例如梯度掩蔽)都可以通过不同的攻击手段轻松克服。在本文中,我们提出了MUTEN,这是一种低成本的方法,可以提高针对梯度掩蔽模型的知名攻击的成功率。我们的想法是将攻击应用于通过在训练后突变原始模型元素而构建的集成模型。由于我们发现突变体的多样性是提高成功率的一个关键因素,我们设计了一个贪心算法来有效地产生多样的突变体。在MNIST、SVHN和CIFAR 10上的实验结果表明,MUTEN可以将四次攻击的成功率提高高达0.45。
2021-09-27 cs.CR cs.CV cs.LG
A Note on Implementation Errors in Recent Adaptive Attacks Against Multi-Resolution Self-Ensembles
Google DeepMind(谷歌DeepMind)
本文指出近期自适应攻击实现中的错误导致扰动超出界限20倍,修正后多分辨率自集成防御仍具鲁棒性,且正确有界攻击与人类感知一致,引发对抗鲁棒性度量反思。
2025-01-24 cs.CR cs.CV cs.LG
SEGA: A Transferable Signed Ensemble Gaussian Black-Box Attack against No-Reference Image Quality Assessment Models
School of Computer Science, the National Key Laboratory for Multimedia Information Processing, National Engineering Research Center of Visual Technology, Peking University(计算机科学学院、多媒体信息处理国家级重点实验室、视觉技术工程研究中心、北京大学);College of Computing and Data Science, Nanyang Technological University(计算与数据科学学院、南洋理工大学);Department of Networked Intelligence, Pengcheng Laboratory(网络智能系、鹏城实验室)
SEGA提出了一种可转移的黑盒攻击方法,通过高斯平滑和集成梯度来提升对无参考图像质量评估模型的攻击效果。
2026-01-29 cs.CV
Mosaic: Multimodal Jailbreak against Closed-Source VLMs via Multi-View Ensemble Optimization
Beihang University(北京航空航天大学);Huazhong University of Science and Technology(华中科技大学)
本文提出Mosaic框架,通过多视图集成优化减少对单一代理模型的依赖,提升对闭源VLMs的多模态劫持效果,实验显示其在安全基准上的攻击成功率和毒性均达到最优。
2026-04-10 cs.AI cs.CV
Use as Many Surrogates as You Want: Selective Ensemble Attack to Unleash Transferability without Sacrificing Resource Efficiency
Information Engineering University(信息工程大学);Xi’an Jiaotong University(西安交通大学)
针对替代模型集成攻击中可迁移性与资源效率的权衡问题,提出选择性集成攻击(SEA),通过解除迭代内模型相同的假设、动态选择跨迭代多样化模型,在ImageNet及真实系统中实现了更高可迁移性与效率的平衡。
2025-11-17 cs.CV
Robust Ensemble Model Training via Random Layer Sampling Against Adversarial Attack
KAIST(韩国科学技术院)
深度神经网络已经在多个计算机视觉领域取得了实质性的成就,但也存在漏洞,经常被人类无法识别的对抗性示例所愚弄。这对于安全或医疗应用来说是一个重要的问题。在本文中,我们提出了一个集成模型训练框架与随机层采样,以提高深度神经网络的鲁棒性。在所提出的训练框架中,我们通过随机分层采样生成各种采样模型,并更新采样模型的权重。在训练好集成模型后,采用随机分层抽样的方法,有效地隐藏了梯度信息,避免了基于梯度的攻击。为了评估我们提出的方法,全面和比较实验已经进行了三个数据集。实验结果表明,该方法提高了系统的对抗鲁棒性.
2021-01-27 cs.CR cs.CV cs.LG
Boosting Adversarial Transferability via Ensemble Non-Attention
针对跨异构模型架构的对抗攻击迁移性不足问题,提出集成攻击方法NAMEA,通过解耦并融合注意力与非注意力区域梯度、结合元学习优化,在ImageNet上攻击性能显著优于现有最优方法。
2025-11-13 cs.CV cs.LG
Explainable Face Presentation Attack Detection via Ensemble-CAM
针对深度学习人脸呈现攻击检测系统的黑盒不透明问题,提出Ensemble-CAM技术提供决策视觉解释,以提升系统的透明度与可信度。
2025-10-22 cs.CV
CloudFort: Enhancing Robustness of 3D Point Cloud Classification Against Backdoor Attacks via Spatial Partitioning and Ensemble Prediction
University of Chinese Academy of Sciences(中国科学院大学);The Chinese University of Hong Kong(香港中文大学)
本文提出CloudFort防御机制,通过空间划分和集成预测技术有效抵御3D点云分类中的后门攻击,在保持良性样本准确率的同时显著提升模型安全性。
2024-04-22 cs.CV
MoSFPAD: An end-to-end Ensemble of MobileNet and Support Vector Classifier for Fingerprint Presentation Attack Detection
Indian Institute of Technology Indore(印度理工学院印多尔分校)
自动指纹识别系统是用于个人认证的最广泛使用的系统,尽管它们容易受到呈现攻击。在各种材料的帮助下创建的人工制品被用来欺骗这些系统,从而对基于指纹的应用程序的安全性造成威胁。本文提出了一种新的端到端模型来检测指纹呈现攻击。该模型采用MobileNet作为特征提取器和支持向量分类器作为分类器,以检测跨材料和跨传感器范例中的呈现攻击。特征提取器的参数学习与支持向量分类器产生的损失。与其他静态混合架构不同,该模型消除了对中间数据准备过程的需要。该模型的性能已在基准LivDet 2011,2013,2015,2017和2019数据库上进行了验证,在这些数据库上分别实现了98.64%,99.50%,97.23%,95.06%和95.20%的总体准确率。所提出的模型的性能进行比较,与国家的最先进的方法和所提出的方法优于在跨材料和跨传感器范例的平均分类误差。
2023-03-02 cs.CV
Simulated Ensemble Attack: Transferring Jailbreaks Across Fine-tuned Vision-Language Models
Fudan University, Shanghai, China(复旦大学);The University of Hong Kong, Hong Kong, China(香港大学)
本文提出SEA框架,通过模拟微调过程中的参数变化,实现跨不同微调变体的高效劫持攻击,揭示了微调导致的局部参数位移对攻击有效性的影响。
2026-01-14 cs.CV
Domain Generalization via Ensemble Stacking for Face Presentation Attack Detection
Aalto University(阿尔托大学);University of Oulu(奥卢大学)
本文针对人脸呈现攻击检测的跨域泛化难题,提出结合alpha合成与视频蒸馏生成合成数据、并利用堆叠集成学习训练基模型与元模型的方法,在多个基准数据集上取得较低HTER。
2023-09-16 cs.CV
Interpretability is a Kind of Safety: An Interpreter-based Ensemble for Adversary Defense
Beihang University(北京航空航天大学)
本文揭示了DNN解释器与对抗样本生成之间的梯度相关性,并提出基于解释器的集成框架X-Ensemble,通过检测-校正流程和随机森林集成检测器实现鲁棒的对抗性防御。
2023-04-14 cs.CR cs.CV cs.LG
Improving the Transferability of Adversarial Examples with Resized-Diverse-Inputs, Diversity-Ensemble and Region Fitting
Army Engineering University of PLA(中国人民解放军陆军工程大学);Jiangnan Institute of Computing Technology(江南计算技术研究所)
我们引入了一个三阶段的管道:调整大小的多样性输入(RDIM),多样性集成(DEM)和区域拟合,它们共同工作以生成可转移的对抗性示例。我们首先探讨现有的攻击之间的内部关系,并提出RDIM,是能够利用这种关系。然后,我们提出DEM,RDIM的多尺度版本,产生多尺度梯度。在前两步之后,我们将值拟合转换为跨迭代的区域拟合。RDIM和区域拟合不需要额外的运行时间,这三个步骤可以很好地集成到其他攻击中。我们最好的攻击愚弄了六个黑盒防御,平均成功率为93%,高于最先进的基于梯度的攻击。此外,我们重新思考现有的攻击,而不是简单地在旧的方法上堆叠新的方法以获得更好的性能。期望我们的研究结果可以作为探索攻击方法之间内在联系的开始。代码可在https://github.com/278287847/DEM上获得。
2021-12-11 cs.CV cs.LG
ViT-EnsembleAttack: Augmenting Ensemble Models for Stronger Adversarial Transferability in Vision Transformers
School of Computer Science and Technology(计算机科学与技术学院);Huazhong University of Science and Technology(华中科技大学)
本文提出ViT-EnsembleAttack,通过多头丢弃、注意力缩放和MLP特征混合三种对抗增强策略及自动重加权与步长放大模块,首次针对视觉Transformer构建集成攻击方法,显著提升对抗样本迁移性。
2025-08-17 cs.CR cs.CV
Army of Thieves: Enhancing Black-Box Model Extraction via Ensemble based sample selection
IIIT-Delhi(德里印度理工学院);IIT Delhi(德里印度理工学院)
针对黑盒模型窃取攻击中单窃取模型选样次优的问题,提出基于多复杂度模型集成的AOT攻击方法,通过集体决策选样,在CIFAR-10上性能超现有基线至少3%,对抗迁移性提升21%。
2023-11-08 cs.AI cs.CR cs.CV
Improving the Robustness of Quantized Deep Neural Networks to White-Box Attacks using Stochastic Quantization and Information-Theoretic Ensemble Training
Center for Vision Technologies(视觉技术中心);SRI International(SRI国际)
本文提出可微随机量化器与基于互信息的集成训练方法,通过鼓励不同量化 DNN 学习多样化表示,显著提升量化网络对白盒 $L_\infty$ 攻击的鲁棒性,并扩展用于攻击检测与威胁模型统一分析。
2023-11-30 cs.CR cs.CV cs.LG
EMPIR: Ensembles of Mixed Precision Deep Networks for Increased Robustness against Adversarial Attacks
Purdue University(普渡大学);Indian Institute of Technology (IIT) Madras(印度理工学院马德拉斯分校)
确保深度神经网络(DNN)的鲁棒性对于它们在自动驾驶汽车、无人机和医疗保健等安全关键型应用中的采用至关重要。值得注意的是,DNN容易受到对抗攻击的攻击,其中小的输入扰动可能会产生灾难性的错误分类。在这项工作中,我们提出了EMPIR,具有不同数值精度的量化DNN模型的集合,作为一种新的方法来提高对对抗攻击的鲁棒性。EMPIR是基于这样的观察,即量化神经网络通常比全精度网络对对抗攻击表现出更高的鲁棒性,但代价是原始(未扰动)输入的准确性大幅下降。EMPIR克服了这一限制,实现了“两全其美”,即,全精度模型的更高的无扰动精度与低精度模型的更高的鲁棒性相结合,通过将它们组成一个集合。此外,由于低精度DNN模型的计算和存储需求比全精度模型低得多,因此与单个全精度模型相比,EMPIR模型只会产生适度的计算和内存开销(在我们的评估中<25%)。我们在一套DNN上评估EMPIR,用于3种不同的图像识别任务(MNIST,CIFAR-10和ImageNet)和4种不同的对抗攻击。我们的研究结果表明,与单个全精度模型相比,EMPIR分别将MNIST,CIFAR-10和ImageNet数据集上训练的DNN模型的平均对抗准确率提高了42.6%,15.2%和10.5%,而不会牺牲未扰动输入的准确性。
2020-04-21 cs.CV cs.LG stat.ML
Using an ensemble color space model to tackle adversarial examples
The University of Edinburgh(爱丁堡大学);Tsinghua University(清华大学)
图像中微小的像素变化会极大地改变深度学习模型的预测。例如,由此可能出现的最重要的问题之一是自动驾驶。已经提出了许多方法来解决这个问题,并取得了不同程度的成功。我们提出了一个3步的方法来防御这种攻击。首先,我们使用统计方法去噪图像。其次,我们表明,在同一模型中采用多个颜色空间可以帮助我们进一步对抗这些对抗攻击,因为每个颜色空间都能检测到某些对自己明确的特征。最后,生成的特征图被放大并作为输入发送回去,以获得更小的特征。我们表明,所提出的模型不需要训练来防御特定类型的攻击,并且对黑盒,白盒和灰盒对抗攻击技术具有更强的鲁棒性。特别是,在白盒攻击的情况下,当模型不受对抗性示例训练时,该模型的鲁棒性比比较模型高出56.12%。
2020-03-10 cs.CR cs.CV
Ensemble Adversarial Defense via Integration of Multiple Dispersed Low Curvature Models
Southeast University(东南大学);PLA Information Engineering University(中国人民解放军信息工程大学);Purple Mountain Laboratories(紫金山实验室);NDSC(国家数字交换系统工程技术研究中心)
本文提出通过降低攻击可迁移性增强集成多样性,利用微分近似计算二阶梯度(损失曲率)并引入新正则化器训练多个分散的低曲率子模型,从而显著提升了集成模型对抗攻击的防御鲁棒性。
2024-03-25 cs.CR cs.CV cs.LG
REGroup: Rank-aggregating Ensemble of Generative Classifiers for Robust Predictions
IIIT-Delhi(德里印度信息技术学院);TCS Research(塔塔咨询服务公司研究院);IIT Delhi(德里印度理工学院);Ashoka University(阿育王大学)
深度神经网络(DNN)经常被批评容易受到对抗攻击的影响。大多数成功的防御策略采用对抗性训练或随机输入转换,通常需要重新训练或微调模型以实现合理的性能。在这项工作中,我们对预训练DNN的中间表示的调查导致了一个有趣的发现,指向对抗攻击的内在鲁棒性。我们发现,我们可以通过统计表征中间层对干净训练样本的神经响应来学习生成分类器。当聚合时,多个这样的基于中间层的分类器的预测显示出对对抗攻击的意想不到的鲁棒性。具体来说,我们设计了这些生成分类器的集成,通过Borda计数为基础的共识,排名聚合他们的预测。我们提出的方法使用干净训练数据的子集和预训练模型,但对网络架构或对抗攻击生成方法不可知。我们展示了大量的实验来证明我们的防御策略在ImageNet验证集上达到了最先进的性能。
2021-11-24 cs.CV stat.ML
Improving Hyperspectral Adversarial Robustness Under Multiple Attacks
University of Maine(缅因大学)
针对高光谱图像语义分割模型在多种对抗攻击下鲁棒性下降的问题,提出对抗判别器集成网络(ADE-Net),通过判别器按攻击类型分配数据至专家集成网络,在统一模型下提升整体对抗鲁棒性。
2023-05-11 cs.CR cs.CV cs.LG
Voting based ensemble improves robustness of defensive models
Department of Computer Science, University of Texas at Austin(德克萨斯大学奥斯汀分校计算机科学系)
发展对抗性扰动的鲁棒模型一直是一个活跃的研究领域,并且已经提出了许多算法来训练个体鲁棒模型。利用这些预训练的鲁棒模型,我们的目标是研究是否有可能创建一个集成来进一步提高鲁棒性。以前的几次尝试通过集成软标签预测来解决这个问题,并且根据最新的攻击方法已经证明是脆弱的。在本文中,我们证明了如果鲁棒训练损失足够多样化,则简单的基于硬标签的投票集成可以提高每个模型的鲁棒误差。此外,给定一个健壮的模型池,我们开发了一种原则性的方法来选择要集成的模型。最后,为了验证改进的鲁棒性,我们进行了大量的实验,研究如何攻击基于投票的集成和开发几个新的白盒攻击。在CIFAR-10数据集上,通过集成几个最先进的预训练防御模型,我们的方法可以实现59.8%的鲁棒准确率,优于所有现有的防御模型,而无需使用额外的数据。
2020-11-28 cs.CR cs.CV cs.LG