Exploring Frequency Adversarial Attacks for Face Forgery Detection
Shanghai Jiao Tong University(上海交通大学);Tencent(腾讯)
各种各样的面部操作技术已经引起了道德,安全和隐私方面的严重公众关注。虽然现有的人脸伪造分类器在检测虚假图像方面取得了很好的性能,但这些方法容易受到对抗性样本的影响,这些样本在像素上注入了不可感知的扰动。同时,许多人脸伪造检测器总是利用真实和虚假人脸之间的频率差异作为一个重要的线索。在本文中,而不是注入对抗扰动到空间域中,我们提出了一种频率对抗攻击方法对人脸伪造检测器。具体地说,我们对输入图像进行离散余弦变换(DCT),并在频域中引入融合模块来捕获对手的显著区域。与空间域中现有的对抗攻击(例如FGSM、PGD)相比,我们的方法对人类观察者来说更加不可感知,并且不会降低原始图像的视觉质量。此外,受元学习思想的启发,我们还提出了一种混合对抗攻击,在空间和频率域进行攻击。大量的实验表明,该方法不仅欺骗空间为基础的检测器,但也是最先进的频率为基础的检测器有效。此外,所提出的频率攻击增强了黑盒攻击在人脸伪造检测器之间的可转移性。
2022-03-29 cs.CV
Imperceptible Face Forgery Attack via Adversarial Semantic Mask
Xidian University(西安电子科技大学);Chongqing University of Posts and Telecommunications(重庆邮电大学)
本文提出ASMA框架,通过对抗性语义掩码生成模型和自适应语义掩码选择策略,在局部语义区域生成扰动,实现兼具迁移性与不可见性的人脸伪造对抗攻击。
2024-06-16 cs.CV
Exposing Fine-Grained Adversarial Vulnerability of Face Anti-Spoofing Models
University of Chinese Academy of Sciences(中国科学院大学);CASIA(中国科学院自动化研究所);SenseTime Research(商汤科技研究院)
针对人脸反欺骗模型对抗脆弱性缺乏细粒度分析的问题,提出含多任务模块与SFA模块的分析框架,引入数据分布先验提升攻击效果,可用于筛选鲁棒组件及对抗训练以增强模型性能。
2023-05-02 cs.CV
Boosting Masked Face Recognition with Multi-Task ArcFace
Vicomtech Foundation, Basque Research and Technology Alliance (BRTA)(维康科技基金会,巴斯克研究与技术联盟(BRTA));University of the Basque Country(巴斯克大学)
在本文中,我们解决了面具的人脸识别问题。鉴于COVID-19引发的全球健康危机,口罩和鼻罩已成为日常服装的必备配件。这种卫生措施使最先进的面部识别模型处于危险之中,因为它们不是为面具工作而设计的。此外,还需要能够检测受试者是否戴着口罩以控制病毒传播的应用。为了克服这些问题,提出了一个完整的训练管道的基础上ArcFace的工作,与几个修改的骨干和损失函数。从原始的人脸识别数据集,使用数据增强生成掩蔽版本,并且在训练过程中组合两个数据集。基于ResNet-50的所选网络被修改为也输出掩码使用的概率,而不增加任何计算成本。此外,ArcFace损失与掩码使用分类损失相结合,产生了一个名为多任务ArcFace(MTArcFace)的新函数。实验结果表明,该方法在处理蒙面人脸时,大大提高了原始模型的准确性,而在原始非蒙面数据集上保持几乎相同的准确性。此外,它达到了99.78%的平均准确率在掩模使用分类。
2021-04-21 cs.CV cs.LG
AdvGen: Physical Adversarial Attack on Face Presentation Attack Detection Systems
IIIT Hyderabad(印度国际信息技术学院);Michigan State University(密歇根州立大学)
本文提出AdvGen,一种自动化的生成对抗网络,用于模拟打印和重放攻击,生成对抗图像以欺骗最先进的人脸呈现攻击检测系统,攻击成功率达82.01%,并在四个数据集和真实物理环境中验证了其有效性。
2023-11-20 cs.CV
Counterfactual Explanations for Face Forgery Detection via Adversarial Removal of Artifacts
University of Chinese Academy of Sciences(中国科学院大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Nanjing University of Information Science and Technology(南京信息工程大学)
针对人脸伪造检测模型泛化性与鲁棒性不足的问题,提出基于StyleGAN潜在空间对抗优化的反事实解释方法,兼具高攻击成功率与强迁移性,可揭示通用伪造痕迹。
2024-04-12 cs.CV
On adversarial patches: real-world attack on ArcFace-100 face recognition system
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术学院);Intelligent Systems Lab(智能系统实验室);Huawei Moscow Research Center(华为莫斯科研究中心)
最近的工作表明,在数字域的对抗攻击的图像分类的脆弱性。然而,大多数攻击涉及向图像添加小扰动以欺骗分类器。不幸的是,这样的程序不能用于进行现实世界的攻击,在现实世界中,向照片添加对抗属性是一种更实用的方法。在本文中,我们研究了现实世界中的人脸识别系统的攻击问题。我们研究了最好的公共人脸识别系统之一,LResNet 100 E-IR与ArcFace损失的安全性,并提出了一种简单的方法来攻击它在物理世界中。该方法建议创建一个可以打印的对抗补丁,添加为面部属性并拍照;然后将具有这种属性的人的照片传递给分类器,使得分类器的识别类从正确的变为所需的。所提出的生成过程允许不仅在面部的不同区域(例如鼻子或前额)上,而且在一些可穿戴配件(例如眼镜)上投射对抗性补丁。
2020-04-01 cs.CR cs.CV cs.LG
ArcFace Knows the Gender, Too!
Machine Learning Section, Hooshmand-Negaran Dadeh-Pardaz Arian Company(Hooshmand-Negaran Dadeh-Pardaz Arian 公司机器学习部)
本文的主要思想是,如果一个模型可以识别一个人,当然,它也必须能够知道这个人的性别。因此,本文没有定义一个新的性别分类模型,而是使用ArcFace特征来确定性别,基于面部特征。将人脸图像提供给ArcFace,并获得人脸的512个特征。然后,在传统机器学习模型的帮助下,确定性别。判别方法,如支持向量机(SVM),线性判别,和逻辑回归很好地证明,从ArcFace提取的特征创建一个显着的性别类别之间的区别。在性别分类数据集上的实验表明,基于ArcFace特征的高斯核SVM能够以96.4%的准确率进行性别分类。
2021-12-19 cs.CV cs.LG
Restricted Black-box Adversarial Attack Against DeepFake Face Swapping
Sun Yat-sen University(中山大学)
DeepFake人脸交换对在线安全和社交媒体构成了重大威胁,它可以将任意照片/视频中的源人脸替换为完全不同的目标人脸。为了防止这种欺诈行为,一些研究人员已经开始研究对抗DeepFake或面部操纵的对抗方法。然而,现有的工作集中在白盒设置或黑盒设置驱动的丰富的查询,这严重限制了这些方法的实际应用。为了解决这个问题,我们引入了一个实用的对抗攻击,不需要任何查询的面部图像伪造模型。我们的方法是建立在一个替代模型上,然后将替代模型中的对抗性示例直接转移到无法访问的黑盒DeepFake模型。特别地,我们提出了可转移循环Advertisement生成对抗网络(TCA-GAN)来构建对抗扰动,以破坏未知的DeepFake系统。我们还提出了一个新的后正则化模块,用于增强生成的对抗性示例的可转移性。为了全面衡量我们方法的有效性,我们构建了一个具有挑战性的DeepFake对抗攻击基准,以供未来开发。大量的实验令人印象深刻地表明,所提出的对抗攻击方法使DeepFake人脸图像的视觉质量大幅下降,使它们更容易被人类和算法检测到。此外,我们证明,该算法可以推广到提供人脸图像保护,对各种人脸翻译方法。
2022-04-26 cs.CR cs.CV
Adversarial Attacks on Face Detectors using Neural Net based Constrained Optimization
Department of Electrical and Computer Engineering University of Toronto(多伦多大学电气与计算机工程系)
对抗攻击涉及向输入添加小的、通常难以察觉的扰动,目的是让机器学习模型对它们进行错误分类。虽然针对图像分类模型提出了许多不同的对抗攻击策略,但目标检测管道更难被破坏。在本文中,我们提出了一种新的策略,通过使用对抗生成器网络解决约束优化问题来制作对抗示例。我们的方法是快速和可扩展的,只需要通过我们训练的生成器网络进行正向传递来制作对抗样本。与许多攻击策略不同的是,我们证明了相同的训练生成器能够在不显式优化的情况下攻击新图像。我们在裁剪的300-W人脸数据集上评估了我们对训练的Faster R-CNN人脸检测器的攻击,我们设法将检测到的人脸数量减少到所有原始检测到的人脸的$0.5\%$。在另一个实验中,也是在300-W上,我们证明了我们的攻击对基于JPEG压缩的防御的鲁棒性。典型的JPEG压缩级别$75\%$将我们的攻击的有效性从仅检测到的面部的$0.5\%$降低到适度的$5.0\%$。
2018-05-31 cs.CV cs.LG
Towards minimizing efforts for Morphing Attacks -- Deep embeddings for morphing pair selection and improved Morphing Attack Detection
Norwegian University of Science and Technology (NTNU)(挪威科技大学);Hochschule Darmstadt(达姆施塔特应用科学大学)
本文研究利用MagFace和ArcFace人脸嵌入进行变形攻击图像预选与检测,证明基于嵌入相似度的配对能生成更成功的攻击,且MagFace在预选和检测上均是ArcFace的有力替代方案。
2024-03-30 cs.CV
Real-world adversarial attack on MTCNN face detection system
Skolkovo Institute of Science and Technology(斯科尔科沃科学技术研究所);Intelligent Systems Lab(智能系统实验室);Huawei Moscow Research Center(华为莫斯科研究中心)
最近的研究证明,深度学习方法在人脸检测任务上取得了显著的效果。另一方面,这些进展引起了与深度卷积神经网络模型的安全性相关的新问题,揭示了基于DCNN的应用的潜在风险。即使是数字域中微小的输入变化也可能导致网络被愚弄。然后表明,一些基于深度学习的人脸检测器不仅在数字领域而且在现实世界中都容易受到对抗攻击。本文研究了著名的级联CNN人脸检测系统MT CNN的安全性,并提出了一种易于复制和鲁棒的攻击方法。我们的方法能够在现实世界中打破MTCNN检测器。
2020-04-02 cs.CR cs.CV cs.LG
Evading Forensic Classifiers with Attribute-Conditioned Adversarial Faces
Mohamed bin Zayed University of AI(穆罕默德·本·扎耶德人工智能大学)
本研究提出一种基于StyleGAN的对抗性人脸生成框架,通过属性条件引导潜在空间搜索,生成可逃避取证分类器且人眼难以察觉的对抗性假人脸,并采用元学习策略提升对未知模型的迁移性。
2023-06-22 cs.CR cs.CV cs.LG
Understanding the Security of Deepfake Detection
Duke University(杜克大学)
Deepfakes对互联网上信息的信任构成了越来越大的挑战。因此,检测deepfake引起了学术界和工业界越来越多的关注。现有技术的深度伪造检测方法包括两个关键部分,即,人脸提取器和人脸分类器,分别提取图像中的人脸区域并将其分类为真/假。现有的研究主要集中在提高非对抗性环境中的检测性能,而对抗性环境中deepfake检测的安全性在很大程度上尚未得到探索。在这项工作中,我们的目标是弥合差距。特别是,我们进行了系统的测量研究,以了解最先进的deepfake检测方法在对抗环境中的安全性。我们使用两个大规模的公共deepfakes数据源,包括FaceForensics ++和Facebook Deepfake Detection Challenge,其中deepfakes是虚假的人脸图像;我们训练最先进的deepfake检测方法。这些检测方法可以在这些数据集上的非对抗性设置中达到0.94 - 0.99的准确度。然而,我们的测量结果揭示了deepfake检测方法在对抗环境中的多个安全限制。首先,我们发现攻击者可以避开面部提取器,即,面部提取器无法通过向其deepfake图像添加小的高斯噪声来提取正确的面部区域。其次,我们发现使用一种方法生成的deepfakes训练的人脸分类器无法检测到另一种方法生成的deepfakes,即,攻击者可以通过使用新方法生成deepfake来逃避检测。第三,我们发…
2021-10-06 cs.CR cs.CV cs.LG
2D-Malafide: Adversarial Attacks Against Face Deepfake Detection Systems
EURECOM(欧洲通信与网络研究院)
提出2D-Malafide轻量级对抗攻击,利用2D卷积滤波器生成可跨图像迁移的扰动,在白盒与黑盒设置下均显著降低最先进人脸深度伪造检测器的性能,并揭示其脆弱性。
2024-08-26 cs.CR cs.CV cs.LG
OGAN: Disrupting Deepfakes with an Adversarial Attack that Survives Training
自动编码器和生成模型的最新进展已经产生了有效的视频伪造方法,用于生成所谓的“deepfakes”。缓解研究主要集中在事后deepfake检测,而不是预防。我们通过引入一类新的对抗攻击--训练抵抗攻击--来补充这些努力,无论其对抗图像是否包含在所述自动编码器的训练集中,这都可以破坏面部交换自动编码器。我们提出了振荡GAN(OGAN)攻击,这是一种新的攻击优化为抗训练,它引入了时空失真的输出面交换自动编码器。为了实现OGAN,我们构造了一个双层优化问题,在这里我们训练一个生成器和一个换脸模型实例。具体来说,我们将每个输入图像与目标失真配对,并将它们馈送到生成对抗图像的生成器中。当人脸交换自动编码器应用于该图像时,该图像将呈现失真。我们通过使用交替优化的迭代过程同时训练生成器和人脸交换模型来解决优化问题。接下来,我们分析了以前发表的扭曲攻击,并表明它是耐训练的,尽管它优于我们建议的OGAN。最后,我们使用流行的FaceSwap实现验证了这两种攻击,并表明它们可以在不同的目标模型和目标面部之间传输,包括对抗攻击没有训练过的面部。更广泛地说,这些结果证明了存在训练抵抗性对抗攻击,可能适用于广泛的领域。
2020-11-25 cs.CR cs.CV cs.LG
IronMask: Modular Architecture for Protecting Deep Face Template
Hanyang University(汉阳大学);Jeonbuk National University(全北国立大学);Samsung Research, Samsung Electronics(三星电子三星研究院)
卷积神经网络在人脸识别领域取得了显著的进展。随着人脸识别技术的发展,越来越多的具有鉴别力的特征被提取到人脸模板中.然而,这增加了在模板被暴露的情况下对用户隐私的威胁。在本文中,我们提出了一个模块化的架构,人脸模板保护,称为IronMask,可以结合任何人脸识别系统使用角距离度量。我们规避了二进制化的需要,这是大多数现有的人脸模板保护性能下降的主要原因,提出了一种新的实值纠错码,与实值模板兼容,因此,可以最大限度地减少性能下降。我们通过对两种面部识别,ArcFace和CosFace的广泛实验,使用CMU-Multi-PIE,FEI和Color-FERET三个数据集来评估IronMask的功效。根据我们的实验结果,当与ArcFace结合时,IronMask在0.0005%的错误接受率(FAR)下实现了99.79%的真实接受率(TAR),而与CosFace结合时,在0%的FAR下实现了95.78%的TAR,同时提供了至少115位的安全性来抵御已知的攻击。
2021-04-06 cs.CV
FaceGuard: A Self-Supervised Defense Against Adversarial Face Images
Michigan State University(密歇根州立大学)
针对对抗性人脸图像的流行防御机制往往过拟合训练集中的对抗性扰动,并且无法推广到看不见的对抗攻击。我们提出了一个新的自监督对抗防御框架,即FaceGuard,它可以自动检测,定位和净化各种各样的对抗面孔,而无需使用预先计算的对抗训练样本。在训练过程中,FaceGuard会自动合成具有挑战性和多样性的对抗攻击,使分类器能够学习将它们与真实人脸区分开来,而净化器则会尝试去除图像空间中的对抗性扰动。在LFW数据集上的实验结果表明,FaceGuard对6种不可见对抗攻击的检测准确率达到99.81%.此外,该方法可以提高人脸识别性能的ArcFace从34.27%TAR@0.1%FAR无防御下的77.46%TAR@0.1%FAR。
2021-04-05 cs.CV
Diff-ID: Identity Consistent Facial Image Generation and Morphing via Diffusion Models
University of Surrey(萨里大学);Jiangnan University(江南大学)
研究针对面部图像合成中高分辨率下身份保持难题,提出Diff-ID框架,通过自定义数据集、集成嵌入及新损失函数实现,实验表明其在身份-真实感权衡上表现出色,还展示了基于DDIM的变形管道,强调联合评估身份保持与真实感。
2026-07-29 cs.CV
Are GAN-based Morphs Threatening Face Recognition?
Idiap Research Institute(Idiap研究所);University of Lausanne(洛桑大学)
变形攻击是对生物识别系统的威胁,其中身份证件中的生物识别参考可以被改变。这种形式的攻击在依赖于身份证件的应用程序(如边境安全或访问控制)中提出了一个重要问题。人脸变形生成及其检测的研究正在迅速发展,但是很少有公开的变形攻击数据集和开源检测工具包。本文通过为四种类型的变形攻击提供两个数据集和相应的代码来弥合这一差距:两种依赖于基于OpenCV和FaceMorpher的面部标志,两种使用StyleGAN 2生成合成变形。我们还进行了广泛的实验,以评估四个国家的最先进的人脸识别系统,包括FaceNet,VGG-Face,ArcFace和ISV的脆弱性。令人惊讶的是,实验表明,虽然在视觉上更具吸引力,但基于StyleGAN 2的变形不会对人脸识别系统的状态构成重大威胁,因为这些变形被基于面部地标的简单变形所超越。
2022-05-05 cs.CV
Real-World Transferable Adversarial Attack on Face-Recognition Systems
FusionBrain Lab(融合大脑实验室);Innopolis University(因诺普里斯大学);Elea AI(Elea人工智能);AbstractDL(抽象深度学习)
本文提出 GaP 黑盒对抗补丁方法,仅利用代理模型余弦相似度和约一万次查询生成前额灰度图案,在数字与物理环境中高效攻击 ArcFace,并可迁移欺骗 FaceNet。
2025-09-27 cs.CV
FaceQAN: Face Image Quality Assessment Through Adversarial Noise Exploration
University of Ljubljana, Faculty of Electrical Engineering(卢布尔雅那大学电气工程学院);University of Ljubljana, Faculty of Computer and Information Science(卢布尔雅那大学计算机与信息科学学院)
最近国家的最先进的人脸识别(FR)的方法已经取得了令人印象深刻的性能,但无约束的人脸识别仍然是一个悬而未决的问题。人脸图像质量评估(FIQA)方法旨在估计输入样本的质量,这可以帮助提供关于识别决策的置信度的信息,并最终在具有挑战性的场景中导致改进的结果。虽然近年来在人脸图像质量评估方面取得了很大进展,但计算不同人脸图像和FR模型的可靠质量分数仍然具有挑战性。在本文中,我们提出了一种新的方法来人脸图像质量评估,称为FaceQAN,这是基于对抗性的例子,并依赖于对抗性噪声的分析,可以计算与任何FR模型学习使用某种形式的梯度下降。因此,该方法是第一个将图像质量与对抗攻击联系起来的方法。全面的(跨模型以及模型特定的)实验是用四个基准数据集进行的,即,LFW、CFP-FP、XQLFW和IJB-C四种FR型号,CosFace,ArcFace,CurricularFace和ElasticFace,并与七种最先进的FIQA方法进行比较,以展示FaceQAN的性能。实验结果表明,FaceQAN取得了有竞争力的结果,同时表现出几个理想的特性。
2022-12-05 cs.CV
Adversarial Relighting Against Face Recognition
Tianjin University(天津大学);Nanyang Technological University(南洋理工大学);Alibaba Group(阿里巴巴集团);Cleveland State University(克利夫兰州立大学)
深度人脸识别(FR)在几个具有挑战性的数据集上实现了非常高的准确性,并促进了成功的现实世界应用,甚至对通常被认为是FR系统主要威胁的光照变化表现出很高的鲁棒性。然而,在现实世界中,不同的光照条件下造成的光照变化不能完全覆盖有限的人脸数据集。本文从一个新的角度来研究雷电对FR的威胁,对抗攻击,并识别新任务,即,对抗性再照明给定一张人脸图像,对抗性重光照的目标是产生一个自然重光照的对应物,同时愚弄最先进的深度FR方法。为此,我们首先提出了基于物理模型的对抗性重光照攻击(ARA),表示为基于干扰的对抗性重光照攻击(AQ-ARA)。它在FR系统的物理照明模型和指导下生成自然对抗光,并合成对抗重光照的人脸图像。此外,我们提出了自动预测对抗性重光照攻击(AP-ARA),通过训练对抗性重光照网络(ARNet),根据不同的输入面以一步的方式自动预测对抗性光,允许效率敏感的应用程序。更重要的是,我们建议通过精确的重新照明设备将上述数字攻击转移到物理ARA(PhyARA),使估计的对抗性照明条件在现实世界中重现。我们在三种最先进的深度FR方法上验证了我们的方法,即,FaceNet,ArcFace和CosFace,两个公共数据集。广泛而富有洞察力的结果表明,我们的工作可以生成逼真的对抗性重光照人脸图像,轻松地欺骗人脸识别任务,揭示特定光线方向和强度的威胁。
2022-08-27 cs.CV
Improving the JPEG-resistance of Adversarial Attacks on Face Recognition by Interpolation Smoothing
Huazhong University of Science and Technology(华中科技大学)
针对 JPEG 压缩削弱人脸识别对抗样本的问题,提出在迭代攻击中通过缩小与恢复插值平滑扰动、抑制高频信号,从而提升对抗样本的 JPEG 抗性。
2024-02-26 cs.CV
AdvFaces: Adversarial Face Synthesis
Michigan State University(密歇根州立大学);Lenovo Inc.(联想公司)
人脸识别系统已经被证明容易受到对抗性样本的影响,这些样本是通过向探测图像添加小扰动而产生的。这种对抗性图像可能会导致最先进的人脸识别系统错误地拒绝真正的主体(混淆攻击)或错误地匹配到冒名顶替者(模仿攻击)。目前制作对抗性人脸图像的方法缺乏感知质量,并且需要花费不合理的时间来生成它们。我们提出,AdvFaces,一个自动化的对抗人脸合成方法,学习通过生成对抗网络在突出的面部区域生成最小的扰动。一旦AdvFaces经过训练,它可以自动生成无法察觉的扰动,这些扰动可以逃避最先进的面部匹配器,混淆和模仿攻击的攻击成功率分别高达97.22%和24.30%。
2019-08-14 cs.CV
Improving Visual Quality and Transferability of Adversarial Attacks on Face Recognition Simultaneously with Adversarial Restoration
School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院)
提出对抗修复(AdvRestore)方法,利用人脸修复潜扩散模型同时提升对抗人脸样本的视觉质量与可迁移性,实验验证其有效性。
2024-03-19 cs.CV
RAF: Recursive Adversarial Attacks on Face Recognition Using Extremely Limited Queries
University Of Houston(休斯顿大学)
最近几次成功的人脸识别对抗攻击表明,尽管人脸识别模型取得了显著的进步,但它们在感知和识别方面仍然远远落后于人类的智能。它揭示了深度卷积神经网络(CNN)作为对抗性示例的人脸识别模型的最先进构建模块的脆弱性,这可能会对安全系统造成某些后果。基于恶意的对抗攻击在以前被广泛研究,并被证明对人脸识别模型是成功的。然而,找到每个面的优化扰动需要向目标模型提交大量的查询。在本文中,我们提出了递归对抗攻击的人脸识别使用自动人脸扭曲,需要非常有限的查询数量来欺骗目标模型。而不是一个随机的脸扭曲过程中,扭曲功能被应用在特定的检测区域的脸,如眉毛,鼻子,嘴唇等,我们评估的鲁棒性,提出的方法在基于决策的黑盒攻击设置,攻击者无法访问的模型参数和梯度,但硬标签的预测和置信度得分提供的目标模型。
2022-07-04 cs.CV
Face Transfer with Generative Adversarial Network
Shanghai Jiao Tong University(上海交通大学)
面部转移由源演员在目标视频中动画化角色的面部表演。传统的方法通常基于人脸建模。提出了一种基于生成对抗网络的端到端人脸传输方法。具体来说,我们利用CycleGAN生成目标角色的面部图像,并具有相应的头部姿势和面部表情。为了提高生成视频的质量,我们采用了PatchGAN,并探讨了不同感受野大小对生成图像的影响。
2017-10-17 cs.CV
From Pixels to Reality: Physical-Digital Patch Attacks on Real-World Camera
AI Center, Lomonosov MSU(莫斯科国立大学人工智能中心);IAI MSU(莫斯科国立大学人工智能研究所)
本文提出DiPA攻击,通过手机屏幕显示对抗补丁实现对普及式相机认证系统的攻击,提升补丁在黑盒环境下的转移能力,并展示实时躲避攻击效果。
2026-03-30 cs.CV
Face De-occlusion using 3D Morphable Model and Generative Adversarial Network
Inha University(仁荷大学)
近几十年来,三维形变模型(3DMM)被广泛应用于基于图像的真实感三维人脸重建。然而,人脸图像往往会受到眼镜、口罩、手等非人脸物体的严重遮挡。这样的物体阻碍了地标和阴影信息的正确捕获。因此,重建的3D人脸模型是很难重用。本文提出了一种基于三维数字万用表和生成对抗网络的去遮挡人脸图像恢复新方法。我们利用3DMM之前提出的对抗性网络,并结合全局和局部对抗性卷积神经网络来学习人脸去遮挡模型。3DMM不仅作为几何先验,而且还提出了用于局部重构的人脸区域。实验结果证实了该算法在去除各种头部姿态和光照条件下具有挑战性的遮挡类型时的有效性和鲁棒性。此外,所提出的方法重建正确的三维人脸模型与去遮挡的纹理。
2019-09-06 cs.CV
Generate Identity-Preserving Faces by Generative Adversarial Networks
Tsinghua University(清华大学)
生成身份保持人脸的目的是在给定目标人脸图像的情况下生成保持同一身份的各种人脸图像。虽然近年来已经开发了相当多的生成模型,但同时获得高质量的面部图像并保持身份仍然具有挑战性。在这里,我们提出了一个引人注目的方法,使用生成对抗网络(GAN)。具体来说,我们利用训练好的GAN生成器来生成可信的人脸,并利用FaceNet作为身份相似性检验器来确保身份。实验结果表明,我们的方法是合格的,以生成高质量的可信和身份保持的人脸。此外,我们的方法提供了一个通用的框架,可以实现以各种方式结合不同的人脸生成器和身份相似性识别。
2017-06-25 cs.CV
Hiding Faces in Plain Sight: Disrupting AI Face Synthesis with Adversarial Perturbations
University at Albany, State University of New York(纽约州立大学奥尔巴尼分校);Tencent AI Lab(腾讯人工智能实验室)
近年来,利用人工智能技术合成逼真的人脸得到了快速发展。这种假面孔可以被武器化,造成负面的个人和社会影响。在这项工作中,我们开发了一些技术,通过破坏潜在的训练数据来保护个人不成为最近人工智能合成假视频的受害者。这是通过用专门设计的不可感知的对抗性扰动破坏基于深度神经网络(DNN)的人脸检测方法来实现的,以降低检测到的人脸的质量。我们描述了白盒,灰盒和黑盒设置下的攻击方案,每个都减少了基于DNN的人脸检测器的信息。我们以经验证明了我们的方法在破坏几个数据集上最先进的基于DNN的人脸检测器方面的有效性。
2019-06-21 cs.CV
Adversarial Training for Face Recognition Systems using Contrastive Adversarial Learning and Triplet Loss Fine-tuning
UCF(中佛罗里达大学)
虽然在提高面部识别系统的对抗鲁棒性方面已经做了很多工作,但令人惊讶的是,其中很小一部分集中在自我监督方法上。在这项工作中,我们提出了一种将对抗性预训练与三重损失对抗性微调相结合的方法。我们将我们的方法与预先训练的ResNet50模型进行了比较,该模型构成了FaceNet的主干,并在我们的CelebA数据集上进行了微调。通过比较没有对抗训练的对抗鲁棒性,与三重损失对抗训练,以及我们的对比预训练与三重损失对抗微调相结合,我们发现我们的方法在微调过程中需要更少的时期,取得了相当的结果。这看起来很有希望,增加微调的训练时间应该会产生更好的结果。除此之外,还进行了一个改进的半监督实验,该实验证明了通过引入少量标签来改进对比对抗训练。
2021-10-09 cs.CV
Vulnerability Analysis of Face Morphing Attacks from Landmarks and Generative Adversarial Networks
Idiap Research Institute(Idiap研究所)
变形攻击是对生物识别系统的威胁,其中身份证件中的生物识别参考可以被改变。这种形式的攻击在依赖于身份证件的应用程序(如边境安全或访问控制)中提出了一个重要问题。人脸变形攻击检测的研究正在迅速发展,但很少有几种形式的攻击数据集是公开的。本文通过提供一个新的数据集来弥合这一差距,该数据集具有四种不同类型的变形攻击,基于OpenCV,FaceMorpher,WebMorph和生成对抗网络(StyleGAN),由三个公共人脸数据集的原始人脸图像生成。我们还进行了广泛的实验,以评估最先进的人脸识别系统的脆弱性,特别是FaceNet,VGG-Face和ArcFace。实验表明,VGG-Face虽然与FaceNet相比是不太准确的人脸识别系统,但也不容易受到变形攻击。此外,我们观察到,使用StyleGAN生成的幼稚变形不会构成重大威胁。
2020-12-09 cs.CV cs.LG
High-Quality Face Image SR Using Conditional Generative Adversarial Networks
Beihang University(北京航空航天大学);National Chung Hsing University(中兴大学)
提出了一种基于边界平衡生成对抗网络的人脸条件生成对抗网络(Face Conditional Generative Adversarial Network,FCGAN)的单人脸图像超分辨率方法。该方法不需要任何人脸先验信息,可以从低分辨率的人脸图像生成高分辨率的人脸图像。与现有的研究相比,我们的训练和测试阶段都是端到端的管道,几乎没有预处理/后处理。为了提高收敛速度和加强特征传播,在生成和鉴别网络中进一步采用跳层连接。大量的实验表明,我们的模型与最先进的模型相比,具有竞争力的性能。
2017-07-04 cs.CV
Controllable Evaluation and Generation of Physical Adversarial Patch on Face Recognition
RealAI(瑞莱智慧);Tsinghua University(清华大学)
最近的研究揭示了人脸识别模型对物理对抗补丁的脆弱性,这引发了对部署的人脸识别系统的安全担忧。然而,在复杂的物理条件下,大多数攻击算法的可重复性仍然是一个挑战,这导致现有的攻击方法缺乏系统的评估。因此,必须制定一个框架,可以全面评估在物理世界中的人脸识别的脆弱性。为此,我们建议通过3D人脸建模来模拟物理世界中人脸的复杂变换,3D人脸建模可以作为物理人脸的数字对应物。通用框架允许我们控制不同的面部变化和身体条件,以全面地进行可再现的评估。在此基础上,我们进一步提出了一种考虑三维人脸变换和真实物理变化的Face3DAdv方法。大量的实验验证了Face3DAdv可以显着提高模拟和物理环境中各种物理可实现的对抗补丁的有效性,对抗各种白盒和黑盒人脸识别模型。
2022-03-10 cs.CV
Using LIP to Gloss Over Faces in Single-Stage Face Detection Networks
The University of Queensland(昆士兰大学)
这项工作表明,欺骗/攻击最近基于单级网络的最先进的人脸检测器是可能的。在部署利用人脸检测器的智能监控系统时,成功攻击人脸检测器可能是一个严重的恶意软件漏洞。我们表明,现有的对抗扰动方法是不能有效地执行这样的攻击,特别是当有多个面孔的输入图像。这是因为专门为一个面部生成的对抗性扰动可能会破坏另一个面部的对抗性扰动。在本文中,我们称之为实例扰动干扰(IPI)问题。通过研究深层神经网络感受野和对抗性扰动之间的关系来解决这个IPI问题。因此,我们提出了局部实例扰动(LIP),它使用对抗扰动约束到目标的有效感受场(ERF)来执行攻击。实验结果表明,LIP方法大大优于现有的对抗扰动生成方法-通常是2到10倍。
2018-07-05 cs.CV
Adversarial Occlusion-aware Face Detection
National Laboratory of Pattern Recognition, CASIA(中国科学院自动化研究所模式识别国家重点实验室);Center for Research on Intelligent Perception and Computing, CASIA(中国科学院自动化研究所智能感知与计算研究中心);University of Chinese Academy of Sciences(中国科学院大学)
遮挡人脸检测是一个具有挑战性的检测任务,由于各种现实世界中的遮挡引起的外观变化大。本文介绍了一种对抗性遮挡感知人脸检测器(AOFD),通过同时检测遮挡人脸和分割遮挡区域。具体来说,我们采用对抗性训练策略来生成面部检测器难以识别的类似遮挡的面部特征。在检测被遮挡人脸的同时预测遮挡掩模,将被遮挡区域作为辅助而不是障碍。此外,来自分割分支的监督信号将间接影响特征,从而帮助检测严重遮挡的面部。因此,AOFD能够以非常高的置信度找到具有很少暴露的面部特征点的面部,并且即使对于掩蔽的面部也保持高的检测精度。大量的实验表明,AOFD不仅显着优于国家的最先进的方法上的MAFA遮挡人脸检测数据集,但也达到了竞争力的检测精度的基准数据集上的一般人脸检测,如FDDB。
2018-09-29 cs.CV
Adversarial Discriminative Heterogeneous Face Recognition
National Laboratory of Pattern Recognition, CASIA(模式识别国家重点实验室,中国科学院自动化研究所);Center for Research on Intelligent Perception and Computing, CASIA(智能感知与计算研究中心,中国科学院自动化研究所);Center for Excellence in Brain Science and Intelligence Technology, CAS(脑科学与智能技术卓越创新中心,中国科学院);University of Chinese Academy of Sciences(中国科学院大学)
在异构人脸识别(HFR)中,不同人脸模态的感知模式之间的差距仍然是一个具有挑战性的问题。本文提出了一个对抗性的区别性特征学习框架,通过在原始像素空间和紧凑特征空间上的对抗性学习来缩小感知差距。该框架将跨光谱人脸幻觉和判别特征学习集成到端到端对抗网络中。在像素空间中,我们利用生成对抗网络来执行跨光谱人脸超分辨率。引入了一种精细的双路径模型来缓解图像配对不足的问题,该模型兼顾了全局结构和局部纹理。在特征空间中,分别采用对抗损失和高阶方差差异损失来度量两个异质分布之间的全局差异和局部差异。这两个损失增强了域不变特征学习和模态独立噪声去除。在三个NIR-VIS数据库上的实验结果表明,该方法在不需要复杂网络或大规模训练数据集的情况下,性能优于现有的HFR方法。
2017-09-12 cs.CV
Similarity-based Gray-box Adversarial Attack Against Deep Face Recognition
School of Information Technology, Monash University Malaysia(蒙纳士大学马来西亚校区信息技术学院);Data61, CSIRO(澳大利亚联邦科学与工业研究组织 Data61);Faculty of Computer Science and Technology, Wenzhou University(温州大学计算机科学与技术学院);Monash Suzhou Research Institute(蒙纳士苏州研究院);Department of Data Science and AI, Monash University(蒙纳士大学数据科学与人工智能系);The University of Sassari(萨萨里大学)
大多数对抗攻击技术在揭示系统的全部知识(\emph{white-box})时对深度人脸识别表现良好。然而,这样的技术在灰箱设置中不成功,其中面部模板对攻击者是未知的。在这项工作中,我们提出了一个基于相似性的灰盒对抗攻击(SGADV)技术与新开发的目标函数。SGADV利用相异性分数来产生优化的对抗性示例,即,基于相似性的对抗攻击。该技术适用于针对认证系统的白盒和灰盒攻击,这些认证系统使用相异性分数来确定真实用户或冒名顶替者。为了验证SGADV的有效性,我们在白盒和灰盒设置中对LFW,CelebA和CelebA-HQ的人脸数据集进行了广泛的实验,以对抗FaceNet和InsightFace的深度人脸识别模型。实验结果表明,该方法在灰盒环境下的性能明显优于现有的对抗攻击技术。因此,我们总结说,基于相似性的方法来开发对抗性的例子可以令人满意地满足灰盒攻击的情况下,取消身份验证。
2022-01-12 cs.CV
Matching Thermal to Visible Face Images Using a Semantic-Guided Generative Adversarial Network
Michigan State University(密歇根州立大学)
设计能够将在热光谱中获得的人脸图像与在可见光谱中获得的人脸图像相匹配的人脸识别系统是一个具有挑战性的问题。在这项工作中,我们提出了使用语义引导的生成对抗网络(SG-GAN)自动合成可见的人脸图像从他们的热对应。具体而言,由人脸解析网络提取的语义标签用于计算语义损失函数以在训练期间正则化对抗网络。这些语义线索表示与每个像素相关联的高级面部组件信息。此外,利用身份提取网络来生成多尺度特征以计算身份损失函数。为了实现照片级真实感的结果,在网络训练期间引入感知损失函数,以确保合成的可见人脸在感知上与目标可见人脸图像相似。我们广泛地评估了各个损失函数的好处,并将它们有效地结合起来,学习从热到可见人脸图像的映射。在两个多光谱人脸数据集上的实验表明,该方法在人脸合成和跨光谱人脸匹配方面都取得了良好的效果。
2019-03-03 cs.CV
Label Denoising Adversarial Network (LDAN) for Inverse Lighting of Face Images
University of Maryland(马里兰大学)
人脸图像的光照估计是一个重要的研究课题,在图像编辑、图像分解、图像伪造检测等领域有着广泛的应用。我们建议训练深度卷积神经网络(CNN)来从单个人脸图像回归照明参数。缺乏大量的地面实况照明标签的人脸图像在野外,我们使用现有的方法来估计照明参数,这被视为地面实况与未知的噪声。为了减轻这种噪声的影响,我们利用生成对抗网络(GAN)的思想,提出了一种标签去噪对抗网络(LDAN),利用具有准确地面真实的合成数据来帮助训练深度CNN,用于真实人脸图像的光照回归。实验表明,我们的网络优于现有的方法,在类似的光照条件下,产生一致的光照参数的不同的脸。此外,我们的方法在执行时间上比先前基于优化的照明估计方法快100,000倍。
2017-09-06 cs.CV
Towards Transferable Adversarial Attack against Deep Face Recognition
Beijing University of Posts and Telecommunications(北京邮电大学)
由于深度学习方法的发展,人脸识别在最近五年取得了巨大的成功。然而,已经发现深度卷积神经网络(DCNN)容易受到对抗性示例的影响。特别是,可转移对抗性示例的存在可能严重阻碍DCNN的鲁棒性,因为这种类型的攻击可以以完全黑盒的方式应用,而无需对目标系统进行查询。在这项工作中,我们首先研究了可转移的对抗攻击在人脸识别中的特点,通过显示的优势,特征级的方法比标签级的方法。然后,为了进一步提高特征级对抗示例的可移植性,我们提出了DFANet,这是一种用于卷积层的基于丢弃的方法,它可以增加代理模型的多样性并获得类似集合的效果。在各种训练数据库、损失函数和网络结构的最新人脸模型上进行的大量实验表明,该方法可以显着增强现有攻击方法的可移植性。最后,通过将DFANet应用于LFW数据库,我们生成了一组新的对抗性人脸对,可以成功攻击四个商业API,而无需任何查询。这个TALFW数据库可用于促进深度人脸识别的鲁棒性和防御的研究。
2020-11-23 cs.CV
Face Completion with Semantic Knowledge and Collaborative Adversarial Learning
University of Rochester(罗切斯特大学);Siemens Healthineers(西门子医疗);Tencent X-Lab(腾讯X实验室);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
与传统的背景修复方法不同,传统的背景修复方法从与背景相似的图像块中推断出缺失区域,人脸修复需要关于目标对象的语义知识以获得逼真的输出。当前图像修补方法利用生成对抗网络(GANs)来实现这种语义理解。然而,在对抗学习中,语义知识是隐式学习的,因此并不总是保证良好的语义理解。在这项工作中,我们提出了一个合作的对抗性学习方法,面对完成明确诱导的培训过程。我们的方法是制定下一个新的生成框架称为协作GAN(collaGAN),它允许更好的语义理解的目标对象,通过协作学习的多个任务,包括面部完成,地标检测,和语义分割。与collaGAN一起,我们还引入了一个修复集中方案,使得模型更强调修复而不是自动编码。大量的实验表明,所提出的设计确实是有效的,合作对抗学习提供了更好的面部特征表示。与其他生成式图像修补模型和单任务学习方法相比,我们的解决方案在所有任务上都具有优异的性能。
2022-03-23 cs.CV
RSTAM: An Effective Black-Box Impersonation Attack on Face Recognition using a Mobile and Compact Printer
Nanjing University(南京大学)
得益于深度神经网络的发展,人脸识别近年来取得了长足的进步,但最近发现,深度神经网络容易受到对抗性样本的影响。这意味着基于深度神经网络的人脸识别模型或系统也容易受到对抗性样本的影响。然而,现有的攻击人脸识别模型或系统的方法可以有效地完成白盒攻击,而不是黑盒模仿攻击,物理攻击,或方便的攻击,特别是对商业人脸识别系统。在本文中,我们提出了一种新的方法来攻击人脸识别模型或系统,称为RSTAM,它可以使用移动和紧凑的打印机打印的对抗性面具进行有效的黑盒模仿攻击。首先,RSTAM通过我们提出的随机相似性转换策略增强了对抗面具的可转移性。此外,我们提出了一种随机元优化策略,用于集成多个预训练的人脸模型,以生成更通用的对抗面具。最后,我们在CelebA-HQ,LFW,Makeup Transfer(MT)和CASIA-FaceV 5数据集上进行了实验。攻击的性能也在最先进的商业人脸识别系统上进行了评估:Face++,百度,阿里云,腾讯和微软。大量的实验表明,RSTAM可以有效地执行黑盒模仿攻击的人脸识别模型或系统。
2022-06-25 cs.CV
FD-GAN: Face-demorphing generative adversarial network for restoring accomplice's facial image
Hunan University(湖南大学);Changsha University of Science and Technology(长沙理工大学)
人脸变形攻击是对现有人脸识别系统的严重威胁。虽然已经提出了一些人脸变形检测方法,但人脸变形共犯的人脸恢复仍然是一个具有挑战性的问题。本文提出了一种基于人脸去变形的生成对抗网络(FD-GAN)来恢复共犯的人脸图像。该算法利用对称的双网络结构和两级恢复损失来分离变形共犯的身份特征。通过利用从人脸识别系统捕获的面部图像(包含罪犯的身份)和存储在电子护照系统中的变形图像(包含罪犯和共犯的身份),FD-GAN可以有效地恢复共犯的面部图像。实验结果和分析证明了该方案的有效性。该算法在真实身份验证场景中具有很好的应用前景。
2019-03-22 cs.CV
Two-Face: Adversarial Audit of Commercial Face Recognition Systems
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
自动人脸检测等计算机视觉应用可用于各种目的,从解锁智能设备到跟踪潜在的感兴趣人员进行监视。对这些申请的审计表明,它们往往对少数群体有偏见,导致不公平和令人担忧的社会和政治结果。尽管随着时间的推移进行了多项研究,但这些偏见并没有完全减轻,事实上在某些任务中,如年龄预测,这些偏见有所增加。虽然这些系统是在基准数据集上进行审计的,但有必要评估它们对对抗性输入的鲁棒性。在这项工作中,我们对多个系统和数据集进行了广泛的对抗性审计,提出了一些令人担忧的观察结果-自上次审计以来,CELEBSET数据集上的某些任务的准确性有所下降。虽然对于多个数据集,对来自少数群体的个人的准确性仍然存在偏见,但更令人担忧的观察是,这些偏见往往会随着对少数群体的敌对输入而变得过于明显。最后,我们根据这些意见讨论了更广泛的社会影响,并就如何集体处理这一问题提出了一些建议。
2021-11-17 cs.CV
SiGAN: Siamese Generative Adversarial Network for Identity-Preserving Face Hallucination
National Pingtung University of Science and Technology(国立屏东科技大学);National Tsing Hua University(国立清华大学);National Institute of Informatics(国立信息学研究所)
尽管生成对抗网络(GANs)可以从低分辨率(LR)人脸中产生逼真的高分辨率(HR)人脸,但它们不能保证保留幻觉HR人脸的身份,使HR人脸难以识别。为了解决这个问题,我们提出了一个暹罗GAN(SiGAN)重建HR面临的视觉上类似于他们相应的身份。在Siamese网络之上,所提出的SiGAN由两个相同的发电机和一个发电机组成。我们将重建误差和身份标签信息的损失函数的SiGAN在成对的方式。通过迭代优化SiGAN生成元对和子空间的损失函数,不仅实现了真实感人脸重建,而且保证了重建信息对身份识别有用。实验结果表明,SiGAN在客观人脸验证性能方面明显优于现有的人脸幻觉GANs,同时实现了照片级真实感重建。此外,对于未包括在训练中的未知身份的输入LR面部,SiGAN仍然可以做得很好。
2018-07-22 cs.CV
Rethinking the Threat and Accessibility of Adversarial Attacks against Face Recognition Systems
National University of Singapore(新加坡国立大学);Ping An Technology(平安科技);CSIRO’s Data61(联邦科学与工业研究组织Data61);Swinburne University of Technology(斯威本科技大学)
该研究从行业视角重新评估人脸识别对抗攻击威胁,提出易实施的物理攻击AdvColor,实验显示其高攻击成功率,调研发现可感知易实现攻击对商用系统威胁更大。
2024-07-11 cs.CV
Improving the Transferability of Adversarial Attacks on Face Recognition with Beneficial Perturbation Feature Augmentation
针对人脸识别模型易受对抗样本攻击的问题,提出基于难模型概念的BPFA攻击方法,通过特征图有益扰动降低对抗样本过拟合,显著提升攻击可迁移性。
2023-07-19 cs.CV
Attacks on State-of-the-Art Face Recognition using Attentional Adversarial Attack Generative Network
Beijing University of Posts and Telecommunications(北京邮电大学)
随着人脸识别技术的广泛应用,其易受攻击的弱点也逐渐暴露出来。因此,研究人脸识别网络如何受到攻击是非常重要的。在本文中,我们专注于一种新的方法来做对人脸识别网络的攻击,误导网络识别某人作为目标的人不误分类不显眼。同时,为了这个目的,我们引入了一个特定的注意力对抗攻击生成网络来生成虚假的人脸图像。为了捕捉目标人物的语义信息,本文增加了条件变分自编码器和注意力模块来学习人脸之间的实例级对应关系。与传统的两人GAN不同,本文引入人脸识别网络作为第三方参与生成器和攻击者之间的竞争,使得攻击者能够更好地模仿目标人物。生成的人脸很难引起旁观者的注意,可以逃避识别的国家的最先进的网络和他们中的大多数被识别为目标人物。
2018-11-30 cs.CV
Adversarial Attacks on Both Face Recognition and Face Anti-spoofing Models
School of Computer Science and Technology, Huazhong University of Science and Technology(华中科技大学计算机科学与技术学院);College of Computer Science and Technology, Jilin University(吉林大学计算机科学与技术学院);Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education, JLU(教育部符号计算与知识工程重点实验室);Department of Computer Science and Software Engineering, The University of Western Australia(西澳大学计算机科学与软件工程系)
针对现有对抗攻击在集成人脸反欺骗模型的完整人脸识别系统中实用性不足的问题,提出无参考多级对齐黑盒攻击方法,通过三个核心组件同时攻击两类模型,性能优于现有最先进方法。
2025-05-17 cs.CV
Semi-supervised Adversarial Learning to Generate Photorealistic Face Images of New Identities from 3D Morphable Model
Imperial College London(帝国理工学院);University of Surrey(萨里大学)
我们提出了一个新的端到端的半监督对抗框架,以生成具有广泛的表情,姿势和照明条件下的3D变形模型的新身份的逼真的人脸图像。以前的对抗性风格转移方法要么用大量的配对数据来监督他们的网络,要么以无监督的方式使用具有高度欠约束的双向生成框架的非配对数据。我们引入成对对抗监督来约束双向领域自适应,通过少量成对的真实和合成图像进行训练,以及大量的未配对数据。大量的定性和定量实验进行验证我们的想法。生成的新身份的人脸图像包含姿态,光照和表情的多样性和定性的结果表明,他们是高度约束的合成输入图像,同时增加了照片真实感和保留身份信息。我们结合所提出的方法产生的人脸图像与真实的数据集训练人脸识别算法。我们在两个具有挑战性的数据集上评估了该模型:LFW和IJB-A。我们观察到,从我们的框架中生成的图像始终优于使用Oxford VGG Face数据集训练的深度人脸识别网络的性能,并实现了与最先进技术相当的结果。
2018-04-10 cs.CV
Investigating Adversarial Robustness against Preprocessing used in Blackbox Face Recognition
本文研究黑盒人脸识别中预处理对对抗攻击迁移的影响,发现人脸检测可显著降低攻击成功率,并提出输入变换的预处理不变方法,将攻击可迁移性最高提升27%。
2025-10-20 cs.CV