CosFace: Large Margin Cosine Loss for Deep Face Recognition
Tencent AI Lab（腾讯人工智能实验室）
由于深度卷积神经网络（CNN）的进步，人脸识别取得了非凡的进展。人脸识别的核心任务包括人脸验证和身份识别，其中人脸特征鉴别是人脸识别的核心任务。然而，深度CNN的传统softmax损失通常缺乏区分能力。为了解决这个问题，最近已经提出了几种损失函数，例如中心损失、大裕度softmax损失和角度softmax损失。所有这些改进的损失都有一个相同的想法：最大化类间方差和最小化类内方差。在本文中，我们提出了一种新的损失函数，即大裕度余弦损失（LMCL），从不同的角度来实现这一想法。更具体地说，我们通过$L_2$对特征和权重向量进行归一化以去除径向变化，将softmax损失重新表示为余弦损失，在此基础上引入余弦裕度项以进一步最大化角空间中的决策裕度。结果，最小类内方差和最大类间方差是凭借归一化和余弦判决裕度最大化。我们将使用LMCL训练的模型称为CosFace。在最流行的公共领域人脸识别数据集上进行了广泛的实验评估，如MegaFace Challenge，Youtube Faces（YTF）和Labeled Face in the Wild（LFW）。我们在这些基准上实现了最先进的性能，这证实了我们所提出的方法的有效性。
2018-04-03 cs.CV
Mis-classified Vector Guided Softmax Loss for Face Recognition
JD AI Research（京东人工智能研究院）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
由于深度卷积神经网络（CNN）的发展，人脸识别取得了重大进展，其中心任务是如何提高特征区分度。为此，已经提出了几种基于边缘（\textit{e.g.}、角度边缘、加性边缘和加性角度边缘）的softmax损失函数来增加不同类别之间的特征边缘。然而，这些方法虽然取得了很大的成就，但主要存在三个问题：1）显然，它们忽视了信息特征挖掘对判别学习的重要性; 2）它们只鼓励从地面真值类中提取特征间隔，而没有意识到对其他非地面真值类的判别能力; 3）将不同类别之间的特征间隔设置为相同且固定的，这可能不能很好地适应情况。为了解决这些问题，本文提出了一种新的损失函数，它自适应地强调了错误分类的特征向量，以指导鉴别特征学习。因此，我们可以解决所有上述问题，并实现更具区分力的人脸特征。据我们所知，这是第一次尝试继承的优势，特征余量和特征挖掘到一个统一的损失函数。几个基准的实验结果已经证明了我们的方法的有效性超过国家的最先进的替代品。
2019-11-26 cs.CV
Loss Function Search for Face Recognition
JD AI Research（京东人工智能研究院）；Institute of Automation, Chinese Academy of Science（中国科学院自动化研究所）
在人脸识别中，设计基于边缘的（例如，角、加性、加性角裕度）softmax损失函数在学习鉴别特征中起重要作用。然而，这些手工制作的探试法是次优的，因为它们需要花费很多精力来探索大的设计空间。最近，已经推导出用于损失函数搜索方法AM-LFS的AutoML，其利用强化学习在训练过程中搜索损失函数。但它的搜索空间复杂且不稳定，影响了它的优越性。本文首先分析了增强特征区分度的关键实际上是\textbf{how to reduce the softmax probability}。然后，我们设计了一个统一的公式，用于当前基于边际的softmax损失。因此，我们定义了一个新的搜索空间，并开发了一个奖励引导的搜索方法，自动获得最佳的候选人。各种人脸识别基准的实验结果表明，我们的方法的有效性超过国家的最先进的替代品。
2020-07-10 cs.CV
A Performance Comparison of Loss Functions for Deep Face Recognition
Indian Institute of Information Technology, Sri City（斯里城印度信息技术学院）
人脸识别是当今设备中最广泛宣传的功能之一，因此代表了应该优先研究的重要问题。根据最近的趋势，基于卷积神经网络（CNN）的方法在包括人脸识别在内的许多计算机视觉任务中非常成功。在CNN的顶部使用损失函数来判断任何网络的优劣。在本文中，我们提出了一个不同的损失函数，如交叉熵，角Softmax，加法边际Softmax，弧面和边缘损失的人脸识别性能比较。实验使用两种CNN架构进行，即ResNet和MobileNet。两个广泛使用的人脸数据集，即CASIA-Webface和MS-Celeb-1 M用于训练和基准标签人脸在野生（LFW）人脸数据集用于测试。
2019-11-06 cs.CV
Federated Learning for Face Recognition with Gradient Correction
Beijing University of Posts and Telecommunications（北京邮电大学）
随着人们对人脸识别中隐私问题的日益关注，联邦学习已成为研究具有私有分散数据的无约束人脸识别问题的最流行方法之一。然而，传统的分布式联邦算法在人脸识别场景中共享整个网络的参数，存在隐私泄露的问题。在这项工作中，我们引入了一个框架，FedGC，以解决人脸识别的联邦学习，并保证更高的隐私。我们从反向传播的角度探索了一种校正梯度的新思想，并提出了一种基于softmax的正则化器，通过精确注入跨客户端梯度项来校正类嵌入的梯度。从理论上讲，我们表明，FedGC构成了一个有效的损失函数类似于标准的softmax。已经进行了大量的实验来验证FedGC的优越性，它可以匹配传统的集中式方法的性能，利用完整的训练数据集在几个流行的基准数据集。
2021-12-14 cs.CV
Softmax Dissection: Towards Understanding Intra- and Inter-class Objective for Embedding Learning
Tsinghua University（清华大学）
softmax损失及其变体被广泛用作嵌入学习的目标，特别是在人脸识别等应用中。然而，softmax损失中的类内和类间目标是纠缠在一起的，因此一个优化良好的类间目标会导致类内目标的放松，反之亦然。在本文中，我们建议将softmax损失分解为独立的类内和类间目标（D-Softmax）。使用D-Softmax作为目标，我们可以清楚地了解类内和类间目标，因此可以直接将每个部分调整到最佳状态。此外，我们发现类间目标的计算是冗余的，并提出了两个基于采样的变体D-Softmax，以减少计算成本。使用规则尺度数据进行训练，人脸验证实验表明，D-Softmax与现有的损失（如SphereFace和ArcFace）相当。通过使用大规模数据进行训练，实验表明，D-Softmax的快速变体显著加速了训练过程（例如64倍），而性能只有很小的牺牲，在性能和效率方面都优于现有的Softmax加速方法。
2020-02-12 cs.CV cs.LG
Minimum Margin Loss for Deep Face Recognition
Ulster University（阿尔斯特大学）
近几年来，由于深度神经网络的快速发展，人脸识别技术取得了很大的进展。作为深度神经网络的重要组成部分，人们提出了一系列的损失函数，这些损失函数极大地改进了现有方法。本文提出了一种新的损失函数--最小边缘损失（MML），旨在扩大过近类中心对的边缘，以增强深层特征的区分能力。MML与Softmax Loss和Centre Loss一起监督训练过程，弥补了Softmax + Centre Loss的不足。在MegaFace、LFW和YTF数据集上的实验结果表明，所提方法具有较好的识别性能，验证了所提方法的有效性。
2018-08-20 cs.CV
Git Loss for Deep Face Recognition
University of Insubria（因苏布里亚大学）
卷积神经网络（CNN）已被广泛应用于计算机视觉任务中，例如人脸识别和验证，并且由于其捕获有区别的深度特征的能力而获得了最先进的结果。传统上，CNN已经用softmax作为监督信号进行训练，以惩罚分类损失。为了进一步增强深度特征的区分能力，我们引入了一个联合监督信号Git loss，它利用了softmax和中心损失函数。我们的损失函数的目的是最小化类内变化以及最大化类间距离。这种深度特征的最小化和最大化被认为是人脸识别任务的理想选择。我们在两个流行的人脸识别基准数据集上进行了实验，结果表明，我们提出的损失函数在不同身份的深层人脸特征之间实现了最大的可分性，并在两个主要的人脸识别基准数据集上实现了最先进的准确性：野生标签人脸（LFW）和YouTube人脸（YTF）。然而，应该注意的是，Git丢失的主要目标是实现不同身份的深层特征之间的最大可分性。
2018-07-28 cs.CV
Face Recognition Using $Sf_{3}CNN$ With Higher Feature Discrimination
Indian Institute of Information Technology, Allahabad（印度阿拉哈巴德信息技术学院）
随着二维卷积神经网络（2D CNN）的出现，人脸识别的准确率已经达到99%以上。然而，人脸识别在现实世界中仍然是一个挑战。视频而不是图像作为输入，对于解决现实世界条件下的人脸识别挑战更有用。这是因为视频提供比图像更多的特征。然而，2D CNN无法利用视频中存在的时间特征。因此，我们提出了一个框架称为$Sf_{3}CNN$的人脸识别视频。$Sf_{3}CNN$框架使用三维残差网络（3D Resnet）和A-Softmax损失进行视频中的人脸识别。3D ResNet的使用有助于将空间和时间特征捕获到一个紧凑的特征图中。然而，3D CNN特征必须具有高度区分性以用于有效的人脸识别。使用A-Softmax损失有助于从视频中提取高度区分的特征用于人脸识别。$Sf_{3}CNN$框架在CVBL视频数据库上的准确率提高了99.10%，而在使用3D ResNets的相同数据库上的准确率为97%。
2021-02-02 cs.CV
Imbalance Robust Softmax for Deep Embeeding Learning
Australian National University（澳大利亚国立大学）；Anyvision；Reconova；Queens University of Belfast（贝尔法斯特女王大学）
深度嵌入学习预计将学习一个度量空间，其中特征的最大类内距离小于最小类间距离。近年来，在人脸识别（FR）和人物再识别（re-ID）领域，一个研究热点是通过区分性深度嵌入学习来解决开集问题。除开集问题外，训练数据的不平衡也是导致FR和re-ID性能下降的另一个主要因素，而且数据不平衡在实际应用中广泛存在。然而，很少有研究探讨数据不平衡为什么以及如何影响FR和re-ID的性能。在这项工作中，我们深入研究的神经网络优化和softmax的特征分布的角度来看，数据不平衡。我们发现数据不平衡导致性能下降的一个主要原因是权重（从倒数第二个全连接层）远离其在特征空间中的类中心。在此基础上，我们提出了一个统一的框架，不平衡鲁棒Softmax（IR-Softmax），它可以同时解决开集问题，并减少数据不平衡的影响。IR-Softmax可以通过直接将权重设置为类中心来推广到任何softmax及其变体（对于开集问题是有区别的），自然解决了数据不平衡问题。在这项工作中，我们显式地重新制定两个判别softmax（A-Softmax和AM-Softmax）的框架下，IR-Softmax。我们在FR数据库（LFW，MegaFace）和re-ID数据库（Market-1501，Duke）上进行了广泛的实验，IR-Softmax优于许多最先进的方法。
2020-11-23 cs.CV
P2SGrad: Refined Gradients for Optimizing Deep Face Models
The Chinese University of Hong Kong（香港中文大学）；SenseTime Research（商汤科技研究院）；Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）
基于余弦的softmax损失显著提高了深度人脸识别网络的性能。然而，这些损失总是包括敏感的超参数，这可能会使训练过程不稳定，并且为特定数据集设置合适的超参数非常棘手。本文通过直接设计用于自适应训练深度神经网络的梯度来解决这一挑战。我们首先通过分析它们的梯度来调查和统一以前的余弦softmax损失。这种统一的观点启发我们提出了一种新的梯度称为P2 SGrad（概率相似性梯度），它利用余弦相似性而不是分类概率来直接更新测试指标，以更新神经网络参数。P2 SGrad具有自适应性和超参数自由性，这使得训练过程更加高效和快速。我们在三个人脸识别基准上评估了我们的P2 SGrad，LFW，MegaFace和IJB-C。结果表明，P2 SGrad在训练中是稳定的，对噪声具有鲁棒性，并且在所有三个基准测试中都达到了最先进的性能。
2019-05-07 cs.CV
A Quality Aware Sample-to-Sample Comparison for Face Recognition
针对人脸识别中低质量样本代表性不足及训练测试指标不一致的问题，本文提出QAFace，通过质量感知函数自适应引导Softmax中心关注可识别低质量样本并忽略不可识别样本，在多个基准上优于现有方法。
2023-06-06 cs.CV
Attribute Adaptive Margin Softmax Loss using Privileged Information
West Virginia University（西弗吉尼亚大学）
我们提出了一个新的框架，利用特权信息识别，这是只在训练阶段提供。在这里，我们专注于识别任务，其中图像作为主视图提供，软生物特征（属性）作为特权数据（仅在训练阶段可用）提供。我们证明，通过实施深度网络来调整利用属性的类之间的自适应边缘，可以学习更具区分力的特征空间。这种严格的约束也有效地减少了本地数据邻域中固有的类不平衡，从而在本地雕刻出更平衡的类边界，并更有效地使用特征空间。在五个不同的数据集上进行了大量的实验，结果表明，我们的方法相比，在人脸识别和人的重新识别任务的最先进的模型的优越性。
2020-09-04 cs.CV
ElasticFace: Elastic Margin Loss for Deep Face Recognition
Fraunhofer Institute for Computer Graphics Research IGD（弗劳恩霍夫计算机图形学研究所IGD）；TU Darmstadt（达姆施塔特工业大学）
学习判别性人脸特征在构建高性能人脸识别模型中起着重要作用。最近的国家的最先进的人脸识别的解决方案提出了将一个固定的惩罚边际上常用的分类损失函数，softmax损失，在规范化的超球体，以增加人脸识别模型的区分能力，通过最小化类内的变化和最大化类间的变化。边际惩罚softmax损失，如ArcFace和CosFace，假设不同身份之间和内部的测地线距离可以使用固定的惩罚边际来平等地学习。然而，这样的学习目标对于具有不一致的类间和类内变化的真实数据是不现实的，这可能限制人脸识别模型的区分性和泛化能力。在本文中，我们通过提出弹性惩罚保证金损失（ElasticFace）来放松固定惩罚保证金约束，从而在推动类可分性方面具有灵活性。其主要思想是在每次训练迭代中利用从正态分布中提取的随机间隔值。这旨在给予决策边界提取和收回的机会，以允许灵活的类可分性学习的空间。我们证明了我们的ElasticFace损失优于ArcFace和CosFace损失，使用相同的几何变换，在一个大的主流基准。从更广泛的角度来看，我们的ElasticFace在九个主流基准测试中的七个上都提升了最先进的人脸识别性能。
2022-03-21 cs.CV
Large-scale Bisample Learning on ID Versus Spot Face Recognition
College of Software, Beihang University（北京航空航天大学软件学院）；DAMO Academy, Alibaba Group（阿里巴巴集团达摩院）；HUAWEI Cloud, USA（美国华为云）；Center for Biometrics and Security Research & National Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所生物识别与安全技术研究中心&模式识别国家重点实验室）
在现实世界的人脸识别应用中，每个人都有两张图像，数据量巨大。一张是人脸报名用的身份证照片，一张是现场抓拍的探头照片。大多数现有的方法是为具有有限宽度（相对少量的类）和足够深度（每个类有许多样本）的训练数据设计的。他们将面临ID与Spot（IvS）数据的巨大挑战，包括代表性不足的类内变化和对计算设备的过度需求。在本文中，我们提出了一种基于深度学习的大规模双样本学习（LBL）方法用于IvS人脸识别。为了解决每个类只有两个样本的双样本问题，提出了一种分类-验证-分类（CVC）训练策略，以逐步提高IvS的性能。此外，一个占主导地位的原型softmax（DP-softmax）被纳入，使深度学习可扩展的大规模类。我们在具有超过200万个身份的IvS人脸数据集上进行LBL。实验结果表明，该方法具有较好的识别性能，验证了LBL在IVS人脸识别中的有效性。
2019-02-14 cs.CV
Prototype Memory for Large-scale Face Representation Learning
Speech Technology Center（语音技术中心）；ITMO University（圣彼得堡国立信息技术机械与光学大学）
使用具有大量身份的数据集的人脸表示学习需要适当的训练方法。基于softmax的方法，目前最先进的人脸识别，在其通常的“全softmax”形式是不适合与数百万人的数据集。提出了几种基于“sampled softmax”方法的方法来消除这种限制。然而，这些方法具有一系列缺点。其中之一是“原型过时”的问题：很少采样的类的分类器权重（原型）接收太少的梯度，变得过时并与当前编码器状态分离，导致不正确的训练信号。这个问题在超大规模数据集中尤为严重。在本文中，我们提出了一种新的人脸表示学习模型，称为原型记忆，它解决了这个问题，并允许在任何大小的数据集上进行训练。原型内存由有限大小的内存模块组成，用于存储最近的类原型，并采用一组算法以适当的方式更新它。新的类原型是使用当前mini-batch中的范例嵌入动态生成的。这些原型被排队到内存中，并用于基于softmax分类的训练的分类器权重。为了防止过时并保持存储器与编码器的紧密联系，原型会定期更新，最旧的原型会被排出队列并处理掉。Prototype Memory在计算上是高效的，并且与数据集大小无关。它可以与各种损失函数、硬示例挖掘算法和编码器架构一起使用。我们证明了该模型的有效性，通过广泛的实验流行的人脸识别基准。
2022-02-03 cs.AI cs.CV cs.LG
LH2Face: Loss function for Hard High-quality Face
Anhui Normal University（安徽师范大学）；Chinese Academy of Agricultural Sciences（中国农业科学院）
本文提出LH2Face损失函数，通过基于von Mises-Fisher分布的相似性度量和不确定性感知边距函数，提升高质难样本的识别性能，在IJB-B数据集上达到49.39%的准确率。
2026-03-30 cs.CV
Killing Two Birds with One Stone:Efficient and Robust Training of Face Recognition CNNs by Partial FC
DeepGlint（深瞐科技）；Huawei（华为）；InsightFace；Peng Cheng Laboratory（鹏城实验室）；University of Sydney（悉尼大学）
通过使用百万级野外数据集和基于边缘的softmax损失来学习区分性深度特征嵌入是当前最先进的人脸识别方法。然而，全连接（FC）层的内存和计算成本线性地扩展到训练集中的身份数量。此外，大规模的训练数据不可避免地存在类间冲突和长尾分布。在本文中，我们提出了一个稀疏更新的FC层的变种，名为部分FC（PFC）。在每次迭代中，选择正类中心和负类中心的随机子集来计算基于边缘的softmax损失。在整个训练过程中，所有的类中心仍然保持不变，但在每次迭代中只选择和更新一个子集。因此，计算需求，类间冲突的概率，和被动更新的尾类中心的频率，显着降低。在不同的训练数据和骨干（例如CNN和ViT）上进行的大量实验证实了所提出的PFC的有效性、鲁棒性和效率。源代码可在\https：//www.example.com上获得。github.com/deepinsight/insightface/tree/master/recognition
2022-03-28 cs.CV
SphereFace2: Binary Classification is All You Need for Deep Face Recognition
Carnegie Mellon University（卡内基梅隆大学）；University of Cambridge（剑桥大学）；MPI for Intelligent Systems（马克斯·普朗克智能系统研究所）；Alan Turing Institute（艾伦·图灵研究所）
最先进的深度人脸识别方法大多使用基于softmax的多类分类框架进行训练。尽管这些方法很受欢迎和有效，但仍然有一些缺点，限制了经验性能。在本文中，我们首先识别现有多类分类框架中训练和评估之间的差异，然后讨论softmax归一化的“竞争”性质所导致的潜在限制。出于这些限制，我们提出了一种新的二进制分类训练框架，称为SphereFace2。与现有方法相比，SphereFace2绕过了softmax归一化以及相应的闭集假设。这有效地弥合了训练和评估之间的差距，使每个二进制分类任务能够单独改进表示。除了设计一个特定的性能良好的损失函数，我们总结了一些一般原则，这种“一对所有”的二进制分类框架，使它能够优于目前的竞争方法。我们在流行的基准测试上的实验表明，SphereFace2可以始终优于最先进的深度人脸识别方法。该守则已公开提供。
2022-04-11 cs.AI cs.CV cs.LG
Scalable Angular Discriminative Deep Metric Learning for Face Recognition
Nankai University（南开大学）；Tianjin University（天津大学）
随着深度学习的发展，深度度量学习（Deep Metric Learning，DML）在人脸识别方面取得了很大的进步。具体来说，在训练过程中广泛使用的softmax损失往往会带来很大的类内变化，而特征归一化只在测试过程中使用，以计算对相似度。为了弥补这一差距，我们在训练步骤中将softmax损失中的特征和权重向量之间的类内余弦相似性设置为大于一个裕度，并从四个方面对其进行了扩展。首先，我们探讨了硬样本挖掘策略的效果。为了减轻调整超参数的人工劳动，提出了一种自适应的边缘更新策略。然后，一个规范化的版本，以充分利用余弦相似性约束。此外，我们加强了前一个约束，迫使类内余弦相似度大于平均类间余弦相似度，在指数特征投影空间中有一个保证金。在Labeled Face in the Wild（LFW）、Youtube Faces（YTF）和IARPA Janus Benchmark A（IJB-A）数据集上进行的大量实验表明，本文提出的方法优于主流的DML方法，接近最先进的性能。
2018-05-01 cs.AI cs.CV
AirFace: Lightweight and Efficient Model for Face Recognition
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
随着卷积神经网络的发展，计算机视觉任务取得了重大进展。然而，常用的损失函数softmax loss和用于常见视觉任务的高效网络架构对于人脸识别并不那么有效。本文在ArcFace的基础上提出了一种新的损失函数Li-ArcFace。Li-ArcFace通过线性函数而不是通过余弦函数将角度值作为目标logit，在人脸识别的低维嵌入特征学习中具有更好的收敛性和性能。在网络架构方面，通过增加网络深度、宽度和添加注意力模块，改进了MobileFaceNet的性能。此外，我们还发现了一些有用的人脸识别训练技巧。凭借以上成绩，我们在LFR2019的deepglint-light挑战赛中获得第二名。
2019-09-26 cs.CV
Additive Margin Softmax for Face Verification
UESTC（电子科技大学）；Georgia Tech（佐治亚理工学院）
在本文中，我们提出了一个概念上简单和几何可解释的目标函数，即附加的边缘Softmax（AM-Softmax），用于深度人脸验证。一般来说，人脸验证任务可以被视为一个度量学习问题，因此学习类内变化小而类间差异大的大间距人脸特征对于获得良好的性能非常重要。最近，已经提出了大裕度Softmax和角度Softmax，以乘法方式合并角度裕度。在这项工作中，我们引入了一种新的附加角裕度的Softmax损失，这是直观的吸引力和更可解释的比现有的作品。本文还强调和讨论了特征归一化的重要性。最重要的是，我们在LFW BLUFR和MegaFace上的实验表明，使用相同的网络架构和训练数据集，我们的加性边缘softmax损失始终比当前最先进的方法表现更好。我们的代码也可以在https://github.com/happynear/AMSoftmax上获得
2018-05-30 cs.CV
GIF: Generative Inspiration for Face Recognition at Scale
West Virginia University（西弗吉尼亚大学）
本文提出GIF方法，通过将人脸识别中的标量标签转换为结构化身份码并训练骨干网络预测编码，使计算成本与身份数量的关系从线性降为对数，并在IJB-B和IJB-C上分别提升1.52%和0.6%。
2025-05-05 cs.CV
NPT-Loss: A Metric Loss with Implicit Mining for Face Recognition
University of Surrey（萨里大学）
近年来，使用深度卷积神经网络（DCNN）的人脸识别（FR）取得了显著的成功。基于DCNN的FR的一个关键要素是损失函数的适当设计，以确保各种身份之间的区别。最先进的（SOTA）解决方案利用具有加法和/或乘法余量的归一化Softmax损失。尽管很受欢迎，但这些基于Softmax+保证金的损失并不是理论上的动机，保证金的有效性只是直观地证明。在这项工作中，我们利用一个替代框架，提供了一个更直接的机制，实现各种身份的特征之间的歧视。我们提出了一种新的损失，相当于一个三重损失与代理和一个隐含的机制，硬负挖掘。我们给出了理论上的理由，最大限度地减少建议的损失，确保所有身份之间的最小可分性。所提出的损耗易于实现，并且不需要像SOTA解决方案中那样进行大量的超参数调整。我们给出的经验证据表明，尽管它的简单性，建议的损失始终实现SOTA性能在各种基准的高分辨率和低分辨率FR任务。
2021-03-05 cs.CV cs.LG
A New Loss Function for CNN Classifier Based on Pre-defined Evenly-Distributed Class Centroids
Shanghai University（上海大学）
随着近年来卷积神经网络（CNN）的发展，网络结构越来越复杂多变，在模式识别、图像分类、目标检测和跟踪等方面取得了非常好的效果。对于用于图像分类的CNN，除了网络结构外，越来越多的研究集中在损失函数的改进上，以尽可能扩大类间特征差异，减少类内特征变异。除了传统的Softmax，典型的损失函数还有L-Softmax、AM-Softmax、ArcFace和Center loss等。本文基于CSAE网络中预定义的均匀分布类质心（PEDCC）的概念，提出了一种基于PEDCC的损失函数PEDCC-Loss。通过对图像分类和人脸识别的多个实验证明，该方法具有最佳的识别精度，且网络训练稳定，易于收敛。代码可在https://github.com/ZLeopard/PEDCC-Loss上获得
2019-04-26 cs.CV
Hard-Mining Loss based Convolutional Neural Network for Face Recognition
Indian Institute of Information Technology（印度信息技术学院）
人脸识别是计算机视觉领域的一个突出问题。随着深度学习的进步，在人脸识别方面已经有了重要的工作，涉及到了识别框架的各个部分，如卷积神经网络（CNN），层，损失函数等。各种损失函数，如交叉熵，Angular-Softmax和ArcFace已经被引入来学习人脸识别网络的权重。然而，与容易样本相比，这些损失函数不给予硬样本高优先级。此外，他们的学习过程是有偏见的，由于一些简单的例子相比，硬的例子。在本文中，我们通过考虑更优先的硬例子来解决这个问题。为了做到这一点，我们提出了一个硬挖掘损失，增加损失的困难的例子和减少损失的简单的例子。所提出的概念是通用的，可以与任何现有的损失函数。我们测试了不同的损失，如交叉熵，Angular-Softmax和ArcFace的硬挖掘损失。在广泛使用的Labeled Faces in the Wild（LFW）和YouTube Faces（YTF）数据集上测试了所提出的硬挖掘损失。训练在CASIA-WebFace和MS-Celeb-1 M数据集上进行。我们使用残差网络（即，ResNet 18）进行实验分析。实验结果表明，现有的损失函数的性能得到提升时，在建议的硬挖掘损失的框架。
2020-12-23 cs.CV cs.LG
Deep Rival Penalized Competitive Learning for Low-resolution Face Recognition
Shanghai Jiao Tong University（上海交通大学）
目前的人脸识别任务通常是在高质量的人脸图像上进行的，但实际上，大多数人脸图像都是在无约束或较差的条件下捕获的，例如，通过视频监控。现有方法的特点是通过学习数据的不确定性来避免过拟合噪声，或者通过向归一化softmax损失的角度或余弦空间添加余量来惩罚目标logit，从而加强类内紧凑性和类间差异。在本文中，我们提出了一种用于低分辨率（LR）图像中的深度人脸识别的深度对手惩罚竞争学习（RPCL）。受RPCL思想的启发，我们的方法进一步对竞争对手logit（定义为输入图像的最大非目标logit）实施监管。与现有的只考虑对目标logit进行惩罚的方法不同，我们的方法不仅加强了对目标标签的学习，而且还执行了一个相反的方向，即，变得去学习化，远离竞争对手的标签。综合实验表明，我们的方法改进了现有的国家的最先进的方法是非常强大的LR人脸识别。
2021-08-03 cs.CV
DeepVisage: Making face recognition simple yet with powerful generalization skills
Laboratoire LIRIS（LIRIS实验室）；École centrale de Lyon（里昂中央理工学院）；Safran Identity & Security（赛峰身份与安全公司）
人脸识别（FR）方法通过采用基于卷积神经网络（CNN）的学习方法来报告显著的性能。虽然CNN主要是通过优化softmax损失来训练的，但最近的趋势显示了不同策略的准确性提高，例如具有不同损失函数的特定任务CNN学习，对目标数据集的微调，度量学习和连接多个CNN的特征。完成这些任务显然需要更多的努力。此外，它使发现仅用身份标签训练的FR的有效CNN模型失去动力。我们专注于这一事实，并提出了一个易于训练和单一的CNN为基础的FR方法。我们的CNN模型利用了残差学习框架。此外，它使用归一化特征来计算损失。我们广泛的实验表明，在不同的数据集上具有很好的泛化能力。我们在LFW，IJB-A，YouTube面孔和CACD数据集上获得了非常有竞争力和最先进的结果。
2017-04-07 cs.CV
BoundaryFace: A mining framework with noise label self-correction for Face Recognition
Southwest Jiaotong University（西南交通大学）
近年来，由于损失函数的进步和训练集规模的爆炸式增长，人脸识别取得了巨大的进展。一个适当的设计损失被视为关键，以提取判别特征进行分类。已经提出了几种基于边缘的损失作为人脸识别中softmax损失的替代方案。然而，还有两个问题需要考虑：1）他们忽视了硬样本挖掘对判别学习的重要性。2)标签噪声普遍存在于大规模数据集中，严重影响模型的性能。在本文中，从决策边界的角度出发，我们提出了一个新的挖掘框架，侧重于一个样本的地面真值类中心和最近的负类中心之间的关系。具体而言，提出了一种闭集噪声标签自校正模块，使该框架能够很好地处理包含大量标签噪声的数据集。所提出的方法在各种人脸识别基准测试中始终优于SOTA方法。培训代码已在https://github.com/SWJTU-3DVision/BoundaryFace上发布。
2022-10-10 cs.CV
On Improving Temporal Consistency for Online Face Liveness Detection
AWS AI, Amazon（亚马逊AWS人工智能）
本文重点研究改进在线人脸活体检测系统，以增强下游人脸识别系统的安全性。大多数现有的基于帧的方法都受到跨时间的预测不一致性的影响。为了解决这个问题，提出了一个简单而有效的解决方案，基于时间一致性。具体而言，在训练阶段，除了softmax交叉熵损失之外，还提出了时间自监督损失和类一致性损失，以集成时间一致性约束。在部署阶段，开发了一个无需训练的非参数不确定性估计模块，以自适应地平滑预测。除了常见的评估方法，提出了一种基于视频段的评估，以适应更实际的情况。大量的实验表明，我们的解决方案在各种场景下对几种呈现攻击都更健壮，并且在多个公共数据集上的性能明显优于最先进的ACER至少40%。此外，它的计算复杂性要低得多（FLOP减少33%），为低延迟在线应用提供了巨大的潜力。
2020-06-11 cs.CV
KappaFace: Adaptive Additive Angular Margin Loss for Deep Face Recognition
Sungkyunkwan University（成均馆大学）
针对深度人脸识别中的类别不平衡问题，提出 KappaFace 自适应加性角度间隔损失，依据类别难度与集中度动态调节间隔，并在多个基准上超越现有方法。
2023-12-06 cs.CV
L2-constrained Softmax Loss for Discriminative Face Verification
University of Maryland（马里兰大学）
近年来，使用深度卷积神经网络（DCNN），人脸验证系统的性能得到了显著提高。用于人脸验证的典型管道包括训练深度网络以进行具有softmax损失的主题分类，使用倒数第二层输出作为特征描述符，并在给定一对人脸图像的情况下生成余弦相似性得分。softmax损失函数不会优化特征，使其对正对具有更高的相似性得分，对负对具有更低的相似性得分，这导致性能差距。在本文中，我们增加了一个L2约束的特征描述符，限制他们躺在一个固定半径的超球面。该模块可以使用现有的深度学习框架轻松实现。我们表明，将这个简单的步骤集成到训练管道中可以显着提高人脸验证的性能。具体来说，我们在具有挑战性的IJB-A数据集上实现了最先进的结果，在人脸验证协议上实现了0.909的真实接受率和0.0001的错误接受率。此外，我们在LFW数据集上实现了最先进的性能，准确率为99.78%，在YTF数据集上实现了竞争性能，准确率为96.08%。
2017-06-07 cs.CV
Ring loss: Convex Feature Normalization for Face Recognition
Carnegie Mellon University（卡内基梅隆大学）
我们激励并提出了Ring loss，这是一种简单而优雅的深度网络特征归一化方法，旨在增强Softmax等标准损失函数。我们认为，深度特征规范化是监督分类问题的一个重要方面，我们要求模型在多类问题中同样好地表示每个类。通过硬归一化操作的特征归一化的直接方法导致非凸公式化。相反，Ring loss应用软规范化，它逐渐学会将规范约束到缩放的单位圆，同时保持凸性，从而产生更鲁棒的特征。我们将环损失应用于大规模的人脸识别问题，并在LFW上呈现结果，这是IJB-A Janus，Janus CS3（IJB-A Janus的超集），名人正面轮廓（CFP）和MegaFace的具有挑战性的协议，具有100万个干扰项。环损失优于强基线，匹配IJB-A Janus的最先进性能，并优于具有挑战性的Janus CS3的所有其他结果，从而实现最先进的。我们在处理极低分辨率人脸匹配方面也优于强基线。
2018-02-28 cs.CV
Exploring Racial Bias within Face Recognition via per-subject Adversarially-Enabled Data Augmentation
Durham University（杜伦大学）；COSMONiO
虽然人脸识别应用在我们的日常生活中变得越来越普遍，但该领域的主要方法仍然存在性能偏见，这对社会中的一些种族形象造成了损害。在这项研究中，我们提出了一种新的对抗性派生数据增强方法，旨在通过使用图像到图像的转换来转移敏感的种族特征面部特征，从而在每个受试者的水平上实现数据集平衡。我们的目标是自动构建一个合成的数据集，通过变换不同种族域的面部图像，同时仍然保留身份相关的功能，使种族依赖的功能，随后成为无关的主题身份的确定。我们构建了三个重要的人脸识别变体的实验：Softmax，CosFace和ArcFace损失在一个共同的卷积神经网络骨干。在并排比较中，我们显示了我们所提出的技术可以通过减少性能的赛前方差对最初不平衡的训练数据集中的（种族）少数群体的识别性能产生积极影响。
2020-04-19 cs.CV
ArcFace: Additive Angular Margin Loss for Deep Face Recognition
Imperial College London（伦敦帝国理工学院）；InsightFace；University of Nottingham（诺丁汉大学）；Cogitat
最近，人脸识别中的一个热门研究方向是在成熟的softmax损失函数中采用边缘来最大化类别可分性。在本文中，我们首先介绍了一个附加的角度边际损失（ArcFace），它不仅有一个明确的几何解释，但也显着提高了区分能力。由于ArcFace容易受到大量标签噪声的影响，我们进一步提出了子中心ArcFace，其中每个类包含$K$子中心，训练样本只需要靠近任何一个$K$正子中心。子中心ArcFace鼓励一个包含大多数干净面的主导子类和包括硬或嘈杂面的非主导子类。基于这种自推进的隔离，我们通过在大量真实世界噪声下自动净化原始网页来提高性能。除了鉴别特征嵌入，我们还探索了逆问题，将特征向量映射到人脸图像。在不训练任何额外的生成器或训练器的情况下，预先训练的ArcFace模型仅通过使用网络梯度和批量归一化（BN）先验就可以为训练数据内部和外部的受试者生成身份保留的人脸图像。大量的实验表明，ArcFace可以增强鉴别特征嵌入以及加强生成式人脸合成。
2022-09-04 cs.CV
MarginDistillation: distillation for margin-based softmax
Expasoft（Expasoft公司）；Institute of Automation and Electrometry of the Siberian Branch of the Russian Academy of Sciences（俄罗斯科学院西伯利亚分院自动化与电测研究所）
卷积神经网络（CNN）结合基于边缘的softmax方法的使用展示了人脸识别问题的最新性能。最近，轻量级神经网络模型训练与边缘设备的面部识别任务的边缘基于softmax已被引入。在本文中，我们提出了一种新的蒸馏方法的轻量级神经网络架构，优于其他已知的方法的人脸识别任务的LFW，WIDDB-30和Megaface数据集。所提出的方法的思想是使用类中心从教师网络的学生网络。然后训练学生网络，以获得由教师网络预测的类中心和人脸嵌入之间的相同角度。
2020-03-05 cs.CV
Deep Anomaly Detection for Generalized Face Anti-Spoofing
Gradiant - UVigo（Gradiant - 维戈大学）；Gradiant；University of Alcalá（阿尔卡拉大学）
人脸识别已经取得了前所未有的成果，在某些场景下超越了人类的能力。然而，这些自动解决方案还没有准备好投入生产，因为它们很容易被简单的身份冒充攻击所欺骗。虽然已经投入了大量的努力来开发人脸反欺骗模型，但它们的泛化能力在实际场景中仍然是一个挑战。在本文中，我们介绍了一种新的方法，从异常检测的角度重新制定的广义呈现攻击检测（GPAD）问题。从技术上讲，提出了一种深度度量学习模型，其中使用三重焦点损失作为一种新损失的正则化，称为“metric-softmax”，负责引导学习过程在嵌入空间中进行更具鉴别力的特征表示。最后，我们通过引入Few-Shot后验概率估计来展示我们的深度异常检测架构的好处，该后验概率估计不需要在学习的特征上训练任何分类器。我们使用GRAD GPAD框架进行了广泛的实验，该框架提供了最大的人脸GPAD聚合数据集。结果证实，我们的方法是能够超越所有的国家的最先进的方法相当大的利润。
2019-04-17 cs.CV
Rapid Face Mask Detection and Person Identification Model based on Deep Neural Networks
Aligarh Muslim University（阿里格尔穆斯林大学）
由于新冠肺炎一直在不断变异，三四个月后，一种新的变种就会出现在我们面前，它带来了更多致命的问题。防止我们感染新冠肺炎的方法是接种疫苗和戴口罩。在本文中，我们已经实现了一个新的人脸检测和识别模型，名为洞察脸，它是基于SoftMax损失分类算法弧脸损失，并将其命名为RFMPI-DNN（快速人脸检测和庇隆识别模型基于深度神经网络），以检测人脸面具和人的身份迅速相比，其他可用的模型。为了比较我们的新模型，我们使用了以前的MobileNet_V2模型和人脸识别模块，以时间为基础进行了有效的比较。该模型在系统中的实现在各个方面都优于本文所比较的模型
2021-12-18 cs.CV cs.LG
ExpFace: Exponential Angular Margin Loss for Deep Face Recognition
Institution1（机构1）；Institution2（机构2）
针对现有基于间隔的softmax损失忽视噪声样本的问题，提出ExpFace损失，在角度空间中心区域施加更大惩罚、边缘区域施加更小惩罚，兼顾干净样本与噪声抑制，实现最先进性能。
2025-09-24 cs.AI cs.CV
FaceCoresetNet: Differentiable Coresets for Face Set Recognition
Bar-Ilan University（巴伊兰大学）；Samsung Semiconductor Israel R&D Center (SIRC)（三星半导体以色列研发中心）
针对集合人脸识别中需平衡质量与多样性的问题，提出FaceCoresetNet，将其建模为可微核心集选择问题，结合可微FPS与注意力架构，在IJB-B、IJB-C数据集上取得人脸验证SOTA。
2023-12-13 cs.CV
UniTSFace: Unified Threshold Integrated Sample-to-Sample Loss for Face Recognition
Shenzhen University（深圳大学）；University of Birmingham（伯明翰大学）；Aqara, Lumi United Technology Co., Ltd（Aqara，绿米联创科技有限公司）；Alan Turing Institute（艾伦·图灵研究所）
针对现有人脸识别方法的缺陷，提出带明确统一阈值的USS样本间损失，推导相关损失并结合样本-类别损失训练UniTSFace模型，在多基准数据集上性能优于当前最优方法。
2023-11-04 cs.AI cs.CV cs.HC
Contraction Mapping of Feature Norms for Classifier Learning on the Data with Different Quality
Beijing Institute of Technology（北京理工大学）；NanKai University（南开大学）
流行的softmax loss及其最近的扩展在基于深度学习的图像分类中取得了巨大的成功。然而，用于训练图像分类器的数据通常具有不同的质量。如果不考虑这一问题，低质量数据的正确分类就难以解决。在本文中，我们通过对各种应用和各种深度神经网络的仔细实验，发现了图像的特征范数与其质量之间的正相关性。基于这一发现，我们提出了一个收缩映射函数，根据训练图像的质量来压缩训练图像的特征范数范围，并将此收缩映射函数嵌入到softmax loss或其扩展中，以产生新的学习目标。在手写体数字识别、肺结节分类、人脸验证和人脸识别等分类应用中的实验表明，该方法能够有效地处理不同质量数据的学习问题，并在分类精度上有显著而稳定的提高。
2020-07-28 cs.CV cs.LG
DSAM: A Distance Shrinking with Angular Marginalizing Loss for High Performance Vehicle Re-identificatio
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；National University of Singapore（新加坡国立大学）；Macau University of Science and Technology（澳门科技大学）
车辆再识别（ReID）是计算机视觉中一个重要而又具有挑战性的问题。与其他视觉对象（如人脸和人）相比，车辆同时表现出更大的类内视点变化和类间视觉相似性，使得大多数为人脸识别和人ReID设计的现有损失函数不适合车辆ReID。为了获得高性能的车辆ReID模型，我们提出了一种新的距离收缩与角度边缘化（DSAM）损失函数进行混合学习在原始特征空间（OFS）和特征角空间（FAS）使用的局部验证和全局识别信息。具体地说，它缩小了原始特征空间中同一类样本之间的距离，而在特征角空间中保持不同类样本之间的距离。收缩和边缘化操作在训练过程的每次迭代期间执行，并且适用于不同的基于SoftMax的损失函数。我们评估的DSAM损失函数上的三个大型车辆的ReID数据集进行了详细的分析和广泛的比较与许多竞争车辆的ReID方法。实验结果表明，我们的DSAM损失在PKU-VD 1-Large数据集上大幅提高了SoftMax损失：mAP为10.41%，cmc 1为5.29%，cmc 5为4.60%。此外，PKU-VehicleID数据集上的mAP增加了9.34%，VeRi-776数据集上的mAP增加了6.13%。源代码将被释放，以促进在这个研究方向的进一步研究。
2021-09-09 cs.CV
InterFace:Adjustable Angular Margin Inter-class Loss for Deep Face Recognition
Yunnan Normal University（云南师范大学）；Zhejiang University（浙江大学）
在人脸识别领域，如何改进损失解，使网络提取的人脸特征具有更大的鉴别力，一直是研究的热点。近年来的研究工作通过逐步将softmax归一化到余弦空间，然后增加固定的惩罚间隔来减少类内距离以增加类间距离，从而提高了人脸模型的鉴别能力。尽管之前已经做了大量的工作来优化边界惩罚以提高模型的区分能力，但是向深度特征和相应的权重添加固定的边缘惩罚与真实场景中的数据模式并不一致。为了解决这个问题，在本文中，我们提出了一种新的损失函数，接口，释放的约束，增加一个边缘惩罚之间的深度功能和相应的权重，以推动类的可分性之间的深度功能和所有的权重增加相应的边缘惩罚。为了说明InterFace相对于固定惩罚保证金的优势，我们从几何角度进行了解释，并在一组主流基准上进行了比较。从更广泛的角度来看，我们的InterFace在13个主流基准测试中的5个上都取得了最先进的人脸识别性能。所有训练代码、预训练模型和训练日志都是公开发布的\footnote{$https://github.com/iamsangmeng/InterFace$}。
2022-10-09 cs.CV
Attention Aware Wavelet-based Detection of Morphed Face Images
West Virginia University（西弗吉尼亚大学）
变形图像利用了面部识别检查点中的漏洞，例如，凭证认证技术（CAT），由运输安全管理局（TSA）使用，这是一个重要的安全问题。为了克服变形呈现所带来的风险，我们提出了一种基于小波变换的变形检测方法，该方法采用端到端的可训练软注意力机制。我们的基于注意力的深度神经网络（DNN）专注于对变形检测器决策函数（即变形类二进制softmax输出）具有最大空间支持的显著感兴趣区域（ROI）。回顾变形合成过程，帮助我们推测的ROI周围的面部标志，特别是对于基于标志的变形技术的情况下，区域。此外，我们基于注意力的DNN适用于小波空间，其中网络的输入是从粗到细的谱表示，确切地说是48个堆叠的小波子带。我们使用三个数据集，VISAP17，LMA和MorGAN评估所提出的框架的性能。此外，由于注意力图可以是一个强大的指标，无论是真正的或伪造的调查中的探针图像，我们分析了估计的注意力图的真正的图像和相应的变形图像。最后，我们提出了一个消融研究的有效性，利用注意力机制的变形检测。
2021-07-22 cs.CV
More Information Supervised Probabilistic Deep Face Embedding Learning
Guangzhou Huya Technology Co., Ltd（广州虎牙科技有限公司）；University of Oxford（牛津大学）
基于间隔的比较损失的研究证明了惩罚人脸特征与其对应的类中心之间的距离的有效性。尽管他们的流行和出色的性能，他们没有明确鼓励通用嵌入学习的开集识别问题。本文从概率的角度分析了基于容限的softmax损失。从这个角度出发，我们提出了两个一般原则：1）单调递减和2）边际概率惩罚，用于设计新的边际损失函数。与使用单一比较度量进行优化的方法不同，我们提供了一个新的视角，将开集人脸识别视为一个信息传输问题。同时，该算法在保证更多干净信息的前提下，具有较好的泛化能力。提出了一种称为线性自动TS编码器（LASSE）的自动编码器架构来证实这一发现。在多个基准测试上的大量实验表明，LASSE有助于人脸嵌入获得更强的泛化能力，并在MegaFace测试中将开放训练数据集的单个模型性能提高到$99\%$以上。
2020-06-11 cs.CV cs.LG
Consistent Instance False Positive Improves Fairness in Face Recognition
Tencent（腾讯）；Nanjing University of Science and Technology（南京理工大学）
人口统计偏差是实际人脸识别系统中的一个重大挑战。现有的方法严重依赖于准确的人口统计注释。然而，这样的注释通常在真实场景中不可用。此外，这些方法通常是为特定的人口群体设计的，不够普遍。在本文中，我们提出了假阳性率惩罚损失，通过提高实例假阳性率（FPR）的一致性来减轻人脸识别偏差。具体地说，我们首先定义的实例FPR之间的比率的非目标相似性高于一个统一的阈值和非目标相似性的总数。统一的阈值估计为一个给定的总FPR。然后，一个额外的惩罚项，这是成比例的实例FPR总FPR的比率，被引入到基于软最大值的损失的分母。实例FPR越大，惩罚越大。通过这种不相等的惩罚，实例FPR应该是一致的。与以前的去偏方法相比，我们的方法不需要人口统计学的注释。因此，它可以减轻由各种属性划分的人口统计组之间的偏差，并且这些属性不需要在训练期间预先预定义。在流行的基准上进行的大量实验结果表明，我们的方法优于最先进的竞争对手。代码和训练模型可在https://github.com/Tencent/TFace上获得。
2021-06-10 cs.CV
Relational Deep Feature Learning for Heterogeneous Face Recognition
Yonsei University（延世大学）；Korea Institute of Science and Technology（韩国科学技术研究院）；Yongin University（龙仁大学）
异构人脸识别（HFR）是一项跨两个不同领域（如可见光（VIS），近红外（NIR）或草图领域）匹配人脸的任务。由于缺乏数据库，HFR方法通常利用包含一般面部信息的大规模视觉数据库上的预训练特征。然而，这些预先训练的特征由于与视觉域的纹理差异而导致性能下降。有了这个动机，我们提出了一个图结构的模块，称为关系图模块（RGM），提取全球关系信息，除了一般的面部特征。由于每个身份的面部内部部分之间的关系信息在任何模态下都是相似的，因此特征之间的建模关系可以帮助跨域匹配。通过RGM，关系传播减少了纹理依赖性，而不会失去其来自预训练特征的优势。此外，RGM从局部相关的卷积特征中捕获全局面部几何形状，以识别长期关系。此外，我们提出了一个节点注意单元（NAU），执行节点的重新校准集中在更多的信息节点所产生的基于关系的传播。此外，我们提出了一种新的条件裕度损失函数（C-softmax）的高效投影学习的嵌入向量在HFR。所提出的方法优于其他国家的最先进的方法在五个HFR数据库。此外，我们在三个主干上展示了性能改进，因为我们的模块可以插入任何预先训练的人脸识别主干，以克服小型HFR数据库的局限性。
2020-07-14 cs.CV
MultiFace: A Generic Training Mechanism for Boosting Face Recognition Performance
Harbin Institute of Technology（哈尔滨工业大学）；Tencent（腾讯）；Peng Cheng Lab（鹏城实验室）
近年来，深度卷积神经网络（DCNN）及其变体已广泛应用于大规模人脸识别（FR）中。现有的方法已经取得了良好的性能在许多FR基准。然而，它们中的大多数都有两个主要问题。首先，这些方法收敛得相当慢，因为它们在高维稀疏高斯球中优化损失函数。第二，特征的高维性，尽管具有强大的描述能力，但给优化带来困难，这可能导致次优的局部最优。为了解决这些问题，我们提出了一种简单而有效的训练机制，称为MultiFace，在这里我们通过低维特征的集合来近似原始的高维特征。所提出的机制也是通用的，可以很容易地应用到许多先进的FR模型。此外，它通过聚类效应为FR模型带来了良好的可解释性。详细地说，这些低维特征的集合可以捕获互补但有区别的信息，这可以增加类内紧凑性和类间可分性。实验结果表明，该机制可以加速2-3倍的softmax损失和1.2-1.5倍的Arcface或Cosface，同时实现了最先进的性能在几个基准数据集。特别是，对大规模数据集的重大改进（例如，IJB和MageFace）展示了我们新培训机制的灵活性。
2021-06-25 cs.CV
Transferable Adversarial Face Attack with Text Controlled Attribute
Harbin Institute of Technology（哈尔滨工业大学）；Peng Cheng Laboratory（鹏城实验室）；Pazhou Laboratory (Huangpu)（琶洲实验室（黄埔））
本文提出文本控制属性攻击方法TCA$^2$，利用自然语言引导、类别级softmax向量及数据与模型增强策略，结合StyleGAN生成高迁移性的逼真对抗冒充人脸，并在多个数据集和商用系统上验证了有效性。
2025-02-02 cs.AI cs.CV
NPCFace: Negative-Positive Collaborative Training for Large-scale Face Recognition
Shanghai University（上海大学）；JD AI Research（京东AI研究院）；National Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Science（中国科学院自动化研究所模式识别国家实验室）
在过去的几年里，深度人脸识别的训练方案有了很大的发展，但它在大规模数据情况下遇到了新的挑战，大量和多样化的困难情况发生。特别是在低错误接受率（FAR）的范围内，在阳性（类内）和阴性（类间）中都存在各种困难情况。在本文中，我们研究如何更好地利用这些硬样本，以提高训练。文献的做法，这是基于利润的制定，无论是积极的logit或负logits。然而，硬阳性和硬阴性之间的相关性被忽视，正和负logits中的边缘之间的关系也被忽视。我们发现这种相关性是显著的，特别是在大规模数据集中，人们可以利用它来通过将每个训练样本的正边缘和负边缘相关联来提高训练。为此，我们建议在样本范围内明确正负利润率之间的合作。在给定一批硬样本的情况下，提出了一种新的负-正协作损失模型NPCFace，该模型通过softmax logits中的协作边缘机制，强调了对负-正硬样本的训练，同时也更好地解释了负-正硬度相关性。此外，重点是实施与改进的公式，以实现稳定的收敛性和灵活的参数设置。我们验证了我们的方法的有效性在各种基准的大规模人脸识别，并获得有利的结果，特别是在低FAR范围。
2021-05-14 cs.CV
DAIL: Dataset-Aware and Invariant Learning for Face Recognition
Wyze Labs（Wyze实验室）；Zhejiang University-University of Illinois at Urbana-Champaign Institute（浙江大学-伊利诺伊大学厄巴纳-香槟分校学院）；University of Rochester（罗切斯特大学）
为了在人脸识别中获得良好的性能，通常需要大规模的训练数据集。提高识别性能的一种简单而有效的方法是通过在训练中组合多个数据集来使用尽可能大的数据集。然而，由于两个主要问题，天真地组合不同的数据集是有问题和麻烦的。首先，同一个人可能出现在不同的数据集中，导致不同数据集之间的身份重叠问题。在训练过程中，将同一个人视为不同数据集中的不同类会影响反向传播并生成非代表性嵌入。另一方面，手动清理标签可能需要巨大的人力，特别是当有数百万张图像和数千个身份时。其次，不同的数据集是在不同的情况下收集的，因此会导致不同的域分布。简单地组合数据集将使跨不同数据集学习域不变嵌入变得困难。在本文中，我们提出DAIL：数据集感知和不变学习来解决上述问题。为了解决身份重叠的第一个问题，我们提出了一种多数据集训练的身份感知损失，当同一个人出现在多个数据集中时，减少惩罚。这可以很容易地实现与一个修改的softmax损失与网络感知的条款。为了解决第二个问题，采用具有梯度反转层的领域自适应进行数据集不变学习。所提出的方法不仅在几种常用的人脸识别验证集上取得了最先进的结果，包括LFW，CFP-FP和CFDB-30，而且在实际应用中也表现出了很大的优势。
2021-01-14 cs.CV
GoDP: Globally optimized dual pathway system for facial landmark localization in-the-wild
University of Houston（休斯顿大学）
人脸特征点定位是姿态不变人脸识别的一个基本模块。最常用的人脸标志点检测方法是级联回归，它由两个步骤组成：特征提取和人脸形状回归。最近的方法使用深度卷积网络来提取每个步骤的鲁棒特征，而整个系统可以被视为深度级联回归架构。在这项工作中，不是采用深度回归网络，而是提出了一种全局优化的双路径（GoDP）深度架构，通过解决级联像素标记问题来识别目标像素，而无需诉诸高级推理模型或复杂的堆栈架构。所提出的端到端系统依赖于距离感知的softmax函数和双通道提案细化架构。结果表明，它优于国家的最先进的级联回归为基础的方法在多个野外人脸对齐数据库。该模型在AFLW数据库上实现了1.84的归一化平均误差（NME），比3DDFA高61.8%。人脸识别实验表明，GoDP，加上DPM-headhunter，能够提高44.2%的rank-1识别率相比，Dlib工具箱在一个具有挑战性的数据库。
2017-12-19 cs.CV
Deep Covariance Descriptors for Facial Expression Recognition
Mohammed V University in Rabat（拉巴特穆罕默德五世大学）；IMT Lille-Douai（里尔-杜埃国立高等矿业电信学校）；CNRS（法国国家科学研究中心）；University of Florence（佛罗伦萨大学）
本文利用协方差矩阵对深度卷积神经网络（DCNN）特征进行编码，用于人脸表情识别。协方差矩阵的空间几何是对称正定（SPD）矩阵。通过在SPD流形上使用高斯核对面部表情进行分类，我们证明了在DCNN特征上计算的协方差描述符比使用全连接层和softmax的标准分类更有效。通过使用VGG-face和ExpNet架构在Oulu-CASIA和SFEW数据集上进行广泛的实验，我们证明了所提出的方法在面部表情识别方面达到了最先进的性能。
2018-05-10 cs.CV
