MotiF: Making Text Count in Image Animation with Motion Focal Loss
Brown University（布朗大学）；Meta
针对文本引导图像动画中运动与文本对齐差的问题，提出基于运动热图加权损失的MotiF方法，同时构建含320对样本的TI2V Bench基准，其效果优于9个开源模型，平均偏好率达72%。
2025-03-23 cs.AI cs.CV
An Asymmetric Contrastive Loss for Handling Imbalanced Datasets
Universitas Indonesia（印度尼西亚大学）
对比学习是一种表示学习方法，通过将一个样本与其他相似样本进行对比，使它们紧密地聚集在一起，在特征空间中形成聚类。学习过程通常使用两阶段训练架构进行，并且它利用对比度损失（CL）进行特征学习。对比学习已被证明在处理不平衡数据集方面非常成功，其中一些类被过度代表，而另一些类则被代表不足。然而，以前的研究没有专门修改CL不平衡的数据集。在这项工作中，我们引入了一个非对称版本的CL，简称为ACL，以直接解决类不平衡的问题。此外，我们提出了非对称焦点对比度损失（AFCL）作为ACL和焦点对比度损失（FCL）的进一步推广。FMNIST和ISIC 2018不平衡数据集的结果表明，AFCL在加权和未加权分类精度方面都能够优于CL和FCL。在附录中，我们提供了一个完整的公理处理熵，以及完整的证明。
2022-07-14 cs.CV cs.IT cs.LG
Hybrid Focal and Full-Range Attention Based Graph Transformers
School of Biology（生物学院）；School of Computer Science and Technology（计算机科学与技术学院）；Soochow University（苏州大学）
针对 Graph Transformer 局部与子结构信息不足的问题，提出纯注意力 FFGT，用全范围注意力结合 ego-net 的 K-hop 焦点注意力，并在 LRGB 等数据集上取得相当 SOTA 表现。
2024-09-10 cs.AI cs.LG
Global-focal Adaptation with Information Separation for Noise-robust Transfer Fault Diagnosis
Guangdong Lingnan Institute of Technology（广东 Lingnan 工学院）；Jinan University（济南大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）
针对噪声与域偏移并存的跨域故障诊断问题，提出ISGFAN，通过信息分离、改进正交损失及全局聚焦域对抗实现鲁棒表征解耦与分布对齐，并在三个基准上验证优越性。
2025-10-16 cs.AI
Focal and Global Knowledge Distillation for Detectors
ByteDance Inc（字节跳动公司）；Tsinghua Shenzhen International Graduate School（清华大学深圳国际研究生院）；BeiHang University（北京航空航天大学）
将知识蒸馏成功地应用于图像分类。然而，目标检测是一个非常复杂的问题，大多数知识蒸馏方法都无法解决这一问题，本文指出在目标检测中，教师和学生的特征在不同的区域，特别是在前景和背景中存在很大的差异。如果我们平等地提取它们，特征图之间的不均匀差异将对提取产生负面影响。因此，我们提出了焦点和全局蒸馏（FGD）。焦点蒸馏分离前景和背景，迫使学生专注于教师的关键像素和通道。全局蒸馏重建不同像素之间的关系，并将其从教师转移到学生，补偿焦点蒸馏中丢失的全局信息。由于我们的方法只需要计算特征图上的损失，因此FGD可以应用于各种检测器。我们对具有不同主干的各种检测器进行了实验，结果表明学生检测器实现了出色的mAP改进。例如，基于ResNet-50的RetinaNet，Faster RCNN，RepPoints和Mask RCNN使用我们的蒸馏方法在COCO 2017上实现了40.7%，42.0%，42.0%和42.1%的mAP，分别比基线高3.3，3.6，3.4和2.9。我们的代码可在https://github.com/yzd-v/FGD上获得。
2022-03-09 cs.CV
Adversarial Focal Loss: Asking Your Discriminator for Hard Examples
GE Healthcare（通用电气医疗集团）
Focal Loss已经达到了令人难以置信的普及程度，因为它使用一种简单的技术来识别和利用硬样本来实现更好的分类性能。然而，这种方法不容易推广到分类任务之外，例如在关键点检测中。在本文中，我们提出了一种新的适应焦点损失的关键点检测任务，称为对抗焦点损失（AFL）。AFL不仅在语义上类似于Focal损失，而且还可以作为任意损失函数的即插即用升级。虽然Focal Loss需要分类器的输出，但AFL利用单独的对抗网络为每个输入生成难度分数。然后，即使在没有分类器的情况下，这个难度分数也可以用于动态地优先考虑困难示例的学习。在这项工作中，我们展示了AFL在增强现有关键点检测方法方面的有效性，并验证了其根据难度重新权衡示例的能力。
2022-07-15 cs.CV cs.LG
LMBF-Net: A Lightweight Multipath Bidirectional Focal Attention Network for Multifeatures Segmentation
University of New South Wales（新南威尔士大学）；Abasyn University（阿巴辛大学）；COMSATS University Islamabad (CUI)（伊斯兰堡COMSATS大学（CUI））
本文提出轻量级多路径双向焦点注意力网络LMBF-Net，通过图像块特征提取、焦点调制注意力、滤波器优化和分组卷积，首次实现对多种眼底特征的鲁棒分割，并在十多个公开数据集上以少量参数超越现有方法。
2024-07-03 cs.CV eess.IV
Zolly: Zoom Focal Length Correctly for Perspective-Distorted Human Mesh Reconstruction
The University of Hong Kong（香港大学）；Shanghai AI Laboratory（上海人工智能实验室）；The University of Adelaide（阿德莱德大学）；SenseTime Research（商汤科技研究院）；Zhejiang University（浙江大学）
针对现有3D人体网格重建方法因焦距假设不当无法处理透视畸变的问题，提出Zolly方法，通过畸变图像表征、多投影损失及专用数据集，在畸变数据和标准基准上均取得更优性能。
2023-08-24 cs.CV
AdaFocal: Calibration-aware Adaptive Focal Loss
M Health Info. Systems（3M健康信息系统公司）；Carnegie Mellon University（卡内基梅隆大学）
本文提出AdaFocal，一种校准感知的自适应焦点损失，通过动态调整γ参数改善模型校准，同时保持准确率并提升分布外检测性能。
2023-06-16 cs.CV cs.LG
Calibrating Deep Neural Networks using Focal Loss
University of Oxford（牛津大学）；FiveAI Ltd.（FiveAI有限公司）；The Alan Turing Institute（艾伦·图灵研究所）
深度神经网络（DNN）的误校准（模型的置信度和正确性之间的不匹配）使得其预测难以依赖。理想情况下，我们希望网络准确、校准和自信。我们表明，相对于标准的交叉熵损失，焦点损失[Lin et.例如，2017]允许我们学习已经非常好校准的模型。当与温度缩放相结合时，在保持精度的同时，它会产生最先进的校准模型。我们提供了一个彻底的分析的因素，造成误校准，并使用我们从中收集的见解，以证明经验的优异性能的焦点损失。为了便于在实际中使用的焦点损失，我们还提供了一个原则性的方法来自动选择的超参数涉及的损失函数。我们对各种计算机视觉和NLP数据集以及各种网络架构进行了广泛的实验，并表明我们的方法在几乎所有情况下都实现了最先进的校准而不会影响准确性。代码可在https://github.com/torrvision/focal_calibration上获得。
2020-10-26 cs.CV cs.LG stat.ML
Revisiting Reweighted Risk for Calibration: AURC, Focal, and Inverse Focal Loss
KU Leuven（鲁汶大学）
本文提出了一种改进模型校准的方法，通过加权风险函数与选择性分类的联系，结合置信度评分函数和区间累积分布函数近似，提升校准性能。
2026-01-29 cs.CV
HOPE: Hierarchical Spatial-temporal Network for Occupancy Flow Prediction
Horizon Robotics（地平线机器人）
在这份报告中，我们介绍了我们在CVPR 2022的Waymo开放数据集挑战赛中针对占用和流量预测挑战的解决方案，该挑战赛在排行榜上排名第一。我们已经开发了一种新的分层时空网络的特点与时空编码器，一个多尺度聚合器丰富的潜在变量，和一个递归的分层3D解码器。我们使用多个损失，包括焦点损失和修改的流跟踪损失，以有效地指导训练过程。我们的方法实现了0.8389的基于流量的占用AUC，并且优于排行榜上的所有其他团队。
2022-06-21 cs.CV
Ischemic Stroke Lesion Segmentation in CT Perfusion Scans using Pyramid Pooling and Focal Loss
MIT（麻省理工学院）；Philips Research North America（飞利浦北美研究院）
我们提出了一个完全卷积神经网络，用于在ISLES 2018挑战中分割CT灌注图像中的缺血性卒中病变。中风的治疗是时间敏感的，并且用于病变识别的当前标准需要手动分割，这是一个耗时且具有挑战性的过程。自动分割方法提供了准确识别病变和改进治疗计划的可能性。我们的模型是基于PSPNet，网络架构，利用金字塔池提供全球和本地的上下文信息。为了学习病变的不同形状，我们使用焦点损失（focal loss）训练我们的网络，焦点损失是一个为网络设计的损失函数，用于集中学习更困难的样本。我们将我们的模型与使用U-Net和V-Net架构训练的网络进行比较。我们的方法在病变分割方面表现出了有效的性能，并在挑战结论中名列榜首。
2018-11-02 cs.AI cs.CV
Optimized Hybrid Focal Margin Loss for Crack Segmentation
MegaRobo Technologies Co., Ltd.（镁伽机器人科技有限公司）
许多损失函数都是从交叉熵损失函数中推导出来的，例如大幅度softmax损失和焦点损失。大余量的softmax损失使分类更加严格，并防止过拟合。焦点损失通过降低分类良好的示例的损失的权重来消除目标检测中的类别不平衡。最近的研究表明，这两个损失函数来自交叉熵在图像分割领域有价值的应用。然而，据我们所知，没有统一的公式，结合这两个损失函数，使他们不仅可以相互转换，但也可以用来同时解决类不平衡和过拟合。为此，我们将基于熵的损失细分为基于正则化器的熵损失和基于焦点的熵损失，并提出了一种新的优化混合焦点损失来处理极端的类不平衡并防止裂缝分割的过拟合。我们将我们的建议与三个裂缝分割数据集（DeepCrack-DB，CRACK 500和我们的私人PanelCrack数据集）进行了比较。我们的实验表明，焦边分量可以显着增加裂纹的IoU在DeepCrack-DB上为0.43，在PanelCrack数据集上为0.44。
2023-02-09 cs.CV eess.IV
Focal Frequency Loss for Image Reconstruction and Synthesis
Nanyang Technological University（南洋理工大学）；SenseTime Research（商汤科技研究院）
随着生成模型的发展，图像重建与合成技术得到了长足的发展。尽管如此，在真实图像和生成图像之间仍然可能存在差距，特别是在频域中。在这项研究中，我们表明，在频域缩小差距，可以改善图像重建和合成质量进一步。我们提出了一种新的焦点频率损失，它允许一个模型自适应地集中在频率分量，很难合成的降权容易的。该目标函数是对现有空间损失的补充，提供了对由于神经网络的固有偏差而导致的重要频率信息的损失的很大阻抗。我们展示了多功能性和有效性的焦点频率损失，以提高流行的模型，如VAE，pix2pix，和SPADE，在感知质量和定量性能。我们进一步展示了它在StyleGAN 2上的潜力。
2021-08-23 cs.CV cs.LG eess.IV
Automated Focal Loss for Image based Object Detection
FZI Research Center for Information Technology（FZI信息技术研究中心）；German Research Center for Artificial Intelligence（德国人工智能研究中心）
当前最先进的目标检测算法仍然存在训练数据在目标类别和背景上分布不均衡的问题。最近的工作引入了一个新的损失函数，称为焦点损失，以减轻这个问题，但代价是额外的超参数。为每个训练任务手动调整此超参数非常耗时。随着自动聚焦损失，我们引入了一个新的损失函数，该函数用在训练过程中自动适应的参数代替这个超参数，并控制对硬训练样本的聚焦量。我们在COCO基准测试中表明，这导致训练收敛速度提高了30%。我们进一步引入了一个焦点回归损失，它在3D车辆检测的更具挑战性的任务上优于其他损失函数高达1.8 AOS，并且可以用作回归的值范围独立度量。
2019-04-19 cs.CV
Dual Focal Loss for Calibration
University of Sydney（悉尼大学）
本文提出 Dual Focal Loss 损失函数，通过同时关注 ground truth logit 及其后最高的 logit 并最大化其差距，有效平衡了神经网络的过度自信与不自信问题，在多模型和数据集上实现了最先进的校准性能。
2023-05-23 cs.AI cs.CV
Unified Focal loss: Generalising Dice and cross entropy-based losses to handle class imbalanced medical image segmentation
University of Cambridge（剑桥大学）；University of Salerno（萨莱诺大学）
自动分割方法是医学图像分析的一个重要进展。机器学习技术，特别是深度神经网络，是大多数医学图像分割任务的最新技术。类不平衡的问题对医学数据集构成了重大挑战，病变通常相对于背景占据相当小的体积。用于深度学习算法训练的损失函数在对类别不平衡的鲁棒性方面有所不同，这对模型收敛有直接影响。最常用的分割损失函数是基于交叉熵损失、骰子损失或两者的组合。我们提出了统一的焦点损失，一个新的层次框架，概括骰子和交叉熵为基础的损失处理类的不平衡。我们在五个公开的、类别不平衡的医学成像数据集上评估了我们提出的损失函数：CVC-ClinicDB、用于血管提取的数字视网膜图像（DRIVE）、乳腺超声2017（BUS 2017）、脑肿瘤分割2020（BraTS 20）和肾肿瘤分割2019（KiTS 19）。我们比较了我们的损失函数的性能与六个骰子或交叉熵为基础的损失函数，在2D二进制，3D二进制和3D多类分割任务，表明我们提出的损失函数是强大的类不平衡，并始终优于其他损失函数。源代码可从以下网址获得：https://github.com/mlyg/unified-focal-loss
2021-11-24 cs.CV cs.LG eess.IV
Reduced Focal Loss: 1st Place Solution to xView object detection in Satellite Imagery
XIX.ai Inc.（XIX.ai公司）；IQVIA（艾昆纬）
本文描述了我们应对DIUx xView 2018检测挑战的方法[1]。这次挑战的重点是一个新的卫星图像数据集。该数据集包含60个高度不平衡的对象类。由于数据集的不平衡性，训练过程变得更具挑战性。为了解决这个问题，我们引入了一个新的减少焦点损失函数，它使我们在DIUx xView 2018检测挑战赛中获得第一名。
2019-04-25 cs.CV
A Novel Adaptive Hybrid Focal-Entropy Loss for Enhancing Diabetic Retinopathy Detection Using Convolutional Neural Networks
School of Computer Science and Engineering（计算机科学与工程学院）；Vellore Institute of Technology（韦洛尔理工大学）
针对糖尿病视网膜病变检测中类别不平衡问题，提出自适应混合焦点-熵损失（AHFE），结合焦点与熵损失并自适应加权，在多个CNN模型上显著提升准确率，最高达99.79%。
2025-04-23 cs.AI cs.CV cs.LG
Domain-Invariant Representation Learning of Bird Sounds
INRIA；Université de Montpellier（蒙彼利埃大学）；Université de Lorraine（洛林大学）；Queen Mary University of London（伦敦女王学院）；IMT Atlantique（IMT大西洋）；Lab-STICC
本文提出ProtoCLR作为SupCon的替代方案，通过类原型比较降低计算复杂性，提升鸟类声音领域不变表示学习的性能。
2026-01-28 cs.SD eess.AS
Parameter-efficient Prompt Tuning of Vision Foundation Model With Adaptive Focal Loss for Interpretable MCI Screening
APAC Research Group, Faculty of Electrical Engineering, K. N. Toosi University of Technology（亚太研究小组，电气工程学院，伊朗德黑兰的KN Toosi科技大学）
研究针对轻度认知障碍筛查中数据与诊断问题，提出用冻结DINOv2 - Small模型经特定提示令牌参数高效调优的框架，结合自适应焦点损失处理边界模糊性，在交叉验证中表现良好，优于ResViT基线。
2026-07-17 cs.AI cs.CV cs.LG
FLANNEL: Focal Loss Based Neural Network Ensemble for COVID-19 Detection
IQVIA（艾昆纬）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
测试使用深度神经网络区分COVID-19与其他肺炎和健康患者的胸部X射线图像的可能性。我们从两个公开来源构建了X射线成像数据，其中包括2874名患者的5508张胸部X射线图像，分为四类：正常，细菌性肺炎，非COVID-19病毒性肺炎和COVID-19。为了识别COVID-19，我们提出了一种基于焦点损失的神经Entrance Network（FLANNEL），这是一种灵活的模块，可以集成多个卷积神经网络（CNN）模型，并与焦点损失融合，以便在类别不平衡数据上准确检测COVID-19。FLANNEL在COVID-19识别任务中的所有指标均优于基线模型。与最佳基线相比，FLANNEL在Covid-19识别任务中显示出更高的宏观F1得分，相对增加6%，其中精确度达到0.7833（0.07），召回率达到0.8609（0.03），F1得分达到0.8168（0.03）。
2020-10-30 cs.CV cs.LG eess.IV
Balance-Oriented Focal Loss with Linear Scheduling for Anchor Free Object Detection
Hyundai Mobis（现代摩比斯）
大多数现有的对象检测器遭受类不平衡的问题，阻碍了平衡的性能。特别地，无锚对象检测器必须同时解决由于以每像素预测方式进行检测而导致的背景不平衡问题以及前景不平衡问题。在这项工作中，我们提出了平衡导向的焦点损失，可以通过综合考虑背景和前景平衡来诱导平衡学习。针对无锚点目标检测器在使用非极值分布的一般不平衡数据（不包括Few Shot和焦点损失）情况下的不平衡问题。我们使用一个批量的阿尔法平衡的焦点损失的变种来处理这个不平衡的问题精心。对于一般的不平衡数据，只需重新加权，是一种简单实用的解决方案。它既不需要额外的学习成本，也不需要在推理过程中进行结构改变，而且也不需要对类进行分组。通过大量的实验，我们展示了每个组件的性能改进，并分析了使用重新加权损失时线性调度的效果。通过在平衡前景类方面改善焦点损失，我们的方法在MS-COCO中实现了+1.2的AP增益，用于无锚实时检测器。
2020-12-26 cs.CV
A Novel Focal Tversky loss function with improved Attention U-Net for lesion segmentation
Ryerson University（瑞尔森大学）
针对医学图像分割中的数据不平衡问题，提出了一种基于Tversky指数的广义焦点损失函数。与常用的Dice损失相比，我们的损失函数在对病变等小结构进行训练时，在准确率和召回率之间实现了更好的权衡。为了评估我们的损失函数，我们改进了注意力U-网络模型，通过加入图像金字塔来保留上下文特征。我们在BUS 2017数据集和ISIC 2018数据集上进行了实验，其中病变分别占图像面积的4.84%和21.4%，与标准U-Net相比，分割精度分别提高了25.7%和3.6%。
2018-10-18 cs.CV
SAFL: A Self-Attention Scene Text Recognizer with Focal Loss
Hanoi University of Science and Technology（河内理工大学）；School of Information and Communication Technology（信息与通信技术学院）
在过去的几十年里，场景文本识别由于其在广泛的应用中的重要性而得到了学术界和实际用户的广泛关注。尽管在光学字符识别方面取得了成就，但由于诸如失真或不规则布局等固有问题，场景文本识别仍然具有挑战性。大多数现有的方法主要利用基于递归或卷积的神经网络。然而，由于递归神经网络（RNN）的顺序计算，通常遭受缓慢的训练速度，并遇到消失梯度或瓶颈的问题，CNN忍受复杂性和性能之间的权衡。针对现有方法的局限性，本文提出了一种基于自注意的具有聚焦损失的神经网络模型SAFL用于场景文本识别。使用焦点损失而不是负对数似然有助于模型更专注于低频样本训练。此外，为了处理失真和不规则的文本，我们利用空间变换器网络（Spatial TransformerNetwork，简称SPNN）在传递到识别网络之前对文本进行校正。我们进行实验，比较所提出的模型与七个基准的性能。数值结果表明，我们的模型取得了最好的性能。
2022-01-01 cs.CV cs.LG
Functional Properties of the Focal-Entropy
University of Minnesota（明尼苏达大学）；Qualcomm Flarion Technology, Inc.（高通飞思科技公司）
本文研究了焦点熵的性质，揭示了焦点损失在类别不平衡学习中的理论基础和权衡机制。
2026-03-03 cs.CV cs.IT cs.LG
Topology-Aware Focal Loss for 3D Image Segmentation
Novartis（诺华公司）；Mass. General Hospital（麻省总医院）
本文提出TAFL损失，将Focal Loss与基于持续图Wasserstein距离的拓扑约束结合，并用BraTS数据集训练3D U-Net，验证其可减少3D医学图像分割中的拓扑错误。
2023-04-27 cs.CV cs.LG eess.IV
Signal Is Harder To Learn Than Bias: Debiasing with Focal Loss
ETH Zurich（苏黎世联邦理工学院）
本文提出基于变分自编码器的 SiH 方法，利用焦点损失启发的解耦重加权同时训练有偏和无偏分类器，以缓解虚假相关性偏差，并引入潜在空间扰动可视化偏差来源。
2023-05-31 cs.CV cs.LG
Focal Loss in 3D Object Detection
The Hong Kong University of Science and Technology（香港科技大学）；Tongji University（同济大学）
3D目标检测在自动驾驶场景中仍然是一个悬而未决的问题。与基于图像的目标检测相比，自主车辆在从稀疏的3D输入中识别和定位关键目标时，需要更大的连续搜索空间和更高的前背景不平衡性。本文针对三维目标检测中的前背景不平衡问题进行了研究。受最近在基于图像的目标检测中使用焦点丢失的启发，我们将这种二进制交叉熵的硬挖掘改进扩展到基于点云的目标检测，并基于两种不同的3D检测器：3D-FCN和VoxelNet进行实验以显示其性能。评估结果显示，通过在3D目标检测的超参数范围内的焦点损失，可获得高达11.2AP的增益。
2019-01-16 cs.CV
Focal Loss Dense Detector for Vehicle Surveillance
Virginia State University（弗吉尼亚州立大学）
深度学习在不同的计算机视觉应用中被广泛认为是一种有前途的方法。具体地说，一级目标检测器和两级目标检测器被认为是最重要的两组基于卷积神经网络的目标检测方法。单级目标检测器通常在速度上优于两级目标检测器，但是与两级目标检测器相比，它通常在检测精度上落后。在这项研究中，基于焦点损失的RetinaNet，它作为一个阶段的对象检测器，被用来能够很好地匹配常规的一个阶段的检测器的速度，也击败了两个阶段的检测器的准确性，用于车辆检测。在DETRAC车辆数据集上显示了最先进的性能结果。
2018-03-03 cs.CV
Prostate Capsule Segmentation from Micro-Ultrasound Images using Adaptive Focal Loss
Department of Physics（物理系）；Computer Science, Wilfrid Laurier University（计算机科学，威廉·劳里尔大学）
本研究针对微超声图像中前列腺包膜边界模糊问题，提出一种自适应焦点损失函数，通过动态调整困难区域权重并结合专家与非专家标注差异，在测试集上取得0.940的平均Dice系数和1.949 mm的平均豪斯多夫距离，显著提升了分割精度。
2025-09-19 cs.CV eess.IV
Focal and Efficient IOU Loss for Accurate Bounding Box Regression
CASIA（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Horizon Robotics（地平线机器人）
在目标检测中，限界框回归（BBR）是决定目标定位性能的关键步骤。然而，我们发现，大多数以前的BBR损失函数有两个主要的缺点：（i）$\ell_n$ -范数和基于IOU的损失函数是低效的描述BBR的目标，这导致收敛速度慢和不准确的回归结果。(ii)大多数损失函数忽略了BBR中的不平衡问题，即大量与目标盒重叠较小的锚盒对BBR的优化贡献最大。为了减轻由此造成的不利影响，我们在本文中进行了深入的研究，以利用BBR损失的潜力。首先，提出了一种有效交并损失（EIOU），它明确地度量了BBR中三个几何因素的差异，即，重叠区域、中心点和边长。在此之后，我们陈述了有效示例挖掘（EEM）问题，并提出了一个回归版本的焦点损失，使回归过程集中在高质量的锚框。最后，将上述两部分结合起来，得到一个新的损失函数，即Focal-EIOU损失。在合成和真实数据集上进行了广泛的实验。该算法在收敛速度和定位精度上均优于其它BBR算法。
2022-07-16 cs.CV
Enhancing Multi-view Stereo with Contrastive Matching and Weighted Focal Loss
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Research Institute of Tsinghua, Pearl River Delta（清华大学珠三角研究院）
近年来，基于学习的多视图立体视觉（MVS）方法取得了令人瞩目的进展，并超越了传统方法。然而，其准确性和完整性仍在努力。在本文中，我们提出了一种新的方法，以提高现有的网络的性能启发对比学习和特征匹配。首先，提出了一种对比度匹配损失（CML）算法，将深度维上正确匹配的点作为正样本，其他点作为负样本，根据特征的相似性计算对比度损失。我们进一步提出了一个加权焦点损失（WFL）更好的分类能力，这削弱了低置信度像素在不重要的地区的损失，根据预测的信心的贡献。在DTU，Tanks and Temples和BlendedMVS数据集上进行的大量实验表明，我们的方法实现了最先进的性能，并在基线网络上有显着的改进。
2022-06-21 cs.CV
Focal Loss for Dense Object Detection
Facebook AI Research (FAIR)（Facebook人工智能研究院（FAIR））
迄今为止，最高精度的对象检测器是基于R-CNN推广的两阶段方法，其中分类器应用于候选对象位置的稀疏集合。相比之下，应用于可能的对象位置的规则的、密集的采样的一级检测器具有更快和更简单的潜力，但是到目前为止已经落后于两级检测器的准确性。在本文中，我们将探讨为什么会出现这种情况。我们发现，在密集检测器的训练过程中遇到的极端前景-背景类不平衡是核心原因。我们建议通过重塑标准交叉熵损失来解决这种类别不平衡，使其降低分配给分类良好的示例的损失。我们的新Focal Loss将训练集中在一组稀疏的硬样本上，并防止大量的简单否定在训练过程中压倒检测器。为了评估损失的有效性，我们设计并训练了一个简单的密集检测器，我们称之为RetinaNet。我们的研究结果表明，当使用焦点损失进行训练时，RetinaNet能够匹配以前的一级检测器的速度，同时超过所有现有的最先进的两级检测器的准确性。代码在：https://github.com/facebookresearch/Detectron。
2018-02-07 cs.CV
Reproducible Evaluation of Data Augmentation and Loss Functions for Brain Tumor Segmentation
DESE, Indian Institute of Science（印度科学研究院数据与系统工程系）
本研究在公开脑肿瘤MRI数据集上，使用焦点损失和三种基础数据增强技术评估U-Net分割性能，达到90%精确度，并公开代码与结果以建立可复现基线。
2025-10-08 cs.CV cs.LG
AdaptiveClick: Clicks-aware Transformer with Adaptive Focal Loss for Interactive Image Segmentation
College of Computer Science and Electronic Engineering, Hunan University（湖南大学计算机与电子工程学院）；Institute for Artificial Intelligence, the University of Stuttgart（斯图加特大学人工智能学院）
AdaptiveClick提出点击感知Transformer与自适应焦点损失，解决交互式图像分割中的交互歧义，首个掩码自适应IIS框架，在九个数据集上超越现有方法。
2024-03-14 cs.AI cs.CV eess.IV
Comparison of Cross-Entropy, Dice, and Focal Loss for Sea Ice Type Segmentation
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文比较了交叉熵、Dice和Focal三种损失函数在海冰类型分割中的表现，发现尽管Dice和Focal损失指标更高，但交叉熵结果在物理上更一致。
2023-10-26 cs.CV eess.IV
Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection
Nanjing University of Science and Technology（南京理工大学）；Momenta（Momenta公司）；Nanjing University（南京大学）；Microsoft Research（微软研究院）；Tsinghua University（清华大学）
一级检测器基本上将目标检测表述为密集分类和定位。分类通常通过Focal Loss进行优化，并且框位置通常在Dirac delta分布下学习。单阶段检测器的最近趋势是引入单独的预测分支来估计定位的质量，其中预测的质量有助于分类以提高检测性能。本文深入研究了上述三个基本要素的表示：质量估计，分类和定位。在现有的实践中发现了两个问题，包括（1）训练和推理之间的质量估计和分类的不一致使用以及（2）当复杂场景中存在模糊性和不确定性时，用于定位的不灵活的Dirac delta分布。为了解决这些问题，我们为这些元素设计了新的表示。具体来说，我们合并到类预测向量的质量估计，形成一个联合表示的本地化质量和分类，并使用一个向量来表示任意分布的盒子位置。改进的表示消除了不一致的风险，准确地描述了实际数据中的灵活分布，但包含连续的标签，这超出了焦点损失的范围。然后，我们提出了广义焦点损失（GFL），将焦点损失从离散形式推广到连续形式，以实现成功的优化。在COCO测试开发中，GFL使用ResNet-101主干实现了45.0\%的AP，超过了最先进的SAPD（43.5\%）和ATSS（43.6\%），在相同的主干和训练设置下具有更高或相当的推理速度。值得注意的是，我们的最佳模型可以在单个2080 Ti GPU上以10 FPS实现48.2\%的单模型单尺度AP。代码和型号可在https://github.com…
2020-06-08 cs.CV
Size and Smoothness Aware Adaptive Focal Loss for Small Tumor Segmentation
Dept of CSE, Bangladesh University of Business and Technology（信息与通信技术系，孟加拉国商业大学）；Dept of Information and Communication Technology, Islamic University（信息与通信技术系，伊斯兰大学）；IICT, Bangladesh University of Engineering and Technology（工程与技术研究所，孟加拉国工程大学）；Dept of CSE, Green University of Bangladesh（计算机科学与工程系，绿色大学）；School of Electrical Engineering and Robotics（电气工程与机器人学院）
针对小肿瘤分割中不规则形状和边界平滑度问题，提出自适应焦点损失A-FL，动态调整权重，在PICAI 2022和BraTS 2018上显著提升IoU和DSC。
2025-10-24 cs.AI cs.CV eess.IV
Contrastive Unpaired Translation using Focal Loss for Patch Classification
Faculty of Electrical Engineering and Computing, University of Zagreb（萨格勒布大学电气工程与计算学院）
图像到图像转换模型将图像从输入域转换到输出域，以努力保留图像的原始内容。对比不成对翻译是解决这类问题的有效方法之一。与竞争对手相比，该方法的显著优点是能够在输入和输出域都仅为单个图像的情况下进行训练并表现良好。该方法与其前辈的另一个关键区别在于使用图像补丁而不是整个图像。事实证明，从同一图像中采样底片（计算损失所需的补丁）比从数据集中的其他图像中采样底片的情况更好。这种类型的方法鼓励将对应的补丁映射到与其他补丁（底片）相关的相同位置，同时与用作基线的CycleGAN方法相比，提高了输出图像质量并显著减少了内存使用以及训练模型所需的时间。通过一系列实验，我们表明，使用焦点损失代替PatchNCE损失中的交叉熵损失可以提高模型的性能，甚至超过当前最先进的图像到图像翻译模型。
2021-09-25 cs.CV
U-Net for MAV-based Penstock Inspection: an Investigation of Focal Loss in Multi-class Segmentation for Corrosion Identification
University of Pennsylvania（宾夕法尼亚大学）
定期检查和维护关键基础设施，如大坝，压力管道和船闸，对于防止灾难性故障至关重要。传统的人工检查方法需要检查人员沿着压力管道爬到现场，以发现腐蚀、生锈和裂缝的形成，这是不安全的、劳动密集型的，并且需要密集的培训。这项工作提出了一种使用微型飞行器（MAV）的替代方法，该飞行器自动飞行以收集图像，然后将图像输入到预先训练的深度学习模型中以识别腐蚀。我们用不到40个图像样本训练的简化U-Net可以在单个GPU上以12 fps的速度进行推理。我们分析了不同的损失函数，以解决类的不平衡问题，然后讨论了选择适当的度量和权重的对象类。从田纳西州的Center Hill Dam收集的数据集获得的结果表明，焦点损失函数与适当的类权重集相结合，比基本损失Softmax交叉熵产生更好的分割结果。我们的方法可以与规划算法结合使用，为自主基础设施检查提供完整，安全和具有成本效益的解决方案。
2018-09-18 cs.CV
Equalized Focal Loss for Dense Long-Tailed Object Detection
Tongji University（同济大学）；SenseTime Research（商汤科技研究院）；Tsinghua University（清华大学）
尽管最近长尾目标检测取得了成功，但几乎所有的长尾目标检测器都是基于两阶段范式开发的。在实践中，单级检测器在行业中更普遍，因为它们具有易于部署的简单快速的管道。然而，在长尾情景中，迄今尚未探讨这一工作领域。在本文中，我们研究一级检测器是否可以在这种情况下表现良好。我们发现，主要的障碍，阻止一阶段检测器实现优异的性能是：类别遭受不同程度的正负不平衡问题下的长尾数据分布。传统的焦点损失平衡的训练过程与所有类别的相同的调制因子，从而无法处理长尾问题。为了解决这个问题，我们提出了均衡焦点损失（EFL），重新平衡的损失贡献的正样本和负样本的不同类别独立根据其不平衡程度。具体而言，EFL采用了一个与类别相关的调节因子，该因子可以根据不同类别的训练状况进行动态调整。在具有挑战性的LVIS v1基准上进行的大量实验证明了我们所提出的方法的有效性。通过端到端的培训管道，EFL在整体AP方面达到了29.2%，并在罕见类别上获得了显着的性能提升，超过了所有现有的最先进的方法。该代码可在https://github.com/ModelTC/EOD上获得。
2022-06-30 cs.CV
REG: Refined Generalized Focal Loss for Road Asset Detection on Thai Highways Using Vision-Based Detection and Segmentation Models
Chulalongkorn University（朱拉隆功大学）；MARS (Motor AI Recognition Solution)（MARS（汽车AI识别解决方案））
本研究提出集成REG损失的新型道路资产检测分割框架，通过多任务优化、空间上下文调整及概率细化提升小样本道路元素检测效果，在泰国高速公路场景下mAP50达80.34，优于传统方法，助力道路安全与基建管理。
2024-09-17 cs.AI cs.CV
Convolutional Neural Networks based Focal Loss for Class Imbalance Problem: A Case Study of Canine Red Blood Cells Morphology Classification
Faculty of Information Technology, King Mongkut's Institute of Technology Ladkrabang（泰国国王科技大学拉卡邦校区信息技术学院）
本文针对犬红细胞形态分类中的类别不平衡问题，提出将卷积神经网络与焦点损失函数相结合的方法，并通过双CNN和5折交叉验证证明其相比交叉熵损失能有效提升F1分数、减少对多数类的偏向。
2020-01-10 cs.CV eess.IV
On Impact of Loss Function on the Performance of Neural Networks in Melanoma Diagnosis
Technological University Dublin（都柏林理工大学）；Research Ireland Centre for Research Training in Machine Learning, ML-Labs（爱尔兰研究中心机器学习研究培训中心，机器学习实验室）；Dublin City University（都柏林城市大学）；University College Dublin（都柏林大学学院）
本研究探讨不同损失函数对黑色素瘤诊断深度模型性能的影响，发现focal loss能同时兼顾AUC性能与不确定性校准（ECE）。
2026-10-06 cs.AI cs.CV cs.LG
Group-wise Supervision with Focal-Dice Loss for Long-Tailed Indoor Semantic Occupancy Prediction
College of Electronics and Information Engineering, Shenzhen University（深圳大学电子与信息工程学院）；Guangdong Key Laboratory of Intelligent Information Processing（广东省智能信息处理重点实验室）
针对室内语义占用预测的长尾类别瓶颈，提出Group-UFD Occ方法，通过分组策略与UFD损失优化，在EmbodiedScan数据集上较基线实现11.38%相对提升，长尾类别精度显著提高。
2026-08-03 cs.CV
Adaptive Class Weight based Dual Focal Loss for Improved Semantic Segmentation
在本文中，我们提出了双焦点损失（DFL）函数，作为标准交叉熵（CE）函数的替代，以更好地处理数据集中的不平衡类。我们的DFL方法是对最近报道的Focal Loss（FL）交叉熵函数的改进，该函数提出了一种缩放方法，该方法将更多的权重放在难以分类的示例上。然而，FL的缩放参数是经验设置的，这是问题依赖的。此外，与其他CE变体一样，FL只关注真类的丢失。因此，没有从假类获得损失反馈。尽管由于softmax函数的性质，仅关注真实示例增加了真实类的概率并相应地降低了假类的概率，但由于避免了假类的损失，它并没有实现最佳收敛。我们的DFL方法在两个方面改进了简单FL。首先，它采用FL的思想，更关注困难的例子，而不是简单的例子，但评估损失的真类和负类具有同等重要性。其次，DFL的缩放参数是可学习的，这样它就可以通过反向传播来调整自己，而不是依赖于手动调整。通过这种方式，我们提出的DFL方法提供了一个自动可调的损失函数，可以减少类不平衡的影响，以及把更多的重点放在真正的困难的例子和负容易的例子。
2020-11-26 cs.CV stat.ML
Data-Efficient Deep Learning Method for Image Classification Using Data Augmentation, Focal Cosine Loss, and Ensemble
Zuminternet
一般来说，充足的数据对于深度学习模型的更好性能和泛化至关重要。然而，有很多限制（成本、资源等）数据汇集的不充分导致了大多数领域数据的缺乏。此外，每个数据源和许可证的不同领域也导致难以收集足够的数据。这种情况使得我们不仅难以利用预先训练的模型，而且难以利用外部知识。因此，有效地利用小数据集以实现更好的性能非常重要。我们在三个方面应用了一些技术：数据，损失函数和预测，以实现用更少的数据从头开始训练。通过这些方法，我们利用ImageNet数据获得了高准确性，每个类仅包含50张图像。此外，我们的模型在数据有效的计算机视觉挑战的视觉归纳中排名第四。
2020-07-15 cs.CV
Threshold-adaptive Unsupervised Focal Loss for Domain Adaptation of Semantic Segmentation
Shanghai Jiao Tong University（上海交通大学）；University of Michigan-Shanghai Jiao Tong University Joint Institute（上海交通大学密西根学院）
语义分割是智能车辆理解环境的重要任务。当前的深度学习方法需要大量的标记数据进行训练。手动注释是昂贵的，而模拟器可以提供准确的注释。然而，用模拟器的数据训练的语义分割模型在应用于实际场景时，性能会显著下降。用于语义分割的无监督领域自适应算法（UDA）近年来受到越来越多的研究关注，其目标是缩小领域差距，提高目标领域的分割性能。在本文中，我们提出了一种新的两阶段基于熵的UDA方法的语义分割。在第一阶段，我们设计了一个阈值自适应的无监督焦点丢失来正则化目标域中的预测，它具有温和的梯度中和机制，并缓解了基于熵的方法中硬样本几乎没有优化的问题。在第二阶段，我们引入了一种名为跨域图像混合（CIM）的数据增强方法来桥接来自两个领域的语义知识。我们的方法使用DeepLabV2在SYNTHIA到Cityscapes和GTA 5到Cityscapes上实现了最先进的58.4%和59.6%的mIoU，并使用轻量级BiSeNet实现了具有竞争力的性能。
2022-08-23 cs.CV
Mask Focal Loss: A unifying framework for dense crowd counting with canonical object detection networks
Shenzhen University（深圳大学）；The Chinese University of Hong Kong（香港中文大学）；Shenzhen Institute of Technology（深圳技术大学）
本文提出Mask Focal Loss（MFL），通过高斯核热图统一损失函数框架，解决密集人群计数中样本不平衡和空间一致性缺失问题，并引入GTA_Head合成数据集，实验表明MFL可显著降低MAE和RMSE。
2024-01-14 cs.CV
Generalized Dice Focal Loss trained 3D Residual UNet for Automated Lesion Segmentation in Whole-Body FDG PET/CT Images
University of British Columbia（不列颠哥伦比亚大学）；BC Cancer Research Institute（不列颠哥伦比亚癌症研究所）
本文针对全身PET/CT图像中病灶多样性导致分割困难的问题，提出用广义Dice Focal Loss训练3D Residual UNet，并在AutoPET 2023数据集上通过5折交叉验证与模型集成实现自动病灶分割。
2023-09-24 cs.CV cs.LG eess.IV
PolyLoss: A Polynomial Expansion Perspective of Classification Loss Functions
Waymo LLC（Waymo有限责任公司）；Google LLC（谷歌有限责任公司）
交叉熵损失和焦点损失是训练深度神经网络以解决分类问题时最常见的选择。然而，一般来说，一个好的损失函数可以采取更灵活的形式，并且应该针对不同的任务和数据集进行定制。受如何通过泰勒展开来近似函数的启发，我们提出了一个简单的框架，名为PolyLoss，将损失函数视为多项式函数的线性组合。我们的PolyLoss允许根据目标任务和数据集轻松调整不同多项式基的重要性，同时自然地将上述交叉熵损失和焦点损失纳入特殊情况。大量的实验结果表明，PolyLoss中的最佳选择确实取决于任务和数据集。通过简单地引入一个额外的超参数并添加一行代码，我们的Poly-1公式在2D图像分类，实例分割，目标检测和3D目标检测任务上优于交叉熵损失和焦点损失，有时甚至是很大的幅度。
2022-05-10 cs.CV
AutoPET Challenge III: Testing the Robustness of Generalized Dice Focal Loss trained 3D Residual UNet for FDG and PSMA Lesion Segmentation from Whole-Body PET/CT Images
University of British Columbia（不列颠哥伦比亚大学）；BC Cancer Research Institute（不列颠哥伦比亚癌症研究所）
针对PET/CT癌病灶分割因病灶差异、邻近高摄取器官导致的建模难题，本研究用广义Dice焦点损失训练3D残差UNet，经5折交叉验证与平均集成，在AutoPET 2024任务1初步测试中取得0.6687的平均DSC。
2024-09-16 cs.AI cs.CV physics.med-ph
