A dual-branch model with inter- and intra-branch contrastive loss for long-tailed recognition
South China University of Technology(华南理工大学)
针对长尾分布中尾部类别样本少、决策边界模糊的问题,本文提出 DB-LTR 双分支模型,通过不平衡学习分支与 CoLB 的原型、对比及度量损失增强尾部适应能力,并在三个基准上取得优于对比方法的结果。
2023-09-28 cs.CV
Intra-Modal Constraint Loss For Image-Text Retrieval
Univ Rennes(雷恩大学);INSA Rennes(雷恩国立应用科学学院);CNRS(法国国家科学研究中心);Zhejiang University of Technology(浙江工业大学)
跨模态检索在计算机视觉和自然语言处理领域都引起了广泛的关注。随着卷积神经网络和递归神经网络的发展,跨图像-文本模式检索的瓶颈不再是图像和文本特征的提取,而是嵌入空间中有效的损失函数学习。许多损失函数试图从异质模态中接近成对特征。提出了一种基于模态内约束损失函数的图像和文本联合嵌入学习方法,以减少来自同一模态的否定对的违反。实验结果表明,我们的方法优于国家的最先进的双向图像-文本检索方法在Flickr 30 K和Microsoft COCO数据集。我们的代码是公开的:https://github.com/CanonChen/IMC。
2022-07-13 cs.CV cs.MM
Bayesian Triplet Loss: Uncertainty Quantification in Image Retrieval
Technical University of Denmark(丹麦技术大学);University of Oxford(牛津大学);University of Zaragoza(萨拉戈萨大学)
图像检索中的不确定性量化对于下游决策至关重要,但它仍然是一个具有挑战性且未探索的问题。目前用于估计不确定性的方法校准不良,计算昂贵,或基于几何学。我们提出了一种新的方法,将图像嵌入视为随机特征,而不是确定性特征。我们的两个主要贡献是:(1)匹配三元组约束的可能性,并评估锚点更接近正而不是负的概率;(2)证明传统l2归一化合理的特征空间上的先验。为了确保计算效率,我们推导出一个变分近似的后验,称为贝叶斯三重损失,产生国家的最先进的不确定性估计和匹配的预测性能,目前国家的最先进的方法。
2021-09-17 cs.CV
Uncertainty and Energy based Loss Guided Semi-Supervised Semantic Segmentation
Indian Institute of Science Education and Research Bhopal(印度科学教育与研究学院博帕尔分校)
本文提出在半监督语义分割的交并伪监督网络中引入任意不确定性与基于能量的损失,利用逐像素方差和生成建模提升分割性能,并通过实验验证其优于现有方法。
2025-01-03 cs.CV
Center Prediction Loss for Re-identification
Northwestern Polytechnical University(西北工业大学);University of Adelaide(阿德莱德大学);Bytedance AI Lab(字节跳动人工智能实验室)
训练损失函数是训练样本分布模式的一个重要组成部分,它在建立再识别(ReID)系统中起着至关重要的作用。除了歧视的基本要求,即,对应于不同身份的特征不应该混合,已经采用了附加的类内分布约束,例如来自相同身份的特征应该靠近它们的中心,来构造损失。尽管各种新的损失函数取得了进展,但在减少类内变化的需要和允许一定的分布自由度之间取得平衡仍然具有挑战性。在本文中,我们提出了一个新的损失的中心预测性的基础上,即,一个样本必须被定位在一个位置的特征空间,这样我们就可以大致预测的中心位置的同类样本。然后,预测误差被视为称为中心预测损失(CPL)的损失。我们表明,在不引入额外的超参数的情况下,这种新的损失导致更灵活的类内分布约束,同时确保类间样本分离良好。在各种真实世界的ReID数据集上进行的大量实验表明,所提出的损失可以实现卓越的性能,并且还可以补充现有的损失。
2021-04-30 cs.CV
Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics
University of Cambridge(剑桥大学);University of Oxford(牛津大学)
许多深度学习应用程序受益于具有多个回归和分类目标的多任务学习。在本文中,我们观察到,这样的系统的性能是强烈依赖于每个任务的损失之间的相对权重。手动调整这些权重是一个困难且昂贵的过程,使得多任务学习在实践中受到限制。我们提出了一种多任务深度学习的原则性方法,该方法通过考虑每个任务的同方差不确定性来权衡多个损失函数。这使我们能够在分类和回归设置中同时学习具有不同单位或尺度的各种量。我们展示了我们的模型学习每像素深度回归,语义和实例分割从单目输入图像。也许令人惊讶的是,我们发现我们的模型可以学习多任务权重,并且在每个任务上单独训练的单独模型都表现出色。
2018-04-24 cs.CV
Hyper-LLaVA: Hyperbolic Uncertainty-aware Modality-Balanced Routing for Multimodal Continual Instruction Tuning
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机技术研究所);Institute of Software Chinese Academy of Sciences(中国科学院软件研究所);University of Chinese Academy of Sciences(中国科学院大学)
针对多模态持续指令调优中参数路由的模态内信息利用不足和模态间可靠性差异问题,提出双曲不确定性感知模态平衡路由(Hyper-LLaVA),通过双曲空间分布相似性和不确定性量化实现自适应模态平衡,大幅超越现有方法。
2026-09-15 cs.CV
Enriching Knowledge Distillation with Intra-Class Contrastive Learning
Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China(新一代人工智能技术及其跨学科应用重点实验室(东南大学),教育部,中国)
针对知识蒸馏中教师软标签缺乏类内多样表示的问题,本文提出带 margin loss 的类内对比学习教师训练方法,并通过理论与实验验证其有效性。
2025-09-26 cs.CV cs.LG
BSM loss: A superior way in modeling aleatory uncertainty of fine_grained classification
Tsinghua University(清华大学);Ping An Technology(平安科技);Shenzhen Hospital of Peking University(北京大学深圳医院);Beijing Tsinghua Changgung Hospital(北京清华长庚医院);Shenzhen City Baoan District Women’s and Children’s Hospital(深圳市宝安区妇幼保健院)
人工智能(AI)辅助方法在疾病诊断等风险领域备受关注。与疾病类型的分类不同,将医学图像分类为良性或恶性是一个细粒度的任务。但大多数研究只注重提高诊断准确率,而忽略了模型可靠性的评价,限制了其临床应用。对于临床实践,校准在低数据状态下对过度参数化模型和固有噪声提出了重大挑战。特别是,我们发现,建模数据相关的不确定性更有利于信心校准。与测试时间增强(TTA)相比,本文提出了一种改进的Bootstrapping损失(BS损失)函数,该函数采用Mixup数据增强策略,能够在不增加推理时间的情况下更好地校正预测不确定性和捕获数据分布变换。我们的实验表明,与标准数据增强、深度集成和MC丢弃相比,BS丢失与混合(BSM)模型可以将预期校准误差(ECE)减半。在BSM模型下,不确定度与域内数据相似度的相关性达到-0.4428。此外,BSM模型能够感知域外数据的语义距离,在现实世界的临床实践中表现出很高的潜力。
2022-06-09 cs.CV
Structure Representation Network and Uncertainty Feedback Learning for Dense Non-Uniform Fog Removal
National University of Singapore(新加坡国立大学);Yale-NUS College(耶鲁-新加坡国大学院);Nanyang Technological University(南洋理工大学)
现有的图像去雾方法很少考虑烟、尘、雾中粒子分布的密集性和不均匀性。处理这些密集和/或不均匀的分布可能是棘手的,因为雾的衰减和空气光(或面纱效应)显着削弱了输入图像中的背景场景信息。为了解决这个问题,我们引入了一个具有不确定性反馈学习的结构表示网络。具体来说,我们从预训练的视觉Transformer(DINO-ViT)模块中提取特征表示来恢复背景信息。为了引导我们的网络专注于不均匀的雾区,然后相应地去除雾,我们引入了不确定性反馈学习,它产生不确定性地图,在雾较浓的区域具有更高的不确定性,并且可以被视为代表雾的密度和不均匀分布的注意力地图。基于不确定性图,我们的反馈网络迭代地改进我们的去雾输出。此外,为了处理估计大气光颜色的棘手性,我们利用输入图像的灰度版本,因为它受可能存在于输入图像中的不同光颜色的影响较小。实验结果表明,我们的方法的有效性,定量和定性相比,国家的最先进的方法在处理密集和不均匀的雾或烟雾。
2022-10-06 cs.CV
Learning the Distribution of Errors in Stereo Matching for Joint Disparity and Uncertainty Estimation
Stevens Institute of Technology(史蒂文斯理工学院)
提出一种用于深度立体匹配联合视差与不确定性估计的新损失函数,通过KL散度项使不确定性分布匹配视差误差分布,并采用可微软直方图技术近似分布,在大型数据集上显著提升了视差与不确定性预测性能。
2023-03-31 cs.CV
Spectral Unmixing With Multinomial Mixture Kernel and Wasserstein Generative Adversarial Loss
Middle East Technical University(中东技术大学)
本文提出了一种基于一维卷积核和光谱不确定性的光谱解混新方法。从数据中计算出高级别的表示,并使用多项式混合模型对其进行进一步建模,以估计严重光谱不确定性下的分数。此外,一个新的可训练的不确定性项的基础上的非线性神经网络模型中的重建步骤。所有不确定性模型都通过Wasserstein生成对抗网络(WGAN)进行优化,以提高稳定性并捕获不确定性。在真实和合成数据集上进行了实验。实验结果表明,该方法具有较好的性能,尤其是在真实数据集上。项目页面:https://github.com/savasozkan/dscn。
2020-12-12 cs.CV
Boundary Distance Loss for Intra-/Extra-meatal Segmentation of Vestibular Schwannoma
King’s College London(伦敦国王学院);King’s College Hospital(国王学院医院)
前庭神经鞘瘤(VS)通常从内耳生长到大脑。它可以分为两个区域,分别对应于内耳道内部或外部的耳道内和耳道外。耳道外区的生长是决定临床医生进行疾病治疗的关键因素。在这项工作中,VS分割方法与细分成内/外耳道部分。我们注释了一个由227个T2 MRI实例组成的数据集,纵向采集了137名患者,不包括术后实例。我们提出了一种分阶段的方法,第一阶段执行整个肿瘤分割和第二阶段执行内/外耳道分割使用T2 MRI以及从第一阶段获得的掩模。为了提高预测口边界的准确性,我们引入了一个特定于任务的损失,我们称之为边界距离损失。与直接耳道内耳道外分割任务性能(即基线)相比,对性能进行评价。我们提出的方法,采用两阶段方法和边界距离损失,分别在耳道外和耳道内区域获得了0.8279+-0.2050和0.7744+-0.1352的Dice评分,比基线有了显著改善,其给出了外耳道和外耳道内区域的Dice评分分别为0.7939 ± 0.2325和0.7475 ± 0.1346。
2022-08-09 cs.CV cs.LG eess.IV
Uncertainty-weighted Loss Functions for Improved Adversarial Attacks on Semantic Segmentation
Technical University of Berlin(柏林工业大学);Ruhr University Bochum(波鸿鲁尔大学)
本文提出基于不确定性的加权损失函数,改进对抗攻击在语义分割中的性能。
2023-10-26 cs.CV
Intra-Class Subdivision for Pixel Contrastive Learning: Application to Semi-supervised Cardiac Image Segmentation
College of Computer Science(计算机科学学院);Software Engineering(软件工程);Shenzhen University(深圳大学);Shenzhen 518060, China(深圳518060, 中国)
本文提出SPCL框架,通过类内细分和边界对比损失提升心脏图像分割的精度和边界识别能力。
2026-01-30 cs.CV
Localization Uncertainty Estimation for Anchor-Free Object Detection
Electronics and Telecommunications Research Institute (ETRI)(韩国电子通信研究院);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
由于许多安全关键系统,如手术机器人和自动驾驶汽车在传感器噪声和不完整数据的不稳定环境中运行,因此目标检测器需要考虑定位不确定性。然而,现有的用于基于锚点的目标检测的不确定性估计方法存在一些局限性。1)它们对具有不同特征和尺度的异构对象属性的不确定性进行建模,例如位置(中心点)和尺度(宽度,高度),这可能难以估计。2)他们将框偏移建模为高斯分布,这与遵循Dirac delta分布的地面实况边界框不兼容。3)由于基于锚点的方法对锚点超参数敏感,因此它们的定位不确定性也可能对超参数的选择高度敏感。为了解决这些局限性,我们提出了一种新的本地化不确定性估计方法称为UAD无锚目标检测。我们的方法捕获了均匀的框偏移的四个方向(左,右,上,下)的不确定性,因此它可以判断哪个方向是不确定的,并提供[0,1]中的不确定性的定量值。为了实现这种不确定性估计,我们设计了一种新的不确定性损失,负幂对数似然损失,通过其IoU加权似然损失来度量定位不确定性,从而解决了模型误指定问题。此外,我们提出了一个不确定性意识的焦点损失反映估计的不确定性的分类得分。COCO数据集上的实验结果表明,我们的方法显着提高FCOS,高达1.8点,而不牺牲计算效率。
2022-07-06 cs.CV
$σ^2$R Loss: a Weighted Loss by Multiplicative Factors using Sigmoidal Functions
University of Insubria(因苏布里亚大学)
在神经网络中,损失函数表示学习过程的核心,该学习过程引导优化器逼近最优收敛误差。卷积神经网络(CNN)使用损失函数作为监督信号来训练深度模型,并为实现人工视觉某些领域的最新技术做出了重大贡献。交叉熵和中心损失函数通常用于提高学习函数的鉴别能力,并提高模型的泛化性能。中心损失最小化类内方差,同时惩罚每个类内部深层特征之间的长距离。然而,中心损失的总误差将受到大多数实例的严重影响,并可能导致类内方差的冻结状态。为了解决这个问题,我们引入了一个新的损失函数,称为sigma squared reduction loss($σ^2$ R loss),它由sigmoid函数调节,以增加/减少每个实例的错误,然后继续减少类内方差。我们的损失具有清晰的直观性和几何解释,此外,我们通过实验证明了我们的建议在几个基准数据集上的有效性,这些数据集显示了类内方差的减少,并克服了中心损失和软最近邻函数所获得的结果。
2020-09-18 cs.CV cs.LG
Softmax Dissection: Towards Understanding Intra- and Inter-class Objective for Embedding Learning
Tsinghua University(清华大学)
softmax损失及其变体被广泛用作嵌入学习的目标,特别是在人脸识别等应用中。然而,softmax损失中的类内和类间目标是纠缠在一起的,因此一个优化良好的类间目标会导致类内目标的放松,反之亦然。在本文中,我们建议将softmax损失分解为独立的类内和类间目标(D-Softmax)。使用D-Softmax作为目标,我们可以清楚地了解类内和类间目标,因此可以直接将每个部分调整到最佳状态。此外,我们发现类间目标的计算是冗余的,并提出了两个基于采样的变体D-Softmax,以减少计算成本。使用规则尺度数据进行训练,人脸验证实验表明,D-Softmax与现有的损失(如SphereFace和ArcFace)相当。通过使用大规模数据进行训练,实验表明,D-Softmax的快速变体显著加速了训练过程(例如64倍),而性能只有很小的牺牲,在性能和效率方面都优于现有的Softmax加速方法。
2020-02-12 cs.CV cs.LG
A New Distributional Ranking Loss With Uncertainty: Illustrated in Relative Depth Estimation
Istanbul Technical University(伊斯坦布尔理工大学)
本文提出了一种新的方法来解决从单幅图像中进行相对深度估计的问题。我们不是直接对深度分数进行回归,而是将问题表述为对深度上的概率分布的估计,并旨在学习使给定数据的可能性最大化的分布参数。为了训练我们的模型,我们提出了一个新的排名损失,分布损失,它试图增加更远的像素的深度大于更近的像素的深度的概率。我们提出的方法允许我们的模型以分布的标准差的形式输出其估计的置信度。我们根据多个基线实现了最先进的结果,同时为我们的估计提供了信心。我们的分析表明,估计的置信度实际上是准确性的一个很好的指标。我们调查使用的置信度信息的下游任务的度量深度估计,以提高其性能。
2020-10-14 cs.CV
Support Neighbor Loss for Person Re-Identification
Northeastern University(东北大学);Indiana University-Purdue University(印第安纳大学-普渡大学)
由于深度卷积神经网络(CNN)的进步,人员重新识别(re-ID)最近得到了极大的推动。大多数深度re-ID方法专注于设计新的CNN架构,而较少关注研究损失函数。验证损失和识别损失是广泛用于训练各种深度re-ID模型的两种类型的损失,然而这两种损失都具有局限性。验证损失引导网络生成类内方差减小而类间方差增大的特征嵌入。然而,当训练样本数量较大时,带有验证损失的训练网络往往收敛速度慢,性能不稳定。另一方面,识别损失具有良好的分离性和可扩展性。但是,它忽略了显式地减少类内方差,这限制了它在re-ID上的性能,因为同一个人在不同的相机视图中可能具有显著的外观差异。为了避免这两种损失的局限性,我们提出了一种新的损失,称为支持邻居(SN)损失。SN损失不是从数据样本对或三元组导出的,而是基于每个锚样本的正和负支持邻居集来计算的,其包含更有价值的上下文信息和有利于更稳定性能的邻居结构。为了确保可扩展性和可分性,制定了一个softmax类函数来分开正支持集和负支持集。为了减少类内方差,锚点的最近正邻居和最远正样本之间的距离会受到惩罚。在Resnet50之上集成SN损失,在几个广泛使用的数据集上获得了优于最先进的re-ID结果。
2018-08-18 cs.CV
An Uncertainty-aware Loss Function for Training Neural Networks with Calibrated Predictions
University of Tehran(德黑兰大学);Deakin University(迪肯大学);University of Calgary(卡尔加里大学)
机器学习和深度学习方法的不确定性量化在增强对所获得结果的信任方面起着重要作用。近年来,许多不确定度量化方法被引入。蒙特卡罗丢弃(MC-丢弃)是量化深度学习方法中不确定性的最知名技术之一。在这项研究中,我们提出了两个新的损失函数结合交叉熵与预期校准误差(ECE)和预测熵(PE)。所获得的结果清楚地表明,新提出的损失函数导致具有校准的MC-Dropout方法。我们的研究结果证实了新的混合损失函数的巨大影响,在不牺牲模型的整体性能的情况下,最大限度地减少正确和不正确预测的不确定性估计分布之间的重叠。
2023-02-06 cs.CV cs.LG
Uncertainty-Aware Voxel based 3D Object Detection and Tracking with von-Mises Loss
University of Michigan(密歇根大学)
目标检测与跟踪是实现自主飞行的关键。具体地,3D目标检测和跟踪最近已经成为新兴的热门话题。尽管已经提出了各种方法用于目标检测,但是3D检测和跟踪任务中的不确定性较少被探索。不确定性有助于我们解决感知系统中的错误并提高鲁棒性。针对三维目标检测中最具代表性的SECOND检测算法,提出了一种通过在SECOND检测器中加入不确定性回归来提高目标跟踪性能的方法。我们的方法估计的位置和尺寸的不确定性与高斯负对数似然(NLL)损失估计和角度不确定性估计引入冯米塞斯NLL损失。我们将不确定性输出馈送到经典的目标跟踪框架中,并证明了与具有常数协方差假设的香草跟踪器相比,我们的方法提高了跟踪性能。
2020-11-04 cs.CV cs.LG
Robust Depth Completion with Uncertainty-Driven Loss Functions
School of Artificial Intelligence, Xidian University(西安电子科技大学人工智能学院);Lane Dep. of CSEE, West Virginia University(西弗吉尼亚大学计算机科学与电气工程系)
从稀疏LiDAR扫描恢复密集深度图像是一项具有挑战性的任务。尽管用于稀疏到密集深度完成的颜色引导方法很受欢迎,但它们在优化过程中平等地对待像素,忽略了稀疏深度图中的不均匀分布特征和合成地面实况中的累积离群值。在这项工作中,我们引入不确定性驱动的损失函数,以提高深度完成的鲁棒性和处理深度完成中的不确定性。具体来说,我们提出了一个明确的不确定性制定强大的深度完成与杰弗里的先验。引入参数不确定性驱动的损失,并将其转换为对噪声或缺失数据具有鲁棒性的新的损失函数。同时,我们提出了一个多尺度联合预测模型,可以同时预测深度和不确定性地图。估计的不确定性图还用于对具有高不确定性的像素执行自适应预测,从而产生用于细化完成结果的残差图。我们的方法已经在KITTI深度完井基准上进行了测试,并在MAE,IMAE和IRMSE指标方面实现了最先进的鲁棒性性能。
2021-12-28 cs.CV cs.LG
Gradient-based Uncertainty for Monocular Depth Estimation
Ulm University(乌尔姆大学);Otto von Guericke University Magdeburg(奥托·冯·格里克马格德堡大学)
本文提出一种基于梯度的单目深度估计事后不确定性方法,利用图像水平翻转一致性构造辅助损失,无需真值或重训练,在KITTI和NYU Depth V2上达到最先进水平。
2022-08-03 cs.CV
A New Loss Function for CNN Classifier Based on Pre-defined Evenly-Distributed Class Centroids
Shanghai University(上海大学)
随着近年来卷积神经网络(CNN)的发展,网络结构越来越复杂多变,在模式识别、图像分类、目标检测和跟踪等方面取得了非常好的效果。对于用于图像分类的CNN,除了网络结构外,越来越多的研究集中在损失函数的改进上,以尽可能扩大类间特征差异,减少类内特征变异。除了传统的Softmax,典型的损失函数还有L-Softmax、AM-Softmax、ArcFace和Center loss等。本文基于CSAE网络中预定义的均匀分布类质心(PEDCC)的概念,提出了一种基于PEDCC的损失函数PEDCC-Loss。通过对图像分类和人脸识别的多个实验证明,该方法具有最佳的识别精度,且网络训练稳定,易于收敛。代码可在https://github.com/ZLeopard/PEDCC-Loss上获得
2019-04-26 cs.CV
Hetero-Center Loss for Cross-Modality Person Re-Identification
School of Mechanical and Electric Engineering, Guangzhou University(广州大学机械与电气工程学院);School of Information Science and Engineering, Yunnan University(云南大学信息科学与工程学院)
跨通道的行人识别是一个具有挑战性的问题,它需要从红外通道的图像库中提取出RGB通道的行人图像。该任务可以解决基于RGB的人Re-ID在黑暗环境中的限制。现有的研究主要集中在扩大特征的类间差异来解决这一问题。然而,很少有研究调查提高类内跨通道相似性,这是很重要的这个问题。在本文中,我们提出了一种新的损失函数,称为异中心损失(HC损失),以减少类内跨模态的变化。具体地说,HC损失可以通过约束两个异质模态之间的类内中心距离来监督网络学习跨模态不变信息。在交叉熵损失和模态损失的共同监督下,训练网络以实现两个重要目标,即尽可能多的类间差异和类内跨模态相似性。此外,我们提出了一个简单而高性能的网络架构,学习跨模态的人重新识别的本地特征表示,这可以是未来研究的基线。大量的实验表明,所提出的方法的有效性,它优于国家的最先进的方法,由一个很大的保证金。
2019-10-22 cs.CV eess.IV
Uncertainty-Guided Attention and Entropy-Weighted Loss for Precise Plant Seedling Segmentation
Faculty of Computer Science October University for Modern Science \& Arts Giza, Egypt
本文提出UGDA-Net,通过不确定性引导双注意力、熵加权损失和深度监督提升植物幼苗分割精度,实验表明其在Dice系数和减少假阳性方面优于基线模型。
2026-04-12 cs.CV cs.LG
Predictive Uncertainty Quantification for Bird's Eye View Segmentation: A Benchmark and Novel Loss Function
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Cypress Woods High School(赛普拉斯伍兹高中)
本文提出了一个针对鸟瞰图分割预测不确定性量化的综合基准,并设计了新型损失函数UFCE及正则化项,有效改进了误分类与OOD像素检测及模型校准。
2025-03-02 cs.CV cs.LG
GUESS: Generative Uncertainty Ensemble for Self Supervision
West Virginia University(西弗吉尼亚大学)
针对自监督学习中确定性增强不变性可能损害下游性能的问题,提出GUESS伪白化框架,通过数据派生不确定性与多失真集成实现更鲁棒的表示学习。
2024-12-03 cs.CV cs.LG
Incorporating Boundary Uncertainty into loss functions for biomedical image segmentation
University of Cambridge(剑桥大学);Imperial College London(帝国理工学院)
手动分割被用作评估神经网络自动图像分割任务的黄金标准。由于在形状,颜色和纹理的相当大的异质性,标定对象的边界是特别困难的生物医学图像,导致显着的评级者之间和内部的变化。软标签和距离惩罚项等方法将全局变换应用于地面实况,重新定义关于不确定性的损失函数。然而,全局操作在计算上是昂贵的,并且这两种方法都不能准确地反映手动注释的不确定性。在本文中,我们提出了边界不确定性,它使用形态学操作来限制对象边界的软标签,提供了一个适当的表示地面真实标签的不确定性,并可能适用于使系统的手动分割错误存在鲁棒的模型训练。我们将边界不确定性与骰子损失相结合,与软标签和距离加权惩罚相比,在三个经过充分验证的生物医学成像数据集上实现了持续改进的性能。边界不确定性不仅更准确地反映了分割过程,而且它也是有效的,对分割错误具有鲁棒性,并具有更好的泛化能力。
2021-10-31 cs.AI cs.CV eess.IV
Different Corruptions, Different Signals: Uncertainty and Loss in Federated Data Quality
University of Glasgow(格拉斯哥大学)
本文在联邦学习中比较了输入条件不确定性与预测-标签损失两种损坏检测信号,发现标签翻转宜用损失检测,图像噪声宜用期望熵不确定性,强调信号需与损坏类型匹配。
2026-09-28 cs.AI cs.CV cs.LG
Encouraging Intra-Class Diversity Through a Reverse Contrastive Loss for Better Single-Source Domain Generalization
LIRIS(里昂图像与信息系统实验室);École Centrale de Lyon(里昂中央理工学院);Thales LAS France(法国泰雷兹激光系统公司)
传统的深度学习算法在训练数据的域之外进行测试时通常无法推广。这个问题可以通过在训练时使用来自目标域的未标记数据来缓解,但是由于一旦部署了学习模型,数据分布就会在现实应用中动态变化,因此创建对未知和不可预见的域变化具有鲁棒性的网络至关重要。在本文中,我们将重点讨论神经网络无法做到这一点的原因之一:深度网络只关注最明显的、可能是虚假的线索来进行预测,而对有用但效率略低或更复杂的模式视而不见。这种行为已经被发现,有几种方法部分解决了这个问题。为了研究它们的有效性和局限性,我们首先设计了一个公开的基于MNIST的基准测试,以精确地测量算法找到“隐藏”模式的能力。然后,我们通过我们的基准测试评估最先进的算法,并表明这个问题在很大程度上是未解决的。最后,我们提出了一个部分反向的对比损失,以鼓励类内的多样性,并找到不太强的相关模式,其效率是由我们的实验证明。
2023-02-02 cs.AI cs.CV cs.LG
Distinction Maximization Loss: Efficiently Improving Out-of-Distribution Detection and Uncertainty Estimation by Replacing the Loss and Calibrating
Universidade Federal de Pernambuco(伯南布哥联邦大学);Montreal Institute for Learning Algorithms, University of Montreal(蒙特利尔大学蒙特利尔学习算法研究所)
构建鲁棒的确定性神经网络仍然是一个挑战。一方面,某些方法在某些情况下以降低分类准确度为代价来改进分布外检测。另一方面,一些方法以降低推理效率为代价同时提高分类精度、不确定性估计和分布外检测。在本文中,我们提出使用DisMax损失来训练确定性神经网络,它可以作为通常SoftMax损失的替代品(即,线性输出层、SoftMax激活和交叉熵损失的组合)。从IsoMax+损失开始,我们根据到所有原型的距离创建每个logit,而不仅仅是与正确类相关的距离。我们还引入了一种机制来结合图像,构建我们所谓的分数概率正则化。此外,我们提出了一种快速的方法来校准后的网络训练。最后,我们提出了一个综合得分来执行分布外检测。我们的实验表明,DisMax通常优于目前的方法,同时在分类精度,不确定性估计,和分布外检测,同时保持确定性神经网络推理效率。重现结果的代码可在https://github.com/dlmacedo/distinction-maximization-loss上获得。
2022-08-05 cs.AI cs.CV cs.LG
One-Class Feature Learning Using Intra-Class Splitting
Institute of Signal Processing and System Theory(信号处理与系统理论研究所);University of Stuttgart(斯图加特大学)
提出了一种基于类内分裂的通用单类特征学习方法。在一类分类中,特征学习具有挑战性,因为在训练期间只能获得一类的样本。因此,最先进的方法需要参考多类数据集来预训练特征提取器。相比之下,该方法通过将给定的正常类分为典型和非典型正常样本来实现特征学习。通过引入贴近度损失和离散度损失,在分裂后的两个子集之间进行类内联合训练,从而能够提取对单类分类有价值的特征。在三个著名的图像分类数据集上的各种实验证明了我们的方法的有效性,其平均性能优于其他基线模型。
2019-11-20 cs.CV cs.LG stat.ML
Cross-Slice Attention and Evidential Critical Loss for Uncertainty-Aware Prostate Cancer Detection
VoxelCloud, Inc.(体素云科技公司)
本文提出一种结合全局与局部信息的2.5D跨切片注意力模型及证据临界损失,用于前列腺癌MR图像检测,在两个数据集上取得最先进性能并改善不确定性估计。
2024-07-01 cs.CV eess.IV
Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
许多无监督域自适应(UDA)人员重新识别(ReID)方法将基于聚类的伪标签预测与特征微调相结合。然而,由于域间隙,伪标签并不总是可靠的,并且存在噪声/不正确的标签。这会误导特征表示学习并降低性能。在本文中,我们提出了估计和利用每个样本的分配的伪标签的可信度,以减轻噪声标签的影响,通过抑制噪声样本的贡献。我们使用平均教师方法以及额外的对比损失来构建我们的基线框架。我们已经观察到,通过聚类具有错误伪标签的样本通常在平均教师模型和学生模型的输出之间具有较弱的一致性。基于这一发现,我们建议利用不确定性(通过一致性水平测量)来评估样本伪标签的可靠性,并将不确定性重新加权其在各种ReID损失中的贡献,包括每个样本的身份(ID)分类损失,三重损失和对比损失。我们的不确定性引导优化带来了显着的改进,并在基准数据集上实现了最先进的性能。
2020-12-17 cs.AI cs.CV
Modeling Latent Variable Uncertainty for Loss-based Learning
INRIA Saclay(法国国家信息与自动化研究所萨克雷中心);Stanford University(斯坦福大学)
我们考虑使用弱监督数据集的参数估计问题,其中训练样本由输入和部分指定的注释组成,我们称之为输出。注释中缺失的信息使用隐变量建模。以前的方法用两个单独的任务来覆盖单个分布:(i)在训练期间对潜变量中的不确定性进行建模;以及(ii)在测试期间对输出和潜变量进行准确预测。我们提出了一个新的框架,使用两种分布来分离两个任务的需求:(i)条件分布,用于对给定输入-输出对的潜变量的不确定性进行建模;以及(ii)增量分布,用于预测给定输入的输出和潜变量。在学习过程中,我们通过最小化基于损失的相异度系数来鼓励两个分布之间的一致性。我们的方法在两个重要方面概括了潜在SVM:(i)它对潜在变量的不确定性进行建模,而不是依赖于逐点估计;(ii)它允许使用依赖于潜在变量的损失函数,这大大提高了它的适用性。我们证明了我们的方法在两个具有挑战性的问题-目标检测和动作检测-使用公开的数据集的有效性。
2012-06-18 cs.AI cs.CV cs.LG
Towards Better Performance and More Explainable Uncertainty for 3D Object Detection of Autonomous Vehicles
Shanghai Jiao Tong University(上海交通大学);University of California Berkeley(加州大学伯克利分校)
在本文中,我们提出了一种新形式的损失函数,以提高基于激光雷达的三维目标检测的性能,并获得更多的解释和令人信服的预测不确定性。利用角点变换和不确定性建模设计了损失函数。使用新的损失函数,我们的方法在KITTI数据集的val分裂上的性能显示出与使用简单的L1损失的基线相比,平均精度(AP)提高了15%。在对预测不确定性特征的研究中,我们发现,一般来说,对限界框的预测越准确,不确定性越低。角点不确定性的分布与点云在限界框中的分布一致,即观察点密集的角点具有较低的不确定性。此外,我们的方法还学习了长方体几何的限界框的不确定性预测的约束。最后,我们提出了一个有效的贝叶斯更新方法来恢复的不确定性的原始参数的包围盒,可以帮助提供概率结果的规划模块。
2020-08-17 cs.CV cs.LG cs.RO
Angular Learning: Toward Discriminative Embedded Features
University of Jinan(济南大学)
基于边缘的softmax损失函数极大地提高了类内的紧凑性,并在人脸识别和对象分类的任务上表现良好。然而,超越性能取决于仔细的超参数选择。此外,硬角度限制也增加了过拟合的风险。本文提出的角损失方法通过最大化角梯度来提高类内紧性,避免了过拟合。此外,我们的方法只有一个可调常数的类内紧凑性控制。我们定义了三个度量来衡量类间的可分性和类内的紧凑性。在实验中,我们在许多知名的数据集上测试了我们的方法以及其他方法。实验结果表明,该方法具有准确性提高,判别信息,和时间消耗的优势。
2019-12-17 cs.CV cs.LG stat.ML
FocalErrorNet: Uncertainty-aware focal modulation network for inter-modal registration error estimation in ultrasound-guided neurosurgery
Concordia University(康考迪亚大学)
提出基于3D焦点调制与不确定性估计的深度学习技术FocalErrorNet,用于评估超声引导神经外科手术中MRI-iUS配准误差,在RESECT数据库上实现0.59±0.57 mm的估计误差。
2023-07-26 cs.CV eess.IV
Confidence Calibration and Predictive Uncertainty Estimation for Deep Medical Image Segmentation
The University of British Columbia(不列颠哥伦比亚大学);Harvard Medical School(哈佛医学院)
全卷积神经网络(FCN),特别是U-Net,在许多医学成像应用的语义分割方面取得了最先进的成果。此外,批量规范化和骰子丢失已成功用于稳定和加速训练。然而,这些网络校准不良,即它们倾向于在正确和错误的分类中产生过度自信的预测,使其不可靠且难以解释。在本文中,我们研究了预测不确定性估计的FCNs的医学图像分割。我们做了以下贡献:1)我们系统地比较了交叉熵损失和Dice损失在分割质量和不确定性估计方面的FCNs; 2)我们提出了模型集成,用于批量归一化和Dice损失训练的FCNs的置信度校准; 3)我们评估了校准的FCNs预测结构分割质量和检测分布外测试示例的能力。我们在大脑,心脏和前列腺的三个医学图像分割应用程序进行了广泛的实验,以评估我们的贡献。本研究的结果提供了相当深入的预测不确定性估计和分布外检测在医学图像分割,并提供了实用的配方置信度校准。此外,我们一贯表明,模型集成提高了置信度校准。
2020-06-29 cs.CV eess.IV
Uncertainty-aware GAN with Adaptive Loss for Robust MRI Image Enhancement
IIT-Bombay(印度理工学院孟买分校);TCS Research(塔塔咨询服务研究中心)
图像到图像的转换是一个不适定的问题,因为在源图像和目标图像之间可能不存在唯一的一对一映射。在这种情况下提出的基于学习的方法通常评估测试数据的性能,这可能是不切实际的。这需要强大的方法,可以量化预测中的不确定性,以便做出明智的决策,特别是对于医学成像等关键领域。最近采用条件生成对抗网络(GANs)的工作在学习源图像和目标图像之间的照片级逼真图像到图像映射方面表现出了改进的性能。然而,这些方法不关注(i)模型对分布外(OOD)噪声数据的鲁棒性和(ii)不确定性量化。本文提出了一种基于GAN的框架,该框架(i)~对自适应损失函数进行建模,以实现对OOD噪声数据的鲁棒性,该自适应损失函数自动调整空间变化范数以惩罚残差,以及(ii)~估计预测中的每体素不确定性。我们在医学成像中的两个关键应用上证明了我们的方法:(i)欠采样磁共振成像(MRI)重建(ii)MRI模态传播。我们对两个不同的真实世界数据集的实验表明,所提出的方法(i)对OOD噪声测试数据具有鲁棒性,并提供了更高的准确性,(ii)量化了预测中的体素级不确定性。
2021-10-07 cs.CV cs.LG eess.IV
Open-Set LiDAR Panoptic Segmentation Guided by Uncertainty-Aware Learning
Department of Computer Science, University of Freiburg(弗赖堡大学计算机科学系);Bosch Research, Robert Bosch GmbH(博世研究)
针对自动驾驶场景下闭集激光雷达全景分割模型无法检测未知物体的问题,提出基于狄利克雷证据学习的不确定性引导开集分割框架ULOPS,通过三类不确定性损失增强已知/未知区分能力,在KITTI-360和nuScenes上取得优于现有方法的表现。
2025-09-02 cs.AI cs.CV cs.LG
Analytical Uncertainty-Based Loss Weighting in Multi-Task Learning
University of Mannheim(曼海姆大学);Center for AI, Robert Bosch(罗伯特·博世公司人工智能中心);MPI for Intelligent Systems(马克斯·普朗克智能系统研究所)
针对多任务学习中任务损失平衡的难题,提出基于解析不确定性、带可调温度softmax归一化的新型加权方法,性能优于六种常用方法,接近暴力标量化方案且成本更低,还给出实用实验发现。
2024-08-15 cs.AI cs.CV cs.LG
An Uncertainty-Aware Loss Function Incorporating Fuzzy Logic: Application to MRI Brain Image Segmentation
Department of Mathematics, Bareilly College, Bareilly (MJP Rohilkhand University), Uttar Pradesh(巴里利学院数学系,巴里利(MJP罗希尔坎德大学),乌塔尔 Pradesh);CSIR-Central Electronics Engineering Research Institute, Pilani, Rajasthan(CSIR-中央电子工程研究机构,比兰蒂,拉贾斯坦);CICMR, Regional Medical Research Center, Dibrugarh, India(CICMR,迪布格尔中心医学研究中心,印度);Department of Statistics, Bareilly College, Bareilly, Uttar Pradesh(巴里利学院统计系,巴里利,乌塔尔 Pradesh)
本文提出一种融合模糊逻辑的损失函数,用于解决MRI脑图像分割中的不确定性问题,通过结合分类交叉熵和模糊熵,提升分割性能和模型预测可靠性。
2026-04-13 cs.AI cs.CV cs.LG
Epistemic Uncertainty-Weighted Loss for Visual Bias Mitigation
University of Leeds(利兹大学)
针对深度神经网络易学习视觉数据偏见且现有缓解方法依赖偏见先验知识的问题,提出基于贝叶斯神经网络的预测不确定性加权损失函数,通过动态识别样本认知不确定性并加权以缓解偏见,在基准和真实数据上验证了有效性。
2024-06-04 cs.AI cs.CV cs.CY
Challenge Summary U-MedSAM: Uncertainty-aware MedSAM for Medical Image Segmentation
University at Albany, State University of New York (SUNY)(纽约州立大学奥尔巴尼分校);College of Integrated Health Sciences and the AI Plus Institute, University at Albany, State University of New York (SUNY)(纽约州立大学奥尔巴尼分校整合健康科学学院及AI Plus研究所);School of Physics and Electronics, Shandong Normal University(山东师范大学物理与电子科学学院);School of Computing and Artificial Intelligence, Southwest Jiaotong University(西南交通大学计算机与人工智能学院);Purdue University(普渡大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
针对医学图像基础模型预测不确定性评估难的问题,研究提出融合MedSAM、不确定性感知损失与SharpMin优化器的U-MedSAM模型,在CVPR24相关挑战赛中表现出良好的分割性能与泛化能力。
2025-01-17 cs.AI cs.CV eess.IV