J Regularization Improves Imbalanced Multiclass Segmentation
Beckman Institute at Caltech（加州理工学院贝克曼研究所）；Howard Hughes Medical Institute（霍华德·休斯医学研究所）
我们提出了一个新的损失公式，以进一步推进在弱监督条件下杂乱细胞的多类分割。当我们将Youden的$J$统计正则化项添加到交叉熵损失时，我们改进了接触和直接细胞的分离，获得了高充分性的尖锐分割边界。这种正则化本质上支持类不平衡，从而消除了显式使用权重来平衡训练的必要性。仿真证明了这种能力，并显示了正则化如何通过在交叉熵停滞时帮助推进优化来获得更好的结果。我们在以前的多类分割工作的基础上，添加了另一个代表相邻细胞之间间隙的训练类。该添加有助于分类器将窄间隙识别为背景而不再识别为接触区域。我们提出了我们的方法的2D和3D图像的结果，从亮场到包含不同类型细胞的共聚焦堆栈，我们表明，他们准确地分割单个细胞训练后，与有限数量的注释图像，其中一些注释不佳。
2019-10-22 cs.CV
Semi-Supervised Confidence-Level-based Contrastive Discrimination for Class-Imbalanced Semantic Segmentation
The Chinese University of Hong Kong（香港中文大学）
为了克服数据饥饿的挑战，我们提出了一个半监督的对比学习框架的类不平衡的语义分割的任务。首先，为了使模型能够以半监督的方式运行，提出了基于置信度的对比学习方法，以显式的方式实现实例判别，并使低置信度的低质量特征与高置信度的特征相匹配。此外，针对裂缝分割和道路成分提取中的类不平衡问题，提出了数据不平衡损失代替传统的像素级语义分割中的交叉熵损失。最后，我们还提出了一种有效的多级融合网络结构，以提高语义分割的性能。在实际工业裂缝分割和道路分割上的大量实验证明了该框架的优越性。我们提出的方法可以提供令人满意的分割结果，即使只有3.5%的标记数据。
2022-11-28 cs.CV
MSE Loss with Outlying Label for Imbalanced Classification
Meijo University（名城大学）
在本文中，我们提出了类不平衡分类的均方误差（MSE）损失与离群标签。交叉熵损失被广泛用于图像识别，通过反向传播学习，使得真类的概率值更接近1。然而，对于不平衡数据集，对于样本数量较少的类，学习是不够的。因此，我们提出了一种新的分类方法，使用MSE损失，可以学习的所有类的关系，无论是输入的图像。与CE损失不同，MSE损失可以均衡所有类的反向传播次数，并将类之间的关系作为度量学习来学习特征空间。此外，我们使用了一种新颖的教师标签，而不是通常的单一热门教师标签，该标签考虑了班级样本的数量。这导致了离群标签依赖于每个类中的样本数量，并且样本数量较少的类在特征空间中具有离群边缘。可以创建用于分离高难度类别和低难度类别的特征空间。通过对不平衡分类和语义分割的实验，我们证实了该方法与标准CE损失和传统方法相比有很大的改进，即使只改变了损失和教师标签。
2021-07-06 cs.CV
DefectNET: multi-class fault detection on highly-imbalanced datasets
Visual Information Laboratory, University of Bristol, UK（布里斯托尔大学视觉信息实验室）
作为一种数据驱动的方法，深度卷积神经网络（CNN）的性能在很大程度上依赖于训练数据。传统网络的预测结果偏向于更大的类，这往往是语义分割任务的背景。这成为故障检测的主要问题，其中目标在图像上看起来非常小，并且在类型和大小上都不同。在本文中，我们提出了一种新的网络架构，DefectNet，它提供了高度不平衡数据集上的多类（包括但不限于）缺陷检测。DefectNet由两条并行路径组成，分别是全卷积网络和扩张卷积网络，分别检测大对象和小对象。我们提出了一种混合损失，最大限度地提高了骰子损失和交叉熵损失的有用性，我们还采用了泄漏整流线性单元（ReLU）来处理训练批次中某些目标的罕见出现。预测结果表明，我们的DefectNet在检测多类缺陷方面优于最先进的网络，在风力涡轮机上的平均精度提高了约10%。
2019-04-02 cs.CV
Comparison of Cross-Entropy, Dice, and Focal Loss for Sea Ice Type Segmentation
University of Colorado Boulder（科罗拉多大学博尔德分校）
本文比较了交叉熵、Dice和Focal三种损失函数在海冰类型分割中的表现，发现尽管Dice和Focal损失指标更高，但交叉熵结果在物理上更一致。
2023-10-26 cs.CV eess.IV
BCE3S: Binary Cross-Entropy Based Tripartite Synergistic Learning for Long-tailed Recognition
针对现有基于交叉熵的长尾识别方法存在的特征学习效果差、分类器不平衡效应放大的问题，本文提出基于二元交叉熵的三方协同学习框架BCE3S，在多个长尾数据集上取得了SOTA性能。
2025-11-18 cs.CV
CLIMD: A Curriculum Learning Framework for Imbalanced Multimodal Diagnosis
School of Computer Science；Telecommunication Engineering, \ University, China
针对多模态医疗数据类别不平衡问题，提出课程学习框架CLIMD，结合模态内置信度与模态间互补性度量及类别分布引导调度，优于现有方法且即插即用。
2025-08-03 cs.CV
SeMi: When Imbalanced Semi-Supervised Learning Meets Mining Hard Examples
Zhejiang University（浙江大学）；The Hong Kong University of Science and Technology（香港科技大学）；Central South University（中南大学）；Zhejiang Gongshang University（浙江工商大学）
针对类别不平衡半监督学习忽视难例价值的问题，提出 SeMi，通过 logits 熵差异识别难例并结合带置信度衰减的类别平衡记忆库，在多个基准上取得最优性能。
2025-01-10 cs.CV
ECL: Class-Enhancement Contrastive Learning for Long-tailed Skin Lesion Classification
Beihang University（北京航空航天大学）
本文提出类别增强对比学习（ECL），通过混合代理模型、循环更新策略及平衡损失函数，缓解长尾皮肤病变分类中的数据与诊断难度不均衡问题，提升少数类别分类性能。
2023-07-09 cs.CV
Deep Pneumonia: Attention-Based Contrastive Learning for Class-Imbalanced Pneumonia Lesion Recognition in Chest X-rays
University of Electronic Science and Technology of China（电子科技大学）；Affiliated Hospital of Chengdu University（成都大学附属医院）
计算机辅助X线肺炎病灶识别对肺炎的准确诊断具有重要意义。随着深度学习的出现，肺炎的识别准确率有了很大提高，但由于胸片的模糊外观，仍存在一些挑战。在本文中，我们提出了一个名为基于注意力的对比学习的深度学习框架，用于类别不平衡的X射线肺炎病变识别（表示为深度肺炎）。我们采用自监督对比学习策略对模型进行预训练，不使用额外的肺炎数据，充分挖掘有限的可用数据集。为了充分利用医生精心标记的病变区域的位置信息，提出了基于掩码引导的硬注意策略和基于对比调节的特征学习策略，分别应用于注意图和提取的特征，引导模型将更多的注意力集中在包含更多区分特征的病变区域，以提高识别性能。此外，我们采用类别平衡损失代替传统的交叉熵作为分类的损失函数，以解决数据集中不同类别肺炎之间严重类别不平衡的问题。实验结果表明，我们提出的框架可以作为一个可靠的计算机辅助肺炎诊断系统，以帮助医生更好地诊断肺炎病例准确。
2022-07-23 cs.CV
Densely Dilated Spatial Pooling Convolutional Network using benign loss functions for imbalanced volumetric prostate segmentation
前列腺疾病的高发病率提出了早期检测诊断的要求。磁共振成像（MRI）作为前列腺癌检测的主要成像方法之一，具有广泛的外观和不平衡问题，使自动前列腺分割成为基本但具有挑战性的问题。本文提出了一种新的密集扩展空间池卷积网络（DDSP ConNet）的编解码器结构。该算法采用稠密结构将扩张卷积和全局池化相结合，从而提供了编码器和解码器子网的粗分割结果，并保留了更多的上下文信息。为了获得更丰富的层次特征图，进一步采用残差长连接融合纹理特征。同时，采用DSC损失函数和Jaccard损失函数对DDSP ConNet进行训练。我们惊奇地发现并证明了，与加权交叉熵相比，DSC损失和Jaccard损失在理论上具有许多良好的性质，包括网络参数的对称性、连续性和可微性。在MICCAI PROMISE12挑战数据集上进行了广泛的实验，以证实我们的DDSP ConNet与DSC损失和Jaccard损失的有效性。总的来说，我们的方法在测试数据集中获得了85.78的分数，优于大多数其他竞争对手。
2018-02-01 cs.CV
IMB-NAS: Neural Architecture Search for Imbalanced Datasets
Georgia Institute of Technology（佐治亚理工学院）
类不平衡是现实世界数据分布中普遍存在的现象。为了克服它对训练准确分类器的不利影响，现有的工作遵循三个主要方向：类重新平衡，信息传输和表示学习。在本文中，我们提出了一个新的补充方向，以提高长尾数据集的性能-通过神经架构搜索（NAS）优化骨干架构。我们发现，一个架构的准确性得到一个平衡的数据集并不表示良好的性能不平衡的。这就需要在长尾数据集上运行一个完整的NAS，因为长尾数据集可能会迅速变得计算密集。为了减轻这种计算负担，我们的目标是有效地适应NAS超级网络从一个平衡的源数据集到一个不平衡的目标。在几种自适应策略中，我们发现最有效的一种是重新训练线性分类头，重新加权损失，同时冻结在平衡源数据集上训练的骨干NAS超级网络。我们在多个数据集上进行了广泛的实验，并提供了具体的见解，以优化长尾数据集的架构。
2022-09-30 cs.CV cs.LG
Contour-weighted loss for class-imbalanced image segmentation
Peking University（北京大学）
针对医学图像分割中的类别不平衡导致的过分割与欠分割问题，提出融合轮廓加权交叉熵和可分离 dice 的损失函数，在腹部器官与脑肿瘤数据集上提升了分割性能和模型鲁棒性。
2024-06-07 cs.CV eess.IV
IMWA: Iterative Model Weight Averaging Benefits Class-Imbalanced Learning Tasks
School of Computer Science and Technology, Harbin Institute of Technology（哈尔滨工业大学计算机科学与技术学院）；Megvii Research, Megvii Technology Limited（旷视科技有限公司旷视研究院）
针对类别不平衡学习任务，本文提出迭代模型权重平均（IMWA）技术，将训练划分为多片段，每个片段内训练并平均模型权重，在相同计算成本下提升性能，且可增强EMA策略方法的性能。
2024-12-04 cs.AI cs.CV
HyCal: A Training-Free Prototype Calibration Method for Cross-Discipline Few-Shot Class-Incremental Learning
Chung-Ang University（Chung-Ang 大学）；KT Corporation（KT 公司）；Dentium；ETRI
本文提出HyCal方法，通过结合余弦相似度和马氏距离，解决跨学科少样本类增量学习中的领域引力问题，提升在不平衡数据下的性能。
2026-09-16 cs.CV
A Tale of Two Classes: Adapting Supervised Contrastive Learning to Binary Imbalanced Datasets
Technical University of Munich（慕尼黑工业大学）；Munich Center for Machine Learning（慕尼黑机器学习中心）；Imperial College London（伦敦帝国学院）
针对监督对比学习在二分类不平衡数据集上表现不佳的问题，提出两种评估表示空间质量的新指标并设计适配的监督对比学习策略，最高可将下游分类准确率提升35%。
2025-03-21 cs.CV cs.LG
An Asymmetric Contrastive Loss for Handling Imbalanced Datasets
Universitas Indonesia（印度尼西亚大学）
对比学习是一种表示学习方法，通过将一个样本与其他相似样本进行对比，使它们紧密地聚集在一起，在特征空间中形成聚类。学习过程通常使用两阶段训练架构进行，并且它利用对比度损失（CL）进行特征学习。对比学习已被证明在处理不平衡数据集方面非常成功，其中一些类被过度代表，而另一些类则被代表不足。然而，以前的研究没有专门修改CL不平衡的数据集。在这项工作中，我们引入了一个非对称版本的CL，简称为ACL，以直接解决类不平衡的问题。此外，我们提出了非对称焦点对比度损失（AFCL）作为ACL和焦点对比度损失（FCL）的进一步推广。FMNIST和ISIC 2018不平衡数据集的结果表明，AFCL在加权和未加权分类精度方面都能够优于CL和FCL。在附录中，我们提供了一个完整的公理处理熵，以及完整的证明。
2022-07-14 cs.CV cs.IT cs.LG
Functional Properties of the Focal-Entropy
University of Minnesota（明尼苏达大学）；Qualcomm Flarion Technology, Inc.（高通飞思科技公司）
本文研究了焦点熵的性质，揭示了焦点损失在类别不平衡学习中的理论基础和权衡机制。
2026-03-03 cs.CV cs.IT cs.LG
Improving Cone-Beam CT Image Quality with Knowledge Distillation-Enhanced Diffusion Model in Imbalanced Data Settings
Korea Advanced Institute of Science and Technology（韩国科学技术院）；Yonsei University College of Medicine（延世大学医学院）；Yonsei Cancer Center（延世癌症中心）；OncoSoft
针对放射治疗中CBCT图像组织密度不准的问题，提出结合知识蒸馏的自训练扩散模型，利用2800对配对数据及4200个CBCT数据，生成高质量CT图像，优于Pix2pix和CycleGAN。
2024-09-19 cs.CV
Learning Imbalanced Datasets with Label-Distribution-Aware Margin Loss
Stanford University（斯坦福大学）；Toyota Research Institute（丰田研究院）
当训练数据集存在严重的类不平衡时，深度学习算法可能会表现不佳，但测试标准需要对不太频繁的类进行良好的泛化。我们设计了两种新的方法来提高在这种情况下的性能。首先，我们提出了一个理论上的原则标签分布感知利润（LDAM）损失的动机，最大限度地减少基于利润的推广界。这种损失在训练过程中取代了标准的交叉熵目标，并且可以应用于具有类别不平衡的训练的先前策略，例如重新加权或重新采样。其次，我们提出了一个简单而有效的训练计划，将重新加权推迟到初始阶段之后，允许模型学习初始表示，同时避免与重新加权或重新采样相关的一些复杂性。我们在多个基准视觉任务上测试了我们的方法，包括现实世界的不平衡数据集iNaturalist 2018。我们的实验表明，这些方法中的任何一种单独使用都可以比现有技术有所改进，并且它们的组合可以实现更好的性能提升。
2019-10-27 cs.CV cs.LG stat.ML
Semantic Segmentation of highly class imbalanced fully labelled 3D volumetric biomedical images and unsupervised Domain Adaptation of the pre-trained Segmentation Network to segment another fully unlabelled Biomedical 3D Image stack
Indian Institute of Science（印度科学学院）
我们工作的目标是对三维生物医学体数据进行像素标签语义分割。对于大型的生物医学数据集，人工标注一直是一个难题。因此，我们考虑两种情况，其中一个数据集是完全标记的，另一个数据集假设是完全未标记的。我们首先对完全标记的各向同性生物医学源数据（FIBSEM）执行语义分割，并尝试将训练模型用于分割目标未标记数据集（SNEMI3D），该数据集在不同类型的细胞体和其他细胞成分的背景下与源数据集具有一些相似性。虽然，细胞成分的大小和形状各不相同。因此，在本文中，我们提出了一种新的方法，在无监督的领域自适应的上下文中，同时分类到细胞边界和细胞体的目标体数据的每个像素。此外，我们提出了一种新的方法，给予非均匀的权重，以不同的像素在训练图像中，同时执行像素级的语义分割的存在下，相应的像素明智的标签地图以及在源域中的训练原始图像。我们已经使用了熵图或距离变换矩阵从给定的地面真值标签图检索，这有助于克服医学图像数据中的类不平衡问题，其中细胞边界非常薄，因此非常容易被误分类为非边界。
2020-03-13 cs.CV
Revisiting Generative Adversarial Networks for Binary Semantic Segmentation on Imbalanced Datasets
Tampere University（坦佩雷大学）
针对不平衡路面数据集下二值语义分割性能下降的问题，提出融合注意力机制与熵策略的cGANs结合辅助网络的框架，经两阶段交替训练，在六个路面数据集上取得当前最优的鲁棒检测效果。
2024-03-07 cs.CV cs.LG eess.IV
Inducing Neural Collapse in Imbalanced Learning: Do We Really Need a Learnable Classifier at the End of Deep Neural Network?
JD Explore Academy（京东探索研究院）；Peking University（北京大学）；Zhejiang University（浙江大学）；Pazhou Laboratory（琶洲实验室）
用于分类的现代深度神经网络通常联合学习用于表示的骨干和线性分类器以输出每个类别的logit。最近的一项研究表明了一种称为神经崩溃的现象，即在平衡数据集上训练的最终阶段，特征和分类器向量的类内均值收敛到单纯形等角紧框架（ETF）的顶点。由于ETF几何结构最大限度地分离了分类器中所有类的成对角度，因此很自然地提出了这样一个问题：当我们知道分类器的最佳几何结构时，为什么我们还要花费精力来学习它？在本文中，我们研究的潜力学习神经网络的分类随机初始化为ETF和固定在训练过程中。我们基于层剥离模型的分析工作表明，即使数据集在类之间不平衡，使用固定ETF分类器的特征学习也会自然导致神经崩溃状态。我们进一步表明，在这种情况下，交叉熵（CE）的损失是不必要的，可以用一个简单的平方损失，共享相同的全局最优性，但享有更好的收敛性。我们的实验结果表明，我们的方法是能够带来显着的改善，在多个不平衡数据集上的收敛速度更快。
2022-10-12 cs.CV cs.LG
Offset Curves Loss for Imbalanced Problem in Medical Segmentation
University of Arkansas（阿肯色大学）；Carnegie Mellon University（卡内基梅隆大学）
医学图像分割在医学分析中起着重要的作用，并在许多临床应用中得到了广泛的发展。基于深度学习的方法在语义分割方面取得了很高的性能，但它们仅限于像素设置和不平衡的类数据问题。在本文中，我们通过开发一种新的基于深度学习的模型来解决这些限制，该模型考虑了较高的特征级别（即轮廓内的区域），中间特征级别（即轮廓周围的偏移曲线）和较低的特征级别（即轮廓）。我们提出的偏移曲线（OsC）损失由三个主要拟合项组成。第一个拟合项侧重于像素级分割，而第二个拟合项充当关注边界（偏移曲线）周围区域的注意力模型。第三项起着正则化项的作用，它考虑了边界的长度。我们评估了我们提出的2D网络和3D网络上的OsC损失。两个常见的医疗数据集，即视网膜DRIVE和脑肿瘤BRATS 2018数据集，用于对我们提出的损失性能进行基准测试。实验表明，我们提出的OsC损失函数在最常见的分割网络Unet、FCN上的性能优于其他主流损失函数，例如交叉熵、Dice、Focal。
2020-12-04 cs.CV eess.IV
GFPL: Generative Federated Prototype Learning for Resource-Constrained and Data-Imbalanced Vision Task
Xi’an Jiaotong University（西安交通大学）；Air Force Engineering University（空军工程大学）
GFPL通过生成式联邦原型学习方法，解决联邦学习中因多数类特征偏见导致的知识融合效率低下和通信开销过大的问题，提升模型准确率并降低通信成本。
2026-02-25 cs.CV cs.LG
Simultaneous Long-tailed Recognition and Multi-modal Fusion for Highly Imbalanced Multi-modal Data
Department of Industrial and Systems Engineering, Korea Advanced Institute of Science and Technology (KAIST)（工业与系统工程系，韩国科学技术院（KAIST））
本文提出一种处理长尾分布多模态数据的新框架，通过融合异质数据并利用模态特定网络增强信息，提升在长尾类不平衡场景下的性能。
2026-05-11 cs.AI cs.CV stat.ML
Active Label Refinement for Robust Training of Imbalanced Medical Image Classification Tasks in the Presence of High Label Noise
Center for Imaging Science, Rochester Institute of Technology（罗切斯特理工学院成像科学中心）；University of Aberdeen（阿伯丁大学）；Biomedical Engineering, Rochester Institute of Technology（罗切斯特理工学院生物医学工程系）
本文提出结合LNL与主动学习的两阶段标签精炼框架，引入梯度方差采样少数类，在有限预算下提升高噪声、类别不平衡医学图像分类的鲁棒性。
2024-10-24 cs.CV cs.LG
DASO: Distribution-Aware Semantics-Oriented Pseudo-label for Imbalanced Semi-Supervised Learning
KAIST（韩国科学技术院）；UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
传统的半监督学习（SSL）方法由于类别不平衡和类别分布不匹配导致伪标签严重偏差，其性能与实际应用相差甚远。本文解决了这样一个相对不足的问题。首先，我们提出了一个一般的伪标签框架，类自适应地混合语义伪标签从基于相似性的分类器的线性分类器的线性，观察后，这两种类型的伪标签具有互补的属性的偏见。我们进一步引入了一种新的语义对齐损失，建立平衡的特征表示，以减少有偏见的预测分类。我们称整个框架为分布式感知面向语义（DASO）伪标签。我们在广泛的不平衡基准测试中进行了广泛的实验：CIFAR 10/100-LT，STL 10-LT和具有开集类的大规模长尾Semi-Aves，并证明，所提出的DASO框架可靠地改进了具有未标记数据的SSL学习器，特别是当（1）类不平衡和（2）分布不匹配占主导地位时。
2022-06-02 cs.AI cs.CV cs.LG
CALF: A Conditionally Adaptive Loss Function to Mitigate Class-Imbalanced Segmentation
Åbo Akademi University（奥博学术大学）；School of Engineering, University of Melbourne（墨尔本大学工程学院）；Delft University of Technology（代尔夫特理工大学）；Sorbonne Université（索邦大学）；Centre for Eye Research Australia（澳大利亚眼科研究中心）；Royal Victorian Eye & Ear Hospital（维多利亚皇家眼耳医院）
本文提出统计驱动的条件自适应损失函数CALF，通过偏度和峰度估计不平衡严重程度并动态选择损失，在多个医学影像分割数据集上显著提升分割性能。
2025-04-06 cs.CV eess.IV
DINO-Mix: Distilling Foundational Knowledge with Cross-Domain CutMix for Semi-supervised Class-imbalanced Medical Image Segmentation
DINO-Mix通过引入预训练视觉模型和渐进性不平衡感知CutMix，解决半监督医学图像分割中少数类识别困难的问题。
2026-02-08 cs.CV eess.IV
Data Augmentation in Emotion Classification Using Generative Adversarial Networks
Beihang University（北京航空航天大学）；Beijing San Kuai Yun Technology Co., Ltd.（北京三快云科技有限公司）
利用少量的样本对具有多个类别标签的图像进行分类是一项困难的任务，特别是当标签（类别）分布不平衡时。情绪分类是不平衡标签分布的这样一个示例，因为与其他标签（如{ \it快乐或悲伤}）相比，像\emph{disgusted}这样的一些情绪类别相对较少。在本文中，我们提出了一种使用生成对抗网络（GAN）的数据增强方法。它可以补充和完善数据流形，并在相邻类之间找到更好的边缘。具体来说，我们设计了一个框架，其中CNN模型作为分类器，周期一致性对抗网络（CycleGAN）作为生成器。为了避免梯度消失问题，我们采用最小二乘损失作为对抗损失。我们还提出了几种评估方法在三个基准数据集上验证GAN的性能。实验结果表明，采用基于GAN的数据增强技术后，分类精度可提高5%~10%.
2017-12-14 cs.CV
Resolving Class Imbalance in Object Detection with Weighted Cross Entropy Losses
OKI Electric Industry Co., Ltd.（冲电气工业株式会社）
目标检测是计算机视觉中的一项重要任务，在自动驾驶、监控和机器人等领域有着广泛的应用。随着大规模数据的快速发展，在过去的十年中开发了许多最先进的通用对象检测器（例如Faster R-CNN，YOLO，SSD）。尽管不断努力修改模型和改进训练策略以提高检测精度，但在涉及对象类分布不均匀的专业数据集时，检测器的性能仍然存在局限性。这是由于交叉熵损失函数在对象分类子任务中的普遍使用，它简单地忽略了对象类在训练过程中出现的频率，从而导致样本数量较少的对象类的准确率较低。一般机器学习中的类不平衡问题已经得到了广泛的研究，但在目标检测中的研究却很少。在本文中，我们建议探索和克服这样的问题，通过应用交叉熵损失的几个加权变量，例如平衡交叉熵，焦点损失和基于有效样本数的类平衡损失到我们的目标检测器。使用BDD 100 K（从车载摄像机获取的高度类别不平衡的驾驶数据库，该数据库捕获主要是汽车类对象和其他少数对象类，如公共汽车、人和汽车）的实验已经证明了用上述损失函数训练的检测器的更好的类方面性能。
2020-06-02 cs.CV
Towards Balanced RGB-TSDF Fusion for Consistent Semantic Scene Completion by 3D RGB Feature Completion and a Classwise Entropy Loss Function
School of Science and Engineering, The Chinese University of Hong Kong (Shenzhen)（香港中文大学（深圳）理工学院）；School of Artificial Intelligence, Shenzhen Polytechnic University（深圳职业技术大学人工智能学院）
针对RGB-TSDF融合中因RGB特征稀疏导致的不一致问题，提出两阶段网络，通过三维RGB特征补全模块和类别熵损失函数实现均衡融合，在公开数据集上取得不依赖额外数据的最优语义场景补全性能。
2024-11-23 cs.CV
Rare-Aware Autoencoding: Reconstructing Spatially Imbalanced Data
Delft University of Technology (TU Delft)（代尔夫特理工大学）
本文提出稀有意识自编码方法，通过自熵损失和样本传播机制应对空间不平衡问题，提升重建一致性，验证于模拟和真实数据集，优于现有基线。
2026-04-02 cs.AI cs.CV
Noisy Ostracods: A Fine-Grained, Imbalanced Real-World Dataset for Benchmarking Robust Machine Learning and Label Correction Methods
The University of Hong Kong（香港大学）；The University of Tokyo（东京大学）；Nanjing Institute of Geology and Palaeontology, CAS（中国科学院南京地质古生物研究所）
本文发布含复杂真实噪声、高度不平衡的介形虫细粒度分类数据集 Noisy Ostracods，并通过实验揭示现有鲁棒学习与噪声检测方法的局限，以推动抗噪声机器学习研究。
2024-12-03 cs.CV cs.LG
Improving Adversarial Robustness via Guided Complement Entropy
National Tsing-Hua University（国立清华大学）；Electronic and Optoelectronic System Research Laboratories, ITRI（工业技术研究院电子与光电系统研究实验室）；Google Research（谷歌研究院）
对抗鲁棒性已经成为深度学习中的一个重要主题，因为精心制作的攻击样本可以显著干扰模型的性能。许多最近的方法已经提出通过利用对抗训练或模型蒸馏来提高对抗鲁棒性，这为模型训练增加了额外的程序。在本文中，我们提出了一种新的训练范式，称为引导互补熵（GCE），能够实现“免费对抗防御”，在提高对抗鲁棒性的过程中不涉及额外的程序。除了最大化地面实况类（如交叉熵）上的模型概率外，我们还中和了不正确类上的概率，以及一个“引导”项来平衡这两个项。我们在实验中表明，我们的方法实现了更好的模型鲁棒性，甚至更好的性能相比，常用的交叉熵训练目标。我们还表明，我们的方法可以用于正交对抗训练跨众所周知的方法具有显着的鲁棒性增益。据我们所知，我们的方法是第一个提高模型鲁棒性而不影响性能的方法。
2019-08-07 cs.CV cs.LG cs.PF
Is Synthetic Image Augmentation Useful for Imbalanced Classification Problems? Case-Study on the MIDOG2025 Atypical Cell Detection Competition
TECNALIA；Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟）；University of the Basque Country（巴斯克大学）
针对MIDOG2025挑战赛非典型有丝分裂分类的类别不平衡问题，研究对比ImageNet预训练ConvNeXt与领域预训练Lunit ViT模型，验证合成样本平衡策略的效果，发现两类骨干网络均适用，合成平衡增益有限。
2025-08-30 cs.AI cs.CV eess.IV
Multi-scale Spatio-temporal Transformer-based Imbalanced Longitudinal Learning for Glaucoma Forecasting from Irregular Time Series Images
Zhejiang Lab（之江实验室）；The Chinese University of Hong Kong（香港中文大学）；Beijing Institute of Ophthalmology（北京眼科研究所）；Beijing Tongren Eye Center（北京同仁眼科中心）；Beijing Tongren Hospital（北京同仁医院）；Capital Medical University（首都医科大学）；Beijing Key Laboratory of Ophthalmology and Visual Sciences（北京市眼科与视觉科学重点实验室）
本文提出多尺度时空Transformer网络MST-former，通过多尺度特征提取、非线性时间距离矩阵和平衡Softmax损失，解决不规则采样与类别不平衡问题，在青光眼预测和ADNI疾病预测中取得领先性能。
2024-02-21 cs.AI cs.CV
Balanced Prompt Adaptation against Entropy-Induced Collapse for Test-Time Binary Segmentation
Shenzhen University（深圳大学）
针对测试时二值分割中熵最小化导致的类别坍缩问题，提出平衡锚点提示适配（BAPA），通过类别平衡锚点与动态提示适配实现均衡更新，在四个领域取得最高平均Dice。
2026-09-21 cs.AI cs.CV
Bidirectional Stereo Image Compression with Cross-Dimensional Entropy Model
Hong Kong University of Science and Technology（香港科技大学）
针对单向立体图像压缩的视图不均衡问题，提出对称双向架构 BiSIC，结合 3D 卷积、双向注意与融合空间、通道及立体依赖的跨维度熵模型，在 PSNR 和 MS-SSIM 上超越传统标准与现有学习方法。
2024-10-26 cs.AI cs.CV eess.IV
Local SVD-Entropy Maps as a Complementary Structural Representation for Full-Reference and No-Reference Image Quality Assessment
Institute of Physics and Technology, Petrozavodsk State University（彼得罗扎沃茨克国立大学物理技术学院）
提出基于局部SVD熵的HSVD图作为IQA补充结构表示，与SSIM结合提升全参考（SRCC 0.618→0.659）和无参考（0.528→0.575）性能，且无需原始参考。
2026-09-24 cs.CV cs.MM eess.IV
HiDE: Hierarchical Dictionary-Based Entropy Modeling for Learned Image Compression
Hohai University（河海大学）；Nanjing University of Aeronautics and Astronautics（南京航空航天大学）；Nanjing Audit University（南京审计大学）；Nanjing University（南京大学）
HiDE通过层次字典结构和上下文感知参数估计器，提升学习图像压缩的压缩效率与性能。
2026-03-06 cs.CV cs.MM eess.IV
Complement Objective Training
Department of Computer Science, National Tsing-Hua University（国立清华大学计算机科学系）；Electronic and Optoelectronic System Research Laboratories, ITRI（工研院电子与光电系统研究实验室）；Google Research, Mountain View, CA, USA（谷歌研究院（美国加州山景城））
具有主要目标的学习，例如用于分类和序列生成的softmax交叉熵，多年来一直是训练深度神经网络的规范。虽然是一种被广泛采用的方法，但使用交叉熵作为主要目标主要利用来自地面实况类的信息来最大化数据可能性，并且在很大程度上忽略了来自补充（不正确）类的信息。我们认为，除了主要目标之外，还使用补充目标进行训练，该补充目标利用来自补充类的信息，可以有效地提高模型性能。这促使我们研究一种新的训练范式，该范式最大化地面实况类的可能性，同时中和补充类的概率。我们对从计算机视觉到自然语言理解的多个任务进行了广泛的实验。实验结果证实，与仅具有一个主要目标的传统训练相比，具有补充目标的训练进一步提高了最先进模型在所有任务中的性能。除了准确性的提高，我们还表明，用主要目标和补充目标训练的模型对单步对抗攻击更鲁棒。
2019-03-21 cs.CV cs.LG stat.ML
A Novel Adaptive Hybrid Focal-Entropy Loss for Enhancing Diabetic Retinopathy Detection Using Convolutional Neural Networks
School of Computer Science and Engineering（计算机科学与工程学院）；Vellore Institute of Technology（韦洛尔理工大学）
针对糖尿病视网膜病变检测中类别不平衡问题，提出自适应混合焦点-熵损失（AHFE），结合焦点与熵损失并自适应加权，在多个CNN模型上显著提升准确率，最高达99.79%。
2025-04-23 cs.AI cs.CV cs.LG
