Imbalanced Malware Images Classification: a CNN based Approach
University of Wisconsin(威斯康星大学);Austin Peay State University(奥斯汀佩伊州立大学)
深度卷积神经网络(CNN)可以通过图像分类应用于恶意软件二进制检测。然而,由于恶意软件家族(类)的不平衡,性能降低。为了缓解这个问题,我们提出了一种简单而有效的加权softmax损失,可以用作深度CNN的最后一层。对原有的softmax loss进行加权,可以根据类大小确定权值。在计算权重时还包括缩放参数。适当选择这个参数进行了研究,并提出了一个经验的选择。加权损失旨在以端到端的学习方式减轻数据不平衡的影响。为了验证其有效性,我们在预训练的深度CNN模型中部署了所提出的加权损失,并对其进行了微调,以在恶意软件图像分类方面取得有希望的结果。大量的实验也表明,新的损失函数可以很好地适应其他典型的CNN,产生一个改进的分类性能。
2022-02-20 cs.CV cs.LG stat.ML
Online Coreset Selection for Rehearsal-based Continual Learning
KAIST(韩国科学技术院);New York University(纽约大学);AITRICS
数据集是描述一项任务的关键证据。然而,数据集中的每个数据点并不具有相同的潜力,因为一些数据点可能比其他数据点更具代表性或信息性。数据点之间的这种不平等的重要性可能会对基于排练的持续学习产生很大的影响,在这种情况下,我们存储训练样本的子集(coreset),以便稍后重播,以减轻灾难性遗忘。在持续学习中,核心集存储样本的质量直接影响模型的有效性和效率。核心集的选择问题变得更加重要的现实设置下,如不平衡的持续学习或嘈杂的数据场景。为了解决这个问题,我们提出了在线Coreset选择(OCS),一个简单而有效的方法,选择最具代表性和信息coreset在每次迭代和培训他们在网上的方式。我们提出的方法最大限度地提高了模型对当前数据集的适应性,同时选择了与过去任务具有高亲和力的样本,这直接抑制了灾难性遗忘。我们验证了我们的coreset选择机制的有效性,在各种标准的,不平衡的,和嘈杂的数据集对强大的持续学习基线,表明它提高了任务的适应性,并防止灾难性遗忘的样本效率的方式。
2022-03-18 cs.CV cs.LG
CLIMB-3D: Continual Learning for Imbalanced 3D Instance Segmentation
University of Surrey(萨里大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Australian National University(澳大利亚国立大学)
CLIMB-3D提出了一种统一框架,解决3D实例分割中类别不平衡问题,通过伪标签生成和类别平衡再加权方法,在ScanNet200和ScanNetV2上实现了领先的性能。
2025-11-21 cs.CV
Multipartite Ranking-Selection of Low-Dimensional Instances by Supervised Projection to High-Dimensional Space
Australian National University(澳大利亚国立大学);Commonwealth Scientific and Industrial Research Organisation(联邦科学与工业研究组织)
删除冗余或不相关的数据实例是模式识别每个成功解决方案的关键。在本文中,我们提出了一种新的排序选择框架的长度短,但高度相关的情况下。我们不是在低维实例空间中工作,而是学习到由所研究的数据集中的类数量所跨越的高维空间的监督投影。通过将标签的概念暴露给实例来施加更高的区别,让我们为每个单独的类部署一个与所有的排名,并通过对整体分数的自适应阈值来选择质量实例。为了证明我们的范例的效率,我们采用它的纹理理解的目的,这是一个很难识别的挑战,由于纹理像素的高相似性和低维度的颜色特征。我们的实验表明,在几个公开的数据集上,识别性能比其他本地描述符有相当大的提高。
2016-06-24 cs.CV cs.LG stat.ML
Addressing Uncertainty in Imbalanced Histopathology Image Classification of HER2 Breast Cancer: An interpretable Ensemble Approach with Threshold Filtered Single Instance Evaluation (SIE)
American International University-Bangladesh(孟加拉美国国际大学);Bangladesh University of Business and Technology(孟加拉商业技术大学);King Saud University(沙特国王大学);Southern Illinois University(南伊利诺伊大学)
本文提出DenseNet201-Xception-SIE集成方法,结合阈值过滤单实例评估处理HER2乳腺癌不平衡组织病理图像分类,在H&E和IHC数据上均取得超过97%的准确率,并通过Grad-CAM增强可解释性。
2023-10-27 cs.CV
Instance Selection for GANs
University of Guelph(圭尔夫大学);Vector Institute(向量研究所);Facebook AI Research(Facebook人工智能研究院)
生成对抗网络(GANs)的最新进展使其被广泛采用,以生成高质量的合成图像。虽然能够生成照片般逼真的图像,但这些模型通常会产生不切实际的样本,这些样本落在数据流形之外。最近提出的几种技术试图避免虚假样本,或者通过在生成后拒绝它们,或者通过截断模型的潜在空间。虽然有效,但这些方法效率低下,因为大部分训练时间和模型容量都用于最终未使用的样本。在这项工作中,我们提出了一种新的方法来提高样本质量:在模型训练之前通过实例选择来改变训练数据集。通过在训练前优化经验数据分布,我们将模型容量重定向到高密度区域,最终提高了样本保真度,降低了模型容量要求,并显著缩短了训练时间。代码可在https://github.com/uoguelph-mlrg/instance_selection_for_gans上获得。
2020-10-23 cs.CV cs.LG stat.ML
MIS-Boost: Multiple Instance Selection Boosting
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
在本文中,我们提出了一种新的多实例学习(MIL)方法,称为MIS-Boost,它通过在boosting框架中显式选择实例来学习判别实例原型。与以前的实例选择为基础的MIL方法,我们不限制原型的离散集的训练实例,但允许他们采取任意值的实例特征空间。我们也不限制原型的总数和每个包的选定实例的数量;这些数量完全是数据驱动的。我们证明了MIS-Boost在许多基准数据集上的性能优于最先进的MIL方法。我们还将MIS-Boost应用于大规模图像分类,在那里我们展示了自动选择的原型映射到视觉上有意义的图像区域。
2011-09-12 cs.CV cs.LG
On Multi-Domain Long-Tailed Recognition, Imbalanced Domain Generalization and Beyond
MIT(麻省理工学院);Rutgers University(罗格斯大学)
现实世界的数据往往表现出不平衡的标签分布。现有的数据不平衡研究集中在单域设置,即,样本来自相同的数据分布。然而,自然数据可以来自不同的领域,其中一个领域中的少数类可以具有来自其他领域的大量实例。我们形式化的任务多域长尾识别(MDLT),它从多域不平衡的数据,地址标签不平衡,域移位,和不同的标签分布域,并推广到所有域类对学习。我们首先开发的域类的可转移性图,并表明,这种可转移性管理的MDLT学习的成功。然后,我们提出了BoDA,一个理论上接地的学习策略,跟踪可转移性统计的上限,并确保平衡的对齐和校准不平衡的域类分布。我们基于广泛使用的多域数据集策划了五个MDLT基准测试,并将BoDA与跨越不同学习策略的二十种算法进行了比较。大量严格的实验验证了BoDA的优越性能。此外,作为副产品,BoDA在领域泛化基准上建立了新的最先进的技术,突出了解决跨领域数据不平衡的重要性,这对于改进对未知领域的泛化至关重要。代码和数据可在https://github.com/YyzHarry/multi-domain-imbalance上获得。
2022-08-01 cs.AI cs.CV cs.LG
Leave No Stone Unturned: Mine Extra Knowledge for Imbalanced Facial Expression Recognition
Beijing University of Posts and Telecommunications(北京邮电大学)
本文针对不平衡面部表情识别问题,提出利用再平衡注意力图和再平衡平滑标签从多数类与少数类样本中挖掘少数类额外知识,以正则化模型并提升少数类识别性能,在不平衡FER任务上取得最先进结果。
2023-10-30 cs.CV
Semi-Supervised Confidence-Level-based Contrastive Discrimination for Class-Imbalanced Semantic Segmentation
The Chinese University of Hong Kong(香港中文大学)
为了克服数据饥饿的挑战,我们提出了一个半监督的对比学习框架的类不平衡的语义分割的任务。首先,为了使模型能够以半监督的方式运行,提出了基于置信度的对比学习方法,以显式的方式实现实例判别,并使低置信度的低质量特征与高置信度的特征相匹配。此外,针对裂缝分割和道路成分提取中的类不平衡问题,提出了数据不平衡损失代替传统的像素级语义分割中的交叉熵损失。最后,我们还提出了一种有效的多级融合网络结构,以提高语义分割的性能。在实际工业裂缝分割和道路分割上的大量实验证明了该框架的优越性。我们提出的方法可以提供令人满意的分割结果,即使只有3.5%的标记数据。
2022-11-28 cs.CV
Difficulty-aware Balancing Margin Loss for Long-tailed Recognition
Korea Advanced Institute of Science and Technology(韩国科学技术院)
提出难度感知平衡边际损失,通过结合类级边际和实例级边际同时解决长尾识别中的类别不平衡与实例难度变化问题,提升模型判别性。
2024-12-20 cs.AI cs.CV cs.LG
Generalized Class Discovery in Instance Segmentation
Seoul National University of Science and Technology(首尔科学技术大学);Chung-Ang University(中央大学)
本文针对实例分割中的广义类别发现任务,提出逐实例温度分配方法和逐类别可靠性准则以应对长尾类别不均衡问题,并引入软注意力模块,在多个数据集上取得优于现有方法的性能。
2025-05-08 cs.AI cs.CV
Deep Imbalanced Learning for Face Recognition and Attribute Prediction
Carnegie Mellon University(卡内基梅隆大学);National Technological University, Singapore(新加坡南洋理工大学);The Chinese University of Hong Kong(香港中文大学)
用于面部分析的数据通常表现出高度偏斜的类别分布,即,大多数数据属于少数多数类,而少数类只包含少量实例。为了缓解这个问题,当代深度学习方法通常遵循经典策略,例如类重新采样或成本敏感训练。在本文中,我们进行了广泛的和系统的实验,以验证这些经典的计划的有效性,类不平衡数据的表示学习。我们进一步证明,通过实施深度网络来保持类内和类间的聚类间边缘,可以学习更具区分力的深度表示。这种严格的约束有效地减少了本地数据邻域中固有的类不平衡,从而在本地雕刻出更加平衡的类边界。我们表明,它是很容易部署的超球面流形上的集群分布之间的角裕度。当与简单的k-最近聚类算法相结合时,这种基于学习的大间隔局部嵌入(CLMLE)在表现出不平衡类分布的人脸识别和人脸属性预测任务上的准确性比现有方法有显着提高。
2019-04-30 cs.CV
Active Label Refinement for Robust Training of Imbalanced Medical Image Classification Tasks in the Presence of High Label Noise
Center for Imaging Science, Rochester Institute of Technology(罗切斯特理工学院成像科学中心);University of Aberdeen(阿伯丁大学);Biomedical Engineering, Rochester Institute of Technology(罗切斯特理工学院生物医学工程系)
本文提出结合LNL与主动学习的两阶段标签精炼框架,引入梯度方差采样少数类,在有限预算下提升高噪声、类别不平衡医学图像分类的鲁棒性。
2024-10-24 cs.CV cs.LG
Balanced-MixUp for Highly Imbalanced Medical Image Classification
Bournemouth University(伯恩茅斯大学);University of Adelaide(阿德莱德大学);Universitat Pompeu Fabra(庞培法布拉大学);Catalan Institution for Research and Advanced Studies (ICREA)(加泰罗尼亚研究与高级研究机构(ICREA))
高度不平衡的数据集在医学图像分类问题中普遍存在。在这样的问题中,通常的情况是,与不太流行的疾病相关联的罕见类别在标记的数据库中严重表示不足,通常由于学习过程中的过拟合而导致机器学习算法的性能差。在本文中,我们提出了一种新的机制采样训练数据的基础上流行的混合正则化技术,我们称之为平衡混合。简而言之,Balanced-MixUp同时执行常规(即,基于实例的)和平衡的(即,基于类)对训练数据进行采样。然后将得到的两组样本混合,以创建一个更平衡的训练分布,神经网络可以从中有效地学习,而不会导致少数类严重拟合不足。我们使用高度不平衡的视网膜图像数据集(55 K样本,5类)和胃肠道视频帧的长尾数据集(10 K图像,23类)进行实验,使用两个具有不同表示能力的CNN。实验结果表明,应用Balanced-MixUp优于其他传统的采样方案和专门设计用于处理不平衡数据的损失函数。代码发布于https://github.com/agaldran/balanced_mixup。
2021-09-20 cs.CV
Joint Debiased Representation Learning and Imbalanced Data Clustering
Ludwig-Maximilians-University Munich(慕尼黑大学)
无监督学习最有前途的方法之一是结合深度表示学习和深度聚类。最近的一些工作提出使用深度神经网络同时学习表示,并通过在嵌入特征之上定义聚类损失来执行聚类。然而,这些方法对不平衡的数据和分布外的样本敏感。因此,这些方法通过将数据推到随机初始化的聚类中心来优化聚类。当实例的数量在不同的类中变化很大时,或者具有很少样本的聚类很少有机会被分配一个好的质心时,这是有问题的。为了克服这些限制,我们引入了一个新的无监督框架,联合去偏表示学习和图像聚类。我们同时训练两个深度学习模型,一个是捕获数据分布的深度表示网络,另一个是学习嵌入特征并执行聚类的深度聚类网络。具体来说,聚类网络和学习表示网络都利用了我们提出的表示均值、方差和基数的统计池块来处理分布外的样本和类不平衡。我们的实验表明,使用这些表示,可以大大改善在各种图像数据集的不平衡图像聚类的结果。此外,当转移到分布外数据集时,学习的表示推广得很好。
2022-09-06 cs.CV
SIFT-DBT: Self-supervised Initialization and Fine-Tuning for Imbalanced Digital Breast Tomosynthesis Image Classification
Yale University(耶鲁大学);Yale School of Medicine(耶鲁医学院)
针对数字乳腺断层合成(DBT)图像分类中的数据不平衡问题,提出SIFT-DBT方法,结合视图级对比自监督初始化与微调及patch级多实例学习,在970项研究中实现92.69%的体积级AUC。
2024-03-19 cs.CV cs.LG eess.IV
Deep Imbalanced Attribute Classification using Visual Attention Aggregation
University of Houston(休斯顿大学)
对于许多计算机视觉应用,如图像描述和人体识别,识别人的视觉属性是一个基本的,但具有挑战性的问题。它的挑战来自于它的多标签性质,大的底层类不平衡和缺乏空间注释。现有的方法要么遵循计算机视觉方法,而无法考虑类不平衡,要么探索机器学习解决方案,而忽略图像中存在的空间和语义关系。考虑到这一点,我们提出了一种有效的方法,提取和聚合不同尺度的视觉注意力掩模。我们引入了一个损失函数来处理类和实例级别的类不平衡,并进一步证明了具有高预测方差的惩罚注意力掩码是注意力机制监督不力的原因。通过识别和解决这些挑战,我们在PETA和WIDER-属性数据集中使用简单的注意力机制实现了最先进的结果,而无需额外的上下文或辅助信息。
2018-07-26 cs.CV
Iterative Online Image Synthesis via Diffusion Model for Imbalanced Classification
The Hong Kong University of Science and Technology(香港科技大学)
本文提出迭代在线图像合成框架,结合在线图像合成与精度自适应采样模块,在实例和类别层面解决医学图像分类中的类别不平衡问题,在HAM10000和APTOS数据集上验证了优越性。
2024-03-13 cs.CV
Copula for Instance-wise Feature Selection and Ranking
Baidu Research(百度研究院)
针对现有实例级特征选择方法忽略特征间依赖性的问题,提出将Gaussian copula融入当前框架以捕获变量相关性,实验证明该方法能有效捕获有意义的相关性并提升性能与可解释性。
2023-08-01 cs.AI cs.CV cs.LG
Key Instance Selection for Unsupervised Video Object Segmentation
SK T-Brain(SK T-Brain研究院)
提出了一种基于视频显著性、覆盖对象性和动态性的无监督视频对象分割(UVOS)关键实例选择方法。我们的方法依次帧和提取对象的建议与相应的面具为每一帧。我们根据对象的相似性将它们链接到第M帧,然后为它们分配唯一的ID(即,实例)。相似性度量考虑了ReID描述符、预期轨迹和语义共分割结果等多个属性。在第M帧之后,我们基于视频显著性和出现频率选择K个ID;然后在剩余帧中仅跟踪这些关键ID。由于这些技术贡献,我们的结果在UVOS DAVIS挑战排行榜上排名第三。
2019-07-26 cs.CV cs.LG eess.IV
Equilibrium contrastive learning for imbalanced image classification
Sungkyunkwan University(成均馆大学);Samsung Medical Center(三星医疗中心);Institute for Basic Science(基础科学研究院)
本文提出均衡对比学习(ECL),通过促进表示空间的几何均衡,解决传统对比学习在不平衡数据集中的性能问题,提升分类器与类中心的对齐效果。
2026-10-14 cs.CV
Discovery-and-Selection: Towards Optimal Multiple Instance Learning for Weakly Supervised Object Detection
Xi’an Jiaotong University(西安交通大学)
弱监督目标检测(WSOD)是一项具有挑战性的任务,它需要在图像类别标签的监督下同时学习目标分类器和估计目标位置。WSOD方法的一个主要路线是基于多实例学习,将图像视为实例包,并从每个包中选择阳性实例来学习检测器。然而,一个巨大的挑战出现时,检测器倾向于收敛到歧视的部分对象,而不是整个对象。在局部极小点包含最优解的假设下,提出了一种融合多示例学习的发现与选择方法(DS-MIL),该方法发现丰富的局部极小点,并从多个局部极小点中选择最优解.为了实现DS-MIL,提出了一个注意力模块,以便更多的上下文信息可以捕获的特征图和更有价值的建议,可以收集在训练过程中。与建议候选人,提出了一个选择模块,选择信息的实例对象检测器。常用的基准测试的实验结果表明,我们提出的DS-MIL方法可以不断提高基线,报告国家的最先进的性能。
2022-05-05 cs.CV
Gradient Reweighting: Towards Imbalanced Class-Incremental Learning
Elmore Family School of Electrical and Computer Engineering, Purdue University(普渡大学埃尔莫尔电气与计算机工程学院)
针对类增量学习中的阶段间与阶段内双重类别不平衡问题,本文提出梯度重加权方法实现平衡优化和无偏分类器学习,并引入分布感知知识蒸馏损失缓解不平衡遗忘,在多个数据集上取得一致改进。
2024-03-29 cs.CV
ProCo: Prototype-aware Contrastive Learning for Long-tailed Medical Image Classification
Xiaohe Healthcare, ByteDance(字节跳动小荷健康);The University of Hong Kong(香港大学)
医学图像分类在医学图像分析中得到了广泛的应用。然而,由于在医学领域的数据采集和标记的困难,医学图像数据集通常是高度不平衡的。为了解决这个问题,以前的作品利用类样本作为重新加权或重新采样的先验,但特征表示通常仍然不够有区别。在本文中,我们采用对比学习来解决长尾医疗不平衡问题。具体来说,我们首先提出类别原型和对抗原型实例来生成代表性对比对。然后,原型重校准策略,提出了解决高度不平衡的数据分布。最后,设计了一个统一的原型损失训练我们的框架。整体框架,即原型感知的对比学习(ProCo),以端到端的方式统一为单级流水线,以缓解医学图像分类中的不平衡问题,这也是一个明显的进步,因为它们遵循传统的两级流水线。在两个高度不平衡的医学图像分类数据集上进行的大量实验表明,我们的方法大大优于现有的最先进的方法。
2022-09-01 cs.CV
Imbalanced Medical Image Segmentation with Pixel-dependent Noisy Labels
School of Electrical and Computer Engineering, University of Sydney(悉尼大学电气与计算机工程学院)
针对医学图像分割中像素依赖噪声标签与类别不平衡问题,提出CLCS框架,通过双分支协同学习、课程动态阈值选样及噪声平衡损失提升分割性能。
2025-01-12 cs.AI cs.CV
3DCFS: Fast and Robust Joint 3D Semantic-Instance Segmentation via Coupled Feature Selection
Fudan University(复旦大学);Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所);Institute of Science and Technology for Brain-Inspired Intelligence, Fudan University(复旦大学脑科学研究院);University of Warwick(华威大学)
我们提出了一种新的快速和强大的三维点云分割框架,通过耦合特征选择,命名为3DCFS,联合执行语义和实例分割。受人类场景感知过程的启发,我们设计了一个新的耦合特征选择模块,命名为CFSM,自适应地选择和融合的相互语义和实例功能,从两个任务在耦合的方式。为了进一步提高3DCFS中实例分割任务的性能,我们研究了一个损失函数,它可以帮助模型在训练过程中学习平衡输出嵌入维数的大小,这使得计算欧几里得距离更加可靠,并增强了模型的泛化能力。大量的实验表明,我们的3DCFS优于国家的最先进的方法在基准数据集的准确性,速度和计算成本。
2020-03-01 cs.CV cs.RO
Cross-Patient Pseudo Bags Generation and Curriculum Contrastive Learning for Imbalanced Multiclassification of Whole Slide Image
Fudan University(复旦大学)
针对全切片图像样本不平衡的多分类挑战,提出跨患者伪包生成与课程对比学习框架,通过生成特征相似的子包学习细粒度信息,在三个数据集上F1分数平均提升4.39分。
2024-11-18 cs.AI cs.CV
CALF: A Conditionally Adaptive Loss Function to Mitigate Class-Imbalanced Segmentation
Åbo Akademi University(奥博学术大学);School of Engineering, University of Melbourne(墨尔本大学工程学院);Delft University of Technology(代尔夫特理工大学);Sorbonne Université(索邦大学);Centre for Eye Research Australia(澳大利亚眼科研究中心);Royal Victorian Eye & Ear Hospital(维多利亚皇家眼耳医院)
本文提出统计驱动的条件自适应损失函数CALF,通过偏度和峰度估计不平衡严重程度并动态选择损失,在多个医学影像分割数据集上显著提升分割性能。
2025-04-06 cs.CV eess.IV