When the Small-Loss Trick is Not Enough: Multi-Label Image Classification with Noisy Labels Applied to CCTV Sewer Inspections
Veolia Research & Innovation（威立雅研究与创新中心）
针对CCTV下水道巡检中多标签图像分类的标签噪声问题，提出基于CoSELFIE的混合样本选择新方法MHSS，在处理合成与真实噪声上表现优越。
2024-10-10 cs.CV cs.LG
MDMLP: Image Classification from Scratch on Small Datasets with MLP
Jiangsu University（江苏大学）；Dartmouth College（达特茅斯学院）
注意力机制已经成为自然语言处理和计算机视觉任务的首选技术。最近，MLP混合器和其他基于MLP的架构，简单地基于多层感知器（MLP），与CNN和注意力技术相比也很强大，并提出了一个新的研究方向。然而，基于MLP的网络的高性能严重依赖于大量的训练数据，并且与视觉Transformer（ViT）或ConvNets相比缺乏解释能力。当在小数据集上训练时，它们通常比ConvNets获得更差的结果。为了解决这个问题，我们提出了（i）多维MLP（MDMLP），一个概念上简单和轻量级的基于MLP的架构，但在小规模数据集上从头开始训练时实现了SOTA;（ii）多维MLP注意力工具（MDAttnTool），一种基于MLP的新型高效注意力机制。即使没有强大的数据增强，MDMLP在CIFAR 10上仅用0.3M参数就达到了90.90%的准确率，而众所周知的MLP-Mixer在17.1M参数下达到了85.45%。此外，轻量级MDAttnTool突出显示图像中的对象，表明其解释能力。我们的代码可在https://github.com/Amoza-Theodore/MDMLP上获得。
2022-05-28 cs.AI cs.CV
Enhancing Image Classification in Small and Unbalanced Datasets through Synthetic Data Augmentation
Computer Vision Center（计算机视觉中心）；Universitat Autònoma de Barcelona（巴塞罗那自治大学）；Hospital Clinic（医院诊所）
本文提出利用类别特定变分自编码器和潜在空间插值生成合成数据，以解决小规模不平衡医学图像分类问题，并在321张内窥镜图像数据集上验证，使代表性不足类别准确率提升超18%，全局准确率和精确率提升6%。
2024-10-01 cs.CV cs.LG
Maximum-Entropy Fine-Grained Classification
Massachusetts Institute of Technology（麻省理工学院）
细粒度视觉分类（FGVC）是一个重要的计算机视觉问题，它涉及不同类别内的小差异，并且通常需要专家注释器来收集数据。利用这种小视觉多样性的概念，我们在细粒度分类的背景下重新审视最大熵学习，并提供一个训练例程，最大化输出概率分布的熵，用于在FGVC任务上训练卷积神经网络。我们提供了一个理论和经验的理由，我们的方法，并实现国家的最先进的性能在各种分类任务FGVC，可以扩展到任何微调任务。我们的方法对不同的超参数值，训练数据量和训练标签噪声量具有鲁棒性，因此可以在许多类似的问题中成为有价值的工具。
2018-09-20 cs.CV cs.LG
Reliable Deep Learning for Small-Scale Classifications: Experiments on Real-World Image Datasets from Bangladesh
University of Dhaka（达卡大学）
本研究提出了一种紧凑型CNN，通过在孟加拉国现实世界图像数据集上的实验，展示了其在小规模分类任务中的高效性和鲁棒性。
2026-01-29 cs.CV
CvS: Classification via Segmentation For Small Datasets
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
深度学习模型已经在各个领域的广泛计算机视觉应用中显示出有希望的结果。深度学习方法的成功在很大程度上依赖于大量数据的可用性。当数据稀缺时，深度神经网络容易出现过拟合。这个问题变得更加严重的神经网络与分类头访问只有少数几个数据点。然而，获取大规模数据集是非常具有挑战性的，费力的，甚至在某些领域是不可行的。因此，开发能够在小数据范围内表现良好的分类器对于数据有限的应用程序至关重要。本文介绍了CvS，一个具有成本效益的小数据集分类器，从预测分割图中获得分类标签。我们采用标签传播方法来实现一个完全分割的数据集，只有少数手动分割的数据。我们评估了我们的框架在不同问题上的有效性，表明CvS在只有少数例子的情况下，与以前的方法相比，能够实现更高的分类结果。
2021-10-29 cs.CV
OSLNet: Deep Small-Sample Classification with an Orthogonal Softmax Layer
Lanzhou University of Technology（兰州理工大学）；Beijing University of Posts and Telecommunications（北京邮电大学）；Aalborg University（奥尔堡大学）；University College London（伦敦大学学院）；ShanghaiTech University（上海科技大学）
多个非线性层的深度神经网络形成了一个很大的函数空间，当遇到小样本数据时很容易导致过拟合。为了克服小样本分类中的过拟合问题，从小样本数据中学习更多的鉴别特征成为一种新的趋势。为此，本文的目的是找到一个子空间的神经网络，可以促进一个大的决策余量。具体来说，我们提出了正交Softmax层（OSL），它使分类层中的权重向量在训练和测试过程中都保持正交。使用OSL的网络的Rademacher复杂度仅为使用全连接分类层的网络的Rademacher复杂度的$\frac{1}{K}$，其中$K$是类的数量，从而导致更紧的泛化误差界。实验结果表明，该方法在小样本基准数据集上的性能优于已有的方法，并适用于大样本数据集.代码可在https://github.com/dongliangchang/OSLNet上获得。
2020-04-20 cs.CV
SmallBigNet: Integrating Core and Contextual Views for Video Classification
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院）；Shenzhen Institute of Artificial Intelligence and Robotics for Society（深圳人工智能与机器人研究院）
时域卷积已被广泛用于视频分类。然而，它是在有限的视角下对时空背景进行的，这往往削弱了它学习视频表示的能力。为了缓解这个问题，我们提出了一个简洁而新颖的SmallBig网络，与合作的小和大的意见。对于当前时间步，小视图分支用于学习核心语义，而大视图分支用于捕获上下文语义。与传统的时间卷积不同，大视图分支可以从更广泛的3D感受野为小视图分支提供最活跃的视频特征。通过聚合这样的大视图上下文，小视图分支可以学习用于视频分类的更鲁棒和有区别的时空表示。此外，我们建议在小视图和大视图分支中共享卷积，这提高了模型的紧凑性并消除了过拟合。因此，我们的SmallBigNet实现了与2D CNN相当的模型大小，同时提高了3D CNN的准确性。我们在大规模视频基准上进行了广泛的实验，例如，Kinetics400，Something-Something V1和V2。我们的SmallBig网络在准确性和/或效率方面优于许多最先进的方法。代码和模型将在www.example.com上提供。
2020-06-25 cs.CV
Field-Level Crop Type Classification with k Nearest Neighbors: A Baseline for a New Kenya Smallholder Dataset
University of Maryland at College Park（马里兰大学帕克分校）
准确的作物类型地图为确保粮食安全提供了重要信息，但对小农农业作物类型分类的研究有限，特别是在粮食不安全风险最高的撒哈拉以南非洲。公开可用的地面实况数据，如肯尼亚新发布的作物类型训练数据集（Radiant MLHub）正在催化这项研究，但重要的是要了解这些数据集在评估分类性能时的时间，地点和方式，并将其用作跨方法的基准。在本文中，我们提供了在非典型的2019年主要生长季节收集的新的肯尼亚西部数据集的背景，并使用k最近邻证明了玉米的分类准确率高达64%，木薯的分类准确率高达70%-这是一种快速，可解释和可扩展的方法，可以作为未来工作的基线。
2020-04-06 cs.CV
A Comparative Study of Deep Learning Classification Methods on a Small Environmental Microorganism Image Dataset (EMDS-6): from Convolutional Neural Networks to Visual Transformers
Microscopic Image and Medical Image Analysis Group, MBIE College, Northeastern University（东北大学MBIE学院显微图像与医学图像分析组）；School of Control Engineering, Chengdu University of Information Technology（成都信息工程大学控制工程学院）；University of Lübeck（吕贝克大学）；China Medical University（中国医科大学）
近年来，深度学习在环境微生物（EM）图像分类方面取得了辉煌的成就。然而，小规模EM数据集的图像分类仍然没有取得很好的研究成果。因此，研究人员需要花费大量的时间来寻找分类性能好、适合当前设备工作环境的模型。为了给研究者提供可靠的参考，我们对21个深度学习模型进行了一系列的对比实验。实验包括直接分类，不平衡训练和超参数调整实验。在实验过程中，我们发现了21个模型之间的互补性，这是特征融合相关实验的基础。我们还发现几何变形的数据增强方法难以提高VT（ViT，DeiT，BotNet和T2 T-ViT）系列模型的性能。在模型性能方面，Xception的分类性能最好，ViT模型的训练时间最少，ShuffleNet-V2模型的参数数量最少。
2022-02-03 cs.CV
Lung CT Imaging Sign Classification through Deep Learning on Small Data
带注释的医学图像的采集通常是昂贵的。提出了一种基于小数据的深度学习方法对CT图像中肺部疾病常见影像学征象（CISL）进行分类。我们探索了真实数据和生成对抗网络（GAN）生成的数据，以提高学习的可靠性和泛化能力。首先，我们使用GAN从小的注释数据中生成大量的CISL，这些注释数据很难与真实的对应数据区分开来。这些生成的样本用于预训练卷积神经网络（CNN）以分类CISL。其次，我们用真实数据微调CNN分类模型。实验在CISL的LISS数据库上进行。我们成功地说服了放射科医生，我们生成的CISL样本在56.7%的实验中是真实的。预训练的CNN模型达到了二进制分类平均准确率的88.4%，经过微调，平均准确率显著提高到95.0%。对于所有类型的CISL和正常组织的多分类，通过两个阶段的训练，平均准确率，灵敏度和特异性分别高达约91.83%，92.73%和99.0%。据我们所知，这是在LISS数据库上取得的最好结果，这表明所提出的方法是有效的，并且有希望在小数据上实现深度学习。
2019-03-01 cs.CV
Women Sport Actions Dataset for Visual Classification Using Small Scale Training Data
Haldia Institute of Technology（哈尔迪亚理工学院）；BITS Pilani（皮拉尼比尔拉理工学院）
针对女子体育动作数据集缺失问题，本研究提出WomenSports数据集，并设计结合局部上下文通道注意力机制的CNN进行特征提取，在多个数据集上取得显著分类效果。
2025-07-15 cs.CV
Data Augmentation and CNN Classification For Automatic COVID-19 Diagnosis From CT-Scan Images On Small Dataset
LinkSprite Technologies（LinkSprite科技公司）；Shenzhen Deepcam Information Technologies（深圳深视信息科技公司）
我们提出了一个自动COVID 1 -19诊断框架，从肺部CT图像。重点是小数据集上的信号处理和分类，努力探索数据准备和增强，以提高二维CNN分类模型的泛化能力。我们提出了一种独特而有效的数据增强方法，使用多个Hounsfield单位（HU）归一化窗口。此外，对原始切片图像进行裁剪以排除背景，并应用滤波器滤除闭合肺图像。对于分类网络，我们选择使用2D Densenet和Xception以及特征金字塔网络（FPN）。为了进一步提高分类精度，使用多个CNN模型和HU窗口的集合。在训练/验证数据集上，我们实现了93.39%的患者分类准确率。
2021-09-30 cs.CV eess.IV
Transfer Learning based Detection of Diabetic Retinopathy from Small Dataset
Sharda University（沙尔达大学）；Research and Technology Development Center（研究与技术开发中心）
带注释的训练数据不足仍然是将深度学习应用于医学数据分类问题的挑战之一。来自已经训练的深度卷积网络的迁移学习可以用于降低从头开始训练的成本，并且用于利用小的训练数据进行深度学习的训练。这就提出了一个问题，即我们是否可以使用迁移学习来克服基于深度学习的医疗数据分类中的训练数据不足问题。深度卷积网络在ImageNet大规模视觉识别竞赛（ILSVRC）图像分类挑战中取得了高性能的结果。一个例子是Inception-V3模型，它是ILSVRC 2015挑战赛的第一名。Inception模块有助于在一个卷积级别中提取输入图像的不同大小的特征，这是Inception-V3的独特功能。在这项工作中，我们使用了预训练的Inception-V3模型，以利用其Inception模块进行糖尿病视网膜病变检测。为了解决标记数据不足的问题，我们对Kaggle糖尿病视网膜病变分类挑战数据集的较小版本进行了二次采样，以进行模型训练，并在以前看不见的数据子集上测试了模型的准确性。我们的技术可以用于其他基于深度学习的医学图像分类问题，这些问题面临着标记训练数据不足的挑战。
2019-05-22 cs.CV
Targeted Self Supervision for Classification on a Small COVID-19 CT Scan Dataset
Ryerson University（瑞尔森大学）
传统上，卷积神经网络需要人类标记的大量数据来进行训练。自我监督已被提出作为处理少量标记数据的方法。本研究的目的是确定自我监督是否可以提高小型COVID-19 CT扫描数据集的分类性能。本研究还旨在确定所提出的自我监督策略（有针对性的自我监督）是否是COVID-19成像数据集的可行选择。共有10个实验进行比较所提出的方法的分类性能的自我监督与不同的数据量。实验运行建议的自我监督策略执行显着优于他们的非自我监督的同行。与没有自我监督相比，完全自我监督的准确性提高了近8%。结果表明，自我监督可以提高小型COVID-19 CT扫描数据集的分类性能。有针对性的自我监督代码可以在以下链接中找到：https://github.com/Mewtwo/Targeted-Self-Supervision/tree/main/COVID-CT
2020-11-20 cs.CV eess.IV
Self-Supervised Open-Ended Classification with Small Visual Language Models
University of Amsterdam（阿姆斯特丹大学）
本文提出自监督 SeCAt 方法，通过图像聚类、随机命名和 self-context 序列训练约1B参数视觉语言模型，在多个多模态少样本基准上超越更大的 Frozen 与 FROMAGe。
2023-12-06 cs.CV
ScatSimCLR: self-supervised contrastive learning with pretext task regularization for small-scale datasets
University of Geneva（日内瓦大学）
在本文中，我们考虑了一个问题的自监督学习的小规模数据集之间的对比损失的数据的多个视图，这表明了国家的最先进的分类任务的性能。尽管报告的结果，这样的因素，如训练的复杂性，需要复杂的架构，所需的数量的意见产生的数据增强，其对分类精度的影响是研究不足的问题。为了建立这些因素的作用，我们考虑的对比损失系统的架构，如Simplified，其中基线模型被替换为几何不变的“手工制作”的网络ScatNet与小的可训练的适配器网络，并认为整个系统的参数的数量和视图的数量可以大大减少，同时实际上保持相同的分类精度。此外，我们研究了正则化策略的影响，使用借口任务学习的基础上估计的参数增强变换，如旋转和拼图置换的传统基线模型和基于ScatNet的模型。最后，我们证明了所提出的架构与借口任务学习正则化实现了国家的最先进的分类性能与较少数量的可训练参数和减少的视图数量。
2021-08-31 cs.CV
Modality-bridge Transfer Learning for Medical Image Classification
KAIST（韩国科学技术院）
本文提出了一种基于迁移学习的医学图像分类新方法，以缓解医学领域中标记数据不足的问题。代替从源到少量标记目标数据的直接迁移学习，我们提出了一种模态桥迁移学习，其采用与目标数据库相同的医学成像采集模态中的桥数据库。通过学习从源到桥以及从桥到目标的投影函数，可以计算源之间的域差异（例如，自然图像）和目标（例如，X射线图像）可以减轻。实验结果表明，与各种迁移学习方法相比，该方法即使对少量标记的目标医学图像也能取得较高的分类性能。
2017-08-10 cs.CV
An Integrated Inverse Space Sparse Representation Framework for Tumor Classification
Henan University（河南大学）；Institute of Applied Mathematics（应用数学研究所）；University of Florida（佛罗里达大学）；Zhejiang Cancer Hospital（浙江省肿瘤医院）
基于基因表达谱数据的肿瘤分类是一个非常活跃和具有挑战性的课题。本文提出了一个综合的肿瘤分类框架，旨在利用现有的可用样本中的信息，并重点关注小样本问题和不平衡分类问题。首先，针对基因肿瘤数据的稀疏性和训练样本数量少的特点，提出了一种基于逆空间稀疏表示的分类模型（ISSRC）。为了提高ISSRC的表达能力，提出了一种基于决策信息因子（DIF）的基因选择方法。值得注意的是，DIF是从降低临床误诊率和小样本数据维数两个方面建立的。为了进一步提高ISSRC的表达能力和分类稳定性，对选定的基因子集进行特征学习。通过互补非负矩阵分解（NMF）和深度学习的优点来构建特征学习方法。在不混淆的情况下，将基因选择和特征学习相结合的ISSRC称为集成ISSRC，并分析了其稳定性、最优性和相应的收敛性。在六个公共微阵列基因表达数据集上的广泛实验表明，基于ISSRC的综合肿瘤分类框架优于经典和最先进的方法。在分类准确性、特异性和敏感性、早期诊断是否有肿瘤、是什么样的肿瘤、肿瘤手术后是否发生转移等方面都有显著提高。
2019-02-27 cs.CV
The Case for High-Accuracy Classification: Think Small, Think Many!
Comcast AI Labs（康卡斯特人工智能实验室）
为了促进高精度深度神经网络的实现，特别是在资源受限的设备上，保持低计算要求至关重要。使用非常深的模型进行分类不仅会降低神经网络的训练速度并增加推理时间，而且还需要更多的数据来提高预测精度并减少误报。在本文中，我们提出了一个高效和轻量级的深度分类集成结构的基础上的组合简单的颜色特征，这是专门为“高精度”图像分类与低误报。我们设计、实现并评估了我们的方法，用于图像和视频的爆炸检测用例。我们基于大型测试的评估结果显示，与流行的ResNet-50模型相比，预测精度有了相当大的提高，同时受益于7.64倍的推理速度和更低的计算成本。虽然我们将我们的方法应用于爆炸检测，但我们的方法是通用的，也可以应用于其他类似的分类用例。鉴于从我们的实验中获得的洞察力，我们因此提出了一个“想小，想多”的哲学在分类场景中：将一个单一的，大的，单片的深度模型转换为基于验证的步骤模型集合的多个小的，简单的，轻量级的模型与简化的颜色空间可能会导致更高的准确性预测。
2021-03-18 cs.AI cs.CV
I Have Seen Enough: A Teacher Student Network for Video Classification Using Fewer Frames
Indian Institute of Technology Madras（马德拉斯印度理工学院）
在过去的几年里，涉及视频的各种任务，如分类、描述、摘要和问答，受到了很多关注。目前这些任务的模型通过将视频视为图像序列并遍历序列中的每个图像来计算视频的编码。然而，对于较长的视频，这是非常耗时的。在本文中，我们专注于视频分类的任务，旨在减少计算时间使用蒸馏的想法。具体来说，我们首先训练一个教师网络，该网络查看视频中的所有帧并计算视频的表示。然后，我们训练一个学生网络，其目标是只处理视频中的一小部分帧，并且仍然产生与教师网络计算的表示非常接近的表示。这种涉及较少计算的较小学生网络可以在推理时用于视频分类。我们对YouTube-8 M数据集进行了实验，结果表明，所提出的学生网络可以将推理时间减少高达30%，而性能下降非常小
2018-05-12 cs.CV
Multi-Instance Multi-Scale CNN for Medical Image Classification
Institute of High Performance Computing, A*STAR（A*STAR高性能计算研究所）；Artificial Intelligence Initiative, A*STAR（A*STAR人工智能倡议组织）；Singapore Eye Research Institute（新加坡眼科研究所）
用于医学图像分类的深度学习面临三个主要挑战：1）用于训练的注释医学图像的数量通常很少; 2）感兴趣区域（ROI）相对较小，在整个医学图像中边界不清晰，并且可能出现在x，y（以及3D图像中的z）维度上的任意位置。然而，通常只有整个图像的标签被注释，并且局部ROI不可用;以及3）医学图像中的ROI通常以不同的大小（尺度）出现。我们用多实例多尺度（MIMS）CNN来解决这三个挑战：1）我们提出了一个多尺度卷积层，它用一组共享的卷积核来提取不同感受野的模式，以便通过这组紧凑的核来捕获尺度不变的模式。由于该层仅包含少量参数，因此在小数据集上进行训练变得可行; 2）我们提出了一种“top-k池化”，以从多个空间维度聚合不同尺度的特征图，从而允许在多实例学习（MIL）框架内使用弱注释来训练模型。我们的方法表现良好，涉及两个3D和两个2D医学图像数据集的三个分类任务。
2019-10-22 cs.CV
CLSC DETR: Reliable Candidate Ranking via Cross Layer Geometric Support for UAV Small Object Detection
South China Agricultural University（华南农业大学）
针对无人机小目标检测中候选排序不可靠的问题，提出CLSC DETR方法，通过跨层局部支持模块聚合几何证据、一致性校准模块调整分类分数，在VisDrone和UAVDT数据集上实现性能提升。
2026-08-25 cs.CV
Zero-Shot Visual Classification with Guided Cropping
Bosch Center for Artificial Intelligence（博世人工智能中心）
本文提出GC-CLIP方法，通过在预处理中使用零样本目标检测模型进行引导裁剪，增强CLIP对目标物体的关注并减少无关区域干扰，有效提升了零样本分类性能，尤其针对小目标物体。
2023-09-12 cs.CV
Single Model Deep Learning on Imbalanced Small Datasets for Skin Lesion Classification
University of Science and Technology of China（中国科学技术大学）；The Ohio State University Medical Center（俄亥俄州立大学医学中心）
深度卷积神经网络（DCNN）模型已被广泛探索用于皮肤病诊断，其中一些模型已经实现了与皮肤科医生相当甚至更好的诊断结果。然而，DCNN在皮肤疾病检测中的广泛实施受到可访问皮肤病变数据集的小尺寸和数据不平衡的阻碍。本文提出了一种新的基于单模型的策略，用于小的和不平衡的数据集上的皮肤病变的分类。首先，在不同的小型和不平衡数据集上训练各种DCNN，以验证中等复杂度的模型优于较大的模型。其次，加入正则化DropOut和DropBlock来减少过拟合，并针对小数据集样本代表性不足的缺陷，提出了一种改进的RandAugment增强策略。最后，引入了一种新的多加权新损失（MWNL）函数和一种端到端累积学习策略（CLS），以克服样本量不均匀和分类困难的挑战，并减少异常样本对训练的影响。通过结合Modified RandAugment，MWNL和CLS，我们的单一DCNN模型方法在不同的皮肤镜图像数据集上实现了与多个集成模型相当或更好的分类精度。我们的研究表明，该方法能够以较低的计算资源和推理时间成本实现高分类性能，可能适合在移动设备中实现，用于在低资源设置中自动筛选皮肤病变和许多其他恶性肿瘤。
2022-02-11 cs.CV cs.LG
Multiclass non-Adversarial Image Synthesis, with Application to Classification from Very Small Sample
The Hebrew University of Jerusalem（耶路撒冷希伯来大学）
合成图像的生成目前由生成对抗网络（GANs）主导。尽管它们在生成逼真的图像方面取得了杰出的成功，但它们仍然存在主要缺点，包括不稳定和高度敏感的训练过程，模式崩溃和模式混合，以及对大型训练集的依赖。在这项工作中，我们提出了一种新的非对抗性生成方法-潜在空间的优化（COLA），它克服了GANs的一些限制，并在训练数据稀缺时优于GANs。在完整的数据体系中，我们的方法能够在没有监督的情况下生成多样化的多类图像，在图像质量和多样性方面超越了之前的非对抗性方法。在小数据范围内，只有少量标记图像样本可用于训练，无法访问其他未标记数据，我们的结果超过了在相同数据量上训练的最先进的GAN模型。最后，当利用我们的模型来增强小数据集时，我们在具有挑战性的数据集上的小样本分类任务中超越了最先进的性能，包括CIFAR-10，CIFAR-100，STL-10和Tiny-ImageNet。理论分析支持的方法的本质。
2020-12-01 cs.CV cs.LG
A Tensor-based Convolutional Neural Network for Small Dataset Classification
Indiana University Bloomington（印第安纳大学伯明顿分校）
受具有结构化隐藏表示的ConvNets的启发，我们提出了一种基于张量的神经网络，TCNN。与ConvNets不同，TCNN由结构化神经元而不是标量神经元组成，基本操作是神经元张量变换。与其他结构化的ConvNets不同，其中部分-整体关系是显式建模的，这些关系是在TCNN中隐式学习的。此外，TCNN中的结构化神经元是高阶张量，而不是向量或矩阵。我们将TCNN与当前流行的ConvNets进行比较，包括ResNets，MobileNets，EfficientNets，RegNets等，CIFAR 10、CIFAR 100和Tiny ImageNet。实验表明，TCNN在参数方面具有更高的效率。与ConvNets相比，TCNN对MNIST上的白盒对抗攻击也表现出更高的鲁棒性。
2023-03-29 cs.CV cs.GT
Ultrasound Image Classification using ACGAN with Small Training Dataset
Fondazione Bruno Kessler（布鲁诺·凯斯勒基金会）；IBM Research-Almaden（IBM阿尔马登研究中心）
B型超声成像是一种流行的医学成像技术。与其他图像处理任务一样，在过去几年中，深度学习已用于分析B型超声图像。然而，训练深度学习模型需要大型标记数据集，这通常不适用于超声图像。缺乏大型标记数据是在超声图像分析中使用深度学习的瓶颈。为了克服这一挑战，在这项工作中，我们利用了辅助分类器生成对抗网络（ACGAN），它在同一框架中结合了数据增强和迁移学习的优点。我们进行了实验数据集的乳腺超声图像，显示所提出的方法的有效性。
2021-01-31 cs.CV eess.IV
Ensemble of Small Classifiers For Imbalanced White Blood Cell Classification
Department of Computer Science, University of Warwick（沃里克大学计算机科学系）；Warwick Medical School, University of Warwick（沃里克医学院）；Intelligent Imaging Innovations Ltd（智能影像创新有限公司）
本文提出了一种轻量级集成方法，用于白血球分类，通过数据集扩展缓解类别不平衡问题，利用预训练模型实现高效分类。
2026-03-21 cs.CV cs.LG
IRX-1D: A Simple Deep Learning Architecture for Remote Sensing Classifications
提出结合Inception、ResNet和Xception的简单深度学习架构IRX-1D，在小样本遥感分类中优于贝叶斯优化2D-CNN，并达到与九项先进工作相当或更优的性能。
2023-06-19 cs.CV cs.LG
Land Classification in Satellite Images by Injecting Traditional Features to CNN Models
Marmara University（马尔马拉大学）；Independent scientist（独立科学家）
深度学习方法已成功应用于遥感问题多年。在这些方法中，基于CNN的模型在解决使用卫星或航空图像的土地分类问题时具有高精度。虽然这些模型具有很高的精度，但这通常需要很大的内存大小。另一方面，期望具有小尺寸的模型用于具有低存储器空间的应用，诸如在无人驾驶飞行器上实现的应用。不幸的是，小尺寸的CNN模型不像它们的大尺寸版本那样提供高精度。在这项研究中，我们提出了一种新的方法，通过向CNN模型注入传统特征来提高CNN模型的准确性，尤其是小尺寸模型的准确性。为了测试所提出的方法的有效性，我们将其应用于大小为0.5 MB至528 MB的CNN模型SqueezeNet、MobileNetV2、ShuffleNetV2、VGG 16和ResNet50 V2。我们使用样本均值、灰度共生矩阵特征、Hu矩、局部二值模式、方向梯度直方图和颜色不变量作为传统的注入特征。我们在EuroSAT数据集上测试了所提出的方法来进行土地分类。我们的实验结果表明，该方法显着提高土地分类精度，特别是当应用于小尺寸的CNN模型。
2022-07-21 cs.AI cs.CV
Self-Supervised Learning Featuring Small-Scale Image Dataset for Treatable Retinal Diseases Classification
Rice University（莱斯大学）；Boston University（波士顿大学）；Microsoft（微软公司）
本文针对小规模OCT视网膜图像数据，评估SSL与TL模型，证明MoCo-v2等自监督方法在平衡、不平衡及极少样本条件下分类性能更优。
2024-04-15 cs.CV cs.LG
Sea-Net: A Small and Inherently Interpretable Neural Network for Time Series Classification
Centre de Recherche en Informatique, Signal et Automatique de Lille (CRIStAL)（里尔信息、信号与自动化研究中心）；University of Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
该研究针对传统时间序列分类模型MILLET参数多、不适合边缘设备的问题，提出轻量级SEA-Net架构，在保持高分类与解释性能的同时大幅减小模型规模，为边缘端可解释时间序列分类提供了实用方案。
2026-10-14 cs.CV cs.LG
MIRST-DM: Multi-Instance RST with Drop-Max Layer for Robust Classification of Breast Cancer
University of Idaho（爱达荷大学）
鲁棒自训练（Robust Self-training，简称RSE）可以在不显著牺牲模型泛化能力的前提下增强图像分类模型的对抗鲁棒性。然而，ESTA和其他国家的最先进的防御方法未能保持的泛化能力，并重现其良好的对抗性的鲁棒性小的医学图像集。在这项工作中，我们提出了具有drop-max层的多实例递归，即MIRST-DM，它涉及在训练过程中迭代生成的对抗实例序列，以在小数据集上学习更平滑的决策边界。建议的drop-max层消除了不稳定的特征，并有助于学习对图像扰动具有鲁棒性的表示。使用具有1，190个图像的小型乳腺超声数据集验证了所提出的方法。结果表明，该方法实现了最先进的对抗鲁棒性对三种流行的攻击。
2022-05-02 cs.CV eess.IV
CEC-CNN: A Consecutive Expansion-Contraction Convolutional Network for Very Small Resolution Medical Image Classification
National Technical University of Athens（雅典国立技术大学）；National and Kapodistrian University of Athens（雅典国立卡波迪斯特里安大学）；Aretaieion Hospital（阿雷泰翁医院）
用于图像分类的深度卷积神经网络（CNN）连续交替卷积和下采样操作，例如池化层或步幅卷积，导致网络越深，分辨率越低。这些下采样操作节省了计算资源，并在下一层提供了一些平移不变性以及更大的感受野。然而，这样做的一个固有的副作用是，在网络的深端产生的高级特征总是在低分辨率的特征图中被捕获。反之亦然，因为浅层总是包含小尺度特征。在生物医学图像分析中，工程师通常负责对仅携带有限信息量的非常小的图像块进行分类。就其本质而言，这些补丁甚至可能不包含对象，而分类则取决于对图像纹理中具有未知尺度的微妙潜在模式的检测。在这些情况下，每一位信息都是有价值的;因此，提取尽可能多的信息特征是很重要的。在这些考虑的驱动下，我们引入了一种新的CNN架构，该架构通过利用跳过连接以及特征图的连续收缩和扩展来保留来自深层、中间层和浅层的多尺度特征。使用来自胰腺导管腺癌（PDAC）CT扫描的非常低分辨率的补丁数据集，我们证明了我们的网络可以优于当前最先进的模型。
2022-09-27 cs.CV cs.LG
TOP-GAN: Label-Free Cancer Cell Classification Using Deep Learning with a Small Training Set
Tel Aviv University（特拉维夫大学）
我们提出了一种新的医学成像深度学习方法，解决了小训练集的问题，这是深度学习的主要瓶颈，并将其应用于通过定量相位成像获得的健康和癌细胞的分类。所提出的方法称为预训练生成对抗网络的转移（TOP-GAN），是转移学习和生成对抗网络（GANs）之间的混合。利用低相干离轴全息术对健康细胞和不同转移潜能的癌细胞进行了成像。在采集之后，提取细胞的光路延迟图，并直接用作深度网络的输入。为了处理少量的分类图像，我们使用了GANs来训练大量来自另一种细胞类型（精子细胞）的未分类图像。经过初步训练，并将网络的最后一层转换为新的网络后，我们设计了一个正确细胞类型（健康/原发性癌症/转移性癌症）的自动分类器，准确率为90-99%，尽管使用了小训练集，但只有几张图像。这些结果是更好的相比，其他经典的方法，旨在应对同样的问题，一个小的训练集。我们相信，我们的方法使全息显微镜和深度学习网络的结合更容易进入医疗领域，通过实现快速，自动和准确的分类免染色成像流式细胞术。此外，我们的方法预计将适用于许多其他医学图像分类任务，从一个小的训练集。
2018-12-17 cs.CV cs.LG eess.IV
Multi-modal Medical Image Fusion For Non-Small Cell Lung Cancer Classification
Mohamed Bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）
针对非小细胞肺癌早期检测与亚型分类难题，提出融合CT/PET影像、临床记录与基因组数据的多模态方法，借助MedClip、BEiT提取特征，准确率达94.04%，有望提升肺癌诊疗效果。
2024-09-27 cs.AI cs.CV eess.IV
DeepScores -- A Dataset for Segmentation, Detection and Classification of Tiny Objects
ZHAW Datalab（苏黎世应用科技大学数据实验室）；USI（瑞士意大利语区大学）；University of Venice（威尼斯大学）；IDSIA（人工智能研究所）
我们提出DeepScores数据集的目标是推进小对象识别的最新技术，并将对象识别问题置于场景理解的背景下。DeepScores包含高质量的乐谱图像，分为300，000张书面音乐，其中包含不同形状和大小的符号。由于有近一亿个小对象，这使得我们的数据集不仅是独一无二的，而且是最大的公共数据集。DeepScores具有用于对象分类、检测和语义分割的基础事实。因此，DeepScores对计算机视觉提出了一个相关的挑战，超出了光学音乐识别（OMR）研究的范围。我们对数据集进行了详细的统计分析，将其与其他计算机视觉数据集进行了比较，如Caltech 101/256，PASCAL VOC，SUN，SVHN，ImageNet，MS-COCO，较小的计算机视觉数据集以及其他OMR数据集。最后，我们提供了对象分类的基线性能，并指出了未来的研究基于这个数据集。
2018-05-26 cs.CV cs.LG
Detection and Classification of Astronomical Targets with Deep Neural Networks in Wide Field Small Aperture Telescopes
Taiyuan University of Technology（太原理工大学）
宽视场小口径望远镜广泛用于光学瞬态观测。天文目标的检测与分类是天文观测图像中最重要、最基本的步骤。本文提出了一种基于深度神经网络的天文目标检测和分类框架。我们的框架采用了Faster R-CNN的概念，并使用修改后的Resnet-50作为骨干网络和特征金字塔网络来从不同天文目标的图像中提取特征。为了提高我们的框架的泛化能力，我们使用模拟和真实的观察图像来训练神经网络。训练后的神经网络能够对天文目标进行自动检测和分类。我们测试我们的框架与模拟数据的性能，发现我们的框架具有几乎相同的检测能力的传统方法的明亮和孤立的源和我们的框架有2倍更好的检测能力，为昏暗的目标，虽然所有的天体检测传统方法可以正确地分类。我们还使用我们的框架来处理真实的观测数据，发现当我们的框架的阈值为0. 6时，我们的框架可以比传统方法提高25%的检测能力。瞬态目标的快速发现是非常重要的，我们进一步建议将我们的框架安装在嵌入式设备，如Nvidia Jetson Xavier，以实现实时天文目标检测和分类能力。
2020-03-14 astro-ph.IM cs.CV
Image Classification with Small Datasets: Overview and Benchmark
Sapienza University of Rome（罗马第一大学）；Friedrich Schiller University Jena（耶拿弗里德里希·席勒大学）
小数据集的图像分类是近年来的一个研究热点。然而，由于这一领域的研究仍处于起步阶段，因此缺少两个关键因素来确保可靠和真实的进展：对最新技术的系统和广泛的概述，以及允许对已发表方法进行客观比较的共同基准。本文将讨论这两个问题。首先，我们系统地整理和连接过去的研究，以巩固一个社区，目前是支离破碎的和分散的。第二，我们提出了一个共同的基准，允许客观比较的方法。它由跨越不同领域的五个数据集组成（例如，自然图像、医学图像、卫星数据）和数据类型（RGB、灰度、多光谱）。我们使用这个基准来重新评估标准交叉熵基线和2017年至2021年在知名场馆发布的十种现有方法。令人惊讶的是，我们发现对保留的验证数据进行彻底的超参数调整会产生高度竞争性的基线，并凸显了多年来性能增长的迟缓。事实上，只有一个可以追溯到2019年的专门方法明显赢得了我们的基准，并优于基线分类器。
2022-12-23 cs.AI cs.CV cs.NE
Reinforcing Medical Image Classifier to Improve Generalization on Small Datasets
Hankuk University of Foreign Studies（韩国外国语大学）
随着深度学习的发展，使用复杂的判别模型改进图像分类已经成为可能。然而，这种复杂性增加的深度模型需要大量的标记样本来泛化训练。由于训练数据有限，这种分类模型在应用于医学图像时很容易过拟合，这是医学图像分析领域的一个常见问题。本文提出并研究了一种增强型分类器，以提高在少量可用训练数据下的泛化能力。部分遵循强化学习的思想，所提出的分类器使用来自训练数据的子集的泛化反馈来更新其参数，而不是仅使用关于训练数据的传统交叉熵损失。我们评估了改进的分类器，通过将其应用于三个不同的分类问题，对标准的深度分类器配备现有的过拟合预防技术。除了分类性能的整体改善，所提出的分类器表现出显着的广义学习的特点，它可以在医学分类任务有很大的潜力。
2019-10-07 cs.CV cs.LG eess.IV
