Self-Supervised Learning For Few-Shot Image Classification
Alibaba Group（阿里巴巴集团）
Few-Shot图像分类的目标是用有限的标记样本对不可见的类别进行分类。最近的作品受益于带有情景任务的元学习过程，并且可以快速适应从训练到测试的课程。由于每个任务的样本数量有限，元学习的初始嵌入网络成为一个重要组成部分，并在很大程度上影响实际性能。为此，大多数现有的方法高度依赖于高效的嵌入网络。在监督学习（SL）方式下，由于标记数据的有限性，嵌入网络的规模受到限制，成为少样本学习方法的瓶颈。在本文中，我们提出了训练一个更广义的嵌入式网络与自监督学习（SSL），它可以提供强大的表示下游任务通过学习数据本身。我们评估我们的工作进行了广泛的比较与以前的基线方法对两个Few-Shot分类数据集（{ \em即，} MiniImageNet和CUB），并在基线上实现更好的性能。在跨域少样本学习分类中对4个数据集进行测试，结果表明该方法取得了较好的分类效果，进一步证明了该模型的鲁棒性。我们的代码可以在\hyperref [https：//github.com/phones/SSL-FEW-SHOT.]上找到。{https：//github.com/phony/SSL-FEW-SHOT.}
2021-02-23 cs.CV
ENInst: Enhancing Weakly-supervised Low-shot Instance Segmentation
POSTECH（浦项科技大学）；KAIST（韩国科学技术院）；ETRI（韩国电子通信研究院）；Harvard University（哈佛大学）
针对弱监督少样本实例分割问题，通过系统分析识别性能瓶颈，提出ENInst框架，利用逐实例掩码精炼和新颖分类器组合增强子任务，效率提升7.5倍并超越全监督模型。
2023-07-31 cs.CV
Semi-Supervised Few-Shot Adaptation of Vision-Language Models
Computer Vision Lab, ETH Zurich, Zurich, Switzerland（苏黎世联邦理工学院计算机视觉实验室）
本文提出一种半监督方法，通过传播文本引导的伪标签来提升视觉-语言模型在极低样本情况下的适应性能，减少标注工作量超过50%。
2026-03-03 cs.CV
StarNet: towards Weakly Supervised Few-Shot Object Detection
IBM Research AI（IBM研究院人工智能部门）；Tel-Aviv University（特拉维夫大学）；Technion（以色列理工学院）
近年来，Few-Shot检测和分类有了显著的进步。然而，检测方法需要强注释（边界框）用于预训练和适应新的类别，并且分类方法很少提供场景中对象的定位。在本文中，我们介绍了StarNet -一个Few-Shot模型，具有端到端可微的非参数星形模型检测和分类头。通过这个头，骨干只使用图像级标签进行元训练，以产生良好的特征，用于使用查询和支持图像之间几何匹配的星型模型（以找到相应的对象实例）联合定位和分类以前看不见的Few-Shot测试任务类别。作为一个Few-Shot检测器，StarNet不需要任何限界框注释，无论是在预训练期间还是在新的类适应期间。因此，它可以应用于以前未开发的和具有挑战性的任务弱监督Few-Shot目标检测（WS-FSOD），在那里它实现了显着的改进，超过基线。此外，StarNet在Few-Shot分类基准上显示出显着的收益，这些基准在对象周围的裁剪较少（其中对象定位是关键）。
2020-09-17 cs.CV
A Self-Distillation Embedded Supervised Affinity Attention Model for Few-Shot Segmentation
Beihang University（北京航空航天大学）；Beijing University of Technology（北京工业大学）
Few-Shot分割是一种利用有限的标注样本来分割未知对象的方法。然而，现有的方法仍然面临两个主要挑战。首先，支持图像和查询图像之间巨大的特征差异导致知识传递障碍，这损害了分割性能。其次，有限的支持原型不能充分表达支持对象的特征，难以指导高质量的查询分割。针对这两个问题，本文提出了自升华嵌入式监督仿射注意力模型来提高Few-Shot分割任务的性能。具体来说，自升华引导原型模块使用自升华来对齐支持和查询的特征。有监督的亲和注意力模块生成高质量的查询注意力图，以提供足够的对象信息。大量的实验证明，我们的模型显着提高了性能相比，现有的方法。全面的消融实验和可视化研究也表明，我们的方法对Few-Shot分割任务的显着效果。在COCO-20 i数据集上，我们获得了新的最先进的结果。训练代码和预训练模型可在https://github.com/cv516Buaa/SD-AANet上获得。
2023-03-20 cs.CV
One-Shot Weakly Supervised Video Object Segmentation
University of Alberta（阿尔伯塔大学）；Indian Institute of Science (IISc)（印度科学学院（IISc））；ElementAI；HiSilicon, Huawei Research（华为海思研究部）
传统的Few-Shot对象分割方法从具有强标记的分割掩模的几个标记的支持图像学习对象分割。最近的工作表明，在涂鸦和边界框方面，它的表现与较弱的监督水平相当。然而，已经有有限的关注给予的问题，Few-Shot对象分割与图像级的监督。我们提出了一种新的多模态交互模块的Few-Shot对象分割，利用共同的注意力机制使用视觉和词嵌入。它使我们的模型，以实现5.1%的改进，比以前提出的图像级Few-Shot对象分割。我们的方法比较接近使用强监督的最先进的方法，而我们的方法使用最少的监督。我们进一步提出了一种新的设置Few-Shot弱监督视频对象分割（VOS），依赖于图像级标签的第一帧。建议的设置使用弱注释，不像半监督VOS设置，利用强标记的分割掩码。该设置评估了在VOS设置中推广到新类的有效性。该设置将VOS数据拆分为多个折叠，每个折叠具有不同的类别。它提供了一个潜在的设置，以评估如何Few-Shot对象分割方法可以受益于额外的对象姿势，或对象的相互作用，是不可用的静态帧在PASCAL-5i基准。
2019-12-18 cs.CV
A Pixel-Level Meta-Learner for Weakly Supervised Few-Shot Semantic Segmentation
National Taiwan University（台湾大学）；ASUS Intelligent Cloud Services（华硕智能云服务）
Few-Shot语义分割解决了学习任务，其中只有少数具有地面实况像素级标签的图像可用于感兴趣的新类别。通常需要收集大量数据（即，基类），然后是元学习策略来解决上述学习任务。当在训练和测试期间只能观察到图像级语义标签时，弱监督Few-Shot语义分割被认为是更具挑战性的任务。为了解决这个问题，我们提出了一种新的元学习框架，它预测伪像素级分割掩码从有限的数据量和它们的语义标签。更重要的是，我们的学习方案进一步利用产生的像素级信息，用于具有分割保证的查询图像输入。因此，我们提出的学习模型可以被看作是一个像素级的元学习者。通过对基准数据集的广泛实验，我们表明，我们的模型在完全监督设置下实现了令人满意的性能，但在弱监督设置下对最先进的方法表现良好。
2021-11-02 cs.CV
Spectral-Spatial Self-Supervised Learning for Few-Shot Hyperspectral Image Classification
Beijing Institute of Technology（北京理工大学）
针对高光谱图像少样本分类标注稀缺、现有方法空间适配性不足且缺光谱先验的问题，提出S4L-FSC方法，通过异质数据集空间预训练、同质数据集光谱预训练结合少样本学习，提升分类性能，经四数据集验证有效且优越。
2025-05-20 cs.CV
Self-supervised Knowledge Distillation for Few-shot Learning
Inception Institute of Artificial Intelligence（起源人工智能研究院）；Linköping University（林雪平大学）；University of Central Florida（中佛罗里达大学）
现实世界包含了大量的对象类，一次性学习所有这些对象类是不可行的。少样本学习是一种很有前途的学习范式，因为它能够快速学习无序分布，只需很少的样本。最近的工作[7，41]表明，简单地学习一个好的特征嵌入可以优于更复杂的元学习和度量学习算法，用于少样本学习。在本文中，我们提出了一种简单的方法来提高深度神经网络对少样本学习任务的表示能力。我们遵循两个阶段的学习过程：首先，我们训练一个神经网络，以最大化特征嵌入的熵，从而使用自监督辅助损失创建最佳输出流形。在第二阶段，我们通过将自我监督的双胞胎放在一起来最小化特征嵌入的熵，同时用学生-教师蒸馏来约束流形。我们的实验表明，即使在第一阶段，自我监督可以优于当前最先进的方法，我们的第二阶段蒸馏过程实现了进一步的收益。我们的代码可在https://github.com/brjathu/SKD上获得。
2020-08-04 cs.CV
Pareto Self-Supervised Training for Few-Shot Learning
Westlake University（西湖大学）；Westlake Institute for Advanced Study（西湖高等研究院）；Zhejiang University（浙江大学）
少样本学习（FSL）的目标是在几乎没有监督的情况下快速泛化到新概念，而自监督学习（SSL）直接从未标记的数据中构造监督信号。利用这两种方式的互补性，Few-Shot辅助学习最近受到了人们的关注，以处理少量标记数据。以前的工作受益于共享归纳偏置之间的主要任务（FSL）和辅助任务（SSL），其中共享的任务参数进行了优化，通过最小化任务损失的线性组合。然而，如何选择合适的权重来平衡任务和减少任务冲突是一个挑战。为了从整体上处理这个问题，我们提出了一种新的方法，称为帕累托自监督训练（PSST）的FSL。PSST显式地将Few-Shot辅助问题分解为具有不同权衡偏好的多个约束多目标子问题，并且在这里确定了主任务实现最佳性能的偏好区域。然后，提出了一种有效的偏好Pareto探索，在这样的偏好区域中找到一组最优解。在几个公共基准数据集上的大量实验验证了我们方法的有效性，实现了最先进的性能。
2021-04-19 cs.CV
Exploiting Temporal Coherence for Self-Supervised One-shot Video Re-identification
University of California, Riverside（加州大学河滨分校）
虽然重新识别中的监督技术非常有效，但对大量注释的需求使得它们对于大型摄像机网络来说不切实际。单次重新识别，它使用一个单一的标记轨迹为每个身份以及一个池的未标记的轨迹，是一个潜在的候选人，以减少这种标记的努力。当前的一次性重新识别方法通过对标记数据和未标记数据之间的相互关系进行建模来起作用，但未能充分利用存在于未标记数据本身的池内的这种关系。在本文中，我们提出了一个新的框架，称为时间一致性渐进学习，它使用时间一致性作为一种新的自我监督的辅助任务，在一次学习范式，以捕捉这种关系之间的未标记的tracklet。优化了两个新的损失，这两个损失在局部和全局范围内加强了一致性，我们的框架可以学习更丰富和更具鉴别力的表示。在两个具有挑战性的视频重识别数据集- MARS和DukeMTMC-VideoReID -上的大量实验表明，我们提出的方法能够更准确地估计未标记数据的真实标签，最高可达$8\%$，并且与现有的最先进的技术相比，获得了更好的重识别性能。
2020-07-21 cs.CV
Semantic-Anchored, Class Variance-Optimized Clustering for Robust Semi-Supervised Few-Shot Learning
Indian Institute of Technology Jodhpur（印度理工学院贾姆pur分校）
本文提出一种结合类方差优化聚类和语义信息注入的半监督少样本学习方法，通过提升聚类效果和伪标签生成，显著提升模型性能。
2025-12-15 cs.CV
Incremental-DETR: Incremental Few-Shot Object Detection via Self-Supervised Learning
National University of Singapore（新加坡国立大学）；Harbin Institute of Technology（哈尔滨工业大学）
增量式Few-Shot目标检测的目的是在不忘记基本类的知识的情况下检测新类，而仅使用来自新类的少量标记训练数据。大多数相关的现有工作都是关于增量式目标检测的，其依赖于每个新类的丰富训练样本的可用性，这实质上限制了对新数据可能稀缺的真实世界设置的可扩展性。在本文中，我们提出了增量DETR，增量Few-Shot目标检测通过微调和自监督学习的DETR对象检测器。为了减轻严重的过度拟合与一些新的类数据，我们首先微调类特定的组件DETR与自我监督从使用选择性搜索作为伪标签生成的额外的对象建议。我们进一步引入了一个增量的Few-Shot微调策略，在DETR的类特定组件上进行知识蒸馏，以鼓励网络在检测新类时不会忘记基类。在标准增量对象检测和增量Few-Shot目标检测设置上进行的大量实验表明，我们的方法明显优于最先进的方法。
2023-02-27 cs.CV
Distilling Self-Supervised Vision Transformers for Weakly-Supervised Few-Shot Classification & Segmentation
Meta AI；POSTECH（浦项科技大学）；Australian National University（澳大利亚国立大学）
本文利用自监督预训练视觉Transformer的token相关性，通过自注意力和伪标签增强器实现弱监督少样本分类与分割，在Pascal-5i和COCO-20i上显著提升性能。
2023-07-07 cs.CV
Semi-supervised Learning for Few-shot Image-to-Image Translation
Computer Vision Center, Universitat Autònoma de Barcelona（巴塞罗那自治大学计算机视觉中心）；Inception Institute of Artificial Intelligence（人工智能起源研究所）；Linköping University（林雪平大学）
在过去的几年里，不成对的图像到图像的翻译已经取得了显著的进展。虽然最新的方法能够生成逼真的图像，但它们关键地依赖于大量的标记图像。最近，一些方法已经解决了具有挑战性的设置的Few-Shot图像到图像的转换，减少了标记的数据要求的目标域在推理。在这项工作中，我们更进一步，在训练过程中减少了源域所需的标记数据量。要做到这一点，我们建议应用半监督学习通过一个噪声容忍的伪标记过程。我们还应用循环一致性约束来进一步利用来自相同数据集或外部的未标记图像的信息。此外，我们提出了一些结构上的修改，以方便在这些情况下的图像翻译任务。我们的用于Few-Shot图像翻译的半监督方法，称为SEMIT，在四个不同的数据集上使用仅10%的源标签实现了出色的结果，并且仅使用20%的标记数据就与主要的全监督竞争对手的性能相匹配。我们的代码和模型在https://github.com/yaxingwang/SEMIT上公开。
2020-04-02 cs.CV
Semi-supervised Zero-Shot Learning by a Clustering-based Approach
Sharif University of Technology（谢里夫理工大学）
在一些对象识别问题中，标记数据可能不适用于所有类别。零样本学习利用描述每个类别的辅助信息（也称为签名），以便找到可以从没有标记实例的类别中识别样本的分类器。在本文中，我们提出了一种新的半监督零样本学习方法，其工作在与抽象的深度视觉特征相对应的嵌入空间上。我们寻求一个线性变换的签名映射到视觉特征，这样的映射签名的可见类接近标记的样本相应的类和未标记的数据也接近映射签名的一个看不见的类。我们使用的想法是，丰富的深度视觉功能提供了一个表示空间，其中每个类的样本通常被浓缩在一个集群中。通过在四个公共基准上的大量实验，证明了所提出的方法的有效性，提高了其中三个基准的最先进的预测精度。
2016-05-31 cs.CV
Self-Supervised Dual-Frequency Phase Decomposition for Single-Shot Composite Fringe Projection Profilometry
Department of Mechanical Engineering, Yonsei University（延世大学机械工程系）；Yonsei Institute for Embodied Intelligence, Yonsei University（延世大学具身智能研究所）；Meta Reality Labs
提出自监督双频相位细化框架，利用低高频相位梯度关系及软边缘一致性损失，实现无标签的单帧复合条纹3D重建，精度优于变换方法。
2026-06-23 cs.CV
Improving Few-shot Learning with Weakly-supervised Object Localization
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
少样本学习通常涉及基于度量学习的分类器，其通过比较所提取的特征向量与类表示之间的距离来预测图像标签。然而，在特征提取器的后端应用全局池化可能不会产生正确聚焦于类对象的嵌入。在这项工作中，我们提出了一个新的框架，产生类表示提取功能的类相关区域的图像。给定只有几个示例性的图像与图像级标签，我们的框架首先本地化的类对象，通过空间分解的图像和它们的类原型之间的相似性。然后，增强类表示从本地化的结果。我们还提出了一个损失函数，以提高区分细化功能。我们的方法在miniImageNet和tieredImageNet基准测试中优于基线Few-Shot模型。
2021-05-25 cs.CV
PTN: A Poisson Transfer Network for Semi-supervised Few-shot Learning
University of Technology Sydney（悉尼科技大学）；Shanghai University（上海大学）；The University of Sydney（悉尼大学）
半监督少样本学习（SSFSL）的难点在于如何最大化额外的未标记数据的价值来提高Few-Shot学习器的学习效率。在本文中，我们提出了一个泊松转移网络（PTN）挖掘SSFSL的未标记信息从两个方面。首先，Poisson Merriman Bence Osher（MBO）模型为标记和未标记样本之间的通信搭建了一座桥梁。该模型在标签的消息传递过程中比传统的基于图的SSFSL方法更稳定，信息量更大。其次，利用额外的未标记样本，通过对比学习将知识从基类转移到新类。具体来说，我们迫使增广的正对靠近，而将负对推远。我们的对比转移方案隐式地学习新类嵌入，以减轻在少数标记数据上的过拟合问题。因此，我们可以减轻新类中嵌入通用性的退化。大量实验表明，PTN在miniImageNet和tieredImageNet基准数据集上的性能优于最先进的Few-Shot和SSFSL模型。
2021-04-01 cs.CV
Few-shot Weakly-Supervised Object Detection via Directional Statistics
University of Washington（华盛顿大学）；ANU（澳大利亚国立大学）；ACRV（澳大利亚视觉研究中心）
近年来，从少量样本中检测新目标已成为计算机视觉的一个新兴课题。然而，这些方法需要完全注释的训练图像来学习新的对象类别，这限制了它们在诸如现场机器人等现实世界场景中的适用性。在这项工作中，我们提出了一个概率多实例学习方法的Few-Shot共同目标定位（COL）和Few-Shot弱监督目标检测（WSOD）。在这些任务中，只有图像级标签，这是更便宜的获取，是可用的。我们发现，与以前基于情景学习的Few-Shot COL方法相比，对从预训练Faster-RCNN的最后一层提取的特征进行操作更有效。我们的模型同时学习新对象的分布，并通过期望最大化步骤将它们定位。作为概率模型，我们采用von Mises-Fisher（vMF）分布，当应用于预训练的嵌入空间时，它比高斯分布更好地捕获语义信息。当新对象被定位时，我们利用它们来学习线性外观模型，以检测新图像中的新类别。我们广泛的实验表明，所提出的方法，尽管是简单的，优于强基线在Few-Shot COL和WSOD，以及大规模的WSOD任务。
2021-03-25 cs.CV
Weakly Supervised Few-shot Object Segmentation using Co-Attention with Visual and Semantic Embeddings
University of Alberta（阿尔伯塔大学）；HiSilicon, Huawei Research（华为研究·海思）；Indian Institute of Science（印度科学学院）；Element AI
Few-Shot目标分割方法的研究取得了重要进展。学习是成功的，在Few-Shot分割设置，使用像素级，涂鸦和限界框监督。本文采用另一种方法，即，对于Few-Shot对象分割，仅需要图像级标签。我们提出了一种新的多模态交互模块的Few-Shot对象分割，利用共同的注意力机制，使用视觉和词嵌入。我们的模型使用图像级标签实现了4.8%的改进，比以前提出的图像级Few-Shot对象分割。它还优于在PASCAL-5i上使用弱限界框监督的最先进方法。我们的研究结果表明，Few-Shot分割受益于利用词嵌入，我们能够执行Few-Shot分割使用堆叠联合视觉语义处理与弱图像级标签。我们进一步提出了一种新的设置，时间对象分割的少样本学习（TOSFL）的视频。TOSFL可以用于各种公共视频数据，如Youtube-VOS，如实例级和类别级TOSFL实验所示。
2020-05-17 cs.CV
Data-Efficient Language-Supervised Zero-Shot Learning with Self-Distillation
UC Berkeley（加州大学伯克利分校）；Facebook Reality Labs（Facebook现实实验室）
传统的计算机视觉模型被训练来预测一组固定的预定义类别。最近，自然语言已被证明是一个更广泛和更丰富的监督来源，提供更精细的描述视觉概念比监督的“黄金”标签。以前的作品，如CLIP，使用一个简单的预训练任务来预测图像和文本标题之间的配对。然而，CLIP是数据饥渴的，需要超过4亿个图像文本对进行训练。我们提出了一种数据高效的对比蒸馏方法，使用软标签从嘈杂的图像-文本对中学习。我们的模型从预训练的图像和句子编码器中传输知识，仅用3 M图像文本对就实现了强大的性能，比CLIP小133倍。相对于ResNet 50图像编码器和DeCLUTR文本编码器，我们的方法在ImageNet 21 k +1 k上的一般零样本学习的SoTA超过了73%。在Google Open Images的zero-shot评估中，我们也以10.5%的优势击败了CLIP（19，958类）。
2021-04-18 cs.CV
A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning
Shanghai Jiao Tong University（上海交通大学）；Hikvision Research Institute（海康威视研究院）
该研究提出半监督增量小样本学习（S2 I-FSL）新场景，设计含元训练算法与模型适配机制的新范式，经多基准实验验证方法有效，为该领域提供强基线。
2024-10-30 cs.CV
Bi-Level Collaborative Learning for Few-Shot Scribble-Supervised Medical Image Segmentation
Fuzhou University（福州大学）；Qingdao University（青岛大学）
针对少样本涂鸦监督医学图像分割中样本稀缺和监督稀疏问题，提出双层协作学习框架，上层提供区域结构先验，下层生成可靠伪标签，上下层双向交互协作，在相关数据集上优于现有方法。
2026-07-29 cs.CV
Semi-Supervised Few-Shot Atomic Action Recognition
Hong Kong University of Science and Technology（香港科技大学）；Kauishou（快手）
尽管已经取得了很好的进展，但动作识别的性能仍然严重依赖于特定的数据集，由于劳动密集型标签，这些数据集很难扩展新的动作类。此外，时空外观的高度多样性需要鲁棒的和代表性的动作特征聚合和注意。为了解决上述问题，我们专注于原子动作，并提出了一种新的半监督Few-Shot原子动作识别模型。我们的模型具有无监督和对比视频嵌入，松散的动作对齐，多头特征比较，和基于注意力的聚合，这使得动作识别只有几个训练样本，通过提取更具代表性的功能，并允许灵活的空间和时间的对齐和动作的变化。实验表明，我们的模型可以达到高精度的代表性原子动作数据集优于各自的国家的最先进的分类精度在全监督设置。
2020-11-17 cs.CV
From Zero-shot Learning to Conventional Supervised Classification: Unseen Visual Data Synthesis
University of Sheffield（谢菲尔德大学）；University of East Anglia（东英吉利大学）；University of Electronic Science and Technology of China（电子科技大学）；Tsinghua University（清华大学）；Northumbria University（诺森比亚大学）
鲁棒的目标识别系统通常依赖于从大量真实图像中提取强大的特征提取机制。然而，在许多实际应用中，为不断增长的新类收集足够的图像是无法实现的。在本文中，我们提出了一个新的零样本学习（Zero-shot learning，简称ZRL）框架，它可以在不获取真实图像的情况下为看不见的类合成视觉特征。使用建议的看不见的视觉数据合成（UVDS）算法，语义属性被有效地利用作为一个中间线索，在训练阶段合成看不见的视觉特征。在此之后，将人脸识别转换为传统的监督问题，即合成的视觉特征可以直接馈送到典型的分类器，如SVM。在四个基准数据集上，我们展示了使用合成的看不见的数据的好处。大量的实验结果表明，我们提出的方法显着提高国家的最先进的结果。
2017-05-04 cs.CV
InvFusion: Bridging Supervised and Zero-shot Diffusion for Inverse Problems
Technion（技术学院）；EverEx；KAIST（韩国科学技术院）
针对扩散模型求解逆问题时零样本方法精度低、监督训练方法无法适配测试时退化的权衡问题，本文提出InvFusion退化感知后验采样器，通过新型架构融合退化算子，兼顾两类方法优势，实验达SOTA，还可拓展用于MMSE预测等任务。
2025-11-18 cs.CV
Shot in the Dark: Few-Shot Learning with No Base-Class Labels
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
少样本学习的目标是从少量标记的示例中为新类构建分类器，并且通常通过访问来自不同的“基类”集合的示例来促进。测试集（新类）和用于学习归纳偏差的基类之间的数据分布差异通常会导致新类的泛化能力较差。为了缓解由分布偏移引起的问题，以前的研究已经探索了使用未标记的例子，从新的类，除了标记的例子的基础类，这是已知的转换设置。在这项工作中，我们发现，令人惊讶的是，现成的自监督学习在miniImageNet上的5次Few-Shot率比转换的少数方法高出3.9%，而不使用任何基类标签。这促使我们更仔细地研究通过自我监督学习的特征在少样本学习中的作用。通过实验比较了监督特征和自监督特征的可移植性、鲁棒性、效率以及互补性。
2021-04-23 cs.CV
Self-Supervision Can Be a Good Few-Shot Learner
Hefei Comprehensive National Science Center（合肥综合性国家科学中心）；University of Science and Technology of China（中国科学技术大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
现有的少样本学习（FSL）方法依赖于使用大型标记数据集进行训练，这阻止了它们利用大量未标记数据。从信息论的角度来看，我们提出了一个有效的无监督FSL方法，学习表示与自我监督。遵循InfoMax原则，我们的方法通过捕获数据的内在结构来学习全面的表示。具体来说，我们最大化的互信息（MI）的实例和他们的代表与低偏MI估计执行自我监督的预训练。我们的自监督模型对可见类的偏见较小，而不是监督预训练专注于可见类的可辨别特征，从而更好地泛化不可见类。我们解释了监督预训练和自我监督预训练实际上是最大化不同的MI目标。进一步进行了大量的实验，以分析其FSL性能与各种培训设置。令人惊讶的是，结果表明，在适当的条件下，自我监督的预训练可以优于监督的预训练。与最先进的FSL方法相比，我们的方法在广泛使用的FSL基准测试中实现了相当的性能，而无需任何基类标签。
2022-07-19 cs.CV
Explore the Power of Dropout on Few-shot Learning
Sensetime Research（商汤科技研究院）
预训练模型的泛化能力是Few-Shot深度学习的关键。Dropout是传统深度学习方法中使用的正则化技术。在本文中，我们探索了dropout对少样本学习的影响，并提供了一些关于如何使用它的见解。在Few-Shot目标检测和Few-Shot图像分类数据集上进行了广泛的实验，Pascal VOC、MS COCO、CUB和mini-ImageNet的实验结果验证了该方法的有效性。
2023-01-26 cs.CV
Zero-Shot Hashing via Transferring Supervised Knowledge
University of Electronic Science and Technology（电子科技大学）；The University of Queensland（昆士兰大学）
散列在促进大规模多媒体应用方面显示出其效率和有效性。与数据相关联的监督知识（例如，语义标签或成对关系）能够显著提高散列码和散列函数的质量。然而，面对快速增长的新兴概念和多媒体数据在Web上，现有的监督哈希方法可能很容易受到监督信息的稀缺性和有效性，由于昂贵的人工标签的成本。在本文中，我们提出了一种新的散列方案，称为\emph{zero-shot hashing}（HASH），它压缩图像的“看不见的”类别的二进制代码与散列函数从有限的训练数据的“看到的”类别。具体来说，我们将独立的数据标签（即0/1形式的标签向量）投影到语义嵌入空间中，在语义嵌入空间中，所有标签之间的语义关系可以被精确地表征，从而可以将可见的监督知识转移到不可见的类。此外，为了应对语义转移问题，我们旋转嵌入空间，以更适当地对齐嵌入的语义与低级别的视觉特征空间，从而减轻语义差距的影响。同时，为了对学习高质量的哈希函数产生积极的影响，我们进一步提出了保持二进制码的局部结构特性和离散性。此外，我们开发了一个有效的交替算法来解决的WARTH模型。在各种真实数据集上进行的大量实验表明，与几种最先进的散列方法相比，该方法具有优越的zero-shot图像检索性能。
2016-06-16 cs.CV
Rethinking Class Relations: Absolute-relative Supervised and Unsupervised Few-shot Learning
Australian National University（澳大利亚国立大学）；Data61/CSIRO（联邦科学与工业研究组织Data61）；University of Oxford（牛津大学）；National University of Defense Technology（国防科技大学）
现有的大多数少样本学习方法都是用二进制标签来描述图像关系。然而，由于缺乏决策平滑性，这种二元关系不足以教导网络复杂的现实世界关系。此外，当前的少样本学习模型仅通过关系标签捕获相似性，但它们不暴露于与对象相关联的类概念，这可能由于未充分利用可用的类标签而对分类性能有害。换句话说，孩子们从一些实际的例子以及老虎与其他动物的比较中学习老虎的概念。因此，我们假设，事实上，相似性和类概念学习必须同时发生。有了这些观察，我们研究了当前少样本学习方法中简单化类建模的基本问题。我们重新思考类概念之间的关系，并提出了一种新的绝对-相对学习范式，充分利用标签信息来改进图像表示，并在有监督和无监督的情况下纠正关系理解。我们提出的范例提高了几个国家的最先进的模型在公开可用的数据集上的性能。
2021-06-09 cs.CV
MetaConcept: Learn to Abstract via Concept Graph for Weakly-Supervised Few-Shot Learning
Harbin Institute of Technology（哈尔滨工业大学）
元学习已被证明是解决少样本学习问题的有效框架。关键的挑战是如何最大限度地减少跨任务的基本学习者的泛化误差。本文利用概念图挖掘概念层次知识，将概念图作为基本学习器的显式元知识，而不是隐式元知识，从而提高元学习在弱监督少样本学习问题上的分类性能。为此，我们提出了一种新的元学习框架，称为MetaConcept，它通过概念图学习抽象概念。具体来说，我们首先提出了一种新的正则化与多层次的概念抽象约束元学习者学习抽象概念通过概念图（即识别概念从低到高的水平）。然后，我们提出了一个Meta概念推理网络作为基本学习者的元学习者，旨在通过抽象概念和少量注释样本的联合推理来快速适应新的任务。我们已经在两个弱监督少样本学习基准上进行了广泛的实验，即WS-ImageNet-Pure和WS-ImageNet-Mix。实验结果表明：1）与现有方法相比，本文提出的元概念算法在分类准确率上提高了2%~ 6%; 2）本文提出的元概念算法在弱标记数据集上训练也能取得较好的分类效果。
2021-05-11 cs.CV
Prototypical Cross-domain Self-supervised Learning for Few-shot Unsupervised Domain Adaptation
UC Berkeley（加州大学伯克利分校）；Nanjing University（南京大学）；Tsinghua University（清华大学）
无监督领域自适应（UDA）将预测模型从完全标记的源域转移到未标记的目标域。然而，在某些应用中，即使在源域中收集标签也是昂贵的，使得大多数以前的工作不切实际。为了解决这个问题，最近的工作进行了实例跨域自监督学习，然后是一个额外的微调阶段。然而，逐实例的自监督学习仅学习和对齐低级区分特征。在本文中，我们提出了一个端到端的原型跨域自监督学习（PCS）框架的Few-Shot无监督领域自适应（FUDA）。PCS不仅执行跨域低级特征对齐，而且还对跨域共享嵌入空间中的语义结构进行编码和对齐。我们的框架捕捉范畴明智的语义结构的数据域中的原型对比学习，并通过跨域原型自我监督进行功能对齐。与最先进的方法相比，PCS在Office、Vis-Home、VisDA-2017和DomainNet上分别将FUDA上不同领域对的平均分类准确率提高了10.5%、3.5%、9.0%和13.2%。我们的项目页面位于http://xyue.io/pcs-fuda/index.html
2021-03-31 cs.CV
Uncertainty-Aware Distillation for Semi-Supervised Few-Shot Class-Incremental Learning
National University of Defense Technology（国防科技大学）；University of Oulu（奥卢大学）
给定一个使用大规模基础数据集进行良好训练的模型，Few-Shot类增量学习（FSCIL）旨在通过避免过拟合来从一些标记样本中增量学习新类，而不会灾难性地忘记之前遇到的所有类。目前，利用自由可用的未标记数据来补偿有限的标记数据的半监督学习技术可以提高许多视觉任务的性能，这可以应用于解决FSCIL中的问题，即，半监督FSCIL（Semi-FSCIL）到目前为止，非常有限的工作集中在半FSCIL任务，留下的适应性问题的半监督学习的FSCIL任务尚未解决。在本文中，我们专注于这个适应性问题，并提出了一个简单而有效的半FSCIL框架命名为不确定性感知蒸馏与类平衡（UaD-CE），包括两个模块UaD和CE。具体来说，当将未标记的数据纳入每个增量会话时，我们引入了CE模块，该模块采用类平衡的自训练，以避免易于分类的类在伪标签生成上逐渐占据主导地位。为了从参考模型中提取可靠的知识，我们进一步实现了UaD模块，该模块将不确定性引导的知识精炼与自适应蒸馏相结合。在三个基准数据集上的综合实验表明，该方法可以提高半监督学习技术在FSCIL任务中对未标记数据的适应性。
2023-01-24 cs.CV
Disentangled Feature Representation for Few-shot Image Classification
Nanyang Technological University（南洋理工大学）；City University of Hong Kong（香港城市大学）
学习可推广的特征表示是Few-Shot图像分类的关键。虽然最近的工作利用任务特定的特征嵌入使用元任务的少样本学习，他们是有限的，在许多具有挑战性的任务，被分散的特征，如背景，域和风格的图像样本。在这项工作中，我们提出了一种新的分离特征表示框架，称为DFR，用于少样本学习应用。DFR可以自适应地将由分类分支建模的鉴别特征与变化分支的类无关分量解耦。一般来说，大多数流行的深度少样本学习方法都可以作为分类分支插入，因此DFR可以提高它们在各种Few-Shot任务上的性能。此外，我们提出了一种新的FS域网数据集的基础上域网，基准测试的Few-Shot领域泛化任务。我们进行了广泛的实验，以评估所提出的DFR对一般和细粒度的Few-Shot分类，以及Few-Shot领域泛化，使用相应的四个基准，即，mini-ImageNet，tiered-ImageNet，CUB，以及建议的FS-DomainNet。由于有效的特征分解，基于DFR的Few-Shot分类器在所有数据集上都取得了最先进的结果。
2021-09-26 cs.CV
Generalized Few-Shot Object Detection without Forgetting
Megvii Technology（旷视科技）
近年来，Few-Shot目标检测被广泛用于处理数据有限的情况。虽然大多数以前的作品只专注于性能上的Few-Shot类别，我们声称，检测所有类是至关重要的测试样本可能包含任何实例在现实中的应用，这需要Few-Shot检测器学习新的概念，而不会忘记。通过对基于迁移学习的方法的分析，利用一些被忽视但有益的性质，设计了一种简单而有效的Few-Shot检测器--保留R-CNN。它由Bias-Balanced RPN和Re-detector组成，Bias-Balanced RPN用于消除预训练RPN的偏差，Re-detector用于在不忘记先前知识的情况下找到Few-Shot类对象。在Few-Shot检测基准上进行的大量实验表明，在所有设置中，Retentive R-CNN在整体性能上明显优于最先进的方法，因为它可以在Few-Shot类上实现有竞争力的结果，并且根本不会降低基类的性能。我们的方法已经证明，长期期望的永不遗忘的学习器是可用的目标检测。
2021-05-20 cs.CV
Few-Shot Image Classification via Contrastive Self-Supervised Learning
School of Information；Communications Xi’an Jiaotong University Xi'an, P.R. China
大多数以前的少样本学习算法都是基于元训练，使用假的Few-Shot任务作为训练样本，其中需要大的标记基类。训练模型也受到任务类型的限制。在本文中，我们提出了一个新的无监督少样本学习的范例来修复的不足。我们分两个阶段解决了Few-Shot任务：通过对比自监督学习对可转移特征提取器进行元训练，并使用图聚合、自蒸馏和流形增强训练分类器。一旦经过元训练，该模型就可以用于任何类型的任务，并进行任务相关的分类器训练。我们的方法在标准Few-Shot视觉分类数据集上的各种既定Few-Shot任务中实现了最先进的性能，与可用的无监督少样本学习方法相比，提高了8- 28%。
2020-08-23 cs.AI cs.CV
A Unified approach for Conventional Zero-shot, Generalized Zero-shot and Few-shot Learning
零样本学习中流行的技术不能很好地推广到其他相关的问题场景。在这里，我们提出了一个统一的方法为传统的zero-shot，广义zero-shot和少样本学习问题。我们的方法是基于一个新的类自适应主方向（CAPD）的概念，允许多个嵌入到一个语义空间的图像特征。给定一个图像，我们的方法为每个可见类生成一个主方向。然后，它学习如何组合这些方向以获得每个未见过类的主方向，使得测试图像的CAPD与真实类的语义嵌入对齐，并且与其他类相反。这允许从可见类到不可见类的有效和类自适应信息传输。此外，我们提出了一个自动的过程中，选择最有用的看到的类为每个看不见的类，以实现鲁棒性零样本学习。我们的方法可以更新看不见的CAPD，利用很少的看不见的图像在少样本学习的情况下工作。此外，我们的方法可以通过估计可见-不可见的多样性来推广可见的CAPD，这显著提高了广义零样本学习的性能。我们的广泛的评估表明，所提出的方法一贯取得优异的性能在zero-shot，广义zero-shot和少数/一次性学习问题。
2017-10-26 cs.CV
Object-Extent Pooling for Weakly Supervised Single-Shot Localization
Vicarious Perception Technologies（维卡瑞斯感知技术公司）；Delft University of Technology（代尔夫特理工大学）
在缺乏详细的训练注释的情况下，在弱监督下实时执行对象定位任务的能力是非常有价值的。然而，生成和评估区域建议的计算成本是沉重的。我们适应类激活地图（CAM）的概念到第一个弱监督的“单发”检测器，不需要使用区域的建议。为了促进这一点，我们提出了一种新的全局池技术，称为空间金字塔平均最大（SPAM）池训练这个基于CAM的网络对象范围定位只有弱图像级的监督。我们证明了这个全局池化层具有接近理想的梯度流，用于范围本地化，这在最大池化和平均池化的极端之间提供了良好的权衡。我们的方法只需要一个单一的网络通道，并使用快速反投影技术，完全省略了任何区域建议步骤。据我们所知，这是第一个这样做的方法。因此，我们能够以35 fps的速度实时执行推理，这比之前所有弱监督对象定位框架都快了一个数量级。
2017-07-19 cs.CV
Correlation Weighted Prototype-based Self-Supervised One-Shot Segmentation of Medical Images
Indian Statistical Institute（印度统计研究所）；Indian Institute of Technology Kharagpur（印度理工学院克勒格布尔分校）
针对医学图像标注数据不足及现有原型框架原型对齐方差大的问题，提出相关加权动态原型与象限掩码的自监督单样本分割框架，在腹部CT/MR数据集上性能达当前最优水平。
2024-08-12 cs.CV
Few-Shot Learning with Intra-Class Knowledge Transfer
Carnegie Mellon University（卡内基梅隆大学）
我们考虑不平衡数据集的Few-Shot分类任务，其中一些类有足够的训练样本，而其他类只有有限的训练样本。最近的工作提出了解决这个问题，通过增加训练数据的Few-Shot类使用生成模型与Few-Shot训练样本作为种子。然而，由于有限数量的Few-Shot种子，生成的样本通常具有小的多样性，使得难以训练用于Few-Shot类的判别分类器。为了丰富所生成的样本的多样性，我们建议利用来自邻居多镜头类的类内知识，直觉上邻居类共享相似的统计信息。这种类内信息是通过两步机制获得的。首先，使用仅在多镜头类上训练的回归器来评估仅来自少数样本的Few-Shot类均值。其次，对超类进行聚类，并将每个超类的统计均值和特征方差作为子Few-Shot类继承的可传递知识。然后，生成器使用这些知识来增强稀疏训练数据，以帮助下游分类任务。大量的实验表明，我们的方法在不同的数据集和$n$拍摄设置上达到了最先进的水平。
2020-08-22 cs.CV
Empirical Perspectives on One-Shot Semi-supervised Learning
US Naval Research Laboratory（美国海军研究实验室）
在新应用中采用深度神经网络的最大障碍之一是，训练网络通常需要大量手动标记的训练样本。我们根据经验研究了这样一种场景，其中可以访问大量未标记的数据，但只需要标记每个类的单个原型样本，以便训练深度网络（即，一次性半监督学习）。具体来说，我们调查了FixMatch中报道的一次性半监督学习的最新结果，以了解影响和阻碍Cifar-10一次性半监督学习的高准确性和可靠性的因素。例如，我们发现，一次半监督学习的高性能图像分类的一个障碍是在训练过程中的类精度的不均匀性。这些结果指出了解决方案，可以使一次性半监督训练方法在新应用中得到更广泛的采用。
2020-04-08 cs.CV cs.LG stat.ML
FlowVOS: Weakly-Supervised Visual Warping for Detail-Preserving and Temporally Consistent Single-Shot Video Object Segmentation
Stanford University（斯坦福大学）
我们考虑半监督视频对象分割（VOS）的任务。我们的方法通过使用视觉扭曲解决细节保留和时间一致性来减轻以前VOS工作中的缺点。在以前的工作，使用全光流相比，我们引入了一个新的前景为目标的视觉扭曲的方法，学习流场的VOS数据。我们训练一个流模块来捕捉帧之间的详细运动使用两个弱监督损失。我们以对象为中心的方法将先前的前景对象掩码扭曲到目标帧中的位置，从而可以在不使用额外流监督的情况下快速运行时进行详细的掩码细化。它还可以直接集成到最先进的分割网络中。在DAVIS17和YouTubeVOS基准测试中，我们的表现优于不使用额外数据的最先进的离线方法，以及许多使用额外数据的在线方法。定性，我们还表明我们的方法产生的分割与高细节和时间的一致性。
2021-11-20 cs.CV
HyperTransformer: Model Generation for Supervised and Semi-Supervised Few-Shot Learning
Google Research（谷歌研究院）
在这项工作中，我们提出了一个HyperTransformer，一个基于Transformer的监督和半监督少样本学习，直接从支持样本中生成卷积神经网络（CNN）的权重。由于小生成的CNN模型对特定任务的依赖性是由高容量的Transformer模型编码的，因此我们有效地将大任务空间的复杂性与单个任务的复杂性解耦。我们的方法对于小目标CNN架构特别有效，其中学习固定的通用任务无关嵌入不是最佳的，并且当有关任务的信息可以调制所有模型参数时，可以获得更好的性能。对于更大的模型，我们发现单独生成最后一层可以让我们产生比最先进的方法更有竞争力或更好的结果，同时是端到端可微的。
2022-07-14 cs.CV cs.LG
Similarity R-C3D for Few-shot Temporal Activity Detection
University of California, Berkeley（加利福尼亚大学伯克利分校）；National University of Singapore（新加坡国立大学）；Boston University（波士顿大学）
许多感兴趣的活动是罕见的事件，只有少数标记的例子可用。因此，期望能够从几个示例中学习的用于时间活动检测的模型。在本文中，我们提出了一个概念上简单和一般但新颖的框架，用于Few-Shot时间活动检测，它检测未修剪视频中的Few-Shot输入活动的开始和结束时间。我们的模型是端到端可训练的，可以从更多的Few-Shot示例中受益。在测试时，为每个建议分配与最大相似性分数相对应的Few-Shot活动类的标签。我们的相似性R-C3 D方法在Few-Shot设置中的时间活动检测的三个大规模基准（THUMOS 14，ActivityNet1.2和ActivityNet1.3数据集）上优于以前的工作。我们的代码将提供。
2018-12-25 cs.CV
Supervised Momentum Contrastive Learning for Few-Shot Classification
Amazon Web Services（亚马逊云科技）；UMass Amherst（马萨诸塞大学阿默斯特分校）；UCLA（加州大学洛杉矶分校）
少样本学习的目的是从一个任务中转移信息，以使新的任务的泛化给出了一些例子。这些信息在域和类标签中都有。在这项工作中，我们调查的互补作用，这两个来源的信息相结合的实例判别对比学习和监督学习在一个单一的框架称为监督动量对比学习（SUPMOCO）。我们的方法避免了在监督学习中观察到的一个问题，即图像中与任务无关的信息被丢弃，这阻碍了它们对新任务的推广。我们表明，（自监督）对比学习和监督学习是互惠互利的，导致一个新的国家的最先进的元数据集-最近推出的基准少样本学习。我们的方法是基于一个简单的修改MOCO和规模比以前的工作相结合的监督和自监督学习。这使我们能够轻松地组合来自多个领域的数据，从而进一步改进。
2021-06-21 cs.CV cs.LG
Self-Supervised Generative Style Transfer for One-Shot Medical Image Segmentation
EPFL（洛桑联邦理工学院）；CIBM（瑞士生物医学影像中心）
在医学图像分割中，有监督深度网络的成功是以需要大量标记数据为代价的。虽然要求领域专家只注释一个或几个队列的图像是可行的，但注释所有可用的图像是不切实际的。当预先训练的深度网络暴露于来自不熟悉分布的新图像数据集时，这个问题会进一步加剧。将可用的源数据用于自组织迁移学习或手动调整技术用于数据增强仅提供次优解决方案。基于图集的分割的动机，我们提出了一种新的体积自监督学习数据增强能够合成体积图像分割对通过学习转换从一个单一的标记图集的未标记的数据。我们工作的中心原则受益于一次性生成学习和建议的自监督训练策略的组合视图，该策略将具有相似风格的未标记体积图像聚类在一起。与以前的方法不同，我们的方法在推理时不需要输入体积来合成新图像。相反，它可以从给定单个或多个站点数据集的先验分布生成多样化的体积图像分割对。通过我们的方法生成的用于训练分割网络的增强数据在脑MRI分割任务上提供了比最先进的深度一次性学习方法显著的改进。消融研究进一步证明，所提出的外观模型和联合训练是至关重要的合成现实的例子相比，现有的医疗注册方法。代码、数据和模型可在https://github.com/devavratTomar/SST上获得。
2021-10-05 cs.CV
Improving Few-Shot Learning with Auxiliary Self-Supervised Pretext Tasks
University of Montreal（蒙特利尔大学）；Mila – Quebec Artificial Intelligence Institute（米拉——魁北克人工智能研究所）
最近的工作少样本学习\cite{tian2020rethinking}表明，学习表示的质量起着重要的作用，在Few-Shot分类性能。另一方面，自监督学习的目标是在不使用类别标签的情况下恢复数据的有用语义信息。在这项工作中，我们利用这两种模式的互补性，通过多任务框架，我们利用最近的自我监督的方法作为辅助任务。我们发现，将多个任务结合起来通常是有益的，同时解决它们可以有效地完成。我们的研究结果表明，自我监督的辅助任务是有效的数据依赖的正则化表示学习。我们的代码可在：\url{https://github.com/nathanielsimard/improving-fs-ssl} .
2021-01-24 cs.CV cs.LG
Unsupervised Few-shot Learning via Self-supervised Training
Beijing Normal University（北京师范大学）；Peking University（北京大学）
从有限样本中学习（少样本学习）是一个基本的、未解决的问题，在机器学习社区中一直在努力探索。然而，目前的Few-Shot学习器大多是有监督的，并且严重依赖于大量的标记示例。无监督学习是认知哺乳动物更自然的过程，并在许多机器学习任务中产生了有希望的结果。在目前的研究中，我们开发了一种方法来学习一个无监督的Few-Shot学习者通过自我监督训练（UFLST），它可以有效地推广到新的，但相关的类。该模型由两个交替的过程，渐进聚类和情节训练。前者生成用于构建情景任务的伪标记训练样本;后者使用生成的情景任务训练Few-Shot学习器，进一步优化数据的特征表示。这两个过程相互促进，并最终产生一个高质量的Few-Shot学习器。使用基准数据集Omniglot和Mini-ImageNet，我们证明了我们的模型优于其他无监督的少样本学习方法。使用基准数据集Market 1501，我们进一步证明了我们的模型的可行性，在现实世界中的应用程序的人重新识别。
2019-12-20 cs.CV cs.LG
Supervised Masked Knowledge Distillation for Few-Shot Transformers
Columbia University（哥伦比亚大学）
针对少样本ViT易过拟合且自监督与监督方法间存在鸿沟的问题，提出监督掩码知识蒸馏模型SMKD，通过在类和patch token上进行类内知识蒸馏及跨图像掩码重建，在四个基准上取得最优。
2023-03-29 cs.AI cs.CV
LEDetection: A Simple Framework for Semi-Supervised Few-Shot Object Detection
LexisNexis Risk Solutions（律商联讯风险解决方案）
本文研究标签稀缺场景下的半监督少样本目标检测，提出结合伪标签与区域提议一致性学习的SoftER Teacher框架，利用无标签数据提升检测性能，仅用10%基础标签即超越强监督基线且避免灾难性遗忘。
2024-02-14 cs.CV cs.LG
Edge-Based Self-Supervision for Semi-Supervised Few-Shot Microscopy Image Cell Segmentation
Universität Ulm（乌尔姆大学）；Ulm University Medical Center（乌尔姆大学医学中心）；The University of Adelaide（阿德莱德大学）；Otto von Guericke University（奥托·冯·格里克大学）
深度神经网络目前为显微图像细胞分割提供了有希望的结果，但它们需要大规模的标记数据库，这是一个昂贵且耗时的过程。在这项工作中，我们放宽了标签的要求，结合自监督与半监督学习。我们提出了基于边缘的地图的预测，用于自监督未标记图像的训练，它与少量标记图像的监督训练相结合，用于学习分割任务。在我们的实验中，我们评估了一个Few-Shot显微图像细胞分割基准，并表明只有少量的注释图像，例如原始训练集的10%，就足以让我们的方法达到与1到10个镜头的完全注释数据库相似的性能。我们的代码和训练模型是公开的
2022-08-03 cs.CV cs.LG
Self-Supervised Prototypical Transfer Learning for Few-Shot Classification
École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院）
少样本学习中的大多数方法依赖于（预）训练期间与目标任务域相关的昂贵的注释数据。最近，无监督元学习方法已经将注释要求交换为Few-Shot分类性能的降低。同时，在具有现实域转移的设置中，常见的迁移学习已被证明优于有监督的元学习。基于这些见解和自监督学习的进展，我们提出了一种迁移学习方法，该方法构建了一个度量嵌入，将未标记的原型样本及其增强紧密地聚集在一起。这种预训练的嵌入是通过总结类聚类和微调来进行Few-Shot分类的起点。我们证明了我们的自监督原型迁移学习方法ProtoTransfer在mini-ImageNet数据集的Few-Shot任务上优于最先进的无监督元学习方法。在域偏移的Few-Shot实验中，我们的方法甚至具有与监督方法相当的性能，但需要数量级更少的标签。
2020-06-19 cs.CV cs.LG stat.ML
