Margin-Based Few-Shot Class-Incremental Learning with Class-Level Overfitting Mitigation
Huazhong University of Science and Technology（华中科技大学）；Peking University（北京大学）
Few-Shot类增量学习（FSCIL）是一种在对具有足够样本的基本类进行训练（预训练）后，仅用少量训练样本就能增量地识别新类的学习方法，它既关注基本类的性能，又关注新类的泛化能力。对基本类训练的众所周知的修改是对基本类分类应用裕度。然而，一个困境存在，我们很难同时实现良好的基类性能和新类的泛化，通过在基类训练期间应用余量，这仍在探索中。在本文中，我们研究了这种困境的原因FSCIL。我们首先从模式学习的角度将这种困境解释为类级过拟合（CO）问题，然后发现其原因在于基于边缘模式的学习约束容易满足。基于分析，我们提出了一种新的基于边缘的FSCIL方法，以减轻CO问题，提供额外的约束，从基于边缘的模式本身的模式学习过程。在CIFAR 100，Caltech-USCD Birds-200-2011（CUB 200）和miniImageNet上的大量实验表明，所提出的方法有效地减轻了CO问题，并实现了最先进的性能。
2022-10-10 cs.CV
Negative Margin Matters: Understanding Margin in Few-shot Classification
Tsinghua University（清华大学）；Microsoft Research Asia（微软亚洲研究院）；Xi’an Jiaotong University（西安交通大学）
本文在基于度量学习的少样本学习方法中引入了负间隔损失。负边际损失显著优于常规softmax损失，并在三个标准的Few-Shot分类基准上实现了最先进的准确性，几乎没有花里胡哨的东西。这些结果与度量学习领域的通常做法相反，即边际为零或正值。为了理解为什么负边缘损失对于Few-Shot分类表现良好，我们从经验和理论上分析了学习特征对于训练和新类的不同边缘的可辨别性。我们发现，虽然负边缘降低了训练类的特征区分度，但它也可以避免将同一新类的样本错误地映射到多个峰值或聚类，从而有利于新类的区分。代码可在https://github.com/bl0/negative-margin.few-shot上获得。
2020-03-26 cs.CV cs.LG stat.ML
Sculpting Margin Penalty: Intra-Task Adapter Merging and Classifier Calibration for Few-Shot Class-Incremental Learning
School of Computer Science and Technology, Beijing Institute of Technology（计算机科学与技术学院，北京理工大学）；School of Optics and Photonics, Beijing Institute of Technology（光学与 photonics 学院，北京理工大学）；School of Medical Technology, Beijing Institute of Technology（医学技术学院，北京理工大学）
提出SMP方法，通过任务内适配器合并和分类器校准整合边际惩罚，解决少样本类增量学习中基类判别与新类泛化平衡及决策边界模糊问题，在多个基准上取得最优性能。
2025-08-07 cs.CV
RD-NAS: Enhancing One-shot Supernet Ranking Ability via Ranking Distillation from Zero-cost Proxies
National University of Defense Technology（国防科技大学）；Chinese Academy of Sciences（中国科学院）
神经网络结构搜索（NAS）在有效神经网络结构的自动设计方面取得了巨大的进展，但存在计算量大的问题。One-shot NAS通过权重共享显著减轻了负担，并提高了计算效率。Zero-shot NAS通过从初始状态预测网络的性能进一步降低了成本，该状态不进行任何训练。这两种方法都旨在区分“好”和“坏”架构，即，预测和真实性能的一致性。本文提出了一种提高排序一致性的排序蒸馏单次NAS（RD-NAS）算法，该算法利用零成本代理作为廉价教师，采用边际排序损失提取排序知识。具体来说，我们提出了一个边缘子网采样器提取排名知识从zero-shot NAS到one-shot NAS通过引入组距离作为保证金。我们对NAS-Bench-201和基于ResNet的搜索空间的评估表明，RD-NAS的排名能力分别提高了10.7%和9.65%。我们的代码可在https://github.com/pprp/CVPR2022-NAS-competition-Track1-3th-solution上获得
2023-01-24 cs.CV
Boosting Few-Shot Learning With Adaptive Margin Loss
Peking University（北京大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Queen Mary University of London（伦敦玛丽女王大学）；National University of Singapore（新加坡国立大学）
少样本学习（FSL）近年来引起了越来越多的关注，但仍然具有挑战性，因为学习从几个例子中概括的内在困难。针对少样本学习问题，提出了一种自适应间隔原则来提高基于度量的元学习方法的泛化能力。具体来说，我们首先开发了一个类相关的附加边际损失，其中每对类之间的语义相似性被认为是从相似的类中分离特征嵌入空间中的样本。此外，我们将所有类之间的语义上下文在一个采样的训练任务，并开发一个任务相关的附加利润损失，以更好地区分样本从不同的类。我们的自适应边缘方法可以很容易地扩展到一个更现实的广义FSL设置。大量的实验表明，该方法可以提高当前基于度量的元学习方法的性能，在标准FSL和广义FSL设置。
2020-05-28 cs.CV cs.LG stat.ML
Few-shot Open Relation Extraction with Gaussian Prototype and Adaptive Margin
College of Design and Innovation, Tongji University（同济大学设计与创新学院）
针对少样本开放关系抽取中的过拟合与NOTA边界混淆问题，提出GPAM框架，通过高斯原型、自适应间隔和对比学习提升已知与未知关系判别，在FewRel上达到SOTA。
2024-10-27 cs.AI cs.CV
Instance-based Max-margin for Practical Few-shot Recognition
State Key Laboratory for Novel Software Technology（计算机软件新技术国家重点实验室）；Nanjing University（南京大学）
本文提出实用少样本学习设定pFSL及基于实例的最大间隔方法IbM2，利用高斯环面定理将随机噪声转化为最大间隔机制，在多种预训练和FSL任务中显著优于基线方法。
2023-05-27 cs.AI cs.CV
Does Marginal Coverage Guarantee Class-Conditional Safety for Zero-Shot VLMs Under Shift?
Virginia Tech（弗吉尼亚理工大学）
该研究针对CLIP等零样本VLM，发现边际共形覆盖率无法保证类条件安全性，源域校准无法迁移，目标域类别校准可改善尾部但需类别标签，指出其仅为平均可靠性统计量。
2026-08-21 cs.AI cs.CV
Additive Angular Margin for Few Shot Learning to Classify Clinical Endoscopy Images
University of Oxford（牛津大学）；Imperial College London（帝国理工学院）
内窥镜检查是一种广泛使用的成像模式，用于诊断和治疗中空器官（例如胃肠道、肾脏和肝脏）中的疾病。然而，由于不同的模态和在不同临床中心使用不同的成像协议，在推广深度学习模型时带来了重大挑战。此外，来自不同临床中心的大型数据集的组装可能会引入巨大的标签偏差，从而使任何学习模型无法使用。此外，当使用新的模态或存在具有罕见模式的图像时，需要大量类似的图像数据及其相应的标签来训练这些模型。在这项工作中，我们建议使用一个少样本学习的方法，需要更少的训练数据，可以用来预测标签类的测试样本从一个看不见的数据集。在少样本学习的原型网络框架下，提出了一种新的加性角间隔度量。我们将我们的方法与几种已建立的方法进行了比较，这些方法采用了一个大型队列的多中心、多器官和多模式内窥镜检查数据。该算法优于现有的最先进的方法。
2020-03-26 cs.CV cs.LG eess.IV
ABounD: Adversarial Boundary-Driven Few-Shot Learning for Multi-Class Anomaly Detection
本文提出ABounD框架，通过语义概念锚定与几何边界优化，解决多类异常检测中特征空间塌陷和跨类干扰问题，实现高效准确的少样本学习。
2026-03-14 cs.CV
TIMA: Text-Image Mutual Awareness for Balancing Zero-Shot Adversarial Robustness and Generalization Ability
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Aarhus University（奥胡斯大学）；Tencent AI Lab（腾讯人工智能实验室）
本研究针对CLIP等基础模型在零样本场景下难平衡对抗鲁棒性与泛化能力的问题，提出TIMA框架，通过TAI与IAT两个模块校准Logit间距、保留语义一致性，实验显示其性能优于现有方法。
2026-08-18 cs.AI cs.CV
Realistic Evaluation of Transductive Few-Shot Learning
ÉTS Montreal（蒙特利尔高等技术学院）；CentraleSupélec（巴黎中央理工-高等电力学院）；CNRS（法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）
Transductive推理广泛用于少样本学习，因为它利用了Few-Shot任务的未标记查询集的统计数据，通常比其归纳对应物产生更好的性能。当前的Few-Shot基准测试在推理时使用完美的类平衡任务。我们认为，这种人为的规律性是不现实的，因为它假设测试样本的边际标签概率是已知的，并固定到均匀分布。事实上，在现实场景中，未标记的查询集带有任意和未知的标签边缘。我们介绍和研究任意类分布在查询集内的Few-Shot任务在推理的效果，消除类平衡文物。具体来说，我们的Dirichlet分布的随机变量，这产生了一个原则和现实的抽样内的单纯形的类的边际概率模型。这利用了当前的Few-Shot基准测试，用任意的类分布构建测试任务。我们评估实验国家的最先进的转导方法超过3个广泛使用的数据集，并观察到，令人惊讶的是，大量的性能下降，甚至低于归纳方法在某些情况下。此外，我们提出了一个推广的互信息损失，基于$α$ -分歧，它可以有效地处理类分布的变化。从经验上讲，我们表明，我们的转导$α$发散优化优于国家的最先进的方法在几个数据集，模型和Few-Shot设置。我们的代码可在https://github.com/oveilleux/Realistic_Transductive_Few_Shot上公开获取。
2022-04-24 cs.CV cs.LG
PromptAD: Learning Prompts with only Normal Samples for Few-Shot Anomaly Detection
East China Normal University（华东师范大学）；Chongqing Institute of East China Normal University（华东师范大学重庆研究院）；The Navy Military Medical University（海军军医大学）；Xiamen University（厦门大学）
针对少样本工业异常检测，提出一类提示学习方法PromptAD，通过语义拼接生成负样本并引入显式异常间隔，在MVTec和VisA上取得11/12个少样本设置的第一名。
2024-07-16 cs.CV
Will Multi-modal Data Improves Few-shot Learning?
大多数少样本学习模型只利用一种数据模态。我们想定性和定量地研究，如果我们添加额外的模态（即图像的文本描述），模型会改善多少，以及它如何影响学习过程。为了实现这一目标，我们提出了四种类型的融合方法来结合图像特征和文本特征。为了验证改进的有效性，我们使用两个经典的少样本学习模型- ProtoNet和MAML，使用ConvNet和ResNet 12等图像特征提取器测试融合方法。基于注意力的融合方法效果最好，与基线结果相比，分类精度提高了30%左右。
2021-07-25 cs.CV
Prompt Tuning Vision Language Models with Margin Regularizer for Few-Shot Learning under Distribution Shifts
Indian Institute of Science（印度科学研究院）
针对分布偏移下的少样本学习，提出PromptMargin方法，通过选择性增强和多模态边际正则化微调视觉语言模型，在十五个基准数据集上超越现有方法。
2025-05-21 cs.CV cs.LG
Generating Representative Samples for Few-Shot Classification
Stony Brook University（石溪大学）；Amazon Robotics（亚马逊机器人）
少样本学习（FSL）的目的是学习新的类别与一些视觉样本每个类。由于数据稀缺，Few-Shot类表示往往存在偏差。为了缓解这个问题，我们建议使用条件变分自编码器（CVAE）模型生成基于语义嵌入的视觉样本。我们训练基础类的CVAE模型，并使用它来生成新的类的功能。更重要的是，在训练CVAE模型时，我们通过从基础训练集中删除非代表性样本来引导VAE严格生成代表性样本。我们表明，这种训练方案提高了所生成的样本的代表性，因此，提高了Few-Shot分类结果。实验结果表明，我们的方法改进了三种FSL基线方法，在miniImageNet和tieredImageNet数据集上实现了最先进的Few-Shot分类性能。代码可在：https://github.com/cvlab-stonybrook/fsl-rsvae.
2022-05-05 cs.CV
A Zero-Shot Sketch-based Inter-Modal Object Retrieval Scheme for Remote Sensing Images
Centre of Studies in Resources Engineering (CSRE), Indian Institute of Technology Bombay（印度理工学院孟买分校资源工程研究中心）；German Aerospace Center (DLR)（德国航空航天中心）
传统的遥感（RS）检索方法通常基于单模态数据检索框架。在这项工作中，我们提出了一种新的跨模态三元组为基础的zero-shot检索方案，利用基于草图的RS数据表示。该方案执行有效，即使当草图表示边缘原型的图像。我们在一个新的双模态图像草图数据集上进行了实验，该数据集名为Earth on Canvas（EoC）。我们对该数据集进行了全面的基准测试，并证明了所提出的网络优于其他最先进的方法，用于遥感中基于zero-shot草图的检索框架。
2020-08-12 cs.CV
Proximity-CLIP: Text-Guided Semantic Proximity Learning for Zero-Shot Anomaly Detection
School of Software Engineering, Xi’an Jiaotong University（西安交通大学软件学院）；Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University（西安交通大学人工智能与机器人研究所）
针对零样本异常检测中正常与异常文本原型语义重叠的问题，提出Proximity-CLIP框架，通过视觉校准语义间隔和异常查询模块，在多个基准上以最小架构改动超越现有方法。
2026-09-09 cs.CV
Maximum Margin Metric Learning Over Discriminative Nullspace for Person Re-identification
Indian Institute of Technology Bombay（印度理工学院孟买分校）
在本文中，我们提出了一种新的度量学习框架，称为零空间核最大容限度量学习（NK 3 ML），有效地解决了小样本量（SSS）问题固有的人重新识别，并提供了显着的性能增益比现有的最先进的方法。利用特征空间的非常高的维度，在判别性零空间上使用最大裕度准则（MMC）来学习度量，其中给定类的所有训练样本点映射到单个点上，从而最小化类内分散。MMC的内核版本用于获得更好的类间分离。在四个具有挑战性的基准数据集上进行的大量实验表明，该算法优于所有现有的方法。我们在最广泛接受和最具挑战性的数据集VIPeR上获得了99.8%的rank-1准确率，而之前的最新技术水平仅为63.92%。
2018-07-28 cs.CV
Bias-Awareness for Zero-Shot Learning the Seen and Unseen
University of Amsterdam（阿姆斯特丹大学）
广义零样本学习识别来自可见和不可见类的输入。然而，现有的方法往往偏向于训练期间看到的类。在本文中，我们努力减轻这种偏见。我们提出了一个偏置感知学习器，将输入映射到语义嵌入空间，以实现广义零样本学习。在训练过程中，该模型学习回归到具有温度缩放的嵌入空间中的实值类原型，而基于边缘的双向熵项则正则化可见和不可见的概率。依赖于实值语义嵌入空间提供了一种通用的方法，因为该模型可以对可见和不可见类的不同类型的语义信息进行操作。实验进行了四个基准的广义零样本学习，并证明了所提出的偏置感知分类器的好处，无论是作为一个独立的方法或与生成的功能相结合。
2020-08-25 cs.CV
Temporal-Relational CrossTransformers for Few-Shot Action Recognition
University of Bristol（布里斯托尔大学）
我们提出了一种新的方法来Few-Shot动作识别，在支持集中找到查询和视频之间的时间对应的帧元组。与以前的Few-Shot作品不同，我们使用CrossTransformer注意力机制来构建类原型，以观察所有支持视频的相关子序列，而不是使用类平均值或单个最佳匹配。视频表示由不同数量的帧的有序元组形成，这允许比较不同速度和时间偏移的动作的子序列。我们提出的时间关系交叉转换器（TRX）实现了最先进的结果Few-Shot分裂的动力学，东西的东西V2（SSv2），HMDB 51和UCF 101。重要的是，我们的方法优于以前的工作SSv2的一个很大的保证金（12%），由于其建模时间关系的能力。详细的消融展示了匹配多个支持集视频和学习高阶关系CrossTransformers的重要性。
2021-03-28 cs.CV
One-Shot Video Object Segmentation
ETH Zürich（苏黎世联邦理工学院）；TU München（慕尼黑工业大学）
本文解决了半监督视频对象分割的任务，即，在给定第一帧的遮罩的情况下，将视频中的对象与背景分离。我们提出了单次视频对象分割（OSVOS），基于全卷积神经网络架构，能够连续地将在ImageNet上学习的通用语义信息转移到前景分割任务，并最终学习测试序列的单个注释对象的外观（因此是单次）。虽然所有帧都是独立处理的，但结果在时间上是一致和稳定的。我们在两个带注释的视频分割数据库上进行了实验，结果表明OSVOS速度快，并且显著提高了最新技术水平（79.8% vs 68.0%）。
2017-04-13 cs.CV
Learning Robust Features for Gait Recognition by Maximum Margin Criterion
Masaryk University（马萨里克大学）；Faculty of Informatics, Masaryk University（马萨里克大学信息学院）
在基于运动捕获数据的步态识别领域，设计人类可理解的步态特征是许多研究人员的共同做法。为了避免特别的方案，并找到最大的区别特征，我们可能需要探索超越人类可解释性的极限。本文有助于国家的最先进的机器学习方法提取强大的步态特征直接从原始关节坐标。学习的特点是通过修改的线性判别分析与最大利润标准，使身份最大限度地分离，并结合适当的分类器，用于步态识别。在CMU MoCap数据库上的实验表明，该方法在生物特征模板在四类可分性系数表示的特征空间中的分布方面优于其他八种相关方法。另外的实验表明，该方法是基于秩的分类器系统的领先概念。
2022-12-07 cs.CV
Distribution Aligned Feature Clustering for Zero-Shot Sketch-Based Image Retrieval
University of Science and Technology Beijing（北京科技大学）
基于零镜头草图的图像检索（Zero-Shot Sketch-Based Image Retrieval，简称ZSBIR）是一个具有挑战性的跨模态检索任务。在现有技术中，通过对查询草图与图库中的每个图像之间的距离进行排序来进行检索。然而，域间隙和zero-shot设置使得神经网络难以推广。本文从一个新的角度：利用图库图像特征来应对挑战。我们提出了一种先聚类后检索的方法，该方法对图库图像进行聚类，并使用聚类质心作为检索代理。此外，提出了一种分布对齐损失，使图像和草图特征具有共同的高斯分布，从而减小了域间隙。尽管它很简单，我们提出的方法在流行的数据集上比最先进的方法有很大的优势，例如，在Sketchy和TU-Berlin数据集上，mAP@all的相对改善高达31%和39%。
2023-01-17 cs.CV
Max-margin Deep Generative Models
Stanford University（斯坦福大学）；Tsinghua University（清华大学）
深度生成模型（DGMs）在学习复杂数据的多层表示和通过探索生成能力来执行输入数据的推理方面是有效的。然而，很少有工作已经做了检查或授权的判别能力的DGMs作出准确的预测。本文提出了最大间隔深度生成模型（mmDGMs），该模型探索了最大间隔学习的强区分原则，以提高DGMs的区分能力，同时保留生成能力。针对分段线性目标，提出了一种有效的双随机次梯度算法。在MNIST和SVHN数据集上的实验结果表明，（1）最大间隔学习可以显着提高DGMs的预测性能，同时保持生成能力;（2）通过采用深度卷积神经网络（CNN）作为识别和生成模型，mmDGMs与最先进的完全判别网络相比具有竞争力。
2015-12-15 cs.CV cs.LG
Joint Distribution Matters: Deep Brownian Distance Covariance for Few-Shot Classification
Dalian University of Technology（大连理工大学）；Tianjin University（天津大学）
Few-Shot分类是一个具有挑战性的问题，因为每个新任务只给出很少的训练样本。解决这一挑战的有效研究路线之一集中在学习由查询图像和某类的少数支持图像之间的相似性度量驱动的深度表示。从统计学上讲，这相当于测量图像特征的依赖性，这些特征被视为高维嵌入空间中的随机向量。以前的方法要么只使用边缘分布，而不考虑联合分布，遭受有限的表示能力，或计算昂贵，虽然利用联合分布。在本文中，我们提出了一种深度布朗距离协方差（DeepBDC）方法的Few-Shot分类。DeepBDC的中心思想是通过测量嵌入特征的联合特征函数与边缘值的乘积之间的差异来学习图像表示。由于BDC度量是解耦的，我们将其制定为高度模块化和高效的层。此外，我们在两个不同的Few-Shot分类框架中实例化DeepBDC。我们在六个标准的Few-Shot图像基准上进行了实验，涵盖了一般目标识别，细粒度分类和跨域分类。广泛的评估表明，我们的DeepBDC显著优于同行，同时建立了新的最先进的结果。源代码可在http://www.peihuali.org/DeepBDC上获得
2022-04-09 cs.CV cs.LG stat.ML
Task Affinity with Maximum Bipartite Matching in Few-Shot Learning
Duke University（杜克大学）
我们提出了一个不对称的亲和力分数表示利用一个任务的知识学习另一个的复杂性。我们的方法是基于最大二分匹配算法，并利用Fisher信息矩阵。我们提供的理论分析表明，建议的分数是数学定义良好，随后使用的亲和力分数提出了一种新的算法的少样本学习问题。特别是，使用这个分数，我们找到测试数据的相关训练数据标签，并利用发现的相关数据对Few-Shot模型进行间歇性微调。各种Few-Shot基准数据集上的结果证明了所提出的方法的有效性，即使在使用较小的模型时，也可以提高最先进方法的分类精度。
2022-01-21 cs.CV cs.LG
FADRW: A Feature-Aware Modulated and Dynamically Reweighted Loss for Few-Shot Linguistic Steganalysis
International School, Beijing University of Posts and Telecommunications（北京邮电大学国际学院）；School of Cyberspace Security, Beijing University of Posts and Telecommunications（北京邮电大学网络安全学院）
针对语言隐写检测中类别极度不平衡和特征边缘化问题，提出FADRW损失函数，通过动态重加权和特征感知调制提升少样本隐写分析性能。
2026-06-03 cs.CR cs.CV eess.SP
A Maximum Log-Likelihood Method for Imbalanced Few-Shot Learning Tasks
University of Arizona（亚利桑那大学）；Rowan University（罗文大学）
少样本学习是机器学习中一个快速发展的研究领域，其目标是用一个或“几个”标记的示例性样本对未标记的数据进行分类。神经网络通常被训练以最小化标记的示例性样本与查询集之间的距离度量。早期的Few-Shot方法使用情景训练过程将训练数据子采样为Few-Shot批次。该训练过程与评估中进行的二次抽样相匹配。最近，传统的监督训练加上余弦距离已经取得了优越的性能为Few-Shot。尽管在过去的十年中，Few-Shot方法的多样性，但大多数方法仍然依赖于训练网络的潜在特征之间的余弦或欧几里得距离层。在这项工作中，我们研究了训练的Few-Shot特征的分布，并证明它们可以大致近似为指数分布。在指数分布的假设下，我们提出了一个新的最大对数似然度量的Few-Shot架构。我们证明，该指标实现了优越的性能精度w.r.t.传统的相似性度量（例如，余弦、欧几里德等），并实现最先进的电感Few-Shot性能。此外，可以通过仔细组合多个度量来实现额外的增益，并且我们的方法都不需要后处理特征转换，这对许多算法来说都是常见的。最后，我们展示了一种新的迭代算法，设计围绕我们的最大对数似然方法，实现了国家的最先进的转导Few-Shot的性能时，评估数据是不平衡的。我们已经在https://github.com/samuelhess/MLL_FSL/上公开了我们的代码。
2022-12-07 cs.CV cs.LG
Few-Shot Fingerprinting Subject Re-Identification in 3D-MRI and 2D-X-Ray
University of Luxembourg（卢森堡大学）；Former Association with University of Luxembourg（曾与卢森堡大学的关联）
本文提出了一种基于ResNet-50和三元组边距损失的少样本指纹识别方法，用于在3D-MRI和2D-X射线数据中实现主体重识别，实验结果显示在不同样本和类别设置下均取得高召回率。
2025-12-18 cs.AI cs.CV
Budget-aware Few-shot Learning via Graph Convolutional Network
ShanghaiTech University（上海科技大学）
本文解决了少样本学习的问题，其目的是从几个例子中学习新的视觉概念。在Few-Shot分类中，通常采用随机抽样的方法来获取数据标签，这在实际应用中是低效的。在这项工作中，我们引入了一个新的感知少样本学习问题，不仅旨在学习新的对象类别，而且还需要选择信息丰富的例子进行注释，以实现数据效率。我们开发了一个元学习策略，我们的感知少样本学习任务，共同学习一种新的数据选择策略的基础上图卷积网络（GCN）和基于示例的Few-Shot分类器。我们的选择策略通过图消息传递为每个未标记的数据计算上下文敏感的表示，然后用于预测顺序选择的信息性得分。我们通过在mini-ImageNet、tiered-ImageNet和Omniglot数据集上进行的大量实验来验证我们的方法。结果表明，我们的少样本学习策略比基线有相当大的优势，这证明了我们方法的有效性。
2022-01-07 cs.CV cs.LG
Cross-domain few-shot learning with unlabelled data
iFlyTek-Surrey Joint Research Centre on Artificial Intelligence（科大讯飞-萨里人工智能联合研究中心）
少样本学习旨在解决数据稀缺问题。如果测试集和训练集之间存在域偏移，则它们的性能将大大降低。此设置称为跨域少样本学习。然而，这是非常具有挑战性的，因为目标域在训练期间是不可见的。因此，我们提出了一种新的设置一些未标记的数据从目标域提供，它可以弥合源域和目标域之间的差距。使用DomainNet \cite{peng2018oment}构建此设置的基准。我们提出了一种自监督学习方法，充分利用标记训练集和未标记训练集中的知识。大量的实验表明，我们的方法优于几个基线方法的大幅度。我们还精心设计了一个情景训练管道，可以显著提高性能。
2021-01-19 cs.CV cs.LG
Max-Margin Deep Generative Models for (Semi-)Supervised Learning
Tsinghua University（清华大学）
深度生成模型（DGMs）在学习复杂数据的多层表示和通过探索生成能力来执行输入数据的推理方面是有效的。然而，这是相对不够的，以赋予区分能力的DGMs作出准确的预测。本文提出了最大间隔深度生成模型（mmDGMs）和类条件变体（mmDCGMs），它们探索了最大间隔学习的强判别原理，以提高DGMs在监督和半监督学习中的预测性能，同时保留生成能力。在半监督学习中，我们使用最大间隔分类器的预测作为缺失标签，而不是执行完整的后验推理以提高效率;为了提高效率，我们还引入了额外的未标记数据的最大间隔和标签平衡正则化项。针对分段线性目标问题，提出了一种有效的双随机次梯度算法。在不同数据集上的实验结果表明：（1）最大间隔学习可以显著提高DGM的预测性能，同时保持DGM的生成能力;（2）在监督学习中，当采用卷积神经网络作为生成和识别模型时，mmDGM可以与最好的全判别网络相竞争;（3）在半监督学习中，mmDCGM可以进行有效的推理，并在多个基准上获得最先进的分类结果。
2016-11-22 cs.CV cs.LG stat.ML
Relation-Aware Meta-Learning for Zero-shot Sketch-Based Image Retrieval
Xidian University（西安电子科技大学）；Chongqing University of Posts and Telecommunications（重庆邮电大学）；Tsinghua University（清华大学）
针对ZS-SBIR的跨模态差异与未见类别泛化难题，提出关系感知四元组损失及RAMLN自适应间隔元学习框架，在Sketchy和TU-Berlin上显著超越现有方法。
2024-11-28 cs.AI cs.CV
Max-Margin Contrastive Learning
Johns Hopkins University（约翰霍普金斯大学）；Massachusetts Institute of Technology（麻省理工学院）；Mitsubishi Electric Research Labs（三菱电机研究实验室）
标准的对比学习方法通常需要大量的否定来进行有效的无监督学习，并且通常表现出缓慢的收敛。我们怀疑这种行为是由于用于提供阳性对比度的阴性的次优选择。我们从支持向量机（SVMs）中获得灵感，提出了最大间隔对比学习（MMCL），从而克服了这一困难。我们的方法选择消极的稀疏支持向量，通过二次优化问题获得的，和对比性是通过最大化的决策余量。由于SVM优化在计算上要求很高，特别是在端到端的设置中，我们提出了减轻计算负担的简化方法。我们在标准视觉基准数据集上验证了我们的方法，在无监督表示学习中表现出比最先进的更好的性能，同时具有更好的经验收敛特性。
2021-12-21 cs.AI cs.CV cs.LG
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin（德克萨斯大学奥斯汀分校）
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功，但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下，泛化能力较差。在Few-Shot模式下，在大的源数据集上进行预训练并对目标样本进行微调，很容易出现过拟合，因为只有少量的目标样本可用。出于这一动机，我们提出了一种自监督对比学习的域自适应方法，称为Few-Max，以解决适应少样本学习下的目标分布的问题。为了量化表示质量，我们在一系列源和目标数据集上评估了Few-Max，包括ImageNet，VisDA和fastMRI，Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Transductive Information Maximization For Few-Shot Learning
ÉTS Montreal（蒙特利尔工程技术学院）；CentraleSupélec-CNRS（中央理工-高等电力学院-法国国家科学研究中心）；Université Paris-Saclay（巴黎萨克雷大学）
我们引入了用于少样本学习的Transductive信息最大化（TIM）。我们的方法最大限度地提高了查询功能之间的互信息和他们的标签预测为一个给定的Few-Shot任务，结合基于支持集的监督损失。此外，我们提出了一个新的交替方向求解器，我们的互信息损失，这大大加快了基于梯度的优化的转导推理收敛，同时产生类似的精度。TIM推理是模块化的：它可以在任何基础训练特征提取器之上使用。在标准的转换Few-Shot设置之后，我们的综合实验表明，TIM在各种数据集和网络上的性能显着优于最先进的方法，同时在基类上使用简单的交叉熵训练的固定特征提取器上使用，而无需采用复杂的元学习方案。与性能最佳的方法相比，它始终带来2%到5%的准确性提高，不仅在所有完善的Few-Shot基准测试中，而且在更具有挑战性的场景中，具有域偏移和更大数量的类。
2020-10-23 cs.CV cs.LG stat.ML
FewSOL: A Dataset for Few-Shot Object Learning in Robotic Environments
University of Texas at Dallas（德克萨斯大学达拉斯分校）；NVIDIA（英伟达）
我们引入了用于对象识别的Few-Shot对象学习（FewSOL）数据集，每个对象具有几个图像。我们从不同的视角拍摄了336个真实世界的物体，每个物体有9个RGB-D图像。提供对象分割掩模、对象姿态和对象属性。此外，使用330 3D对象模型生成的合成图像用于增强数据集。我们研究了（i）Few-Shot对象分类和（ii）联合对象分割和Few-Shot分类，使用我们的数据集进行少样本学习和元学习。评估结果表明，机器人环境中的Few-Shot目标分类仍有很大的改进余地。我们的数据集可以用来研究一组Few-Shot对象识别问题，如分类，检测和分割，形状重建，姿态估计，关键点对应和属性识别。数据集和代码可在https://irvlutd.github.io/FewSOL上获得。
2023-03-05 cs.AI cs.CV cs.LG
Few-shot Learning via Dependency Maximization and Instance Discriminant Analysis
Princeton University（普林斯顿大学）
我们研究了少样本学习（FSL）问题，其中模型学习识别每个类别具有极少数标记训练数据的新对象。以往的FSL方法大多采用元学习范式，模型通过学习大量训练任务来积累归纳偏差，从而解决一个新的不可见的Few-Shot任务。相比之下，我们提出了一个简单的方法来利用伴随着Few-Shot任务的未标记数据，以提高Few-Shot的性能。首先，我们提出了一种基于互协方差算子的Hilbert-Schmidt范数的依赖性最大化方法，该方法最大化了未标记数据的嵌入特征与其标签预测之间的统计依赖性，以及支持集上的监督损失。然后，我们使用所获得的模型来推断这些未标记数据的伪标签。此外，我们提出了一个实例判别分析来评估每个伪标记的例子的可信度，并选择最忠实的到一个增广支持集重新训练模型的第一步。我们重复上述过程，直到未标记数据的伪标签变得稳定。在标准的转换和半监督FSL设置之后，我们的实验表明，所提出的方法在四个广泛使用的基准测试中表现优于以前的最先进的方法，包括mini-ImageNet，tiered-ImageNet，CUB和CIFARFS。
2021-09-07 cs.AI cs.CV cs.LG
