Geometry-Aware Contrastive Learning for Few-Shot Automatic Modulation Recognition
Beijing University of Posts and Telecommunications（北京邮电大学）
提出动态一致性对比学习框架，通过虚拟对抗增强和语义一致性损失解决自监督学习中的各向同性增强、频谱不稳定和语义漂移问题，在少样本设置下提升自动调制识别准确率。
2026-05-26 cs.AI cs.LG
Graph Neural Networks for Learning Equivariant Representations of Neural Networks
University of Amsterdam（阿姆斯特丹大学）；Samsung - SAIT AI Lab, Montreal（三星SAIT人工智能实验室（蒙特利尔））；Carnegie Mellon University（卡内基梅隆大学）；TNO（荷兰应用科学研究组织）
提出将神经网络表示为参数计算图，利用图神经网络和transformers保留置换对称性，使单一模型能编码多样架构，在多项任务上优于现有方法。
2024-07-23 cs.AI cs.LG stat.ML
Rotation Equivariant Arbitrary-scale Image Super-Resolution
School of Mathematics and Statistics, Ministry of Education Key Lab of Intelligent Networks and Network Security, Xi’an Jiaotong University（数学与统计学学院， 教育部智能网络与网络安全重点实验室， 西安交通大学）；Ministry of Education Key Lab of Intelligent Networks and Network Security, Xi’an Jiaotong University（教育部智能网络与网络安全重点实验室， 西安交通大学）；Macao Institute of Systems Engineering, Macau University of Science and Technology（澳门系统工程研究所， 澳门科技大学）
针对任意尺度图像超分辨率中几何模式变形导致伪影的问题，提出一种端到端旋转等变的ASISR方法，通过重新设计编码器和INR模块实现，并验证了其有效性和即插即用性。
2025-08-07 cs.CV
Learning Implicit Temporal Alignment for Few-shot Video Classification
ShanghaiTech University（上海科技大学）；University of Chinese Academy of Sciences（中国科学院大学）；Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences（中国科学院上海微系统与信息技术研究所）；Shanghai Engineering Research Center of Intelligent Vision and Imaging（上海智能视觉与成像工程技术研究中心）
Few-Shot视频分类的目的是学习新的视频类别，只有少数标记的例子，减轻负担，昂贵的注释在现实世界中的应用。然而，在这样的设置中学习类不变的时空表示是特别具有挑战性的。为了解决这个问题，我们提出了一种新的基于匹配的少样本学习策略的视频序列在这项工作中。我们的主要思想是引入一个隐式的时间对齐的视频对，能够估计它们之间的相似性，在一个准确和强大的方式。此外，我们设计了一个有效的上下文编码模块，将空间和特征通道上下文，从而更好地建模类内变化。为了训练我们的模型，我们开发了一个多任务损失学习视频匹配，导致视频特征具有更好的泛化能力。在两个具有挑战性的基准上进行的大量实验结果表明，我们的方法优于现有技术，在SomethingSomething-V2上具有相当大的优势，在Kinetics上具有竞争力。
2021-05-11 cs.AI cs.CV cs.LG
Exploring Complementary Strengths of Invariant and Equivariant Representations for Few-Shot Learning
Center for Research in Computer Vision, UCF（中佛罗里达大学计算机视觉研究中心）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）
在许多现实问题中，收集大量的标记样本是不可行的。少样本学习（FSL）是解决这个问题的主要方法，其目标是在有限数量的样本存在的情况下快速适应新的类别。FSL任务主要通过利用基于梯度的元学习和度量学习方法的思想来解决。然而，最近的工作已经证明了强大的功能表示的重要性，一个简单的嵌入网络，可以优于现有的复杂的FSL算法。在这项工作中，我们建立在这一见解，并提出了一种新的训练机制，同时执行等变性和不变性的一组一般的几何变换。在以前的作品中，等变性或不变性已经被单独使用;然而，据我们所知，它们还没有被联合使用。同时优化这两个对比的目标允许模型联合学习的功能，不仅是独立的输入变换，但也编码的几何变换的结构的功能。这些互补的特征集有助于很好地推广到只有少量数据样本的新类。我们实现了额外的改进，将一个新的自我监督蒸馏目标。我们广泛的实验表明，即使没有知识蒸馏，我们提出的方法可以优于目前最先进的FSL方法在五个流行的基准数据集。
2021-04-19 cs.CV cs.LG
Implicit and Explicit Attention for Zero-Shot Learning
University of Exeter（埃克塞特大学）
现有的零样本学习（Zero-Shot Learning，简称ZRL）方法大多集中于学习图像表示和类属性之间的兼容性函数。很少有人专注于学习结合局部和全局特征的图像表示。然而，现有的方法仍然无法解决对所见类的偏见问题。在本文中，我们提出了内隐和外显的注意力机制，以解决现有的偏差问题，在CNOL模型。我们制定了内隐注意力机制与自我监督的图像角度旋转任务，专注于特定的图像特征，以帮助解决任务。显式注意力机制通过视觉Transformer模型与多头自注意力机制相结合，在训练阶段学习将图像特征映射到语义空间。我们在三个流行的基准测试：AWA 2，CUB和SUN上进行了全面的实验。我们提出的注意力机制的性能已经证明了它的有效性，并实现了所有三个数据集上的最先进的调和平均值。
2021-10-02 cs.CV
Few 'Zero Level Set'-Shot Learning of Shape Signed Distance Functions in Feature Space
Inria（法国国家信息与自动化研究所）；Univ. Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；IRISA（法国信息与自动化系统研究所）；M2S（M2S实验室）
基于最近流行的隐式神经形状表示，我们探索了一种基于学习的点云形状重建的新思路。我们将问题转化为特征空间中隐式神经符号距离函数的少样本学习，我们使用基于梯度的元学习来处理。我们使用卷积编码器来构建给定输入点云的特征空间。隐式解码器学习预测在该特征空间中表示的给定点的有符号距离值。将输入点云（即，来自目标形状函数的零水平集的样本）设置为少样本学习项中的支持（即，上下文），我们训练解码器，使得它可以利用几（5）个调谐步骤来使其权重适应于该上下文的底层形状。因此，我们首次同时结合了两种类型的内隐神经网络条件反射机制，即特征编码和元学习。我们的数值和定性评估表明，在从稀疏点云隐式重建的背景下，我们提出的策略，即在特征空间中的元学习，优于现有的替代方案，即在特征空间中的标准监督学习，在欧几里得空间中的元学习，同时仍然提供快速推理。
2022-07-09 cs.AI cs.CV cs.LG
On Implicit Attribute Localization for Generalized Zero-Shot Learning
Computer Vision Center（计算机视觉中心）
零样本学习（Zero-shot learning，ZRL）的目标是通过基于属性的描述来利用与可见类的关系来区分图像和不可见类。由于属性通常与对象的特定部分相关，因此最近的许多工作都集中在发现有区别的区域上。然而，这些方法通常需要附加的复杂零件检测模块或注意力机制。在本文中，1）我们表明，共同的CNOL骨干（没有显式的注意，也没有部分检测）可以隐式本地化属性，但这个属性没有被利用。2)利用它，我们然后提出SELAR，一个简单的方法，进一步鼓励属性本地化，令人惊讶地实现非常有竞争力的广义GREML（GREML）的性能相比，更复杂的国家的最先进的方法。我们的研究结果为设计未来的GALML方法提供了有用的见解，SELAR提供了一个易于实施但强大的基线。
2021-03-08 cs.CV
Few-shot Action Recognition with Implicit Temporal Alignment and Pair Similarity Optimization
Northwestern Polytechnical University（西北工业大学）
少样本学习的目的是用少量的标记样本从新类别中识别实例，具有重要的研究和应用价值。虽然最近在这方面已经有了很多工作，但现有的大部分工作都是基于图像分类任务的。基于视频的Few-Shot动作识别尚未得到很好的研究，并且仍然具有挑战性：1）不同文献之间实现细节的差异使得公平比较困难; 2）时间序列的广泛变化和不对齐使得视频级相似性比较困难; 3）标记数据的稀缺使得优化困难。为了解决这些问题，本文提出了1）一个特定的设置，以评估性能的Few-Shot动作识别算法; 2）一个隐式序列对齐算法更好的视频级相似性比较; 3）一个先进的损失为少样本学习，以优化对相似性有限的数据。具体来说，我们提出了一种新的Few-Shot动作识别框架，该框架使用长短期记忆跟随3D卷积层进行序列建模和对齐。通过引入圈损失，使类内相似度最大化，类间相似度最小化，从而灵活地实现更明确的收敛目标。我们没有使用随机或模糊的实验设置，而是设置了一个具体的标准，类似于标准的基于图像的Few-Shot学习设置，用于Few-Shot动作识别评估。在两个数据集上的实验证明了该方法的有效性。
2020-10-13 cs.CV
Zero-shot Blind Image Denoising via Implicit Neural Representations
KAIST（韩国科学技术院）；POSTECH（浦项科技大学）
最近的去噪算法的基础上的“盲点”的战略表现出令人印象深刻的盲图像去噪性能，而不利用任何外部数据集。虽然这些方法在恢复高度污染的图像方面表现出色，但我们观察到，这些算法在低噪声或真实噪声条件下往往不太有效。为了解决这一差距，我们提出了一种替代的去噪策略，该策略利用了隐式神经表示（INR）的架构归纳偏差，基于我们的两个发现：（1）INR倾向于比高频噪声更快地拟合低频干净图像信号，以及（2）更接近输出的INR层在拟合高频部分时发挥更关键的作用。基于这些观察，我们提出了一种去噪算法，通过惩罚更深层权重的增长来最大限度地提高INR的固有去噪能力。我们表明，我们的方法优于现有的zero-shot去噪方法下的一组广泛的低噪声或真实噪声的情况。
2022-04-05 cs.AI cs.CV cs.LG
MINI: Mining Implicit Novel Instances for Few-Shot Object Detection
Shanghai AI Laboratory（上海人工智能实验室）；The Chinese University of Hong Kong（香港中文大学）；SenseTime Research（商汤科技研究院）
从少量训练样本中学习是目标检测器的一种理想能力，激发了对Few-Shot目标检测（FSOD）的探索。大多数现有的方法采用预训练迁移范式。该模型首先在具有丰富数据的基类上进行预训练，然后转移到具有少量注释样本的新类。尽管取得了实质性的进展，但FSOD的表现仍然远远不能令人满意。在预训练期间，由于基础类和新类之间的共现，模型被学习以将共现的新类视为背景。在迁移过程中，由于缺乏新类样本，该模型需要学习判别特征来区分新实例与背景和基类。为了克服这些障碍，我们提出了一个新的框架，挖掘隐式新颖实例（MINI），挖掘隐式新颖实例作为辅助训练样本，广泛存在于丰富的基础数据，但没有注释。MINI包括离线挖掘机制和在线挖掘机制。离线挖掘机制利用自监督判别模型与训练的FSOD网络协作挖掘隐含的新颖实例。在线挖掘机制将挖掘出的小说实例作为辅助训练样本，采用师生框架，动态地同时更新FSOD网络和挖掘出的隐含小说实例。在PASCAL VOC和MS-COCO数据集上进行的大量实验表明，MINI在任何镜头和分割上都实现了最先进的性能。显着的性能改善证明了我们的方法的优越性。
2022-05-06 cs.CV
H3D-Net: Few-Shot High-Fidelity 3D Head Reconstruction
Crisalix SA（克里萨利克斯公司）；Universitat Politècnica de Catalunya（加泰罗尼亚理工大学）；Institut de Robòtica i Informàtica Industrial, CSIC-UPC（西班牙国家研究委员会-加泰罗尼亚理工大学工业机器人与信息技术研究所）
最近的学习方法，隐式地表示表面几何使用基于坐标的神经表示在多视图三维重建的问题中表现出令人印象深刻的结果。然而，这些技术的有效性取决于场景的大量（几十个）输入视图的可用性以及计算上要求的优化。在本文中，我们解决了这些限制的具体问题，Few-Shot全三维头部重建，赋予基于坐标的表示与概率形状之前，使更快的收敛和更好的推广时，使用很少的输入图像（下至三个）。首先，我们使用隐式表示从数千个不完整的原始扫描中学习3D头部的形状模型。在测试时，我们联合过拟合两个基于坐标的神经网络的场景，一个建模的几何形状和另一个估计的表面辐射，使用隐式微分渲染。我们设计了一个两阶段的优化策略，在该策略中，学习到的先验被用来初始化和约束的几何形状在初始优化阶段。然后，先验被解冻并微调到场景。通过这样做，我们实现了高保真的头部重建，包括头发和肩膀，并具有高层次的细节，始终优于最先进的3D变形模型方法在Few-Shot的情况下，和非参数化的方法时，大的视图集可用。
2021-07-26 cs.AI cs.CV
Implicit Convolutional Kernels for Steerable CNNs
University of Amsterdam（阿姆斯特丹大学）；Helmholtz-Zentrum Dresden-Rossendorf（亥姆霍兹德累斯顿罗森多夫研究中心）；Qualcomm AI Research（高通人工智能研究院）
本文提出用隐式神经表示（MLP）参数化G-可操控核，使可操控CNN能灵活推广到任意可构建等变MLP的群，并在N体模拟、点云分类和分子性质预测等任务上验证了有效性。
2023-10-27 cs.AI cs.CV cs.LG
G-MIXER: Geodesic Mixup-based Implicit Semantic Expansion and Explicit Semantic Re-ranking for Zero-Shot Composed Image Retrieval
Sungkyunkwan University（顺天大学）
G-MIXER通过测地混合生成隐式语义特征并重新排序显式语义，提升零样本复合图像检索的多样性和准确性，实现跨多个基准的最优性能。
2026-04-16 cs.CV
One2Avatar: Generative Implicit Head Avatar For Few-shot User Adaptation
Google（谷歌公司）；University of Minnesota（明尼苏达大学）
本文提出One2Avatar，一种基于3DMM锚定神经辐射场骨干网络的生成式隐式头部虚拟人方法，通过联合优化3DMM拟合与相机标定，仅用单张或少量图像即可实现高效且高质量的个性化少样本用户适应。
2024-02-19 cs.CV
Decompose, Compare, and Decide: Multimodal LLMs are Implicit Few-Shot Learners
Tuebingen AI Center, University of Tuebingen（图宾根大学图宾根人工智能中心）
提出DeCoDe方法，通过将少样本分类分解为成对图像比较，利用现有多模态大语言模型（MLLM）的logit作为相似度分数，无需额外训练即可实现强少样本分类，在多个基准上显著超越现有方法。
2026-07-02 cs.CV
Meta-learning with implicit gradients in a few-shot setting for medical image segmentation
SimulaMet（西穆拉梅特）；Oslo Metropolitan University（奥斯陆城市大学）；UiT The Arctic University of Norway（挪威北极大学）；University of Oxford（牛津大学）；NIHR Oxford Biomedical Research Centre（英国国家健康研究所牛津生物医学研究中心）
广泛使用的传统监督式深度学习方法需要大量的训练样本，但往往无法在看不见的数据集上进行推广。因此，任何训练模型的更一般应用对于用于临床实践的医学成像是相当有限的。为每个独特的病变类别或独特的患者人群使用单独训练的模型将需要足够大的策划数据集，这在现实世界的临床设置中使用是不实际的。少样本学习方法不仅可以最大限度地减少对大量劳动密集型和昂贵的可靠地面真实标签的需求，而且还可以用于对来自新群体的数据集进行建模。为此，我们建议利用基于优化的隐式模型不可知元学习（iMAML）算法下的Few-Shot设置的医学图像分割。我们的方法可以利用从不同但较小的训练样本中学习到的权重，以高精度对未知数据集进行分析。我们表明，与经典的少样本学习方法不同，我们的方法提高了泛化能力。据我们所知，这是第一项利用iMAML进行医学图像分割的工作，并探索了模型在场景中的强度，例如对病变数据集的独特和混合实例进行元训练。我们对公开的皮肤和息肉数据集的定量结果表明，该方法优于朴素的监督基线模型和最近的两个Few-Shot分割方法的大利润率。此外，我们的iMAML方法显示出2%-4%的改善骰子得分相比，其对应的MAML的大多数实验。
2022-01-31 cs.CV
High-Performance Few-Shot Segmentation with Foundation Models: An Empirical Study
School of Information and Communication Engineering, Dalian University of Technology（大连理工大学信息与通信工程学院）；School of Future Technology, Dalian University of Technology（大连理工大学未来技术学院）
本文提出基于基础模型的小样本分割框架，通过提取隐式知识构建粗对应并以轻量解码器细化，实证表明DINOv2与DFN组合在COCO-20i上超越此前最优方法17.5%。
2024-09-10 cs.CV
OHTA: One-shot Hand Avatar via Data-driven Implicit Priors
ByteDance（字节跳动）
本文提出 OHTA，利用数据驱动手部先验模型完成先验学习、目标身份反演与拟合，实现仅凭单张图像生成高保真、可驱动的手部化身。
2024-02-29 cs.CV
Equivariant plug-and-play image reconstruction
Université Paris-Saclay（巴黎-萨克雷大学）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）；ENSL（里昂高等师范学院）
本文提出一种等变即插即用算法，通过对去噪器施加随机变换强制等变性，提升逆成像重建的稳定性与质量，并在多种成像任务中验证了其优于非等变方法。
2024-05-23 cs.CV eess.IV
Single-Shot Implicit Morphable Faces with Consistent Texture Parameterization
Stanford University（斯坦福大学）；NVIDIA（英伟达）
针对现有3D人脸模型难以兼顾细节捕捉、可驱动性与泛化性的问题，提出兼具泛化性与编辑直观性的隐式3D可变形人脸模型，在照片真实感、几何与表情精度上优于现有方法。
2023-05-04 cs.CV
Implicit Shape and Appearance Priors for Few-Shot Full Head Reconstruction
Institut de Robòtica i Informàtica Industrial, CSIC-UPC（机器人学与信息工业研究所（西班牙国家研究委员会-加泰罗尼亚理工大学联合机构））；Crisalix SA（克里萨利克斯公司）；Amazon（亚马逊公司）
针对少样本全3D头重建中现有基于坐标的神经表示需大量视图和密集计算的问题，提出融入概率形状与外观先验的方法，结合可并行光线追踪等策略，扩展H3DS数据集，实现高效准确且速度快一个数量级的最先进几何重建。
2025-02-02 cs.CV
Multi-NeuS: 3D Head Portraits from Single Image with Neural Implicit Functions
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术研究院）；Artificial Intelligence Research Institute (AIRI)（人工智能研究院（AIRI））
提出基于神经隐函数的Multi-NeuS方法，通过扩展NeuS学习人类头部共性先验，实现从单张或少量图像高质量重建3D头部网格。
2023-09-08 cs.CV
Semantic Relation Reasoning for Shot-Stable Few-Shot Object Detection
Carnegie Mellon University（卡内基梅隆大学）
由于真实世界数据固有的长尾分布，Few-Shot目标检测是一个迫切而持久的问题。其性能在很大程度上受到新类数据稀缺的影响。但是，新类和基类之间的语义关系是恒定的，不管数据的可用性。在这项工作中，我们研究利用这种语义关系与视觉信息，并引入显式关系推理到新的目标检测的学习。具体来说，我们表示每个类的概念，从一个大型语料库的文本学习的语义嵌入。检测器被训练成将对象的图像表示投影到该嵌入空间中。我们还确定了平凡地使用原始嵌入与启发式知识图谱的问题，并建议增加嵌入与动态关系图。因此，我们的Few-Shot检测器，称为SRR-FSD，是强大的和稳定的变化的镜头的新对象。实验结果表明，SRR-FSD可以在较高的镜头，更重要的是，显式和隐式镜头都有显着更好的性能。从预训练的分类数据集中删除隐式镜头的基准协议可以作为未来研究的更现实的设置。
2021-03-19 cs.CV
Hidden-Shot: Towards One-Shot Task Generalization for Low-Level Vision Generalist Models
Pratt School of Engineering, Duke University（杜克大学普拉特工程学院）；Department of Engineering Science, University of Oxford（牛津大学工程科学系）；Khoury College of Computer Science, Northeastern University（东北大学库里计算机科学学院）
提出隐式提示机制Hidden-Shot，通过提取隐含视觉任务信息并融合全局任务感知纹理提示，增强低级视觉通用模型在新任务上的一次性泛化能力，并引入C/U评估框架系统测试泛化性能。
2026-09-03 cs.CV
LSFSL: Leveraging Shape Information in Few-shot Learning
NavInfo Europe（欧洲四维图新）；Eindhoven University of Technology（埃因霍温理工大学）
本文提出LSFSL方法，通过利用数据中的隐式形状先验信息约束少样本学习模型，缓解捷径学习和纹理偏置问题，实验表明其能显著提升模型对颜色变化、统计相关性和对抗扰动的鲁棒性与泛化能力。
2023-04-13 cs.AI cs.CV
A Comparative Review of Recent Few-Shot Object Detection Algorithms
Chongqing University of Posts and Telecommunications（重庆邮电大学）；Huaiyin Institute of Technology（淮阴工学院）
Few-Shot目标检测是一种学习适应具有少量标记数据的新类别的方法，由于现实世界数据固有的长尾分布以及降低数据汇集和标注成本的迫切需求，它是一个迫切而持久的问题。最近，一些研究探索了如何在没有目标域监督的情况下使用额外数据集中的隐式线索来帮助Few-Shot检测器改进鲁棒任务概念。本文从多个角度对Few-Shot目标检测的经典研究成果和最新研究成果进行了综述，并对未来的研究方向进行了展望。特别是，我们首先提出了一个基于数据的分类的训练数据和形式的相应的监督，在训练阶段访问。根据这种分类法，我们提出了一个重要的正式定义，主要挑战，基准数据集，评估指标和学习策略的审查。此外，我们提出了一个详细的调查如何相互作用的目标检测方法系统地发展这个问题。最后，我们总结了Few-Shot目标检测的现状，以及该领域潜在的研究方向。
2021-10-30 cs.AI cs.CV
One-shot Implicit Animatable Avatars with Model-based Priors
Zhejiang University（浙江大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；University of Cambridge（剑桥大学）；Xiaohongshu Inc.（小红书公司）；Fullong Inc.（福龙公司）
本文提出ELICIT，从单张图像结合SMPL几何先验与CLIP视觉语义先验优化人体神经辐射场，并通过分割采样细化细节，实现单图逼真可动画3D化身重建。
2023-09-27 cs.AI cs.CV cs.GR
Few-Shot Multi-Human Neural Rendering Using Geometry Constraints
Inria（法国国家信息与自动化研究所）；University Rennes（雷恩大学）；IRISA（雷恩信息、信号与图像研究所）；CNRS（法国国家科学研究中心）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）
针对从少量图像恢复多人场景形状和辐射度的挑战，提出结合SMPL人体模型预计算网格的几何约束、射线正则化及饱和度正则化的神经隐式重建方法，在真实和合成数据集上取得优于现有方法的性能。
2025-02-11 cs.AI cs.CV cs.GR
End-to-End Implicit Neural Representations for Classification
Delft University of Technology（代尔夫特理工大学）
针对隐式神经表示（INRs）用于分类任务性能不佳的问题，提出搭配可学习学习率的SIREN端到端初始化策略，结合简单Transformer模型，在多个图像分类数据集上取得性能突破并首次建立高分辨率数据集INR分类基线。
2025-03-23 cs.CV
SparseCraft: Few-Shot Neural Reconstruction through Stereopsis Guided Geometric Linearization
Inria（法国国家信息与自动化研究所）；Univ. Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；IRISA（雷恩信息、信号与自动化研究所）；M2S（运动、交互与认知实验室）
SparseCraft提出一种从少量图像进行三维重建和新视图合成的方法，通过隐式神经表示（SDF和辐射场）结合立体视觉线索，并采用几何线性化策略增强鲁棒性，在标准基准上达到最先进性能且训练时间短。
2024-07-19 cs.CV
SgVA-CLIP: Semantic-guided Visual Adapting of Vision-Language Models for Few-shot Image Classification
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Peng Cheng Laboratory（鹏城实验室）；University of Chinese Academy of Sciences（中国科学院大学）
虽然在少样本学习方面已经取得了显著的进展，但是现有的Few-Shot图像分类方法大多需要在大量的基本类样本上进行有监督的预训练，这限制了它们在实际应用中的推广能力。近年来，大规模的视觉语言预训练模型（VLP）在少样本学习中得到了越来越多的关注，因为它们可以为Web上容易获得的文本提供可转移的视觉表示学习的新范式。然而，VLP可能会忽略难以用语言句子描述的详细视觉信息，但对于学习有效的分类器来区分不同的图像很重要。为了解决上述问题，我们提出了一个新的框架，名为语义引导的视觉适应（SgVA），它可以有效地扩展视觉语言的预训练模型，以产生歧视性的适应视觉特征，综合使用一个隐式的知识蒸馏，视觉特定的对比损失，和跨模态的对比损失。隐式知识蒸馏的目的是传递细粒度的跨模态知识，以指导视觉适配器的更新。在13个数据集上的实验结果表明，自适应视觉特征能够很好地补充交叉模态特征，提高Few-Shot图像分类的性能。
2023-01-20 cs.CV cs.MM
Higher Order Gauge Equivariant CNNs on Riemannian Manifolds and Applications
University of Florida（佛罗里达大学）
本文提出高阶规范等变卷积及其实现GEVNet，在黎曼流形上建模感受野内非线性交互并保持全局等距等变性，结合CKN在dMRI神经影像分类中超越单一组件性能。
2023-05-26 cs.CV cs.LG
Implicit Shape-Prior for Few-Shot Assisted 3D Segmentation
Nantes Université, École Centrale Nantes, CNRS, LS2N, UMR 6004, Nantes Universit\'e, Movement Interactions Performance, IP UR 4334 UFR STAPS, Nantes Université, CHU Nantes, Pole de Gérontologie Clinique, 1,2,3 F-44000, Nantes, France Univ Rennes, CLCC Eug\`ene Marquis, INSERM, LTSI - UMR 1099, F-35000 Rennes, France Institut Universitaire de France (IUF), Paris, France
本文提出隐式形状先验与自动切片选择框架，从稀疏标注实现多器官三维分割，减少手动工作量，并在脑癌危及器官和肌少症肌肉分割中验证有效性。
2025-09-10 cs.CV cs.LG
Adaptive Feature Interpolation for Low-Shot Image Generation
Salesforce（赛富时）；Amazon（亚马逊）；Meta
生成模型的训练，特别是生成对抗网络，在低数据设置中很容易出现分歧。为了缓解这个问题，我们提出了一种新的隐式数据增强方法，该方法有助于稳定的训练和合成高质量的样本，而不需要标签信息。具体来说，我们认为，作为一个度量嵌入的真实数据流形，它提供了适当的真实数据点之间的距离。然后，我们利用特征空间中的信息来开发一种完全无监督和数据驱动的增强方法。在Few-Shot生成任务上的实验表明，该方法在训练样本数为数百的情况下，显著提高了强基线的生成结果。
2022-07-14 cs.CV
Few-Shot Learning with Embedded Class Models and Shot-Free Meta Training
Amazon Web Services（亚马逊云科技）；UCLA（加州大学洛杉矶分校）
我们提出了一种学习嵌入的方法，用于少样本学习，适用于任何数量的方式和任何数量的镜头（镜头免费）。我们不是将类原型固定为样本嵌入的欧几里得平均值，而是允许它们生活在更高维的空间（嵌入式类模型）中，并随着模型参数一起学习原型。类表示函数是隐式定义的，这允许我们使用简单的恒定大小架构来处理每个类的可变数量的镜头。类嵌入包含度量学习，这有助于添加新类而不会拥挤类表示空间。尽管是通用的，没有调整到基准，我们的方法实现了最先进的性能标准的Few-Shot基准数据集。
2020-04-21 cs.CV cs.LG stat.ML
RESAnything: Attribute Prompting for Arbitrary Referring Segmentation
本文提出RESAnything，通过大语言模型属性提示与思维链推理实现零样本任意指称分割，可处理物体/部件级及隐式属性查询，并贡献约3K实例的新基准数据集。
2025-05-03 cs.CV
TextMesh4D: Zero-shot Text-to-4D Mesh Generation
National University of Defense Technology（国防科技大学）；Institute of AI for Industries, Chinese Academy of Sciences, Nanjing, 211135, China（中国科学院工业人工智能研究所，南京，211135，中国）；Jiangsu Key Laboratory of AI for Industries Institute of AI for Industries, Chinese Academy of Sciences（江苏省人工智能工业关键实验室 中国科学院工业人工智能研究所）
提出TextMesh4D框架，通过雅可比变形场和局部-全局语义正则化，实现零样本文本到动态网格生成，解决扩散引导与网格拓扑约束的冲突，达到高时间一致性和几何保真度。
2026-06-17 cs.CV
Few-Shot Object Detection via Association and DIscrimination
The Chinese University of Hong Kong（香港中文大学）；Shanghai AI Laboratory（上海人工智能实验室）；SenseTime Research（商汤科技研究院）；Nanyang Technological University（南洋理工大学）
目标检测在过去十年中取得了实质性的进展。然而，检测只有少量样本的新类别仍然具有挑战性，因为低数据状态下的深度学习通常会导致特征空间退化。现有的工作采用整体微调范式来解决这个问题，其中模型首先在具有丰富样本的所有基类上进行预训练，然后用于雕刻新的类特征空间。尽管如此，这一模式仍然不完善。在微调过程中，一个新的类可能会隐含地利用多个基类的知识来构建其特征空间，这导致了一个分散的特征空间，从而违反了类间的可分性。为了克服这些障碍，我们提出了一个两步微调框架，Few-Shot目标检测通过关联和区分（FADI），它建立了一个判别特征空间为每个新的类与两个完整的步骤。1)在关联步骤中，与隐式地利用多个基类相反，我们通过显式地模仿特定的基类特征空间来构建紧凑的新类特征空间。具体来说，我们将每一个新的类与一个基类，根据它们的语义相似性。之后，新类的特征空间可以很容易地模仿相关联的基类的训练良好的特征空间。2)在判别步骤中，为了确保新类和相关基类之间的可分离性，我们解开了基类和新类的分类分支。为了进一步扩大所有类之间的类间可分性，施加了一个集合专用的边际损失。在Pascal VOC和MS-COCO数据集上进行的大量实验表明，FADI实现了新的SOTA性能，将任何镜头/分割的基线显著提高了+18.7。值得注意的是，这种优势在非常Few-Shot的场景中最为明显。
2022-06-04 cs.CV
Edge-Labeling based Directed Gated Graph Network for Few-shot Learning
Zhengzhou University（郑州大学）
现有的基于图网络的少样本学习方法通过卷积神经网络（CNN）获得节点之间的相似性。然而，CNN被设计用于具有空间信息而不是矢量形式节点特征的图像数据。本文提出了一种基于边标记的有向门控图网络（DGGN）用于少样本学习，它利用门控递归单元隐式地更新节点之间的相似性。DGGN由门控节点聚合模块和改进的基于门控递归单元（GRU）的边更新模块组成。具体来说，节点更新模块采用边特征激活的门机制，使节点聚合过程具有可学习性。此外，在边更新过程中，采用改进的GRU单元计算节点间的相似度。此外，该机制有利于通过跨层的GRU序列的梯度反向传播。在两个基准数据集上进行的实验结果表明，我们的DGGN实现了与最先进的方法相当的性能。
2021-01-27 cs.CV
Manifold Induced Biases for Zero-shot and Few-shot Detection of Generated Images
Fujitsu（富士通）
本文通过分析预训练扩散模型的概率流形偏差，提出了一种基于得分函数的零样本和少样本生成图像检测方法，并在20个生成模型上验证了其优越性。
2025-04-21 cs.CV
PTN: A Poisson Transfer Network for Semi-supervised Few-shot Learning
University of Technology Sydney（悉尼科技大学）；Shanghai University（上海大学）；The University of Sydney（悉尼大学）
半监督少样本学习（SSFSL）的难点在于如何最大化额外的未标记数据的价值来提高Few-Shot学习器的学习效率。在本文中，我们提出了一个泊松转移网络（PTN）挖掘SSFSL的未标记信息从两个方面。首先，Poisson Merriman Bence Osher（MBO）模型为标记和未标记样本之间的通信搭建了一座桥梁。该模型在标签的消息传递过程中比传统的基于图的SSFSL方法更稳定，信息量更大。其次，利用额外的未标记样本，通过对比学习将知识从基类转移到新类。具体来说，我们迫使增广的正对靠近，而将负对推远。我们的对比转移方案隐式地学习新类嵌入，以减轻在少数标记数据上的过拟合问题。因此，我们可以减轻新类中嵌入通用性的退化。大量实验表明，PTN在miniImageNet和tieredImageNet基准数据集上的性能优于最先进的Few-Shot和SSFSL模型。
2021-04-01 cs.CV
Erasing Concepts from Text-to-Image Diffusion Models with Few-shot Unlearning
Meiji University（明治大学）
提出一种基于少样本遗忘的文本编码器更新方法，通过隐式转换为模型固有潜在概念，在10秒内快速擦除文本到图像扩散模型中的特定概念，速度提升数十至数百倍且效果更自然。
2024-08-29 cs.CV cs.LG
Off-the-shelf ChatGPT is a Good Few-shot Human Motion Predictor
LightSpeed Studios, Tencent（腾讯光速工作室）；Nanyang Technological University（南洋理工大学）；Singapore University of Technology and Design（新加坡科技设计大学）
本文提出FMP-OC框架，无需训练，利用现成的ChatGPT语言模型直接执行小样本人体运动预测，通过新颖设计提取隐含知识并结合上下文学习机制，实验验证其有效性。
2024-05-24 cs.CV
Few-Shot Few-Shot Learning and the role of Spatial Attention
Inria（法国国家信息与自动化研究所）；Univ Rennes（雷恩大学）；CNRS（法国国家科学研究中心）；IRISA（雷恩第一大学计算机科学研究所）；Safran（赛峰集团）
少样本学习的动机通常是人类从很少的例子中学习新任务的能力。然而，标准的Few-Shot分类基准假设表示是在有限数量的基类数据上学习的，忽略了人类在学习新任务之前可能已经积累的先验知识的量。同时，即使有一个强大的表示，也可能在某些领域中发生基类数据有限或不存在的情况。这促使我们研究一个问题，其中表示是从在不同领域的大规模数据集上预先训练的分类器中获得的，假设无法访问其训练过程，而基类数据仅限于每个类的几个示例，它们的作用是使表示适应手头的领域，而不是从头开始学习。我们适应的表示在两个阶段，即在几个基类的数据，如果可用的，甚至更少的数据的新任务。在这样做的过程中，我们从预先训练的分类器中获得了一个空间注意力图，它允许关注对象并抑制背景杂波。这在新问题中很重要，因为当基类数据很少时，网络无法学习隐式关注的位置。我们还表明，预先训练的网络可以很容易地适应新的类，而无需元学习。
2020-02-18 cs.CV
D$^3$Fields: Dynamic 3D Descriptor Fields for Zero-Shot Generalizable Rearrangement
Boston Dynamics AI Institute（波士顿动力人工智能研究所）；University of Illinois, Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Stanford University（斯坦福大学）；Columbia University（哥伦比亚大学）；National University of Singapore（新加坡国立大学）
本文提出动态3D描述符场D$^3$Fields，通过投影3D点并插值视觉基础模型特征，实现具备3D、动态和语义特性的场景表示，在零样本泛化重排任务中展现出卓越的有效性与效率。
2024-10-16 cs.CV cs.LG cs.RO
AvatarFusion: Zero-shot Generation of Clothing-Decoupled 3D Avatars Using 2D Diffusion
Tsinghua University（清华大学）；Zhejiang University（浙江大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
提出AvatarFusion框架，利用latent diffusion model提供像素级指导，生成服装解耦的逼真3D avatar，并建立首个零样本文本到avatar生成基准，实现所有指标显著提升及服装替换。
2023-09-14 cs.CV cs.GR
Edge-labeling Graph Neural Network for Few-shot Learning
Korea Advanced Institute of Science and Technology（韩国科学技术院）；Kakao Brain；MILA, Université de Montréal（蒙特利尔大学MILA）
在本文中，我们提出了一种新的边缘标记图神经网络（EGNN），它在边缘标记图上适应深度神经网络，用于少样本学习。以前的图神经网络（GNN）方法在少样本学习是基于节点标记的框架，它隐含地模型的类内相似性和类间不相似性。相比之下，所提出的EGNN学习预测的边缘标签，而不是节点标签上的图形，使显式聚类的进化迭代更新的边缘标签，直接利用两个集群内的相似性和集群间的相异性。它也非常适合在各种数量的类上执行而无需重新训练，并且可以很容易地扩展以执行转换推理。EGNN的参数是通过带有边缘标记损失的情景训练来学习的，以获得用于不可见低数据问题的可推广模型。在两个基准数据集的监督和半监督Few-Shot图像分类任务上，所提出的EGNN显着提高了现有GNN的性能。
2019-05-04 cs.CV cs.LG
Rethinking Task Sampling for Few-shot Vision-Language Transfer Learning
University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
尽管实现了最先进的zero-shot性能，现有的视觉语言模型仍然达不到特定领域问题的Few-Shot传输能力。经典的微调往往无法防止高表达模型利用虚假的相关性。尽管模型不可知元学习（MAML）是Few-Shot迁移学习的自然替代方案，但由于隐式二阶优化而导致的昂贵计算限制了其在大规模视觉语言模型（如CLIP）上的使用。虽然许多文献一直致力于探索替代的优化策略，我们确定了有效的Few-Shot迁移学习，任务采样，这是以前只被视为数据预处理的一部分，在MAML的另一个重要方面。为了显示任务采样的影响，我们提出了一个简单的算法，模型无关的多任务微调（MAMF），它区分经典的微调只对均匀采样多个任务。尽管它的简单性，我们表明，MAMF始终优于经典的微调五个Few-Shot视觉语言分类任务。我们进一步表明，MAML中的两级优化的有效性是高度敏感的zero-shot性能的任务的上下文中的Few-Shot视觉语言分类。本文的目标是提供新的见解是什么使少样本学习的工作，并鼓励更多的研究调查更好的任务抽样策略。
2022-07-15 cs.CL cs.CV cs.MM
InfoNeRF: Ray Entropy Minimization for Few-Shot Neural Volume Rendering
Seoul National University（首尔大学）
提出了一种基于神经隐式表示的Few-Shot新视图合成的信息论正则化方法。所提出的方法最大限度地减少潜在的重建不一致，发生由于视点不足，通过施加熵约束的密度在每个射线。此外，为了减轻潜在的退化问题时，所有的训练图像几乎是从冗余的观点，我们进一步将空间平滑度约束到估计的图像，通过限制信息增益从一对光线略有不同的观点。我们的算法的主要思想是使重建的场景紧凑沿个别射线和一致的射线在附近。所提出的正则化器可以直接插入到大多数现有的基于NeRF的神经体渲染绘制技术中。尽管它的简单性，我们实现了持续改进的性能相比，现有的神经视图合成方法的大利润率在多个标准的基准。
2022-04-10 cs.CV cs.GR eess.IV
