TNT: Text-Conditioned Network with Transductive Inference for Few-Shot Video Classification
Pontificia Universidad Católica de Chile(智利天主教大学);Samsung AI Centre Cambridge(三星人工智能中心剑桥);Stanford University(斯坦福大学);KU Leuven(鲁汶大学);Facebook AI(Facebook 人工智能)
近年来,Few-Shot视频分类受到越来越多的关注。目前的方法主要集中在有效地利用视频中的时间维度,以改善低数据制度下的学习。然而,大多数作品在很大程度上忽略了视频往往伴随着丰富的文本描述,也可以是一个重要的信息来源,以处理Few-Shot识别的情况下。在本文中,我们建议利用这些人类提供的文本描述作为特权信息时,训练的Few-Shot视频分类模型。具体来说,我们制定了一个基于文本的任务条件,以适应视频功能的少样本学习任务。此外,我们的模型遵循一个转换设置,以提高模型的任务适应能力,通过使用支持文本描述和查询实例来更新一组类原型。我们的模型在四个具有挑战性的基准测试上实现了最先进的性能,这些基准测试通常用于评估Few-Shot视频动作分类模型。
2021-12-15 cs.CV
Transductive One-Shot Learning Meet Subspace Decomposition
University of West Florida(西佛罗里达大学);Florida Institute For Human and Machine Cognition (IHMC)(佛罗里达人类与机器认知研究所)
针对单样本学习泛化难题,提出一种结合子空间分解的直推式单样本学习方法,通过将图像分解为子空间基元的线性组合实现标签传播,经多数据集和特征提取器验证,仅单张标注图即可有效泛化到新类别。
2025-05-21 cs.CV
Progressive Cluster Purification for Transductive Few-shot Learning
Institute of Automation, Chinese Academy of Sciences (CASIA)(中国科学院自动化研究所);University of Chinese Academy of Sciences (UCAS)(中国科学院大学);University of Science and Technology of China (USTC)(中国科学技术大学)
少样本学习旨在学习将分类器推广到具有有限标记数据的新类别。最近的文献中,利用未标记测试集来处理低数据问题的直推推理已经被用于少样本学习。然而,这些方法没有明确地利用语义簇的多种结构,这是低效率的转换推理。在本文中,我们提出了一种新的渐进聚类纯化(PCP)方法的转导少样本学习。PCP可以逐步净化集群通过探索在单个集群空间的语义相互依赖。具体来说,PCP由两个级别的操作:类间分类和类内转换。类间分类通过将测试样本与原型进行比较,将所有测试样本划分为若干类。类内转换通过对一个聚类内以及不同聚类之间的数据关系进行建模,有效地探索每个聚类的可信测试样本。然后,它细化的原型,以更好地代表的真实分布的语义集群。精化的原型用于重新测量所有测试实例并净化每个簇。此外,类间分类和类内转导非常灵活,可以重复多次以逐步纯化簇。实验结果在两个数据集上提供:miniImageNet数据集和tieredImageNet数据集。比较结果表明,我们的方法的有效性,并表明我们的方法优于国家的最先进的方法在这两个数据集。
2019-06-10 cs.CV
Training-Free Spectral Transductive Refinement for Cross-Domain Few-Shot Classification
Islamic University of Technology(伊斯兰理工大学)
提出无训练谱转导精化(STR),利用谱几何和伪标注迭代精化,在跨域小样本分类中仅推理时提升性能,1-shot平均最优。
2026-09-22 cs.CV
Transductive Decoupled Variational Inference for Few-Shot Classification
Delft University of Technology(代尔夫特理工大学);Shell Global Solutions International B.V.(壳牌全球解决方案国际有限公司)
从少量样本中学习的多功能性是人类智能的标志。少样本学习是一种努力,以超越这种能力下降到机器。受概率深度学习的承诺和力量的启发,我们提出了一种用于Few-Shot分类的新型变分推理网络(称为TRIDENT),将图像的表示解耦为语义和标签潜变量,并同时以交织的方式推断它们。为了诱导任务意识,作为TRIDENT的推理机制的一部分,我们利用跨查询和支持图像的Few-Shot任务使用一种新的内置的基于注意力的转导特征提取模块(我们称AttFEX)的信息。我们广泛的实验结果证实了TRIDENT的有效性,并证明,使用最简单的主干,它在最常用的数据集miniImageNet和tieredImageNet中设置了新的最先进的技术(分别提供高达4%和5%的改进),以及最近具有挑战性的跨域miniImagenet --> CUB方案,(最多提高20%),超过现有的最佳跨域基准。代码和实验可以在我们的GitHub存储库中找到:https://github.com/anujinho/trident
2022-08-22 cs.CV
Cross-domain Few-shot Segmentation with Transductive Fine-tuning
Few-Shot分割(FSS)期望在基本类上训练的模型在一些支持图像的帮助下对新类起作用。然而,当基类和新类之间存在域间隙时,最先进的FSS方法甚至可能无法分割简单对象。为了提高它们在看不见的领域上的性能,我们建议在Few-Shot设置下对一组查询图像的基础模型进行转导微调,其中核心思想是使用支持标签隐式地引导查询图像的分割。虽然不同的图像不能直接比较,但它们的类原型需要在特征空间中对齐。通过将查询和支持原型与不确定性感知的对比损失对齐,并使用监督交叉熵损失和无监督边界损失作为正则化,我们的方法可以将基础模型推广到目标域而无需额外的标签。我们进行了广泛的实验下,各种跨域设置的自然,遥感和医学图像。结果表明,我们的方法可以持续和显着提高性能的原型FSS模型在所有跨域任务。
2022-11-27 cs.CV
Learning unbiased zero-shot semantic segmentation networks via transductive transfer
University of Electronic Science and Technology of China(电子科技大学);Southwestern University of Finance and Economics(西南财经大学)
语义分割是计算机视觉中的一个重要问题,其目的是获得对图像的详细理解。然而,在实际场景中,通常会出现与训练中的类别不同的新类别。由于收集所有类别的标记数据是不切实际的,如何在语义分割中进行零样本学习是一个重要的问题。虽然类别的属性嵌入可以促进不同类别之间的有效知识转移,但分割网络的预测显示出明显的偏向于所看到的类别。在本文中,我们提出了一种易于实现的直推方法来减轻零镜头(zero-shot)语义分割中的预测偏差。我们的方法假设具有完整像素级标签的源图像和未标记的目标图像在训练期间都可用。具体地说,源图像用于学习视觉图像和语义嵌入之间的关系,而目标图像用于减轻对可见类别的预测偏差。我们对PASCAL数据集的不同分割进行了综合实验。实验结果清楚地证明了我们的方法的有效性。
2020-07-01 cs.CV
Adaptive manifold for imbalanced transductive few-shot learning
Imperial College London(帝国理工学院);Institute of Advanced Research on Artificial Intelligence(人工智能高等研究院)
针对直推式少样本学习在类别不平衡场景下性能下降的问题,提出 Adaptive Manifold,利用支持样本与查询样本的流形相似度进行类别预测,并在多个基准和骨干网络上取得先进性能。
2023-04-27 cs.CV
Transductive Unbiased Embedding for Zero-Shot Learning
College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);Arizona State University(亚利桑那州立大学);Alibaba Group(阿里巴巴集团)
大多数现有的零样本学习(Zero-Shot Learning,ZRL)方法存在强偏差问题,即看不见的(目标)类的实例往往被归类为看不见的(源)类之一。因此,它们在部署到广义的CNOL设置中后性能很差。在本文中,我们提出了一个简单而有效的方法命名为准完全监督学习(QFSL),以减轻偏见的问题。我们的方法遵循的方式,即假设标记的源图像和未标记的目标图像都可用于训练的转导学习。在语义嵌入空间中,将已标记的源图像映射到源类别指定的几个固定点上,将未标记的目标图像强制映射到目标类别指定的其他点上。在AwA 2、CUB和SUN数据集上进行的实验表明,在广义的BNL设置下,我们的方法比现有的最先进的方法性能高出9.3%~24.5%,在传统的BNL设置下,我们的方法比现有的最先进的方法性能高出0.2%~16.2%。
2018-03-30 cs.CV
Temporal Transductive Inference for Few-Shot Video Object Segmentation
Electrical Engeering and Computer Science, York University, ON, Canada(电气工程与计算机科学系,约克大学,加拿大)
本文提出一种简单有效的时序传递推断方法,利用未标记视频帧中的时间一致性,通过全局和局部时间约束提升时间一致性并减少过拟合,实验显示在YouTube-VIS上平均交并比优于现有元学习方法2.8%。
2023-07-16 cs.CV
Exploiting Spatial Structure for Transductive Few-Shot Classification of Whole-Slide Images
Université Catholique de Louvain(鲁汶天主教大学)
针对全切片图像分类,提出SlideTIM方法,结合空间-潜在正则化与类别分布先验,在四个组织学数据集上显著提升直推式少样本分类性能。
2026-09-28 cs.CV
Closing the Estimation Gap: Training-Free Transductive Inference for Cross-Domain Few-Shot Action Recognition
Aalto University(阿尔托大学)
针对跨域少样本动作识别中从稀缺支持估计原型的瓶颈,提出无训练直推式推理框架TRACE,通过两个互补阶段改进估计,显著提升多数据集少样本动作识别准确率并缩小神谕估计差距。
2026-10-14 cs.CV
Local Propagation for Few-Shot Learning
Inria(法国国家信息与自动化研究所);Univ Rennes(雷恩大学);CNRS(法国国家科学研究中心);IRISA(法国雷恩信息与自动化系统研究所);Safran(赛峰集团)
少样本学习面临的挑战是,可用的数据不足以捕捉潜在的分布。为了减轻这种情况,两个新兴的方向是(a)使用本地图像表示,本质上是将数据量乘以常数因子,以及(b)使用更多未标记的数据,例如通过转换推理,联合对多个查询。在这项工作中,我们把这两个想法结合在一起,介绍\emph{local propagation}。我们将局部图像特征视为独立的示例,我们在它们上构建一个图,并使用它来传播特征本身和标签,已知和未知。有趣的是,由于每个图像都有许多特征,因此即使是一个查询也会引起转换推理。因此,我们提供了一个普遍安全的选择,Few-Shot推断在非转导和转导设置,提高准确性相应的方法。这与现有的解决方案相反,现有的解决方案需要根据可用数据的数量来选择方法。
2021-01-05 cs.CV
Generative Model-driven Structure Aligning Discriminative Embeddings for Transductive Zero-shot Learning
IIT Bombay(印度理工学院孟买分校);Jadavpur University(贾达普大学)
零样本学习(Zero-Shot Learning,ZRL)是一种迁移学习技术,旨在将知识从可见类迁移到不可见类。这种知识转移是可能的,因为潜在的语义空间是常见的可见和不可见的类。大多数现有的方法学习投影函数使用标记的可见类数据,其将视觉数据映射到语义数据。在这项工作中,我们提出了一个浅,但有效的神经网络为基础的模型学习这样的投影函数,对齐的视觉和语义数据的潜在空间,同时使潜在空间嵌入歧视。由于上述投影函数是使用所见的类数据学习的,因此存在所谓的投影域移位。我们提出了一种转换的方法来减少域转移的影响,在那里我们利用未标记的视觉数据从看不见的类生成相应的语义特征看不见的类视觉样本。虽然这些语义特征最初是使用条件变分自动编码器生成的,但它们与所见的类数据一起使用以改进投影函数。我们在APDL和广义APDL的归纳和转换设置上进行了实验,并在标准基准数据集AWA 1,AWA 2,CUB,SUN,FLO和APY上显示出优越的性能。我们还展示了我们的模型在ZSL背景下不同数据集上标记数据极其少的情况下的有效性。
2020-05-09 cs.CV
Transductive Zero-Shot Learning by Decoupled Feature Generation
Istituto Italiano di Tecnologia(意大利技术研究院);University of Genova(热那亚大学);Huawei Technologies Ltd., Ireland Research Center(华为技术有限公司爱尔兰研究中心);University of Verona(维罗纳大学)
在本文中,我们解决了零样本学习(zero-shot learning,简称ZNL),即在训练过程中识别没有标记视觉数据的类别的问题。我们专注于转导设置,其中未标记的视觉数据从看不见的类是可用的。最先进的范例中,通常利用生成对抗网络从语义属性合成视觉特征。我们认为,这些方法的主要限制是采用一个单一的模型来面对两个问题:1)生成逼真的视觉特征,2)翻译语义属性到视觉线索。因此,我们建议将这些任务解耦,分别解决它们。特别是,我们训练一个无条件生成器,只捕捉视觉数据分布的复杂性,我们随后将其与一个条件生成器配对,专门用于丰富数据分布的先验知识与类嵌入的语义内容。我们提出了一个详细的消融研究,剖析我们提出的解耦方法的效果,同时证明其优于相关的国家的最先进的。
2021-09-14 cs.CV
Attribute-Induced Bias Eliminating for Transductive Zero-Shot Learning
National Laboratory of Pattern Recognition, CASIA(中国科学院自动化研究所模式识别国家重点实验室);USTC(中国科学技术大学)
直推零样本学习(Transductive Zero-shot learning,简称ZML)通过在联合嵌入空间中对齐视觉和语义信息来识别不可见的类别。在直导型双线性模型中存在四种畴偏置,即,两个领域之间的视觉偏见和语义偏见以及两个可见领域和不可见领域的视觉语义偏见,但现有的研究只关注其中的一部分,这导致知识传递过程中存在严重的语义歧义。为了解决上述问题,我们提出了一种新的属性诱导偏差消除(AIBE)模块的transductive的可移植逻辑。具体而言,对于两个域之间的视觉偏差,首先利用均值-教师模块来桥接具有无监督学习和未标记图像的两个域之间的视觉表示差异。在此基础上,提出了一种基于注意力图的属性嵌入方法,该方法利用注意力图的操作来捕捉类别之间的语义关系,从而减少可见类别和不可见类别之间的语义偏差。此外,为了减少在所见域中的语义-视觉偏差,我们将每个类别的视觉中心而不是单个视觉数据点与相应的语义属性对齐,这进一步保留了嵌入空间中的语义关系。最后,针对视觉空间中存在的语义-视觉偏差,设计了一个视觉-语义对齐约束,以无监督的方式对齐视觉空间和语义空间。对几个基准的评估表明了所提出的方法的有效性,例如,对于CUB、AwA 2和SUN数据集,分别获得常规/广义CNOL设置的82.8%/75.5%、97.1%/82.5%和73.2%/52.1%。
2020-05-31 cs.CV
Unbiased Max-Min Embedding Classification for Transductive Few-Shot Learning: Clustering and Classification Are All You Need
Xidian University(西安电子科技大学);Chongqing University of Posts and Telecommunications(重庆邮电大学);Tsinghua University(清华大学)
针对直推式少样本学习中的中心点问题,提出无偏最大-最小嵌入分类方法,结合去中心化协方差、自适应加权与变分Sinkhorn分类器,以最少标注数据实现优越分类性能。
2025-03-28 cs.CV
Transductive Zero-Shot Learning with a Self-training dictionary approach
零样本学习(zero-shot learning,简称ZOL)是计算机视觉中一个重要而又具有挑战性的问题,其目标是在没有训练数据的情况下,从未知的目标类别中自动识别出目标实例。为了解决这一问题,通常从以下两个方面来进行语义标注:1)捕获可见类数据和不可见类数据之间的域分布连接; 2)对图像特征空间和标签嵌入空间之间的语义交互进行建模。出于这些观察,我们提出了一个双向映射为基础的语义关系建模方案,寻求跨模态的知识转移,同时投影到一个共同的潜在空间的图像特征和标签嵌入。即,我们具有从图像特征空间到潜在空间以及从标签嵌入空间到潜在空间的双向连接关系。为了处理域转移问题,我们进一步提出了一种转导学习方法,该方法在迭代精炼过程中制定类预测问题,其中对象分类能力通过基于引导的模型更新高度可靠的实例逐步加强。在三个基准数据集(AwA、CUB和SUN)上的实验结果表明了该方法的有效性。
2017-03-27 cs.CV
Learning Cross-domain Semantic-Visual Relationships for Transductive Zero-Shot Learning
Southwest Jiaotong University(西南交通大学);University of Electronic Science and Technology of China(电子科技大学);Chongqing University(重庆大学);Guangzhou University(广州大学)
针对零样本学习中源域与目标域标签空间不相交导致领域自适应难以直接应用的问题,提出TSVR方法,将图像识别转化为预测语义-视觉对的相似性标签以统一标签空间,并利用特定领域批量归一化对齐领域差异。
2023-04-08 cs.CV
Realistic Evaluation of Transductive Few-Shot Learning
ÉTS Montreal(蒙特利尔高等技术学院);CentraleSupélec(巴黎中央理工-高等电力学院);CNRS(法国国家科学研究中心);Université Paris-Saclay(巴黎萨克雷大学)
Transductive推理广泛用于少样本学习,因为它利用了Few-Shot任务的未标记查询集的统计数据,通常比其归纳对应物产生更好的性能。当前的Few-Shot基准测试在推理时使用完美的类平衡任务。我们认为,这种人为的规律性是不现实的,因为它假设测试样本的边际标签概率是已知的,并固定到均匀分布。事实上,在现实场景中,未标记的查询集带有任意和未知的标签边缘。我们介绍和研究任意类分布在查询集内的Few-Shot任务在推理的效果,消除类平衡文物。具体来说,我们的Dirichlet分布的随机变量,这产生了一个原则和现实的抽样内的单纯形的类的边际概率模型。这利用了当前的Few-Shot基准测试,用任意的类分布构建测试任务。我们评估实验国家的最先进的转导方法超过3个广泛使用的数据集,并观察到,令人惊讶的是,大量的性能下降,甚至低于归纳方法在某些情况下。此外,我们提出了一个推广的互信息损失,基于$α$ -分歧,它可以有效地处理类分布的变化。从经验上讲,我们表明,我们的转导$α$发散优化优于国家的最先进的方法在几个数据集,模型和Few-Shot设置。我们的代码可在https://github.com/oveilleux/Realistic_Transductive_Few_Shot上公开获取。
2022-04-24 cs.CV cs.LG
Transductive Zero-Shot Action Recognition by Word-Vector Embedding
Queen Mary, University of London(伦敦玛丽女王大学)
用于动作识别的类别的数量正在快速增长,并且已经变得越来越难以标记足够的训练数据来学习用于所有类别的传统模型。与其收集更多的数据并为所有类别对其进行详尽的标记,一种有吸引力的替代方法是零样本学习“(Zero-shot learning)。为此,在这项研究中,我们构建了一个视觉特征和语义描述符的每个动作类别之间的映射,允许新的类别被识别在没有任何视觉训练数据。现有的语义表征研究主要集中在静态图像和基于属性的语义表征。在这项工作中,我们探索词向量作为共享的语义空间,嵌入视频和类别标签,以实现视频动作识别。这是一个更具挑战性的问题比现有的静态图像和/或属性,因为视频时空特征的动作和语义空间之间的映射更复杂,更难学习的目的,概括任何跨类别域的转变。为了解决这一泛化问题,在CNOL动作识别,我们研究了一系列的协同策略,以改善标准的CNOL管道。这些策略中的大多数本质上是转导的,这意味着在训练阶段访问测试数据。
2016-12-02 cs.CV
Few-Shot Segmentation Without Meta-Learning: A Good Transductive Inference Is All You Need?
ÉTS Montreal(蒙特利尔高等工程技术学院);CentraleSupélec-CNRS(中央理工-高等电力学院-法国国家科学研究中心);Université Paris-Saclay(巴黎萨克雷大学)
我们表明,在Few-Shot分割任务中进行推理的方式对性能有很大的影响-这是文献中经常忽视的一个方面,有利于元学习范式。我们引入了一个给定的查询图像的直推推理,利用其未标记像素的统计数据,通过优化一个新的损失包含三个互补项:i)标记的支持像素上的交叉熵; ii)未标记的查询图像像素上的后验子的香农熵; iii)基于预测前景的比例的全局KL发散正则化。由于我们的推理使用提取特征的简单线性分类器,因此其计算负载与归纳推理相当,并且可以在任何基础训练之上使用。放弃情景训练,只在基类上使用标准的交叉熵训练,我们的推理在单次场景中的标准基准测试中产生了有竞争力的性能。随着可用镜头数量的增加,性能差距扩大:在PASCAL-5i上,我们的方法在5次和10次镜头场景中分别比最先进的方法提高了5%和6%。此外,我们还引入了一个新的设置,其中包括域转移,其中基类和新类来自不同的数据集。我们的方法在这个更现实的环境中实现了最佳性能。我们的代码可以在网上免费获得:https://github.com/mboudiaf/RePRI-for-Few-Shot-Segmentation。
2021-03-29 cs.CV
An Iterative Co-Training Transductive Framework for Zero Shot Learning
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);University of Chinese Academy of Sciences(中国科学院大学);Taiyuan University of Science and Technology(太原科技大学);Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences(中国科学院脑科学与智能技术卓越创新中心)
在零样本学习(zero-shot learning,简称ZOL)领域中,由于在训练阶段使用了未知类样本,因此人们普遍认为直推式学习比归纳式学习效果更好。如何为未知类样本生成伪标签以及如何使用这些通常带有噪声的伪标签是直推学习中的两个关键问题。在这项工作中,我们引入了一个迭代的协同训练框架,其中包含两个不同的基本模型和一个交换模块。在每次迭代中,两个不同的CPDL模型被共同训练以分别为未看到的类样本预测伪标签,并且交换模块交换预测的伪标签,然后将交换的伪标签样本添加到训练集中用于下一次迭代。通过这样,我们的框架可以通过充分利用两个模型分类能力的潜在互补性来逐步提高CPDL的性能。此外,我们的协同训练框架也被应用到广义OOD L(GOOD L)中,其中提出了一个语义引导的OOD检测器,在类级分类之前挑选出最可能的未看到的类样本,以减轻GOOD L中的偏见问题。在三个基准上的实验表明,我们提出的方法可以显着优于约$31$国家的最先进的。
2022-03-30 cs.CV
Adaptive Anchor Label Propagation for Transductive Few-Shot Learning
Imperial College London(帝国理工学院);Institute of Advanced Research on Artificial Intelligence (IARAI)(人工智能高级研究院(IARAI))
本文提出自适应锚点标签传播算法,通过可微损失优化标注数据在流形中的位置,在多个小样本基准上显著超越标准标签传播。
2023-10-30 cs.CV
Transductive Zero-Shot and Few-Shot CLIP
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CentraleSupélec(中央理工-高等电力学院);ÉTS Montréal(蒙特利尔工程学院)
本文提出一种基于期望最大化和块状最小化-最大化算法的直推式推理方法,用于CLIP的零样本和少样本分类,在批量未标记样本上联合推理,显著提升ImageNet准确率。
2024-04-08 cs.AI cs.CV
Transductive Zero-Shot Hashing via Coarse-to-Fine Similarity Mining
Sun Yan-Sen University(中山大学)
零次散列(Zero-Shot Hashing,简称ZSH)是在没有训练数据的情况下学习新类或目标类的散列模型,是一个重要而具有挑战性的问题。大多数现有的CNOH方法利用迁移学习通过中间共享的语义表示之间看到的/源类和新的/目标类。然而,由于具有不相交性,从源数据集学习的散列函数在直接应用于目标类时会有偏差。在本文中,我们研究了转导性的CCRH,即,我们有新类别的未标记数据。提出了一种简单有效的联合学习方法,通过由粗到细的相似性挖掘将知识从源数据转移到目标数据。它主要由拟议的深层架构中的两个构建块组成:1)共享双流网络,其中第一流对源数据进行操作,第二流对未标记数据进行操作,以学习有效的公共图像表示,以及2)从粗到精模块,其开始于从目标类中找到最具代表性的图像,然后进一步检测这些图像之间的相似性,以贪婪的方式转移源数据与目标数据的相似性。在多个基准数据集上的测试结果表明,该方法与现有方法相比具有显著的改进效果。
2017-11-08 cs.CV
Robust Transductive Few-shot Learning via Joint Message Passing and Prototype-based Soft-label Propagation
Anhui University(安徽大学)
本文提出PSLP方法,将原型学习与标签传播结合,通过联合消息传递同时学习样本表示和关系图,实现无需参数且高效的鲁棒转导式小样本学习,在多个数据集上取得有竞争力的结果。
2023-11-28 cs.CV
Hardness Sampling for Self-Training Based Transductive Zero-Shot Learning
CASIA(中国科学院自动化研究所);UCAS(中国科学院大学);CAS(中国科学院)
直推式零样本学习(T-zero-shot learning,T-ZOL)能够有效地解决已有的T-ZOL算法中存在的领域漂移问题,近年来受到了广泛的关注。然而,在T-CAML中的一个开放的问题:如何有效地利用不可见的类样本进行训练,仍然存在。针对这一问题,我们首先根据许多WML方法中发现的不均匀预测现象,实证分析了具有不同硬度的不可见类样本在训练过程中的作用,得到三个观察结果。然后,我们提出了两种硬度采样方法,用于根据这些观察从给定的unseen-class数据集中选择一个子集的多样性和硬样本。第一个识别样本的基础上的类水平的频率的模型预测,而第二个增强了前者通过规范化类频率通过近似类先验估计的探索先验估计算法。最后,我们设计了一个新的自训练框架,称为STHS,其中可以无缝嵌入任意归纳的T-STNL方法,并使用硬度采样方法选择的unseen类样本进行迭代训练。我们引入了两个典型的T-STHL方法的STHS框架和广泛的实验表明,派生的T-STHL方法优于许多国家的最先进的方法在三个公共基准测试。此外,我们注意到,在一些现有的直推式广义GSTML(T-GSTML)方法中,未看到的类数据集被单独用于训练,这对于GSTML任务来说并不严格。因此,我们建议一个更严格的T-GHSL数据设置,并建立一个有竞争力的基线,在此设置通过引入拟议的STHS框架T-GHSL。
2021-06-01 cs.CV
Prototypes-oriented Transductive Few-shot Learning with Conditional Transport
National Pilot School of Software Engineering(国家示范性软件学院);Xidian University(西安电子科技大学);National Key Laboratory of Radar Signal Processing(雷达信号处理国家重点实验室)
针对直推式小样本学习在类别不平衡下因统一先验导致性能下降的问题,本文提出基于条件传输的PUTM模型,通过前向与后向导航器平衡查询样本先验并以EM方式迭代精炼原型,在多个基准上取得更优的不平衡泛化性能。
2023-08-06 cs.CV
Beyond Simple Meta-Learning: Multi-Purpose Models for Multi-Domain, Active and Continual Few-Shot Learning
Beam AI;University of British Columbia(不列颠哥伦比亚大学);MILA(蒙特利尔学习算法研究所);Vector Institute(向量研究所);University of Amsterdam(阿姆斯特丹大学);Inverted AI;Northeastern University(东北大学);Google Research(谷歌研究院);CIFAR(加拿大高等研究院);Amazon(亚马逊)
现代深度学习需要大规模广泛标记的数据集进行训练。少样本学习旨在通过从少量标记的样本中有效学习来缓解这个问题。在先前提出的Few-Shot视觉分类器中,假设分类器决策的特征流形具有不相关的特征维度和均匀的特征方差。在这项工作中,我们专注于解决这个假设所产生的限制,提出了一个方差敏感类的模型,在低标签制度。第一种方法,简单的CNAPS,采用分层正则化的基于马氏距离的分类器与最先进的神经自适应特征提取器相结合,以实现元数据集,迷你ImageNet和分层ImageNet基准测试的强大性能。我们进一步扩展这种方法的转导学习设置,提出转导CNAPS。这种转换方法结合了软k-means参数细化过程与两步任务编码器,以实现使用未标记数据的测试时分类精度的提高。Transductive CNAPS在元数据集上实现了最先进的性能。最后,我们探讨了使用我们的方法(简单和Transductive)的“开箱即用”的持续和主动学习。在大规模基准上进行的大量实验表明了这种相对简单的模型的鲁棒性和通用性。所有经过训练的模型检查点和相应的源代码都已公开。
2022-12-12 cs.CV
Transductive Information Maximization For Few-Shot Learning
ÉTS Montreal(蒙特利尔工程技术学院);CentraleSupélec-CNRS(中央理工-高等电力学院-法国国家科学研究中心);Université Paris-Saclay(巴黎萨克雷大学)
我们引入了用于少样本学习的Transductive信息最大化(TIM)。我们的方法最大限度地提高了查询功能之间的互信息和他们的标签预测为一个给定的Few-Shot任务,结合基于支持集的监督损失。此外,我们提出了一个新的交替方向求解器,我们的互信息损失,这大大加快了基于梯度的优化的转导推理收敛,同时产生类似的精度。TIM推理是模块化的:它可以在任何基础训练特征提取器之上使用。在标准的转换Few-Shot设置之后,我们的综合实验表明,TIM在各种数据集和网络上的性能显着优于最先进的方法,同时在基类上使用简单的交叉熵训练的固定特征提取器上使用,而无需采用复杂的元学习方案。与性能最佳的方法相比,它始终带来2%到5%的准确性提高,不仅在所有完善的Few-Shot基准测试中,而且在更具有挑战性的场景中,具有域偏移和更大数量的类。
2020-10-23 cs.CV cs.LG stat.ML
Transductive Zero-Shot Learning with Visual Structure Constraint
City University of Hong Kong(香港城市大学);Microsoft Cloud+AI(微软云与人工智能部门);PCG, Tencent(腾讯平台与内容事业群);Shenzhen University(深圳大学);NLPR, CASIA(中国科学院自动化研究所模式识别国家重点实验室);Deepwise AI Lab(深睿人工智能实验室)
现有的零样本学习(Zero-Shot Learning,简称ZRL)方法在识别未知类对象时,首先根据源已知类的数据,在公共语义空间和视觉空间之间学习一个相容的投影函数,然后直接将其应用于目标未知类。然而,在实际场景中,源域和目标域之间的数据分布可能不匹配,从而导致众所周知的\textbf{domain shift}问题。基于测试实例的视觉特征可以划分为不同的类的观察,我们提出了一种新的视觉结构约束的类中心的直推式的投影函数,以提高的通用性(即减轻上述的域转移问题)。具体而言,采用对称倒角距离、二分匹配距离和Wasserstein距离三种不同的策略来对齐测试实例的投影不可见语义中心和视觉聚类中心。我们还提出了一种新的训练策略来处理测试数据集中存在许多不相关图像的实际情况,这在以前的方法中没有考虑。在许多广泛使用的数据集上的实验表明,所提出的视觉结构约束可以带来显着的性能增益一致,并取得了最先进的结果。源代码可从\url{https://github.com/raywzy/VSC}获得。
2020-01-05 cs.CV
Exploiting Semantic Attributes for Transductive Zero-Shot Learning
University of Science and Technology of China(中国科学技术大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Nanjing University(南京大学)
零样本学习(Zero-shot learning,简称ZRL)的目标是通过归纳视觉特征和从可见类中学习到的语义属性之间的关系来识别不可见类。最近的一个范例称为转导零样本学习,在训练过程中进一步利用未标记的未见过的数据,并取得了令人印象深刻的结果。这些方法总是通过生成对抗网络从属性中合成看不见的特征,以减轻对可见类的偏见。然而,它们忽略了未标记的不可见数据中的语义信息,因此无法生成高保真的属性一致的不可见特征。为了解决这个问题,我们提出了一种新的transductive的mandrel方法,产生的语义属性的看不见的数据,并将它们的生成过程。特别是,我们首先训练一个属性解码器,学习从视觉特征到语义属性的映射。然后,从属性解码器中,我们获得未标记数据的伪属性,并将它们集成到生成模型中,这有助于捕获看不见的类中的详细差异,从而合成更具鉴别力的特征。在五个标准基准测试上的实验表明,我们的方法在零样本学习中得到了最好的结果。
2023-03-17 cs.AI cs.CV
Improved Feature Generating Framework for Transductive Zero-shot Learning
University of Liverpool(利物浦大学);Westlake University(西湖大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Duke Kunshan University(昆山杜克大学)
本文针对转导零样本学习中未见类先验偏差导致准确率下降的问题,提出I-VAEGAN框架,通过伪条件特征对抗学习和变分嵌入回归改进特征生成,在多个基准上取得最优性能。
2024-12-24 cs.CV
Adaptive Dimension Reduction and Variational Inference for Transductive Few-Shot Classification
Orange Labs(奥兰治实验室);IMT-Atlantique(大西洋国立高等电信学院)
考虑到数据注释的成本以及由Few Shot域中的未标记样本提供的更高的准确性,Transductive少样本学习现在已经获得了越来越多的关注。特别是在Few-Shot分类(FSC)中,最近的工作探索了旨在最大化关于未知参数的似然或后验的特征分布。遵循这一思路,并考虑到FSC和聚类之间的并行性,我们寻求更好地考虑由于缺乏数据而导致的估计不确定性,以及与每个类别相关的聚类的更好的统计特性。因此,本文提出了一种新的基于变分贝叶斯推理的聚类方法,并通过基于概率线性判别分析的自适应降维进一步改进。我们提出的方法显着提高了准确性,在现实的不平衡的转导设置在各种Few-Shot基准应用到以前的研究中使用的功能时,与增益高达$6\%$的准确性。此外,当应用于平衡设置时,我们获得了非常有竞争力的结果,而不使用实际用例中有争议的类平衡伪影。我们还提供了我们的方法在高性能预训练骨干上的性能,报告的结果进一步超过了当前最先进的准确性,表明了所提出的方法的通用性。
2022-09-18 cs.CV cs.LG
UNEM: UNrolled Generalized EM for Transductive Few-Shot Learning
Politecnico di Milano(米兰理工大学);Université Paris-Saclay(巴黎萨克雷大学);ÉTS Montréal(蒙特利尔工程学院);Université Sorbonne Paris Nord(巴黎北索邦大学);CentraleSupélec(中央高等电力学院);Inria(法国国家信息与自动化研究所)
本文提出UNEM方法,将广义EM优化器展开为神经网络,在直推式小样本学习中自动学习关键超参数,在视觉与视觉-语言基准上分别提升最高10%和7.5%。
2025-04-11 cs.CV
Transductive Episodic-Wise Adaptive Metric for Few-Shot Learning
Peking University(北京大学);Beihang University(北京航空航天大学)
少样本学习是近年来元学习范式中的一个重要分支,其目标是从极少的新类样本中快速提取新概念。然而,如何学习一个具有适应特定任务的能力的可推广的分类器的关键挑战仍然存在于这个领域。为此,我们提出了一个用于少样本学习的Transductive Episodic-wise Adaptive Metric(TEAM)框架,通过将元学习范式与深度度量学习和transductive inference相结合。通过探索每个任务中的成对约束和正则化先验,我们将自适应过程明确地表述为标准的半定规划问题。通过使用转换的设置动态地解决问题的封闭形式的解决方案,我们的方法有效地为每个任务定制了一个episodic-wise度量,以将所有特征从共享的任务不可知的嵌入空间调整到更具区分性的任务特定度量空间。此外,我们进一步利用基于注意力的双向相似性策略来提取查询和原型之间更强大的关系。在三个基准数据集上的大量实验表明,我们的框架优于其他现有的方法,并达到了Few-Shot文献中最先进的性能。
2019-10-05 cs.CV cs.LG
A Transductive Multi-Head Model for Cross-Domain Few-Shot Learning
DiDiChuXing(滴滴出行)
在本文中,我们提出了一种新的方法,Transductive多头少样本学习(TMHFS),以解决跨域少样本学习(CD-FSL)的挑战。TMHFS方法通过在公共特征嵌入网络之后引入新的预测头,即基于语义信息的实例全局分类网络,扩展了元置信度转换(MCT)和密集特征匹配网络(DFMN)方法[2]。我们训练的嵌入网络与多个头,即MCT损失,DFMN损失和语义分类器损失,同时在源域。对于目标域的少样本学习,首先对只包含语义全局分类器和支持实例的嵌入网络进行微调,然后使用微调后的嵌入网络中的MCT部分来预测查询集的标签。此外,我们进一步利用数据增强技术在微调和测试阶段,以提高预测性能。实验结果表明,所提出的方法大大优于强基线,微调,在四个不同的目标域。
2020-06-08 cs.CV cs.LG
Transductive Zero-Shot Learning with Adaptive Structural Embedding
零样本学习(Zero-shot learning,简称ZRL)赋予计算机视觉系统识别新类别的推理能力。其中的两个基本挑战分别是跨模态学习中的视觉语义嵌入和领域自适应以及不可见类预测步骤。为了解决这两个问题,本文分别提出了自适应结构嵌入(ASTE)和自适应选择策略(SPASS)。具体来说,ASTE在潜在结构SVM框架中制定了视觉语义交互,以自适应地调整松弛变量来体现训练实例之间的不同可靠性。通过这种方式,可靠的实例被施加较小的惩罚,而不太可靠的实例被施加更严厉的惩罚。因此,它确保了更具鉴别力的嵌入。另一方面,SPASS提供了一个框架,以减轻域转移的问题,在CNOL,利用看不见的数据在一个容易的方式硬。特别是,SPASS借用了自定进度学习的思想,通过迭代地从可靠到不太可靠地选择看不见的实例,逐渐将知识从可见域调整到不可见域。随后,通过结合SPASS和ASTE,我们提出了一个自定步的Transductive ASTE(TASTE)方法,逐步加强分类能力。在三个基准数据集(即,AwA、CUB和aPY)的检测结果表明ASTE和TASTE的优越性。此外,我们还提出了一个快速训练(FT)策略,以提高效率的大多数现有的CNOL方法。FT策略是令人惊讶的简单和足够的通用性,它可以在保持以前性能的情况下将大多数现有方法的训练时间加快4~300倍。
2017-03-27 cs.CV
Transductive Multi-class and Multi-label Zero-shot Learning
Queen Mary University of London(伦敦玛丽女王大学)
近年来,零样本学习(zero-shot learning,简称zero-shot learning,简称ZRL)受到越来越多的关注。支撑现有的语义数据库方法的关键思想是通过中间层语义表示来利用知识转移,该中间层语义表示被假设为在辅助数据集和目标数据集之间共享,并且用于在这些域之间进行知识转移。现有方法中使用的语义表示从视觉属性到语义词向量和语义相关度不等。然而,整个流水线是类似的:通过分类或回归模型从辅助数据集学习将低级特征映射到语义表示的投影,并直接应用于将每个实例映射到相同的语义表示空间中,其中使用zero-shot分类器来识别具有每个目标类的单个已知“原型”的看不见的目标类实例。在本文中,我们讨论了两个相关的工作线,改善传统的方法:利用转导学习的BML,并将BML推广到多标签的情况下。
2015-03-26 cs.CV cs.LG
Transductive Zero-Shot Hashing for Multilabel Image Retrieval
Wuhan University(武汉大学);Sun Yat-Sen University(中山大学);University of South Carolina(南卡罗来纳大学)
散列编码已广泛应用于大规模图像检索的近似最近邻搜索。给定语义注释,例如类标签和训练数据的成对相似性,散列方法可以学习并生成有效且紧凑的二进制代码。虽然一些新引入的图像可能包含未定义的语义标签,我们称之为看不见的图像,但已经研究了zeor-shot散列技术。然而,现有的zeor-shot哈希方法主要针对单标签图像的检索,而不能处理多标签图像。在本文中,首次提出了一种新的直推式zero-shot散列方法,用于多标签不可见图像检索。为了预测未知数据/目标数据的标签,通过对已知数据/源数据的实例-概念一致性排序来建立视觉-语义桥梁。然后,成对的相似性损失和焦点量化损失被构造用于使用可见/源和不可见/目标数据来训练散列模型。在三个流行的多标签数据集上的广泛评估表明,所提出的哈希方法取得了显着优于竞争方法的结果。
2021-06-30 cs.CV cs.LG
Bi-directional Distribution Alignment for Transductive Zero-Shot Learning
University of Science and Technology of China(中国科学技术大学);The University of Manchester(曼彻斯特大学)
众所周知,零样本学习(Zero-shot learning,简称ZRL)可能会严重地受到域偏移问题的影响,其中未见过的类的真实数据分布和学习数据分布不匹配。虽然transductiveBLOL(TROML)试图通过允许使用来自未见过的类别的未标记的示例来改善这一点,但仍然存在高水平的分布偏移。我们提出了一种新的TADOL模型(命名为双VAEGAN),它大大提高了视觉和辅助空间之间的分布对齐的变化。模型设计的关键建议包括:(1)双向分布对齐,(2)一个简单但有效的基于L_2范数的特征归一化方法,(3)一个更复杂的不可见类先验估计方法。在使用四个数据集的基准评估中,Bi-VAEGAN在标准和广义TALML设置下都达到了新的艺术水平。代码可以在https://github.com/Zhicaiwww/Bi-VAEGAN上找到
2023-03-19 cs.AI cs.CV
Transductive Few-Shot Learning: Clustering is All You Need?
Thales - Cortaix(泰雷兹Cortaix);ÉTS Montreal(蒙特利尔高等技术学院)
我们研究了一个通用的公式聚类和转导少样本学习,它集成了基于原型的目标,拉普拉斯正则化和监督约束,从一些标记的数据点。我们提出了一个凹凸松弛的问题,并推导出一个计算效率高的块坐标界优化,收敛保证。在每次迭代中,我们的优化器为每个点到集群分配计算独立(并行)更新。因此,对于大规模聚类和Few-Shot任务,它可以是平凡分布的。此外,我们提供了一个彻底的收敛性分析的基础上点到集的地图。在各种数据集上进行了端口综合聚类和少样本学习实验,表明我们的方法在准确性和优化质量方面具有竞争力的性能,同时可以扩展到大型问题。在基础类上使用标准训练,而不采用复杂的元学习和情节训练策略,我们的方法在各种模型,设置和数据集上的性能明显优于最先进的Few-Shot方法。令人惊讶的是,我们发现即使是标准的聚类程序(例如,K-means),对应于我们一般模型的特定非正则化情况,与少样本学习中的最新技术相比,已经实现了具有竞争力的性能。这些令人惊讶的结果指出了当前Few-Shot基准测试的局限性,并质疑了最近文献中大量卷积少样本学习技术的可行性。
2021-06-16 cs.CV cs.LG
Mutual-Information Based Few-Shot Classification
ÉTS Montreal(蒙特利尔高等技术学院);CentraleSupélec(巴黎中央理工-高等电力学院);CNRS(法国国家科学研究中心);Université Paris Saclay(巴黎萨克雷大学);Laboratoire des Signaux et Systèmes(信号与系统实验室)
我们引入了用于少样本学习的Transductive信息最大化(TIM)。我们的方法最大限度地提高了查询功能之间的互信息和他们的标签预测为一个给定的Few-Shot任务,结合基于支持集的监督损失。我们通过推导分类精度和互信息最大化之间的正式关系来激励我们的转导损失。此外,我们提出了一个新的交替方向求解器,大大加快了基于梯度的优化的转导推理,同时产生有竞争力的准确性。我们还提供了一个收敛性分析我们的求解器的基础上Zangwill的理论和边界优化参数。TIM推理是模块化的:它可以在任何基础训练特征提取器之上使用。在标准的转换Few-Shot设置之后,我们的综合实验表明,TIM在各种数据集和网络上的性能显着优于最先进的方法,同时在基类上使用简单的交叉熵训练的固定特征提取器上使用,而无需采用复杂的元学习方案。它始终带来2%和5%之间的准确性提高最好的执行方法,不仅在所有完善的Few-Shot基准,但也在更具有挑战性的情况下,随机任务,域转移和大量的类,如在最近推出的元数据集。我们的代码可在https://github.com/mboudiaf/TIM上公开获取。我们还在https://github.com/mboudiaf/pytorch-meta-dataset上公开发布了META-DATASET的独立PyTorch实现,以及其他基准测试结果。
2021-06-23 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Transductive Zero-Shot Learning using Cross-Modal CycleGAN
Laboratoire d’Informatique de Paris 6(巴黎第六计算机实验室);Criteo AI Lab(科韬人工智能实验室)
在计算机视觉中,零样本学习(Zero-Shot Learning,缩写为ZRL)的目标是对看不见的类别进行分类,即不存在匹配的训练图像的类别。大多数的CNOL作品学习图像和所见类的类标签之间的跨模态映射。但是,可见类和不可见类的数据分布可能不同,从而导致域偏移问题。根据这一观察结果,转换类学习(transductive Cumulative L,T-Cumulative L)假设在训练过程中已知不可见的类及其相关图像,但不知道它们的对应关系。由于当前的T-BNL方法在看到的类的数量很高时不能有效地扩展,因此我们使用基于CycleGAN的T-BNL新模型来解决这个问题。我们的模型联合(i)将图像投影到具有监督目标的可见类标签上,(ii)将不可见类标签和视觉样本与对抗性和周期一致性目标对齐。我们展示了我们的跨模态CycleGAN模型(CM-GAN)在ImageNet T-GML任务上的效率,我们在其中获得了最先进的结果。我们进一步验证CM-GAN在语言基础任务上,以及我们提出的新任务:MS COCO上的zero-shot图像匹配。
2020-11-13 cs.AI cs.CV
Transductive Multi-label Zero-shot Learning
Queen Mary University of London(伦敦玛丽女王大学)
零样本学习作为一种减轻注释大规模识别问题的训练数据的通常令人望而却步的费用的手段已经受到越来越多的关注。这些方法已经取得了巨大的成功,通过学习中间语义表示的形式的属性,最近,语义词向量。然而,到目前为止,它们一直局限于单标签的情况下,相比之下,日益普及和更现实的多标签数据的重要性。在本文中,第一次,我们调查和形式化的一般框架多标签零样本学习,解决其中的独特挑战:如何利用多标签相关性在测试时没有训练数据的这些类?特别地,我们提出了(1)一个多输出深度回归模型来将图像投影到语义词空间中,该模型显式地利用了词向量的中间语义层中的相关性;(2)一种新的多标签数据的零样本学习算法,该算法利用了语义词向量表示的独特组合属性;以及(3)使从可见类学习的回归模型能够很好地推广到不可见类的转换学习策略。我们的零样本学习实验上的一些标准的多标签数据集表明,我们的方法优于各种基线。
2015-03-26 cs.CV cs.LG
Transductive Few-shot Learning with Prototype-based Label Propagation by Iterative Graph Refinement
Australian National University(澳大利亚国立大学);Data61(数据61);CSIRO(联邦科学与工业研究组织)
针对直推式少样本学习中原型估计不准与核函数图构建次优的问题,提出随原型迭代更新的原型-样本关系图及原型标签传播方法,并在多个数据集上取得SOTA。
2023-04-23 cs.AI cs.CV cs.LG
ECKPN: Explicit Class Knowledge Propagation Network for Transductive Few-shot Learning
University of Science and Technology of China(中国科学技术大学);University of Chinese Academy of Sciences(中国科学院大学);The Second Academy of CASIC(中国航天科工集团第二研究院)
近年来,基于转换图的方法在Few-Shot分类任务中取得了巨大的成功。然而,大多数现有的方法忽略了探索类级别的知识,人类可以很容易地从少数样本中学习。在本文中,我们提出了一个显式类知识传播网络(ECKPN),它是由比较,挤压和校准模块,以解决这个问题。具体来说,我们首先使用比较模块来探索成对样本关系,以学习实例级图中的丰富样本表示。然后对实例级图进行压缩,生成类级图,从而获得类级可视化知识,方便对不同类之间的关系进行建模。然后,采用校正模块来明确地描述类之间的关系,以获得更具区分力的类级知识表示。最后,我们结合类级知识和实例级样本表示来指导查询样本的推理。我们在四个Few-Shot分类基准上进行了大量的实验,实验结果表明,所提出的ECKPN显著优于最先进的方法。
2021-06-16 cs.AI cs.CV
Iterative label cleaning for transductive and semi-supervised few-shot learning
Imperial College London(帝国理工学院);Inria(法国国家信息与自动化研究所);Univ Rennes(雷恩大学);CNRS(法国国家科学研究中心);IRISA(法国雷恩信息与自动化系统研究所)
少样本学习相当于学习表示和获取知识,使得可以在监督和数据都有限的情况下解决新的任务。通过转换推理和半监督学习可以提高性能,其中转换推理可以同时获得整个测试集,而半监督学习可以获得更多未标记的数据。针对这两种设置,我们引入了一种新的算法,该算法利用标记和未标记数据分布的流形结构来预测伪标签,同时平衡类并使用有限容量分类器的损失值分布来选择最干净的标签,迭代地提高伪标签的质量。我们的解决方案超越或匹配四个基准数据集的最新结果,即miniImageNet,tieredImageNet,CUB和CIFAR-FS,同时在特征空间预处理和可用数据量方面具有鲁棒性。可以在https://github.com/MichalisLazarou/iLPC中找到公开的源代码。
2023-03-28 cs.AI cs.CV cs.LG
LATA: Laplacian-Assisted Transductive Adaptation for Conformal Uncertainty in Medical VLMs
Aarhus University ( A3 Lab )(奥胡斯大学);Khalifa University(哈利法大学);Jio Institute(乔研究所);MBZUAI(穆萨大学人工智能研究所);Monash University(墨尔本大学)
LATA通过拉普拉斯辅助的转导适应方法,提升医学VLM在域转移下的不确定性校准,减少预测集规模和类间覆盖不平衡,同时保持高覆盖效率。
2026-02-19 cs.CV
Learning to Propagate Labels: Transductive Propagation Network for Few-shot Learning
CAI, University of Technology Sydney(悉尼科技大学CAI);University of Oxford(牛津大学);AITRICS;KAIST(韩国科学技术院);Baidu Research(百度研究院)
少样本学习的目标是学习一个分类器,即使在每个类的训练实例数量有限的情况下也能很好地泛化。最近引入的元学习方法通过在大量多类分类任务中学习通用分类器并将模型推广到新任务来解决这个问题。然而,即使有了这样的元学习,新分类任务中的低数据问题仍然存在。在本文中,我们提出了一种新的元学习框架--直推传播网络(TPN),它可以对整个测试集进行一次分类,以缓解低数据问题。具体来说,我们建议通过学习利用数据中的流形结构的图构造模块来学习将标签从标记实例传播到未标记的测试实例。TPN以端到端的方式联合学习特征嵌入和图构造的参数。我们在多个基准数据集上验证了TPN,它在很大程度上优于现有的少样本学习方法,并取得了最先进的结果。
2019-02-08 cs.CV cs.LG cs.NE
Transductive Multi-view Zero-Shot Learning
Disney Research(迪士尼研究院);Queen Mary University of London(伦敦玛丽女王大学)
大多数现有的零样本学习方法通过在注释的辅助数据集和具有不同类且没有注释的目标数据集之间共享的中间级语义表示来利用迁移学习。从辅助数据集学习从低级特征空间到语义表示空间的投影,并且在不适应目标数据集的情况下应用该投影。在本文中,我们确定了这些方法的两个固有的局限性。首先,由于具有不相交和潜在不相关的类,从辅助数据集/域学习的投影函数在直接应用于目标数据集/域时是有偏差的。我们称这个问题的投影域移位问题,并提出了一个新的框架,转导多视图嵌入,来解决它。第二个限制是原型稀疏性问题,这是指的事实,对于每个目标类,只有一个单一的原型是可用于零样本学习给定的语义表示。为了克服这个问题,一个新的异构多视图超图标签传播方法制定的零样本学习在转导嵌入空间。它有效地利用了不同语义表示所提供的互补信息,并以连贯的方式利用了多个表示空间的流形结构。我们通过大量的实验证明,所提出的方法(1)纠正辅助和目标域之间的投影移位,(2)利用多种语义表示的互补性,(3)显着优于现有的方法,zero-shot和N-shot识别三个图像和视频基准数据集,(4)使新的跨视图注释任务。
2015-03-03 cs.CV cs.DS cs.MM
EOL: Transductive Few-Shot Open-Set Recognition by Enhancing Outlier Logits
Heriot-Watt University(赫瑞瓦特大学);University of Cambridge(剑桥大学);Imperial College London(伦敦帝国学院)
针对开集小样本识别中未知类检测与内点—异常值不平衡问题,提出转导式 EOL 方法,利用 InfoMax 和模型校准增强异常值 logit、优化伪标签,多项基准提升约 1.3%–6.3%。
2024-08-04 cs.CV cs.LG