Inferring Prototypes for Multi-Label Few-Shot Image Classification with Word Vector Guided Attention
Peking University(北京大学);SenseTime Research(商汤科技研究院);CRIL - University of Artois & CNRS(法国国立计算机与自动化研究所 - 阿图瓦大学与法国国家科学研究中心);University of Essex(埃塞克斯大学);Cardiff University(卡迪夫大学)
多标签Few-Shot图像分类(ML-FSIC)是基于少量训练样本为先前未见过的图像分配描述性标签的任务。多标签设置的一个关键特性是图像通常具有多个标签,这些标签通常指的是图像的不同区域。因此,在基于度量的设置中,当估计原型时,确定哪些区域与哪些标签相关是重要的,但是有限的训练数据量使得这非常具有挑战性。作为一种解决方案,在本文中,我们建议使用词嵌入作为一种形式的先验知识的意义的标签。特别是,视觉原型的支持图像的局部特征图的聚合,使用依赖于标签嵌入的注意力机制。作为一个重要的优势,我们的模型可以推断出未知标签的原型,而不需要微调任何模型参数,这证明了它强大的泛化能力。COCO和PASCAL VOC上的实验进一步表明,我们的模型大大提高了目前的最先进的。
2021-12-07 cs.CL cs.CV
Hierarchical Representation based Query-Specific Prototypical Network for Few-Shot Image Classification
Nanjing University(南京大学)
Few-Shot图像分类的目的是用少量的带标签的训练数据识别不可见的类别。最近的基于度量的框架倾向于通过固定的原型来表示支持类(例如,支持类别的均值),并根据查询实例与支持原型之间的相似性进行分类。然而,歧视性的主导区域可能会定位图像的不确定区域,并具有不同的尺度,这将导致失准度量。此外,一个支持类别的固定原型不能适用于所有的查询实例,以准确地反映他们与该类别的距离,这降低了度量的效率。因此,支持样本中的查询特定的主导区域应该被提取用于高质量的度量。为了解决这些问题,我们提出了一个基于层次表示的查询特定的原型网络(QPN),以解决的限制,生成一个区域级的原型为每个查询样本,同时实现位置和维度的语义对齐。在五个基准数据集(包括三个细粒度数据集)上进行的大量实验表明,我们提出的方法优于当前最先进的方法。
2021-03-21 cs.CV
Libra-MIL: Multimodal Prototypes Stereoscopic Infused with Task-specific Language Priors for Few-shot Whole Slide Image Classification
针对计算病理学中WSI少样本分类的模态协同与原型偏差问题,提出Libra-MIL方法,融合任务特定语言先验构建多模态原型并通过立体最优传输实现双向交互,提升模型泛化性与可解释性。
2025-11-11 cs.AI cs.CV
Beyond Static Anchors: Bounded Prototype Conditioning for Language-Free Medical Anomaly Detection
本研究针对现有CLIP医学异常检测方法静态参考难以跨域迁移的问题,提出无语言框架ReCAP,通过有界门控调制的条件原型与非参数记忆实现异常检测,在多基准上性能最优且推理延迟大幅降低。
2026-08-11 cs.AI cs.CV
Few-shot Image Classification with Multi-Facet Prototypes
Peking University(北京大学);University Artois(阿尔图瓦大学);University of Essex(埃塞克斯大学);Cardiff University(卡迪夫大学)
少样本学习(FSL)的目的是学习如何从少量的训练样本中识别图像类别。一个主要的挑战是,现有的训练样本通常不足以确定哪些视觉特征是所考虑的类别的最大特征。为了应对这一挑战,我们将这些视觉特征组织成小平面,这些小平面直观地将同类特征(例如与形状,颜色或纹理相关的特征)分组。这是出于以下假设:(i)每个方面的重要性因类别而异,以及(ii)可以从类别名称的预训练嵌入预测方面重要性。特别是,我们提出了一个自适应的相似性度量,依赖于预测方面的重要性权重为一组给定的类别。该度量可以与各种现有的基于度量的方法结合使用。miniImageNet和CUB上的实验表明,我们的方法提高了基于度量的FSL的最新技术水平。
2021-02-01 cs.AI cs.CV
Augmenting Prototype Network with TransMix for Few-shot Hyperspectral Image Classification
Henan University(河南大学);Beijing Electro-Mechanical Engineering Institute(北京机电工程研究所)
针对小样本高光谱图像分类中边界块混合多类光谱导致难分类的问题,提出APNT,以Transformer增强原型网络并用TransMix合成边界块及混合标签,取得最先进性能与更强鲁棒性。
2024-01-22 cs.AI cs.CV
Learning Class-level Prototypes for Few-shot Learning
Nanjing University(南京大学)
少样本学习旨在使用很少的标记样本识别新类别。虽然少样本学习近年来取得了很大的发展,但现有的方法大多采用平均运算来计算原型,从而受到离群样本的限制。在这项工作中,我们提出了一个简单而有效的框架,Few-Shot分类,它可以学习生成更好的原型,从几个支持数据的帮助下,情节原型生成器模块。生成的原型旨在接近某个\textit{\targetproto{}},并且受异常值样本的影响较小。大量的实验证明了该模块的有效性,我们的方法在基线模型上得到了显着的提高,并在\textit{mini} ImageNet,\textit{tiered} ImageNet和跨域(\textit{mini} ImageNet $\rightarrow$ CUB-200-2011)数据集上得到了与以前的方法相比具有竞争力的结果。
2021-08-25 cs.CV cs.LG
Adaptive Parametric Prototype Learning for Cross-Domain Few-Shot Classification
Carleton University(卡尔顿大学)
针对跨域小样本分类的域偏移问题,提出自适应参数化原型学习方法,以参数化方式学习类别原型并施加正则化,结合直推式自训练微调,在多个基准上优于现有方法。
2023-09-04 cs.CV cs.LG
Trainable Class Prototypes for Few-Shot Learning
Xi’an Jiaotong University(西安交通大学)
度量学习是少样本学习中广泛使用的一种方法,其中原型的质量在算法中起着关键作用。在本文中,我们提出了可训练的原型距离测量,而不是人工的元训练和任务训练框架内。同时为了避免情景元训练带来的弊端,本文采用了基于自监督学习的非情景元训练。总的来说,我们解决了Few-Shot任务在两个阶段:元训练可转移的特征提取器通过自监督学习和训练的原型度量分类。此外,简单的注意力机制被用于元训练和任务训练。我们的方法在标准Few-Shot视觉分类数据集上的各种既定Few-Shot任务中实现了最先进的性能,与现有的无监督少样本学习方法相比,提高了约20%。
2021-06-21 cs.AI cs.CV cs.LG
Convolutional Prototype Learning for Zero-Shot Recognition
Beijing Jiaotong University(北京交通大学);Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所)
零样本学习(Zero-shot learning,ZRL)近年来受到越来越多的关注,尤其是在细粒度对象识别、检索和图像描述等领域。该方法的关键是通过辅助类属性向量将知识从可见的类转移到不可见的类。然而,以往研究中普遍采用的投影函数由于假设了可见域和不可见域在样本水平上的分布一致性,因而不能很好地推广,而且所提供的非可视且唯一的类属性会显著降低语义空间中的识别性能.在本文中,我们提出了一个简单而有效的卷积原型学习(CPL)框架的zero-shot识别。通过假设任务级的分布一致性,我们的CPL能够平滑地传递知识以识别未见过的样本。此外,在每个任务中,通过基于距离的训练机制学习有区别的视觉原型。因此,我们可以在视觉空间而不是语义空间中进行识别。一组广泛的实验,然后精心设计和介绍,证明CPL获得更有利的有效性,目前可用的替代品在各种设置。
2020-02-11 cs.CV cs.LG
Prototype Refinement Network for Few-Shot Segmentation
AInnovation Technology Co., Ltd.(创新奇智科技有限公司)
Few-Shot分割目标是在提供很少注释图像的情况下分割新类别。它比传统的语义分割任务更具挑战性,分割具有丰富注释图像的已知类。在本文中,我们提出了一个原型细化网络(PRNet)来解决Few-Shot分割的挑战。它首先学习从已知类的支持和查询图像中双向提取原型。此外,提取新类的代表性原型,我们使用适应和融合的原型细化。自适应步骤使模型学习新的概念,这是直接通过再训练实现的。首先提出了原型融合的概念,将支持原型和查询原型融合,融合了支持原型和查询原型的知识。它在原型精化中是有效的,而无需引入额外的可学习参数。通过这种方式,原型在低数据状态下变得更具歧视性。在PASAL- $5^i$和COCO- $20^i$上的实验证明了该方法的优越性.特别是在COCO- $20^i$上,PRNet在1次激发设置下的性能明显优于现有方法13.1%。
2020-05-09 cs.CV
Transductive Few-shot Learning with Prototype-based Label Propagation by Iterative Graph Refinement
Australian National University(澳大利亚国立大学);Data61(数据61);CSIRO(联邦科学与工业研究组织)
针对直推式少样本学习中原型估计不准与核函数图构建次优的问题,提出随原型迭代更新的原型-样本关系图及原型标签传播方法,并在多个数据集上取得SOTA。
2023-04-23 cs.AI cs.CV cs.LG
Independent Prototype Propagation for Zero-Shot Compositionality
University of Twente(特文特大学);TNO(荷兰应用科学研究组织)
人类擅长组合zero-shot推理;当我们告诉某人斑马看起来像一匹有黑白条纹的马时,他以前从未见过斑马,但仍然能认出它。另一方面,机器学习系统通常利用训练数据中的虚假相关性,虽然这种相关性可以帮助识别上下文中的对象,但它们会损害泛化。为了能够处理未指定的数据集,同时在分类过程中仍然利用上下文线索,我们提出了ProtoProp,一种新的原型传播图方法。首先,我们学习对象的原型表示(例如,zebra),它们是条件独立的w.r.t.它们的属性标签(例如,条纹),反之亦然。接下来,我们通过组合图传播独立原型,以学习反映目标分布依赖关系的新属性-对象组合的组合原型。该方法不依赖于任何外部数据,如类层次结构图或预训练的词嵌入。我们评估我们的方法上AO-Clever,一个合成的和强烈的视觉数据集与干净的标签,和UT-Zappos,一个嘈杂的现实世界的数据集的细粒度的鞋类型。我们表明,在广义的成分zero-shot设置,我们优于国家的最先进的结果,并通过烧蚀,我们显示的方法的每个部分的重要性和他们的贡献的最终结果。
2021-06-12 cs.CV cs.LG
Evolving Semantic Prototype Improves Generative Zero-Shot Learning
Carnegie Mellon University(卡内基梅隆大学);Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Huazhong University of Science and Technology(华中科技大学);University of Sydney(悉尼大学);Tencent AI LAB(腾讯人工智能实验室);AI 3 Institute, Fudan University(复旦大学人工智能创新与产业研究院)
针对零样本学习中预定义语义原型与真实原型不匹配导致合成特征失真的问题,提出动态语义原型演化方法对齐二者,显著提升了现有生成式零样本学习在多个基准数据集上的性能。
2023-06-12 cs.CV cs.LG
Query-Conditioned Prototype Adaptation for Cross-Domain Few-Shot Learning: Single-Query Inference, Controlled Comparisons, and Failure Modes
University of Nottingham Malaysia(诺丁汉大学马来西亚校区)
本研究提出WIPT方法,通过单查询测试时原型自适应改善跨域少样本分类,在部分目标上提升精度,但收益非普遍,且支持流式推理。
2026-09-28 cs.CV cs.LG
Adaptive Prototype Learning and Allocation for Few-Shot Segmentation
University of Edinburgh(爱丁堡大学);Google Research(谷歌研究院);Sungkyunkwan University(成均馆大学)
原型学习广泛用于Few-Shot分割。通常,通过对全局对象信息求平均,从支持特征获得单个原型。然而,使用一个原型来表示所有的信息可能会导致歧义。在本文中,我们提出了两个新的模块,命名为超像素引导聚类(SGC)和引导原型分配(GPA),多原型提取和分配。具体来说,SGC是一种无参数、无训练的方法,通过聚合相似的特征向量来提取更具代表性的原型,而GPA则能够选择匹配的原型,提供更准确的指导。通过将SGC和GPA结合在一起,我们提出了自适应超像素引导网络(ASGNet),这是一个轻量级的模型,并适应对象的规模和形状的变化。此外,我们的网络可以很容易地推广到k-shot分割,并且有很大的改进,没有额外的计算成本。特别是,我们对COCO的评估表明,ASGNet在5次分割中超过了最先进的方法5%。
2021-05-16 cs.CV
Attention-Based Prototype Calibration for Multi-Rater Few-Shot Medical Image Segmentation
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
提出一种注意力原型校准框架,通过建模评估者特异性偏差,在不修改骨干网络的情况下实现个性化分割,有效提升多评估者少样本分割性能。
2026-06-26 cs.CV
Prototype Rectification for Few-Shot Learning
AInnovation Technology Co., Ltd.(创新奇智科技有限公司)
少样本学习需要识别具有稀缺标记数据的新类。原型网络在现有的研究中是有用的,然而,在稀疏数据的窄尺寸分布上训练通常倾向于得到有偏差的原型。在本文中,我们指出了两个关键的影响因素:类内偏见和跨类偏见。然后,我们提出了一个简单而有效的方法,在转导设置原型整流。该方法利用标签传播来减少类内偏差,利用特征移动来减少跨类偏差。我们也进行理论分析,以推导其合理性以及性能的下限。在三个Few-Shot基准上显示了有效性。值得注意的是,我们的方法在miniImageNet(1次拍摄为70.31%,5次拍摄为81.89%)和tieredImageNet(1次拍摄为78.74%,5次拍摄为86.92%)上都实现了最先进的性能。
2020-07-13 cs.CV
Prototype-based Incremental Few-Shot Semantic Segmentation
Politecnico di Torino(都灵理工大学);Italian Institute of Technology(意大利理工学院);University of Tübingen(图宾根大学);ETH Zurich(苏黎世联邦理工学院)
语义分割模型有两个基本的弱点:i)它们需要大量的训练集,具有昂贵的像素级注释,ii)它们具有静态输出空间,受限于训练集的类。为了解决这两个问题,我们引入了一个新的任务,增量Few-Shot分割(iFSS)。iFSS的目标是扩展一个预先训练的分割模型,其中包含来自少量注释图像的新类别,并且无需访问旧的训练数据。为了克服现有模型inIFS的局限性,我们提出了基于原型的增量Few-Shot分割(PIFS),耦合原型学习和知识蒸馏。PIFS利用原型来初始化新类的分类器,微调网络以改进其特征表示。我们设计了一个基于原型的蒸馏损失的分数,旧的和新的类原型,以避免过度拟合和遗忘,和批量重整,以应付非独立同分布的Few-Shot数据。我们为iFSS创建了一个广泛的基准测试,表明PIFS在所有情况下都优于几种Few-Shot和增量学习方法。
2021-10-18 cs.CV
SCOPE: Scene-Contextualized Incremental Few-Shot 3D Segmentation
University of Surrey, UK(英国萨里大学);University of Wollongong, Australia(澳大利亚沃拉彭大学);University of Copenhagen, Denmark(丹麦哥本哈根大学);University of Exeter, UK(英国埃克塞特大学);Singapore University of Technology and Design, Singapore(新加坡科技与设计大学)
SCOPE通过背景引导原型丰富框架,在3D分割中实现增量少量样本学习,提升新类别和平均IoU性能,同时减少遗忘。
2026-03-09 cs.CV cs.LG
PANet: Few-Shot Image Semantic Segmentation with Prototype Alignment
National University of Singapore(新加坡国立大学)
尽管深度CNN在图像语义分割方面取得了很大进展,但它们通常需要大量密集注释的图像进行训练,并且难以推广到看不见的对象类别。因此,已经开发了Few-Shot分割以学习仅从几个注释的示例执行分割。在本文中,我们从度量学习的角度来解决具有挑战性的Few-Shot分割问题,并提出了PANet,一种新的原型对齐网络,以更好地利用支持集的信息。我们的PANet从嵌入空间内的一些支持图像中学习特定于类的原型表示,然后通过将每个像素与学习的原型相匹配来对查询图像进行分割。通过非参数度量学习,PANet提供了高质量的原型,这些原型代表了每个语义类别,同时对不同类别具有区分性。此外,PANet还引入了支持和查询之间的原型对齐正则化。通过这种方式,PANet充分利用了来自支持的知识,并在Few-Shot分割上提供了更好的泛化。值得注意的是,我们的模型在PASCAL-5i上分别实现了48.1%和55.7%的mIoU得分,分别超过了1.8%和8.6%的最先进的方法。
2020-02-07 cs.CV
Prototype Mixture Models for Few-shot Semantic Segmentation
University of Chinese Academy of Sciences(中国科学院大学)
Few-Shot分割具有挑战性,因为支持图像和查询图像中的对象在外观和姿态上可能显著不同。使用直接从支持图像获取的单个原型来分割查询图像会导致语义模糊。在本文中,我们提出了原型混合模型(PMM),它将不同的图像区域与多个原型相关联,以执行基于原型的语义表示。通过期望最大化算法估计,PMM从有限的支持图像中整合了丰富的通道和空间语义。PMM作为表示和分类器,充分利用语义来激活查询图像中的对象,同时以双重方式抑制背景区域。在Pascal VOC和MS-COCO数据集上进行的大量实验表明,PMM在最先进的基础上有了显着的改进。特别是,PMM将MS-COCO上的5次分割性能提高了5.82%,而模型大小和推理速度的成本适中。
2020-09-01 cs.CV
A Location-Sensitive Local Prototype Network for Few-Shot Medical Image Segmentation
Shanghai Jiao Tong University(上海交通大学);VoxelCloud, Inc.(体素云公司);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
尽管深度神经网络在医学图像分割方面取得了巨大的成功,但它们通常需要大量昂贵的专家级注释数据。Few-Shot分割方法通过学习从有限数量的标记示例中转移知识来解决这个问题。在设计高性能的Few-Shot分割算法时,适当地描述先验知识是至关重要的。由于强空间先验存在于许多医学成像模式,我们提出了一种基于原型的方法-即位置敏感的本地原型网络-利用空间先验来执行Few-Shot医学图像分割。我们的方法划分成容易解决的局部区域分割与局部原型的子问题与全球原型分割整个图像的困难问题。对于内脏CT图像数据集上的器官分割实验,我们的方法在平均Dice系数上优于最先进的方法10%。广泛的消融研究证明了结合空间信息的实质性好处,并证实了我们的方法的有效性。
2021-03-18 cs.CV
IPEC: Test-Time Incremental Prototype Enhancement Classifier for Few-Shot Learning
College of Intelligent Robotics and Advanced Manufacturing, Fudan University(智能机器人与先进制造学院,复旦大学);School of Microelectronics, Fudan University(微电子学院,复旦大学);Key Laboratory of Advanced Control and Optimization for Chemical Processes of Ministry of Education, East China University of Science and Technology(教育部先进化工过程控制与优化重点实验室,东华大学)
IPEC是一种用于少样本学习的测试时增量原型增强分类器,通过动态辅助集和双过滤机制优化原型估计,提升模型在少样本场景下的性能。
2026-01-16 cs.CV cs.LG
`Eyes of a Hawk and Ears of a Fox': Part Prototype Network for Generalized Zero-Shot Learning
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Lab(劳伦斯利弗莫尔国家实验室)
针对现有广义零样本学习方法仅用全局属性向量的局限,提出基于VINVL检测器的部件原型网络,通过区域属性注意力构建类别部件原型,在主流基准上表现更优。
2024-04-12 cs.CV cs.LG
Few-Shot Segmentation via Rich Prototype Generation and Recurrent Prediction Enhancement
Dalian University of Technology(大连理工大学)
原型学习和解码器构造是Few-Shot分割的关键。然而,现有的方法只使用单一的原型生成模式,这不能处理的棘手问题,对象的各种规模。此外,以前的方法所采用的单向前向传播可能会导致信息稀释注册的功能在解码过程中。在这项研究中,我们提出了一个丰富的原型生成模块(RPGM)和一个经常性的预测增强模块(RPEM),以加强原型学习范式和建立一个统一的内存增强解码器的Few-Shot分割,分别。具体而言,RPGM结合超像素和K均值聚类,以生成具有互补尺度关系的丰富原型特征,并适应支持图像和查询图像之间的尺度差距。RPEM利用递归机制设计了一个双向传播解码器。以这种方式,注册的特征可以连续地提供对象感知信息。实验结果表明,该方法在PASCAL- ${{5}^{i}}$和COCO- ${{20}^{i}}$两个常用的基准测试中的性能始终优于其他竞争者.
2022-10-03 cs.CV
Purification and Regulation: Comorbidity-Aware Multi-Label Few-Shot Learning for Medical Image Classification
National Yang Ming Chiao Tung University(阳明交通大学);National Tsing Hua University(国立清华大学)
针对医学图像多标签少样本学习中原型污染与忽视疾病相关性的问题,提出原型净化与调控(PPR)框架,利用共病评分净化原型并调控类间距离,在四个胸部X射线基准上持续超越现有方法。
2026-09-21 cs.CV cs.LG
Part-aware Prototype Network for Few-shot Semantic Segmentation
Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences(中国科学院上海微系统与信息技术研究所);University of Chinese Academy of Sciences(中国科学院大学);ShanghaiTech University(上海科技大学)
Few-Shot语义分割旨在学习仅用少量带注释的示例来分割新对象类,具有广泛的现实应用。现有的大多数方法要么集中在单向Few-Shot分割的限制性设置上,要么遭受对象区域的不完全覆盖。在本文中,我们提出了一种新的Few-Shot语义分割框架的基础上的原型表示。我们的主要思想是将整体类表示分解为一组部分感知的原型,能够捕获不同的和细粒度的对象功能。此外,我们建议利用未标记的数据来丰富我们的部分感知原型,从而更好地建模语义对象的类内变化。我们开发了一种新的图神经网络模型来生成和增强基于标记和未标记图像的零件感知原型。在两个基准上进行的广泛的实验评估表明,我们的方法优于现有技术,具有相当大的利润率。
2022-12-02 cs.CV
DPL: Spatial-Conditioned Diffusion Prototype Enhancement for One-Shot Medical Segmentation
University College London(伦敦大学学院)
DPL通过扩散增强和空间感知条件机制,提升单次医疗图像分割的原型表示能力,实现更鲁棒的泛化性能。
2025-10-14 cs.CV
Few-shot Classification with Hypersphere Modeling of Prototypes
Tsinghua University(清华大学);Alibaba Group(阿里巴巴集团)
基于度量的元学习是少样本学习的事实标准之一。它由表示学习和度量计算设计组成。以前的作品以不同的方式构建类表示,从平均输出嵌入到协方差和分布。然而,在空间中使用嵌入缺乏表现力,不能鲁棒地捕获类信息,而统计复杂建模给度量设计带来困难。在这项工作中,我们使用张量场("区域“)从几何角度为少样本学习建模类。我们提出了一个简单而有效的方法,被称为超球体原型(HyperProto),类信息是由超球体的动态大小与两组可学习的参数:超球体的中心和半径。从点扩展到区域,超球体比嵌入更具表现力。此外,使用超球体原型执行基于度量的分类比统计建模更方便,因为我们只需要计算从数据点到超球体表面的距离。根据这一想法,我们还开发了其他测量下的两种变体原型。对NLP和CV上的少样本学习任务进行了广泛的实验和分析,并与20多个竞争基线进行了比较,证明了我们方法的有效性。
2022-11-10 cs.CL cs.CV cs.LG
Webly Supervised Semantic Embeddings for Large Scale Zero-Shot Learning
CEA LIST(法国原子能和替代能源委员会 LIST 研究所);CEDRIC – CNAM(法国国立工艺学院 CEDRIC 实验室)
零样本学习(Zero-shot learning,简称ZRL)使图像中的目标识别成为可能,而不需要来自数据集的部分类的视觉训练数据。当类的数量很大时,类通常由从未注释的文本集合中自动学习的语义类原型表示。这通常会导致性能比手动设计的语义原型(如属性)低得多。虽然大多数的语义类原型的工作集中在视觉方面和重用标准的语义原型从通用文本集合,我们专注于大规模的语义类原型设计的问题。更具体地说,我们研究了使用嘈杂的文本元数据与照片作为文本集合,因为我们假设他们可能会提供更合理的语义嵌入视觉类,如果利用得当。因此,我们利用基于源的投票策略,以提高语义原型的鲁棒性。对大规模ImageNet数据集的评估显示,在两个强大的基线上,以及在以前的作品中使用的通常的语义嵌入上,JML的性能有了显着的改善。我们证明了这种改进是针对几种嵌入方法获得的,当使用自动创建的视觉和文本特征时,可以获得最先进的结果。
2020-08-06 cs.CV cs.LG
Bidirectional Feature Globalization for Few-shot Semantic Segmentation of 3D Point Cloud Scenes
University of Chinese Academy of Sciences(中国科学院大学);Wuhan University(武汉大学)
点云的Few-Shot分割一直是一个具有挑战性的任务,因为没有有效的方法将点云的局部信息转换为全局表示,这阻碍了点特征的泛化能力。在这项研究中,我们提出了一个双向的功能全球化(BFG)的方法,它利用点特征和原型向量之间的相似性度量嵌入全球感知到本地点特征的双向方式。通过点到原型全球化(Po2PrG),BFG根据从密集点特征到稀疏原型的相似性权重将局部点特征聚合到原型。通过原型到点全球化(Pr2PoG),基于从稀疏原型到密集点特征的相似性权重将全局感知嵌入到局部点特征。基于度量学习框架,将嵌入全局感知的每类稀疏原型归纳为单个原型,用于Few-Shot 3D分割。在S3DIS和ScanNet上的大量实验表明,BFG的性能明显优于最先进的方法。
2022-11-02 cs.CV
Hierarchical Prototype Learning for Zero-Shot Recognition
Beijing Jiaotong University(北京交通大学);University of Rochester(罗切斯特大学)
零样本学习(Zero-Shot Learning,简称ZRL)近年来在细粒度目标识别、检索和图像描述等领域得到了广泛的关注和成功。语义学习的关键是通过辅助语义原型(例如,字或属性向量)。然而,由于语义原型中包含了非视觉成分,在以前的作品中普遍学习的投影函数不能很好地推广。此外,所提供的原型和捕获的图像的不完整性已较少被考虑的国家的最先进的方法在CNOL。在本文中,我们提出了一个分层的原型学习公式提供了一个系统的解决方案(命名为HPL)的zero-shot识别。具体而言,HPL能够通过在转导设置下分别学习视觉原型来获得可见和不可见类域的可区分性。为了缩小两个领域的差距,我们进一步学习视觉和语义空间中的可解释超原型。同时,这两个空间通过最大化它们的结构一致性而进一步桥接。这不仅有利于视觉原型的代表性,也减少了语义原型信息的丢失。一组广泛的实验,然后精心设计和介绍,表明HPL获得显着更有利的效率和有效性,目前可用的替代品在各种设置。
2019-12-10 cs.CV
Compound Prototype Matching for Few-shot Action Recognition
Institute of Industrial Science, the University of Tokyo(东京大学生产技术研究所)
本文提出一种少样本动作识别方法,通过构建全局与聚焦原型组成的复合原型,并采用直接匹配与二分匹配比较视频相似性,在多个基准上取得最优结果。
2023-10-14 cs.CV
Correlation Weighted Prototype-based Self-Supervised One-Shot Segmentation of Medical Images
Indian Statistical Institute(印度统计研究所);Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校)
针对医学图像标注数据不足及现有原型框架原型对齐方差大的问题,提出相关加权动态原型与象限掩码的自监督单样本分割框架,在腹部CT/MR数据集上性能达当前最优水平。
2024-08-12 cs.CV
Universal Prototype Transport for Zero-Shot Action Recognition and Localization
Universiteit van Amsterdam(阿姆斯特丹大学)
本文提出通用原型传输方法,通过超球面最优传输重新定位未见动作的语义原型,解决了零样本动作识别中因映射偏差导致未见类别无法被推断的问题,提升了零样本分类和时空定位性能。
2023-08-01 cs.CV
A Low-Shot Object Counting Network With Iterative Prototype Adaptation
Faculty of Computer and Information Science, University of Ljubljana(卢布尔雅那大学计算机与信息科学学院)
本文提出 LOCA 低样本计数网络,通过迭代融合样本形状、外观与图像特征的原型适应模块,提升少样本、单样本及零样本目标计数精度与泛化性。
2023-09-28 cs.CV
DGP-Net: Dense Graph Prototype Network for Few-Shot SAR Target Recognition
合成孔径雷达(SAR)图像由于其特殊的成像原理(俯角变化),不可避免地会产生特征偏差,导致识别精度不高,特别是在少样本学习(FSL)中。针对这一问题,提出了一种稠密图原型网络(DGP-Net),通过学习潜在特征来消除特征偏差,并通过学习特征分布来进行分类。原型在模型中的作用是解决FSL中由于单次抽样的偶然性而导致的同类样本之间距离过大的问题,增强模型的鲁棒性。在MSTAR数据集上的实验结果表明,DGP-Net对不同俯角的SAR图像都有较好的分类效果,其识别精度高于典型的FSL方法。
2023-02-19 cs.CV
Prior-Enhanced Few-Shot Segmentation with Meta-Prototypes
Zhejiang University(浙江大学);University of Technology Sydney(悉尼科技大学)
Few-Shot分割(FSS)的性能通过引入片段训练和类原型得到了广泛的提升。然而,由于三个限制,FSS问题仍然具有挑战性:(1)模型被任务无关的信息分散注意力;(2)单个原型的表示能力有限;(3)类相关的原型忽略了基类的先验知识。我们提出了具有元原型的先验增强网络来解决这些限制。先验增强的网络在特征提取中利用了支持和查询(伪)标签,引导模型关注前景对象的任务相关特征,并抑制了由于缺乏监督知识而产生的大量噪声。此外,我们引入了多个元原型来编码层次特征和学习类不可知的结构信息。层次特征有助于模型突出决策边界并关注硬像素,并且从基类学习的结构信息被视为新类的先验知识。实验结果表明,该方法在$5^i$和COCO- $20^i$上的平均IoU得分分别为60.79%和41.16%,在5次测试中分别比现有方法高出3.49%和5.64%.此外,与1次拍摄结果相比,我们的方法在上述两个基准测试中将5次拍摄准确率提高了3.73%和10.32%。我们的方法的源代码可以在https://github.com/Jarvis73/PEMP上获得。
2021-06-01 cs.CV
Dynamic Prototype Adaptation with Distillation for Few-shot Point Cloud Segmentation
University of Amsterdam(阿姆斯特丹大学);Carnegie Mellon University(卡内基梅隆大学);The Netherlands Cancer Institute(荷兰癌症研究所)
针对少样本点云分割中支持原型与查询特征存在物体差异的问题,提出带原型蒸馏的动态原型自适应方法,通过原型校正、注意力机制和迭代蒸馏生成任务特定原型,在两个基准上显著超越SOTA。
2024-01-29 cs.CV
APANet: Adaptive Prototypes Alignment Network for Few-Shot Semantic Segmentation
Tsinghua University(清华大学);Tencent YouTu Lab(腾讯优图实验室);University College London(伦敦大学学院)
Few-Shot语义分割的目标是在给定的查询图像中分割新类别的对象,只有少数标记的支持图像。大多数高级解决方案都利用了一个度量学习框架,该框架通过将每个查询特征与学习到的特定于类的原型相匹配来执行分割。然而,这个框架遭受偏见的分类,由于不完整的功能比较。为了解决这个问题,我们提出了一个自适应的原型表示,通过引入类特定的和类不可知的原型,从而构建完整的样本对学习语义对齐查询功能。互补特征学习方式有效地丰富了特征比较,并有助于在Few-Shot设置中产生无偏分割模型。它是用双分支端到端网络(即,类特定分支和类不可知分支),其生成原型,然后组合查询特征以执行比较。此外,所提出的类不可知分支是简单而有效的。在实践中,它可以自适应地为查询图像生成多个类不可知的原型,并以自对比的方式学习特征对齐。在PASCAL-5 $^i$和COCO-20 $^i$上的实验证明了该方法的优越性。在不牺牲推理效率的情况下,我们的模型在语义分割的1次和5次设置中都实现了最先进的结果。
2023-01-17 cs.CV
Kernel Relative-prototype Spectral Filtering for Few-shot Learning
Chengdu Techman Software Co., Ltd.(成都泰盟软件有限公司);Sichuan University(四川大学)
少样本学习在稀缺样本上执行分类任务和回归任务。原型网络作为最具代表性的少样本学习模型之一,将每个类表示为样本平均值或原型,并通过欧氏距离度量样本与原型的相似性。在本文中,我们提出了一个谱过滤(收缩)框架,用于测量再生核Hilbert空间(RKHS)中查询样本与原型(即相对原型)之间的差异。在此框架下,我们进一步提出了一种方法,利用Tikhonov正则化作为过滤功能的Few-Shot分类。我们进行了几个实验来验证我们的方法,基于miniImageNet数据集,分层ImageNet数据集和CIFAR-FS数据集使用不同的内核。实验结果表明,该模型能够达到最佳的性能,同时,实验结果表明,该收缩方法能够有效地提高模型的性能。源代码可在https://github.com/zhangtao2022/DSFN上获得。
2022-07-24 cs.AI cs.CV
Few-Shot Class-Incremental Learning via Training-Free Prototype Calibration
State Key Laboratory for Novel Software Technology(新型软件技术国家重点实验室);Nanjing University(南京大学)
针对小样本类别增量学习中新类易被误判为基类的问题,本文提出免训练原型校准策略TEEN,通过融合加权基类原型增强新类判别力,并在多个基准上取得一致提升。
2023-12-08 cs.CV cs.LG
Zero-Shot Learning with Generative Latent Prototype Model
Zhejiang University(浙江大学)
零样本学习研究的是没有训练样本的类别的对象分类问题,正受到越来越多的关注。大多数现有的语义学习方法通过中间语义嵌入空间利用确定性迁移学习。在本文中,我们试图从生成概率建模的角度来解决这个问题。我们假设对于任何类别,观察到的表示,例如图像或文本,是从潜在空间中的唯一原型开发的,其中原型之间的语义关系通过线性重构进行编码。利用这一假设,可以从相应的原型中生成不可见类的虚拟实例,从而提出了一种新的可重构学习模型,该模型可以缓解直接迁移学习存在的领域迁移问题.在三个基准数据集上的大量实验表明,我们提出的模型可以达到最先进的结果。
2017-05-26 cs.CV
Learning Class Prototypes via Structure Alignment for Zero-Shot Recognition
ShanghaiTech University(上海科技大学);University of Chinese Academy of Sciences(中国科学院大学)
零样本学习(Zero-shot learning,简称ZRL)是一种利用语义信息和辅助数据集,在没有特定类别训练样本的情况下识别新类别对象的方法。最近,大多数的语义学习方法集中在学习视觉语义嵌入,以将知识从辅助数据集转移到新的类。然而,很少有人研究语义信息是否对识别任务具有区分性。为了解决这个问题,我们提出了一个耦合的字典学习方法来对齐的视觉语义结构使用类原型,其中的歧视性信息躺在视觉空间被用来改善歧视性较低的语义空间。然后,zero-shot识别可以在不同的空间中进行简单的最近邻方法使用学习的类原型。在四个基准数据集上的实验表明了该方法的有效性。
2018-07-24 cs.CV
DAUPNet: Domain-Aware Uncertainty Modeling for Reliable Prototype Discrimination in Cross-Domain Few-Shot Semantic Segmentation
Huazhong University of Science and Technology(华中科技大学)
针对跨域少样本语义分割中因域偏移致原型匹配不可靠的问题,提出DAUPNet框架,通过协调特征、概率表示原型及用不确定性调节优化,在四个标准目标域取得较好平均mIoU,为跨域少样本语义分割提供了可靠方法。
2026-11-02 cs.AI cs.CV
Episode-based Prototype Generating Network for Zero-Shot Learning
Zhejiang University(浙江大学);Tianjin University(天津大学);University of Warwick(华威大学);Binghamton University(宾汉姆顿大学)
我们介绍了一个简单而有效的基于情节的零样本学习(ZML)的训练框架,其中学习系统需要识别看不见的类,只给出相应的类语义。在训练过程中,模型在一组情节中进行训练,每个情节都被设计为模拟一个zero-shot分类任务。通过训练多个片段,该模型逐步积累预测模仿的未见过类的集成经验,这将很好地推广到真实的未见过类。基于这个训练框架,我们提出了一个新的生成模型,综合类语义原型的条件下的视觉原型。该模型通过将视觉原型生成和类语义推理制定为一个对抗性框架,并结合参数经济多模态交叉熵损失来捕获判别信息,从而使视觉语义交互保持一致。在四个数据集上进行的大量实验表明,我们的模型比最先进的方法有很大的优势。
2020-04-02 cs.CV
Dual Progressive Prototype Network for Generalized Zero-Shot Learning
Tencent Data Platform(腾讯数据平台);University of Science and Technology of China(中国科学技术大学)
广义零样本学习(Generalized Zero-Shot Learning,GSHL)旨在利用辅助语义信息识别新类别,例如,类别属性。在本文中,我们处理域转移问题的关键问题,即,通过逐步提高视觉表征的跨域可转移性和类别可辨别性,可以消除可见和不可见类别之间的混淆。我们的方法,命名为双渐进原型网络(DPPN),构造两种类型的原型,记录原型的属性和类别的视觉模式,分别。DPPN利用属性原型交替搜索属性相关的局部区域并更新相应的属性原型,以逐步探索准确的属性-区域对应关系。这使得DPPN能够产生具有准确属性定位能力的视觉表示,这有利于语义视觉对齐和表示可移植性。此外,随着渐进属性本地化,DPPN进一步项目类别原型到多个空间,逐步排斥来自不同类别的视觉表示,这提高了类别的可区分性。属性和类别原型在一个统一的框架中协同学习,这使得DPPN的视觉表示可转移和独特。在四个基准测试上的实验证明,DPPN有效地缓解了GZSL中的域迁移问题。
2021-11-22 cs.CV
Contrastive Enhancement Using Latent Prototype for Few-Shot Segmentation
Few-Shot分割使模型能够用很少的注释示例识别看不见的类。现有的方法大多采用原型学习架构,支持原型向量扩展并与查询特征连接以执行条件分割。然而,这样的框架潜在地更关注查询特征,而可能忽略支持和查询特征之间的相似性。本文提出了一种基于潜在原型的对比增强方法,以充分利用潜在类,提高原型与查询特征之间相似性信息的利用率。具体地说,提出了一个潜在原型采样模块,以生成伪掩码和基于特征相似性的新原型。该模块方便地进行端到端学习,并且不像基于聚类的方法那样对聚类数有很强的依赖性。此外,开发了一个对比增强模块,以驱动模型提供不同的预测相同的查询功能。我们的方法可以作为一个辅助模块,灵活地集成到其他基线,以获得更好的分割性能。大量的实验表明,我们的方法显着提高了最先进的方法的性能为1杆和5杆分割,特别是超过基线的5.9%和7.3%的Pascal-5^i和COCO-20^i上的5杆任务。源代码可在https://github.com/zhaoxiaoyu1995/CELP-Pytorch上获得
2022-03-08 cs.AI cs.CV
Self-Regularized Prototypical Network for Few-Shot Semantic Segmentation
Nanyang Technological University(南洋理工大学)
图像语义分割中的深度CNN通常需要大量密集注释的图像进行训练,并且难以推广到不可见的对象类别。因此,已经开发了Few-Shot分割以仅用几个注释的示例来执行分割。在这项工作中,我们解决了Few-Shot分割使用自正则化原型网络(SRPNet)的基础上,原型提取更好地利用支持信息。SRPNet从支持图像中提取特定于类的原型表示,并通过距离度量-保真度为查询图像生成分割掩码。SRPNet提出了一种直接有效的支持集上的原型正则化方法,在该方法中,生成的原型在支持集本身上进行评估和正则化。生成的原型恢复支持掩码的程度对性能施加了上限。无论从支持集到查询集的知识推广得多么完整,查询集的性能都不应该超过上限。通过特定的原型正则化,SRPNet充分利用了支持中的知识,并提供了高质量的原型,这些原型代表了每个语义类,同时对不同的类具有区分性。通过结合一组正则化原型的迭代查询推理(IQI)模块,进一步提高了查询性能。我们提出的SRPNet在1镜头和5镜头分割基准上实现了新的最先进的性能。
2022-10-30 cs.CV
MetaNODE: Prototype Optimization as a Neural ODE for Few-Shot Learning
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳))
少样本学习(FSL)是一个具有挑战性的课题,\emph{i.e.},如何在样本较少的情况下识别新的类?基于预训练的方法有效地解决了这个问题,通过预训练特征提取器,然后通过基于均值的余弦最近邻分类器预测新的类。然而,由于数据的稀缺性,基于平均值的原型通常是有偏见的。在本文中,我们试图减少原型偏差,把它作为一个原型优化问题。为此,我们提出了一种新的基于元学习的原型优化框架,纠正原型,\emph{i.e.},引入一个元优化器来优化原型。尽管现有的元优化器也可以适应我们的框架,但它们都忽略了一个关键的梯度偏差问题,\emph{i.e.},基于均值的梯度估计也偏向于稀疏数据。为了解决这个问题,我们将梯度及其流动视为元知识,然后提出一种新型的基于神经常微分方程(ODE)的元优化器来抛光原型,称为MetaNODE。在这个元优化器中,我们首先将基于均值的原型视为初始原型,然后将原型优化过程建模为由神经ODE指定的连续时间动态。梯度流推理网络的精心设计,学习估计原型动力学的连续梯度流。最后通过求解神经常微分方程得到最优原型。在miniImagenet、tieredImagenet和CUB-200-2011上的实验表明了该方法的有效性。
2021-12-06 cs.CV
Query-aware Hub Prototype Learning for Few-Shot 3D Point Cloud Semantic Segmentation
本文提出面向查询的枢纽原型学习方法,通过建模支持集与查询集的语义相关性,提升少样本3D点云语义分割的性能。
2025-12-09 cs.CV
Self-Promoted Prototype Refinement for Few-Shot Class-Incremental Learning
University of Science and Technology of China(中国科学技术大学);Huawei Technologies Co. Ltd.(华为技术有限公司)
Few-Shot类增量学习是指在给定少量样本的情况下识别新类,同时不忘记旧类。这是一个具有挑战性的任务,因为表示优化和原型重组只能在很少的监督下实现。为了解决这个问题,我们提出了一种新的增量式原型学习方案。我们的计划包括一个随机的情节选择策略,适应各种生成的增量情节的特征表示,以提高相应的可扩展性,和一个自我提升的原型细化机制,通过显式地考虑不同类之间的依赖关系,加强新类的表达能力。特别地,提出了一种动态关系投影模块,用于计算共享嵌入空间中的关系矩阵,并将其作为引导原型更新的因素。在三个基准数据集上进行的大量实验证明了上述增量性能,分别比最先进的方法高出13%,17%和11%。
2021-07-19 cs.CV
Project and Mix: Task-Semantic Prototypes for Few-Shot Image Classification
Department of Computer Science, Universitat Autònoma de Barcelona, Spain(巴塞罗那自治大学计算机科学系);Computer Vision Center, Barcelona, Spain(巴塞罗那计算机视觉中心);Media Integration and Communication Center, University of Florence, Italy(佛罗伦萨大学媒体整合与传播中心);Bernoulli Institute, University of Groningen, the Netherlands(格罗宁根大学伯努利学院);IDEAS Research Institute, Poland(波兰IDEAS研究所);ESAT-PSI, KU Leuven, Belgium(比利时KU莱顿大学ESAT-PSI)
本文研究了直接混合图像与文本原型对少样本分类的影响,提出通过投影获取语义对齐的图像子空间,结合文本嵌入和图像特定LDA分类器提升性能。
2026-10-01 cs.CV