Semi-Supervised and Active Few-Shot Learning with Prototypical Networks
The Curious AI Company（好奇人工智能公司）
我们考虑半监督的Few-Shot分类问题，其中分类器需要使用几个标记的示例和（可能是许多）未标记的示例来适应新的任务。我们提出了一个聚类的方法来解决这个问题。使用原型网络提取的特征使用$K$ -均值进行聚类，并使用少数标记示例指导聚类过程。我们注意到，在许多实际应用中，通过用户反馈请求少量标签，可以显著提高自适应性能。我们展示了良好的性能，使用图像数据的主动适应策略。
2018-04-25 cs.LG stat.ML
Semi-Supervised Few-Shot Learning with Prototypical Random Walks
Technical University of Munich（慕尼黑工业大学）；Helmholtz AI, Helmholtz Center Munich（亥姆霍兹人工智能，亥姆霍兹慕尼黑中心）；King Abdullah University of Science and Technology (KAUST)（阿卜杜拉国王科技大学）
最近的进展表明，少样本学习可以通过访问未标记的数据来改进，称为半监督少样本学习（SS-FSL）。我们介绍了一种SS-FSL方法，称为原型随机游走网络（PRWN），建立在原型网络（PN）之上。我们开发了一种随机游走半监督损失，使网络能够学习紧凑且分离良好的表示。我们的工作与最近发展的基于图的方法用于少样本学习有关。然而，我们表明，紧凑和良好分离的类表示可以通过建模我们的原型随机游走的概念，而不需要额外的图NN参数或需要一个transductive设置，其中提供了一个集体测试集。我们的模型在大多数基准测试中优于基线，在某些情况下有显着改进。我们的模型用40个$\%$标记的数据进行训练，与完全监督的原型网络进行竞争，在100个$\%$标签上进行训练，甚至在1次拍摄的迷你Imagenet案例中表现出色，准确率为50.89 $\%$至49.4 $\%$。我们还表明，我们的损失是抵抗干扰，未标记的数据，不属于任何训练类，因此反映了标记/未标记的类分布不匹配的鲁棒性。相关的GitHub页面可以在https://prototypical-random-walk.github.io上找到。
2021-02-09 cs.LG stat.ML
Robust Prototypical Networks for Few-Shot Sensor Fault Diagnosis
Simula UiB；NTNU（挪威科技大学）；SINTEF Energy Research（SINTEF能源研究所）
针对少样本传感器故障诊断中原型不稳定问题，提出多情节原型网络（MEPN），聚合多个支持情节原型均值，在DeFACTO数据集上显著提升单样本准确率。
2026-09-14 cs.AI cs.LG
Adaptive Prototypical Networks
Indian Institute of Information Technology（印度信息技术学院）
用于少样本学习的原型网络尝试在编码器中学习嵌入函数，该嵌入函数在嵌入空间中嵌入具有彼此接近的相似特征的图像。然而，在这个过程中，一个任务的支持集样本是相互独立地嵌入的，因此，类间的接近度没有被考虑在内。因此，在任务中存在外观相似的类的情况下，嵌入将倾向于在嵌入空间中彼此接近，甚至可能在某些区域中重叠，这对于分类是不期望的。在本文中，我们提出了一种方法，直观地推动嵌入的每个类远离其他的元测试阶段，从而将它们紧密分组的基础上不同的类标签，而不仅仅是空间特征的相似性。这是通过使用新任务的支持集样本和标签训练编码器网络进行分类来实现的。在基准数据集上进行的大量实验表明，与原型网络和其他标准的少样本学习模型相比，元测试精度有所提高。
2022-11-22 cs.CV cs.LG
LFD-ProtoNet: Prototypical Network Based on Local Fisher Discriminant Analysis for Few-shot Learning
The University of Tokyo（东京大学）；Riken AIP（理化学研究所先进智能项目中心）
原型网络（ProtoNet）是一个少样本学习框架，它使用每个类的原型表示的距离来执行度量学习和分类。它具有实现简单、可扩展性强、实验效果好等优点，近年来引起了人们的广泛关注。然而，它只考虑支持向量的均值作为原型，因此当支持集具有高方差时，它的性能很差。在本文中，我们提出了结合ProtoNet与局部Fisher判别分析，以减少局部类内协方差和增加局部类间协方差的支持集。我们通过理论上提供预期的风险范围并在miniImageNet和tieredImageNet上实证证明其优越的分类准确性来证明所提出的方法的有用性。
2020-09-25 cs.LG stat.ML
A Closer Look at Prototype Classifier for Few-shot Image Classification
The University of Tokyo（东京大学）
原型网络是一种基于元学习的原型分类器，广泛用于少样本学习，因为它通过构建特定于类的原型来分类未见过的样本，而无需在元测试期间调整超参数。有趣的是，最近的研究吸引了很多关注，表明训练一个新的线性分类器，它不使用Meta学习算法，执行与原型网络的并行处理。然而，一个新的线性分类器的训练需要重新训练的分类器每次一个新的类出现。在本文中，我们分析了原型分类器如何在不训练新的线性分类器或元学习的情况下同样有效。我们的实验发现，直接使用的特征向量，这是提取使用标准的预训练模型，以构建一个原型分类器在元测试中，不执行以及原型网络和训练新的线性分类器的预训练模型的特征向量。因此，我们推导出一个新的泛化界的原型分类器，并表明，变换的特征向量可以提高原型分类器的性能。我们通过实验研究了几种用于最小化导出边界的归一化方法，发现通过使用L2归一化和最小化类内方差与类间方差的比率可以获得相同的性能，而无需训练新的分类器或元学习。
2022-09-15 cs.CV cs.LG
ProtoTopic: Prototypical Network for Few-Shot Medical Topic Modeling
Engineering Science, University of Toronto（多伦多大学工程科学系）；Neurosciences and Mental Health Research Program, The Hospital for Sick Children（多伦多儿童医院神经科学与心理健康研究计划）；Department of Mechanical and Industrial Engineering, University of Toronto（多伦多大学机械与工业工程系）；Vector Institute for Artificial Intelligence, Toronto（多伦多人工智能研究所）；Department of Computer Science, University of Toronto（多伦多大学计算机科学系）；Department of Diagnostic and Interventional Radiology, The Hospital for Sick Children（多伦多儿童医院诊断与介入放射学系）
本文提出ProtoTopic，一种基于原型网络的少样本医学主题建模方法，通过距离计算提升主题连贯性与多样性，在有限数据下有效生成医学相关主题。
2025-10-15 cs.LG
Infinite Mixture Prototypes for Few-Shot Learning
MIT（麻省理工学院）；UC Berkeley（加州大学伯克利分校）
我们提出了无限混合原型，以适应性地表示简单和复杂的数据分布少样本学习。我们的无限混合原型通过一组集群表示每个类，这与现有的通过单个集群表示每个类的原型方法不同。通过推断簇的数量，无限混合原型在最近邻和原型表示之间插值，这提高了Few-Shot机制中的准确性和鲁棒性。我们展示了自适应能力对于捕获复杂数据分布（如字母表）的重要性，与原型网络相比，绝对准确率提高了25%，同时仍然保持或提高了标准Omniglot和mini-ImageNet基准的准确性。在通过相同的聚类规则对标记和未标记数据进行聚类时，无限混合原型实现了最先进的半监督精度。作为进一步的能力，我们表明，无限的混合物原型可以执行纯粹的无监督聚类，与现有的原型方法。
2019-02-12 cs.LG stat.ML
Meta-Learning with Dynamic-Memory-Based Prototypical Network for Few-Shot Event Detection
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
事件检测（ED）是事件提取的一个子任务，涉及识别触发器和对事件提及进行分类。现有的方法主要依赖于监督学习，需要大规模的标记事件数据集，不幸的是，这些数据集在许多现实生活中的应用中并不容易获得。在本文中，我们考虑并重新制定了有限的标记数据的ED任务作为一个少样本学习问题。我们提出了一个基于动态记忆的原型网络（DMB-PN），它利用动态记忆网络（DMN），不仅学习更好的事件类型的原型，而且还产生更强大的句子编码的事件提及。不同于香草原型网络简单地计算事件原型平均，只消耗事件提到一次，我们的模型是更强大的，能够提取上下文信息，从事件提到多次由于DMN的多跳机制。实验结果表明，DMB-PN不仅能更好地处理样本稀缺问题，而且在事件类型多样性较大、实例数量较少的情况下具有更强的鲁棒性。
2019-11-13 cs.AI cs.CL cs.IR
Graph Prototypical Networks for Few-shot Learning on Attributed Networks
Arizona State University（亚利桑那州立大学）；Texas A&M University（得克萨斯农工大学）；University of Virginia（弗吉尼亚大学）；Illinois Institute of Technology（伊利诺伊理工学院）；Singapore Management University（新加坡管理大学）
如今，属性网络在无数高影响力的应用中无处不在，例如社会网络分析、金融欺诈检测和药物发现。节点分类作为属性网络的一项核心分析任务，受到了研究界的广泛关注。在真实世界的属性网络中，大部分节点类只包含有限的标记实例，呈现长尾节点类分布。现有的节点分类算法不具备处理\textit{few-shot}节点类的能力。作为一种补救措施，少样本学习在研究界引起了极大的关注。然而，Few-Shot节点分类仍然是一个具有挑战性的问题，因为我们需要解决以下问题：（i）如何从属性网络中提取元知识用于Few-Shot节点分类？(ii)如何识别每个标记实例的信息量，以建立一个强大而有效的模型？为了回答这些问题，本文提出了一个图元学习框架--图原型网络（GPN）。通过构建一个半监督节点分类任务池来模拟真实的测试环境，GPN能够在属性网络上执行\textit{meta-learning}，并导出一个高度概括的模型来处理目标分类任务。大量的实验证明了GPN在Few-Shot节点分类中的优越性能。
2020-11-27 cs.LG cs.SI stat.ML
Semi Supervised Learning For Few-shot Audio Classification By Episodic Triplet Mining
TCS Research（塔塔咨询服务公司研究院）
少样本学习的目标是推广在测试期间出现但在训练期间不可用的不可见类。原型网络结合了Few-Shot度量学习，通过以类内嵌入的支持点的平均向量的形式构建类原型。原型网络在极端的Few-Shot场景（如one-shot）中的性能急剧下降，主要是由于在构建原型时簇内的变化被浪费。在本文中，我们建议取代典型的原型损失函数的情节三重挖掘（ETM）技术。传统的三元组选择导致过拟合，因为在训练期间使用了所有可能的组合。我们将情节训练用于挖掘半硬正和半硬负三元组以克服过拟合。我们还提出了一种自适应方法，利用未标记的训练样本进行更好的建模。实验两个不同的音频处理任务，即说话人识别和音频事件检测，显示改进的性能，因此ETM的功效超过原型损失函数和其他元学习框架。此外，当使用未标记的训练样本时，我们表现出更好的性能。
2021-02-16 cs.LG cs.SD eess.AS
Prototypical Verbalizer for Prompt-based Few-shot Tuning
Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）；Alibaba Group（阿里巴巴集团）；Beijing Academy of Artificial Intelligence（北京智源人工智能研究院）
预训练语言模型（PLM）的基于自适应的调优已经在少样本学习中显示出其有效性。通常，基于完形填空的优化将输入文本包装成一个完形填空题。为了进行预测，该模型通过一个动词化器将输出单词映射到标签，该动词化器可以是手动设计的，也可以是自动构建的。然而，手动动词在很大程度上依赖于特定领域的先验知识和人类的努力，而找到合适的标签词自动仍然是challenging.In这项工作中，我们提出了原型动词（ProtoVerb），这是直接从训练数据。具体来说，ProtoVerb通过对比学习学习原型向量作为动词。通过这种方式，原型总结了训练实例，并能够包含丰富的类级语义。我们在主题分类和实体分类任务上进行了实验，结果表明ProtoVerb的性能明显优于当前的自动语言描述器，特别是当训练数据非常稀缺时。更令人惊讶的是，即使在未调优的PLM上，ProtoVerb也能始终如一地增强基于自适应的调优，这表明了一种利用PLM的优雅的非调优方式。我们的代码可在https://github.com/thunlp/OpenPrompt获得。
2022-03-18 cs.CL cs.LG
Few-Shot Emotion Recognition in Conversation with Sequential Prototypical Networks
LTCI, Télécom-Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信学院LTCI实验室）；Direction Innovation & Recherche SNCF（法国国家铁路公司创新与研究部）
最近几项关于人与人之间的二元互动的研究都是在没有特定商业目标的对话中进行的。然而，许多公司可能会受益于专门针对更精确环境的研究，如售后服务或客户满意度调查。在这项工作中，我们将自己置于实时聊天客户服务的范围内，我们希望在对话流中检测情绪及其演变。这种背景导致了多种挑战，从利用有限的，小的和大多数未标记的数据集，以寻找和适应这种情况下的方法。我们通过使用少样本学习来解决这些挑战，同时假设它可以为不同语言和稀疏标签的会话情感分类服务。我们通过提出一种原型网络的变体来进行序列标记，我们将其命名为ProtoSeq。我们在两个不同语言的数据集上测试了这种方法：英语日常对话和法语客户服务聊天对话。当应用于会话中的情感分类时，即使与其他方法相比，我们的方法也具有竞争力。
2021-09-20 cs.CL cs.LG
Interpretable Few-shot Learning with Online Attribute Selection
School of Computer Science（计算机科学学院）；Carleton University（卡尔顿大学）
提出基于人类友好属性的少样本学习内在可解释模型，通过在线属性选择和未知属性扩充机制，在四个数据集上达到黑盒模型性能并提升决策可解释性。
2025-03-31 cs.CV cs.LG
ICICLE: Interpretable Class Incremental Continual Learning
Jagiellonian University（雅盖隆大学）；Ardigen SA（阿迪根公司）；Autonomous University of Barcelona（巴塞罗那自治大学）；Computer Vision Center（计算机视觉中心）；IDEAS NCBR（IDEAS国家计算智能研究中心）
针对持续学习中的可解释性概念漂移问题，提出免样本的原型部分方法ICICLE，通过可解释性正则化、基于邻近性的原型初始化和任务近因偏差补偿减少概念漂移，在基于概念的模型上优于现有免样本类增量学习方法。
2023-07-31 cs.AI cs.CV cs.LG
ProtoDA: Efficient Transfer Learning for Few-Shot Intent Classification
Amazon Alexa（亚马逊Alexa）
自然语言处理中的实际序列分类任务经常遭受目标类的低训练数据可用性。最近针对缓解这一问题的工作集中在迁移学习上，使用在通常不相关的任务（例如语言建模）上预先训练的嵌入。我们采用另一种方法，迁移学习的相关任务的集成使用原型网络下的元学习范式。使用意图分类作为案例研究，我们证明了增加训练任务的可变性可以显着提高分类性能。此外，我们将数据增强与元学习相结合，以减少采样偏差。我们使用一个条件生成器进行数据增强，该生成器直接使用元学习目标进行训练，同时使用原型网络，从而确保数据增强是根据任务定制的。我们探讨了句子嵌入空间以及原型嵌入空间中的增广。将元学习与增强相结合，在5次和10次学习中，相对于性能最好的系统，F1分数分别提高了6.49%和8.53%。
2021-01-28 cs.CL cs.LG
Episodic fine-tuning prototypical networks for optimization-based few-shot learning: Application to audio classification
Télécom-Paris（巴黎电信学院）
本研究针对小样本学习场景，提出ProtoNet情景微调方法及结合MAML、Meta-Curvature的算法框架，在音频分类任务上性能显著优于常规ProtoNet，且方法具备跨域通用性。
2024-10-04 cs.LG cs.MM cs.SD
Interpretable Few-Shot Learning via Linear Distillation
ITMO University（ITMO大学）
重要的是开发数学上易于处理的模型，这些模型可以解释从数据中提取的知识并提供合理的预测。在本文中，我们提出了一个线性蒸馏学习，一个简单的补救措施，以提高线性神经网络的性能。我们的方法是基于对数据集中的每个类使用线性函数，该函数经过训练以分别模拟每个类的教师线性网络的输出。我们以少样本学习的方式在MNIST和Omniglot数据集上测试了我们的模型。它比其他可解释的模型，如经典的Logistic回归显示出更好的结果。
2019-10-10 cs.LG stat.ML
A Prototypical Network with an Attention-based Encoder for Drivers Identification Application
Dept. of Transportation & Communication Management Science, National Cheng Kung University, Taiwan（交通与通讯管理科学系，国立成功大学，台湾）；Institute of Data Science, National Cheng Kung University, Taiwan（数据科学研究所，国立成功大学，台湾）
本文提出融合原型网络与注意力编码器的P-AttEnc，以少样本学习缓解驾驶员识别数据不足并支持未知驾驶员分类，同时AttEnc以更少参数实现高准确率与更快预测。
2025-10-20 cs.LG
Circumpapillary OCT-Focused Hybrid Learning for Glaucoma Grading Using Tailored Prototypical Neural Networks
Instituto de Investigación e Innovación en Bioingeniería, Universitat Politècnica de València（瓦伦西亚理工大学生物工程研究与创新研究所）；Universidad Politécnica de Cartagena（卡塔赫纳理工大学）
青光眼是世界范围内导致失明的主要原因之一，光学相干断层扫描（OCT）是用于其检测的典型成像技术。与大多数专注于青光眼检测的最新研究不同，在本文中，我们首次提出了一种使用原始视乳头周围B扫描进行青光眼分级的新框架。特别是，我们提出了一种新的基于OCT的混合网络，它结合了手动驱动和深度学习算法。提出了一种OCT专用描述符，用于提取与视网膜神经纤维层（RNFL）相关的手工特征。同时，创新的CNN开发使用跳过连接，包括定制的残差和注意力模块，以完善潜在空间的自动功能。提出的架构是用来作为骨干进行一种新的Few-Shot学习的基础上静态和动态原型网络。重新定义了k-shot范例，从而产生了受监督的端到端系统，该系统提供了区分健康、早期和晚期青光眼样本的实质性改进。动态原型网络的训练和评估过程，解决了从两个融合的数据库通过海德堡光谱系统。验证和测试结果分别达到0.9459和0.8788青光眼分级的分类准确度。此外，所提出的青光眼检测模型报告的高性能值得特别提及。类别激活图的结果直接符合临床医生的意见，因为热图指出RNFL是青光眼诊断的最相关结构。
2021-06-25 cs.CV cs.LG eess.IV
Interpretable Time-series Classification on Few-shot Samples
University of Technology Sydney（悉尼科技大学）
最近的少样本学习工作专注于用先验元知识训练模型，以快速适应具有未知类和样本的新任务。然而，传统的时间序列分类算法无法解决的Few-Shot的情况。现有的少样本学习方法是针对图像或文本数据提出的，大多数是基于神经元的模型，缺乏可解释性。本文提出了一个可解释的基于神经的框架，即\textit{Dual Prototypical Shapelet Networks (DPSN)}的Few-Shot时间序列分类，它不仅训练一个神经网络为基础的模型，但也解释模型从双粒度：1）全局概述使用代表性的时间序列样本，2）局部亮点使用歧视性的形状。特别地，生成的双原型形状由代表性样本和判别性部分长度形状组成，代表性样本可以主要展示类中所有样本的整体形状，判别性部分长度形状可以用于区分不同的类。我们从公共基准数据集获得了18个Few-Shot TSC数据集，并通过与基线的比较来评估所提出的方法。DPSN框架的性能优于最先进的时间序列分类方法，特别是在使用有限的数据进行训练时。最后通过几个案例验证了模型的解释能力。
2020-07-02 cs.LG stat.ML
Few-shot Learning by Exploiting Visual Concepts within CNNs
Beihang University（北京航空航天大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
卷积神经网络（CNN）是计算机视觉发展的驱动力之一。尽管CNN在许多任务上表现出色，但在实现理想机器智能的道路上仍然面临着重大障碍。一个是CNN很复杂，很难解释。另一个原因是，标准CNN需要大量的注释数据，这有时很难获得，并且需要学习从几个例子中识别对象。在这项工作中，我们通过为少样本学习开发新颖、灵活和可解释的模型来解决CNN的这些局限性。我们的模型基于根据视觉概念（VC）对对象进行编码的想法，这些视觉概念是由CNN中的特征向量表示的可解释的视觉线索。我们首先将VC的学习适应于Few-Shot设置，然后揭示使用VC的特征编码的两个关键特性，我们称之为类别敏感性和空间模式。受这些属性的启发，我们提出了两个直观的模型的问题，少样本学习。实验表明，我们的模型实现了有竞争力的性能，同时比其他最先进的少样本学习方法更灵活和可解释。我们的结论是，使用VC有助于暴露CNN用于少样本学习的自然能力。
2018-02-13 cs.CV cs.LG stat.ML
Simultaneous Perturbation Stochastic Approximation for Few-Shot Learning
Saint Petersburg State University（圣彼得堡国立大学）；Institute of Problems in Mechanical Engineering, Russian Academy of Sciences（俄罗斯科学院机械工程问题研究所）；Herzen State Pedagogical University（赫尔岑国立师范大学）
少样本学习是机器学习的一个重要研究领域，它要求分类器能够适应训练集之外的新类别。然而，每个类只有少量的例子可用于训练。这是这种类型的学习算法的关键问题之一，导致显著的不确定性。我们攻击这个问题通过随机随机逼近。在本文中，我们建议考虑新的多任务损失函数，并提出了基于原型网络方法的SPSA类少样本学习方法。我们提供了一个理论依据和实验分析这种方法。在基准数据集上的实验结果表明，该方法优于原始原型网络。
2020-06-09 cs.LG math.OC stat.ML
Fine-Grain Few-Shot Vision via Domain Knowledge as Hyperspherical Priors
Augustus Intelligence（奥古斯都智能公司）
原型网络已被证明在计算机视觉中的少样本学习任务中表现良好。然而，当类别彼此非常相似（细粒度分类）并且目前无法考虑先验知识（通过使用表格数据）时，这些网络就会陷入困境。使用一个球形的潜在空间编码的原型，我们可以实现Few-Shot细粒度分类最大限度地分离类，同时将领域知识作为信息先验。我们描述了如何构建一个嵌入先验域信息的原型超球体，并展示了该方法在挑战细粒度分类基准数据集上的有效性，最佳结果是一次性分类和5倍的训练时间加速。
2020-05-23 cs.CV cs.LG eess.IV
Meta-Learning for Semi-Supervised Few-Shot Classification
University of Toronto（多伦多大学）；Princeton University（普林斯顿大学）；Google Brain（谷歌大脑）；MIT（麻省理工学院）；CIFAR（加拿大高级研究院）；Vector Institute（向量研究所）
在Few-Shot分类中，我们感兴趣的是学习算法，该算法仅从少数标记的示例中训练分类器。Few-Shot分类的最新进展以元学习为特征，其中定义用于学习算法的参数化模型，并在表示不同分类问题的情节上对其进行训练，每个情节具有小的标记训练集及其对应的测试集。在这项工作中，我们推进这种Few-Shot分类范式对一个场景中，未标记的例子也可在每一集。我们考虑两种情况：一种是假设所有未标记的示例与该片段的标记示例属于同一组类，另一种是更具有挑战性的情况，其中还提供了来自其他干扰项类的示例。为了解决这个范例，我们提出了原型网络的新扩展（Snell等人，2017年），增强了在生成原型时使用未标记示例的能力。这些模型以端到端的方式在剧集上进行训练，以学习成功利用未标记的示例。我们在Omniglot和miniImageNet基准测试的版本上评估了这些方法，这些方法适用于这个用未标记示例增强的新框架。我们还提出了一个新的ImageNet分裂，由一个大的类集合组成，具有层次结构。我们的实验证实，由于未标记的示例，我们的原型网络可以学习改进其预测，就像半监督算法一样。
2018-03-02 cs.CV cs.LG stat.ML
AutoProtoNet: Interpretability for Prototypical Networks
University of Maryland（马里兰大学）；Naval Research Laboratory（美国海军研究实验室）
在元学习方法中，实践者很难理解模型采用了什么样的表示。如果没有这种能力，就很难理解模型知道什么，也很难做出有意义的修正。为了解决这些挑战，我们引入了AutoProtoNet，它通过训练适合于重构输入的嵌入空间来为原型网络构建可解释性，同时保持少样本学习的便利性。我们演示了如何在这个嵌入空间中的点可以可视化，并用于理解类表示。我们还设计了一个原型细化方法，它允许人类调试不充分的分类参数。我们在一个自定义分类任务上使用这种调试技术，发现它可以提高由野外图像组成的验证集的准确性。我们提倡元学习方法的可解释性，并表明人类可以通过交互方式来增强元学习算法。
2022-04-02 cs.LG
Don't PANIC: Prototypical Additive Neural Network for Interpretable Classification of Alzheimer's Disease
Technical University Munich（慕尼黑工业大学）；Ludwig Maximilians University（慕尼黑大学）
阿尔茨海默病（AD）病因复杂，需要综合神经解剖学、遗传学和脑脊液生物标志物等信息进行准确诊断。因此，最近的深度学习方法结合了图像和表格信息，以提高诊断性能。然而，这种神经网络的黑盒性质仍然是临床应用的障碍，其中理解异构模型的决策是不可或缺的。我们提出了PANIC，一个原型添加剂神经网络可解释的AD分类，集成了三维图像和表格数据。它是可解释的设计，因此，避免了事后的解释，试图近似网络的决定的需要。我们的研究结果表明，PANIC在AD分类中实现了最先进的性能，同时直接提供局部和全局解释。最后，我们表明，PANIC提取AD的生物意义的签名，并满足一组值得信赖的机器学习的理想desiderata。我们的实现可以在https://github.com/ai-med/PANIC上获得。
2023-03-14 cs.CV cs.LG
Active Few-Shot Learning for Vertex Classification Starting from an Unlabeled Dataset
Ulm University（乌尔姆大学）
针对无类别预言机时的顶点分类问题，本文提出迭代提示标注的主动少样本学习方法，结合原型网络与k-medoids聚类逐步放宽假设，发现在少样本下原型网络性能优于判别模型且对假设放宽更具鲁棒性。
2025-04-25 cs.LG
Retrieval-Augmented Interpretable Learning: Towards Task-Specific Zero-Shot Models in Healthcare
Carnegie Mellon University（卡内基梅隆大学）；University of Wisconsin–Madison（威斯康星大学麦迪逊分校）；Mohamed bin Zayed University of AI（穆罕默德·本·扎耶德人工智能大学）；GenBio AI（基因生物人工智能公司）；Intel（英特尔公司）
研究针对医疗保健领域特定任务零样本模型问题推出检索增强可解释学习（RAIL）框架，通过检索相关任务并传递结构生成新预测器，概率公式提供不确定性支持可靠性感知部署，在临床程序预测任务中性能可靠，还提升模型透明度。
2026-10-07 cs.AI cs.LG
Meta-learning Pathologies from Radiology Reports using Variance Aware Prototypical Networks
Covera Health（Covera健康公司）
基于transformer的大型预训练语言模型（如BERT和GPT）改变了自然语言处理（NLP）的格局。然而，微调这样的模型仍然需要针对每个目标任务的大量训练样本，因此注释多个数据集并在各种下游任务上训练这些模型变得耗时且昂贵。在这项工作中，我们提出了一个简单的扩展原型网络的Few-Shot文本分类。我们的主要思想是用高斯模型代替类原型，并引入一个正则化项，鼓励样本聚集在适当的类质心附近。实验结果表明，该方法在13个公共数据集和4个内部数据集上的性能优于各种强基线。此外，我们使用类分布作为一种工具，用于检测潜在的分布（OOD）数据点在部署过程中。
2022-11-10 cs.CL cs.LG
INSightR-Net: Interpretable Neural Network for Regression using Similarity-based Comparisons to Prototypical Examples
Institute of Biomedical Engineering（生物医学工程研究所）；University of Oxford（牛津大学）
卷积神经网络（CNN）在一系列医学成像任务中表现出卓越的性能。然而，传统的CNN无法解释它们的推理过程，因此限制了它们在临床实践中的应用。在这项工作中，我们提出了一个固有的解释CNN回归使用基于相似性的比较（INSightR-Net），并证明了我们的方法对糖尿病视网膜病变分级的任务。结合到架构中的原型层使图像中与学习的原型最相似的区域可视化。然后，最终的预测直观地建模为原型标签的平均值，并通过相似性进行加权。与ResNet基线相比，我们使用INSightR-Net实现了具有竞争力的预测性能，表明没有必要为了可解释性而牺牲性能。此外，我们使用稀疏性和多样性来量化我们的解释的质量，这两个概念对于一个好的解释很重要，并展示了几个参数对潜在空间嵌入的影响。
2022-07-31 cs.CV cs.LG
A Minimal Interpretable Architecture for Zero-Shot Reconstruction of Dynamical Systems
Central Institute of Mental Health, Mannheim, Germany（德国曼海姆中央精神卫生研究所）；Interdisciplinary Center for Scientific Computing (IWR), Heidelberg, Germany（德国海德堡跨学科科学计算中心 (IWR)）；Faculty of Physics and Astronomy, Heidelberg University, Heidelberg, Germany（德国海德堡大学物理与天文学系）
研究针对动态系统零样本重建基础模型缺乏预测机制洞察的问题，将DynaMix简化为DynaBase，其通过简单线性混合预测，参数负载低，表现出色，还得出映射族及不同训练策略效果，揭示最小机制并协调文献观察。
2026-07-17 cs.AI cs.LG math.DS
LucidPPN: Unambiguous Prototypical Parts Network for User-centric Interpretable Computer Vision
Jagiellonian University（雅盖隆大学）；Ardigen SA（Ardigen股份公司）；Institute of Applied Psychology（应用心理学研究所）；NCBR IDEAS
LucidPPN通过分离颜色与非颜色特征的原型部件网络，减少原型歧义，提升用户对模型决策的理解，且性能与基线相当。
2024-05-23 cs.AI cs.CV cs.LG
ProtoShotXAI: Using Prototypical Few-Shot Architecture for Explainable AI
University of Arizona（亚利桑那大学）；Rowan University（罗文大学）
无法解释的黑箱模型会产生异常情况导致有害反应的情景，从而产生不可接受的风险。这些风险促使可解释人工智能（XAI）领域通过评估黑盒神经网络中的局部可解释性来提高信任。不幸的是，地面真相是不可用的模型的决定，所以评估是有限的定性评估。此外，可解释性可能导致关于模型的不准确结论或错误的信任感。我们建议通过探索黑盒模型的潜在特征空间，从用户信任的角度来改进XAI。我们提出了一种方法，ProtoShotXAI，它使用一个原型Few-Shot网络来探索不同类别的非线性特征之间的对比流形。用户通过扰动查询样本的输入特征并记录来自任何类的样本子集的响应来探索流形。我们的方法是第一个本地可解释的XAI模型，可以扩展到Few-Shot网络并在其上演示。我们将ProtoShotXAI与MNIST，Omniglot和ImageNet上最先进的XAI方法进行比较，以定量和定性地证明ProtoShotXAI为模型探索提供了更大的灵活性。最后，ProtoShotXAI还展示了对抗性样本的新颖可解释性和可检测性。
2022-09-26 cs.CV cs.LG
Rashomon Sets for Prototypical-Part Networks: Editing Interpretable Models in Real-Time
Duke University（杜克大学）；University of Maine（缅因大学）
本文提出Proto-RSet框架，通过生成多个同等优秀的原型部分网络（ProtoPNets）解决交互瓶颈，允许非专家用户实时编辑和修正模型以消除偏差，同时保持性能保证。
2025-03-03 cs.CV cs.LG
Interpretable Deep Learning Classifier by Detection of Prototypical Parts on Kidney Stones Images
Tecnologico de Monterrey（蒙特雷理工学院）；CHU Nancy（南锡大学中心医院）；Université de Lorraine（洛林大学）
确定肾结石的类型可以让泌尿科医生确定其形成原因，改善适当治疗的早期处方，以减少未来的复发。然而，目前，相关的离体诊断（称为形态构成分析，MCA）是耗时的、昂贵的，并且需要大量的经验，因为它需要高度依赖于操作者的视觉分析组件。最近，已经开发了用于体内内窥镜结石识别的机器学习方法。浅层方法已被证明是可靠的和可解释的，但表现出低准确性，而基于深度学习的方法产生高准确性，但无法解释。然而，高风险决策需要可理解的计算机辅助诊断（CAD），以根据合理的证据提出行动方案，而不仅仅是规定一个。在这里，我们研究的手段，学习部分原型（PP），使可解释的模型。我们的建议提出了一个肾结石斑块图像的分类，并提供了类似的方式上使用的MCA方法的解释。
2022-06-02 cs.AI cs.CV cs.LG
PROTOtypical Logic Tensor Networks (PROTO-LTN) for Zero Shot Learning
Politecnico di Torino（都灵理工大学）
语义图像判读可以极大地受益于将子符号分布式表示学习与在更高抽象级别上推理的能力相结合的方法。逻辑张量网络（LogicTensorNetworks，LTNs）是一类基于可微的一阶逻辑的神经符号系统，它根植于深层神经网络中。LTN用模糊逻辑公理的知识库取代了训练集的经典概念。通过定义一组可微算子来近似连接词、谓词、函数和量词的作用，自动指定损失函数，使得LTNs可以学习以满足知识库。我们在这里集中在包容或\texttt{isOfClass}谓词，这是最基本的语义编码图像判读任务。与传统的LTN不同，传统的LTN依赖于每个类的单独谓词（例如，狗，猫），每一个都有自己的一组可学习的权重，我们提出了一个共同的\texttt{isOfClass}谓词，其真值水平是一个函数的对象嵌入和相应的类原型之间的距离。典型逻辑张量网络（PROTO-LTN）通过将抽象概念接地作为高维嵌入空间中的参数化类原型，同时减少接地知识库所需的参数数量，扩展了当前的公式。我们展示了如何在少数和零样本学习场景中有效地训练这种架构。广义零样本学习基准测试的实验验证了所提出的实现作为传统的基于嵌入的方法的一个有竞争力的替代。所提出的公式在零样本学习设置中开辟了新的机会，因为LTN形式主义允许以逻辑公理的形式整合背景知识以补偿标记示例的缺乏。
2022-06-26 cs.CV cs.LG
Prototypical Model with Novel Information-theoretic Loss Function for Generalized Zero Shot Learning
Shenzhen Origin AI Technology Co. Ltd（深圳元始智能科技有限公司）；Southern University of Science and Technology（南方科技大学）；University of California, Berkeley（加利福尼亚大学伯克利分校）
广义零样本学习（GSTOL）仍然是深度学习的技术挑战，因为它必须在没有来自目标类的数据的情况下识别源类和目标类。为了在仅使用来自源类的数据进行训练时保持源和目标类之间的语义关系，我们从信息论的角度解决了知识转移和语义关系的量化。为此，我们遵循原型模型，并将关注的变量格式化为概率向量。利用所提出的概率向量表示，信息度量，如互信息和熵，可以有效地评估与简单的封闭形式。讨论了使用原型模型时公共嵌入空间和距离函数的选择。提出了三种确定性GML模型的信息论损失函数：互信息损失函数，用于连接可见数据和目标类;不确定性熵约束损失函数，用于防止在使用可见数据学习目标类嵌入时的过拟合;语义保持交叉熵损失函数，用于在将语义表示映射到公共空间时保持语义关系。仿真结果表明，作为一个确定性的模型，我们提出的方法获得了最先进的结果在GALML基准数据集。我们比基线模型（深度校准网络（DCN））实现了21%-64%的改进，并首次证明确定性模型的性能可以与生成性模型一样好。此外，我们提出的模型是兼容的生成模型。仿真研究表明，通过将f-CLSWGAN，我们得到了可比的结果相比，先进的生成模型。
2021-12-06 cs.CV cs.LG
This Looks Better than That: Better Interpretable Models with ProtoPNeXt
Duke University（杜克大学）
针对原型部件模型训练难、对超参数敏感的问题，研究者提出整合原型部件模型组件的框架ProtoPNeXt，通过贝叶斯调优与角度相似度度量实现CUB-200数据集上的新SOTA精度，还能联合优化精度与可解释性。
2024-06-20 cs.AI cs.CV cs.LG
ProtoPShare: Prototype Sharing for Interpretable Image Classification and Similarity Discovery
Jagiellonian University（雅盖隆大学）；Ardigen SA（阿迪根公司）
在本文中，我们介绍了ProtoPShare，一个自我解释的方法，它结合了原型部件的范式来解释其预测。ProtoPShare的主要新颖之处在于，由于我们的数据相关合并修剪，它能够有效地在类之间共享原型部分。此外，原型更一致，模型比最先进的方法ProtoPNet对图像扰动更鲁棒。我们在两个数据集上验证了我们的发现，CUB-200-2011和斯坦福汽车。
2020-11-29 cs.AI cs.CV cs.LG
Learning to Select Prototypical Parts for Interpretable Sequential Data Modeling
Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所）
基于原型的可解释性方法通过将样本与记忆样本或典型代表的参考集在相似性方面进行比较来提供对模型预测的直观解释。在序列数据建模领域，原型的相似性计算通常基于编码的表示向量。然而，由于高度递归的函数，基于原型的解释和原始输入之间通常存在不可忽略的差异。在这项工作中，我们提出了一个自我解释的选择模型（SESM），使用原型概念的线性组合来解释自己的预测。该模型采用基于案例推理的思想，通过选择主要激活不同概念的输入子序列作为原型部分，用户可以将其与从不同示例输入中选择的子序列进行比较，以理解模型决策。为了更好的可解释性，我们设计了多个约束，包括多样性，稳定性和局部性作为训练目标。在不同领域的大量实验表明，我们的方法具有良好的可解释性和竞争力的准确性。
2023-03-17 cs.AI cs.LG
ProteinPNet: Prototypical Part Networks for Concept Learning in Spatial Proteomics
Lausanne University Hospital（洛桑大学医院）
ProteinPNet通过原型部分网络在空间蛋白质组学中识别肿瘤微环境模式，揭示可解释的空间生物标记物，促进精准肿瘤学发展。
2025-12-02 cs.LG
Prototypical Region Proposal Networks for Few-Shot Localization and Classification
Pacific Northwest National Laboratory（太平洋西北国家实验室）
最近提出的Few-Shot图像分类方法通常集中于待分类的对象是图像的中心主题的使用情况。尽管在与此用例一致的基准视觉数据集上取得了成功，但这些方法通常在涉及密集注释的繁忙图像的用例上失败：在野外常见的图像，其中相关对象不是中心主题，而是出现潜在的遮挡，小，或属于其他潜在兴趣类别的其他偶然对象。本地化相关对象，我们采用了基于原型的Few-Shot分割模型，该模型将未标记的查询图像的编码特征与支持类质心进行比较，以产生指示查询图像中支持集类的存在和位置的区域建议。然后，这些区域建议被用作Few-Shot图像分类器的附加条件输入。我们开发了一个框架，将这两个阶段（分割和分类）统一到一个端到端的分类模型- PRoPnet -并实证证明，我们的方法提高了包含多个对象类的自然场景图像数据集的准确性。
2021-04-08 cs.CV cs.LG cs.NE
Few-Shot Keyword Spotting With Prototypical Networks
The University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
识别特定命令或关键字，关键字识别已广泛用于许多语音界面，如亚马逊的Alexa和Google Home。为了识别一组关键字，大多数最近的基于深度学习的方法使用用大量样本训练的神经网络来识别某些预定义的关键字。这限制了系统识别新的、用户定义的关键字。因此，我们首先将这个问题表述为Few-Shot关键字发现，并使用度量学习来处理它。为了实现这项研究，我们还合成并发布了一个Few-Shot Google Speech Commands数据集。然后，我们提出了一个解决方案的Few-Shot关键字发现问题，使用时间和扩张卷积的原型网络。我们的比较实验结果表明，关键字发现新的关键字，只使用少量的样本。
2020-07-25 cs.LG cs.SD eess.AS
Prototypical quadruplet for few-shot class incremental learning
Indian Institute of Technology Bombay（印度理工学院孟买分校）
针对少样本类增量学习中的数据稀缺和灾难性遗忘问题，提出使用改进对比损失和更新类原型的方法，在保持嵌入空间完整的同时提升分类准确性，优于现有最先进算法。
2023-04-08 cs.CV cs.LG
Dummy Prototypical Networks for Few-Shot Open-Set Keyword Spotting
Qualcomm AI Research（高通人工智能研究院）；Qualcomm Technologies, Inc.（高通技术公司）
关键字定位是在流式音频中检测关键字的任务。传统的关键词识别以预定义的关键词分类为目标，但是在Few-Shot（按示例查询）关键词识别中存在越来越多的关注，例如，N路分类给出了M-shot支持样本。此外，在现实世界的场景中，可能存在来自意外类别（开集）的话语，其需要被拒绝而不是被分类为N个类别之一。结合这两个需求，我们解决了Few-Shot开放集关键字发现与一个新的基准设置，命名为splitGSC。我们提出了基于度量学习的已知场景虚拟原型，以更好地检测开集，并介绍了一种简单而强大的方法，虚拟原型网络（D-ProtoNets）。我们的D-ProtoNets显示了明确的利润率相比，最近的Few-Shot开集识别（FSOSR）的方法在建议的splitGSC。我们还在标准基准测试miniImageNet上验证了我们的方法，D-ProtoNets显示了FSOSR中最先进的开集检测率。
2022-06-28 cs.LG cs.SD eess.AS
Prototypical Contrastive Learning For Improved Few-Shot Audio Classification
Multimedia Analysis Group of the Computational Intelligence Laboratory (MagCIL) Institute of Informatics
本研究将监督对比损失（特别是角度损失）整合进原型少样本训练，结合SpecAugment和自注意力机制，在MetaAudio基准的5-way 5-shot音频分类任务上取得最先进性能。
2025-09-12 cs.LG cs.SD
ProtoTSNet: Interpretable Multivariate Time Series Classification With Prototypical Parts
Doctoral School of Exact and Natural Sciences Jagiellonian University（杰洛尼沃大学精确与自然科学博士学校）；Faculty of Physics, Astronomy and Applied Computer Science, Institute of Applied Computer Science, and Jagiellonian Human-Centered AI Lab Jagiellonian University（杰洛尼沃大学物理、天文学和应用计算机科学学院，应用计算机科学研究所，杰洛尼沃人本AI实验室）
针对多变量时间序列分类问题，提出ProtoTSNet方法，通过改进ProtoPNet架构，利用分组卷积的卷积编码器克服时间序列分析挑战，在30个数据集上评估，该方法在事前可解释方法中性能最佳，兼具与其他方法的竞争力并提供可解释结果。
2026-07-21 cs.LG
Learning in Multiple Spaces: Few-Shot Network Attack Detection with Metric-Fused Prototypical Networks
Fordham University（福特汉姆大学）
本文提出多空间原型学习框架MSPL，融合欧氏、余弦、切比雪夫和Wasserstein四种度量空间并通过约束加权与Polyak平均原型生成，实现少样本场景下的鲁棒零日攻击检测。
2024-12-28 cs.CR cs.LG
Continuous Action Reinforcement Learning from a Mixture of Interpretable Experts
Aalto University（阿尔托大学）；TU Darmstadt（达姆施塔特工业大学）
强化学习（RL）已经证明了其通过利用非线性函数逼近器来解决高维任务的能力。然而，这些成功大多是通过模拟域中的“黑箱”策略实现的。当将RL部署到现实世界中时，可能会提出一些关于使用“黑匣子”策略的问题。为了使学习的政策更加透明，我们在本文中提出了一个政策迭代方案，保留了一个复杂的函数逼近器，其内部值的预测，但限制的政策有一个简洁的，分层的，和人类可读的结构，基于混合的可解释的专家。每个专家根据到原型状态的距离来选择原始动作。一个关键的设计决策，以保持这样的专家可解释的是从轨迹数据中选择的原型状态。本文的主要技术贡献是解决这个不可微的原型状态选择过程所带来的挑战。实验表明，我们提出的算法可以在连续动作深度RL基准上学习令人信服的策略，与基于神经网络的策略的性能相匹配，但返回的策略比神经网络或线性特征策略更适合人类检查。
2021-11-18 cs.LG stat.ML
COVID-Net USPro: An Open-Source Explainable Few-Shot Deep Prototypical Network to Monitor and Detect COVID-19 Infection from Point-of-Care Ultrasound Images
University of Waterloo（滑铁卢大学）；National Research Council Canada（加拿大国家研究委员会）；McGill University（麦吉尔大学）
COVID-Net USPro 是一种基于深度学习的可解释少样本原型网络，用于从点即服务超声图像中高精度检测 COVID-19 阳性病例。
2023-01-04 cs.CV cs.LG eess.IV
This Looks Like That: Deep Learning for Interpretable Image Recognition
Duke University（杜克大学）；MIT Lincoln Laboratory（麻省理工学院林肯实验室）
当我们面对具有挑战性的图像分类任务时，我们经常通过解剖图像来解释我们的推理，并指出一类或另一类的原型方面。每个类别的证据越来越多，这有助于我们做出最终决定。在这项工作中，我们引入了一个深度网络架构-原型零件网络（ProtoPNet），它以类似的方式进行推理：网络通过寻找原型零件来解剖图像，并结合原型中的证据进行最终分类。因此，该模型的推理方式与鸟类学家、医生和其他人向人们解释如何解决具有挑战性的图像分类任务的方式在质量上类似。该网络仅使用图像级标签进行训练，而不对图像的部分进行任何注释。我们在CUB-200-2011数据集和Stanford Cars数据集上演示了我们的方法。我们的实验表明，ProtoPNet可以达到与其类似的不可解释的对应物相当的准确性，当几个ProtoPNet组合成一个更大的网络时，它可以达到与一些性能最好的深度模型相当的准确性。此外，ProtoPNet提供了其他可解释的深度模型所缺乏的可解释性。
2019-12-28 cs.AI cs.CV cs.LG
Label-enhanced Prototypical Network with Contrastive Learning for Multi-label Few-shot Aspect Category Detection
Dalian University of Technology（大连理工大学）；Peking University（北京大学）
多标记体类别检测允许一个评论语句包含多个体类别，在情感分析中具有更好的实用性，并受到越来越多的关注。由于标注大量数据是耗时且劳动密集型的，在现实世界的场景中经常发生数据稀缺，这激发了多标签Few-Shot方面类别检测。然而，对这一问题的研究仍处于起步阶段，可用的方法很少。在本文中，我们提出了一种新的标签增强的原型网络（LPN）的多标签Few-Shot方面类别检测。LPN的亮点可以总结如下。首先，它利用标签描述作为辅助知识来学习更多的判别原型，它可以保留方面相关的信息，同时消除不相关的方面造成的有害影响。其次，它与对比学习相结合，鼓励具有相同体标签的句子在嵌入空间中被拉到一起，同时将具有不同体标签的句子推开。此外，本文还引入了自适应多标签推理模块来预测句子中的体数，该方法简单而有效。在三个数据集上的大量实验结果表明，我们提出的模型LPN可以始终如一地实现最先进的性能。
2022-06-14 cs.AI cs.CL cs.LG
ProtoAttend: Attention-Based Prototypical Learning
Google Cloud AI（谷歌云人工智能）；Sunnyvale, CA（加利福尼亚州山景城）
我们提出了一种新颖的内在可解释的机器学习方法，该方法基于我们称之为原型的几个相关示例进行决策。我们的方法ProtoAttend可以集成到广泛的神经网络架构中，包括预训练模型。它利用了一种注意力机制，将编码的表示与样本联系起来，以确定原型。结果模型在三个高影响问题中优于现有技术，而不牺牲原始模型的准确性：（1）它能够输出与决策最相关的样本的高质量可解释性（2）它通过量化原型标签之间的失配来实现现有技术的置信度估计;以及（3）它在分布失配检测方面获得了现有技术。所有这些都可以用最少的额外测试时间和实际可行的训练时间计算成本来实现。
2019-09-26 cs.CV cs.LG
