Task Attribute Distance for Few-Shot Learning: Theoretical Analysis and Applications
University of Chinese Academy of Sciences（中国科学院大学）；Peng Cheng Laboratory（鹏城实验室）
该研究提出与模型无关的任务属性距离（TAD）以量化少样本学习中训练与新任务的相关性，推导泛化误差界建立其与任务适配难度的理论关联，经三个基准实验验证有效性，并拓展至数据增强等应用。
2024-03-06 cs.CV cs.LG
Similarity of Classification Tasks
Australian Institute for Machine Learning（澳大利亚机器学习研究所）；University of Adelaide（阿德莱德大学）；University of Liverpool（利物浦大学）；Faculty of Information Technology（信息技术学院）；Monash University（莫纳什大学）
元学习的最新进展已经在几个少样本学习基准测试中取得了显著的成绩。然而，这样的成功往往忽略了训练和测试任务之间的相似性，导致潜在的偏见评估。因此，我们提出了一种基于潜在狄利克雷分配变体的生成方法来分析任务相似性，以优化和更好地理解元学习的性能。我们证明，该方法可以提供一个有见地的评估元学习算法的两个Few-Shot分类基准，符合共同的直觉：越相似，性能越高。基于这种相似性度量，我们提出了一种元学习的任务选择策略，并表明它可以产生比随机选择训练任务的方法更准确的分类结果。
2021-01-27 cs.LG stat.ML
Few-shot Slot Tagging with Collapsed Dependency Transfer and Label-enhanced Task-adaptive Projection Network
Harbin Institute of Technology（哈尔滨工业大学）；Northwestern University（西北大学）；Alibaba Group（阿里巴巴集团）
在本文中，我们探讨了槽标记只有几个标记的支持句（a.k.a. Few-Shot）。与其他Few-Shot分类问题相比，Few-Shot槽标记面临着独特的挑战，因为它需要对标签之间的依赖关系进行建模。但是，由于标签集的差异，很难将先前学习的标签依赖应用于未见过的域。为了解决这个问题，我们在条件随机场（CRF）中引入了一个折叠依赖转移机制，以转移抽象标签依赖模式作为转换分数。在Few-Shot设置中，CRF的发射分数可以被计算为词与每个标签的表示的相似性。为了计算这种相似性，我们提出了一个标签增强的任务自适应投影网络（L-TapNet）的基础上，国家的最先进的Few-Shot分类模型- TapNet，利用标签名称语义表示标签。实验结果表明，我们的模型显着优于最强的少样本学习基线的14.64 F1分数在一次设置。
2020-06-10 cs.CL cs.LG
Transfer Language Selection for Zero-Shot Cross-Lingual Abusive Language Detection
我们研究了自动辱骂性语言检测中迁移语言的选择问题。我们没有为每种语言准备数据集，而是展示了跨语言迁移学习对zero-shot滥用语言检测的有效性。通过这种方式，我们可以使用来自高资源语言的现有数据来为低资源语言构建更好的检测系统。我们的数据集来自三个语系的七种不同语言。我们使用几种语言相似性度量来测量语言之间的距离，特别是通过量化世界语言结构地图集。我们发现，语言相似性和分类器性能之间存在相关性。这一发现使我们能够选择一个最佳的迁移语言的zero shot滥用语言检测。
2022-06-02 cs.AI cs.CL cs.LG
Efficient and Reliable Vector Similarity Search Using Asymmetric Encoding with NAND-Flash for Many-Class Few-Shot Learning
National Taiwan University（台湾大学）；Academia Sinica（中央研究院）；Macronix International Co. Ltd.（旺宏电子股份有限公司）
针对多类别少样本学习中内存增强神经网络的MCAM硬件限制问题，提出多比特温度计编码、非对称向量相似性搜索和硬件感知训练方法，大幅提升搜索效率与系统准确率。
2024-09-12 cs.AR cs.LG
Discriminative Few-Shot Learning Based on Directional Statistics
SK T-Brain
基于度量的少样本学习方法试图通过学习嵌入来克服由于缺乏训练样本而导致的困难，从而使比较变得容易。我们提出了一种新的算法来生成类代表的Few-Shot分类任务。作为输入的学习特征的概率模型，我们考虑了一个混合的von Mises-Fisher分布，已知它在高维空间中比高斯分布更有表现力。然后，从判别分类器的角度来看，我们得到了一个更好的类代表性考虑类间的相关性，还没有解决传统的少样本学习算法。我们将我们的方法应用于\emph{mini} ImageNet和\emph{tiered} ImageNet数据集，并表明所提出的方法在Few-Shot分类任务中优于其他可比方法。
2019-06-05 cs.LG stat.ML
Learning to Select Base Classes for Few-shot Classification
Tsinghua University（清华大学）；Noah’s Ark Lab, Huawei Technologies（华为技术有限公司诺亚方舟实验室）
近年来，少样本学习引起了广泛的研究关注。已经提出了许多方法来将从提供的基类学习到的模型推广到新的类，但是以前的工作没有研究如何选择基类，或者甚至不同的基类是否会导致学习模型的不同推广性能。在本文中，我们利用一个简单而有效的措施，相似比，作为一个指标的泛化性能的Few-Shot模型。然后，我们制定的基类选择问题作为一个子模块的相似比优化问题。进一步对不同优化方法的优化下界进行了理论分析，为不同的实验设置确定最合适的算法。在ImageNet、Caltech 256和CUB-200-2011上的大量实验表明，该方法在选择更好的基础数据集方面是有效的。
2020-04-01 cs.CV cs.LG stat.ML
Visual-Text Cross Alignment: Refining the Similarity Score in Vision-Language Models
University of Melbourne（墨尔本大学）；Singapore University of Technology and Design（新加坡科技设计大学）
本文提出加权视觉-文本交叉对齐（WCA）方法，通过局部视觉提示识别图像局部区域并与细粒度文本描述交叉对齐计算加权相似度得分，显著提升了视觉语言模型的零样本分类性能。
2024-06-05 cs.CV cs.LG
Multi-scale Adaptive Task Attention Network for Few-Shot Learning
Nanjing University（南京大学）
少样本学习的目标是用很少的标记样本对看不见的类别进行分类。近年来，基于低层信息度量学习的方法取得了令人满意的性能，因为局部表示（LR）在可见类和不可见类之间更加一致。然而，这些方法大多独立地处理支持集中的每个类别，这不足以度量特征之间的关系，特别是在特定的任务中。此外，当复杂背景中存在不同尺度的主导对象时，基于低级信息的度量学习方法会受到影响。为了解决这些问题，本文提出了一种新的多尺度自适应任务注意力网络（MATANet）的少样本学习。具体来说，我们首先使用多尺度特征生成器来生成不同尺度的多个特征。然后，提出了一个自适应的任务注意力模块，以选择整个任务中最重要的LR。然后，利用类相似度模块和融合层计算查询图像与支持集之间的联合多尺度相似度。流行的基准上的广泛的实验清楚地表明，所提出的MATANet的有效性相比，国家的最先进的方法。
2020-11-30 cs.AI cs.CV cs.LG
Exploring the Similarity of Representations in Model-Agnostic Meta-Learning
Technische Universität Berlin（柏林工业大学）；Bernstein Center for Computational Neuroscience Berlin（柏林伯恩斯坦计算神经科学中心）
近年来，与模型无关的元学习（MAML）一直是元学习中最有前途的方法之一。它可以应用于不同类型的问题，例如，强化学习，而且在少样本学习任务上也显示出良好的结果。除了他们在这些任务中取得的巨大成功，它仍然没有完全揭示，为什么它工作得这么好。最近的研究表明，MAML更倾向于重用特征，而不是快速学习。在本文中，我们希望通过分析MAML的表示，启发对这个问题有更深入的理解。我们应用表示相似性分析（RSA），在神经科学中的一个成熟的方法，MAML的少样本学习实例化。虽然我们的分析的一部分支持他们的一般结果，功能重用是占主导地位的，我们也揭示了反对他们的结论的论点。接近输入层的层的相似性增加来自学习任务本身，而不是来自模型。此外，内部梯度步骤之后的表示比元训练期间的变化对表示进行更广泛的改变。
2021-05-12 cs.AI cs.LG cs.NE
The Right Time Matters: Data Arrangement Affects Zero-Shot Generalization in Instruction Tuning
Tsinghua University（清华大学）；University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Renmin University of China（中国人民大学）；Alibaba Group（阿里巴巴集团）
本文从数据排列角度研究指令微调中的零样本泛化机制，证明泛化发生在训练早期且损失可作指标，并提出以测试为中心的多轮排列框架来提升持续学习效果。
2025-04-07 cs.AI cs.CL cs.LG
A Unified Manifold Similarity Measure Enhancing Few-Shot, Transfer, and Reinforcement Learning in Manifold-Distributed Datasets
Western Sydney University（西悉尼大学）
本研究提出一种新的流形结构相似性度量方法，可判定数据集是否适合迁移学习，还据此构建了少样本分类器实现高准确率，并探讨了该度量在强化学习、图像识别中的应用。
2024-08-12 cs.LG
Weakly Supervised One-Shot Detection with Attention Similarity Networks
University of Augsburg（奥格斯堡大学）；Imperial College London（帝国理工学院）
不以类身份为条件的神经网络模型被证明有助于类之间的知识转移，并且非常适合一次性学习任务。基于这一动机，我们进一步探索和建立了这样的模型，并提出了一种新的神经网络架构的弱监督单次检测的任务。我们的模型只以一个看不见的类的单个样本和一个更大的目标示例为条件，该目标示例可能包含也可能不包含与样本相同的类的实例。通过将暹罗相似性网络与注意力机制配对，我们设计了一个模型，该模型能够同时识别和定位在训练时看不到的类的实例。在计算机视觉和音频领域的数据集的实验中，所提出的方法大大优于弱监督单次检测任务的基线方法。
2018-06-27 cs.LG stat.ML
Adaptive recurrent vision performs zero-shot computation scaling to unseen difficulty levels
University of California, San Diego（加州大学圣迭戈分校）
本研究提出自适应循环神经网络（AdRNNs），结合可学习停止机制，在PathFinder和Mazes视觉推理任务中动态调整计算资源，实现零样本泛化至训练中未见的高难度问题，验证了循环处理在计算分配中的关键作用。
2023-11-12 cs.CV cs.LG
Improving Zero-shot Generalization in Offline Reinforcement Learning using Generalized Similarity Functions
McGill University（麦吉尔大学）；Quebec AI Institute（魁北克人工智能研究所）；UC Berkeley（加州大学伯克利分校）；Google Brain（谷歌大脑）
强化学习（RL）代理被广泛用于解决复杂的顺序决策任务，但仍然表现出难以推广到训练过程中看不到的场景。虽然先前的在线方法表明，使用奖励函数之外的额外信号可以在RL代理中产生更好的泛化能力，即使用自监督学习（SSL），但它们在离线RL设置中挣扎，即从静态数据集学习。我们发现，在RL的泛化在线算法的性能可能会受到阻碍，由于观察之间的相似性估计不良的离线设置。我们提出了一个新的理论动机的框架，称为广义相似性函数（GSF），它使用对比学习训练离线RL代理聚合观察的基础上，他们的预期未来行为的相似性，在那里我们量化这种相似性使用\emph{generalized value functions}。我们表明，GSF是一般的，足以恢复现有的SSL目标，同时也提高了zero-shot泛化性能的一个复杂的离线RL基准测试，离线Procgen。
2021-11-29 cs.AI cs.LG
Pre-Generating Multi-Difficulty PDE Data for Few-Shot Neural PDE Solvers
Machine Learning Department, Carnegie Mellon University（卡内基梅隆大学机器学习系）；Department of Computer Sciences, UW-Madison（威斯康星大学麦迪逊分校计算机科学系）
通过预生成多难度的PDE数据，提升少样本神经PDE求解器的性能与效率。
2026-01-23 cs.LG physics.flu-dyn
Detection of Adversarial Supports in Few-shot Classifiers Using Self-Similarity and Filtering
ST Engineering-SUTD Cyber Security Laboratory（ST Engineering-新加坡科技设计大学网络安全实验室）；Singapore University of Technology and Design（新加坡科技设计大学）；Ben-Gurion University（本-古里安大学）；University of Oslo（奥斯陆大学）
Few-Shot分类器在有限的训练样本下表现出色，这使得它们在具有稀疏用户提供的标签的应用中非常有用。他们独特的相对预测设置为新型攻击提供了机会，例如对未见过的测试样本进行分类所需的目标支持集，这在其他机器学习设置中不可用。在这项工作中，我们提出了一种检测策略，以确定敌对的支持集，旨在破坏理解的Few-Shot分类器为某一类别。我们实现这一点，通过引入的概念，自相似性的支持集，并采用过滤的支持。我们的方法是攻击不可知的，我们是第一个探索对抗检测支持集的Few-Shot分类器，以我们所知的。我们对miniImagenet（MI）和CUB数据集的评估显示出良好的攻击检测性能，尽管概念简单，显示出较高的AUROC分数。我们表明，自相似性和过滤对抗检测可以与其他过滤功能配对，构成一个可推广的概念。
2021-06-28 cs.CR cs.LG
CPT: Competence-progressive Training Strategy for Few-shot Node Classification
Sun Yat-sen University（中山大学）；Peng Cheng Laboratory（鹏城实验室）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
针对少样本节点分类中传统元学习因随机分配任务导致次优解的问题，提出两阶段课程学习方法CPT，通过动态匹配任务难度与模型渐进能力，显著提升了分类性能。
2025-06-30 cs.LG
On the Difficulty of Selecting Few-Shot Examples for Effective LLM-based Vulnerability Detection
Colorado State University（科罗拉多州立大学）；Carnegie Mellon University（卡内基梅隆大学）
本文研究了在基于LLM的漏洞检测中选择少样本示例的两种标准，并发现不同编程语言对示例选择的响应不同。
2026-02-04 cs.CR cs.LG cs.SE
Trial2Vec: Zero-Shot Clinical Trial Document Similarity Search using Self-Supervision
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
临床试验对于药物开发至关重要，但进行起来极其昂贵和耗时。在设计临床试验时，研究类似的历史试验是有益的。然而，冗长的试验文件和缺乏标记的数据，使试验相似性搜索困难。我们提出了一个zero-shot临床试验检索方法Trial 2 Vec，它通过自我监督学习，而不注释类似的临床试验。具体而言，审判文件的元结构（例如，标题、资格标准、目标疾病）以及临床知识（例如，UMLS知识库https：//www.nlm.nih.gov/research/umls/index.html）被用来自动生成对比样本。此外，Trial 2 Vec编码审判文件考虑元结构，从而产生紧凑的嵌入聚合多方面的信息，从整个文件。我们表明，我们的方法通过可视化产生了医学上可解释的嵌入，并且在试验检索的精确度/召回率方面比最佳基线平均提高了15%，这是在我们标记的1600个试验对上进行的评估。此外，我们证明了预训练的嵌入有利于下游试验结果预测任务超过24万次试验。软件可在https://github.com/RyanWangZf/Trial2Vec上获得。
2022-10-09 cs.AI cs.CL cs.LG
RadZero: Similarity-Based Cross-Attention for Explainable Vision-Language Alignment in Chest X-ray with Zero-Shot Multi-Task Capability
DEEPNOID Inc.（DEEPNOID 公司）
RadZero 提出基于相似度的交叉注意力模块 VL-CABS，通过大语言模型提取语义句子和多正例对比训练，实现胸部X光中可解释的视觉-语言对齐及零样本分类、定位与分割，并在多个基准上超越现有方法。
2025-11-06 cs.CL cs.CV cs.LG
Zero Shot Molecular Generation via Similarity Kernels
Engineering Laboratory, University of Cambridge, Trumpington St（剑桥大学工程实验室）；Institute for Computational Physics, University of Stuttgart, 70569 Stuttgart, Germany（斯图加特大学计算物理研究所）；Department of Energy Conversion and Storage, Technical University of Denmark, Anker Engelunds Vej 301, 2800 Kgs. Lyngby, Denmark（丹麦技术大学能源转换与存储系）
本文通过分析基于能量的扩散模型中分数的行为，提出零样本分子生成方法SiMGen，利用时间相关相似性核和预训练力场描述符实现无需训练的可控分子生成。
2024-02-13 cs.LG physics.chem-ph
Data Similarity-Based One-Shot Clustering for Multi-Task Hierarchical Federated Learning
University of North Carolina at Charlotte（北卡罗来纳大学夏洛特分校）
针对多任务分层联邦学习中的任务异质性问题，本文提出一种基于数据相似性的一次性聚类算法，无需模型先验知识即可有效分组用户，在CIFAR-10和Fashion MNIST上取得优于基线的准确率与方差表现。
2024-10-03 cs.IT cs.LG cs.NI
CLAMS: A System for Zero-Shot Model Selection for Clustering
Eindhoven University of Technology（埃因霍温理工大学）
提出CLAMS系统，利用最优传输数据集相似性实现聚类零样本模型选择，超越多个基线，开辟AutoML新领域。
2024-07-15 cs.AI cs.LG
Universal Hopfield Networks: A General Framework for Single-Shot Associative Memory Models
MRC Brain Network Dynamics Unit（MRC脑网络动力学单元）；University of Oxford（牛津大学）
大量的神经网络模型的联想记忆已被提出的文献。这些包括经典的Hopfield网络（HN），稀疏分布式存储器（SDM），以及最近的现代连续Hopfield网络（MCHN），它与机器学习中的自注意力有着密切的联系。在本文中，我们提出了一个通用的框架来理解这种记忆网络的操作作为一个序列的三个操作：相似性，分离和投影。我们得出所有这些记忆模型的实例，我们的一般框架与不同的相似性和分离功能。我们扩展了Krotov等人（2020）的数学框架，以使用神经元之间仅具有二阶相互作用的神经网络动力学来表达一般联想记忆模型，并推导出作为动力学的Lyapunov函数的一般能量函数。最后，使用我们的框架，我们经验性地调查这些联想记忆模型使用不同的相似性函数的能力，超越了点积相似性度量，并经验性地证明，欧几里德或曼哈顿距离相似性度量在许多任务中的实际表现更好，使更强大的检索和更高的内存容量比现有的模型。
2022-06-17 cs.AI cs.LG cs.NE
Phoneme Hallucinator: One-shot Voice Conversion via Set Expansion
University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校）
针对语音转换中可懂度与说话人相似度难以兼得的问题，提出音素幻觉器，通过幻觉目标说话人音素并基于邻居转换，实现一次性、无文本、任意到任意的语音转换，在可懂度和相似度上均优于现有方法。
2023-12-30 cs.LG cs.SD eess.AS
Cross-modal Zero-shot Hashing by Label Attributes Embedding
Southwest University（西南大学）；Shandong University（山东大学）；Joint SDU-NTU Centre for Artificial Intelligence Research（山东大学-南洋理工大学人工智能联合研究中心）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；George Mason University（乔治梅森大学）
跨模态哈希算法是跨模态近似最近邻搜索中最有前途的方法之一。大多数CMH解决方案理想地假设训练集和测试集的标签是相同的。然而，该假设经常被违反，导致zero-shot CMH问题。最近的努力，以解决这个问题的重点是转移知识从可见的类看不见的标签属性。然而，属性是孤立的多模态数据的特征。为了减少信息差距，我们引入了一种方法，称为LAEH（标签属性嵌入zero-shot跨模态哈希）。LAEH首先通过word2vec模型得到标签的初始语义属性向量，然后使用一个转换网络将它们转换到一个公共子空间中。接下来，它利用哈希向量和特征相似性矩阵来指导不同模态的特征提取网络。同时，利用属性相似度作为标签相似度的补充，对标签嵌入和公共子空间进行修正。实验表明，LAEH算法优于相关的代表性的zero-shot和跨模态散列方法。
2021-11-07 cs.AI cs.CV cs.LG
GC-TTS: Few-shot Speaker Adaptation with Geometric Constraints
Korea University（高丽大学）
Few-Shot说话人自适应是一种特殊的文语转换（TTS）系统，其目标是用少量的训练数据再现一个新的说话人的声音。虽然已经对Few-Shot说话者自适应系统进行了许多尝试，但是在取决于数据量的说话者与目标说话者的相似性方面仍然存在差距。为了弥补这一差距，我们提出了GC-TTS，它实现了高质量的说话人自适应显着提高说话人相似性。具体来说，我们利用两个几何约束来学习区分性说话人表示。在这里，TTS模型是针对具有足够数据量的基本扬声器进行预训练的，然后针对具有两个几何约束的几分钟数据的新扬声器进行微调。两个几何约束使该模型能够从有限的数据中提取有区别的说话人嵌入，这导致了可理解的语音合成。我们讨论和验证GC-TTS的有效性，通过比较它与流行的和必要的方法。实验结果表明，GC-TTS生成高质量的语音，从只有几分钟的训练数据，优于标准的技术，在说话人的相似性目标扬声器。
2021-08-16 cs.LG cs.SD eess.AS
Edge-labeling Graph Neural Network for Few-shot Learning
Korea Advanced Institute of Science and Technology（韩国科学技术院）；Kakao Brain；MILA, Université de Montréal（蒙特利尔大学MILA）
在本文中，我们提出了一种新的边缘标记图神经网络（EGNN），它在边缘标记图上适应深度神经网络，用于少样本学习。以前的图神经网络（GNN）方法在少样本学习是基于节点标记的框架，它隐含地模型的类内相似性和类间不相似性。相比之下，所提出的EGNN学习预测的边缘标签，而不是节点标签上的图形，使显式聚类的进化迭代更新的边缘标签，直接利用两个集群内的相似性和集群间的相异性。它也非常适合在各种数量的类上执行而无需重新训练，并且可以很容易地扩展以执行转换推理。EGNN的参数是通过带有边缘标记损失的情景训练来学习的，以获得用于不可见低数据问题的可推广模型。在两个基准数据集的监督和半监督Few-Shot图像分类任务上，所提出的EGNN显着提高了现有GNN的性能。
2019-05-04 cs.CV cs.LG
A Lightweight Measure of Classification Difficulty from Application Dataset Characteristics
Nokia Bell Labs（诺基亚贝尔实验室）；Stony Brook University（石溪大学）
针对少类场景下模型性能预测需重复训练测试的问题，提出基于余弦相似度的轻量级分类难度度量S，可快速预测同家族模型相对性能，助力高效选模型，已在多模型多数据集及工业场景验证有效。
2024-10-29 cs.CV cs.LG
Embedding Synthetic Off-Policy Experience for Autonomous Driving via Zero-Shot Curricula
Waymo, LLC（威莫有限责任公司）
基于ML的运动规划是一种很有前途的方法，产生代理，表现出复杂的行为，并自动适应新的环境。在自动驾驶的背景下，通常平等地对待所有可用的训练数据。然而，这种方法产生的代理在安全关键的设置中不能稳健地执行，这是一个无法通过简单地向训练集添加更多数据来解决的问题-我们表明，仅使用10%的数据子集训练的代理与在整个数据集上训练的代理一样好。我们提出了一种方法，根据从部署在公共道路上的自动驾驶汽车车队收集的数据来预测驾驶情况的固有难度。然后，我们证明，这个难度分数可以用在一个zero-shot转移生成课程的模仿学习为基础的规划代理。与在整个无偏训练数据集上进行训练相比，我们发现，在闭环评估中，优先考虑困难的驾驶场景既减少了15%的碰撞，又增加了14%的路线遵守，而所有这些都只使用了10%的训练数据。
2022-12-02 cs.AI cs.LG cs.RO
GeneCIS: A Benchmark for General Conditional Image Similarity
Meta AI；University of Oxford（牛津大学）
针对现有图像相似性模型仅适配单一相似性定义的问题，提出零样本评估的GeneCIS基准，并设计基于图像字幕数据挖掘的可扩展方法，在多项基准上实现性能提升。
2023-06-13 cs.AI cs.CV cs.LG
Probabilistic Zero-shot Classification with Semantic Rankings
The Ohio State University（俄亥俄州立大学）
在本文中，我们提出了一个非度量排名为基础的表示语义相似性，允许自然聚合的语义信息从多个异构源。我们将基于排名的表示应用于零样本学习问题，并提出了确定性和概率性的zero-shot分类器，可以从预先训练的分类器中构建，而无需重新训练。我们在两个大型的真实世界图像数据集上展示了它们的优势。特别是，我们表明，聚合不同来源的语义信息，包括众包，导致更准确的分类。
2015-02-27 cs.AI cs.CV cs.LG
SDM-Net: A Simple and Effective Model for Generalized Zero-Shot Learning
Rice University（莱斯大学）
零样本学习（Zero-Shot Learning，缩写为ZRL）是一种分类任务，在这种任务中，我们甚至没有来自一组看不见的类的单个训练标记的示例。相反，我们只有关于可见和不可见类的先验信息（或描述），通常以物理可实现或描述性属性的形式。缺乏来自一组类的任何单个训练样本禁止使用标准分类技术和损失，包括流行的交叉熵损失。目前，最先进的方法将先前的类信息编码为密集向量，并优化输入向量的学习投影与相应的类向量之间的距离（统称为嵌入模型）。在本文中，我们提出了一种新的架构铸造零样本学习作为一个标准的神经网络的交叉熵损失。在训练过程中，我们的方法通过将所观察到的用于可见类的训练数据与来自我们没有训练数据或看不见类的属性的相似性信息相结合来执行软标记。据我们所知，这种基于相似性的软标记在深度学习领域中没有被探索。我们在零样本学习，AwA，aPY，SUN和CUB数据集的四个基准数据集上评估了所提出的模型，并表明我们的模型在所有这些数据集上的广义学习和学习设置中都取得了显着的改进。
2020-12-31 cs.CV cs.LG
Masked Momentum Contrastive Learning for Zero-shot Semantic Understanding
University of Surrey（萨里大学）；Carnegie Mellon University（卡内基梅隆大学）
针对大模型微调成本高的问题，提出结合掩码图像建模、动量自蒸馏与全局对比的MMC自监督预训练方法，无需微调即可提升零样本语义分割性能。
2023-08-22 cs.CV cs.LG
Few-Shot Scenario Testing for Autonomous Vehicles Based on Neighborhood Coverage and Similarity
PKU-WUHAN Institute for Artificial Intelligence（北京大学-武汉人工智能研究院）；Tsinghua University（清华大学）；Beijing National Research Center for Information Science and Technology (BNRist)（北京信息科学与技术国家研究中心）；Tsinghua-Berkeley Shenzhen Institute (TBSI)（清华-伯克利深圳学院）；Hebei Expressway Group Limited（河北高速公路集团有限公司）
本文首次提出自动驾驶汽车少样本测试问题，通过基于邻域覆盖与相似性的优化框架动态选择测试场景，并利用代理模型先验信息建立评估误差上界，在有限测试数量下显著降低评估误差与方差。
2024-04-23 cs.LG cs.RO cs.SE
What am I Searching for: Zero-shot Target Identity Inference in Visual Search
我们能从一个人的行为中推断出他的意图吗？作为一个示例问题，这里我们考虑如何通过解码他们的眼球运动行为来破译一个人正在搜索的内容。我们进行了两个心理物理学实验，我们监测眼球运动，而受试者寻找一个目标对象。我们将落在\textit{non-target}对象上的注视点定义为“错误注视点”。利用这些错误固定，我们开发了一个模型（InferNet）来推断目标是什么。InferNet使用预先训练的卷积神经网络从错误固定中提取特征，并计算错误固定与搜索图像中所有位置之间的相似性图。该模型整合了跨层的相似性图，并将这些图集成到所有错误固定中。InferNet成功地识别了受试者的目标，并优于竞争性空模型，即使在推理任务上没有任何特定于对象的训练。
2020-05-28 cs.AI cs.CV cs.LG
MeanVoiceFlow2: Joint Optimization of Mean Flow and Content Encoder for Fast One-Step Zero-Shot Voice Conversion
NTT, Inc.（日本电信电话株式会社）
提出MeanVoiceFlow2，联合优化均值流与高效内容编码器，通过蒸馏和扩散GAN训练，实现零样本语音转换中更高质量和约9倍加速。
2026-10-01 cs.AI cs.LG cs.SD
