Improving Semantic Embedding Consistency by Metric Learning for Zero-Shot Classification
Normandie Univ, UNICAEN, ENSICAEN, CNRS（诺曼底大学，卡昂大学，卡昂国立高等工程师学校，国家科学研究中心）；ONERA - The French Aerospace Lab（法国国家航空航天研究院）
本文研究了zero-shot图像分类的问题。所提出的方法的关键贡献是控制图像的语义嵌入-零样本学习的主要成分之一-通过将其制定为度量学习问题。优化后的经验标准关联两种类型的子任务约束：度量区分能力和准确的属性预测。这导致了一种新的零样本学习的表达，在训练阶段不需要类的概念：只有对图像/属性，增强了一致性指标，作为地面真理。在测试时，学习的模型可以预测测试图像与给定属性集的一致性，从而允许以灵活的方式产生识别推断。尽管它的简单性，所提出的方法给出了国家的最先进的结果四个具有挑战性的数据集用于zero-shot识别评估。
2016-07-27 cs.AI cs.CV cs.LG
Zero-Shot Recognition via Optimal Transport
Duke University（杜克大学）；Renmin University of China（中国人民大学）；Amazon Alexa AI（亚马逊Alexa人工智能部门）；Facebook Inc（脸书公司）
我们提出了一个最佳运输（OT）的框架广义零样本学习（GSTML），寻求区分样本的可见和不可见的类，辅助属性。特征和属性之间的差异最小化通过解决最优运输问题。{具体来说，我们建立了一个条件生成模型来从所见的类属性中生成特征，并在生成的特征的分布和真实特征的分布之间建立最佳传输。}生成模型和最佳传输迭代优化与基于属性的正则化，进一步提高了所生成的功能的区分能力。分类器是基于为可见类和不可见类生成的特征来学习的。除了广义的零样本学习，我们的框架也适用于标准和转换的学习问题。实验表明，我们的最佳传输为基础的方法优于国家的最先进的方法在几个基准数据集。
2020-12-27 cs.CV cs.LG stat.ML
Beyond Transduction: A Survey on Inductive, Few Shot, and Zero Shot Link Prediction in Knowledge Graphs
Université de Lorraine（洛林大学）；CNRS（法国国家科学研究中心）；Université Côte d’Azur（蔚蓝海岸大学）；Inria（法国国家信息与自动化研究所）；University of Mannheim（曼海姆大学）
本文系统综述知识图谱中的归纳、少样本与零样本链接预测，剖析各设定特征，指出术语和定义分歧，并提出统一命名法以促进方法比较。
2023-12-08 cs.AI cs.LG
Inductive Linear Probing for Few-shot Node Classification
Arizona State University（亚利桑那州立大学）
针对现有元学习方法多聚焦直推式少样本节点分类、忽视归纳式场景的问题，本文通过实证揭示现有框架局限，提出适配归纳式少样本节点分类的简单强基线，为理解图域元学习提供新方向。
2023-06-14 cs.LG cs.SI
Few-Shot Inductive Learning on Temporal Knowledge Graphs using Concept-Aware Information
Ludwig Maximilian University of Munich（慕尼黑大学）；Siemens AG（西门子股份公司）；Technical University of Munich（慕尼黑工业大学）
知识图谱完备化（KGC）旨在预测知识图谱（KG）实体之间的缺失链接。虽然已经为KGC开发了各种方法，但大多数方法只能处理训练集中看到的KG实体，并且不能很好地预测测试集中涉及新实体的链接。时态知识图谱（TKG）也存在类似的问题，并且没有先前的时态知识图谱完备（TKGC）方法被开发用于对新出现的实体进行建模。与KG相比，TKG需要时间推理技术来建模，这自然增加了处理新的，但看不见的实体的难度。在这项工作中，我们专注于归纳学习看不见的实体的表征TKG。我们提出了一个Few-Shot out-of-graph（OOG）的TKG链接预测任务，在该任务中，我们通过采用元学习框架并利用与每个未见过实体相关联的少量边所提供的元信息，从未见过实体的链接中预测丢失的实体。我们构建了三个新的数据集TKG Few-Shot OOG链接预测，我们提出了一个模型，挖掘实体之间的概念感知信息。实验结果表明，我们的模型在所有三个数据集上都取得了优异的性能，我们的概念感知建模组件表现出很强的效果。
2022-11-15 cs.AI cs.LG
Subgraph-aware Few-Shot Inductive Link Prediction via Meta-Learning
Sun Yat-sen University（中山大学）
知识图谱的链接预测旨在预测实体之间的缺失连接。现有的方法局限于一个转导设置和难以处理看不见的实体。最近提出的基于子图的模型提供了替代方案来预测从候选三元组周围的子图结构的链接。然而，这些方法需要大量的已知事实来训练三胞胎，并且在只有几个三胞胎的关系上表现不佳。在本文中，我们提出了Meta-iKG，一种新的基于子图的元学习器的Few-Shot归纳关系推理。Meta-iKG利用局部子图来传输特定于子图的信息，并通过Meta梯度更快地学习可转移模式。通过这种方式，我们发现模型可以快速适应Few-Shot关系，只需使用少量具有归纳设置的已知事实。此外，我们在传统的元学习中引入了大镜头关系更新过程，以确保我们的模型可以很好地推广Few-Shot和大镜头关系。我们在NELL和Freebase的归纳基准上对Meta-iKG进行了评估，结果表明Meta-iKG在Few-Shot场景和标准归纳设置中都优于当前最先进的方法。
2021-07-26 cs.LG cs.SI
Improving Few-Shot Inductive Learning on Temporal Knowledge Graphs using Confidence-Augmented Reinforcement Learning
LMU Munich（慕尼黑大学）；Siemens AG（西门子股份公司）
针对时序知识图谱少样本图外链接预测任务，提出结合少样本学习与强化学习的FITCARL方法，通过置信度模块和概念正则化器提升性能，达到当前最优水平。
2023-06-11 cs.AI cs.LG
Inductive Link Prediction for Nodes Having Only Attribute Information
University of New South Wales（新南威尔士大学）；University of Science and Technology of China（中国科学技术大学）；The Chinese University of Hong Kong（香港中文大学）
预测两个节点之间的链接是图数据分析的基本问题。在属性图中，结构和属性信息都可以用于链接预测。大多数现有的研究集中在两个节点都已经在图中的转导链接预测。然而，许多现实世界的应用需要归纳预测新的节点只有属性信息。这更具挑战性，因为新节点没有结构信息，并且在模型训练期间无法看到。为了解决这个问题，我们提出了一个称为DEAL的模型，它由三个组件组成：两个节点嵌入编码器和一个对齐机制。两个编码器分别输出面向属性的节点嵌入和面向结构的节点嵌入，对齐机制将两类嵌入对齐，建立属性和链接之间的连接。我们的模型DEAL是通用的，在这个意义上，它适用于感应和转导链接预测。在多个基准数据集上的大量实验表明，该模型的性能明显优于现有的归纳链接预测方法，也优于现有的归纳链接预测方法.
2020-07-16 cs.LG cs.SI stat.ML
Towards One-Shot Learning for Text Classification using Inductive Logic Programming
University of Surrey（萨里大学）
本文提出利用归纳逻辑编程中的元解释学习框架，结合ConceptNet常识知识，实现从极少量样本进行文本分类的一次性学习，并发现示例复杂度越高准确率越高。
2023-08-30 cs.CL cs.LG cs.LO
TRIX: A More Expressive Model for Zero-shot Domain Transfer in Knowledge Graphs
Purdue University（普渡大学）；Intel AI Lab（英特尔人工智能实验室）
TRIX是一种更具表达力的全归纳知识图谱模型，支持零样本域迁移，在实体和关系预测上优于现有方法及大上下文LLM。
2025-02-26 cs.LG
On the Inductive Biases of Demographic Parity-based Fair Learning Algorithms
The Chinese University of Hong Kong（香港中文大学）
本研究揭示基于人口均等（DP）的公平学习算法在敏感属性分布不均的不平衡训练集上会产生偏向多数类的归纳偏置，提出SA-DRO方法提升对敏感属性边缘分布的鲁棒性，实验验证了理论结论与方法的去偏效果。
2024-06-20 cs.AI cs.IT cs.LG
Inductive Biases for Zero-shot Systematic Generalization in Language-informed Reinforcement Learning
Sharif University of Technology（谢里夫理工大学）
本文针对强化学习中的样本效率和系统泛化挑战，基于NPS提出模块化与稀疏性架构级归纳偏置，并赋予记忆核心角色，在BabyAI环境中显著提升了模型的零样本系统泛化与样本效率。
2025-01-25 cs.AI cs.CL cs.LG
Target inductive methods for zero-shot regression
ArcelorMittal（安赛乐米塔尔）；University of Oviedo（奥维耶多大学）；Artificial Intelligence Center（人工智能中心）
本文针对气象站污染物预测的零样本回归问题，提出基于相似性聚合和参数学习两种方法，后者通过学习辅助信息与特征模型对应关系，在多个数据集上优于基线。
2024-02-02 cs.LG
Inductive Graph Few-shot Class Incremental Learning
The University of Queensland（昆士兰大学）；CSIRO（联邦科学与工业研究组织）；University of Oxford（牛津大学）；Data61, CSIRO（Data61（联邦科学与工业研究组织下属机构））
针对归纳式图少样本类增量学习中的灾难性遗忘和过拟合问题，提出基于拓扑的类增强与原型校准方法（TAP），通过多拓扑类增强、迭代原型校准和原型偏移补偿，在四个数据集上有效提升了模型泛化与增量学习性能。
2024-11-11 cs.LG
Adapted Deep Embeddings: A Synthesis of Methods for $k$-Shot Inductive Transfer Learning
University of Colorado, Boulder（科罗拉多大学博尔德分校）
机器学习的重点已经超出了在单个任务上训练分类器，而是研究如何利用源域中先前获得的知识来促进相关目标域中的学习，称为归纳迁移学习。三个活跃的研究方向已经独立地探索了使用神经网络的迁移学习。在权重转移中，在源域上训练的模型被用作在目标域上训练的网络的初始化点。在深度度量学习中，源域用于构建嵌入，该嵌入捕获源域和目标域中的类结构。在少样本学习中，重点是基于有限数量的标记示例在目标域中很好地泛化。我们比较了这三种范式中最先进的方法，并探索了混合自适应嵌入方法，该方法使用有限的目标域数据来微调从源域数据构建的嵌入。我们进行了系统的比较，在各种领域的方法，不同的标记实例的数量在目标域（$k$），以及目标域类的数量。我们得出三个主要结论：（1）与权重转移相比，深度嵌入作为域间转移或模型重用的起点要优越得多（2）我们的混合方法稳健地优于之前提出的每一个少样本学习和每一个深度度量学习方法，平均误差比最先进的方法减少了34%。（3）在用于发现嵌入的损失函数中，直方图损失（Ustinova & Lempitsky，2016）是最稳健的。我们希望我们的研究结果将推动权重转移、深度度量学习和少样本学习的研究统一起来。
2018-10-27 cs.LG stat.ML
A Foundation Model for Zero-shot Logical Query Reasoning
Intel AI Lab（英特尔人工智能实验室）；Purdue University（普渡大学）；Mila - Québec AI Institute（米拉-魁北克人工智能研究所）；HEC Montréal（蒙特利尔高等商学院）；CIFAR AI Chair（加拿大高级研究院人工智能讲席）；Université de Montréal（蒙特利尔大学）
本文提出首个面向归纳推理的基础模型UltraQuery，通过将投影和逻辑运算设计为与词表无关的函数，实现任意知识图谱上的零样本复杂逻辑查询回答，在23个数据集上验证了其优越性能。
2024-10-01 cs.AI cs.LG
Few-shot link prediction via graph neural networks for Covid-19 drug-repurposing
Amazon Web Services AI Lab（亚马逊云科技人工智能实验室）
预测异构图结构数据之间的交互具有许多应用，例如知识图谱完成、推荐系统和药物发现。通常情况下，要预测的联系属于罕见类型，例如将药物用于新疾病的情况。这激发了Few-Shot链接预测的任务。通常，GCN在学习这种罕见的链接类型时装备不良，因为关系嵌入不是以归纳的方式学习的。本文提出了一个归纳RGCN学习信息的关系嵌入，即使在少样本学习制度。在少样本学习任务中，所提出的归纳模型显著优于RGCN和最先进的KGE模型。此外，我们将我们的方法应用于药物再利用知识图谱（DRKG），以发现新冠病毒药物。我们提出的药物发现任务为链接预测和学习嵌入的生物实体参与DRKG。我们的初步结果证实，临床试验中使用的几种药物被确定为可能的候选药物。本文中的方法是使用高效的深度图学习（DGL）实现的
2020-07-20 cs.LG stat.ML
Tight Lower Bounds on Worst-Case Guarantees for Zero-Shot Learning with Attributes
Brown University（布朗大学）
我们对具有属性的零样本学习进行了严格的数学分析。在这种情况下，目标是标记新的类，没有训练数据，只有属性的检测器和这些属性如何与目标类相关的描述，称为类-属性矩阵。我们开发了第一个非平凡的下界的最坏情况下的错误的最佳映射从属性到类，即使完美的属性检测器。下界刻画了zero-shot问题基于可用信息--类属性矩阵--的理论上的内在困难，并且该界实际上是可以计算的。我们的下界是紧的，因为我们表明，我们总是可以找到一个从属性到类的随机映射，其期望误差的上限是由下界的值确定的。我们表明，我们的分析可以预测标准的zero-shot方法在实践中的行为，包括哪些类可能会与其他类混淆。
2022-11-28 cs.LG
GenZSL: Generative Zero-Shot Learning Via Inductive Variational Autoencoder
Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Huazhong University of Science and Technology（华中科技大学）；Linköping University（林雪平大学）
本文提出 GenZSL，利用 CLIP 文本嵌入和归纳变分自编码器从已见类别生成新类样本，并通过多样性促进与目标引导优化提升 ZSL 性能。
2025-05-17 cs.CV cs.LG
Probabilistic AND-OR Attribute Grouping for Zero-Shot Learning
Google AI（谷歌人工智能）
在零样本学习（Zero-shot learning，ZRL）中，训练分类器在没有任何图像样本的情况下识别视觉类。相反，它被赋予了关于类的语义信息，比如文本描述或一组属性。从属性中学习可以从显式建模属性空间的结构中受益。不幸的是，从经验样本中学习一般结构对于典型的数据集大小是困难的。在这里，我们描述LAGO，概率模型，旨在捕捉自然的软与或属性组之间的关系。我们展示了如何通过深度属性检测模型来端到端地学习这个模型。软组结构可以作为模型的一部分从数据中共同学习，并且还可以容易地结合关于组的先验知识（如果可用的话）。软与或结构成功地捕获了有意义的和预测的结构，提高了零样本学习在三个基准测试中的两个上的准确性。最后，LAGO揭示了两种不同方法的统一公式：DAP（Lampert et al.，2009）和ESSENL（Romera-Paredes & Torr，2015）。有趣的是，每个属性只取一个单例组，引入了一个新的DAP软松弛，比DAP高出约40。
2018-07-07 cs.AI cs.CV cs.LG
Attribute Prototype Network for Zero-Shot Learning
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Aerospace Information Research Institute, Chinese Academy of Sciences（中国科学院空天信息创新研究院）；University of Tübingen（图宾根大学）
从零样本学习研究开始，视觉属性就被证明起着重要的作用。为了更好地将基于属性的知识从已知类转移到未知类，我们认为具有集成属性定位能力的图像表示将有利于零样本学习。为此，我们提出了一种新的zero-shot表示学习框架，该框架仅使用类级属性联合学习判别性全局和局部特征。当视觉语义嵌入层学习全局特征时，通过属性原型网络学习局部特征，该属性原型网络同时从中间特征中回归和解相关属性。我们证明了我们的局部增强图像表示在三个零样本学习基准上达到了新的最先进水平。作为一个额外的好处，我们的模型指向图像中属性的视觉证据，例如对于CUB数据集，确认我们的图像表示的改进的属性本地化能力。
2021-05-06 cs.CV cs.LG
Cross-modal Zero-shot Hashing by Label Attributes Embedding
Southwest University（西南大学）；Shandong University（山东大学）；Joint SDU-NTU Centre for Artificial Intelligence Research（山东大学-南洋理工大学人工智能联合研究中心）；King Abdullah University of Science and Technology（阿卜杜拉国王科技大学）；George Mason University（乔治梅森大学）
跨模态哈希算法是跨模态近似最近邻搜索中最有前途的方法之一。大多数CMH解决方案理想地假设训练集和测试集的标签是相同的。然而，该假设经常被违反，导致zero-shot CMH问题。最近的努力，以解决这个问题的重点是转移知识从可见的类看不见的标签属性。然而，属性是孤立的多模态数据的特征。为了减少信息差距，我们引入了一种方法，称为LAEH（标签属性嵌入zero-shot跨模态哈希）。LAEH首先通过word2vec模型得到标签的初始语义属性向量，然后使用一个转换网络将它们转换到一个公共子空间中。接下来，它利用哈希向量和特征相似性矩阵来指导不同模态的特征提取网络。同时，利用属性相似度作为标签相似度的补充，对标签嵌入和公共子空间进行修正。实验表明，LAEH算法优于相关的代表性的zero-shot和跨模态散列方法。
2021-11-07 cs.AI cs.CV cs.LG
Analysis of Error Sources in LLM-based Hypothesis Search for Few-Shot Rule Induction
Department of Statistics, University of California, Los Angeles（统计学系，加州大学洛杉矶分校）；Microsoft, Redmond, WA（微软公司，西雅图，华盛顿州）；Department of Psychology, University of California, Los Angeles（心理学系，加州大学洛杉矶分校）
该研究针对少样本规则归纳任务，对比基于LLM的假设搜索框架与直接程序生成方法，发现前者性能接近人类，同时通过误差分析明确假设生成的关键瓶颈，指出该框架的应用潜力与系统优化方向。
2025-08-31 cs.AI cs.CL cs.LG
Attributes' Importance for Zero-Shot Pose-Classification Based on Wearable Sensors
Hitachi, Ltd.（日立制作所）；German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）
本文提出了一种简单而有效的方法来提高零样本学习（ZNL）的性能。通过利用类的属性，类L对不可见类的实例进行分类，从这些实例中没有训练数据可用。传统的分类方法对所有可用的属性进行了同等的处理，但有时会导致误分类。这是因为对一个类的实例分类有效的属性对另一个类并不总是有效。在这种情况下，对后一类进行分类的度量可能受到不相关属性的不期望的影响。本文通过在计算度量时考虑每个属性对每个类的重要性来解决这个问题。除了提出这种新方法之外，本文还提供了一个基于可穿戴传感器的姿态分类数据集，名为HDPoseDS。它包含由10名受试者执行的22类姿势，全身有31个IMU传感器。据我们所知，它是最丰富的可穿戴传感器数据集，特别是在传感器密度方面，因此它适合于研究zero-shot姿势/动作识别。在HDPoseDS上对所提出的方法进行了评估，与最佳基线方法相比，该方法的相对改善率为5.9%。
2018-08-02 cs.AI cs.CV cs.LG
Make an Omelette with Breaking Eggs: Zero-Shot Learning for Novel Attribute Synthesis
National Chiao Tung University（国立交通大学）；IBM Research（IBM研究院）
现有的大多数零次分类问题（zero-shot classification problem）算法通常依赖于类别之间基于属性的语义关系来实现新类别的分类，而无需观察任何实例。然而，训练zero-shot分类模型仍然需要对训练数据集中的每个类（甚至实例）进行属性标记，这也是昂贵的。为此，在本文中，我们提出了一个新的问题场景：“我们是否可以为新的属性检测器/分类器导出零样本学习，并使用它们来自动标注数据集以提高标注效率？".基本上，只给出一小组被学习来识别一些手动注释的属性的检测器（即，看到的属性），我们的目标是以零样本学习的方式合成新属性的检测器。我们提出的方法，零样本学习的属性（Zero-Shot Learning for Attributes，简称ZLA），这是第一个同类的，以我们所知的，解决了这个新的研究问题，通过应用集合操作，首先分解看到的属性到他们的基本属性，然后重新组合这些基本属性到新的。进行了大量的实验，以验证我们的合成检测器准确捕捉新属性的语义的能力，并显示其优越的性能相比，其他基线方法的检测和定位。此外，我们展示了自动注释的应用程序，使用我们的合成检测器在加州理工大学UCSD鸟类-200-2011数据集。各种广义的zero-shot分类算法训练的数据集重新注释的MANULA显示与那些训练的手动地面实况注释相当的性能。源代码请参考我们的项目页面：https://yuhs…
2022-11-19 cs.CV cs.LG
Meta-Learned Attribute Self-Gating for Continual Generalized Zero-Shot Learning
Duke University（杜克大学）
零样本学习（Zero-shot learning，简称ZRL）已被证明是一种很有前途的方法，可以通过利用类属性将模型推广到训练过程中看不到的类别，但挑战仍然存在。最近，使用生成模型来对抗训练期间出现的对类别的偏见的方法推动了ZSL的发展水平，但这些生成模型可能速度很慢，或者训练时计算成本很高。此外，虽然许多以前的CNOL方法假设一次性适应看不见的类，但实际上，世界总是在变化，需要不断调整部署的模型。没有准备好处理连续数据流的模型很可能会经历灾难性遗忘。我们提出了一个元连续零样本学习（MCSRL）的方法来解决这两个问题。特别是，通过将属性的自选通和缩放类归一化与基于元学习的训练配对，我们能够超越最先进的结果，同时能够比昂贵的基于生成的方法更快地训练我们的模型（$>100\times$）。我们证明了这一点，通过在五个标准的ARML数据集（CUB，aPY，AWA 1，AWA 2和SUN）在广义零样本学习和广义连续零样本学习设置进行实验。
2021-02-23 cs.AI cs.CV cs.LG
Learning Visual Dynamics Models of Rigid Objects using Relational Inductive Biases
Institute for Anthropomatics and Robotics, Karlsruhe Institute of Technology (KIT)（卡尔斯鲁厄理工学院（KIT）人类工程学与机器人研究所）；Stanford University（斯坦福大学）
赋予机器人类似人类的物理推理能力仍然具有挑战性。我们认为，现有的方法往往忽视时空关系，并通过使用图神经网络（GNNs），结合了关系归纳偏见，我们可以转向利用关系的学习过程。在这项工作中，我们学习行动条件的前向动力学模型的模拟操作任务，从视觉观察，涉及杂乱和不规则形状的物体。我们研究了两种GNN方法，并根据经验评估了它们推广到具有新颖和越来越多对象的场景的能力。第一种，基于图网络（GN）的方法，考虑了显式定义的边缘属性，它不仅始终表现不佳，我们修改了预测未来状态的自动编码器基线，我们的结果表明不同的边缘属性可以显着影响预测。因此，我们开发的自动预测，不依赖于明确定义的边缘属性。它优于基线和基于GN的模型。总的来说，我们的研究结果显示了基于GNN的方法对任务表示的敏感性，关系归纳偏差的有效性，并主张选择轻量级方法，这些方法隐含地推理关系，而不是将这些决定留给人类设计师。
2019-10-23 cs.CV cs.LG eess.IV
Interpretable Few-shot Learning with Online Attribute Selection
School of Computer Science（计算机科学学院）；Carleton University（卡尔顿大学）
提出基于人类友好属性的少样本学习内在可解释模型，通过在线属性选择和未知属性扩充机制，在四个数据集上达到黑盒模型性能并提升决策可解释性。
2025-03-31 cs.CV cs.LG
ACD-CLIP: Decoupling Representation and Dynamic Fusion for Zero-Shot Anomaly Detection
Central South University（中南大学）；Hunan Vocational College of Science and Technology（湖南科技职业学院）
ACD-CLIP通过联合优化特征表征与跨模态融合，解决预训练视觉语言模型在零样本异常检测中的适应性不足问题，提出参数高效卷积低秩适应器和动态融合网关提升检测精度与鲁棒性。
2026-03-27 cs.AI cs.CV cs.LG
Few-Shot Inspired Generative Zero-Shot Learning
Department of Electrical and Computer Engineering University of Windsor（电气与计算机工程系 温莎大学）；Department of Electrical and Computer Engineering Queen’s University（电气与计算机工程系 女王大学）
本文提出FSIGenZ框架，通过模型特定属性评分和双重目的语义正则化，以极少量合成特征实现具有竞争力的生成式零样本学习性能。
2025-06-18 cs.LG
Reinforcement Learning with Physics-Informed Symbolic Program Priors for Zero-Shot Wireless Indoor Navigation
本文提出物理信息程序引导的强化学习框架PiPRL，通过领域特定语言表达物理先验并分层集成神经符号系统，解决了室内导航中部分观测与物理约束问题，显著提升策略性能并将训练时间减少26%以上。
2025-06-27 cs.LG cs.RO
Zero-shot Domain Adaptation Based on Attribute Information
The University of Tokyo（东京大学）；Center for Advanced Intelligence Project, RIKEN（理化学研究所先进智能研究中心）；Data Science Research Laboratories, NEC（日本电气公司数据科学研究实验室）；Future University Hakodate（函馆未来大学）
在本文中，我们提出了一种新的领域自适应方法，可以适用于没有目标数据。我们考虑的情况下，域转移是由一个特定的因素的先验变化，并假设我们知道如何源和目标域之间的先验变化。我们称这个因素为属性，并重新制定的领域自适应问题，利用属性先验，而不是目标数据。在我们的方法中，源数据被重新加权的属性先验估计和数据本身，使它们在目标域中是有用的样本的重量。我们从理论上揭示，我们的方法提供了更精确的估计样本的可转移性比一个简单的基于属性的重新加权的方法。在玩具数据集和基准数据集上的实验结果表明，该方法虽然不使用任何目标数据，但性能良好。
2019-03-13 cs.LG stat.ML
Attribute Propagation Network for Graph Zero-shot Learning
University of Technology Sydney（悉尼科技大学）；University of Washington（华盛顿大学）
零触发学习（zero-shot learning，缩写为ZRL）的目标是训练一个模型来对训练过程中没有看到的类样本进行分类。为了解决这个具有挑战性的任务，大多数CNOL方法通过一组预定义的属性将看不见的测试类与看到的（训练）类联系起来，这些属性可以描述同一语义空间中的所有类，因此在训练类上学习的知识可以适应看不见的类。在本文中，我们的目标是通过训练传播机制来优化属性空间，以便根据类图上的邻居和相关类来细化每个类的语义属性。我们表明，传播的属性可以产生分类器的zero-shot类显着提高性能，在不同的BNL设置。类的图通常是免费的或非常便宜的，例如WordNet或ImageNet类。当没有提供图时，给定类的预定义语义嵌入，我们可以学习以端到端方式生成图的机制以及传播机制。然而，这种图形辅助技术尚未在文献中得到很好的探讨。在本文中，我们介绍了属性传播网络（APNet），它是由1）一个图传播模型产生的属性向量为每个类和2）一个参数化的最近邻（NN）分类器分类图像的类与最近的属性向量图像的嵌入。为了更好地推广看不见的类，不同于以前的方法，我们采用了元学习策略训练的传播机制和相似性度量的NN分类器上的多个子图，每个与一个分类任务的训练类的子集。在两个零样本学习设置和五个基准数据集的实验中，APNet实现了令人信服的性能或新的最先进的结果。
2020-09-24 cs.CV cs.LG
Multi-Objective Few-shot Learning for Fair Classification
IBM Research（IBM研究院）；Microsoft Research Lab（微软研究院实验室）；Dublin City University（都柏林城市大学）；University of Glasgow（格拉斯哥大学）
在本文中，我们提出了一个通用框架，用于减轻预测类相对于数据中的次要属性（例如，种族、性别等）。我们提出的方法涉及学习多目标函数，除了学习从数据中预测主要类别标签的主要目标之外，还采用基于聚类的启发式算法来最小化类别标签分布相对于聚类成员的差异，假设每个聚类应该理想地映射到属性值的不同组合。实验表明，有效缓解认知偏差的基准数据集，而不使用的注释的次要属性值（zero-shot的情况下）或使用少量的属性值注释（Few-Shot的情况下）。
2021-10-05 cs.CL cs.LG
Probing Few-Shot Generalization with Attributes
New York University（纽约大学）；Google（谷歌）；Stanford University（斯坦福大学）；NVIDIA（英伟达）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Baylor College of Medicine（贝勒医学院）；Rice University（莱斯大学）；Columbia University（哥伦比亚大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
尽管深度学习取得了令人印象深刻的进展，但推广远远超出训练分布是一个重要的开放性挑战。在这项工作中，我们考虑了Few-Shot分类，并旨在阐明是什么使一些新的类比其他类更容易学习，以及什么类型的学习表示更好地推广。为此，我们定义了一个新的范式的属性-简单的积木，概念的形成-作为一种手段，量化不同概念的相关程度。我们的实证分析表明，监督学习对新属性的泛化能力很差，但将自我监督预训练与监督微调相结合会产生更强的泛化能力。自我监督的预训练和监督微调的好处进一步研究通过控制实验使用随机分裂的属性空间，我们发现，测试属性的可预测性提供了一个模型的泛化能力的信息估计。
2022-05-30 cs.CV cs.LG stat.ML
Attention Based Simple Primitives for Open World Compositional Zero-Shot Learning
Information Technology University（信息技术大学）；University of Ontario Institute of Technology（安大略理工大学）；MBZUAI（穆罕默德·本·扎耶德人工智能大学）
本研究提出基于注意力的简单原语（ASP）模型，利用自注意力机制和ConceptNet外部知识，解决开放世界组合零样本学习中的未见组合预测问题，性能与最先进方法相当。
2024-07-18 cs.CV cs.LG
Meta-Learned Attribute Self-Interaction Network for Continual and Generalized Zero-Shot Learning
FAIR, Meta（元实境实验室（Meta））；IITG（印度理工学院瓜哈提分校）；KAUST（阿卜杜拉国王科技大学）；Duke University（杜克大学）
本文提出元学习属性自交互网络MAIN，结合属性自交互与逆正则化，在不使用未见类属性的情况下实现持续与广义零样本学习，训练速度比生成式方法快100倍以上，并在五个标准数据集上取得领先性能。
2023-12-02 cs.CV cs.LG stat.ML
Rethink, Revisit, Revise: A Spiral Reinforced Self-Revised Network for Zero-Shot Learning
当前的零样本学习（Zero-Shot Learning，简称ZRL）方法难以学习能够捕捉复杂相关性的可概括语义知识。受\emph{Spiral Curriculum}的启发，它通过重温知识来增强学习过程，我们提出了一种螺旋学习的形式，它基于一系列属性组（例如，\emph{color}和\emph{shape}的组合组）。螺旋学习旨在学习广义的局部相关性，使模型能够逐渐增强全局学习，从而理解复杂的相关性。我们的实现是基于一个2阶段的\emph{Reinforced Self-Revised (RSR)}框架：\emph{preview}和\emph{review}。RSR首先预览视觉信息，以弱监督的方式构建不同的属性组。然后，它基于属性组学习细化的局部，并使用局部来修正全局语义相关性。我们的框架在zero-shot和广义zero-shot设置中的四个基准数据集上的性能优于最先进的算法，这证明了螺旋学习在学习可推广和复杂相关性方面的有效性。我们还进行了广泛的分析，表明属性组和强化决策过程可以捕获互补的语义信息，以提高预测和辅助解释。
2021-12-01 cs.CV cs.LG
Mutually Causal Semantic Distillation Network for Zero-Shot Learning
Huazhong University of Science and Technology（华中科技大学）；National Anti-Counterfeit Engineering Research Center（国家防伪工程技术研究中心）；Nanjing University of Science and Technology（南京理工大学）
本文提出互因果语义蒸馏网络MSDN++，通过双向因果注意力子网络学习视觉与属性间的内在语义表示，提升零样本学习性能。
2026-03-18 cs.CV cs.LG
Extending Music Annotation Schemas: Zero-Shot Prediction or Few-Shot Adaptation?
Queen Mary University of London（伦敦玛丽女王大学）
针对音乐标注模式扩展问题，提出基于MGPHot数据集的基准，对比零样本预测与监督适应，发现监督适应在较小预算下更优，冻结表示复用为适度预算下最有效方案。
2026-10-07 cs.LG cs.SD
ZS-BERT: Towards Zero-Shot Relation Extraction with Attribute Representation Learning
National Taiwan University（国立台湾大学）；National Cheng Kung University（国立成功大学）
虽然关系抽取是知识获取和表示中的一项重要任务，并且新生成的关系在现实世界中很常见，但在预测在训练阶段无法观察到的看不见的关系方面所做的努力较少。在本文中，我们制定了zero-shot关系抽取问题，将可见和不可见的关系的文本描述。我们提出了一种新的多任务学习模型，zero-shot BERT（ZH-BERT），直接预测看不见的关系，而无需手工制作的属性标签和多个成对分类。给定由输入句子和它们之间关系的描述组成的训练实例，Escher-BERT学习两个函数，通过联合最小化它们之间的距离和对所看到的关系进行分类，将句子和关系描述投影到嵌入空间中。基于这两个函数生成未见关系和新句子的嵌入，使用最近邻搜索来获得未见关系的预测。在两个著名的数据集上进行的实验表明，EST-BERT可以比现有的方法至少提高13.54%的F1得分。
2021-04-10 cs.CL cs.IR cs.LG
Efficient Few-shot Identity Preserving Attribute Editing for 3D-aware Deep Generative Models
Department of Computer Science（计算机科学系）；UC San Diego（圣地亚哥大学）；UC San Diego La Jolla, CA 92093（圣地亚哥大学）
本研究针对3D人脸身份保持属性编辑的挑战，结合3D感知生成模型与2D编辑技术，仅需10张以内标注样本即可估计潜在空间编辑方向，还验证了编辑线性性并探究了3D一致的人脸老化风格流形。
2025-10-21 cs.CV cs.LG
Multi-Head Self-Attention via Vision Transformer for Zero-Shot Learning
University of Exeter（埃克塞特大学）
零样本学习（Zero-Shot Learning，简称ZRL）旨在识别在训练阶段未观察到的不可见对象类。现有的关于图像识别的研究大多依赖于预先训练的视觉特征，缺乏明确的图像属性定位机制。在这项工作中，我们提出了一个基于注意力的模型，在问题设置中学习属性有用的看不见的类识别。我们的方法使用了一个注意力机制改编自视觉Transformer捕获和学习的歧视性属性分割成小块的图像。我们在三个流行的WML基准上进行实验（即，AWA 2，CUB和SUN），并设置新的最先进的调和平均结果{在所有三个数据集}，这说明了我们提出的方法的有效性。
2021-07-30 cs.CV cs.LG
Inductive Representation Learning on Large Graphs
Stanford University（斯坦福大学）
大型图中节点的低维嵌入在各种预测任务中非常有用，从内容推荐到识别蛋白质功能。然而，大多数现有的方法要求在嵌入的训练期间图中的所有节点都存在;这些以前的方法本质上是转导的，并且不会自然地推广到看不见的节点。在这里，我们提出了GraphSAGE，一个通用的归纳框架，利用节点特征信息（例如，文本属性）来有效地生成先前未见过的数据的节点嵌入。我们不是为每个节点训练单独的嵌入，而是学习一个函数，该函数通过从节点的局部邻域中采样和聚合特征来生成嵌入。我们的算法在三个归纳节点分类基准上的性能优于强基线：我们根据引用和Reddit帖子数据对不断变化的信息图中的未见过节点的类别进行分类，并且我们表明我们的算法使用多图数据集推广到完全未见过的图蛋白质-蛋白质相互作用。
2018-09-10 cs.LG cs.SI stat.ML
