Hubs and Hyperspheres: Reducing Hubness and Improving Transductive Few-shot Learning with Hyperspherical Embeddings
UiT The Arctic University of Norway（挪威北极大学UiT）；Norwegian Computing Center（挪威计算中心）；University of Copenhagen（哥本哈根大学）
基于距离的分类方法经常被用于转换式少样本学习（FSL）。然而，由于图像表示的高维性，FSL分类器容易遭受hubness问题，其中几个点（枢纽）经常出现在其他点的多个最近邻列表中。当来自一个类的中心点经常出现在来自另一个类的点的最近邻居中时，中心度会对基于距离的分类产生负面影响，从而降低分类器的性能。为了解决FSL中的hubness问题，我们首先证明了hubness可以通过在超球面上均匀分布表示来消除。然后，我们提出了两种新的方法来嵌入表示的超球体，我们证明优化均匀性和局部相似性保护之间的权衡-减少枢纽，同时保留类结构。我们的实验表明，所提出的方法减少了hubness，并显着提高了广泛的分类器的转导FSL的准确性。
2023-03-16 cs.CV
HEART: Hyperspherical Embedding Alignment via Kent-Representation Traversal in Diffusion Models
Purdue University（普渡大学）
本文提出HEART框架，通过超球面几何对齐实现图像生成中的直观精确编辑，无需微调或优化，提升控制精度与稳定性。
2026-05-08 cs.CV
Quantifying Training Membership Information in the Hyperspherical Embedding Geometry of Face Recognition Models
Idiap Research Institute（Idiap研究所）；Université de Lausanne (UNIL)（洛桑大学）
研究在人脸识别模型超球面嵌入几何中量化训练成员信息，通过计算基于聚类几何的四个统计量，分析训练因素对成员/非成员可分离性的影响，还分析跨域情况，最后融合统计量与分类器揭示更多成员信息。
2026-07-17 cs.CV
Distance-based Hyperspherical Classification for Multi-source Open-Set Domain Adaptation
Politecnico di Torino（都灵理工大学）；Italian Institute of Technology（意大利技术研究院）
在封闭世界场景中训练的视觉系统在部署时遇到新的环境条件、新的数据分布和新的类别时会失败。如何走向开放世界学习是一个长期存在的研究问题。现有的解决方案主要集中在问题的特定方面（单域开集，多域闭集），或提出复杂的策略，结合几个损失和手动调整超参数。在这项工作中，我们通过引入HyMOS来解决多源开放集领域自适应：一个简单的模型，利用对比学习的力量及其超球面特征空间的属性来正确预测目标上的已知标签，同时拒绝属于任何未知类的样本。HyMOS在对比学习的实例转换中包含风格迁移，以获得领域不变性，同时避免负迁移的风险。根据观察到的数据分布定义自定进度的阈值，并在训练期间在线更新，从而允许处理已知-未知分离。我们在三个具有挑战性的数据集上验证了我们的方法。所获得的结果表明，HyMOS优于几个竞争对手，定义了新的国家的最先进的。https://github.com/silvia1993/HyMOS
2021-10-20 cs.CV
Fine-Grain Few-Shot Vision via Domain Knowledge as Hyperspherical Priors
Augustus Intelligence（奥古斯都智能公司）
原型网络已被证明在计算机视觉中的少样本学习任务中表现良好。然而，当类别彼此非常相似（细粒度分类）并且目前无法考虑先验知识（通过使用表格数据）时，这些网络就会陷入困境。使用一个球形的潜在空间编码的原型，我们可以实现Few-Shot细粒度分类最大限度地分离类，同时将领域知识作为信息先验。我们描述了如何构建一个嵌入先验域信息的原型超球体，并展示了该方法在挑战细粒度分类基准数据集上的有效性，最佳结果是一次性分类和5倍的训练时间加速。
2020-05-23 cs.CV cs.LG eess.IV
SphereFace Revived: Unifying Hyperspherical Face Recognition
University of Cambridge（剑桥大学）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；The Alan Turing Institute（阿兰·图灵研究所）；Carnegie Mellon University（卡内基梅隆大学）
本文讨论了开集协议下的深度人脸识别问题，在适当选择的度量空间下，理想的人脸特征期望具有比最小类间距离更小的最大类内距离。为此，超球面人脸识别作为一个很有前途的研究方向，受到了越来越多的关注，并逐渐成为人脸识别研究的一个主要热点。作为超球面人脸识别领域最早的研究成果之一，SphereFace明确提出了学习具有大类间角间隔的人脸嵌入。然而，SphereFace仍然存在严重的训练不稳定性，限制了其在实际中的应用。为了解决这个问题，我们引入了一个统一的框架来理解超球面人脸识别中的大角度边缘。在此框架下，我们扩展了对SphereFace的研究，并提出了一种具有更好训练稳定性的改进变体-- SphereFace-R。具体来说，我们提出了两种新的方法来实现乘法余量，并研究了三种不同的特征归一化方案（无特征归一化，硬特征归一化和软特征归一化）下的SphereFace-R。并提出了“特色梯度分离”的实施策略，以稳定训练。在SphereFace-R上进行的大量实验表明，它始终优于最先进的方法或与之竞争。
2022-03-16 cs.AI cs.CV cs.LG
HyperSpaceX: Radial and Angular Exploration of HyperSpherical Dimensions
Indian Institute of Technology Jodhpur（印度理工学院焦特布尔分校）
HyperSpaceX 通过 DistArc 损失在多超球面空间中同时探索角度与径向特征，增强类间分离和类内聚合，在物体分类和人脸识别任务上取得最先进结果，低维大规模数据集性能提升最高达 20%。
2024-08-05 cs.CV
Hyperspherical Classification with Dynamic Label-to-Prototype Assignment
West Virginia University（西弗吉尼亚大学）；Carnegie Mellon University（卡内基梅隆大学）
针对非参数分类器静态分配标签的局限，提出通过梯度下降与二分匹配的两步优化动态调整标签到原型分配的方法，在CIFAR-100和ImageNet-200上以更低维度超越竞争对手。
2024-03-25 cs.CV
Normalized Matching Transformer
Heinrich Heine University Düsseldorf（海因里希·海涅大学多特蒙德）
本研究提出归一化匹配Transformer（NMT），通过超球面归一化策略与组合损失实现高效准确的图像对稀疏语义关键点匹配，在两个数据集上刷新SOTA且收敛更快。
2026-05-05 cs.CV cs.LG
Learning Binary Semantic Embedding for Histology Image Classification and Retrieval
Shandong University（山东大学）；Shandong Jianzhu University（山东建筑大学）
随着医学影像技术和机器学习的发展，计算机辅助诊断技术因其能为病理学家提供重要的参考而引起了广泛的研究兴趣。医学图像的指数级增长和传统分类模型的不可解释性阻碍了计算机辅助诊断的应用。为了解决这些问题，我们提出了一种新的学习二进制语义嵌入（LBSE）的方法。基于高效和有效的嵌入，分类和检索进行组织学图像提供可解释的计算机辅助诊断。该方法将双监督、位不相关和平衡约束、非对称策略和离散优化无缝集成到二进制嵌入学习中。在三个基准数据集上进行的实验验证了LBSE在各种场景下的优越性。
2020-10-07 cs.AI cs.CV
Ontology-based n-ball Concept Embeddings Informing Few-shot Image Classification
The University of Manchester（曼彻斯特大学）
我们提出了一种新的框架ViOCE集成本体为基础的背景知识的形式$n$球概念嵌入到一个神经网络为基础的视觉架构。该方法由两个部分组成-通过学习捕获包容性和不相交性的n球嵌入将本体的符号知识转换为连续空间，并使用学习的嵌入指导视觉模型的训练和推理。我们使用Few-Shot图像分类任务评估ViOCE，其中它在两个标准基准测试中表现出卓越的性能。
2021-09-19 cs.AI cs.CV cs.LG
Spatial-Aware Object Embeddings for Zero-Shot Localization and Classification of Actions
University of Amsterdam（阿姆斯特丹大学）
我们的目标是zero-shot定位和分类的人的行动，在视频。传统的方法依赖于全局属性或对象分类分数的zero-shot知识转移，我们的主要贡献是空间感知对象嵌入。为了达到空间感知，我们在免费提供的演员和对象检测器之上构建嵌入。在词嵌入空间中确定对象的相关性，并进一步用估计的空间偏好来实施。除了局部对象感知，我们还将全局对象感知嵌入到我们的嵌入中，以最大限度地提高演员和对象的交互。最后，我们利用对象的位置和大小的空间感知嵌入展示了一个新的时空动作检索方案与复合查询。四个当代动作视频数据集上的动作定位和分类实验支持我们的建议。除了在zero-shot定位和分类设置中的最先进的结果之外，我们的空间感知嵌入甚至与最近的监督动作定位替代方案具有竞争力。
2017-07-28 cs.CV
Successive Embedding and Classification Loss for Aerial Image Classification
UC Berkeley（加州大学伯克利分校）；ICSI（国际计算机科学研究所）
深度神经网络可以是自动分类航空图像的有效手段，但容易过拟合到训练数据。训练好的神经网络对训练和测试环境之间存在的变化具有鲁棒性是至关重要的。为了解决航空图像分类中的过拟合问题，我们认为神经网络作为输入图像到嵌入式特征表示的连续变换，并最终到一个语义类标签，和训练神经网络，以优化图像表示在嵌入式空间中，除了优化最终的分类得分。我们证明了使用这种双重嵌入和分类损失训练的网络优于仅具有分类损失的网络。我们还研究了将嵌入损失放在不同的网络层上。我们还发现，将嵌入损失从常用的特征空间移动到分类器空间，这是softmax非线性化之前的空间，导致航空图像的最佳分类性能。网络的嵌入式表示的可视化显示，嵌入损失鼓励更大的分离目标类集群的训练和测试分区的两个航空图像分类基准数据集，MSTAR和AID。我们的代码在GitHub上公开。
2019-09-24 cs.CV
Cross-Modality Attention with Semantic Graph Embedding for Multi-Label Classification
Baidu VIS（百度视觉技术部）；Xiamen University（厦门大学）；Tsinghua University（清华大学）
多标签图像和视频分类是计算机视觉中的一个基本而又具有挑战性的任务。主要的挑战在于捕捉标签之间的空间或时间依赖关系，并发现每个类别的判别特征的位置。为了克服这些挑战，我们提出了使用跨模态注意与语义图嵌入多标签分类。基于构造的标签图，我们提出了一种基于邻接的相似图嵌入方法来学习语义标签嵌入，它显式地利用标签关系。然后，我们的新的跨通道注意力地图的指导下，学习的标签嵌入。在两个多标签图像分类数据集（MS-COCO和NUS-WIDE）上的实验表明，该方法优于其他现有的最先进的方法。此外，我们验证了我们的方法在一个大型的多标签视频分类数据集（YouTube-8 M段）和评估结果表明，我们的方法的泛化能力。
2020-03-27 cs.CV
MIX'EM: Unsupervised Image Classification using a Mixture of Embeddings
KU Leuven（鲁汶大学）
本文提出了一种新的无监督图像分类方法MIX'EM。MIX'EM生成的表示本身就足以驱动通用聚类算法来提供高质量的分类。这是通过建立一个混合的嵌入模块到一个对比的视觉表示学习框架，以解开在类别级别的表示。它首先从给定的视觉表示中生成一组嵌入和混合系数，然后将它们组合成单个嵌入。我们引入三种技术来成功地训练MIX'EM并避免退化的解决方案;（i）通过最大化熵使混合成分多样化，（ii）最小化实例条件成分熵以实施聚类嵌入空间，以及（iii）使用关联嵌入损失来实施语义分离性。通过应用（i）和（ii），语义类别通过混合系数出现，使得应用（iii）成为可能。随后，我们在表示上运行K-means以获得语义分类。我们对STL 10、CIFAR 10和CIFAR 100 -20数据集进行了广泛的实验和分析，分别达到了78%、82%和44%的最先进的分类准确率。为了实现鲁棒性和高精度，必须使用混合成分来初始化K-means。最后，我们报告了通过将K-means应用于使用对比损失学习的“归一化”表示获得的竞争性基线（STL 10上为70\%）。
2020-10-02 cs.CV
Evaluation of Output Embeddings for Fine-Grained Image Classification
Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；University of Michigan（密歇根大学）
近年来，随着大规模图像集的可用性，图像分类取得了显著的进步。然而，细粒度分类仍然是一个主要的挑战，由于大量的细粒度类别的注释成本。该项目表明，即使没有标记的训练数据，也可以在这些类别上实现令人信服的分类性能。给定图像和类嵌入，我们学习一个兼容性函数，使得匹配的嵌入被分配比不匹配的嵌入更高的分数;图像的zero-shot分类通过找到产生最高联合兼容性分数的标签来进行。我们使用最先进的图像特征，并专注于不同的监督属性和无监督输出嵌入，无论是来自层次结构还是从未标记的文本语料库中学习。我们建立了一个显着改进的国家的最先进的动物属性和加州理工大学UCSD鸟类数据集。最令人惊讶的是，我们证明了纯无监督输出嵌入（从维基百科学习并使用细粒度文本进行改进）实现了令人信服的结果，甚至优于以前的监督最新技术。通过组合不同的输出嵌入，我们进一步改进了结果。
2015-08-28 cs.CV
Joint Skeletal and Semantic Embedding Loss for Micro-gesture Classification
Hefei University of Technology (HFUT)（合肥工业大学）；Ministry of Education（教育部）；Hefei Comprehensive National Science Center（合肥综合性国家科学中心）
针对基于骨骼数据的微手势分类任务，HFUT-VUT团队提出融入骨骼与语义联合嵌入损失的3D-CNNs识别网络，在IJCAI 2023的MiGA挑战赛中获第一名，Top-1准确率超第二名1.10%。
2023-07-20 cs.CV
Relational Embedding for Few-Shot Classification
Pohang University of Science and Technology (POSTECH)（浦项科技大学）
我们建议解决的问题，Few-Shot分类元学习“观察什么”和“在哪里参加”的关系的角度来看。我们的方法通过自相关表示（SCR）和交叉相关注意力（CCA）利用图像内和图像之间的关系模式。在每个图像中，SCR模块将基本特征映射转换为自相关张量，并学习从张量中提取结构模式。在图像之间，CCA模块计算两个图像表示之间的互相关，并学习在它们之间产生共同关注。我们的关系嵌入网络（RENet）结合了这两个关系模块，以端到端的方式学习关系嵌入。在实验评估中，它在miniImageNet，tieredImageNet，CUB-200-2011和CIFAR-FS四个广泛使用的Few-Shot分类基准上实现了对最先进方法的一致改进。
2021-08-22 cs.CV
Latent Embedding Feedback and Discriminative Features for Zero-Shot Classification
University of Amsterdam（阿姆斯特丹大学）；Mohamed Bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学）；Inception Institute of Artificial Intelligence（起源人工智能研究院）
零样本学习致力于对在训练期间没有数据可用的看不见的类别进行分类。在广义变体中，测试样本还可以属于可见或不可见类别。最先进的技术依赖于生成对抗网络，该网络通过利用特定于类的语义嵌入来合成看不见的类特征。在训练过程中，它们生成语义一致的特征，但在特征合成和分类过程中丢弃此约束。我们建议在（广义）零样本学习的所有阶段（训练、特征合成和分类）执行语义一致性。我们首先引入一个反馈循环，从语义嵌入解码器，迭代地细化生成的功能在训练和功能合成阶段。然后，将合成的特征与来自解码器的其对应的潜在嵌入一起转换为判别特征，并在分类期间利用以减少类别之间的歧义。对（广义）zero-shot对象和动作分类的实验揭示了语义一致性和迭代反馈的好处，在六个零样本学习基准上优于现有方法。源代码在https://github.com/akshitac8/tfvaegan。
2020-07-18 cs.CV
Leveraging Semantic Segmentation Masks with Embeddings for Fine-Grained Form Classification
Brigham Young University（杨百翰大学）
本文提出结合语义分割与多种深度学习嵌入的表示学习策略，用于细粒度无监督表格分类，并贡献两个新数据集，实验证明该方法能有效提升分类效果。
2024-05-24 cs.CV
ELoPE: Fine-Grained Visual Classification with Efficient Localization, Pooling and Embedding
RWTH Aachen University（亚琛工业大学）
细粒度视觉分类（FGVC）的任务处理分类问题，显示一个小的类间方差，如区分不同的鸟类或汽车模型。最先进的方法通常通过将精细的注意力机制或（部分）定位方法集成到标准卷积神经网络（CNN）中来解决这个问题。此外，在这项工作中，目标是通过包括专门为FGVC设计的三个高效且轻量级的组件来增强主干CNN（如ResNet）的性能。这是通过使用全局k-max池，通过优化类均值训练的判别嵌入层和只需要类标签进行训练的有效限界框估计器来实现的。由此产生的模型在斯坦福汽车和FGVC-Aircraft数据集上实现了新的最佳识别精度。
2019-11-17 cs.CV
Assessing the Effectiveness of Deep Embeddings for Tree Species Classification in the Dutch Forest Inventory
Wageningen University（瓦赫宁根大学）；OpenGeoHub Foundation（OpenGeoHub基金会）；Wageningen Environmental Research（瓦赫宁根环境研究）；University of Bonn（波恩大学）
本研究通过深度嵌入提升荷兰森林调查中树种分类的准确性，证明预训练模型在数据有限场景下的有效性。
2026-08-14 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现，我们开发了早期特征重建（ESFR）-一种新的适应方案，具有特征重建和维度驱动的早期停止，可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能，包括最近提出的转导方法。ESFR与transductive方法结合使用，进一步实现了mini-ImageNet，tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上，与之前的最佳性能方法相比，准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Fine-Grained Rib Fracture Diagnosis with Hyperbolic Embeddings: A Detailed Annotation Framework and Multi-Label Classification Model
Indian Institute of Technology Jodhpur（印度理工学院贾姆pur分校）；All India Institute of Medical Sciences Delhi（全印度医学科学研究所德里）；Government Medical College Srinagar（政府医学院斯里 Nagar）
针对现有肋骨骨折数据集缺乏细粒度标注的问题，提出新型标注方案与基于双曲嵌入的跨模态分类模型，在AirRib和RibFrac数据集上均取得更优的分类效果。
2025-04-16 cs.CV
Class-relevant Patch Embedding Selection for Few-Shot Image Classification
School of Computer Science, Huazhong University of Science and Technology（华中科技大学计算机学院）
针对小样本图像分类中特征选择困难的问题，提出利用预训练 ViT 的类别 embedding 筛选并融合高相关 patch embedding，在 1-shot 和 5-shot 基准上优于现有方法。
2024-05-06 cs.CV
A Discriminative Learned CNN Embedding for Remote Sensing Image Scene Classification
University of Electronic Science and Technology of China（电子科技大学）；Leshan Normal University（乐山师范学院）
在这项工作中，一个歧视性学习CNN嵌入遥感图像场景分类。我们提出的siamese网络同时计算两个输入图像的分类损失函数和度量学习损失函数。具体来说，对于分类损失，我们使用标准的交叉熵损失函数来预测图像的类别。对于度量学习损失，我们的siamese网络学习将类内和类间输入对映射到一个特征空间，在这个特征空间中，类内输入很接近，类间输入被一个间隔隔开。具体来说，对于遥感图像场景分类，我们希望将来自同一场景的图像映射到接近的特征向量，并将来自不同场景的图像映射到相距很远的特征向量。在三个不同的遥感图像数据集上进行实验，以评估我们提出的方法的有效性。实验结果表明，该方法具有良好的分类性能.
2019-12-02 cs.CV
Networks with pixels embedding: a method to improve noise resistance in images classification
School of Engineering, Dali University（大理大学工程学院）；RoyalFlush Information Network Co.,Ltd（同花顺信息网络有限公司）
在图像分类任务中，网络通常对噪声比较敏感。例如，带有噪声的猫图像可能会被误分类为鸵鸟。传统上，为了克服噪声问题，人们使用数据增强技术，即通过在训练数据集中添加更多具有噪声的图像来教导网络区分噪声。在这项工作中，我们提供了一个抗噪网络的图像分类，通过引入像素嵌入技术。在mnist手写体数字数据库上，我们测试了带像素嵌入的网络，简称PE网络。实验结果表明，在有噪声的图像上，带PE的网络比传统网络具有更好的性能。像素嵌入技术可以用于图像分类的许多任务中，以提高抗噪声能力。
2022-01-14 cs.CV cs.LG
Hierarchical Concept Embedding & Pursuit for Interpretable Image Classification
University of Pennsylvania（宾夕法尼亚大学）
本文提出HCEP框架，通过在潜在空间中诱导概念嵌入的层次结构，利用层次稀疏编码恢复图像中的概念，提升分类可解释性与精度。
2026-03-30 cs.CV cs.LG
Embedding Propagation: Smoother Manifold for Few-Shot Classification
Element AI；University of British Columbia（不列颠哥伦比亚大学）
Few-Shot分类具有挑战性，因为训练集的数据分布与测试集的数据分布可能大不相同，因为它们的类不相交。这种分布偏移通常导致较差的泛化。流形平滑已被证明可以通过扩展决策边界和减少类表示的噪声来解决分布偏移问题。此外，流形光滑性是半监督学习和直推式学习算法的关键因素。在这项工作中，我们建议使用嵌入传播作为一个无监督的非参数正则化流形平滑Few-Shot分类。嵌入传播利用基于相似性图的神经网络的提取特征之间的插值。我们的经验表明，嵌入传播产生一个更平滑的嵌入流形。我们还表明，应用嵌入传播的转导分类器实现了新的国家的最先进的结果在迷你Imagenet，分层Imagenet，Imagenet-FS和CUB。此外，我们表明，嵌入传播一致地提高了多个半监督学习场景中的模型的准确性高达16个点。所提出的嵌入传播操作可以很容易地作为非参数层集成到神经网络中。我们在https://github.com/ElementAI/embedding-propagation上提供培训代码和使用示例。
2020-07-13 cs.CV cs.LG
Embeddings are all you need! Achieving High Performance Medical Image Classification through Training-Free Embedding Analysis
该研究提出一种免训练的医学图像分类方法，利用ResNet、CLIP等预训练基础模型生成图像嵌入并结合线性分类器，在多种医学成像模态的多分类任务中AUC-ROC最高超基准模型87个百分点，大幅降低计算成本，为医学图像分析提供高效新方案。
2024-12-12 cs.CV eess.IV
LMM-Regularized CLIP Embeddings for Image Classification
Information Technologies Institute (ITI)（信息技术研究所（ITI））；Centre of Research and Technology Hellas (CERTH)（希腊研究与技术中心（CERTH））
本文提出一种基于大型多模态模型的正则化方法，利用LMM生成语义描述来约束CLIP图像嵌入，增强判别能力，提升图像分类性能，并在三个数据集上验证了有效性。
2024-12-16 cs.CV cs.MM
Information-theoretical label embeddings for large-scale image classification
Google, Inc.（谷歌公司）
我们提出了一种用于训练多标签、大规模多类图像分类模型的方法，该方法比通过S形交叉熵损失（逻辑回归）的监督更快、更准确。我们的方法包括将高维稀疏标签嵌入到单位赋范向量的低维稠密球体上，并将分类问题视为该球体上的余弦近似回归问题。我们在一个包含3亿张高分辨率图像和17，000个标签的数据集上测试了我们的方法，与逻辑回归相比，它的收敛速度要快得多，平均精度也高出7%。
2016-07-19 cs.CV cs.LG stat.ML
Beyond image classification: zooplankton identification with deep vector space embeddings
Institute of Marine Research（海洋研究所）；University of Bergen（卑尔根大学）
浮游动物图像，像许多其他现实世界的数据类型，具有固有的属性，使有效的分类系统的设计困难。例如，在实际设置中遇到的类的数量可能非常大，并且类可能是模糊的或重叠的。此外，分类法的选择往往在研究人员之间和机构之间存在差异。虽然使用标准分类器架构的基准已经达到了很高的准确性，但当将产出用于生态系统评估和监测时，不灵活的分类方案所造成的偏差可能产生深远的影响。在这里，我们建议使用深度卷积网络来构建浮游动物图像的矢量嵌入。该系统将每个图像映射（嵌入）到高维欧几里得空间中，以便向量之间的距离反映图像之间的语义关系。我们表明，嵌入可以用来获得分类与一个特定的分类器相当的准确性，但它同时揭示了数据中的重要结构。此外，我们将嵌入应用于系统以前看不到的新类，并在这种情况下评估其分类性能。传统的神经网络分类器表现良好时，类是明确定义的先验，并有足够大的标记数据集可用。对于生态学和许多其他领域的实际情况，情况并非如此，我们认为这里提出的向量嵌入方法是一种更合适的方法。
2019-09-25 cs.CV cs.LG
Simplicial Embeddings in Self-Supervised Learning and Downstream Classification
Mila（米拉人工智能研究所）；Université de Montréal（蒙特利尔大学）；National University of Singapore（新加坡国立大学）
单纯形嵌入（SEM）是通过自监督学习（SSL）学习的表示，其中表示被投影到$V$维度的$L$单纯形中，每个都使用softmax操作。该过程在预训练期间将表示条件化到受约束的空间上，并赋予组稀疏性的归纳偏差。对于下游分类，我们正式证明了SEM表示导致更好的泛化比未规范化的表示。此外，我们通过经验证明，使用SEM训练的SSL方法在自然图像数据集（如CIFAR-100和ImageNet）上的泛化能力有所提高。最后，当在下游分类任务中使用时，我们表明SEM特征表现出紧急语义一致性，其中小组学习特征明显预测语义相关类。
2022-09-30 cs.CV cs.LG
LNEMLC: Label Network Embeddings for Multi-Label Classification
Wroclaw University of Science and Technology（弗罗茨瓦夫理工大学）；University of Notre Dame（圣母大学）
多标签分类的目的是对具有离散非排他性标签的实例进行分类。大多数多标签分类方法都专注于现有二进制和多类学习方法的有效适应或转换，但无法对标签的联合概率进行建模，或者不保留不可见标签组合的泛化能力。为了解决这些问题，我们提出了一个新的多标签分类方案，LNEMLC -标签网络嵌入的多标签分类，嵌入标签网络，并使用它来扩展输入空间的学习和推理的任何基础多标签分类。该方法允许捕获标签的联合概率在低计算复杂性提供的结果相比，在文献中报道的最佳方法。我们演示了该方法如何揭示简单的kNN基线分类器在统计上的显着改进。我们还提供了选择跨数据域令人满意的健壮配置的提示。
2019-01-01 cs.CV cs.LG cs.NE
