Uncertainty-Aware Model Adaptation for Unsupervised Cross-Domain Object Detection
College of Computer Science and Electronic Engineering, Hunan University(湖南大学计算机科学与电子工程学院)
这项工作解决了无监督的跨域目标检测问题,其目的是将预先训练的目标检测器推广到没有标签的新目标域。我们提出了一个不确定性感知的模型自适应方法,这是基于两个动机:1)在一个新的领域的模型不确定性的估计和开发是可靠的领域自适应的关键;和2)的输入(特征对齐)和输出(自训练)的分布的联合对齐是必要的。为此,我们组成了一个贝叶斯CNN为基础的框架不确定性估计目标检测,并提出了一种算法,用于产生不确定性感知的伪标签。我们还设计了一个联合特征对齐和自我训练的目标检测模型与不确定性感知的伪标签的计划。在多个跨域目标检测基准测试上的实验表明,该方法具有较好的检测性能。
2021-08-28 cs.CV
Unsupervised Embedding Learning via Invariant and Spreading Instance Feature
Hong Kong Baptist University(香港浸会大学);Columbia University(哥伦比亚大学)
研究了无监督嵌入学习问题,该问题要求在低维嵌入空间中对样本之间的相似性进行有效的度量。受类别监督学习中观察到的正集中和负分离特性的启发,我们提出利用实例监督来近似这些特性,其目的是学习数据增强不变和实例扩展特征。为了实现这一目标,我们提出了一种新的基于实例的softmax嵌入方法,该方法直接优化了softmax函数上的“真实”实例特征。它实现了比所有现有方法更快的学习速度和更高的准确性。所提出的方法表现良好的可见和不可见的余弦相似性测试类别。即使没有预先训练的网络,它也可以在细粒度类别的样本上实现有竞争力的性能。
2019-04-06 cs.CV
Unsupervised Discriminative Embedding for Sub-Action Learning in Complex Activities
MIT-IBM Watson Lab(MIT-IBM沃森实验室)
长视频序列中的动作识别和检测越来越受到研究界的关注。然而,复杂活动的标注在实践中通常是耗时且具有挑战性的。因此,最近的工作开始解决复杂活动中的子动作的无监督学习问题。提出了一种新的无监督子动作学习方法。所提出的方法将视觉和时间表示映射到一个潜在的空间,在这个空间中,子动作以端到端的方式有区别地学习。为此,我们建议学习子动作作为潜在的概念和一个新的歧视性的潜在概念学习(DLCL)模块辅助学习子动作。所提出的DLCL模块借鉴了潜在概念的思想,以无监督的方式学习潜在嵌入空间中的紧凑表示。结果是一组潜在向量,可以被解释为嵌入空间中的聚类中心。潜在空间本身由联合视觉和时间嵌入形成,捕获数据的视觉相似性和时间顺序。我们的联合学习与歧视性的潜在概念模块是新颖的,它消除了显式聚类的需要。我们在三个基准数据集上验证了我们的方法,并表明所提出的视觉-时间嵌入和歧视性潜在概念的组合允许在无监督环境中学习鲁棒的动作表示。
2021-04-30 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Unsupervised Feature Learning of Human Actions as Trajectories in Pose Embedding Manifold
Indian Institute of Science(印度科学学院)
无监督的人类动作建模框架可以提供有用的姿势序列表示,其可以用于各种姿势分析应用中。在这项工作中,我们提出了一种新的时间姿态序列建模框架,它可以嵌入到一个连续的潜在空间,在一个有效的方式三维人体骨骼关节的动态。与以前的作品探索的端到端框架相比,我们将个体姿势表示学习的任务从学习动作的任务中分离出来,作为姿势嵌入空间中的轨迹。为了实现具有改进重建的连续姿态嵌入流形,我们提出了一种无监督的流形学习过程,称为编码器GAN(或EnGAN)。此外,我们使用EnGAN生成的姿势嵌入来使用双向RNN自动编码器架构PoseRNN来建模人类动作。我们引入一阶梯度损失,明确执行预测的运动序列的时间规律性。一个层次的特征融合技术也研究了同时建模的局部骨骼关节以及全球的姿态变化。我们展示了最先进的可移植性的学习表示对其他监督和无监督学习的运动嵌入的细粒度动作识别SBU交互数据集的任务。此外,我们通过可视化骨架姿态重建和插值的姿态嵌入空间,以及重建的姿态轨迹的低维主成分投影,展示了所提出的框架的定性优势。
2018-12-06 cs.CV
Deep Metric Learning Meets Deep Clustering: An Novel Unsupervised Approach for Feature Embedding
AIOZ;University of Liverpool(利物浦大学);University of Adelaide(阿德莱德大学)
无监督深度距离度量学习(UDML)旨在从未标记的数据集中学习嵌入空间中的样本相似性。传统的UDML方法通常使用三重损失或成对损失,这需要挖掘正样本和负样本w.r.t.锚数据点。然而,这在无监督设置中具有挑战性,因为标签信息不可用。在本文中,我们提出了一种新的UDML方法,克服了这一挑战。特别地,我们建议使用深度聚类损失来学习质心,即,伪标签,表示语义类。在学习过程中,这些质心也用于重建输入样本。因此,它确保了质心的代表性-每个质心代表视觉上相似的样本。因此,质心给出了关于阳性(视觉上相似)和阴性(视觉上不相似)样品的信息。基于伪标签,我们提出了一种新的无监督度量损失,它强制执行嵌入空间中样本的正集中和负分离。基准数据集上的实验结果表明,该方法优于其他UDML方法。
2020-09-09 cs.CV
Uncertainty-aware Mean Teacher for Source-free Unsupervised Domain Adaptive 3D Object Detection
Johns Hopkins University(约翰斯·霍普金斯大学)
基于伪标记的自训练方法是一种流行的无源无监督领域自适应方法。然而,它们的有效性取决于源训练模型生成的标签的质量。这些标签可能是不正确的高置信度,使阈值方法无效。为了避免标签噪声引起的错误,我们提出了一个不确定性感知的平均教师框架,该框架在训练过程中隐式过滤不正确的伪标签。利用模型的不确定性,平均教师网络可以通过降低对应于不确定伪标签的损失的权重来执行隐式过滤。有效地,我们对伪标记数据进行自动软采样,同时对齐来自学生和教师网络的预测。我们证明了我们的方法在几个领域自适应方案,从跨数据集跨天气条件,并实现国家的最先进的性能,在这些情况下,在KITTI激光雷达目标数据集。
2021-09-29 cs.CV
Unsupervised Domain Adaptation by Uncertain Feature Alignment
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
无监督领域自适应(UDA)处理模型从具有标记数据的给定源域到未标记目标域的自适应。在本文中,我们利用模型固有的预测不确定性来完成领域自适应任务。的不确定性是衡量的蒙特卡洛辍学,并用于我们提出的不确定性为基础的过滤和功能对齐(UFAL),结合了不确定性的功能损失(UFL)功能和不确定性为基础的过滤(UBF)的方法在欧几里得空间的功能对齐。我们的方法超越了最近提出的架构,并在多个具有挑战性的数据集上取得了最先进的结果。代码可在项目网站上获得。
2020-09-14 cs.CV
Joint Visual-Temporal Embedding for Unsupervised Learning of Actions in Untrimmed Sequences
University of Notre Dame(圣母大学);Max-Planck-Institute for Informatics(马克斯·普朗克信息学研究所)
在动作识别领域,理解未修剪视频中复杂动作的结构是一项具有挑战性的任务。这里的一个问题是,该任务通常需要大量手动注释的分钟甚至小时长的视频数据,但是注释这样的数据非常耗时,并且不容易自动化或扩展。为了解决这个问题,本文提出了一种基于联合视觉-时间嵌入空间的未裁剪视频序列动作无监督学习方法。为此,我们将基于预测U-Net架构的视觉嵌入与时间连续函数相结合。由此产生的表示空间允许检测相关的动作集群的基础上,他们的视觉以及他们的时间外观。该方法在三个标准基准数据集上进行了评估,早餐动作,INRIA YouTube教学视频和50沙拉。我们表明,所提出的方法是能够提供一个有意义的视觉和时间嵌入的视觉线索存在于连续的视频帧,是适合的任务,无监督的时间分割的行动。
2020-09-30 cs.CV
CoProU-VO: Combining Projected Uncertainty for End-to-End Unsupervised Monocular Visual Odometry
TU Munich(慕尼黑工业大学);DeepScenario;Munich Center for Machine Learning(慕尼黑机器学习中心)
针对无监督单目视觉里程计在动态场景下因静态假设失效导致位姿不准的问题,提出结合跨帧投影不确定性的CoProU-VO方法,在KITTI等数据集上实现性能提升。
2025-08-01 cs.CV
Variational Deep Embedding: An Unsupervised and Generative Approach to Clustering
Beijing Institute of Technology(北京理工大学);Tencent AI Lab(腾讯AI实验室);Hulu LLC.(Hulu有限责任公司)
聚类是计算机视觉和机器学习中最基本的任务之一。在本文中,我们提出了变分深度嵌入(VaDE),变分自动编码器(VAE)的框架内的一种新的无监督生成聚类方法。具体而言,VaDE使用高斯混合模型(GMM)和深度神经网络(DNN)对数据生成过程进行建模:1)GMM挑选聚类; 2)从中生成潜在嵌入; 3)然后DNN将潜在嵌入解码为可观察量。VaDE中的推理是以变分的方式进行的:不同的DNN用于将可观察量编码为潜在嵌入,因此可以使用随机梯度变分贝叶斯(SGVB)估计器和重新参数化技巧来优化证据下限(ELBO)。本文包括与强基线的定量比较,实验结果表明,VaDE显着优于国家的最先进的聚类方法的4个基准从各种形式。此外,通过VaDE的生成性质,我们展示了其为任何指定的聚类生成高度真实的样本的能力,而无需在训练过程中使用监督信息。最后,VaDE是一个灵活和可扩展的无监督生成聚类框架,比GMM更通用的混合模型可以很容易地插入。
2017-06-28 cs.CV
UBR$^2$S: Uncertainty-Based Resampling and Reweighting Strategy for Unsupervised Domain Adaptation
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
无监督领域自适应(UDA)处理模型到未标记目标域的自适应过程,而注释数据仅适用于给定的源域。这是一项具有挑战性的任务,因为源实例和目标实例之间的域转换如果不解决,会降低模型的性能。在本文中,我们提出了UBR $^2$ S -基于不确定性的恢复和重新加权策略-来解决这个问题。UBR $^2$ S采用基于蒙特卡罗丢弃的不确定性估计来获得每类概率分布,然后将其用于伪标签的动态重新排序,并基于其样本似然和伴随的决策误差进行重新加权。我们提出的方法在具有单源和多源适应任务的多个UDA数据集上实现了最先进的结果,并且可以应用于任何现成的网络架构。我们方法的代码可在https://gitlab.com/tringwald/UBR2S上获得。
2021-10-22 cs.CV
Uncertainty-aware Clustering for Unsupervised Domain Adaptive Object Re-identification
South China University of Technology(华南理工大学);University of Melbourne(墨尔本大学);JD Explore Academy(京东探索研究院)
无监督域自适应(UDA)对象重识别(Re-ID)旨在使在标记源域上训练的模型适应未标记目标域。最先进的对象Re-ID方法采用聚类算法来为未标记的目标域生成伪标签。然而,不可避免的标签噪声所造成的聚类过程显着降低了区分力的Re-ID模型。为了解决这个问题,我们提出了一个不确定性感知聚类框架(UCF)的UDA任务。首先,提出了一种新的层次聚类方案,以提高聚类质量。其次,引入了一种不确定性感知的协同实例选择方法,用于选择具有可靠标签的图像进行模型训练。结合这两种技术可以有效地减少噪声标签的影响。此外,我们引入了一个强大的基线,具有紧凑的对比损失。我们的UCF方法在对象Re-ID的多个UDA任务中始终实现了最先进的性能,并显着减少了无监督和监督Re-ID性能之间的差距。特别是,我们的无监督UCF方法在MSMT 17 $\to$ Market 1501任务中的性能优于Market 1501上的完全监督设置。UCF代码可在https://github.com/Wang-pengfei/UCF上获取。
2021-08-22 cs.CV
Unsupervised Domain Adaptation Based on the Predictive Uncertainty of Models
Seoul National University of Science and Technology(首尔国立科技大学);Samsung SDS Technology Research(三星SDS技术研究院)
无监督领域自适应(UDA)的目的是在目标域与源域发生分布偏移的情况下提高预测性能。UDA的关键原则是使源域和目标域之间的分歧最小化。为了遵循这一原则,许多方法采用域匹配来匹配特征分布。最近的一些方法评估目标样本的两个预测之间的差异,以检测那些偏离源分布。然而,它们的性能是有限的,因为它们要么匹配边缘分布,要么保守地测量发散。在本文中,我们提出了一种新的UDA方法,学习域不变的功能,最大限度地减少域的分歧。我们提出模型的不确定性作为衡量域的分歧。我们的UDA方法基于模型不确定性(MUDA)采用贝叶斯框架,并提供了一种有效的方法来评估模型的不确定性,通过蒙特卡罗丢弃抽样。图像识别任务的实验结果表明,我们的方法是优于现有的国家的最先进的方法。我们还将MUDA扩展到多源领域自适应问题。
2022-11-16 cs.CV
Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive Person Re-Identification
Beijing National Research Center for Information Science and Technology (BNRist)(北京信息科学与技术国家研究中心(BNRist));Tsinghua University(清华大学)
基于无监督域自适应(UDA)的人员重新识别(ReID)减少了详尽的注释。然而,由于不理想的特征嵌入和不完美的聚类,伪标签的目标领域数据固有地包含一个未知的比例错误的,这将误导特征学习。在本文中,我们提出了一种方法命名为概率不确定性引导渐进标签精炼(P $^2$ LR)的领域自适应的人重新识别。首先,我们建议用概率距离和理想的单峰分布来模拟标签的不确定性。建立了一个量化的标准来衡量伪标签的不确定性,以方便网络的训练。其次,我们探索了一种渐进的策略来细化伪标签。通过不确定性引导的替代优化,我们在目标域数据的探索和噪声标记的负面影响之间取得了平衡。在强大的基线之上,我们获得了显着的改进,并在四个UDA ReID基准上实现了最先进的性能。具体来说,我们的方法在Duke2Market任务上的表现优于基线6.5%mAP,而在Market2MSMT任务上的表现则超过了最先进的方法2.5%mAP。
2022-04-28 cs.CV
Unsupervised Superpixel Generation using Edge-Sparse Embedding
ETH-Zurich(苏黎世联邦理工学院)
基于像素相对于诸如颜色或空间位置之类的特征的相似性将图像划分成超像素可以显著降低数据复杂性并改进后续的图像处理任务。无监督超像素生成的初始算法仅依赖于局部线索,而没有将重要边缘优先于任意边缘。另一方面,基于无监督深度学习的较新方法要么未能适当地解决超像素边缘粘附性与紧凑性之间的权衡,要么缺乏对所生成的超像素数量的控制。通过在非卷积图像解码器中使用具有强空间相关性的随机图像作为输入,\ie,模糊的噪声图像,我们可以减少预期的对比度数量,并在重构图像中增强平滑、连接的边缘。我们通过将额外的空间信息编码到解码器最后一个隐藏层的分段平滑激活图中来生成边缘稀疏像素嵌入,并使用标准聚类算法来提取高质量的超像素。我们提出的方法在BSDS 500,PASCAL-Context和显微镜数据集上达到了最先进的性能。
2022-11-29 cs.CV
Harnessing Uncertainty-aware Bounding Boxes for Unsupervised 3D Object Detection
University of Macau(澳门大学);CSIRO Data61(联邦科学与工业研究组织数据61);Shanghai University(上海大学)
针对无监督3D目标检测中伪边界框噪声影响模型性能的问题,提出含不确定性估计与正则化的UA3D框架,通过主辅检测器预测差衡量坐标不确定性并自适应调整损失权重,在nuScenes和Lyft数据集上实现显著性能提升。
2024-10-08 cs.CV
Unsupervised learning of action classes with continuous temporal embedding
University of Bonn(波恩大学);MIT-IBM Watson Lab(麻省理工学院-IBM沃森实验室)
在时间上检测和分割未修剪的视频动作的任务最近已经看到了越来越多的关注。在此上下文中的一个问题来自于需要定义和标记动作边界以创建用于训练的注释,这是非常耗时且成本密集的。为了解决这个问题,我们提出了一种无监督的方法来学习动作类从未经修剪的视频序列。为此,我们使用连续的时间嵌入的逐帧功能,受益于活动的连续性。基于由嵌入创建的潜在空间,我们识别出所有视频中对应于语义有意义的动作类的时间段集群。该方法在三个具有挑战性的数据集上进行了评估,即早餐数据集,YouTube指令和50沙拉数据集。虽然以前的作品假设视频包含相同的高级别活动,我们还表明,所提出的方法也可以应用于更一般的设置,其中视频的内容是未知的。
2019-04-08 cs.CV
TAEC: Unsupervised Action Segmentation with Temporal-Aware Embedding and Clustering
Graz University of Technology(格拉茨技术大学);Christian Doppler Laboratory for Semantic 3D Computer Vision(克里斯蒂安·多普勒语义三维计算机视觉实验室);Max-Planck-Institute for Informatics(马克斯·普朗克信息学研究所);Goethe University Frankfurt(法兰克福歌德大学)
最近,未修剪视频中的时间动作分割得到了越来越多的关注。然而,注释动作类和框架边界非常耗时且成本密集,尤其是在大规模数据集上。为了解决这个问题,我们提出了一种无监督的方法来学习动作类从未经修剪的视频序列。特别是,我们提出了一个时间嵌入网络,它结合了相对时间预测,特征重建和序列到序列学习,以保持视频特征的空间布局和顺序性质。对这些嵌入式特征表示的两步聚类管道允许我们在视频内以及跨视频执行时间一致性。基于所识别的聚类,我们将视频解码成对应于语义上有意义的动作类的连贯的时间段。我们对三个具有挑战性的数据集的评估显示了每个组件的影响,并进一步展示了我们最先进的无监督动作分割结果。
2023-03-09 cs.CV
Uncertainty-Aware Unsupervised Domain Adaptation in Object Detection
Nanyang Technological University(南洋理工大学);Zhejiang University(浙江大学)
无监督域自适应目标检测的目的是使检测器从标记的源域适应到未标记的目标域。大多数现有的作品采取两阶段策略,首先生成区域建议,然后检测感兴趣的对象,其中广泛采用对抗性学习来减轻这两个阶段中的域间差异。然而,对抗性学习可能会损害对齐样本的对齐,因为它只是对齐跨域的全局分布。为了解决这个问题,我们设计了一个不确定性感知的领域自适应网络(UaDAN),它引入了条件对抗学习,以不同的方式分别对齐对齐良好和对齐不良的样本。具体来说,我们设计了一个不确定性度量,用于评估每个样本的对齐情况,并自适应地调整对齐良好和对齐不良样本的对抗学习强度。此外,我们利用不确定性度量来实现课程学习,首先执行更容易的图像级对齐,然后逐步进行更困难的实例级对齐。在四个具有挑战性的领域自适应目标检测数据集上的广泛实验表明,UaDAN与最先进的方法相比,具有更好的性能。
2021-05-19 cs.CV
MIX'EM: Unsupervised Image Classification using a Mixture of Embeddings
KU Leuven(鲁汶大学)
本文提出了一种新的无监督图像分类方法MIX'EM。MIX'EM生成的表示本身就足以驱动通用聚类算法来提供高质量的分类。这是通过建立一个混合的嵌入模块到一个对比的视觉表示学习框架,以解开在类别级别的表示。它首先从给定的视觉表示中生成一组嵌入和混合系数,然后将它们组合成单个嵌入。我们引入三种技术来成功地训练MIX'EM并避免退化的解决方案;(i)通过最大化熵使混合成分多样化,(ii)最小化实例条件成分熵以实施聚类嵌入空间,以及(iii)使用关联嵌入损失来实施语义分离性。通过应用(i)和(ii),语义类别通过混合系数出现,使得应用(iii)成为可能。随后,我们在表示上运行K-means以获得语义分类。我们对STL 10、CIFAR 10和CIFAR 100 -20数据集进行了广泛的实验和分析,分别达到了78%、82%和44%的最先进的分类准确率。为了实现鲁棒性和高精度,必须使用混合成分来初始化K-means。最后,我们报告了通过将K-means应用于使用对比损失学习的“归一化”表示获得的竞争性基线(STL 10上为70\%)。
2020-10-02 cs.CV
Towards Unsupervised Image Captioning with Shared Multimodal Embeddings
Technische Universität München(慕尼黑工业大学);University of Oxford(牛津大学)
在没有显式监督的情况下理解图像已经成为计算机视觉中的一个重要问题。在本文中,我们解决图像描述生成的语言描述的场景,而不学习的注释对图像和它们的字幕。我们的方法的核心组成部分是一个共享的潜在空间,是由视觉概念结构。在这方面,这两种模式应该是不可区分的。首先训练语言模型以将句子编码为语义结构化的嵌入。翻译到该嵌入空间的图像特征可以通过相同的语言模型解码为描述,类似于句子嵌入。这种翻译是从弱配对的图像和文本中学习的,使用对噪声分配和条件对抗组件具有鲁棒性的损失。我们的方法允许利用大型文本语料库以外的图像/字幕数据的注释分布。我们的实验表明,所提出的域对齐学习一个语义上有意义的表示,优于以前的工作。
2019-08-25 cs.CV
Learning Probabilistic Embeddings for Unsupervised Action Segmentation
University of Bonn(波恩大学);Lamarr Institute for Machine Learning and Artificial Intelligence(拉玛尔机器学习与人工智能研究所)
针对无监督时序动作分割易陷入局部最优问题,提出基于高斯分布的帧概率嵌入方法,采样后生成伪标签训练,性能远超确定性嵌入基线。
2026-07-07 cs.CV
Unsupervised Domain Adaptive Salient Object Detection Through Uncertainty-Aware Pseudo-Label Learning
Sun Yat-sen University(中山大学);ByteDance Inc.(字节跳动公司);Shenzhen Research Institute of Big Data(深圳大数据研究院)
深度学习的最新进展显著提高了显著目标检测(SOD)的性能,但代价是标记更大规模的每像素注释。为了减轻劳动密集型标记的负担,已经提出了深度无监督SOD方法来利用手工显着性方法生成的噪声标签。然而,从粗糙的噪声标签中学习精确的显著性细节仍然是困难的。在本文中,我们建议从合成但干净的标签中学习显着性,这自然具有更高的像素标记质量,而无需手动注释。具体来说,我们首先通过一个简单的复制粘贴策略构建一个新的合成SOD数据集。考虑到合成场景和真实场景之间存在较大的外观差异,直接使用合成数据进行训练将导致真实场景的性能下降。为了解决这个问题,我们提出了一种新的无监督域自适应SOD方法,通过不确定性感知的自训练来适应这两个域之间的关系。实验结果表明,我们提出的方法在几个基准数据集上的性能优于现有的最先进的深度无监督SOD方法,甚至可以与完全监督的方法相媲美。
2022-02-26 cs.CV
Learning the Latent "Look": Unsupervised Discovery of a Style-Coherent Embedding from Fashion Images
UT-Austin(德克萨斯大学奥斯汀分校)
什么定义了视觉风格?时尚风格是从人们如何组合服装中有机地产生的,这使得它们很难用计算模型来确定。低层次的视觉相似性可能过于具体,无法检测到风格相似的图像,而手工制作的风格类别可能过于抽象,无法捕捉细微的风格差异。我们提出了一种无监督的方法来学习风格一致的表示。我们的方法利用基于视觉属性的概率多语言主题模型来发现一组潜在的风格因素。给定一组未标记的时尚图像,我们的方法挖掘潜在的风格,然后通过他们如何混合这些风格来总结服装。我们的方法可以按风格组织服装画廊,而不需要任何风格标签。在超过10万张图像上的实验证明了它在检索、混合和总结时尚图像方面的潜力。
2017-08-03 cs.CV
Unsupervised Self-Driving Attention Prediction via Uncertainty Mining and Knowledge Embedding
Beijing University of Posts and Telecommunications(北京邮电大学);University of Rochester(罗切斯特大学)
针对自动驾驶注意力预测依赖大规模标注及域差距问题,提出结合UMB不确定性挖掘与KEB驾驶知识嵌入的无监督框架,在三个公开数据集上达到或超过全监督SOTA性能。
2023-07-15 cs.CV
Fusion vectors: Embedding Graph Fusions for Efficient Unsupervised Rank Aggregation
University of Campinas (UNICAMP)(坎皮纳斯大学(UNICAMP))
近年来,数字内容的数量和复杂性的巨大增加导致了对ad-hoc检索系统的广泛兴趣。作为补充,异构数据源和检索模型的存在刺激了日益巧妙和有效的排名聚合函数的扩散。虽然最近提出的排名聚合功能是有前途的有效性方面,现有的建议,在该地区通常忽视效率方面。我们提出了一个创新的排名聚合功能,是无监督的,本质上是多模态的,并针对快速检索和最有效的性能。我们介绍了嵌入和索引的概念,基于图的排名聚合表示模型,以及它们的搜索任务的应用。嵌入配方也提出了基于图的秩表示。我们引入了融合向量的概念,一种基于秩的对象后期融合表示,从本质上定义了一种秩聚合检索模型。接下来,我们提出了一种基于融合向量的快速检索方法,从而促进了一个有效的排名聚合系统。我们的方法在最先进的相关工作中表现出最佳的有效性,同时带来了多模态和有效性的新方面。在所有考虑的数据集中,相对于最近的基线实现了一致的加速。
2019-07-02 cs.CV
Unsupervised Place Recognition with Deep Embedding Learning over Radar Videos
Oxford Robotics Institute(牛津机器人研究所);University of Oxford(牛津大学)
我们学习,在一个无监督的方式,从序列的雷达图像,适合于解决使用复杂的雷达数据的位置识别问题的嵌入。我们在280公里的数据上进行了实验,并显示出超过最先进的监督方法的性能,当只使用最近的数据库候选时,正确定位的时间为98.38%。
2021-06-12 cs.CV cs.RO
Local Aggregation for Unsupervised Learning of Visual Embeddings
Stanford University(斯坦福大学)
神经网络中的无监督学习方法对于促进人工智能具有重大意义,这既是因为它们可以在不需要大量昂贵注释的情况下训练网络,也是因为它们是人类部署的那种通用学习的更好模型。然而,无监督网络的性能长期落后于有监督网络,特别是在大规模视觉识别领域。最近在训练深度卷积嵌入以最大限度地提高非参数实例分离和聚类目标方面的发展表明,有希望缩小这一差距。在这里,我们描述了一种方法,该方法训练嵌入函数以最大化局部聚合的度量,使相似的数据实例在嵌入空间中一起移动,同时允许不同的实例分离。这种聚合度量是动态的,允许出现不同规模的软集群。我们在几个大规模视觉识别数据集上评估了我们的过程,在ImageNet中的对象识别,Places 205中的场景识别和PASCAL VOC中的目标检测上实现了最先进的无监督迁移学习性能。
2019-04-10 cs.AI cs.CV
Mitigating Uncertainty of Classifier for Unsupervised Domain Adaptation
Microsoft(微软);IIT Kanpur(印度理工学院坎普尔分校);Oracle(甲骨文公司);University of Bath(巴斯大学)
理解无监督领域自适应一直是一个重要的任务,已经很好地探索。然而,各种各样的方法都没有详细分析分类器的性能的作用。在本文中,我们彻底研究的作用,一个分类匹配的源和目标分布。我们通过匹配a)特征分布,b)样本的概率不确定性和c)确定性激活映射来专门研究分类器的能力。我们的分析表明,使用这三种分布确实可以在所有数据集上持续提高性能。因此,我们的工作扩展了目前的知识,从分类器获得的各种分布的作用,解决无监督领域自适应。
2021-07-01 cs.CV cs.LG
Metric Embedding Autoencoders for Unsupervised Cross-Dataset Transfer Learning
SingularityNET Foundation(SingularityNET基金会);ITMO University(ITMO大学);Novamente LLC(Novamente有限责任公司);Cisco(思科)
跨数据集迁移学习是人再识别中的一个重要问题。不幸的是,对于实际Re-ID系统的现实设置,没有太多的深度转移Re-ID模型存在。我们提出了一个纯深度传输Re-ID模型,由深度卷积神经网络和自动编码器组成。潜码分为度量嵌入和滋扰变量。然后,我们使用一种无监督训练方法,该方法不依赖于与非深度模型的协同训练。我们的实验显示了对基线和竞争对手的迁移学习模型的改进。
2018-07-18 cs.CV cs.LG
A Comprehensive Approach to Unsupervised Embedding Learning based on AND Algorithm
KAIST(韩国科学技术院);National Cheng Kung University(国立成功大学);Institute for Basic Science(基础科学研究所)
无监督嵌入学习旨在从数据中提取良好的表示,而不需要任何人工标签,这一直是许多监督学习任务的关键挑战。本文提出了一种新的无监督嵌入方法,称为Super-AND,它扩展了当前最先进的模型。Super-AND具有其独特的损失集,可以在低密度空间内收集附近的相似样本,同时保持不变的特征不受数据增强的影响。Super-AND优于所有现有的方法,并在CIFAR-10的图像分类任务上实现了89.2%的准确率。我们讨论了这种方法在协助半监督任务的实际意义。
2020-02-26 cs.CV cs.LG stat.ML
Unsupervised Learning from Video with Deep Neural Embeddings
Stanford University(斯坦福大学);MIT(麻省理工学院)
由于视频丰富的动态结构及其在日常生活中的普遍存在,视频数据可以作为一种强大的无监督学习信号,用于在深度神经网络中训练视觉表示,这是一个很自然的想法。然而,实例化这个想法,特别是在大规模上,仍然是人工智能的一个重大挑战。在这里,我们提出了视频实例嵌入(VIE)框架,该框架将最近用于学习深度非线性嵌入的强大无监督损失函数扩展到大规模视频数据集上的多流时间处理架构。我们表明,VIE-trained网络在视频数据流的无监督学习方面大大提高了最新技术水平,无论是Kinetics数据集中的动作识别,还是ImageNet数据集中的对象识别。我们表明,静态和动态处理途径的混合模型是最佳的两个转移任务,并提供分析表明如何不同的途径。从上下文来看,我们的研究结果表明,深度神经嵌入是一种很有前途的方法,可以在各种领域进行无监督视觉学习。
2020-03-10 cs.AI cs.CV cs.LG
Learning Canonical Embeddings for Unsupervised Shape Correspondence with Locally Linear Transformations
University of Florida(佛罗里达大学);National Renewable Energy Lab(美国国家可再生能源实验室)
我们提出了一种新的方法来无监督的点云对之间的形状对应学习。我们第一次尝试适应经典的局部线性嵌入算法(LLE)-最初设计用于非线性降维-形状对应。其关键思想是通过首先获得低维点云的高维邻域保持嵌入,然后使用局部线性变换对齐源和目标嵌入,来找到形状之间的密集对应。我们证明了学习嵌入使用一个新的LLE启发的点云重建目标的结果在准确的形状对应。更具体地说,该方法包括一个端到端的可学习框架,该框架提取高维邻域保持嵌入,估计嵌入空间中的局部线性变换,并通过重建和目标形状上构建的概率密度函数的基于发散测量的对齐来重建形状。我们的方法强制对应的形状嵌入位于相同的通用/规范嵌入空间中,这最终有助于正则化学习过程,并导致形状嵌入之间的简单最近邻方法,以找到可靠的对应关系。综合实验表明,新方法在覆盖人类和非人类形状的标准形状对应基准数据集上比最先进的方法有明显的改进。
2022-09-07 cs.CV cs.LG
Uncertainty-Guided Alignment for Unsupervised Domain Adaptation in Regression
EPFL(洛桑联邦理工学院);Intelligent Maintenance and Operations Systems(智能维护与运营系统(机构))
本文提出不确定性引导对齐(UGA),将证据深度学习预测的不确定性融入特征对齐过程,以解决回归任务无监督域自适应中传统特征对齐失效和特征坍缩问题,并在多个基准上取得优于现有方法的性能。
2024-11-21 cs.CV cs.LG
Certainty Volume Prediction for Unsupervised Domain Adaptation
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
无监督领域自适应(UDA)处理未标记目标域数据的分类问题,而标记数据仅适用于不同的源域。遗憾的是,由于源数据和目标数据之间的域差距,常用的分类方法无法充分完成此任务。在本文中,我们提出了一种新的不确定性意识的领域自适应设置模型的不确定性作为一个多元高斯分布在特征空间。我们表明,我们提出的不确定性措施与其他常见的不确定性量化,并涉及到平滑分类器的决策边界,从而提高泛化能力。我们在具有挑战性的UDA数据集上评估了我们提出的管道,并取得了最先进的结果。我们方法的代码可在https://gitlab.com/tringwald/cvp上获得。
2021-11-03 cs.CV cs.LG
Unsupervised Visual Sense Disambiguation for Verbs using Multimodal Embeddings
Institute for Language, Cognition and Computation(语言、认知与计算研究所);School of Informatics, University of Edinburgh(爱丁堡大学信息学院)
我们引入了一个新的任务,动词的视觉意义消歧:给定一个图像和一个动词,分配动词的正确意义,即,描述图像中所描绘的动作的那个。就像文本词义消歧对各种NLP任务都很有用一样,视觉词义消歧对图像检索、图像描述和文本说明等多模态任务也很有用。我们引入了VerSe,这是一个新的数据集,它用意义标签增强了现有的多模态数据集(COCO和TUHOI)。我们提出了一个无监督的算法Lesk的基础上进行视觉意义消歧使用文本,视觉,或多模态嵌入。我们发现,当黄金标准的文本注释(对象标签和图像描述)可用时,文本嵌入表现良好,而多模态嵌入在未注释的图像上表现良好。我们还验证了我们的研究结果,使用文本和多模态嵌入作为特征,在监督设置和分析的性能的视觉意义消歧任务。VerSe是公开的,可以在https://github.com/spandanagella/verse下载。
2016-03-30 cs.CL cs.CV
Unsupervised Deep Embedding for Clustering Analysis
University of Washington(华盛顿大学);Facebook AI Research (FAIR)(脸书人工智能研究院)
聚类是许多数据驱动应用领域的核心,并且在距离函数和分组算法方面得到了广泛的研究。相对较少的工作集中在学习表示聚类。在本文中,我们提出了深度嵌入式聚类(DEC),这是一种使用深度神经网络同时学习特征表示和聚类分配的方法。DEC学习从数据空间到低维特征空间的映射,并在其中迭代优化聚类目标。我们对图像和文本语料库的实验评估表明,国家的最先进的方法显着改善。
2016-05-24 cs.CV cs.LG
Semi-orthogonal Embedding for Efficient Unsupervised Anomaly Segmentation
SK Telecom(SK电讯)
我们提出了无监督的异常分割的半正交嵌入的效率。来自预先训练的CNN的多尺度特征最近被用于局部化的Mahalanobis距离,具有显著的性能。然而,增加的特征大小对于扩展到更大的CNN是有问题的,因为它需要多维协方差张量的批量逆。在这里,我们推广了一个特设的方法,随机特征选择,到半正交嵌入鲁棒近似,降低计算成本的多维协方差张量的逆。通过对消融研究的详细审查,所提出的方法实现了MVTec AD、KolektorSDD、KolektorSDD2和mSTC数据集的最新技术水平和显著裕度。理论和实证分析提供了见解和验证我们的简单而具有成本效益的方法。
2021-05-31 cs.AI cs.CV cs.LG
Unsupervised learning of object landmarks by factorized spatial embeddings
University of Oxford(牛津大学);University of Edinburgh(爱丁堡大学)
自动学习物体类别的结构一直是计算机视觉中一个重要的开放性问题。在本文中,我们提出了一种新的无监督方法,可以发现和学习对象类别中的地标,从而表征其结构。我们的方法是基于因式分解图像变形,如由视点变化或对象变形引起的,通过学习深度神经网络来检测与这种视觉效果一致的地标。此外,我们表明,学习的地标建立有意义的对应关系,在一个类别中的不同对象实例之间,而不必明确地施加这一要求。我们评估的方法定性的各种对象类型,自然和人造。我们还表明,我们的无监督地标在人脸基准数据集中对手动注释的地标具有高度的预测性,并且可以用于以高度的准确性回归这些地标。
2017-08-06 cs.CV stat.ML
Heteroscedastic Uncertainty Estimation Framework for Unsupervised Registration
Yale University(耶鲁大学);University of Pennsylvania(宾夕法尼亚大学);The University of British Columbia(不列颠哥伦比亚大学);Vector Institute(矢量研究院)
提出异方差不确定性估计框架,通过协作训练和信噪比加权减少高不确定性区域影响,提升无监督配准精度,在多个数据集上优于基线。
2024-07-18 cs.CV eess.IV
Deep Dirichlet uncertainty for unsupervised out-of-distribution detection of eye fundus photographs in glaucoma screening
Medical University of Vienna(维也纳医科大学)
发展自动化工具,利用彩色眼底照片进行青光眼早期诊断,可以显著降低这种疾病的影响。然而,当前最先进的解决方案对现实世界的场景并不稳健,对分布外的情况提供了过于自信的预测。考虑到这一点,我们提出了一个模型的基础上的狄利克雷分布,允许获得类的概率连同不确定性估计,而不暴露于分布的情况下。我们展示了我们在AIROGS挑战中的方法。在最终测试阶段(2022年2月8日)开始时,我们的方法在所有提交的作品中获得了最高的平均分。
2022-03-18 cs.CV cs.LG
Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data
College of Computing and Data Science, Nanyang Technological University (NTU), Singapore(南洋理工大学计算与数据科学学院);School of Computing and Artificial Intelligence, Jiangxi University of Finance and Economics(江西财经大学计算机与人工智能学院);Institute for Infocomm Research (I 2 R), A*STAR, Singapore(信息通信研究所(I2R),A*STAR,新加坡);School of Artificial Intelligence, Nanjing University of Information Science and Technology(南京信息科学技术大学人工智能学院)
针对时间序列无监督域适应中的分布偏移问题,提出结合多尺度混合输入与基于证据学习的不确定性感知机制,实现特征对齐与置信度校准,在多个基准上达到最先进性能。
2025-08-26 cs.CV cs.LG
ITEm: Unsupervised Image-Text Embedding Learning for eCommerce
eBay Inc.(eBay公司)
本文提出无监督图像-文本嵌入模型ITEm,通过扩展BERT同时学习文本和图像模态,在相似产品搜索和类别预测任务上显著优于基线模型。
2024-02-26 cs.CL cs.CV cs.IR
Unsupervised Domain Adaptation via Discriminative Manifold Embedding and Alignment
Sun Yat-Sen University(中山大学);JiaYing University(嘉应学院);Guangzhou University(广州大学)
无监督领域自适应能够有效地利用源域到无监督目标域的丰富信息。虽然深度学习和对抗策略在特征适应性方面取得了重要突破,但还有两个问题需要进一步探讨。首先,在目标域上硬分配的伪标签对固有的数据结构是有风险的。其次,深度学习中的分批训练方式限制了对全局结构的描述。本文提出了一个黎曼流形学习框架,以实现一致的可转移性和可区分性。对于第一个问题,该方法通过软标签在目标域上建立概率判别准则。此外,该标准扩展到第二个问题的全球近似计划,这种近似也是节省内存。利用流形度量对齐与嵌入空间兼容。理论上的误差界推导出,以方便对齐。通过大量的实验对提出的一致流形学习框架进行了研究,实验结果表明了一致流形学习框架的优越性。
2020-02-28 cs.CV cs.LG stat.ML
Bayesian Uncertainty Matching for Unsupervised Domain Adaptation
Qiushi Academy for Advanced Studies, Zhejiang University(浙江大学求是高等研究院);College of Computer Science and Technology, Zhejiang University(浙江大学计算机科学与技术学院);State University of New York at Buffalo(纽约州立大学布法罗分校);Zhejiang University School of Medicine(浙江大学医学院)
领域自适应是一种重要的技术,用于减轻由领域移位引起的性能下降,当训练和测试数据来自不同的域时。由于目标域标签的不可用,大多数现有的深度自适应方法都集中在通过对输入特征进行深度变换来匹配边缘特征分布来减少域偏移。我们表明,域移位可能仍然存在通过标签分布偏移在分类器,从而恶化模型的性能。为了缓解这个问题,我们提出了一个近似的联合分布匹配方案,利用预测的不确定性。具体来说,我们使用贝叶斯神经网络来量化分类器的预测不确定性。通过对特征和标签(通过不确定性)进行分布匹配,有效地缓解了源数据和目标数据中的标签分布不匹配,鼓励分类器跨域产生一致的预测。我们还提出了一些技术来改进我们的方法,通过自适应重新加权领域自适应损失,以实现非平凡的分布匹配和稳定的训练。在三个流行的基准数据集上与最先进的无监督领域自适应方法的比较表明了我们的方法的优越性,特别是在减轻负迁移的有效性。
2019-06-24 cs.CV cs.LG stat.ML