Joint Visual and Temporal Consistency for Unsupervised Domain Adaptive Person Re-Identification
Peking University(北京大学)
由于源域和目标域之间存在较大的域间隙,以及目标域上标记数据的缺乏,无监督域自适应人员重新识别(ReID)具有挑战性。本文通过结合局部单热分类和全局多类分类来联合执行视觉和时间一致性来应对这一挑战。局部独热分类算法在一个训练批中分配不同的人物ID,然后采用自适应分类(SAC)模型对它们进行分类。全局多类分类是通过使用基于记忆的时间引导聚类(MTC)在整个未标记的训练集上预测标签来实现的。MTC通过考虑视觉相似性和时间一致性来预测多类标签,以确保标签预测的质量。这两个分类模型结合在一个统一的框架中,有效地利用了未标记的数据进行区分性特征学习。在三个大规模ReID数据集上的实验结果表明,该方法在无监督和无监督域自适应ReID任务中均具有较好的性能.例如,在无监督设置下,我们的方法优于最近的无监督域自适应方法,后者利用更多的标签进行训练。
2020-07-21 cs.CV
Unsupervised Classification in Hyperspectral Imagery with Nonlocal Total Variation and Primal-Dual Hybrid Gradient Algorithm
University of California, Los Angeles(加州大学洛杉矶分校);Bard College(巴德学院);Grenoble Institute of Technology(格勒诺布尔理工学院);University of California, San Diego(加州大学圣地亚哥分校)
提出了一种基于图的非局部全变分方法(NLTV)用于高光谱图像的无监督分类。变分问题求解的原始-对偶混合梯度(PDHG)算法。通过平方标记函数和使用稳定的单纯形聚类例程,可以实现具有随机初始化的无监督聚类方法。该算法的有效性说明合成和现实世界的HSI,数值结果表明,该算法优于其他标准的无监督聚类方法,如球形K-均值,非负矩阵分解(NMF),和基于图的Merriman-Bence-Osher(MBO)计划。
2017-02-13 cs.CV
Unsupervised Classification of Street Architectures Based on InfoGAN
Southeast University(东南大学)
街道建筑在城市形象和街道景观分析中起着至关重要的作用。然而,现有的方法都是有监督的,需要昂贵的标记数据。为了解决这个问题,我们提出了一个基于信息最大化生成对抗网(InfoGAN)的街道建筑无监督分类框架,其中我们利用InfoGAN的辅助分布$Q$作为无监督分类器。在南京真实街景图像数据库上的实验验证了该框架的实用性和准确性。进而从真实图像中隐藏的内在信息出发,得出了一系列启发性的结论。这些结论将有助于规划师更好地了解建筑类别。
2019-05-30 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Unsupervised Feedforward Feature (UFF) Learning for Point Cloud Classification and Segmentation
Media Communications Lab(媒体通信实验室);University of Southern California(南加州大学);Tencent Media Lab(腾讯媒体实验室);Tencent America(腾讯美国)
与深度神经网络(DNN)中基于监督反向传播的特征学习相比,本文提出了一种用于3D点云联合分类和分割的无监督前馈特征(UFF)学习方案。UFF方法利用点云集合中的点的统计相关性,通过级联的编码器-解码器架构以单次前馈方式学习形状和点特征。它通过编码器学习全局形状特征,通过级联的编码器-解码器架构学习局部点特征。输入点云的提取的特征被馈送到用于形状分类和部分分割的分类器。实验进行UFF方法的性能进行评估。对于形状分类,UFF优于现有的无监督方法,并与最先进的DNN相当。对于部分分割,UFF优于半监督方法,并且比DNN稍差。
2020-09-02 cs.CV
Semi-supervised and Unsupervised Methods for Heart Sounds Classification in Restricted Data Environments
Institute of Systems Science, National University of Singapore(新加坡国立大学系统科学研究所);Institute for Infocomm Research, A*STAR(新加坡科技研究局资讯通信研究院)
鉴于全球心脏相关疾病的发病率不断增加,自动心音分类是一种非常需要的诊断工具。在这项研究中,我们通过使用各种监督,半监督和无监督方法对PhysioNet/CinC 2016挑战数据集进行心音分类的全面研究。监督方法,包括深度学习和机器学习方法,需要大量的标记数据来训练模型,这在大多数实际场景中是具有挑战性的。鉴于需要减轻临床实践的标签负担,其中人体标签既昂贵又耗时,在有限的数据设置中,半监督甚至无监督的方法是可取的。因此,提出了一种基于GAN的半监督方法,该方法允许使用未标记的数据样本来增强数据分布的学习。当有限的数据样本存在时,它在监督基线上的AUROC方面实现了更好的性能。此外,几个无监督的方法进行了探索,作为一种替代方法,考虑给定的问题作为一个异常检测方案。特别是,使用一维CNN自动编码器与一类SVM相结合的无监督特征提取获得了良好的性能,而无需任何数据标记。所提出的半监督和无监督方法的潜力可能会导致在未来创建更高质量的数据集的工作流工具。
2020-06-04 cs.CV
Simple but Effective Unsupervised Classification for Specified Domain Images: A Case Study on Fungi Images
School of Engineering, Dali University(大理大学工程学院);Institute of Eastern-Himalaya Biodiversity Research, Dali University(大理大学东喜马拉雅生物多样性研究所)
提出一种无需监督的分类方法,通过两步特征降维、多聚类投票和事后标注,在真菌图像上达到94.1%和96.7%的准确率,减少对预标注数据的依赖。
2023-11-15 cs.CV
Multi-Target Domain Adaptation via Unsupervised Domain Classification for Weather Invariant Object Detection
Huawei(华为)
目标检测是自动驾驶的关键技术。如果训练图像的天气与测试图像的天气不同,则对象检测器的性能显著降低。领域自适应可用于解决域移位问题,以便提高对象检测器的鲁棒性。然而,大多数现有的领域自适应方法要么处理单个目标域,要么需要域标签。提出了一种新的无监督域分类方法,将单目标领域自适应方法推广到多目标域,并在此基础上设计了一个天气不变的目标检测器训练框架,在Cityscapes数据集及其合成变体(雾、雨、夜)上进行了实验。实验结果表明,该方法训练的目标检测器在不同天气条件下都能实现鲁棒的目标检测。
2021-03-25 cs.CV
Unsupervised Deep Feature Extraction for Remote Sensing Image Classification
Universitat de Barcelona(巴塞罗那大学)
本文介绍了使用单层和深度卷积网络进行遥感数据分析。直接应用于监督(浅或深)卷积网络的多光谱和高光谱图像是非常具有挑战性的高输入数据维度和相对少量的可用标记数据。因此,我们提出了使用贪婪逐层无监督预训练,再加上一个高效的算法,无监督学习的稀疏特征。该算法是植根于稀疏表示和强制人口和生命周期稀疏的提取功能,同时。我们成功地说明了在几种情况下提取的表示的表达能力:空中场景的分类,以及土地利用分类在非常高的分辨率(VHR),或土地覆盖分类从多和高光谱图像。所提出的算法明显优于标准主成分分析(PCA)及其内核(kPCA),以及目前最先进的航空分类算法,同时在学习数据表示方面具有极高的计算效率。结果表明,单层卷积网络可以提取强大的区分功能,只有当感受野占相邻像素,并在分类需要高分辨率和详细的结果时,是首选。然而,深度架构的性能明显优于单层变体,在整个功能层次结构中捕获了越来越多的抽象和复杂性。
2015-11-25 cs.CV
Unsupervised Place Discovery for Visual Place Classification
Univ. of FUKUI(福井大学)
在这项研究中,我们探讨了深度卷积神经网络(DCNN)在机器人映射和定位的视觉位置分类中的应用。一个悬而未决的问题是如何将机器人的工作空间划分为多个位置以最大化性能(例如,准确度、精确度、召回率)。这是一个先有鸡还是先有蛋的问题:如果我们有一个经过良好训练的DCNN分类器,那么将机器人的工作空间划分为各个地方是相当容易的,但DCNN分类器的训练需要一组预定义的地方类。在这项研究中,我们解决了这个问题,并提出了几种策略,无监督发现的地方类(“时间线索”,“位置线索”,“时间外观线索”,“位置外观线索”)。我们还使用公开的密歇根大学北校区长期(NCLT)数据集评估所提出的方法的有效性。
2016-12-21 cs.CV
Unsupervised Image Classification with Adaptive Nearest Neighbor Selection and Cluster Ensembles
Department of Computer Engineering, Middle East Technical University(计算机工程系,中东部技术大学);Helmholtz Munich(慕尼黑海德堡大学)
本文提出ICCE方法,通过自适应最近邻选择和聚类集合提升无监督图像分类性能,在多个数据集上取得领先准确率。
2025-11-20 cs.CV
Bridge the Gap between Supervised and Unsupervised Learning for Fine-Grained Classification
Army Engineering University of PLA(中国人民解放军陆军工程大学);Nanjing University of Science and Technology(南京理工大学);Nanjing University(南京大学)
无监督学习技术在一般对象分类(GOC)和人的再识别(re-ID)方面已经赶上甚至超过了监督学习技术。然而,它被发现,细粒度视觉分类(FGVC)的无监督学习是更具挑战性的比GOC和人的重新ID。为了弥合FGVC的无监督和监督学习之间的差距,我们调查的基本因素(包括特征提取,聚类,和对比学习)之间的性能差距监督和无监督FGVC。此外,我们提出了一个简单,有效,实用的方法,称为UFCL,以减轻差距。首先,我们引入了一个强大的骨干,ResNet 50-IBN,它具有领域自适应的能力,当我们把ImageNet预训练的模型转移到FGVC任务。接下来,我们建议引入HDBSCAN而不是DBSCAN来进行聚类,它可以用更少的超参数为相邻类别生成更好的聚类。最后,提出了一种加权特征代理及其更新机制,利用不可避免的噪声伪标签进行对比学习,改善了网络参数学习的优化过程。我们的UFCL的有效性在CUB-200-2011,牛津鲜花,牛津宠物,斯坦福狗,斯坦福汽车和FGVC飞机数据集上得到了验证。在无监督的FGVC环境下,取得了较好的效果,并对关键因素和重要参数进行了分析,为实际应用提供了指导。
2022-03-01 cs.CV
CAD Models to Real-World Images: A Practical Approach to Unsupervised Domain Adaptation in Industrial Object Classification
Berliner Hochschule für Technik(柏林应用科学技术大学);nyris GmbH(nyris有限公司);topex GmbH(topex有限公司);University of Applied Sciences Berlin(柏林应用科学大学)
针对工业场景下仅带标签CAD模型、需分类真实图像的无监督域自适应问题,研究分析关键设计选择,提出的流程在VisDA基准达SoTA,在含102个机械零件的新工业数据集上大幅提升性能,并给出实用指导原则。
2023-10-07 cs.CV
Unsupervised Representation Learning Meets Pseudo-Label Supervised Self-Distillation: A New Approach to Rare Disease Classification
Xiamen University(厦门大学);Tencent Jarvis Lab(腾讯贾维斯实验室)
罕见病的特点是发病率低,往往是慢性衰弱或危及生命。由于训练样本的严重短缺,基于成像的罕见疾病分类具有挑战性。少样本学习(FSL)方法通过从常见疾病和正常对照的大基础数据集中提取可推广的先验知识并将知识转移到罕见疾病来解决这一挑战。然而,大多数现有的方法需要对基础数据集进行标记,并且没有充分利用罕见疾病的宝贵实例。为此,我们在这项工作中提出了一种新的混合方法来罕见疾病分类,具有针对上述缺点的两个关键的新颖性。首先,我们采用基于自监督对比损失的无监督表示学习(URL),从而消除标记基础数据集的开销。其次,我们将URL与伪标签监督分类相结合,以有效地对罕见疾病知识进行自升华,构成一种混合方法,该方法在基础数据集上同时利用无监督和(伪)监督学习。罕见皮肤病变分类的实验结果表明,我们的混合方法大大优于现有的FSL方法(包括那些使用完全监督的基础数据集),通过有效整合的URL和伪标签驱动的自蒸馏罕见疾病分类,从而建立了一个新的最先进的。
2021-10-09 cs.CV
Domain Consistency Regularization for Unsupervised Multi-source Domain Adaptive Classification
Nanyang Technological University(南洋理工大学);Sensetime Research(商汤科技研究院);University of Electronic Science and Technology of China(电子科技大学)
基于深度学习的多源无监督领域自适应(MUDA)近年来得到了积极的研究。与单源无监督领域自适应(SUDA)相比,MUDA不仅存在于源域和目标域之间,而且存在于多源域之间。大多数现有的MUDA算法侧重于提取所有领域之间的域不变表示,而在很大程度上忽略了类之间的任务特定的决策边界。在本文中,我们提出了一个端到端的可训练网络,该网络利用域一致性正则化进行无监督多源域自适应分类(CRMA)。CRMA不仅对齐每对源域和目标域的分布,而且对齐所有域的分布。对于每一对源和目标域,我们采用域内一致性来正则化一对特定于域的分类器,以实现域内对齐。此外,我们设计了一个域间一致性,目标是联合域间对齐所有域。为了解决多个源域和目标域之间的不同相似性,我们设计了一种授权策略,该策略自适应地为特定领域的分类器分配不同的权限,以实现最佳的伪标签预测和自训练。大量的实验表明,CRMA处理无监督领域自适应有效的多源设置下,并实现了卓越的适应一致的多个MUDA数据集。
2021-06-16 cs.CV
Unsupervised Learning for Cell-level Visual Representation in Histopathology Images with Generative Adversarial Networks
Beihang University(北京航空航天大学);Zhejiang University(浙江大学);Microsoft Research(微软研究院)
细胞的视觉属性,如核形态和染色质开放性,是组织病理学图像分析的关键。通过学习细胞级视觉表示,我们可以获得丰富的特征组合,这些特征可高度重用于各种任务,如细胞级分类、细胞核分割和细胞计数。在本文中,我们提出了一个统一的生成对抗网络架构,具有新的损失公式,可以在无监督的环境中进行鲁棒的细胞级视觉表示学习。我们的模型不仅是无标记的,易于训练,而且能够进行细胞水平的无监督分类,具有可解释的可视化,这在骨髓细胞成分的无监督分类中取得了可喜的成果。基于所提出的细胞级视觉表示学习,我们进一步开发了一个管道,利用各种细胞元素来执行组织病理学图像分类,其优点在骨髓数据集上得到了证明。
2018-07-07 cs.CV
Unsupervised Classification of Intrusive Igneous Rock Thin Section Images using Edge Detection and Colour Analysis
Universiti Malaysia Sarawak(马来西亚砂拉越大学);Jabatan Mineral dan Geosains(矿物与地球科学局);Kementerian Sumber Asli dan Alam Sekitar(自然资源与环境部)
岩石分类是地质研究的基本任务之一。这个过程需要人类专家在显微镜下检查取样的薄切片图像。在这项研究中,我们提出了一种方法,使用显微镜自动化,数字图像采集,边缘检测和颜色分析(直方图)。我们收集了60个数字图像,从20个标准薄切片使用安装在传统显微镜上的数码相机。每个图像被分割成有限数量的单元,这些单元形成网格结构。每个单元内的像素的边缘和颜色分布确定其分类。然后,各个细胞通过多数表决方案确定薄切片图像分类。我们的方法取得了成功的结果高达90%至100%的精度。
2021-06-23 cs.CV
Unsupervised Domain Adaptation for Image Classification via Structure-Conditioned Adversarial Learning
Zhejiang University(浙江大学);Huawei Technologies(华为技术有限公司)
无监督领域自适应(UDA)通常通过对抗学习将知识从标签丰富的源领域转移到未标记的目标领域。原则上,现有的UDA方法主要关注域之间的全局分布对齐,而忽略了固有的局部分布特性。基于这一观察结果,我们提出了一种端到端的结构条件对抗学习方案(SCAL),该方案能够在域分布对齐过程中保持类内紧凑性。通过使用局部结构作为结构感知条件,该方案在结构条件对抗学习管道中实现。上述学习过程通过在局部结构建立和结构条件对抗学习之间交替来迭代执行。实验结果证明了该方案在UDA场景中的有效性。
2021-03-04 cs.CV
Unsupervised Task Design to Meta-Train Medical Image Classifiers
Australian Institute for Machine Learning, The University of Adelaide(阿德莱德大学澳大利亚机器学习研究所);Institute for Systems and Robotics, Instituto Superior Tecnico(高等技术学院系统与机器人研究所)
元训练已经被经验证明是用于医学图像分类器的少样本学习的最有效的预训练方法(即,用小训练集建模的分类器)。然而,元训练的有效性依赖于合理数量的手工设计的分类任务的可用性,这是昂贵的获得,因此很少可用。在本文中,我们提出了一种新的方法来无监督地设计大量的分类任务来元训练医学图像分类器。我们评估我们的方法上的乳房动态对比增强磁共振成像(DCE-MRI)的数据集,已被用于基准的医学图像分类器的Few-Shot训练方法。我们的研究结果表明,所提出的用于元训练医学图像分类器的无监督任务设计构建了一个预训练模型,经过微调,该模型比其他无监督和有监督的预训练方法产生更好的分类结果,并且与依赖于手工设计的分类任务的元训练相比具有竞争力。
2019-07-17 cs.CV
CDUL: CLIP-Driven Unsupervised Learning for Multi-Label Image Classification
University of Southern Mississippi(南密西西比大学);Agency for Science, Technology and Research(新加坡科技研究局);University of South Carolina(南卡罗来纳大学)
该研究提出CDUL无监督多标签分类方法,通过CLIP的全局-局部图文相似度聚合生成初始伪标签,结合优化框架训练分类网络并优化伪标签,在多个数据集上超越现有无监督方法,性能接近弱监督方法。
2024-03-07 cs.CV
MetaAlign: Coordinating Domain Alignment and Classification for Unsupervised Domain Adaptation
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
对于无监督的领域自适应(UDA),为了减轻领域转移的影响,许多方法通过对抗性学习或显式对齐其统计数据来对齐特征空间中的源域和目标域。然而,这种域对齐的优化目标通常与对象分类任务本身的优化目标不协调,使得它们用于优化的下降方向可能不一致。这将降低域对齐在提高UDA性能方面的有效性。在本文中,我们的目标是研究和减轻域对齐和分类任务之间的优化不一致问题。我们解决这个问题,提出了一个有效的元优化为基础的策略称为MetaAlign,在那里我们把域对齐目标和分类目标的元训练和元测试任务的元学习计划。MetaAlign鼓励以协调的方式优化这两个任务,从而在训练期间最大化两个任务的梯度的内积。实验结果表明,我们所提出的方法的有效性上的各种基于基线的方法,对象分类和目标检测的任务。MetaAlign有助于实现最先进的性能。
2021-03-25 cs.CV
Deep unsupervised 3D human body reconstruction from a sparse set of landmarks
Computer Vision Center(计算机视觉中心);Universitat de Barcelona(巴塞罗那大学)
在本文中,我们提出了人体重建中的第一种深度无监督方法,从稀疏的地标集合中估计身体表面,称为DeepMurf。我们应用去噪自动编码器来估计丢失的地标。然后,我们应用注意力模型从地标估计身体关节。最后,应用级联网络对重建人体的统计生成模型的参数进行回归。我们提出的损失函数集允许我们以无监督的方式训练网络。四个公共数据集上的结果表明,我们的方法准确地重建人体从现实世界的mocap数据。
2021-06-23 cs.CV
Unsupervised Deep Epipolar Flow for Stationary or Dynamic Scenes
Australian National University(澳大利亚国立大学);ACRV(澳大利亚机器人视觉中心);Data61 CSIRO(联邦科学与工业研究组织数据61研究所);NEC Labs America(NEC美国实验室);Northwestern Polytechnical University(西北工业大学)
用于光流计算的无监督深度学习已经取得了有希望的结果。大多数现有的基于深度网络的方法依赖于图像亮度一致性和局部平滑约束来训练网络。在出现重复纹理或遮挡的区域,它们的性能会降低。在本文中,我们提出了深极流,一种无监督的光流方法,将全局几何约束纳入网络学习。特别是,我们研究了多种方式来执行极线约束的流量估计。为了缓解“鸡和蛋”类型的问题,在动态场景中,可能存在多个运动,我们提出了一个低秩约束,以及一个union-of-subspaces约束训练。在各种基准数据集上的实验结果表明,与监督方法相比,我们的方法具有竞争力的性能,并且优于最先进的无监督深度学习方法。
2022-07-14 cs.CV
CUNet: A Compact Unsupervised Network for Image Classification
University of Electronic Science and Technology of China (UESTC)(电子科技大学);Institute of Information Engineering, CAS(中国科学院信息工程研究所);Queen Mary, University of London(伦敦玛丽女王大学)
在本文中,我们提出了一个紧凑的网络称为CUNet(紧凑无监督网络),以应对图像分类的挑战。与传统的卷积神经网络通过耗时的随机梯度下降学习滤波器不同,CUNet采用简单的K均值算法从不同的图像块中学习滤波器组,显著避免了对稀疏标记训练图像的要求,降低了训练消耗,并保持了较高的鉴别能力。此外,我们提出了一种新的池化方法称为加权池化,考虑到相邻神经元的不同权重值,这有助于提高对小的图像失真的鲁棒性。在输出层中,CUNet集成了最后一个隐藏层中获得的特征图,并直接计算非重叠块中的直方图。为了减少特征冗余,我们在相邻块上实现最大池操作以选择最具竞争力的特征。在CIFAR-10、STL-10、MNIST和Caltech 101基准数据集上进行了全面的实验,以展示CUNet的最新分类性能。
2016-07-06 cs.CV
Unsupervised Semantic-based Aggregation of Deep Convolutional Features
在本文中,我们提出了一个简单而有效的基于语义的聚合(SBA)方法。所提出的SBA利用深卷积层的判别滤波器作为语义检测器。此外,我们提出了有效的无监督策略来选择一些语义检测器来生成“概率建议”,突出了对象的某些歧视性模式,并抑制了背景噪声。然后,可以通过聚合由对应于各种语义内容的所选择的“概率建议”加权的区域表示来获得最终的全局SBA表示。我们的无监督SBA很容易推广,并在各种任务上取得了优异的性能。我们进行了全面的实验,并表明我们的无监督SBA优于国家的最先进的无监督和监督聚合方法的图像检索,地点识别和云分类。
2018-04-03 cs.CV
Unsupervised Part Mining for Fine-grained Image Classification
Beijing Jiaotong University(北京交通大学)
细粒度图像分类由于类内方差大而类间方差小而仍然具有挑战性。由于细微的视觉差异仅存在于子类别之间可区分部分的局部区域中,因此部分定位是细粒度图像分类的关键问题。现有的方法大多使用对象或部分注释来定位图像中的对象或部分,这是昂贵且耗费人力的。为了解决这个问题,我们提出了一个完全无监督的部分挖掘(UPM)的方法来本地化的歧视性部分,甚至没有图像级的注释,这在很大程度上提高了细粒度的分类性能。我们首先利用模式挖掘技术来发现频繁模式,即,在从预训练的卷积神经网络(CNN)模型提取的特征图中,共现突出显示区域。这些相关的有意义的模式通常保持外观和空间一致性的事实的启发下,我们然后聚类挖掘的区域,以获得聚类中心和周围的聚类中心产生的歧视性的部分。重要的是,在我们提出的零件本地化方法中不使用任何注释和复杂的训练过程。最后,一个多流分类网络的建立,同时聚合的原始,对象级和零件级的功能。与其他国家的最先进的方法相比,我们的UPM方法实现了竞争力的性能。
2022-03-31 cs.CV
MIX'EM: Unsupervised Image Classification using a Mixture of Embeddings
KU Leuven(鲁汶大学)
本文提出了一种新的无监督图像分类方法MIX'EM。MIX'EM生成的表示本身就足以驱动通用聚类算法来提供高质量的分类。这是通过建立一个混合的嵌入模块到一个对比的视觉表示学习框架,以解开在类别级别的表示。它首先从给定的视觉表示中生成一组嵌入和混合系数,然后将它们组合成单个嵌入。我们引入三种技术来成功地训练MIX'EM并避免退化的解决方案;(i)通过最大化熵使混合成分多样化,(ii)最小化实例条件成分熵以实施聚类嵌入空间,以及(iii)使用关联嵌入损失来实施语义分离性。通过应用(i)和(ii),语义类别通过混合系数出现,使得应用(iii)成为可能。随后,我们在表示上运行K-means以获得语义分类。我们对STL 10、CIFAR 10和CIFAR 100 -20数据集进行了广泛的实验和分析,分别达到了78%、82%和44%的最先进的分类准确率。为了实现鲁棒性和高精度,必须使用混合成分来初始化K-means。最后,我们报告了通过将K-means应用于使用对比损失学习的“归一化”表示获得的竞争性基线(STL 10上为70\%)。
2020-10-02 cs.CV
Unsupervised Deep Homography: A Fast and Robust Homography Estimation Model
University of Pennsylvania(宾夕法尼亚大学)
多幅航空图像间的单应性估计可以为协同自主探测和监测提供相对位姿估计。在机器人系统上的使用需要快速且鲁棒的单应性估计算法。在这项研究中,我们提出了一种无监督学习算法,该算法训练深度卷积神经网络来估计平面单应性。我们将该算法与传统的基于特征的直接方法以及相应的监督学习算法进行了比较。我们的实证结果表明,与传统的方法相比,无监督算法实现了更快的推理速度,同时保持相当或更好的精度和鲁棒性的光照变化。此外,在合成数据集和代表性的真实世界航空数据集上,与监督深度学习方法相比,我们的无监督方法具有更好的适应性和性能。
2018-02-21 cs.CV
Unsupervised Feature Learning with K-means and An Ensemble of Deep Convolutional Neural Networks for Medical Image Classification
University of Sydney(悉尼大学);Royal Prince Alfred Hospital(皇家阿尔弗雷德王子医院);Shanghai Jiao Tong University(上海交通大学)
由于深度学习方法依赖于大量标记的训练数据,使用监督式深度学习方法的医学图像分析仍然存在问题。尽管医学成像数据存储库继续扩展,但注释数据的量并没有相应地增加。因此,我们提出了一种新的无监督特征学习方法,该方法学习特征表示,然后使用不同的卷积神经网络(CNN)和K均值聚类的集合来区分不同的医学图像。它以端到端的方式联合学习特征表示和聚类分配。我们在公共医疗数据集上测试了我们的方法,结果表明,它的准确性优于最先进的无监督特征学习方法,并且与最先进的监督CNN相当。我们的研究结果表明,我们的方法可用于解决医学成像存储库中大量未标记数据的问题。
2019-06-07 cs.CV
Deep Clustering for Unsupervised Learning of Visual Features
Facebook AI Research(Facebook人工智能研究)
聚类是在计算机视觉中得到广泛应用和研究的一类无监督学习方法。几乎没有做过什么工作来使其适应大规模数据集上视觉特征的端到端训练。在这项工作中,我们提出了DeepCluster,这是一种聚类方法,它联合学习神经网络的参数和所产生特征的聚类分配。DeepCluster使用标准聚类算法k-means迭代地对特征进行分组,并使用后续分配作为监督来更新网络的权重。我们将DeepCluster应用于卷积神经网络在ImageNet和YFCC 100 M等大型数据集上的无监督训练。由此产生的模型在所有标准基准测试中的表现都明显优于当前的最新技术水平。
2019-03-18 cs.CV
MARTA GANs: Unsupervised Representation Learning for Remote Sensing Image Classification
Key Laboratory of Technology in Geo-spatial Information Processing and Application System, Chinese Academy of Sciences(中国科学院空间信息处理与应用系统技术重点实验室)
随着深度学习的发展,监督学习已被频繁地用于使用卷积网络(CNN)对遥感图像进行分类。然而,由于可用的标记数据量有限,监督学习往往难以进行。因此,我们提出了一种称为多层特征匹配生成对抗网络(MARTA GANs)的无监督模型,仅使用未标记的数据来学习表示。MARTA GANs由生成模型$G$和判别模型$D$组成。我们把$D$作为特征提取器。为了适应遥感数据的复杂特性,我们使用一个融合层来合并中间层和全局特征。$G$可以产生许多与训练数据相似的图像;因此,$D$可以使用$G$提供的训练数据来学习更好的遥感图像表示。在两个广泛使用的遥感图像数据库上的分类结果表明,与其他现有方法相比,该方法显著提高了分类性能。
2017-11-21 cs.CV
Unsupervised Deep Representation Learning and Few-Shot Classification of PolSAR Images
Harbin Institute of Technology(哈尔滨工业大学)
过去几年,深度学习和卷积神经网络(CNN)在极化合成孔径雷达(PolSAR)图像分类方面取得了进展。然而,一个关键问题没有得到解决,即,CNN对大量标记样本的需求与PolSAR图像的不足人类注释。众所周知,遵循监督学习范式可能会导致训练数据的过拟合,而PolSAR图像缺乏监督信息无疑加剧了这一问题,极大地影响了基于CNN的分类器在大规模应用中的泛化性能。为了解决这个问题,在本文中,学习可转移表示从未标记的极化SAR数据通过卷积架构进行了探索。具体而言,PolSAR定制的对比学习网络(PCLNet)提出了无监督深度PolSAR表示学习和Few-Shot分类。与利用光学处理方法不同,构建了一种多样性激励机制,以缩小光学与PolSAR之间的应用差距。除了传统的监督方法,PCLNet开发了一个基于实例判别的代理目标的无监督预训练阶段,从未标记的PolSAR数据中学习有用的表示。所获取的表示被传送到下游任务,即,Few-Shot PolSAR分类。在两个广泛使用的PolSAR基准数据集上的实验证实了PCLNet的有效性。此外,这项工作可能会启发如何有效地利用大量的未标记的极化SAR数据,以减轻基于CNN的方法对人类注释的贪婪需求。
2020-12-25 cs.CV
Deep Metric Learning Meets Deep Clustering: An Novel Unsupervised Approach for Feature Embedding
AIOZ;University of Liverpool(利物浦大学);University of Adelaide(阿德莱德大学)
无监督深度距离度量学习(UDML)旨在从未标记的数据集中学习嵌入空间中的样本相似性。传统的UDML方法通常使用三重损失或成对损失,这需要挖掘正样本和负样本w.r.t.锚数据点。然而,这在无监督设置中具有挑战性,因为标签信息不可用。在本文中,我们提出了一种新的UDML方法,克服了这一挑战。特别地,我们建议使用深度聚类损失来学习质心,即,伪标签,表示语义类。在学习过程中,这些质心也用于重建输入样本。因此,它确保了质心的代表性-每个质心代表视觉上相似的样本。因此,质心给出了关于阳性(视觉上相似)和阴性(视觉上不相似)样品的信息。基于伪标签,我们提出了一种新的无监督度量损失,它强制执行嵌入空间中样本的正集中和负分离。基准数据集上的实验结果表明,该方法优于其他UDML方法。
2020-09-09 cs.CV
Deep Unsupervised Saliency Detection: A Multiple Noisy Labeling Perspective
Northwestern Polytechnical University(西北工业大学);Australian National University(澳大利亚国立大学);DATA61,CSIRO(澳大利亚联邦科学与工业研究组织数据61研究所)
当前深度显著性检测方法的成功在很大程度上取决于以每像素标记形式的大规模监督的可用性。这种监督虽然是劳动密集型的,而且并不总是可行的,但往往会阻碍学习模型的泛化能力。相比之下,传统的基于手工特征的无监督显着性检测方法,即使已经被深度监督方法超越,但通常是独立于网络的,可以在野外应用。这就提出了一个很自然的问题:“有没有可能在不使用标记数据的情况下学习显着图,同时提高泛化能力?".为此,我们提出了一个新的角度来无监督显着性检测,通过学习多个嘈杂的标签产生的“弱”和“嘈杂”的无监督手工显着性方法。我们用于无监督显著性检测的端到端深度学习框架由潜在显著性预测模块和噪声建模模块组成,它们协同工作并联合优化。显式噪声建模使我们能够以概率的方式处理噪声显着图。在各种基准数据集上进行的大量实验结果表明,我们的模型不仅以较大的幅度优于所有无监督显着性方法,而且与最近最先进的有监督深度显着性方法的性能相当。
2018-03-29 cs.CV
Minimal-Entropy Correlation Alignment for Unsupervised Deep Domain Adaptation
在这项工作中,我们面临的问题,无监督的领域自适应与一种新的深度学习的方法,利用我们的发现,熵最小化诱导的二阶统计源和目标域之间的最佳对齐。我们正式证明了这一假设,并在实际情况下,旨在实现最佳的对齐,我们采用了一个更有原则的策略,不同于目前的欧几里德方法,部署沿测地线对齐。我们的管道可以通过添加到标准分类损失(在标记的源域上)来实现,这是一个以无监督和数据驱动方式加权的源到目标正则化器。我们提供了广泛的实验来评估我们的框架在标准域和模态适应基准上的优越性。
2017-11-28 cs.CV
Unsupervised Segmentation Algorithms' Implementation in ITK for Tissue Classification via Human Head MRI Scans
International University of Business Agriculture and Technology(国际商业、农业与技术大学)
生物组织分类是生物医学图像分析领域的重要任务之一。磁共振成像(MRI)在组织分类中非常重要,特别是在脑组织分类的领域中,其能够识别感兴趣的解剖学区域,诸如手术计划、监测治疗、临床药物试验、图像配准、立体定向神经外科手术,本文的任务是在ITK中实现不同的无监督分类算法,并进行组织分类(白质、灰质、脑脊液(CSF)和人脑的背景)。为此,提供了5次灰度头部MRI扫描。为了对脑组织进行分类,使用了三种算法。这些是:大津阈值,贝叶斯分类和贝叶斯分类与高斯平滑。在结果和讨论部分中分析所获得的分类结果。
2020-01-25 cs.CV cs.DC
Unsupervised Multi-Task Feature Learning on Point Clouds
Autodesk AI Lab(欧特克人工智能实验室)
我们引入了一个无监督的多任务模型来联合学习点云上的点和形状特征。我们定义了三个无监督的任务,包括聚类,重建和自监督分类训练多尺度基于图的编码器。我们评估我们的模型的形状分类和分割基准。结果表明,它优于现有的最先进的无监督模型:在ModelNet40分类任务中,它实现了89.1%的准确率,在ShapeNet分割任务中,它实现了68.2的mIoU和88.6%的准确率。
2019-10-18 cs.CV cs.LG
Mixtures of Unsupervised Lexicon Classification
本文提出一种结合狄利克雷过程的混合矩方法,用于无监督词典分类。
2024-05-27 cs.AI cs.CL cs.CV
Unsupervised Person Re-identification via Multi-Label Prediction and Classification based on Graph-Structural Insight
Institute for Information Technology Convergence(信息技术融合研究所);Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院(KAIST))
本文讨论了无监督的人重新识别(Re-ID)使用多标签预测和分类的基础上图结构洞察。我们的方法从人的图像中提取特征,并产生一个图形,该图形由特征和它们的成对相似性分别作为节点和边缘组成。基于图结构的多标签预测(GSMLP)方法在图的基础上,通过考虑每个节点的两两相似性和相邻节点分布来预测多个标签。GSMLP创建的多标签被应用到建议的选择性多标签分类(SMLC)损失。SMLC集成了硬样本挖掘方案和多标签分类。所提出的GSMLP和SMLC在没有任何预标记数据集的情况下提高了无监督人Re-ID的性能。实验结果证明了所提出的方法在无监督的人Re-ID的优越性,通过产生国家的最先进的性能。本文的源代码可在'https://github.com/ukownpioneer/GSMLP-SMLC.git'上公开获取。
2021-06-16 cs.AI cs.CV
DART: Domain-Adversarial Residual-Transfer Networks for Unsupervised Cross-Domain Image Classification
Univ. of Electronic Sci & Tech.of China(电子科技大学);The Chinese University of Hong Kong(香港中文大学);University of Electronic Science and Technology of China(电子科技大学);Google Inc.(谷歌公司);Singapore Management University(新加坡管理大学)
深度学习的准确性(例如,卷积神经网络)用于图像分类任务关键地依赖于标记的训练数据的量。为了解决一个新领域的图像分类任务,缺乏标记的数据,但获得廉价可用的未标记的数据,无监督领域自适应是一种有前途的技术,以提高性能,而不会产生额外的标记成本,通过假设来自不同领域的图像共享一些不变的特征。在本文中,我们提出了一种新的无监督领域自适应方法,称为深度神经网络的域对抗残差转移(DART)学习,以解决跨域图像分类任务。与现有的无监督域自适应方法相比,所提出的DART不仅通过对抗训练来学习域不变特征,而且还通过残差转移策略来实现鲁棒的域自适应分类,所有这些都在端到端的训练框架中进行。我们评估了所提出的方法的性能跨域图像分类任务的几个著名的基准数据集,其中我们的方法明显优于国家的最先进的方法。
2018-12-30 cs.CV cs.LG
DeepfakeUCL: Deepfake Detection via Unsupervised Contrastive Learning
Deakin University(迪肯大学);University of Fukui(福井大学)
最近,面部深度伪造检测取得了令人印象深刻的结果。几乎所有现有的用于人脸deepfake检测的深度学习技术都是完全监督的,并且在训练期间需要标签。在本文中,我们通过无监督对比学习设计了一种新的deepfake检测方法。我们首先生成图像的两个不同的变换版本,并将它们馈送到两个顺序的子网络中,即,编码器和投影头。通过最大化投影头输出的对应度来实现无监督训练。为了评估我们的无监督方法的检测性能,我们进一步使用的无监督功能训练一个有效的线性分类网络。大量的实验表明,我们的无监督学习方法能够在数据集内和数据集间设置中实现与最先进的监督技术相当的检测性能。我们还对我们的方法进行了消融研究。
2021-04-23 cs.CV cs.LG
Augmenting Supervised Neural Networks with Unsupervised Objectives for Large-scale Image Classification
University of Michigan(密歇根大学)
无监督学习和监督学习是深度学习的关键研究课题。然而,随着用大量标签训练的高容量监督神经网络在许多计算机视觉任务中取得了显著的成功,大规模标记图像的可用性降低了无监督学习的重要性。受最近重新审视无监督学习重要性的趋势的启发,我们通过增强现有神经网络的解码路径来重建,在大规模环境中研究联合监督和无监督学习。首先,我们证明了预训练的大规模分类网络的中间激活几乎保留了输入图像的所有信息,除了一部分局部空间细节。然后,通过对整个增强架构进行端到端的训练,我们展示了监督任务的网络性能的改善。我们评估了几种变体的自动编码器,包括最近提出的“什么地方”的自动编码器,使用编码器池开关,研究架构设计的重要性。以ImageNet ILSVRC 2012协议下训练的16层VGGNet作为图像分类的强基线,我们的方法显著提高了验证集的准确性。
2016-06-21 cs.CV cs.LG
Joint cross-domain classification and subspace learning for unsupervised adaptation
KU Leuven(鲁汶大学);iMinds
领域自适应的目的是将源领域中获得的知识适应到新的不同但相关的目标领域。已经提出了几种方法,在无监督的情况下,没有标记的目标数据的分类任务。大部分的注意力都集中在搜索一个新的域不变表示,将预测函数的定义留给第二阶段。在这里,我们建议两者共同学习。具体来说,我们学习最匹配目标子空间的源子空间,同时最小化正则化误分类损失。我们提供了一种基于随机次梯度下降的交替优化技术来解决学习问题,并在几个领域自适应任务上展示了其性能。
2015-04-29 cs.CV cs.LG
Classifier-guided CLIP Distillation for Unsupervised Multi-label Classification
Samsung Electronics(三星电子);KAIST(韩国科学技术院)
针对CLIP用于无监督多标签分类时存在的视图依赖预测和固有偏差问题,提出分类器引导的CLIP蒸馏方法CCD,借助分类器CAM选择目标附近多视图并对CLIP伪标签去偏,在多数据集上取得优于现有方法的效果。
2025-03-21 cs.AI cs.CV
A Classification approach towards Unsupervised Learning of Visual Representations
Johnson Controls Inc.(江森自控公司)
在本文中,我们提出了一种技术的无监督学习的视觉表示。具体来说,我们训练一个模型的前景和背景分类任务,在这个过程中,它学习视觉表示。训练的前景和背景补丁来后,挖掘这样的补丁从数以百计和数以千计的未标记的视频在网络上,我们提取使用建议的补丁提取算法。在不使用任何监督的情况下,仅使用150,000个未标记的视频和PASCAL VOC 2007数据集,我们训练了一个达到45.3 mAP的对象识别模型,这接近于性能最好的无监督特征学习技术,但优于许多其他提出的算法。补丁提取的代码是在Matlab中实现的,可在以下链接中获得开源。
2018-06-01 cs.CV cs.LG stat.ML
Unsupervised Domain Adaptation Using Feature Disentanglement And GCNs For Medical Image Classification
Inception Institute of AI(Inception人工智能研究院)
深度学习的成功为许多医学图像分析任务设定了新的基准。然而,在训练(源)数据和测试(目标)数据之间存在分布变化的情况下,深度模型往往无法泛化。一种通常用于对抗分布偏移的方法是域自适应:使用来自目标域的样本来学习解释偏移的分布。在这项工作中,我们提出了一种无监督的域自适应方法,该方法使用图神经网络,并将语义和域不变结构特征分离,从而在分布变化中获得更好的性能。我们提出了一个扩展交换自动编码器,以获得更多的歧视性功能。我们测试了两个具有挑战性的医学图像数据集的分布变化-多中心胸部X射线图像和组织病理学图像的分类所提出的方法。实验表明,我们的方法实现了国家的最先进的结果相比,其他领域的适应方法。
2022-06-27 cs.CV eess.IV
Neural Stain Normalization and Unsupervised Classification of Cell Nuclei in Histopathological Breast Cancer Images
在本文中,我们开发了一个完整的管道染色标准化,分割,并在苏木精和伊红(H&E)染色的乳腺癌组织病理学图像的细胞核分类。在第一步中,我们使用基于CNN的染色转移技术来归一化(H&E)图像的染色特征。然后,我们训练一个神经网络从H&E图像分割细胞核的图像。最后,我们训练一个信息最大化生成对抗网络(InfoGAN)来学习不同类型细胞核的视觉表示,并以完全无监督的方式对其进行分类。结果表明,我们提出的CNN染色归一化产生改进的视觉相似性和细胞分割性能相比,传统的基于SVD的染色归一化方法。在我们管道的最后一步,我们展示了基于形态和颜色属性对各种乳腺组织病理学细胞类型进行完全无监督聚类的能力。此外,我们还根据各种定量指标对我们基于神经网络的技术进行了定量评估,以验证我们管道的有效性。
2018-11-09 cs.CV q-bio.QM
Invariant Information Clustering for Unsupervised Image Classification and Segmentation
University of Oxford(牛津大学)
我们提出了一种新的聚类目标,从头开始学习神经网络分类器,只给未标记的数据样本。该模型发现了准确匹配语义类的聚类,在跨越图像分类和分割的八个无监督聚类基准中实现了最先进的结果。其中包括ImageNet的无监督变体STL 10和CIFAR 10,我们分别以6.6和9.5个绝对百分点的准确率击败了最接近的竞争对手。该方法不专门用于计算机视觉,并对任何配对的数据集样本进行操作;在我们的实验中,我们使用随机变换从每个图像中获得一对。经过训练的网络直接输出语义标签,而不是需要外部处理才能用于语义聚类的高维表示。其目的只是为了最大限度地提高每一对的类分配之间的互信息。它很容易实现,并且严格基于信息论,这意味着我们可以毫不费力地避免其他聚类方法容易受到的退化解决方案。除了完全无监督模式外,我们还测试了两种半监督设置。第一个在STL 10分类上实现了88.8%的准确率,在所有现有方法(无论是监督,半监督还是无监督)中设置了新的全球最先进的方法。第二个显示了标签覆盖率减少90%的鲁棒性,与希望使用少量标签的应用程序相关。github.com/xu-ji/IIC
2019-08-22 cs.CV cs.LG
An Unsupervised Deep-Learning Method for Fingerprint Classification: the CCAE Network and the Hybrid Clustering Strategy
Dali University(大理大学);People’s Public Security University of China(中国人民公安大学)
在指纹匹配过程中,指纹分类是加快匹配速度、提高匹配精度的一种重要而有效的方法。传统的监督方法需要大量的预标记数据,因此消耗了巨大的人力资源。在本文中,我们提出了一种新的和有效的无监督的深度学习方法,可以自动提取指纹特征和分类指纹模式。在该方法中,一个新的模型命名为约束卷积自动编码器(CCAE)被用来提取指纹特征和混合聚类策略,以获得最终的聚类。在NIST-DB 4数据集上的实验表明,该方法具有较好的分类性能。例如,CCAE在NIST-DB 4中仅对1000个未标记的指纹实现了97.3%的准确度。
2021-09-12 cs.AI cs.CV cs.LG
Supervised and Unsupervised Textile Classification via Near-Infrared Hyperspectral Imaging and Deep Learning
JOANNEUM RESEARCH Forschungsgesellschaft mbH, DIGITAL(JOANNEUM RESEARCH 研究公司,DIGITAL);Graz University of Technology, Institute of Experimental Physics(格拉茨技术大学,实验物理研究所)
本文研究近红外高光谱成像结合监督与无监督深度学习模型用于纺织品纤维分类,验证了优化CNN和自编码器在不同纺织品结构上的泛化能力,为可持续纺织品回收提供了准确稳健的分类方案。
2025-05-06 cs.CV physics.app-ph
Unsupervised Meta-Learning For Few-Shot Image Classification
University of Central Florida(中佛罗里达大学)
分类器的Few-Shot或一次性学习需要对要学习的任务类型有显著的归纳偏差。获得这一点的一种方法是通过对与目标任务类似的任务进行元学习。在本文中,我们提出了UMTRA,一个算法,执行无监督,模型不可知的元学习分类任务。UMTRA的元学习步骤在未标记图像的平面集合上执行。虽然我们假设这些图像可以分为不同的类,并且与目标任务相关,但不需要关于类或任何标签的显式信息。UMTRA使用随机采样和增强来创建元学习阶段的合成训练任务。标签仅在最终目标任务学习步骤中需要,并且它们可以少至每个类一个样本。在Omniglot和Mini-Imagenet的少样本学习基准测试中,UMTRA优于每一种基于表示的无监督学习的测试方法,同时与最近的CACTU算法交替获得最佳性能。与有监督的模型不可知元学习方法相比,UMTRA牺牲了一些分类精度,以减少几个数量级的所需标签。
2019-11-07 cs.CV cs.LG
Unsupervised Mutual Transformer Learning for Multi-Gigapixel Whole Slide Image Classification
Khalifa University of Science and Technology(哈利法科学技术大学);ITU(信息技术大学(巴基斯坦拉合尔));the University of Warwick(华威大学)
针对全切片图像分类依赖人工标注的问题,提出基于互Transformer学习的无监督算法,通过伪标签生成与清理模块互训及判别式学习实现分类,在四个公开数据集上性能优于现有最优方法。
2023-05-03 cs.CV cs.LG
Unsupervised Domain Adaptation for Mammogram Image Classification: A Promising Tool for Model Generalization
University of Kentucky(肯塔基大学)
泛化是临床验证和将深度学习模型应用于医学图像的关键挑战之一。研究表明,由于患者人群和图像设备配置的差异,在公开数据集上训练的此类模型通常不能很好地用于真实世界的临床数据。此外,手动注释临床图像是昂贵的。在这项工作中,我们提出了一种无监督的领域自适应(UDA)方法,使用Cycle-GAN提高模型的泛化能力,而不使用任何额外的手动注释。
2020-03-02 cs.CV eess.IV q-bio.QM
Unsupervised Discriminative Learning of Sounds for Audio Event Classification
UC Berkeley(加州大学伯克利分校);Bosch Research North America(博世北美研究院)
基于网络的音频事件分类的最新进展已经显示了基于视觉数据(如ImageNet)的预训练模型的好处。虽然这个过程允许跨不同领域的知识转移,但在大规模视觉数据集上训练模型是非常耗时的。在几个音频事件分类基准测试中,我们展示了一种快速有效的替代方案,该方案仅在音频数据上对无监督模型进行预训练,但与ImageNet预训练的性能相当。此外,我们还证明了我们的区别性音频学习可以用于跨音频数据集传输知识,并可选地包括ImageNet预训练。
2021-05-20 cs.CV cs.SD eess.AS