Progressive Cluster Purification for Unsupervised Feature Learning
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);University of Chinese Academy of Sciences(中国科学院大学)
在无监督特征学习中,基于样本特异性的方法忽略了类间信息,这降低了表示模型的区分能力。基于聚类的方法是容易出错的探索完整的类边界信息,由于不可避免的类不一致的样本在每个类。在这项工作中,我们提出了一种新的基于聚类的方法,该方法通过在渐进式聚类形成过程中迭代地排除类不一致的样本,以简单而有效的方式消除噪声样本的影响。我们的方法,被称为渐进式聚类纯化(PCP),实现渐进式聚类逐渐减少训练过程中的集群的数量,而集群的大小不断扩大与模型表示能力的增长一致。该算法采用了一种设计良好的聚类净化机制,通过过滤噪声样本来进一步净化聚类,从而利用改进后的聚类作为伪标签来促进后续的特征学习。在常用基准上的实验结果表明,该方法对基线法有较大的改进。我们的代码将在https://github.com/zhangyifei0115/PCP上提供。
2020-07-15 cs.CV
Unsupervised Domain Adaptation with SAM-RefiSeR for Enhanced Brain Tumor Segmentation
Dept. of Computer Science and Engineering(计算机科学与工程系);Research Convergence Institute(研究融合研究所);Dept. of Electrical and Computer Engineering(电气与计算机工程系)
本文提出SAM-RefiSeR方法,通过无监督领域适应提升脑肿瘤分割的准确性与泛化能力。
2026-01-11 cs.CV
Virtual Adversarial Training in Feature Space to Improve Unsupervised Video Domain Adaptation
School of Computing Sciences, University of East Anglia(东英吉利大学计算科学学院)
虚拟对抗训练最近在半监督学习和无监督领域自适应方面取得了很大的成功。然而,到目前为止,它已被用于像素空间中的输入样本,而我们建议将其直接应用于特征向量。我们还讨论了熵最小化和决策边界迭代精化训练与教师在领域自适应的不稳定行为,并建议实现类似的行为的替代品。通过将上述技术添加到现有技术的模型TA $^3$ N,我们在多个无监督视频领域自适应任务中保持有竞争力的结果或优于现有技术
2020-08-19 cs.CV
Nonlinear Embedding Transform for Unsupervised Domain Adaptation
Center for Cognitive Ubiquitous Computing(认知普适计算中心);Arizona State University(亚利桑那州立大学)
领域自适应(DA)问题涉及使在一个数据分布上训练的分类器模型适应于不同的数据分布。在本文中,我们介绍了非线性嵌入变换(NET)的无监督DA结合域对齐与基于相似性的嵌入。我们还介绍了一个验证过程,估计模型参数的NET算法使用的源数据。多个视觉数据集的综合评价表明,NET算法优于现有的竞争程序的无监督DA。
2017-06-22 cs.CV
Progressive Classifier and Feature Extractor Adaptation for Unsupervised Domain Adaptation on Point Clouds
The University of Hong Kong(香港大学);The University of Sydney(悉尼大学)
提出PCFEA框架,通过宏观渐进式目标风格特征增强和微观中间域特征对齐,深度耦合分类器与特征提取器自适应,实现点云无监督域适应,取得新最先进性能。
2024-07-17 cs.CV
Contrastive Adaptation Network for Unsupervised Domain Adaptation
University of Technology Sydney(悉尼科技大学);Google AI(谷歌人工智能);Baidu Research(百度研究院);Carnegie Mellon University(卡内基梅隆大学)
无监督领域自适应(UDA)对目标领域数据进行预测,而手动注释仅在源领域中可用。以前的方法忽略了类信息,这可能会导致不对齐和泛化性能差的域差异最小化。为了解决这个问题,本文提出了对比自适应网络(CAN)优化一个新的度量,显式地模拟类内域差异和类间域差异。我们设计了一种交替更新策略,以端到端的方式训练CAN。在两个真实世界基准Office-31和VisDA-2017上的实验表明,CAN与最先进的方法相比表现良好,并产生更具区分力的特征。
2019-04-10 cs.CV
Unsupervised Domain Adaptation: A Multi-task Learning-based Method
University of Wollongong(卧龙岗大学)
提出了一种新的基于多任务学习的无监督领域自适应方法。具体地说,基于多任务学习的概念,通过考虑目标域的几何形状和源域与目标域之间的分歧,联合学习源域和目标域分类器。在此基础上提出了两种新的算法,分别采用正则化最小二乘法和支持向量机。在合成和真实世界的跨域识别任务的实验表明,所提出的方法优于几个国家的最先进的领域自适应方法。
2018-03-25 cs.CV
Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
Tsinghua University(清华大学)
深度学习方法在无监督领域自适应中显示出了希望,其目的是利用标记的源域来学习具有不同分布的未标记目标域的分类器。然而,这样的方法通常学习域不变表示空间以匹配源域和目标域的边缘分布,而忽略它们的精细级结构。在本文中,我们提出了一个教师(CAT)的无监督领域自适应,它可以有效地将区分聚类结构在两个领域更好的适应。从技术上讲,CAT利用隐式集成教师模型来可靠地发现未标记目标域的特征空间中的类条件结构。然后,CAT强制源和目标域的特征形成区分性的类条件聚类,并跨域对齐相应的聚类。实验结果表明,CAT在几个无监督的领域自适应场景中达到了最先进的结果。
2019-10-09 cs.CV
PSENet: Progressive Self-Enhancement Network for Unsupervised Extreme-Light Image Enhancement
VinAI Research(VinAI研究院)
极端的照明(例如太多或太少的光)通常会给机器和人类视觉带来许多麻烦。最近的许多工作主要集中在曝光不足的情况下,图像往往是在低光条件下(如夜间)捕获,并取得了良好的效果,提高图像的质量。然而,它们不如处理过度曝光下的图像。为了减轻这一限制,我们提出了一种新型的无监督增强框架,该框架对各种照明条件都具有鲁棒性,同时不需要任何曝光良好的图像来作为地面真相。我们的主要概念是构建从多个源图像合成的伪地面实况图像,模拟所有潜在的曝光场景,以训练增强网络。我们广泛的实验表明,所提出的方法在定量指标和定性结果方面始终优于当前最先进的无监督同行在几个公共数据集。我们的代码可在https://github.com/VinAIResearch/PSENet-Image-Enhancement上获得。
2022-10-03 cs.CV
Progressive Representation Adaptation for Weakly Supervised Object Localization
Tsinghua University(清华大学);Virginia Tech(弗吉尼亚理工大学);University of California, Merced(加州大学默塞德分校)
我们解决了弱监督对象定位的问题,只有图像级的注释可用于训练对象检测器。已经提出了许多方法来解决这个问题,通过挖掘对象的建议。然而,在对象建议中的大量噪声导致学习有区别的对象模型的模糊性。这种方法对模型初始化敏感,并且经常收敛到不期望的局部最小解。在本文中,我们提出通过渐进式表示自适应来克服这些缺点,其中包括两个主要步骤:1)分类自适应和2)检测自适应。在分类自适应中,我们将预训练的网络转移到多标签分类任务中,以识别图像中某个对象的存在。通过分类自适应步骤,网络学习特定于感兴趣的对象类别的区别性表示。在检测自适应,我们挖掘类特定的对象的建议,利用两个评分策略的基础上适应分类网络。特定于类的建议挖掘有助于从背景杂波中去除大量噪声,并从类似对象中消除潜在的混淆。我们进一步完善这些建议使用多个实例学习和分割线索。使用这些细化的对象边界框,我们微调了分类网络的所有层,并获得了一个完全自适应的检测网络。我们提出了详细的实验验证PASCAL VOC和ILSVRC数据集。实验结果表明,我们的渐进式表示自适应算法表现良好,对国家的最先进的方法。
2017-10-12 cs.CV
Minimal-Entropy Correlation Alignment for Unsupervised Deep Domain Adaptation
在这项工作中,我们面临的问题,无监督的领域自适应与一种新的深度学习的方法,利用我们的发现,熵最小化诱导的二阶统计源和目标域之间的最佳对齐。我们正式证明了这一假设,并在实际情况下,旨在实现最佳的对齐,我们采用了一个更有原则的策略,不同于目前的欧几里德方法,部署沿测地线对齐。我们的管道可以通过添加到标准分类损失(在标记的源域上)来实现,这是一个以无监督和数据驱动方式加权的源到目标正则化器。我们提供了广泛的实验来评估我们的框架在标准域和模态适应基准上的优越性。
2017-11-28 cs.CV
Unsupervised Domain Adaptation by Uncertain Feature Alignment
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
无监督领域自适应(UDA)处理模型从具有标记数据的给定源域到未标记目标域的自适应。在本文中,我们利用模型固有的预测不确定性来完成领域自适应任务。的不确定性是衡量的蒙特卡洛辍学,并用于我们提出的不确定性为基础的过滤和功能对齐(UFAL),结合了不确定性的功能损失(UFL)功能和不确定性为基础的过滤(UBF)的方法在欧几里得空间的功能对齐。我们的方法超越了最近提出的架构,并在多个具有挑战性的数据集上取得了最先进的结果。代码可在项目网站上获得。
2020-09-14 cs.CV
Progressive Fusion for Unsupervised Binocular Depth Estimation using Cycled Networks
University of Trento(特伦托大学);University of Oxford(牛津大学);Fondazione Bruno Kessler(布鲁诺·凯塞勒基金会);Huawei Technologies Ireland(华为技术爱尔兰)
最近基于监督回归的深单目深度估计方法取得了显著的性能。然而,它们在训练期间需要昂贵的地面实况注释。为了解决这个问题,在本文中,我们提出了一种新的无监督深度学习方法来预测深度图。我们介绍了一种新的网络架构,命名为渐进融合网络(PFN),这是专门为双目立体深度估计。该网络基于多尺度细化策略,该策略结合了两个立体视图提供的信息。此外,我们建议将这个网络堆叠两次,以形成一个循环。这种循环方法可以被解释为一种数据增强的形式,因为在训练时,网络既从训练集图像(在前向半周期中)学习,也从合成图像(在后向半周期中)学习。该架构与对抗学习联合训练。在公开数据集KITTI、Cityscapes和ApolloScape上进行的大量实验证明了该模型的有效性,与其他无监督深度学习方法相比具有很强的竞争力。
2019-09-17 cs.CV
Cross-Domain Few-Shot Segmentation via Multi-view Progressive Adaptation
Interdisciplinary Graduate Programme, Nanyang Technological University(南洋理工大学交叉学科研究生项目);Nanyang Technological University(南洋理工大学);Xi’an Jiaotong University(西安交通大学);VinUniversity(文大学);SMBU
提出多视角渐进适应方法,通过混合渐进增强和双链多视角预测,从数据和策略两方面逐步将小样本能力适应到目标域,显著提升跨域小样本分割性能。
2026-05-31 cs.CV
Unsupervised Deep Domain Adaptation for Pedestrian Detection
Shanghai Jiao Tong University(上海交通大学);University of Twente(特文特大学)
针对拥挤场景中行人检测的无监督领域自适应问题进行了研究。首先,我们利用迭代算法迭代地选择和自动注释具有高置信度的正面行人样本作为目标域的训练样本。同时,我们还重用了源域中的负样本,以弥补正样本和负样本数量的不平衡。其次,基于深度网络,我们还设计了一个无监督正则化器来减轻数据噪声的影响。更具体地说,我们将最后一个全连接层转换为两个子层-逐元素乘法层和求和层,并添加无监督正则化器以进一步提高领域自适应精度。在行人检测实验中,该方法提高了近30%的召回值,而精度几乎保持不变。此外,我们执行我们的方法对标准的领域自适应基准监督和无监督的设置,也达到了最先进的结果。
2018-02-09 cs.CV
Copy-Move Forgery Classification via Unsupervised Domain Adaptation
IIT Mandi(曼迪印度理工学院)
在当今时代,由于图像处理和计算机视觉技术中的现代工具,图像操纵变得越来越容易,产生看起来更自然的图像。分离伪造图像的任务变得非常具有挑战性。要解决这些问题,公开的数据集是不够的。在本文中,我们提出了一种使用深层语义图像修补算法来创建合成伪造数据集。此外,我们使用一个无监督的领域自适应网络来检测图像中的复制-移动伪造。我们的方法可以帮助在这些情况下,数据的分类是不可用的。
2019-11-14 cs.CV
EPIC-KITCHENS-100 Unsupervised Domain Adaptation Challenge for Action Recognition 2021: Team M3EM Technical Report
Institute of Industrial Science, the University of Tokyo(东京大学生产技术研究所)
在本报告中,我们描述了我们提交2021年EPIC-KITCHENS-100无监督领域自适应行动识别挑战赛的技术细节。利用多模态已被证明有利于无监督领域自适应(UDA)任务。在这项工作中,我们提出了多模态相互增强模块(M3 EM),这是一个深度模块,用于联合考虑来自多个模态的信息,以找到跨域最可转移的表示。我们通过实施两个子模块来实现这一点,用于使用其他模式的上下文来增强每种模式。第一子模块通过语义空间跨模态交换信息,而第二子模块基于所有模态的共识找到最可转移的空间区域。
2021-07-01 cs.CV
Progressive Domain Adaptation for Thermal Infrared Object Tracking
本文提出渐进式域自适应框架PDAT,通过全局对抗域自适应和聚类子域自适应逐步对齐RGB与TIR特征分布,并利用148万张未标注TIR图像训练,在五个TIR跟踪基准上实现近6%成功率提升。
2024-09-03 cs.CV
Solving Raven's Progressive Matrices with Neural Networks
National University of Singapore(新加坡国立大学)
瑞文推理测验(RPM)已被广泛应用于人类智商(IQ)测试。在本文中,我们的目标是解决RPM与神经网络在监督和无监督的方式。首先,我们研究了在监督学习中减少过拟合的策略。我们建议使用具有深层的神经网络,并在大规模数据集上进行预训练,以提高模型的泛化能力。在RAVEN数据集上的实验表明,我们的监督方法的整体准确性超过了人类水平的性能。其次,作为一个智能代理需要自动学习新的技能来解决新的问题,我们提出了第一个无监督的方法,多标签分类与伪目标(MCPT),RPM问题。基于伪目标的设计,MCPT将无监督学习问题转化为有监督的任务。实验表明,MCPT的测试准确率是随机猜测的两倍,例如28.50%对12.5%。最后,我们讨论了在未来解决RPM的无监督和可解释的策略的问题。
2020-02-06 cs.CV
Model Adaptation: Historical Contrastive Learning for Unsupervised Domain Adaptation without Source Data
Nanyang Technological University(南洋理工大学)
无监督领域自适应的目的是对齐一个标记的源域和一个未标记的目标域,但它需要访问源数据,这往往会引起数据隐私,数据可移植性和数据传输效率的关注。我们研究了无监督模型自适应(UMA),或称为无源数据的无监督领域自适应,这是一种替代设置,旨在使源训练模型适应目标分布,而无需访问源数据。为此,我们设计了一个创新的历史对比学习(HCL)技术,利用历史源假设,以弥补缺乏源数据在UMA。HCL从两个角度应对UMA挑战。首先,它引入了历史对比实例判别(HCID),通过对比当前适应模型和历史模型生成的嵌入,从目标样本中学习。通过历史模型,HCID鼓励UMA学习实例判别目标表示,同时保留源假设。其次,它引入了历史对比类别歧视(HCCD),伪标签的目标样本学习类别歧视的目标表示。具体来说,HCCD根据伪标签在当前和历史模型中的预测一致性对其重新加权。大量的实验表明,HCL在各种视觉任务和设置中始终优于最先进的方法。
2022-06-04 cs.CV
Unsupervised Pixel-Level Domain Adaptation with Generative Adversarial Networks
Google Brain(谷歌大脑);Google Research(谷歌研究院)
收集注释良好的图像数据集来训练现代机器学习算法对于许多任务来说都是非常昂贵的。一个吸引人的替代方案是渲染合成数据,其中自动生成地面实况注释。不幸的是,纯粹在渲染图像上训练的模型往往无法推广到真实图像。为了解决这个缺点,先前的工作引入了无监督的领域自适应算法,该算法试图在两个域之间映射表示或学习提取域不变的特征。在这项工作中,我们提出了一种新的方法,学习,在无监督的方式,在像素空间中的变换从一个域到其他。我们基于生成对抗网络(GAN)的方法使源域图像看起来像是从目标域绘制的。我们的方法不仅产生合理的样本,而且在许多无监督领域自适应场景上的表现优于最先进的方法。最后,我们证明了自适应过程可以推广到训练过程中看不到的对象类。
2017-08-23 cs.CV
DRANet: Disentangling Representation and Adaptation Networks for Unsupervised Cross-Domain Adaptation
DGIST(大邱庆北科学技术院);POSTECH(浦项科技大学)
在本文中,我们提出了DRANet,一个网络架构,解开图像表示和转移的视觉属性在一个潜在的空间,无监督的跨领域自适应。与现有的领域自适应方法,学习共享域的相关功能,DRANet保留了每个域的特性的独特性。我们的模型编码的内容(场景结构)和风格(艺术外观)从源和目标图像的个人表示。然后,它通过将传输的风格因子与为每个域指定的可学习权重一起合并到内容因子中来适应域。该学习框架允许利用单个编码器-解码器网络进行双向/多向领域自适应,并对齐它们的域移位。此外,我们提出了一个内容自适应域转移模块,有助于保留场景结构,同时转移风格。大量的实验表明,我们的模型成功地分离内容风格的因素,并合成视觉上令人愉快的域转移图像。所提出的方法在标准数字分类任务以及语义分割任务上展示了最先进的性能。
2021-03-28 cs.CV
Robust Unsupervised Domain Adaptation by Retaining Confident Entropy via Edge Concatenation
Kyungpook National University(庆北大学)
提出一种结合边缘信息与熵对抗网络的无监督域适应方法,通过边缘拼接增强边界清晰度,在SYNTHIA到Cityscapes和Mapillary基准上取得优于现有方法的性能。
2023-10-11 cs.CV
Sliced Wasserstein Discrepancy in Disentangling Representation and Adaptation Networks for Unsupervised Domain Adaptation
Faculty of Engineering and Computer Science, University of Victoria(工程与计算机科学学院,维多利亚大学)
本文提出DRANet-SWD,通过引入切片瓦瑟斯坦不相容性作为风格损失,提升无监督领域适应的性能。
2025-04-09 cs.CV
Progressive Test Time Energy Adaptation for Medical Image Segmentation
Yale University(耶鲁大学);Chung-Ang University(中央大学)
针对医学图像因成像差异和患者个体差异引发的分布偏移问题,提出一种基于形状能量模型的渐进式测试时自适应分割方法,在8个公开医学影像数据集上表现优于基线。
2025-03-20 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Shallow Features Guide Unsupervised Domain Adaptation for Semantic Segmentation at Class Boundaries
University of Bologna(博洛尼亚大学)
尽管深度神经网络在语义分割任务方面取得了显著的成果,但它们通常无法推广到新的领域,特别是在执行合成到真实的适应时。这样的域转移沿着类边界特别明显,使包括获得尖锐的分割掩模的语义分割的主要目标之一无效。在这项工作中,我们专门解决这个核心问题的背景下,无监督领域自适应,并提出了一种新的低层次的适应策略,使我们能够获得尖锐的预测。此外,受最近的自训练技术的启发,我们引入了一种有效的数据增强,它消除了采用伪标签进行自训练时通常存在于语义边界的噪声。我们的贡献可以很容易地集成到其他流行的自适应框架中,大量的实验表明,它们有效地提高了类边界的性能。
2021-10-06 cs.CV
Progressive Conservative Adaptation for Evolving Target Domains
The University of Hong Kong(香港大学);Xidian University(西安电子科技大学);University of Chinese Academy of Sciences(中国科学院大学);Beihang University(北京航空航天大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
针对目标域持续演化的问题,提出渐进式保守适应方法,利用类原型微调分类器并采用保守稀疏注意力保护历史知识,在多个数据集上验证了有效性。
2024-02-07 cs.CV
Unsupervised Domain Adaptation using Deep Networks with Cross-Grafted Stacks
University of Otago(奥塔哥大学);Institute of Information Engineering Chinese Academy of Sciences(中国科学院信息工程研究所)
当前在计算机视觉中使用的深度领域自适应方法主要集中于学习跨不同领域的区分性和领域不变特征。在本文中,我们提出了一种新的方法,通过将源域和目标域投影到一个共同的关联空间中,通过无监督的“交叉嫁接表示堆栈”(CGRS)机制来弥合域差距。具体来说,我们构建了两个域的变分自编码器(VAE),并通过交叉嫁接VAE的解码器堆栈来形成双向关联。此外,生成对抗网络(GAN)用于标签对齐(LA),将目标域数据映射到源域的已知标签空间。因此,整个适应过程由三个阶段组成:VAE的特征表示学习,关联生成和GANs的关联标签对齐。实验结果表明,我们的CGRS-LA方法优于国家的最先进的一些无监督领域自适应基准。
2019-03-25 cs.CV
Unsupervised BatchNorm Adaptation (UBNA): A Domain Adaptation Method for Semantic Segmentation Without Using Source Domain Representations
Technische Universität Braunschweig(布伦瑞克工业大学)
在本文中,我们提出了一个解决方案的任务“无监督领域自适应(UDA)的一个给定的预先训练的语义分割模型,而不依赖于任何源域表示”。以前用于语义分割的UDA方法要么在源域和目标域中同时训练模型,要么依赖于额外的网络,在适应期间将源域知识重放到模型。相比之下,我们提出了一种新的无监督BatchNorm自适应(UBNA)方法,该方法将给定的预训练模型适应于一个看不见的目标域,而不使用-超出预训练的现有模型参数-任何源域表示(既不是数据,也不是网络),并且也可以应用于在线设置或以Few-Shot方式使用来自目标域的几个未标记图像。具体来说,我们使用指数衰减的动量因子将归一化层统计信息部分地适应目标域,从而混合来自两个域的统计信息。通过对语义分割的标准UDA基准的评估,我们表明,这优于没有适应的模型和仅使用目标域统计数据的基线方法。与标准的UDA方法相比,我们报告的性能和使用的源域表示之间的权衡。
2021-11-11 cs.CV
Geometric Unsupervised Domain Adaptation for Semantic Segmentation
Toyota Research Institute (TRI)(丰田研究所)
模拟器可以有效地生成大量带标签的合成数据,并对难以标记的任务(如语义分割)进行完美的监督。然而,它们引入了一个域间隙,严重损害了现实世界的性能。我们建议使用自监督单目深度估计作为代理任务来弥合这一差距,并提高模拟到真实的无监督领域自适应(UDA)。我们的几何无监督领域自适应方法(GUDA)通过多任务目标学习域不变表示,该目标将合成语义监督与视频上的真实几何约束相结合。GUDA在UDA中建立了一个新的最先进的语义分割的三个基准,优于使用领域对抗学习,自我训练或其他自我监督代理任务的方法。此外,我们表明,我们的方法规模以及质量和数量的合成数据,同时也提高了深度预测。
2021-08-18 cs.CV
Semi-Supervised Domain Adaptation via Adaptive and Progressive Feature Alignment
Nanyang Technological University(南洋理工大学)
当代领域自适应语义分割的目标是通过假设目标领域是完全未注释的来解决数据注释的挑战。然而,注释一些目标样本通常是非常易于管理和值得的,特别是如果它大大提高了自适应性能。本文介绍了SSDAS,一个半监督域自适应图像分割网络,采用了一些标记的目标样本作为锚标记的源样本和未标记的目标样本之间的自适应和渐进的特征对齐。我们将少数标记的目标样本定位为参考,以衡量源和目标特征之间的相似性,并指导自适应域间对齐以学习更多相似的源特征。此外,我们在迭代训练过程中不断地用高置信度的目标特征替换不相似的源特征,实现了置信和不置信目标特征之间的渐进域内对齐。大量的实验表明,所提出的SSDAS大大优于一些基线,即,基于UDA的语义分割和基于SSDA的图像分类。此外,SSDAS是互补的,可以很容易地结合到基于UDA的方法与领域自适应语义分割的一致改进。
2021-06-05 cs.CV
On Fine-Tuned Deep Features for Unsupervised Domain Adaptation
Durham University(杜伦大学)
无监督领域自适应(UDA)的基于先验特征变换的方法采用由预训练的深度模型提取的深度特征,而不针对特定领域自适应任务对它们进行微调。相比之下,基于端到端学习的方法同时优化预训练的骨干和定制的自适应模块,以学习UDA的域不变特征。在这项工作中,我们探讨了潜在的微调功能和基于UDA方法的特征变换相结合,以提高领域自适应性能。具体来说,我们将流行的渐进伪标签技术的微调框架,以提取微调功能,随后使用在一个国家的最先进的特征变换为基础的领域自适应方法SPL(选择性伪标签)。对包括ResNet-50/101和DeiT-small/base在内的多个深度模型进行了彻底的实验,以证明微调特征和SPL的组合可以在多个基准数据集上实现最先进的性能。
2022-10-25 cs.CV
Unsupervised Robust Domain Adaptation without Source Data
ETH Zurich(苏黎世联邦理工学院);KU Leuven(鲁汶大学)
我们研究了在目标标签和源数据不可用的情况下的鲁棒领域自适应问题。所考虑的鲁棒性是对抗性扰动。本文旨在回答在没有源数据的无监督领域自适应环境下,寻找正确的策略使目标模型鲁棒性和准确性的问题。本文的主要发现是:(i)鲁棒源模型可以鲁棒地传递到目标;(ii)鲁棒领域自适应可以从非鲁棒伪标签和成对对比损失中受益。对于图像分类的任务,所提出的使用非鲁棒伪标签的方法在干净样本和对抗样本上都表现得令人惊讶地好。我们在四个基准数据集的测试基线上显示出一致的性能改进,准确性超过$10\%$。
2021-03-26 cs.CV
Progressive Proxy Anchor Propagation for Unsupervised Semantic Segmentation
Sungkyunkwan University(成均馆大学)
针对无监督语义分割中图像级预训练特征导致块级监督不可靠的问题,提出渐进式代理锚点传播策略,通过动态重定位代理和引入模糊区提升正负样本可靠性,在多个数据集上达到最先进性能。
2024-07-17 cs.CV
Restyling Data: Application to Unsupervised Domain Adaptation
Information Technologies Institute (ITI)(信息技术研究所(ITI));Centre for Research and Technology Hellas (CERTH)(希腊研究与技术中心(CERTH))
机器学习是由数据驱动的,然而,尽管它们的可用性不断增加,但训练数据需要费力、耗时且容易出错的标记或地面实况获取,这在某些情况下是非常困难甚至不可能的。最近的工作已经求助于合成数据生成,但是当应用于现实世界时,在合成数据上训练的模型的性能较差,引入了无监督领域自适应的挑战。在这项工作中,我们研究了一种无监督的领域自适应技术,从另一个角度下降,以避免对抗性训练和循环训练的复杂性。我们利用最新的进展,真实感风格转移,并采取完全数据驱动的方法。虽然这个概念已经隐含在领域自适应GANs的复杂目标中,但我们采用了一种明确的方法,并将其直接应用于数据预处理。由此产生的技术是可扩展的,高效的,易于实现,提供竞争力的性能,复杂的国家的最先进的替代品,并可以开辟新的途径,领域自适应。
2019-09-24 cs.CV
Multi-Target Domain Adaptation via Unsupervised Domain Classification for Weather Invariant Object Detection
Huawei(华为)
目标检测是自动驾驶的关键技术。如果训练图像的天气与测试图像的天气不同,则对象检测器的性能显著降低。领域自适应可用于解决域移位问题,以便提高对象检测器的鲁棒性。然而,大多数现有的领域自适应方法要么处理单个目标域,要么需要域标签。提出了一种新的无监督域分类方法,将单目标领域自适应方法推广到多目标域,并在此基础上设计了一个天气不变的目标检测器训练框架,在Cityscapes数据集及其合成变体(雾、雨、夜)上进行了实验。实验结果表明,该方法训练的目标检测器在不同天气条件下都能实现鲁棒的目标检测。
2021-03-25 cs.CV
Progressive Conditioned Scale-Shift Recalibration of Self-Attention for Online Test-time Adaptation
Department of Electrical and Electronic Engineering, Southern University of Science and Technology(电子工程系,南方科技大学);Pengcheng Lab(鹏城实验室)
本文提出渐进式条件缩放-位移重校准方法,通过在线适应提升自注意力机制在跨领域任务中的性能。
2025-12-14 cs.CV
Progressive LiDAR Adaptation for Road Detection
UBTECH Sydney Artificial Intelligence Centre(优必选悉尼人工智能中心);University of Sydney(悉尼大学);University of Technology Sydney(悉尼科技大学);Hangzhou Dianzi University(杭州电子科技大学)
尽管基于视觉图像的道路检测发展迅速,但由于光照变化和图像模糊等问题,鲁棒地识别视觉图像中的道路区域仍然具有挑战性。为此,可以并入LiDAR传感器数据以改进基于视觉图像的道路检测,因为LiDAR数据不太容易受到视觉噪声的影响。然而,将LiDAR信息引入基于视觉图像的道路检测的主要困难在于LiDAR数据及其提取的特征与视觉数据和视觉特征不共享同一空间。空间中的这种间隙可能限制LiDAR信息用于道路检测的益处。为了克服这个问题,我们引入了一种新的渐进式LiDAR自适应辅助道路检测(PLARD)方法,以适应LiDAR信息到基于视觉图像的道路检测,并提高检测性能。在PLARD中,渐进式LiDAR自适应包括两个后续模块:1)数据空间自适应,通过应用基于高度差的变换将LiDAR数据转换到视觉数据空间以与透视图对齐; 2)特征空间自适应,通过级联融合结构将LiDAR特征适应视觉特征。对著名的KITTI道路检测基准的全面实证研究表明,PLARD利用了视觉和LiDAR信息,即使在具有挑战性的城市场景中也能实现更强大的道路检测。特别是,PLARD优于其他最先进的道路检测模型,目前是公众可访问的基准排行榜的顶部。
2019-04-02 cs.CV
A Domain Agnostic Normalization Layer for Unsupervised Adversarial Domain Adaptation
我们提出了一个规范化层的语义场景分割无监督域自适应。已知归一化层可以提高收敛性和泛化能力,并且是许多最先进的全卷积神经网络的一部分。我们发现,传统的归一化层恶化了当前无监督对抗域自适应(UADA)的性能,UADA是一种提高未标记数据集网络性能的方法,也是我们研究的重点。因此,我们提出了一种新的领域不可知的归一化层,从而释放了归一化层对无监督对抗领域自适应的好处。在我们的评估中,我们从合成的GTA5数据集适应真实的Cityscapes数据集,一个常见的基准实验,并超越了最先进的。由于我们的规范化层在测试时是领域不可知的,我们进一步证明了UADA使用领域不可知的规范化提高了看不见的领域的性能,特别是在Apolloscape和Mapillary上。
2018-09-14 cs.CV
Improving Online Source-free Domain Adaptation for Object Detection by Unsupervised Data Acquisition
Australian Institute for Machine Learning(澳大利亚机器学习研究所);The University of Adelaide(阿德莱德大学)
本文针对自动驾驶目标检测中的在线无源域自适应问题,提出通过无监督数据采集优先选择信息量最大的无标签帧进行在线训练,并在真实数据集上验证其优于现有O-SFDA方法。
2024-08-30 cs.CV
Unsupervised Contrastive Domain Adaptation for Semantic Segmentation
University of Oxford(牛津大学);Intel Labs(英特尔实验室)
语义分割模型在领域转换的情况下难以推广。在本文中,我们介绍了对比学习的跨领域自适应的特征对齐。我们组装域内对比对和跨域对比对来学习跨域对齐的区分特征。基于得到的对齐良好的特征表示,我们引入了一种标签扩展方法,该方法能够在自适应过程中从硬类中发现样本,以进一步提高性能。所提出的方法始终优于国家的最先进的领域自适应的方法。当在合成的GTA 5数据集和未标记的Cityscapes图像上训练时,它在Cityscapes数据集上实现了60.2%mIoU。
2022-04-18 cs.CV
Progressive Domain Adaptation for Object Detection
UC Merced(加州大学默塞德分校);NEC Labs America(NEC美国实验室);Verisk Analytics(Verisk分析公司);Google(谷歌)
最近用于目标检测的深度学习方法依赖于大量的限界框注释。收集这些注释既费力又昂贵,但监督模型在测试来自不同分布的图像时并不能很好地泛化。领域自适应通过使现有标签适应目标测试数据来提供解决方案。然而,领域之间的巨大差距可能会使适应成为一项具有挑战性的任务,这会导致不稳定的训练过程和次优结果。在本文中,我们建议用一个中间域来弥合域之间的差距,并逐步解决更容易适应的子任务。这个中间域是通过翻译源图像来模仿目标域中的图像而构建的。为了解决域转移问题,我们采用对抗性学习来在特征级对齐分布。此外,加权任务损失被应用到处理不平衡的图像质量在中间域。实验结果表明,我们的方法表现出良好的对国家的最先进的方法在目标域上的性能。
2019-10-24 cs.CV
DPA: Dual Prototypes Alignment for Unsupervised Adaptation of Vision-Language Models
Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Alexandria University(亚历山大大学)
针对视觉-语言模型(如CLIP)在无监督领域适应中因伪标签噪声导致的性能受限问题,提出DPA方法,通过双原型对齐解决视觉文本表示错位,构建准确伪标签,在13个任务上显著优于基线。
2024-12-01 cs.CV
Self-Guided Adaptation: Progressive Representation Alignment for Domain Adaptive Object Detection
NELVT, School of EE & CS, Peking University(北京大学电子信息与计算机科学学院NELVT);University of Chinese Academy of Sciences(中国科学院大学);School of ECE, Peking University(北京大学电子信息工程学院);Pengcheng Laboratory(鹏城实验室);Beijing Institute of Technology(北京理工大学);Nanyang Technological University(南洋理工大学)
无监督领域自适应(UDA)在提高目标检测模型的跨域鲁棒性方面取得了前所未有的成功。然而,现有的UDA方法在很大程度上忽略了模型学习过程中的瞬时数据分布,这可能会在较大的域偏移情况下恶化特征表示。在这项工作中,我们提出了一个自我导向适应(SGA)模型,目标对准的特征表示和跨域的目标检测模型,同时考虑到即时对齐的困难。SGA的核心是在核空间中计算样本对的“硬度”因子,以指示域距离。该算法通过引入硬度因子,自适应地指示样本的重要性,并赋予样本不同的约束条件。根据硬度因子的指示,在模型自适应过程中以“由易到难”的方式实现了自引导渐进采样(SPS)。使用多级卷积特征,SGA进一步聚合以完全对齐检测模型的分层表示。在常用的基准测试上的大量实验表明,SGA改进了最先进的方法,具有显着的裕度,同时证明了大域偏移的有效性。
2020-03-22 cs.CV
Unsupervised Domain Adaptation with Progressive Domain Augmentation
Carleton University(卡尔顿大学)
领域自适应的目的是利用一个标签丰富的源域学习分类器在不同的标签稀缺的目标域。当这两个领域之间存在重大分歧时,这尤其具有挑战性。本文提出了一种基于渐进域增强的无监督领域自适应方法。该方法通过域插值生成虚拟中间域,逐步增大源域,并通过在格拉斯曼流形上进行多个子空间对齐来弥合源域和目标域的分歧。我们在多个领域自适应任务上进行了实验,结果表明所提出的方法达到了最先进的性能。
2020-04-24 cs.CV cs.LG stat.ML
WUDA: Unsupervised Domain Adaptation Based on Weak Source Domain Labels
Beijing University of Posts and Telecommunications(北京邮电大学)
用于语义分割的无监督领域自适应(UDA)解决了具有精细源域标签的跨域问题。然而,语义标签的获取一直是一个困难的步骤,许多场景只有弱标签(例如边界框)。针对弱监督和跨域问题并存的场景,定义了一个新的任务:基于弱源域标签的无监督领域自适应(WUDA)。为了探索这一任务的解决方案,本文提出了两个直观的框架:1)在源域中执行弱监督语义分割,然后实现无监督领域自适应; 2)使用源域数据训练目标检测模型,然后检测目标域中的对象,并实现弱监督语义分割。我们观察到,当数据集发生变化时,这两个框架的行为不同。因此,我们构建了具有大范围域移位的数据集对,并进行了扩展实验,以分析不同域移位对两个框架的影响。此外,为了度量域移位,我们首次将度量表示移位应用于城市景观图像分割。源代码和构建的数据集可在\url{https://github.com/bupt-ai-cz/WUDA}上获得。
2022-10-05 cs.CV
Multiple Fusion Adaptation: A Strong Framework for Unsupervised Semantic Segmentation Adaptation
Baidu Research(百度研究院)
本文提出了跨领域语义分割的任务,旨在提高对未标记的目标领域的分割精度,而不会招致额外的注释。利用基于伪标签的无监督领域自适应(UDA)流水线,提出了一种新颖有效的多融合自适应(MFA)方法。MFA主要考虑三种并行信息融合策略,即,跨模型融合、时域融合和一种新的在线-离线伪标签融合。具体而言,在线-离线伪标签融合鼓励自适应训练对容易被离线伪标签忽略的困难区域给予额外的关注,从而保留更多信息细节。虽然其他两种融合策略可能看起来是标准的,但MFA在提高集成的效率和有效性方面做出了重大努力,并成功地将所有三种策略注入到一个统一的框架中。在两个广泛使用的基准上进行实验,即,GTA5-to-Cityscapes和SYNTHIA-to-Cityscapes的结果表明,我们的方法显著提高了语义分割适应性,并建立了新的最新技术水平(分别为58.2%和62.5% mIoU)。该代码将在https://github.com/KaiiZhang/MFA上提供。
2021-12-01 cs.CV
Unsupervised Multi-Target Domain Adaptation: An Information Theoretic Approach
Google(谷歌)
无监督领域自适应(uDA)模型关注成对自适应设置,其中存在单个标记的源和单个目标域。然而,在许多现实世界中,人们试图适应多个但有点相似的目标域。将成对适应方法应用于这种设置可能是次优的,因为它们无法利用多个域之间的共享信息。在这项工作中,我们提出了一个信息理论的方法领域自适应在新的背景下,多个目标域与未标记的实例和一个源域与标记的实例。我们的模型的目的是找到一个共享的潜在空间共同的所有领域,同时占其余的私人,特定领域的因素。使用统一的信息理论方法来实现共享和私有信息的解开,该方法还用于在潜在表示与观察到的数据之间建立更强的联系。由此产生的模型,伴随着一个有效的优化算法,允许同时适应从一个单一的源到多个目标域。我们在三个具有挑战性的公开数据集上测试了我们的方法,结果表明它优于几种流行的领域自适应方法。
2018-10-26 cs.CV
Source-Free Progressive Graph Learning for Open-Set Domain Adaptation
The University of Queensland(昆士兰大学)
开集领域自适应(OSDA)在许多视觉识别任务中得到了广泛的关注。然而,现有的OSDA方法存在局限性,主要原因有三:(1)缺乏对泛化界的必要理论分析;(2)适应过程依赖于源数据和目标数据的共存;(3)无法准确估计模型预测的不确定性。我们提出了一个渐进式图学习(PGL)框架,该框架将目标假设空间分解为共享和未知子空间,然后逐步伪标记目标域中最有信心的已知样本进行假设自适应。此外,我们解决了一个更现实的无源开集领域自适应(SF-OSDA)设置,使源和目标域的共存没有假设,并介绍了一个平衡的伪标记(BP-L)的战略,在一个两阶段的框架,即SF-PGL。与对所有目标样本应用类不可知常数阈值进行伪标记的PGL不同,SF-PGL模型以固定比例从每个类别中均匀选择最置信的目标实例。每个类别的置信度阈值被视为学习语义信息的“不确定性”,然后在自适应步骤中使用这些不确定性来衡量分类损失。我们在基准图像分类和动作识别数据集上进行了无监督和半监督OSDA和SF-OSDA实验。此外,我们发现平衡的伪标记在改善校准方面起着重要作用,这使得训练的模型不太容易对目标数据进行过度自信或信心不足的预测。源代码可在https://github.com/Luoyadan/SF-PGL上获得。
2023-01-23 cs.CV
OTAdapt: Optimal Transport-based Approach For Unsupervised Domain Adaptation
University of Arkansas(阿肯色大学)
无监督的领域自适应是计算机视觉中具有挑战性的问题之一。提出了一种基于最优传输距离的无监督领域自适应方法。我们的方法允许对齐目标和源域,而不需要跨域的有意义的指标。此外,该方案还可以关联源域和目标域之间的正确映射,并保证源域和目标域之间的拓扑约束。该方法在不同的数据集上进行了各种问题的评估,即(i)MNIST,MNIST-M,USPS数据集上的数字识别,(ii)Amazon,Webcam,DSLR和VisDA数据集上的对象识别,(iii)IP 102数据集上的昆虫识别。实验结果表明,我们提出的方法一致地提高性能的准确性。此外,我们的框架可以与任何其他CNN框架结合在端到端深度网络设计中,以解决识别问题,从而提高其性能。
2022-05-22 cs.CV
Unsupervised Domain Adaptation for 3D Keypoint Estimation via View Consistency
The University of Texas at Austin(德克萨斯大学奥斯汀分校);MIT-IBM Watson AI Lab(麻省理工学院-IBM沃森人工智能实验室);Snap Inc.(Snap公司)
在本文中,我们介绍了一种新的无监督领域自适应技术的任务,从一个单一的深度扫描或图像的3D关键点预测。我们的主要思想是利用这样一个事实,即从相同或相似对象的不同视图进行的预测应该是相互一致的。这种视图一致性可以为未标记实例上的关键点预测提供有效的正则化。此外,我们引入了一个几何对齐项来正则化目标域中的预测。所得到的损失函数可以通过交替最小化来有效地优化。我们证明了我们的方法在真实数据集上的有效性,并给出了实验结果,表明我们的方法优于最先进的通用领域自适应技术。
2018-07-26 cs.CV
Category Contrast for Unsupervised Domain Adaptation in Visual Tasks
Nanyang Technological University(南洋理工大学);Inception Institute of Artificial Intelligence(起源人工智能研究院)
近年来,无监督表示学习的实例对比取得了很大的成功。在这项工作中,我们探讨了无监督领域自适应(UDA)的实例对比学习的想法,并提出了一种新的类别对比技术(CaCo),引入语义先验的实例歧视视觉UDA任务。通过将实例对比学习视为字典查找操作,我们构建了一个语义感知的字典,其中每个目标样本被分配一个(伪)类别标签的基础上的类别先验的源样本和目标域的样本。这允许类别对比学习(在目标查询和类别级字典之间)用于类别区分但域不变的特征表示:相同类别的样本(来自源或目标域)被拉近,而不同类别的样本同时被推开。在多个视觉任务中进行了广泛的UDA实验(例如,分割、分类和检测)表明,与现有技术的方法相比,CaCo实现了优越的性能。实验还表明,CaCo是对现有UDA方法的补充,并可推广到其他学习设置,如无监督模型自适应,开集/部分集自适应等。
2022-03-17 cs.CV
Semantically Consistent Image-to-Image Translation for Unsupervised Domain Adaptation
University of Augsburg(奥格斯堡大学)
无监督领域自适应(UDA)旨在将在源域上训练的模型适应到没有标记数据可用的新目标域。在这项工作中,我们调查的问题UDA从一个合成的计算机生成的域到一个类似的,但现实世界的域学习语义分割。我们提出了一个语义一致的图像到图像的翻译方法结合一致性正则化方法的UDA。我们克服了以前的限制,将合成图像转换为真实的图像。我们利用伪标签来学习一个生成的图像到图像翻译模型,该模型从两个域上的语义标签接收额外的反馈。我们的方法在相关领域自适应基准上优于结合图像到图像转换和半监督学习的最先进方法,即,GTA5到Cityscapes和SYNTHIA到Cityscapes。
2021-11-25 cs.CV