Transferable-guided Attention Is All You Need for Video Domain Adaptation
University of São Paulo(圣保罗大学);Federal University of São Carlos(圣卡洛斯联邦大学);University of Trento(特伦托大学)
针对视频无监督域自适应研究不足的问题,提出融合时空可迁移性关系的TransferAttn框架及DTAB模块,在多数据集多骨干网络上验证了有效性,且可提升现有相关方法性能。
2024-09-17 cs.CV
Geometric Understanding of Discriminability and Transferability for Visual Domain Adaptation
School of Mathematics, Sun Yat-Sen University(中山大学数学学院);School of Statistics and Mathematics, Guangdong University of Finance and Economics(广东财经大学统计与数学学院);School of Computer Science, Nanjing University of Posts and Telecommunications(南京邮电大学计算机学院)
该研究从几何视角分析无监督域适应中可迁移性与可判别性的本质,推导共正则化参数可行范围,提出基于核范数优化的几何导向模型,实验验证其有效增强两种能力。
2024-06-24 cs.CV cs.LG
On the Transferability and Discriminability of Repersentation Learning in Unsupervised Domain Adaptation
National Key Laboratory of Space Integrated Information System, Institute of Software Chinese Academy of Sciences(空间信息集成信息系统国家重点实验室,软件研究所);University of Chinese Academy of Sciences(中国科学院大学);National Key Laboratory of Space Integrated Information System, Department of Computer Science and Technology, Tsinghua University(空间信息集成信息系统国家重点实验室,清华大学计算机科学与技术系);Artificial Intelligence Thrust, Information Hub, Department of Computer Science & Engineering, School of Engineering, Hong Kong University of Science and Technology(人工智能 thrust,信息枢纽,工程学院计算机科学与工程系,香港科学与技术大学)
本文指出无监督域适应中仅依赖分布对齐会忽略目标域可判别性,提出结合域对齐与可判别性增强约束的RLGLC框架,通过AR-WWD和局部一致性机制保留细粒度信息,在多个基准上超越现有方法。
2025-05-28 cs.CV cs.LG
UM-Adapt: Unsupervised Multi-Task Adaptation Using Adversarial Cross-Task Distillation
Indian Institute of Science(印度科学学院)
针对人类水平的泛化,需要探索具有更大可移植性的自适应表示学习方法。大多数现有的方法独立地解决任务可转移性和跨领域自适应,导致有限的推广。在本文中,我们提出了UM-Adapt -一个统一的框架,有效地执行无监督的领域自适应的空间结构预测任务,同时保持在多任务设置中的各个任务的平衡性能。为了实现这一点,我们提出了两种新的正则化策略:a)基于轮廓的内容正则化(CCR)和b)使用跨任务蒸馏模块开发任务间的一致性。此外,避免了传统的ad-hoc域优化,我们重新利用跨任务蒸馏损失作为能量函数的输出,以对抗性地最小化输入域的差异。通过大量的实验,我们展示了从合成到自然环境的域转移下,同时针对多个任务的学习表示的卓越的泛化能力。UM-Adapt在ImageNet分类上产生了最先进的迁移学习结果,在PASCAL VOC 2007检测任务上也具有相当的性能,即使是在较小的主干网络上。此外,由此产生的半监督框架在NYUD和Cityscapes数据集上的表现优于当前最先进的全监督多任务学习。
2019-09-16 cs.CV
Unsupervised Domain Adaptation by Uncertain Feature Alignment
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
无监督领域自适应(UDA)处理模型从具有标记数据的给定源域到未标记目标域的自适应。在本文中,我们利用模型固有的预测不确定性来完成领域自适应任务。的不确定性是衡量的蒙特卡洛辍学,并用于我们提出的不确定性为基础的过滤和功能对齐(UFAL),结合了不确定性的功能损失(UFL)功能和不确定性为基础的过滤(UBF)的方法在欧几里得空间的功能对齐。我们的方法超越了最近提出的架构,并在多个具有挑战性的数据集上取得了最先进的结果。代码可在项目网站上获得。
2020-09-14 cs.CV
Minimal-Entropy Correlation Alignment for Unsupervised Deep Domain Adaptation
在这项工作中,我们面临的问题,无监督的领域自适应与一种新的深度学习的方法,利用我们的发现,熵最小化诱导的二阶统计源和目标域之间的最佳对齐。我们正式证明了这一假设,并在实际情况下,旨在实现最佳的对齐,我们采用了一个更有原则的策略,不同于目前的欧几里德方法,部署沿测地线对齐。我们的管道可以通过添加到标准分类损失(在标记的源域上)来实现,这是一个以无监督和数据驱动方式加权的源到目标正则化器。我们提供了广泛的实验来评估我们的框架在标准域和模态适应基准上的优越性。
2017-11-28 cs.CV
GAMA: Geometry-Aware Manifold Alignment via Structured Adversarial Perturbations for Robust Domain Adaptation
针对域适应中源目标域流形差异大、现有方法忽略精确流形对齐与结构化扰动探索的问题,提出几何感知流形对齐框架GAMA,通过切空间探索和流形约束优化实现显式对齐,理论与实验均验证其在多数据集上的性能优势。
2025-05-21 cs.CV
CSCL: Critical Semantic-Consistent Learning for Unsupervised Domain Adaptation
State Key Laboratory of Robotics, Shenyang Institute of Automation, Chinese Academy of Sciences(中国科学院沈阳自动化研究所机器人学国家重点实验室);Institutes for Robotics and Intelligent Manufacturing, Chinese Academy of Sciences(中国科学院机器人与智能制造创新研究院);University of Chinese Academy of Sciences(中国科学院大学);University of Arkansas at Little Rock(阿肯色大学小石城分校)
无监督的领域自适应无需对未标记的目标数据进行标注,在语义分割中引起了人们的兴趣。然而,1)现有方法忽略了并非所有跨领域的语义表示都是可传递的,这削弱了具有不可传递知识的领域转移; 2)由于类别不可知的特征对齐,它们未能缩小类别分布偏移。为了解决上述问题,我们开发了一个新的关键语义一致性学习(CSCL)模型,它缓解了领域和类别分布的差异。具体而言,基于关键转移的对抗框架旨在突出可转移的领域知识,而忽略不可转移的知识。在强化学习方式下,虽然存在不可传递知识的负传递,但可传递性评判器引导可传递性量化器最大化正传递增益。同时,借助目标样本的置信度引导伪标签生成器,提出了一种对称软发散损失,以探索类间关系并促进类间分布对齐。在多个数据集上的实验证明了该模型的优越性。
2020-08-24 cs.CV
Joint Geometrical and Statistical Alignment for Visual Domain Adaptation
University of Wollongong(伍伦贡大学)
提出了一种新的无监督领域自适应跨域视觉识别方法。我们提出了一个统一的框架,减少域之间的转移统计和几何,称为联合几何和统计对齐(JGSA)。具体地说,我们学习两个耦合的投影,投影的源域和目标域的数据到低维子空间的几何位移和分布偏移同时减少。目标函数可以有效地解决在一个封闭的形式。大量的实验已经验证了所提出的方法显着优于几个国家的最先进的领域自适应方法上的合成数据集和三个不同的现实世界的跨域视觉识别任务。
2017-05-16 cs.CV
Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
Tsinghua University(清华大学)
深度学习方法在无监督领域自适应中显示出了希望,其目的是利用标记的源域来学习具有不同分布的未标记目标域的分类器。然而,这样的方法通常学习域不变表示空间以匹配源域和目标域的边缘分布,而忽略它们的精细级结构。在本文中,我们提出了一个教师(CAT)的无监督领域自适应,它可以有效地将区分聚类结构在两个领域更好的适应。从技术上讲,CAT利用隐式集成教师模型来可靠地发现未标记目标域的特征空间中的类条件结构。然后,CAT强制源和目标域的特征形成区分性的类条件聚类,并跨域对齐相应的聚类。实验结果表明,CAT在几个无监督的领域自适应场景中达到了最先进的结果。
2019-10-09 cs.CV
Attention-based Cross-Layer Domain Alignment for Unsupervised Domain Adaptation
Zhejiang University(浙江大学);Ritsumeikan University(立命馆大学)
无监督领域自适应(UDA)的目的是从标记的源领域学习可转移的知识,并使训练好的模型适应未标记的目标领域。为了弥合源域和目标域之间的差距,一种流行的策略是通过对齐由深度模型提取的语义特征来最小化分布差异。现有的基于域的方法主要集中在减少同一模型层中的域分歧。然而,由于域的变化,相同级别的语义信息可能分布在模型层之间。为了进一步提高模型自适应性能,本文提出了一种基于注意力的跨层域对齐(ACDA)方法,该方法通过动态注意力机制捕获源域和目标域之间跨模型层的语义关系,并自动校准各个层次的语义信息。设计了一个精心设计的注意力机制,根据语义相似度对每个跨层对进行重新加权,以实现精确的领域对齐,从而在模型自适应过程中有效地匹配每个层次的语义信息。在多个基准数据集上的大量实验一致表明,所提出的方法ACDA产生最先进的性能。
2022-02-27 cs.CV
Subspace Alignment Based Domain Adaptation for RCNN Detector
IIT Kanpur(印度理工学院坎普尔分校);KU Leuven(鲁汶大学)
在本文中,我们提出了基于子空间对齐的领域自适应的最先进的RCNN为基础的对象检测器。目标是能够在新颖的真实世界目标场景中实现高质量的目标检测,而不需要来自目标域的标签。然而,无监督领域自适应已经在对象分类的情况下进行了研究,对于目标检测,它一直相对未被探索。在基于子空间的对象领域自适应中,我们需要访问源和目标子空间以获得限界框特征。缺乏监督(标签和边界框都没有)使任务具有挑战性。在本文中,我们证明了我们仍然可以通过从在源上训练并应用于目标的RCNN检测器中获得检测来适应被定位到对象的子空间。然后,我们形成本地化的子空间的检测和子空间对齐这些子空间之间的适应产生改进的目标检测。通过将PASCAL VOC的挑战性真实世界数据集作为源,并将Microsoft COCO数据集的验证集作为各种类别的目标,进行了此评估。
2015-07-20 cs.CV
Multiple Subspace Alignment Improves Domain Adaptation
Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
提出了一种新的无监督领域自适应(DA)方法用于跨领域视觉识别。虽然子空间方法在DA中取得了成功,但由于使用单个低维子空间近似整个数据集的假设,它们的性能往往受到限制。相反,我们开发了一种方法,通过一组低维子空间有效地表示源数据集和目标数据集,然后通过利用格拉斯曼流形上的子空间空间的自然几何形状来对齐它们。我们证明了这种方法的有效性,使用两个广泛使用的基准的实证研究,与最先进的领域自适应性能
2018-11-11 cs.CV
ToAlign: Task-oriented Alignment for Unsupervised Domain Adaptation
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
无监督域自适应分类旨在提高未标记目标域的分类性能。为了减轻域偏移的不利影响,许多方法在特征空间中对齐源域和目标域。然而,一个功能通常是作为一个整体进行对齐,而没有明确地使域对齐主动服务于分类任务,导致次优的解决方案。在本文中,我们提出了一个有效的面向任务的对齐(ToAlign)的无监督领域自适应(UDA)。我们研究了什么样的功能应该跨域对齐,并提出了域对齐主动服务于分类任务本身诱导的先验知识的指导下进行特征分解和对齐。特别是,我们显式地将源域中的特征分解为应对齐的任务相关/判别特征,以及应避免/忽略的任务无关特征。在各种基准上的广泛实验结果(例如,Offce-Home、Visda-2017和DomainNet)在不同领域自适应设置下的测试结果表明,ToAlign有助于实现最先进的性能。该代码可在https://github.com/microsoft/UDA上公开获取
2021-10-26 cs.CV
Modified Distribution Alignment for Domain Adaptation with Pre-trained Inception ResNet
Lehigh University(理海大学)
深度神经网络在计算机视觉中得到了广泛应用。有几个经过良好训练的深度神经网络用于ImageNet分类挑战,它在图像识别中发挥了重要作用。然而,很少有工作探讨了预训练的神经网络的图像识别领域的适应。在本文中,我们是第一个从预训练的Inception ResNet模型中提取更好的表示特征的人,用于领域自适应。然后,我们提出了一种改进的分布对齐方法,使用提取的特征进行分类。我们使用三个基准数据集(Office+Caltech-10,Office-31和E-Home)来测试我们的模型。大量的实验表明,与最先进的方法相比,分类准确率有显著的提高(4.8%,5.5%和10%)。
2019-04-18 cs.CV
Unsupervised domain adaptation via coarse-to-fine feature alignment method using contrastive learning
University of Electronic Science and Technology of China(电子科技大学)
以往的无监督领域自适应(UDA)特征对齐方法大多只对全局特征进行对齐,而没有考虑类间特征的失配。在这项工作中,我们提出了一种新的粗到精的特征对齐方法,使用对比学习称为CFContra。它比粗特征对齐或仅类特征对齐更接近类特征,因此在很大程度上提高了模型的性能。我们将其建立在UDA最有效的方法之一,称为熵最小化,以进一步提高性能。特别地,为了防止在语义分割中应用对比损失时过多的存储器占用,我们设计了一种新的方式来构建和更新存储体。通过这种方式,我们使算法更有效和可行的有限的内存。大量的实验表明,我们的方法和模型在GTA 5到Cityscapes数据集上训练的有效性,与MinEnt算法相比,mIOU提高了3.5。我们的代码将公开。
2021-03-23 cs.CV
Feature Alignment and Restoration for Domain Generalization and Adaptation
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
对于领域泛化(DG)和无监督领域自适应(UDA),跨领域特征对齐已被广泛探索,以提取不同领域的特征分布,以便学习领域不变表示。然而,特征对齐通常是任务无关的,并且可能导致特征表示的区分能力的退化,从而阻碍高性能。在本文中,我们提出了一个统一的框架,称为特征对齐和恢复(FAR),同时确保高的泛化能力和鉴别能力的网络有效的DG和UDA。具体来说,我们执行跨域的特征对齐(FA)通过对齐精心选择的特征的分布的时刻,以减少它们的差异。为了确保高分辨率,我们提出了一个特征恢复(FR)操作,从残留信息中提取任务相关的功能,并使用它们来补偿对齐的功能。为了更好地解纠缠,我们在FR步骤中强制执行双排名熵损失约束,以鼓励分离任务相关和任务无关的功能。在多个分类基准上的大量实验表明,我们的FAR框架在领域泛化和无监督领域自适应方面都具有很高的性能和很强的泛化能力。
2020-06-22 cs.CV
CAFA: Class-Aware Feature Alignment for Test-Time Adaptation
University of Washington(华盛顿大学);KAIST AI(韩国科学技术院人工智能学院);Enssel Inc.(Enssel公司)
针对测试时适应中无法以类判别方式学习目标表示的问题,提出类感知特征对齐损失CAFA,无需超参数,在6个数据集上持续优于现有基线。
2023-09-04 cs.CV
Towards Self-similarity Consistency and Feature Discrimination for Unsupervised Domain Adaptation
Zhejiang University(浙江大学);Alibaba Group(阿里巴巴集团)
无监督领域自适应的最新进展主要集中在通过全局分布对齐来学习共享表示,而没有考虑跨领域的类别信息。然而,类信息的忽略可能导致部分对齐(甚至不对齐)和较差的泛化性能。对于全面的对齐,我们认为,在源域中的不同功能之间的相似性应该是一致的,在目标域。基于这一假设,我们提出了一个新的域差异度量,即,自相似性一致性(SSC),强制特征结构在域之间保持一致。著名的相关对齐(CORAL)被证明是一个特殊的情况下,和次优措施,我们提出的SSC。此外,我们还建议通过结合深度表示的判别信息来减轻部分对齐和未对齐的副作用。具体而言,一个非常简单和有效的特征范数约束被用来扩大类间样本的差异。它减轻了执行自适应时严格对齐的要求,因此显著提高了自适应性能。在视觉领域自适应任务上的大量实验证明了我们提出的SSC度量和特征判别方法的有效性。
2019-04-13 cs.CV
Dynamic Feature Alignment for Semi-supervised Domain Adaptation
University of Kentucky(肯塔基大学);Eastern Kentucky University(东肯塔基大学)
大多数关于领域自适应的研究都集中在纯无监督的设置上,其中目标域中没有标记的示例可用。然而,在许多现实世界的场景中,少量的标记目标数据是可用的,可以用来提高适应性。我们解决这个半监督设置,并建议使用动态特征对齐来解决域间和域内的差异。与以前的方法,试图在一个小批量对齐源和目标功能,我们建议对齐目标功能的一组动态更新的类原型,我们使用这两个最小化分歧和伪标签。通过基于类原型进行更新,我们避免了由于类不平衡而在以前的方法中出现的问题。我们的方法不需要大量的调整或对抗性训练,显著提高了半监督领域自适应的最新水平。我们提供了两个标准的数据集,DomainNet和EST-Home,和性能分析的定量评估。
2021-10-18 cs.CV
Towards Category and Domain Alignment: Category-Invariant Feature Enhancement for Adversarial Domain Adaptation
Carleton University(卡尔顿大学);University of Ottawa(渥太华大学)
对抗性领域自适应通过对齐两个领域的特征分布,在将知识从源领域转移到目标领域方面取得了令人印象深刻的进展。这些方法的重点是最大限度地减少域分歧,并将适应性(衡量为这两个域上理想联合假设的预期误差)视为一个小常数。然而,这些方法仍然面临两个问题:(1)对抗性域对齐扭曲了原始特征分布,降低了适应性;(2)将特征表示转换为域不变需要牺牲特定域的变化,导致较弱的可区分性。为了缓解这些问题,我们提出了类别不变特征增强(CIFE),一种通用的机制,通过优化适应性来增强对抗性领域自适应。具体而言,CIFE方法引入类别不变特征,以提高域不变特征的可区分性,同时保持可转移性。实验表明,CIFE可以改善代表性的对抗性领域自适应方法,产生国家的最先进的结果在五个基准。
2021-08-14 cs.CV
Bridging the Sim2Real gap with CARE: Supervised Detection Adaptation with Conditional Alignment and Reweighting
Georgia Tech(佐治亚理工学院);NVIDIA(英伟达)
Sim2Real领域自适应(DA)研究的重点是从标记的合成源域到未标记或稀疏标记的真实目标域的自适应约束设置。然而,对于高风险应用(例如,自动驾驶),除了大量的自动标记的源数据(例如,来自驾驶模拟器)之外,通常还具有适量的人类标记的真实数据。我们研究了这种设置的监督sim2real DA应用到二维目标检测。我们提出了域翻译通过条件对齐和重新加权(CARE)一种新的算法,系统地利用目标标签显式地关闭sim2real外观和内容的差距。我们提出了一个分析的理由,我们的算法,并证明了强大的收益在标准基准的竞争方法。
2023-02-09 cs.CV
Cross-Resolution SAR Target Detection Using Structural Hierarchy Adaptation and Reliable Adjacency Alignment
Department of Information Engineering, Harbin Institute of Technology(信息工程系,哈尔滨工业大学)
本文提出CR-Net,通过结构诱导层次特征自适应和可靠结构邻接对齐实现跨分辨率SAR目标检测的可靠域自适应,并在不同分辨率数据集上取得SOTA性能。
2025-09-19 cs.CV
MetaAlign: Coordinating Domain Alignment and Classification for Unsupervised Domain Adaptation
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
对于无监督的领域自适应(UDA),为了减轻领域转移的影响,许多方法通过对抗性学习或显式对齐其统计数据来对齐特征空间中的源域和目标域。然而,这种域对齐的优化目标通常与对象分类任务本身的优化目标不协调,使得它们用于优化的下降方向可能不一致。这将降低域对齐在提高UDA性能方面的有效性。在本文中,我们的目标是研究和减轻域对齐和分类任务之间的优化不一致问题。我们解决这个问题,提出了一个有效的元优化为基础的策略称为MetaAlign,在那里我们把域对齐目标和分类目标的元训练和元测试任务的元学习计划。MetaAlign鼓励以协调的方式优化这两个任务,从而在训练期间最大化两个任务的梯度的内积。实验结果表明,我们所提出的方法的有效性上的各种基于基线的方法,对象分类和目标检测的任务。MetaAlign有助于实现最先进的性能。
2021-03-25 cs.CV
Unsupervised Domain Adaptation for Sim-to-Real Object Pose Estimation with Contrastive Alignment and Pseudo-Label Refinement
SnT, University of Luxembourg(卢森堡大学SnT中心)
提出CAPLR方法,通过局部区域对比对齐和基于一致性的伪标签精炼,实现无监督域自适应物体姿态估计,在多个基准上达到最优性能。
2026-06-23 cs.CV
Semi-Supervised Domain Adaptation via Adaptive and Progressive Feature Alignment
Nanyang Technological University(南洋理工大学)
当代领域自适应语义分割的目标是通过假设目标领域是完全未注释的来解决数据注释的挑战。然而,注释一些目标样本通常是非常易于管理和值得的,特别是如果它大大提高了自适应性能。本文介绍了SSDAS,一个半监督域自适应图像分割网络,采用了一些标记的目标样本作为锚标记的源样本和未标记的目标样本之间的自适应和渐进的特征对齐。我们将少数标记的目标样本定位为参考,以衡量源和目标特征之间的相似性,并指导自适应域间对齐以学习更多相似的源特征。此外,我们在迭代训练过程中不断地用高置信度的目标特征替换不相似的源特征,实现了置信和不置信目标特征之间的渐进域内对齐。大量的实验表明,所提出的SSDAS大大优于一些基线,即,基于UDA的语义分割和基于SSDA的图像分类。此外,SSDAS是互补的,可以很容易地结合到基于UDA的方法与领域自适应语义分割的一致改进。
2021-06-05 cs.CV
ForensicTransfer: Weakly-supervised Domain Adaptation for Forgery Detection
University Federico II of Naples(那不勒斯费德里科二世大学);Technical University of Munich(慕尼黑工业大学);University of Erlangen-Nuremberg(埃尔朗根-纽伦堡大学)
随着新的复杂图像伪造方法的出现,区分操纵图像和真实图像变得越来越困难。基于卷积神经网络(CNN)的朴素分类方法在特定伪造方法上训练时,在检测图像操纵方面表现出优异的性能。然而,在看不见的操纵方法的例子中,它们的性能显着下降。为了解决这种可转移性的限制,我们引入了Forensic-Transfer(FT)。我们设计了一种基于学习的取证检测器,它可以很好地适应新的领域,即,新的操作方法,可以处理在训练过程中只有少数假例子可用的情况。为此,我们学习了一种基于新型自动编码器架构的取证嵌入,该架构可用于区分真实图像和虚假图像。学习的嵌入充当异常检测器的一种形式;也就是说,从看不见的方法操作的图像将被检测为假的,只要它映射到离真实图像集群足够远的地方。与以前的作品相比,FT显示出显着的可移植性,我们证明了在一系列的实验中的尖端基准的改善。例如,在看不见的例子中,我们的准确率高达85%,而在少数可见的例子中,我们的性能已经达到了95%左右。
2019-11-27 cs.CV
Multi-Source Video Domain Adaptation with Temporal Attentive Moment Alignment
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究院);Pluang
多源领域自适应(MSDA)是现实场景中更实用的领域自适应场景。它放宽了传统的无监督领域自适应(UDA)中的假设,即源数据是从单个域采样的,并且匹配均匀的数据分布。MSDA是更困难的,由于不同的域对之间存在不同的域移位。当考虑视频时,负迁移将由时空特征引起,并且可以被公式化为更具挑战性的多源视频领域自适应(MSVDA)问题。在本文中,我们提出了一种新的时间注意力矩对齐网络(TAMAN),其目的是通过动态对齐空间和时间特征矩有效的特征转移MSVDA问题。TAMAN进一步通过关注具有高局部分类置信度和全局与局部特征差异之间的低差异的主导域不变局部时间特征来构建鲁棒的全局时间特征。为了方便今后的研究MSVDA问题,我们引入全面的基准,涵盖广泛的MSVDA方案。实证结果表明,提出的TAMAN在多个MSVDA基准的优越性能。
2021-09-26 cs.CV
Task-Discriminative Domain Alignment for Unsupervised Domain Adaptation
Rutgers University(罗格斯大学);Samsung AI Center(三星人工智能中心)
领域自适应(DA)是一种将在一个领域(源)上学习到的任务模型有效地适应于其他相关但不同的领域(目标)的过程,没有或只有最少的再训练,通常使用源到目标流形对齐的过程来完成。然而,这一过程往往导致不令人满意的适应性能,部分原因是它忽略了特定于任务的数据结构。在本文中,我们提高了DA的性能,通过引入一个歧视性的差异措施,利用辅助信息在源和目标域,以更好地对齐源和目标分布。具体来说,我们利用与不同任务相关联的单个数据流形内的内聚聚类结构来改进对齐。这种结构在源中是显式的,其中任务标签是可用的,但在目标中是隐式的,使问题具有挑战性。我们通过设计一个深度DA框架来解决这一挑战,该框架将一个新的任务驱动的域对齐算法与域正则化器相结合,该正则化器鼓励共享特征作为任务特定的和域不变的,并促使任务模型保持数据结构,引导其决策边界通过低密度数据区域。我们在标准基准上验证了我们的框架,包括Digits(MNIST,USPS,SVHN,MNIST-M),PACS和VisDA。我们的研究结果表明,我们提出的模型始终优于国家的最先进的无监督领域自适应。
2019-09-26 cs.CV
Class Distribution Alignment for Adversarial Domain Adaptation
Nanjing Normal University(南京师范大学);Nanjing University(南京大学);University of Wollongong(伍伦贡大学);University of Sydney(悉尼大学)
现有的大多数无监督领域自适应方法主要集中在对齐源域和目标域之间的样本边缘分布。这种设置没有充分考虑两个域之间的类别分布信息,这可能对域间隙的减小产生不利影响。为了解决这个问题,我们提出了一种称为条件对抗图像翻译(CADIT)的新方法,以显式对齐两个域之间给定样本的类分布。它集成了一个判别性结构保持损失和一个联合对抗性生成损失。前者在整个图像平移过程中有效地防止了不期望的标签翻转,而后者则保持了图像和标签的联合分布对齐。此外,我们的方法加强了目标领域的图像适应前后的分类一致性,以帮助在两个领域的分类器训练。在多个基准数据集上进行了广泛的实验,包括Digits,Faces,Scenes和Bulletin 31,表明与最先进的方法相比,我们的方法在目标领域实现了更好的分类。此外,定性和定量的结果都很好地支持了我们的动机,对齐类分布确实可以提高领域自适应。
2020-04-20 cs.CV
Robust Class-Conditional Distribution Alignment for Partial Domain Adaptation
Arizona State University(亚利桑那州立大学)
针对部分域适应中私有源类别样本导致的负迁移问题,提出通过超越一阶矩推导紧凑类别分布、优化类内类间分布并设计鲁棒伪标签与补熵模块的方法,显著提升了分类性能。
2023-10-19 cs.CV
Synthetic to Real Adaptation with Generative Correlation Alignment Networks
Boston University(波士顿大学)
从3D CAD模型渲染的合成图像对于增强对象识别算法的训练数据是有用的。然而,生成的图像是非真实感的,并且不匹配真实图像统计。这会导致较大的域差异,导致在合成数据上训练的模型在真实域上表现不佳。最近的工作已经显示了深度卷积神经网络生成逼真图像的巨大潜力,但尚未利用生成模型来解决合成到真实领域自适应。在这项工作中,我们提出了一个深度生成相关对齐网络(DGCAN)合成图像使用一种新的域自适应算法。DGCAN利用形状保持损失和低水平的统计匹配损失来最小化深特征空间中合成图像和真实图像之间的域差异。实验表明,在新生成的数据上训练现成的分类器可以显着提高在真实图像域(PASCAL VOC 2007基准和Office数据集)上测试时的性能,改进了几种现有的方法。
2017-03-18 cs.CV
Contrastive Conditional Alignment based on Label Shift Calibration for Imbalanced Domain Adaptation
School of Communication
本文提出 CCA-LSC 方法,通过对比条件对齐解决协变量偏移,并利用标签偏移校准目标伪标签,以提升不平衡域自适应性能。
2024-12-29 cs.CV
SAMDA: Leveraging SAM on Few-Shot Domain Adaptation for Electronic Microscopy Segmentation
School of Artificial Intelligence, Beijing University of Post and Telecommunication(北京邮电大学人工智能学院)
提出SAMDA框架,结合SAM与nnUNet实现电子显微镜分割的少样本域自适应,通过融合通用与专家组件提升迁移性和准确性,目标域dice系数提高6.7%,单样本性能优于10-shot。
2024-03-12 cs.CV cs.LG eess.IV
Discriminative Joint Probability Maximum Mean Discrepancy (DJP-MMD) for Domain Adaptation
Huazhong University of Science and Technology(华中科技大学)
在领域自适应中,最大平均差异(MMD)被广泛采用来衡量源域和目标域分布之间的差异。许多现有的领域自适应方法基于联合MMD,其被计算为边缘分布差异和条件分布差异的(加权)和;然而,更自然的度量可以是它们的联合概率分布差异。此外,大多数度量仅旨在提高域之间的可转移性,而忽略了不同类别之间的可区分性,这可能导致分类性能不足。为了解决这些问题,本文提出了判别式联合概率MMD(DJP-MMD),以取代领域自适应中常用的联合MMD。它具有两个理想的性质:1)它为计算分布差异提供了一个新的理论基础,它更简单,更精确; 2)它同时增加了可传递性和可区分性。我们通过将其嵌入到联合概率领域自适应框架中来验证其性能。在6个图像分类数据集上的实验表明,该方法的分类性能优于传统的MMD方法。
2020-04-10 cs.CV cs.LG stat.ML
FedSCAl: Leveraging Server and Client Alignment for Unsupervised Federated Source-Free Domain Adaptation
Indian Institute of Science(印度科学研究院)
FedSCAl通过引入服务器-客户端对齐机制,有效缓解联邦源域适应中的客户端漂移问题,提升伪标签准确性并优于现有方法。
2025-12-07 cs.CV
Geometry-Aware Unsupervised Domain Adaptation
Sun Yat-Sen University(中山大学)
无监督领域自适应(UDA)的目的是在数据集移位的情况下将知识从标记的源域转移到未标记的目标域。大多数现有的方法不能很好地解决域对准和类别区分,这可能会扭曲下游任务的固有数据结构(例如,分类)。为此,我们提出了一种新的几何感知模型,通过核范数优化同时学习可转移性和可区分性。我们从子空间几何的角度介绍了UDA的域相干性和类正交性。域一致性将确保模型具有更大的学习可分离表示的能力,而类正交性将最小化聚类之间的相关性以减轻不对齐。因此,它们是一致的,可以相互受益。此外,我们提供了一个理论上的洞察规范为基础的学习文献在UDA,这确保了我们的模型的可解释性。我们表明,域和集群的范数预计将更大和更小,以提高可转移性和可辨别性,分别。在标准UDA数据集上的大量实验结果证明了我们的理论和模型的有效性。
2021-12-21 cs.CV cs.LG
Just DIAL: DomaIn Alignment Layers for Unsupervised Domain Adaptation
Sapienza University(罗马大学);Institut de Robotica i Informatica Industrial CSIC-UPC(西班牙国家研究委员会-加泰罗尼亚理工大学工业机器人与计算机视觉研究所);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会);University of Perugia(佩鲁贾大学)
经验的事实,即分类器,在给定的数据汇集,在不同的设置中获得的数据进行测试时表现不佳,在理论上解释了领域自适应通过源和目标域的分布之间的转变。减轻域转移问题,特别是在没有标记数据可用于目标域的具有挑战性的设置中,对于使视觉识别系统在野外工作至关重要。由于问题源于分布之间的转变,直觉上应该尝试将它们对齐。在文献中,这导致了一系列试图将从源域和目标域学习到的特征表示对齐的工作。在这里,我们采取不同的路线。而不是引入正则化条款,旨在促进对齐的两个表示,我们采取行动的分布水平,通过引入\emph{DomaIn Alignment Layers}(\DIAL),能够匹配所观察到的源和目标数据分布的参考。在三个不同的公共基准上进行了彻底的实验,我们证实了我们的方法的力量。
2017-04-27 cs.CV
Correlation Alignment by Riemannian Metric for Domain Adaptation
Pattern Analysis and Computer Vision (PAVIS)(模式分析与计算机视觉(PAVIS));Istituto Italiano di Tecnologia(意大利技术研究院)
领域自适应技术解决了降低机器学习方法对所谓的领域偏移(即源(训练)和目标(测试)数据分布之间的差异)的敏感性的问题。特别地,无监督领域自适应假设在目标领域中没有标签可用。为此,对齐目标域和源域的二阶统计量(协方差)已被证明是一种有效的方法,以填补域之间的差距。然而,协方差矩阵并不构成欧几里得空间的子空间,而是存在于具有非正曲率的黎曼流形中,使得通常的欧几里得度量在测量距离时是次优的。在本文中,我们扩展了训练神经网络的思想与约束的协方差的隐藏层功能,严格占对称正定矩阵的流形的弯曲结构。由此产生的损失函数利用了理论上合理的测地线距离这样的流形。结果表明,欧几里德距离的次优性质。这使得我们能够在标准Office数据集上执行比以前更好的方法,这是领域自适应技术的基准。
2017-05-23 cs.CV
Alleviating Human-level Shift : A Robust Domain Adaptation Method for Multi-person Pose Estimation
Beijing Jiaotong University(北京交通大学)
人体姿态估计已经被广泛研究,其中很多关注于需要足够注释的监督学习。然而,在实际应用中,预训练的姿态估计模型通常需要适应没有标签或稀疏标签的新领域。这种用于2D姿态估计的领域自适应尚未被探索。主要原因是姿势本身具有典型的拓扑结构,需要在局部关键点中进行细粒度的特征提取。而现有的自适应方法没有考虑感兴趣对象的拓扑结构,对整幅图像的配准比较粗糙。因此,我们提出了一种新的领域自适应方法进行多人姿态估计的人级拓扑结构对齐和细粒度的特征对齐。我们的方法包括三个模块:交叉注意特征对齐(CAFA),域内结构自适应(ISA)和域间人类拓扑对齐(IHTA)模块。CAFA采用了一个双向空间注意模块(BSAM),专注于细粒度的两个人之间的局部特征的相关性,自适应地聚合一致的适应功能。我们只在半监督领域自适应(SSDA)中采用ISA,以利用相应的关键点语义关系来减少域内偏差。最重要的是,我们提出了一个IHTA来学习更多的域不变的人类拓扑表示,以减少域间的差异。我们通过图卷积网络(GCN)来建模人体拓扑结构,通过传递消息,可以考虑高阶关系。这种基于GCN的结构保持对齐有利于遮挡或极端姿态的推断。在两个流行的基准测试上进行了大量的实验,结果表明,与现有的监督方法相比,我们的方法的能力。
2020-08-13 cs.CV
D3GU: Multi-Target Active Domain Adaptation via Enhancing Domain Alignment
Carnegie Mellon University(卡内基梅隆大学);Florida State University(佛罗里达州立大学)
本文提出首个多目标主动域适应框架D3GU,通过分解域判别实现源域与目标域及目标域之间的对齐,并设计梯度效用分数结合KMeans进行主动采样,在多个基准数据集上取得持续优越性能。
2024-01-10 cs.CV
Feature-aware Adaptation and Density Alignment for Crowd Counting in Video Surveillance
Northwestern Polytechnical University(西北工业大学)
随着深度神经网络的发展,人群计数和逐像素密度估计的性能不断被刷新。尽管如此,该领域仍存在两个挑战性问题:1)当前的监督学习需要大量的训练数据,但收集和标注困难; 2)现有方法不能很好地推广到未知领域。最近发布的合成人群数据集说明了这两个问题。然而,真实世界数据和合成图像之间的域间隙降低了模型的性能。为了减小这种差距,本文提出了一种领域自适应的人群计数方法,该方法可以有效地将合成数据模型自适应到特定的真实场景。它包括多层结构化密度图对齐(SDA)和多层结构化密度图自适应(MFA)。具体来说,MFA增强了模型,从多个层中提取域不变特征。SDA保证网络输出精细的密度图,在实域上具有合理的分布。最后,我们评估所提出的方法在四个主流的监控人群数据集,上海科技B部分,世博会'10,购物中心和UCSD。大量的实验证明,我们的方法优于国家的最先进的方法相同的跨域计数问题。
2020-10-27 cs.CV
Bures Joint Distribution Alignment with Dynamic Margin for Unsupervised Domain Adaptation
Sun Yat-Sen University(中山大学);Guangdong University of Finance and Economics(广东财经大学);JiaYing University(嘉应学院)
无监督领域自适应(UDA)是迁移学习的重要任务之一,它提供了一种有效的方法来减轻标记源域和未标记目标域之间的分布偏移。以前的工作主要集中在对齐的边缘分布或估计类条件分布。然而,特征和标签之间的联合依赖性对于适应任务至关重要,并且没有得到充分利用。为了解决这个问题,我们提出了Bures联合分布对齐(BJDA)算法,直接建模的联合分布偏移的基础上的最优传输理论在无限维核空间。具体来说,我们提出了一种新的对齐损失项,最大限度地减少联合分布之间的内核Bures-Wasserstein距离。从技术上讲,BJDA可以有效地捕捉数据背后的非线性结构。此外,我们在对比学习阶段引入了一个动态边界,以灵活地刻画类可分性,提高表示的区分能力。它还避免了在传统的基于三重损失的方法中确定边缘参数的交叉验证过程。大量的实验表明,BJDA是非常有效的UDA任务,因为它优于国家的最先进的算法在大多数实验设置。特别是,BJDA将UDA任务的平均准确率提高了2.8%,在Adaptiope上提高了1.4%,在ImageCLEF-DA上提高了1.1%。
2022-03-14 cs.CV
AutoAdapt: Automated Segmentation Network Search for Unsupervised Domain Adaptation
UC Merced(加州大学默塞德分校);Amazon Web Services(亚马逊云科技)
基于神经网络的语义分割在有大量标注数据时,即在有监督的情况下,取得了显著的效果。然而,收集这样的数据是昂贵的,因此已经开发了方法来适应在相关的、通常是合成数据上训练的模型,对于这些数据,标签是容易获得的。目前的适应方法不考虑这些模型的泛化/可转移性对网络架构的依赖。在本文中,我们执行神经架构搜索(NAS)提供架构级的观点和分析领域自适应。我们确定的优化差距时,存在的搜索架构无监督领域自适应,这使得这个NAS问题独特的困难。我们建议弥合这一差距,使用最大平均差异和区域加权熵估计的准确性度量。几个广泛采用的基准测试的实验结果表明,我们提出的AutoAdapt框架确实发现了一些现有的自适应技术,提高性能的架构。
2021-06-24 cs.CV
Deep Adversarial Attention Alignment for Unsupervised Domain Adaptation: the Benefit of Target Expectation Maximization
University of Technology Sydney(悉尼科技大学);Australian National University(澳大利亚国立大学)
在本文中,我们使用卷积神经网络(CNN)对无监督领域自适应(UDA)做出了两个贡献。首先,我们的方法通过注意力对齐在所有卷积层中传输知识。大多数先前的方法对齐高级表示,例如,全连接(FC)层的激活。然而,在这些方法中,支撑关键低级领域知识的卷积层不能直接更新以减少领域差异。具体来说,我们假设图像中的判别区域对图像风格的变化是相对不变的。基于这一假设,我们提出了一种对所有目标卷积层的注意力对齐方案,以揭示源域共享的知识。其次,我们估计目标网络训练的未标记数据的后验标签分布。以前的方法,迭代地更新的伪标签的目标网络和目标网络的更新的伪标签,是容易受到标签估计错误。相反,我们的方法使用类别分布来计算训练的交叉熵损失,从而改善了估计标签的错误累积。这两个贡献使我们的方法在Office-31数据集上的表现优于最先进的方法+2.6%。
2018-08-11 cs.CV
Aligning Non-Causal Factors for Transformer-Based Source-Free Domain Adaptation
本文提出C-SFTrans框架,通过先对齐非因果因素再对齐任务判别性因果因素的两阶段方法,首次在无源域自适应中利用视觉Transformer实现因果解耦,并在多个基准上取得最优结果。
2023-11-27 cs.CV
Uncertainty-Guided Alignment for Unsupervised Domain Adaptation in Regression
EPFL(洛桑联邦理工学院);Intelligent Maintenance and Operations Systems(智能维护与运营系统(机构))
本文提出不确定性引导对齐(UGA),将证据深度学习预测的不确定性融入特征对齐过程,以解决回归任务无监督域自适应中传统特征对齐失效和特征坍缩问题,并在多个基准上取得优于现有方法的性能。
2024-11-21 cs.CV cs.LG
C-DGPA: Class-Centric Dual-Alignment Generative Prompt Adaptation
C-DGPA通过双分支架构协同优化边缘分布和条件分布对齐,提升无监督领域适应中提示学习的领域不变性和语义判别性。
2025-12-18 cs.AI cs.CV
Unsupervised Domain Adaptation via Regularized Conditional Alignment
University of California, Los Angeles(加州大学洛杉矶分校)
我们提出了一种无监督的领域自适应方法,该方法训练共享嵌入来对齐输入(域)和输出(类)的联合分布,使任何分类器对域不可知。联合对齐确保不仅域的边缘分布对齐,而且标签也对齐。我们提出了一个新的目标函数,鼓励类条件分布在特征空间中有不相交的支持。我们进一步利用对抗正则化来提高分类器在没有注释数据的域上的性能。
2019-05-26 cs.CV cs.LG stat.ML
Visual Domain Adaptation with Manifold Embedded Distribution Alignment
Institute of Computing Technology, CAS(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Tsinghua University(清华大学)
视觉领域自适应旨在通过利用来自源领域的知识来学习目标领域的鲁棒分类器。现有的方法要么试图对齐跨域分布,或执行流形子空间学习。然而,存在两个显著的挑战:(1)退化特征变换,这意味着通常在原始特征空间中执行分布对齐,其中特征失真难以克服。另一方面,子空间学习不足以减少分布发散。(2)未评估的分布对齐,这意味着现有的分布对齐方法仅对齐具有相等重要性的边缘分布和条件分布,而它们在实际应用中未能评估这两种分布的不同重要性。在本文中,我们提出了一个流形嵌入分布对齐(MEDA)的方法来解决这些挑战。MEDA在Grassmann流形上学习一个具有结构风险最小化的域不变分类器,同时执行动态分布对齐以定量地说明边缘分布和条件分布的相对重要性。据我们所知,MEDA是第一次尝试执行动态分布对齐流形领域自适应。大量实验表明,与最先进的传统和深度方法相比,MEDA在分类准确性方面表现出显着提高。
2018-07-28 cs.CV cs.LG
Domain Alignment Meets Fully Test-Time Adaptation
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
已部署ML模型的一个基本要求是泛化到从与训练不同的测试分布中提取的数据。这个问题的一个流行的解决方案是只使用未标记的数据将预训练的模型适应新的领域。在本文中,我们专注于这个问题的一个具有挑战性的变种,在访问原始源数据是有限的。虽然完全测试时自适应(FTTA)和无监督领域自适应(UDA)密切相关,但UDA的进步并不容易适用于TTA,因为大多数UDA方法需要访问源数据。因此,我们提出了一种新的方法,CATTan,桥梁UDA和FTTA,通过放松需要访问整个源数据,通过一种新的深子空间对齐策略。CATTan以最小的开销存储源数据的子空间基集,在自适应过程中实现了源数据和目标数据之间的无监督对齐。通过对多个2D和3D视觉基准测试(ImageNet-C,Office-31,CumberHome,DomainNet,PointDA-10)和模型架构进行广泛的实验评估,我们证明了FTTA性能的显着提高。此外,我们对对齐目标的实用性做出了一些重要的发现,即使在目标域中具有固有的鲁棒模型,预训练的ViT表示和低样本可用性的情况下。
2022-07-09 cs.CV cs.LG
Fader Networks for domain adaptation on fMRI: ABIDE-II study
Skolkovo University of Science and Technology(斯科尔科沃科学技术大学)
ABIDE是最大的开源自闭症谱系障碍数据库,既有fMRI数据,也有完整的表型描述。基于功能连接分析以及对原始数据的深度学习,对这些数据进行了广泛的研究,对于不同的扫描部位,顶级模型的准确率接近75%。然而,在ABIDE中仍然存在模型在不同扫描站点之间的可移植性问题。在本文中,我们首次对原始神经影像数据进行脑病理分类问题的域适应。我们使用3D卷积自动编码器来构建域无关的潜在空间图像表示,并证明这种方法在ABIDE数据上优于现有方法。
2020-10-14 cs.CV eess.IV
Temporal Attentive Alignment for Video Domain Adaptation
Georgia Institute of Technology(佐治亚理工学院)
虽然近年来已经提出了各种基于图像的领域自适应(DA)技术,但视频中的域偏移仍然没有得到很好的探索。大多数以前的作品只评估小规模数据集的饱和性能。因此,我们首先提出了一个具有更大域差异的更大规模数据集:UCF-HMDB_full。其次,我们研究了不同的DA集成方法的视频,并表明,同时对齐和学习时间动态实现有效的对齐,即使没有复杂的DA方法。最后,我们提出了时间注意对抗适应网络(TA 3 N),它明确地注意到使用域差异的时间动态,以实现更有效的域对齐,在三个视频DA数据集上实现了最先进的性能。代码和数据在http://github.com/cmhungsteve/TA3N上发布。
2019-06-07 cs.CV cs.LG cs.MM
Source-free Domain Adaptation via Distributional Alignment by Matching Batch Normalization Statistics
The University of Tokyo(东京大学);RIKEN(理化学研究所)
在本文中,我们提出了一种新的领域自适应方法的无源设置。在这种情况下,我们无法在自适应过程中访问源数据,而给出了未标记的目标数据和用源数据预训练的模型。由于缺乏源数据,我们不能像典型的领域自适应算法那样直接匹配域之间的数据分布。为了解决这个问题,我们建议利用存储在预训练模型中的批量归一化统计数据来近似未观察到的源数据的分布。具体来说,我们在自适应过程中固定模型的分类器部分,只微调剩余的特征编码器部分,以便编码器提取的特征的批量归一化统计数据与存储在固定分类器中的特征相匹配。此外,我们还最大化特征和分类器输出之间的互信息,以进一步提高分类性能。实验结果表明,我们的方法实现了竞争力的性能与国家的最先进的领域自适应方法,即使它不需要访问源数据。
2021-01-19 cs.CV cs.LG