Importance Weighted Adversarial Nets for Partial Domain Adaptation
Advanced Multimedia Research Lab, University of Wollongong, Australia（伍伦贡大学高级多媒体研究实验室，澳大利亚伍伦贡大学高级多媒体研究实验室（注：此处“Advanced Multimedia Research Lab”是实验室，属于University of Wollongong的机构，整体按要求提取到大学级别，即University of Wollongong，澳大利亚伍伦贡大学））
提出了一种基于重要性加权对抗网的无监督领域自适应方法，该方法适用于目标领域类别数少于源领域类别数的部分领域自适应。以往的领域自适应方法一般假设标签空间相同，从而减少分布分歧导致可行的知识转移。然而，这样的假设在更现实的场景中不再有效，该场景需要从更大和更多样化的源域适应到具有更少类别的更小目标域。本文扩展了基于对抗性网络的领域自适应，提出了一种新型的基于对抗性网络的部分领域自适应方法，用于识别可能来自离群类的源样本，同时减少域之间共享类的移动。
2018-03-28 cs.CV
Domain Conditioned Adaptation Network
Beijing Institute of Technology（北京理工大学）；Indiana University-Purdue University Indianapolis（印第安纳大学与普渡大学印第安纳波利斯联合分校）；Tsinghua University（清华大学）；Didi Chuxing（滴滴出行）；Syracuse University（雪城大学）
通过寻找领域不变特征来实现深度领域自适应（DA）已经取得了巨大的研究成果。大多数现有的深度DA模型只专注于跨域对齐任务特定层的特征表示，同时为源和目标集成完全共享的卷积架构。然而，我们认为，当源和目标数据分布在很大程度上不同时，这种强共享的卷积层可能对特定领域的特征学习有害。在本文中，我们放松了以前的DA方法所做的共享convnets的假设，并提出了一个域条件适应网络（DCAN），其目的是激发不同的卷积通道与域条件通道注意力机制。因此，关键的低层次的领域依赖知识可以适当地开发。据我们所知，这是探索深度DA网络的域卷积信道激活的第一项工作。此外，为了有效地对齐两个域的高级特征分布，我们在特定于任务的层之后进一步部署域条件特征校正块，这将显式地校正域差异。在三个跨域基准测试上的大量实验表明，所提出的方法比现有的方法有很大的优势，特别是在非常困难的跨域学习任务。
2020-05-14 cs.CV
Partial Adversarial Domain Adaptation
Tsinghua University（清华大学）；National Engineering Laboratory for Big Data Software（大数据系统软件国家工程实验室）；Beijing National Research Center for Information Science and Technology（北京信息科学与技术国家研究中心）
领域对抗学习在两个玩家的极大极小游戏中对齐源域和目标域的特征分布。现有的领域对抗网络通常假设不同领域的标签空间相同。在大数据存在的情况下，有强烈的动机将深度模型从现有的大领域转移到未知的小领域。本文引入部分领域自适应作为一种新的领域自适应方案，它将完全共享标签空间的假设放宽为源标签空间包含目标标签空间。以前的方法通常将整个源域与目标域进行匹配，由于标签空间之间存在较大的不匹配，因此很容易出现部分领域自适应问题的负迁移。我们提出了部分对抗领域自适应（PADA），它同时通过降低离群源类的数据权重来训练源分类器和域对手来消除负迁移，并通过匹配共享标签空间中的特征分布来促进正迁移。实验表明，PADA超过了国家的最先进的部分领域自适应任务的结果在几个数据集。
2018-08-10 cs.CV
$Δ$-Patching: A Framework for Rapid Adaptation of Pre-trained Convolutional Networks without Base Performance Loss
Fujitsu Research India（富士通印度研究院）；University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Adobe Research（奥多比研究院）；Indian Institute of Technology, Hyderabad（印度理工学院海得拉巴分校）；NVIDIA（英伟达）
本文提出Δ-Patching框架和轻量方法Δ-Networks，在不存储模型副本、仅训练少量参数的情况下高效微调预训练卷积网络，并在多种设置、架构及迁移学习、零样本域自适应、检测和分割等任务中验证其优于已有模型补丁方法。
2023-09-21 cs.CV
Deep Adversarial Attention Alignment for Unsupervised Domain Adaptation: the Benefit of Target Expectation Maximization
University of Technology Sydney（悉尼科技大学）；Australian National University（澳大利亚国立大学）
在本文中，我们使用卷积神经网络（CNN）对无监督领域自适应（UDA）做出了两个贡献。首先，我们的方法通过注意力对齐在所有卷积层中传输知识。大多数先前的方法对齐高级表示，例如，全连接（FC）层的激活。然而，在这些方法中，支撑关键低级领域知识的卷积层不能直接更新以减少领域差异。具体来说，我们假设图像中的判别区域对图像风格的变化是相对不变的。基于这一假设，我们提出了一种对所有目标卷积层的注意力对齐方案，以揭示源域共享的知识。其次，我们估计目标网络训练的未标记数据的后验标签分布。以前的方法，迭代地更新的伪标签的目标网络和目标网络的更新的伪标签，是容易受到标签估计错误。相反，我们的方法使用类别分布来计算训练的交叉熵损失，从而改善了估计标签的错误累积。这两个贡献使我们的方法在Office-31数据集上的表现优于最先进的方法+2.6%。
2018-08-11 cs.CV
Tackling Partial Domain Adaptation with Self-Supervision
Politecnico di Torino（都灵理工大学）；Istituto Italiano di Tecnologia（意大利理工学院）；Sapienza Università di Roma（罗马第一大学）
领域自适应方法在减少视觉域之间的边缘分布差异方面显示出有希望的结果。它们允许训练在不同性质的数据集（照片，绘画等）上工作的可靠模型，但当域不共享相同的标签空间时，它们仍然很难。在部分领域自适应设置中，其中目标仅覆盖源类别的子集，在不引起负转移的情况下减小域间隙是具有挑战性的。许多解决方案只是通过增加启发式样本加权策略来保持标准的领域自适应技术。在这项工作中，我们展示了如何从空间协同定位的补丁获得的自我监督信号可以用来定义一个边任务，支持适应，而不管跨域的确切标签共享条件。我们建立在最近的工作，介绍了一个拼图任务领域泛化：我们描述了如何重新制定这种方法的部分领域自适应，我们展示了它如何提高现有的自适应解决方案时，与他们相结合。在三个数据集上的实验结果支持了该方法的有效性。
2019-06-12 cs.CV
One-shot domain adaptation in multiple sclerosis lesion segmentation using convolutional neural networks
University of Girona（赫罗纳大学）；Assiut University（艾斯尤特大学）；Vall d’Hebron University Hospital（瓦尔德希伯伦大学医院）；Girona Magnetic Resonance Center（赫罗纳磁共振中心）；Dr. Josep Trueta University Hospital（何塞普·特鲁埃塔大学医院）
近年来，几种卷积神经网络（CNN）方法已被提出用于多发性硬化症（MS）患者图像的自动白质病变分割，由于其优越的性能与其他国家的最先进的方法相比。然而，与用于训练的方法相比，在不同图像域上进行评估时，CNN方法的准确性往往会显著降低，这表明CNN对看不见的成像数据缺乏适应性。在这项研究中，我们分析了强度领域自适应对我们最近提出的基于CNN的MS病变分割方法的影响。给定在两个公共MS数据集上训练的源模型，我们研究了CNN模型在应用于其他MRI扫描仪和协议时的可转移性，评估了新领域所需的注释图像的最小数量以及重新训练所需的最小层数，以获得可比的准确性。我们的分析包括来自临床中心和公共ISBI 2015挑战数据库的MS患者数据，这使我们能够将我们模型的领域自适应能力与其他最先进方法的能力进行比较。对于ISBI 2015挑战，我们仅使用单个图像训练的单次领域自适应模型显示出与使用整个可用训练集进行完全训练的其他CNN方法相似的性能，从而产生可与人类专家评分器性能相当的性能。我们相信，我们的实验将鼓励MS社区将其用于不同的临床环境，减少注释数据的数量。这种方法不仅在描绘MS病变的准确性方面，而且在手动标记病变的时间和经济成本的相关减少方面都是有意义的。
2018-05-31 cs.CV
Select, Label, and Mix: Learning Discriminative Invariant Feature Representations for Partial Domain Adaptation
MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）；Boston University（波士顿大学）；IIT Kharagpur（印度理工学院卡拉格普尔分校）
部分领域自适应是计算机视觉中的一个研究热点，它假设未知的目标标签空间是源标签空间的一个子集。尽管最近的进展，现有的方法往往遭受三个关键问题：负迁移，缺乏可辨别性，域不变性的潜在空间。为了缓解上述问题，我们开发了一种新的“选择，标签，和混合”（SLM）的框架，旨在学习歧视性的不变特征表示部分领域自适应。首先，我们提出了一个有效的“选择”模块，自动过滤出离群源样本，以避免负转移，同时对齐分布在两个域。其次，“标签”模块使用标记的源域数据和针对目标域生成的伪标签来迭代地训练分类器，以增强潜在空间的可辨别性。最后，“混合”模块与其他两个模块一起利用域混合正则化来探索跨域的更多内在结构，从而导致用于部分领域自适应的域不变潜在空间。在部分领域自适应的几个基准数据集上进行的大量实验表明，我们提出的框架优于最先进的方法。
2023-01-03 cs.CV
mDALU: Multi-Source Domain Adaptation and Label Unification with Partial Datasets
ETH Zurich（苏黎世联邦理工学院）；MPI for Informatics（马克斯·普朗克信息学研究所）；UESTC（电子科技大学）；KU Leuven（鲁汶大学）
对象识别的一个挑战是推广到新的领域，更多的类和/或新的模态。这需要组合和重用可能属于不同域、具有部分注释和/或具有不同数据模态的现有数据集的方法。本文将其归结为一个多源领域自适应和标签统一问题，并提出了一种新的方法，该方法包括部分监督自适应和全监督自适应两个阶段。在前者中，部分知识从多个源域转移到目标域并在其中融合。通过三个新的模块：域注意，不确定性最大化和注意力引导的对抗性对齐来减轻不匹配标签空间之间的负转移。在后者中，知识转移后，在统一的标签空间的标签完成过程与伪标签。在三个不同的任务-图像分类，2D语义图像分割，和联合2D-3D语义分割-广泛的实验表明，我们的方法优于所有的竞争方法显着。
2021-09-27 cs.CV
Adversarial Consistent Learning on Partial Domain Adaptation of PlantCLEF 2020 Challenge
Lehigh University（利哈伊大学）
领域自适应是解决领域迁移问题的关键技术之一。部分领域自适应解决了目标类别仅是源类别的子集的情况。在本文中，为了实现跨域植物图像的有效表示，我们首先从预训练模型中提取深度特征，然后在统一的深度架构中开发对抗一致性学习（$ACL$），用于部分领域自适应。它包括源域分类损失、对抗学习损失和特征一致性损失。对抗性学习损失可以保持源域和目标域之间的域不变特征。此外，特征一致性损失可以保持两个域之间的细粒度特征过渡。通过对源域中不相关的类别进行降权，找到两个域的共享类别。实验结果表明，从NASNetLarge模型与建议的$ACL$架构的训练功能产生有前途的结果PlantCLEF 2020挑战。
2020-09-19 cs.CV
ConvLoRA and AdaBN based Domain Adaptation via Self-Training
SFI Research Centre for Machine Learning, Dublin City University（都柏林城市大学SFI机器学习研究中心）；Insight SFI Research Centre for Data Analytics, Dublin City University（都柏林城市大学Insight SFI数据分析研究中心）；School of Computing, Dublin City University（都柏林城市大学计算机学院）
提出ConvLoRA与AdaBN结合的方法，通过冻结预训练权重并添加低秩矩阵，减少可训练参数，在多目标域自适应中实现高效且性能优越的分割。
2024-02-07 cs.CV
Discriminative Cross-Domain Feature Learning for Partial Domain Adaptation
Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）；University of Massachusetts Dartmouth（马萨诸塞大学达特茅斯分校）
部分领域自适应旨在将知识从一个更大、更多样化的源领域适应到一个更小、类数更少的目标领域，引起了人们的广泛关注。最近的实践领域自适应管理提取有效的功能，通过合并的伪标签的目标域，以更好地对抗跨域分布的分歧。但是，必须将目标数据与一小部分源数据对齐。在本文中，我们开发了一种新的判别式跨域特征学习（DCDF）框架，以迭代优化目标标签与跨域图的加权方案。具体地说，提出了一种加权跨域中心损失和加权跨域图传播耦合未标记的目标数据到相关的源样本的歧视性跨域特征学习，其中无关的源中心将被忽略，以减轻边缘和条件的差异同时。通过与现有的部分领域自适应方法进行比较，在几个常用的标准测试集上的实验结果表明了该方法在促进未标记目标域识别方面的有效性.
2020-08-26 cs.CV
Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation
Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
部分领域自适应（PDA）是一种用源域标签空间代替目标域的具有现实性和挑战性的自适应算法。大多数传统的领域自适应（DA）的努力集中在学习域不变的功能，以减轻跨域的分布差异。然而，这是至关重要的，以减轻所造成的负面影响，不相关的源域类别明确的PDA。在这项工作中，我们提出了一个自适应积累的知识转移框架（A $^2$ KT），以调整两个领域的有效领域自适应的相关类别。具体而言，自适应积累的机制，探索逐步过滤出最有信心的目标样本及其相应的源类别，促进积极的转移与更多的知识在两个领域。此外，一个双不同的分类器架构，包括一个原型分类器和一个多层感知器分类器的构建，以捕捉内在的数据分布知识，跨领域从不同的角度。通过最大化类间中心差异和最小化类内样本紧致度，该模型能够获得更多的共享类别数据的领域不变和特定于任务的区分表示。在多个部分领域自适应基准测试上的综合实验表明，与现有的PDA方法相比，该模型是有效的。
2020-08-27 cs.CV
Cross-Modal Domain Adaptation in Brain Disease Diagnosis: Maximum Mean Discrepancy-based Convolutional Neural Networks
本文针对脑疾病诊断中标注数据稀缺及跨模态泛化困难的问题，提出将最大均值差异（MMD）域自适应方法与卷积神经网络（CNN）结合，在Kaggle数据集上实现CT与MRI间的跨模态知识迁移，有效提升了诊断准确性和效率。
2024-05-06 cs.CV cs.LG
Learning to Transfer Examples for Partial Domain Adaptation
Tsinghua University（清华大学）；Hong Kong University of Science and Technology（香港科技大学）
领域自适应对于在新的和未知的环境中学习至关重要。通过领域对抗训练，深度网络可以学习解纠缠和可转移的特征，这些特征可以有效地减少数据集在源和目标领域之间的转移，以实现知识转移。在大数据时代，大规模标记数据集的出现激发了部分领域自适应（PDA）的研究兴趣，PDA将识别器从标记的大领域转换到未标记的小领域。它将标准的领域自适应扩展到目标标签仅是源标签的子集的场景。在目标标签未知的情况下，如何迁移共享类中的相关样例以促进正迁移，忽略特定类中的无关样例以减轻负迁移是PDA的关键挑战。在这项工作中，我们提出了一个统一的方法PDA，示例传输网络（ETN），它联合学习跨源和目标域的域不变表示，以及一个渐进的加权方案，量化源示例的可转移性，同时控制它们对目标域中学习任务的重要性。在多个基准数据集上的测试结果表明，该方法在部分领域自适应任务中取得了较好的效果。
2019-04-07 cs.CV
Deep Residual Correction Network for Partial Domain Adaptation
Beijing Institute of Technology（北京理工大学）；Tsinghua University（清华大学）；Indiana University-Purdue University Indianapolis（印第安纳大学-普渡大学印第安纳波利斯分校）
深度领域自适应方法通过学习从良好标记的源域到不同但相关的未标记的目标域的可转移表示来实现吸引人的性能。现有的大多数工作假设源数据和目标数据共享相同的标签空间，这在许多实际应用中往往难以满足。随着大数据的出现，出现了一种更实际的场景，称为部分领域自适应，即我们总是可以访问更大规模的源域，同时处理相对较小规模的目标域。在这种情况下，传统的领域自适应假设应该放松，并且目标标签空间倾向于是源标签空间的子集。直觉上，增强最相关源子类的积极影响，减少不相关源子类的负面影响，对于解决部分领域自适应挑战至关重要。本文提出了一种高效实现的深度残差校正网络（DRCN），通过将一个残差块与特定任务的特征层一起插入源网络，有效地增强了从源到目标的适应性，并显式地削弱了不相关源类的影响。具体地说，由多个全连通层组成的插入残差块可以加深基本网络，相应地提高其特征表示能力。此外，我们设计了一个加权类域对齐损失耦合两个域之间的共享类源和目标的特征分布匹配。在部分、传统和细粒度跨域视觉识别上的综合实验表明，DRCN优于竞争激烈的深领域自适应方法。
2020-04-10 cs.CV
One-Shot Adaptation of Supervised Deep Convolutional Models
UC Berkeley, EECS & ICSI（加州大学伯克利分校，电气工程与计算机科学系及国际计算机科学研究所）；Google Research（谷歌研究院）；UMass Lowell, CS & ICSI（马萨诸塞大学洛厄尔分校，计算机科学系及国际计算机科学研究所）
数据集偏差仍然是解决现实世界计算机视觉任务的重要障碍。尽管深度卷积网络已被证明是图像分类的一种有竞争力的方法，但仍然存在一个问题：这些模型是否解决了数据集偏差问题？一般来说，在一个新的领域训练或微调一个最先进的深度模型需要大量的数据，而这对于许多应用程序来说是根本不可用的。将模型直接转移到新的领域而不进行调整，历来会导致识别性能不佳。在本文中，我们提出了以下问题：单个图像数据集，比以前探索的适应性大得多，是否足够全面，可以学习可以有效应用于新图像领域的一般深度模型？换句话说，在大量标记数据上训练的深度CNN是否像以前的方法那样容易受到数据集偏差的影响？我们表明，在大型数据集上训练的通用监督深度CNN模型减少了但没有消除数据集偏差。此外，我们提出了几种用于深度模型的自适应方法，这些方法能够在很少（每个类别一个示例）或没有标记的特定领域数据的情况下操作。我们的实验表明，深度模型在基准视觉领域自适应数据集上的自适应可以提供显着的性能提升。
2014-02-18 cs.CV cs.LG cs.NE
Class Conditional Alignment for Partial Domain Adaptation
Department of Computer Science and Engineering, University of Texas at Arlington, USA（德克萨斯大学阿灵顿分校计算机科学与工程系）
对抗性适应模型在将知识从标记的源数据集转移到未标记的目标数据集方面取得了重大进展。部分领域自适应（PDA）研究源域较大且多样，目标标签空间是源标签空间子集的情况。PDA的主要目的是识别领域之间的共享类，并促进从这些类中学习可转移的知识。在本文中，我们提出了一个多类对抗的PDA架构。该方法通过最小化一个新的多类对抗损失函数来联合对齐共享标签空间中的边缘和类条件分布。此外，我们将有效的正则化条款，以鼓励选择最相关的子集的源域类。在没有目标标签的情况下，所提出的方法能够有效地学习域不变特征表示，这反过来又可以提高目标域的分类性能。在Office-31、C-Home和Caltech-Office三个基准数据集上的综合实验证实了所提出的方法在解决不同部分迁移学习任务方面的有效性。
2020-03-14 cs.CV
Generalized Domain Conditioned Adaptation Network
School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学院）；Department of Automation, Tsinghua University（清华大学自动化系）
领域自适应（DA）试图将在标记的源领域中学习到的知识转移到未标记但相关的目标领域，而不需要大量的目标监督。DA的最新进展主要通过对齐源和靶分布来进行。尽管取得了显著的成功，但当源域和目标域遇到较大的分布差异时，自适应性能仍然会相应下降。我们认为这种限制可能归因于对领域专用特征的探索不足，因为大多数研究仅仅集中在特定任务层的领域通用特征学习，并集成完全共享的卷积网络（convnets）来生成两个领域的共同特征。在本文中，我们放松了以前的DA方法所采用的完全共享的convnets假设，并提出域条件自适应网络（DCAN），它引入了域条件信道注意模块与多路径结构，分别激发每个域的信道激活。这样一个部分共享的convnets模块允许适当地探索低级别的领域专用功能。此外，鉴于知识的可转移性随着卷积层的变化而变化，我们开发了广义域条件适应网络（GDCAN）来自动确定是否应该在每个注意力模块中单独建模域通道激活。然后，根据领域统计差距自适应地提取关键领域专业知识。据我们所知，这是第一个单独探索深度DA网络的域卷积信道激活的工作。此外，为了有效地匹配跨域的高级特征分布，我们考虑在特定于任务的层之后部署特征适配块，这可以显式地减轻域差异。
2021-03-23 cs.CV
Partial Domain Adaptation Using Selective Representation Learning For Class-Weight Computation
Arizona State University（亚利桑那州立大学）
深度学习模型的泛化能力依赖于丰富的标记数据。这种使用大规模注释信息的监督在大多数真实世界场景中是限制性的，其中数据汇集及其注释涉及巨大的成本。各种领域自适应技术存在于文献中，弥合这种分布差异。然而，这些模型中的大多数要求两个域的标签集是相同的。为了解决一个更实际和具有挑战性的情况下，我们制定的问题陈述部分领域自适应的角度来看，源标签集是一个超集的目标标签集。在这项工作中，我们开发了一种方法，专门从图像内容信息中识别离群类，并训练标签分类器专门从源图像的类内容的动机，图像风格是私人的。此外，通过最大化它们之间的聚类间方差，将软类级权重转换为两个聚类0（离群源类）和1（共享类），来消除样本从私有类到源域的负转移。
2021-01-06 cs.CV
Robust Class-Conditional Distribution Alignment for Partial Domain Adaptation
Arizona State University（亚利桑那州立大学）
针对部分域适应中私有源类别样本导致的负迁移问题，提出通过超越一阶矩推导紧凑类别分布、优化类内类间分布并设计鲁棒伪标签与补熵模块的方法，显著提升了分类性能。
2023-10-19 cs.CV
Collaborative Training of Balanced Random Forests for Open Set Domain Adaptation
Hanyang University（汉阳大学）
本文介绍了一种用于领域自适应任务的平衡随机森林与卷积神经网络协同训练算法。在实际应用中，大多数领域自适应算法面临着噪声、训练数据不足和开集分类等问题。在这种情况下，传统的方法遭受过拟合，并未能成功地将源的知识转移到目标域。为了解决这些问题，提出了以下两种技术。首先，我们介绍了优化的决策树构造方法与卷积神经网络，在每个节点上的数据被分成相等的大小，同时最大化的信息增益。由于偶数分裂约束，它在深层特征上生成平衡的决策树，这有助于提高区分能力和减少过拟合问题。其次，为了解决域对齐问题，我们提出了域对齐损失，它惩罚源和目标域数据的不均匀分割。通过协同优化标记源数据的信息增益以及未标记目标数据分布的熵，所提出的CoBRF算法实现了显着优于国家的最先进的方法的性能。
2020-02-10 cs.CV
Learning Target Domain Specific Classifier for Partial Domain Adaptation
Sun Yat-Sen University（中山大学）；Yitu Technology（依图科技）
无监督领域自适应（UDA）的目的是减少知识从有标记的源域向无标记的目标域转移时的分布差异。以前的UDA方法假设源域和目标域共享相同的标签空间，这在实践中是不现实的，因为目标域的标签信息是不可知的。本文重点讨论了一种更现实的UDA场景，即部分领域自适应（PDA），其中目标标签空间被归入源标签空间。在PDA场景中，目标域中不存在的源离群值可能会错误地匹配到目标域（技术上称为负转移），导致UDA方法的性能下降。提出了一种新的基于目标领域特定分类器学习的领域自适应（TSCDA）方法。TSCDA提出了一种软加权最大平均差异准则，以部分对齐特征分布和减轻负迁移。此外，它还使用伪标签和多个辅助分类器为目标域学习目标特定的分类器，以进一步解决分类器移位问题。一个名为Peers Assisted Learning的模块用于最小化多个目标特定分类器之间的预测差异，这使得分类器对目标域更具鉴别力。在三个PDA基准数据集上进行的大量实验表明，TSCDA的性能优于其他最先进的方法，例如，$4\%$和$5.6\%$平均分别在Office-31和家庭办公室。
2020-08-25 cs.CV
Self-Adaptive Partial Domain Adaptation
Shanghai Jiao Tong University（上海交通大学）；Pingduoduo Group（拼多多集团）；Zhejiang Lab（之江实验室）；University of Calgary（卡尔加里大学）；Third Academy of China Ordinance（中国兵器工业集团第三研究院）
部分领域自适应（PDA）旨在解决一个更实际的跨域学习问题，假设目标标签空间是源标签空间的子集。然而，不匹配的标签空间导致显著的负迁移。传统的解决方法是使用软权重来增加源共享域的权重，降低源离群域的权重。但它仍然学习离群值的特征，并导致负移民。另一种主流思想是通过硬二进制权重将源域区分为共享类和离群类，但无法纠正纠缠在一起的共享类和离群类。在本文中，我们提出了一个端到端的自适应部分领域自适应（SAPDA）网络。引入类权值评估机制，对共享类、离群类和混淆类的权值进行动态自校正，使置信度越高的样本具有越充分的权值。同时，它可以大大消除由于标签空间不匹配而引起的负迁移。此外，我们的策略可以有效地衡量在更广泛的意义上的样本的可转移性，使我们的方法可以实现无监督DA任务同样有竞争力的结果。在多个基准上的大量实验证明了我们的SAPDA的有效性。
2021-09-18 cs.CV
Decomposition-Based Domain Adaptation for Real-World Font Recognition
我们提出了一个域自适应框架，以解决合成训练和真实世界的测试数据之间的域不匹配。我们展示了我们的方法上一个具有挑战性的细粒度分类问题：识别字体风格的文本图像。在这个任务中，生成大量的渲染字体示例非常容易，但很难获得真实世界的标记图像。在以前的字体识别方法中，这种真实到合成域的差距导致了对新真实数据的泛化能力差（Chen et al.（2014））。在本文中，我们介绍了一种卷积神经网络分解方法，利用一个大型的训练语料库的合成数据，以获得有效的特征进行分类。这是使用基于堆叠卷积自动编码器的自适应技术来完成的，堆叠卷积自动编码器利用大量未标记的真实世界文本图像与以特定方式预处理的合成数据相结合。所提出的DeepFont方法在我们收集的一个新的大型标记真实世界数据集上实现了高于80%（前5名）的准确率。
2015-04-01 cs.CV
Prototypical Partial Optimal Transport for Universal Domain Adaptation
本文提出小批量原型部分最优传输方法，通过部分分布对齐和基于传输计划的重新加权损失区分已知与未知样本，在四个基准上超越现有通用领域自适应方法。
2024-08-02 cs.CV
TDACNN: Target-domain-free Domain Adaptation Convolutional Neural Network for Drift Compensation in Gas Sensors
WESTA College, Southwest University（西南大学西塔学院）；College of Artificial Intelligence, Southwest University（西南大学人工智能学院）
传感器漂移是一个长期存在的不可预测的问题，降低了气体物质的识别性能，要求抗漂移域自适应算法。然而，传统方法实现精细结果的先决条件是具有来自非漂移分布（源域）和漂移分布（目标域）的数据用于域对齐，这通常是不现实的，并且在现实生活场景中是无法实现的。为了弥补这一点，本文提出了基于无目标域域自适应卷积神经网络（TDACNN）的深度学习。主要概念是CNN不仅提取样本的特定于域的特征，而且提取源域和目标域的域不变特征。充分利用这些不同层次的嵌入特征，可以综合利用不同层次的特征，从而通过提取两个域之间的中间特征实现漂移补偿。TDACNN在仿生学的指导下，提出了一种灵活的多分支骨干网络，该骨干网络具有多分类器结构，在训练过程中不涉及目标域数据，综合利用了多种嵌入特征。提出了一种基于最大平均差异（MMD）的分类器集成方法，以伪标记的可信度为基础对所有分类器进行联合评估。为了优化网络训练，使用具有参数动态调整的附加角裕度softmax损失。在不同设置下的两个漂移数据集上的实验证明了TDACNN与几种最先进的方法相比的优越性。
2022-03-26 cs.CV q-bio.QM
Partial Video Domain Adaptation with Partial Adversarial Temporal Attentive Network
Nanyang Technological University（南洋理工大学）；Agency for Science, Technology and Research (A*STAR)（新加坡科技研究局（A*STAR））；Institute for Infocomm Research（资讯通信研究院）
部分领域自适应（PDA）是一种实用且通用的领域自适应场景，它放宽了标签空间完全共享的假设，使得源标签空间包含目标标签空间。PDA的主要挑战是由源类引起的负迁移问题。对于视频，这种负迁移可能由空间和时间特征两者触发，这导致更具挑战性的部分视频领域自适应（PVDA）问题。在本文中，我们提出了一种新的部分对抗时间注意网络（PATAN），以解决PVDA问题，利用空间和时间的功能过滤源只类。此外，PATAN通过关注对类别过滤过程贡献更大的局部时间特征来构造有效的整体时间特征。我们进一步引入新的基准，以促进PVDA问题的研究，涵盖了广泛的PVDA方案。实证结果表明，国家的最先进的性能，我们提出的PATAN在多个PVDA基准。
2021-07-11 cs.AI cs.CV
Universal Domain Adaptation through Self Supervision
Boston University（波士顿大学）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
无监督领域自适应方法传统上假设所有源类别都存在于目标域中。在实践中，很少有人知道这两个领域之间的类别重叠。虽然一些方法使用部分或开放集合类别来解决目标设置，但它们假设特定设置是先验已知的。我们提出了一个更普遍适用的领域自适应框架，可以处理任意的类别转移，称为域自适应邻域聚类通过熵优化（DANCE）。DANCE结合了两个新颖的想法：首先，由于我们不能完全依赖于源类别来学习目标的区别特征，我们提出了一种新的邻域聚类技术，以自监督的方式学习目标域的结构。其次，我们使用基于熵的特征对齐和拒绝来将目标特征与源特征对齐，或者基于它们的熵将它们拒绝为未知类别。我们通过大量的实验表明，DANCE在开集，开部分和部分领域自适应设置上优于基线。可在https://github.com/VisionLearningGroup/DANCE上获得实现。
2020-10-06 cs.CV
Robust and Real-time Deep Tracking Via Multi-Scale Domain Adaptation
Jiangxi Normal University（江西师范大学）；Toyota Research Institute of North America（丰田北美研究院）；University of Electronic Science and Technology of China（电子科技大学）；Australian National University（澳大利亚国立大学）
视觉跟踪是计算机视觉中的一个基本问题。最近，一些基于深度学习的跟踪算法已经实现了破纪录的性能。然而，由于深度学习的高复杂性，大多数深度跟踪器的跟踪速度都很低，因此在许多现实应用中是不切实际的。一些新的深度跟踪器具有较小的网络结构，实现了高效率，但代价是精度显着下降。在本文中，我们提出了通过卷积通道减少图像分类的功能转移到视觉跟踪域。通道缩减可以简单地被视为具有特定任务的附加卷积层。它不仅提取了有用的信息，目标跟踪，但也显着提高跟踪速度。为了更好地适应目标在不同尺度下的有用特征，自适应滤波器被设计为具有不同的尺寸。产生的视觉跟踪器是实时的【形】，也说明了国家的最先进的精度在实验中涉及两个良好采用的基准超过100个测试视频。
2017-01-03 cs.CV
Hybrid CNN and Dictionary-Based Models for Scene Recognition and Domain Adaptation
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；CAS Center for Excellence in Brain Science and Intelligence Technology（中国科学院脑科学与智能技术卓越创新中心）；National University of Singapore（新加坡国立大学）
卷积神经网络（CNN）在许多不同的视觉任务中取得了最先进的性能。从大规模训练数据集中学习，CNN特征比手工制作的特征更具区分力和准确性。此外，CNN特征也可以在不同的域之间转移。另一方面，传统的基于字典的特征（如BoW和SPM）包含更多的局部判别和结构信息，这些信息被隐式地嵌入到图像中。为了进一步提高性能，在本文中，我们提出了结合CNN与基于字典的模型的场景识别和视觉领域自适应。具体地，基于良好调整的CNN模型（例如，AlexNet和VGG Net），进一步构建了两种基于字典的表示，即中层局部表示（MLR）和卷积Fisher向量表示（CFV）。在MLR中，一种有效的两阶段聚类方法，即，对单个图像的部分进行加权空间和特征空间谱聚类，然后对所有图像的所有代表部分进行聚类，用于生成类混合或类特定部分字典。之后，部分字典用于与多尺度图像输入一起操作以生成中级表示。在CFV中，利用多尺度和尺度比例GMM训练策略来基于CNN的最后一个卷积层生成Fisher向量。通过融合MLR、CFV和全连通层的CNN特征的互补信息，在场景识别和领域自适应问题上可以达到最先进的性能。一个有趣的发现是，我们提出的混合表示（来自ImageNet上训练的VGG网络）也与GoogLeNet和/或VGG-11（在Place 205上训练）有很大的互补性。
2016-01-29 cs.CV
Calibrating Class Weights with Multi-Modal Information for Partial Video Domain Adaptation
Nanyang Technological University（南洋理工大学）；Institute for Infocomm Research, A*STAR（新加坡科技研究局资讯通信研究院）
假设源标签空间包含目标标签空间，部分视频领域自适应（PVDA）是用于跨域视频分类问题的更一般和实用的场景。PVDA的关键挑战是减轻由仅源离群值类引起的负迁移。为了应对这一挑战，关键的一步是聚合目标预测，通过增加目标类的权重和减少离群类的权重来分配类权重。然而，类权重的错误预测会误导网络，导致负迁移。以前的工作提高了类权重的准确性，利用时间特征和注意力机制，但这些方法可能会失败时，试图生成准确的类权重时，域转移是显着的，在大多数现实世界的情况下。为了应对这些挑战，我们提出了多模态神经网络校准的部分对抗网络（MCAN）。MCAN增强了视频特征提取与多个时间尺度的多模态特征，以形成更强大的整体功能。它采用了一种新的类权重校准方法，以减轻不正确的类权重所造成的负迁移。校准方法尝试使用由无监督聚类隐含的分布信息来识别和权衡正确和不正确的预测。广泛的实验进行了流行的PVDA基准，和建议的MCAN相比，国家的最先进的PVDA方法实现了显着的改善。
2022-07-11 cs.CV
Real-World Font Recognition Using Deep Network and Domain Adaptation
Beckman Institute for Advanced Science and Technology（贝克曼高等科学技术研究所）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Adobe Research（Adobe研究院）
我们解决了一个具有挑战性的细粒度分类问题：从文本图像中识别字体样式。在这个任务中，生成大量的渲染字体示例非常容易，但很难获得真实世界的标记图像。在以前的方法中，这种真实到合成域的差距导致对新真实数据的泛化能力较差（Chen等人（2014））。在本文中，我们参考卷积神经网络，并使用基于堆叠卷积自动编码器的自适应技术，该编码器利用未标记的真实世界图像与合成数据相结合。该方法在真实数据集上实现了高于80%（前5名）的准确度。
2015-03-31 cs.CV cs.LG
OneRing: A Simple Method for Source-free Open-partial Domain Adaptation
Computer Vision Center, Universitat Autònoma de Barcelona（巴塞罗那自治大学计算机视觉中心）；Nankai University（南开大学）；Huawei Kirin Solution（华为麒麟解决方案部）
本文研究了无源开放部分领域自适应（SF-OPDA），它解决了源域和目标域之间同时存在领域和范畴转移的情况。在旨在解决数据隐私问题的SF-OPDA设置下，模型在目标适配期间不能再访问源数据。我们提出了一种新的训练方案来学习（n+1）路分类器来预测n个源类别和未知类别，其中只有已知源类别的样本可用于训练。此外，对于目标自适应，我们简单地采用加权熵最小化来使源预训练模型适应于没有源数据的未标记目标域。在实验中，我们表明我们的简单的方法优于目前的OPDA方法，需要源数据在适应。当在目标自适应过程中使用闭集领域自适应方法时，我们的无源方法在Office-31、M-Home和VisDA上的性能分别比当前最先进的OPDA方法高出2.5%、7.2%和13%。
2023-01-11 cs.CV cs.LG
A Robust Negative Learning Approach to Partial Domain Adaptation Using Source Prototypes
Arizona State University（亚利桑那州立大学）
提出一种鲁棒的部分域适应框架，通过集成学习与互补标签反馈优化伪标签，利用源原型实现域不变的类内紧凑与类间分离，并在适应阶段保护源数据隐私，显著提升了鲁棒性与泛化能力。
2023-09-08 cs.CV cs.LG
Domain Adaptation for Visual Applications: A Comprehensive Survey
Xerox Research Center Europe（施乐欧洲研究中心）
本文的目的是给一个概述领域自适应和迁移学习与视觉应用的具体视图。在一般的动机之后，我们首先将领域自适应定位在更大的迁移学习问题中。其次，我们试图解决和分析的国家的最先进的方法，为不同类型的场景，首先描述了历史上浅的方法，解决同质和异构的领域自适应方法。第三，我们讨论了深度卷积架构的成功的影响，这导致了新型的领域自适应方法，这些方法将自适应集成在深度架构中。第四，我们概述了超越图像分类的方法，如目标检测或图像分割，视频分析或学习视觉属性。最后，我们用一个章节来总结本文，其中我们将领域自适应与其他机器学习解决方案联系起来。
2017-03-30 cs.CV
Domain Adaptation and Image Classification via Deep Conditional Adaptation Network
Guangdong Polytechnic Normal University（广东技术师范大学）；Sun Yat-Sen University（中山大学）；City University of Hong Kong（香港城市大学）
无监督领域自适应的目的是将在源域上训练的有监督模型推广到未标记的目标域。特征空间的边缘分布对齐被广泛用于减少源域和目标域之间的域差异。但是，它假设源域和目标域共享相同的标签分布，这限制了它们的应用范围。在本文中，我们考虑了一个更一般的应用场景，源和目标域的标签分布是不一样的。在这种情况下，基于边际分配的方法将容易受到负迁移的影响。为了解决这个问题，我们提出了一种新的无监督领域自适应方法，深度条件自适应网络（DCAN），基于特征空间的条件分布对齐。具体而言，通过最小化源域和目标域深度特征条件分布之间的条件最大均值离散度来减小域差异，通过最大化样本与预测标签之间的互信息来提取目标域的判别信息。此外，DCAN可用于解决一种特殊的场景，即部分无监督领域自适应，其中目标领域类别是源领域类别的子集。无监督领域自适应和部分无监督领域自适应的实验表明，DCAN取得了优于国家的最先进的方法的分类性能。
2022-05-03 cs.CV
Partially-Shared Variational Auto-encoders for Unsupervised Domain Adaptation with Target Shift
Kyoto University（京都大学）；OMRON SINIC X Corp.（欧姆龙 SINIC X 公司）
提出了一种新的基于目标移动的无监督领域自适应方法。目标移位是源域和目标域之间标签分布不匹配的问题。它通常表现为目标域中的类不平衡。在实践中，这是UDA中的一个重要问题;因为我们不知道目标域数据集中的标签，所以我们不知道它的分布是否与源域数据集中的分布相同。许多传统的方法通过最小化平均最大差异或对抗训练来实现分布匹配的UDA;然而，这些方法隐含地假设分布中的重合，并且在目标移动的情况下不起作用。最近的一些UDA方法关注类边界，其中一些对目标移动具有鲁棒性，但它们仅适用于分类而不适用于回归。为了克服UDA中的目标偏移问题，所提出的方法，部分共享变分自编码器（PS-VAE），使用成对的特征对齐，而不是特征分布匹配。PS-VAE通过基于CycleGAN的架构相互转换每个样本的域，同时保留其标签相关内容。为了评估PS-VAE的性能，我们进行了两个实验：类不平衡数字数据集的UDA（分类），以及从合成数据到真实观察的人体姿势估计（回归）的UDA。该方法在分类任务中表现出对类不平衡的鲁棒性，在回归任务中表现出较大的优势。
2020-01-25 cs.CV
Associative Partial Domain Adaptation
Yale University（耶鲁大学）；SK telecom（SK电信）；KAIST（韩国科学技术院）；mofl Inc.（mofl公司）
部分自适应（PDA）解决了目标域只包含源域中类的子集的实际情况。虽然PDA应该同时考虑班级水平和样本水平来减轻负迁移，但目前的方法大多只依赖其中之一。在本文中，我们提出了一种新的方法来充分利用多层次的关联，可以出现在PDA。我们的关联部分领域自适应（APDA）利用域内关联，主动选择出非平凡的异常样本，在每个源私有类的样本级加权不能处理。此外，我们的方法考虑域间关联，以鼓励积极的转移附近的目标样本和源样本之间的映射具有高标签共性。为此，我们利用特征传播在一个建议的标签空间组成的源地面实况标签和目标概率标签。我们进一步提出了一个几何指导损失的基础上，每个源类的标签共性，以鼓励积极的转移。我们的APDA在公共数据集上始终实现最先进的性能。
2020-08-07 cs.CV cs.LG
Person Identification from Partial Gait Cycle Using Fully Convolutional Neural Network
Technical University of Munich（慕尼黑工业大学）
步态作为一种生物特征，在视频监控和安全应用中起着关键作用。在步态识别中，通常从一个完整的步态周期中提取步态特征，如步态能量图像（GEI）。然而，在许多情况下，这样的完整步态周期可能由于闭塞而不可用。因此，GEI是不完整的，导致基于步态的人识别率下降。在本文中，我们解决这个问题，提出了一种新的方法来识别个人的步态特征时，几个（甚至是单一）帧（S）。为此，我们提出了一种基于深度学习的方法，将不完整的GEI转换为从完整步态周期获得的相应完整GEI。更准确地说，这种转换是通过独立训练几个自动编码器，然后将它们组合为一个统一的模型来逐步完成的。在两个公开步态数据集上的实验结果表明，该方法在处理非常不完整的步态周期时是有效的。
2018-04-23 cs.CV
Towards Self-similarity Consistency and Feature Discrimination for Unsupervised Domain Adaptation
Zhejiang University（浙江大学）；Alibaba Group（阿里巴巴集团）
无监督领域自适应的最新进展主要集中在通过全局分布对齐来学习共享表示，而没有考虑跨领域的类别信息。然而，类信息的忽略可能导致部分对齐（甚至不对齐）和较差的泛化性能。对于全面的对齐，我们认为，在源域中的不同功能之间的相似性应该是一致的，在目标域。基于这一假设，我们提出了一个新的域差异度量，即，自相似性一致性（SSC），强制特征结构在域之间保持一致。著名的相关对齐（CORAL）被证明是一个特殊的情况下，和次优措施，我们提出的SSC。此外，我们还建议通过结合深度表示的判别信息来减轻部分对齐和未对齐的副作用。具体而言，一个非常简单和有效的特征范数约束被用来扩大类间样本的差异。它减轻了执行自适应时严格对齐的要求，因此显著提高了自适应性能。在视觉领域自适应任务上的大量实验证明了我们提出的SSC度量和特征判别方法的有效性。
2019-04-13 cs.CV
On Minimum Discrepancy Estimation for Deep Domain Adaptation
Queensland University of Technology (QUT)（昆士兰科技大学）
在存在大量标记数据的情况下，深度学习（DL）在计算机视觉领域取得了非凡的胜利，特别是在对象分类和识别任务方面。然而，当训练图像和测试图像来自不同的分布或在训练图像和测试图像之间存在域移位时，DL并不总是表现良好。在没有标记的输入数据的情况下，它们也会受到影响。领域自适应（DA）方法已经被提出来弥补由于领域移位而导致的性能差。在本文中，我们提出了一种新的无监督的深领域自适应方法的基础上对齐的二阶统计量（协方差）以及最大均值差异的源和目标数据与双流卷积神经网络（CNN）。我们证明了所提出的方法在三个基准领域自适应数据集上实现图像分类的最新性能的能力：Office-31 [27]，E-Home [37]和E-Caltech [8]。
2019-01-02 cs.CV
Zero-Shot Day-Night Domain Adaptation with a Physics Prior
Delft University of Technology（代尔夫特理工大学）；QUT Centre for Robotics（昆士兰科技大学机器人中心）
我们探讨了昼夜领域自适应的zero-shot设置。传统的领域自适应设置是在一个领域上进行训练，并通过利用来自测试集的未标记数据样本来适应目标领域。由于收集相关的测试数据是昂贵的，有时甚至是不可能的，我们删除任何依赖于测试数据的图像，而是利用一个视觉归纳先验来自基于物理的反射模型的领域自适应。我们铸造了一些颜色不变的边缘检测器作为卷积神经网络中的可训练层，并评估其对光照变化的鲁棒性。我们发现，颜色不变层减少了昼夜分布偏移在整个网络的特征图激活。我们证明了改进的性能，zero-shot白天到晚上领域自适应的合成以及自然数据集在各种任务，包括分类，分割和地方识别。
2021-10-11 cs.CV
A Balanced and Uncertainty-aware Approach for Partial Domain Adaptation
National University of Singapore（新加坡国立大学）；Peking University（北京大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
这项工作解决了无监督的领域自适应问题，特别是在目标域中的类标签只是源域中的类标签的子集的情况下。这样的部分转移设置是现实的，但具有挑战性的和现有的方法总是遭受两个关键问题，负转移和不确定性传播。在本文中，我们以领域对抗学习为基础，提出了一种新型的领域自适应方法BA $^3$ US，该方法分别采用两种新技术，即平衡对抗对齐（BAA）和自适应不确定性抑制（AUS）。一方面，负迁移会导致目标样本误分类为源域中的类别。为了解决这个问题，BAA以一种相当简单的方式追求跨域标签分布之间的平衡。具体来说，它随机地利用一些源样本来在域对齐期间增加较小的目标域，以便不同域中的类是对称的。另一方面，如果存在具有相对高的预测得分的不正确的类，则源样本将被表示为不确定的，并且这种不确定性在对齐期间容易传播到其周围的未标记的目标数据，这严重恶化了自适应性能。因此，我们提出了AUS，强调不确定的样本，并利用自适应加权互补熵目标，以鼓励不正确的类有统一的和低的预测分数。多个基准测试的实验结果表明，我们的BA $^3$美国超越了部分领域自适应任务的最先进的。代码可在\url{https://github.com/tim-learn/BA3US}上获得。
2020-07-16 cs.CV cs.LG
Source-Free Domain Adaptation for Semantic Segmentation
East China Normal University（华东师范大学）
无监督领域自适应（UDA）可以解决基于卷积神经网络（CNN）的语义分割方法严重依赖于像素级注释数据的挑战，这是劳动密集型的。然而，在这方面，现有的UDA方法不可避免地需要完全访问源数据集，以减少模型自适应期间源域和目标域之间的差距，这在源数据集是私有的真实场景中是不切实际的，因此不能与经过良好训练的源模型一起发布。为了解决这个问题，我们提出了一个无源的领域自适应框架语义分割，即SFDA，其中只有一个训练有素的源模型和一个未标记的目标域数据集可用于适应。SFDA不仅能够在模型自适应过程中通过知识转移从源模型中恢复和保存源领域知识，而且还能够从目标领域中提取有价值的信息用于自监督学习。为语义分割量身定制的像素级和块级优化目标无缝集成在框架中。大量的基准数据集上的实验结果突出了我们的框架对依赖于源数据的现有UDA方法的有效性。
2021-03-30 cs.CV
Low-Cost On-device Partial Domain Adaptation (LoCO-PDA): Enabling efficient CNN retraining on edge devices
Imperial College London（伦敦帝国理工学院）
随着卷积神经网络（CNN）在边缘设备上的部署越来越多，部署时观察到的数据分布的不确定性导致研究人员利用大型和广泛的数据集（如ILSVRC'12）来训练CNN。因此，部署时观察到的数据分布可能是训练数据分布的子集。在这种情况下，不使网络适应所观察到的数据分布可能会由于负传输而导致性能下降，并且缓解这一点是部分领域自适应（PDA）的焦点。当前针对PDA的工作并不关注在边缘设备上执行领域自适应，以适应变化的目标分布或降低部署自适应网络的成本。这项工作提出了一种新的PDA的方法，针对所有这些方向，并开辟了途径，设备上的PDA。LoCO-PDA通过使其能够在边缘设备上重新训练，使部署的网络适应观察到的数据分布。在ILSVRC 12数据集的各个子集中，LoCO-PDA平均将分类精度提高了3.04pp，同时在NVIDIA Jetson TX 2上实现了高达15.1倍的再训练内存消耗减少和2.07倍的推理延迟改善。这项工作是在\emph{link removed for anonymity}开源的。
2022-03-01 cs.AI cs.CV
Domain Adversarial Reinforcement Learning for Partial Domain Adaptation
Beijing Institute of Technology（北京理工大学）；University of Electronic Science and Technology（电子科技大学）；Shanghai University of Science and Technology（上海科技大学）
部分领域自适应的目的是将知识从标签丰富的源域转移到标签稀缺的目标域，从而放松了不同域之间完全共享标签空间的假设。在这个更一般和实际的场景中，一个主要的挑战是如何选择跨不同域的共享类中的源实例进行正迁移。为了解决这个问题，我们提出了一个领域对抗强化学习（DARL）框架，自动选择源实例的共享类规避负迁移，以及同时学习域之间的可转移功能，通过减少域转移。具体来说，在这个框架中，我们采用深度Q学习来学习代理的策略，通过近似动作-价值函数来做出选择决策。此外，引入领域对抗学习来学习代理和目标实例所选择的源实例的领域不变特征，并且还基于所选择的源实例与目标领域的相关程度来确定代理的奖励。在几个基准数据集上的实验表明，我们的DARL方法优于现有的部分领域自适应的最新技术水平的性能。
2019-05-10 cs.CV cs.LG stat.ML
Learning to Discover Knowledge: A Weakly-Supervised Partial Domain Adaptation Approach
Guangdong University of Technology（广东工业大学）；Hangzhou Dianzi University（杭州电子科技大学）
针对弱监督部分域适配中知识发掘与跨域适配的难题，提出基于自步学习的SP-TCL方法，通过审慎损失函数发掘可靠知识并迭代适配，在多基准任务上性能超越现有最优水平。
2024-06-20 cs.CV cs.LG
A Reproducible and Realistic Evaluation of Partial Domain Adaptation Methods
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；McGill University（麦吉尔大学）；Université de Montréal（蒙特利尔大学）
无监督领域自适应（UDA）的目的是利用源标记图像对未标记的目标图像进行分类。在这项工作中，我们认为部分领域自适应（PDA）的变种，我们有额外的源类不存在于目标域。大多数成功的算法使用依赖于目标标签的模型选择策略，以在训练过程中找到最佳的超参数和/或模型。然而，这些策略违反了PDA中的主要假设：只有未标记的目标域样本可用。此外，在实验设置中也存在不一致性-架构，超参数调整，运行次数-产生不公平的比较。这项工作的主要目标是提供一个现实的评价PDA方法与不同的模型选择策略下一致的评价协议。我们使用7种不同的模型选择策略，在2个不同的真实数据集上评估了7种代表性的PDA算法。我们的两个主要发现是：（i）如果没有用于模型选择的目标标签，方法的准确性降低高达30个百分点;（ii）只有一种方法和模型选择对在两个数据集上都表现良好。实验是用我们开源的PyTorch框架BenchmarkPDA进行的。
2022-10-03 cs.CV cs.LG stat.ML
NCAdapt: Dynamic adaptation with domain-specific Neural Cellular Automata for continual hippocampus segmentation
Technical University of Darmstadt（达姆施塔特工业大学）
针对医学影像持续学习中模型适配新领域需保留旧知识的挑战，提出基于神经细胞自动机的NCAdapt方法，冻结骨干网络仅训练少量新增参数，在海马体分割任务上达到前沿性能。
2024-10-30 cs.CV eess.IV
Fader Networks for domain adaptation on fMRI: ABIDE-II study
Skolkovo University of Science and Technology（斯科尔科沃科学技术大学）
ABIDE是最大的开源自闭症谱系障碍数据库，既有fMRI数据，也有完整的表型描述。基于功能连接分析以及对原始数据的深度学习，对这些数据进行了广泛的研究，对于不同的扫描部位，顶级模型的准确率接近75%。然而，在ABIDE中仍然存在模型在不同扫描站点之间的可移植性问题。在本文中，我们首次对原始神经影像数据进行脑病理分类问题的域适应。我们使用3D卷积自动编码器来构建域无关的潜在空间图像表示，并证明这种方法在ABIDE数据上优于现有方法。
2020-10-14 cs.CV eess.IV
Multi-Task Learning for Automotive Foggy Scene Understanding via Domain Adaptation to an Illumination-Invariant Representation
Durham University（杜伦大学）；Majmaah University（迈季迈阿大学）
汽车应用的联合场景理解和分割在两个关键方面是一个具有挑战性的问题：（1）对整个场景中的每个像素进行分类，以及（2）在不稳定的天气和照明变化（例如，雾天）下执行该任务，这导致室外场景能见度差。这种较差的户外场景可见性导致基于深度卷积神经网络的场景理解和分割的性能非最佳。在本文中，我们提出了一个有效的端到端的现代汽车语义场景理解方法在雾天条件下，采用领域自适应和光照不变的图像预变换。作为一个多任务流水线，我们提出的模型提供：-（1）使用域转移方法将图像从极端天气条件转移到晴朗天气条件，以及（2）使用具有密集连接性、跳过连接性和基于融合技术的竞争性编码器-解码器卷积神经网络（CNN）对场景进行语义分割。我们在具有挑战性的雾数据集上评估我们的方法，包括合成数据集（雾城景）以及真实世界的数据集（雾苏黎世和雾驾驶）。通过结合RGB，深度和光照不变的信息，我们的方法优于国家的最先进的汽车场景理解，在雾天条件下。
2019-09-17 cs.CV cs.LG stat.ML
Partial Domain Adaptation without Domain Alignment
Nanjing University of Aeronautics and Astronautics（南京航空航天大学）
无监督领域自适应（UDA）的目的是将知识从一个良好标记的源域转移到一个不同但相关的未标记的目标域，具有相同的标签空间。目前，解决UDA的主要工具是域对齐，这已经被证明是成功的。然而，通常很难找到具有相同标签空间的适当源域。更实际的情况是所谓的部分领域自适应（PDA），其中源标签集或空间包含目标标签集或空间。不幸的是，在PDA中，由于源域中不相关类别的存在，很难获得完美的对齐，从而导致模式坍塌和负转移。虽然已经通过降低不相关源类别的权重做出了一些努力，但是所使用的策略往往是繁重和危险的，因为确切地不相关类别是未知的。这些挑战促使我们寻找一种相对简单的替代方案来解决PDA。为了实现这一点，我们首先提供了一个彻底的理论分析，这说明了目标风险是有界的模型平滑度和域间差异。考虑到PDA求解中的完全对齐困难，我们转而关注模型的平滑性，而放弃风险较大的域对齐，以增强模型的适应性。具体来说，我们实例化的模型平滑作为一个相当简单的域内结构保持（IDSP）。据我们所知，这是第一次天真的尝试，以解决PDA没有域对齐。最后，我们在多个基准数据集上的实证结果表明，IDSP不仅在某些基准上明显优于PDA SOTA（例如，Cl->Rw上+10%，Ar->Rw上+8%），而且与标准UDA中的结构域对齐互补
2022-12-12 cs.CV cs.LG
DoSReMC: Domain Shift Resilient Mammography Classification using Batch Normalization Adaptation
ICterra Information and Communication Technologies（ICterra信息与通信技术公司）
本文提出DoSReMC框架，通过仅微调BN和FC层提升跨领域泛化能力，结合对抗训练进一步提升模型性能，适用于多种临床环境。
2026-04-12 cs.CV eess.IV
