Exploring Adversarially Robust Training for Unsupervised Domain Adaptation
Johns Hopkins University(约翰斯·霍普金斯大学)
无监督领域自适应(UDA)方法旨在将知识从标记的源域转移到未标记的目标域。UDA在计算机视觉文献中得到了广泛的研究。深度网络已被证明容易受到对抗攻击的攻击。然而,很少有人关注提高深度UDA模型的对抗鲁棒性,这引起了人们对模型可靠性的严重担忧。对抗性训练(AT)被认为是最成功的对抗性防御方法。然而,传统的AT需要地面实况标签来生成对抗性示例和训练模型,这限制了其在未标记目标域中的有效性。本文的目的是探索AT来增强UDA模型的鲁棒性:如何通过AT增强未标记数据的鲁棒性,同时学习UDA的域不变特征?为了回答这个问题,我们提供了一个系统的研究,可以应用于UDA的多种AT变体。此外,我们提出了一种新的UDA的对抗鲁棒训练方法,简称为ARTUDA。在多个对抗攻击和UDA基准测试上的大量实验表明,ARTUDA一致地提高了UDA模型的对抗鲁棒性。代码可在https://github.com/shaoyuanlo/ARTUDA上获得
2022-10-04 cs.CV cs.LG
Adv-4-Adv: Thwarting Changing Adversarial Perturbations via Adversarial Domain Adaptation
Nanyang Technological University(南洋理工大学)
本文提出 Adv-4-Adv 对抗训练方法,将不同攻击视为不同域并利用对抗域适应学习域不变表示,从而提升模型对未见强攻击的泛化鲁棒性。
2023-12-07 cs.AI cs.CV
Adversarial Robustness for Unsupervised Domain Adaptation
Dept. of Computer Science, Kyung-Hee University(庆熙大学计算机科学系);Dept. of Computer Science, The University of Hong Kong(香港大学计算机科学系)
广泛的无监督领域自适应(UDA)研究已经在实践中取得了巨大的成功,通过使用深度模型学习标记源域和未标记目标域的可转移表示。然而,以前的工作集中在提高UDA模型对干净样本的泛化能力,而没有考虑对抗鲁棒性,这在现实世界的应用中是至关重要的。传统的对抗训练方法不适用于UDA的未标记目标域上的对抗鲁棒性,因为它们使用由监督损失函数生成的对抗示例来训练模型。在这项工作中,我们利用多个强大的ImageNet模型学习的中间表示来提高UDA模型的鲁棒性。我们的方法通过将UDA模型的特征与ImageNet预训练模型以及领域自适应训练所学习的鲁棒特征进行对齐来工作。它利用标记和未标记的域,并在领域自适应训练期间注入鲁棒性,而无需任何对抗性干预或标签要求。实验结果表明,与基线相比,我们的方法显着提高了对抗鲁棒性,同时在各种UDA基准上保持了干净的准确性。
2021-09-02 cs.CV cs.LG
Discriminative Adversarial Domain Adaptation
South China University of Technology(华南理工大学)
无监督领域自适应的目标是在给定源域上的已标记实例和目标域上的未标记实例的情况下,学习一个能够很好地分类目标实例的任务分类器。最近的进展依赖于深度网络的领域对抗训练来学习领域不变特征。然而,由于任务和领域分类器的单独设计引起的模式坍塌的问题,这些方法在对齐跨领域的特征和类别的联合分布方面受到限制。为了克服这个问题,我们提出了一种新的对抗性学习方法,称为歧视性对抗领域自适应(DADA)。基于集成的类别和域分类器,DADA具有一个新的对抗性目标,该目标鼓励任何输入实例的类别和域预测之间的相互抑制关系。我们表明,在实际条件下,它定义了一个极大极小博弈,可以促进联合分布对齐。除了传统的闭集领域自适应,我们还扩展了DADA的部分和开集领域自适应的极具挑战性的问题设置。实验表明,我们提出的方法的有效性,我们实现了新的国家的最先进的基准数据集上的所有三个设置。
2019-12-17 cs.CV cs.LG
Improving the Generalization of Adversarial Training with Domain Adaptation
Huazhong University of Science and Technology(华中科技大学);Peking University(北京大学);Cornell University(康奈尔大学)
通过将对抗性示例注入训练数据,对抗性训练有望提高深度学习模型的鲁棒性。然而,大多数现有的对抗训练方法是基于特定类型的对抗攻击。它可能无法从对抗域提供足够有代表性的样本,导致对其他攻击的对抗样本的泛化能力较弱。此外,在对抗性训练过程中,输入的对抗性扰动通常由快速单步对手制作,以便扩展到大型数据集。这项工作主要集中在对抗训练,但有效的FGSM对手。在这种情况下,由于缺乏具有代表性的对抗样本,即样本无法准确反映对抗域,因此很难训练具有很大泛化能力的模型。为了缓解这个问题,我们提出了一种新的对抗训练与领域自适应(ATDA)方法。我们的直觉是将FGSM对手的对抗训练视为具有有限数量目标域样本的域适应任务。其主要思想是学习一种在干净域和对抗域上具有语义意义和域不变的表示。对Fashion-MNIST、SVHN、CIFAR-10和CIFAR-100的实证评估表明,ATDA可以大大提高对抗训练的泛化能力和学习模型的平滑度,并在标准基准数据集上优于最先进的方法。为了展示我们方法的迁移能力,我们还将ATDA扩展到迭代攻击的对抗训练,如PGD-Adversial Training(PAT),防御性能得到了显着提高。
2019-03-15 cs.CV cs.LG stat.ML
Domain Generalisation via Domain Adaptation: An Adversarial Fourier Amplitude Approach
Samsung AI Center Cambridge(三星剑桥人工智能中心);University of Edinburgh(爱丁堡大学)
我们解决域泛化(DG)的问题,把它作为一个领域自适应(DA)的任务,我们adversarially合成最坏情况下的目标域和适应模型,最坏情况下的域,从而提高模型的鲁棒性。为了合成具有挑战性但保留语义的数据,我们生成傅立叶振幅图像并将其与源域相位图像相结合,利用信号处理中广泛认为的推测,即振幅谱主要决定图像风格,而相位数据主要捕获图像语义。为了合成最坏情况域以进行自适应,我们训练分类器和幅度发生器。具体来说,我们利用DA的最大分类器差异(MCD)原则,将目标域的性能与模型假设空间中分类器的差异联系起来。通过贝叶斯假设建模,我们将模型假设空间有效地表示为给定源域的分类器上的后验分布,使对抗性MCD最小化变得可行。在包括大规模DomainNet数据集的DomainBed基准测试中,所提出的方法比最先进的方法显著提高了域泛化性能。
2023-02-23 cs.CV cs.LG
Adversarial Domain Adaptation with Domain Mixup
Shanghai Jiao Tong University(上海交通大学);Huawei Hisilicon(华为海思);Youtu Lab, Tencent(腾讯优图实验室);Huawei Noah’s Ark Lab(华为诺亚方舟实验室);Anhui University(安徽大学)
领域自适应的最新研究表明,对抗性学习可以有效地填补源域和目标域之间的差异。然而,目前基于对抗学习的方法存在两个常见的局限性。首先,仅来自两个域的样本不足以确保潜在空间的大部分的域不变性。其次,这些方法中涉及的领域分数只能在硬标签的指导下判断真假,而使用软分数来评估生成的图像或特征更合理,即,以充分利用域间信息。本文提出了一种基于领域混淆的对抗性领域自适应算法(DM-ADA),该算法在一个更连续的潜在空间中保证领域不变性,并指导领域自适应器判断样本相对于源域和目标域的差异。为了提高模型的鲁棒性,在像素级和特征级上联合进行域混淆。大量的实验证明,该方法可以实现优越的性能与不同程度的领域转移和数据复杂性的任务。
2019-12-04 cs.CV cs.LG
Correlation-aware Adversarial Domain Adaptation and Generalization
Queensland University of Technology(昆士兰科技大学);University of Queensland(昆士兰大学)
领域自适应(DA)和领域泛化(DG)已经出现作为对源数据和目标数据的分布不同的领域移位问题的解决方案。DG的任务比DA更具挑战性,因为在DG场景的训练阶段,目标数据是完全不可见的。目前最先进的采用对抗技术,然而,这些很少被认为是DG问题。此外,这些方法不考虑相关对齐,这已被证明是非常有益的最小化域差异。在本文中,我们提出了一个相关性感知的对抗DA和DG框架,其中使用相关性对齐以及对抗学习来最小化源和目标数据的特征。将相关性对齐模块与对抗性学习一起使用有助于实现更加领域不可知的模型,因为改进了更有效地减少与未标记目标数据的领域差异的能力。在基准数据集上的实验证明,我们提出的方法可以提高最先进的性能。
2019-11-29 cs.CV cs.LG
Factorized Adversarial Networks for Unsupervised Domain Adaptation
Rutgers University(罗格斯大学);Toutiao AI Lab(今日头条AI实验室);Snap Research(Snap研究)
在本文中,我们提出了因子化对抗网络(FAN)解决无监督领域自适应问题的图像分类任务。我们的网络将数据分布映射到一个潜在的特征空间,该空间被分解为一个包含特定领域特征的特定领域子空间和一个保留类别信息的特定任务子空间,分别用于源域和目标域。无监督领域自适应通过对抗训练来实现,以最小化来自源域和目标域的两个任务特定子空间的分布之间的差异。我们证明,所提出的方法优于国家的最先进的方法在文献中使用的多个基准数据集的无监督领域自适应。此外,我们收集了两个比现有基准数据集大得多的真实世界的标记数据集,并在基线上得到了显着的改进,证明了我们的方法的实用价值。
2018-06-04 cs.CV cs.LG
AED-PADA:Improving Generalizability of Adversarial Example Detection via Principal Adversarial Domain Adaptation
Beihang University(北京航空航天大学);Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所)
本文提出 AED-PADA,通过识别覆盖主要对抗特征空间的 PADs 并引入多源无监督域适应,提升对抗样本检测在未知攻击和最小扰动场景下的泛化能力。
2024-12-04 cs.CR cs.CV cs.LG
Multi-step domain adaptation by adversarial attack to $\mathcal{H} Δ\mathcal{H}$-divergence
ITMO University(圣彼得堡国立信息技术机械与光学大学);Artificial Intelligence Research Institute(人工智能研究所);Tubingen Universitat(图宾根大学)
对抗性例子可以在不同的模型之间转换。在我们的论文中,我们建议使用此属性的多步领域自适应。在无监督的领域自适应设置中,我们证明了用对抗性示例替换源域到$\mathcal{H} Δ\mathcal{H}$ -发散可以提高目标域上的源分类器精度。我们的方法可以连接到大多数领域自适应技术。我们进行了一系列实验,并在Digits和Digi-Home数据集上实现了准确性的提高。
2022-07-18 cs.CR cs.CV cs.LG
Vision Transformer-based Adversarial Domain Adaptation
School of Artificial Intelligence, Jilin University(吉林大学人工智能学院)
本文首次将Vision Transformer(ViT)作为即插即用特征提取器引入对抗域适应,证明其直接替换现有无监督域适应方法中的CNN即可有效提升性能。
2024-04-24 cs.CV cs.LG
Deep Adversarial Transition Learning using Cross-Grafted Generative Stacks
University of Otago(奥塔哥大学)
当前在计算机视觉中使用的深度领域自适应方法主要集中于学习跨不同领域的区分性和领域不变特征。在本文中,我们提出了一种新的“深度对抗性过渡学习”(DATL)框架,通过使用可调节的交叉嫁接生成网络堆栈和过渡之间的有效对抗性学习,将源和目标域投影到中间过渡空间中,从而弥合域差距。具体来说,我们构造的变分自动编码器(VAE)的两个域,并形成双向转换的VAE的解码器堆栈交叉嫁接。此外,生成对抗网络(GAN)用于领域自适应,将目标域数据映射到源域的已知标签空间。因此,整个适应过程由三个阶段组成:VAE的特征表示学习,转换生成和GANs的转换对齐。实验结果表明,我们的方法优于国家的最先进的一些无监督领域自适应基准。
2020-09-25 cs.CV cs.LG
Self-training Guided Adversarial Domain Adaptation For Thermal Imagery
Aselsan Inc(阿瑟尔桑公司);Middle East Technical University(中东技术大学);NOROM Neuroscience and Neurotechnology Excellency Center(NOROM神经科学与神经技术卓越中心)
在大规模RGB图像数据集上训练的深度模型已经取得了巨大的成功。重要的是将这种深层模型应用于现实世界的问题。然而,这些模型在光照变化下受到性能瓶颈的影响。热红外相机对这种变化更鲁棒,因此对现实世界的问题非常有用。为了研究结合特征丰富的可见光谱和热图像模态的有效性,我们提出了一种无监督的领域自适应方法,该方法不需要RGB到热图像对。我们采用大规模的RGB数据集MS-COCO作为源域和热数据集FLIR ADAS作为目标域来展示我们的方法的结果。虽然对抗性领域自适应方法旨在对齐源域和目标域的分布,但是简单地对齐分布不能保证对目标域的完美泛化。为此,我们提出了一种自训练引导的对抗性领域自适应方法,以提高对抗性领域自适应方法的泛化能力。为了执行自训练,将伪标签分配给目标热域上的样本,以学习目标域的更一般化的表示。大量的实验分析表明,我们提出的方法取得了更好的结果比国家的最先进的对抗性领域自适应方法。代码和模型是公开的。
2021-06-14 cs.CV cs.LG
Self-adaptive Re-weighted Adversarial Domain Adaptation
Chongqing University(重庆大学)
现有的对抗性领域自适应方法主要考虑边缘分布,这些方法可能导致欠迁移或负迁移。为了解决这个问题,我们提出了一种自适应重加权对抗领域自适应方法,试图从条件分布的角度来增强域对齐。为了促进正迁移和对抗负迁移,我们降低了对齐特征的对抗性损失的权重,同时增加了那些通过条件熵测量的对齐不良特征的对抗性力量。此外,利用源样本和伪标记的目标样本的三重丢失在混淆域上被采用。这种度量损失确保类内样本对的距离比类间样本对更接近,以实现类级对齐。通过这种方式,可以在协同训练过程中同时捕获高精度的伪标记目标样本和语义对齐。我们的方法实现了理想源和目标假设的低联合误差。然后,预期的目标误差可以是遵循本-大卫定理的上限。实验结果表明,该模型在标准领域自适应数据集上的性能优于现有技术。
2020-06-02 cs.CV cs.LG
Adversarial-Learned Loss for Domain Adaptation
Zhejiang University(浙江大学);Fabu Inc.(法布公司);Alibaba-Zhejiang University Joint Institute of Frontier Technologies(阿里巴巴-浙江大学前沿技术联合研究院)
近年来,跨领域的可迁移表征学习取得了显著的进展。领域自适应的研究主要基于两种技术:领域对抗学习和自训练。然而,领域对抗学习只对齐领域之间的特征分布,而不考虑目标特征是否具有区分性。另一方面,自训练利用模型预测来增强目标特征的区分度,但它无法显式地对齐域分布。为了结合这两种方法的优点,我们提出了一种新的方法称为领域自适应的不利学习损失(ALDA)。我们首先分析了伪标签方法,一种典型的自训练方法。然而,伪标签和地面事实之间存在差距,这可能导致不正确的训练。因此,我们引入了混淆矩阵,它是通过ALDA中的对抗方式学习的,以减少差距并对齐特征分布。最后,一个新的损失函数是自动构造的混淆矩阵,作为未标记的目标样本的损失。我们的ALDA在四个标准的领域自适应数据集上优于最先进的方法。我们的代码可在https://github.com/ZJULearning/ALDA上获得。
2020-01-04 cs.CV cs.LG
Adversarial Unsupervised Domain Adaptation with Conditional and Label Shift: Infer, Align and Iterate
Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院);Alibaba Group(阿里巴巴集团);Carnegie Mellon University(卡内基梅隆大学);The Hong Kong Polytechnic University(香港理工大学);University of Southern California(南加州大学)
在这项工作中,我们提出了一个对抗性的无监督领域自适应(UDA)方法与固有的条件和标签偏移,我们的目标是对齐的分布w.r.t. $p(x|y)$和$p(y)$。由于标签在目标域中不可访问,因此常规对抗性UDA假设$p(y)$跨域不变,并且依赖于比对$p(x)$作为$p(x|y)$比对的替代。为了解决这个问题,我们提供了一个彻底的理论和经验分析的传统对抗UDA方法下的条件和标签偏移,并提出了一个新的和实用的替代优化方案对抗UDA。具体来说,我们推断边缘$p(y)$和对齐$p(x|y)$迭代训练,并精确对齐后$p(y|x)$在测试中。我们的实验结果表明,它的有效性分类和分割UDA,部分UDA。
2021-08-02 cs.AI cs.CV cs.LG
Active Adversarial Domain Adaptation
UMass Amherst(马萨诸塞大学阿默斯特分校);NEC Laboratories America(美国电气股份有限公司实验室);UC San Diego(加利福尼亚大学圣地亚哥分校)
我们提出了一个主动学习的方法,跨域转移表示。我们的方法,主动对抗领域自适应(AADA),探讨了两个相关的问题之间的二元性:对抗域对齐和重要性采样跨域适应模型。前者使用域判别模型来对齐域,而后者利用它来加权样本以解释分布偏移。具体来说,我们的重要性权重促进样本具有较大的不确定性的分类和标记的例子的多样性,从而作为一个样本选择方案的主动学习。我们表明,这两种观点可以统一在一个框架的领域自适应和迁移学习时,源域有许多标记的例子,而目标域没有。当两个域密切相关时,AADA提供了基于微调的方法和其他采样方法的显着改进。具有挑战性的领域自适应任务的结果,例如,目标检测,证明了即使在数百个示例被主动注释之后,也保留了相对于基线方法的优势。
2020-03-09 cs.CV cs.LG
SWAT: Sliding Window Adversarial Training for Gradual Domain Adaptation
School of Information and Software Engineering University of Electronic Science and Technology of China(信息与软件工程学院 电子科学与技术大学)
本文提出SWAT方法,通过滑动窗口沿对抗流逐步缩小相邻中间域差距,在六个GDA基准上显著提升渐进域自适应性能。
2025-09-18 cs.AI cs.CV
Domain Adaptation with Adversarial Training on Penultimate Activations
Stony Brook University(石溪大学);XPeng Motors(小鹏汽车)
增强模型对目标数据的预测置信度是无监督领域自适应(UDA)的一个重要目标。在本文中,我们探讨了倒数第二次激活的对抗性训练,即,最终线性分类层的输入特征。我们表明,这种策略比以前的作品中使用的对输入图像或中间特征的对抗性训练更有效,并且与提高预测置信度的目标更相关。此外,激活归一化通常用于领域自适应,以减少域间隙,我们推导出两个变体,并系统地分析了归一化对我们的对抗训练的影响。这一点在理论上和实际的适应任务的实证分析都得到了说明。在标准设置和源数据自由设置下,对流行的UDA基准进行了广泛的实验。结果验证了我们的方法达到了最好的分数对以前的艺术。代码可在https://github.com/tsun/APA上获得。
2023-02-26 cs.CV cs.LG
Contrastive Adversarial Training for Unsupervised Domain Adaptation
Amazon(亚马逊)
针对域对抗训练在复杂场景下偏向源域的问题,提出对比对抗训练(CAT),利用源域样本调节目标域特征生成,解决特征分布不可区分、样本接近及不对齐三大挑战,可即插即用并显著提升性能。
2024-07-17 cs.CV cs.LG
Domain Adversarial Training: A Game Perspective
NVIDIA(英伟达);University of Toronto(多伦多大学);Vector Institute(向量研究所);University of Waterloo(滑铁卢大学)
领域自适应的主要工作集中在使用领域对抗训练来学习不变表示。在本文中,我们从博弈论的角度来解释这种方法。将领域对抗训练中的最优解定义为局部纳什均衡,我们证明了领域对抗训练中的梯度下降可能违反优化器的渐近收敛保证,通常会阻碍传输性能。我们的分析使我们用高阶ODE求解器(即,Runge-Kutta),我们得到渐近收敛保证。这一系列优化器明显更稳定,并允许更积极的学习率,从而在用作标准优化器的直接替代品时获得更高的性能增益。我们的实验表明,结合最先进的领域对抗方法,我们在不到一半的训练迭代中实现了高达3.5%的改进。我们的优化器很容易实现,没有额外的参数,并且可以插入任何领域对抗框架。
2022-02-10 cs.CV cs.GT cs.LG
On the Mechanisms of Adversarial Data Augmentation for Robust and Adaptive Transfer Learning
该研究系统探究对抗数据增强在迁移学习中的作用,提出整合对抗数据增强、一致性正则化与域不变表征学习的统一框架,在多基准数据集上验证了其提升域适应性能的效果,拓展了对抗学习的应用价值。
2025-05-19 cs.CV cs.LG
DART: Domain-Adversarial Residual-Transfer Networks for Unsupervised Cross-Domain Image Classification
Univ. of Electronic Sci & Tech.of China(电子科技大学);The Chinese University of Hong Kong(香港中文大学);University of Electronic Science and Technology of China(电子科技大学);Google Inc.(谷歌公司);Singapore Management University(新加坡管理大学)
深度学习的准确性(例如,卷积神经网络)用于图像分类任务关键地依赖于标记的训练数据的量。为了解决一个新领域的图像分类任务,缺乏标记的数据,但获得廉价可用的未标记的数据,无监督领域自适应是一种有前途的技术,以提高性能,而不会产生额外的标记成本,通过假设来自不同领域的图像共享一些不变的特征。在本文中,我们提出了一种新的无监督领域自适应方法,称为深度神经网络的域对抗残差转移(DART)学习,以解决跨域图像分类任务。与现有的无监督域自适应方法相比,所提出的DART不仅通过对抗训练来学习域不变特征,而且还通过残差转移策略来实现鲁棒的域自适应分类,所有这些都在端到端的训练框架中进行。我们评估了所提出的方法的性能跨域图像分类任务的几个著名的基准数据集,其中我们的方法明显优于国家的最先进的方法。
2018-12-30 cs.CV cs.LG
An Unsupervised Domain Adaptation Model based on Dual-module Adversarial Training
University of Kansas(堪萨斯大学);Ryerson University(瑞尔森大学)
在本文中,我们提出了一个双模块的网络架构,采用域判别功能模块,鼓励域不变特征模块学习更多的域不变特征。所提出的架构可以应用于任何利用域不变特征进行无监督领域自适应的模型,以提高其提取域不变特征的能力。我们进行实验的领域对抗训练的神经网络(DANN)模型作为一个代表性的算法。在训练过程中,我们向两个模块提供相同的输入,然后分别提取它们的特征分布和预测结果。我们提出了一个差异损失,发现预测结果和两个模块之间的特征分布的差异。通过最大化特征分布损失和最小化预测结果差异的对抗性训练,鼓励这两个模块分别学习更多的域区分性和域不变特征。进行了广泛的比较评估,所提出的方法优于国家的最先进的无监督领域自适应任务。
2021-12-31 cs.CV cs.LG
Domain Adversarial Neural Networks for Domain Generalization: When It Works and How to Improve
University of Pittsburgh(匹兹堡大学);Northeastern University(东北大学);Yonsei University(延世大学)
在理论上,领域自适应是一个很好的研究问题。此外,这一理论在实践中得到了很好的应用。特别是,我们注意到Ben-David等人(2010)给出的目标误差的界限,以及Ganin和Lempitsky(2015)提出的基于这项工作的著名域对齐算法,该算法使用域对抗神经网络(DANN)。近年来,针对领域泛化的相关问题,提出了多种DANN变体,但对原始的激励约束没有进行太多的讨论。在本文中,我们从这个角度研究的有效性DANN在领域泛化。我们调查的条件下,DANN的应用是有意义的,并进一步考虑DANN作为一个动态的过程中的培训。我们的调查表明,应用DANN的领域泛化可能并不像它看起来那么简单。为了解决这个问题,我们设计了一个算法扩展到DANN的领域泛化的情况下。实验验证了理论和算法的正确性。
2022-03-18 cs.CV cs.LG
Towards Category and Domain Alignment: Category-Invariant Feature Enhancement for Adversarial Domain Adaptation
Carleton University(卡尔顿大学);University of Ottawa(渥太华大学)
对抗性领域自适应通过对齐两个领域的特征分布,在将知识从源领域转移到目标领域方面取得了令人印象深刻的进展。这些方法的重点是最大限度地减少域分歧,并将适应性(衡量为这两个域上理想联合假设的预期误差)视为一个小常数。然而,这些方法仍然面临两个问题:(1)对抗性域对齐扭曲了原始特征分布,降低了适应性;(2)将特征表示转换为域不变需要牺牲特定域的变化,导致较弱的可区分性。为了缓解这些问题,我们提出了类别不变特征增强(CIFE),一种通用的机制,通过优化适应性来增强对抗性领域自适应。具体而言,CIFE方法引入类别不变特征,以提高域不变特征的可区分性,同时保持可转移性。实验表明,CIFE可以改善代表性的对抗性领域自适应方法,产生国家的最先进的结果在五个基准。
2021-08-14 cs.CV
Adversarial Domain Adaptation Being Aware of Class Relationships
Petuum, Inc.(Petuum公司);Rice University(莱斯大学);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Texas A&M University(得克萨斯农工大学);University of Oxford(牛津大学)
对抗性训练是一种有效的方法,可以促进跨源域和目标域的可转移表示的学习,它已被广泛应用于基于深度神经网络的领域自适应(DA)任务。直到最近,现有的对抗性领域自适应(ADA)方法忽略了来自标签空间的有用信息,这是与不同语义类别相关联的复杂数据分布的重要因素。特别是在当前的迁移学习研究中,很少考虑和讨论类间语义关系。在本文中,我们提出了一种新的关系感知的对抗领域自适应(RADA)算法,该算法首先利用一个单一的多类域映射来加强领域对抗训练过程中的类间依赖结构的学习,然后将此结构与源域上训练标签预测器所表征的类间依赖进行对齐。具体来说,我们施加一个正则化项来惩罚分别从域预测和标签预测估计的类间依赖关系之间的结构差异。通过这种对齐,我们提出的方法使对抗领域自适应意识到类关系。实证研究表明,类关系的纳入显着提高性能的基准数据集。
2020-03-30 cs.CV cs.LG stat.ML
Adversarial and Random Transformations for Robust Domain Adaptation and Generalization
National Innovation Institute of Defense Technology(国防科技创新研究院)
数据增强已被广泛用于在训练深度神经网络时提高泛化能力。最近的工作表明,使用最坏情况下的转换或对抗增强策略可以显着提高准确性和鲁棒性。然而,由于图像变换的不可微性质,必须应用诸如强化学习或演化策略的搜索算法,这对于大规模问题在计算上是不实用的。在这项工作中,我们表明,通过简单地应用随机数据增强的一致性训练,可以获得领域自适应(DA)和泛化(DG)的最先进的结果。为了进一步提高对抗样本的准确性和鲁棒性,提出了一种基于空间Transformer网络的可微对抗数据增强方法。基于组合对抗和随机变换的方法在多个DA和DG基准数据集上的性能优于最先进的方法。此外,所提出的方法显示出良好的鲁棒性腐败,这也是常用的数据集上验证。
2022-11-13 cs.CV cs.LG
CDA: Contrastive-adversarial Domain Adaptation
Northeastern University(东北大学);Hitachi Industrial AI Lab(日立工业人工智能实验室)
领域自适应的最新进展表明,深度神经网络上的对抗学习可以学习领域不变特征,以减少源域和目标域之间的移位。虽然这种对抗性方法实现了域级别的对齐,但它们忽略了类(标签)的变化。当类条件数据分布在源域和目标域之间存在显著差异时,它可能会在类边界附近生成模糊的特征,这些特征更有可能被错误分类。在这项工作中,我们提出了一个两阶段模型的领域自适应称为\textbf{C}对抗\textbf{D} omain \textbf{A}适应\textbf{(CDA)}。虽然对抗性组件有助于域级别的对齐,但两阶段对比学习利用类信息来实现跨域的更高的类内紧凑性,从而产生分离良好的决策边界。此外,所提出的对比框架被设计为一个即插即用的模块,可以很容易地嵌入现有的对抗方法的领域自适应。我们在两个广泛使用的领域自适应基准数据集上进行实验,即\textit{Office-31}和\textit{Digits-5},并证明CDA在这两个数据集上都达到了最先进的结果。
2023-01-10 cs.CV
Unsupervised Domain Adaptation for Image Classification via Structure-Conditioned Adversarial Learning
Zhejiang University(浙江大学);Huawei Technologies(华为技术有限公司)
无监督领域自适应(UDA)通常通过对抗学习将知识从标签丰富的源领域转移到未标记的目标领域。原则上,现有的UDA方法主要关注域之间的全局分布对齐,而忽略了固有的局部分布特性。基于这一观察结果,我们提出了一种端到端的结构条件对抗学习方案(SCAL),该方案能够在域分布对齐过程中保持类内紧凑性。通过使用局部结构作为结构感知条件,该方案在结构条件对抗学习管道中实现。上述学习过程通过在局部结构建立和结构条件对抗学习之间交替来迭代执行。实验结果证明了该方案在UDA场景中的有效性。
2021-03-04 cs.CV
Multi-Adversarial Domain Adaptation
Tsinghua University(清华大学)
深度领域自适应的最新进展表明,对抗学习可以嵌入到深度网络中,以学习可转移的特征,从而减少源域和目标域之间的分布差异。现有的基于单域自适应的领域对抗性自适应方法只对源数据和目标数据的分布进行了调整,而没有利用复杂的多模态结构。在本文中,我们提出了一个多对抗领域自适应(MADA)的方法,它捕获多模结构,使细粒度的对齐不同的数据分布的基础上,多个域鉴别器。自适应可以通过随机梯度下降来实现,其中梯度通过线性时间中的反向传播来计算。经验证据表明,该模型优于国家的最先进的方法在标准的领域自适应数据集。
2018-09-04 cs.CV
Importance Weighted Adversarial Nets for Partial Domain Adaptation
Advanced Multimedia Research Lab, University of Wollongong, Australia(伍伦贡大学高级多媒体研究实验室,澳大利亚伍伦贡大学高级多媒体研究实验室(注:此处“Advanced Multimedia Research Lab”是实验室,属于University of Wollongong的机构,整体按要求提取到大学级别,即University of Wollongong,澳大利亚伍伦贡大学))
提出了一种基于重要性加权对抗网的无监督领域自适应方法,该方法适用于目标领域类别数少于源领域类别数的部分领域自适应。以往的领域自适应方法一般假设标签空间相同,从而减少分布分歧导致可行的知识转移。然而,这样的假设在更现实的场景中不再有效,该场景需要从更大和更多样化的源域适应到具有更少类别的更小目标域。本文扩展了基于对抗性网络的领域自适应,提出了一种新型的基于对抗性网络的部分领域自适应方法,用于识别可能来自离群类的源样本,同时减少域之间共享类的移动。
2018-03-28 cs.CV
Pose-aware Adversarial Domain Adaptation for Personalized Facial Expression Recognition
University of Science and Technology of China(中国科学技术大学)
目前的面部表情识别方法无法同时处理姿势和主题变化。在本文中,我们提出了一种新的无监督对抗领域自适应方法,可以同时减轻这两种变化。特别地,我们的方法由三种学习策略组成:对抗性领域自适应学习、跨对抗性特征学习和重建学习。第一个目标是学习源域中与姿势和表情相关的特征表示,并通过实施对抗性学习使两个特征分布适应目标域的特征分布。通过使用个性化的对抗性领域自适应,该学习策略可以减轻主题变化,并利用来自源领域的信息来帮助目标领域的学习。第二个用于通过推动姿势相关特征表示expression-undistinguished和姿势相关特征表示expression-undistinguished来执行姿势相关特征表示和表情相关特征表示之间的特征解纠缠。最后一个可以通过应用人脸图像重建来进一步增强特征学习,使得学习的表情相关特征表示更具姿态和身份鲁棒性。在四个基准数据集上的实验结果证明了该方法的有效性。
2020-07-12 cs.CV
Adversarial Consistent Learning on Partial Domain Adaptation of PlantCLEF 2020 Challenge
Lehigh University(利哈伊大学)
领域自适应是解决领域迁移问题的关键技术之一。部分领域自适应解决了目标类别仅是源类别的子集的情况。在本文中,为了实现跨域植物图像的有效表示,我们首先从预训练模型中提取深度特征,然后在统一的深度架构中开发对抗一致性学习($ACL$),用于部分领域自适应。它包括源域分类损失、对抗学习损失和特征一致性损失。对抗性学习损失可以保持源域和目标域之间的域不变特征。此外,特征一致性损失可以保持两个域之间的细粒度特征过渡。通过对源域中不相关的类别进行降权,找到两个域的共享类别。实验结果表明,从NASNetLarge模型与建议的$ACL$架构的训练功能产生有前途的结果PlantCLEF 2020挑战。
2020-09-19 cs.CV
Domain Adversarial Reinforcement Learning for Partial Domain Adaptation
Beijing Institute of Technology(北京理工大学);University of Electronic Science and Technology(电子科技大学);Shanghai University of Science and Technology(上海科技大学)
部分领域自适应的目的是将知识从标签丰富的源域转移到标签稀缺的目标域,从而放松了不同域之间完全共享标签空间的假设。在这个更一般和实际的场景中,一个主要的挑战是如何选择跨不同域的共享类中的源实例进行正迁移。为了解决这个问题,我们提出了一个领域对抗强化学习(DARL)框架,自动选择源实例的共享类规避负迁移,以及同时学习域之间的可转移功能,通过减少域转移。具体来说,在这个框架中,我们采用深度Q学习来学习代理的策略,通过近似动作-价值函数来做出选择决策。此外,引入领域对抗学习来学习代理和目标实例所选择的源实例的领域不变特征,并且还基于所选择的源实例与目标领域的相关程度来确定代理的奖励。在几个基准数据集上的实验表明,我们的DARL方法优于现有的部分领域自适应的最新技术水平的性能。
2019-05-10 cs.CV cs.LG stat.ML
UADA3D: Unsupervised Adversarial Domain Adaptation for 3D Object Detection with Sparse LiDAR and Large Domain Gaps
KTH Royal Institute of Technology(瑞典皇家理工学院);Hamburg University of Technology(汉堡工业大学)
本文提出UADA3D,一种不依赖预训练源模型或师生架构的无监督对抗域适应方法,用于在稀疏LiDAR点云和大域差距条件下提升3D目标检测性能,并在自动驾驶汽车与移动机器人场景中验证了有效性。
2024-10-21 cs.AI cs.CV cs.RO
A Domain Agnostic Normalization Layer for Unsupervised Adversarial Domain Adaptation
我们提出了一个规范化层的语义场景分割无监督域自适应。已知归一化层可以提高收敛性和泛化能力,并且是许多最先进的全卷积神经网络的一部分。我们发现,传统的归一化层恶化了当前无监督对抗域自适应(UADA)的性能,UADA是一种提高未标记数据集网络性能的方法,也是我们研究的重点。因此,我们提出了一种新的领域不可知的归一化层,从而释放了归一化层对无监督对抗领域自适应的好处。在我们的评估中,我们从合成的GTA5数据集适应真实的Cityscapes数据集,一个常见的基准实验,并超越了最先进的。由于我们的规范化层在测试时是领域不可知的,我们进一步证明了UADA使用领域不可知的规范化提高了看不见的领域的性能,特别是在Apolloscape和Mapillary上。
2018-09-14 cs.CV
CADA: Multi-scale Collaborative Adversarial Domain Adaptation for Unsupervised Optic Disc and Cup Segmentation
University of Florida(佛罗里达大学);UNC Charlotte(北卡罗来纳大学夏洛特分校)
视网膜成像设备的多样性带来了一个重大挑战:域转移,当将在一个域上训练的深度学习模型应用于新的测试域时,会导致性能下降。在本文中,我们提出了一个多尺度输入以及多个域适配器分层应用在特征和输出空间。提出的训练策略和新的无监督域自适应框架,称为协作对抗域自适应(CADA),可以有效地克服这一挑战。多尺度输入可以减少由于网络中用于特征提取的池化层而导致的信息损失,而我们提出的CADA是一种交互式范例,通过对抗性学习和在不同网络层集成权重来呈现精致的协作自适应。特别是,为了对未标记的目标域数据进行更好的预测,我们同时通过对抗性学习来实现域不变性和模型的泛化能力,这些学习来自不同级别的网络层的多尺度输出,并在训练期间保持历史权重的指数移动平均值(EMA)。在不注释来自目标域的任何样本的情况下,编码器和解码器层中的多个对抗性损失引导提取域不变特征以混淆域分类器。同时,通过EMA的权重集成减少了自适应多重学习的不确定性。综合实验结果表明,我们的CADA模型结合多尺度输入训练,可以克服性能下降,并优于最先进的领域自适应方法分割视网膜视盘和杯从眼底图像源于REFUGE,Drishti-GS,和Rim-One-r3数据集。
2021-10-05 cs.CV cs.LG eess.IV
Gradually Vanishing Bridge for Adversarial Domain Adaptation
University of Chinese Academy of Sciences(中国科学院大学);Kingsoft Cloud(金山云);Peng Cheng Laboratory(鹏城实验室)
在无监督领域自适应中,丰富的领域特性给学习领域不变表示带来了巨大的挑战。然而,在现有的解决方案中,域差异被认为是直接最小化的,这在实践中是难以实现的。一些方法通过显式地对表示中的领域不变部分和领域特定部分进行建模来缓解这一困难,但显式构造的不利影响在于所构造的领域不变表示中残留的领域特定特征。在本文中,我们配备了对抗领域自适应逐渐消失桥(GVB)机制的发生器和同步器。在生成器上,GVB不仅可以降低整体的传输难度,而且可以减少域不变表示中剩余的域特定特征的影响。在训练过程中,GVB有助于提高识别能力,平衡对抗训练过程。在三个具有挑战性的数据集上的实验表明,我们的GVB方法优于强大的竞争对手,并与其他对抗方法合作良好。该代码可在https://github.com/cuishuhao/GVB上获得。
2020-03-30 cs.CV
Adversarial Discriminative Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);Boston University(波士顿大学)
对抗性学习方法是训练强大深度网络的一种很有前途的方法,并且可以在不同领域生成复杂的样本。尽管存在域偏移或数据集偏差,它们也可以提高识别率:最近引入了几种对抗无监督领域自适应的方法,它们减少了训练和测试域分布之间的差异,从而提高了泛化性能。先前的生成方法显示出令人信服的可视化,但在区分性任务上不是最佳的,并且可以限于较小的变化。先前的判别方法可以处理更大的域偏移,但对模型施加了绑定权重,并且没有利用基于GAN的损失。我们首先概述了一个新的广义框架对抗适应,其中包括最近的国家的最先进的方法作为特殊情况下,我们使用这种广义的观点,以更好地与以前的方法。我们提出了一个以前未探索的实例,我们的一般框架,结合了歧视性建模,untied权重共享,和GAN的损失,我们称之为对抗歧视性领域自适应(ADDA)。我们证明了ADDA比竞争领域对抗方法更有效,但也更简单,并通过在标准跨领域数字分类任务和新的更困难的跨模态对象分类任务上超过最先进的无监督自适应结果来证明我们的方法的前景。
2017-02-17 cs.CV
GAMA: Geometry-Aware Manifold Alignment via Structured Adversarial Perturbations for Robust Domain Adaptation
针对域适应中源目标域流形差异大、现有方法忽略精确流形对齐与结构化扰动探索的问题,提出几何感知流形对齐框架GAMA,通过切空间探索和流形约束优化实现显式对齐,理论与实验均验证其在多数据集上的性能优势。
2025-05-21 cs.CV
Self-Paced Collaborative and Adversarial Network for Unsupervised Domain Adaptation
本文提出无监督领域自适应方法CAN及自步版本SPCAN,通过结合领域协同与对抗学习策略分别学习特定与不变特征表示,并逐步选择伪标签样本重训分类器,在多个基准数据集上达到最先进性能。
2025-06-24 cs.CV
Adversarial Transfer Learning for Cross-domain Visual Recognition
Chongqing University(重庆大学)
在许多实际的视觉识别场景中,源域和目标域的特征分布一般是不同的,这就导致了一般跨域视觉识别问题的出现。为了解决视觉域不匹配的问题,提出了一种新的半监督对抗性迁移学习方法,称为耦合对抗性迁移领域自适应(CatDA),用于两个域之间的分布对齐。所提出的CatDA方法受到cycleGAN的启发,但利用了多个浅层多层感知器(MLP)而不是深层网络。具体来说,我们的CatDA由两个对称和苗条的子网络组成,这样就形成了耦合对抗学习框架。利用两个发生器的这种对称性,来自源/目标域的输入数据可以被馈送到MLP网络中用于目标/源域生成,由两个面向对抗的耦合鉴别器监督。值得注意的是,为了避免在领域对抗训练期间特征提取函数的高容量的关键缺陷,在每个生成器中提出了领域特定损失和领域知识保真度损失,使得所提出的传递网络的有效性得到保证。此外,与cycleGAN的本质区别在于,我们的方法旨在为领域自适应和迁移学习生成域不可知和对齐的特征,而不是合成逼真的图像。我们在一些基准数据集上进行了实验,所提出的方法在最先进的领域自适应和迁移学习方法上取得了有竞争力的性能。
2019-12-24 cs.CV
CyCADA: Cycle-Consistent Adversarial Domain Adaptation
BAIR, UC Berkeley(加州大学伯克利分校伯克利人工智能研究院);OpenAI;CS, Boston University(波士顿大学计算机科学系)
领域自适应对于在新的、未知的环境中取得成功至关重要。在特征空间中应用的对抗适应模型发现了域不变表示,但难以可视化,有时无法捕获像素级和低级域偏移。最近的工作表明,结合循环一致性约束的生成对抗网络在域之间映射图像时非常有效,即使不使用对齐的图像对。提出了一种新的区分训练的循环一致性对抗领域自适应模型。CyCADA在像素级和特征级都适应表示,在利用任务丢失的同时加强周期一致性,并且不需要对齐对。我们的模型可以应用于各种视觉识别和预测设置。我们在多个适应任务中展示了新的最先进的结果,包括数字分类和道路场景的语义分割,展示了从合成到现实世界领域的转移。
2017-12-29 cs.CV
Partial Adversarial Domain Adaptation
Tsinghua University(清华大学);National Engineering Laboratory for Big Data Software(大数据系统软件国家工程实验室);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
领域对抗学习在两个玩家的极大极小游戏中对齐源域和目标域的特征分布。现有的领域对抗网络通常假设不同领域的标签空间相同。在大数据存在的情况下,有强烈的动机将深度模型从现有的大领域转移到未知的小领域。本文引入部分领域自适应作为一种新的领域自适应方案,它将完全共享标签空间的假设放宽为源标签空间包含目标标签空间。以前的方法通常将整个源域与目标域进行匹配,由于标签空间之间存在较大的不匹配,因此很容易出现部分领域自适应问题的负迁移。我们提出了部分对抗领域自适应(PADA),它同时通过降低离群源类的数据权重来训练源分类器和域对手来消除负迁移,并通过匹配共享标签空间中的特征分布来促进正迁移。实验表明,PADA超过了国家的最先进的部分领域自适应任务的结果在几个数据集。
2018-08-10 cs.CV
Re-energizing Domain Discriminator with Sample Relabeling for Adversarial Domain Adaptation
University of Science and Technology of China(中国科学技术大学);Microsoft Research Asia(微软亚洲研究院)
许多无监督的领域自适应(UDA)方法利用领域对抗训练来对齐特征以减小领域间隙,其中特征提取器被训练来欺骗领域训练器以便具有对齐的特征分布。随着训练的进行,领域分类器对日益对齐的特征分布的区分能力变差,从而不能有效地进一步驱动特征提取器的训练。在这项工作中,我们提出了一个有效的优化策略命名为可重新执行的对抗性领域自适应(RADA),其目的是重新激活的域训练过程中使用动态域标签。特别地,我们在运行中将良好对齐的目标域样本重新标记为源域样本。这样的重新标记使得不太可分离的分布更加可分离,从而导致更强大的域分类器w.r.t.新的数据分布,这反过来又进一步推动了特征对齐。在多个UDA基准测试上的大量实验证明了我们的RADA的有效性和优越性。
2021-08-08 cs.CV
RDA: Robust Domain Adaptation via Fourier Adversarial Attacking
Singtel Cognitive and Artificial Intelligence Lab for Enterprises(Singtel企业认知与人工智能实验室);School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院)
无监督领域自适应(Unsupervised domain adaptation,UDA)是一种在有标记的源域中进行监督损失,在无标记的目标域中进行无监督损失的自适应算法,由于监督源域损失具有明显的域间隙,而无监督目标域损失由于缺乏标注而往往带有噪声,因此UDA算法通常面临比经典监督学习更严重的过拟合问题。本文提出了一种鲁棒的领域自适应技术RDA,该技术引入对抗性攻击来减轻UDA中的过拟合。我们实现了强大的领域自适应通过一种新的傅立叶对抗攻击(FAA)的方法,允许大幅度的扰动噪声,但具有最小的修改图像的语义,前者是至关重要的,其生成的对抗样本的有效性,由于“域间隙”的存在。具体来说,FAA将图像分解为多个频率分量(FC),并通过扰动某些捕获很少语义信息的FC来生成对抗样本。使用FAA生成的样本,训练可以继续“随机游走”并漂移到具有平坦损耗景观的区域,从而导致更鲁棒的领域自适应。在多个领域自适应任务上的大量实验表明,RDA可以以优异的性能与不同的计算机视觉任务一起工作。
2021-08-15 cs.CV
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Farsee2 Tech. Co.(Farsee2科技公司);Baidu Research(百度研究院)
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同,它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的,但更具挑战性,在传统的适应方法很容易失败,由于缺乏未标记的目标数据。为此,我们提出了一种新的对抗性风格挖掘方法,它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言,风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像,引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格,从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
AVATAR: Adversarial self-superVised domain Adaptation network for TARget domain
The State University of New York at Binghamton(纽约州立大学宾汉姆顿分校);Yonsei University(延世大学)
本文提出AVATAR算法,通过域对抗学习、自监督学习和样本选择策略,在深度聚类引导下同时减少域差异并增强判别能力,显著提升复杂无监督域适应任务的性能。
2023-05-08 cs.CV
DAVOS: Semi-Supervised Video Object Segmentation via Adversarial Domain Adaptation
Tongji University(同济大学)
域偏移一直是视频对象分割(VOS)中的主要问题之一,当在不熟悉的数据集上测试时,模型会退化。近年来,出现了许多在线方法,通过对通常不足的测试数据的注释进行微调,来缩小训练数据(源域)和测试数据(目标域)之间的性能差距。在本文中,我们提出了一种新的方法来解决域转移,首先引入对抗性领域自适应的VOS任务,与监督训练的源域和目标域上的无监督训练。通过将外观和运动特征与卷积层融合,并通过在运动分支上添加监督,我们的模型在DAVIS 2016上实现了最先进的性能,在监督训练后平均IoU得分为82.6%。同时,我们的对抗性领域自适应策略在FBMS 59和Youtube-Object上应用时显着提高了训练模型的性能,而无需利用额外的注释。
2021-05-24 cs.CV
Domain-Invariant Adversarial Learning for Unsupervised Domain Adaption
Shanghai Jiao Tong University(上海交通大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
无监督域自适应的目的是在给定标记的源数据集和未标记的目标数据集的情况下,为目标域学习一个功能强大的分类器。为了减轻“域移位”的影响,这是领域自适应中的主要挑战,研究已经尝试对齐两个域的分布。最近的研究表明,生成对抗网络(GAN)具有隐式捕获数据分布的能力。因此,在本文中,我们提出了一个简单但有效的模型,用于利用对抗学习的无监督域自适应。在源域和目标域之间共享相同的编码器,期望在对抗性编码器的帮助下提取域不变表示。对于标记的源数据,我们引入中心损失来增加学习的特征的区分能力。我们进一步对齐两个域的条件分布,以加强对目标域中特征的区分。与以前的研究不同,其中源特征是用固定的预训练编码器提取的,我们的方法联合学习两个域的特征表示。此外,通过共享编码器,该模型在测试过程中不需要知道图像的来源,因此具有更广泛的适用性。我们评估所提出的方法在几个无监督域自适应基准,并实现卓越的或可比的性能,以国家的最先进的结果。
2018-11-30 cs.CV
Adversarial Network with Multiple Classifiers for Open Set Domain Adaptation
Federation University(联邦大学);Murdoch University(莫道克大学)
领域自适应的目的是将知识从具有足够标记样本的领域转移到具有稀缺标记样本的领域。先前的研究已经在文献中引入了各种开集领域自适应设置,以扩展领域自适应方法在现实世界场景中的应用。本文重点研究了开集领域自适应的类型,其中目标域既有私有(“未知类”)标签空间,又有共享(“已知类”)标签空间。然而,源域只有“已知类”标签空间。流行的分布匹配领域自适应方法是不够的,在这样的设置,需要适应从一个较小的源域到一个更大的和不同的目标域与更多的类。为了解决这种特定的开集领域自适应设置,现有研究引入了一种领域对抗模型,该模型使用固定阈值来区分已知和未知的目标样本,并且缺乏处理负转移。我们扩展了他们的对抗模型,提出了一种新的对抗领域自适应模型与多个辅助分类器。所提出的多分类器结构引入了一个加权模块,该模块评估不同的域特征,用于为目标样本分配权重,这些权重更能代表它们是否可能属于已知和未知类,以鼓励对抗训练期间的积极转移,同时减少源域和目标域的共享类之间的域间隙。一个彻底的实验研究表明,我们提出的方法优于现有的领域自适应方法在一些领域自适应数据集。
2020-08-07 cs.CV
Cycle-consistent Conditional Adversarial Transfer Networks
University of Electronic Science and Technology of China(电子科技大学);The University of Queensland(昆士兰大学);Indiana University-Purdue University Indianapolis(印第安纳大学与普渡大学印第安纳波利斯联合分校);Shandong Normal University(山东师范大学)
领域自适应研究的是跨领域知识转移问题,其中标记的源领域和未标记的目标领域具有不同的数据分布。近年来,对抗训练已成功应用于领域自适应,并取得了最新的性能。然而,目前的对抗模型仍然存在一个致命的弱点,这是由对抗训练的均衡挑战提出的。具体地说,尽管大多数现有方法能够混淆域匹配,但它们不能保证源域和目标域足够相似。在本文中,我们提出了一种新的方法命名为{ \it循环一致的条件对抗转移网络}(3CATN)来处理这个问题。我们的方法通过利用对抗训练来处理域对齐。具体来说,我们用学习特征和分类器预测的互协方差来调节对抗网络,以捕获数据分布的多模态结构。然而,由于分类器预测不是确定性信息,因此当预测不准确时,具有预测的强条件是有风险的。因此,我们进一步提出,真正的域不变的功能应该能够从一个域到其他翻译。为此,我们引入了两个特征翻译损失和一个周期一致性损失的条件对抗领域自适应网络。在经典数据集和大规模数据集上进行的大量实验验证了我们的模型能够超越以前的最先进技术,并有显着的改进。
2019-09-17 cs.CV cs.MM