Preserving Semantic Consistency in Unsupervised Domain Adaptation Using Generative Adversarial Networks
Queensland University of Technology(昆士兰科技大学)
无监督领域自适应是在给定源域的标记样本和目标域的未标记样本的情况下,寻求缓解源域和目标域之间的分布差异。生成对抗网络(GANs)通过生成特定于训练领域的图像,在领域自适应方面表现出了显着的改进。然而,大多数现有的基于GAN的无监督领域自适应技术在领域匹配过程中不考虑语义信息,因此当源和目标领域数据在语义上不同时,这些方法降低了性能。在本文中,我们提出了一个端到端的新的语义一致的生成对抗网络(SCGAN)。该网络可以通过在特征级捕获语义信息并从源域和目标域生成用于无监督领域自适应的图像来实现源域到目标域的匹配。我们证明了我们提出的方法的鲁棒性,它超过了国家的最先进的性能,在无监督的领域自适应设置进行数字和对象分类任务的实验。
2021-04-28 cs.AI cs.CV cs.LG
Class Distribution Alignment for Adversarial Domain Adaptation
Nanjing Normal University(南京师范大学);Nanjing University(南京大学);University of Wollongong(伍伦贡大学);University of Sydney(悉尼大学)
现有的大多数无监督领域自适应方法主要集中在对齐源域和目标域之间的样本边缘分布。这种设置没有充分考虑两个域之间的类别分布信息,这可能对域间隙的减小产生不利影响。为了解决这个问题,我们提出了一种称为条件对抗图像翻译(CADIT)的新方法,以显式对齐两个域之间给定样本的类分布。它集成了一个判别性结构保持损失和一个联合对抗性生成损失。前者在整个图像平移过程中有效地防止了不期望的标签翻转,而后者则保持了图像和标签的联合分布对齐。此外,我们的方法加强了目标领域的图像适应前后的分类一致性,以帮助在两个领域的分类器训练。在多个基准数据集上进行了广泛的实验,包括Digits,Faces,Scenes和Bulletin 31,表明与最先进的方法相比,我们的方法在目标领域实现了更好的分类。此外,定性和定量的结果都很好地支持了我们的动机,对齐类分布确实可以提高领域自适应。
2020-04-20 cs.CV
Domain Adaptation in LiDAR Semantic Segmentation by Aligning Class Distributions
Universidad de Zaragoza(萨拉戈萨大学);Bitbrain
LiDAR语义分割提供了关于环境的3D语义信息,这是智能系统在决策过程中的重要线索。深度神经网络在这项任务的大型公共基准上取得了最先进的成果。不幸的是,找到能够很好地泛化或适应其他数据分布不同的领域的模型仍然是一个重大挑战。这项工作解决了LiDAR语义分割模型的无监督领域自适应问题。我们的方法在当前最先进的方法之上结合了新的想法,并产生了新的最先进的结果。我们提出了简单但有效的策略,以减少域转移对齐的数据分布的输入空间。此外,我们提出了一种基于学习的方法,使目标域的语义类的分布与源域保持一致。本消融研究显示了每个部件对最终性能的贡献。我们的策略优于以前的方法领域自适应与比较运行在三个不同的域。
2021-12-03 cs.CV
Aligning Non-Causal Factors for Transformer-Based Source-Free Domain Adaptation
本文提出C-SFTrans框架,通过先对齐非因果因素再对齐任务判别性因果因素的两阶段方法,首次在无源域自适应中利用视觉Transformer实现因果解耦,并在多个基准上取得最优结果。
2023-11-27 cs.CV
AD-Aligning: Emulating Human-like Generalization for Cognitive Domain Adaptation in Deep Learning
Johns Hopkins University(约翰斯·霍普金斯大学);University of Houston(休斯顿大学);Northeastern University(东北大学)
本文提出AD-Aligning方法,结合对抗训练与源-目标域对齐,并利用Coral损失预训练,在多种域偏移场景下超越Deep Coral和ADDA,实现类人认知域适应。
2024-05-21 cs.CV eess.IV
Multi-Stage Raw Video Denoising with Adversarial Loss and Gradient Mask
Texas A&M University(德克萨斯A&M大学)
在本文中,我们提出了一种基于学习的方法,用于对低光照条件下捕获的原始视频进行去噪。我们建议首先使用卷积神经网络(CNN)将相邻帧与当前帧显式对齐。然后,我们使用另一个CNN融合注册的帧,以获得最终的去噪帧。为了避免直接对齐时间上遥远的帧,我们在多个阶段执行对齐和融合两个过程。具体来说,在每个阶段,我们对三个连续的输入帧进行去噪处理,以生成中间去噪帧,然后将其作为输入传递到下一阶段。通过在多个阶段中执行该过程,我们可以有效地利用相邻帧的信息,而不直接对准时间上远离的帧。我们训练我们的多阶段系统使用对抗性损失与条件损失。具体来说,我们的条件下的软梯度掩模,以防止在平滑区域中引入高频伪影。我们表明,我们的系统是能够产生时间上连贯的视频与现实的细节。此外,我们通过大量的实验证明,我们的方法在数值和视觉上都优于最先进的图像和视频去噪方法。
2021-04-16 cs.CV eess.IV
Augmenting and Aligning Snippets for Few-Shot Video Domain Adaptation
Nanyang Technological University(南洋理工大学)
为了使视频模型能够在不同的环境中无缝地跨视频任务传输和应用,引入了视频无监督领域自适应(VUDA)来提高视频模型的鲁棒性和可传输性。然而,目前的VUDA方法依赖于大量的高质量的未标记的目标数据,这在现实世界中可能是不可用的。因此,我们考虑一个更现实的\textit{Few-Shot Video-based Domain Adaptation}(FSVDA)的情况下,我们适应视频模型只有几个目标视频样本。虽然一些方法已经触及图像和FSVDA中的Few-Shot领域自适应(FSDA),但是它们主要依赖于用于目标域扩展的空间增强,其中在实例级统计地执行对准。然而,视频包含更多的知识,在丰富的时间和语义信息,这应该充分考虑时,增加目标域和执行对齐FSVDA。我们提出了一种新的SSA2lign来解决FSVDA在片段级别,其中目标域是通过一个简单的片段级增强扩展,然后通过语义和统计上的片段的注意对齐,其中片段的语义对齐是通过多个角度进行的。实证结果证明了SSA2lign在多个跨域动作识别基准测试中的最新性能。
2023-03-18 cs.CV
Super-Resolution Domain Adaptation Networks for Semantic Segmentation via Pixel and Output Level Aligning
Naval Aeronautical University(海军航空大学);Hebei University of Technology(河北工业大学)
近年来,无监督领域自适应(UDA)在解决语义分割任务中的领域转移问题方面引起了越来越多的关注。虽然以往的UDA方法取得了良好的性能,但它们仍然受到源和目标域之间的分布差距,特别是遥感图像的分辨率差异。针对这一问题,设计了一种新的端到端语义分割网络,即超分辨率领域自适应网络(SRDA-Net)。SRDA-Net可以同时完成超分辨率任务和领域自适应任务,满足了遥感图像语义分割的要求,因为遥感图像通常涉及不同分辨率的图像。SRDA-Net包括三个部分:一个超分辨率和分割(SRS)模型,用于恢复高分辨率图像和预测分割图;一个像素级域分类器(PDC),用于确定像素属于哪个域;通过两个分类器联合优化SRS,该方法不仅可以消除源域和目标域之间的分辨率差异,而且可以提高语义分割任务的性能。在两个不同分辨率的遥感数据集上的实验结果表明,SRDA-Net在精度和视觉质量方面优于一些最先进的方法。代码和型号可在https://github.com/tangzhenjie/SRDA-Net上获得。
2022-05-13 cs.CV
Towards Category and Domain Alignment: Category-Invariant Feature Enhancement for Adversarial Domain Adaptation
Carleton University(卡尔顿大学);University of Ottawa(渥太华大学)
对抗性领域自适应通过对齐两个领域的特征分布,在将知识从源领域转移到目标领域方面取得了令人印象深刻的进展。这些方法的重点是最大限度地减少域分歧,并将适应性(衡量为这两个域上理想联合假设的预期误差)视为一个小常数。然而,这些方法仍然面临两个问题:(1)对抗性域对齐扭曲了原始特征分布,降低了适应性;(2)将特征表示转换为域不变需要牺牲特定域的变化,导致较弱的可区分性。为了缓解这些问题,我们提出了类别不变特征增强(CIFE),一种通用的机制,通过优化适应性来增强对抗性领域自适应。具体而言,CIFE方法引入类别不变特征,以提高域不变特征的可区分性,同时保持可转移性。实验表明,CIFE可以改善代表性的对抗性领域自适应方法,产生国家的最先进的结果在五个基准。
2021-08-14 cs.CV
Aligning What You Separate: Denoised Patch Mixing for Source-Free Domain Adaptation in Medical Image Segmentation
1 Carnegie Mellon University, PA, USA 2 PASSIO Lab, North Carolina A\&T State University, NC, USA 3 Ho Chi Minh University of Science, Vietnam 4 Ho Chi Minh University of Technology, Vietnam 5 Northwestern University, IL, USA
针对医学图像分割无源域自适应中样本难度被忽略、监督噪声大的问题,提出结合难样本选择、蒙特卡洛去噪伪标签优化与斑块混合的渐进对齐框架,在基准数据集上取得了当前最优的分割精度。
2025-10-29 cs.CV
DARE-GRAM : Unsupervised Domain Adaptation Regression by Aligning Inverse Gram Matrices
EPFL(洛桑联邦理工学院);ETH Zurich(苏黎世联邦理工学院)
无监督领域自适应回归(DAR)旨在弥合回归问题中标记源数据集和未标记目标数据集之间的领域差距。最近的工作主要集中在通过最小化源和目标特征之间的差异来学习深度特征编码器。在这项工作中,我们提出了一个不同的视角DAR问题,通过分析封闭形式的普通最小二乘(OLS)解决方案的线性回归在深领域自适应上下文中。而不是对齐原始特征嵌入空间,我们建议对齐特征的逆格拉姆矩阵,这是由其存在于OLS解决方案和格拉姆矩阵捕获特征相关性的能力所激发的。具体而言,我们提出了一种简单而有效的DAR方法,该方法利用伪逆低秩属性来对齐由两个域的伪逆Gram矩阵生成的选定子空间中的尺度和角度。我们评估我们的方法上的三个领域自适应回归基准。实验结果表明,我们的方法达到国家的最先进的性能。我们的代码可在https://github.com/ismailnejjar/DARE-GRAM上获得。
2023-03-23 cs.AI cs.CV
Multi-Adversarial Domain Adaptation
Tsinghua University(清华大学)
深度领域自适应的最新进展表明,对抗学习可以嵌入到深度网络中,以学习可转移的特征,从而减少源域和目标域之间的分布差异。现有的基于单域自适应的领域对抗性自适应方法只对源数据和目标数据的分布进行了调整,而没有利用复杂的多模态结构。在本文中,我们提出了一个多对抗领域自适应(MADA)的方法,它捕获多模结构,使细粒度的对齐不同的数据分布的基础上,多个域鉴别器。自适应可以通过随机梯度下降来实现,其中梯度通过线性时间中的反向传播来计算。经验证据表明,该模型优于国家的最先进的方法在标准的领域自适应数据集。
2018-09-04 cs.CV
Importance Weighted Adversarial Nets for Partial Domain Adaptation
Advanced Multimedia Research Lab, University of Wollongong, Australia(伍伦贡大学高级多媒体研究实验室,澳大利亚伍伦贡大学高级多媒体研究实验室(注:此处“Advanced Multimedia Research Lab”是实验室,属于University of Wollongong的机构,整体按要求提取到大学级别,即University of Wollongong,澳大利亚伍伦贡大学))
提出了一种基于重要性加权对抗网的无监督领域自适应方法,该方法适用于目标领域类别数少于源领域类别数的部分领域自适应。以往的领域自适应方法一般假设标签空间相同,从而减少分布分歧导致可行的知识转移。然而,这样的假设在更现实的场景中不再有效,该场景需要从更大和更多样化的源域适应到具有更少类别的更小目标域。本文扩展了基于对抗性网络的领域自适应,提出了一种新型的基于对抗性网络的部分领域自适应方法,用于识别可能来自离群类的源样本,同时减少域之间共享类的移动。
2018-03-28 cs.CV
Pose-aware Adversarial Domain Adaptation for Personalized Facial Expression Recognition
University of Science and Technology of China(中国科学技术大学)
目前的面部表情识别方法无法同时处理姿势和主题变化。在本文中,我们提出了一种新的无监督对抗领域自适应方法,可以同时减轻这两种变化。特别地,我们的方法由三种学习策略组成:对抗性领域自适应学习、跨对抗性特征学习和重建学习。第一个目标是学习源域中与姿势和表情相关的特征表示,并通过实施对抗性学习使两个特征分布适应目标域的特征分布。通过使用个性化的对抗性领域自适应,该学习策略可以减轻主题变化,并利用来自源领域的信息来帮助目标领域的学习。第二个用于通过推动姿势相关特征表示expression-undistinguished和姿势相关特征表示expression-undistinguished来执行姿势相关特征表示和表情相关特征表示之间的特征解纠缠。最后一个可以通过应用人脸图像重建来进一步增强特征学习,使得学习的表情相关特征表示更具姿态和身份鲁棒性。在四个基准数据集上的实验结果证明了该方法的有效性。
2020-07-12 cs.CV
CDA: Contrastive-adversarial Domain Adaptation
Northeastern University(东北大学);Hitachi Industrial AI Lab(日立工业人工智能实验室)
领域自适应的最新进展表明,深度神经网络上的对抗学习可以学习领域不变特征,以减少源域和目标域之间的移位。虽然这种对抗性方法实现了域级别的对齐,但它们忽略了类(标签)的变化。当类条件数据分布在源域和目标域之间存在显著差异时,它可能会在类边界附近生成模糊的特征,这些特征更有可能被错误分类。在这项工作中,我们提出了一个两阶段模型的领域自适应称为\textbf{C}对抗\textbf{D} omain \textbf{A}适应\textbf{(CDA)}。虽然对抗性组件有助于域级别的对齐,但两阶段对比学习利用类信息来实现跨域的更高的类内紧凑性,从而产生分离良好的决策边界。此外,所提出的对比框架被设计为一个即插即用的模块,可以很容易地嵌入现有的对抗方法的领域自适应。我们在两个广泛使用的领域自适应基准数据集上进行实验,即\textit{Office-31}和\textit{Digits-5},并证明CDA在这两个数据集上都达到了最先进的结果。
2023-01-10 cs.CV
MLAN: Multi-Level Adversarial Network for Domain Adaptive Semantic Segmentation
Nanyang Technological University(南洋理工大学)
领域自适应语义分割的最新进展证明了对抗学习在无监督领域自适应中的有效性。然而,大多数基于对抗学习的方法在全局图像水平上对齐源和目标分布,但忽略了局部图像区域周围的不一致性。本文提出了一种新的多级对抗网络(MLAN),旨在最佳地解决域间不一致性在全局图像级别和局部区域级别。MLAN有两种新颖的设计,即区域级对抗学习(RL-AL)和共正则化对抗学习(CR-AL)。具体来说,RL-AL模型的原型区域上下文关系明确在标记源域的特征空间,并通过对抗学习将它们转移到一个未标记的目标域。CR-AL通过相互正则化最佳地融合区域级AL和图像级AL。此外,我们设计了一个多层次的一致性映射,可以指导领域自适应在输入空间($i.e.$,图像到图像的翻译)和输出空间($i.e.$,自我训练)有效。大量的实验表明,MLAN在多个数据集上的表现优于最先进的方法,并且具有很大的一致性。
2022-06-04 cs.CV
CyCADA: Cycle-Consistent Adversarial Domain Adaptation
BAIR, UC Berkeley(加州大学伯克利分校伯克利人工智能研究院);OpenAI;CS, Boston University(波士顿大学计算机科学系)
领域自适应对于在新的、未知的环境中取得成功至关重要。在特征空间中应用的对抗适应模型发现了域不变表示,但难以可视化,有时无法捕获像素级和低级域偏移。最近的工作表明,结合循环一致性约束的生成对抗网络在域之间映射图像时非常有效,即使不使用对齐的图像对。提出了一种新的区分训练的循环一致性对抗领域自适应模型。CyCADA在像素级和特征级都适应表示,在利用任务丢失的同时加强周期一致性,并且不需要对齐对。我们的模型可以应用于各种视觉识别和预测设置。我们在多个适应任务中展示了新的最先进的结果,包括数字分类和道路场景的语义分割,展示了从合成到现实世界领域的转移。
2017-12-29 cs.CV
On the Robustness of Domain Adaption to Adversarial Attacks
Chongqing University(重庆大学)
最先进的深度神经网络(DNN)已被证明在无监督域自适应(UDA)方面具有出色的性能。然而,最近的工作表明,DNN在受到对抗性样本攻击时表现不佳,这些攻击是通过简单地向原始图像添加小干扰来实现的。虽然已有大量的工作致力于此,但据我们所知,还没有系统的研究无监督领域自适应模型的鲁棒性。因此,我们首次讨论了无监督域自适应对对抗性攻击的鲁棒性。对域自适应中的各种对抗攻击和防御设置进行了基准测试,提出了一种基于伪标签的跨域攻击方法。最重要的是,我们分析了不同的数据集,模型,攻击方法和防御方法的影响。我们的工作直接证明了无监督领域自适应模型的鲁棒性有限,我们希望我们的工作能够促使社会各界更加关注提高模型对攻击的鲁棒性。
2021-08-04 cs.CV
Unsupervised Domain Adaptation for Image Classification via Structure-Conditioned Adversarial Learning
Zhejiang University(浙江大学);Huawei Technologies(华为技术有限公司)
无监督领域自适应(UDA)通常通过对抗学习将知识从标签丰富的源领域转移到未标记的目标领域。原则上,现有的UDA方法主要关注域之间的全局分布对齐,而忽略了固有的局部分布特性。基于这一观察结果,我们提出了一种端到端的结构条件对抗学习方案(SCAL),该方案能够在域分布对齐过程中保持类内紧凑性。通过使用局部结构作为结构感知条件,该方案在结构条件对抗学习管道中实现。上述学习过程通过在局部结构建立和结构条件对抗学习之间交替来迭代执行。实验结果证明了该方案在UDA场景中的有效性。
2021-03-04 cs.CV
AIR-DA: Adversarial Image Reconstruction for Unsupervised Domain Adaptive Object Detection
Southeast University(东南大学);Graz University of Technology(格拉茨技术大学)
无监督域自适应目标检测是一项具有挑战性的视觉任务,其中目标检测器从标签丰富的源域适应到未标记的目标域。最近的进展证明了基于对抗的域对齐的有效性,其中特征提取器和域对齐器之间的对抗训练导致特征空间中的域不变性。然而,由于域的变化,域的歧视,特别是在低级别的功能,是一个容易的任务。这导致了域训练器和特征提取器之间的对抗训练的不平衡。在这项工作中,我们通过引入辅助正则化任务来改善训练平衡,从而实现更好的域对齐。具体来说,我们提出了对抗性图像重建(AIR)作为正则化器,以促进特征提取器的对抗性训练。我们进一步设计了一个多层次的特征对齐模块,以提高自适应性能。我们对几个具有挑战性的域转移数据集的评估表明,在大多数情况下,所提出的方法优于所有以前的方法,无论是一个阶段还是两个阶段。
2023-03-27 cs.CV
GAMA: Geometry-Aware Manifold Alignment via Structured Adversarial Perturbations for Robust Domain Adaptation
针对域适应中源目标域流形差异大、现有方法忽略精确流形对齐与结构化扰动探索的问题,提出几何感知流形对齐框架GAMA,通过切空间探索和流形约束优化实现显式对齐,理论与实验均验证其在多数据集上的性能优势。
2025-05-21 cs.CV
A Domain Agnostic Normalization Layer for Unsupervised Adversarial Domain Adaptation
我们提出了一个规范化层的语义场景分割无监督域自适应。已知归一化层可以提高收敛性和泛化能力,并且是许多最先进的全卷积神经网络的一部分。我们发现,传统的归一化层恶化了当前无监督对抗域自适应(UADA)的性能,UADA是一种提高未标记数据集网络性能的方法,也是我们研究的重点。因此,我们提出了一种新的领域不可知的归一化层,从而释放了归一化层对无监督对抗领域自适应的好处。在我们的评估中,我们从合成的GTA5数据集适应真实的Cityscapes数据集,一个常见的基准实验,并超越了最先进的。由于我们的规范化层在测试时是领域不可知的,我们进一步证明了UADA使用领域不可知的规范化提高了看不见的领域的性能,特别是在Apolloscape和Mapillary上。
2018-09-14 cs.CV
Aligning Network Equivariance with Data Symmetry: A Theoretical Framework and Adaptive Approach for Image Restoration
School of Mathematics and Statistics(数学与统计学学院)
本文提出理论框架和自适应方法,通过量化数据对称性约束优化图像恢复的偏差方差权衡,验证了等价性与数据对称性的内在关系。
2026-05-13 cs.CV
Adversarial Discriminative Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学);Boston University(波士顿大学)
对抗性学习方法是训练强大深度网络的一种很有前途的方法,并且可以在不同领域生成复杂的样本。尽管存在域偏移或数据集偏差,它们也可以提高识别率:最近引入了几种对抗无监督领域自适应的方法,它们减少了训练和测试域分布之间的差异,从而提高了泛化性能。先前的生成方法显示出令人信服的可视化,但在区分性任务上不是最佳的,并且可以限于较小的变化。先前的判别方法可以处理更大的域偏移,但对模型施加了绑定权重,并且没有利用基于GAN的损失。我们首先概述了一个新的广义框架对抗适应,其中包括最近的国家的最先进的方法作为特殊情况下,我们使用这种广义的观点,以更好地与以前的方法。我们提出了一个以前未探索的实例,我们的一般框架,结合了歧视性建模,untied权重共享,和GAN的损失,我们称之为对抗歧视性领域自适应(ADDA)。我们证明了ADDA比竞争领域对抗方法更有效,但也更简单,并通过在标准跨领域数字分类任务和新的更困难的跨模态对象分类任务上超过最先进的无监督自适应结果来证明我们的方法的前景。
2017-02-17 cs.CV
RDA: Robust Domain Adaptation via Fourier Adversarial Attacking
Singtel Cognitive and Artificial Intelligence Lab for Enterprises(Singtel企业认知与人工智能实验室);School of Computer Science and Engineering, Nanyang Technological University(南洋理工大学计算机科学与工程学院)
无监督领域自适应(Unsupervised domain adaptation,UDA)是一种在有标记的源域中进行监督损失,在无标记的目标域中进行无监督损失的自适应算法,由于监督源域损失具有明显的域间隙,而无监督目标域损失由于缺乏标注而往往带有噪声,因此UDA算法通常面临比经典监督学习更严重的过拟合问题。本文提出了一种鲁棒的领域自适应技术RDA,该技术引入对抗性攻击来减轻UDA中的过拟合。我们实现了强大的领域自适应通过一种新的傅立叶对抗攻击(FAA)的方法,允许大幅度的扰动噪声,但具有最小的修改图像的语义,前者是至关重要的,其生成的对抗样本的有效性,由于“域间隙”的存在。具体来说,FAA将图像分解为多个频率分量(FC),并通过扰动某些捕获很少语义信息的FC来生成对抗样本。使用FAA生成的样本,训练可以继续“随机游走”并漂移到具有平坦损耗景观的区域,从而导致更鲁棒的领域自适应。在多个领域自适应任务上的大量实验表明,RDA可以以优异的性能与不同的计算机视觉任务一起工作。
2021-08-15 cs.CV
Virtual Adversarial Training in Feature Space to Improve Unsupervised Video Domain Adaptation
School of Computing Sciences, University of East Anglia(东英吉利大学计算科学学院)
虚拟对抗训练最近在半监督学习和无监督领域自适应方面取得了很大的成功。然而,到目前为止,它已被用于像素空间中的输入样本,而我们建议将其直接应用于特征向量。我们还讨论了熵最小化和决策边界迭代精化训练与教师在领域自适应的不稳定行为,并建议实现类似的行为的替代品。通过将上述技术添加到现有技术的模型TA $^3$ N,我们在多个无监督视频领域自适应任务中保持有竞争力的结果或优于现有技术
2020-08-19 cs.CV
Few-Shot Adversarial Domain Adaptation
这项工作提供了一个框架,解决问题的监督领域自适应与深度模型。其主要思想是利用对抗学习来学习一个嵌入子空间,同时最大化两个域之间的混淆,同时在语义上对齐它们的嵌入。监督设置变得有吸引力,特别是当只有几个目标数据样本,需要标记。在这种少样本学习场景中,由于缺乏数据,语义概率分布的对齐和分离是困难的。我们发现,通过仔细设计一个训练方案,将典型的二进制对抗训练扩展到区分四个不同的类,可以有效地解决监督自适应问题。此外,该方法具有很高的适应速度,即它需要极少量的标记目标训练样本,甚至每个类别一个都可以是有效的。然后,我们广泛地比较这种方法的最先进的领域自适应在两个实验:一个使用数据集的手写数字识别,和一个使用数据集的视觉对象识别。
2017-11-05 cs.CV
Unsupervised Domain Adaptation with Adversarial Residual Transform Networks
Tongji University(同济大学);New Jersey Institute of Technology(新泽西理工学院);Macau University of Science and Technology(澳门科技大学)
领域自适应被广泛应用于缺乏标签的学习问题。最近的研究表明,深度对抗性领域自适应模型可以显著提高性能,包括对称和非对称架构。但前者泛化能力差,后者训练难度大。本文提出了一种新的对抗性领域自适应方法--对抗性残差变换网络(ARTNs),它直接将源特征变换到目标特征空间,提高了泛化能力。该模型利用剩余连接实现特征共享,重构了对抗损失,使模型具有更好的通用性和训练性。此外,一个特殊的正则化项被添加到损失函数,以减轻消失的梯度问题,这使得它的训练过程稳定。基于Amazon评论数据集、digits数据集和Office-31图像数据集的实验表明,本文提出的ARTN方法可以与现有方法相媲美。
2019-09-18 cs.CV
Adversarial Consistent Learning on Partial Domain Adaptation of PlantCLEF 2020 Challenge
Lehigh University(利哈伊大学)
领域自适应是解决领域迁移问题的关键技术之一。部分领域自适应解决了目标类别仅是源类别的子集的情况。在本文中,为了实现跨域植物图像的有效表示,我们首先从预训练模型中提取深度特征,然后在统一的深度架构中开发对抗一致性学习($ACL$),用于部分领域自适应。它包括源域分类损失、对抗学习损失和特征一致性损失。对抗性学习损失可以保持源域和目标域之间的域不变特征。此外,特征一致性损失可以保持两个域之间的细粒度特征过渡。通过对源域中不相关的类别进行降权,找到两个域的共享类别。实验结果表明,从NASNetLarge模型与建议的$ACL$架构的训练功能产生有前途的结果PlantCLEF 2020挑战。
2020-09-19 cs.CV
Adapting Vehicle Detector to Target Domain by Adversarial Prediction Alignment
The University of Tokyo(东京大学)
虽然领域自适应技术的最新进展是显著的,但大多数方法仅对准特征提取器而不使分类器适应目标域,这将是性能下降的原因。我们提出了新的领域自适应技术的目标检测,对齐预测输出空间。除了特征对齐之外,我们还通过对抗训练来对齐车辆检测器对卫星图像的位置和类别置信度的预测。该方法显著提高了AP得分超过5%,这表明我们的方法在卫星图像中的目标检测任务的有效性。
2021-07-06 cs.CV
Adversarial Network with Multiple Classifiers for Open Set Domain Adaptation
Federation University(联邦大学);Murdoch University(莫道克大学)
领域自适应的目的是将知识从具有足够标记样本的领域转移到具有稀缺标记样本的领域。先前的研究已经在文献中引入了各种开集领域自适应设置,以扩展领域自适应方法在现实世界场景中的应用。本文重点研究了开集领域自适应的类型,其中目标域既有私有(“未知类”)标签空间,又有共享(“已知类”)标签空间。然而,源域只有“已知类”标签空间。流行的分布匹配领域自适应方法是不够的,在这样的设置,需要适应从一个较小的源域到一个更大的和不同的目标域与更多的类。为了解决这种特定的开集领域自适应设置,现有研究引入了一种领域对抗模型,该模型使用固定阈值来区分已知和未知的目标样本,并且缺乏处理负转移。我们扩展了他们的对抗模型,提出了一种新的对抗领域自适应模型与多个辅助分类器。所提出的多分类器结构引入了一个加权模块,该模块评估不同的域特征,用于为目标样本分配权重,这些权重更能代表它们是否可能属于已知和未知类,以鼓励对抗训练期间的积极转移,同时减少源域和目标域的共享类之间的域间隙。一个彻底的实验研究表明,我们提出的方法优于现有的领域自适应方法在一些领域自适应数据集。
2020-08-07 cs.CV
Partial Adversarial Domain Adaptation
Tsinghua University(清华大学);National Engineering Laboratory for Big Data Software(大数据系统软件国家工程实验室);Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心)
领域对抗学习在两个玩家的极大极小游戏中对齐源域和目标域的特征分布。现有的领域对抗网络通常假设不同领域的标签空间相同。在大数据存在的情况下,有强烈的动机将深度模型从现有的大领域转移到未知的小领域。本文引入部分领域自适应作为一种新的领域自适应方案,它将完全共享标签空间的假设放宽为源标签空间包含目标标签空间。以前的方法通常将整个源域与目标域进行匹配,由于标签空间之间存在较大的不匹配,因此很容易出现部分领域自适应问题的负迁移。我们提出了部分对抗领域自适应(PADA),它同时通过降低离群源类的数据权重来训练源分类器和域对手来消除负迁移,并通过匹配共享标签空间中的特征分布来促进正迁移。实验表明,PADA超过了国家的最先进的部分领域自适应任务的结果在几个数据集。
2018-08-10 cs.CV
Unsupervised Domain Adaptation for Learning Eye Gaze from a Million Synthetic Images: An Adversarial Approach
IIT Kharagpur(印度理工学院卡拉格普尔分校)
随着图形引擎的当代进步,深度学习社区的最新趋势是在自动注释的模拟示例上训练模型,并在测试期间应用于真实数据。这减轻了手动注释的负担。然而,图形引擎生成的图像与真实世界的图像在分布上存在着固有的差异。这种域差异会降低在合成示例上训练的模型的测试时间性能。在本文中,我们通过跨合成域和实域的无监督对抗特征自适应来解决这个问题,用于眼睛注视估计的特殊用例,这是各种下游HCI任务的重要组成部分。我们首先学习从3D游戏引擎渲染的带注释的合成样本上的凝视估计器,然后通过零和极大极小对抗游戏来适应未注释的真实样本的特征,该对抗游戏遵循最近的生成对抗网络的范例。这种对抗性适应迫使两个域的特征无法区分,这使得我们能够使用在合成域上训练的回归模型来用于真实样本。在具有挑战性的MPIIGaze真实生活数据集上,我们的表现优于最近在手动注释的真实样本上训练的完全监督方法,并且与SimGAN的当前基准方法相比,在适应后还实现了13\%的相对增益
2018-10-18 cs.CV
Aligning What Vision-Language Models See and Perceive with Adaptive Information Flow
KAIST(韩国科学技术院);POSTECH
本文提出通过调节信息流提升视觉-语言模型的感知能力,通过动态令牌方法确定视觉令牌的重要性,从而提高视觉问答、视觉定位等任务的性能。
2026-04-17 cs.CV
Aligning Correlation Information for Domain Adaptation in Action Recognition
Nanyang Technological University(南洋理工大学)
领域自适应(DA)方法解决了域转移,并使网络能够应用于不同的场景。虽然近年来已经提出了各种图像DA的方法,有有限的研究对视频DA。这部分是由于在适应不同形式的视频中的功能,其中包括相关特征提取的长期依赖性的像素跨时空维度的复杂性。相关性特征与动作类高度相关,并通过监督动作识别任务证明了它们在准确的视频特征提取中的有效性。然而,由于域转移,同一动作的相关特征在不同域之间会有所不同。因此,我们提出了一种新的对抗相关自适应网络(ACAN),通过对齐像素相关性来对齐动作视频。ACAN的目标是最小化相关信息的分布,称为像素相关离散(PCD)。此外,视频DA研究也受到缺乏具有较大域偏移的跨域视频数据集的限制。因此,我们引入了一种新的HMDB-ARID数据集,该数据集具有由域之间较大的统计差异引起的较大的域偏移。该数据集是内置的,旨在利用当前数据集进行暗视频分类。实证结果表明,现有的和新的视频DA数据集,我们提出的ACAN的最先进的性能。
2022-12-08 cs.AI cs.CV
Exploiting Diverse Characteristics and Adversarial Ambivalence for Domain Adaptive Segmentation
Alibaba Group(阿里巴巴集团);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
使语义分割模型适应新领域是一个重要但具有挑战性的问题。最近已经取得了启发性的进展,但是现有方法的性能在真实数据集上是不令人满意的,其中新的目标域包括异构子域(例如,不同的天气特征)。我们指出,仔细推理的多模态在目标域可以提高适应模型的鲁棒性。为此,我们提出了一个条件引导的适应框架,该框架由一个特别关注的渐进式对抗训练(APAT)机制和一个新的自我训练策略授权。APAT策略逐步执行特定条件的对齐和关注的全局特征匹配。新的自训练方案有效地利用了易适应区域和难适应区域的对抗性矛盾以及目标子域之间的相关性。我们评估我们的方法(DCAA)在各种适应情况下,目标图像在天气条件下变化。与基线的比较和最先进的方法证明了DCAA优于竞争对手。
2021-01-07 cs.CV
CODA: Counting Objects via Scale-aware Adversarial Density Adaption
Fudan University(复旦大学);Megvii Inc (Face++)(旷视科技(Face++))
随着卷积神经网络设计的日益复杂,人群计数的最新进展已经取得了有希望的结果。然而,由于不可预测的域转移,将训练模型推广到看不见的场景通常是次优的。受不同场景的密度图共享相似局部结构的观察的启发,本文提出了一种新的对抗学习方法,即,尾波(\emph{Counting Objects via scale-aware adversarial Density Adaption})。为了处理不同的对象尺度和密度分布,我们使用来自源域和目标域的多尺度金字塔补丁进行对抗训练。随着金字塔输入的等级约束,可以为不同的尺度产生一致的对象计数。大量的实验表明,与现有的计数自适应模型相比,我们的网络在看不见的数据集上产生了更好的结果。值得注意的是,我们的CODA的性能与在目标数据集上训练的最先进的全监督模型相当。进一步的分析表明,我们的密度自适应框架可以毫不费力地扩展到不同对象的场景。\emph{The code is available at https://github.com/Willy0919/CODA.}
2019-03-25 cs.CV
Aligning Silhouette Topology for Self-Adaptive 3D Human Pose Recovery
Indian Institute of Science(印度科学学院);Google Research(谷歌研究院)
以关节为中心的2D/3D姿态监督形成了大多数现有3D人体姿态估计技术中的核心训练目标。除了合成源环境之外,在部署时为每个真实目标域获取如此丰富的监督是非常不方便的。然而,我们意识到,标准的前景轮廓估计技术(静态摄像机饲料)保持不受域移位。受此启发,我们提出了一种新的目标自适应框架,它只依赖于轮廓监督来适应源训练的基于模型的回归。然而,在没有任何辅助线索(多视图、深度或2D姿态)的情况下,孤立的轮廓损失无法提供可靠的姿态特定梯度,并且需要与拓扑中心损失一起使用。为此,我们开发了一系列卷积友好的空间变换,以解开从原始轮廓的拓扑骨架表示。这样的设计为通过距离场计算设计倒角启发的空间拓扑对齐损失铺平了道路,同时有效地避免了任何梯度阻碍空间到点集映射。实验结果证明了我们在自适应源训练模型以适应不同的未标记目标域方面优于现有技术,例如a)野外数据集,b)低分辨率图像域,以及c)对抗性扰动图像域(通过UAP)。
2022-04-04 cs.AI cs.CV
Semi-Supervised Adversarial Discriminative Domain Adaptation
University of Science, Ho Chi Minh City(胡志明市科学大学);Vietnam National University, Ho Chi Minh City(胡志明市越南国家大学);University of Liverpool(利物浦大学);University of Information Technology(信息技术大学)
领域自适应是训练强大的深度神经网络的一种潜在方法,它可以处理没有标记数据的情况。更准确地说,领域自适应解决了当训练数据集和测试数据集非常不同时被称为数据集偏差或域偏移的限制。对抗性自适应方法在其他领域自适应方法中越来越流行。对抗性领域自适应基于GAN的思想,试图根据对抗对象的不同,使训练数据集和测试数据集之间的分布最小化。然而,一些传统的对抗性领域自适应方法不能处理两个数据集之间的大的域移位,或者这些方法的泛化能力是低效的。本文提出了一种改进的对抗性领域自适应方法--半监督对抗性判别领域自适应(SADDA),它可以克服其他领域自适应方法的局限性。我们还表明,SADDA具有更好的性能比其他对抗性的适应方法,并说明我们的方法在数字分类和情感识别问题的承诺。
2022-10-19 cs.CV cs.LG
Learning from Loss Landscape: Generalizable Mixed-Precision Quantization via Adaptive Sharpness-Aware Gradient Aligning
针对现有混合精度量化方法需在大规模数据集上高成本搜索策略的问题,提出结合锐度感知最小化、隐式梯度对齐与自适应扰动半径的新方法,仅用小数据集搜索策略即可泛化到大规模数据集,大幅降低成本并提升效率。
2025-05-08 cs.AI cs.CV
Aligning Latent and Image Spaces to Connect the Unconnectable
KAUST(阿卜杜拉国王科技大学);Gradient;HSE(高等经济学院);Skoltech(斯科尔科沃科学技术学院)
在这项工作中,我们开发了一种方法来生成无限高分辨率的图像,具有多样性和复杂的内容。它是基于一个完美的等变发电机同步插值的图像和潜在的空间。潜在代码在采样时被定位在坐标网格上,并且每个像素是从附近样式代码的插值计算的。我们修改的AdaIN机制,在这样的设置和训练生成器在对抗设置,以产生图像之间的任何两个潜在的向量。在测试时,这允许生成复杂多样的无限图像,并将任何两个不相关的场景连接到一个任意大的全景中。此外,我们还介绍了LHQ:一个新的\lhqsize高分辨率自然景观数据集。我们在LHQ,LSUN Tower和LSUN Bridge上测试了该方法,并在所产生的无限图像的质量和多样性方面超过基线至少4倍。项目页面位于https://universome.github.io/alis。
2021-04-14 cs.AI cs.CV
A3: Active Adversarial Alignment for Source-Free Domain Adaptation
Oklahoma State University(俄克拉荷马州立大学)
针对无源无监督域适应中伪标签噪声大、分布偏移难处理的问题,提出结合自监督、对抗训练与主动学习的A3框架,通过主动采样、对抗损失与一致性正则化实现无源数据的分布对齐,提升域适应效果。
2024-10-07 cs.AI cs.CV cs.LG
Adaptive Gradient for Adversarial Perturbations Generation
深度神经网络在计算机视觉、自然语言处理和音频任务方面取得了显著的成功。
2019-05-20 cs.CR cs.CV
Adversarial Robustness for Unsupervised Domain Adaptation
Dept. of Computer Science, Kyung-Hee University(庆熙大学计算机科学系);Dept. of Computer Science, The University of Hong Kong(香港大学计算机科学系)
广泛的无监督领域自适应(UDA)研究已经在实践中取得了巨大的成功,通过使用深度模型学习标记源域和未标记目标域的可转移表示。然而,以前的工作集中在提高UDA模型对干净样本的泛化能力,而没有考虑对抗鲁棒性,这在现实世界的应用中是至关重要的。传统的对抗训练方法不适用于UDA的未标记目标域上的对抗鲁棒性,因为它们使用由监督损失函数生成的对抗示例来训练模型。在这项工作中,我们利用多个强大的ImageNet模型学习的中间表示来提高UDA模型的鲁棒性。我们的方法通过将UDA模型的特征与ImageNet预训练模型以及领域自适应训练所学习的鲁棒特征进行对齐来工作。它利用标记和未标记的域,并在领域自适应训练期间注入鲁棒性,而无需任何对抗性干预或标签要求。实验结果表明,与基线相比,我们的方法显着提高了对抗鲁棒性,同时在各种UDA基准上保持了干净的准确性。
2021-09-02 cs.CV cs.LG
Self-adaptive Re-weighted Adversarial Domain Adaptation
Chongqing University(重庆大学)
现有的对抗性领域自适应方法主要考虑边缘分布,这些方法可能导致欠迁移或负迁移。为了解决这个问题,我们提出了一种自适应重加权对抗领域自适应方法,试图从条件分布的角度来增强域对齐。为了促进正迁移和对抗负迁移,我们降低了对齐特征的对抗性损失的权重,同时增加了那些通过条件熵测量的对齐不良特征的对抗性力量。此外,利用源样本和伪标记的目标样本的三重丢失在混淆域上被采用。这种度量损失确保类内样本对的距离比类间样本对更接近,以实现类级对齐。通过这种方式,可以在协同训练过程中同时捕获高精度的伪标记目标样本和语义对齐。我们的方法实现了理想源和目标假设的低联合误差。然后,预期的目标误差可以是遵循本-大卫定理的上限。实验结果表明,该模型在标准领域自适应数据集上的性能优于现有技术。
2020-06-02 cs.CV cs.LG
Fortify the Guardian, Not the Treasure: Resilient Adversarial Detectors
Ben-Gurion University of the Negev(内盖夫本-古里安大学);DeepKeep
本文提出RADAR方法,通过对抗性再训练增强对抗性检测器对自适应攻击的鲁棒性,在CIFAR-10和SVHN上显著提升检测能力且不损失干净准确率。
2024-06-30 cs.AI cs.CV
Adaptive Modeling Against Adversarial Attacks
School of Computing, University of Singapore(新加坡大学计算学院)
对抗性训练,即用对抗性数据训练深度学习模型的过程,是深度学习模型最成功的对抗性防御方法之一。我们已经发现,如果我们微调这个模型的推理阶段,以适应敌对的输入,与额外的信息,对抗训练模型的白盒攻击的鲁棒性可以进一步提高。我们介绍了一种算法,“后训练”的模型在推理阶段之间的原始输出类和“邻居”类,与现有的训练数据。预训练的Fast-FGSM CIFAR 10分类器基础模型对白盒投影梯度攻击(PGD)的准确率可以从46.8%显著提高到64.5%。
2021-12-23 cs.CV cs.LG
Class-Aware Domain Adaptation for Improving Adversarial Robustness
Shenzhen University(深圳大学);IBM(国际商业机器公司);University of Nottingham(诺丁汉大学)
最近的工作已经证明了卷积神经网络容易受到对抗性示例的影响,即,攻击者故意设计的机器学习模型的输入,以使模型出错。为了提高神经网络的对抗鲁棒性,对抗训练已经被提出来通过将对抗样本注入到训练数据中来训练网络。然而,对抗性训练可能过度适应特定类型的对抗攻击,并且还导致干净图像的标准准确度下降。为此,我们提出了一种新的类感知领域自适应(CADA)方法,用于对抗性防御,而不直接应用对抗性训练。具体来说,我们建议通过域搜索来学习对抗性示例和干净图像的域不变特征。此外,我们还将一个类感知组件引入到网络中,以提高网络对对抗性示例的区分能力。我们使用多个基准数据集来评估我们新提出的方法。结果表明,我们的方法可以显着提高最先进的对抗性鲁棒性的各种攻击,并保持高性能的干净的图像。
2020-05-10 cs.CV cs.LG
Discriminative Adversarial Domain Adaptation
South China University of Technology(华南理工大学)
无监督领域自适应的目标是在给定源域上的已标记实例和目标域上的未标记实例的情况下,学习一个能够很好地分类目标实例的任务分类器。最近的进展依赖于深度网络的领域对抗训练来学习领域不变特征。然而,由于任务和领域分类器的单独设计引起的模式坍塌的问题,这些方法在对齐跨领域的特征和类别的联合分布方面受到限制。为了克服这个问题,我们提出了一种新的对抗性学习方法,称为歧视性对抗领域自适应(DADA)。基于集成的类别和域分类器,DADA具有一个新的对抗性目标,该目标鼓励任何输入实例的类别和域预测之间的相互抑制关系。我们表明,在实际条件下,它定义了一个极大极小博弈,可以促进联合分布对齐。除了传统的闭集领域自适应,我们还扩展了DADA的部分和开集领域自适应的极具挑战性的问题设置。实验表明,我们提出的方法的有效性,我们实现了新的国家的最先进的基准数据集上的所有三个设置。
2019-12-17 cs.CV cs.LG
Aligning Domain-specific Distribution and Classifier for Cross-domain Classification from Multiple Sources
University of Chinese Academy of Sciences(中国科学院大学);School of Computer Science, Beihang University(北京航空航天大学计算机学院)
而无监督领域自适应(UDA)算法,即,只有源域的标记数据,近年来得到了积极的研究,大多数算法和理论成果集中在单源无监督领域自适应(SUDA)。然而,在实际场景中,标记数据通常可以从多个不同的源收集,并且它们可能不仅与目标域不同,而且彼此不同。因此,来自多个源的域适配器不应该以相同的方式建模。最近的基于深度学习的多源无监督领域自适应(MUDA)算法专注于通过在公共特征空间中对齐所有源和目标域对的分布来提取所有域的公共域不变表示。然而,在MUDA中,通常很难为所有域提取相同的域不变表示。此外,这些方法匹配分布,而不考虑类之间的域特定的决策边界。为了解决这些问题,本文提出了一种新的MUDA框架,该框架包含两个对齐阶段,不仅可以分别对齐每对源域和目标域在多个特定特征空间中的分布,还可以利用特定领域的决策边界对齐分类器的输出。大量的实验表明,我们的方法可以取得显着的结果对流行的基准数据集的图像分类。
2022-01-04 cs.AI cs.CV cs.LG
Adv-4-Adv: Thwarting Changing Adversarial Perturbations via Adversarial Domain Adaptation
Nanyang Technological University(南洋理工大学)
本文提出 Adv-4-Adv 对抗训练方法,将不同攻击视为不同域并利用对抗域适应学习域不变表示,从而提升模型对未见强攻击的泛化鲁棒性。
2023-12-07 cs.AI cs.CV
PGADA: Perturbation-Guided Adversarial Alignment for Few-shot Learning Under the Support-Query Shift
National Taiwan University(台湾大学);Huizhou University(惠州学院)
少样本学习方法的目标是将数据嵌入到一个低维的嵌入空间中,然后将不可见的查询数据分类到可见的支持集。虽然这些工作假设支持集和查询集位于相同的嵌入空间中,但是支持集和查询集之间通常发生分布偏移,即,在现实世界中的支持-查询转变。虽然最优运输在对齐不同分布方面表现出令人信服的结果,但我们发现图像中的小扰动会显著误导最优运输,从而降低模型性能。为了缓解这种错位,我们首先提出了一种新的对抗性数据增强方法,即扰动引导对抗性对齐(PGADA),它以自监督的方式生成硬示例。此外,我们引入正则化最优运输,得到一个光滑的最优运输计划。在三个基准数据集上进行的大量实验表明,我们的框架在三个数据集上的性能明显优于十一种最先进的方法。
2022-05-08 cs.AI cs.CV
Content-Aware Radiance Fields: Aligning Model Complexity with Scene Intricacy Through Learned Bitwidth Quantization
ShanghaiTech University(上海科技大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
针对辐射场模型逐场景训练的特性,提出基于对抗式内容感知量化的内容感知辐射场方法,通过可训练参数位宽匹配场景复杂度,在Instant-NGP上验证可降计算复杂度且保渲染质量。
2024-10-25 cs.CV eess.IV
Domain Adaptation with Adversarial Training on Penultimate Activations
Stony Brook University(石溪大学);XPeng Motors(小鹏汽车)
增强模型对目标数据的预测置信度是无监督领域自适应(UDA)的一个重要目标。在本文中,我们探讨了倒数第二次激活的对抗性训练,即,最终线性分类层的输入特征。我们表明,这种策略比以前的作品中使用的对输入图像或中间特征的对抗性训练更有效,并且与提高预测置信度的目标更相关。此外,激活归一化通常用于领域自适应,以减少域间隙,我们推导出两个变体,并系统地分析了归一化对我们的对抗训练的影响。这一点在理论上和实际的适应任务的实证分析都得到了说明。在标准设置和源数据自由设置下,对流行的UDA基准进行了广泛的实验。结果验证了我们的方法达到了最好的分数对以前的艺术。代码可在https://github.com/tsun/APA上获得。
2023-02-26 cs.CV cs.LG