One-Shot Domain Adaptation For Face Generation
Facebook AI(Facebook人工智能)
在本文中,我们提出了一个框架,能够生成人脸图像,落入相同的分布,作为一个给定的一杆的例子。我们利用一个预先训练的StyleGAN模型,该模型已经学习了通用的人脸分布。给定一次性目标,我们开发了一种迭代优化方案,该方案快速适应模型的权重,以将输出的高级别分布转移到目标的。为了生成具有相同分布的图像,我们引入了一种风格混合技术,该技术将目标的低级统计数据转移到使用模型随机生成的面部。这样,我们就能够生成无限数量的人脸,这些人脸继承自通用人脸和一次性示例的分布。新生成的面部可以用作其他下游任务的增强训练数据。这样的设置是有吸引力的,因为它需要在目标域中标记非常少或甚至一个示例,这通常是由各种未知和独特的分布引起的真实世界面部操纵的情况,每个分布都具有极低的流行率。我们证明了我们的一次拍摄的方法检测人脸操作的有效性,并将其与其他Few-Shot领域自适应方法定性和定量比较。
2020-03-28 cs.CV
Learning Classifiers for Domain Adaptation, Zero and Few-Shot Recognition Based on Learning Latent Semantic Parts
Boston University(波士顿大学)
在计算机视觉应用中,例如领域自适应(DA)、少样本学习(FSL)和零样本学习(FSL),我们遇到了新的对象和环境,对于这些对象和环境,不存在足够的示例来允许训练“从头开始的模型”,并且需要使在所呈现的训练环境上训练的现有模型适应新场景的方法。我们提出了一种新的视觉属性编码方法,编码每个图像作为一个低维的概率向量组成的原型部分类型的概率。学习的原型是所有训练数据的代表。在测试时,我们利用这种编码作为分类器的输入。在测试时,我们冻结编码器,只学习/调整分类器组件以适应FSL中有限的注释标签;在FSL中添加新的语义属性。我们在基准数据集上进行了广泛的实验。我们的方法优于针对特定上下文(EML,FSL,DA)训练的最先进方法。
2019-08-16 cs.CV
Few-shot One-class Domain Adaptation Based on Frequency for Iris Presentation Attack Detection
Hikvision(海康威视)
虹膜呈现攻击检测(PAD)在保证虹膜识别系统的可靠性和安全性方面取得了显著的成功。大多数现有的方法利用空间域中的判别特征,并在数据集内设置下报告出色的性能。然而,在跨数据集设置下,性能的下降是不可避免的,遭受域转移。考虑到实际应用,少量的真正的样品是很容易获得的。因此,我们定义了一种新的域自适应设置,称为Few-Shot One-class领域自适应(FODA),其中自适应仅依赖于有限数量的目标真实样本。为了解决这个问题,我们提出了一个新的FODA框架的基础上表达能力的频率信息。具体来说,我们的方法通过两个建议的模块集成频率相关的信息。基于频率的注意模块(FAM)将频率信息聚合到空间注意中,并明确强调高频细粒度特征。频率混合模块(FMM)混合某些频率分量以生成大规模目标样式样本,用于与有限的目标真实样本进行适配。在LivDet-Iris 2017数据集上进行的大量实验表明,该方法在跨数据集和数据集内设置下均达到了最先进或具有竞争力的性能。
2022-04-01 cs.CV
Augmenting and Aligning Snippets for Few-Shot Video Domain Adaptation
Nanyang Technological University(南洋理工大学)
为了使视频模型能够在不同的环境中无缝地跨视频任务传输和应用,引入了视频无监督领域自适应(VUDA)来提高视频模型的鲁棒性和可传输性。然而,目前的VUDA方法依赖于大量的高质量的未标记的目标数据,这在现实世界中可能是不可用的。因此,我们考虑一个更现实的\textit{Few-Shot Video-based Domain Adaptation}(FSVDA)的情况下,我们适应视频模型只有几个目标视频样本。虽然一些方法已经触及图像和FSVDA中的Few-Shot领域自适应(FSDA),但是它们主要依赖于用于目标域扩展的空间增强,其中在实例级统计地执行对准。然而,视频包含更多的知识,在丰富的时间和语义信息,这应该充分考虑时,增加目标域和执行对齐FSVDA。我们提出了一种新的SSA2lign来解决FSVDA在片段级别,其中目标域是通过一个简单的片段级增强扩展,然后通过语义和统计上的片段的注意对齐,其中片段的语义对齐是通过多个角度进行的。实证结果证明了SSA2lign在多个跨域动作识别基准测试中的最新性能。
2023-03-18 cs.CV
SelectNAdapt: Support Set Selection for Few-Shot Domain Adaptation
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学);University of Surrey(萨里大学)
本文提出SelectNAdapt算法,通过自监督特征学习、逐类聚类和基于距离的评分函数,从目标域中精心选择支持集样本,以改进少样本领域自适应中随机选择支持集的不足,并在三个图像识别基准上验证了其有效性。
2023-08-09 cs.CV
OSSA: Unsupervised One-Shot Style Adaptation
Delft University of Technology(代尔夫特理工大学);Hensoldt Optronics GmbH(亨索尔特光电有限公司)
本文提出无监督单样本域自适应方法OSSA,仅用一张未标注目标图像生成多样风格并经AdaIN迁移到源域特征,在目标检测多个场景中取得单样本SOTA。
2024-10-01 cs.CV
Adversarial Learning for Zero-shot Domain Adaptation
Guangdong Laboratory of Artificial Intelligence & Digital Economy (SZ)(广东省人工智能与数字经济实验室(深圳))
零激发域自适应(Zero-shot domain adaptation,简称ZIDA)是一类既没有数据样本也没有标签可用于目标域参数学习的领域自适应问题。假设一个给定的域之间的转移是跨任务共享的,我们提出了一种新的方法,通过转移域转移从一个不相关的任务(IRT)的任务的兴趣(ToI)。具体来说,我们首先确定一个IrT,其中双域样本可用,并在此任务中使用耦合的生成对抗网络(CoGAN)捕获域偏移。然后,我们训练一个用于ToI的CoGAN,并限制它携带与用于IRT的CoGAN相同的域转移。此外,我们引入了一对共同训练分类器来规范ToI中CoGAN的训练过程。所提出的方法不仅推导出机器学习模型的不可用的目标域的数据,但也综合数据本身。我们在基准数据集上评估了所提出的方法,并实现了最先进的性能。
2020-09-11 cs.CV
Similarity Min-Max: Zero-Shot Day-Night Domain Adaptation
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);School of EECS, Peking University(北京大学电子工程与计算机科学学院);School of CS, Peking University(北京大学计算机科学学院);Peng Cheng Laboratory(鹏城实验室)
针对零样本昼夜域自适应无需夜间数据的需求,提出相似性最小-最大范式,联合优化图像级变暗增广与模型级特征对齐,显著提升模型泛化性,在多类夜间视觉任务上验证了有效性。
2023-11-05 cs.CV
COSMO: Consensus-Driven Shift Modulation for Source-Free Domain Adaptation
School of Computer Science and Engineering, Sun Yat-sen University(中山大学计算机科学与工程学院)
针对无源域自适应的源衍生证据遗忘问题,提出COSMO方法,通过锚定共享共识的协同适配实现样本级可靠性分配,在四个基准上达到最优性能,平衡了源证据保留与VLM互补证据吸收。
2026-08-06 cs.CV
Zero-Shot Deep Domain Adaptation
Siemens Corporate Technology(西门子企业技术研究院)
领域自适应是将在源领域中学习到的关于任务(例如分类)的知识转移到第二或目标领域的重要工具。目前的方法假设任务相关的目标域数据在训练过程中是可用的。我们演示了如何执行领域自适应时,没有这样的任务相关的目标域数据。为了解决这个问题,我们提出了zero-shot深度领域自适应(ZDDA),它使用任务无关的双域对的特权信息。ZDDA学习一个源域表示,它不仅是为感兴趣的任务量身定制的,而且接近目标域表示。因此,与源域表示联合训练的源域感兴趣任务解决方案(例如,用于分类任务的分类器)可以适用于源表示和目标表示两者。使用MNIST,Fashion-MNIST,NIST,EMNIST和SUN RGB-D数据集,我们证明了ZDDA可以在分类任务中执行领域自适应,而无需访问与任务相关的目标领域训练数据。我们还扩展ZDDA进行传感器融合在SUN RGB-D场景分类任务模拟任务相关的目标域表示与任务相关的源域数据。据我们所知,ZDDA是第一个领域自适应和传感器融合方法,它不需要任务相关的目标域数据。其基本原理并不特定于计算机视觉数据,而是应该可以扩展到其他领域。
2018-07-24 cs.CV
Few-Shot Domain Adaptation with Temporal References and Static Priors for Glacier Calving Front Delineation
Pattern Recognition Lab, Friedrich-Alexander-Universität Erlangen-Nürnberg(模式识别实验室,埃尔朗根-纽伦堡大学);Institut für Geographie, Friedrich-Alexander-Universität Erlangen-Nürnberg(地理研究所,埃尔朗根-纽伦堡大学)
本文提出了一种结合时间参考和静态先验知识的少样本领域适应方法,有效提升了冰川崩解前沿勾勒的精度,实现了对新研究地点的适应性应用。
2026-01-29 cs.CV
Few-Shot Domain Adaptation with Polymorphic Transformers
Institute of High Performance Computing, A*STAR(A*STAR高性能计算研究所);Mila, University of Montreal(蒙特利尔大学Mila研究所);Inception Institute of Artificial Intelligence(Inception人工智能研究所);University of Electronic Science and Technology of China(电子科技大学);Singapore Eye Research Institute(新加坡眼科研究所)
在一组医学图像上训练的深度神经网络(DNN)经常在看不见的测试图像上经历严重的性能下降,这是由于训练图像(源域)和测试图像(目标域)之间的各种域差异,这引起了领域自适应问题。在临床环境中,很难在短时间内收集足够的注释目标域数据。Few-Shot领域自适应,即,在这种情况下,使用少量注释来调整训练的模型是非常实用和有用的。在本文中,我们提出了一种多态Transformer(Polyformer),它可以被纳入任何DNN骨干的Few-Shot领域自适应。具体来说,在将polyformer层插入到在源域上训练的模型中之后,它提取一组原型嵌入,这可以被视为源域特征的“基础”。在目标域上,polyformer层仅通过更新控制图像特征与原型嵌入之间的交互的投影层来进行自适应。所有其他模型权重(BatchNorm参数除外)在自适应期间冻结。因此,过度拟合注释的机会大大减少,并且模型在几个注释图像上训练后可以在目标域上稳健地执行。我们证明了Polyformer在两个医疗分割任务上的有效性(即,视神经盘/视杯分割和息肉分割)。Polyformer的源代码发布于www.example.com。
2021-07-10 cs.CV
Generalized Zero-Shot Domain Adaptation via Coupled Conditional Variational Autoencoders
Durham University(杜伦大学)
领域自适应方法旨在利用来自源域的有用信息来解决目标域中的学习问题,在源域中更容易获得监督学习示例,在目标域中不存在或存在有限的此类示例的可用性。在分类问题中,领域自适应已经在不同的监督、无监督和半监督条件下被研究。然而,一个常见的情况下,标记的样本可用于目标域类的子集已被忽视。在本文中,我们制定了这个特殊的领域自适应问题在一个广义的零样本学习框架内,通过处理标记的源域样本的语义表示零样本学习。对于该特定问题,传统的领域自适应方法和零样本学习算法都不直接应用。为了解决这个广义的zero-shot领域自适应问题,我们提出了一种新的耦合条件变分自编码器(CCVAE),它可以生成合成的目标域功能,从他们的源域对应的看不见的类。在三个领域自适应数据集上进行了广泛的实验,其中包括一个定制的X射线安全检查点数据集,以模拟航空安全中的实际应用。结果表明,我们提出的方法的有效性,既对既定的基准和现实世界的适用性。
2020-08-03 cs.CV cs.LG stat.ML
StyleDomain: Efficient and Lightweight Parameterizations of StyleGAN for One-shot and Few-shot Domain Adaptation
HSE University(高等经济大学);AIRI(人工智能研究所);Lomonosov Moscow State University(罗蒙诺索夫莫斯科国立大学)
本文系统分析了StyleGAN的域适应问题,提出了高效轻量的参数化方法,包括用于相似域的StyleDomain方向和用于不相似域的Affine+及AffineLight+,在减少训练参数的同时优于现有基线,并发现了StyleDomain方向在域混合和跨域图像变形中的新特性。
2023-09-12 cs.CV cs.LG
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Farsee2 Tech. Co.(Farsee2科技公司);Baidu Research(百度研究院)
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同,它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的,但更具挑战性,在传统的适应方法很容易失败,由于缺乏未标记的目标数据。为此,我们提出了一种新的对抗性风格挖掘方法,它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言,风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像,引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格,从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
Exploring selective image matching methods for zero-shot and few-sample unsupervised domain adaptation of urban canopy prediction
The Alan Turing Institute(阿兰·图灵研究所);University College London(伦敦大学学院)
本研究针对城市冠层预测的跨地理域适配问题,提出基于选择性图像对齐的无监督域自适应方法,在零样本和少样本微调场景下均优于基线与主流图像转换模型。
2024-04-16 cs.CV stat.AP
PØDA: Prompt-driven Zero-shot Domain Adaptation
Inria(法国国家信息与自动化研究所)
本文提出 PØDA,仅凭目标域文本提示,借助 CLIP 和 PIN 调整源特征以实现零样本域适应,并在分割、检测和分类任务上取得显著提升。
2023-08-19 cs.CV cs.LG
Cluster-to-adapt: Few Shot Domain Adaptation for Semantic Segmentation across Disjoint Labels
University of California San Diego(加州大学圣地亚哥分校)
跨由相同类别组成的数据集的语义分割的领域自适应最近已经取得了一些成功。然而,更一般的情况是源数据集和目标数据集对应于不重叠的标签空间。例如,分割数据集中的类别根据环境或应用程序的类型而变化很大,但共享许多有价值的语义关系。现有的方法的基础上的特征对齐或差异最小化不考虑这种类别的转变。在这项工作中,我们提出了一种基于聚类的计算高效的方法,用于在具有完全不同但可能相关的类别的分割数据集上进行领域自适应。我们表明,这样的聚类目标在变换后的特征空间中强制执行,用于自动选择跨源和目标域的类别,这些类别可以对齐以提高目标性能,同时防止不相关类别的负转移。我们证明了我们的方法的有效性,通过实验上的挑战性问题的室外到室内的适应语义分割在Few-Shot以及zero-shot设置,与现有的方法和基线在所有情况下的性能的一致改进。
2022-08-04 cs.CV cs.LG
Single-Shot Domain Adaptation via Target-Aware Generative Augmentation
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
由于深度神经网络中的脆弱泛化,使用来自任何感兴趣目标域的数据来适应源域的模型的问题已经变得突出。虽然已经出现了几种测试时自适应技术,但在目标数据可用性有限的情况下,它们通常依赖于合成数据增强。在本文中,我们考虑了单次自适应的挑战性设置,并探索了增强策略的设计。我们认为,现有的方法所利用的增强是不足以处理大的分布偏移,因此提出了一种新的方法SiSTA(单次目标增强),首先微调生成模型从源域使用单次目标,然后采用新的采样策略策展合成目标数据。使用国家的最先进的领域自适应方法的实验,我们发现,SiSTA产生高达20\%的改进超过现有的基线下,具有挑战性的变化,在面部属性检测,它执行竞争力的Oracle模型通过训练获得一个更大的目标数据集。
2022-10-29 cs.CV cs.LG stat.ML
Unifying Unsupervised Domain Adaptation and Zero-Shot Visual Recognition
Durham University(杜伦大学);Xi’an Jiaotong University(西安交通大学)
无监督领域自适应的目的是将知识从源领域转移到目标领域,使得目标领域的数据可以在没有任何明确的标记信息的情况下被识别。问题设置的一个限制是,尽管没有标签,但在训练期间需要来自目标域的测试数据,这阻止了训练模型被直接应用于对看不见的测试实例进行分类。我们制定了一个新的跨域分类问题,该问题源于现实世界的场景,其中标记数据可用于目标域中的类子集(已知类),并且我们期望在模型学习后识别属于任何类(已知和未知类)的新样本。这是一个广义的零样本学习问题,其中边信息以标记样本的形式来自源域,而不是传统零样本学习中常用的类级语义表示。我们提出了一个统一的领域自适应框架无监督和零样本学习条件。我们的方法从源和目标域学习一个联合子空间,使两个数据在子空间中的投影可以是域不变的,很容易分离。我们使用有监督的局部保持投影(SLPP)作为使能技术,并在无监督和零样本学习条件下进行实验,在三个领域自适应基准数据集上实现了最先进的结果:加州理工学院,加州理工学院31和加州理工学院。
2019-08-26 cs.CV cs.LG
EntroAD: Structural Entropy-Guided Prompt Adaptation for Zero-Shot Anomaly Detection
Beihang University(北京航空航天大学)
提出EntroAD框架,利用结构熵引导动态路由机制和置信度感知双分支提示自适应,实现零样本异常检测,在跨数据集设置中达到最优性能。
2026-05-27 cs.CV cs.MM
Curriculum Learning for Few-Shot Domain Adaptation in CT-based Airway Tree Segmentation
针对CT气道分割的跨队列泛化问题,提出将课程学习集成到分割网络,按复杂度分批训练,在少样本域自适应中于ATM22和AIIB23队列取得高性能,并指出不当评分或排序的潜在风险。
2024-11-08 cs.CV cs.LG
Few-shot Unsupervised Domain Adaptation with Image-to-class Sparse Similarity Encoding
Nanjing Normal University(南京师范大学);University of Wollongong(伍伦贡大学);University of Sydney(悉尼大学)
本文研究了一种有价值的设置称为Few-Shot无监督领域自适应(FS-UDA),这还没有得到充分的研究文献。在此设置中,源域数据被标记,但每个类别具有Few-Shot,而目标域数据未被标记。为了解决FS-UDA设置,我们开发了一个通用的UDA模型来解决以下两个关键问题:每个类别的Few-Shot标记数据和支持集和查询集之间的领域自适应。我们的模型是通用的,一旦训练好,它将能够应用于来自相同源和目标域的各种FS-UDA任务。受最近基于局部描述符的少样本学习(FSL)的启发,我们的通用UDA模型完全建立在用于图像分类和领域自适应的局部描述符(LD)上。通过提出一个新的概念,称为相似模式(SP),我们的模型不仅有效地考虑了空间关系的LD被忽略在以前的FSL方法,但也使学习的图像相似性更好地服务于所需的域对齐。具体来说,我们提出了一种新的图像类稀疏相似性编码(IMSE)方法。该算法通过学习SP提取局部判别信息进行分类,同时对齐SP的协方差矩阵进行领域自适应。此外,域对抗训练和多尺度局部特征匹配上LD执行。在多域基准数据集DomainNet上进行的大量实验表明,我们的IMSE在FS-UDA的新设置下具有最先进的性能。此外,对于FSL,我们的IMSE也可以在miniImageNet上显示出比大多数最近的FSL方法更好的性能。
2021-08-06 cs.CV cs.MM
Few-Shot Adaptation of Pre-Trained Networks for Domain Shift
Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究所);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Centre for Frontier AI Research, A*STAR(新加坡科技研究局前沿人工智能研究中心)
当源(训练)数据和目标(测试)数据之间存在域转移时,深度网络容易出现性能下降。最近的测试时自适应方法使用流数据更新部署在新目标环境中的预训练源模型的批量归一化层,以减轻这种性能下降。虽然这些方法可以在不首先收集大型目标域数据集的情况下进行动态调整,但它们的性能取决于流条件,例如小批量大小和类分布,这在实践中可能是不可预测的。在这项工作中,我们提出了一个框架Few-Shot领域自适应,以解决实际的挑战,数据高效的适应。具体来说,我们提出了一个约束优化的特征归一化统计在预训练的源模型由一个小的支持集从目标域的监督。我们的方法很容易实现,并提高了源模型的性能,每个类只有一个样本的分类任务。在5个跨域分类和4个语义分割数据集上的实验表明,该方法比测试时自适应方法具有更高的准确性和可靠性,同时不受流媒体条件的限制。
2022-10-22 cs.CV cs.LG
A Generative Framework for Zero-Shot Learning with Adversarial Domain Adaptation
IIT Kanpur(印度理工学院坎普尔分校);Microsoft Research, India(微软研究院印度分院);University of Toronto(多伦多大学)
提出了一种基于领域自适应的零样本学习生成框架。我们的框架解决了零样本学习中可见和不可见类分布之间的域转移问题,并通过开发一个通过对抗性领域自适应训练的生成模型来最大限度地减少这种转移。我们的方法是基于端到端学习的类分布的可见类和不可见类。为了使模型能够学习看不见的类的类分布,我们根据类属性信息(对可见和不可见的类都可用)来参数化这些类分布。这提供了一种非常简单的方法来学习任何看不见的类的类分布,只给出其类属性信息,而没有标记的训练数据。用对抗性领域自适应训练该模型进一步提供了针对来自可见类和不可见类的数据之间的分布失配的鲁棒性。我们的方法也提供了一种新的方法来训练基于神经网络的分类器,以克服在零样本学习的hubness问题。通过一组全面的实验,我们证明了我们的模型在各种基准数据集上与各种最先进的零样本学习模型相比具有更高的精度。实验代码可在github.com/vkkhare/ZSL-ADA上获得
2020-02-22 cs.CV cs.LG stat.ML
SIDA: Synthetic Image Driven Zero-shot Domain Adaptation
Hanyang University(汉阳大学)
提出SIDA方法,利用合成图像生成目标域风格特征,通过域混合和补丁风格转移模块实现高效零样本域适应,在多个场景中达到最优性能。
2026-06-29 cs.AI cs.CV cs.LG
Weight Averaging for Out-of-Distribution Generalization and Few-Shot Domain Adaptation
LIONS lab(LIONS实验室)
本研究针对分布外泛化与少样本域自适应问题,通过引入梯度相似度正则项提升权重平均的模型多样性,并结合锐度感知最小化,在多个数据集上验证了性能提升效果。
2025-01-14 cs.CV cs.LG
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功,但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下,泛化能力较差。在Few-Shot模式下,在大的源数据集上进行预训练并对目标样本进行微调,很容易出现过拟合,因为只有少量的目标样本可用。出于这一动机,我们提出了一种自监督对比学习的域自适应方法,称为Few-Max,以解决适应少样本学习下的目标分布的问题。为了量化表示质量,我们在一系列源和目标数据集上评估了Few-Max,包括ImageNet,VisDA和fastMRI,Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation
National University of Singapore(新加坡国立大学)
无监督领域自适应(UDA)旨在利用从标记源数据集学习的知识来解决新的未标记领域中的类似任务。以前的UDA方法通常需要在学习适应模型时访问源数据,这使得它们对于分散的私有数据来说是有风险和低效的。这项工作解决了一个实际的设置,只有一个训练有素的源模型是可用的,并探讨我们如何可以有效地利用这样一个模型没有源数据来解决UDA问题。我们提出了一个简单而通用的表示学习框架,命名为\emph{Source HypOthesis Transfer}(SHOT)。SHOT冻结源模型的分类器模块(假设),并通过利用信息最大化和自监督伪标记来学习目标特定的特征提取模块,以隐式地将来自目标域的表示与源假设对齐。为了验证它的通用性,我们评估SHOT在各种适应情况下,包括闭集,部分集,和开集领域自适应。实验结果表明,SHOT在多个领域自适应基准测试中获得了最佳的结果。
2021-06-01 cs.CV cs.LG
Multi-source Few-shot Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);National University of Singapore(新加坡国立大学);Nanjing University(南京大学)
多源领域自适应(MDA)的目的是将预测模型从多个完全标记的源域转移到未标记的目标域。然而,在许多应用中,相关的标记源数据集可能不可用,并且收集源标签可能与标记目标数据本身一样昂贵。在本文中,我们研究多源Few-Shot领域自适应(MFDA):一个新的领域自适应的情况下,有限的多源标签和未标记的目标数据。正如我们所示,现有的方法往往无法学习的歧视性功能的源和目标域中的MFDA设置。因此,我们提出了一个新的框架,称为多源Few-Shot适应网络(MSFAN),它可以以非对抗的方式进行端到端的训练。MSFAN首先使用一种典型的、多域的、自监督学习来学习不仅是域不变的而且是类区分的特征。其次,MSFAN使用一个小的,标记的支持集,以加强跨域的功能一致性和域不变性。最后,利用来自多个来源的原型来学习更好的分类器。与最先进的MDA方法相比,MSFAN在MFDA上的不同域对上的平均分类准确率分别提高了20.2%,9.4%和16.2%。
2021-09-25 cs.AI cs.CV cs.LG
Zero-Shot Domain Adaptation via Kernel Regression on the Grassmannian
Queen Mary, University of London(伦敦玛丽女王大学)
大多数视觉识别方法隐含地假设数据分布从训练到测试保持不变。然而,在实践中,域转移经常存在,其中诸如照明和传感器类型的真实世界因素在训练和测试之间改变,并且分类器不能从源域概括到目标域。针对所有可能的情况训练单独的模型是不切实际的,因为收集和标记数据是昂贵的。领域自适应算法旨在改善域偏移,允许在源上训练的模型在不同的目标域上表现良好。然而,即使对于无监督领域自适应的设置,其中目标域未被标记,收集每个可能的目标域的数据仍然是昂贵的。本文提出了一种新的领域自适应方法,当目标域可以用一个参数化向量来描述且同一参数空间内存在多个相关的源域时,该方法不需要访问目标域的数据或标签。它大大减少了数据汇集和注释的负担,我们的实验表明,一些有前途的结果。
2015-07-29 cs.CV cs.LG
Prmpt2Adpt: Prompt-Based Zero-Shot Domain Adaptation for Resource-Constrained Environments
Clean and Resilient Energy System Lab (CARES), Texas A&M University(清洁而坚韧能源系统实验室(CARES),德克萨斯A&M大学);Robotics Research Center, United States Military Academy(机器人研究中心,美国军事学院)
针对资源受限环境,提出基于提示的零样本域适应框架Prmpt2Adpt,利用蒸馏CLIP和提示驱动实例归一化实现快速适应,性能相当且速度提升显著。
2025-06-20 cs.CV cs.LG
One-Shot Federated Unsupervised Domain Adaptation with Scaled Entropy Attention and Multi-Source Smoothed Pseudo Labeling
University of Windsor(温莎大学)
针对联邦域适应中的数据隐私、域偏移和多轮通信开销问题,提出单轮FUDA方法,通过SEA聚合可靠模型并结合MSPL与SSCE生成、净化伪标签,在四个基准上以更低成本超越现有方法。
2025-03-13 cs.CV cs.LG
Continual Few-shot Adaptation for Synthetic Fingerprint Detection
本文提出连续少样本适应方法用于合成指纹检测,通过结合二元交叉熵和监督对比损失,结合样本重放以缓解灾难性遗忘,实现快速适应新合成风格同时避免遗忘已知风格。
2026-03-15 cs.CV cs.IT math.IT
Exploring Few-Shot Adaptation for Activity Recognition on Diverse Domains
Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);Hunan University(湖南大学);Mercedes-Benz Tech Innovation(梅赛德斯-奔驰技术创新公司);University of Stuttgart(斯图加特大学)
本文研究活动识别的少样本领域自适应,提出包含五个数据集的新基准,并设计了利用少量标注样本作知识引导的 RelaMiX 方法,在所有数据集上达到最优性能。
2024-04-27 cs.AI cs.CV cs.RO
Few-Shot Adaptation Benchmark for Remote Sensing Vision-Language Models
UCLouvain(乌尔特-洛文大学);UMons(蒙斯大学);Fonds de la Recherche Scientifique(科学基金组织)
提出首个遥感视觉语言模型少样本适应基准,通过十个数据集和五种策略评估三个模型,发现零样本性能相似的模型在少样本适应下表现差异显著,需开发更鲁棒的方法。
2025-10-08 cs.CV
DynaGAN: Dynamic Few-shot Adaptation of GANs to Multiple Domains
POSTECH(浦项科技大学);Pebblous
对多个域的Few-Shot领域自适应旨在从少量训练图像学习跨多个域的复杂图像分布。这里一个简单的解决方案是使用Few-Shot领域自适应方法为每个域训练一个单独的模型。不幸的是,这种方法要求线性缩放的计算资源在内存和计算时间,更重要的是,这种单独的模型不能利用目标域之间的共享知识。在本文中,我们提出了DynaGAN,一种新的Few-Shot域自适应多目标域的方法。DynaGAN有一个自适应模块,它是一个超网络,可以将预训练的GAN模型动态地适应多个目标域。因此,我们可以充分利用跨目标域的共享知识,并避免线性缩放的计算要求。由于适应大尺寸GAN模型在计算上仍然具有挑战性,因此我们使用秩1张量分解来设计我们的适应模块轻量化。最后,我们提出了一种适用于多域Few-Shot自适应的对比度自适应损失。我们通过大量的定性和定量评估来验证我们的方法的有效性。
2022-11-26 cs.CV
Unsupervised Embedding Adaptation via Early-Stage Feature Reconstruction for Few-Shot Classification
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
我们提出了无监督嵌入适应下游的Few-Shot分类任务。基于深度神经网络在记忆之前学习概括的发现,我们开发了早期特征重建(ESFR)-一种新的适应方案,具有特征重建和维度驱动的早期停止,可以找到可概括的特征。对ESFR进行验证可以持续提高基线方法在所有标准设置上的性能,包括最近提出的转导方法。ESFR与transductive方法结合使用,进一步实现了mini-ImageNet,tiered-ImageNet和CUB的最新性能;特别是在1-shot设置上,与之前的最佳性能方法相比,准确率提高了1.2%~2.0%。
2021-06-22 cs.CV
Few-Shot Adaptation of Generative Adversarial Networks
Virginia Tech(弗吉尼亚理工大学);Google Research(谷歌研究院)
生成对抗网络(GANs)在图像合成任务中表现出了卓越的性能,但通常需要大量的训练样本才能实现高质量的合成。本文提出了一种简单有效的方法,Few-Shot GAN(FSGAN),用于在Few-Shot设置(少于100张图像)中调整GANs。FSGAN重新利用了分量分析技术,并学习适应预训练权重的奇异值,同时冻结相应的奇异向量。这为适应提供了一个高度表达的参数空间,同时限制了对预训练权重的更改。我们验证我们的方法在一个具有挑战性的Few-Shot设置5-100图像的目标域。我们表明,我们的方法具有显着的视觉质量增益相比,现有的GAN适应方法。我们报告的定性和定量结果表明,我们的方法的有效性。我们还强调了一个问题,Few-Shot合成的数据高效的图像合成工作所使用的标准定量度量。代码和其他结果可在http://e-271.github.io/few-shot-gan上获得。
2020-10-22 cs.CV
Semi-Supervised Few-Shot Adaptation of Vision-Language Models
Computer Vision Lab, ETH Zurich, Zurich, Switzerland(苏黎世联邦理工学院计算机视觉实验室)
本文提出一种半监督方法,通过传播文本引导的伪标签来提升视觉-语言模型在极低样本情况下的适应性能,减少标注工作量超过50%。
2026-03-03 cs.CV
Smoothness Similarity Regularization for Few-Shot GAN Adaptation
Bosch Center for Artificial Intelligence(博世人工智能中心);University of Bonn(波恩大学);Lamarr Institute for Machine Learning and Artificial Intelligence(拉马尔机器学习与人工智能研究所)
针对源域与目标域结构差异大时少样本GAN适配易不稳定或过拟合记忆的问题,提出平滑相似性正则化以迁移预训练GAN的平滑性,并在无条件和类条件GAN上验证其显著优势。
2023-08-18 cs.CV
Generalized Adaptation for Few-Shot Learning
许多少样本学习的研究工作分为两个阶段:预训练基础模型和适应新模型。在本文中,我们提出了使用封闭形式的基础学习器,它限制了适应阶段与预训练的基础模型,以获得更好的广义新模型。通过理论分析证明了该方法的合理性,并对如何训练一个通用性好的基本模型提供了指导。然后,我们在四个基准上进行实验,并在所有情况下实现最先进的性能。值得注意的是,我们在5次miniImageNet上实现了87.75%的准确率,比现有方法高出约10%。
2020-06-02 cs.CV
AutoAdapt: Reliable Few-Shot Adaptation under Clinical Distribution Shifts
本研究针对临床分布偏移下的小样本适应问题,提出AutoAdapt框架,通过Adapter与Automator设计及可靠性规则实现高效适配,在多类临床数据集上仅用少量患者即可达到最先进性能。
2026-10-09 cs.CV
Low-Rank Few-Shot Adaptation of Vision-Language Models
UCLouvain(天主教鲁汶大学);UMons(蒙斯大学);ÉTS Montréal(蒙特利尔工程学院)
本文提出CLIP-LoRA,一种基于低秩适应的视觉语言模型少样本学习方法,在11个数据集上表现优于现有提示和适配器方法,同时简化训练流程并保持超参数一致性,为该领域提供了强基线。
2024-06-01 cs.CV
A Low-Shot Object Counting Network With Iterative Prototype Adaptation
Faculty of Computer and Information Science, University of Ljubljana(卢布尔雅那大学计算机与信息科学学院)
本文提出 LOCA 低样本计数网络,通过迭代融合样本形状、外观与图像特征的原型适应模块,提升少样本、单样本及零样本目标计数精度与泛化性。
2023-09-28 cs.CV
Few-shot adaptation for morphology-independent cell instance segmentation
West Virginia University(西弗吉尼亚大学)
本文提出一种少样本域自适应方法,仅需标注新数据中1到5个细胞即可快速调整分割模型,在形态多变且困难的细菌数据集上显著提升细胞实例分割准确率。
2024-02-27 cs.CV
Few-Shot Model Adaptation for Customized Facial Landmark Detection, Segmentation, Stylization and Shadow Removal
EPFL(洛桑联邦理工学院);HKUST(香港科技大学);Kuaishou Technology(快手科技)
尽管已经取得了出色的进展,但基于深度学习的算法的性能仍然严重依赖于特定的数据集,由于劳动密集型标签,这些数据集难以扩展。此外,由于新应用的发展,数据注释的初始定义可能并不总是满足新功能的要求。因此,对定制数据注释的需求一直很大。为了解决上述问题,我们提出了Few-Shot模型自适应(FSMA)框架,并展示了其在人脸上的几个重要任务上的潜力。FSMA首先通过使用大规模未标记数据训练对抗性自动编码器来获得鲁棒的面部图像嵌入。然后,该模型配备了特征自适应和融合层,并适应目标任务有效地使用最少量的注释图像。FSMA框架在广泛的面部图像应用中的多功能性是突出的。FSMA实现了最先进的Few-Shot特征点检测性能,并首次为Few-Shot人脸分割、风格化和人脸阴影去除任务提供了令人满意的解决方案。
2021-04-19 cs.CV
One2Avatar: Generative Implicit Head Avatar For Few-shot User Adaptation
Google(谷歌公司);University of Minnesota(明尼苏达大学)
本文提出One2Avatar,一种基于3DMM锚定神经辐射场骨干网络的生成式隐式头部虚拟人方法,通过联合优化3DMM拟合与相机标定,仅用单张或少量图像即可实现高效且高质量的个性化少样本用户适应。
2024-02-19 cs.CV
Meta Navigator: Search for a Good Adaptation Policy for Few-shot Learning
Nanyang Technological University(南洋理工大学);ByteDance(字节跳动);Monash University(蒙纳士大学)
少样本学习的目标是使从先前任务中学习到的知识适应新的任务,只有有限数量的标记数据。关于少样本学习的研究文献呈现出很大的多样性,而不同的算法通常在不同的少样本学习场景中表现出色。因此,决定在不同的任务条件下使用哪种学习策略是很棘手的。受最近自动机器学习文献(AutoML)的成功启发,本文提出了Meta Navigator,一个试图通过寻求更高级别的策略来解决上述少样本学习限制的框架,并提供从各种少样本学习设计中自动选择。我们的工作的目标是寻找良好的参数自适应政策,适用于不同阶段的网络Few-Shot分类。我们提出了一个搜索空间,涵盖了许多流行的少样本学习算法在文献中,并开发了可微搜索和解码算法的基础上元学习,支持基于梯度的优化。我们证明了我们的基于搜索的方法在多个基准数据集上的有效性。大量的实验表明,我们的方法显着优于基线,并证明了许多国家的最先进的方法的性能优势。代码和模型将公开发布。
2021-09-13 cs.CV
Complementary Subspace Low-Rank Adaptation of Vision-Language Models for Few-Shot Classification
School of EECE, University of Chinese Academy of Science(中国科学院大学电子电气与通信工程学院);Dolby Lab. Inc.(杜比实验室公司)
提出Comp-LoRA方法,通过在互补子空间优化低秩矩阵缓解灾难性遗忘,在少样本分类中提升了准确率并保留了VLM零样本性能。
2025-01-25 cs.CV
EFSA: Episodic Few-Shot Adaptation for Text-to-Image Retrieval
MBZUAI(马尔堡人工智能研究所)
针对开放域文本到图像检索中困难负样本挑战,提出情景式少样本自适应(EFSA)测试时框架,通过微调top-k候选及合成标题动态适应查询领域,在八个领域及百万级图像池上提升性能并保持泛化。
2025-10-09 cs.CV
Cross-Domain Few-Shot Segmentation via Multi-view Progressive Adaptation
Interdisciplinary Graduate Programme, Nanyang Technological University(南洋理工大学交叉学科研究生项目);Nanyang Technological University(南洋理工大学);Xi’an Jiaotong University(西安交通大学);VinUniversity(文大学);SMBU
提出多视角渐进适应方法,通过混合渐进增强和双链多视角预测,从数据和策略两方面逐步将小样本能力适应到目标域,显著提升跨域小样本分割性能。
2026-05-31 cs.CV
Few-shot Adaptation of Medical Vision-Language Models
ÉTS Montreal(蒙特利尔工程学院);Centre de Recherche du Centre Hospitalier de l’Université de Montréal (CRCHUM)(蒙特利尔大学中心医院研究中心)
本文构建严格少样本医学VLM适配基准,比较多种策略,并证明融合视觉原型与文本嵌入的线性探针兼具竞争力、速度与黑盒可用性。
2024-09-05 cs.CV
Few-Shot Adaptation for Multimedia Semantic Indexing
Tokyo Institute of Technology(东京工业大学)
我们提出了一个Few-Shot自适应框架,它桥接了零样本学习和有监督的多样本学习,用于图像和视频数据的语义索引。Few-Shot自适应算法通过同时优化零样本学习和监督多样本学习的参数,以较少的训练样本提供鲁棒的参数估计。该方法首先构造一个zero-shot检测器,然后利用少量的例子对检测器进行更新。我们的实验表明了所提出的框架在三个数据集上的有效性:TRECVID语义索引2010,2014和ImageNet。在ImageNET数据集上,我们证明了我们的方法优于最近的少样本学习方法。在TRECVID 2014数据集上,我们在zero-shot条件和监督条件下分别获得了15.19%和35.98%的平均精度。据我们所知,这些是该数据集上的最佳结果。
2018-07-19 cs.CV cs.MM