Few-Shot Learning via Embedding Adaptation with Set-to-Set Functions
Nanjing University(南京大学);USC(南加州大学);Google(谷歌)
在有限的数据下学习是视觉识别的一个关键挑战。许多少样本学习方法通过从可见类学习实例嵌入函数并将该函数应用于具有有限标签的不可见类的实例来解决这一挑战。这种类型的迁移学习是任务不可知的:嵌入函数不是关于看不见的类的最佳区分学习的,其中辨别它们会导致目标任务。在本文中,我们提出了一种新的方法来适应的实例嵌入的目标分类任务与集到集的功能,产生嵌入的任务是特定的,是有区别的。我们根据经验研究了这种集到集函数的各种实例化,并观察到Transformer是最有效的--因为它自然地满足了我们所需模型的关键属性。我们将该模型表示为FEAT(Few-Shot embedding adaptation w/ Transformer),并在标准的Few-Shot分类基准和四个扩展的少样本学习设置上验证它,这些设置具有基本用例,即,跨域、转换、广义少样本学习和低样本学习。它在基线模型和以前的方法上取得了一致的改进,并在两个基准上建立了新的最先进的结果。
2021-06-13 cs.CV cs.LG
Curriculum Learning for Few-Shot Domain Adaptation in CT-based Airway Tree Segmentation
针对CT气道分割的跨队列泛化问题,提出将课程学习集成到分割网络,按复杂度分批训练,在少样本域自适应中于ATM22和AIIB23队列取得高性能,并指出不当评分或排序的潜在风险。
2024-11-08 cs.CV cs.LG
Few-Shot Adaptation of Pre-Trained Networks for Domain Shift
Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究所);Max Planck Institute for Informatics(马克斯·普朗克信息学研究所);Centre for Frontier AI Research, A*STAR(新加坡科技研究局前沿人工智能研究中心)
当源(训练)数据和目标(测试)数据之间存在域转移时,深度网络容易出现性能下降。最近的测试时自适应方法使用流数据更新部署在新目标环境中的预训练源模型的批量归一化层,以减轻这种性能下降。虽然这些方法可以在不首先收集大型目标域数据集的情况下进行动态调整,但它们的性能取决于流条件,例如小批量大小和类分布,这在实践中可能是不可预测的。在这项工作中,我们提出了一个框架Few-Shot领域自适应,以解决实际的挑战,数据高效的适应。具体来说,我们提出了一个约束优化的特征归一化统计在预训练的源模型由一个小的支持集从目标域的监督。我们的方法很容易实现,并提高了源模型的性能,每个类只有一个样本的分类任务。在5个跨域分类和4个语义分割数据集上的实验表明,该方法比测试时自适应方法具有更高的准确性和可靠性,同时不受流媒体条件的限制。
2022-10-22 cs.CV cs.LG
Adversarial Style Mining for One-Shot Unsupervised Domain Adaptation
Huazhong University of Science & Technology(华中科技大学);University of Technology Sydney(悉尼科技大学);Farsee2 Tech. Co.(Farsee2科技公司);Baidu Research(百度研究院)
本文针对One-Shot无监督领域自适应问题进行研究。与传统的无监督领域自适应不同,它假设在学习自适应时只有一个未标记的目标样本可用。这种设置是现实的,但更具挑战性,在传统的适应方法很容易失败,由于缺乏未标记的目标数据。为此,我们提出了一种新的对抗性风格挖掘方法,它结合了风格转换模块和任务特定模块到一个对抗的方式。具体而言,风格转移模块根据当前学习状态迭代地在一次性目标样本周围搜索更难风格化的图像,引导任务模型探索几乎不可见的目标领域中难以解决的潜在风格,从而提高数据稀缺场景中的适应性能。对抗性学习框架使风格迁移模块和任务特定模块在竞争中相互受益。跨域分类和分割基准上的大量实验验证了ASM在具有挑战性的单次设置下实现了最先进的自适应性能。
2020-04-13 cs.CV cs.LG eess.IV
Query-Conditioned Prototype Adaptation for Cross-Domain Few-Shot Learning: Single-Query Inference, Controlled Comparisons, and Failure Modes
University of Nottingham Malaysia(诺丁汉大学马来西亚校区)
本研究提出WIPT方法,通过单查询测试时原型自适应改善跨域少样本分类,在部分目标上提升精度,但收益非普遍,且支持流式推理。
2026-09-28 cs.CV cs.LG
Weight Averaging for Out-of-Distribution Generalization and Few-Shot Domain Adaptation
LIONS lab(LIONS实验室)
本研究针对分布外泛化与少样本域自适应问题,通过引入梯度相似度正则项提升权重平均的模型多样性,并结合锐度感知最小化,在多个数据集上验证了性能提升效果。
2025-01-14 cs.CV cs.LG
Embedding Adaptation is Still Needed for Few-Shot Learning
University of Southern California(南加州大学);Google AI(谷歌AI)
构建新的更具挑战性的任务集是分析和理解Few-Shot分类方法的有效方法。不幸的是,现有的构建这些任务集的方法有些不令人满意:它们要么假设训练和测试任务分布是相同的-这导致过于乐观的评估-或者采取“最坏情况”的哲学-这通常需要额外的人力劳动,如获得语义类关系。我们提出了ATG,一个原则性的聚类方法来定义训练和测试任务集,而无需额外的人类知识。ATG对任务分布进行训练和测试,同时要求它们共享预定义的信息量。我们经验证明了ATG在生成任务集,更容易,在两者之间,或更难比现有的基准,包括那些依赖于语义信息的有效性。最后,我们利用我们生成的任务集来阐明Few-Shot分类:基于梯度的方法-以前被认为表现不佳-在传输最具挑战性时可以胜过基于度量的方法。
2021-04-15 cs.CV cs.LG
Modular Adaptation for Cross-Domain Few-Shot Learning
SRI International(SRI国际)
适应预先训练的表示已成为学习新的下游任务的首选方法,但示例有限。虽然文献已经证明了巨大的成功,通过表示学习,在这项工作中,我们表明,大量的性能改善下游任务的适应过程的适当设计也可以实现。具体来说,我们提出了一个模块化的适应方法,有选择地执行多个国家的最先进的(SOTA)适应方法的顺序。由于不同的下游任务可能需要不同类型的适配,我们的模块化适配可以根据下游任务动态配置最合适的模块。此外,作为对现有的跨域5路k-shot基准的扩展(例如,miniImageNet -> CUB),我们使用来自10个不同数据集的数据创建了一个新的高速(~100)k-shot基准。这个基准测试提供了一组不同的域,并允许使用从ImageNet学习到的更强的表示。实验结果表明,通过对下游任务定制自适应过程,我们的模块化自适应管道(MAP)在5杆分类精度上比微调和原型网络的基线提高了3.1%。
2021-04-01 cs.CV
Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation
National University of Singapore(新加坡国立大学)
无监督领域自适应(UDA)旨在利用从标记源数据集学习的知识来解决新的未标记领域中的类似任务。以前的UDA方法通常需要在学习适应模型时访问源数据,这使得它们对于分散的私有数据来说是有风险和低效的。这项工作解决了一个实际的设置,只有一个训练有素的源模型是可用的,并探讨我们如何可以有效地利用这样一个模型没有源数据来解决UDA问题。我们提出了一个简单而通用的表示学习框架,命名为\emph{Source HypOthesis Transfer}(SHOT)。SHOT冻结源模型的分类器模块(假设),并通过利用信息最大化和自监督伪标记来学习目标特定的特征提取模块,以隐式地将来自目标域的表示与源假设对齐。为了验证它的通用性,我们评估SHOT在各种适应情况下,包括闭集,部分集,和开集领域自适应。实验结果表明,SHOT在多个领域自适应基准测试中获得了最佳的结果。
2021-06-01 cs.CV cs.LG
Single-Shot Domain Adaptation via Target-Aware Generative Augmentation
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
由于深度神经网络中的脆弱泛化,使用来自任何感兴趣目标域的数据来适应源域的模型的问题已经变得突出。虽然已经出现了几种测试时自适应技术,但在目标数据可用性有限的情况下,它们通常依赖于合成数据增强。在本文中,我们考虑了单次自适应的挑战性设置,并探索了增强策略的设计。我们认为,现有的方法所利用的增强是不足以处理大的分布偏移,因此提出了一种新的方法SiSTA(单次目标增强),首先微调生成模型从源域使用单次目标,然后采用新的采样策略策展合成目标数据。使用国家的最先进的领域自适应方法的实验,我们发现,SiSTA产生高达20\%的改进超过现有的基线下,具有挑战性的变化,在面部属性检测,它执行竞争力的Oracle模型通过训练获得一个更大的目标数据集。
2022-10-29 cs.CV cs.LG stat.ML
Zero-Shot Domain Adaptation via Kernel Regression on the Grassmannian
Queen Mary, University of London(伦敦玛丽女王大学)
大多数视觉识别方法隐含地假设数据分布从训练到测试保持不变。然而,在实践中,域转移经常存在,其中诸如照明和传感器类型的真实世界因素在训练和测试之间改变,并且分类器不能从源域概括到目标域。针对所有可能的情况训练单独的模型是不切实际的,因为收集和标记数据是昂贵的。领域自适应算法旨在改善域偏移,允许在源上训练的模型在不同的目标域上表现良好。然而,即使对于无监督领域自适应的设置,其中目标域未被标记,收集每个可能的目标域的数据仍然是昂贵的。本文提出了一种新的领域自适应方法,当目标域可以用一个参数化向量来描述且同一参数空间内存在多个相关的源域时,该方法不需要访问目标域的数据或标签。它大大减少了数据汇集和注释的负担,我们的实验表明,一些有前途的结果。
2015-07-29 cs.CV cs.LG
Prmpt2Adpt: Prompt-Based Zero-Shot Domain Adaptation for Resource-Constrained Environments
Clean and Resilient Energy System Lab (CARES), Texas A&M University(清洁而坚韧能源系统实验室(CARES),德克萨斯A&M大学);Robotics Research Center, United States Military Academy(机器人研究中心,美国军事学院)
针对资源受限环境,提出基于提示的零样本域适应框架Prmpt2Adpt,利用蒸馏CLIP和提示驱动实例归一化实现快速适应,性能相当且速度提升显著。
2025-06-20 cs.CV cs.LG
One-Shot Federated Unsupervised Domain Adaptation with Scaled Entropy Attention and Multi-Source Smoothed Pseudo Labeling
University of Windsor(温莎大学)
针对联邦域适应中的数据隐私、域偏移和多轮通信开销问题,提出单轮FUDA方法,通过SEA聚合可靠模型并结合MSPL与SSCE生成、净化伪标签,在四个基准上以更低成本超越现有方法。
2025-03-13 cs.CV cs.LG
A Generative Framework for Zero-Shot Learning with Adversarial Domain Adaptation
IIT Kanpur(印度理工学院坎普尔分校);Microsoft Research, India(微软研究院印度分院);University of Toronto(多伦多大学)
提出了一种基于领域自适应的零样本学习生成框架。我们的框架解决了零样本学习中可见和不可见类分布之间的域转移问题,并通过开发一个通过对抗性领域自适应训练的生成模型来最大限度地减少这种转移。我们的方法是基于端到端学习的类分布的可见类和不可见类。为了使模型能够学习看不见的类的类分布,我们根据类属性信息(对可见和不可见的类都可用)来参数化这些类分布。这提供了一种非常简单的方法来学习任何看不见的类的类分布,只给出其类属性信息,而没有标记的训练数据。用对抗性领域自适应训练该模型进一步提供了针对来自可见类和不可见类的数据之间的分布失配的鲁棒性。我们的方法也提供了一种新的方法来训练基于神经网络的分类器,以克服在零样本学习的hubness问题。通过一组全面的实验,我们证明了我们的模型在各种基准数据集上与各种最先进的零样本学习模型相比具有更高的精度。实验代码可在github.com/vkkhare/ZSL-ADA上获得
2020-02-22 cs.CV cs.LG stat.ML
Few-Max: Few-Shot Domain Adaptation for Unsupervised Contrastive Representation Learning
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
对比自监督学习方法学习将诸如图像的数据点映射到非参数表示空间而不需要标签。虽然非常成功,但目前的方法在训练阶段需要大量的数据。在目标训练集大小有限的情况下,泛化能力较差。在Few-Shot模式下,在大的源数据集上进行预训练并对目标样本进行微调,很容易出现过拟合,因为只有少量的目标样本可用。出于这一动机,我们提出了一种自监督对比学习的域自适应方法,称为Few-Max,以解决适应少样本学习下的目标分布的问题。为了量化表示质量,我们在一系列源和目标数据集上评估了Few-Max,包括ImageNet,VisDA和fastMRI,Few-Max始终优于其他方法。
2022-06-22 cs.AI cs.CV cs.LG
Multi-source Few-shot Domain Adaptation
University of California, Berkeley(加州大学伯克利分校);National University of Singapore(新加坡国立大学);Nanjing University(南京大学)
多源领域自适应(MDA)的目的是将预测模型从多个完全标记的源域转移到未标记的目标域。然而,在许多应用中,相关的标记源数据集可能不可用,并且收集源标签可能与标记目标数据本身一样昂贵。在本文中,我们研究多源Few-Shot领域自适应(MFDA):一个新的领域自适应的情况下,有限的多源标签和未标记的目标数据。正如我们所示,现有的方法往往无法学习的歧视性功能的源和目标域中的MFDA设置。因此,我们提出了一个新的框架,称为多源Few-Shot适应网络(MSFAN),它可以以非对抗的方式进行端到端的训练。MSFAN首先使用一种典型的、多域的、自监督学习来学习不仅是域不变的而且是类区分的特征。其次,MSFAN使用一个小的,标记的支持集,以加强跨域的功能一致性和域不变性。最后,利用来自多个来源的原型来学习更好的分类器。与最先进的MDA方法相比,MSFAN在MFDA上的不同域对上的平均分类准确率分别提高了20.2%,9.4%和16.2%。
2021-09-25 cs.AI cs.CV cs.LG
Zero-Shot Day-Night Domain Adaptation with a Physics Prior
Delft University of Technology(代尔夫特理工大学);QUT Centre for Robotics(昆士兰科技大学机器人中心)
我们探讨了昼夜领域自适应的zero-shot设置。传统的领域自适应设置是在一个领域上进行训练,并通过利用来自测试集的未标记数据样本来适应目标领域。由于收集相关的测试数据是昂贵的,有时甚至是不可能的,我们删除任何依赖于测试数据的图像,而是利用一个视觉归纳先验来自基于物理的反射模型的领域自适应。我们铸造了一些颜色不变的边缘检测器作为卷积神经网络中的可训练层,并评估其对光照变化的鲁棒性。我们发现,颜色不变层减少了昼夜分布偏移在整个网络的特征图激活。我们证明了改进的性能,zero-shot白天到晚上领域自适应的合成以及自然数据集在各种任务,包括分类,分割和地方识别。
2021-10-11 cs.CV
SIDA: Synthetic Image Driven Zero-shot Domain Adaptation
Hanyang University(汉阳大学)
提出SIDA方法,利用合成图像生成目标域风格特征,通过域混合和补丁风格转移模块实现高效零样本域适应,在多个场景中达到最优性能。
2026-06-29 cs.AI cs.CV cs.LG
Unsupervised Domain Adaptation for Cross-Subject Few-Shot Neurological Symptom Detection
School of Applied and Engineering Physics, Cornell University(康奈尔大学应用与工程物理学院);Center for Neuroprosthetics, EPFL(洛桑联邦理工学院神经假肢中心)
现代机器学习工具在检测神经系统疾病的症状方面显示出了希望。然而,当前的方法通常为每个对象训练唯一的分类器。这种特定于受试者的训练方案需要来自每个患者的长标记记录,因此无法检测具有有限记录的新患者的症状。本文介绍了一种基于对抗网络的无监督领域自适应方法,以实现Few-Shot,跨主题癫痫发作检测。使用对抗性学习,来自多个患者的特征被编码到一个主题不变空间中,并在主题不变特征上训练一个判别模型来进行预测。我们评估了这种方法的颅内脑电图(iEEG)记录9例癫痫患者。我们的方法使跨主题癫痫发作检测与9.4\%的改善,1杆分类精度相比,传统的主题特定的计划。
2021-02-28 cs.LG
AdaptKeyBERT: An Attention-Based approach towards Few-Shot & Zero-Shot Domain Adaptation of KeyBERT
Manipal Institute of Technology(马尼帕尔理工学院);Manipal Academy of Higher Education(马尼帕尔高等教育学院)
关键词抽取是现代自然语言处理的一个重要课题。它的应用范围从本体生成,事实验证摘要文本,和推荐系统。虽然它有重要的数据密集型应用程序,但当数据集很小时,它往往受到阻碍。关键字提取器的下游训练是一个漫长的过程,需要大量的数据。最近,已经提出了少样本学习(FSL)和零样本学习(Zero-Shot Learning,ZRL)来解决这个问题。因此,我们提出了AdaptKeyBERT,这是一种通过将正则化注意力的概念纳入下游领域自适应的预训练阶段来训练具有LLM基础的关键字提取器的管道。由于我们相信我们的工作对FSL/FML和关键字提取的管道有影响,我们开源了我们的代码,并在https://github.com/AmanPriyanshu/AdaptKeyBERT上提供了同名AdaptKeyBERT的微调库。
2022-11-16 cs.CL cs.LG
Few-Shot Adversarial Domain Adaptation
这项工作提供了一个框架,解决问题的监督领域自适应与深度模型。其主要思想是利用对抗学习来学习一个嵌入子空间,同时最大化两个域之间的混淆,同时在语义上对齐它们的嵌入。监督设置变得有吸引力,特别是当只有几个目标数据样本,需要标记。在这种少样本学习场景中,由于缺乏数据,语义概率分布的对齐和分离是困难的。我们发现,通过仔细设计一个训练方案,将典型的二进制对抗训练扩展到区分四个不同的类,可以有效地解决监督自适应问题。此外,该方法具有很高的适应速度,即它需要极少量的标记目标训练样本,甚至每个类别一个都可以是有效的。然后,我们广泛地比较这种方法的最先进的领域自适应在两个实验:一个使用数据集的手写数字识别,和一个使用数据集的视觉对象识别。
2017-11-05 cs.CV
Few-shot Adaptive Faster R-CNN
National University of Singapore(新加坡国立大学);Huawei Noah’s Ark Lab(华为诺亚方舟实验室)
为了减轻域偏移引起的检测性能下降,我们的目标是开发一种新的Few-Shot自适应方法,只需要几个目标域图像与有限的限界框注释。为此,我们首先要看到几个重大挑战。首先,目标域数据严重不足,使得大多数现有的领域自适应方法无效。其次,目标检测涉及同时定位和分类,进一步使模型自适应过程复杂化。第三,该模型遭受过适应(类似于在用一些数据示例进行训练时的过拟合)和不稳定风险,这可能导致目标域中的检测性能下降。为了解决这些挑战,我们首先引入了一个配对机制,在源和目标功能,以减轻目标域样本不足的问题。然后,我们提出了一个双层模块,以适应源训练的检测器到目标域:1)分裂池为基础的图像级自适应模块均匀地提取和对齐配对的本地补丁功能的位置,具有不同的规模和纵横比; 2)实例级自适应模块语义对齐配对的对象特征,同时避免类间混淆。同时,应用源模型特征正则化(SMFR)来稳定两个模块的自适应过程。结合这些贡献,给出了一种新的Few-Shot自适应Faster-RCNN框架,称为FAFRCNN,它有效地适应目标域与一些标记的样本。多个数据集的实验表明,我们的模型实现了新的国家的最先进的性能下感兴趣的Few-Shot领域自适应(FDA)和无监督领域自适应(UDA)设置。
2019-03-22 cs.CV
Learnable Data Augmentation for One-Shot Unsupervised Domain Adaptation
Italian Institute of Technology(意大利理工学院);University of Verona(维罗纳大学);University of Genova(热那亚大学)
针对仅单个未标记目标样本的单样本无监督域适应难题,提出LearnAug-UDA方法,通过带感知损失和风格迁移的编解码架构学习增强源数据,在DomainNet和VisDA基准上达SOTA性能。
2023-10-03 cs.CV
One-Shot Domain Adaptation For Face Generation
Facebook AI(Facebook人工智能)
在本文中,我们提出了一个框架,能够生成人脸图像,落入相同的分布,作为一个给定的一杆的例子。我们利用一个预先训练的StyleGAN模型,该模型已经学习了通用的人脸分布。给定一次性目标,我们开发了一种迭代优化方案,该方案快速适应模型的权重,以将输出的高级别分布转移到目标的。为了生成具有相同分布的图像,我们引入了一种风格混合技术,该技术将目标的低级统计数据转移到使用模型随机生成的面部。这样,我们就能够生成无限数量的人脸,这些人脸继承自通用人脸和一次性示例的分布。新生成的面部可以用作其他下游任务的增强训练数据。这样的设置是有吸引力的,因为它需要在目标域中标记非常少或甚至一个示例,这通常是由各种未知和独特的分布引起的真实世界面部操纵的情况,每个分布都具有极低的流行率。我们证明了我们的一次拍摄的方法检测人脸操作的有效性,并将其与其他Few-Shot领域自适应方法定性和定量比较。
2020-03-28 cs.CV
Learning Classifiers for Domain Adaptation, Zero and Few-Shot Recognition Based on Learning Latent Semantic Parts
Boston University(波士顿大学)
在计算机视觉应用中,例如领域自适应(DA)、少样本学习(FSL)和零样本学习(FSL),我们遇到了新的对象和环境,对于这些对象和环境,不存在足够的示例来允许训练“从头开始的模型”,并且需要使在所呈现的训练环境上训练的现有模型适应新场景的方法。我们提出了一种新的视觉属性编码方法,编码每个图像作为一个低维的概率向量组成的原型部分类型的概率。学习的原型是所有训练数据的代表。在测试时,我们利用这种编码作为分类器的输入。在测试时,我们冻结编码器,只学习/调整分类器组件以适应FSL中有限的注释标签;在FSL中添加新的语义属性。我们在基准数据集上进行了广泛的实验。我们的方法优于针对特定上下文(EML,FSL,DA)训练的最先进方法。
2019-08-16 cs.CV
Optimization-Inspired Few-Shot Adaptation for Large Language Models
University of Oxford(牛津大学);KAUST(科威特大学)
针对少样本场景下LLM微调数据与资源不足的问题,提出将前向传播视为优化过程,通过学习预条件器提升效率并导向平坦最小值,克服ICL与PEFT缺陷,实验性能更优。
2025-05-25 cs.LG
TOHAN: A One-step Approach towards Few-shot Hypothesis Adaptation
NUDT(国防科技大学);HKBU(香港浸会大学);Peng Cheng Laboratory(鹏城实验室);USYD(悉尼大学);HKUST(香港科技大学);UTS(悉尼科技大学)
在Few-Shot领域自适应(FDA)中,用源域(SD)中的可访问标记数据和目标域(TD)中的少量标记数据来训练目标域的分类器。然而,在当前时代,数据通常包含私人信息,例如,个人手机上的数据。因此,如果我们直接访问SD中的数据来训练目标域分类器(FDA方法所需的),则会泄露私人信息。在本文中,为了彻底防止SD中的隐私泄漏,我们考虑了一个非常具有挑战性的问题设置,其中TD的分类器必须使用少量标记的目标数据和经过良好训练的SD分类器进行训练,称为Few-Shot假设自适应(FHA)。在FHA中,我们不能访问SD中的数据,因此,SD中的隐私信息将得到很好的保护。为此,我们提出了一个面向目标的假设自适应网络(TOHAN)来解决FHA问题,在那里我们生成高度兼容的未标记数据(即,中间域)来帮助训练目标域分类器。TOHAN同时维护两个深度网络,其中一个专注于学习中间域,另一个负责中间到目标的分布适应和目标风险最小化。实验结果表明,TOHAN显著优于竞争基线。
2022-09-07 cs.LG
Few-shot One-class Domain Adaptation Based on Frequency for Iris Presentation Attack Detection
Hikvision(海康威视)
虹膜呈现攻击检测(PAD)在保证虹膜识别系统的可靠性和安全性方面取得了显著的成功。大多数现有的方法利用空间域中的判别特征,并在数据集内设置下报告出色的性能。然而,在跨数据集设置下,性能的下降是不可避免的,遭受域转移。考虑到实际应用,少量的真正的样品是很容易获得的。因此,我们定义了一种新的域自适应设置,称为Few-Shot One-class领域自适应(FODA),其中自适应仅依赖于有限数量的目标真实样本。为了解决这个问题,我们提出了一个新的FODA框架的基础上表达能力的频率信息。具体来说,我们的方法通过两个建议的模块集成频率相关的信息。基于频率的注意模块(FAM)将频率信息聚合到空间注意中,并明确强调高频细粒度特征。频率混合模块(FMM)混合某些频率分量以生成大规模目标样式样本,用于与有限的目标真实样本进行适配。在LivDet-Iris 2017数据集上进行的大量实验表明,该方法在跨数据集和数据集内设置下均达到了最先进或具有竞争力的性能。
2022-04-01 cs.CV
Augmenting and Aligning Snippets for Few-Shot Video Domain Adaptation
Nanyang Technological University(南洋理工大学)
为了使视频模型能够在不同的环境中无缝地跨视频任务传输和应用,引入了视频无监督领域自适应(VUDA)来提高视频模型的鲁棒性和可传输性。然而,目前的VUDA方法依赖于大量的高质量的未标记的目标数据,这在现实世界中可能是不可用的。因此,我们考虑一个更现实的\textit{Few-Shot Video-based Domain Adaptation}(FSVDA)的情况下,我们适应视频模型只有几个目标视频样本。虽然一些方法已经触及图像和FSVDA中的Few-Shot领域自适应(FSDA),但是它们主要依赖于用于目标域扩展的空间增强,其中在实例级统计地执行对准。然而,视频包含更多的知识,在丰富的时间和语义信息,这应该充分考虑时,增加目标域和执行对齐FSVDA。我们提出了一种新的SSA2lign来解决FSVDA在片段级别,其中目标域是通过一个简单的片段级增强扩展,然后通过语义和统计上的片段的注意对齐,其中片段的语义对齐是通过多个角度进行的。实证结果证明了SSA2lign在多个跨域动作识别基准测试中的最新性能。
2023-03-18 cs.CV
SelectNAdapt: Support Set Selection for Few-Shot Domain Adaptation
Friedrich-Alexander-Universität Erlangen-Nürnberg(埃尔朗根-纽伦堡大学);University of Surrey(萨里大学)
本文提出SelectNAdapt算法,通过自监督特征学习、逐类聚类和基于距离的评分函数,从目标域中精心选择支持集样本,以改进少样本领域自适应中随机选择支持集的不足,并在三个图像识别基准上验证了其有效性。
2023-08-09 cs.CV
SAMDA: Leveraging SAM on Few-Shot Domain Adaptation for Electronic Microscopy Segmentation
School of Artificial Intelligence, Beijing University of Post and Telecommunication(北京邮电大学人工智能学院)
提出SAMDA框架,结合SAM与nnUNet实现电子显微镜分割的少样本域自适应,通过融合通用与专家组件提升迁移性和准确性,目标域dice系数提高6.7%,单样本性能优于10-shot。
2024-03-12 cs.CV cs.LG eess.IV
Predictive Optimization with Zero-Shot Domain Adaptation
NEC Corporation(NEC公司);RIKEN(理化学研究所)
zero-shot领域自适应(领域自适应)是在没有任何训练样本的情况下在一个新的域中进行预测的一项重要任务。虽然在一个新的领域的预测得到了很多关注,在本文中,我们调查的另一个潜在的CRAMDA。具体来说,我们不是在一个新的领域中预测响应,而是在给定预测的情况下找到一个新领域的描述。该任务被认为是预测优化,但现有的预测优化方法还没有扩展到处理多个域。我们提出了一个简单的框架,预测优化与CARDA和分析的条件下,优化问题成为凸优化。我们还讨论了在预测优化中如何处理域的特征之间的相互作用。通过数值实验,我们证明了我们提出的框架的潜在有用性。
2021-01-15 cs.LG stat.ML
Spectral Adversarial MixUp for Few-Shot Unsupervised Domain Adaptation
Rensselaer Polytechnic Institute(伦斯勒理工学院);IBM Thomas J. Watson Research Center(IBM托马斯·J·沃森研究中心)
针对少样本无监督域适应,提出基于频谱敏感度图的谱对抗混合方法,生成目标风格图像以提升模型泛化能力。
2023-09-03 cs.CV cs.LG eess.IV
OSSA: Unsupervised One-Shot Style Adaptation
Delft University of Technology(代尔夫特理工大学);Hensoldt Optronics GmbH(亨索尔特光电有限公司)
本文提出无监督单样本域自适应方法OSSA,仅用一张未标注目标图像生成多样风格并经AdaIN迁移到源域特征,在目标检测多个场景中取得单样本SOTA。
2024-10-01 cs.CV
Adversarial Learning for Zero-shot Domain Adaptation
Guangdong Laboratory of Artificial Intelligence & Digital Economy (SZ)(广东省人工智能与数字经济实验室(深圳))
零激发域自适应(Zero-shot domain adaptation,简称ZIDA)是一类既没有数据样本也没有标签可用于目标域参数学习的领域自适应问题。假设一个给定的域之间的转移是跨任务共享的,我们提出了一种新的方法,通过转移域转移从一个不相关的任务(IRT)的任务的兴趣(ToI)。具体来说,我们首先确定一个IrT,其中双域样本可用,并在此任务中使用耦合的生成对抗网络(CoGAN)捕获域偏移。然后,我们训练一个用于ToI的CoGAN,并限制它携带与用于IRT的CoGAN相同的域转移。此外,我们引入了一对共同训练分类器来规范ToI中CoGAN的训练过程。所提出的方法不仅推导出机器学习模型的不可用的目标域的数据,但也综合数据本身。我们在基准数据集上评估了所提出的方法,并实现了最先进的性能。
2020-09-11 cs.CV
Similarity Min-Max: Zero-Shot Day-Night Domain Adaptation
Wangxuan Institute of Computer Technology, Peking University(北京大学王选计算机研究所);School of EECS, Peking University(北京大学电子工程与计算机科学学院);School of CS, Peking University(北京大学计算机科学学院);Peng Cheng Laboratory(鹏城实验室)
针对零样本昼夜域自适应无需夜间数据的需求,提出相似性最小-最大范式,联合优化图像级变暗增广与模型级特征对齐,显著提升模型泛化性,在多类夜间视觉任务上验证了有效性。
2023-11-05 cs.CV
Meta-Tool: Efficient Few-Shot Tool Adaptation for Small Language Models
LexisNexis, USA(LexisNexis美国公司)
本文通过Meta-Tool研究小语言模型是否能在不复杂适应机制下实现强工具使用性能,发现超网络适应无显著提升,提示应关注提示工程与示例整理。
2026-04-22 cs.AI cs.CL cs.LG
Task Transfer and Domain Adaptation for Zero-Shot Question Answering
New York University(纽约大学);IBM Research AI(IBM研究院人工智能部门)
预训练的语言模型在自然语言处理的各个领域都取得了成功,包括阅读理解任务。然而,当将机器学习方法应用于新领域时,标记的数据可能并不总是可用的。为了解决这个问题,我们对源域数据进行了有监督的预训练,以降低特定于域的下游任务的样本复杂度。我们通过将任务转移与领域自适应相结合来评估特定领域阅读理解任务的zero-shot性能,以微调预训练模型,而没有来自目标任务的标记数据。我们的方法在4个领域中的3个领域中的下游特定领域阅读理解任务上优于领域自适应预训练。
2022-06-14 cs.CL cs.LG
Topic Adaptation and Prototype Encoding for Few-Shot Visual Storytelling
College of Computer Science and Technology, ZheJiang University(浙江大学计算机科学与技术学院);Hikvision Research Institute(海康威视研究院)
Visual Storytelling~(VIST)是根据给定的照片流讲述关于某个主题的叙事故事的任务。现有的研究集中在设计复杂的模型,这依赖于大量的人类注释的数据。然而,VIST的标注是非常昂贵的,并且由于长尾主题分布,许多主题无法在训练数据集中覆盖。在本文中,我们专注于提高推广能力的VIST模型,考虑Few-Shot设置。受人类讲故事的方式的启发,我们提出了一个主题自适应说书人来模拟主题间泛化的能力。在实践中,我们将基于梯度的Meta学习算法应用于多模态seq 2 seq模型,以赋予模型快速适应不同主题的能力。此外,我们还提出了一个原型编码结构来模拟主题内派生的能力。具体来说,我们编码和恢复的几个训练故事的文本作为参考,以指导在推理时的生成。实验结果表明,主题自适应和原型编码结构对Few-Shot模型在BLEU和METEOR度量上的性能都有很大的改善。进一步的个案研究表明,经过Few-Shot改编后的故事具有更强的相对性和表现力。
2020-08-11 cs.CL cs.CV cs.IR
Exploring selective image matching methods for zero-shot and few-sample unsupervised domain adaptation of urban canopy prediction
The Alan Turing Institute(阿兰·图灵研究所);University College London(伦敦大学学院)
本研究针对城市冠层预测的跨地理域适配问题,提出基于选择性图像对齐的无监督域自适应方法,在零样本和少样本微调场景下均优于基线与主流图像转换模型。
2024-04-16 cs.CV stat.AP
Zero-Shot Deep Domain Adaptation
Siemens Corporate Technology(西门子企业技术研究院)
领域自适应是将在源领域中学习到的关于任务(例如分类)的知识转移到第二或目标领域的重要工具。目前的方法假设任务相关的目标域数据在训练过程中是可用的。我们演示了如何执行领域自适应时,没有这样的任务相关的目标域数据。为了解决这个问题,我们提出了zero-shot深度领域自适应(ZDDA),它使用任务无关的双域对的特权信息。ZDDA学习一个源域表示,它不仅是为感兴趣的任务量身定制的,而且接近目标域表示。因此,与源域表示联合训练的源域感兴趣任务解决方案(例如,用于分类任务的分类器)可以适用于源表示和目标表示两者。使用MNIST,Fashion-MNIST,NIST,EMNIST和SUN RGB-D数据集,我们证明了ZDDA可以在分类任务中执行领域自适应,而无需访问与任务相关的目标领域训练数据。我们还扩展ZDDA进行传感器融合在SUN RGB-D场景分类任务模拟任务相关的目标域表示与任务相关的源域数据。据我们所知,ZDDA是第一个领域自适应和传感器融合方法,它不需要任务相关的目标域数据。其基本原理并不特定于计算机视觉数据,而是应该可以扩展到其他领域。
2018-07-24 cs.CV
Rethinking Test-Time Training: Tilting The Latent Distribution For Few-Shot Source-Free Adaptation
Institute of Business Administration(商业管理学院)
本文提出一种无需训练的测试时间适应方法,通过倾斜潜在分布实现少样本源无关适应,无需修改模型参数,且在严格约束下表现优异。
2026-02-02 cs.LG stat.ML
Dual Memory Networks: A Versatile Adaptation Approach for Vision-Language Models
HKPolyU(香港理工大学);OPPO;HKUST(香港科技大学);HKBU(香港浸会大学)
提出双记忆网络,通过静态和动态记忆组件及灵活交互策略,统一实现视觉语言模型在零样本、少样本和免训练少样本适应三种设置下的高性能。
2024-03-26 cs.AI cs.CV cs.LG
Revisiting Diffusion Fine-Tuning for Unsupervised Domain Adaptation
Istituto Italiano di Tecnologia(意大利理工学院);University of Genoa(热那亚大学);Nanjing University(南京大学);University of Verona(维罗纳大学)
本文提出MUSE框架,通过解耦语义与风格适应,实现单次扩散微调生成多目标域数据,在UDA基准上提升精度-效率权衡。
2026-09-29 cs.CV
Zero-shot adaptation to order book dynamics
MBZUAI(穆尔亚人工智能研究院)
本文提出了一种适应性市场做市架构,保留了Avellaneda-Stoikov框架的分析结构,同时引入了继任者度量式适应机制,通过分离市场动态与交易目标,实现对变化市场制度和交易目标的适应。
2026-05-20 cs.CE cs.LG
Few-Shot Domain Adaptation with Temporal References and Static Priors for Glacier Calving Front Delineation
Pattern Recognition Lab, Friedrich-Alexander-Universität Erlangen-Nürnberg(模式识别实验室,埃尔朗根-纽伦堡大学);Institut für Geographie, Friedrich-Alexander-Universität Erlangen-Nürnberg(地理研究所,埃尔朗根-纽伦堡大学)
本文提出了一种结合时间参考和静态先验知识的少样本领域适应方法,有效提升了冰川崩解前沿勾勒的精度,实现了对新研究地点的适应性应用。
2026-01-29 cs.CV
Test-Time Adaptation via Many-Shot Prompting: Benefits, Limits, and Pitfalls
SambaNova Systems, Inc(SambaNova系统公司);Stanford University(斯坦福大学)
研究通过多示例提示在不同任务和模型中分析测试时适应的性能变化,探讨其有效性及限制,指出其在结构化任务中的优势及在开放生成任务中的不足。
2026-03-17 cs.CL cs.LG
Few-Shot Domain Adaptation with Polymorphic Transformers
Institute of High Performance Computing, A*STAR(A*STAR高性能计算研究所);Mila, University of Montreal(蒙特利尔大学Mila研究所);Inception Institute of Artificial Intelligence(Inception人工智能研究所);University of Electronic Science and Technology of China(电子科技大学);Singapore Eye Research Institute(新加坡眼科研究所)
在一组医学图像上训练的深度神经网络(DNN)经常在看不见的测试图像上经历严重的性能下降,这是由于训练图像(源域)和测试图像(目标域)之间的各种域差异,这引起了领域自适应问题。在临床环境中,很难在短时间内收集足够的注释目标域数据。Few-Shot领域自适应,即,在这种情况下,使用少量注释来调整训练的模型是非常实用和有用的。在本文中,我们提出了一种多态Transformer(Polyformer),它可以被纳入任何DNN骨干的Few-Shot领域自适应。具体来说,在将polyformer层插入到在源域上训练的模型中之后,它提取一组原型嵌入,这可以被视为源域特征的“基础”。在目标域上,polyformer层仅通过更新控制图像特征与原型嵌入之间的交互的投影层来进行自适应。所有其他模型权重(BatchNorm参数除外)在自适应期间冻结。因此,过度拟合注释的机会大大减少,并且模型在几个注释图像上训练后可以在目标域上稳健地执行。我们证明了Polyformer在两个医疗分割任务上的有效性(即,视神经盘/视杯分割和息肉分割)。Polyformer的源代码发布于www.example.com。
2021-07-10 cs.CV
COBRA: COmBinatorial Retrieval Augmentation for Few-Shot Adaptation
University of Washington(华盛顿大学)
针对少样本自适应中检索样本冗余问题,提出基于组合互信息度量的COBRA方法,兼顾多样性与相似性,在LAION-2B上显著提升图像分类性能且开销可忽略。
2025-03-28 cs.LG
Relation-Aware Evidence Routing and Confidence-Guided Adaptation for Zero-Shot Visual Anomaly Detection
Beihang University(北京航空航天大学)
提出EntroAD框架,利用结构熵引导动态路由机制和置信度感知双分支提示自适应,实现零样本异常检测,在跨数据集设置中达到最优性能。
2026-11-18 cs.CV cs.MM
ZoDi: Zero-Shot Domain Adaptation with Diffusion-Based Image Transfer
The University of Tokyo(东京大学);KTH Royal Institute of Technology(瑞典皇家理工学院)
本文提出基于扩散模型的零样本域适应方法ZoDi,通过布局到图像扩散模型与随机反演合成类目标图像并保持内容,再结合源图像与合成图像最大化特征相似度以学习域鲁棒表示,在图像分割任务中优于现有方法且无需目标图像即可评估模型性能。
2024-09-25 cs.CV
Infrared Domain Adaptation with Zero-Shot Quantization
Graduate School of Informatics, Middle East Technical University(中东技术大学信息学研究生院)
本文提出一种针对红外域目标检测模型的零样本量化框架,利用批量归一化统计数据蒸馏校准数据,在无训练数据条件下有效实现模型量化。
2024-08-25 cs.CV
Zero-shot Sim2Real Adaptation Across Environments
Applied Artificial Intelligence Institute(应用人工智能研究院);Deakin University(迪肯大学)
基于仿真的学习通常为机器人技术中的强化学习应用提供了一种具有成本效益的手段。然而,仿真器通常无法准确地复制真实世界的动态,因此弥合sim2real差距是基于仿真的学习中的一个重要问题。目前的解决方案,以弥合sim2real差距涉及混合模拟器,增强神经残差模型。不幸的是,它们需要针对每个单独的环境配置的单独的残差模型(即,诸如质量、摩擦等的环境变量的固定设置),因此不能快速转移到新的环境。为了解决这个问题,我们提出了一个反向动作转换(RAT)的政策,学习模仿在现实世界中的模拟政策。一旦从单个环境中学习,RAT就可以部署在通用策略网络之上,以实现对新环境的zero-shot适应。我们经验性地评估我们的方法在一组连续的控制任务,并观察其优势,作为一个Few-Shot和zero-shot学习竞争基线。
2023-02-08 cs.AI cs.LG cs.RO
Towards Fair Cross-Domain Adaptation via Generative Learning
Indiana University Bloomington(印第安纳大学伯明顿分校);IUPUI(印第安纳大学-普渡大学印第安纳波利斯分校);IU School of Medicine(印第安纳大学医学院);Regenstrief Institute(雷根斯特里夫研究所)
领域自适应(DA)的目标是使在良好标记的源域上训练的模型适应于处于不同分布的未标记的目标域。现有的DA通常假设标记良好的源域是类平衡的,这意味着每个源类的大小相对相似。然而,在实际应用中,由于数据汇集和标注的困难,源域中某些类别的标记样本可能非常少,这导致在这些Few-Shot类别上的性能相对于目标域下降。为了执行公平的跨域自适应并提高对这些少数类别的性能,我们开发了一种新的用于公平跨域分类的生成式Few-Shot跨领域自适应(GFCA)算法。具体而言,生成特征增强的探索,以合成有效的训练数据的Few-Shot源类,而有效的跨域对齐的目的是适应知识从源,以促进目标学习。在两个大型跨域视觉数据集上的实验结果表明,与现有的DA方法相比,该方法在提高Few-Shot和整体分类精度方面是有效的.
2020-11-03 cs.CV