Enhancing Node-Level Graph Domain Adaptation by Alleviating Local Dependency
Huazhong University of Science and Technology(华中科技大学);School of Cyber Science and Engineering(网络科学与工程学院);Hubei Key Laboratory of Distributed System Security(湖北省分布式系统安全重点实验室);Hubei Engineering Research Center on Big Data Security(大数据安全工程研究中心);Zhongguancun Academy(中关村学院);Zu Chongzhi Center, Digital Innovation Research Center(祖冲之中心,数字创新研究中心);Duke Kunshan University(杜克大学昆山分校)
本文提出通过缓解局部依赖性来改进图域适应,通过去相关GCN和图变换器层提升性能,并提供可视化结果。
2025-12-15 cs.LG stat.ML
Graph Data Selection for Domain Adaptation: A Model-Free Approach
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对图域适应中严重偏移与资源受限问题,提出无模型数据选择框架GRADATE,利用最优传输理论选择源域训练数据,提升现有GDA方法性能并减少数据需求。
2025-10-24 cs.LG
Structural Re-weighting Improves Graph Domain Adaptation
Georgia Institute of Technology(佐治亚理工学院);Purdue University(普渡大学);Fermi National Accelerator Laboratory(费米国家加速器实验室);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对图域适应中现有表示对齐方法难以处理条件结构偏移的问题,提出结构重加权方法 StruRW,并在合成图、四个基准及高能物理任务上验证其提升。
2023-06-05 cs.AI cs.LG cs.SI
Nested Graph Pseudo-Label Refinement for Noisy Label Domain Adaptation Learning
针对图域适应中源标签噪声问题,提出NeGPR框架,通过双分支预训练、嵌套伪标签精炼和噪声感知正则化,在严重噪声下准确率提升达12.7%。
2025-09-08 cs.AI cs.LG
Learning Structure-Semantic Evolution Trajectories for Graph Domain Adaptation
School of Artificial Intelligence, Beihang University, Beijing, China(北京航空航天大学人工智能学院);School of Mathematical Sciences, Peking University, Beijing, China(北京大学数学科学学院);School of Computer Science and Engineering, Beihang University, Beijing, China(北京航空航天大学计算机科学与工程学院);Zhongguancun Laboratory, Beijng, China(中关村实验室);Independent Researcher, Beijing, China(独立研究者)
DiffGDA通过建模连续时间生成过程,以结构和语义转换的联合建模方式解决图域适应中的连续非线性演进问题,实验表明其在多个数据集上优于现有方法。
2026-02-11 cs.AI cs.LG
A Unified Framework for Generative Data Augmentation: A Comprehensive Survey
本论文全面综述了生成式数据增强(GDA)领域,提出了统一框架以系统分析模型选择、数据选择等关键方面,揭示了缺乏通用基准等研究空白,并指出了未来的重要研究方向。
2024-04-21 cs.AI cs.LG
Gradual Domain Adaptation: Theory and Algorithms
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Chicago(芝加哥大学)
本文针对渐进式域自适应中中间域稀缺的问题,提出沿Wasserstein测地线均匀放置中间域的理论见解,并设计GOAT框架以数据依赖方式生成中间域,从而提升GDA在现实场景中的性能。
2025-01-03 cs.LG stat.ML
FedMM: Saddle Point Optimization for Federated Adversarial Domain Adaptation
University at Buffalo(布法罗大学);Ant Group(蚂蚁集团);University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
联邦对手领域自适应是一个独特的分布式极大极小训练任务,由于普遍存在的标签不平衡的客户端之间,每个客户端只看到一个子集的类的标签需要训练一个全球性的模型。为了解决这个问题,我们提出了一个分布式的极大极小优化称为FedMM,专门为联邦对手的领域自适应问题。即使在极端情况下,每个客户端都有不同的标签类,一些客户端只有无监督的任务,它也能很好地工作。我们证明了FedMM确保收敛到一个平稳点域移动的无监督数据。在各种基准数据集上,广泛的实验表明,FedMM始终实现显着的通信节省或显着的准确性提高联邦优化的基础上的梯度下降上升(GDA)算法。例如,当从头开始训练时,它在相同的通信回合中的准确性优于其他基于GDA的联邦平均方法,大约是$20\%$;并且当从预先训练的模型进行训练时,它始终优于不同网络的准确性从$5.4\%$提高到$9\%$。
2021-11-16 cs.LG
Pave Your Own Path: Graph Gradual Domain Adaptation on Fused Gromov-Wasserstein Geodesics
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
提出Gadget框架,通过融合Gromov-Wasserstein测地线实现非IID图数据的渐进域适应,提升图DA方法的准确率。
2026-02-10 cs.LG
Learning Adaptive Distribution Alignment with Neural Characteristic Function for Graph Domain Adaptation
School of Artificial Intelligence, Beihang University(北航人工智能学院);School of Computer Science and Engineering, Beihang University(北航计算机科学与工程学院);School of Mathematical Sciences, Peking University(北大数学系);Zhongguancun Laboratory(中关村实验室)
本文提出ADAlign框架,通过自适应分布对齐解决图域适应中的分布偏移问题,利用神经谱差异衡量跨图偏移,实现灵活且鲁棒的域适应。
2026-03-18 cs.AI cs.LG
Self-Training with Dynamic Weighting for Robust Gradual Domain Adaptation
University of Electronic Science and Technology of China(电子科技大学);Tsinghua University(清华大学);Zhenguan AI Lab;Southwest Jiaotong University(西南交通大学);Shanghai University(上海大学);New Jersey Institute of Technology(新泽西理工学院)
提出动态加权自训练(STDW)方法,通过时变超参数平衡源目标域损失,在多个数据集上优于基线,实现稳健渐进域自适应。
2025-10-13 cs.AI cs.CV cs.LG
Pairwise Alignment Improves Graph Domain Adaptation
Georgia Institute of Technology(佐治亚理工学院);University of Science and Technology of China(中国科学技术大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对图数据分布偏移问题,提出成对对齐方法,通过边权重缓解条件结构偏移和标签权重处理标签偏移,显著提升了图域适应在节点分类等任务中的性能。
2024-06-05 cs.LG
Cross-Resolution Semantic Learning for Graph Domain Adaptation
针对图域适应中语义分辨率偏移导致的负迁移问题,提出CReSL方法,通过多分辨率表示库、跨分辨率原型迁移与目标嫁接实现知识迁移,在多数图域适应设置下优于基线。
2026-08-03 cs.LG
DSBD: Dual-Aligned Structural Basis Distillation for Graph Domain Adaptation
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Zhengzhou University(郑州大学);The Hebei University of Technology(河北工业大学);California State Polytechnic University(加州州立理工大学);The City University of Hong Kong(香港城市大学)
DSBD通过显式建模和适应跨域结构差异,改进图域适应中的结构差异问题,通过拓扑矩匹配和狄利克雷能量校准提升结构一致性,实验表明其优于现有方法。
2026-04-03 cs.LG
Safe-Subspace Pseudo-Label Refinement for Source-Free Graph Domain Adaptation
Department of Computer Science and Engineering, Chinese University of Hong Kong(香港中文大学计算机科学与工程系);College of Computer, National University of Defense Technology(国防科技大学计算机学院);Department of Data Science, City University of Hong Kong(香港城市大学数据科学系);The Education University of Hong Kong(香港教育大学)
针对无源图域自适应中伪标签不可靠的问题,提出SafeSubspace伪标签精炼方法,通过识别置信度一致的安全子空间并利用语义与结构证据进行伪标签验证,实现鲁棒的图域自适应。
2026-05-30 cs.LG
Revisiting, Benchmarking and Understanding Unsupervised Graph Domain Adaptation
Zhejiang University(浙江大学);National University of Singapore(新加坡国立大学)
本文提出了首个无监督图领域自适应综合基准GDABench,涵盖5个数据集上的16种算法和74项自适应任务,并开发了易用库PyGDA,发现通过适当的邻域聚合机制,简单GNN变体可超越最先进的UGDA基线。
2024-11-11 cs.AI cs.LG
SF(DA)$^2$: Source-free Domain Adaptation Through the Lens of Data Augmentation
Yonsei University(延世大学);Seoul National University(首尔大学)
针对无源域适应中数据增强的挑战,提出SF(DA)$^2$方法,通过构建增强图、谱聚类及隐式特征增强和特征解缠正则化,在2D图像、3D点云及不平衡数据集上取得优越性能。
2024-03-16 cs.AI cs.CV cs.LG
USBD: Universal Structural Basis Distillation for Source-Free Graph Domain Adaptation
Mohamed bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学);Zhengzhou University(郑州大学);The Hebei University of Technology(河北工业大学);The City University of Hong Kong(香港城市大学)
USBD通过学习通用结构基础,解决了无源图域适应中因拓扑变化导致的适应问题,提升了模型在结构差异场景下的性能和效率。
2026-02-09 cs.LG
Domain Adaptation for Neural Networks by Parameter Augmentation
SONY(索尼公司);University of Tokyo(东京大学)
我们提出了一个简单的领域自适应方法的神经网络在监督设置。有监督领域自适应是一种利用源领域数据集提高目标领域泛化性能的方法,假设两个数据集都被标记。最近,递归神经网络已被证明是成功的各种NLP任务,如字幕生成;然而,现有的领域自适应技术是有限的(1)调整模型参数的目标数据集训练后,由源数据集,或(2)设计的网络具有双重输出,一个用于源域和目标域的另一个。本文对Daume(2007)提出的领域自适应方法进行了改进,提出了一种简单的领域自适应方法,该方法可应用于交叉熵损失下训练的神经网络。在字幕数据集上,我们显示了比其他领域自适应方法性能的提高。
2016-07-01 cs.AI cs.CL cs.LG
Unified State Representation Learning under Data Augmentation
Georgia Institute of Technology(佐治亚理工学院)
快速领域自适应的能力对于提高强化学习(RL)对现实世界问题的适用性非常重要。RL代理的泛化对于在现实世界中取得成功至关重要,然而zero-shot策略传输是一个具有挑战性的问题,因为即使是微小的视觉变化也可能使经过训练的代理在新任务中完全失败。我们建议USRA:数据增强下的统一状态表示学习,一个表示学习框架,通过对其观测值执行数据增强来学习潜在的统一状态表示,以提高其推广到未知目标域的能力。我们在Walker环境的DeepMind控制泛化基准测试中展示了我们的方法的成功,并发现USRA实现了更高的样本效率和比最佳基线结果高14.3%的领域自适应性能。
2022-09-12 cs.AI cs.LG
TTA-DAME: Test-Time Adaptation with Domain Augmentation and Model Ensemble for Dynamic Driving Conditions
Yonsei University(延世大学)
本文提出TTA-DAME方法,通过领域增强和模型集成应对动态变化的驾驶场景,提升模型在天气变化下的适应能力。
2026-03-31 cs.AI cs.CV cs.LG
Understanding Gradual Domain Adaptation: Improved Analysis, Optimal Path and Beyond
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
绝大多数现有的无监督领域自适应(UDA)算法集中于以一次性的方式直接从标记的源域适应到未标记的目标域。另一方面,渐进领域自适应(GDA)假设一条由$(T-1)$未标记的中间域组成的路径桥接源和目标,旨在通过利用中间域在目标域中提供更好的泛化。在某些假设下,Kumar等人(2020)提出了一种简单的算法,渐进式自训练,以及目标域误差的$e^{O(T)} \left(\varepsilon_0+O\left(\sqrt{log(T)/n}\right)\right)$阶的泛化界,其中$\varepsilon_0$是源域误差,$n$是每个域的数据大小。由于指数因子,当$T$仅为中等大小时,该上限变得空洞。在这项工作中,我们分析逐步自我训练下更一般和宽松的假设,并证明了显着改善的泛化界为$\varepsilon_0+ O \left(TΔ+ T/\sqrt{n}\right) + \widetilde{O}\left(1/\sqrt{nT}\right)$,其中$Δ$是连续域之间的平均分布距离。与已有的以$T$为乘法因子的指数依赖性上界相比,我们的上界仅依赖于$T$线性和可加性.也许更有趣的是,我们的结果意味着存在一个最佳的选择$T$,最大限度地减少泛化误差,它也自然地建议一个最佳的方式来构建中间域的路径,以尽量减少源和目标之间的累积路径长度$TΔ$。为了证实我们理论的意义,我们在多个半合…
2022-07-07 cs.LG stat.ML
Data Augmentation on Graphs: A Technical Survey
Zhejiang University of Technology(浙江工业大学);City University of Hong Kong(香港城市大学)
本综述全面梳理图数据增强(GDAug)技术,按多尺度图元素分类,明确各类技术定义与细节,覆盖多类特殊图的增强方法,总结评估指标与设计准则,展望应用与未来方向。
2024-06-21 cs.LG
Unsupervised Domain Adaptation with Progressive Domain Augmentation
Carleton University(卡尔顿大学)
领域自适应的目的是利用一个标签丰富的源域学习分类器在不同的标签稀缺的目标域。当这两个领域之间存在重大分歧时,这尤其具有挑战性。本文提出了一种基于渐进域增强的无监督领域自适应方法。该方法通过域插值生成虚拟中间域,逐步增大源域,并通过在格拉斯曼流形上进行多个子空间对齐来弥合源域和目标域的分歧。我们在多个领域自适应任务上进行了实验,结果表明所提出的方法达到了最先进的性能。
2020-04-24 cs.CV cs.LG stat.ML
Data Augmentation for Graph Data: Recent Advancements
Information Technology University(信息技术大学)
基于图神经网络(GNNs)的方法最近已经成为一种流行的工具来处理图形数据,因为它们能够合并结构信息。GNN性能的唯一障碍是缺乏标记数据。由于图形数据的复杂性和非欧性,图像和文本数据的数据增强技术不能用于图形数据。这一差距迫使研究人员将重点转向图形数据的数据增强技术的发展。大多数提出的图数据增强(GDA)技术是特定于任务的。在本文中,我们调查现有的GDA技术的基础上,不同的图形任务。本调查不仅为GDA的研究提供了参考,也为其他领域的研究者提供了必要的信息。
2022-08-25 cs.LG
Reliability-Guided Adaptive Ensembling for Robust Test-Time Adaptation
School of Computer Science, Carleton University(卡尔顿大学计算机科学学院);Canada CIFAR AI Chair, Amii(加拿大CIFAR人工智能讲席,阿米研究所)
针对对抗性污染测试流中测试时自适应(TTA)的脆弱性,提出无训练的可靠性引导增强包装器SAFER,通过随机增强和相关性加权池化提高鲁棒性,并引入自适应混合扩展以保持干净性能。
2026-06-23 cs.AI cs.CV cs.LG
Single-Shot Domain Adaptation via Target-Aware Generative Augmentation
Arizona State University(亚利桑那州立大学);Lawrence Livermore National Laboratory(劳伦斯利弗莫尔国家实验室)
由于深度神经网络中的脆弱泛化,使用来自任何感兴趣目标域的数据来适应源域的模型的问题已经变得突出。虽然已经出现了几种测试时自适应技术,但在目标数据可用性有限的情况下,它们通常依赖于合成数据增强。在本文中,我们考虑了单次自适应的挑战性设置,并探索了增强策略的设计。我们认为,现有的方法所利用的增强是不足以处理大的分布偏移,因此提出了一种新的方法SiSTA(单次目标增强),首先微调生成模型从源域使用单次目标,然后采用新的采样策略策展合成目标数据。使用国家的最先进的领域自适应方法的实验,我们发现,SiSTA产生高达20\%的改进超过现有的基线下,具有挑战性的变化,在面部属性检测,它执行竞争力的Oracle模型通过训练获得一个更大的目标数据集。
2022-10-29 cs.CV cs.LG stat.ML
Panda: Test-Time Adaptation with Negative Data Augmentation
针对现有测试时自适应方法计算开销高、无法缓解图像损坏下预测偏差的问题,提出基于负数据增强的Panda方法,可低成本抑制损坏特征、提升鲁棒性,能无缝集成到现有TTA框架并显著提升性能。
2025-11-13 cs.LG
COBRA: COmBinatorial Retrieval Augmentation for Few-Shot Adaptation
University of Washington(华盛顿大学)
针对少样本自适应中检索样本冗余问题,提出基于组合互信息度量的COBRA方法,兼顾多样性与相似性,在LAION-2B上显著提升图像分类性能且开销可忽略。
2025-03-28 cs.LG
Unsupervised Domain Adaptation by Optical Flow Augmentation in Semantic Segmentation
Carnegie Mellon University Africa(卡内基梅隆大学非洲分校)
生成真实图像标签的成本很高,并且真实图像和模拟图像之间存在域差距,因此在后者上训练的模型无法适应前者。解决这个问题可以完全消除标记真实数据集的需要。类平衡的自我训练是试图减少域差距的现有技术之一。此外,用流图增强RGB在简单的语义分割中具有改进的性能,并且跨域保留几何形状。因此,通过用密集光流图增强图像,可以改进语义分割中的领域自适应。
2019-11-20 cs.CV cs.LG eess.IV
AUGCO: Augmentation Consistency-guided Self-training for Source-free Domain Adaptive Semantic Segmentation
Georgia Institute of Technology(佐治亚理工学院)
用于域自适应语义分割的大多数现代方法依赖于在自适应期间对源数据的持续访问,这可能由于计算或隐私约束而不可行。我们专注于无源领域自适应语义分割,其中一个源模型必须适应一个新的目标域只给未标记的目标数据。我们提出了增强一致性指导的自训练(AUGCO),这是一种无源自适应算法,它使用模型的像素级预测一致性,跨各种自动生成的每个目标图像的视图以及模型置信度来识别可靠的像素预测,并选择性地对这些像素进行自训练。AUGCO在3个标准的语义分割基准测试中实现了最先进的无源自适应结果,所有这些都在一个简单的实现和快速收敛的方法中实现。
2022-01-06 cs.CV cs.LG
MEMO: Test Time Robustness via Adaptation and Augmentation
UC Berkeley(加州大学伯克利分校);Stanford University(斯坦福大学)
虽然深度神经网络可以在分布内测试点上获得良好的准确性,但许多应用需要鲁棒性,即使面对输入中的意外扰动、域中的变化或分布偏移的其他来源。我们研究了测试时间鲁棒性问题,即,使用测试输入来提高模型鲁棒性。最近的先前工作已经提出了用于测试时自适应的方法,然而,它们各自引入了额外的假设,例如访问多个测试点,这阻止了广泛采用。在这项工作中,我们的目标是研究和设计方法,使模型训练过程中没有假设,并在测试时广泛适用。我们提出了一种简单的方法,可以在任何测试设置中使用的模型是概率和适应性:当提出一个测试的例子,执行不同的数据增强的数据点,然后通过最小化的熵模型的平均值,或边际,输出分布在增强(所有)的模型参数。直观地说,这个目标鼓励模型在不同的增强中做出相同的预测,从而加强这些增强中编码的不变性,同时也保持对其预测的信心。在我们的实验中,我们评估了两个基线ResNet模型,两个鲁棒的ResNet-50模型和一个鲁棒的视觉Transformer模型,我们证明了这种方法比标准模型评估的准确率提高了1 - 8%,并且通常优于先前的增强和自适应策略。对于只有一个测试点可用的设置,我们在ImageNet-C、ImageNet-R以及ResNet-50模型中的ImageNet-A分布偏移基准测试中获得了最先进的结果。
2022-10-10 cs.CV cs.LG
Shuffle Augmentation of Features from Unlabeled Data for Unsupervised Domain Adaptation
Xpeng motors(小鹏汽车);Nanyang Technological University(南洋理工大学);University of Pennsylvania(宾夕法尼亚大学);Microsoft(微软)
无监督领域自适应(UDA)是迁移学习的一个分支,在目标样本的标签不可用的情况下,近年来在对抗训练模型的帮助下得到了广泛的研究和发展。虽然现有的UDA算法能够引导神经网络提取可转移的和有区别的特征,但分类器仅仅是在标记的源数据的监督下训练的。由于源域和目标域之间不可避免的差异,分类器很难知道目标分类边界。在本文中,洗牌增强功能(SAF),一种新的UDA框架,提出了解决这个问题,通过提供监督信号的分类器从目标特征表示。SAF从目标样本中学习,自适应地提取类别感知的目标特征,并隐式引导分类器找到全面的类别边界。大量实验表明,SAF模块可以集成到任何现有的对抗UDA模型,以实现性能改进。
2022-01-28 cs.CV cs.LG
DE-PADA: Personalized Augmentation and Domain Adaptation for ECG Biometrics Across Physiological States
Technion Israel Institute of Technology(以色列理工学院)
DE-PADA通过个性化增强与域自适应双专家模型,结合PQRS和ST间期特征提取,有效缓解心率变化导致的心电识别性能下降,在运动后识别率上取得显著提升。
2025-02-07 cs.LG
What Has Been Overlooked in Contrastive Source-Free Domain Adaptation: Leveraging Source-Informed Latent Augmentation within Neighborhood Context
The University of British Columbia(不列颠哥伦比亚大学);Department of Mechanical Engineering(机械工程系);Department of Computer Science(计算机科学系)
针对无源域自适应中难以估计域差距的问题,本文提出一种基于源预训练模型引导的邻域潜在特征增强方法,通过提升正键信息量优化对比学习,在多个基准数据集上超越现有方法。
2024-12-18 cs.CV cs.LG
Data Augmentation-Based Unsupervised Domain Adaptation In Medical Imaging
Pioneer Centre for AI(先锋人工智能中心);University of Copenhagen(哥本哈根大学)
本文提出一种基于MRI特定数据增强的无监督域适应方法,用于提升脑MRI分割在不同数据域下的鲁棒性,并通过多数据集、多模态和多任务实验证明其在多数情况下优于现有最先进方法。
2023-08-08 cs.CV cs.LG eess.IV
Generation, augmentation, and alignment: A pseudo-source domain based method for source-free domain adaptation
Nanjing University(南京大学)
传统的无监督领域自适应(UDA)方法需要同时访问标记的源样本和未标记的目标样本来训练模型。而在某些情况下,由于数据隐私和安全性,源样本不可用于目标域。为了克服这一挑战,近年来,无源领域自适应(SFDA)引起了研究人员的注意,其中既有训练的源模型和未标记的目标样本。现有的SFDA方法要么采用基于伪标签的策略,要么产生更多的样本。然而,这些方法没有显式地减少跨域的分布偏移,这是良好自适应的关键。虽然没有源样本可用,但幸运的是,我们发现一些目标样本与源域非常相似,可以用来近似源域。该近似域被表示为伪源域。在本文中,受此观察的启发,我们提出了一种新的方法的基础上的伪源域。该方法首先生成并扩展伪源域,然后采用基于伪标签策略的四种新损失的分布对齐。其中,在伪源域和剩余目标域之间引入域对抗损失,以减小分布偏移。在三个真实数据集上的实验结果验证了该方法的有效性。
2021-09-09 cs.LG
Unifying Graph Contrastive Learning via Graph Message Augmentation
Anhui University(安徽大学)
本文提出图消息增强(GMA)作为统一现有图数据增强方法的通用方案,并基于此构建图消息对比学习(GMCL)框架,为图自监督学习提供了新视角与更有效的增强手段。
2024-01-08 cs.CV cs.LG
Data Augmentation with norm-VAE for Unsupervised Domain Adaptation
Durham University(杜伦大学);University of Essex(埃塞克斯大学)
从一个新的角度研究了图像分类中的无监督领域自适应问题。与大多数现有的对齐数据分布或学习域不变特征的方法相比,我们直接在高维均匀特征空间内学习统一的分类器,而无需显式的领域自适应。为此,我们采用有效的选择性伪标记(SPL)技术,以利用目标域中的未标记的样品。令人惊讶的是,计算简单的分类器可以很好地处理源域和目标域之间的数据分布差异(例如,浅层多层感知器)在原始特征空间中训练。此外,我们提出了一种新的生成模型norm-VAE生成合成特征的目标域作为一个数据增强策略,以加强分类器的训练。在几个基准数据集上的实验结果表明,伪标签策略本身可以导致与许多最先进的方法相当的性能,而使用norm-VAE进行特征增强可以进一步提高性能在大多数情况下。因此,我们提出的方法(即naive-SPL和norm-VAE-SPL)可以实现新的最先进的性能,在Digits-Caltech和ImageCLEF-DA数据集上的平均准确率分别为93.4%和90.4%,在Digits,Digit 31和Digit-Home数据集上的性能相当,平均准确率分别为97.2%,87.6%和67.9%。
2020-12-01 cs.CV cs.LG
A Study of Enhancement, Augmentation, and Autoencoder Methods for Domain Adaptation in Distant Speech Recognition
Massachusetts Institute of Technology(麻省理工学院)
在近距离说话语音上训练的语音识别器不能推广到远距离语音,并且单词出错率降级可以高达40%绝对值。大多数研究集中在解决遥远的语音识别作为一个单独的问题,留下很少的努力,以适应近距离说话的语音识别器,以遥远的语音。在这项工作中,我们回顾了几种方法从领域自适应的角度来看。这些方法,包括语音增强,多条件训练,数据增强,和自动编码器,都涉及域之间的数据转换。我们在AMI数据集上进行实验,这些方法可以在相同的受控设置下实现。这些方法在各自的假设下导致不同程度的改善。本文的目的是量化和表征这两个领域之间的性能差距,为研究语音识别器从近距离语音到远距离语音的适应性奠定基础。我们的研究结果也对提高远距离语音识别有一定的意义。
2018-06-13 cs.CL cs.LG cs.SD
Self-supervised Augmentation Consistency for Adapting Semantic Segmentation
TU Darmstadt(达姆施塔特工业大学)
我们提出了一种方法来领域自适应的语义分割,这是既实用又高度准确。与以前的工作相比,我们放弃了使用计算涉及的对抗目标,网络合奏和风格转移。相反,我们采用标准的数据增强技术$-$光度噪声,翻转和缩放$-$,并确保这些图像转换的语义预测的一致性。我们在一个轻量级的自监督框架中开发了这个原则,该框架在共同进化的伪标签上进行训练,而不需要繁琐的额外训练轮。从从业者的角度来看,我们的方法很简单,非常有效。我们实现了适应后的最先进的分割精度的显着改善,一致的骨干架构和适应场景的不同选择。
2021-04-30 cs.CV cs.LG
Augmentation based unsupervised domain adaptation
King’s College London(伦敦国王学院);UCL(伦敦大学学院);Cerebriu A/S(Cerebriu公司);University of Copenhagen(哥本哈根大学)
在医学图像分析中插入深度学习,导致在疾病分类以及异常检测和分割等几个应用中开发了最先进的策略。然而,即使是最先进的方法也需要大量不同的数据来概括。因为在现实的临床场景中,数据采集和注释是昂贵的,所以在小的和不具有代表性的数据上训练的深度学习模型在部署在与用于训练的数据不同的数据(例如来自不同扫描仪的数据)中时往往表现出色。在这项工作中,我们提出了一个域自适应方法来缓解这个问题的分割模型。我们的方法利用了对抗域适应和一致性训练的特性,以实现更强大的适应。使用两个带有白质高强度(WMH)注释的数据集,我们证明了所提出的方法即使在个别策略往往失败的角落情况下也能提高模型的泛化能力。
2022-02-23 cs.CV cs.LG eess.IV
Adversarial and Random Transformations for Robust Domain Adaptation and Generalization
National Innovation Institute of Defense Technology(国防科技创新研究院)
数据增强已被广泛用于在训练深度神经网络时提高泛化能力。最近的工作表明,使用最坏情况下的转换或对抗增强策略可以显着提高准确性和鲁棒性。然而,由于图像变换的不可微性质,必须应用诸如强化学习或演化策略的搜索算法,这对于大规模问题在计算上是不实用的。在这项工作中,我们表明,通过简单地应用随机数据增强的一致性训练,可以获得领域自适应(DA)和泛化(DG)的最先进的结果。为了进一步提高对抗样本的准确性和鲁棒性,提出了一种基于空间Transformer网络的可微对抗数据增强方法。基于组合对抗和随机变换的方法在多个DA和DG基准数据集上的性能优于最先进的方法。此外,所提出的方法显示出良好的鲁棒性腐败,这也是常用的数据集上验证。
2022-11-13 cs.CV cs.LG
Building Manufacturing Deep Learning Models with Minimal and Imbalanced Training Data Using Domain Adaptation and Data Augmentation
Purdue University(普渡大学);National Taiwan University(台湾大学)
本文提出一种域适应与自编码器数据增强相结合的方法,在标注样本极少且类别不平衡的条件下实现晶圆缺陷检测,实验证明其性能优于其他算法。
2023-05-31 cs.CV cs.LG
Toward Understanding Generative Data Augmentation
Gaoling School of Artificial Intelligence, Renmin University of China(中国人民大学高瓴人工智能学院);School of Software, Shandong University(山东大学软件学院)
本文从理论上分析了生成式数据增强对分类学习的影响,建立了非独立同分布设定下的稳定性界,并在高斯混合模型和生成对抗网络上证明其在小训练集时能改善学习保证。
2023-05-27 cs.LG stat.ML
DG-TTA: Out-of-domain Medical Image Segmentation through Augmentation and Descriptor-driven Domain Generalization and Test-Time Adaptation
Dampsoft GmbH(Dampsoft有限公司)
本文提出DG-TTA方法,通过结合泛化SSC描述符与GIN强度增强,实现领域泛化预训练和测试时自适应,显著提升了跨域医学图像(如CT到MRI)的分割性能。
2025-04-01 cs.CV cs.LG
Ensembling and Test Augmentation for Covid-19 Detection and Covid-19 Domain Adaptation from 3D CT-Scans
Junia(朱尼亚学院);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);University of the Basque Country UPV/EHU(巴斯克大学)
本文针对COV19D竞赛,提出基于PDAtt-Unet分割和多种3D CNN骨干网络集成及测试增强的方法,用于新冠肺炎检测与领域自适应,相比基线F1分数提升14%。
2024-03-17 cs.CV cs.LG eess.IV
Retrieve-then-Adapt: Retrieval-Augmented Test-Time Adaptation for Sequential Recommendation
Shenzhen Technology University(深圳技术大学);City University of Hong Kong(香港城市大学);McGill University(麦吉尔大学);Shenzhen University(深圳大学)
本文提出ReAd框架,通过检索用户偏好信号动态适应序列推荐模型,提升测试时适应性能,实验表明优于现有方法。
2026-08-17 cs.IR cs.LG
Latent Conditional Diffusion-based Data Augmentation for Continuous-Time Dynamic Graph Model
International Digital Economy Academy(国际数字经济学院);IDEA Research(IDEA研究院);Jiangxi Normal University(江西师范大学)
针对连续时间动态图模型面临噪声和历史数据有限的问题,提出基于潜在条件扩散的数据增强方法Conda,通过生成增强的历史邻居嵌入并交替训练,在六个真实数据集上持续提升性能。
2024-07-20 cs.AI cs.LG
One Size does not Fit All: Heterogeneous Latent Space Alignment for Unsupervised Domain Adaptation
Duke University(杜克大学);National Technical University of Athens(雅典国家技术大学)
提出ADualVUOT框架,结合双编码器VAE与连续归一化流增强潜在表达,利用非平衡最优传输(GGW距离)对齐域,并引入对抗增强提升鲁棒性,在医学图像分割中优于现有方法。
2026-06-23 cs.LG
Enhancing Autonomous Vehicle Perception in Adverse Weather through Image Augmentation during Semantic Segmentation Training
Henry M. Gunn High School(亨利·M·冈恩高中);UC Berkeley(加州大学伯克利分校);University of Michigan(密歇根大学)
针对仅晴天数据训练的语义分割模型恶劣天气性能差的问题,本研究用CARLA采集数据,在UNet训练中加入雨、雾、亮度增强,证实其可提升夜间恶劣天气分割性能,但仍不及真实天气数据训练的模型,为后续域适应优化提供方向。
2024-08-14 cs.AI cs.CV cs.LG
Gradient-based Data Augmentation for Semi-Supervised Learning
NS Solutions Corporation(NS解决方案公司)
在半监督学习(SSL)中,一种称为一致性正则化(CR)的技术实现了高性能。实践证明,CR中使用的数据的多样性对于CR获得高鉴别性能的模型是极其重要的。我们提出了一种新的数据增强(基于约束的数据增强(GDA)),它是确定性地计算从图像像素值梯度的后验概率分布,即模型输出。我们的目标是通过利用三种类型的GDA来确保CR的有效数据多样性。另一方面,它已被证明是有效的标记数据和未标记数据的混合方法在SSL。我们提出了一个SSL方法命名为MixGDA的各种mixup方法和GDA相结合。MixGDA实现的区分性能与SSL研究中用作标准的13层CNN进行了评估。因此,对于CIFAR-10(4000个标签),MixGDA实现了与有史以来最佳性能相同的性能水平。对于SVHN(250个标签、500个标签和1000个标签)和CIFAR-100(10000个标签),MixGDA实现了最先进的性能。
2020-04-02 cs.CV cs.LG stat.ML
Fine-Grained Unsupervised Cross-Modality Domain Adaptation for Vestibular Schwannoma Segmentation
Radboud University Medical Center(拉德堡德大学医学中心);The Netherlands Cancer Institute(荷兰癌症研究所);Macao Polytechnic University(澳门理工大学)
本文提出一种细粒度无监督跨模态域适应框架,通过向量控制生成器合成伪图像并搜索特征字典进行数据增强,显著提升了前庭神经鞘瘤和耳蜗的分割性能与鲁棒性。
2023-11-25 cs.CV cs.LG eess.IV
Rethinking the Flow-Based Gradual Domain Adaptation: A Semi-Dual Optimal Transport Perspective
University of Science and Technology of China(中国科学技术大学)
针对渐进域适应中中间域构建问题,提出熵正则化半对偶非平衡最优传输框架,避免似然估计,实现稳定训练并提升性能。
2026-06-09 cs.LG