Improving Mixup Calibration with Wasserstein Distributionally Robust Optimization
Department of Mathematics & Statistics（数学与统计学系）；Boston University（波士顿大学）；Department of Electrical and Computer Engineering, Division of Systems Engineering（电气与计算机工程系，系统工程 division）；Department of Biomedical Engineering（生物医学工程系）；Faculty of Computing & Data Sciences（计算与数据科学学院）
本文提出DRO-Augment框架，通过协同Wasserstein分布鲁棒优化与数据增强策略，显著提升了深度神经网络在数据损坏和对抗攻击下的鲁棒性，并保持了干净数据集上的准确率，同时提供了理论泛化误差界限。
2026-10-07 cs.CV cs.LG stat.ML
Hyperspectral Image Super-Resolution with Spectral Mixup and Heterogeneous Datasets
CVL, ETH Zurich（苏黎世联邦理工学院计算机视觉实验室）；PSI, KU Leuven（鲁汶大学PSI实验室）
本文研究了高光谱图像的超分辨率。HSI SR的特征在于高维数据和有限数量的训练样本。这加剧了神经网络的不良行为，例如记忆和对分布外样本的敏感性。这项工作解决了这些问题，有三个贡献。首先，我们观察到HSI SR和RGB图像SR是相关的，并开发了一种新的多任务网络来联合训练它们，以便辅助任务RGB图像SR可以提供额外的监督。其次，我们提出了一个简单，但有效的数据增强例程，称为频谱混合，构建有效的虚拟训练样本，以扩大训练集。最后，我们将网络扩展到半监督设置，以便它可以从仅包含低分辨率HSI的数据集中学习。有了这些贡献，我们的方法能够从异构数据集中学习，并提高了对大量HD HSI训练样本的要求。在四个标准数据集上的大量实验表明，我们的方法明显优于现有方法，并支持我们的贡献的相关性。代码已在https://github.com/kli8996/HSISR上提供。
2021-04-03 cs.CV
Semantic-Aware Mixup for Domain Generalization
University of Science and Technology of China（中国科学技术大学）；Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院）
本文提出语义感知 mixup（SAM），根据语义与领域信息决定是否对傅里叶相位谱和幅值谱分别执行 mixup，以缓解源分布难以拟合的问题，并在多个领域泛化基准上验证其有效性。
2023-04-12 cs.CV
Label Denoising with Large Ensembles of Heterogeneous Neural Networks
Steklov Mathematical Institute（斯捷克洛夫数学研究所）；Neuromation OU；Samsung AI Center（三星人工智能中心）
尽管最近在基于各种卷积架构的计算机视觉方面取得了进展，但视频理解仍然是一个重要的挑战。在这项工作中，我们提出并讨论了基于YouTube-8 M数据集的大规模视频分类（标记）问题的顶级解决方案。我们展示并比较了预处理、数据增强、模型架构和模型组合的不同方法。我们的最终模型是基于一个大的合奏视频和帧级模型，但适合而有限的硬件限制。我们采用了一种基于知识蒸馏的方法来处理原始数据集中的噪声标签，并采用最近发展起来的混合技术来改进基本模型。
2019-01-15 cs.CV cs.LG
Spectral Adversarial MixUp for Few-Shot Unsupervised Domain Adaptation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
针对少样本无监督域适应，提出基于频谱敏感度图的谱对抗混合方法，生成目标风格图像以提升模型泛化能力。
2023-09-03 cs.CV cs.LG eess.IV
Adversarial Vertex Mixup: Toward Better Adversarially Robust Generalization
Seoul National University（首尔大学）
对抗性示例会导致神经网络产生高置信度的错误输出。虽然对抗性训练是对抗性示例最有效的防御形式之一，但不幸的是，在对抗性训练中，测试准确率和训练准确率之间存在很大的差距。在本文中，我们识别了对抗性特征过拟合（AFO），这可能会导致对抗性鲁棒性差的泛化，并且我们证明了对抗性训练可以在鲁棒性泛化方面超过最佳点，从而导致我们简单高斯模型中的AFO。考虑到这些理论结果，我们提出了软标记作为AFO问题的解决方案。此外，我们提出了对抗顶点混淆（AVmixup），一个软标记的数据增强的方法，以提高对抗强大的泛化。我们通过在CIFAR10、CIFAR100、SVHN和Tiny ImageNet上的实验来补充我们的理论分析，并表明AVmixup显著提高了鲁棒泛化性能，降低了标准准确性和对抗鲁棒性之间的权衡。
2020-07-27 cs.CV
Continual Self-Supervised Learning with Masked Autoencoders in Remote Sensing
Faculty of Electrical Engineering and Computer Science, Technische Universität Berlin（电气工程与计算机科学学院，柏林技术大学）；BIFOLD - Berlin Institute for the Foundations of Learning and Data（柏林学习与数据基础研究所）
针对遥感中持续学习依赖大量标注数据的问题，提出持续自监督学习方法CoSMAE，通过数据mixup与模型mixup知识蒸馏在数据和模型层面正则化掩码自编码器，有效缓解灾难性遗忘，性能提升达4.94%。
2025-06-26 cs.CV
Achieving Domain Generalization in Underwater Object Detection by Domain Mixup and Contrastive Learning
Peking University（北京大学）；Chongqing University of Technology（重庆理工大学）；Peng Cheng Laboratory（鹏城实验室）
现有的水下目标检测方法在面对复杂的水下环境引起的区域漂移时，检测性能严重下降。由于数据集中领域数量的限制，深度检测器很容易记住少数几个已知的领域，导致泛化能力较低。提高领域泛化性能有两种常见的思路。首先，可以推断在尽可能多的域上训练的检测器是域不变的。第二，对于不同领域中语义内容相同的图像，其隐藏特征应该是等价的。本文进一步挖掘这两个想法，并提出了一个领域泛化框架（命名为DMC），学习如何从域混淆和对比学习跨领域的推广。首先，基于水下图像的形成，一幅图像在一个水下环境中是另一个水下环境的线性变换。因此，风格转移模型，它输出一个线性变换矩阵，而不是整个图像，提出了从一个源域到另一个域的图像转换，丰富的领域多样性的训练数据。其次，混合操作插值不同的域上的特征水平，采样新的域上的域流形。第三，对比损失被选择性地应用于来自不同领域的特征，以迫使模型学习领域不变特征，但保留区分能力。使用我们的方法，检测器将对域偏移具有鲁棒性。此外，一个领域泛化基准测试S-UODAC 2020的检测，以衡量我们的方法的性能。在S-UODAC 2020和两个目标识别基准（PACS和VLCS）上的综合实验表明，该方法能够学习领域不变表示，并且优于其他领域泛化方法.
2023-01-18 cs.CV
Distance Transform Guided Mixup for Alzheimer's Detection
Faculty of Engineering and Natural Sciences (VPALab), Sabanci University, Istanbul, Türkiye（工程与自然科学学院（VPALab），Sabanci大学，伊斯坦布尔，土耳其）；Center of Excellence in Data Analytics (VERIM), Sabanci University, Istanbul, Türkiye（数据分析卓越中心（VERIM），Sabanci大学，伊斯坦布尔，土耳其）
针对医学数据集类别不平衡等问题，本研究提出基于距离变换引导的mixup方法，通过分离并组合MRI扫描的多层结构生成增强图像，有效提升了阿尔茨海默病检测在ADNI和AIBL数据集上的单域泛化性能。
2025-05-28 cs.CV
Better Pseudo-label: Joint Domain-aware Label and Dual-classifier for Semi-supervised Domain Generalization
Nanjing University（南京大学）；National Institute of Healthcare Data Science, Nanjing University（南京大学健康医疗大数据国家研究院）；Southeast University（东南大学）
领域泛化（DG）是一种新提出的学习范式，其目标是将训练好的模型直接推广到未知的领域。以往的DG模型在训练过程中通常需要足够数量的来自观测源域的注释样本。在本文中，我们放宽了这一要求，充分的注释和调查半监督领域泛化（SSDG），只有一个源域是完全注释与其他领域完全未标记的训练过程中。为了解决观察到的源域之间的域间隙和预测看不见的目标域的挑战，我们提出了一种新的深度框架，通过联合域感知标签和双分类器来产生高质量的伪标签。具体地说，为了预测准确的伪标签下域移位，域感知的伪标签模块的开发。此外，考虑到泛化和伪标记之间的目标不一致：前者防止过拟合所有源域，而后者可能过拟合未标记的源域以获得高精度，我们采用双分类器在训练过程中独立地执行伪标记和领域泛化。当为未标记的源域生成准确的伪标签时，应用域混合操作来在标记的域和未标记的域之间增加新的域，这有利于提高模型的泛化能力。在公开的DG基准数据集上的广泛结果表明了我们提出的SSDG方法的有效性。
2022-08-17 cs.CV
HiMix: Hierarchical Artifact-aware Mixup for Generalized Synthetic Image Detection
University of Electronic Science and Technology of China（电子科技大学）；Hainan University（海南大学）
HiMix通过扩展训练分布和促进对抗感知表示，提升合成图像检测的泛化能力，实验表明其在多个基准上达到最先进的性能。
2026-04-30 cs.CV
DomCLP: Domain-wise Contrastive Learning with Prototype Mixup for Unsupervised Domain Generalization
Sungkyunkwan University（成均馆大学）
针对现有自监督域泛化方法难提取域无关特征、特征对齐假设强的问题，提出结合逐域对比学习和原型混合学习的DomCLP方法，在多数据集不同标签比例下性能优于SOTA。
2024-12-12 cs.CV
Mixup Helps Understanding Multimodal Video Better
School of Computer Science and Engineering, Southeast University, Nanjing, China（计算机科学与工程学院，东南大学，南京，中国）；Key Laboratory of New Generation Artificial Intelligence Technology and Its Interdisciplinary Applications (Southeast University), Ministry of Education, China（新一代人工智能技术及其跨学科应用关键实验室（东南大学），教育部，中国）
针对多模态视频模型中强模态主导导致的过拟合与模态不平衡问题，提出 MM 及改进的 B-MM 方法，通过动态调整模态混合比例提升泛化能力与鲁棒性。
2025-10-13 cs.CV
MixupE: Understanding and Improving Mixup from Directional Derivative Perspective
National University of Singapore（新加坡国立大学）；Universite de Montreal（蒙特利尔大学）；Mila（米拉研究所）；Aalto University（阿尔托大学）；Google Brain（谷歌大脑）
本文从方向导数视角分析Mixup，发现其隐式正则化所有阶方向导数，据此提出改进版MixupE，在图像、表格、语音和图等任务上提升泛化性能，如ImageNet top-1准确率提高0.8%。
2023-10-16 cs.CV cs.LG
SageMix: Saliency-Guided Mixup for Point Clouds
Korea University（高丽大学）；Meta Reality Labs（Meta现实实验室）
数据增强是提高深度学习模型泛化能力的关键。Mixup是一种简单且广泛使用的数据增强技术，已被证明可以有效缓解过拟合和数据稀缺问题。此外，最近在图像域中的显著性感知Mixup的研究表明，保留区分部分有利于提高泛化性能。然而，这些基于Mixup的数据增强在3D视觉中，特别是在点云中的探索不足。在本文中，我们提出了SageMix，一个显着性指导的混合点云，以保持显着的局部结构。具体来说，我们从两个点云中提取显著区域，并将它们平滑地组合成一个连续的形状。通过重新加权显著性分数的简单顺序采样，SageMix保留了显著区域的局部结构。大量的实验表明，该方法始终优于现有的混合方法在各种基准点云数据集。使用PointNet++，我们的方法在3D Warehouse数据集（MN40）和ScanObjectNN中分别实现了2.6%和4.0%的准确率增益。除了泛化性能，SageMix还提高了鲁棒性和不确定性校准。此外，当采用我们的方法的各种任务，包括部分分割和标准的2D图像分类，我们的方法取得了竞争力的表现。
2022-10-13 cs.CV cs.LG
Open Domain Generalization with Domain-Augmented Meta-Learning
Tsinghua University（清华大学）
利用可用的数据集来学习对未知领域具有高泛化能力的模型对于计算机视觉非常重要，特别是当未知领域的注释数据不可用时。我们研究了一个新的和实际的问题开放领域泛化（OpenDG），从不同的源域学习，以实现高性能的一个未知的目标域，其中每个单独的源域和目标域的分布和标签集可以是不同的。该问题可以普遍应用于不同的源域，并广泛适用于现实世界的应用。我们提出了一个域增强元学习框架来学习开放域的可泛化表示。我们通过新的Dirichlet混合在特征级别上扩展域，并通过蒸馏软标签在标签级别上扩展域，从而用缺失的类和其他领域知识补充每个域。我们通过设计新的元学习任务和损失来进行跨域元学习，以同时保留域唯一知识和跨域概括知识。在多个领域数据集上的实验结果表明，所提出的领域增强元学习（DAML）方法在未知领域识别方面优于现有方法。
2021-04-08 cs.CV cs.LG
FIXED: Frustratingly Easy Domain Generalization with Mixup
Tsinghua University（清华大学）；Microsoft（微软）；Nanyang Technological University（南洋理工大学）；University of North Carolina（北卡罗来纳大学）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出 FIXED 方法，通过域不变特征 Mixup 和增强判别能力解决域泛化问题，在七个数据集上平均超越最佳基线 6.5% 的测试准确率。
2023-11-28 cs.AI cs.CV cs.LG
Co-Mixup: Saliency Guided Joint Mixup with Supermodular Diversity
Seoul National University（首尔国立大学）；Neural Processing Research Center（神经处理研究中心）
虽然深度神经网络在拟合训练分布方面表现出很好的性能，但提高网络对测试分布的泛化性能和对输入扰动敏感性的鲁棒性仍然是一个挑战。尽管已经提出了许多基于混淆的增强策略来部分地解决它们，但是从优化的角度来看，如何最好地利用每个输入数据内的监督信号来进行混淆仍然是不清楚的。我们提出了一个新的角度对批量混淆和制定一批混淆数据的最佳建设最大化的数据显着性措施，每个单独的混淆数据，并鼓励超模之间的多样性建设混淆数据。这导致了一个新的离散优化问题，最大限度地减少子模函数之间的差异。我们还提出了一个有效的模块近似为基础的迭代子模块最小化算法，每个小批量有效的混合计算适合于基于小批量的神经网络训练。我们的实验表明，所提出的方法实现了最先进的泛化，校准，和弱监督定位结果相比，其他混淆的方法。源代码可在https://github.com/snu-mllab/Co-Mixup上获得。
2021-02-05 cs.AI cs.CV cs.LG
Enhancing Generalization in Data-free Quantization via Mixup-class Prompting
HyperAccel；KRAFTON；SK Telecom；Rebellions；Hanyang University（翰阳大学）
针对无数据量化中单类提示生成图像多义性导致量化模型泛化性差的问题，提出混合类别提示策略，融合多类标签生成多样鲁棒的合成数据，提升PTQ泛化性与稳定性，在多种模型及极低比特量化任务上取得SOTA结果。
2025-07-29 cs.AI cs.CV
An Empirical Analysis of the Impact of Data Augmentation on Knowledge Distillation
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
使用经验风险最小化训练的深度学习模型的泛化性能可以通过使用数据增强策略（如简单转换）或使用混合样本来显著提高。我们试图实证分析的影响，这种策略的教师和学生之间的模型的蒸馏设置的泛化转移。我们观察到，如果教师使用任何混合样本增强策略（如MixUp或CutMix）进行训练，则从中提取的学生模型的泛化能力会受损。我们假设这样的策略限制了模型学习特定于示例的特征的能力，导致在蒸馏过程中监督信号的质量损失。我们提出了一种新的类歧视度量定量测量这种二分法的性能，并将其链接到网络的潜在空间上的不同策略引起的歧视能力。
2020-06-09 cs.AI cs.CV cs.LG
Bidirectional Domain Mixup for Domain Adaptive Semantic Segmentation
Hanbat National University（韩巴国立大学）；SI Analytics；Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
Mixup提供插值训练样本，并允许模型获得更平滑的决策边界，以实现更好的泛化。该思想可以自然地应用于领域自适应任务，在该任务中，我们可以混合源样本和目标样本以获得领域混合样本以用于更好的自适应。然而，从分类到分割的思想的扩展（即，结构化输出）是不平凡的。本文系统地研究了领域自适应语义分割任务中混淆的影响，提出了一种简单有效的混淆策略--双向领域混淆（BDM）。具体来说，我们通过两步实现了域混合：剪贴。给定从任何自适应技术训练的预热模型，我们转发源样本和目标样本，并执行简单的基于阈值的不自信区域（切割）。然后，我们用其他域区域补丁（粘贴）填充丢弃的区域。在这样做时，我们共同考虑类分布，空间结构和伪标签置信度。基于我们的分析，我们发现BDM通过剪切留下域可转移区域，通过粘贴平衡了类集级的类分布，同时保留了自然场景上下文。我们将我们的建议与各种最先进的适应模型相结合，并持续观察到显着的改善。我们还提供了广泛的消融实验，以经验验证我们的框架的主要组成部分。访问我们的项目页面，代码在https://sites.google.com/view/bidirectional-domain-mixup
2023-03-17 cs.CV
SelfReg: Self-supervised Contrastive Regularization for Domain Generalization
Kookmin University（国民大学）；NAVER Corp.（NAVER公司）；Korea University（高丽大学）
一般来说，深度学习的实验环境假设训练和测试数据集是从相同的分布中采样的。然而，在现实世界的情况下，两个数据集之间的分布差异，域转移，可能会发生，这成为阻碍模型泛化性能的主要因素。解决这一问题的研究领域称为领域泛化，它通过显式或隐式地提取领域不变特征来解决领域迁移问题。在最近的研究中，基于对比学习的领域泛化方法已经被提出并取得了很高的性能.这些方法需要对负数据对进行采样。然而，对比学习的性能从根本上取决于否定数据对的质量和数量。为了解决这个问题，我们提出了一种新的正则化方法领域泛化的基础上对比学习，自监督对比正则化（SelfReg）。该方法只使用正数据对，从而解决了负数据对抽样带来的各种问题。此外，我们提出了一个类特定的域扰动层（CDPL），这使得它可以有效地应用混合增强，即使只有正数据对使用。实验结果表明，SelfReg所采用的技术以兼容的方式对性能做出了贡献。在最近的基准测试中，DomainBed，所提出的方法显示出与传统的最先进的替代品相当的性能。代码可在https://github.com/dnap512/SelfReg上获得。
2021-04-20 cs.AI cs.CV
Generalizable Medical Image Segmentation via Random Amplitude Mixup and Domain-Specific Image Restoration
Nanjing University（南京大学）；Southeast University（东南大学）
对于医学图像分析，由于不同数据采集策略之间的差异，在一个或多个域上训练的分割模型缺乏对未知域的泛化能力。我们认为，在分割性能的退化，主要是由于过拟合的源域和域移动。为此，我们提出了一种新的通用的医学图像分割方法。具体来说，我们设计我们的方法作为一个多任务的范例相结合的分割模型与自我监督域特定的图像复原（DSIR）模块模型正则化。我们还设计了一个随机幅度混合（RAM）模块，它合并不同域图像的低电平频率信息来合成新的图像。为了指导我们的模型抵抗域转移，我们引入了语义一致性损失。我们证明了我们的方法在两个公共的可推广的医学图像分割基准上的性能，这验证了我们的方法可以达到最先进的性能。
2022-08-08 cs.CV
Multi-Sample $ζ$-mixup: Richer, More Realistic Synthetic Samples from a $p$-Series Interpolant
Simon Fraser University（西蒙弗雷泽大学）；Hinge Health（Hinge Health公司）
现代深度学习训练程序依赖于模型正则化技术，例如数据增强方法，这些方法生成的训练样本增加了数据的多样性和标签信息的丰富性。最近流行的方法mixup使用原始样本对的凸组合来生成新样本。然而，正如我们在实验中所示，混淆可能会产生不期望的合成样本，其中数据是从流形上采样的，并且可能包含不正确的标签。我们提出$ζ$ -mixup，一个泛化的mixup与可证明和可论证的理想属性，允许凸组合的$N \geq 2$样本，导致更现实和多样化的输出，将信息从$N$原始样本通过使用$p$系列插值。我们表明，相比mixup，$ζ$ -mixup更好地保留了原始数据集的内在维度，这是训练可推广模型的理想属性。此外，我们表明，我们的实施$ζ$ -mixup比mixup更快，和控制合成和24个真实世界的自然和医学图像分类数据集的广泛评估表明，$ζ$ -mixup优于mixup和传统的数据增强技术。
2022-04-07 cs.CV cs.LG
Mixup Inference: Better Exploiting Mixup to Defend Adversarial Attacks
Tsinghua University（清华大学）；RealAI（瑞莱智慧）
人们已经广泛认识到，对抗性示例可以很容易地欺骗深度网络，这主要源于输入示例附近的局部非线性行为。在训练过程中引入mixup，引入了训练样本之间的全局线性行为，为提高模型的泛化性能和对抗性扰动的鲁棒性提供了一种有效的机制。然而，在以前的工作中，混合训练的模型只是被动地防御对抗攻击的直接分类的输入，其中诱导的全局线性没有得到很好的利用。也就是说，由于对抗性扰动的局部性，通过模型预测的全局性主动打破局部性会更有效。受简单几何直觉的启发，我们为混合训练模型开发了一个推理原理，称为混合推理（MI）。MI将输入与其他随机干净样本混合，如果输入是对抗性的，则可以收缩和转移等效扰动。我们在CIFAR-10和CIFAR-100上的实验表明，MI可以进一步提高由mixup及其变体训练的模型的对抗鲁棒性。
2020-02-20 cs.CV cs.LG stat.ML
On the benefits of defining vicinal distributions in latent space
IIT Hyderabad（印度理工学院海得拉巴分校）
邻位风险最小化（VRM）原理是经验风险最小化（ERM）的一个变体，它用邻位函数代替狄拉克质量。有强有力的数值和理论证据表明，VRM优于ERM方面的推广，如果适当的邻域功能选择。混合训练（MT）是一种常用的邻域分布方法，它通过在训练样本之间引入全局线性行为来提高模型的泛化性能。除了泛化之外，最近的研究表明，混合训练的模型对输入扰动/损坏相对鲁棒，同时比非混合模型校准得更好。在这项工作中，我们研究了在生成模型的潜在空间中定义这些邻近分布的好处，而不是在输入空间本身。我们提出了一种新的方法- \textit{VarMixup (Variational Mixup)} -通过使用潜在的流形数据，以更好地采样混淆图像。我们对CIFAR-10，CIFAR-100和Tiny-ImageNet的实证研究表明，通过在VAE学习的潜在流形中执行混合来训练的模型本质上对各种输入损坏/扰动更具鲁棒性，校准得更好，并且表现出更多的局部线性损失景观。
2021-10-18 cs.CV cs.LG stat.ML
SAGE: Saliency-Guided Mixup with Optimal Rearrangements
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Samsung AI Centre Toronto（三星多伦多人工智能中心）；Borealis AI（Borealis人工智能公司）；York University（约克大学）
数据增强是通过减少过拟合和提高泛化能力来训练精确模型的关键要素。对于图像分类，最流行的数据增强技术的范围从简单的光度和几何变换，到更复杂的方法，使用视觉显着性来制作新的训练样本。随着增强方法变得越来越复杂，它们提高测试精度的能力也会提高，但正如本文所示，这种方法变得繁琐、效率低下，并导致领域泛化较差。这激发了一种新的增强技术，该技术允许高精度增益，同时简单、有效（即，最小的计算开销）和可推广。为此，我们引入了具有最佳重排的显着性引导混合（SAGE），它通过使用视觉显着性作为指导来重新排列和混合图像对来创建新的训练样本。通过显式地利用显着性，SAGE促进了有区别的前景对象，并产生了对训练有用的信息丰富的新图像。我们在CIFAR-10和CIFAR-100上证明，SAGE在更高效的同时实现了更好或与最先进技术相当的性能。此外，在分布外设置和mini-ImageNet上的少样本学习中的评估表明，SAGE在不牺牲鲁棒性的情况下实现了改进的泛化性能。
2022-10-31 cs.CV cs.LG
ShuffleMix: Improving Representations via Channel-Wise Shuffle of Interpolated Hidden States
South China University of Technology（华南理工大学）；Peng Cheng Laboratory（鹏城实验室）
本文提出 ShuffleMix，一种通过随机混洗插值隐藏状态通道实现特征空间 dropout 的数据增强方法，在多个视觉分类基准上相比 Manifold Mixup 等现有 mixup 方法持续提升表示质量和泛化性能。
2023-05-30 cs.CV
Robust Pollen Imagery Classification with Generative Modeling and Mixup Training
深度学习方法在图像分类任务中取得了巨大的成功，并且可以极大地帮助花粉粒航空图像的快速可靠分类。然而，通常情况下，在自然图像的设置中的深度学习方法可能会遇到泛化问题，并且在看不见的测试分布上表现不佳。在这项工作中，我们提出了一个强大的深度学习框架，可以很好地概括花粉粒大气生物学图像分类。我们开发了一种基于卷积神经网络的花粉粒分类方法，并结合了深度学习中的一些最佳实践，以实现更好的泛化。除了常见的方法，如数据增强和权重正则化，我们利用隐式正则化方法，如流形混合，以允许学习更平滑的决策边界。我们还利用了经过验证的最先进的架构选择，如EfficientNet卷积神经网络。受变分自编码器生成建模成功的启发，我们用更丰富的学习目标训练训练模型，这可以让模型专注于图像的相关部分。最后，我们创建一个神经网络的合奏，测试集预测的鲁棒性。基于我们的实验，我们显示出改进的泛化性能，与加权F1分数与上述方法。该方法在ICPR-2020花粉粒分类挑战赛的最终排名中获得第四名;加权F1得分为0.972578，宏观平均F1得分为0.950828，识别准确率为0.972877。
2021-02-25 cs.CV cs.LG eess.IV
Human-in-the-Loop Mixup
University of Cambridge（剑桥大学）；The Alan Turing Institute（艾伦·图灵研究所）；Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所）；Princeton University（普林斯顿大学）；University College London（伦敦大学学院）
针对合成数据标签与人类感知不一致的问题，提出Human-in-the-Loop Mixup，通过HILL MixE Suite收集159名参与者的感知判断与不确定性，发现人类感知与传统合成标签存在差异，并验证了引入人类不确定性可提升下游模型的可靠性。
2023-07-30 cs.CV cs.HC cs.LG
Randomized Adversarial Style Perturbations for Domain Generalization
Seoul National University（首尔大学）
提出随机对抗式风格扰动（RASP）技术，通过对抗性扰动特征风格提升模型对未见领域的泛化能力，并结合归一化特征混合（NFM）缓解训练中知识学习退化问题，在大规模基准上显著提升性能。
2023-11-21 cs.CV cs.LG
Cross-Domain Few-Shot Learning for Hyperspectral Image Classification Based on Mixup Foundation Model
School of Computer Science and IT, Adelaide University（阿德莱德大学计算机科学与信息技术学院）；Department of Informatics, Institut Teknologi Sepuluh Nopember（泗水理工学院信息学系）；University of Technology, Sydney, Australia（悉尼科技大学）；Faculty of Computer Science, University of Indonesia（印度尼西亚大学计算机科学学院）
本文提出MIFOMO模型，通过共聚投影和混合域适应解决跨领域少样本学习中的数据稀缺和领域差异问题，实验表明其性能优于现有方法14%。
2026-04-07 cs.AI cs.CV cs.LG
MiAMix: Enhancing Image Classification through a Multi-stage Augmented Mixed Sample Data Augmentation Method
Google Inc.（谷歌公司）；Stanford University（斯坦福大学）；Hong Kong Polytechnic University（香港理工大学）
本文提出 MiAMix 多阶段增强 mixup 方法，通过集成图像增强、并发使用多种混合方式并随机选择掩码增强，在四个图像基准上以较低计算开销提升分类性能。
2023-08-15 cs.AI cs.CV cs.LG
Label-Efficient Domain Generalization via Collaborative Exploration and Generalization
Zhejiang University（浙江大学）；Shanghai AI Laboratory（上海人工智能实验室）；Shanghai Institute for Advanced Study of Zhejiang University（浙江大学上海高等研究院）
领域泛化（DG）的目标是从多个标注良好的源领域中学习一个可泛化的模型，并将其推广到未知的目标领域。然而，在许多真实场景中，为源数据集获得足够的注释可能非常昂贵。为了摆脱领域泛化和标注成本之间的困境，在本文中，我们引入了一个新的任务命名为标签有效的领域泛化（LEDG），使模型泛化与标签有限的源域。为了解决这个具有挑战性的任务，我们提出了一个新的框架，称为协作探索和泛化（CEG），它联合优化主动探索和半监督泛化。具体来说，在主动探索中，为了在避免信息发散和冗余的同时探索类和域的可辨别性，我们查询具有类不确定性、域代表性和信息多样性的最高总体排名的样本的标签。在半监督泛化中，我们设计了基于MixUp的领域内和领域间知识增强，以扩展领域知识并推广领域不变性。我们以协作的方式统一主动探索和半监督泛化，并促进它们之间的相互增强，以有限的注释提高模型泛化。大量的实验表明，CEG产生优越的泛化性能。特别是，CEG甚至可以只使用5%的数据注释预算，以实现有竞争力的结果相比，以前的DG方法与PACS数据集上的完全标记的数据。
2022-08-07 cs.CV
Multi-Source COVID-19 Detection via Variance Risk Extrapolation
Fudan University（复旦大学）；The Hong Kong University of Science and Technology（香港理工大学）
针对多源胸部CT扫描因机构差异导致的领域偏移问题，提出结合VREx和Mixup数据增强的检测方法，通过最小化经验风险方差学习域不变表示，在验证集上达到0.96平均宏F1分数，显著提升跨域泛化能力。
2025-06-29 cs.CV eess.IV
How Does Heterogeneous Label Noise Impact Generalization in Neural Nets?
Rochester Institute of Technology（罗切斯特理工学院）；Paige（佩奇公司）；Cornell Tech（康奈尔科技学院）
不正确标记的示例或标签噪声在现实世界的计算机视觉数据集中很常见。虽然在先前的工作中已经研究了标签噪声对深度神经网络中的学习的影响，但是这些研究仅仅集中在同质标签噪声上，即，标签噪声的程度在所有类别中是相同的。然而，在现实世界中，标签噪声往往是异构的，某些类别受到的影响程度比其他类别更大。在这里，我们解决了文献中的这一差距。我们假设异质标签噪声只会影响有标签噪声的类，除非从这些类转移到没有标签噪声的类。为了验证这一假设，我们设计了一系列使用MNIST、CIFAR-10、CIFAR-100和MS-COCO的计算机视觉研究，其中我们在多类、多任务和多标签系统的训练过程中施加了异质标签噪声。我们的研究结果提供了证据支持我们的假设：标签噪声只影响受其影响的类，除非有转移。
2021-09-26 cs.CV
Invariance Principle Meets Vicinal Risk Minimization
Chengdu Institute of Computer Application, Chinese Academy of Sciences（中国科学院成都计算机应用研究所）；University of Chinese Academy of Sciences（中国科学院大学）
针对IRM在多样性偏移下泛化不足的问题，提出域共享语义数据增强模块实现方差风险最小化，并给出更紧的泛化误差界，在多个OOD基准上超越现有方法。
2025-01-23 cs.CV
FedHUG: Federated Heterogeneous Unsupervised Generalization for Remote Physiological Measurements
Systems Hub, the Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）系统中心）
本文提出FedHUG框架，通过最小偏差聚合和全局分布感知学习控制器解决联邦无监督域泛化中的异构非IID特征与标签分布偏移问题，在RGB视频和毫米波雷达生理测量上取得领先性能。
2026-10-12 cs.CV
MAP: Domain Generalization via Meta-Learning on Anatomy-Consistent Pseudo-Modalities
Vanderbilt University（范德堡大学）
提出MAP方法，通过生成解剖一致伪模态并利用元学习，增强视网膜血管分割模型对未见领域的泛化能力，在七个公开数据集上验证了其有效性。
2023-09-03 cs.CV
V2X-DG: Domain Generalization for Vehicle-to-Everything Cooperative Perception
Cleveland State University（克利夫兰州立大学）；Carnegie Mellon University（卡内基梅隆大学）；Texas A&M University（德克萨斯农工大学）；Xi’an Jiaotong University（西安交通大学）；University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
本文首次研究基于LiDAR的V2X协同感知3D检测域泛化问题，提出CMAG协同混合增强方法和CFC协同特征一致性约束，仅用源域训练即可在跨未见过的数据集时显著提升性能，同时保持源域性能。
2025-03-19 cs.CV
DiffMAC: Diffusion Manifold Hallucination Correction for High Generalization Blind Face Restoration
Beijing University of Posts and Telecommunications（北京邮电大学）
提出DiffMAC框架，通过两阶段扩散与流形信息瓶颈校正幻觉，实现高泛化盲人脸恢复，在真实和异构场景中优于现有方法。
2024-03-15 cs.CV
A Heterogeneous Ensemble for Multi-Center COVID-19 Classification from Chest CT Scans
University of Maryland, College Park（马里兰大学，学院公园分校）
本文提出异构集成模型，结合三种不同方法，提升多中心CT图像分类性能，通过领域感知增强和阈值优化，实现平均宏F1值达0.9280。
2026-03-15 cs.CV eess.IV
Robust Domain Generalization for Multi-modal Object Recognition
Northern Arizona University（北亚利桑那大学）；AMA University（AMA大学）；Massachusetts Institute of Technology（麻省理工学院）；Peking University（北京大学）；The University of Texas at Austin（德克萨斯大学奥斯汀分校）；University of Southern California（南加州大学）；College of Computing Georgia Institute of Technology（佐治亚理工学院计算学院）
针对多模态目标识别中现有域泛化方法的损失函数、骨干通用性、类别感知融合局限，提出推导实际损失、扩展大骨干评估及带混合损失的Mixup-CLIPood方法，提升多数据集域泛化性能。
2024-08-11 cs.AI cs.CV
Simple Domain Generalization Methods are Strong Baselines for Open Domain Generalization
Graduate School of Environment and Information Sciences（环境与信息科学研究生院）；Yokohama National University（Yokohama国立大学）；Faculty of Environment（环境学系）
本文评估现有域泛化方法在开放域泛化中的表现，发现简单方法CORAL和MMD与复杂方法DAML竞争力相当，并通过集成学习和Dirichlet混合数据增强简单扩展后性能接近DAML且计算成本更低。
2026-06-18 cs.AI cs.CV cs.LG
Improving Generalization in Federated Learning by Seeking Flat Minima
Politecnico di Torino（都灵理工大学）；CINI（意大利国家信息学大学联盟）
在联邦设置中训练的模型通常会遭受性能下降和泛化失败的困扰，特别是在面对异构场景时。在这项工作中，我们调查这种行为，通过镜头的几何损失和海森本征谱，连接模型的缺乏泛化能力的解决方案的清晰度。受先前研究的启发，将损失表面的锐度与泛化差距联系起来，我们表明：i）使用锐度感知最小化（SAM）或其自适应版本（ASAM）在本地训练客户端，ii）在服务器端平均随机权重（SWA）可以大大提高联邦学习中的泛化能力，并有助于弥合与集中式模型的差距。通过在具有均匀低损失的邻域中寻找参数，该模型收敛于更平坦的最小值，并且其泛化能力在同质和异质场景中都有显着提高。实证结果表明，这些优化器在各种基准视觉数据集（例如CIFAR 10/100，Landmarks-User-160 k，IDDA）和任务（大规模分类，语义分割，领域泛化）上的有效性。
2022-07-21 cs.CV cs.LG
Target-Oriented Single Domain Generalization
School of Computer Science, Carleton University（计算机科学学院，卡尔顿大学）
针对单域泛化中分布偏移导致模型失效的问题，提出利用目标域文本描述引导泛化的TO-SDG设定，以及基于VLM的轻量STAR模块，在多基准任务上实现更优泛化，验证了文本元数据的实用价值。
2025-08-30 cs.AI cs.CV cs.LG
Incremental Learning for Heterogeneous Structure Segmentation in Brain Tumor MRI
Massachusetts General Hospital（麻省总医院）；Harvard Medical School（哈佛医学院）
本文提出一种用于脑肿瘤MRI异构结构分割的增量学习方法，通过散度感知双流模块和互补伪标签训练方案，在持续变化的目标域中更新分割模型，缓解灾难性遗忘并支持终身模型扩展。
2023-05-30 cs.AI cs.CV cs.LG
EPVT: Environment-aware Prompt Vision Transformer for Domain Generalization in Skin Lesion Recognition
Monash University（莫纳什大学）；Inception Institute of AI（Inception人工智能研究院）；Alfred Health（阿尔弗雷德医疗中心）；The University of Queensland（昆士兰大学）
本文提出EPVT方法，通过在视觉Transformer中嵌入领域提示和共享提示，并引入领域提示生成器与领域混合策略，有效减少图像伪影依赖，显著提升皮肤病变识别在未见环境中的泛化能力。
2023-06-27 cs.AI cs.CV cs.LG
Local Performance vs. Out-of-Distribution Generalization: An Empirical Analysis of Personalized Federated Learning in Heterogeneous Data Environments
针对异构数据联邦学习中客户端漂移、现有个性化方法忽略分布外泛化评估的问题，提出带自适应个性化因子的FLIU改进方法，通过多分布环境实验全面评估联邦学习的局部性能与泛化能力。
2025-10-28 cs.AI cs.CV cs.DC
