Towards Understanding the Data Dependency of Mixup-style Training
Duke University（杜克大学）；University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）
在Mixup训练范式中，使用数据点及其相关标签的凸组合来训练模型。尽管在训练过程中看到的真实数据点很少，但与标准训练相比，使用Mixup训练的模型似乎仍能最大限度地降低原始经验风险，并在各种任务上表现出更好的泛化能力和鲁棒性。在本文中，我们研究了Mixup训练的这些好处如何依赖于分类背景下的数据属性。为了最小化原始经验风险，我们计算了Mixup最优分类的闭合形式，这允许我们构建一个简单的数据集，在该数据集上，最小化Mixup损失可以证明导致学习一个分类器，该分类器不会最小化数据的经验损失。另一方面，我们也给出了Mixup训练的充分条件，使原始经验风险最小化。为了推广，我们描述了混合分类器的边缘，并使用它来理解为什么与标准训练相比，混合分类器的决策边界可以更好地适应训练数据的完整结构。相比之下，我们还表明，对于一大类线性模型和线性可分数据集，Mixup训练会导致学习与标准训练相同的分类器。
2022-02-19 cs.AI cs.LG
MixUp Training Leads to Reduced Overfitting and Improved Calibration for the Transformer Architecture
MixUp是一种计算机视觉数据增强技术，它使用输入数据及其标签的凸插值来增强训练期间的模型泛化。然而，MixUp在自然语言理解（NLU）领域的应用受到了限制，因为很难直接在输入空间中插入文本。在这项研究中，我们提出了混合方法在输入，流形，句子嵌入水平的Transformer架构，并应用它们来微调BERT模型的一组不同的NLU任务。我们发现MixUp可以提高模型性能，并将测试损失和模型校准误差降低高达50%。
2021-02-22 cs.CL cs.LG
Selective Mixup Helps with Distribution Shifts, But Not (Only) because of Mixup
Idiap Research Institute（Idiap 研究院）；Microsoft Research Asia（微软亚洲研究院）；University of Adelaide（阿德莱德大学）
本文揭示选择性 mixup 应对分布偏移的收益主要来自非随机配对导致的隐式重采样而非混合本身，建立其与重采样的等价关系，并提出结合两者优势的方法。
2023-06-02 cs.LG
G-Mix: A Generalized Mixup Learning Framework Towards Flat Minima
Mississippi State University（密西西比州立大学）
针对深度神经网络过参数化下泛化不足及Mixup效果有限的问题，提出结合Mixup与SAM的G-Mix框架及两种新算法，解决流形入侵问题，在多数据集和模型上达最优泛化性能。
2023-08-19 cs.LG
Balancing Label Imbalance in Federated Environments Using Only Mixup and Artificially-Labeled Noise
University of Maryland（马里兰大学）
本研究提出仅用Mixup和人工标注噪声增强客户端数据，平衡联邦学习中标签分布不平衡，显著提升CIFAR-10和MNIST训练性能。
2024-09-20 cs.LG
On Mixup Training: Improved Calibration and Predictive Uncertainty for Deep Neural Networks
Los Alamos National Laboratory（洛斯阿拉莫斯国家实验室）；University of Washington（华盛顿大学）
Mixup~ \cite{zhang2017mixup}是最近提出的一种用于训练深度神经网络的方法，其中在训练期间通过凸组合随机图像对及其相关标签来生成额外的样本。虽然实现简单，但它已被证明是一种令人惊讶的有效的图像分类数据增强方法：使用mixup训练的DNN在许多图像分类基准上显示出明显的分类性能增益。在这项工作中，我们讨论了mixup训练的一个迄今为止尚未触及的方面-使用mixup训练的模型的校准和预测不确定性。我们发现，用mixup训练的DNN的校准效果要好得多，也就是说，预测的softmax分数是正确预测的实际可能性的更好指标-比以常规方式训练的DNN更好。我们对许多图像分类架构和数据集进行了实验-包括像ImageNet这样的大规模数据集-并发现情况确实如此。此外，我们发现，仅仅混合特征并不会产生相同的校准益处，并且混合训练中的标签平滑在改善校准方面起着重要作用。最后，我们还观察到，混合训练的DNN不太容易对分布外和随机噪声数据进行过度自信的预测。我们的结论是，在神经网络中看到的典型过度自信，即使是在分布数据上，也可能是使用硬标签训练的结果，这表明混合可以用于预测不确定性是一个重要问题的分类任务。
2020-01-07 cs.LG stat.ML
Pushing Boundaries: Mixup's Influence on Neural Collapse
University of Toronto（多伦多大学）
本研究探讨Mixup数据增强对深度网络神经坍缩的影响，发现其最后一层激活形成独特几何配置，并据此阐明其提升模型校准的机制，辅以理论分析验证。
2024-02-09 cs.LG
Multi-Sample $ζ$-mixup: Richer, More Realistic Synthetic Samples from a $p$-Series Interpolant
Simon Fraser University（西蒙弗雷泽大学）；Hinge Health（Hinge Health公司）
现代深度学习训练程序依赖于模型正则化技术，例如数据增强方法，这些方法生成的训练样本增加了数据的多样性和标签信息的丰富性。最近流行的方法mixup使用原始样本对的凸组合来生成新样本。然而，正如我们在实验中所示，混淆可能会产生不期望的合成样本，其中数据是从流形上采样的，并且可能包含不正确的标签。我们提出$ζ$ -mixup，一个泛化的mixup与可证明和可论证的理想属性，允许凸组合的$N \geq 2$样本，导致更现实和多样化的输出，将信息从$N$原始样本通过使用$p$系列插值。我们表明，相比mixup，$ζ$ -mixup更好地保留了原始数据集的内在维度，这是训练可推广模型的理想属性。此外，我们表明，我们的实施$ζ$ -mixup比mixup更快，和控制合成和24个真实世界的自然和医学图像分类数据集的广泛评估表明，$ζ$ -mixup优于mixup和传统的数据增强技术。
2022-04-07 cs.CV cs.LG
Single Domain Generalization with Model-aware Parametric Batch-wise Mixup
School of Computer Science, Carleton University（卡尔顿大学计算机科学学院）
针对单域泛化难题，提出模型感知参数化逐批次混合方法，结合对抗查询、注意力机制生成器与对齐损失增强数据，在基准数据集上取得最优泛化性能。
2025-02-22 cs.LG
Contrastive-mixup learning for improved speaker verification
Texas A&M University（德克萨斯农工大学）；Amazon Alexa AI（亚马逊Alexa AI）
本文提出了一种新的说话人确认模型--混叠模型。Mixup是一种简单而有效的数据增强技术，它可以构建随机数据点和标签对的加权组合，用于深度神经网络训练。Mixup由于能够提高深度神经网络的鲁棒性和泛化能力而受到越来越多的关注。虽然mixup在不同的领域取得了成功，但大多数应用程序都集中在闭集分类任务上。在这项工作中，我们提出了对比混合，一种新的增强策略，学习区分表示的基础上的距离度量。在训练期间，混合操作生成输入和虚拟标签的凸插值。此外，我们已经重新制定了原型损失函数，以便在度量学习目标上启用混淆。为了证明它的泛化有限的训练数据，我们进行实验，通过改变VoxCeleb数据库中每个扬声器的可用话语的数量。实验结果表明，应用对比混合优于现有的基线，减少错误率相对16%，特别是当每个说话人的训练话语的数量是有限的。
2022-02-22 cs.LG cs.SD eess.AS
Annot-Mix: Learning with Noisy Class Labels from Multiple Annotators via a Mixup Extension
University of Kassel（卡塞尔大学）；European Conference on Artificial Intelligence（欧洲人工智能会议）；Conference on Prestigious Applications of Intelligent Systems（智能系统 prestigious 应用会议）
提出Annot-Mix框架，通过扩展mixup处理多标注者提供的类别标签，在11个数据集上优于11种现有方法。
2026-06-02 cs.LG
The Benefits of Mixup for Feature Learning
The University of Hong Kong（香港大学）；Carnegie Mellon University（卡内基梅隆大学）；University of California, Los Angeles（加州大学洛杉矶分校）
Mixup是一种简单的数据增强方法，通过线性插值随机混合两个数据点，已广泛应用于各种深度学习应用程序中，以获得更好的泛化能力。然而，其功效的理论基础尚未完全理解。在本文中，我们的目的是寻求对Mixup的好处的基本理解。我们首先展示了使用不同的线性插值参数的特征和标签的Mixup仍然可以实现与标准Mixup相似的性能。这表明Zhang等人的直观线性解释，（2018）可能无法完全解释Mixup的成功。然后从特征学习的角度对Mixup进行了理论研究。我们考虑了一个特征噪声数据模型，并表明Mixup训练可以有效地从其与常见特征（出现在大部分数据中）的混合物中学习罕见特征（出现在一小部分数据中）。相比之下，标准训练只能学习常见的特征，但无法学习罕见的特征，从而具有较差的泛化性能。此外，我们的理论分析还表明，Mixup用于特征学习的好处主要是在早期训练阶段获得的，基于此，我们建议在Mixup中应用早期停止。实验结果验证了我们的理论研究结果，并证明了早期停止混合训练的有效性。
2023-03-15 cs.AI cs.LG math.OC
On Calibration of Mixup Training for Deep Neural Networks
PRHLT Research Center, Universitat Politècnica de València（PRHLT研究中心，瓦伦西亚理工大学）；AUDIAS - Audio, Data Intelligence and Speech, Universidad Autónoma de Madrid（AUDIAS - 音频、数据智能与语音，马德里自治大学）
深度神经网络（DNN）代表了许多任务的最新技术水平。然而，由于其overparameterization，他们的泛化能力是值得怀疑的，仍然是一个正在研究的领域。因此，DNN可能会过拟合并分配过度自信的预测--这些效应已被证明会影响分配给不可见数据的置信度的校准。数据增强（DA）策略已被提出来正则化这些模型，Mixup是最流行的策略之一，因为它能够提高DNN的准确性、不确定性量化和校准。然而，在这项工作中，我们认为，并提供经验证据表明，由于其基本原理，Mixup不一定改善校准。根据我们的观察，我们提出了一个新的损失函数，它可以提高用这种DA技术训练的DNN的校准，有时还可以提高精度。我们的损失受到贝叶斯决策理论的启发，并引入了一个新的训练框架来设计概率建模的损失。我们提供最先进的精度，并持续改进校准性能。附录和代码在这里提供：https://github.com/jmaronas/calibration_MixupDNN_ARCLoss.pytorch.git
2021-01-28 cs.LG stat.ML
UMIX: Improving Importance Weighting for Subpopulation Shift via Uncertainty-Aware Mixup
Tianjin University（天津大学）；Hong Kong University of Science and Technology（香港科技大学）；Tencent AI Lab（腾讯人工智能实验室）
子群迁移广泛存在于现实世界的机器学习应用中，指的是训练分布和测试分布包含相同的子群组，但子群频率不同。重要性重新加权是一种处理子群体偏移问题的正常方法，通过对训练数据集中的每个样本施加恒定或自适应的采样权重。然而，最近的一些研究已经认识到，这些方法中的大多数未能提高经验风险最小化的性能，特别是当应用于过度参数化的神经网络。在这项工作中，我们提出了一个简单而实用的框架，称为不确定性感知mixup（UMIX），以减轻过参数化模型中的过拟合问题，根据样本的不确定性重新加权“混合"样本。建议的UMIX为每个样本配备了基于训练轨迹的不确定性估计，以灵活地表征亚群分布。我们还提供了有见地的理论分析，以验证UMIX实现了更好的泛化范围比以前的作品。此外，我们在广泛的任务中进行了广泛的实证研究，以定性和定量地验证我们的方法的有效性。代码可在https://github.com/TencentAILabHealthcare/UMIX上获得。
2023-01-03 cs.LG
Improve Unsupervised Domain Adaptation with Mixup Training
Bosch Research North America（博世北美研究院）
无监督域自适应研究利用具有丰富标签的相关源域为未注释的目标域构建预测模型的问题。最近的工作观察到，流行的学习领域不变特征的对抗方法不足以实现期望的目标领域性能，从而引入额外的训练约束，例如聚类假设。然而，这些方法分别对源域和目标域施加约束，忽略了它们之间重要的相互作用。在这项工作中，我们建议使用mixup公式来执行跨域的训练约束，以直接解决目标数据的泛化性能。为了解决潜在的巨大的域差异，我们进一步提出了一个特征级的一致性正则化，以促进域间的约束。当添加域内混淆和域对抗学习时，我们的通用框架显着提高了图像分类和人类活动识别等几项重要任务的最新性能。
2020-01-03 cs.CV cs.LG stat.ML
Using mixup as regularization and tuning hyper-parameters for ResNets
Texas A&M University（德克萨斯A&M大学）
虽然新颖的计算机视觉架构越来越受欢迎，但模型架构的影响通常与训练方法的变化或探索有关。基于身份映射的架构ResNets和DenseNets在图像分类任务中承诺了开创性的结果，即使现在给出的数据相当有限，它们也是首选方法。考虑到使用有限资源进行训练的容易性，这项工作重新访问了ResNet，并通过使用混合数据增强作为正则化和调整超参数来改进ResNet 50 \cite{resnets}。
2021-11-23 cs.CV cs.LG
Mixup Regularization: A Probabilistic Perspective
J.P. Morgan AI Research（摩根大通人工智能研究）
针对mixup正则化在条件密度估计与概率机器学习领域应用不足的问题，提出基于概率融合的新型mixup正则化框架，支持指数族数据似然解析融合与神经网络任意中间层输入融合，经理论分析与实验验证优于现有变体。
2025-06-13 cs.LG stat.ML
DBN-Mix: Training Dual Branch Network Using Bilateral Mixup Augmentation for Long-Tailed Visual Recognition
Hanyang University（汉阳大学）
本文提出双边 mixup 增强与逐类温度缩放方法，并应用于双分支网络框架构建 DBN-Mix 模型，有效缓解长尾视觉识别中的类别不平衡与少数类表示困难，显著提升基线性能并在部分基准中达到 SOTA。
2022-08-20 cs.CV cs.LG
MixUp as Locally Linear Out-Of-Manifold Regularization
National Research Council Canada（加拿大国家研究委员会）；University of Ottawa（渥太华大学）；Beihang University（北京航空航天大学）
MixUp是最近提出的一种数据增强方案，它线性插值一对随机的训练样本和相应的标签的独热表示。用这样的附加数据训练深度神经网络被示出能够显著提高当前技术的预测准确性。然而，MixUp的力量主要是凭经验建立的，并且其工作和有效性还没有被深入解释。在本文中，我们将MixUp理解为“流形外正则化”的一种形式，它对数据流形之外的模型输入空间施加了某些“局部线性”约束。这种分析使我们能够识别MixUp的限制，我们称之为“流形入侵”。简而言之，MixUp中的流形入侵是一种欠拟合的形式，其原因是混合示例的合成标签与原始训练数据的标签之间的冲突。这种现象通常发生在控制混合策略生成的参数没有在训练数据上充分微调时。为了解决这个问题，我们提出了一种新的自适应版本的MixUp，其中混合策略是使用旨在避免流形入侵的额外网络和目标函数从数据中自动学习的。建议的正则化，AdaMixUp，经验评估几个基准数据集。大量的实验表明，AdaMixUp在应用于当前的深度分类模型时，改进了MixUp。
2018-11-22 cs.AI cs.LG stat.ML
Addressing Neural Network Robustness with Mixup and Targeted Labeling Adversarial Training
Atos（阿托斯公司）；Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）
尽管人工神经网络具有很好的性能，但对于大多数工业应用来说，它仍然不够可靠。它们对噪声、旋转、模糊和对抗性样本很敏感。有必要建立防御机制，以防止各种干扰，包括最传统的常见腐败和对抗性示例。我们提出了一种新的数据增强策略，称为M-TLAT，旨在解决广义上的鲁棒性。我们的方法结合了Mixup增强和一种新的对抗训练算法，称为目标标记对抗训练（TLAT）。TLAT的思想是用地面真实标签插入对抗性示例的目标标签。我们表明，M-TLAT可以提高图像分类器对19种常见腐败和5种对抗攻击的鲁棒性，而不会降低对干净样本的准确性。
2020-08-19 cs.CV cs.LG stat.ML
Why Mixup Improves the Model Performance
Ridge-i Inc.（Ridge-i公司）
机器学习技术在广泛的领域中使用。然而，机器学习模型经常遭受过拟合的问题。已经提出了许多数据增强方法来解决这样的问题，其中之一被称为mixup。Mixup是最近提出的正则化过程，它线性插值一对随机的训练样本。这种正则化方法在实验上工作得很好，但其理论保证没有得到充分的讨论。本研究从统计学习理论的角度探讨了混淆学习的有效性。
2021-06-18 cs.LG stat.ML
Reweighted Mixup for Subpopulation Shift
Tianjin University（天津大学）；Hong Kong University of Science and Technology（香港科技大学）；Tencent AI Lab（腾讯人工智能实验室）
针对过参数化模型在子群体偏移下的过拟合问题，提出重加权 Mixup (RMIX) 框架，通过对混合样本进行重要性加权并引入基于训练轨迹的不确定性估计，提升了模型鲁棒性与泛化能力。
2023-04-09 cs.LG
Mixup-breakdown: a consistency training method for improving generalization of speech separation models
Tencent AI Lab（腾讯AI Lab）
基于深度学习的语音分离模型面临着泛化能力差的问题，即使是最先进的模型在失配条件下进行评估时也可能突然失败。为了解决这个问题，我们提出了一种易于实现但有效的基于一致性的半监督学习（SSL）方法，即Mixup-Breakdown训练（MBT）。它学习教师模型来“分解”未标记的输入，并对估计的分离进行插值以产生更有用的伪“混合”输入-输出对，在此基础上，一致性正则化可以应用于学习学生模型。在我们的实验中，我们评估了各种条件下的MBT与不匹配程度的上升，包括看不见的干扰语音，噪声和音乐，并比较MBT的泛化能力与最先进的监督学习和SSL方法。结果表明，MBT显著优于几个强基线，相对SI-SNRi改善高达13.77%。此外，MBT仅向标准训练方案增加了可忽略的计算开销。
2020-03-03 cs.LG cs.SD eess.AS
Fair Mixup: Fairness via Interpolation
CSAIL, MIT（麻省理工学院计算机科学与人工智能实验室）；IBM Research AI（IBM研究院人工智能部门）
在公平性约束（如组公平性）下训练分类器，使组之间的预测差异规则化。然而，即使在训练过程中满足了约束条件，它们在评估时也可能无法推广。为了提高公平分类器的泛化能力，我们提出了公平混淆，一个新的数据增强策略施加公平约束。特别是，我们表明，公平性，可以通过正规化的模型之间的插值样本的路径。我们使用mixup，一个强大的数据增强策略来生成这些插值。我们分析了公平的混淆，并实证表明，它确保了更好的概括性的准确性和公平性的测量表，视觉和语言基准。
2021-03-11 cs.CY cs.LG stat.ML
Co-Mixup: Saliency Guided Joint Mixup with Supermodular Diversity
Seoul National University（首尔国立大学）；Neural Processing Research Center（神经处理研究中心）
虽然深度神经网络在拟合训练分布方面表现出很好的性能，但提高网络对测试分布的泛化性能和对输入扰动敏感性的鲁棒性仍然是一个挑战。尽管已经提出了许多基于混淆的增强策略来部分地解决它们，但是从优化的角度来看，如何最好地利用每个输入数据内的监督信号来进行混淆仍然是不清楚的。我们提出了一个新的角度对批量混淆和制定一批混淆数据的最佳建设最大化的数据显着性措施，每个单独的混淆数据，并鼓励超模之间的多样性建设混淆数据。这导致了一个新的离散优化问题，最大限度地减少子模函数之间的差异。我们还提出了一个有效的模块近似为基础的迭代子模块最小化算法，每个小批量有效的混合计算适合于基于小批量的神经网络训练。我们的实验表明，所提出的方法实现了最先进的泛化，校准，和弱监督定位结果相比，其他混淆的方法。源代码可在https://github.com/snu-mllab/Co-Mixup上获得。
2021-02-05 cs.AI cs.CV cs.LG
Linearly Convergent Mixup Learning
Graduate School of Informatics（信息学研究科）；Faculty of Informatics（信息学学部）；Gunma University（群马大学）
针对mixup数据增强难以应用于RKHS学习、对偶优化方法无法直接适配中间类标签的问题，提出两种无需学习率等超参数的二分类算法，迭代次数与单步计算量均随数据集线性增长，收敛更快且mixup能稳定提升多损失函数下的预测性能。
2025-01-14 cs.LG
SMSMix: Sense-Maintained Sentence Mixup for Word Sense Disambiguation
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）；University of Illinois at Urbana-Champaign (UIUC)（伊利诺伊大学厄巴纳-香槟分校）
词义消歧（WSD）是一个NLP任务，旨在从离散的意义选择中确定句子中单词的正确意义。虽然目前的系统已经达到了前所未有的性能，这样的任务，在训练过程中的词义的不均匀分布通常会导致系统在罕见的感觉表现不佳。为此，我们考虑数据增强来增加这些最不频繁的感觉（LFS）的频率，以减少训练过程中感觉的分布偏差。我们提出了一种新的保持目标词的意义的词级混合方法--句子保持混合（SMSMix）。SMSMix使用掩码预测平滑地混合两个句子，同时保留由显着性分数确定的相关跨度，以保持特定单词的意义。据我们所知，这是第一次尝试在NLP中应用mixup，同时保留特定单词的含义。通过大量的实验，我们验证了我们的增强方法可以有效地提供更多的信息，罕见的感觉在训练过程中保持目标的感觉标签。
2022-12-21 cs.CL cs.LG
Single-channel speech enhancement using learnable loss mixup
Columbia University（哥伦比亚大学）；Microsoft Corporation（微软公司）
针对单通道语音增强的泛化问题，提出可学习损失混合（LLM）训练方法，通过非线性混合损失函数提升模型性能，在VCTK上达到3.26 PESQ，超越现有最优。
2023-12-20 cs.LG cs.SD eess.AS
Infinite Class Mixup
Google Research（谷歌研究院）；University of Amsterdam（阿姆斯特丹大学）
本文提出无限类别混合方法，通过直接插值分类器而非标签来训练网络，并设计双对比损失，在平衡、长尾及数据受限基准上优于标准混合及变体。
2023-09-06 cs.CV cs.LG
Provable Benefit of Mixup for Finding Optimal Decision Boundaries
Kim Jaechul Graduate School of AI, KAIST（韩国科学技术院金在哲人工智能研究生院）
本文分析二分类线性分类中 Mixup 对寻找最优决策边界样本复杂度的影响，证明其可缓解普通训练随可分常数 κ 指数恶化的“可分性诅咒”，并指出掩码式 Mixup 可能导致次优分类器。
2023-06-06 cs.LG math.OC stat.ML
A Unified Analysis of Mixed Sample Data Augmentation: A Loss Function Perspective
MIT（麻省理工学院）；NAVER AI Lab（NAVER人工智能实验室）
我们提出了第一个统一的理论分析混合样本数据增强（MSDA），如Mixup和CutMix。我们的理论结果表明，无论选择的混合策略，MSDA的行为作为一个像素级的正则化的基础训练损失和正则化的第一层参数。同样，我们的理论结果支持MSDA训练策略与香草训练策略相比可以提高对抗鲁棒性和泛化能力。使用的理论结果，我们提供了一个高层次的理解如何不同的设计选择的MSDA不同的工作。例如，我们展示了最流行的MSDA方法Mixup和CutMix的行为不同，例如，CutMix按像素距离正则化输入梯度，而Mixup则不考虑像素距离正则化输入梯度。我们的理论结果还表明，最佳MSDA策略取决于任务，数据集或模型参数。从这些观察，我们提出了广义MSDAs，混合版本的Mixup和CutMix（HMix）和高斯Mixup（GMix），简单的扩展Mixup和CutMix。我们的实现可以利用Mixup和CutMix的优点，而我们的实现是非常有效的，计算成本几乎可以忽略不计的Mixup和CutMix。我们的实证研究表明，我们的HMix和GMix在CIFAR-100和ImageNet分类任务中优于以前最先进的MSDA方法。源代码可在https://github.com/naver-ai/hmix-gmix上获得
2022-08-21 cs.CV cs.LG
Beyond Dark Knowledge: Mixup-Based Distillation for Reliable Predictions
ITS Lab, Institute of Computer Science, University of Tartu（塔尔图大学计算机科学学院ITS实验室）；LITIS, Université de Rouen（鲁昂大学LITIS实验室）；LITIS, INSA de Rouen（鲁昂国立应用科学学院LITIS实验室）
研究知识蒸馏与混合训练结合时教师-学生不匹配的影响，发现学生能独立获得线性结构并提升准确率与校准，提出混合蒸馏作为更丰富的知识传递通道。
2026-06-11 cs.CV cs.LG
Noisy Feature Mixup
Nordita, KTH Royal Institute of Technology（北欧理论物理研究所，KTH皇家理工学院）；Stockholm University（斯德哥尔摩大学）；University of Pittsburgh（匹兹堡大学）；ICSI（国际计算机科学研究所）；University of Toronto（多伦多大学）；UC Berkeley（加州大学伯克利分校）
提出Noisy Feature Mixup（NFM）数据增强方法，通过在输入和特征空间使用噪声扰动的凸组合，平滑决策边界并提升模型鲁棒性，在多种视觉基准上优于mixup和manifold mixup。
2021-11-21 cs.LG stat.ML
Mixup Regularized Adversarial Networks for Multi-Domain Text Classification
Carleton University（卡尔顿大学）；University of Ottawa（渥太华大学）
使用共享私有范式和对抗训练显著提高了多域文本分类（MDTC）模型的性能。然而，现有方法存在两个问题。首先，来自多个域的实例对于域不变的特征提取是不够的。其次，在边缘分布上对齐可能导致致命的失配。在本文中，我们提出了一个混合正则化对抗网络（MRAN）来解决这两个问题。更具体地说，引入域和类别混合正则化来丰富共享潜在空间中的内在特征，并在训练实例之间执行一致的预测，使得学习的特征可以更具域不变性和区分性。我们在两个基准上进行实验：亚马逊评论数据集和FDU-MTL数据集。我们在这两个数据集上的方法分别产生了87.64%和89.0%的平均准确率，优于所有相关基线。
2021-01-31 cs.CL cs.LG
Learning Fair Robustness via Domain Mixup
University of Arizona（亚利桑那大学）
本文提出将 mixup 与对抗训练结合，通过混合同类输入来学习公平鲁棒分类器，理论证明和实验均表明该方法能减少类别间自然风险与对抗风险的差异。
2024-11-21 cs.CR cs.CY cs.LG
DP-InstaHide: Provably Defusing Poisoning and Backdoor Attacks with Differentially Private Data Augmentations
University of Maryland（马里兰大学）；University of Siegen（锡根大学）
数据投毒和后门攻击操纵训练数据以在受害者模型中诱发安全漏洞。这些攻击可以使用差分私有（DP）训练方法来证明，尽管这会导致模型性能急剧下降。InstaHide方法最近被提出作为DP训练的替代方案，该方法利用了混淆增强的假定隐私属性，尽管没有严格的保证。在这项工作中，我们表明，强大的数据增强，如混合和随机加性噪声，无效的毒药攻击，而持久只有一个小的准确性权衡。为了解释这些发现，我们提出了一种训练方法DP-InstaHide，它将混合正则化器与加性噪声相结合。对DP-InstaHide的严格分析表明，mixup确实具有隐私优势，并且使用k路mixup的训练可证明比朴素的DP机制产生至少k倍的DP保证。由于混淆（与噪声相对）对模型性能有益，因此DP-InstaHide提供了一种机制，用于实现比其他已知DP方法更强的对抗中毒攻击的经验性能。
2021-04-08 cs.CR cs.CV cs.LG
Background Mixup Data Augmentation for Hand and Object-in-Contact Detection
The University of Tokyo（东京大学）
检测每个视频帧中人手和接触物体的位置（手-目标检测）对于从视频中了解人类活动至关重要。为了训练对象检测器，一种称为Mixup的方法，其覆盖两个训练图像以减轻数据偏差，已被经验证明对于数据增强是有效的。然而，在手-目标检测中，混合两个手操作图像产生非预期的偏差，例如，手和物体集中在特定区域中降低了手-物体检测器识别物体边界的能力。我们提出了一种称为背景混淆的数据增强方法，该方法利用数据混合正则化，同时减少手目标检测中的意外影响。我们将目标训练图像与从外部图像源提取的没有手和接触对象的背景图像混合，而不是混合两个图像，其中手和接触对象出现，并使用混合图像来训练检测器。实验结果表明，该方法在监督学习和半监督学习环境下都能有效地减少误报，提高手部目标检测的性能。
2022-03-01 cs.AI cs.CV cs.LG
Adversarial Mixing Policy for Relaxing Locally Linear Constraints in Mixup
PingAn Life Insurance of China（中国平安人寿保险）
Mixup是当前深度分类网络的最新正则化器。通过训练一个神经网络上的凸组合对的例子和他们的标签，它施加局部线性约束模型的输入空间。然而，这种严格的线性约束往往会导致欠拟合，从而降低正则化的效果。值得注意的是，当资源极其有限时，这个问题变得更加严重。为了解决这些问题，我们提出了对抗性混合策略（AMP），组织在一个最小-最大-随机制定，放松局部线性约束的混合。具体来说，AMP向混合系数而不是示例添加了一个小的对抗性扰动。因此，在合成实施例和合成标记之间注入轻微的非线性。通过对这些数据进行训练，深度网络被进一步正则化，从而实现更低的预测出错率。在五个文本分类基准和五个主干模型上的实验表明，我们的方法可以显著降低Mixup变体的出错率（高达31.3%），特别是在低资源条件下（高达17.5%）。
2021-09-15 cs.CL cs.LG
Provably Learning Diverse Features in Multi-View Data with Midpoint Mixup
Duke University（杜克大学）
本研究从特征学习角度证明，中点Mixup相比经验风险最小化，能更有效地在多视图分类数据中学习每个类别的全部特征，并在修改后的图像基准上验证了该理论。
2024-11-04 cs.AI cs.CV cs.LG
Manifold Mixup: Better Representations by Interpolating Hidden States
Aalto Univeristy（阿尔托大学）；Montréal Institute for Learning Algorithms（蒙特利尔学习算法研究所）；Sharif University of Technology（谢里夫理工大学）；Facebook AI Research（Facebook人工智能研究院）
深度神经网络擅长学习训练数据，但在对略有不同的测试示例进行评估时，往往会提供不正确和自信的预测。这包括分布偏移、离群值和对抗性示例。为了解决这些问题，我们提出了Manifold Mixup，这是一个简单的正则化器，它鼓励神经网络对隐藏表示的插值进行不那么自信的预测。Manifold Mixup利用语义插值作为额外的训练信号，在多个表示级别上获得具有更平滑决策边界的神经网络。因此，使用Manifold Mixup训练的神经网络学习具有较少方差方向的类表示。我们证明了为什么这种扁平化在理想条件下发生的理论，在实际情况下验证它，并将其与以前的信息论和泛化工作联系起来。尽管不会产生大量的计算，并且在几行代码中实现，但Manifold Mixup提高了监督学习的强大基线，对单步对抗攻击的鲁棒性和测试对数似然性。
2019-05-11 cs.AI cs.LG cs.NE
Mixer: DNN Watermarking using Image Mixup
Centre Inria de l’Université de Rennes（雷恩大学法国国家信息与自动化研究所中心）
在部署DNN模型之前，保护DNN模型的知识产权至关重要。DNN应该执行两个主要任务：主要任务和水印任务。本文提出了一种轻量级、可靠和安全的DNN水印，试图在这两项任务之间建立紧密的联系。触发水印任务的样本使用来自训练或测试样本的图像Mixup生成。这意味着存在无限多的触发器，而不限于用于在训练时将水印嵌入模型中的样本。对不同数据集的图像分类模型进行了广泛的实验，并将其暴露于各种攻击，结果表明，所提出的水印提供了足够的安全性和鲁棒性。
2022-12-06 cs.CR cs.LG cs.MM
SAGE: Saliency-Guided Mixup with Optimal Rearrangements
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Samsung AI Centre Toronto（三星多伦多人工智能中心）；Borealis AI（Borealis人工智能公司）；York University（约克大学）
数据增强是通过减少过拟合和提高泛化能力来训练精确模型的关键要素。对于图像分类，最流行的数据增强技术的范围从简单的光度和几何变换，到更复杂的方法，使用视觉显着性来制作新的训练样本。随着增强方法变得越来越复杂，它们提高测试精度的能力也会提高，但正如本文所示，这种方法变得繁琐、效率低下，并导致领域泛化较差。这激发了一种新的增强技术，该技术允许高精度增益，同时简单、有效（即，最小的计算开销）和可推广。为此，我们引入了具有最佳重排的显着性引导混合（SAGE），它通过使用视觉显着性作为指导来重新排列和混合图像对来创建新的训练样本。通过显式地利用显着性，SAGE促进了有区别的前景对象，并产生了对训练有用的信息丰富的新图像。我们在CIFAR-10和CIFAR-100上证明，SAGE在更高效的同时实现了更好或与最先进技术相当的性能。此外，在分布外设置和mini-ImageNet上的少样本学习中的评估表明，SAGE在不牺牲鲁棒性的情况下实现了改进的泛化性能。
2022-10-31 cs.CV cs.LG
For Better or For Worse? Learning Minimum Variance Features With Label Augmentation
Duke University（杜克大学）
本研究分析标签增强（含标签平滑、Mixup）在模型训练中的作用，证明其使模型学习最小方差特征，实验表明该特性既关联图像分类基准的优异性能，也易受训练数据中低方差虚假相关性影响。
2025-02-13 cs.CV cs.LG
MusicLDM: Enhancing Novelty in Text-to-Music Generation Using Beat-Synchronous Mixup Strategies
LAION；University of California San Diego（加州大学圣迭戈分校）；Mila, Quebec Artificial Intelligence Institute（Mila魁北克人工智能研究所）；Université de Montréal（蒙特利尔大学）；University of Surrey（萨里大学）
本文提出MusicLDM模型，通过适配Stable Diffusion和AudioLDM架构并采用节拍同步混音策略进行数据增强，有效提升了文本到音乐生成的质量、新颖性及文本匹配度。
2023-08-03 cs.AI cs.LG cs.MM
MixACM: Mixup-Based Robustness Transfer via Distillation of Activated Channel Maps
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Kyung-Hee University（庆熙大学）
深度神经网络容易受到自然输入中的对抗性、微小且难以察觉的变化的影响。针对这些示例的最有效的防御机制是对抗性训练，它通过迭代最大化损失来构建对抗性示例。然后训练模型，以最小化这些构建的示例的损失。这种最小-最大优化需要更多的数据、更大的容量模型和额外的计算资源。它还降低了模型的标准泛化性能。我们能更有效地实现鲁棒性吗？在这项工作中，我们从知识转移的角度来探讨这个问题。首先，我们从理论上证明了鲁棒性从一个对抗训练的教师模型到一个学生模型的混合增强的帮助下的可转移性。其次，我们提出了一种新的鲁棒性传输方法，称为基于混合的激活通道映射（MixACM）传输。MixACM通过匹配在没有昂贵的对抗性扰动的情况下生成的激活通道映射，将鲁棒性从鲁棒的教师转移到学生。最后，在多个数据集和不同学习场景上的广泛实验表明，我们的方法可以传递鲁棒性，同时也提高了自然图像的泛化能力。
2021-11-09 cs.AI cs.CV cs.LG
MixBoost: Synthetic Oversampling with Boosted Mixup for Handling Extreme Imbalance
Media and Data Science Research Lab, Adobe（Adobe 媒体与数据科学研究实验室）；Massachusetts Institute of Technology（麻省理工学院）；Delhi Technological University（德里理工大学）
在一个数据集上训练分类模型，其中一类的实例数量超过另一类的实例数量是一个具有挑战性的问题。这种不平衡的数据集在真实世界的情况下是标准的，例如欺诈检测，医疗诊断和计算广告。我们提出了一个迭代的数据增强方法，MixBoost，智能地选择（Boost），然后结合（混合）的实例，从多数和少数类，以生成合成的混合实例，具有这两个类的特点。我们在20个基准数据集上评估了MixBoost，表明它优于现有方法，并通过显著性测试测试了其有效性。我们还介绍了消融研究，以分析MixBoost不同组件的影响。
2020-09-03 cs.LG stat.ML
FIXED: Frustratingly Easy Domain Generalization with Mixup
Tsinghua University（清华大学）；Microsoft（微软）；Nanyang Technological University（南洋理工大学）；University of North Carolina（北卡罗来纳大学）；University of Chinese Academy of Sciences（中国科学院大学）
本文提出 FIXED 方法，通过域不变特征 Mixup 和增强判别能力解决域泛化问题，在七个数据集上平均超越最佳基线 6.5% 的测试准确率。
2023-11-28 cs.AI cs.CV cs.LG
DP-Mix: Mixup-based Data Augmentation for Differentially Private Learning
University of Florida（佛罗里达大学）；NEC Labs America（NEC美国实验室）
针对 mixup 等多样本增强与差分隐私学习不兼容的问题，提出 DP-Mix_Self 与融合扩散模型合成数据的 DP-Mix_Diff，在多数据集上达到 SoTA。
2023-11-02 cs.CR cs.CV cs.LG
Robust Pollen Imagery Classification with Generative Modeling and Mixup Training
深度学习方法在图像分类任务中取得了巨大的成功，并且可以极大地帮助花粉粒航空图像的快速可靠分类。然而，通常情况下，在自然图像的设置中的深度学习方法可能会遇到泛化问题，并且在看不见的测试分布上表现不佳。在这项工作中，我们提出了一个强大的深度学习框架，可以很好地概括花粉粒大气生物学图像分类。我们开发了一种基于卷积神经网络的花粉粒分类方法，并结合了深度学习中的一些最佳实践，以实现更好的泛化。除了常见的方法，如数据增强和权重正则化，我们利用隐式正则化方法，如流形混合，以允许学习更平滑的决策边界。我们还利用了经过验证的最先进的架构选择，如EfficientNet卷积神经网络。受变分自编码器生成建模成功的启发，我们用更丰富的学习目标训练训练模型，这可以让模型专注于图像的相关部分。最后，我们创建一个神经网络的合奏，测试集预测的鲁棒性。基于我们的实验，我们显示出改进的泛化性能，与加权F1分数与上述方法。该方法在ICPR-2020花粉粒分类挑战赛的最终排名中获得第四名;加权F1得分为0.972578，宏观平均F1得分为0.950828，识别准确率为0.972877。
2021-02-25 cs.CV cs.LG eess.IV
Spectral Adversarial MixUp for Few-Shot Unsupervised Domain Adaptation
Rensselaer Polytechnic Institute（伦斯勒理工学院）；IBM Thomas J. Watson Research Center（IBM托马斯·J·沃森研究中心）
针对少样本无监督域适应，提出基于频谱敏感度图的谱对抗混合方法，生成目标风格图像以提升模型泛化能力。
2023-09-03 cs.CV cs.LG eess.IV
DRFLM: Distributionally Robust Federated Learning with Inter-client Noise via Local Mixup
Tencent AI Lab（腾讯人工智能实验室）；Hong Kong University of Science and Technology（香港科技大学）
最近，联邦学习已经成为一种很有前途的方法，可以使用来自多个组织的数据来训练全局模型，而不会泄露原始数据。然而，直接将联邦学习应用于现实任务面临两个挑战：（1）不同组织之间的数据异构性;（2）单个组织内部的数据噪声。在本文中，我们提出了一个通用的框架，同时解决上述两个挑战。具体来说，我们建议使用分布式鲁棒优化，以减轻数据异构性范例所造成的负面影响，在每次迭代的基础上，可学习的分布样本客户端。此外，我们观察到，这种优化范式很容易受到本地客户端内部数据噪声的影响，这在全局模型预测精度方面具有显着的性能下降。为了解决这个问题，我们建议将混淆技术纳入联邦学习的局部训练过程。我们进一步提供了全面的理论分析，包括鲁棒性分析，收敛性分析和泛化能力。此外，我们在不同的药物发现任务，如ADMET属性预测和药物靶点亲和力预测进行实证研究。
2022-04-16 cs.DC cs.LG stat.ML
Dimension Independent Mixup for Hard Negative Sample in Collaborative Filtering
YanShan University（燕山大学）；University of Illinois Chicago（伊利诺伊大学芝加哥分校）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
针对协同过滤隐式反馈训练中难负采样区域未被充分探索的问题，本文提出首个 Area-wise 方法 DINS，通过难边界定义、维度独立 Mixup 与多跳池化提升矩阵分解和图模型性能。
2023-08-18 cs.IR cs.LG
Dual-level Mixup for Graph Few-shot Learning with Fewer Tasks
College of Computer Science and Technology, Jilin University（吉林大学计算机科学与技术学院）；Department of Information Engineering and Computer Science, University of Trento（特伦托大学信息工程与计算机科学系）
针对图元学习依赖大量元训练任务的问题，本文提出 SMILE，通过任务内与跨任务双层 mixup 扩充节点和任务，并结合节点度先验提升少样本泛化性能。
2025-02-19 cs.LG cs.SI
AdaMixup: A Dynamic Defense Framework for Membership Inference Attack Mitigation
University of Connecticut（康涅狄格大学）；Courant Institute, New York University（纽约大学柯朗数学科学研究所）；Robert H. Smith School of Business, University of Maryland（马里兰大学罗伯特·H·史密斯商学院）；School of Information, University of California（加州大学信息学院）
针对深度学习中的成员推理攻击，本文提出 AdaMixup 动态防御框架，通过训练时自适应调整 mixup 策略，在保持模型准确率的同时显著降低隐私泄露风险。
2025-01-04 cs.AI cs.LG
