Fed-TDA: Federated Tabular Data Augmentation on Non-IID Data
School of Computer Science, Harbin Institute of Technology (Shenzhen)（哈尔滨工业大学（深圳）计算机科学与技术学院）；Department of New Networks, Peng Cheng Laboratory（鹏城实验室新型网络部）
非独立同分布（non-IID）数据是联邦学习（FL）面临的一个关键挑战，它通常会阻碍FL的优化收敛和性能。现有的基于联邦生成模型或原始数据共享策略的数据增强方法在解决非IID问题时仍然存在性能低下、隐私保护问题以及分布式表数据通信开销大等问题。为了应对这些挑战，我们提出了一种联合表格数据增强方法，名为Fed-TDA。Fed-TDA的核心思想是使用一些简单的统计数据（例如，每个列的分布和全局协方差）。具体来说，我们提出了多峰分布变换和逆累积分布映射分别合成连续和离散列的表格数据从噪声根据预先学习的统计。此外，我们从理论上分析，我们的Fed-TDA不仅保护数据隐私，而且还保持了原始数据的分布和列之间的相关性。通过对五个真实世界的表格数据集进行广泛的实验，我们证明了Fed-TDA在测试性能和通信效率方面的优越性。
2023-01-12 cs.CR cs.LG stat.ML
FLea: Addressing Data Scarcity and Label Skew in Federated Learning via Privacy-preserving Feature Augmentation
针对联邦学习中设备间数据稀缺、标签偏移导致的局部模型过拟合与漂移问题，提出含全局特征缓冲、混合特征增强、激活混淆的FLea框架，在多数实验场景中性能提升超5%且兼顾隐私保护。
2024-06-18 cs.DC cs.LG
FLea: Addressing Data Scarcity and Label Skew in Federated Learning via Privacy-preserving Feature Augmentation
University of Cambridge（剑桥大学）；University of Birmingham（伯明翰大学）
FLea框架通过全局特征缓冲区、激活混合特征增强和混淆方法，在保护隐私的前提下缓解联邦学习中数据稀缺与标签偏斜导致的本地过拟合和漂移问题，并在多种设置下优于现有方法。
2024-07-02 cs.CR cs.DC cs.LG
Generative Adversarial Networks for Bitcoin Data Augmentation
Vicomtech Foundation, Basque Research and Technology Alliance (BRTA)（巴斯克研究与技术联盟（BRTA）维康特克基金会）；Institute of Smart Cities, Public University of Navarre（纳瓦拉公立大学智慧城市学院）
在比特币实体分类中，结果受到地面实况数据集的强烈影响，特别是在应用监督机器学习方法时。然而，这些地面实况数据集经常受到严重的类别不平衡的影响，因为它们通常包含更多关于法律服务（交易所，赌博）的信息，而不是可能与非法活动有关的服务（混合器，服务）。类别不平衡增加了应用机器学习技术的复杂性，并降低了分类结果的质量，特别是对于代表性不足但关键的类别。在本文中，我们建议通过使用生成对抗网络（GANs）来解决这个问题，因为GANs最近在图像分类领域显示出了有希望的结果。然而，没有适用于每种场景的“一刀切”GAN解决方案。事实上，设置GAN训练参数是不平凡的，并且严重影响所生成的合成数据的质量。因此，我们评估了GAN参数，如优化函数，数据集的大小和所选的批量大小如何影响GAN实现一个代表性不足的实体类（矿池），并演示了如何获得一个“好”的GAN配置，实现合成生成的和真实的比特币地址数据之间的高相似性。据我们所知，这是第一项将GANs作为有效工具的研究，用于生成比特币实体分类中数据增强的合成地址数据。
2020-05-27 cs.LG stat.ML
Time Matters in Regularizing Deep Networks: Weight Decay and Data Augmentation Affect Early Learning Dynamics, Matter Little Near Convergence
University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
正则化通常被理解为通过改变模型最终收敛到的局部极值来改善泛化。然而，深度神经网络（DNN）挑战了这一观点：我们表明，在初始过渡期之后删除正则化对泛化的影响很小，即使最终的损失情况与没有正则化的情况相同。在某些情况下，在中断正则化之后，泛化甚至有所改善。相反，如果仅在初始瞬态之后应用正则化，则它对最终解没有影响，其泛化差距就像正则化从未发生过一样糟糕。这表明，训练深度网络的重要性不仅仅在于是否或如何正则化，而是何时正则化。我们观察到的现象表现在不同的数据集（CIFAR-10，CIFAR-100），不同的架构（ResNet-18，All-CNN），不同的正则化方法（权重衰减，数据增强），不同的学习率调度（指数，分段常数）。他们共同认为，有一个“关键时期”来正则化深度网络，这对最终的表现是决定性的。因此，更多的分析应该集中在学习的瞬态而不是渐近行为上。
2019-05-30 cs.AI cs.LG stat.ML
Deep Neural Network Augmentation: Generating Faces for Affect Analysis
Imperial College London（帝国理工学院）；Middlesex University of London（伦敦密德萨斯大学）
本文提出了一种新的方法来合成面部情感;无论是在六个基本的表情（即，愤怒、厌恶、恐惧、喜悦、悲伤和惊讶），或者根据效价（即，情绪的积极或消极程度）和唤醒（即，情感激活的力量）。所提出的方法接受以下输入：i）人的中性2D图像; ii）要生成的基本面部表情或一对效价唤醒（VA）情绪状态描述符，或要生成为图像序列的2D VA空间中的影响路径。为了根据VA合成情感，对于这个人，注释了来自4DFAB数据库的$600,000$帧。情感合成是通过在中性图像上拟合一个3D Morphable Model，然后对重建的人脸进行变形并添加输入的情感，最后将具有给定情感的新人脸融合到原始图像中。定性实验说明了真实感图像的生成，当中性图像从13个著名的实验室控制的或在野外的数据库，包括Aff-Wild，AffectNet，RAF-DB采样;与生成对抗网络（GANs）的比较表明，所提出的方法实现了更高的质量。然后，进行定量实验，其中合成的图像用于训练深度神经网络的数据增强，以在所有数据库上执行情感识别;与最先进的方法相比，在所有情况下，都实现了性能的极大改善，以及基于GAN的数据增强。
2019-07-16 cs.AI cs.CV cs.LG
Pseudo-Label Augmentation for Affect Sensing in Small Collaborative Groups
IT University of Copenhagen（哥本哈根信息技术大学）；GN Advanced Science, GN Hearing（GN 先进科学，GN 听力）
本研究利用GroupAffect-4数据集，提出伪标签增强方法以应对协作群体情感感知中的稀疏标签问题，实验表明该方法优于仅标签基线，且人格信息宜作为团队内选择机制。
2026-09-16 cs.AI cs.HC cs.LG
A Hamiltonian Monte Carlo Model for Imputation and Augmentation of Healthcare Data
UCSF（加利福尼亚大学旧金山分校）
几乎所有临床研究都存在缺失值，因为未收集或无法获得变量或问题的数据。缺失值处理不当可能导致分析结果出现偏倚，并丧失统计功效。现有的模型通常不考虑隐私问题，或者不利用多个特征之间的固有相关性来估算缺失值。在医疗保健应用中，我们通常会遇到高维数据集，有时甚至是小样本数据集，这些数据集需要更有效的增强或插补技术。此外，传统上，估算和增加过程是单独进行的。然而，填补缺失值和增强数据可以显着提高泛化能力，避免机器学习模型中的偏差。在这项工作中提出了一种贝叶斯方法来填补缺失值，并在高维医疗数据中创建增强样本。我们提出了折叠汉密尔顿蒙特卡罗（F-HMC）与贝叶斯推理作为一个更实用的方法来处理的跨维关系，通过应用随机行走和汉密尔顿动力学，以适应后验分布，并产生大规模的样本。所提出的方法被应用到癌症症状评估数据集，并确认丰富的数据质量的精度，准确性，召回率，F1评分和倾向性度量。
2021-03-03 cs.LG stat.ML
ARMOR: Shielding Unlearnable Examples against Data Augmentation
Nanyang Technological University（南洋理工大学）；College of Electrical Engineering, Zhejiang University（浙江大学电气工程学院）；School of Cyber Science and Engineering, Wuhan University（武汉大学网络科学与工程学院）；ZJU-Hangzhou Global Scientific and Technological Innovation Center (HIC)（浙江大学杭州国际科技创新中心（HIC））；State Key Laboratory of Blockchain and Data Security, Zhejiang University（浙江大学区块链与数据安全国家重点实验室）
针对数据增强会破解不可学习样本隐私防护的问题，提出ARMOR防御框架，通过非局部模块代理模型、代理增强选择策略和动态步长算法生成防御噪声，在多数据集上验证其防护效果显著优于现有基线。
2025-01-15 cs.AI cs.CR cs.LG
DP-InstaHide: Provably Defusing Poisoning and Backdoor Attacks with Differentially Private Data Augmentations
University of Maryland（马里兰大学）；University of Siegen（锡根大学）
数据投毒和后门攻击操纵训练数据以在受害者模型中诱发安全漏洞。这些攻击可以使用差分私有（DP）训练方法来证明，尽管这会导致模型性能急剧下降。InstaHide方法最近被提出作为DP训练的替代方案，该方法利用了混淆增强的假定隐私属性，尽管没有严格的保证。在这项工作中，我们表明，强大的数据增强，如混合和随机加性噪声，无效的毒药攻击，而持久只有一个小的准确性权衡。为了解释这些发现，我们提出了一种训练方法DP-InstaHide，它将混合正则化器与加性噪声相结合。对DP-InstaHide的严格分析表明，mixup确实具有隐私优势，并且使用k路mixup的训练可证明比朴素的DP机制产生至少k倍的DP保证。由于混淆（与噪声相对）对模型性能有益，因此DP-InstaHide提供了一种机制，用于实现比其他已知DP方法更强的对抗中毒攻击的经验性能。
2021-04-08 cs.CR cs.CV cs.LG
A Kernel Theory of Modern Data Augmentation
Stanford University（斯坦福大学）；Carnegie Mellon University（卡内基梅隆大学）；Cornell University（康奈尔大学）
数据增强是一种利用类保持变换扩展训练集的技术，在现代机器学习流水线中无处不在。在本文中，我们试图建立一个理论框架来理解数据增强。我们从两个方向来处理这个问题：首先，我们提供了一个一般的增强模型作为一个马尔可夫过程，并表明内核自然出现在这个模型，即使我们不采用内核分类。接下来，我们更直接地分析了增强对核分类器的影响，表明数据增强可以近似为一阶特征平均和二阶方差正则化分量。这些框架都用于说明数据增强影响下游学习模型的方式，并且由此产生的分析提供了不变核，切线传播和鲁棒优化中先前工作之间的新联系。最后，我们提供了几个概念验证应用程序，表明我们的理论可以用于加速机器学习工作流程，例如减少使用增强数据进行训练所需的计算量，以及在训练之前预测转换的效用。
2019-03-20 cs.LG stat.ML
Boosting Predictive Performance on Tabular Data through Data Augmentation with Latent-Space Flow-Based Diffusion
Md. Tawfique Ihsan（独立研究者）；Md. Rakibul Hasan Rafi（独立研究者）；Ahmed Shoyeb Raihan（独立研究者）；Imtiaz Ahmed（独立研究者）；Abdullahil Azeem（独立研究者）
本文提出基于潜在空间和树驱动扩散的方法，通过数据增强提升表格数据预测性能，实现高召回率和隐私保护。
2025-11-20 cs.LG
Towards Privacy-Preserving Affect Recognition: A Two-Level Deep Learning Architecture
The University of Nottingham（诺丁汉大学）；Huawei Technologies Co., Ltd（华为技术有限公司）；B-Hive Innovations
利用图像和计算机视觉自动理解和识别人的情感状态可以改善人机和人机交互。然而，隐私已经成为一个非常值得关注的问题，因为用于训练情感模型的人的身份可能在这个过程中暴露。例如，恶意的个人可以利用用户的图像并冒充他们的身份。此外，使用图像的情感识别可能导致歧视性和算法偏见，因为某些信息，如种族，性别和年龄，可以基于面部特征来假设。保护用户隐私和避免滥用其身份的可能解决方案是：（1）从图像数据库中提取匿名的面部特征，即动作单元（AU），丢弃图像并使用AU进行处理和训练，以及（2）联邦学习（FL），即在用户的本地机器中处理原始图像然后将本地训练的模型发送到主处理机进行聚合（中央处理）。在本文中，我们提出了一种用于情感识别的两级深度学习架构，该架构在第1级使用AU，在第2级使用FL来保护用户的身份。该架构由递归神经网络捕获的功能和预测效价和唤醒情感状态之间的时间关系。在我们的实验中，我们评估我们的隐私保护体系结构的性能，使用不同的变化的递归神经网络的RECOLA，一个全面的多模态情感数据库。我们的研究结果显示了最先进的性能$0.426$的效价和$0.401$唤醒使用一致性相关系数评估指标，证明了开发模型的可行性，既准确，又确保隐私的影响识别。
2021-11-14 cs.CV cs.LG
Mitigating Data Heterogeneity in Federated Learning with Data Augmentation
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；University of Waterloo（滑铁卢大学）
联邦学习（FL）是一个突出的框架，它可以训练一个集中式模型，同时通过融合本地的分散式模型来保护用户隐私。在这种情况下，一个主要障碍是数据异构性，即，每个客户端具有不相同且独立分布的（非IID）数据。这类似于领域泛化（DG）的上下文，其中每个客户端可以被视为不同的域。然而，虽然DG中的许多方法从算法的角度来处理数据异构性，但最近的证据表明，数据增强可以产生相等或更高的性能。出于这种连接，我们提出了联邦版本的流行DG算法，并表明，通过应用适当的数据增强，我们可以减轻数据异构性的联邦设置，并获得更高的准确性看不见的客户端。配备了数据增强，我们可以实现最先进的性能，即使是最基本的联邦平均算法，更稀疏的通信。
2022-06-20 cs.LG
Generative Adversarial Network Based Synthetic Learning and a Novel Domain Relevant Loss Term for Spine Radiographs
Stanford Medicine（斯坦福医学院）
问题：在医学中，缺乏用于训练深度学习模型的大数据，其特点是数据收集的时间成本和隐私问题。生成对抗网络（GANs）提供了生成新数据的可能性，以及使用这些新生成的数据，而不包括患者的真实数据，用于下游应用。方法：训练一系列GANs，并将其应用于下游计算机视觉脊柱X射线照片异常分类任务。单独的分类器在访问或不访问原始成像的情况下进行训练。经过训练的GANs包括具有自适应增强功能的条件StyleGAN 2、具有自适应增强功能的条件StyleGAN 2，以根据病变类型生成脊柱X线照片，以及使用新的临床损失项生成器具有自适应增强功能的StyleGAN 2（SpineGAN）。最后，训练了一个具有异常条件的自适应增强的差分隐私施加StyleGAN2，并对其差分隐私施加进行了消融研究。关键结果：我们完成了合成脊柱X线照片的GAN生成，首次没有文献综述中有意义的输入。我们进一步证明了脊柱域的合成学习与下游临床分类任务的成功（使用合成数据的AUC为0.830，而使用真实数据的AUC为0.886）。重要的是，发现为发生器引入新的临床损失项可以增加代回忆并加速模型训练。最后，我们证明了，在有限大小的医疗数据集，差分隐私强加严重阻碍了GAN训练，发现这是特别是由于梯度扰动噪声的要求。
2022-05-05 cs.AI cs.CV cs.LG
The Application of Affective Measures in Text-based Emotion Aware Recommender Systems
George Mason University（乔治梅森大学）；George Mason University Korea（乔治梅森大学韩国分校）
本文提出利用生成式预训练Transformer检测情感特征，构建情感指数与指标，通过责任分离保护隐私，为情感感知推荐系统提供解决方案。
2023-05-04 cs.IR cs.LG
Private, Augmentation-Robust and Task-Agnostic Data Valuation Approach for Data Marketplace
Technische Universität Berlin（柏林工业大学）；University of Minnesota Twin Cities（明尼苏达大学双城分校）
针对数据交易市场的数据集估值难题，提出任务无关方法PriArTa，通过分布距离计算、通信高效的预处理机制与增强鲁棒性设计，实现隐私保护下的高效数据估值，经真实图像实验验证有效。
2024-11-01 cs.DC cs.LG
Discriminative Cross-Modal Data Augmentation for Medical Imaging Applications
University of California San Diego（加利福尼亚大学圣地亚哥分校）
虽然深度学习方法在医学图像分析中取得了巨大成功，但它们需要大量医学图像进行训练。由于数据隐私问题和医学注释器的不可用，通常很难获得大量标记的医学图像用于模型训练。在本文中，我们研究跨模态数据增强，以减轻在医学成像领域的数据不足的问题。我们提出了一个有区别的不成对图像到图像的翻译模型，该模型将源模态中的图像翻译成目标模态中的图像，其中翻译任务与下游预测任务联合进行，并且翻译由预测指导。两个应用程序的实验证明了我们的方法的有效性。
2020-10-07 cs.CV cs.LG eess.IV
SelfAugment: Automatic Augmentation Policies for Self-Supervised Learning
UC Berkeley（加州大学伯克利分校）；BAIR（伯克利人工智能研究中心）；Weill Neurosciences Institute（威尔神经科学研究所）；UCSF（加州大学旧金山分校）
无监督表示学习中的一个常见做法是使用标记数据来评估学习表示的质量。然后，该监督评估用于指导训练过程的关键方面，例如选择数据增强策略。然而，通过监督评估来引导无监督训练过程对于实际上不包含标签的真实世界数据是不可能的（例如，在诸如医学成像的隐私敏感领域中可能是这种情况）。因此，在这项工作中，我们表明，评估学习表示与自我监督的图像旋转任务是高度相关的一组标准的监督评价（秩相关$> 0.94$）。我们在数百种增强策略、训练设置和网络架构之间建立了这种相关性，并提供了一种算法（SelfAugment）来自动有效地选择增强策略，而无需使用监督评估。尽管没有使用任何标记的数据，学习的增强策略执行与使用穷举监督评估确定的增强策略的交互。
2021-05-17 cs.CV cs.LG
Data Augmentation Improves Machine Unlearning
Visual Computing Lab, Department of Computing, Universidade Federal Rural de Pernambuco, Brazil（视觉计算实验室，计算系，巴西帕尔梅鲁纳联邦大学）
本研究探究数据增强策略对机器遗忘方法性能的影响，实验表明适当增强可显著提升遗忘效果，最高将平均差距度量降低40.12%。
2025-08-25 cs.AI cs.LG
AUGCO: Augmentation Consistency-guided Self-training for Source-free Domain Adaptive Semantic Segmentation
Georgia Institute of Technology（佐治亚理工学院）
用于域自适应语义分割的大多数现代方法依赖于在自适应期间对源数据的持续访问，这可能由于计算或隐私约束而不可行。我们专注于无源领域自适应语义分割，其中一个源模型必须适应一个新的目标域只给未标记的目标数据。我们提出了增强一致性指导的自训练（AUGCO），这是一种无源自适应算法，它使用模型的像素级预测一致性，跨各种自动生成的每个目标图像的视图以及模型置信度来识别可靠的像素预测，并选择性地对这些像素进行自训练。AUGCO在3个标准的语义分割基准测试中实现了最先进的无源自适应结果，所有这些都在一个简单的实现和快速收敛的方法中实现。
2022-01-06 cs.CV cs.LG
Adaptive Hybrid Masking Strategy for Privacy-Preserving Face Recognition Against Model Inversion Attack
Ant Group（蚂蚁集团）；University of Canterbury（坎特伯雷大学）；CAICT（中国信息通信研究院）
本文提出一种基于强化学习的自适应混合掩码算法，在频域对人脸图像进行掩码处理，以抵御模型反演攻击，在隐私保护与识别准确率间取得更优平衡。
2024-04-23 cs.CR cs.CV cs.LG
Mitigating Statistical Bias within Differentially Private Synthetic Data
University of Oxford（牛津大学）；University of Warwick（华威大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Kaiserslautern（凯泽斯劳滕大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心）
对隐私保护机器学习的兴趣日益增加，导致了用于从未公开的真实数据生成私有合成数据的新的和进化的方法。然而，隐私保护机制可以显著降低合成数据的效用，这反过来又会影响下游任务，如学习预测模型或推理。我们提出了几个重新加权策略，使用私有化的似然比，不仅减轻下游估计的统计偏差，但也具有普遍适用性的差分私人生成模型。通过大规模的实证评估，我们表明，私人重要性加权提供了简单而有效的隐私兼容的合成数据的一般应用程序的增强。
2022-05-19 cs.CR cs.LG stat.ML
Boosting Classification with Quantum-Inspired Augmentations
German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心）；RPTU Kaiserslautern-Landau（科隆-兰道大学）；Department of Computer Science and Research Initiative QC-AI（计算机科学系和量子人工智能研究计划）；Department of Physics（物理系）
本文提出利用随机 Bloch 球旋转这一基本 SU(2) 变换作为量子启发的数据增强技术，直接应用于经典数据，在 ImageNet 上使图像分类的 Top-1 准确率提升 3%，并探讨了其在差分隐私方面的局限性。
2025-06-27 cond-mat.dis-nn cs.CV cs.LG
Towards Explainable, Privacy-Preserved Human-Motion Affect Recognition
University of Glasgow（格拉斯哥大学）
人体运动特征用于监测神经系统疾病和情绪障碍的进展。由于对情绪的感知也与身体姿势和动作交织在一起，因此可以使用人类步态的情绪识别来定量监测情绪变化。许多现有的解决方案通常使用具有原始位置数据或手动提取的特征的浅机器学习模型来实现这一点。然而，步态是由许多高度表达的特征，可以用来识别人类主体，大多数解决方案未能解决这一问题，无视受试者的隐私。这项工作介绍了一种新的深度神经网络架构，以解开人类的情感和生物特征。特别是，我们提出了一种跨学科的迁移学习技术，用于训练多编码器自编码器深度神经网络，以学习人类运动特征的解纠缠潜在表示。通过从步态数据中分离出受试者的生物特征，我们证明了受试者的隐私得到了保护，同时影响识别性能优于传统方法。此外，我们利用引导梯度CAM提供全球的解释模型的决定跨步态周期。我们评估了我们的方法的有效性，现有的方法在识别情绪使用3D时间联合信号和手动提取的功能。我们还表明，这些数据可以很容易地被利用来暴露受试者的身份。我们的方法显示出高达7%的改善，并突出显示了在平均步态周期中影响最大的关节。
2021-08-27 cs.CV cs.LG
Personalized Speech Enhancement through Self-Supervised Data Augmentation and Purification
Indiana University（印第安纳大学）
训练个性化的语音增强模型本质上是一个无镜头学习问题，由于隐私的限制和有限的访问从目标用户的无噪声语音。如果测试时用户有大量未标记的嘈杂语音，则可以使用自监督学习来训练个性化的语音增强模型。模型个性化的一种直接方法是使用目标说话者的嘈杂录音作为伪源。然后，伪去噪模型学习去除注入的训练噪声并恢复伪源。然而，这种方法是不稳定的，因为它取决于伪源的质量，这可能是太嘈杂。作为补救措施，我们提出了一个改进的自我监督的方法，通过数据净化。我们首先训练一个SNR预测器模型来估计伪源的逐帧SNR。然后，预测器的估计被转换成权重，该权重调整伪源对训练个性化模型的逐帧贡献。我们的经验表明，建议的数据净化步骤提高了可用性的扬声器特定的噪声数据的背景下，个性化的语音增强。在不依赖任何干净的语音记录或说话者嵌入的情况下，我们的方法可以被视为隐私保护。
2021-04-05 cs.LG cs.SD eess.AS
Riemannian Geometry-Preserving Variational Autoencoder for MI-BCI Data Augmentation
本文提出保黎曼几何的变分自编码器，用于生成具有对称正定性质的EEG协方差矩阵，以提升MI-BCI的数据增强效果。
2026-03-11 cs.LG
Privacy Amplification by Structured Subsampling for Deep Differentially Private Time Series Forecasting
Technical University of Munich \& Munich Data Science Institute；Machine Learning Research, Morgan Stanley
针对DP-SGD与时间序列预测不兼容的问题，提出结构化子采样实现隐私放大，支持训练具有严格事件级和用户级隐私保证的预测模型，并证明数据增强可进一步放大隐私。
2025-08-04 cs.CR cs.LG stat.ML
An Augmentation-Aware Theory for Self-Supervised Contrastive Learning
Peking University（北京大学）；University of Twente（特文特大学）
首次提出自监督对比学习的增强感知误差界，揭示数据增强引发的权衡对监督风险的影响，并通过像素级和表示级实验验证了理论结果。
2025-05-28 cs.LG
Dataset Enhancement with Instance-Level Augmentations
University of Oxford（牛津大学）；PiñataFarms AI（PiñataFarms AI公司）
提出利用条件潜在扩散模型结合深度与边缘控制，在对象实例级重绘图像以实现数据集增强与隐私匿名化，并提升检测分割模型泛化性能。
2024-06-12 cs.CV cs.LG
On Robust Incremental Learning over Many Multilingual Steps
Reveal（Reveal公司）
最近的增量学习工作引入了多种方法来解决灾难性遗忘，从数据增强到优化训练机制。然而，他们中的大多数人只关注很少的训练步骤。我们提出了一种使用各种语言的数据进行数十个微调步骤的鲁棒增量学习方法。我们表明，数据增强和优化训练方案的结合使我们能够继续改进模型，甚至多达50个训练步骤。至关重要的是，我们的增强策略不需要保留对先前训练数据的访问权限，并且适用于具有隐私限制的场景。
2022-10-25 cs.CL cs.LG
Beyond Privacy: Navigating the Opportunities and Challenges of Synthetic Data
本文探讨了合成数据在机器学习领域超越隐私保护的广泛应用潜力，指出其可按需定制数据集，并强调量化合成数据可信度是社区需克服的核心挑战。
2023-04-07 cs.LG
Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Virginia Tech（弗吉尼亚理工大学）；ADA University（阿塞拜疆ADA大学）；University of Potsdam（波茨坦大学）；University of Passau（帕绍大学）
研究公平性增强算法在亚群体层面如何影响隐私风险，通过调整似然比攻击进行审计，分析差分隐私与公平性方法交互，发现公平性干预对隐私风险影响因多种因素而异，引入统一实证框架支持相关审计。
2026-07-17 cs.AI cs.LG
Personalized Federated Learning on Long-Tailed Data via Adversarial Feature Augmentation
Xiamen University（厦门大学）；Zhejiang Lab（之江实验室）
个性化联邦学习（PFL）旨在以隐私保护的方式基于所有客户端的知识为每个客户端学习个性化模型。现有的PFL方法通常假设跨所有客户端的底层全局数据是均匀分布的，而没有考虑长尾分布。FL环境中的数据异构性和长尾分布的联合问题更具挑战性，并严重影响个性化模型的性能。在本文中，我们提出了一种PFL方法称为联邦学习与对抗特征增强（FedAFA），以解决这个联合问题PFL。FedAFA通过生成平衡的特征集来增强本地少数类，从而为每个客户端优化个性化模型。局部少数类特征是通过从全局模型提取的局部多数类特征中以对抗性示例学习方式传递知识而生成的。在不同的数据异构性和长尾分布设置下的测试结果表明，与PFL算法相比，FedAFA算法显著提高了每个客户端的个性化性能.该代码可在https://github.com/pxqian/FedAFA上获得。
2023-03-27 cs.LG
Evaluating Privacy-Utility Tradeoffs in Synthetic Smart Grid Data
Faculty of Engineering, University of Porto（葡萄牙波尔图大学工程学院）；Center for Responsible AI（负责任人工智能中心）
针对智能电网真实用电数据的隐私风险，研究对比四种合成数据生成方法的效用、保真度与隐私表现，发现扩散模型效用最优、CTGAN抗重构攻击最强，为隐私保护型能源系统构建提供参考。
2025-05-20 cs.CY cs.LG
Lightweight GenAI for Network Traffic Generation: Fidelity, Augmentation, and Classification
DIETI, University of Naples Federico II（那不勒斯费德里科二世大学）；Huawei Technologies France SASU（华为技术法国有限公司）
本文提出轻量级生成式人工智能架构，用于网络流量合成，通过保真度、纯合成训练、低数据增强和计算效率的评估，提升分类性能，变压器模型在保真度与效率间取得最佳平衡。
2026-08-26 cs.AI cs.LG cs.NI
Scalable Vertical Federated Learning via Data Augmentation and Amortized Inference
Centre for Data Science, Queensland University of Technology（昆士兰科技大学数据科学中心）；School of Mathematical Sciences, Queensland University of Technology（昆士兰科技大学数学科学学院）；Euler Institute, Università della Svizzera italiana (USI)（瑞士意大利语区大学欧拉研究所）；Insubria University（因苏布里亚大学）
提出首个面向VFL的贝叶斯建模综合框架，通过数据增强、似然分解与摊销变分近似实现与观测数无关的可扩展隐私保护推理。
2024-05-07 cs.LG stat.CO stat.ME
Understanding the Detrimental Class-level Effects of Data Augmentation
本文提出一个框架理解数据增强对类级学习动态的影响，发现其会显著损害本质模糊或细粒度类别的准确率，并据此提出类条件增强策略改善了受负面影响类别的性能。
2023-12-07 cs.CV cs.LG
Robustness Threats of Differential Privacy
Skolkovo Institute of Science and Technology（斯科尔科沃科学技术学院）；Huawei MRC（华为莫斯科研究中心）；Lomonosov MSU（罗蒙诺索夫莫斯科国立大学）
差分隐私（DP）是数据分析中度量和保证隐私的黄金标准概念。众所周知，在深度学习模型中加入DP的代价是其准确性。然而，目前尚不清楚它如何影响模型的鲁棒性。标准的神经网络对不同的输入扰动都不鲁棒：无论是对抗攻击还是普通的破坏。在本文中，我们经验性地观察到一个有趣的权衡隐私和神经网络的鲁棒性。我们通过实验证明，与非私有版本相比，使用DP训练的网络在某些情况下可能更加脆弱。为了探索这一点，我们广泛研究了不同的鲁棒性测量，包括FGSM和PGD对手，距离线性决策边界，曲率轮廓，并在损坏的数据集上的性能。最后，我们研究了差分私有神经网络训练的主要成分，如梯度裁剪和噪声添加，如何影响（减少和增加）模型的鲁棒性。
2021-08-25 cs.CR cs.LG
Large language model as user daily behavior data generator: balancing population diversity and individual personality
Department of Electronic Engineering, Tsinghua University（电子工程系，清华大学）
针对日常行为预测中的数据隐私与可用性问题，提出BehaviorGen框架，利用大型语言模型生成合成行为数据，兼顾群体多样性与个体个性，在移动性和手机使用预测中最高提升18.9%。
2025-05-23 cs.CL cs.IR cs.LG
Embedding-Space Data Augmentation to Prevent Membership Inference Attacks in Clinical Time Series Forecasting
Department of Computational Linguistics Heidelberg University Germany（计算语言学系海德堡大学）；Department of Computational Linguistics & Interdisciplinary Center for Scientific Computing (IWR) Heidelberg University Germany（计算语言学系与跨学科科学计算中心（IWR）海德堡大学）
本文研究利用嵌入空间数据增强（特别是ZOO-PCA）生成合成样本重训练模型，以在不降低临床时间序列预测性能的前提下有效缓解成员推断攻击。
2025-11-07 cs.LG
StatMix: Data augmentation method that relies on image statistics in federated learning
Warsaw University of Technology（华沙理工大学）；Systems Research Institute Polish Academy of Sciences（波兰科学院系统研究所）；Warsaw Management University（华沙管理大学）
大量注释数据的可用性是深度学习成功的支柱之一。尽管已经有许多大数据集可供研究，但在现实生活中的应用中往往并非如此（例如，由于GDPR或与知识产权保护相关的问题，公司无法共享数据）。联邦学习（FL）是解决这个问题的一个潜在方案，因为它可以在分散在多个节点上的数据上训练全局模型，而无需共享本地数据本身。然而，如果处理不当，即使是FL方法也会对数据隐私构成威胁。因此，我们提出了StatMix，一种使用图像统计的增强方法，以改善FL场景的结果。StatMix在CIFAR-10和CIFAR-100上进行了经验测试，使用两种神经网络架构。在所有FL实验中，与基线训练（不使用StatMix）相比，StatMix的应用提高了平均准确度。在非FL设置中也可以观察到一些改进。
2022-07-08 cs.CV cs.LG
A Preliminary Study on Data Augmentation of Deep Learning for Image Classification
Nanjing University（南京大学）
深度学习模型有大量的自由参数，需要通过在大量训练数据上对模型进行有效训练来计算，以提高其泛化性能。然而，数据获取和标记在实践中是昂贵的。数据增强是缓解这一问题的方法之一。在本文中，我们对三个变量（增强方法，增强率和每个标签的基本数据集大小）如何影响深度学习图像分类的准确性进行了初步研究。该研究提供了一些指导方针：（1）最好使用改变图像几何形状的变换，而不是仅仅使用光照和颜色的变换。(2)2-3倍的增重率即可满足训练要求。(3)the smaller更小amount量of data数据，the more obvious明显contributions贡献could have.
2019-06-09 cs.CV cs.LG eess.IV
Diffusion-based Data Augmentation for Skin Disease Classification: Impact Across Original Medical Datasets to Fully Synthetic Images
AIP Labs（AIP实验室）；Semmelweis University（塞麦尔维斯大学）
尽管近年来不断进步，但深度神经网络仍然依赖于大量的训练数据来避免过拟合。然而，由于长期的隐私和严格的数据共享策略，用于诸如医疗保健的真实世界应用的标记的训练数据是有限的并且难以访问。通过在像素或特征空间中操作图像数据集，现有的数据增强技术代表了提高训练数据的数量和多样性的有效途径之一。在这里，我们希望通过建立在文本到图像扩散概率模型在增强我们的宏观皮肤病数据集的训练样本方面的新兴成功来推进增强技术。我们通过输入文本提示来实现对图像生成过程的细粒度控制。我们证明了这种生成数据增强方法即使在完全合成的皮肤病数据集上训练时，也成功地保持了视觉分类器的类似分类精度。与生成模型的最新应用类似，我们的研究表明，扩散模型在生成不牺牲分类器性能的高质量皮肤图像方面确实有效，并且可以在策展后改善训练数据集的增强。
2023-01-12 cs.CV cs.LG eess.IV
Vicinal Feature Statistics Augmentation for Federated 3D Medical Volume Segmentation
Harvard Medical School（哈佛医学院）；Harvard University（哈佛大学）；Graduate School of Engineering, Tohoku University（东北大学工学研究生院）；School of Biomedical Engineering, Anhui Medical University（安徽医科大学生物医学工程学院）；Washington University in St. Louis（圣路易斯华盛顿大学）；The Hong Kong Polytechnic University（香港理工大学）
针对联邦三维医学分割中标注数据有限与异构分布问题，提出邻近特征级数据增强方案，利用高斯原型建模批次特征统计量以缓解特征偏移，在脑肿瘤与心脏分割中显著优于六种先进方法。
2023-10-23 cs.AI cs.CV cs.LG
VAE-based Feature Disentanglement for Data Augmentation and Compression in Generalized GNSS Interference Classification
Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所）
本文提出基于变分自编码器特征解耦的方法，通过低维潜在表示插值实现数据压缩与增强，在四个GNSS干扰数据集上达到最高99.92%的分类准确率和512至8192倍的压缩率。
2025-04-14 cs.AI cs.IT cs.LG
On the Multidimensional Augmentation of Fingerprint Data for Indoor Localization in A Large-Scale Building Complex Based on Multi-Output Gaussian Process
University of Liverpool（利物浦大学）；Xi’an Jiaotong-Liverpool University（西交利物浦大学）
Wi-Fi指纹识别由于其不需要新的基础设施和专用设备的主要优势而成为大规模室内定位的主要解决方案。然而，在离线阶段期间用于测量定位指纹（如RSSI）的参考点（RP）的数量和分布极大地影响定位精度;例如，已知UJIIndoorLoc具有RP在建筑物和楼层上的不均匀空间分布的问题。数据增强作为一种可行的解决方案已经被提出，不仅可以改善现有指纹数据库中RP数量较少和分布不均匀的问题，而且可以减少构建新指纹数据库的人力和时间成本。本文在分析了现有文献的基础上，本文提出了一种基于多输出高斯过程（MOGP）的指纹数据多维增强方法，并利用UJIIndoorLoc数据库和现有的室内定位系统，系统地研究了增强率、MOGP核函数和模型及其超参数对室内定位性能的影响。提出了一种基于分层RNN的神经网络室内定位模型。基于实验结果的研究表明，我们可以生成高达原始数据十倍的合成RSSI指纹数据-即，增强比为10 --通过所提出的基于多维MOGP的数据增强，与单独的原始数据相比，不会显著影响室内定位性能，这扩展了组合RP的空间覆盖范围，从而可以提高不属于测试数据集的位置处的定位性能。
2022-11-19 cs.LG cs.NI
Benchmarking Time Series Generation Methods for Privacy-Preserving Forecasting
University of Minho（米尼奥大学）；Universidade do Porto（波尔图大学）；Laboratory for Artificial Intelligence and Computer Science (LIACC)（人工智能与计算机科学实验室（LIACC））；Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS机构）；INESCTEC；University of Coimbra（科英布拉大学）
该研究针对隐私敏感时间序列预测场景，通过TSTR协议构建基准测试，提出Grasynd-P方法，揭示不同生成方法的预测与隐私权衡，为隐私感知合成时间序列生成方法提供评估参考。
2026-08-12 cs.LG
Rethinking the Effect of Data Augmentation in Adversarial Contrastive Learning
Peking University（北京大学）
最近的研究表明，自监督学习在与对抗训练（AT）相结合时可以实现显着的鲁棒性。然而，监督AT（sup-AT）和自监督AT（self-AT）之间的鲁棒性差距仍然很大。受此观察的启发，我们重新审视现有的自AT方法，并发现影响自AT鲁棒性的固有困境：无论是强还是弱数据增强都对自AT有害，中等强度不足以弥合差距。为了解决这个难题，我们提出了一个简单的补救措施，名为DYNACL（动态对抗对比学习）。特别是，我们提出了一个增强时间表，逐渐退火从一个强增强到一个弱的，从两个极端的情况下受益。此外，我们采用了快速的后处理阶段，以适应下游任务。通过大量的实验，我们证明了DYNACL可以在CIFAR-10数据集上的自动攻击下将最先进的自AT鲁棒性提高8.84%，甚至可以首次超过普通的监督对抗训练。我们的代码可在\url{https://github.com/PKU-ML/DYNACL}上获得。
2023-03-03 cs.LG
Data Augmentation for Enhancing EEG-based Emotion Recognition with Deep Generative Models
Shanghai Jiao Tong University（上海交通大学）
从脑电图（EEG）中进行情感识别的数据稀缺问题导致难以使用机器学习算法或深度神经网络建立高精度的情感模型。受新兴的深度生成模型的启发，我们提出了三种增强EEG训练数据的方法，以提高情感识别模型的性能。我们提出的方法基于两个深度生成模型，变分自动编码器（VAE）和生成对抗网络（GAN），以及两种数据增强策略。对于完全使用策略，所有生成的数据都被增加到训练数据集，而不判断生成的数据的质量，而对于部分使用策略，只选择高质量的数据并附加到训练数据集。这三种方法被称为条件Wasserstein GAN（cW GAN）、选择性VAE（sVAE）和选择性WGAN（sW GAN）。为了评估这些方法的有效性，我们进行了系统的实验研究两个公开的情绪识别EEG数据集，即，种子和DEAP。我们首先生成两种形式的逼真的EEG训练数据：功率谱密度和微分熵。然后，我们用不同数量的生成的逼真的EEG数据来增强原始训练数据集。最后，我们训练支持向量机和具有快捷层的深度神经网络，以使用原始和增强的训练数据集构建情感模型。实验结果表明，我们的方法产生的增强训练数据集增强了基于EEG的情感识别模型的性能，并优于现有的数据增强方法，如条件VAE，高斯噪声和旋转数据增强。
2020-06-17 cs.LG eess.SP
Data Augmentation of IMU Signals and Evaluation via a Semi-Supervised Classification of Driving Behavior
Royal Institute of Technology (KTH)（皇家理工学院（KTH））；Georgia Institute of Technology（佐治亚理工学院）；Politecnico di Torino（都灵理工大学）；Lund University（隆德大学）
在过去的几年里，从数据中对驾驶员行为进行分类的兴趣激增。这种兴趣对于汽车保险公司来说尤其重要，由于隐私限制，汽车保险公司通常只能访问来自惯性测量单元（IMU）或类似设备的数据。在本文中，我们提出了一种半监督学习解决方案，根据驾驶员是否积极驾驶或基于此类IMU数据正常驾驶来对行程部分进行分类。由于标记IMU数据的数量有限且生成成本高，因此我们利用递归条件生成对抗网络（RCGAN）来生成更多的标记数据。我们的研究结果表明，通过利用RCGAN生成的标记数据，驾驶员的分类在79%的情况下得到了改善，与没有生成数据的驾驶员进行分类时相比。
2020-06-16 cs.LG eess.SP
Balancing Fidelity, Utility, and Privacy in Synthetic Cardiac MRI Generation: A Comparative Study
University of Peradeniya, Sri Lanka（斯里兰卡大学）；University of Maryland, College Park, USA（美国马里兰大学 College Park 分校）；Tulane University School of Medicine, USA（美国 Tulane 大学医学院）；Simula Research Laboratory, Norway（挪威 Simula 研究实验室）；SimulaMet, Norway（挪威 SimulaMet）
本研究比较了三种生成模型在合成心脏MRI中的性能，发现DDPM在保真度、实用性和隐私保护之间达到最佳平衡，而FM在隐私方面表现突出但性能略低。
2026-03-04 cs.CV cs.LG
Realistic Adversarial Data Augmentation for MR Image Segmentation
Imperial College London（帝国理工学院）；City, University of London（伦敦城市大学）
基于神经网络的方法可以在各种医学图像分割任务中实现高精度。然而，它们通常需要大型标记数据集进行监督学习。获取和手动标记大型医疗数据集是昂贵的，有时由于数据共享和隐私问题而不切实际。在这项工作中，我们提出了一种对抗性数据增强方法来训练神经网络进行医学图像分割。我们的模型不是生成逐像素的对抗性攻击，而是生成看似合理和现实的信号破坏，它模拟了由MR成像中常见的伪影类型：偏置场引起的强度不均匀性。该方法不依赖于生成网络，可以作为一般分割网络的监督和半监督学习的插件模块。使用心脏MR成像，我们表明，这种方法可以提高模型的泛化能力和鲁棒性，以及在低数据的情况下提供显着的改善。
2020-06-23 cs.CV cs.LG eess.IV
IEEE Big Data Cup 2022: Privacy Preserving Matching of Encrypted Images with Deep Learning
部署在智慧城市中的智能传感器、设备和系统为公民带来了更好的人身保护。通过这些技术进行运动检测、威胁和行为者分析以及实时警报，加强了犯罪预防、消防和生命安全保护。然而，在这些日益普遍的部署中，一个重要的要求是保护隐私和强制保护个人身份信息。因此，应将强加密和匿名化技术应用于收集的数据。在IEEE Big Data Cup 2022挑战赛中，不同的掩码、编码和同态加密技术被应用于图像，以保护其内容的隐私。参与者需要开发检测解决方案，以执行这些图像的隐私保护匹配。在本文中，我们描述了我们的解决方案，该解决方案基于最先进的深度卷积神经网络和各种数据增强技术。我们的解决方案在IEEE大数据杯2022：加密图像隐私保护匹配挑战赛中获得第一名。
2022-11-18 cs.AI cs.CR cs.CV
