FOSSIL: Regret-minimizing weighting for robust learning under imbalance and small data
Gwinnett Technical College（金尼特技术学院）；Intel Corporation（英特尔公司）；Prairie View A&M University（普里奥里视黑人大学）；Ohio State University（俄亥俄州立大学）
针对不平衡和小数据场景，提出统一加权框架FOSSIL，将类别不平衡校正、难度感知课程、增强惩罚与预热动态集成至单一公式，提供基于遗憾的理论保证，无需架构改动即显著优于现有基线。
2025-09-16 cs.LG
Pseudo-Label Augmentation for Affect Sensing in Small Collaborative Groups
IT University of Copenhagen（哥本哈根信息技术大学）；GN Advanced Science, GN Hearing（GN 先进科学，GN 听力）
本研究利用GroupAffect-4数据集，提出伪标签增强方法以应对协作群体情感感知中的稀疏标签问题，实验表明该方法优于仅标签基线，且人格信息宜作为团队内选择机制。
2026-09-16 cs.AI cs.HC cs.LG
ARDA: Automatic Relational Data Augmentation for Machine Learning
MIT CSAIL（麻省理工学院计算机科学与人工智能实验室）；University of Chicago（芝加哥大学）
自动机器学习（\AML）是一系列用于自动化训练预测模型的技术，旨在提高性能并使机器学习更容易获得。虽然最近的许多工作集中在机器学习管道的各个方面，如模型选择，超参数调整和特征选择，相对较少的工作集中在自动数据增强。自动数据增强涉及以最小的“人在环”参与来发现与用户的预测任务相关的新特征。我们提出了\system，一个端到端的系统，作为输入的数据集和数据存储库，并输出一个增强的数据集，这样训练预测模型在这个增强的数据集的结果在提高性能。我们的系统有两个不同的组成部分：（1）一个框架，搜索和连接数据与输入数据，根据输入的各种属性，和（2）一个有效的特征选择算法，修剪出噪音或不相关的功能，从产生的连接。我们进行了广泛的经验评估不同的系统组件和基准我们的特征选择算法在现实世界的数据集。
2020-03-21 cs.DB cs.LG stat.ML
MIDAS: Misalignment-based Data Augmentation Strategy for Imbalanced Multimodal Learning
KAIST（韩国科学技术院）
本文提出 MIDAS 数据增强策略，通过生成跨模态语义错位样本，并结合弱模态加权与难样本加权，缓解多模态模型对主导模态的过度依赖，实验显示其在多个分类基准上显著优于基线。
2025-09-30 cs.LG
Data augmentation and feature selection for automatic model recommendation in computational physics
SafranTech（赛峰科技）；MINES ParisTech, PSL University（巴黎文理研究大学巴黎矿业学院）
分类算法最近在计算物理学中找到了应用，用于选择适合于物理系统的环境和状态的数值方法或模型。对于这样的分类任务，标记的训练数据来自数值模拟，并且通常对应于在网格上离散化的物理场。三个具有挑战性的困难出现：缺乏训练数据，他们的高维性，以及不适用于常见的数据增强技术的物理数据。本文介绍了两种算法来解决这些问题，一种是通过特征选择进行降维，另一种是数据增强。这些算法与各种各样的分类器相结合，以进行评估。当结合堆叠合奏由六个多层感知器和脊逻辑斯谛回归，他们能够达到90%的准确率对我们的分类问题的非线性结构力学。
2021-01-12 cs.LG physics.comp-ph stat.ML
Automatic Data Augmentation via Invariance-Constrained Learning
University of Pennsylvania（宾夕法尼亚大学）；University of Stuttgart（斯图加特大学）
本文将数据增强形式化为不变性约束学习问题，并利用MCMC采样自动决定是否、何时及如何施加增强，在CIFAR自动增强基准上取得最先进结果。
2023-09-15 cs.LG
CADDA: Class-wise Automatic Differentiable Data Augmentation for EEG Signals
Université Paris-Saclay（巴黎萨克雷大学）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）
数据增强是深度学习管道的关键元素，因为它在训练期间通知网络关于保持标签不变的输入数据的变换。然而，手动找到用于给定管道的适当的增强方法和参数是快速繁琐的。特别是，虽然直觉可以指导图像的决策，但对于更复杂类型的数据（如神经科学信号），增强策略的设计和选择仍然不清楚。此外，类相关的增强策略在文献中还没有被探索过，尽管它很直观：改变汽车图像的颜色不会改变要预测的对象类，但对橙色图像做同样的事情。本文研究了基于梯度的自动数据增强算法服从类明智的政策与指数更大的搜索空间。出于监督学习的应用程序，使用脑电信号的良好的增强政策大多是未知的，我们提出了一个新的可微松弛的问题。在类不可知的设置中，结果表明，我们的新放松导致最佳性能，比竞争的基于梯度的方法更快的训练，同时在类设置中也优于无梯度方法。这项工作还提出了新的可微增强操作相关的睡眠阶段分类。
2022-02-07 cs.LG
Bias Correction of Learned Generative Models using Likelihood-Free Importance Weighting
Stanford University（斯坦福大学）；Microsoft Research（微软研究院）
学习生成模型通常会产生相对于底层数据分布的有偏统计数据。校正这种偏差的标准技术是重要性抽样，其中来自模型的样本由模型和真实分布下的似然比加权。当似然比未知时，可以通过训练概率分类器来区分来自两种分布的样本来估计它。我们采用这种无似然重要性加权方法来纠正生成模型中的偏差。我们发现，这种技术始终提高了标准拟合优度指标，用于评估最先进的深度生成模型的样本质量，这表明减少了偏差。最后，我们展示了它在以下典型应用中的实用性：a）使用生成对抗网络进行分类的数据增强，以及b）使用非策略数据进行基于模型的策略评估。
2019-11-03 cs.LG cs.NE stat.ML
TrivialAugment: Tuning-free Yet State-of-the-Art Data Augmentation
University of Freiburg（弗莱堡大学）；Bosch Center for Artificial Intelligence（博世人工智能中心）
自动增强方法最近已成为视觉任务中强大模型性能的关键支柱。虽然现有的自动增强方法需要权衡简单性，成本和性能，但我们提出了一个最简单的基线，TrivialAugment，它几乎免费地优于以前的方法。TrivialAugment是无参数的，并且仅对每个图像应用单个增强。因此，TrivialAugment的有效性对我们来说是非常出乎意料的，我们进行了非常彻底的实验来研究其性能。首先，我们比较TrivialAugment与以前的最先进的方法在各种图像分类的情况。然后，我们使用不同的增强空间，增强方法和设置进行多次消融研究，以了解其性能的关键要求。此外，我们提供了一个简单的界面，以促进自动增强方法的广泛采用，以及我们的完整代码库的可重复性。由于我们的工作揭示了自动增强研究的许多部分处于停滞状态，因此我们以一个简短的最佳实践建议结束，以促进自动增强方法在未来的持续发展。
2021-08-17 cs.CV cs.LG
Automatic Data Augmentation Selection and Parametrization in Contrastive Self-Supervised Speech Representation Learning
对比学习通过最大化相似信号段的潜在表示之间的相似性，使得能够学习有用的音频和语音表示而无需地面实况标签。在这个框架中，通常利用各种数据增强技术来帮助在学习的表示中执行所需的不变性，由于更鲁棒的嵌入，提高了各种音频任务的性能。现在，选择最相关的增强已被证明是改善下游性能的关键。因此，这项工作介绍了一种基于条件独立性的方法，该方法允许从一组预定义的增强及其参数化的选择中自动选择合适的分布，用于对比自监督预训练。这是针对感兴趣的下游任务执行的，因此节省了昂贵的超参数搜索。在两个不同的下游任务上进行的实验验证了所提出的方法，显示出比没有增强或基线增强的实验更好的结果。此外，我们根据所考虑的最终下游数据集对自动选择的增强及其变化进行定性分析。
2022-04-08 cs.LG cs.SD eess.AS
SelfAugment: Automatic Augmentation Policies for Self-Supervised Learning
UC Berkeley（加州大学伯克利分校）；BAIR（伯克利人工智能研究中心）；Weill Neurosciences Institute（威尔神经科学研究所）；UCSF（加州大学旧金山分校）
无监督表示学习中的一个常见做法是使用标记数据来评估学习表示的质量。然后，该监督评估用于指导训练过程的关键方面，例如选择数据增强策略。然而，通过监督评估来引导无监督训练过程对于实际上不包含标签的真实世界数据是不可能的（例如，在诸如医学成像的隐私敏感领域中可能是这种情况）。因此，在这项工作中，我们表明，评估学习表示与自我监督的图像旋转任务是高度相关的一组标准的监督评价（秩相关$> 0.94$）。我们在数百种增强策略、训练设置和网络架构之间建立了这种相关性，并提供了一种算法（SelfAugment）来自动有效地选择增强策略，而无需使用监督评估。尽管没有使用任何标记的数据，学习的增强策略执行与使用穷举监督评估确定的增强策略的交互。
2021-05-17 cs.CV cs.LG
On Automatic Data Augmentation for 3D Point Cloud Classification
Institute for Infocomm Research（资讯通信研究院）；A*STAR（新加坡科技研究局）；Max Planck Institute for Informatics（马克斯·普朗克信息学研究所）；University of Electronic Science and Technology of China（电子科技大学）
数据增强是减少过拟合和提高学习性能的重要技术，但现有的三维点云数据数据增强工作都是基于几何学的。在这项工作中，我们提出了自动学习的数据增强策略，使用双层优化。增强器以与条件生成器类似的方式设计，并且当增强的输入用于训练模型时，通过最小化基础模型在验证集上的损失来优化。该公式提供了一种更有原则的方法来学习3D点云上的数据增强。我们评估我们的方法对标准点云分类任务和更具挑战性的设置与训练和验证/测试集之间的姿势不一致。所提出的策略在这两项任务上都取得了有竞争力的性能，我们进一步了解了增强器学习验证集分布的能力。
2021-12-18 cs.CV cs.LG
Automatic Data Augmentation for Generalization in Deep Reinforcement Learning
New York University（纽约大学）；Facebook AI Research（Facebook人工智能研究院）
深度强化学习（RL）代理通常无法推广到不可见的场景，即使它们在语义相似的环境中进行了训练。数据增强最近被证明可以提高RL代理的样本效率和泛化能力。然而，不同的任务往往受益于不同种类的数据增强。在本文中，我们比较了三种方法自动找到一个适当的增强。这些与用于策略和价值函数的两个新的正则化项相结合，这需要使数据增强的使用在理论上对于某些演员-评论家算法是合理的。我们评估我们的方法在Procgen基准测试，其中包括16个程序生成的环境，并表明它提高了测试性能的~40%相对于标准RL算法。我们的代理优于其他专门设计用于提高RL泛化能力的基线。此外，我们表明，我们的代理学习的政策和表示，更强大的环境中的变化，不影响代理，如背景。我们的实现可以在https://github.com/rraileanu/auto-drac上获得。
2021-02-20 cs.AI cs.LG
Automatic feature selection and weighting in molecular systems using Differentiable Information Imbalance
International School for Advanced Studies (SISSA)（国际高等研究院（SISSA））；The Institute of Science and Technology Austria (ISTA)（奥地利科学技术研究所）；University of Cal（卡尔大学）
提出可微信息不平衡（DII）方法，通过梯度下降优化特征权重，实现分子系统中自动特征选择、单位对齐与重要性加权，并在生物分子构象描述和机器学习力场训练两个基准问题上验证了有效性。
2024-12-30 cs.LG physics.comp-ph stat.ML
Leveraging Prediction Entropy for Automatic Prompt Weighting in Zero-Shot Audio-Language Classification
本文提出基于熵的提示加权方法，通过最小化预测熵来提高零样本音频-语言分类的准确性，实验表明其在多个数据集上均优于传统方法。
2026-01-08 cs.LG cs.SD
Test-Time Augmentation Meets Variational Bayes
The University of Melbourne（墨尔本大学）；School of Mathematics and Statistics（数学与统计学院）
本研究提出加权测试时增强方法，在变分贝叶斯框架下形式化权重确定，通过最大化边际对数似然抑制不利增强，提升预测性能。
2024-09-19 cs.AI cs.LG stat.ML
Can vectors read minds better than experts? Comparing data augmentation strategies for the automated scoring of children's mindreading ability
University of Birmingham（伯明翰大学）
在本文中，我们实现和比较7个不同的数据增强策略的任务，自动评分的儿童的能力，了解别人的想法，感受和愿望（或“读心术”）。我们招募了领域内的专家来重新注释增强的样本，并确定每个策略在多大程度上保留了原始评级。我们还进行了多个实验，以衡量每种增强策略在多大程度上提高了自动评分系统的性能。为了确定自动系统的能力，以概括看不见的数据，我们创建UK-MIND-20 -一个新的语料库的儿童的表现测试的读心术，由10,320个问题，答案对。我们在MIND-CA语料库上获得了新的最先进的性能，将宏观F1分数提高了6分。结果表明，训练样本的数量和增强策略的质量都会影响系统的性能。任务特定的增强通常优于任务不可知的增强。基于向量的自动增强（GloVe，FastText）表现最差。我们发现，在MIND-CA上训练的系统可以很好地推广到UK-MIND-20。我们证明了数据增强策略也提高了看不见的数据的性能。
2021-06-03 cs.CL cs.LG
When Does Synthetic Data Augmentation Improve Score-Based Imbalanced Classification?
Department of Electrical & Computer Engineering, Duke University（电气与计算机工程系，杜克大学）；Department of Biostatistics & Bioinformatics, Duke University（生物统计学与生物信息学系，杜克大学）；Department of Biostatistics & Bioinformatics and Department of Computer Science, Duke University（生物统计学与生物信息学系和计算机科学系，杜克大学）
本文理论分析合成数据增强对基于评分的类别不平衡分类的影响，区分了在模型正确设定与错误设定下的不同作用，揭示了增强在正确设定下仅能减少方差，而在错误设定下可通过改变类别平衡修正排序错误。
2026-06-25 cs.LG stat.ML
IGADA-IoT: IoT Sensor Energy Optimization in Wireless Sensor Networks Driven by Automatic Data Augmentation
Faculty of Computing, Harbin Institute of Technology（哈尔滨工业大学计算机学院）
提出一种信息间隙引导的自动数据增强框架IGADA-IoT，通过分层多生成器协作与调度，联合利用不同生成器能力减小信息间隙，并引入信息间隙-模型性能联合评估与闭环方法，提升增强决策准确性，实验表明平均准确率提升7.27%。
2026-10-23 cs.LG
Outlier-aware Tensor Robust Principal Component Analysis with Self-guided Data Augmentation
School of Mathematics and Statistics, Hunan Normal University（湖南师范大学数学与统计学学院）；School of Statistics and Mathematics, Yunnan University of Finance and Economics（云南财经大学统计与数学学院）
提出自引导数据增强方法，通过自适应加权抑制离群值影响，将TRPCA问题转化为标准TPCA问题，并开发高效算法，在准确性和计算效率上优于现有方法。
2025-04-25 cs.CV cs.LG cs.NA
DADA: Differentiable Automatic Data Augmentation
Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机研究所）；Anyvision（Anyvision公司）；Queens University of Belfast（贝尔法斯特女王大学）；School of Informatics, The University of Edinburgh（爱丁堡大学信息学院）
数据增强（DA）技术旨在增加数据的可变性，从而训练具有更好泛化能力的深度网络。开创性的AutoAugment通过强化学习自动搜索最佳DA策略。然而，AutoAugment在计算上非常昂贵，限制了其广泛的适用性。后续的工作，如基于人口的增强（PBA）和快速自动增强提高了效率，但它们的优化速度仍然是一个瓶颈。在本文中，我们提出了微分自动数据增强（DADA），大大降低了成本。DADA通过Gumbel-Softmax将离散DA策略选择问题放松为可微优化问题。此外，我们引入了一个无偏梯度估计，RELAX，导致一个高效和有效的一遍优化策略，学习一个高效和准确的DA政策。我们在CIFAR-10、CIFAR-100、SVHN和ImageNet数据集上进行了广泛的实验。此外，我们证明了Auto DA在下游检测问题的预训练中的价值。结果表明，我们的DADA比最先进的DADA至少快一个数量级，同时达到非常相似的精度。该代码可在https://github.com/VDIGPKU/DADA上获得。
2020-07-30 cs.CV cs.LG
Automatic Data Augmentation by Learning the Deterministic Policy
为了产生足够和多样化的训练样本，数据增强已被证明在训练深度模型方面的有效性。考虑到最佳增强的标准很难定义，我们在本文中提出了一种新的基于学习的增强方法，称为DeepAugNet，它将最终增强的数据表示为几个顺序增强的子集的集合。具体而言，通过使用深度强化学习学习确定性增强策略，要求当前增强子集与上一次增强子集相比最大化性能改进。通过引入统一的优化目标，DeepAugNet打算以端到端的训练方式将数据增强和深度模型训练结合起来，通过同时训练决斗深度Q-学习算法和代理深度模型的混合架构来实现。我们在各种基准数据集上广泛评估了我们提出的DeepAugNet，包括Fashion MNIST，CUB，CIFAR-100和WebCaricature。与目前的最先进的，我们的方法可以实现一个显着的改善，在小规模的数据集，并在大规模数据集的性能相当。代码将很快可用。
2019-10-22 cs.CV cs.LG
Boosting Automatic Exercise Evaluation Through Musculoskeletal Simulation-Based IMU Data Augmentation
AI for Sensor Data Analytics Research Group, Ulm University of Applied Sciences（乌尔姆应用科学大学人工智能传感器数据分析研究组）
研究针对IMU评估运动的深度学习模型面临的数据问题，提出基于肌肉骨骼模拟生成IMU数据的增强方法，结合逆运动学参数与评估策略自动标注，提升分类精度等。
2026-07-07 cs.AI cs.LG
Automatic Data Augmentation for Domain Adapted Fine-Tuning of Self-Supervised Speech Representations
LTCI, Télécom Paris, Institut Polytechnique de Paris（巴黎理工学院巴黎电信学院 LTCI）；Samsung AI Center（三星人工智能中心）；University of Cambridge（剑桥大学）
针对自监督语音表示在预训练与目标声学领域失配时性能下降的问题，提出基于条件依赖估计最小化自动选择数据增强的监督领域自适应微调方法，并在受控失真和低资源场景中验证其优于基线。
2023-06-01 cs.LG eess.AS
Improving Personalisation in Valence and Arousal Prediction using Data Augmentation
New York University Abu Dhabi（纽约大学阿布扎比分校）
针对情感预测中目标个体数据不足的个性化建模难题，提出距离加权增强（DWA）方法，通过片段级相似样本加权扩充数据，在MuSe-Personalisation 2023数据集上有效提升低性能特征表现且不损失高性能特征效果，推进了个性化情感计算的实际应用。
2024-04-13 cs.AI cs.CV cs.LG
Automatically Learning Data Augmentation Policies for Dialogue Tasks
UNC Chapel Hill（北卡罗来纳大学教堂山分校(UNC Chapel Hill)）
自动数据增强（AutoAugment）（Cubuk等人，2019）通过使用目标任务上的采样策略的性能奖励训练的控制器来搜索最优扰动策略，从而减少数据级模型偏差。虽然是一个强大的算法，但他们的工作主要集中在计算机视觉任务上，在不改变图像语义的情况下，应用不可感知的扰动相对容易。在我们的工作中，我们适应AutoAugment自动发现有效的扰动政策的自然语言处理（NLP）任务，如对话生成。我们从一个原子操作池开始，这些操作将微妙的语义保持扰动应用于对话任务的源输入（例如，不同的POS标记类型的停用词丢失、语法错误和释义）。接下来，我们允许控制器通过搜索这些原子操作的各种组合的空间来学习更复杂的增强策略。此外，我们还探讨调节控制器的目标任务的源输入，因为某些策略可能不适用于不包含该策略所需的语言特征的输入。从经验上讲，我们证明了我们的输入不可知和输入感知控制器发现有用的数据增强政策，并实现了显着的改进，比以前的国家的最先进的，包括培训手动设计的政策。
2019-09-27 cs.AI cs.CL cs.LG
CAAP: Class-Dependent Automatic Data Augmentation Based On Adaptive Policies For Time Series
Institute of Computer Science and Engineering（计算机科学与工程学院）；National Yang Ming Chiao Tung University（国立阳明交通大学）；Institute of Information Management（资讯管理学院）；Department of Computer Science（计算机科学系）
本文提出CAAP框架，通过策略网络生成类别均衡难度的样本级增强策略、调节增强概率以降低类别偏差，并引入信息区域保留机制，在ECG时间序列数据上同时实现更低的类别相关偏差和更优的整体性能。
2024-04-01 cs.LG
A fully 3D multi-path convolutional neural network with feature fusion and feature weighting for automatic lesion identification in brain MRI images
New Jersey Institute of Technology（新泽西理工学院）；Kessler Foundation（凯斯勒基金会）；Emory University（埃默里大学）；Atlanta VA Medical Center（亚特兰大退伍军人事务医疗中心）；Medical College of Wisconsin（威斯康星医学院）；Rutgers University - Newark（罗格斯大学纽瓦克分校）
我们提出了一个全三维多路径卷积网络来预测中风病变的三维脑MRI图像。我们的多路径模型具有针对包含残余卷积块的不同模态的独立编码器、来自不同模态的加权多路径特征融合以及用于组合编码器和解码器特征的加权融合模块。与DeepMedic、3D U-Net和AnatomyNet等现有的3D CNN相比，我们的网络在220名患者的大型ATLAS基准测试中实现了最高的统计学显著交叉验证准确率（60.5%）。我们还在来自Kessler Foundation和Medical College Wisconsin的多模态图像上测试了我们的模型，并实现了65%的统计学显著交叉验证准确率，显著优于多模态3D U-Net和DeepMedic。总的来说，我们的模型提供了一个原则性的，可扩展的多路径方法，优于多通道的替代品，并在现有的基准实现高骰子精度。
2019-11-16 cs.CV cs.LG eess.IV
SpecAugment: A Simple Data Augmentation Method for Automatic Speech Recognition
我们提出SpecAugment，一个简单的数据增强方法的语音识别。SpecAugment直接应用于神经网络的特征输入（即，滤波器组系数）。增强策略包括扭曲的功能，掩蔽块的频率通道，和掩蔽块的时间步长。我们将SpecAugment应用于Listen，Attend和Spell网络，用于端到端的语音识别任务。我们在LibriSpeech 960 h和Swichboard 300 h任务上实现了最先进的性能，超过了之前的所有工作。在LibriSpeech上，在不使用语言模型的情况下，我们在其他测试中实现了6.8%的WER，在与语言模型浅融合的情况下实现了5.8%的WER。这与先前的7.5% WER的最先进的混杂系统相比。对于Switchboard，在不使用语言模型的情况下，我们在Hub 5 '00测试集的Switchboard/CallHome部分上实现了7.2%/14.6%，在浅融合的情况下实现了6.8%/14.1%，与之前最先进的混杂系统相比，WER为8.3%/17.3%。
2019-12-03 cs.CL cs.LG cs.SD
Hippasus: Effective and Efficient Automatic Feature Augmentation for Machine Learning Tasks on Relational Data
Athena Research Center（阿提卡研究中心）
Hippasus通过结合统计信号和语义推理，高效提升关系数据机器学习任务中的特征增强效果。
2026-07-21 cs.DB cs.LG
Deepfake audio as a data augmentation technique for training automatic speech to text transcription models
Systems and Computing Department（系统与计算部门）；Federal University of Campina Grande (UFCG)（坎皮纳格雷联邦大学）；Campina Grande, Brazil（巴西坎皮纳格雷）
本文提出利用深度伪造音频进行数据增强，以解决训练稳健语音转文本模型所需大规模多样化的标注数据获取难题，尤其针对非英语语言。
2023-09-22 cs.LG cs.SD eess.AS
Cross-Domain Data Selection and Augmentation for Automatic Compliance Detection
Validation Intelligence for Autonomous Software Systems（自主软件系统验证智能实验室）；Simula Research Laboratory（Simula研究实验室）
本文研究了通过数据选择减少合规检测中负迁移的方法，评估了四种数据增强策略，并证明了针对性数据选择能提升跨领域适应性。
2026-04-23 cs.CL cs.LG
Automatic Speech Disentanglement for Voice Conversion using Rank Module and Speech Augmentation
East China University of Science and Technology（华东理工大学）；University of St.Gallen（圣加仑大学）
本文提出一种仅用两个增强函数即可自动将语音解缠为内容、音色、节奏和音高四部分的语音转换模型，无需手工特征或瓶颈调优，实验证明其在解缠有效性和自然度上优于基线。
2023-06-21 cs.LG cs.SD eess.AS
FeatNavigator: Automatic Feature Augmentation on Tabular Data
University of Pennsylvania（宾夕法尼亚大学）；AWS AI Research & Education（亚马逊云科技AI研究与教育部门）；TU Delft（代尔夫特理工大学）；Carnegie Mellon University（卡内基梅隆大学）
针对关系表中远端特征难以在有限计算预算内利用的问题，本文提出FeatNavigator，通过联合预测特征重要性与连接路径整合质量并搜索最优增强计划，在五个公开数据集上最高提升40.1%。
2024-06-13 cs.DB cs.LG
Mitigating Statistical Bias within Differentially Private Synthetic Data
University of Oxford（牛津大学）；University of Warwick（华威大学）；Universitat Pompeu Fabra（庞培法布拉大学）；University of Kaiserslautern（凯泽斯劳滕大学）；German Research Centre for Artificial Intelligence (DFKI)（德国人工智能研究中心）
对隐私保护机器学习的兴趣日益增加，导致了用于从未公开的真实数据生成私有合成数据的新的和进化的方法。然而，隐私保护机制可以显著降低合成数据的效用，这反过来又会影响下游任务，如学习预测模型或推理。我们提出了几个重新加权策略，使用私有化的似然比，不仅减轻下游估计的统计偏差，但也具有普遍适用性的差分私人生成模型。通过大规模的实证评估，我们表明，私人重要性加权提供了简单而有效的隐私兼容的合成数据的一般应用程序的增强。
2022-05-19 cs.CR cs.LG stat.ML
Selective Augmentation: Improving Universal Automatic Phonetic Transcription via G2P Bootstrapping
Fraunhofer Institute IAIS（弗劳恩霍夫研究所IAIS）；University of Bonn（波恩大学）
本文提出选择性增强方法，通过语言间差异转移提升语音转录准确性，引入爆破音气声识别，提升转录精度并减少混淆。
2026-04-29 cs.CL cs.LG
A Data Augmentation Method for Fully Automatic Brain Tumor Segmentation
Beijing Technology and Business University（北京工商大学）
胶质瘤及其亚区域的自动分割对于疾病的诊断、治疗和监测具有重要意义。本文提出了一种增强方法TensorMixup，并将其应用于脑肿瘤三维U-Net分割。其主要思想包括：首先，从任意两个患者的磁共振成像数据中，根据真实标签的胶质瘤信息，选取两个三维尺寸为128的图像块。然后，使用一个张量来混合图像块，其中所有元素都是从Beta分布中独立采样的。然后将张量映射到一个矩阵，该矩阵用于混合上述图像块的独热编码标签。因此，一个新的图像和它的独热编码标签被合成。最后，利用新的数据对模型进行训练，使其能够用于胶质瘤的分割。实验结果表明，Dice评分在肿瘤整体、肿瘤核心和增强肿瘤分割上的平均准确率分别为91.32%、85.67%和82.20%，证明了本文提出的TensorMixup算法对脑肿瘤分割的可行性和有效性。
2022-02-18 cs.CV cs.LG eess.IV
Not All LLM-Generated Data Are Equal: Rethinking Data Weighting in Text Classification
Academia Sinica（中央研究院）；National Taiwan University（台湾大学）；Swiss Federal Institute of Technology in Lausanne (EPFL)（洛桑联邦理工学院）
针对大语言模型生成的合成数据与真实数据分布偏移导致下游任务效果不佳的问题，提出高效加权损失方法，仅用少量真实数据侧重高质量多样化合成数据以对齐分布，在多个文本分类任务上的BERT级模型表现优于现有方法。
2025-03-22 cs.CL cs.LG
Automatic Annotation Augmentation Boosts Translation between Molecules and Natural Language
Aarhus University（奥胡斯大学）；Microsoft（微软公司）
针对生物研究中分子与自然语言翻译任务高质量注释稀缺的问题，本文提出LA³框架，利用大语言模型扩充数据集（如LaChEBI-20），提升AI训练效果，使LaMolT5模型性能较基准最高提升301%，并验证了框架的通用性。
2025-02-10 cs.AI cs.LG q-bio.BM
FeatAug: Automatic Feature Augmentation From One-to-Many Relationship Tables
Simon Fraser University（西蒙菲莎大学）
针对一对多关系表自动特征增强中谓词缺失导致候选查询爆炸的问题，提出 FeatAug 框架，结合贝叶斯优化、预热策略与束搜索生成谓词感知 SQL，并在四个真实数据集上验证优于 Featuretools 等基线。
2024-03-11 cs.DB cs.LG
Variable frame rate-based data augmentation to handle speaking-style variability for automatic speaker verification
University of California, Los Angeles（加州大学洛杉矶分校）；Johns Hopkins University（约翰斯·霍普金斯大学）
使用UCLA Speaker Variability数据库研究了说话风格变异对说话人自动确认的影响，该数据库包含每个说话人的多种说话风格。一个x-向量/PLDA（概率线性判别分析）系统进行了训练与SRE和交换机数据库与标准的增强技术，并与UCLA数据库的话语进行评估。当登记和测试话语具有相同风格（例如，0.98%和0.57%的阅读和会话的讲话，分别），但大幅增加时，注册和测试话语之间的风格不匹配。例如，当注册与会话话语，EER增加到3.03%，2.96%和22.12%，分别测试时，阅读，叙事和宠物导向的讲话。为了减少风格不匹配的影响，我们提出了一种基于熵的可变帧速率技术来人为地生成用于PLDA适应的风格归一化表示。所提出的系统显著提高了性能。在上述条件下，EER提高到2.69%（对话-阅读），2.27%（对话-叙述）和18.75%（宠物指导-阅读）。总的来说，所提出的技术执行多风格PLDA适应，而不需要每个扬声器在不同的说话风格的训练数据。
2020-08-08 cs.LG eess.AS eess.SP
Improving Molecular Design by Stochastic Iterative Target Augmentation
UC Berkeley（加州大学伯克利分校）；MIT（麻省理工学院）；University of Cambridge（剑桥大学）
分子设计中的生成模型往往是参数化程度很高的数据饥渴神经模型，因为它们必须创建复杂的结构化对象作为输出。由于缺乏足够的训练数据，从数据估计这样的模型可能是具有挑战性的。在本文中，我们提出了一种令人惊讶的有效的自我训练方法，用于迭代地创建额外的分子靶标。我们首先用一个简单的属性预测器来预训练生成模型。性质预测器接着用作用于从生成模型过滤候选结构的似然模型。在随机EM迭代过程中迭代产生并使用额外的目标，以最大化候选结构被接受的对数似然。一个简单的拒绝（重新加权）采样器足以提取后验样本，因为生成模型在预训练后已经是合理的。我们证明了无条件和有条件的分子设计的强基线的显着收益。特别是，我们的方法优于以前的国家的最先进的条件分子设计超过10%的绝对增益。最后，我们表明，我们的方法是有用的，以及在其他领域，如程序合成。
2021-08-15 cs.LG physics.chem-ph stat.ML
Deep invariant networks with differentiable augmentation layers
Université Paris-Saclay（巴黎萨克雷大学）；Inria（法国国家信息与自动化研究所）；CEA（法国原子能和替代能源委员会）
在机器学习中，设计对某些数据变换不变性的学习系统是至关重要的。从业者通常可以通过选择网络架构，例如使用卷积进行翻译，或使用数据增强，在训练模型上强制执行所需的不变性。然而，在网络中实施真正的不变性可能是困难的，并且数据不变性并不总是已知的。用于学习数据增强策略的最新方法需要保留的数据并且基于双层优化问题，该双层优化问题解决起来很复杂并且通常需要计算。在这项工作中，我们研究新的方法学习不变性仅从训练数据。使用直接在网络中构建的可学习增强层，我们证明了我们的方法是非常通用的。它可以包含任何类型的可微增强，并应用于计算机视觉之外的广泛的学习问题。我们提供的经验证据表明，我们的方法是更容易和更快的训练比现代自动数据增强技术的基础上双层优化，同时实现可比的结果。实验表明，虽然通过自动数据增强转移到模型的不变性受到模型表达能力的限制，但我们的方法产生的不变性对它不敏感。
2022-10-25 cs.AI cs.LG
Data Augmentation Policy Search for Long-Term Forecasting
提出TSAA，一种高效易实现的时间序列自动增强方法，通过贝叶斯优化搜索增强策略，在长期预测基准上优于多个基线，可集成于预测流程。
2025-02-08 cs.AI cs.LG
RangeAugment: Efficient Online Augmentation with Range Learning
Apple（苹果公司）；University of British Columbia（不列颠哥伦比亚大学）
现有技术的自动增强方法（例如，AutoAugment和RandAugment）使用大量增强操作使训练数据多样化。许多增强操作的幅度范围（例如，亮度和对比度）是连续的。因此，为了使搜索在计算上易于处理，这些方法对每个操作使用固定和手动定义的幅度范围，这可能导致次优策略。为了回答关于每个增强操作的幅度范围的重要性的公开问题，我们引入了RangeAugment，它允许我们有效地学习单个以及复合增强操作的幅度范围。RangeAugment使用基于图像相似性的辅助损失作为控制增强操作幅度范围的度量。因此，RangeAugment有一个用于搜索的标量参数，即图像相似度，我们只需通过线性搜索进行优化。RangeAugment可与任何模型无缝集成，并学习特定于模型和任务的增强策略。通过在不同网络的ImageNet数据集上进行广泛的实验，我们证明了RangeAugment与最先进的自动增强方法相比具有竞争力的性能，增强操作减少了4-5倍。在语义分割、目标检测、基础模型和知识蒸馏等方面的实验结果进一步验证了RangeAugment的有效性。
2022-12-20 cs.AI cs.CV cs.LG
Automatic COVID-19 disease diagnosis using 1D convolutional neural network and augmentation with human respiratory sound based on parameters: cough, breath, and voice
NIT Tiruchirappalli（印度国立理工学院蒂鲁吉拉帕利分校）
呼吸音分类的问题在过去一年中得到了临床科学家和医学研究小组的高度关注，以诊断COVID-19疾病。迄今为止，各种人工智能（AI）模型进入现实世界，从人类产生的声音（如语音/语音，咳嗽和呼吸）中检测COVID-19疾病。卷积神经网络（CNN）模型是在人工智能（AI）的基础上实现的，用于解决许多现实问题。在此背景下，提出并实施一维（1D）CNN，以从诸如语音、咳嗽和呼吸的人类呼吸声音诊断COVID-19的呼吸疾病。应用基于增强的机制来提高COVID-19声音数据集的预处理性能，并使用1D卷积网络自动进行COVID-19疾病诊断。此外，DDAE（数据去噪自动编码器）技术被用来生成深度声音特征，如输入函数的1D CNN，而不是采用标准的输入MFCC（梅尔频率倒谱系数），它是执行比以前的模型更好的精度和性能。
2021-12-14 cs.LG cs.SD eess.AS
Data Augmentation for Hypernymy Detection
Rasa（Rasa公司）；University of Sussex（萨塞克斯大学）
上位关系的自动检测是自然语言处理中的一个具有挑战性的问题。高质量训练数据的有限可用性通常阻碍了使用分布式表示的最先进的监督方法的成功应用。我们已经开发了两种新的数据增强技术，从现有的生成新的训练样本。首先，我们结合上位词及物性和交叉修饰语-名词组合的语言学原则来生成额外的向量对，例如“小狗-狗”或“小狗-动物”，可以假设它们之间存在上位关系。其次，我们使用生成对抗网络（GANs）来生成向量对，也可以假设这些向量对的上位关系。此外，我们提出了两个互补的策略，利用语言资源，如WordNet扩展现有的数据集。使用3个不同的数据集的上位检测和2个不同的向量空间的评估，我们证明了所提出的自动数据增强和数据集扩展策略大大提高了分类器的性能。
2021-01-21 cs.CL cs.LG
Explainable Global Error Weighted on Feature Importance: The xGEWFI metric to evaluate the error of data imputation and data augmentation
评估算法的性能是至关重要的。评估数据插补和数据增强的性能可以是类似的，因为生成的数据都可以与原始分布进行比较。但是，典型的评估指标具有相同的缺陷：它们在生成的数据上计算特征的误差和全局误差，而没有用特征重要性加权误差。如果所有特征的重要性相似，则结果可能是好的。然而，在大多数情况下，特征的重要性是不平衡的，它可以导致一个重要的偏见的特征和全局错误。提出了一种基于特征重要性的可解释全局误差加权度量（xGEWFI）。在一个完整的预处理方法中测试了这个新的度量。检测异常值并将其替换为空值。2.填补缺失的数据，以及3.增加数据。在该过程结束时，计算xGEWFI误差。原始数据和生成数据之间的分布误差使用Kolmogorov-Smirnov检验（KS检验）计算每个特征。这些结果乘以使用随机森林（RF）算法计算的各个特征的重要性。度量结果以可解释的格式表示，旨在实现道德AI。
2022-06-17 cs.LG
Data Augmentations for Improved (Large) Language Model Generalization
Google Research（谷歌研究院）；Columbia University（哥伦比亚大学）；Johns Hopkins University（约翰斯·霍普金斯大学）
针对文本分类器因虚假相关性导致泛化差的问题，提出基于因果结构的反事实数据增强方法，通过模拟干预和LLM表示文本条件概率，有效提升了分布外准确率。
2024-01-09 cs.CL cs.LG
SLACK: Stable Learning of Augmentations with Cold-start and KL regularization
Univ. Grenoble Alpes（格勒诺布尔阿尔卑斯大学）；Inria（法国国家信息与自动化研究所）；CNRS（法国国家科学研究中心）；Grenoble INP（格勒诺布尔国立理工学院）；NAVER LABS Europe（NAVER欧洲实验室）
针对现有自动数据增强依赖人工先验变换的问题，提出SLACK方法，通过带KL正则化的连续冷启动策略与连续分布参数化幅度，在无先验的更难设置下于标准基准取得有竞争力结果且泛化性更强。
2023-06-16 cs.CV cs.LG
CUDA: Curriculum of Data Augmentation for Long-Tailed Recognition
KAIST AI（韩国科学技术院人工智能研究院）
类不平衡问题经常发生在现实世界的任务中，传统的深度学习算法在不平衡的训练数据集上的性能下降是众所周知的。为了缓解这个问题，许多方法旨在通过重新加权或重新采样训练样本来平衡给定的类。这些重新平衡方法增加了少数类的影响，减少了多数类对模型输出的影响。然而，由于少数民族样本数量有限，所提取的代表性可能质量较差。为了处理这种限制，已经开发了几种方法，通过利用多数样本的特征来增加少数样本的表示。尽管最近进行了广泛的研究，但尚未对确定要增强的类别和增强的强度进行深入分析。在这项研究中，我们首先调查的程度之间的相关性增强和类明智的表现，并发现，必须为每个类分配适当的程度的增强，以减轻类不平衡的问题。基于这一发现，我们提出了一个简单而有效的新课程，旨在找到适当的每类数据增强的强度，称为CUDA：长尾识别的数据增强的CURISTORY。CUDA可以简单地集成到现有的长尾识别方法中。我们提出的实验结果表明，与各种不平衡数据集（如CIFAR-100-LT，ImageNet-LT和iNaturalist 2018）的最新方法相比，CUDA有效地实现了更好的泛化性能。
2023-02-10 cs.CV cs.LG
Self-paced Data Augmentation for Training Neural Networks
National Institute of Advanced Industrial Science and Technology（独立行政法人产业技术综合研究所）
数据增强广泛用于机器学习;然而，尚未建立应用数据增强的有效方法，即使它包括应仔细调整的几个因素。一个这样的因素是样本适用性，其涉及选择适合于数据增强的样本。将数据增强应用于所有训练样本的典型方法忽略了样本适合性，这可能降低分类器性能。为了解决这个问题，我们提出了自定步增强（SPA）自动和动态地选择合适的样本数据增强时，训练神经网络。所提出的方法减轻了无效的数据增强造成的泛化性能恶化。我们讨论了两个原因，建议SPA工程相对于课程学习和可取的变化，损失函数不稳定性。实验结果表明，所提出的集对分析可以提高泛化性能，特别是当训练样本数较少时。此外，所提出的SPA优于最先进的RandAugment方法。
2020-10-29 cs.LG
Transductive Data Augmentation with Relational Path Rule Mining for Knowledge Graph Embedding
Tokyo Institute of Technology（东京工业大学）；Chiba Institute of Technology（千叶工业大学）；Riken AIP（日本理化学研究所人工智能项目）；Nara Institute of Science & Technology（奈良先端科学技术大学）
对于知识图谱的完备化，存在两种主要类型的预测模型：一种基于图嵌入，另一种基于关系路径规则归纳。它们有不同的优点和缺点。为了利用这两种类型，最近已经提出了混合模型。混合模型之一UniKER通过关系路径规则交替地增加训练数据并训练嵌入模型。尽管它的预测精度很高，但它并没有充分利用关系路径规则，因为它忽略了低置信度规则，以保持增强数据的质量。为了缓解这一限制，我们提出了通过关系路径规则和增强数据的基于置信度的权重的转换数据增强。结果和分析表明，我们提出的方法有效地提高了嵌入模型的性能，通过增加数据，包括真正的答案或类似的实体。
2021-11-01 cs.CL cs.IR cs.LG
A Multi-View Learning Approach to Enhance Automatic 12-Lead ECG Diagnosis Performance
Infomining, Co. Ltd.（Infomining有限公司）；KAIST College of business（韩国科学技术院商学院）
最近，随着深度学习（DL）的引入，常用心电图（ECG）诊断模型的性能得到了改善。然而，多个DL组件的各种组合和/或数据增强技术对诊断的作用的影响尚未得到充分研究。该研究提出了一种基于集合的多视图学习方法，并采用ECG增强技术，以实现比传统的自动12导联ECG诊断方法更高的性能。数据分析结果表明，该模型的F1得分为0.840，优于文献中现有的最先进的方法。
2022-07-30 cs.AI cs.LG eess.SP
