Improving the Accuracy of Global Forecasting Models using Time Series Data Augmentation
Monash University（莫纳什大学）；Beihang University（北京航空航天大学）
在多个时间序列集合中训练的预测模型，称为全局预测模型（GFM），最近在预测竞赛和现实世界的应用中显示出有希望的结果，优于许多最先进的单变量预测技术。在大多数情况下，GFM使用深度神经网络来实现，特别是递归神经网络（RNN），其需要足够量的时间序列来估计其众多的模型参数。然而，许多时间序列数据库只有有限数量的时间序列。在这项研究中，我们提出了一种新的，基于数据增强的预测框架，能够提高基线精度的GFM模型在数据不丰富的设置。我们使用三个时间序列增强技术：GRATIS，移动块引导（MBB），和动态时间规整重心平均（DBA）综合生成一个时间序列的集合。然后，使用两种不同的方法将从这些增强的时间序列中获得的知识转移到原始数据集：池化方法和迁移学习方法。当构建GFM时，在池化方法中，我们在原始时间序列数据集旁边的增强时间序列上训练模型，而在迁移学习方法中，我们将预训练模型适应新数据集。在我们对竞争和真实世界时间序列数据集的评估中，我们提出的变体可以显着提高GFM模型的基线准确性，并优于最先进的单变量预测方法。
2020-08-06 cs.AI cs.LG stat.ML
Meta-learning and Data Augmentation for Stress Testing Forecasting Models
Faculdade de Engenharia da Universidade do Porto（波尔图大学工程学院）；Laboratory for Artificial Intelligence and Computer Science (LIACC)（人工智能与计算机科学实验室（LIACC））；Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS研究所）
本文提出 MAST 框架，利用时间序列统计特征进行元学习以预测模型表现不佳的概率，并通过过采样增强压力元数据，在49,794条序列上验证了其识别高误差条件的能力。
2024-06-24 cs.LG stat.ML
IB-GAN: A Unified Approach for Multivariate Time Series Classification under Class Imbalance
Cornell University（康奈尔大学）；Amazon Search（亚马逊搜索）
具有强类别不平衡性的大型多变量时间序列的分类是实际应用中的一项重要任务。类权重，过采样或参数数据增强的标准方法并不总是产生显着的改善预测少数类的兴趣。使用生成对抗网络（GANs）的非参数数据增强提供了一个很有前途的解决方案。本文提出了一种新的估算平衡GAN（IB-GAN）方法，它通过估算平衡的方法将数据扩充和分类结合在一个一步的过程中。IB-GAN使用插补和重采样技术从随机掩码向量中生成比白噪声更高质量的样本，并通过一组类平衡的真实和合成样本来增强分类。插补超参数$p_{miss}$允许通过调整经由生成器插补引入的创新来正则化分类器可变性。IB-GAN易于训练和模型不可知，将任何深度学习分类器与生成器配对，并为未被观察到的类提供更高的准确性。对开源UCR数据和专有90 K产品数据集的实证实验显示，与最先进的参数和GAN基线相比，性能有了显著提高。
2021-10-14 cs.LG stat.ML
Online Data Augmentation for Forecasting with Deep Learning
Faculdade de Engenharia da Universidade do Porto（波尔图大学工程学院）；Laboratory for Artificial Intelligence and Computer Science (LIACC)（人工智能与计算机科学实验室）；INESC TEC；Fraunhofer Portugal AICOS（弗劳恩霍夫葡萄牙AICOS）
本文提出在线数据增强框架，在神经网络训练过程中逐批次生成合成样本以平衡真实与合成数据，并在6个基准数据集、3797条时间序列、三种架构和七种生成技术上验证其优于离线增强或无增强的预测性能。
2025-01-03 cs.LG stat.ML
Data Augmentation of Multivariate Sensor Time Series using Autoregressive Models and Application to Failure Prognostics
本文提出基于时变自回归过程的非平稳多元传感器时间序列数据增强方法，利用 CMAPSS 数据集和 AutoML 预测方案验证其可在数据稀缺场景下显著提升故障预测性能。
2024-10-24 cs.LG math.ST stat.ME
Improving Neural Networks for Time Series Forecasting using Data Augmentation and AutoML
University of Georgia（佐治亚大学）；Kennesaw State University（肯尼索州立大学）
自1970年开发以来，诸如用于时间序列预测的Box-Jenkins方法等统计方法一直很突出。许多研究人员依赖于这样的模型，因为它们可以有效地估计，并提供可解释性。然而，机器学习研究的进展表明，神经网络可以是强大的数据建模技术，因为它们可以为大量的学习问题和数据集提供更高的准确性。在过去，他们已经尝试了时间序列预测，以及，但他们的总体结果并没有显着优于统计模型，特别是对于中等长度的时间序列数据。在没有足够的数据来估计这些非线性模型所需的大量参数的情况下，它们的建模能力是有限的。本文提出了一种易于实现的数据增强方法，以显着提高此类网络的性能。我们的方法，增强神经网络，涉及使用统计模型的预测，可以帮助释放神经网络的力量，对中等长度的时间序列，并产生有竞争力的结果。它表明，数据增强与自动机器学习技术（如神经结构搜索）相结合，可以帮助找到给定时间序列的最佳神经结构。使用这些组合，证明了三种基于神经网络的模型对COVID-19数据集的预测准确性的显著增强，与不使用增强数据的神经网络相比，预测准确性的最大提高分别为21. 41%、24. 29%和16. 42%。
2021-05-07 cs.LG stat.AP stat.ME
An empirical study of neural networks for trend detection in time series
Société Générale CIB（法国兴业银行企业与投资银行）
在噪声时间序列中检测结构是一项困难的任务。一个直观的特征是趋势的概念。从理论上的提示和使用模拟的时间序列，我们实证研究的效率，标准的递归神经网络（RNN）检测趋势。我们展示了某些标准RNN结构相对于其他各种估计器的整体优越性和多功能性。这些RNN可以用作构建更复杂的时间序列趋势估计器的基本模块。
2020-02-28 cs.LG q-fin.ST stat.ML
Forecasting under model uncertainty:Non-homogeneous hidden Markov models with Polya-Gamma data augmentation
本文研究了两状态非齐次隐马尔可夫模型（NHHMM）对单变量时间序列的预测。给定一组预测因子，时间序列通过具有状态相关系数和时变转移概率的预测回归来建模，所述时变转移概率通过逻辑函数依赖于预测因子。在隐马尔可夫设置中，逻辑斯谛回归系数的推断变得复杂，并且在某些情况下由于收敛问题而不可能。在本文中，我们的目标是解决这个问题，使用一个新的潜变量计划，利用Pólya-Gamma类的分布。我们允许模型的不确定性的预测，影响系列线性-在平均值-和非线性-在过渡矩阵。预测器的选择和推断的模型参数的基础上的MCMC计划与可逆的跳跃步骤。单步和多步预测是通过最可能的模型，中位数概率模型或贝叶斯模型平均方法获得的。使用模拟实验，我们说明了我们的算法在各种设置的性能，在混合属性，模型选择和预测能力。对已实现波动率数据的实证研究表明，我们的方法提供了改进的预测相比，基准模型。
2019-07-30 stat.ME
Adjusted Empirical Likelihood for Long-memory Time Series Models
Monti（1997）通过Whittle估计方法将经验似然方法应用于短记忆时间序列模型。Yau（2012）将这一思想扩展到长记忆时间序列模型。推导了短记忆和长记忆时间序列的经验似然比统计量的渐近分布，并构造了相应模型参数的置信区域。然而，计算轮廓经验似然函数涉及约束最大化并不总是有一个解决方案，导致几个缺点。针对自回归分数积分移动平均（ARFIMA）模型，本文提出了一种修正的经验似然方法。它保证了所需最大化问题的解的存在性，并保持了Yau（2012）获得的相同渐近性质。仿真结果表明，对于不同的长时间序列模型，调整后的经验似然方法比未调整的经验似然方法提供了更好的置信区域和覆盖概率，特别是对于小样本量。
2016-04-21 stat.ME
Adjusted Empirical Likelihood for Time Series Models
Monti（1997）通过Whittle估计方法将经验似然方法应用于相依观测。对于平稳的时间序列，导出了经验似然比统计量的相似渐近分布，以构造参数的置信区域。然而，计算剖面经验似然函数所需的数值问题涉及约束最大化，有时无解，这导致使用原始版本的经验似然比的缺点。在本文中，我们提出了一个调整后的经验似然比统计量修改蒙蒂提出的，使它保证所需的最大化问题的解决方案的存在性，同时保持类似的渐近性质蒙蒂得到。仿真结果表明，在不同的时间序列模型下，该模型的覆盖率优于Monti模型，特别是在小样本量下。
2016-02-29 stat.ME
On Data Augmentation and Adversarial Risk: An Empirical Analysis
Johannes Kepler University（约翰内斯·开普勒大学）；Software Competence Center Hagenberg GmbH（哈根贝格软件能力中心有限公司）
数据增强技术已成为深度学习的标准实践，因为它已被证明可以大大提高模型的泛化能力。这些技术依赖于不同的想法，例如保持不变的变换（例如，专家定义的增强），统计分析（例如，Mixup）和学习数据分布（例如，GANs）。然而，在对抗性环境中，仍然不清楚在什么条件下这种数据增强方法降低甚至恶化了错误分类的风险。因此，在本文中，我们分析了不同的数据增强技术对对抗风险的影响，通过三个措施：（a）众所周知的风险下的对抗攻击，（b）一个新的措施的预测变化的压力的基础上拉普拉斯算子，（c）的影响，训练样本预测。我们的实证分析的结果反驳的假设，即数据增强引起的分类性能的改善总是伴随着对抗攻击下的风险的改善。此外，我们的研究结果表明，增广数据比非增广数据有更大的影响，对所产生的模型。总之，我们的研究结果表明，通用数据增强，不考虑到数据和任务的特点，必须谨慎应用。
2020-07-06 cs.LG stat.ML
On the Reliability of Generative Augmentation: A Wasserstein-Based Theoretical and Empirical Study
本研究提出基于Wasserstein的条件生成式数据增强统计框架，推导泛化界，经实验发现增强可靠性由分布近似误差决定，为合成数据质量评估提供了新基础。
2026-09-02 cs.LG stat.ML
Dynamic Data Augmentation with Gating Networks for Time Series Recognition
Kyushu University（九州大学）
数据增强是一种通过增加数据集的大小来提高机器学习方法泛化能力的技术。但是，由于每种增强方法对每个数据集的效果并不相同，因此需要仔细选择合适的方法。我们提出了一个神经网络，动态地选择最佳组合的数据增强方法使用一个互利的门控网络和功能的一致性损失。选通网络能够控制每个数据增强中有多少用于网络内的表示。特征一致性损失给出了来自相同输入的增强特征应该相似的约束。在实验中，我们证明了所提出的方法的有效性的12个最大的时间序列数据集从2018年UCR时间序列档案，并揭示了数据增强方法之间的关系，通过分析所提出的方法。
2022-05-28 cs.LG
Empirical Study of Mix-based Data Augmentation Methods in Physiological Time Series Data
Rice University（莱斯大学）
本文系统评估了 mixup、cutmix 和 manifold mixup 三种混合增强方法在六个生理时间序列数据集上的效果，发现它们无需专家知识或大量调参即可一致提升分类性能。
2023-09-18 cs.LG
Robust Augmentation for Multivariate Time Series Classification
University of YYY（YYY大学）；Department of XXX, University of YYY（YYY大学XXX系）
神经网络能够学习强大的数据表示，但由于参数的数量，它们容易过拟合。这在时间序列分类领域尤其具有挑战性，其中数据集可能包含少于100个训练样本。在本文中，我们展示了剪切，剪切混合，混合和窗口扭曲的简单方法，以统计上显著的方式提高了时间序列分类的卷积，递归和基于自注意力的架构的鲁棒性和整体性能。我们在东安格利亚大学多变量时间序列分类（UEA MTSC）档案的26个数据集上评估了这些方法，并分析了这些方法在不同类型的时间序列数据上的表现。我们发现，与没有增强的情况相比，增强的InceptionTime网络在18个不同的数据集中将准确率提高了1%至45%。我们还表明，增强提高了经常性和自注意力为基础的架构的准确性。
2022-01-27 cs.LG
Rapid Augmentations for Time Series (RATS): A High-Performance Library for Time Series Augmentation
Chair for Artificial Intelligence Methodology (AIM), Faculty of Computer Science, RWTH Aachen University, Aachen, Germany（人工智能方法学教授会（AIM），计算机科学系，亚琛RWTH大学，亚琛，德国）
RATS是一种用Rust开发的高性能时间序列增强库，通过统一接口和并行处理，实现多种增强方法，显著提升处理速度和效率。
2026-01-06 cs.AI cs.LG cs.PF
Towards Diverse and Coherent Augmentation for Time-Series Forecasting
University of California, San Diego（加利福尼亚大学圣迭戈分校）；Amazon（亚马逊）
时间序列数据增强缓解了深度学习模型的训练数据不足的问题。然而，现有的增强方法主要是为分类而设计的，即使增强改变了时间动态，也可以保留类别标签。我们注意到，为预测而设计的增强需要多样性以及与原始时间动态的一致性。由于真实物理过程产生的时间序列数据在时域和频域都表现出特征，因此我们建议将谱增强和时间增强（STAug）相结合，以生成更多样化和相干的样本。具体而言，在频域中，我们使用经验模式分解分解的时间序列和重组的子分量与随机权重。通过这种方式，我们生成不同的样本，同时与原始时间关系保持一致，因为它们包含相同的基本组件集。在时域中，我们采用了一种混合策略，该策略可以生成不同的以及线性的相干样本。五个真实世界的时间序列数据集上的实验表明，STAug优于没有数据增强以及最先进的增强方法的基础模型。
2023-03-24 cs.AI cs.LG
Gaussian processes based data augmentation and expected signature for time series classification
Università di Pisa（比萨大学）；Scuola Normale Superiore（比萨高等师范学校）
本文提出基于期望特征签名的时间序列特征提取模型，通过高斯过程数据增强计算签名，并在监督任务中学习最优特征提取。
2023-10-16 cs.LG
Time Series Contrastive Learning with Information-Aware Augmentations
Florida International University（佛罗里达国际大学）；NEC Labs America（NEC美国实验室）；North Carolina State University（北卡罗来纳州立大学）；The Pennsylvania State University（宾夕法尼亚州立大学）
近年来，各种对比学习方法被提出并取得了显著的实证成功。虽然有效和普遍，对比学习已较少探索时间序列数据。对比学习的一个关键组成部分是选择适当的增强施加一些先验来构造可行的正样本，使得编码器可以被训练为学习鲁棒的和有区别的表示。与图像和语言领域不同，在这些领域中，“期望的”增强样本可以用预制的人类先验知识指导的经验法则来生成，时间序列增强的特设手动选择受到其多样性和人类无法识别的时间结构的阻碍。如何找到对给定的对比学习任务和数据集有意义的时间序列数据的期望增强仍然是一个悬而未决的问题。在这项工作中，我们解决这个问题，鼓励高\textit{fidelity}和\textit{variety}基于信息论。理论分析导致选择可行的数据增强的标准。最重要的是，我们提出了一个新的对比学习方法与信息感知增强，InfoTS，自适应地选择最佳的增强时间序列表示学习。在不同数据集上的实验表明，该算法具有很强的竞争力，在预测任务上的MSE降低了12.0%，在分类任务上的准确率相对提高了3.7%.
2023-03-21 cs.LG
DAD4TS: Data-Augmentation-Oriented Diffusion Model for Time-Series Forecasting with Small-Scale Data
Sony Group Corporation（索尼集团公司）
针对小规模时间序列数据预测中数据增强生成有意义数据困难的问题，提出基于扩散模型和强化学习的DAD4TS方法，通过几何空间投影训练扩散模型，在多个数据集和模型上验证了有效性。
2026-06-02 cs.LG
OATS: Online Data Augmentation for Time Series Foundation Models
University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校）；Microsoft Research（微软研究院）；Griffith University（格里菲斯大学）；Datadog AI Research（Datadog AI研究院）
OATS通过动态生成合成数据提升时间序列基础模型的性能，采用探索-利用机制和扩散框架，在多个数据集上优于传统方法。
2026-08-11 cs.LG
PAITS: Pretraining and Augmentation for Irregularly-Sampled Time Series
Google Cloud AI Research（谷歌云人工智能研究院）；Bayesian Health（贝叶斯健康）
针对现实中非规则采样、稀疏的时间序列数据，提出PAITS框架，结合NLP启发的预训练任务与增强方法及随机搜索筛选适配策略，可在多数据集多领域稳定提升预训练效果。
2023-08-25 cs.LG
Data Augmentation for Multivariate Time Series Classification: An Experimental Study
LIPADE, Paris Descartes University（巴黎笛卡尔大学 LIPADE 实验室）；TH Consulting（TH 咨询公司）；CRSC R&D Institute Group Co. Ltd（CRSC 研发集团有限公司）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
本文通过实验系统研究数据增强对多元时间序列分类的影响，在UCR的13个数据集上用Rocket和InceptionTime验证了多样化增强策略可缓解数据稀缺并提升模型准确率。
2024-06-10 cs.LG
Adaptive Data Augmentation for Thompson Sampling
Department of Artificial Intelligence（人工智能系）
本文针对线性上下文老虎机提出一种近乎极小极大最优的汤普森采样方法，通过自适应增强与耦合假设样本的新估计器，无需上下文分布假设即可准确预测奖励，实证性能显著优于现有方法。
2025-06-17 cs.LG stat.ML
DTW-Merge: A Novel Data Augmentation Technique for Time Series Classification
Sharif University of Technology（谢里夫理工大学）
近年来，神经网络在各种应用中取得了巨大的成功。训练深度神经网络的主要挑战是缺乏足够的数据来提高模型的泛化能力和避免过拟合。其中一个解决方案是生成新的训练样本。提出了一种基于动态时间规整的时间序列数据增强方法。该方法的灵感来自于两个时间序列的扭曲部分具有相似的时间属性的概念，因此，在两个序列之间交换它们会生成一个新的训练样本。所提出的方法随机选择一个元素的最佳扭曲路径，然后交换对齐在一起的段。利用最近引入的ResNet来利用所提出的方法，揭示了2018年UCR时间序列分类存档的改进结果。通过采用加权类激活映射（Grad-CAM）和多维尺度（MDS），我们表明，我们的方法提取更多的判别特征的时间序列。
2021-08-21 cs.LG
Parametric Augmentation for Time Series Contrastive Learning
School of Computing and Information Sciences, Florida International University（佛罗里达国际大学计算与信息科学学院）；NEC Laboratories America（美国NEC实验室）
本研究提出参数化增强的对比学习框架 AutoTCL，通过信息论分析时间序列数据增强，支持与不同骨干编码器无缝集成，在预测和分类任务上取得优于基线的性能。
2024-02-16 cs.LG
Evaluating data augmentation for financial time series classification
University of Manchester（曼彻斯特大学）；AllianceBernstein（联博集团）；Aarhus University（奥胡斯大学）
结合深度神经网络的数据增强方法已广泛用于计算机视觉分类任务，取得了巨大成功;然而，它们在时间序列分类中的应用仍处于早期阶段。在金融预测领域更是如此，因为数据往往很小，有噪声和不稳定。在本文中，我们使用两种最先进的深度学习模型评估了几种应用于股票数据集的增强方法。结果表明，几个增强方法显着提高财务业绩时，结合使用的交易策略。对于一个相对较小的数据集（$\approx30K$样本），增强方法实现了$400\%$的风险调整后的回报性能的改善;对于一个较大的股票数据集（$\approx300K$样本），结果显示了$40\%$的改善。
2020-10-28 cs.LG q-fin.ST
Wave-Mask/Mix: Exploring Wavelet-Based Augmentations for Time Series Forecasting
University of Hildesheim（希尔德斯海姆大学）
本研究提出基于离散小波变换的WaveMask和WaveMix两种数据增强方法，用于时间序列预测，在保持时间依赖性的同时调整频率元素，并在多元时间序列上验证了与基线相当的性能。
2024-08-20 cs.AI cs.LG
ReAugment: Model Zoo-Guided RL for Few-Shot Time Series Augmentation and Forecasting
MoE Key Lab of Artificial Intelligence, AI Institute, Shanghai Jiao Tong University（人工智能大模型关键实验室、人工智能研究院、上海交通大学）
ReAugment是基于模型库的强化学习方法，用于小样本时间序列增强与预测，可识别易过拟合样本并自适应生成新数据，提升预测效果。
2026-08-21 cs.LG
IBMA: An Imputation-Based Mixup Augmentation Using Self-Supervised Learning for Time Series Data
AI VIETNAM（AI越南）
针对时间序列数据增强策略少、Mixup技术应用少的问题，提出IBMA方法，结合插补增强数据与Mixup增强，在多模型多数据集上验证其有效性，24个实例中22个性能提升，10个达最佳。
2025-11-11 cs.CV cs.LG
Data Augmentation in Time Series Forecasting through Inverted Framework
Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院）；Pengcheng Laboratory（鹏城实验室）
针对iTransformer倒置框架在多元时间序列预测中削弱时间依赖和引入噪声的局限，提出首个实时数据增强方法DAIF，通过频率过滤和交叉变分分块策略有效提升了预测性能。
2025-07-16 cs.LG
SimPSI: A Simple Strategy to Preserve Spectral Information in Time Series Data Augmentation
Korea Advanced Institute of Science and Technology (KAIST)（韩国科学技术院）
SimPSI通过保留频谱信息增强时间序列数据增强，构建三种保留图，显著提升基准性能。
2025-01-19 cs.AI cs.LG eess.SP
Empirical Evaluation of Data Augmentations for Biobehavioral Time Series Data with Deep Learning
Rice University（莱斯大学）
最近，深度学习在许多任务上都表现得非常出色。然而，深度模型的优越性能在很大程度上依赖于大量训练数据的可用性，这限制了深度模型对各种临床和情感计算任务的广泛适应，因为标记数据通常非常有限。数据增强（DA）作为一种提高数据变异性从而训练具有更好泛化能力的深度模型的有效技术，是生物行为时间序列数据深度学习模型成功的关键步骤。然而，对于生物行为时间序列数据，各种DA对于具有不同任务和深度模型的不同数据集的有效性尚未得到充分研究。在本文中，我们首先系统地回顾了八个基本的DA方法的生物行为时间序列数据，并评估了七个数据集上的效果有三个骨干。接下来，我们探索适应更新的DA技术（即，自动增强、随机增强）到生物行为时间序列数据。最后，我们试图回答为什么DA是有效的（或不）的问题，首先总结两个期望的属性增强（挑战性和忠实），然后利用两个指标来定量测量相应的属性，这可以指导我们在寻找更有效的DA生物行为时间序列数据设计更具挑战性，但仍然忠实的转换。我们的代码和结果可以在Link上找到。
2022-10-13 cs.AI cs.LG
Guidelines for Augmentation Selection in Contrastive Learning for Time Series Classification
RMIT（皇家墨尔本理工大学）
针对时间序列对比学习中增强选择依赖经验或网格搜索效率低的问题，提出基于趋势、季节性特征的增强选择框架，经合成与真实数据集验证，Recall@3达0.667，为相关研究提供指导。
2024-07-12 cs.AI cs.LG
Data Augmentation Revisited: Rethinking the Distribution Gap between Clean and Augmented Data
Shanghai Jiao Tong University（上海交通大学）；Huawei Noah’s Ark Lab（华为诺亚方舟实验室）；Tongji University（同济大学）
数据增强作为一种有效的方法被广泛应用于提高泛化能力，特别是在训练深度神经网络时。最近，研究人员提出了一些密集的数据增强技术，这确实提高了准确性，但我们注意到，这些方法增加的数据也造成了相当大的差距之间的清洁和增强的数据。在本文中，我们重新审视这个问题，从分析的角度来看，我们估计的期望风险的上限使用两个术语，即，经验风险和泛化误差，分别。我们开发了一个数据增强的正则化，突出了主要功能的理解。因此，数据增强显著降低了泛化误差，但同时导致了略高的经验风险。假设数据增强有助于模型收敛到更好的区域，则模型可以受益于通过简单方法实现的较低经验风险，即，使用较少增强的数据来改进在完全增强的数据上训练的模型。我们的方法在几个标准的图像分类基准上实现了一致的精度增益，并且增益转移到目标检测。
2019-11-21 cs.CV cs.LG stat.ML
Finding Order in Chaos: A Novel Data Augmentation Method for Time Series in Contrastive Learning
ETH Zürich（苏黎世联邦理工学院）
针对时间序列对比学习，提出一种基于mixup并考虑周期性的数据增强方法，控制混沌程度以连接类内样本，在心率估计等三个任务上优于现有方法。
2023-12-21 cs.AI cs.LG eess.SP
Ensemble Augmentation for Deep Neural Networks Using 1-D Time Series Vibration Data
时间序列数据是数据驱动技术中使用的原始数据表示的基本类型之一。在机器状态监测中，时间序列振动数据被过度用于深度神经网络的数据采掘。通常，振动数据被转换成图像，用于使用深度神经网络（DNN）进行分类，并且尺度图是最有效的图像表示形式。然而，DNN分类器需要大量的标记训练样本才能达到最佳性能。因此，许多形式的数据增强技术被应用于分类器，以弥补训练样本的不足。然而，尺度图是图形表示，其中现有的增强技术受到影响，因为它们要么改变图形含义，要么在改变物理含义的样本中具有太多的噪声。在这项研究中，一个数据增强技术命名为集成增强，以克服这一限制。这种增强方法使用在集合中添加到原始样本中的白噪声的功率来生成类实数样本。在用系综平均信号之后，获得包含原始信号的特征的新信号。使用模拟信号验证用于系综增强的参数。所提出的方法进行评估，使用10类轴承振动数据，使用三个国家的最先进的迁移学习（TL）模型，即Inception-V3，MobileNet-V2和ResNet 50。增强样本以两个增量生成：第一个增量生成与训练样本相同数量的假样本，而在第二个增量中，样本数量逐渐增加。将所提出的方法的输出与无增强、使用深度卷积生成对抗网络（DCGAN）的增强以及几种基于几何变换的增强进行比较。
2022-01-13 cs.AI cs.LG
TTS-CGAN: A Transformer Time-Series Conditional GAN for Biosignal Data Augmentation
Texas State University（德克萨斯州立大学）
以时间序列形式出现的信号测量是医学机器学习应用中最常见的数据类型之一。这样的数据集通常很小，收集和注释成本很高，并且可能涉及隐私问题，这阻碍了我们为生物医学应用训练大型、最先进的深度学习模型的能力。对于时间序列数据，我们可以用来扩展数据集大小的一套数据增强策略受到保持信号基本属性的需要的限制。生成对抗网络（GANs）可以用作另一种数据增强工具。在本文中，我们提出了TTS-CGAN，一个基于变换的条件GAN模型，可以在现有的多类数据集上进行训练，并生成任意长度的特定于类的合成时间序列。详细阐述了模型的体系结构和设计策略。该模型生成的合成序列与真实序列没有区别，可以用来补充或替换同类型的真实信号，从而达到数据增强的目的。为了评估生成的数据的质量，我们修改了小波相干度量，以便能够比较两组信号之间的相似性，并且还进行了一个案例研究，其中使用合成数据和真实数据的混合来训练序列分类的深度学习模型。与其他可视化技术和定性评估方法一起，我们证明了TTS-CGAN生成的合成数据与真实数据相似，并且我们的模型比其他最先进的GAN模型更好地用于时间序列数据生成。
2022-06-28 cs.LG
Dominant Shuffle: A Simple Yet Powerful Data Augmentation for Time-series Prediction
UCLA（加利福尼亚大学洛杉矶分校）；Shanghai University（上海大学）
本文提出主导洗牌数据增强方法，通过仅扰动主导频率并洗牌其分量，减少域差距，在八个数据集和六个模型上显著提升时间序列预测性能。
2024-05-26 cs.AI cs.LG
FrAug: Frequency Domain Augmentation for Time Series Forecasting
The Chinese University of Hong Kong（香港中文大学）；International Digital Economy Academy（国际数字经济研究院）
数据增强（DA）已经成为为深度学习扩展训练数据大小的事实上的解决方案。随着用于时间序列分析的深度模型的激增，在文献中提出了各种时间序列DA技术，例如，基于裁剪、扭曲、翻转和混合的方法。然而，这些增强方法主要适用于时间序列分类和异常检测任务。在时间序列预测（TSF）中，我们需要对时间序列段内的细粒度时间关系进行建模，以便在回看窗口中给定数据时生成准确的预测结果。时域中现有的DA解决方案会打破这种关系，导致预测精度差。为了解决这个问题，本文提出了简单而有效的频域增强技术，以确保增强的数据标签对预测的语义一致性，命名为FrAug。我们在八个广泛使用的基准测试中进行了大量的实验，其中包括几个最先进的TSF深度模型。我们的研究结果表明，在大多数情况下，FrAug可以提高TSF模型的预测精度。此外，我们表明，FrAug使1\%的原始训练数据训练的模型，以达到类似的性能训练的完整训练数据，这是特别有吸引力的冷启动预测。最后，我们表明，使用FrAug进行测试时训练可以大大提高具有显著分布偏移的时间序列的预测精度，这在现实生活中的TSF应用中经常发生。我们的代码可在https://anonymous.4open.science/r/Fraug-more-results-1785上获得。
2023-02-18 cs.AI cs.LG
Don't overfit the history -- Recursive time series data augmentation
New York University（纽约大学）；University of Virginia（弗吉尼亚大学）；University of Toronto（多伦多大学）
时间序列观测可以被看作是一个由我们通常不知道的规则所支配的底层动力系统的实现。对于时间序列学习任务，我们需要了解我们的模型是基于可用数据的，这是一个独特的实现历史。在单一实现上的训练通常会导致严重的过拟合，缺乏泛化能力。为了解决这个问题，我们引入了一个通用的递归框架的时间序列增强，我们称之为递归插值方法，表示为RIM。使用所有先前值的递归内插函数生成新的样本，使得增强的样本保持原始的固有时间序列动态。我们进行理论分析，以表征建议RIM，并保证其测试性能。我们将RIM应用于各种真实世界的时间序列案例，以在回归，分类和强化学习任务上实现非增强数据的强大性能。
2023-01-28 cs.AI cs.LG
End-To-End Self-Tuning Self-Supervised Time Series Anomaly Detection
SIAM/ACM Preprint Series Macros for Use With LaTeX（SIAM/ACM预印本系列宏包）
本文提出TSAP框架，通过可微数据增强架构和无监督验证损失实现端到端自动调整数据增强超参数，解决了无标签时间序列异常检测中数据增强难以选择的问题，并在多种异常类型任务上超越现有自监督基线模型。
2025-04-03 cs.LG
DTWSSE: Data Augmentation with a Siamese Encoder for Time Series
Yanbian University（延边大学）
在现实世界中，对标记的时间序列数据的访问通常是有限的，这限制了深度学习模型在时间序列分析领域的性能。数据增强是解决时间序列数据集小样本和不平衡问题的有效方法。数据增强的两个关键因素是距离度量和插值方法的选择。SMOTE在时间序列数据上表现不佳，因为它使用欧几里得距离度量并直接在对象上插值。因此，我们提出了一种基于DTW的合成少数过采样技术，使用暹罗编码器进行插值，称为DTWSSE。为了合理地度量时间序列的距离，DTW被证明是一种有效的距离度量方法。为了适应DTW度量，我们使用以无监督自训练方式训练的自动编码器进行插值。编码器是一个Siamese神经网络，用于将时间序列数据从DTW隐空间映射到欧氏深层特征空间，解码器用于将深层特征空间映射回DTW隐空间。我们在一些不同的平衡或不平衡的时间序列数据集上验证了所提出的方法。实验结果表明，该方法可以提高下游深度学习模型的性能。
2021-08-23 cs.AI cs.LG
An Empirical Analysis of the Impact of Data Augmentation on Knowledge Distillation
University of Wisconsin-Madison（威斯康星大学麦迪逊分校）
使用经验风险最小化训练的深度学习模型的泛化性能可以通过使用数据增强策略（如简单转换）或使用混合样本来显著提高。我们试图实证分析的影响，这种策略的教师和学生之间的模型的蒸馏设置的泛化转移。我们观察到，如果教师使用任何混合样本增强策略（如MixUp或CutMix）进行训练，则从中提取的学生模型的泛化能力会受损。我们假设这样的策略限制了模型学习特定于示例的特征的能力，导致在蒸馏过程中监督信号的质量损失。我们提出了一种新的类歧视度量定量测量这种二分法的性能，并将其链接到网络的潜在空间上的不同策略引起的歧视能力。
2020-06-09 cs.AI cs.CV cs.LG
CAAP: Class-Dependent Automatic Data Augmentation Based On Adaptive Policies For Time Series
Institute of Computer Science and Engineering（计算机科学与工程学院）；National Yang Ming Chiao Tung University（国立阳明交通大学）；Institute of Information Management（资讯管理学院）；Department of Computer Science（计算机科学系）
本文提出CAAP框架，通过策略网络生成类别均衡难度的样本级增强策略、调节增强概率以降低类别偏差，并引入信息区域保留机制，在ECG时间序列数据上同时实现更低的类别相关偏差和更优的整体性能。
2024-04-01 cs.LG
Class-Based Time Series Data Augmentation to Mitigate Extreme Class Imbalance for Solar Flare Prediction
Georgia State University（佐治亚州立大学）
针对太阳耀斑预测中的极端类别不平衡问题，提出新型时间序列数据增强方法MGN，在SWAN-SF数据集上验证其优于八种现有方法，能有效提升分类性能且计算成本具竞争力。
2024-05-31 astro-ph.IM astro-ph.SR cs.AI
Data Augmentation of Time-Series Data in Human Movement Biomechanics: A Scoping Review
Department of Artificial Intelligence and Human Interfaces, Paris-Lodron-University Salzburg（人工智能与人机接口系，萨尔茨堡巴黎-洛登隆大学）；Salzburg Research Forschungsgesellschaft mbH（萨尔茨堡研究研究所）；Department of Sport and Exercise Science, Paris-Lodron-University Salzburg（体育与运动科学系，萨尔茨堡巴黎-洛登隆大学）
本研究通过范围综述分析生物力学领域时间序列数据的数据增强方法，检索2013-2024年4个数据库的21篇文献，发现方法因目标而异，存在合成差距和评估不足问题，为技术应用提供建议以解决数据限制。
2025-04-04 cs.HC cs.LG
A Time-Series Data Augmentation Model through Diffusion and Transformer Integration
本文提出一种结合扩散模型与Transformer的时间序列数据增强方法，通过生成初始动作并预测后续动作，有效提升了模型性能。
2025-05-01 cs.AI cs.LG eess.SP
Learning Augmentation Distributions using Transformed Risk Minimization
University of Pennsylvania（宾夕法尼亚大学）
本研究提出变换风险最小化（TRM）框架，联合优化预测模型与数据变换分布，结合PAC-Bayes正则化与几何变换随机组合的SCALE算法，在CIFAR10/100等数据集上实现更优性能，还可学习数据对称性并提升模型校准度。
2023-10-05 cs.LG stat.ML
StiefelGen: A Simple, Model Agnostic Approach for Time Series Data Augmentation over Riemannian Manifolds
National Institute of Informatics（情报科学研究所）；SOKENDAI（高级研究大学院大学）
针对时间序列增强中物理模型、噪声假设和大规模数据依赖问题，本文提出基于 Stiefel 流形矩阵微分几何的模型无关方法，将信号置于流形并平滑扰动。
2024-02-29 cs.LG
Provable Guarantees for Self-Supervised Deep Learning with Spectral Contrastive Loss
Stanford University（斯坦福大学）；Toyota Research Institute（丰田研究院）
自监督学习的最新研究通过依赖于对比学习范式推进了最先进的技术水平，该范式通过将阳性对或来自同一类的类似示例推得更近而将阴性对保持得更远来学习表示。尽管取得了经验上的成功，但理论基础是有限的-先前的分析假设给定相同类别标签的正对的条件独立性，但最近的经验应用使用高度相关的正对（即，同一图像的数据增强）。我们的工作分析了对比学习，而不假设条件独立的积极对使用一个新的概念的数据上的增强图。该图中的边连接相同数据的增强，地面实况类自然形成连接的子图。我们提出了一个损失，执行谱分解的人口扩增图，可以简洁地写为一个对比学习目标神经网络表示。最小化这一目标导致的功能，可证明的精度保证下线性探针评估。通过标准的泛化界限，这些精度保证在最小化训练对比损失时也成立。从经验上讲，我们的目标学习的特征可以匹配或优于基准视觉数据集上的几个强基线。总之，这项工作提供了第一个可证明的分析对比学习的线性探针评估的保证，可以适用于现实的经验设置。
2022-06-24 cs.LG stat.ML
D3A-TS: Denoising-Driven Data Augmentation in Time Series
Datrik Ingellicence, S.A.（Datrik智能有限公司）；Seville University（塞维利亚大学）
本文提出D3A-TS，利用扩散概率模型和元属性条件生成合成时间序列，用于分类与回归增强，并在六个跨领域数据集及消融实验中验证其有效性。
2023-12-09 cs.AI cs.LG
WeMix: How to Better Utilize Data Augmentation
Alibaba Group（阿里巴巴集团）
数据增强是深度学习中广泛使用的训练技巧，用于提高网络的泛化能力。尽管有许多令人鼓舞的结果，但最近的几项研究确实指出了传统数据增强方案在某些情况下的局限性，需要对数据增强有更好的理论理解。在这项工作中，我们开发了一个全面的分析，揭示了数据增强的优点和缺点。数据增强的主要限制来自数据偏差，即增强的数据分布可能与原始数据分布完全不同。这种数据偏差导致现有数据增强方法的次优性能。为此，我们开发了两种新的算法，称为“AugDrop”和“MixLoss”，以纠正数据增强中的数据偏差。理论分析表明，这两种算法都能通过偏差校正来提高数据增强的效果，并通过实证研究进一步验证了这一点。最后，我们提出了一个通用算法“WeMix”相结合的AugDrop和MixLoss，其有效性从广泛的实证评估观察。
2020-10-03 cs.CV cs.LG math.OC
Embedding-Space Data Augmentation to Prevent Membership Inference Attacks in Clinical Time Series Forecasting
Department of Computational Linguistics Heidelberg University Germany（计算语言学系海德堡大学）；Department of Computational Linguistics & Interdisciplinary Center for Scientific Computing (IWR) Heidelberg University Germany（计算语言学系与跨学科科学计算中心（IWR）海德堡大学）
本文研究利用嵌入空间数据增强（特别是ZOO-PCA）生成合成样本重训练模型，以在不降低临床时间序列预测性能的前提下有效缓解成员推断攻击。
2025-11-07 cs.LG
