AdaWaveNet: Adaptive Wavelet Network for Time Series Analysis
本文提出AdaWaveNet，通过基于提升方案的自适应小波变换对非平稳时间序列进行多尺度分析，在预测、插补和超分辨率等3项任务的10个数据集上均优于现有方法。
2025-09-11 cs.LG
Multi-Path Learnable Wavelet Neural Network for Image Classification
尽管深度学习在模式识别方面取得了显著的成功，但深度网络模型面临着训练大量参数的问题。在本文中，我们提出并评估了一种新的多路径小波神经网络结构的图像分类与少得多的可训练参数。该模型架构包括一个多路径布局与几个层次的小波分解并行执行，其次是完全连接的层。这些分解操作包括具有可学习参数的小波神经元，这些参数在训练阶段使用反向传播算法进行更新。我们使用除了SVHN之外没有数据增强的常见图像数据集来评估引入的网络的性能，并将结果与有影响力的深度学习模型进行比较。我们的研究结果支持在不影响其准确性的情况下显着减少深度神经网络中参数数量的可能性。
2019-08-26 cs.CV cs.LG eess.IV
DyWPE: Signal-Aware Dynamic Wavelet Positional Encoding for Time Series Transformers
Computer Science Department, Texas State University San Marcos, TX 78666, USA（德克萨斯州立大学计算机科学系）
本文提出信号感知的动态小波位置编码 DyWPE，利用离散小波变换从输入时间序列生成位置嵌入，在十个数据集上超越八种现有方法，生物医学信号中平均相对提升 9.1%。
2025-09-18 cs.LG
AWEMixer: Adaptive Wavelet-Enhanced Mixer Network for Long-Term Time Series Forecasting
School of Computer Science and Technology, Xi’an Jiaotong University（西安交通大学计算机科学与技术学院）；Department of Research and Development, Shandong New Beiyang Information Technology Co., Ltd.（山东新北洋信息技术有限公司）；Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术学院）
针对物联网长期时间序列预测中非平稳、多尺度及误差累积问题，提出AWEMixer网络，通过频率路由器与相干门控融合块实现自适应时频定位，在七个基准上超越Transformer和MLP类最先进模型。
2025-11-06 cs.LG
Wavelet Probabilistic Recurrent Convolutional Network for Multivariate Time Series Classification
Imperial College London（帝国理工学院）
本文提出小波概率循环卷积网络（WPRCN），通过自适应小波概率特征生成器与通道注意力概率时间卷积网络，结合LSTM和C-FCN，在30个多变量时间序列数据集上平均准确率与排名优于基准，尤其擅长处理数据稀缺、非平稳和噪声扰动。
2025-05-22 cs.LG
Learnable wavelet neural networks for cosmological inference
New York University（纽约大学）；Flatiron Institute（熨斗研究所）；Princeton University（普林斯顿大学）；Carnegie Mellon University（卡内基梅隆大学）
研究将可学习散射变换应用于宇宙学推断与天体物理效应边缘化，提出性能与可解释性两种模型，发现其在小样本下优于CNN且具高可解释性。
2023-07-24 astro-ph.CO astro-ph.IM cs.LG
TwinS: Revisiting Non-Stationarity in Multivariate Time Series Forecasting
Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州））；Squirrel AI（松鼠AI）；Beijing Institute of Technology（北京理工大学）；Chongqing University（重庆大学）
针对多元时间序列非平稳分布包含嵌套周期等三类特征的问题，提出含三个模块的Transformer-based TwinS模型，在主流基准上取得SOTA性能，MSE较PatchTST最大提升25.8%。
2024-07-14 cs.AI cs.LG
Motion Artifacts Correction from Single-Channel EEG and fNIRS Signals using Novel Wavelet Packet Decomposition in Combination with Canonical Correlation Analysis
Universiti Kebangsaan Malaysia（马来西亚国民大学）；Qatar University（卡塔尔大学）；Hamad General Hospital（哈马德综合医院）；Alkhor Hospital（阿尔霍尔医院）；BIRDEM General Hospital（BIRDEM综合医院）；North South University（南北大学）
脑电图（EEG）和功能性近红外光谱（fNIRS）信号，高度非平稳的性质，极大地遭受运动伪影，而使用可穿戴传感器记录。本文提出了两种鲁棒的方法：i）小波包分解（WPD），和ii）WPD结合典型相关分析（WPD-CCA），从单通道EEG和fNIRS信号的运动伪影校正。使用基准数据集来测试这些所提出的技术的功效，并且使用两个公认的性能矩阵来测量所提出的方法的性能：i）信噪比的差异（ΔSNR）和ii）运动伪影的减少百分比（η）。对于所有可用的23个EEG记录，所提出的基于WPD的单阶段运动伪影校正技术在使用db2小波包时产生最高的平均ΔSNR（29.44 dB），而在使用db 1小波包时获得最大的平均η（53.48%）。我们提出的两阶段运动伪影校正技术，即利用db 1小波包的WPD-CCA方法，显示出最好的去噪性能，对所有EEG记录分别产生平均ΔSNR和η值为30.76 dB和59.51%。而两级运动伪影去除技术WPD-CCA的平均ΔSNR（16.55 dB，使用db 1小波包）和平均η（41.40%，使用fk 8小波包）最高。对于所有使用fk 4小波包的fNIRS信号，使用单级伪影去除技术（WPD）的最高平均ΔSNR和η分别为16.11 dB和26.40%。在EEG和fNIRS模式中，当采用两阶段WPD-CCA技术时，运动伪影的减少百分比分别增加了11.28%和56.82%。
2022-04-09 cs.LG
WaveSSM: Multiscale State-Space Models for Non-stationary Signal Attention
WaveSSM通过多尺度小波框架提升非平稳信号的注意力建模能力，实验证明其在生理信号和语音命令数据集上优于传统方法。
2026-02-25 cs.LG cs.SD
Wavelet Dynamic Selection Network for Inertial Sensor Signal Enhancement
Harbin Institute of Technology（哈尔滨工业大学）
本文提出小波动态选择网络WDSNet和类别表示机制CRM，通过特征监督机制智能选择合适的小波基以增强惯性传感器信号，在轨迹重建等任务中超越现有全监督方法。
2023-12-29 cs.AI cs.LG eess.SP
Deep Generative Stochastic Networks Trainable by Backprop
Université de Montréal（蒙特利尔大学）；Cornell University（康奈尔大学）
我们引入了一种新的概率模型训练原理，它是最大似然的替代方案。提出的生成随机网络（GSN）框架是基于学习马尔可夫链的转移算子，其平稳分布估计数据分布。马尔可夫链的转移分布是以前一个状态为条件的，通常涉及一个小的移动，所以这个条件分布具有较少的主导模式，在小移动的极限下是单峰的。因此，它更容易学习，因为它更容易近似其分区函数，更像是学习执行监督函数近似，可以通过反向传播获得梯度。我们提供的定理，概括了最近的工作去噪自动编码器的概率解释，并获得了一个有趣的理由依赖网络和广义pseudolikketrium，随着一个适当的联合分布和采样机制的定义，即使当条件不一致。GSN可用于缺失输入，并可用于在给定其余变量的情况下对变量子集进行采样。我们使用模拟深度玻尔兹曼机吉布斯采样器的架构，在两个图像数据集上进行实验，验证了这些理论结果，但允许通过简单的反向传播进行训练，而不需要分层预训练。
2014-05-24 cs.LG
Sparse Multi-Family Deep Scattering Network
Rice University（莱斯大学）
在这项工作中，我们提出了稀疏多家庭深度散射网络（SMF-DSN），一种新的架构，利用深度散射网络（DSN）的可解释性，提高其表达能力。DSN通过级联小波变换、复数模来提取信号中的显著和可解释的特征，并通过一个不变性算子来提取数据的表示。首先，利用高度专业化的小波滤波器在过去几十年的发展，我们提出了一个多家庭的方法来DSN。特别是，我们建议在网络的每一层交叉多个小波变换，从而增加了特征的多样性，并消除了专家选择合适的滤波器的需要。其次，我们开发了一种适合DSN的最佳阈值策略，该策略使网络正规化并控制由信号引起的可能的不稳定性，例如非平稳噪声。我们的系统性和原则性解决方案通过充当区分活动和噪声的局部掩码来稀疏化网络的潜在表示。SMF-DSN通过（i）增加散射系数的多样性和（ii）提高其相对于非平稳噪声的鲁棒性来增强DSN。
2020-12-14 cs.LG stat.ML
Stock Forecasting using M-Band Wavelet-Based SVR and RNN-LSTMs Models
Western Connecticut State University（西康涅狄格州立大学）
预测未来股票价值的任务一直是人们非常渴望的，尽管非常困难。这个困难来自股票的非平稳行为，没有任何明确的形式。因此，最好通过分析金融股票数据来进行预测。为了处理大数据集，目前的惯例涉及使用移动平均线。然而，利用小波变换代替移动平均去噪股票信号，金融数据可以平滑和更准确地分解。这种新转换，去噪和更稳定的股票数据可以通过非参数统计方法进行跟踪，例如支持向量回归（SVR）和基于循环神经网络（RNN）的长短期记忆（LSTM）网络来预测未来股票价格。通过这些方法的实施，人们得到了更准确的股票预测，进而增加了利润。
2019-04-17 cs.LG q-fin.CP stat.ML
Remote Sensing Image Scene Classification with Deep Neural Networks in JPEG 2000 Compressed Domain
University of Trento（特伦托大学）；Technische Universität Berlin（柏林工业大学）
为了降低存储要求，遥感图像通常采用压缩格式存储。现有的使用深度神经网络（DNN）的场景分类方法需要对图像进行完全分类，这在操作应用中是一项计算要求很高的任务。为了解决这个问题，在本文中，我们提出了一种新的方法来实现场景分类的JPEG 2000压缩RS图像。所提出的方法包括两个主要步骤：i）在JPEG 2000中使用的可逆双正交小波滤波器的分辨率更高的子带的近似;和ii）近似的小波子带和场景分类的学习描述符的基础上的高级语义内容的表征。这是通过将与粗分辨率小波子带相关联的码流作为输入以使用多个转置卷积层来近似更精细分辨率子带来实现的。然后，一系列卷积层对近似小波子带的高级语义内容进行建模。因此，所提出的方法模型的JPEG 2000压缩算法中给出的多分辨率范式在一个端到端的可训练的统一神经网络。在分类阶段，所提出的方法只需要粗分辨率的小波子带作为输入，从而减少所需的时间来应用解码。在两个基准航空图像档案上进行的实验结果表明，与传统的RS场景分类方法（需要完整的图像解压缩）相比，所提出的方法显着减少了计算时间，具有相似的分类精度。
2020-12-15 cs.CV cs.LG eess.IV
Scale Dependencies and Self-Similar Models with Wavelet Scattering Spectra
École Normale Supérieure（巴黎高等师范学院）；Capital Fund Management（资本基金管理公司）；Collège de France（法兰西公学院）
本文提出小波散射谱，用于建模非高斯时间序列，证明自相似过程散射谱尺度不变，并基于最大熵与微正则采样生成新序列，应用于金融和湍流数据。
2023-06-19 cond-mat.dis-nn cs.LG eess.SP
Stability of Graph Scattering Transforms
University of Pennsylvania（宾夕法尼亚大学）；New York University（纽约大学）
散射变换是不可训练的深度卷积架构，其利用小波滤波器组的多尺度分辨率来获得数据的适当表示。更重要的是，他们被证明是不变的翻译，并稳定的扰动接近翻译。这种稳定性使散射变换对数据度量域中的小变化具有鲁棒性。当考虑网络数据时，规则卷积不成立，因为数据域呈现由网络拓扑给出的不规则结构。在这项工作中，我们扩展了散射变换网络数据使用多分辨率图小波，其计算可以通过图卷积。此外，我们证明了由此产生的图散射变换是稳定的度量扰动的基础网络。这使得图散射变换对网络拓扑结构的变化具有鲁棒性，使其对于迁移学习、拓扑估计或时变图的情况特别有用。
2019-06-11 cs.LG stat.ML
Gear fault diagnosis based on Gaussian correlation of vibrations signals and wavelet coefficients
Amirkabir University of Technology (Tehran Polytechnic)（阿米尔卡比尔理工大学（德黑兰理工学院））
非平稳多分量信号的特征往往是专家系统难以提取的。提出了一种基于小波系数与信号局部高斯相关函数最大化的特征提取新方法。讨论了在利用局部高斯相关性之前，经验模式分解（EMD）对多分量信号分解为本征模式函数（IMF）的影响。两个齿轮箱系统的实验振动信号的使用表明，所提出的方法的有效性。利用线性支持向量机对所提方法提取的特征集进行分类。实验结果表明，该方法提取的特征具有良好的故障分类能力，不需要额外的特征选择;经验模态分解可以根据所采用的特征约简方法改进或降低特征。
2016-06-26 cs.CE cs.IT cs.LG
Gearbox Fault Detection through PSO Exact Wavelet Analysis and SVM Classifier
Amirkabir University of Technology（阿米尔卡比尔理工大学）
基于振动的齿轮箱故障检测的时频方法被认为是最有效的方法。在这些方法中，连续小波变换（CWT）作为最好的时频分析方法之一，已被用于平稳和瞬态信号。连续小波变换的一些不足之处是信号的重叠和失真问题。在这种情况下，存在大量的冗余信息，从而它可能会导致误报或误解的操作员。本文提出了一种改进的方法，称为精确小波分析，以尽量减少重叠和失真的影响，在齿轮箱故障的情况下。为了实现精确的小波分析，粒子群优化算法（PSO）已用于此目的。该方法已被实现的二维加速度传感器的加速度信号由研华PCI-1710卡从一个齿轮箱测试设置在埃米尔卡比尔理工大学。齿轮箱已被认为是在健康和缺口齿齿轮的条件。基于径向基函数的核支持向量机（SVM）利用精确小波分析提取的特征进行分类。该分类器的效率，然后与从设置测试获得的其他信号进行评估。结果表明，与连续小波变换相比，粒子群精确小波变换在计算量较大的情况下，具有更好的特征提取能力。此外，由于粒子群算法中的因子变异和交叉，在种群数量相等的情况下，粒子群精确小波比遗传算法精确小波具有更好的速度。将提取的特征应用于齿轮箱的SVM分类器，取得了很好的效果，证明了SVM分类器的能力。
2016-05-12 cs.AI cs.CV cs.LG
Epicasting: An Ensemble Wavelet Neural Network (EWNet) for Forecasting Epidemics
International Institute of Information Technology Bangalore（班加罗尔国际信息技术学院）；Sorbonne University Abu Dhabi（索邦大学阿布扎比分校）；Sorbonne Center for Artificial Intelligence（索邦人工智能中心）；National University of Singapore（新加坡国立大学）
针对流行病时间序列的非线性、非平稳和季节性特征，提出基于MODWT与自回归神经网络的EWNet框架，并通过理论分析和多模型对比验证其预测竞争力。
2023-03-14 cs.LG nlin.CD q-bio.PE
A Mathematical Theory of Deep Convolutional Neural Networks for Feature Extraction
ETH Zurich（苏黎世联邦理工学院）
深度卷积神经网络已经在许多实际的机器学习任务中取得了突破性的成果，例如ImageNet数据集中的图像分类，玩Atari游戏或棋盘游戏Go的控制策略学习，以及图像描述。这些应用中的许多应用首先执行特征提取，然后将其结果馈送到可训练分类器中。用于特征提取的深度卷积神经网络的数学分析由Mallat于2012年发起。具体来说，Mallat考虑了基于小波变换的散射网络，然后在每个网络层中引入模非线性，并证明了相应特征提取器的平移不变性（在小波尺度参数中渐近）和变形稳定性。本文通过开发一种理论来补充Mallat的结果，该理论包含一般卷积变换，或者用更专业的术语来说，一般半离散框架（包括Weyl-Heisenberg滤波器，曲波，剪切波，脊波，小波和学习滤波器），一般Lipschitz连续非线性（例如，整流线性单元、移位逻辑S形、双曲正切和模函数），以及模拟的一般Lipschitz连续池化算子，例如，子采样和平均。此外，所有这些元素在不同的网络层中可以不同。对于所得到的特征提取器，我们证明了垂直性质的平移不变性结果，即特征随着网络深度的增加而逐渐变得更加不变性，并且我们建立了适用于信号类别的变形敏感性界限，例如，带限函数、卡通函数和Lipschitz函数。
2017-10-24 cs.AI cs.IT cs.LG
