Defects of Convolutional Decoder Networks in Frequency Representation
Shanghai Jiao Tong University(上海交通大学);Alibaba Group(阿里巴巴集团)
本文通过频域分析揭示了卷积解码器网络的三个表示缺陷:削弱高频成分、上采样导致频谱重复、以及输入与目标频率微小偏移导致学习失败,为理解解码器频率表示能力提供了理论依据。
2023-12-01 cs.AI cs.CV cs.LG
Choosing a sampling frequency for ECG QRS detection using convolutional networks
Deakin University(迪肯大学)
自动QRS检测方法依赖于以特定频率采样的ECG数据,而不管基于滤波器的传统方法还是基于卷积网络(CNN)的深度学习方法。这些方法首先需要选择它们工作的采样频率。在处理来自以不同频率采样的两个不同数据集的数据时,通常,来自两个数据集的数据可能需要以共同的目标频率重新采样,该频率可以是任一数据集的频率,也可以是不同的频率。然而,选择以特定频率采样的数据可能会影响模型的泛化能力和复杂性。有一些研究调查了ECG样本频率对传统基于滤波器的方法的影响,但是,ECG样本频率对基于深度学习的模型(卷积网络)的影响的广泛研究,探索其通用性和复杂性尚未得到探索。该实验研究调查了六种不同的采样频率(50,100,250,500,1000和2000 Hz)对四种不同的基于卷积网络的模型的通用性和复杂性的影响,以便为特定性能要求的QRS检测任务确定适当的采样频率。数据库内测试报告,从100 Hz到250 Hz,准确度提高不超过约0.6\%,并且所有基于CNN的模型的这两个频率的四分位数范围较短。研究结果表明,基于卷积网络的深度学习模型能够在低至100 Hz或250 Hz的频率下采样的ECG信号上获得更高水平的检测准确度,同时保持较低的模型复杂度(可训练参数的数量和训练时间)。
2020-07-04 cs.LG eess.SP
Cerebral Palsy Prediction with Frequency Attention Informed Graph Convolutional Networks
Durham University(杜伦大学);Northumbria University(诺森比亚大学)
早期诊断和早期干预是临床治疗脑瘫的重要环节,因此设计一个高效、可解释的脑瘫自动预测系统至关重要。我们强调了CP婴儿的人体运动频率与健康组之间的显着差异,这提高了预测性能。但是,现有的基于深度学习的方法并没有将婴儿运动的频率信息用于CP预测。本文提出了一种频率注意通知图卷积网络,并在两个消费级RGB视频数据集MINI-RGBD和RVI-38上进行了验证。我们提出的频率注意模块有助于提高分类性能和系统的可解释性。此外,我们设计了一个频率合并方法,保留了人体关节位置数据的临界频率,同时过滤噪声。我们的预测性能在两个数据集上都达到了最先进的研究水平。我们的工作证明了频率信息在支持CP非侵入性预测方面的有效性,并为支持临床资源不丰富的资源有限地区的CP早期诊断提供了一种方法。
2023-03-28 cs.CV cs.LG
Band-limited Training and Inference for Convolutional Neural Networks
University of Chicago(芝加哥大学)
卷积层是神经网络架构的核心构建块。通常,卷积滤波器应用于输入数据的整个频谱。我们探索在训练过程中人为地约束这些滤波器和数据的频谱,称为频带限制。频域约束适用于前馈和反向传播步骤。在实验中,我们观察到卷积神经网络(CNN)对这种压缩方案具有弹性,结果表明CNN学会利用低频分量。特别是,我们发现:(1)带限训练可以有效地控制资源使用(GPU和存储器);(2)用带限层训练的模型保持高预测精度;以及(3)不需要修改现有的训练算法或神经网络架构来使用,不像其他压缩方案。
2019-11-21 cs.CV cs.LG stat.ML
On the Performance of Convolutional Neural Networks under High and Low Frequency Information
Indian Institute of Information Technology, Sri City(斯里城印度信息技术学院)
卷积神经网络(CNN)近年来在不同的问题上表现出非常有前途的性能,包括对象识别、人脸识别、医学图像分析等。然而,通常情况下,训练好的CNN模型在与训练集非常相似的测试集上进行测试。CNN模型的泛化能力和鲁棒性是使其能够处理未知数据的重要方面。在这封信中,我们研究了CNN模型在图像的高频和低频信息上的性能。我们观察到,训练后的CNN未能在高频和低频图像上泛化。为了使CNN对高频和低频图像具有鲁棒性,我们提出了在训练过程中基于随机滤波的数据增强。一个令人满意的性能改善已被观察到的高频和低频的推广和鲁棒性与建议的随机滤波为基础的数据增强方法。实验使用ResNet50模型在CIFAR-10数据集上进行,ResNet101模型在Tiny-ImageNet数据集上进行。
2020-10-30 cs.CV cs.LG
Multi-Band Multi-Resolution Fully Convolutional Neural Networks for Singing Voice Separation
Helwan University(赫勒万大学)
具有卷积层的深度神经网络通常以相同的时频分辨率、滤波器数量和降维尺度来处理音频信号的整个频谱图。根据恒Q变换,如果低频带用高频率分辨率滤波器处理,高频带用高时间分辨率滤波器处理,则可以从音频信号中提取良好的特征。在歌声和音乐信号的混合的频谱图中,通常在低频带中比在高频带中有更多关于声音的信息。这就需要对声谱图的每个部分进行不同的处理。本文提出了一种多带多分辨率全卷积神经网络(MBR-FCN)的歌唱声分离方法。MBR-FCN利用比具有较少信息的频带更多的滤波器和更小的维数减少尺度来处理具有关于目标信号的更多信息的频带。此外,MBR-FCN用高频率分辨率滤波器处理低频带,用高时间分辨率滤波器处理高频带。我们的实验结果表明,所提出的MBR-FCN具有非常少的参数实现更好的歌声分离性能比其他深度神经网络。
2019-10-21 cs.LG cs.SD eess.AS
Spatial Frequency Loss for Learning Convolutional Autoencoders
本文提出了一种用于从图像中提取特征的卷积自动编码器(CAE)的学习方法。可以通过利用卷积神经网络以无监督的方式学习对恒等函数的近似来获得CAE。基于像素损失(PL)的损失函数是用于学习的常见选择,像素损失是原始图像和重建图像的像素值之间的均方误差。然而,使用损失函数导致模糊的重建图像。提出了一种使用从反映空间频率的特征计算的损失函数来学习CAE的方法,以减轻该问题。重建图像中的模糊显示出缺乏主要构成边缘和细节纹理的高空间频率分量,这些边缘和细节纹理是诸如目标检测和空间匹配的任务的重要特征。为了评估组件的缺乏,将具有拉普拉斯滤波器组作为权重的卷积层添加到CAE中,并且从每个滤波器的输出计算子带中的特征的均方误差,称为空间频率损失(SFL)。使用基于SFL的损失函数来执行学习。实验结果表明,使用SFL减少了重建图像中的模糊。
2018-06-06 cs.AI cs.CV cs.LG
Temporal Convolutional Explorer Helps Understand 1D-CNN's Learning Behavior in Time Series Classification from Frequency Domain
Zhejiang University(浙江大学)
本研究提出时间卷积探索器(TCE)从频域分析1D-CNN的学习行为,发现深层网络因干扰卷积偏离低频分量导致准确率下降,并据此提出可集成的调控框架,在多个基准上实现了性能提升且降低了资源开销。
2023-10-09 cs.LG
Learning Convolutional Neural Networks in the Frequency Domain
National University of Defense Technology(国防科技大学)
卷积神经网络(CNN)在过去的几十年里在计算机视觉领域取得了令人瞩目的成功。图像卷积运算有助于CNN在图像相关任务上获得良好的性能。然而,图像卷积运算复杂度高,难以实现。本文提出了CEMNet,它可以在频域中训练。本研究的最重要的动机是,我们可以使用简单的元素乘运算来代替图像卷积在频域的基础上互相关定理,这明显降低了计算复杂度。我们进一步引入了权重固定机制来缓解过度拟合的问题,并在频域中分析了批量归一化,Leaky ReLU和Dropout的工作行为,以设计CEMNet的对应物。同时,为了处理离散傅立叶变换带来的复杂输入,我们为CEMNet设计了一种双分支网络结构。实验结果表明,CEMNet取得了良好的性能MNIST和CIFAR-10数据库。
2022-07-20 cs.AI cs.CV cs.LG
Sound Event Detection in Multichannel Audio using Convolutional Time-Frequency-Channel Squeeze and Excitation
Microsoft Research(微软研究院)
在这项研究中,我们引入了一个卷积时频信道“挤压和激励”(tfc-SE)模块,以显式地对时频域和多个信道之间的相互依赖性进行建模。tfc-SE模块由两部分组成:tf-SE块和c-SE块,分别用于提供时频域和信道域的关注,用于自适应地重新校准输入特征图。所提出的tfc-SE模块以及流行的卷积递归神经网络(CRNN)模型在具有重叠音频源的多通道声音事件检测任务中进行了评估:训练和测试数据是用麦克风阵列记录的合成TUT Sound Events 2018数据集。我们表明,TFC-SE模块可以被纳入CRNN模型在一个小的额外的计算成本,并带来显着的改善声音事件检测精度。我们还通过分析可能影响SE块性能的各种因素进行详细的消融研究。结果表明,使用最佳tfc-SE块,错误率(ER)从0.2538降低到0.2026,ER相对降低20.17%,F1得分提高5.72%。结果表明,学习的声学嵌入与tfc-SE模块有效地加强时频和通道的特征表示,以提高区分性能。
2019-08-04 cs.LG cs.SD eess.AS
Monaural Speech Enhancement with Complex Convolutional Block Attention Module and Joint Time Frequency Losses
Alibaba Group(阿里巴巴集团)
针对单声道语音增强任务,提出轻量级复卷积块注意力模块(CCBAM)并结合联合时频损失函数,集成到深度复U-Net和CRN中形成新端到端框架,实验验证其性能优越。
2024-11-28 cs.LG cs.SD eess.AS
Compressing Convolutional Neural Networks
Washington University in St. Louis(圣路易斯华盛顿大学);NVIDIA(英伟达)
卷积神经网络(CNN)越来越多地用于计算机视觉的许多领域。它们特别有吸引力,因为它们能够通过数百万个参数“吸收”大量标记数据。然而,随着模型大小的增加,分类器的存储和内存需求也会增加。我们提出了一种新的网络架构,频率敏感散列网(FreshNets),它利用了深度学习模型的卷积层和全连接层的固有冗余,从而大大节省了内存和存储消耗。基于学习卷积滤波器的权重通常是平滑和低频的关键观察结果,我们首先使用离散余弦变换(DCT)将滤波器权重转换到频域,并使用低成本哈希函数将频率参数随机分组到哈希桶中。所有分配给同一个哈希桶的参数共享一个通过标准反向传播学习的值。为了进一步减小模型大小,我们将更少的哈希桶分配给高频分量,这些分量通常不太重要。我们在八个数据集上评估了FreshNets,并表明它比几个相关的基线具有更好的压缩性能。
2015-06-14 cs.CV cs.LG cs.NE
Frequency Domain Convolutional Neural Network: Accelerated CNN for Large Diabetic Retinopathy Image Classification
University of Nottingham Malaysia(诺丁汉大学马来西亚分校)
卷积神经网络(CNN)中的传统空间卷积层在训练时间可能花费数天的点处计算上是昂贵的,除非减少层的数量、训练图像的数量或训练图像的大小。CNN的大多数应用通常使用256 × 256像素的图像大小,但该图像大小对于像糖尿病视网膜病变(DR)分类这样的应用来说太小了,其中图像细节对于准确分类很重要。本研究提出频域卷积(FDC)层和频域池化(FDP)层,其利用RFFT、核初始化策略、卷积伪影去除和通道独立卷积(CIC)来构建,以取代传统的卷积层和池化层。FDC和FDP层用于构建频域卷积神经网络(FDCNN),以加速DR分类的大图像训练。全FDC层是FDC层的扩展,允许直接用于传统CNN,它也用于修改VGG16架构。与等效的CNN架构相比,FDCNN CNN至少快54.21%,内存效率高70.74%。据报道,与原始的VGG16架构相比,具有完整FDC层的修改后的VGG16架构实现了更短的训练时间和更高的准确率(95.63%)。
2021-06-24 cs.CV cs.LG
Grid Frequency Forecasting in University Campuses using Convolutional LSTM
本文提出利用 CNN 和 LSTM 构建个性化 ConvLSTM 模型预测大学校园各建筑电网频率,并设计集成模型汇总预测,结果在 MSE、MAE 和 MAE 上优于传统方法,同时保障了数据隐私。
2023-10-24 cs.AI cs.LG
Dual-Branch Convolutional Framework for Spatial and Frequency-Based Image Forgery Detection
Amity School of Engineering and Technology(阿米蒂大学工程与技术学院);Amity University(阿米蒂大学)
本文提出一种融合空间与频域特征的双分支卷积孪生网络,用于图像伪造检测,在CASIA 2.0上达到77.9%准确率,兼顾计算复杂度与检测可靠性。
2025-11-09 cs.LG
Convolutional Fourier Analysis Network (CFAN): A Unified Time-Frequency Approach for ECG Classification
University of São Paulo(圣保罗大学)
本文提出 CFAN,通过 CONV-FAN 模块将傅里叶原理嵌入 CNN,实现无需频谱图转换的联合时频学习,并在三个 ECG 任务上达到最先进准确率。
2025-05-14 cs.LG eess.SP
Beyond Barren Plateaus: A Scalable Quantum Convolutional Architecture for High-Fidelity Image Classification
School of Computing Science and Engineering (SCOPE), Vellore Institute of Technology(计算科学与工程学院(SCOPE),vellore技术学院)
本文提出了一种可扩展的量子卷积架构,通过局部化成本函数和硬件高效初始化策略缓解 barren plateaus 问题,在 MNIST 数据集上实现 98.7% 的分类准确率,优于基线 QCNN 的 52.32% 并具有参数效率优势。
2026-03-11 cs.LG
Spatial Frequency Bias in Convolutional Generative Adversarial Networks
Rutgers University(罗格斯大学)
随着生成对抗网络(GANs)在自然图像上的成功,将它们迅速推进到不同领域的各种现实应用中,清楚地了解它们的局限性变得越来越重要。具体而言,了解GANs在整个空间频率频谱上的能力,即超越自然图像的低频主导频谱,对于评估GAN生成的数据在任何细节敏感应用中的可靠性至关重要(例如医学和卫星图像中的去噪,填充和超分辨率)。在本文中,我们证明了卷积GANs学习分布的能力受到底层载波信号的空间频率的显著影响,也就是说,GANs对学习高空间频率有偏见。至关重要的是,我们表明这种偏见不仅仅是自然图像中高频稀缺的结果,而是一种系统性偏见,阻碍了高频的学习,无论它们在数据集中的突出性如何。此外,我们解释了为什么大规模GANs在自然图像上生成精细细节的能力并不能排除这种偏见的不利影响。最后,我们提出了一种方法来操纵这种偏见与最小的计算开销。这种方法可以用于显式地将计算资源定向到数据集中感兴趣的任何特定空间频率,从而扩展了GANs的灵活性。
2020-12-18 cs.LG eess.IV stat.ML
Beyond Accuracy: Reliability and Uncertainty Estimation in Convolutional Neural Networks
Department of Economics, Lund University, Sweden(瑞典 Lund 大学经济学系);Department of Statistics, Lund University, Sweden(瑞典 Lund 大学统计学系)
本文比较了两种不确定性量化方法,发现GoogLeNet在不确定性估计上表现更优,强调了在深度学习中评估模型可靠性的重要性。
2026-03-11 cs.LG stat.ML
Amplitude-Phase Recombination: Rethinking Robustness of Convolutional Neural Networks in Frequency Domain
Peking University(北京大学);Beihang University(北京航空航天大学);Huawei(华为)
近年来,卷积神经网络(CNN)的泛化行为通过频率分量分解的解释技术逐渐变得透明。然而,图像相位谱对于视觉系统的鲁棒性的重要性仍然被忽视。在本文中,我们注意到,CNN往往收敛于局部最优值,这是密切相关的训练图像的高频分量,而幅度谱容易受到干扰,如噪声或常见的腐败。相比之下,更多的实证研究发现,人类依赖更多的相位分量来实现鲁棒的识别。这一观察结果导致更多的解释CNN的泛化行为在两个鲁棒性常见的扰动和分布外检测,并激发了一个新的视角数据增强设计重新组合的相位谱的当前图像和干扰图像的幅度谱。也就是说,生成的样本迫使CNN更加关注来自相位分量的结构化信息,并对幅度的变化保持鲁棒性。在多个图像数据集上的实验表明,该方法在多个泛化和校正任务上都达到了最先进的性能,包括对常见损坏和表面变化的适应性,分布外检测和对抗攻击。
2021-08-19 cs.CV cs.LG
FreCT: Frequency-augmented Convolutional Transformer for Robust Time Series Anomaly Detection
University of Chinese Academy of Science(中国科学院大学);Harbin Institute of Technology(哈尔滨工业大学);National University of Defense Technology(国防科学技术大学);Tsinghua University(清华大学);Beijing University of Posts and Telecommunications(北京邮电大学);Hainan University(海南大学);City University of Hong Kong(香港城市大学)
针对重构方法易受异常干扰且忽视频域信息的问题,本文提出 FreCT,通过 patch 对比、卷积 Transformer、Fourier 频率分析及停止梯度 KL 一致性优化提升鲁棒异常检测性能。
2025-05-10 cs.LG
Going beyond p-convolutions to learn grayscale morphological operators
EPITA Research and Development Laboratory (LRDE)(EPITA研究与开发实验室(LRDE));Centre for Mathematical Morphology, Mines ParisTech, PSL Research University(巴黎高等矿业学院数学形态学中心,PSL研究大学)
最近,在深度神经网络中集成数学形态学运算受到越来越多的关注。然而,用侵蚀或膨胀来替换标准卷积层特别具有挑战性,因为最小和最大运算是不可微的。依赖于反调和平均值的渐近行为,p-卷积层被提出作为这个问题的可能解决方案,因为它们可以执行伪膨胀或伪腐蚀操作(取决于其内部参数p的值),并且报告了非常有希望的结果。在这项工作中,我们提出了两个新的形态层,它们基于与p-卷积层相同的原理,同时规避了其主要缺点,并展示了它们在深度卷积神经网络架构中进一步实现的潜在兴趣。
2021-02-19 cs.LG eess.IV
End-to-End Polyphonic Sound Event Detection Using Convolutional Recurrent Neural Networks with Learned Time-Frequency Representation Input
Tampere University of Technology(坦佩雷理工大学)
声音事件检测系统通常由两个阶段组成:从原始音频波形中提取手工制作的特征,以及使用分类器学习这些特征与目标声音事件之间的映射。近来,声音事件检测研究的焦点已经大部分转移到使用诸如mel频谱图的标准特征作为诸如深度神经网络的分类器的输入的后一阶段。在这项工作中,我们利用端到端的方法,并建议将这两个阶段结合在一个单一的深度神经网络分类器。原始波形上的特征提取由前馈层块进行,其参数被初始化以提取时频表示。在训练期间更新特征提取参数,从而产生针对特定任务优化的表示。这个特征提取块之后是一个卷积递归网络(并与之联合训练),该网络最近在许多声音识别任务中给出了最先进的结果。所提出的系统并没有优于具有固定手工特征的卷积递归网络。特征提取块参数的最终幅度谱特性表明,对于给定任务最相关的信息包含在0 - 3 kHz频率范围内,并且这也得到了SED性能的经验结果的支持。
2018-05-09 cs.LG cs.SD eess.AS
Efficient Convolutional Auto-Encoding via Random Convexification and Frequency-Domain Minimization
Vrije Universiteit Brussel (VUB)(布鲁塞尔自由大学);Northwestern Polytechnical University (NPU)(西北工业大学);Interuniversity Microelectronics Centre (IMEC)(校际微电子中心)
深度卷积神经网络(CNN)等深度学习架构的无处不在是由不断增加的标记数据集和专用硬件的协同组合推动的。尽管取得了无可争议的成功,但在接近新应用时,对大量标记数据和专用硬件的依赖可能是一个限制因素。为了帮助缓解这些限制,我们提出了一种有效的学习策略,用于在可接受的时间内在传统硬件上对深度CNN进行分层无监督训练。我们提出的策略包括随机凸化重构压缩自动编码(RCAE)学习目标,并通过坐标下降(CD)在频域中解决由此产生的大规模凸最小化问题。我们提出的学习策略的主要优点是:(1)单个可调优化参数;(2)快速且有保证的收敛;(3)完全并行化的可能性。数值实验表明,我们提出的学习策略规模(在最坏的情况下)与图像大小,过滤器的数量和过滤器的大小呈线性关系。
2016-11-28 cs.LG cs.NE stat.ML
All You Need is Beyond a Good Init: Exploring Better Solution for Training Extremely Deep Convolutional Neural Networks with Orthonormality and Modulation
Hikvision Research Institute(海康威视研究院)
深度神经网络很难训练,并且随着深度的增加,这种困境变得更糟。这个问题的本质在于反向传播误差的大小,它将导致梯度消失或爆炸现象。我们表明,一个变种的正则化,利用不同的滤波器组之间的正交性可以缓解这个问题。此外,我们设计了一个后向误差调制机制的基础上,两个连续的参数层之间的准等距假设。配备了这两种成分,我们提出了几种新的优化解决方案,可用于训练特定结构(Conv-BNReLU的重复三重模块)的极深卷积神经网络(CNN),而无需从头开始任何快捷方式/身份映射。实验表明,我们提出的解决方案可以在CIFAR-10和ImageNet数据集上实现44层和110层普通网络的明显改进。此外,我们可以成功地训练普通CNN,以匹配剩余的同行的性能。此外,我们提出了新的原则,设计网络结构的启示所引发的正交性。结合残差结构,我们在ImageNet数据集上实现了比较性能。
2017-04-10 cs.CV cs.LG cs.NE
Epileptic Seizure Detection in Separate Frequency Bands Using Feature Analysis and Graph Convolutional Neural Network (GCN) from Electroencephalogram (EEG) Signals
提出一种频率感知框架,将EEG分解为五个频段并提取判别特征,利用图卷积神经网络建模电极空间依赖,在CHB-MIT数据集上实现99.01%的宽带准确率,提高了可解释性和诊断精度。
2026-06-16 cs.AI cs.LG cs.NE
Towards the Resistance of Neural Network Watermarking to Fine-tuning
Shanghai Jiao Tong University(上海交通大学);Alibaba Group(阿里巴巴集团)
本文提出一种新的DNN水印方法,利用改进的傅里叶变换将所有权信息嵌入卷积滤波器的特定频率分量中,并证明其对微调、权重缩放和置换具有鲁棒性。
2025-05-02 cs.AI cs.CL cs.CV
Investigating Map-Based Path Loss Models: A Study of Feature Representations in Convolutional Neural Networks
Carleton University, Ottawa, Ontario, Canada(卡洛尔大学)
本文研究了卷积神经网络中不同特征表示方法对路径损耗预测模型性能的影响,发现将标量特征作为图像通道能提升模型泛化能力。
2025-04-02 cs.LG eess.SP
Inversion of 1D frequency- and time-domain electromagnetic data with convolutional neural networks
Curtin University(科廷大学);Colorado School of Mines(科罗拉多矿业学院)
电磁数据反演在地球物理学的许多领域都有应用。反问题通常用确定性优化方法(如非线性共轭梯度或高斯-牛顿)解决,这些方法容易陷入局部最小值,或者用计算量非常大的概率方法解决。最近出现的替代方案是采用深度神经网络来从测量数据预测地下模型属性。这种方法完全是数据驱动的,不采用传统的基于梯度的技术,并立即为模型提供猜测。在这项研究中,我们将深度卷积神经网络应用于海洋频域可控源电磁(CSEM)数据以及陆上时域电磁(TEM)数据的一维反演。我们的方法在合成和真实数据上都产生了准确的结果,并立即提供。使用多个网络并将其来自不同训练时期的输出相结合也可以提供对不确定性分布的见解,发现在存在电阻率异常的区域中不确定性分布更高。所提出的方法开辟了可能性,估计地下电阻率分布在勘探方案中的实时。
2019-12-02 cs.LG eess.IV physics.comp-ph
A Hybrid Traffic Speed Forecasting Approach Integrating Wavelet Transform and Motif-based Graph Convolutional Recurrent Neural Network
State Key Laboratory of Information Engineering in Survey, Mapping and Remote Sensing(测绘遥感信息工程国家重点实验室)
交通预测是城市交通管理和疏导的关键。然而,现有的方法很少利用交通速度观测的时频特性,往往忽略了交通流从上游到下游路段的传播。在本文中,我们提出了一种混合的方法,学习交通流的时空依赖性,并预测道路网络上的短期交通速度。具体来说,我们采用小波变换分解原始交通数据到几个不同的频率子带的分量。基于模体的图卷积循环神经网络(Motif-GCRNN)和自回归移动平均(ARMA)分别用于训练和预测低频分量和高频分量。在Motif-GCRNN框架中,我们将图卷积网络(GCN)与局部子图结构(Motifs)相结合,以捕获路段之间的空间相关性,并应用长短期记忆(LSTM)来提取交通速度的短期和周期性模式。在中国成都采集的交通数据集上的实验表明,所提出的混合方法优于六种最先进的预测方法。
2019-04-14 cs.CV cs.LG eess.SP
On the Equivalence of Convolutional and Hadamard Networks using DFT
在本文中,我们引入激活函数,将卷积网络的整个计算移动到频域,在那里它们实际上是Hadamard网络。为了达到这个结果,我们采用离散傅里叶变换的性质。我们给出了一些实现细节和实验结果,以及一些关于卷积网络在学习用例中表现良好的原因的见解。
2018-10-27 cs.LG math.OC
Multi-stream Convolutional Neural Network with Frequency Selection for Robust Speaker Verification
Key Laboratory of Technology in Rural Water Management of Zhejiang Province(浙江省农村水利技术重点实验室);College of Electric Engineering(电气工程学院);Zhejiang University of Water Resources and Electric Power(水利与电力学院)
针对传统单流说话人验证系统采用全频特征的局限,提出带频率选择的多流CNN框架,通过分多子带并行处理与融合增强鲁棒性,在VoxCeleb上minDCF相对提升20.53%。
2025-08-31 cs.LG cs.SD eess.AS
Phase Harmonic Correlations and Convolutional Neural Networks
Collège de France(法兰西公学院);École Normale Supérieure(巴黎高等师范学院);Flatiron Institute(熨斗研究所);Peking University(北京大学)
谐波分析中的一个主要问题是捕获频率表示的相位依赖性,这携带着重要的信号特性。卷积神经网络似乎找到了一种方法。在时间序列和图像中,卷积网络通常学习第一层滤波器,这些滤波器在频域中具有不同的相位。我们表明,整流器,然后作为一个过滤器的相位所产生的系数。它计算在空间、频率和相位上局部的信号描述符。非线性相位滤波器变成沿着相位用傅里叶变换计算的相位谐波上的乘法算子。我们证明了它定义了一个双Lipschitz可逆表示。相位谐波系数的相关性从它们在不同频率上的相位依赖性来描述相干结构。对于小波滤波器,我们数值表明,具有稀疏小波系数的信号可以从很少的相位谐波相关中恢复,这提供了一种压缩表示
2019-06-29 cs.LG eess.SP stat.ML
Can convolutional ResNets approximately preserve input distances? A frequency analysis perspective
University of Oxford(牛津大学)
约束为双Lipschitz的ResNet,即近似距离保持,是最近提出的神经模型中确定性不确定性量化技术的关键组成部分。我们发现,最近的正则化计划试图执行这样的约束的理论理由遭受一个关键的缺陷-正则化计划和双Lipschitzness之间的理论联系是唯一有效的条件下,不持有在实践中,使现有的理论使用有限,尽管这些模型的强大的经验表现。我们提供了一个理论上的解释,这些正规化计划的有效性,使用频率分析的角度来看,在温和的条件下,这些计划将强制执行较低的Lipschitz约束的低频投影的图像。然后,我们提供了支持我们的理论主张的经验证据,并进行进一步的实验,这些实验表明,当我们的证明中的一些数学假设被放松时,我们更广泛的结论似乎成立,对应于先前工作中使用的设置。此外,我们提出了一个简单的构造性算法来搜索距离保持条件的反例,并讨论了我们的理论对未来模型设计的可能影响。
2021-06-17 cs.LG stat.ML
Short-segment heart sound classification using an ensemble of deep convolutional neural networks
Universiti Teknologi Malaysia(马来西亚工艺大学);King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文提出了一种基于深度卷积神经网络(CNN)的框架,用于使用单个心跳的短片段进行自动心音分类。我们设计了一个直接从原始心音信号中学习特征的1D-CNN和一个基于Mel频率倒谱系数(MFCC)的二维的时频特征图的2D-CNN。我们进一步开发了一个时频CNN集成(TF-ECNN)结合的1D-CNN和2D-CNN基于分数级融合的类概率。在大型PhysioNet CinC挑战2016数据库上,提出的CNN模型优于基于支持向量机和隐马尔可夫模型的传统分类器,具有各种手工制作的时域和频域特征。ECNN实现了最佳分类评分,准确度为89.22%,灵敏度为89.94%,2D-CNN单独在测试集上实现了91.55%的特异性和88.82%的修正准确度。
2018-10-27 cs.LG cs.SD eess.AS
Dynamic Frequency Domain Graph Convolutional Network for Traffic Forecasting
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Academy of Cyber(网络研究院)
针对交通预测中数据驱动空间依赖建模受时移和噪声干扰的问题,提出动态频域图卷积网络DFDGCN,结合傅里叶变换、多类图与因果卷积,在四个真实数据集上表现优于基准模型。
2023-12-19 cs.AI cs.LG
CP-AGCN: Pytorch-based Attention Informed Graph Convolutional Network for Identifying Infants at Risk of Cerebral Palsy
Durham University(杜伦大学);University of Glasgow(格拉斯哥大学)
早期预测被临床认为是脑瘫治疗的重要组成部分之一。我们建议实现一个低成本和可解释的分类系统,以支持CP预测的基础上一般运动评估(GMA)。我们设计了一个基于Pytorch的注意力通知图卷积网络,从RGB视频提取的骨骼数据中早期识别有CP风险的婴儿。我们还设计了一个频率合并模块,用于在频域中学习CP运动,同时过滤噪声。我们的系统只需要消费级RGB视频进行训练,通过提供可解释的CP分类结果来支持交互时间CP预测。
2022-09-06 cs.CV cs.LG eess.IV
Implicit Bias of Gradient Descent on Linear Convolutional Networks
TTI at Chicago(芝加哥丰田理工学院);USC(南加利福尼亚大学);Technion(以色列理工学院)
我们证明了深度$L$的全宽线性卷积网络上的梯度下降收敛到与频域中的$\ell_{2/L}$桥惩罚相关的线性预测器。这与线性全连接网络相反,在线性全连接网络中,梯度下降收敛到硬边缘线性支持向量机解,而不管深度如何。
2019-01-11 cs.LG stat.ML
Radio-Frequency Convolutional Neural Networks
Duke University(杜克大学);Massachusetts Institute of Technology(麻省理工学院)
本文提出射频卷积神经网络(RF-CNN),利用无线设备现有混频器在频域执行卷积,实现边缘端高效CNN推理,能耗低至0.72飞焦耳/乘加,性能接近全精度。
2026-09-18 cs.ET cs.LG eess.SP
Compact convolutional neural networks for AI-based drone detection system
Ludovika University of Public Service(路德维卡公共服务大学);Eötvös Loránd University(厄特沃什·罗兰大学)
研究针对现代冲突中无人机检测需求,利用轻量级卷积神经网络,将样本转换为光栅化时域图像,设计自定义模型架构并测试评估,结果显示紧凑模型能保持高精度且计算要求低,相比现有方法降低成本。
2026-07-21 cs.LG
Beyond topography: Topographic regularization improves robustness and reshapes representations in convolutional neural networks
Center for Mind/Brain Sciences (CIMeC), University of Trento(心智/大脑科学中心(CIMeC),特伦托大学)
本研究通过地形正则化方法提升卷积神经网络的鲁棒性并重塑表示结构,验证了不同正则化策略对模型性能的影响。
2026-01-12 cs.LG
Fusion of Quadratic Time-Frequency Analysis and Convolutional Neural Networks to Diagnose Bearing Faults Under Time-Varying Speeds
Faculty of Information Technology and Communication Sciences, Tampere University(信息科技与通信科学学院,塔尔皮莱大学);Faculty of Medicine and the Department of Clinical Neurophysiology at the University of Helsinki and Helsinki University Hospital(医学学院及赫尔辛基大学临床神经生理学系,赫尔辛基大学医院);Department of Electrical Engineering, Qatar University(电气工程系,卡塔尔大学)
本文提出了一种融合二次时频分析与卷积神经网络的方法,用于在变速条件下诊断轴承故障,实现了较高的诊断准确率。
2026-01-19 cs.AI cs.LG cs.SY
InterGridNet: An Electric Network Frequency Approach for Audio Source Location Classification Using Convolutional Neural Networks
Aristotle University of Thessaloniki(亚里士多德塞萨洛尼基大学)
提出 InterGridNet 框架,结合浅层 RawNet、残差块与神经架构搜索,对 ENF 音频信号进行地理位置分类,在 SP Cup 2016 数据集上达到 92% 的准确率。
2025-02-14 cs.LG cs.SD eess.AS
Audio Spoofing Verification using Deep Convolutional Neural Networks by Transfer Learning
NSS College of Engineering(NSS工程学院)
自动说话人验证系统越来越受欢迎,这些天,欺骗攻击是主要关注,因为他们使这些系统脆弱。一些欺骗攻击,如重放攻击,更容易实现,但很难检测,因此需要适当的对策。在本文中,我们提出了一种基于深度卷积神经网络的语音分类器来检测欺骗攻击。我们提出的方法通过深度残差学习(ResNet-34架构的适应),在Mel频率尺度上使用功率谱密度的声学时频表示(Mel频谱图)。使用单个模型系统,我们在ASVspoof 2019的逻辑访问场景的开发和评估数据集上实现了0.9056%的等错误率(EER)和5.32%的等错误率(EER),在物理访问场景的开发和评估数据集上实现了5.87%的等错误率(EER)。
2020-08-08 cs.LG eess.AS
Causal Convolutional Neural Networks as Finite Impulse Response Filters
Future Resilient Systems, Singapore ETH Centre(新加坡未来韧性系统,新加坡ETH中心);Department of Industrial Systems Engineering and Management(工业系统工程与管理系);ETHZ;Department of Civil, Environmental and Geomatic Engineering(土木、环境与测绘工程系)
本研究揭示准线性激活的因果CNN在处理多模态频率时间序列时等效于FIR滤波器,可简化为单层最小二乘优化滤波器,在模拟与真实振动数据上验证了其对物理系统建模的价值。
2025-10-28 cs.LG
Linking convolutional kernel size to generalization bias in face analysis CNNs
Rice University(莱斯大学);Yale University(耶鲁大学);Houston University(休斯顿大学)
本文提出一个因果框架,通过干预卷积核大小这一架构超参数,研究其对人脸分析CNN在不同子群体上分布外泛化偏置的影响,发现即使数据集平衡,修改核大小也会显著改变特征频率内容并导致有偏泛化。
2023-12-03 cs.CV cs.LG stat.ME
Wireless Interference Identification with Convolutional Neural Networks
inIT - Institute Industrial IT(工业信息技术研究所);Ostwestfalen-Lippe University of Applied Sciences(东威斯特法伦-利珀应用科学大学)
无许可证频带的使用稳步增长,需要可靠的共存管理,以确定介质的利用率。为了减轻干扰,正确的无线干扰识别(WII)是必不可少的。在这项工作中,我们提出了第一个基于深度卷积神经网络(CNN)的WII方法。CNN在广泛的数据驱动的基于GPU的训练过程中通过自我优化来天真地学习其特征。我们提出了一个CNN示例,该示例基于具有12.8 μs有限持续时间和10 MHz采集带宽的感测快照。CNN在15个类之间不同。它们表示IEEE 802.11 b/g、IEEE 802.15.4和IEEE 802.15.1的分组传输,其中在2.4 GHz ISM频带内具有重叠的频率信道。我们表明,CNN优于国家的最先进的WII方法,并具有大于95%的信噪比至少为-5 dB的分类精度。
2017-03-02 cs.CV cs.LG
Exploring spectro-temporal features in end-to-end convolutional neural networks
University of Toronto(多伦多大学);Vector Institute(向量研究所)
三角形重叠梅尔缩放滤波器(“f组”)是用于利用其输入的时间-频率几何形状的声学模型的当前标准输入,因为它们为语音信号提供心理声学激励的时间-频率几何形状。F-银行的系数是可证明的规模小变形的鲁棒性。在本文中,我们探讨了两种方法,其中滤波器组可以调整为目的的语音识别。首先,三角形滤波器可以用Gabor滤波器(一种更好地定位时间事件的compatible支持的滤波器)或Gammatone滤波器(一种心理声学驱动的滤波器)来代替。其次,通过重新安排计算滤波器组特征的操作顺序,可以在较小的时间尺度上对特征进行积分,同时提供更好的频率分辨率。我们通过开源存储库在线提供所有功能实现。使用现代端到端CNN电话识别器的初始实验由于任何一种修改都没有产生电话出错率的显著改善。结果,其后果与学习滤波器组,进行了讨论。
2019-01-01 cs.CL cs.LG cs.SD
Convolutional Neural Networks and Mixture of Experts for Intrusion Detection in 5G Networks and beyond
Decision Support Systems Laboratory, School of Electrical and Computer Engineering, National Technical University of Athens(决策支持系统实验室,电气与计算机工程学院,国家技术大学雅典)
本文提出结合CNN与稀疏门控MoE的5G及未来网络入侵检测方法,在真实5G-NIDD数据集上加权F1分数达99.95%。
2025-05-15 cs.LG
FAConformer: Frequency-Aware Convolutional Transformer for Auditory Attention Decoding
Hubei Key Laboratory of Brain-inspired Intelligent Systems, School of Artificial Intelligence and Automation, Huazhong University of Science and Technology(湖北脑启发智能系统重点实验室,人工智能与自动化学院,华中科技大学)
提出FAConformer框架,通过频带特定编码和自适应跨频带交互,有效利用脑电图频域信息进行听觉注意解码,在公开数据集上超越现有最佳模型4.9%。
2026-06-15 cs.AI cs.LG cs.SD
Sample-level Deep Convolutional Neural Networks for Music Auto-tagging Using Raw Waveforms
Korea Advanced Institute of Science and Technology (KAIST)(韩国科学技术院)
最近,使用深度卷积神经网络从原始数据中学习分层表示的端到端方法已经在图像、文本和语音领域得到了成功的探索。这种方法也被应用于音乐信号,但尚未完全探索。为此,我们提出了样本级深度卷积神经网络,它从非常小的波形颗粒(例如2或3个样本)中学习表示,而不是典型的帧级输入表示。我们的实验展示了具有样本级过滤器的深度架构如何提高音乐自动标记的准确性,并且它们提供的结果与Magnatagatune数据集和Million Song数据集之前的最先进性能相当。此外,我们将在每一层的样本级DCNN中学习的滤波器可视化,以识别分层学习的特征,并表明它们对沿层的对数缩放频率敏感,例如广泛用于音乐分类系统的梅尔频谱图。
2017-05-22 cs.LG cs.MM cs.NE
Robust Mid-Pass Filtering Graph Convolutional Networks
Southwest Petroleum University(西南石油大学);Microsoft Research Asia(微软亚洲研究院)
图卷积网络(GCN)是目前处理图结构数据最有前途的范例,但最近的研究也表明GCN容易受到对抗攻击的攻击。因此,开发对此类攻击具有鲁棒性的GCN模型成为一个热门的研究课题。然而,基于结构净化学习或鲁棒性约束的GCN防御方法通常是针对特定的数据或攻击而设计的,并且引入了非分类的额外目标。在其设计中还需要额外的培训开销。为了解决这些问题,我们对图上的中频信号进行了深入的探索,并提出了一种简单而有效的中频滤波器GCN(Mid-GCN)。理论分析保证了信号通过中通滤波器的鲁棒性,并揭示了不同频率信号在对抗攻击下的特性。在六个基准图数据上的大量实验进一步验证了我们设计的Mid-GCN在各种对抗攻击策略下与最先进的GCN相比在节点分类准确性方面的有效性。
2023-02-16 cs.CR cs.LG
Beyond the Smile: A Hybrid Convolutional VAE for Crypto Volatility Surfaces
Jasper Research, USA(Jasper Research(美国))
提出混合卷积VAE结合二次微笑重拟合的预测器,在BTC和ETH期权数据上实现低RMSE,显著优于纯参数化方法,并消除日历和蝶式套利。
2026-06-16 cs.LG q-fin.CP
Short-term Hourly Streamflow Prediction with Graph Convolutional GRU Networks
The University of Iowa(爱荷华大学)
由于气候变化,洪水的频率和影响预计将增加。预测径流量以及洪水,以便准备和减轻其在财产损失和人员伤亡方面的后果,这一点至关重要。本文提出了一种基于图卷积GRUs的模型来预测未来36小时的径流传感器位置使用上游河流网络。实验结果表明,在短期径流预测中,本研究中提出的模型提供了更好的性能比持久性基线和卷积双向GRU网络为选定的研究区域。
2021-07-07 cs.LG eess.SP