Non Commutative Convolutional Signal Models in Neural Networks: Stability to Small Deformations
University of Pennsylvania(宾夕法尼亚大学);University of California, Berkeley(加州大学伯克利分校)
该研究基于代数信号处理工具分析非交换卷积滤波器的特性,证明其对算子空间小扰动的稳定性及稳定性-选择性权衡关系,成果可应用于多种非交换神经网络架构,并通过数值实验验证结论。
2023-10-05 cs.LG
Application of Spherical Convolutional Neural Networks to Image Reconstruction and Denoising in Nuclear Medicine
Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院);University of British Columbia(不列颠哥伦比亚大学)
本研究将等变球面卷积神经网络(SCNNs)应用于核医学图像重建与去噪,解决了传统CNNs依赖大量训练数据的问题,在降低计算成本的同时提升了处理质量并减少了对训练集的依赖。
2025-01-30 cs.LG eess.IV physics.med-ph
A Differential Smoothness-based Compact-Dynamic Graph Convolutional Network for Spatiotemporal Signal Recovery
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);Hanhong College, Southwest University(西南大学含弘学院)
本文提出紧凑动态图卷积网络CDGCN,通过张量M-product统一建模时空模式,并引入差分平滑目标函数抑制噪声,在真实数据集上显著提升时空信号恢复精度。
2024-08-06 cs.LG
Graphon Pooling for Reducing Dimensionality of Signals and Convolutional Operators on Graphs
University of Pennsylvania(宾夕法尼亚大学)
本研究基于graphon理论提出三种图池化方法,实现图信号与卷积算子降维,证明其收敛性与谱结构继承性,实验显示在大降维比例下性能更优,且能减少过拟合、降低计算成本。
2023-08-23 cs.LG
Spherical CNNs
University of Amsterdam(阿姆斯特丹大学);EPFL(洛桑联邦理工学院);CIFAR(加拿大高等研究院)
卷积神经网络(CNN)已成为学习涉及2D平面图像的问题的首选方法。然而,一些最近的兴趣的问题已经创建了一个模型,可以分析球形图像的需求。例子包括无人机、机器人和自动驾驶汽车的全向视觉,分子回归问题以及全球天气和气候建模。将卷积网络应用于球面信号的平面投影注定会失败,因为这种投影引入的空间变化失真将使平移权重共享无效。在本文中,我们将介绍用于构建球形CNN的构建块。我们提出了一个定义的球面互相关,这是表达和旋转等变。球面相关性满足广义傅立叶定理,这使得我们可以使用广义(非交换)快速傅立叶变换(FFT)算法有效地计算它。我们证明了球形CNN应用于3D模型识别和原子化能量回归的计算效率,数值精度和有效性。
2018-02-25 cs.LG stat.ML
DeepSphere: Efficient spherical Convolutional Neural Network with HEALPix sampling for cosmological applications
Swiss Data Science Center (SDSC)(瑞士数据科学中心);EPFL(洛桑联邦理工学院);ETH Zurich(苏黎世联邦理工学院)
卷积神经网络(CNN)是深度学习工具箱的基石,并导致了人工智能的许多突破。这些网络大多是为常规的欧几里德域开发的,例如支持图像,音频或视频的域。由于它们的成功,基于CNN的方法在宇宙学中越来越受欢迎。宇宙学数据通常以球形映射的形式出现,这使得传统CNN的使用更加复杂。球面地图常用的像素化方案是分层等面积等纬度像素化(HEALPix)。我们提出了一个球形CNN,用于分析完整和部分HEALPix映射,我们称之为DeepSphere。球形CNN通过将球体表示为图来构造。图是通用的数据结构,可以作为连续流形的离散表示。使用基于图形的表示,我们定义了许多标准的CNN操作,如卷积和池化。由于过滤器被限制为径向的,我们的卷积与球体上的旋转等变,而DeepSphere可以保持不变或与旋转等变。这样,DeepSphere就是图CNN的一个特例,它是为球体的HEALPix采样量身定制的。这种方法在计算上比使用球面谐波执行卷积更有效。我们证明了弱透镜质量映射从两个宇宙学模型的分类问题的方法,并比较性能的CNN与两个基线分类。结果表明,DeepSphere的性能始终优于或等于这两个基线。对于高噪声水平和仅覆盖球体一小部分的数据,DeepSphere的分类精度通常比这些基线高10%。最后,我们展示了如何将学习的过滤器可视化以反思神经网络。
2019-03-26 astro-ph.CO astro-ph.IM cs.AI
Rotation-Invariant Autoencoders for Signals on Spheres
Mitsubishi Electric Research Laboratories(三菱电机研究实验室);Massachusetts Institute of Technology(麻省理工学院)
$3D$形状的全方向图像和球形表示不能用传统的2D卷积神经网络(CNN)处理,因为展开导致大的失真。使用球形和$SO(3)$卷积的快速实现,研究人员最近开发了更适合对球形图像进行分类的深度学习方法。这些新提出的卷积层自然地将卷积的概念扩展到单位球$S^2$和旋转群$SO(3)$上的函数,并且这些层与3D旋转等变。在本文中,我们考虑的问题,无监督学习的旋转不变表示的球形图像。特别是,我们精心设计了一个自动编码器架构组成的$S^2$和$SO(3)$卷积层。由于3D旋转通常是一个讨厌的因素,潜在空间被约束为对这些输入变换完全不变。由于旋转信息在潜在空间中被丢弃,我们设计了一种新的旋转不变损失函数来训练网络。在多个数据集上进行的大量实验表明,学习的表示在聚类、检索和分类应用中是有用的。
2020-12-08 cs.CV cs.LG
IRCNN$^{+}$: An Enhanced Iterative Residual Convolutional Neural Network for Non-stationary Signal Decomposition
Guangdong University of Finance and Economics(广东财经大学);Istituto di Astrofisica e Planetologia Spaziali(天体物理学与行星科学研究所);Istituto Nazionale di Geofisica e Vulcanologia(国家地球物理与火山学研究所);Georgia Institute of Technology(佐治亚理工学院);Sun Yat-sen University(中山大学)
本文提出增强型IRCNN+,利用深度学习与优化技术改进迭代残差卷积神经网络,以更稳定、低成本地实现非平稳信号的自适应分解与大规模批处理。
2024-10-24 cs.LG
EEG-based video identification using graph signal modeling and graph convolutional neural network
Yonsei University(延世大学)
本文提出了一种新的基于图信号的脑电深度学习方法及其在基于脑电的视频识别中的应用。我们提出了新的方法来有效地将EEG数据表示为图上的信号,并使用图卷积神经网络来学习它们。视频识别的实验结果表明,与现有的方法相比,所提出的方法的有效性,而观看视频时获得的脑电响应。文中还讨论了脑电信号图形化表示的有效方法。
2018-09-12 cs.LG eess.SP
Harmonic Decompositions of Convolutional Networks
CREST, ENSAE(CREST,ENSAE);University of Washington(华盛顿大学)
我们提出了一个与卷积网络相关的函数空间和平滑类的描述,使用再生核希尔伯特空间的机器。我们证明了与卷积网络相关的映射扩展为涉及类似于球谐函数的初等函数的和。这种函数分解可以与非参数统计中的函数ANOVA分解相关联。在卷积网络的功能特性的基础上,我们获得了统计界限,突出了近似误差和估计误差之间的一个有趣的权衡。
2020-11-16 cs.LG stat.ML
Convolutional Signal Propagation: A Simple Scalable Algorithm for Hypergraphs
Cisco Systems, Inc.(思科系统公司);Faculty of Nuclear Sciences and Physical Engineering, Czech Technical University in Prague(布拉格捷克技术大学核科学与物理工程学院)
本文提出了一种非参数、简单且可扩展的卷积信号传播(CSP)算法,原生支持二部图(超图),在保持低计算复杂度的同时,在多领域真实数据集的检索与分类任务上表现优异,是理想的超图基线方法。
2024-09-26 cs.LG
A Graph Convolutional Network with Signal Phasing Information for Arterial Traffic Prediction
针对现有干道交通预测方法忽略空间关系、长时域误差大的问题,提出融合信号相位空间信息的扩散卷积循环神经网络,在阿卡迪亚市交叉口实验中显著降低不同时段30分钟预测的MAPE,且鲁棒性良好。
2020-12-25 cs.LG
Spherical convolutions on molecular graphs for protein model quality assessment
处理3D对象上的信息需要对输入数据的刚体变换(特别是旋转)稳定的方法。在图像处理任务中,卷积神经网络使用旋转等变运算来实现此属性。然而,与图像相反,图通常具有不规则拓扑。这使得在这些结构上定义旋转等变卷积运算变得具有挑战性。在这项工作中,我们提出了球面图卷积网络(S-GCN),它处理以分子图表示的蛋白质的3D模型。在蛋白质分子中,单个氨基酸具有共同的拓扑元素。这使我们能够明确地将每个氨基酸与局部坐标系关联起来,并构建对图形节点之间的角度信息进行操作的旋转等变球形过滤器。在蛋白质模型质量评估问题的框架内,我们证明了所提出的球形卷积方法相比标准的消息传递方法显着提高了模型评估的质量。它也可以与最先进的方法相媲美,正如我们在结构预测临界评估(CASP)基准上所展示的那样。所提出的技术只对蛋白质3D模型的几何特征进行操作。这使得它具有通用性,并适用于任何其他几何学习任务,其中图形结构允许构建局部坐标系。
2021-01-06 cs.LG q-bio.QM
Classification of Intra-Pulse Modulation of Radar Signals by Feature Fusion Based Convolutional Neural Networks
ASELSAN A.S.(ASELSAN公司);Bilkent University(比尔肯特大学)
基于雷达发射脉冲的雷达检测和分类是电子战系统中的一个重要应用。在这项工作中,我们提出了一种新的基于深度学习的技术,可以自动识别雷达信号的脉冲内调制类型。该方法利用实测雷达信号的重分配频谱图和检测到的瞬时相位异常值,通过特殊函数进行滤波,训练多个卷积神经网络。从网络中自动提取的特征融合,以区分频率和相位调制信号。仿真结果表明,所提出的FF-CNN(基于特征融合的卷积神经网络)技术优于当前最先进的替代方案,并且易于在广泛的调制类型之间扩展。
2022-05-19 cs.LG eess.SP
Convolutional Simultaneous Sparse Approximation with Applications to RGB-NIR Image Fusion
Aalto University(阿尔托大学)
同时稀疏逼近(SSA)试图用具有相同支撑的稀疏向量来表示一组相关信号。SSA模型已被用于涉及多个相关输入信号的各种信号和图像处理应用中。本文提出了基于乘子交替方向法的卷积SSA(CSSA)算法。具体来说,我们解决了不同稀疏结构的CSSA问题和基于SSA模型的多模态数据/信号中的卷积特征学习问题。我们评估所提出的算法,将它们应用到多模态和多聚焦图像融合问题。
2022-03-18 cs.CV cs.LG
Quaternion Convolutional Neural Networks for Detection and Localization of 3D Sound Events
Sapienza University of Rome(罗马第一大学)
从四元数域中的数据学习使我们能够利用4D信号的内部依赖性,并将它们视为单个实体。其中一个非常适合四元数数据处理的模型是用三维声信号的球谐分解来表示的。在本文中,我们解决的问题,定位和检测的声音事件在空间声场中使用四元数值数据处理。特别是,我们认为一阶立体混响麦克风捕获的信号的球谐分量,并通过使用四元数卷积神经网络处理它们。实验结果表明,该方法利用了立体混响信号的相关性,从而提高了3D声音事件检测和定位的准确性。
2018-12-17 cs.LG cs.SD eess.AS
Investigating Label Noise Sensitivity of Convolutional Neural Networks for Fine Grained Audio Signal Labelling
Johannes Kepler University Linz(林茨约翰内斯·开普勒大学)
我们测量了在细粒度音频信号标记任务中由轻微未对齐的地面真实标签引起的少量系统和随机标签噪声的影响。我们选择演示这些效果的任务也称为逐帧复调转录或音符量化多f0估计,并将单声道音频信号转换为音符指示符标签序列。它将表明,即使是轻微的错位有明显的影响,证明了卷积神经网络的标签噪声的高度敏感性。其含义是明确的:当将卷积神经网络用于细粒度音频信号标记任务时,必须非常小心地确保注释具有精确的定时,并且尽可能地不受系统或随机误差的影响,即使是小的未对准也会产生明显的影响。
2018-05-28 cs.LG cs.SD eess.AS
Convolutional Filtering with RKHS Algebras
本文提出基于代数信号处理的RKHS广义卷积理论,证明任意RKHS可诱导代数卷积模型,并将其用于群、图子和欧几里得空间上的信号建模及卷积网络构建,在无人机无线覆盖预测实验中验证了其优于全连接和标准卷积算子的性能。
2025-06-01 cs.LG eess.SP
Classifying Signals on Irregular Domains via Convolutional Cluster Pooling
University of Modena and Reggio Emilia(摩德纳-雷焦艾米利亚大学)
我们提出了一种新的和层次化的方法,用于跨越固定图的信号的监督分类,反映了数据集的共享属性。为此,我们引入了一个卷积聚类池层,利用多尺度聚类,以不同的分辨率突出显示输入图上的局部连接区域。我们的建议概括了成熟的神经模型,如卷积神经网络(CNN)的不规则和复杂的域,通过开发的重量共享属性在一个面向图形的架构。在这项工作中,这样的属性是基于软分配的集群内的每个顶点的中心性。在NTU RGB+D、CIFAR-10和20 NEWS上进行的大量实验证明了所提出的方法在不同领域的图结构数据中捕获局部和全局模式的有效性。
2019-02-13 cs.LG stat.ML
QuPCG: Quantum Convolutional Neural Network for Detecting Abnormal Patterns in PCG Signals
McMaster University(麦克马斯特大学)
本文提出混合量子-经典卷积神经网络QuPCG,通过小波特征提取与自适应阈值压缩将PCG信号转为8像素图像仅需8量子比特,实现S3和杂音异常分类,测试准确率达93.33%,是QCNN在生物声学信号处理中的首次应用。
2025-11-04 cs.LG quant-ph
DeepCodec: Adaptive Sensing and Recovery via Deep Convolutional Neural Networks
Rice University(莱斯大学)
在本文中,我们开发了一种新的计算感知框架,用于感知和恢复结构化信号。当对一组代表性信号进行训练时,我们的框架学习进行欠采样测量,并使用深度卷积神经网络从其中恢复信号。换句话说,它学习从原始信号到接近最佳数量的欠采样测量的变换以及从测量到信号的逆变换。这与使用随机线性测量和凸优化或迭代算法进行信号恢复的传统压缩感测(CS)系统形成对比。我们比较我们的新框架与$\ell_1$ -最小化从相变的角度来看,并证明它优于$\ell_1$ -最小化的相变图的区域中,$\ell_1$ -最小化不能恢复的精确解。此外,我们通过实验证明了学习测量如何提高整体恢复性能,加快恢复框架的训练,并导致需要学习的参数更少。
2017-07-11 cs.LG stat.ML
Convolutional Neural Networks for Reflective Event Detection and Characterization in Fiber Optical Links Given Noisy OTDR Signals
ADVA Optical Networking SE(ADVA光网络公司);Kiel University(基尔大学)
快速、准确地检测和定位光缆故障对保证光网络的生存性和可靠性至关重要。因此,迫切需要开发一种自动和可靠的算法,用于利用由光时域反射仪(OTDR)仪器获得的遥测数据进行实时光纤故障检测和诊断。在本文中,我们提出了一种新的基于卷积神经网络(CNN)的数据驱动的方法来检测和表征的光纤反射故障给定的噪声模拟OTDR数据,其SNR(信噪比)值从0 dB到30 dB变化,结合反射事件模式。在我们的模拟中,我们实现了更高的检测能力,低误报率和更大的定位精度,即使在低信噪比值相比,传统的技术。
2022-03-19 cs.LG eess.SP
Convolutional Radio Modulation Recognition Networks
Virginia Tech(弗吉尼亚理工大学);Corgan Labs(科根实验室)
我们研究了卷积神经网络对复杂时间无线电信号域的适应性。我们比较了无线电调制分类的功效,使用天真的学习功能对使用专家功能,广泛使用的领域,今天,我们表现出显着的性能改善。我们表明,使用深度卷积神经网络对大型密集编码的时间序列进行盲时间学习是可行的,并且是这项任务的强有力的候选方法,特别是在低信噪比下。
2016-06-10 cs.CV cs.LG
Distributed Convolutional Dictionary Learning (DiCoDiLe): Pattern Discovery in Large Images and Signals
INRIA(法国国家信息与自动化研究所);Université Paris Saclay(巴黎萨克雷大学)
卷积字典学习(CDL)估计适合多维数据的移位不变基。CDL已被证明可用于图像去噪或修复,以及多元信号的模式发现。由于估计的模式可以定位在信号或图像中的任何地方,优化技术面临着在具有数百万像素或时间样本的极高维度上工作的困难,这与标准的基于块的字典学习相反。为了解决这个优化问题,这项工作提出了一个分布式和异步算法,采用本地贪婪坐标下降和异步锁定机制,不需要一个中央服务器。该算法可用于将计算分布在与编码信号的大小成线性比例的多个工作器上。实验证实了缩放特性,这使我们能够学习模式的大尺度图像从哈勃太空望远镜。
2019-01-26 cs.DC cs.LG stat.ML
FaultNet: A Deep Convolutional Neural Network for bearing fault classification
Carnegie Mellon University(卡内基梅隆大学)
生产车间中先进传感器的增加导致了数据集的收集,这些数据集可以提供对机器健康状况的重要见解。振动信号数据是机器健康状况的重要可靠指标,可以让我们更好地了解机械系统中发生的不同故障。在这项工作中,我们分析了机械系统的轴承振动信号数据,结合不同的信号处理方法,并将它们与机器学习技术相结合,以分类不同类型的轴承故障。我们还强调了使用不同的信号处理方法的重要性,并分析了它们对轴承故障检测精度的影响。除了传统的机器学习算法外,本文还提出了一种卷积神经网络FaultNet,它可以有效地确定轴承故障的类型,具有较高的准确度。这项工作的区别因素是提出了从信号中提取更多信息的通道的想法,我们将均值和中值通道堆叠到原始信号中,以提取更多有用的特征,从而以更高的精度对信号进行分类。
2021-02-02 cs.LG eess.SP
Geometric Convolutional Neural Network for Analyzing Surface-Based Neuroimaging Data
Yonsei University College of Medicine(延世大学医学院);Severance Hospital(世福兰斯医院);Yonsei University(延世大学)
然而,广泛用于二维图像的常规CNN不能直接应用于非规则几何表面,诸如皮质厚度。我们提出了几何CNN(gCNN),它处理球面上的数据表示,并在多壳网格结构中呈现模式识别。性别的分类准确率显著高于SVM和基于图像的CNN。它只使用MRI厚度数据来分类性别,但这种方法可以扩展到从其他MRI或fMRI数据中分类疾病
2017-08-02 cs.LG cs.NE
Real-Time Stress Detection via Photoplethysmogram Signals: Implementation of a Combined Continuous Wavelet Transform and Convolutional Neural Network on Resource-Constrained Microcontrollers
University of Tehran(德黑兰大学);Kettering University(凯特林大学)
本文提出将CWT与CNN结合用于腕部PPG信号压力检测,并通过剪枝和训练后量化在仅有2 MB Flash、512 KB RAM的微控制器上实现实时部署。
2024-10-14 cs.LG eess.SP
Demodulation of chaotic signals using convolutional neural network
SoftServe Inc(软服务公司);Karabuk University(卡拉比克大学);Universitas Ahmad Dahlan(艾哈迈德·达兰大学)
研究针对混沌信号解调问题,采用基于深度学习的方法,通过卷积神经网络架构对混沌逻辑映射生成信号进行解调,在特定噪声和参数条件下得出误码率,展现出能检测未在训练集的混沌模式的能力。
2026-07-21 cs.LG eess.SP
Synthesized Speech Detection Using Convolutional Transformer-Based Spectrogram Analysis
Purdue University(普渡大学)
由于虚拟助理、用于生成和修改语音信号的易于使用的工具以及远程工作实践的流行,合成语音在今天是常见的。合成语音也可以用于邪恶的目的,包括创建一个声称的语音信号,并将其归因于没有说出信号内容的人。我们需要检测语音信号是否是合成的方法。在本文中,我们分析语音信号的频谱图的形式与一个紧凑的卷积Transformer(CCT)的合成语音检测。CCT利用卷积层将感应偏置和共享权重引入网络,从而允许Transformer架构在用于训练的数据样本较少的情况下表现良好。CCT使用注意力机制来合并来自被分析信号的所有部分的信息。在真实的人类语音信号和合成的人类语音信号上训练,我们证明了我们的CCT方法成功地区分了真实的和合成的语音信号。
2022-05-03 cs.CV cs.LG cs.SD
Approximate Equivariance SO(3) Needlet Convolution
University of New South Wales(新南威尔士大学);Shanghai Jiao Tong University(上海交通大学);The University of Sydney(悉尼大学);University of Cambridge(剑桥大学)
本文提出了一种旋转群SO(3)的旋转不变针状卷积,用于提取球面信号的多尺度信息。将球面Needlet变换从$\mathbb{S}^2$推广到SO(3)群上,通过一组紧小框架算子将球面信号分解为近似的和详细的谱系数.球面信号在分解和重构过程中具有旋转不变性。基于Needlet变换,我们形成了具有多个SO(3)Needlet卷积层的Needlet近似等方差球面CNN(NES)。该网络为提取球形信号的几何不变特征提供了有力的工具。该模型允许足够的网络可扩展性与多分辨率表示。利用小波收缩激活函数学习鲁棒信号嵌入,在保持近似旋转不变性的同时滤除冗余高通表示。NES在量子化学回归和宇宙微波背景(CMB)去透镜重建方面实现了最先进的性能,这在解决高分辨率和多尺度球形信号表示的科学挑战方面显示出巨大的潜力。
2022-06-17 cs.AI cs.LG eess.IV
EEG multipurpose eye blink detector using convolutional neural network
IFSP - Federal Institute of Education, Science and Technology of São Paulo(圣保罗联邦教育、科学与技术学院(IFSP));University of São Paulo - USP(圣保罗大学(USP));Quickium technology(Quickium科技公司)
由于眼动所发出的电信号与传感器的距离很近,且发生频率很高,因此会对脑电信号产生很强的伪影。在检测EEG波形中的眨眼伪影以进一步去除和信号净化的背景下,文献中提出了多种策略。最常用的方法需要使用大量的电极,复杂的设备,用于采样和处理数据。本文的目标是提出一种可靠的、独立于用户的算法,用于利用卷积神经网络(CNN)检测和消除EEG信号中的眨眼。为了训练和验证,我们使用了三组公共EEG数据。所有三组样本都是在招募的受试者完成指定任务时获得的,这些任务包括在特定时刻自愿眨眼,观看视频和阅读文章。在这项研究中使用的模型能够有一个全面的理解,区分心房EEG信号与污染的信号与眨眼伪影的所有功能,而不会被过拟合的特定功能,只发生在信号注册的情况下。
2021-07-29 cs.LG q-bio.NC
FG-SSA: Features Gradient-based Signals Selection Algorithm of Linear Complexity for Convolutional Neural Networks
Nihon University(日本大学);Tokyo City University(东京都市大学)
近来,已经开发了许多用于通过多信号的时域数据进行分类的卷积神经网络(CNN)。虽然有些信号对正确分类很重要,但其他信号则不然。当不包括用于分类的重要信号的数据被作为CNN输入层时,计算、存储器和数据收集成本增加。因此,从输入层识别和消除不重要的信号是很重要的。在这项研究中,我们提出了基于特征梯度的信号选择算法(FG-SSA),它可以用来发现和去除不重要的信号进行分类,利用梯度CAM的计算过程中获得的特征梯度。当我们定义N为信号的个数时,该算法的计算复杂度为线性时间O(N),即具有较低的计算代价。我们使用OPPORTUNITY Activity Recognition数据集验证了该算法的有效性,该数据集是一个包含人类活动加速度信号的开放数据集。此外,我们检查了来自总共15个加速度信号(五个三轴传感器)的平均6.55个信号,这些信号被FG-SSA去除,同时保持高的分类泛化得分。因此,所提出的算法FG-SSA对发现和去除对基于CNN的分类不重要的信号有影响。
2023-02-23 cs.AI cs.LG eess.SP
Joint Blind Room Acoustic Characterization From Speech And Music Signals Using Convolutional Recurrent Neural Networks
Logitech Europe S.A.(罗技欧洲股份公司)
声学环境表征为声音再现创新、智能E Qing、语音增强、助听器和取证打开了大门。混响时间、清晰度和直达混响比是已经被定义为描述混响环境的声学参数。它们与语音清晰度和声音质量密切相关。如ISO 3382标准中所解释的,它们可以从称为房间脉冲响应(RIR)的房间测量中得出。然而,测量RIR需要特定的设备和播放侵入性声音。最近的音频与机器学习的结合表明,人们可以使用语音或音乐信号来盲估计这些参数。我们遵循这些进展,并提出了一个强大的端到端的方法来实现盲联合声学参数估计使用语音和/或音乐信号。我们的研究结果表明,卷积循环神经网络在这项任务中表现最好,并且在训练中包含音乐也有助于改善语音推理。
2020-10-21 cs.LG cs.SD eess.AS
Deep Convolutional Neural Network for Automated Detection of Mind Wandering using EEG Signals
University of North Texas(北德克萨斯大学)
走神是一种普遍存在的现象,它反映了注意力从与任务相关的思维转移到与任务无关的思维。有一个智能接口,可以重新定位注意力时,MW检测到由于其对性能和生产力的不利影响的需要。在本文中,我们提出了一个深度学习模型,用于使用脑电图(EEG)信号进行MW检测。具体来说,我们开发了一个通道式深度卷积神经网络(CNN)模型,用于对从EEG信号中提取的聚焦状态和MW的特征进行分类。这是第一项采用CNN仅使用EEG数据自动检测MW的研究。在所收集的数据集上的实验结果显示出良好的性能,准确率为91.78%,灵敏度为92.84%,特异性为90.73%。
2019-02-05 cs.HC cs.LG eess.SP
DELIMIT PyTorch - An extension for Deep Learning in Diffusion Imaging
RWTH Aachen University(亚琛工业大学)
DELIMIT是扩散成像中深度学习的框架扩展,它将基本框架PyTorch扩展到球形信号。基于几个新颖的层,深度学习可以以非常方便的方式应用于球形扩散成像数据。首先,两个球谐插值层被添加到扩展,这允许将信号从球面空间变换到球谐空间,反之亦然。此外,还引入了一个局部球形卷积层,增加了在网络中包含梯度邻域信息的可能性。此外,这些扩展也可以用于扩散信号的预处理。
2018-08-04 cs.CV cs.LG stat.ML
Software demodulation of weak radio signals using convolutional neural network
Vasyl Stefanyk Precarpathian National University(瓦西里·斯特凡尼克普里卡尔帕季国立大学);Taras Shevchenko National University of Kyiv(基辅塔拉斯·舍甫琴科国立大学)
本文提出使用深度卷积神经网络对JT65A协议传输的微弱MFSK信号进行软件解调,在-30至0 dB信噪比下验证了抗干扰性,其性能比理论极限低约1.5 dB。
2025-02-26 cs.LG eess.SP
Learning with Multigraph Convolutional Filters
University of California, Berkeley(加州大学伯克利分校);University of Pennsylvania(宾夕法尼亚大学)
在本文中,我们介绍了一种卷积架构,当信息支持多重图时,可以执行学习。利用代数信号处理(ASP)理论,提出了一种基于多重图的卷积信号处理模型(MSP)。然后,我们介绍多重图卷积神经网络(MGNNs)作为堆叠和分层结构,其中根据MSP模型处理信息。我们还开发了一个易于处理的计算MGNN中的滤波器系数的程序和一个低成本的方法来减少层之间传输的信息的维数。最后,我们通过比较MGNNs对其他学习架构的多信道通信系统的最优资源分配任务的性能。
2022-10-28 cs.LG eess.SP
Rapid Exact Signal Scanning with Deep Convolutional Neural Networks
driveU / Institute of Measurement, Control and Microtechnology, Ulm University(乌尔姆大学测量、控制与微技术研究所 / driveU);Daimler AG(戴姆勒股份公司)
介绍和分析了一个严格的制定动态的信号处理方案,旨在密集的信号扫描没有任何损失的准确性。最近提出的相关方法缺乏令人满意的分析,他们是否真的满足任何精确性约束。这是通过一个完善的滑动窗口方法的要求的准确表征得到改善。如果采用卷积神经网络,本文中开发的工具特别有益,但也可以用作更一般的框架来验证信号扫描的相关方法。所提出的理论有助于消除冗余计算,并使特殊情况下的处理不必要的,从而大大提高了效率,特别是在大规模并行处理器。这在理论上证明了在计算复杂性分析和现代并行处理器上的经验。
2017-08-02 cs.CV cs.LG cs.NE
On the Blindspots of Convolutional Networks
Technion - Israel Institute of Technology(以色列理工学院);The Interdisciplinary Center(跨学科中心)
在过去的几年里,深度卷积网络一直是各种任务的最先进方法。在许多情况下,它的成功使其成为许多领域的默认模式。在这项工作中,我们将证明卷积网络具有局限性,在某些情况下,这些局限性可能会阻碍它学习数据的属性,而这些属性很容易被传统的、要求较低的模型识别。为此,我们提出了一系列关于图像识别和文本分析任务的竞争分析研究,已知卷积网络可以提供最先进的结果。在我们的研究中,我们注入了一个揭示真相的信号,网络无法识别,从而一次又一次地击中了网络的盲点。该信号不会损害网络的现有性能,但它确实提供了一个机会,通过模型可以捕获它来显着提高性能。精心设计的各种形式的信号揭示了卷积网络的优点和缺点,这可能为研究深度架构的理论家提供见解,以及考虑将卷积网络应用于手头任务的从业者。
2018-07-08 cs.LG stat.ML
Does Sparse Connectivity Improve Generalization? Convolutional Networks Below the Edge of Stability
UC San Diego(圣迭戈大学)
研究稀疏连接在卷积网络中如何在稳定性边缘以下提升泛化能力,揭示其与数据几何和梯度下降的联合影响。
2026-05-07 cs.LG stat.ML
Hybrid Neural Representations for Spherical Data
Pohang University of Science and Technology(浦项科技大学)
本文提出球面数据混合神经表示(HNeR-S),结合球面特征网格与多层感知机,有效捕捉天气及CMB数据中的非线性细节,并在回归、超分辨率、时间插值和压缩任务中验证其有效性。
2024-02-05 cs.LG eess.SP
Motor Imagery Classification of Single-Arm Tasks Using Convolutional Neural Network based on Feature Refining
Korea University(高丽大学)
脑机接口(BCI)解码大脑信号以理解用户意图和状态。由于其简单、安全的数据采集过程,脑电图(EEG)被广泛应用于无创脑机接口。运动想象(MI)是脑电的一种范式,由于其信号来源,常用于运动功能的恢复或康复。然而,EEG信号是振荡的和非平稳的信号,这使得难以准确地收集和分类MI。在这项研究中,我们提出了一个频带功率特征细化卷积神经网络(BFR-CNN),它是由两个卷积块,以实现高的分类精度。通过采集脑电信号建立包含单臂运动想象的MI数据集,该模型在4类MI任务分类中优于传统方法。因此,我们证明了使用BFR-CNN仅使用具有鲁棒性能的EEG信号就可以解码用户意图。
2020-02-04 cs.HC cs.LG eess.SP
CRED: A Deep Residual Network of Convolutional and Recurrent Units for Earthquake Signal Detection
Stanford University(斯坦福大学)
地震信号检测是观测地震学的核心。一个好的检测算法应该对具有各种波形形状的小事件和弱事件敏感,对背景噪声和非地震信号鲁棒,并且对处理大数据量有效。在这里,我们介绍Cnn-Rnn地震探测器(CRED),这是一种基于深度神经网络的探测器。该网络在残差结构中使用卷积层和双向长短期记忆单元的组合。它从单台记录的三分量数据中学习地震信号中主相的时频特征。我们使用在北加州记录的50万个地震图(25万与构造地震相关,25万被识别为噪声)对网络进行训练,并以99.95的F分数对其进行测试。训练模型的鲁棒性相对于噪声水平和非地震信号示出通过将其应用到一组半合成信号。该模型被应用到一个月的连续数据记录在阿肯色州中部,以证明其效率,泛化和灵敏度。我们的模型能够检测到远离训练区域的水力压裂过程中诱发的700多次小至-1.3 ML的微地震。该模型的性能进行了比较STA/LTA,模板匹配,FAST算法。我们的研究结果表明,有效和可靠的性能CRED。该框架在降低检测阈值的同时最小化假阳性检测率方面具有很大的前景。
2018-10-03 cs.LG stat.ML
Group Invariance, Stability to Deformations, and Complexity of Deep Convolutional Representations
Univ. Grenoble Alpes(格勒诺布尔阿尔卑斯大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Grenoble INP(格勒诺布尔国立理工学院)
深度卷积架构的成功通常部分归功于它们学习自然信号的多尺度和不变表示的能力。然而,对这些属性以及它们如何影响学习保证的精确研究仍然缺失。在本文中,我们考虑信号的深度卷积表示;我们研究它们对平移和更一般的变换群的不变性,它们对反同态作用的稳定性,以及它们保存信号信息的能力。通过引入基于卷积核网络的多层核并通过研究核映射引起的几何形状来进行这种分析。然后,我们描述了相应的再生核希尔伯特空间(RKHS),表明它包含一个大类的卷积神经网络具有齐次激活函数。这种分析使我们能够将数据表示与学习分开,并提供模型复杂性的规范度量,即RKHS范数,它控制任何学习模型的稳定性和泛化。除了在构建的RKHS模型,我们的稳定性分析也适用于卷积网络与一般的激活,如整流线性单元,我们讨论了它与最近的泛化界的基础上谱范数的关系。
2018-10-10 cs.LG stat.ML
Digital Signal Analysis based on Convolutional Neural Networks for Active Target Time Projection Chambers
Universidade de São Paulo(圣保罗大学)
本文提出了一种利用卷积神经网络(CNN)进行数字信号分析的算法。该算法的主要目的是使分析的实验与主动靶时间投影室更有效。该代码分为三个步骤:基线校正,信号反卷积和峰值检测和积分。CNN能够学习信号处理模型,相对误差小于6%。基于CNN的分析提供了与传统反卷积算法相同的结果,但在计算时间方面效率更高(大约快65倍)。这开辟了新的可能性,以改善现有的代码,并简化分析的大量数据中产生的主动目标实验。
2022-02-14 cs.LG eess.SP nucl-ex
Scattering Networks on the Sphere for Scalable and Rotationally Equivariant Spherical CNNs
Kagenova Limited(Kagenova 有限公司)
在球面上构造的卷积神经网络(CNN)最近得到了发展,并被证明是非常有效的球形数据的分析。虽然已经制定了一个有效的框架,但球形CNN的计算要求很高;通常它们不能扩展到数千像素的球形信号之外。我们开发了在球体上原生构建的散射网络,为球形数据提供了一个强大的代表性空间。球形散射网络是计算可扩展的,并表现出旋转等变性,而它们的代表空间是不变的等距,并提供有效和稳定的信号表示。通过将散射网络作为一种附加类型的层集成到广义球形CNN框架中,我们展示了如何利用它们将球形CNN扩展到许多实际应用中典型的高分辨率数据,其中球形信号为数千万像素及以上。
2022-01-24 astro-ph.IM cs.CV cs.LG
Beyond Low-frequency Information in Graph Convolutional Networks
Beijing University of Posts and Telecommunications(北京邮电大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
图神经网络(GNN)已被证明在各种网络相关任务中是有效的。大多数现有的GNN通常利用节点特征的低频信号,这引发了一个基本问题:低频信息是否就是我们在现实世界中所需要的全部信息?在本文中,我们首先提出了一个实验研究评估低频和高频信号的作用,结果清楚地表明,探索低频信号是远离学习有效的节点表示在不同的情况下。我们如何自适应地学习GNN中低频信息之外的更多信息?一个明智的答案可以帮助GNN增强适应性。针对这一问题,提出了一种新的频率自适应图卷积网络(FAGCN),它具有自选通机制,能够在消息传递过程中自适应地融合不同的信号。为了更深入地理解,我们从理论上分析了低频信号和高频信号对学习节点表示的作用,这进一步解释了为什么FAGCN可以在不同类型的网络上表现良好。在六个真实网络上的大量实验验证了FAGCN不仅解决了过度平滑问题,而且具有优于现有技术的优势。
2021-01-04 cs.LG cs.SI
Convolutional Neural Network Architectures for Signals Supported on Graphs
Univ. of Pennsylvania(宾夕法尼亚大学);King Juan Carlos Univ.(胡安·卡洛斯国王大学);Delft Univ. of Technology(代尔夫特理工大学)
介绍了两种将卷积神经网络(CNN)推广用于处理图上支持的信号的架构。我们从选择图神经网络(GNN)开始,它用线性移位不变图滤波器取代线性时不变滤波器来生成卷积特征,并将池化重新解释为可能的非线性子采样阶段,其中附近的节点将其信息集中在一组预选的样本节点中。该架构的一个关键组件是记住采样节点的位置,以允许在更深层计算卷积特征。第二种架构被称为聚合GNN,通过图形扩散信号,并存储指定节点观察到的扩散分量的序列。该过程有效地将所有分量聚合成具有时间结构的信息流,可以将常规CNN的卷积和池化阶段应用于该信息流。一个多节点版本的聚合GNNs进一步引入大规模图中的操作。选择和聚合GNN的一个重要属性是,当特定于被重新解释为循环图中的图信号的时间信号时,它们简化为传统的CNN。比较数值分析在合成和真实世界的网络源定位应用。还评估了作者归属问题和文本类别分类的性能。多节点聚合GNN始终是性能最佳的GNN架构。
2018-12-07 cs.AI cs.LG eess.SP
Spherical Harmonic Residual Network for Diffusion Signal Harmonization
Children’s Hospital of Philadelphia(费城儿童医院);RWTH Aachen University(亚琛工业大学);Cardiff University(卡迪夫大学)
扩散成像是神经科学领域的一种重要方法,因为它对人脑组织微结构内的变化敏感。然而,使用MRI进行定量测量时的一个主要挑战是,使用不同的扫描仪,如在多中心组研究中使用的,引入了测量变异性。这可能导致定量指标的差异增加,即使扫描的是同一个大脑。与这些特征具有可比性和相似性的假设相反,在许多临床研究中观察到这些值的微小变化,因此信号的协调至关重要。在本文中,我们提出了一种不需要额外预处理(如分割或配准)的方法,并基于深度学习残差网络协调信号。为此,需要一个训练数据库,该数据库由在不同扫描仪上扫描的相同主题组成。结果表明,与没有协调相比,协调后的信号与地面真实信号明显更相似,但与另一种深度学习方法相比也有所改善。在从扩散MRI信号导出的常用度量中也证明了相同的效果。
2018-08-05 cs.CV cs.LG
Detecting train driveshaft damages using accelerometer signals and Differential Convolutional Neural Networks
Universidad Carlos III de Madrid(马德里卡洛斯三世大学)
本文提出基于振动信号时频图与二维CNN的铁路车轴损伤检测系统,在3种轮对组件上取得0.93、0.86和0.75的AUC,优于其他方法,可分类4级缺陷。
2022-11-15 cs.LG eess.SP
Training of mixed-signal optical convolutional neural network with reduced quantization level
University of Central Florida(中佛罗里达大学)
采用模拟矩阵乘法加速器的混合信号人工神经网络(ANN)可以实现更高的速度和更高的功率效率。虽然模拟计算容易受到噪声和设备缺陷的影响,但由于人工神经网络的鲁棒性,各种模拟计算范式被认为是解决机器学习应用中不断增长的计算需求的有前途的解决方案。这种鲁棒性已经在低精度、定点ANN模型中进行了探索,这些模型已经被证明在数字计算机上成功地压缩了ANN模型的大小。然而,这些有希望的结果和网络训练算法不能轻易地迁移到模拟加速器。原因是数字计算机通常携带具有较高位宽的中间结果,尽管每个ANN层的输入和权重具有较低的位宽;而模拟中间结果具有较低的精度,类似于具有降低的量化水平的数字信号。在这里,我们报告了一种训练方法的混合信号人工神经网络与两种类型的错误,在其模拟信号,随机噪声和确定性的错误(失真)。实验结果表明,在噪声水平为理想量化步长的50%的情况下,用该方法训练的混合信号神经网络可以达到与理想量化步长相当的分类精度。我们已经在基于衍射光学的混合信号光学卷积神经网络上证明了这种训练方法。
2020-08-20 cs.LG cs.NE eess.SP
Steerable 3D Spherical Neurons
Linköping University(林雪平大学)
从低级视觉理论中出现的可操纵滤波器在可操纵卷积神经网络等变到刚性变换的先前工作中找到了对应物。在我们的工作中,我们提出了一种基于可操纵前馈学习的方法,该方法由具有球形决策表面的神经元组成,并在点云上进行操作。这种球形神经元是通过欧氏空间的共形嵌入获得的,最近在学习点集表示的上下文中被重新审视。聚焦于3D几何,我们利用球形神经元的等距属性,并推导出3D可操纵性约束。在训练球形神经元在规范方向上对点云进行分类后,我们使用四面体基对神经元进行四倍化,并构造旋转等变球形滤波器组。然后,我们应用导出的约束插值滤波器组的输出,从而获得一个旋转不变的网络。最后,我们使用合成点集和真实世界的三维骨架数据来验证我们的理论研究结果。该代码可在https://github.com/pavlo-melnyk/steerable-3d-neurons上获得。
2022-06-14 cs.CV cs.LG
Convolutional Neural Networks for Space-Time Block Coding Recognition
我们将机器学习的最新进展与深度神经网络应用于无线电调制识别、信道编码识别和频谱监测等任务。本文首先提出了一种空时分组编码信号的识别算法。对接收序列进行预处理后,采用卷积神经网络提取空分复用信号与扩频信号之间的特征。与其他算法不同,该方法不需要信道系数和噪声功率的先验信息,因此非常适合于非合作环境。实验结果表明,该算法在低信噪比下也能取得较好的效果
2020-02-12 cs.IT cs.LG eess.SP
Fault Diagnosis of Rotary Machines using Deep Convolutional Neural Network with three axis signal input
最近的趋势集中在工业4.0概念和智能制造上,数据驱动的故障诊断是基于状态的维护的关键主题。故障诊断被认为是旋转机械中的一项重要任务,因为早期检测和诊断故障状态的可能性可以节省时间和金钱。传统的数据驱动的故障诊断技术需要信号处理来进行特征提取,因为它们无法处理原始信号数据,从而导致需要专家知识和人工工作。深度学习架构在基于状态的维护中的出现有望确保高性能的故障诊断,同时降低对专家知识和人工工作的需求。本文提出了基于深度学习的旋转机械数据驱动故障诊断技术。所提出的技术将原始三轴加速度计信号作为高清图像输入到深度学习层,该层自动提取信号特征,从而实现高分类精度。
2019-10-24 cs.LG eess.SP stat.ML