Deep Recurrent Convolutional Neural Network: Improving Performance For Speech Recognition
China University of Political Science and Law（中国政法大学）；Institute of High Performance Computing（高性能计算研究所）
深度学习方法已广泛应用于序列建模问题。在自动语音识别（ASR）方面，通过增加大规模语音语料库和更深层次的神经网络，其性能得到了显著提升。特别是递归神经网络和深度卷积神经网络已经成功地应用于ASR。针对训练速度问题，本文提出了一种新的深度递归卷积网络用于声学建模，并将深度残差学习应用于其中，实验结果表明，与传统的深度递归卷积网络相比，它不仅具有更快的收敛速度，而且具有更高的识别精度。在实验中，我们比较了我们的新型深度递归卷积网络和传统深度卷积递归网络的收敛速度。凭借更快的收敛速度，我们的新型深度递归卷积网络可以达到相当的性能。我们进一步证明，应用深度残差学习可以提高我们新型深度递归卷积网络的收敛速度。最后，我们用我们提出的双向统计n-gram语言模型通过音素出错率（PER）来评估我们所有的实验网络。我们的评估结果表明，我们新提出的应用深度残余学习的深度递归卷积网络在TIMIT数据库上可以达到17.33%的最佳PER，并且收敛速度最快。具有深度残差学习的新型深度递归卷积神经网络的出色性能表明，它可以潜在地应用于其他序列问题。
2016-12-27 cs.CL cs.LG
Constrained Convolutional-Recurrent Networks to Improve Speech Quality with Low Impact on Recognition Accuracy
Microsoft Research Redmond（微软研究院雷德蒙德分院）；Univ. of Texas at Arlington（德克萨斯大学阿灵顿分校）
对于语音增强算法，同时提高感知质量和识别率是非常期望的。由于计算成本和模型复杂性，训练一个同时有效优化两个指标的模型是具有挑战性的。在本文中，我们提出了一种语音增强的方法，结合本地和全球的上下文结构信息，通过卷积递归神经网络，提高感知质量。同时，我们引入了一个新的约束的目标函数使用的语言模型/解码器，限制了识别率的影响。基于真实用户数据进行的实验，我们证明，我们的新的上下文增强的机器学习方法的语音增强提高PESQ和WER分别由额外的24.5%和51.3%，相比，在文献中表现最好的方法。
2018-02-16 cs.LG
Spatial-Temporal Graph Convolutional Gated Recurrent Network for Traffic Forecasting
Nanjing University（南京大学）
交通预测作为智能交通系统的重要组成部分，引起了学术界和工业界的极大关注。尽管人们提出了许多交通预测方法，但对复杂的时空相关性建模仍然是一个难题。时间依赖包括短期依赖和长期依赖，后者往往被忽视。空间依赖可以分为基于距离的空间依赖和隐藏的空间依赖。为了模拟复杂的时空依赖性，我们提出了一种新的框架，称为时空图卷积门递归网络（STGCGRN）的流量预测。我们设计了一个注意力模块，通过挖掘流量数据中的周期性信息来捕获长期依赖。本文提出了一种双图卷积门控递归单元（DGCGRU），它将图卷积网络和GRU相结合，来捕获空间依赖性。图卷积部分分别用基于距离的预定义邻接矩阵和自适应邻接矩阵对基于距离的空间依赖和隐藏的空间依赖进行建模。特别地，我们采用多头机制来捕获多个隐藏的依赖关系。此外，每个预测节点的周期模式可能不同，这往往被忽略，导致在建模空间依赖性时节点之间的周期信息相互干扰。为此，我们探索了模型的体系结构，并提高了性能。在四个数据集上的实验证明了该模型的优越性能。
2022-10-06 cs.LG
Convolutional Recurrent Neural Networks for Electrocardiogram Classification
Dept. IT & EE ETH Zurich（苏黎世联邦理工学院信息与电气工程系）；Switzerland（瑞士（注：此处Switzerland为国家名，非机构，原HTML中该字段可能为作者地址的一部分，按要求不应提取，但根据文本结构，“Dept. IT & EE ETH Zurich”明确为机构，“Switzerland”为国家，非机构，故仅提取前者））
我们提出了两种用于任意长度心电图（ECG）记录分类的深度神经网络架构，并在PhysioNet/CinC Challenge 2017提供的房颤（AF）分类数据集上对其进行了评估。第一种架构是深度卷积神经网络（CNN），具有跨时间的基于平均的特征聚合。第二种架构将用于特征提取的卷积层与用于特征的时间聚合的长短期记忆（LSTM）层相结合。作为我们训练过程的一个关键组成部分，我们引入了一个简单的ECG数据数据增强方案，并证明了其在AF分类任务中的有效性。发现第二种架构优于第一种架构，在隐藏挑战测试集上获得了$82.1$ %的$F_1$分数。
2018-04-09 cs.LG
Gated Graph Convolutional Recurrent Neural Networks
Univ. of Pennsylvania（宾夕法尼亚大学）
图过程模拟了许多重要的问题，如识别地震震中或预测天气。在本文中，我们提出了一个图卷积递归神经网络（GCRNN）架构专门针对这些问题。GCRNN使用卷积滤波器组来保持可训练参数的数量与图的大小和所考虑的时间序列无关。我们还提出了Gated GCRNN，GCRNN的时间门控变体，类似于LSTM。在使用合成和真实数据的实验中，与GNN和另一种图递归架构相比，GCRNN在使用相当少的参数的同时显着提高了性能。
2019-06-27 cs.LG stat.ML
Channel-Wise MLPs Improve the Generalization of Recurrent Convolutional Networks
Nathan Breslow（独立研究者）
研究通过MLPs进行通道级混合以提升循环卷积网络泛化能力，提出DAMP架构并在Re-ARC基准上显著优于DARC，证明显式通道混合能学习更鲁棒的计算模式，对神经程序综合和超网络方法具启示意义。
2025-08-06 cs.AI cs.LG
An Empirical Evaluation of Generic Convolutional and Recurrent Networks for Sequence Modeling
Carnegie Mellon University（卡内基梅隆大学）；Intel Labs（英特尔实验室）
对于大多数深度学习从业者来说，序列建模是递归网络的同义词。然而，最近的结果表明，卷积架构在音频合成和机器翻译等任务上的表现优于递归网络。给定一个新的序列建模任务或数据集，应该使用哪种架构？我们对序列建模的通用卷积和递归架构进行了系统的评估。这些模型在广泛的标准任务中进行评估，这些任务通常用于对经常性网络进行基准测试。我们的研究结果表明，简单的卷积架构在各种任务和数据集上的性能优于LSTM等典型的递归网络，同时表现出更长的有效内存。我们的结论是，应该重新考虑序列建模和递归网络之间的共同联系，卷积网络应该被视为序列建模任务的自然起点。为了协助相关工作，我们在http://github.com/locuslab/TCN上提供了代码。
2018-04-19 cs.AI cs.CL cs.LG
Sequential Convolutional Recurrent Neural Networks for Fast Automatic Modulation Classification
Science and Technology on Electronic Information Control Laboratory（电子信息控制科技实验室）
针对无线频谱监测应用，提出了一种新型高效的自动调制分类端到端学习模型，该模型能够从时域同相和正交数据中自动学习，无需手工设计专家特征。利用卷积层的直觉，池化作为前端特征提取和降维的作用，开发了顺序卷积递归神经网络，以利用卷积神经网络的并行计算能力和递归神经网络的时间敏感性。实验结果表明，该结构在信噪比大于-10 dB的范围内具有较好的分类性能，在高信噪比范围内，分类准确率从80%提高到92.1%，同时平均训练时间和预测时间分别减少了约74%和67%.通过所提出的架构学习的响应模式被可视化，以更好地理解模型的物理特性。此外，进行了比较研究，以调查各种顺序卷积递归神经网络结构设置对分类性能的影响。一个具有代表性的顺序卷积递归神经网络架构的两层卷积神经网络和随后的两层长短期记忆神经网络的开发建议的选择快速自动调制分类。
2021-01-20 cs.LG eess.SP
Differentiable Mask for Pruning Convolutional and Recurrent Networks
Huawei Noah’s Ark Lab（华为诺亚方舟实验室）
剪枝是最有效的模型降阶技术之一。深度网络需要大量的计算，这些模型需要压缩才能在边缘设备上使用。大多数现有的修剪技术都集中在基于视觉的模型上，如卷积网络，而基于文本的模型仍在不断发展。多模态多任务学习的出现需要一种通用的方法，同时适用于视觉和文本架构。我们引入了一个\emph{differentiable mask}，诱导稀疏的各种粒度，以填补这一空白。我们成功地将我们的方法应用于修剪权重，滤波器，卷积架构的子网络以及递归网络的节点。
2020-04-29 cs.LG stat.ML
Structured Sequence Modeling with Graph Convolutional Recurrent Networks
EPFL（洛桑联邦理工学院）
本文介绍了图卷积递归网络（GCRN），这是一种能够预测结构化数据序列的深度学习模型。准确地说，GCRN是经典递归神经网络（RNN）对由任意图结构化的数据的推广。这样的结构化序列可以表示视频中的一系列帧、传感器网络上的时空测量、或用于自然语言建模的词汇图上的随机游动。该模型结合了图上的卷积神经网络（CNN）来识别空间结构，并结合了RNN来寻找动态模式。我们研究了GCRN的两种可能的架构，并将模型应用于两个实际问题：预测移动MNIST数据，并使用Penn Treebank数据集对自然语言进行建模。实验表明，同时利用图的空间和动态信息的数据可以提高精度和学习速度。
2016-12-22 cs.LG stat.ML
ECG Classification with a Convolutional Recurrent Neural Network
Swiss Center for Electronics and Microtechnology (CSEM)（瑞士电子与微技术中心）
我们开发了一个卷积循环神经网络来对12导联ECG信号进行分类，以应对2020年心脏病学生理网络/计算的挑战。该模型结合了卷积层和递归层，以ECG信号的滑动窗口作为输入，并产生每个类别的概率作为输出。卷积部分从每个滑动窗口提取特征。双向门控递归单元（GRU）层和注意力层将来自所有窗口的这些特征聚合到单个特征向量中。最后，密集层输出类概率。最后的决定是使用测试时间增加（TTA）和优化的决策阈值。我们的架构的几个超参数进行了优化，其中最重要的是优化器的选择和每个卷积层的过滤器数量。我们的网络在隐藏验证集上的挑战得分为0.511，在完整隐藏测试集上的挑战得分为0.167，在官方排名中，我们在41个网络中排名第23位。
2020-10-06 cs.LG eess.SP
Densely Connected Recurrent Residual (Dense R2UNet) Convolutional Neural Network for Segmentation of Lung CT Images
Washington University School of Medicine（华盛顿大学医学院）
深度学习网络已经为语义分割提供了最先进的性能。这些技术被广泛应用于医学检测、分割和分类。基于U-Net的架构的出现对于该应用已经变得特别流行。本文提出了基于U-Net模型结构的递归残差卷积神经网络（Dense R2 U CNN），它是递归CNN、残差网络和稠密卷积网络的综合。残差单元有助于训练更深的网络，而密集的递归层增强了分割所需的特征传播。在基准肺部病变数据集上测试的所提出的模型在分割任务上表现出比其等效模型更好的性能。
2021-02-01 cs.CV cs.LG eess.IV
Stacked Convolutional and Recurrent Neural Networks for Bird Audio Detection
Tampere University of Technology（坦佩雷理工大学）
本文研究了使用层叠卷积和循环神经网络检测音频片段中的鸟叫声。提出了通过块混合和领域自适应的数据增强，并评估了该方法对未知数据的鲁棒性。研究了两种声学特征（主频和对数梅尔带能量）及其组合在鸟类音频检测中的贡献。我们在开发数据的五次交叉验证中实现的最佳AUC测量值为95.5%，在看不见的评估数据中为88.1%。
2017-06-07 cs.LG cs.SD
Convolutional Recurrent Neural Networks for Polyphonic Sound Event Detection
Tampere University of Technology (TUT)（坦佩雷理工大学）
声音事件通常发生在非结构化的环境中，它们在频率内容和时间结构上表现出广泛的变化。卷积神经网络（CNN）能够提取对局部光谱和时间变化不变的更高级别的特征。循环神经网络（RNN）在学习音频信号中的较长期时间上下文方面是强大的。CNN和RNN作为分类器，最近在各种声音识别任务中表现出比现有方法更好的性能。我们结合这两种方法在卷积递归神经网络（CRNN），并将其应用于复音声音事件检测任务。我们比较了所提出的CRNN方法与CNN，RNN和其他已建立的方法的性能，并观察到由日常声音事件组成的四个不同数据集的相当大的改进。
2017-02-21 cs.LG cs.SD
CRNNTL: convolutional recurrent neural network and transfer learning for QSAR modelling
West China Hospital, Sichuan University（四川大学华西医院）；University of Gothenburg（哥德堡大学）
在这项研究中，我们提出了卷积循环神经网络和迁移学习（CRNNTL）的QSAR建模。该方法的灵感来自复音检测和心电图分类的应用。我们的策略利用卷积和递归神经网络进行特征提取，以及数据增强方法。在此，CRNNTL在20个基准数据集上与基线方法进行了比较。此外，一个异构体为基础的数据集被用来阐明其能力的局部和全局特征提取。然后，CRNNTL的知识转移性能进行了测试，特别是对小的生物活性数据集。最后，从其他类型的AE不同的潜在表示被用于我们的模型的通用性研究。实验结果表明，CRNNTL使用不同的潜在表示的有效性。此外，考虑到不同靶标之间的结合位点相似性，实现了有效的知识转移以克服数据稀缺性。
2021-09-07 cs.LG q-bio.QM
Deep Gated Recurrent and Convolutional Network Hybrid Model for Univariate Time Series Classification
用于时间序列分类的混合LSTM-全卷积网络（LSTM-FCN）在单变量时间序列上产生了最先进的分类结果。我们证明，用门控递归单元（GRU）替换LSTM来创建GRU-全卷积网络混合模型（GRU-FCN）可以在许多时间序列数据集上提供更好的性能。所提出的GRU-FCN模型在许多单变量和多变量时间序列数据集上的分类性能优于最先进的分类性能。此外，由于GRU使用比LSTM更简单的架构，因此与基于LSTM的模型相比，它具有更少的训练参数，更少的训练时间和更简单的硬件实现。
2019-02-20 cs.LG stat.ML
Convolutional Recurrent Neural Networks for Bird Audio Detection
Tampere University of Technology（坦佩雷理工大学）
鸟类的声音具有独特的频谱结构，根据鸟类的种类和环境条件，可能会出现微小的频谱变化。在本文中，我们建议使用卷积循环神经网络在现实环境中进行自动鸟类音频检测。在所提出的方法中，卷积层提取高维的局部频移不变特征，而递归层捕获从短时间帧提取的特征之间的长期依赖关系。该方法在看不见的评估数据上获得了88.5%的ROC曲线下面积（AUC）得分，并在鸟类音频检测挑战赛中获得第二名。
2017-03-07 cs.LG cs.SD stat.ML
Attention-based Spatial-Temporal Graph Convolutional Recurrent Networks for Traffic Forecasting
Soochow University（苏州大学）；University of North Carolina at Greensboro（北卡罗来纳大学格林斯伯勒分校）；The Hong Kong Polytechnic University（香港理工大学）
交通量预测是交通科学和人工智能研究中最基本的问题之一。关键的挑战是有效地建模复杂的时空依赖性和现代交通数据的相关性。然而，现有的方法，不能同时准确地建模长期和短期的时间相关性，限制了他们的表达能力复杂的时空模式。本文提出了一种新的时空神经网络框架：基于注意力的时空图卷积递归网络（ASTGCRN），它由图卷积递归模块（GCRN）和全局注意力模块组成。特别是，GCRN集成了门控递归单元和自适应图卷积网络，用于动态学习图结构并捕获空间依赖性和局部时间关系。为了有效地提取全局时间依赖，设计了时间注意层，并将其实现为三个独立的模块，分别基于多头自注意、Transformer和Informer。在五个真实流量数据集上进行的大量实验表明，我们的三种模型都具有出色的预测性能，其平均MAE，RMSE和MAPE在测试数据集上均低于基线方法。
2023-02-25 cs.AI cs.LG
Stacked Convolutional and Recurrent Neural Networks for Music Emotion Recognition
Tampere University of Technology（坦佩雷理工大学）；University of Zilina（日利纳大学）
本文研究了二维情绪空间中的情感识别问题。我们提出了一种基于卷积（CNN）和循环神经网络（RNN）的方法，与相同任务的最先进方法相比，具有更少的参数。我们利用一个CNN层，然后是分别针对唤醒和效价训练的RNN的两个分支。使用“MediaEval 2015音乐中的情感”数据集对该方法进行了评估。我们实现了唤醒的RMSE为0.202，效价为0.268，这是该数据集上报告的最佳结果。
2017-06-07 cs.LG cs.SD
Applying Deep Learning to Detect Traffic Accidents in Real Time Using Spatiotemporal Sequential Data
University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
事故检测是交通安全的重要组成部分。许多道路使用者遭受交通事故，以及其后果，如延误，拥堵，空气污染等。在这项研究中，我们利用两种先进的深度学习技术，长短期记忆（LSTM）和门控循环单元（GRUs），检测芝加哥的交通事故。选择这两种技术是因为已知它们对顺序数据（即，时间序列）。完整的数据集包括241起事故和6,038起非事故案例，来自芝加哥高速公路，它包括交通时空数据，天气条件数据和拥堵状态数据。此外，由于数据集是不平衡的（即，数据集包含比事故案例多得多的非事故案例），采用合成少数过采样技术（SMOTE）。总体而言，这两个模型的表现非常好，曲线下面积（AUC）均为0.85。尽管如此，GRU模型在检测率方面的表现略好于LSTM模型。这两种模型的性能是类似的误报率。
2019-12-22 cs.LG eess.SP stat.ML
Autoregressive Convolutional Recurrent Neural Network for Univariate and Multivariate Time Series Prediction
Maastricht University（马斯特里赫特大学）
时间序列预测（单变量和多变量）是一个高复杂性的问题，因为必须在输入中检测不同的模式，从高频到低频。在本文中，我们提出了一个新的模型，利用卷积层的特征提取，一个经常性的编码器和线性自回归组件的时间序列预测。我们激励模型，我们测试和比较它对广泛使用的现有架构的基线单变量和多变量时间序列。所提出的模型似乎优于基线，在几乎每一种情况下的多变量时间序列数据集，在某些情况下，甚至有50%的改善，这表明这种混合架构在复杂的时间序列的优势。
2019-03-06 cs.LG stat.ML
Comparing recurrent and convolutional neural networks for predicting wave propagation
Imperial College London（帝国理工学院）；The University of Edinburgh（爱丁堡大学）
动力系统可以用偏微分方程来建模，数值计算在科学和工程中无处不在。在这项工作中，我们研究了递归和卷积深度神经网络架构预测表面波的性能。该系统由圣维南方程控制。我们改进了以前的方法的长期预测，同时保持推理时间在一小部分的数值模拟。我们还表明，卷积网络在这项任务中的表现至少与递归网络一样好。最后，我们通过在较长的时间范围内和不同的物理环境中进行外推来评估每个网络的泛化能力。
2020-04-20 cs.CV cs.LG stat.ML
Recurrent Convolutional Neural Networks Learn Succinct Learning Algorithms
University of Pennsylvania（宾夕法尼亚大学）；Harvard University（哈佛大学）；Microsoft Research（微软研究院）
神经网络（NN）很难有效地解决某些问题，例如学习奇偶校验，即使有简单的学习算法来解决这些问题。NN能自己发现学习算法吗？我们展示了一个NN架构，在多项式时间内，学习以及任何有效的学习算法描述一个恒定大小的程序。例如，在奇偶校验问题上，NN学习以及高斯消除，这是一种可以简洁描述的有效算法。我们的架构结合了层之间的递归权重共享和卷积权重共享，以将参数的数量减少到一个常数，即使网络本身可能有数万亿个节点。虽然在实践中，我们分析中的常数太大而没有直接意义，但我们的工作表明，递归神经网络和卷积神经网络（RCNN）的协同作用可能比单独使用更自然和强大，特别是对于简洁的参数化离散算法。
2023-01-15 cs.LG stat.ML
Convolutional Mixture Density Recurrent Neural Network for Predicting User Location with WiFi Fingerprints
使用WiFi指纹预测智能手机用户活动是近年来室内定位的流行方法。然而，这样的高维时间序列预测问题可能非常棘手。为了解决这个问题，我们提出了一种新的深度学习模型，卷积混合密度循环神经网络（CMDRNN），它结合了卷积神经网络，递归神经网络和混合密度网络的优势。在我们的模型中，CNN子模型用于检测高维输入的特征，RNN子模型用于捕获时间依赖性，MDN子模型用于预测最终输出。为了验证该方法的有效性，我们在真实数据集上进行了实验，实验结果表明了该方法的有效性。
2019-11-21 cs.LG eess.SP stat.ML
Convolutional Recurrent Neural Networks for Small-Footprint Keyword Spotting
Baidu Silicon Valley Artificial Intelligence Lab（百度硅谷人工智能实验室）
关键词识别（KWS）是人机界面的一个重要组成部分。KWS的目标是在低误报率（FA）下最大限度地提高检测精度，同时最大限度地减少占用空间、延迟和复杂性。为了实现这些目标，我们研究了卷积循环神经网络（CRNN）。受大规模最先进的语音识别系统的启发，我们结合了卷积层和递归层的优势，以利用本地结构和远程上下文。我们分析了结构参数的影响，并提出了训练策略，以提高性能。只有~ 230 k的参数，我们的CRNN模型产生可接受的低延迟，并达到97.71%的准确率在0.5 FA/小时为5 dB的信噪比。
2017-07-04 cs.AI cs.CL cs.LG
Convolutional Recurrent Neural Networks for Music Classification
Queen Mary University of London（伦敦玛丽女王大学）；New York University（纽约大学）
我们介绍了一个卷积递归神经网络（CRNN）的音乐标签。CRNN利用卷积神经网络（CNN）进行局部特征提取，并利用循环神经网络对提取的特征进行时间总结。我们将CRNN与三种用于音乐标记的CNN结构进行比较，同时控制每个样本的性能和训练时间的参数数量。总体而言，我们发现CRNN在参数数量和训练时间方面表现出很强的性能，表明其混合结构在音乐特征提取和特征摘要中的有效性。
2016-12-21 cs.LG cs.MM cs.NE
Sound Event Detection Using Spatial Features and Convolutional Recurrent Neural Network
CSC-IT Center for Science（芬兰科学信息技术中心）
提出了一种利用多通道音频中提取的低层空间特征进行声音事件检测的方法。我们扩展了卷积循环神经网络，通过在初始阶段分别从每种多通道特征中学习来处理多种多通道特征。我们表明，网络不是将每个通道的特征连接到单个特征向量中，而是在多通道音频中更好地学习声音事件，当它们作为卷的单独层呈现时。在同一网络上使用所提出的空间特征超过单声道特征，在公开可用的TUT-SED 2016数据集上获得了6.1%的绝对F分数改善，在TUT-SED 2009数据集上获得了2.7%的绝对F分数改善，该数据集大了15倍。
2017-06-07 cs.LG cs.SD
Single Channel Speech Enhancement Using Temporal Convolutional Recurrent Neural Networks
College of Computer Science, Inner Mongolian University（内蒙古大学计算机学院）；Kingsoft AI Laboratory（金山人工智能实验室）
近几十年来，基于神经网络的语音增强方法显著提高了语音增强的性能。大多数方法都是直接或间接地估计出目标语音的时频（T-F）表示，然后利用估计出的T-F表示重新合成波形。在这项工作中，我们提出了时间卷积递归网络（TCRN），这是一种端到端模型，可以直接将噪声波形映射到干净波形。结合卷积和递归神经网络的TCRN能够有效地利用短期和长期信息。Futuremore，我们提出了在前向传播过程中重复下采样和上采样语音的架构。我们表明，与现有的卷积递归网络相比，我们的模型能够提高模型的性能。未来，我们提出了几个关键技术，以稳定的训练过程。实验结果表明，我们的模型始终优于现有的语音增强方法，在语音清晰度和质量。
2020-02-02 cs.LG cs.SD eess.AS
Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting
UNSW（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；Griffith University（格里菲斯大学）
在相关的时间序列数据中建模复杂的空间和时间相关性对于理解交通动态和预测不断发展的交通系统的未来状态是必不可少的。最近的工作集中在设计复杂的图神经网络架构，以捕捉共享模式的帮助下，预定义的图。在本文中，我们认为，学习节点特定的模式是必不可少的流量预测，而预定义的图是可以避免的。为此，我们提出了两个自适应模块，以增强图卷积网络（GCN）的新功能：1）节点自适应参数学习（NAPL）模块捕捉节点特定的模式; 2）数据自适应图生成（DAGG）模块，自动推断不同的流量序列之间的相互依赖关系。我们进一步提出了一个自适应图卷积递归网络（AGCRN）自动捕获细粒度的空间和时间相关性的流量序列的基础上的两个模块和递归网络。我们在两个真实世界的流量数据集上的实验表明，AGCRN在没有预定义的空间连接图的情况下，性能明显优于最先进的算法。
2020-10-22 cs.LG stat.ML
Classification of Cardiac Arrhythmias from Single Lead ECG with a Convolutional Recurrent Neural Network
Swiss Center for Electronics and Microtechnology (CSEM)（瑞士电子与微技术中心）
虽然大多数心律失常不会立即造成伤害，但它们可能导致严重的并发症。特别是，心房纤颤，最常见的心律失常，其特征在于快速和不规则的心跳，并增加患中风的风险。为了检测这种异常的心脏状况，我们提出了一个由两个主要部分组成的系统：一个带有两个合作传感器的智能背心来收集ECG数据，一个神经网络架构来对心律进行分类。智能背心使用两个干燥的双电极来记录单导联ECG信号。然后，生物电位信号通过网关流传输到云端，在那里神经网络检测并分类心律失常。我们选择了一个结合了卷积层和递归层的架构。卷积层从ECG的滑动窗口中提取相关特征，递归层将其聚合为执行分类的最终softmax层。我们的神经网络在2017年心脏病学计算挑战的数据集上实现了87.50%的准确率。
2019-06-25 cs.LG eess.SP
Hierarchical Recurrent Filtering for Fully Convolutional DenseNets
Bosch Center for Artificial Intelligence（博世人工智能中心）；University of Bonn（波恩大学）
生成环境的鲁棒表示是学习代理的关键能力。基于深度学习的方法极大地改善了感知系统，但在具有挑战性的情况下仍然失败。这些故障通常不能基于单个图像来解决。在这项工作中，我们提出了一个参数有效的时间滤波的概念，扩展了现有的单帧分割模型，多帧工作。由此产生的经常性架构在时间上过滤表示的所有抽象层次的分层方式，同时解耦时间依赖场景表示。使用合成数据集，我们展示了我们的模型应对数据扰动的能力，并强调了递归和分层过滤的重要性。
2018-10-15 cs.CV cs.LG
Unifying Isolated and Overlapping Audio Event Detection with Multi-Label Multi-Task Convolutional Recurrent Neural Networks
University of Oxford（牛津大学）；NIHR Oxford Biomedical Research Centre（英国国家健康研究所牛津生物医学研究中心）
我们提出了一个基于卷积递归神经网络的多标签多任务框架，以统一检测孤立和重叠的音频事件。该框架利用了卷积递归神经网络架构的强大功能;卷积层学习有效的特征，更高的递归层在这些特征上执行顺序建模。此外，输出层被设计为处理任意程度的事件重叠。在循环输出序列中的每个时间步，输出三元组专用于每个感兴趣的事件类别，以联合建模事件发生和时间边界。也就是说，网络通过估计每个循环时间步长处的起始和偏移位置来联合确定该类别的事件是否发生以及何时发生。然后，我们介绍了网络训练的三个连续损失：多标签分类损失，距离估计损失和置信度损失。我们在两个数据集上表现出良好的泛化能力：ITC-Irst用于孤立音频事件检测，TUT-SED-Synthetic-2016用于重叠音频事件检测。
2019-02-18 cs.LG cs.SD eess.AS
Ubicomp Digital 2020 -- Handwriting classification using a convolutional recurrent network
来自STABILO的Ubicomp Digital 2020 - Time Series Classification Challenge是关于多变量时间序列分类的挑战。这些数据收集自100名志愿者，包含15个由多个传感器测量的特征。在本文中，我们使用一个神经网络的数据分类成52类，即阿拉伯字母的小写和大写。所提出的神经网络a的架构是CNN-LSTM网络。它将卷积神经网络（CNN）用于短期上下文，同时将短期记忆层（LSTM）用于长期依赖性。我们达到了68%的准确率在我们的作家独家测试集和64.6%的盲挑战测试集，导致第二位。
2020-08-03 cs.CV cs.LG
Convolutional-Recurrent Neural Networks for Speech Enhancement
Microsoft Research（微软研究院）
我们提出了一种基于卷积和循环神经网络的端到端语音增强模型。我们的模型纯粹是数据驱动的，不对噪声的类型或平稳性做任何假设。与使用多层感知器（MLP）的现有方法相比，我们采用卷积和递归神经网络架构。因此，我们的方法使我们能够利用频域和时间域中的局部结构。通过将语音信号的先验知识结合到模型结构的设计中，我们建立了一个模型，该模型具有更高的数据效率，并且对可见和不可见的噪声都具有更好的泛化能力。基于对合成数据的实验，我们证明了我们的模型优于现有的方法，在可见噪声和不可见噪声上分别将PESQ提高了0.6和0.64。
2018-05-02 cs.CL cs.LG cs.SD
Real-Time Cardiac Cine MRI with Residual Convolutional Recurrent Neural Network
United Imaging Intelligence（联影智能）；UIH America, Inc.（联影美国公司）
实时心脏电影MRI在数据采集中不需要心电门控，对于不能屏气或心律异常的患者更有用。然而，为了实现快速图像采集，实时电影通常采集高度欠采样的数据，这对MRI图像重建提出了重大挑战。我们提出了一种用于实时心脏电影重建的残差卷积RNN。据我们所知，这是第一个将深度学习方法应用于笛卡尔实时心脏电影重建的工作。根据放射科医生的评估，我们的深度学习模型显示出优于压缩感知的性能。
2020-08-20 cs.LG eess.IV
Convolutional unitary or orthogonal recurrent neural networks
Rockefeller University（洛克菲勒大学）
循环神经网络非常强大，但很难训练。他们的问题之一是消失梯度问题，即训练信号的传播可能会呈指数衰减，冻结训练。已经提出使用正交或酉矩阵来缓解这个问题，其功率既不爆炸也不衰减，但是它们的计算费用阻碍了它们的使用。在这里，我们证明了在卷积RNN的特定情况下，我们可以定义一个卷积指数，并且这个操作将反对称或反厄米卷积核转换为正交或酉卷积核。我们明确推导出基于FFT的算法来计算内核及其衍生物。因此，对正交变换的该子空间进行参数化的计算复杂性与网络的迭代相同。
2023-02-14 cond-mat.stat-mech cs.AI cs.LG
Localization, Detection and Tracking of Multiple Moving Sound Sources with a Convolutional Recurrent Neural Network
Tampere University（坦佩雷大学）
本文研究了联合定位，检测和跟踪的声音事件使用卷积循环神经网络（CRNN）。我们使用CRNN先前提出的固定源的定位和检测，并表明，经常性的层，使运动源的空间跟踪时，训练与动态场景。CRNN的跟踪性能进行了比较，一个独立的跟踪方法，结合了多源（DOA）估计和粒子滤波。他们各自的性能进行评估，在各种声学条件下，如消声和混响的情况下，固定和移动源在几个角速度，并与不同数量的重叠源。结果表明，CRNN设法跟踪多个源更一致的声学场景比参数的方法，但在较高的定位误差的成本。
2019-04-29 cs.LG cs.SD eess.AS
Automatic Music Highlight Extraction using Convolutional Recurrent Attention Networks
Clova AI Research（Clova人工智能研究院）；NAVER Corp.（NAVER公司）；Hong Kong University of Science and Technology（香港科技大学）
音乐集锦是音乐服务的宝贵内容。大多数方法集中在低电平信号特征。我们提出了一种使用卷积递归注意力网络（CRAN）的高级特征提取高光的方法。CRAN利用卷积和递归层进行顺序学习，并具有注意力机制。注意力允许CRAN捕获重要的片段以区分流派，从而被用作高级功能。CRAN在两个月内对韩国32，000多首流行曲目进行了评估。实验结果表明，通过定量和定性评估，我们的方法优于三种基线方法。此外，我们还分析了注意和序列信息对绩效的影响。
2017-12-16 cs.LG cs.MM cs.SD
Detecting Driver's Distraction using Long-term Recurrent Convolutional Network
Monash University（莫纳什大学）；Emotiv Research（Emotiv研究院）
在这项研究中，我们展示了一种新的脑机接口（BCI）的方法来检测驾驶员分心事件，以提高道路安全。我们使用一种商用无线耳机，它可以从大脑中产生EEG信号。我们从参与者那里收集了真实的EEG信号，这些参与者进行了40分钟的驾驶模拟，并被要求在驾驶时执行不同的任务。这些信号被分割成短窗口，并使用时间序列分类（TSC）模型进行标记。我们研究了不同的TSC方法，并设计了一个长期递归卷积网络（LCRN）模型。我们的研究结果表明，我们的LRCN模型在检测驾驶员分心事件方面比最先进的TSC模型表现更好。
2020-04-14 cs.LG eess.SP stat.ML
Sequential Short-Text Classification with Recurrent and Convolutional Neural Networks
MIT（麻省理工学院）
最近的方法基于人工神经网络（ANN）的短文本分类显示出可喜的成果。然而，许多短文本是按顺序出现的（例如，文档中的句子或对话中的话语），并且大多数现有的基于ANN的系统在对后续文本进行分类时不利用前面的短文本。在这项工作中，我们提出了一个基于递归神经网络和卷积神经网络的模型，它结合了前面的短文本。我们的模型在三个不同的对话行为预测数据集上实现了最先进的结果。
2016-03-12 cs.AI cs.CL cs.LG
Diffusion Convolutional Recurrent Neural Network: Data-Driven Traffic Forecasting
University of Southern California（南加州大学）；California Institute of Technology（加州理工学院）
时空预测在神经科学、气候和交通领域有着广泛的应用。交通预测是这种学习任务的一个典型例子。这项任务具有挑战性，因为（1）对道路网络的复杂空间依赖性，（2）随着道路条件变化的非线性时间动态，以及（3）长期预测的固有困难。为了解决这些挑战，我们建议将交通流建模为有向图上的扩散过程，并引入扩散卷积循环神经网络（DCRNN），这是一种用于交通预测的深度学习框架，它将交通流的空间和时间依赖性结合起来。具体来说，DCRNN使用图上的双向随机游走来捕获空间依赖性，并且使用具有预定采样的编码器-解码器架构来捕获时间依赖性。我们在两个真实世界的大规模道路网络交通数据集上评估了该框架，并观察到比最先进的基线提高了12% - 15%。
2018-02-22 cs.LG stat.ML
Can we Estimate Truck Accident Risk from Telemetric Data using Machine Learning?
Concordia University（康考迪亚大学）；Groupe Robert（罗伯特集团）
道路事故的社会成本很高，可以通过使用机器学习改进风险预测来降低。本研究调查了长途卡车上收集的遥测数据是否可用于预测与驾驶员相关的事故风险。我们使用了一家卡车运输公司提供的数据集，其中包含1，141名司机18个月的驾驶数据。我们评估了两种不同的机器学习方法来执行此任务。在第一种方法中，使用FRESH算法从时间序列数据中提取特征，然后使用随机森林来估计风险。在第二种方法中，我们使用一个卷积神经网络直接估计的风险从时间序列数据。我们发现，这两种方法都不能成功地估计这个数据集上的事故风险，尽管有许多方法上的尝试。我们讨论的困难，使用遥测数据的事故，可以解释这一负面结果的风险估计。
2020-07-17 cs.LG stat.ML
Gated recurrent units and temporal convolutional network for multilabel classification
University of Padova（帕多瓦大学）；DISI, University of Bologna（博洛尼亚大学信息学科学与工程系）；Missouri State University（密苏里州立大学）
多标签学习解决了将样本与多个类别标签相关联的问题。这项工作提出了一种新的集成方法管理多标签分类：所提出的方法的核心结合了一组门控递归单元和时间卷积神经网络训练的亚当优化方法的变体。多个亚当的变体，包括这里提出的一个新的，进行了比较和测试，这些变体是基于当前和过去的梯度之间的差异，与步长调整每个参数。所提出的神经网络方法还结合了多聚类中心（IMCC），这进一步提高了分类性能。在代表各种多标签任务的九个数据集上进行的多个实验证明了我们最佳集合的鲁棒性，该集合的性能优于最先进的集合。在实验部分中生成最佳集合的MATLAB代码将在https://github.com/LorisNanni上提供。
2022-08-23 cs.AI cs.LG
Accident Risk Prediction based on Heterogeneous Sparse Data: New Dataset and Insights
The Ohio State University（俄亥俄州立大学）
减少交通事故是一项重要的公共安全挑战，因此，在过去的几十年里，事故分析和预测一直是许多研究的主题。现有研究的主要缺点是使用覆盖范围有限的小规模数据集，依赖于广泛的数据集，不适用于实时目的。为了解决这些挑战，我们提出了一种使用易于获取但稀疏的数据进行实时交通事故预测的新解决方案。我们的解决方案依赖于深度神经网络模型（我们将其命名为DAP，用于深度事故预测）;该模型利用各种数据属性，如交通事件，天气数据，兴趣点和时间。DAP集成了多个组件，包括一个循环组件（用于时间敏感数据）、一个全连接组件（用于时间不敏感数据）和一个可训练的嵌入组件（用于捕获空间异质性）。为了填补这一数据空白，我们通过全面的数据汇集、整合和扩充过程，创建了一个名为“美国事故”的大型事故信息公开数据库。通过使用美国事故数据集，并通过在几个大城市进行广泛的实验，我们对几个基线进行了评估。我们的分析和结果表明，在预测罕见事故事件方面有了显着改进。此外，我们还展示了交通信息、时间和兴趣点数据对实时事故预测的影响。
2019-09-19 cs.DB cs.LG stat.ML
Direction of arrival estimation for multiple sound sources using convolutional recurrent neural network
Tampere University of Technology（坦佩雷理工大学）；Aalto University（阿尔托大学）
提出了一种用于多声源波达方向估计的深度神经网络。所提出的堆叠卷积和循环神经网络（DOAnet）生成空间伪谱（SPS）以及方位角和仰角的DOA估计。我们避免任何显式的特征提取步骤，通过使用所有通道的频谱图的幅度和相位作为网络的输入。建议的波达方向网进行评估，通过估计多个同时存在的源在消声，匹配和不匹配的混响条件下的波达方向。实验结果表明，该算法能够较好地估计出信源个数和波达方向，并产生较高信噪比的SPS。
2018-08-05 cs.LG cs.SD eess.AS
Recurrent Fully Convolutional Neural Networks for Multi-slice MRI Cardiac Segmentation
King's College London（伦敦国王学院）
在心脏磁共振成像中，心脏的全自动分割使得能够进行精确的结构和功能测量，例如，从左心室的短轴MR图像。在这项工作中，我们提出了一个循环的全卷积网络（RFCN），它可以从整个2D切片堆栈中学习图像表示，并能够通过内部存储单元利用切片间的空间依赖性。RFCN将解剖检测和分割结合到一个单一的架构中，该架构是端到端训练的，从而大大减少了计算时间，简化了分割管道，并有可能实现实时应用。我们使用两个数据集，包括公开的MICCAI 2009挑战数据集的RFCN的调查报告。已经在全卷积网络和深度限制玻尔兹曼机之间进行了比较，包括利用切片间空间相关性的递归版本。我们的研究表明，RFCN产生国家的最先进的结果，并可以大大提高轮廓附近的心尖的描绘。
2016-08-13 cs.CV cs.LG stat.ML
Cardiac Arrhythmia Detection from ECG with Convolutional Recurrent Neural Networks
Swiss Center for Electronics and Microtechnology (CSEM)（瑞士电子与微技术中心）
除了少数几种特殊类型，心律失常不会立即危及生命。然而，如果不适当治疗，它们可能会导致严重的并发症。特别是，以快速和不规则心跳为特征的心房颤动增加了中风的风险。我们提出了三种神经网络架构来检测单导联ECG信号中的异常节律。这些架构结合卷积层，从滑动窗口和递归层中提取与心律失常检测相关的高级特征，以在不同持续时间的信号上聚合这些特征。我们将神经网络应用于用于2017年心脏病学计算挑战的数据集，以及通过连接PhysioNet上的三个数据库构建的数据集。我们的架构在第一个数据集上实现了86.23%的准确率，与挑战赛的获奖作品相似，在第二个数据集上实现了92.02%的准确率。
2020-10-07 cs.LG eess.SP
Reinforcement Learning via Recurrent Convolutional Neural Networks
IIT Guwahati（印度理工学院古瓦哈提分校）
深度强化学习使得能够在部分可观察的环境中学习复杂任务的策略，而无需显式地学习任务的底层模型。虽然这种无模型方法取得了相当大的性能，他们往往忽略了任务的结构。为了更好地利用这种固有结构，我们使用递归卷积神经网络（RCNN）对强化学习（RL）问题进行了自然表示。我们定义了3个这样的RCNN，它们的前向传递执行有效的值迭代，在部分可观察的环境中传播状态的信念，并分别选择最佳动作。通过这些RCNN的反向传播梯度允许系统显式学习与底层MDP相关的转换模型和奖励函数，作为经典的基于模型的RL的优雅替代方案。我们评估所提出的算法在仿真中，考虑到机器人规划问题。我们证明了我们的框架能够降低重新规划的成本，学习准确的MDP模型，并最终使用学习的模型重新规划以实现接近最优的政策。
2017-01-09 cs.AI cs.LG
Recurrent Graph Convolutional Networks for Spatiotemporal Prediction of Snow Accumulation Using Airborne Radar
Lehigh University（利哈伊大学）
本文提出基于递归图卷积网络的机器学习模型，利用机载雷达数据预测特定位置的年度积雪积累，该模型优于非几何和非时间模型。
2023-06-22 cs.LG eess.SP
Murmur Detection Using Parallel Recurrent & Convolutional Neural Networks
TCS Research（塔塔咨询服务研究院）
在这篇文章中，我们提出了一种新的技术，在心音杂音的分类。我们引入了一种新的深度神经网络架构，使用基于双向长短期记忆（BiLSTM）和卷积神经网络（CNN）的递归神经网络（RNN）的并行组合来学习PCG波形中的Murmur的视觉和时间相关特性。一组声学特征被呈现给我们提出的深度神经网络，以区分Normal和Murmur类。使用5倍交叉验证在大数据集上对所提出的方法进行了评估，灵敏度和特异性分别为96 +-0.6%，100 +-0%，F1评分为98 +-0.3%。
2018-08-13 cs.LG cs.SD eess.AS
Seeing in the dark with recurrent convolutional neural networks
Harvard Medical School（哈佛医学院）
经典的卷积神经网络（cCNN）非常擅长对图像中的对象进行分类。但是，与对图像中的噪声相对鲁棒的人类视觉不同，cCNN的性能随着图像质量的下降而迅速下降。在这里，我们建议在卷积层中使用递归连接，使网络对像素噪声具有鲁棒性，例如在低光照水平下成像可能产生的噪声，从而在使用模拟噪声视频序列进行测试时显着提高其性能。我们表明，cCNN对高信噪比（SNR）的图像分类良好，但在使用低SNR图像（高噪声水平）进行测试时，很容易被卷积神经网络超越，该卷积神经网络将递归添加到卷积层，此后称为gruCNN。添加贝叶斯最优时间积分以允许cCNN集成多个图像帧仍然不匹配gruCNN性能。此外，我们还表明，在低SNR下，gruCNN（校准后）预测的概率比cCNN预测的概率具有更高的置信度。我们建议将神经网络早期阶段的周期性连接作为不完美照明条件和嘈杂环境下计算机视觉的解决方案;在夜间，雨雪期间以及其他非理想情况下自动驾驶实时视频流所面临的挑战。
2018-11-21 cs.CV cs.LG stat.ML
Predicting Aircraft Trajectories: A Deep Generative Convolutional Recurrent Neural Networks Approach
University of California, Berkeley（加州大学伯克利分校）
可靠的4D飞行器轨迹预测，无论是在实时环境中还是用于反事实分析，对航空系统的效率都很重要。为此，我们首先提出了一个高度概括的高效的基于树的匹配算法，从高保真气象数据集-风，温度和对流天气构造图像般的特征地图。然后，我们将轨迹上的轨迹点建模为条件高斯混合，其中参数将从我们提出的深度生成模型中学习，该模型是一个端到端卷积递归神经网络，由长短期记忆（LSTM）编码器网络和混合密度LSTM解码器网络组成。编码器网络将最后一个字段的飞行计划信息嵌入到固定大小的隐藏状态变量中，并馈送给解码器网络，解码器网络进一步从历史飞行轨迹中学习时空相关性，并输出高斯混合的参数。卷积层被集成到管道中，以从高维天气特征中学习表示。在推理过程中，束搜索，自适应卡尔曼滤波器，和Rauch-Tung-Striebel平滑算法被用来修剪生成的轨迹的方差。
2018-12-31 cs.LG stat.ML
Attention based Convolutional Recurrent Neural Network for Environmental Sound Classification
Shanghai Institute for Advanced Communication and Data Science（上海先进通信与数据科学研究院）；Shanghai University（上海大学）
由于声音的复杂性，环境声音分类是一个具有挑战性的问题。ESC性能在很大程度上取决于从环境声音中提取的代表性特征的有效性。然而，ESC经常遭受语义无关帧和沉默帧。为了解决这个问题，我们采用了一个框架级的注意力模型，专注于语义相关的框架和显着的框架。具体来说，我们首先提出了一个卷积循环神经网络来学习频谱-时间特征和时间相关性。然后，我们用帧级注意力机制扩展了我们的卷积RNN模型，以学习ESC的判别特征表示。实验在ESC-50和ESC-10数据集上进行。实验结果证明了该方法的有效性，并取得了国家的最先进的性能方面的分类精度。
2019-07-04 cs.LG cs.SD eess.AS
An Attention-based Recurrent Convolutional Network for Vehicle Taillight Recognition
Toyota Research Institute（丰田研究院）
汽车尾灯识别是自动驾驶的一个重要应用，特别是对汽车的意图预测和自我车辆的轨迹规划。在这项工作中，我们提出了一个端到端的深度学习框架，以识别尾灯，即后方转向和刹车信号，从图像序列。所提出的方法从卷积神经网络（CNN）开始提取空间特征，然后应用长短期记忆网络（LSTM）来学习时间依赖性。此外，我们在空间和时间域中集成了注意力模型，其中注意力模型学习选择性地关注空间和时间特征。我们的方法在UC Merced车辆后方信号数据集的准确性方面能够超越最先进的技术水平，证明了注意力模型对车辆尾灯识别的有效性。
2019-06-09 cs.CV cs.LG
