Distributed Link Sparsification for Scalable Scheduling Using Graph Neural Networks
Army Research Office(陆军研究办公室)
在密集无线多跳网络中,用于吞吐量或效用最大化的分布式调度算法可能具有压倒性的高开销,导致增加的拥塞、能量消耗、无线电足迹和安全漏洞。对于具有密集连接的无线网络,我们提出了一种分布式方案,用于使用图卷积网络(GCN)进行链路稀疏化,该方案可以在保持大部分网络容量的同时减少调度开销。简而言之,可训练的GCN模块生成节点嵌入作为局部决策机制的拓扑感知和可重用参数,基于该参数,如果链路不太可能获胜,则链路可以从调度竞争中退出。在中等规模的无线网络中,我们提出的稀疏调度击败经典的基于阈值的稀疏化政策,通过保留几乎$70\%$的总容量实现了分布式贪婪的最大权重调度与$0.4\%$的点对点消息的复杂性和$2.6\%$的干扰邻居的平均数量,每个链接。
2022-03-27 cs.LG eess.SP
STAG-CN: Spatio-Temporal Apiary Graph Convolutional Network for Disease Onset Prediction in Beehive Sensor Networks
该研究提出STAG-CN模型,通过建模蜂箱间关系来预测疾病发病,利用时空图卷积网络结合物理位置和气候传感器相关性,验证了共享环境响应模式比空间接近性更有效。
2026-05-17 cs.AI cs.LG
DisenHCN: Disentangled Hypergraph Convolutional Networks for Spatiotemporal Activity Prediction
Beijing National Research Center for Information Science and Technology(北京信息科学与技术国家研究中心);Tsinghua University(清华大学)
时空活动预测旨在预测特定位置和时间的用户活动,对于城市规划和移动广告等应用至关重要。现有的基于张量分解或图嵌入的解决方案存在以下两个主要局限性:1)忽略了用户偏好的细粒度相似性; 2)用户建模是纠缠的。在这项工作中,我们提出了一个超图神经网络模型称为DisenHCN弥合上述差距。特别是,我们首先统一到一个异构超图的细粒度用户相似性和用户偏好和时空活动之间的复杂匹配。然后,我们将用户表示分解为不同的方面(位置感知,时间感知和活动感知),并在构建的超图上聚合相应方面的特征,从不同方面捕获高阶关系,并将每个方面的影响分解为最终预测。大量的实验表明,我们的DisenHCN优于国家的最先进的方法14.23%至18.10%的四个真实世界的数据集。进一步的研究也令人信服地验证了我们的DisenHCN中每个组分的合理性。
2022-08-14 cs.AI cs.LG
A Novel Spatiotemporal Coupling Graph Convolutional Network
针对现有动态QoS估计方法无法统一建模时空特征导致精度不足的问题,提出时空耦合图卷积网络SCG,通过广义张量积统一建模时空、结合异质GCN与张量分解、简化结构降低训练难度,在两个大规模QoS数据集上取得了优于现有方法的估计精度。
2024-08-09 cs.AI cs.LG
4D Spatio-Temporal ConvNets: Minkowski Convolutional Neural Networks
在许多机器人和VR/AR应用中,3D视频是现成的输入源(连续的深度图像序列或LIDAR扫描)。然而,这些3D视频通过2D convnets或3D感知算法逐帧处理。在这项工作中,我们提出了4维卷积神经网络的时空感知,可以直接处理这样的三维视频使用高维卷积。为此,我们采用稀疏张量,并提出了广义稀疏卷积,包括所有离散卷积。为了实现广义稀疏卷积,我们为稀疏张量创建了一个开源的自动微分库,为高维卷积神经网络提供了广泛的功能。我们使用该库创建了4D时空卷积神经网络,并在各种3D语义分割基准上对其进行了验证,并提出了用于3D视频感知的4D数据集。为了克服4D空间中的挑战,我们提出了混合内核,广义稀疏卷积的特殊情况,以及在7 D时空色度空间中执行时空一致性的三边固定条件随机场。在实验上,我们表明,只有广义三维稀疏卷积的卷积神经网络可以大大优于2D或2D-3D混合方法。此外,我们还表明,在3D视频上,4D时空卷积神经网络对噪声具有鲁棒性,优于3D卷积神经网络,并且在某些情况下比3D对应物更快。
2019-06-13 cs.AI cs.CV
Sparsifying the Update Step in Graph Neural Networks
École Polytechnique(巴黎综合理工学院);Institute Polytechnique de Paris(巴黎理工学院)
消息传递神经网络(MPNNs)是最著名的图神经网络(GNN)框架,在图结构数据的分析方面取得了巨大的成功。同时,神经网络模型的稀疏化也引起了学术界和工业界的极大兴趣。在本文中,我们进行了一个结构化的,实证研究稀疏化的MPNN的可训练部分的更新步骤的影响。为此,我们设计了一系列模型,以在更新步骤中连续稀疏线性变换。具体来说,我们提出了具有可调稀疏率的ExpanderGNN模型和仅激活GNN模型,后者在更新步骤中没有线性变换。与文献中的增长趋势一致,稀疏化范式通过初始化稀疏神经网络架构而不是昂贵地稀疏化已经训练的架构来改变。我们的新基准模型能够更好地理解更新步骤对模型性能的影响,并优于现有的简化基准模型,如简单图卷积。ExpanderGNN,在某些情况下,仅激活模型,在几个下游任务上实现了与普通模型相当的性能,同时包含更少的可训练参数。我们的代码可在https://github.com/ChangminWu/ExpanderGNN上公开获取。
2022-04-15 cs.AI cs.LG cs.SI
ST-HCSS: Deep Spatio-Temporal Hypergraph Convolutional Neural Network for Soft Sensing
Monash University Malaysia(莫纳什大学马来西亚分校)
针对工业传感器时序数据的复杂高阶关联建模问题,提出ST-HCSS深度时空超图卷积软测量框架,在无先验结构时学习超图并融合门控时序与超图卷积,性能优于现有方法。
2025-01-02 cs.AI cs.LG eess.SP
Spectral Neural Graph Sparsification
ICAR-CNR(ICAR-意大利国家研究理事会);University of Udine(乌迪内大学)
针对图神经网络依赖固定结构和易过度平滑的问题,提出Spectral Preservation Network框架,通过联合图演化层和谱一致性损失生成简化图代理,在降低计算成本的同时实现卓越的节点级稀疏化性能。
2025-10-31 cs.LG
Spatial Aggregation and Temporal Convolution Networks for Real-time Kriging
McGill University(麦吉尔大学);HEC Montreal(蒙特利尔高等商学院)
时空克里格法是时空数据分析中的一个重要应用,旨在根据观测信号恢复/内插未采样/未观测位置的信号。时空克里金法的主要挑战是如何有效地建模和利用数据中的时空依赖性。最近,图神经网络(GNNs)在时空克里金任务中表现出了巨大的潜力。然而,标准GNN通常需要精心设计的邻接矩阵和特定的聚合函数,这对于一般应用/问题来说是不灵活的。为了解决这个问题,我们提出了SATCN -空间聚合和时间卷积网络-一个通用的和灵活的框架来执行时空克里格为各种时空数据集,而不需要模型规范。具体来说,我们提出了一种新的空间聚合网络(SAN)的灵感来自主邻域聚合,它使用多个聚合功能,以帮助一个节点收集不同的信息,从它的邻居。为了排除来自未采样节点的信息,一个屏蔽策略,防止未采样的传感器发送消息到他们的邻居被引入到SAN。我们通过时间卷积网络捕获时间依赖性,这使得我们的模型能够处理不同大小的数据。为了使SATCN可推广到看不见的节点,甚至看不见的图结构,我们采用归纳策略训练SATCN。我们对三个真实世界的时空数据集进行了广泛的实验,包括交通速度和气候记录。我们的研究结果表明,SATCN优于传统的和基于GNN的克里金模型。
2021-09-24 cs.LG
Towards Spatio-temporal Sea Surface Temperature Forecasting via Static and Dynamic Learnable Personalized Graph Convolution Network
Beijing University of Posts and Telecommunications(北京邮电大学)
针对海表温度预测中动态时空依赖建模不足的问题,本文提出SD-LPGC,用两个图学习层分别刻画长期稳定与短期演化模式,并通过个性化卷积融合,实验达到最先进性能。
2023-04-12 cs.AI cs.LG physics.ao-ph
Graph-Time Convolutional Neural Networks
Delft University of Technology(代尔夫特理工大学)
时空数据可以表示为图上的过程,该过程显式或隐式地捕获它们的空间关系。如何利用这种结构来学习表示是使用图形时的关键挑战之一。在本文中,我们表示的时空关系,通过产品图和发展的第一原理图-时间卷积神经网络(GTCNN)。GTCNN是一种组合架构,每一层都包括一个图时间卷积模块、一个图时间池化模块和一个非线性。我们通过遵循卷积运算符的移位和求和原理来开发一个图时间卷积滤波器,以在乘积图上学习更高级别的特征。乘积图本身是参数化的,因此我们也可以从数据中学习时空耦合。我们开发了一个零垫池,保留了空间图(关于数据的先验),同时减少了活动节点的数量和参数。合成和真实数据的实验结果证实了不同的组件,并与基线和国家的最先进的解决方案进行比较。
2021-03-02 cs.AI cs.LG cs.NE
Variational Mode-Driven Graph Convolutional Network for Spatiotemporal Traffic Forecasting
Lahore University of Management Sciences(拉合尔管理科学大学)
本文提出VMGCN框架,先用VMD将非平稳时空交通数据分解为可解释模式,再通过注意力增强GCN学习模式内与模式间依赖,在LargeST上实现短期和长期预测精度提升。
2025-07-21 cs.LG
A Spatio-Temporal Hybrid Quantum-Classical Graph Convolutional Neural Network Approach for Urban Taxi Destination Prediction
University of Electronic Science and Technology of China(电子科技大学);Henan University(河南大学);Henan Academy of Sciences(河南省科学院)
本文提出一种结合量子计算和经典深度学习的混合时空图卷积网络,用于提升城市出租车目的地预测的精度和稳定性。
2025-12-15 cs.AI quant-ph
Multi-Scale Spatio-Temporal Graph Convolutional Network for Facial Expression Spotting
Osaka University(大阪大学)
本文提出多尺度时空图卷积网络SpoT-GCN用于面部表情定位,通过感受野自适应滑动窗口策略提取鲁棒动作特征,结合面部局部图池化和有监督对比学习,在SAMM-LV和CAS(ME)^2数据集上达到最先进性能。
2024-03-24 cs.AI cs.CV
Exploring the impact of adaptive rewiring in Graph Neural Networks
Data Science Department, Institute for Computing and Information Sciences, Radboud University(数据科学系,计算与信息科学研究所,拉德堡德大学)
本文提出了一种自适应重 wiring 方法,通过稀疏化技术提升图神经网络在电网可靠性分析中的性能和可扩展性。
2026-02-11 cs.AI cs.LG cs.SY
Spatio-Temporal-Frequency Graph Attention Convolutional Network for Aircraft Recognition Based on Heterogeneous Radar Network
Beijing University of Posts and Telecommunications(北京邮电大学);La Trobe University(乐卓博大学);The University of Sydney(悉尼大学)
提出了一种基于知识和数据驱动的图神经网络协同学习模型,用于异构雷达网中飞机的可靠识别。飞机可识别性分析表明:(1)飞机的语义特征是由运动特征驱动的运动模式;(2)雷达散射截面(RCS)信号中包含的语法特征呈现出由飞机电磁辐射形状和运动模式共同决定的时空频(STF)多样性。然后,一个STF图注意力卷积网络(STFGACN)开发的异构雷达网络接收到的RCS信号的语义特征提取。大量的实验结果验证了STFGACN在检测精度方面优于基线方法,并进行了消融实验,以进一步表明,信息维的扩展可以获得相当大的好处,以在低信噪比区域鲁棒地执行。
2022-04-15 cs.LG eess.SP
Implicit Filter Sparsification In Convolutional Neural Networks
Max Planck Institute For Informatics(马克斯·普朗克信息学研究所);Saarland Informatics Campus(萨尔兰信息学园区);Ulsan National Institute of Science and Technology(蔚山科学技术院)
我们展示了卷积神经网络(CNN)中的隐式滤波器级稀疏性,CNN采用批量归一化和ReLU激活,并使用自适应梯度下降技术和L2正则化或权重衰减进行训练。通过广泛的实证研究(Mehta等人,2019)我们假设了稀疏化过程背后的机制,并发现了与文献中提出的某些滤波器稀疏化算法的惊人联系。出现,并随后修剪的选择性功能被观察到的贡献机制之一,导致功能稀疏在平价或优于某些明确的稀疏/修剪方法。在这篇研讨会文章中,我们总结了我们的发现,并指出了选择性特征惩罚的推论,这些推论也可以用作过滤器修剪的算法
2019-05-13 cs.CV cs.LG stat.ML
DG-STMTL: A Novel Graph Convolutional Network for Multi-Task Spatio-Temporal Traffic Forecasting
King's College London(伦敦国王学院);Imperial College London(帝国理工学院)
针对时空交通预测中复杂依赖建模、动态适应及多任务干扰问题,提出DG-STMTL框架,通过混合邻接矩阵生成模块和分组GCN模块提升性能,在真实数据集上优于现有技术。
2025-04-11 cs.AI cs.LG
MegaCRN: Meta-Graph Convolutional Recurrent Network for Spatio-Temporal Modeling
提出MegaCRN,通过元节点库驱动的元图学习器增强GCRN编解码器,以建模时空图流的异质性与非平稳性,并在三个数据集上显著超越现有方法。
2023-04-20 cs.AI cs.LG
Multi-graph Spatio-temporal Graph Convolutional Network for Traffic Flow Prediction
North China University of Technology(北方工业大学);University of Maryland Baltimore County(马里兰大学巴尔的摩县分校)
本文针对公路日交通流预测中的数据不平衡和时空因素复杂问题,提出一种多图时空图卷积网络方法,结合数据归一化、多语义图卷积及气象日历特征,在省级高速公路上验证了其优于基线方法的预测精度和业务价值。
2023-08-10 cs.AI cs.LG
Graph Sparsification for GCN Towards Optimal Crop Yield Predictions
York University(约克大学);Growers Edge(种植者边缘公司)
针对 GCN 作物产量预测中稠密图核训练成本高的问题,提出基于 Fiedler 数和特征值扰动的快速图稀疏化方法,在保持良好预测性能的同时降低计算复杂度。
2023-06-02 cs.LG
Initialization Strategies of Spatio-Temporal Convolutional Neural Networks
University of Toronto(多伦多大学)
我们提出了一种新的方法,将视频中的时间信息合并到在图像上训练的空间卷积神经网络(ConvNets)中,避免从头开始训练时空ConvNets。我们使用从ImageNet学习的2D卷积权重描述了时空ConvNet的3D卷积层中的几个权重初始化。我们表明,为了学习视频的时间表示,明智地初始化3D卷积权重是很重要的。我们在UCF-101数据集上评估了我们的方法,并证明了对Spatial ConvNets的改进。
2015-03-25 cs.CV cs.LG
A Differential Smoothness-based Compact-Dynamic Graph Convolutional Network for Spatiotemporal Signal Recovery
College of Computer and Information Science, Southwest University(西南大学计算机与信息科学学院);Hanhong College, Southwest University(西南大学含弘学院)
本文提出紧凑动态图卷积网络CDGCN,通过张量M-product统一建模时空模式,并引入差分平滑目标函数抑制噪声,在真实数据集上显著提升时空信号恢复精度。
2024-08-06 cs.LG
Irregular Traffic Time Series Forecasting Based on Asynchronous Spatio-Temporal Graph Convolutional Network
HKUST(GZ)(香港科技大学(广州));Baidu Research(百度研究院);HKUST(香港科技大学);Arizona State University(亚利桑那州立大学);Baidu Inc.(百度公司)
针对自适应信号导致的不规则交通时间序列预测难题,提出异步时空图卷积网络ASeer,通过异步图扩散、个性化时间编码、可变形时间感知卷积与半自回归预测,有效捕捉异步时空依赖并预测变长序列,在六项指标上优于十二个基线。
2024-08-27 cs.AI cs.LG
Co-Optimizing Graph Sparsification and Approximate Computing for Energy-Efficient FPGA-Based GCN Inference
Trinity College Dublin(都柏林圣三一学院)
针对边缘FPGA上GCN推理的能耗问题,提出结合DSpar稀疏化、8位量化与近似乘法器的加速器,在KV260上实现最高9.88倍加速并保持86.6%准确率,验证了稀疏化与近似计算的互补协同优化。
2026-10-06 cs.AR cs.LG
Traffic Flow Forecasting with Maintenance Downtime via Multi-Channel Attention-Based Spatio-Temporal Graph Convolutional Networks
George Mason University(乔治梅森大学)
交通流预测是智能交通系统管理的核心任务。图结构已经显示出作为建模框架的前景,最近通过图卷积神经网络在时空建模方面的进展,提高了性能或扩展了对交通流的预测范围。然而,最先进的方法的一个主要缺点是它们不能考虑到各种模式的信息,例如维护停机时间对交通流量的影响。这就是我们在本文中要解决的问题。具体来说,我们提出了一种新的模型来预测交通速度的影响下,施工工作。该模型基于强大的基于注意力的时空图卷积架构,但利用各种渠道来整合不同的信息源,明确地建立交通状态之间的时空依赖关系,捕获异构道路网络之间的关系,然后预测交通流量的变化导致的维护停机事件。两个基准数据集和一个新的数据集,我们已经收集了繁华的泰森的角落地区在北弗吉尼亚州的模型进行评估。大量的对比实验和消融研究表明,该模型可以捕捉复杂的和非线性的时空关系,跨运输走廊,优于基线模型。
2021-10-04 cs.AI cs.CV cs.LG
FasterSTS: A Faster Spatio-Temporal Synchronous Graph Convolutional Networks for Traffic flow Forecasting
Wuhan University of Technology(武汉理工大学);Zhejiang Sci-Tech University(浙江理工大学)
针对现有交通流预测方法时空建模分离且复杂度高的问题,提出更快速有效的时空同步图卷积网络FasterSTS,以提升预测性能并控制模型复杂度。
2025-01-01 cs.LG
ESGCN: Edge Squeeze Attention Graph Convolutional Network for Traffic Flow Forecasting
Yonsei University(延世大学)
针对交通流的动态时空依赖问题,提出ESGCN,通过多尺度节点卷积、边缘注意力GCN、自适应邻接矩阵和节点对比损失提升预测性能。
2023-07-12 cs.AI cs.LG
A convolution recurrent autoencoder for spatio-temporal missing data imputation
University of California Irvine(加州大学欧文分校)
当传感器在大的地理区域中收集时空数据时,无法避免缺失数据的存在。缺失数据会对数据分析和机器学习算法的性能产生负面影响。在本文中,我们研究了时空问题中缺失数据填补的深度自动编码器。我们提出了一种卷积双向LSTM,用于捕获空间和时间模式。此外,我们分析了自动编码器的时空数据的潜在特征表示,并说明其性能缺失的数据填补。交通流数据用于评估我们的模型。结果表明,所提出的卷积递归神经网络优于国家的最先进的方法。
2019-04-29 cs.LG stat.ML
Causally-Aware Spatio-Temporal Multi-Graph Convolution Network for Accurate and Reliable Traffic Prediction
The Hong Kong Polytechnic University(香港理工大学);Tongji University(同济大学);Sichuan University(四川大学);NEOMA Business School(诺欧商学院)
本文提出端到端交通预测框架,结合动态因果结构学习、因果感知时空多图卷积网络(CASTMGCN)与共形预测,提升预测精度并保证不确定性量化的统计有效性。
2024-08-23 cs.AI cs.LG
AST-GCN: Attribute-Augmented Spatiotemporal Graph Convolutional Network for Traffic Forecasting
Central South University(中南大学);Hisense TransTech Co., Ltd.(海信网络科技股份有限公司);Zhejiang University(浙江大学)
交通量预测是智能交通领域的一项基础性和挑战性任务。准确的预测不仅依赖于历史交通流信息,还需要考虑各种外部因素的影响,如天气状况、周边POI分布等。近年来,融合图卷积网络和递归神经网络的时空模型成为交通预测的研究热点,并取得了重大进展。然而,很少有作品结合外部因素。因此,基于引入外部因素可以提高时空预测流量的准确性和改善解释性的假设,我们提出了一个属性增强时空图卷积网络(AST-GCN)。我们将外部因素建模为动态属性和静态属性,并设计了一个属性增强单元来编码和集成这些因素到时空图卷积模型中。在真实数据集上的实验表明,与传统的交通预测方法相比,考虑外部信息对交通预测任务的有效性。此外,在不同的属性增强方案和预测水平设置下,AST-GCN的预测精度高于基线。
2020-11-22 cs.LG
Incorporating Reachability Knowledge into a Multi-Spatial Graph Convolution Based Seq2Seq Model for Traffic Forecasting
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);University of Macau(澳门大学)
准确的交通状态预测是交通控制和诱导的基础。由于交通数据具有复杂的时空相关性,因此具有很大的挑战性。现有的工作不能很好地执行多步交通预测,涉及未来很长的时间段。当输入步和预测步之间的时间间隔较大时,尤其是当交通数据不充分或有噪声时,时空信息稀释变得严重。为了解决这个问题,我们提出了一种基于多空间图卷积的Seq 2Seq模型。本文的创新点主要体现在三个方面:(1)通过融合多视角特征(时间、位置和交通状态)丰富模型输入的时空信息;(2)基于先验知识和数据驱动知识构建多种空间相关性,以提高模型在数据不足或噪声情况下的性能。(3)设计了一种基于可达性知识的时空注意力机制,产生高层特征,直接输入Seq 2Seq的解码器,以减轻信息稀释。我们的模型在两个真实世界的流量数据集上进行了评估,并取得了比其他竞争对手更好的性能。
2021-08-16 cs.AI cs.LG
RSTGCN: Railway-centric Spatio-Temporal Graph Convolutional Network for Train Delay Prediction
Department of Computer Science and Engineering, Indian Institute of Technology Kharagpur(计算机科学与工程系,印度理工学院Kharagpur);Machine Intelligence Unit, Indian Statistical Institute(机器智能单位,印度统计研究所)
针对车站级列车晚点预测研究缺口,提出RSTGCN模型,结合列车频率感知空间注意力,在印度铁路网数据集上较最优基准模型实现多项指标提升。
2026-08-25 cs.AI cs.LG
Spatio-Temporal Graph Convolutional Networks: Optimised Temporal Architecture
University of Oxford(牛津大学)
本研究提出结合CNN与LSTM时间块的时空图卷积网络新架构,通过理论论证和多数据集实验,实证比较了新模型与现有模型的性能。
2025-01-14 cs.LG stat.ML
Spatio-Temporal Graph Convolutional Networks: A Deep Learning Framework for Traffic Forecasting
Peking University(北京大学);Beijing Institute of Big Data Research(北京大数据研究院)
及时准确的交通预测是城市交通控制和诱导的关键。由于交通流的高度非线性和复杂性,传统的预测方法往往不能满足中长期预测任务的要求,且往往忽略了时空相关性。在本文中,我们提出了一种新的深度学习框架,时空图卷积网络(STGCN),以解决交通领域的时间序列预测问题。我们没有应用常规的卷积和递归单元,而是将问题公式化在图上,并使用完整的卷积结构构建模型,这可以用更少的参数实现更快的训练速度。实验表明,我们的模型STGCN有效地捕捉全面的时空相关性,通过建模多尺度的交通网络,并始终优于各种现实世界的交通数据集的最先进的基线。
2018-07-12 cs.LG stat.ML
Deepfake Detection using Spatiotemporal Convolutional Networks
University of Michigan(密歇根大学)
更好的生成模型和更大的数据集导致了更逼真的假视频,这些假视频可以欺骗人眼,但会产生深度学习方法可以检测到的时间和空间伪影。目前大多数Deepfake检测方法仅使用单个视频帧,因此无法从时间信息中学习。我们使用Celeb-DF数据集创建了时空卷积方法性能的基准。我们的方法优于最先进的基于帧的检测方法。我们论文的代码可在https://github.com/oidelima/Deepfake-Detection上公开获取。
2020-06-26 cs.CV cs.LG eess.IV
Convolutional Spiking Neural Networks for Spatio-Temporal Feature Extraction
Amirkabir University of Technology(阿米卡比尔理工大学);Chalmers University of Technology(查尔姆斯理工大学)
脉冲神经网络(SNN)由于其基于事件的性质而可以用于低功耗和嵌入式系统(例如新兴的神经形态芯片)中。此外,与传统的人工神经网络(ANN)相比,它们具有计算成本低的优点,同时保留了ANN的属性。然而,卷积脉冲神经网络和其他类型的SNN的层中的时间编码还有待研究。在本文中,我们提供了深入了解时空特征提取的卷积SNN的实验设计,利用这一属性。浅层卷积SNN的性能优于最先进的时空特征提取器方法,例如C3 D、ConvLstm和类似网络。此外,我们提出了一种新的深度尖峰架构来解决现实世界的问题(特别是分类任务),与NMNIST(99.6%),DVS-CIFAR 10(69.2%)和DVS-Gesture(96.7%)以及UCF-101(42.1%)和HMDB-51(21.5%)数据集上的ANN方法相比,该架构具有更好的性能。还值得注意的是,训练过程是基于本文中解释的时空反向传播的变化来实现的。
2021-01-18 cs.CV cs.LG
Progressive Spatio-Temporal Graph Convolutional Network for Skeleton-Based Human Action Recognition
Aarhus University(奥胡斯大学)
图卷积网络(GCN)在基于骨架的人体动作识别中非常成功,其中骨架序列被建模为图。然而,该领域中的大多数基于GCN的方法训练具有固定拓扑结构的深度前馈网络,这导致高计算复杂性并限制其在低计算场景中的应用。在本文中,我们提出了一种方法来自动找到一个紧凑的和特定问题的拓扑空间-时间图卷积网络在渐进的方式。在两个广泛使用的人体动作识别数据集上的实验结果表明,该方法具有竞争力,甚至更好的分类性能与国家的最先进的方法相比,具有更低的计算复杂性.
2021-04-26 cs.CV cs.LG
Conditional Local Convolution for Spatio-temporal Meteorological Forecasting
Center of Artificial Intelligence for Research and Innovation, Westlake University(西湖大学人工智能研究与创新中心);Eco-Environmental Research Laboratory, Westlake University(西湖大学生态环境研究实验室);Zhejiang University(浙江大学)
由于时间动态的高度非线性以及空间域中复杂的位置特征模式,时空预测具有挑战性,特别是在天气预报等领域。在气象学中,为了处理传感器空间位置的不规则分布,通常使用图卷积来建模空间相关性。在这项工作中,提出了一种新的基于图的卷积模拟气象流捕捉当地的空间模式。基于位置特征模式的光滑性假设,我们提出了条件局部卷积,其节点局部空间上的共享核由前馈网络近似,坐标的局部表示由水平映射到圆柱切空间作为其输入。地方坐标系统一标准的建立,维护了地理上的方向性。我们进一步提出了距离和方向的缩放条款,以减少不规则的空间分布的影响。卷积被嵌入到递归神经网络架构中,以模拟时间动态,从而产生条件局部卷积递归网络(CLCRN)。我们的模型在真实世界的天气基准数据集上进行了评估,实现了最先进的性能,并有明显的改进。对局部模式可视化、模型框架选择、水平图的优势等问题进行了深入分析。
2021-12-11 cs.LG
Bayesian Spatio-Temporal Graph Convolutional Network for Traffic Forecasting
University of Science and Technology of China(中国科学技术大学)
在交通预测中,图卷积网络(GCN)将交通流建模为时空图,取得了令人瞩目的性能。然而,现有的基于GCN的方法,抽象地定义的图形结构的物理拓扑结构的道路网络,忽略了潜在的依赖关系的图形结构上的交通数据。并且定义的图结构是确定性的,缺乏对不确定性的研究。本文提出了一种用于流量预测的贝叶斯时空图卷积网络(BSTGCN)。我们的网络中的图结构是以端到端的方式从道路网络和交通数据的物理拓扑中学习的,它发现了对交通流之间关系的更准确描述。此外,提出了一种参数生成模型来表示图的结构,从而增强了GCN的泛化能力。我们验证了我们的方法在两个真实世界的数据集上的有效性,实验结果表明,BSTGCN达到优越的性能相比,国家的最先进的方法。
2020-10-15 cs.GR cs.LG
HAGCN : Network Decentralization Attention Based Heterogeneity-Aware Spatiotemporal Graph Convolution Network for Traffic Signal Forecasting
利用图卷积网络(GCN)构建时空网络已成为预测交通信号的最流行方法之一。然而,当使用GCN进行交通速度预测时,传统方法通常将传感器之间的关系假设为齐次图,并使用传感器积累的数据来学习邻接矩阵。然而,传感器之间的空间相关性并没有被指定为一个,而是从不同的视角被不同地定义。为此,我们的目标是研究交通信号数据中固有的异构特性,以各种方式学习传感器之间的隐藏关系。具体来说,我们设计了一种方法来构建一个异构图的每个模块划分为静态和动态模块的传感器之间的空间关系。我们提出了一种基于网络分散注意力的异构感知图卷积网络(HAGCN)方法,该方法通过考虑异构图中每个通道的重要性来聚合相邻节点的隐藏状态。在真实流量数据集上的实验结果验证了该方法的有效性,与现有模型相比,预测性能提高了6.35%,达到了最新水平。
2022-09-05 cs.LG
Graph-Time Convolutional Neural Networks: Architecture and Theoretical Analysis
Delft University of Technology(代尔夫特理工大学)
设计和分析时空网络数据的学习模型对于预测、异常检测和多智能体协调等任务具有重要意义。图卷积神经网络(GCNN)是一种从时不变网络数据中学习的成熟方法。图卷积操作提供了一种原则性的方法来聚合多分辨率信息。然而,将卷积原理学习和相应分析扩展到时空域是具有挑战性的,因为时空数据具有更多的内在依赖性。因此,需要更高的灵活性来联合捕获空间和时间依赖性,以学习有意义的高阶表示。在这里,我们利用产品图来表示数据中的时空依赖关系,并引入图-时间卷积神经网络(GTCNN)作为辅助学习的原则架构。所提出的方法可以与任何类型的产品图,我们还介绍了一个参数产品图学习也时空耦合。卷积原理还允许与GCNN类似的数学易处理性。特别地,稳定性结果表明GTCNN对空间扰动是稳定的,但在可辨别性和鲁棒性之间存在隐含的权衡;即,模型越复杂,稳定性越差。基准数据集上的大量数值结果证实了我们的发现,并显示GTCNN与最先进的解决方案相比毫不逊色。我们预计GTCNN将成为更复杂模型的起点,这些模型将实现良好的性能,但也从根本上扎根。
2022-06-30 cs.LG
Spatiotemporal Graph Convolutional Recurrent Neural Network Model for Citywide Air Pollution Forecasting
Seoul National University(首尔国立大学);Graduate School of Data Science(数据科学研究生院)
本文提出了一种基于图卷积网络的时空循环神经网络模型,用于提升城市空气污染预测的精度和效率。
2025-11-23 cs.CV cs.LG eess.SP
Convolutional Spiking-based GRU Cell for Spatio-temporal Data
针对现有脉冲GRU无法捕捉时空数据细粒度局部依赖的问题,提出融合卷积运算、脉冲神经元时序精度与GRU门控机制的CS-GRU单元,在多类基准上实现了精度与效率的双重提升。
2025-10-29 cs.LG
MeanSparse: Post-Training Robustness Enhancement Through Mean-Centered Feature Sparsification
University of Massachusetts Amherst(马萨诸塞大学阿姆赫斯特分校)
提出MeanSparse方法,通过对对抗训练模型进行后处理,稀疏化均值中心化特征,以增强卷积和注意力网络的鲁棒性,在多个基准上创下新的鲁棒性记录。
2025-10-08 cs.CR cs.CV cs.LG
Convolutional generative adversarial imputation networks for spatio-temporal missing data in storm surge simulations
University of Notre Dame(圣母大学);Lawrence Livermore National Laboratories(劳伦斯利弗莫尔国家实验室)
缺失数据的插补是一项在许多工程和科学应用中起着至关重要作用的任务。这种缺失的数据通常出现在实验观测中,原因是传感器的限制或后处理转换误差。其他时候,它们来自于计算机模拟中的数值和算法约束。风暴潮的数值模拟就是其中的一个实例,也是本文的应用重点。模拟数据对应于感兴趣的地理域内的多个保存点上的时间序列浪涌预测,从而产生时空插补问题,其中浪涌点在空间和时间上高度相关,并且缺失值区域在结构上随机分布。最近,诸如神经网络方法的机器学习技术已经被开发并用于缺失数据填补任务。生成对抗网络(GANs)和基于GAN的技术作为无监督机器学习方法特别受到关注。在这项研究中,通过应用卷积神经网络而不是完全连接的层来更好地捕获数据的相关性并促进从相邻浪涌点的学习,从而提高了生成对抗性填补网络(GAIN)的性能。对研究数据特别需要的方法的另一个调整是将点的坐标视为附加特征,以通过卷积层为模型提供更多信息。我们将我们提出的方法命名为卷积生成对抗性填补网络(Conv-GAIN)。通过考虑风暴潮数据所需的改进和适应,评估所提出的方法的性能,并与原始GAIN和其他一些技术进行比较。结果表明,Conv-GAIN具有更好的性能比替代方法的研究数据。
2021-11-26 cs.AI cs.CE cs.LG
Spatio-Temporal Pyramid Graph Convolutions for Human Action Recognition and Postural Assessment
University of Washington(华盛顿大学);Honda Research Institute(本田研究院)
由于人类行为及其与物体和环境的相关交互的识别在各种领域中具有潜在的应用,因此它是计算机视觉中的一个重要问题。最通用的方法可以推广到各种环境,并处理杂乱的背景,遮挡和视点变化。其中,基于从骨架提取特征的图卷积网络的方法已经展示了有前途的性能。在本文中,我们提出了一种新的时空金字塔图卷积网络(ST-PGN)的在线动作识别的人体工程学风险评估,使所有级别的骨架特征层次结构的使用功能。该算法优于在两个通常用于姿势评估的公共基准数据集(TUM和UW-IOM)上测试的最先进的动作识别算法。我们还引入了一个管道,以提高在线动作识别技术的姿势评估方法。最后,将该算法与传统的人体工程学风险指数(REBA)相结合,以证明其在职业安全中对肌肉骨骼疾病评估的潜在价值。
2019-12-07 cs.CV cs.LG
Convolutional Tensor-Train LSTM for Spatio-temporal Learning
University of Maryland(马里兰大学);NVIDIA Research(英伟达研究院)
时空数据学习在人类行为分析、目标跟踪、视频压缩、物理仿真等领域有着广泛的应用,但现有的时空数据学习方法在长时间预测等视频任务中表现不佳。这是因为这些具有挑战性的任务需要学习视频序列中的长期时空相关性。在本文中,我们提出了一个高阶卷积LSTM模型,可以有效地学习这些相关性,以及历史的简洁表示。这是通过一个新的张量训练模块来实现的,该模块通过组合跨时间的卷积特征来执行预测。为了使这在计算和内存需求方面可行,我们提出了一种新的高阶模型的卷积张量-训练分解。这种分解通过将卷积核序列联合近似为低秩张量训练因子分解来降低模型复杂度。因此,我们的模型优于现有的方法,但只使用了一小部分参数,包括基线模型。我们的结果在广泛的应用程序和数据集上实现了最先进的性能,包括Moving-MNIST-2和KTH动作数据集上的多步视频预测以及Something-Something V2数据集上的早期活动识别。
2020-10-04 cs.CV cs.LG stat.ML
Continual Spatio-Temporal Graph Convolutional Networks
Aarhus University(奥胡斯大学)
基于图的骨架数据推理已经成为一种很有前途的人类动作识别方法。然而,先前的基于图的方法,主要采用整个时间序列作为其输入,设置在线推理的应用程序需要相当大的计算冗余。在本文中,我们通过将时空图卷积神经网络重构为连续推理网络来解决这个问题,该网络可以在时间上执行逐步预测,而无需重复帧处理。为了评估我们的方法,我们创建了一个连续版本的ST-GCN,CoST-GCN,以及两个具有不同自我注意力机制的衍生方法,CoAGCN和CoS-TR。我们研究了用于推理加速的权重转移策略和架构修改,并在NTU RGB+D 60,NTU RGB+D 120和Kinetics Skeleton 400数据集上进行了实验。在保持类似的预测准确性的情况下,我们观察到时间复杂度降低了109倍,硬件加速了26倍,在线推理期间最大分配内存减少了52%。
2023-03-24 cs.CV cs.LG
Ultra-low Latency Spiking Neural Networks with Spatio-Temporal Compression and Synaptic Convolutional Block
Xidian University(西安电子科技大学);Guangzhou Institute of Technology, Xidian University(西安电子科技大学广州研究院)
脉冲神经网络(Spiking neural networks,SNNs)作为一种脑启发模型,具有时空信息处理能力、低功耗和高生物相容性等特点。有效的时空特征使其适用于事件流分类。然而,神经形态数据集,如N-MNIST,CIFAR 10-DVS,DVS 128-gesture,需要将单个事件聚合到具有新的更高时间分辨率的帧中以用于事件流分类,这导致高训练和推理延迟。在这项工作中,我们提出了一种时空压缩的方法来聚合单个事件到几个时间步长的突触电流,以减少训练和推理延迟。为了在高压缩比下保持SNN的准确性,我们还提出了一种突触卷积块来平衡相邻时间步长之间的剧烈变化。并引入了具有可学习膜时间常数的多阈值漏积分触发(Leaky Integrate-and-Fire,LIF)算法,以提高其信息处理能力。我们评估所提出的方法的神经形态N-MNIST,CIFAR 10-DVS,DVS 128手势数据集的事件流分类任务。实验结果表明,我们提出的方法优于国家的最先进的精度几乎所有的数据集,使用更少的时间步长。
2022-03-18 cs.CV cs.LG cs.NE
Spatio-Temporal Graph Convolution for Resting-State fMRI Analysis
Stanford University(斯坦福大学);SRI International(斯坦福国际研究院)
静息态功能磁共振成像(rs-fMRI)的血氧水平依赖(BOLD)信号记录了大脑内在功能网络的时间动态。然而,现有的应用于rs-fMRI的深度学习方法要么忽略了网络中不同大脑区域之间的功能依赖性,要么丢弃了大脑活动的时间动态信息。为了克服这些缺点,我们建议在时空图的背景下制定功能连接网络。我们训练一个时空图卷积网络(ST-GCN)的BOLD时间序列的短的子序列建模的非平稳性质的功能连接。同时,该模型学习ST-GCN中图边缘的重要性,以深入了解有助于预测的功能连接性。在分析人类连接组项目(HCP,N= 1,091)和国家酒精和青少年神经发育联盟(NCANDA,N=773)的rs-fMRI时,ST-GCN在基于BOLD信号预测性别和年龄方面比常见方法更准确。此外,根据神经科学文献,对我们模型的预测有显著贡献的大脑区域和功能连接是重要的标记。
2021-06-29 cs.LG stat.ML
Hypergraph-based multi-scale spatio-temporal graph convolution network for Time-Series anomaly detection
Edinburgh Parallel Computing Center(爱丁堡并行计算中心);University of Edinburgh(爱丁堡大学)
针对高维复杂多变量时间序列异常检测中数据规模大、缺标签的挑战,提出基于超图的时空图卷积模型STGCN_Hyper,结合超图结构学习、多尺度TCN与无监督检测器,在多项指标上优于现有基线。
2024-10-29 cs.LG
Convolutional Long Short-Term Memory (convLSTM) for Spatio-Temporal Forecastings of Saturations and Pressure in the SACROC Field
National Energy Technology Laboratory(国家能源技术实验室);University of Utah(犹他大学);Energy & Geoscience Institute, University of Utah(犹他大学能源与地球科学研究所)
提出基于 convLSTM 的机器学习架构预测 SACROC 油田多孔介质时空参数,使用 30 年数据训练独立模型预测油气水饱和度与压力,实验结果表现良好。
2022-10-15 cs.LG eess.IV
On the Preservation of Spatio-temporal Information in Machine Learning Applications
Izmir University of Economics(伊兹密尔经济大学)
在传统的机器学习应用中,假设每个数据属性与其他数据属性正交。也就是说,每一对维度都是相互正交的,因此没有维度之间关系的区别。然而,这在自然源自时空配置的真实世界信号中肯定不是这种情况。结果,传统的矢量化过程破坏了关于数据的顺序/位置的所有时空信息,无论它是$1$ D、$2$ D、$3$ D还是$4$ D。在本文中,正交性的问题,首先通过传统的$k$ -图像的手段,其中图像被处理为向量。作为一种解决方案,移位不变的$k$ -手段提出了一种新的框架与稀疏表示的帮助。移位不变的$k$ -手段,卷积字典学习的推广,然后利用作为一个无监督的特征提取方法进行分类。实验表明,与卷积字典学习相比,作为浅层卷积神经网络的模拟的Gabor特征提取提供了更好的性能。卷积逻辑的许多替代品也讨论了时空信息保存,包括时空超复数编码方案。
2020-06-15 cs.CV cs.LG stat.ML