Spiking Generative Adversarial Network with Attention Scoring Decoding
本文率先构建了处理复杂图像的脉冲生成对抗网络,通过引入Earth-Mover距离和基于注意力的加权解码方法解决域外与时间不一致性问题,在多个数据集上优于现有方法且更贴近类脑信息处理模式。
2023-05-19 cs.NE
Quantum Superposition Inspired Spiking Neural Network
尽管人工智能模型取得了进展,但神经网络仍然无法达到人类的表现,部分原因是与人脑相比,信息的编码和处理方式存在差异。人工神经网络(ANN)中的信息使用统计方法来表示,并被处理为拟合函数,使得能够处理图像、文本和语音处理中的结构模式。然而,对数据的统计特征的实质性改变,例如,反转图像的背景,显著地降低性能。在这里,我们提出了一个量子叠加脉冲神经网络(QS-SNN)的灵感来自量子机制和大脑中的现象,它可以处理图像背景颜色反转。QS-SNN从计算的角度将量子理论与大脑启发的脉冲神经网络模型相结合,与传统的ANN模型相比,其性能更鲁棒,特别是在处理噪声输入时。这里展示的结果将为未来开发大脑启发的人工智能提供信息。
2021-11-17 cs.NE
Deep Multi-Threshold Spiking-UNet for Image Processing
University of Science and Technology of China(中国科学技术大学);Institute of Artificial Intelligence, Hefei Comprehensive National Science Center(合肥综合性国家科学中心人工智能研究院)
针对脉冲U-Net构建中的信息传播与训练难题,提出多阈值脉冲神经元、逐连接归一化及流微调方法,实现与非脉冲U-Net相当的图像处理性能,推理时间较未微调转换模型减少约90%。
2024-04-11 cs.CV cs.NE eess.IV
Optimizing Spatio-Temporal Information Processing in Spiking Neural Networks via Unconstrained Leaky Integrate-and-Fire Neurons and Hybrid Coding
本文提出无约束漏积分发放(ULIF)神经元模型与混合编码方案,解决SNN处理时空信息时受网络结构和直接编码限制的问题,有效提升了网络在目标检测与识别任务中的性能。
2025-04-01 cs.NE
An error-propagation spiking neural network compatible with neuromorphic processors
脉冲神经网络在低功耗传感处理和边缘计算硬件平台的设计中显示出了巨大的潜力。然而,在这种架构上实现片上学习算法仍然是一个开放的挑战,特别是对于依赖于反向传播算法的多层网络。在本文中,我们提出了一种基于尖峰的学习方法,近似反向传播使用本地权重更新机制,这是兼容的混合信号模拟/数字神经形态电路。我们引入了一个网络架构,使突触权重更新机制,以跨层反向传播错误信号,并提出了一个网络,可以训练区分两个尖峰为基础的模式,具有相同的平均发射率,但不同的尖峰定时。这项工作代表了设计超低功耗混合信号神经形态处理系统的第一步,该系统具有片上学习电路,可以被训练以识别尖峰活动的不同时空模式(例如,由基于事件的视觉或听觉传感器产生)。
2021-04-12 cs.NE
Parallel Training in Spiking Neural Networks
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Future Technology, University of Chinese Academy of Sciences(中国科学院大学未来技术学院);School of Computer Science, Fudan University(复旦大学计算机科学技术学院)
本文提出了一种动态衰减脉冲神经元,通过去除重置机制实现并行训练,同时保持串行推断能力,提升了训练效率和通用性。
2026-02-01 cs.NE
Sparse Spiking Neural-like Membrane Systems on Graphics Processing Units
本文针对脉冲神经P系统稀疏邻接矩阵仿真效率低的问题,在GPU上实现并并行化了两种矩阵压缩方法,构建带延迟的仿真器,实验表明其性能优于现有GPU库方案。
2024-08-08 cs.DC cs.NE
Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing
在这项工作中,我们介绍了一种光电尖峰人工神经元能够在超快的速度($\approx$ 100 ps/光尖峰)和低能耗($<$ pJ/尖峰)。所提出的系统结合了一个可激发的共振隧穿二极管(RTD)元件表现出负微分电导,耦合到一个纳米级光源(形成一个主节点)或一个光电探测器(形成一个接收器节点)。我们数值研究的尖峰动力学响应和信息传播功能的互连主接收RTD节点系统。使用脉冲阈值和积分的关键功能,我们利用单个节点对顺序脉冲模式进行分类,并执行卷积功能以进行图像特征(边缘)识别。我们还展示了一个光学互连的尖峰神经网络模型,用于以超过10 Gbps的速度处理时空数据,具有很高的推理精度。最后,我们展示了一种片外监督学习方法,利用尖峰时间依赖可塑性的RTD使能的光子尖峰神经网络。这些结果证明了RTD尖峰节点的潜力和可行性,低足迹,低能量,高速光电实现的神经形态硬件。
2021-11-19 cs.ET cs.NE physics.app-ph
Spiking-LEAF: A Learnable Auditory front-end for Spiking Neural Networks
The Hong Kong Polytechnic University(香港理工大学);National University of Singapore(新加坡国立大学)
提出专为脉冲神经网络设计的可学习听觉前端Spiking-LEAF,结合可学习滤波器组与新型双区室IHC-LIF神经元,有效捕捉语音多尺度时间动态并提升脉冲编码效率,在分类准确率、噪声鲁棒性和编码效率上均超越现有方法。
2024-03-23 cs.NE cs.SD eess.AS
Sharpness Aware Surrogate Training for Spiking Neural Networks
University of Bath, United Kingdom(巴斯大学,英国)
本文研究了针对脉冲神经网络的锐度感知替代训练(SAST),通过应用锐度感知最小化(SAM)方法,提升了训练效率和模型性能,展示了在N-MNIST和DVS Gesture数据集上的显著效果。
2026-03-14 cs.LG cs.NE
Surrogate Gradient Learning in Spiking Neural Networks
脉冲神经网络是自然界容错和节能信号处理的通用解决方案。为了将这些好处转化为硬件,越来越多的神经形态脉冲神经网络处理器试图模拟生物神经网络。这些发展已经产生了迫切需要的方法和工具,使这样的系统,以解决现实世界的信号处理问题。与传统神经网络一样,脉冲神经网络可以在真实的、特定于域的数据上进行训练。然而,他们的培训需要克服与其二元和动态性质有关的一些挑战。本文逐步阐述了训练脉冲神经网络时通常遇到的问题,并引导读者了解突触可塑性和脉冲设置中的数据驱动学习的关键概念。为此,它概述了现有的方法,并介绍了替代梯度方法,特别是作为一种特别灵活和有效的方法来克服上述挑战。
2019-05-03 cs.NE q-bio.NC
Advanced Computing and Related Applications Leveraging Brain-inspired Spiking Neural Networks
本文综述了脉冲神经网络在脑启发人工智能中的核心计算与应用,系统分析了五种神经元模型、五种网络拓扑结构及多类学习算法,并重点回顾了国内外类脑神经形态芯片的研究进展,为该领域新手提供学习概念与研究方向。
2023-09-08 cs.AI cs.NE
PC-SNN: Predictive Coding-based Local Hebbian Plasticity Learning in Spiking Neural Networks
Sun Yat-Sen University (Shenzhen Campus)(中山大学(深圳校区));Harbin Institute of Technology Shenzhen(哈尔滨工业大学(深圳));City University of Hong Kong(香港城市大学);The University of South Dakota(南达科他大学);Lingnan University(岭南大学)
PC-SNN通过整合预测编码与脉冲神经网络,实现生物合理的局部赫布学习,无需反向传播,提升SNN训练的可扩展性和生物合理性。
2026-02-07 cs.NE
A Cognitive Architecture Based on a Learning Classifier System with Spiking Classifiers
学习分类器系统(LCS)是基于人口的强化学习器,最初被设计用于模拟各种认知现象。本文提出了一个明确的认知LCS使用脉冲神经网络作为分类器,提供每个分类器的时间动态性的措施。我们采用了一个建构主义模型的神经元和突触连接的增长,这使得遗传算法(GA)自动进化的复杂的神经结构。尖峰分类器与时间敏感的强化学习算法相结合,该算法允许系统通过适当地奖励通过将多个原子动作链接在一起而创建的“宏动作”来执行时间状态分解。时间强化学习和神经信息处理的组合被证明优于基准神经分类器系统,并成功地解决了机器人导航任务。
2015-08-31 cs.NE
Spiking World Model with Multi-Compartment Neurons for Model-based Reinforcement Learning
该研究提出可非线性整合多树突信息的多隔室脉冲神经元,并构建 Spiking-WM,使 SNN 能用于基于模型的 DRL,在控制和长序列语音任务中表现优异。
2025-03-19 cs.NE
A Spiking Network for Inference of Relations Trained with Neuromorphic Backpropagation
在广泛的日常物体中对智能传感器的日益增长的需求要求存在能够在其环境中自主操作的低功率信息处理系统。特别是,有效地合并和处理不同传感器的输出是移动代理的认知能力的必要要求。在这项工作中,我们提出了一个多层的脉冲神经网络的刺激模式之间的关系在专用的神经形态系统的推理。该系统使用新版本的反向传播算法进行训练,该算法适用于神经形态硬件中的片上学习:错误梯度被编码为通过对称突触传播的尖峰信号,使用与前向传播期间使用的相同的集成和发射硬件基础设施。我们证明了强度的算术关系推理任务和视觉XOR的MNIST数据集上的方法。与以前的生物启发的网络实现相比,我们的方法能够用更少的神经元实现更好的性能。我们的架构是第一个具有片上学习能力的脉冲神经网络架构,它能够对复杂的视觉刺激进行关系推理。这些功能使我们的系统感兴趣的传感器融合应用和自主神经形态代理的嵌入式学习。
2019-03-11 cs.NE
Waves and symbols in neuromorphic hardware: from analog signal processing to digital computing on the same computational substrate
受皮层微电路启发,提出用循环脉冲神经网络在同一神经形态基底上实现模拟信号处理与数字计算的无缝切换,并通过硬件实验验证其稳健性。
2025-02-27 cs.NE
When Spiking neural networks meet temporal attention image decoding and adaptive spiking neuron
针对SNN未充分利用时间信息及忽略自适应阈值的问题,提出基于时间注意力的图像解码方法(TAID)和自适应LIF神经元模型(ALIF),在图像生成质量及MNIST和CIFAR-10分类准确率上均达到SOTA。
2024-06-05 cs.NE
MorphAtt: A Neuromorphic Accelerator for Efficient Multi-Head Attention Processing in Spiking Vision Transformers
New York University(纽约大学);University of Tehran(德黑兰大学)
针对脉冲视觉Transformer推理能效低的问题,提出神经形态加速器MorphAtt,通过级联硬件模块优化多头自注意力处理,在32nm工艺下实现20.3-29.1 TOPS/W能效,优于现有技术。
2026-09-29 cs.AR cs.LG cs.NE
Spiking Neural Network Phase Encoding for Cognitive Computing
本文提出基于认知计算原理,利用脉冲神经网络和离散傅里叶变换实现任意时间序列信号的重建,通过N个神经元捕获频率分量并探讨幅度相位关系,为认知信号分析提供新方法。
2024-05-25 cs.NE
Parallel Spiking Unit for Efficient Training of Spiking Neural Networks
本文提出并行脉冲单元(PSU)及其变体IPSU和RPSU,通过解耦泄漏积分与发放机制并概率化重置过程,实现SNN膜电位的并行计算,在多个数据集上验证了性能、仿真速度和能量效率的显著提升。
2024-06-08 cs.NE
Evolving Spiking Networks with Variable Resistive Memories
类脑计算是一种需要自适应学习机制的类脑信息处理范式。脉冲神经进化系统用于此目的;可塑性电阻存储器被实现为脉冲神经网络中的突触。进化设计过程利用参数自适应,并允许拓扑结构和突触权重以自主方式为每个网络进化。可变电阻存储器是这项研究的重点;每个突触都有自己的电导曲线,可以修改设备的塑性行为,并可能在进化过程中发生变化。这些可变电阻网络上的噪声机器人动态奖励的情况下,对两个静态电阻存储器和一个系统只包含标准连接进行评估。结果表明,额外的行为自由度自由度的网络纳入可变电阻记忆使他们能够胜过比较突触类型。
2015-05-17 cs.NE
Exploiting Spiking Dynamics with Spatial-temporal Feature Normalization in Graph Learning
Center for Brain-Inspired Computing Research (CBICR)(类脑计算研究中心);Tsinghua University(清华大学)
具有内在动力学的生物尖峰神经元是大脑在复杂环境中处理多模态信息的强大表征和学习能力的基础。尽管最近脉冲神经网络(SNN)在处理欧氏空间任务方面取得了巨大的进展,但利用SNN处理由图数据表示的非欧氏空间数据仍然具有挑战性,主要是由于缺乏有效的建模框架和有用的训练技术。在这里,我们提出了一个通用的基于尖峰的建模框架,可以直接训练SNN进行图学习。通过时空展开的尖峰数据流的节点功能,我们将图卷积过滤器尖峰动力学和形式化的协同学习范式。考虑到尖峰表示和尖峰动力学的独特特征,我们提出了一种适用于SNN的时空特征归一化(STFN)技术来加速收敛。我们将我们的方法实例化为两个尖峰图模型,包括图卷积SNN和图注意SNN,并在三个节点分类基准测试(包括Cora,Citeseer和Pubmed)上验证其性能。我们的模型可以实现与最先进的图神经网络(GNN)模型具有更低的计算成本相当的性能,表现出极大的好处,神经形态硬件上的执行,并促进神经形态应用程序在图形场景。
2021-06-30 cs.LG cs.NE
Efficient Online Learning for Networks of Two-Compartment Spiking Neurons
本文针对双室LIF脉冲神经元网络训练内存大且梯度易消失的问题,提出专用在线学习方法及自适应TC-LIF模型,在序列基准上兼顾序列建模能力与训练效率。
2024-02-25 cs.NE
An Efficient Software-Hardware Design Framework for Spiking Neural Network Systems
脉冲神经网络(SNN)是模仿大脑自然行为的第三代神经网络(NN)。通过基于二进制输入/输出的处理,SNN提供更低的复杂度、更高的密度和更低的功耗。这项工作提出了一个有效的软件-硬件设计框架开发SNN系统的硬件。此外,本文还提出了一种基于分组交换通信方式的低成本神经突触核的设计方案。评估结果表明,大小为784:1200:1200:10的ANN到SNN的转换方法对MNIST的准确率为99%,而无监督的STDP在大小为784:400的情况下的准确率为89%。256个神经元和65 k个突触的设计也在ASIC 45 nm技术中实现,面积成本为0.205 $m m^2$。
2020-03-22 cs.NE
Biologically Inspired Spiking Diffusion Model with Adaptive Lateral Selection Mechanism
本研究提出一种基于脉冲神经网络、集成侧向连接与子结构选择网络的扩散模型,通过动态更新侧向连接增强适应性,并在多个基准数据集上超越现有SNN生成模型。
2025-03-31 cs.NE
Beyond the Hamming Cliff: Compact Spatial Encodings Preserving Semantic Distance in Spiking Neural Networks
Manchester Metropolitan University(曼彻斯特城市大学);Sheffield Hallam University(谢菲尔德哈勒姆大学);Università degli Studi di Catania(卡塔尼亚大学)
该研究针对脉冲神经网络的汉明悬崖问题,提出含格雷、温度计、约翰逊编码极限情况的混合编码,在SpiNNaker硬件上验证其可保留语义距离且码宽更小,明确稳态因子的容差作用。
2026-10-16 cs.NE
Conversion of Artificial Recurrent Neural Networks to Spiking Neural Networks for Low-power Neuromorphic Hardware
近年来,功耗低几个数量级的神经形态低功耗系统领域获得了显著的发展势头。然而,由于缺乏能够利用这种架构优势的算法,它们的广泛使用仍然受到阻碍。虽然表示学习算法的神经形态适应正在出现,但时间序列或可变长度输入的有效处理仍然很困难。循环神经网络(RNN)被广泛用于机器学习以解决各种序列学习任务。在这项工作中,我们提出了一种训练和约束方法,使机器学习(Elman)RNN映射到尖峰神经元的基底上,同时与当前和不久的将来的神经形态系统的能力兼容。这种“训练和约束”方法包括首先使用时间反向传播来训练RNN,然后离散化权重,最后通过将人工神经元的响应与尖峰神经元的响应相匹配来将它们转换为尖峰RNN。我们展示了我们的方法,通过映射一个自然语言处理任务(问题分类),在那里我们展示了整个映射过程的递归层的网络IBM的神经突触系统“TrueNorth”,一个尖峰为基础的数字神经形态硬件架构。TrueNorth对连接性、神经和突触参数施加了特定的约束。为了满足这些约束,需要将突触权重和神经活动离散化到16个级别,并将扇入限制为64个输入。我们发现,短的突触延迟足以在问题分类任务中实现RNN的动态(时间)方面。硬件约束模型在问题分类中实现了74%的准确性,同时在一个TrueNorth芯片上使用不到0.025%的内核,估计功耗约为17 uW。
2016-01-16 cs.NE
Exploiting a Stimuli Encoding Scheme of Spiking Neural Networks for Stream Learning
TECNALIA(泰克纳利亚);Télécom ParisTech(巴黎电信学院);University of Waikato(怀卡托大学);Basque Center for Applied Mathematics (BCAM)(巴斯克应用数学中心);University of the Basque Country UPV/EHU(巴斯克大学(UPV/EHU))
随着新的流应用和大数据场景的到来,流数据处理已经获得了进步的势头。流学习中最有前途的技术之一是脉冲神经网络,其中一些使用有趣的群体编码方案将传入的刺激转换为尖峰。这项研究揭示了这种编码方案的关键问题,高斯感受野,并专注于将它们作为预处理技术应用于任何数据集,以获得代表性,并提高流学习方法的预测性能。合成和真实数据集的实验,并导致确认,我们的方法可以成功地应用于许多实际情况下,作为一个通用的预处理技术。
2019-07-23 cs.AI cs.LG cs.NE
BackEISNN: A Deep Spiking Neural Network with Adaptive Self-Feedback and Balanced Excitatory-Inhibitory Neurons
脉冲神经网络(SNN)通过离散的脉冲信号传输信息,在处理时空信息方面表现良好。由于神经网络的不可微特性,设计性能良好的神经网络仍然存在困难。最近,由于梯度近似的提出,用反向传播训练的SNN表现出优越的性能。然而,在复杂任务上的性能与深度神经网络相比仍有很大差距。受脑内自发放电机制的启发,我们采用了一种自适应延迟的膜电位自反馈机制来调节放电的精确性。同时,我们采用平衡兴奋和抑制神经元的机制来动态控制发放神经元的输出。结合这两种机制,我们提出了一种具有自适应自反馈和平衡兴奋和抑制神经元的深度脉冲神经网络(BackEISNN)。在多个标准数据集上的实验结果表明,这两个模块不仅加快了网络的收敛速度,而且提高了精度。对于MNIST,FashionMNIST和N-MNIST数据集,我们的模型已经达到了最先进的性能。对于CIFAR 10数据集,我们的BackEISNN在与最先进的SNN竞争的相对较轻的结构上也获得了显着的性能。
2021-05-27 cs.NE
Mamba-Spike: Enhancing the Mamba Architecture with a Spiking Front-End for Efficient Temporal Data Processing
Xi’an Jiaotong-Liverpool University(西交利物浦大学);University of Liverpool(利物浦大学);East China Normal University(华东师范大学)
本文提出Mamba-Spike架构,将脉冲神经网络前端与Mamba主干结合,实现高效鲁棒的时序数据处理,在多个数据集上准确率、延迟和能效均优于基线。
2024-08-04 cs.AI cs.NE
The Ripple Pond: Enabling Spiking Networks to See
在本文中,我们提出了生物启发的涟漪池塘网络(RPN),一个简单的连接脉冲神经网络,与最近提出的多时网络(PCN)一起工作,使快速,无监督,规模和旋转不变的对象识别,使用有效的时空尖峰编码。RPN是一种硬件解决方案,将先前实现的神经形态视觉和存储器结构连接起来,能够为移动和自主应用提供端到端的高速、低功耗和低分辨率识别,在这些应用中,缓慢、高度复杂和耗电的信号处理解决方案无效。所提出的方法的关键方面包括利用物理嵌入的神经网络的空间特性和传播波的活动在其中的信息处理,使用空间塌陷的图像信息到顺从的时间模式和使用异步帧的信息绑定。
2013-06-13 cs.NE q-bio.NC
Spiking Neural Networks for Radio Frequency Interference Detection in Radio Astronomy
International Centre for Radio Astronomy Research, University of Western Australia(西澳大利亚大学国际射电天文研究中心);School of Physics, Mathematics and Computing, University of Western Australia(西澳大利亚大学物理、数学与计算学院)
本文提出利用脉冲神经网络进行射频干扰检测,通过时间序列分段任务实现高效实时处理,展示了在合成和实测数据上的良好性能。
2025-10-24 astro-ph.IM cs.NE
Scalable neuromorphic computing from autonomous spiking dynamics in a clockless reconfigurable chip
LMOPS UR4423 Laboratory, CentraleSupélec and Université de Lorraine(LMOPS UR4423实验室,中央超导电子实验室和洛林大学)
本文提出了一种基于无时钟数字电路自主连续演化的脉冲动态的可扩展神经形态架构,通过FPGA实现可配置的布尔脉冲神经元网络,展示了在音频分类任务中高效处理脉冲编码数据的性能,且能耗显著低于传统数字方案。
2026-05-15 cs.LG cs.NE
A theoretical basis for efficient computations with noisy spiking neurons
大脑中的神经元网络应用-与我们当前一代计算机硬件中的处理器不同-基于事件的处理策略,其中神经元稀疏地发出短脉冲(尖峰)以在特定时间点发出事件发生的信号。这种基于尖峰的计算有望比传统的时钟控制处理方案实质上更省电。然而,事实证明,设计能够进行高要求计算的尖峰神经元网络是非常困难的。我们在这里提出了一个新的理论框架,组织计算的尖峰神经元网络。特别是,我们表明,一个合适的设计,使他们能够解决硬约束满足问题的规划优化和验证逻辑推理的域。基本的设计原则采用噪声作为计算资源。然而,尖峰的时间(而不仅仅是尖峰率)在最终的计算中起着至关重要的作用。此外,可以证明旅行商问题的一个令人惊讶的计算优势的尖峰神经元网络相比,传统的人工神经网络和吉布斯采样。这种优势的识别一直是一个众所周知的开放问题。
2014-12-18 cs.NE q-bio.NC
Spiking Neural Networks for SAR Interferometric Phase Unwrapping: A Theoretical Framework for Energy-Efficient Processing
ESADE Business School(埃萨德商学院)
提出首个将脉冲神经网络应用于SAR干涉相位解缠的理论框架,通过事件驱动计算节省30-100倍能源,开发了专用脉冲编码与网络架构,开辟了神经形态计算与SAR干涉测量交叉的新方向。
2025-06-25 cs.ET cs.LG cs.NE
Multi-Timescale Conductance Spiking Networks: A Sparse, Gradient-Trainable Framework with Rich Firing Dynamics for Enhanced Temporal Processing
Department of Neurobiology, University of California Los Angeles (UCLA)(加州大学洛杉矶分校神经生物学系);Instituto de Física Corpuscular (IFIC, CSIC–UV)(Corpuscular物理研究所(IFIC,CSIC–UV))
本文提出多时间尺度传导突触网络,通过调节快、慢和超慢电导来控制神经动力学,实现高效训练和稀疏活动,提升时间处理能力。
2026-05-12 cs.AI cs.LG cs.NE
A High-Throughput Spiking Neural Network Processor Enabling Synaptic Delay Emulation
The School of Electronic Information and Electrical Engineering, Shanghai Jiao Tong University, Shanghai, China(电子信息与电气工程学院,上海交通大学,上海,中国)
本文提出一种支持突触延迟仿真的高吞吐量SNN处理器,采用多核流水线与并行计算引擎,在PYNQ Z2 FPGA上实现,SHD关键词识别精度达93.4%,吞吐量104样本/秒。
2025-11-03 cs.AI cs.NE
Neuromorphic Processing and Sensing: Evolutionary Progression of AI to Spiking
University of Strathclyde(思克莱德大学)
随着机器学习和深度学习应用的不断增长,需要更多的计算资源来成功满足始终连接的自动化世界不断增长的需求。基于脉冲神经网络算法的神经形态技术有望通过对人脑的功能和尖峰进行建模,使用一小部分计算和功率需求来实现高级人工智能。随着帮助数据科学家和机器学习工程师开发人工和深度神经网络的最新创新的工具和平台的激增,向新范式的过渡将需要在当前完善的基础上进行构建。本文阐述了基于尖峰信号的神经形态技术的理论工作原理,并综述了硬件处理器、软件平台和神经形态传感设备的最新进展。为当前的机器学习专家铺平了一条发展道路,以更新他们的技能,以及从当前一代深度神经网络到SNN的分类或预测模型。这可以通过利用SpiNNaker和Nengo迁移工具包形式的现有专用硬件来实现。第一手,VGG-16神经网络转换为SNN的实验结果是共享的。一个前瞻性的目光到工业,医疗和商业应用,可以很容易地受益于SNN结束了这项调查到类脑计算的未来。
2020-07-10 cs.AI cs.CV cs.LG
NeuroHSMD: Neuromorphic Hybrid Spiking Motion Detector
Nottingham Trent University(诺丁汉特伦特大学);Ulster University(阿尔斯特大学)
脊椎动物的视网膜在处理诸如检测移动物体等琐碎的视觉任务方面效率很高,但这对现代计算机来说是一个复杂的挑战。在脊椎动物中,物体运动的检测是由称为物体运动敏感神经节细胞(OMS-GC)的专门视网膜细胞执行的。OMS-GC处理连续的视觉信号,并产生由视觉皮层后处理的尖峰模式。我们之前的混合敏感运动检测器(HSMD)算法是第一个使用定制的3层脉冲神经网络(SNN)增强背景减除(BS)算法的混合算法,该网络可生成OMS-GC脉冲样响应。在这项工作中,我们提出了一种神经形态混合敏感运动检测器(NeuroHSMD)算法,加速我们的HSMD算法使用现场可编程门阵列(FPGA)。使用相同的2012变更检测(CDnet 2012)和2014变更检测(CDnet 2014)基准数据集,将NeuroHSMD与HSMD算法进行比较。当针对CDnet 2012和CDnet 2014数据集进行测试时,NeuroHSMD分别以720 x480(每秒28.06帧(fps))和720 x480(每秒28.71帧)的速度执行对象运动检测,质量没有下降。此外,在本文中提出的NeuroHSMD是完全实现在开放式计算机语言(OpenCL),因此很容易复制在其他设备,如图形处理单元(GPU)和集群的中央处理单元(CPU)。
2023-02-14 cs.CV cs.NE eess.IV
Probabilistic spike propagation for FPGA implementation of spiking neural networks
IIT Madras(印度理工学院马德拉斯分校)
脉冲神经网络的评估需要获取大量的突触权重来更新突触后神经元。这限制了并行性并成为硬件的瓶颈。我们提出了一种基于权重概率解释的尖峰传播方法,从而减少了内存访问和更新。我们研究了在尖峰处理中引入随机性的影响,并在基准网络上表明,这可以在对识别精度影响最小的情况下完成。我们在Xilinx Zynq平台上为MNIST和CIFAR10数据集提供了一个架构和完全连接和卷积网络的准确性权衡。
2020-01-07 cs.LG cs.NE
Enhanced Temporal Processing in Spiking Neural Networks for Static Object Detection Using 3D Convolutions
为解决直接训练的SNN在静态目标检测中性能落后于ANN的问题,本文提出用3D卷积替代2D卷积并引入神经元时间信息循环机制,使SNN在COCO2017和VOC数据集上达到与ANN相当的检测性能。
2024-12-23 cs.AI cs.CV cs.NE
Online Transformers with Spiking Neurons for Fast Prosthetic Hand Control
Peter Grünberg Institute(彼得·格林贝格研究所);Forschungszentrum Jülich(于利希研究中心);RWTH(亚琛工业大学)
Transformers是用于大多数序列处理任务的最先进的网络。然而,在Transformers中经常使用的自注意力机制对于每个计算步骤需要大的时间窗口,并且因此使得它们与递归神经网络(RNN)相比不太适合于在线信号处理。在本文中,我们使用滑动窗口注意力机制代替自注意力机制。我们表明,这种机制对于输入和目标之间具有有限范围依赖关系的连续信号更有效,并且我们可以用它来逐个元素地处理序列,这使得它与在线处理兼容。我们在手指位置回归数据集(NinaproDB 8)上测试了我们的模型,并在前臂皮肤上测量了表面肌电图(sEMG)信号,以估计肌肉活动。我们的方法在该数据集的准确性方面设置了新的最先进的技术,同时在每个推理步骤中只需要非常短的3.5 ms的时间窗口。此外,我们使用Leaky-Integrate and Fire(LIF)单元增加了网络的稀疏性,这是一种生物启发的神经元模型,仅在跨越阈值时才在时间上稀疏激活。因此,我们减少了突触操作的数量高达$\times5.3$的一个因素,而不损失的准确性。我们的研究结果为sEMG信号的准确和快速的在线处理提供了很大的希望,以实现平稳的假肢手控制,并且是Transformers和脉冲神经网络(SNN)协整的能量有效的时间信号处理的一步。
2023-03-21 cs.AI cs.LG cs.NE
Object Detection based on LIDAR Temporal Pulses using Spiking Neural Networks
Binghamton University(宾汉姆顿大学);The State University of New York(纽约州立大学);University at Buffalo(布法罗大学)
神经网络已成功应用于激光雷达数据的处理,尤其是在自动驾驶的场景中。然而,现有的方法严重依赖于从激光雷达传感器导出的脉冲信号的预处理,因此导致高计算开销和相当大的延迟。在本文中,我们提出了一种方法,利用脉冲神经网络(SNN),以解决直接与原始时间脉冲的对象识别问题。为了帮助评估和基准测试,创建了一个全面的时间脉冲数据集,以模拟不同道路场景中的激光雷达反射。在不同的噪声条件下,我们提出的方法进行了测试方面的识别精度和时间效率,表现出显着的性能与推理准确率高达99.83%(10%的噪声)和平均识别延迟低至265 ns。它强调了SNN在自动驾驶和一些相关应用中的潜力。特别是,据我们所知,这是第一次尝试使用SNN直接对原始激光雷达时间脉冲进行对象识别。
2018-10-29 cs.AI cs.NE
Time-coded Spiking Fourier Transform in Neuromorphic Hardware
经过几十年的不断优化计算系统,摩尔定律正在达到它的目的。然而,对快速高效的处理系统的需求越来越大,这些系统可以处理大数据流,同时减少系统占用空间。类脑计算通过创建随时间推移与二进制事件通信的分散式架构来满足这一需求。尽管在过去的几年里,它的快速增长,新的算法,可以利用这种新兴的计算范式的潜力,并可以刺激先进的neuromorphic chips.In这项工作的设计,我们提出了一个基于时间的脉冲神经网络,这是数学上等价的傅立叶变换。我们在神经形态芯片Loihi中实现了该网络,并使用汽车调频连续波雷达在五种不同的真实场景中进行了实验。实验结果验证了该算法的有效性,并希望它们能促进adhoc神经形态芯片的设计,从而提高现有数字信号处理器的效率,鼓励类脑计算在信号处理方面的研究。
2022-03-31 cs.NE eess.SP
An Introduction to Probabilistic Spiking Neural Networks: Probabilistic Models, Learning Rules, and Applications
脉冲神经网络(SNN)是分布式可训练系统,其计算元件或神经元的特征在于内部模拟动力学以及数字和稀疏突触通信。突触尖峰输入的稀疏性和神经处理的对应的事件驱动性质可以通过节能硬件实现来利用,与传统的人工神经网络(ANN)相比,这可以提供显著的能量减少。训练算法的设计滞后于硬件实现。大多数现有的SNN训练算法都是针对生物相容性设计的,或者是通过速率编码从预训练的ANN转换而来的。本文通过关注概率信号处理方法来介绍SNN,该方法通过利用SNN独特的时间编码功能来直接导出学习规则。我们采用离散时间概率模型的网络尖峰神经元和监督和无监督学习规则的第一原则,通过变分推理。还提供了实例和开放的研究问题。
2019-11-27 cs.LG cs.NE eess.SP
POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons
National Tsing Hua University(清华大学)
人类大脑作为一个生物处理系统的内部运作在很大程度上仍然是一个谜。受人脑功能的启发,并基于对其他物种(如果蝇)中简单神经网络系统的分析,类脑计算系统引起了人们的极大兴趣。在细胞水平的连接组学研究中,我们可以识别生物神经网络的特征,即种群,它不仅构成网络中循环的全连接,而且构成每个神经元中的一个外部刺激和自连接。脉冲神经网络依靠网络中脉冲传输和输入数据的低数据带宽,实现了低延迟、低功耗的设计。在这项研究中,我们提出了一个可配置的人口为基础的数字尖峰神经形态处理器在180纳米工艺技术与两个可配置的层次人口。此外,处理器中的这些神经元可以被配置为新颖的模型,整数二次积分和激发神经元模型,其包含无符号的8位膜电位值。处理器可以实时实现智能决策。此外,所提出的方法使仿生神经形态系统和各种低功耗,低延迟的推理处理应用的发展。
2022-01-19 cs.AI cs.NE
MT-Spike: A Multilayer Time-based Spiking Neuromorphic Architecture with Temporal Error Backpropagation
现代深度学习使能的人工神经网络,例如深度神经网络(DNN)和卷积神经网络(CNN),已经在广泛的识别应用上取得了一系列突破性的记录。然而,与这种深度和复杂的神经网络模型相关联的巨大计算和存储需求极大地挑战了它们在资源有限的平台上的实现。基于时间的脉冲神经网络是类脑计算系统设计中的一个很有前途的解决方案,它可以在单个芯片内实现显著的计算效率和功耗效率。然而,相关的研究活动一直狭隘地集中在生物相容性和理论学习方法,导致低效的神经处理和不切实际的多层扩展,从而显着限制了处理现实认知任务的速度和准确性。在这项工作中,一个实用的多层基于时间的尖峰神经形态架构,即“MT尖峰”,开发,以填补这一空白。与建议的实际时间编码方案,平均延迟响应模型,时间误差反向传播算法,和启发式损失函数,“MT-尖峰”实现更有效的神经处理,通过灵活的神经模型的大小减少,同时提供非常有竞争力的分类精度为现实的识别任务。仿真结果很好地验证了深度多层学习的算法能力可以与基于时间的尖峰神经形态架构的效率无缝融合,展示了“MT-Spike”在资源和功耗受限的嵌入式平台中的巨大潜力。
2018-03-14 cs.NE q-bio.NC
Exploiting Noise as a Resource for Computation and Learning in Spiking Neural Networks
Zhejiang University(浙江大学);Zhejiang University of Technology(浙江工业大学)
本文提出嘈杂脉冲神经网络(NSNN)与噪声驱动学习规则(NDL),通过引入嘈杂神经元动力学利用噪声的计算优势,使模型具备可扩展、灵活且可靠的计算能力,在性能、鲁棒性和概率计算再现上优于确定性SNNs。
2023-09-15 cs.AI cs.LG cs.NE
An Introduction to Spiking Neural Networks: Probabilistic Models, Learning Rules, and Applications
尖峰神经网络(SNN)是分布式可训练系统,其计算元件或神经元的特征在于内部模拟动态以及数字和稀疏突触通信。突触尖峰输入的稀疏性和神经处理的对应的事件驱动性质可以通过与常规人工神经网络(ANN)相比已经展示出显著能量降低的硬件实现来利用。大多数现有的SNN训练算法都是针对生物相容性设计的,或者是通过速率编码从预训练的ANN转换而来的。本文的目的是提供一个介绍SNN的概率信号处理方法,使学习规则的直接推导,利用SNN独特的时间编码能力。为此,本文采用网络尖峰神经元的离散时间概率模型,并利用变分推理从第一性原理推导出有监督和无监督学习规则。还提供了实例和开放的研究问题。
2019-10-20 cs.IT cs.LG cs.NE
SpikingJelly: An open-source machine learning infrastructure platform for spike-based intelligence
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室);Shanghai Jiao Tong University(上海交通大学);Chinese Academy of Sciences(中国科学院);Centre de Recherche Cerveau et Cognition (CERCO), UMR5549 CNRS - Univ. Toulouse 3(大脑与认知研究中心(CERCO),CNRS UMR5549 - 图卢兹第三大学);University of Chinese Academy of Sciences(中国科学院大学)
SpikingJelly是一个面向脉冲神经网络的全栈开源平台,提供数据集预处理、模型构建、参数优化与芯片部署工具,训练加速达11倍,并通过多级继承和半自动代码生成支持低成本自定义模型加速,推动高能效神经形态智能系统发展。
2023-10-25 cs.LG cs.NE cs.SE
WaveSense: Efficient Temporal Convolutions with Spiking Neural Networks for Keyword Spotting
SynSense AG
超低功耗本地信号处理是始终在线设备上边缘应用的一个关键方面。仿真脉冲神经网络的神经形态处理器显示出巨大的计算能力,同时满足该领域所需的有限功率预算。在这项工作中,我们提出尖峰神经动力学作为一种自然的替代膨胀的时间卷积。我们将这个想法扩展到WaveSense,这是一个受WaveNet架构启发的脉冲神经网络。WaveSense使用简单的神经动力学、固定的时间常数和简单的前馈架构,因此特别适合于神经形态实现。我们在几个数据集上测试了该模型的关键词识别能力。结果表明,该网络击败了其他脉冲神经网络的最新技术水平,并达到了人工神经网络(如CNN和LSTM)的最新性能。
2021-11-02 cs.AI cs.LG cs.NE
A 1.6-fJ/Spike Subthreshold Analog Spiking Neuron in 28 nm CMOS
Université de Sherbrooke(舍布鲁克大学);Université du Québec à Montréal(蒙特利尔大学)
基于28nm CMOS工艺,设计了1.6fJ/脉冲子阈值类脑神经元,用于构建能效混合信号神经形态系统级芯片,实现了82.5%的MNIST数据集准确率。
2026-03-08 cs.NE eess.SP
Spiking Neural Network Feature Discrimination Boosts Modality Fusion
Democritus University of Thrace(色雷斯德谟克利特大学)
针对传统深度神经网络训练耗时耗能的问题,本文提出一种基于脉冲神经网络的特征判别方法,通过视觉模态的深度脉冲残差学习、听觉模态的简单高效脉冲网络处理及脉冲多层感知机融合,提升多模态分类性能,为SNN特征判别研究提供新方向。
2025-02-05 cs.CV cs.LG cs.NE