Towards Efficient Deployment of Hybrid SNNs on Neuromorphic and Edge AI Hardware
University of South Carolina(南卡罗来纳大学)
本研究构建SNN与ANN结合的混合模型,提出跨域累加器电路,将其分别部署在Loihi与Jetson Nano异构硬件上,验证其在多性能指标上优于两类基线模型。
2024-07-11 cs.AI cs.AR cs.CV
Improving classification accuracy of feedforward neural networks for spiking neuromorphic chips
IBM Research Australia(IBM澳大利亚研究院)
深度神经网络(DNN)在许多图像分析任务中实现了人类水平的性能,但DNN大多部署在消耗大量功率的GPU平台上。新的硬件平台使用较低精度的算法,实现了大幅降低功耗。最近,受大脑启发的尖峰神经形态芯片已经实现了更低的功耗,在毫瓦的数量级,同时仍然提供实时处理。然而,为了将DNN部署到节能神经形态芯片,需要克服传统DNN的连续神经元和突触权重、神经形态芯片的离散尖峰神经元和突触之间的不兼容性。以前的工作已经通过训练网络来学习连续概率,然后通过随机采样这些概率将其部署到神经形态架构(如IBM TrueNorth Neurosynaptic System)中来实现这一点。本文的主要贡献是一个新的学习算法,学习TrueNorth配置准备部署。我们通过直接训练一个二进制硬件交叉开关来实现这一点,该交叉开关可容纳TrueNorth轴突配置约束,并且我们提出了一个不同的神经元模型。我们的方法在脑电图(EEG)数据上训练的结果显示,与以前的工作相比有了显着的改进(76%对86%的准确率),同时保持了MNIST手写数据集的最新性能。
2017-05-19 cs.CV cs.NE
Online Pseudo-Zeroth-Order Training of Neuromorphic Spiking Neural Networks
Peking University(北京大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Peng Cheng Laboratory(鹏城实验室)
提出在线伪零阶(OPZO)训练方法,仅需单次前向传播和噪声注入实现空间信用分配,避免空间BP的对称权重问题,在神经形态和静态数据集上达到与空间BP相当的性能,且训练成本低。
2024-07-17 cs.AI cs.LG cs.NE
Adaptive motor control and learning in a spiking neural network realised on a mixed-signal neuromorphic processor
类脑计算是受生物神经网络的启发而产生的一种新的计算硬件和算法设计范例。类脑计算基于事件的性质和固有的并行性使其成为一种很有前途的范例,用于构建基于神经网络的高效体系结构,以控制快速敏捷的机器人。在本文中,我们提出了一个脉冲神经网络架构,使用感觉反馈来控制旋转速度的机器人车辆。当速度达到目标值时,从车辆的目标速度到正确的运动命令的映射(两者都在神经形态设备上的脉冲神经网络中表示)使用片上塑性突触权重自主地存储在设备上。我们验证控制器使用的微型移动车辆和惯性测量单元的车轮电机作为感官反馈和演示在线学习的一个简单的“逆模型”在两层脉冲神经网络的神经形态芯片。具有256个尖峰神经元的原型神经形态设备使我们能够实现纯粹神经形态运动控制和学习的概念架构的简单证明。如果有更大的神经形态设备,该架构可以很容易地按比例放大。
2018-10-25 cs.ET cs.NE
POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons
National Tsing Hua University(清华大学)
人类大脑作为一个生物处理系统的内部运作在很大程度上仍然是一个谜。受人脑功能的启发,并基于对其他物种(如果蝇)中简单神经网络系统的分析,类脑计算系统引起了人们的极大兴趣。在细胞水平的连接组学研究中,我们可以识别生物神经网络的特征,即种群,它不仅构成网络中循环的全连接,而且构成每个神经元中的一个外部刺激和自连接。脉冲神经网络依靠网络中脉冲传输和输入数据的低数据带宽,实现了低延迟、低功耗的设计。在这项研究中,我们提出了一个可配置的人口为基础的数字尖峰神经形态处理器在180纳米工艺技术与两个可配置的层次人口。此外,处理器中的这些神经元可以被配置为新颖的模型,整数二次积分和激发神经元模型,其包含无符号的8位膜电位值。处理器可以实时实现智能决策。此外,所提出的方法使仿生神经形态系统和各种低功耗,低延迟的推理处理应用的发展。
2022-01-19 cs.AI cs.NE
Solving a steady-state PDE using spiking networks and neuromorphic hardware
神经形态处理器的广泛并行的脉冲神经网络可以实现计算上强大的公式化。虽然最近的兴趣主要集中在机器学习任务上,但适当应用的空间是广泛的,并在不断扩大。在这里,我们利用并行和事件驱动的结构来解决稳态热方程使用随机游走方法。随机游走可以完全在脉冲神经网络内使用随机神经元行为执行,我们提供了IBM TrueNorth和Intel Loihi实现的结果。此外,我们将此算法定位为神经形态系统的潜在可扩展基准。
2020-05-21 cs.CE cs.NE
Spiking Neural Networks for Continuous Control: Neuromorphic Reinforcement Learning in Conventional Computing
New Mexico Institute of Mining and Technology(新墨西哥矿业技术学院);The University of Texas at El Paso(德克萨斯大学埃尔帕索分校)
该研究提出SANSAC算法,在传统硬件上验证其性能与SAC近乎相当,证明基于脉冲神经网络的算法可用于复杂连续环境,为神经形态强化学习研究奠定了基础。
2026-08-25 cs.LG cs.NE
Implementing Spiking Neural Networks on Neuromorphic Architectures: A Review
最近,工业界和学术界都提出了几种不同的神经形态系统来执行使用脉冲神经网络(SNN)设计的机器学习应用。随着设计和技术方面的复杂性不断增加,对这样的系统进行编程以接纳和执行机器学习应用正变得越来越具有挑战性。此外,神经形态系统需要保证实时性能,消耗更低的能量,并提供对逻辑和存储器故障的容忍度。因此,显然需要能够在当前和新兴的神经形态系统上实现机器学习应用并同时解决性能、能量和可靠性的系统软件框架。在这里,我们提供了一个全面的概述,提出了这样的框架,基于平台的设计和软硬件协同设计。我们强调的挑战和机遇,未来在系统软件技术领域的类脑计算。
2022-02-17 cs.NE cs.SE
ST-MNIST -- The Spiking Tactile MNIST Neuromorphic Dataset
National University of Singapore(新加坡国立大学)
触觉感知是智能机器人的一种基本形式,因为它使它们能够灵活地与环境中的物理对象进行交互。电子皮肤的最新进展已经导致开发了利用这种重要的感觉模态的数据驱动的机器学习方法。然而,用于训练这种算法的当前数据集限于标准同步触觉传感器。缺乏基于神经形态事件的触觉数据集,主要是由于缺乏大规模的基于事件的触觉传感器。拥有这样的数据集对于开发和评估处理基于时空事件的数据的新算法至关重要。例如,在传统的基于帧的数据集上评估脉冲神经网络被认为是次优的。在这里,我们首次推出了一种新的神经形态尖峰触觉MNIST(ST-MNIST)数据集,其中包括手写数字由人类参与者在神经形态触觉传感器阵列上书写。我们还描述了一个初步的努力,以评估我们的ST-MNIST数据集使用现有的人工和脉冲神经网络模型。本文提供的分类精度可以作为未来工作的性能基准。我们预计,我们的ST-MNIST数据集将是感兴趣的和有用的神经形态和机器人研究社区。
2020-05-08 cs.CV cs.HC cs.NE
A Spiking Neural Network for Image Segmentation
Applied Brain Research, Inc(应用大脑研究公司);Army Research Lab(陆军研究实验室);University of Waterloo(滑铁卢大学)
我们试图研究计算机视觉的类脑计算的可扩展性,目的是在降低功耗的同时复制计算机视觉任务的非神经形态性能。我们使用Nengo框架将深度人工神经网络(ANN)架构U-Net转换为脉冲神经网络(SNN)架构。基于速率和基于尖峰的模型都经过训练和优化,以实现基准性能和功率,使用由细胞显微镜图像组成的ISBI 2D EM分割数据集的修改版本。我们提出了一种分区方法来优化芯片间通信,以提高速度和能源效率时,部署多芯片网络的Loihi神经形态芯片。我们探讨了将Loihi神经元的放电率正则化以最小的精度损失和优化的能耗将ANN转换为SNN的优势。我们提出了一个基于百分位数的正则化损失函数来限制神经元的尖峰速率在期望的范围之间。SNN直接从相应的ANN转换而来,并使用相同数量的神经元和权重展示了与ANN类似的语义分割。然而,在英特尔Loihi神经形态芯片上实现的神经形态在在线运行时(一次一个图像)的能效比传统硬件(CPU、GPU)高出2倍以上。这些功率改进是在不牺牲网络的任务性能准确性的情况下实现的,并且所有权重(Loihi,CPU和GPU网络)都被量化为8位。
2021-06-16 cs.CV cs.LG cs.NE
Energy-Aware Spike Budgeting for Continual Learning in Spiking Neural Networks for Neuromorphic Vision
Dept. of Electrical and Electronics Engineering, University of Liberal Arts Bangladesh(乌拉尔大学 bangladesh 电子与电气工程系);Dept. of Electrical Engineering, Pennsylvania State University(宾夕法尼亚州立大学电气工程系)
提出一种面向神经形态视觉的节能脉冲预算持续学习框架,通过整合经验回放、可学习神经元参数和自适应调度器,在帧型和事件型数据集上分别提升准确率并降低能耗。
2026-03-10 cs.AI cs.CV cs.NE
Reinforcement co-Learning of Deep and Spiking Neural Networks for Energy-Efficient Mapless Navigation with Neuromorphic Hardware
Computational Brain Lab, Department of Computer Science, Rutgers University(罗格斯大学计算机科学系计算大脑实验室)
节能的无地图导航对于移动机器人来说至关重要,因为它们在有限的机载资源下探索未知环境。虽然最近的深度强化学习(DRL)方法已成功地应用于导航,但其高能耗限制了其在几个机器人应用中的使用。在这里,我们提出了一种神经形态的方法,结合了脉冲神经网络的能量效率与DRL的最优性,并在无地图导航的学习控制策略中进行基准测试。我们的混合框架,尖峰深度确定性策略梯度(SDDPG),由尖峰演员网络(SAN)和深度评论家网络,其中两个网络使用梯度下降联合训练。共同学习使两个网络之间的协同信息交换成为可能,使它们能够通过共享的表示学习克服彼此的局限性。为了评估我们的方法,我们在英特尔的Loihi神经形态处理器上部署了经过训练的SAN。当在模拟和真实世界的复杂环境中进行验证时,与Jetson TX2上的DDPG相比,我们在Loihi上的方法每次推理消耗的能量减少了75倍,并且还表现出更高的成功导航率,范围从1%到4.2%,并取决于前向传播时间步长。这些结果加强了我们正在进行的努力,设计大脑启发的算法,用于控制具有神经形态硬件的自主机器人。
2020-07-31 cs.LG cs.NE cs.RO
Homogeneous Spiking Neuromorphic System for Real-World Pattern Recognition
Boise State University(博伊西州立大学)
结合CMOS模拟尖峰神经元和忆阻突触的神经形态芯片为脑启发计算提供了一个有前途的解决方案,因为它可以提供大规模的神经网络并行性和密度。以前的混合模拟CMOS-忆阻器方法需要大量的CMOS电路进行训练,因此消除了采用忆阻器突触所获得的大部分密度优势。此外,他们对突触前和突触后尖峰使用了不同的波形,这增加了不期望的电路开销。在这里,我们描述了一个硬件架构,可以具有大量的忆阻器突触学习现实世界的模式。我们提出了一个多功能的CMOS神经元,它结合了集成和发射行为,驱动无源忆阻器并在紧凑的电路模块中实现竞争性学习,并使忆阻器突触中的原位可塑性成为可能。我们演示了手写数字识别使用晶体管级电路模拟所提出的架构。由于所描述的神经形态架构是同质的,它实现了大规模节能大脑启发硅芯片的基本构建块,可能导致下一代认知计算。
2015-06-08 cs.AI cs.CV cs.ET
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出ASPEN,通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数,在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗,为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
Neuromorphic Graph Anomaly Detection via Adaptive STDP and Spiking Graph Neural Networks
School of ICT, Griffith University, Australia(信息科技学院,格里菲斯大学,澳大利亚)
本文提出ASTDP-GAD框架,结合脉冲图神经网络与STDP学习,实现动态网络中的高效异常检测,通过自适应LIF动态、图注意力、超图记忆等创新方法提升检测精度与能效。
2026-04-29 cs.LG cs.NE
Spiking Neural Networks -- Part III: Neuromorphic Communications
无线通信和人工智能之间的协同作用正日益激励着这两个领域交叉点的研究。一方面,越来越多的无线连接设备的存在,每个设备都有自己的数据,正在推动将机器学习(ML)的进步从高性能计算设施(其中信息在单个位置存储和处理)输出到最终用户的分布式隐私意识处理。另一方面,ML可以解决通信协议优化中的算法和模型缺陷。然而,在通过带宽受限通道连接的电池供电设备上实现用于学习和推理的ML模型仍然具有挑战性。本文探讨了两种方式,其中脉冲神经网络(SNN)可以帮助解决这些开放的问题。首先,我们讨论了联邦学习的SNN的分布式训练,然后描述了集成的神经形态传感,SNN和脉冲无线电技术的低功耗远程推理。
2020-12-09 cs.LG cs.NE eess.SP
Spiking Neural Network based Region Proposal Networks for Neuromorphic Vision Sensors
提出了一种基于神经形态视觉传感器数据的三层脉冲神经网络区域建议网络。所提出的架构包括耐火,卷积和聚类层设计与生物现实的泄漏集成和消防(LIF)神经元和突触。所提出的算法进行了测试交通场景记录从DAVIS传感器设置。区域建议网络的性能与基于事件的均值漂移算法进行了比较,发现在相似的精度(~85%)下,召回率要高得多(~50%)。计算和内存的复杂性所提出的方法也被证明是类似的事件为基础的均值漂移
2019-02-26 cs.ET cs.NE
Community detection with spiking neural networks for neuromorphic hardware
我们目前的结果相关的性能的社区发现,其中包括事件驱动的计算算法。我们定义了一个映射,该映射将图G映射到尖峰神经元系统。使用具有抑制性和兴奋性突触连接两者的完全连接的尖峰发放神经元系统,可以将同一社区内的神经元的放电模式与不同社区中的神经元的放电模式区分开。在一个128个顶点的随机图和已知的社区结构,我们表明,通过使用二进制解码和汉明距离为基础的度量,可以确定个人社区的尖峰训练相似性。使用双极解码和有限速率阈值,我们验证了抑制连接防止尖峰模式的传播。
2017-11-20 cs.NE
NeuromorphicRx: From Neural to Spiking Receiver
本文提出了一种基于脉冲神经网络的节能接收机,用于5G-NR系统,通过残差连接和混合架构提升性能,以更低能耗实现更优误码率表现。
2025-12-04 cs.IT cs.NE math.IT
Closed-loop spiking control on a neuromorphic processor implemented on the iCub
Institute of Neuroinformatics, University of Zurich(苏黎世大学神经信息学研究所);ETH Zurich(苏黎世联邦理工学院);Istituto Italiano di Tecnologia(意大利技术研究院)
尽管神经形态工程承诺部署低延迟,自适应和低功耗的系统,可以导致真正自主的人工代理的设计,一个完全神经形态的人工代理的发展仍然是失踪。虽然神经形态传感和感知以及决策系统现在已经成熟,但控制和驱动部分仍然落后。在本文中,我们提出了一个闭环电机控制器上实现的混合信号模拟-数字神经形态硬件使用脉冲神经网络。该网络通过使用尖峰关系网络对目标、反馈和误差信号进行编码来执行比例控制动作。它通过连接模式连续计算误差,该模式通过前馈连接将三个变量联系起来。每个种群内的递归连接被用来加速收敛,减少失配的影响,提高选择性。神经形态电机控制器与iCub机器人模拟器连接。我们测试了我们的尖峰P控制器在一个单一的关节控制任务,特别是机器人头部偏航。尖峰控制器发送目标位置,从其编码器读取电机状态,并将电机命令发送回关节。在阶跃响应实验和目标追踪任务中测试了尖峰控制器的性能。在这项工作中,我们优化了网络结构,使其更强大的噪声输入和设备失配,从而导致更好的控制性能。
2020-09-01 cs.ET cs.NE cs.RO
Fully neuromorphic vision and control for autonomous drone flight
Delft University of Technology(代尔夫特理工大学)
生物传感和处理是异步和稀疏的,导致低延迟和节能的感知和行动。在机器人技术中,基于事件的视觉和脉冲神经网络的神经形态硬件有望表现出类似的特性。然而,由于当前嵌入式神经形态处理器的网络大小受限以及训练脉冲神经网络的困难,机器人实现仅限于具有低维感觉输入和运动动作的基本任务。在这里,我们提出了第一个完全神经形态的视觉控制管道,用于控制自由飞行的无人机。具体来说,我们训练一个脉冲神经网络,接受高维原始事件为基础的相机数据和输出低级别的控制动作,执行自主视觉为基础的飞行。网络的视觉部分由五层和28.8k个神经元组成,将传入的原始事件映射到自我运动估计,并在真实事件数据上进行自监督学习训练。控制部分包括一个单一的解码层,并在无人机模拟器的进化算法学习。机器人实验表明,一个成功的仿真到现实迁移的完全学习的神经形态管道。无人机可以准确地遵循不同的自我运动设定点,允许悬停,着陆和侧向操纵$\unicode{x2014}$,即使在同一时间偏航。神经形态流水线在英特尔的Loihi神经形态处理器上运行,执行频率为200 Hz,每个推理仅花费27 $\unicode{x00b5}$ J。这些结果说明了神经形态传感和处理的潜力,使更小,更智能的机器人。
2023-03-15 cs.AI cs.CV cs.LG
Time-coded Spiking Fourier Transform in Neuromorphic Hardware
经过几十年的不断优化计算系统,摩尔定律正在达到它的目的。然而,对快速高效的处理系统的需求越来越大,这些系统可以处理大数据流,同时减少系统占用空间。类脑计算通过创建随时间推移与二进制事件通信的分散式架构来满足这一需求。尽管在过去的几年里,它的快速增长,新的算法,可以利用这种新兴的计算范式的潜力,并可以刺激先进的neuromorphic chips.In这项工作的设计,我们提出了一个基于时间的脉冲神经网络,这是数学上等价的傅立叶变换。我们在神经形态芯片Loihi中实现了该网络,并使用汽车调频连续波雷达在五种不同的真实场景中进行了实验。实验结果验证了该算法的有效性,并希望它们能促进adhoc神经形态芯片的设计,从而提高现有数字信号处理器的效率,鼓励类脑计算在信号处理方面的研究。
2022-03-31 cs.NE eess.SP
An error-propagation spiking neural network compatible with neuromorphic processors
脉冲神经网络在低功耗传感处理和边缘计算硬件平台的设计中显示出了巨大的潜力。然而,在这种架构上实现片上学习算法仍然是一个开放的挑战,特别是对于依赖于反向传播算法的多层网络。在本文中,我们提出了一种基于尖峰的学习方法,近似反向传播使用本地权重更新机制,这是兼容的混合信号模拟/数字神经形态电路。我们引入了一个网络架构,使突触权重更新机制,以跨层反向传播错误信号,并提出了一个网络,可以训练区分两个尖峰为基础的模式,具有相同的平均发射率,但不同的尖峰定时。这项工作代表了设计超低功耗混合信号神经形态处理系统的第一步,该系统具有片上学习电路,可以被训练以识别尖峰活动的不同时空模式(例如,由基于事件的视觉或听觉传感器产生)。
2021-04-12 cs.NE
WaveSense: Efficient Temporal Convolutions with Spiking Neural Networks for Keyword Spotting
SynSense AG
超低功耗本地信号处理是始终在线设备上边缘应用的一个关键方面。仿真脉冲神经网络的神经形态处理器显示出巨大的计算能力,同时满足该领域所需的有限功率预算。在这项工作中,我们提出尖峰神经动力学作为一种自然的替代膨胀的时间卷积。我们将这个想法扩展到WaveSense,这是一个受WaveNet架构启发的脉冲神经网络。WaveSense使用简单的神经动力学、固定的时间常数和简单的前馈架构,因此特别适合于神经形态实现。我们在几个数据集上测试了该模型的关键词识别能力。结果表明,该网络击败了其他脉冲神经网络的最新技术水平,并达到了人工神经网络(如CNN和LSTM)的最新性能。
2021-11-02 cs.AI cs.LG cs.NE
Brian2Loihi: An emulator for the neuromorphic chip Loihi using the spiking neural network simulator Brian
开发智能神经形态解决方案仍然是一项具有挑战性的工作。它需要对硬件的基本构建块有坚实的概念性理解。除此之外,可访问和用户友好的原型设计对于加快设计流程至关重要。我们开发了一个基于神经网络模拟器Brian的开源Loihi模拟器,它可以很容易地集成到现有的模拟工作流程中。我们展示了一个单一的神经元和一个循环连接的脉冲神经网络的软件中的无错Loihi仿真。片上学习也进行了审查和实施,合理的差异,由于随机舍入。这项工作提供了一个连贯的介绍Loihi的计算单元,并介绍了一个新的,易于使用的Loihi原型包,旨在帮助简化概念化和部署新的算法。
2021-09-25 cs.NE
Coarse scale representation of spiking neural networks: backpropagation through spikes and application to neuromorphic hardware
Argonne National Laboratory(阿贡国家实验室)
在这项工作中,我们探讨了经常性的代表性泄漏整合和消防神经元的时间尺度等于他们的绝对不应期。我们的粗时间尺度近似获得使用的概率分布函数的尖峰到达,均匀分布在这个时间间隔。这导致了一种离散表示,它表现出与连续模型相同的动态特性,从而通过递归实现实现了高效的大规模模拟和反向传播。我们使用这种方法直接在Pytorch中探索深度脉冲神经网络的训练,包括卷积、全对全连接和最大池层。我们发现,递归模型在训练过程中仅使用4长的尖峰序列就可以获得很高的分类精度。我们还观察到一个很好的转移回泄漏集成和火灾神经元的连续实现。最后,我们将这种方法应用于一些标准控制问题,作为使用神经形态芯片探索强化学习的第一步。
2020-07-13 cs.ET cs.LG cs.NE
EventF2S: Asynchronous and Sparse Spiking AER Framework using Neuromorphic-Friendly Algorithm
针对AER-SNN范式在异步处理和稀疏脉冲方面的不足,提出兼容神经形态硬件的EventF2S目标识别框架,通过集成数据编码器与First-To-Spike网络并结合去噪原理,在保持竞争准确率的同时显著降低计算成本。
2024-01-28 cs.LG cs.NE eess.SP
All-optical neuromorphic binary convolution with a spiking VCSEL neuron for image gradient magnitudes
首次提出并实验证明了光子尖峰垂直腔面发射激光器(VCSEL)神经元的全光二元卷积。从数字图像中提取并使用矩形脉冲进行时间编码的光学输入被注入VCSEL神经元中,VCSEL神经元以发射的快速(<100 ps长)尖峰的数量提供卷积结果。实验和数值结果表明,二进制卷积成功地实现了一个单一的尖峰VCSEL神经元和全光学二进制卷积可以用来计算图像梯度幅度检测边缘特征和分离源图像中的垂直和水平分量。我们还表明,这种全光尖峰二进制卷积系统是强大的噪声,可以与高分辨率图像。此外,所提出的系统提供了重要的优势,如超快的速度,高能效和简单的硬件实现,突出了尖峰光子VCSEL神经元的高速神经形态图像处理系统和未来的光子尖峰卷积神经网络的潜力。
2020-11-09 cs.NE physics.app-ph physics.optics
Attention via Synaptic Plasticity is All You Need: A Biologically Inspired Spiking Neuromorphic Transformer
Department of Electronics and Communication Engineering, National Institute of Technology Allahabad, Prayagraj, 211004, India(国家理工学院阿姆利达分校电子与通信工程系);Centre for Nanotechnology, Indian Institute of Technology Roorkee, Roorkee, Uttarakhand, 247667, India(印度理工学院罗奥基分校纳米技术中心)
针对Transformer能耗高、现有脉冲注意力非神经形态的问题,提出通过突触可塑性(STDP)实现自注意力的S²TDPT模型,在CIFAR数据集上准确率高且能耗降低88.47%,还增强了可解释性。
2025-11-18 cs.AI cs.CV cs.ET
Robustness from structure: Inference with hierarchical spiking networks on analog neuromorphic hardware
尖峰网络如何能够执行概率推理是一个有趣的问题,不仅对于理解大脑中的信息处理,而且对于将这些计算原理转移到神经形态硅电路。已经提出了一些计算能力强大的尖峰网络模型,但它们中的大多数仅在理想条件下在软件模拟中进行了测试。在模拟物理系统中的任何实现,无论是体内还是计算机模拟,通常都会由于底层衬底的物理特性而导致失真的动态。在本文中,我们讨论了几个这样的失真的影响,很难或不可能消除经典的校准例程或参数训练。然后,我们认为,分层网络的泄漏集成和消防神经元可以提供所需的物理实现的鲁棒性,并证明这与软件模拟和仿真的加速模拟neuromorphic设备。
2017-03-12 cs.NE q-bio.NC stat.ML
CarSNN: An Efficient Spiking Neural Network for Event-Based Autonomous Cars on the Loihi Neuromorphic Research Processor
Technische Universität Wien(维也纳工业大学);Politecnico di Torino(都灵理工大学);New York University(纽约大学)
自动驾驶(AD)相关功能提供了新的移动形式,这也有利于其他类型的智能和自主系统,如机器人,智能交通和智能工业。对于这些应用,需要快速、实时地做出决策。此外,在寻求电动交通的过程中,这项任务必须遵循低功耗政策,而不会影响运输工具或机器人的自主性。这两个挑战可以使用新兴的脉冲神经网络(SNN)来解决。当部署在专门的神经形态硬件上时,SNN可以以低延迟和低功耗实现高性能。在本文中,我们使用连接到基于事件的相机的SNN来面对AD的关键问题之一,即,汽车和其他物体之间的分类。为了比传统的框架式相机消耗更少的功率,我们使用了动态视觉传感器(DVS)。实验是按照离线监督学习规则进行的,然后将学习的SNN模型映射到英特尔Loihi神经形态研究芯片上。我们最好的实验在离线实现时达到了86%的准确率,当它被移植到Loihi芯片上时下降到83%。神经形态硬件实现对于每个样本具有最大0.72 ms的延迟,并且仅消耗310 mW。据我们所知,这项工作是在神经形态芯片上首次实现基于事件的汽车分类器。
2021-07-01 cs.LG cs.NE
SpikingJelly: An open-source machine learning infrastructure platform for spike-based intelligence
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室);Shanghai Jiao Tong University(上海交通大学);Chinese Academy of Sciences(中国科学院);Centre de Recherche Cerveau et Cognition (CERCO), UMR5549 CNRS - Univ. Toulouse 3(大脑与认知研究中心(CERCO),CNRS UMR5549 - 图卢兹第三大学);University of Chinese Academy of Sciences(中国科学院大学)
SpikingJelly是一个面向脉冲神经网络的全栈开源平台,提供数据集预处理、模型构建、参数优化与芯片部署工具,训练加速达11倍,并通过多级继承和半自动代码生成支持低成本自定义模型加速,推动高能效神经形态智能系统发展。
2023-10-25 cs.LG cs.NE cs.SE
A Spiking Sequence Generator for Polar Trajectories on Neuromorphic Hardware
Mechanical & Aerospace Engineering, Case Western Reserve University(机械与航空航天工程,凯斯西储大学);Mechanical & Aerospace Engineering, West Virginia University(机械与航空航天工程,西弗吉尼亚大学)
研究为尺寸、重量和功率受限系统的神经形态控制器设计脉冲神经网络,用带辅助种群的赢家通吃架构,给出种群动力学调整规则,实现对极坐标轨迹多参数独立控制,在神经形态处理器上有性能优势。
2026-07-07 cs.NE cs.RO
In-Hardware Learning of Multilayer Spiking Neural Networks on a Neuromorphic Processor
虽然在机器学习中广泛使用,但反向传播不能直接应用于SNN训练,并且在模拟生物神经元和突触的神经形态处理器上不可行。这项工作提出了一种基于尖峰的反向传播算法与生物合理的本地更新规则,并适应它,以适应在神经形态硬件的约束。该算法在Intel Loihi芯片上实现,实现了移动应用中多层SNN的低功耗硬件监督在线学习。我们在MNIST,Fashion-MNIST,CIFAR-10和MSTAR数据集上测试了这种实现,具有良好的性能和能源效率,并证明了增量在线学习的可能性。
2021-05-08 cs.DC cs.ET cs.NE
Watermarking Neuromorphic Brains: Intellectual Property Protection in Spiking Neural Networks
George Mason University(乔治梅森大学);Queen’s University Belfast(贝尔法斯特女王大学)
本研究率先将基于指纹和后门的水印机制应用于脉冲神经网络(SNNs)的知识产权保护,通过实验评估了其在保真度、抗覆盖威胁和抗压缩攻击方面的表现,并与人工神经网络(ANN)进行了对比,为开发针对SNN独特动力学的IP保护策略奠定了基础。
2024-05-07 cs.CR cs.LG cs.NE
Spiking neural networks trained with backpropagation for low power neuromorphic implementation of voice activity detection
语音活动检测(VAD)的最新进展是由人工和循环神经网络(RNN)驱动的,然而,在电池供电的设备中使用VAD系统需要进一步的功率效率。这可以通过神经形态硬件来实现,这使得尖峰神经网络(SNN)能够以非常低的能耗执行推理。尖峰网络的特征在于它们能够有效地处理信息,在时间上称为尖峰的稀疏级联二进制事件中。然而,一个很大的性能差距将人工网络与尖峰网络分开,主要是由于缺乏强大的SNN训练算法。为了克服这个问题,我们利用了一个SNN模型,可以将其重新转换为类似于RNN的模型,并使用已知的深度学习技术进行训练。我们描述了一个SNN训练过程,实现低尖峰活动和修剪算法,以消除85%的网络连接,而没有性能损失。与其他方法相比,该模型实现了最先进的性能,功耗仅为一小部分。
2020-04-30 cs.NE eess.AS
Surrogate gradients for analog neuromorphic computing
Heidelberg University(海德堡大学);Friedrich Miescher Institute for Biomedical Research(弗里德里希·米歇尔生物医学研究所)
为了以低代谢成本快速处理时间信息,生物神经元将输入整合为模拟和,但与尖峰、时间上的二进制事件进行通信。模拟神经形态硬件使用相同的原理来仿真具有出色能效的脉冲神经网络。然而,由于设备不匹配和缺乏有效的训练算法,在这样的硬件上实例化高性能尖峰网络仍然是一个重大挑战。在这里,我们介绍了一个通用的在环学习框架的基础上替代梯度,解决这些问题。使用BrainScaleS-2神经形态系统,我们证明了学习自我纠正设备不匹配,从而在视觉和语音基准上产生竞争性尖峰网络性能。我们的网络显示稀疏的尖峰活动,平均而言,每个隐藏神经元和输入远少于一个尖峰,以高达85 k帧/秒的速率执行推理,消耗不到200 mW。总之,我们的工作为模拟神经形态硬件上的低能量尖峰网络处理设定了几个新的基准,并为未来的片上学习算法铺平了道路。
2021-05-20 cs.ET cs.LG cs.NE
Spiking Neural Network on Neuromorphic Hardware for Energy-Efficient Unidimensional SLAM
Rutgers University(罗格斯大学)
高效节能的同时定位与地图构建(SLAM)是移动机器人探索未知环境的关键。哺乳动物的大脑通过一个专门的神经元网络来解决SLAM,表现出异步计算和基于事件的通信,能耗非常低。我们提出了一个大脑启发的脉冲神经网络(SNN)架构,通过引入基于脉冲的参考帧变换,视觉似然计算和贝叶斯推理来解决一维SLAM。我们将我们的神经形态算法集成到英特尔的Loihi神经形态处理器中,这是一种模仿大脑计算模式的非冯·诺依曼硬件。我们对我们的神经形态方法和广泛用于小型环境的GMapping算法之间的准确性和能效进行了比较分析。我们基于Loihi的SNN架构消耗的能量比在CPU上运行的GMapping少100倍,同时在头部方向定位和地图生成方面具有相当的准确性。这些结果为扩展我们的方法为Loihi控制的自主机器人提供主动SLAM替代解决方案铺平了道路。
2019-09-19 cs.NE cs.RO
A Spiking Network for Inference of Relations Trained with Neuromorphic Backpropagation
在广泛的日常物体中对智能传感器的日益增长的需求要求存在能够在其环境中自主操作的低功率信息处理系统。特别是,有效地合并和处理不同传感器的输出是移动代理的认知能力的必要要求。在这项工作中,我们提出了一个多层的脉冲神经网络的刺激模式之间的关系在专用的神经形态系统的推理。该系统使用新版本的反向传播算法进行训练,该算法适用于神经形态硬件中的片上学习:错误梯度被编码为通过对称突触传播的尖峰信号,使用与前向传播期间使用的相同的集成和发射硬件基础设施。我们证明了强度的算术关系推理任务和视觉XOR的MNIST数据集上的方法。与以前的生物启发的网络实现相比,我们的方法能够用更少的神经元实现更好的性能。我们的架构是第一个具有片上学习能力的脉冲神经网络架构,它能够对复杂的视觉刺激进行关系推理。这些功能使我们的系统感兴趣的传感器融合应用和自主神经形态代理的嵌入式学习。
2019-03-11 cs.NE
Benchmarking Deep Spiking Neural Networks on Neuromorphic Hardware
随着越来越多的基于事件的神经形态硬件系统正在开发中的大学和工业,有一个领域的具体措施,以评估其性能的需求越来越大。在这项工作中,我们使用的方法转换预先训练的非尖峰到脉冲神经网络的性能损失和测量的能量每推理的神经形态硬件系统(BrainScaleS,Spikey,SpiNNaker)和CPU(NEST)和CPU/GPU(GeNN)的共同模拟框架。对于模拟硬件,我们进一步应用一种称为硬件在环训练的再训练技术来应对设备失配。对五个不同的网络进行了分析,其中包括三个通过神经架构搜索框架自动优化发现的网络。我们证明,转换损耗通常低于百分之一的数字实现,并适度较高的模拟系统的好处是低得多的能源每推理成本。
2020-10-26 cs.NE
Spiking neuromorphic chip learns entangled quantum states
人工神经网络对量子态的逼近在过去几年中得到了广泛的关注。与此同时,模拟神经形态芯片,灵感来自生物大脑的结构和动力学特性,在运行人工神经网络架构时显示出高能效,以利于生成应用。这鼓励采用这样的硬件系统作为量子系统模拟的平台。在这里,我们报告了使用最新的基于尖峰的BrainScaleS硬件实现原型,使我们能够表示具有高分辨率的几个量子比特最大纠缠量子态。模拟硬件很好地捕获了纯和混合双量子比特态的Bell相关性,证明了用尖峰神经形态芯片模拟量子系统的重要构建块。
2021-10-25 cond-mat.dis-nn cs.ET cs.NE
Neuromorphic Hardware In The Loop: Training a Deep Spiking Network on the BrainScaleS Wafer-Scale System
在模拟神经形态硬件上仿真脉冲神经网络比在传统计算机上仿真它们有几个优点,特别是在速度和能耗方面。然而,这通常是以减少对仿真网络的动态控制为代价的。在本文中,我们演示了如何迭代训练的硬件仿真网络可以补偿模拟基板引起的异常。我们首先将在软件中训练的深度神经网络转换为BrainScaleS晶圆级神经形态系统上的尖峰网络,从而与生物时域相比实现了10000的加速因子。该映射之后是在环训练,在每个训练步骤中,网络活动首先记录在硬件中,然后用于通过反向传播计算软件中的参数更新。一个重要的发现是,参数更新不必是精确的,而只需要近似地遵循正确的梯度,这简化了更新的计算。使用这种方法,经过几十次迭代,尖峰网络显示出接近理想的软件仿真原型的准确性。所提出的技术表明,模拟神经形态设备上模拟的深尖峰网络可以获得良好的计算性能,尽管模拟基板的固有变化。
2017-03-06 cs.NE
SpikeAtConv: An Integrated Spiking-Convolutional Attention Architecture for Energy-Efficient Neuromorphic Vision Processing
针对SNNs在复杂视觉任务中性能不足的问题,提出集成脉冲-卷积注意力架构SpikeAtConv,通过优化脉冲模块处理视觉时空模式,在标准图像分类基准上缩小了与传统神经网络的性能差距,助力高能效神经形态视觉处理。
2024-11-26 cs.NE
Spiking and Event-driven Neuromorphic Mamba Models for Efficient Speech Recognition
University of California, Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
提出脉冲和事件驱动的神经形态Mamba模型,通过激活稀疏性提升语音识别效率,在LibriSpeech上实现超过60%的激活稀疏性且精度损失小于1%,并开发周期精确的事件驱动模拟器实现算法-硬件协同优化。
2026-05-31 cs.NE cs.SD
Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing
在这项工作中,我们介绍了一种光电尖峰人工神经元能够在超快的速度($\approx$ 100 ps/光尖峰)和低能耗($<$ pJ/尖峰)。所提出的系统结合了一个可激发的共振隧穿二极管(RTD)元件表现出负微分电导,耦合到一个纳米级光源(形成一个主节点)或一个光电探测器(形成一个接收器节点)。我们数值研究的尖峰动力学响应和信息传播功能的互连主接收RTD节点系统。使用脉冲阈值和积分的关键功能,我们利用单个节点对顺序脉冲模式进行分类,并执行卷积功能以进行图像特征(边缘)识别。我们还展示了一个光学互连的尖峰神经网络模型,用于以超过10 Gbps的速度处理时空数据,具有很高的推理精度。最后,我们展示了一种片外监督学习方法,利用尖峰时间依赖可塑性的RTD使能的光子尖峰神经网络。这些结果证明了RTD尖峰节点的潜力和可行性,低足迹,低能量,高速光电实现的神经形态硬件。
2021-11-19 cs.ET cs.NE physics.app-ph
Enabling Efficient Processing of Spiking Neural Networks with On-Chip Learning on Commodity Neuromorphic Processors for Edge AI Systems
eBrain Lab, New York University (NYU) Abu Dhabi(eBrain实验室,纽约大学(NYU)阿布扎赫德)
本文提出了一种在商用神经形态处理器上实现高效SNN处理的方法,通过芯片级学习降低能耗与延迟,适用于边缘AI系统。
2025-04-19 cs.AI cs.AR cs.LG
MT-Spike: A Multilayer Time-based Spiking Neuromorphic Architecture with Temporal Error Backpropagation
现代深度学习使能的人工神经网络,例如深度神经网络(DNN)和卷积神经网络(CNN),已经在广泛的识别应用上取得了一系列突破性的记录。然而,与这种深度和复杂的神经网络模型相关联的巨大计算和存储需求极大地挑战了它们在资源有限的平台上的实现。基于时间的脉冲神经网络是类脑计算系统设计中的一个很有前途的解决方案,它可以在单个芯片内实现显著的计算效率和功耗效率。然而,相关的研究活动一直狭隘地集中在生物相容性和理论学习方法,导致低效的神经处理和不切实际的多层扩展,从而显着限制了处理现实认知任务的速度和准确性。在这项工作中,一个实用的多层基于时间的尖峰神经形态架构,即“MT尖峰”,开发,以填补这一空白。与建议的实际时间编码方案,平均延迟响应模型,时间误差反向传播算法,和启发式损失函数,“MT-尖峰”实现更有效的神经处理,通过灵活的神经模型的大小减少,同时提供非常有竞争力的分类精度为现实的识别任务。仿真结果很好地验证了深度多层学习的算法能力可以与基于时间的尖峰神经形态架构的效率无缝融合,展示了“MT-Spike”在资源和功耗受限的嵌入式平台中的巨大潜力。
2018-03-14 cs.NE q-bio.NC
Evaluating Spiking Neural Network On Neuromorphic Platform For Human Activity Recognition
ETH Zürich(苏黎世联邦理工学院)
本研究评估了脉冲神经网络在Intel Loihi神经形态平台上用于可穿戴人类活动识别的有效性,通过多阈值增量调制编码传感器数据,实现了与传统RISC-V处理器相当的准确率,且能效显著提升。
2023-08-01 cs.HC cs.LG cs.NE
NeuroHSMD: Neuromorphic Hybrid Spiking Motion Detector
Nottingham Trent University(诺丁汉特伦特大学);Ulster University(阿尔斯特大学)
脊椎动物的视网膜在处理诸如检测移动物体等琐碎的视觉任务方面效率很高,但这对现代计算机来说是一个复杂的挑战。在脊椎动物中,物体运动的检测是由称为物体运动敏感神经节细胞(OMS-GC)的专门视网膜细胞执行的。OMS-GC处理连续的视觉信号,并产生由视觉皮层后处理的尖峰模式。我们之前的混合敏感运动检测器(HSMD)算法是第一个使用定制的3层脉冲神经网络(SNN)增强背景减除(BS)算法的混合算法,该网络可生成OMS-GC脉冲样响应。在这项工作中,我们提出了一种神经形态混合敏感运动检测器(NeuroHSMD)算法,加速我们的HSMD算法使用现场可编程门阵列(FPGA)。使用相同的2012变更检测(CDnet 2012)和2014变更检测(CDnet 2014)基准数据集,将NeuroHSMD与HSMD算法进行比较。当针对CDnet 2012和CDnet 2014数据集进行测试时,NeuroHSMD分别以720 x480(每秒28.06帧(fps))和720 x480(每秒28.71帧)的速度执行对象运动检测,质量没有下降。此外,在本文中提出的NeuroHSMD是完全实现在开放式计算机语言(OpenCL),因此很容易复制在其他设备,如图形处理单元(GPU)和集群的中央处理单元(CPU)。
2023-02-14 cs.CV cs.NE eess.IV
Bridging Quantized Artificial Neural Networks and Neuromorphic Hardware
本文提出SDANN框架,直接在神经形态硬件上实现量化人工神经网络,无需调参或性能损失,并通过偏置校准和缩放积分方法解决位宽限制,实验证明其精度与量化ANN完全一致,且在真实硬件上验证了可行性。
2025-06-22 cs.NE
Federated Neuromorphic Learning of Spiking Neural Networks for Low-Power Edge Intelligence
King’s College London(伦敦国王学院);King’s Centre for Learning and Information Processing (kclip)(国王学习与信息处理中心)
脉冲神经网络(SNN)为实现设备上低功耗在线学习和推理提供了传统人工神经网络(ANN)的有前途的替代方案。然而,设备上的培训受到每个设备上可用数据量有限的限制。在本文中,我们提出通过联邦学习(FL)的合作训练来缓解这个问题。为此,我们引入了一个在线的基于FL的学习规则,用于网络设备上的SNN,我们称之为FL-SNN。FL-SNN利用每个SNN内的本地反馈信号来代替反向传播,并通过经由基站的通信来利用全局反馈。该方案表现出显着的优势,单独的训练和功能之间的灵活权衡通信负载和准确性,通过选择性交换突触权重。
2019-10-21 cs.LG cs.NE eess.SP
Neuromorphic adaptive spiking CPG towards bio-inspired locomotion of legged robots
Universidad de Cádiz(加的斯大学);University of Guanajuato(瓜纳华托大学);Universidad de Sevilla(塞维利亚大学)
近年来,脊椎动物所表现出的运动机制一直是机器人系统性能改进的灵感来源。这些机制包括它们的运动对通过它们的生物传感器记录在环境中的任何变化的适应性。在这方面,我们的目标是复制这种适应性的足式机器人通过尖峰中央模式发生器。这种尖峰中央模式发生器生成不同的运动(节奏)模式,这些模式由外部刺激驱动,即连接到机器人以提供反馈的力敏电阻器的输出。尖峰中央模式发生器由五个群体的泄漏整合和发射神经元网络组成,这些神经元设计有特定的拓扑结构,从而可以通过上述外部刺激生成和驱动节奏模式。因此,末端机器人平台(任何足式机器人)的运动可以通过使用任何传感器作为输入来适应地形。具有自适应学习的尖峰中央模式发生器已在软件和硬件层面进行了数值验证,使用Brian 2模拟器和SpiNNaker神经形态平台进行最新验证。特别是,我们的实验清楚地表明,当输入刺激变化时,尖峰中央模式发生器的种群中产生的尖峰之间的振荡频率存在适应性。为了验证尖峰中枢模式发生器的鲁棒性和适应性,我们通过改变传感器的输出进行了几次测试。这些实验在Brian 2和SpiNNaker中进行;两种实现都显示出类似的行为,Pearson相关系数为0.905。
2021-01-24 cs.AI cs.NE cs.RO
Run-time Mapping of Spiking Neural Networks to Neuromorphic Hardware
在本文中,我们提出了一种设计方法来分区和映射的神经元和突触的在线学习SNN为基础的应用程序在{运行时间}的神经形态架构。我们的设计方法分为两个步骤-步骤1是一个逐层贪婪的方法,将SNN划分为神经元和突触的集群,并结合神经形态架构的约束,步骤2是一个爬山优化算法,最大限度地减少集群之间的总尖峰通信,提高架构的共享互连的能耗。我们进行实验,以评估我们的算法使用合成和现实SNN为基础的应用程序的可行性。我们证明,我们的算法减少了SNN映射时间平均780倍相比,一个国家的最先进的设计时基于SNN分区的方法,只有6.25%的解决方案的质量较低。
2020-06-11 cs.ET cs.NE
Neuromorphic analog circuits for robust on-chip always-on learning in spiking neural networks
本文设计融合短期模拟动力学、长期三态离散化及迟滞停止学习机制的片上学习电路,并经180 nm CMOS原型芯片验证,可提升脉冲神经网络在噪声与失配下的常开在线学习稳健性。
2023-07-12 cs.NE