Closed-loop spiking control on a neuromorphic processor implemented on the iCub
Institute of Neuroinformatics, University of Zurich(苏黎世大学神经信息学研究所);ETH Zurich(苏黎世联邦理工学院);Istituto Italiano di Tecnologia(意大利技术研究院)
尽管神经形态工程承诺部署低延迟,自适应和低功耗的系统,可以导致真正自主的人工代理的设计,一个完全神经形态的人工代理的发展仍然是失踪。虽然神经形态传感和感知以及决策系统现在已经成熟,但控制和驱动部分仍然落后。在本文中,我们提出了一个闭环电机控制器上实现的混合信号模拟-数字神经形态硬件使用脉冲神经网络。该网络通过使用尖峰关系网络对目标、反馈和误差信号进行编码来执行比例控制动作。它通过连接模式连续计算误差,该模式通过前馈连接将三个变量联系起来。每个种群内的递归连接被用来加速收敛,减少失配的影响,提高选择性。神经形态电机控制器与iCub机器人模拟器连接。我们测试了我们的尖峰P控制器在一个单一的关节控制任务,特别是机器人头部偏航。尖峰控制器发送目标位置,从其编码器读取电机状态,并将电机命令发送回关节。在阶跃响应实验和目标追踪任务中测试了尖峰控制器的性能。在这项工作中,我们优化了网络结构,使其更强大的噪声输入和设备失配,从而导致更好的控制性能。
2020-09-01 cs.ET cs.NE cs.RO
POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons
National Tsing Hua University(清华大学)
人类大脑作为一个生物处理系统的内部运作在很大程度上仍然是一个谜。受人脑功能的启发,并基于对其他物种(如果蝇)中简单神经网络系统的分析,类脑计算系统引起了人们的极大兴趣。在细胞水平的连接组学研究中,我们可以识别生物神经网络的特征,即种群,它不仅构成网络中循环的全连接,而且构成每个神经元中的一个外部刺激和自连接。脉冲神经网络依靠网络中脉冲传输和输入数据的低数据带宽,实现了低延迟、低功耗的设计。在这项研究中,我们提出了一个可配置的人口为基础的数字尖峰神经形态处理器在180纳米工艺技术与两个可配置的层次人口。此外,处理器中的这些神经元可以被配置为新颖的模型,整数二次积分和激发神经元模型,其包含无符号的8位膜电位值。处理器可以实时实现智能决策。此外,所提出的方法使仿生神经形态系统和各种低功耗,低延迟的推理处理应用的发展。
2022-01-19 cs.AI cs.NE
Solving a steady-state PDE using spiking networks and neuromorphic hardware
神经形态处理器的广泛并行的脉冲神经网络可以实现计算上强大的公式化。虽然最近的兴趣主要集中在机器学习任务上,但适当应用的空间是广泛的,并在不断扩大。在这里,我们利用并行和事件驱动的结构来解决稳态热方程使用随机游走方法。随机游走可以完全在脉冲神经网络内使用随机神经元行为执行,我们提供了IBM TrueNorth和Intel Loihi实现的结果。此外,我们将此算法定位为神经形态系统的潜在可扩展基准。
2020-05-21 cs.CE cs.NE
In-Hardware Learning of Multilayer Spiking Neural Networks on a Neuromorphic Processor
虽然在机器学习中广泛使用,但反向传播不能直接应用于SNN训练,并且在模拟生物神经元和突触的神经形态处理器上不可行。这项工作提出了一种基于尖峰的反向传播算法与生物合理的本地更新规则,并适应它,以适应在神经形态硬件的约束。该算法在Intel Loihi芯片上实现,实现了移动应用中多层SNN的低功耗硬件监督在线学习。我们在MNIST,Fashion-MNIST,CIFAR-10和MSTAR数据集上测试了这种实现,具有良好的性能和能源效率,并证明了增量在线学习的可能性。
2021-05-08 cs.DC cs.ET cs.NE
Run-time Mapping of Spiking Neural Networks to Neuromorphic Hardware
在本文中,我们提出了一种设计方法来分区和映射的神经元和突触的在线学习SNN为基础的应用程序在{运行时间}的神经形态架构。我们的设计方法分为两个步骤-步骤1是一个逐层贪婪的方法,将SNN划分为神经元和突触的集群,并结合神经形态架构的约束,步骤2是一个爬山优化算法,最大限度地减少集群之间的总尖峰通信,提高架构的共享互连的能耗。我们进行实验,以评估我们的算法使用合成和现实SNN为基础的应用程序的可行性。我们证明,我们的算法减少了SNN映射时间平均780倍相比,一个国家的最先进的设计时基于SNN分区的方法,只有6.25%的解决方案的质量较低。
2020-06-11 cs.ET cs.NE
ViT-LCA: A Neuromorphic Approach for Vision Transformers
本文提出ViT-LCA模型,将视觉Transformer与局部竞争算法LCA结合,在ImageNet-1K上以更低能耗实现更高准确率,并更易部署于神经形态硬件。
2025-04-13 cs.ET cs.NE
Training Spiking Deep Networks for Neuromorphic Hardware
University of Waterloo(滑铁卢大学)
我们描述了一种训练尖峰深度网络的方法,该网络可以使用泄漏积分和激发(LIF)神经元运行,在五个数据集上实现了尖峰LIF网络的最新结果,包括大型ImageNet ILSVRC-2012基准测试。我们将深度人工神经网络转换为尖峰网络的方法是可扩展的,并且适用于各种神经非线性。我们通过软化神经响应函数来实现这些结果,使其导数保持有界,并通过使用噪声训练网络来提供对尖峰引入的可变性的鲁棒性。我们的分析表明,这些网络在神经形态硬件上的实现将比传统硬件上的等效非尖峰网络高出许多倍。
2016-11-16 cs.LG cs.NE
Implementing Spiking Neural Networks on Neuromorphic Architectures: A Review
最近,工业界和学术界都提出了几种不同的神经形态系统来执行使用脉冲神经网络(SNN)设计的机器学习应用。随着设计和技术方面的复杂性不断增加,对这样的系统进行编程以接纳和执行机器学习应用正变得越来越具有挑战性。此外,神经形态系统需要保证实时性能,消耗更低的能量,并提供对逻辑和存储器故障的容忍度。因此,显然需要能够在当前和新兴的神经形态系统上实现机器学习应用并同时解决性能、能量和可靠性的系统软件框架。在这里,我们提供了一个全面的概述,提出了这样的框架,基于平台的设计和软硬件协同设计。我们强调的挑战和机遇,未来在系统软件技术领域的类脑计算。
2022-02-17 cs.NE cs.SE
AutoML for neuromorphic computing and application-driven co-design: asynchronous, massively parallel optimization of spiking architectures
Argonne National Laboratory(阿贡国家实验室)
在这项工作中,我们扩展了AutoML启发的方法来探索和优化神经形态架构。通过集成的并行异步基于模型的搜索方法与仿真框架来模拟尖峰架构,我们能够有效地探索神经形态架构的配置空间,并确定在目标应用程序中导致最高性能的条件的子集。我们已经证明了这种方法的实时,片上学习应用程序的一个典型案例。我们的研究结果表明,我们可以有效地使用优化方法来优化复杂的架构,从而提供了一个可行的途径,以应用程序驱动的协同设计。
2023-02-26 cs.AR cs.LG cs.NE
ST-MNIST -- The Spiking Tactile MNIST Neuromorphic Dataset
National University of Singapore(新加坡国立大学)
触觉感知是智能机器人的一种基本形式,因为它使它们能够灵活地与环境中的物理对象进行交互。电子皮肤的最新进展已经导致开发了利用这种重要的感觉模态的数据驱动的机器学习方法。然而,用于训练这种算法的当前数据集限于标准同步触觉传感器。缺乏基于神经形态事件的触觉数据集,主要是由于缺乏大规模的基于事件的触觉传感器。拥有这样的数据集对于开发和评估处理基于时空事件的数据的新算法至关重要。例如,在传统的基于帧的数据集上评估脉冲神经网络被认为是次优的。在这里,我们首次推出了一种新的神经形态尖峰触觉MNIST(ST-MNIST)数据集,其中包括手写数字由人类参与者在神经形态触觉传感器阵列上书写。我们还描述了一个初步的努力,以评估我们的ST-MNIST数据集使用现有的人工和脉冲神经网络模型。本文提供的分类精度可以作为未来工作的性能基准。我们预计,我们的ST-MNIST数据集将是感兴趣的和有用的神经形态和机器人研究社区。
2020-05-08 cs.CV cs.HC cs.NE
Spiking neuromorphic chip learns entangled quantum states
人工神经网络对量子态的逼近在过去几年中得到了广泛的关注。与此同时,模拟神经形态芯片,灵感来自生物大脑的结构和动力学特性,在运行人工神经网络架构时显示出高能效,以利于生成应用。这鼓励采用这样的硬件系统作为量子系统模拟的平台。在这里,我们报告了使用最新的基于尖峰的BrainScaleS硬件实现原型,使我们能够表示具有高分辨率的几个量子比特最大纠缠量子态。模拟硬件很好地捕获了纯和混合双量子比特态的Bell相关性,证明了用尖峰神经形态芯片模拟量子系统的重要构建块。
2021-10-25 cond-mat.dis-nn cs.ET cs.NE
Energy-Aware Spike Budgeting for Continual Learning in Spiking Neural Networks for Neuromorphic Vision
Dept. of Electrical and Electronics Engineering, University of Liberal Arts Bangladesh(乌拉尔大学 bangladesh 电子与电气工程系);Dept. of Electrical Engineering, Pennsylvania State University(宾夕法尼亚州立大学电气工程系)
提出一种面向神经形态视觉的节能脉冲预算持续学习框架,通过整合经验回放、可学习神经元参数和自适应调度器,在帧型和事件型数据集上分别提升准确率并降低能耗。
2026-03-10 cs.AI cs.CV cs.NE
Scalable neuromorphic computing from autonomous spiking dynamics in a clockless reconfigurable chip
LMOPS UR4423 Laboratory, CentraleSupélec and Université de Lorraine(LMOPS UR4423实验室,中央超导电子实验室和洛林大学)
本文提出了一种基于无时钟数字电路自主连续演化的脉冲动态的可扩展神经形态架构,通过FPGA实现可配置的布尔脉冲神经元网络,展示了在音频分类任务中高效处理脉冲编码数据的性能,且能耗显著低于传统数字方案。
2026-05-15 cs.LG cs.NE
Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing
在这项工作中,我们介绍了一种光电尖峰人工神经元能够在超快的速度($\approx$ 100 ps/光尖峰)和低能耗($<$ pJ/尖峰)。所提出的系统结合了一个可激发的共振隧穿二极管(RTD)元件表现出负微分电导,耦合到一个纳米级光源(形成一个主节点)或一个光电探测器(形成一个接收器节点)。我们数值研究的尖峰动力学响应和信息传播功能的互连主接收RTD节点系统。使用脉冲阈值和积分的关键功能,我们利用单个节点对顺序脉冲模式进行分类,并执行卷积功能以进行图像特征(边缘)识别。我们还展示了一个光学互连的尖峰神经网络模型,用于以超过10 Gbps的速度处理时空数据,具有很高的推理精度。最后,我们展示了一种片外监督学习方法,利用尖峰时间依赖可塑性的RTD使能的光子尖峰神经网络。这些结果证明了RTD尖峰节点的潜力和可行性,低足迹,低能量,高速光电实现的神经形态硬件。
2021-11-19 cs.ET cs.NE physics.app-ph
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出ASPEN,通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数,在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗,为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
Mapping high-performance RNNs to in-memory neuromorphic chips
机器学习应用对紧凑和低功耗计算解决方案的需求日益增长,引发了对节能神经形态系统的极大兴趣。然而,这些架构中的大多数依赖于脉冲神经网络,其在准确性方面与其非脉冲对应物相比通常表现较差。在本文中,我们提出了一个新的自适应尖峰神经元模型,可以抽象为一个低通滤波器。这种抽象可以使用反向传播更快更好地训练尖峰网络,而无需模拟尖峰。我们表明,该模型显着提高了递归神经网络的推理性能,并验证了三个复杂的时空学习任务:时间添加任务,时间复制任务,和口语短语识别任务。我们估计,与流行的嵌入式微处理器Cortex-M4相比,在兼容的神经形态芯片上使用我们的模型至少可以提高500倍的能效。
2019-12-20 cs.ET cs.NE eess.SP
Optimizing the energy consumption of spiking neural networks for neuromorphic applications
aiCTX AG(aiCTX公司)
在过去的几年中,脉冲神经网络已经被证明与常规卷积神经网络表现相当。几项工作已经提出了将预先训练的CNN转换为尖峰CNN而不显著牺牲性能的方法。我们首先证明了CNN的量化感知训练可以提高SNN的准确性。将CNN转换为尖峰CNN的好处之一是利用SNN的稀疏计算,从而以较低的能耗执行等效计算。在这里,我们提出了一个有效的优化策略,训练尖峰网络在较低的能量消耗,同时保持类似的准确性水平。我们展示了MNIST-DVS和CIFAR-10数据集上的结果。
2020-05-04 cs.LG cs.NE q-bio.NC
Community detection with spiking neural networks for neuromorphic hardware
我们目前的结果相关的性能的社区发现,其中包括事件驱动的计算算法。我们定义了一个映射,该映射将图G映射到尖峰神经元系统。使用具有抑制性和兴奋性突触连接两者的完全连接的尖峰发放神经元系统,可以将同一社区内的神经元的放电模式与不同社区中的神经元的放电模式区分开。在一个128个顶点的随机图和已知的社区结构,我们表明,通过使用二进制解码和汉明距离为基础的度量,可以确定个人社区的尖峰训练相似性。使用双极解码和有限速率阈值,我们验证了抑制连接防止尖峰模式的传播。
2017-11-20 cs.NE
Time-coded Spiking Fourier Transform in Neuromorphic Hardware
经过几十年的不断优化计算系统,摩尔定律正在达到它的目的。然而,对快速高效的处理系统的需求越来越大,这些系统可以处理大数据流,同时减少系统占用空间。类脑计算通过创建随时间推移与二进制事件通信的分散式架构来满足这一需求。尽管在过去的几年里,它的快速增长,新的算法,可以利用这种新兴的计算范式的潜力,并可以刺激先进的neuromorphic chips.In这项工作的设计,我们提出了一个基于时间的脉冲神经网络,这是数学上等价的傅立叶变换。我们在神经形态芯片Loihi中实现了该网络,并使用汽车调频连续波雷达在五种不同的真实场景中进行了实验。实验结果验证了该算法的有效性,并希望它们能促进adhoc神经形态芯片的设计,从而提高现有数字信号处理器的效率,鼓励类脑计算在信号处理方面的研究。
2022-03-31 cs.NE eess.SP
An error-propagation spiking neural network compatible with neuromorphic processors
脉冲神经网络在低功耗传感处理和边缘计算硬件平台的设计中显示出了巨大的潜力。然而,在这种架构上实现片上学习算法仍然是一个开放的挑战,特别是对于依赖于反向传播算法的多层网络。在本文中,我们提出了一种基于尖峰的学习方法,近似反向传播使用本地权重更新机制,这是兼容的混合信号模拟/数字神经形态电路。我们引入了一个网络架构,使突触权重更新机制,以跨层反向传播错误信号,并提出了一个网络,可以训练区分两个尖峰为基础的模式,具有相同的平均发射率,但不同的尖峰定时。这项工作代表了设计超低功耗混合信号神经形态处理系统的第一步,该系统具有片上学习电路,可以被训练以识别尖峰活动的不同时空模式(例如,由基于事件的视觉或听觉传感器产生)。
2021-04-12 cs.NE
Brian2Loihi: An emulator for the neuromorphic chip Loihi using the spiking neural network simulator Brian
开发智能神经形态解决方案仍然是一项具有挑战性的工作。它需要对硬件的基本构建块有坚实的概念性理解。除此之外,可访问和用户友好的原型设计对于加快设计流程至关重要。我们开发了一个基于神经网络模拟器Brian的开源Loihi模拟器,它可以很容易地集成到现有的模拟工作流程中。我们展示了一个单一的神经元和一个循环连接的脉冲神经网络的软件中的无错Loihi仿真。片上学习也进行了审查和实施,合理的差异,由于随机舍入。这项工作提供了一个连贯的介绍Loihi的计算单元,并介绍了一个新的,易于使用的Loihi原型包,旨在帮助简化概念化和部署新的算法。
2021-09-25 cs.NE
Parameter Optimization and Learning in a Spiking Neural Network for UAV Obstacle Avoidance targeting Neuromorphic Processors
Lobula Giant Movement Detector(LGMD)是蝗虫的一个识别神经元,它可以检测到隐约可见的物体并触发昆虫的逃跑反应。理解导致这些快速和鲁棒响应的神经原理和网络结构可以促进机器人应用的有效避障策略的设计。在这里,我们提出了一个神经形态脉冲神经网络模型的LGMD驱动的神经形态动态视觉传感器(DVS),它结合了尖峰频率适应和突触可塑性机制,并可以映射到现有的神经形态处理器芯片的输出。然而,由于该模型的参数范围很广,并且用于实现该模型的混合信号模数电路受到变化性和噪声的影响,因此有必要优化参数以产生鲁棒且可靠的响应。在这里,我们建议使用差分进化(DE)和贝叶斯优化(BO)技术来优化参数空间,并研究使用自适应差分进化(SADE),以改善困难的DE技术找到合适的输入参数。我们量化的性能提出的方法与应用于模型的不同的优化器的全面比较,并证明了使用从安装在无人机上的DVS传感器的记录所提出的方法的有效性。
2019-10-17 cs.ET cs.NE nlin.AO
Coarse scale representation of spiking neural networks: backpropagation through spikes and application to neuromorphic hardware
Argonne National Laboratory(阿贡国家实验室)
在这项工作中,我们探讨了经常性的代表性泄漏整合和消防神经元的时间尺度等于他们的绝对不应期。我们的粗时间尺度近似获得使用的概率分布函数的尖峰到达,均匀分布在这个时间间隔。这导致了一种离散表示,它表现出与连续模型相同的动态特性,从而通过递归实现实现了高效的大规模模拟和反向传播。我们使用这种方法直接在Pytorch中探索深度脉冲神经网络的训练,包括卷积、全对全连接和最大池层。我们发现,递归模型在训练过程中仅使用4长的尖峰序列就可以获得很高的分类精度。我们还观察到一个很好的转移回泄漏集成和火灾神经元的连续实现。最后,我们将这种方法应用于一些标准控制问题,作为使用神经形态芯片探索强化学习的第一步。
2020-07-13 cs.ET cs.LG cs.NE
The Backpropagation Algorithm Implemented on Spiking Neuromorphic Hardware
University of Zurich(苏黎世大学);ETH Zurich(苏黎世联邦理工学院);Los Alamos National Laboratory(洛斯阿拉莫斯国家实验室);Peking University(北京大学)
本研究在Intel Loihi神经形态处理器上实现了基于突触链门控的脉冲反向传播算法,首次实现全芯片训练,无需外部计算机,并在MNIST分类任务上达到与离线训练SNN相当的精度,适用于边缘计算。
2021-08-26 cs.AI cs.LG cs.NE
All-optical neuromorphic binary convolution with a spiking VCSEL neuron for image gradient magnitudes
首次提出并实验证明了光子尖峰垂直腔面发射激光器(VCSEL)神经元的全光二元卷积。从数字图像中提取并使用矩形脉冲进行时间编码的光学输入被注入VCSEL神经元中,VCSEL神经元以发射的快速(<100 ps长)尖峰的数量提供卷积结果。实验和数值结果表明,二进制卷积成功地实现了一个单一的尖峰VCSEL神经元和全光学二进制卷积可以用来计算图像梯度幅度检测边缘特征和分离源图像中的垂直和水平分量。我们还表明,这种全光尖峰二进制卷积系统是强大的噪声,可以与高分辨率图像。此外,所提出的系统提供了重要的优势,如超快的速度,高能效和简单的硬件实现,突出了尖峰光子VCSEL神经元的高速神经形态图像处理系统和未来的光子尖峰卷积神经网络的潜力。
2020-11-09 cs.NE physics.app-ph physics.optics
Variational learning of quantum ground states on spiking neuromorphic hardware
最近的研究已经证明了神经网络作为量子多体状态的变分预测函数的有用性。然而,高维采样空间和瞬态自相关性使这些方法面临具有挑战性的计算瓶颈。与传统的神经网络相比,物理模型设备提供了一个快速,高效和固有的并行基板能够相关形式的马尔可夫链蒙特卡罗采样。在这里,我们展示了一个神经形态芯片的能力,表示量子自旋模型的基态变分能量最小化。我们开发了一种训练算法,并将其应用到横向场伊辛模型,表现出良好的性能,在中等系统大小($N\leq 10$)。一个系统的超参数研究表明,可扩展性更大的系统尺寸主要取决于样本质量,这是有限的模拟神经形态芯片上的时间参数变化。因此,我们的工作提供了一个重要的一步,利用神经形态硬件的能力来解决量子多体问题的维数灾难。
2021-11-25 cond-mat.dis-nn cs.ET cs.NE
Robustness from structure: Inference with hierarchical spiking networks on analog neuromorphic hardware
尖峰网络如何能够执行概率推理是一个有趣的问题,不仅对于理解大脑中的信息处理,而且对于将这些计算原理转移到神经形态硅电路。已经提出了一些计算能力强大的尖峰网络模型,但它们中的大多数仅在理想条件下在软件模拟中进行了测试。在模拟物理系统中的任何实现,无论是体内还是计算机模拟,通常都会由于底层衬底的物理特性而导致失真的动态。在本文中,我们讨论了几个这样的失真的影响,很难或不可能消除经典的校准例程或参数训练。然后,我们认为,分层网络的泄漏集成和消防神经元可以提供所需的物理实现的鲁棒性,并证明这与软件模拟和仿真的加速模拟neuromorphic设备。
2017-03-12 cs.NE q-bio.NC stat.ML
A Spiking Sequence Generator for Polar Trajectories on Neuromorphic Hardware
Mechanical & Aerospace Engineering, Case Western Reserve University(机械与航空航天工程,凯斯西储大学);Mechanical & Aerospace Engineering, West Virginia University(机械与航空航天工程,西弗吉尼亚大学)
研究为尺寸、重量和功率受限系统的神经形态控制器设计脉冲神经网络,用带辅助种群的赢家通吃架构,给出种群动力学调整规则,实现对极坐标轨迹多参数独立控制,在神经形态处理器上有性能优势。
2026-07-07 cs.NE cs.RO
Towards Efficient Deployment of Hybrid SNNs on Neuromorphic and Edge AI Hardware
University of South Carolina(南卡罗来纳大学)
本研究构建SNN与ANN结合的混合模型,提出跨域累加器电路,将其分别部署在Loihi与Jetson Nano异构硬件上,验证其在多性能指标上优于两类基线模型。
2024-07-11 cs.AI cs.AR cs.CV
Spiking neural networks trained with backpropagation for low power neuromorphic implementation of voice activity detection
语音活动检测(VAD)的最新进展是由人工和循环神经网络(RNN)驱动的,然而,在电池供电的设备中使用VAD系统需要进一步的功率效率。这可以通过神经形态硬件来实现,这使得尖峰神经网络(SNN)能够以非常低的能耗执行推理。尖峰网络的特征在于它们能够有效地处理信息,在时间上称为尖峰的稀疏级联二进制事件中。然而,一个很大的性能差距将人工网络与尖峰网络分开,主要是由于缺乏强大的SNN训练算法。为了克服这个问题,我们利用了一个SNN模型,可以将其重新转换为类似于RNN的模型,并使用已知的深度学习技术进行训练。我们描述了一个SNN训练过程,实现低尖峰活动和修剪算法,以消除85%的网络连接,而没有性能损失。与其他方法相比,该模型实现了最先进的性能,功耗仅为一小部分。
2020-04-30 cs.NE eess.AS
Surrogate gradients for analog neuromorphic computing
Heidelberg University(海德堡大学);Friedrich Miescher Institute for Biomedical Research(弗里德里希·米歇尔生物医学研究所)
为了以低代谢成本快速处理时间信息,生物神经元将输入整合为模拟和,但与尖峰、时间上的二进制事件进行通信。模拟神经形态硬件使用相同的原理来仿真具有出色能效的脉冲神经网络。然而,由于设备不匹配和缺乏有效的训练算法,在这样的硬件上实例化高性能尖峰网络仍然是一个重大挑战。在这里,我们介绍了一个通用的在环学习框架的基础上替代梯度,解决这些问题。使用BrainScaleS-2神经形态系统,我们证明了学习自我纠正设备不匹配,从而在视觉和语音基准上产生竞争性尖峰网络性能。我们的网络显示稀疏的尖峰活动,平均而言,每个隐藏神经元和输入远少于一个尖峰,以高达85 k帧/秒的速率执行推理,消耗不到200 mW。总之,我们的工作为模拟神经形态硬件上的低能量尖峰网络处理设定了几个新的基准,并为未来的片上学习算法铺平了道路。
2021-05-20 cs.ET cs.LG cs.NE
Spiking Neural Network on Neuromorphic Hardware for Energy-Efficient Unidimensional SLAM
Rutgers University(罗格斯大学)
高效节能的同时定位与地图构建(SLAM)是移动机器人探索未知环境的关键。哺乳动物的大脑通过一个专门的神经元网络来解决SLAM,表现出异步计算和基于事件的通信,能耗非常低。我们提出了一个大脑启发的脉冲神经网络(SNN)架构,通过引入基于脉冲的参考帧变换,视觉似然计算和贝叶斯推理来解决一维SLAM。我们将我们的神经形态算法集成到英特尔的Loihi神经形态处理器中,这是一种模仿大脑计算模式的非冯·诺依曼硬件。我们对我们的神经形态方法和广泛用于小型环境的GMapping算法之间的准确性和能效进行了比较分析。我们基于Loihi的SNN架构消耗的能量比在CPU上运行的GMapping少100倍,同时在头部方向定位和地图生成方面具有相当的准确性。这些结果为扩展我们的方法为Loihi控制的自主机器人提供主动SLAM替代解决方案铺平了道路。
2019-09-19 cs.NE cs.RO
A Spiking Network for Inference of Relations Trained with Neuromorphic Backpropagation
在广泛的日常物体中对智能传感器的日益增长的需求要求存在能够在其环境中自主操作的低功率信息处理系统。特别是,有效地合并和处理不同传感器的输出是移动代理的认知能力的必要要求。在这项工作中,我们提出了一个多层的脉冲神经网络的刺激模式之间的关系在专用的神经形态系统的推理。该系统使用新版本的反向传播算法进行训练,该算法适用于神经形态硬件中的片上学习:错误梯度被编码为通过对称突触传播的尖峰信号,使用与前向传播期间使用的相同的集成和发射硬件基础设施。我们证明了强度的算术关系推理任务和视觉XOR的MNIST数据集上的方法。与以前的生物启发的网络实现相比,我们的方法能够用更少的神经元实现更好的性能。我们的架构是第一个具有片上学习能力的脉冲神经网络架构,它能够对复杂的视觉刺激进行关系推理。这些功能使我们的系统感兴趣的传感器融合应用和自主神经形态代理的嵌入式学习。
2019-03-11 cs.NE
Benchmarking Deep Spiking Neural Networks on Neuromorphic Hardware
随着越来越多的基于事件的神经形态硬件系统正在开发中的大学和工业,有一个领域的具体措施,以评估其性能的需求越来越大。在这项工作中,我们使用的方法转换预先训练的非尖峰到脉冲神经网络的性能损失和测量的能量每推理的神经形态硬件系统(BrainScaleS,Spikey,SpiNNaker)和CPU(NEST)和CPU/GPU(GeNN)的共同模拟框架。对于模拟硬件,我们进一步应用一种称为硬件在环训练的再训练技术来应对设备失配。对五个不同的网络进行了分析,其中包括三个通过神经架构搜索框架自动优化发现的网络。我们证明,转换损耗通常低于百分之一的数字实现,并适度较高的模拟系统的好处是低得多的能源每推理成本。
2020-10-26 cs.NE
DFSynthesizer: Dataflow-based Synthesis of Spiking Neural Networks to Neuromorphic Hardware
脉冲神经网络(SNN)是一种新兴的计算模型,它采用事件驱动的激活和生物启发的学习算法。基于SNN的机器学习程序通常在基于瓦片的神经形态硬件平台上执行,其中每个瓦片由称为交叉杆的计算单元组成,其映射程序的神经元和突触。然而,在现成的神经形态硬件上合成这样的程序是具有挑战性的。这是因为硬件的固有资源和延迟限制,其影响模型性能,例如,精度和硬件性能,例如,吞吐量我们提出了DFSynthesizer,一个端到端的框架,用于将基于SNN的机器学习程序合成到神经形态硬件。拟议的框架分四个步骤运作。首先,它分析了机器学习程序,并使用代表性数据生成SNN工作负载。其次,它划分SNN工作负载并生成适合目标神经形态硬件的交叉条的集群。第三,它利用同步数据流图(SDFG)的丰富语义来表示集群SNN程序,允许在关键硬件约束(如交叉杆的数量、每个交叉杆的尺寸、瓦片上的缓冲空间和瓦片通信带宽)方面进行性能分析。最后,采用一种新的调度算法在硬件的交叉开关上执行集群,保证了硬件性能。我们用10个常用的机器学习程序来评估DFSynthesizer。我们的研究结果表明,DFSynthesizer提供了更严格的性能保证相比,目前的映射方法。
2021-08-04 cs.AR cs.ET cs.NE
Neuromorphic Hardware In The Loop: Training a Deep Spiking Network on the BrainScaleS Wafer-Scale System
在模拟神经形态硬件上仿真脉冲神经网络比在传统计算机上仿真它们有几个优点,特别是在速度和能耗方面。然而,这通常是以减少对仿真网络的动态控制为代价的。在本文中,我们演示了如何迭代训练的硬件仿真网络可以补偿模拟基板引起的异常。我们首先将在软件中训练的深度神经网络转换为BrainScaleS晶圆级神经形态系统上的尖峰网络,从而与生物时域相比实现了10000的加速因子。该映射之后是在环训练,在每个训练步骤中,网络活动首先记录在硬件中,然后用于通过反向传播计算软件中的参数更新。一个重要的发现是,参数更新不必是精确的,而只需要近似地遵循正确的梯度,这简化了更新的计算。使用这种方法,经过几十次迭代,尖峰网络显示出接近理想的软件仿真原型的准确性。所提出的技术表明,模拟神经形态设备上模拟的深尖峰网络可以获得良好的计算性能,尽管模拟基板的固有变化。
2017-03-06 cs.NE
SpikeAtConv: An Integrated Spiking-Convolutional Attention Architecture for Energy-Efficient Neuromorphic Vision Processing
针对SNNs在复杂视觉任务中性能不足的问题,提出集成脉冲-卷积注意力架构SpikeAtConv,通过优化脉冲模块处理视觉时空模式,在标准图像分类基准上缩小了与传统神经网络的性能差距,助力高能效神经形态视觉处理。
2024-11-26 cs.NE
Spiking and Event-driven Neuromorphic Mamba Models for Efficient Speech Recognition
University of California, Berkeley(加州大学伯克利分校);Tsinghua University(清华大学)
提出脉冲和事件驱动的神经形态Mamba模型,通过激活稀疏性提升语音识别效率,在LibriSpeech上实现超过60%的激活稀疏性且精度损失小于1%,并开发周期精确的事件驱动模拟器实现算法-硬件协同优化。
2026-05-31 cs.NE cs.SD
MT-Spike: A Multilayer Time-based Spiking Neuromorphic Architecture with Temporal Error Backpropagation
现代深度学习使能的人工神经网络,例如深度神经网络(DNN)和卷积神经网络(CNN),已经在广泛的识别应用上取得了一系列突破性的记录。然而,与这种深度和复杂的神经网络模型相关联的巨大计算和存储需求极大地挑战了它们在资源有限的平台上的实现。基于时间的脉冲神经网络是类脑计算系统设计中的一个很有前途的解决方案,它可以在单个芯片内实现显著的计算效率和功耗效率。然而,相关的研究活动一直狭隘地集中在生物相容性和理论学习方法,导致低效的神经处理和不切实际的多层扩展,从而显着限制了处理现实认知任务的速度和准确性。在这项工作中,一个实用的多层基于时间的尖峰神经形态架构,即“MT尖峰”,开发,以填补这一空白。与建议的实际时间编码方案,平均延迟响应模型,时间误差反向传播算法,和启发式损失函数,“MT-尖峰”实现更有效的神经处理,通过灵活的神经模型的大小减少,同时提供非常有竞争力的分类精度为现实的识别任务。仿真结果很好地验证了深度多层学习的算法能力可以与基于时间的尖峰神经形态架构的效率无缝融合,展示了“MT-Spike”在资源和功耗受限的嵌入式平台中的巨大潜力。
2018-03-14 cs.NE q-bio.NC
Online Pseudo-Zeroth-Order Training of Neuromorphic Spiking Neural Networks
Peking University(北京大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Shenzhen Research Institute of Big Data(深圳大数据研究院);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Peng Cheng Laboratory(鹏城实验室)
提出在线伪零阶(OPZO)训练方法,仅需单次前向传播和噪声注入实现空间信用分配,避免空间BP的对称权重问题,在神经形态和静态数据集上达到与空间BP相当的性能,且训练成本低。
2024-07-17 cs.AI cs.LG cs.NE
Spiking Neural Networks for Continuous Control: Neuromorphic Reinforcement Learning in Conventional Computing
New Mexico Institute of Mining and Technology(新墨西哥矿业技术学院);The University of Texas at El Paso(德克萨斯大学埃尔帕索分校)
该研究提出SANSAC算法,在传统硬件上验证其性能与SAC近乎相当,证明基于脉冲神经网络的算法可用于复杂连续环境,为神经形态强化学习研究奠定了基础。
2026-08-25 cs.LG cs.NE
NeuroHSMD: Neuromorphic Hybrid Spiking Motion Detector
Nottingham Trent University(诺丁汉特伦特大学);Ulster University(阿尔斯特大学)
脊椎动物的视网膜在处理诸如检测移动物体等琐碎的视觉任务方面效率很高,但这对现代计算机来说是一个复杂的挑战。在脊椎动物中,物体运动的检测是由称为物体运动敏感神经节细胞(OMS-GC)的专门视网膜细胞执行的。OMS-GC处理连续的视觉信号,并产生由视觉皮层后处理的尖峰模式。我们之前的混合敏感运动检测器(HSMD)算法是第一个使用定制的3层脉冲神经网络(SNN)增强背景减除(BS)算法的混合算法,该网络可生成OMS-GC脉冲样响应。在这项工作中,我们提出了一种神经形态混合敏感运动检测器(NeuroHSMD)算法,加速我们的HSMD算法使用现场可编程门阵列(FPGA)。使用相同的2012变更检测(CDnet 2012)和2014变更检测(CDnet 2014)基准数据集,将NeuroHSMD与HSMD算法进行比较。当针对CDnet 2012和CDnet 2014数据集进行测试时,NeuroHSMD分别以720 x480(每秒28.06帧(fps))和720 x480(每秒28.71帧)的速度执行对象运动检测,质量没有下降。此外,在本文中提出的NeuroHSMD是完全实现在开放式计算机语言(OpenCL),因此很容易复制在其他设备,如图形处理单元(GPU)和集群的中央处理单元(CPU)。
2023-02-14 cs.CV cs.NE eess.IV
Bridging Quantized Artificial Neural Networks and Neuromorphic Hardware
本文提出SDANN框架,直接在神经形态硬件上实现量化人工神经网络,无需调参或性能损失,并通过偏置校准和缩放积分方法解决位宽限制,实验证明其精度与量化ANN完全一致,且在真实硬件上验证了可行性。
2025-06-22 cs.NE
Neuromorphic adaptive spiking CPG towards bio-inspired locomotion of legged robots
Universidad de Cádiz(加的斯大学);University of Guanajuato(瓜纳华托大学);Universidad de Sevilla(塞维利亚大学)
近年来,脊椎动物所表现出的运动机制一直是机器人系统性能改进的灵感来源。这些机制包括它们的运动对通过它们的生物传感器记录在环境中的任何变化的适应性。在这方面,我们的目标是复制这种适应性的足式机器人通过尖峰中央模式发生器。这种尖峰中央模式发生器生成不同的运动(节奏)模式,这些模式由外部刺激驱动,即连接到机器人以提供反馈的力敏电阻器的输出。尖峰中央模式发生器由五个群体的泄漏整合和发射神经元网络组成,这些神经元设计有特定的拓扑结构,从而可以通过上述外部刺激生成和驱动节奏模式。因此,末端机器人平台(任何足式机器人)的运动可以通过使用任何传感器作为输入来适应地形。具有自适应学习的尖峰中央模式发生器已在软件和硬件层面进行了数值验证,使用Brian 2模拟器和SpiNNaker神经形态平台进行最新验证。特别是,我们的实验清楚地表明,当输入刺激变化时,尖峰中央模式发生器的种群中产生的尖峰之间的振荡频率存在适应性。为了验证尖峰中枢模式发生器的鲁棒性和适应性,我们通过改变传感器的输出进行了几次测试。这些实验在Brian 2和SpiNNaker中进行;两种实现都显示出类似的行为,Pearson相关系数为0.905。
2021-01-24 cs.AI cs.NE cs.RO
SEPhIA: <1 laser/neuron Spiking Electro-Photonic Integrated Multi-Tiled Architecture for Scalable Optical Neuromorphic Computing
SEPhIA提出一种光电多瓦片SNN架构,利用微环调制器和多波长源实现亚单激光器每神经元效率,在四类脉冲数据集上达到超90%准确率,兼顾物理可行性与可扩展性。
2025-10-08 cs.ET cs.NE physics.optics
Reinforcement co-Learning of Deep and Spiking Neural Networks for Energy-Efficient Mapless Navigation with Neuromorphic Hardware
Computational Brain Lab, Department of Computer Science, Rutgers University(罗格斯大学计算机科学系计算大脑实验室)
节能的无地图导航对于移动机器人来说至关重要,因为它们在有限的机载资源下探索未知环境。虽然最近的深度强化学习(DRL)方法已成功地应用于导航,但其高能耗限制了其在几个机器人应用中的使用。在这里,我们提出了一种神经形态的方法,结合了脉冲神经网络的能量效率与DRL的最优性,并在无地图导航的学习控制策略中进行基准测试。我们的混合框架,尖峰深度确定性策略梯度(SDDPG),由尖峰演员网络(SAN)和深度评论家网络,其中两个网络使用梯度下降联合训练。共同学习使两个网络之间的协同信息交换成为可能,使它们能够通过共享的表示学习克服彼此的局限性。为了评估我们的方法,我们在英特尔的Loihi神经形态处理器上部署了经过训练的SAN。当在模拟和真实世界的复杂环境中进行验证时,与Jetson TX2上的DDPG相比,我们在Loihi上的方法每次推理消耗的能量减少了75倍,并且还表现出更高的成功导航率,范围从1%到4.2%,并取决于前向传播时间步长。这些结果加强了我们正在进行的努力,设计大脑启发的算法,用于控制具有神经形态硬件的自主机器人。
2020-07-31 cs.LG cs.NE cs.RO
Neuromorphic analog circuits for robust on-chip always-on learning in spiking neural networks
本文设计融合短期模拟动力学、长期三态离散化及迟滞停止学习机制的片上学习电路,并经180 nm CMOS原型芯片验证,可提升脉冲神经网络在噪声与失配下的常开在线学习稳健性。
2023-07-12 cs.NE
STEMNIST: Spiking Tactile Extended MNIST Neuromorphic Dataset
City University of Hong Kong(香港城市大学);Hong Kong University of Science and Technology(香港科技大学)
STEMNIST是一个扩展至35个字母数字类别的神经形态触觉数据集,用于评估基于事件的触觉识别性能。
2026-01-04 cs.NE
Spiking Neural Networks -- Part III: Neuromorphic Communications
无线通信和人工智能之间的协同作用正日益激励着这两个领域交叉点的研究。一方面,越来越多的无线连接设备的存在,每个设备都有自己的数据,正在推动将机器学习(ML)的进步从高性能计算设施(其中信息在单个位置存储和处理)输出到最终用户的分布式隐私意识处理。另一方面,ML可以解决通信协议优化中的算法和模型缺陷。然而,在通过带宽受限通道连接的电池供电设备上实现用于学习和推理的ML模型仍然具有挑战性。本文探讨了两种方式,其中脉冲神经网络(SNN)可以帮助解决这些开放的问题。首先,我们讨论了联邦学习的SNN的分布式训练,然后描述了集成的神经形态传感,SNN和脉冲无线电技术的低功耗远程推理。
2020-12-09 cs.LG cs.NE eess.SP
Conversion of Artificial Recurrent Neural Networks to Spiking Neural Networks for Low-power Neuromorphic Hardware
近年来,功耗低几个数量级的神经形态低功耗系统领域获得了显著的发展势头。然而,由于缺乏能够利用这种架构优势的算法,它们的广泛使用仍然受到阻碍。虽然表示学习算法的神经形态适应正在出现,但时间序列或可变长度输入的有效处理仍然很困难。循环神经网络(RNN)被广泛用于机器学习以解决各种序列学习任务。在这项工作中,我们提出了一种训练和约束方法,使机器学习(Elman)RNN映射到尖峰神经元的基底上,同时与当前和不久的将来的神经形态系统的能力兼容。这种“训练和约束”方法包括首先使用时间反向传播来训练RNN,然后离散化权重,最后通过将人工神经元的响应与尖峰神经元的响应相匹配来将它们转换为尖峰RNN。我们展示了我们的方法,通过映射一个自然语言处理任务(问题分类),在那里我们展示了整个映射过程的递归层的网络IBM的神经突触系统“TrueNorth”,一个尖峰为基础的数字神经形态硬件架构。TrueNorth对连接性、神经和突触参数施加了特定的约束。为了满足这些约束,需要将突触权重和神经活动离散化到16个级别,并将扇入限制为64个输入。我们发现,短的突触延迟足以在问题分类任务中实现RNN的动态(时间)方面。硬件约束模型在问题分类中实现了74%的准确性,同时在一个TrueNorth芯片上使用不到0.025%的内核,估计功耗约为17 uW。
2016-01-16 cs.NE
Versatile emulation of spiking neural networks on an accelerated neuromorphic substrate
我们提出了第一个实验结果的新的BrainScaleS-2神经形态架构的基础上模拟神经突触核心和增强的嵌入式微处理器的复杂的可塑性和实验控制。与生物动力学相比,1000的高加速因子使得能够执行计算上昂贵的任务,通过允许快速仿真长时间实验或在许多连续试验中快速迭代。我们的架构的灵活性证明了一套五个不同的实验,强调不同方面的BrainScaleS-2系统。
2022-05-09 cs.NE q-bio.NC
The Potential of Combined Learning Strategies to Enhance Energy Efficiency of Spiking Neuromorphic Systems
本研究针对神经形态计算系统的能效提升需求,提出融合PSTDP与幂律型STDP的组合学习方法,优化CSNN架构,在保持感知精度的同时减少参数、降低能耗与硬件开销,为高能效类脑计算硬件提供通用框架。
2024-08-13 cs.NE
Compiling Spiking Neural Networks to Mitigate Neuromorphic Hardware Constraints
脉冲神经网络(SNN)是在资源和功耗受限的平台上进行时空模式识别的有效计算模型。在神经形态硬件上执行的SNN可以进一步降低这些平台的能耗。随着模型大小和复杂性的增加,将基于SNN的应用映射到基于瓦片的神经形态硬件变得越来越具有挑战性。这归因于神经突触核心的限制,即交叉杆,仅容纳每个突触后神经元的固定数量的突触前连接。对于具有许多神经元和每个神经元的突触前连接的复杂的基于SNN的模型,(1)在训练之后可能需要修剪连接以适应交叉开关资源,从而导致模型质量的损失,例如,准确性,以及(2)神经元和突触需要被划分并放置在硬件的神经-突触核上,这可能导致延迟和能耗增加。在这项工作中,我们提出了(1)一种新的展开技术,将具有许多突触前连接的神经元功能分解为一系列同质神经元单元,以显着提高交叉杆利用率并保留所有突触前连接,以及(2)SpiNeMap,一种新的方法,将SNN映射到神经形态硬件上,旨在最大限度地减少能耗和尖峰延迟。
2020-11-27 cs.AR cs.NE
NeuroPod: a real-time neuromorphic spiking CPG applied to robotics
Universidad de Sevilla(塞维利亚大学);Universidad de Cádiz(加的斯大学)
最初,机器人的开发旨在使我们的生活更轻松,为人类执行重复或危险的任务。虽然它们能够执行这些任务,但最新一代的机器人正在设计更进一步,通过执行迄今为止由智能动物或人类执行的更复杂的任务。为此,需要从生物学的例子中汲取灵感。例如,昆虫能够最佳地解决复杂的环境导航问题,许多研究人员已经开始模仿这些昆虫的行为。最近的兴趣在神经形态工程促使我们提出了一个实时的【形】,神经形态,尖峰为基础的中央模式发生器的应用在神经机器人,使用节肢动物般的机器人。设计了一个脉冲神经网络,并在SpiNNaker上实现。该网络模拟了一个复杂的,在线改变能力的中央模式发生器,产生三个步态的六足机器人运动。可重构硬件用于管理机器人的电机和与脉冲神经网络的实时的【形】通信接口。实时的【形】测量证实了模拟结果,运动测试表明NeuroPod可以在没有任何平衡损失或增加延迟的情况下执行步态。
2019-04-25 cs.NE cs.RO