EqSpike: Spike-driven Equilibrium Propagation for Neuromorphic Implementations
寻找基于尖峰的学习算法,可以在神经形态系统的局部约束下实现,同时实现高精度,仍然是一个艰巨的挑战。平衡传播是反向传播的一个很有前途的替代方案,因为它只涉及本地计算,但面向硬件的研究迄今为止一直集中在基于速率的网络。在这项工作中,我们开发了一个脉冲神经网络算法称为EqSpike,兼容神经形态系统,学习均衡传播。通过模拟,我们得到了一个测试识别准确率为97.6%的MNIST,类似于基于速率的均衡传播,并比较有利的替代学习技术的脉冲神经网络。我们表明,在硅神经形态技术实现的EqSpike可以减少三个数量级和两个数量级的GPU相比,分别推理和训练的能量消耗。最后,我们还表明,在学习过程中,EqSpike权重更新表现出一种形式的尖峰时间依赖可塑性,突出了与生物学的可能联系。
2021-02-17 cs.NE
Coarse scale representation of spiking neural networks: backpropagation through spikes and application to neuromorphic hardware
Argonne National Laboratory(阿贡国家实验室)
在这项工作中,我们探讨了经常性的代表性泄漏整合和消防神经元的时间尺度等于他们的绝对不应期。我们的粗时间尺度近似获得使用的概率分布函数的尖峰到达,均匀分布在这个时间间隔。这导致了一种离散表示,它表现出与连续模型相同的动态特性,从而通过递归实现实现了高效的大规模模拟和反向传播。我们使用这种方法直接在Pytorch中探索深度脉冲神经网络的训练,包括卷积、全对全连接和最大池层。我们发现,递归模型在训练过程中仅使用4长的尖峰序列就可以获得很高的分类精度。我们还观察到一个很好的转移回泄漏集成和火灾神经元的连续实现。最后,我们将这种方法应用于一些标准控制问题,作为使用神经形态芯片探索强化学习的第一步。
2020-07-13 cs.ET cs.LG cs.NE
Fast and energy-efficient neuromorphic deep learning with first-spike times
本研究针对生物与人工系统对低能耗、快反应的需求,推导了基于首次脉冲时间的脉冲神经网络学习规则,实现反向传播,在BrainScaleS-2系统验证了能效优势,并验证了方法在不同神经形态平台的泛化性。
2021-05-17 cs.ET cs.NE q-bio.NC
Membrane-Dependent Neuromorphic Learning Rule for Unsupervised Spike Pattern Detection
过去已经提出了几种用于突触可塑性的学习规则,这些规则取决于尖峰定时或内部状态变量,从而赋予脉冲神经网络不同的计算能力。由于设计复杂性,这些学习规则通常不在神经形态设备上实现,使得设备仅能够进行推理。在这项工作中,我们提出了一个单向的突触后电位依赖的学习规则,只触发的突触前尖峰,易于在硬件上实现。我们证明了这样的学习规则在功能上能够复制成对STDP的计算能力。此外,我们还证明了这种学习规则可以用于使用单个神经元以无监督的方式学习和分类时空锋电位模式。我们认为,这种学习规则是计算功能强大,也是理想的硬件实现,由于其单向内存访问。
2017-01-05 cs.NE
On the Sampling Sparsity of Neuromorphic Analog-to-Spike Conversion based on Leaky Integrate-and-Fire
本文通过严格数学分析证明,基于LIF或SOD的阈值表示编码等价于一种模拟-脉冲转换,能在满足Alexiewicz范数逼近条件下实现最大稀疏性。
2024-10-22 cs.NE eess.SP
Integrate-and-fire circuit for converting analog signals to spikes using phase encoding
本研究针对神经形态芯片处理模拟信号需转换脉冲的需求,提出自适应LIF神经元不应期的相位编码方法,实现无ADC的端到端电信号频谱计算神经形态应用。
2023-10-03 cs.ET cs.NE eess.SP
Spike-based local synaptic plasticity: A survey of computational models and neuromorphic circuits
了解生物神经网络如何使用基于尖峰的局部可塑性机制进行学习,可以导致强大的,节能的,自适应的神经形态处理系统的发展。大量的基于尖峰的学习模型最近已经提出了以下不同的方法。然而,很难评估它们是否以及如何映射到神经形态硬件上,并比较它们的功能和易于实现。为此,在本次调查中,我们提供了一个全面的概述代表性的大脑启发的突触可塑性模型和混合信号CMOS神经形态电路在一个统一的框架。我们回顾历史,自下而上,自上而下的方法来建模突触可塑性,我们确定计算原语,可以支持低延迟和低功耗的硬件实现的尖峰为基础的学习规则。我们提供了一个共同的定义的前和突触后神经元信息的基础上,我们提出的突触可塑性的物理实现的基本要求的局部性原则。基于这一原则,我们比较了这些模型在同一框架内的属性,并描述了混合信号电子电路,实现其计算原语,指出这些构建块如何使高效的片上和在线学习的神经形态处理系统。
2022-11-05 cs.AR cs.NE
Neuromorphic Online Clustering and Its Application to Spike Sorting
University of Wisconsin-Madison(威斯康星大学麦迪逊分校)
本研究提出基于传统机器学习符号的活性树突公式化表述,开发出可动态在线聚类的神经形态树突模块,在锋电位分类任务中性能优于离线k-means,且支持单次遍历输入流的在线学习。
2025-06-14 cs.AI cs.NE
From Silicon to Spikes: System-Wide Efficiency Gains via Exact Event-Driven Training in Neuromorphic Computing
本文提出了一种精确事件驱动训练框架,通过计算突触权重、传输延迟和放电阈值的梯度,提升类脑计算系统的效率与准确性。
2025-12-16 cs.NE
Spike-driven Transformer V2: Meta Spiking Neural Network Architecture Inspiring the Design of Next-generation Neuromorphic Chips
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室)
本文提出Meta-SpikeFormer元架构,以纯稀疏加法的脉冲驱动Transformer兼顾低功耗、多视觉任务与高性能,并为下一代神经形态芯片提供设计参考。
2024-02-15 cs.CV cs.NE
A Model for Image Segmentation in Retina
虽然传统的前馈滤波器模型可以再现视网膜神经节神经元对简单刺激的速率响应,但它们无法解释为什么尖峰之间的同步性远远高于泊松放电的预期[6],并且有时可能是有节奏的[25,16]。在这里,我们调查的假设,在周期性视网膜脉冲序列的同步可以传达上下文信息的视觉输入,这是提取的计算在视网膜网络。我们提出了一个计算模型的图像分割组成的耦合振荡器,其相位模型的时间的个人视网膜尖峰的仓本模型。振荡器之间的相位耦合是由刺激结构决定的,如果细胞的感受野中的局部对比度相似,就会导致细胞同步。本质上,振荡器网络中的松弛解决了图聚类问题,其中图表示图像中不同点之间的特征相似性。我们在伯克利图像分割数据集(BSDS)上测试了不同的模型版本。由特征图的标准表示(邻接矩阵、图拉普拉斯算子或模块化)设置的具有相位交互的网络未能在基线(独立传感器的模型)上显著表现出分割性能。相比之下,具有相位相互作用的网络不仅考虑了特征相似性,还考虑了感受野之间的几何距离,其分割性能显著高于基线。
2020-05-06 cs.NE eess.IV q-bio.NC
MT-Spike: A Multilayer Time-based Spiking Neuromorphic Architecture with Temporal Error Backpropagation
现代深度学习使能的人工神经网络,例如深度神经网络(DNN)和卷积神经网络(CNN),已经在广泛的识别应用上取得了一系列突破性的记录。然而,与这种深度和复杂的神经网络模型相关联的巨大计算和存储需求极大地挑战了它们在资源有限的平台上的实现。基于时间的脉冲神经网络是类脑计算系统设计中的一个很有前途的解决方案,它可以在单个芯片内实现显著的计算效率和功耗效率。然而,相关的研究活动一直狭隘地集中在生物相容性和理论学习方法,导致低效的神经处理和不切实际的多层扩展,从而显着限制了处理现实认知任务的速度和准确性。在这项工作中,一个实用的多层基于时间的尖峰神经形态架构,即“MT尖峰”,开发,以填补这一空白。与建议的实际时间编码方案,平均延迟响应模型,时间误差反向传播算法,和启发式损失函数,“MT-尖峰”实现更有效的神经处理,通过灵活的神经模型的大小减少,同时提供非常有竞争力的分类精度为现实的识别任务。仿真结果很好地验证了深度多层学习的算法能力可以与基于时间的尖峰神经形态架构的效率无缝融合,展示了“MT-Spike”在资源和功耗受限的嵌入式平台中的巨大潜力。
2018-03-14 cs.NE q-bio.NC
An Accelerated Analog Neuromorphic Hardware System Emulating NMDA- and Calcium-Based Non-Linear Dendrites
本文提出了一种扩展的BrainScaleS加速模拟神经形态硬件模型。可扩展的神经形态架构扩展了对多室模型和非线性树突的支持。这些特性是\SI{65}{\nano\meter}原型ASIC的一部分。它允许模拟在皮质锥体神经元中观察到的不同尖峰类型:NMDA平台电位、钙和钠尖峰。通过复制这些细胞的一些结构,它们可以被配置为在单个神经元内执行重合检测。内建的可塑性机制不仅可以改变突触的重量,而且可以改变树突状突触的组成,以有效地训练大型多室神经元。晶体管级模拟演示了模拟实现的功能,并说明了生物测量的类比。
2017-03-21 cs.ET cs.NE
Spiketrum: An FPGA-based Implementation of a Neuromorphic Cochlea
The University of Manchester(曼彻斯特大学)
本文提出基于FPGA的神经形态耳蜗Spiketrum,利用通用脉冲编码算法将音频振动转换为实时且具生物学真实性的听觉脉冲序列,支持信号重建与自适应功耗,适用于多种计算系统。
2024-05-31 cs.NE cs.SD eess.AS
Is Neuromorphic MNIST neuromorphic? Analyzing the discriminative power of neuromorphic datasets in the time domain
脉冲神经网络(SNN)相对于其前辈的优势在于它们具有脉冲能力,使它们能够使用脉冲时序进行编码和高效计算。神经形态数据集应该允许神经形态算法清楚地表明SNN能够在数据集上比ANN表现得更好。我们已经沿着这些路线分析了N-MNIST和N-Caltech 101,但我们的研究集中在N-MNIST上。首先,我们评估是否在神经元数据集中的时域中编码了额外的信息。我们表明,一个人工神经网络训练与基于帧的版本N-MNIST和N-Caltech 101图像的反向传播达到99.23%和78.01%的准确性。这是迄今为止在这些数据集上获得的最佳分类精度。其次,我们提出了第一个在N-MNIST上训练的无监督SNN,并证明了91.78%的结果。我们还使用此SNN进一步的实验N-MNIST,以表明基于速率的SNN性能更好,精确的尖峰时间是不重要的N-MNIST。因此,N-MNIST并没有突出SNN的独特能力。这项研究的结论开启了一个重要的问题,在神经形态工程-什么,那么,构成一个良好的神经形态数据集?
2018-07-03 cs.NE
Efficient spike encoding algorithms for neuromorphic speech recognition
Université de Sherbrooke(舍布鲁克大学)
已知脉冲神经网络(SNN)对于神经形态处理器实现非常有效,与传统的深度学习方法相比,在能量效率和计算延迟方面实现了数量级的改进。最近,随着监督训练算法适应SNN的背景,类似的算法性能也成为可能。然而,包括音频、视频和其他传感器导出数据的信息通常被编码为不太适合SNN的实值信号,从而阻止网络利用尖峰定时信息。因此,从实值信号到尖峰的有效编码是关键的,并且显著影响整个系统的性能。为了有效地将信号编码为尖峰,必须考虑与手头任务相关的信息的保存以及编码尖峰的密度。本文在一个与说话人无关的数字分类系统中,研究了四种尖峰信号编码方法:Delta发送、首次尖峰时间、泄漏积分、激发神经元和Bens尖峰算法。我们首先表明,所有的编码方法产生更高的分类精度,使用显着较少的尖峰时,编码的生物启发耳蜗,而不是传统的短时傅立叶变换。然后,我们表明,两个发送增量变体的分类结果与最先进的深卷积神经网络基线,同时降低编码比特率。最后,我们表明,在某些情况下,几种编码方法比传统的深度学习基线提高了性能,进一步证明了尖峰编码算法在实值信号编码中的作用,以及神经形态实现有可能超越最先进的技术。
2022-07-14 cs.NE cs.SD eess.AS
Conjoint Audio-to-Spikes Encoding and Processing for Efficient Neuromorphic Speech Recognition
Univ. Bordeaux(波尔多大学);Bordeaux INP(波尔多国立综合理工学院);CNRS(法国国家科学研究中心)
本研究针对神经形态语音识别,开发了面向FPGA的不可学习可编程音频脉冲编码器,优化编码与分类器,在Heidelberg Digits数据集上达99.77%准确率,超越现有技术。
2026-09-01 cs.AI cs.LG cs.NE
SpikeAtConv: An Integrated Spiking-Convolutional Attention Architecture for Energy-Efficient Neuromorphic Vision Processing
针对SNNs在复杂视觉任务中性能不足的问题,提出集成脉冲-卷积注意力架构SpikeAtConv,通过优化脉冲模块处理视觉时空模式,在标准图像分类基准上缩小了与传统神经网络的性能差距,助力高能效神经形态视觉处理。
2024-11-26 cs.NE
Energy-Aware Spike Budgeting for Continual Learning in Spiking Neural Networks for Neuromorphic Vision
Dept. of Electrical and Electronics Engineering, University of Liberal Arts Bangladesh(乌拉尔大学 bangladesh 电子与电气工程系);Dept. of Electrical Engineering, Pennsylvania State University(宾夕法尼亚州立大学电气工程系)
提出一种面向神经形态视觉的节能脉冲预算持续学习框架,通过整合经验回放、可学习神经元参数和自适应调度器,在帧型和事件型数据集上分别提升准确率并降低能耗。
2026-03-10 cs.AI cs.CV cs.NE
PT-Spike: A Precise-Time-Dependent Single Spike Neuromorphic Architecture with Efficient Supervised Learning
在过去十年中,人工智能最令人兴奋的进步之一是在许多现实世界的应用中广泛采用人工神经网络,如DNN和CNN。然而,底层的大量计算和存储需求极大地挑战了它们在无人机、手机和物联网设备等资源有限的平台上的适用性。第三代神经网络模型--脉冲神经网络(SNN),受人脑工作机制和效率的启发,已经成为一种有前途的解决方案,用于在轻量设备(例如,单芯片)内实现更令人印象深刻的计算和功率效率。然而,相关的研究活动已经狭隘地进行了传统的基于速率的尖峰系统的设计,以满足实际的认知任务,低估SNN的能量效率,吞吐量和系统的灵活性。虽然基于时间的SNN在概念上更有吸引力,但由于缺乏有效的编码和实用的学习方案,其潜力在实际应用中并没有得到释放。在这项工作中,一个精确的时间依赖的单棘波神经形态结构,即“PT-棘波”,是为了弥合这一差距。三个组成硬件有利的技术:精确的单脉冲时间编码,有效的监督时间学习,和快速非对称解码提出了相应的,以提高能源效率和数据处理能力的基于时间的SNN在一个更紧凑的神经网络模型的大小,当执行真正的认知任务。仿真结果表明,与基于速率的SNN和ANN相比,在网络规模、处理效率和功耗等方面都有显著改善,但分类精度略有下降。
2018-03-14 cs.NE q-bio.NC
MorphIC: A 65-nm 738k-Synapse/mm$^2$ Quad-Core Binary-Weight Digital Neuromorphic Processor with Stochastic Spike-Driven Online Learning
神经网络加速器领域的最近趋势研究权重量化作为增加硬件设备的资源和功率效率的手段。由于完整的片上权重存储对于避免片外存储器访问的高能量成本是必要的,因此对于权重存储的存储器减少要求被推向使用二进制权重,当使用量化感知训练技术时,二进制权重被证明在许多应用上具有有限的准确度降低。并行地,脉冲神经网络(SNN)架构被探索以在处理稀疏的基于事件的数据流时进一步降低功率,而片上基于尖峰的在线学习出现为在训练阶段期间功率和资源受限的应用的关键特征。然而,设计功率和面积高效的脉冲神经网络仍然需要开发特定的技术,以便在不损害突触密度的情况下利用二进制权重的片上在线学习。在这项工作中,我们展示了MorphIC,一个四核二进制权重数字神经形态处理器嵌入随机版本的尖峰驱动的突触可塑性(S-SDSP)学习规则和分层路由结构的大规模芯片互连。MorphIC SNN处理器在65 nm CMOS中为2.86 mm $^2$的有源硅面积嵌入了总共2k个泄漏积分激发(LIF)神经元和超过200万个塑性突触,实现了738 k个突触/mm $^2$的高密度。与先前提出的SNN相比,MorphIC在MNIST分类任务的面积精度权衡方面表现出数量级的改进,同时在能量精度权衡方面没有任何损失。
2019-07-16 cs.ET cs.NE
Real Spike: Learning Real-valued Spikes for Spiking Neural Networks
Intelligent Science & Technology Academy of CASIC(中国航天科工集团智能科学与技术研究院)
脑启发脉冲神经网络(SNN)由于其事件驱动和能量高效的特性,近年来受到越来越多的关注。在神经形态硬件上集成存储和计算范式使得SNN与深度神经网络(DNN)有很大不同。在本文中,我们认为SNN可能不会受益于权重共享机制,该机制可以有效地减少参数并提高DNN的推理效率,在某些硬件中,并假设具有非共享卷积核的SNN可以表现得更好。基于这一假设,提出了一种SNN训练-推理解耦方法Real Spike,该方法不仅在推理时同时使用非共享卷积核和二进制Spike,而且在训练时同时保持共享卷积核和实值Spike。SNN的这种解耦机制是通过重新参数化技术实现的。此外,基于训练-推理-解耦的思想,提出了一系列不同层次的Real Spike实现形式,这些实现形式在推理过程中共享卷积,并且对神经形态和非神经形态硬件平台都很友好。给出了一个理论证明,澄清了真正的Spike为基础的SNN网络是优于其香草对应。实验结果表明,所有不同的Real Spike版本可以一致地提高SNN的性能。此外,所提出的方法在非尖峰静态和神经形态数据集上都优于最先进的模型。
2022-10-13 cs.LG cs.NE
A 0.5-V Linear Neuromorphic Voltage-to-Spike Encoder Using a Bulk-Driven Transconductor
National Tsing Hua University(国立清华大学)
本文提出了一种超低功耗电压到脉冲编码器,通过线性化体驱动跨导器与基于DPI的LIF神经元组合,实现近线性的电压到放电率转换,采用无尾体驱动差分对提升大信号线性,利用跨线性线性化网络抑制主导的sinh非线性并稳定可调的V-to-I增益。
2026-04-10 cs.AR cs.NE
Bio-plausible Neuromorphic Disturbance Observer Based on Emulation Theory: Extended Version
受生物神经系统启发,提出一种基于脉冲时序编码的神经形态扰动观测器与控制框架,利用自适应阈值触发机制减少脉冲事件,在噪声条件下将脉冲数量降至固定阈值的42.6%。
2026-06-16 cs.NE q-bio.NC
Shenjing: A low power reconfigurable neuromorphic accelerator with partial-sum and spike networks-on-chip
下一波设备上的人工智能可能需要节能的深度神经网络。脑激励脉冲神经网络(SNN)已被确定为一个有前途的候选人。不需要乘法器就能显著降低能耗。对于设备上的应用,除了计算之外,通信也会产生大量的能量和时间。在本文中,我们提出了Shenjing,一个可配置的SNN架构,完全暴露所有片上通信的软件,使软件映射的SNN模型具有高精度,低功耗。与TrueNorth等先前的SNN架构不同,Shenjing不需要对映射进行任何模型修改和重新训练。我们表明,传统的人工神经网络(ANN),如多层感知器,卷积神经网络,以及最新的残留神经网络可以成功地映射到深井,实现与SNN的能源效率的ANN。对于使用多层感知器的MNIST推理问题,我们能够实现96%的准确度,同时使用10个Shenjing核心仅消耗1.26mW。
2019-11-25 cs.AR cs.ET cs.NE
To Spike or Not to Spike, that is the Question
本文研究将SNN中神经元阈值从超参数改为可训练参数,以解决死神经元问题,从而提升收敛性、测试准确率并减少训练轮数,在多个时空数据集上实现最高30%加速和2%准确率提升。
2025-04-13 cs.ET cs.NE
Mapping of Local and Global Synapses on Spiking Neuromorphic Hardware
Stichting IMEC Nederland(荷兰IMEC基金会);IMEC Belgium(比利时IMEC);Drexel University(德雷塞尔大学)
尖峰神经网络(SNN)被广泛应用于解决复杂的模式识别、函数逼近和图像分类任务。随着这些网络的规模和复杂性不断增长,硬件实现变得具有挑战性,因为由于严格的能量预算,扩展完全连接的神经元的单个阵列(交叉开关)的大小不再可行。现代神经形态硬件集成了小型交叉开关和时分复用互连。为了将SNN映射到神经形态硬件上,划分SNN变得至关重要,其主要目的是减少全局通信延迟和能量开销。为了实现这一目标,我们提出了我们的粒子群优化,分区SNN到本地突触(映射在交叉)和全局突触(映射在时间复用的互连)的实例,目的是减少尖峰通信的互连。这通过减少尖峰间期失真和尖峰紊乱来改善延迟、功耗以及应用性能。我们的框架是在Python中实现的,接口CARLsim,GPU加速的应用级尖峰神经网络模拟器与扩展版本的Noxim,用于模拟时间复用互连。实验进行了现实和合成SNN为基础的应用程序与不同的计算模型,拓扑结构和尖峰编码方案。使用来自内部神经形态芯片的功率数,我们证明了PACMAN(SpiNNaker上SNN的广泛使用的分区技术)的能耗和尖峰延迟显著降低。
2019-08-13 cs.ET cs.LG cs.NE
Retina : Low-Power Eye Tracking with Event Camera and Spiking Hardware
ETH Zürich(苏黎世联邦理工学院);Inivation AG(因尼维申公司);Synsense AG(森赛思公司)
本研究提出基于事件相机与脉冲硬件的低功耗眼动追踪方案Retina,构建Ini-30数据集,设计小参数SNN回归模型,在Speck处理器上实现低功耗低延迟,精度与运算效率均优于现有最新方法。
2024-04-17 cs.CV cs.NE
Maximizing Information in Neuron Populations for Neuromorphic Spike Encoding
针对神经形态脉冲编码中的信息丢失问题,提出基于最大化互信息和 Partial Information Decomposition 的神经元群体编码参数优化算法,在两项分类任务中显著提升了准确率并优于随机参数选择。
2024-12-26 cs.NE
UniSpike: Accelerating Spiking Neural Networks on Neuromorphic Systems via Eliminating Address Redundancy
Zhejiang University(浙江大学)
针对多核神经形态系统中脉冲数据包重复传输目标地址导致的流量和能耗开销问题,提出硬件-软件协同设计的UniSpike,通过将发往同一核的脉冲聚合为紧凑数据包,结合目标中心调度、轻量级运行时打包硬件和目标感知的SNN划分,平均减少1.93倍流量,实现1.77倍加速和1.50倍能效提升。
2026-05-22 cs.AR cs.NE
An error-propagation spiking neural network compatible with neuromorphic processors
脉冲神经网络在低功耗传感处理和边缘计算硬件平台的设计中显示出了巨大的潜力。然而,在这种架构上实现片上学习算法仍然是一个开放的挑战,特别是对于依赖于反向传播算法的多层网络。在本文中,我们提出了一种基于尖峰的学习方法,近似反向传播使用本地权重更新机制,这是兼容的混合信号模拟/数字神经形态电路。我们引入了一个网络架构,使突触权重更新机制,以跨层反向传播错误信号,并提出了一个网络,可以训练区分两个尖峰为基础的模式,具有相同的平均发射率,但不同的尖峰定时。这项工作代表了设计超低功耗混合信号神经形态处理系统的第一步,该系统具有片上学习电路,可以被训练以识别尖峰活动的不同时空模式(例如,由基于事件的视觉或听觉传感器产生)。
2021-04-12 cs.NE
Unsupervised Online Learning With Multiple Postsynaptic Neurons Based on Spike-Timing-Dependent Plasticity Using a TFT-Type NOR Flash Memory Array
我们提出了一个两层全连接的神经形态系统的基础上,薄膜晶体管(TFT)型NOR闪存阵列与多个突触后(POST)神经元。在二值MNIST手写体数据集上实现了基于脉冲时间依赖可塑性(STDP)的无监督在线学习,其识别结果通过测量POST神经元的放电频率来确定。使用一个建议的学习计划,我们调查的POST神经元的数量在识别率方面的影响。在这个神经形态系统中,侧抑制功能和自我平衡特性被用于多个POST神经元的竞争学习。仿真结果表明,STDP对全黑白MNIST手写体数字进行了无监督的在线学习,表明该方法在不对输入模式进行预处理的情况下,具有良好的模式识别和分类性能。
2018-11-17 cs.ET cs.NE
HiAER-Spike: Hardware-Software Co-Design for Large-Scale Reconfigurable Event-Driven Neuromorphic Computing
Institute for Neural Computation, UC San Diego(加州大学圣地亚哥分校神经计算研究所)
本文提出 HiAER-Spike 平台,通过硬件-软件协同设计实现支持 1.6 亿神经元和 400 亿突触的大规模可重构事件驱动神经形态计算,并提供硬件无关的 Python 接口和网络门户。
2025-03-20 cs.AI cs.DC cs.NE
Neuromorphic Wireless Split Computing with Multi-Level Spikes
King’s Laboratory for Intelligent Computing (KLIC) lab within the Centre for Intelligent Information Processing Systems (CIIPS) at the Department of Engineering, King’s College London(国王智能计算实验室(KLIC)内位于智能信息处理系统中心(CIIPS)的工程系,伦敦国王学院);King’s Communications, Learning and Information Processing (KCLIP) lab within the CIIPS at the Department of Engineering, King’s College London(国王通讯、学习和信息处理(KCLIP)实验室,位于智能信息处理系统中心(CIIPS)的工程系,伦敦国王学院);Department of Electrical and Computer Engineering, Princeton University(普林斯顿大学电气与计算机工程系)
本文提出首个采用多级SNNs的神经形态无线拆分计算架构,设计了OFDM接口的数字与模拟调制方案,实验揭示了多级SNN的性能提升及最佳负载大小与连接质量的关系。
2025-03-28 cs.IT cs.LG cs.NE
Neuromorphic Spiking Neural Network Based Classification of COVID-19 Spike Sequences
Georgia State University(佐治亚州立大学);Lahore University of Management Sciences(拉合尔管理科学大学)
针对SARS-CoV-2刺突序列分类,提出将刺突蛋白序列转为固定长度数值表示,并用神经形态脉冲神经网络分类,在真实数据上取得更高预测准确率。
2024-12-19 cs.LG cs.NE
EG-SpikeFormer: Eye-Gaze Guided Transformer on Spiking Neural Networks for Medical Image Analysis
School of Computing, University of Georgia(佐治亚大学计算学院);University of Texas at Arlington(德克萨斯大学阿灵顿分校);Massachusetts General Hospital(麻省总医院);Harvard Medical School(哈佛医学院);University of Georgia(佐治亚大学);Department of Physics and Astronomy(物理与天文学系)
本研究提出专为临床任务定制的SNN架构EG-SpikeFormer,引入眼动数据引导模型关注医学图像诊断相关区域,解决传统模型捷径学习问题,提升能效、性能、可解释性与泛化性,开辟神经形态计算医疗应用新方向。
2024-10-29 cs.CV cs.LG cs.NE
A Neuromorphic VLSI Design for Spike Timing and Rate Based Synaptic Plasticity
基于三联体的尖峰时间依赖可塑性(TSTDP)是一种强大的突触可塑性规则,其作用超出了传统的基于对的STDP(PSTDP)。在这里,TSTDP能够再现各种生物实验的结果,而PSTDP规则无法再现它们。此外,它已被证明,固有的行为,以尖峰率为基础的Bienenstock-Cooper-Munro(B-M)突触可塑性规则也可以出现从TSTDP规则。本文提出了一种模拟实现的TSTDP规则。建议的超大规模集成电路设计使用AMS 0.35 μ m CMOS工艺,并已使用Synopsys和Cadence工具的设计套件进行了模拟。仿真结果表明,如何以及所提出的电路可以改变突触的权重,根据一组不同的尖峰模式之间的定时差。此外,该电路被示出产生一个类似于BCM的学习规则,这是一个基于速率的规则。为了模拟实现环境,对所提出的电路进行了1000次运行的蒙特卡罗(MC)分析。所提出的MC仿真分析和微调电路的仿真结果表明,这是可能的,以减轻工艺变化的影响,在概念验证电路,然而,一个实际的变化意识的设计技术,需要保证高的电路性能在大规模神经网络。我们相信,所提出的设计可以发挥重要作用,在未来的超大规模集成电路实现的尖峰定时和基于速率的神经形态学习系统。
2013-03-30 cs.NE
Neuromorphic Satellite Intelligence: A Formal Framework for Event-Driven Architectures, Spike-Based Algorithms, and Quantitative Energy-Accuracy Trade-offs
Mangalayatan University(曼加拉亚坦大学)
本文提出神经形态卫星智能的形式化框架,开发脉冲神经计算模型与三类卫星专用脉冲算法,构建能量-精度-延迟权衡曲面,经案例验证其可使卫星工作负载能耗较GPU降低8至47倍且精度损失小于2.1%。
2026-10-14 cs.LG cs.NE
SpikeGrad: An ANN-equivalent Computation Model for Implementing Backpropagation with Spikes
CEA, LIST(法国原子能与替代能源委员会 信息技术与系统实验室)
基于事件的神经形态系统通过对尖峰事件的低功耗稀疏和异步操作来取代密集矩阵上昂贵的浮点操作,从而有望降低深度学习任务的能耗。虽然这些系统可以使用反向传播算法的近似来训练得越来越好,但这些实现通常需要高精度的训练误差,因此与神经形态电路的典型通信基础设施不兼容。在这项工作中,我们分析了如何梯度可以离散成尖峰事件时,训练脉冲神经网络。为了加速我们的模拟,我们表明,使用一个特殊的实现的集成和消防神经元允许我们描述的累积激活和错误的脉冲神经网络在一个等效的人工神经网络,使我们能够大大加快训练相比,一个明确的模拟所有尖峰事件。通过这种方式,我们能够证明,即使对于深度网络,如果梯度被适当地重新缩放,梯度也可以被足够好地离散化。这种形式的基于尖峰的反向传播使我们能够在MNIST和CIFAR10数据集上实现与使用全精度梯度训练的最先进的脉冲神经网络相当或更好的精度。该算法,我们称之为SpikeGrad,是基于积累和比较操作,可以自然地利用稀疏性的梯度计算,这使得它成为一个有趣的选择尖峰神经形态系统与片上学习能力。
2019-06-03 cs.LG cs.NE
Ternary Spike-based Neuromorphic Signal Processing System
University of Electronic Science and Technology of China(电子科技大学);Northumbria University(诺森比亚大学)
本文提出融合TAE三值脉冲编码与QT-SNN量化的神经形态信号处理系统,在语音和脑电图识别中达到SOTA性能,并降低94%内存、实现7.5倍节能。
2024-07-07 cs.NE cs.SD eess.AS
Object Motion Sensitivity: A Bio-inspired Solution to the Ego-motion Problem for Event-based Cameras
George Mason University(乔治梅森大学);University of Southern California(南加州大学);Northwestern University(西北大学)
本文提出利用第二代神经形态传感器IRIS中的物体运动敏感性(OMS)特征,在保持与传统RGB和DVS相当的任务效率的同时大幅降低带宽,为高速低功耗实时决策提供新方案。
2023-04-14 cs.CV cs.NE
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出ASPEN,通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数,在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗,为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
Continuous signal sparse encoding using analog neuromorphic variability
提出一种利用模拟神经形态硬件固有神经元变异性的生物启发编码框架,以每神经元最多一个脉冲将连续刺激稳健编码为时空模式,支持线性解码,实现低功耗、低延迟的连续信号处理。
2025-04-22 cs.NE
Event-based Neural Spike Detection Using Spiking Neural Networks for Neuromorphic iBMI Systems
针对植入式脑机接口的带宽与功耗瓶颈,提出处理事件化神经数据的 SNN-SPD,以极低计算和参数量在高噪声下提升尖峰检测准确率。
2025-05-10 cs.NE eess.SP
Neuromorphic Computing is Turing-Complete
Oak Ridge National Laboratory(橡树岭国家实验室)
类脑计算是一种非冯·诺依曼计算范式,它通过模拟人脑来执行计算。神经形态系统是非常节能的,并且已知消耗的功率比CPU和GPU少数千倍。它们有可能在未来推动关键用例,如自动驾驶汽车、边缘计算和物联网。出于这个原因,它们被认为是未来计算领域不可或缺的一部分。神经形态系统主要用于基于尖峰的机器学习应用,尽管在图论、微分方程和基于尖峰的模拟中存在一些非机器学习应用。这些应用表明,类脑计算可能能够通用计算。然而,类脑计算的通用可计算性尚未建立。在这项工作中,我们证明了类脑计算是图灵完备的,因此能够通用计算。具体来说,我们提出了一个类脑计算模型,只有两个神经元参数(阈值和泄漏)和两个突触参数(权重和延迟)。我们设计了神经形态电路来计算所有的μ-递归函数(即,常数、后继和投影函数)和所有μ递归算子(即,复合,原始递归和最小化运算符)。由于μ-递归函数和算子恰好是可以使用图灵机计算的,本文建立了类脑计算的图灵完备性。
2021-04-28 cs.CC cs.CL cs.ET
Intrinsic Spike Timing Dependent Plasticity in Stochastic Magnetic Tunnel Junctions Mediated by Heat Dynamics
对高效认知计算的追求引起了类脑计算领域的广泛研究兴趣。类脑计算的目标是使用固态设备和电路来模拟生物神经元和突触的行为。在各种方法中,新兴的非易失性存储器技术对于模仿神经突触行为特别感兴趣。这些设备允许将生物神经元和突触的丰富动态映射到其固有的设备物理上。在这封信中,我们专注于尖峰定时依赖可塑性(STDP)的生物突触的行为,并提出了一种方法来实现的STDP行为的磁性隧道结(MTJ)器件。具体来说,我们利用时间依赖的热动力学和MTJ的响应的瞬时温度来模仿STDP行为。我们的模拟,基于宏观自旋模型的磁化动力学,表明,STDP可以通过施加简单的电压波形作为前和后神经元在MTJ器件上的尖峰响应,在随机磁性隧道结中模仿。
2021-08-28 cs.ET cs.NE
Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing
在这项工作中,我们介绍了一种光电尖峰人工神经元能够在超快的速度($\approx$ 100 ps/光尖峰)和低能耗($<$ pJ/尖峰)。所提出的系统结合了一个可激发的共振隧穿二极管(RTD)元件表现出负微分电导,耦合到一个纳米级光源(形成一个主节点)或一个光电探测器(形成一个接收器节点)。我们数值研究的尖峰动力学响应和信息传播功能的互连主接收RTD节点系统。使用脉冲阈值和积分的关键功能,我们利用单个节点对顺序脉冲模式进行分类,并执行卷积功能以进行图像特征(边缘)识别。我们还展示了一个光学互连的尖峰神经网络模型,用于以超过10 Gbps的速度处理时空数据,具有很高的推理精度。最后,我们展示了一种片外监督学习方法,利用尖峰时间依赖可塑性的RTD使能的光子尖峰神经网络。这些结果证明了RTD尖峰节点的潜力和可行性,低足迹,低能量,高速光电实现的神经形态硬件。
2021-11-19 cs.ET cs.NE physics.app-ph
Spike-time encoding of gas concentrations using neuromorphic analog sensory front-end
本文提出一种受哺乳动物嗅球和事件相机启发的模拟电路,将气体浓度编码为双通路脉冲时间差,实验表明该时间差与浓度成反比,为高效低功耗气体监测提供新途径。
2023-10-11 cs.NE
Scaling Limits of Memristor-Based Routers for Asynchronous Neuromorphic Systems
本研究探讨忆阻交叉阵列作为异步SNN硬件中路由通道的扩展极限,通过理论建模、22nm FDSOI电路仿真及4K-ReRAM芯片实验,确定了IR压降和漏电问题导致的功能界限,为多核异步神经形态系统的忆阻路由器设计提供指导。
2023-12-21 cs.ET cs.NE
You Only Spike Once: Improving Energy-Efficient Neuromorphic Inference to ANN-Level Accuracy
1 School of Computer Science 2 Department of Engineering National University of Singapore
针对TTFS编码脉冲神经网络准确率偏低的问题,提出新型优化算法与可扩展低功耗硬件加速器,将其在MNIST MLP任务上的准确率提升至SOTA水平,同时功耗比现有最优神经形态硬件低1.46倍。
2020-11-08 cs.AI cs.AR cs.LG
Neuromorphic Wireless Cognition: Event-Driven Semantic Communications for Remote Inference
类脑计算是一种新兴的计算范式,它从批量处理转向在线、事件驱动的流数据处理。神经形态芯片,当与基于尖峰的传感器相结合时,可以通过仅在尖峰定时记录相关事件时消耗能量以及通过对环境中变化的条件提供低延迟响应来固有地适应数据分布的“语义”。本文提出了一种端到端的设计,神经形态的无线物联网系统,集成了基于尖峰的传感,处理和通信。在所提出的NeuroComm系统中,每个传感设备配备有神经形态传感器、脉冲神经网络(SNN)和具有多个天线的脉冲无线电发射器。在共享衰落信道上向配备有多天线脉冲无线电接收机和SNN的接收机进行传输。为了使接收机适应衰落信道条件,我们引入了一个超网络来控制使用导频的解码SNN的权重。导频、编码SNN、解码SNN和超网络在多个信道实现中联合训练。所提出的系统显着改善传统的基于帧的数字解决方案,以及替代非自适应训练方法,在时间精度和能耗指标。
2023-01-08 cs.IT cs.LG cs.NE
Intrinsic Numerical Robustness and Fault Tolerance in a Neuromorphic Algorithm for Scientific Computing
本文提出了一种神经形态算法,展示其在求解偏微分方程时对神经元和脉冲丢失的高鲁棒性,并通过结构超参数调节其容错能力。
2026-03-10 cs.AI cs.LG cs.NA
SpikingJelly: An open-source machine learning infrastructure platform for spike-based intelligence
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室);Shanghai Jiao Tong University(上海交通大学);Chinese Academy of Sciences(中国科学院);Centre de Recherche Cerveau et Cognition (CERCO), UMR5549 CNRS - Univ. Toulouse 3(大脑与认知研究中心(CERCO),CNRS UMR5549 - 图卢兹第三大学);University of Chinese Academy of Sciences(中国科学院大学)
SpikingJelly是一个面向脉冲神经网络的全栈开源平台,提供数据集预处理、模型构建、参数优化与芯片部署工具,训练加速达11倍,并通过多级继承和半自动代码生成支持低成本自定义模型加速,推动高能效神经形态智能系统发展。
2023-10-25 cs.LG cs.NE cs.SE
SPAIC: A Spike-based Artificial Intelligence Computing Framework
类脑计算是一个新兴的研究领域,旨在通过整合神经科学和深度学习等多学科的理论和技术来开发新的智能系统。目前,已经有各种各样的软件框架开发的相关领域,但有一个缺乏一个有效的框架专用于基于尖峰的计算模型和算法。在这项工作中,我们提出了一个基于Python的脉冲神经网络(SNN)模拟和训练框架,即SPAIC,旨在支持大脑启发的模型和算法研究,并将深度学习和神经科学的特征相结合。为了整合来自两个压倒性学科的不同方法,并在灵活性和效率之间取得平衡,SPAIC设计了神经科学风格的前端和深度学习后端结构。我们提供了广泛的示例,包括神经电路模拟,深度SNN学习和神经形态应用,展示了我们框架的简洁编码风格和广泛的可用性。SPAIC是一个专用的基于尖峰的人工智能计算平台,它将大大促进新模型、理论和应用的设计、原型和验证。它具有用户友好、灵活和高性能的特点,将有助于促进类脑计算研究的快速发展和广泛应用。
2022-07-26 cs.NE