A Neuromorphic VLSI Design for Spike Timing and Rate Based Synaptic Plasticity
基于三联体的尖峰时间依赖可塑性(TSTDP)是一种强大的突触可塑性规则,其作用超出了传统的基于对的STDP(PSTDP)。在这里,TSTDP能够再现各种生物实验的结果,而PSTDP规则无法再现它们。此外,它已被证明,固有的行为,以尖峰率为基础的Bienenstock-Cooper-Munro(B-M)突触可塑性规则也可以出现从TSTDP规则。本文提出了一种模拟实现的TSTDP规则。建议的超大规模集成电路设计使用AMS 0.35 μ m CMOS工艺,并已使用Synopsys和Cadence工具的设计套件进行了模拟。仿真结果表明,如何以及所提出的电路可以改变突触的权重,根据一组不同的尖峰模式之间的定时差。此外,该电路被示出产生一个类似于BCM的学习规则,这是一个基于速率的规则。为了模拟实现环境,对所提出的电路进行了1000次运行的蒙特卡罗(MC)分析。所提出的MC仿真分析和微调电路的仿真结果表明,这是可能的,以减轻工艺变化的影响,在概念验证电路,然而,一个实际的变化意识的设计技术,需要保证高的电路性能在大规模神经网络。我们相信,所提出的设计可以发挥重要作用,在未来的超大规模集成电路实现的尖峰定时和基于速率的神经形态学习系统。
2013-03-30 cs.NE
A Spiking Neuron Synaptic Plasticity Model Optimized for Unsupervised Learning
脉冲神经网络(SNN)被认为是执行各种学习任务-无监督、有监督和强化学习-的前景基础。SNN中的学习是通过突触可塑性来实现的-这些规则通常取决于突触前和突触后神经元的活动来确定突触权重的动态。各种学习机制的多样性假设不同形式的突触可塑性对于例如无监督学习和监督学习可能是最有效的,因为在活神经元中观察到它展示出与基本尖峰定时依赖可塑性(STDP)模型的许多种类的偏差。在本文中,我们制定了具体的要求,可塑性规则施加的无监督学习问题,并构建了一个新的可塑性模型推广STDP和满足这些要求。这种可塑性模型作为主要的逻辑组成部分的新的监督学习算法称为SCoBUL(尖峰相关的无监督学习)在这项工作中提出。我们还提出了计算机模拟实验的结果,证实这些突触可塑性规则和算法SCoBUL的效率。
2021-11-12 cs.NE
MAP-SNN: Mapping Spike Activities with Multiplicity, Adaptability, and Plasticity into Bio-Plausible Spiking Neural Networks
脉冲神经网络(SNN)被认为是更具有生物现实性和功率效率的,因为它模仿了人类大脑的基本机制。最近,利用深度学习框架的基于反向传播(BP)的SNN学习算法已经取得了良好的性能。然而,生物可解释性是部分被忽视,在这些BP算法。对于生物合理的基于BP的SNN,我们在建模尖峰活动时考虑了三个属性:多样性,适应性和可塑性(MAP)。在多重性方面,我们提出了一个多尖峰模式(MSP)与多个尖峰传输,以加强模型的鲁棒性在离散时间迭代。为了实现自适应性,我们采用了尖峰频率自适应(SFA)在MSP下,以减少穗的活动,以提高效率。对于可塑性,我们提出了一个可训练的卷积突触,模型尖峰响应电流,以提高多样性的尖峰神经元的时间特征提取。所提出的SNN模型在神经形态数据集:N-MNIST和SHD上实现了具有竞争力的性能。此外,实验结果表明,所提出的三个方面是显着的迭代鲁棒性,穗效率和时间的特征提取能力的穗活动。综上所述,本研究提出了一种基于MAP的生物激发锋电位活动的可行方案,为将生物特征嵌入脉冲神经网络提供了一种新的神经形态学视角。
2022-04-21 cs.NE q-bio.NC
Spike-based local synaptic plasticity: A survey of computational models and neuromorphic circuits
了解生物神经网络如何使用基于尖峰的局部可塑性机制进行学习,可以导致强大的,节能的,自适应的神经形态处理系统的发展。大量的基于尖峰的学习模型最近已经提出了以下不同的方法。然而,很难评估它们是否以及如何映射到神经形态硬件上,并比较它们的功能和易于实现。为此,在本次调查中,我们提供了一个全面的概述代表性的大脑启发的突触可塑性模型和混合信号CMOS神经形态电路在一个统一的框架。我们回顾历史,自下而上,自上而下的方法来建模突触可塑性,我们确定计算原语,可以支持低延迟和低功耗的硬件实现的尖峰为基础的学习规则。我们提供了一个共同的定义的前和突触后神经元信息的基础上,我们提出的突触可塑性的物理实现的基本要求的局部性原则。基于这一原则,我们比较了这些模型在同一框架内的属性,并描述了混合信号电子电路,实现其计算原语,指出这些构建块如何使高效的片上和在线学习的神经形态处理系统。
2022-11-05 cs.AR cs.NE
Characterization of Generalizability of Spike Timing Dependent Plasticity trained Spiking Neural Networks
Georgia Institute of Technology(佐治亚理工学院)
脉冲神经网络(SNN)用脉冲定时依赖可塑性(STDP)训练,STDP是用于各种机器学习应用的神经启发的无监督学习方法。本文利用学习算法轨迹的Hausdorff维数研究了STDP学习过程的泛化性质。本文分析了STDP学习模型和相关超参数对SNN泛化性能的影响。分析是用来开发贝叶斯优化方法来优化超参数的STDP模型,以提高SNN的泛化性能。
2021-08-09 cs.AI cs.NE
Learning the Plasticity: Plasticity-Driven Learning Framework in Spiking Neural Networks
该研究提出脉冲神经网络的可塑性驱动学习框架PDLF,通过学习可塑性规则而非直接训练权重,提升AI系统工作记忆、多任务能力及动态环境适应性,推动神经科学与AI融合。
2024-02-01 cs.NE
Synchrony-Gated Plasticity with Dopamine Modulation for Spiking Neural Networks
多巴胺调节的同步塑性通过同步度和损失敏感机制提升脉冲神经网络的准确率
2025-12-08 cs.NE
Spike Agreement Dependent Plasticity: A scalable Bio-Inspired learning paradigm for Spiking Neural Networks
School of Data Science, Indian Institute of Science Education and Research, Thiruvananthapuram, India(数据科学学院,印度科学教育与研究学院,特里布文纳纳特帕尔姆,印度);School of Data Science, Indian Institute of Science Education(数据科学学院,印度科学教育与研究学院);School of Physics, Indian Institute of Science Education(物理学院,印度科学教育与研究学院)
本文提出脉冲一致性依赖可塑性(SADP),用群体级相关性度量替代精确脉冲对时序以推广STDP,实现线性时间复杂度和高效硬件部署,并在MNIST及Fashion-MNIST上结合样条核取得优于经典STDP的准确率与运行时间。
2025-08-22 cs.LG cs.NE
Spike-Timing-Dependent Plasticity for Bernoulli Message Passing
Electrical Engineering Department, TU Eindhoven, Netherlands(埃因霍温理工大学电子工程系,荷兰);Lazy Dynamics B.V., Eindhoven, Netherlands(埃因霍温荷兰Lazy Dynamics公司)
本文提出了一种基于伯努利信息传递的脉冲神经网络,利用脉冲时间依赖可塑性进行训练,实现了对贝叶斯推断的模拟,并展示了其在信号传输中的应用。
2025-12-19 cs.LG cs.NE q-bio.NC
Unsupervised Online Learning With Multiple Postsynaptic Neurons Based on Spike-Timing-Dependent Plasticity Using a TFT-Type NOR Flash Memory Array
我们提出了一个两层全连接的神经形态系统的基础上,薄膜晶体管(TFT)型NOR闪存阵列与多个突触后(POST)神经元。在二值MNIST手写体数据集上实现了基于脉冲时间依赖可塑性(STDP)的无监督在线学习,其识别结果通过测量POST神经元的放电频率来确定。使用一个建议的学习计划,我们调查的POST神经元的数量在识别率方面的影响。在这个神经形态系统中,侧抑制功能和自我平衡特性被用于多个POST神经元的竞争学习。仿真结果表明,STDP对全黑白MNIST手写体数字进行了无监督的在线学习,表明该方法在不对输入模式进行预处理的情况下,具有良好的模式识别和分类性能。
2018-11-17 cs.ET cs.NE
Unsupervised Visual Feature Learning with Spike-timing-dependent Plasticity: How Far are we from Traditional Feature Learning Approaches?
Univ. Lille(里尔大学);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);IMT Lille Douai(IMT里尔杜埃矿业电信学院)
脉冲神经网络(SNN)配备了延迟编码和脉冲定时相关可塑性规则,为解决标准计算机视觉方法的数据和能量瓶颈提供了一种替代方案:它们可以在没有监督的情况下学习视觉特征,并且可以通过超低功耗硬件架构实现。然而,它们在图像分类中的性能从未在最近的图像数据集上进行过评估。在本文中,我们比较SNN的自动编码器在三个视觉识别数据集,并扩展SNN的使用彩色图像。结果的分析有助于我们识别SNN的一些瓶颈:对中心/偏离中心编码的限制,特别是对于彩色图像,以及当前抑制机制的无效性。这些问题应该得到解决,以建立有效的SNN图像识别。
2019-04-05 cs.CV cs.NE
Building Supervision into Hebbian Plasticity through Spike Agreement
School of Data Science, IISER Thiruvananthapuram, India(数据科学学院,泰米尔纳德邦印度理工学院);School of Physics, IISER Thiruvananthapuram, India(物理学院,泰米尔纳德邦印度理工学院)
本文提出监督性尖峰一致性依赖可塑性,用于提升spiking神经网络的快速局部学习能力,通过群体一致性度量替代成对比较,实现高效监督学习。
2026-09-11 cs.LG cs.NE
Improving Robustness of ReRAM-based Spiking Neural Network Accelerator with Stochastic Spike-timing-dependent-plasticity
尖峰时间依赖可塑性(STDP)是一种无监督的脉冲神经网络(SNN)学习算法,它有望实现对人脑更深层次的理解和更强大的人工智能。虽然传统的计算系统无法有效地模拟SNN,但基于诸如ReRAM之类的设备的存储器中处理(PIM)可以用于设计快速且有效的基于STDP的SNN加速器,因为它与生物神经网络高度相似地操作。然而,这种设计的实际实现仍然受到输入噪声和器件变化的影响。在这项工作中,我们提出了一种新的随机STDP算法,使用尖峰频率信息来动态调整突触行为。该算法进行了测试,在模式识别任务与噪声输入,并显示精度提高确定性STDP。此外,我们表明,新算法可用于设计一个强大的基于ReRAM的SNN加速器,具有很强的弹性设备的变化。
2019-09-11 cs.ET cs.NE
Normalisation of Weights and Firing Rates in Spiking Neural Networks with Spike-Timing-Dependent Plasticity
保持稀疏激发的能力对于神经网络中的信息编码至关重要。此外,尖峰稳态对于具有变化的权重和神经元数量的脉冲神经网络至关重要。我们讨论了一系列的网络稳定的方法,灵感来自稳态突触可塑性机制在大脑中报告。这些包括权重缩放,以及作为网络尖峰活动函数的权重变化。我们测试了所有神经元和神经元类型的权重总和的归一化。我们研究了这种方法如何影响射击率和性能的时间序列数据的聚类移动的几何形状的形式。我们发现,神经元类型特定的归一化是防止脉冲神经网络中权重漂移的一种很有前途的方法,从而实现更长的训练周期。它可以适用于具有架构可塑性的网络。
2019-09-30 cs.NE q-bio.NC
Learning in Spiking Neural Networks with a Calcium-based Hebbian Rule for Spike-timing-dependent Plasticity
University of Groningen(格罗宁根大学)
本文提出一种基于钙痕迹的Hebbian局部学习规则,统一建模脉冲时间与发放率对突触可塑性的影响,并在MNIST上验证其能通过相关脉冲活动调节学习率,证明二者在脉冲神经网络连接塑造中具有互补作用。
2025-04-09 cs.AI cs.NE
Simplified calcium signaling cascade for synaptic plasticity
我们提出了一个基于钙信号级联的突触可塑性模型。该模型简化了完整的信号通路,从钙内流到谷氨酸受体的磷酸化(增强)和去磷酸化(抑制),分别由虚构的C1和C2催化剂门控。这个模型是基于有形的化学反应,包括虚构的催化剂,长期的可塑性,而不是在各种模型中常见的概念理论,如预设的钙浓度阈值。我们的简化模型成功地再现了实验突触可塑性诱导不同的协议,如(i)同步配对协议和(ii)相关的突触前和突触后动作电位(AP)。此外,眼优势可塑性(或著名的Bienenstock-Cooper-Munro理论的实验验证)是由两个模型突触,通过反向传播AP(bAP)的竞争再现。这种竞争的关键是突触特异性的bAP,与生理基础上的bAP增强有关。
2019-11-26 cs.NE physics.bio-ph q-bio.NC
Intrinsic Spike Timing Dependent Plasticity in Stochastic Magnetic Tunnel Junctions Mediated by Heat Dynamics
对高效认知计算的追求引起了类脑计算领域的广泛研究兴趣。类脑计算的目标是使用固态设备和电路来模拟生物神经元和突触的行为。在各种方法中,新兴的非易失性存储器技术对于模仿神经突触行为特别感兴趣。这些设备允许将生物神经元和突触的丰富动态映射到其固有的设备物理上。在这封信中,我们专注于尖峰定时依赖可塑性(STDP)的生物突触的行为,并提出了一种方法来实现的STDP行为的磁性隧道结(MTJ)器件。具体来说,我们利用时间依赖的热动力学和MTJ的响应的瞬时温度来模仿STDP行为。我们的模拟,基于宏观自旋模型的磁化动力学,表明,STDP可以通过施加简单的电压波形作为前和后神经元在MTJ器件上的尖峰响应,在随机磁性隧道结中模仿。
2021-08-28 cs.ET cs.NE
A New Look at Spike-Timing-Dependent Plasticity Networks for Spatio-Temporal Feature Learning
imec(比利时微电子研究中心);KU Leuven(鲁汶大学);VUB(布鲁塞尔自由大学)
我们提出了新的理论基础,无监督尖峰定时依赖可塑性(STDP)学习脉冲神经网络(SNN)。与以往大多数工作中使用的经验参数搜索相比,我们为SNN和STDP参数调整提供了新的理论依据,大大减少了设计时间。使用我们的通用框架,我们提出了一类全局的,基于动作的和卷积SNN-STDP架构,用于从基于事件的相机中学习时空特征。我们在N-MNIST、CIFAR 10-DVS和IBM DVS 128手势数据集上评估了我们的方法,所有这些数据集都是用真实世界的事件相机采集的。使用我们的框架,我们报告了与传统的最先进的基于事件的特征描述符(CIFAR 10-DVS上+8.2%)相比,以及与最先进的基于STDP的系统(N-MNIST上+9.3%,IBM DVS 128 Gesture上+7.74%)相比,分类准确性的显着提高。我们的工作有助于神经形态边缘设备中的超低功耗学习,并朝着生物学上合理的,基于优化的皮质视觉理论。
2022-02-22 cs.CV cs.NE
Learning binary or real-valued time-series via spike-timing dependent plasticity
动态Boltzmann机(DyBM)是脉冲神经网络的一种模型,其最大化给定时间序列对数似然的学习规则表现出脉冲时间依赖可塑性(STDP)的关键特性,而STDP是神经科学领域对Hebbian规则的一种改进.在这里,我们放松了DyBM中的一些约束,使其更适合计算和学习。我们证明了学习DyBM可以被认为是二值时间序列的逻辑回归。我们还展示了DyBM如何以高斯DyBM的形式学习实值数据,并讨论了它与向量自回归(VAR)模型的关系。高斯DyBM通过使用额外的解释变量来扩展VAR,这些解释变量对应于DyBM的资格迹线并捕获时间序列的长期依赖性。数值实验表明,高斯DyBM显着提高预测精度比VAR。
2016-12-15 cs.NE stat.ML
Convolutional Spike Timing Dependent Plasticity based Feature Learning in Spiking Neural Networks
Purdue University(普渡大学)
脑启发学习模型试图模仿构成人脑的神经元和突触中执行的皮层架构和计算,以实现其在认知任务中的效率。在这项工作中,我们提出了卷积尖峰时间依赖可塑性的特征学习与生物学上合理的泄漏集成和发射神经元的脉冲神经网络(SNN)。我们使用共享权重内核,这些内核被训练用于对输入模式的代表性特征进行编码,从而提高学习模型的稀疏性和鲁棒性。我们证明了所提出的无监督学习方法学习几个视觉类别的对象识别与较少的例子,并优于传统的全连接SNN架构,同时产生竞争力的准确性。此外,我们观察到,学习模型执行集外泛化,进一步使拟议的生物合理的框架,为未来的神经形态应用程序的可行和有效的架构。
2017-03-20 cs.AI cs.CV cs.NE
SpikePropamine: Differentiable Plasticity in Spiking Neural Networks
U.S. Naval Research Laboratory(美国海军研究实验室)
在生物神经网络的学习过程中,神经元之间突触效能的适应性变化已被证明起着至关重要的作用。尽管有这个灵感来源,但许多使用脉冲神经网络(SNN)的学习集中应用程序保留静态突触连接,防止在初始训练期后进行额外的学习。在这里,我们介绍了一个框架,同时学习的基础固定权重和规则的动态突触可塑性和神经调制的突触可塑性在SNN通过梯度下降。我们进一步证明了这个框架的能力,一系列具有挑战性的基准,学习参数的几个可塑性规则,包括ESTA,OJA的,和他们各自的一套神经调节变体。实验结果表明,SNN增强微分可塑性是足够的解决一组具有挑战性的时间学习任务,传统的SNN未能解决,即使在存在显着的噪音。这些网络也被证明能够在高维机器人学习任务中产生运动,在初始训练期间没有看到的新条件下,观察到性能的几乎最小的退化。
2021-06-04 cs.LG cs.NE cs.RO
Extending Spike-Timing Dependent Plasticity to Learning Synaptic Delays
State University of New York at Buffalo(纽约州立大学布法罗分校);Rochester Institute of Technology(罗切斯特理工学院)
本文提出一种扩展STDP的新学习规则,用于同时学习突触权重和延迟,在神经形态SNN分类任务中优于现有方法,并揭示突触效能与延迟的相互作用。
2025-06-17 cs.LG cs.NE
Learning dynamic Boltzmann machines with spike-timing dependent plasticity
IBM Research - Tokyo(IBM研究院-东京);IBM Japan, Ltd.(日本IBM有限公司)
我们提出了一个特别结构化的玻尔兹曼机,我们称之为动态玻尔兹曼机(DyBM),作为一个随机模型的多维时间序列。DyBM可以有无限多层单元,但当其参数具有建议的结构时,可以进行精确和有效的推理和学习。这种提议的结构的动机是来自生物神经网络的假设和观察,即突触权重根据尖峰的时间而增强或减弱(即,尖峰时间依赖性可塑性或STDP)。我们发现,在最大化给定时间序列的可能性的方向上更新DyBM的参数的学习规则可以被解释为STDP与长时程增强和长时程抑制。该学习规则具有收敛的保证并且可以在分布式事务中执行(即,在空间中本地)具有有限的存储器(即,当地时间)。
2015-09-29 cs.AI cs.LG cs.NE
Soliton-like Waves in a Two-Dimensional Recurrent Spiking Neural Network with Weighted Spike-Timing-Dependent Plasticity
本文构建了一个最小生物合理的脉冲神经元模型,通过加权STDP和归一化机制,在二维递归网络中自发产生稳定传播的耗散孤子波,其碰撞湮灭特性可用于编码相对相位和频率。
2026-06-23 cs.NE q-bio.NC
Sleep-Based Homeostatic Regularization for Stabilizing Spike-Timing-Dependent Plasticity in Recurrent Spiking Neural Networks
本研究提出基于睡眠的神经元稳态正则化方法,通过周期性离线阶段稳定递归脉冲神经网络中的脉冲时间依赖可塑性学习。
2026-01-13 cs.NE stat.ML
Sequence Learning and Consolidation on Loihi using On-chip Plasticity
在这项工作中,我们开发了一个模型的预测学习神经形态硬件。我们的模型使用Loihi芯片的片上可塑性功能来记住观察到的事件序列,并使用这种记忆来实时的生成对未来事件的预测。考虑到片上可塑性规则的局部约束,生成预测而不干扰正在进行的学习过程是不平凡的。我们解决这个挑战的记忆巩固方法的灵感来自海马重放。序列记忆存储在一个初始的记忆模块使用尖峰定时依赖可塑性。之后,在离线期间,记忆被整合到一个不同的预测模块中。然后,第二个模块能够表示预测的未来事件,而不会干扰第一个模块中的活动和可塑性,从而实现预测和地面实况观察之间的在线比较。我们的模型作为一个概念验证,在线预测学习模型可以部署在具有片上可塑性的神经形态硬件上。
2022-05-02 cs.NE
Desire Backpropagation: A Lightweight Training Algorithm for Multi-Layer Spiking Neural Networks based on Spike-Timing-Dependent Plasticity
Institute of High Performance Computing (IHPC), Agency for Science, Technology and Research (A*STAR)(新加坡科技研究局高性能计算研究所);National University of Singapore(新加坡国立大学)
针对脉冲神经网络训练难题,提出欲望反向传播算法,将输出误差转化为期望脉冲活动并融入STDP局部更新,实现全局误差最小化,在MNIST和Fashion-MNIST上分别取得98.41%和87.56%的准确率,且计算高效。
2023-10-17 cs.AI cs.ET cs.NE
Even Faster SNN Simulation with Lazy+Event-driven Plasticity and Shared Atomics
FORTH(希腊研究与技术基金会);UOC(克里特大学)
我们提出了两个新的优化,加速基于时钟的脉冲神经网络(SNN)模拟器。第一个目标是尖峰时间依赖可塑性(STDP)。它结合了懒惰与事件驱动的可塑性,并有效地促进了使用位域和整数intrinsic的突触前和突触后尖峰的计算。它提供了比单独的事件驱动可塑性更高的带宽,并实现了比我们最接近的竞争对手快1.5 - 2倍的速度。第二个优化目标是尖峰输送。我们以一种方式划分我们的图表示,该方式限制了在任何给定时间需要更新的神经元的数量,这允许我们在共享内存而不是全局内存中执行所述更新。这比我们最接近的竞争对手快2 - 2.5倍。这两种优化都代表了STDP上多年迭代的最后进化阶段,并在我们最先进的SNN模拟器“Spice”(/spaIk/)内提供峰值。所提出的优化不限于我们的图形表示或管道,但适用于众多的模拟器设计。我们评估我们的表现,三个完善的模型,并比较自己对其他三个国家的最先进的模拟器。
2021-08-23 cs.AI cs.DC cs.LG
Membrane-Dependent Neuromorphic Learning Rule for Unsupervised Spike Pattern Detection
过去已经提出了几种用于突触可塑性的学习规则,这些规则取决于尖峰定时或内部状态变量,从而赋予脉冲神经网络不同的计算能力。由于设计复杂性,这些学习规则通常不在神经形态设备上实现,使得设备仅能够进行推理。在这项工作中,我们提出了一个单向的突触后电位依赖的学习规则,只触发的突触前尖峰,易于在硬件上实现。我们证明了这样的学习规则在功能上能够复制成对STDP的计算能力。此外,我们还证明了这种学习规则可以用于使用单个神经元以无监督的方式学习和分类时空锋电位模式。我们认为,这种学习规则是计算功能强大,也是理想的硬件实现,由于其单向内存访问。
2017-01-05 cs.NE
Learning with Spike Synchrony in Spiking Neural Networks
School of Biomedical Engineering, The University of Sydney(悉尼大学生物医学工程学院);Department of Electrical and Computer Engineering, University of California, Santa Cruz(加州大学圣克鲁兹分校电气与计算机工程系)
针对脉冲神经网络现有可塑性规则未利用生物同步活动模式的问题,提出脉冲同步依赖可塑性(SSDP)方法,通过局部后优化调整突触权重,提升收敛稳定性与鲁棒性,为神经学习的同步计算原理提供新见解。
2025-08-25 cs.AI cs.NE
EqSpike: Spike-driven Equilibrium Propagation for Neuromorphic Implementations
寻找基于尖峰的学习算法,可以在神经形态系统的局部约束下实现,同时实现高精度,仍然是一个艰巨的挑战。平衡传播是反向传播的一个很有前途的替代方案,因为它只涉及本地计算,但面向硬件的研究迄今为止一直集中在基于速率的网络。在这项工作中,我们开发了一个脉冲神经网络算法称为EqSpike,兼容神经形态系统,学习均衡传播。通过模拟,我们得到了一个测试识别准确率为97.6%的MNIST,类似于基于速率的均衡传播,并比较有利的替代学习技术的脉冲神经网络。我们表明,在硅神经形态技术实现的EqSpike可以减少三个数量级和两个数量级的GPU相比,分别推理和训练的能量消耗。最后,我们还表明,在学习过程中,EqSpike权重更新表现出一种形式的尖峰时间依赖可塑性,突出了与生物学的可能联系。
2021-02-17 cs.NE
Leveraging Non-Equilibrium ECRAM Dynamics for Short-Term Plasticity in Neuromorphic Circuits
Rochester Institute of Technology(罗切斯特理工学院)
本文提出一种跨层设备-电路-系统协同设计框架,利用ECRAM的非平衡离子动态实现神经形态电路中的短期可塑性,通过延迟反馈漏电积分与放电(LIF)神经元架构实现活动依赖性电导调制,展现突触增强和内在兴奋性调节功能。
2026-05-11 cs.NE eess.SP
Synaptic Plasticity Dynamics for Deep Continuous Local Learning (DECOLLE)
越来越多的研究强调了生物神经网络和循环二进制神经网络之间惊人的相似性。然而,一个相对较小的工作主体讨论了深度人工神经网络中使用的学习动力学和脉冲神经网络中的突触可塑性之间的相似性。阻止这一点的挑战在很大程度上是由突触可塑性的动力学特性和梯度反向传播的要求之间的差异引起的。使用局部合成梯度来近似梯度反向传播的学习算法可以克服这一挑战。在这里,我们证明了合成梯度能够在脉冲神经网络中导出深度连续局部学习(DECOLLE)。DECOLLE能够仅依靠本地信息从尖峰中学习深度时空表示。通过利用现有的机器学习框架的自微分方法,从用户定义的成本函数和神经动力学系统地导出突触可塑性规则。我们基准我们的方法上的MNIST和基于事件的神经形态DvsGesture数据集,其中DECOLLE执行bandwidth到最先进的。DECOLLE网络提供持续学习的机器,是相关的生物学和支持基于事件的,低功耗的计算机视觉架构匹配的准确性,在时间精度和速度是必不可少的任务的传统计算机。
2020-05-20 cs.NE
An STDP-Based Supervised Learning Algorithm for Spiking Neural Networks
Tsinghua University(清华大学);Huawei Technology(华为技术有限公司)
与基于速率的人工神经网络相比,脉冲神经网络(SNN)为大脑提供了一个更合理的生物模型。但它们如何执行监督学习仍然是难以捉摸的。受到Bengio等人近期作品的启发,我们提出了一个监督学习算法的基础上尖峰定时依赖可塑性(STDP)的分层SNN的泄漏积分和消防(LIF)神经元。为突触前神经元设计了一个时间窗口,只有该窗口中的尖峰信号参与STDP更新过程。该模型是在MNIST数据集上训练的。分类精度的方法,多层感知器(MLP)的结构相似的标准反向传播算法训练。
2022-03-07 cs.AI cs.NE
Neural System Identification with Spike-triggered Non-negative Matrix Factorization
Peking University(北京大学);Peng Cheng Laboratory(鹏城实验室);University of Edinburgh(爱丁堡大学);University of Leicester(莱斯特大学)
大脑中形成的神经元回路是复杂的,具有错综复杂的连接模式。这种复杂性也在视网膜中观察到,作为相对简单的神经元回路。视网膜神经节细胞接收来自前几层神经元的兴奋性输入,作为激发尖峰的驱动力。需要能够以系统的方式破译这些成分的分析方法。最近,一种称为尖峰触发的非负矩阵分解(STNMF)的方法已被提出用于此目的。在这项研究中,我们扩展了STNMF方法的范围。通过使用视网膜神经节细胞作为模型系统,我们表明,STNMF可以检测上游双极细胞的各种计算特性,包括空间感受野,时间滤波器,和传输非线性。此外,我们从STNMF的权重矩阵中恢复突触连接强度。此外,我们表明,STNMF可以分离成几个子集的尖峰的神经节细胞的尖峰,每个子集是由一个突触前双极细胞。总之,这些结果证实了STNMF是一种有用的方法,用于破译神经元电路的结构。
2020-03-01 cs.LG cs.NE q-bio.NC
Voltage-Dependent Synaptic Plasticity (VDSP): Unsupervised probabilistic Hebbian plasticity rule based on neurons membrane potential
Institut Interdisciplinaire d’Innovation Technologique (3IT), Université de Sherbrooke(舍布鲁克大学跨学科技术创新研究所(3IT));Laboratoire Nanotechnologies Nanosystèmes (LN2) – CNRS UMI-3463, Université de Sherbrooke(舍布鲁克大学纳米技术与纳米系统实验室(LN2)——法国国家科学研究中心联合国际研究单位3463);Institute of Electronics, Microelectronics and Nanotechnology (IEMN), Université de Lille(里尔大学电子、微电子与纳米技术研究所(IEMN));Aix Marseille Univ(艾克斯-马赛大学);Université de Toulon(土伦大学);CNRS(法国国家科学研究中心);IM2NP(材料、微电子与纳米科学普罗旺斯研究所(IM2NP));National Research Council Canada(加拿大国家研究委员会);University of Waterloo Collaboration Centre(滑铁卢大学合作中心);Université Paris-Saclay(巴黎萨克雷大学);Centre de Nanosciences et de Nanotechnologies(纳米科学与纳米技术中心)
这项研究提出了电压依赖性突触可塑性(VDSP),一种新的大脑启发的无监督局部学习规则的神经形态硬件上的Hebb的可塑性机制的在线实施。所提出的VDSP学习规则更新的突触电导的突触后神经元的尖峰上,这减少了两个因素的更新的数量相对于标准的尖峰定时依赖可塑性(STDP)。这种更新取决于突触前神经元的膜电位,其作为神经元实现的一部分是容易获得的,因此不需要额外的存储器来存储。此外,更新还在突触权重上进行正则化,并防止重复刺激时权重的爆炸或消失。进行严格的数学分析,得出VDSP和STDP之间的等效性。为了验证VDSP的系统级性能,我们训练了一个单层的脉冲神经网络(SNN)的手写数字识别。我们报告85.01 $ \pm $ 0.76%(平均$ \pm $ S.D.)MNIST数据集上100个输出神经元网络的准确性。当缩放网络大小时,性能得到改善(对于400个输出神经元,89.93 $ \pm $ 0.41%,对于500个神经元,90.56 $ \pm $ 0.27),这验证了所提出的学习规则对于空间模式识别任务的适用性。今后的工作将考虑更复杂的任务。有趣的是,学习规则比STDP更好地适应输入信号的频率,并且不需要手动调整超参数
2022-10-22 cs.AI cs.NE
Synaptic Integration of Spatiotemporal Features with a Dynamic Neuromorphic Processor
Luleå University of Technology(吕勒奥理工大学)
发放神经元可以通过突触前发放模式的非线性突触和树突整合来执行时空特征检测。非线性树突的多室模型和相关的神经形态电路设计使得能够忠实地模仿这种动态集成过程,但是这些方法也与相对高的计算成本或电路尺寸相关联。在这里,我们调查的时空尖峰模式与多个动态突触的DYNAP-SE神经形态处理器,它提供了一个互补的资源效率,虽然不太灵活,方法来特征检测点神经元的突触整合。我们研究如何以前提出的兴奋-抑制对动态突触可以结合起来,以整合多个输入,我们概括了这一概念的情况下,一个抑制性突触与多个兴奋性突触相结合。我们通过测量和分析神经形态神经元回路的膜电位来表征所产生的延迟兴奋性突触后电位(EPSP)。我们发现,生物相关的EPSP延迟,每个神经元的顺序为10毫秒的变化,可以实现在所提出的方式,通过选择不同的突触组合,由于设备不匹配。基于这些结果,我们证明了一个单点神经元动态突触的DYNAP-SE可以选择性地响应突触前尖峰与特定的时空结构,这使得,例如,视觉功能调整的单个神经元。
2021-06-01 cs.CV cs.NE q-bio.NC
Hardware-Amenable Structural Learning for Spike-based Pattern Classification using a Simple Model of Active Dendrites
本文提出了一种基于脉冲的模型,该模型采用具有功能不同的树突状区室的神经元对高维二进制模式进行分类。到达每个树突亚基的突触输入在被线性整合到胞体之前被非线性处理,使神经元有能力执行大量的输入-输出映射。该模型利用稀疏突触连接;其中每个突触采用二进制值。神经元的最佳连接模式是通过使用一个简单的硬件友好的,边缘增强学习算法的启发,在生物神经元的结构可塑性的机制。学习算法将相同树突分支上的相关突触输入分组。由于学习的结果在修改的连接模式,它可以被纳入到当前的基于事件的神经形态系统很少的开销。这项工作还提出了一个分支特定的穗为基础的版本,这种结构的可塑性规则。该模型进行评估基准二进制分类问题,其性能进行比较,实现使用支持向量机(SVM)和极端学习机(ELM)技术。我们提出的方法达到可比的性能,同时利用10%至50%的计算资源比其他报告的技术。
2014-11-25 cs.NE q-bio.NC
Sensitivity Analysis for additive STDP rule
尖峰时间依赖可塑性(STDP)是一种类似于Hebbian的突触学习规则。STDP的基础有很强的实验证据,它依赖于精确的输入和输出尖峰定时。在本文中,我们表明,在生物学上合理的尖峰制度,轻微的变化,在尖峰时间导致突触权重时,它的动态是由添加剂STDP规则的演变截然不同。
2015-04-13 cs.NE q-bio.NC
Spike-based alignment learning solves the weight transport problem
Department of Physiology, Bern University(伯尔尼大学生理学系);Neural Computation Unit, Okinawa Institute of Science and Technology(冲绳科学技术大学院大学神经计算单元)
本文提出基于尖峰的对齐学习方法,利用尖峰时间统计消除有效互惠连接间的不对称性,提升spiking网络在权重传输问题中的性能。
2026-04-08 cs.ET cs.LG cs.NE
Optimality of short-term synaptic plasticity in modelling certain dynamic environments
IBM Research – Zurich(IBM苏黎世研究院);Huawei – Zurich Research Center(华为苏黎世研究中心)
生物神经元及其用于神经形态人工智能(AI)的计算机模拟使用非常节能的机制,例如基于尖峰的通信和局部突触可塑性。目前还不清楚这些神经机制是否只是提供效率,还是也是生物智能优越性的基础。在这里,我们严格证明,事实上,贝叶斯最优预测和推理的随机但不断变换的环境,一个共同的自然环境,依赖于短期尖峰时间依赖的可塑性,生物突触的标志。此外,这种通过可塑性的动态贝叶斯推理使大脑皮层的电路在模拟中能够识别以前看不见的,高度扭曲的动态刺激。引人注目的是,这还引入了一种生物建模的人工智能,它是第一个克服深度学习的多重限制并在视觉任务中优于人工神经网络的人工智能。类皮质网络是尖峰和基于事件的,仅在小的、窄的和静态的训练数据集上用无监督的和局部的可塑性进行训练,但是比具有连续激活的深度神经网络更好地实现了对看不见的、变换的和动态的数据的识别,并且在变换数据上用监督的反向传播进行训练。这些结果将短期可塑性与高级皮层功能联系起来,表明自然智能对自然环境的最优性,并将神经形态AI从单纯的效率重新定位为计算至上。
2021-06-15 cs.CV cs.LG cs.NE
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出ASPEN,通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数,在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗,为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
Spiking neurons with short-term synaptic plasticity form superior generative networks
执行概率推理的尖峰网络已经被提出作为皮质计算的模型和作为解决机器学习中的问题的候选者。然而,基于尖峰的计算以任何方式优于非尖峰替代品的证据仍然很少。我们建议,短期可塑性可以提供尖峰网络与其经典的同行相比,具有独特的计算优势。在这项工作中,我们使用的泄漏集成和消防神经元网络的训练,分别在他们的前向和后向信息处理路径执行判别和生成任务。在训练过程中,与它们的动力学相关的能量景观变得高度多样化,深吸引子盆地被高障碍隔开。经典算法通过采用各种回火技术来解决这个问题,这些技术在计算上要求很高并且需要全局状态更新。我们展示了如何在具有局部短期突触可塑性的尖峰网络中实现类似的结果。此外,我们还讨论了当训练数据不平衡时,这些网络如何甚至优于基于回火的方法。因此,我们展示了如何生物启发,本地,尖峰触发的突触动力学的基础上,简单地对有限的突触资源池可以允许尖峰网络胜过他们的非尖峰亲戚。
2017-10-10 cs.NE physics.bio-ph q-bio.NC
Fatiguing STDP: Learning from Spike-Timing Codes in the Presence of Rate Codes
IBM Research – Zurich(IBM苏黎世研究院)
脉冲神经网络(SNN)可以在无监督机器学习应用中发挥关键作用,凭借与从基于事件的信号的精细时间结构中学习相关的优势。然而,一些尖峰定时相关的强度SNN的尖峰定时相关的可塑性(STDP)规则的敏感性,输入尖峰率的阻碍,因为精细的时间相关性可能会被阻塞的发射率之间的粗糙的相关性。在这篇文章中,我们提出了一个尖峰时间依赖的学习规则,允许神经元学习的时间编码的信息,尽管存在率代码。我们的长期可塑性规则利用了短期突触疲劳动力学。我们分析表明,与传统的STDP规则相比,我们的疲劳STDP(FSTDP)有助于学习时间代码,我们推导出必要的条件来优化学习过程。我们展示了FSTDP在学习合成数据中不同速率过程之间的尖峰时间相关性方面的有效性。最后,我们使用FSTDP来检测来自美国的真实天气数据中的相关性,该算法使用包括相变忆阻器件的神经形态硬件平台。综上所述,我们的分析和演示表明,FSTDP铺平了道路,在现实世界中的应用程序中的SNN的尖峰为基础的优势的开发。
2017-06-17 cs.LG cs.NE stat.ML
A biological gradient descent for prediction through a combination of STDP and homeostatic plasticity
识别、形式化和组合实现已知大脑功能(如预测)的生物机制是当前理论神经科学研究的一个主要方面。在这封信中,尖峰定时依赖可塑性(STDP)和稳态可塑性的机制,结合在一个原始的数学形式主义,显示形状的递归神经网络预测。经过严格的数学处理,我们证明了它们实现了网络活动与其刺激之间距离的在线梯度下降。收敛到一个平衡点,网络可以自发地复制或预测其刺激,不会受到在递归神经网络学习中通常遇到的分叉问题的影响。
2013-06-11 cs.NE math.DS q-bio.NC
Learning Precise Spike Timings with Eligibility Traces
University of Tübingen(蒂宾根大学)
最近在脉冲神经网络(SNN)领域的研究表明,SNN的递归变体,即长短期SNN(LSNN),可以通过误差梯度来训练,就像LSTM一样有效。底层学习方法(e-prop)是基于应用于泄漏积分和激发(LIF)神经元的资格迹的形式化。在这里,我们表明,所提出的方法不能完全展开尖峰时间依赖可塑性(STDP)。因此,这在原则上限制了SNN的固有优势,即开发依赖于精确相对尖峰定时的代码的潜力。我们表明,STDP感知的突触梯度自然出现在资格方程的e-prop时,推导出一个稍微复杂的尖峰神经元模型,在这里的例子的Izhikevich模型。我们还提出了一个简单的扩展LIF模型,提供类似的梯度。在一个简单的实验中,我们证明了STDP感知LIF神经元可以从基于e-prop的梯度信号中学习精确的尖峰定时。
2020-05-08 cs.LG cs.NE
SpykeTorch: Efficient Simulation of Convolutional Spiking Neural Networks with at most one Spike per Neuron
深度卷积脉冲神经网络(SNN)在人工智能(AI)任务中的应用最近引起了人们的极大兴趣,因为SNN是硬件友好且节能的。与非尖峰对应物不同,大多数现有的SNN仿真框架对于大规模AI任务来说实际上不够有效。本文介绍了SpykeTorch,这是一个基于PyTorch的开源高速仿真框架。该框架模拟了卷积SNN,每个神经元最多有一个尖峰,并且采用了秩序编码方案。在学习规则方面,实现了尖峰时间依赖可塑性(STDP)和奖励调制STDP(R-STDP),但其他规则可以很容易地实现。除了上述属性,SpykeTorch是高度通用的,能够复制各种研究的结果。所提出的框架中的计算是基于张量的,完全由PyTorch函数完成,这反过来又带来了在CPU,GPU或多GPU平台上运行的即时优化能力。
2019-07-16 cs.NE q-bio.NC
Temporal Coding in Spiking Neural Networks with Alpha Synaptic Function: Learning with Backpropagation
Google Research(谷歌研究院)
个体神经元尖峰的时间对于生物大脑对感官刺激做出快速反应至关重要。然而,传统的人工神经网络缺乏生物网络中存在的内在时间编码能力。我们提出了一个脉冲神经网络模型,编码信息的相对时间的个别神经元尖峰。在分类任务中,网络的输出由输出层中的第一个神经元指示。这种时间编码方案允许监督训练的网络与反向传播,使用局部精确的衍生物的突触后尖峰时间相对于突触前尖峰时间。该网络使用生物学上合理的α突触传递函数进行操作。此外,我们使用可训练的同步脉冲来提供偏置,增加训练期间的灵活性并利用alpha函数的衰减部分。我们表明,这样的网络可以成功地训练噪声布尔逻辑任务和MNIST数据集编码的时间。结果表明,脉冲神经网络的性能优于MNIST上的同类脉冲模型,并实现了类似的质量完全连接的传统网络具有相同的架构。我们还发现,尖峰网络自发地发现了两个操作机制,反映了人类决策中观察到的准确性-速度权衡:一个缓慢的机制,在所有隐藏的神经元都尖峰之后做出决定,准确性非常高,一个快速的机制,决策非常快,但准确性较低。这些结果证明了具有生物特征的尖峰网络的计算能力,这些生物特征在单个神经元的时序中编码信息。通过研究尖峰网络中的时间编码,我们的目标是为节能和更复杂的生物启发神经架构创建构建模块。
2020-11-16 cs.LG cs.NE q-bio.NC