Unsupervised Spiking Neural Network Model of Prefrontal Cortex to study Task Switching with Synaptic deficiency
Oklahoma State University(俄克拉荷马州立大学);University of Central Oklahoma(中央俄克拉荷马大学)
本研究构建了基于无监督STDP学习规则的脉冲神经网络模型以模拟前额叶皮层,探究任务切换机制,并通过停用突触通路模拟损伤状态,在FMNIST数据集上验证了模型在模式识别与生物逼真度间的平衡。
2023-05-23 cs.AI cs.LG cs.NE
NeuroNAS: Enhancing Efficiency of Neuromorphic In-Memory Computing for Intelligent Mobile Agents through Hardware-Aware Spiking Neural Architecture Search
New York University (NYU) Abu Dhabi(纽约大学阿布扎比分校)
针对智能移动代理低功耗需求,提出NeuroNAS框架,通过硬件感知脉冲神经架构搜索找到满足内存、面积等约束的高精度SNN架构,在多数据集上实现搜索加速与能效提升。
2025-04-18 cs.AI cs.AR cs.LG
An Intelligent Control Strategy for buck DC-DC Converter via Deep Reinforcement Learning
Shanghai University of Electric Power(上海电力大学)
DC-DC变换器作为一种典型的开关电源,在直流微电网中得到了广泛的应用。由于可再生能源发电量的变化,研究和设计具有优异动态特性的DC-DC变换器控制算法具有重要的理论和实际应用价值。为解决直流微电网中母线电压稳定性问题,首次提出了一种基于深度强化学习算法的恒功率负载(CPL)降压型DC-DC变换器智能控制策略。针对DC-DC变换器,定义了马尔可夫决策过程(MDP)模型和深度Q网络(DQN)算法。基于无模型的深度强化学习(DRL)控制策略被适当地设计为通过奖励/惩罚机制来调整代理-环境交互,以实现收敛到标称电压。该智能体通过提取复杂电力系统的高维特征,在没有任何先验知识的情况下做出近似决策。仿真结果表明,所设计的控制器在不同场景下具有较强的自学习和自寻优能力。
2020-08-11 cs.LG cs.SY eess.SY
SIGMA: Symmetry-aware, Intelligent, Geometric, Multi-faced Adaptive Traffic Control for Reliable Intelligent Transportation Systems
Indian Statistical Institute(印度统计研究所);Sorbonne University Abu Dhabi(阿布扎比索邦大学);Sorbonne Center for Artificial Intelligence(索邦人工智能中心);SQC & OR(统计质量控制与运筹学研究室)
本文提出SIGMA框架,结合LLM实现自适应交通信号多目标控制,在SUMO仿真中较基准控制器降低等待与排队时长、提升通行量,且具备鲁棒性与统计可靠性。
2026-10-14 cs.LG stat.ML
Intelligent and Reconfigurable Architecture for KL Divergence Based Online Machine Learning Algorithm
IIIT-Delhi(德里印度理工学院)
在线机器学习(OML)算法不需要任何训练阶段,可以直接部署在未知环境中。OML包括多臂强盗(MAB)算法,该算法通过在所有臂的探索和最优臂的开发之间实现平衡来确定多个臂中的最优臂。基于Kullback-Leibler发散的置信上限(KLUCB)是最先进的MAB算法,该算法优化了探索-开发权衡,但由于强调优化例程而变得复杂。这限制了它对于机器人和无线电应用的实用性,这些应用需要将KLUCB与片上系统(SoC)上的PHY集成。在本文中,我们有效地映射KLUCB算法在SoC上实现优化例程通过交替综合计算,而不影响性能。所提出的架构是动态可重构的,这样的武器的数量,以及类型的算法,可以改变的飞行。具体来说,在初始学习之后,动态切换到轻量级UCB在延迟和吞吐量方面提供了大约10个因素的改进。由于学习持续时间取决于未知的手臂统计,我们提供智能嵌入架构,以决定切换时刻。我们通过一个实际的无线应用验证了所提出的架构的功能正确性和实用性,详细的复杂性分析表明其在实现智能无线电的可行性。
2020-02-18 cs.LG eess.SP
Neural Models of Task Adaptation: A Tutorial on Spiking Networks for Executive Control
Oklahoma State University(俄克拉荷马州立大学);Georgia Tech(佐治亚理工学院)
本教程提出了一种基于LIF神经元和STDP的生物合理脉冲神经网络构建方法,用于模拟认知控制网络中的任务切换机制,揭示了神经适应规律,为执行功能的计算基础提供了见解。
2025-03-05 cs.LG cs.NE q-bio.NC
Sparsity-Aware Intelligent Massive Random Access Control in Open RAN: A Reinforcement Learning Based Approach
Xiamen University(厦门大学);Stevens Institute of Technology(史蒂文斯理工学院);Mohamed Bin Zayed University of Artificial Intelligence(穆罕默德·本·扎耶德人工智能大学)
新兴的开放无线接入网(O-RAN)中设备的大规模随机接入给接入控制和管理带来了巨大的挑战。稀疏主动用户检测(SAUD)利用访问请求的突发性,是实现高效访问管理的有效手段,但在不协调的大规模访问请求情况下,稀疏性可能会恶化。为了动态地保持接入请求的稀疏性,提出了一种利用接入类别限制技术的闭环接入控制的重复学习(RL)辅助方案,其中RL策略通过RL代理之间的连续交互来确定,即,下一代节点库(gNB)和环境。所提出的方案可以通过O-RAN中的近实时RAN智能控制器(near-RT RIC)来实现,支持异构垂直应用(例如mMTC和uRLLC服务)之间的快速切换。此外,提出了一种数据驱动的深度强化学习辅助SAUD方案,以解决具有连续和高维状态和动作空间的高度复杂环境,其中重放缓冲区用于自动大规模数据汇集。一个行动者-评论家框架制定纳入近RT RIC的策略学习模块。仿真结果表明,对于不同的异构服务和海量接入请求,所提方案在接入效率和用户检测准确率方面均优于基准方案.
2023-03-05 cs.AI cs.IT cs.LG
Controlled Perturbation-Induced Switching in Pulse-Coupled Oscillator Networks
脉冲耦合系统,如尖峰神经网络表现出非平凡不变集的形式吸引但不稳定的鞍周期轨道,其中单位同步成组。这些轨道之间的异宿连接原则上可以支持这些网络中的切换过程,并实现新型神经计算。对于耦合振荡器的小网络,我们在这里调查在哪些条件下,以及如何系统对称性强制或禁止某些开关过渡,可能会引起的扰动。对于五个振子的网络,我们推导出明确的跃迁规则,对于两个簇对称性,这些规则偏离了在时间上连续耦合的振子的已知规则。第三种对称性产生了异宿网络,它由所有具有这种对称性的不稳定吸引子以及它们之间的连接组成。我们的研究结果表明,脉冲耦合系统可以可靠地产生定义良好的复杂的时空模式,符合特定的过渡规则集。我们简要地讨论了可能的影响与尖峰神经系统的计算。
2020-11-02 cs.NE nlin.AO
Exploiting Heterogeneity in Timescales for Sparse Recurrent Spiking Neural Networks for Energy-Efficient Edge Computing
Georgia Institute of Technology(佐治亚理工学院)
该研究整合三项开创性工作,通过在神经元和突触动力学中引入异质性,结合新型剪枝方法提升异质循环脉冲神经网络的分类性能、减少脉冲活动,为高能效边缘神经计算提供新思路。
2024-07-08 cs.AI cs.NE
Wearable-based Human Activity Recognition with Spatio-Temporal Spiking Neural Networks
Yale University(耶鲁大学)
我们研究了人类活动识别(HAR)任务,该任务根据可穿戴传感器的时间序列数据预测用户的日常活动。近年来,研究人员使用端到端的人工神经网络(ANN)来提取HAR中的特征并进行分类。然而,人工神经网络对可穿戴设备造成巨大的计算负担,并且缺乏时间特征提取。在这项工作中,我们利用脉冲神经网络(SNN)--一种受生物神经元启发的架构--来完成HAR任务。SNN允许时空提取特征,并享受低功耗计算与二进制尖峰。我们在三个带有SNN的HAR数据集上进行了广泛的实验,证明SNN在准确性方面与ANN不相上下,同时减少了高达94%的能耗。该代码可在https://github.com/Intelligent-Computing-Lab-Yale/SNN_HAR上公开获取
2022-11-14 cs.LG cs.NE eess.SP
Brian2Loihi: An emulator for the neuromorphic chip Loihi using the spiking neural network simulator Brian
开发智能神经形态解决方案仍然是一项具有挑战性的工作。它需要对硬件的基本构建块有坚实的概念性理解。除此之外,可访问和用户友好的原型设计对于加快设计流程至关重要。我们开发了一个基于神经网络模拟器Brian的开源Loihi模拟器,它可以很容易地集成到现有的模拟工作流程中。我们展示了一个单一的神经元和一个循环连接的脉冲神经网络的软件中的无错Loihi仿真。片上学习也进行了审查和实施,合理的差异,由于随机舍入。这项工作提供了一个连贯的介绍Loihi的计算单元,并介绍了一个新的,易于使用的Loihi原型包,旨在帮助简化概念化和部署新的算法。
2021-09-25 cs.NE
A Spiking Neural Architecture for Coordinating Arm and Locomotor Control
Centre for Theoretical Neuroscience(理论神经科学中心);Dept. of Systems Design Engineering, University of Waterloo(滑铁卢大学系统设计工程系);Applied Brain Research(应用脑研究公司);Dept. of Nanotechnology Engineering, University of Waterloo(滑铁卢大学纳米技术工程系);Dept. of Philosophy, University of Waterloo(滑铁卢大学哲学系)
提出一种基于脉冲神经网络(SNN)的架构,利用神经工程框架(NEF)和语义指针架构(SPA)协调仿人机器人的手臂力控制与双足运动,并通过基底节模型实现高层动作选择,首次在全身仿人平台上实现集成控制。
2026-06-09 cs.NE cs.RO
QDS-SNN: Energy-efficient Quantum Deeply-Supervised Spiking Neural Network Algorithm for Traffic Sign Recognition
School of Computer Science, School of Software, Nanjing University of Information Science and Technology(计算机科学系、软件学院、信息科学技术大学)
提出量子深度监督脉冲神经网络(QDS-SNN),结合量子神经网络与时空自适应LIF神经元,在GTSRB数据集上以6个时间步达到99.72%准确率,能耗降低55.77%。
2026-06-03 cs.LG cs.NE
An Efficient Software-Hardware Design Framework for Spiking Neural Network Systems
脉冲神经网络(SNN)是模仿大脑自然行为的第三代神经网络(NN)。通过基于二进制输入/输出的处理,SNN提供更低的复杂度、更高的密度和更低的功耗。这项工作提出了一个有效的软件-硬件设计框架开发SNN系统的硬件。此外,本文还提出了一种基于分组交换通信方式的低成本神经突触核的设计方案。评估结果表明,大小为784:1200:1200:10的ANN到SNN的转换方法对MNIST的准确率为99%,而无监督的STDP在大小为784:400的情况下的准确率为89%。256个神经元和65 k个突触的设计也在ASIC 45 nm技术中实现,面积成本为0.205 $m m^2$。
2020-03-22 cs.NE
Lattice Map Spiking Neural Networks (LM-SNNs) for Clustering and Classifying Image Data
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Memphis(孟菲斯大学)
在这项工作中,引入了脉冲神经网络(SNN)的晶格结构,结合SNN和自组织映射(SOM)的几个理想的属性。利用生物学激励的无监督学习规则来训练网络,以通过合作和竞争的兴奋-抑制相互作用来获得自组织的过滤器网格。几种抑制策略的开发和测试,如(i)逐渐增加的抑制水平在网络训练的过程中,和(ii)切换的抑制水平从低到高(两个级别)后,初始训练段。在标记阶段,由具有已知标签的数据生成的尖峰活动用于将神经元分配给数据类别,然后用于评估网络在一组测试数据上的分类能力。提出并比较了几种生物学上合理的评价规则,包括群体水平的置信度和$n$ -gram启发的方法。建议的自组织学习机制的有效性进行了测试,使用MNIST基准数据集,以及使用播放雅达利突破游戏产生的图像。
2019-06-04 cs.AI cs.LG cs.NE
Evolving Unipolar Memristor Spiking Neural Networks
类脑计算-硬件中的类脑计算-通常需要无数CMOS尖峰神经元通过密集的纳米级塑料突触网互连。忆阻器由于其状态性和低功耗实现的潜力而经常被引用为强突触候选者。到目前为止,大量的研究集中在双极忆阻器突触上,它能够增加权重的变化,并且可以在赫布学习方案下提供自适应自组织。在本文中,我们考虑单极忆阻器突触-一个设备能够非赫布之间切换只有两个状态(导电和电阻)通过应用一个合适的输入电压-并讨论其适用于神经形态系统。一个自适应的进化过程是用来自主地找到高度适合的网络配置。对两个机器人任务的实验表明,单极忆阻器网络比双极忆阻器网络和包含恒定非塑性连接的网络更快地发展任务解决控制器,同时执行至少100%。
2015-09-01 cs.NE
POPPINS : A Population-Based Digital Spiking Neuromorphic Processor with Integer Quadratic Integrate-and-Fire Neurons
National Tsing Hua University(清华大学)
人类大脑作为一个生物处理系统的内部运作在很大程度上仍然是一个谜。受人脑功能的启发,并基于对其他物种(如果蝇)中简单神经网络系统的分析,类脑计算系统引起了人们的极大兴趣。在细胞水平的连接组学研究中,我们可以识别生物神经网络的特征,即种群,它不仅构成网络中循环的全连接,而且构成每个神经元中的一个外部刺激和自连接。脉冲神经网络依靠网络中脉冲传输和输入数据的低数据带宽,实现了低延迟、低功耗的设计。在这项研究中,我们提出了一个可配置的人口为基础的数字尖峰神经形态处理器在180纳米工艺技术与两个可配置的层次人口。此外,处理器中的这些神经元可以被配置为新颖的模型,整数二次积分和激发神经元模型,其包含无符号的8位膜电位值。处理器可以实时实现智能决策。此外,所提出的方法使仿生神经形态系统和各种低功耗,低延迟的推理处理应用的发展。
2022-01-19 cs.AI cs.NE
A superconducting nanowire spiking element for neural networks
随着传统冯·诺依曼计算的局限性逐渐显现,大脑使用低功耗尖峰信号传递大量信息的能力已成为替代架构的灵感来源。这些大规模神经网络成功的关键是一个高能效的尖峰元件,是可扩展的,易于与传统的控制电子接口。在这项工作中,我们提出了一个尖峰元件制造超导纳米线,具有脉冲能量的顺序为~10 aJ。我们证明,该设备再现生物神经元的基本特征,如不应期和放电阈值。通过使用实验测量的设备参数的模拟,我们展示了如何基于纳米线的网络可用于图像识别中的推理,以及纳米线开关的概率性质可用于生物过程建模和依赖于随机性的应用程序。
2020-07-29 cond-mat.supr-con cs.ET cs.NE
Synchronous Unsupervised STDP Learning with Stochastic STT-MRAM Switching
在神经形态系统中使用模拟电阻状态来存储权重受到制造不精确性和设备随机性的阻碍,这限制了突触权重的精度。这一挑战可以通过利用自旋转移矩磁阻随机存取存储器(STT-MRAM)的二进制状态的随机切换来仿真模拟行为来解决。然而,基于STT-MRAM的先前方法以难以通过实验实现的异步方式操作。本文提出了一种同步脉冲神经网络系统与时钟电路,执行无监督学习利用STT-MRAM的随机切换。所提出的系统使单层网络在MNIST数据集上实现90%的推理准确度。
2021-12-10 cs.NE
Boosting Throughput and Efficiency of Hardware Spiking Neural Accelerators using Time Compression Supporting Multiple Spike Codes
University of California, Santa Barbara(加利福尼亚大学圣巴巴拉分校);Texas A&M University(得克萨斯农工大学)
脉冲神经网络(SNN)是第三代神经网络,可以探索速率和时间编码,以实现能量高效的事件驱动计算。然而,现有SNN设计的决策精度取决于在长时间内处理大量尖峰。然而,SNN硬件加速器的切换功率与所处理的尖峰的数量成比例,而尖峰序列的长度限制了吞吐量和静态功率效率。本文提出了第一个研究开发时间压缩显着提高吞吐量和减少数字硬件SNN加速器的能量消耗,同时适用于多个尖峰码。所提出的压缩架构包括低成本的输入尖峰压缩单元,新颖的输入和输出加权尖峰神经元,和可重构的时间常数缩放,以支持大而灵活的时间压缩比。我们的压缩架构可以透明地应用于任何给定的预先设计的SNN采用速率或时间代码,同时引起神经模型,学习算法和硬件设计的最小修改。使用尖峰语音和图像识别数据集,我们证明了支持高达16倍的大时间压缩比的可行性,在吞吐量,能耗,硬件面积,运行时间,能量和分类精度之间的权衡,分别基于Xilinx Zynq-7000 FPGA上的不同尖峰代码,提供高达15.93倍,13.88倍和86.21倍的改进。这些结果是实现的,而招致很少的额外硬件开销。
2019-09-10 cs.LG cs.NE
Efficient Gesture Recognition on Spiking Convolutional Networks Through Sensor Fusion of Event-Based and Depth Data
FZI Research Center for Information Technology(FZI信息技术研究中心)
针对传统手势识别反应不足的问题,提出融合事件与深度数据的脉冲卷积网络,用LAVA框架仿真,结合新录制的同步双模态数据集验证,证实时间编码与模态融合可提升性能与泛化能力。
2024-01-30 cs.CV cs.NE cs.RO
FastSpiker: Enabling Fast Training for Spiking Neural Networks on Event-based Data through Learning Rate Enhancements for Autonomous Embedded Systems
New York University (NYU) Abu Dhabi(纽约大学阿布扎比分校)
FastSpiker通过优化学习率策略,在基于事件的数据上加速脉冲神经网络训练,实现高达10.5倍训练加速和88.39%碳排放降低,为自主嵌入式系统提供绿色可持续的具身神经形态智能。
2024-09-12 cs.AI cs.LG cs.NE
Exploring Temporal Information Dynamics in Spiking Neural Networks
Yale University(耶鲁大学);Technology Innovation Institute(技术创新研究所)
现有的脉冲神经网络(SNN)工作原理表明,SNN可以利用脉冲的时间信息动态性。然而,一个明确的时间信息动态分析仍然缺失。在本文中,我们提出了几个重要的问题,提供了一个基本的理解SNN:什么是时间信息动态SNN内?我们如何测量时间信息动态?时间信息动态如何影响整体学习绩效?为了回答这些问题,我们以经验的方式估计权重的Fisher信息来衡量训练过程中时间信息的分布。令人惊讶的是,随着训练的进行,Fisher信息开始集中在早期的时间步。经过训练后,我们观察到信息在早期的几个时间步中变得高度集中,这种现象我们称为时间信息集中。我们观察到,时间信息集中现象是SNN的一个共同的学习特征,通过对各种配置(如架构,数据集,优化策略,时间常数和时间步长)进行广泛的实验。此外,为了揭示时间信息集中对SNN性能的影响,我们设计了一个损失函数来改变时间信息的趋势。我们发现,时间信息集中是至关重要的,建立一个强大的SNN,但分类精度的影响不大。最后,我们提出了一个有效的迭代修剪方法的基础上,我们的观察时间信息浓度。代码可在https://github.com/Intelligent-Computing-Lab-Yale/Exploring-Temporal-Information-Dynamics-in-Spiking-Neural-Networks上获得。
2022-11-30 cs.AI cs.NE
Parallel Proportional Fusion of Spiking Quantum Neural Network for Optimizing Image Classification
School of Integrated Circuits, Anhui University(安徽大学集成电路学院);School of Computer and information, Anhui Normal University(安徽师范大学计算机与信息学院)
本文提出PPF-QSNN架构,将脉冲神经网络与变分量子电路并行处理并按比例融合输出,在MNIST图像分类中取得优于现有脉冲网络和串行量子神经网络的准确率、损失与鲁棒性。
2024-04-01 cs.AI cs.NE quant-ph
Brain-Inspired Spiking Neural Networks for Industrial Fault Diagnosis: A Survey, Challenges, and Opportunities
Tsinghua University(清华大学);Flanders Make(法兰德斯制造研究院)
本文系统综述类脑脉冲神经网络(SNN)的理论及其在工业故障诊断中的模型进展,分析其应用动因、实施路径、挑战、解决方案与未来机遇。
2024-06-04 cs.AI cs.LG cs.NE
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本文提出ASPEN,通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数,在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗,为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
Programming molecular systems to emulate a learning spiking neuron
The University of Manchester(曼彻斯特大学);Microsoft Research(微软研究院);University of Kent(肯特大学)
赫布理论试图解释大脑中的神经元如何适应刺激,以实现学习。Hebbian学习的一个有趣的特点是它是一种无监督的方法,因此不需要反馈,这使得它适用于系统必须自主学习的环境。本文探讨了如何设计分子系统来显示这种原始智能行为,并提出了第一个化学反应网络(CRN),它可以在任意多个输入通道中表现出自主的赫布学习。该系统模拟了一个尖峰神经元,我们证明了它可以学习传入输入的统计偏差。基本的CRN是一个最小的,物理上合理的一组微观可逆化学方程式,可以分析其能量需求。然而,为了探索如何从头设计这样的化学系统,我们还提出了一个基于酶驱动的区室化反应的扩展版本。最后,我们还展示了一个纯粹的DNA系统,建立在DNA链位移的范例,可以实现神经元动力学。我们的分析为探索生物环境中的自主学习提供了一个令人信服的蓝图,使我们更接近实现真正的合成生物智能。
2022-05-09 cs.AI cs.NE q-bio.NC
A Spiking Network for Inference of Relations Trained with Neuromorphic Backpropagation
在广泛的日常物体中对智能传感器的日益增长的需求要求存在能够在其环境中自主操作的低功率信息处理系统。特别是,有效地合并和处理不同传感器的输出是移动代理的认知能力的必要要求。在这项工作中,我们提出了一个多层的脉冲神经网络的刺激模式之间的关系在专用的神经形态系统的推理。该系统使用新版本的反向传播算法进行训练,该算法适用于神经形态硬件中的片上学习:错误梯度被编码为通过对称突触传播的尖峰信号,使用与前向传播期间使用的相同的集成和发射硬件基础设施。我们证明了强度的算术关系推理任务和视觉XOR的MNIST数据集上的方法。与以前的生物启发的网络实现相比,我们的方法能够用更少的神经元实现更好的性能。我们的架构是第一个具有片上学习能力的脉冲神经网络架构,它能够对复杂的视觉刺激进行关系推理。这些功能使我们的系统感兴趣的传感器融合应用和自主神经形态代理的嵌入式学习。
2019-03-11 cs.NE
Cortical oscillations implement a backbone for sampling-based computation in spiking neural networks
由于长期面临着一个不确定的世界,大脑面临着进化的压力,要代表这种不确定性,以便做出适当的反应。通常,这需要访问对可用信息的多种解释或对遇到的问题的多种解决方案。这就产生了所谓的混合问题:由于所有这些“有效”状态都代表了强大的吸引子,但它们之间可能非常不同,因此在这些状态之间切换可能很困难。我们建议,皮层振荡可以有效地用来克服这一挑战。通过充当有效温度,背景尖峰活动调节探索。由皮层振荡引起的节律变化可以被解释为一种模拟的回火。我们提供了一个严格的数学讨论,这种联系,并研究其在计算机模拟的现象学影响。这确定了皮层振荡的一个新的计算角色,并将它们与大脑中的各种现象联系起来,例如基于采样的概率推理,记忆重放,多感官提示组合和位置细胞闪烁。
2022-04-04 cs.NE q-bio.NC
Astrocyte-Enabled Advancements in Spiking Neural Networks for Large Language Modeling
Brain-inspired Cognitive Intelligence Lab, Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所类脑认知智能实验室);Center for Long-term Artificial Intelligence(长期人工智能中心);School of Future Technology, University of Chinese Academy of Sciences(中国科学院大学未来技术学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Center for Excellence in Brain Science and Intelligence Technology, CAS(中国科学院脑科学与智能技术卓越创新中心)
本文提出星形胶质细胞调制脉冲单元(AM-SU)及AstroSNN框架,将星形胶质细胞动力学融入脉冲神经网络,显著提升大语言建模中记忆保持和自然语言生成性能,兼具低延迟、高吞吐和低内存占用,适用于资源受限环境。
2023-12-26 cs.AI cs.NE
A feedback control optimizer for online and hardware-aware training of Spiking Neural Networks
Institute of Neuroinformatics, University of Zürich and ETH Zürich(神经信息学研究所,苏黎世大学和苏黎世联邦理工学院);ETH Zürich, Zürich, Switzerland(苏黎世联邦理工学院,苏黎世,瑞士);Digital Society Initiative, University of Zurich, Switzerland(数字社会倡议,苏黎世大学,瑞士);AI Center, ETH, Zürich, Switzerland(人工智能中心,苏黎世联邦理工学院,苏黎世,瑞士)
本文提出了一种用于混合信号设备的脉冲神经网络反馈控制优化器,通过结合脉冲权重更新与反馈控制信号,实现可扩展的芯片级学习,提升边缘智能系统的可持续性。
2026-02-03 cs.AI cs.NE
CarSNN: An Efficient Spiking Neural Network for Event-Based Autonomous Cars on the Loihi Neuromorphic Research Processor
Technische Universität Wien(维也纳工业大学);Politecnico di Torino(都灵理工大学);New York University(纽约大学)
自动驾驶(AD)相关功能提供了新的移动形式,这也有利于其他类型的智能和自主系统,如机器人,智能交通和智能工业。对于这些应用,需要快速、实时地做出决策。此外,在寻求电动交通的过程中,这项任务必须遵循低功耗政策,而不会影响运输工具或机器人的自主性。这两个挑战可以使用新兴的脉冲神经网络(SNN)来解决。当部署在专门的神经形态硬件上时,SNN可以以低延迟和低功耗实现高性能。在本文中,我们使用连接到基于事件的相机的SNN来面对AD的关键问题之一,即,汽车和其他物体之间的分类。为了比传统的框架式相机消耗更少的功率,我们使用了动态视觉传感器(DVS)。实验是按照离线监督学习规则进行的,然后将学习的SNN模型映射到英特尔Loihi神经形态研究芯片上。我们最好的实验在离线实现时达到了86%的准确率,当它被移植到Loihi芯片上时下降到83%。神经形态硬件实现对于每个样本具有最大0.72 ms的延迟,并且仅消耗310 mW。据我们所知,这项工作是在神经形态芯片上首次实现基于事件的汽车分类器。
2021-07-01 cs.LG cs.NE
Efficient Memristive Spiking Neural Networks Architecture with Supervised In-Situ STDP Method
Indian Statistical Institute(印度统计研究所);Balasore Alloys Limited(巴拉索尔合金有限公司)
本文提出一种采用监督式原位STDP算法的忆阻SNN架构,无需外部控制硬件,经LTspice评估,在Iris、BCW数据集及5×3二值图像上实现高识别准确率与鲁棒性。
2026-09-01 cs.ET cs.NE
UCF-Crime-DVS: A Novel Event-Based Dataset for Video Anomaly Detection with Spiking Neural Networks
Faculty of Electrical Engineering and Computer Science, Ningbo University(宁波大学电气工程与计算机科学学院);Ningbo University(宁波大学);The University of Hong Kong(香港大学)
针对视频异常检测,本文构建首个基于事件的DVS基准UCF-Crime-DVS,并提出多尺度脉冲融合网络MSF,为基于SNN的弱监督方法建立新基线。
2025-03-17 cs.CV cs.NE
Feature Attribution Explanations for Spiking Neural Networks
University of Twente(特文特大学);University of Marburg(马尔堡大学)
针对脉冲神经网络在关键应用中的可解释性需求,提出融合脉冲时间与模型权重、纳入缺失脉冲概念的时间脉冲归因方法,经多指标验证具备优良解释特性,为可解释脉冲神经网络研究奠定基础。
2023-11-02 cs.LG cs.NE
MINT: Multiplier-less INTeger Quantization for Energy Efficient Spiking Neural Networks
针对脉冲神经网络的量化优化问题,提出共享缩放因子的MINT无乘法器整数量化方法,将膜电位压缩至2位,在精度持平的同时大幅降低内存占用与部署计算能耗。
2023-11-07 cs.NE
Uncovering the Representation of Spiking Neural Networks Trained with Surrogate Gradient
Yale University(耶鲁大学)
本文利用CKA比较替代梯度训练的SNN与ANN的表征,分析宽度、深度、残差连接、时间维度及输入影响,揭示SNN表征规律。
2023-04-25 cs.LG cs.NE
Tuning Convolutional Spiking Neural Network with Biologically-plausible Reward Propagation
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences(中国科学院脑科学与智能技术卓越创新中心)
与标准人工神经网络(ANN)相比,脉冲神经网络(SNN)包含了更多的生物现实结构和生物启发的学习原理。SNN被认为是第三代人工神经网络,具有计算量小、鲁棒性强的特点。SNN中的神经元是非差分的,包含衰减的历史状态,并在其状态达到放电阈值后产生基于事件的尖峰。SNN的这些动态特性使得很难直接用标准的反向传播(BP)进行训练,这也被认为在生物学上不合理。在本文中,提出了一种生物合理的奖励传播(BRP)算法,并将其应用于具有尖峰卷积(具有1D和2D卷积内核)和全连接层的SNN架构。与逐层将错误信号从突触后神经元传播到突触前神经元的标准BP不同,BRP将目标标签而不是错误直接从输出层传播到所有预隐藏层。这种努力与新皮层皮层列中自上而下的奖励引导学习更加一致。仅具有局部梯度差异的突触修改用伪BP诱导,伪BP也可以用尖峰定时依赖可塑性(STDP)代替。在空间(包括MNIST和Cifar-10)和时间(包括TIDigits和DvsGesture)任务上进一步验证了所提出的BRP-SNN的性能,其中使用BRP的SNN与其他最先进的基于BP的SNN相比达到了类似的精度,并且比ANN节省了50%的计算成本。我们认为,引入生物学上合理的学习规则的训练过程中的生物现实SNN将给我们更多的提示和灵感,更好地了解生物系统的智能本质。
2021-05-31 cs.AI cs.NE
A Model for Foraging Ants, Controlled by Spiking Neural Networks and Double Pheromones
The Open University(开放大学);Technical University of Lisbon(里斯本理工大学)
提出了一个蚂蚁系统模型,其中蚂蚁在觅食任务中由一个脉冲神经回路和一个二阶信息素机制控制。神经电路被训练为单个蚂蚁,随后蚂蚁被暴露在虚拟环境中,在虚拟环境中,一群蚂蚁执行资源觅食任务。该模型包括蚂蚁神经回路的关联和无监督学习策略。神经回路通过经典条件反射来适应环境。最初未知的环境包括代表食物和障碍物的不同类型的刺激,当它们与蚂蚁直接接触时,会在蚂蚁的运动神经系统中引起反射反应:朝向或远离刺激源。蚂蚁被释放到一个有多种食物来源的景观上,其中一只蚂蚁很难以最大的效率收获景观。双信息素机制的引入比传统的蚁群优化策略产生更好的结果。传统的蚂蚁系统主要包括正强化信息素。这种方法使用第二信息素作为禁止路径的标记(负反馈)。这种封锁不是永久性的,它是由信息素的蒸发速率控制的。两种信息素的联合作用作为群体的集体记忆,减少了问题的搜索空间。本文探讨了在生物启发的认知架构中观察到的适应和学习能力如何通过群优化策略协同增强。该模型描绘了两种形式的人工智能行为:在个人层面上的脉冲神经网络是主控制器,在集体层面上的信息素分布是一个地图的解决方案出现的群体。
2015-09-18 cs.AI cs.NE
CogniSNN: An Exploration to Random Graph Architecture based Spiking Neural Networks with Enhanced Depth-Scalability and Path-Plasticity
School of Software, Northeastern University(东北大学软件学院);Guangdong Institute of Intelligence Science and Technology(广东省智能科学与技术研究院);Department of Data Science and AI, Monash University(蒙纳士大学数据科学与人工智能系)
CogniSNN通过引入随机图架构和改进的残差神经节点,提升了深度可扩展性和路径可塑性,实现了在新任务上的路径重用能力。
2025-12-18 cs.NE
Fully neuromorphic vision and control for autonomous drone flight
Delft University of Technology(代尔夫特理工大学)
生物传感和处理是异步和稀疏的,导致低延迟和节能的感知和行动。在机器人技术中,基于事件的视觉和脉冲神经网络的神经形态硬件有望表现出类似的特性。然而,由于当前嵌入式神经形态处理器的网络大小受限以及训练脉冲神经网络的困难,机器人实现仅限于具有低维感觉输入和运动动作的基本任务。在这里,我们提出了第一个完全神经形态的视觉控制管道,用于控制自由飞行的无人机。具体来说,我们训练一个脉冲神经网络,接受高维原始事件为基础的相机数据和输出低级别的控制动作,执行自主视觉为基础的飞行。网络的视觉部分由五层和28.8k个神经元组成,将传入的原始事件映射到自我运动估计,并在真实事件数据上进行自监督学习训练。控制部分包括一个单一的解码层,并在无人机模拟器的进化算法学习。机器人实验表明,一个成功的仿真到现实迁移的完全学习的神经形态管道。无人机可以准确地遵循不同的自我运动设定点,允许悬停,着陆和侧向操纵$\unicode{x2014}$,即使在同一时间偏航。神经形态流水线在英特尔的Loihi神经形态处理器上运行,执行频率为200 Hz,每个推理仅花费27 $\unicode{x00b5}$ J。这些结果说明了神经形态传感和处理的潜力,使更小,更智能的机器人。
2023-03-15 cs.AI cs.CV cs.LG
Rate Coding or Direct Coding: Which One is Better for Accurate, Robust, and Energy-efficient Spiking Neural Networks?
Yale University, USA(美国耶鲁大学)
最近的脉冲神经网络(SNN)工作集中于图像分类任务,因此已经提出了各种编码技术来将图像转换为时间二进制脉冲。其中,速率编码和直接编码被认为是构建实用SNN系统的潜在候选者,因为它们在大规模数据集上显示出最先进的性能。尽管它们的使用,很少有人注意到以公平的方式比较这两种编码方案。在本文中,我们从三个角度进行了全面的分析:准确性,对抗鲁棒性和能量效率。首先,我们比较了两种编码技术与各种架构和数据集的性能。然后,我们衡量的两个对抗攻击方法的编码技术的鲁棒性。最后,我们比较了两种编码方案的数字硬件平台上的能量效率。我们的研究结果表明,直接编码可以实现更好的精度,特别是对于少量的时间步长。相比之下,由于不可微的尖峰生成过程,速率编码对对抗攻击表现出更好的鲁棒性。速率编码还产生比直接编码更高的能量效率,直接编码要求第一层的多比特精度。我们的研究探讨了两个编码的特点,这是一个重要的设计考虑建设SNN。该守则可在https://github.com/Intelligent-Computing-Lab-Yale/Rate-vs-Direct上查阅。
2022-04-12 cs.CV cs.NE
LaneSNNs: Spiking Neural Networks for Lane Detection on the Loihi Neuromorphic Processor
Technische Universität Wien(维也纳工业大学);Politecnico di Torino(都灵理工大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
自动驾驶(AD)相关功能代表了下一代移动机器人和自动驾驶汽车的重要元素,这些机器人和自动驾驶汽车专注于日益智能化、自主化和互联化的系统。根据定义,涉及使用这些功能的应用程序必须提供实时决策,而这一属性是避免灾难性事故的关键。此外,所有的决策过程都必须要求低功耗,以增加电池驱动系统的寿命和自主性。这些挑战可以通过在神经形态芯片上有效实现脉冲神经网络(SNN)以及使用基于事件的相机而不是传统的基于帧的相机来解决。在本文中,我们提出了一种新的SNN为基础的方法,称为LaneSNN,用于检测车道标记的街道上使用基于事件的摄像机输入。我们开发了四种新颖的SNN模型,其特点是低复杂度和快速响应,并使用离线监督学习规则对它们进行训练。之后,我们将学习到的SNN模型实现并映射到英特尔Loihi Neuromorphic研究芯片上。对于损失函数,我们提出了一种新的方法的基础上的加权二进制交叉熵(WCE)和均方误差(MSE)措施的线性组合。我们的实验结果表明,最大交集超过联合(IoU)措施约0.62和非常低的功耗约1 W。最好的IoU是通过SNN实现的,该实现在Loihi处理器上仅占用36个神经核,同时提供不到8 ms的低延迟来识别图像,从而实现实时性能。我们的网络提供的IoU措施与最先进的技术相当,但功耗低得多,仅为1 W。
2022-08-03 cs.LG cs.NE
A Synapse-Threshold Synergistic Learning Approach for Spiking Neural Networks
University of Electronic Science and Technology of China(电子科技大学);Sichuan Provincial People’s Hospital(四川省人民医院);Chinese Academy of Medical Sciences(中国医学科学院);Zhengzhou University(郑州大学)
本研究提出一种在脉冲神经网络中同时训练突触权重和脉冲阈值的突触-阈值协同学习方法(STL-SNNs),在多种数据集上表现优异,具备鲁棒性和低能耗,并能通过联合决策框架进一步提升性能。
2023-04-03 cs.AI cs.NE q-bio.NC
STOP: Spatiotemporal Orthogonal Propagation for Weight-Threshold-Leakage Synergistic Training of Deep Spiking Neural Networks
Chongqing United Microelectronics Center Co. Ltd(重庆联合微电子中心有限责任公司);Institute of Semiconductors, Chinese Academy of Sciences(中国科学院半导体研究所)
针对深度脉冲神经网络(SNN)缺乏高效高精度学习算法的问题,提出时空正交传播(STOP)算法,协同学习权重、阈值和泄漏因子,降低内存与计算复杂度,在多个数据集上取得高精度,适用于边缘智能场景。
2024-11-27 cs.CV cs.NE
Memristors -- from In-memory computing, Deep Learning Acceleration, Spiking Neural Networks, to the Future of Neuromorphic and Bio-inspired Computing
机器学习,特别是以深度学习的形式,推动了人工智能最近的大部分基本发展。深度学习基于计算模型,这些模型在一定程度上是生物启发的,因为它们依赖于并行操作的连接的简单计算单元的网络。深度学习已成功应用于对象/模式识别、语音和自然语言处理、自动驾驶汽车、智能自诊断工具、自主机器人、知识渊博的个人助理和监控等领域。这些成功主要由三个因素支持:大量数据的可用性,计算能力的持续增长和算法创新。摩尔定律的即将消亡,以及随之而来的通过缩放可以实现的计算能力的预期适度改进,提出了所描述的进展是否会由于硬件限制而减慢或停止的问题。本文回顾了一种新型的超越CMOS硬件技术忆阻器的案例,它是实现高能效存内计算、深度学习加速器和脉冲神经网络的潜在解决方案。中心主题是对非冯诺依曼计算架构的依赖以及开发定制学习和推理算法的需求。为了证明生物学的经验教训可以为人工智能的进一步发展提供方向,我们简要讨论了一个基于储备池计算的例子。我们通过推测未来神经形态和大脑启发的计算系统的大局观来结束审查。
2020-04-30 cs.ET cs.NE
Large-Scale Neuromorphic Spiking Array Processors: A quest to mimic the brain
神经形态工程(NE)包括各种各样的方法来信息处理的灵感来自神经生物系统,这一特点区别于传统的计算系统的神经形态系统。大脑已经进化了数十亿年,通过使用高效,并行,低功耗的计算来解决困难的工程问题。NE的目标是设计能够进行类脑计算的系统。最近出现了许多大规模的神经形态项目。这一跨学科领域被麻省理工学院技术评论列为2014年十大技术突破之一,并被世界经济论坛列为2015年十大新兴技术之一。我们有两个目标:第一,科学目标是通过使用集成电路(IC)中实现的模型来理解生物神经系统的计算特性;第二,工程目标是利用生物系统的已知特性来设计和实现用于工程应用的有效设备。构建硬件神经模拟器对于模拟大规模神经模型来解释大脑中智能行为是如何产生的非常有用。神经形态仿真器的主要优点是它们是高能效的、并行的和分布式的,并且需要小的硅面积。因此,与传统CPU相比,这些神经形态仿真器在许多工程应用中是有益的,例如用于移植深度学习算法以用于各种任务。在这篇综述文章中,我们描述了一些最重要的神经形态尖峰模拟器,比较了它们使用的不同架构和方法,说明了它们的优点和缺点,并强调了每个可以提供给神经建模器的功能。
2018-05-23 cs.NE
Edge Intelligence with Spiking Neural Networks
College of Computer Science and Technology(计算机科学与技术学院);State Key Laboratory of Brain-machine Intelligence(脑机智能国家重点实验室);Zhejiang University(浙江大学);School of Software Technology(软件学院);School of Computer Science(计算机学院);Fudan University(复旦大学);Institute of Data Science(数据科学研究院);National University of Singapore(新加坡国立大学);First Affiliated Hospital(第一附属医院);Zhejiang University School of Medicine(浙江大学医学院);Distributed Systems Group(分布式系统组);Technische Universität Wien(维也纳技术大学);ICREA Barcelona(巴塞罗那ICREA);The University of Sydney(悉尼大学)
本文系统综述了基于脉冲神经网络的边缘智能(EdgeSNNs),涵盖神经元模型、学习算法、硬件平台、设备端推理、资源感知训练及隐私安全,并提出双轨基准测试策略以推动神经形态计算在边缘场景的实际部署。
2025-07-18 cs.AI cs.DC cs.ET
Multi-level, Forming Free, Bulk Switching Trilayer RRAM for Neuromorphic Computing at the Edge
针对细丝 RRAM 的精度损失、高能耗及 CMOS 兼容性挑战,本文提出基于三层金属氧化物堆叠的免成型体开关 RRAM 技术,结合开关电容电路与差分编码构建存内计算平台,实现了高精度矩阵向量乘法与脉冲神经网络自主导航任务。
2023-10-20 cond-mat.dis-nn cs.ET cs.NE
Efficient Hardware Acceleration of Sparsely Active Convolutional Spiking Neural Networks
针对卷积脉冲神经网络的高激活稀疏性导致传统PE阵列利用率低的问题,提出一种基于少量高利用率PE、运行时特征图压缩队列和内存交错机制的FPGA硬件加速架构,实现了显著加速、更低资源占用与能耗。
2022-03-23 cs.AR cs.NE
E-ReCON: An Energy- and Resource-Efficient Precision-Configurable Sparse nvCIM Macro for Conventional and Spiking Neural Edge Inference
Dept of Science and Technology (DST), Govt of India(印度科技部);MeitY/SMDP-C2S(科技部/SMDP-C2S)
本文提出了一种基于紧凑型3T1R ReRAM位单元的16 Kb能量和资源高效的数字计算在内存(DCIM)宏单元E-ReCON,用于传统和脉冲神经网络边缘推理,通过引入新型交错10T/28T加法器树,减少晶体管数量和功耗,同时在65 nm CMOS工艺下实现低延迟、高吞吐量和高能效,适用于多种神经网络模型。
2026-05-20 cs.AR cs.CV cs.NE