S3TC: Spiking Separated Spatial and Temporal Convolutions with Unsupervised STDP-based Learning for Action Recognition
Univ. Lille（里尔大学）；CNRS（法国国家科学研究中心）；Centrale Lille（里尔中央理工学院）
本文首次提出S3TC脉冲分离空间与时间卷积，结合无监督STDP学习，在降低视频分析参数量的同时提升动作识别性能，并在KTH、Weizmann和IXMAS数据集上优于脉冲3D卷积。
2023-09-22 cs.CV cs.NE
Multiplication-Free Parallelizable Spiking Neurons with Efficient Spatio-Temporal Dynamics
针对现有可并行脉冲神经元模型计算与内存成本高的问题，提出无乘法通道并行脉冲神经元，通过通道卷积、锯齿扩张和位移运算优化，在多数据集上性能优于SOTA且训练速度更快，为资源受限场景提供硬件友好方案。
2025-10-30 cs.NE
Compute-Optimal Scaling Laws for Spiking Language Models
Luma AI（卢马人工智能公司）；X School（X学院）
本研究通过Chinchilla式IsoFLOP缩放研究，明确了脉冲语言模型的计算最优前沿，量化了其与非脉冲基线的损失差距，为脉冲语言模型提供了计算最优方案。
2026-10-21 cs.CL cs.LG cs.NE
An Efficient Software-Hardware Design Framework for Spiking Neural Network Systems
脉冲神经网络（SNN）是模仿大脑自然行为的第三代神经网络（NN）。通过基于二进制输入/输出的处理，SNN提供更低的复杂度、更高的密度和更低的功耗。这项工作提出了一个有效的软件-硬件设计框架开发SNN系统的硬件。此外，本文还提出了一种基于分组交换通信方式的低成本神经突触核的设计方案。评估结果表明，大小为784：1200：1200：10的ANN到SNN的转换方法对MNIST的准确率为99%，而无监督的STDP在大小为784：400的情况下的准确率为89%。256个神经元和65 k个突触的设计也在ASIC 45 nm技术中实现，面积成本为0.205 $m m^2$。
2020-03-22 cs.NE
Energy-Efficient Implementation of Spiking Recurrent Cells on FPGA
本文提出一种基于FPGA的脉冲递归细胞（SRC）神经元加速器，通过数学简化去除昂贵算子并避免浮点运算，在保持丰富神经动力学的同时实现高能效，在MNIST数据集上达到96.31%准确率，并通过减少脉冲序列长度和量化权重进一步降低能耗。
2026-06-02 cs.NE
A Low-Cost Real-Time Spiking System for Obstacle Detection based on Ultrasonic Sensors and Rate Coding
Universidad de Sevilla（塞维利亚大学）；Universidad de Cádiz（加的斯大学）
本文提出一种基于超声波传感器、速率编码和脉冲神经网络的低成本实时障碍物检测系统，实验验证了输出发放率与障碍物距离的反比关系，并测定了可检测距离阈值，为基于脉冲滤波器的应用开发提供了底层机制研究。
2024-09-04 cs.NE cs.RO
SNN2ANN: A Fast and Memory-Efficient Training Framework for Spiking Neural Networks
Sun Yat-sen University（中山大学）
提出SNN2ANN框架，通过权重共享和脉冲映射单元在ANN分支上训练SNN，并设计自适应阈值调整算法，实现快速、内存高效的SNN训练，在多个基准数据集上达到与基于脉冲BP相当的精度。
2022-06-19 cs.CV cs.LG cs.NE
SpikingBERT: Distilling BERT to Train Spiking Language Models Using Implicit Differentiation
提出仿生脉冲语言模型SpikingBERT，利用隐式微分克服脉冲神经网络不可微问题，设计脉冲注意力机制，并通过BERT知识蒸馏训练，首次在GLUE基准上验证了脉冲语言模型架构的性能。
2024-02-18 cs.NE
Reliable Brain Tumor Segmentation Based on Spiking Neural Networks with Efficient Training
Department of Advanced Computing Sciences, Maastricht University, Maastricht, The Netherlands（先进计算科学系，马斯特里赫特大学，马斯特里赫特，荷兰）
本文提出基于高效训练的脉冲神经网络框架，用于可靠且节能的3D脑肿瘤分割，实验显示在准确性、不确定性校准和计算成本降低方面均表现优异。
2026-01-23 cs.CV cs.NE
EventF2S: Asynchronous and Sparse Spiking AER Framework using Neuromorphic-Friendly Algorithm
针对AER-SNN范式在异步处理和稀疏脉冲方面的不足，提出兼容神经形态硬件的EventF2S目标识别框架，通过集成数据编码器与First-To-Spike网络并结合去噪原理，在保持竞争准确率的同时显著降低计算成本。
2024-01-28 cs.LG cs.NE eess.SP
Complex Dynamic Neurons Improved Spiking Transformer Network for Efficient Automatic Speech Recognition
使用泄漏积分激发（LIF）神经元的脉冲神经网络（SNN）已被广泛用于自动语音识别（ASR）任务中。然而，与生物大脑相比，LIF神经元仍然相对简单。对更多类型的神经元进行不同尺度的神经元动力学研究是必要的。本文引入了四种神经元动力学模型，对脉冲Transformer产生的序列模式进行后处理，得到复杂的动态神经元改进的脉冲Transformer神经网络（DyTr-SNN）。我们发现DyTr-SNN可以很好地处理非玩具自动语音识别任务，表现出较低的音素出错率，较低的计算成本，和较高的鲁棒性。这些结果表明，SNN和神经动力学在神经元和网络尺度上的进一步合作可能会为未来带来很多，特别是在ASR任务上。
2023-02-02 cs.NE
LitE-SNN: Designing Lightweight and Efficient Spiking Neural Network through Spatial-Temporal Compressive Network Search and Joint Optimization
本文提出 LitE-SNN，通过 CompConv 空间压缩、压缩式时间步搜索及架构与压缩策略联合优化，在多个数据集上以更低资源获得更高精度。
2024-05-13 cs.NE
Phase State Space Models: Parallel, Surrogate-Free Training of Spiking Networks
Argonne National Laboratory（阿贡国家实验室）
该研究将状态空间模型适配到脉冲网络，对共振-发放神经网络提出新解释，实现了集成STFT、循环记忆和注意力特征的脉冲兼容网络，支持并行训练且保留生物真实特征。
2026-08-11 cs.NE
Efficient Spiking Neural Networks with Logarithmic Temporal Coding
脉冲神经网络（SNN）可以通过首先用传统的反向传播算法训练人工神经网络（ANN），然后将其转换成SNN来间接地训练。用于SNN的常规速率编码方法使用尖峰的数量来编码激活值的幅度，并且由于尖峰的数量大而可能在计算上效率低下。时间编码通常通过利用尖峰的定时来编码信息而更有效。在本文中，我们提出了对数时间编码（LTC），其中用于编码激活值的尖峰数量随激活值呈几何增长;以及伴随的指数和激发（EF）尖峰神经元模型，它只涉及有效的移位和加法运算。此外，我们改进了神经网络的训练过程，以补偿由于LTC的近似误差。实验结果表明，由此产生的SNN实现竞争力的性能，显着低于相关工作的计算成本。
2018-11-10 cs.NE
Memory-Efficient Reversible Spiking Neural Networks
State Key Laboratory of Industrial Control Technology, College of Control Science and Engineering, Zhejiang University（浙江大学控制科学与工程学院工业控制技术国家重点实验室）；Key Laboratory of Collaborative sensing and autonomous unmanned systems of Zhejiang Province（浙江省协同感知与自主无人系统重点实验室）
针对脉冲神经网络训练时内存开销大、难以训练深层模型的问题，提出可逆脉冲神经网络架构，通过可逆脉冲模块重计算中间变量，在精度相当的情况下大幅降低内存消耗，为训练大深度SNN铺路。
2023-12-13 cs.CV cs.NE
Reconstructing Spiking Neural Networks Using a Single Neuron with Autapses
Brain-Apparatus Communication Institute, University of Electronic Science and Technology of China（脑器通信研究院，电子科技大学）；School of Artificial Intelligence, Chongqing University of Education（人工智能学院，重庆教育学院）
本文提出时间延迟自突触SNN框架，通过单个漏电积分-放电神经元和原型学习策略，实现共振、多层感知机和卷积脉冲架构，减少神经元数量和状态内存，但增加时间延迟。
2026-03-25 cs.AI cs.NE
Frozen Backpropagation: Relaxing Weight Symmetry in Deep Spiking Neural Networks
Nokia Bell Labs（诺基亚贝尔实验室）；Univ. Lille, CNRS, Centrale Lille, UMR 9189 CRIStAL（里尔大学、国家科学研究中心、里尔中央理工大学、UMR 9189 CRIStAL）
本文提出冻结反向传播算法，通过减少权重传输来降低深度脉冲神经网络中权重对称性的要求，从而提升能效并提高准确性。
2026-05-08 cs.CV cs.NE
Workload-Balanced Pruning for Sparse Spiking Neural Networks
针对高权重稀疏SNNs的负载不均衡导致硬件利用率低的问题，提出u-Ticket方法在基于LTH的剪枝中调整权重连接，实现最高100%硬件利用率，显著降低延迟与能耗。
2024-03-22 cs.NE
Linear Leaky-Integrate-and-Fire Neuron Model Based Spiking Neural Networks and Its Mapping Relationship to Deep Neural Networks
IEEE Publication Technology Group（IEEE出版技术组）
脉冲神经网络（SNN）是一种基于脑的机器学习算法，具有生物相容性和无监督学习能力等优点。以前的工作已经表明，将人工神经网络（ANN）转换为SNN是实现SNN的实用且有效的方法。然而，缺乏训练非精度损失SNN的基本原理和理论基础。本文建立了线性泄漏-积分-激发模型（LIF）/SNN的生物学参数与ReLU-AN/深度神经网络（DNN）参数之间的精确数学映射。这种映射关系在一定条件下得到了解析证明，并通过模拟和实际数据实验得到了验证。它可以作为两类神经网络各自优点的潜在结合的理论基础。
2022-05-31 cs.AI cs.LG cs.NE
Spiking Neural Networks for SAR Interferometric Phase Unwrapping: A Theoretical Framework for Energy-Efficient Processing
ESADE Business School（埃萨德商学院）
提出首个将脉冲神经网络应用于SAR干涉相位解缠的理论框架，通过事件驱动计算节省30-100倍能源，开发了专用脉冲编码与网络架构，开辟了神经形态计算与SAR干涉测量交叉的新方向。
2025-06-25 cs.ET cs.LG cs.NE
Exploring Deep Spiking Neural Networks for Automated Driving Applications
Valeo（法雷奥）；Heilbronn University（海尔布隆大学）
神经网络已成为自动驾驶中各种计算机视觉任务的标准模型，包括语义分割，运动目标检测，深度估计，视觉里程计等。常用的神经网络的主要类型是卷积（CNN）和递归（RNN）。尽管嵌入式处理器发展迅速，但功耗和成本仍然是一个瓶颈。脉冲神经网络（SNN）正逐步发展成为具有高效率潜力的低功耗事件驱动硬件架构。在本文中，我们探讨了深度脉冲神经网络（SNN）在自动驾驶应用中的作用。我们概述了SNN的进展，并讨论了它如何能够很好地适合自动驾驶应用。
2019-01-11 cs.CV cs.LG cs.NE
Spike time displacement based error backpropagation in convolutional spiking neural networks
Amirkabir University of Technology（阿米尔卡比尔理工大学）；Shahid Beheshti University（沙希德·贝赫什提大学）；CNRS Université Toulouse 3（法国国家科学研究中心图卢兹第三大学）
最近，我们提出了STiDi-BP算法，它避免了向后递归梯度计算，用于训练多层脉冲神经网络（SNN）与基于单脉冲的时间编码。该算法采用线性近似来计算尖峰潜伏期对膜电位的导数，并使用具有分段线性突触后电位的尖峰神经元来降低计算成本和神经处理的复杂性。在本文中，我们扩展了STiDi-BP算法，将其应用于更深的卷积架构中。基于MNIST和Fashion-MNIST数据集的图像分类任务的评估结果分别为99.2%和92.8%，证实了该算法适用于深度SNN。我们考虑的另一个问题是减少内存存储和计算成本。为此，我们考虑具有两组权重的卷积SNN（CSNN）：在向后传递中更新的实值权重和在前馈过程中使用的符号，二进制权重。我们评估的二进制CSNN的两个数据集的MNIST和时尚MNIST，并获得可接受的性能与一个可以忽略不计的精度下降相对于实值的权重（约$0.6%$和$0.8%$下降，分别）。
2021-08-31 cs.AI cs.CV cs.NE
Neurogenesis Dynamics-inspired Spiking Neural Network Training Acceleration
本文提出 NDSNN 框架，通过非零权重递减的动态丢弃—生长策略从头训练稀疏 SNN，在保持准确率的同时显著降低训练成本。
2023-04-24 cs.NE
A Brain-Inspired Gating Mechanism Unlocks Robust Computation in Spiking Neural Networks
该研究针对传统脉冲神经网络因神经元模型简化导致鲁棒性不足的问题，提出动态门控神经元DGN，通过动态电导实现自适应噪声抑制，在抗噪任务和时间基准测试中表现更优，为鲁棒脉冲计算提供了理论与实证支持。
2025-09-03 cs.NE
Energy-Efficient Visual Search by Eye Movement and Low-Latency Spiking Neural Network
Microsoft Research Asia（微软亚洲研究院）
本研究首次构建基于脉冲神经网络的视觉搜索模型，结合人工视网膜、脉冲特征提取和群体编码的扫视决策，实现高能效搜索，并发现人类搜索策略在速度上非最优。
2023-10-10 cs.CV cs.NE q-bio.NC
Unleashing the Potential of Spiking Neural Networks for Sequential Modeling with Contextual Embedding
针对现有脉冲神经网络难以建模长期时间关系的问题，提出带上下文嵌入的CE-LIF脉冲神经元模型，通过调整放电阈值增强记忆，理论证明其可实现长期信用分配，前馈结构在序列建模任务上性能优于现有循环SNNs。
2023-08-29 cs.NE
Benchmarking Deep Spiking Neural Networks on Neuromorphic Hardware
随着越来越多的基于事件的神经形态硬件系统正在开发中的大学和工业，有一个领域的具体措施，以评估其性能的需求越来越大。在这项工作中，我们使用的方法转换预先训练的非尖峰到脉冲神经网络的性能损失和测量的能量每推理的神经形态硬件系统（BrainScaleS，Spikey，SpiNNaker）和CPU（NEST）和CPU/GPU（GeNN）的共同模拟框架。对于模拟硬件，我们进一步应用一种称为硬件在环训练的再训练技术来应对设备失配。对五个不同的网络进行了分析，其中包括三个通过神经架构搜索框架自动优化发现的网络。我们证明，转换损耗通常低于百分之一的数字实现，并适度较高的模拟系统的好处是低得多的能源每推理成本。
2020-10-26 cs.NE
SpikingSSMs: Learning Long Sequences with Sparse and Parallel Spiking State Space Models
Southern University of Science and Technology（南方科技大学）；Huawei Technologies Co., Ltd.（华为技术有限公司）；Peking University（北京大学）；City University of Hong Kong（香港城市大学）；Pengcheng Laboratory（鹏城实验室）
本研究提出SpikingSSMs，通过分层集成神经元动态与SSM模块实现稀疏突触计算，并设计轻量级替代动态网络解决并行训练冲突，在保持90%稀疏度的同时于长序列任务上取得SOTA性能，且以更小模型规模超越现有脉冲大语言模型。
2024-12-24 cs.CL cs.LG cs.NE
Brain-Inspired Efficient Pruning: Exploiting Criticality in Spiking Neural Networks
Institute of Computing Technology, Chinese Academy of Science（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Zhongguancun Laboratory（中关村实验室）；Sensetime Research（商汤科技研究院）
本文受神经科学临界脑假说启发，提出基于特征信息熵的神经元临界性度量及剪枝-再生方法，在降低高达95.26%剪枝成本的同时超越现有SOTA性能。
2024-11-21 cs.AI cs.CV cs.LG
Ensembles of Spiking Neural Networks
本文演示了如何构建脉冲神经网络的集成，产生最先进的结果，分别在MNIST，NMNIST和DVS手势数据集上实现98.71%，100.0%和99.09%的分类准确率。此外，这种性能是使用简化的个体模型实现的，其中集成包含的参数不到已发布参考模型的50%。我们提供全面的探索穗训练解释方法的效果，并推导出理论方法相结合的模型预测，这样的性能改进是保证扣球合奏。为此，我们将脉冲神经网络形式化为GLM预测器，确定其目标域的合适表示。此外，我们展示了我们的尖峰合奏的多样性可以使用歧义分解来衡量。这项工作展示了集成如何克服产生可以与传统深度神经网络竞争的单个SNN模型的挑战，并创建具有更少可训练参数和更小内存占用的系统，为低功耗边缘应用打开大门，例如在神经形态硬件上实现。
2021-09-06 cs.AI cs.NE
Adaptive Spiking with Plasticity for Energy Aware Neuromorphic Systems
University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
本文提出ASPEN，通过训练时对神经元阈值施加随机扰动并自适应调整神经元内在参数，在保持准确率的同时显著降低神经形态系统的脉冲数量和能耗，为资源受限的常开可穿戴设备提供轻量级动态能量控制方案。
2025-08-11 cs.AI cs.NE q-bio.NC
SiLIF: Structured State Space Model Dynamics and Parametrization for Spiking Neural Networks
Peter Grünberg Institute, Forschungszentrum Jülich（彼得·格林伯格研究所，于利希研究中心）；Groningen Cognitive Systems and Materials Center (CogniGron), University of Groningen（格罗宁根认知系统与材料中心（CogniGron），格罗宁根大学）；ETH Zürich（苏黎世联邦理工学院）；RWTH Aachen University（亚琛工业大学）
本文提出两种受状态空间模型启发的漏积分-放电脉冲神经元模型，通过可学习的时间步长和对数重参数化，以及复杂状态空间模型的初始化方案，实现了在事件基和原始音频语音识别任务上的新SOTA性能，并展示了优于状态空间模型的性能-效率权衡。
2026-04-20 cs.NE
Exploiting Heterogeneity in Timescales for Sparse Recurrent Spiking Neural Networks for Energy-Efficient Edge Computing
Georgia Institute of Technology（佐治亚理工学院）
该研究整合三项开创性工作，通过在神经元和突触动力学中引入异质性，结合新型剪枝方法提升异质循环脉冲神经网络的分类性能、减少脉冲活动，为高能效边缘神经计算提供新思路。
2024-07-08 cs.AI cs.NE
Accurate and Energy-Efficient Classification with Spiking Random Neural Network: Corrected and Expanded Version
Assiut University（艾斯尤特大学）；Polish Academy of Sciences（波兰科学院）；Imperial College London（帝国理工学院）
在过去的几年中，基于人工神经网络（ANN）的技术在与计算机视觉、音频识别和自然语言处理相关的大多数问题中占据了主导地位，从而导致全球所有领先技术公司的强烈工业采用。历史上推迟大规模采用ANN的主要障碍之一是与训练和测试（部署）它们相关的巨大计算和功耗成本。与此同时，类脑计算平台最近取得了显着的性能，以高吞吐量和非常低的功耗运行更逼真的脉冲神经网络，使其成为人工神经网络的自然替代品。在这里，我们建议使用随机神经网络（RNN），一个脉冲神经网络与理论和实践的吸引力属性，作为一个通用的分类器，可以匹配的分类能力的人工神经网络的一些任务，同时享受脉冲神经网络的所有功能。这在许多现实世界的分类数据集上得到了证明。
2019-06-01 cs.LG cs.NE stat.ML
BiSpikCLM: A Spiking Language Model integrating Softmax-Free Spiking Attention and Spike-Aware Alignment Distillation
School of Electronic and Computer Engineering, Shenzhen Graduate School, Peking University, Shenzhen, China（电子工程学院，深圳研究生院，北京大学，深圳，中国）；Peng Cheng Laboratory, Shenzhen, China（鹏城实验室，深圳，中国）；Harbin Institute of Technology, Shenzhen, China（哈尔滨工业大学，深圳，中国）
BiSpikCLM是首个完全二进制脉冲MatMul-free因果语言模型，通过无Softmax脉冲注意力和脉冲感知对齐蒸馏实现高效训练，显著降低计算成本。
2026-04-14 cs.AI cs.LG cs.NE
Revisiting Reset Mechanisms in Spiking Neural Networks for Sequential Modeling: Specialized Discretization for Binary Activated RNN
University of Electronic Science and Technology of China（电子科技大学）
本文从二值激活RNN视角重新审视SNN序列建模中的重置机制，系统分析其必要性，并提出固定不应期SNN架构以解决长程建模与并行训练挑战。
2025-05-25 cs.AI cs.NE
SoftSNN: Low-Cost Fault Tolerance for Spiking Neural Network Accelerators under Soft Errors
Technische Universität Wien (TU Wien)（维也纳工业大学（TU Wien））；New York University Abu Dhabi (NYUAD)（纽约大学阿布扎比分校（NYUAD））
专门的硬件加速器已被设计和采用，以最大限度地提高脉冲神经网络（SNN）的性能效率。然而，这种加速器易受瞬时故障（即，软错误），其由于高能粒子撞击而发生，并且表现为硬件层处的位翻转。这些错误可能会改变SNN加速器计算引擎中的权重值和神经元操作，从而导致不正确的输出和精度下降。然而，计算引擎中的软错误的影响和相应的缓解技术尚未对SNN进行彻底研究。一个潜在的解决方案是采用冗余执行（重新执行）来确保正确的输出，但它会导致巨大的延迟和能量开销。为此，我们提出了SoftSNN，一种新的方法来减轻SNN加速器的权重寄存器（突触）和神经元中的软错误，而无需重新执行，从而以低延迟和能量开销保持准确性。我们的SoftSNN方法采用了以下关键步骤：（1）分析软错误下的SNN特性，以识别错误的权重和神经元操作，这是识别错误的SNN行为所需的;（2）一个绑定和保护技术，利用这种分析，以提高SNN的容错通过绑定的权重值和保护神经元从错误的操作;以及（3）为神经硬件加速器设计轻量级硬件增强以有效地支持所提出的技术。实验结果表明，对于一个900个神经元的网络，即使故障率很高，我们的SoftSNN保持精度下降低于3%，同时减少延迟和能量分别高达3倍和2.3倍，相比，重新执行技术。
2022-03-12 cs.AR cs.LG cs.NE
Stochastic Spiking Attention: Accelerating Attention with Stochastic Computing in Spiking Networks
King’s College London（伦敦国王学院）
本文提出利用随机计算在脉冲Transformer中高效执行点积注意力，在CIFAR-10上达到83.53%准确率，并显著降低能耗、存储访问、延迟和功耗。
2024-02-14 cs.AI cs.AR cs.LG
Unsupervised spiking feature learning for event-based pedestrian crossing detection: approaching supervised accuracy without labelled training data
本文提出无监督脉冲特征学习方法，在DVS-PedX基准上以90.3%准确率接近监督性能，表明标签代价小且弱点源于读出协议。
2026-09-29 cs.AI cs.CV cs.NE
Neuromorphic Hardware In The Loop: Training a Deep Spiking Network on the BrainScaleS Wafer-Scale System
在模拟神经形态硬件上仿真脉冲神经网络比在传统计算机上仿真它们有几个优点，特别是在速度和能耗方面。然而，这通常是以减少对仿真网络的动态控制为代价的。在本文中，我们演示了如何迭代训练的硬件仿真网络可以补偿模拟基板引起的异常。我们首先将在软件中训练的深度神经网络转换为BrainScaleS晶圆级神经形态系统上的尖峰网络，从而与生物时域相比实现了10000的加速因子。该映射之后是在环训练，在每个训练步骤中，网络活动首先记录在硬件中，然后用于通过反向传播计算软件中的参数更新。一个重要的发现是，参数更新不必是精确的，而只需要近似地遵循正确的梯度，这简化了更新的计算。使用这种方法，经过几十次迭代，尖峰网络显示出接近理想的软件仿真原型的准确性。所提出的技术表明，模拟神经形态设备上模拟的深尖峰网络可以获得良好的计算性能，尽管模拟基板的固有变化。
2017-03-06 cs.NE
Spiking Neural Networks as a Controller for Emergent Swarm Agents
本文研究用进化算法训练脉冲神经网络，在仅具二进制传感的低成本群体智能体中自动发现局部交互规则，从而涌现出绕圈等集体行为。
2024-10-21 cs.MA cs.NE cs.SY
Spiking Deep Residual Network
Zhejiang University（浙江大学）
脉冲神经网络（SNN）由于其生物相容性而受到广泛关注。SNN理论上至少具有与传统人工神经网络（ANN）相同的计算能力。它们具有实现能源效率的潜力，同时保持与深度神经网络（DNN）相当的性能。然而，要训练一个很深的SNN仍然是一个很大的挑战。在本文中，我们提出了一种有效的方法来构建深度残差网络（ResNet）的尖峰版本。ResNet被认为是一种最先进的卷积神经网络（CNN）。我们采用将训练的ResNet转换为尖峰神经元网络的想法，称为尖峰ResNet（S-ResNet）。我们提出了一个捷径转换模型，以适当地缩放连续值激活，以匹配SNN中的放电率，以及一个补偿机制，以减少离散化引起的误差。实验结果表明，与最先进的SNN方法相比，所提出的Spiking ResNet在CIFAR-10，CIFAR-100和ImageNet 2012上实现了最佳性能。我们的工作是第一次构建深度超过40的SNN，其性能与大规模数据集上的ANN相当。
2020-06-03 cs.CV cs.LG cs.NE
Accurate and efficient time-domain classification with adaptive spiking recurrent neural networks
CWI（CWI研究所）；Stichting IMEC Netherlands, Holst Centre（荷兰IMEC基金会荷尔斯特中心）；Univ of Amsterdam（阿姆斯特丹大学）；Rijksuniversiteit Groningen（格罗宁根大学）
受生物神经元更详细建模的启发，脉冲神经网络（SNN）已经被研究为更生物学上合理的和潜在的更强大的神经计算模型，并且还具有提取生物神经元能量效率的目的;然而，与经典人工神经网络（ANN）相比，这种网络的性能仍然不足。在这里，我们展示了一种新的代理梯度与可调和自适应尖峰神经元的递归网络相结合，如何在时域中具有挑战性的基准上为SNN提供最先进的技术，如语音和手势识别。这也超过了标准经典循环神经网络（RNN）的性能，并接近最好的现代ANN。由于这些SNN表现出稀疏尖峰，我们表明，与具有可比性能的RNN相比，它们理论上的计算效率高出一到三个数量级。总之，这将SNN定位为AI硬件实现的有吸引力的解决方案。
2021-03-12 cs.LG cs.NE
Communication Trade-offs in Federated Learning of Spiking Neural Networks
Linköping University（林雪平大学）；Hitachi Energy（日立能源）；Uppsala University（乌普萨拉大学）
脉冲神经网络（SNN）是传统人工神经网络（ANN）的生物启发替代品。尽管初步结果令人鼓舞，但在分布式方案中训练SNN的权衡还没有得到很好的理解。在这里，我们考虑在联邦学习环境中的SNN，其中通过聚合来自客户端的多个本地模型来创建高质量的全局模型，而无需共享任何数据。我们研究了联邦学习，用于在客户端训练多个SNN，当两种机制降低上行链路通信成本时：i）随机掩蔽从客户端发送到服务器的模型更新; ii）客户端退出，其中一些客户端不将其更新发送到服务器。我们使用Spiking Heidelberg digits（SHD）数据集的子集评估了SNN的性能。结果表明，随机掩蔽和客户端丢弃概率之间的权衡是至关重要的，以获得令人满意的性能为固定数量的客户端。
2023-02-27 cs.LG cs.NE eess.SP
Large Language Model-Guided Evolutionary Discovery of Native Neural Architectures for Spiking Sequence Modeling
City University of Hong Kong（香港城市大学）
提出OpenArchEvo，利用大语言模型在开放程序空间中进化原生脉冲神经网络架构，通过三视图表示预测性能与新颖性，发现NeuroGate等架构，超越ANN基线并大幅降低能耗。
2026-10-01 cs.NE
Deep Spiking Neural Networks for Large Vocabulary Automatic Speech Recognition
National University of Singapore（新加坡国立大学）；City University of Hong Kong（香港城市大学）
人工神经网络（ANN）已成为大词汇量自动语音识别（ASR）声学建模的主流技术。传统的人工神经网络具有多层架构，需要大量的计算。脑启发的脉冲神经网络（SNN）紧密模仿生物神经网络，可以在低功耗的神经形态硬件上进行基于脉冲的计算。由于SNN具有前所未有的能量效率和快速的信息处理能力，我们探索了SNN在语音识别中的应用。在这项工作中，我们使用SNN的声学建模，并评估其性能的几个大词汇识别的情况下。实验结果表明，竞争力的ASR精度，他们的人工神经网络同行，同时需要显着降低计算成本和推理时间。因此，将深度SNN的算法能力与节能的神经形态硬件相集成，为在移动和嵌入式设备上本地运行的ASR应用提供了一个有吸引力的解决方案。
2019-11-19 cs.CL cs.NE
Spiker-LL: An Energy-Efficient FPGA Accelerator Enabling Adaptive Local Learning in Spiking Neural Networks
Control and Computer Engineering Department, Politecnico di Torino（都灵理工学院控制与计算机工程系）
本文提出Spiker-LL，一种能效高的FPGA加速器，通过扩展开源的Spiker+推理架构，实现了高效的STSF局部学习规则支持，从而在边缘设备上实现自适应局部学习。
2026-05-18 cs.AI cs.NE
Energy-Efficient High-Accuracy Spiking Neural Network Inference Using Time-Domain Neurons
由于在流行的冯·诺依曼架构上实现人工神经网络的局限性，最近的研究提出了基于脉冲神经网络（SNN）的神经形态系统，以降低功耗和计算成本。然而，基于电流镜或运算放大器的传统模拟电压域积分激发（I&F）神经元电路造成了诸如非线性或高功耗之类的严重问题，从而降低了SNN的推理精度或能量效率。为了同时实现高能量效率和高精度，本文提出了一种低功耗高线性时域I&F神经元电路。在28 nm CMOS工艺中设计和仿真，所提出的神经元导致超过4.3倍的低出错率的MNIST推理比传统的电流镜为基础的神经元。此外，所提出的神经元电路的功耗被模拟为每个神经元0.230uW，这是数量级低于现有的电压域神经元。
2022-04-10 cs.NE eess.SP
SATA: Sparsity-Aware Training Accelerator for Spiking Neural Networks
脉冲神经网络（SNN）由于其固有的高稀疏性激活而作为传统人工神经网络（ANN）的潜在能量有效替代方案获得了巨大的关注。最近，SNN与反向传播通过时间（BPTT）已经取得了更高的准确性结果的图像识别任务比其他SNN训练算法。尽管从算法的角度来看是成功的，但由于缺乏用于该SNN训练算法的硬件评估平台，先前的工作忽略了BPTT的硬件能量开销的评估。此外，尽管SNN长期以来一直被视为ANN的节能对应物，但SNN和ANN的训练成本之间的定量比较却缺失。为了解决上述问题，在这项工作中，我们介绍了SATA（稀疏感知训练加速器），一个基于BPTT的SNN训练加速器。所提出的SATA提供了一种简单且可重新配置的基于收缩的加速器架构，这使得基于BPTT的SNN训练算法的训练能量分析变得容易。通过利用稀疏性，SATA与不使用稀疏性的SATA相比，其计算能量效率增加了$5.58 \times$。基于SATA，我们给出了SNN训练的能量效率的定量分析，并比较了SNN和ANN的训练成本。结果表明，在Eyeriss类收缩的基础上，SNN消耗$1.27\times$更多的总能量与稀疏相比，人工神经网络。我们发现，如此高的训练能量成本来自时间重复的卷积运算和反向传播过程中的数据移动。此外，为了推动未来的SNN训练算法设计，我们提供了几个观察不同的SNN特定的训练参数的能量效率，并提出了一个SNN训练的能量估计框架。…
2022-12-19 cs.AR cs.NE
STCSNN: High energy efficiency spike-train level spiking neural networks with spatio-temporal conversion
本文提出STCSNN，通过时空转换块和等效梯度学习规则，在保持SNN低功耗的同时实现高精度，并在多个静态与神经形态数据集上以更少时间步长取得领先性能。
2024-09-05 cs.NE
Spiking Brain Compression: Post-Training Second-order Compression for Spiking Neural Networks
School of Engineering Mathematics and Technology, University of Bristol, England（工程数学与技术学院，布里斯托大学，英格兰）
本文提出Spiking Brain Compression（SBC）框架，通过一次性后训练压缩提升脉冲神经网络的效率，实现比传统ANN基线更高的准确率。
2026-01-28 cs.LG cs.NE
Converting Artificial Neural Networks to Spiking Neural Networks via Parameter Calibration
University of Electronic Science and Technology of China（电子科技大学）；Yale University（耶鲁大学）；Harvard University（哈佛大学）
脉冲神经网络（SpikingNeuralNetwork，SNN）起源于生物学中的神经行为，被认为是下一代神经网络。传统上，SNN可以通过从预先训练的人工神经网络（ANN）转换来获得，通过用尖峰神经元替换非线性激活而不改变参数。在这项工作中，我们认为，简单地复制和粘贴ANN的权重到SNN不可避免地导致激活失配，特别是对于用批量归一化（BN）层训练的ANN。为了解决激活失配问题，我们首先通过将局部转换误差分解为限幅误差和地板误差来提供理论分析，然后使用二阶分析定量测量该误差如何在整个层中传播。受理论结果的启发，我们提出了一套逐层参数校准算法，该算法调整参数以最小化激活失配。在现代架构和大规模任务（包括ImageNet分类和MS COCO检测）上对所提出的算法进行了广泛的实验。我们证明，我们的方法可以处理SNN转换与批量归一化层，并有效地保持高精度，即使在32个时间步。例如，在转换VGG-16和BN层时，我们的校准算法可以将精度提高高达65%。
2022-05-06 cs.LG cs.NE
BASC : Behavior-Aligned Quantization and Pruning for Low-Bit Spiking Neural Networks
Hangzhou International Innovation Institute, Beihang University（北京航空航天大学杭州创新研究院）；School of Mathematical Sciences, Peking University（北京大学数学科学学院）；Beihang University（北京航空航天大学）
针对脉冲神经网络压缩的准则-行为不匹配问题，提出含TSC、BIC模块的BASC框架，可实现低位SNN性能匹配或优于高位基线，同时降低存储与计算开销。
2026-08-21 cs.NE
An Introductory Review of Spiking Neural Network and Artificial Neural Network: From Biological Intelligence to Artificial Intelligence
Tsinghua University（清华大学）；McGill University（麦吉尔大学）
本文综述了脉冲神经网络与人工神经网络，从生物神经元基础、模型、回路连接到学习机制与架构，旨在推动类脑智能和通用人工智能发展。
2022-04-09 cs.AI cs.NE
