Latency Coding for Efficient and Low-Latency Deep Spiking Neural Networks
School of Software and Microelectronics, Peking University（北京大学软件与微电子学院）；School of Computer Science, Peking University（北京大学计算机学院）；Institute for Artificial Intelligence and the School of Computer Science, Peking University（北京大学人工智能研究院和计算机学院）
本文提出一种低延迟编码框架，通过BPTT算法实现深度TTFS编码SNNs的高效训练，解决传统方法中训练效率低、延迟高和性能有限的问题，实验显示其在准确率、低延迟和能效方面优于现有方法。
2026-07-16 cs.NE
Towards Lossless ANN-SNN Conversion under Ultra-Low Latency with Dual-Phase Optimization
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；Zhejiang Lab（之江实验室）；School of Integrated Circuits, Peking University（北京大学集成电路学院）；College of Computer Science, Zhejiang University of Technology（浙江工业大学计算机学院）；State Key Laboratory of Brain-Machine Intelligence, Zhejiang University（浙江大学脑机智能国家重点实验室）
本文提出一种双阶段优化的ANN-SNN转换方法，通过分解并分别最小化量化、裁剪和残余膜电位表示误差，在超低延迟下实现无损转换，在图像分类和目标检测任务上达到最先进性能。
2024-03-19 cs.LG cs.NE
Noise Adaptor: Enhancing Low-Latency Spiking Neural Networks through Noise-Injected Low-Bit ANN Conversion
该研究提出噪声适配器方法，通过转换注入噪声的低比特ANN构建低延迟SNN，在量化训练时注入噪声以弥合ANN与SNN动态差异，无需运行时噪声校正，支持更深架构转换，在CIFAR-10和ImageNet上性能优异。
2024-11-26 cs.NE
Low Latency Conversion of Artificial Neural Network Models to Rate-encoded Spiking Neural Networks
National University of Singapore（新加坡国立大学）；Agency for Science, Technology and Research（新加坡科技研究局）；Institute of High Performance Computing（高性能计算研究所）
脉冲神经网络（SNN）非常适合资源受限的应用，因为它们不需要昂贵的乘法器。在典型的速率编码SNN中，在全局固定的时间窗口内的一系列二进制尖峰被用于激发神经元。该时间窗口中的最大尖峰数量也是网络执行单个推理的延迟，并决定了模型的整体能效。本文的目的是减少这一点，同时保持准确性时，将人工神经网络转换为等效的SNN。国家的最先进的转换方案产生SNN的精度与人工神经网络相比，只有大的窗口大小。在本文中，我们首先了解从预先存在的ANN模型转换到标准速率编码的SNN模型时的信息损失。根据这些见解，我们提出了一套新技术，这些技术共同减轻了转换中丢失的信息，并实现了最先进的SNN精度以及非常低的延迟。我们的方法在MNIST数据集上实现了98.73%（1个时间步长）的Top-1 SNN准确度，在CIFAR-100数据集上实现了76.38%（8个时间步长），在CIFAR-10数据集上实现了93.71%（8个时间步长）。在ImageNet上，SNN的准确率为75.35%/79.16%，时间步长为100/200。
2022-10-27 cs.LG cs.NE
Spikeformer: A Novel Architecture for Training High-Performance Low-Latency Spiking Neural Network
Beijing Institute of Technology（北京理工大学）
脉冲神经网络（Spiking neural networks，SNNs）在过去的几年里在性能和效率上都取得了很大的进步，但其独特的工作模式使得训练高性能、低延迟的SNNs变得困难，因此SNNs的发展仍然落后于传统的人工神经网络（artificial neural networks，ANN）。这些工作主要基于同一种网络结构（即CNN），并且它们的性能比它们的人工神经网络同行差，这限制了SNN的应用。为此，我们提出了一种新的基于变换器的SNN，称为“Spikeformer”，其在静态数据集和神经形态数据集上都优于其ANN对应物，并且可以是用于训练高性能SNN的CNN的替代体系结构。首先，为了处理“数据饥饿”问题和香草模型中表现出的不稳定训练周期，设计了卷积标记器（Convolutional Tokenizer，CT）模块，使原始模型在DVS-Gesture上的准确率提高了16%以上，同时为了更好地融合Transformer内部的注意力机制和SNN固有的时空信息，我们采用时空注意力（STA）代替空间或时间注意力。使用我们提出的方法，我们在DVS-CIFAR 10，DVS-Gesture，和ImageNet数据集，具有最少的模拟时间步长（即低延迟）。值得注意的是，我们的Spikeformer在ImageNet上的表现远远优于其他SNN（即超过5%），甚至在DVS-Gesture和Image…
2022-11-19 cs.AI cs.NE
SpikingGamma: Surrogate-Gradient Free and Temporally Precise Online Training of Spiking Neural Networks with Smoothed Delays
CWI（荷兰国家数学与计算机科学研究中心）；University of Lübeck（吕贝克大学）
SpikingGamma通过内部递归记忆结构和sigma-delta spike编码，实现无替代梯度的在线训练，支持细时间模式学习和高效硬件映射。
2026-02-02 cs.LG cs.NE
Time to Spike? Understanding the Representational Power of Spiking Neural Networks in Discrete Time
Department of Mathematics, Ludwig-Maximilians-Universität München, Germany（慕尼黑大学数学系）；Munich Center for Machine Learning (MCML), Munich, Germany（慕尼黑机器学习中心）；Institute of Robotics and Mechatronics, DLR-German Aerospace Center, Germany（德国航空航天中心机器人与机电研究所）；Department of Physics and Technology, University of Tromsø, Tromsø, Norway（特罗姆瑟大学物理与技术系）
该研究针对离散时间LIF-SNNs理论基础不足的问题，证明其可实现多面体区域上的分段常数函数，量化了逼近连续函数的网络规模，分析了延迟与深度对输入空间划分的影响，并通过数值实验验证了理论结论。
2025-06-13 cs.LG cs.NE
Optimization of Low-Latency Spiking Neural Networks Utilizing Historical Dynamics of Refractory Periods
Institute of Microelectronics of the Chinese Academy of Sciences（中国科学院微电子研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Nanjing Institute of Intelligent Technology（南京智能技术研究所）
本文提出历史动态不应期（HDRP）模型，通过膜电位导数动态调整不应期并引入阈值相关不应期核，显著减少低延迟SNN的冗余脉冲，在静态和神经形态数据集上达到SOTA准确率，并提升抗噪能力。
2025-06-30 cs.AI cs.NE
Exploring Tradeoffs in Spiking Neural Networks
University of Kent（肯特大学）
本文研究了脉冲神经网络中Time-To-First-Spike约束下的性能、能耗、速度与稳定性权衡，提出放宽Fast & Deep约束以允许多脉冲，在保持相似稀疏性和延迟的同时提升了性能、收敛速度和鲁棒性。
2023-05-18 cs.LG cs.NE
Revisiting Batch Normalization for Training Low-latency Deep Spiking Neural Networks from Scratch
Yale University（耶鲁大学）
脉冲神经网络（SNN）最近已经成为深度学习的替代方案，这是由于稀疏、异步和二进制事件（或脉冲）驱动的处理，可以在神经形态硬件上产生巨大的能效效益。然而，从头开始训练高精度和低延迟的SNN受到尖峰神经元的不可微性质的影响。为了解决SNN中的这个训练问题，我们重新审视了批量归一化，并提出了一种时间批量归一化通过时间（BNTT）技术。到目前为止，大多数先前的SNN工作都忽略了批量归一化，认为它对训练时间SNN无效。与以前的工作不同，我们提出的BNTT沿着时间轴的BNTT层的参数，以捕捉尖峰的时间动态。BNTT中随时间演变的可学习参数允许神经元通过不同的时间步长控制其尖峰速率，从而实现从头开始的低延迟和低能量训练。我们在CIFAR-10、CIFAR-100、Tiny-ImageNet和事件驱动的DVS-CIFAR 10数据集上进行了实验。BNTT允许我们从头开始训练深度SNN架构，这是第一次，在复杂的数据集上，只有25-30个时间步长。我们还提出了一个提前退出算法，使用BNTT中的参数分布，以减少在推理的延迟，进一步提高能源效率。
2021-11-10 cs.AI cs.CV cs.NE
EEGSN: Towards Efficient Low-latency Decoding of EEG with Graph Spiking Neural Networks
本文提出图脉冲神经网络EEGSN，通过学习多通道EEG传感器间的动态关系，在保持运动执行分类准确率的同时，将推理计算复杂度较现有SNN降低20倍，适用于低延迟低功耗实时应用。
2023-04-18 cs.AI cs.HC cs.LG
RMP-SNN: Residual Membrane Potential Neuron for Enabling Deeper High-Accuracy and Low-Latency Spiking Neural Network
Purdue University（普渡大学）
脉冲神经网络（SNN）作为第三代人工神经网络，能够实现低功耗的事件驱动数据分析，近年来引起了广泛的研究兴趣。图像识别任务的最佳性能SNN是通过将训练的模拟神经网络（ANN）（由整流线性单元（ReLU）组成）转换为由具有“适当”激发阈值的积分和激发神经元组成的SNN来获得的。与原始ANN提供的准确度相比，转换后的SNN通常会导致准确度损失，并且需要相当数量的推理时间步长来实现最佳准确度。我们发现，转换后的SNN的性能下降源于使用“硬复位”尖峰神经元，被驱动到固定的复位电位，一旦其膜电位超过点火阈值，导致信息丢失在SNN推理。我们提出了ANN-SNN转换使用“软复位”尖峰神经元模型，称为残余膜电位（RMP）尖峰神经元，它保留了“残余”膜电位高于阈值在点火时刻。我们使用RMP神经元在具有挑战性的数据集上证明了VGG-16，ResNet-20和ResNet-34 SNN的近无损ANN-SNN转换，包括CIFAR-10（93.63% top-1），CIFAR-100（70.93% top-1）和ImageNet（73.09% top-1准确度）。我们的研究结果还表明，RMP-SNN超越了转换后的SNN提供的最佳推理准确性，其中“硬复位”尖峰神经元在网络架构和数据集上使用的推理时间步长减少了2-8倍。
2020-04-01 cs.CV cs.LG cs.NE
Boosting Throughput and Efficiency of Hardware Spiking Neural Accelerators using Time Compression Supporting Multiple Spike Codes
University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校）；Texas A&M University（得克萨斯农工大学）
脉冲神经网络（SNN）是第三代神经网络，可以探索速率和时间编码，以实现能量高效的事件驱动计算。然而，现有SNN设计的决策精度取决于在长时间内处理大量尖峰。然而，SNN硬件加速器的切换功率与所处理的尖峰的数量成比例，而尖峰序列的长度限制了吞吐量和静态功率效率。本文提出了第一个研究开发时间压缩显着提高吞吐量和减少数字硬件SNN加速器的能量消耗，同时适用于多个尖峰码。所提出的压缩架构包括低成本的输入尖峰压缩单元，新颖的输入和输出加权尖峰神经元，和可重构的时间常数缩放，以支持大而灵活的时间压缩比。我们的压缩架构可以透明地应用于任何给定的预先设计的SNN采用速率或时间代码，同时引起神经模型，学习算法和硬件设计的最小修改。使用尖峰语音和图像识别数据集，我们证明了支持高达16倍的大时间压缩比的可行性，在吞吐量，能耗，硬件面积，运行时间，能量和分类精度之间的权衡，分别基于Xilinx Zynq-7000 FPGA上的不同尖峰代码，提供高达15.93倍，13.88倍和86.21倍的改进。这些结果是实现的，而招致很少的额外硬件开销。
2019-09-10 cs.LG cs.NE
T2FSNN: Deep Spiking Neural Networks with Time-to-first-spike Coding
Seoul National University（首尔国立大学）
脉冲神经网络（SNN）由于其能量高效的特性而受到了广泛的关注，然而缺乏可扩展的训练算法限制了其在实际机器学习问题中的应用。深度神经网络到SNN的转换方法已经被广泛研究，以拓宽SNN的适用性。然而，大多数以前的研究，并没有充分利用SNN的时空方面，这导致效率低下的尖峰和推理延迟的数量。在本文中，我们提出了T2 FSNN，它引入了时间到第一个尖峰编码的概念到深度SNN使用基于内核的动态阈值和树突，以克服上述缺点。此外，我们提出了基于梯度的优化和早期点火方法，以进一步提高T2 FSNN的效率。根据我们的研究结果，所提出的方法可以减少推理延迟和尖峰的数量到22%和小于1%，相比，突发编码，这是最先进的CIFAR-100的结果。
2020-03-26 cs.LG cs.NE stat.ML
Adversarial Defense via Neural Oscillation inspired Gradient Masking
University of Canterbury（坎特伯雷大学）
脉冲神经网络（SNN）由于其低功耗、低延迟和生物相容性而受到广泛关注。随着它们被广泛部署在用于低功耗脑启发计算的神经形态设备中，安全问题变得越来越重要。然而，与深度神经网络（DNN）相比，SNN目前缺乏专门设计的针对对抗攻击的防御方法。受神经膜电位振荡的启发，我们提出了一种新的神经模型，它结合了生物启发的振荡机制，以提高SNN的安全性。我们的实验表明，神经振荡神经元的SNN有更好的抵抗对抗攻击比普通的SNN与LIF神经元在各种架构和数据集。此外，我们提出了一种防御方法，通过替换振荡的形式来改变模型的梯度，这隐藏了原始的训练梯度，并混淆了攻击者使用“假”神经元的梯度来生成无效的对抗样本。我们的实验表明，所提出的防御方法可以有效地抵抗单步和迭代攻击，具有可比的防御效果和更少的计算成本比对抗性的DNN训练方法。据我们所知，这是第一个通过在SNN上掩蔽代理梯度来建立对抗性防御的工作。
2022-11-04 cs.LG cs.NE
S$^3$NN: Time Step Reduction of Spiking Surrogate Gradients for Training Energy Efficient Single-Step Spiking Neural Networks
AISIN SOFTWARE（爱信软件）；AISIN（爱信）
随着神经网络规模的增加，需要使它们能够以低计算成本和能量效率运行的技术。从这样的需求出发，已经提出了各种有效的神经网络范例，诸如脉冲神经网络（SNN）或二进制神经网络（BNN）。然而，它们具有棘手的缺点，例如降低的推理准确性和延迟。为了解决这些问题，我们提出了一个单步的【形】脉冲神经网络（S $^3$ NN），它是一个能量有效的神经网络，具有低计算成本和高精度。提出的S $^3$ NN通过尖峰信号作为SNN处理隐藏层之间的信息。然而，它没有时间维度，因此在BNN的训练和推理阶段没有延迟。因此，所提出的S $^3$ NN具有比需要时间序列处理的SNN更低的计算成本。然而，S $^3$ NN不能采用朴素的反向传播算法，由于不可微性的尖峰。我们推导出一个合适的神经元模型，通过减少代理梯度多时间步长SNN到一个单一的时间步长。我们的实验表明，所获得的替代梯度允许S $^3$ NN进行适当的训练。我们还表明，所提出的S $^3$ NN可以实现与全精度网络相当的精度，同时具有高能效。
2023-02-03 cs.LG cs.NE
Training Energy-Efficient Deep Spiking Neural Networks with Single-Spike Hybrid Input Encoding
脉冲神经网络（SNN）已成为传统深度学习框架的一个有吸引力的替代方案，因为它们在事件驱动的神经形态硬件中提供了更高的计算效率。然而，最先进的（SOTA）SNN遭受高推理延迟，这是由低效的输入编码和训练技术造成的。最广泛使用的输入编码方案，例如基于泊松的速率编码，不利用SNN的时间学习能力。本文提出了一种低延迟节能SNN的训练框架，该框架在输入层使用混合编码方案，其中图像的模拟像素值在第一时间步期间直接应用，并且在后续时间步期间使用尖峰时间编码的新变体。特别是，每个隐藏层中的神经元被限制为每个图像最多激发一次，这增加了激活稀疏性。为了训练这些混合编码的SNN，我们提出了一种基于梯度下降的尖峰定时相关反向传播（STDB）机制的变体，该机制使用基于输出神经元的尖峰时间和膜电位的新型交叉熵损失函数。由此产生的SNN具有降低的延迟和高激活稀疏性，从而显著提高了计算效率。特别是，我们评估了我们提出的训练计划的图像分类任务，从CIFAR-10和CIFAR-100数据集上的几个VGG架构。在CIFAR-100数据集上，我们以$5$时间步长实现了$66.46$ \%的前1精度，其中${\sim}125\times$的计算能量比等效的标准ANN少。此外，与其他最先进的速率或时间编码的SNN模型相比，我们提出的SNN执行$5$ - $300\times$更快的推理。
2021-07-26 cs.NE
Optimized Potential Initialization for Low-latency Spiking Neural Networks
Peking University（北京大学）
脉冲神经网络（SNN）由于具有低功耗、生物相容性和对抗鲁棒性等特点而受到广泛关注。训练深度SNN的最有效方法是通过ANN到SNN的转换，这在深度网络结构和大规模数据集上产生了最佳性能。然而，在准确性和延迟之间存在权衡。为了达到原始ANN的高精度，需要很长的模拟时间来匹配尖峰神经元的放电率与模拟神经元的激活值，这阻碍了SNN的实际应用。在本文中，我们的目标是以极低的延迟（少于32个时间步）实现高性能的转换SNN。我们首先从理论上分析ANN到SNN的转换，并表明缩放阈值确实起到了与权重归一化类似的作用。我们没有以模型容量为代价引入促进ANN到SNN转换的约束条件，而是通过优化初始膜电位来减少每层中的转换损失。此外，我们证明了膜电位的最佳初始化可以实现预期的无误差ANN到SNN转换。我们在CIFAR-10，CIFAR-100和ImageNet数据集上评估了我们的算法，并使用更少的时间步长实现了最先进的准确性。例如，我们在CIFAR-10上以16个时间步长达到了93.38%的top-1准确度。此外，我们的方法可以应用到其他ANN-SNN转换方法，并显着提高性能时，时间步长很小。
2022-02-03 cs.CV cs.LG cs.NE
Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation
The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
脉冲神经网络（SNN）是一种在神经形态硬件上实现的有前途的节能AI模型。然而，由于SNN的不可微性，有效地训练SNN是一个挑战。大多数现有的方法或者遭受高等待时间（即，长的模拟时间步长），或者不能实现与人工神经网络（ANN）一样高的性能。在本文中，我们提出的差异尖峰表示（DSR）的方法，它可以实现高性能，是有竞争力的人工神经网络，但具有低延迟。首先，我们使用（加权）放电率编码将尖峰序列编码为尖峰表示。基于锋电位表示，我们系统地导出了常见神经模型的锋电位动力学可以表示为某种次可微映射。基于这种观点，我们提出的DSR方法通过映射的梯度来训练SNN，避免了SNN训练中常见的不可微性问题。然后，我们分析了误差时表示的具体映射与SNN的前向计算。为了减少这种误差，我们提出了训练的尖峰阈值在每一层，并引入一个新的超参数的神经模型。通过这些组件，DSR方法可以在静态和神经形态数据集上实现最先进的SNN性能，包括CIFAR-10，CIFAR-100，ImageNet和DVS-CIFAR 10。
2023-03-30 cs.LG cs.NE
Training a General Spiking Neural Network with Improved Efficiency and Minimum Latency
Shandong University（山东大学）；Keio University（庆应义塾大学）；Osaka University（大阪大学）；Nara Institute of Science and Technology（奈良先端科学技术大学院大学）
针对SNN训练需大量时间步导致的能效瓶颈，提出单时间步通用训练框架，通过多感受野特征、循环信息融合与投影优化，在CNN/RNN上实现最低延迟、高精度和显著节能。
2024-01-05 cs.LG cs.NE
Agreeing to Stop: Reliable Latency-Adaptive Decision Making via Ensembles of Spiking Neural Networks
针对脉冲神经网络自适应延迟决策的可靠性问题，提出基于集成模型的不确定性量化增强方法，通过多模型共识判断停止时机与不同信息池化策略，在保证可靠性的同时显著降低平均延迟。
2023-12-16 cs.NE
A Low Latency Adaptive Coding Spiking Framework for Deep Reinforcement Learning
College of Computer Science and Technology, Zhejiang University（浙江大学计算机科学与技术学院）；College of Computer Science, Zhejiang University of Technology（浙江工业大学计算机学院）；Zhejiang Lab（之江实验室）
针对脉冲强化学习高延迟和通用性差的问题，提出使用可学习矩阵乘法编解码脉冲并结合直接训练方法的低延迟自适应编码框架，在多种环境中实现了超低延迟与高能效的最优性能。
2024-04-24 cs.AI cs.LG cs.NE
Adaptive Sparse Structure Development with Pruning and Regeneration for Spiking Neural Networks
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Center for Excellence in Brain Science and Intelligence Technology, Chinese Academy of Sciences（中国科学院脑科学与智能技术卓越创新中心）
脉冲神经网络（SNN）在生物学上更合理，计算效率更高。因此，SNN具有天然的优势，能够汲取大脑发育的稀疏结构可塑性，以缓解深层神经网络因结构复杂、固定而带来的能量问题。然而，以往的SNNs压缩工作缺乏来自大脑发育可塑性机制的深入启发。提出了一种新的SNN自适应结构发育方法（SD-SNN），引入了基于树突棘可塑性的突触约束、神经元修剪和突触再生。我们发现，突触约束和神经元修剪可以检测和去除SNN中的大量冗余，再加上突触再生可以有效地防止和修复过度修剪。此外，受神经营养假说的启发，在边学习边修剪的过程中，神经元修剪速率和突触再生速率自适应调整，最终导致SNN的结构稳定性。在空间（MNIST，CIFAR-10）和时间神经形态（N-MNIST，DVS-Gesture）数据集上的实验结果表明，我们的方法可以灵活地学习各种任务的适当压缩率，并有效地实现卓越的性能，同时大大降低了网络能耗。具体而言，对于空间MNIST数据集，我们的SD-SNN在修剪率49.83%时达到99.51%的准确率，与未压缩的基线相比，准确率提高了0.05%。对于神经形态的DVS手势数据集，当压缩率达到55.50%时，该方法的准确率达到98.20%，提高了1.09%.
2023-02-03 cs.AI cs.NE
Ultra-low Latency Spiking Neural Networks with Spatio-Temporal Compression and Synaptic Convolutional Block
Xidian University（西安电子科技大学）；Guangzhou Institute of Technology, Xidian University（西安电子科技大学广州研究院）
脉冲神经网络（Spiking neural networks，SNNs）作为一种脑启发模型，具有时空信息处理能力、低功耗和高生物相容性等特点。有效的时空特征使其适用于事件流分类。然而，神经形态数据集，如N-MNIST，CIFAR 10-DVS，DVS 128-gesture，需要将单个事件聚合到具有新的更高时间分辨率的帧中以用于事件流分类，这导致高训练和推理延迟。在这项工作中，我们提出了一种时空压缩的方法来聚合单个事件到几个时间步长的突触电流，以减少训练和推理延迟。为了在高压缩比下保持SNN的准确性，我们还提出了一种突触卷积块来平衡相邻时间步长之间的剧烈变化。并引入了具有可学习膜时间常数的多阈值漏积分触发（Leaky Integrate-and-Fire，LIF）算法，以提高其信息处理能力。我们评估所提出的方法的神经形态N-MNIST，CIFAR 10-DVS，DVS 128手势数据集的事件流分类任务。实验结果表明，我们提出的方法优于国家的最先进的精度几乎所有的数据集，使用更少的时间步长。
2022-03-18 cs.CV cs.LG cs.NE
Spiking Neural Networks: The Future of Brain-Inspired Computing
Bukidnon State University（布基德农州立大学）
本研究全面分析了脉冲神经网络的设计模型、训练算法与性能指标，发现不同训练策略在准确率、能耗和延迟上各有优势，证明其在能耗受限和延迟敏感应用中的巨大潜力。
2025-10-31 cs.AI cs.NE
Ultra-low Latency Adaptive Local Binary Spiking Neural Network with Accuracy Loss Estimator
脉冲神经网络（SNN）是一种具有更强时空信息处理能力和计算能量效率的脑启发模型。然而，随着神经网络深度的不断增加，神经网络权值引起的记忆问题逐渐引起人们的关注。受人工神经网络（ANN）量化技术的启发，引入二值化SNN（BSNN）来解决记忆问题。由于缺乏合适的学习算法，BSNN通常通过ANN到SNN的转换来获得，其精度将受到训练的ANN的限制。本文提出了一种具有精度损失估计器的超低延迟自适应局部二进制脉冲神经网络（ALBSNN），通过评估网络学习过程中二进制化权值引起的误差，动态选择待二进制化的网络层，以保证网络的精度。实验结果表明，该方法在不损失网络精度的情况下，可以减少20%以上的存储空间。同时，为了加快网络的训练速度，引入了全局平均池化（GAP）层，通过卷积和池化相结合的方式来代替全连接层，使得SNN可以使用较少的时间步长来获得更好的识别精度。在仅使用一个时间步长的极端情况下，我们仍然可以在三个不同的数据集FashionMNIST、CIFAR-10和CIFAR-100上分别实现92.92%、91.63%和63.54%的测试准确度。
2022-07-31 cs.NE
Towards Efficient Deployment of Hybrid SNNs on Neuromorphic and Edge AI Hardware
University of South Carolina（南卡罗来纳大学）
本研究构建SNN与ANN结合的混合模型，提出跨域累加器电路，将其分别部署在Loihi与Jetson Nano异构硬件上，验证其在多性能指标上优于两类基线模型。
2024-07-11 cs.AI cs.AR cs.CV
Mapping of Local and Global Synapses on Spiking Neuromorphic Hardware
Stichting IMEC Nederland（荷兰IMEC基金会）；IMEC Belgium（比利时IMEC）；Drexel University（德雷塞尔大学）
尖峰神经网络（SNN）被广泛应用于解决复杂的模式识别、函数逼近和图像分类任务。随着这些网络的规模和复杂性不断增长，硬件实现变得具有挑战性，因为由于严格的能量预算，扩展完全连接的神经元的单个阵列（交叉开关）的大小不再可行。现代神经形态硬件集成了小型交叉开关和时分复用互连。为了将SNN映射到神经形态硬件上，划分SNN变得至关重要，其主要目的是减少全局通信延迟和能量开销。为了实现这一目标，我们提出了我们的粒子群优化，分区SNN到本地突触（映射在交叉）和全局突触（映射在时间复用的互连）的实例，目的是减少尖峰通信的互连。这通过减少尖峰间期失真和尖峰紊乱来改善延迟、功耗以及应用性能。我们的框架是在Python中实现的，接口CARLsim，GPU加速的应用级尖峰神经网络模拟器与扩展版本的Noxim，用于模拟时间复用互连。实验进行了现实和合成SNN为基础的应用程序与不同的计算模型，拓扑结构和尖峰编码方案。使用来自内部神经形态芯片的功率数，我们证明了PACMAN（SpiNNaker上SNN的广泛使用的分区技术）的能耗和尖峰延迟显著降低。
2019-08-13 cs.ET cs.LG cs.NE
Fast and Efficient Information Transmission with Burst Spikes in Deep Spiking Neural Networks
Seoul National University（首尔国立大学）
脉冲神经网络（SNN）由于其能量有效的计算能力而被认为是最有前途的人工神经网络之一。最近，将训练的深度神经网络转换为SNN已经提高了深度SNN的准确性。然而，大多数以前的研究都没有取得令人满意的结果，在推理速度和能源效率。在本文中，我们提出了一种快速和节能的信息传输方法与突发尖峰和混合神经编码方案在深SNN。实验结果表明，本文提出的方法可以提高推理能量效率，缩短推理延迟.
2019-02-10 cs.LG cs.NE q-bio.NC
Pruning of Deep Spiking Neural Networks through Gradient Rewiring
Peking University（北京大学）；Peng Cheng Laboratory（鹏城实验室）
脉冲神经网络（SNNs）由于其生物相容性和在神经形态芯片上的高能量效率而受到了广泛的重视。由于这些芯片通常是资源受限的，因此SNN的压缩在SNN的实际使用道路上至关重要。现有的大多数方法直接将人工神经网络（ANN）中的剪枝方法应用于SNN，忽略了ANN和SNN之间的差异，从而限制了剪枝后SNN的性能。此外，这些方法只适用于浅SNN。在本文中，受到神经系统中突触发生和突触消除的启发，我们提出了梯度重布线（Grad R），一种SNN连接和权重的联合学习算法，使我们能够无缝地优化网络结构而无需重新训练。我们的关键创新是将梯度重新定义为新的突触参数，通过充分利用连接修剪和再生之间的竞争，更好地探索网络结构。在MNIST和CIFAR-10数据集上的实验结果表明，该方法对SNN的性能损失最小。此外，它达到了$\sim$ 3.5%的准确性损失下前所未有的0.73%的连接，这表明显着的结构细化能力SNN。我们的工作表明，在深SNN中存在极高的冗余。我们的代码可在https://github.com/Yanqi-Chen/Gradient-Rewiring上获得。
2021-06-22 cs.AI cs.CV cs.LG
SpikeSim: An end-to-end Compute-in-Memory Hardware Evaluation Tool for Benchmarking Spiking Neural Networks
Yale University（耶鲁大学）；Arizona State University（亚利桑那州立大学）
SNN是一个积极的研究领域，致力于节能机器智能。与传统的ANN相比，SNN使用时间尖峰数据和生物合理的神经元激活函数，如泄漏积分激发/积分激发（LIF/IF）进行数据处理。然而，SNN招致显著的点积运算，从而在标准冯-诺依曼计算平台中引起高存储器和计算开销。如今，存内计算（IMC）体系结构已经被提出来缓解冯-诺依曼体系结构中普遍存在的“存储器墙瓶颈”。尽管最近的工作已经提出了基于IMC的SNN硬件加速器，但以下问题被忽视了- 1）由于在多个时间步长上重复模拟点积运算而导致的交叉开关非理想性对SNN性能的不利影响，2）基本SNN特定组件（诸如LIF/IF和数据通信模块）的硬件开销。为此，我们提出了SpikeSim，一个工具，可以执行现实的性能，能源，延迟和面积评估的IMC映射SNN。SpikeSim由一个称为SpikeFlow的实用单片IMC架构组成，用于映射SNN。此外，非理想计算引擎（NICE）和能量延迟区域（ELA）引擎执行SpikeFlow映射SNN的硬件现实评估。基于65 nm CMOS实现和CIFAR 10、CIFAR 100和TinyImagenet数据集上的实验，我们发现LIF/IF神经元模块具有显著的面积贡献（>11%的总硬件面积）。我们提出SNN拓扑修改导致1.24倍和10倍减少神经元模块的面积和整体能量延迟产品的价值，分别。此外，在这项工作中，我们对IMC实现的…
2022-10-24 cs.CV cs.NE
Spiking Neural Network for Ultra-low-latency and High-accurate Object Detection
Institute of Automation, Chinese Academy of Sciences (CASIA)（中国科学院自动化研究所）；University of Chinese Academy of Sciences (UCAS)（中国科学院大学）；Zhejiang University（浙江大学）
针对SNN目标检测高延迟低精度及ANN转SNN结构不完整的问题，提出时间步长压缩和STDI编码方法，并构建SUHD模型，在PASCAL VOC和MS COCO上实现超低延迟与高精度检测。
2023-06-27 cs.CV cs.NE
Unleashing the Potential of Spiking Neural Networks by Dynamic Confidence
The University of Manchester（曼彻斯特大学）
本文提出Dynamic Confidence方法，通过从SNN输出解码置信度并构建决策智能体动态终止推理，在CIFAR-10和ImageNet上平均加速40%，并可视化SNN潜力，如ResNet-50 SNN平均4.71时间步达82.47%准确率。
2023-11-28 cs.CV cs.NE
Quantization Meets Spikes: Nearly Lossless Conversion at the First Timestep via Polarity Multi-Spike Mapping
Tianjin University（天津大学）；The Hong Kong Polytechnic University（香港理工大学）；Zhejiang University（浙江大学）；University of Chinese Academy of Sciences（中国科学院大学）；Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）
提出极性多脉冲映射框架和超参数初始化策略，在首个时间步实现ANN到SNN的近乎无损转换，并在多个数据集上达到最优性能。
2026-06-18 cs.NE
Supervised Radio Frequency Interference Detection with SNNs
本文将RFI检测建模为监督式多变量时间序列分割，比较六种SNN编码方案，并用HERA模拟数据训练小型两层全连接SNN，证明latency编码可取得接近现有算法的检测性能。
2024-12-06 astro-ph.IM cs.NE
A Self-Ensemble Inspired Approach for Effective Training of Binary-Weight Spiking Neural Networks
Pengcheng Laboratory（鹏城实验室）；Microsoft Research Asia – Shanghai（微软亚洲研究院-上海）；Peking University（北京大学）
本文通过分析反向传播过程揭示SNN可视为带噪声注入的二值激活网络自集成，提出SEI-BWSNN方法，利用多捷径和知识蒸馏改进二值权重SNN训练，在ImageNet上以2个时间步达到82.52%准确率。
2025-08-18 cs.LG cs.NE
High-performance deep spiking neural networks with 0.3 spikes per neuron
IBM Research Europe – Zurich（IBM欧洲研究院苏黎世分部）；École polytechnique fédérale de Lausanne（洛桑联邦理工学院）
本文分析了TTFS网络的训练动力学，解决了梯度消失或爆炸问题，通过保证SNN与ANN训练轨迹等价的映射方法，训练出每神经元不到0.3个脉冲的深度SNN，在多个图像分类数据集上达到与ANN相同的性能，并适用于低延迟、抗噪声的硬件实现。
2023-11-20 cs.LG cs.NE
Workload-Balanced Pruning for Sparse Spiking Neural Networks
针对高权重稀疏SNNs的负载不均衡导致硬件利用率低的问题，提出u-Ticket方法在基于LTH的剪枝中调整权重连接，实现最高100%硬件利用率，显著降低延迟与能耗。
2024-03-22 cs.NE
All in one timestep: Enhancing Sparsity and Energy efficiency in Multi-level Spiking Neural Networks
Université Côte d’Azur（大学）
针对脉冲神经网络二值脉冲导致信息损失、精度下降的问题，提出多级脉冲神经元模型与Sparse-ResNet架构，实现低延迟低能耗的同时提升图像分类精度与稀疏性。
2025-10-28 cs.AI cs.NE
Spiking Neural Network inference on FPGAs with hls4ml
ISRC, Ulster University（ISRC、乌斯特大学）
本文扩展hls4ml工具，实现将PyTorch训练的脉冲神经网络(SNN)部署到FPGA固件上，在Heidelberg Spiking Digits数据集上达到约34μs的推理延迟。
2026-06-08 cs.LG cs.NE
Online Training Through Time for Spiking Neural Networks
Peking University（北京大学）；The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳））；Shenzhen Research Institute of Big Data（深圳大数据研究院）；Peng Cheng Laboratory（鹏城实验室）
脉冲神经网络（SNN）是一种很有前途的脑启发节能模型。训练方法的最新进展使深度SNN能够在低延迟的大规模任务上取得成功。特别是，通过时间的反向传播（BPTT）与代理梯度（SG）是普遍使用的，以实现高性能在一个非常小的时间步长。然而，它是以训练消耗大量内存，优化缺乏理论清晰度，以及与生物学习的在线特性和神经形态硬件规则不一致为代价的。其他作品连接尖峰表示SNN与等效人工神经网络制定和训练SNN的梯度从等效映射，以确保下降方向。但它们无法实现低延迟，也不在线。在这项工作中，我们提出了SNN的在线时间训练（OTTT），它来源于BPTT，通过跟踪突触前活动并利用瞬时损失和梯度来实现向前学习。同时，我们从理论上分析和证明了梯度OTTT可以提供类似的下降方向优化的尖峰表示在前馈和递归条件下的梯度。OTTT只需要与时间步长无关的恒定训练内存成本，避免了BPTT用于GPU训练的巨大内存成本。此外，OTTT的更新规则是三因素赫布学习的形式，这可以为在线片上学习铺平道路。通过OTTT，这是第一次将两种主流的监督SNN训练方法，BPTT与SG和基于尖峰表示的训练，连接起来，同时以生物学上合理的形式。在CIFAR-10，CIFAR-100，ImageNet和CIFAR 10-DVS上的实验证明了我们的方法在小时间步长的大规模静态和神经形态数据集上的优越性能。
2022-12-31 cs.AI cs.LG cs.NE
Fast-SNN: Fast Spiking Neural Network by Converting Quantized ANN
本文提出 Fast-SNN，通过建立 SNN 时间量化与 ANN 空间量化的等价映射，将量化误差最小化转移到量化 ANN 训练，并引入带符号 IF 神经元和逐层微调以降低累积误差，从而在低延迟下实现高性能。
2023-05-31 cs.NE
LoAS: Fully Temporal-Parallel Dataflow for Dual-Sparse Spiking Neural Networks
Yale University（耶鲁大学）；University of Central Florida（中佛罗里达大学）
本文针对双稀疏脉冲神经网络推理效率低的问题，提出完全时间并行数据流及配套压缩与内连接电路，并集成于LoAS加速器，实现最高8.51倍加速和3.68倍能耗降低。
2024-09-01 cs.AI cs.AR cs.NE
Input-Aware Dynamic Timestep Spiking Neural Networks for Efficient In-Memory Computing
Yale University（耶鲁大学）
本文提出输入感知动态时间步脉冲神经网络DT-SNN，通过输出熵与阈值比较动态决定推理时间步数，在存内计算架构上以平均1.46个时间步达到静态4时间步SNN的准确率，并将能量-延迟积降低80%。
2023-05-27 cs.LG cs.NE
LitE-SNN: Designing Lightweight and Efficient Spiking Neural Network through Spatial-Temporal Compressive Network Search and Joint Optimization
本文提出 LitE-SNN，通过 CompConv 空间压缩、压缩式时间步搜索及架构与压缩策略联合优化，在多个数据集上以更低资源获得更高精度。
2024-05-13 cs.NE
TopSpark: A Timestep Optimization Methodology for Energy-Efficient Spiking Neural Networks on Autonomous Mobile Agents
Institute of Computer Engineering, Technische Universität Wien (TU Wien)（维也纳技术大学计算机工程研究所）；New York University (NYU) Abu Dhabi（纽约大学阿布扎比分校）
本文提出TopSpark自适应时间步缩减方法，通过参数增强与精度-延迟-能耗权衡，使SNN在训练和推理中显著节能且精度损失不超过2%。
2023-07-29 cs.AI cs.LG cs.NE
Distilling Spikes: Knowledge Distillation in Spiking Neural Networks
Indian Institute of Technology Bombay（孟买印度理工学院）
与经典的人工神经网络（ANN）不同，脉冲神经网络（SNN）是一种节能计算架构，它交换尖峰以处理信息。因此，SNN更适合实际部署。然而，与ANN类似，SNN也受益于更深的架构，以获得更好的性能。此外，与深度ANN一样，SNN的存储器、计算和功率要求也随着模型大小而增加，并且模型压缩成为必要。知识蒸馏是一种模型压缩技术，它能够以最小的性能损失将大型机器学习模型的学习转移到较小的模型。在本文中，我们提出了技术知识蒸馏脉冲神经网络的任务图像分类。我们提出了从较大的SNN（也称为教师网络）提取尖峰到较小的SNN（也称为学生网络）的方法，同时最小限度地影响分类精度。我们在三个标准数据集上进行了详细的实验，同时提出了新的蒸馏方法和损失函数，证明了所提出的方法的有效性。我们还提出了一个多阶段的知识蒸馏技术SNN使用中间网络，以获得更高的性能，从学生网络。我们的方法有望为在资源受限的硬件平台上部署高性能的大型SNN模型开辟新的途径。
2020-05-01 cs.CV cs.NE
Temporal Spike Sequence Learning via Backpropagation for Deep Spiking Neural Networks
University of California, Santa Barbara（加州大学圣巴巴拉分校）
脉冲神经网络（SNN）非常适合于时空学习和能量高效的事件驱动神经形态处理器上的实现。然而，现有的SNN误差反向传播（BP）方法缺乏适当的处理尖峰不连续性和遭受低性能相比，传统的人工神经网络的BP方法。此外，通常需要大量的时间步长来实现良好的性能，导致高延迟，并使基于尖峰的计算无法扩展到深度架构。我们提出了一种用于训练深度SNN的新的时间尖峰序列学习反向传播（TSSL-BP）方法，该方法打破了两种类型的神经元间和神经元内依赖性的错误反向传播，并提高了时间学习精度。它通过考虑放电活动的全或无特征来捕获突触前放电时间的神经元间依赖性，并通过及时处理每个神经元状态的内部演变来捕获神经元内依赖性。TSSL-BP在几个步骤的大大缩短的时间窗口内有效地训练深度SNN，同时提高包括CIFAR 10在内的各种图像分类数据集的准确性。
2021-06-07 cs.LG cs.NE
Adversarially Robust Spiking Neural Networks Through Conversion
Graz University of Technology（格拉茨工业大学）；Silicon Austria Labs（奥地利硅谷实验室）
针对脉冲神经网络（SNNs）对抗鲁棒性训练方法扩展性不足的问题，提出一种具有对抗鲁棒性的人工神经网络（ANN）到SNN转换算法，通过转换后微调优化阈值与权重，在多自适应攻击下实现了低延迟深度鲁棒SNN的可扩展最优性能。
2024-04-12 cs.AI cs.LG cs.NE
Data-Driven Neuromorphic DRAM-based CNN and RNN Accelerators
Institute of Neuroinformatics（神经信息学研究所）；University of Zurich（苏黎世大学）；ETH Zurich（苏黎世联邦理工学院）
在硬件加速器上运行大型深度神经网络（DNN）所消耗的能量主要是需要大量快速存储器来存储状态和权重。这种大容量存储器目前只有通过DRAM才经济可行。尽管DRAM是高吞吐量和低成本存储器（成本比SRAM低20倍），但其长的随机访问延迟对于脉冲神经网络（SNN）中不可预测的访问模式是不利的。此外，从DRAM访问数据比使用该数据进行算术运算要消耗多几个数量级的能量。如果本地内存可用并且生成很少的尖峰，则SNN是节能的。本文报告了我们在过去5年中开发的卷积和循环深度神经网络硬件加速器，这些加速器利用类似于SNN的空间或时间稀疏性，但即使使用DRAM存储大型DNN的权重和状态，也能实现SOA吞吐量、功率效率和延迟。
2020-03-29 cs.CV cs.NE
Training Deep Spiking Neural Networks using Backpropagation
深度脉冲神经网络（SNN）具有通过基于事件的计算来改善深度神经网络的延迟和能量效率的巨大潜力。然而，由于异步尖峰事件的不可微性质，训练这样的网络是困难的。在本文中，我们介绍了一种新的技术，它处理的膜电位的发放神经元的可微信号，在尖峰时间的不连续性只被认为是噪声。这实现了用于深度SNN的误差反向传播机制，其直接作用于尖峰信号和膜电位。因此，与以前依赖于间接训练和转换的方法相比，我们的技术有可能更精确地捕获尖峰的静态。我们的新框架优于所有先前报道的结果SNN的置换不变MNIST基准，以及N-MNIST基准记录基于事件的视觉传感器。
2016-08-31 cs.NE
Watermarking Neuromorphic Brains: Intellectual Property Protection in Spiking Neural Networks
George Mason University（乔治梅森大学）；Queen’s University Belfast（贝尔法斯特女王大学）
本研究率先将基于指纹和后门的水印机制应用于脉冲神经网络（SNNs）的知识产权保护，通过实验评估了其在保真度、抗覆盖威胁和抗压缩攻击方面的表现，并与人工神经网络（ANN）进行了对比，为开发针对SNN独特动力学的IP保护策略奠定了基础。
2024-05-07 cs.CR cs.LG cs.NE
Stochastic Spiking Neural Networks with First-to-Spike Coding
本文首次将随机脉冲神经元与时序编码结合，提出首脉冲编码的随机SNN，并将其直接训练方法扩展到VGG架构和更大数据集，在准确率、延迟、稀疏性、能耗和鲁棒性方面验证了其优势。
2024-07-01 cs.NE
Deep Spiking Neural Network with Spike Count based Learning Rule
深度脉冲神经网络（SNN）支持异步事件驱动计算、大规模并行性，并在提高同步模拟网络的能量效率方面表现出巨大的潜力。然而，在设计SNN学习规则时，对神经编码的关注不够。值得注意的是，时间信用分配已经在速率编码的尖峰输入上执行，导致学习效率差。在本文中，我们为速率编码的深度SNN引入了一种新的基于尖峰的学习规则，其中每个神经元的尖峰计数被用作梯度反向传播的替代。我们通过在UCI机器学习和MNIST手写数字数据集上训练深度尖峰多层感知器（MLP）和尖峰卷积神经网络（CNN）来评估所提出的学习规则。我们表明，所提出的学习规则在所有基准数据集上都达到了最先进的精度。所提出的学习规则允许将延迟、尖峰速率和硬件约束引入SNN学习中，这优于传统人工神经网络首先训练然后转换为SNN的间接方法。因此，它允许直接部署到神经形态硬件，并支持有效的推理。值得注意的是，在我们的实验中，当在训练期间施加相同的延迟约束时，仅用10个模拟时间步长就在MNIST数据集上实现了98.40%的测试准确率。
2019-02-15 cs.NE
