A Voltage-controlled MTJ-CMOS Neuron Emulating Tunable Izhikevich-Inspired Dynamics
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Northwestern University(西北大学);George Mason University(乔治梅森大学)
本文提出一种结合电压控制磁隧道结与CMOS电路的可重构Izhikevich神经元,实现五种放电模式,能耗145.44 fJ/尖峰,推理尖峰活动降低88.6%。
2026-09-29 cs.AR cs.ET cs.NE
Energy Efficient and High Performance Current-Mode Neural Network Circuit using Memristors and Digitally Assisted Analog CMOS Neurons
新兴的纳米级可编程电阻RAM(RRAM)已被确定为实现大脑启发计算硬件的有前途的技术。几种神经网络结构,本质上涉及输入数据向量和存储的网络权重之间的标量积的计算,可以使用与CMOS集成的RRAM的高密度交叉棒阵列来有效地实现。在这样的设计中,CMOS接口可以负责提供输入激励和处理RRAM输出。为了在基于RRAM的神经形态硬件中实现高能量效率以及高集成密度,RRAM-CMOS接口的设计因此可以发挥主要作用。在这项工作中,我们提出了高性能的设计,电流模式CMOS接口的RRAM为基础的神经网络设计。采用电流模式激励作为输入接口,数字辅助电流模式CMOS神经元电路作为输出接口。所提出的技术实现了10倍的能量,以及在文献中采用的传统方法的性能改进。网络级仿真表明,该方案可以实现2个数量级的低能耗相比,数字ASIC实现的前馈神经网络。
2015-12-01 cs.AR cs.ET
Enabling Bio-Plausible Multi-level STDP using CMOS Neurons with Dendrites and Bistable RRAMs
新兴的纳米级非易失性存储器设备(例如,电阻式随机存取存储器(RRAM))的大规模集成可以实现新一代神经形态计算机,其可以解决广泛的机器学习问题。这种混合CMOS-RRAM神经形态架构将导致在非常小的形状因子下的能量消耗的几个数量级的减少,并且预示着能够自适应其环境的自主学习机器。然而,由于认识到实际存储设备远未达到其预期行为,该领域的进展受到了阻碍。在这项工作中,我们讨论了与这些存储设备和它们在类脑计算电路中的使用相关的挑战,并提出了通过引入“树突学习”来克服这些限制的途径。
2016-12-19 cs.ET cs.NE
Superconducting Optoelectronic Neurons IV: Transmitter Circuits
超导光电神经元在达到阈值时将产生小电流脉冲。我们提出了一个放大器链,将这个小电流脉冲转换为电压脉冲足以产生光从半导体二极管。这种光是用于网络中神经元之间通信的信号。该放大器链包括阈值约瑟夫森结、弛豫振荡器约瑟夫森结、超导薄膜电流门控电流放大器和超导薄膜电流门控电压放大器。我们在时域中分析放大器链中的元件的性能,以计算针对发光二极管电容和效率的几个值创建的每个光子的能量消耗。放大序列的速度允许神经元放电高达至少20 MHz,功率密度低到足以用在4.2 K下操作的标准$^4$ He低温系统容易地冷却。
2018-05-08 cs.ET cs.NE
Superconducting Optoelectronic Neurons V: Networks and Scaling
超导光电神经元网络的研究,其近期的技术潜力和长期的物理限制。网络的平均路径长度短,高聚类系数和幂律度分布的设计使用的增长模型,分配新的和现有的节点之间的连接的基础上的空间距离以及现有节点的程度。网络构建算法可扩展到任意级别的网络层次结构,并实现具有分形空间特性和高效布线的系统。通过对超导光电神经元的物理尺寸建模,我们计算了这些网络的面积。具有8100个神经元和总共330,430个突触的系统将适合于1\,cm $\times$ 1\,cm管芯。由数百万个神经元和数亿个突触组成的系统将适合在300毫米的晶片上。对于多晶片组件,光速通信使得神经元池的大小与大型数据中心相当,该神经元池包括100万亿个神经元,具有1MHz的相干振荡。假设一个幂律频率分布,是必要的自组织临界,我们计算网络的功耗。我们发现,使用单光子进行通信和超导电路计算导致功率密度低到足以被冷却的液体$^4$ He的网络的任何规模。
2018-05-15 cs.ET cs.NE
Superconducting Optoelectronic Neurons II: Receiver Circuits
电路使用超导单光子探测器和约瑟夫森结进行信号接收,突触加权,和集成进行了研究。电路将光子检测事件转换为通量量子,其数量由突触权重确定。来自许多突触连接的电流感应耦合到实现神经元阈值操作的超导回路。设计突触和神经元,执行整合以及检测符合事件的时间编码。兴奋性和抑制性连接都被证明。结果表明,一个神经元与一个单一的集成回路可以接收1000个这样的突触连接的输入,和类似的设计神经元可以采用许多循环树突处理。
2018-05-15 cs.ET cs.NE q-bio.NC
Superconducting Optoelectronic Neurons III: Synaptic Plasticity
作为动态地重新配置超导光电回路神经元的突触权重的手段,超导通量存储回路电感耦合到神经元的突触电流偏置。标准通量存储单元用于实现二进制突触,并且能够存储许多通量量子的回路用于制定多稳态突触。电路被设计为实现监督学习,其中电流脉冲增加或去除回路中的通量以加强或削弱突触权重。设计电路与数百个中间突触之间的最小和最大强度的权重。实现无监督学习的电路通过Hebbian和anti-Hebbian学习规则使用两个光子加强和两个光子削弱突触权重来建模,并且提出了控制学习率的技术。执行短期可塑性,稳态可塑性,和元可塑性环路神经元进行了讨论。
2018-07-03 cs.ET cs.NE
CMOS-Free Multilayer Perceptron Enabled by Four-Terminal MTJ Device
类脑计算有望对处理非结构化信息的应用程序进行革命性的改进。为了充分实现这一潜力,神经形态系统应该利用新兴纳米器件的仿生行为。特别是,自旋电子器件的非易失性和模拟能力提供了特殊的机会。虽然先前已经提出了模拟神经元和突触的自旋电子器件,但需要互补金属氧化物半导体(CMOS)器件来实现多层自旋电子感知器交叉开关。因此,这项工作提出了一种新的自旋电子神经元,使纯粹的自旋电子多层感知器,消除了对CMOS电路的需要,简化了制造。
2020-02-03 cond-mat.mes-hall cs.ET cs.NE
Domain Wall Leaky Integrate-and-Fire Neurons with Shape-Based Configurable Activation Functions
互补金属氧化物半导体(CMOS)器件显示易失性特性,并且不太适合于诸如类脑计算的模拟应用。另一方面,自旋电子器件具有非易失性和模拟特性,非常适合类脑计算。因此,这些新型器件处于超CMOS人工智能应用的最前沿。然而,大量的这些人工神经形态设备仍然需要使用CMOS,这降低了系统的效率。为了解决这个问题,我们之前已经提出了一些不需要CMOS操作的人工神经元和突触。虽然这些设备比以前的版本有了显著的改进,但它们使神经网络学习和识别的能力受到其固有激活函数的限制。这项工作提出了修改这些自旋电子神经元,使配置的激活函数通过控制磁畴壁轨道的形状。线性和S形激活函数在这项工作中,它可以通过类似的方法进行扩展,使各种各样的激活函数。
2020-11-11 cond-mat.mes-hall cs.ET cs.NE
CMOS-Memristor Dendrite Threshold Circuits
非线性神经元模型克服了神经元的线性二进制模型的局限性,即不能计算线性不可分离的函数,如XOR。虽然在以前的研究中报道了几种基于树突阈值的生物学上合理的模型,但这种非线性神经元模型的硬件实现仍然是一个悬而未决的问题。本文提出了一种实现逻辑枝晶尖峰和饱和型非线性响应的电路设计。提出的树突细胞被用来建立异或电路和强度检测电路,由不同的树突细胞的饱和和尖峰响应的组合。树突单元使用一组忆阻器、齐纳二极管和CMOS“非”门来设计。在电路板上对电路进行了设计、分析和验证。
2016-09-16 cs.ET
Circuit designs for superconducting optoelectronic loop neurons
光通信实现了高扇出和短延迟,有利于神经系统中的信息集成。超导探测器能够用单光子发出信号,以实现最大的能量效率。我们目前的超导光电子神经元的设计基于超导单光子探测器,约瑟夫森结,半导体光源,和多平面介质波导。这些电路以高能效实现复杂的突触和神经元功能,利用光的优势进行通信,利用超导电子技术进行计算。神经元向突触连接发送少量光子信号。这些信号传达神经元放电事件以及更新突触权重。尖峰定时依赖的可塑性是通过单个光子触发过程的每一步来实现的。微尺度发光二极管和波导网络实现了从神经元到数千个突触连接的连接,并且使用光进行通信使得神经元能够在仅受光在网络振荡周期内可以行进的距离限制的区域内同步。在实验上,每个必要的电路元件已经被证明,但一个硬件平台,结合他们都没有尝试。与数字逻辑或量子计算相比,设备公差是宽松的。对于这种神经应用,提供具有以10 $^{-3}$的效率在20 MHz、4.2 K下操作产生的10,000个光子的非相干脉冲的光源足以实现具有与大脑相当的连接性和三万倍的速度的大规模可扩展神经计算平台。
2018-09-07 cs.ET cs.NE
Hybrid Spintronic-CMOS Spiking Neural Network With On-Chip Learning: Devices, Circuits and Systems
在过去的十年中,脉冲神经网络(SNN)已经成为模拟大脑的流行架构之一。在SNN中,信息是时间编码的,神经元之间的通信是通过尖峰来完成的。在这样的网络中,尖峰定时依赖的可塑性机制需要基于尖峰神经元传输的尖峰的时间信息对突触进行在线编程。在这项工作中,我们提出了一个自旋电子突触与解耦尖峰传输和编程电流路径。自旋电子突触由铁磁体-重金属异质结构组成,其中通过重金属的编程电流产生自旋轨道扭矩以调制器件电导。低编程能量和快速编程时间证明了所提出的器件作为纳米电子突触的功效。我们进行了模拟研究的基础上,实验基准的设备模拟框架,以证明这样的自旋电子突触与CMOS神经元和学习电路在晶体管亚阈值区工作,形成一个网络的尖峰神经元,可以用于模式识别问题的接口。
2016-11-04 cs.ET
Single Flux Quantum Based Ultrahigh Speed Spiking Neuromorphic Processor Architecture
受大脑操作启发的人工神经网络可以提高更有效地解决复杂问题的可能性。另一方面,今天的计算硬件主要基于冯·诺依曼架构和CMOS技术,这在实现神经网络方面效率低下。我们首次提出了一种基于单通量量子(SFQ)的人工神经元(JJ-神经元)的超高速尖峰神经形态处理器架构。所提出的架构具有提供超过包括CMOS、忆阻器和纳米光子器件的现有技术的更高性能和功率效率的潜力。JJ-Neuron具有超快尖峰能力,即使在制造后也可使用商品设计软件进行训练,并与商业CMOS和SFQ代工服务兼容。我们通过实验证明了JJ-神经元的胞体部分与外围SFQ逻辑门一起用于各种激活函数。然后,针对IRIS数据集训练神经网络,并且我们已经显示出与离线训练的结果100%匹配,分别具有1.2x ${10}^{10}$每秒突触操作(SOPS)和8.57x ${10}^{11}$ SOPS/W性能和功率效率。此外,示出了${10}^{18}$ SOPS和${10}^{17}$ SOPS/W的可扩展性,其比现有技术的CMOS电路的效率高至少五个数量级,并且比基于纳米光子学的架构的估计高一个数量级。
2020-07-06 cs.ET physics.app-ph
A 0.086-mm$^2$ 12.7-pJ/SOP 64k-Synapse 256-Neuron Online-Learning Digital Spiking Neuromorphic Processor in 28nm CMOS
将计算架构从冯·诺依曼转移到基于事件的脉冲神经网络(SNN),为视觉或感觉运动控制等应用中的感觉数据低功耗处理带来了新的机会。探索认知SNN的道路需要设计紧凑、低功耗和多功能的实验平台,其关键要求是在线学习,以便在不受控制的环境中适应和学习新功能。然而,SNN中的嵌入在线学习目前受到高引发的复杂性和区域开销的阻碍。在这项工作中,我们提出了ODIN,一个0.086毫米$^2$ 64 k-突触256神经元在线学习数字尖峰神经形态处理器在28纳米FDSOI CMOS实现的最小能量每突触操作(SOP)的12.7 pJ。它利用尖峰驱动的突触可塑性(SDSP)学习规则的高效实现,用于高密度嵌入式在线学习,每个4位突触只有0.68 $μ$ m $^2$。神经元可以独立地配置为标准的泄漏积分和发射(LIF)模型或自定义的现象学模型,模拟生物尖峰神经元中发现的20个Izhikevich行为。使用6k 16 $\times$ 16 MNIST训练图像的单一呈现到具有基于片上SDS的学习的单层全连接10-神经元网络,ODIN实现了84.5%的分类准确率,同时使用秩序编码在0.55V下仅消耗15 nJ/推理。因此,ODIN使认知神经形态设备的进一步发展,低功耗,自适应和低成本的处理。
2018-11-10 cs.ET
A Biological-Realtime Neuromorphic System in 28 nm CMOS using Low-Leakage Switched Capacitor Circuits
提出了一种用于神经元闭环耦合的开关电容(SC)神经形态系统,采用28 nm CMOS工艺,面积为600 μ m × 600 μ m。它提供128个输入通道(即突触前末梢),8192个突触和64个输出通道(即神经元)。生物现实的神经元和突触动力学是通过一个忠实的翻译SC电路的行为方程。由于漏电流会显著影响该技术节点的电路行为,因此采用专用补偿技术来实现生物实时操作,并在室温下忠实再现几百ms的时间常数。整个系统的功耗为1.9 mW。
2014-12-10 cs.ET
Ultra Low Power Associative Computing with Spin Neurons and Resistive Crossbar Memory
新兴的连续交叉开关存储器(RCM)技术可以用于计算昂贵的模拟模式匹配任务。然而,使用CMOS模拟电路与RCM将导致大的功耗和差的可扩展性,从而回避基于RCM的计算的好处。我们建议使用低电压,快速开关,磁金属自旋神经元的超低功耗非布尔计算与RCM。我们提出了使用RCM的模拟联想记忆人脸识别的设计,其中,取代传统的模拟电路与自旋神经元可以实现约100倍的低功耗。这使得所提出的设计比45 nm-CMOS数字ASIC节能约1000倍,从而显着增强了基于RCM的计算硬件的前景。
2013-04-08 cond-mat.mtrl-sci cs.ET
Direct CMOS Implementation of Neuromorphic Temporal Neural Networks for Sensory Processing
Carnegie Mellon University(卡内基梅隆大学)
时间神经网络(TNN)利用时间作为一种资源来表示和处理信息,模仿哺乳动物新皮层的行为。这项工作的重点是实现TNN使用现成的数字CMOS技术。介绍了一种微架构框架,其具有构建块的层次结构,包括:多神经元列、多列层和多层TNN。我们提出了直接CMOS门级实现的多神经元列模型作为TNN的关键构建块。使用Synopsys工具和45 nm CMOS标准单元库获得合成后结果。TNN微架构框架体现在一组特征方程中,用于评估任何TNN设计的总门数、管芯面积、计算时间和功耗。我们开发了一个32M门的多层TNN原型。在7 nm CMOS工艺下,它仅消耗1.54 mm^2芯片面积和7.26 mW功耗,可以以107 M FPS(每幅图像9.34 ns)处理28x28图像。我们评估原型的性能和复杂性相对于最近的国家的最先进的TNN模型。
2020-08-27 cs.AR cs.ET cs.LG
Ultrafast carbon nanotube photodetectors with bandwidth over 60 GHz
未来芯片内和芯片间的互连链路要求光电探测器具有高带宽、超宽波段、紧凑的基底面、低成本以及与硅互补金属氧化物半导体(CMOS)技术兼容的集成工艺。在这里,我们展示了一个CMOS兼容的碳纳米管(CNT)光电探测器,具有高响应度,高带宽和宽光谱操作在所有光通信波段的基础上,高纯度的CNT阵列。超快CNT光电探测器展示了100 Gbit/s奈奎斯特形状的开关键控(OOK)信号传输,可以满足数据中心内部和之间对高速光互连的需求。此外,通过将有源面积缩小到20 μm2,该光电探测器的带宽超过60 GHz。由于CNT光电探测器是通过无掺杂工艺制造的,因此它还提供了一种将CNT光子器件与基于CNT的CMOS集成电路集成的成本有效的解决方案。我们的工作为未来基于CNT的高速光互连和光电集成电路(OEIC)铺平了道路。
2022-10-16 cs.ET physics.app-ph physics.optics
Proposal for an All-Spin Artificial Neural Network: Emulating Neural and Synaptic Functionalities Through Domain Wall Motion in Ferromagnets
基于新兴后CMOS技术的非布尔计算可能为低功耗神经计算平台铺平道路。然而,这种新兴的神经形态架构的现有工作要么集中在单独模仿神经元,或突触功能。虽然忆阻器件已经被提出来模拟生物突触,但自旋电子器件已经被证明在超低电流下执行神经元的阈值操作方面是有效的。在这项工作中,我们提出了一个全自旋人工神经网络,其中一个单一的自旋电子器件作为系统的基本构建块。该设备提供了一个直接映射到大脑中的突触和神经元功能,而层间网络通信是通过CMOS晶体管完成的。据我们所知,这是第一次展示一种神经架构,其中单个纳米电子设备能够模拟神经元和突触。低电阻磁金属神经元的超低电压操作使得自旋电子突触阵列的低电压操作成为可能,从而导致超低功率神经架构。设备级仿真,校准实验结果,用于驱动电路和系统级仿真的神经网络的标准模式识别问题。仿真研究表明,与相应的数字/模拟CMOS神经元实现相比,节能约100倍。
2016-02-03 cs.ET
A Custom 7nm CMOS Standard Cell Library for Implementing TNN-based Neuromorphic Processors
为7 nm CMOS单元库开发了一组高度优化的自定义宏扩展,用于实现时间神经网络(TNN),该网络可以以极高的能量效率模仿大脑般的感觉处理。用于MNIST的TNN原型(13,750个神经元和315,000个突触)仅需要1.56mm2裸片面积并且仅消耗1.69mW。
2021-06-04 cs.AR cs.ET cs.LG
A CMOL-Like Memristor-CMOS Neuromorphic Chip-Core Demonstrating Stochastic Binary STDP
纳米级忆阻器的出现带来了能够构建CMOL(CMOS/纳米线/分子)型超密集存储器内计算电路架构的希望。在CMOL中,纳米级忆阻器将在纳米线的交叉处制造。CMOL概念可以通过在CMOS上制造低密度神经元并将大量模拟突触连接与在顶部后制造的纳米线和纳米尺度忆阻器织物一起用于神经形态硬件。然而,技术问题阻碍了目前可用的可靠的商业单片CMOS忆阻器技术的这种发展。一方面,每个忆阻器需要串联的MOS选择器晶体管以保证大阵列中的形成和编程操作。这导致复合MOS-忆阻器突触(称为1 T1 R),其在纳米线交叉处不再是突触。另一方面,忆阻器还不能构成具有渐进学习的大规模模拟权重突触的高度可靠、稳定的模拟存储器。在这里,我们展示了一种伪CMOL单片芯片核心,它通过以下方式规避了上述两个技术问题:(a)利用类似CMOL的几何芯片布局技术来提高密度,尽管存在1 T1 R限制;以及(b)利用二进制权重随机尖峰定时相关可塑性(STDP)学习规则,该规则利用了所使用的忆阻器的更可靠的二进制存储能力。实验结果提供了一个脉冲神经网络(SNN)的CMOL核心,64个输入神经元,64个输出神经元,和4096个1 T1 R突触,制造在130纳米CMOS与200纳米大小的Ti/HfOx/TiN忆阻器的顶部。CMOL核心使用查询驱动的事件读出,这允许忆阻器可变性不敏感的计算。
2022-09-13 cs.ET cs.SY eess.IV
Advancing Memristive Analog Neuromorphic Networks: Increasing Complexity, and Coping with Imperfect Hardware Components
我们通过实验证明了4 × 4二进制图像分为4类,使用3层混合信号神经形态网络(“MLP感知器”),基于两个无源20 × 20忆阻交叉阵列,板集成离散CMOS组件。该网络具有10个隐藏层和4个输出层模拟CMOS神经元和428个金属氧化物忆阻器,即几乎比任何先前报道的功能忆阻器电路复杂一个数量级。此外,该分类器的推理操作完全在集成硬件中执行。为了处理更大的交叉阵列,我们已经开发了一种半自动的方法来形成和测试,并比较了几种忆阻器训练方案,以应对这些设备的不完美行为,以及模拟CMOS神经元的可变性。所提出的计划的有效性进行了实验验证,使用实施的网络,此外,通过建模的操作一个更大的网络,300个隐藏层神经元,在MNIST基准。最后,我们提出了一个简单的修改实现忆阻器为基础的矢量矩阵乘法器,使其在更宽的温度范围内的操作。
2016-11-10 cs.ET cs.NE
Current Mode Neuron for the Memristor based synapse
由于VonNeumann体系结构在速度、内存带宽、全局互连效率等方面的局限性以及人工神经网络应用的日益增多,研究人员不得不研究诸如类脑计算系统等替代体系结构。忆阻器(忆阻交叉存储器RCM)由于其高封装密度和能量效率而被用作突触,并且CMOS块被用作神经元。RCM的终端电阻的增加会降低其能量效率和带宽。本文提出了一种能量效率更高的电流模式神经元,与传统的电压模式神经元电路相比,它可以工作在更低的电压下。
2019-05-13 cs.ET eess.SP
Considerations for neuromorphic supercomputing in semiconducting and superconducting optoelectronic hardware
任何大规模的尖峰神经形态系统都需要在通信和计算方面进行协同优化,以达到人类大脑的复杂性。这样的推理导致光电神经形态平台的建议,利用光学和电子学的互补特性。从推测,未来的大规模神经形态系统将利用集成光子学和光纤通信与模拟电子计算,我们认为实现这一愿景的两种可能的路径。第一个是基于模拟CMOS电路和波导集成光电二极管的半导体平台。第二种是超导方法,利用约瑟夫森结和波导集成超导单光子探测器。我们讨论可用的设备,评估扩展潜力,并提供每个平台的关键指标和演示列表。这两个平台都有潜力,但它们的发展将在重要方面有所不同。半导体系统受益于强大的制造生态系统,并且可以建立在纯电子类脑计算中取得的广泛进展的基础上,但将需要III-V光源以前所未有的规模与电子器件集成,超低电容光电二极管的进一步进步以及新兴存储器技术的成功。超导系统对光源的负担在理论上几乎是最小的(这对两个平台中最具投机性的方面之一来说是一个巨大的福音),并为集成的高耐久性突触记忆提供了新的机会。然而,超导光电子系统还将与低压电子电路与半导体光源的接口、超导器件的串联偏置、不太成熟的制造生态系统和低温基础设施相抗衡。
2021-06-28 cs.ET physics.optics
CMOS-compatible Ising and Potts Annealing Using Single Photon Avalanche Diodes
本文提出利用单光子雪崩二极管(SPADs)生成随机状态,实现CMOS兼容的Ising和Potts退火处理器,可连续控制温度并准确采样理论分布。
2022-11-22 cond-mat.dis-nn cond-mat.mes-hall cs.DC
Hardware design of LIF with Latency neuron model with memristive STDP synapses
本文介绍了一种神经形态系统的硬件实现。该系统由具有延迟的泄漏整合和激发(Leaky Integrate-and-Fire with Latency,LIFL)神经元和尖峰定时依赖可塑性(Spike-Timing Dependent Plasticity,STDP)突触组成。LIFL神经元模型允许编码比常见的Integrate-and-Fire模型更多的信息,通常考虑用于神经形态实现。在我们的系统中,LIFL神经元使用CMOS电路实现,而忆阻器用于STDP突触的实现。提供了整个电路的描述。最后,通过模拟由三个神经元和两个突触组成的基序来评估所提出的架构的能力。仿真结果证实了该系统的有效性,并适用于更复杂的脉冲神经网络的设计
2018-03-31 cs.ET cs.NE
Toward Fast Neural Computing using All-Photonic Phase Change Spiking Neurons
脑启发计算的快速增长,加上在CMOS实现的neuromphic系统的效率低下,导致了激烈的探索,有效的硬件实现的功能单位的大脑,即神经元和突触。然而,在电气领域的实现中投入了大量的努力,具有开关速度、大型集成系统的封装密度和互连损耗的潜在限制。作为替代方案,光子域中的神经形态工程最近受到了关注。在这项工作中,我们展示了一个纯粹的光子操作的集成和消防尖峰神经元,基于相变动力学的Ge $_2$ Sb $_2$ Te $_5$(GST)嵌入顶部的microwave谐振器,这体现了在电域的PCM的能量约束。我们还表明,这样的神经元可以潜在地集成到一个全光子脉冲神经网络推理框架的芯片上的突触,这有望是超快的,可以提供一个大的工作带宽。
2018-08-28 cs.ET
Benchmarking Inverse Rashba-Edelstein Magnetoelectric Devices for Neuromorphic Computing
我们提出了一种新的设计与自旋电子神经元和CMOS为基础的突触细胞神经网络。利用磁电和逆Rashba-Edelstein效应可以自然模拟理想蜂窝网络的行为。这种效应的组合提供了比其他自旋电子神经网络更快的速度和效率。通过仿真提供了严格的性能分析。
2018-11-21 cs.ET
A Microarchitecture Implementation Framework for Online Learning with Temporal Neural Networks
Carnegie Mellon University(卡内基梅隆大学);University of Wisconsin(威斯康星大学)
时间神经网络(TNN)是一种尖峰神经网络,它使用时间作为一种资源来表示和处理信息,类似于哺乳动物的新皮层。与采用单独的训练和推理阶段的计算密集型深度神经网络相比,TNN能够非常有效地在线增量/持续学习,并且是构建边缘原生感觉处理单元的绝佳候选者。这项工作提出了一个微架构框架,实现TNN使用标准CMOS。提出了三个关键构建块的门级实现:1)多突触神经元,2)多神经元列,以及3)基于尖峰定时依赖可塑性(STDP)的无监督和有监督在线学习算法。所提出的微架构体现在一组特征缩放方程,用于评估任何TNN设计的门数,面积,延迟和功率。综合后的结果(在45纳米CMOS)所提出的设计,并证明其在线增量学习能力。
2021-06-02 cs.AR cs.ET cs.LG
MRAM-based Analog Sigmoid Function for In-memory Computing
University of South Carolina(南卡罗来纳大学)
我们提出了一个模拟实现的超越激活函数利用两个自旋轨道力矩磁阻随机存取存储器(SOT-MRAM)设备和CMOS反相器。与最先进的模拟和数字实现相比,所提出的模拟神经元电路消耗的功率少1.8- 27倍,占用的面积小2.5- 4931倍。此外,开发的神经元可以容易地与忆阻交叉开关集成,而不需要任何中间信号转换单元。架构级分析表明,与具有模拟忆阻交叉开关和数字神经元的混合信号实现相比,使用我们的SOT-MRAM神经元以及基于SOT-MRAM的交叉开关的全模拟存内计算(IMC)电路可以分别实现超过1.1倍、12倍和13.3倍的功耗、延迟和能量降低。最后,通过跨层分析,我们提供了一个指导,如何改变我们的神经元中的设备级参数可以影响多层感知器(MLP)的准确性MNIST分类。
2022-04-21 cs.ET cs.LG
Exploiting Inherent Error-Resiliency of Neuromorphic Computing to achieve Extreme Energy-Efficiency through Mixed-Signal Neurons
Purdue University(普渡大学)
受大脑启发的类脑计算有望在某些类别的学习任务中实现极高的效率,例如分类和模式识别。类脑计算的性能和功耗很大程度上取决于神经元结构的选择。传统上已知数字神经元(Dig-N)在高速下准确且高效,同时遭受来自大型设计中的大量晶体管的高漏电流。另一方面,模拟/混合信号神经元容易受到噪声、可变性和失配的影响,但可能导致极低功耗设计。在这项工作中,我们将分析,比较和对比现有的神经元架构与建议的混合信号神经元(MS-N)的性能,功率和噪声,从而证明了所提出的混合信号神经元的适用性,以实现极端的能量效率在类脑计算。所提出的MS-N采用65 nm CMOS技术实现,在所有频率上的能效比在同一技术节点中合成的两个传统数字神经元高出100倍以上。我们还证明了完全连接甚至卷积神经网络(CNN)的固有错误弹性可以在一定程度上处理MS-N的噪声以及制造非理想性。值得注意的是,MNIST数据集上的系统级实现在最坏情况下,当带宽中的集成噪声功率为~ 0.1 uV 2时,分类误差增加了2.1%,同时在所提出的具有8位精度的神经元的晶体管参数中引入了+-3σ量的变化和失配。
2018-06-13 cs.AI cs.ET cs.NE