首页/论文/1402.2902

arXiv 1402.29022014-02-10cs.ETcond-mat.dis-nn

基于自旋神经元和电阻记忆的层次时间记忆在节能脑启发计算中的应用

Hierarchical Temporal Memory Based on Spin-Neurons and Resistive Memory for Energy-Efficient Brain-Inspired Computing

Deliang Fan, Mrigank Sharad, Abhronil Sengupta, Kaushik Roy

备注：: this work was submitted to IEEE Transactions on Neural Networks and Learning Systems. It is under review now
DOI：: 10.1109/TNNLS.2015.2462731

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

摘要英文摘要相关论文

摘要：

分层时间记忆（HTM）试图模仿大脑新皮层的计算过程。它识别输入中的空间和时间模式以进行推断。这可能需要大量的计算昂贵的任务，如点积评估。可以为这种基元提供直接映射的纳米器件引起了极大的兴趣。在这项工作中，我们表明，HTM的计算块可以映射使用低电压，快速开关，磁金属自旋神经元结合新兴的电阻交叉杆网络（RCN）。结果显示，与45 nm CMOS ASIC设计相比，能耗可能降低200倍以上

英文摘要：

Hierarchical temporal memory (HTM) tries to mimic the computing in cerebral-neocortex. It identifies spatial and temporal patterns in the input for making inferences. This may require large number of computationally expensive tasks like, dot-product evaluations. Nano-devices that can provide direct mapping for such primitives are of great interest. In this work we show that the computing blocks for HTM can be mapped using low-voltage, fast-switching, magneto-metallic spin-neurons combined with emerging resistive cross-bar network (RCN). Results show possibility of more than 200x lower energy as compared to 45nm CMOS ASIC design

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

阅读原文

阅读 PDF ↗

arXiv 页面 ↗HTML 原文 ↗

本文内容

摘要英文摘要相关论文

机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。

继续探索

相关论文

基于自旋神经元和电阻交叉存储器的超低功耗联想计算

Ultra Low Power Associative Computing with Spin Neurons and Resistive Crossbar Memory

新兴的连续交叉开关存储器（RCM）技术可以用于计算昂贵的模拟模式匹配任务。然而，使用CMOS模拟电路与RCM将导致大的功耗和差的可扩展性，从而回避基于RCM的计算的好处。我们建议使用低电压，快速开关，磁金属自旋神经元的超低功耗非布尔计算与RCM。我们提出了使用RCM的模拟联想记忆人脸识别的设计，其中，取代传统的模拟电路与自旋神经元可以实现约100倍的低功耗。这使得所提出的设计比45 nm-CMOS数字ASIC节能约1000倍，从而显着增强了基于RCM的计算硬件的前景。

2013-04-08cond-mat.mtrl-scics.ET

一种新型可控神经元人工脑

An New Type Of Artificial Brain Using Controlled Neurons

一种新型人工大脑的计划是可能的，因为在逻辑结构的受控触发器阵列中有逼真的神经元，每个神经元一个触发器。可以进行受控切换以并行计算从关联长期记忆中回忆的几个复杂图像中的每一个的关键重要性参数。下面所示的受控切换相当于一种支持自主行为和动作的新型神经网络。

2015-04-17cs.ETq-bio.NC

用于脑启发认知系统的质子传导氧化石墨烯耦合神经元晶体管

Proton Conducting Graphene Oxide Coupled Neuron Transistors for Brain-Inspired Cognitive Systems

神经元是大脑中最重要的组成部分，神经元的信息处理涉及到将输入突触脉冲序列转换为相应的输出脉冲序列。利用单个离子/电子混合器件实现神经元的硬件实现，对于增强我们对大脑的理解，解决感觉处理和复杂识别任务具有重要意义。在这里，我们提供了一种基于质子传导氧化石墨烯（GO）耦合氧化物基双电层（EDL）晶体管的原理验证人工神经元，该晶体管具有多个驱动输入和一个调制输入端子。成功地模拟了成对脉冲促进、树突整合和方向调整。此外，还对频率编码方案中的神经元增益控制（算术）进行了实验验证。我们的研究结果为构建大脑启发的认知系统提供了一种新的概念方法。

2015-10-21cond-mat.mtrl-scics.ETq-bio.NC

用于脑启发计算的CMOS尖峰神经元

A CMOS Spiking Neuron for Dense Memristor-Synapse Connectivity for Brain-Inspired Computing

密集集成CMOS尖峰神经元和纳米级忆阻器突触的神经形态系统开辟了一条新的脑启发计算途径。现有的硅神经元已经塑造了神经生物物理动力学，但与忆阻器突触不兼容，或者使用额外的训练电路，从而消除了使用忆阻器获得的大部分密度优势，或者能量效率低下。在这里，我们描述了一种新的CMOS尖峰泄漏积分和消防神经元电路。建立在具有单个运算放大器的可重构架构上，所描述的神经元容纳大量忆阻器突触，并且使得能够以优化的功耗进行在线尖峰定时依赖可塑性（STDP）学习。180 nm CMOS设计的仿真结果显示，在10，000个标称忆阻为1MΩ的忆阻器突触中实现STDP学习时，功率效率指标为97%，积分输入尖峰时的电流消耗仅为13μA。因此，所描述的CMOS神经元有助于大规模脑启发神经形态系统的通用构建块。

2015-06-08cs.ETcs.NE

用于时间信息编码的随机磁电神经元

Stochastic Magnetoelectric Neuron for Temporal Information Encoding

模拟大脑计算原理的各个方面可能会导致能够表现出类似大脑的认知能力的神经计算机的发展。在这封信中，我们提出了一个磁电子神经元，利用噪声作为计算资源，并能够编码信息随着时间的推移，通过独立控制外部电压信号。我们广泛的设备操作的特点，使用模拟和证明其适用性的类脑计算平台进行时间信息编码。

2019-12-29cs.ET

具有忆阻可塑性的地理分布生物混合神经网络

A geographically distributed bio-hybrid neural network with memristive plasticity

在整个进化过程中，大脑已经掌握了通过相互连接的尖峰神经元网络处理现实世界输入的艺术。由于突触的可塑性，它已经成为将神经元之间的信号传递与记忆存储和计算相结合的关键元素。电子学已经在通过神经形态电路和具有纳米级忆阻器的突触来模拟神经元方面迈出了重要的一步，但是将它们在异构生物启发和生物混合架构中互连的新应用才刚刚开始实现。在大脑启发的架构中使用忆阻技术来计算或感测生物神经元的尖峰活动8只是最近的例子，然而，通过可塑性驱动的突触元件将大脑和电子神经元互连至今仍处于想象的领域。在这里，我们展示了一个生物混合神经网络（bNN）的忆阻器作为“突触”之间的大鼠神经电路和超大规模集成电路神经元。两个基本的突触，从人工到生物（ABsyn）和从生物到人工（BAsyn），通过互联网相互连接。bNN扩展到整个欧洲，打破了自然大脑网络中存在的空间边界，并为新的地理分布和不断发展的架构奠定了基础：神经电子互联网（IoN）。

2017-09-13cs.ET

更多相关论文收起更多论文

磁隧道连接模拟随机皮层尖峰神经元

Magnetic Tunnel Junction Mimics Stochastic Cortical Spiking Neurons

大脑启发的计算架构试图模仿在人类大脑中的神经元和突触中执行的计算，以实现其在学习和认知任务中的效率。在这项工作中，我们证明了映射的概率尖峰性质的锥体神经元在皮层的随机开关行为的磁隧道结中存在的热噪声。我们目前的结果来说明基于这种概率神经元的神经形态系统的效率，在存在侧抑制和稳态的模式识别任务。这样的随机MTJ神经元还可以潜在地提供到置信网络中的概率计算元件的直接映射以用于执行再生任务。

2017-12-19cs.ET

1200万个Hodgkin-Huxley神经元网络在单芯片上的实现

Implementation of a 12-Million Hodgkin-Huxley Neuron Network on a Single Chip

了解人类大脑是21世纪科学家面临的最大挑战。Hodgkin-Huxley（HH）模型是最成功的脑生物逼真模拟的数学模型之一。然而，HH神经元的模拟涉及复杂的计算，这使得大规模脑网络的实现变得困难。在本文中，我们提出了一种硬件架构，有效地计算一个大规模的HH神经元网络。该结构基于神经元机器的硬件结构，由于其只有一个计算节点，因此具有速度的限制。所提出的架构本质上是一个非冯诺依曼同步系统与多个计算节点，称为硬件神经元，以实现线性加速比。在本文中，设计的数字电路，计算大规模的HH神经元网络作为一个例子，提供了一个详细的说明所提出的架构。该设计支持尖峰和短期和长期可塑性突触的轴突传导延迟，以及浮点精度HH神经元。该设计在现场可编程门阵列（FPGA）芯片上实现，并实时的计算一百万个HH神经元的网络。所实现的系统可以计算具有多达1200万个HH神经元和6亿个突触的网络。所提出的设计方法可以促进支持复杂神经元模型的系统的设计及其在可重构FPGA芯片上的灵活实现。

2020-04-28cs.ET

二值化神经网络的差分半导体电阻存储阵列数字生物可行实现

Digital Biologically Plausible Implementation of Binarized Neural Networks with Differential Hafnium Oxide Resistive Memory Arrays

大脑以极低的能量消耗执行智能任务。这项工作的灵感来自大脑用来实现这种能量效率的两种策略：计算和记忆功能之间没有分离，以及依赖低精度计算。电阻式存储器技术的出现确实提供了在硬件中紧密地共同集成逻辑和存储器的机会。并行地，最近提出的二值化神经网络的概念，其中乘法被异或非（XNOR）逻辑门取代，提供了一种使用非常低精度计算来实现人工智能的方法。因此，在这项工作中，我们提出了一种策略，以实现低能量二进制神经网络，它采用了大脑启发的概念，同时保留了数字电子产品的能源效益。我们设计，制造和测试的存储器阵列，包括外围和检测电路，优化这个存内计算计划。我们的电路采用氧化铪电阻存储器集成在后端线的130纳米CMOS工艺，在一个两个晶体管-两个电阻器单元，它允许执行的神经网络的异或操作直接在读出放大器。我们表明，广泛的电气测量的基础上，我们的设计允许减少突触权重的位错误的量，而不使用正式的纠错码。我们设计了一个完整的系统使用这个存储器阵列。我们在标准的机器学习任务（MNIST，CIFAR-10，ImageNet和ECG任务）上显示，该系统对比特错误具有固有的弹性。我们的证据表明，它的能量消耗是有吸引力的相比，更标准的方法，它可以使用的内存设备的制度，他们表现出特别低的编程能量和高耐力。

2019-12-07cs.ET

走向NeuroAI：将神经元多样性引入人工神经网络

Towards NeuroAI: Introducing Neuronal Diversity into Artificial Neural Networks

The Chinese University of Hong Kong（香港中文大学）；Southeast University（东南大学）；Cornell University（康奈尔大学）

纵观历史，人工智能特别是人工神经网络的发展一直是开放的，并不断受到对大脑日益加深的理解的启发，比如神经认知机的启发，它是卷积神经网络的开创性工作。根据新兴领域NeuroAI的动机，大量的神经科学知识可以通过赋予网络更强大的功能来帮助催化下一代AI。正如我们所知，人类大脑有许多形态和功能不同的神经元，而人工神经网络几乎完全建立在一个单一的神经元类型。在人类大脑中，神经元的多样性是各种生物智能行为的一个使能因素。由于人工网络是人类大脑的缩影，因此引入神经元多样性对于解决人工网络的基本问题（如效率、可解释性和记忆）应该是有价值的。在本书中，我们首先讨论了生物神经元多样性的分类以及生物神经元中信息传递和处理的特征。然后，我们回顾了人工网络设计新的神经元的研究。接下来，我们将讨论神经元多样性可以为人工网络带来什么好处，以及在几个重要领域的示例性应用。最后，我们讨论了神经元多样性的挑战和未来方向，以探索NeuroAI的潜力。

2023-03-11cs.AIcs.ETcs.LG

使用 LLM 设计硅基大脑：利用 ChatGPT 实现脉冲神经元阵列的自动化描述

Designing Silicon Brains using LLM: Leveraging ChatGPT for Automated Description of a Spiking Neuron Array

Johns Hopkins University（约翰斯·霍普金斯大学）

本文展示了利用 ChatGPT4 生成脉冲神经元阵列 ASIC 的可综合 verilog 描述的提示，该 AI 生成设计已通过仿真验证并提交至 Skywater 130nm 制造，体现了自然语言驱动硬件设计的现状。

2024-01-25cs.AIcs.ARcs.ET

基于电阻开关的神经形态计算的材料和器件挑战

Challenges in materials and devices for Resistive-Switching-based Neuromorphic Computing

本教程描述了实现模拟生物大脑的固态系统组件的挑战和可能的途径。本教程主要致力于使用过渡金属氧化物材料的基于电荷（即电控）的实现，这些材料具有独特的特性，可以模拟该应用所需的关键功能。在引言中，我们比较了基于图灵-冯·诺依曼范式的传统计算机器与试图模拟生物大脑重要功能的神经形态机器之间的主要差异。我们还描述了生物系统的主要电特性，这将是有用的，以实现在基于电荷的系统。在第二章中，我们描述了一个可能的固态实现的主要组成部分。在第三章中，我们描述了各种电阻开关现象，这可能是实现神经形态计算的关键设备的功能基础。在第四章中，我们描述了为什么过渡金属氧化物是未来神经形态机器的有前途的材料。第五章讨论了描述不同阻变机制的理论模型，而第六章描述了现有的实现。第七章介绍了对实际问题的应用。我们在第八章中列出了重要的基础研究挑战和未决问题。我们讨论与具体实施，新材料，设备和现象相关的问题。开发可靠、容错、节能的设备，将其扩展并集成到神经形态计算机中，可能会使我们更接近于开发一种可与大脑相媲美的机器。

2018-10-31cond-mat.mtrl-scics.ETphysics.app-ph

神经元群体码的性质对神经元形态电路设计的约束

Constraints on the design of neuromorphic circuits set by the properties of neural population codes

在大脑中，信息被编码、传输并用于在分布在神经元群体上的动作电位的定时水平上通知行为。为了在计算机上实现类神经系统，模拟神经功能，并成功地与大脑接口，神经形态电路需要以与大脑中神经元群体所使用的方式兼容的方式编码信息。为了促进神经形态工程和神经科学之间的交叉对话，在这篇综述中，我们首先批判性地研究和总结了最近出现的关于神经元群体如何编码和传递信息的研究结果。我们研究了神经群体活动的不同特征对信息编码和读出的影响，即神经表征的稀疏性、神经属性的异质性、神经元之间的相关性以及神经元编码信息并随时间推移保持一致的时间尺度（从短到长）。最后，我们批判性地阐述了这些事实如何约束神经形态电路中的信息编码设计。我们主要关注设计与大脑通信的神经形态电路的影响，因为在这种情况下，人工和生物神经元使用兼容的神经代码是至关重要的。然而，我们也讨论了神经形态系统的设计实现或仿真神经计算的影响。

2022-12-08cs.ETcs.NEq-bio.NC