Accurate Emulation of Memristive Crossbar Arrays for In-Memory Computing
存内计算是新兴的非冯·诺依曼计算范例,其中通过利用存储器设备的物理属性在存储器中执行某些计算任务。诸如相变存储器(PCM)之类的忆阻器件(其中根据它们的电导水平来存储信息)特别适合于存内计算。特别地,忆阻器件在以交叉开关配置组织时可以用于通过利用基尔霍夫电路定律来执行矩阵-向量乘法运算。为了探索这种存内计算核在诸如深度学习的应用中以及用于系统级架构探索的可行性,非常期望开发捕获忆阻器件的关键物理属性的精确硬件仿真器。在这里,我们提出了一个这样的PCM仿真器,并通过实验验证它使用的PCM原型芯片的测量。此外,我们提出了一个应用程序的仿真器的神经网络推理,我们的仿真器可以捕捉到约400,000 PCM设备的电导演变非常好。
2020-04-07 cs.ET
Computing In Spintronic Memory: A Thermal Perspective
University of Minnesota, Twin Cities(明尼苏达大学双城分校)
本文从热学角度研究计算-存储一体化架构,分析其温度分布规律及存储器规模对热性能的影响。
2026-04-08 cs.ET
Memory-Centric Computing
以内存为中心的计算通过在数据生成和存储处启用计算能力,从根本上减少数据移动与访问延迟,提升系统性能和能效,主要分为使用内存处理和近内存处理两大类架构。
2023-09-13 cs.AR cs.DC cs.ET
Computing in Memory with Spin-Transfer Torque Magnetic RAM
存内计算是解决计算系统中处理器-存储器数据传输瓶颈的有前途的方法。我们提出了自旋转移力矩内存计算(STT-CiM),一个设计的存内计算与自旋转移力矩磁性RAM(STT-MRAM)。自旋电子存储器的独特性质允许同时启用阵列内的多个字线,从而打开了使用单个访问直接感测存储在多个行中的值的功能的可能性。我们建议修改STT-MRAM外围电路,利用这一原则来执行逻辑,算术和复杂的向量运算。我们解决的挑战,可靠的存内计算下的工艺变化,通过扩展ECC方案,检测和纠正错误,发生在CiM操作。我们还解决了如何STT-CiM应该被集成在一个通用的计算系统的问题。为此,我们提出了架构增强处理器指令集和片上总线,使STT-CiM被用作暂存器存储器。最后,我们提出了数据映射技术,以提高STT-CiM的有效性。我们评估STT-CiM使用设备到架构建模框架,并集成周期精确模型的STT-CiM与商业处理器和片上总线(Nios II和Avalon从英特尔)。我们的系统级评估表明,STT-CiM提供了平均3.93倍(高达10.4倍)的系统级性能改进,并同时降低了平均3.83倍(高达12.4倍)的内存系统能量。
2017-11-21 cs.ET
Hardware-software co-exploration with racetrack memory based in-memory computing for CNN inference in embedded systems
Department of Electrical and Computer Engineering, National University of Singapore(电子与计算机工程系,新加坡国立大学);Institute of High Performance Computing, Agency for Science, Technology and Research(高性能计算研究所,科技研究局);Institute of Computing Technology, Chinese Academy of Sciences(计算技术研究所,中国科学院);School of Computing, National University of Singapore(计算系,新加坡国立大学);Hong Kong University of Science and Technology(香港科学与技术大学)
本文针对嵌入式系统中CNN推理的资源受限问题,提出基于赛道存储的存内计算加速器,通过设计基础算术电路并采用硬件-软件协同设计优化系统与模型架构,在保持精度的同时显著降低面积和能耗、提升性能。
2025-07-02 cs.AI cs.AR cs.ET
Ultra-High-density 3D vertical RRAM with stacked JunctionLess nanowires for In-Memory-Computing applications
Von-Neumann瓶颈是数据密集型应用程序的一个明显限制,使内存计算(IMC)解决方案脱颖而出。由于大数据集通常存储在非易失性存储器(NVM)中,因此已经基于新兴存储器(诸如OxRAM)提出了各种解决方案,这些新兴存储器主要依赖于面积饥饿、一个晶体管(1 T)一个OxRAM(1 R)位单元。为了解决这个面积问题,同时保持由1 T1 R位单元提供的编程控制,我们提出将栅极全包围堆叠无结纳米线(1 JL)和OxRAM(1 R)技术相结合以创建具有存储密度的3D存储器柱。纳米线无结晶体管已被制造,表征和模拟,以定义整个支柱的电流条件。最后,基于集成电路重点仿真程序(SPICE)仿真,我们成功地演示了侦察逻辑操作到三柱层,每层一个操作数。
2020-11-30 cs.ET physics.app-ph
Parallel in-memory wireless computing
提出利用忆阻器交叉阵列融合存内计算与无线通信的并行方案,实现480比特零误码传输,功耗较传统方案降低两个数量级,并可拓展至声学和光学通信。
2023-09-30 cs.AR cs.ET cs.SY
Wavelength-multiplexed Delayed Inputs for Memory Enhancement of Microring-based Reservoir Computing
Technical University of Denmark(丹麦技术大学);Univ Rennes(雷恩大学)
提出一种融合并行延迟输入与波分复用的硅基add-drop微环储备池计算方案,在无外部光反馈条件下提升记忆能力并良好完成时间序列预测任务。
2023-12-07 cs.ET cs.LG cs.NE
Platform Independent Software Analysis for Near Memory Computing
近存储器计算(NMC)有望提高应用程序的性能,这些应用程序可以利用新兴存储器技术(如3D堆栈存储器)的功能。然而,要找到这样的应用程序并不容易,需要专门的工具来识别它们。在本文中,我们提出了PISA-NMC,它扩展了一个国家的最先进的硬件不可知的分析工具,有关内存和并行性,这是相关的NMC的指标。这些指标包括内存熵、空间局部性、数据级和基本块级并行性。通过分析一组代表性的应用程序和相关的指标与应用程序的性能在一个模拟的NMC系统,我们验证了这些指标的重要性。最后,我们展示了哪些指标是有用的,在确定适用于NMC架构的应用程序。
2019-06-24 cs.ET cs.PF
Redesigning Commercial Floating-Gate Memory for Analog Computing Applications
我们已经修改了一个商业或非闪存阵列,使模拟计算应用的各个浮栅单元的高精度调谐。在180 nm工艺中,每个单元的修饰阵列面积约为1.5 μ m^2。虽然该面积大约是原始单元尺寸的两倍,但它仍然比现有技术的模拟电路实现方式小至少一个数量级。新的存储单元阵列已被成功地测试,特别是确认,每个单元可以自动调谐,约1%的精度,在几乎三个数量级的动态范围内的任何所需的亚阈值读出电流值,甚至使用未优化的调谐算法。一个四象限矢量矩阵乘法器的初步结果,实施与修改后的存储器阵列栅极耦合与额外的外围浮栅晶体管,显示在很宽的输入电流范围内的高度线性传输特性。
2014-10-16 cond-mat.other cs.ET
Embracing the Unreliability of Memory Devices for Neuromorphic Computing
电阻式非易失性存储器的出现为在存储器附近或存储器中进行高能效计算开辟了道路。然而,这种类型的计算与传统的ECC不兼容,并且必须处理设备不可靠性。受动物大脑结构的启发,我们提出了一种适用于神经网络实现的差分混合CMOS/RRAM存储器结构,其功能无需正式ECC。我们还表明,使用低能量,但容易出错的编程条件,只有轻微降低网络的准确性。
2020-07-13 cs.ET
Resistive Memory for Computing and Security: Algorithms, Architectures, and Platforms
本论文围绕RRAM的存内计算与非易失特性,提出面向数字逻辑、多值计算和硬件安全原语的算法、架构及实验平台。
2024-07-04 cs.ET
Harnessing the Full Potential of RRAMs through Scalable and Distributed In-Memory Computing with Integrated Error Correction
针对RRAM存内计算器件非理想性与可扩展性瓶颈,提出全栈分布式框架MELISO+,通过两级纠错和分布式计算支持超65000维矩阵运算,显著降低误差并提升能效与延迟表现。
2025-08-26 cs.AR cs.DC cs.ET
A Photonic In-Memory Computing primitive for Spiking Neural Networks using Phase-Change Materials
脉冲神经网络(SNN)提供了一种事件驱动的,更生物现实的替代标准人工神经网络的基础上模拟信息处理。这可以潜在地实现神经形态系统的节能硬件实现,该神经形态系统模拟大脑的功能单元,即神经元和突触。基于相变材料(PCM)的超快光子计算设备的最新演示显示出解决电驱动神经形态系统的局限性的希望。然而,将这些独立计算设备缩放到并行存内计算原语是一个挑战。在这项工作中,我们利用的PCM,Ge \textsubscript{2} Sb \textsubscript{2} Te \textsubscript{5}(GST)的光学特性,提出了一个光子脉冲神经网络计算原语,包括一个非易失性突触阵列无缝集成与以前探索的“集成和消防”神经元。所提出的设计实现了一个“内存中”的计算平台,利用波分复用(WDM)的固有并行性。我们表明,所提出的计算平台可以用来模拟SNN推理引擎的图像分类任务。所提出的设计不仅弥合了隔离计算设备和并行大规模实现之间的差距,而且为超快速计算和本地化片上学习铺平了道路。
2018-10-24 cs.ET
Hyperspectral In-Memory Computing with Optical Frequency Combs and Programmable Optical Memories
NTT Research, Inc.(NTT研究公司);The Graduate Center, City University of New York(纽约城市大学研究生中心);Korea University(高丽大学)
提出一种结合光学频率梳空间与频率复用及可编程光学存储器的高光谱内存计算架构,实验验证了高于4位精度的乘累加运算,具备模块化、可扩展性,有望实现每秒千万亿次运算的高能效光学计算。
2023-10-17 cs.ET cs.LG cs.NE
Experimental demonstration of Single-Level and Multi-Level-Cell RRAM-based In-Memory Computing with up to 16 parallel operations
电阻式存储器(RRAM)的纵横阵列有望实现存内计算(IMC),但由于器件缺陷和器件耐久性的影响而带来的基本挑战尚未被克服。在这项工作中,我们通过实验证明了一个基于RRAM的IMC逻辑概念,即使在一百万个耐久性周期后,也能对RRAM的变化具有很强的弹性。我们的工作依赖于概括的概念,在内存中侦察逻辑,我们证明了它的实验多达16个并行设备(操作数),一个新的里程碑RRAM在内存中的逻辑。此外,我们结合内模与多级单元编程,并在实验上证明,第一次,一个IMC的MRAM为基础的MLC 2位加法器。
2022-03-03 cs.ET
Reliability-Aware Deployment of DNNs on In-Memory Analog Computing Architectures
University of South Carolina(南卡罗来纳大学)
传统的存内计算(IMC)架构由用于加速矩阵向量乘法(MVM)的模拟忆阻交叉开关和用于实现深度神经网络(DNN)中的非线性向量(NLV)运算的数字功能单元组成。然而,这些设计需要高耗能的信号转换单元,其可以消耗系统总功率的95%以上。另一方面,内存模拟计算(IMAC)电路通过在模拟域中实现MVM和NLV操作,消除了对信号转换器的需要,从而显著节省了能源。然而,它们更容易受到诸如互连寄生和噪声等可靠性挑战的影响。在这里,我们介绍了一种实用的方法,将DNN中的大型矩阵部署到多个较小的IMAC子阵列上,以减轻噪声和寄生效应的影响,同时将计算保持在模拟域中。
2022-10-02 cs.AR cs.ET cs.LG
Computing with volatile memristors: An application of non-pinched hysteresis
在内存中计算的可能性与易失性忆阻器件,即忆阻器需要一个电源来维持他们的记忆,证明。我们采用了一种滞后石墨烯基场发射结构作为挥发性忆阻器的原型,其特征在于非箍缩的磁滞回线。该结构的忆阻模型被开发并用于模拟实现诸如物质蕴涵的存储器内计算门的多态电路。识别实现有用逻辑函数的参数空间的特定区域。我们的研究结果是适用于其他实现的易失性存储器设备。
2016-11-24 cond-mat.mes-hall cs.ET
FPIA: Field-Programmable Ising Arrays with In-Memory Computing
针对二次伊辛机存内计算实现资源利用率低的问题,受岛式FPGA启发提出FPIA存内计算架构,结合开源工具优化映射与布线,实现最高60倍面积提升与更快运算,并探讨算法-电路协同设计方向。
2024-01-29 cs.AR cs.ET
Antiferromagnetic Tunnel Junctions (AFMTJs) for In-Memory Computing: Modeling and Case Study
Department of Electrical and Computer Engineering The University of Arizona, USA(亚利桑那大学电气与计算机工程系)
AFMTJs通过多子晶格LLG动力学与电路建模结合,实现内存计算中的低功耗高效运算,显著优于传统MTJ方案。
2026-02-09 cs.AR cs.ET
A Distributed Emulation Environment for In-Memory Computing Systems
针对内存计算设备开发耗时问题,提出分布式可扩展仿真系统,支持芯片流片前进行系统分析、微码测试与应用部署,实验验证其有效性。
2025-10-09 cs.AI cs.ET
Ultra Low Power Associative Computing with Spin Neurons and Resistive Crossbar Memory
新兴的连续交叉开关存储器(RCM)技术可以用于计算昂贵的模拟模式匹配任务。然而,使用CMOS模拟电路与RCM将导致大的功耗和差的可扩展性,从而回避基于RCM的计算的好处。我们建议使用低电压,快速开关,磁金属自旋神经元的超低功耗非布尔计算与RCM。我们提出了使用RCM的模拟联想记忆人脸识别的设计,其中,取代传统的模拟电路与自旋神经元可以实现约100倍的低功耗。这使得所提出的设计比45 nm-CMOS数字ASIC节能约1000倍,从而显着增强了基于RCM的计算硬件的前景。
2013-04-08 cond-mat.mtrl-sci cs.ET
Memristive Memory Enhancement by Device Miniaturization for Neuromorphic Computing
忆阻器的面积足迹是基于材料的神经形态计算和大规模架构集成中的关键考虑因素。最广泛研究的忆阻器件中的电子传输是由细丝介导的,这对它们在架构实现中的可扩展性构成了挑战。在这里,我们提出了一个令人信服的替代忆阻器件,并证明面积缩小导致忆阻记忆窗口的增强,同时保持模拟行为,与预期相反。我们的器件设计直接集成在半导体Nb-SrTiO $_3$上,可以利用边缘的电场效应,提高较小器件的动态范围。我们的研究结果证实了使用扫描透射电子显微镜,在不同的电阻状态下,揭示了其物理范围的影响所施加的电场的界面层的开关的微观性质。Nb-SrTiO $_3$忆阻器能够满足硬件和软件要求,同时显著增强忆阻功能,使其成为CMOS之外的非冯·诺依曼计算的有力竞争者。
2023-01-09 cond-mat.mtrl-sci cs.ET physics.app-ph
IMCRYPTO: An In-Memory Computing Fabric for AES Encryption and Decryption
本文提出了一种用于加速AES加密和解密的存内计算(IMC)结构IMMPTO。IMPLENTPTO采用统一的结构在单个硬件架构中实现加密和解密,并结合了(Inv)Substance和(Inv)MixColumns步骤。由于这种步骤组合,以及由多个随机存取存储器(RAM)和随机存取/内容可寻址存储器(RA/CAM)阵列单元实现的高并行性,IMPLEPTO在不牺牲面积和功耗的情况下实现了高吞吐量加密和解密。此外,由于集成了RISC-V内核,IMPERIPTO提供了可编程性和灵活性。与之前用于AES-128加密的ASIC/IMC架构相比,IMPLEPTO将单位面积的吞吐量提高了最小(最大)3.3倍(223.1倍)。预测显示,新兴技术带来的额外效益高达IMPLEPTO面积延迟功率产品的5.3倍。
2021-12-04 cs.AR cs.CR cs.ET
Fully CMOS-compatible passive TiO2-based memristor crossbars for in-memory computing
脑启发计算和神经形态硬件是有前途的方法,提供了巨大的潜力,以克服基于传统冯诺依曼架构的当前计算范式所面临的限制。在这方面,由于忆阻器交叉杆阵列本机执行存内计算和神经网络实现所需的基本突触操作的能力,对开发忆阻器交叉杆阵列的兴趣已经增加。为了获得最佳效率,基于交叉开关的电路需要与工业CMOS技术的制造工艺和材料兼容。在这里,我们报告了一个完整的CMOS兼容的制造工艺的TiO 2基无源忆阻器的交叉杆与700 nm宽的电极。我们成功地显示了底部电极制造的一个MEMS工艺,从而优化的地形和表面粗糙度低至1.1纳米。DC扫描和电压脉冲编程产生与突触样多电平开关相关的统计结果。研究了周期间和器械间的变异性。使用200 ns的电压脉冲序列的电导的animplantable编程表明,由于周期到周期的再现性,所制造的存储器具有至少3位的多级容量。
2021-12-08 cs.ET physics.app-ph
High-Throughput In-Memory Computing for Binary Deep Neural Networks with Monolithically Integrated RRAM and 90nm CMOS
由于密度、泄漏和并行计算挑战,深度学习硬件设计一直受到SRAM等传统存储器的挑战。电阻器件可以解决密度和易失性问题,但受到外围电路集成的限制。在这项工作中,我们展示了一个可扩展的RRAM为基础的存内计算的设计,称为XNOR-RRAM,这是在90纳米CMOS工艺与单片集成的RRAM器件之间的金属1和2。我们将128 x 64 RRAM阵列与包括行/列解码器和闪存模数转换器(ADC)在内的CMOS外围电路集成在一起,这些电路共同成为面向大型深度神经网络(DNN)的可扩展基于RRAM的存内计算的核心组件。为了最大限度地提高存内计算的并行性,我们同时置位RRAM阵列的所有128条字线,沿位线执行模拟计算,并使用ADC对复位电压进行复位。通过写验证方案收紧低阻态的电阻分布,并对ADC失调进行校准。原型芯片测量表明,所提出的设计分别实现了MNIST和CIFAR-10数据集的98.5%和83.5%的高二进制DNN准确度,能量效率分别为24 TOPS/W和158 GOPS吞吐量。与最先进的文献相比,这表示吞吐量、能量延迟乘积(EDP)和能量延迟平方乘积(ED 2 P)分别提高了5.6倍、3.2倍和14.1倍。所提出的XNOR-RRAM可以为面积/能量受限的边缘计算设备实现智能功能。
2019-09-16 cs.ET cs.NE
Dynamic Computing Random Access Memory
目前的冯·诺依曼计算范式涉及中央处理单元(CPU)和存储器之间的大量信息传输,伴随着实际执行速度的限制。然而,最近有人认为,一种不同形式的计算,被称为memcomputing [Nature Physics,9,200-202(2013)],并受到我们大脑操作的启发,可以通过允许在同一物理平台上计算和存储信息来解决当今架构的固有局限性。在这里,我们展示了一个简单而实用的memcomputing实现,利用易于构建的忆电容系统。我们将这种体系结构命名为动态计算随机存取存储器(DCRAM)。我们表明,DCRAM提供了并行和多态的数字逻辑,即它允许不同的逻辑运算与相同的架构,通过只改变控制信号。此外,考虑到现实的参数,它的能量消耗可以低至几个fJ每次操作。DCRAM与CMOS技术完全兼容,可以用当前的制造设备实现,因此可以真正作为当前计算技术的替代品。
2014-03-17 cond-mat.mes-hall cs.AR cs.ET
Tutorial: Analog Matrix Computing (AMC) with Crosspoint Resistive Memory Arrays
矩阵计算在现代科学和工程领域中无处不在。由于传统数字计算机中的高计算复杂性,矩阵计算在许多数据密集型应用中代表了繁重的工作量,机器学习、科学计算和无线通信。对于快速、高效的矩阵计算,具有电阻存储器阵列的模拟计算已被证明是一种有前途的解决方案。本文提出了一种基于交叉点电阻存储器阵列的模拟矩阵计算(AMC)电路。AMC电路能够执行基本的矩阵计算,包括矩阵乘法、矩阵求逆、伪逆和特征向量计算,所有这些都通过一次操作完成。我们描述的AMC电路的主要设计原则,如局部/全局或负/正反馈配置,有/无外部输入。包含负值的矩阵的映射策略将被呈现。电路稳定性的基本要求将通过传递函数分析来描述,传递函数分析还定义了电路实现稳态结果的时间复杂度。最后,将讨论AMC电路的典型应用、挑战和未来趋势。
2022-05-12 cs.ET eess.SP
Neuromorphic Photonic Computing with an Electro-Optic Analog Memory
University of British Columbia(不列颠哥伦比亚大学);Queen’s University(女王大学);Princeton University(普林斯顿大学)
本文提出了一种具有电光模拟记忆的类脑光子计算架构,通过减少数据移动和能耗,实现了高效的机器学习推理。
2026-01-12 cs.ET cs.SY eess.SP
Apparate: Evading Memory Hierarchy with GodSpeed Wireless-on-Chip
本文提出Apparate,利用片上GodSpeed无线收发器与近端高速DRAM直接处理内存请求,以消除传统内存层次结构,提升计算系统的效率与响应速度。
2024-04-23 cs.AR cs.ET
SLIM: Simultaneous Logic-in-Memory Computing Exploiting Bilayer Analog OxRAM Devices
基于冯·诺依曼架构的计算机隔离/物理分离计算和存储单元,即数据在计算单元(处理器)和存储单元之间穿梭以实现逻辑/算术和存储功能。这种数据的来回移动导致了现代计算机的基本限制,称为内存墙。内存中逻辑(LIM)方法旨在通过在内存单元内进行计算来解决这一瓶颈,从而消除能源密集型和耗时的数据移动。然而,文献中报道的大多数LIM方法不是真正“同时”的,因为在LIM操作期间,位单元只能用作存储单元或仅用作逻辑单元。位单元不能同时存储两个存储器/逻辑输出。在这里,我们提出了一种新的“同步逻辑存储器”(SLIM)的方法,允许实现存储器和逻辑运算同时在同一个位单元上以非破坏性的方式,而不会丢失先前存储的存储器状态。通过大量的实验,我们证明了SLIM方法,使用非附属双层模拟OxRAM器件与NMOS晶体管(2 T-1 R位单元)。给出了详细的编程方案、阵列级实现和控制器结构。此外,为了研究在存储层次结构中引入SLIM阵列的影响,还研究了简单的图像处理应用(边缘检测)。据估计,通过在SLIM阵列内执行所有计算,与现代计算机相比,总能量延迟产品(EDP)减少了约40倍。由于CPU内存之间的数据传输减少,EDP节省被观察到约780倍。
2020-02-14 cs.ET
Hardware Optimizations of Dense Binary Hyperdimensional Computing: Rematerialization of Hypervectors, Binarized Bundling, and Combinational Associative Memory
ETH Zürich(苏黎世联邦理工学院);Università di Bologna(博洛尼亚大学)
大脑启发的超维(HD)计算用超维空间的点(即超向量)对大脑回路的大小的神经活动模式进行建模。超向量是$D$维(伪)随机向量,具有独立同分布(i.i.d.)构成超宽全息字的组件:例如,$D = 10,000$位。在其核心,HD计算操纵一组种子超向量来构建表示感兴趣对象的复合超向量。它要求内存优化与简单的操作,一个高效的硬件实现。在本文中,我们提出了硬件技术的优化HD计算,在一个综合的VHDL库,使学习和分类任务的协同实施只有一小部分的Xilinx(R)的UltraScale(TM)FPGA:(1)我们提出了简单的逻辑操作,重新实体化的超向量的飞行,而不是从内存中加载它们。这些操作通过直接计算复合超向量而大大减少了内存占用,复合超向量的单个种子超向量不需要存储在内存中。(2)随着时间的推移捆绑一系列超向量需要为每个超向量分量使用多位计数器。相反,我们提出了一个二进制化的背靠背捆绑,而不需要任何计数器。这真正实现了以最少的资源进行片上学习,因为每个超向量分量在训练过程中保持二进制,以避免多位分量。(3)对于每个分类事件,关联存储器负责通过使用距离度量找到一组学习的超向量和查询超向量之间的最接近匹配。该运算符与[…]
2019-04-03 cs.ET cs.LG
Superconductor bistable vortex memory for data storage and in-memory computing
针对超导体电子学(SCE)缺乏密集可扩展非易失性存储器的问题,提出新型VTM单元设计,解决缩放问题且零静态功耗,支持模拟乘累加运算,通过32×32阵列(20GHz)及8×8阵列仿真验证有效性,助力SCE内存计算应用。
2024-06-13 cond-mat.supr-con cs.ET
HW/SW Co-design for Reliable TCAM-based In-memory Brain-inspired Hyperdimensional Computing
本文研究不精确存内硬件对HDC推理的影响,建模SRAM与FeFET中电压相关错误,并通过软硬件协同设计实现最高6倍节能及面积、功耗收益。
2023-04-26 cs.ET
Stoch-IMC: A Bit-Parallel Stochastic In-Memory Computing Architecture Based on STT-MRAM
本文提出基于STT-MRAM的位并行随机存内计算架构Stoch-IMC,通过随机逻辑、调度映射算法及子阵列内并行显著提升性能、降低能耗并增强寿命与位翻转容忍度。
2024-11-28 cs.AR cs.ET
Memristors -- from In-memory computing, Deep Learning Acceleration, Spiking Neural Networks, to the Future of Neuromorphic and Bio-inspired Computing
机器学习,特别是以深度学习的形式,推动了人工智能最近的大部分基本发展。深度学习基于计算模型,这些模型在一定程度上是生物启发的,因为它们依赖于并行操作的连接的简单计算单元的网络。深度学习已成功应用于对象/模式识别、语音和自然语言处理、自动驾驶汽车、智能自诊断工具、自主机器人、知识渊博的个人助理和监控等领域。这些成功主要由三个因素支持:大量数据的可用性,计算能力的持续增长和算法创新。摩尔定律的即将消亡,以及随之而来的通过缩放可以实现的计算能力的预期适度改进,提出了所描述的进展是否会由于硬件限制而减慢或停止的问题。本文回顾了一种新型的超越CMOS硬件技术忆阻器的案例,它是实现高能效存内计算、深度学习加速器和脉冲神经网络的潜在解决方案。中心主题是对非冯诺依曼计算架构的依赖以及开发定制学习和推理算法的需求。为了证明生物学的经验教训可以为人工智能的进一步发展提供方向,我们简要讨论了一个基于储备池计算的例子。我们通过推测未来神经形态和大脑启发的计算系统的大局观来结束审查。
2020-04-30 cs.ET cs.NE
Hybrid In-memory Computing Architecture for the Training of Deep Neural Networks
King’s College London(伦敦国王学院);Arizona State University(亚利桑那州立大学)
在冯-诺依曼架构上训练深度神经网络(DNN)所涉及的成本促使开发用于高效DNN训练加速器的新解决方案。我们提出了一种混合存内计算(HIC)架构,用于在硬件加速器上训练DNN,从而实现内存高效推理,并在基准任务中优于基线软件准确性。我们引入了一个权重表示技术,利用二进制和多级相变存储器(PCM)设备,这导致了一个内存高效的推理加速器。与以前的基于存内计算的实现不同,我们使用了一个低精度的权重更新累加器,从而节省了更多的内存。我们训练ResNet-32网络使用HIC对CIFAR-10图像进行分类。对于可比较的模型大小,通过利用适当的网络宽度乘数,基于FPGA的训练优于以浮点32位(FP 32)精度训练的基线网络。此外,我们观察到,基于神经网络的训练导致推理模型大小减少约50%,以实现基线可比的准确性。我们还表明,PCM设备中的时间漂移对长时间(年)的训练后推理准确性的影响可以忽略不计。最后,我们的模拟表明,基于FPGA的训练自然确保了设备所看到的写擦除周期数是PCM耐久性极限的一小部分,证明了这种架构实现可以在现场学习的硬件平台的可行性。
2021-02-10 cs.AI cs.AR cs.ET
Ferroelectric FET-based Logic-in-Memory Encoder for Hyperdimensional Computing
Indian Institute of Technology Kanpur(坎普尔印度理工学院);Fraunhofer IPMS(弗劳恩霍夫IPMS研究所);TU Braunschweig(布伦瑞克工业大学)
本文提出基于铁电FET的逻辑在内存编码器,用于超维计算中的高效编码与分类,实现了高准确率和能效。
2025-12-23 cs.ET
A Microring as a Reservoir Computing Node: Memory/Nonlinear Tasks and Effect of Input Non-ideality
本研究将光学微谐振腔用于时分复用储备计算,结合虚拟节点法与岭回归训练实现线性及非线性逻辑运算,验证其最高2比特记忆能力,并指出需将储备池性能与输入信号同训练结果对比。
2022-03-11 cs.ET physics.optics
Programmable superconducting neuron with intrinsic in-memory computation and dual-timescale plasticity for ultra-efficient neuromorphic computing
本文提出一种可编程超导神经元,具备内在静态内存和精确可编程性,支持皮秒级短时可塑性和长时可塑性,实现高效神经形态计算。
2026-04-05 cs.ET
ReCross: Efficient Embedding Reduction Scheme for In-Memory Computing using ReRAM-Based Crossbar
ReCross提出一种基于ReRAM交叉阵列的存内计算方案,通过协同优化嵌入访问模式与交叉阵列特性,显著减少了DLRM嵌入降维的执行时间并提升了能效。
2025-09-12 cs.AR cs.ET
NORM: An FPGA-based Non-volatile Memory Emulation Framework for Intermittent Computing
间歇式计算系统仅依靠在其微小能量储存器(通常是电容器)中积累的收集能量来运行。间歇性设备在其电容器中没有能量时由于电源故障而死亡,并且在所收集的能量足以为其硬件组件供电时再次启动。由于计算状态的频繁丢失,电源故障阻止了计算的向前进展。为了解决这个问题,间歇计算系统包括具有高写入耐久性的内置快速非易失性存储器,以存储尽管频繁的电源故障也持续存在的信息。然而,设计工具的缺乏使得这些系统的快速原型化变得困难。尽管FPGA是持续供电架构的快速原型和行为验证的常见平台,但它们并不针对间歇性计算系统的原型。本文介绍了一个新的基于FPGA的框架,命名为NORM(非易失性存储器仿真器),模拟和验证任何间歇性计算系统,利用快速非易失性存储器的行为。我们的评估表明,NORM可以用来模拟和验证基于FeRAM的瞬态供电的硬件架构成功。
2022-02-16 cs.AR cs.ET cs.SY
In-memory Associative Processors: Tutorial, Potential, and Challenges
存内计算是一种新兴的计算范式,它克服了现有冯诺依曼计算体系结构的局限性,如存储墙瓶颈。在这种范例中,直接对存储在存储器中的数据执行计算,这大大减少了计算期间的存储器-处理器通信。因此,可以实现显著的加速和节能,特别是对于数据密集型应用程序。联想处理器(AP)是在70年代提出的,最近由于高密度存储器的出现而复活。在本教程中,我们概述了AP的功能和最新趋势,以及使用不同技术实现的每个内容可寻址内存。最后总结了AP操作和运行时复杂度。我们还解释和探讨了可能的应用程序,可以受益于AP。最后,AP的局限性,挑战和未来的发展方向进行了讨论。
2022-04-12 cs.AR cs.ET
SimAMC: A Fast and Accurate Simulator for Resistive Memory-Based Analog Matrix Computing with Non-Idealities
Institute for Artificial Intelligence, and School of Integrated Circuits, Peking University(北京大学人工智能研究院与集成电路学院)
针对闭环模拟矩阵计算电路对非理想性敏感的问题,提出SimAMC仿真器,通过交替迭代算法建模矩阵求逆和特征向量求解,在关键非理想性下实现与SPICE高度一致且加速数个数量级。
2026-06-16 cs.ET
MIMHD: Accurate and Efficient Hyperdimensional Inference Using Multi-Bit In-Memory Computing
超维计算(HDC)是一种新兴的计算框架,它通过对高维向量(称为超向量(HV))进行操作来模拟重要的大脑功能。HDC的存内计算实现是期望的,因为它们可以显著地减少数据传输开销。所有现有的内存中HDC平台都考虑二进制HV,其中每个维度都用单个位表示。然而,利用多位HV允许HDC在较低维度中实现可接受的精度,这进而导致更高的能量效率。因此,我们提出了一个高度准确和高效的多位内存中HDC推理平台,称为MIMHD。MIMHD支持使用铁电场效应晶体管(FeFET)交叉阵列进行乘法和加法以及使用FeFET多位内容可寻址存储器进行关联搜索的多位操作。我们还介绍了一种新的硬件感知再训练框架(HWART),训练HDC模型学习与MIMHD一起工作。对于六个流行的数据集和4000维HV,使用3位(2位)精度HV的MIMHD分别实现了(i)92.6%(88.9%)的平均准确度,比二进制实现高8.5%(4.8%);(ii)比GPU高84.1倍(78.6倍)的能量改进,以及(iii)比GPU高38.4倍(34.3倍)的加速。3位$\times$的速度是二进制HDC加速器的4.3倍和13倍,能效更高,同时实现类似的精度。
2021-06-22 cs.AR cs.ET
DISCA: A Digital In-memory Stochastic Computing Architecture Using A Compressed Bent-Pyramid Format
1 Centre for Electronics Frontiers, Institute for Integrated Micro;Nano Systems, School of Engineering, The University of Edinburgh, UK.;2 Electrical \& Electronics Engineering, Queen's University Belfast, UK.
本文提出DISCA,一种基于压缩弯金字塔格式的数字存内随机计算架构,旨在提升大规模AI模型矩阵乘法任务的能量效率。
2026-04-22 cs.AI cs.AR cs.ET
Field-Programmable Crossbar Array (FPCA) for Reconfigurable Computing
几十年来,根据摩尔定律,CMOS晶体管的缩放直接推动了电子技术的进步。然而,CMOS缩放和经典的计算机体系结构都正在接近基本和实用的极限,而基于新兴设备(例如阻性随机存取存储器(RRAM)设备)的新计算体系结构预计将维持计算能力的指数级增长。在这里,我们提出了一种新的内存为中心的,可重新配置的,通用的计算平台,能够处理爆炸性的数据量在一个快速和节能的方式。所提出的计算架构基于统一的、物理的、电阻性的、以存储器为中心的结构,该结构可以被最佳地重新配置并用于以大规模并行方法执行不同的计算和数据存储任务。通过动态地分配用于存储、算术和包括类脑计算任务的模拟计算的基本计算结构,可以定制系统以基于数据流实现最大能量效率。
2017-07-20 cs.AR cs.ET cs.NE
Photonic time-delayed reservoir computing based on series coupled microring resonators with high memory capacity
本文提出一种由非线性微环谐振器与线性微环阵列组成的时延储备池计算结构,以紧凑尺寸实现高存储容量,在混沌时间序列预测任务中性能与超长反馈波导方案相当。
2023-08-30 cs.ET physics.optics
Towards Efficient In-memory Computing Hardware for Quantized Neural Networks: State-of-the-art, Open Challenges and Perspectives
King Abdullah University of Science and Technology(阿卜杜拉国王科技大学)
本文全面综述了基于存内计算(IMC)的量化神经网络(QNN),将软件量化方法与IMC硬件实现相联系,并提出了开放挑战、设计要求、建议、展望及硬件路线图。
2023-07-08 cs.AI cs.AR cs.ET
Heterogeneous Mapping for Analog In-Memory Computing Accelerators: A Unified Workflow
IBM Research – Zurich(IBM 苏黎世研究中心)
本文提出一个统一的四阶段工作流,用于将DNN工作负载分区到模拟内存计算加速器中的模拟和数字资源上,并通过GPT-2案例展示了投影级映射和选择性数字执行的重要性。
2026-06-01 cs.AR cs.ET
XL-HD: Extended Learning in Hyperdimensional Computing via Deterministic Projections for In-Memory Accelerators
University of South Florida(南佛罗里达大学);University of Louisiana at Lafayette(路易斯安那大学拉斐特分校)
提出XL-HD框架,使用确定性Sobol序列投影和全可学习二进制原型,在保持紧凑内存加速器面积和超低能耗的同时,在MNIST、UCIHAR和ISOLET上达到竞争性精度。
2026-05-24 cs.AR cs.ET
A Precision-Optimized Fixed-Point Near-Memory Digital Processing Unit for Analog In-Memory Computing
IBM Research Europe(IBM欧洲研究院);IIS-ETH Zürich(苏黎世联邦理工学院信息与通信工程研究所)
针对现有模拟存内计算系统采用FP16运算存在的并行性不足、延迟高问题,提出基于定点运算的近存数字处理单元NMPU,在14nm工艺下实现,相较FP16方案大幅提升速度、缩减面积,精度损失极小。
2024-02-12 cs.AR cs.ET cs.LG
Modern analog computing for solving differential and matrix equations
Institute for Artificial Intelligence, School of Integrated Circuits, Peking University, Beijing Advanced Innovation Center for Integrated Circuits(人工智能研究院,集成电路学院,北京大学,北京集成电路先进创新中心);Dipartimento di Elettronica, Informazione e Bioingegneria, Politecnico di Milano(电子、信息与生物工程系,米兰理工大学);IBM Research Europe(IBM欧洲研究院)
本文综述现代模拟计算在求解微分方程和矩阵方程中的核心原语、硬件实现及最新进展,强调电阻式存储器阵列的优势,并讨论精度、可扩展性及与内存计算的关系。
2026-06-12 cs.AI cs.AR cs.ET