A Novel Low Power Non-Volatile SRAM Cell with Self Write Termination
提出了一种用于低功率应用的非易失性SRAM单元,其使用自旋转移力矩-磁性隧道结(STT-MTJ)器件。这种新颖的单元提供非易失性存储器,从而允许在待机操作期间关闭SRAM的选定块。为了进一步增加功率节省,设计了写入终止电路,其检测MTJ写入的完成并关闭MTJ的双向电流路径。减少了25.81%的晶体管的数量和减少了2.95%的功耗相比,以前的工作写终止电路实现。
2019-10-01 cs.AR cs.ET
Augmented Memory Computing: Dynamically Augmented SRAM Storage for Data Intensive Applications
在本文中,我们提出了一种新的以存储器为中心的方案,基于CMOS SRAM的数据密集型应用的加速。我们的建议旨在动态增加片上存储器存储容量的SRAM阵列的需求。所提出的方案称为增强存储器计算允许SRAM单元在两种不同的模式下操作:1)正常模式和2)增强模式。在正常操作模式下,SRAM单元的功能类似于标准的6晶体管(6T)SRAM单元,以静态格式存储一位数据。在增强模式下,每个SRAM单元可以存储> 1位的数据(以动态方式)。具体来说,我们提出了两个新的SRAM单元-8晶体管(8T)双位存储增强单元和7晶体管(7T)三进制位存储增强单元。所提出的8T双位SRAM单元在增强模式下操作时,可以存储静态数据位,同时还可以以动态形式存储另一位。因此,当在增强模式下操作时,8T SRAM单元可以存储两个数据位-一个类似SRAM的数据和一个类似DRAM的数据,从而增加或扩充存储器存储容量。另一方面,所提出的7T三进制位存储扩充单元可以在正常模式下存储单个SRAM数据,或者可以被配置为在扩充模式下操作,其中它可以以动态方式存储三进制数据(3个电平(0,0)、(0,1)、(1,0))。因此,基于操作模式,所提出的扩充存储器位单元可以存储一个静态位的数据或> 1位的动态格式的数据。我们通过在Globalfoundries 22 nm FDX节点上进行的大量模拟,展示了我们提出的位单元的可行性。值得一提的…
2021-07-25 cs.AR
Performance Analysis of 6T and 9T SRAM
SRAM单元由锁存器组成,这确保了只要打开电源,SRAM单元就可以保存单元数据,并且不需要对SRAM单元进行刷新操作。SRAM具有数据传输速度快、功耗低、供电电压低、无需刷新等优点,被广泛应用于微处理器、游戏软件、计算机、工作站、便携式手持设备等领域。因此,为了构建可靠的高速缓存/存储器,必须将单个单元(SRAM)设计为具有高静态噪声容限(SNM)。在亚阈值区,传统的6 T单元SRAM经历了差的读写能力,以及在阈值电压的各种波动、电源电压缩减和纳米范围(180 nm、90 nm、45 nm、22 nm、16 nm和10 nm)的工艺缩减下SNM的降低。因此,与内部反馈独立于存取晶体管操作的保持操作相比,噪声容限在读取和写入操作期间变得更差。由于传统6 T SRAM单元的这些限制,我们提出了一种9 T SRAM,它将大大减少这些限制;在6 T拓扑结构中添加额外的三个晶体管将改善读取,保持和写入SNM。使用Cadence Virtuoso进行设计和仿真,以评估6 T和9 T SRAM单元的性能。
2019-05-18 cs.AR
A Technique for Write-endurance aware Management of Resistive RAM Last Level Caches
由于SRAM器件的高速缓存大小和大泄漏消耗的增加,常规SRAM高速缓存对处理器功耗有显著贡献。最近,研究人员已经使用非易失性存储器设备来设计高速缓存,因为它们提供高密度、相当的读取延迟和低泄漏功耗。然而,它们的高写入延迟可能会增加执行时间,从而增加泄漏能耗。而且,由于它们的写入耐久性小,所以传统的节能技术可能进一步加剧写入变化的问题,从而减少它们的寿命。在本文中,我们提出了一种非易失性缓存的缓存节能技术,它也试图提高他们的生命周期,使写均匀分布到缓存。我们的技术使用动态缓存重新配置来调整缓存大小,以满足程序的要求,并关闭剩余的缓存,以节省能源。使用x86-64模拟器,SPEC 2006基准和连续RAM LLC(最后一级缓存)进行的微体系结构模拟表明,在8 MB的基线缓存,我们的技术节省了17.55%的内存子系统(最后一级缓存+主内存)的能量,并提高了1.33倍的寿命。在相同的连续RAM基线上,没有高速缓存重新配置的类似面积的SRAM导致186.13%的能量损失。
2014-04-30 cs.AR
A Cache Energy Optimization Technique for STT-RAM Last Level Cache
末级高速缓存(LLC)占据大的芯片面积,并且其大小预计将进一步增长以抵消内存带宽和速度的限制。由于SRAM器件的高漏电流消耗,使用SRAM设计的高速缓存消耗大量的能量。为了解决这个问题,已经研究了诸如自旋扭矩转移RAM(STT-RAM)的新兴技术的使用,其具有较低的泄漏功率耗散。然而,其高写入延迟和功率可能导致大的能量消耗,这在其使用中提出了挑战。在这份报告中,我们提出了一个基于高速缓存重新配置的技术,用于提高基于STT-RAM的LLC的能源效率。我们的技术动态调整活动缓存大小,以减少缓存泄漏的能量消耗,最小的性能损失。我们选择了一个合适的STT-RAM保留时间值,以避免刷新开销并提高性能。使用SPEC 2006基准和Sniper x86-64模拟器进行了单核模拟。结果表明,虽然,相比类似面积的STT-RAM LLC,SRAM LLC招致近100%的能量损失和7.3%的性能损失,我们的技术使用STT-RAM缓存节省了21.8%的能量,只招致1.7%的性能损失。
2014-08-08 cs.AR
A Method for Hiding the Increased Non-Volatile Cache Read Latency
工作负载对内存需求的增加给末级缓存(LLC)带来了很大的压力。不幸的是,由于底层SRAM技术的面积和功率要求,增加LLC的容量的机会有限。有趣的是,新兴的非易失性存储器(NVM)技术由于其更高的面积密度而有望成为LLC的SRAM的可行替代品。然而,NVM具有显著更高的读取和写入延迟,这抵消了它们的面积密度优势。尽管研究人员已经提出了容忍NVM增加的写入延迟的方法,但很少强调减少关键的NVM读取延迟。为了解决这个问题,本文提出了Cloak。Cloak利用LLC中页级的数据重用来隐藏NVM读取延迟。具体地,在对页面的某些L1 TLB未命中时,Cloak将属于该页面的LLC驻留数据从LLC NVM阵列传输到一组小SRAM页面缓冲器,这些小SRAM页面缓冲器将服务于对该页面的后续请求。此外,为了实现页面的行到页面缓冲器的高带宽、低延迟传输,Cloak使用LLC布局,该布局加速从页面发现LLC驻留的高速缓存行。我们对Cloak进行了14个工作负载的4核处理器的全系统模拟。我们发现,平均而言,Cloak的性能比SRAM LLC高出23.8%,比仅支持NVM的LLC高出8.9% --在这两种情况下,额外的面积可以忽略不计。此外,斗篷的ED^2分别比这些设计低39.9%和17.5%。
2021-12-20 cs.AR
TS Cache: A Fast Cache with Timing-speculation Mechanism Under Low Supply Voltages
针对低电压下SRAM缓存延迟长尾导致的性能瓶颈,本文提出带时序推测机制的TS Cache,通过灵敏放大器两次评估位线压差提前检测时序错误,流片验证其在0.5V、0.6V下频率分别达传统方案的1.62倍、1.92倍,提升了低电压下缓存的频率与能效。
2023-06-15 cs.AR
A Context-Switching/Dual-Context ROM Augmented RAM using Standard 8T SRAM
本文提出一种基于标准8T SRAM的上下文切换/双上下文存储器,通过选择读端口晶体管阈值电压实现ROM与RAM数据同时存储,并验证了其在22nm工艺下的鲁棒性。
2023-04-06 cs.AR cs.SY eess.SY
Efficient Placement and Migration Policies for an STT-RAM based Hybrid L1 Cache for Intermittently Powered Systems
本文提出一种基于SRAM和STT-RAM的混合L1 Cache架构的高效放置与迁移策略,通过减少STT-RAM写入次数和优化关键块备份策略,显著提升了间歇供电系统的性能并降低了能耗和备份时间。
2023-02-14 cs.AR
HyGain: High Performance, Energy-Efficient Hybrid Gain Cell based Cache Hierarchy
在本文中,我们提出了一个“全栈”的解决方案,设计高容量和低延迟的片上高速缓存层次结构的硬件设计栈的电路级开始。首先,我们提出了一种新颖的增益单元(GC)的设计使用FDSOI。GC具有几个理想的特性,包括与传统的6 T SRAM相比,存储密度高约50%,动态能量低约50%,即使在考虑外围电路开销之后。我们还利用背栅偏置将保留时间提高到1.12 ms(约为eDRAM的60倍),结合交错刷新等优化,使其成为构建各级片上缓存的理想候选者。我们表明,与6 T SRAM相比,对于给定的面积预算,基于GC的缓存平均为单编程和多编程工作负载分别提供29%和36%的IPC增加,包括SPEC CPU 2017在内的当代工作负载。我们还观察到,单编程和多编程工作负载的动态节能分别为42%和34%。我们利用所提出的GC的固有属性,包括解耦的读和写位线设计优化,以节省预充电能量和建筑GC缓存具有更好的能量和性能特性。最后,为了利用所有世界中最好的东西,我们将GC与STT-RAM结合起来创建混合层次结构。我们表明,在L1和L2的GC缓存的混合层次结构,和GC和STT-RAM之间的LLC分裂,启用非对称写入优化,能够提供54%的好处,在能量延迟产品(EDP)相比,全SRAM设计,和13%相比,全GC缓存层次结构,平均跨多编程的工作负载。
2021-10-06 cs.AR
DeepNVM++: Cross-Layer Modeling and Optimization Framework of Non-Volatile Memories for Deep Learning
Carnegie Mellon University(卡内基梅隆大学);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
非易失性存储器(NVM)技术(诸如自旋转移矩磁性随机存取存储器(STT-MRAM)和自旋轨道矩磁性随机存取存储器(SOT-MRAM))由于其非易失性、更高的单元密度和可缩放性特征而与常规SRAM相比具有显著的优点。虽然以前的工作已经研究了NVM对通用应用程序的几种架构影响,但在这项工作中,我们提出了DeepNVM++,这是一个框架,通过结合技术特定的电路级模型和各种DL工作负载的实际内存行为,来表征,建模和分析GPU架构中基于NVM的缓存,用于深度学习(DL)应用程序。我们提出了等容量和等面积的性能和能量分析系统的最后一级缓存依赖于传统的SRAM和新兴的STT-MRAM和SOT-MRAM技术。在等容量情况下,与传统SRAM相比,STT-MRAM和SOT-MRAM分别提供高达3.8倍和4.7倍的能量延迟乘积(EDP)减少以及2.4倍和2.8倍的面积减少。在等面积假设下,与SRAM相比,STT-MRAM和SOT-MRAM分别提供高达2倍和2.3倍的EDP减少,并容纳2.3倍和3.3倍的缓存容量。我们还进行了可扩展性分析,并表明,STT-MRAM和SOT-MRAM实现的数量级EDP减少相比,SRAM的大缓存容量。我们全面的跨层框架在STT-/SOT-MRAM技术上得到了演示,可用于DL应用中GPU末级缓存的任何NVM技术的表征、建模和分析。
2020-12-08 cs.AR cs.LG
OpenOpt: An Open-Source SRAM Optimizer Based on Equivalent Circuit Model
Nanjing University of Science and Technology(南京理工大学);Shenzhen University(深圳大学);Beihang University(北京航空航天大学)
提出基于等效电路模型的SRAM架构与晶体管尺寸联合优化框架,实现61.4倍仿真加速,MOEA/D算法在SNM、面积和峰值功耗上分别提升6.2%、降低73.6%和42.3%。
2026-06-08 cs.AR cs.NE
CMOS+X: Stacking Persistent Embedded Memories based on Oxide Transistors upon GPGPU Platforms
本文提出将AOS晶体管集成为GPGPU中多端口持久性存储器,通过M3D集成复用阵列提升密度并降低功耗,实验显示每瓦性能最高提升5.2倍且IPC平均提高8%。
2025-06-29 cs.AR cs.ET
Efficient Deep Learning Using Non-Volatile Memory Technology
Carnegie Mellon University(卡内基梅隆大学);Apple Inc.(苹果公司);The University of Texas at Austin(德克萨斯大学奥斯汀分校)
嵌入式机器学习(ML)系统现在已经成为部署ML服务任务的主导平台,并且预计将成为训练ML模型的同等重要性。随之而来的挑战是在严格的内存约束下进行整体高效部署,特别是低功耗和高吞吐量的实现。在此上下文中,与常规SRAM相比,诸如STT-MRAM和SOT-MRAM的非易失性存储器(NVM)技术由于其非易失性、更高的单元密度和可缩放性特征而具有显著的优点。虽然之前的工作已经研究了NVM对通用应用的几种架构影响,但在这项工作中,我们提出了DeepNVM++,这是一个综合框架,通过结合特定技术的电路级模型和各种深度学习工作负载的实际内存行为,来表征,建模和分析GPU架构中基于NVM的缓存,用于深度学习(DL)应用。DeepNVM++依赖于使用传统SRAM和新兴STT-MRAM和SOT-MRAM技术实现的最后一级缓存的等容量和等面积性能和能量模型。在等容量情况下,与传统SRAM相比,STT-MRAM和SOT-MRAM分别提供高达3.8倍和4.7倍的能量延迟乘积(EDP)减少以及2.4倍和2.8倍的面积减少。在等面积假设下,与SRAM相比,STT-MRAM和SOT-MRAM分别提供高达2.2倍和2.4倍的EDP减少,并容纳2.3倍和3.3倍的缓存容量。我们还进行了可扩展性分析,并表明,STT-MRAM和SOT-MRAM实现的数量级EDP减少相比,SRAM的大缓存容量。DeepNVM++在STT-…
2022-06-27 cs.AR cs.LG
Single Event Upsets characterization of 65 nm CMOS 6T and 8T SRAM cells for ground level environment
针对地面环境下65 nm CMOS工艺的6T和8T SRAM单元,通过CERN的CHARM设施加速辐照测试,发现6T单元SEU截面比8T高1.45倍且多位事件趋势更高,其灵敏度可满足高能物理实验辐射监测需求。
2024-11-26 cs.AR hep-ex physics.ins-det
Enabling Normally-off In-Situ Computing with a Magneto-Electric FET-based SRAM Design
本文提出非易失性 ME-SRAM 单元及支持位线布尔计算的存内处理架构,以快速备份恢复实现常关原位计算,并在二值 CNN 加速中实现 5.3 倍平均能效提升。
2023-12-08 cs.AR
A Process-Aware Hybrid Si/IGO Monolithic-3D 6T SRAM with BEOL Pass-Gates for the 2nm Node
School of Electrical and Computer Engineering, Georgia Institute of Technology(佐治亚理工学院电气与计算机工程学院);Synopsys(新思科技)
该研究提出一款面向2nm节点的工艺感知混合Si/IGO单片3D 6T SRAM,通过新颖的邻胞共享源漏位线设计实现面积缩减,相比硅基准单元在静态噪声容限、写入延迟及能量延迟积上均有优化。
2026-08-25 cs.AR cs.ET
PICO-RAM: A PVT-Insensitive Analog Compute-In-Memory SRAM Macro with In-Situ Multi-Bit Charge Computing and 6T Thin-Cell-Compatible Layout
本文提出PICO-RAM,一种PVT不敏感的模拟存内计算SRAM宏,采用电荷域位并行计算和6T薄单元兼容布局,实现高密度存储与高鲁棒性。
2024-07-03 cs.AR cs.ET
STeP-CiM: Strain-enabled Ternary Precision Computation-in-Memory based on Non-Volatile 2D Piezoelectric Transistors
我们提出了一种基于二维压电场效应管(PeFET)的计算支持的非易失性存储器,用于三值深度神经网络(DNN)。PeFET由具有与过渡金属二硫属化物沟道耦合的铁电和压电性质的材料组成。我们利用铁电性以极化(-P/+P)的形式存储二进制比特(0/1),利用极化相关的压电性通过过渡金属二硫族化物沟道中的应变诱导带隙变化读取存储状态。PeFET的独特读取机制使我们能够根据读取电压将+P(-P)与低(高)电阻状态的传统关联扩展到其双重高(低)电阻。具体地,我们证明了存储在PeFET中的+P(-P)可以动态地配置在(a)用于正读取电压的低(高)电阻状态和(b)用于负读取电压的其双重高(低)电阻状态中,而不影响读取干扰。这样的功能,我们命名为保偏压电效应抑制与双电压极性(PiER),是唯一的PeFET,并没有显示在迄今为止探索的存储器。我们利用PiER提出了一个应变使能的三进制精度计算内存(STeP-CiM)单元,具有计算存储的权重和输入的标量积的能力,这两者都是用有符号的三进制精度表示的。此外,使用STeP-CiM单元的多字线断言,我们实现了有符号三进制输入和权重的点积的大规模并行计算。我们的阵列级分析显示,与基于SRAM和PeFET的近存储器设计方法相比,存储器内乘法和累加操作的延迟降低了91%,能量提高了15%和91%。与基于SRAM/PeFET的近存储器设计相比,STeP-CiM的性能提高…
2022-03-30 cs.AR cs.ET
TDRAM: Tag-enhanced DRAM for Efficient Caching
提出TDRAM,一种专为缓存设计的新型DRAM微架构,通过在HBM3芯片上集成标签阵列实现快速并行访问与片内比较,优化命中与缺失延迟,显著提升性能并降低能耗。
2024-04-22 cs.AR
Ouroboros: Wafer-Scale SRAM CIM with Token-Grained Pipelining for Large Language Model Inference
SKLP, Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学)
Ouroboros通过令牌粒度流水线、分布式动态KV缓存管理和通信感知映射,实现了大语言模型推理在片上SRAM中的高效执行,提升了吞吐量和能效。
2026-03-03 cs.AR
ROBIN: Incremental Oblique Interleaved ECC for Reliability Improvement in STT-MRAM Caches
Sharif University of Technology(谢里夫理工大学);Amirkabir University of Technology(阿米尔卡比尔理工大学)
ROBIN通过高效ECC配置显著提升STT-MRAM缓存的可靠性,减少缓存错误率超过28倍。
2026-01-01 cs.AR
Neural Cache: Bit-Serial In-Cache Acceleration of Deep Neural Networks
本文介绍了神经缓存架构,该架构对缓存结构进行了重新设计,将其转换为能够为深度神经网络运行推理的大规模并行计算单元。提出了在SRAM阵列中进行原位运算、创建有效的数据映射和减少数据移动的技术。神经缓存架构能够在缓存中完全执行卷积层、完全连接层和池化层。所提出的架构还支持量化缓存。我们的实验结果表明,所提出的架构可以提高推理延迟的18.3倍的最先进的多核CPU(至强E5),7.7倍的服务器级GPU(泰坦Xp),为Inception v3模型。Neural Cache将推理吞吐量提高了12.4倍(比GPU提高了2.2倍),同时将CPU功耗降低了50%(比GPU降低了53%)。
2018-05-09 cs.AR cs.NE
TRAPTI: Time-Resolved Analysis for SRAM Banking and Power Gating Optimization in Embedded Transformer Inference
Brno University of Technology(布尔诺理工大学)
针对嵌入式硬件中变换器网络在面积、延迟和能耗约束下的部署问题,TRAPTI通过时序分析和模拟仿真,优化SRAM银行化与电源门控策略,降低内存占用并提升效率。
2026-04-08 cs.AR
FERMI-ML: A Flexible and Resource-Efficient Memory-In-Situ SRAM Macro for TinyML acceleration
Indian Institute of Technology Indore-453552, India(印度理工学院印度分校)
FERMI-ML是一种灵活高效的内存内SRAM宏,用于支持TinyML的混合精度计算和查找操作,实现高能效和低功耗的AIoT推理。
2025-11-16 cs.AR cs.ET cs.LG
CacheFit: The Rising Cost of Cache Replacement and Constraint-Driven Redesign of Last-Level Cache Replacement Policies
North Carolina State University(北卡罗来纳州立大学)
CacheFit是首个将电路级成本纳入搜索目标的LLC替换策略设计循环,应用于MPPPB和SHiP++后,生成的Fit-MPPPB和Fit-SHiP++可大幅降低硬件成本,同时保持或优化性能。
2026-10-09 cs.AR cs.PF
LaKe: An Energy Efficient, Low Latency, Accelerated Key-Value Store
键值存储是一种流行的云计算应用类型。键值存储应用程序的性能已被证明对数据中心内的负载非常敏感,特别是对延迟非常敏感。随着数据中心内的负载增加,在不超过主机的处理能力和机架的功率预算的情况下维持键值存储应用的性能变得越来越困难。在本文中,我们提出了Lake:一个低延迟,高能效的键值存储设计的云应用程序。LaKe是一个模块化设计,结合了多核和缓存分层,无论是在硬件和软件。LaKe实现了全线速吞吐量,同时保持了1.1us的延迟和比现有基于硬件的memcached设计更好的能效。使用我们的设计的模块化,我们研究权衡使用片上存储器,SRAM和DRAM的加速设计,并为未来的架构提供见解。
2018-05-29 cs.AR
SiTe CiM: Signed Ternary Computing-in-Memory for Ultra-Low Precision Deep Neural Networks
提出支持带符号三值输入与权重点积的存内计算架构SiTe-CiM,基于交叉耦合位单元设计两种变体,在多种存储技术上实现显著降低延迟与能耗,并大幅提升系统吞吐量。
2024-08-24 cs.AR
OpenGCRAM: An Open-Source Gain Cell Compiler Enabling Design-Space Exploration for AI Workloads
本文提出了开源GCRAM编译器OpenGCRAM,支持生成GCRAM存储体电路设计与版图并提供面积、延迟和功耗仿真,以加速AI工作负载专用加速器的片上存储器设计空间探索。
2025-07-14 cs.AR cs.SY eess.SY