Modeling Analog-Digital-Converter Energy and Area for Compute-In-Memory Accelerator Design
本研究针对模拟存算一体加速器中ADC能耗与面积占比高、架构决策影响大的问题,提出一种仅基于架构属性、抽象电路细节的开源架构级模型,可快速估算ADC能耗与面积,支撑存算一体加速器的设计空间探索。
2024-05-14 cs.AR
Digital Neuron: A Hardware Inference Accelerator for Convolutional Deep Neural Networks
我们提出了一个数字神经元,这是一个硬件推理加速器,用于嵌入式系统的卷积深度神经网络,具有整数输入和整数权重。该算法的主要思想是通过桶形移位器和并行加法器对输入特征向量和权值向量进行点积运算,从而减小电路面积和功耗。减少的面积允许更多的计算引擎被安装在推理加速器上,从而导致与现有的HW加速器相比的高吞吐量。我们验证了与32位浮点计算相比,整数与3个部分子整数的乘法不会导致推理精度的显著损失。所提出的数字神经元可以在一个时钟内执行800次MAC操作,用于卷积和全连接计算。本文提出了一种方案,重用的输入,重量,和输出的所有层,以减少DRAM访问。此外,本文提出了一种可配置的架构,可以提供卷积神经网络的自适应特性的推理。以瓦特为单位的数字神经元的吞吐量达到754.7 GMACs/W。
2019-02-07 cs.AR eess.SP
Lookup Table-based Multiplication-free All-digital DNN Accelerator Featuring Self-Synchronous Pipeline Accumulation
提出一种基于MADDNESS的全数字DNN加速器,采用自同步流水线累加,实现紧凑、节能且PVT不敏感的计算,能效和面积效率分别提升2.5倍和5倍。
2025-06-20 cs.AR
TCN-CUTIE: A 1036 TOp/s/W, 2.72 uJ/Inference, 12.2 mW All-Digital Ternary Accelerator in 22 nm FDX Technology
Tiny机器学习(TinyML)应用会施加uJ/Inference约束,最大功耗为数十mW。以合理的精度水平满足这些要求是极具挑战性的。这项工作通过在基于RISC-V的片上系统(SoC)中实现灵活的全数字三值神经网络(TNN)加速器来应对挑战。除了支持三元卷积神经网络,我们引入扩展的加速器设计,使时间膨胀的时间卷积神经网络(TCN)的处理。该设计实现了5.5 uJ/推理,12.2 mW,8000推理/秒在0.5 V的动态视觉传感器(DVS)为基础的TCN,和2.72 uJ/推理,12.2 mW,3200推理/秒在0.5 V的非平凡9层,每层96通道卷积网络与CIFAR-10的准确度为86%,在94.5%的准确度和2.52 uJ/推理,12.2 mW,3200推理/秒。峰值能效为1036 TOp/s/W,比最先进的硅验证TinyML量化加速器高出1.67倍,同时实现了具有竞争力的精度。
2022-12-01 cs.AR
StreamDCIM: A Tile-based Streaming Digital CIM Accelerator with Mixed-stationary Cross-forwarding Dataflow for Multimodal Transformer
本文提出StreamDCIM加速器,通过可重构CIM宏微架构、混合驻留交叉转发数据流和细粒度计算重写流水线,解决现有多模态Transformer加速器灵活性不足的问题,实现显著性能提升。
2025-02-09 cs.AR
An All-digital 8.6-nJ/Frame 65-nm Tsetlin Machine Image Classification Accelerator
The University of Agder(阿格德大学);Centre for Artificial Intelligence Research (CAIR)(人工智能研究中心);School of Engineering(工程学院);Newcastle University(新castle大学)
提出基于 Tsetlin machine 的全数字图像分类加速器芯片,采用 65nm CMOS 工艺,实现高能效与高准确率,匹配软件模型性能。
2025-07-15 cs.AR cs.LG
FlexSpIM: An Event-Based Digital Compute-In-Memory Accelerator with Flexible Operand Resolution and Layer-Wise Hybrid Stationarity
Delft University of Technology(代尔夫特理工大学);KU Leuven(荷语鲁汶大学)
FlexSpIM是一种数字存内计算加速器,通过支持任意操作数分辨率和层间混合驻留数据流,在IBM DVS手势数据集上实现95.8%准确率,并降低45%能耗和52%延迟。
2026-09-09 cs.AR
SpiDR: A Reconfigurable Digital Compute-in-Memory Spiking Neural Network Accelerator for Event-based Perception
针对现有SNN加速器适应性差、Vmem处理低效及稀疏优化不足的问题,提出可重构数字存内计算加速器SpiDR,支持多精度与零跳过,在65nm工艺下实现5 TOPS/W能效。
2024-11-05 cs.AR cs.LG cs.NE
HCiM: ADC-Less Hybrid Analog-Digital Compute in Memory Accelerator for Deep Learning Workloads
针对模拟CiM加速器中ADC带来的高功耗与面积开销问题,提出无ADC的混合模数加速器HCiM,结合模拟交叉阵列与数字CiM阵列处理缩放因子,实现最高28%的能耗降低。
2024-03-20 cs.AR
PolyCIM: Improving Data Reuse in Digital CIM Accelerators with Polyhedral-Based Compilation
Beihang University(北京航空航天大学)
针对数字CIM加速器中DNN映射导致的阵列利用不足问题,提出基于多面体的编译框架PolyCIM,通过仿射变换暴露非轴向数据复用超平面,实现最高4倍宏利用率和3.2倍加速。
2026-09-29 cs.AR
AnalogNets: ML-HW Co-Design of Noise-robust TinyML Models and Always-On Analog Compute-in-Memory Accelerator
Arm Research(Arm研究院);IBM Research(IBM研究院);ETH Zürich(苏黎世联邦理工学院)
物联网应用中始终在线的TinyML感知任务需要非常高的能效。使用非易失性存储器(NVM)的模拟内存计算(CiM)承诺高效率,并且还提供自包含的片上模型存储。然而,模拟CiM引入了新的实际考虑因素,包括电导漂移、读/写噪声、固定模数(ADC)转换器增益等。必须解决这些额外的限制,以实现可以在模拟CiM上部署的模型,并具有可接受的精度损失。这项工作描述了$\textit{AnalogNets}$:TinyML模型的流行始终在线的应用程序的关键字发现(KWS)和视觉唤醒词(VWW)。该模型架构是专门为模拟CiM设计的,我们详细介绍了一种全面的训练方法,以保持在面对模拟非理想的准确性,并在推理时低精度数据转换器。我们还描述了AON-CiM,一个可编程的,最小面积的相变存储器(PCM)的模拟CiM加速器,与一个新的层串行的方法,以消除与全流水线设计相关的复杂互连的成本。我们在校准的模拟器以及真实硬件上评估了AnalogNets,发现KWS/VWW的PCM漂移(8位)24小时后,精度下降仅限于0.8 $\%$ /1.2 $\%$。在14 nm AON-CiM加速器上运行的模拟网络在使用8位激活时分别为KWS/VWW工作负载展示了8.58/4.37 TOPS/W,并在使用$4$位激活时增加到57.39/25.69 TOPS/W。
2021-11-10 cs.AR cs.ET cs.LG
The Data Conversion Bottleneck in Analog Computing Accelerators
本文指出模拟计算加速器因数据转换产生性能瓶颈,通过案例研究评估自建光学傅里叶变换与卷积加速器,发现其仅在纯傅里叶变换和卷积任务中显著加速。
2023-12-30 cs.AR physics.optics
Leveraging Residue Number System for Designing High-Precision Analog Deep Neural Network Accelerators
Boston University(波士顿大学);Harvard University(哈佛大学);Lightmatter
针对模拟DNN加速器中高精度数据转换器成本高的问题,提出利用剩余数系(RNS)组合低精度运算实现高精度,还采用冗余RNS实现容错,可大幅降低数据转换器能耗。
2023-06-15 cs.AR cs.ET cs.LG
A 28nm 27,648-Spin Multichip Digital Ising Accelerator with Pegasus Connectivity
Carnegie Mellon University(卡内基梅隆大学);University of Michigan(密歇根大学);Stanford University(斯坦福大学);University of California, Santa Barbara(加州大学圣塔芭芭拉分校)
提出28nm四芯片数字伊辛加速器,含27,648自旋,通过时分复用和调度传输达41.5G更新/秒,1.2pJ/更新,Pegasus连接和10位系数提升精度,3.3微秒求解27,069节点MaxCut。
2026-09-11 cs.AR cs.ET
PulseDL-II: A System-on-Chip Neural Network Accelerator for Timing and Energy Extraction of Nuclear Detector Signals
Tsinghua University(清华大学);Central China Normal University(华中师范大学)
配备高速数字化仪的前端电子设备正在被用于未来的核探测器。最近的文献表明,深度学习模型,特别是一维卷积神经网络,在处理来自核探测器的数字信号时很有前途。仿真和实验表明,令人满意的精度和额外的好处,神经网络在这方面。然而,具体的硬件加速这种模式的在线操作仍然需要研究。在这项工作中,我们介绍PulseDL-Ⅱ,片上系统(SoC),专门设计的事件功能(时间,能量等)的应用。通过深度学习提取脉冲。基于以前的版本,PulseDL-II将RISC CPU纳入系统结构,以实现更好的功能灵活性和完整性。SoC中的神经网络加速器采用三级(运算单元、处理单元、神经网络)分层结构,便于数字设计的参数优化。此外,我们设计了一种与深度学习框架兼容的量化方案(例如,TensorFlow)。我们验证了正确的操作PulseDL-II的现场可编程门阵列(FPGA)单独和实验设置,包括一个直接数字合成(DDS)和模数转换器(ADC)。该系统在信噪比为47.4 dB时,时间分辨率为60 ps,能量分辨率为0.40%。
2023-02-09 cs.AR cs.LG physics.ins-det
SparseDPD: A Sparse Neural Network-based Digital Predistortion FPGA Accelerator for RF Power Amplifier Linearization
Delft University of Technology(代尔夫特理工大学)
本文提出SparseDPD,一种基于稀疏神经网络的FPGA加速器,通过无结构剪枝优化,实现高效实时无线通信中的射频功率放大器线性化。
2025-06-19 cs.AR eess.SP
Multiscale Co-Design Analysis of Energy, Latency, Area, and Accuracy of a ReRAM Analog Neural Training Accelerator
神经网络是自然语言处理和模式识别的一种越来越有吸引力的算法。具有> 50 M参数的深度网络是通过现代GPU集群以<50 pJ/op的速度运行而实现的,最近,生产加速器能够在板级上以<5 pJ/op的速度运行。然而,随着CMOS规模的放缓,将需要新的范例来实现下几个数量级的性能功耗比增益。使用模拟电阻式存储器(ReRAM)交叉开关在加速器中执行关键矩阵运算是一个有吸引力的选择。这项工作提出了一个详细的设计,使用最先进的14/16 nm PDK的模拟交叉开关电路块的设计,以处理三个关键的内核所需的训练和推理的神经网络。给出了详细的电路和器件级能量、延迟、面积和精度分析,并与使用标准数字ReRAM和SRAM操作的相关设计进行了比较。模拟加速器与仅利用数字ReRAM的类似块相比具有270倍的能量和540倍的延迟优势,并且每个乘法和累加(MAC)仅需要11 fJ。与基于SRAM的加速器相比,能量提高了430倍,延迟提高了34倍。尽管模拟加速器中的训练精度降低,但提出了几种改进方法。与此加速器块的类似仅数字版本相比,可能的收益表明,继续优化模拟电阻式存储器是有价值的。对训练加速器的电路和器件进行了详细的分析,为进一步的体系结构级研究奠定了基础。
2018-02-17 cs.AR cs.NE
An Event-Based Digital Compute-In-Memory Accelerator with Flexible Operand Resolution and Layer-Wise Weight/Output Stationarity
Delft University of Technology(代尔夫特理工大学);KU Leuven(鲁汶大学);Prophesee(Prophesee公司)
针对现有脉冲神经网络存内计算加速器灵活性不足的问题,提出支持任意操作数分辨率、采用统一存储与混合驻存数据流的数字CIM宏单元,能效提升显著且分类精度达当前最优。
2024-10-30 cs.AI cs.AR
Peregrino: A Full-Hardware Accelerator for the Complete Falcon Post-Quantum Digital Signature Scheme on Resource-Constrained Edge Devices
Universidad Politécnica de Madrid(马德里理工大学)
针对Falcon后量子签名在硬件实现的难题,提出Peregrino加速器,用HDL从零设计完整方案,以模拟浮点适配无FPU边缘设备,资源占用大幅低于HLS方案,性能提升显著。
2026-09-28 cs.AR cs.CR
A Fully Hardware Implemented Accelerator Design in ReRAM Analog Computing without ADCs
1 SKLP, \ Institute \ of \ Computing \ Technology, \ Chinese \ Academy \ of \ Sciences, \ Beijing, \ China
本文提出一种无需ADC和DAC的ReRAM模拟计算加速器RACA,利用ReRAM噪声实现随机二值化神经元及Sigmoid和SoftMax激活函数,在保持推理精度的同时提升能效和面积效率。
2024-12-27 cs.AI cs.AR
Adaptive Robotic Arm Control with a Spiking Recurrent Neural Network on a Digital Accelerator
University of Sevilla(塞维利亚大学);Politecnico di Torino(都灵理工大学);Graz University of Technology(格拉茨工业大学);University of Zurich(苏黎世大学);Delft University of Technology(代尔夫特理工大学)
本文将开源数字ReckOn芯片适配至Xilinx MPSoC平台,提出配套Python框架,并在机械臂控制场景中验证其有效性,在保持模拟精度的同时实现了每秒处理3.8M个事件的峰值性能。
2024-06-02 cs.AI cs.AR
A complete discussion on fully reconfigurable, digital, scalable, graph and sparsity-aware near-memory accelerator for graph neural networks
The University of Texas At Austin(德克萨斯大学奥斯汀分校)
提出一种无DAC/ADC的可扩展近内存计算架构NEM-GNN,通过早期计算终止、预计算和图与稀疏感知的聚合机制,显著提升图神经网络的性能、能效和计算密度。
2026-06-20 cs.AR
A New MRAM-based Process In-Memory Accelerator for Efficient Neural Network Training with Floating Point Precision
Rice University(莱斯大学)
现代深度神经网络(DNN)的卓越性能往往伴随着高昂的训练成本,这限制了DNN创新的快速发展,并引发了各种环境问题。为了减少训练的主要数据移动成本,内存中进程(PIM)已经成为一种很有前途的解决方案,因为它消除了访问DNN权重的需求。然而,现有技术的PIM DNN训练加速器采用具有有限精度的模拟/混合信号计算或者基于支持有限逻辑功能的存储器技术的数字计算,因此需要复杂的过程来实现浮点计算。在本文中,我们提出了一个自旋轨道力矩磁随机存取存储器(SOT-MRAM)的数字PIM加速器,支持浮点精度。具体而言,这款新的加速器具有创新的(1)SOT-MRAM单元,(2)全加法设计,以及(3)浮点计算。实验结果表明,所提出的SOT-MRAM PIM的DNN训练加速器可以实现3.3 $\times$,1.8 $\times$,和2.5 $\times$方面的能量,延迟和面积的改善,分别与最先进的PIM为基础的DNN训练加速器。
2020-05-12 cs.AR cs.DC cs.ET
RCW-CIM: A Digital CIM-based LLM Accelerator with Read-Compute/Write
National Yang Ming Chiao Tung University(国立阳明交通大学);Industrial Technology Research Institute(工业技术研究院)
本文提出RCW-CIM架构,通过减少权重更新延迟和非线性操作融合,实现LLM加速,使Llama2-7B模型解码延迟降低21.59%,并提升能效。
2026-04-30 cs.AR
A Time-Encoded Analog Photonic Interposer for Energy-EfficientIntegration of Analog Vision Sensors and Analog Accelerators
University of Wisconsin–Madison(威斯康星大学麦迪逊分校);Case Western Reserve University(凯斯西储大学)
本研究提出时间编码模拟光子中介层,通过ATC转换模拟信号为时间间隔传输,实现模拟视觉传感器与加速器的高能效集成,在VWW数据集上EDP提升2.04倍,泛化性能优异。
2026-09-04 cs.AR
HEANA: A Hybrid Time-Amplitude Analog Optical Accelerator with Flexible Dataflows for Energy-Efficient CNN Inference
University of Kentucky(肯塔基大学)
HEANA是一种混合时间-幅度模拟光学加速器,通过TAOM和BPCA解决串扰、数据流灵活性及原位累加问题,实现CNN推理的显著性能与能效提升。
2024-12-15 cs.AI cs.AR cs.ET
RACE-AIMC: Selective Inference for Heterogeneous Analog In-Memory Accelerators at the Edge
WD Research(西部数据研究机构)
RACE-AIMC框架为边缘端异构模拟内存内加速器,通过离线选最优加速器并计算错误上界、在线轻量检查的方式,在保证准确率的同时降低了能耗。
2026-09-04 cs.AR cs.ET cs.LG
DPD-NeuralEngine: A 22-nm 6.6-TOPS/W/mm$^2$ Recurrent Neural Network Accelerator for Wideband Power Amplifier Digital Pre-Distortion
Department of Microelectronics, Delft University of Technology, The Netherlands(代尔夫特理工大学微电子系);Leiden Institute of Advanced Computer Science (LIACS), Leiden University, The Netherlands(莱顿大学先进计算机科学研究所)
本文提出基于GRU的DPD-NeuralEngine加速器,通过软硬件协同设计在22nm CMOS实现2GHz、250MSps处理,达到256.5 GOPS与1.32 TOPS/W,并首次实现6.6 TOPS/W/mm²的AI DPD ASIC。
2025-02-10 cs.AI cs.AR cs.CV
Scaling Analog Photonic Accelerators for Byte-Size, Integer General Matrix Multiply (GEMM) Kernels
本文提出可扩展光子GEMM加速器SPOGA,通过零差光信号模拟求和与换能中位置加权等技术,突破4位操作数限制,支持字节大小整数GEMM内核,在吞吐量、能效和面积效率上显著超越现有光子方案。
2024-07-08 cs.AR cs.ET cs.PF
PPAC: A Versatile In-Memory Accelerator for Matrix-Vector-Product-Like Operations
内存中处理(PIM)将计算移动到内存中,与传统的基于冯诺依曼的架构相比,其目标是提高吞吐量和能效。大多数现有的PIM架构要么是通用的,但只支持原子操作,或专门用于加速单个任务。我们提出了关联内容可寻址存储器(PPAC)中的并行处理器,这是一种新型的内存加速器,支持一系列类似于矩阵向量积(MVP)的操作,可用于传统和新兴应用。例如,PPAC能够加速低精度神经网络、精确/近似散列查找、加密和前向纠错。PPAC的全数字特性使其能够使用基于标准单元的CMOS实现,这有助于自动化设计和技术节点之间的可移植性。为了证明PPAC的有效性,我们提供了不同阵列尺寸的28 nm CMOS布局后实施结果。与最近的数字和混合信号PIM加速器的比较表明,PPAC在吞吐量和能效方面具有竞争力,同时加速了广泛的应用并简化了开发。
2019-07-19 cs.AR
Open-Source Synthesizable Analog Blocks for High-Speed Link Designs: 20-GS/s 5b ENOB Analog-to-Digital Converter and 5-GHz Phase Interpolator
使用数字标准单元和数字布局布线(PnR)工具,我们创建了一个20 GS/s、8位模数转换器(ADC),用于高速串行链路应用,有效位数为5.6,DNL为0.96 LSB,INL为2.39 LSB,在16 nm工艺中,0.102 mm 2内的功耗为175 mW。该设计完全由HDL描述,因此可以以最小的工作量移植到其他流程,并作为开源共享。
2020-09-18 cs.AR
RAELLA: Reforming the Arithmetic for Efficient, Low-Resolution, and Low-Loss Analog PIM: No Retraining Required!
RAELLA架构通过权重编码、自适应切片和输入动态切片降低模拟值分辨率,从而在无需重新训练DNN的情况下使用低分辨率ADC,实现高效低损耗模拟PIM推理。
2023-04-17 cs.AR
Heterogeneous Mapping for Analog In-Memory Computing Accelerators: A Unified Workflow
IBM Research – Zurich(IBM 苏黎世研究中心)
本文提出一个统一的四阶段工作流,用于将DNN工作负载分区到模拟内存计算加速器中的模拟和数字资源上,并通过GPT-2案例展示了投影级映射和选择性数字执行的重要性。
2026-06-01 cs.AR cs.ET
Learning in Log-Domain: Subthreshold Analog AI Accelerator Based on Stochastic Gradient Descent
Imperial College London(伦敦帝国学院)
本文提出一种基于对数域亚阈值电路和易失性存储器的模拟加速器,用于带L2正则化的随机梯度下降训练,显著降低面积和功耗,误差低于0.87%,支持8位精度。
2025-01-22 cs.AI cs.AR
AID: Accuracy Improvement of Analog Discharge-Based in-SRAM Multiplication Accelerator
本文提出了一种新的电路(A/D),以提高使用标准6 T-SRAM的节能内存乘法器的精度。现有技术的基于放电的SRAM内乘法加速器由于存取晶体管的二次性质而遭受其位线(BL,BLB)中的非线性行为,这导致差的信噪比(SNR)。为了实现线性的BLB电压,我们提出了一种新的根函数技术的存取晶体管的栅极,结果在平均10.77 dB SNR的精度提高相比,最先进的放电为基础的拓扑结构。我们的分析方法和电路模拟在65 nm CMOS工艺验证,所提出的技术消耗0.523 pJ每次计算(乘法,累加,和预置)从电源电压为1V,这是51.18%,低于其他国家的最先进的技术。我们已经对4x 4乘法运算进行了广泛的基于蒙特卡罗的模拟,并且我们的新技术对于最坏情况下的不正确输出情况呈现出小于0.086的标准差。
2022-04-15 cs.AR
On the Convergence Theory of Pipeline Gradient-based Analog In-memory Training
Cornell University(康奈尔大学);IBM Research(IBM研究院);Rensselaer Polytechnic Institute(拉特格斯理工学院)
本文研究了异步管道并行在类比在内存计算硬件上进行多层深度神经网络训练的收敛性,证明了Analog-SGD-AP在迭代复杂度上与数字SGD和同步管道SGD相当。
2026-04-26 cs.AR cs.LG math.OC
A Ternary Digital to Analog Converter with High Power Output and 170-dB Dynamic Range
设计并制作了一个用于直接听觉刺激产生的高动态范围32位数模转换器(DAC)样机。它提供从小于100 nV到50瓦峰值功率输出的信号,驱动32欧姆耳机或扬声器。三进制单元的使用使得170 dB的动态范围成为可能,该动态范围基本上仅受热噪声的限制。
2012-10-22 cs.AR
MXFormer: A Microscaling Floating-Point Charge-Trap Transistor Compute-in-Memory Transformer Accelerator
University of California, Los Angeles (UCLA)(加州大学洛杉矶分校)
MXFormer通过微缩浮点电荷陷阱晶体管实现高计算密度和能效的变换器加速器,支持大规模短序列模型的高效推理。
2026-02-12 cs.AR
Neural-PIM: Efficient Processing-In-Memory with Neural Approximation of Peripherals
Washington University in St. Louis(圣路易斯华盛顿大学);Shanghai Jiao Tong University(上海交通大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所)
内存处理(PIM)架构在加速众多深度学习任务方面表现出巨大的潜力。特别地,电阻式随机存取存储器(RRAM)设备提供了一种有前途的硬件基板,以构建PIM加速器,因为它们能够实现高效的原位矢量矩阵乘法(VMM)。然而,现有的PIM加速器遭受频繁和能量密集型模数(A/D)转换,严重限制了它们的性能。本文提出了一种新的PIM架构,通过使用模拟累积和神经近似外围电路最大限度地减少所需的A/D转换,有效地加速深度学习任务。我们首先描述了现有的PIM加速器所采用的不同的PLL,在此基础上,提出了一种新的PLL,通过在最终量化之前将移位和加法(S+A)操作扩展到模拟域来显著减少VMM所需的A/D转换。然后,我们利用神经近似方法设计模拟累加电路(S+A)和量化电路(ADC)与RRAM交叉阵列在一个高效的方式。最后,我们应用它们构建了一个基于RAM的PIM加速器(即,\textbf{Neural-PIM})对所提出的模拟电路进行仿真,并对其系统级性能进行评估。对不同基准的评估表明,与最先进的基于RRAM的PIM加速器相比,Neural-PIM可以将能效提高5.36倍(1.73倍),并将吞吐量提高3.43倍(1.59倍),而不会损失准确性,即,ISAAC(CASCADE).
2022-01-30 cs.AR cs.ET cs.LG
TIMELY: Pushing Data Movements and Interfaces in PIM Accelerators Towards Local and in Time Domain
Rice University(莱斯大学);University of California, Santa Barbara(加州大学圣巴巴拉分校);Stanford University(斯坦福大学)
基于电阻式随机存取存储器(ReRAM)的存储器中处理(R $^2$ PIM)加速器在弥合物联网设备的受限资源与卷积/深度神经网络(CNN/DNN)的高昂能量成本之间的差距方面显示出希望。具体而言,R $^2$ PIM加速器通过消除重量运动的成本并通过ReRAM的高密度提高计算密度来提高能源效率。然而,能量效率仍然受到输入和部分和(Psum)移动的主要能量成本以及数模(D/A)和模数(A/D)接口的成本的限制。在这项工作中,我们确定了R $^2$ PIM加速器中的三个节能机会:模拟数据局部性,时域接口和输入访问减少,并提出了一种创新的R $^2$ PIM加速器TIMELY,其中有三个关键贡献:(1)TIMELY在ReRAM交叉杆内采用模拟本地缓冲器(ALB),以大大增强数据局部性,最大限度地减少输入和Psum移动的能量开销;(2)分别采用时域接口(TDI)和ALB,大大降低了每次D/A(和A/D)转换的能量和转换的总次数;(3)提出了一种一次性输入读取(O $^2$ IR)映射方法,进一步降低了输入访问的能量和D/A转换的次数。使用超过10个CNN/DNN模型和各种芯片配置进行的评估表明,TIMELY在能效方面优于基准R $^2$ PIM加速器PRIME一个数量级,同时保持更好的计算密度(高达31.2 $\times$)和吞吐量(高达736.6 $\times$)。此外,进行全面的研…
2020-05-03 cs.AR cs.ET cs.LG
Analog and Digital Circuit Design in 65 nm CMOS: End of the Road?
这个特别会议解决了设计人员在纳米技术中实现模拟和数字电路时所面临的问题。嵌入式入门教程将概述当前的设计问题:泄漏功耗和工艺可变性及其对数字电路和存储器的影响,以及降低电源电压、嵌入式模拟模块的设计生产率和信号完整性问题。接下来,来自工业半导体公司和设计公司、EDA供应商和研究机构的专家小组将向观众介绍并讨论他们对设计之路是否止于“65纳米”标志的看法。
2007-10-25 cs.AR
A 33.6-136.2 TOPS/W Nonlinear Analog Computing-In-Memory Macro for Multi-bit LSTM Accelerator in 65 nm CMOS
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院)
本文提出一种65纳米CMOS工艺的LSTM加速器,通过非线性在内存计算宏单元实现高能效的多比特权重操作,提升系统能效和面积效率。
2025-12-06 cs.AR
A detailed algorithmic study on a reuse-aware, near memory, all-digital Ising machine
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出SACHI,一种基于SRAM处理近内存技术的全数字伊辛架构,通过重用CPU的L1缓存实现,消除了ADC/DAC,相比BRIM在性能上提升300倍,能耗降低80倍。
2026-06-20 cs.AR
Analog vs. Digital Spatial Transforms: A Throughput, Power, and Area Comparison
处理多个并行模拟信号以简化下游信号处理的空间线性变换广泛用于多天线通信系统、机器学习推理、数据压缩、音频和超声应用等。在过去,已经提出了各种各样的混合信号以及数字空间变换电路-然而,一个长期存在的问题是,在吞吐量、功耗和面积方面,模拟变换还是数字变换更优越。在本文中,我们专注于阿达玛变换和执行的最先进的模拟和数字电路在相同的65 nm CMOS工艺实现空间变换的系统比较。我们分析的吞吐量,功率和面积之间的权衡,我们确定的制度,混合信号或数字阿达玛变换是可取的。我们的比较表明,(i)没有明显的赢家,(ii)模数转换通常是主导面积和能源效率-而不是空间变换。
2020-09-15 cs.AR eess.SP
Dynamic Predictive Sampling Analog to Digital Converter for Sparse Signal Sensing
本文提出了一种基于动态预测采样(DPS)的模数转换器(ADC),它对输入的模拟连续时间信号进行非均匀采样。处理单元使用两个先前量化的采样来计算上阈值和下阈值的数字值,从而生成输入信号的动态预测。将数字阈值转换为模拟阈值以形成跟踪窗口。比较器将输入模拟信号与跟踪窗口进行比较,以确定预测是否成功。计数器记录不成功预测之间的时间戳,这些时间戳是用于量化的所选采样点。对于成功预测的采样点不执行量化,从而可以节省数据吞吐量和功率。所提出的电路被设计为10位ADC,使用0.18微CMOS工艺在1 kHz采样。结果表明,该系统可以实现6.17的数据压缩因子和31%的功耗因子相比,奈奎斯特速率SAR ADC的心电监护。
2022-11-17 cs.AR eess.SP
A Deep Neural Network Deployment Based on Resistive Memory Accelerator Simulation
本研究使用CrossSim API在基于ReRAM交叉阵列的仿真环境中训练DNN,分析器件噪声对精度的影响,并在Breast Cancer Wisconsin数据集上评估了八种不同ReRAM器件配置的训练表现。
2023-04-22 cs.AR cs.NE
NEON: Enabling Efficient Support for Nonlinear Operations in Resistive RAM-based Neural Network Accelerators
ETH Zürich(苏黎世联邦理工学院);Galicia Supercomputing Center (CESGA)(加利西亚超级计算中心(CESGA))
电阻式随机存取存储器(RRAM)非常适合加速神经网络(NN)工作负载,因为基于RRAM的内存处理(PIM)架构本身支持高度并行的乘法累加(MAC)运算,这些运算构成了大多数NN工作负载的主干。不幸的是,NN工作负载(如Transformers)需要支持非MAC操作(例如,softmax),RRAM无法提供。因此,现有技术的工作要么集成额外的数字逻辑电路以支持非MAC操作,要么将非MAC操作卸载到CPU/GPU,从而由于数据移动而导致显著的性能和能效开销。在这项工作中,我们提出了NEON,一种新的编译器优化,使端到端执行的NN工作负载在RRAM。NEON的核心思想是将每个非MAC操作转换为轻量级但高度准确的神经网络。利用神经网络来近似非MAC操作提供了两个优点:1)我们可以利用RRAM的密钥强度,即,高度并行的MAC操作,灵活高效地执行内存中的非MAC操作。2)我们可以通过消除额外的数字逻辑电路来简化RRAM的微架构,同时减少数据移动开销。与理想化的基于数字逻辑的RRAM相比,内存中非MAC操作的加速使NEON能够实现2.28倍的加速比。我们分析了与转型相关的权衡,并在不同的基板上展示了NEON的可行用例。
2022-11-10 cs.AI cs.AR cs.ET
Heterogeneous SoC Integrating an Open-Source Recurrent SNN Accelerator for Neuromorphic Edge Computing on FPGA
Department of Computer and Control Engineering(计算机与控制工程系);Politecnico di Torino(托尼诺理工大学);Interuniversity Department of Regional and Urban Studies and Planning(区域与城市研究和规划联合大学部门)
本文提出一种异构SoC,集成开源循环SNN加速器与传统处理器,通过FPGA实现验证,评估其在类脑边缘计算中的性能与学习能力。
2026-05-12 cs.AI cs.AR