In-Storage Domain-Specific Acceleration for Serverless Computing
针对无服务器函数中访问解耦存储开销过大掩盖加速器收益的问题,提出DSCS-Serverless,利用存储内可编程加速器协同加速与存储解耦,以低功耗显著超越传统GPU系统并实现高能效与高性价比。
2024-03-23 cs.AR
A Parameterizable Convolution Accelerator for Embedded Deep Learning Applications
本文提出了一种可参数化的卷积加速器设计方法,通过高级综合工具实现多约束优化,提升嵌入式深度学习应用的性能与效率。
2026-02-03 cs.AR cs.CV
Hummingbird: A Smaller and Faster Large Language Model Accelerator on Embedded FPGA
Institute of Automation, Chinese Academy of Sciences(中国科学院自动化研究所);Center for Long-term Artificial Intelligence(长期人工智能中心);Beijing Institute of AI Safety and Governance(北京人工智能安全与治理研究院);Vrije Universiteit Brussel(布鲁塞尔自由大学);School of Future Technology(未来技术学院);School of Artificial Intelligence, University of Chinese Academy of Sciences(中国科学院大学人工智能学院);Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology, Chinese Academy of Sciences(中国科学院脑认知与脑智能技术重点实验室)
针对嵌入式FPGA上LLM部署难题,提出Hummingbird加速器,更小更强更快,支持LLaMA3-8B,显著提升性能并降低资源消耗,为边缘端LLM应用提供可行方案。
2025-10-17 cs.AR
HERO: Heterogeneous Embedded Research Platform for Exploring RISC-V Manycore Accelerators on FPGA
异构嵌入式片上系统(HESoCs)将标准主机处理器与可编程众核加速器(PMCAs)共同集成,以将通用计算与特定领域的高效处理能力相结合。虽然领先的公司成功地推进了他们的HESoC产品,但由于构建一个将行业标准主机处理器与开放式研究PMCA架构相结合的原型平台的挑战,研究滞后。在这项工作中,我们介绍了HERO,一个基于FPGA的研究平台,结合了PMCA组成的RISC-V内核集群,实现为FPGA结构上的软核,与硬ARM Cortex-A多核主机处理器。映射到FPGA上的PMCA架构是经过硅验证的、可扩展的、可配置的和完全可修改的。HERO包括一个完整的软件堆栈,其中包括一个支持OpenMP加速器编程的异构交叉编译工具链、一个Linux驱动程序以及用于主机和PMCA的运行时库。HERO旨在促进对所有软件和硬件层的快速探索:运行时行为可以通过跟踪事件进行准确分析,修改可以通过完全自动化的硬件和软件构建和执行测试进行验证。我们通过我们研究中的案例研究证明了HERO的有用性。
2017-12-18 cs.AR cs.DC
ColibriES: A Milliwatts RISC-V Based Embedded System Leveraging Neuromorphic and Neural Networks Hardware Accelerators for Low-Latency Closed-loop Control Applications
端到端基于事件的计算有可能推动边缘AI应用程序的延迟和能效。不幸的是,基于事件的传感器(例如,DVS相机)和基于神经形态尖峰的处理器(例如,Loihi)都是以解耦的方式设计的,因此错过了主要的精简机会。本文介绍了ColibriES,有史以来第一个神经形态硬件嵌入式系统平台,具有专用的事件传感器接口和完整的处理管道。ColibriES包括事件和帧接口以及数据处理,旨在边缘场景中的高效和长寿命嵌入式系统。ColibriES基于Kraken片上系统,包含异构并行超低功耗(PULP)处理器、基于帧和基于事件的摄像机接口以及两个硬件加速器,用于计算基于事件的脉冲神经网络和基于帧的三元卷积神经网络。本文以ColibriES上的手势识别为例,探索并准确评估事件数据处理的性能,作为全系统评估的第一步。在我们的实验中,我们展示了7.7 \si{\milli\joule}的芯片能耗和每个推理的164.5 \si{\milli\second}延迟,以DVS手势事件数据集为例进行闭环数据处理,展示了ColibriES在电池供电的应用中的潜力,例如需要低延迟闭环控制的可穿戴设备和无人机。
2023-02-15 cs.AR
Theoretical Analysis of the Efficient-Memory Matrix Storage Method for Quantum Emulation Accelerators with Gate Fusion on FPGAs
针对大规模量子系统门融合实现的内存瓶颈,提出EMMS存储方法及基于EMMS的QEA架构,通过多PE加速张量积与矩阵乘法计算,理论分析表明其内存深度随量子比特数线性增长,并在18量子比特以内的电路计算中显著快于以往工作。
2024-10-15 cs.AR
Evaluating IOMMU-Based Shared Virtual Addressing for RISC-V Embedded Heterogeneous SoCs
本研究针对嵌入式异构SoC中加速器物理寻址带来的内存开销问题,评估了基于IOMMU的共享虚拟寻址在RISC-V架构系统中的性能,验证了末级缓存可大幅降低地址转换开销,证明该方案适用于此类系统。
2025-02-24 cs.AR
Synetgy: Algorithm-hardware Co-design for ConvNet Accelerators on Embedded FPGAs
UC Berkeley(加州大学伯克利分校);Tsinghua University(清华大学);Politecnico di Torino(都灵理工大学);Xilinx Research Labs(赛灵思研究实验室)
近年来,使用FPGA加速ConvNets引起了人们的极大关注。然而,FPGA加速器设计并没有利用ConvNets的最新进展。因此,每秒帧数(FPS)等关键应用程序特性被忽略,而只支持简单地计算GOP,并且对应用程序成功至关重要的准确性结果通常甚至没有报告。在这项工作中,我们采用了算法硬件协同设计的方法来开发一个ConvNet加速器称为Synetgy和一个新的ConvNet模型称为DiracDeltaNet $^{\dagger}$。加速器和ConvNet都是根据FPGA要求定制的。DiracDeltaNet,顾名思义,是一个只有$1\times 1$卷积的ConvNet,而空间卷积被更有效的移位操作所取代。DiracDeltaNet在ImageNet上实现了具有竞争力的准确性(前5名为88.7\%),但比VGG 16少了42个$\times$参数和48个$\times$ OP。我们进一步将DiracDeltaNet的权重转换为4位,将激活转换为4位,精度损失小于1\%。这些量化很好地利用了FPGA硬件的性质。简而言之,DiracDeltaNet的小模型尺寸,低运算OP计数,低精度和简化的运算符使我们能够为FPGA共同设计高度定制的计算单元。我们通过高级综合在Ultra96 SoC系统上实现了DiracDeltaNet的计算单元。我们的加速器在ImageNet上的最终前5名准确率为8…
2020-05-11 cs.AR cs.CV
Performance monitoring for multicore embedded computing systems on FPGAs
在设计现代嵌入式计算系统时,大多数软件程序员选择使用多核处理器,可能与通用图形处理单元(GPGPU)和/或硬件加速器结合使用。它们还经常使用嵌入式Linux O/S,并运行多应用程序工作负载,甚至可能是多线程的。现代FPGA足够大,可以将多核硬/软处理器与多个硬件加速器结合起来作为定制计算单元,使整个嵌入式计算系统能够在单个FPGA上实现。此外,大型FPGA供应商还支持其软件和嵌入式处理器的嵌入式Linux内核。当与高级综合相结合,使用C-to-gates流程生成硬件加速器时,可以使软件设计人员使用FPGA作为其自定义计算平台的框架所需的原语现在已经存在。然而,为了确保有效地集成和共享计算资源,软件开发人员需要能够在其工作负载中监视和调试应用程序的运行时性能。本文介绍了ABACUS,一个性能监控框架,可用于调试多核系统上的多应用程序工作负载的执行行为和交互。我们还讨论了如何这个框架是可扩展的异构系统中的硬件加速器使用。
2015-08-28 cs.AR cs.PF
SqueezeJet: High-level Synthesis Accelerator Design for Deep Convolutional Neural Networks
Aristotle University of Thessaloniki(塞萨洛尼基亚里士多德大学)
深度卷积神经网络通过在诸如对象识别和目标检测之类的计算机视觉问题中提供准确得多的解决方案,已经主导了模式识别场景。这些解决方案中的大多数都需要巨大的计算成本,需要数十亿次乘法累加运算,因此,在嵌入式移动(资源-功率受限)硬件上运行的实时应用中使用它们非常具有挑战性。这项工作提出了架构,高层次的综合设计,并实现SqueezeJet,一个FPGA加速器的推理阶段的SqueezeNet DCNN架构,这是专门设计用于嵌入式系统。结果表明,与运行在嵌入式移动处理器上的SqueezeNet软件实现相比,SqueezeJet可以实现15.16倍的速度提升,而前5名的精度下降不到1%。
2018-05-06 cs.AR cs.CV
A High-Performance Accelerator for Super-Resolution Processing on Embedded GPU
The Chinese University of Hong Kong(香港中文大学);SmartMore(思谋科技)
本文提出一种面向嵌入式GPU的全栈超分辨率加速框架,通过字典选择策略与计算核优化设计解决通信与计算瓶颈,在边缘设备上显著优于NVIDIA TensorRT并实现实时推理。
2023-03-16 cs.AR cs.CV eess.IV
ESP4ML: Platform-Based Design of Systems-on-Chip for Embedded Machine Learning
我们提出了ESP 4 ML,这是一个开源的系统级设计流程,用于为需要机器学习和信号处理算法的硬件加速的嵌入式应用构建和编程SoC架构。我们通过将两个已建立的开源项目(ESP和HLS 4 ML)合并到一个新的全自动设计流程中来实现ESP 4 ML。针对HLS 4 ML生成的加速器的SoC集成,设计了一套新的可通过高级综合进行综合的参数化接口电路。针对加速器的配置和管理,我们在Linux平台上开发了一个嵌入式软件运行时系统。有了这个硬件/软件层,我们解决了在片上网络上动态塑造数据流量的挑战,以激活和支持当前在SoC上运行的应用程序工作负载所需的加速器的可重新配置管道。我们展示了基于FPGA的完整SoC实例实现的垂直集成贡献,这些实例引导Linux并执行计算机-视觉应用程序,处理从谷歌街景数据库拍摄的图像。
2020-06-18 cs.AR
Hardware Architecture of Embedded Inference Accelerator and Analysis of Algorithms for Depthwise and Large-Kernel Convolutions
Canon Inc.(佳能公司);Canon Information Technology (Beijing) Co., Ltd. (CIB)(佳能信息技术(北京)有限公司)
为了有效地处理现代卷积神经网络(CNN),提出了一种CNN推理加速器的硬件架构,以处理深度卷积和正则卷积,这两者都是嵌入式计算机视觉算法的基本构建块。与相关工作不同的是,所提出的架构可以支持不同大小的过滤器内核具有很高的灵活性,因为它不需要额外的成本内核内并行,它可以生成卷积结果比相关工作的架构更快。实验结果表明,所提出的硬件架构支持dependent卷积和扩张卷积的重要性。除了大核的深度卷积,本文还分析了一种新的DDC层结构,它包括深度卷积和扩张卷积的组合。对于人脸检测,当DDC层应用于网络时,计算成本减少了30%,模型大小减少了20%。对于图像分类,通过简单地将$3 \times 3$滤波器替换为深度卷积中的$5 \times 5$滤波器,精度提高了1%。
2021-04-29 cs.AR cs.CV eess.IV
ALADIN: Accuracy-Latency-Aware Design-space Inference Analysis for Embedded AI Accelerators
ALADIN是一种面向嵌入式AI加速器的精度-延迟感知设计空间推理分析框架,通过混合精度量化神经网络的渐进细化过程,实现对精度、延迟和资源消耗的高效评估与优化。
2026-02-12 cs.AI cs.AR cs.LG
Computer Architecture with Associative Processor Replacing Last Level Cache and SIMD Accelerator
本研究提出一种新的计算机体系结构,其中最后一级缓存和SIMD加速器被替换为一个关联处理器。关联处理器结合了数据存储和数据处理,同时提供并行计算能力和数据存储。介绍了一种新的计算机体系结构的性能分析模型。通过仿真对比分析表明,这种新的架构可以优于传统的架构,包括一个SIMD协处理器和共享的末级缓存,而消耗更少的功率。
2013-11-08 cs.AR
A Cost-Effective Near-Storage Processing Solution for Offline Inference of Long-Context LLMs
Seoul National University(首尔大学);POSTECH(浦项科技大学)
HILOS通过近存储处理提高长上下文大语言模型的离线推理吞吐量,减少能耗并优化I/O开销。
2026-02-06 cs.AR
Synergy: A HW/SW Framework for High Throughput CNNs on Embedded Heterogeneous SoC
School of Computing, National University of Singapore(新加坡国立大学计算机学院)
卷积神经网络(CNN)已被广泛应用于不同的应用领域。在使用高性能GPU、FPGA和定制ASIC加速其训练和推理方面取得了重大进展。最近移动和物联网设备的激增需要在嵌入式类、资源受限的平台上进行实时、节能的深度神经网络推理。在这种情况下,我们提出了{ \em Synergy},这是一种基于嵌入式异构片上系统(SoC)架构(Xilinx Zynq)的自动化、软硬件协同设计、流水线、高吞吐量CNN推理框架。{ \em Synergy}通过多线程技术利用所有可用的片上资源,包括双核ARM处理器以及作为加速器的FPGA和NEON SIMD引擎。此外,{ \em Synergy}提供异构加速器(FPGA和NEON)的统一抽象,并通过工作窃取平衡加速器之间的工作负载,在运行时适应不同的网络配置,而无需更改底层硬件加速器架构。{ \em Synergy}在7个CNN模型上实现了7.3倍的平均加速,优于经过良好优化的纯软件解决方案。与相同SoC架构上的当代CNN实现相比,{ \em Synergy}表现出更高的吞吐量和能效。
2018-03-28 cs.AR cs.DC cs.LG
VWR2A: A Very-Wide-Register Reconfigurable-Array Architecture for Low-Power Embedded Devices
边缘计算需要高性能的节能嵌入式系统。固定功能或自定义加速器(如FFT或FIR滤波器引擎)在针对给定约束集实现特定功能方面非常有效。但是,当面临应用程序范围的优化或功能升级时,它们是不灵活的。相反,可编程内核提供了更高的灵活性,但通常会在面积、性能以及最重要的能耗方面带来损失。在本文中,我们提出了VWR2A,一种集成了高计算密度和低功耗存储器结构(即,非常宽的寄存器和暂存存储器)。VWR2A缩小了能隙,在FFT内核上具有与FFT加速器相似或更好的性能。此外,VWR2A的灵活性允许加速多个内核,从而在应用程序级别显著节省能源。
2022-06-02 cs.AR
Smart-Infinity: Fast Large Language Model Training using Near-Storage Processing on a Real System
Seoul National University(首尔大学);University of Texas at Austin(德克萨斯大学奥斯汀分校);Yonsei University(延世大学)
本文提出 Smart-Infinity,通过近存储加速器执行参数更新、固定缓冲的数据传输重叠及 GPU 压缩/加速器解压,消除存储卸载训练瓶颈并显著加速,且已集成于 PyTorch。
2024-03-11 cs.AR cs.LG
Swapping-Centric Neural Recording Systems
针对神经记录系统实时处理指数级增长数据时面临的功耗与存储压力,提出以交换为核心协同设计加速器与存储,利用计算与存储的理论与实际模型克服传统方法在神经元不应期内无法完成交换的局限。
2024-09-26 cs.AR
AoCStream: All-on-Chip CNN Accelerator With Stream-Based Line-Buffer Architecture
卷积神经网络(CNN)加速器由于其效率而被广泛使用,但是它们需要大量的存储器,导致使用缓慢且功耗高的外部存储器。本文利用两种方案,以减少所需的内存量,并最终实现一个CNN的合理性能,只有一个实际的设备,如低端FPGA的片上存储器。为了减少中间数据的存储量,提出了一种基于流的行缓冲器结构和用于该结构的缓冲器流,而不是传统的基于帧的结构,其中中间数据存储量与输入图像大小的平方成比例。该架构由层专用块组成,以流水线方式与输入和输出流一起操作。每个卷积层块具有仅存储几行输入数据的行缓冲器。行缓冲器的大小与输入图像的宽度成比例,因此该架构比传统的基于帧的架构需要更少的中间数据存储,特别是在现代目标检测CNN中越来越大的输入大小的趋势中。除了减少的中间数据存储之外,通过加速器感知修剪来减少权重存储。实验结果表明,一个完整的目标检测CNN可以实现,即使在低端的FPGA没有外部存储器。与以前的加速器具有类似的目标检测精度相比,所提出的加速器达到更高的吞吐量,即使用更少的FPGA资源的LUT,寄存器,DSP,显示出更高的效率。经训练的模型和实现的位文件可在https://github.com/HyeongjuKang/accelerator-aware-pruning和https://github.com/HyeongjuKang/aocstream上获得。
2022-12-22 cs.AR
AutoWS: Automate Weights Streaming in Layer-wise Pipelined DNN Accelerators
本文提出 AutoWS 自动化存储管理方法,利用逐层流水线的静态调度协同片上与片外内存优化权重存储,支持大规模 DNN 在资源受限设备上部署。
2023-11-08 cs.AR
Dynamic Resource Partitioning for Multi-Tenant Systolic Array Based DNN Accelerator
深度神经网络(DNN)已成为云服务器和边缘设备中的重要应用。与此同时,这些平台上越来越多的DNN增加了在同一设备上执行多个DNN的需求。本文提出了一种动态分区算法,在基于系统数组的加速器上执行多个DNN的并发处理。跨多个DNN共享加速器的存储和处理资源可以提高资源利用率,并减少计算时间和能耗。为此,我们提出了一个分区的重量固定的处理元素的逻辑中的一个小的修改的卷积。我们评估的能量消耗和计算时间与重和轻的工作负载。模拟结果显示,与单租户相比,在重负载和轻负载下,能耗分别提高了35%和62%,计算时间分别提高了56%和44%。
2023-02-21 cs.AR
STRELA: STReaming ELAstic CGRA Accelerator for Embedded Systems
本文提出STRELA,一种集成于RISC-V SoC的弹性CGRA加速器,支持条件与不规则循环,通过映射策略和独立内存节点,在TSMC 65nm实现250MHz,峰值性能1.22 GOPs,能效达115.96 MOPs/mW,加速比最高18.61倍。
2024-04-18 cs.AR
Compute RAMs: Adaptable Compute and Storage Blocks for DL-Optimized FPGAs
当前FPGA的可配置构建块-逻辑块(LB)、数字信号处理(DSP)片和块RAM(BRAM)-使其成为快速变化的深度学习(DL)世界的高效硬件加速器。这些模块之间的通信通过由遍布FPGA的交换元件组成的互连结构进行。本文提出了一种新的块-计算RAM。计算RAM通过在一个块中组合计算和存储能力来提供高度并行处理的存储器内处理(PIM)。计算RAM可以像现有的FPGA块一样集成在FPGA结构中,并提供两种可以动态选择的操作模式(存储或计算)。它们通过减少数据移动来降低功耗,提供适应性高的精度支持,并增加有效的片内内存带宽。计算RAM还有助于提高FPGA的计算密度。在我们对多个数据精度(int 4,int 8和bfloat 16)的加法,乘法和点积运算的评估中,我们观察到平均节省了80%的能耗,并且执行时间从20%到80%不等。添加计算RAM也可以使非DL应用受益,并使FPGA更高效,灵活和高性能的加速器。
2021-09-30 cs.AR eess.SP
AES-RV: Hardware-Efficient RISC-V Accelerator with Low-Latency AES Instruction Extension for IoT Security
针对现有AES硬件加速器的性能、能效与灵活性局限,本文提出集成三项创新的AES-RV RISC-V加速器,在FPGA上实现后相较传统平台及前沿方案均有显著优势,适用于安全高性能嵌入式系统。
2025-05-17 cs.AR cs.CR
FlashAbacus: A Self-Governing Flash-Based Accelerator for Low-Power Systems
能量效率和计算灵活性是异构计算的一些主要设计约束。在本文中,我们提出了FlashAbacus,一个数据处理加速器,自我管理的异构内核执行和数据存储访问集成在轻量级多处理器的许多闪存模块。所提出的加速器可以同时处理来自不同应用程序的数据,具有不同类型的操作功能,它允许多个内核直接访问闪存,而无需主机级文件系统或I/O运行时库的帮助。我们在基于多核的PCIe平台上对FlashAbacus进行原型设计,该平台连接到基于FPGA的闪存控制器,并采用20 nm节点工艺。评估结果表明,FlashAbacus可以提高127%的数据处理带宽,同时减少78.4%的能耗,相比传统的异构计算方法。\blfootnote {本论文已被2018 EuroSys接受并将发表。提交本文件是为了确保及时传播学术和技术工作。
2018-05-08 cs.AR
Characterizing Soft-Error Resiliency in Arm's Ethos-U55 Embedded Machine Learning Accelerator
University of Rochester(罗切斯特大学);AMD(超威半导体公司);ARM Inc(安谋公司);Qualcomm(高通公司)
本文针对Arm Ethos-U55嵌入式NPU的软错误容错性展开研究,提出经硅验证的统计分析工具优化选择性保护方案,以仅38%的面积开销满足ASIL-D安全标准。
2024-04-14 cs.AI cs.AR
An Energy-Efficient Near-Data Processing Accelerator for DNNs that Optimizes Data Accesses
本文提出近数据处理加速器 QeiHaN,利用 3D 堆叠内存权重存储和对数量化激活的隐式内存内位移,减少 DNN 推理的内存访问,实现 4.3 倍加速和 3.5 倍节能。
2023-10-27 cs.AR
Compiling Halide Programs to Push-Memory Accelerators
图像处理和机器学习应用程序从硬件加速中受益匪浅,但现有的编译器要么针对FPGA(牺牲灵活硬件的功率和性能),要么针对ASIC(随着应用程序的变化而迅速过时)。可编程领域特定加速器已经成为这两个极端之间有前途的中间地带,但这种架构传统上是困难的编译器目标。主要障碍是这些加速器通常使用与CPU和GPU不同的内存抽象:将数据流从一个计算内核发送到其他内核的内存,可能重新排序。为了解决由推存储器引起的编译挑战,我们建议修改编译器中间和后端的内存表示,将存储与地址生成和控制逻辑结合在一个单一的结构中-一个统一的缓冲区。我们表明,这种编译器的抽象可以有效地实现在一个可编程的加速器,并设计一个内存映射算法,结合多面体分析和软件矢量化技术,以我们的加速器。我们的评估表明,编译器支持可编程性,同时保持高性能。它可以将各种图像处理和机器学习应用程序编译到我们的加速器上,与FPGA相比,运行时间提高了4.7倍,能效提高了4.3倍。
2021-05-26 cs.AR
Real-time Hyper-Dimensional Reconfiguration at the Edge using Hardware Accelerators
SRI International(美国斯坦福国际研究院);Center for Vision Technologies(视觉技术中心)
在本文中,我们使用低SWaP嵌入式硬件提出了战术边缘的超维可重构分析(HyDRATE),该硬件可以在边缘利用非MAC(无浮点多重累积运算)深度神经网络(DNN)结合超维(HD)计算加速器执行实时的【形】重构。我们描述的算法,训练量化模型的生成,和模拟性能的特征提取器免费的乘法积累喂养一个多维逻辑为基础的分类器。然后,我们展示了性能如何随着超维的数量而增加。与传统DNN相比,我们描述了实现的低SWaP FPGA硬件和嵌入式软件系统,并详细介绍了实现的硬件加速器。我们讨论了测量的系统延迟和功率,噪声鲁棒性,由于使用可学习的量化和高清计算,实际与模拟系统性能的视频活动分类任务和演示的重新配置在同一个数据集。我们表明,在该领域的可重构性是通过只重新训练前馈HD分类器,而不使用梯度下降反向传播(无梯度),使用少样本学习的新类的边缘。最初的工作使用LRCN DNN,目前已扩展到使用具有改进性能的双流DNN。
2022-06-10 cs.AR cs.CV
Eventor: An Efficient Event-Based Monocular Multi-View Stereo Accelerator on FPGA Platform
Beihang University(北京航空航天大学);Xidian University(西安电子科技大学);Beijing Real Imaging Medical Technology Co., Ltd.(北京真实影像医疗科技有限公司);The Chinese University of Hong Kong(香港中文大学)
事件摄像机是生物启发的视觉传感器,它异步地将像素级亮度变化表示为事件流。基于事件的单目多视图立体视觉(EMVS)是一种利用事件流来估计具有已知轨迹的半密集3D结构的技术。这是基于事件的单目SLAM的关键任务。然而,所需的密集的计算工作量使得它具有挑战性的实时部署在嵌入式平台上。在本文中,Eventor被提出作为一个快速和有效的EMVS加速器,通过实现最关键和最耗时的阶段,包括事件反投影和体积射线计数在FPGA上。通过FPGA专门设计了高度可扩展和完全流水线的处理单元,并将其与嵌入式ARM集成为异构系统,以提高吞吐量并减少内存占用。同时,通过重新调度、近似计算和混合数据量化等方法,对EMVS算法进行了改进。在DAVIS数据集上的评估结果表明,Eventor与Intel i5 CPU平台相比,在能效方面实现了高达$24\times$的提升。
2022-06-07 cs.AR cs.CV
RFC-HyPGCN: A Runtime Sparse Feature Compress Accelerator for Skeleton-Based GCNs Action Recognition Model with Hybrid Pruning
基于混沌的图卷积网络(GCN)模型在动作识别领域取得了很好的预测精度。然而,受限于大的模型和计算复杂度,用于动作识别的GCN(如2s-AGCN)在GPU上的功率效率和吞吐量不足。因此,低功耗GCN动作识别应用对模型简化和硬件加速的要求越来越高。针对上述问题,本文提出了一种基于混合剪枝方法的稀疏特征压缩加速器RFC-HyPGCN。首先,该方法通过重新组织乘法顺序来跳过图形和空间卷积工作负载。在空间卷积工作负载通道剪枝算法的基础上,设计了时间滤波器的粗粒度剪枝方法和时间维的类采样细粒度剪枝方法。后来,我们提出了一种架构,其中所有卷积层都映射到芯片上以追求高吞吐量。为了进一步降低存储资源的利用率,提出了在线稀疏特征压缩格式。该方法首先将特征按照给定的格式进行划分和编码,然后将特征库存储拆分为深度可变的小特征库。此外,本工作采用量化,输入跳过和PE内动态数据调度,以加速模型。在2s-AGCN上进行了实验,得到了3.0 × 8.4 ×模型压缩比和73.20 × 73.20的跳图效率。在Xilinx XCKU-115 FPGA上实现,该架构的峰值性能为1142 GOP/s,与高端GPU NVIDIA 2080 Ti和NVIDIA V100相比,分别达到9.19倍和3.91倍的加速比。与最新的动作识别加速器GCN模型相比,本文的设计达到了22.9倍的加速比,DSP效率提高了28.93%。
2021-08-02 cs.AR cs.DC
Cross-Domain Acceleration of Open Modification Search: From Commodity Platforms to Emerging Memory and Storage Devices
University of California San Diego(加利福尼亚大学圣迭戈分校);Georgia Institute of Technology(佐治亚理工学院);Stanford University(斯坦福大学)
研究质谱分析中开放修改搜索(OMS)的跨平台加速,涵盖商品及新兴内存存储架构。基于二进制超维计算(HDC)公式,实现稳健执行,确定相关架构为关键突破,大幅提升加速和能源效率。
2026-07-21 cs.AR cs.ET cs.PF
A Multi-Site Accelerator-Rich Processing Fabric for Scalable Brain-Computer Interfacing
Hull是一种富含加速器的分布式可植入脑机接口(BCI),其以比现有技术高2-3个数量级的数据率读取生物神经元,同时支持许多神经科学应用。先前的方法将大脑接口限制在每秒数十兆比特,以满足有效操作和安全长期植入所需的两个约束-数十毫瓦以下的功率耗散和数十毫秒内的响应延迟。Hull也遵守这些限制,但能够以更高的数据率与大脑接口,从而首次实现BCI驱动的研究和临床治疗需要阅读和刺激许多大脑位置的全脑行为和疾病。Hull电源效率的核心是其作为具有加速器丰富计算的BCI节点的分布式系统的实现。Hull平衡了模块化系统分层与积极的跨层软硬件协同设计,以集成计算、网络和存储。其结果是一个教训,在设计网络分布式系统与硬件加速器从地面开始。
2023-01-08 cs.AR cs.DC
The Data Conversion Bottleneck in Analog Computing Accelerators
本文指出模拟计算加速器因数据转换产生性能瓶颈,通过案例研究评估自建光学傅里叶变换与卷积加速器,发现其仅在纯傅里叶变换和卷积任务中显著加速。
2023-12-30 cs.AR physics.optics
Compilation and Optimizations for Efficient Machine Learning on Embedded Systems
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Advanced Digital Sciences Center(先进数字科学中心);Georgia Institute of Technology(佐治亚理工学院);University of California Irvine(加州大学欧文分校)
深度神经网络(DNN)在各种机器学习(ML)应用中取得了巨大成功,在计算机视觉、自然语言处理和虚拟现实等领域提供了高质量的推理解决方案。和小的形状因子。挑战还来自各种特定于应用的要求,包括实时响应、高吞吐量性能和可靠的推理准确性。为了应对这些挑战,我们引入了一系列有效的设计方法,包括高效的ML模型设计,定制的硬件加速器设计和硬件/软件协同设计策略,以实现嵌入式系统上的高效ML应用。
2022-08-26 cs.AR cs.LG
FlexNN: A Dataflow-aware Flexible Deep Learning Accelerator for Energy-Efficient Edge Devices
本文提出FlexNN,一种面向边缘设备的灵活深度学习加速器,通过软件可配置描述符支持任意数据流以优化逐层数据移动和能耗,并结合细粒度稀疏性加速逻辑跳过冗余计算,显著提升了性能与能效。
2024-04-11 cs.AR cs.NE
A Microprocessor implemented in 65nm CMOS with Configurable and Bit-scalable Accelerator for Programmable In-memory Computing
Princeton University(普林斯顿大学)
本文介绍了一种可编程的内存计算处理器,在65纳米CMOS工艺证明。对于以数据为中心的工作负载,例如深度神经网络,在使用当今的计算架构实现时,数据移动通常占主导地位。这激发了空间架构的发展,其中数据存储和计算硬件的布置是分布式的,并与计算数据流显式对齐,最明显的是对于矩阵向量乘法。存内计算是一种空间架构,其中处理元件对应于密集位单元,提供本地存储和计算,通常采用模拟操作。虽然这提高了高能效和高吞吐量的潜力,但模拟操作的鲁棒性、规模和可编程性受到极大限制。本文介绍了一个590 kb的内存计算加速器集成在一个可编程处理器架构,利用最近的方法,电荷域存内计算。该架构采用与嵌入式CPU紧密耦合的方法,通过加速器接口实现标准处理器内存空间的集成。此外,近存储器计算数据路径通过位并行/位串行(BP/BS)方案既能够在本地实现各种计算,以解决跨应用所需的操作,又能够实现矩阵/输入向量元素的位精度可扩展性。芯片测量显示,在VDD为1.2/0.85V时,能量效率为152/297 1b-TOPS/W,吞吐量为4.7/1.9 1b-TOPS(与矩阵/输入向量元素精度线性缩放)。具有1-b/4-b权重和激活的CIFAR-10分类的神经网络演示在176/23 fps下消耗5.3/105.2 $μ$ J/图像,其准确度在数字/软件实现的水平(89.3/92.4 $\%$准确度)。
2018-11-09 cs.AI cs.AR cs.CV