Occamy: A 432-Core 28.1 DP-GFLOP/s/W 83% FPU Utilization Dual-Chiplet, Dual-HBM2E RISC-V-based Accelerator for Stencil and Sparse Linear Algebra Computations with 8-to-64-bit Floating-Point Support in 12nm FinFET
本研究提出基于RISC-V的双核粒2.5D加速器Occamy,通过定制核心集群、低延迟互连与32 GiB HBM2E存储,在模板及稀疏线性代数计算中实现了领先的硬件利用率。
2024-06-21 cs.AR
NeCTAr: A Heterogeneous RISC-V SoC for Language Model Inference in Intel 16
本研究提出一款名为NeCTAr的16nm异构多核RISC-V片上系统,集成近核与近内存加速器以支撑稀疏和密集机器学习内核,经原型芯片测试验证了其在ReLU-Llama稀疏语言模型推理上的能效优势。
2025-03-18 cs.AR
CIMR-V: An End-to-End SRAM-based CIM Accelerator with RISC-V for AI Edge Device
本文提出CIMR-V,一种集成RISC-V的端到端SRAM基CIM加速器,通过层融合、流水线和权重融合降低延迟,实现高能效AI边缘推理。
2025-03-28 cs.AR
Evaluating IOMMU-Based Shared Virtual Addressing for RISC-V Embedded Heterogeneous SoCs
本研究针对嵌入式异构SoC中加速器物理寻址带来的内存开销问题,评估了基于IOMMU的共享虚拟寻址在RISC-V架构系统中的性能,验证了末级缓存可大幅降低地址转换开销,证明该方案适用于此类系统。
2025-02-24 cs.AR
HyperCroc: End-to-End Open-Source RISC-V MCU with a Plug-In Interface for Domain-Specific Accelerators
ETH Zurich(苏黎世联邦理工学院);lowRISC C.I.C.(低硅研究公司);University of Bologna(博洛尼亚大学)
HyperCroc是一款端到端开源RISC-V微控制器,集成HyperBus控制器和DMA引擎,支持专用加速器插件,实现高效数据传输和低功耗运行。
2026-03-12 cs.AR
Hardware-Aware Neural Network Compilation with Learned Optimization: A RISC-V Accelerator Approach
XgenSilicon Inc.(Xgen硅有限公司)
XgenSilicon ML编译器通过学习优化和硬件感知技术,实现高效神经网络编译,生成高性能低功耗的RISC-V加速器
2025-11-10 cs.AR
Design and Implementation of a RISC-V SoC with Custom DSP Accelerators for Edge Computing
Department of Electronics Engineering, HBTU Kanpur(电子工程系,HBTU Kanpur)
本文分析RISC-V架构并通过周期精确仿真评估RV32I及M、A扩展,证明其嵌入式优势及定制加速可扩展性,且功耗较ARM Cortex-M0降低17%。
2025-06-07 cs.AI cs.AR eess.SP
OpenGeMM: A High-Utilization GeMM Accelerator Generator with Lightweight RISC-V Control and Tight Memory Coupling
KU Leuven(鲁汶大学);INESC-ID;Instituto Superior Técnico(高等技术学院);Universidade de Lisboa(里斯本大学)
深度神经网络(DNN)由于其计算和数据密集型的性质,在部署在资源受限的极端边缘设备上时面临重大挑战。虽然为特定应用场景量身定制的独立加速器存在控制不灵活和可编程性有限的问题,但与RISC-V CPU相结合的通用硬件加速平台可以实现高可重用性和灵活性,但通常以系统级效率和低利用率为代价。为了填补这一空白,我们提出了OpenGeMM,一个开源的加速平台,共同展示了高效率和利用率,以及易于配置和可编程性。OpenGeMM包含一个参数化的Chisel编码GeMM加速器,一个轻量级的RISC-V处理器和一个紧密耦合的多组暂存器。GeMM内核利用率和系统效率通过三种机制来提高:配置预加载、带输出缓冲的输入预取和可编程跨存储器访问。实验结果表明,OpenGeMM可以在不同的CNN和Transformer工作负载中始终实现81.89%到99.34%的硬件利用率。与SotA开源Gemmini加速器相比,OpenGeMM在各种GeMM工作负载上的归一化吞吐量上实现了3.58倍至16.40倍的加速,同时实现了4.68 TOPS/W的系统效率。
2024-11-21 cs.AI cs.AR
Towards Zero-Stall Matrix Multiplication on Energy-Efficient RISC-V Clusters for Machine Learning Acceleration
针对灵活ML加速器的控制流与内存访问低效问题,提出基于RISC-V集群的零开销循环嵌套和零冲突内存子系统微架构,实现近理想利用率与性能能效提升,兼顾可编程性与广泛工作负载支持。
2025-06-12 cs.AR
ColibriES: A Milliwatts RISC-V Based Embedded System Leveraging Neuromorphic and Neural Networks Hardware Accelerators for Low-Latency Closed-loop Control Applications
端到端基于事件的计算有可能推动边缘AI应用程序的延迟和能效。不幸的是,基于事件的传感器(例如,DVS相机)和基于神经形态尖峰的处理器(例如,Loihi)都是以解耦的方式设计的,因此错过了主要的精简机会。本文介绍了ColibriES,有史以来第一个神经形态硬件嵌入式系统平台,具有专用的事件传感器接口和完整的处理管道。ColibriES包括事件和帧接口以及数据处理,旨在边缘场景中的高效和长寿命嵌入式系统。ColibriES基于Kraken片上系统,包含异构并行超低功耗(PULP)处理器、基于帧和基于事件的摄像机接口以及两个硬件加速器,用于计算基于事件的脉冲神经网络和基于帧的三元卷积神经网络。本文以ColibriES上的手势识别为例,探索并准确评估事件数据处理的性能,作为全系统评估的第一步。在我们的实验中,我们展示了7.7 \si{\milli\joule}的芯片能耗和每个推理的164.5 \si{\milli\second}延迟,以DVS手势事件数据集为例进行闭环数据处理,展示了ColibriES在电池供电的应用中的潜力,例如需要低延迟闭环控制的可穿戴设备和无人机。
2023-02-15 cs.AR
X-HEEP: An Open-Source, Configurable and Extendible RISC-V Platform for TinyAI Applications
本研究提出面向TinyAI的开源可配置RISC-V平台X-HEEP,通过XAIF接口集成加速器,支持多开发流程,台积电65nm工艺下面积0.15mm²、漏功耗29uW,与近内存加速器集成后性能提升7.3倍、能耗改善3.6倍。
2025-08-23 cs.AR
HERO: Heterogeneous Embedded Research Platform for Exploring RISC-V Manycore Accelerators on FPGA
异构嵌入式片上系统(HESoCs)将标准主机处理器与可编程众核加速器(PMCAs)共同集成,以将通用计算与特定领域的高效处理能力相结合。虽然领先的公司成功地推进了他们的HESoC产品,但由于构建一个将行业标准主机处理器与开放式研究PMCA架构相结合的原型平台的挑战,研究滞后。在这项工作中,我们介绍了HERO,一个基于FPGA的研究平台,结合了PMCA组成的RISC-V内核集群,实现为FPGA结构上的软核,与硬ARM Cortex-A多核主机处理器。映射到FPGA上的PMCA架构是经过硅验证的、可扩展的、可配置的和完全可修改的。HERO包括一个完整的软件堆栈,其中包括一个支持OpenMP加速器编程的异构交叉编译工具链、一个Linux驱动程序以及用于主机和PMCA的运行时库。HERO旨在促进对所有软件和硬件层的快速探索:运行时行为可以通过跟踪事件进行准确分析,修改可以通过完全自动化的硬件和软件构建和执行测试进行验证。我们通过我们研究中的案例研究证明了HERO的有用性。
2017-12-18 cs.AR cs.DC
Cheshire: A Lightweight, Linux-Capable RISC-V Host Platform for Domain-Specific Accelerator Plug-In
本文提出Cheshire,一个轻量级、模块化、支持Linux的64位RISC-V主机平台,通过低引脚数DRAM接口、可配置缓存和DMA引擎实现领域专用加速器的无缝即插即用,并在65nm硅演示器Neo上验证了高能效与开源可综合性。
2023-07-06 cs.AR
AES-RV: Hardware-Efficient RISC-V Accelerator with Low-Latency AES Instruction Extension for IoT Security
针对现有AES硬件加速器的性能、能效与灵活性局限,本文提出集成三项创新的AES-RV RISC-V加速器,在FPGA上实现后相较传统平台及前沿方案均有显著优势,适用于安全高性能嵌入式系统。
2025-05-17 cs.AR cs.CR
Work-In-Progress: Accelerating Numpy With OpenBLAS For Open-Source RISC-V Chips
本研究修改 OpenBLAS 库,通过 OpenMP 将线性核心卸载至可编程多核加速器(PMCA),并链接 Numpy,在开源异构 RISC-V SoC 的 FPGA 仿真平台上实现了 Python 高阶应用线性代数运算的加速。
2025-03-21 cs.AR
X-HEEP: An Open-Source, Configurable and Extendible RISC-V Microcontroller for the Exploration of Ultra-Low-Power Edge Accelerators
针对现有边缘计算平台集成定制加速器可配置性与扩展性不足的问题,本文提出开源可配置的RISC-V异构超低功耗平台X-HEEP,通过医疗场景集成CGRA与IMC加速器的实例验证,实现了最高4.9倍的能效提升。
2024-03-08 cs.AR
Supporting Custom Instructions with the LLVM Compiler for RISC-V Processor
本文研究如何通过修改 LLVM 的 RISC-V 后端为自定义指令提供编译支持,将支持过程分为 Assembler 与模式匹配两部分,并重点分析模式匹配的实现方法及合适的修改阶段。
2023-10-23 cs.AR
RISC-V Based TinyML Accelerator for Depthwise Separable Convolutions in Edge AI
Computer Engineering Department Ihsan Dogramaci Bilkent University(比尔肯特大学计算机工程系);Engineering Sabancı University(萨班奇大学工程学院)
本文提出了一种基于 RISC-V 的 TinyML 加速器,通过融合像素级数据流消除中间缓冲区,显著降低数据传输成本,实现边缘 AI 加速器的内存墙突破。
2025-11-26 cs.AR cs.LG
Taming Offload Overheads in a Massively Parallel Open-Source RISC-V MPSoC: Analysis and Optimization
本文针对开源RISC-V异构MPSoC Occamy,通过周期精确分析卸载开销,提出硬件与卸载例程协同设计及片上网络多播优化,将200余核加速结构的应用运行时间提升达2.3倍,并给出误差低于15%的运行时间估计模型。
2025-05-09 cs.AR cs.DC
RISC-V Toolchain and Agile Development based Open-source Neuromorphic Processor
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);ShanghaiTech University(上海科技大学);University of Chinese Academy of Sciences(中国科学院大学)
近几十年来,旨在模拟大脑行为的类脑计算在计算机科学的各个领域得到了发展。人工神经网络(ANN)是人工智能(AI)中的一个重要概念。它用于识别和分类。为了探索一种更好的方法来模拟获得的大脑行为,这是快速和节能的,在硬件上,研究人员需要一个先进的方法,如类脑计算。在这种情况下,脉冲神经网络(SNN)成为硬件实现的最佳选择。最近的工作集中在加速SNN计算。然而,大多数加速器解决方案都是基于CPU加速器架构,由于这种结构中复杂的控制流程,因此能源效率低下。本文提出了文曲星22 A,一个低功耗的神经形态处理器,结合了通用CPU功能和SNN有效地计算它与RISC-V SNN扩展指令。文曲星22 A的主要思想是将SNN计算单元集成到通用CPU的流水线中,通过定制的RISC-V SNN指令版本1.0(RV-SNN V1.0)、流线型泄漏积分和触发(LIF)模型和二进制随机尖峰定时相关可塑性(STDP)实现低功耗计算。文曲星22 A的源代码在Gitee和GitHub上在线发布。我们将文曲星22 A应用于MNIST数据集的识别,与其他SNN系统进行比较。我们的实验结果表明,文曲星22 A提高了5.13倍的能量消耗的加速器解决方案,ODIN,大约分类精度,85.00%的3位ODIN在线学习,和91.91%的1位文曲星22 A。
2022-10-06 cs.AI cs.AR
Bio-RV: Low-Power Resource-Efficient RISC-V Processor for Biomedical Applications
Indian Institute of Technology Indore(印度印度技术学院印多尔分校)
本文提出Bio-RV,一种紧凑且资源高效的RISC-V处理器,用于生物医学控制应用,如基于加速器的生物医学SoC和植入式起搏器系统。该处理器支持可控固件部署、ASIC验证和后硅测试。
2026-01-13 cs.AR eess.SP
Optimizing Foundation Model Inference on a Many-tiny-core Open-source RISC-V Platform
ETH Zürich(苏黎世联邦理工学院);University of Bologna(博洛尼亚大学);Politecnico di Torino(都灵理工大学)
本研究首次在开源多微小核心RISC-V平台上实现Transformer模型端到端推理,利用ISA扩展和DMA引擎优化,在编码器和解码器模型上均实现显著加速,FPU利用率超越现有加速器。
2024-05-29 cs.AI cs.AR cs.DC
RISC-Q: A Generator for Real-Time Quantum Control System-on-Chips Compatible with RISC-V
Joint Center for Quantum Information and Computer Science, University of Maryland, College Park(马里兰大学帕克分校量子信息与计算科学联合中心)
针对量子控制硬件扩展难、工具链碎片化的问题,提出兼容RISC-V的开源QCSoC生成器RISC-Q,可自动化生成参数化模块化架构,大幅降低开发成本并支持软硬件协同探索。
2026-10-14 cs.AR quant-ph
MultiVic: A Time-Predictable RISC-V Multi-Core Processor Optimized for Neural Network Inference
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
MultiVic是一种优化用于神经网络推断的RISC-V多核处理器,通过可预测的核心和本地暂存器内存实现高性能和低时间波动。
2026-02-25 cs.AR
Work-in-Progress: Real-Time Neural Network Inference on a Custom RISC-V Multicore Vector Processor
提出一种具有可预测核心和本地暂存存储器的定制RISC-V多核向量处理器架构及配套编译器工具链,利用神经网络固定数据流和子任务WCET估计生成静态调度,实现高性能且可预测的实时神经网络推理。
2024-10-14 cs.AR
A RISC-V Multicore and GPU SoC Platform with a Qualifiable Software Stack for Safety Critical Systems
METASAT项目开发了集成NOEL-V、SPARROW和GPU Vortex的RISC-V多核SoC平台,采用可鉴定软件栈,旨在推动高性能硬件在安全关键航天系统中的使用。
2025-02-28 cs.AR
NEUROPULS: NEUROmorphic energy-efficient secure accelerators based on Phase change materials aUgmented siLicon photonicS
NEUROPULS项目利用增强硅光子技术开发安全节能的RISC-V接口神经形态加速器,构建三个平台,面向GNSS抗干扰、自动驾驶和边缘异常检测等边缘计算用例,并关注可靠性与安全性。
2023-05-04 cs.AR eess.SP
ControlPULP: A RISC-V On-Chip Parallel Power Controller for Many-Core HPC Processors with FPGA-Based Hardware-In-The-Loop Power and Thermal Emulation
本文提出ControlPULP,一个基于RISC-V的开源并行功率控制器平台,通过多核集群加速实时功率管理策略,在72核HPC处理器用例中实现4.9倍加速和DVFS跟踪偏差小于3% TDP。
2024-02-21 cs.AR
Real-time Object Detection and Associated Hardware Accelerators Targeting Autonomous Vehicles: A Review
本文综述了面向自动驾驶汽车的实时目标检测算法及对应硬件加速器,指出非神经网络算法已被CNN取代、GPU和ASIC是主流硬件,同时分析了商用车技术不公开导致的学术研究落地难题,旨在填补相关研究空白,为下一代自动驾驶车辆研发提供参考。
2025-09-04 cs.AR
A Reconfigurable and Representation-Adaptive ISA-Based Architecture for Efficient DNN Acceleration
Khalifa University(哈利法大学);University of Patras(帕特雷大学)
研究针对特定领域硬件加速器缺乏适应性、通用ISA方案效率低的问题,引入面向机器学习的指令集架构和可重构硬件平台,结合高效与灵活,展示其在效率与可编程性间的优势。
2026-07-07 cs.AR
NPU Accelerator: Quantized Real-Time Vehicle Detection on PYNQ-Z1 Using FINN
Intigia;DFKI(德国人工智能研究中心)
本文提出一种基于FINN的NPU加速器,通过量化感知训练、模型精简和硬件优化,在PYNQ-Z1上实现满足实时性、能效和精度要求的车辆检测,达到35.66 FPS和0.594 mAP。
2026-09-22 cs.AI cs.AR
Edge Physical AI Deployment of Vision Transformers on Heterogeneous Edge GPU Targeting Autonomous Vehicles
Jetson-aware embedded deep learning inference(Jetson-aware嵌入式深度学习推理)
研究针对自动驾驶车辆在异构边缘GPU上部署视觉Transformer的问题,提出硬件感知的H-FraDS方法,通过固定调度比率路由帧,适配组件,结合OFA,实现高效推理,提升了帧率、吞吐量并满足实时操作要求。
2026-07-14 cs.AI cs.AR
OMU: A Probabilistic 3D Occupancy Mapping Accelerator for Real-time OctoMap at the Edge
Harvard University(哈佛大学);Peking University(北京大学)
自主机器(例如,车辆、移动机器人、无人机)需要复杂的3D映射来感知动态环境。然而,维护实时的【形】3D地图在计算和存储器需求方面都是昂贵的,特别是对于资源受限的边缘机器。ProbabilityMap是一种可靠且节省内存的3D密集地图模型,用于表示完整的环境,具有动态体素节点修剪和扩展能力。本文提出了第一个有效的加速器解决方案,即OMU,使实时的【形】概率3D映射的边缘。为了提高性能,通过并行PE单元更新输入标测图体素,以实现数据并行。在每个PE内,使用专门开发的数据结构将体素存储在并行存储体中。此外,修剪地址管理器被设计在每个PE单元内以重用修剪的存储器地址。建议的3D映射加速器的实施和评估使用商业12纳米技术。与Nvidia Jetson TX 2平台中的ARM Cortex-A57 CPU相比,所提出的加速器实现了高达62 $\times$的性能和708 $\times$的能效改进。此外,该加速器提供63 FPS吞吐量,比实时的【形】要求高出2 $\times$以上,从而实现3D映射的实时的【形】感知。
2022-05-06 cs.AR cs.RO
Factor Graph Accelerator for LiDAR-Inertial Odometry
Tianjin University(天津大学);PerceptIn(PerceptIn公司);University of Rochester(罗切斯特大学)
因子图是一个图表示的概率分布函数的因式分解,并已被用于许多自主机器计算任务,如定位,跟踪,规划和控制等,我们正在开发一个架构的目标是使用因子图作为一个共同的抽象大多数,如果不是,所有的自主机器计算任务。如果成功,该架构将提供一个非常简单的接口,将自主机器功能映射到底层计算硬件。作为这种尝试的第一步,本文介绍了我们最近的工作,开发一个因子图加速器的激光雷达惯性里程计(LIO),在许多自主机器,如自动驾驶汽车和移动机器人的一项重要任务。通过将LIO建模为因子图,所提出的加速器不仅支持多传感器融合,如LiDAR、惯性测量单元(IMU)、GPS等,而是以批量或增量模式解决机器人导航的全局优化问题。我们的评估表明,所提出的设计显着提高了自主机器导航系统的实时性能和能源效率。初步的成功表明了将因子图体系结构推广为自治机器计算的公共抽象的潜力,包括跟踪,规划和控制等。
2022-09-06 cs.AR cs.RO
Hardware Accelerators for Autonomous Cars: A Review
本文从硬件与算法双视角系统综述了自动驾驶汽车机器视觉系统的最新进展,分析商用技术优缺点并提出未来方向,为相关研究者提供参考。
2024-04-26 cs.AR cs.RO
A Survey of Real-time Scheduling on Accelerator-based Heterogeneous Architecture for Time Critical Applications
本文综述了近十年面向时间关键型应用的加速器异构架构实时调度技术,按软硬截止期限分类梳理方法,探讨应用场景驱动的调度方案及领域待解决问题。
2025-05-17 cs.AR cs.DC
iELAS: An ELAS-Based Energy-Efficient Accelerator for Real-Time Stereo Matching on FPGA Platform
Beijing Institute of Technology(北京理工大学);PerceptIn Inc(PerceptIn公司)
立体匹配是机器人导航和自主车辆的一项重要任务,它提供了对周围环境的深度估计。在所有的立体匹配算法中,高效大规模立体(ELAS)提供了效率和准确性之间的最佳权衡之一。然而,由于固有的迭代过程和不可预测的内存访问模式,ELAS只能在高端CPU上以1.5-3 fps的速度运行,并且难以在低功耗平台上实现实时的【形】性能。本文提出了一种基于FPGA的实时的【形】ELAS立体匹配的节能架构。此外,原来的计算密集和不规则的三角剖分模块进行了改革,在规则的方式与点插值,这是更硬件友好。进一步利用包括存储管理、并行性和流水线的优化来减少存储器占用并提高吞吐量。与Intel i7 CPU和最先进的CPU+FPGA实现相比,我们的FPGA实现分别实现了高达38.4倍和3.32倍的帧速率提升,以及高达27.1倍和1.13倍的能效提升。
2021-04-11 cs.AR cs.CV cs.RO
Real-time semantic segmentation on FPGAs for autonomous vehicles with hls4ml
Politecnico di Milano(米兰理工大学);Institute of Physics Belgrade(贝尔格莱德物理研究所);University of Oxford(牛津大学);European Organization for Nuclear Research (CERN)(欧洲核子研究组织);ETH Zürich(苏黎世联邦理工学院);Chalmers University of Technology(查尔姆斯理工大学);Zenseact(Zenseact公司);University of Gothenburg(哥德堡大学);Fermi National Accelerator Laboratory(费米国家加速器实验室);Amazon(亚马逊公司);University of Washington(华盛顿大学);Massachusetts Institute of Technology(麻省理工学院)
在本文中,我们研究了现场可编程门阵列如何作为硬件加速器,用于自动驾驶相关的实时的【形】语义分割任务。考虑到ENet卷积神经网络架构的压缩版本,我们展示了一个完全片上部署,每个图像的延迟为4.9 ms,在Xilinx ZCU 102评估板上使用不到30%的可用资源。当将批量大小增加到10时,延迟减少到每个图像3 ms,对应于自动驾驶车辆同时接收来自多个摄像头的输入的用例。通过积极的滤波器减少和异构量化感知训练以及卷积层的优化实现,我们表明可以显着降低功耗和资源利用率,同时保持Cityscapes数据集的准确性。
2022-05-16 cs.AR cs.CV cs.LG