AIM: Accelerating Arbitrary-precision Integer Multiplication on Heterogeneous Reconfigurable Computing Platform Versal ACAP
本文提出 AIM 框架,在 AMD/Xilinx Versal ACAP 异构平台上自动化和优化任意精度整数乘法设计,实验表明其能效最高可达 CPU 的 12.6 倍和 GPU 的 2.1 倍。
2023-09-21 cs.AR
Dagger: Accelerating RPCs in Cloud Microservices Through Tightly-Coupled Reconfigurable NICs
云服务从单片设计到微服务的持续转变对高效和高性能的数据中心网络堆栈产生了很高的需求,这些堆栈针对细粒度的工作负载进行了优化。基于软件栈和外围设备的商用网络系统在传递小消息时会带来很高的开销。我们提出了Dagger,一个基于FPGA的云RPC硬件加速结构,其中加速器通过可配置的内存互连与主机处理器紧密耦合。Dagger的三个关键设计原则是:(1)将整个RPC堆栈卸载到基于FPGA的NIC,(2)利用内存互连而不是PCIe总线作为与主机CPU的接口,以及(3)使加速结构可重新配置,因此它可以适应微服务的各种需求。我们表明,这些原则的组合显着提高了云RPC系统的效率和性能,同时保持其通用性。与高度优化的软件栈和使用专用RDMA适配器的系统相比,Dagger实现了1.3- 3.8倍的每核RPC吞吐量。它还可以在4个CPU内核上使用8个线程扩展到84 Mrps,同时保持最先进的us级尾部延迟。我们还证明了大型第三方应用程序,如memcached和MICA KVS,可以很容易地移植到Dagger上,只需对其代码库进行最小的更改,即可将其中位数和尾部KVS访问延迟分别降低到2.8 - 3.5us和5.4 - 7.8us。最后,我们通过使用一个实现航班登机服务的8层应用程序对其进行评估,证明了Dagger对于具有不同线程模型的多层端到端微服务是有益的。
2021-06-02 cs.AR cs.NI
Pixie: A heterogeneous Virtual Coarse-Grained Reconfigurable Array for high performance image processing applications
粗粒度可重构阵列(CGRA)实现了可编程性的简化,并降低了开发成本。它们特别适用于可重构计算应用。更小的编译成本和减少的重新配置开销使它们成为加速高性能计算应用程序(如图像处理)的有吸引力的平台。CGRA是ASIC,因此生产成本昂贵。然而,现场可编程门阵列(FPGA)对于小批量产品相对便宜,但它们不那么容易编程。通过在FPGA上实现虚拟粗粒度可重构阵列(VCGRA),我们将两者结合起来。VCGRA是具有大路由开销的FPGA和ASIC之间的折衷。在这个角度来看,我们提出了一种新的异构虚拟粗粒度可重构阵列(VCGRA)称为“Pixie”,这是适合实现高性能的图像处理应用。建议的VCGRA包含通用的处理元件和虚拟通道,使用硬件描述语言VHDL描述。这两个元素已被优化,通过使用参数化配置工具流程,并导致在资源减少的24%,每个处理元素和82%,每个虚拟通道分别。
2017-05-04 cs.AR
Reconfigurable Hardware Accelerators: Opportunities, Trends, and Challenges
随着近年来机器学习、语音识别、人工智能、DNA测序等大数据应用的兴起,计算机体系结构研究界正面临着各种数据爆炸的爆发规模。为实现数据密集型计算的高效性,面向最新应用的异构加速器研究已成为计算机体系结构领域的热点问题。目前,异构加速器的实现主要依赖于专用集成电路(ASIC)、图形处理单元(GPU)、现场可编程门阵列(FPGA)等异构计算单元。在上述典型的异构架构中,基于FPGA的可重构加速器具有以下两个优点:第一,FPGA架构包含大量的可重构电路,满足特定应用运行时的高性能和低功耗要求。其次,采用FPGA的可重构结构快速实现原型系统,具有良好的可定制性和可重构性。目前,在计算机体系结构的顶级会议上,涌现出一批基于FPGA或其他可重构体系结构的加速工作。为了更好地回顾近年来可重构计算加速器的相关工作,本综述保留了可重构加速器架构和算法应用的最新高水平研究成果作为基础。本文对可重构加速器的研究热点和关注领域进行了比较,并对可重构加速器的优势、劣势和挑战进行了分析和说明。最后对加速器体系结构的未来发展趋势进行了展望,希望能为计算机体系结构研究者提供参考。
2017-12-13 cs.AR
Accelerating PageRank Algorithmic Tasks with a new Programmable Hardware Architecture
Division of Energy, Matters and Systems, University of Missouri-Kansas City (UMKC)(密苏里大学堪萨斯城分校能源、物质与系统学部)
本文提出一种新型可编程硬件架构,用于加速PageRank算法任务,通过动态编程实现高效处理大规模蛋白质网络分析。
2024-12-20 cs.AR
Towards Power Efficient DNN Accelerator Design on Reconfigurable Platform
现场可编程门阵列(FPGA)的指数级出现加速了深度神经网络(DNN)硬件实现的研究。在所有DNN处理器中,特定领域的架构,例如Google的张量处理器单元(TPU),已经超过了传统的GPU。然而,在可重构硬件中实现TPU应该强调节能以满足绿色计算的要求。电压缩放是一种流行的节能方法,在FPGA中可能有点关键,因为如果不以适当的方式进行,它可能会导致时序故障。在这项工作中,我们提出了一个超低功耗FPGA实现的TPU边缘应用。我们将TPU的收缩阵列划分为不同的FPGA分区,其中每个分区使用不同的近阈值(NTC)偏置电压来运行其FPGA内核。每个分区的偏置电压粗略计算所提出的静态计划。然而,偏置电压的进一步校准是通过所提出的运行时间方案来完成的。基于乘法累加器(MAC)不同设计路径的最小松弛值的四种聚类算法研究了FPGA的划分。为了克服由NTC引起的定时故障,具有较高最小松弛的MAC被放置在较低电压分区中,并且具有较低最小松弛路径的MAC被放置在较高电压分区中。该架构在商业平台Vivado和学术平台VTR中进行了仿真,Vivado采用Xilinx Artix-7 FPGA,VTR采用22 nm、45 nm、130 nm FPGA。仿真结果证实了电压缩放TPU在FPGA中的实现,也证明了其功率效率。
2022-02-14 cs.AR
ZK-Flex: A Flexible and Scalable Framework for Accelerating Zero-Knowledge Proofs
KAIST(韩国科学技术院)
针对零知识证明中多项式与椭圆曲线运算的高计算强度、多样化大精度模乘及动态负载切换挑战,提出软硬件协同框架ZK-Flex,通过Toom-Cook多精度核心、灵活NoC和链表内存机制,实现5-11倍加速和最高3.8倍面积效率提升。
2026-06-02 cs.AR cs.CR
AP-DRL: A Synergistic Algorithm-Hardware Framework for Automatic Task Partitioning of Deep Reinforcement Learning on Versal ACAP
The Hong Kong University of Science and Technology(香港科技大学);Indian Institute of Technology Goa(印度理工学院果阿分校)
AP-DRL通过智能硬件优化,利用Versal ACAP异构架构加速深度强化学习训练,解决算法与硬件协同优化问题,实现高达4.17倍的加速效果。
2026-03-31 cs.AR cs.LG
SAT-MapIt: A SAT-based Modulo Scheduling Mapper for Coarse Grain Reconfigurable Architectures
SYS Institute Università della Svizzera italiana Lugano, Switzerland;Computer Science University of California, Los Angeles Los Angeles, United States
SAT-MapIt通过SAT公式优化模调度,提升粗粒度可重构架构中循环映射的效率和性能。
2025-12-02 cs.AR
DICE: Enabling Efficient General-Purpose SIMT Execution with Statically Scheduled Coarse-Grained Reconfigurable Arrays
University of Washington(华盛顿大学)
DICE通过静态调度粗粒度可重构阵列(CGRAs)解决GPU SIMD执行中的能耗问题,减少寄存器访问并提升能效,实验表明其在能耗和能效方面优于NVIDIA Turing架构。
2026-05-06 cs.AR
SD-Acc: Accelerating Stable Diffusion through Phase-aware Sampling and Hardware Co-Optimizations
SD-Acc通过相位感知采样算法与专用硬件数据流协同优化,在保持图像质量的同时将Stable Diffusion计算需求降低最多3倍,并显著提升推理速度与能效。
2025-07-02 cs.AR
Accelerating CNN inference on FPGAs: A Survey
Institut Pascal(帕斯卡研究所);IETR, INSA Rennes(雷恩国立应用科学学院电子与电信研究所)
卷积神经网络(CNN)目前被用来解决越来越多的问题,从语音识别到图像分类和分割。CNN所需的大量处理需要专用和定制的硬件支持方法。此外,CNN工作负载具有流式传输性质,非常适合于可重新配置的硬件架构,例如FPGA。在过去的3年里,关于CNN FPGA加速主题的研究数量和多样性表明了巨大的工业和学术兴趣。本文介绍了一种基于FPGA的CNN推理加速器。计算工作量,其并行性和所涉及的内存访问进行了分析。在神经元层面,解释了卷积层和全连接层的优化,并比较了不同方法的性能。在网络层面,涵盖了近似计算和数据路径优化方法,并比较了最先进的方法。本调查中研究的方法和工具代表了FPGA CNN推理加速器的最新趋势,并将推动高效硬件深度学习的未来发展。
2018-05-26 cs.AR cs.CV cs.DC
Monomorphism-based CGRA Mapping via Space and Time Decoupling
Faculty of Informatics Universit \`a della Svizzera italiana Lugano, Switzerland
本文提出了一种基于单形的CGRA映射方法,通过解耦时间和空间维度,提高编译效率,实现高效的代码映射。
2025-12-02 cs.AR
NDFT: Accelerating Density Functional Theory Calculations via Hardware/Software Co-Design on Near-Data Computing System
本文提出NDFT框架,通过软硬件协同设计在CPU-NDP系统上优化LR-TDDFT计算,解决数据移动开销和内存受限问题,相比CPU和GPU基线分别实现5.2倍和2.5倍性能提升。
2025-04-04 cs.AR physics.comp-ph
Accelerating AI and Computer Vision for Satellite Pose Estimation on the Intel Myriad X Embedded SoC
National Technical University of Athens(雅典国立技术大学);University of West Attica(西阿提卡大学)
本文在英特尔Myriad X VPU上实现混合AI/CV系统,利用ResNet-50和经典CV流水线,通过并行化优化,在2W功耗下实现5 FPS的卫星姿态估计。
2024-09-19 cs.AR cs.CV
Accelerating Generic Graph Neural Networks via Architecture, Compiler, Partition Method Co-Design
Shanghai Jiao Tong University(上海交通大学)
本文提出SwitchBlade协同设计框架,通过分区级算子融合、多线程和细粒度图分区,在支持通用GNN的同时实现优于V100且媲美专用加速器的性能与能效。
2023-08-16 cs.AR cs.LG
AccLLM: Accelerating Long-Context LLM Inference Via Algorithm-Hardware Co-Design
School of Electronic Science and Engineering, Nanjing University(南京大学电子科学与技术学院);School of Integrated Circuits, Sun Yat-sen University(中山大学集成电路学院)
AccLLM通过剪枝、Λ形注意力和W2A8KV4量化等算法创新与FPGA可重构硬件协同设计,在U280上实现长上下文LLM推理能效4.07倍、吞吐量2.98倍提升。
2025-04-07 cs.AI cs.AR cs.LG