FusionAccel: A General Re-configurable Deep Learning Inference Accelerator on FPGA for Convolutional Neural Networks
深度学习加速器是加速深度学习网络计算的方法之一，主要基于卷积神经网络加速。针对并行卷积神经网络加速器并非完全开源和平台排他性的问题，提出了一种可扩展的卷积神经网络加速器硬件架构FusionAccel。它可以适应不同的网络结构，并可以在编译前重构和在运行时重新配置。本文在Xilinx Spartan-6 FPGA上实现了RTL级卷积神经网络加速器的设计和功能验证。结果与Caffe-CPU相同。由于整个项目是基于RTL的，所以在替换了一些FPGA专用的IP后，可以移植到ASIC上。
2019-07-04 cs.AR
Exploring Memory Access Patterns for Graph Processing Accelerators
商业和技术的最新趋势（例如，机器学习、社会网络分析）受益于在数据库和数据科学平台中存储和处理越来越多的图形结构数据。作为具有可定制的存储层次结构的图形处理的加速器的FPGA承诺解决由传统硬件上固有的不规则存储器访问模式（例如，CPU）。然而，开发这样的硬件加速器仍然是耗时且困难的，并且基准测试是非标准化的，这阻碍了对存储器访问模式变化的影响的理解和图形处理加速器的系统工程。在这项工作中，我们提出了一个模拟环境的基础上模拟他们的内存访问模式的图形处理加速器的分析。此外，我们评估了我们的方法在两个国家的最先进的FPGA图形处理加速器，并显示再现性，可比性，以及缩短开发过程的例子。在FPGA等加速器硬件上不实现周期精确的内部数据流可显著缩短实现时间，提高基准参数透明度，并允许比较图形处理方法。
2021-02-07 cs.AR cs.DB
A Survey of FPGA-Based Neural Network Accelerator
最近的研究表明，神经网络在机器学习中比传统的基于手工特征和模型的算法具有显著的优势。神经网络在图像、语音和视频识别等领域得到了广泛的应用。但神经网络推理的高计算和存储复杂性给其应用带来了很大困难。CPU平台很难提供足够的计算能力。GPU平台以其高计算能力和易用的开发框架成为神经网络处理的首选平台。另一方面，基于FPGA的神经网络推理加速器也成为一个研究课题。通过专门设计的硬件，FPGA是下一个可能在速度和能效方面超越GPU的解决方案。已经提出了各种基于FPGA的加速器设计，其具有软件和硬件优化技术以实现高速和能量效率。本文综述了基于FPGA的神经网络推理加速器的研究进展，并对其中的主要技术进行了总结。从软件到硬件，从电路级到系统级，对基于FPGA的神经网络推理加速器的设计进行了全面的分析，为以后的工作提供了指导。
2018-12-06 cs.AR
FPGA Based Accelerator for Neural Networks Computation with Flexible Pipelining
FPGA由于其高功率效率和可配置性而适合于定点神经网络计算。然而，它的设计必须经过深入的改进，以利用有限的硬件资源实现高性能。我们提出了一个基于FPGA的神经网络加速器及其优化框架，它可以实现各种CNN模型和FPGA资源的最佳效率。针对高吞吐量，我们采用分层流水线架构，以提高DSP的利用率。为了获得最佳性能，还提出了一种灵活的算法来分配均衡的硬件资源到每一层，激活缓冲区的设计支持。通过在ZC706上均衡实现四个CNN模型，DSP的利用率和效率超过90%。对于ZC 706上的VGG 16，所提出的加速器实现的性能分别是参考的非流水线架构[1]、流水线架构[2]和[3]的2.58倍、1.53倍和1.35倍。
2021-12-28 cs.AR
FPGA-Optimized Hardware Accelerator for Fast Fourier Transform and Singular Value Decomposition in AI
本研究提出基于FPGA的硬件加速器，优化AI模型中FFT与SVD操作，通过数据流控制等模块提升处理速度、降低延迟，实验验证其性能优势，相比软件实现获显著速度提升。
2025-04-14 cs.AR
DNNExplorer: A Framework for Modeling and Exploring a Novel Paradigm of FPGA-based DNN Accelerator
现有的基于FPGA的DNN加速器通常分为两种设计范式。它们要么采用通用的可重用架构来支持不同的DNN网络，但由于牺牲了设计的特殊性而留下了一些性能和效率。或者他们应用逐层定制的架构来优化特定于层的计算和资源需求，但放松了适应各种DNN网络的可扩展性。为了克服这些缺点，本文提出了一种新的基于FPGA的DNN加速器设计范式及其自动化工具，称为DNNExplorer，以便在所提出的范式下快速探索各种加速器设计，并为现有和新兴的DNN网络提供优化的加速器架构。三个关键技术对于DNNExplorer的改进性能，更好的特异性和可扩展性至关重要，包括（1）具有高维设计空间支持和细粒度可调整性的独特加速器设计范例，（2）动态设计空间，以适应DNN工作负载和目标FPGA的不同组合，以及（3）设计空间探索（DSE）引擎，用于通过同时考虑FPGA的计算和存储器资源以及DNN网络的层来生成遵循所提出的范例的优化的加速器架构。智能特性和整体复杂性。实验结果表明，对于相同的FPGA，DNNExplorer生成的加速器可以提供高达4.2倍的性能（GOP/s），而DNNBuilder为具有38个CONV层的VGG类DNN生成的最先进的逐层流水线解决方案。与具有通用可重用计算单元的加速器相比，DNNExplorer的DSP效率分别比学术界最近发布的加速器设计（HybridDNN）和商业DNN加速器IP（Xilinx…
2021-03-23 cs.AR
Late Breaking Result: FPGA-Based Emulation and Fault Injection for CNN Inference Accelerators
本文提出基于FPGA的仿真平台，结合Tengine框架生成CNN加速器实现并注入故障，以NVDLA执行ResNet-18为案例，证明其在Zynq UltraScale+ SoC上的容错分析速度比软件仿真快一个数量级。
2025-01-22 cs.AR
PipeCNN: An OpenCL-Based FPGA Accelerator for Large-Scale Convolution Neuron Networks
卷积神经网络在图像分类、视频分析和语音识别等领域有着广泛的应用。作为计算密集型，CNN计算主要由具有高功耗的GPU加速。最近，研究进行了利用FPGA作为CNN加速器，因为它的可重构性和能源效率的优势比GPU，特别是当基于OpenCL的高级合成工具，现在提供快速验证和实施流程。以前的基于OpenCL的设计只关注于创建一个通用的框架来识别与性能相关的硬件参数，而没有利用FPGA的特殊能力，流水线内核功能，以最大限度地减少内存带宽的要求。在这项工作中，我们提出了一个FPGA加速器的深度流水线OpenCL内核的新架构。为了提高设计效率，还提出了数据重用和任务映射技术。通过在Altera Stratix-V A7 FPGA上实现AlexNet和VGG两个具有代表性的大规模CNN，验证了所提出的方案。与以前的工作相比，我们已经实现了33.9 GOPS的类似峰值性能，DSP块上的资源减少了34%。我们的设计是开放的，因此可以重用，以探索新的架构神经网络加速器。
2016-11-08 cs.AR
Memory-Efficient Dataflow Inference for Deep CNNs on FPGA
FPGA上的自定义低功耗卷积神经网络（CNN）推理加速器针对特定的CNN拓扑进行定制，并将参数存储在片内存储器（OCM）中，从而实现高能效和低推理延迟。然而，在这些加速器中，参数存储器的形状由吞吐量约束决定，并且不能很好地映射到底层OCM，这成为实现瓶颈。在这项工作中，我们提出了一种加速器的设计方法-频率补偿内存打包（FCMP）-它提高了OCM的利用效率，以最小的吞吐量减少和FPGA OCM的物理结构没有修改的低成本加速器。为了验证我们的方法，我们将其应用于中型CIFAR-10推理加速器的几种实现，并证明OCM利用率可降低高达30%，而不会损失推理吞吐量，从而使我们能够将加速器从Xilinx Zynq 7020移植到7012 S，从而降低应用成本。我们还实现了一个自定义的低功耗FPGA推理加速器的量化ResNet-50 CNN，利用片上权重，有史以来最大的拓扑结构实现了这种加速器架构。我们证明，通过将FCMP应用于ResNet加速器，OCM瓶颈得到缓解，这使得加速器能够从Alveo U250移植到更小的Alveo U280板，与其他技术相比，吞吐量损失更小。通过在吞吐量和OCM要求之间提供更细粒度的权衡，FCMP提高了FPGA上自定义低功耗CNN推理设计的灵活性。
2020-11-14 cs.AR
Xel-FPGAs: An End-to-End Automated Exploration Framework for Approximate Accelerators in FPGA-Based Systems
本文提出Xel-FPGAs框架，利用统计或机器学习模型将ASIC近似电路高效适配到FPGA系统，探索时间最多降低95%，并能找到更优的Pareto最优设计。
2023-08-08 cs.AR
A Soft Processor Overlay with Tightly-coupled FPGA Accelerator
FPGA覆盖层通常被实现为粗粒度的可重构架构，其目标是通过平衡底层结构的灵活性和易于配置来提高设计人员的生产力。为了真正促进全面的应用加速，通常还需要包括一个高效的处理器，该处理器与加速器集成和协作，同时保持在同一覆盖框架内实现的好处。本文提出了一种开源的软处理器，旨在与FPGA加速器紧密耦合，作为覆盖框架的一部分。基于RISC-V的开放性和可移植性，采用4级流水线结构设计软处理器，以平衡在FPGA上实现时的资源消耗和性能。该处理器是通用实现的，以促进设计的可移植性和跨不同的FPGA平台的兼容性。实验结果表明，集成软件-硬件应用程序使用所提出的紧耦合架构实现可比的性能，只有硬件加速器，而所提出的架构提供了额外的运行时的灵活性。该处理器已综合到来自不同供应商的低端和高性能FPGA系列，实现了268.67MHz的最高频率和与现有RISC-V设计相当的资源消耗。
2016-06-21 cs.AR
Leveraging Application-Specific Knowledge for Energy-Efficient Deep Learning Accelerators on Resource-Constrained FPGAs
本文针对资源受限FPGA上深度学习加速器能效不足的问题，提出一个融合RTL优化、工作负载感知策略和应用特定知识的加速器生成框架，系统探索设计配置以在满足资源与推理性能约束的同时提升能效。
2025-04-12 cs.AR
An Efficient Accelerator for Deep Learning-based Point Cloud Registration on FPGAs
Keio University（庆应义塾大学）
点云配准是许多机器人应用的基础，例如里程计和同时定位与地图构建（SLAM），它们对于自主移动机器人越来越重要。这些机器人的计算资源和功率预算是有限的，从而促进了在低成本FPGA上开发资源高效的配准方法。在本文中，我们提出了一种基于FPGA的3D点云配准的新方法，该方法基于最近的基于深度学习的方法PointNetLK。设计了一种用于PointNet特征提取的高效FPGA加速器，并在低成本和中档FPGA（Avnet Ultra96v2和Xilinx ZCU 104）上实现。我们的加速器设计的注册速度，准确性，资源使用和功耗方面进行评估。实验结果表明，PointNetLK与我们的加速器实现高达21.34倍和69.60倍的注册速度比CPU同行和ICP，分别，而仅消耗722 mW，并保持相同的精度水平。
2022-03-11 cs.AR cs.RO
Evaluating FPGA Accelerator Performance with a Parameterized OpenCL Adaptation of the HPCChallenge Benchmark Suite
FPGA在数据中心应用中的采用率越来越高，因为新一代高级工具已经问世，这些工具显著缩短了FPGA加速器的开发时间，但仍能提供高质量的结果。然而，目前还没有专门针对HPC应用的FPGA架构、编程工具和库进行比较的高级基准测试套件。为了填补这一空白，我们为Xilinx和Intel FPGA开发了基于OpenCL的HPCC基准测试套件的开源实现。该基准测试可用于分析FPGA设备、卡和开发工具流的当前功能，跟踪随时间推移的进展，并指出HPC领域中FPGA加速的具体困难。此外，基准测试记录了经过验证的性能优化模式。我们将继续优化和移植新一代FPGA和设计工具的基准，并鼓励积极参与，为社区创造有价值的工具。
2020-06-12 cs.AR cs.DC
An Energy-Efficient and Runtime-Reconfigurable FPGA-Based Accelerator for Robotic Localization Systems
同时定位与地图构建（SLAM）估计智能体的轨迹并构建地图，而定位是从无人机、AR、VR到自动驾驶汽车等所有计算规模的自主机器的基本核心。在这项工作中，我们提出了一个节能和运行时可重构的基于FPGA的机器人定位加速器。我们利用特定于SRAM的数据局部性，稀疏性，重用和并行性，并实现了超过5倍的性能提升。特别是，我们的设计可以根据环境在运行时重新配置，以节省功耗，同时保持准确性和性能。
2022-04-15 cs.AR
Architectural Design and Performance Analysis of FPGA based AI Accelerators: A Comprehensive Review
Indian Institute of Engineering Science and Technology（印度工程科学与技术学院）
本文综述了基于FPGA的AI加速器的架构设计与性能分析，探讨了硬件层面的优化技术及最新加速器的挑战与未来发展方向。
2026-02-25 cs.AI cs.AR
A survey on FPGA-based accelerator for ML models
University of Auckland（奥克兰大学）；Technische Universität Darmstadt（达姆施塔特工业大学）
本文综述了过去六年顶级FPGA会议的287篇论文，指出ML与FPGA技术日益融合，研究侧重于推理加速（81%）且以CNN为主，同时GNN等新兴模型呈增长趋势，为未来研究方向提供了见解。
2024-12-20 cs.AR cs.LG
LlamaF: An Efficient Llama2 Architecture Accelerator on Embedded FPGAs
本文提出嵌入式 FPGA 加速器 LlamaF，通过训练后量化、带宽优化、异步计算和全流水线矩阵-向量乘法，使 TinyLlama 1.1B 在 ZCU102 上较纯 PS 实现显著提速并提升能效。
2024-09-12 cs.AR
SpeedLLM: An FPGA Co-design of Large Language Model Inference Accelerator
本文提出在Xilinx Alevo U280上针对Tinyllama优化的FPGA加速器SpeedLLM，通过数据流并行、内存复用和Llama2算子融合，实现最高4.8倍性能提升和1.18倍能耗降低。
2025-05-07 cs.AR
ScalaBFS: A Scalable BFS Accelerator on HBM-Enhanced FPGAs
高带宽存储器（HBM）通过向处理单元公开多个存储器通道来提供大规模聚合的内存带宽。为了实现高性能，构建在配置有HBM的FPGA之上的加速器（即，FPGA-HBM平台）需要根据可用的内存通道扩展其性能。在本文中，我们提出了一个加速器的BFS（宽度优先搜索）算法，命名为ScalaBFS，建立多个处理元素，充分利用HBM的高带宽，以提高效率。在Xilinx Alveo U280 FPGA卡上实现了ScalaBFS的原型系统，并在真实世界和合成无标度图中进行了BFS。实验结果表明，ScalaBFS的性能几乎与U280的HBM2子系统的可用内存伪通道（PC）成线性关系。通过充分利用U280上的32台PC和构建64个处理单元（PE），ScalaBFS实现了高达19.7 GTEPS（每秒千兆遍历边数）的性能。当在稀疏的现实图形中进行BFS时，ScalaBFS实现了与在最先进的Nvidia V100 GPU上运行的Gunrock等效的GTEPS，该GPU具有64 PC HBM 2（是U280的两倍内存带宽）。
2021-10-12 cs.AR
Implementation and Analysis of Thermometer Encoding in DWN FPGA Accelerators
Fulda University of Applied Sciences（富尔达应用科学大学）
本文提出了一种包含显式温度编码的DWN硬件生成器，通过实验表明温度编码显著增加LUT使用量，凸显了在DWN加速器中进行编码意识设计的重要性。
2025-12-17 cs.AR
Demystifying the 7-D Convolution Loop Nest for Data and Instruction Streaming in Reconfigurable AI Accelerators
本文提出以硬件为中心的 7 维卷积循环嵌套流式映射框架，在 MAVeC 上实现 VGG-16 全模型推理，PE 利用率超 90%，吞吐量达 1.56 TFLOPs/sec。
2025-07-27 cs.AR
An Irredundant and Compressed Data Layout to Optimize Bandwidth Utilization of FPGA Accelerators
针对 FPGA 加速器处理多维数据集时的内存带宽瓶颈，本文提出基于编译器的连续数据布局，并结合数据打包与运行时压缩，将 I/O 周期最多降低 7 倍。
2024-01-22 cs.AR
Graphitron: A Domain Specific Language for FPGA-based Graph Processing Accelerator Generation
Graphitron是一种领域特定语言，通过定义顶点和边为原始类型，支持多种图算法，利用独立于算法的硬件优化技术，生成性能相当且灵活性高的FPGA加速器。
2024-07-17 cs.AR
Increasing FPGA Accelerators Memory Bandwidth with a Burst-Friendly Memory Layout
将计算密集型内核卸载到硬件加速器依赖于这些平台提供的高度并行性。然而，存储器接口的有效带宽往往会造成瓶颈，阻碍加速器的有效性能。支持数据重用的技术（如平铺）降低了内存流量的压力，但仍然经常使加速器I/O受限。如果数据在内存中是连续的，则通过使用突发而不是逐元素访问，可以进一步增加有效带宽。在本文中，我们提出了一种内存分配技术，并提供了一个概念验证的源到源编译器通过，通过修改外部存储器中的数据布局，使这种突发传输。我们评估这种技术如何推高内存吞吐量，留出空间，利用额外的并行性，最小的逻辑开销。
2022-02-23 cs.AR
Rosebud: Making FPGA-Accelerated Middlebox Development More Pleasant
我们介绍了一种设计FPGA加速中间盒的方法，通过解耦硬件加速器实现和软件应用程序编程的任务，简化了开发，调试和性能调整。Rosebud是一个框架，通过标准化的硬件/软件接口将硬件加速器链接到高性能数据包处理管道。这种关注点的分离使硬件开发人员能够专注于优化自定义加速器，同时使软件程序员能够以类似于软件库的方式重用、配置和调试加速器。我们通过在不到一个月的时间内构建一个基于大型黑名单的防火墙和移植Pigernet IDS模式匹配加速器来展示Rosebud框架的好处。我们的实验表明，Rosebud提供了高性能，服务约200 Gbps的流量，同时只增加了0.7-7微秒的延迟。
2023-03-17 cs.AR
Analysis and Optimization of I/O Cache Coherency Strategies for SoC-FPGA Device
与传统的基于PCIe的FPGA加速器不同，异构SoC-FPGA器件在CPU上运行的软件和硬件加速器之间提供了更紧密的集成。现代异构SoC-FPGA平台支持CPU和FPGA之间的多个I/O缓存一致性选项，但这些选项可能会对实现的带宽产生意外影响，具体取决于应用和数据访问模式。为了在CPU和加速器之间提供最有效的通信，了解数据事务行为并选择正确的I/O缓存一致性方法至关重要。在本文中，我们使用Xilinx Zynq UltraScale+作为SoC平台，展示了某些I/O缓存一致性方法在不同情况下的性能优劣，并最终影响整体加速器性能。基于我们的分析，我们进一步探讨了可能的软件和硬件修改，以提高不同的I/O缓存一致性选项的I/O性能。经过我们的改进，SoC设计的整体性能平均可以提高20%。
2019-08-04 cs.AR
A Novel FPGA-based CNN Hardware Accelerator: Optimization for Convolutional Layers using Karatsuba Ofman Multiplier
本文提出一种基于FPGA的CNN硬件加速器，利用Karatsuba Ofman乘法器优化AlexNet、VGG16和VGG19的卷积层，以更少硬件资源实现高速乘法。
2024-12-29 cs.AR
LLM-Driven Design Space Exploration of FPGA-based Accelerators
School of Computing Science, University of Glasgow（格拉斯哥大学计算机科学学院）
本文提出SECDA-DSE框架，利用大语言模型自动化FPGA加速器的设计空间探索，通过结构化探索器和LLM栈实现高效配置生成与优化。
2026-05-07 cs.AI cs.AR cs.PF
A GPU-Outperforming FPGA Accelerator Architecture for Binary Convolutional Neural Networks
Arizona State University（亚利桑那州立大学）；Nanyang Technological University（南洋理工大学）
基于FPGA的卷积神经网络（CNN）硬件加速器由于其比GPU更高的能量效率而受到广泛关注。然而，基于FPGA的解决方案要实现比GPU更高的吞吐量是具有挑战性的。在本文中，我们证明了当CNN在权重和激活的二进制约束下进行训练时，FPGA加速在吞吐量和能效方面都是一种优越的解决方案。具体来说，我们提出了一种优化的FPGA加速器架构，专为逐位卷积和归一化而设计，具有大规模的空间并行性和深流水线阶段。FPGA加速器的一个关键优势是其性能对数据批量大小不敏感，而GPU加速的性能在很大程度上取决于数据的批量大小。实验结果表明，在Virtex-7 FPGA上运行的二进制CNN的加速器架构比Titan X GPU快8.3倍，能效高75倍，可以处理小批量的在线个人请求。对于处理大批量静态数据，该解决方案在吞吐量方面与Titan X GPU不相上下，同时提供9.5倍的能效。
2017-06-08 cs.AR cs.CV cs.DC
Synetgy: Algorithm-hardware Co-design for ConvNet Accelerators on Embedded FPGAs
UC Berkeley（加州大学伯克利分校）；Tsinghua University（清华大学）；Politecnico di Torino（都灵理工大学）；Xilinx Research Labs（赛灵思研究实验室）
近年来，使用FPGA加速ConvNets引起了人们的极大关注。然而，FPGA加速器设计并没有利用ConvNets的最新进展。因此，每秒帧数（FPS）等关键应用程序特性被忽略，而只支持简单地计算GOP，并且对应用程序成功至关重要的准确性结果通常甚至没有报告。在这项工作中，我们采用了算法硬件协同设计的方法来开发一个ConvNet加速器称为Synetgy和一个新的ConvNet模型称为DiracDeltaNet $^{\dagger}$。加速器和ConvNet都是根据FPGA要求定制的。DiracDeltaNet，顾名思义，是一个只有$1\times 1$卷积的ConvNet，而空间卷积被更有效的移位操作所取代。DiracDeltaNet在ImageNet上实现了具有竞争力的准确性（前5名为88.7\%），但比VGG 16少了42个$\times$参数和48个$\times$ OP。我们进一步将DiracDeltaNet的权重转换为4位，将激活转换为4位，精度损失小于1\%。这些量化很好地利用了FPGA硬件的性质。简而言之，DiracDeltaNet的小模型尺寸，低运算OP计数，低精度和简化的运算符使我们能够为FPGA共同设计高度定制的计算单元。我们通过高级综合在Ultra96 SoC系统上实现了DiracDeltaNet的计算单元。我们的加速器在ImageNet上的最终前5名准确率为8…
2020-05-11 cs.AR cs.CV
Energy Efficient LSTM Accelerators for Embedded FPGAs through Parameterised Architecture Design
University of Duisburg-Essen（杜伊斯堡-埃森大学）
本文提出一种面向嵌入式FPGA的参数化LSTM加速器设计，通过优化资源受限环境下的执行速度和能耗，支持通过DSP使用和激活函数实现等参数适应不同场景。
2026-04-21 cs.AR
Neighbors From Hell: Voltage Attacks Against Deep Learning Accelerators on Multi-Tenant FPGAs
University of Toronto（多伦多大学）；Vector Institute（向量研究所）
现场可编程门阵列（FPGA）由于其灵活性和能源效率而成为无数数据中心应用的广泛使用的加速器。在这些应用中，FPGA在加速低延迟实时深度学习（DL）推理方面表现出了良好的效果，这正在成为许多最终用户应用不可或缺的组件。随着可由多个用户共享的虚拟化云FPGA的新兴研究方向，基于FPGA的DL加速器的安全性方面需要仔细考虑。在这项工作中，我们评估了DL加速器在多租户FPGA场景中对基于电压的完整性攻击的安全性。我们首先证明了这种攻击的可行性，在一个国家的最先进的Stratix 10卡使用不同的攻击者电路，在逻辑上和物理上隔离在一个单独的攻击者的角色，并且不能被标记为恶意电路由传统的比特流检查器。我们表明，积极的时钟门控，一种有效的节能技术，也可以是一个潜在的安全威胁，在现代FPGA。然后，我们对以受害者角色运行ImageNet分类的DL加速器进行攻击，以评估DL模型对对手引起的时序故障的固有弹性。我们发现，即使使用最强的攻击者电路，DL加速器的预测精度不会受到影响时，在其安全的工作频率运行。此外，我们可以通过对DL加速器进行超频来实现1.18- 1.31倍的推理性能，而不会影响其预测精度。
2022-07-08 cs.AR cs.CR cs.LG
Facial Expression Recognition System Using DNN Accelerator with Multi-threading on FPGA
National Institute of Technology, Oita College（大分国立高等专门学校）
本文在SoC FPGA上利用通用DPU加速器结合多线程技术实现独立的面部表情识别系统，通过在同一DPU上运行DenseBox和CNN推理，在保持较小电路规模下实现25 FPS吞吐量且每功耗吞吐量提升2.4倍。
2025-11-04 cs.AR
Towards Autonomous Accelerator Design: FPGA Accelerator Generation with SECDA
School of Computing Science, University of Glasgow, Scotland, UK（格拉斯哥大学计算机科学学院）
提出SECDA-DSE框架，集成大语言模型引导FPGA加速器设计空间探索，通过结构化探索器和LLM推理生成可综合的加速器设计，减少人工干预。
2026-06-09 cs.AI cs.AR cs.PF
On The Design of a Light-weight FPGA Programming Framework for Graph Applications
为图形处理设计的FPGA加速器越来越受欢迎。用于图处理的领域特定语言（DSL）框架可以降低算法设计的编程复杂度和开发成本。然而，特定于加速器的开发需要一定的技术专业知识和大量的工作来设计、实现和验证系统。对于大多数算法设计人员来说，硬件编程经验的昂贵成本使得FPGA加速器不可用或不经济。尽管通用高级综合（HLS）工具有助于将高级语言映射到硬件描述语言（HDL），但与高度优化的图形加速器相比，生成的代码通常效率低下且冗长。在低开发成本的情况下，无法充分利用FPGA加速器的能力。为了方便地编程图算法，同时保持可接受的性能下降，我们提出了一个图形编程系统命名为JGraph，它包含两个主要部分：1）一个DSL的图形原子操作与图形库的高层次抽象，包括用户定义的功能与参数，2）一个轻量级的HLS翻译器，以生成高性能的HDL代码，与通信管理器和运行时调度器合作。据我们所知，我们的工作是第一个图形编程系统与DSL和翻译的FPGA平台上。我们的系统可以在几十秒内生成高达300 MTEPS的BFS遍历。
2022-02-25 cs.AR
A CNN Accelerator on FPGA Using Depthwise Separable Convolution
卷积神经网络（CNN）由于其高精度，在计算机视觉和模式识别领域得到了广泛的应用。然而，大型卷积运算是计算密集型的，通常需要强大的计算平台，例如图形处理单元（GPU）。这使得将CNN应用于便携式设备变得困难。最先进的CNN，如MobileNetV 2和Xception，采用深度可分离卷积来取代嵌入式平台的标准卷积。这大大减少了操作和参数，而精度损失有限。这种高度结构化的模型非常适合现场可编程门阵列（FPGA）实现。本文提出了一种可扩展的高性能深度可分离卷积优化的CNN加速器。该加速器可以安装在不同尺寸的FPGA中，在硬件资源和处理速度之间提供平衡。以MobileNetV 2为例，在Arria 10 SoC FPGA上实现，结果表明该加速器可以在3.75ms内对ImageNet中的每幅图片进行分类，约为266.6帧/秒。与CPU相比，这实现了20倍的加速。
2018-09-06 cs.AR eess.SP
A Survey of Spiking Neural Network Accelerator on FPGA
本文综述了FPGA上脉冲神经网络加速器的最新进展，涵盖神经元模型、网络结构、编码格式及硬件设计方案，并通过应用实例分析实际加速潜力与未来趋势。
2023-07-08 cs.AR cs.NE
FPGA-Based Neural Network Accelerators for Space Applications: A Survey
KTH Royal Institute of Technology（皇家理工学院）
本文综述了基于FPGA的神经网络加速器在空间任务中的应用，分析了现有文献、趋势和空白，并提出了未来研究方向，以提升星载计算系统性能。
2026-10-14 cs.AI cs.AR
Reconfigurable Hardware Accelerators: Opportunities, Trends, and Challenges
随着近年来机器学习、语音识别、人工智能、DNA测序等大数据应用的兴起，计算机体系结构研究界正面临着各种数据爆炸的爆发规模。为实现数据密集型计算的高效性，面向最新应用的异构加速器研究已成为计算机体系结构领域的热点问题。目前，异构加速器的实现主要依赖于专用集成电路（ASIC）、图形处理单元（GPU）、现场可编程门阵列（FPGA）等异构计算单元。在上述典型的异构架构中，基于FPGA的可重构加速器具有以下两个优点：第一，FPGA架构包含大量的可重构电路，满足特定应用运行时的高性能和低功耗要求。其次，采用FPGA的可重构结构快速实现原型系统，具有良好的可定制性和可重构性。目前，在计算机体系结构的顶级会议上，涌现出一批基于FPGA或其他可重构体系结构的加速工作。为了更好地回顾近年来可重构计算加速器的相关工作，本综述保留了可重构加速器架构和算法应用的最新高水平研究成果作为基础。本文对可重构加速器的研究热点和关注领域进行了比较，并对可重构加速器的优势、劣势和挑战进行了分析和说明。最后对加速器体系结构的未来发展趋势进行了展望，希望能为计算机体系结构研究者提供参考。
2017-12-13 cs.AR
AutoDSE: Enabling Software Programmers to Design Efficient FPGA Accelerators
采用FPGA作为数据中心的加速器正在成为定制计算的主流，但FPGA难以编程的事实给软件程序员带来了陡峭的学习曲线。即使在高级综合（HLS）的帮助下，加速器设计人员仍然必须手动执行代码重构和繁琐的参数调整，以实现最佳性能。虽然许多学习模型已经被现有的工作利用来自动化高效加速器的设计，但现代HLS工具的不可预测性成为他们保持高准确性的主要障碍。为了解决这个问题，我们提出了一个自动化的DSE框架AutoDSE-利用一个检查引导的坐标优化系统地找到一个更好的设计点。AutoDSE在每个步骤中检测设计的瓶颈，并专注于高影响参数来克服它。实验结果表明，AutoDSE能够识别设计点，在Machsuite和Rodinia基准测试中，在几何平均值上，在一个CPU核心上实现19.9倍的加速比。与Xilinx Vitis库中手动优化的HLS视觉内核相比，AutoDSE可以将其优化杂注减少26.38倍，同时实现类似的性能。由于每个设计平均不到一个优化pragma，我们正在通过使软件程序员能够设计高效的FPGA加速器来实现可定制计算的民主化。
2021-08-31 cs.AR cs.PL
An FPGA-Based Hardware Accelerator for Energy-Efficient Bitmap Index Creation
位图索引被认为是在线分析处理系统的一个很有前途的候选者，因为它不仅有效地支持并行处理，而且还支持复杂的多维查询。但是，位图索引创建是一项耗时的任务。本研究充分利用现场可编程门阵列（FPGA）的大规模并行计算能力，首次提出了两种位图索引生成硬件加速器BIC 64 K8和BIC 32 K16。每个加速器包含两个主要组件，即增强的内容可寻址存储器和查询逻辑阵列模块，允许BIC 64 K8和BIC 32 K16在每个时钟周期并行索引65，536个8位字和32，768个16位字。在Intel Arria V 5ASTFD 5 FPGA上的实验结果表明，在100 MHz时，BIC 64 K8和BIC 32 K16的索引吞吐率分别达到1.43 GB/s和1.46 GB/s。吞吐量也被证明是稳定的，无论数据集的大小。更重要的是，与基于中央处理单元和图形处理单元的设计相比，BIC 32 K16的能耗分别仅为6.76%和3.28%。
2018-04-20 cs.AR
DeepBurning-MixQ: An Open Source Mixed-Precision Neural Network Accelerator Design Framework for FPGAs
针对FPGA商用DPU对低比特混合精度神经网络支持不足、原生DSP位宽冗余的问题，提出开源框架DeepBurning-MixQ，通过DSP打包算法、结合硬件开销的NAS量化与HLS全流水线模板，实现性能、资源利用率和精度的全面提升。
2023-08-22 cs.AR
SECDA: Efficient Hardware/Software Co-Design of FPGA-based DNN Accelerators for Edge Inference
University of Glasgow（格拉斯哥大学）；Northeastern University（东北大学）
边缘计算设备固有地面临严格的资源约束，这在部署具有高内存和计算需求的深度神经网络（DNN）时尤为明显。FPGA通常用于边缘设备。由于这些可重构电路可以实现比通用处理器更高的吞吐量和更低的功耗，因此它们特别适合DNN加速。然而，为边缘设备设计基于FPGA的DNN加速器的现有解决方案具有很高的开发开销，因为重复的FPGA合成通道、在模拟设计的硬件描述语言（HDL）中的重新实现以及加速器系统集成的成本。在本文中，我们提出了SECDA，这是一种新的硬件/软件协同设计方法，可以减少使用FPGA的边缘设备上优化DNN推理加速器的设计时间。SECDA将经济高效的SystemC仿真与硬件执行相结合，通过缩短设计评估时间来简化设计空间探索和开发过程。作为一个案例研究，我们使用SECDA在PYNQ-Z1板上有效地开发了两种不同的DNN加速器设计，PYNQ-Z1板是一个包含边缘FPGA的平台。我们快速迭代地探索系统的硬件/软件堆栈，同时识别和缓解性能瓶颈。我们评估了两个加速器设计与四个常见的DNN模型，实现了平均性能加速高达3.5 $\times$的模型与2.9 $\times$减少能源消耗超过CPU的推理。我们的代码可在https://github.com/gicLAB/SECDA上获得
2021-10-01 cs.AR cs.DC cs.LG
A Compilation Flow for the Generation of CNN Inference Accelerators on FPGAs
University of Toronto（多伦多大学）
我们提出了在FPGA上生成CNN推理加速器的编译流程。该流程使用TVM编译器将冻结模型转换为OpenCL内核，并使用英特尔OpenCL SDK编译为FPGA比特流。我们通过对TVM生成的基础OpenCL内核进行优化来提高生成的硬件的质量。这些优化提高了并行性，减少了内存访问延迟，提高了并发性并节省了片上资源。我们在TVM中自动执行这些优化，并通过在Intel Stratix~ 10 SX上为LeNet-5、MobileNetV 1和ResNet-34生成加速器进行评估。我们表明，优化提高了性能的生成的加速器高达846倍以上的基础加速器。优化后的加速器在CPU上的性能比TensorFlow高出4.57倍，比单线程TVM高出3.83倍，比56线程TVM仅高出0.34倍。我们优化的内核也优于通过类似方法（也使用高级合成）生成的内核，同时提供更多的功能和灵活性。然而，它的性能不如使用手动优化设计的方法。因此，我们认为我们的方法在预生产环境中非常有用，可以从提高的性能和快速原型设计中受益，实现FPGA的优势，而无需硬件设计专业知识。
2022-03-08 cs.AR cs.DC cs.LG
Optimizing FPGA-based Accelerator Design for Large-Scale Molecular Similarity Search
分子相似性搜索技术已广泛应用于药物发现中，以快速从大型分子数据库中识别结构相似的化合物。随着化学库规模的不断扩大，如何有效地加速大规模的相似性搜索越来越受到人们的关注。现有的工作主要集中在CPU和GPU加速计算Tanimoto系数在衡量不同分子指纹图谱之间的两两相似性。在本文中，我们提出并优化了基于FPGA的加速器设计的穷举和近似搜索算法。在使用BitBound和折叠的穷举搜索中，分析了相似度截断和折叠级别与搜索加速比和搜索精度的关系，并提出了一种基于FPGA的可扩展的动态查询引擎，以减少资源利用率和流水线间隔。我们实现了一个查询引擎每秒4.5亿复合处理吞吐量。在近似搜索中，使用了层次导航小世界（HNSW），这是一种流行的高召回率和查询速度的算法。我们提出了一个基于FPGA的图遍历引擎，利用高吞吐量的寄存器阵列的优先级队列和细粒度的距离计算引擎，以提高处理能力。实验结果表明，提出的基于FPGA的HNSW实现具有每秒103385查询（QPS）的Chembl数据库与0.92召回，并实现了35倍的加速比现有的CPU实现平均。据我们所知，我们基于FPGA的实现是第一次尝试在FPGA上加速分子相似性搜索算法，并在现有方法中具有最高的性能。
2021-09-13 cs.AR
Hummingbird: A Smaller and Faster Large Language Model Accelerator on Embedded FPGA
Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所）；Center for Long-term Artificial Intelligence（长期人工智能中心）；Beijing Institute of AI Safety and Governance（北京人工智能安全与治理研究院）；Vrije Universiteit Brussel（布鲁塞尔自由大学）；School of Future Technology（未来技术学院）；School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院）；Key Laboratory of Brain Cognition and Brain-inspired Intelligence Technology, Chinese Academy of Sciences（中国科学院脑认知与脑智能技术重点实验室）
针对嵌入式FPGA上LLM部署难题，提出Hummingbird加速器，更小更强更快，支持LLaMA3-8B，显著提升性能并降低资源消耗，为边缘端LLM应用提供可行方案。
2025-10-17 cs.AR
ShEF: Shielded Enclaves for Cloud FPGAs
FPGA现在用于公共云，以加速各种应用程序，包括许多处理敏感数据的应用程序，如财务和医疗记录。我们提出了ShEF，一个可信的执行环境（TEE）基于云的可重构加速器。ShEF独立于基于CPU的TEE，并允许在威胁模型下安全执行，其中对手可以控制连接到FPGA的CPU上运行的所有软件，可以物理访问FPGA，并可以危及云提供商的FPGA接口逻辑。ShEF提供了一个安全的引导和远程证明过程，仅依赖于现有的FPGA机制作为信任根。它还包括一个Shield组件，在使用加速器时提供对数据的安全访问。Shield具有高度可定制性和可扩展性，允许用户以最低的性能和面积开销定制适合其加速器内存访问模式、带宽和安全要求的安全解决方案。我们描述了现有云FPGA的ShEF原型实现，将ShEF映射到高性能和安全的存储应用程序，并使用五个额外的加速器测量可定制安全性的性能优势。
2022-01-28 cs.AR cs.CR
Systolic-CNN: An OpenCL-defined Scalable Run-time-flexible FPGA Accelerator Architecture for Accelerating Convolutional Neural Network Inference in Cloud/Edge Computing
Arizona State University（亚利桑那州立大学）
本文介绍了Systolic-CNN，这是一种OpenCL定义的可扩展、运行时间灵活的FPGA加速器架构，经过优化，可加速多租户云/边缘计算中各种卷积神经网络（CNN）的推理。由于在运行时间支持多个CNN模型的灵活性有限，以及可扩展性差，导致FPGA资源利用不足和计算并行性有限，因此现有的用于CNN推理的OpenCL定义的FPGA加速器是不够的。Systolic-CNN采用了高度流水线化的一维脉动阵列结构，有效地探索了空间和时间并行性，以加速FPGA上的CNN推理。Systolic-CNN是高度可扩展和参数化的，用户可以很容易地对其进行调整，以实现粗粒度计算资源的高达100%的利用率（即，DSP块）。Systolic-CNN在多租户云/边缘计算的背景下也具有运行时间灵活性，可以在运行时间分时加速各种CNN模型，而无需重新编译FPGA内核硬件或重新编程FPGA。基于Intel Arria/Stratix 10 GX FPGA开发板的实验结果表明，对于AlexNet、ResNet-50、ResNet-152、RetinaNet和Lightweight RetinaNet，Systolic-CNN的优化单精度实现可以实现7 ms/2 ms、84 ms/33 ms、202 ms/73 ms、1615 ms/873 ms和900 ms/498 ms的平均推理延迟，分别代码可在https://g…
2020-12-06 cs.AI cs.AR cs.LG
HERO: Heterogeneous Embedded Research Platform for Exploring RISC-V Manycore Accelerators on FPGA
异构嵌入式片上系统（HESoCs）将标准主机处理器与可编程众核加速器（PMCAs）共同集成，以将通用计算与特定领域的高效处理能力相结合。虽然领先的公司成功地推进了他们的HESoC产品，但由于构建一个将行业标准主机处理器与开放式研究PMCA架构相结合的原型平台的挑战，研究滞后。在这项工作中，我们介绍了HERO，一个基于FPGA的研究平台，结合了PMCA组成的RISC-V内核集群，实现为FPGA结构上的软核，与硬ARM Cortex-A多核主机处理器。映射到FPGA上的PMCA架构是经过硅验证的、可扩展的、可配置的和完全可修改的。HERO包括一个完整的软件堆栈，其中包括一个支持OpenMP加速器编程的异构交叉编译工具链、一个Linux驱动程序以及用于主机和PMCA的运行时库。HERO旨在促进对所有软件和硬件层的快速探索：运行时行为可以通过跟踪事件进行准确分析，修改可以通过完全自动化的硬件和软件构建和执行测试进行验证。我们通过我们研究中的案例研究证明了HERO的有用性。
2017-12-18 cs.AR cs.DC
UbiMoE: A Ubiquitous Mixture-of-Experts Vision Transformer Accelerator With Hybrid Computation Pattern on FPGA
本文提出端到端 FPGA 加速器 UbiMoE，通过流式注意力、可复用线性内核和两阶段启发式参数搜索，在两种平台上显著提升 MoE-ViT 的吞吐量与能效。
2025-02-17 cs.AR
always_comm: An FPGA-based Hardware Accelerator for Audio/Video Compression and Transmission
提出一种基于 Nexys4 DDR FPGA 的全硬件可扩展视频会议栈，使用 M-JPEG 和 UDP 实现 30 FPS 音视频实时传输与播放，并通过仿真和综合评估了延迟与吞吐量。
2025-09-15 cs.AR
Medusa: A Scalable Interconnect for Many-Port DNN Accelerators and Wide DRAM Controller Interfaces
Stony Brook University（石溪大学）
为了应对深度神经网络（DNN）日益增长的需求和计算强度，工业界和学术界已经转向加速器技术。特别是，FPGA已经被证明可以在性能和能效之间提供良好的平衡，以加速DNN。虽然重要的研究集中在如何构建高效的层处理器，DNN加速器的计算构建块，但相对较少关注位于层处理器和FPGA的DRAM控制器之间的片上互连。我们观察到DNN加速器接口（往往包括许多窄端口）和FPGA DRAM控制器接口（往往是宽总线）之间的差异。这种不匹配导致传统互连消耗大量FPGA资源。为了解决这个问题，我们设计了Medusa：一种优化的FPGA存储器互连，它在互连结构中转置数据，根据DNN层处理器的需求定制互连。与传统的FPGA互连相比，我们的设计可以将LUT和FF的使用减少4.7倍和6.0倍，并将频率提高1.8倍。
2018-07-11 cs.AR cs.LG cs.NE
FPGA-Based CNN Inference Accelerator Synthesized from Multi-Threaded C Software
Samsung Semiconductor Inc.（三星半导体公司）；University of Toronto（多伦多大学）
深度学习推理加速器是从用Pthreads并行化的C语言软件程序合成的。软件实现使用众所周知的生产者/消费者模型，并行线程通过FIFO队列互连。LegUp高级综合（HLS）工具将线程综合到并行FPGA硬件中，将软件并行性转换为空间并行性。生成一个完整的系统，其中卷积，池化和填充在合成加速器中实现，其余任务在嵌入式ARM处理器上执行。该加速器采用了降低的精度和一种新的方法，用于卷积中的零权重跳过。在中型Intel Arria 10 SoC FPGA上，VGG-16的峰值性能为138有效GOPS。
2018-07-27 cs.AR cs.LG cs.PF
