NPE: An FPGA-based Overlay Processor for Natural Language Processing
近年来,基于transformer的模型在自然语言处理(NLP)中显示出了最先进的结果。特别是BERT语言模型的引入,为问答和自然语言推理等任务带来了突破,推动了允许人类与嵌入式设备自然交互的应用。基于FPGA的叠加处理器已被证明是边缘图像和视频处理应用的有效解决方案,这些应用主要依赖于低精度线性矩阵运算。相比之下,基于变换器的NLP技术采用各种具有显著更高频率的更高精度的非线性运算。我们提出了NPE,一个基于FPGA的覆盖处理器,可以有效地执行各种NLP模型。NPE为最终用户提供类似软件的可编程性,并且与为每个非线性函数实现专用加速器的FPGA设计不同,NPE可以升级为未来的NLP模型,而无需重新配置。我们证明了NPE可以满足BERT语言模型的实时会话AI延迟目标,其中$4\times$的功耗低于CPU,$6\times$的功耗低于GPU。我们还表明,NPE使用$3\times$较少的FPGA资源,相对于文献中可比的BERT网络特定的加速器。NPE为边缘的自然语言处理提供了一种基于FPGA的经济高效的解决方案。
2021-04-13 cs.AR
Pattern-Guided Design Space Exploration for FPGA Accelerator Design
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Columbia University(哥伦比亚大学)
研究针对FPGA加速器设计中因调度决策产生的组合设计空间问题,提出PATTERNDSE框架,将重复计算模式映射到调度空间,经多步骤评估候选调度,在六个内核上验证其能大幅减少候选者数量且保持最佳延迟,提升设计效率。
2026-07-17 cs.AR
High Throughput 2D Spatial Image Filters on FPGAs
FPGA在信号处理领域已经得到了很好的应用,它们的细粒度可编程特性允许利用这些应用中固有的并行性来增强性能。随着架构的发展,FPGA供应商增加了更多的异构资源,以允许以更高的性能、更低的功耗和更少的面积实现常用功能。例如,DSP模块已经从基本乘法器发展到支持乘法-累加运算,而乘法-累加运算是许多信号处理任务的核心。虽然更多的功能被添加到DSP模块中,但它们的结构和连接性主要针对一维信号处理进行了优化。图像处理中的基本操作是类似的,但是在二维结构中执行,因此,在将图像处理算法映射到较新的DSP块时,未利用较新的DSP块中的许多优化。我们提出了一个二维空间滤波器的FPGA实现的详细研究,展示了如何通过利用DSP块的能力,同时也提出了一个精益的边界像素管理政策,以最大限度地提高性能。
2017-10-17 cs.AR
FPGA & VPU Co-Processing in Space Applications: Development and Testing with DSP/AI Benchmarks
本文面向空间星载处理需求,提出并原型验证 FPGA 与 Myriad2 VPU 协同架构,通过 CIF/LCD 接口和定制 DSP/AI 基准评估资源、吞吐与系统性能。
2025-06-15 cs.AR
FPPS: An FPGA-Based Point Cloud Processing System
Hong Kong University of Science and Technology(香港科技大学)
FPPS是一种基于FPGA的点云处理系统,通过优化ICP算法在KITTI数据集上实现了高达35倍的加速,同时保持精度并提升能效。
2026-02-27 cs.AR
ReGraph: Scaling Graph Processing on HBM-enabled FPGAs with Heterogeneous Pipelines
使用FPGA进行高效的图形处理已经引起了极大的兴趣。最近的内存子系统升级,包括在FPGA中引入HBM,有望进一步缓解内存瓶颈。然而,现代多通道HBM需要更多的处理管道来充分利用其带宽潜力。现有的设计不能很好地扩展,导致HBM设备的利用率不足,即使所有其他资源都被完全消耗。在本文中,我们重新检查了图形处理工作负载,发现处理中存在很大的差异。我们还发现,不同的工作负载可以很容易地分为两种类型,即密集和稀疏分区。这促使我们提出一个资源高效的异构流水线架构。我们的异构体系结构包括两种类型的管道:小管道处理密集分区与良好的局部性和大管道处理稀疏分区与极差的局部性。与传统的单片流水线设计不同,异构流水线是针对更特定的存储器访问模式定制的,因此更轻量级,允许架构以有限的资源更有效地扩展。此外,我们提出了一个模型指导的任务调度方法,调度分区到正确的管道类型,生成最有效的管道组合和平衡工作负载。此外,我们开发了一个自动化的开源框架,称为ReGraph,它可以自动化整个开发过程。ReGraph在性能方面超过最先进的FPGA加速器高达5.9倍,在资源效率方面超过12倍。
2022-03-05 cs.AR
LLM-Driven Design Space Exploration of FPGA-based Accelerators
School of Computing Science, University of Glasgow(格拉斯哥大学计算机科学学院)
本文提出SECDA-DSE框架,利用大语言模型自动化FPGA加速器的设计空间探索,通过结构化探索器和LLM栈实现高效配置生成与优化。
2026-05-07 cs.AI cs.AR cs.PF
Graphitron: A Domain Specific Language for FPGA-based Graph Processing Accelerator Generation
Graphitron是一种领域特定语言,通过定义顶点和边为原始类型,支持多种图算法,利用独立于算法的硬件优化技术,生成性能相当且灵活性高的FPGA加速器。
2024-07-17 cs.AR
FPGA Based Efficient Multiplier for Image Processing Applications Using Recursive Error Free Mitchell Log Multiplier and KOM Architecture
数字图像处理应用,如医学成像、卫星成像、生物特征图像等,依靠乘法器来提高图像质量。然而,现有的乘法技术在输出中引入误差,消耗更多的时间,因此必须设计无误差的高速乘法器。本文提出了一种基于FPGA的递归无误差米切尔对数乘法器(REFMLM)的图像滤波器。在高阶Karastuba-Ofman乘法器(KOM)结构中引入误差校正项,设计了2 × 2无误差的Mitchell对数乘法器。将高阶KOM乘法器按基2分解为若干个低阶KOM乘法器,直至用无误差的Mitchell对数乘法器设计出2 × 2阶基本乘法器块。对8 × 8 REFMLM进行了高斯滤波器去除指纹图像中噪声的测试。乘法器是使用Spartan 3 FPGA系列器件XC 3S 1500 - 5 fg 320合成的。实验结果表明,与现有的结构相比,该结构在面积利用率、速度、误码率和峰值信噪比等性能指标上都有较大的提高
2014-07-08 cs.AR
SynapticCore-X: A Modular Neural Processing Architecture for Low-Cost FPGA Acceleration
PES University(PES大学)
本文提出面向低成本FPGA的模块化开源神经处理架构SynapticCore-X,集成RISC-V控制核与可配置计算单元,在低成本FPGA上实现低资源占用、时序收敛的高能效神经加速,降低相关研究准入门槛。
2025-11-16 cs.AR
Graph Processing on FPGAs: Taxonomy, Survey, Challenges
图形处理已经成为各种领域的重要组成部分,例如机器学习、计算科学、医学应用、社会网络分析等。各种图,例如web或社交网络,可以包含多达数万亿条边。这种数据集的庞大规模,加上图形处理的不规则性,对运行时间和功耗提出了独特的挑战。现场可编程门阵列(FPGA)是一种高能效的解决方案,可为图形处理提供专用硬件。这反映在最近对在FPGA上开发各种图形算法和图形处理框架的兴趣上。为了便于理解这一新兴领域,我们提出了第一次调查和分类图计算FPGA。我们的调查描述和分类现有的计划,并解释关键的想法。最后,我们讨论了研究和工程挑战,概述了FPGA上图形计算的未来。
2019-04-27 cs.AR cs.DC
Table-Lookup MAC: Scalable Processing of Quantised Neural Networks in FPGA Soft Logic
本文提出TLMAC框架,通过将量化神经网络权重聚类映射为查表处理单元并优化布局布线,在单个商用FPGA上实现了ImageNet规模全精度准确率模型的可扩展查表计算。
2024-03-18 cs.AR
Fast Generation of Custom Floating-Point Spatial Filters on FPGAs
本文提出线性与非线性空间滤波器的新型FPGA实现,采用自定义浮点算术权衡精度与硬件紧凑性,并借助领域特定语言实现快速原型开发,可在低成本FPGA上实时处理1080p/60fps视频。
2024-09-09 cs.AR
GraphScale: Scalable Bandwidth-Efficient Graph Processing on FPGAs
FPGA图形处理的最新进展有望缓解不规则内存访问模式带来的性能瓶颈。这些瓶颈对越来越多的重要应用领域(如机器学习和数据分析)的性能提出了挑战。虽然FPGA通过灵活的存储层次结构和大规模并行表示一个有前途的解决方案,我们认为,目前的图形处理加速器要么使用片外内存带宽效率低下,或不跨内存通道扩展。在这项工作中,我们提出了GraphScale,一个可扩展的图形处理框架的FPGA。GraphScale首次将多通道内存与异步图形处理相结合(即,用于结果的快速收敛)和压缩的图形表示(即,用于有效使用内存带宽和减少内存占用)。GraphScale通过模块化的用户定义函数、新颖的二维分区方案和高性能的两级交叉开关设计,解决了常见的图问题,如广度优先搜索、PageRank和弱连接组件。
2022-06-16 cs.AR cs.DB
FPGA with Improved Routability and Robustness in 130nm CMOS with Open-Source CAD Targetability
本文概述了一种FPGA的VLSI设计方法,用于实现一个功能齐全的FPGA芯片在130纳米CMOS与改进的可布线性和存储器的鲁棒性。Verilog-to-Routing CAD工具使建筑设计空间探索和综合能力成为可能。该工具的功能已扩展到支持比特流生成和部署。为了验证架构和比特流实现,创建了FPGA的Chisel(用嵌入式Scala语言构建硬件)模型,以在原理图设计之前快速验证器件的微架构细节。使用定制载板和配置工具来验证FPGA在各种资源利用率和时钟频率下的正确操作特性。
2017-12-09 cs.AR
RAD-Sim: Rapid Architecture Exploration for Novel Reconfigurable Acceleration Devices
随着现场可编程门阵列(FPGA)容量的持续增长以及它们被纳入到新的环境中,例如嵌入式系统,我们已经见证了一类超越传统FPGA架构的新型可重构加速器件(RAD)的引入。这些器件将可重新配置的结构与粗粒度的域专用加速器块相结合,所有加速器块都通过高性能分组交换片上网络(NoC)连接,以实现高效的系统范围通信。然而,我们缺乏必要的工具来有效地探索RAD的巨大设计空间,研究其不同组件之间的复杂交互,并评估各种设计选择的组合。在这项工作中,我们开发的RAD-Sim,一个周期级的架构模拟器,允许快速的应用程序驱动的探索新的RAD的设计空间。为了展示RADSim的功能,我们在RAD实例上映射和模拟了最先进的深度学习(DL)推理覆盖,该RAD实例包含FPGA结构和复杂的硬矩阵向量乘法引擎,通过系统范围的NoC进行通信。通过这个例子,我们展示了RAD-Sim如何帮助架构师量化更改特定架构参数对端到端应用程序性能的影响。
2023-01-12 cs.AR
An FPGA-Based Hardware Accelerator for Energy-Efficient Bitmap Index Creation
位图索引被认为是在线分析处理系统的一个很有前途的候选者,因为它不仅有效地支持并行处理,而且还支持复杂的多维查询。但是,位图索引创建是一项耗时的任务。本研究充分利用现场可编程门阵列(FPGA)的大规模并行计算能力,首次提出了两种位图索引生成硬件加速器BIC 64 K8和BIC 32 K16。每个加速器包含两个主要组件,即增强的内容可寻址存储器和查询逻辑阵列模块,允许BIC 64 K8和BIC 32 K16在每个时钟周期并行索引65,536个8位字和32,768个16位字。在Intel Arria V 5ASTFD 5 FPGA上的实验结果表明,在100 MHz时,BIC 64 K8和BIC 32 K16的索引吞吐率分别达到1.43 GB/s和1.46 GB/s。吞吐量也被证明是稳定的,无论数据集的大小。更重要的是,与基于中央处理单元和图形处理单元的设计相比,BIC 32 K16的能耗分别仅为6.76%和3.28%。
2018-04-20 cs.AR
ScalaBFS: A Scalable BFS Accelerator on HBM-Enhanced FPGAs
高带宽存储器(HBM)通过向处理单元公开多个存储器通道来提供大规模聚合的内存带宽。为了实现高性能,构建在配置有HBM的FPGA之上的加速器(即,FPGA-HBM平台)需要根据可用的内存通道扩展其性能。在本文中,我们提出了一个加速器的BFS(宽度优先搜索)算法,命名为ScalaBFS,建立多个处理元素,充分利用HBM的高带宽,以提高效率。在Xilinx Alveo U280 FPGA卡上实现了ScalaBFS的原型系统,并在真实世界和合成无标度图中进行了BFS。实验结果表明,ScalaBFS的性能几乎与U280的HBM2子系统的可用内存伪通道(PC)成线性关系。通过充分利用U280上的32台PC和构建64个处理单元(PE),ScalaBFS实现了高达19.7 GTEPS(每秒千兆遍历边数)的性能。当在稀疏的现实图形中进行BFS时,ScalaBFS实现了与在最先进的Nvidia V100 GPU上运行的Gunrock等效的GTEPS,该GPU具有64 PC HBM 2(是U280的两倍内存带宽)。
2021-10-12 cs.AR
GraphMatch: Subgraph Query Processing on FPGAs
本文提出GraphMatch,首个基于最坏情况最优连接、专为FPGA设计的通用子图查询处理加速器,通过AllCompare集合交集方法实现高效子图嵌入查询,相比GraphFlow和RapidMatch分别加速2.68倍和5.16倍。
2024-02-27 cs.AR cs.DB
An Area Efficient 2D Fourier Transform Architecture for FPGA Implementation
二维傅里叶变换在医学图像处理、数字全息、相关模式识别、混合数字光学处理、光计算等图像处理中有着重要的应用。二维空间傅里叶变换涉及大量的图像样本,需要大量的现场可编程门阵列(FPGA)硬件资源。在本文中,我们提出了一种面积有效的二维FFT处理器的结构,重复使用的蝶形单元多次。这是通过使用控制单元来实现的,该控制单元将N/2个蝶形单元的先前计算的数据发送回其自身{log_2(N)-1}次。利用RAM控制器实现各功能块之间数据流的同步,用VHDL语言对二维FFT处理器进行了仿真,并在Virtex-6 FPGA上进行了验证。所提出的方法在面积方面优于传统的N × N点2D FFT,所述面积减少了log_N(2)的因子,而计算时间的增加可以忽略不计。
2018-10-16 cs.AR
A Study of the Speedups and Competitiveness of FPGA Soft Processor Cores using Dynamic Hardware/Software Partitioning
现场可编程门阵列(FPGA)为设计人员提供了快速创建硬件电路的能力。FPGA可配置逻辑容量的增加和FPGA成本的降低使设计人员能够更容易地将FPGA纳入其设计中。FPGA供应商已经开始提供可配置的软处理器内核,这些内核可以合成到他们的FPGA产品中。虽然具有软处理器内核的FPGA为设计人员提供了更高的灵活性,但与硬核处理器相比,此类处理器通常具有降低的性能和能耗。在此之前,我们提出了翘曲处理,一种能够通过动态和透明地重新实现关键软件内核作为片上可配置逻辑中的自定义电路来优化软件应用程序的技术。在本文中,我们研究了基于MicroBlaze软核的翘曲处理系统的潜力,以消除软核处理器的性能和能量开销相比,一个硬核处理器。我们证明,基于软核的翘曲处理器实现平均加速比为5.8和57%的能源减少相比,单独的软核。我们的数据表明,基于软核的翘曲处理器产生的性能和能耗与现有的硬核处理器的竞争力,从而扩大了软处理器内核的FPGA上更广泛的应用程序的有用性。
2007-10-25 cs.AR
An Implementation of a Dual-Processor System on FPGA
本文提出并实现了一种基于FPGA的紧耦合双处理器平台,采用Nios II 32位软核架构,优化资源利用并研究缓存设计等问题,通过对比单双处理器配置及行业标准CPU平台验证了其性能。
2023-05-21 cs.AR
DNNExplorer: A Framework for Modeling and Exploring a Novel Paradigm of FPGA-based DNN Accelerator
现有的基于FPGA的DNN加速器通常分为两种设计范式。它们要么采用通用的可重用架构来支持不同的DNN网络,但由于牺牲了设计的特殊性而留下了一些性能和效率。或者他们应用逐层定制的架构来优化特定于层的计算和资源需求,但放松了适应各种DNN网络的可扩展性。为了克服这些缺点,本文提出了一种新的基于FPGA的DNN加速器设计范式及其自动化工具,称为DNNExplorer,以便在所提出的范式下快速探索各种加速器设计,并为现有和新兴的DNN网络提供优化的加速器架构。三个关键技术对于DNNExplorer的改进性能,更好的特异性和可扩展性至关重要,包括(1)具有高维设计空间支持和细粒度可调整性的独特加速器设计范例,(2)动态设计空间,以适应DNN工作负载和目标FPGA的不同组合,以及(3)设计空间探索(DSE)引擎,用于通过同时考虑FPGA的计算和存储器资源以及DNN网络的层来生成遵循所提出的范例的优化的加速器架构。智能特性和整体复杂性。实验结果表明,对于相同的FPGA,DNNExplorer生成的加速器可以提供高达4.2倍的性能(GOP/s),而DNNBuilder为具有38个CONV层的VGG类DNN生成的最先进的逐层流水线解决方案。与具有通用可重用计算单元的加速器相比,DNNExplorer的DSP效率分别比学术界最近发布的加速器设计(HybridDNN)和商业DNN加速器IP(Xilinx…
2021-03-23 cs.AR
Demystifying Memory Access Patterns of FPGA-Based Graph Processing Accelerators
可重编程硬件的最新进展(例如,FPGA)和存储器技术(例如,DDR4,HBM)承诺解决图形处理固有的性能问题,如传统硬件上的不规则存储器访问模式(例如,CPU)。虽然近年来提出了几个这样的图形加速器,但由于很少有开源实现和过多的实现工作,仍然很难评估它们的性能并在常见的图形工作负载和加速器平台上进行比较。在这项工作中,我们建立了一个图形处理加速器的模拟环境,使几个现有的加速器方法可比。这使我们能够研究相关的性能维度,例如分区方案和内存技术等。该评估深入了解了当前图形处理加速器在这些方面的优势和劣势,并进行了新颖的深入比较。
2021-03-31 cs.AR cs.DB
Synthesizing Power and Area Efficient Image Processing Pipelines on FPGAs using Customized Bit-widths
近年来,高级综合(HLS)得到了极大的关注,提高了FPGA的可编程性。PolyMage是一种用于图像处理流水线的领域特定语言(DSL),它还具有HLS后端,用于将输入DSL转换为可以在FPGA上合成的等效电路,同时利用HLS套件。流水线的每一级的数据使用定点数据类型(alpha,beta)存储,其中alpha和beta表示整数位和小数位的数量。在对定点数据类型执行算术运算时,已知功率和面积节省比使用浮点显著。在本文中,我们首先提出了一个基于区间算术的范围分析(阿尔法分析)算法来估计所需的位数存储在每个阶段的图像处理流水线的数据的组成部分。该分析算法利用每个阶段像素信号的同质性对它们进行聚类,并进行组合范围分析。其次,我们提出了一个软件架构,可以轻松地部署任何类型的区间/仿射算法的范围分析的DSL编译器。第三,我们提出了一种新的范围分析技术,使用可满足性模理论(SMT)求解器,并表明,通过它获得的范围估计是非常接近的下限通过配置文件驱动的analysis.We评估我们的位宽分析算法上列出的四个图像处理基准的复杂性增加的顺序:锐化掩模,上下采样,哈里斯角检测和霍恩-Schunck光流。例如,在光流上,基于区间分析的方法显示出面积和功率度量分别比浮点表示提高了1.4倍和1.14倍;而基于SMT求解器的方法显示出面积和功率度量与区间分析相比提高了2.49倍和1.58倍。
2018-12-18 cs.AR
Wavelet Based Frequency Detection Using FPGAs
本文研究利用FPGA对输入信号进行小波分析以检测6 kHz频率分量,证明基于小波的频谱检测在FPGA上可行且易于实现。
2024-12-29 cs.AR
GraVF-M: Graph Processing System Generation for Multi-FPGA Platforms
由于大多数图数据集中连接的不规则性,跨不共享公共存储器的多个计算节点划分图分析算法不可避免地导致大量互连流量。先前的研究表明,FPGA可以在共享内存环境中超越基于软件的图形处理,但这种优势是否可以在分布式系统中保持仍然是一个悬而未决的问题。在这项工作中,我们提出了GraVF-M,一个框架,旨在简化实现基于FPGA的图形处理加速器的多FPGA平台与分布式存储器。该框架基于对算法内核的轻量级描述,自动生成整个多FPGA设计的优化RTL代码。我们利用编程模型的一个方面,向用户提供一个熟悉的消息传递范例,同时在引擎盖下实现一个更有效的架构,可以减少必要的FPGA间网络流量的一个因素,等于输入图的平均度。基于对影响绩效的因素进行理论分析的绩效模型可以评估我们实施的效率。在4-FPGA系统上,吞吐量高达5.8 GTEPS(每秒遍历数十亿条边),GraVF-M生成的设计与文献中最先进的框架相比毫不逊色,达到了系统预计性能极限的94%。
2019-10-14 cs.AR cs.DC
Chimera: A Hybrid Machine Learning Driven Multi-Objective Design Space Exploration Tool for FPGA High-Level Synthesis
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
近年来,基于现场可编程门阵列(FPGA)的硬件加速器由于其非凡的灵活性而被广泛采用。然而,高灵活性带来了设计和优化的困难。传统上,这些加速器是用低级硬件描述语言设计的,这意味着创建具有复杂行为的大型设计非常困难。因此,高级综合(HLS)工具被创建来简化FPGA的硬件设计。它们使用户能够使用高级语言创建硬件设计,并提供各种优化指令,以帮助提高合成硬件的性能。然而,应用这些优化来实现高性能是耗时的,并且通常需要专业知识。为了解决这个困难,我们提出了一个自动化的设计空间探索工具,用于应用HLS优化指令,称为嵌合体,这大大减少了创建高性能HLS设计所需的人力和专业知识。它采用了一种新的多目标探索方法,无缝集成了主动学习,进化算法和汤普森采样,使它能够找到一组优化设计的帕累托曲线,只有少量的设计点在探索过程中评估。在实验中,在不到24小时的时间里,这种混合方法探索了与Rosetta基准测试套件中专家HLS用户创建的高度优化的手动调整设计相比具有相同或更高性能的设计点。除了发现极端点之外,它还探索了帕累托边界,其中肘部点可以潜在地节省高达26%的触发器资源,而延迟可以忽略不计。
2022-07-03 cs.AR cs.LG cs.NE
Optimized Implementation of Neuromorphic HATS Algorithm on FPGA
本文首次提出神经形态HATS算法在FPGA上的优化硬件实现,用于ATIS的基于事件物体分类,通过设计并行性实现2.94 Mevts/s处理速度和3.3ms延迟,并较软件实现提升约32倍能效。
2023-09-12 cs.AR
Towards Autonomous Accelerator Design: FPGA Accelerator Generation with SECDA
School of Computing Science, University of Glasgow, Scotland, UK(格拉斯哥大学计算机科学学院)
提出SECDA-DSE框架,集成大语言模型引导FPGA加速器设计空间探索,通过结构化探索器和LLM推理生成可综合的加速器设计,减少人工干预。
2026-06-09 cs.AI cs.AR cs.PF
FPGA-Accelerated Lock Management and Transaction Processing: Architecture, Optimization, and Design Space Exploration
ETH Zurich(苏黎世联邦理工学院)
本文提出基于FPGA的锁管理和事务处理架构,通过低延迟锁代理和可扩展事务代理提升事务吞吐量,实验显示在TPC-C基准上比CPU基线高51倍。
2026-05-13 cs.AR cs.DB cs.DC
LlamaF: An Efficient Llama2 Architecture Accelerator on Embedded FPGAs
本文提出嵌入式 FPGA 加速器 LlamaF,通过训练后量化、带宽优化、异步计算和全流水线矩阵-向量乘法,使 TinyLlama 1.1B 在 ZCU102 上较纯 PS 实现显著提速并提升能效。
2024-09-12 cs.AR
On The Design of a Light-weight FPGA Programming Framework for Graph Applications
为图形处理设计的FPGA加速器越来越受欢迎。用于图处理的领域特定语言(DSL)框架可以降低算法设计的编程复杂度和开发成本。然而,特定于加速器的开发需要一定的技术专业知识和大量的工作来设计、实现和验证系统。对于大多数算法设计人员来说,硬件编程经验的昂贵成本使得FPGA加速器不可用或不经济。尽管通用高级综合(HLS)工具有助于将高级语言映射到硬件描述语言(HDL),但与高度优化的图形加速器相比,生成的代码通常效率低下且冗长。在低开发成本的情况下,无法充分利用FPGA加速器的能力。为了方便地编程图算法,同时保持可接受的性能下降,我们提出了一个图形编程系统命名为JGraph,它包含两个主要部分:1)一个DSL的图形原子操作与图形库的高层次抽象,包括用户定义的功能与参数,2)一个轻量级的HLS翻译器,以生成高性能的HDL代码,与通信管理器和运行时调度器合作。据我们所知,我们的工作是第一个图形编程系统与DSL和翻译的FPGA平台上。我们的系统可以在几十秒内生成高达300 MTEPS的BFS遍历。
2022-02-25 cs.AR
Escaping Flatland: A Placement Flow for Enabling 3D FPGAs
Georgia Tech(佐治亚理工学院);UC San Diego(加州大学圣地亚哥分校)
本文提出了一种针对3D FPGA的布局流程,通过改进的初始化、自适应成本调度、精细延迟估计和模拟退火移动集,提升了时序估计和层分配探索能力,实验结果显示在多个3D架构上实现了显著的延迟和布线长度减少。
2026-04-01 cs.AR
Exploration of Low Numeric Precision Deep Learning Inference Using Intel FPGAs
CNN已经被证明在量化到较低精度时保持合理的分类精度。量化到低于8位的激活和权重可能导致精度下降到可接受的阈值以下。存在用于通常通过增加计算来缩小有限数值精度的精度差距的技术。这导致吞吐量和准确性之间的权衡,并且可以通过激活和权重数据宽度的各种组合针对不同的网络进行定制。FPGA等硬件架构通过独特的逻辑配置提供了数据宽度特定计算的机会,从而实现了全精度网络无法实现的高度优化处理。三进制和二进制加权网络分别为2位和1位数据提供了一种有效的推理方法。大多数硬件架构可以利用较小数据路径带来的内存存储和带宽节省,但很少有架构可以利用计算级别的有限数值精度。在本文中,我们提出了一种硬件设计的FPGA,利用带宽,内存,功耗和计算有限的数值精度数据的节省。我们提供了对各种网络的吞吐量和准确性之间的权衡以及它们如何映射到我们的框架的见解。此外,我们还展示了对于三进制和二进制情况,有限的数字精度计算如何有效地映射到FPGA上。从Arria 10开始,我们展示了一个在硬件中运行的2位激活和三进制加权的AlexNet,它在ImageNet数据集上每秒可实现3,700张图像,前1精度为0.49。使用为我们的低数值精度框架设计的硬件建模器,我们对运行修改后的ResNet-34的55.5 TOPS Stratix 10设备的性能进行了最显著的预测,与单精度的相比,精度仅下降了3.7%。
2018-06-12 cs.AR cs.DC
A Novel Architecture of Area Efficient FFT Algorithm for FPGA Implementation
大量样本的快速傅里叶变换(FFT)需要大量的现场可编程门阵列(FPGA)硬件资源,其面积和功耗都比较大。在本文中,我们提出了一个面积有效的FFT处理器的结构,重复使用蝶形元件多次。FFT处理器采用VHDL语言进行了仿真,并在Virtex-6 FPGA上进行了验证。所提出的架构优于传统架构的$N$点FFT处理器的面积方面,这是减少了一个因素的$log_N 2$,在处理时间可以忽略不计的增加。
2015-02-25 cs.AR
A Composable Dynamic Sparse Dataflow Architecture for Efficient Event-based Vision Processing on FPGA
本文提出可组合动态稀疏数据流架构 ESDA,利用可参数化模块、稀疏接口与子流形稀疏卷积在 FPGA 上快速构建事件视觉 DNN 加速器,并通过软硬协同优化实现显著提速与能效提升。
2024-01-11 cs.AR
GarageWorks: A Shared Testbench Abstraction for Software Simulation and FPGA Testing
Mathematics and Computer Science Division Argonne National Laboratory(阿贡国家实验室数学与计算机科学部)
GarageWorks是一款轻量级FPGA测试框架,通过共享抽象层实现同一cocotb测试平台用于软件RTL仿真与FPGA硬件仿真,已在AMD Alveo V80 FPGA上验证,支持快速裸机测试及AI辅助生成测试组件。
2026-10-14 cs.AR
P4-compatible High-level Synthesis of Low Latency 100 Gb/s Streaming Packet Parsers in FPGAs
分组解析是SDN感知设备中的关键步骤。SDN网络中的数据包解析器需要同时具备可重构性和快速性,以支持不断发展的网络协议和不断增长的多千兆位数据率。数据包处理语言与FPGA的结合似乎是这些要求的完美匹配。在这项工作中,我们开发了一个开源的基于FPGA的可配置架构,用于SDN网络中使用的任意数据包解析。我们直接从数据包处理程序生成低延迟和高速流数据包解析器。我们的体系结构是流水线和完全使用模板C++类建模。流水线布局是从一个解析器图中导出的,该解析器图对应于一系列图形变换轮之后的P4代码。RTL代码使用Xilinx Vivado HLS从C++描述生成,并使用Xilinx Vivado合成。我们的架构在Xilinx Virtex-7 FPGA中实现了100 Gb/s的数据率,同时与最先进的技术相比,延迟降低了45%,LUT使用率降低了40%。
2017-11-17 cs.AR
Optimizing FPGA-based Accelerator Design for Large-Scale Molecular Similarity Search
分子相似性搜索技术已广泛应用于药物发现中,以快速从大型分子数据库中识别结构相似的化合物。随着化学库规模的不断扩大,如何有效地加速大规模的相似性搜索越来越受到人们的关注。现有的工作主要集中在CPU和GPU加速计算Tanimoto系数在衡量不同分子指纹图谱之间的两两相似性。在本文中,我们提出并优化了基于FPGA的加速器设计的穷举和近似搜索算法。在使用BitBound和折叠的穷举搜索中,分析了相似度截断和折叠级别与搜索加速比和搜索精度的关系,并提出了一种基于FPGA的可扩展的动态查询引擎,以减少资源利用率和流水线间隔。我们实现了一个查询引擎每秒4.5亿复合处理吞吐量。在近似搜索中,使用了层次导航小世界(HNSW),这是一种流行的高召回率和查询速度的算法。我们提出了一个基于FPGA的图遍历引擎,利用高吞吐量的寄存器阵列的优先级队列和细粒度的距离计算引擎,以提高处理能力。实验结果表明,提出的基于FPGA的HNSW实现具有每秒103385查询(QPS)的Chembl数据库与0.92召回,并实现了35倍的加速比现有的CPU实现平均。据我们所知,我们基于FPGA的实现是第一次尝试在FPGA上加速分子相似性搜索算法,并在现有方法中具有最高的性能。
2021-09-13 cs.AR
PiDRAM: An FPGA-based Framework for End-to-end Evaluation of Processing-in-DRAM Techniques
基于DRAM的主存储器在几乎所有的计算系统中作为主要部件使用。克服主存瓶颈的一种方法是将计算移动到内存附近,这种范式称为内存处理(PiM)。最近的PiM技术提供了一种有前途的方式来提高现有和未来系统的性能和能源效率,而无需额外的DRAM硬件成本。我们开发了DRAM处理(PiDRAM)框架,这是第一个灵活的端到端开源框架,可以使用真正的DRAM芯片进行系统集成研究和真正的PiM技术评估。我们在基于FPGA的平台(Xilinx ZC 706)上演示了PiDRAM的原型,该平台实现了开源RISC-V系统(Rocket Chip)。为了展示PiDRAM的灵活性和易用性,我们实现了两种PiM技术:(1)RowClone,一种DRAM内的复制和初始化机制(使用ComputeDRAM提出的命令序列),以及(2)D-RaNGe,一种基于DRAM激活延迟故障的DRAM内真随机数生成器。我们对RowClone的端到端评估显示,复制的速度提高了14.6倍,CPU复制的初始化操作提高了12.6倍(即,常规的MEMCPY)和初始化(即,常规的Calloc)操作。我们的D-RaNGe实现提供了高吞吐量的真随机数,达到8.30 Mb/s的吞吐量。在PiDRAM提供的Verilog和C++基础上,实现所需的硬件和软件组件,实现RowClone端到端需要198(565)行Verilog(C++)代码,实现D-RaN…
2022-06-01 cs.AR
A Reconfigurable Framework for AI-FPGA Agent Integration and Acceleration
Purdue University(普渡大学);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);University of Moratuwa(莫拉图瓦大学);Stanford University(斯坦福大学);Istinye University(伊斯提耶大学)
本文提出AI-FPGA代理框架,通过动态分区和硬件卸载实现深度学习推理的高效加速,实验显示在延迟和能效方面优于CPU和GPU。
2026-01-27 cs.AR
Pixie: A heterogeneous Virtual Coarse-Grained Reconfigurable Array for high performance image processing applications
粗粒度可重构阵列(CGRA)实现了可编程性的简化,并降低了开发成本。它们特别适用于可重构计算应用。更小的编译成本和减少的重新配置开销使它们成为加速高性能计算应用程序(如图像处理)的有吸引力的平台。CGRA是ASIC,因此生产成本昂贵。然而,现场可编程门阵列(FPGA)对于小批量产品相对便宜,但它们不那么容易编程。通过在FPGA上实现虚拟粗粒度可重构阵列(VCGRA),我们将两者结合起来。VCGRA是具有大路由开销的FPGA和ASIC之间的折衷。在这个角度来看,我们提出了一种新的异构虚拟粗粒度可重构阵列(VCGRA)称为“Pixie”,这是适合实现高性能的图像处理应用。建议的VCGRA包含通用的处理元件和虚拟通道,使用硬件描述语言VHDL描述。这两个元素已被优化,通过使用参数化配置工具流程,并导致在资源减少的24%,每个处理元素和82%,每个虚拟通道分别。
2017-05-04 cs.AR
FastFlow in FPGA Stacks of Data Centers
针对数据中心 FPGA 堆栈并行编程复杂的问题,本文扩展 FastFlow 并结合 Vitis,通过 csv 参数自动生成主机端代码,显著提升可扩展性并减少 96% 编码工作量。
2024-09-30 cs.AR
Word-Level Structure Identification In FPGA Designs Using Cell Proximity Information
基于FPGA的设计从平坦化LUT级网表到高级RTL的逆向工程有助于验证设计或理解遗留设计。我们专注于Xilinx 7系列和Zynq 7000的FPGA器件的扁平网表。我们提出了一个设计元素分组算法,利用的位置信息的元素在物理设备上的位置和路由后。所提出的分组算法给出了集群的平均NMI为0.73的分组,包括所有元素类型。所选基准测试包括通信、算术单元、处理器和DSP处理单元等一系列设计。
2023-03-07 cs.AR
HALF: Holistic Auto Machine Learning for FPGAs
University of Kaiserslautern(凯泽斯劳滕大学);Fraunhofer ITWM(弗劳恩霍夫工业数学研究所)
深度神经网络(DNN)能够解决与嵌入式系统相关的领域中的复杂问题,例如图像和自然语言处理。为了针对给定的成本标准(例如,能量效率)在特定的FPGA平台上有效地实现DNN,从拓扑结构到最终的硬件实现,必须考虑大量的设计参数。必须考虑并有效探索不同设计层之间的相互依赖性,这使得手动找到优化解决方案变得几乎不可能。自动化、整体化的设计方法可以显著提高DNN在FPGA上的实现质量。为此,我们提出了一个跨层的设计空间探索方法。它包括从DNN的硬件感知拓扑搜索开始到给定FPGA平台的最终优化实现的优化。该方法在我们的FPGA整体自动机器学习(HALF)框架中实现,该框架结合了进化搜索算法,各种优化步骤和可参数化硬件DNN模块库。HALF可在目标FPGA平台上针对各种应用自动执行探索过程和优化解决方案的实施。我们在心律失常检测的医疗用例中展示了HALF的性能,分别用于三种不同的设计目标,即低功耗、低功耗和高吞吐量。我们的FPGA实现在吞吐量和能耗方面都优于Nvidia Jetson平台上的TensorRT优化模型。
2021-10-20 cs.AR cs.LG
FPGA-Based Mini X-Ray Detector Front-End
University of Colorado Colorado Springs(科罗拉多大学科罗拉多斯普林斯分校)
该研究针对医学成像系统对前端电子设备的需求,利用现场可编程门阵列处理大量数据并保持可预测定时和低延迟操作的特性,将医学成像概念简化为基于FPGA的小型前端演示。
2026-07-15 cs.AR
AceleradorSNN: A Neuromorphic Cognitive System Integrating Spiking Neural Networks and DynamicImage Signal Processing on FPGA
Intigia R\&D Department Alicante, Spain
为实现自主系统中的高速低延迟高效目标检测,提出AceleradorSNN系统,整合脉冲神经网络与动态图像信号处理,通过FPGA实现实时流式图像处理。
2026-03-30 cs.AI cs.AR
Architectural Solutions for High-Speed Data Processing Demands of CERN LHC Detectors with FPGA and High-Level Synthesis
针对高亮度 LHC 的高速数据处理挑战,本文研究利用 HLS 从 C++ 生成 FPGA 硬件实现 tau 轻子触发算法,并比较多种架构与优化方案。
2024-10-27 cs.AR physics.ins-det
Extracting TCPIP Headers at High Speed for the Anonymized Network Traffic Graph Challenge
针对网络流量处理需求,本文结合P4语言与高级综合(HLS)在最新AMD FPGA上实现基于FPGA的智能网卡,可高效提取源-目的IP地址构建匿名流量矩阵,处理速率达约95 Gbps,能匹配100 Gbps网络流量。
2024-09-11 cs.AR cs.NI
Low-Latency FPGA Control System for Real-Time Neural Network Processing in CCD-Based Trapped-Ion Qubit Measurement
The University of Sydney(悉尼大学);Imperial College London(伦敦帝国学院)
本文提出低延迟FPGA控制系统,用于提升基于CCD的囚离子量子比特测量中实时神经网络处理的效率与保真度。
2026-01-28 cs.AR quant-ph
Boosting XML Filtering with a Scalable FPGA-based Architecture
在因特网上交换的XML编码数据量的增长增加了基于XML的发布-订阅(pub-sub)和基于内容的路由系统的重要性。这种系统中的输入通常由XML文档流和一组表示为XML查询的用户订阅组成。然后,发布-订阅系统过滤已发布的文档并将其传递给订阅者。发布-订阅系统的特点是非常高的输入比,因此处理时间是关键的。在本文中,我们提出了一个“纯硬件”的解决方案,它利用FPGA上的查询块来解决过滤问题。通过利用FPGA为并行处理提供的高吞吐量,我们的方法比现有的软件或混合(硬件/软件)架构实现了更好的吞吐量。将XML查询(订阅)转换为正则表达式,然后将其映射到FPGA设备。通过在FPGA中引入堆栈,我们能够在可扩展的环境中非常有效地表达和处理各种路径查询。此外,解析器和滤波器处理在同一FPGA芯片上执行的事实消除了昂贵的通信成本(多核系统将需要),从而实现非常快速和有效的流水线。我们的实验评估表明,超过一个数量级的改进相比,传统的发布/订阅系统。
2009-09-09 cs.AR cs.DB
DSL-based Design Space Exploration for Temporal and Spatial Parallelism of Custom Stream Computing
流计算是一种适合于基于FPGA的定制计算的方法,由于其高吞吐量的能力带来的流水线与定期的存储器访问。为了提高迭代流计算的性能,我们可以分别通过加深和复制管道来利用时间和空间并行性。然而,性能受到几个因素的限制,包括FPGA上的可用硬件资源,外部内存带宽和流水线阶段的利用率,因此我们需要找到不同并行性的最佳组合,以实现最高的性能单位功率。在本文中,我们提出了一个领域特定语言(DSL)的设计空间探索的时间和/或空间并行流计算与FPGA。我们定义了一个DSL,我们可以很容易地设计一个层次结构的并行流计算的抽象描述的计算。针对流体动力学模拟中的迭代流计算,我们设计了具有不同时空并行性混合的硬件结构。通过性能和功耗的测量,我们找到了其中最好的。
2015-08-27 cs.AR cs.CE cs.DC
Compute RAMs: Adaptable Compute and Storage Blocks for DL-Optimized FPGAs
当前FPGA的可配置构建块-逻辑块(LB)、数字信号处理(DSP)片和块RAM(BRAM)-使其成为快速变化的深度学习(DL)世界的高效硬件加速器。这些模块之间的通信通过由遍布FPGA的交换元件组成的互连结构进行。本文提出了一种新的块-计算RAM。计算RAM通过在一个块中组合计算和存储能力来提供高度并行处理的存储器内处理(PIM)。计算RAM可以像现有的FPGA块一样集成在FPGA结构中,并提供两种可以动态选择的操作模式(存储或计算)。它们通过减少数据移动来降低功耗,提供适应性高的精度支持,并增加有效的片内内存带宽。计算RAM还有助于提高FPGA的计算密度。在我们对多个数据精度(int 4,int 8和bfloat 16)的加法,乘法和点积运算的评估中,我们观察到平均节省了80%的能耗,并且执行时间从20%到80%不等。添加计算RAM也可以使非DL应用受益,并使FPGA更高效,灵活和高性能的加速器。
2021-09-30 cs.AR eess.SP