An Optimizing Framework on MLIR for Efficient FPGA-based Accelerator Generation
本文提出构建于MLIR的FPGA加速器优化框架POM,通过引入三层IR、集成多面体模型进行循环变换,并提供DSL与自动DSE引擎,相比现有技术实现了显著的性能加速。
2024-01-10 cs.AR cs.PL
SIRA: Scaled-Integer Range Analysis for Optimizing FPGA Dataflow Neural Network Accelerators
本文提出静态分析技术 SIRA,利用区间算术获得量化张量范围、缩放与偏置,并在 FINN 中优化 FPGA 数据流加速器,显著降低 LUT、DSP 与累加器位宽。
2025-08-29 cs.AR
Déjà Vu Packing: Optimizing FPGA Logic Clustering Runtime via Pattern Memoization
University of Waterloo(滑铁卢大学);QuickLogic Corporation(QuickLogic公司)
本文提出通过模式记忆化优化FPGA逻辑聚类运行时间,减少重复检查,提升效率。
2026-04-27 cs.AR
When Monte-Carlo Dropout Meets Multi-Exit: Optimizing Bayesian Neural Networks on FPGA
Imperial College London(帝国理工学院);Samsung AI Center(三星人工智能中心);University of Cambridge(剑桥大学);Southeast University(东南大学)
针对贝叶斯神经网络复杂度高、硬件部署难的问题,提出多出口 MCD BayesNN 及可自动生成 FPGA 加速器的转换与优化框架,能效优于 CPU、GPU 和现有硬件方案。
2023-08-13 cs.AR cs.LG
Co-Optimizing Graph Sparsification and Approximate Computing for Energy-Efficient FPGA-Based GCN Inference
Trinity College Dublin(都柏林圣三一学院)
针对边缘FPGA上GCN推理的能耗问题,提出结合DSpar稀疏化、8位量化与近似乘法器的加速器,在KV260上实现最高9.88倍加速并保持86.6%准确率,验证了稀疏化与近似计算的互补协同优化。
2026-10-06 cs.AR cs.LG
Platform-Aware FPGA System Architecture Generation based on MLIR
本文提出基于MLIR的Olympus方言及Olympus-opt分析与转换遍,实现平台感知的系统级FPGA架构自动生成与优化,减少人工集成工作并提升可扩展性与可复用性。
2023-09-22 cs.AR
Optimizing Temporal Convolutional Network inference on FPGA-based accelerators
卷积神经网络广泛应用于各种应用中,通常包括图像和视频分类、识别和分割等计算机视觉任务。最近的研究结果表明,涉及一维卷积和膨胀的多层(深度)网络可以有效地用于时间序列和序列分类和分割,以及涉及序列建模的任务。这些结构通常被称为时间卷积网络(TCN),已被证明在准确性和训练时间方面始终优于递归神经网络[1]。虽然基于FPGA的经典CNN推理加速器很普遍,但文献缺乏对TCN模型推理可用性的定量评估。在本文中,我们提出了这样的评估,考虑到CNN加速器的特定功能,支持TCN内核作为参考和一组最先进的TCN作为基准。实验结果表明,在TCN执行过程中,操作强度对整体性能至关重要。我们提出了一种基于批处理的卷积调度,可以将效率提高到理论峰值性能的96%。总体而言,我们可以在Ultrascale+ ZU 3EG上实现高达111.8 GOPS/s和33.9 GOPS/s/W的功率效率(相对于纯软件实现,加速高达10倍,功率效率提高3倍)。
2020-05-07 cs.AR eess.SP
Optimizing Bit-Serial Matrix Multiplication for Reconfigurable Computing
矩阵-矩阵乘法是科学和工程中众多应用的关键计算内核,具有足够的并行性和数据局部性,适合高性能实现。许多依赖矩阵乘法的应用程序可以使用降低精度的整数或定点表示来提高性能和能效,同时仍然提供足够的结果质量。然而,精度要求可能在不同的应用阶段之间变化,或者取决于输入数据,从而使得恒定精度解决方案无效。BISMO是一种用于可重构计算的矢量化位串行矩阵乘法覆盖,以前利用FPGA的出色二进制运算性能来提供矩阵乘法性能,该性能可按所需的精度和并行性进行扩展。我们展示了如何BISMO可以扩大Xilinx FPGA使用的算术架构,更好地利用6-LUT。改进的BISMO在采用Xilinx UltraScale+ MPSoC的Ultra 96板上实现了15.4二进制TOPS的峰值性能。
2019-06-11 cs.AR
Rosebud: Making FPGA-Accelerated Middlebox Development More Pleasant
我们介绍了一种设计FPGA加速中间盒的方法,通过解耦硬件加速器实现和软件应用程序编程的任务,简化了开发,调试和性能调整。Rosebud是一个框架,通过标准化的硬件/软件接口将硬件加速器链接到高性能数据包处理管道。这种关注点的分离使硬件开发人员能够专注于优化自定义加速器,同时使软件程序员能够以类似于软件库的方式重用、配置和调试加速器。我们通过在不到一个月的时间内构建一个基于大型黑名单的防火墙和移植Pigernet IDS模式匹配加速器来展示Rosebud框架的好处。我们的实验表明,Rosebud提供了高性能,服务约200 Gbps的流量,同时只增加了0.7-7微秒的延迟。
2023-03-17 cs.AR
hXDP: Efficient Software Packet Processing on FPGA NICs
NIC上的FPGA加速器可以将昂贵的数据包处理任务从CPU上卸载。然而,FPGA的资源有限,可能需要在不同的应用程序之间共享,并且很难对其进行编程。我们提出了一种解决方案,在FPGA上运行Linux的eXpress数据路径程序,使用只有一小部分的可用硬件资源,同时匹配高端CPU的性能。eBPF的迭代执行模型不适合FPGA加速器。尽管如此,我们表明,eBPF程序的许多指令可以被压缩,并行化或完全删除,当目标是一个专用的FPGA执行器,从而显着提高性能。我们利用这一点来设计hXDP,它包括(i)一个优化编译器,它将eBPF字节码并行化并转换为我们定义的扩展eBPF指令集架构;(ii)一个软CPU,用于在FPGA上执行这些指令;以及(iii)一个基于FPGA的基础设施,用于提供Linux内核中定义的XDP映射和帮助函数。我们在FPGA NIC上实现了hXDP,并运行真实世界中未修改的eBPF程序对其进行了评估。我们的实现是在156.25MHz的时钟,使用约15%的FPGA资源,并可以运行动态加载的程序。尽管有这些适度的要求,但它实现了高端CPU核心的数据包处理吞吐量,并提供了10倍的数据包转发延迟。
2020-10-27 cs.AR
Evaluating FPGA Accelerator Performance with a Parameterized OpenCL Adaptation of the HPCChallenge Benchmark Suite
FPGA在数据中心应用中的采用率越来越高,因为新一代高级工具已经问世,这些工具显著缩短了FPGA加速器的开发时间,但仍能提供高质量的结果。然而,目前还没有专门针对HPC应用的FPGA架构、编程工具和库进行比较的高级基准测试套件。为了填补这一空白,我们为Xilinx和Intel FPGA开发了基于OpenCL的HPCC基准测试套件的开源实现。该基准测试可用于分析FPGA设备、卡和开发工具流的当前功能,跟踪随时间推移的进展,并指出HPC领域中FPGA加速的具体困难。此外,基准测试记录了经过验证的性能优化模式。我们将继续优化和移植新一代FPGA和设计工具的基准,并鼓励积极参与,为社区创造有价值的工具。
2020-06-12 cs.AR cs.DC
Optimizing Transformer Neural Network for Real-Time Outlier Detection on FPGAs
研究如何优化Transformer神经网络推理时间用于金融时间序列实时异常检测,探索不同架构在FPGA板上的高效实现,以最小化延迟进行时间序列异常检测。
2026-07-28 cs.AI cs.AR cs.DC
Koios: A Deep Learning Benchmark Suite for FPGA Architecture and CAD Research
随着深度学习(DL)在许多应用中的流行,研究人员正在研究优化FPGA架构和CAD的不同方法,以在基于DL的工作负载上实现更好的结果质量(QoR)。在这个优化过程中,基准电路是一个重要的组成部分;在一组基准上实现的QoR是架构和CAD设计选择的主要驱动力。然而,目前的学术基准套件是不够的,因为它们没有捕获任何设计从DL域。这项工作提出了一套新的DL加速基准电路的FPGA架构和CAD研究,称为Koios。这套19个电路涵盖了各种各样的加速神经网络,设计尺寸,实现风格,抽象层次和数值精度。与现有的开源基准测试相比,这些设计更大,数据更并行,更异构,更深入的流水线,并利用更多的FPGA架构功能。这使研究人员能够针对此类工作负载确定架构效率低下的问题,并在更现实的基准上优化CAD工具,这些基准以不同的方式强调CAD算法。在本文中,我们描述了我们的基准测试套件的设计,目前的结果,通过Verilog的路由(VTR)流使用最新的FPGA架构模型运行它们,并确定从所产生的指标的关键见解。与广泛使用的VTR套件相比,我们的基准测试平均具有3.7倍的网表原语,1.8倍和4.7倍的DSP和BRAM密度,以及1.7倍的频率和1.9倍的近关键路线。最后,我们提出了两个示例案例研究,展示了如何使用我们的新基准测试套件进行DL优化FPGA的架构探索。
2021-06-13 cs.AR
Designing, Modeling, and Optimizing Data-Intensive Computing Systems
在存储器单元和计算单元之间移动数据的成本是计算系统中现代工作负载的执行时间和能耗的主要贡献者。与此同时,我们正在目睹跨多个应用程序域生成的大量数据。这些趋势表明,需要向以数据为中心的方法进行范式转变,在这种方法中,计算靠近数据所在的位置进行。此外,以数据为中心的方法可以实现数据驱动的视图,我们可以利用大量可用数据来改进架构决策。作为迈向现代体系结构的一步,本文对以数据为中心的方法的各个方面做出了贡献,并提出了几种数据驱动机制。首先,我们设计了NERO,这是一个以数据为中心的加速器,用于现实世界的天气预测应用程序。其次,我们探讨了不同的数字格式的适用性,包括固定点,浮点,和浮点数,为不同的模板内核。第三,我们提出了NAPEL,一个基于ML的应用程序性能和能源预测框架,以数据为中心的架构。第四,我们介绍了LEAPER,它首次使用少样本学习在不同的硬件平台和应用程序之间传输基于FPGA的计算模型。第五,我们提出了Siphon,第一个基于强化学习的混合存储系统中的数据放置机制。总体而言,本论文提供了两个关键结论:(1)FPGA+HBM结构上的硬件加速是克服当前计算系统数据移动瓶颈的一个有前途的解决方案;(2)数据应该通过利用固有的数据特性来驱动系统和设计决策,使我们的计算系统更高效。
2022-08-18 cs.AR
Exploiting temporal parallelism for LSTM Autoencoder acceleration on FPGA
本文提出一种基于FPGA的数据流架构,通过时间并行性实现多层LSTM-AE的并发处理,实验显示在CPU和GPU上具有显著的加速效果和能效提升。
2026-03-14 cs.AR cs.LG
An Energy-Efficient FPGA-based Deconvolutional Neural Networks Accelerator for Single Image Super-Resolution
卷积神经网络(CNN)在各种计算机视觉应用中表现出优异的性能。近年来,已经提出了基于FPGA的CNN加速器以优化性能和功率效率。大多数加速器都是针对在低分辨率(LR)图像上执行的目标检测和识别算法而设计的。然而,实时图像超分辨率(SR)不能在典型的加速器上实现,因为生成高分辨率(HR)图像所需的执行周期很长,例如超高清(UHD)系统中使用的图像。在本文中,我们提出了一种新的CNN加速器与高效的并行化方法SR应用。首先,我们提出了一种新的方法来优化用于增加特征图的去卷积神经网络(DCNN)。其次,我们提出了一种新的方法来优化CNN低功耗,使SR算法可以在显示应用中以低功耗驱动。最后,我们将一个基于DCNN的SR算法压缩成一个最佳模型,以使用片上存储器进行有效的推理。我们提出了一个节能的架构SR和验证我们的架构上的移动面板与四高清晰度(QHD)的分辨率。我们的实验结果表明,在相同的硬件资源,建议的DCNN加速器实现了高达108倍的吞吐量比传统的DCNN加速器。此外,我们的SR系统在SR比例因子为2、3和4时分别实现了144.9 GOPS/W、293.0 GOPS/W和500.2 GOPS/W的能效。此外,我们证明了我们的系统可以恢复HR图像的高质量,同时大大减少了数据的位宽和参数的数量相比,传统的SR算法。
2018-12-18 cs.AR cs.DC
A Composable Dynamic Sparse Dataflow Architecture for Efficient Event-based Vision Processing on FPGA
本文提出可组合动态稀疏数据流架构 ESDA,利用可参数化模块、稀疏接口与子流形稀疏卷积在 FPGA 上快速构建事件视觉 DNN 加速器,并通过软硬协同优化实现显著提速与能效提升。
2024-01-11 cs.AR
VPR-Evolve: Multi-Agent-Driven Algorithm Evolution for FPGA Place and Route
Arizona State University(亚利桑那州立大学)
研究针对CAD工具固定算法在不同电路设计效果不佳的问题,提出VPR-Evolve多智能体框架,通过进化VPR源代码优化布局布线。经实验,相比原始VPR和超参数调整基线,该框架在关键路径延迟、布线线长和工具运行时等方面有显著提升。
2026-07-29 cs.AR
Low-Latency FPGA Control System for Real-Time Neural Network Processing in CCD-Based Trapped-Ion Qubit Measurement
The University of Sydney(悉尼大学);Imperial College London(伦敦帝国学院)
本文提出低延迟FPGA控制系统,用于提升基于CCD的囚离子量子比特测量中实时神经网络处理的效率与保真度。
2026-01-28 cs.AR quant-ph
Optimization of FPGA-based CNN Accelerators Using Metaheuristics
King Fahd University of Petroleum and Minerals(法赫德国王石油与矿产大学)
近年来,卷积神经网络(CNN)已经证明了它们解决许多领域问题的能力,并且具有以前不可能的准确性。然而,这带来了广泛的计算需求,这使得通用CPU无法提供所需的实时性能。与此同时,FPGA对加速CNN推理的兴趣激增。这是由于他们能够创建具有不同并行级别的定制设计。此外,与GPU相比,FPGA提供更好的性能功耗比。基于FPGA的CNN加速器的当前趋势是实现多个卷积层处理器(CLP),每个处理器都是为一个层子集定制的。然而,CNN架构日益复杂,使得优化目标FPGA器件上的可用资源以提供最佳性能更具挑战性。在本文中,我们提出了一个CNN加速器和相应的自动化设计方法,采用元逻辑划分可用的FPGA资源,设计多CLP加速器。具体而言,所提出的设计工具采用模拟退火(SA)和禁忌搜索(TS)算法来找到所需的CLP的数量和它们各自的配置,以实现给定的目标FPGA器件的最佳性能。这里,重点是关键规格和硬件资源,包括数字信号处理器、块RAM和片外内存带宽。使用四个著名的基准CNN的实验结果和比较表明,所提出的加速框架是令人鼓舞的和有前途的。基于SA/TS的Multi-CLP在Xilinx VC 707和VC 709 FPGA板上加速AlexNet、SqueezeNet 1.1、VGGNet和GoogLeNet架构时,吞吐量比最先进的单/多CLP方法高1.31 - 2.37倍。
2022-09-22 cs.AR cs.CV cs.NE
Design optimization for high-performance computing using FPGA
Drexel University(德雷塞尔大学);Omer Halisdemir University(奥默·哈利斯德米尔大学)
本文通过硬件改进、Xilinx Ultra RAM 和编译器策略优化 Tensil AI 开源 FPGA 加速器,在 CIFAR ResNet20 上实现高能效推理。
2023-04-24 cs.AR cs.LG
Accelerating Recurrent Neural Networks for Gravitational Wave Experiments
California Institute of Technology(加州理工学院);European Organization for Nuclear Research (CERN)(欧洲核子研究组织(CERN));Imperial College London(帝国理工学院)
本文提出了一种新的可重构架构,用于减少用于探测引力波的循环神经网络(RNN)的延迟。引力干涉仪,如LIGO探测器,捕捉宇宙事件,如黑洞合并,发生在未知的时间和不同的持续时间,产生时间序列数据。我们开发了一种新的架构,能够加速RNN推理,用于分析LIGO探测器的时间序列数据。该架构基于优化多层LSTM(长短期记忆)网络中的初始间隔(II),通过为每层确定适当的重用因子。设计了一个可定制的模板,用于这种架构,它可以生成低延迟的FPGA设计,使用高层次的综合工具,有效地利用资源。基于两个LSTM模型对所提出的方法进行了评估,目标是ZYNQ 7045 FPGA和U250 FPGA。实验结果表明,平衡的II,DSP的数量可以减少到42%,而实现相同的II。与其他基于FPGA的LSTM设计相比,我们的设计可以实现约4.92至12.4倍的延迟。
2021-06-26 cs.AR cs.LG physics.ins-det
μ-ORCA: Optimizing Acceleration for Microsecond-Scale Deep Neural Network Inference on ACAP
Brown University(布朗大学)
针对ACAP平台微秒级推理中片上通信低效和层间延迟大的问题,提出μ-ORCA框架,通过AIE阵列直接层间通信、512位/周期级联连接和开销感知性能模型,实现端到端延迟优化,在AMD ACAP VEK280上达到0.93μs延迟。
2026-05-26 cs.AR
Locus: A Framework for Exploring and Optimizing Point Addition Hardware for Zero-Knowledge Proofs
New York University Tandon School of Engineering(纽约大学坦登工程学院)
Locus框架自动生成椭圆曲线点加(PADD)的ASIC和FPGA实现,系统探索设计空间,在12nm工艺下相比先前ASIC实现2.71倍加速和3.11倍面积缩减,并显著提升端到端ZKP证明生成速度。
2026-09-17 cs.AR cs.CR
Helix: A Unified Programmable Accelerator for Diverse Krylov Subspace Solvers
Yale University(耶鲁大学)
Helix是面向各类Krylov子空间求解器的统一可编程FPGA加速器,通过抽象通用原语、引入可编程数据通路及DSL编译器,实现多求解器高效支持,性能优于同类专用加速器,能效与带宽利用率表现突出。
2026-10-16 cs.AR cs.DC
Reconfigurable co-processor architecture with limited numerical precision to accelerate deep convolutional neural networks
University of Moratuwa(莫拉图瓦大学)
卷积神经网络(CNN)广泛用于深度学习应用,例如视觉系统、机器人等。然而,现有的软件解决方案效率不高。因此,已经提出了许多硬件加速器来优化实现的性能、功率和资源利用。在现有的解决方案中,基于现场可编程门阵列(FPGA)的架构提供了更好的成本-能量-性能权衡以及可扩展性和最小化开发时间。在本文中,我们提出了一种模型无关的可重构协处理架构来加速CNN。我们的体系结构由并行乘法和累加(MAC)单元与高速缓存技术和互连网络,以利用最大的数据并行。与现有的解决方案相比,我们引入有限精度的32位Q格式定点量化的算术表示和操作。因此,我们的架构实现了显著降低资源利用率与竞争力的准确性。此外,我们开发了一个汇编类型的微指令来访问协处理结构,以管理逐层并行,从而使有限的资源重用。最后,我们在Xilinx Virtex 7 FPGA上测试了高达9 x9内核大小的架构,在3x 3内核大小下实现了高达226.2 GOp/S的吞吐量。
2021-08-21 cs.AI cs.AR cs.DC
AP-DRL: A Synergistic Algorithm-Hardware Framework for Automatic Task Partitioning of Deep Reinforcement Learning on Versal ACAP
The Hong Kong University of Science and Technology(香港科技大学);Indian Institute of Technology Goa(印度理工学院果阿分校)
AP-DRL通过智能硬件优化,利用Versal ACAP异构架构加速深度强化学习训练,解决算法与硬件协同优化问题,实现高达4.17倍的加速效果。
2026-03-31 cs.AR cs.LG
Adaptable Butterfly Accelerator for Attention-based NNs via Hardware and Algorithm Co-design
Imperial College London(帝国理工学院);Samsung AI Center(三星人工智能中心);University of Cambridge(剑桥大学);Cornell University(康奈尔大学)
基于注意力的神经网络在许多人工智能任务中已经变得普遍。尽管它们具有出色的算法性能,但使用注意力机制和前馈网络(FFN)需要过多的计算和存储器资源,这通常会损害它们的硬件性能。虽然已经引入了各种稀疏变体,但大多数方法仅关注于减轻算法级别上的注意力的二次缩放,而没有明确考虑将其方法映射到实际硬件设计上的效率。此外,大多数努力只集中在注意力机制或FFN,但没有联合优化这两个部分,导致大多数当前的设计缺乏可扩展性时,处理不同的输入长度。本文从硬件的角度系统地考虑了不同变体中的稀疏模式。在算法层面上,我们提出了FABNet,一个硬件友好的变体,采用统一的蝴蝶稀疏模式来近似注意力机制和FFN。在硬件层面上,提出了一种新的自适应蝶形加速器,可以在运行时通过专用的硬件控制配置,以加速不同的蝶形层使用一个统一的硬件引擎。在Long-Range-Arena数据集上,FABNet实现了与普通Transformer相同的精度,同时将计算量减少了10到66倍,参数数量减少了2到22倍。通过联合优化算法和硬件,我们基于FPGA的蝶形加速器实现了14.2到23.2倍的加速比,超过了标准化为相同计算预算的最先进的加速器。与Raspberry Pi 4和Jetson Nano上优化的CPU和GPU设计相比,在相同的功耗预算下,我们的系统速度分别提高了273.8和15.1倍。
2022-09-20 cs.AR cs.LG
MEDEA: A Design-Time Multi-Objective Manager for Energy-Efficient DNN Inference on Heterogeneous Ultra-Low Power Platforms
EPFL(洛桑联邦理工学院);UPM(马德里理工大学)
MEDEA是一种异构超低功耗平台上的设计时多目标管理器,整合多项技术实现DNN推理的高能效,在HEEPtimize平台上针对癫痫检测案例,较现有方法最高降能耗38%且满足时序内存要求。
2026-08-18 cs.AR