Efficient Approaches for GEMM Acceleration on Leading AI-Optimized FPGAs
针对两款主流AI优化型FPGA架构差异大的问题,本文提出适配各自架构特性的GEMM优化系统框架,在int8精度下实现了高吞吐量与能效,并给出优化指导与可编程性权衡分析。
2024-04-17 cs.AR
Architectural Solutions for High-Speed Data Processing Demands of CERN LHC Detectors with FPGA and High-Level Synthesis
针对高亮度 LHC 的高速数据处理挑战,本文研究利用 HLS 从 C++ 生成 FPGA 硬件实现 tau 轻子触发算法,并比较多种架构与优化方案。
2024-10-27 cs.AR physics.ins-det
Architectural Design and Performance Analysis of FPGA based AI Accelerators: A Comprehensive Review
Indian Institute of Engineering Science and Technology(印度工程科学与技术学院)
本文综述了基于FPGA的AI加速器的架构设计与性能分析,探讨了硬件层面的优化技术及最新加速器的挑战与未来发展方向。
2026-02-25 cs.AI cs.AR
Boosting FPGA Performance with Direct BRAM-DSP Paths
Arizona State University(亚利桑那州立大学);University of Waterloo(滑铁卢大学)
针对现代FPGA设计中内存与计算单元间数据移动的性能瓶颈,尤其是深度学习工作负载,本文提出轻量级架构增强,引入BRAM与DSP直接连接并增强布局算法,在类似Agilex-10的FPGA上提升了DL层设计的Fmax并减少了线长。
2026-07-08 cs.AR
Architectural improvements and 28 nm FPGA implementation of the APEnet+ 3D Torus network for hybrid HPC systems
现代图形处理单元(GPU)现在被认为是通用计算的加速器。GPU和互连网络之间的紧密交互是在大型HPC集群上表达多GPU系统能力计算的全部潜力的策略;这就是为什么高效和可扩展的互连是最终为科学HPC提供GPU的关键技术的原因。在本文中,我们展示了APEnet+网络结构的最新架构和性能改进,这是一个基于FPGA的PCIe板,具有6个完全双向的板外链路,每个方向的原始带宽为34 Gbps,以及朝向主机PC的X8 Gen 2带宽。该板实现了远程直接内存访问(RDMA)协议,该协议利用Fermi和Kepler级NVIDIA GPU的对等(P2P)功能来获得真正的零拷贝、低延迟GPU到GPU传输。最后,我们报告了2013年的开发活动,重点是采用最新一代28纳米FPGA和在这个新平台上进行的初步测试。
2013-11-14 cs.AR cs.DC physics.comp-ph
Programming Domain-Specific FPGA Hardblocks from HLS: An RTL Blackbox Approach
Arizona State University(亚利桑那州立大学)
提出一种编译器无关的方法,通过RTL黑盒抽象将FPGA硬模块暴露为可调度的C级算子,使HLS工具能从C/C++直接编程自定义硬模块,无需手动RTL集成,在Tensor Slice架构上验证了较低的面积延迟积和更高的生产力调整效率。
2026-06-07 cs.AR
A Statically and Dynamically Scalable Soft GPGPU
本文提出一种静态与动态可扩展的软 GPGPU 架构,通过将处理器流水线与 FPGA 物理结构匹配,在 Intel Agilex FPGA 上实现 771 MHz 的峰值性能,并支持逐条指令的线程空间子集动态指定。
2024-01-08 cs.AR
Accelerating BLAS on Custom Architecture through Algorithm-Architecture Co-design
基本线性代数子程序在高性能和科学计算应用中起着关键作用。在实验上,过去的多核和通用图形处理单元(GPGPU)能够在65 W到240 W的功率下分别实现高达理论峰值性能的15%到57%,用于计算边界运算,如双/单精度的通用矩阵乘法(XGEMM)。对于带宽受限的操作,如单/双精度的矩阵向量乘法(XGEMV),性能仅为多核和GPGPU理论峰值性能的5%至7%。实现BLAS的性能需要摆脱传统的智慧,并通过算法架构协同设计,朝着为BLAS量身定制的定制加速器发展。在本文中,我们提出了加速1级(向量运算),2级(矩阵向量运算),3级(矩阵矩阵运算)BLAS通过算法架构协同设计的粗粒度可重构架构(CGRA)。我们选择REDEFINE CGRA作为我们实验的平台,因为REDEFINE可以通过定制的自定义功能单元(CFU)来支持感兴趣的领域。为了有效地实现BLAS的顺序,我们提出了一个处理单元(PE)的设计,并在PE中执行微架构增强,以实现高达74%的理论峰值性能的PE在DGEMM,40%在DGEMV和20%在双精度的内积(DDOT)。我们将此PE作为CFU附加到REDEFINE CGRA,并展示了我们解决方案的可扩展性。最后,我们展示了PE的性能比商用英特尔微架构、ClearSpeed CSX 700、FPGA和Nvidia GPGPU提高了3- 140倍。
2016-11-27 cs.AR cs.MS
Soft GPGPU versus IP cores: Quantifying and Reducing the Performance Gap
本文研究FPGA软GPGPU(eGPU)在FFT计算上与专用IP核的性能差距,提出两种新架构特性将效率提升50%,使其性能面积积仅为IP核的3倍且保持可编程性,并在256至4096点FFT上优于Nvidia A100。
2024-06-05 cs.AR
Scalable Light-Weight Integration of FPGA Based Accelerators with Chip Multi-Processors
现代多核系统正在从同构系统迁移到基于加速器计算的异构系统,以克服性能和功率墙的障碍。在这种趋势下,基于FPGA的加速器由于其出色的灵活性和低设计成本而变得越来越有吸引力。在本文中,我们提出了基于FPGA的多加速器和芯片多处理器(CMP)通过片上网络(NoC)连接之间的高效接口的架构支持。分布式分组接收器和分层分组转发器被设计成在重任务负载下保持可扩展性并减少关键路线延迟。还提出了一种专用的加速器链接机制,以促进加速器之间的FPGA内数据重用,从而规避FPGA和处理器之间的禁止通信开销。为了评估所提出的架构,一个完整的系统仿真与可编程性的支持使用FPGA原型。实验结果表明,该体系结构具有高性能、轻量级和可扩展性等特点。
2020-09-03 cs.AR
Revealing Untapped DSP Optimization Potentials for FPGA-Based Systolic Matrix Engines
本文针对基于FPGA的脉动矩阵引擎,揭示了多种此前未开发的DSP48E2优化技术,并在Google TPUv1和Xilinx Vitis AI DPU上验证了其在相同并行度下显著降低资源与功耗的效果,同时展示了其对脉冲神经网络加速的适用性。
2024-09-05 cs.AR
A Quarter of a Century of Neuromorphic Architectures on FPGAs -- an Overview
KTH Royal Institute of Technology(皇家理工学院)
本文回顾了过去二十五年FPGA上神经形态架构的发展,总结了数字神经形态架构的设计方法及其在模拟脉冲神经网络中的应用前景。
2026-05-18 cs.AR cs.NE
Bombyx: OpenCilk Compilation for FPGA Hardware Acceleration
École Polytechnique Fédérale de Lausanne(洛桑联邦理工学院)
Bombyx是一种面向FPGA硬件加速的OpenCilk编译器,通过将OpenCilk程序转换为Cilk-1中间表示,实现高效的任务级并行应用映射,并引入解耦优化提升性能。
2025-11-26 cs.AR
Fast Iterative Dual-Output-Aware LUT Mapping for Fracturable FPGA Architectures
The University of Texas at Arlington(德克萨斯大学阿灵顿分校)
研究针对可分块FPGA架构的LUT映射问题,提出迭代双输出感知LUT映射框架,集成于ABC映射器优化过程。通过交替单输出割选和双输出匹配,利用稀疏支持索引生成候选对并验证选择,反馈信息调整成本,实验表明该框架能有效降低LUT面积、加速并减少深度和面积。
2026-07-28 cs.AR
Automatic Nested Loop Acceleration on FPGAs Using Soft CGRA Overlay
卸载计算密集型嵌套循环在FPGA加速器上执行已被许多研究人员证明是跨许多应用领域的有效性能增强技术。为了构建具有高设计效率的加速器,研究人员越来越多地转向使用叠加架构作为构建在现成FPGA之上的中间代目标。然而,实现所需的性能开销权衡仍然是一个主要的生产力挑战,因为需要在覆盖多个架构参数的大型设计空间上进行复杂的特定于应用程序的定制。在这项工作中,提出了一种利用常规软粗粒度可重构阵列(SCGRA)覆盖的自动嵌套循环加速框架。给定高级资源约束,框架自动定制覆盖架构设计参数、高级编译选项以及加速器与主机处理器之间的通信,以针对给定应用程序优化性能。在我们的实验中,以10到20分钟的额外工具运行时间为代价,所提出的定制过程导致了比由相同框架生成的基线加速器高出5倍的额外加速。总的来说,与在Zedboard上仅在主机ARM处理器上运行的等效软件相比,由此产生的加速器实现了高达10倍的加速。
2015-08-27 cs.AR cs.DC
ECI: a Customizable Cache Coherency Stack for Hybrid FPGA-CPU Architectures
与其他加速器不同,FPGA能够支持缓存一致性,从而将其转变为比外围加速器更强大的架构选项。然而,大多数现有的FPGA部署要么是非高速缓存一致性的,要么只支持非对称设计,其中高速缓存一致性由CPU控制。利用最近发布的两个插槽的CPU-FPGA架构,在本文中,我们描述了ECI,能够支持对称和非对称协议的FPGA上的高速缓存一致性的灵活实现。ECI是开放和可定制的,使应用程序有机会与高速缓存一致性协议完全交互,从而开辟了许多有趣的系统设计和研究机会,这些机会在现有的设计中是不可用的。通过广泛的微基准测试,我们表明,ECI具有很强的竞争力的性能,并详细讨论了一个用例,说明了在FPGA上有一个开放的高速缓存一致性堆栈的好处。
2022-08-15 cs.AR cs.DC
Designing Hardware/Software Systems for Embedded High-Performance Computing
在这项工作中,我们提出了一个架构和方法来设计硬件/软件系统的高性能嵌入式计算的FPGA。硬件方面基于众核架构,其设计是在给定一组架构参数的情况下自动生成的。在ZYNQ-7020 FPGA平台上运行密集矩阵乘法和稀疏矩阵向量乘法,对体系结构和方法进行了评估。结果表明,使用系统级设计的系统,避免了复杂的硬件设计,仍然提供了良好的性能结果。
2015-08-27 cs.AR
Runtime Energy Monitoring for RISC-V Soft-Cores
LINKS Foundation(LINKS基金会);Teseo SpA – EES CLEMESSY(Teseo公司–EES CLEMESSY);Morfo Design srl(Morfo设计公司);GE Avio srl(GE Avio公司)
本文提出结合测量板与基于 FPGA 的系统级模块的运行时能耗监测框架,无需复杂体系结构模型且不占用 FPGA 额外资源,并将用于优化 RISC-V 软核上浅层神经网络的性能与能耗。
2025-09-30 cs.AR
SuperUROP: An FPGA-Based Spatial Accelerator for Sparse Matrix Operations
针对稀疏线性方程组求解器在现有硬件上因数据重用差和依赖复杂导致效率低的问题,本文提出基于FPGA的Azul加速器实现,采用RISC-V核心与片上网络,并验证了其与架构仿真等效的性能。
2025-09-15 cs.AR
fpgaConvNet: A Toolflow for Mapping Diverse Convolutional Neural Networks on Embedded FPGAs
Imperial College London(帝国理工学院)
近年来,卷积神经网络(ConvNets)已经成为广泛的新型嵌入式人工智能系统的使能技术。在各种应用中,性能需求差异很大,从高吞吐量视频监控到自动驾驶汽车的极低延迟要求。在这种情况下,FPGA可以提供一个潜在的平台,可以根据不同的性能需求进行优化配置。然而,ConvNet模型的复杂性不断增加,使其映射到FPGA设备成为一项具有挑战性的任务。这项工作提出了fpgaConvNet,这是一个用于在FPGA上映射ConvNet的端到端框架。该框架采用了一种基于同步数据流(SDF)范式的自动化设计方法,并定义了一组SDF转换,以有效地探索建筑设计空间。通过选择性地优化吞吐量,延迟或多目标标准,所提出的工具能够有效地探索设计空间,并从高级ConvNet规范中生成硬件设计,并针对感兴趣的性能指标进行明确优化。总体而言,我们的框架产生的设计,提高了高达6.65倍的性能超过高度优化的嵌入式GPU设计,在嵌入式环境中相同的功率限制。
2017-11-23 cs.AR cs.CV cs.LG
Scalable Packet Tracking on FPGAs for Erasure-Coded RDMA over Lossy WANs
Northeastern University(东北大学);Microsoft Corporation(微软公司)
针对有损广域网多路径RDMA中数据包乱序和丢失问题,提出首个基于FPGA的完全硬件卸载数据包到达跟踪设计COMET,采用可扩展缓存架构,实现400Gbps线速并支持6倍并发连接。
2026-09-21 cs.AR
Performance Evaluation of ECC in Single and Multi Processor Architectures on FPGA Based Embedded System
密码算法的计算成本很高,如果我们需要在资源受限的嵌入式系统中执行它们,挑战就更多了。具有可编程逻辑器件和处理核心的现场可编程门阵列(FPGA)已被证明是用于嵌入式系统的高度可行的实现平台,其提供更少的设计时间和可重构性。吞吐量、资源利用率和功率要求等设计参数是关键问题。椭圆曲线密码体制(Elliptic Curve Cryptography,ECC)在许多方面都优于RSA等公钥密码体制,如以较小的密钥提供更高的安全性,本文选择了ECC,并探讨了其在基于FPGA的嵌入式系统中实现的可能性,包括单处理器核和双处理器核结构,涉及任务并行化。考虑到其他现有作品,这项探索是同类探索中的首次,是评估在基于FPGA(Virtex 4 XC 4VFX 12、FF 668、-10)的嵌入式平台上实现ECC的最佳可能架构环境所需的活动。
2014-01-15 cs.AR cs.CR
Timing Fragility Aware Selective Hardening of RISCV Soft Processors on SRAM Based FPGAs
Evolution Optiks R&D Inc.(进化光学研发有限公司)
本文提出一种基于时序脆弱性的选择性硬化方法,用于提升基于SRAM的FPGA上RISCV软处理器的可靠性,同时减少面积和时序开销。
2026-01-09 cs.AR cs.SY eess.SP
ELiTeFormer: An Efficient Transformer for FPGAs
Oregon State University(俄勒冈州立大学);Pacific Northwest National Laboratory(太平洋西北国家实验室)
研究针对Transformer在FPGA部署的挑战,提出ELiTeFormer架构,统一混合线性注意力与超低精度线性投影,通过新微架构减少资源利用,实现模型和缓存压缩,模拟部署显示有加速效果。
2026-07-07 cs.AI cs.AR
Crypto-RV: High-Efficiency FPGA-Based RISC-V Cryptographic Co-Processor for IoT Security
Nara Institute of Science and Technology(奈良先端科学技术大学院大学);University of Information Technology(信息工程大学);Vietnam National University(越南国立大学);Le Quy Don Technical University(黎贵敦技术大学)
Crypto-RV是一种基于FPGA的RISC-V加密协处理器,通过统一支持多种加密算法,实现高效、低功耗的物联网安全加密处理。
2026-02-04 cs.AR cs.CR
Hardware-Enabled Fuzzy Inference: Architectures, Platforms, and Emerging Trends
School of Computer Engineering, Iran University of Science and Technology(伊朗理工大学计算机工程学院);Electrical, Computer, and Systems Engineering Department, Case Western Reserve University(凯斯西储大学电气、计算机和系统工程系)
该综述以平台为中心,全面梳理硬件模糊系统的三类实现,对比各平台特性,指出研究缺口并提出未来方向,为相关研究者与从业者提供参考。
2026-08-06 cs.AR
Banked Memories for Soft SIMT Processors
本文设计并评估软SIMT处理器的存储体化存储器,比较9种架构并运行51个基准测试,发现多端口存储器在小规模下性能更优,但存储体化存储器在高带宽、高频率和高密度方面更具优势,适用于FPGA应用。
2025-03-31 cs.AR
NeuronFabric: A Software Reference Architecture for On-Chip Transformer Training with Local Adam
Independent Researcher(独立研究者)
提出NeuronFabric软件参考架构,用于FPGA/ASIC实现Transformer训练与本地Adam优化,通过BF16W权重存储减少片上内存需求,在334K参数模型上验证数值正确性。
2026-06-16 cs.AI cs.AR cs.LG
The Role of Advanced Computer Architectures in Accelerating Artificial Intelligence Workloads
Lahore Leads University(拉合尔利兹大学)
本文综述AI与计算机架构的协同进化,分析GPU、ASIC、FPGA等主流架构的设计与性能,探讨核心优化原则及新兴技术,指出软硬件协同设计对AI未来发展的必要性。
2025-11-13 cs.AI cs.AR cs.LG
Edge-MoE: Memory-Efficient Multi-Task Vision Transformer Architecture with Task-level Sparsity via Mixture-of-Experts
Georgia Institute of Technology(佐治亚理工学院);University of Texas at Austin(得克萨斯大学奥斯汀分校)
Edge-MoE提出首个多任务ViT的FPGA加速器,通过自注意力重排序、单遍softmax和GELU近似、统一计算单元及patch重排序等创新,解决了M$^3$ViT部署挑战,能效较GPU和CPU分别提升2.24倍和4.90倍。
2023-09-13 cs.AR cs.CV