Emulated ASIC Power and Temperature Monitor System for FPGA Prototyping of an Invasive MPSoC Computing Architecture
在这方面的贡献的ASIC温度和功率监控系统(TPMon)的FPGA原型的仿真和测试控制处理器温度下不同的控制目标和操作策略。用于仿真功率监视器的方法是基于一个预防级别的能量模型。为了仿真温度监测器,使用热RC模型。监控系统为侵入式MPSoC计算架构提供硬件状态信息(系统内处理器的功率和温度数据)。这些数据是资源感知负载分配所必需的。作为一个概念的证明,不同的操作策略和控制目标进行了评估的2-瓦片侵入MPSoC计算系统。
2014-05-12 cs.AR
Exploiting FPGA Capabilities for Accelerated Biomedical Computing
Prairie View A&M University(普雷里维尤农工大学);Drexel University(德雷塞尔大学);Erciyes University(埃尔吉耶斯大学)
该研究面向 FPGA 上的 ECG 生物医学计算,实现并比较多种深度神经网络,结合 MIT-BIH 数据、防过拟合技术与定制 TCU 加速流程,给出部署和性能优化指南。
2023-07-16 cs.AR cs.LG eess.SP
A Competitive Edge: Can FPGAs Beat GPUs at DCNN Inference Acceleration in Resource-Limited Edge Computing Applications?
当作为生成模型进行训练时,深度学习算法在涉及高维数据的任务(如图像去噪和超分辨率)上表现出卓越的性能。在一个由移动和边缘设备主导的日益互联的世界中,对这些算法在嵌入式平台上本地运行的需求激增。FPGA凭借其可重编程性和低功耗特性,是这些边缘计算应用的理想候选者。因此,我们设计了一个时空并行的硬件架构,能够加速一个去卷积算法优化的电源效率的推理资源有限的FPGA。我们提出了这种基于FPGA的加速器,用于低功耗边缘计算应用中的解卷积神经网络(DCNN)推理。为此,我们开发了系统地利用微观建筑创新,设计空间探索和统计分析的方法。使用Xilinx PYNQ-Z2 FPGA,我们利用我们的架构来加速使用Wasserstein GAN框架在MNIST和CelebA数据集上训练的两个DCNN的推理。在这些网络上,与NVIDIA Jetson TX 1边缘计算GPU相比,我们的FPGA设计实现了更高的吞吐量与功率比,同时降低了运行间变化。
2021-03-09 cs.AR cs.DC eess.IV
Multi-Electrostatic FPGA Placement Considering SLICEL-SLICEM Heterogeneity, Clock Feasibility, and Timing Optimization
随着现代FPGA体系结构变得越来越复杂,现代FPGA布局是一个具有多个目标的混合优化问题,包括线长,可布线性,时序收敛和时钟可行性。如今,典型的FPGA器件由异构的SLICE组成,如SLCEL和SLICEM。SLICE的资源可以被配置为{LUT、FF、分布式RAM、DRAM、CARRY}。除了这种异构性,先进的FPGA架构也带来了复杂的约束,如时序,时钟布线,进位链对齐等,上述异构性和约束FPGA布局算法提出了越来越多的挑战。在这项工作中,我们提出了一个多静电FPGA放置器,考虑到上述SLICEL-SLICEM异质性下的时序,时钟路由和进行链对齐的约束。我们首先提出了一个有效的SLICEL-SLICEM异质性模型与一个新的基于静电的密度制定。我们还设计了一个动态调整的预处理和进位链对齐技术来稳定优化收敛。然后,我们提出了一个时间驱动的净加权计划,将定时优化。最后,我们提出了一个嵌套拉格朗日松弛为基础的布局框架,将线长,可布线性,时序和时钟的可行性的优化目标。在学术和工业基准上的实验结果表明,我们的砂矿机在质量和效率上优于最先进的砂矿机。
2023-03-16 cs.AR
Adaptive Computing in Robotics, Leveraging ROS 2 to Enable Software-Defined Hardware for FPGAs
Xilinx, Inc.(赛灵思公司)
传统的机器人软件开发是关于在给定机器人的CPU中使用预定义的架构和约束进行编程功能。相反,使用自适应计算,构建机器人行为就是对架构进行编程。通过利用自适应计算,机器人专家可以在运行时间调整其计算系统的一个或多个属性(例如,其确定性、功耗、安全态势或吞吐量)。然而,机器人专家并不是硬件工程师,而且他们中缺乏嵌入式专业知识。本白皮书采用了以ROS 2机器人专家为中心的自适应计算观点,并提出了一种架构,将FPGA作为ROS 2生态系统的一级参与者。所提出的架构是平台和技术无关的,并且易于移植。该架构的核心组件在Apache 2.0许可证下公开,为机器人专家利用自适应计算和创建软件定义硬件铺平了道路。
2021-08-30 cs.AR cs.RO
An FPGA-based Solution for Convolution Operation Acceleration
Ho Chi Minh City University of Technology (HCMUT)(胡志明市理工大学);Vietnam National University - Ho Chi Minh City (VNU-HCM)(越南国家大学-胡志明市)
基于硬件的加速是促进许多计算密集型数学运算的广泛尝试。本文提出了一种基于FPGA的架构,以加速卷积运算-一个复杂的和昂贵的计算步骤,出现在许多卷积神经网络模型。我们的设计目标是标准卷积运算,打算将产品作为边缘AI解决方案推出。该项目的目的是生产一个FPGA IP核,可以一次处理一个卷积层。系统开发人员可以使用Verilog HDL作为架构的主要设计语言,将IP核部署到各种FPGA系列中。实验结果表明,在简单的边缘计算FPGA板上合成的单个计算核心可以提供0.224 GOPS。当板被充分利用时,可以实现4.48 GOPS。
2022-06-09 cs.AI cs.AR cs.LG
Evaluating Computing Platforms for Sustainability: A Comparative Analysis of FPGAs against ASICs, GPUs, and CPUs
Arizona State University(亚利桑那州立大学)
本文通过GreenFPGA工具评估FPGA在不同计算平台下的可持续性,分析其在特定部署条件下比ASICs、GPU和CPU更环保的潜力。
2026-04-22 cs.AR cs.ET
A Scalable FPGA Architecture for Quantum Computing Simulation
针对量子电路仿真几何级时空复杂度限制仿真规模的问题,提出一种高性能高并行的可扩展FPGA加速器架构,解决并行管理、量子态路由等挑战,并在Intel Agilex FPGA上完成验证。
2024-07-08 cs.AR quant-ph
Performance monitoring for multicore embedded computing systems on FPGAs
在设计现代嵌入式计算系统时,大多数软件程序员选择使用多核处理器,可能与通用图形处理单元(GPGPU)和/或硬件加速器结合使用。它们还经常使用嵌入式Linux O/S,并运行多应用程序工作负载,甚至可能是多线程的。现代FPGA足够大,可以将多核硬/软处理器与多个硬件加速器结合起来作为定制计算单元,使整个嵌入式计算系统能够在单个FPGA上实现。此外,大型FPGA供应商还支持其软件和嵌入式处理器的嵌入式Linux内核。当与高级综合相结合,使用C-to-gates流程生成硬件加速器时,可以使软件设计人员使用FPGA作为其自定义计算平台的框架所需的原语现在已经存在。然而,为了确保有效地集成和共享计算资源,软件开发人员需要能够在其工作负载中监视和调试应用程序的运行时性能。本文介绍了ABACUS,一个性能监控框架,可用于调试多核系统上的多应用程序工作负载的执行行为和交互。我们还讨论了如何这个框架是可扩展的异构系统中的硬件加速器使用。
2015-08-28 cs.AR cs.PF
Direct Spatial Implementation of Sparse Matrix Multipliers for Reservoir Computing
Google Brain(谷歌大脑)
储备池计算系统依赖于非常大的、稀疏的、固定的矩阵的递归乘法。我们认为,这些固定矩阵的直接空间实现最大限度地减少了在计算中执行的工作,并允许显着减少延迟和功率通过不断的传播和逻辑最小化。位串行运算使大量的静态矩阵得以实现。我们提出了我们的位串行矩阵乘法器的结构,并评估使用规范的有符号数字表示,以进一步减少逻辑利用率。我们已经在一个大型FPGA上实现了这些矩阵,并提供了一个简单且可扩展的成本模型。与GPU库相比,这些FPGA实现平均可将延迟降低50倍至86倍。与最近的稀疏DNN加速器相比,我们测量到延迟减少了4.1倍到47倍,具体取决于矩阵维度和稀疏性。FPGA解决方案的吞吐量对于各种矩阵尺寸和批量大小也具有竞争力。最后,我们讨论了这些技术可以部署在ASIC中,使它们适用于动态稀疏矩阵计算。
2021-01-21 cs.AR cs.LG
RISCBench: Benchmarking RISC-V Orchestration Efficiency in FPGA and FPGA-Like Computing Engines
University of Florida(佛罗里达大学);Flapmax;NSF Center for Space, High-Performance & Resilient Computing(美国国家科学基金会太空、高性能与弹性计算中心)
RISCBench提出了一种量化RISC-V编排效率的基准测试方法,通过持续即时吞吐量指标评估异构系统和AI推理中的编排效率。
2025-12-27 cs.AR
Studying the Potential of Automatic Optimizations in the Intel FPGA SDK for OpenCL
高级综合(HLS)工具(如英特尔FPGA SDK for OpenCL)可提高设计生产力,并在简单程序指令(pragmas)的指导下实现高效的设计空间探索,但有时可能会错过实现高性能所需的重要优化。在本文中,我们提出了一个研究的权衡HLS优化,和一个现代的HLS工具在自动优化应用程序的潜力。我们使用面向OpenCL的英特尔FPGA SDK和Arria 10 FPGA开发套件在5级相机ISP流水线上进行研究。我们表明,在HLS工具的自动优化是有价值的,实现了高达2.7倍的加速比相当于CPU执行。然而,通过进一步的手动调优,我们可以在CPU上实现高达36.5倍的加速。我们得出了几个具体的经验教训,由简单的指令指导的自动优化的有效性,以及高性能所需的手动重写的性质。
2022-01-10 cs.AR
Optimization Techniques to Improve Inference Performance of a Forward Propagating Neural Network on an FPGA
本文描述了一个优化的前向分类神经网络,它已经事先训练的实现。所描述的实现突出了使用Python脚本来生成Verilog硬件实现的新颖方法。该实现的特点包括优化缩放输入数据,使用选定的adjuster代替乘法函数,硬件友好的激活函数和简化的输出选择。将详细介绍英特尔i7与Xilinx FPGA上的软件实现之间的28x28像素“手写”识别NN的推理性能比较。
2020-12-15 cs.AR
Revealing Untapped DSP Optimization Potentials for FPGA-Based Systolic Matrix Engines
本文针对基于FPGA的脉动矩阵引擎,揭示了多种此前未开发的DSP48E2优化技术,并在Google TPUv1和Xilinx Vitis AI DPU上验证了其在相同并行度下显著降低资源与功耗的效果,同时展示了其对脉冲神经网络加速的适用性。
2024-09-05 cs.AR
JANUS: an FPGA-based System for High Performance Scientific Computing
本文介绍了JANUS,一个模块化的大规模并行和可重构的基于FPGA的计算系统。每个JANUS模块都有一个计算核心和一个主机。计算核心是基于FPGA的处理元件的4x 4阵列,具有最近邻数据链路。处理器也直接连接到连接到JANUS主机(一台传统PC)的I/O节点。JANUS是专为但不限于一类硬科学应用程序的要求而量身定制的,这些应用程序的特点是规则的代码结构、非常规的数据操作指令和不太大的数据库大小。我们讨论了这个可配置的机器的架构,并专注于它的使用统计力学的蒙特卡罗模拟。在这类应用中,JANUS实现了令人印象深刻的性能:在某些情况下,一个JANUS处理元件的性能超过高端PC约1000倍。我们还讨论了JANUS在其他科学应用中的作用。
2008-04-08 cs.AR
When HLS Meets FPGA HBM: Benchmarking and Bandwidth Optimization
随着最近基于高带宽存储器(HBM)的FPGA板的发布,开发人员现在可以利用前所未有的外部内存带宽。这使得更多内存受限的应用能够从FPGA加速中受益。然而,我们发现,这是不容易充分利用可用带宽时,开发一些应用程序与高级综合(HLS)工具。这是由于现有的HLS工具在访问HBM板的大量独立外部存储器通道时的限制。在本文中,我们测量了最近的三个代表HBM FPGA板(英特尔的Stratix 10 MX和Xilinx的Alveo U 50/U280板)的性能与微基准测试,并分析了HLS开销。接下来,我们提出了基于HLS的优化技术,以提高有效带宽时,一个PE访问多个HBM通道或多个PE访问HBM通道。实验结果表明,有效带宽提高了2.4 - 3.8倍。我们还为HBM FPGA HLS设计流程的未来改进提供了一系列见解。
2020-10-12 cs.AR
A Self-Reconfigurable Computing Platform Hardware Architecture
现场可编程门阵列(FPGA)近来越来越多地用于计算密集型任务的高度并行处理。本文介绍了一种基于PC的FPGA硬件平台架构,允许通过PCI总线快速重新配置,并保留了简单的物理硬件设计。首先讨论了设计考虑因素,然后说明了由此产生的系统架构设计。最后,实验结果的FPGA资源用于本设计。
2004-11-20 cs.AR cs.DC
FPGA-based Multi-Chip Module for High-Performance Computing
当前的集成、架构设计和制造技术不适合Exascale计算所要求的计算密度和功率效率。因此,需要硬件架构的新方法来克服阻止过渡到Exascale时代的技术障碍。在这个范围内,我们报告成功制造的第一ExaNoDe的MCM原型专用于Exascale计算应用。每个MCM由2个Xilinx Zynq Ultrascale+ MPSoC组成,装配在专为该项目设计和制造的先进68.5 mm x 55 mm层压基板上。声学显微镜、X射线、横截面和Thermo-Moire调查显示没有空隙、短路、分层、裂纹或翘曲问题。为了测试目的,FORTH将两个MCM安装在子板上。通过在1866 MHz和2133 MHz的时钟频率下运行广泛的Xilinx内存测试,子板的4个SODI插槽上的DDR内存成功通过测试。所有4个FPGA都使用Xilinx集成误码率测试(IBERT)进行编程,该测试专为该电路板的链路测试而设计。所有FPGA之间的所有板内高速链路都稳定在10 Gbps,即使在要求更高的31位PRBS(伪随机二进制序列)测试下也是如此。
2019-06-26 cs.AR cs.PF
RePart: Efficient Hypergraph Partitioning with Logic Replication Optimization for Multi-FPGA System
School of Integrated Circuits, Peking University(北京大学集成电路学院);Institute of Electronic Design Automation, Peking University(北京大学电子设计自动化研究所);Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院);Beijing Advanced Innovation Center for Integrated Circuits(北京集成电路先进创新中心);School of Electronics Engineering and Computer Science, Peking University(北京大学电子工程学系)
RePart通过整合逻辑复制与拓扑优化,提升多FPGA系统的超图划分效率,减少跳转距离并提升性能。
2026-04-01 cs.AR
NORM: An FPGA-based Non-volatile Memory Emulation Framework for Intermittent Computing
间歇式计算系统仅依靠在其微小能量储存器(通常是电容器)中积累的收集能量来运行。间歇性设备在其电容器中没有能量时由于电源故障而死亡,并且在所收集的能量足以为其硬件组件供电时再次启动。由于计算状态的频繁丢失,电源故障阻止了计算的向前进展。为了解决这个问题,间歇计算系统包括具有高写入耐久性的内置快速非易失性存储器,以存储尽管频繁的电源故障也持续存在的信息。然而,设计工具的缺乏使得这些系统的快速原型化变得困难。尽管FPGA是持续供电架构的快速原型和行为验证的常见平台,但它们并不针对间歇性计算系统的原型。本文介绍了一个新的基于FPGA的框架,命名为NORM(非易失性存储器仿真器),模拟和验证任何间歇性计算系统,利用快速非易失性存储器的行为。我们的评估表明,NORM可以用来模拟和验证基于FeRAM的瞬态供电的硬件架构成功。
2022-02-16 cs.AR cs.ET cs.SY
ElasticAI: Creating and Deploying Energy-Efficient Deep Learning Accelerator for Pervasive Computing
University of Duisburg-Essen(杜伊斯堡-埃森大学)
针对嵌入式设备微控制器算力不足、FPGA上高能效深度学习加速器开发难度大的问题,提出包含自动生成工具链与验证硬件平台的ElasticAI工作流,助力开发者在嵌入式FPGA上创建部署深度学习加速器。
2024-08-29 cs.AI cs.AR cs.LG
FPGA-based Acceleration for Convolutional Neural Networks: A Comprehensive Review
Key Laboratory of Low-Dimensional Quantum Structures and Quantum Control of Ministry of Education, School of Physics and Electronics, Hunan Normal University(教育部低维量子结构与量子控制重点实验室,物理电子学院,湖南师范大学)
本文针对卷积神经网络计算需求增长的问题,全面综述了基于FPGA的CNN硬件加速器,梳理了性能评估框架与关键优化策略,对比了多类架构的多项性能指标,并指出了未来挑战与创新方向。
2025-05-04 cs.AR cs.LG
Blink: Fast Automated Design of Run-Time Power Monitors on FPGA-Based Computing Platforms
本文提出可扩展框架Blink,通过用行为仿真和直接功耗轨迹测量替代耗时的门级仿真,实现了基于FPGA计算平台的运行时功耗监控基础设施的快速自动化设计,在保证估计质量的同时将求解时间平均加速18倍。
2025-01-29 cs.AR
Analysis and Optimization of I/O Cache Coherency Strategies for SoC-FPGA Device
与传统的基于PCIe的FPGA加速器不同,异构SoC-FPGA器件在CPU上运行的软件和硬件加速器之间提供了更紧密的集成。现代异构SoC-FPGA平台支持CPU和FPGA之间的多个I/O缓存一致性选项,但这些选项可能会对实现的带宽产生意外影响,具体取决于应用和数据访问模式。为了在CPU和加速器之间提供最有效的通信,了解数据事务行为并选择正确的I/O缓存一致性方法至关重要。在本文中,我们使用Xilinx Zynq UltraScale+作为SoC平台,展示了某些I/O缓存一致性方法在不同情况下的性能优劣,并最终影响整体加速器性能。基于我们的分析,我们进一步探讨了可能的软件和硬件修改,以提高不同的I/O缓存一致性选项的I/O性能。经过我们的改进,SoC设计的整体性能平均可以提高20%。
2019-08-04 cs.AR
Memory-Efficient FPGA Implementation of Stochastic Simulated Annealing
本文提出了一种内存高效的FPGA实现方法,用于加速随机模拟退火算法的收敛速度,同时保持高质量的优化解。
2026-01-25 cs.AR cs.LG
A Novel Approximate Hamming Weight Computing for Spiking Neural Networks: an FPGA Friendly Architecture
稀疏和长二进制向量的汉明重量是许多科学应用中的重要模块,特别是在我们感兴趣的脉冲神经网络中。为了改善他们的FPGA实现的面积和延迟,我们提出了一种方法的灵感来自突触传输失败,利用FPGA查找表来压缩长输入向量。为了评估这种方法的有效性,我们使用一个简单的线性加法器来计算压缩向量的“1”的数量。我们将压缩器分为两个层次的查找表和深度的两个以上的水平,浅的。通过这种方法生成的架构显示了高达82%和35%的减少不同配置的浅压缩机的面积和延迟分别。此外,我们的仿真结果表明,计算的脉冲神经网络的1024位向量的汉明重量,通过只使用深度压缩器保留了网络的混沌行为,而对学习性能的影响不大。
2021-04-29 cs.AR cs.NE
HALF: Holistic Auto Machine Learning for FPGAs
University of Kaiserslautern(凯泽斯劳滕大学);Fraunhofer ITWM(弗劳恩霍夫工业数学研究所)
深度神经网络(DNN)能够解决与嵌入式系统相关的领域中的复杂问题,例如图像和自然语言处理。为了针对给定的成本标准(例如,能量效率)在特定的FPGA平台上有效地实现DNN,从拓扑结构到最终的硬件实现,必须考虑大量的设计参数。必须考虑并有效探索不同设计层之间的相互依赖性,这使得手动找到优化解决方案变得几乎不可能。自动化、整体化的设计方法可以显著提高DNN在FPGA上的实现质量。为此,我们提出了一个跨层的设计空间探索方法。它包括从DNN的硬件感知拓扑搜索开始到给定FPGA平台的最终优化实现的优化。该方法在我们的FPGA整体自动机器学习(HALF)框架中实现,该框架结合了进化搜索算法,各种优化步骤和可参数化硬件DNN模块库。HALF可在目标FPGA平台上针对各种应用自动执行探索过程和优化解决方案的实施。我们在心律失常检测的医疗用例中展示了HALF的性能,分别用于三种不同的设计目标,即低功耗、低功耗和高吞吐量。我们的FPGA实现在吞吐量和能耗方面都优于Nvidia Jetson平台上的TensorRT优化模型。
2021-10-20 cs.AR cs.LG
Real Time FPGA Based CNNs for Detection, Classification, and Tracking in Autonomous Systems: State of the Art Designs and Optimizations
本文全面综述了FPGA上部署CNN实现视觉任务的最新进展,涵盖算法优化、硬件平台、开发工具、混合加速架构及软硬件协同设计,为边缘嵌入式低功耗高性能视觉系统开发提供参考。
2025-09-04 cs.AR
Enabling Automated FPGA Accelerator Optimization Using Graph Neural Networks
University of California - Los Angeles(加利福尼亚大学洛杉矶分校)
高级综合(HLS)使计算机架构师从用非常低级语言开发他们的设计中解放出来,并且不需要精确地指定数据应该如何在寄存器级传输。在HLS的帮助下,硬件设计人员只需描述设计的高级行为流程。尽管如此,开发一个高性能的架构仍然需要几周的时间,主要是因为在更高的级别上有许多设计选择,需要更多的时间来探索。从HLS工具获得关于每个设计候选者的质量的反馈也需要几分钟到几个小时。在本文中,我们提出了解决这个问题的建模HLS工具与图神经网络(GNN),被训练用于广泛的应用。实验结果表明,通过采用基于GNN的模型,我们能够在毫秒内以高精度估计设计质量,这可以帮助我们非常快速地搜索解决方案空间。
2021-11-22 cs.AR cs.LG
SASA: A Scalable and Automatic Stencil Acceleration Framework for Optimized Hybrid Spatial and Temporal Parallelism on HBM-based FPGAs
摘要空间计算是科学计算、图像处理等应用领域的基本计算模式之一。虽然有一些很有前途的研究,加速在FPGA上的stenkraft,有缺乏一个自动化的加速框架,系统地探索空间和时间并行迭代stenkraft,可能是计算或内存约束。在本文中,我们提出了SASA,现代HBM为基础的FPGA上的可扩展和自动模板加速框架。SASA以高层模板DSL和FPGA平台为输入,根据精确的分析模型自动开发最佳时空并行配置,并在TAPA高级综合C++中生成具有最佳并行配置的优化FPGA设计及其相应的主机代码。与仅利用时间并行性的最先进的自动模板加速框架SODA相比,SASA在基于HBM的Xilinx Alveo U280 FPGA板上实现了3.74倍的平均加速比和高达15.73倍的加速比,适用于各种模板内核。
2022-08-23 cs.AR
RapidOMS: FPGA-based Open Modification Spectral Library Searching with HD Computing
RapidOMS利用FPGA和超维计算实现开放修饰谱库搜索,相比CPU工具加速60倍,比GPU工具快2.72倍,能效提升11倍。
2024-09-20 cs.AR cs.DC
FADO: Floorplan-Aware Directive Optimization for High-Level Synthesis Designs on Multi-Die FPGAs
多芯片FPGA被广泛用于部署大型硬件加速器。有两个因素阻碍了在多管芯FPGA上实现的HLS设计的性能优化。一方面,由于网络跨越管芯边界而导致的长网络延迟导致正确地布局和流水线化应用的NP难问题。另一方面,传统的HLS指令优化的自动搜索流程是针对单芯片FPGA的,因此,它不能考虑每个芯片上的资源约束和芯片交叉引起的时序问题。此外,由于设计规模大,在定向优化期间,使在每组配置下生成的HLS设计的布图规划合法化导致过长的运行时间。为了在多芯片FPGA上协同优化HLS设计的指令和布图规划,提出了FADO框架,该框架基于多选择多维装箱问题,建立了指令-布图规划协同搜索问题,并采用迭代优化流程求解。对于定向搜索的每一步,延迟瓶颈引导的贪心算法搜索更有效的定向配置。对于布图规划,我们实现了一个更有效的增量布图规划合法化算法,而不是重复地招致全局布图规划算法。它主要应用最差拟合在线装箱算法来平衡布图规划,连同离线最佳拟合减少重新装箱来压缩布图规划,随后是跨越管芯边界的长导线的流水线。通过在HLS设计上的实验,FADO不仅实现了协同优化的自动化,与全局布图规划辅助的DSE相比,其运行时间缩短了693倍~ 4925倍,而且在Xilinx Alveo U250 FPGA上实现后,总体工作流执行时间提高了1.16倍~ 8.78倍。
2023-02-05 cs.AR
Holistic Optimization Framework for FPGA Accelerators
University of California, Los Angeles(加州大学洛杉矶分校);Colorado State University(科罗拉多州立大学)
本文提出Prometheus整体优化框架,通过统一设计空间整合任务融合、分块、循环置换等关键优化,并利用非线性规划在资源约束下自动生成比特流,从而在多个基准上超越现有FPGA优化框架,实现高QoR并减少手动调优。
2025-09-23 cs.AR
FPGA-Based Near-Memory Acceleration of Modern Data-Intensive Applications
现代数据密集型应用需要高计算能力和严格的功耗限制。不幸的是,由于计算单元和存储器单元之间的昂贵的数据移动,这样的应用遭受当前计算系统中的执行周期和能量的显著浪费。基因组分析和天气预报是这类应用的两个例子。最近的FPGA将可重配置结构与高带宽存储器(HBM)相结合,以实现更高效的数据移动,并提高整体性能和能效。这种趋势是向近内存计算的范式转变的一个例子。我们利用这样一个FPGA与高带宽存储器(HBM),以改善基因组分析和代表性的内核从天气预测模型的预对齐过滤步骤。我们的评估表明,在高端IBM POWER9系统和传统的FPGA板与DDR4内存的大加速和节能。我们的结论是,基于FPGA的近内存计算有可能减轻现代数据密集型应用程序的数据移动瓶颈。
2021-07-03 cs.AR cs.DC
A Compilation Flow for the Generation of CNN Inference Accelerators on FPGAs
University of Toronto(多伦多大学)
我们提出了在FPGA上生成CNN推理加速器的编译流程。该流程使用TVM编译器将冻结模型转换为OpenCL内核,并使用英特尔OpenCL SDK编译为FPGA比特流。我们通过对TVM生成的基础OpenCL内核进行优化来提高生成的硬件的质量。这些优化提高了并行性,减少了内存访问延迟,提高了并发性并节省了片上资源。我们在TVM中自动执行这些优化,并通过在Intel Stratix~ 10 SX上为LeNet-5、MobileNetV 1和ResNet-34生成加速器进行评估。我们表明,优化提高了性能的生成的加速器高达846倍以上的基础加速器。优化后的加速器在CPU上的性能比TensorFlow高出4.57倍,比单线程TVM高出3.83倍,比56线程TVM仅高出0.34倍。我们优化的内核也优于通过类似方法(也使用高级合成)生成的内核,同时提供更多的功能和灵活性。然而,它的性能不如使用手动优化设计的方法。因此,我们认为我们的方法在预生产环境中非常有用,可以从提高的性能和快速原型设计中受益,实现FPGA的优势,而无需硬件设计专业知识。
2022-03-08 cs.AR cs.DC cs.LG
N3H-Core: Neuron-designed Neural Network Accelerator via FPGA-based Heterogeneous Computing Cores
Shanghai Qi Zhi Institute(上海期智研究院);Shanghai Jiao Tong University(上海交通大学);Alibaba Group US Inc.(阿里巴巴集团美国公司);Alibaba Group(阿里巴巴集团)
由于FPGA的可重构性和高性能计算能力本质上满足了快速进化的神经算法的计算需求,利用FPGA加速神经网络推理已成为一种流行的选择。然而,FPGA上流行的神经加速器(例如,Xilinx DPU)主要利用DSP资源来构建其处理单元,而丰富的LUT资源没有得到很好的利用。通过软硬件协同设计的方法,在这项工作中,我们开发了一个基于FPGA的异构计算系统的神经网络加速。从硬件的角度来看,所提出的加速器由基于DSP和LUT的通用矩阵乘法(GEMM)计算核心组成,以异构的方式形成整个计算系统。基于DSP和LUT的GEMM核心是在统一的指令集架构(ISA)和统一的缓冲区中计算的。沿着神经网络推理路径的数据流,卷积/全连接层的计算被分成两部分,由基于DSP和LUT的GEMM内核异步处理。从软件的角度来看,我们数学和系统地模拟的延迟和资源利用率的建议异构加速器,关于不同的系统设计配置。通过利用强化学习技术,构建了一个实现目标异构加速器设计规范端到端选择和优化的框架,包括工作负载划分策略、混合精度量化方案以及DSP核和LUT核的资源分配。凭借所提出的设计框架和异构计算系统,我们的设计优于最先进的Mix&Match设计,延迟减少了1.12- 1.32倍,具有更高的推理精度。N3 H核心是开源的:https://github.com/elliothe/N3H_Core。
2021-12-15 cs.AI cs.AR cs.PF
SpecHD: Hyperdimensional Computing Framework for FPGA-based Mass Spectrometry Clustering
University of California, San Diego(加利福尼亚大学圣迭戈分校);University of Antwerp(安特卫普大学)
提出SpecHD,一种基于FPGA和超维计算的质谱聚类框架,通过近存储预处理和并行计算,在5分钟内完成大规模数据聚类,能效提升超31倍,加速6-54倍。
2023-11-20 cs.AR cs.DC cs.LG
FSHMEM: Supporting Partitioned Global Address Space on FPGAs for Large-Scale Hardware Acceleration Infrastructure
分区全局地址空间(Partitioned Global Address Space,PGAS)通过全局共享内存空间提供高效的单边通信,已成为高性能计算(High Performance Computing,HPC)中最有前途的并行计算模型之一。与此同时,FPGA作为HPC系统的替代计算平台,以其定制计算和设计灵活性的优势而受到关注。然而,与传统的消息传递接口不同,PGAS的探索尚未在FPGA上进行。本文提出了FSHMEM,一个软件/硬件框架,使FPGA上的PGAS编程模型。我们在FPGA上实现了GASNet规范的核心功能,以实现硬件中的原生PGAS集成,同时其编程接口被设计为与传统软件高度兼容。实验结果表明,FSHMEM的峰值带宽达到3813 MB/s,是理论最大值的95%以上,比已有的工作高出9.5 $\times$。对于远程写入和读取操作,它分别记录0.35 $us$和0.59 $us$延迟。最后,我们对集成英特尔深度学习加速器的两个英特尔D5005 FPGA节点进行了案例研究。采用FSHMEM编程的两节点系统在矩阵乘法和卷积运算方面分别实现了1.94 $\times$和1.98 $\times$的加速比,显示了其在HPC基础设施中的可扩展性。
2022-07-11 cs.AR cs.DC
A Survey of FPGA-Based Robotic Computing
Georgia Institute of Technology(佐治亚理工学院);Harvard University(哈佛大学);PerceptIn Inc(佩塞普特因公司);South China University of Technology(华南理工大学);University of Rochester(罗切斯特大学);Tsinghua University(清华大学)
最近的机器人研究已经取得了显着的进步,从算法,机械到硬件架构。包括机械手、足式机器人、无人机和自动驾驶汽车在内的机器人技术现在广泛应用于各种场景。然而,机器人算法的高计算量和数据复杂度对其应用提出了很大的挑战。一方面,CPU平台灵活,可以处理多个机器人任务。GPU平台具有较高的计算能力和易于使用的开发框架,因此在许多应用中被广泛采用。另一方面,基于FPGA的机器人加速器正在成为越来越有竞争力的替代方案,特别是在延迟关键和功率受限的场景中。通过专门设计的硬件逻辑和算法内核,基于FPGA的加速器可以在性能和能效方面超越CPU和GPU。在本文中,我们概述了以前的工作,基于FPGA的机器人加速器涵盖不同阶段的机器人系统管道。分析了软件和硬件优化技术和主要技术问题,以及一些商业和空间应用,作为未来工作的指导。
2021-03-05 cs.AI cs.AR cs.RO
Computing and Compressing Electron Repulsion Integrals on FPGAs
高斯型轨道上电子排斥积分的计算是基于量子力学的原子模拟中一个具有挑战性的问题。在实际模拟中,每个时间步长可能需要计算数万亿个ERI。在这项工作中,我们调查FPGA作为加速器的ERI计算。我们在英特尔oneAPI工具流程中使用模板参数,根据轨道为256种不同的ERI四重态类创建定制设计。为了最大限度地提高数据重用率,所有中间数据都缓冲在FPGA片内存储器中,并采用定制布局。中间体的预先计算也有助于克服多维递归关系引起的数据依赖。所涉及的循环结构被部分甚至完全展开,以实现FPGA内核的高吞吐量。此外,利用任意位宽整数的有损压缩算法集成在FPGA内核中。据我们所知,这是第一个在FPGA上进行ERI计算的工作,它支持的不仅仅是最基本的四元组类。此外,ERI计算和压缩的集成是一个新奇的东西,到目前为止,CPU或GPU库甚至还没有涵盖。我们的评估表明,使用16位整数进行ERI压缩,最快的FPGA内核在一个Intel Stratix 10 GX 2800 FPGA上的性能超过10个GERIS(每秒$10 \times 10^9$ ERI),最大绝对误差约为$10^{-7}$ - $10^{-5}$ Hartree。测量的吞吐量可以准确地解释的性能模型。部署在2个FPGA上的FPGA内核,在采用相同处理技术的40个Xeon Gold 6148 CPU内核的双插槽服务器上使用广泛使用的libint参…
2023-03-23 cs.AR cs.DC cs.PF
Efficient and Accurate Graph Classification with Hyperdimensional Computing on FPGA
University of Southern California(南加州大学)
本文提出HyperX,首个端到端FPGA加速器,用于边缘设备上的基于Nyström的超维计算图分类,通过四种关键优化提升性能和准确性,实现显著的速度和能效提升。
2026-05-18 cs.AR
A Novel FPGA-based CNN Hardware Accelerator: Optimization for Convolutional Layers using Karatsuba Ofman Multiplier
本文提出一种基于FPGA的CNN硬件加速器,利用Karatsuba Ofman乘法器优化AlexNet、VGG16和VGG19的卷积层,以更少硬件资源实现高速乘法。
2024-12-29 cs.AR
EasyDRAM: An FPGA-based Infrastructure for Fast and Accurate End-to-End Evaluation of Emerging DRAM Techniques
EasyDRAM是一个基于FPGA的框架,通过支持C++高级语言和创新的时间缩放技术,实现快速准确的DRAM技术端到端评估,克服了硬件描述语言门槛和频率差异挑战。
2025-06-23 cs.AR
AMG: Automated Efficient Approximate Multiplier Generator for FPGAs via Bayesian Optimization
本文提出AMG,一个基于贝叶斯优化与并行评估的FPGA自动化近似乘法器生成器,通过简化部分积压缩中的精确半加器并保留粗粒度累加,在可接受误差下显著降低硬件成本,相比已有1167个乘法器平均改进28.70%-38.47%。
2023-10-28 cs.AR
A Scalable FPGA Architecture With Adaptive Memory Utilization for GEMM-Based Operations
本文提出一种基于FPGA的可扩展动态配置加速器,利用脉动阵列、高带宽内存和UltraRAM,通过多PU实例化与启发式权重调度提升吞吐效率,并可扩展模拟AIMC设备,适用于多种DNN模型。
2025-10-09 cs.AR
Real Time FPGA Based Transformers & VLMs for Vision Tasks: SOTA Designs and Optimizations
本文综述了基于FPGA的Transformer与VLM推理的设计权衡、优化策略与实现挑战,分析关键影响因素与新兴趋势,指出实际问题并展望未来方向,为多模态AI的高效FPGA部署提供支撑。
2025-09-04 cs.AR
SME: A High Productivity FPGA Tool for Software Programmers
几十年来,CPU一直是大多数计算中使用的标准模型。虽然CPU确实在某些领域表现出色,但异构计算(如可重新配置的硬件)在并行化、性能和功耗等领域显示出越来越大的潜力。这在支持深流水线或紧延迟要求的问题中尤其突出。然而,由于这些问题的性质,它们可能很难编程,至少对于软件开发人员来说是这样。同步消息交换(SME)是一个运行时环境,允许在C#中开发,测试和验证FPGA器件的硬件设计,并访问现代调试和代码功能。我们的目标是为软件开发人员创建一个框架,以便轻松实现FPGA设备的系统,而无需获得大量的硬件编程知识。本文简要介绍了SME模型以及SME的最新更新。最后,将介绍一系列学生项目和示例,以展示如何在SME中创建非常复杂的结构,即使是没有硬件经验的学生。
2021-04-20 cs.AR
FPGA Innovation Research in the Netherlands: Present Landscape and Future Outlook
本文综述了荷兰过去五年在FPGA架构、鲁棒性、数据中心基础设施、编程模型与工具及应用五大领域的研究现状,并展望未来方向,为国家级FPGA技术投资提供参考。
2025-02-04 cs.AR cs.DC
Designing Hardware/Software Systems for Embedded High-Performance Computing
在这项工作中,我们提出了一个架构和方法来设计硬件/软件系统的高性能嵌入式计算的FPGA。硬件方面基于众核架构,其设计是在给定一组架构参数的情况下自动生成的。在ZYNQ-7020 FPGA平台上运行密集矩阵乘法和稀疏矩阵向量乘法,对体系结构和方法进行了评估。结果表明,使用系统级设计的系统,避免了复杂的硬件设计,仍然提供了良好的性能结果。
2015-08-27 cs.AR
FPGA-Based Neural Network Accelerators for Space Applications: A Survey
KTH Royal Institute of Technology(皇家理工学院)
本文综述了基于FPGA的神经网络加速器在空间任务中的应用,分析了现有文献、趋势和空白,并提出了未来研究方向,以提升星载计算系统性能。
2026-10-14 cs.AI cs.AR
Design of an FPGA-Based Neutral Atom Rearrangement Accelerator for Quantum Computing
本文提出一种基于象限分治的FPGA中性原子重排加速算法,首次实现该任务的硬件加速,在250 MHz FPGA上完成30×30目标阵列重排仅需约1.0 μs,相比CPU和最先进FPGA工作分别获得约54倍和300倍加速,并具备良好可扩展性。
2024-11-19 cs.AR cs.ET quant-ph
A Foray into Efficient Mapping of Algorithms to Hardware Platforms on Heterogeneous Systems
与同质计算相比,异构计算可能会显着提高性能和每瓦性能,但问题是“算法到架构的理想映射是什么?””仍然是一个开放的。在过去的几年中,新型的计算设备,如FPGA,已经进入一般计算使用。在这项工作中,我们试图通过比较内核性能和性能每瓦的七个关键算法,根据伯克利的侏儒分类法添加到科学知识的身体。我们使用Rodinia基准测试套件对来自CPU、GPU和FPGA系列的三种不同高端硬件架构代表进行测试。我们发现的结果,支持架构和性能每瓦之间的一些不同的映射。也许最有趣的发现是,对于我们特定的硬件代表,FPGA应该被视为GPU和CPU在几个关键算法中的替代品:N体模拟,密集线性代数和结构化网格。
2016-05-23 cs.AR
Table-Lookup MAC: Scalable Processing of Quantised Neural Networks in FPGA Soft Logic
本文提出TLMAC框架,通过将量化神经网络权重聚类映射为查表处理单元并优化布局布线,在单个商用FPGA上实现了ImageNet规模全精度准确率模型的可扩展查表计算。
2024-03-18 cs.AR
Model-based Hardware Design for FPGAs using Folding Transformations based on Subcircuits
我们提出了一个工具流程和结果的基于模型的硬件设计的FPGA从Simulink的描述,很好地集成到现有的环境。虽然目前的商业工具不利用一些高层次的优化,我们研究了有前途的方法,使用可重用的子电路折叠变换来控制嵌入式乘法器的使用和优化逻辑块的使用。我们表明,与原始模型相比,高达70%的资源改进是可能的,但它也表明,子电路的选择是一个关键的任务。虽然我们的工具流程已经提供了良好的结果,但子电路选择的研究和优化显然被确定为扩展对低级FPGA映射属性的高级控制的附加关键点。
2015-08-27 cs.AR