P4SGD: Programmable Switch Enhanced Model-Parallel Training on Generalized Linear Models on Distributed FPGAs
P4SGD提出一种基于分布式FPGA和可编程交换机的模型并行训练系统,通过流水线并行和交换机内聚合协议,实现广义线性模型的高效分布式训练,收敛速度比最先进的GPU方案快达6.5倍。
2023-05-10 cs.DC
A Novel FPGA-Based High Throughput Accelerator For Binary Search Trees
提出了一种用于现场可编程门阵列(FPGA)的深度流水线和大规模并行的二进制搜索树(BST)加速器。我们的设计依赖于极其并行的片上存储器,或FPGA的块RAM(BRAM)架构。为了实现显着的吞吐量BST上的搜索操作,我们提出了几种新的机制,包括树复制以及水平,重复,和混合(水平-垂直)树分区。此外,我们提出了有效的技术,以减少失速率,可以发生在并行树搜索。通过将这些技术与Xilinx Virtex-7 VC 709平台上的实现相结合,我们实现了与基线实现相比高达8倍的吞吐量提高增益,即,基于FPGA的全流水线加速器。
2019-12-01 cs.DC
An Efficient Dispatcher for Large Scale GraphProcessing on OpenCL-based FPGAs
高并行框架已经被证明非常适合于图形处理。FPGA是一种流水线并行器件,在FPGA中的优化实现有很多工作要做.利用FPGA的并行性能的关键是对图形数据进行流水线处理,并利用片上存储器实现必要的局部性处理。本文提出了一个模块化的图处理框架,该框架关注于整个执行过程,具有极大的并行度。该框架有三个贡献。首先,在执行过程中可以调整顶点中心和边中心处理框架的组合,以适应自顶向下算法和自底向上算法。其次,基于流水线并行和有限片上存储器加速器,提出了一种新的边块,即由边顶点组成的块,实现了利用片上存储器对边进行分组和流处理的优化方法,实现了流模式对流水线的并行处理。第三,在分析自然图的块结构和图处理过程中的执行特点的基础上,设计了一种新的转换调度器来实现转换处理模块,以匹配相应的交换点。
2018-06-03 cs.DC
Performance Modeling Sparse MTTKRP Using Optical Static Random Access Memory on FPGA
静态随机存储器(E-SRAM)是现场可编程门阵列(FPGA)内部静态存储器的现行标准。尽管E-SRAM技术在过去十年中取得了巨大的进步,但E-SRAM技术尚未实现超快速、节能的静态随机存储器的目标。然而,对光学静态随机存取存储器(O-SRAM)的初步研究已经在创建节能超快静态存储器方面显示出有希望的结果。本文研究了O-SRAM在执行稀疏矩阵化张量时间Khatri-Rao乘积(spMTTKRP)时在存取速度和能量性能方面优于E-SRAM的优点。spMTTKRP是张量分解算法的重要组成部分,在数据科学应用中得到了广泛的应用。评估结果显示,与传统的E-SRAM技术相比,O-SRAM可以实现1.1倍-2.9倍的速度,同时节省2.8倍-8.1倍的能量。
2022-08-22 cs.AR cs.DC
Accelerating Monte-Carlo Tree Search on CPU-FPGA Heterogeneous Platform
蒙特卡罗树搜索(MCTS)方法在许多人工智能(AI)基准测试中取得了巨大的成功。在CPU上实现并行MCTS时,树内操作成为一个关键的性能瓶颈。在这项工作中,我们开发了一个可扩展的CPU-FPGA系统的树并行MCTS。提出了一种新的MCTS数据结构和计算的分解和映射到CPU和FPGA,以减少通信和协调。通过在基于SRAM的FPGA加速器中封装入树操作,实现了系统的高可扩展性。为了降低高数据访问延迟和工人间同步开销,我们开发了几个硬件优化。我们表明,通过使用我们的加速器,我们获得了$35\times$的加速比为在树操作,和$3\times$更高的整体系统吞吐量。我们的CPU-FPGA系统还实现了卓越的可扩展性wrt的并行工作者的数量比国家的最先进的并行MCTS的CPU上实现。
2022-08-23 cs.DC cs.SY eess.SY
Exploring Parallelism in FPGA-Based Accelerators for Machine Learning Applications
Western New England University(韦斯滕新英格兰大学);Rice University(Rice大学)
针对神经网络训练加速问题,本工作在MNIST数据集上用OpenMP实现推测反向传播,通过多线程重叠前向与反向传播步骤,CPU实验获24%整体加速比及35%单步最大加速比,计划在FPGA上综合以验证硬件加速潜力。
2025-11-09 cs.AR cs.DC cs.LG
An FPGA cached sparse matrix vector product (SpMV) for unstructured computational fluid dynamics simulations
现场可编程门阵列生成算法特定的架构,提高代码的FLOP每瓦比。由于促进其编程的新工具(例如OmpSs)的兴起,此类装置重新获得兴趣。计算流体动力学社区一直在研究新的架构,可以提高其算法的性能。通常,这些算法具有较低的运算强度,并且仅达到峰值性能的一小部分。稀疏矩阵向量相乘是非结构化仿真中最耗时的运算之一。矩阵的稀疏模式决定了乘法向量的间接内存访问。这种数据路径很难预测,使得传统的实现失败。在这项工作中,我们提出了一个FPGA架构,最大限度地提高了向量的可重用性,通过引入一个类似缓存的架构。高速缓存被实现为在需要时维护BRAM向量分量的循环列表。在这种策略下,与算法的简单实现相比,获得了高达16倍的加速。
2021-07-24 cs.DC physics.comp-ph
A High Throughput Parallel Hash Table on FPGA using XOR-based Memory
哈希表是一种基本的数据结构,用于快速搜索和检索数据。它是复杂图分析和AI/ML应用程序的关键组件。最先进的并行哈希表实现或者做出一些简化的假设,例如仅支持哈希表操作的子集,或者采用导致高度依赖于数据的性能的优化,并且在最坏的情况下可以类似于顺序实现。相比之下,在这项工作中,我们开发了一个动态的哈希表,支持所有的哈希表查询-搜索,插入,删除,更新,同时允许我们通过p个处理引擎(PE)在最坏的情况下,即性能是数据不可知的每个时钟周期支持“p”并行查询(p>1)。我们实现了这一点,通过实现新的XOR基于FPGA的多端口块存储器。此外,我们开发了一种技术来优化的哈希表的内存需求,如果插入/更新/删除查询的搜索的比例是事先已知的。我们在最先进的FPGA器件上实现了我们的设计。我们的设计可扩展到16个PE,并支持高达5926 MOPS的吞吐量。它与最先进的哈希表设计FASTHash的吞吐量相匹配,FASTHash只支持搜索和插入操作。与支持相同操作集的最佳FPGA设计相比,我们的哈希表实现了高达12.3倍的加速比。
2021-08-21 cs.DC
Reconfigurable Low-latency Memory System for Sparse Matricized Tensor Times Khatri-Rao Product on FPGA
University of Southern California(南加利福尼亚大学);US Army Research Lab(美国陆军研究实验室)
张量分解已经成为包括机器学习在内的各个领域的许多应用中的重要工具。稀疏矩阵化张量乘Khatri-Rao乘积(MTTKRP)是张量计算中计算量最大的核函数之一。尽管具有显著的计算并行性,MTTKRP是一个具有挑战性的内核优化,由于其不规则的内存访问特性。本文重点研究了多面存储系统,探讨了MTTKRP的数据结构的空间和时间局部性。此外,用户可以根据FPGA加速器中使用的计算单元的行为重新配置我们的设计。我们的系统有效地访问所有的MTTKRP数据结构,同时减少总的内存访问时间,使用分布式缓存和直接内存访问(DMA)子系统。此外,我们的工作提高了3.5倍的存储器访问时间相比,商业存储器控制器IP。此外,我们的系统显示2倍和1.26倍的加速比相比,只有缓存和DMA的内存系统,分别。
2021-09-18 cs.AI cs.AR cs.DC
Parallelizing Workload Execution in Embedded and High-Performance Heterogeneous Systems
在本文中,我们介绍了一个软件定义的框架,使所有的可编程处理资源的并行利用异构片上系统(SoC),包括基于FPGA的硬件加速器和可编程CPU。考虑了两个具有不同架构的平台,并且在这两个平台中使用单个C/C++源代码用于CPU和FPGA资源。而不是简单地使用硬件加速器从CPU卸载任务,我们提出了一个调度器,动态分配的任务之间的所有资源,充分利用所有的计算设备,同时最大限度地减少负载不平衡。多架构研究比较了ARMV7和ARMV 8实现与不同数量和类型的CPU核心,也不同的FPGA微架构和大小。我们的测量结果表明,这两个平台都受益于CPU内核在相同的能源需求水平下协助FPGA执行。
2018-02-09 cs.DC
High-Performance Parallel Implementation of Genetic Algorithm on FPGA
Federal University of Rio Grande do Norte (UFRN)(北里奥格兰德联邦大学)
遗传算法(GAs)用于解决搜索和优化问题,其中可以使用具有概率和非确定性转换的迭代过程来找到最优解。然而,根据问题的性质,由于遗传算法的计算复杂性,在顺序机器中找到解决方案所需的时间可能很高。提出了一种基于现场可编程门阵列(FPGA)的遗传算法并行实现方法。优化系统的处理时间是该项目的主要目标。与处理时间和面积占用(在FPGA上)为各种人口规模的结果进行了分析。关于GA响应的两个变量函数的优化的准确性的研究也进行了评估的硬件实现。然而,本文提出的高性能实现能够通过对硬件架构的一些调整来处理更多的变量。
2018-06-20 cs.AI cs.AR cs.DC
A Multi-FPGA High Performance Computing System for 3D FFT-based Numerical Simulations
在高性能计算领域,进程间的通信是大规模并行科学应用的典型瓶颈。本研究的目的是开发一种具有特定卸载能力的网络接口卡,该网络接口卡可以帮助大规模模拟在通信延迟和计算元件数量的可扩展性方面。特别是这项工作涉及的双精度的浮点复数运算单元的并行流水线结构的发展,以实现大规模并行计算系统的三维快速傅立叶变换。
2022-09-06 cs.DC physics.comp-ph
FPGA acceleration of Model Predictive Control for Iter Plasma current and shape control
针对Iter等离子体电流和形状控制的模型预测控制方案中所使用的二次规划(QP)求解器,采用高级综合方法,在Xilinx现场可编程门阵列(FPGA)平台上开发了一种快速实现方法。QP求解器基于双快速梯度法(dFGM)。dFGM本质上是迭代算法,其中主迭代循环内的矩阵-向量算术运算可以并行化。这种类型的并行性不太适合标准的多核处理器,因为考虑到线程调度的时间尺度,要在处理线程之间分布的操作的数量相对较小。FPGA实现避免了这个问题,但它需要特定的代码优化技术,以实现更快的求解器执行。
2018-06-15 cs.DC
ParaLarH: Parallel FPGA Router based upon Lagrange Heuristics
在现场可编程门阵列(FPGA)设计流程中,布线是最耗时的步骤之一。虽然通用的位置和路线(VPR),这是一个常用的算法,用于此目的,路由有效,它是缓慢的执行。加速此设计流程的一种方法是使用并行化。由于VPR本质上是顺序的,最近已经提出了一组并行算法(ParaLaR和ParaLarPD)。这些算法将路由过程表示为线性规划(LP),并使用拉格朗日松弛法、次梯度法和Steiner树算法来求解。在可用于检查路由的有效性的许多度量中,ParaLarPD是ParaLaR的改进版本,其在LP问题的约束(其与最小信道宽度度量相关)以及可以进一步改进的容易测量的关键路线延迟度量中遭受大的违反。在本文中,我们介绍了一套新的拉格朗日算法,改善拉格朗日松弛过程。在MCNC基准电路上测试时,平均而言,这导致违反约束的情况减半,最小通道宽度提高了10%,从ParaLarPD获得的关键路线延迟降低了8%。我们将我们的新算法称为ParaLarH。由于拉格朗日松弛过程中的工作量增加,与ParaLarPD相比,ParaLarH由于并行化而略微恶化了所获得的加速比,然而,这方面很容易通过使用更多数量的线程来补偿。
2020-10-22 cs.DC
A reduced-precision streaming SpMV architecture for Personalized PageRank on FPGA
稀疏矩阵向量乘法通常用于许多数据分析工作负载中,其中低延迟和高吞吐量比精确的数值收敛更有价值。FPGA提供快速的执行时间,同时通过降低精度的定点运算提供对结果精度的精确控制。在这项工作中,我们提出了一种新的流实现坐标格式(COO)稀疏矩阵向量乘法,并研究其有效性时,应用于个性化PageRank算法,在电子商务网站和社交网络的推荐系统的一个常见的构建块。我们的实现在8个不同数据集上实现了高达6倍的参考浮点FPGA架构和最先进的多线程CPU实现,同时保持了结果的数值保真度,并达到了比CPU实现高42倍的能效。
2020-09-22 cs.AR cs.DC
Sparse Winograd Convolutional neural networks on small-scale systolic arrays
University of California Los Angeles(加利福尼亚大学洛杉矶分校)
FPGA的可重构性、能效和大规模并行性使其成为实现高效深度学习加速器的最佳选择之一。然而,国家的最先进的实现很少考虑高吞吐量的计算能力和存储器子系统的能力,以支持it. In本文中,我们实现了一个加速器在FPGA上结合稀疏Winograd卷积,集群的小规模脉动阵列,和量身定制的存储器布局设计之间的平衡。我们还提供了一个分析模型分析的一般Winograd卷积算法作为设计参考。在VGG 16上的实验结果表明,该算法具有很高的计算资源利用率和20 ~ 30倍的能量效率,与密集实现相比,加速比超过5倍。
2018-10-03 cs.AI cs.DC cs.LG
FPGA based Parallelized Architecture of Efficient Graph based Image Segmentation Algorithm
Robotics Research Center, IIIT-Hyderabad(海得拉巴国际信息技术学院机器人研究中心)
彩色图像的实时的分割在计算机视觉的许多领域如图像压缩、医学成像、地图绘制和自主导航中具有重要意义。作为计算量最大的操作之一,它通常是通过使用高性能处理器的软件实现来完成的。然而,在机器人系统中,由于受限的平台尺寸以及对便携性、低功耗的需求,同时需要实时的图像分割,我们设想硬件并行性作为实现更高加速的前进方向。现场可编程门阵列(FPGA)是最适合此任务的,因为它们在小的物理区域内提供高计算能力。它们通过打破顺序执行的范例并通过在架构级别实现硬件级别并行化来完成更多的每个时钟周期操作,从而超过了基于软件的实现的计算速度。在本文中,我们提出了三个新的架构,一个著名的高效的基于图的图像分割算法。与软件实现相比,这些提出的实现优化了时间和功耗。所提出的混合设计具有显著的加速能力,与其他实现相比提供至少2倍的速度增益,这使得可以在移动机器人系统上部署的实时的图像分割成为可能。
2017-10-06 cs.CV cs.DC
Towards Programmable Memory Controller for Tensor Decomposition
University of Southern California(南加州大学);US Army Research Lab(美国陆军研究实验室)
张量分解已经成为许多数据科学应用中的重要工具。稀疏矩阵化张量乘Khatri-Rao积(MTTKRP)是张量分解算法的核心,它将高阶真实世界的大张量分解为多个矩阵。加速MTTKRP可以极大地加快张量分解过程。稀疏MTTKRP是一个具有挑战性的内核加速,由于其不规则的内存访问特性。由于FPGA的能量效率和固有的并行性,在现场可编程门阵列(FPGA)上实现用于诸如MTTKRP的内核的加速器是有吸引力的。本文探讨了机会,关键的挑战,并在FPGA上设计一个自定义的存储器控制器MTTKRP的方法,同时探索这样一个自定义的存储器控制器的参数空间。
2022-07-17 cs.AR cs.DC cs.LG
Analysis of Pipelined KATAN Ciphers under Handle-C for FPGAs
嵌入式系统无处不在,从我们手中的智能手机到环绕地球的卫星。这些嵌入式系统正越来越多地集成到我们的个人和商业基础设施中。超过98%的处理器被植入并用于嵌入式系统而不是传统计算机。因此,嵌入式系统的安全性现在比以往任何时候都成为一个主要的关注点。由于嵌入式系统被设计成低成本、快速和实时的,因此使用小型、轻量级和高度安全的密码算法是合适的。KATAN和KATANTAN族的轻量级分组密码是很有前途的密码选择。本文在Handel-C环境下开发了一种时序硬件设计。更进一步,Handel-C的并行结构的优势,开发一个并行流水线的混合实现。在Altera Quartus下测试了顺序和并行流水线实现,以结合DK Design Suite的Handel-C编译器实现和分析硬件设计。开发的设计映射到Altera的Stratix II,这是业界最高带宽和密度的FPGA之一。结果证实,使用Handel-C可以提供更快的实现。所得到的结果是有前途的,并显示出更好的性能相比,类似的实现,特别是开发的并行流水线处理器。
2019-05-13 cs.DC
An FPGA-based Torus Communication Network
我们描述了一个3D环面网络(TNW)的设计和FPGA实现,以提供商品多核处理器之间的最近邻通信。该项目的目标是建立紧密互连和可扩展的并行系统的科学计算。该设计包括在最新的FPGA设备上实现网络处理器的VHDL代码,该网络处理器可以由CPU通过PCIe接口访问,并控制物理链路的外部PHY。此外,还提供了Linux驱动程序和实现自定义通信API的库。TNW已成功地集成在两个最近的并行机项目,QPACE和AuroraScience。我们描述了一些细节的TNW的AuroraScience系统的移植和报告的性能结果。
2011-02-11 cs.DC hep-lat
SUSpMV: A High Frequency Sparse Matrix Vector Multiplier on HBM Enabled FPGA written in SUS
University Paderborn(帕德博恩大学);TU Darmstadt(达姆施塔特工业大学)
SUSpMV利用SUS语言特性设计深度流水线,在Alveo U280 FPGA上实现高性能SpMV加速,峰值吞吐量达144.9 GFLOPs,较先前工作提升79%。
2026-10-08 cs.AR cs.DC
Low Precision Constant Parameter CNN on FPGA
Intel PSG(英特尔产品安全组(注:PSG 通常指 Product Security Group,此处按常见译法)或英特尔(Intel)的产品安全部门,更准确的是 Intel PSG 作为机构名保留英文并直译,因 Intel 是公司,PSG 可能是 Product Security Group,但按要求提取到公司级别即可,所以直接译 Intel(英特尔)作为机构名,因 Intel 本身是公司,PSG 可能是其内部部门,但按要求提取到公司/研究院级别,所以机构名是 Intel,即英特尔公司。)
我们报告了针对稀疏和恒定参数优化的低精度CNN卷积层的FPGA实现结果。我们描述的技术,分摊成本的公因子乘法和自动利用密集的手调LUT结构。我们将此方法应用于稀疏Resnet 50模型上的Resnet的角情况残差块,以评估可实现的利用率和频率,并证明角情况块的有效性能为131和23 TOP/芯片。所有Resnet 50卷积层的多芯片持久实现的预计性能在批量大小为2时为10 k im/s/chip。在稀疏性标准化后,这比V100 GPU上限高1.37倍。
2019-01-11 cs.AI cs.DC
TAPA: A Scalable Task-Parallel Dataflow Programming Framework for Modern FPGAs with Co-Optimization of HLS and Physical Design
本文提出TAPA端到端框架,通过提供便捷API表达任务间通信、在HLS中引入粗粒度布图规划及HBM优化技术,将C++数据流程序编译为高频FPGA加速器,在43个设计中将平均频率提升102%且无吞吐量损失。
2022-09-06 cs.AR cs.DC cs.PF
Parallel FPGA Router using Sub-Gradient method and Steiner tree
在FPGA(Field Programmable门阵列)设计流程中,布线是最耗时的环节之一。因此,有必要加速它。例如,作者已经开发了一种基于线性规划的框架,其并行化该路由过程以实现显著的加速(该算法被称为ParaLaR)。然而,这种方法有某些弱点。也就是说,约束违反的解决方案和一个局部极小,可以改善。我们在这里讨论这两个问题。在我们的论文中,我们使用这个框架,并使用原始-对偶次梯度方法解决它,更好地利用问题的属性。我们还提出了一种更好的方法来更新这个迭代算法所采取的步骤的大小。我们进行了一组标准的基准测试,在那里我们表明,我们的算法优于现有的标准算法(VPR和ParaLaR)的实验。我们实现了高达22%的改善的约束违反和最小通道宽度的标准度量相比,ParaLaR(这是相同的VPR)。在另一个标准度量中,我们实现了约20%的总导线长度节省(与VPR相比),这与ParaLaR相同。因此,我们的算法实现了所有三个参数的最小值。此外,我们的算法的关键路线延迟是几乎相同的相比,VPR和ParaLaR。我们实现了相对加速3倍,当我们运行我们的算法使用4个线程的并行版本。
2018-08-19 cs.DC math.OC
FPDeep: Scalable Acceleration of CNN Training on Deeply-Pipelined FPGA Clusters
深度神经网络(DNN)已经彻底改变了许多应用,但对更高性能的需求仍然有增无减。将DNN计算扩展到更大的集群通常是通过使用分布式同步SGD等方法以批处理模式分发任务来完成的。这种方法的问题之一是,为了使分布式集群以高利用率工作,分配给每个节点的工作负载必须很大,这意味着SGD小批量大小的增长非常重要。在本文中,我们提出了一个名为FPDeep的框架,它使用模型和层并行的混合配置分布式可重构集群训练DNN。这种方法有许多好处。首先,该设计不受批量增长的影响。第二,新的工作负载和权重划分导致节点之间的负载平衡。第三,整个系统是一个细粒度的管道。这导致了高并行性和利用率,并且还最小化了在等待反向传播时需要缓存的时间。因此,存储需求降低到只有片上存储器用于卷积层的程度。我们使用Alexnet、VGG-16和VGG-19基准测试来评估FPDeep。实验结果表明,FPDeep对大量FPGA具有良好的可扩展性,限制因素是FPGA到FPGA的带宽。每个FPGA有6个收发器,FPDeep的线性度高达83个FPGA。能源效率是相对于GOP/J进行评估的。FPDeep的能源效率平均比同类GPU服务器高6.36倍。
2020-06-21 cs.AR cs.DC cs.LG
From Domain-Specific Languages to Memory-Optimized Accelerators for Fluid Dynamics
许多应用越来越需要数值模拟来解决复杂问题。这些数值算法大多数是大规模并行的,通常在并行高性能计算机上实现。然而,传统的基于CPU的平台由于对更高分辨率的需求和数据的指数增长而受到影响。FPGA提供了一种强大而灵活的替代方案,可以托管加速器来补充此类平台。开发这样的专用加速器仍然具有挑战性,因为很难为硬件综合提供有效的代码。在本文中,我们研究了移植到FPGA的数值模拟内核的挑战。我们提出了一个自动化的工具流,从特定领域的语言(DSL)生成加速器的计算流体动力学的FPGA上。我们基于DSL的流程简化了对参数和约束(如片内内存使用)的探索。我们还提出了一个解耦的优化存储器和逻辑资源,这使我们能够更好地利用有限的FPGA资源。在我们的初步评估中,这使得并行内核的数量增加了一倍,将加速器的加速比从ARM执行的7倍提高到12倍。
2021-08-06 cs.DC
DeCoILFNet: Depth Concatenation and Inter-Layer Fusion based ConvNet Accelerator
卷积神经网络(CNN)在各个领域迅速流行。由于它们的结构越来越深,计算量越来越大,很难将它们部署在能源受限的移动应用程序上。FPGA等硬件加速器已经成为一种有吸引力的替代方案。然而,由于FPGA的片上存储器和计算资源有限,满足高存储器吞吐量要求和利用CNN的并行性是一个重大挑战。我们提出了一种基于FPGA的高性能架构-基于深度级联和层间融合的ConvNet加速器- DeCoILFNet,它通过跨深度平坦化来利用CNN的层内并行性,并将其与跨层的高度流水线化数据流相结合,从而实现层间融合。这种架构大大减少了片外存储器访问,并最大限度地提高了吞吐量。与3.5GHz六核Intel Xeon E7 caffe-implementation相比,我们的120 MHz FPGA加速器速度快30倍。此外,与最先进的FPGA加速器相比,我们的设计将外部存储器访问减少了11.5倍,同时时钟周期数加快了2倍以上。
2018-12-01 cs.DC
AutoAccel: Automated Accelerator Generation and Optimization with Composable, Parallel and Pipeline Architecture
CPU-FPGA异构架构正吸引着越来越多的关注,试图提高当今计算机的计算能力和能源效率。这些架构为程序员提供了重新编程FPGA的能力,以灵活地加速许多工作负载。然而,这种优势往往被FPGA的可编程性差所掩盖,FPGA的编程通常是RTL设计实践。虽然高级综合(HLS)的最新进展显着提高了FPGA的可编程性,它仍然让程序员面临的挑战,确定最佳的设计配置在一个巨大的设计空间。本文旨在应对这一挑战,并为从软件程序到高质量FPGA加速器铺平道路。具体来说,我们首先提出了组合,并行和流水线(CPP)的微架构作为加速器设计的模板。这样一个定义良好的模板是能够支持高效的加速器设计的广泛类的计算内核,更重要的是,大大减少了设计空间。此外,我们引入了一个分析模型,以捕捉性能和资源之间的权衡不同的设计配置的CPP微架构,这奠定了基础,快速设计空间探索。在CPP微架构及其分析模型的基础上,我们开发了AutoAccel框架,使整个加速器生成自动化。AutoAccel接受软件程序作为输入,并根据基于分析模型的设计空间探索的结果执行一系列代码转换,以构建所需的CPP微体系结构。我们的实验表明,对于广泛的一类计算内核,Autocom生成的加速器的平均性能超过其相应的软件实现72倍。
2018-07-30 cs.AR cs.DC
Comprehensive Evaluation of OpenCL-based Convolutional Neural Network Accelerators in Xilinx and Altera FPGAs
Robotic and Technology of Computers Lab(机器人及计算机技术实验室);School of Electrical, Computer and Energy Engineering(电气、计算机与能源工程学院);University of Seville(塞维利亚大学);Arizona State University(亚利桑那州立大学)
深度学习极大地推进了人工智能的发展,在工业界和学术界都获得了广泛的欢迎。特别感兴趣的是卷积神经网络(CNN),它从视觉皮层的分层结构中获得灵感,形成卷积操作的深层,以及完全连接的分类器。这些深度CNN架构的硬件实现面临着内存瓶颈的挑战,这些内存瓶颈需要许多卷积和全连接层,这些层需要大量的通信来进行并行计算。基于多核CPU的解决方案由于内存墙和低并行性而证明了它们对这个问题的不足。众核GPU架构表现出卓越的性能,但它们消耗高功率,并且由于高速缓存和主内存之间的不一致性而具有内存限制。FPGA设计解决方案也在积极探索中,这些解决方案允许使用嵌入式BlockRAM实现存储层次结构。这促进了多个处理单元之间共享内存元素的并行使用,避免了数据的可复制性和不一致性。这使得FPGA成为CNN实时分类的潜在强大解决方案。Altera和Xilinx都采用GPU的OpenCL协同设计框架进行FPGA设计,作为伪自动开发解决方案。本文对Altera和Xilinx OpenCL框架的5层深度CNN进行了全面评估和比较。讨论了CNN的硬件资源、时间性能和OpenCL架构。Xilinx展示了更快的合成速度、更好的FPGA资源利用率和更紧凑的电路板。Altera提供多平台工具、成熟的设计社区和更好的执行时间。
2016-09-29 cs.CV cs.DC
Multi-FPGA Designs and Scaling of HPC Challenge Benchmarks via MPI and Circuit-Switched Inter-FPGA Networks
虽然FPGA加速器板及其各自的高级设计工具正在成熟,但仍然缺乏多FPGA应用程序、库,尤其是针对这些设备的持续HPC使用的基准和参考实现。与HPC中GPU的早期一样,对于可以合理地解耦为松散耦合工作集的工作负载,可以通过在主机端使用标准通信接口(如MPI)来实现多加速器支持。然而,对于性能和生产力,一些应用程序可以从加速器的更紧密耦合中获益。FPGA提供了独特的机会,在这里扩展的低功耗特性,以他们的通信接口。在这项工作中,我们通过多FPGA支持和三个缺失的基准测试来扩展HPCC FPGA基准测试套件,这些基准测试特别表征或强调设备间通信:b_eff,PTRANS和LINPACK。通过对当前采用英特尔和Xilinx FPGA的主板实施的所有基准测试,我们建立了多FPGA性能的基准。此外,对于以通信为中心的基准测试,我们探索了通过电路交换FPGA间网络进行直接FPGA到FPGA通信的潜力,该网络目前仅适用于其中一个电路板。在多达26个FPGA板上并行执行的评估使用了最大的学术FPGA安装之一。
2022-02-28 cs.AR cs.DC
Parallel Algorithms Development for Programmable Devices with Application from Cryptography
诸如现场可编程门阵列(FPGA)之类的可重构设备已经见证了密度的显著增加。最先进的FPGA是复杂的混合器件,包含多达数百万个门。最近,研究工作已经进入更高级别的并行化和硬件合成方法,可以利用这样的可编程技术。在本文中,我们探讨了一个这样的形式化方法的有效性在设计并行版本的蛇密码算法。建议的方法采用了一个功能编程符号指定算法和推理。通过使用功能分解策略、数据细化技术和基于高阶函数的现成细化的组合来实现规范。这些改进的灵感来自通信顺序进程(CSP)的操作符,并且很容易映射到Handel-C(一种硬件描述语言)中的程序。在本研究中,我们得到了几个并行蛇实现不同的性能特点。开发的设计进行了测试Celoxica的RC-1000可重构计算机与其200万门Virtex-E FPGA。这些实现的性能分析和评价。
2019-04-07 cs.CR cs.DC
Tactics to Directly Map CNN graphs on Embedded FPGAs
IETR, INSA Rennes(雷恩国立应用科学学院电子与电信研究所);Atos/Bull CEPP CINES(源讯/布尔公司 CEPP CINES)
深度卷积神经网络(CNN)是图像分类的最新技术。由于CNN前馈传播涉及高度规则的并行计算,因此当在细粒度并行可编程逻辑器件上运行时,其受益于显著的加速。因此,一些研究提出了基于FPGA的CNN加速器。然而,由于CNN所需的巨大计算能力,以前的研究都没有提出一个直接映射的CNN到FPGA的物理资源,分配每个处理演员到自己的硬件instance.In本文中,我们证明了所谓的直接硬件映射(DHM)的可行性,并讨论了几个策略,我们探索,使DHM在实践中可用。作为概念证明,我们引入了HADDOC 2开源工具,该工具自动将CNN描述转换为具有平台无关的直接硬件映射的可合成硬件描述。
2017-11-20 cs.AR cs.CV cs.DC
A GPU-Outperforming FPGA Accelerator Architecture for Binary Convolutional Neural Networks
Arizona State University(亚利桑那州立大学);Nanyang Technological University(南洋理工大学)
基于FPGA的卷积神经网络(CNN)硬件加速器由于其比GPU更高的能量效率而受到广泛关注。然而,基于FPGA的解决方案要实现比GPU更高的吞吐量是具有挑战性的。在本文中,我们证明了当CNN在权重和激活的二进制约束下进行训练时,FPGA加速在吞吐量和能效方面都是一种优越的解决方案。具体来说,我们提出了一种优化的FPGA加速器架构,专为逐位卷积和归一化而设计,具有大规模的空间并行性和深流水线阶段。FPGA加速器的一个关键优势是其性能对数据批量大小不敏感,而GPU加速的性能在很大程度上取决于数据的批量大小。实验结果表明,在Virtex-7 FPGA上运行的二进制CNN的加速器架构比Titan X GPU快8.3倍,能效高75倍,可以处理小批量的在线个人请求。对于处理大批量静态数据,该解决方案在吞吐量方面与Titan X GPU不相上下,同时提供9.5倍的能效。
2017-06-08 cs.AR cs.CV cs.DC
Design of A Low-Latency and Parallelizable SVD Dataflow Architecture on FPGA
East China Normal University(华东师范大学);Zhejiang Hospital(浙江省人民医院);Shanghai Publishing and Printing College(上海出版印刷高等专科学校)
本文提出一种面向FPGA的低延迟可并行化SVD数据流架构,通过减少内存消耗和提升计算效率,实现大规模数据流的实时SVD处理。
2025-11-25 cs.DC eess.SP
Efficient Batch Search Algorithm for B+ Tree Index Structures with Level-Wise Traversal on FPGAs
Otto-von-Guericke University Magdeburg(奥托·冯·古里克马格德堡大学);TU Bergakademie Freiberg(弗莱贝格工业大学)
本文提出一种基于B+树索引结构的高效批量搜索算法,通过FPGA上的层次遍历实现,减少全局内存访问,提高节点重用率,并支持可变批量大小和树深度。
2026-04-22 cs.AR cs.DB cs.DC
FPGA-based Distributed Union-Find Decoder for Surface Codes
提出基于 FPGA 的分布式 Union-Find 解码器及 Helios 混合树-网格架构,在表面码上实现随码距增大而下降的每轮解码时间,并以极低延迟支持 d 至 51。
2024-10-02 cs.DC quant-ph
A Self-Reconfigurable Computing Platform Hardware Architecture
现场可编程门阵列(FPGA)近来越来越多地用于计算密集型任务的高度并行处理。本文介绍了一种基于PC的FPGA硬件平台架构,允许通过PCI总线快速重新配置,并保留了简单的物理硬件设计。首先讨论了设计考虑因素,然后说明了由此产生的系统架构设计。最后,实验结果的FPGA资源用于本设计。
2004-11-20 cs.AR cs.DC
CEAZ: Accelerating Parallel I/O via Hardware-Algorithm Co-Designed Adaptive Lossy Compression
随着HPC系统继续增长到亿亿级,需要保存或传输的数据量正在爆炸式增长。为此,许多以前的作品研究使用错误有界有损压缩器,以减少数据的大小,提高I/O性能。然而,几乎没有工作已经做了有效地卸载有损压缩到基于FPGA的SmartFlash,以减少压缩开销。在本文中,我们提出了一种硬件算法协同设计的高效和自适应有损压缩器的科学数据的FPGA(称为CEAZ),这是第一个有损压缩器,可以同时实现高压缩比和吞吐量。具体来说,我们提出了一种有效的霍夫曼编码方法,可以自适应更新霍夫曼码字在线离线生成的码字的基础上,从各种代表性的科学数据集。此外,我们推导出一个理论分析,以支持一个精确的控制下的误差有界压缩模式的压缩比,使准确的离线霍夫曼码字生成。这还有助于我们创建固定比率压缩模式,以实现一致的吞吐量。此外,我们开发了一个有效的压缩管道,采用cuSZ的双量化算法,我们的硬件用例。最后,我们在五个真实世界的数据集上使用单个FPGA板和128个节点(以加速并行I/O)评估CEAZ。实验结果表明,CEAZ比第二好的基于FPGA的有损压缩器的吞吐量和比率分别提高了2.3倍和3.0倍。它还将MPI_File_write和MPI_Gather吞吐量分别提高了28.9倍和37.8倍。
2022-05-13 cs.DC cs.NI
FLOWER: A comprehensive dataflow compiler for high-level synthesis
FPGA已经作为加速卡进入数据中心,使可重构计算更容易用于高性能应用。与此同时,新的高级合成编译器(如Xilinx Vitis)和运行时库(如XRT)吸引了软件程序员进入可重构领域。虽然软件程序员熟悉任务级和数据并行编程,但FPGA通常需要不同类型的并行性。例如,数据驱动的并行性是强制性的,以获得令人满意的硬件设计的流水线并行架构。然而,软件程序员通常不熟悉Linux架构,导致硬件设计不佳。在这项工作中,我们提出了FLOWER,一个全面的编译器基础设施,提供自动规范转换的高层次合成从特定领域的库。这使得程序员可以专注于算法实现,而不是底层的优化。我们表明,FLOWER允许合成高性能的流媒体应用程序的目标系统芯片和FPGA加速卡,在图像处理和计算机视觉的背景下,有效的实现。
2021-12-14 cs.AR cs.DC cs.PL
Highly Versatile FPGA-Implemented Cyber Coherent Ising Machine
The University of Tokyo(东京大学);D-CLUE Technologies Co.,Ltd.(D-CLUE科技有限公司);Tokyo Institute of Technology(东京工业大学);Hiroshima City University(广岛市立大学);NTT Research Inc.(NTT研究所)
本研究提出了一种基于FPGA的协同相干Ising机器,具有更高的灵活性和计算速度,支持多种算法,并实现了大规模的连续交互应用。
2024-06-08 cond-mat.dis-nn cs.AR cs.DC
Accelerating CNN inference on FPGAs: A Survey
Institut Pascal(帕斯卡研究所);IETR, INSA Rennes(雷恩国立应用科学学院电子与电信研究所)
卷积神经网络(CNN)目前被用来解决越来越多的问题,从语音识别到图像分类和分割。CNN所需的大量处理需要专用和定制的硬件支持方法。此外,CNN工作负载具有流式传输性质,非常适合于可重新配置的硬件架构,例如FPGA。在过去的3年里,关于CNN FPGA加速主题的研究数量和多样性表明了巨大的工业和学术兴趣。本文介绍了一种基于FPGA的CNN推理加速器。计算工作量,其并行性和所涉及的内存访问进行了分析。在神经元层面,解释了卷积层和全连接层的优化,并比较了不同方法的性能。在网络层面,涵盖了近似计算和数据路径优化方法,并比较了最先进的方法。本调查中研究的方法和工具代表了FPGA CNN推理加速器的最新趋势,并将推动高效硬件深度学习的未来发展。
2018-05-26 cs.AR cs.CV cs.DC