TransDot: An Area-efficient Reconfigurable Floating-Point Unit for Trans-Precision Dot-Product Accumulation for FPGA AI Engines
University of Washington(华盛顿大学)
TransDot通过统一多精度SIMD FMA和跨精度DPA,在共享可重构数据路径中实现高效点积累积,提升FP16、FP8和FP4的吞吐量并优化面积效率。
2026-05-08 cs.AR
Accelerating 128-bit Floating-Point Matrix Multiplication on FPGAs
本研究针对SDP等应用对高精度运算的需求及现有处理器支持不足的问题,在FPGA上实现了binary128精度GEMM加速,性能达90GFlops,是20线程CPU的147倍,并首次成功加速了LU分解与SDP问题。
2023-06-07 cs.AR cs.DC cs.MS
High Level Synthesis Implementation of a Three-dimensional Systolic Array Architecture for Matrix Multiplications on Intel Stratix 10 FPGAs
在本文中,我们考虑HLS实现的三维脉动阵列架构的矩阵乘法,目标的英特尔Stratix 10 FPGA的特定特性,以产生的设计,实现高浮点吞吐量使用大多数的DSP在高频率的方式,避免拥塞的路由结构。所研究的三维脉动阵列架构能够产生硬件设计,使用99%的可用DSP的最大频率,让我们实现3 TFLOPS以上的性能。
2021-10-17 cs.AR
An efficient floating point multiplier design for high speed applications using Karatsuba algorithm and Urdhva-Tiryagbhyam algorithm
浮点乘法运算是高性能计算应用中的关键运算,如图像处理、信号处理等,也是最耗时、最耗电的运算。本文提出了一种有效的IEEE 754浮点乘法的方法,它给出了一个更好的延迟和功耗方面的实现。结合Karatsuba算法和Urdhva-Tiryagbhyam算法(吠陀数学)来实现尾数乘法的无符号二进制乘法器。该乘法器采用Verilog HDL语言在Spartan-3E和Virtex-4 FPGA上实现。
2019-11-03 cs.AR
Procrastination Is All You Need: Exponent Indexed Accumulators for Floating Point, Posits and Logarithmic Numbers
Ocean Logic Pty Ltd(海洋逻辑有限公司)
提出指数索引累加器,通过按指数分桶累加尾数并重构结果,实现高效长序列浮点求和,并扩展至 posits 与对数数。
2024-06-09 cs.AI cs.AR cs.CV
Towards a Multi-array Architecture for Accelerating Large-scale Matrix Multiplication on FPGAs
大规模浮点矩阵乘法是许多科学和工程应用中的基本核心。现有的工作大多集中在FPGA上采用线性脉动阵列加速矩阵乘法。本文提出了一种可扩展的,高度可配置的多阵列架构,对这种架构的扩展。此外,我们提出了一个工作窃取计划,以确保平等的工作负载分区之间的多个线性阵列。此外,一个分析模型,以确定最佳的设计参数。在真实卷积神经网络(CNN)上的实验表明,我们可以获得线性阵列结构的最佳扩展。
2018-03-10 cs.AR
Design and implementation of an out-of-order execution engine of floating-point arithmetic operations
在这篇论文中,我们的工作是针对Lagarto II核设计一个浮点算术运算的乱序执行引擎,并在FPGA中实现。第一个建议涵盖了一个低功耗的问题队列的设计乱序处理器,寄存器组,旁路网络,和功能单元的加/减,乘法,除法/倒数,并与IEEE-754标准确认的融合乘法累加(FMAC)。该设计支持双精度格式和非规范化数字;第二种方案是基于一对FMAC作为功能单元,可以执行几乎所有的浮点运算,这种设计在面积,性能和能源效率方面都比第一个版本更有利。
2021-10-29 cs.AR
Efficient Floating-Point Givens Rotation Unit
高吞吐量QR分解是许多高级信号处理和通信应用中的关键操作。对于其中的一些应用程序,使用浮点计算几乎是强制性的。然而,在嵌入式系统中的浮点QR分解的硬件实现的工作很少。在本文中,我们提出了一个非常有效的高吞吐量浮点Givens旋转单元的QR分解。此外,最初提出的设计,传统的数字格式是通过使用新的半单位偏置格式增强。所提供的误差分析表明,我们的建议和权衡不同的实施参数的有效性。FPGA实现的结果也提出了这两种方法之间的彻底比较。这些实施结果也揭示了突出的改进相比,其他以前的类似设计在面积,延迟和吞吐量方面。
2020-10-23 cs.AR
Binary Neural Network Implementation for Handwritten Digit Recognition on FPGA
Yeditepe University(耶迪特佩大学)
本文提出了一种基于FPGA的二进制神经网络加速器,实现手写数字识别,采用Verilog设计,达到80MHz实时分类,84%准确率,展示了高效部署BNN在嵌入式系统中的潜力。
2025-12-22 cs.AR
Shedding the Bits: Pushing the Boundaries of Quantization with Minifloats on FPGAs
School of Computing, National University of Singapore(新加坡国立大学计算机学院);AMD Research and Advanced Development(AMD研究与高级开发部);Tampere University(坦佩雷大学);AMD(AMD公司)
本文提出minifloats低精度浮点格式,并在FPGA上系统比较其与整数表示在3至8位下的精度与硬件成本,证明其对视觉Transformer等负载具有优势。
2024-07-05 cs.AI cs.AR cs.CV
A reduced-precision streaming SpMV architecture for Personalized PageRank on FPGA
稀疏矩阵向量乘法通常用于许多数据分析工作负载中,其中低延迟和高吞吐量比精确的数值收敛更有价值。FPGA提供快速的执行时间,同时通过降低精度的定点运算提供对结果精度的精确控制。在这项工作中,我们提出了一种新的流实现坐标格式(COO)稀疏矩阵向量乘法,并研究其有效性时,应用于个性化PageRank算法,在电子商务网站和社交网络的推荐系统的一个常见的构建块。我们的实现在8个不同数据集上实现了高达6倍的参考浮点FPGA架构和最先进的多线程CPU实现,同时保持了结果的数值保真度,并达到了比CPU实现高42倍的能效。
2020-09-22 cs.AR cs.DC
E2AFS: Energy-Efficient Approximate Floating Point Square Rooter for Error Tolerant Computing
School of Electrical Sciences, Indian Institute of Technology Goa(印度果阿理工学院电气科学学院)
本文提出E2AFS架构,通过减少逻辑深度和开关活动,实现低功耗高效浮点平方根运算,在FPGA上实现最低动态功耗、最短关键路径延迟和最小功耗-delay积,适用于低功耗实时边缘和嵌入式平台。
2026-04-18 cs.AR
A Mixed Precision, Multi-GPU Design for Large-scale Top-K Sparse Eigenproblems
基于谱方法的图分析技术处理具有数百万甚至数十亿个非零值的极大稀疏矩阵。在这些算法的背后是Top-K稀疏特征问题,即最大特征值及其相关特征向量的计算。在这项工作中,我们利用GPU将Top-K稀疏特征问题扩展到比以前更大的矩阵,同时还提供了最先进的执行时间。我们可以在多个GPU上透明地划分计算,处理核外矩阵,并使用混合精度浮点运算来调整精度和执行时间。总的来说,我们比在104线程CPU上运行的高度优化的ARPACK库快67倍,比最近的FPGA硬件设计快1.9倍。我们还确定了混合精度浮点运算如何将执行时间比双精度浮点运算缩短50%,并且比单精度浮点运算精确12倍。
2022-01-19 cs.AR
A single-precision floating-point systolic Givens-QRD Triangular Solver for MVDR Beamforming
NIELIT Calicut(NIELIT 卡利卡特)
本文提出单精度浮点脉动Givens-QRD三角求解器的FPGA实现,用于MVDR波束成形,其功率归一化吞吐量优于24核Intel Xeon Gold处理器,且数值精度符合要求。
2026-09-04 cs.AR eess.SP
Run-time reconfigurable multi-precision floating point multiplier design for high speed, low-power applications
浮点乘法运算在图像处理、信号处理等许多应用领域都是一种重要的运算,但不同的应用对浮点乘法运算有不同的要求。有些要求高精度,有些要求低功耗,低延迟等,但IEEE-754格式是不是真正灵活的这些规格,而且设计是复杂的。最佳的运行时间可重配置硬件实现可能需要使用自定义浮点格式,这些格式不一定遵循IEEE指定的大小。本文提出了一种基于FPGA实现的运行时间可重构浮点乘法器,它具有自定义浮点格式,可满足不同的应用需求。根据精度或应用要求,该浮点乘法器可以有6种操作模式。通过使用具有自定义IP(知识产权)的优化设计,通过在乘法之前截断输入来完成更好的实现。并结合Karatsuba算法和Urdhva-Tiryagbhyam算法(吠陀数学)实现了无符号二进制乘法器。这进一步提高了乘法器的效率。
2020-12-06 cs.AR eess.SP
Minimum RISC-V: Maximum FPGA Efficiency
Altera Corporation(Altera公司)
本研究设计轻量深度流水线RISC-V核心,提出同步编译应用二进制与专用处理器实例的优化方法,实现高频率、小体积的RISC-V,支持可预测多核密度规划。
2026-10-16 cs.AR
XtraMAC: An Efficient MAC Architecture for Mixed-Precision LLM Inference on FPGA
National University of Singapore(新加坡国立大学);Huazhong University of Science and Technology(华中科技大学)
本文提出XtraMAC架构,通过统一整数、浮点和混合精度运算,实现动态运算打包和高效资源共享,提升FPGA在混合精度LLM推断中的计算密度和能效。
2026-05-07 cs.AR
Design and Implementation of a Takum Arithmetic Hardware Codec
University of Cologne(科隆大学)
本文提出了一种基于塔库姆数格式的硬件编码器,通过改进的指数编码方案实现了更高的精度和动态范围,实验显示其在FPGA上的性能优于现有正数编码器。
2025-11-25 cs.AR
An FPGA framework for Interferometric Vision-Based Navigation (iVisNav)
Texas A&M University(得克萨斯农工大学)
干涉式视觉导航(iVisNav)是一种用于自主接近操作的新型光电传感器。iVisNav采用激光发射结构信标,并通过测量发射激光脉冲的相位变化来精确表征六个自由度的相对运动速率。iVisNav的嵌入式软件包必须有效地处理高频动态,以实现稳健的传感和估计。本文提出了一种基于最小二乘法的嵌入式码率估计系统。所得到的系统能够与光子接口,并在现场可编程门阵列中实现估计算法。嵌入式软件包被证明是一个硬件/软件协同设计处理估计过程中使用有限精度算法的高速计算。有限精度的FPGA硬件设计的准确性进行了比较,在MATLAB上的算法的浮点软件评估基准其性能和统计一致性的误差措施。实现结果表明,使用iVisNav的高速接近导航的FPGA计算能力的效用。
2022-10-19 cs.AR cs.RO eess.SP
BRAMAC: Compute-in-BRAM Architectures for Multiply-Accumulate on FPGAs
本文提出BRAMAC架构,通过在BRAM虚拟阵列中采用混合位串行与位并行数据流实现乘加计算,在不影响主阵列读写的同时显著提升了FPGA上DNN推理的MAC吞吐量并实现加速。
2023-04-08 cs.AR
CLARINET: A RISC-V Based Framework for Posit Arithmetic Empiricism
许多工程和科学应用需要高精度的算法。IEEE~754-2008兼容(浮点)算法是执行这些计算的事实标准。最近,浮点运算被提出来作为浮点运算的替代。与浮点格式和算法相比,\texttrademark \texttrademark数据表示和算法具有几个绝对优势,包括更高的动态范围、更好的精度和卓越的性能-面积权衡。然而,并不存在任何可访问的,整体的框架,有利于验证这些索赔的算术,特别是当索赔涉及长期积累(quire)。在本文中,我们提出了一个统一的通用处理器为基础的框架,以支持并行算术并行。该框架的最终用户可以自由地使用浮点运算和浮点运算来无缝地试验他们的应用程序,因为该框架是为两种数字系统共存而设计的。Melodica是一个可执行参数融合操作的嵌入式算术核心,这些操作唯一地涉及quire数据类型。Clarinet是一款基于RISC-V ISA的Melodica处理器。据我们所知,这是quire与RISC-V内核的首次集成。为了展示Clarinet平台的有效性,我们进行了广泛的应用研究,并对一些常见的线性代数和计算机视觉内核进行了基准测试。我们在Xilinx FPGA上模拟单簧管,并提供利用率和时序数据。单簧管和旋律仍在积极开发中,并可在开源的算术计算。
2021-10-27 cs.AR
FPGA Implementation of Convolutional Neural Network for Real-Time Handwriting Recognition
本文提出了一种基于Altera DE1 FPGA的实时手写识别设备,设计了32位浮点RISC处理器并实现了LC、全连接NN和类LeNet CNN三种机器学习架构,优化了性能、兼容性与资源使用。
2023-06-26 cs.AR cs.CV cs.LG
Modulo-$(2^{2n}+1)$ Arithmetic via Two Parallel n-bit Residue Channels
针对平衡残差数系统新增模2^{2n}+1后位宽失衡问题,将其分解为两个n位复数模,设计统一的加法器与乘法器,在扩大动态范围的同时保障速度平衡,在速度、成本和能耗上更具优势。
2024-12-11 cs.AR
From Circuits to SoC Processors: Arithmetic Approximation Techniques & Embedded Computing Methodologies for DSP Acceleration
本文提出基于近似计算、硬件加速和异构计算的算术近似技术与映射方法论,在ASIC、FPGA和VPU上实现高能效DSP与AI加速。
2023-12-22 cs.AR
Design of High-Throughput Mixed-Precision CNN Accelerators on FPGA
RWTH Aachen University(亚琛工业大学)
卷积神经网络(CNN)在各个应用领域都达到了高精度,但需要大量的计算并导致昂贵的数据移动。在交易准确性的同时降低这些成本的一种方法是减少权重和/或激活字长。因此,逐层混合精度量化允许更有效的结果,同时膨胀设计空间。在这项工作中,我们提出了一个深入的定量方法,有效地探索设计空间,考虑到有限的硬件资源,一个给定的FPGA。我们的整体探索方法垂直遍历从架构到逻辑级别的各种设计入口级别,并横向涵盖从处理元件到低功耗的优化,以实现高效的混合精度CNN加速器。我们得到的硬件加速器实现了真正的混合精度运算,能够有效执行逐层和逐通道量化CNN。映射前馈和身份快捷连接混合精度CNN导致竞争性的准确性-吞吐量权衡:ResNet-18的245帧/秒和87.48%的Top-5准确性,ResNet-152的92.9%的Top-5准确性和1.13 TOps/s。因此,与相应的浮点基线相比,参数所需的内存占用减少了4.9倍和9.4倍。
2022-08-09 cs.AI cs.AR cs.LG
Design optimization for high-performance computing using FPGA
Drexel University(德雷塞尔大学);Omer Halisdemir University(奥默·哈利斯德米尔大学)
本文通过硬件改进、Xilinx Ultra RAM 和编译器策略优化 Tensil AI 开源 FPGA 加速器,在 CIFAR ResNet20 上实现高能效推理。
2023-04-24 cs.AR cs.LG
Customizing Number Representation and Precision
Univ. Rennes(雷恩大学);Inria(法国国家信息与自动化研究所);IRISA(雷恩信息与随机系统研究所);INSA(国立应用科学学院);IETR(电子与电信研究所)
人们对降低精度算法的使用越来越感兴趣,最近对人工智能的兴趣加剧了这种兴趣,特别是深度学习。大多数架构已经提供了降低精度的能力(例如,8-位整数、16位浮点)。在FPGA中,任何数字格式和位宽都可以考虑。在计算机运算中,实数的表示是一个主要问题。定点(FxP)和浮点(FlP)是表示实数的主要选择,它们都有各自的优点和缺点。本章介绍了FxP和FlP两种数字表示,并对它们的成本、性能和能量以及它们对计算精度的影响进行了公平的比较。结果表明,FxP和FlP之间的选择并不明显,而且在很大程度上取决于所考虑的应用。在某些情况下,低精度浮点运算可能是最有效的,并且在能量受限的应用程序中提供了一些优于经典定点选择的优点。
2022-12-08 cs.AR cs.LG eess.SP
A transprecision floating-point cluster for efficient near-sensor data analytics
针对近传感器计算对浮点运算的需求,提出基于RISC-V的跨精度浮点多核集群,结合并行化、子字向量化与近阈值运行,经FPGA探索与基准测试验证,能效优于现有前沿方案。
2020-08-27 cs.AR cs.DC
Physics-Direct FPGA Tooth-Contact Computation for Deterministic Gear Digital Twins
该研究提出基于物理驱动的FPGA齿面接触计算方法,通过开源openXC7流程实现,无需训练即可在嵌入式场景下准确估计齿面接触,性能优于学习型代理模型,延迟稳定且确定性强。
2026-09-07 cs.AR cs.SE
Banked Memories for Soft SIMT Processors
本文设计并评估软SIMT处理器的存储体化存储器,比较9种架构并运行51个基准测试,发现多端口存储器在小规模下性能更优,但存储体化存储器在高带宽、高频率和高密度方面更具优势,适用于FPGA应用。
2025-03-31 cs.AR
Hardware Implementation of Soft Mapper/Demappers in Iterative EP-based Receivers
本文研究并首次在FPGA上实现面向QPSK、8-PSK和16-QAM的EP迭代接收机,通过解析近似降低软映射器/解映射器复杂度,验证其定点性能与资源效率。
2024-06-12 cs.AR eess.SP
TeLLMe v2: An Efficient End-to-End Ternary LLM Prefill and Decode Accelerator with Table-Lookup Matmul on Edge FPGAs
University of California, Irvine(加州大学 Irvine 分校)
本文提出 TeLLMe,一种面向低功耗边缘 FPGA 的端到端三值 LLM 加速器,通过 TLMM、URAM 权重管理、融合数据流与专用 prefill/decode 注意力提升能效和速度。
2025-10-21 cs.AR cs.LG
Evaluation of POSIT Arithmetic with Accelerators
该研究在 FPGA 与 GPU 上实现 Posit(32,2) 加速器,评估其对稠密矩阵 Cholesky 和 LU 分解的加速、精度及能效,发现其精度优于标准 32 位格式且最新 GPU 能效更高。
2024-01-25 cs.AR cs.DC cs.MS
Reconfigurable computing for Monte Carlo simulations: results and prospects of the Janus project
我们描述Janus,一个大规模并行的基于FPGA的计算机优化自旋玻璃,玻璃状材料的行为的理论模型的模拟。FPGA(与GPU或众核处理器相比)为大规模并行计算提供了一种补充方法。特别是,我们的模型问题是制定在二进制变量,浮点运算可以(几乎)完全避免。FPGA架构允许我们运行许多独立的线程,几乎没有内存访问延迟,因此每个周期更新多达1024个自旋。我们详细描述了Janus,我们总结了这台机器在四年的操作中获得的物理结果;我们讨论了两种类型的物理应用:非常大的系统上的长模拟(试图模仿并提供对实验非平衡动力学的理解),以及使用人工并行回火动力学的低温平衡模拟。我们的非平衡模拟的时间尺度跨越了11个数量级(从皮秒到十分之一秒)。另一方面,我们的平衡模拟是前所未有的,因为达到的温度很低,而且我们已经使大系统达到平衡。一个有限的时间尺度ananterior出现从两组模拟的详细比较。Janus使自旋玻璃模拟成为可能,而这在更传统的架构上需要几十年的时间。本文最后评估了Janus架构未来可能版本的潜力,基于最先进的技术。
2012-04-18 cond-mat.dis-nn cs.AR
ExPAN(N)D: Exploring Posits for Efficient Artificial Neural Network Design in FPGA-based Systems
TU Dresden(德累斯顿工业大学);RWTH Aachen(亚琛工业大学)
本文提出ExPAN(N)D框架,结合Posit数制与定点算术,通过新颖的转换器和参数表示,在FPGA上实现高效ANN,显著降低存储和能耗。
2020-10-27 cs.AI cs.AR cs.ET
SPADE: A SIMD Posit-enabled compute engine for Accelerating DNN Efficiency
Centre for Advanced Electronics, IIT Indore(印度理工学院印地那分校高级电子中心);NSDCS Research Group, IIT Indore(印度理工学院印地那分校NSDCS研究组)
SPADE是一种基于SIMD Posit的计算引擎,通过统一的多精度架构提升DNN的计算效率和能效。
2026-01-24 cs.AR cs.CV eess.IV
CHARM: Composing Heterogeneous Accelerators for Matrix Multiply on Versal ACAP Architecture
密集矩阵乘法(MM)是深度学习应用中使用最多的内核之一。为了应对这些应用的高计算需求,具有FPGA和专用ASIC加速器的异构架构已成为有前途的平台。例如,AMD/Xilinx Versal ACAP架构将通用CPU内核和可编程逻辑与针对AI/ML优化的AI Engine处理器相结合。凭借400个AIE,它为32位浮点数据提供了高达6.4 TFLOP的性能。然而,机器学习模型通常包含大型和小型MM操作。虽然大型MM操作可以跨多个核高效并行化,但小型MM操作通常不能。我们观察到,在Versal ACAP中的大型单片MM加速器上执行来自BERT自然语言处理模型的一些小MM层,实现了不到理论峰值性能的5%。因此,一个关键的问题出现了:我们如何设计加速器,以充分利用有限的通信带宽下的丰富的计算资源的应用程序与不同大小的多个MM层?我们确定了最大的系统吞吐量的瓶颈造成的不匹配的大规模计算资源的一个单片加速器和各种MM层的小尺寸的应用程序。为了解决这个问题,我们提出了CHARM框架组成多个不同的MM加速器架构,同时对不同的层在一个应用程序。我们在AMD Versal ACAP VCK 190评估板上为四种不同的应用程序部署了CHARM框架,包括BERT、ViT、NCF和MLP。实验结果表明,我们在BERT、ViT、NCF和MLP上分别获得了1.46 TFLOPs、1.61 TFLOPs、1.74…
2023-01-06 cs.AR
TATAA: Programmable Mixed-Precision Transformer Acceleration with a Transformable Arithmetic Architecture
TATAA通过可变换算术架构在统一框架中加速Transformer的线性和非线性运算,采用int8和bfloat16混合精度,实现高吞吐和能效,准确率损失极小。
2024-11-06 cs.AR
The Accuracy and Efficiency of Posit Arithmetic
出于越来越多的兴趣,在数字格式,在本文中,我们评估的准确性和效率,与传统的IEEE 754 32位浮点(FP 32)算法相比,数字运算。我们首先设计并实现了一个Posit算术单元(PAU),称为POSAR,具有灵活的位大小的算法,适用于可以以节省芯片面积来换取精度的应用程序。接下来,我们使用一系列基准测试来分析POSAR的准确性和效率,包括数学计算、ML内核、NAS并行基准测试(NPB)和Cifar-10 CNN。该分析是在我们的POSAR集成到RISC-V Rocket Chip内核中的实现上完成的,并与Rocket Chip基于IEEE 754的浮点单元(FPU)进行了比较。我们的分析表明,POSAR可以优于FPU,但结果并不壮观。对于NPB来说,32位FPGA实现了比FP 32更好的精度,并将执行效率提高了2%。然而,与FPU相比,具有32位FPGA的POSAR需要多30%的FPGA资源。对于经典的ML算法,我们发现8位的假设不适合取代FP 32,因为它们表现出低精度,导致错误的结果。相反,16位SDRAM在精度和效率方面提供了最佳选择。例如,在Cifar-10 CNN上,16位FPGA实现了与FP 32相同的Top-1精度,加速比为18%。
2021-09-16 cs.AR cs.PF
VLSI Computational Architectures for the Arithmetic Cosine Transform
The University of Akron(阿克伦大学);Universidade Federal de Pernambuco(伯南布哥联邦大学);Elliptic Technologies Inc.(椭圆科技有限公司);University of Calgary(卡尔加里大学)
本文提出了一种用于计算零均值ACT的硬件架构,并扩展了ACT以适用于非零均值信号。所有电路均在Xilinx XC6VLX240T FPGA上实现并测试,用于45nm TSMC标准单元库的性能评估。
2017-10-30 cs.AR cs.DS cs.MM