Stream-HLS: Towards Automatic Dataflow Acceleration
针对现有HLS自动化框架存在的未探索循环调度、仅支持单内核、缺乏全局设计空间探索等问题,研究提出基于MLIR的Stream-HLS框架,可自动生成FPGA优化数据流架构,性能显著优于现有方案且已开源。
2025-01-15 cs.AR
Design and Analysis of Approximate Hardware Accelerators for VVC Intra Angular Prediction
针对VVC帧内预测计算复杂度高的问题,提出基于系数平均的近似方法减小MCM模块尺寸,设计了六种硬件架构,在编码效率损失可控的前提下显著降低了电路面积和功耗。
2025-09-12 cs.AR
Interpolation of Non-Linear Functions for LLMs using Partial Reconfiguration in FPGAs
Costa Rica Institute of Technology(哥斯达黎加理工学院)
该研究针对FPGA上LLM非线性函数实现成本高的问题,提出基于部分重配置的PWL插值框架,通过动态加载模块实现面积节省,验证了分段策略的权衡效果。
2026-08-05 cs.AR eess.SP
TensorLib: A Spatial Accelerator Generation Framework for Tensor Algebra
张量代数在各个领域都有应用,这些应用,特别是在空间硬件加速器上加速时,可以提供高性能和低功耗。空间硬件加速器具有复杂的设计空间。基于手动实现的先前方法导致编程生产率低,使得彻底的设计空间探索不可能。在本文中,我们提出了TensorLib,一个为张量代数应用生成空间硬件加速器的框架。TensorLib的动机是观察到,不同的固件共享共同的硬件模块,这些模块可以在不同的设计中重用。为了构建这样一个框架,TensorLib首先使用时空变换来探索不同的时间流,这些时间流可以使用一个简单的变换矩阵来压缩表示硬件时间流。接下来,我们确定不同的硬件模块的通用结构,并使用Chisel构建参数化的硬件模块模板。我们的生成框架可以选择所需的硬件模块为每个FPGA,使用指定的互连模式连接的模块,并自动生成完整的硬件加速器设计。TensorLib显著提高了空间硬件架构开发和优化的生产力,提供了丰富的设计空间,并在性能、面积和功耗方面进行了权衡。实验结果表明,TensorLib可以自动生成不同时序的硬件设计,在FPGA上实现了21%的性能提升。
2021-04-26 cs.AR
Automatic Hardware Pragma Insertion in High-Level Synthesis: A Non-Linear Programming Approach
本文提出一种基于非线性规划的框架,自动为规则循环程序插入HLS编译指示(流水线、单元复制、数据缓存),通过解析性能资源模型和下界证明,可在秒级到分钟级内高效探索数十亿规模的设计空间。
2025-02-07 cs.AR
Building a Reusable and Extensible Automatic Compiler Infrastructure for Reconfigurable Devices
本文提出面向可重构设备的端到端编译框架,利用开源跨平台技术实现 SYCL 到 MLIR、再到 RTL 的 lowering,并通过厂商 crossbar 与主机 CPU 耦合,初步验证了可行性。
2023-12-14 cs.AR
Running Conventional Automatic Speech Recognition on Memristor Hardware: A Simulated Approach
RWTH Aachen University(亚琛工业大学);AppTek GmbH(AppTek公司)
提出基于Synaptogen的PyTorch库模拟忆阻器硬件特性,首次验证百万参数Conformer在TED-LIUMv2上的表现,通过量化感知训练将3位精度下的词错误率相对退化限制在25%。
2025-05-30 cs.AR cs.ET cs.LG
Designing Hardware/Software Systems for Embedded High-Performance Computing
在这项工作中,我们提出了一个架构和方法来设计硬件/软件系统的高性能嵌入式计算的FPGA。硬件方面基于众核架构,其设计是在给定一组架构参数的情况下自动生成的。在ZYNQ-7020 FPGA平台上运行密集矩阵乘法和稀疏矩阵向量乘法,对体系结构和方法进行了评估。结果表明,使用系统级设计的系统,避免了复杂的硬件设计,仍然提供了良好的性能结果。
2015-08-27 cs.AR
HEAT: Hardware-Efficient Automatic Tensor Decomposition for Transformer Compression
NVIDIA(英伟达);Caltech(加州理工学院)
Transformers在自然语言处理和计算机视觉方面取得了卓越的性能。它们的自我注意和前馈层是过度参数化的,限制了推理速度和能量效率。张量分解是一种很有前途的技术,通过利用张量代数性质来表示因子分解形式的参数,以减少参数冗余。先前的努力使用手动或启发式因子分解设置,而没有硬件感知的定制,导致硬件效率低下和性能大幅下降。在这项工作中,我们提出了一个硬件感知的张量分解框架,称为HEAT,它可以有效地探索可能的分解的指数空间,并通过硬件感知的协同优化自动选择张量化形状和分解秩。我们共同研究张量收缩路径优化和融合Einsum映射策略,以弥合理论优势和实际硬件效率提高之间的差距。我们的两阶段知识蒸馏流程解决了可训练性瓶颈,从而显著提高了因子化Transformers的最终准确性。总的来说,我们的实验表明,我们的硬件感知因子分解BERT变体将能量延迟产品减少了5.7倍,准确性损失小于1.1%,并实现了比手动调整和启发式基线更好的效率-准确性帕累托前沿。
2022-11-30 cs.AI cs.AR cs.LG
Auto-Generation of Pipelined Hardware Designs for Polar Encoder
本文提出了一种通用的自动生成流水线极化编码器架构的框架。拟议的框架可以用一个一般公式来很好地体现。给定任意代码长度$N$和并行度$M$,该公式可以指定相应的硬件架构。我们已经编写了一个编译器,它可以读取公式,然后自动生成其寄存器传输级(RTL)的描述适合FPGA或ASIC实现。有了这个硬件生成系统,人们可以探索设计空间,并在成本和性能之间进行权衡。我们的实验结果已经证明了这种自动生成器的效率极坐标编码器架构。
2018-01-01 cs.AR
Automatic Creation of High-Bandwidth Memory Architectures from Domain-Specific Languages: The Case of Computational Fluid Dynamics
数值模拟可以帮助解决复杂的问题。这些算法中的大多数都是大规模并行的,因此由于空间并行性,它们是FPGA加速的良好候选者。现代FPGA器件可以利用高带宽内存技术,但当应用程序是内存受限时,设计人员必须精心设计先进的通信和内存架构,以实现高效的数据移动和片上存储。这个开发过程需要硬件设计技能,这在特定领域的专家中是不常见的。在本文中,我们提出了一个自动化的工具流,从特定领域的语言(DSL)的张量表达式,以生成HBM配备FPGA的并行加速器。设计人员可以使用此流程来集成和评估各种编译器或硬件优化。我们使用计算流体动力学(CFD)作为一个典型的例子。我们的流程从张量操作的高级规范开始,并将基于MLIR的编译器与内部硬件生成流程相结合,以生成具有并行加速器和专用存储器架构的系统,该架构可以有效地移动数据,旨在充分利用可用的CPU-FPGA带宽。我们模拟了具有数百万个元素的应用程序,在针对Xilinx Alveo U280的情况下,使用一个计算单元和自定义精度实现了高达103 GFLOPS。我们的FPGA实现比专家精心设计的英特尔CPU实现节能高达25倍。
2022-11-08 cs.AR
Generation of Compiler Backends from Formal Models of Hardware
本文提出从硬件形式模型自动生成编译器后端的方法,利用自动推理算法提升优化能力与正确性保证,缩短开发时间,并通过Glenside和Lakeroad两个案例验证了该方法的有效性。
2024-08-27 cs.AR cs.PL
CRYPTONITE: Scalable Accelerator Design for Cryptographic Primitives and Algorithms
针对密码原语直线C代码直接综合导致的硬件资源占用高、性能差的问题,提出Cryptonite工具,通过验证重写识别硬件结构、探索延迟优化实现,可从C代码自动生成高效可扩展的密码硬件加速器,资源占用最高降88.88%、延迟提升54.31%。
2025-05-20 cs.AR
Object-oriented approach to Rapid Custom Instruction design
由于片上系统(SoC)的不断发展,其设计和开发的复杂性呈指数级增长。为了应对日益增长的复杂性,这样的嵌入式系统,我们介绍,在本文中,一个面向对象的方法来快速SoC设计使用自动生成的硬件自定义指令,以简化和加速SoC设计过程。在我们的方法中,采用一个数据流图(DFG)作为算术运算的表示,将其转换为自定义指令。然后将自动生成VHDL代码。输入的C代码会自动更新,以便调用新的硬件组件。为了证明所提出的方法的有效性,一个Java源代码框架命名为自动自定义架构生成器(ACAgen)的开发。3D示例应用的实验结果验证了我们的方法,并展示了如何提出的框架,促进和加速SoC设计过程中,以低成本。
2013-03-21 cs.AR
AP-DRL: A Synergistic Algorithm-Hardware Framework for Automatic Task Partitioning of Deep Reinforcement Learning on Versal ACAP
The Hong Kong University of Science and Technology(香港科技大学);Indian Institute of Technology Goa(印度理工学院果阿分校)
AP-DRL通过智能硬件优化,利用Versal ACAP异构架构加速深度强化学习训练,解决算法与硬件协同优化问题,实现高达4.17倍的加速效果。
2026-03-31 cs.AR cs.LG
Tawa: Automatic Warp Specialization for Modern GPUs with Asynchronous References
Cornell University(康奈尔大学);NVIDIA(英伟达)
Tawa通过自动编译器实现GPU扭曲专精,利用异步引用抽象,提升LLM内核性能1.1-1.2倍,减少编程努力。
2025-12-10 cs.AR cs.LG cs.PL
HENNC: Hardware Engine for Artificial Neural Network-based Chaotic Oscillators
本文提出一种自动生成基于ANN的混沌振荡器硬件核心的框架,通过训练模型逼近混沌系统并探索设计空间生成可综合HLS代码,在FPGA上实现了优于手动设计的硬件成本与吞吐量。
2024-07-27 cs.AR cs.NE
Software Variants for Hardware Trojan Detection and Resilience in COTS Processors
基于组件的商业现货(COTS)生态系统提供了一个有吸引力的系统设计范例,因为与定制解决方案相比,它大大减少了开发时间和成本。然而,它带来了越来越多的关注的可信性所产生的可能性嵌入恶意逻辑,或硬件木马的COTS组件。现有的信任验证方法通常不适用于COTS硬件,由于缺乏黄金模型和缺乏内部信号的可观测性。在这项工作中,我们提出了一种新的方法,运行时木马检测和弹性不可信的COTS处理器通过明智的修改软件。所提出的方法不依赖于任何硬件冗余或架构修改,因此无缝集成的COTS为基础的系统设计过程。特洛伊木马的弹性是通过执行多个功能等效的软件变体来实现的。我们已经开发并实现了一个解决方案,用于基于编译器的自动生成程序变体,度量引导的变体选择,以及它们在单个可执行文件中的集成。为了评估所提出的方法,我们首先分析了程序变体在避免激活随机木马池方面的有效性。通过在OpenRISC 1000处理器中实现几个木马,我们分析了在单个和多个变体中木马激活过程中的可检测性和弹性。我们还提出了延迟和代码大小的开销为自动生成的几个程序的变体,并讨论了未来的研究方向,以减少开销。
2021-12-01 cs.AR cs.CR
ChipAlign: Instruction Alignment in Large Language Models for Chip Design via Geodesic Interpolation
NVIDIA(英伟达)
本文提出ChipAlign,一种免训练的模型合并方法,通过测地线插值融合通用指令对齐LLM与芯片专用LLM的权重,显著提升了芯片LLM的指令遵循能力,在IFEval基准上提升达26.6%,并在指令相关问答任务中超越现有基线。
2025-07-15 cs.AI cs.AR
FP-Stereo: Hardware-Efficient Stereo Vision for Embedded Applications
Hong Kong University of Science and Technology(香港科技大学);Alibaba Group(阿里巴巴集团);India Institute of Technology Goa(印度理工学院果阿分校)
快速准确的深度估计或立体匹配在嵌入式立体视觉系统中是必不可少的,需要大量的设计努力来实现精度、速度和硬件成本之间的适当平衡。为了减少设计工作量并实现正确的平衡,我们提出了FP-Stereo,用于在FPGA上自动构建高性能立体匹配流水线。FP-Stereo由一个开源的硬件高效库组成,允许设计人员立即获得所需的实现。我们的库支持立体匹配流水线的每个阶段的各种方法,并开发了一系列技术来开发并行性和减少资源开销。为了提高可用性,FP-Stereo可以使用我们优化的HLS模板自动生成FPGA加速器的可合成C代码。为了指导用户选择符合特定应用要求的正确设计,我们对库的各种配置进行了详细的比较,以调查精度/速度/成本权衡。实验结果还表明,FP-Stereo在各方面都优于最先进的FPGA设计,包括6.08%的误差降低,2倍的速度提高,30%的资源使用减少和40%的能耗减少。与GPU设计相比,FP-Stereo以具有竞争力的速度实现相同的精度,同时消耗更少的能源。
2020-07-01 cs.AR cs.CV cs.RO