Automated flow for compressing convolution neural networks for efficient edge-computation with FPGA
LeapMind, Inc.(LeapMind 公司)
基于深度卷积神经网络(CNN)的解决方案是计算机视觉任务的当前最先进技术。由于这些模型的尺寸很大,它们通常在CPU或GPU集群上运行。然而,功率要求和成本预算可能是物联网应用采用CNN的主要障碍。最近的研究强调,CNN在其结构中包含显著的冗余,并且可以量化以降低位宽参数和激活,同时保持可接受的精度。由于二进制化CNN中涉及的逐位逻辑运算,低位宽尤其是单位宽(二进制)CNN特别适合于基于FPGA实现的移动应用。此外,向较低位宽的过渡为性能优化和模型改进开辟了新的途径。在本文中,我们提出了一个自动流程,从训练的TensorFlow模型到FPGA片上系统实现二值化CNN。该流程涉及模型参数和激活的量化,嵌入式C中网络和模型的生成,然后自动生成用于二进制卷积的FPGA加速器。通过在低成本、低功耗的Cyclone-V FPGA器件上实现二进制化的“YOLOV 2”来演示自动化流程。使用二值化YOLOV 2的目标检测实验表明,与CPU和移动CPU平台相比,FPGA上的模型大小和推理速度具有显着的性能优势。此外,从训练模型到FPGA合成的整个自动化流程可以在一小时内完成。
2017-12-18 cs.AI cs.AR cs.NE
GPT4AIGChip: Towards Next-Generation AI Accelerator Design Automation via Large Language Models
School of Computer Science, Georgia Institute of Technology(佐治亚理工学院计算机学院)
本文提出GPT4AIGChip框架,通过自然语言提示、演示增强与上下文学习,让LLM自动生成高质量AI加速器设计。
2025-01-04 cs.AR cs.LG
AutoAccel: Automated Accelerator Generation and Optimization with Composable, Parallel and Pipeline Architecture
CPU-FPGA异构架构正吸引着越来越多的关注,试图提高当今计算机的计算能力和能源效率。这些架构为程序员提供了重新编程FPGA的能力,以灵活地加速许多工作负载。然而,这种优势往往被FPGA的可编程性差所掩盖,FPGA的编程通常是RTL设计实践。虽然高级综合(HLS)的最新进展显着提高了FPGA的可编程性,它仍然让程序员面临的挑战,确定最佳的设计配置在一个巨大的设计空间。本文旨在应对这一挑战,并为从软件程序到高质量FPGA加速器铺平道路。具体来说,我们首先提出了组合,并行和流水线(CPP)的微架构作为加速器设计的模板。这样一个定义良好的模板是能够支持高效的加速器设计的广泛类的计算内核,更重要的是,大大减少了设计空间。此外,我们引入了一个分析模型,以捕捉性能和资源之间的权衡不同的设计配置的CPP微架构,这奠定了基础,快速设计空间探索。在CPP微架构及其分析模型的基础上,我们开发了AutoAccel框架,使整个加速器生成自动化。AutoAccel接受软件程序作为输入,并根据基于分析模型的设计空间探索的结果执行一系列代码转换,以构建所需的CPP微体系结构。我们的实验表明,对于广泛的一类计算内核,Autocom生成的加速器的平均性能超过其相应的软件实现72倍。
2018-07-30 cs.AR cs.DC
SILVIA: Automated Superword-Level Parallelism Exploitation via HLS-Specific LLVM Passes for Compute-Intensive FPGA Accelerators
本文提出开源LLVM Pass SILVIA,自动识别HLS设计中的超字级并行并将多个运算打包进单个DSP,在AMD Vitis HLS流程中无需改源码即可平均降低50%-70%的DSP占用。
2024-11-18 cs.AR
Xel-FPGAs: An End-to-End Automated Exploration Framework for Approximate Accelerators in FPGA-Based Systems
本文提出Xel-FPGAs框架,利用统计或机器学习模型将ASIC近似电路高效适配到FPGA系统,探索时间最多降低95%,并能找到更优的Pareto最优设计。
2023-08-08 cs.AR
AutoRAC: Automated Processing-in-Memory Accelerator Design for Recommender Systems
针对推荐系统PIM加速器设计空间庞大、算子映射复杂的问题,提出AutoRAC,利用一次性超网络自动协同搜索混合精度模型与PIM架构,在CTR基准上显著提升速度、面积和能效。
2025-05-15 cs.AR
MATADOR: Automated System-on-Chip Tsetlin Machine Design Generation for Edge Applications
Newcastle University(纽卡斯尔大学);IIT Jammu(贾姆穆印度理工学院)
MATADOR是一种自动化工具,可将Tsetlin机器模型高效部署到SoC-FPGA上,通过逻辑共享和稀疏性利用,实现比量化/二值深度神经网络快13.4倍、资源节省7倍、功耗降低2倍的边缘推理加速器设计。
2024-03-03 cs.AI cs.AR cs.LG
BOLT: An Automated Deep Learning Framework for Training and Deploying Large-Scale Search and Recommendation Models on Commodity CPU Hardware
ThirdAI
本文提出BOLT,一种在普通CPU硬件上训练大规模搜索与推荐模型的稀疏深度学习库,通过自动调参抽象算法细节,在多项任务上以更低成本和能耗实现与SOTA媲美的性能及更快的推理速度。
2023-09-12 cs.LG
An Open-Source ML-Based Full-Stack Optimization Framework for Machine Learning Accelerators
University of California, San Diego(加州大学圣地亚哥分校);University of Minnesota(明尼苏达大学)
该研究提出一种物理设计驱动的基于学习的预测框架,结合前后端分析实现ML加速器PPA与系统指标的精准估算,还包含全自动DSE技术,在两类工艺下的两个加速器平台实验中预测误差平均不超7%。
2023-08-23 cs.AR cs.LG
Toward Attention-based TinyML: A Heterogeneous Accelerated Architecture and Automated Deployment Flow
针对 tinyML 难以支持 Transformer 的问题,本文提出 RISC-V 八核集群与量化 Attention 硬连线加速器耦合的异构架构及自动化部署流程,实现端到端 8 位推理并取得领先能效与吞吐量。
2025-01-05 cs.AR cs.LG
ChatNeuroSim: An LLM Agent Framework for Automated Compute-in-Memory Accelerator Deployment and Optimization
Georgia Institute of Technology(佐治亚理工学院)
ChatNeuroSim是一种基于LLM的代理框架,用于自动部署和优化计算在内存加速器,通过设计空间修剪技术提升优化效率。
2026-03-04 cs.AR cs.MA cs.PF
Application-Level Validation of Accelerator Designs Using a Formal Software/Hardware Interface
针对早期加速器设计端到端测试成本过高的问题,提出名为3LA的自动化方法,基于ILA形式化软硬件接口实现编译器与模拟器自动生成,仅需少量工程投入即可完成验证,还曾发现并助力修复已发表加速器的未知缺陷。
2023-08-22 cs.AR cs.PL
Agile SoC Development with Open ESP
ESP是一个面向异构SoC设计的开源研究平台。该平台将基于模块化瓦片的架构与各种面向应用程序的流程相结合,用于加速器的设计和优化。ESP架构具有高度可扩展性,并在规则性和专业化之间取得平衡。该方法将抽象级别提高到系统级设计,并实现了从软件和硬件开发到FPGA上的全系统原型设计的自动化流程。对于应用程序开发人员,ESP提供特定领域的自动化解决方案,为他们的软件合成新的加速器,并将复杂的工作负载映射到SoC架构上。对于硬件工程师,ESP提供自动化解决方案,将他们的加速器设计集成到完整的SoC中。ESP被视为异构集成平台,并通过哥伦比亚大学多年的教学测试,通过为敏捷SoC开发提供灵活的平台,支持开源硬件社区。
2020-09-02 cs.AR
O-HAS: Optical Hardware Accelerator Search for Boosting Both Acceleration Performance and Development Speed
Rice University(莱斯大学)
深度神经网络(DNN)最近的突破和令人望而却步的复杂性激发了人们对特定领域DNN加速器的广泛兴趣,其中光学DNN加速器特别有前途,这要归功于其实现卓越性能每瓦的前所未有的潜力。然而,光学DNN加速器的发展比电DNN加速器慢得多。一个关键的挑战是,虽然已经开发了许多技术来促进电DNN加速器的开发,但支持或加速光学DNN加速器设计的技术仍然很少探索,限制了光学DNN加速器的可实现性能和创新发展。为此,我们开发了首个名为O-HAS的框架,该框架首次展示了自动化光学硬件加速器搜索,以提高光学DNN加速器的加速效率和开发速度。具体地,我们的O-HAS由两个集成的使能器组成:(1)O-成本预测器,其可以基于DNN模型参数和光学加速器设计准确而有效地预测光学加速器的能量和延迟;以及(2)O-搜索引擎,其可以自动探索光学DNN加速器的大设计空间并识别最佳加速器(即,微体系结构和算法到加速器的映射方法),以便最大化目标加速效率。广泛的实验和烧蚀研究一致验证了我们的O-成本预测器和O-搜索引擎的有效性以及O-HAS产生的光学加速器的出色效率。
2021-08-17 cs.AR cs.ET cs.LG
Performance and Power: Systematic Evaluation of AI Workloads on Accelerators with CARAML
Jülich Supercomputing Centre(于利希超级计算中心);Forschungszentrum Jülich(于利希研究中心)
本文提出 CARAML 基准测试套件及 jpwr 功耗测量工具,用于系统评估多种硬件加速器上大语言模型与视觉模型训练的性能和能耗。
2024-10-29 cs.AI cs.AR cs.DC
CAMASim: A Comprehensive Simulation Framework for Content-Addressable Memory based Accelerators
针对基于内容可寻址存储器(CAM)的加速器设计复杂度高、跨层面优化难的问题,本文提出首个综合仿真框架CAMASim,支持设计空间探索、功能精度仿真与硬件性能预测,助力各类搜索密集型应用的CAM加速器研发。
2024-03-07 cs.AR
Early DSE and Automatic Generation of Coarse Grained Merged Accelerators
后摩尔定律区域受限系统依赖于加速器来提供性能增强。粗粒度加速器可以提供实质性的域加速,但是要加速的代码的手动、临时识别是非常昂贵的。由于周期精确模拟器和高级综合流程非常耗时,因此手动创建以最佳粒度利用控制和数据流模式的高利用率加速器很少成功。为了应对这些挑战,我们提出了一种自动化方法,即CIMmerger,它是第一种创建粗粒度、控制流和数据流丰富的合并加速器的自动化方法。CIMmerger使用序列比对匹配来识别相似的函数调用图和循环,并使用神经网络来快速评估它们的后HLS特征。它可以准确地识别哪些功能需要加速,并合并加速器以满足面积预算并适应延迟和带宽等系统通信特性。合并两个加速器可以节省多达99%的面积。节省的空间被全局最优整数线性规划用来分配更多的加速器以提高性能。我们demonstate的HLS流程,没有任何手动的努力来微调所产生的设计,使用HLS合并的有效性。在基于FPGA的系统上,与软件实现相比,EMSMerger的应用性能提高了16.7倍,与最先进的早期设计空间探索工具相比,平均提高了1.91倍。
2021-11-17 cs.AR
AXI4MLIR: User-Driven Automatic Host Code Generation for Custom AXI-Based Accelerators
本文提出AXI4MLIR,通过扩展MLIR框架实现自定义AXI加速器主机驱动代码的自动生成,显著减少CPU缓存引用并提升性能。
2023-12-22 cs.AR cs.PL
Exploration of Activation Fault Reliability in Quantized Systolic Array-Based DNN Accelerators
Tallinn University of Technology(塔林理工大学);University of Alberta(阿尔伯塔大学);Shahid Bahonar University of Kerman(克尔曼沙希德·巴霍纳尔大学);York University(约克大学);Mälardalen University(梅拉达伦大学)
本文提出一种全自动框架,系统评估量化对DNN加速器模型精度、激活故障可靠性和硬件效率的三方面影响,并集成轻量级保护技术以保障脉动阵列FPGA实现的可靠部署。
2024-01-17 cs.AR cs.LG
TransCODE: Co-design of Transformers and Accelerators for Efficient Training and Inference
Princeton University(普林斯顿大学)
机器学习模型和评估硬件的自动协同设计对于大规模有效部署此类模型至关重要。尽管Transformer模型具有最先进的性能,但它们还不能在资源受限的硬件平台上执行。Transformer架构的高存储器要求和低并行性加剧了这个问题。最近提出的加速器试图优化Transformer模型的吞吐量和能耗。然而,这样的工作要么局限于模型架构的片面搜索,要么局限于一组现成的设备。此外,以前的工作只加速模型推理而不是训练,这会导致更高的内存和计算资源,使问题更具挑战性。为了解决这些限制,这项工作提出了一个动态的训练框架,称为DynaProp,加快训练过程,减少内存消耗。DynaProp是一种低开销的修剪方法,可以在运行时修剪激活和梯度。为了有效地执行这种方法的硬件上的一组不同的Transformer架构,我们提出了ELECTOR,一个框架,模拟Transformer推理和训练的设计空间的加速器。我们使用这个模拟器结合拟议的协同设计技术,称为代码转换,以获得最佳性能的模型,在给定的任务上具有高精度,并最大限度地减少延迟,能耗和芯片面积。所获得的变压器-加速器对实现了比最先进的对高0.3%的准确度,同时产生低5.2 $\times$的延迟和低3.0 $\times$的能量消耗。
2023-03-27 cs.AR cs.LG
RHNAS: Realizable Hardware and Neural Architecture Search
Intel Labs(英特尔实验室)
快速发展的人工智能领域需要自动化方法来协同设计神经网络架构和神经加速器,以最大限度地提高系统效率并解决生产力挑战。为了实现这一巨大空间的联合优化,人们对可微NN-HW协同设计的兴趣越来越大。完全可区分的协同设计降低了发现优化的NN-HW配置的资源需求,但不能适应一般的硬件加速器搜索空间。这是由于在许多硬件加速器的搜索空间中存在不可综合(无效)的设计。为了实现可配置硬件加速器与任意神经网络搜索空间的有效和可实现的协同设计,我们引入RHNAS。RHNAS是一种将用于硬件优化的强化学习与可微神经结构搜索相结合的方法。RHNAS发现了可实现的NN-HW设计,与默认硬件加速器设计相比,ImageNet上的延迟降低了1.84倍,能量延迟积(EDP)降低了1.86倍,CIFAR-10上的延迟降低了2.81倍,EDP降低了3.30倍。
2021-06-17 cs.AR cs.LG cs.NE
CODEBench: A Neural Architecture and Hardware Accelerator Co-Design Framework
Princeton University(普林斯顿大学);Stanford University(斯坦福大学)
最近,机器学习(ML)模型和加速器架构的自动化协同设计引起了业界和学术界的极大关注。然而,大多数协同设计框架要么探索有限的搜索空间,要么采用次优的探索技术,同时进行ML模型和加速器的设计决策调查。此外,训练ML模型和模拟加速器性能在计算上是昂贵的。为了解决这些限制,这项工作提出了一种新的神经架构和硬件加速器协同设计框架,称为CODEBench。它由两个新的基准测试子框架CNNBench和CCNBench组成,它们探索了卷积神经网络(CNN)和CNN加速器的扩展设计空间。CNNBench利用先进的搜索技术BOSHNAS,通过采用二阶梯度来有效地训练神经异方差代理模型,以收敛到最佳的CNN架构。ESTBENCH在广阔的设计空间中为各种加速器架构执行周期精确模拟。通过提出的称为BOSHCODE的协同设计方法,我们最好的CNN加速器对在CIFAR-10数据集上的准确率比最先进的对高出1.4%,同时延迟降低59.1%,能耗降低60.8%。在ImageNet数据集上,它实现了Top1精度提高3.7%,延迟降低43.8%,能耗降低11.2%。CODEBench优于最先进的框架,即,Auto-NBA,通过实现1.5%的高精度和34.7倍的高吞吐量,同时使CIFAR-10的能量延迟积(EDP)降低11.0倍,芯片面积降低4.0倍。
2022-12-07 cs.AR cs.LG eess.IV
Autocomp: A Powerful and Portable Code Optimizer for Tensor Accelerators
Autocomp 通过 LLM 驱动的自动化搜索,结合两阶段提示、领域知识菜单和硬件反馈,在多种张量加速器上显著超越供应商库、专家手工代码和机器学习成本模型,并支持优化调度复用。
2025-11-05 cs.AI cs.AR cs.LG
RedFuser: An Automatic Operator Fusion Framework for Cascaded Reductions on AI Accelerators
Alibaba Cloud Computing(阿里云计算)
RedFuser通过自动识别级联缩减模式并生成优化内核,实现AI加速器上的高效运算符融合,提升执行效率。
2026-02-24 cs.AI cs.AR cs.DC
CODO: An Automated Compiler for Comprehensive Dataflow Optimization
Shanghai Jiao Tong University(上海交通大学);Guizhou University(贵州大学)
本文提出CODO编译器,通过自动检测和消除粗粒度和细粒度数据流违规,优化FPGA上的数据流加速器,实现计算内核和DNN模型的显著加速。
2026-04-14 cs.AR
Hardware-Aware Neural Network Compilation with Learned Optimization: A RISC-V Accelerator Approach
XgenSilicon Inc.(Xgen硅有限公司)
XgenSilicon ML编译器通过学习优化和硬件感知技术,实现高效神经网络编译,生成高性能低功耗的RISC-V加速器
2025-11-10 cs.AR
TinyDefectNet: Highly Compact Deep Neural Network Architecture for High-Throughput Manufacturing Visual Quality Inspection
University of Waterloo(滑铁卢大学);DarwinAI
制造过程中的一个关键方面是对制造的部件进行缺陷和瑕疵的目视质量检查。人工视觉检测可能非常耗时和费力,并且是一个重要的瓶颈,特别是对于高通量制造场景。鉴于深度学习领域的重大进展,自动视觉质量检测可以在制造过程中高效可靠地检测缺陷和瑕疵。然而,深度学习驱动的视觉检测方法通常需要大量的计算资源,从而限制了吞吐量,并成为实现智能工厂的广泛采用的瓶颈。在这项研究中,我们研究了利用机器驱动的设计探索方法来创建TinyDefectNet,这是一种高度紧凑的深度卷积网络架构,专为高吞吐量制造视觉质量检测而设计。TinyDefectNet仅包含约427K个参数,计算复杂性约为97M FLOP,但在NEU缺陷基准数据集上实现了最先进的表面缺陷检测任务检测精度。因此,TinyDefectNet可以在52倍的$\times$低架构复杂度和11倍的低计算复杂性下实现相同水平的检测性能。此外,TinyDefectNet部署在AMD EPYC 7R32上,使用原生Tensorflow环境实现了7.6倍的吞吐量,使用AMD ZenDNN加速器库实现了9倍的吞吐量。最后,解释性驱动的性能验证策略进行,以确保正确的决策行为是由TinyDefectNet展示,以提高其使用的操作员和检查员的信任。
2021-11-29 cs.AI cs.CV cs.LG
Real-time Driver Monitoring Systems on Edge AI Device
Ignitarium Technology Solutions Private Limited(Ignitarium科技解决方案私人有限公司)
本文提出一种运行于TI-TDA4VM边缘设备上的实时驾驶员监控系统,通过红外摄像头采集数据并采用模型手术优化深度学习模型以充分利用硬件加速器,最终实现63 FPS的高性能。
2023-04-04 cs.AI cs.AR cs.CV
Compiling Multi-Threshold Operators for Quantized Non-Monotonic and Fine-Granular Activations in Custom-Tailored DNN Accelerators
Paderborn University(帕德博恩大学)
该研究针对定制DNN加速器,提出基于ONNX编译器的多阈值算子编译方法,支持非单调函数与细粒度参数,经实验验证其在FPGA加速器综合中的有效性,性能优于部分现有方案。
2026-10-16 cs.AR cs.LG
Synergy: A HW/SW Framework for High Throughput CNNs on Embedded Heterogeneous SoC
School of Computing, National University of Singapore(新加坡国立大学计算机学院)
卷积神经网络(CNN)已被广泛应用于不同的应用领域。在使用高性能GPU、FPGA和定制ASIC加速其训练和推理方面取得了重大进展。最近移动和物联网设备的激增需要在嵌入式类、资源受限的平台上进行实时、节能的深度神经网络推理。在这种情况下,我们提出了{ \em Synergy},这是一种基于嵌入式异构片上系统(SoC)架构(Xilinx Zynq)的自动化、软硬件协同设计、流水线、高吞吐量CNN推理框架。{ \em Synergy}通过多线程技术利用所有可用的片上资源,包括双核ARM处理器以及作为加速器的FPGA和NEON SIMD引擎。此外,{ \em Synergy}提供异构加速器(FPGA和NEON)的统一抽象,并通过工作窃取平衡加速器之间的工作负载,在运行时适应不同的网络配置,而无需更改底层硬件加速器架构。{ \em Synergy}在7个CNN模型上实现了7.3倍的平均加速,优于经过良好优化的纯软件解决方案。与相同SoC架构上的当代CNN实现相比,{ \em Synergy}表现出更高的吞吐量和能效。
2018-03-28 cs.AR cs.DC cs.LG
Algorithm and Hardware Co-Design for Efficient Complex-Valued Uncertainty Estimation
Department of Computing, Imperial College London(帝国理工学院计算机系);Southeast University(东南大学)
本文提出基于dropout的贝叶斯复值神经网络,实现复值应用的不确定性量化,并通过自动化搜索方法优化配置,生成定制FPGA加速器,实现更高的性能与更低的硬件成本。
2026-04-21 cs.AR cs.LG
APEX-RBD: Mixed-Precision Exploration Framework for Hardware-Efficient Robot Dynamics Accelerator Design
The Hong Kong University of Science and Technology(香港科技大学);The Hong Kong University of Science and Technology (Guangzhou)(香港科技大学(广州))
APEX-RBD是面向硬件高效机器人动力学加速器的自动化混合精度探索框架,通过物理驱动剪枝、代理模型与混合优化器,实现最高1.9倍面积缩减与1.8倍功耗节省。
2026-09-07 cs.AR cs.RO
MetaML: Automating Customizable Cross-Stage Design-Flow for Deep Learning Acceleration
Imperial College London(伦敦帝国理工学院)
本文提出MetaML优化框架,自动化DNN加速器定制设计流程的底层优化选择配置,实验证明其在保持精度下大幅降低硬件资源用量,性能优于现有最优方法。
2023-06-14 cs.AR cs.LG
Optimization of FPGA-based CNN Accelerators Using Metaheuristics
King Fahd University of Petroleum and Minerals(法赫德国王石油与矿产大学)
近年来,卷积神经网络(CNN)已经证明了它们解决许多领域问题的能力,并且具有以前不可能的准确性。然而,这带来了广泛的计算需求,这使得通用CPU无法提供所需的实时性能。与此同时,FPGA对加速CNN推理的兴趣激增。这是由于他们能够创建具有不同并行级别的定制设计。此外,与GPU相比,FPGA提供更好的性能功耗比。基于FPGA的CNN加速器的当前趋势是实现多个卷积层处理器(CLP),每个处理器都是为一个层子集定制的。然而,CNN架构日益复杂,使得优化目标FPGA器件上的可用资源以提供最佳性能更具挑战性。在本文中,我们提出了一个CNN加速器和相应的自动化设计方法,采用元逻辑划分可用的FPGA资源,设计多CLP加速器。具体而言,所提出的设计工具采用模拟退火(SA)和禁忌搜索(TS)算法来找到所需的CLP的数量和它们各自的配置,以实现给定的目标FPGA器件的最佳性能。这里,重点是关键规格和硬件资源,包括数字信号处理器、块RAM和片外内存带宽。使用四个著名的基准CNN的实验结果和比较表明,所提出的加速框架是令人鼓舞的和有前途的。基于SA/TS的Multi-CLP在Xilinx VC 707和VC 709 FPGA板上加速AlexNet、SqueezeNet 1.1、VGGNet和GoogLeNet架构时,吞吐量比最先进的单/多CLP方法高1.31 - 2.37倍。
2022-09-22 cs.AR cs.CV cs.NE
Blink: Fast Automated Design of Run-Time Power Monitors on FPGA-Based Computing Platforms
本文提出可扩展框架Blink,通过用行为仿真和直接功耗轨迹测量替代耗时的门级仿真,实现了基于FPGA计算平台的运行时功耗监控基础设施的快速自动化设计,在保证估计质量的同时将求解时间平均加速18倍。
2025-01-29 cs.AR
KernelEvolve: Scaling Agentic Kernel Coding for Heterogeneous AI Accelerators at Meta
Meta Platforms(Meta平台)
研究针对深度学习推荐模型训练和推理面临的异构性挑战,提出KernelEvolve框架,通过多编程抽象自动生成和优化内核,经实验验证其正确性,大幅提升性能并降低新AI硬件可编程性障碍。
2026-07-08 cs.AI cs.AR cs.LG
Trireme: Exploring Hierarchical Multi-Level Parallelism for Domain Specific Hardware Acceleration
包含特定领域加速器的异构系统的设计是一个具有挑战性且耗时的过程。在考虑面积限制的同时,设计人员必须决定应用程序的哪些部分在硬件中加速,哪些部分在软件中加速。此外,在诸如延展实境(XR)的领域中的应用为各种形式的并行执行提供了机会,包括循环级、任务级和流水线并行。为了协助设计过程并揭示每一个可能的并行级别,我们推出了Trireme,这是一个全自动化工具链,可以探索多个并行级别,并在给定面积预算的情况下生成特定于领域的加速器设计和配置,以最大限度地提高性能。在XR领域的高要求基准测试上进行的实验显示,与纯软件实现相比,速度提高了20倍,对于较小的应用程序,速度提高了37倍。
2022-01-21 cs.AR
TAPA-CS: Enabling Scalable Accelerator Design on Distributed HBM-FPGAs
针对云级多FPGA加速器开发工具不足的问题,提出开源任务并行框架TAPA-CS,可自动分区编译大型设计、保障高频率高吞吐量,经多类工作负载验证具备良好扩展性,助力复杂FPGA加速器开发。
2024-02-02 cs.AR cs.DC
CFU Playground: Full-Stack Open-Source Framework for Tiny Machine Learning (tinyML) Acceleration on FPGAs
Harvard University(哈佛大学);Google(谷歌);Purdue University(普渡大学);Stanford University(斯坦福大学)
本文提出全栈开源框架CFU Playground,支持FPGA上嵌入式机器学习加速器的快速软硬件协同设计与评估,结合自动化黑盒优化探索设计空间,实现了55至75倍的显著加速。
2023-04-05 cs.AR cs.DC cs.LG
NASA: Neural Architecture Search and Acceleration for Hardware Inspired Hybrid Networks
Georgia Institute of Technology(佐治亚理工学院);Nanjing University(南京大学);Rice University(莱斯大学)
乘法可以说是现代深度神经网络(DNN)中成本最占主导地位的操作,限制了它们可实现的效率,从而限制了它们在资源受限应用中的更广泛部署。为了解决这一限制,开创性的工作已经开发了手工制作的免乘法DNN,这需要专业知识和耗时的手动迭代,需要快速开发工具。为此,我们提出了一个名为NASA的神经架构搜索和加速框架,它可以实现自动化的乘法减少DNN开发,并集成了一个专用的乘法减少加速器,以提高DNN的可实现效率。具体来说,NASA采用了神经架构搜索(NAS)空间,该空间使用硬件启发的无乘法运算符(如移位和加法器)来增强最先进的空间,并配备了新颖的渐进式预训练策略(PGP)以及定制的训练配方,以自动搜索最佳的乘法减少DNN;最重要的是,NASA进一步开发了一个专用的加速器,该加速器提倡基于块的模板和自动映射器,专门用于NASA-NAS生成的DNN,以更好地利用其算法特性来提高硬件效率。实验结果和烧蚀研究一致验证了NASA的算法硬件协同设计框架在可实现的精度和效率权衡方面的优势。代码可在https://github.com/GATECH-EIC/NASA上获得。
2022-12-19 cs.AR cs.LG
FPGN: Redefining Ultra-Fast Programmable Gate-based Neural Acceleration with Differentiable LUTs
HKUST(香港科技大学);ETH Zurich(苏黎世联邦理工学院);HKUST (GZ)(香港科技大学(广州))
研究旨在实现DNN纳秒级推理延迟,针对传统FPGA加速器局限,提出FPGN框架。通过硬件对齐可微公式、结构化拓扑和延迟驱动编译器,弥合差距。实验表明其相比其他加速器延迟降低205倍,LUT效率高30倍,且推理精度有竞争力。
2026-09-17 cs.AR cs.LG
HERO: Hardware-Efficient RL-based Optimization Framework for NeRF Quantization
The Hong Kong University of Science and Technology(香港科技大学);Northeastern University(东北大学);The Hong Kong University of Science and Technology (GZ)(香港科技大学(广州))
针对NeRF量化未考虑硬件架构且依赖人工探索的问题,提出强化学习框架HERO,集成加速器模拟器实现自动化硬件感知量化,相比CAQ显著提升延迟和成本效率。
2025-10-10 cs.AR
AnalogNAS: A Neural Network Design Framework for Accurate Inference with Analog In-Memory Computing
Univ. Polytechnique Hauts-de-France(上法兰西理工大学);IBM Research Europe(IBM欧洲研究院);IBM T. J. Watson Research Center(IBM托马斯·J·沃森研究中心);IBM Research Almaden(IBM阿尔马登研究中心)
本文提出AnalogNAS框架,针对模拟存内计算(IMC)加速器自动设计深度神经网络,在多种TinyML任务及64核PCM芯片实验中实现了比SOTA模型更高的准确率和部署效率。
2023-05-17 cs.AR cs.CV cs.LG
FIFOAdvisor: A DSE Framework for Automated FIFO Sizing of High-Level Synthesis Designs
Georgia Institute of Technology(佐治亚理工学院);Georgia Tech Research Institute(佐治亚理工学院研究院);University of California, Los Angeles(加利福尼亚大学洛杉矶分校)
FIFOAdvisor利用周期精确仿真和双目标黑盒优化,自动确定HLS设计中FIFO大小,在最小延迟开销下降低内存使用,并加速设计空间探索。
2025-10-23 cs.AR
Chimera: A Hybrid Machine Learning Driven Multi-Objective Design Space Exploration Tool for FPGA High-Level Synthesis
University of Illinois at Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
近年来,基于现场可编程门阵列(FPGA)的硬件加速器由于其非凡的灵活性而被广泛采用。然而,高灵活性带来了设计和优化的困难。传统上,这些加速器是用低级硬件描述语言设计的,这意味着创建具有复杂行为的大型设计非常困难。因此,高级综合(HLS)工具被创建来简化FPGA的硬件设计。它们使用户能够使用高级语言创建硬件设计,并提供各种优化指令,以帮助提高合成硬件的性能。然而,应用这些优化来实现高性能是耗时的,并且通常需要专业知识。为了解决这个困难,我们提出了一个自动化的设计空间探索工具,用于应用HLS优化指令,称为嵌合体,这大大减少了创建高性能HLS设计所需的人力和专业知识。它采用了一种新的多目标探索方法,无缝集成了主动学习,进化算法和汤普森采样,使它能够找到一组优化设计的帕累托曲线,只有少量的设计点在探索过程中评估。在实验中,在不到24小时的时间里,这种混合方法探索了与Rosetta基准测试套件中专家HLS用户创建的高度优化的手动调整设计相比具有相同或更高性能的设计点。除了发现极端点之外,它还探索了帕累托边界,其中肘部点可以潜在地节省高达26%的触发器资源,而延迟可以忽略不计。
2022-07-03 cs.AR cs.LG cs.NE
Generation of Compiler Backends from Formal Models of Hardware
本文提出从硬件形式模型自动生成编译器后端的方法,利用自动推理算法提升优化能力与正确性保证,缩短开发时间,并通过Glenside和Lakeroad两个案例验证了该方法的有效性。
2024-08-27 cs.AR cs.PL
Mitigating Memory Wall Effects in CNN Engines with On-the-Fly Weights Generation
Samsung AI Center(三星人工智能中心);University of Cambridge(剑桥大学)
本文提出unzipFPGA,一种基于FPGA的CNN推理系统,通过即时权重生成模块缓解内存墙效应,并采用硬件感知方法和输入选择性PE设计,实现平均2.57倍性能效率提升和最高3.94倍性能密度提升。
2023-07-25 cs.AR cs.CV cs.LG
ChatHLS: Towards Systematic Design Automation and Optimization for High-Level Synthesis
National Center of Technology Innovation for EDA(国家集成电路设计自动化工程技术研究中心);Shanghai Jiao Tong University(上海交通大学);Southeast University(东南大学)
ChatHLS通过多智能体框架实现高阶综合的自动化调试与指令优化,提升硬件开发效率。
2026-04-21 cs.AR
MultiVic: A Time-Predictable RISC-V Multi-Core Processor Optimized for Neural Network Inference
FZI Research Center for Information Technology(FZI信息技术研究中心);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院)
MultiVic是一种优化用于神经网络推断的RISC-V多核处理器,通过可预测的核心和本地暂存器内存实现高性能和低时间波动。
2026-02-25 cs.AR
Work-in-Progress: Real-Time Neural Network Inference on a Custom RISC-V Multicore Vector Processor
提出一种具有可预测核心和本地暂存存储器的定制RISC-V多核向量处理器架构及配套编译器工具链,利用神经网络固定数据流和子任务WCET估计生成静态调度,实现高性能且可预测的实时神经网络推理。
2024-10-14 cs.AR
elasticAI.explorer: Towards a Unified End-to-End Framework for Hardware-Aware Neural Architecture Search
Intelligent Embedded Systems Lab, University of Duisburg-Essen(杜伊斯堡-埃森大学智能嵌入式系统实验室)
提出基于Optuna的弹性AI探索器框架,通过YAML搜索空间规范、硬件代码生成和Docker交叉编译,实现硬件在环的神经架构搜索。
2026-05-29 cs.AR
SynapticCore-X: A Modular Neural Processing Architecture for Low-Cost FPGA Acceleration
PES University(PES大学)
本文提出面向低成本FPGA的模块化开源神经处理架构SynapticCore-X,集成RISC-V控制核与可配置计算单元,在低成本FPGA上实现低资源占用、时序收敛的高能效神经加速,降低相关研究准入门槛。
2025-11-16 cs.AR
aLEAKator: HDL Mixed-Domain Simulation for Masked Hardware \& Software Formal Verification
Sorbonne Université(索邦大学);LIP6(LIP6实验室);CNRS(法国国家科学研究中心);Thales(泰雷兹集团)
aLEAKator 是一种开源框架,用于通过 HDL 描述自动形式验证掩码加密加速器和 CPU 上的软件,支持混合域仿真和多种泄漏模型,无需先验知识。
2025-12-08 cs.AR cs.CR cs.SC
Bench4HLS: End-to-End Evaluation of LLMs in High-Level Synthesis Code Generation
Department of Electrical and Computer Engineering (ECE), University of Central Florida(电子与计算机工程系,中央佛罗里达大学)
Bench4HLS通过提供结构化、可扩展的测试平台,评估LLM在高层次综合代码生成中的性能与优化能力。
2026-01-16 cs.AI cs.AR cs.PL