DSLUT: An Asymmetric LUT and its Automatic Design Flow Based on Practical Functions
针对传统LUT的冗余问题,提出非对称输入的DSLUT架构及自动化设计流程,通过减少可编程位实现实用函数的高效映射,在接近LUT6性能提升的同时大幅降低面积开销。
2025-03-20 cs.AR
A Hardware-Aware, Per-Layer Methodology for Post-Training Quantization of Large Language Models
本文提出了一种面向硬件的分层后训练量化方法,通过优化代码本和硬件效率,实现4.5-6位/权重的近无损精度,展示了小原子块与精心选择的精度可替代传统FP8。
2026-05-14 cs.AR cs.LG
HOBFLOPS CNNs: Hardware Optimized Bitslice-Parallel Floating-Point Operations for Convolutional Neural Networks
Trinity College Dublin, The University of Dublin(都柏林大学圣三一学院);The School of Computer Science and Statistics(计算机科学与统计学院);Institute of Technology Carlow(卡洛理工学院)
卷积神经网络(CNN)通常使用16位或32位浮点(FP)进行训练,研究人员表明,低精度浮点(FP)可以非常有效地进行推理。低精度FP可以在现场可编程门阵列(FPGA)和专用集成电路(ASIC)加速器中实现,但是现有的处理器一般不支持定制精度FP。我们提出了硬件优化的位片并行浮点运算符(HOBFLOPS),生成高效的自定义精度仿真位片并行软件FP算法的方法。我们生成定制精度FP例程,使用硬件合成设计流程进行优化以创建电路。我们提供了标准的单元库匹配的目标微处理器架构上的位操作,和代码生成器的硬件电路的位片软件等价物。我们利用位片并行来创建一个非常宽(32-512个元素)的矢量化卷积神经网络(CNN)卷积。将Arm和Intel处理器上CNN卷积中的硬件优化位片并行浮点运算符(HOBFLOPS)乘法累加(MAC)性能与Berkeley的SoftFP 16等效MAC进行比较。HOBFLOPS 16在Intel AVX 512上的性能是SoftFP 16的8倍。HOBFLOPS提供具有自定义范围和精度的任意精度FP,例如,HOBFLOPS 9在Arm Neon上的性能是HOBFLOPS 16的6倍。HOBFLOPS允许研究人员在软件CNN加速器的算法中原型化不同级别的自定义FP精度。此外,HOBFLOPS快速定制精度FP CNN在内存带宽有限的情况下可能是有价值的。
2021-02-28 cs.AR cs.LG
FIGLUT: An Energy-Efficient Accelerator Design for FP-INT GEMM Using Look-Up Tables
本文提出FIGLUT加速器,通过基于查找表检索预计算值替代传统算术运算,并结合半尺寸LUT与解码多路复用单元,在相同精度下实现更高能效和更低困惑度。
2025-03-10 cs.AR
LOCALUT: Harnessing Capacity-Computation Tradeoffs for LUT-Based Inference in DRAM-PIM
Seoul National University(首尔大学);Yonsei University(延世大学)
本文提出LOCALUT,通过将多个MAC操作打包到单个LUT查找中,利用容量-计算权衡提升DRAM-PIM中低比特量化DNN推理效率,实现1.82倍的几何平均加速。
2026-04-06 cs.AR
ScaleLUT: A Fully-Parallel Configurable LUT-Based Accelerator for Real-Time Multi-Scale Super-Resolution
The University of Hong Kong (HKU)(香港大学);Southern University of Science and Technology(南方科技大学)
ScaleLUT提出一种硬件友好的LUT设计框架与全并行可重构加速器,通过YUV域策略、二次幂内核和旋转集成降低存储与计算,在FPGA上实现实时4K多尺度SR,显著减少资源与功耗。
2026-09-16 cs.AR
BitMoD: Bit-serial Mixture-of-Datatype LLM Acceleration
Computer Systems Lab, Cornell University(康奈尔大学计算机系统实验室);Systems and Networking Research Group, Microsoft Research(微软研究院系统与网络研究组);Department of Electrical and Electronic Engineering, Imperial College London(伦敦帝国理工学院电子与电气工程系)
BitMoD是一种算法-硬件协同设计方案,通过细粒度数据类型适配将LLM权重量化至3-4比特,并采用比特串行处理单元和统一表示降低硬件开销,在保持高精度的同时实现了显著优于现有方法的加速效果。
2025-04-26 cs.AR cs.LG
Look-Up Table based Neural Network Hardware
本文提出基于CMOS查找表的神经加速器LUT-NA,通过分而治之拆分高精度MAC运算解决扩展性问题,在面积和能耗上显著优于传统LUT及数字MAC方案,并支持混合精度分析。
2024-09-30 cs.AR
FINNAS: FINN-Guided Hardware-Aware NAS and Pruning for FPGA Jet Substructure Classification
Reconfigurable Computing Systems Lab, Electronic & Electrical Engineering(可重构计算系统实验室,电子与电气工程系);Trinity College Dublin, Ireland(都柏林三一学院)
FINNAS提出FINN引导的硬件感知进化神经架构搜索框架,联合搜索量化MLP深度、宽度和精度,在CERNBox喷注子结构分类任务上,相比手动优化FINN加速器,精度提升至74.36%,LUT减少8.5倍,延迟减少1.77倍。
2026-09-16 cs.AR
DiffLUT-Net: Differentiable Training of FPGA LUT Networks with Learnable Connectivity
TU Darmstadt(达姆施塔特工业大学);TU Ilmenau(伊尔默瑙工业大学)
提出DiffLUT-Net,一种FPGA原生网络,通过可微训练联合学习六输入LUT的真值表和输入连接,训练后离散化并导出为Verilog,在五个基准上实现良好的精度-资源权衡。
2026-09-10 cs.AI cs.AR cs.LG
ALLMod: Exploring $\underline{\mathbf{A}}$rea-Efficiency of $\underline{\mathbf{L}}$UT-based $\underline{\mathbf{L}}$arge Number $\underline{\mathbf{Mod}}$ular Reduction via Hybrid Workloads
ALLMod提出一种混合工作负载分割方法,提升基于查找表的大数模约简的面积效率,在128位和8192位下分别实现1.65倍和3倍的面积效率提升。
2025-05-27 cs.AR cs.CR
ModSRAM: Algorithm-Hardware Co-Design for Large Number Modular Multiplication in SRAM
本文提出ModSRAM,首个8T SRAM存内处理架构,并配套R4CSA-LUT算法,通过算法-硬件协同设计实现大数模乘加速,相比先前工作减少52%周期,面积开销仅32%。
2024-02-21 cs.AR cs.CR
FineQ: Software-Hardware Co-Design for Low-Bit Fine-Grained Mixed-Precision Quantization of LLMs
School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);Jiangsu Shuguang Optoelectric Co., Ltd(江苏曙光光电有限公司)
提出软硬件协同设计FineQ,通过细粒度权重聚类、簇内3比特异常值保护机制及时间编码加速器,在相近平均位宽下提升LLM低位混合精度量化精度,并实现1.79倍能效提升与61.2%面积缩减。
2025-04-28 cs.AR cs.LG
OASIS: Outlier-Aware LUT-Based GEMM with Dual-Side Quantization for LLM Inference Acceleration
National University of Singapore(新加坡国立大学)
提出OASIS架构,利用预计算笛卡尔积查找表实现非均匀量化权重与激活的高效通用矩阵乘法,通过离群点感知量化方案和实时离群点检测引擎Orizuru,在保持精度的同时显著提升推理速度和能效。
2026-06-02 cs.AR cs.LG
Low Error-Rate Approximate Multiplier Design for DNNs with Hardware-Driven Co-Optimization
Fudan University(复旦大学)
本文提出了两种近似的3*3乘法器,在ASAP-7 nm工艺库上的综合结果表明,与精确乘法器相比,它们的面积分别减少了31.38%和36.17%,功耗分别减少了36.73%和35.66%。它们可以与2*2乘法器聚合,以基于DNN权重的分布产生具有低出错率的8*8乘法器。我们提出了一种硬件驱动的软件协同优化方法,通过再训练来提高DNN的精度。基于提出的两个近似3位乘法器,三个近似8位乘法器,具有较低的出错率设计DNN。与精确的8位无符号乘法器相比,我们的设计可以在公共数据集上实现比其他近似乘法器显著的优势。
2022-11-16 cs.AR cs.LG
Bit-Width-Aware Design Environment for Few-Shot Learning on Edge AI Hardware
Research Institute of Electrical Communication, Tohoku University(东北大学电气通信研究所);Graduate School of Engineering, Tohoku University(东北大学工学研究科);IMT Atlantique, Lab-STICC, UMR CNRS 6285(大西洋高等理工学院,Lab-STICC,CNRS联合研究实验室6285)
本文提出一种支持任意位宽的少样本学习设计环境,通过优化和调整提升边缘AI硬件的吞吐量和精度
2026-02-17 cs.AR
Binary Weight Multi-Bit Activation Quantization for Compute-in-Memory CNN Accelerators
Department of Electrical and Electronic Engineering, The University of Hong Kong(电子工程系,香港大学)
针对存内计算 CNN 加速器,本文提出 BWMA 二值权重、多位激活量化方法,通过权重闭式解和可微激活量化提升精度与效率,并证明 4 位激活实现最佳硬件-性能平衡。
2025-08-29 cs.AR cs.LG
Bit-Flip Fault Attack: Crushing Graph Neural Networks via Gradual Bit Search
Department of Electrical and Computer Engineering(电气与计算机工程系);George Mason University(乔治·马歇尔大学)
本文提出渐进比特翻转故障攻击(GBFA),通过层感知策略和马尔可夫模型预测层执行顺序,利用梯度排序定位脆弱比特,以最少比特翻转显著降低GNN在节点分类任务上的预测精度。
2025-07-07 cs.AR cs.LG
GyRot: Leveraging Hidden Synergy between Rotation and Fine-grained Group Quantization for Low-bit LLM Inference
GyRot通过算法-硬件协同设计,结合旋转与细粒度组量化,在LLaMA系列模型4位量化推理中实现先进精度,同时提升加速比与能效,为LLM部署提供可行方案。
2026-07-31 cs.AR cs.LG
Post-Training Sparsity-Aware Quantization
Technion — Israel Institute of Technology(以色列理工学院);Ruppin Academic Center(鲁平学术中心)
量化是一种在深度神经网络(DNN)中使用的技术,用于提高执行性能和硬件效率。统一的后训练量化(PTQ)方法是常见的,因为它们可以在硬件中有效地实现,并且不需要大量的硬件资源或训练集。使用统一PTQ将FP 32模型映射到INT 8产生的模型精度下降可以忽略不计;然而,使用PTQ将精度降低到8位以下具有挑战性,因为由于量化噪声的增加,精度下降变得明显。在本文中,我们提出了一种稀疏感知量化(SPARQ)方法,在该方法中,非结构化和动态激活稀疏性在不同的表示粒度中被利用。4-例如,通过动态检查8位值的位并选择4位的窗口,同时首先跳过零值位,来采用位量化。此外,不是将逐个激活量化为4位,而是关注成对的8位激活,并检查两者之一是否等于零。如果一个等于零,则第二个可以机会性地使用另一个的4比特预算;如果两者都不等于零,则每个被动态量化为4比特,如所描述的。SPARQ实现了较小的精度下降和实际的硬件实现。该代码可在https://github.com/gilshm/sparq上获得。
2021-10-28 cs.AR cs.CV cs.LG
Design Environment of Quantization-Aware Edge AI Hardware for Few-Shot Learning
Research Institute of Electrical Communication, Tohoku University(东北大学电气通信研究所);Graduate School of Engineering, Tohoku University(东北大学工学院);IMT Atlantique, Lab-STICC, UMR CNRS 6285(大西洋高等矿业学院,实验室-STICC,法国国家科学研究中心联合研究单位6285)
本研究提出了一种面向少样本学习的边缘AI硬件设计环境,通过定点数据处理实现精度一致性,展示了在低位宽下维持高性能的潜力。
2026-02-01 cs.AR
Hardware Generation and Exploration of Lookup Table-Based Accelerators for 1.58-bit LLM Inference
KU Leuven(荷语鲁汶大学)
本文提出一种基于查找表的加速器设计框架,通过系统化分析揭示了三元权重计算的架构权衡,优化设计在面积上比乘法器基线减少了2.2倍,并通过基准测试证明了参数修正可进一步提升性能。
2026-04-28 cs.AR
PolyQ: Codesigning End-to-End Quantization Framework for Scalable Edge CPU LLM Inference
University of California, Irvine(加利福尼亚大学欧文分校)
研究针对CPU上大语言模型推理的量化问题,提出PolyQ方法,通过激活感知的逐通道比特分配及编译时模型编译器优化,实现分数比特部署,在多个模型上提升质量,在不同CPU上有良好性能,证明其在边缘设备推理的实用性、可预测性和节能性。
2026-07-17 cs.AR cs.LG cs.OS
Bit-balance: Model-Hardware Co-design for Accelerating NNs by Exploiting Bit-level Sparsity
位串行结构可以处理具有不同权重精度的神经网络(NN),与位并行结构相比实现了更高的资源效率。此外,由于神经网络的容错性,权值中包含大量的零比特,这表明可以进一步利用神经网络的比特稀疏性来提高性能。然而,每个权重中的零位的不规则比例导致处理元件(PE)阵列中的不平衡工作负载,这降低了性能或引起稀疏处理的开销。因此,本文提出了一种比特稀疏量化方法,在保证精度损失较小的前提下,使每个权值的比特稀疏率保持在一定值以内,以平衡负载。然后,我们共同设计了一个稀疏位串行架构,称为比特平衡,以提高整体性能,支持权重位稀疏和自适应位宽计算。整个设计采用65 nm技术在1 GHz下实现,并分别为AlexNet,VGG-16,ResNet-50和GoogleNet执行326,30,56和218帧/秒。与稀疏比特串行加速器Bitlet相比,Bit-balance实现了1.8倍~ 2.7倍的能量效率(帧/J)和2.1倍~ 3.7倍的资源效率(帧/mm 2)。
2023-02-01 cs.AR cs.DC
Recycled Error Bits: Energy-Efficient Architectural Support for Higher Precision Floating Point
在这项工作中,我们提供了节能的架构支持浮点精度。我们的目标是提供比处理器的硬件浮点单元(FPU)更高的精度。具体来说,对于执行的每个浮点加法,我们“回收”该操作的错误:硬件产生的有限精度结果与无限精度FPU产生的结果之间的差异。我们让这个错误在架构上可见,这样如果需要的话,软件就可以使用它。物理硬件上的实验结果表明,利用架构回收的错误位的软件可以实现与2B位FPU相当的精度,与B位FPU相当的性能和能量。
2013-09-27 cs.AR
Closing the Gap Between Float and Posit Hardware Efficiency
Birla Institute of Technology and Science, Pilani, Hyderabad Campus(比拉理工学院,皮拉尼分校,海德拉巴校区);Arizona State University(亚利桑那州立大学)
b-posit通过限制范围字段和优化硬件设计,在保持正数精度的同时,显著降低了功耗、面积和延迟,优于传统浮点和正数硬件。
2026-03-02 cs.AR
Hardware Acceleration of Kolmogorov-Arnold Network (KAN) for Lightweight Edge Inference
本文首次采用算法-硬件协同设计方法,结合算法层优化与电路层ACIM相关技术,实现KAN的硬件加速,在22nm工艺下相比传统DNN硬件大幅降低面积与能耗并提升精度。
2024-09-09 cs.AR
Non-Parametric Dual-Manifold Mapping via 8-Bit Bounded Transformation Matrices: Challenging FP-centric Hardware Paradigms in Low-Energy AI
提出一种非参数、免训练的8位整数计算框架,通过位运算和累加逻辑实现双流形映射,消除浮点乘法,在90%截断稀疏性和20%随机节点破坏下保持近完美重构,挑战传统浮点硬件范式。
2026-06-12 cs.AR
'1'-bit Count-based Sorting Unit to Reduce Link Power in DNN Accelerators
Department of Electronics and Embedded Systems(电子与嵌入系统系)
本文提出了一种基于近似计算的无比较排序单元,通过减少硬件面积和链路功率来优化CNN加速器中的数据排序。
2026-01-20 cs.AI cs.AR cs.LG
Towards Efficient LUT-based PIM: A Scalable and Low-Power Approach for Modern Workloads
本文提出基于LUT的PuM架构Lama,利用DRAM mat级并行性减少激活命令开销,支持8位运算且面积开销仅2.47%,并进一步提出LamaAccel加速器,在性能和能效上显著超越现有PuM架构、CPU、TPU和GPU。
2025-02-04 cs.AR
Hardware Trojan Detection Using Controlled Circuit Aging
NYU Tandon School of Engineering(纽约大学坦登工程学院);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);University of Texas at Dallas(德克萨斯大学达拉斯分校)
本文报道了一种新的方法,使用集成电路(IC)中的晶体管老化来检测硬件木马。当晶体管老化时,它会导致沿着IC的几条路径的延迟。这种延迟的增加导致时序违规,其在IC的操作期间在IC的输出处显示为时序误差。我们目前的实验使用老化感知的标准单元库来说明该技术在检测硬件木马的有用性。将IC老化与超频相结合,会通过引发的时序违规在IC输出端产生一种比特错误模式。我们使用机器学习来学习干净IC输出端的比特误差分布。我们区分位错误的模式,因为从这个基线分布的IC中的木马的分歧。我们模拟的黄金IC和IC到IC的制造变化的鲁棒性。该方法是有效的,可以检测到木马,即使我们把它远离关键路线。来自Trust-hub的基准测试结果显示检测准确率为$\geq$ 99%。
2020-04-21 cs.AR cs.CR cs.LG
KANELÉ: Kolmogorov-Arnold Networks for Efficient LUT-based Evaluation
Massachusetts Institute of Technology(麻省理工学院)
提出KANELÉ框架,利用Kolmogorov-Arnold网络(KAN)的独特性质,通过量化与剪枝协同优化,首次系统实现FPGA上的高效LUT映射,相比先前方法加速高达2700倍并节省大量资源。
2026-06-18 cs.AR cs.LG cs.SY
Reverse Engineering Word-Level Models from Look-Up Table Netlists
从位流到RTL模型的FPGA设计的逆向工程有助于理解设计的高级功能以及验证和重建传统设计。快速进位链通常用于FPGA设计中的运算符综合。我们提出了一种方法来检测字级结构,通过分析这些进位链的LUT(查找表)级网表。我们还提出了方法,以适应现有的技术,以确定组合操作和顺序模块的ASIC网表LUT网表。所有开发和调整的技术被整合到一个集成的工具链中,以帮助从LUT级网表进行字级设计的逆向工程。当对一组真实世界的设计进行评估时,工具链推断网表中34%到100%的元素是已知字级操作或已知顺序模块的一部分。
2023-03-05 cs.AR
Enhancing LUT-based Deep Neural Networks Inference through Architecture and Connectivity Optimization
School of Electrical and Computer Engineering(电气与计算机工程学院);The University of Sydney(悉尼大学)
SparseLUT通过架构优化和非贪心训练算法,显著降低LUT消耗和推理延迟,提升DNN在边缘设备上的精度表现。
2026-01-14 cs.AI cs.AR
Bitwise Systolic Array Architecture for Runtime-Reconfigurable Multi-precision Quantized Multiplication on Hardware Accelerators
Dresden University of Technology, Germany(德累斯顿理工大学);Ruhr University Bochum, Germany(博德大学);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI Dresden/Leipzig), Germany(可扩展数据与人工智能研究中心(ScaDS.AI 德累斯顿/莱比锡))
提出一种运行时可重构的多精度多通道位级脉动阵列,支持混合精度量化神经网络推理,在FPGA上实现1.32-3.57倍加速,最高时钟频率250MHz。
2026-06-24 cs.AI cs.AR
Performance Analysis of Hardware-Accelerated 10-Bit 4:2:2 Encoding with Split-Frame Encoding for High-Fidelity V-PCC Streaming
School of Fundamental Science and Engineering, Waseda University(早稻田大学基础科学与工程学院)
针对高保真V-PCC流媒体对10位4:2:2编码的实时需求,本文利用Blackwell GPU的四个硬件编码器实现分帧编码,达到122 fps吞吐量,验证了通用GPU的可行性。
2026-06-28 cs.AR cs.MM eess.IV
Optimizing Bit-Serial Matrix Multiplication for Reconfigurable Computing
矩阵-矩阵乘法是科学和工程中众多应用的关键计算内核,具有足够的并行性和数据局部性,适合高性能实现。许多依赖矩阵乘法的应用程序可以使用降低精度的整数或定点表示来提高性能和能效,同时仍然提供足够的结果质量。然而,精度要求可能在不同的应用阶段之间变化,或者取决于输入数据,从而使得恒定精度解决方案无效。BISMO是一种用于可重构计算的矢量化位串行矩阵乘法覆盖,以前利用FPGA的出色二进制运算性能来提供矩阵乘法性能,该性能可按所需的精度和并行性进行扩展。我们展示了如何BISMO可以扩大Xilinx FPGA使用的算术架构,更好地利用6-LUT。改进的BISMO在采用Xilinx UltraScale+ MPSoC的Ultra 96板上实现了15.4二进制TOPS的峰值性能。
2019-06-11 cs.AR
High-Speed Area-Efficient Hardware Architecture for the Efficient Detection of Faults in a Bit-Parallel Multiplier Utilizing the Polynomial Basis of GF(2m)
针对有限域位并行乘法器,提出基于BCH解码器(BRS算法与Chien搜索)的故障检测架构,实现45位乘法器关键路径延迟降低37%-49%,硬件复杂度仅为80%。
2023-07-26 cs.AR cs.IT math.IT
Prevention of Microarchitectural Covert Channels on an Open-Source 64-bit RISC-V Core
隐蔽通道使信息能够跨越操作系统的安全边界泄漏。微体系结构的隐蔽通道利用竞争访问有限的硬件资源导致的执行时序的变化。我们使用最近的实验支持的时间保护,旨在防止隐蔽通道,在seL 4微内核和评估的有效性的机制对五个已知的通道阿丽亚娜,一个开源的64位应用级RISC-V核心。我们确认,如果没有硬件支持,这些防御是昂贵和不完整的。我们表明,在RISC-V ISA中添加一个单指令扩展,刷新微架构状态,可以使操作系统关闭所有五个评估的隐蔽通道,上下文切换成本和硬件开销的增加很低。我们的结论是,这种机制对安全至关重要。
2020-05-01 cs.AR cs.CR
Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs
IIIT-Bangalore(印度信息技术学院班加罗尔分校)
本研究针对权重静止型脉动阵列的浮点数乘法器,采用NSGA-II算法优化设计,通过部分积矩阵截断与压缩器融合,实现了脉动阵列硬件效率提升且保持相当的CNN准确率。
2026-08-25 cs.AR cs.ET cs.LG
A Flexible Design for Optimization of Hardware Architecture in Distributed Arithmetic based FIR Filters
FIR滤波器用于许多性能/功率关键应用,例如移动通信设备、模数转换器和数字信号处理应用。设计适当的FIR滤波器通常会导致滤波器阶数的增加。如何设计出具有合理延迟、面积和功耗的高阶FIR滤波器成为硬件设计者面临的一个重要挑战。在很多情况下,高阶滤波器的复杂性导致整体设计的约束不能得到满足。本文提出了一种高效的基于分布式算法(DA)的FIR滤波器硬件结构。该架构基于查找表(LUT)和压缩器的优化组合。通过一组动态规划优化算法得到系统级的优化解。实验结果表明,与以前的DA结构相比,所提出的设计的延迟成本在16%-62.5%之间。
2014-03-18 cs.AR
FlexiBit: Fully Flexible Precision Bit-parallel Accelerator Architecture for Arbitrary Mixed Precision AI
本文提出FlexiBit加速器架构,通过位并行处理任意精度与格式的FP/INT运算,解决现有硬件仅支持2的幂次精度及格式固定导致的灵活性不足问题,在FP6 GPT-3上相比Tensor Core类架构和BitFusion分别实现1.66倍和1.62倍每面积性能提升。
2025-06-04 cs.AR
BP-NTT: Fast and Compact in-SRAM Number Theoretic Transform with Bit-Parallel Modular Multiplication
针对格密码 NTT 在边缘设备上的硬件实现瓶颈,提出缓存内计算与位并行模乘法及零成本移位相结合的方案,在多种参数设置下显著提升能效和面积效率。
2023-04-22 cs.AR cs.CR
SMASH: Co-designing Software Compression and Hardware-Accelerated Indexing for Efficient Sparse Matrix Operations
重要的工作负载,如机器学习和图形分析应用程序,大量涉及稀疏线性代数运算。这些操作使用稀疏矩阵压缩作为避免存储零和对零元素执行不必要计算的有效手段。然而,如今广泛使用的压缩技术(如压缩稀疏行(CSR))引入了显著的指令开销和昂贵的指针追踪操作来发现非零元素的位置。在本文中,我们确定了位置的发现(即,索引)作为基于稀疏矩阵的工作负载中的关键瓶颈,这大大降低了压缩的好处。我们提出了SMASH,一个硬件-软件的合作机制,使高效的索引和稀疏矩阵的存储。SMASH的关键思想是显式地使硬件能够识别和利用数据中的稀疏性。为此,我们设计了一种新的软件编码的基础上的层次结构的位图。这种编码可以用于有效地压缩任何稀疏矩阵,而不管稀疏的程度和结构。同时,位图编码可以直接由硬件解释。我们设计了一个轻量级的硬件单元,位图管理单元(BMU),缓冲和扫描位图层次结构,以执行高效的稀疏矩阵索引。SMASH公开了一个富有表现力和丰富的ISA来与BMU通信,这使得它能够用于加速任何稀疏矩阵计算。我们在四个用例中展示了SMASH的优势,包括稀疏矩阵内核和图形分析应用程序。
2019-10-23 cs.AR cs.DC
Panacea: Novel DNN Accelerator using Accuracy-Preserving Asymmetric Quantization and Energy-Saving Bit-Slice Sparsity
Pohang University of Science and Technology (POSTECH)(浦项科技大学);University of Michigan(密歇根大学)
针对传统对称量化精度损失、现有非对称量化位片难以压缩导致的DNN推理效率问题,提出AQS-GEMM与两种协同优化方法,设计Panacea加速器,兼顾高精度与硬件效率,性能优于现有方案。
2024-12-13 cs.AI cs.AR
N3H-Core: Neuron-designed Neural Network Accelerator via FPGA-based Heterogeneous Computing Cores
Shanghai Qi Zhi Institute(上海期智研究院);Shanghai Jiao Tong University(上海交通大学);Alibaba Group US Inc.(阿里巴巴集团美国公司);Alibaba Group(阿里巴巴集团)
由于FPGA的可重构性和高性能计算能力本质上满足了快速进化的神经算法的计算需求,利用FPGA加速神经网络推理已成为一种流行的选择。然而,FPGA上流行的神经加速器(例如,Xilinx DPU)主要利用DSP资源来构建其处理单元,而丰富的LUT资源没有得到很好的利用。通过软硬件协同设计的方法,在这项工作中,我们开发了一个基于FPGA的异构计算系统的神经网络加速。从硬件的角度来看,所提出的加速器由基于DSP和LUT的通用矩阵乘法(GEMM)计算核心组成,以异构的方式形成整个计算系统。基于DSP和LUT的GEMM核心是在统一的指令集架构(ISA)和统一的缓冲区中计算的。沿着神经网络推理路径的数据流,卷积/全连接层的计算被分成两部分,由基于DSP和LUT的GEMM内核异步处理。从软件的角度来看,我们数学和系统地模拟的延迟和资源利用率的建议异构加速器,关于不同的系统设计配置。通过利用强化学习技术,构建了一个实现目标异构加速器设计规范端到端选择和优化的框架,包括工作负载划分策略、混合精度量化方案以及DSP核和LUT核的资源分配。凭借所提出的设计框架和异构计算系统,我们的设计优于最先进的Mix&Match设计,延迟减少了1.12- 1.32倍,具有更高的推理精度。N3 H核心是开源的:https://github.com/elliothe/N3H_Core。
2021-12-15 cs.AI cs.AR cs.PF
ShatterQuant: Breaking Uniform Precision with Block-Wise Mixed-Precision on a Systolic Transformer Hardware Accelerator
Johns Hopkins University(约翰斯·霍普金斯大学);KU Leuven(鲁汶大学)
ShatterQuant通过软硬件协同设计,在脉动阵列加速器上实现块级混合精度量化,在低2位有效位宽下达到接近最先进精度,并提升面积与能效。
2026-10-02 cs.AI cs.AR eess.IV
Efficient Hardware Design and Implementation of Encrypted MIPS Processor
介绍了基于MIPS流水线结构的32位加密MIPS处理器的设计和硬件实现。流水线级的组织方式,使流水线能够以高频率计时。借助框图,详细说明了数据加密标准(DES)密码体制的加、解密模块及其相互间的依赖关系。为了增加处理器的功能和性能,特别是对于安全应用,我们包括三个新的指令32位LKLW,LKUW和CMPT。该设计已综合在40纳米工艺技术的目标使用Xilinx Virtex-6设备。该加密MIPS流水线处理器在合成级可以工作在218 MHz,在模拟级可以工作在744 MHz。
2015-03-08 cs.AR cs.CR
Efficient Hardware Implementation of Modular Multiplier over GF (2m) on FPGA
本文提出一种结合传统乘法与Karatsuba乘法的混合模乘硬件实现,面向NIST B-163/233/283/571参数,在FPGA上显著降低LUT使用、提升延迟与面积-延迟积,优化ECC点乘效率。
2025-06-24 cs.AR cs.CR
GRAU: A Generic Runtime-Reconfigurable Activation-Requantization Unit for Quantized Neural Network Accelerators
Ruhr University Bochum, Germany(博德姆鲁尔大学);Dresden University of Technology, Germany(德累斯顿技术大学);Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI Dresden/Leipzig), Germany(可扩展数据与人工智能中心(ScaDS.AI 德累斯顿/莱比锡))
提出基于分段线性拟合的可重构激活硬件GRAU,用2的幂近似斜率,仅需比较器和1位移位器,支持混合精度量化和SiLU等非线性函数,相比多阈值激活器减少90%以上LUT消耗,在6-8段时达到最佳权衡。
2026-10-20 cs.AI cs.AR
An Efficient Algorithm for Modulus Operation and Its Hardware Implementation in Prime Number Calculation
本文提出一种仅用加减、逻辑和移位操作的 FPGA 取模算法,周期数满足 y=2x+2,并通过素数计算验证其高效与可扩展性。
2025-01-09 cs.AR cs.CR
Microshift: An Efficient Image Compression Algorithm for Hardware
本文提出了一种图像压缩算法Microshift。我们采用的算法硬件协同设计方法,产生一个硬件友好的压缩方法,低功耗。在我们的方法中,首先对图像进行微位移,然后对子量化值进行进一步压缩。提出了利用自然图像的空间相关性恢复图像位深的两种方法:FAST模型和MRF模型。这两种方法都可以渐进地对图像进行消隐。我们的压缩算法将图像压缩到平均每像素1.25位,PSNR为33.16 dB,优于其他片上压缩算法。然后,我们提出了一个硬件架构,并实现了FPGA和ASIC上的算法。VLSI设计的结果进一步验证了该方法的低硬件复杂度和高功耗效率,表明该方法是有前途的,特别是对于低功耗的无线视觉传感器网络。
2021-04-20 cs.AR eess.IV eess.SP
CERMET: Coding for Energy Reduction with Multiple Encryption Techniques -- $It's\ easy\ being\ green$
本文提出CERMET高能效硬件架构,将基础密码系统与网络编码结合,在保证安全性和吞吐量的同时显著降低能耗与面积,AES-256能耗低于1 pJ/bit,ECC公钥系统能耗降低14.6倍。
2023-08-09 cs.AR cs.CR cs.IT
SHIELD8-UAV: Sequential 8-bit Hardware Implementation of a Precision-Aware 1D-F-CNN for Low-Energy UAV Acoustic Detection and Temporal Tracking
Dept. of Electrical Engineering Indian Institute of Technology Jammu Jagti 181221, India(电气工程系 印度理工学院贾姆鲁分校)
SHIELD8-UAV通过顺序8位硬件实现精确感知1D-F-CNN加速器,实现低功耗无人机声学检测与时间跟踪,较传统方法在延迟和功耗上均有显著提升。
2026-03-01 cs.AR cs.CV cs.NA