BoolNet: Minimizing The Energy Consumption of Binary Neural Networks
Hasso Plattner Institute(哈索·普拉特纳研究所);Tsinghua University(清华大学)
二进制神经网络(BNN)的最新研究工作在缩小BNN与32位网络的精度差距方面取得了可喜的进展。然而,精度增益通常基于使用额外32位组件的专用模型设计。此外,几乎所有以前的BNN都使用32位的特征映射和包含相应二进制卷积块的快捷方式,这有助于有效地保持准确性,但对于内存、能量和计算资源有限的硬件加速器来说并不友好。因此,我们提出了以下问题:如何在BNN网络设计中平衡精度和能耗?在这项工作中,我们广泛研究这个基本问题,并提出了一种新的BNN架构,没有最常用的32位组件:\textit{BoolNet}。在ImageNet上的实验结果表明,BoolNet可以实现4.6倍的能量降低,并且比常用的BNN架构Bi-RealNet高1.2%的准确率。代码和训练模型可在www.example.com上获得。
2021-06-13 cs.AI cs.LG
AdAM: Adaptive Fault-Tolerant Approximate Multiplier for Edge DNN Accelerators
University of Zanjan(赞詹大学);Mälardalen University(梅拉达伦大学);Tallinn University of Technology(塔林理工大学)
本研究提出了一款名为AdAM的新型自适应容错近似乘法器架构,专门适配基于ASIC的边缘DNN加速器。
2024-03-05 cs.AI cs.AR cs.LG
XNOR Neural Engine: a Hardware Accelerator IP for 21.6 fJ/op Binary Neural Network Inference
ETH Zürich(苏黎世联邦理工学院);University of Bologna(博洛尼亚大学)
二进制神经网络(BNN)有望以内存和能量成本的一小部分提供与传统深度神经网络相当的准确性。在本文中,我们介绍了XNOR神经引擎(XNE),一个全数字可配置的硬件加速器IP的BNN,集成在一个微控制器单元(MCU)配备了一个自主的I/O子系统和混合SRAM /标准单元存储器。XNE能够自主或与MCU中的核心合作完全计算卷积层和密集层,以实现更复杂的行为。我们展示了XNE IP在65 nm和22 nm技术下的后合成结果以及完整MCU在22 nm下的后布局结果,表明该系统可以在0.4V下将每次二进制操作的能量成本降低到每次操作21.6fJ,同时具有足够的灵活性和性能,可以执行最先进的BNN拓扑,如ResNet,在8.9 fps时,每帧不到2.2mJ。
2018-07-09 cs.AR cs.LG cs.NE
Training Progressively Binarizing Deep Networks Using FPGAs
James Cook University(詹姆斯库克大学);College of Science and Engineering(科学与工程学院)
虽然用于二进制神经网络(BNN)的推理例程的硬件实现是丰富的,但适用于物联网(IoT)边缘设备的高效BNN硬件训练加速器的当前实现还有很多需要改进的地方。传统的BNN硬件训练加速器使用采用二进制表示的参数执行前向和后向传播,并使用采用浮点或定点实值表示的参数进行优化-需要两组不同的网络参数。在本文中,我们提出了一种硬件友好的训练方法,与传统方法相反,逐步二进制化一组奇异的定点网络参数,从而显着降低功耗和资源利用率。我们使用面向OpenCL的英特尔FPGA SDK开发环境,在OpenVINO FPGA上训练渐进式二进制化DNN。我们使用CIFAR-10在GPU和FPGA上对我们的训练方法进行基准测试,并将其与传统BNN进行比较。
2020-01-08 cs.CV cs.LG eess.IV
Comparison of Deep Recurrent Neural Networks and Bayesian Neural Networks for Detecting Electric Motor Damage Through Sound Signal Analysis
AGH University of Krakow(克拉科夫AGH科技大学)
本研究针对电动机故障检测的行业挑战,提出利用声音信号频域表示的方法,对比评估RNNs与BNNs在真实声学数据上的性能,发现BNNs在故障检测尤其是不平衡数据集上更优,适合工业诊断应用。
2025-02-07 cs.LG
Exploring Fault-Energy Trade-offs in Approximate DNN Hardware Accelerators
University of Missouri(密苏里大学);The University of Texas at Dallas(德克萨斯大学达拉斯分校)
基于系统阵列的深度神经网络(DNN)加速器最近因其低计算成本而获得了重视。然而,它们的高能耗对其在能量受限设备中的部署构成了瓶颈。为了解决这个问题,近似计算可以采用一些可容忍的精度损失的代价。然而,这种小的精度变化可能会增加DNN对不期望的细微干扰(例如永久性故障)的敏感性。永久性故障对精确DNN的影响已经在文献中进行了彻底的研究。相反,近似DNN加速器(AxDNN)中永久性故障的影响尚未得到充分研究。这种故障的影响可能随着AxDNN层中的故障位位置、激活函数和近似误差而变化。这种动态性对探索AxDNN的能量效率和故障恢复能力之间的权衡提出了相当大的挑战。为此,我们使用最先进的Evoaprox8b符号乘法器对不同AxDNN进行了广泛的逐层和逐位故障恢复和能量分析。特别是,我们改变固定在0,固定在1故障位的位置,和激活函数,以研究其影响使用最广泛使用的MNIST和时尚MNIST数据集。我们的定量分析表明,与精确的DNN加速器相比,永久性故障加剧了AxDNN的准确性损失。例如,AxDNN中的永久性故障可能导致高达66%的准确性损失,而在精确的DNN加速器中,相同的故障位可能仅导致9%的准确性损失。我们的研究结果表明,AxDNN中的故障恢复与能量效率正交。
2021-01-08 cs.AI cs.AR cs.LG
On the Resilience of RTL NN Accelerators: Fault Characterization and Mitigation
Georgia Institute of Technology(佐治亚理工学院);Twentieth Century Fox(二十世纪福克斯公司);Starfleet Academy(星际舰队学院);Barcelona Supercomputing Center(巴塞罗那超级计算中心);Tyrell Inc.(泰瑞尔公司)
机器学习(ML)正在与大量生成的非结构化数据保持一致,这反过来又需要大量的计算资源。由于神经网络(NN)固有的计算和功耗密集型结构,硬件加速器成为一种有前途的解决方案。然而,随着技术节点扩展到10 nm以下,硬件加速器变得更容易出现故障,这反过来会影响NN的准确性。在本文中,我们研究了寄存器传输级(RTL)模型的NN加速器的弹性方面,特别是,故障表征和缓解。通过以下的高层次综合(HLS)的方法,首先,我们的RTL神经网络的各个组件的脆弱性的特征。我们观察到故障的严重性取决于i)应用级规范,即,NN数据(输入、权重或中间)、NN层和NN激活函数,以及ii)架构级规范,即,数据表示模型和底层加速器的并行度。其次,由表征结果的动机,我们提出了一种低开销的故障缓解技术,可以有效地纠正位翻转,比最先进的方法好47.3%。
2018-06-14 cs.AR cs.LG stat.ML
High-level Modeling of Manufacturing Faults in Deep Neural Network Accelerators
The University of Texas at Dallas(得克萨斯大学达拉斯分校);University of Missouri(密苏里大学)
数据驱动的实时应用的出现需要在机器学习加速器上实现深度神经网络(DNN)。谷歌的张量处理单元(TPU)就是这样一个神经网络加速器,它使用基于脉动阵列的矩阵乘法硬件进行计算。矩阵乘法单元的任何状态元素处的制造故障都可能在这些推理网络中引起意外错误。在本文中,我们提出了一个正式的模型,永久性故障及其传播的TPU使用离散时间马尔可夫链(DTMC)的形式主义。所提出的模型进行了分析,使用概率模型检验技术的原因故障输出的可能性。定量结果表明,永久性故障的分类精度与永久性故障的类型、位置、位数以及神经网络的层数有关。从我们的理论模型的结论已经验证了使用实验的数字识别为基础的DNN。
2020-10-26 cs.LG cs.PF stat.ML
RIFT: A Scalable Methodology for LLM Accelerator Fault Assessment using Reinforcement Learning
Department of Electrical Engineering and Computer Science(电气工程与计算机科学系);University of Missouri-Columbia(密苏里大学哥伦比亚分校)
RIFT通过强化学习引导智能故障定位,实现高效LLM加速器故障评估,提升故障覆盖率与成本效益
2025-12-10 cs.AI cs.LG
Estimating uncertainty of earthquake rupture using Bayesian neural network
本文利用贝叶斯神经网络处理地震破裂模拟中的小数据问题,识别关键参数并量化不确定性,发现正应力对破裂传播影响最大且不确定性最高。
2023-04-11 cs.LG physics.geo-ph stat.ML
Algorithmic Strategies for Sustainable Reuse of Neural Network Accelerators with Permanent Faults
University of North Carolina at Charlotte(北卡罗来纳大学夏洛特分校);Ohio University(俄亥俄大学);The George Washington University(乔治华盛顿大学)
本文提出新颖的算法策略,通过整合而非绕过故障组件行为,利用可逆缩放、移位和微调等技术缓解脉动阵列神经网络加速器中的永久性故障,无需硬件修改即可恢复接近无故障时的准确率。
2024-12-17 cs.AR cs.LG
Using Convolutional Neural Networks for fault analysis and alleviation in accelerator systems
Thapar Institute of Engineering and Technology(塔帕尔工程技术学院);PES College of Engineering(PES工程学院)
今天,神经网络是几乎所有技术领域突破的基础。它们在加速器中的应用最近在这些系统中产生了更好的性能和效率。与此同时,由于最新的(缩小的)半导体技术而导致的硬件故障越来越多,需要加以解决。由于加速器系统通常用于支持时间关键型应用,例如自动驾驶汽车或医疗诊断应用,因此必须消除这些硬件故障。我们的研究从系统的角度评估这些失败。基于我们的研究结果,我们发现关键的结果,系统的可靠性增强,我们进一步提出了一种有效的方法,以避免这些故障,以最小的硬件开销。
2021-12-05 cs.LG
SoftSNN: Low-Cost Fault Tolerance for Spiking Neural Network Accelerators under Soft Errors
Technische Universität Wien (TU Wien)(维也纳工业大学(TU Wien));New York University Abu Dhabi (NYUAD)(纽约大学阿布扎比分校(NYUAD))
专门的硬件加速器已被设计和采用,以最大限度地提高脉冲神经网络(SNN)的性能效率。然而,这种加速器易受瞬时故障(即,软错误),其由于高能粒子撞击而发生,并且表现为硬件层处的位翻转。这些错误可能会改变SNN加速器计算引擎中的权重值和神经元操作,从而导致不正确的输出和精度下降。然而,计算引擎中的软错误的影响和相应的缓解技术尚未对SNN进行彻底研究。一个潜在的解决方案是采用冗余执行(重新执行)来确保正确的输出,但它会导致巨大的延迟和能量开销。为此,我们提出了SoftSNN,一种新的方法来减轻SNN加速器的权重寄存器(突触)和神经元中的软错误,而无需重新执行,从而以低延迟和能量开销保持准确性。我们的SoftSNN方法采用了以下关键步骤:(1)分析软错误下的SNN特性,以识别错误的权重和神经元操作,这是识别错误的SNN行为所需的;(2)一个绑定和保护技术,利用这种分析,以提高SNN的容错通过绑定的权重值和保护神经元从错误的操作;以及(3)为神经硬件加速器设计轻量级硬件增强以有效地支持所提出的技术。实验结果表明,对于一个900个神经元的网络,即使故障率很高,我们的SoftSNN保持精度下降低于3%,同时减少延迟和能量分别高达3倍和2.3倍,相比,重新执行技术。
2022-03-12 cs.AR cs.LG cs.NE
eFAT: Improving the Effectiveness of Fault-Aware Training for Mitigating Permanent Faults in DNN Hardware Accelerators
New York University Abu Dhabi(纽约大学阿布扎比分校)
本文提出 eFAT 框架,通过韧性驱动的重训练量选择及多芯片故障图分组融合,在保证精度约束下显著降低多颗永久性故障 DNN 加速器芯片的 FAT 重训练成本。
2023-04-20 cs.AR cs.LG
FARe: Fault-Aware GNN Training on ReRAM-based PIM Accelerators
Washington State University(华盛顿州立大学);University of Houston(休斯顿大学)
本文提出故障感知框架FARe,针对ReRAM存内计算加速器上的硬件故障问题,在约1%时序开销下将GNN测试精度恢复47.6%,优于现有容错方案。
2024-01-19 cs.AR cs.LG
RescueSNN: Enabling Reliable Executions on Spiking Neural Network Accelerators under Permanent Faults
New York University Abu Dhabi (NYUAD)(纽约大学阿布扎比分校)
针对SNN芯片永久性故障影响精度的问题,提出无需重训练的RescueSNN方法,通过故障感知映射和轻量级硬件增强,在高故障率下将精度提升高达80%且吞吐量降低不超过25%。
2023-04-08 cs.AI cs.AR cs.LG
FAQ: Mitigating the Impact of Faults in the Weight Memory of DNN Accelerators through Fault-Aware Quantization
New York University Abu Dhabi(纽约大学阿布扎比分校)
针对DNN加速器片上权重存储器中的永久性故障,提出基于查找表的故障感知量化(FAQ)技术,以极低的开销替代昂贵的故障感知再训练,在低至中等故障率下有效保持模型精度并加速精度恢复。
2023-05-21 cs.AR cs.LG
Exploration of Activation Fault Reliability in Quantized Systolic Array-Based DNN Accelerators
Tallinn University of Technology(塔林理工大学);University of Alberta(阿尔伯塔大学);Shahid Bahonar University of Kerman(克尔曼沙希德·巴霍纳尔大学);York University(约克大学);Mälardalen University(梅拉达伦大学)
本文提出一种全自动框架,系统评估量化对DNN加速器模型精度、激活故障可靠性和硬件效率的三方面影响,并集成轻量级保护技术以保障脉动阵列FPGA实现的可靠部署。
2024-01-17 cs.AR cs.LG
Special Session: Approximation and Fault Resiliency of DNN Accelerators
Tallinn University of Technology(塔林理工大学);University of Naples Federico II(那不勒斯费德里科二世大学);Ecole Centrale de Lyon(里昂中央理工学院);Mälardalen University(马拉达伦大学);Politecnico di Torino(都灵理工大学)
本文研究DNN加速器的近似与故障弹性,提出用AxC算术电路仿真硬件错误,并构建基于GPU的仿真框架及细粒度故障传播与屏蔽分析方法。
2023-05-31 cs.AR cs.DC cs.LG
Analyzing and Mitigating the Impact of Permanent Faults on a Systolic Array Based Neural Network Accelerator
New York University(纽约大学)
由于其日益普及和计算成本,深度神经网络(DNN)正成为硬件加速的目标。谷歌张量处理单元(TPU)采用的DNN加速的流行架构在其核心使用了基于脉动阵列的矩阵乘法单元。本文论述了高缺陷率技术的容错,脉动阵列为基础的DNN加速器的设计。为此,我们的经验表明,即使在极低的故障率(低至$0.006\%$)的基线TPU的分类精度显着下降。然后,我们提出了两种新的策略,故障感知修剪(FAP)和故障感知修剪+再训练(FAP+T),使TPU的故障率高达$50\%$,可以忽略不计的分类精度下降(低至$0.1\%$),没有运行时的性能开销。FAP+T确实在部署之前对每个TPU芯片引入了一次性的再训练惩罚,但我们提出了将这种一次性惩罚减少到12分钟以下的优化。然后,在TPU的整个操作寿命期间摊销惩罚。
2018-02-17 cs.AR cs.CV cs.LG
Artificial Neural Networks and Fault Injection Attacks
Worcester Polytechnic Institute(伍斯特理工学院)
本章是关于人工智能(AI)和神经网络(NN)加速器在面对故障注入攻击时的安全性评估。更具体地说,它讨论了这些平台上的资产,并将它们与加密系统领域已知和深入研究的资产进行了比较。这是为了精确定义威胁模型而必须采取的关键步骤。关于这一点,探讨了安装在NN和AI加速器上的故障攻击。
2021-02-11 cs.CR cs.LG
SAFFIRA: a Framework for Assessing the Reliability of Systolic-Array-Based DNN Accelerators
Tallinn University of Technology(塔林理工大学);Mälardalen University(梅拉达伦大学);Ecole Centrale de Lyon(里昂中央理工学院)
针对基于脉动阵列的DNN加速器现有故障注入可靠性评估方法耗时的问题,本文提出名为SAFFIRA的新型分层软件基硬件感知故障注入策略框架,以提升评估效率。
2024-03-05 cs.AI cs.AR cs.LG
Fault Prognosis in Particle Accelerator Power Electronics Using Ensemble Learning
Oak Ridge National Laboratory(橡树岭国家实验室)
早期故障检测和故障预测对于确保复杂工程系统(如Spanish中子源(SNS)及其电力电子设备(高压转换器调制器))的高效和安全运行至关重要。在模拟SNS操作条件的先进实验设施设置之后,作者成功地进行了21次故障预测实验,其中故障前兆在系统中引入到足以引起波形信号退化的程度,但不足以达到真正的故障。九种不同的机器学习技术的基础上集成树,卷积神经网络,支持向量机,分层投票集成提出了检测故障的前兆。尽管所有9个模型在训练和测试阶段都表现出完美和相同的性能,但一旦暴露于21个实验的真实数据,大多数模型的性能在预测阶段就会下降。分层投票集成具有多层不同的模型,在故障前兆的早期检测中保持了出色的性能,成功率为95%(20/21测试),其次是adaboost和极端随机树,成功率分别为52%和48%。支持向量机模型是最差的,只有24%的成功率(5/21测试)。该研究得出的结论是,在SNS或粒子加速器动力系统中成功实施机器学习需要对控制器和数据采集系统进行重大升级,以促进机器学习模型的大数据流和处理。此外,这项研究表明,表现最好的模型是多样化的,并基于集成概念,以减少个别模型的偏差和超参数敏感性。
2022-09-30 cs.LG cs.SY eess.SY
LUMION: Fast Fault Recovery for ML Jobs Using Programmable Optical Fabrics
针对ML数据中心故障迁移整机架导致资源效率低的问题,提出新型可重构光矩阵LUMION,可动态整合备用加速器,1秒内完成故障GPU替换重启,微调吞吐量提升近2倍。
2025-10-04 cs.LG cs.NI
Multi-module based CVAE to predict HVCM faults in the SNS accelerator
Thomas Jefferson National Accelerator Facility(托马斯·杰斐逊国家加速器设施);Oak Ridge National Laboratory(橡树岭国家实验室);The University of Michigan(密歇根大学)
提出以调制器类型为条件的多模块 CVAE 框架,通过比较多种 NN 架构和损失曲面,在 SNS 数据上实现跨 HVCM 模块类型的多故障检测。
2023-04-20 cs.LG
SafeCiM: Investigating Resilience of Hybrid Floating-Point Compute-in-Memory Deep Learning Accelerators
Department of Electrical and Computer Engineering, University of Texas at Dallas(得克萨斯大学达拉斯分校电气与计算机工程系);Advanced Architecture Research Group at Intel Corporation(英特尔公司先进架构研究组);Department of Electrical, Computer and Systems Engineering, Rensselaer Polytechnic Institute(拉特格斯理工学院电气、计算机与系统工程系)
SafeCiM通过引入位翻转故障分析,提升了混合浮点计算内存加速器在硬件故障下的鲁棒性,显著降低了LLM推理准确性下降的风险。
2025-11-23 cs.AR cs.LG
Towards Explainable Bit Error Tolerance of Resistive RAM-Based Binarized Neural Networks
TU Dortmund University(多特蒙德工业大学)
非易失性存储器,如电阻式RAM(RRAM),是一种新兴的节能存储,尤其适用于边缘的低功耗机器学习模型。然而,据报道,RRAM的位出错率在超低功率设置中可以高达3.3%,这对于许多用例来说可能是至关重要的。二进制神经网络(BNN)是神经网络(NN)的一种资源有效的变体,它可以容忍一定比例的错误而不损失准确性,并且在计算和存储方面需要更少的资源。BNN中的比特差错容限(BET)可以通过在训练期间翻转权重符号来实现,如Hirtzlin等人所提出的,但是他们的方法有一个明显的缺点,特别是对于全连接神经网络(FCNN):FCNN过拟合训练中使用的错误率,这导致在较低出错率下的低准确度。此外,没有研究BET的基本原理。在这项工作中,我们改进了BNN的BET训练,旨在解释这一属性。我们提出了直通梯度近似,以改善权重符号翻转训练,通过该BNN适应比特出错率。为了解释所实现的鲁棒性,我们定义了一个度量,其目的是在没有故障注入的情况下测量BET。我们评估的度量,并发现它与准确度超过出错率的所有FCNN测试。最后,我们探讨了一种新的正则化优化相对于这个指标的影响,其目的是提供一个可配置的权衡精度和BET。
2020-02-03 cs.ET cs.LG stat.ML
Custom Algorithm-based Fault Tolerance for Attention Layers in Transformers
Integrated Circuits Lab, Electrical;Computer Engineering, Democritus University of Thrace, Xanthi, Greece
本文提出Flash-ABFT方法,通过单次校验覆盖注意力层中查询、键、值三矩阵乘积及softmax运算的在线校验和,在仅5.3%硬件面积和不到1.9%能耗开销下实现高效故障检测。
2025-07-22 cs.AR cs.LG
SupeRBNN: Randomized Binary Neural Network Using Adiabatic Superconductor Josephson Devices
Northeastern University(东北大学);University of Georgia(佐治亚大学);Tokyo City University(东京都市大学);University of Pittsburgh(匹兹堡大学);Yokohama National University(横滨国立大学)
本文提出SupeRBNN框架,通过软件-硬件协同优化解决AQFP超导器件在BNN加速中的随机行为与电流衰减问题,并设计随机计算累加模块,实现了远超ReRAM和同类超导方案的能效。
2023-09-21 cs.AR cs.ET cs.LG
Robust Errant Beam Prognostics with Conditional Modeling for Particle Accelerators
Oak Ridge National Laboratory(橡树岭国家实验室);University of Houston(休斯顿大学)
针对粒子加速器系统配置变化导致的数据变异性挑战,采用条件孪生神经网络(CSNN)和条件变分自编码器(CVAE)预测异常束流脉冲,实验证明CSNN性能优于CVAE。
2024-02-19 cs.LG physics.acc-ph
ISimDL: Importance Sampling-Driven Acceleration of Fault Injection Simulations for Evaluating the Robustness of Deep Learning
Technische Universität Wien(维也纳工业大学);New York University Abu Dhabi(纽约大学阿布扎比分校)
本文提出ISimDL方法,利用神经元敏感性进行重要性采样来加速故障注入仿真,无需模型先验知识即可高效评估深度学习系统鲁棒性,并在故障感知训练中将故障搜索开销降低12倍以上。
2023-05-25 cs.AI cs.CV cs.LG
Thales: Formulating and Estimating Architectural Vulnerability Factors for DNN Accelerators
University of Rochester(罗切斯特大学);PerceptIn;Arm Research(Arm研究院)
本文提出Thales方法,通过准确捕获瞬态故障下DNN变量的故障概率并利用蒙特卡洛积分加速估计弹性准确率(RA),揭示了瞬态故障导致的准确率下降远超现有工具估计,并可与网络架构搜索框架集成以设计更具弹性的DNN。
2024-01-07 cs.AR cs.CR cs.LG
Saving RNN Computations with a Neuron-Level Fuzzy Memoization Scheme
Universitat Politecnica de Catalunya(加泰罗尼亚理工大学)
递归神经网络(RNN)是自动语音识别或机器翻译等应用的关键技术。与传统的前馈DNN不同,RNN记住过去的信息以提高未来预测的准确性,因此它们对于序列处理问题非常有效。对于每个应用程序运行,递归层被执行多次,以处理潜在的大输入序列(单词,图像,音频帧等)。在本文中,我们观察到神经元的输出在连续调用中表现出微小的变化。我们利用这个属性来建立一个神经元级的模糊记忆计划,动态缓存每个神经元的输出,并重用它,每当它被预测,当前的输出将类似于以前计算的结果,避免以这种方式的输出计算。该方案的主要挑战是确定新神经元对序列中当前输入的输出是否与最近计算的结果相似。为此,我们用一个更简单的逐位神经网络(BNN)扩展了递归层,并证明了BNN和RNN的输出是高度相关的:如果两个BNN的输出非常相似,那么原始RNN层中相应的输出可能会出现可以忽略不计的变化。BNN提供了一种低成本和有效的机制,用于决定何时可以应用模糊记忆,对精度的影响很小。我们在最先进的RNN加速器上评估我们的记忆方案,用于来自多个应用领域的各种不同的神经网络。我们表明,我们的技术避免了超过26.7\%的计算,从而节省了21\%的能源和1.4倍的加速平均。
2022-02-14 cs.AR cs.LG cs.NE
Efficient Error-Tolerant Quantized Neural Network Accelerators
Coburg University(科堡大学);Fulda University of Applied Sciences(富尔达应用科学大学);University of Kassel(卡塞尔大学)
神经网络是目前部署最广泛的机器学习算法之一。特别是卷积神经网络(CNN)越来越受欢迎,并被评估用于部署在安全关键应用中,如自动驾驶汽车。现代CNN具有巨大的内存带宽和高计算需求,挑战现有的硬件平台,以满足吞吐量,延迟和功耗要求。在安全关键系统中,需要考虑功能安全和容错性作为附加要求。一般来说,容错操作可以通过向系统添加冗余来实现,这进一步加剧了计算需求。此外,出现的问题是否修剪和量化方法的性能缩放,结果是适得其反的失败的安全要求。在这项工作中,我们提出了一种方法来评估影响量化神经网络(QNN)的永久性故障的影响,以及如何有效地减少它们在硬件加速器中的影响。我们使用基于FPGA的硬件加速错误注入,以使快速评估。详细的分析表明,包含卷积层的QNN对故障的鲁棒性远不如人们普遍认为的那样,并且可能导致精度下降高达10%。为了规避这一点,我们提出了两种不同的方法来提高其鲁棒性:1)选择性通道复制,其增加的冗余比常见的三重模块冗余少得多; 2)折叠实现的处理元件的故障感知调度
2019-12-16 cs.CV cs.LG eess.SP
Cross-Layer Optimization for Fault-Tolerant Deep Learning
Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);University of Chinese Academy of Sciences(中国科学院大学);Beijing Institute of Control Engineering(北京控制工程研究所)
本文提出跨层优化方法,利用脆弱性差异选择性保护并增加量化约束,结合贝叶斯优化协同设计,以最小化硬件开销并满足可靠性、精度和性能约束。
2023-12-21 cs.AI cs.AR cs.LG
GCN-ABFT: Low-Cost Online Error Checking for Graph Convolutional Networks
Democritus University of Thrace(德谟克利特色雷斯大学);Siemens EDA(西门子EDA)
针对GCN加速器中随机硬件故障的计算错误检测开销问题,提出GCN-ABFT方法,通过直接计算单层内三矩阵乘积的校验和,在保持故障检测精度的同时平均减少21%以上的校验和计算操作。
2024-12-24 cs.AR cs.LG
FORTALESA: Fault-Tolerant Reconfigurable Systolic Array for DNN Inference
Department of Computer Systems, Tallinn University of Technology(塔林技术大学计算机系统系);Testonica Lab(Testonica实验室)
提出运行时可重构脉动阵列架构FORTALESA,通过三种执行模式异构映射网络层并结合故障传播分析评估方法,有效保护PE免受瞬态和永久故障,在提升DNN推理可靠性的同时显著节省资源并实现最高3倍加速。
2025-11-04 cs.AR cs.LG
Enhancing Fault Resilience of QNNs by Selective Neuron Splitting
Tallinn University of Technology(塔林理工大学);Mälardalen University(梅拉达伦大学)
针对量化神经网络(QNNs)可靠性不足的问题,本文提出基于神经元脆弱性因子(NVF)识别关键神经元并对其进行分裂的方法,可在不改动加速器计算部分的前提下设计轻量级校正单元,以仅为选择性三模冗余(TMR)一半的开销实现相近的故障恢复能力。
2023-06-16 cs.AR cs.LG cs.NE
REQAP: Resilient Weight Packing and Quantization for Edge DNN Acceleration
Humboldt University of Berlin(柏林洪堡大学);Tallinn University of Technology(塔林理工大学);University of Zanjan(赞詹大学);Brandenburg University of Technology Cottbus-Senftenberg(勃兰登堡工业大学科特布斯-森夫滕贝格分校)
本文提出REQAP方法,通过敏感度驱动的混合精度量化与寄存器级打包,结合MSB复制实现TMR保护,在边缘DNN加速器上显著降低内存和计算开销,并提升故障下的精度弹性。
2026-09-17 cs.AI cs.AR cs.LG
One-Shot Online Testing of Deep Neural Networks Based on Distribution Shift Detection
Karlsruhe Institute of Technology (KIT)(卡尔斯鲁厄理工学院(KIT))
针对忆阻交叉阵列上神经网络硬件加速器的测试需求,提出一种仅需单个测试向量的一次性在线测试方法,在大型拓扑和复杂任务中实现100%故障覆盖率,并显著降低内存开销和测试向量数量。
2023-05-16 cs.AI cs.ET cs.LG
EPSILON: Adaptive Fault Mitigation in Approximate Deep Neural Network using Statistical Signatures
University of Missouri-Columbia(密苏里大学哥伦比亚分校)
EPSILON通过统计签名和层重要性指标实现AxDNNs的高效故障检测与缓解,提升推理效率和能效,保持模型精度。
2025-04-24 cs.AI cs.DC cs.LG
PRUNIX: Non-Ideality Aware Convolutional Neural Network Pruning for Memristive Accelerators
University of Toronto(多伦多大学);York University(约克大学)
在这项工作中,PRUNIX,一个框架,用于训练和修剪卷积神经网络提出了部署在忆阻器交叉杆为基础的加速器。PRUNIX考虑了忆阻器交叉杆的许多非理想效应,包括权重量化、状态漂移、老化和故障固定。PRUNIX利用一种新的组锯齿正则化,旨在提高非理想性容限以及稀疏性,以及一种新的自适应修剪算法(APA),旨在通过考虑CNN的不同层对修剪的敏感性来最大限度地减少准确性损失。我们将我们的正则化和修剪方法与多个CNN架构上的其他标准进行了比较,并观察到当量化和其他非理想效应被占时,测试精度提高了13%,总体稀疏度为85%,这与其他方法相似
2022-02-03 cs.AR cs.LG
DeepVigor: Vulnerability Value Ranges and Factors for DNNs' Reliability Assessment
Tallinn University of Technology(塔林理工大学);Mälardalen University(梅拉达伦大学)
本文提出与加速器无关的 DeepVigor 方法,通过解析神经元输出的脆弱性范围并计算位、神经元和层的脆弱性因子,实现比故障注入更快且准确的 DNN 可靠性评估。
2023-03-13 cs.AR cs.LG
Leveraging Residue Number System for Designing High-Precision Analog Deep Neural Network Accelerators
Boston University(波士顿大学);Harvard University(哈佛大学);Lightmatter
针对模拟DNN加速器中高精度数据转换器成本高的问题,提出利用剩余数系(RNS)组合低精度运算实现高精度,还采用冗余RNS实现容错,可大幅降低数据转换器能耗。
2023-06-15 cs.AR cs.ET cs.LG
PyGFI: Analyzing and Enhancing Robustness of Graph Neural Networks Against Hardware Errors
Villanova University(维拉诺瓦大学);Meta Platforms Inc.(元平台公司)
本文首次通过基于 PyTorch 的定制故障注入工具大规模评估 GNN 的硬件错误弹性,揭示模型与数据集间的显著差异,并提出低成本缓解机制以指导加速器设计。
2023-04-24 cs.LG
Memory Faults in Activation-sparse Quantized Deep Neural Networks: Analysis and Mitigation using Sharpness-aware Training
Purdue University(普渡大学)
本文研究激活稀疏量化DNN对存储故障的脆弱性,发现稀疏性加剧精度损失且与损失景观尖锐极小值相关,并提出锐度感知量化训练以提升故障环境下的推理精度和容错性。
2024-06-15 cs.LG
Deep Learning-Based Detection of Electrical Faults and Power Quality Disturbances in Aerospace Power Systems
Embry-Riddle Aeronautical University(安柏瑞德航空大学);Western Michigan University(西密歇根大学)
针对多电飞机400赫兹电网,提出硬件感知深度学习框架,利用仿真数据训练紧凑ResNet,经量化部署后实现高精度故障检测,验证了嵌入式边缘AI的可行性。
2026-09-10 cs.LG cs.SY eess.SP
Characterizing the Fault Response of the Intel Neural Compute Stick 2 Under Single-Pulse Electromagnetic Fault Injection
Faculty of Informatics and Information Technologies, Slovak University of Technology(信息与信息技术学院,斯洛伐克技术大学);State Key Laboratory of Blockchain and Data Security(区块链与数据安全国家重点实验室);TTControl GmbH
本文研究了Intel神经计算Stick 2在单脉冲电磁故障注入下的故障响应,通过系统性的测试发现四种可重复的故障类别,并探讨了针对这些故障类别的缓解策略。
2026-05-21 cs.AI cs.CR cs.LG
Cost-Effective Fault Tolerance for CNNs Using Parameter Vulnerability Based Hardening and Pruning
Tallinn University of Technology(塔林理工大学);Mälardalen University(梅拉达伦大学)
针对CNN传统硬件容错方法开销大的问题,提出模型级参数脆弱性加固与剪枝技术,容错能力接近TMR且开销更低,剪枝后加固网络速度最高提升24%、精度损失可忽略。
2024-05-17 cs.LG
Anomaly Detection of Particle Orbit in Accelerator using LSTM Deep Learning Technology
University of Maryland Baltimore County(马里兰大学巴尔的摩县分校);Jefferson Lab(杰斐逊实验室);Raytum Photonics(Raytum Photonics公司)
针对加速器轨道锁定系统故障需人工干预的问题,提出基于LSTM自编码器的无监督轨道异常检测方法,经CEBAF数据验证,单组件数据下异常识别率达68.6%-89.3%,最高准确率82%。
2024-01-28 cs.LG physics.acc-ph
Neighbors From Hell: Voltage Attacks Against Deep Learning Accelerators on Multi-Tenant FPGAs
University of Toronto(多伦多大学);Vector Institute(向量研究所)
现场可编程门阵列(FPGA)由于其灵活性和能源效率而成为无数数据中心应用的广泛使用的加速器。在这些应用中,FPGA在加速低延迟实时深度学习(DL)推理方面表现出了良好的效果,这正在成为许多最终用户应用不可或缺的组件。随着可由多个用户共享的虚拟化云FPGA的新兴研究方向,基于FPGA的DL加速器的安全性方面需要仔细考虑。在这项工作中,我们评估了DL加速器在多租户FPGA场景中对基于电压的完整性攻击的安全性。我们首先证明了这种攻击的可行性,在一个国家的最先进的Stratix 10卡使用不同的攻击者电路,在逻辑上和物理上隔离在一个单独的攻击者的角色,并且不能被标记为恶意电路由传统的比特流检查器。我们表明,积极的时钟门控,一种有效的节能技术,也可以是一个潜在的安全威胁,在现代FPGA。然后,我们对以受害者角色运行ImageNet分类的DL加速器进行攻击,以评估DL模型对对手引起的时序故障的固有弹性。我们发现,即使使用最强的攻击者电路,DL加速器的预测精度不会受到影响时,在其安全的工作频率运行。此外,我们可以通过对DL加速器进行超频来实现1.18- 1.31倍的推理性能,而不会影响其预测精度。
2022-07-08 cs.AR cs.CR cs.LG
Towards Enhancing Fault Tolerance in Neural Networks
University of Waterloo(滑铁卢大学);Indraprastha Institute of Information Technology (IIIT), Delhi(德里英德拉普拉斯塔信息技术学院);Institute for Systems Studies & Analyses(系统研究与分析所);Aurel Vlaicu University of Arad(阿拉德奥雷尔·弗拉伊库大学)
深度学习加速器容易出现故障,这些故障以神经网络中的错误形式表现出来。神经网络中的容错在需要长时间计算的实时安全关键应用中是至关重要的。具有高度正则化的神经网络表现出优越的容错,然而,以分类精度为代价。从功能上的差异出发,将神经网络建模为两个独立的网络,即以无监督学习为目标的特征提取器和以监督学习为目标的分类器。使用单个监督学习目标来训练整个网络的传统方法不足以最佳地实现各个组件的目标。在这项工作中,提出了一种新的多标准目标函数,结合无监督训练的特征提取器,其次是监督调整与分类器网络。无监督训练在对手神经网络存在的情况下同时解决两个游戏,其目标与特征提取器相冲突。第一场比赛最大限度地减少了损失,在重建输入图像的不可分割性给定的功能,从提取器,在存在的生成解码器。第二场比赛解决了一个极小极大约束优化的特征空间的分布平滑,以匹配先验分布,在一个鉴别器网络的存在。所得到的强正则化特征提取器与分类器网络相结合,用于监督微调。提出的对抗性容错神经网络训练是可扩展的大型网络,是独立的架构。对基准数据集FashionMNIST和CIFAR 10的评估表明,与广泛使用的正则化器相比,生成的网络具有高准确性,并且对固定在“0”的故障具有出色的容忍度。
2021-05-30 cs.CR cs.DC cs.GT
XBTorch: A Unified Framework for Modeling and Co-Design of Crossbar-Based Deep Learning Accelerators
George Washington University(乔治·华盛顿大学);DEVCOM Army Research Laboratory(陆军研究实验室);Western Digital Research(西部数字研究)
XBTorch是一种基于新兴记忆技术的深度学习加速器建模与协同设计的统一框架,提供高效的仿真工具和跨层协同设计能力。
2026-01-11 cs.AI cs.ET cs.LG
Machine Learning for Consistency Violation Faults Analysis
University of Wyoming(怀俄明大学)
本文提出一种基于机器学习的分析方法,以Dijkstra令牌环为例量化一致性违规故障的影响,并通过FNN和分布式神经网络预测秩效应参数,实验验证了方法的有效性。
2025-05-20 cs.DC cs.LG