HAT: Hardware-Aware Transformers for Efficient Natural Language Processing
Massachusetts Institute of Technology（麻省理工学院）；MIT-IBM Watson AI Lab（麻省理工学院-IBM沃森人工智能实验室）
本文提出 HAT，通过神经架构搜索、SuperTransformer 权重共享与延迟约束进化搜索，为 CPU、GPU 和 IoT 硬件自动发现高效 Transformer。
2020-05-28 cs.CL cs.LG cs.NE
An affordable hardware-aware neural architecture search for deploying convolutional neural networks on ultra-low-power computing platforms
University of Genoa（热那亚大学）；Scuola Superiore Sant’Anna（圣安娜高等研究学院）
提出一种轻量级硬件感知神经架构搜索方法，生成可在超低功耗微控制器上运行的微型CNN，在保持分类精度的同时降低搜索成本。
2026-06-16 cs.AI cs.LG
SCAN-Edge: Finding MobileNet-speed Hybrid Networks for Diverse Edge Devices via Hardware-Aware Evolutionary Search
The University of Texas at Austin（德克萨斯大学奥斯汀分校）；Chandra Family Department of Electrical and Computer Engineering（钱德拉家族电气与计算机工程系）
提出统一的NAS框架SCAN-Edge，联合搜索自注意力、卷积和激活，利用硬件感知进化算法处理大搜索空间，生成的混合网络在多种边缘设备上匹配了MobileNetV2的实际延迟。
2024-08-27 cs.AI cs.LG
Multi-Objective Hardware Aware Neural Architecture Search using Hardware Cost Diversity
University of Luxembourg（卢森堡大学）；SnT, University of Luxembourg（卢森堡大学SnT（通信与技术系统研究所））
提出多目标硬件感知神经架构搜索方法MO-HDNAS，通过优化表示相似性、硬件成本及硬件成本多样性，在单次运行中低计算成本地找到权衡架构集，在六个边缘设备上验证了有效性。
2024-04-15 cs.AI cs.LG
Towards Cardiac Intervention Assistance: Hardware-aware Neural Architecture Exploration for Real-Time 3D Cardiac Cine MRI Segmentation
University of Notre Dame（圣母大学）；Guangdong Cardiovascular Institute（广东省心血管病研究所）；Guangdong Provincial People’s Hospital（广东省人民医院）；Boston Children’s Hospital（波士顿儿童医院）；Harvard Medical School（哈佛医学院）；University of Pittsburgh（匹兹堡大学）
实时心脏磁共振成像（MRI）在指导各种心脏介入治疗中发挥着越来越重要的作用。为了提供更好的视觉辅助，电影MRI帧需要实时分割，以避免明显的视觉滞后。此外，考虑到可靠性和患者数据隐私，计算优选地在本地硬件上完成。现有的MRI图像分割方法大多只关注图像的准确性，难以应用于实时或本地硬件。在这项工作中，我们提出了第一个硬件感知的多尺度神经架构搜索（NAS）的实时三维心脏电影MRI分割框架。所提出的框架将延迟正则化项纳入损失函数以处理实时约束，并考虑底层硬件。此外，配方是完全可微的架构参数，使随机梯度下降（SGD）可以用于优化，以减少计算成本，同时保持优化质量。在ACDC MICCAI 2017数据集上的实验结果表明，与最先进的NAS分割框架相比，我们的硬件感知多尺度NAS框架可以将延迟减少多达3.5倍，并满足实时约束，同时仍然实现具有竞争力的分割精度。
2020-12-14 cs.CV cs.LG eess.IV
A Comprehensive Survey on Hardware-Aware Neural Architecture Search
Université Polytechnique Hauts-de-France（上法兰西理工大学）；IBM T. J. Watson Research Center（IBM托马斯·J·沃森研究中心）；IBM Research AI（IBM研究院人工智能部门）
神经结构搜索（NAS）方法已经越来越受欢迎。这些技术对于自动化和加速合成新颖的深度学习（DL）架构的耗时且易出错的过程至关重要。NAS在过去几年中得到了广泛的研究。可以说，它们最重要的影响是在图像分类和目标检测任务中，在这些任务中已经获得了最先进的结果。尽管到目前为止取得了巨大的成功，但将NAS应用于现实世界的问题仍然面临着重大挑战，并且并不广泛实用。一般来说，合成卷积神经网络（CNN）架构过于复杂，无法部署在资源有限的平台中，例如物联网、移动和嵌入式系统。一种日益流行的解决方案是通过考虑执行延迟、能耗、内存占用等，在NAS搜索策略中使用多目标优化算法。这种称为硬件感知NAS（HW-NAS）的NAS使得搜索最有效的架构变得更加复杂，并带来了几个问题。在这项调查中，我们提供了一个详细的审查现有的HW-NAS的研究和分类，根据四个关键方面：搜索空间，搜索策略，加速技术，和硬件成本估算策略。我们进一步讨论了现有方法的挑战和局限性以及潜在的未来方向。这是第一份关注硬件感知NAS的调查报告。我们希望它作为一个有价值的参考讨论的各种技术和算法，并铺平了道路，为未来的研究对硬件感知的NAS。
2021-01-22 cs.CC cs.LG
Accelerator-aware Neural Network Design using AutoML
Google Inc.（谷歌公司）
虽然神经网络硬件加速器提供了大量的原始计算吞吐量，但部署在其上的模型必须针对底层硬件架构进行协同设计，以获得最佳的系统性能。我们提出了一类使用硬件感知神经架构搜索设计的计算机视觉模型，并定制为在Edge TPU上运行，Edge TPU是Google的低功耗边缘设备神经网络硬件加速器。对于Coral设备中的Edge TPU，这些模型可以实现实时图像分类性能，同时实现通常只有在数据中心运行的大型计算繁重模型才能看到的准确性。在Pixel 4的Edge TPU上，这些模型比现有的SoTA移动模型提高了准确性-延迟权衡。
2020-03-05 cs.LG eess.SP stat.ML
HGNAS: Hardware-Aware Graph Neural Architecture Search for Edge Devices
School of Computer Science and Engineering, Beihang University（北京航空航天大学计算机科学与工程学院）；School of Integrated Circuits and Engineering, Beihang University（北京航空航天大学集成电路与工程学院）
提出面向边缘设备的硬件感知图神经架构搜索框架HGNAS，通过集成硬件性能预测器、峰值内存估计方法和多阶段分层搜索策略，在细粒度设计空间中高效探索架构，实现高达10.6倍加速和82.5%内存减少。
2024-08-23 cs.LG
MDQEC-QAS: Meta-Decoding for Quantum Error Correction with Hardware-Aware VQC Search and Confidence-Gated Recovery
Department of Physics, Indian Institute of Technology (BHU)（印度理工学院（BHU）物理系）；eBRAIN Lab, Division of Engineering, New York University Abu Dhabi (NYUAD)（纽约大学阿布扎克分校（NYUAD）工程学院eBRAIN实验室）；Center for Quantum and Topological Systems (CQTS), NYUAD Research Institute, NYUAD（纽约大学阿布扎克分校（NYUAD）量子与拓扑系统中心（CQTS））
该研究提出用于量子纠错的统一元解码框架，跨多种码和噪声设置学习映射。通过硬件感知搜索选择VQC元解码器并与Meta-MLP比较，发现仅高准确率不够，置信门控回退可降低逻辑故障率，支持基于置信度的选择性恢复。
2026-07-14 cs.AI cs.AR cs.LG
HW-GPT-Bench: Hardware-Aware Architecture Benchmark for Language Models
University of Freiburg（弗赖堡大学）；Bosch Center for Artificial Intelligence (BCAI)（博世人工智能中心）；ELLIS Institute Tübingen（埃利斯研究所蒂宾根分所）；ScaDS.AI, Leipzig（莱比锡ScaDS.AI）
针对大模型硬件指标权衡评估计算成本高的问题，提出硬件感知基准HW-GPT-Bench，通过代理预测、权重共享等技术快速评估多设备下GPT-2家族架构的硬件与性能指标，支持高效多目标优化。
2024-11-03 cs.AI cs.LG
Hardware-Aware Neural Feature Extraction for Resource-Constrained Devices
Department of Electronics, Information and Bioengineering (DEIB), Politecnico di Milano（电子、信息与生物工程系（DEIB），米兰理工学院）；Smart Eyewear Lab, EssilorLuxottica（智能眼镜实验室，EssilorLuxottica）
本文提出Gideon，一种面向资源受限设备的神经特征提取器，结合关系知识蒸馏和可微神经架构搜索，在内存和运算约束下提升INT8鲁棒性与量化抗性，实现高效部署。
2026-05-07 cs.LG
HW-NAS-Bench:Hardware-Aware Neural Architecture Search Benchmark
Rice University（莱斯大学）
HW-NAS-Bench是首个硬件感知神经架构搜索基准数据集，提供NAS-Bench-201和FBNet搜索空间中网络在六种硬件设备上的性能数据，旨在降低研究门槛并促进可复现研究。
2025-03-28 cs.LG
LLMForge: Multi-Backend Hardware-Aware Neural Architecture Search with Infinite-Head Attention for Edge Language Models
Brown University（布朗大学）；University of Michigan（密歇根大学）；Google Research（谷歌研究）
本文提出LLMForge，一种多后端硬件感知的神经架构搜索框架，通过无限头注意力扩展了每层注意力配置空间，并结合Forge-Former和Forge-DSE实现了高效的边缘语言模型架构搜索，最终在不同硬件子系统上获得了不同形状的架构，展示了在不同性能指标上的优化效果。
2026-05-17 cs.AI cs.LG
FAQS: Communication-efficient Federate DNN Architecture and Quantization Co-Search for personalized Hardware-aware Preferences
Tsinghua University（清华大学）
由于用户隐私和监管限制，联邦学习（FL）被提出作为一种分布式学习框架，用于在分散的数据客户端上训练深度神经网络（DNN）。FL的最新进展已经应用了神经架构搜索（NAS）来取代预定义的通用DNN模型，该模型对于各种数据分布的所有任务都不是最佳的，而是可搜索的DNN架构。然而，以前的方法遭受昂贵的通信成本增加频繁的大型模型参数之间的服务器和客户端传输。当结合NAS算法时，这种困难被进一步放大，NAS算法通常需要禁止计算和巨大的模型存储。为此，我们提出了FAQS，一个有效的个性化FL-NAS量化框架，以减少通信成本与三个功能：权重共享超级内核，比特共享量化和掩码传输。FAQS有一个负担得起的搜索时间，并要求在每一轮传输的消息非常有限的大小。通过在本地客户端设置不同的个性化帕累托函数损失，FAQS可以产生异构的硬件感知模型，以满足不同的用户偏好。实验结果表明，FAQS每轮通信带宽比普通FL框架平均减少1.58倍，比FL+NAS框架平均减少4.51倍。
2022-10-16 cs.AI cs.LG
Resource Heterogeneity-Aware and Utilization-Enhanced Scheduling for Deep Learning Clusters
本文提出Hadar调度器，通过优化框架提升资源利用率，HadarE进一步通过并行训练提升集群资源利用率，实现深度学习模型训练时间缩短50%-80%并提升推理质量。
2025-05-21 cs.AI cs.DC cs.LG
QAM-W: Joint 2D Codebook Quantization for LLM Weights via Hadamard Rotation and Activation-Aware Scaling
Independent Research（独立研究）；Institute of Computing Science（计算科学研究所）；Poznan University of Technology（波兹南技术大学）
提出QAM-W方法，通过L2归一化、块哈达玛旋转和2D坐标配对量化，结合激活感知缩放，在约5.5 bpw下使困惑度接近BF16，优于极坐标编码，并在5-6 bpw范围内保持质量。
2026-05-25 cs.CL cs.LG
Hardware-Aware Features for CUTLASS Kernel Selection
ETH Zurich（苏黎世联邦理工学院）
针对CUTLASS内核选择，提出硬件感知特征表示，通过静态估计硬件行为增强配置，训练排序模型，显著降低选择遗憾，并验证跨精度迁移的有效性。
2026-09-29 cs.LG cs.PF
Sensitivity-Aware Finetuning for Accuracy Recovery on Deep Learning Hardware
Lightmatter（Lightmatter公司）
针对模数硬件上噪声注入训练成本高的问题，本文提出SAFT方法，通过识别并冻结噪声敏感层来降低微调开销，同时保持相当精度并实现2至8倍加速。
2023-06-05 cs.AR cs.LG
Energy-Aware Deep Learning on Resource-Constrained Hardware
Imperial College London（伦敦帝国学院）；University of Cambridge（剑桥大学）
本文针对物联网与移动设备的能量约束问题，综述了资源受限硬件上用于优化深度学习推理与训练的能量感知方法，分析其方法论、能效影响及局限性，为相关未来研究提供基础。
2025-05-18 cs.AR cs.LG
CHAMP: Coherent Hardware-Aware Magnitude Pruning of Integrated Photonic Neural Networks
Duke University（杜克大学）；Colorado State University（科罗拉多州立大学）
提出了一种新的相干光子神经网络的硬件感知幅度修剪技术。所提出的技术可以修剪99.45%的网络参数，减少98.23%的静态功耗，而精度损失可以忽略不计。
2021-12-11 cs.ET cs.LG
Rescaling-Aware Training for Efficient Deployment of Deep Learning Models on Full-Integer Hardware
NXP Semiconductors（恩智浦半导体）；University of Bremen（不来梅大学）
针对纯整数AI推理中整数重缩放成本高昂的问题，提出重缩放感知训练方法，通过对重缩放乘数施加强量化并微调，在位宽减少8倍的情况下无损精度，实现更高效的嵌入式推理。
2025-10-13 cs.AR cs.LG
A Controlled Diagnostic Study of Hardware-Induced Distortions in Hardware-Aware Training
Beihang University（北航）
本文提出一种诊断框架，分析硬件非理想性对梯度优化的影响，区分可通过HAT补偿的失真与破坏优化的失真，为软硬件协同设计提供指导。
2026-05-10 cs.LG
HASS: Hardware-Aware Sparsity Search for Dataflow DNN Accelerator
Imperial College London（伦敦帝国学院）；University of Cambridge（剑桥大学）
本文提出硬件感知稀疏性搜索（HASS），通过软硬件协同优化为数据流加速器利用非结构化权重和激活稀疏性，相比现有设计实现1.3至4.2倍效率提升。
2024-06-05 cs.AR cs.LG
Hardware Aware Training for Efficient Keyword Spotting on General Purpose and Specialized Hardware
Applied Brain Research Inc.（应用脑研究公司）；University of Waterloo（滑铁卢大学）
关键字识别（KWS）为许多移动和边缘应用程序（包括手机、可穿戴设备和汽车）提供了关键的用户界面。由于KWS系统通常是“始终开启”的，因此最大限度地提高精度和功率效率是其实用性的核心。在这项工作中，我们使用硬件感知训练（HAT）来构建基于Legendre Memory Unit（LMU）的新KWS神经网络，以实现最先进的（SotA）精度和低参数计数。这允许神经网络在标准硬件（212 $μ$ W）上高效地运行。我们还对定制设计的加速器硬件的功耗要求进行了表征，该硬件实现了8.79 $μ$ W的SotA功耗效率，比通用低功耗硬件（微控制器）高24倍，比专用ASIC高16倍。
2021-03-10 cs.LG cs.SD eess.AS
Hardware-aware Pruning of DNNs using LFSR-Generated Pseudo-Random Indices
Georgia Institute of Technology（佐治亚理工学院）
深度神经网络（DNN）已经成为广泛应用中的最先进算法。为了减少DNN的存储器占用，特别是对于嵌入式应用，已经提出了稀疏化技术。不幸的是，这些技术带来了很大的硬件开销。在本文中，我们提出了一种硬件感知修剪方法，非零权重的位置是从线性反馈移位寄存器（LFSRs）实时推导出来的。使用所提出的方法，我们证明了在下采样的ImageNet上，VGG-16网络的总能量和面积分别节省了63.96%和64.23%，分别用于等压缩率和等精度。
2019-11-09 cs.LG
MOHAQ: Multi-Objective Hardware-Aware Quantization of Recurrent Neural Networks
Halmstad University（哈尔姆斯塔德大学）；Umeå University（于默奥大学）；KTH University（瑞典皇家理工学院）
深度学习模型的压缩对于将此类模型部署到边缘设备至关重要。压缩参数的选择可以使用优化算法自动化以满足硬件平台和应用的变化。本文介绍了一种多目标硬件量化方法（MOHAQ），它将硬件效率和推理误差作为混合精度量化的目标。所提出的方法可行地评估候选解决方案，在一个大的搜索空间，依靠两个步骤。首先，后训练量化应用于快速解决方案评估（仅推理搜索）。其次，我们提出了“基于信标的搜索”，重新训练选定的解决方案，并使用它们作为信标，知道再培训对其他解决方案的影响。我们使用一个基于简单递归单元（SRU）的语音识别模型，使用TIMIT数据集，并应用我们的方法在SiLago和Bitfusion平台上运行。我们提供的实验评估表明，SRU可以通过训练后量化压缩到8倍，而不会增加任何显着的误差。在SiLago上，我们发现解决方案实现了97%和86%的最大可能加速和节能，误差略有增加。在Bitfusion上，基于信标的搜索将仅推理搜索的错误增益降低了4.9个百分点。
2022-01-20 cs.AR cs.LG
HW-Aware Initialization of DNN Auto-Tuning to Improve Exploration Time and Robustness
Robert Bosch GmbH（罗伯特·博世有限公司）；University of Tübingen（图宾根大学）；Heidelberg University（海德堡大学）
使用ML模型和硬件在环优化DNN运算符的延迟的过程（称为自动调整）已经成为部署神经网络的普遍方法。从循环优化的搜索空间中，必须选择提供最佳性能的候选。通过硬件测量来评估各个配置的性能。可能配置的组合爆炸，以及硬件评估的成本使得在实践中对搜索空间的详尽探索是不可行的。随机森林或强化学习等机器学习方法用于帮助选择硬件评估的候选者。对于x86和GPGPU架构等通用硬件，与cuDNN等手动优化库相比，可以实现令人印象深刻的性能提升。该方法在硬件加速器的空间中也是有用的，其中高性能库并不总是可用的。然而，硬件加速器在其编程方面通常不太灵活，这导致运算符配置在硬件目标上不可执行。这项工作评估这些无效的配置如何影响自动调整过程及其底层的性能预测模型的VTA硬件。根据这些结果，开发了一种有效性驱动的AutoTVM初始化方法，仅需要41.6%的必要硬件测量来找到最佳解决方案，同时提高了搜索鲁棒性。
2022-05-31 cs.LG cs.PF
Arithmetic Intensity Balancing Convolution for Hardware-aware Efficient Block Design
Nota Inc.（Nota公司）
提出算术强度平衡卷积（ABConv），通过提升总体算术强度上限，在不牺牲精度的前提下显著降低Arm Ethos-U65 NPU上的推理延迟，并成功应用于CIFAR100分类任务中的MobileNetV1和ResNet50。
2023-04-08 cs.AR cs.CV cs.LG
HEAT: Hardware-Efficient Automatic Tensor Decomposition for Transformer Compression
NVIDIA（英伟达）；Caltech（加州理工学院）
Transformers在自然语言处理和计算机视觉方面取得了卓越的性能。它们的自我注意和前馈层是过度参数化的，限制了推理速度和能量效率。张量分解是一种很有前途的技术，通过利用张量代数性质来表示因子分解形式的参数，以减少参数冗余。先前的努力使用手动或启发式因子分解设置，而没有硬件感知的定制，导致硬件效率低下和性能大幅下降。在这项工作中，我们提出了一个硬件感知的张量分解框架，称为HEAT，它可以有效地探索可能的分解的指数空间，并通过硬件感知的协同优化自动选择张量化形状和分解秩。我们共同研究张量收缩路径优化和融合Einsum映射策略，以弥合理论优势和实际硬件效率提高之间的差距。我们的两阶段知识蒸馏流程解决了可训练性瓶颈，从而显著提高了因子化Transformers的最终准确性。总的来说，我们的实验表明，我们的硬件感知因子分解BERT变体将能量延迟产品减少了5.7倍，准确性损失小于1.1%，并实现了比手动调整和启发式基线更好的效率-准确性帕累托前沿。
2022-11-30 cs.AI cs.AR cs.LG
HAPEns: Hardware-Aware Post-Hoc Ensembling for Tabular Data
HAPEns通过多目标优化方法，在表格数据集成中平衡预测性能与硬件效率，实验表明其在性能和成本权衡上优于现有方法。
2026-08-05 cs.LG
Algorithm-Hardware Co-Design of Distribution-Aware Logarithmic-Posit Encodings for Efficient DNN Inference
Georgia Institute of Technology（佐治亚理工学院）；Arizona State University（亚利桑那州立大学）
本文提出算法-硬件协同设计方法，引入对数Posit（LP）数据类型动态适应DNN参数分布，开发基于遗传算法的LPQ框架优化逐层参数，并设计统一混合精度LPA加速器，在保持<1%准确率下降的同时实现约2倍性能和2.2倍能效提升。
2024-03-26 cs.AI cs.AR cs.LG
Hardware-aware Training Techniques for Improving Robustness of Ex-Situ Neural Network Transfer onto Passive TiO2 ReRAM Crossbars
IT (Institut Interdisciplinaire d’Innovation Technologique)（跨学科技术创新研究所）；Université de Sherbrooke（舍布鲁克大学）；Institute of Electronics, Microelectronics and Nanotechnology (IEMN), Université de Lille（里尔大学电子、微电子与纳米技术研究所）
本文提出结合dropout、重参数化与正则化的硬件感知训练方法，使神经网络权重迁移到无源TiO2 ReRAM交叉阵列时更能抵抗硬件变异，显著提升分类精度。
2023-05-29 cs.AR cs.LG
Hardware-Aware Machine Learning: Modeling and Optimization
Carnegie Mellon University（卡内基梅隆大学）
深度学习（DL）应用的最新突破使DL模型成为几乎所有现代计算系统中的关键组件。部署在各种平台上的DL应用的日益普及导致了与硬件本身引入的约束相关的过多设计挑战。深度神经网络（DNN）进行推理的延迟或能量成本是多少？在训练模型之前，是否有可能预测这种延迟或能量消耗？如果是，机器学习者如何利用这些模型来设计硬件最佳的DNN部署？从延长移动设备的电池寿命到降低在云中执行的DL模型的运行时要求，这些问题的答案引起了人们的极大关注。没有正确建模的东西是无法优化的。因此，重要的是要了解DL模型在服务期间的硬件效率，以便进行推理，甚至在训练模型之前。这一关键观察结果促使人们使用预测模型来捕获DL应用程序的硬件性能或能效。此外，DL从业者面临着设计DNN模型的任务，即，调整DNN架构的超参数，同时优化DL模型的准确性及其硬件效率。因此，现有技术的方法已经提出了硬件感知的超参数优化技术。在本文中，我们提供了一个全面的评估国家的最先进的工作和选择结果的硬件感知建模和优化DL应用程序。我们还强调了几个悬而未决的问题，这些问题将在未来几年内产生新的硬件感知设计，因为DL应用程序将继续显著影响相关的硬件系统和平台。
2018-09-14 cs.LG stat.ML
Hardware-Aware Graph Neural Network Automated Design for Edge Computing Platforms
Beihang University（北京航空航天大学）
本文提出首个面向资源受限边缘设备的硬件感知图神经架构搜索框架HGNAS，通过细粒度设计空间、多阶段搜索策略和硬件性能预测器，在多种边缘设备上以可忽略的精度损失实现约10.6倍加速和88.2%峰值内存降低。
2023-04-13 cs.LG
On-Chip Hardware-Aware Quantization for Mixed Precision Neural Networks
The University of Hong Kong（香港大学）；ETH Zürich（苏黎世联邦理工学院）；Beihang University（北京航空航天大学）
本文提出片上硬件感知量化框架OHQ，在边缘设备上直接进行混合精度量化，通过片上感知流水线和掩码引导估计技术，实现精度与效率的优化，在ResNet-18和MobileNetV3上分别达到70%和73%精度，延迟降低15%-30%。
2024-05-23 cs.AI cs.AR cs.LG
Energy-Efficient Neuromorphic Computing for Edge AI: A Framework with Adaptive Spiking Neural Networks and Hardware-Aware Optimization
Department of Applied Mathematics and Computer Science (DTU Compute)（应用数学与计算机科学系（DTU计算））；Department of Engineering（工程系）；Department of Computer Engineering（计算机工程系）；Department of Mathematics（数学系）；Department of Computer Systems（计算机系统系）
NeuEdge框架通过自适应脉冲神经网络和硬件感知优化，实现边缘AI的超低功耗、低延迟推理，达到高能效和实时性能。
2026-02-02 cs.ET cs.LG cs.NE
CATransformers: Carbon Aware Transformers Through Joint Model-Hardware Optimization
Georgia Institute of Technology（佐治亚理工学院）；FAIR at Meta（Meta的FAIR部门）；Reality Labs at Meta（Meta的Reality Labs）；Meta
针对机器学习解决方案碳足迹增长问题，提出首个碳感知协同优化框架CATransformers，通过整合运营与隐含碳进行模型-硬件早期设计探索，实现碳减排（最高30%）且保持性能，揭示与传统方法不同的权衡。
2025-11-11 cs.AR cs.LG
SigmaQuant: Hardware-Aware Heterogeneous Quantization Method for Edge DNN Inference
Embedded Systems Laboratory (ESL), EPFL, Switzerland（嵌入式系统实验室（ESL），EPFL，瑞士）；University of Applied Sciences and Arts Western Switzerland (HES-SO), Switzerland（应用科学与艺术西瑞士大学（HES-SO），瑞士）
SigmaQuant 是一种面向边缘 DNN 推理的自适应异构量化方法，通过动态分配不同比特宽度以优化精度与资源使用平衡。
2026-03-03 cs.AR cs.LG
HAWX: A Hardware-Aware FrameWork for Fast and Scalable ApproXimation of DNNs
University of Zanjan（赞詹大学）；Brandenburg Technical University（勃兰登堡技术大学）；Tallinn University of Technology（塔林技术大学）；Shahid Bahonar University（沙希德·巴霍纳大学）
HAWX通过多级敏感度评分和预测模型，实现深度神经网络近似的快速且可扩展优化，提升效率并支持多种硬件架构。
2026-02-21 cs.AI cs.LG
Hardware-Aware Federated Learning for Speech Emotion Recognition
Computer Engineering（计算机工程）；Istanbul Technical University（伊斯坦布尔技术大学）；Department of Computer Technologies（计算机技术系）；Istanbul University-Cerrahpaşa（伊斯坦布尔大学-塞拉赫帕沙）
提出一种硬件感知联邦学习框架，通过硬件性能分析、Top-K客户端选择和自适应本地轮数，在IEMOCAP数据集上实现情感识别，相比FedAvg减少约36.5%训练时间和40%通信成本。
2026-05-23 cs.HC cs.LG
SHADHO: Massively Scalable Hardware-Aware Distributed Hyperparameter Optimization
University of Notre Dame（圣母大学）
计算机视觉正在经历人工智能的复兴，其中机器学习模型正在加速学术研究和商业应用的重要突破。然而，有效地训练这些模型并不容易，部分原因是超参数：用户配置的值控制模型从数据中学习的能力。现有的超参数优化方法是高度并行的，但没有努力平衡跨异构硬件的搜索或优先搜索高影响空间。在本文中，我们介绍了一个大规模可扩展的硬件感知分布式超参数优化（SHADHO）的框架。我们的框架计算每个搜索空间的相对复杂度，并在所有试验中监控学习任务的性能。然后，这些指标被用作算法，以基于其硬件将超参数分配给分布式工作者。我们首先证明，我们的框架实现了一倍的吞吐量的标准分布式超参数优化框架优化SVM MNIST使用150个分布式工人。然后，我们在一周的时间里使用两个计算集群中的74个GPU使用SHADHO进行模型搜索，以优化U-Net的细胞分割任务，发现515个模型实现了比标准U-Net更低的验证损失。
2018-01-22 cs.DC cs.LG
Uncertainty-Aware Hardware Trojan Detection Using Multimodal Deep Learning
California State University Long Beach（加州州立大学长滩分校）
本文针对硬件木马检测中受感染基准数据有限的问题，提出结合生成对抗网络数据扩充与多模态深度学习的方法，并引入不确定性量化以支持风险感知决策。
2024-01-23 cs.AI cs.CR cs.LG
Efficient Network Inference via Hardware-Aware Architecture Search, Model Pruning & Quantization
Fraunhofer Institute for Integrated Circuits IIS（弗劳恩霍夫集成电路研究所）
针对嵌入式GNSS干扰监测中资源受限与模型性能的矛盾，研究结合迭代结构化剪枝、训练后静态量化和硬件感知零样本神经架构搜索，在MCUNet基础上压缩模型并优化架构，实现实时干扰分类与表征。
2026-06-23 cs.DC cs.LG eess.SP
Hardware-in-the-Loop Phase-Aware CNN for Real-Time 5G Channel Estimation
Keysight AI Labs（是德科技AI实验室）
本研究提出一种硬件在环相位感知CNN，结合硬件生成的5G数据实现实时5G信道估计，性能优于LS和LMMSE基准，可用于未来5G-Advanced及6G系统。
2026-08-18 cs.CV cs.IT cs.LG
From Bits to Chips: An LLM-based Hardware-Aware Quantization Agent for Streamlined Deployment of LLMs
The University of Arizona（亚利桑那大学）；Clemson University（克莱姆森大学）；University of Georgia（佐治亚大学）；The University of Tulsa（塔尔萨大学）；Northeastern University（东北大学）；Western Digital Corporation（西部数据公司）
本文提出HAQA，一种基于LLM的自动化框架，通过高效超参数调优和硬件配置，简化LLM的量化和部署流程，提升部署质量和易用性，实验显示推理速度提升2.3倍，吞吐量和精度均有提升。
2026-04-04 cs.LG
Survival of the Cheapest: Cost-Aware Hardware Adaptation for Adversarial Robustness
Northeastern University（东北大学）
本文提出一个自主决策支持框架，用于云原生深度学习中自适应硬件选择和超参数调整，通过加速失败时间模型量化硬件选择、批量大小、训练轮次和验证准确率对模型生存时间的影响，实验表明低成本硬件能提升对抗鲁棒性。
2026-07-22 cs.CR cs.CV cs.LG
CUDAHercules: Benchmarking Hardware-Aware Expert-level CUDA Optimization for LLMs
University of Minnesota（明尼苏达大学）；Northeastern University（东北大学）
CUDAHercules基准测试评估生成CUDA代码与人类专家级优化的差距，揭示自动化CUDA编程在硬件感知和优化策略上的不足。
2026-05-08 cs.LG
SAMSON: Sharpness-Aware Minimization Scaled by Outlier Normalization for Improving DNN Generalization and Robustness
Mila - Quebec AI Institute（米拉-魁北克人工智能研究所）；Polytechnique Montreal（蒙特利尔综合理工学院）
节能的深度神经网络（DNN）加速器容易出现非理想性，从而在推理时降低DNN性能。为了减轻这种退化，现有方法通常在训练期间向DNN权重添加扰动，以模拟噪声硬件上的推理。然而，这通常需要了解目标硬件，并导致DNN性能和鲁棒性之间的权衡，降低前者以提高后者。在这项工作中，我们证明了通过优化损失值和损失锐度来应用锐度感知训练，可以显着提高推理时对噪声硬件的鲁棒性，而无需依赖于对目标硬件的任何假设。特别是，我们提出了一种新的自适应锐度感知方法，条件的最坏情况下的扰动，一个给定的权重不仅在其幅度，但也对范围的重量分布。这是通过执行由离群值最小化缩放的锐度感知最小化（SAMSON）来实现的。我们的方法在无噪声机制的模型泛化性能和噪声环境中的鲁棒性方面都优于现有的锐度感知训练方法，如在几种架构和数据集上测量的那样。
2023-03-21 cs.AI cs.LG
HALP: Hardware-Aware Latency Pruning
NVIDIA（英伟达）
结构修剪可以简化网络结构，提高推理速度。我们提出了硬件感知的延迟修剪（HALP），制定结构修剪作为一个全球性的资源分配优化问题，旨在最大限度地提高准确性，同时限制在预定义的预算下的延迟。对于过滤器重要性排名，HALP利用延迟查找表来跟踪延迟减少潜力和全局显著性分数来衡量准确性下降。这两个指标可以在修剪过程中非常有效地进行评估，使我们能够重新制定全球结构修剪下的奖励最大化问题给定的目标约束。这使得问题可以通过我们的增强背包求解器来解决，使HALP能够在修剪效率和准确性-效率权衡方面超越先前的工作。我们在ImageNet和VOC数据集上，通过不同的网络，在分类和检测任务上检查HALP。特别地，对于ImageNet上的ResNet-50/-101修剪，HALP分别通过$1.60\times$ / $1.90\times$以及$+0.3\%$ / $-0.2\%$ top-1准确度变化来提高网络吞吐量。对于VOC上的SSD修剪，HALP将吞吐量提高了$1.94\times$，而仅降低了$0.56$ mAP。HALP的性能始终优于现有技术，有时甚至大幅领先。
2021-10-20 cs.CV cs.LG
Hardware Aware Ensemble Selection for Balancing Predictive Accuracy and Cost
Helmholtz-Zentrum Berlin（柏林亥姆霍兹中心）；Humboldt University Berlin（柏林洪堡大学）；University of Freiburg（弗莱堡大学）
针对表格 AutoML 事后集成推理成本高的问题，本文提出硬件感知集成选择方法，在质量多样性优化中同时评估精度与推理效率，并在 83 个分类数据集上验证其可保持竞争力并提升运行效率。
2024-08-05 cs.AI cs.LG
HALOC: Hardware-Aware Automatic Low-Rank Compression for Compact Neural Networks
Rutgers University（罗格斯大学）；Indiana University（印第安纳大学）；Washington State University（华盛顿州立大学）
本文提出HALOC框架，通过可微分的硬件感知架构搜索自动确定逐层低秩压缩秩值，在显著减少FLOPs的同时提升模型精度，并在多种硬件平台上实现实际加速。
2023-02-02 cs.AI cs.CV cs.LG
Lie Group Diffusion Models for Hardware-Aware Quantum Circuit Synthesis
Stanford University（斯坦福大学）
提出李群扩散模型，结合SU(2)流形几何和硬件约束，通过电路骨架选择器和扩散模型生成量子电路，在哈密顿模拟任务中优于基线，并支持定制化约束。
2026-06-28 cs.LG quant-ph
QS4D: Quantization-aware training for efficient hardware deployment of structured state-space sequential models
JARA（于利希亚琛研究联盟）；University of Groningen（格罗宁根大学）；RWTH Aachen University（亚琛工业大学）
本研究提出量化感知训练方法，显著降低结构化状态空间模型复杂度，增强模拟噪声鲁棒性并实现结构化剪枝，最终成功部署于忆阻器模拟存内计算硬件，提升计算效率。
2025-07-08 cs.AI cs.LG
Self-organizing Architecture of Receptron Units: a Hardware-Aware Framework for Edge Intelligence
针对物联网边缘智能处理受微控制器限制问题，提出基于接收神经元模型的神经形态启发式分类器，能实现非线性可分决策边界，可直接部署在中端微控制器上，实验结果表明其是资源受限神经形态边缘系统的可行替代方案。
2026-07-23 cs.ET cs.LG
