Software Engineering Approaches for TinyML based IoT Embedded Vision: A Systematic Literature Review
Boise State University（博伊西州立大学）
物联网（IoT）通过无处不在的传感、通信、计算和驱动，使人类能够控制我们的环境。在过去的几年里，物联网与机器学习（ML）联手，在远端嵌入深度智能。TinyML（Tiny机器学习）支持在极其精简的边缘硬件上部署用于嵌入式视觉的ML模型，将物联网和ML的力量结合在一起。然而，TinyML驱动的嵌入式视觉应用仍处于初期阶段，它们刚刚开始扩展到广泛的现实世界物联网部署。为了利用物联网和机器学习的真正潜力，有必要为产品开发人员提供强大的，易于使用的软件工程（SE）框架和最佳实践，这些框架和最佳实践是针对TinyML工程所面临的独特挑战而定制的。通过这一系统的文献综述，我们汇总了TinyML开发人员报告的关键挑战，并确定了大规模计算机视觉、机器学习和嵌入式系统中最先进的SE方法，这些方法可以帮助解决基于TinyML的物联网嵌入式视觉中的关键挑战。总之，我们的研究利用了嵌入式系统开发人员和ML开发人员独立开发的SE专业知识之间的协同作用，以帮助解决基于TinyML的物联网嵌入式视觉工程中的独特挑战。
2022-04-19 cs.CV cs.LG cs.SE
Power-Performance Characterization of TinyML Systems
School of Computing, National University of Singapore（新加坡国立大学计算机学院）
本文针对微控制器上的TinyML系统开展性能与功耗表征，提出估算抽象层成本的模型，其结果可辅助边缘设备的NAS与CNN推理优化。
2026-08-25 cs.AI cs.LG
Edge Intelligence for Wildlife Conservation: Real-Time Hornbill Call Classification Using TinyML
Sunway University（双威大学）；Shiraz University of Technology（设拉子理工大学）
针对马来西亚犀鸟保护中传统监测的挑战，本研究利用TinyML技术，基于Xeno-canto数据库音频数据，通过MFE特征提取和Arduino边缘部署，实现犀鸟鸣叫实时分类，为生态保护提供高效解决方案。
2025-04-03 cs.LG cs.SD eess.AS
A Survey of TinyML Applications in Beekeeping for Hive Monitoring and Management
University of Technology Sydney（悉尼科技大学）；BeeSTAR (powered by LB Agtech Holdings Pty Ltd)（BeeSTAR（由LB Agtech Holdings Pty Ltd提供支持））
本综述系统梳理TinyML在养蜂监测中的应用，涵盖蜂箱状况、行为识别、病虫害检测和分蜂预测四类任务，并讨论数据集、轻量模型及部署挑战，为可持续蜂群管理提供AI驱动方案。
2025-09-10 cs.LG
TinyML: Tools, Applications, Challenges, and Future Research Directions
KLE Technological University（KLE科技大学）；University of Oulu（奥卢大学）
本文综述了TinyML这一嵌入式机器学习范式，探讨了其在资源受限设备上实现智能的应用工具、最新进展以及面临的技术挑战与未来研究方向。
2023-03-23 cs.AI cs.LG cs.NI
Optimizing LoRa for Edge Computing with TinyML Pipeline for Channel Hopping
Technical University of Braunschweig（布伦瑞克工业大学）
本文提出面向 LoRa 边缘通信的 TinyML 信道跳变优化流水线，并通过 IoT-边缘-云植物推荐实验验证其可显著改善 RSSI 与 SNR。
2024-12-02 cs.AI cs.DM cs.LG
An Ultra-low Power TinyML System for Real-time Visual Processing at Edge
Xidian University（西安电子科技大学）；Guangzhou Institute of Technology, Xidian University（西安电子科技大学广州研究院）
本文提出由微型 CNN 骨干、神经协处理器 NCP 和专用指令集构成的边缘端 TinyML 系统，通过全片上存储消除片外访问开销，在 30FPS 目标检测识别中达到 160mW 超低功耗。
2023-06-01 cs.AI cs.LG eess.IV
Edge Impulse: An MLOps Platform for Tiny Machine Learning
John A. Paulson School of Engineering and Applied Sciences, Harvard University（哈佛大学约翰·A·保尔森工程与应用科学学院）；Edge Impulse（Edge Impulse（边缘脉冲公司））
针对TinyML工作流软件栈碎片化、硬件异构导致模型优化难、移植性差的问题，本文提出基于云的MLOps平台Edge Impulse，通过多软硬件优化构建可扩展可移植软件栈以简化设计周期，截至2022年10月已承载超11万项目。
2023-04-28 cs.DC cs.LG cs.SE
Supporting AI Engineering on the IoT Edge through Model-Driven TinyML
Technical University of Munich（慕尼黑工业大学）；Univ. of Antwerp（安特卫普大学）；Flanders Make（法兰德斯制造研究院）；Univ. of Reading（雷丁大学）
以网络为中心的人工智能（AI）和物联网（IoT）支持的网络物理系统（CPS）和服务的软件工程涉及复杂的设计和验证挑战。在本文中，我们提出了一种新的方法，基于模型驱动的软件工程范式，特别是特定领域的建模方法。我们专注于人工智能的一个子学科，即机器学习（ML），并建议将数据分析和ML委托给物联网边缘。通过这种方式，我们可以提高机器学习的服务质量，例如其可用性和性能，无论网络条件如何，以及维护隐私，安全性和可持续性。我们让从业者将机器学习任务分配给异构边缘设备，包括高度资源受限的嵌入式微控制器，其主存储器数量级为千字节，能耗数量级为毫瓦。它被称为TinyML。此外，我们展示了如何在软件开发过程中使用不同层次的抽象，即平台无关和平台特定的模型的软件模型。最后，我们验证了所提出的方法，使用案例研究解决预测维护的液压系统与各种网络传感器和执行器。
2022-04-03 cs.AI cs.LG cs.SE
TinyML Platforms Benchmarking
University of Trento（特伦托大学）
用于机器学习（ML）的最先进超低功耗嵌入式设备的最新进展已经允许一类新的产品，其关键特性使微控制器上的ML功能具有小于1 mW的功耗（TinyML）。TinyML通过在低功耗嵌入式设备的边缘聚合和分析数据提供了一个独特的解决方案。然而，我们直到最近才能够在微控制器上运行ML，而且该领域仍处于起步阶段，这意味着硬件、软件和研究都在迅速变化。因此，已经为不同的平台开发了许多TinyML框架，以促进ML模型的部署和标准化过程。因此，在本文中，我们专注于对两种流行的框架进行基准测试：Arduino Nano BLE上的Tensorflow Lite Micro（TFLM）和STM32-NucleoF 401 RE上的CUBE AI，为特定应用提供标准化的框架选择标准。
2021-11-30 cs.LG cs.NE
Securing Radiation Detection Systems with an Efficient TinyML-Based IDS for Edge Devices
Ontario Tech University（安大略技术大学）
针对辐射探测系统易受多种网络攻击的安全问题，本文提出合成辐射数据集与基于TinyML优化的XGBoost入侵检测系统，实现低资源边缘设备上的实时高效入侵检测。
2025-09-01 cs.AI cs.CR cs.LG
Optimising TinyML with Quantization and Distillation of Transformer and Mamba Models for Indoor Localisation on Edge Devices
School of Engineering Mathematics and Technology, University of Bristol（布里斯托大学工程数学与技术学院）；School of Natural and Computing Sciences, University of Aberdeen（阿伯丁大学自然与计算科学学院）
本文针对边缘设备室内定位需求，结合量化、知识蒸馏技术压缩Transformer模型，同时提出基于Mamba的紧凑状态空间架构，实现了在低功耗MCU受限内存下的高精度定位，为医疗等场景的低功耗隐私定位提供可行方案。
2024-12-12 cs.LG cs.SE
A Hybrid Edge Classifier: Combining TinyML-Optimised CNN with RRAM-CMOS ACAM for Energy-Efficient Inference
Nottingham Trent University（诺丁汉特伦特大学）；Imperial College London（帝国理工学院）；University of Edinburgh（爱丁堡大学）
本文提出一种软硬件混合边缘分类器，用tinyML优化网络提取特征，并以RRAM-CMOS ACAM完成模板匹配，在保持分类竞争力的同时将每次分类能耗较教师模型降低792倍。
2025-02-14 cs.AI cs.AR cs.LG
A Machine Learning-oriented Survey on Tiny Machine Learning
University of Verona（维罗纳大学）
本文是一篇遵循PRISMA流程的TinyML综述，梳理三类实现工作流、学习算法与优化设计分类、硬件软件工具，并讨论挑战和未来方向。
2023-09-26 cs.LG
On-Device Crack Segmentation for Edge Structural Health Monitoring
Department of Computer and Electrical Engineering, Mid Sweden University, Sundsvall, Sweden（计算机与电气工程系，Mid Sweden大学，Sundsvall，瑞典）
本研究针对资源受限微控制器上的裂缝分割挑战，提出基于TinyML的轻量级U-Net架构，通过减少滤波器数量、降低网络深度和使用深度可分离卷积三种策略，在分割性能与资源消耗间实现良好折衷，推进了能源自主的边缘结构健康监测系统。
2025-05-12 cs.LG
RISC-V Based TinyML Accelerator for Depthwise Separable Convolutions in Edge AI
Computer Engineering Department Ihsan Dogramaci Bilkent University（比尔肯特大学计算机工程系）；Engineering Sabancı University（萨班奇大学工程学院）
本文提出了一种基于 RISC-V 的 TinyML 加速器，通过融合像素级数据流消除中间缓冲区，显著降低数据传输成本，实现边缘 AI 加速器的内存墙突破。
2025-11-26 cs.AR cs.LG
Combining Multi-Objective Bayesian Optimization with Reinforcement Learning for TinyML
Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡弗里德里希·亚历山大大学）；Fraunhofer IIS（弗劳恩霍夫集成电路研究所）
本文提出一种结合多目标贝叶斯优化与强化学习的NAS策略，高效权衡准确率、内存和计算复杂度，优于现有方法。
2025-01-23 cs.AI cs.LG
Reliable Federated TinyML Deployment for IoT Security
The Pennsylvania State University（宾夕法尼亚州立大学）；Elizabethtown College（伊丽莎白敦学院）
本研究将联邦学习与TinyML模型压缩结合用于物联网入侵检测，通过服务器协调的余弦学习率调度将攻击召回率从46.7%提升至93.85%，实现轻量级隐私保护部署。
2026-09-24 cs.CR cs.LG
TinyML-Enabled IoT for Sustainable Precision Irrigation
North-West University（西北大学）
本文提出基于TinyML的边缘物联网框架，通过梯度提升模型实现精准灌溉，显著降低用水量，适用于资源受限的农村农业场景。
2026-01-19 cs.AI cs.LG
How to Manage Tiny Machine Learning at Scale: An Industrial Perspective
Siemens AG（西门子股份公司）；Technical University of Munich（慕尼黑工业大学）
微型机器学习（TinyML）已经获得了广泛的普及，其中机器学习（ML）在无处不在的微控制器上普及，实时处理无处不在的传感器数据。为了在大规模部署的行业中管理TinyML，我们考虑了硬件和软件限制，从可用的板载传感器和内存大小到ML模型架构和运行时平台。然而，物联网（IoT）设备通常是针对特定任务定制的，并且受到异构性和有限资源的影响。此外，TinyML模型的开发具有不同的结构，并且通常在没有对其工作原理有清晰理解的情况下发布，导致生态系统碎片化。考虑到这些挑战，我们提出了一个框架，使用语义Web技术，使TinyML模型和物联网设备的联合管理规模，从建模信息，发现可能的组合和基准，并最终促进TinyML组件交换和重用。我们提出了一个本体（语义模式）的神经网络模型与万维网联盟（W3C）的东西描述，语义描述物联网设备。此外，我们还使用了一个由23个公开可用的机器学习模型和6个物联网设备组成的知识图谱，在三个案例研究中展示了我们的概念，并分享了代码和示例，以提高可重复性：https://github.com/Haoyu-R/How-to-Manage-TinyML-at-Scale
2022-02-18 cs.AI cs.DB cs.DC
From Tiny Machine Learning to Tiny Deep Learning: A Survey
Texas State University（德克萨斯州立大学）
本综述概述从TinyML到TinyDL的过渡，涵盖架构、硬件、模型优化、软件工具链，分析量化等技术与硬件趋势，分类软件工具，回顾多领域应用并指出新兴方向，为边缘AI研究提供基础资源。
2025-06-25 cs.LG
Tiny Machine Learning: Progress and Futures
Massachusetts Institute of Technology（麻省理工学院）
本文综述了微型机器学习（TinyML）在物联网和微控制器上的进展与挑战，重点介绍 MCUNet 的系统-算法协同设计方法及设备端训练技术，并展望其未来发展方向。
2024-03-29 cs.AI cs.CV cs.LG
DTMM: Deploying TinyML Models on Extremely Weak IoT Devices with Pruning
City University of Hong Kong（香港城市大学）
针对 MCU 等极弱 IoT 设备难以同时实现深度剪枝、保持精度与高效执行的问题，提出含剪枝单元选择、优化、加速和低成本存储的 DTMM 库并验证其收益。
2024-01-17 cs.AI cs.LG
Edge AI and TinyML for Resource-Constrained Agriculture: Hardware Platforms, Model Optimization, and Deployment Strategies
Techno India University（技术印度大学）；Sister Nivedita University（姐妹尼韦迪塔大学）
本文综述了低成本低功耗边缘AI和TinyML在资源受限农业系统中的应用，分析了架构演变、优化策略及部署挑战，提出隐私保护的分层边缘AI架构以提升可部署性。
2026-11-04 cs.ET cs.LG
Benchmarking Energy and Latency in TinyML: A Novel Method for Resource-Constrained AI
Smart Eyewear Laboratory, EssilorLuxottica, Milan, Italy（艾西欧卢欧蒂卡智能眼镜实验室）
本文提出了一种适用于资源受限AI的新方法，通过整合能量和延迟测量，评估TinyML在不同硬件配置下的能效和性能表现。
2025-05-21 cs.LG
Agentic TinyML for Intent-aware Handover in 6G Wireless Networks
Center for Ubiquitous Computing（无处不在计算中心）；University of Oulu（奥卢大学）；Department of Communication Systems（通信系统系）；EURECOM；Department of Computer Science（计算机科学系）；University of Helsinki（赫尔辛基大学）；RISE Research Institutes of Sweden（瑞典研究机构）；Department of Computer Science, Electrical and Space Engineering（计算机科学、电气与空间工程系）；Luleå University of Technology（卢勒奥技术大学）
本文提出WAAN框架，利用TinyML代理实现6G网络中的意图感知主动切换，通过多模态环境控制案例验证其在保持用户体验方面的有效性。
2025-08-02 cs.AI cs.DC cs.LG
Energy Efficient Software Hardware CoDesign for Machine Learning: From TinyML to Large Language Models
Department of Computer Science（计算机科学系）
本文探讨了从TinyML到大语言模型的能效协同设计方法，涵盖边缘推理、训练和数据中心规模的LLM服务，分析了加速器架构和系统级技术，并提出分层分解视角以指导构建能效和碳感知的机器学习系统。
2026-03-24 cs.AR cs.LG
TinyML NLP Scheme for Semantic Wireless Sentiment Classification with Privacy Preservation
Department of Electrical Engineering and Computer Science, York University（电气工程与计算机科学系，约克大学）；CEMSE Division, King Abdullah University of Science and Technology (KAUST)（CEMSE部门，国王 Abdullah 科学与技术大学（KAUST））
本文提出语义分割学习（SL）作为节能且保护隐私的TinyML框架，用于边缘端NLP情感分类，实验表明其相比联邦学习和集中式学习显著降低计算能耗与碳排放，并大幅提升隐私保护水平。
2025-04-21 cs.CR cs.IT cs.LG
Enhancing Predictive Maintenance in Mining Mobile Machinery through a TinyML-enabled Hierarchical Inference Network
本文提出ESN-PdM分层推理框架，利用TinyML在边缘设备、网关和云端动态调整推理位置，平衡准确率、延迟与能耗，实现采矿机械可靠的实时预测性维护与异常检测。
2024-11-16 cs.DC cs.LG cs.MA
Decentralised Resource Sharing in TinyML: Wireless Bilayer Gossip Parallel SGD for Collaborative Learning
Department of Computing, Imperial College London（帝国理工学院伦敦分校计算机系）；Nottingham Trent University（诺丁汉特伦特大学）；Trasna-Solutions Ltd.（Trasna-Solutions有限公司）；Department of Computer Science and Electrical Engineering, University of Maryland Baltimore County（马里兰大学巴尔的摩县计算机科学与电气工程系）；Department of Electrical and Computer Engineering, Johns Hopkins University（约翰霍普金斯大学电气与计算机工程系）
本文提出了一种双层gossip平行SGD框架，用于在资源受限的边缘设备上实现去中心化的联邦学习，通过高效模型聚合和通信结构，提升协作学习的准确性和效率。
2025-01-08 cs.AI cs.LG
The Case for Hierarchical Deep Learning Inference at the Network Edge
IMDEA Networks Institute（IMDEA网络研究所）；KTH Royal Institute of Technology（瑞典皇家理工学院）
本文研究边缘分布式深度学习推理，提出对每个样本先用本地 tinyML 推理、仅在需要时卸载的分层推理（HI），并通过机器故障检测与图像分类验证其可降低延迟、带宽和能耗。
2023-04-23 cs.DC cs.LG
ENAS: An Efficient Hardware-Aware Neural Architecture Search Framework for TinyML on Resource-Constrained Microcontrollers
Indian Institute of Science (IISc)（印度科学研究所）
ENAS提出一种无需GPU的硬件感知NAS框架，通过静态检查、细胞搜索空间和三阶段混合搜索，在TinyML基准上实现搜索加速并降低峰值激活RAM，同时保持高准确率。
2026-09-28 cs.AI cs.LG
AttendNets: Tiny Deep Image Recognition Neural Networks for the Edge via Visual Attention Condensers
University of Waterloo（滑铁卢大学）；DarwinAI Corp.（达尔文人工智能公司）
虽然深度学习的重大进步已经在大量复杂的视觉感知任务中实现了最先进的性能，但考虑到深度神经网络的复杂性，为涉及设备上低功耗图像识别的TinyML应用广泛部署深度神经网络仍然是一个巨大的挑战。在这项研究中，我们介绍了AttendNets，这是一种低精度、高度紧凑的深度神经网络，专为设备上的图像识别而设计。更具体地说，AttendNets拥有基于视觉注意力冷凝器的深度自我注意力架构，该架构扩展了最近推出的独立注意力冷凝器，以提高空间通道选择性注意力。此外，AttendNets具有独特的机器设计的宏架构和微架构设计，通过机器驱动的设计探索策略实现。针对设备上图像识别任务的ImageNet $_{50}$基准数据集的实验结果表明，与研究文献中的几个深度神经网络相比，AttendNets的架构和计算复杂性度显着降低，这些深度神经网络旨在提高效率，同时实现最高的准确度（最小的AttendNet实现了高出$\sim$ 7.2%的准确度，同时需要少$\times$ 3倍的乘加运算，$\sim$ 4.17 $\times$参数更少，$\sim$ 16.7 $\times$重量内存要求比MobileNet-V1更低）。基于这些令人鼓舞的结果，AttendNets说明了视觉注意力冷凝器作为构建模块的有效性，可以为TinyML应用程序实现各种设备上的视觉感知任务。
2020-09-30 cs.CV cs.LG
Edge Artificial Intelligence: A Systematic Review of Evolution, Taxonomic Frameworks, and Future Horizons
University of the Basque Country（巴斯克大学）；Lebanese International University (LIU)（黎巴嫩国际大学）；The International University of Beirut（贝鲁特国际大学）；IKERBASQUE
本综述遵循PRISMA指南，通过多维度分类体系系统梳理边缘人工智能的演进、现状与未来，剖析核心技术与挑战，点明新兴机遇，为相关研究者与从业者提供全面框架。
2025-10-01 cs.LG
On-device edge learning for IoT data streams: a survey
GECAD；ISEP（波尔图理工学院工程学院）；Polytechnic of Porto（波尔图理工学院）；INESC TEC；FEP（波尔图大学经济学院）；University of Porto（波尔图大学）
该综述探讨了物联网数据流在设备端训练的持续学习方法，分析了神经网络与决策树的约束、挑战及多标准评估，强调构建自主在线系统的关键难点。
2025-02-25 cs.LG
Energy-Aware FPGA Implementation of Spiking Neural Network with LIF Neurons
Johns Hopkins University（约翰斯·霍普金斯大学）
本文提出一种基于一阶LIF神经元模型的SNN架构及硬件友好设计，在FPGA上实现，用于TinyML视觉任务，相比BCNN基线能效提升86%。
2024-11-03 cs.AR cs.LG cs.NE
Ariel-ML: Computing Parallelization with Embedded Rust for Neural Networks on Heterogeneous Multi-core Microcontrollers
KAIST, South Korea（韩国科学技术院）；Inria, France（法国国家信息与自动化技术研究院）
针对多核MCU上TinyML推理的并行化需求，提出基于嵌入式Rust的Ariel-ML工具包，通过通用TinyML流水线和多核支持，在多种32位MCU上实现低延迟推理，并保持与C/C++相当的内存占用。
2026-05-27 cs.DC cs.LG cs.PF
AttendSeg: A Tiny Attention Condenser Neural Network for Semantic Segmentation on the Edge
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）；DarwinAI Corp.（DarwinAI公司）
在这项研究中，我们介绍了\textbf{AttendSeg}，这是一种为设备上语义分割量身定制的低精度，高度紧凑的深度神经网络。AttendSeg拥有一个自注意力网络架构，包括轻量级的注意力冷凝器，用于以非常低的复杂度改善空间通道选择性注意力。AttendSeg独特的宏观架构和微观架构设计属性在代表性和效率之间取得了很好的平衡，这是通过专门为手头任务量身定制的机器驱动的设计探索策略实现的。实验结果表明，所提出的AttendSeg可以实现与复杂度更高的更大深度神经网络相当的分割精度，同时具有显着更低的架构和计算复杂性（需要多达27倍的MAC，参数减少> 72倍，重量内存需求减少> 288倍），使其非常适合边缘上的TinyML应用程序。
2021-04-29 cs.CV cs.LG
EdgeMark: An Automation and Benchmarking System for Embedded Artificial Intelligence Tools
organization= Department of Applied Mathematics；Computer Science, \ University of Denmark (DTU) , city= Kgs. Lyngby , postcode= 2800 , country= Denmark；organization= Department of Electrical；Computer Engineering, \ University , city= Aarhus , postcode= 8200 , country= Denmark
EdgeMark 是一个开源自动化系统，用于简化嵌入式 AI 模型的部署与基准评测，并通过对比 TFLM、Edge Impulse 等主流工具的性能，为开发者选型提供指导。
2025-02-03 cs.LG
Combined Federated and Split Learning in Edge Computing for Ubiquitous Intelligence in Internet of Things: State of the Art and Future Directions
Pennsylvania State University（宾夕法尼亚州立大学）；Fudan University（复旦大学）
联合学习（Federated Learning，FL）和分裂学习（Split Learning，SL）是两种新兴的协作学习方法，可以极大地促进物联网（Internet of Things，IoT）中的泛在智能。联邦学习使使用私有数据本地训练的机器学习（ML）模型能够聚合成全局模型。拆分学习允许ML模型的不同部分在学习框架中的不同工作者上进行协作训练。联邦学习和分裂学习各有其独特的优势和各自的局限性，可以相互补充，共同实现物联网中的泛在智能。因此，联邦学习和分裂学习的结合成为近年来一个活跃的研究领域，引起了广泛的兴趣。在本文中，我们回顾了联邦学习和分离学习的最新发展，并对在基于边缘计算的物联网环境中结合这两种学习方法的最新技术进行了调查。我们还确定了一些开放的问题，并讨论了在这一领域的未来研究的可能方向，希望进一步引起研究界对这一新兴领域的兴趣。
2022-07-20 cs.DC cs.LG
Real-Time Machine Learning for Embedded Anomaly Detection
Department of Computer Science（计算机科学系）；LIMA Laboratory（LIMA实验室）；Chadli Bendjedid University（Chadli Bendjedid大学）；Systems (LAMIS)（系统（LAMIS））；Echahid Cheikh Larbi Tebessi University（Echahid Cheikh Larbi Tebessi大学）
本文综述了嵌入式环境中实时异常检测的轻量级机器学习方法，分析了算法性能与硬件限制的权衡，并提供了算法选择的实用建议。
2025-12-22 cs.LG
PreMa: Predictive Maintenance of Solenoid Valve in Real-Time at Embedded Edge-Level
Indian Institute of Science（印度科学学院）
在工业过程自动化中，传感器（压力，温度等），控制器和执行器（电磁阀、机电继电器、断路器、电机等）确保生产线在预定条件下工作。当这些系统发生故障或有时完全失效时，必须实时的【形】发出警报，以确保不仅生产质量不受影响，而且人员和设备的安全也得到保证。在这项工作中，我们描述了一个智能和实时的【形】基于边缘的电子产品PreMa的建设，这基本上是一个传感器，用于监测电磁阀（SV）的健康。PreMa结构紧凑，功耗低，易于安装，并且具有成本效益。其数据保真度和测量精度可与使用高端的设备捕获的信号相媲美。智能螺线管传感器运行TinyML，这是TensorFlow的紧凑版（又名TensorFlow）。TFLite）机器学习框架。虽然故障检测推理是在现场，模型训练使用移动电话来完成“设备上”的培训。我们的产品评估表明，该传感器能够区分不同类型的故障。这些故障包括：（a）线轴卡住（b）弹簧故障和（c）电压不足。此外，该产品为维护人员提供SV的剩余使用寿命（RUL）。RUL提供帮助以决定瓣膜置换或其他。我们对整个系统（即嵌入式平台和神经网络模型）的性能相关的优化指标进行了广泛的评估。所提出的实施方式是这样的，给定任何机电致动器具有类似的瞬态响应的SV，该系统是能够状态监测，因此提出了第一种通用的基础设施。
2022-11-21 cs.LG
Ubiquitous Distributed Deep Reinforcement Learning at the Edge: Analyzing Byzantine Agents in Discrete Action Spaces
University of Turku（图尔库大学）
边缘计算在下一代移动网络中的集成正在为无数的网络物理系统带来低延迟和高带宽的无处不在的连接。这将进一步推动嵌入各种类型的自治系统边缘的日益增长的智能，其中协作机器学习有可能发挥重要作用。本文讨论了多智能体分布式深度强化学习中的一些挑战，这些挑战可能会在存在拜占庭或故障智能体的情况下发生。随着模拟与现实之间的差距得到弥合，必须考虑故障或错误的可能性。我们展示了错误的离散行为如何显着影响协作学习努力。特别是，我们分析的影响，有一小部分的代理，可能会执行错误的行动与给定的概率。我们研究的能力，系统收敛到一个共同的工作政策，通过协作学习过程的基础上，从每个代理的经验，以聚合为每个政策更新的数量，以及从代理遇到故障的错误动作的分数。我们的实验是在一个模拟环境中进行的，使用Atari测试平台的离散动作空间，和优势演员评论家（A2C）的分布式多智能体训练。
2020-08-18 cs.DC cs.LG cs.RO
TinySpeech: Attention Condensers for Deep Speech Recognition Neural Networks on Edge Devices
University of Waterloo（滑铁卢大学）；Waterloo Artificial Intelligence Institute（滑铁卢人工智能研究所）；DarwinAI Corp.（达尔文人工智能公司）
深度学习的进步已经在众多语音识别任务中实现了最先进的性能。然而，用于设备上语音识别的深度神经网络的广泛部署仍然是一个挑战，特别是在存储器和计算资源高度受限的边缘场景中（例如，低功耗嵌入式设备）或专用于语音识别的存储器和计算预算较低的情况（例如，执行除语音识别之外的许多任务的移动设备）。在这项研究中，我们引入了注意力凝聚器的概念，用于构建低占用空间，高效的深度神经网络，用于边缘上的设备上语音识别。注意冷凝器是一种自我注意机制，它学习并产生表征联合局部和跨通道激活关系的浓缩嵌入，并相应地执行选择性注意。为了说明其有效性，我们介绍了TinySpeech，低精度深度神经网络，主要包括使用机器驱动的设计探索策略为设备上的语音识别量身定制的注意力冷凝器，其中一个专门针对微控制器操作约束。在有限词汇量语音识别的Google Speech Commands基准数据集上的实验结果表明，与以前的工作相比，TinySpeech网络实现了显着降低的架构复杂性（$507\times$更少的参数），更低的计算复杂性（$48\times$更少的乘加运算）和更低的存储要求（$2028\times$更低的权重内存要求）。这些结果不仅证明了注意力冷凝器在构建高效的设备上语音识别网络方面的有效性，还阐明了其在边缘加速深度学习和增强TinyML应用程序的潜力。
2020-10-12 cs.LG cs.NE eess.AS
Neural Network Quantization for Microcontrollers: A Comprehensive Survey of Methods, Platforms, and Applications
本文综述了神经网络量化在微控制器上的方法、平台和应用，探讨了模型性能与硬件能力的权衡及未来发展方向。
2026-01-07 cs.AI cs.AR cs.LG
David and Goliath: An Empirical Evaluation of Attacks and Defenses for QNNs at the Deep Edge
ALGORITMI Research Centre（ALGORITMI研究中心）；Universidade do Minho（米尼奥大学）
本文实证评估了面向 TinyML 的 QNN 在十种攻击和六种防御下的鲁棒性，揭示了量化对梯度、噪声和决策边界距离的影响，并指出训练型防御需解决量化偏移与梯度失准问题。
2024-05-02 cs.AI cs.CR cs.LG
Towards an Intelligent Edge: Wireless Communication Meets Machine Learning
University of Hong Kong（香港大学）；Hong Kong University of Science and Technology（香港科技大学）
最近人工智能（AI）的复兴正在彻底改变科学和技术的几乎每一个分支。鉴于无处不在的智能移动设备和物联网（IoT）设备，预计大多数智能应用将部署在无线网络的边缘。这一趋势引起了人们对实现“智能边缘”的强烈兴趣，以支持各种边缘设备上支持AI的应用程序。边缘学习是无线通信和机器学习两个学科交叉的一个新的研究领域。边缘学习的一个主要主题是克服每个边缘设备上有限的计算能力和有限的数据。这是通过利用移动边缘计算（MEC）平台并利用分布在大量边缘设备上的海量数据来实现的。在这样的系统中，从分布式数据中学习和边缘服务器与设备之间的通信是两个关键的耦合方面，它们的融合带来了许多新的研究挑战。本文倡导一套新的边缘学习无线通信设计原则，统称为学习驱动通信。提供了说明性的例子来证明这些设计原则的有效性，并确定了独特的研究机会。
2018-09-02 cs.IT cs.LG cs.NI
