The deployment of neural networks on resource-constrained micro-controllers has gained momentum, driving many advancements in Tiny Neural Networks. This paper introduces a tiny feed-forward neural network, TinyFC, integrated into the Field-Oriented Control (FOC) of Permanent Magnet Synchronous Motors (PMSMs). Proportional-Integral (PI) controllers are widely used in FOC for their simplicity, although their limitations in handling nonlinear dynamics hinder precision. To address this issue, a lightweight 1,400 parameters TinyFC was devised to enhance the FOC performance while fitting into the computational and memory constraints of a micro-controller. Advanced optimization techniques, including pruning, hyperparameter tuning, and quantization to 8-bit integers, were applied to reduce the model's footprint while preserving the network effectiveness. Simulation results show the proposed approach significantly reduced overshoot by up to 87.5%, with the pruned model achieving complete overshoot elimination, highlighting the potential of tiny neural networks in real-time motor control applications.
MicroNets: Neural Network Architectures for Deploying TinyML Applications on Commodity Microcontrollers
Arm ML Research（Arm机器学习研究院）；Harvard University（哈佛大学）；SambaNova Systems
在资源受限的微控制器（MCU）上本地执行机器学习工作负载有望大幅扩展物联网的应用空间。然而，所谓的TinyML提出了严峻的技术挑战，因为深度神经网络推理需要大量的计算和内存预算。为了应对这一挑战，神经架构搜索（NAS）有望帮助设计出精确的ML模型，以满足MCU内存、延迟和能量的严格限制。NAS算法的一个关键组成部分是它们的延迟/能量模型，即，从给定的神经网络架构到其在MCU上的推理延迟/能量的映射。在本文中，我们观察到一个有趣的性质NAS搜索空间的MCU模型设计：平均而言，模型延迟与模型操作（op）计数线性变化下，一个统一的先验模型在搜索空间。利用这一洞察力，我们采用可区分NAS（DNAS）来搜索具有低内存使用和低操作数的模型，其中操作数被视为延迟的可行代理。实验结果验证了我们的方法，产生了我们的MicroNet模型，我们使用Tensorflow Lite Micro（TinyML社区中广泛使用的标准开源NN推理运行时）将其部署在MCU上。MicroNets展示了所有三个TinyMLperf行业标准基准任务的最新结果：视觉唤醒词，音频关键字定位和异常检测。模型和培训脚本可以在github.com/ARM-software/ML-zoo上找到。
TOD-CNN: An Effective Convolutional Neural Network for Tiny Object Detection in Sperm Videos
Northeastern University（东北大学）；China Medical University（中国医科大学）；Shengjing Hospital（盛京医院）；Jinghua Hospital（京华医院）；Stevens Institute of Technology（史蒂文斯理工学院）；University of Luebeck（吕贝克大学）
显微视频中微小物体的检测是一个难题，特别是在大规模实验中。对于显微视频中的微小物体（如精子），目前的检测方法面临着物体定位模糊、不规则和精确的挑战。相比之下，我们提出了一个用于微小目标检测的卷积神经网络（TOD-CNN），其底层数据集为高质量精子显微镜视频（111个视频，$>$ 278，000个注释对象），并且设计了一个图形用户界面（GUI）来有效地使用和测试所提出的模型。TOD-CNN具有高度准确性，在显微视频中实时精子检测的任务中实现了$85.60\%$ AP $_{50}$。为了证明精子检测技术在精子质量分析中的重要性，我们进行了相关的精子质量评价指标，并将其与医生的诊断结果进行了比较。
DeepPicarMicro: Applying TinyML to Autonomous Cyber Physical Systems
University of Kansas（堪萨斯大学）
在微型微控制器单元（MCU）上运行深度神经网络（DNN）具有挑战性，因为它们在计算、内存和存储容量方面存在局限性。幸运的是，MCU硬件和机器学习软件框架的最新进展使得在现代MCU上运行相当复杂的神经网络成为可能，从而产生了一个被广泛称为TinyML的新研究领域。然而，很少有研究表明TinyML在网络物理系统（CPS）中的应用潜力。在本文中，我们介绍了DeepPicarMicro，一个小型自动驾驶RC汽车测试平台，它在Raspberry Pi Pico MCU上运行卷积神经网络（CNN）。我们采用了最先进的DNN优化技术，成功地将著名的PilotNet CNN架构（用于驱动NVIDIA的真正自动驾驶汽车）安装在MCU上。我们应用最先进的网络架构搜索（NAS）方法来寻找进一步优化的网络，这些网络可以以端到端的方式实时有效地控制汽车。从一个广泛的系统的实验评估研究，我们观察到一个有趣的准确性，延迟和系统的控制性能之间的关系。由此，我们提出了一种联合优化策略，该策略在启用AI的CPS的网络架构搜索过程中同时考虑模型的准确性和延迟。
Tiny-PULP-Dronets: Squeezing Neural Networks for Faster and Lighter Inference on Multi-Tasking Autonomous Nano-Drones
University of Bologna（博洛尼亚大学）；ETH Zürich（苏黎世联邦理工学院）；Technology Innovation Institute（技术创新研究院）；Dalle Molle Institute for Artificial Intelligence（达勒·莫勒人工智能研究所）
Weight, Block or Unit? Exploring Sparsity Tradeoffs for Speech Enhancement on Tiny Neural Accelerators
Bose Corp.（博士音响公司）；University of Oldenburg（奥尔登堡大学）
我们探索网络稀疏化策略，目的是将神经语音增强（SE）压缩到新一代基于低功耗微控制器的神经加速器（microNPU）的最佳配置。我们研究了三种独特的稀疏结构：权重修剪，块修剪和单元修剪，并讨论了它们的优点和缺点时，适用于SE。我们专注于计算吞吐量，内存占用和模型质量之间的相互作用。我们的方法支持上述所有三种结构，并联合学习整数量化权重和稀疏性。此外，我们展示了离线幅度为基础的修剪整数量化模型作为性能基线。虽然有效的语音增强是一个活跃的研究领域，我们的工作是第一个应用块修剪SE和第一个解决SE模型压缩的microNPU的上下文中。使用权重修剪，我们表明我们能够将已经紧凑的模型的内存占用从3.7MB压缩到87kB，同时仅损失0.1 dB SDR的性能。我们还显示了6.7倍的计算加速比，使用块修剪时相应的SDR下降仅为0.59 dB SDR。
