Machine Learning in Compiler Optimisation
Lancaster University（兰卡斯特大学）；University of Edinburgh（爱丁堡大学）
在过去的十年中，基于机器学习的编译已经从一个不起眼的研究领域变成了一个主流活动。在本文中，我们描述了机器学习和编译器优化之间的关系，并介绍了功能，模型，训练和部署的主要概念。然后，我们提供了一个全面的调查，并提供了各种不同的研究领域的路线图。最后，我们对该领域的开放问题和潜在的研究方向进行了讨论。本文对基于机器学习的编译的快速发展领域提供了一个可访问的介绍，并对其主要成就提供了详细的参考书目。
2018-05-09 cs.DC cs.LG cs.PL
Compilation as a Defense: Enhancing DL Model Attack Robustness via Tensor Optimization
Lancaster University（兰卡斯特大学）；Mindgard（Mindgard公司）
针对对抗性机器学习侧信道攻击，本文提出利用模型编译中的张量优化作为无需重构模型的防御手段，并证明其可使攻击相对有效性最高降低 43%。
2023-09-20 cs.CR cs.LG
Closed-Loop Neural Interfaces with Embedded Machine Learning
Cornell University（康奈尔大学）；EPFL（洛桑联邦理工学院）
能够进行多部位电记录、现场信号分类和闭环治疗的神经接口对于神经系统疾病的诊断和治疗至关重要。然而，在低功耗神经设备上部署机器学习算法是具有挑战性的，因为这些设备的计算和存储器资源受到严格限制。在本文中，我们回顾了在神经接口中嵌入机器学习的最新进展，重点是设计权衡和硬件效率。我们还提出了我们优化的基于树的模型，用于脑植入物中神经信号的低功耗和记忆效率分类。使用能量感知学习和模型压缩，我们表明，所提出的斜树可以优于传统的机器学习模型，如癫痫发作或震颤检测和运动解码的应用。
2020-10-21 cs.AR cs.LG
DCC: Data-Centric Compilation of Machine Learning Kernels for Processing-In-Memory Architectures
University of Toronto（多伦多大学）；Vector Institute（向量研究所）；Barcelona Supercomputing Center（巴塞罗那超级计算中心）；ETH Zürich（苏黎世联邦理工学院）；Nvidia（英伟达）；Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所）
针对PIM系统中数据重排与计算代码优化相互依赖的问题，提出数据驱动的编译器DCC，通过统一调优联合优化数据重排与计算代码，在HBM-PIM和AttAcc PIM上分别实现平均2.21倍和3.92倍的加速。
2026-09-01 cs.AR cs.DC cs.LG
FEAST: An Automated Feature Selection Framework for Compilation Tasks
University of Michigan（密歇根大学）；IBM T. J. Watson Research Center（IBM T. J. Watson研究中心）；Adobe Systems（Adobe系统公司）
将机器学习技术应用于编译任务的成功在很大程度上归功于程序表征的最新发展和进步，程序表征是一种在数字上或结构上量化目标程序的过程。虽然已经取得了很大的成就，在确定的关键功能，以表征程序，选择一个正确的一组功能，为特定的编译器任务仍然是一个特设的过程。为了保证功能的全面覆盖，编译工程师通常需要选择过多的功能。不幸的是，这可能会导致选择多个类似的功能，这反过来又会产生一个新的偏差问题，强调程序特性的某些方面，从而降低目标编译器任务的准确性和性能。在本文中，我们提出了特征选择编译任务（FEAST），一个有效的和自动化的框架，用于确定最相关的和代表性的功能，从功能池。具体而言，FEAST利用广泛使用的统计和机器学习工具，包括LASSO，顺序向前和向后选择，用于自动特征选择，并且通常可以应用于任何数值特征集。本文进一步提出了一种自动化的方法来评估FEAST的性能编译器参数分配。密集的实验结果表明，编译器参数分配任务下，FEAST可以实现可比的结果与约18%的功能，自动选择从整个功能池。我们还检查这些选定的功能，并讨论它们在程序执行中的作用。
2016-10-29 cs.LG cs.PL cs.SE
Stripe: Tensor Compilation via the Nested Polyhedral Model
Intel（英特尔公司）
硬件架构和机器学习（ML）库发展迅速。传统的编译器通常无法在各种新硬件产品中生成高性能代码。为了缓解这种情况，工程师们为每个ML库更新和硬件升级开发了手动调优的内核。不幸的是，这种方法需要过多的工程工作来扩展或维护任何程度的最先进的性能。在这里，我们提出了一个嵌套多面体模型表示高度并行化的计算有限的依赖关系之间的迭代。该模型为称为Stripe的中间表示（IR）提供了一个底层框架，该框架适用于标准编译器技术，同时自然地对现代ML计算的关键方面进行建模。Stripe代表了并行性、高效的内存布局和多个计算单元，这些计算单元处于一个可自动优化的抽象级别。我们描述了Stripe如何以LLVM的风格为ML启用编译器，允许独立开发算法，优化和硬件加速器。我们还讨论了Stripe相对于内核库和基于调度或基于调度空间的代码生成的设计探索优势。
2019-03-14 cs.DC cs.LG
Embedded Quantum Machine Learning in Embedded Systems: Feasibility, Hybrid Architectures, and Quantum Co-Processors
本文探讨了在资源受限的边缘平台中实现量子机器学习的可行性，提出混合架构和量子协处理器的实现路径，分析了主要障碍并提出工程方向。
2026-03-13 cs.AI cs.LG
Adversarial Attacks on Machine Learning in Embedded and IoT Platforms
机器学习（ML）算法越来越多地被集成到我们周围的嵌入式和物联网系统中，它们很容易受到对抗攻击的攻击。在资源有限的嵌入式平台上部署这些ML算法还需要使用模型压缩技术。这种模型压缩技术对ML对抗鲁棒性的影响是一个重要的新兴研究领域。本文概述了与嵌入式系统相关的对抗攻击和ML模型压缩技术。然后，我们描述的努力，试图了解对抗攻击和ML模型压缩之间的关系，然后讨论在这一领域的开放性问题。
2023-03-03 cs.AI cs.CR cs.LG
Embedded Machine Learning for Solar PV Power Regulation in a Remote Microgrid
Sun-Yat Sen University（中山大学）
针对偏远微电网太阳能逆变器功率调节问题，采用集成学习分别训练有功、无功功率控制模型，并部署到靠近逆变器的嵌入式边缘设备，以低延迟实现与台式PC相当的推理效果。
2024-12-02 cs.LG cs.SY eess.SY
Virtualization of Tiny Embedded Systems with a robust real-time capable and extensible Stack Virtual Machine REXAVM supporting Material-integrated Intelligent Systems and Tiny Machine Learning
University of Bremen（不来梅大学）；University of Siegen（锡根大学）；Institute for Microsensors, -actuators and -systems（微传感器、微执行器与微系统研究所）
在过去的几十年中，传感器密度和传感器部署显著增加，这是由显著的小型化和尺寸减小到芯片级驱动的，解决了无处不在的计算，边缘计算以及分布式传感器网络。材料集成和智能系统（MIIS）提供了下一个集成和应用级别，但它们带来了新的挑战并引入了硬约束（资源，能源供应，通信，弹性和安全）。通常，低资源系统是具有专用软件或专用硬件（FPGA）的静态编程处理器。这项工作表明，需要和解决方案，虚拟化在这种低资源和约束系统的弹性分布式传感器和网络物理网络使用一个统一的低资源，可定制的，和实时的【形】能力嵌入式和可扩展堆栈虚拟机（REXAVM），可以实现和合作的软件和硬件。在整体架构方法中，VM专门针对数字信号处理和微型机器学习。通过在编译时使用VM程序代码生成器和在运行时间使用增量代码处理，REXAVM是高度可定制的。虚拟机使用集成的、高效的实时编译器从文本代码创建字节码。本文显示和评估的适用性，建议的VM架构操作等效的软件和硬件（FPGA）实现。讨论了支持微型ML和使用定点运算的DSP的特定组件的效率和精度。扩展的用例部分演示了所引入的VM体系结构在广泛应用程序中的可用性。
2023-02-17 cs.AR cs.LG cs.OS
Real-Time Machine Learning for Embedded Anomaly Detection
Department of Computer Science（计算机科学系）；LIMA Laboratory（LIMA实验室）；Chadli Bendjedid University（Chadli Bendjedid大学）；Systems (LAMIS)（系统（LAMIS））；Echahid Cheikh Larbi Tebessi University（Echahid Cheikh Larbi Tebessi大学）
本文综述了嵌入式环境中实时异常检测的轻量级机器学习方法，分析了算法性能与硬件限制的权衡，并提供了算法选择的实用建议。
2025-12-22 cs.LG
Embedded FPGA Developments in 130nm and 28nm CMOS for Machine Learning in Particle Detector Readout
SLAC National Accelerator Laboratory（SLAC国家加速器实验室）；Stanford University（斯坦福大学）
本研究利用开源FABulous框架在130nm和28nm CMOS节点设计并制造了eFPGA，通过模拟高能粒子穿过硅像素传感器验证其作为前端读出芯片的能力，并成功在eFPGA上配置机器学习分类器实现完美精度的数据源减少，为对撞机实验提供了低功耗、高效率且可重构的解决方案。
2024-08-28 cs.AR cs.LG physics.ins-det
Embedded Machine Learning for Microcontroller-Class Edge Devices: Data, Feature, Evaluation, and Deployment Pipelines
IEEE
本文系统介绍面向微控制器平台的嵌入式机器学习工作流，重点涵盖采样缓冲、特征提取、不平衡验证、模型/运行时协同设计及流式部署等工程决策，并以惯性运动识别和关键词检测为例给出实用设计规则。
2026-06-17 cs.AI cs.AR cs.LG
CoCoPIE: Making Mobile AI Sweet As PIE --Compression-Compilation Co-Design Goes a Long Way
Perceptin Inc.（Perceptin公司）；William & Mary（威廉与玛丽学院）；North Carolina State University（北卡罗来纳州立大学）；Northeastern University（东北大学）
假设硬件是实现实时移动智能的主要限制，业界主要致力于开发用于机器学习和推理的专用硬件加速器。本文对这一假设提出了质疑。通过借鉴最近的实时AI优化框架CoCoPIE，它认为通过有效的压缩编译器协同设计，可以在主流终端设备上实现实时人工智能，而无需特殊硬件。CoCoPIE是一个软件框架，在移动AI方面拥有众多记录：第一个支持所有主要DNN类型的框架，从CNN到RNN，Transformer，语言模型等;最快的DNN修剪和加速框架，与TensorFlow-Lite等其他框架上的DNN修剪相比，速度高达180倍;使许多代表性的人工智能应用程序能够在现成的移动设备上实时运行，而这些移动设备以前被认为只有在特殊的硬件支持下才有可能实现;使得现成的移动设备在能量效率和/或性能方面优于许多代表性的ASIC和FPGA解决方案。
2020-05-14 cs.LG cs.PF stat.ML
AI and Machine Learning Driven Indoor Localization and Navigation with Mobile Embedded Systems
Colorado State University（科罗拉多州立大学）
该文综述室内导航因GPS失效而依赖WiFi与传感器的现状，分析前沿方案挑战，并说明移动嵌入式系统上的AI算法如何实现定位与导航。
2024-08-09 cs.AI cs.LG cs.RO
TensorFlow Eager: A Multi-Stage, Python-Embedded DSL for Machine Learning
Google Brain（谷歌大脑）
TensorFlow Eager是一种多阶段的Python嵌入式领域特定语言，用于硬件加速的机器学习，适用于交互式研究和生产。TensorFlow Eager扩展的TensorFlow要求用户将计算表示为递归图;这允许编译器优化并简化部署，但阻碍了快速原型和运行时动态性。TensorFlow Eager消除了这些可用性成本，同时又不牺牲图形带来的好处：它为TensorFlow提供了一个命令式前端，可以立即执行操作，并提供了一个JIT跟踪器，可以将由TensorFlow操作组成的Python函数转换为可执行的递归图。因此，TensorFlow Eager提供了一个多阶段编程模型，可以在单个包中轻松地在命令式执行和分段执行之间进行插值。
2019-02-27 cs.LG cs.PL
TensorFlow Lite Micro: Embedded Machine Learning on TinyML Systems
Google（谷歌）；Harvard University（哈佛大学）
嵌入式设备上的深度学习推理是一个新兴的领域，有着无数的应用，因为微型嵌入式设备无处不在。但我们必须克服重大挑战，才能从这一机会中获益。嵌入式处理器是严重的资源约束。它们最接近的移动对手在计算能力、内存可用性和功耗方面表现出至少100 - 1,000倍的差异。因此，机器学习（ML）模型和相关的ML推理框架不仅必须有效地执行，而且还必须在几个字节的内存中运行。此外，嵌入式设备的生态系统非常分散。为了最大限度地提高效率，系统供应商通常会省略许多主流系统中常见的功能，包括动态内存分配和虚拟内存，这些功能允许跨平台的互操作性。硬件有多种风格（例如，指令集架构和FPU支持，或缺乏支持）。我们介绍TensorFlow Lite Micro（TF Micro），这是一个开源ML推理框架，用于在嵌入式系统上运行深度学习模型。TF Micro解决了嵌入式系统资源限制和碎片化挑战带来的效率要求，这些挑战使得跨平台互操作性几乎不可能实现。该框架采用了独特的基于解释器的方法，在克服这些挑战的同时提供了灵活性。本文解释了TF Micro背后的设计决策，并描述了其实施细节。此外，我们提出了一个评估，以证明其低资源需求和最小的运行时性能开销。
2021-03-13 cs.AI cs.LG
Ageing Analysis of Embedded SRAM on a Large-Scale Testbed Using Machine Learning
Deutsches Elektronen-Synchrotron DESY（德国电子同步加速器研究所）；Hamburg University of Applied Sciences（汉堡应用技术大学）；Hamburg University of Technology（汉堡工业大学）
本文基于 154 块开发板的 SRAM 启动偏置数据提取特征，并用机器学习预测嵌入式设备运行时长，回归与六个月粒度分类均取得良好效果。
2023-07-13 cs.AR cs.LG cs.SY
ReinBo: Machine Learning pipeline search and configuration with Bayesian Optimization embedded Reinforcement Learning
LMU Munich（慕尼黑大学）
机器学习流水线潜在地由几个操作阶段组成，如数据预处理、特征工程和机器学习模型训练。每个操作都有一组超参数，当操作未被选择时，这些超参数可能与管道无关。这就产生了一个分层的条件超参数空间。为了优化这种混合的连续和离散条件分层超参数空间，我们提出了一种有效的管道搜索和配置算法，该算法结合了强化学习和贝叶斯优化的力量。实验结果表明，我们的方法表现良好的最先进的方法，如自动sklearn，TPOT，树Parzen窗口，随机搜索。
2019-04-10 cs.AI cs.LG stat.ML
Development of a Neural Network-Based Mathematical Operation Protocol for Embedded Hexadecimal Digits Using Neural Architecture Search (NAS)
Hunter College High School（亨特学院高中）；Columbia University（哥伦比亚大学）
开发一种基于机器学习的嵌入式十六进制数字加法算法是有益的。通过比较人类开发的机器学习模型和通过神经结构搜索（NAS）采样的模型，我们确定了一种有效的方法来解决这个问题，最终测试损失为0.2937的人类开发的模型。
2022-11-12 cs.LG cs.NE
A novel embedded min-max approach for feature selection in nonlinear support vector machine classification
University of Málaga（马拉加大学）
近年来，特征选择已成为机器学习领域的一个具有挑战性的问题，如分类问题。支持向量机（SVM）是一种应用于分类任务的公知技术。在文献中已经提出了各种方法来选择SVM中最相关的特征。不幸的是，所有这些方法要么处理线性分类设置中的特征选择问题，要么提出难以在实践中实现的特设方法。相比之下，我们提出了一个嵌入式特征选择方法的基础上的最小-最大优化问题，在模型的复杂性和分类精度之间的权衡寻求。通过利用对偶理论，我们等价地重新表述了最小-最大问题，并使用非线性优化的现成软件解决了它。我们的方法的效率和实用性进行了测试，在几个基准数据集的准确性，选定的功能和可解释性的数量。
2021-01-15 cs.LG math.OC stat.ML
Field-Embedded Factorization Machines for Click-through rate prediction
Adobe（奥多比）
点击率（CTR）预测模型在许多在线应用中是常见的，例如数字广告和推荐系统。场感知因子分解机（FFM）和场加权因子分解机（FwFM）是CTR预测的浅层模型中最先进的。最近，也提出了许多基于深度学习的模型。在更深层次的模型中，DeepFM，xDeepFM，AutoInt+和FiBiNet是最先进的模型。更深层次的模型将学习显式特征交互的核心架构组件与深度神经网络（DNN）组件相结合。我们提出了一种新的浅场嵌入式分解机（FEFM）和它的深场嵌入式分解机（DeepFEFM）。FEFM学习每个字段对的对称矩阵嵌入以及每个特征的通常的单向量嵌入。FEFM的模型复杂度明显低于FFM，与FwFM的复杂度大致相同。FEFM还具有关于重要场和场相互作用的深刻的数学性质。DeepFEFM将FEFM组件学习的FEFM交互向量与DNN相结合，从而能够学习更高阶的交互。我们在两个大型公开的真实世界数据集上对各种超参数进行了全面的实验。当比较测试AUC和log loss时，结果表明FEFM和DeepFEFM在CTR预测任务中优于现有的最先进的浅层和深层模型。我们已经在DeepCTR库（https：//github.com/shenweichen/DeepCTR）中提供了FEFM和DeepFEFM的代码。
2021-06-14 cs.IR cs.LG stat.ML
Classification of anomalous gait using Machine Learning techniques and embedded sensors
University of State of Amazonas（亚马逊州立大学）
根据研究，人类步态可以是用于检测影响人类运动的病理的预测因素。此外，已知需要高投资以提高能够提供人类步态检查的传统临床基础设施，这使得经济上脆弱的患者负担不起。面对这种情况，这项工作提出了一种可访问的现代解决方案，包括可穿戴设备，以获取3D加速度计和3D陀螺仪测量值，以及机器学习技术，以在不同类别的诱发步态障碍之间进行分类。为了开展拟议的研究，创建了一个数据集，目标标签为4种不同且平衡的异常步态类别。在该数据集中实现最佳性能（在准确性方面）的机器学习技术是通过在支持向量机分类器（94 \%）之后应用主成分分析算法。此外，基于前馈神经网络的架构产生了更好的结果（96%）。最后，它也提出了计算性能的比较模型实现。
2021-10-08 cs.LG eess.SP
Machine Learning Subsystem for Autonomous Collision Avoidance on a small UAS with Embedded GPU
Marconi-Rosenblatt AI/ML Innovation Lab, ANDRO Computational Solutions, LLC（ANDRO计算解决方案有限责任公司马可尼-罗森布拉特人工智能/机器学习创新实验室）
随着基于机器学习的自主模块和嵌入式图形处理单元（GPU）的广泛可用性，对用于6G通信网络的无人机系统（UAS）供电的解决方案的兴趣极大地增长。虽然这些技术已经彻底改变了UAS解决方案的可能性，但为UAS设计一个可操作的，强大的自治框架仍然是一个多方面的难题。在这项工作中，我们提出了我们的新的，模块化的框架，为无人机自主权，题为MR-iFLY，并讨论了它如何可以扩展到使6G群解决方案。我们首先详细介绍了与资源受限设备上基于机器学习的UAS自治相关的挑战。接下来，我们将深入介绍MR-iFLY的新型深度估计和防撞技术如何应对这些挑战。最后，我们描述了我们用于测量性能的各种评估标准，展示了我们优化的机器视觉组件如何提供比基线模型高出15倍的加速，并展示了MR-iFLY基于视觉的防撞技术的飞行演示视频。我们认为，这些实证结果证实了MR-iFLY作为候选者，通过提供独立的碰撞避免和导航功能，用于减少6G通信群中节点之间的通信开销。
2021-12-03 cs.LG cs.RO
Predicting drug properties with parameter-free machine learning: Pareto-Optimal Embedded Modeling (POEM)
Cyclica Inc.（Cyclica公司）；Vector Institute for Artificial Intelligence（矢量人工智能研究所）
从小分子的分子结构预测其吸收、分布、代谢、排泄和毒性（ADMET）是药物化学中的中心问题，在药物发现中具有重要的实际意义。创建预测模型通常需要大量的试错来选择分子表示、机器学习（ML）算法和超参数调整。一种普遍适用的方法，在所有数据集上表现良好，而无需调优，这将是非常有价值的，但目前还缺乏。在这里，我们描述了帕累托最优嵌入式建模（POEM），一种基于相似性的方法来预测分子特性。POEM是一种非参数的监督ML算法，用于生成可靠的预测模型，而无需优化。POEMs预测强度是通过以特定于上下文的方式组合分子结构的多种不同表示来获得的，同时保持低维度。我们对POEM相对于行业标准ML算法进行了基准测试，并在17个分类任务中发布了结果。POEM在所有情况下都表现良好，并降低了过拟合的风险。
2020-04-02 cs.LG stat.ML
A Novel Poisoned Water Detection Method Using Smartphone Embedded Wi-Fi Technology and Machine Learning Algorithms
Koya University（科亚大学）；The University of Buckingham（白金汉大学）
水是人体必需的流体，其质量和清洁度的自动检查是一个正在进行的研究领域。一种这样的方法是将液体呈现给各种类型的信号，并使信号衰减的量指示液体类别。在本文中，我们利用Wi-Fi信号通过训练不同的机器学习算法来区分干净的水和有毒的水。通过等效的智能手机嵌入式Wi-Fi芯片组获取Wi-Fi接入点（WAP）信号，然后提取网络状态信息CSI度量并将其转换为特征向量，以用作机器学习分类算法的输入。CSI数据的测量的幅度和相位被选择作为四个分类器k-NN、SVM、LSTM和Entrance的输入特征。实验结果表明，该模型是足够的，以区分有毒水和清洁水的分类精度为89%时，LSTM的应用，而92%的分类精度时，应用AdaBoost-Enhancement分类器。
2023-02-13 cs.LG eess.SP
Gait Recovery System for Parkinson's Disease using Machine Learning on Embedded Platforms
Solarillion Foundation（Solarillion基金会）；SRM Institute of Science and Technology（SRM科学技术学院）
步态冻结（FoG）是帕金森病（PD）患者常见的步态缺陷。为了帮助这些患者从FoG事件中恢复，需要节律性听觉刺激（RAS）。作者提出了一个无处不在的嵌入式系统，检测FOG事件与机器学习（ML）子系统从加速度计信号。通过在设备上进行推断，我们避免了基于云的系统中普遍存在的问题，例如延迟和网络连接依赖性。与性能最佳的标准ML系统相比，使用的资源高效分类器将模型大小要求降低了约400倍，最佳分类准确率仅为1.3%。上述权衡有利于在包括基于微控制器的系统在内的广泛的嵌入式设备中的可部署性。该研究还探讨了优化程序，以部署在ATMega2560微控制器的最小系统延迟为44.5毫秒的模型。所提出的资源高效ML模型的最小模型大小为1.4 KB，平均召回分数为93.58%。
2020-04-13 cs.LG cs.SY eess.SP
TrustErase: Auditable Instant Machine Unlearning with Passport-Embedded Representations
University of Catania（卡塔尼亚大学）
提出TrustErase框架，利用护照嵌入表示实现无需数据、可验证的即时遗忘，通过参数高效适配层中的护照作为密钥，仅需停用即可移除特定类别或数据集，无需重训练或微调。
2026-06-17 cs.AI cs.CR cs.LG
Dynamic Transformer for Efficient Machine Translation on Embedded Devices
University of Southampton（南安普顿大学）
Transformer架构广泛用于机器翻译任务。然而，其资源密集型的性质使得它具有挑战性的约束嵌入式设备上实现，特别是在可用的硬件资源可以在运行时变化。我们提出了一个动态的机器翻译模型，根据任何特定时间的可用资源来扩展Transformer架构。所提出的方法，“动态HAT”，使用一个HAT超级变压器作为骨干搜索SubTransformers与不同的精度延迟权衡在设计时。最佳SubTransformer在运行时从SuperTransformer中采样，这取决于延迟约束。动态HAT在Jetson Nano上进行了测试，该方法使用直接从SuperTransformer采样的继承SubTransformers，切换时间<1 s。使用继承的SubTransformers会导致BLEU分数损失<1.5%，因为SubTransformer配置在采样后没有从头开始重新训练。然而，为了恢复这种性能损失，可以减小设计空间的尺寸以将其定制为目标硬件系列。新的设计空间减少导致次优模型的BLEU分数从原始设计空间增加约1%，GPU的性能扩展范围为0.356s - 1.526s，CPU的性能扩展范围为2.9s - 7.31s。
2021-07-30 cs.CL cs.LG
Graph-Embedded Multi-layer Kernel Extreme Learning Machine for One-class Classification or (Graph-Embedded Multi-layer Kernel Ridge Regression for One-class Classification)
Indian Institute of Technology Indore（印度理工学院印多尔分校）
大脑可以通过只使用正常样本来检测异常值。类似地，单类分类（OCC）也仅使用正常样本来训练模型，并且经训练的模型可用于离群值检测。在本文中，OCC的多层架构提出了堆叠各种图形嵌入核岭回归（KRR）为基础的自动编码器在一个层次的方式。这些自动编码器在两种类型的图形嵌入下制定，即基于局部和全局方差的嵌入。这个图形嵌入探索样本和自动编码器的多层之间的关系，将输入特征投影到新的特征空间中。该架构的最后一层是基于图嵌入回归的单类分类器。自动编码器使用无监督学习方法，最后一层使用半监督（仅通过正样本进行训练并获得封闭形式的解决方案）学习方法。该方法在21个公开的基准数据集上进行了实验评估。实验结果验证了所提出的单类分类器的有效性超过11个现有的最先进的基于核的单类分类器。弗里德曼测试也进行了验证的统计显着性的索赔的优越性，建议的一类分类器比现有的国家的最先进的方法。本文利用两种图嵌入方法，提出了4种基于图嵌入多层KRR的单类分类器变体。所有4种变体在本文讨论的各种标准方面都比现有的一类分类器表现得更好。因此，它可以是OCC任务的可行替代方案。在未来，各种其他类型的自动编码器可以在所提出的架构中进行探索。
2019-04-13 cs.LG stat.ML
Kinematic Evidence of an Embedded Protoplanet in HD 142666 Identified by Machine Learning
The University of Georgia（佐治亚大学）；University of California, San Francisco（加州大学旧金山分校）；Cardiovascular Research Institute（心血管研究所）；The University of Alabama（阿拉巴马大学）
本研究利用机器学习模型在HD 142666原行星盘中发现局域化非开普勒运动，经流体动力学模拟验证，确认其存在一颗5木星质量的行星，为机器学习识别原行星盘非开普勒特征迈出第一步。
2023-03-12 astro-ph.EP astro-ph.SR cs.LG
Software Engineering Approaches for TinyML based IoT Embedded Vision: A Systematic Literature Review
Boise State University（博伊西州立大学）
物联网（IoT）通过无处不在的传感、通信、计算和驱动，使人类能够控制我们的环境。在过去的几年里，物联网与机器学习（ML）联手，在远端嵌入深度智能。TinyML（Tiny机器学习）支持在极其精简的边缘硬件上部署用于嵌入式视觉的ML模型，将物联网和ML的力量结合在一起。然而，TinyML驱动的嵌入式视觉应用仍处于初期阶段，它们刚刚开始扩展到广泛的现实世界物联网部署。为了利用物联网和机器学习的真正潜力，有必要为产品开发人员提供强大的，易于使用的软件工程（SE）框架和最佳实践，这些框架和最佳实践是针对TinyML工程所面临的独特挑战而定制的。通过这一系统的文献综述，我们汇总了TinyML开发人员报告的关键挑战，并确定了大规模计算机视觉、机器学习和嵌入式系统中最先进的SE方法，这些方法可以帮助解决基于TinyML的物联网嵌入式视觉中的关键挑战。总之，我们的研究利用了嵌入式系统开发人员和ML开发人员独立开发的SE专业知识之间的协同作用，以帮助解决基于TinyML的物联网嵌入式视觉工程中的独特挑战。
2022-04-19 cs.CV cs.LG cs.SE
Performance Tuning for GPU-Embedded Systems: Machine-Learning-based and Analytical Model-driven Tuning Methodologies
Lawrence Berkeley National Laboratory（劳伦斯伯克利国家实验室）；University of A Coruña（拉科鲁尼亚大学）
本文针对GPU嵌入式系统，提出并比较了分析模型驱动与机器学习驱动的两种调优方法，在NVIDIA Jetson上评估BPLG库并行前缀实现，并与穷举搜索及CUSPARSE等库对比，为性能可移植性提供指导。
2023-10-24 cs.DC cs.LG cs.PF
Association Rule Based Flexible Machine Learning Module for Embedded System Platforms like Android
在过去的几年里，智能手机的普及率有了巨大的增长。随着智能手机不断添加新功能以提高其实用性，其重要性在未来只会增加。将机器学习与移动计算相结合，可以使智能手机成为“智能”设备，这是迄今为止智能手机所没有的功能。此外，机器学习和上下文感知计算的组合可以使智能手机能够根据用户的环境和上下文主动衡量用户的需求。因此，可以向用户提供必要的服务。本文探讨了在Android平台上集成机器学习和上下文感知计算的方法和应用，为用户提供更高的实用性。为了实现这一点，我们定义了一个机器学习（ML）模块，该模块被纳入基本的Android架构。首先，我们概述了ML模块应该提供的两个主要功能。然后，我们介绍了三种架构，每种架构都在Android架构的不同级别上集成了ML模块。这些架构的优点和缺点进行了评估。最后，我们解释了几个应用程序，其中我们提出的系统可以被纳入，使他们的功能得到改善。
2014-11-14 cs.CY cs.HC cs.LG
EEG-TCNet: An Accurate Temporal Convolutional Network for Embedded Motor-Imagery Brain-Machine Interfaces
ETH Zürich（苏黎世联邦理工学院）；Nihon University（日本大学）；Huawei Technologies（华为技术有限公司）
近年来，深度学习（DL）对基于脑电图（EEG）的运动想象脑机接口（MI-BMIs）的改进做出了重大贡献。在实现高分类精度的同时，DL模型的大小也在增长，需要大量的内存和计算资源。这对嵌入式BMI解决方案提出了重大挑战，该解决方案通过本地处理数据来保证用户隐私，减少延迟和低功耗。在本文中，我们提出了EEG-TCNet，这是一种新型的时间卷积网络（TCN），在需要很少的可训练参数的情况下实现了出色的精度。它的低内存占用和低推理计算复杂度使其适用于边缘资源有限设备上的嵌入式分类。在BCI Competition IV-2a数据集上的实验结果表明，EEG-TCNet在4类MI中达到了77.35%的分类准确率。通过找到每个主题的最佳网络超参数，我们进一步将准确率提高到83.84%。最后，我们展示了EEG-TCNet的多功能性的母亲所有BCI基准（MOABB），一个大规模的测试基准包含12个不同的EEG数据集与MI实验。结果表明，EEG-TCNet成功地推广了一个单一的数据集，超过了MOABB的当前最先进的（SoA），元效应为0.25。
2020-05-31 cs.HC cs.LG eess.SP
