Classification via an Embedded Approach
Instituto Politécnico Nacional（国立理工学院）；Tecnológico de Estudios Superiores de Ecatepec（埃卡特佩克高等技术研究学院）
本文介绍了通过将机器学习算法嵌入Arduino Uno板实现的自动挥发性有机化合物（VOC）分类过程的结果。构建了一个电子鼻原型，用于检测三种不同水果中的挥发性有机化合物。该电子鼻使用五个二氧化锡（SnO2）气体传感器的阵列、用作数据采集部分的Arduino Uno板以及通过嵌入从电子鼻接收数据信号的方法函数的智能分类模块来构造。对于智能分类模块，还实现了训练算法，以创建便携式，自动化，快速响应，经济的电子鼻设备的基础。该解决方案提出了一种便携式系统来识别和分类VOC，而不使用个人计算机（PC）。结果表明，与PC中使用的工具箱的性能相比，嵌入式方法具有可接受的精度。这构成了能够以可靠的方式识别VOC的嵌入式解决方案，以创建用于各种行业的应用产品，这些应用产品能够将电子鼻获取的数据分类为VOC。该算法在嵌入式系统中的分类精度达到了99%。
2019-05-15 cs.LG stat.ML
Real-Time and Embedded Deep Learning on FPGA for RF Signal Classification
Intelligent Automation, Inc.（智能自动化公司）
我们在嵌入式软件定义无线电平台DeepRadio的现场可编程门阵列（FPGA）上设计并实现了一种基于深度学习的RF信号分类器，该分类器可以实时的以低功耗将通过RF前端接收的信号分类为不同的调制类型。该分类器实现成功地捕获了无线信号的复杂特征，以服务于无线安全和通信系统中的关键应用，例如识别信号认证系统中的欺骗信号，检测电子战（EW）应用中的目标发射器和干扰机，识别认知无线电网络中的主要和次要用户，干扰搜索和自适应调制。深度神经网络通过低功耗和低延迟嵌入式计算，直接在DeepRadio的FPGA结构上运行，同时保持分类器精度接近软件性能。我们评估了另一个SDR（USRP）以不同的功率水平发送不同调制类型的信号，DeepRadio接收信号并在其FPGA上实时的对其进行分类时的性能。带有移动应用程序的智能手机连接到DeepRadio，以启动实验并可视化分类结果。通过空中的真实无线电传输，我们证明了在DeepRadio上实现的分类器实现了高精度，低延迟（每个样本微秒）和低能耗（每个样本微焦耳），这种性能是其他嵌入式平台（如嵌入式图形处理单元（GPU））无法比拟的。
2019-10-13 cs.LG cs.NI eess.SP
A novel embedded min-max approach for feature selection in nonlinear support vector machine classification
University of Málaga（马拉加大学）
近年来，特征选择已成为机器学习领域的一个具有挑战性的问题，如分类问题。支持向量机（SVM）是一种应用于分类任务的公知技术。在文献中已经提出了各种方法来选择SVM中最相关的特征。不幸的是，所有这些方法要么处理线性分类设置中的特征选择问题，要么提出难以在实践中实现的特设方法。相比之下，我们提出了一个嵌入式特征选择方法的基础上的最小-最大优化问题，在模型的复杂性和分类精度之间的权衡寻求。通过利用对偶理论，我们等价地重新表述了最小-最大问题，并使用非线性优化的现成软件解决了它。我们的方法的效率和实用性进行了测试，在几个基准数据集的准确性，选定的功能和可解释性的数量。
2021-01-15 cs.LG math.OC stat.ML
TrajectoryNet: An Embedded GPS Trajectory Representation for Point-based Classification Using Recurrent Neural Networks
Dalhousie University（达尔豪斯大学）；Acadia University（阿卡迪亚大学）；Polish Academy of Sciences（波兰科学院）
从GPS（全球定位系统）人类活动的痕迹中理解和发现知识是基于移动性的城市计算的一个重要课题。我们提出了TrajectoryNet-一个神经网络架构，用于基于点的轨迹分类，以推断现实世界中的人类交通方式从GPS轨迹。为了克服捕获GPS数据所施加的低维和异构特征空间中的潜在因素的挑战，我们开发了一种新的表示方法，该方法将原始特征空间嵌入到另一个空间中，该空间可以被理解为一种基础扩展形式。我们还通过基于片段的信息丰富了特征空间，并使用Maxout激活来提高循环神经网络（RNN）的预测能力。在检测四种类型的交通模式时，我们实现了超过98%的分类准确率，在没有额外的传感数据或基于位置的先验知识的情况下，优于现有的模型。
2017-08-30 cs.AI cs.CV cs.LG
Lightweight CNNs for Embedded SAR Ship Target Detection and Classification
针对SAR数据近实时监测受限于下行链路和地面处理的带宽与延迟问题，提出轻量级CNN模型，直接对Sentinel-1未聚焦SAR数据进行实时推理，验证了星上FPGA部署的可行性及目标分类能力。
2025-08-14 cs.CV cs.LG
Artificial Neural Networks for Sensor Data Classification on Small Embedded Systems
Institute of Telematics（远程信息处理研究所）；Hamburg University of Technology（汉堡工业大学）
在本文中，我们调查的使用机器学习解释传感器模块中的传感器测量值。特别是，我们分析的潜力，人工神经网络（ANN）的低成本微控制器与几个字节的内存语义丰富的传感器捕获的数据。重点是对具有高可靠性的时态数据系列进行分类。分析了前馈神经网络（FFNNs）和递归神经网络（RNNs）的设计和实现。我们验证开发的人工神经网络在8位微控制器上的光学手势识别的案例研究。最好的可靠性被发现为FFNN与两个层和1493个参数，需要36毫秒的执行时间。我们提出了一个工作流程，开发人工神经网络的嵌入式设备。
2020-12-15 cs.LG cs.NE
Embedded Self-Distillation in Compact Multi-Branch Ensemble Network for Remote Sensing Scene Classification
Beihang University（北京航空航天大学）
由于不同地理要素特征的干扰，遥感影像场景分类面临着许多挑战。为了解决这个问题，我们提出了一个多分支集成网络，通过融合最终输出logits和中间特征图中的特征来增强特征表示能力。然而，简单地增加分支会增加模型的复杂性，降低推理效率。在这个问题上，我们嵌入了自蒸馏（SD）方法，将知识从集成网络传递到主分支，通过SD优化，主分支将具有接近集成网络的性能。在推理过程中，我们可以削减其他分支来简化整个模型。在本文中，我们首先设计紧凑的多分支集成网络，它可以在一个端到端的方式进行训练。然后，我们在输出logits和特征图上插入SD方法。与以前的方法相比，我们提出的架构（ESD-MBENet）具有紧凑的设计，在分类精度上表现出色。在三个基准RS数据集AID，NWPU-RESISC 45和UC-Merced上进行了大量的实验，使用三个经典的基线模型VGG 16，ResNet 50和DenseNet 121。结果证明，我们提出的ESD-MBENet可以实现更好的准确性比以前的国家的最先进的（SOTA）复杂的模型。此外，丰富的可视化分析，使我们的方法更有说服力和可解释性。
2021-04-01 cs.CV cs.LG
Classification of anomalous gait using Machine Learning techniques and embedded sensors
University of State of Amazonas（亚马逊州立大学）
根据研究，人类步态可以是用于检测影响人类运动的病理的预测因素。此外，已知需要高投资以提高能够提供人类步态检查的传统临床基础设施，这使得经济上脆弱的患者负担不起。面对这种情况，这项工作提出了一种可访问的现代解决方案，包括可穿戴设备，以获取3D加速度计和3D陀螺仪测量值，以及机器学习技术，以在不同类别的诱发步态障碍之间进行分类。为了开展拟议的研究，创建了一个数据集，目标标签为4种不同且平衡的异常步态类别。在该数据集中实现最佳性能（在准确性方面）的机器学习技术是通过在支持向量机分类器（94 \%）之后应用主成分分析算法。此外，基于前馈神经网络的架构产生了更好的结果（96%）。最后，它也提出了计算性能的比较模型实现。
2021-10-08 cs.LG eess.SP
Real-Time Semantic Segmentation of Aerial Images Using an Embedded U-Net: A Comparison of CPU, GPU, and FPGA Workflows
Viveris Technologies（维弗里斯技术公司）
本研究提出轻量级U-Net，在保持航拍图像分割精度的同时将参数量和MAC运算降低16倍，并系统对比CPU、GPU、FPGA上五种工具链的性能、功耗与能效，为嵌入式实时语义分割部署提供选型依据。
2025-03-07 cs.AI cs.AR cs.CV
Comparison and Benchmarking of AI Models and Frameworks on Mobile Devices
Beijing Academy of Frontier Sciences and Technology（北京前沿科学技术研究院）
由于数据量和计算资源的不断增加，深度学习在各个领域取得了许多成功。深度学习在移动设备和嵌入式设备上的应用越来越受到重视，对移动设备和嵌入式设备的AI能力进行基准测试和排名成为亟待解决的问题。考虑到模型的多样性和框架的多样性，我们提出了一个基准套件，AIoTBench，它侧重于评估移动和嵌入式设备的推理能力。AIoTBench涵盖了三种典型的重量级网络：ResNet50，InceptionV3，DenseNet121，以及三种轻量级网络：SqueezeNet，MobileNetV2，MnasNet。每个网络都由三个专为移动和嵌入式设备设计的框架实现：Tensorflow Lite，Caffe2，Pytorch Mobile。为了比较和排名设备的AI能力，我们提出了两个统一的指标作为AI分数：每秒有效图像数（VIPS）和每秒有效浮点数（VOPS）。目前，我们已经使用我们的基准对5款移动设备进行了比较和排名。该列表将在不久之后扩展和更新。
2020-05-07 cs.AI cs.LG cs.PF
Embedded Constrained Feature Construction for High-Energy Physics Data Classification
Irfu, CEA, Université Paris-Saclay（巴黎-萨克雷大学法国原子能和替代能源委员会物质科学研究所）；CEA, LIST（法国原子能和替代能源委员会信息与通信技术实验室）
高能物理实验的数据分析在发表之前必须经过验证。只有在完全理解数据和分析过程的情况下才能进行验证。因此，物理学家更喜欢使用透明的机器学习算法，其性能高度依赖于所提供的输入特征的适用性。特征构造是对特征空间进行变换，自动生成新的相关特征。鉴于该领域之前的大多数工作都是在模型训练之前执行特征构建，我们在这里提出了一个通用框架，以在基于树的模型的归纳中嵌入适应高能物理约束的特征构建技术。在两个高能物理数据集上的实验证实，在限制构建特征的数量的同时，在分类分数上获得了显着的增益。由于功能是可解释的，因此整个模型是透明和可读的。
2019-12-17 cs.LG stat.ML
Language-biased image classification: evaluation based on semantic representations
INRIA（法国国家信息与自动化研究所）；ENS Rennes（雷恩高等师范学院）；Université de Bordeaux（波尔多大学）；Microsoft Research Montreal（微软蒙特利尔研究院）
人类对嵌入文字的图像表现出语言偏见的图像识别，称为图片-文字干扰。这种干扰依赖于层次语义类别，反映了人类的语言处理与视觉处理高度互动。与人类类似，最近的人工模型在文本和图像上联合训练，例如，OpenAI CLIP，显示语言偏向的图像分类。探索这种偏见是否会导致类似于在人类中观察到的干扰，有助于理解模型从语言和视觉的联合学习中获得了多少层次语义表示。本研究介绍了认知科学文献中的方法学工具，以评估人工模型的偏差。具体来说，我们引入了一个基准任务，以测试叠加在图像上的单词是否会扭曲不同类别级别的图像分类，如果可以，扰动是否是由于语言和视觉之间的共享语义表示。我们的数据集是一组单词嵌入图像，由自然图像数据集和具有上位/基本类别级别的分层单词标签组成。使用这个基准测试，我们评估CLIP模型。我们发现，提出的话扭曲的图像分类的模型在不同的类别水平，但效果不依赖于图像和嵌入的话之间的语义关系。这表明，在CLIP视觉处理的语义词表示不共享的图像表示，虽然词表示强烈占主导地位的词嵌入的图像。
2022-03-12 cs.CL cs.CV cs.LG
A system on chip for melanoma detection using FPGA-based SVM classifier
Auckland University of Technology（奥克兰理工大学）
支持向量机（Support Vector Machine，SVM）是一种鲁棒的机器学习模型，在不同的分类问题上表现出很高的准确性，被广泛应用于各种嵌入式应用中。然而，嵌入式SVM分类器的实现是具有挑战性的，由于固有的复杂计算所需的。这促使在硬件平台上实现SVM，以实现低成本和低功耗的高性能计算。黑色素瘤是皮肤癌中最具侵袭性的一种，会增加死亡率。我们的目标是开发一种优化的嵌入式SVM分类器，专用于低成本手持设备，用于初级医疗保健中黑色素瘤的早期检测。在本文中，我们提出了一种硬件/软件协同设计，用于将SVM分类器实现到FPGA上，从而在芯片上实现黑色素瘤检测。在最近的混合FPGA（Zynq）平台上实现的SVM利用现代UltraFast高级合成设计方法实现了芯片上的高效黑色素瘤分类。硬件实现结果表明，分类准确率为97.9%，和一个显着的硬件加速率为21，只有3%的资源利用率和1.69W的功耗。这些结果表明，实现的片上系统满足高性能和低资源利用率，功耗和成本的关键嵌入式系统的约束，同时实现高效的分类与高分类精度。
2021-09-30 cs.LG eess.IV
Multiscale Graph Comparison via the Embedded Laplacian Discrepancy
Duke University（杜克大学）
Laplacian特征向量捕获图上的自然社区结构，并广泛用于谱聚类和流形学习。然而，使用拉普拉斯特征向量作为多尺度图比较的嵌入的目的是有限的。在这里，我们提出了嵌入式拉普拉斯离散（ELD）作为一个简单而快速的方法来比较图（潜在的不同大小）的基础上的相似性图的社区结构。ELD通过将图表示为常见的低维空间中的点云来操作，在该低维空间上可以有效地计算自然的基于Wasserstein的距离。通过任何基于特征向量的方法比较图的一个主要挑战是由于符号翻转和基础对称性而可能出现的潜在模糊性。ELD利用一个简单的对称化技巧来绕过任何符号歧义。对于比较图，没有任何歧义，由于基础对称性（即频谱是简单的），我们表明，ELD成为一个自然的伪度量，享有良好的性能，如图同构下的不变性。对于比较图与非简单的频谱，我们提出了一个程序，通过一个简单的扰动技术来解决任何模糊的基础对称性近似ELD。我们表明，这种扰动是稳定的，使用矩阵扰动理论在温和的假设下，是直接在实践中验证。我们证明了优秀的适用性的ELD方法在模拟和真实的数据集。
2023-02-06 cs.LG stat.ML
Comparison of Tiny Machine Learning Techniques for Embedded Acoustic Emission Analysis
Mid Sweden University（中瑞典大学）
本文比较了基于原始波形和基于提取特征的机器学习方法在嵌入式物联网节点上进行声发射信号分类的性能，发现两种方法精度均超99%，但原始波形输入处理更快、能耗更低，代价是内存需求更大。
2024-11-22 cs.LG eess.AS eess.SP
An embarrassingly simple comparison of machine learning algorithms for indoor scene classification
Monash University Malaysia（马来西亚蒙纳士大学）
随着自主式室内机器人的出现，室内场景识别的计算机视觉任务受到了广泛关注。室内场景识别是计算机视觉中的一个具有挑战性的问题，它依赖于场景中的局部和全局特征。本研究旨在比较五种机器学习算法在室内场景分类任务上的性能，以确定每种分类器的优缺点。它还提供了低延迟特征提取器与巨大特征提取器的比较，以了解性能影响。最后，提出了一个简单的MnasNet的室内分类系统，它可以在23 ms的延迟达到72%的准确率。
2021-09-25 cs.CV cs.LG
A Novel Poisoned Water Detection Method Using Smartphone Embedded Wi-Fi Technology and Machine Learning Algorithms
Koya University（科亚大学）；The University of Buckingham（白金汉大学）
水是人体必需的流体，其质量和清洁度的自动检查是一个正在进行的研究领域。一种这样的方法是将液体呈现给各种类型的信号，并使信号衰减的量指示液体类别。在本文中，我们利用Wi-Fi信号通过训练不同的机器学习算法来区分干净的水和有毒的水。通过等效的智能手机嵌入式Wi-Fi芯片组获取Wi-Fi接入点（WAP）信号，然后提取网络状态信息CSI度量并将其转换为特征向量，以用作机器学习分类算法的输入。CSI数据的测量的幅度和相位被选择作为四个分类器k-NN、SVM、LSTM和Entrance的输入特征。实验结果表明，该模型是足够的，以区分有毒水和清洁水的分类精度为89%时，LSTM的应用，而92%的分类精度时，应用AdaBoost-Enhancement分类器。
2023-02-13 cs.LG eess.SP
Minimum Variance Embedded Auto-associative Kernel Extreme Learning Machine for One-class Classification
Indian Institute of Technology Indore（印度理工学院印多尔分校）
单类分类（OCC）只需要一个类的样本来训练分类器。最近，一个自联想核极端学习机开发的OCC任务。本文介绍了一种新的扩展，这种分类器通过嵌入最小方差信息在其架构，被称为VAAKELM。最小方差嵌入迫使网络输出权重集中在低方差区域，并减少类内方差。这导致更好地分离目标样本和离群值，从而提高分类器的泛化性能。该分类器遵循基于重构的OCC方法，并通过使用核极端学习机作为基础分类器来最小化重构误差。它使用重建误差的偏差来识别异常值。我们在15个小型和10个中型单类基准数据集上进行了实验，以证明所提出的分类器的效率。我们将结果与13个现有的一类分类器进行比较，考虑平均F1分数作为比较指标。实验结果表明，VAAKELM始终优于现有的分类器，使其成为一个可行的替代OCC任务。
2020-11-24 cs.LG
Deep Coding Patterns Design for Compressive Near-Infrared Spectral Classification
Universidad Industrial de Santander（桑坦德工业大学）
压缩光谱成像（CSI）已经成为一种有吸引力的压缩和感测技术，主要用于感测传统系统导致高成本的光谱区域，例如近红外光谱。最近，已经表明，频谱分类可以直接在压缩域中执行，考虑嵌入在测量中的频谱信息的量，跳过重建步骤。因此，分类质量直接取决于在感测步骤中采用的编码模式的集合。因此，这项工作提出了一种端到端的方法来联合设计CSI中使用的编码模式和网络参数，直接从嵌入式近红外压缩测量中执行频谱分类。通过对三维编码孔径快拍光谱成像（3D-CASSI）系统的仿真，验证了该方法的分类精度优于传统方法和随机方法，最高可达10%。
2022-05-27 cs.LG eess.IV math.OC
Generative and Discriminative Deep Belief Network Classifiers: Comparisons Under an Approximate Computing Framework
University of California, San Diego（加利福尼亚大学圣迭戈分校）
将深度学习硬件算法用于嵌入式应用的特点是存在挑战，例如设备功耗的限制、标记数据的可用性以及用于在云服务器上频繁训练的有限互联网带宽。为了实现低功耗实现，我们考虑针对嵌入式设备分类任务的深度学习算法（称为判别式深度信念网络（DDBN））的有效位宽减少和修剪。我们训练DDBN生成和歧视性目标下的近似计算框架和分析其功率在性能的监督和半监督的应用程序。我们还调查了DDBN的分布性能时，推理数据具有相同的类结构，但统计上不同的训练数据，由于动态实时操作环境。基于我们的分析，我们提供了新的见解和建议，选择训练目标，位宽值，和准确性的敏感性相对于标记的数据量，以实现DDBN推理与最低功耗的嵌入式硬件平台上的精度公差。
2021-01-31 cs.AI cs.CV cs.LG
Embedded Deep Bilinear Interactive Information and Selective Fusion for Multi-view Learning
Northwestern Polytechnical University（西北工业大学）；Nanjing University（南京大学）；National University of Defense Technology（国防科技大学）
多视图分类作为多视图学习的一种具体应用，通过对多个视图的最优融合，对传统的分类方法进行了改进。虽然以往的研究已经证明了多视点学习的优越性，但在深入研究中，还可以通过全面嵌入更强大的跨视点交互信息和更可靠的多视点融合策略来进一步提高多视点学习的优越性。为了实现这一目标，我们提出了一个新的多视图学习框架，使多视图分类更好地针对上述两个方面。也就是说，我们无缝地嵌入各种视图内的信息，跨视图的多维双线性交互信息，和一个新的视图集成机制到一个统一的框架，通过优化决策。特别地，我们训练不同的深度神经网络来学习各种视图内表示，然后通过视图之间的双线性函数从不同的双线性相似性动态地学习多维双线性交互信息。在此基础上，通过灵活调整视图权值的参数，自适应地融合多个视图的表示，不仅避免了权重的繁琐求解，而且为多视图分类提供了一种新的方法来选择有利于决策的少数有区别的视图.在六个公开数据集上的实验证明了该方法的有效性。
2020-07-13 cs.CV cs.LG
EEG-TCNet: An Accurate Temporal Convolutional Network for Embedded Motor-Imagery Brain-Machine Interfaces
ETH Zürich（苏黎世联邦理工学院）；Nihon University（日本大学）；Huawei Technologies（华为技术有限公司）
近年来，深度学习（DL）对基于脑电图（EEG）的运动想象脑机接口（MI-BMIs）的改进做出了重大贡献。在实现高分类精度的同时，DL模型的大小也在增长，需要大量的内存和计算资源。这对嵌入式BMI解决方案提出了重大挑战，该解决方案通过本地处理数据来保证用户隐私，减少延迟和低功耗。在本文中，我们提出了EEG-TCNet，这是一种新型的时间卷积网络（TCN），在需要很少的可训练参数的情况下实现了出色的精度。它的低内存占用和低推理计算复杂度使其适用于边缘资源有限设备上的嵌入式分类。在BCI Competition IV-2a数据集上的实验结果表明，EEG-TCNet在4类MI中达到了77.35%的分类准确率。通过找到每个主题的最佳网络超参数，我们进一步将准确率提高到83.84%。最后，我们展示了EEG-TCNet的多功能性的母亲所有BCI基准（MOABB），一个大规模的测试基准包含12个不同的EEG数据集与MI实验。结果表明，EEG-TCNet成功地推广了一个单一的数据集，超过了MOABB的当前最先进的（SoA），元效应为0.25。
2020-05-31 cs.HC cs.LG eess.SP
Circles: Inter-Model Comparison of Multi-Classification Problems with High Number of Classes
San Francisco State University（旧金山州立大学）；Intel Labs（英特尔实验室）
本文提出名为Circles的交互式可视化分析工具，采用同心径向线布局解决大量类别多分类问题的模型间比较与视觉杂乱问题，支持在单一视图中对比1K类别的9个模型。
2023-09-08 cs.HC cs.LG
Classification and comparison of license plates localization algorithms
智能交通系统（ITS）是世界经济竞争的主题。它们是在运输部门应用新的信息和通信技术，使基础设施更有效、更可靠和更生态。车牌识别（LPR）是这些系统的关键模块，其中车牌定位（LPL）是最重要的阶段，因为它决定了该模块的速度和鲁棒性。因此，在这一步骤中，算法必须处理图像，并克服几个约束，如气候和照明条件，传感器和角度的变化，LP非标准化，和实时的处理。本文对车牌定位算法进行了分类和比较，阐述了各种算法的优缺点和改进方向
2021-04-28 cs.CV cs.LG
Patch Based Classification of Remote Sensing Data: A Comparison of 2D-CNN, SVM and NN Classifiers
NIT Kurukshetra（库鲁克谢特拉国家技术学院）
基于像素的算法包括反向传播神经网络（NN）和支持向量机（SVM）已被广泛用于遥感图像分类。在过去的几年里，基于深度学习的图像分类器，如卷积神经网络（2D-CNN）正在成为这些分类器的流行替代品。在本文中，我们比较了基于补丁的SVM和NN与由2D-CNN和全连接层组成的深度学习算法的性能。类似于CNN利用图像补丁来获得进一步分类的特征，我们建议使用补丁作为输入，代替SVM和NN分类器的单个像素。两个数据集，一个多光谱和其他高光谱数据被用来比较不同的分类器的性能。两个数据集的结果表明，与最先进的2D-CNN分类器相比，基于补丁的SVM和NN分类器的有效性。
2020-06-21 cs.CV cs.LG
Adaptive Edge Offloading for Image Classification Under Rate Limit
Washington University in St. Louis（圣路易斯华盛顿大学）
本文考虑了一种使用嵌入式设备来获取和分类图像的设置。由于计算能力有限，嵌入式设备依赖于一个吝啬的分类模型与不均匀的准确性。当本地分类被认为不准确时，设备可以决定将图像卸载到具有更准确但资源密集型模型的边缘服务器。资源限制，例如，然而，网络带宽需要调节这种传输以避免拥塞和高等待时间。本文探讨这种卸载问题时，传输监管是通过令牌桶，通常用于这种目的的机制。我们的目标是设计一个轻量级的在线卸载策略，优化应用程序特定的度量（例如，分类精度）。本文开发了一种基于深度Q网络（DQN）的策略，并展示了其在嵌入式设备上部署的有效性和可行性。值得注意的是，该策略可以处理复杂的输入模式，包括图像到达的相关性和分类精度。通过使用从ImageNet图像分类基准生成的合成迹线在本地测试平台上执行图像分类来执行评估。这项工作的实施可在https://github.com/qiujiaming315/edgeml-dqn上获得。
2022-07-31 cs.DC cs.LG cs.NI
Embedded Chaotic Whale Survival Algorithm for Filter-Wrapper Feature Selection
Jadavpur University（贾达普大学）；Griffith University（格里菲斯大学）
由机器学习模型提供的分类精度在很大程度上取决于学习过程中使用的特征集。特征选择（FeatureSelection，FS）是一种重要且具有挑战性的预处理技术，它可以从数据集中识别出相关的特征，从而在降低特征维数的同时提高分类精度。鲸鱼优化算法（WOA）的二进制版本是一种流行的FS技术，其灵感来自座头鲸的觅食行为。在本文中，一个嵌入式版本的WOA称为嵌入式混沌鲸鱼生存算法（ECWSA）已被提出，它使用其包装过程，以实现高分类精度和过滤器的方法，以进一步细化所选择的子集，计算成本低。ECWSA中引入了混沌，以指导鲸鱼在寻找猎物时选择运动类型。在鲸鱼系统中也引入了一种健康依赖的死亡机制，这种机制的灵感来自于现实生活中的场景，即鲸鱼如果无法捕获猎物就会死亡。在18个著名的UCI数据集上对所提出的方法进行了评估，并将其与前人以及其他一些流行的FS方法进行了比较。
2020-05-10 cs.LG cs.NE
Two-Bit Networks for Deep Learning on Resource-Constrained Embedded Devices
随着物联网和智能边缘设备的快速发展，越来越需要在内存和计算能力有限的资源受限的移动嵌入式设备上实现机器学习算法，包括深度学习。典型的大型卷积神经网络（CNN）需要大量的存储器和计算能力，并且不能有效地部署在嵌入式设备上。我们提出了用于CNN的模型压缩的两位网络（TBN），其边缘权重被约束为（-2，-1，1，2），可以用两位编码。我们的方法可以减少内存的使用，并显着提高计算效率，同时实现良好的性能分类精度方面，从而代表了一个合理的权衡模型大小和性能。
2017-01-04 cs.CV cs.LG
TinyCNN: A Tiny Modular CNN Accelerator for Embedded FPGA
University of California, Riverside（加州大学河滨分校）
近年来，基于卷积神经网络（CNN）的方法在大量的应用中取得了巨大的成功，并且已经成为计算机视觉中最强大和最广泛使用的技术之一。然而，基于CNN的方法是计算密集型和资源消耗型的，因此很难集成到嵌入式系统中，如智能手机，智能眼镜和机器人。FPGA是加速CNN的最有前途的平台之一，但是有限的片上存储器大小限制了用于CNN的FPGA加速器的性能。在本文中，我们提出了一个框架，设计CNN加速器的嵌入式FPGA的图像分类。所提出的框架提供了一种工具，用于CNN的FPGA资源感知设计空间探索，并自动生成要在目标FPGA上编程的CNN的硬件描述。该框架由三个主要后端组成：软件、硬件生成和仿真/精度调整。软件后端用作设计者设计CNN并根据可用的硬件资源对其进行训练的API。使用CNN模型，硬件后端生成必要的硬件组件，并将其集成以生成CNN的硬件描述。最后，仿真/精度调整后端调整层间精度单元以最小化分类误差。我们在CNN加速器（FPGA）中使用16位定点数据，并将其与在ARM处理器上运行的完全相似的软件版本（32位浮点数据）进行比较。我们遇到的加速（FPGA）版本的分类约3%的准确率损失。作为回报，我们通过在FPGA上使用加速版本进行分类，获得了高达15.75倍的加速比。
2019-11-15 cs.CV cs.LG stat.ML
A Comparison of the Delta Method and the Bootstrap in Deep Learning Classification
University of Bergen（卑尔根大学）
我们通过与经典Bootstrap的比较来验证最近引入的深度学习分类适应Delta方法。我们发现，有一个很强的线性关系的量化预测认知不确定性水平从两种方法时，应用在两个基于LeNet的神经网络分类使用MNIST和CIFAR-10数据集。此外，我们证明了三角洲的方法提供了一个五倍的计算时间减少相比，Bootstrap。
2021-07-04 cs.LG stat.ML
HDCC: A Hyperdimensional Computing compiler for classification on embedded systems and high-performance computing
University of California, Irvine（加州大学欧文分校）
本文提出开源 HDCC 编译器，将 HDC 分类的高层描述编译为无依赖、支持 SIMD 与多线程的优化 C 代码，实验显示其显著提升速度并降低内存。
2023-04-24 cs.DC cs.LG
Event Classification of Accelerometer Data for Industrial Package Monitoring with Embedded Deep Learning
Imagination Technologies, United Kingdom（Imagination Technologies, 英国）；University of Toronto, Toronto, Canada（多伦多大学, 加拿大）
本文提出一种基于一维卷积神经网络的嵌入式系统方法，用于对可重复使用工业包裹上的加速度计数据进行事件分类，并通过数据增强解决类别不平衡、模型压缩降低资源占用，在二分类任务中取得超过94%的精确率且推理功耗仅316 mW。
2025-06-05 cs.AI cs.LG
Closed-Loop Neural Interfaces with Embedded Machine Learning
Cornell University（康奈尔大学）；EPFL（洛桑联邦理工学院）
能够进行多部位电记录、现场信号分类和闭环治疗的神经接口对于神经系统疾病的诊断和治疗至关重要。然而，在低功耗神经设备上部署机器学习算法是具有挑战性的，因为这些设备的计算和存储器资源受到严格限制。在本文中，我们回顾了在神经接口中嵌入机器学习的最新进展，重点是设计权衡和硬件效率。我们还提出了我们优化的基于树的模型，用于脑植入物中神经信号的低功耗和记忆效率分类。使用能量感知学习和模型压缩，我们表明，所提出的斜树可以优于传统的机器学习模型，如癫痫发作或震颤检测和运动解码的应用。
2020-10-21 cs.AR cs.LG
Comparison of two data fusion approaches for land use classification
Univ Gustave Eiffel（古斯塔夫·埃菲尔大学）；IGN-ENSG（法国国家地理学院）
本研究比较了分类前与分类后两种数据融合方法用于土地利用分类，基于法国热尔省数据，分类前融合达到97%总体准确率和88%宏平均F1分数，表现最佳。
2023-12-21 cs.CV cs.LG
InceptionTime vs. Wavelet -- A comparison for time series classification
Technology Campus Teisnach Sensor Technology（泰斯纳赫技术园区传感器技术中心）；Deggendorf Institute of Technology（德根多夫技术学院）
本文比较了基于InceptionTime的时间序列直接分类方法和基于Wavelet变换与ResNet的2D图像分类方法，两者在次声波数据分类中均达到90%以上准确率，直接方法达95.2%。
2024-03-27 cs.LG
An Exploratory Study of Tweets about the SARS-CoV-2 Omicron Variant: Insights from Sentiment Analysis, Language Interpretation, Source Tracking, Type Classification, and Embedded URL Detection
University of Cincinnati（辛辛那提大学）
本文介绍了一项探索性研究的结果，该研究针对Twitter上不断生成的大数据，这些数据与分享有关COVID-19大流行的信息、新闻、观点、意见、想法、反馈和经验有关，特别关注Omicron变体，这是目前SARS-CoV-2的全球主要变体。共研究了12028条关于Omicron变体的推文，并分析了推文的具体特征，包括情感，语言，来源，类型和嵌入式URL。这项研究的结果是多方面的。首先，从情感分析中，观察到50.5%的推文具有中性情感。其他情绪-坏的，好的，可怕的和伟大的分别在15.6%，14.0%，12.5%和7.5%的推文中被发现。其次，语言翻译的结果显示，65.9%的推文是用英语发布的。其次是西班牙语、法语、意大利语和其他语言。第三，来源追踪的结果显示，Android版Twitter与35.2%的推文相关。紧随其后的是Twitter Web App、iPhone版Twitter、iPad版Twitter和其他来源。第四，研究推文的类型发现，转发占推文的60.8%，其次是原创推文和回复，分别占推文的19.8%和19.4%。第五，在嵌入URL分析方面，发现最常见的嵌入推文的域名是twitter.com，其次是biorxiv.org，nature.com和其他域名。最后，为了支持该领域的类似研究，我们开发了一个Twitter数据集，该数据集包含自2021年11月24日首次发现该变体病例以…
2022-07-20 cs.CL cs.LG cs.SI
Towards Hybrid Embedded Feature Selection and Classification Approach with Slim-TSF
Georgia State University（佐治亚州立大学）
本文改进 Slim-TSF 多元时间序列分类框架，引入系统化评估与嵌入式特征选择，以刻画太阳耀斑及其源区的演化特征；对比实验显示 TSS 与 HSS 平均均提升 5%。
2024-09-06 astro-ph.IM astro-ph.SR cs.LG
Leveraging Automated Machine Learning for Text Classification: Evaluation of AutoML Tools and Comparison with Human Performance
University of Stuttgart（斯图加特大学）；Fraunhofer IAO（弗劳恩霍夫工业工程研究所）
最近，自动机器学习（AutoML）在表格数据方面取得了越来越大的成功。然而，问题是AutoML是否也可以有效地应用于文本分类任务。这项工作在13个不同的流行数据集上比较了四个AutoML工具，包括Kaggle竞赛，并反对人类的表现。结果表明，AutoML工具在13个任务中的4个任务中表现优于机器学习社区，其中两个任务表现突出。
2020-12-07 cs.LG
XGRVFL-MV: Residual-Coupled Graph-Embedded Multi-View Random Vector Functional Link Network with FleXi Guardian Loss
IITRPR（印度理工学院皮拉尼分校）
针对多视图分类，提出XGRVFL-MV模型，构建各视图RVFL表示，结合图嵌入与特定损失函数，引入残差耦合项，通过无逆一阶优化求解，在多基准数据集上实验，展现出有竞争力的分类性能。
2026-07-28 cs.LG
Experimental Comparison of Classification Uncertainty for Randomised and Bayesian Decision Tree Ensembles
在本文中，我们实验比较的分类不确定性的随机决策树（DT）集成技术和贝叶斯DT技术与重新启动策略上的合成数据集，以及在机器学习社区常用的一些数据集。对于分类不确定性的定量评估，我们使用不确定性包络处理类后验分布和给定的置信概率。计数的分类器的结果，这种技术产生的分类不确定性的可行的评估。在我们的实验中使用这种技术，我们发现贝叶斯DT技术优于随机DT集成技术。
2005-04-11 cs.AI cs.LG
Time Window Optimization for Motor Imagery Classification via Temporal Structure Embedded Reinforcement Learning
School of Future Technology, Xi’an Jiaotong University（西安交通大学未来技术学院）；School of Automation Science and Engineering, Xi’an Jiaotong University（西安交通大学自动化科学与工程学院）
本研究针对在线MI-BCI的固定窗口不对齐问题，提出TSE-RL框架优化时间窗口，结合先验知识与Transformer编码器，在多基准数据集上实现跨会话、跨受试者的解码性能提升。
2026-10-14 cs.LG cs.NE
A Systematic Comparison of Architectures for Document-Level Sentiment Classification
University of Oslo（奥斯陆大学）
文档由更小的片段组成-段落、句子和标记-它们之间具有复杂的关系。考虑到这些文档中固有结构的情感分类模型比那些不考虑的模型具有理论优势。与此同时，基于语言模型预训练的迁移学习模型在文档分类中显示出了希望。然而，这两种模式尚未得到系统的比较，也不清楚在何种情况下一种方法优于另一种方法。在这项工作中，我们经验比较层次模型和迁移学习的文档级情感分类。我们发现，非平凡的层次模型优于以前的基线和迁移学习在五种语言的文档级情感分类。
2022-02-02 cs.CL cs.LG
Performance Comparison of Simple Transformer and Res-CNN-BiLSTM for Cyberbullying Classification
University of Mumbai（孟买大学）
使用基于双向的LSTM架构进行文本分类的任务在计算上是昂贵的，并且训练是耗时的。为此，发现了与传统深度学习架构相比有效地提供良好性能的Transformers。在本文中，我们提出了一个基于性能的比较简单的Transformer为基础的网络和Res-CNN-BiLSTM为基础的网络网络欺凌文本分类问题。结果表明，我们使用65万个参数训练的Transformer能够显著击败具有4882万个参数的Res-CNN-BiLSTM的性能，从而获得更快的训练速度和更广泛的度量。本文还比较了一维字符级嵌入网络和带Transformer的100维手套嵌入网络。
2022-06-05 cs.CL cs.LG
Variational Autoencoder with Embedded Student-$t$ Mixture Model for Authorship Attribution
Ruhr University Bochum（波鸿鲁尔大学）；Bucknell University（巴克内尔大学）
传统的计算作者归属描述的是闭集场景下的分类任务。给定一组有限的候选作者和相应的标记文本，目标是确定哪些作者写了另一组匿名或有争议的文本。在这项工作中，我们提出了一个概率自动编码框架来处理这个监督分类任务。更确切地说，我们正在扩展的变分自编码器（VAE）与嵌入高斯混合模型的学生- $t$混合模型。自动编码器在学习潜在表征方面取得了巨大的成功。然而，现有的VAE目前仍然受到潜在空间中潜在概率分布的假定高斯性所施加的限制的约束。在这项工作中，我们将VAE的高斯模型扩展到Student- $t$模型，该模型允许独立控制隐含概率密度各自尾部的“沉重程度”。在亚马逊评论数据集上的实验表明，所提出的方法具有优越的性能。
2020-05-28 cs.CL cs.LG stat.ML
Single-bit-per-weight deep convolutional neural networks without batch-normalization layers for embedded systems
University of South Australia（南澳大学）；University of California, San Diego（加州大学圣地亚哥分校）；Western Sydney University（西悉尼大学）
批量归一化（BN）层被认为是当今最先进的深度卷积神经网络中不可或缺的重要层类型，用于计算机视觉任务，例如分类和检测。然而，BN层引入了复杂性和计算开销，这对于实时嵌入式视觉系统（例如UAV、机器人和物联网（IoT）设备）的低功率定制硬件实现的训练和/或推断是非常不期望的。当在训练期间批量大小需要非常小时，它们也是有问题的，并且诸如比BN层更近引入的剩余连接等创新可能会减少它们的影响。在本文中，我们的目标是量化的好处BN层提供的图像分类网络，在与其他选择相比。特别是，我们研究了使用移位ReLU层而不是BN层的网络。我们发现，在将宽残差网络应用于ImageNet、CIFAR 10和CIFAR 100图像分类数据集的实验之后，BN层并不总是提供显著的优势。我们发现，BN层提供的准确度取决于数据集、网络大小和权重的位深度。我们的结论是，在BN层由于速度，内存或复杂性成本而不受欢迎的情况下，应该考虑使用移位ReLU层;我们发现它们可以在所有这些领域提供优势，并且通常不会带来显着的准确性成本。
2019-07-22 cs.CV cs.LG cs.NE
Model Input-Output Configuration Search with Embedded Feature Selection for Sensor Time-series and Image Classification
HUN-REN Institute for Computer Science and Control（HUN-REN计算机科学与控制研究所）；Hungarian Academy of Sciences (MTA)（匈牙利科学院）；Doctoral School of Informatics, Eötvös Loránd University (ELTE)（厄特沃什·罗兰大学信息学博士学院）；Faculty of Economics and Business, John von Neumann University（约翰·冯·诺依曼大学经济与商学院）
本文提出MICS-EFS方法，通过改进的编码器-解码器模型与顺序前向搜索算法，将输入-输出配置搜索与嵌入式特征选择相结合，在传感器时间序列和图像分类任务中平均准确率提升1.5%，并将特征维度压缩至原始数据的2-5%。
2025-02-04 cs.AI cs.LG cs.NE
Comparison of Classification Algorithms Used Medical Documents Categorization
Ondokuz Mayıs Üniversitesi（翁多库兹·马伊斯大学）
基于文本的文档量日益增加。医学文档位于这种不断增长的文本文档中。在这项研究中，用于文本分类的技术应用于医疗文档和评估分类性能。使用的数据集是多类别和多标记的。采用卡方（Chi Square，CHI）技术进行特征选择，采用SMO、NB、C4.5、RF和KNN算法进行分类。本研究的目的是，各种分类器的成功评估多类和多标签的数据集组成的医疗文件。在前400个特征中，KNN分类器最成功，而在后400个特征中SMO分类器最成功。
2018-11-02 cs.CL cs.IR cs.LG
Question Type Classification Methods Comparison
Stanford University（斯坦福大学）
本文对问题分类任务的最新方法进行了比较研究：Logistic回归，卷积神经网络（CNN），长短期记忆网络（LSTM）和准递归神经网络（QRNN）。所有模型都使用预先训练的GLoVe词嵌入，并在人类标记的数据上进行训练。使用CNN模型实现最佳精度，该模型具有五个卷积层和并行堆叠的各种内核大小，然后是一个完全连接的层。该模型在TREC 10测试集上达到了90.7%的准确率。本文中的所有模型架构都是在PyTorch上从头开始开发的，在少数情况下基于可靠的开源实现。
2020-01-03 cs.AI cs.CL cs.LG
Early Time-Series Classification Algorithms: An Empirical Comparison
Institute of Informatics and Telecommunications, NCSR ‘Demokritos’（“德谟克利特”国家科学研究中心信息与电信研究所）
早期时间序列分类（ETSC）是通过观察尽可能少的测量来预测输入时间序列的类别的任务。这种方法可以用于在许多时间关键的应用中获得分类预测。然而，可用的技术并不同样适用于每个问题，因为数据特征的差异可能会影响算法在早期性，准确性，F1分数和训练时间方面的性能。我们评估了现有的六个ETSC算法的公开数据，以及两个新引入的数据集来自生命科学和海洋领域。我们的目标是提供一个框架，ETSC算法的评估和比较，并获得直觉，这些方法如何在现实生活中的应用程序。所提出的框架也可以作为新的相关技术的基准。
2022-03-03 cs.AI cs.LG stat.ML
Classification from Triplet Comparison Data
The University of Tokyo（东京大学）；RIKEN AIP（理化学研究所AIP）
从三元组比较数据中学习已经在度量学习的背景下得到了广泛的研究，在度量学习中，我们想要学习两个实例之间的距离度量，而在序数嵌入中，我们想要学习给定实例在欧几里得空间中的嵌入，以尽可能地保持比较顺序。与完全标记的数据不同，三重比较数据可以以更准确和人性化的方式收集。虽然在许多应用中已经考虑了从三重比较数据中学习，但是我们是否可以仅从三重比较数据中学习分类器的重要基本问题仍然没有得到回答。在本文中，我们给出了一个肯定的答案，这个重要的问题，提出了一个无偏估计的分类风险下的经验风险最小化框架。由于所提出的方法是基于经验风险最小化框架，它固有的优点，任何代理损失函数和任何模型，包括神经网络，可以很容易地应用。此外，我们从理论上建立了一个估计误差界所提出的经验风险最小化。最后，我们提供的实验结果表明，我们的方法经验工作良好，优于各种基线方法。
2020-04-18 cs.LG stat.ML
Active Classification with Uncertainty Comparison Queries
The University of Tokyo（东京大学）；RIKEN Center for Advanced Intelligence Project（理化学研究所高级智能项目中心）
噪声成对比较反馈已被纳入，以提高交互式学习的二进制分类器的整体查询复杂度。\textit{positivity comparison oracle}用于提供关于给定一对数据点哪个更可能为正的反馈。因为不可能单独使用该预言机\textit{without knowing the classification threshold}来推断准确的标签，所以现有方法仍然依赖于传统的\textit{explicit labeling oracle}，其直接回答给定数据点的标签。现有方法对所有数据点进行排序，并使用显式标记oracle来找到分类阈值。然而，目前的方法有两个缺点：（1）它们需要不必要的排序来进行标签推理;（2）快速排序天真地适应噪声反馈，并对实际性能产生负面影响。为了避免这种低效率和获取信息的分类阈值，我们提出了一种新的两两比较预言机的不确定性。该预言机接收两个数据点作为输入，并回答哪个具有更高的不确定性。然后，我们提出了一个有效的自适应标记算法，使用建议的预言和积极性比较预言。此外，我们还解决了与数据集大小相比标记预算不足的情况，这可以通过将所提出的算法插入主动学习算法来处理。此外，我们证实了所提出的预言机的可行性和所提出的算法的性能理论和经验。
2020-10-28 cs.LG stat.ML
A comparison of SVM and RVM for Document Classification
FAST-NU, Karachi Campus（FAST-NU卡拉奇校区）
文档分类是将新的未分类文档分配到预定义的类集合之一的任务。基于内容的文档分类使用文档的内容和一些加权标准来将其分配到预定义的类之一。它是图书馆学、电子文献管理系统和情报学的一个重要课题。本文研究了使用两种不同的分类技术（1）支持向量机（SVM）和（2）相关向量机（RVM）进行文档分类。支持向量机是一种有监督的机器学习技术，可用于分类任务。在其基本形式中，SVM将数据的实例表示到空间中，并试图通过分离类别的最大可能宽间隙（超平面）来分离不同的类别。另一方面，RVM使用概率测度来定义这个分离空间。RVM使用贝叶斯推理获得简洁的解决方案，因此RVM使用显着较少的基函数。在三个标准文本分类数据集上的实验研究表明，RVM虽然需要更多的训练时间，但其分类性能要优于SVM。
2013-01-13 cs.IR cs.LG
A Comparison of Neural Network Training Methods for Text Classification
University of Toronto（多伦多大学）
我们研究了神经网络在文本分类中的作用。我们的重点是通过适当的权重初始化和贪婪的逐层预训练来训练深度神经网络。并与单层神经网络和支持向量机进行了比较。我们使用来自Twitter微博服务的标记消息数据集，旨在预测天气状况。提出了一个特定于任务的特征提取过程，该过程使用潜在语义分析进行降维。我们的研究结果表明，神经网络优于具有高斯内核的支持向量机，注意到引入额外的非线性隐藏层带来的性能提升。还研究了在反向传播中使用Nesterov加速梯度的影响。我们得出结论，深度神经网络是文本分类的合理方法，并提出进一步的想法，以提高性能。
2019-10-28 cs.CL cs.LG
A Comparison of Deep Learning Architectures for Optical Galaxy Morphology Classification
University of the Western Cape（西开普大学）
星系形态的分类对于理解星系的形成和演化起着至关重要的作用。传统上，这个过程是手动完成的。深度学习技术的出现为这一过程的自动化提供了空间。因此，本文提供了深度学习架构的比较，以确定哪种架构最适合光学星系形态分类。采用Walmsley等人在2021年提出的模型训练方法，使用Zoobot Python库训练模型，预测志愿者做出的Galaxy Zoo DECaLS决策树响应，使用EfficientNet B0、DenseNet121和ResNet50作为核心模型架构。然后，预测结果用于生成每个决策树问题的准确性度量，以确定架构性能。DenseNet121被发现在准确性方面产生最好的结果，具有合理的训练时间。在未来，使用更多的深度学习架构进行进一步测试可能会有所帮助。
2021-11-08 astro-ph.GA astro-ph.IM cs.LG
