Simple Yet Surprisingly Effective Training Strategies for LSTMs in Sensor-Based Human Activity Recognition
University of Warwick(华威大学);Newcastle University(纽卡斯尔大学);Georgia Institute of Technology(佐治亚理工学院)
人体活动识别(HAR)是移动计算和可穿戴计算的核心研究领域之一。随着深度学习(DL)技术(如CNN)的应用,识别周期性或静态活动(例如,步行,躺下,骑自行车等)已经成为一个研究得很好的问题。然而,仍然存在的主要挑战是零星活动识别(SAR)问题,其中感兴趣的活动往往是非周期性的,并且与通常大量的不相关背景活动相比,发生频率较低。最近的研究表明,序列DL模型(如LSTM)在建模非周期行为方面具有很大的潜力,在本文中,我们研究了SAR的一些LSTM训练策略。具体来说,我们提出了两个简单而有效的LSTM变体,即延迟模型和逆模型,用于两种SAR场景(有和没有时间关键要求)。对于时间关键的SAR,延迟模型可以有效地利用上下文信息形式的预定义延迟间隔(在容限内)以提高性能。对于常规SAR任务,第二个提出的逆模型可以以逆的方式从时间序列中学习模式,这可以与前向模型互补(即,LSTM),两者结合可以提高性能。这两个LSTM变体非常实用,它们可以被视为训练策略,而不会改变LSTM的基本原理。我们还研究了一些额外的LSTM训练策略,这些策略可以进一步提高准确性。我们在两个SAR和一个非SAR数据集上对我们的模型进行了评估,结果表明了我们的方法在HAR应用中的有效性。
2022-12-23 cs.HC cs.LG eess.SP
Bi-LSTM neural network for EEG-based error detection in musicians' performance
本文提出利用瞬时频率、谱熵和 MFCC 结合双向 LSTM 对 EEG 信号进行分类,用于音乐家演奏错误检测,并验证其在受试者内与受试者间分析中的有效性。
2024-11-19 eess.SP
Visualizing Deep Learning-based Radio Modulation Classifier
Zhejiang University of Technology(浙江工业大学);Southeast University(东南大学);University of Macau(澳门大学)
最近,深度学习通过以端到端的方式提取和分类无线电特征,成功地应用于自动调制分类。然而,基于深度学习的无线电调制分类器缺乏可解释性,并且对于提取和选择何种无线电特征用于分类几乎没有解释或可见性。在本文中,我们通过引入类激活向量来可视化不同的基于深度学习的无线电调制分类器。具体而言,分别研究了基于卷积神经网络(CNN)的分类器和基于长短期记忆(LSTM)的分类器,并将其提取的无线电特征可视化。大量的数值结果表明,基于CNN的分类器和基于LSTM的分类器都提取了与调制参考点相关的相似的无线电特征。特别地,对于基于LSTM的分类器,其获得的无线电特征类似于人类专家的知识。我们的数值结果表明,基于深度学习的分类器提取的无线电特征很大程度上取决于无线电信号所携带的内容,并且短的无线电样本可能导致错误分类。
2021-01-18 cs.LG eess.SP
Human Activity Recognition on Time Series Accelerometer Sensor Data using LSTM Recurrent Neural Networks
University of South Carolina(南卡罗来纳大学)
通过智能设备可用的传感器的使用已经渗透到日常生活中的几个应用中,包括人类活动监测、医疗保健和社交网络。在这项研究中,我们专注于使用智能手表加速度传感器来识别进食活动。更具体地说,我们收集了10名参与者在吃披萨时的传感器数据。使用这些信息,以及其他可用于类似事件的可比数据,如吸烟和服药,以及慢跑的不同活动,我们开发了一种LSTM-ANN架构,与吸烟,服药或慢跑活动相比,该架构在识别个体叮咬方面已成功90%。
2022-06-03 cs.HC cs.LG eess.SP
Hierarchical Feature Integration for Multi-Signal Automatic Modulation Recognition
本文提出HIFI-YOLO框架,通过分层特征集成提升多信号联合检测和调制识别性能。
2025-11-28 eess.SP
Compositional Zero-Shot Recognition based on Tangent Space Disentanglement for Composite Modulation Signals
College of Electronic Science and Technology, National University of Defense Technology(国防科技大学电子科学学院)
针对复合调制信号识别难题,提出基于切线空间解缠的零样本学习框架TSDN,通过对数投影和可学习几何变换处理语义特征,集成对数映射等,实验证明其零样本识别准确率超93%,性能优于基线且在低SNR下稳健。
2026-07-16 eess.SP
Deep Learning Based Automatic Modulation Recognition: Models, Datasets, and Challenges
自动调制识别(AMR)检测接收信号的调制方案以用于进一步的信号处理,而不需要先验信息,并且当这样的信息丢失时提供必要的功能。深度学习(DL)的最新突破为开发用于通信系统的高性能DL-AMR方法奠定了基础。与传统的调制检测方法相比,由于深度神经网络强大的特征提取和分类能力,DL-AMR方法具有很好的性能,包括高识别精度和低虚警。尽管DL-AMR方法具有良好的应用前景,但其复杂性和可解释性也受到关注,影响了无线通信系统的实际部署。本文旨在对当前DL-AMR研究进行综述,重点关注合适的DL模型和基准数据集。我们还提供了全面的实验,从准确性和复杂性的角度比较单输入单输出(SISO)系统的最先进的模型,并提出在新的多输入多输出(MIMO)的情况下应用DL-AMR预编码。最后,现有的挑战和可能的未来研究方向进行了讨论。
2022-07-20 eess.SP
MCANet: A Coherent Multimodal Collaborative Attention Network for Advanced Modulation Recognition in Adverse Noisy Environments
针对低信噪比复杂噪声下自动调制识别性能下降的问题,提出多模态协作注意力网络MCANet,通过精细化特征提取、全局建模与融合策略提升识别鲁棒性,并在多个基准上超越主流模型。
2025-10-21 eess.SP
Human Activity Recognition using Multi-Head CNN followed by LSTM
COMSATS University Islamabad, Abbottabad Campus(COMSATS大学伊斯兰堡分校阿伯塔巴德校区)
这项研究提出了一种使用CNN和LSTM识别人类身体活动的新方法。通过传统的机器学习算法(如SVM、KNN和随机森林方法)实现高精度是一项具有挑战性的任务,因为从加速度计和陀螺仪等可穿戴传感器获取的数据是时间序列数据。因此,为了实现高精度,我们提出了一个由三个CNN组成的多头CNN模型,用于提取从不同传感器获取的数据的特征,然后将所有三个CNN合并,然后是LSTM层和密集层。所有三个CNN的配置保持相同,以便为CNN的每个输入获得相同数量的特征。通过使用所提出的方法,我们实现了最先进的准确性,这与传统的机器学习算法和其他深度神经网络算法相当。
2020-02-21 cs.CV cs.LG eess.IV
Data-and-Knowledge Dual-Driven Automatic Modulation Recognition for Wireless Communication Networks
在无线通信网络中,自动识别调制方式是一个非常重要的问题。基于深度学习的自动调制分类方案由于其优越的准确性而引起了广泛的关注。然而,数据驱动的方法依赖于大量的训练样本,并且在低信噪比(SNR)下分类精度较差。为了解决这些问题,提出了一种基于射频机器学习的数据和知识双重驱动的自动调制分类方法。视觉模型用于提取视觉特征。属性学习模型用于学习属性的语义表示。提出了属性表示到视觉空间的转换模型。大量的仿真结果表明,我们提出的自动调制分类方案可以实现更好的性能比基准方案的分类精度,特别是在低信噪比。此外,与其他传统的方案相比,我们提出的方案减少了高阶调制之间的混淆。
2022-06-30 eess.SP
Learning of Time-Frequency Attention Mechanism for Automatic Modulation Recognition
Southern University of Science and Technology(南方科技大学)
最近基于学习的图像分类和语音识别方法广泛使用注意机制来实现最先进的识别能力,这证明了注意机制的有效性。基于无线电调制信号的频率和时间信息对调制模式识别至关重要的事实,提出了一种基于卷积神经网络(CNN)的调制模式识别框架的时频注意机制。所提出的时频注意模块被设计为学习在用于调制识别的CNN中哪个信道、频率和时间信息更有意义。我们分析了所提出的时频注意机制的有效性,并将所提出的方法与现有的两种基于学习的方法进行了比较。在一个开源的调制识别数据集上的实验表明,该框架的识别性能优于无时频关注的框架和现有的基于学习的方法。
2022-01-11 cs.CV eess.SP
Dynamic Online Modulation Recognition using Incremental Learning
Clemson University(克莱姆森大学);Vanderbilt University(范德堡大学);Air Force Research Laboratory(美国空军研究实验室)
针对在线动态场景下深度学习调制识别面临的灾难性遗忘问题,本文评估多种增量学习算法,证明其能有效保留旧类别知识并稳健适应新调制方式。
2023-12-07 cs.LG eess.SP
An LSTM Feature Imitation Network for Hand Movement Recognition from sEMG Signals
New York University Abu Dhabi(纽约大学阿布扎比分校);New York University(纽约大学);Center for AI and Robotics (CAIR)(人工智能与机器人中心);NYUAD Research Institute(纽约大学阿布扎比分校研究院)
本文提出轻量级LSTM特征模仿网络(LSTM-FIN),在Ninapro DB2上对300ms sEMG信号窗口模仿四种时间特征,实现17种手部动作识别,在数据稀缺场景下取得80%识别精度并验证了跨受试者与低延迟鲁棒性。
2024-12-30 cs.AI cs.LG cs.RO
Sensor-Based Continuous Hand Gesture Recognition by Long Short-Term Memory
National Taiwan Normal University(台湾师范大学)
提出了一种基于长短期记忆(LSTM)的基于传感器的连续手势识别算法。算法只需要基本的加速器和/或陀螺仪。给定一个输入传感器数据序列,采用多对多LSTM方案产生一条输出路径,然后基于观察到的路径进行最大后验估计,得到最终的分类结果。基于智能手机的原型系统已经实现的性能评估。实验结果表明,该算法是一种有效的替代鲁棒性和准确的手势识别。
2020-07-22 cs.LG eess.SP
SafeAMC: Adversarial training for robust modulation recognition models
EPFL(洛桑联邦理工学院);armasuisse Science&Technology(瑞士联邦国防采购局科学技术部)
在通信系统中,有许多任务(如调制识别)依赖于深度神经网络(DNN)模型。然而,这些模型已被证明容易受到对抗性扰动的影响,即难以察觉的加性噪声,以诱导错误分类。这引发了人们对安全性的质疑,也引发了人们对模型预测的普遍信任。我们建议使用对抗性训练,包括用对抗性扰动微调模型,以提高自动调制识别(AMC)模型的鲁棒性。我们表明,目前最先进的模型受益于对抗训练,这减轻了一些调制家族的鲁棒性问题。我们使用对抗扰动来可视化学习到的特征,我们发现在鲁棒模型中,信号符号会向星座空间中最近的类移动,就像最大似然方法一样。这证实了鲁棒模型不仅更安全,而且更具可解释性,在与调制识别相关的信号统计数据上建立决策。
2021-05-28 cs.LG eess.SP
An Efficient Deep Learning Model for Automatic Modulation Recognition Based on Parameter Estimation and Transformation
School of Information and Communication Engineering, University of Electronic Science and Technology of China(电子科技大学信息与通信工程学院);Yangtze Delta Region Institute (Huzhou), University of Electronic Science and Technology of China(电子科技大学长三角研究院(湖州))
自动调制识别(AMR)是智能通信接收机检测信号调制方式的一项很有前途的技术。最近,新兴的深度学习(DL)研究促进了高性能的DL-AMR方法。然而,大多数DL-AMR模型只关注识别精度,导致模型大小庞大,计算复杂度高,而一些轻量级和低复杂度的模型难以满足精度要求。本文提出了一种基于相位参数估计和变换的DL-AMR模型,该模型以卷积神经网络(CNN)和门控递归单元(GRU)为特征提取层,可以达到与现有最先进模型相当的高识别精度,但其参数体积减少了三分之一以上。同时,我们的模型在训练时间和测试时间上比具有类似识别精度的基准模型更具竞争力。此外,我们进一步提出了压缩我们的模型修剪,保持识别准确率高于90%,而与国家的最先进的模型相比,只有不到1/8的参数数量。
2021-10-11 cs.LG eess.SP
A Radio Signal Modulation Recognition Algorithm Based on Residual Networks and Attention Mechanisms
College of Electrical Engineering, Sichuan University(四川大学电气工程学院)
针对通信信号调制类型识别不准确的问题,提出了一种结合残差块网络和注意力机制的RNN神经网络识别算法。在该方法中,从MASK、MPSK、MFSK、OFDM、16QAM、AM和FM等10种标准数据集中产生了具有高斯白噪声的通信信号。在原有RNN神经网络的基础上,加入残差块网络,解决了网络层较深导致梯度消失的问题。网络中添加了注意力机制,以加速梯度下降。实验中以16QAM、2FSK和4FSK为实际样本,以信号的IQ数据帧为输入,训练了残差块网络和注意力机制相结合的RNN神经网络。最终的识别结果表明,实时信号的平均识别率超过93%。该网络具有很高的鲁棒性和很好的使用价值。
2019-09-27 cs.CV cs.LG eess.SP
Deep Modulation Recognition with Multiple Receive Antennas: An End-to-end Feature Learning Approach
使用深度神经网络的调制识别已经显示出比传统算法更有前途的优势。然而,现有的研究大多集中在单接收天线。本文介绍了两种端到端的特征学习深度架构,用于多接收天线的调制识别。第一种方法是基于多视角卷积神经网络,将来自不同接收天线的信号视为三维物体的不同视角,设计了适合多天线信号特征融合的视角池层的位置和操作。考虑到无线通信中接收天线间的瞬时信噪比可能存在差异,本文进一步提出了一种权值学习卷积神经网络,该网络通过权值学习模块自动学习不同接收天线的特征组合权值,实现多天线信号的端到端特征学习。结果表明,两种端到端特征学习深度架构的性能都优于现有算法,而提出的权重学习卷积神经网络实现了最佳性能。
2020-11-09 cs.IT eess.SP math.IT