Integrating Biological and Machine Intelligence: Attention Mechanisms in Brain-Computer Interfaces
The School of Biomedical Engineering(生物医学工程学院);The Guangdong Provincial Key Laboratory of Biomedical Measurements(生物医学测量与超声成像广东省重点实验室);Shien-Ming Wu School of Intelligent Engineering(沈铭武智能工程学院);Institute for Super Robotics(超机器人研究所)
本文系统综述了传统与Transformer注意力机制在EEG脑机接口中的嵌入策略、多模态融合应用及未来趋势,为提升EEG解读性能提供参考。
2025-07-07 cs.AI cs.LG eess.SP
ARNN: Attentive Recurrent Neural Network for Multi-channel EEG Signals to Identify Epileptic Seizures
IIT Jodhpur(焦特布尔印度理工学院)
提出注意力循环神经网络ARNN,通过循环应用自注意力与交叉注意力机制并行处理多通道EEG信号,在保持线性复杂度的同时高效准确识别癫痫发作。
2024-11-18 cs.AI cs.LG eess.SP
Comparison of Attention-based Deep Learning Models for EEG Classification
University of Padova(帕多瓦大学);National, Inter-University Consortium for Telecommunications (CNIT)(全国大学校际电信联盟(CNIT));National Center of Neurology and Psychiatry(国立精神神经医疗研究中心);University of Milano-Bicocca(米兰比可卡大学);Wroclaw University of Science and Technology(弗罗茨瓦夫理工大学)
目的:评估深度学习(DL)模型中不同类型的注意机制对脑电图(EEG)分类的影响。方法:我们比较了三种注意力增强的DL模型,全新的InstaGAT,具有注意力的LSTM和具有注意力的CNN。我们使用这些模型来分类正常和异常(即,人为的或病理性的)EEG模式。结果如下:我们在所有分类问题上都达到了最先进的水平,而不管数据集的变化性很大,注意力增强模型的架构也很简单。我们还可以证明,根据注意力机制的应用方式以及注意力层在模型中的位置,我们可以选择利用数据集的时间、频率或空间域中包含的信息。结论:通过这项工作,我们揭示了不同的注意机制在正常和异常脑电图模式分类中的作用。此外,我们还讨论了他们如何利用我们大脑活动的时间,频率和空间域的内在关系。重要性:注意力是一种很有前途的策略,以评估质量的EEG信息,其相关性,在不同的现实世界的情况。此外,它可以使计算更容易并行化,从而加速对大的电生理(例如,EEG)数据集。
2020-12-02 cs.AI cs.LG eess.SP
EEG-based Classification of Drivers Attention using Convolutional Neural Network
Tilburg University(蒂尔堡大学)
准确检测驾驶员的注意力状态有助于开发实时的应对意外危险的辅助技术,从而提高道路安全性。这项研究比较了几个注意力分类器对参与者大脑活动的训练。参与者在沉浸式模拟器中执行驾驶任务,汽车随机偏离巡航车道。他们必须纠正偏差,他们的响应时间被认为是注意力水平的指标。参与者在两次会议上重复这项任务;在一次会议上,他们收到动觉反馈,在另一次会议上没有反馈。使用他们的EEG信号,我们训练了三个注意力分类器;使用EEG谱带功率的支持向量机(SVM)和使用频谱特征或原始EEG数据的卷积神经网络(CNN)。我们的研究结果表明,在动觉反馈下获得的原始EEG数据上训练的CNN模型达到了最高的准确率(89%)。虽然使用参与者自己的大脑活动来训练该模型产生了最佳性能,但受试者间的迁移学习仍然表现很高(75%),显示出免校准脑机接口(BCI)系统的前景。我们的研究结果表明,CNN和原始EEG信号可以用于实时注意力分类的被动BCI的有效训练。
2021-08-23 cs.AI cs.HC
Feature Selection via Dynamic Graph-based Attention Block in MI-based EEG Signals
Korea University(高丽大学)
针对MI-EEG信号中低相关特征导致深度模型权重偏移的问题,提出由时间、空间、图和相似度块组成的端到端深度预处理方法,有效增强MI判别性特征并提升模型鲁棒性。
2024-10-31 cs.AI cs.LG eess.SP
Enhancing Low-Density EEG-Based Brain-Computer Interfaces with Similarity-Keeping Knowledge Distillation
National Yang Ming Chiao Tung University(阳明交通大学)
脑电图(EEG)因其无创、低成本、高时间分辨率等优点,已成为现实世界脑机接口(BCI)中常用的神经监测手段之一。近年来,基于低密度导联的轻便便携式脑电可穿戴设备增加了脑机接口应用的便利性和可用性。然而,EEG解码性能的损失通常是不可避免的,这是由于减少了电极的数量和低密度EEG蒙太奇的头皮区域的覆盖。为了解决这个问题,我们引入了知识蒸馏(KD),一种学习机制,用于在神经网络模型之间传输知识/信息,以提高低密度EEG解码的性能。我们的框架包括一个新提出的相似性保持(SK)教师-学生KD计划,鼓励低密度EEG学生模型获得样本间的相似性,如在高密度EEG数据上训练的预训练教师模型。实验结果验证了我们的SK-KD框架一致提高运动想象脑电解码的准确性时,输入的EEG数据的电极数量减少。对于常见的低密度耳机样和头带样蒙太奇,我们的方法优于国家的最先进的KD方法在各种EEG解码模型架构。作为第一个KD计划,提高EEG解码,我们预见到建议SK-KD框架,以促进低密度EEG为基础的BCI在现实世界中的应用的实用性。
2022-12-06 cs.LG eess.SP q-bio.NC
Cross-Subject and Cross-Montage EEG Transfer Learning via Individual Tangent Space Alignment and Spatial-Riemannian Feature Fusion
UKRI Centre for Doctoral Training in Socially Intelligent Artificial Agents(UKRI社会智能人工代理博士培训中心);EPSRC(工程与物理科学研究委员会);Academy of Medical Sciences(医学科学院)
提出个体切空间对齐(ITSA)策略与结合 RCSP 和黎曼几何的混合特征融合架构,有效解决了 EEG 信号跨被试泛化难题,显著提升了跨被试与跨导联的脑机接口分类性能。
2026-10-14 cs.LG eess.SP
HyBRA-EEG: Hyperbolic Global-Local Brain-Region Aggregation for Self-Supervised EEG Representation Learning
HyBRA是一种自监督EEG表征学习框架,通过双曲全局-局部脑区聚合处理异质性EEG数据,在多基准数据集上的平衡准确率等指标优于对比方法,参数效率更高。
2026-10-14 cs.LG
Auditory Attention Decoding from EEG using Convolutional Recurrent Neural Network
Peking University(北京大学)
提出了一种基于听觉注意解码(AAD)的多人说话场景中说话人身份识别方法。虽然基于线性模型的方法已被广泛应用于AAD中,但线性假设被认为过于简化,并且对于较短的解码窗口,解码精度仍然较低。最近,已经提出了基于深度神经网络(DNN)的非线性模型来解决这个问题。然而,这些模型没有充分利用EEG的空间和时间特征,并且很少研究DNN模型的可解释性。在本文中,我们提出了新的卷积递归神经网络(CRNN)的回归模型和分类模型,并将它们与线性模型和最先进的DNN模型进行了比较。结果表明,我们提出的基于CRNN的分类模型在较短的解码窗口(2 s和5 s约为90%)下优于其他模型。尽管比分类模型差,但提出的基于CRNN的回归模型的解码准确度比其他回归模型高出约5%。DNN模型的可解释性也通过可视化层的权重进行了研究。
2021-03-03 cs.AI cs.SD eess.AS
Brain2Vec: A Deep Learning Framework for EEG-Based Stress Detection Using CNN-LSTM-Attention
Department of Computer Science and Engineering(计算机科学与工程系)
针对EEG信号建模难题,提出融合卷积、LSTM与注意力机制的Brain2Vec框架用于压力检测,在DEAP数据集上取得81.25%验证准确率,可应用于可穿戴监测与个性化医疗。
2025-06-12 cs.AI cs.HC cs.NE
Channel Adaptation for EEG Foundation Models: A Systematic Benchmark Across Architectures, Tasks, and Training Regimes
Swartz Center for Computational Neuroscience, Institute for Neural Computation, University of California San Diego(斯瓦茨计算神经科学中心,神经计算研究所,加州大学圣地亚哥分校);Yneuro;Centre de Recherche Cerveau et Cognition, CNRS, Université Paul Sabatier(脑与认知研究中心,法国国家科学研究中心,保罗·萨巴蒂埃大学)
本文系统比较了四种通道适应方法在不同EEG基础模型、任务和训练模式中的表现,发现灵活模型在微调时需外部方法辅助,且5M参数CBraMod在4/5数据集上超越更大模型。
2026-04-25 cs.LG
Decoding Natural Images from EEG for Object Recognition
Tsinghua University(清华大学);Institute of Semiconductors, CAS(中国科学院半导体研究所)
提出自监督EEG-图像对比学习框架,从脑电响应学习图像表征,在200类零样本目标识别中取得显著高于随机水平的结果,并验证其神经生物学合理性。
2024-04-04 cs.AI cs.HC eess.SP
Prior-Guided Frequency-Calibrated Virtual EEG Channel Inference from Four Frontal Electrodes for Wearable EEG Augmentation
School of Biomedical Science and Engineering, South China University of Technology(生物医学工程学院,华南理工大学);School of Automation Science and Engineering, South China University of Technology(自动化科学与工程学院,华南理工大学)
提出FAVC-Net网络,通过频率校准从四个额叶电极生成13个未测量通道,联合优化波形保真度、频谱分配和鲁棒性,在PRED+CT数据集上实现最佳波形-频谱性能。
2026-07-07 cs.LG
Robust learning from corrupted EEG with dynamic spatial filtering
Université Paris-Saclay(巴黎萨克雷大学);Inria(法国国家信息与自动化研究所);CEA(法国原子能和替代能源委员会);InteraXon Inc.(InteraXon公司);Max Planck Institute for Human Cognitive and Brain Sciences(马克斯·普朗克人类认知与脑科学研究所)
使用在实验室环境之外记录的EEG构建机器学习模型需要对噪声数据和随机丢失通道具有鲁棒性的方法。当使用稀疏EEG导联(1-6个通道)时,这种需求特别大,通常在消费级或移动EEG设备中遇到。无论是经典的机器学习模型,还是在EEG上进行端到端训练的深度神经网络,通常都没有针对损坏的鲁棒性进行设计或测试,特别是针对随机丢失的通道。虽然一些研究已经提出了使用具有丢失通道的数据的策略,但是当使用稀疏导联并且计算能力有限时,这些方法是不实用的(例如,可穿戴设备、手机)。为了解决这个问题,我们提出了动态空间滤波(DSF),这是一个多头注意力模块,可以插入到神经网络的第一层之前,通过学习关注好的通道并忽略坏的通道来处理丢失的EEG通道。我们在公共EEG数据上测试了DSF,这些数据包含约4,000个具有模拟通道损坏的记录,并且在私人数据集上测试了约100个具有自然损坏的移动EEG的家庭记录。我们提出的方法实现了相同的性能基线模型时,没有噪声,但优于基线高达29.4%的准确性时,存在显着的信道腐败。此外,DSF输出是可解释的,从而可以实时监控通道重要性。这种方法有可能使EEG的分析在具有挑战性的设置中,通道腐败阻碍了大脑信号的读取。
2021-05-27 cs.LG eess.SP q-bio.NC
An Analysis of Two Common Reference Points for EEGs
Temple University(天普大学)
临床脑电图(EEG)数据根据许多操作条件(例如,电极的类型和放置、所使用的电气接地的类型)。本研究探讨了两种不同的参考蒙太奇:连接耳(LE)和平均参考(AR)的统计差异。其中每一个都占TUH EEG语料库中数据的大约45%。在这项研究中,我们探讨了这种可变性对机器学习性能的影响。我们比较使用这两个蒙太奇产生的功能的统计特性,并探讨我们的标准隐马尔可夫模型(HMM)的分类系统的性能的影响。我们发现,在LE数据上训练的系统明显优于仅在AR数据上训练的系统(77.2% vs. 61.4%)。我们还证明了在两个数据集上训练的系统的性能有所降低(71.4%对77.2%)。对数据的统计分析表明,应考虑均值、方差和通道归一化。然而,倒谱平均减法未能产生性能的改善,这表明这些统计差异的影响是微妙的。
2018-01-03 cs.LG eess.SP stat.ML
LUNA: Efficient and Topology-Agnostic Foundation Model for EEG Signal Analysis
Integrated Systems Laboratory, ETH Zürich(瑞士苏黎世联邦理工学院集成系统实验室)
LUNA通过将多通道EEG压缩为拓扑无关的潜在表示,实现线性扩展的自监督基础模型,在多个下游任务上达到最先进性能并大幅降低计算开销。
2025-10-25 cs.AI cs.LG
SPERA: Spherical Prior EEG Foundation Model with Geometry- and Frequency-Aware Latent Prediction
Hanyang University(汉阳大学)
本研究提出SPERA,一种采用JEPA的EEG基础模型,融入勒让德多项式空间先验等组件,经8万余小时EEG预训练后,在9项下游任务中获最高平均平衡准确率,兼具参数效率与鲁棒性,可作为EEG分析通用骨干。
2026-11-04 cs.LG
A channel attention based MLP-Mixer network for motor imagery decoding with EEG
School of Communication and Information Engineering, Shanghai University(上海大学通信与信息工程学院)
卷积神经网络(CNN)及其变体已成功应用于基于脑电图(EEG)的运动想象(MI)解码任务。然而,这些基于CNN的算法在感知EEG信号的全局时间依赖性方面通常具有局限性。此外,他们也忽略了不同的EEG通道的分类任务的不同贡献。为了解决这些问题,提出了一种新的基于通道注意力的MLP混合器网络(CAMLP-Net)用于基于EEG的MI解码。具体地说,在该网络中应用基于MLP的架构来捕获时间和空间信息。注意力机制被进一步嵌入到MLP混合器中,以自适应地利用不同EEG通道的重要性。因此,所提出的CAMLP网络可以有效地学习更多的全球时间和空间信息。在新建立的MI-2数据集上的实验结果表明,我们提出的CAMLP-Net取得了优于所有比较算法的分类性能。
2021-10-21 cs.AI cs.LG
Comparative Analysis of State-of-the-Art Foundation Models for Sleep Analysis Under Channel Reduction
University of Turku(图尔库大学);Turku University Hospital(图尔库大学医院);University College Cork(科克大学);University at Albany, SUNY(纽约州立大学奥尔巴尼分校);Fudan University(复旦大学);University of Sydney(悉尼大学)
本研究比较六种睡眠分期模型在EEG、ECG及其组合下的性能,发现EEG承载主要信号,BIOT在EEG上最优(宏F1 0.7237),ECG替代平均损失0.3531,且预训练迁移有效。
2026-09-22 cs.LG eess.SP
Fusion of Multiscale Features Via Centralized Sparse-attention Network for EEG Decoding
Department of Artificial Intelligence, Shanghai Maritime University(人工智能学院,上海海洋大学)
本文提出EEG-CSANet,通过集中式稀疏注意力网络融合多尺度特征,实现高精度的EEG信号解码。
2026-01-02 cs.AI cs.LG
Learning Robust Features using Deep Learning for Automatic Seizure Detection
McGill University(麦吉尔大学);University of Toronto(多伦多大学);Sunnybrook Health Sciences Centre(森尼布鲁克健康科学中心)
我们提出并评估了深度神经网络从EEG中学习鲁棒特征以自动检测癫痫发作的能力。这是一个具有挑战性的问题,因为EEG上的癫痫发作表现在患者间和患者内都是极其可变的。通过同时捕获光谱、时间和空间信息,我们的循环卷积神经网络学习癫痫发作的一般空间不变表示。所提出的方法在灵敏度和假阳性率方面都超过了以前在跨患者分类器上获得的结果。此外,我们的模型被证明是强大的丢失通道和可变电极蒙太奇。
2016-07-31 cs.CV cs.LG
Transformer Based Model for Spatiotemporal Feature Learning in EEG Emotion Recognition
Beijing Neurodeep Technology Co., Ltd(北京纽罗德普科技有限公司);University of Pennsylvania(宾夕法尼亚大学)
提出EEG-TransNet架构,通过局部自注意力块和模糊注意力同步Transformer捕捉脑电信号的时空特征,在三个数据集上优于现有方法。
2026-06-09 cs.AI cs.LG
SAMBA: Toward an EEG Foundation Model via Differential Mamba and Coordinate-Driven Spatial Embedding
Emotiv Research(Emotiv研究公司)
SAMBA通过空间嵌入和微分Mamba模块,实现长上下文EEG建模,提升EEG表示模型的通用性和鲁棒性。
2026-11-04 cs.LG
Feature Fusion Based on Mutual-Cross-Attention Mechanism for EEG Emotion Recognition
School of Computing and Artificial Intelligence, Southwest Jiaotong University(西南交通大学计算机与人工智能学院)
针对现有EEG情绪识别系统复杂度高、精度一般等问题,提出结合MCA互交叉注意力特征融合机制与定制3D-CNN的方法,搭配新设计的Channel-PSD-DE三维特征,在DEAP数据集上实现了效价99.49%、唤醒99.30%的高准确率。
2024-06-20 cs.AI cs.LG
EEG-based Sleep Staging with Hybrid Attention
Nanyang Technological University(南洋理工大学);Zhejiang Sci-Tech University(浙江理工大学)
本文提出混合注意力EEG睡眠分期框架HASS,通过时空注意力机制自适应分配通道间与通道内权重,在MASS和ISRUC数据集上显著提升典型睡眠分期网络的性能。
2023-05-16 cs.AI cs.LG eess.SP
SingLEM: Single-Channel Large EEG Model
Department of Electronic and Information Engineering, Tokyo University of Agriculture and Technology(电子信息工程系,东京农业科技大学);Department of Electronics and Communication Engineering, National University of Mongolia(电子与通信工程系,蒙古国立大学)
SingLEM是一种自监督单通道EEG基础模型,通过71个公开EEG数据集预训练,在6项任务的严格评估中表现优于对比方法,支持灵活的EEG特征提取与空间分析。
2026-09-09 cs.LG
4D Attention-based Neural Network for EEG Emotion Recognition
Peking University(北京大学);Beijing Jiaotong University(北京交通大学)
脑电情感识别是脑机接口领域的一个重要课题。尽管近年来提出了许多深度学习方法,但如何充分利用脑电信号不同域所包含的信息仍然是一个挑战。在本文中,我们提出了一种新的方法,称为四维注意力为基础的神经网络(4D-aNN)的EEG情绪识别。首先,原始EEG信号被转换成4D空间-频谱-时间表示。然后,采用频谱和空间注意力机制自适应地分配不同脑区和频带的权重,并利用卷积神经网络(CNN)处理4D表示的频谱和空间信息。此外,时间注意力机制被集成到双向长短期记忆(LSTM)中,以探索4D表示的时间依赖性。我们的模型在主题内分裂的SEED数据集上实现了最先进的性能。实验结果表明了不同领域的注意力机制对脑电情感识别的有效性。
2021-01-14 cs.LG
MixNet: Joining Force of Classical and Modern Approaches Toward the Comprehensive Pipeline in Motor Imagery EEG Classification
Amazon AGI(亚马逊AGI);KU Leuven(鲁汶大学)
提出MixNet框架,融合FBCSP频谱-空间特征与MIN2Net多任务学习,并通过自适应梯度混合平衡任务训练,在六个基准及低密度EEG场景中取得最优分类性能。
2024-09-06 cs.AI cs.CV cs.HC
Protecting the Future: Neonatal Seizure Detection with Spatial-Temporal Modeling
Microsoft(微软);Shanghai Jiao Tong University(上海交通大学);Central South University(中南大学)
针对新生儿 EEG 癫痫发作检测中起始位置动态、montage 差异和跨受试者分布偏移问题,提出在时间、空间与模型层面精心设计的 STATENet 深度学习框架,并在大规模真实数据集上验证其性能显著更优。
2023-07-02 cs.AI cs.LG eess.SP
FoME: A Foundation Model for EEG using Adaptive Temporal-Lateral Attention Scaling
Northwestern Polytechnical University(西北工业大学)
本文提出FoME,一种基于自适应时间-侧向注意力缩放机制的EEG基础模型,通过时频融合嵌入和ATLAS机制在1.7TB数据集上预训练,在四项下游任务中取得最先进结果,为EEG分析建立新范式。
2024-09-19 cs.AI cs.LG eess.SP
Transformer-based Spatial-Temporal Feature Learning for EEG Decoding
South China University of Technology(华南理工大学)
目前,人们通常采用基于卷积神经网络的方法对脑电信号进行解码。然而,CNN在感知全局依赖性方面存在局限性,这对于具有强整体关系的常见EEG范例来说是不够的。针对这个问题,我们提出了一种新的主要依赖于注意力机制的脑电信号解码方法。首先对脑电数据进行预处理和空间滤波。然后对特征通道维度进行注意力变换,使模型能够增强更多的相关空间特征。最关键的一步是在时间维度上对数据进行切片,进行注意力转换,最终获得具有高度可区分性的表示。在这个时候,全局平均池化和一个简单的全连接层被用来分类不同类别的EEG数据。在两个公开数据集上的实验表明,该策略有效地利用了空间和时间特征。在脑电信号的多分类方面,我们已经达到了用较少的参数进行多分类的先进水平。据我们所知,这是第一次提出了一个详细的和完整的方法的基础上的Transformer的想法在这一领域。这对脑机接口的实用化具有很好的促进作用。源代码可以在以下位置找到:\textit{https://github.com/anranknight/EEG-Transformer}。
2021-06-11 cs.AI cs.LG eess.SP
Attention-based Graph ResNet for Motor Intent Detection from Raw EEG signals
Northeast Electric Power University(东北电力大学)
在以往的研究中,脑电信号的解码没有考虑脑电电极的拓扑关系。然而,最新的神经科学表明大脑网络连接。因此,EEG通道之间表现出的相互作用可能无法通过欧几里德距离进行适当测量。为了填补这一空白,提出了一种基于注意力的图残差网络(GCN),将脑电电极的拓扑结构构建为一个图,用于从原始脑电信号中检测人体运动意图。同时,引入了具有全注意力架构的深度残差学习,以解决原始EEG运动想象(MI)数据中有关更深网络的退化问题。个体变异性是EEG信号潜在的关键和长期挑战,已成功处理,具有最先进的性能,受试者水平的准确率为98.08%,20名受试者的准确率为94.28%。数值结果表明,图结构拓扑的实现优于原始EEG数据的解码。创新的深度学习方法预计将为神经科学研究和基于EEG的实际应用提供一种通用方法,例如,癫痫发作预测
2020-06-25 cs.AI cs.CV cs.LG
Spectral Priors vs. Attention: Investigating the Utility of Attention Mechanisms in EEG-Based Diagnosis
University of Cincinnati(辛辛那提大学)
本文提出一种基于频带选择的光谱特征构建方法,证明在小型EEG数据集中,传统机器学习模型性能可匹敌或超越SOTA深度学习模型,而注意力机制无法提取稳定的光谱特征。
2026-05-22 cs.LG
Addressing Limited Data in Auditory Attention Decoding with Diffusion Generative Models
研究针对助听器中听觉注意力解码因数据有限面临的挑战,利用扩散概率模型生成合成语音诱发EEG数据进行数据增强,实验证明该方法能显著提高AAD性能,凸显其减轻训练数据限制及增强模型鲁棒性的潜力。
2026-07-22 cs.AI cs.LG cs.SD
Exploration of LLMs, EEG, and behavioral data to measure and support attention and sleep
Rice University(里士大学);Microsoft Research(微软研究院)
本文探索利用大语言模型(LLMs)结合脑电图(EEG)和活动数据估计注意力状态、睡眠阶段和质量,并生成改善建议和引导想象脚本,发现LLMs能基于行为特征评估睡眠质量,但基于EEG和活动数据的检测需更多训练数据。
2026-06-23 cs.AI cs.HC cs.LG
EEG-GMACN: Interpretable EEG Graph Mutual Attention Convolutional Network
Coventry University(考文垂大学);Institute for Infocomm Research, A*STAR(新加坡科技研究局信息通信研究所)
提出EEG-GMACN模型,通过引入逆图权重模块和互注意力机制提升EEG分析的可解释性与临床可信度,并采用可信度校准评估预测不确定性。
2024-12-15 cs.LG eess.SP
EEG-MACS: Manifold Attention and Confidence Stratification for EEG-based Cross-Center Brain Disease Diagnosis under Unreliable Annotations
Harbin Institute of Technology, Shenzhen(哈尔滨工业大学(深圳));Shenzhen People's Hospital(深圳人民医院);Shenzhen University(深圳大学);Shenzhen Bay Laboratory(深圳湾实验室)
EEG-MACS通过流形注意力与置信度分层技术,提升跨中心脑部疾病诊断的准确性与鲁棒性。
2026-02-06 cs.AI cs.LG eess.SP
LMDA-Net:A lightweight multi-dimensional attention network for general EEG-based brain-computer interface paradigms and interpretability
Tianjin University(天津大学)
基于EEG的活动和状态识别涉及使用先前的神经科学知识来生成定量EEG特征,这可能限制BCI性能。虽然基于神经网络的方法可以有效地提取特征,但它们经常遇到诸如跨数据集的泛化能力差、预测波动性高和模型可解释性低等问题。因此,我们提出了一种新的轻量级多维注意力网络,称为LMDA-Net。通过结合两个专门为EEG信号设计的新颖注意力模块,通道注意力模块和深度注意力模块,LMDA-Net可以有效地整合多个维度的特征,从而提高各种BCI任务的分类性能。LMDA-Net在四个高影响力的公共数据集上进行了评估,包括运动想象(MI)和P300-Speller范式,并与其他代表性模型进行了比较。实验结果表明,LMDA-Net在分类精度和预测波动性方面优于其他代表性方法,在300个训练时期内在所有数据集中达到最高精度。消融实验进一步证实了通道注意模块和深度注意模块的有效性。为了便于深入理解LMDA-Net提取的特征,我们提出了适用于事件相关电位(ERP)和事件相关去同步化/同步化(ERD/ERS)的类特定神经网络特征可解释性算法。通过类激活映射将LMDA-Net特定层的输出映射到时间或空间域,由此产生的特征可视化可以提供可解释的分析,并与神经科学中的EEG时空分析建立联系。总之,LMDA-Net显示出巨大的潜力,作为一个通用的在线解码模型的各种EEG任务。
2023-03-29 cs.AI cs.LG eess.SP
MAtt: A Manifold Attention Network for EEG Decoding
National Yang Ming Chiao Tung University(阳明交通大学)
脑电信号的识别对无创脑机接口的效率有很大影响。虽然基于深度学习(DL)的EEG解码器的最新进展提供了更好的性能,但几何学习(GL)的发展因在解码噪声EEG数据时提供出色的鲁棒性而备受关注。然而,缺乏关于深度神经网络(DNN)和几何学习用于EEG解码的合并使用的研究。本文提出了一种流形注意力网络(mAtt),这是一种新的基于几何深度学习(GDL)的模型,其特征在于流形注意力机制,该机制完全在黎曼对称正定(SPD)流形上表征EEG数据的时空表示。时间同步和同步EEG数据集上的建议MATT的评价表明其优于其他领先的DL方法一般EEG解码。此外,模型解释的分析揭示了MAtt在捕获信息EEG特征和处理脑动力学的非平稳性的能力。
2022-10-05 cs.LG eess.SP q-bio.NC
Temporal Aware Mixed Attention-based Convolution and Transformer Network (MACTN) for EEG Emotion Recognition
Tianjin University(天津大学)
本文提出MACTN模型,通过CNN提取局部情绪特征、Transformer整合全局时序信息,并结合通道注意力机制,在THU-EP和DEAP数据集上取得了优于现有方法的脑电情绪识别性能。
2023-05-18 cs.AI cs.LG eess.SP
A Multi-channel EEG Data Analysis for Poor Neuro-prognostication in Comatose Patients with Self and Cross-channel Attention Mechanism
Oslo University Hospital(奥斯陆大学医院);University of Oslo(奥斯陆大学);Norwegian University of Science and Technology(挪威科技大学)
本研究提出结合一维卷积、可学习位置编码与注意力机制的混合深度学习框架OUS IVS,用于多通道EEG的昏迷患者不良神经预后预测,在隐藏验证集上得分为0.57。
2023-09-24 cs.AI cs.LG eess.SP
DAGAM: A Domain Adversarial Graph Attention Model for Subject Independent EEG-Based Emotion Recognition
Northwestern Polytechnic University(西北工业大学);Shaanxi Normal University(陕西师范大学)
基于脑电信号的情感识别面临的最大挑战之一是脑电信号的跨学科变化,导致性能和泛化能力差。本文提出了一种新的基于EEG的情感识别模型,称为域对抗图注意力模型(DAGAM)。其基本思想是生成一个图形来模拟多通道EEG信号,使用生物拓扑结构。图论可以拓扑地描述和分析脑电通道之间的关系和相互依赖性。然后,与其他图卷积网络不同,自注意力池被应用于从图中提取显著的EEG特征,这有效地提高了性能。最后,在图池化之后,基于图的领域对抗算法被用于识别和处理不同受试者的脑电变化,有效地达到了良好的泛化能力。我们对两个基准数据集(SEED和SEED IV)进行了广泛的评估,并在独立于主体的情感识别方面获得了最先进的结果。我们的模型将SEED准确度提高到92.59%(提高4.69%),最低标准偏差为3.21%(下降2.92%),SEED IV准确度提高到80.74%(提高6.90%),最低标准偏差为4.14%(下降3.88%)。
2022-02-27 cs.LG eess.SP
Differential Attention Unlocks Complementary EEG and Speech Fusion for Emotion Recognition
Johns Hopkins University(约翰霍普金斯大学);University of Texas at Dallas(德克萨斯大学达拉斯分校)
针对多模态情绪识别中脑电噪声破坏融合的问题,提出EmoSpeechBrain框架,利用差分注意力消除脑电噪声并结合门控适配器融合脑电与语音,在PME4和EAV数据集上显著提升准确率。
2026-09-28 cs.LG eess.SP
Spatio-Temporal Analysis of Transformer based Architecture for Attention Estimation from EEG
University of Mons(蒙斯大学);IMT Nord Europe(北欧国立高等矿业电信学院);CNRS(法国国家科学研究中心)
多年来,了解大脑机制一直是许多不同领域的重要研究课题。近年来,脑信号处理,特别是脑电信号的处理越来越受到学术界和工业界的关注。其中一个主要的例子是越来越多的脑机接口(BCI)旨在连接大脑和计算机。在本文中,我们提出了一个新的框架,使我们能够检索的注意力状态,即给予一个特定的任务,从EEG信号的注意程度。虽然以前的方法通常通过电极考虑EEG中的空间关系,并在基于递归或卷积的架构中处理它们,但我们在这里建议还利用基于变换的网络来利用空间和时间信息,该网络已经在许多机器学习(ML)相关研究中表现出了其优越性,例如机器翻译。除了这种新的架构,特征提取方法,频带和时间窗口长度也进行了广泛的研究。该网络已经在两个公共数据集上进行了训练和验证,与最先进的模型相比,取得了更高的结果。除了提出更好的结果外,该框架还可以用于实际应用,例如注意力缺陷多动障碍(ADHD)症状或驾驶评估期间的警惕性。
2022-04-04 cs.AI cs.LG eess.SP
LAtte: Hyperbolic Lorentz Attention for Cross-Subject EEG Classification
Data Science Group(数据科学组);ISMLL;Universität Hildesheim(希尔德斯海姆大学)
本文提出LAtte框架,结合双曲InceptionTime编码器与洛伦兹注意力,提升跨受试者EEG分类性能,通过分解EEG信号并引入低秩适应模块增强鲁棒性与泛化能力。
2026-05-14 cs.LG
EEG motor imagery decoding: A framework for comparative analysis with channel attention mechanisms
Institute of Signal Processing and System Theory, University of Stuttgart(斯图加特大学信号处理与系统理论研究所);Fraunhofer Institute for Manufacturing Engineering and Automation IPA(弗劳恩霍夫制造工程与自动化研究所IPA);Charité - Universitätsmedizin Berlin(柏林夏里特医学院)
本文提出一个轻量级脑电运动想象解码框架,系统比较多种通道注意力机制在相同条件下的效果,并在四个数据集上验证其性能提升、低计算复杂度和跨数据集泛化能力。
2024-02-21 cs.AI cs.HC cs.LG
Locally temporal-spatial pattern learning with graph attention mechanism for EEG-based emotion recognition
University of Shanghai for Science and Technology(上海理工大学)
情感识别技术使计算机能够将人类的情感状态分为离散的类别。然而,即使在短时间间隔内,情绪也可能波动而不是保持稳定状态。脑电的三维拓扑结构也给充分利用脑电的空间分布带来了困难。为了解决上述问题,我们提出了一个局部时空模式学习图注意网络(LTS-GAT)。在LTS-GAT中,基于图形注意机制,采用分而治之的策略来检测EEG模式的时间和空间维度上的局部信息。增加了一个动态域学习器,以提高对EEG统计的个体间变化的鲁棒性,从而在不同参与者之间学习鲁棒的EEG特征表示。我们评估了两个公共数据集的LTS-GAT情感计算研究下的个人依赖和独立的范式。通过与现有主流方法的比较,验证了LTS-GAT模型的有效性。此外,可视化的方法来说明不同的大脑区域和情绪识别的关系。同时,不同时间段的权重也被可视化,以研究情感稀疏性问题。
2022-08-19 cs.AI cs.CV cs.HC
I\textsuperscript{2}RiMA: Spectral Riemannian Representation with Temporal Attention for Mental Stress Detection based on EEG Signals
Laboratory of Neural Computing and Intelligent Perception, College of Information Engineering, Capital Normal University(首都师范大学信息工程学院神经计算与智能感知实验室);Karlsruhe Institute of Technology(卡尔斯鲁厄理工学院);School of Psychology, Capital Normal University(首都师范大学心理学院)
提出I²RiMA网络,通过频点独立构建协方差矩阵并映射到SPD切空间,结合频率聚类和切片间注意力,实现跨被试脑电压力检测,在三个数据集上达到82.78%平衡精度。
2026-07-03 cs.LG
TAnet: A New Temporal Attention Network for EEG-based Auditory Spatial Attention Decoding with a Short Decision Window
Southern University of Science and Technology(南方科技大学)
针对以往ASAD依赖长决策窗口的问题,提出采用MHA机制的端到端TAnet,在KUL数据集短窗口下解码准确率最高达95.5%,可助力智能助听器等系统设计。
2024-05-14 cs.LG eess.SP
Extracting the Auditory Attention in a Dual-Speaker Scenario from EEG using a Joint CNN-LSTM Model
WS Audiology
在多说话人的情况下,人脑在分离特定说话人与干扰说话人方面表现得非常好。最近已经表明,我们可以定量评估的分离能力,通过建模的语音信号之间的关系存在于一个听觉场景和使用脑电图(EEG)测量的听者的皮层信号。这开辟了将神经反馈集成到助听器中的途径,从而该设备可以推断用户的注意力并增强参加的扬声器。用于推断听觉注意的常用算法是基于线性系统理论,其中语音线索(诸如包络)被映射到EEG信号上。在这里,我们提出了一个联合卷积神经网络(CNN)-长短期记忆(LSTM)模型来推断听觉注意。我们的联合CNN-LSTM模型将多个说话者的EEG信号和频谱图作为输入,并将注意力分类到其中一个说话者。我们评估了我们的神经网络的可靠性,使用三个不同的数据集,包括61名受试者,每个受试者进行了双扬声器实验。分析的三个数据集对应于以三种不同语言呈现的语音刺激,即德语、丹麦语和荷兰语。使用提出的联合CNN-LSTM模型,我们在三秒的试验持续时间内获得了77.2%的中值解码准确率。此外,我们通过幅度修剪评估了我们的模型可以容忍的稀疏度,发现该模型可以容忍高达50%的稀疏度,而不会大幅降低解码精度。
2021-07-09 cs.AI cs.LG cs.SD
Node-wise Domain Adaptation Based on Transferable Attention for Recognizing Road Rage via EEG
Tianjin University(天津大学);University of Electronic Science and Technology of China(电子科技大学);Tianjin University of Traditional Chinese Medicine(天津中医药大学)
路怒症是一个值得关注的社会问题,但迄今为止研究甚少。本文基于多通道脑电信号的生物学拓扑结构,提出了一种结合可转移注意力(TA)和正则化图神经网络(RGNN)的脑电信号识别模型。首先,对EEG信号进行拓扑感知信息聚合,动态学习通道之间的复杂关系。然后,每个通道的可转移性被量化的基础上的结果的节点明智的域分类器,这是用来作为注意力得分。我们招募了10名受试者,并在模拟驾驶条件下收集了他们在愉悦和愤怒状态下的脑电信号。我们在这个数据集上验证了我们的方法的有效性,并与其他方法进行了比较。结果表明,该方法简单有效,跨学科实验的准确率为85.63%。它可以用来识别路怒症。我们的数据和代码是可用的。https://github.com/1CEc0ffee/dataAndCode.git
2022-11-06 cs.LG eess.SP
Advancing Speech Synthesis using EEG
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
在本文中,我们介绍了注意力回归模型,以证明预测从脑电图(EEG)的功能记录在平行的口语句子的声学特征。首先,我们展示了使用我们的注意力模型直接从EEG特征预测声学特征,然后我们展示了使用两步方法从EEG特征预测声学特征,在第一步中,我们使用我们的注意力模型从EEG特征预测发音特征,然后在第二步中,训练另一个注意力回归模型将预测的发音特征转换为声学特征。我们提出的注意力回归模型与作者在[1]中介绍的回归模型相比,在测试期间使用他们的数据集对大多数受试者进行测试时,表现出优越的性能。本文提出的结果进一步推进了作者在[1]中描述的工作。
2020-05-03 cs.LG cs.SD eess.AS
Human brain activity for machine attention
University of Copenhagen(哥本哈根大学);ETH Zurich(苏黎世联邦理工学院);IT University of Copenhagen(哥本哈根信息技术大学)
认知启发的NLP利用人类来源的数据来教授机器语言处理机制。最近,神经网络已经用行为数据来增强,以解决一系列跨越语法和语义的NLP任务。我们是第一个利用神经科学数据,即脑电图(EEG),告知关于人类大脑语言处理的神经注意力模型。处理EEG数据的挑战在于特征非常丰富,需要大量的预处理来隔离特定于文本处理的信号。我们设计了一种方法,通过结合理论上有动机的裁剪与随机森林树分裂来寻找这样的EEG特征来监督机器注意力。在此降维之后,预处理的EEG特征能够区分从公开可用的EEG语料库中检索到的两个阅读任务。我们应用这些功能,以正则化的关系分类的注意力,并表明,EEG是比强基线更翔实。这种改善取决于任务的认知负荷和EEG频域。因此,用EEG信号通知神经注意力模型是有益的,但需要进一步研究,以了解哪些维度在NLP任务中最有用。
2020-10-02 cs.CL cs.LG q-bio.NC
DAH-Net: A Dual-Attention Hybrid Network for Interpretable and Robust EEG-Based Emotion Recognition
Department of Electrical \& Computer Engineering University of Missouri Columbia, Missouri, USA;Department of Computer Science;Engineering City University Savar, Dhaka-1340, Bangladesh;Department of Computer Science University of Missouri Columbia, Missouri, USA
提出DAH-Net双注意力混合网络,集成1D-CNN、BiLSTM和双多头注意力,在2479样本988特征上达到99.19%测试准确率,优于传统模型,并通过特征分析揭示协方差特征贡献最大。
2026-06-09 cs.LG