arXivDaily arXiv每日学术速递 周一至周五更新
arXiv周末暂无论文更新,休息一下吧,周末愉快~~
arXiv 2309.07579cs.LGeess.SP
收藏

结构保持的SPD矩阵序列Transformer

Structure-Preserving Transformers for Sequences of SPD Matrices

Normandie Univ, UNICAEN, ENSICAEN, CNRS, GREYC(诺曼底大学、卡昂大学、卡昂高等工程师学院、法国国家科学研究中心、格雷西研究所);LAMSADE, CNRS, PSL Univ. Paris-Dauphine(LAMSADE实验室、法国国家科学研究中心、巴黎文理研究大学巴黎多芬校区);Normandie Université, UNICAEN, INSERM, COMETE, CYCERON, CHU Caen(诺曼底大学、卡昂大学、法国国家健康与医学研究院、COMETE研究所、CYCERON研究所、卡昂大学医院)

Mathieu Seraphim, Alexis Lechervy, Florian Yger, Luc Brun, Olivier Etard

AI总结:

本文提出一种结构保持的Transformer机制,用于对SPD矩阵序列分类,并在EEG协方差矩阵的睡眠分期任务中取得高性能。

摘要:

近年来,基于Transformer的自注意力机制已被成功应用于多种依赖上下文的数据类型分析,从文本到图像乃至更广,包括来自非欧几里得几何的数据。本文提出了一种这样的机制,旨在对对称正定矩阵序列进行分类,并在整个分析过程中保持其黎曼几何结构。我们将该方法应用于标准数据集上由EEG导出的协方差矩阵时间序列的自动睡眠分期,获得了较高的分期性能。

英文摘要:

In recent years, Transformer-based auto-attention mechanisms have been successfully applied to the analysis of a variety of context-reliant data types, from texts to images and beyond, including data from non-Euclidean geometries. In this paper, we present such a mechanism, designed to classify sequences of Symmetric Positive Definite matrices while preserving their Riemannian geometry throughout the analysis. We apply our method to automatic sleep staging on timeseries of EEG-derived covariance matrices from a standard dataset, obtaining high levels of stage-wise performance.

机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。

↑