Project Icon

EEG-ATCNet

创新深度学习模型提升运动想象分类

EEG-ATCNet是一种创新的深度学习模型,专门用于脑机接口中EEG信号的运动想象分类。该模型融合卷积神经网络、自注意力机制和时间卷积网络,有效提取EEG信号时空特征。在BCI竞赛IV-2a数据集上,EEG-ATCNet准确率达81.10%,优于其他常用模型。项目还实现了多种注意力机制和数据处理方法,为EEG信号分析研究提供了实用工具。

EEG-ATCNet

PWC

本仓库提供了论文《基于物理信息的注意力时间卷积网络用于脑电图运动想象分类》中提出的注意力时间卷积网络(ATCNet)的代码。

作者:Hamdi Altaheri, Ghulam Muhammad, Mansour Alsulaiman

沙特阿拉伯国王大学智能机器人研究中心

更新

  • ATCNet的正则化参数已经修改,resulting in提高了模型性能并增强了抗过拟合能力。
  • 目前的main_TrainTest.py文件遵循论文1论文2中概述的训练和评估方法,但已被确定为不符合行业最佳实践。因此,我们强烈建议采用在改进的main_TrainValTest.py文件中实现的方法。这个更新版本将数据分为训练/验证/测试集,遵循这篇文章中详细说明的指南(选项2)。

除了提出的ATCNet模型外,models.py文件还包括其他相关方法的实现,这些方法可以与ATCNet进行比较,包括:

下表显示了ATCNet和其他复现模型基于main_TrainValTest.py文件中定义的方法的性能:

模型参数数量BCI 竞赛 IV-2a 数据集 (BCI 4-2a)高伽马数据集 (HGD)*
训练时间(分钟)1,2准确率(%)训练时间(分钟)1,2准确率(%)
ATCNet113,73213.581.1062.692.05
TCNet_Fusion17,2488.869.8365.289.73
EEGTCNet4,0967.065.3636.887.80
MBEEG_SENet10,17015.269.21104.390.13
EEGNet2,5486.368.6736.588.25
DeepConvNet553,6547.542.7843.987.53
ShallowConvNet47,3648.267.4861.887.00
1 使用 Nvidia GTX 1080 Ti 12GB
2 (500轮,无提前停止)
* 请注意,HGD用于"实际运动"而非"运动想象"

本仓库在attention_models.py文件中包含以下注意力机制的实现:

这些注意力模块可以通过attention_models.py文件中的*attention_block(net, attention_model)方法调用,其中'net'是输入层,'attention_model'*表示注意力机制的类型,有五个选项:None'mha''mhla''cbam''se'

示例:
    input = Input(shape = (10, 100, 1))   
    block1 = Conv2D(1, (1, 10))(input)
    block2 = attention_block(block1,  'mha') # mha: 多头自注意力
    output = Dense(4, activation="softmax")(Flatten()(block2))

preprocess.py文件基于两种方法加载和划分数据集:

  1. 特定受试者(受试者相关)方法。在这种方法中,我们使用与原始BCI-IV-2a竞赛划分相同的训练和测试数据,即第1阶段的试验用于训练,第2阶段的试验用于测试。
  2. 留一受试者法(LOSO)方法。LOSO用于受试者无关评估。在LOSO中,模型通过多个折叠进行训练和评估,折叠数等于受试者数量,每个折叠中使用一个受试者进行评估,其他受试者用于训练。LOSO评估技术确保使用训练数据中未出现的独立受试者来评估模型。

preprocess.py文件中的get_data()方法用于加载数据集并将其分为训练集和测试集。该方法默认使用特定受试者方法。如果您想使用受试者无关(LOSO)方法,请将参数LOSO设置为True

关于ATCNet

ATCNet部分受到Vision Transformer (ViT)的启发。ATCNet与ViT的区别如下:

  • ViT使用单层线性投影,而ATCNet使用多层非线性投影,即专门为基于EEG的脑信号设计的卷积投影。
  • ViT由一系列编码器堆叠而成,前一个编码器的输出是后一个的输入。ATCNet由并行编码器组成,所有编码器的输出被连接起来。
  • ViT中的编码器块由多头自注意力(MHA)和多层感知器(MLP)组成,而ATCNet中MHA后面是时间卷积网络(TCN)。
  • ViT的第一个编码器接收整个输入序列,而ATCNet中每个编码器接收输入序列的移动窗口。

ATCNet与Vit对比

ATCNet模型由三个主要模块组成:

  1. 卷积(CV)模块:通过三个卷积层将MI-EEG信号中的低级时空信息编码为高级时间表示序列。
  2. 注意力(AT)模块:使用多头自注意力(MHA)突出时间序列中最重要的信息。
  3. 时间卷积(TC)模块:使用时间卷积层从突出的信息中提取高级时间特征。
  • ATCNet模型还利用基于卷积的滑动窗口来增强MI数据并有效提升MI分类性能。

可视化ATCNet模型中数据的转换。

所提出的ATCNet模型的组成部分

开发环境

模型的训练和测试使用单个GPU,Nvidia GTX 2070 8GB(驱动版本:512.78,CUDA 11.3),使用Python 3.7和TensorFlow框架。在Ubuntu 20.04.4 LTS和Windows 11上使用Anaconda 3。 需要以下软件包:

  • TensorFlow 2.7
  • matplotlib 3.5
  • NumPy 1.20
  • scikit-learn 1.0
  • SciPy 1.7

数据集

需要下载BCI Competition IV-2a数据集,并在main_TrainValTest.py文件中的'data_path'变量中设置数据路径。数据集可以从这里下载。

参考文献

如果您在研究中发现本工作有用,请使用以下BibTeX条目进行引用

[BibTeX引用信息略]

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号