ISSN 1671-3710
CN 11-4766/R
主办:中国科学院心理研究所
出版:科学出版社

心理科学进展 ›› 2023, Vol. 31 ›› Issue (suppl.): 41-41.

• 视觉知觉 • 上一篇    下一篇

基于扩展卷积长短时记忆网络的动态视频脑信息分类解码研究

王玉婷a,b, 黄伟b, 唐颖b, 任伟b, 颜红梅a,b   

  1. a电子科技大学长三角研究院(湖州),中国,313001;
    b电子科技大学生命科学与技术学院,神经信息教育部重点实验室,中国,611731
  • 出版日期:2023-08-26 发布日期:2023-09-08

  • Online:2023-08-26 Published:2023-09-08

摘要: 目的:利用大脑功能磁共振成像信号解码视知觉内容是脑机交互领域的重要研究课题。国内外关于静态图像的视知觉脑信息解码研究较多,但对动态视频的视知觉脑信息解码研究较少。动态感知和信息整合是人类认识世界的基本形式,研究动态视觉信息的神经编解码机制更有意义。本文以动态视频为视觉刺激,拟基于扩展卷积长短时记忆网络,对动态视频的脑信息进行分类解码研究,进一步探索大脑活动模式与动态视觉刺激的映射关系。
方法:本研究首先设计了三个fMRI实验, 即视网膜拓扑实验、高级视觉脑区定位实验和动态视频脑信息解码实验,然后根据视觉信息整合机制,提出了一个基于扩展卷积长短时记忆网络(Dilated Convolution Long and Short Term Memory, DC-LSTM)的动态视频脑信息分类解码模型,最后分析了不同扩展系数和不同时间尺度融合下的动态视频脑信息分类解码性能。
结果:具有信息整合能力的扩展卷积长短时记忆网络可以提取与刺激类别更相关的脑信息,从而获得更优的解码性能。对于中短时间序列的脑信号,当时间整合尺度为4时解码性能最佳。另外,不同脑区解码性能比较表明,高级视觉皮层具有更强的动态信息整合能力。
结论:扩展卷积长短时记忆网络具有良好的时间信息整合能力,能较好地对动态视频诱发的脑信息进行分类解码。

关键词: 脑解码, 动态视频, 扩展卷积长短时记忆网络