CIN 计算智能和神经科学 1687 - 5273 1687 - 5265 Hindawi 10.1155 / 2019/3807670 3807670 评论文章 混合脑-机接口的进步:原理、设计和应用 吉娜 Shuqing https://orcid.org/0000 - 0002 - 7576 - 6743 Jiahui 门敏 Hyun J。 华南师范大学 广州510631 中国 scnu.edu.cn 2019年 8 10 2019年 2019年 20. 06 2019年 09年 09年 2019年 17 09年 2019年 8 10 2019年 2019年 版权©2019李吉娜et al。 这是一个开放的文章在知识共享归属许可下发布的,它允许无限制的使用,分布和繁殖在任何媒介,提供最初的工作是正确的引用。

传统的脑机接口(BCI)系统已经面临两个基本问题:缺乏高检测性能和控制命令的问题。为此,研究人员提出了一个混合的脑-机接口(hBCI)来应对这些挑战。本文主要论述了研究进展hBCI hBCI和评论三种类型,即hBCI基于多个大脑模型,多重hBCI, hBCI基于多通道信号。通过分析的一般原则、模式设计,实验结果,优点,和应用最新的hBCI系统中,我们发现使用hBCI技术可以提高BCI的检测性能和实现multidegree /多功能控制,显著优于单模好像。

中国国家自然科学基金 61876067 广州珠江S和T新星计划 201710010038 广东省自然科学基金 2014年a030310244
1。介绍

脑机接口(BCI)是一种技术,将大脑活动产生的信号转化为控制信号没有周围神经和肌肉的参与和使用这些信号来控制外部设备( 1]。近年来,BCI吸引了越来越多的关注来自学术界和公众由于其潜在的临床应用。例如,BCI可以提供增强或修理电机功能,可以很大的帮助患者严重的运动障碍。最常用的nonimplanting大脑信号的提取方法,包括功能性磁共振成像(fMRI)、脑磁图描记术(MEG)、脑电图(EEG)和功能性近红外光谱(fNIRS) [ 2]。尽管脑电图低信噪比和空间分辨率,它已经广泛用于BCI由于noninvasiveness、可移植性、成本低、性能好,实时响应和技术需求低于其他大脑信号。本文主要描述了BCI基于脑电图。因为它使得基于脑电图的大脑模型用于混合bci通常包括P300视觉诱发电位法韦尔和Donchin提出的1988年( 3),steady-state-evoked潜力(如稳态视觉诱发电位(SSVEP)) ( 4)和事件相关去同步/同步(ERD / ERS)所产生的运动想象(MI) [ 5]。

因为它使得基于脑电图传统BCI通常仅仅依赖一个单信号输入(如脑电图、肌电图(EMG)和electro-oculogram(小城镇)),单一的感官刺激(如视觉,听觉,触觉),或单一的大脑模式(如上述P300电位和SSVEP的)。单模BCI系统范式设计取得了很大的进步,大脑信号处理算法,和应用程序。然而,这些BCI系统已经面临多重挑战,包括信息传递率低(也是),低人机适应性、高动态/大脑信号的非平稳 6, 7]。在这里,我们主要考虑两个基本的挑战和引入混合BCI技术旨在解决这些挑战:

Multidegree /多功能控制:Multidegree /多功能控制是必要的对于许多设备,如轮椅机器人,或假肢。例如,轮椅控制包括速度、方向,启动/停止功能。然而,传统很难简单BCI生成有效的多个控制信号( 8]。

改善检测性能:多年来,尽管许多一直努力改善BCI的检测性能,分类精度的检测性能而言,信息传输速率(ITR),和假阳性率(玻璃钢)仍然远离实践在许多应用程序中,尤其是对病人。大约有13%的用户健康遭受BCI文盲,不达到标准控制BCI应用程序( 9]。此外,用户可接受性和复杂性的BCI系统应该作为重要的性能标准。

克服上述两个基本的挑战,一些研究人员提出了一个混合BCI (hBCI)。如埃里森所述 8),一个hBCI系统由一个BCI系统和一个插件系统,可第二个BCI系统,但设计比传统的BCI来执行特定目标。hBCI的主要目的是为了克服现有的传统的BCI系统的局限性和缺点。摘要最近的进展综述了hBCIs来说明hBCI技术可以实现来解决这些挑战。混合bci更新和扩展的定义,和三个主要类型的hBCIs设计。每种类型的混合BCI,原则是总结和几个代表混合BCI系统强调通过分析范式设计,控制方法和实验结果。最后,hBCI未来的前景和研究方向进行了讨论。

2。混合BCI概述

尽管hBCI的概念出现在2010年之前,其发展已成为近年来越来越快速。基于搜索引擎“网络科学”,和title-abstract-keyword((“脑机接口”或“BCI”)和(“混合”或“多通道”),期刊论文的数量在2010年之前发现只有三个。然而,这个数字上升到148年和293年两个时期的2010 - 2014和2015 - 2019年,分别。很明显,出版物的数量hBCI近年来发展迅速。注意,这些研究只单BCI结合功能和算法也可以提高性能被排除在外。事实上,“混合BCI”和“多通道BCI”是两个高度相关的概念。李等人。 9甚至认为“混合BCI”和“多通道BCI”BCI相同的可互换的术语定义。

Pfurtscheller et al。 10)认为,除了不同bci的简单组合,hBCI的类型应该满足以下四个条件:(1)直接来自大脑的活动;(2)至少有一个大脑信号采集方法应该用于捕获这个活动,和大脑的信号采集方法的形式可以是电,磁,或血流动力学变化;(3)信号必须实时处理/在线建立大脑和计算机之间的通信来生成控制命令;(4)必须提供反馈结果显示大脑活动进行交流沟通和控制。

hBCI系统的信号流图中描述的一样 1,其中包括两个阶段的脑信号处理。(1)信号采集,信号可以从多个输入信号(例如,脑电图和NIRS)或多个大脑模式(例如,P300和SSVEP的),由多种感觉的刺激诱发(例如,视听刺激)。(2)信号处理,对于一个hBCI系统只能提供一个变量/控制信号或输出控制信号。在前一种情况中,当多个大脑模式或涉及多个信号时,通常需要数据融合的功能或决策水平。在后一种情况下,多个控制信号可能分别被不同的大脑系统检测到的模式,和这些大脑的融合模式通常是没有必要的。如图 1,hBCI可以分为三个大类:

hBCI基于多个大脑模式:它使用至少两种大脑模式(例如,P300和SSVEP或MI和P300)。在这种类型的hBCI,多个大脑模式是由一个单一的感官刺激。几项研究已经表明,混合集成与多通道刺激有可能增强大脑模式,这可能有利于BCI性能( 11]。

hBCI多种感觉的刺激:它的大脑模式同时由多个感官刺激引起,如视听刺激。在这个hBCI,一个或多个大脑模式是由多种感觉的刺激。一些研究人员认为多种感觉的好像可以提供更多样化的和用户友好的范例为控制和反馈 12]。

hBCI基于多个信号:hBCI,两个或两个以上的输入信号通常结合混合BCI系统,如EEG、MEG, fMRI, fNIRS,小城镇或肌电图。不同的大脑信号有不同的信号特征,可用于不同的功能。

混合信号流的脑机接口在本文讨论。

最先进的上述三种类型的hBCI介绍在下面几节中,包括他们的一般原则,刺激范式,控制方法,相应的实验结果,优势。

3所示。hBCI基于多个大脑模式

hBCIs结合多个大脑模式的第一课,如P300、SSVEP的,和MI。它被设计为各种不同的应用程序,如拼字( 13),空闲状态检测( 14],矫正器[ 15)、轮椅导航和控制计算机组件,包括二维(2 d)光标 16,鼠标 17),或邮件客户端 18]。表 1列出了代表hBCI近年来多个大脑模式的应用。在本节中,我们主要描述hBCI基于P300和SSVEP, hBCI基于MI和SSVEP hBCI基于MI和P300。

代表hBCI多个大脑模式的应用程序。

参考 混合模式 应用程序 分类器 命令 精度(%) 改进
( 19] SSVEP的P300, MI 人形机器导航 CCA 6 P300: 84.6,SSVEP: 84.1 更好的导航性能的命令和探索
( 20.] SSVEP, P300 轮椅控制停止命令 支持向量机 2 > 80 更高的检测精度和较低的响应时间
( 21] SSVEP, P300 目标选择拼字 SW-LDA 9 93.3 更有效的目标歧视
( 22] SSVEP, P300 光标控制 支持向量机 9 > 90 性能更高的精度和更好的命令
( 11] SSVEP, P300 选择多个选项 CCA,乔治。 4 P300: 99.9SSVEP: 67.2 更好的性能和用户友好
( 23] P300, SSVEP的 拼字的人 SW-LDA 36 93.85 更高的精度
( 24] MI, SSVEP的 在MI-SSVEP玩俄罗斯方块游戏模式 LDA, CSP, CCA 4 心肌梗死:87.01SSVEP: 90.26 更高的精度
( 25] MI, SSVEP的 混合BCI系统的MI和SSVEP的 LDC 2 85.6±7.7 更好的分类性能
( 9] MI, SSVEP,视觉和听觉 轮椅控制 支持向量机 6 - - - - - - Multidegree控制命令
( 26] MI, SSVEP的 混合BCI系统与反馈 乔治。 2 ≥83 更好的MI训练性能
( 27] SSVEP的,小姐 控制命令 CCA 5 心肌梗死:93.3SSVEP的:89 为用户更好的性能和从容
( 16] MI, P300 二维的光标控制 支持向量机 2 > 80 Multiple-degree控制
( 17] P300、心肌梗死 BCI基于鼠标的web浏览器 支持向量机 3 93.21 Multidegree可行的BCI鼠标控制
( 28] P300、心肌梗死 BCI轮椅与方向和速度控制 乔治。 4 83.10±2.12 方向和速度控制
3.1。P300和SSVEP-Based hBCIs

都可以引起P300电位和SSVEP的视觉刺激,让受试者唤起大脑模式通过执行视觉注意力的任务没有额外的心理负荷。P300和SSVEP的特性位于不同的域(时域与频域),和两个大脑模式有明显的独立性。性能的提高可能导致利用率的P300和SSVEP的特性。脑电图的特性可能会提供额外的信息,促进目标的分类和不属预定目标的。

Bi et al。 22)提出了一个基于SSVEP的混合范式和P300为开发speed-direction-based光标控制。在这项研究中,刺激P300是分布在上部和下部的屏幕,和检测SSVEP的刺激(顺时针或逆时针旋转控制装置)是显示在屏幕的左右。结果使用方法基于支持向量机的分类显示,hBCI的准确性高于90%。

锅等。 29日]发现意识在八意识障碍患者(DOC)通过使用混合范式SSVEP和P300。指令后,左边和右边照片闪烁在黑色背景与固定的6.0和7.5赫兹的频率,分别唤起病人的SSVEP的。同时,每两个相框的随机唤起P300的5倍,每次出现持久的200 ms和连续两个表象之间的时间间隔是800 ms。使用的BCI系统的特点P300和SSVEP的检测病人注意到照片。8例(四个植物人(VS),三个最小意识状态(MCS),和一个闭锁综合症(LIS)参加了实验。使用基于svm分类器,一个与病人,一个MCS病人,和一个LIS病人能够选择自己或他人的照片(分类准确性,66% - -100%),这表明病人命令可以使用一个混合了BCI,进一步证明了他们有一定的认知能力和意识。

3.2。MI - SSVEP-Based hBCIs

有四个理由把SSVEP和MI: (1) SSVEP——MI-related大脑模式同时产生;(2)SSVEP的诱发电位,可以稳定地检测到不熟悉的学科几乎没有训练,但是对于大多数新用户,很难适应的过程完成MI任务;(3)SSVEP可以检测到由一个审判基于EEG数据,检测不需要一个平均的过程;(4)非可视培训将阻挠科目,而SSVEP的提供了一个可能的解决方案来吸引对象参加MI的任务。

基于上述原则,Yu et al。 26)结合SSVEP和MI MI培训提供有效的连续反馈在24科目。最初,该分类器分配一个更大的重量SSVEP的为了得到正确的反馈训练的开始。随着训练的推移,参与者减少了视觉注意力SSVEP刺激但保持持续关注MI心理任务。当受试者适应节奏活动,MI的分类器的重量变化。结果表明,可以用来改善hBCI MI培训和生产后的大脑模式只有五个交易日(约1.5小时)。

3.3。MI - P300-Based hBCIs

以脑波图为基础的BCI系统的一个重要方面是多维控制,涉及多个独立的控制信号。这些控制信号可以来自多个大脑模式,如心肌梗死和P300。P300是可靠的大脑模式用于生成离散控制输出命令,和MI更有效生成顺序控制命令。

李和他的同事们( 16]提出hBCI结合MI大脑模式和P300电位2 d光标控制和目标选择。GUI如图 2,圆和正方形代表光标和目标,分别与指针的初始位置和初始位置和颜色(绿色或蓝色)的目标是随机提供。三个“上升”按钮,三个“下降”按钮,两个“停止”按钮flash在随机顺序唤起P300电位。用户的任务是将光标移动到目标,然后选择或拒绝绿/蓝的目标。用户的控制策略描述如下。用户可以移动光标到左边或者右边,想象自己的左边或右边运动,分别,用户可以移动光标向上或向下通过关注的三个闪烁的“向上”或“向下”按钮来唤起P300电位。如果用户不打算在垂直方向移动光标,然后用户可以关注的两个“停止”按钮。

GUI的2 d光标控制和目标选择hBCI系统[ 16],它结合了MI和P300的潜力,包括一个光标(黑圈),一个对象(绿色广场),和八个闪烁的按钮(三个“,”三个“,”和两个“停止”按钮)。

为了进一步实现BCI鼠标,目标选择和拒绝功能是必需的。具体地说,一次鼠标点击感兴趣的目标(绿色广场),用户可以选择目标通过集中关注一个闪烁的“停止”按钮,同时维护一个空闲状态的运动图像。如果目标是不感兴趣的(蓝色方块),用户可以通过继续拒绝想象左边或右边运动没有关注任何闪烁的按钮。

2 d光标控制的算法包括两个部分:P300检测垂直运动控制和motor-imagery检测水平运动控制的细节呈现在 19]。P300检测的信号处理过程包括三个阶段:低通滤波,P300特征提取和支持向量机分类。对于motor-imagery检测,信号处理阶段包括常见的平均引用(汽车)空间滤波,带通滤波的具体μ节奏带8—13赫兹(),基于CSP的特征提取算法,支持向量机分类。目标选择或拒绝的算法是基于P300电位的混合特性和MI。心肌梗死后提取P300电位的特性和使用相同的算法上面所描述的那样,一个混合的特征向量为每个审判是由连接MI的特征向量与P300电位的特征向量,然后送入支持向量机进行分类。

11名健康受试者参加了在线实验,其中包括80年的一次试验为每个主题。每个试验包括两个连续的任务。第一个任务期间,受试者被要求将光标移动到目标,提出了在随机位置在屏幕上。光标击中目标后,奉命执行第二个任务的主题选择或拒绝目标根据目标的颜色选择和蓝色拒绝(绿色)。第二个任务的时间间隔设置为2。在所有科目中,一个试验的平均时间是18.96秒,成功试验的平均精度为92.84%,和目标选择的平均精度,成功地将光标移动到的目标是93.99%。此外,一些数据也为离线分析收集来演示P300电位和MI混合特性的优势为目标选择/拒绝与P300电位的使用或MI特性。实验结果表明,使用混合特性的准确性明显高于只使用MI或者P300电位特性(混合特点:83.10±2.12%;MI特点:71.68±2.41%;P300特点:80.44±1.82%)。 Based on the BCI cursor, Long et al. [ 28基于MI)提出了一个混合BCI范式和P300电位实际操作轮椅通过提供方向(左或右)和速度控制(加速和减速)命令与5科目。

所有这些混合动力系统有三个优势。首先,两个独立的控制信号生成基于MI和P300的潜力。第二,用户可以从任何位置移动光标到随机定位目标。第三,混合动力控制策略使用MI和P300电位提供更好的识别性能比使用MI-only或P300-only控制策略。

4所示。多重hBCIs

人类有多个感官提供途径处理信息的现实。集成多种感官刺激增强了自上而下的注意,和这些增强效应可能有利于提高BCI系统的性能。纳入考虑,hBCI提出了基于视听和视觉和触觉,双峰的刺激被用来提高系统性能。表 2列出了近年来代表多重hBCIs的应用。

多重hBCIs代表的应用。

参考 混合模式 应用程序 分类器 命令 精度(%) 改进
( 30.] P300、视觉、音频 P300视听拼字 正规化线性LR - - - - - - > 80 改善性能
( 31日] 视觉,听觉 意识检测患者的医生 支持向量机 2 > 64 医生患者更好的性能和可行性
( 32] 视觉,听觉 视听拼字 乔治。 30. 87.7(机会水平< 3%) 更好的BCI性能
( 33] 视觉,听觉 意识检测 支持向量机 2 95.67 更好的性能在auditory-only和纯视觉系统
( 34] 听觉,触觉,视觉,P300 视觉saccade-independent BCI BLDA 4 88.67 更好的网络性能
( 35] 听觉,触觉,P300 触觉和骨传导BCI SW-LDA 6 70年 更高的分类精度
( 36] 音频、触觉 机器人姿态 FGMMs,支持向量机 10 92.75 更好的性能在框架
4.1。视听hBCIs

Belitski et al。 30.)提出了一个离线audiovisual-based P300拼字和相应的数据分析结果。7个健康受试者的研究表明,在视听条件P300反应强度高于独自在视觉和听觉的条件下。同样的,et al。 32]探索平行拼写者为健康受试者BCI无关的目光之后,在听觉和视觉领域是相互独立的。结果表明,15个用户可以在线拼写,平均准确率为87.7%。这些现有的研究结果表明,视听集成可能是一个潜在的方法来增强大脑模式,进一步提高BCI性能。王等人。 33)提出了一个新颖的视听BCI系统,基于time-synchronous视觉和听觉刺激。在这个视听BCI的GUI中,有两个数字按钮(两个数字随机从0到9)位于左右,和两个扬声器放置横向到monitor。两个按钮以另一种方式。很多按钮时视觉上增强,相应的提出了从口语侧议长。通过这种方式,用户提供暂时的,空间,和语义一致的视听刺激持续300毫秒,interstimulus间隔是随机从700年到1500 ms。十个健康受试者参与了实验。实验由三个交易日的管理在一个随机的顺序,相应的纯视觉,auditory-only,视听条件。在每个会话,10个试验的主题首先执行一个训练,然后30试验的测试运行。在线的平均精度视听、纯视觉和auditory-only会议对所有健康受试者为95.67%,86.33%,和62.33%,分别。视听BCI明显优于纯视觉和auditory-only好像。 This audiovisual hBCI system was then applied to the consciousness detection of 7 patients with DOC. The experimental results indicated that the audiovisual BCI can provide more sensitive results than the behavioral observation scale.

4.2。Audio-Tactile hBCIs

上面的双峰BCI需要专注于刺激视觉互动和反馈,这限制了它们的适用性与良好的愿景和完整的注视控制用户。由于用户不需要视觉交互操作时听觉或触觉BCI,双峰听觉/ tactile-based方式允许视觉扫描的BCI无关。阴et al。 34)提出了一个双模P300 BCI相同的方向,同时提出了听觉和触觉刺激相同的空间方向。资助和森 3511)研究了触觉和听觉BCI用户提供视觉和听觉障碍。

这些现有的结果揭示了BCI auditory-tactile的几个优点。首先,auditory-tactile双模BCI具有更好的整体系统性能比听觉或触觉单模P300 BCI。其次,在视觉计算机应用,auditory-tactile hBCI提供一个有吸引力的目标感觉领域的可能性可以诱发潜在的不依赖视觉刺激,虽然性能通过使用这个系统是低于BCI依赖目光转移。第三,视觉和触觉hBCI是另一种为用户提供视力下降。

5。hBCI基于多通道信号

hBCI系统可以使用多通道信号,构造包括EEG、MEG, fMRI,小城镇,fNIRS,肌电图。不同的大脑信号有不同的信号特征,可用于不同的功能。最近,几个混合bci基于多个信号已报告在以下。表 3列出了代表hBCI应用近年来基于多通道信号。

代表hBCI多通道信号的应用。

参考 混合模式 应用程序 分类器 命令 精度(%) 改进
( 37] 肌电图,脑电图 一个运动图像混合BCI拼字 GMM 2 最终用户:91健全的用户:94 更好的性能在命令的准确性
( 38] 脑电图、肌电图 家庭环境控制系统 CCA 4 96.3 更高的控制精度、安全性和交互性
( 39] 脑电图,此次 艾滋病复苏 基于“增大化现实”技术 4 62.28 更好控制辅助设备
( 40] 脑电图,此次 移动机器人控制 乔治。 9 87.3 减少最好的完成时间
( 41] 脑电图,此次 混合拼字的系统 乔治。 1 97.6 更好的性能和可用性
( 42] fNIRS、脑电图、眼动 控制四轴飞行器在线 乔治。 8 fNIRS: 75.6脑电图:86 在解码精度高
( 43] 脑电图,fNIRS 手运动和认可 乔治。 2 94.2 减少检测fNIRS延迟时间
( 44] 脑电图,fNIRS 左边和右边运动想象 戴斯。莱纳姆: 2 - - - - - - 减少响应时间
( 45] 脑电图,NIRS 解码的四个动作 乔治。 5 > 80 更高的分类精度
( 46] 脑电图,NIRS 精神状态识别 6 65.6 在精神状态更好的性能分类
( 47] EEG、MEG 左边和右边运动图像 CSP, LR 2 梅格:70.6脑电图:67.7 更好的性能良好的受试的准确性
( 48] 脑电图,NIRS 分类心算、MI和空闲状态 sLDA 3 82.2±10.2 更高的分类精度
( 49] EEG、MEG 主体间左边和右边运动图像的解码 LR、L2 1-norm正规化 4 梅格:70脑电图:67.7 更高的精度受试
5.1。脑电图,EMG-Based hBCIs

里氏et al。 50)提出了一个hBCI结合脑电图和肌电图。在每个试验中,12名健康受试者被要求重复练习五秒钟用左手还是右手(握着拳头的手)基于视觉线索(左箭头或右)。研究人员分别加工和分类脑电图和肌电图信号,然后融合。典型变量分析是用于选择科目的特点,最大化之间的分离性不同的任务,和稳定的特征是由高斯的交叉验证分类器基于训练数据。由此产生的特性给出了阈值,归一化,并基于最大距离分类科目的方式。最后,贝叶斯方法用于融合的概率两个分类器来生成控制信号。一个脑电图活动的准确性为73%,单独的EMG活动是87%。然而,hBCI的准确性提高至91%。此外,模拟疲劳肌肉、肌电图的振幅通道减少在操作过程中(从10%到100%)和脑电图活动越来越重要在融合数据作为EMG肌肉变得更累。结果显示一个脑电图,EMG-based BCI系统的显著优势。

5.2。脑电图,EOG-Based hBCIs

最近,一些研究结合脑电图和小城镇建设一个hBCI。因为许多残疾人能够控制自己的眼球运动,此次信号是一个适当的选择对于许多用户的BCI系统。李等人。 41)采用基于EEG-EOG hBCIs拼字系统,打字速度快。hBCI系统由传统ERP-based拼字,EOG-based命令探测器和视觉反馈模块。在线ERP拼字被用来计算所有候选字符的分类概率从脑电图时代。概率最高的特点被选为基于概率排序的视觉反馈。小说拼字系统的准确性为97.6%,及其ITR 39.6±13.2比特/分钟20个参与者。结果表明,这脑电图,EOG-based拼字的更好的性能比传统的ERP-based拼字。

5.3。其他hBCIs基于多通道信号

其他混合bci基于多个信号也被报道。一种充分利用空间和时间信息的大脑活动是结合fMRI BCIs脑电图。EEG-fMRI结合BCI的一个关键优势是,脑电图可以提供在线缓慢皮层电位(SCP)反馈给受试者。它也揭示了基本的心理生理机制,比如当地的反应和SCP的变化之间的关系,这有助于开发新的培训程序和模式。尽管fNIRS可怜的空间分辨率与功能磁共振成像相比,便携式,反映了大脑的血流动力学反应活动。

作者在 45)已经证明MI-based BCI的性能被梳理脑电图和NIRS明显改善。它允许那些不能仅因为它使得基于脑电图运行BCI来实现有意义的分类率。脑电图很容易扭曲的尺度extracerebral组织,尽管梅格不是只要电动尺度同心的影响。因此,梅格信号比相应的当地EEG信号,可以提供更多的空间信息。在[ 47],梅格和脑电图信号生成的感觉运动皮层被用来指数三个瘫痪患者的手指运动。

6。讨论和结论

本文在几个hBCI类型和不同刺激的设计及其性能分析。首先,我们总结了三类hBCIs: hBCIs基于多个大脑模式,多重hBCIs, hBCIs基于多通道信号。为每种类型的hBCIs,我们回顾了几个具有代表性的混合BCI系统,包括设计原则、刺激范式,控制方法,实验结果和相应的优势。在下面,我们将精心制作的结论关于混合BCI系统的好处和未来的研究。

后考虑三种类型的混合BCI和各自的应用,我们可以总结的优点混合BCI在两个方面。首先,hBCI系统只能提供单个控制信号或输出提高分类的性能。两个主要的策略带来这些改进如下:(1)多个大脑模式的组合(如心肌梗死、P300和SSVEP的)或多个信号的融合(如脑电图、肌电图、小城镇和检测技术可以在执行功能水平;和(2)增强大脑模式通过提供多种感官刺激,如视听刺激。第二,当多个控制信号或输出可用,hBCI系统实现多对象控制的企图。摘要多维或功能基于混合bci和一些应用程序系统的控制方法。两个主要方法可以采用:(1)结合多个大脑模式获得多个独立的控制信号,如2 d光标控制基于MI和P300和整形控制基于MI和SSVEP的;(2)使用不同的信号特征来执行不同的功能,如基于EEG此次机器人控制。

在这里,我们考虑一些挑战性的问题进行进一步的研究。

6.1。hBCIs的设计和实现

从用户的角度来看,hBCI系统的复杂性通常高于传统简单的BCI。用户可接受性是一个重要的性能指标,需要仔细考虑hBCI设计和实现。hBCI基于大脑的设计模式,面临的挑战之一就是如何确定大脑模式的最佳组合,以达到期望的目标,可以从用户到用户和组合。例如,它应该考虑长期使用SSVEP和P300会增加视觉疲劳。在设计几个感觉hBCI,面临的挑战是确保所需的大脑模式是由多个感官刺激增强。先前的研究[ 33)发现,结合音频刺激和视觉P300-based BCI的自然口语词汇可以帮助减少脑力劳动的负担。因此,我们可以考虑更多的组合多个涉及听觉和触觉感官刺激模式在未来的研究。hBCI基于多个信号,一个挑战是如何充分利用不同信号的特点来实现最大的改进系统性能。此外,在设计实时hBCI基于脑电图和功能磁共振成像,高噪音,反应迟缓和高维度的脑电图数据(通过功能磁共振成像扫描仪生成),和低时间分辨率的功能磁共振成像数据不可以忽略不计。

6.2。大脑机制hBCIs

hBCI系统可能涉及多个大脑模式,多个感官模式,或多模信号输入。确保这些组件是有效地协调hBCI系统,有必要研究相关的大脑机制。例如,跨通道集成/大脑中交互可以提供多种感觉的BCI的大脑机制。然而,很少有研究迄今为止hBCI的大脑机制。

6.3。临床应用

直到现在,大多数hBCI系统(如BCI浏览器和BCI轮椅)是为健康的主题。它需要延伸到病人和扩展他们的临床应用价值。近年来,越来越多的hBCIs已经用于临床应用,如偏瘫患者的康复和治疗( 51, 52和医生 53]。在设计这些hBCI系统对病人时,它们之间的区别和健康受试者需要充分考虑。在某些情况下,甚至一个单一的病人设计是必要的。hBCI病人与医生的应用才刚刚开始,和hBCI-based通信和康复是我们未来研究的一个重要话题。此外,各种智能技术,如自动导航系统和智能机器人,结合BCI。这种组合不仅大大减少了用户的工作量,也使BCI系统更加可靠、灵活、强大的允许主题关注最终的目标,忽视相关的底层细节的执行行动。这对患者是有前途的识别和控制能力较低。因此,未来的研究应该关注这样的系统开发的病人。

的利益冲突

作者宣称没有利益冲突有关的出版。

确认

这项研究得到了国家自然科学基金(批准号61876067),广州的珠江S和T新星计划(201710010038),和广东省自然科学基金(批准2014 a030310244)。

沃尔波 j . R。 Birbaumer N。 麦克法兰 d . J。 Pfurtscheller G。 沃恩 t M。 脑-机接口的通信和控制 临床神经生理学 2002年 113年 6 767年 791年 10.1016 / s1388 - 2457 (02) 00057 - 3 2 - s2.0 - 0036271135 Fazli 年代。 Mehnert J。 Steinbrink J。 通过混合NIRS-EEG大脑计算机接口增强性能 科学杂志 2012年 59 1 519年 529年 10.1016 / j.neuroimage.2011.07.084 2 - s2.0 - 80054090365 法韦尔 l。 Donchin E。 说从你的头顶:对精神假肢利用与事件相关脑电位 脑电图与临床神经生理学 1988年 70年 6 510年 523年 10.1016 / 0013 - 4694 (88)90149 - 6 2 - s2.0 - 0023756085 Mullerputz g·R。 谢勒 R。 Neuper C。 Pfurtscheller G。 稳态躯体感觉诱发电位:适合脑-机接口的大脑信号? IEEE神经系统和康复工程 2006年 14 1 30. 37 10.1109 / tnsre.2005.863842 2 - s2.0 - 33644985847 Pfurtscheller G。 洛佩斯-达-席尔瓦 f . H。 与事件相关的脑电图/梅格同步和失调:基本原则 临床神经生理学 1999年 110年 11 1842年 1857年 10.1016 / s1388 - 2457 (99) 00141 - 8 2 - s2.0 - 0032829330 在香港 k . S。 m·J。 混合脑机接口技术提高分类精度和数量的增加命令:复习一下 Neurorobotics前沿 2017年 11 35 10.3389 / fnbot.2017.00035 2 - s2.0 - 85026484854 Vučković 一个。 赛普维达 F。 基于想象运动的两级四级BCI的左派和右派的手腕 医学工程与物理 2012年 34 7 964年 971年 10.1016 / j.medengphy.2011.11.001 2 - s2.0 - 84864555973 埃里森 b Z。 Graimann B。 Pfurtscheller G。 埃里森 B。 对无处不在的好像 脑-机接口:革新人机交互 2010年 柏林,德国 施普林格 357年 387年 10.1007 / 978 - 3 - 642 - 02091 - 9 - _19 J。 H。 l 评估和应用混合大脑计算机接口的轮椅并行控制与水轮机的自由 国际期刊的神经系统 2014年 24 4 1450014 10.1142 / s0129065714500142 2 - s2.0 - 84898066286 Pfurtscheller G。 埃里森 b Z。 布伦纳 C。 混合BCI 神经科学前沿 2010年 4 3 10.3389 / fnpro.2010.00003 埃里森 b Z。 J。 Y。 X。 four-choice混合P300 / SSVEP的BCI提高准确性 脑-机接口 2014年 1 1 17 26 10.1080 / 2326263 x.2013.869003 2 - s2.0 - 84905709212 瓦格纳 i . C。 戴利 我。 Valjamae 一个。 非视觉和多种感觉的BCI系统:现在和未来 对实际的脑-机接口 2012年 柏林,德国 施普林格 10.1007 / 978 - 3 - 642 - 29746 - 5 - _19 恐慌 r . C。 Puthusserypady 年代。 太阳 Y。 异步P300 BCI SSVEP-based控制状态检测 IEEE生物医学工程 2011年 58 6 1781年 1788年 10.1109 / tbme.2011.2116018 2 - s2.0 - 79956345285 Y。 J。 J。 多通道bci:目标探测、多维控制和评估患者意识障碍的意识 IEEE学报》 2016年 104年 2 332年 352年 10.1109 / jproc.2015.2469106 2 - s2.0 - 84944545362 Pfurtscheller G。 Solis-Escalante T。 Ortner R。 Linortner P。 Muller-Putz g·R。 自学操作的SSVEP-based矫正法和没有想象的“大脑开关:“对混合BCI可行性研究 IEEE神经系统和康复工程 2010年 18 4 409年 414年 10.1109 / tnsre.2010.2040837 2 - s2.0 - 77949876759 Y。 J。 T。 因为它使得基于脑电图的BCI系统二维光标控制结合μ/β节律和P300潜力 IEEE生物医学工程 2010年 57 10 2495年 2505年 10.1109 / tbme.2010.2055564 2 - s2.0 - 77956932514 T。 Y。 J。 Z。 BCI鼠标上网 《神经工程 2012年 9 3 036012年 10.1088 / 1741 - 2560/9/3/036012 2 - s2.0 - 84861774858 T。 Y。 J。 F。 一个混合脑-机基于接口的邮件客户端 计算和数学方法在医学 2013年 2013年 9 750934年 10.1155 / 2013/750934 2 - s2.0 - 84877276016 B。 年代。 一种低成本的基于脑电图系统混合仿人机器人导航和识别的脑机接口 《公共科学图书馆•综合》 2013年 8 9 e74583 10.1371 / journal.pone.0074583 2 - s2.0 - 84883383832 Y。 J。 F。 Z。 一个混合BCI系统结合P300和SSVEP的轮椅控制及其应用 IEEE生物医学工程 2013年 60 11 3156年 3166年 10.1109 / TBME.2013.2270283 2 - s2.0 - 84886682633 M。 H。 王ydF4y2Ba B。 T。 Z。 D。 混合BCI拼字的范式结合P300电位和SSVEP的屏蔽特性 《神经工程 2013年 10 2 026001年 10.1088 / 1741 - 2560/10/2/026001 2 - s2.0 - 84875854610 Bi l 丽安 J。 K。 R。 Y。 速度和策略光标控制系统与P300和SSVEP的 生物医学信号处理和控制 2014年 14 126年 133年 10.1016 / j.bspc.2014.07.009 2 - s2.0 - 84905686520 E。 Zeyl T。 萨博 R。 T。 D。 Z。 混合的脑机接口基于P300的融合和SSVEP的分数 IEEE神经系统和康复工程 2015年 23 4 693年 701年 10.1109 / tnsre.2015.2403270 2 - s2.0 - 84936871033 Z。 Y。 M。 Y。 E。 Z。 对混合BCI基于运动图像和SSVEP的游戏模式 国际期刊的人机交互 2019年 35 3 197年 205年 10.1080 / 10447318.2018.1445068 2 - s2.0 - 85043303825 Ko L.-W。 Ranga 美国美国K。 科马罗夫 O。 c c。 开发单通道混合使用运动图像和SSVEP的BCI系统 医疗保健工程 2017年 2017年 7 3789386 10.1155 / 2017/3789386 2 - s2.0 - 85028361282 T。 J。 F。 增强运动表象训练使用混合BCI和反馈 IEEE生物医学工程 2015年 62年 7 1706年 1717年 10.1109 / tbme.2015.2402283 2 - s2.0 - 84933556045 F。 D。 W。 Z。 因为它使得基于脑电图的设计多通道混合BCI系统与视觉伺服模块 IEEE自治精神的发展 2015年 7 4 332年 341年 10.1109 / tamd.2015.2434951 2 - s2.0 - 84961857261 J。 Y。 H。 T。 J。 F。 混合大脑计算机接口控制方向和速度的模拟或真实的轮椅 IEEE神经系统和康复工程 2012年 20. 5 720年 729年 10.1109 / TNSRE.2012.2197221 2 - s2.0 - 84866114575 J。 Q。 Y。 检测患者的意识障碍的意识使用混合脑机接口 《神经工程 2014年 11 5 056007年 10.1088 / 1741 - 2560/11/5/056007 2 - s2.0 - 84907292318 Belitski 一个。 法夸尔 J。 Desain P。 P300视听拼字 《神经工程 2011年 8 2 025022年 10.1088 / 1741 - 2560/8/2/025022 2 - s2.0 - 79954477389 J。 Q。 H。 Emotion-related意识因为它使得基于脑电图检测意识障碍患者通过一个BCI系统 人类神经科学前沿 2018年 12 198年 10.3389 / fnhum.2018.00198 2 - s2.0 - 85054649378 一个 X。 以下范围 J。 D。 Blankertz B。 探索组合gaze-independent听觉和视觉刺激的脑-机接口 《公共科学图书馆•综合》 2014年 9 10 e111070 10.1371 / journal.pone.0111070 2 - s2.0 - 84908599463 F。 Y。 J。 错误:视听感知检测脑机接口及其应用 科学报告 2015年 5 1 9962年 10.1038 / srep12592 2 - s2.0 - 84940028216 E。 Zeyl T。 萨博 R。 D。 Z。 T。 一个auditory-tactile视觉saccade-independent P300脑机接口 国际期刊的神经系统 2016年 26 1 1650001 10.1142 / s0129065716500015 2 - s2.0 - 84953363961 资助 t M。 H。 触觉和骨传导听觉的大脑计算机视觉和听觉受损的用户界面 神经科学杂志》上的方法 2015年 244年 45 51 10.1016 / j.jneumeth.2014.04.010 2 - s2.0 - 84899611229 Z。 H。 人手运动分析与多种感觉的信息 IEEE / ASME举办 2014年 19 2 456年 466年 10.1109 / tmech.2013.2240312 2 - s2.0 - 84895919785 Perdikis 年代。 里氏 R。 威廉姆森 J。 布伦特里的临床评价运动图像混合BCI拼字 《神经工程 2014年 11 3 036003年 10.1088 / 1741 - 2560/11/3/036003 2 - s2.0 - 84899462576 X。 Z。 Y。 G。 T。 妞妞 H。 混合使用SSVEP BCI-based环境控制系统和肌电图信号 2018年世界医学物理与生物医学工程大会 2019年 2019年 新加坡 施普林格 Soekadar s R。 Witkowski M。 主席 N。 Birbaumer n·j·b·E。 一个脑电图/ EOG-based混合brain-neural计算机交互(BNCI)系统控制的外骨骼瘫痪的手 生物医学工程 2015年 60 3 199年 205年 10.1515 / bmt - 2014 - 0126 2 - s2.0 - 84931829638 J。 Y。 Cichocki 一个。 Matsuno F。 一种新型小城镇/脑电图混合人机界面采用眼球运动和erp:机器人控制的应用程序 IEEE生物医学工程 2015年 62年 3 876年 889年 10.1109 / tbme.2014.2369483 2 - s2.0 - 84923886818 m . H。 威廉姆森 J。 赢得了 d . O。 Fazli 年代。 s W。 高性能基于EEG-EOG拼写系统与视觉反馈信号 IEEE神经系统和康复工程 2018年 26 7 10.1109 / tnsre.2018.2839116 2 - s2.0 - 85047203780 m·J。 在香港 k . S。 混合EEG-fNIRS-based eight-command BCI解码:应用四轴飞行器的控制 Neurorobotics前沿 2017年 11 6 10.3389 / fnbot.2017.00006 2 - s2.0 - 85014769138 Buccino 答:P。 凯尔 h . O。 Omurtag 一个。 混合EEG-fNIRS异步脑机接口为多个电动机的任务 《公共科学图书馆•综合》 2016年 11 1 e0146610 10.1371 / journal.pone.0146610 2 - s2.0 - 84953889335 齐雅瑞礼 a . M。 Croce P。 Merla 一个。 Zappasodi F。 深度学习的混合EEG-fNIRS脑机接口:应用运动图像分类 《神经工程 2018年 15 3 036028年 10.1088 / 1741 - 2552 / aaaf82 2 - s2.0 - 85047493830 m·J。 在香港 m·J。 在香港 k . s . j .富士康。N。 使用混合解码四个运动方向NIRS-EEG脑机接口 人类神经科学前沿 2014年 8 1 244年 10.3389 / fnhum.2014.00244 2 - s2.0 - 84899704224 胫骨 J。 冯Luhmann 一个。 Blankertz B。 开放获取的数据集脑电图+ NIRS实验分类 IEEE神经系统和康复工程 2017年 25 10 1735年 1745年 10.1109 / tnsre.2016.2628057 2 - s2.0 - 85032892603 Halme h·L。 Parkkonen l Across-subject离线的运动图像解码梅格和脑电图 科学报告 2018年 8 1 10087年 10.1038 / s41598 - 018 - 28295 - z 2 - s2.0 - 85049696269 胫骨 J。 Kwon J。 即时通讯 学术界。 三元混合动力车EEG-NIRS脑机接口的分类的大脑激活模式在心算,运动图像和空闲状态 Neuroinformatics前沿 2018年 12 5 10.3389 / fninf.2018.00005 2 - s2.0 - 85043786763 Halme H.-L。 Parkkonen l Across-subject离线的运动图像解码梅格和脑电图 科学报告 2018年 8 1 10087年 10.1038 / s41598 - 018 - 30241 - y 2 - s2.0 - 85051697084 里氏 R。 Sagha H。 Chavarriaga R。 文澜del R J。 混合的脑机接口基于脑电图仪的和肌活动的融合 《神经工程 2011年 8 2 025011年 10.1088 / 1741 - 2560/8/2/025011 2 - s2.0 - 79954483670 哈桑 M。 Kadone H。 上野 T。 哈达 Y。 山海 Y。 铃木 K。 在偏瘫synergy-based外骨骼机器人控制的可行性 IEEE神经系统和康复工程 2018年 26 6 1233年 1242年 10.1109 / tnsre.2018.2832657 2 - s2.0 - 85046492352 加藤 K。 高桥 K。 Mizuguchi N。 Ushiba J。 在线检测的调幅motor-related脑电图使用锁定放大器失调:与快速傅里叶变换相比,连续小波变换和自回归算法 神经科学杂志》上的方法 2018年 293年 289年 298年 10.1016 / j.jneumeth.2017.10.015 2 - s2.0 - 85032854200 F。 Y。 J。 加强临床沟通评估使用视听BCI意识障碍患者 《神经工程 2017年 14 4 046024年 10.1088 / 1741 - 2552 / aa6c31 2 - s2.0 - 85031691599