最近的技术进步使研究人员收集到大量的脑电图(EEG)信号标记和未标记的数据集。是昂贵和费时的收集标签脑电图数据用于脑机接口(BCI)系统,然而。在这篇文章中,提出了一种新颖的主动学习方法以减少标签的数量,与脑电图数据所需的有效的分类器训练,结合不确定性和代表性在一个极端学习机(ELM)。这种方法后,榆树首次使用分类器选择一个相对较大的一批未标记示例,其不确定性测量通过best-versus-second-best (BvSB)策略。然后每个样本的多样性之间的测量标记的训练数据有限,之前选中的未标记样本,和先前选定的样本之间的相似性来衡量。最后,权衡参数引入到控制信息之间的平衡和代表性样本,这些样本用于建立一个强大的榆树分类器。广泛的实验使用基准和多级汽车图像脑电图数据集来评估该方法的有效性。实验结果表明,新算法的性能超过或一些先进的主动学习算法的匹配。从而表明,提出的方法可以提高分类器的性能和减少训练样本在BCI应用程序的必要性。
一个b年代tr一个ct>脑-机接口(bci)系统,允许用户控制外部设备通过观察大脑活动,不依赖周围神经或肌肉活动
gydF4y2Ba一种方法,有效地应用到训练集有限的情况下主动学习(AL)的引入BCI校准过程。AL查询信息的类标签样本中未标记样本空间最大化的效率学习模型,及其应用大大减少训练样本的复杂性没有任何明显的分类精度损失(
gydF4y2Ba在过去的几十年里,许多监督学习模型作为基线分类器,包括线性判别分析(LDA) (
gydF4y2Ba目前调查打算填补这一空缺通过两种查询AL算法结合榆树在BCI应用程序和测试方法。一个定义良好的、通用的框架主动学习从而发达的方式占信息量和代表性兼职情况。首先,采用不确定性抽样策略选择一个相对大量样本中使用基本的榆树分类器。之间的多样性程度,标记的训练数据和先前选中,然后评估未标记样本,连同未标记样本之间的相似度。最后,高度信息化和代表性样本用于更新榆树分类器通过引入权衡参数。然后测试方法在几个基准数据集,以及一个多级MI脑电图数据集从BCI竞争第四集2 a。结果表明,新方法的性能优于现有的方法。
现有ELM-based主动学习算法相比,新方法有几个值得注意的方面:
考虑到使用一个不确定性的策略可能不充分利用丰富的信息与未标记数据,AL-ELM算法扩展到结合两种查询策略(不确定性和多样性)为了选择最有价值的样本标记脑电图数据池。
该算法提供了一个简单的和有意义的方式来衡量代表性,分析两种相似:查询样本之间的相似性和标签数据集,以及任何两种可能的查询样本之间的相似性。使用这个修改多样性策略可以帮助隔离高度代表样本在主动学习的过程。
主动学习方法通常包括五个基本组成部分:<我nl我ne-formula>
gydF4y2Ba根据查询样品的数量在每个迭代中,艾尔可分为两类:基于流和艾尔pool-based。在基于流的,学习者只能访问一个样本每个迭代,而pool-based AL允许学习者选择一批样品在每个迭代。调整查询样本的选择方法和数量然后创建不同的算法,比如QBC战略,战略的不确定性和多样性策略。
年代ec><年代ec id="sec2.2">年代我ngle-hidden-layer前馈神经网络(SLFNs)能够通用近似
gydF4y2Ba为了方便起见,方程(
与SLFNs要求调整参数隐藏的神经元在训练期间,榆树采用随机生成的隐层参数和tuning-free培训策略
在本节中,我们提出一个新颖的主动学习算法,D-AL-ELM,包含不确定性和多样性策略为连续的步骤。这确定了最有价值的,翔实的实例,然后可以选择更新基线分类器榆树在每个学习圆的。
<年代ec我d="sec3.1">不确定性的标准是用来测量每个样本的信息量。沿边界的不确定样本不同的类携带更多的信息和建设发挥更重要作用的分类器。在这个实现中,best-versus-second-best (BvSB)策略是用来估计每个样本的不确定性。BvSB策略是基于后验概率的计算,认为这两个类之间的概率值的差异估计概率最高的(
gydF4y2Ba基于上述参数,为每个样本BvSB策略<我nl我ne-formula>
冗余或过于相似样本的选择是没什么用的试图构建一个健壮的分类器。因此有必要使用多样性的标准选择一批样品在本质上是不同的。一个可行的方法测量不确定样本的多样性是余弦角距离。这种方法后,两个样本之间的相似性<我nl我ne-formula>
我们可以看到从方程(
gydF4y2Ba假设一批样品<我nl我ne-formula>
注意,一个更小的<我nl我ne-formula>
gydF4y2Ba为了避免选择高度冗余样本,一个新颖的多样性则被定义为组合查询样本之间的相似性和标记集,以及任意两个候选人之间的相似性查询样品在同一时间。这个计算是由
Bv年代B抽样法是一种非常有效的样本选择主动学习的策略。不幸的是,BvSB也可以选择一些不确定样本含有高度冗余信息,降低了分类的信息。为了解决这个问题,最优样本选择分类。理想的样本分类器不仅能提供重要的信息也显示多样性从候选标记集和少量的冗余标签集。
D-AL-ELMgydF4y2Ba算法的每次迭代的具体步骤如下:
步骤1:采用BvSB策略选择<我nl我ne-formula>
第二步:让<我nl我ne-formula>
第三步:结合区别的、有代表性的部分,下面的配方选择获得<我nl我ne-formula>
gydF4y2Ba该方法的实现算法进行了总结
本节进一步评估的性能提出了多级D-AL-ELM方法MI BCI的脑电图数据竞争第四集2 (
数据预处理最初原始的脑电图数据上执行。对于每一个试验,提取特征从段持续时间从0.5秒到2.5秒后提示指示执行MI。每个审判第一次带通使用5次巴特沃斯滤波器过滤从8-30赫兹。接下来,EEG信号的维数降低一个24-dimension特性集使用one-versus-rest常见的空间模式(OVR-CSP)算法(
gydF4y2Ba最优的选择<我nl我ne-formula>
图
四个不同的学习算法的学习曲线BCI竞争第四集2 a。(一)S1。(b) S2。(c) S3。(d) S4。S5 (e)。(f) S6。(g) S7。S8 (h)。(我)S9。
的意思是学习过程的精度(%)BCI竞争第四集2 a。
酒精度价值观的四个方法BCI竞争第四集2 a。
平均运行时间(s)的学习算法。
D-AL-ELM方法的结果表明,性能相当的AL-ELM优于ELM-Entropy和PL-ELM算法对所有主题(主题2 PL-ELM除外)。具体来说,该方法超越了AL-ELM方法在6 9主题(1、2、4、5、6、9)酒精度度量。所有9个科目,D-AL-ELM方法取得了平均准确率为71.36%,高于AL-ELM (70.92%)、ELM-Entropy(70.34%),和PL-ELM (70.51%)。这些结果证明的有效性D-AL-ELM在选择信息和从无标号脑电图样本代表性实例。此外,它们显示,该方法可以校准MI EEG信号的有效分类器不需要大量的训练样本的标签。
gydF4y2Ba为了比较,表
在这些实验中,提出了D-AL-ELM方法表现出优良的性能在分类精度和计算效率,在几个基准数据集和一个实验性的MI脑电图数据集。基于一个被动的学习相比,榆树,D-AL-ELM达到提高性能通过有效地提取最有价值的未标记样本。D-AL-ELM也优于AL-ELM和ELM-Entropy算法,都采用单查询策略。改进被认为在所有九节的数据集
gydF4y2Ba最后,D-AL-ELM所示其应用的有效性实验从BCI多级MI任务竞争第四集2 a。由于低信噪比的脑电图数据,应用算法难以产生足够的结果。因此,hand-designed特性首次从原料中提取使用OVR-CSP脑电图数据的方法,和不同的算法被用于进一步提取标记样品和校准一个健壮的分类器。受试者S1、S3 S7、S8和S9 D-AL-ELM产生一个可接受平均分类精度高80%以上的整个学习过程。不幸的是,所有测试方法在主题S5表现得更差。该算法仅能达到49.06%的准确率,但仍不够,应用中排名最高的方法。
年代ec>年代ec>在本文中,一种新颖的主动学习方法与榆树,D-AL-ELM, multiclassification发达。这个新算法结合了不确定性和多样性策略,有效减少了手动获取带安全标签的数据时的费用和时间成本。为每个示例中,该算法采用BvSB策略测量信息量和余弦角距离测量的多样性。修改后的多样性度量之间的多样性不仅估计标签的训练数据和先前选定的标记样本有限,而且计算之前选定的样本之间的相似性。实验结果从几个基准数据集和多级MI脑电图数据从BCI竞争第四2数据集被用来验证D-AL-ELM提出算法的有效性。这些结果表明,该算法的性能比,或者至少与其他受欢迎的主动学习方法。未来的工作将致力于制定D-AL-ELM(在线学习
BCI竞争第四集2使用在我们的研究中,这是公开通过以下链接:
作者宣称没有利益冲突有关这篇文章的出版。
年代ec><一个ck>这项工作得到了国家自然科学基金(61871427和61871427号)。作者要感谢BCI竞争第四集2用来测试算法提出了研究。
一个ck>