CIN 计算智能和神经科学 1687 - 5273<我年代年代npub-type="ppub"> 1687 - 5265 Hindawi 10.1155 / 2020/3287589 3287589 研究文章 双重标准主动学习为多级脑-机接口 https://orcid.org/0000 - 0001 - 5206 - 9833 青山 1 1 https://orcid.org/0000 - 0002 - 2689 - 3455 Zhizeng 1 https://orcid.org/0000 - 0001 - 5964 - 5872 Thinh声称 2 https://orcid.org/0000 - 0001 - 7884 - 4172 波特 托马斯。 2 https://orcid.org/0000 - 0002 - 1927 - 4103 Yingchun 2 Rodriguez-Tello 爱德华多 1<一个ddr-line> 智能控制研究所和机器人技术 杭州一袭大学 杭州 浙江310018年 中国 hdu.edu.cn 2<一个ddr-line> 生物医学工程系 休斯顿大学 休斯顿 TX 77204 美国 uh.edu 2020年 10<米onth> 3 2020年 2020年 25<米onth> 07年 2019年 11<米onth> 02 2020年 10<米onth> 3 2020年 2020年 版权©2020青山她et al。 这是一个开放的文章在知识共享归属许可下发布的,它允许无限制的使用,分布和繁殖在任何媒介,提供最初的工作是正确的引用。

最近的技术进步使研究人员收集到大量的脑电图(EEG)信号标记和未标记的数据集。是昂贵和费时的收集标签脑电图数据用于脑机接口(BCI)系统,然而。在这篇文章中,提出了一种新颖的主动学习方法以减少标签的数量,与脑电图数据所需的有效的分类器训练,结合不确定性和代表性在一个极端学习机(ELM)。这种方法后,榆树首次使用分类器选择一个相对较大的一批未标记示例,其不确定性测量通过best-versus-second-best (BvSB)策略。然后每个样本的多样性之间的测量标记的训练数据有限,之前选中的未标记样本,和先前选定的样本之间的相似性来衡量。最后,权衡参数引入到控制信息之间的平衡和代表性样本,这些样本用于建立一个强大的榆树分类器。广泛的实验使用基准和多级汽车图像脑电图数据集来评估该方法的有效性。实验结果表明,新算法的性能超过或一些先进的主动学习算法的匹配。从而表明,提出的方法可以提高分类器的性能和减少训练样本在BCI应用程序的必要性。

中国国家自然科学基金 61871427 61671197
1。介绍</t我tle><p>脑-机接口(bci)系统,允许用户控制外部设备通过观察大脑活动,不依赖周围神经或肌肉活动<xrefgydF4y2Baref-type="bibr" rid="B1"> 1</xref>]gydF4y2Ba。最常见的和有用的bci构造使用非侵入性大脑活动记录技术,如脑电图(EEG) (<xrefgydF4y2Baref-type="bibr" rid="B2"> 2</xref>]gydF4y2Ba。而脑电图已成为广泛用于医疗监测、康复,neuroprosthesis,和其他医疗保健应用程序<xrefgydF4y2Baref-type="bibr" rid="B3"> 3</xref>gydF4y2Ba- - - - - -<xrefgydF4y2Baref-type="bibr" rid="B5"> 5</xref>gydF4y2Ba),数据采集过程可能会很长,详尽的用户(<xrefgydF4y2Baref-type="bibr" rid="B6"> 6</xref>]gydF4y2Ba。此外,脑电图信号经常变化的一个实验由于生物和技术原因,包括科目的解剖差异,intersession可变性,注意力漂移的主题(<xrefgydF4y2Baref-type="bibr" rid="B7"> 7</xref>]gydF4y2Ba。因此,用户必须经常进行长时间的数据收集过程训练合适的BCI系统。这给患者带来了高昂的负担瘫痪或严重受伤的中枢神经系统,使其治疗应用的一个主要障碍。因此,至关重要的BCI系统开发实现高效和健壮的性能和尽可能少的样本。</p><p>gydF4y2Ba一种方法,有效地应用到训练集有限的情况下主动学习(AL)的引入BCI校准过程。AL查询信息的类标签样本中未标记样本空间最大化的效率学习模型,及其应用大大减少训练样本的复杂性没有任何明显的分类精度损失(<xrefgydF4y2Baref-type="bibr" rid="B8"> 8</xref>]gydF4y2Ba。从本质上说,半岛是一个迭代的采样和标签的过程。在每次迭代中,艾尔提取样本或批样品最有价值的改善当前分类模型的无标号数据池,然后这些样品是手工标记。AL方法的最大的挑战是确定最丰富的样品,这样可以实现最大的预测精度。大量的样本选择标准,然后被应用到这个任务,包括(1)query-by-committee (QBC),使用几个不同的分类器和选定的样品标签预测的最大的区别不同的分类器(<xrefrefgydF4y2Ba-type="bibr" rid="B9"> 9</xref>gydF4y2Ba- - - - - -<xrefgydF4y2Baref-type="bibr" rid="B11"> 11</xref>]gydF4y2Ba;(2)利润不确定性抽样,样本选择根据基于各自的距离的最大不确定性的分类边界(<xrefgydF4y2Baref-type="bibr" rid="B12"> 12</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B13"> 13</xref>]gydF4y2Ba;(3)最大熵取样,使用熵作为衡量不确定性通过概率建模(<xrefgydF4y2Baref-type="bibr" rid="B14"> 14</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B15"> 15</xref>]gydF4y2Ba;(4)多样性采样,更喜欢选择代表性样本(<xrefgydF4y2Baref-type="bibr" rid="B16"> 16</xref>]gydF4y2Ba。</p><p>gydF4y2Ba在过去的几十年里,许多监督学习模型作为基线分类器,包括线性判别分析(LDA) (<xrefgydF4y2Baref-type="bibr" rid="B12"> 12</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B17"> 17</xref>gydF4y2Ba),支持向量机(SVM) [<xrefgydF4y2Baref-type="bibr" rid="B18"> 18</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B19"> 19</xref>gydF4y2Ba),人工神经网络(ANN) [<xrefgydF4y2Baref-type="bibr" rid="B20"> 20.</xref>gydF4y2Ba),和极端学习机(ELM) [<xrefgydF4y2Baref-type="bibr" rid="B21"> 21</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B22"> 22</xref>]gydF4y2Ba。其中,榆树显示一个高的学习速度和良好的普遍性初步测试。此外,它可以直接应用于两级和多级分类。到目前为止,很少有研究试图AL算法引入到榆树框架,尽管这些显示方法和积极的支持向量机(竞争<xrefrefgydF4y2Ba-type="bibr" rid="B13"> 13</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B14"> 14</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B23"> 23</xref>]gydF4y2Ba。具体来说,Yu et al。<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>gydF4y2Ba)提出了一个名为AL-ELM的主动学习方法的目的,节约培训时间,,结果显示一个分类的性能与AL-SVM [<xrefgydF4y2Baref-type="bibr" rid="B18"> 18</xref>]gydF4y2Ba。张和Er (<xrefgydF4y2Baref-type="bibr" rid="B23"> 23</xref>]gydF4y2Ba介绍了SEAL-ELM方法相结合的在线连续榆树(OS-ELM),收益率更高的分类精度比离线AL和SVM的组合在大多数测试数据集。遗憾的是,这些现有的活跃榆树只考虑单查询策略,为改善留出了空间。直观的下一步是然后介绍多个查询策略来选择理想的样品。事实上,研究人员试图结合两种策略在阿尔基分类器支持向量机,每次执行比单查询的同行(<xrefrefgydF4y2Ba-type="bibr" rid="B24"> 24</xref>gydF4y2Ba- - - - - -<xrefgydF4y2Baref-type="bibr" rid="B26"> 26</xref>]gydF4y2Ba。然而,目前很少有主动学习的实现与榆树探索和申请汽车图像- (MI)基于BCI系统(<xrefgydF4y2Baref-type="bibr" rid="B8"> 8</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B13"> 13</xref>]gydF4y2Ba。</p><p>gydF4y2Ba目前调查打算填补这一空缺通过两种查询AL算法结合榆树在BCI应用程序和测试方法。一个定义良好的、通用的框架主动学习从而发达的方式占信息量和代表性兼职情况。首先,采用不确定性抽样策略选择一个相对大量样本中使用基本的榆树分类器。之间的多样性程度,标记的训练数据和先前选中,然后评估未标记样本,连同未标记样本之间的相似度。最后,高度信息化和代表性样本用于更新榆树分类器通过引入权衡参数。然后测试方法在几个基准数据集,以及一个多级MI脑电图数据集从BCI竞争第四集2 a。结果表明,新方法的性能优于现有的方法。</p><p>现有ELM-based主动学习算法相比,新方法有几个值得注意的方面:<l我年代t><l我年代t-item> <label>(1)</l一个bel></l我年代t-item> </list></p> <p>考虑到使用一个不确定性的策略可能不充分利用丰富的信息与未标记数据,AL-ELM算法扩展到结合两种查询策略(不确定性和多样性)为了选择最有价值的样本标记脑电图数据池。</p><l我年代t-item> <label>(2)</l一个bel><p>该算法提供了一个简单的和有意义的方式来衡量代表性,分析两种相似:查询样本之间的相似性和标签数据集,以及任何两种可能的查询样本之间的相似性。使用这个修改多样性策略可以帮助隔离高度代表样本在主动学习的过程。</p></l我年代t-item> <p></p> </sec> <sec id="sec2"> <title>2。背景知识</t我tle><年代ec我d="sec2.1"> <title>2.1。主动学习</t我tle><p>主动学习方法通常包括五个基本组成部分:<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M1"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M2"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M3"> <mml:mi mathvariant="bold"> T</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M4"> <mml:mi mathvariant="bold"> 问</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M5"> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:math> </inline-formula>。<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M6"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>有限制的标签数据集,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M7"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>的池/实例,包含丰富的未标记样本实例,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M8"> <mml:mi mathvariant="bold"> T</米米l:米我></米米l:math> </inline-formula>是训练的分类模型<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M9"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M10"> <mml:mi mathvariant="bold"> 问</米米l:米我></米米l:math> </inline-formula>是一个查询的策略来选择最有价值的实例<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M11"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M12"> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:math> </inline-formula>是一个人类注释器标签正确选择的实例。半岛是一个迭代的过程,逐渐增加了最重要的样品,进行查询<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M13"> <mml:mi mathvariant="bold"> 问</米米l:米我></米米l:math> </inline-formula>和标签<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M14"> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:math> </inline-formula>,从<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M15"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>来<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M16"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>更新分类模型<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M17"> <mml:mi mathvariant="bold"> T</米米l:米我></米米l:math> </inline-formula>。迭代AL过程将继续以这种方式直到一个预定义的标准是满足。能够识别一个优秀的分类模型<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M18"> <mml:mi mathvariant="bold"> T</米米l:米我></米米l:math> </inline-formula>和一个有效的查询策略<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M19"> <mml:mi mathvariant="bold"> 问</米米l:米我></米米l:math> </inline-formula>是高度重要的主动学习算法。</p><p>gydF4y2Ba根据查询样品的数量在每个迭代中,艾尔可分为两类:基于流和艾尔pool-based。在基于流的,学习者只能访问一个样本每个迭代,而pool-based AL允许学习者选择一批样品在每个迭代。调整查询样本的选择方法和数量然后创建不同的算法,比如QBC战略,战略的不确定性和多样性策略。</p></年代ec><年代ec id="sec2.2"> <title>2.2。基本的榆树</t我tle><p>年代我ngle-hidden-layer前馈神经网络(SLFNs)能够通用近似<xrefgydF4y2Baref-type="bibr" rid="B21"> 21</xref>]gydF4y2Ba。考虑一个数据集包含<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M20"> <mml:mi> N</米米l:米我></米米l:math> </inline-formula>训练样本,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M21"> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mi> X</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mi> Y</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:msubsup> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> <mml:mi> N</米米l:米我></米米l:msubsup> </mml:mrow> </mml:math> </inline-formula>,输入<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M22"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mi> p</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> T</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> p</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>和对应的期望输出值<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M23"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mi> 问</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> T</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 问</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>,在那里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M24"> <mml:mi> p</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M25"> <mml:mi> 问</米米l:米我></米米l:math> </inline-formula>代表各自的维度和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M26"> <mml:mtext> T</米米l:米text></米ml:math> </inline-formula>代表一个转置操作。假设<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M27"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>是隐藏的神经元的数量,输出的函数SLFNs数学建模为吗<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M28"> <mml:mtable> <mml:mlabeledtr id="EEq1"> <mml:mtd> <mml:mtext> (1)</米米l:米text></米ml:mtd> <mml:mtd> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> =</米米l:米o> <mml:mstyle displaystyle="true"> <mml:munderover> <mml:mo stretchy="true"> ∑</米米l:米o> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> <mml:mi> 米</米米l:米我></米米l:munderover> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msubsup> <mml:mi mathvariant="bold"> 一个</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mtext> T</米米l:米text></米ml:msubsup> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mstyle> <mml:mo> ,</米米l:米o> <mml:mi class="cond"> </mml:mi> <mml:mi> j</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mi> N</米米l:米我><米米l:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M29"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="normal"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="normal"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="normal"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mi> 问</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 问</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>是连接的权向量<我t一个l我c>我</我t一个l我c>th隐藏神经元输出神经元,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M30"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 一个</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> 一个</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> 一个</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> 一个</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mi> p</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> p</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>是一个随机选择的输入连接权向量<我t一个l我c>我</我t一个l我c>th隐藏神经元输入神经元,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M31"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ∈</米米l:米o> <mml:mi mathvariant="bold"> ℝ</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>是一个随机选择的偏见<我t一个l我c>我</我t一个l我c>th隐藏节点<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M32"> <mml:mrow> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mo> •</米米l:米o> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>是激活函数,它可以是任何非线性分段连续函数(如乙状结肠函数或高斯函数)。</p><p>gydF4y2Ba为了方便起见,方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq1"> 1</xref>gydF4y2Ba)可以重写在矩阵表示法<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M33"> <mml:mtable> <mml:mlabeledtr id="EEq2"> <mml:mtd> <mml:mtext> (2)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi mathvariant="bold"> Y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mi mathvariant="bold"> H</米米l:米我><米米l:mi mathvariant="bold"> β</米米l:米我><米米l:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M34"> <mml:mrow> <mml:mi mathvariant="bold"> Y</米米l:米我><米米l:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> N</米米l:米我><米米l:mo> ×</米米l:米o> <mml:mi> 问</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>是将网络输出,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M35"> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我><米米l:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> Τ</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> ∈</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> ℝ</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mo> ×</米米l:米o> <mml:mi> 问</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>表示输出层的重量<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M36"> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:math> </inline-formula>是隐层输出矩阵的定义是<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M37"> <mml:mtable> <mml:mlabeledtr id="EEq3"> <mml:mtd> <mml:mtext> (3)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi mathvariant="bold"> H</米米l:米我><米米l:mo> =</米米l:米o> <mml:msub> <mml:mrow> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:mtable> <mml:mtr> <mml:mtd> <mml:mrow> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msubsup> <mml:mi mathvariant="bold"> 一个</米米l:米我><米米l:mn> 1</米米l:米n><米米l:米text> T</米米l:米text></米ml:msubsup> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mtd> <mml:mtd> <mml:mo> …</米米l:米o> </mml:mtd> <mml:mtd> <mml:mrow> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msubsup> <mml:mi mathvariant="bold"> 一个</米米l:米我><米米l:mi> 米</米米l:米我><米米l:mtext> T</米米l:米text></米ml:msubsup> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd> <mml:mo> …</米米l:米o> </mml:mtd> <mml:mtd> <mml:mo> …</米米l:米o> </mml:mtd> <mml:mtd> <mml:mo> …</米米l:米o> </mml:mtd> </mml:mtr> <mml:mtr> <mml:mtd> <mml:mrow> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msubsup> <mml:mi mathvariant="bold"> 一个</米米l:米我><米米l:mn> 1</米米l:米n><米米l:米text> T</米米l:米text></米ml:msubsup> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mtd> <mml:mtd> <mml:mo> …</米米l:米o> </mml:mtd> <mml:mtd> <mml:mrow> <mml:mi> g</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msubsup> <mml:mi mathvariant="bold"> 一个</米米l:米我><米米l:mi> 米</米米l:米我><米米l:mtext> T</米米l:米text></米ml:msubsup> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> b</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mtd> </mml:mtr> </mml:mtable> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> N</米米l:米我><米米l:mo> ×</米米l:米o> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> 。</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula></p> <p>与SLFNs要求调整参数隐藏的神经元在训练期间,榆树采用随机生成的隐层参数和tuning-free培训策略<xrefgydF4y2Baref-type="bibr" rid="B22"> 22</xref>]gydF4y2Ba。即使这些随机隐藏节点参数,榆树维护SLFNs[的万能逼近能力<xrefgydF4y2Baref-type="bibr" rid="B21"> 21</xref>]gydF4y2Ba。然后榆树培训旨在找到合适的网络参数近似误差降到最低<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M38"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我><米米l:mi mathvariant="bold"> β</米米l:米我><米米l:mo> −</米米l:米o> <mml:mi mathvariant="bold"> Y</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>。为了达到更好的泛化性能,正则化参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M39"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>介绍了(<xrefgydF4y2Baref-type="bibr" rid="B27"> 27</xref>gydF4y2Ba),其对应的目标函数给出<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M40"> <mml:mtable> <mml:mlabeledtr id="EEq4"> <mml:mtd> <mml:mtext> (4)</米米l:米text></米ml:mtd> <mml:mtd> <mml:munder> <mml:mrow> <mml:mi mathvariant="normal"> 最小值</米米l:米我></米米l:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:munder> <mml:mfrac> <mml:mn> 1</米米l:米n><米米l:米n> 2</米米l:米n></米米l:mfrac> <mml:msubsup> <mml:mrow> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mn> 2</米米l:米n><米米l:米n> 2</米米l:米n></米米l:msubsup> <mml:mo> +</米米l:米o> <mml:mfrac> <mml:mi> c</米米l:米我><米米l:mn> 2</米米l:米n></米米l:mfrac> <mml:msubsup> <mml:mrow> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我><米米l:mi mathvariant="bold"> β</米米l:米我><米米l:mo> −</米米l:米o> <mml:mi mathvariant="bold"> Y</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mn> 2</米米l:米n><米米l:米n> 2</米米l:米n></米米l:msubsup> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M41"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:mi> ·</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>表示<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M42"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> l</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>规范矩阵或向量。我们可以获得输出权向量<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M43"> <mml:mi mathvariant="bold"> β</米米l:米我></米米l:math> </inline-formula>使用Moore-Penrose原则。方程解(<xrefgydF4y2Baref-type="disp-formula" rid="EEq4"> 4</xref>gydF4y2Ba)然后<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M44"> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我><米米l:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> 我</米米l:米我><米米l:mo> /</米米l:米o> <mml:mi> c</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> +</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mo> −</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msup> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:mi mathvariant="bold"> Y</米米l:米我></米米l:mrow> </mml:math> </inline-formula>如果<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M45"> <mml:mrow> <mml:mi> N</米米l:米我><米米l:mo> ></米米l:米o> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M46"> <mml:mrow> <mml:mi mathvariant="bold"> β</米米l:米我><米米l:mo> =</米米l:米o> <mml:msup> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> <mml:msup> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> 我</米米l:米我><米米l:mo> /</米米l:米o> <mml:mi> c</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> +</米米l:米o> <mml:mi mathvariant="bold"> H</米米l:米我><米米l:msup> <mml:mrow> <mml:mi mathvariant="bold"> H</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> T</米米l:米text></米ml:mrow> </mml:msup> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mo> −</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msup> <mml:mi mathvariant="bold"> Y</米米l:米我></米米l:mrow> </mml:math> </inline-formula>如果<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M47"> <mml:mrow> <mml:mi> N</米米l:米我><米米l:mo> <</米米l:米o> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>。</p></年代ec></年代ec> <sec id="sec3"> <title>3所示。D-AL-ELM方法</t我tle><p>在本节中,我们提出一个新颖的主动学习算法,D-AL-ELM,包含不确定性和多样性策略为连续的步骤。这确定了最有价值的,翔实的实例,然后可以选择更新基线分类器榆树在每个学习圆的。</p><年代ec我d="sec3.1"> <title>3.1。有识别力的信息标准的不确定性</t我tle><p>不确定性的标准是用来测量每个样本的信息量。沿边界的不确定样本不同的类携带更多的信息和建设发挥更重要作用的分类器。在这个实现中,best-versus-second-best (BvSB)策略是用来估计每个样本的不确定性。BvSB策略是基于后验概率的计算,认为这两个类之间的概率值的差异估计概率最高的(<xrefrefgydF4y2Ba-type="bibr" rid="B28"> 28</xref>]gydF4y2Ba。榆树的输出近似后验概率的不同的类(<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>]gydF4y2Ba。要做到这一点,一个s形的函数是用来构建一个映射关系的实际输出榆树和后验概率,这是形容<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M48"> <mml:mtable> <mml:mlabeledtr id="EEq5"> <mml:mtd> <mml:mtext> (5)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米fenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:mfrac> <mml:mn> 1</米米l:米n><米米l:米row> <mml:mn> 1</米米l:米n><米米l:米o> +</米米l:米o> <mml:mi mathvariant="normal"> 经验值</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mo> −</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mfrac> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M49"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>表示的实际输出<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M50"> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> −</米米l:米o> <mml:mtext> th</米米l:米text></米ml:mrow> </mml:math> </inline-formula>输出节点对应的实例<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M51"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>。在实践中,方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq5"> 5</xref>gydF4y2Ba)只应用于两级问题,这样转换后验概率之和的实例<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M52"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>总是1。然而,应用程序在多类问题可能创建一个总结后距离超过1,所以概率是规范化使用以下公式计算:<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M53"> <mml:mtable> <mml:mlabeledtr id="EEq6"> <mml:mtd> <mml:mtext> (6)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mrow> <mml:mover accent="true"> <mml:mi> p</米米l:米我><米米l:mo> ¯</米米l:米o> </mml:mover> </mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米fenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:mfrac> <mml:mrow> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米fenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mstyle displaystyle="true"> <mml:msubsup> <mml:mo stretchy="false"> ∑</米米l:米o> <mml:mrow> <mml:mi> j</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> <mml:mi> 问</米米l:米我></米米l:msubsup> <mml:mrow> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米fenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mstyle> </mml:mrow> </mml:mfrac> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M54"> <mml:mrow> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> y</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米fenced open="|" close="" separators="|"> <mml:mrow></mml:mrow> </mml:mfenced> <mml:msub> <mml:mrow> <mml:mi> f</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>是原始的概率<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M55"> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> −</米米l:米o> <mml:mtext> th</米米l:米text></米ml:mrow> </mml:math> </inline-formula>类。</p><p>gydF4y2Ba基于上述参数,为每个样本BvSB策略<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M56"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>可以表示为<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M57"> <mml:mtable> <mml:mlabeledtr id="EEq7"> <mml:mtd> <mml:mtext> (7)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi> f</米米l:米我><米米l:msup> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> B</米米l:米我><米米l:mi> v</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:mi> B</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> =</米米l:米o> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> 最好的</米米l:米text></米ml:mrow> </mml:msub> <mml:mfenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> −</米米l:米o> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> 第二个</米米l:米text><米米l:mo> −</米米l:米o> <mml:mtext> 最好的</米米l:米text></米ml:mrow> </mml:msub> <mml:mfenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M58"> <mml:mrow> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> 最好的</米米l:米text></米ml:mrow> </mml:msub> <mml:mtext> </mml:mtext> <mml:mi> |</米米l:米我><米米l:mtext> </mml:mtext> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M59"> <mml:mrow> <mml:mi> p</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mtext> 第二个</米米l:米text><米米l:mo> −</米米l:米o> <mml:mtext> 最好的</米米l:米text></米ml:mrow> </mml:msub> <mml:mtext> </mml:mtext> <mml:mi> |</米米l:米我><米米l:mtext> </mml:mtext> <mml:mi> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>最大和第二大的后验概率<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M60"> <mml:mtext> x</米米l:米text></米ml:math> </inline-formula>,分别。应该注意的是,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M61"> <mml:mrow> <mml:mi> f</米米l:米我><米米l:msup> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi mathvariant="bold"> x</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> B</米米l:米我><米米l:mi> v</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:mi> B</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>值是逆相关不确定性的数量在一个示例中,使用较小的值表明更大的不确定性。</p></年代ec><年代ec id="sec3.2"> <title>3.2。多样性代表信息的标准</t我tle><p>冗余或过于相似样本的选择是没什么用的试图构建一个健壮的分类器。因此有必要使用多样性的标准选择一批样品在本质上是不同的。一个可行的方法测量不确定样本的多样性是余弦角距离。这种方法后,两个样本之间的相似性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M62"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M63"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>是由<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M64"> <mml:mtable> <mml:mlabeledtr id="EEq8"> <mml:mtd> <mml:mtext> (8)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi> 年代</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:mfenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:mi mathvariant="normal"> 因为</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mfenced open="|" close="" separators="|"> <mml:mrow> <mml:mtext> </mml:mtext> </mml:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:mfrac> <mml:mfenced open="|" close="|" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ⋅</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mrow> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mfenced open="‖" close="‖" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mfrac> <mml:mo> 。</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula></p> <p>我们可以看到从方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq8"> 8</xref>gydF4y2Ba),相似性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M65"> <mml:mrow> <mml:mi> 年代</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>两个样本之间的<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M66"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M67"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>很小,如果这两个样本相互远离,反之亦然。</p><p>gydF4y2Ba假设一批样品<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M68"> <mml:mrow> <mml:mi mathvariant="bold"> W</米米l:米我><米米l:mo> =</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> n</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。如果该值的<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M69"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mi> 一个</米米l:米我><米米l:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mi> n</米米l:米我></米米l:mrow> </mml:msub> <mml:mi> 年代</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我><米米l:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>很小,那么新样品吗<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M70"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>不同样品的吗<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M71"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>。一个新的样本之间的相似性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M72"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M73"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>被定义为<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M74"> <mml:mtable> <mml:mlabeledtr id="EEq9"> <mml:mtd> <mml:mtext> (9)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:munder> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mi> 一个</米米l:米我><米米l:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ∈</米米l:米o> <mml:mi> W</米米l:米我></米米l:mrow> </mml:munder> <mml:mi> 年代</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mtext> x</米米l:米text><米米l:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mtext> w</米米l:米text></米ml:mrow> <mml:mrow> <mml:mi> j</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mo> 。</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula></p> <p>注意,一个更小的<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M75"> <mml:mrow> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mtext> </mml:mtext> <mml:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> x</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>值意味着更多的多样性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M76"> <mml:mi> x</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M77"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>。</p><p>gydF4y2Ba为了避免选择高度冗余样本,一个新颖的多样性则被定义为组合查询样本之间的相似性和标记集,以及任意两个候选人之间的相似性查询样品在同一时间。这个计算是由<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M78"> <mml:mtable> <mml:mlabeledtr id="EEq10"> <mml:mtd> <mml:mtext> (10)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mo> =</米米l:米o> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> +</米米l:米o> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M79"> <mml:mrow> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>表示样本之间的多样性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M80"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和候选人<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M81"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>(除了<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M82"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>),<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M83"> <mml:mrow> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>表示样本之间的多样性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M84"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>和标记训练集<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M85"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>。</p></年代ec><年代ec id="sec3.3"> <title>3.3。提出D-AL-ELM算法</t我tle><p>Bv年代B抽样法是一种非常有效的样本选择主动学习的策略。不幸的是,BvSB也可以选择一些不确定样本含有高度冗余信息,降低了分类的信息。为了解决这个问题,最优样本选择分类。理想的样本分类器不仅能提供重要的信息也显示多样性从候选标记集和少量的冗余标签集。</p><p>D-AL-ELMgydF4y2Ba算法的每次迭代的具体步骤如下:<l我年代t><l我年代t-item> <label></label> </list-item> </list></p> <p>步骤1:采用BvSB策略选择<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M86"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>最不确定的样本标记样品池<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M87"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>。</p><l我年代t-item> <label></label> <p>第二步:让<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M88"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>代表最不确定的样本,用<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M89"> <mml:mrow> <mml:mi mathvariant="bold"> W</米米l:米我><米米l:mo> =</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 2</米米l:米n></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> w</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> h</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mtext> </mml:mtext> <mml:mo> ⊆</米米l:米o> <mml:mtext> </mml:mtext> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:mrow> </mml:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M90"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>是含有一个子集<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M91"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M92"> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mo> ≤</米米l:米o> <mml:mi> h</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>样品选自<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M93"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>。两个然后要进行评估,其中包括标记集的多样性<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M94"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>和候选人<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M95"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>相似的样品<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M96"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>。</p></l我年代t-item> <list-item> <label></label> <p>第三步:结合区别的、有代表性的部分,下面的配方选择获得<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M97"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>样品是不确定的和互相不同:<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M98"> <mml:mtable> <mml:mlabeledtr id="EEq11"> <mml:mtd> <mml:mtext> (11)</米米l:米text></米ml:mtd> <mml:mtd> <mml:msup> <mml:mrow> <mml:mover accent="true"> <mml:mtext> x</米米l:米text><米米l:mo> ^</米米l:米o> </mml:mover> </mml:mrow> <mml:mrow> <mml:mi> B</米米l:米我><米米l:mi> v</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:mi> B</米米l:米我><米米l:mo> −</米米l:米o> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> =</米米l:米o> <mml:mi mathvariant="normal"> 参数</米米l:米我><米米l:munder> <mml:mrow> <mml:mi mathvariant="normal"> 最小值</米米l:米我></米米l:mrow> <mml:mrow> <mml:msub> <mml:mrow> <mml:mtext> 年代</米米l:米text></米ml:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ∈</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:munder> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mi> λ</米米l:米我><米米l:mi> f</米米l:米我><米米l:msup> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> <mml:mrow> <mml:mi> B</米米l:米我><米米l:mi> v</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:mi> B</米米l:米我></米米l:mrow> </mml:msup> <mml:mo> +</米米l:米o> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mn> 1</米米l:米n><米米l:米o> −</米米l:米o> <mml:mi> λ</米米l:米我></米米l:mrow> </mml:mfenced> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi mathvariant="bold"> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 米</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> <mml:mo> +</米米l:米o> <mml:mtext> </mml:mtext> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我><米米l:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> 年代</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> <mml:mtext> ,</米米l:米text></米ml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula></p> </list-item>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M99"> <mml:mi> λ</米米l:米我></米米l:math> </inline-formula>是一个权衡参数,可以平衡信息量和代表性的标准,然后呢<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M100"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>是标记训练集。<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M101"> <mml:mrow> <mml:msup> <mml:mrow> <mml:mover accent="true"> <mml:mi mathvariant="bold"> x</米米l:米我><米米l:mo> ^</米米l:米o> </mml:mover> </mml:mrow> <mml:mrow> <mml:mi> B</米米l:米我><米米l:mi> v</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:mi> B</米米l:米我><米米l:mo> −</米米l:米o> <mml:mi> d</米米l:米我><米米l:mi> 我</米米l:米我><米米l:mi> v</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>表示未标记样本将注释,并列入标记的训练数据集更新榆树分类器。<p></p><p>gydF4y2Ba该方法的实现算法进行了总结<xrefgydF4y2Baref-type="other" rid="alg1"> 1</xref>gydF4y2Ba。</p><p我d="alg1"> <list list-content="algorithm"> <title><大胆>算法1:< /大胆>榆树的双重标准主动学习算法。</t我tle><l我年代t-item></list-item> </list></p> <p> <bold> 输入</bgydF4y2Baold>:<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M102"> <mml:mrow> <mml:mi mathvariant="bold"> l</米米l:米我><米米l:mo> =</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ,</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>与<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M103"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> n</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> l</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>标签样本,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M104"> <mml:mrow> <mml:mi mathvariant="bold"> U</米米l:米我><米米l:mo> =</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> x</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>与<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M105"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> n</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> u</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>未标记样本<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M106"> <mml:mrow> <mml:mfenced open="(" close=")" separators="|"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> n</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> u</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> ≫</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> n</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> l</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>权衡参数(<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M107"> <mml:mi> λ</米米l:米我></米米l:math> </inline-formula>),样本选择的数量的基础上他们的不确定性(<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M108"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>)、批量大小(<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M109"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>),终止条件。</p><l我年代t-item> <p> <bold> 输出</bgydF4y2Baold>:最终学会了榆树分类器。</p></l我年代t-item> <list-item> <label>(1)</l一个bel><p>使用标记集训练榆树分类器<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M110"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>。</p></l我年代t-item> <list-item> <label>(2)</l一个bel><p><bold> 重复</bgydF4y2Baold></p> </list-item> <list-item> <label>(3)</l一个bel><p>计算样本的概率估计<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M111"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>根据方程(pretrained榆树的分类器<xrefgydF4y2Baref-type="disp-formula" rid="EEq5"> 5</xref>gydF4y2Ba)或(<xrefgydF4y2Baref-type="disp-formula" rid="EEq6"> 6</xref>gydF4y2Ba)。</p></l我年代t-item> <list-item> <label>(4)</l一个bel><p>计算每个样本的不确定性水平<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M112"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>使用方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq7"> 7</xref>gydF4y2Ba)。</p></l我年代t-item> <list-item> <label>(5)</l一个bel><p>包括<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M113"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>最不确定的样本集<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M114"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>。</p></l我年代t-item> <list-item> <label>(6)</l一个bel><p>选择<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M115"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>样本<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M116"> <mml:mi mathvariant="bold"> W</米米l:米我></米米l:math> </inline-formula>使用方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq11"> 11</xref>gydF4y2Ba)。</p></l我年代t-item> <list-item> <label>(7)</l一个bel><p>标签被选中<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M117"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>样本。</p></l我年代t-item> <list-item> <label>(8)</l一个bel><p>更新标签设置<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M118"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>和标记<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M119"> <mml:mi mathvariant="bold"> U</米米l:米我></米米l:math> </inline-formula>。</p></l我年代t-item> <list-item> <label>(9)</l一个bel><p>使用扩展的设置<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M120"> <mml:mi mathvariant="bold"> l</米米l:米我></米米l:math> </inline-formula>培养一个新的榆树分类器。</p></l我年代t-item> <list-item> <label>(10)</l一个bel><p><bold> 直到</bgydF4y2Baold>满足终止条件。</p></l我年代t-item> <list-item> <label>(11)</l一个bel><p>返回最后学会了榆树分类器的输出。</p></l我年代t-item> <p></p> <p>为了定量评估质量的每一个学习算法,学习曲线下的面积(ALC) [<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>gydF4y2Ba)计算性能指标,这是形容<d我年代p-formula> <mml:math display="block" xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M121"> <mml:mtable> <mml:mlabeledtr id="EEq12"> <mml:mtd> <mml:mtext> (12)</米米l:米text></米ml:mtd> <mml:mtd> <mml:mtext> 酒精度</米米l:米text><米米l:mo> =</米米l:米o> <mml:mstyle displaystyle="true"> <mml:munderover> <mml:mo stretchy="true"> ∑</米米l:米o> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 0</米米l:米n></米米l:mrow> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mi> t</米米l:米我><米米l:mi> e</米米l:米我><米米l:mi> r</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> −</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:munderover> <mml:mrow> <mml:mfrac> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> <mml:mo> +</米米l:米o> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mo> +</米米l:米o> <mml:mn> 1</米米l:米n></米米l:mrow> </mml:msub> </mml:mrow> <mml:mrow> <mml:mn> 2</米米l:米n><米米l:米年代ub> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mi> t</米米l:米我><米米l:mi> e</米米l:米我><米米l:mi> r</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:mfrac> </mml:mrow> </mml:mstyle> <mml:mo> ,</米米l:米o> </mml:mtd> </mml:mlabeledtr> </mml:mtable> </mml:math> </disp-formula>在哪里<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M122"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> N</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我><米米l:mi> t</米米l:米我><米米l:mi> e</米米l:米我><米米l:mi> r</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>表示数量的迭代和学习<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M123"> <mml:mrow> <mml:msub> <mml:mrow> <mml:mi> y</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> 我</米米l:米我></米米l:mrow> </mml:msub> </mml:mrow> </mml:math> </inline-formula>表示的分类精度<我t一个l我c>我</我t一个l我c>th学习,这样<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M124"> <mml:mrow> <mml:mtext> 酒精度</米米l:米text><米米l:mo> ∈</米米l:米o> <mml:mfenced open="[" close="]" separators="|"> <mml:mrow> <mml:mn> 0 1</米米l:米n></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。它指出,酒精度值越大,学习算法的性能越好。</p></年代ec></年代ec> <sec id="sec4"> <title>4所示。实验结果和讨论</t我tle><p>在本节中,几个实验进行基准数据集和多级MI脑电图数据集评估的性能提出D-AL-ELM方法,相比与其他先进的方法,包括基于被动学习榆树,AL-ELM [<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>gydF4y2Ba),和entropy-based榆树<xrefgydF4y2Baref-type="bibr" rid="B14"> 14</xref>]gydF4y2Ba。所有方法都是在电脑上使用MATLAB实现2014 b环境2.5 GHz处理器和4.0 GB RAM。</p><年代ec我d="sec4.1"> <title>4.1。基准数据集上实验</t我tle><年代ec我d="sec4.1.1"> <title>以下4.4.1。基准数据集的描述</t我tle><p>进行了一系列的实验来评估D-AL-ELM算法9日基准数据集从龙骨数据集<xrefgydF4y2Baref-type="bibr" rid="B29"> 29日</xref>gydF4y2Ba)和UCI数据集存储库(<xrefgydF4y2Baref-type="bibr" rid="B30"> 30.</xref>]gydF4y2Ba。数据集包括二进制和多类分类问题。在[<xrefrefgydF4y2Ba-type="bibr" rid="B13"> 13</xref>gydF4y2Ba),每个原始数据集分为三个部分:一个小的初始标记集,大量未标记集,和一个测试。测试实例占样本总数的50%,而最初的百分比标记的实例被分配根据原始数据集的大小和类别的数量。关于这些数据集提出了表的详细信息<xrefgydF4y2Baref-type="table" rid="tab1"> 1</xref>gydF4y2Ba。</p><t一个ble-wrap id="tab1"> <label>表1</l一个bel><p>数据集的细节包括相应的数字特征和样本。</p><t一个ble><thead> <tr> <th align="left" rowspan="2">数据集</th><th一个l我gn="center" colspan="3">的数量</th><th一个l我gn="center" rowspan="2">比例的初始标注实例(%)</th><th一个l我gn="center" rowspan="2">初始标记实例的百分比(%)</th><th一个l我gn="center" rowspan="2">测试实例的百分比(%)</th></tr><tr> <th align="center">特性</th><th一个l我gn="center">实例</th><th一个l我gn="center">类</th></tr></thead> <tbody> <tr> <td align="left">肝</td><td一个l我gn="center">7</td><td一个l我gn="center">345年</td><td一个l我gn="center">2</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">糖尿病</td><td一个l我gn="center">8</td><td一个l我gn="center">768年</td><td一个l我gn="center">2</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">Wdbc</td><td一个l我gn="center">30.</td><td一个l我gn="center">569年</td><td一个l我gn="center">2</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">Twonorm</td><td一个l我gn="center">20.</td><td一个l我gn="center">7400年</td><td一个l我gn="center">2</td><td一个l我gn="center">1</td><td一个l我gn="center">49</td><td一个l我gn="center">50</td></tr><tr> <td align="left">由这些</td><td一个l我gn="center">4</td><td一个l我gn="center">160年</td><td一个l我gn="center">3</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">虹膜</td><td一个l我gn="center">4</td><td一个l我gn="center">150年</td><td一个l我gn="center">3</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">酒</td><td一个l我gn="center">13</td><td一个l我gn="center">178年</td><td一个l我gn="center">3</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">段</td><td一个l我gn="center">19</td><td一个l我gn="center">2310年</td><td一个l我gn="center">7</td><td一个l我gn="center">10</td><td一个l我gn="center">40</td><td一个l我gn="center">50</td></tr><tr> <td align="left">信</td><td一个l我gn="center">16</td><td一个l我gn="center">20000年</td><td一个l我gn="center">26</td><td一个l我gn="center">1</td><td一个l我gn="center">49</td><td一个l我gn="center">50</td></tr></tbody> </table> </table-wrap> </sec> <sec id="sec4.1.2"> <title>4.1.2。算法相比,参数设置,以及性能指标</t我tle><p>在我们的实验中,我们比较了该方法与其他先进的学习算法,包括以下:<l我年代t><l我年代t-item> <label>(1)</l一个bel></l我年代t-item> </list></p> <p>PL-ELM:一个被动的学习算法,随机选择的一些实例标记设置为初始分类器训练</p><l我年代t-item> <label>(2)</l一个bel><p>AL-ELM:批处理模式基于榆树的主动学习方法,使用保证金抽样策略选择最不确定的例子标记(<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>]</p></l我年代t-item> <list-item> <label>(3)</l一个bel><p>El米-Entropy:查询有识别力的样品通过熵措施(<xrefgydF4y2Baref-type="bibr" rid="B14"> 14</xref>]</p></l我年代t-item> <p></p> <p>在这项研究中,采用的榆树乙状结肠函数作为激活函数隐藏的水平。网格搜索基于十倍交叉验证被用来找到隐藏节点的最优数量<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M125"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>在最初的标签集。正则化参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M126"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>一个分析(厕所)采用基于最小交叉验证策略<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M127"> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mi> 年代</米米l:米我><米米l:msup> <mml:mrow> <mml:mi> E</米米l:米我></米米l:mrow> <mml:mrow> <mml:mi> P</米米l:米我><米米l:mi> R</米米l:米我><米米l:mi> E</米米l:米我><米米l:mi> 年代</米米l:米我></米米l:mrow> </mml:msup> </mml:mrow> </mml:math> </inline-formula>寻找最优参数值(<xrefgydF4y2Baref-type="bibr" rid="B31"> 31日</xref>]gydF4y2Ba。最优参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M128"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M129"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>确定从<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M130"> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mo> ∈</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mn> 10年,20年</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 200年</米米l:米n></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M131"> <mml:mrow> <mml:mi> c</米米l:米我><米米l:mo> ∈</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:msup> <mml:mrow> <mml:mi> e</米米l:米我></米米l:mrow> <mml:mrow> <mml:mo> −</米米l:米o> <mml:mn> 5</米米l:米n></米米l:mrow> </mml:msup> <mml:mo> ,</米米l:米o> <mml:msup> <mml:mrow> <mml:mi> e</米米l:米我></米米l:mrow> <mml:mrow> <mml:mo> −</米米l:米o> <mml:mn> 4.9</米米l:米n></米米l:mrow> </mml:msup> <mml:mo> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:msup> <mml:mrow> <mml:mi> e</米米l:米我></米米l:mrow> <mml:mrow> <mml:mn> 5</米米l:米n></米米l:mrow> </mml:msup> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>在所有的数据集除了信数据集,其中参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M132"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>中搜索<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M133"> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mn> 100200年</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 1000年</米米l:米n></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。此外,权衡参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M134"> <mml:mrow> <mml:mi> λ</米米l:米我><米米l:mo> ∈</米米l:米o> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mn> 0.1</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mn> 0.2</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mo> …</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 0.9</米米l:米n></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>对方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq10"> 10</xref>gydF4y2Ba)是由网格搜索时<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M135"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M136"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>通过上述方法都是固定的。应该注意的是,榆树参数选择过程中实现对所有四种方法相同的方式。</p><p>gydF4y2Ba参数的详细信息如表所示<xrefgydF4y2Baref-type="table" rid="tab2"> 2</xref>gydF4y2Ba。应该注意的是,正则化参数<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M137"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>是自动识别使用厕所交叉验证和没有固定在学习过程中(因此,表中没有显示<xrefgydF4y2Baref-type="table" rid="tab2"> 2</xref>gydF4y2Ba)。</p><t一个ble-wrap id="tab2"> <label>表2</l一个bel><p>细节的最佳参数设置不同的数据集使用四种方法。</p><t一个ble><thead> <tr> <th align="left" rowspan="2">数据集</th><th一个l我gn="center" colspan="2">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr><tr> <th align="center"> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M138"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula></th> <th align="center"> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M139"> <mml:mi> λ</米米l:米我></米米l:math> </inline-formula></th> <th align="center"> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M140"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula></th> <th align="center"> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M141"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula></th> <th align="center"> <inline-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M142"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula></th> </tr> </thead> <tbody> <tr> <td align="left">肝</td><td一个l我gn="center">110年</td><td一个l我gn="center">0.1</td><td一个l我gn="center">110年</td><td一个l我gn="center">110年</td><td一个l我gn="center">110年</td></tr><tr> <td align="left">糖尿病</td><td一个l我gn="center">110年</td><td一个l我gn="center">0.3</td><td一个l我gn="center">110年</td><td一个l我gn="center">110年</td><td一个l我gn="center">110年</td></tr><tr> <td align="left">Wdbc</td><td一个l我gn="center">200年</td><td一个l我gn="center">0.1</td><td一个l我gn="center">200年</td><td一个l我gn="center">200年</td><td一个l我gn="center">200年</td></tr><tr> <td align="left">Twonorm</td><td一个l我gn="center">120年</td><td一个l我gn="center">0.1</td><td一个l我gn="center">120年</td><td一个l我gn="center">120年</td><td一个l我gn="center">120年</td></tr><tr> <td align="left">由这些</td><td一个l我gn="center">One hundred.</td><td一个l我gn="center">0.3</td><td一个l我gn="center">One hundred.</td><td一个l我gn="center">One hundred.</td><td一个l我gn="center">One hundred.</td></tr><tr> <td align="left">虹膜</td><td一个l我gn="center">170年</td><td一个l我gn="center">0.9</td><td一个l我gn="center">170年</td><td一个l我gn="center">170年</td><td一个l我gn="center">170年</td></tr><tr> <td align="left">酒</td><td一个l我gn="center">60</td><td一个l我gn="center">0.7</td><td一个l我gn="center">60</td><td一个l我gn="center">60</td><td一个l我gn="center">60</td></tr><tr> <td align="left">段</td><td一个l我gn="center">200年</td><td一个l我gn="center">0.6</td><td一个l我gn="center">200年</td><td一个l我gn="center">200年</td><td一个l我gn="center">200年</td></tr><tr> <td align="left">信</td><td一个l我gn="center">700年</td><td一个l我gn="center">0.4</td><td一个l我gn="center">700年</td><td一个l我gn="center">700年</td><td一个l我gn="center">700年</td></tr></tbody> </table> </table-wrap> <p>采用批处理模式添加新标签实例。对于拟议中的D-AL-ELM方法,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M143"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>从无标号集样本首先选择使用方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq7"> 7</xref>gydF4y2Ba),然后<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M144"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>样本的选择<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M145"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>样品使用方程(<xrefgydF4y2Baref-type="disp-formula" rid="EEq11"> 11</xref>gydF4y2Ba)和添加到标记设置为每个迭代。在这个实验中,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M146"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>是根据经验设置为<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M147"> <mml:mrow> <mml:mi> h</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 5</米米l:米n><米米l:米i> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>而<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M148"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>是总数的5%实例的原始标记为8 9数据集(字母除外)。信数据集,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M149"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>是总数的1%在原始标记集和实例<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M150"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>被设置为<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M151"> <mml:mrow> <mml:mi> h</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 2</米米l:米n><米米l:米i> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>。这些参数是选择降低标签成本,考虑原始数据集的大小和类别的数量。</p><p>gydF4y2Ba提供一个公平的比较,所有四个方法查询<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M152"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>在每个迭代中实例。对于每个数据集,过程停止时,预测精度稳定或所选样本的数量大于80%的原始标记集。此外,以确保实验结果的有效性,十在每个经营为每个学习方法进行实验,并计算平均结果。</p></年代ec><年代ec id="sec4.1.3"> <title>4.1.3。比较与相关先进的算法</t我tle><p>图<xrefgydF4y2Baref-type="fig" rid="fig1"> 1</xref>gydF4y2Ba显示了分类器分类精度的趋势训练时,越来越多的数据点在不同的数据集。D-AL-ELM提出的结果表明,该算法取得了最高的四个方法准确性的大部分数据集(除了酒和虹膜数据集)在最后一轮学习。具体来说,该方法执行比其余三种方法在大多数主动学习期间Twonorm,由这些,信数据集。此外,D-AL-ELM取得最快的学习速率的头几个迭代学习过程对于大多数数据集。这一现象表明,新方法以有效识别信息最丰富的、有代表性的样本,与其他算法。此外,ELM-Entropy多级分类方法通常会产生较低的精度,未能超越PL-ELM葡萄酒,由这些,虹膜,信数据集。另一个有趣的观察是,性能会降低在一定区间段的数据集。认为部分数据集可能更不规则的数据结构,混淆BvSB策略和恶化的结果。在这样的情况下,一个更适应停止准则应该旨在阻止一个更合适的正确的时间的学习计划,在产量降低。</p><f我g-group id="fig1"> <label>图1</l一个bel><p>四个不同的学习算法的学习曲线9日基准数据集。(一)肝脏。(b)糖尿病。(c) Wdbc。(d) Twonorm。(e)葡萄酒。由这些(f)。(g)虹膜。(h)段。(我)的信。</p><f我g我d="fig1a"> <label>(一)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001a"></graphic> </fig> <fig id="fig1b"> <label>(b)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001b"></graphic> </fig> <fig id="fig1c"> <label>(c)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001c"></graphic> </fig> <fig id="fig1d"> <label>(d)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001d"></graphic> </fig> <fig id="fig1e"> <label>(e)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001e"></graphic> </fig> <fig id="fig1f"> <label>(f)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001f"></graphic> </fig> <fig id="fig1g"> <label>(g)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001g"></graphic> </fig> <fig id="fig1h"> <label>(h)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001h"></graphic> </fig> <fig id="fig1i"> <label>(我)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.001i"></graphic> </fig> </fig-group> <p>表<xrefgydF4y2Baref-type="table" rid="tab3"> 3</xref>gydF4y2Ba礼物的平均分类精度的四个9在学习过程中数据集的方法。酒精度值四个方法进一步对比表<xrefgydF4y2Baref-type="table" rid="tab4"> 4</xref>gydF4y2Ba。结果显示在表中<xrefgydF4y2Baref-type="table" rid="tab3"> 3</xref>gydF4y2Ba和<xrefgydF4y2Baref-type="table" rid="tab4"> 4</xref>gydF4y2Ba表明D-AL-ELM方法取得了最佳的性能在所有数据集的测试方法。在[<xrefgydF4y2Baref-type="bibr" rid="B13"> 13</xref>],gydF4y2Ba酒精度度量不仅学习速度有关,也有密切的关系,学习模型的质量。拟议中的D-AL-ELM优于其他方法的酒精度,AL-ELM执行第二最好,精度接近D-AL-ELM Wdbc和部分数据集。Wdbc数据集,尽管该方法比AL-ELM酒精度值略高,两种算法得出了相同的意思是整个学习过程的准确性。</p><t一个ble-wrap id="tab3"> <label>表3</l一个bel><p>9日的意思是学习过程的结果准确性的数据集(%)。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">肝</td><td一个l我gn="center"> <bold> 67.59</bgydF4y2Baold></td> <td align="center">67.46</td><td一个l我gn="center">67.14</td><td一个l我gn="center">66.14</td></tr><tr> <td align="left">糖尿病</td><td一个l我gn="center"> <bold> 76.31</bgydF4y2Baold></td> <td align="center">76.13</td><td一个l我gn="center">76.12</td><td一个l我gn="center">74.60</td></tr><tr> <td align="left">Wdbc</td><td一个l我gn="center"> <bold> 96.18</bgydF4y2Baold></td> <td align="center"> <bold> 96.18</bgydF4y2Baold></td> <td align="center">96.11</td><td一个l我gn="center">94.69</td></tr><tr> <td align="left">Twonorm</td><td一个l我gn="center"> <bold> 97.38</bgydF4y2Baold></td> <td align="center">97.25</td><td一个l我gn="center">97.25</td><td一个l我gn="center">97.13</td></tr><tr> <td align="left">酒</td><td一个l我gn="center"> <bold> 96.08</bgydF4y2Baold></td> <td align="center">95.72</td><td一个l我gn="center">95.64</td><td一个l我gn="center">95.79</td></tr><tr> <td align="left">由这些</td><td一个l我gn="center"> <bold> 59.43</bgydF4y2Baold></td> <td align="center">56.23</td><td一个l我gn="center">54.03</td><td一个l我gn="center">56.56</td></tr><tr> <td align="left">虹膜</td><td一个l我gn="center"> <bold> 96.65</bgydF4y2Baold></td> <td align="center">96.43</td><td一个l我gn="center">94.44</td><td一个l我gn="center">95.58</td></tr><tr> <td align="left">段</td><td一个l我gn="center"> <bold> 89.26</bgydF4y2Baold></td> <td align="center">89.17</td><td一个l我gn="center">88.06</td><td一个l我gn="center">87.63</td></tr><tr> <td align="left">信</td><td一个l我gn="center"> <bold> 82.89</bgydF4y2Baold></td> <td align="center">81.67</td><td一个l我gn="center">67.09</td><td一个l我gn="center">75.76</td></tr></tbody> </table> </table-wrap> <table-wrap id="tab4"> <label>表4</l一个bel><p>9日酒精度的比较四种方法的数据集。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">肝</td><td一个l我gn="center"> <bold> 0.7624</bgydF4y2Baold></td> <td align="center">0.7610</td><td一个l我gn="center">0.7572</td><td一个l我gn="center">0.7447</td></tr><tr> <td align="left">糖尿病</td><td一个l我gn="center"> <bold> 0.7640</bgydF4y2Baold></td> <td align="center">0.7624</td><td一个l我gn="center">0.7622</td><td一个l我gn="center">0.7469</td></tr><tr> <td align="left">Wdbc</td><td一个l我gn="center"> <bold> 0.9624</bgydF4y2Baold></td> <td align="center">0.9623</td><td一个l我gn="center">0.9616</td><td一个l我gn="center">0.9474</td></tr><tr> <td align="left">Twonorm</td><td一个l我gn="center"> <bold> 0.9742</bgydF4y2Baold></td> <td align="center">0.9729</td><td一个l我gn="center">0.9729</td><td一个l我gn="center">0.9715</td></tr><tr> <td align="left">酒</td><td一个l我gn="center"> <bold> 0.9622</bgydF4y2Baold></td> <td align="center">0.9584</td><td一个l我gn="center">0.9573</td><td一个l我gn="center">0.9584</td></tr><tr> <td align="left">由这些</td><td一个l我gn="center"> <bold> 0.5959</bgydF4y2Baold></td> <td align="center">0.5622</td><td一个l我gn="center">0.5395</td><td一个l我gn="center">0.5663</td></tr><tr> <td align="left">虹膜</td><td一个l我gn="center"> <bold> 0.9676</bgydF4y2Baold></td> <td align="center">0.9655</td><td一个l我gn="center">0.9450</td><td一个l我gn="center">0.9563</td></tr><tr> <td align="left">段</td><td一个l我gn="center"> <bold> 0.8939</bgydF4y2Baold></td> <td align="center">0.8929</td><td一个l我gn="center">0.8812</td><td一个l我gn="center">0.8766</td></tr><tr> <td align="left">信</td><td一个l我gn="center"> <bold> 0.8330</bgydF4y2Baold></td> <td align="center">0.8204</td><td一个l我gn="center">0.6718</td><td一个l我gn="center">0.7606</td></tr></tbody> </table> </table-wrap> <p>最后,表<xrefgydF4y2Baref-type="table" rid="tab5"> 5</xref>gydF4y2Ba报告的平均时间为每个算法的学习阶段在所有的数据集。正如所料,PL-ELM是最快的方法,因为它没有任何标准样本的评价。拟议中的D-AL-ELM所需的学习时间略高于AL-ELM ELM-Entropy,因为它计算信息量和代表性的每个实例。考虑到分类性能的改进,这额外的时间也可以被认为是一个可以接受的折衷。</p><t一个ble-wrap id="tab5"> <label>表5</l一个bel><p>平均运行时间为每个学习算法(s)。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">肝</td><td一个l我gn="center">0.9141</td><td一个l我gn="center">0.7531</td><td一个l我gn="center">0.7719</td><td一个l我gn="center">0.7453</td></tr><tr> <td align="left">糖尿病</td><td一个l我gn="center">1.2031</td><td一个l我gn="center">1.0438</td><td一个l我gn="center">1.0060</td><td一个l我gn="center">0.9719</td></tr><tr> <td align="left">Wdbc</td><td一个l我gn="center">1.3484</td><td一个l我gn="center">1.2500</td><td一个l我gn="center">1.2828</td><td一个l我gn="center">1.2234</td></tr><tr> <td align="left">Twonorm</td><td一个l我gn="center">7.9813</td><td一个l我gn="center">5.3047</td><td一个l我gn="center">5.5875</td><td一个l我gn="center">4.8844</td></tr><tr> <td align="left">酒</td><td一个l我gn="center">0.5391</td><td一个l我gn="center">0.4625</td><td一个l我gn="center">0.4625</td><td一个l我gn="center">0.4391</td></tr><tr> <td align="left">由这些</td><td一个l我gn="center">0.5109</td><td一个l我gn="center">0.4516</td><td一个l我gn="center">0.4594</td><td一个l我gn="center">0.4203</td></tr><tr> <td align="left">虹膜</td><td一个l我gn="center">0.5250</td><td一个l我gn="center">0.4469</td><td一个l我gn="center">0.4856</td><td一个l我gn="center">0.4313</td></tr><tr> <td align="left">段</td><td一个l我gn="center">3.6578</td><td一个l我gn="center">3.3906</td><td一个l我gn="center">3312年</td><td一个l我gn="center">3.3250</td></tr><tr> <td align="left">信</td><td一个l我gn="center">121.8047</td><td一个l我gn="center">115.5203</td><td一个l我gn="center">123.0641</td><td一个l我gn="center">111.4641</td></tr></tbody> </table> </table-wrap> </sec> <sec id="sec4.1.4"> <title>4.1.4。分析不同批量大小的影响值</t我tle><p>在这个实验中,提出了主动学习方法的性能进一步评估使用不同批量大小(例如,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M153"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M154"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>值)。</p><p>gydF4y2Ba新方法进行了测试与不同的查询大小不同的值<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M155"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M156"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>,分别。剩下的实验设置是一样的在早期的实验和测试进行了两个基准数据集:虹膜和葡萄酒。的<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M157"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M158"> <mml:mi> λ</米米l:米我></米米l:math> </inline-formula>参数设置为<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M159"> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> One hundred.</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mtext> </mml:mtext> <mml:mi> λ</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 0.5</米米l:米n></米米l:mrow> </mml:math> </inline-formula>观察性能与不同批量大小。结果报道在数字<xrefgydF4y2Baref-type="fig" rid="fig2"> 2</xref>gydF4y2Ba和<xrefgydF4y2Baref-type="fig" rid="fig3"> 3</xref>gydF4y2Ba。在图<xrefgydF4y2Baref-type="fig" rid="fig2"> 2</xref>,<gydgydF4y2BaF4y2Ba我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M160"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>是固定在总数的5%的实例在原始标记集和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M161"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>从一组候选人选择吗<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M162"> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mi> h</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 1。1</米米l:米n><米米l:米i> 米</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mn> 1。2</米米l:米n><米米l:米i> 米</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mn> 1。5</米米l:米n><米米l:米i> 米</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mn> 2</米米l:米n><米米l:米i> 米</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mn> 4</米米l:米n><米米l:米i> 米</米米l:米我><米米l:mo> ,</米米l:米o> <mml:mn> 5</米米l:米n><米米l:米i> 米</米米l:米我></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。在图<xrefgydF4y2Baref-type="fig" rid="fig3"> 3</xref>,<gydgydF4y2BaF4y2Ba我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M163"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>在的价值是固定的吗<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M164"> <mml:mrow> <mml:mn> 2</米米l:米n><米米l:米i> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M165"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>选择从<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M166"> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mn> 1</米米l:米n><米米l:米o> %</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 2</米米l:米n><米米l:米o> %</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 4</米米l:米n><米米l:米o> %</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 6</米米l:米n><米米l:米o> %</米米l:米o> <mml:mo> ,</米米l:米o> <mml:mn> 8</米米l:米n><米米l:米o> %</米米l:米o> </mml:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。从图可以看出<xrefgydF4y2Baref-type="fig" rid="fig2"> 2</xref>gydF4y2Ba学习速率的曲线上升更高<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M167"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>值。表现在虹膜并不敏感<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M168"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>价值足够的实例查询时,和学习曲线查询号码和时往往是相似的<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M169"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>值大。相比之下,葡萄酒数据集上的性能也更敏感<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M170"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>。这可能是由于葡萄酒数据集有一个更复杂的分布,这是难以捕捉。虽然D-AL-ELM执行不同的两个数据集,相对更大<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M171"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>值都能够获得良好的性能。另一方面,这增加<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M172"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>值会导致更大的计算负担。图<xrefgydF4y2Baref-type="fig" rid="fig3"> 3</xref>gydF4y2Ba显示不同的值的影响<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M173"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>虹膜和葡萄酒数据集。从这个,这是观察到收敛与小可以更容易地实现<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M174"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>值。另外,当<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M175"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>很大,可以学到更多的实例在每个迭代和总迭代的数量大大减少,尽管这性能提高不提供准确性明显提高。总之,优化<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M176"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M177"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>D-AL-ELM值不是至关重要的,因为大多数的价值观产生类似的结果。然而,值得注意的是,大<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M178"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M179"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>一般建议。</p><f我g-group id="fig2"> <label>图2</l一个bel><p>该算法的学习曲线不同的h值在虹膜和葡萄酒。(一)虹膜。(b)葡萄酒。</p><f我g我d="fig2a"> <label>(一)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.002a"></graphic> </fig> <fig id="fig2b"> <label>(b)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.002b"></graphic> </fig> </fig-group> <fig-group id="fig3"> <label>图3</l一个bel><p>该算法的学习曲线不同的m值在虹膜和葡萄酒。(一)虹膜。(b)葡萄酒。</p><f我g我d="fig3a"> <label>(一)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.003a"></graphic> </fig> <fig id="fig3b"> <label>(b)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.003b"></graphic> </fig> </fig-group> </sec> </sec> <sec id="sec4.2"> <title>4.2。实验多级MI脑电图数据</t我tle><年代ec我d="sec4.2.1"> <title>4.2.1。准备脑电图数据集的描述</t我tle><p>本节进一步评估的性能提出了多级D-AL-ELM方法MI BCI的脑电图数据竞争第四集2 (<xrefgydF4y2Baref-type="bibr" rid="B32"> 32</xref>]gydF4y2Ba。这个数据集包括脑电图信号9受试者执行4任务,包括左手,右手,脚,和舌头MI。使用22电极EEG信号记录。每个主题进行了训练和测试会话,每个组成的288次试验(共有576个试验在两个交易日)。</p></年代ec><年代ec id="sec4.2.2"> <title>4.2.2。实验设置和参数设置</t我tle><p>数据预处理最初原始的脑电图数据上执行。对于每一个试验,提取特征从段持续时间从0.5秒到2.5秒后提示指示执行MI。每个审判第一次带通使用5次巴特沃斯滤波器过滤从8-30赫兹。接下来,EEG信号的维数降低一个24-dimension特性集使用one-versus-rest常见的空间模式(OVR-CSP)算法(<xrefrefgydF4y2Ba-type="bibr" rid="B33"> 33</xref>gydF4y2Ba),这是一个有效的和受欢迎的特征提取方法脑电图multiclassification计算功能,区分每个类从剩下的课程。最后,提取的特性OVR-CSP歧视使用不同的分类方法。</p><p>gydF4y2Ba最优的选择<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M180"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M181"> <mml:mi> λ</米米l:米我></米米l:math> </inline-formula>,<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M182"> <mml:mi> c</米米l:米我></米米l:math> </inline-formula>参数小节中描述的相同的方式执行<xrefgydF4y2Baref-type="sec" rid="sec4.1.2"> 4.1。2</xref>gydF4y2Ba。隐藏节点的数量<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M183"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>搜索在<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M184"> <mml:mrow> <mml:mfenced open="{" close="}" separators="|"> <mml:mrow> <mml:mn> 10年,20年</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mn> …</米米l:米n><米米l:米o> ,</米米l:米o> <mml:mn> 150年</米米l:米n></米米l:mrow> </mml:mfenced> </mml:mrow> </mml:math> </inline-formula>。对于每一个主题,第一个400次试验被认为是作为训练集,而其余176试验被用作独立测试集<xrefgydF4y2Baref-type="bibr" rid="B11"> 11</xref>]gydF4y2Ba。的值<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M185"> <mml:mi> 米</米米l:米我></米米l:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M186"> <mml:mi> h</米米l:米我></米米l:math> </inline-formula>被设定在<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M187"> <mml:mrow> <mml:mi> 米</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 10</米米l:米n></米米l:mrow> </mml:math> </inline-formula>和<我nl我ne-formula> <mml:math xmlns:mml="http://www.w3.org/1998/Math/MathML" id="M188"> <mml:mrow> <mml:mi> h</米米l:米我><米米l:mo> =</米米l:米o> <mml:mn> 5</米米l:米n><米米l:米i> 米</米米l:米我></米米l:mrow> </mml:math> </inline-formula>。最后,实验包括十运行每个学习方法的平均结果计算。</p></年代ec><年代ec id="sec4.2.3"> <title>4.2.3。与相关算法的比较</t我tle><p>图<xrefgydF4y2Baref-type="fig" rid="fig4"> 4</xref>gydF4y2Ba说明了分类精度的趋势线方法应用于不同的测试数据集时,在桌子上<xrefgydF4y2Baref-type="table" rid="tab6"> 6</xref>gydF4y2Ba列出了平均分类精度的四个方法在学习过程中。表<xrefgydF4y2Baref-type="table" rid="tab7"> 7</xref>gydF4y2Ba然后提供酒精度的结果,而表<xrefgydF4y2Baref-type="table" rid="tab8"> 8</xref>gydF4y2Ba显示的平均运行时间(s)学习阶段。</p><f我g-group id="fig4"> <label>图4</l一个bel><p>四个不同的学习算法的学习曲线BCI竞争第四集2 a。(一)S1。(b) S2。(c) S3。(d) S4。S5 (e)。(f) S6。(g) S7。S8 (h)。(我)S9。</p><f我g我d="fig4a"> <label>(一)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004a"></graphic> </fig> <fig id="fig4b"> <label>(b)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004b"></graphic> </fig> <fig id="fig4c"> <label>(c)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004c"></graphic> </fig> <fig id="fig4d"> <label>(d)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004d"></graphic> </fig> <fig id="fig4e"> <label>(e)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004e"></graphic> </fig> <fig id="fig4f"> <label>(f)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004f"></graphic> </fig> <fig id="fig4g"> <label>(g)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004g"></graphic> </fig> <fig id="fig4h"> <label>(h)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004h"></graphic> </fig> <fig id="fig4i"> <label>(我)</l一个bel><gr一个ph我cxlink:href="//www.newsama.com/downloads/journals/cin/2020/3287589.fig.004i"></graphic> </fig> </fig-group> <table-wrap id="tab6"> <label>表6</l一个bel><p>的意思是学习过程的精度(%)BCI竞争第四集2 a。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">S1</td><td一个l我gn="center"> <bold> 83.78</bgydF4y2Baold></td> <td align="center">83.64</td><td一个l我gn="center">83.32</td><td一个l我gn="center">83.76</td></tr><tr> <td align="left">S2</td><td一个l我gn="center">53.91</td><td一个l我gn="center">52.50</td><td一个l我gn="center">52.33</td><td一个l我gn="center"> <bold> 54.55</bgydF4y2Baold></td> </tr> <tr> <td align="left">S3</td><td一个l我gn="center">85.66</td><td一个l我gn="center"> <bold> 86.06</bgydF4y2Baold></td> <td align="center">85.57</td><td一个l我gn="center">84.39</td></tr><tr> <td align="left">S4</td><td一个l我gn="center"> <bold> 65.32</bgydF4y2Baold></td> <td align="center">63.48</td><td一个l我gn="center">62.94</td><td一个l我gn="center">64.95</td></tr><tr> <td align="left">S5</td><td一个l我gn="center"> <bold> 49.06</bgydF4y2Baold></td> <td align="center">48.90</td><td一个l我gn="center">47.79</td><td一个l我gn="center">48.00</td></tr><tr> <td align="left">S6</td><td一个l我gn="center"> <bold> 54.31</bgydF4y2Baold></td> <td align="center">53.96</td><td一个l我gn="center">52.97</td><td一个l我gn="center">52.36</td></tr><tr> <td align="left">S7</td><td一个l我gn="center">83.15</td><td一个l我gn="center"> <bold> 83.34</bgydF4y2Baold></td> <td align="center">82.45</td><td一个l我gn="center">81.96</td></tr><tr> <td align="left">S8</td><td一个l我gn="center">83.46</td><td一个l我gn="center"> <bold> 83.56</bgydF4y2Baold></td> <td align="center">83.34</td><td一个l我gn="center">81.71</td></tr><tr> <td align="left">S9</td><td一个l我gn="center"> <bold> 83.57</bgydF4y2Baold></td> <td align="center">82.80</td><td一个l我gn="center">82.39</td><td一个l我gn="center">82.91</td></tr><tr> <td align="left">的意思是</td><td一个l我gn="center"> <bold> 71.36</bgydF4y2Baold></td> <td align="center">70.92</td><td一个l我gn="center">70.34</td><td一个l我gn="center">70.51</td></tr></tbody> </table> </table-wrap> <table-wrap id="tab7"> <label>表7</l一个bel><p>酒精度价值观的四个方法BCI竞争第四集2 a。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">S1</td><td一个l我gn="center"> <bold> 81.22</bgydF4y2Baold></td> <td align="center">0.8109</td><td一个l我gn="center">0.8076</td><td一个l我gn="center">81.21</td></tr><tr> <td align="left">S2</td><td一个l我gn="center">0.5238</td><td一个l我gn="center">0.5100</td><td一个l我gn="center">0.5085</td><td一个l我gn="center"> <bold> 0.5296</bgydF4y2Baold></td> </tr> <tr> <td align="left">S3</td><td一个l我gn="center">0.8302</td><td一个l我gn="center"> <bold> 0.8340</bgydF4y2Baold></td> <td align="center">0.8291</td><td一个l我gn="center">0.8177</td></tr><tr> <td align="left">S4</td><td一个l我gn="center"> <bold> 0.6340</bgydF4y2Baold></td> <td align="center">0.6159</td><td一个l我gn="center">0.6105</td><td一个l我gn="center">0.6308</td></tr><tr> <td align="left">S5</td><td一个l我gn="center"> <bold> 0.4764</bgydF4y2Baold></td> <td align="center">0.4749</td><td一个l我gn="center">0.4638</td><td一个l我gn="center">0.4662</td></tr><tr> <td align="left">S6</td><td一个l我gn="center"> <bold> 0.5276</bgydF4y2Baold></td> <td align="center">0.5241</td><td一个l我gn="center">0.5144</td><td一个l我gn="center">0.5088</td></tr><tr> <td align="left">S7</td><td一个l我gn="center">0.8066</td><td一个l我gn="center"> <bold> 0.8085</bgydF4y2Baold></td> <td align="center">0.7996</td><td一个l我gn="center">0.7952</td></tr><tr> <td align="left">S8</td><td一个l我gn="center">0.8090</td><td一个l我gn="center"> <bold> 0.8100</bgydF4y2Baold></td> <td align="center">0.8079</td><td一个l我gn="center">0.7923</td></tr><tr> <td align="left">S9</td><td一个l我gn="center"> <bold> 0.8103</bgydF4y2Baold></td> <td align="center">0.8032</td><td一个l我gn="center">0.7992</td><td一个l我gn="center">0.8042</td></tr></tbody> </table> </table-wrap> <table-wrap id="tab8"> <label>表8</l一个bel><p>平均运行时间(s)的学习算法。</p><t一个ble><thead> <tr> <th align="left">数据集</th><th一个l我gn="center">D-AL-ELM</th><th一个l我gn="center">AL-ELM</th><th一个l我gn="center">ELM-Entropy</th><th一个l我gn="center">PL-ELM</th></tr></thead> <tbody> <tr> <td align="left">S1</td><td一个l我gn="center">1.7266</td><td一个l我gn="center">1.4625</td><td一个l我gn="center">1.4594</td><td一个l我gn="center">1.4172</td></tr><tr> <td align="left">S2</td><td一个l我gn="center">2.5125</td><td一个l我gn="center">2.2813</td><td一个l我gn="center">2.3859</td><td一个l我gn="center">2.2469</td></tr><tr> <td align="left">S3</td><td一个l我gn="center">1.7219</td><td一个l我gn="center">1.4859</td><td一个l我gn="center">1.4578</td><td一个l我gn="center">1.4234</td></tr><tr> <td align="left">S4</td><td一个l我gn="center">2.0719</td><td一个l我gn="center">1.7891</td><td一个l我gn="center">1.8328</td><td一个l我gn="center">1.8125</td></tr><tr> <td align="left">S5</td><td一个l我gn="center">2.0781</td><td一个l我gn="center">1.8281</td><td一个l我gn="center">1.8141</td><td一个l我gn="center">1.7719</td></tr><tr> <td align="left">S6</td><td一个l我gn="center">1.7609</td><td一个l我gn="center">1.4594</td><td一个l我gn="center">1.4094</td><td一个l我gn="center">1.3609</td></tr><tr> <td align="left">S7</td><td一个l我gn="center">2.4188</td><td一个l我gn="center">2.1969</td><td一个l我gn="center">2.1734</td><td一个l我gn="center">2.1641</td></tr><tr> <td align="left">S8</td><td一个l我gn="center">1.5562</td><td一个l我gn="center">1.3375</td><td一个l我gn="center">1.3609</td><td一个l我gn="center">1.3078</td></tr><tr> <td align="left">S9</td><td一个l我gn="center">1.2906</td><td一个l我gn="center">0.9484</td><td一个l我gn="center">0.9563</td><td一个l我gn="center">0.8906</td></tr><tr> <td align="left">的意思是</td><td一个l我gn="center">1.9042</td><td一个l我gn="center">1.6432</td><td一个l我gn="center">1.6500</td><td一个l我gn="center">1.5995</td></tr></tbody> </table> </table-wrap> <p>D-AL-ELM方法的结果表明,性能相当的AL-ELM优于ELM-Entropy和PL-ELM算法对所有主题(主题2 PL-ELM除外)。具体来说,该方法超越了AL-ELM方法在6 9主题(1、2、4、5、6、9)酒精度度量。所有9个科目,D-AL-ELM方法取得了平均准确率为71.36%,高于AL-ELM (70.92%)、ELM-Entropy(70.34%),和PL-ELM (70.51%)。这些结果证明的有效性D-AL-ELM在选择信息和从无标号脑电图样本代表性实例。此外,它们显示,该方法可以校准MI EEG信号的有效分类器不需要大量的训练样本的标签。</p><p>gydF4y2Ba为了比较,表<xrefgydF4y2Baref-type="table" rid="tab8"> 8</xref>gydF4y2Ba还提供了每个学习算法的平均运行时间。虽然D-AL-ELM表现出比其他三种方法训练时间稍微长一点,这可能被视为一个有价值的权衡D-AL-ELM改善分类性能。</p></年代ec></年代ec> <sec id="sec4.3"> <title>4.3。讨论</t我tle><p>在这些实验中,提出了D-AL-ELM方法表现出优良的性能在分类精度和计算效率,在几个基准数据集和一个实验性的MI脑电图数据集。基于一个被动的学习相比,榆树,D-AL-ELM达到提高性能通过有效地提取最有价值的未标记样本。D-AL-ELM也优于AL-ELM和ELM-Entropy算法,都采用单查询策略。改进被认为在所有九节的数据集<xrefrefgydF4y2Ba-type="sec" rid="sec4.1"> 4.1</xref>,gydF4y2Ba证明D-AL-ELM促进学习的整体性能的能力相结合的不确定性和多样性策略更新分类器时所选择的样本。在计算效率方面,D-AL-ELM轻微增加培训时间,PL-ELM相比,AL-ELM, ELM-Entropy,在实践中是微不足道的,尤其是当考虑到提高分类精度。实验结果表明,该算法可以有效和全面衡量样本的代表性。同时,该方法还衡量的个别例子,有助于提高分类器的性能。结合这些因素,可以选择合适的实例来分类器结构。</p><p>gydF4y2Ba最后,D-AL-ELM所示其应用的有效性实验从BCI多级MI任务竞争第四集2 a。由于低信噪比的脑电图数据,应用算法难以产生足够的结果。因此,hand-designed特性首次从原料中提取使用OVR-CSP脑电图数据的方法,和不同的算法被用于进一步提取标记样品和校准一个健壮的分类器。受试者S1、S3 S7、S8和S9 D-AL-ELM产生一个可接受平均分类精度高80%以上的整个学习过程。不幸的是,所有测试方法在主题S5表现得更差。该算法仅能达到49.06%的准确率,但仍不够,应用中排名最高的方法。</p></年代ec></年代ec> <sec id="sec5"> <title>5。结论</t我tle><p>在本文中,一种新颖的主动学习方法与榆树,D-AL-ELM, multiclassification发达。这个新算法结合了不确定性和多样性策略,有效减少了手动获取带安全标签的数据时的费用和时间成本。为每个示例中,该算法采用BvSB策略测量信息量和余弦角距离测量的多样性。修改后的多样性度量之间的多样性不仅估计标签的训练数据和先前选定的标记样本有限,而且计算之前选定的样本之间的相似性。实验结果从几个基准数据集和多级MI脑电图数据从BCI竞争第四2数据集被用来验证D-AL-ELM提出算法的有效性。这些结果表明,该算法的性能比,或者至少与其他受欢迎的主动学习方法。未来的工作将致力于制定D-AL-ELM(在线学习<xrefrefgydF4y2Ba-type="bibr" rid="B23"> 23</xref>,<xrefgydgydF4y2BaF4y2Baref-type="bibr" rid="B34"> 34</xref>]gydF4y2Ba。此外,一种自适应的停止标准可能适用于促进D-AL-ELM的效率和改善其能力MI EEG信号的分类和评价。</p></年代ec><b一个ck> <sec sec-type="data-availability"> <title>数据可用性</t我tle><p>BCI竞争第四集2使用在我们的研究中,这是公开通过以下链接:<extgydF4y2Ba-link ext-link-type="uri" xlink:href="http://www.bbci.de/competition/iv/"> http://www.bbci.de/competition/iv/</extgydF4y2Ba-link>。</p></年代ec><年代ec sec-type="COI-statement"> <title>的利益冲突</t我tle><p>作者宣称没有利益冲突有关这篇文章的出版。</p></年代ec><一个ck> <title>确认</t我tle><p>这项工作得到了国家自然科学基金(61871427和61871427号)。作者要感谢BCI竞争第四集2用来测试算法提出了研究。</p></一个ck> <ref-list> <ref id="B1" content-type="article"> <label>1</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 乐天</年代urn一个米e><g我ven-names> F。</g我ven-names> </name> <name> <surname> Bougrain</年代urn一个米e><g我ven-names> l</g我ven-names> </name> <name> <surname> Cichocki</年代urn一个米e><g我ven-names> 一个。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 因为它使得基于脑电图分类算法的评估脑-机接口:10年更新</一个rt我cle-title> <source> <italic> 《神经工程</我t一个l我c><ye一个r> 2018年</ye一个r><volume> 15</vgydF4y2Baolume> <issue> 3</我年代年代ue><fp一个ge>031005年年</fp一个ge><pub-id pub-id-type="doi"> 10.1088 / 1741 - 2552 / aab2f2</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85040605067</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B2" content-type="article"> <label>2</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Gonzalez-Navarro</年代urn一个米e><g我ven-names> P。</g我ven-names> </name> <name> <surname> Moghadamfalahi</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> Akcakaya</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> Erdogmus</年代urn一个米e><g我ven-names> D。</g我ven-names> </name> </person-group> <article-title> 时空脑电图大脑接口模型</一个rt我cle-title> <source> <italic> 信号处理</我t一个l我c><ye一个r> 2017年</ye一个r><volume> 131年</vgydF4y2Baolume> <fpage> 333年</fp一个ge><lp一个ge>343年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.sigpro.2016.08.001</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84984682122</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B3" content-type="article"> <label>3</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 盎</年代urn一个米e><g我ven-names> K·K。</g我ven-names> </name> <name> <surname> 关</年代urn一个米e><g我ven-names> C。</g我ven-names> </name> </person-group> <article-title> EEG-based策略检测控制和康复运动图像</一个rt我cle-title> <source> <italic> IEEE神经系统和康复工程</我t一个l我c><ye一个r> 2017年</ye一个r><volume> 25</vgydF4y2Baolume> <issue> 4</我年代年代ue><fp一个ge>392年年</fp一个ge><lp一个ge>401年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tnsre.2016.2646763</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85018496209</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B4" content-type="article"> <label>4</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 张</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 李</年代urn一个米e><g我ven-names> Y。</g我ven-names> </name> <name> <surname> 杨ydF4y2Ba</surname> <given-names> Y。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 轮椅的控制在一个室内环境中基于脑机接口和自动导航</一个rt我cle-title> <source> <italic> IEEE神经系统和康复工程</我t一个l我c><ye一个r> 2016年</ye一个r><volume> 24</vgydF4y2Baolume> <issue> 1</我年代年代ue><fp一个ge>128年年</fp一个ge><lp一个ge>139年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tnsre.2015.2439298</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85015372444</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B5" content-type="article"> <label>5</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 她</年代urn一个米e><g我ven-names> Q。</g我ven-names> </name> <name> <surname> 氮化镓</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <name> <surname> 马</年代urn一个米e><g我ven-names> Y。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 在低维子空间尺度信号识别:运动图像分类任务</一个rt我cle-title> <source> <italic> 神经可塑性</我t一个l我c><ye一个r> 2016年</ye一个r><volume> 2016年</vgydF4y2Baolume> <fpage> 15</fp一个ge><pub-id pub-id-type="publisher-id"> 7431012</pubgydF4y2Ba-id> <pub-id pub-id-type="doi"> 10.1155 / 2016/7431012</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84997096249</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B6" content-type="article"> <label>6</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 李</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 波特</年代urn一个米e><g我ven-names> T。</g我ven-names> </name> <name> <surname> 黄</年代urn一个米e><g我ven-names> W。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 提高性能的混合EEG-fNIRS系统使用通道选择和早期的时间特性</一个rt我cle-title> <source> <italic> 人类神经科学前沿</我t一个l我c><ye一个r> 2017年</ye一个r><volume> 11</vgydF4y2Baolume> <fpage> 462年</fp一个ge><pub-id pub-id-type="doi"> 10.3389 / fnhum.2017.00462</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85032028463</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B7" content-type="article"> <label>7</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 白肢野牛</年代urn一个米e><g我ven-names> P。</g我ven-names> </name> <name> <surname> Pachori</年代urn一个米e><g我ven-names> r B。</g我ven-names> </name> <name> <surname> 王</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <name> <surname> 普拉萨德</年代urn一个米e><g我ven-names> G。</g我ven-names> </name> </person-group> <article-title> 因为它使得基于脑电图多BCI分类使用基于多元经验模态分解的过滤和黎曼几何</一个rt我cle-title> <source> <italic> 专家系统与应用程序</我t一个l我c><ye一个r> 2018年</ye一个r><volume> 95年</vgydF4y2Baolume> <issue> 1</我年代年代ue><fp一个ge>201年年</fp一个ge><lp一个ge>211年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.eswa.2017.11.007</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85035032087</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B8" content-type="article"> <label>8</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 李</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <name> <surname> 张</年代urn一个米e><g我ven-names> l</g我ven-names> </name> </person-group> <article-title> 积极训练对运动图像BCI范式</一个rt我cle-title> <source> <italic> 大脑研究实验</我t一个l我c><ye一个r> 2012年</ye一个r><volume> 219年</vgydF4y2Baolume> <issue> 2</我年代年代ue><fp一个ge>245年年</fp一个ge><lp一个ge>254年年</lp一个ge><pub-id pub-id-type="doi"> 10.1007 / s00221 - 012 - 3084 - x</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84862905599</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B9" content-type="article"> <label>9</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 弗洛伊德</年代urn一个米e><g我ven-names> Y。</g我ven-names> </name> <name> <surname> Seung</年代urn一个米e><g我ven-names> h·S。</g我ven-names> </name> <name> <surname> 沙密</年代urn一个米e><g我ven-names> E。</g我ven-names> </name> <name> <surname> Tishby</年代urn一个米e><g我ven-names> N。</g我ven-names> </name> </person-group> <article-title> 选择性抽样由委员会使用查询算法</一个rt我cle-title> <source> <italic> 机器学习</我t一个l我c><ye一个r> 1997年</ye一个r><volume> 28</vgydF4y2Baolume> <issue> 2/3</我年代年代ue><fp一个ge>133年年</fp一个ge><lp一个ge>168年年</lp一个ge><pub-id pub-id-type="doi"> 10.1023 /:1007330508534</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B10" content-type="article"> <label>10</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 凯</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 德尔卡斯蒂略</年代urn一个米e><g我ven-names> E。</g我ven-names> </name> <name> <surname> 响</年代urn一个米e><g我ven-names> G。</g我ven-names> </name> </person-group> <article-title> Query-by-committee改善批主动学习的多样性和密度</一个rt我cle-title> <source> <italic> 信息科学</我t一个l我c><ye一个r> 2018年</ye一个r><volume> 454 - 455</vgydF4y2Baolume> <fpage> 401年</fp一个ge><lp一个ge>418年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.ins.2018.05.014</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85046825582</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B11" content-type="inproceedings"> <label>11</l一个bel><ele米ent-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> Lawhern</年代urn一个米e><g我ven-names> V。</g我ven-names> </name> <name> <surname> Slayback</年代urn一个米e><g我ven-names> D。</g我ven-names> </name> <name> <surname> 吴</年代urn一个米e><g我ven-names> D。</g我ven-names> </name> <etal></etal> </person-group> <article-title> EEG信号的有效标识工件使用主动学习</一个rt我cle-title> <conf-name> 学报IEEE国际会议系统,人,控制论</cgydF4y2Baonf-name> <conf-date> 2015年10月</cgydF4y2Baonf-date> <conf-loc> 九龙,中国</cgydF4y2Baonf-loc> <fpage> 3217年</fp一个ge><lp一个ge>3222年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / smc.2015.558</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84964413693</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B12" content-type="article"> <label>12</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 陈</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> 棕褐色</年代urn一个米e><g我ven-names> X。</g我ven-names> </name> <name> <surname> 氮化镓</年代urn一个米e><g我ven-names> j . Q。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 基于最近的一个批处理模式的主动学习方法班级的平均距离(协会)多级脑-机接口</一个rt我cle-title> <source> <italic> 纤维生物工程和信息学杂志》上</我t一个l我c><ye一个r> 2014年</ye一个r><volume> 7</vgydF4y2Baolume> <issue> 4</我年代年代ue><fp一个ge>627年年</fp一个ge><lp一个ge>636年年</lp一个ge></ele米ent-citation> </ref> <ref id="B13" content-type="article"> <label>13</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 余</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <name> <surname> 太阳</年代urn一个米e><g我ven-names> C。</g我ven-names> </name> <name> <surname> 杨</年代urn一个米e><g我ven-names> W。</g我ven-names> </name> <name> <surname> 杨</年代urn一个米e><g我ven-names> X。</g我ven-names> </name> <name> <surname> 左</年代urn一个米e><g我ven-names> X。</g我ven-names> </name> </person-group> <article-title> AL-ELM:一个uncertainty-based积极使用极端的学习机器学习算法</一个rt我cle-title> <source> <italic> Neurocomputing</我t一个l我c><ye一个r> 2015年</ye一个r><volume> 166年</vgydF4y2Baolume> <fpage> 140年</fp一个ge><lp一个ge>150年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.neucom.2015.04.019</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84931559999</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B14" content-type="inproceedings"> <label>14</l一个bel><ele米ent-citation publication-type="confproc"> <person-group person-group-type="author"> <name> <surname> 王</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 邝</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 江</年代urn一个米e><g我ven-names> Q。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 基于单隐层前馈神经网络的主动学习</一个rt我cle-title> <conf-name> 学报IEEE国际会议系统,人,控制论</cgydF4y2Baonf-name> <conf-date> 2015年10月</cgydF4y2Baonf-date> <conf-loc> 九龙,中国</cgydF4y2Baonf-loc> <fpage> 2158年</fp一个ge><lp一个ge>2163年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / smc.2015.377</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84964523738</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B15" content-type="article"> <label>15</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 邱</年代urn一个米e><g我ven-names> Z。</g我ven-names> </name> <name> <surname> 米勒</年代urn一个米e><g我ven-names> d . J。</g我ven-names> </name> <name> <surname> Kesidis</年代urn一个米e><g我ven-names> G。</g我ven-names> </name> </person-group> <article-title> 一个最大熵semisupervised框架和主动学习未知和label-scarce类</一个rt我cle-title> <source> <italic> IEEE神经网络和学习系统</我t一个l我c><ye一个r> 2017年</ye一个r><volume> 28</vgydF4y2Baolume> <issue> 4</我年代年代ue><fp一个ge>917年年</fp一个ge><lp一个ge>933年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tnnls.2016.2514401</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84961370132</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B16" content-type="article"> <label>16</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 将挑战</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 王</年代urn一个米e><g我ven-names> Z。</g我ven-names> </name> <name> <surname> 风扇</年代urn一个米e><g我ven-names> W。</g我ven-names> </name> <name> <surname> 戴维森</年代urn一个米e><g我ven-names> 我。</g我ven-names> </name> <name> <surname> Panchanathan</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 叶</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> </person-group> <article-title> 批处理模式主动采样基于边际概率分布匹配</一个rt我cle-title> <source> <italic> ACM交易数据的知识发现</我t一个l我c><ye一个r> 2013年</ye一个r><volume> 7</vgydF4y2Baolume> <issue> 3</我年代年代ue><fp一个ge>1</fp一个ge><lp一个ge>25</lp一个ge><pub-id pub-id-type="doi"> 10.1145/2513092.2513094</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84884991180</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B17" content-type="article"> <label>17</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 易卜拉欣</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <name> <surname> 阿巴斯</年代urn一个米e><g我ven-names> K。</g我ven-names> </name> <name> <surname> Imali</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 多级信息实例转移学习框架运动想象脑机接口</一个rt我cle-title> <source> <italic> 计算智能和神经科学</我t一个l我c><ye一个r> 2018年</ye一个r><volume> 2018年</vgydF4y2Baolume> <lpage> 12</lp一个ge><pub-id pub-id-type="publisher-id"> 6323414</pubgydF4y2Ba-id> <pub-id pub-id-type="doi"> 10.1155 / 2018/6323414</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85043463069</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B18" content-type="article"> <label>18</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 通</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 科勒</年代urn一个米e><g我ven-names> D。</g我ven-names> </name> </person-group> <article-title> 支持向量机主动学习与应用程序文本分类</一个rt我cle-title> <source> <italic> 机器学习研究杂志》上</我t一个l我c><ye一个r> 2001年</ye一个r><volume> 2</vgydF4y2Baolume> <issue> 11月</我年代年代ue><fp一个ge>45</fp一个ge><lp一个ge>66年年</lp一个ge></ele米ent-citation> </ref> <ref id="B19" content-type="article"> <label>19</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 海</年代urn一个米e><g我ven-names> s . c . H。</g我ven-names> </name> <name> <surname> 金</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 朱</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <name> <surname> 律</年代urn一个米e><g我ven-names> m·R。</g我ven-names> </name> </person-group> <article-title> Semisupervised SVM批处理模式主动学习与应用程序图像检索</一个rt我cle-title> <source> <italic> ACM交易信息系统</我t一个l我c><ye一个r> 2009年</ye一个r><volume> 27</vgydF4y2Baolume> <issue> 3</我年代年代ue><fp一个ge>1</fp一个ge><lp一个ge>29日日</lp一个ge><pub-id pub-id-type="doi"> 10.1145/1508850.1508854</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 68549086546</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B20" content-type="article"> <label>20.</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 张</年代urn一个米e><g我ven-names> Q。</g我ven-names> </name> <name> <surname> 太阳</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> </person-group> <article-title> 多视图multiple-learner主动学习</一个rt我cle-title> <source> <italic> 模式识别</我t一个l我c><ye一个r> 2010年</ye一个r><volume> 43</vgydF4y2Baolume> <issue> 9</我年代年代ue><fp一个ge>3113年年</fp一个ge><lp一个ge>3119年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.patcog.2010.04.004</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 78650197593</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B21" content-type="article"> <label>21</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 黄</年代urn一个米e><g我ven-names> G.-B。</g我ven-names> </name> <name> <surname> 朱</年代urn一个米e><g我ven-names> 徐瑞秋</g我ven-names> </name> <name> <surname> 萧</年代urn一个米e><g我ven-names> C.-K。</g我ven-names> </name> </person-group> <article-title> 极端的学习机器:理论和应用程序</一个rt我cle-title> <source> <italic> Neurocomputing</我t一个l我c><ye一个r> 2006年</ye一个r><volume> 70年</vgydF4y2Baolume> <issue> 1 - 3</我年代年代ue><fp一个ge>489年年</fp一个ge><lp一个ge>501年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.neucom.2005.12.126</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 33745903481</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B22" content-type="article"> <label>22</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 黄</年代urn一个米e><g我ven-names> G。</g我ven-names> </name> <name> <surname> 黄</年代urn一个米e><g我ven-names> G.-B。</g我ven-names> </name> <name> <surname> 首歌</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 你</年代urn一个米e><g我ven-names> K。</g我ven-names> </name> </person-group> <article-title> 趋势在极端的学习机器:一个回顾</一个rt我cle-title> <source> <italic> 神经网络</我t一个l我c><ye一个r> 2015年</ye一个r><volume> 61年</vgydF4y2Baolume> <fpage> 32</fp一个ge><lp一个ge>48</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.neunet.2014.10.001</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84908682236</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B23" content-type="article"> <label>23</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 张</年代urn一个米e><g我ven-names> Y。</g我ven-names> </name> <name> <surname> 呃</年代urn一个米e><g我ven-names> m·J。</g我ven-names> </name> </person-group> <article-title> 连续的主动学习使用元认知极端的学习机器</一个rt我cle-title> <source> <italic> Neurocomputing</我t一个l我c><ye一个r> 2016年</ye一个r><volume> 173年</vgydF4y2Baolume> <issue> P3</我年代年代ue><fp一个ge>835年年</fp一个ge><lp一个ge>844年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.neucom.2015.08.037</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84959336918</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B24" content-type="article"> <label>24</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 杜</年代urn一个米e><g我ven-names> B。</g我ven-names> </name> <name> <surname> 王</年代urn一个米e><g我ven-names> Z。</g我ven-names> </name> <name> <surname> 张</年代urn一个米e><g我ven-names> l</g我ven-names> </name> <etal></etal> </person-group> <article-title> 主动学习探索代表性和忠实度</一个rt我cle-title> <source> <italic> IEEE控制论</我t一个l我c><ye一个r> 2017年</ye一个r><volume> 47</vgydF4y2Baolume> <issue> 1</我年代年代ue><fp一个ge>14</fp一个ge><lp一个ge>26</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tcyb.2015.2496974</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 85027542157</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B25" content-type="article"> <label>25</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 顾</年代urn一个米e><g我ven-names> Y。</g我ven-names> </name> <name> <surname> 赵</年代urn一个米e><g我ven-names> s . C。</g我ven-names> </name> <name> <surname> 金</年代urn一个米e><g我ven-names> Z。</g我ven-names> </name> </person-group> <article-title> 主动学习相结合的多层次的影像分类的不确定性和多样性</一个rt我cle-title> <source> <italic> 专业计算机视觉</我t一个l我c><ye一个r> 2015年</ye一个r><volume> 9</vgydF4y2Baolume> <issue> 3</我年代年代ue><fp一个ge>400年年</fp一个ge><lp一个ge>407年年</lp一个ge><pub-id pub-id-type="doi"> 10.1049 / iet-cvi.2014.0140</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84929405653</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B26" content-type="article"> <label>26</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 黄</年代urn一个米e><g我ven-names> S.-J。</g我ven-names> </name> <name> <surname> 金</年代urn一个米e><g我ven-names> R。</g我ven-names> </name> <name> <surname> 周</年代urn一个米e><g我ven-names> Z.-H。</g我ven-names> </name> </person-group> <article-title> 主动学习通过查询信息和代表性的例子</一个rt我cle-title> <source> <italic> IEEE模式分析与机器智能</我t一个l我c><ye一个r> 2014年</ye一个r><volume> 36</vgydF4y2Baolume> <issue> 10</我年代年代ue><fp一个ge>1936年年</fp一个ge><lp一个ge>1949年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tpami.2014.2307881</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84922580023</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B27" content-type="article"> <label>27</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 黄</年代urn一个米e><g我ven-names> g . B。</g我ven-names> </name> <name> <surname> 周</年代urn一个米e><g我ven-names> H。</g我ven-names> </name> <name> <surname> 丁</年代urn一个米e><g我ven-names> X。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 极端的学习机器的回归和多级分类</一个rt我cle-title> <source> <italic> IEEE系统&控制论B部分人</我t一个l我c><ye一个r> 2012年</ye一个r><volume> 42</vgydF4y2Baolume> <issue> 2</我年代年代ue><fp一个ge>513年年</fp一个ge><lp一个ge>529年年</lp一个ge></ele米ent-citation> </ref> <ref id="B28" content-type="article"> <label>28</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Joshi</年代urn一个米e><g我ven-names> a·J。</g我ven-names> </name> <name> <surname> Porikli</年代urn一个米e><g我ven-names> F。</g我ven-names> </name> <name> <surname> Papanikolopoulos</年代urn一个米e><g我ven-names> n P。</g我ven-names> </name> </person-group> <article-title> 可伸缩的多级图像分类的主动学习</一个rt我cle-title> <source> <italic> IEEE模式分析与机器智能</我t一个l我c><ye一个r> 2012年</ye一个r><volume> 34</vgydF4y2Baolume> <issue> 11</我年代年代ue><fp一个ge>2259年年</fp一个ge><lp一个ge>2273年年</lp一个ge><pub-id pub-id-type="doi"> 10.1109 / tpami.2012.21</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84866702739</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B29" content-type="article"> <label>29日</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Alcala-Fdez</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <name> <surname> 费尔南德斯</年代urn一个米e><g我ven-names> 一个。</g我ven-names> </name> <name> <surname> Luengo</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 龙骨数据挖掘软件工具:数据集的存储库,算法和实验分析框架的集成</一个rt我cle-title> <source> <italic> 《多元逻辑与软计算</我t一个l我c><ye一个r> 2011年</ye一个r><volume> 17</vgydF4y2Baolume> <fpage> 255年</fp一个ge><lp一个ge>287年年</lp一个ge></ele米ent-citation> </ref> <ref id="B30" content-type="book"> <label>30.</l一个bel><ele米ent-citation publication-type="book"> <person-group person-group-type="author"> <name> <surname> Dua</年代urn一个米e><g我ven-names> D。</g我ven-names> </name> <name> <surname> 。卡拉Taniskidou</年代urn一个米e><g我ven-names> E。</g我ven-names> </name> </person-group> <source> <italic> UCI机器学习库</我t一个l我c><ye一个r> 2017年</ye一个r><comment> <ext-link ext-link-type="uri" xlink:href="http://archive.ics.uci.edu/ml/"> http://archive.ics.uci.edu/ml/</extgydF4y2Ba-link> </comment> </element-citation> </ref> <ref id="B31" content-type="article"> <label>31日</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 曹</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <name> <surname> 张</年代urn一个米e><g我ven-names> K。</g我ven-names> </name> <name> <surname> 罗</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> 阴</年代urn一个米e><g我ven-names> C。</g我ven-names> </name> <name> <surname> 赖</年代urn一个米e><g我ven-names> X。</g我ven-names> </name> </person-group> <article-title> 极端学习机和自适应稀疏表示的图像分类</一个rt我cle-title> <source> <italic> 神经网络</我t一个l我c><ye一个r> 2016年</ye一个r><volume> 81年</vgydF4y2Baolume> <fpage> 91年</fp一个ge><lp一个ge>102年年</lp一个ge><pub-id pub-id-type="doi"> 10.1016 / j.neunet.2016.06.001</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84977260565</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B32" content-type="article"> <label>32</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Tangermann</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> 穆勒</年代urn一个米e><g我ven-names> k·R。</g我ven-names> </name> <name> <surname> Aertsen</年代urn一个米e><g我ven-names> 一个。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 审查的BCI竞争第四</一个rt我cle-title> <source> <italic> 神经科学前沿</我t一个l我c><ye一个r> 2012年</ye一个r><volume> 6</vgydF4y2Baolume> <fpage> 55</fp一个ge><pub-id pub-id-type="doi"> 10.3389 / fnins.2012.00055</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84857805414</pubgydF4y2Ba-id> </element-citation> </ref> <ref id="B33" content-type="article"> <label>33</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> 孟</年代urn一个米e><g我ven-names> M。</g我ven-names> </name> <name> <surname> 朱</年代urn一个米e><g我ven-names> J。</g我ven-names> </name> <name> <surname> 她</年代urn一个米e><g我ven-names> Q。</g我ven-names> </name> <etal></etal> </person-group> <article-title> 两级多层次运动图像脑电图特征提取方法</一个rt我cle-title> <source> <italic> 《自动化学报》</我t一个l我c><ye一个r> 2016年</ye一个r><volume> 42</vgydF4y2Baolume> <issue> 12</我年代年代ue><fp一个ge>1915年年</fp一个ge><lp一个ge>1922年年</lp一个ge></ele米ent-citation> </ref> <ref id="B34" content-type="article"> <label>34</l一个bel><ele米ent-citation publication-type="journal"> <person-group person-group-type="author"> <name> <surname> Lim</年代urn一个米e><g我ven-names> j·S。</g我ven-names> </name> <name> <surname> 李</年代urn一个米e><g我ven-names> 年代。</g我ven-names> </name> <name> <surname> 庞</年代urn一个米e><g我ven-names> h·S。</g我ven-names> </name> </person-group> <article-title> 低复杂度的自适应遗忘因子的在线连续极端学习机(OS-ELM)应用程序的非平稳系统估计</一个rt我cle-title> <source> <italic> 神经计算与应用</我t一个l我c><ye一个r> 2013年</ye一个r><volume> 22</vgydF4y2Baolume> <issue> 3 - 4</我年代年代ue><fp一个ge>569年年</fp一个ge><lp一个ge>576年年</lp一个ge><pub-id pub-id-type="doi"> 10.1007 / s00521 - 012 - 0873 - x</pubgydF4y2Ba-id> <pub-id pub-id-type="other"> 2 - s2.0 - 84874020798</pubgydF4y2Ba-id> </element-citation> </ref> </ref-list> </back> </article> </body> </html>