可翻译的学习方法在静息状态功能连通性分析:自闭症谱系障碍的情况

文摘

深层神经网络已经应用于研究脑部疾病,如自闭症谱系障碍(ASD)取得了巨大的成功。然而,这些网络的内部逻辑很难解释,尤其是对特定的网络体系结构决策是如何制造的。在本文中,我们研究一个解释的神经网络模型作为一种方法来识别自闭症参与者从功能性磁共振成像(fMRI)模型的数据和解释结果在一个精确的和一致的方式。首先,我们提出一个可完全连接的神经网络(FCNN)对两组进行分类,自闭症与健康对照组(HC),基于输入数据从静息状态功能连通性(rsFC)之间的区域(roi)的利益。拟议中的FCNN模型是一个分段线性神经网络(PLNN),使用分段线性函数LeakyReLU激活函数。我们实验比较了FCNN模型对广泛使用的分类模型包括支持向量机(SVM),随机森林,两个新类的深层神经网络模型在大型数据集包含871名调查对象从数据库住我。结果显示该FCNN模型实现了分类精度最高。第二,我们进一步提出一个解释方法恰恰可以解释训练模型和精确的线性公式对每个输入样本和决策特征对分类的贡献最大的ASD和HC的参与者模型。我们也讨论的意义提出了功能磁共振成像数据分类和解释方法。

1。介绍

自闭症谱系障碍(ASD)是一种亚型的广泛发育障碍的特点是相互社会交流障碍以及重复,限制,和刻板行为(1]。自闭症的原因是不确定的,自闭症的诊断通常是困难的,因为表情症状多样,可能不同的发展(2]。功能性磁共振成像(fMRI)是最普遍的方法之一的和有用的对于理解大脑功能(3]。fMRI最近应用区分ASD患者和健康对照组,和各种机器学习方法用于分析大脑紊乱的功能磁共振成像数据4- - - - - -7]。然而,到目前为止,它已经具有挑战性的功能磁共振成像数据分析大脑紊乱由于数据特征如高维度、结构复杂性、非线性可分性,连续跟踪信号的变化在每个体素(8]。

优秀的学习能力和分类性能在许多领域,深度学习方法最近从ASD患者应用功能磁共振成像数据9- - - - - -14]。梭伦et al。9调查功能连通性的模式,帮助识别自闭症参与者从功能性大脑成像数据。他们使用堆叠去噪autoencoders无监督pretraining阶段从遵守数据库中提取低维版本然后编码器权重应用于多层感知器分类。住(自闭症脑成像数据交换)数据库(15)包含一组丰富的功能磁共振成像数据聚合功能和结构脑成像数据收集来自世界各地的多站点(见部分2。1下面的详细信息)。郭et al。10]堆叠多个数据降维稀疏autoencoders和开发了一种特征选择方法选择高的特性区别的能力。然后,他们使用softmax回归的堆叠稀疏autoencoders进行数据分类。伊斯拉米et al。11]使用autoencoder和单层感知器来提取低维特征,训练有素的感知器是用于分类的最后一轮。布朗et al。12)提出基于BrainNetCNN以聪明元素层(16)和使用解剖通知、数据依赖之前的权重调整层。

研究人员也试图解释这些模型,通过分析区别的特性或潜在的神经影像生物标志物,有助于从健康对照组ASD的分类。李等人。17训练一个深层神经网络分类3 d fMRI卷,开发了一种frequency-normalized抽样方法来取代一个ROI的原始图像采样数据,并把它放到训练模型得到一个新的预测。基于不同的预测性能,他们用统计方法来解释ROI的重要性。发现成像研究的生物标志物对ASD (18),他们超越只看个人特性利用夏普利值解释交互特性的预测能力分析。郭et al。10)提出了一个深层神经网络特征选择方法从多个稀疏autoencoders训练,然后开发费雪的参考生物标志物识别方法的深层神经网络在遵守使用rs-fMRI数据集。这些方法都导致有用的见解深度学习的机理模型。然而,这样的深度和非线性模型通常构造成黑盒和复杂的网络结构和隐藏的内在逻辑是很难解释关于体系结构决策是如何一直由研究人员(19]。

在这项研究中,我们引入一个静息状态的功能连通性分析可判断的学习方法。我们首先提出一个解释的神经网络模型区分ASD参与者和健康对照组(HC)基于静息状态功能连通性(rsFC)的每一个主题。该模型是一种可完全连接的神经网络(FCNN),它使用分段线性函数LeakyReLU激活函数。这是一个完全连接神经网络包括两个隐藏层,输入层和输出层。此外,该模型是一个分段线性神经网络(PLNN) [20.),这是数学相当于当地的一组线性分类器和可以被精确和一致19]。其次,利用PLNN的解释,我们提出一个可判断的方法可以解释的训练分类模型精确线性公式对每个输入样本和决策功能最有助于分类ASD和HC模式。

我们通过实验比较了提出FCNN模型对广泛使用的基准模型包括支持向量机,随机森林(RF),两个新的神经网络模型在分类数据的多点住我数据库(15]。提出FCNN模型,基于输入数据从rsFC地区之间的利益(roi)协议AAL阿特拉斯(21),实现最高精度69.81%的大型数据集包含871例(403自闭症患者和468名健康对照)。我们还解释了模型中最重要的功能。

2。数据集和预处理

2.1。数据集

我们选择的数据集自闭症脑成像数据交换(遵守)倡议[15)确认本研究中提出的方法。遵守倡议聚合功能和结构脑成像数据收集了来自世界各地的多个站点。在这项研究中使用的数据集包含871例从17个收购站点,获得不同的成像协议,满足成像质量和表型信息标准(22]。这个数据集包括403人患有自闭症和468名健康对照(HC)。

2.2。预处理

我们下载了预处理的静息状态功能磁共振成像数据预处理连接体项目(PCP) (http://preprocessed-connectomes-project.org/abide/download.html)。数据(23)是可配置的管道分析预处理的连接体(CPAC)管道,包括以下过程:片时间校正,运动调整,强度归一化,回归妨害信号带通滤波(0.01 -0.1赫兹),和注册功能磁共振成像图像标准解剖空间(MNI152)。可以发现管道的详细描述http://preprocessed-connectomes-project.org/abide/Pipelines.html。数据是parcellated到116个地区的利益(roi)使用AAL地图集[21]。

3所示。建议的方法

提出了可翻译的学习方法的流程图如图1。首先,我们提出了FCNN模型分类ASD和健康的参与者,包括提取rsFC特性训练FCNN模型,验证模型。第二,我们解释训练模型和一个容易解释为每个主题线性公式,确定决定rsFC特性ASD组的数据。

3.1。特征提取

中描述的静息状态功能磁共振成像数据预处理部分2。大脑parcellated成116个地区的利益(roi)根据AAL地图集[21]。然后,每个ROI提取的平均时间序列为每个主题,和测量之间的rsFCs ROI计算皮尔逊相关系数的提取时间序列。一个 分别为每个主题连接矩阵构造。

费舍尔转换应用于连接矩阵来提高常态。上面的三角形值然后被提取并简化成向量,特征向量的维数 。

3.2。FCNN模型

提出的架构FCNN模型如图2。FCNN是完全连接神经网络和一个分段线性神经网络(PLNN) PLNN在哪里的深层神经网络非线性激活函数是一个分段线性函数固定数量的块(20.]。

FCNN模型包含两个fc-BN-LeakyReLU块,fc-BN-LeakyReLU块由一个完全连接(fc)层之后,一批标准化(BN)层和LeakyReLU激活功能。

LeakyReLU是解决线性单元的变体(ReLU) [24)允许一个小,正面梯度单元时不活跃25]。对于每一个隐藏的神经元 ,LeakyReLU被定义为 在哪里代表斜率系数。LeakyReLU显然是一个分段线性函数。

在这项研究中,简单性和清晰性,我们认为fc-BN-LeakyReLU块一个隐藏层。对于一个模型层,一层fc可以制定 在哪里 ;假设有神经元层和神经元层 , 是 权重矩阵,是 偏差向量,将方程(3)。

然后,fc-BN-LeakyReLU块可以写成 在哪里 隐藏层,是LeakyReLU函数,明确,是输入实例 。

乙状结肠函数应用于输出层预测任何参与者的概率是一个自闭症患者。单位(节点)的数量是6670,64年,32岁,分别为输入层,两个完全连接层和输出层。辍学层添加到避免过度拟合数据,和损失函数使用二进制交叉熵。

3.3。解释方法

我们解释训练神经网络模型有两个阶段:(i)计算的决策边界固定的实例和特性的线性公式实例的重量和(2)提取和分析决策功能训练模型的ASD组水平。

在第一阶段,我们计算的决策边界固定的实例 。

对于每一个隐藏的神经元 ,BN可以制定

在哪里和学参数(26]。在测试阶段的模型,和是固定的,所以方程(4)可以被看作是一个线性函数。

如方程所示(1),与LeakyReLU隐藏神经元激活函数,有两种类型的激活状态,每个对应一个相应的线性函数之间的映射关系和是线性的。并证明了固定PLNN模型和一个固定的实例 ,模型的输出在一个输入可以被看作是一个线性分类器(19),可作为制定 在哪里 的系数向量是吗和是恒定的拦截。对于一个固定的输入实例 , 是一个线性分类器的决策边界是明确定义的 。因此,权重分配的特点吗 。

至于FCNN,我们计算如下:因为BN可以被视为一个线性函数模型的测试阶段正如上面所讨论的,方程(3)可以写成 在哪里是常数,是常数拦截,对所有 。自是分段线性的激活函数,方程(6)可以写成

在哪里不断的斜率和吗是恒定的拦截。通过把方程(7)方程(2),我们重写作为 在哪里 是阿达玛的一个扩展版本的产品。

在第二阶段,基于权重每个测试实例的特点 ,我们可以得到最高的重量特性。然后,我们数出现的次数的特征top-k-feature-set从所有的实例。通过设置一个阈值 ,我们可以决定特性集它最有助于ASD和HC模式进行分类。

整个流程的解释方法是制定算法1。我们首先获得top-k-feature-set为每个实例 ,然后,我们获得决策特性集通过选择功能的发生数量占总实例的参数更大 。与此同时,我们也可以得到所有功能的权重对任何指定的测试实例,这可能有助于解释这一决定由训练有素的模型实例。

4所示。分类实验

上述方法和模型体系结构,我们进行了住我数据集实验871例和解释算法应用于解释结果。

评价该方法的性能,我们使用敏感性、特异性、准确性,F1, AUC作为我们的指标。这些指标定义如下: TP在哪里定义为自闭症的数量正确分类的主题,FP是正常的受试者的数量,并被错误地归类为自闭症,TN被定义为正常的受试者的数量正确分类,和FN的定义是ASD的数量并被错误地归类为正常人的主题。具体来说,灵敏度测量ASD科目的比例,正确鉴别;特异性措施的比例正常受试者正确鉴别。AUC是指接受者操作特征(ROC)曲线下的面积。

4.1。对比模型

鉴于以上FCNN模型,我们使用以下模型作为比较的基准。

支持向量机:支持向量机(SVM)模型与线性内核和rbf内核。SVM的方法已被广泛用于脑部疾病的功能磁共振成像数据进行分类。选择的参数网格搜索。

射频:随机森林(RF)是一个集成学习方法分类。选择的参数网格搜索。

Autoencoder +延时:梭伦等人提出的模型。9]。两个堆叠去噪autoencoders pretrained;然后,编码器权重应用于多层感知器(MLP),中长期规划和细调的概率预测任何参与者ASD。我们向MLP编码器权重应用于配置:6670-1000-600-2。

ASD-DiagNet:这种方法提出了伊斯拉米et al。11]。使用一个autoencoder提取低维特征表示。表示的特性是在单层感知器(SLP)和乙状结肠函数分类。同时autoencoder和SLP分类器训练。输入层和输出层有6670个单位完全连接到一个瓶颈的1667辆隐藏层。数据增加使用厄洛斯相似性度量应用5每个样本的最近的邻居。

FCNN:提出FCNN模型在图如上所述2。模型包含两个完全连接层:第一层有64个单位,第二层有32个单位。辍学比例设置为0.8。我们使用了亚当优化学习速率为0.0005。

autoencoder +延时(9]和ASD-DiagNet [11),我们使用他们的在线代码来评估模型。

所有功能连接特性简化成一维向量(见图1),所有模型的输入向量是训练和分类。所有的模型都是训练有素的6670功能连通性特征为每个主题。我们雇了一个5倍交叉验证设置评价所有的模型的性能。实验在所有871名被试进行了包括自闭症患者和健康对照组。

4.2。分类结果

分类结果如表所示1和图3。箱形图的敏感性,特异性,F1, AUC,精度分类任务使用5倍交叉验证图所示3,中间的线在每个盒子代表值,中值和圆圈代表局外人。

提出FCNN模型实现最佳的性能在多数评价指标的准确性为69.81%,敏感性为63.05%,特异性为75.63%,F1的65.82%,AUC为0.7262。结果表明,深度学习模型(FCNN autoencoder +延时和ASD-DiagNet)一般有更好的分类性能比传统的方法(SVM和RF)静息状态功能磁共振成像数据集。至于autoencoder + MLP方法(9),我们想要提到他们在论文中报道70%的准确率;我们报道的性能是不如他们的,也许是因为我们使用的脑图谱是不同的。

我们也比较了FCNN模型有或没有BN(批正常化)层表1。结果表明,BN层提高了模型的性能和稳定性。

5。解释实验和分析

5.1。对实例模型解释

根据节3所示。3,对于一个训练有素的FCNN模型和任何实例与的特性, ,固定的模型可以被制定为一个线性分类器与一个固定的实例:

因为层数是4 FCNN模型我们使用本文权向量可以计算为

训练模型和线性公式可以解释任何实例。给出一个实例,我们可以得到每个特性的重量从训练模型根据方程(10)和(11)。一些特征权重的一个实例是显示在图4。纵轴代表特性指数和水平轴代表重量值。它可以帮助了解预测的结果根据特性指数可以对应大脑区域参与功能。

5.2。ASD组模型解释

基于训练FCNN模型中,我们使用的算法1节中描述3所示。3提取模型的决策功能。我们最重要的特性参数从5到300年,间隔5,参数95%,然后,我们得到了一组决定特性不同 。

5.2.1。决定特性评价

评估决策的质量特性,我们分析了FCNN模型通过设置特征实例的值决定零和观察FCNN预测的变化。我们使用指标包括灵敏度、精度和预测概率的变化(CPP)的绝对变化分类的概率作为一个积极的实例,标签的文本修改实例(NLCI)实例的数量的预测被攻击后标签的变化。相比较而言,我们也使用的加权特征linear-SVM linear-SVM劈。结果如图所示5。结果表明,平均CPP FCNN较高,和NLCI FCNN可以多支持向量机更多的决策功能。和FCNN具有相当大的性能敏感性和准确性。

为进一步比较,我们还应用流行的局部线性解释方法(石灰)[27)的决策功能训练FCNN模型。类似于算法1节3所示。3,我们获得每个实例的重要特性,然后,我们获得决策特性集通过选择功能的发生数量占总实例的参数更大 。我们设置相同的参数(从5到300年,间隔5,参数为95%),我们没有获得任何决定功能。更重要的是,当我们释放参数到20%,我们也没有得到任何一个功能。这意味着300强石灰法获得的实例的重要特性是非常不同的实例之间在这个模型。

5.2.2。决策的特性分析

当作为20日15决定特性得到;我们选择这些15决定特性为例进行进一步分析。有23个大脑区域(roi) AAL阿特拉斯,这15个rsFC连接。这15个rsFCs和23个roi如表所示2。

我们计算的平均值rsFC ASD组和HC组,分别,以及两组的平均差。一个独立的两个示例测试运行的手段rsFC两组的元素。分析表所示2。其中15 rsFCs 2 rsFCs统计学意义( )ASD和HC组和其他rsFCs并不显著。它表明FCNN能找到潜在的功能虽然不统计特征值之间的不同群体。

这15个rsFC连接AAL地图集的可视化图6,标签信息是光芒四射的阿特拉斯。厚连接显示两个地区强烈相关,反之亦然。的图是BrainNet查看器(28)软件。

5.2.3。参数的影响

为了评估参数的影响获得决策功能,我们设置参数从5到300年,间隔5,参数从70%提高到95%,5%的区间;然后,得到相应的决策功能。结果如图7。很明显,越小的参数 ,将会获得更多的决策特性。而与一个固定的 ,更大的参数 ,决定的特征会越少。

6。结论和讨论

在本文中,我们引入一个静息状态的功能连通性分析可判断的学习方法。我们首先提出一个可判断的FCNN分类从HC ASD,基于rsFC特性。我们实验比较了FCNN模型对广泛使用的分类模型包括支持向量机、射频和两个新类的深层神经网络模型在大型数据集包含871名调查对象从数据库住我。结果显示该FCNN模型实现了分类精度最高的69.81%。

我们进一步提出一个解释方法可以解释训练模型和一个精确的线性公式为每个输入实例,找出决策模型的特征对分类的贡献最大的ASD和HC的参与者。

在这节课虽然被关注自闭症谱系障碍的分析,该方法可以推广到好处很多其他大脑科学和医学应用,涉及深层神经网络。尤其是基于这项研究提供了一个有前途的深刻学习方法探索潜在生物标志物协助大脑神经障碍诊断和研究。

有两个限制在当前这里介绍工作。首先,数据集是有限的871名参与者包含ASD和HC。为了使这项工作更加普遍的,这将是重要的检查和比较这些初步结果与参与者更多的功能磁共振成像数据。其次,该模型是一个紧凑的完全连接神经网络,给出层和模型中节点的数量。因此,这将是重要的检查我们的解释方法的有效性等其他类型的神经网络更深和更复杂的架构的深度学习文学。未来的工作应该关注我们建议的方法的准确性和解释为其他大型fMRI数据以及其他神经影像数据基于ASD等脑部疾病。

数据可用性

使用的数据来支持本研究的发现可以从相应的作者。的容忍我在这项研究中可用数据集分析预处理连接体项目网站(http://preprocessed-connectomes-project.org/abide/download.html)。

的利益冲突

作者没有披露。

确认

这部分工作是支持中国广东省自然科学基金(赠款# 2018 a030313309和# 2015 a030308017),引入高端科研机构的创新基金的中山(批准号2019 ag031),基础研究基金为中央大学、华南理工大学(批准号2019 kz20),和广东珠江人才计划创新和创业团队(批准号2016 zt06s220)。

引用

1. c . m . Freitag和t . a . Jarczok“自闭症谱系障碍,”抗精神病药在儿童和青少年施普林格,页383 - 403年,2014年的维也纳。视图:谷歌学术搜索
2. f·沃尔克·e·h·库克,j .幽灵g . Realmuto和p . Tanguay”实践参数评估和治疗的儿童,青少年和成人自闭症和其他广泛性发展障碍,”美国儿童和青少年精神病学会》杂志,38卷,不。12日,32 s-54s, 1999页。视图:出版商的网站|谷歌学术搜索
3. s Takerkart g . Auzias、蒂里翁b和l . Ralaivola”基于inter-subject模式的功能磁共振成像数据分析,“《公共科学图书馆•综合》,9卷,不。8 p . e104586 2014。视图:出版商的网站|谷歌学术搜索
4. r . Bhaumik a Pradhan, s Das, d . k . Bhaumik“预测使用Domain-Adaptive跨站点评估自闭症障碍,”Neuroinformatics,16卷,不。2、197 - 205年,2018页。视图:出版商的网站|谷歌学术搜索
5. 沈黄h . d . n .卡,“增强功能连接网络的表示自闭症谱系障碍的多视点信息融合诊断,”人类大脑图谱,40卷,不。3、833 - 854年,2018页。视图:出版商的网站|谷歌学术搜索
6. m . Plitt k·a·巴恩斯和a·马丁”功能连通性孤独症的分类标识高度预测生物标志物的大脑功能但低于标准,“科学杂志:临床7卷,第366 - 359页,2015年。视图:出版商的网站|谷歌学术搜索
7. m·a .只是诉l . Cherkassky a . Buchweitz a .盖和t·m·米切尔“识别孤独症的神经表征社会互动:孤独症的神经认知标记,”《公共科学图书馆•综合》,9卷,不。12日,22页,2014页。视图:谷歌学术搜索
8. 曹,x,和p . s . Yu”回顾大脑紊乱的异构数据挖掘识别、”大脑的信息,卷2,不。4、253 - 264年,2015页。视图:出版商的网站|谷歌学术搜索
9. 答:梭伦,罗莎,r·c·克拉多克a . Buchweitz f . Meneguzzi,“自闭症谱系障碍的识别使用深度学习和遵守数据集,“科学杂志:临床,17卷,16-23,2018页。视图:谷歌学术搜索
10. 郭x, k.c.多明尼克,a . a . Minai h . Li c·a·埃里克森和l . j .,“诊断自闭症谱系障碍从大脑静息状态的功能连通性模式使用的深层神经网络小说特征选择方法,”神经科学前沿2017年,卷。11日。视图:出版商的网站|谷歌学术搜索
11. 诉Mirjalili t·伊斯拉米,a方,a . Laird f·赛义德,“ASD-DiagNet:混合学习方法检测自闭症谱系障碍的使用功能磁共振成像数据,”Neuroinformatics前沿13卷,1 - 8,2019页。视图:谷歌学术搜索
12. c·j·布朗,j . Kawahara, g . Hamarneh“连接体先验深层神经网络预测自闭症,”2018年IEEE 15日生物医学成像(2018位ISBI)国际研讨会华盛顿特区,页110 - 113,美国,2018年4月。视图:谷歌学术搜索
13. r .学历和j·j·Thiagarajan引导图卷积神经网络对自闭症谱系障碍分类、”ICASSP 2019 - 2019年IEEE国际会议音响、演讲和信号处理(ICASSP)布莱顿,页3197 - 3201年,英国,2019年5月。视图:谷歌学术搜索
14. X.-a。江,Bi, y . Liu蜀,问:太阳,和j .戴“自闭症谱系障碍的诊断基于随机神经网络的集群中,“人类神经科学前沿,12卷,2018年。视图:出版商的网站|谷歌学术搜索
15. a . Di马蒂诺C.-G。燕,李问:et al .,“自闭症脑成像数据交换:向内在的脑部结构的大规模评估自闭症,”《分子精神病学》,19卷,不。6,659 - 667年,2014页。视图:出版商的网站|谷歌学术搜索
16. j . Kawahara c·j·布朗,s·p·米勒et al .,“BrainNetCNN:卷积神经网络对大脑网络;对预测神经发育。”科学杂志卷,146年,第1049 - 1038页,2017年。视图:出版商的网站|谷歌学术搜索
17. 李x n . c . Dvornek j .壮族p .传言和j·s·邓肯,”大脑生物标志物解释自闭症使用深度学习和功能磁共振成像,”医学影像计算和计算机辅助介入的国际会议施普林格,页206 - 214年,可汗,2018年。视图:谷歌学术搜索
18. 李x n . c . Dvornek y, j .壮族p .传言和j·s·邓肯,“深度学习的有效解释模型使用图结构和合作博弈理论:应用asd生物标志物的发现,”国际会议在医学影像信息处理施普林格,页718 - 730年,可汗,2019年。视图:谷歌学术搜索
19. j·胡,胡l .楚x l . Wang和j .贝聿铭“分段线性神经网络精确和一致的解释:一个封闭形式的解决方案,”第1244 - 1253页。视图:谷歌学术搜索
20. p . l . Bartlett:哈维,c . Liaw和a . Mehrabian”Nearly-tight vc维和分段线性神经网络pseudodimension界限,”机器学习研究杂志》上,20卷,不。63年,1卷,2019页。视图:谷歌学术搜索
21. n . Tzourio-Mazoyer b Landeau d Papathanassiou et al .,“自动激活的解剖标记的SPM使用宏观解剖分割MNI MRI单一学科的大脑,”科学杂志,15卷,不。1,第289 - 273页,2002。视图:出版商的网站|谷歌学术搜索
22. a·亚伯拉罕m . p . Milham a . di马蒂诺et al .,“推导可再生的生物标记物的多站点静息状态数据:一个Autism-based的例子,”科学杂志卷,147年,第745 - 736页,2017年。视图:出版商的网站|谷歌学术搜索
23. c·卡梅隆,b . Yassine c·卡尔顿et al .,“局预处理倡议:公开分享预处理神经影像数据和衍生品,”Neuroinformatics前沿,7卷,不。4 - 2013页。视图:出版商的网站|谷歌学术搜索
24. 诉Nair g·e·辛顿,“修正线性单位提高限制玻耳兹曼机”,807 - 814页。视图:谷歌学术搜索
25. a . l .马斯河和a . y . Ng”整流器非线性改善神经网络的声学模型,”ICML深度学习研讨会为音频、语音和语言处理,2013年。视图:谷歌学术搜索
26. 约飞和c . Szegedy“批量标准化:加速深层网络训练通过减少内部协变量转变,”国际会议上机器学习,第456 - 448页,2015年。视图:谷歌学术搜索
27. m·t·里贝罗,s·辛格和c . Guestrin”“我为什么要相信你?”Explaining the predictions of any classifier,” pp. 1135–1144.视图:谷歌学术搜索
28. m·夏j . Wang, y,他“BrainNet观众:人类的大脑——神经网络可视化工具,”《公共科学图书馆•综合》,8卷,不。7日,2013年。视图:谷歌学术搜索

版权

版权©2020金龙胡锦涛等。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。