神经元树突模型与自适应神经突触(直)基于差分进化(DE)算法训练算法。根据信号传输顺序,认为可以分为四个部分:突触层,树突层,膜层,和体细胞层。它可以转换为一个逻辑电路容易实现硬件上通过删除无用的训练后突触和树突。这个逻辑电路可以用来解决复杂的非线性问题只用四个基本逻辑设备:比较器,(一起),或者(分离),而不是(否定)。获得更快、更好的解决方案,我们采用最流行的德对于培训。我们选择五分类数据集UCI机器学习库的一个实验。我们实验结果的分析和讨论正确的速度,收敛速度,ROC曲线,和交叉验证,然后比较结果与树突神经元模型由反向传播算法训练(BP-DNM)和一个由反向传播神经网络训练算法(摘要)。分析结果表明,DE-DMAS显示更好的性能在所有方面。gydF4y2Ba
人类的大脑由数十亿神经元,单个神经元细胞是由一个细胞的身体,一个轴突,细胞膜和树突。树突占据90%以上的神经细胞组织和有一个关键的角色在一个人的学习过程。第一个人工神经元最初MuCulloch和皮特在1943年提出的gydF4y2Ba
感知器是一种模式识别的方法,于1958年首次由Rosenblatt [gydF4y2Ba
然而,研究人员指出,使用麦克洛克和皮特的神经元是不明智的,因为它忽视了在实际生物神经元的树突结构。科赫和戈夫(gydF4y2Ba
在这项研究中,我们使用一个神经元树突突触模型与自适应(直)。神经生物学的最新进展突出树突计算的重要性。2019年,Beaulieu-Laroche和他的团队gydF4y2Ba
随着各种新的优化算法的出现,如何培养一个安讨论(gydF4y2Ba
五个现实分类问题被认为是在我们的研究来验证我们的模型(DE-DMAS):虹膜,英国肝脏疾病、乳腺癌,玻璃,和澳大利亚的信贷审批(ACA)。所有的数据集预处理的二分类问题。这五个数据集进行预处理,包括异常修复填充缺失值。BP-DNM,我们比较DE-DMAS的实验结果和摘要利用这五个数据集。实验结果表明,对于优于同行的测试精度,灵敏度、特异性、接受者操作特征(ROC)和交叉验证。gydF4y2Ba
本文的其余部分组织如下:部分gydF4y2Ba
对于应用在我们的研究中。神经元模型包括四个层次:自适应突触层,树突层,膜层,和体细胞层。在本节中,我们详细的结构和原理,这四个层次。gydF4y2Ba
突触层接收并计算输入信号并发送树突层的计算结果。一旦输入信号超过阈值,突触将被解雇。来模拟这一过程,我们设计一个突触层乙状结肠派系在以下方程:gydF4y2Ba
突触后由乙状结肠激活函数,它可以采用一个4根据不同范围的不同状态gydF4y2Ba
四个连接状态:(a)直连状态;(b) opposite-connecting状态;(c)常数1状态;(d)常量0状态。gydF4y2Ba
案例(一):直连状态,当gydF4y2Ba
四个州的突触功能的数字:(a)直连状态;(b) opposite-connecting状态;(c1)常数1状态;(c2)常数1状态;(d1)常量0状态;(d2)常量0状态。gydF4y2Ba
例(b): opposite-connecting状态,例如,当gydF4y2Ba
案例(c1):当常数1状态gydF4y2Ba
案例(c2):当常数1状态gydF4y2Ba
案例(d1):常数,当状态gydF4y2Ba
案例(d2):常数,当状态gydF4y2Ba
突触的输出层计算了树突层使用乘法。由于采用乙状结肠函数,输出是约等于1或0。树突的输出层也约等于1或0。树突的工作一样的逻辑和操作。方程是gydF4y2Ba
膜接受树突层的输出作为输入和线性求和的值。求和可以近似模拟逻辑或操作。方程是gydF4y2Ba
体细胞层将接收信号从细胞膜。计算信号使用乙状结肠函数如下:gydF4y2Ba
我们修剪突触和树突获得简化模型。接收输入信号的突触活化和转化为常数1,常数,直连,或opposite-connecting状态。激活信号传输到树突。这些信号是增加树突,进入膜,由soma接收。当突触转化为常数1状态,我们将删除这个突触自1乘以任意数量等于数字本身。当树突突触转化为常数,状态,我们将删除此树突自0乘以任意数量= 0。一个例子是显示在图gydF4y2Ba
简化模型。gydF4y2Ba
正如前面提到的,我们使用三个参数突触层作为训练对象。这是一个庞大的搜索空间。我们使用DE算法对于学习算法的程序。由于德是优秀的在全球优化(gydF4y2Ba
德演示了一个固定数量的向量中随机初始化的搜索空间。新的矢量随时间推移而发展探索的最小目标函数。在进化的过程中,算术操作符结合突变的运营商,杂交和选择。一个随机生成的人口将开始进化到一个最佳的解决方案。德有许多策略(gydF4y2Ba
在哪里gydF4y2Ba
生成随机数gydF4y2Ba
自德采用一对一的选择方法,算法可以确保精英主义演变过程中不会丢失。此外,一对一的选择操作有更好的能力来维持种群多样性比测序或竞争性招标选择(gydF4y2Ba
为了实现该方法的最佳性能,首先需要确定的参数。DE-DMAS有6个主要参数。参数可分为固定参数和可调参数。最好的可调参数是决定使用田口方法为每个数据集(gydF4y2Ba
五个数据集来自UCI,广泛应用于人工智能的研究。数据集已经标准化的最大最小化[0,1]在我们的研究中。他们提供了详细的介绍和总结表gydF4y2Ba
数据集介绍。gydF4y2Ba
| 数据集名称gydF4y2Ba | 不。的实例gydF4y2Ba | 不。输入属性gydF4y2Ba | 不。1类实例gydF4y2Ba | 不。2类实例gydF4y2Ba |
|---|---|---|---|---|
| 虹膜gydF4y2Ba | 150年gydF4y2Ba | 4gydF4y2Ba | 50gydF4y2Ba | One hundred.gydF4y2Ba |
| 肝gydF4y2Ba | 345年gydF4y2Ba | 6gydF4y2Ba | 164年gydF4y2Ba | 181年gydF4y2Ba |
| 癌症gydF4y2Ba | 699年gydF4y2Ba | 9gydF4y2Ba | 458年gydF4y2Ba | 241年gydF4y2Ba |
| 玻璃gydF4y2Ba | 214年gydF4y2Ba | 9gydF4y2Ba | 51gydF4y2Ba | 163年gydF4y2Ba |
| ACAgydF4y2Ba | 690年gydF4y2Ba | 14gydF4y2Ba | 307年gydF4y2Ba | 383年gydF4y2Ba |
费舍尔在1988年7月提供的虹膜数据(gydF4y2Ba
肝脏疾病的数据集是由理查德·s·福赛斯”以外的所有已知的PC /小猎犬号所示的用户指南。“它已经被应用于gydF4y2Ba
乳腺癌William Wolberg博士提供的数据是1992年7月(gydF4y2Ba
提供的玻璃识别数据库b·赫尔曼。1987年9月它已经被应用于(gydF4y2Ba
ACA数据显示申请人是否有信誉的。它已经被应用于(gydF4y2Ba
三个参数,gydF4y2Ba
在DE-DMAS参数范围。gydF4y2Ba
| 数据集gydF4y2Ba | NPgydF4y2Ba | CRgydF4y2Ba |
|
|
|---|---|---|---|---|
| 虹膜gydF4y2Ba | 10、30、60gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 4、8、12gydF4y2Ba |
| 肝gydF4y2Ba | 10、30、60gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 6、12、18gydF4y2Ba |
| 癌症gydF4y2Ba | 10、30、60gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 9,18岁,27岁gydF4y2Ba |
| 玻璃gydF4y2Ba | 10、30、60gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 9,18岁,27岁gydF4y2Ba |
| ACAgydF4y2Ba | 10、30、60gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 0.3,0.6,0.9gydF4y2Ba | 16日,32岁的48gydF4y2Ba |
通常情况下,我们需要尝试所有的参数来获得最优参数组合。然而,存在四个参数,每个参数有三个选择。因此,我们应该执行81 (gydF4y2Ba
iris数据集的正交数组参数。gydF4y2Ba
| 实验运行gydF4y2Ba | 参数(水平)gydF4y2Ba | 精度(%)gydF4y2Ba | |||
|---|---|---|---|---|---|
| (3)分支gydF4y2Ba |
|
CR (3)gydF4y2Ba | NP (3)gydF4y2Ba | ||
| 1gydF4y2Ba | 4gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba | 92.51gydF4y2Ba |
| 2gydF4y2Ba | 8gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba | 94.49gydF4y2Ba |
| 3gydF4y2Ba | 12gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 94.96gydF4y2Ba |
| 4gydF4y2Ba | 12gydF4y2Ba | 0.6gydF4y2Ba | 0.3gydF4y2Ba | 30.gydF4y2Ba | 94.20gydF4y2Ba |
| 5gydF4y2Ba | 4gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba |
|
| 6gydF4y2Ba | 8gydF4y2Ba | 0.6gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 93.62gydF4y2Ba |
| 7gydF4y2Ba | 8gydF4y2Ba | 0.9gydF4y2Ba | 0.3gydF4y2Ba | 60gydF4y2Ba | 94.20gydF4y2Ba |
| 8gydF4y2Ba | 12gydF4y2Ba | 0.9gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 95.50gydF4y2Ba |
| 9gydF4y2Ba | 4gydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba | 94.00gydF4y2Ba |
肝脏数据集的正交数组参数。gydF4y2Ba
| 实验运行gydF4y2Ba | 参数(水平)gydF4y2Ba | 精度(%)gydF4y2Ba | |||
|---|---|---|---|---|---|
| (3)分支gydF4y2Ba |
|
CR (3)gydF4y2Ba | NP (3)gydF4y2Ba | ||
| 1gydF4y2Ba | 6gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba | 70.60gydF4y2Ba |
| 2gydF4y2Ba | 12gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba |
|
| 3gydF4y2Ba | 18gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 72.17gydF4y2Ba |
| 4gydF4y2Ba | 18gydF4y2Ba | 0.6gydF4y2Ba | 0.3gydF4y2Ba | 30.gydF4y2Ba | 66.92gydF4y2Ba |
| 5gydF4y2Ba | 6gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 71.85gydF4y2Ba |
| 6gydF4y2Ba | 12gydF4y2Ba | 0.6gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 68.33gydF4y2Ba |
| 7gydF4y2Ba | 12gydF4y2Ba | 0.9gydF4y2Ba | 0.3gydF4y2Ba | 60gydF4y2Ba | 66.28gydF4y2Ba |
| 8gydF4y2Ba | 18gydF4y2Ba | 0.9gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 68.58gydF4y2Ba |
| 9gydF4y2Ba | 6gydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba | 69.61gydF4y2Ba |
玻璃的正交阵列参数数据集。gydF4y2Ba
| 实验运行gydF4y2Ba | 参数(水平)gydF4y2Ba | 精度(%)gydF4y2Ba | |||
|---|---|---|---|---|---|
| (3)分支gydF4y2Ba |
|
CR (3)gydF4y2Ba | NP (3)gydF4y2Ba | ||
| 1gydF4y2Ba | 9gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba | 93.75gydF4y2Ba |
| 2gydF4y2Ba | 18gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba | 94.37gydF4y2Ba |
| 3gydF4y2Ba | 27gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba |
|
| 4gydF4y2Ba | 27gydF4y2Ba | 0.6gydF4y2Ba | 0.3gydF4y2Ba | 30.gydF4y2Ba | 94.06gydF4y2Ba |
| 5gydF4y2Ba | 9gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 93.12gydF4y2Ba |
| 6gydF4y2Ba | 18gydF4y2Ba | 0.6gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 93.02gydF4y2Ba |
| 7gydF4y2Ba | 18gydF4y2Ba | 0.9gydF4y2Ba | 0.3gydF4y2Ba | 60gydF4y2Ba | 93.54gydF4y2Ba |
| 8gydF4y2Ba | 27gydF4y2Ba | 0.9gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 92.81gydF4y2Ba |
| 9gydF4y2Ba | 9gydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba | 94.01gydF4y2Ba |
癌症数据集的正交数组参数。gydF4y2Ba
| 实验运行gydF4y2Ba | 参数(水平)gydF4y2Ba | 精度(%)gydF4y2Ba | |||
|---|---|---|---|---|---|
| (3)分支gydF4y2Ba |
|
CR (3)gydF4y2Ba | NP (3)gydF4y2Ba | ||
| 1gydF4y2Ba | 9gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba |
|
| 2gydF4y2Ba | 18gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba | 96.12gydF4y2Ba |
| 3gydF4y2Ba | 27gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 95.80gydF4y2Ba |
| 4gydF4y2Ba | 27gydF4y2Ba | 0.6gydF4y2Ba | 0.3gydF4y2Ba | 30.gydF4y2Ba | 95.39gydF4y2Ba |
| 5gydF4y2Ba | 9gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 96.09gydF4y2Ba |
| 6gydF4y2Ba | 18gydF4y2Ba | 0.6gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 96.19gydF4y2Ba |
| 7gydF4y2Ba | 18gydF4y2Ba | 0.9gydF4y2Ba | 0.3gydF4y2Ba | 60gydF4y2Ba | 96.20gydF4y2Ba |
| 8gydF4y2Ba | 27gydF4y2Ba | 0.9gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 95.81gydF4y2Ba |
| 9gydF4y2Ba | 9gydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba | 95.84gydF4y2Ba |
ACA数据集的正交数组参数。gydF4y2Ba
| 实验运行gydF4y2Ba | 参数(水平)gydF4y2Ba | 精度(%)gydF4y2Ba | |||
|---|---|---|---|---|---|
| (3)分支gydF4y2Ba |
|
CR (3)gydF4y2Ba | NP (3)gydF4y2Ba | ||
| 1gydF4y2Ba | 16gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba | 84.41gydF4y2Ba |
| 2gydF4y2Ba | 32gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba | 85.81gydF4y2Ba |
| 3gydF4y2Ba | 48gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 85.28gydF4y2Ba |
| 4gydF4y2Ba | 48gydF4y2Ba | 0.6gydF4y2Ba | 0.3gydF4y2Ba | 30.gydF4y2Ba | 85.18gydF4y2Ba |
| 5gydF4y2Ba | 16gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 85.58gydF4y2Ba |
| 6gydF4y2Ba | 32gydF4y2Ba | 0.6gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 85.70gydF4y2Ba |
| 7gydF4y2Ba | 32gydF4y2Ba | 0.9gydF4y2Ba | 0.3gydF4y2Ba | 60gydF4y2Ba | 84.89gydF4y2Ba |
| 8gydF4y2Ba | 48gydF4y2Ba | 0.9gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 84.41gydF4y2Ba |
| 9gydF4y2Ba | 16gydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba |
|
参数DE-DMASgydF4y2Ba
| 数据集gydF4y2Ba | NPgydF4y2Ba | CRgydF4y2Ba |
|
|
|---|---|---|---|---|
| 虹膜gydF4y2Ba | 0.6gydF4y2Ba | 0.6gydF4y2Ba | 10gydF4y2Ba | 4gydF4y2Ba |
| 肝gydF4y2Ba | 0.3gydF4y2Ba | 0.6gydF4y2Ba | 30.gydF4y2Ba | 12gydF4y2Ba |
| 癌症gydF4y2Ba | 0.3gydF4y2Ba | 0.3gydF4y2Ba | 10gydF4y2Ba | 9gydF4y2Ba |
| 玻璃gydF4y2Ba | 0.3gydF4y2Ba | 0.9gydF4y2Ba | 60gydF4y2Ba | 27gydF4y2Ba |
| ACAgydF4y2Ba | 0.9gydF4y2Ba | 0.9gydF4y2Ba | 30.gydF4y2Ba | 16gydF4y2Ba |
为了演示DE-DMAS突触层的适应性,我们进行了一次面对分析。我们删除了hyperparametergydF4y2Ba
证明在突触的适应性的测试精度。gydF4y2Ba
| 数据集gydF4y2Ba |
|
|
|
自适应gydF4y2Ba |
|---|---|---|---|---|
| 虹膜gydF4y2Ba | 80.81gydF4y2Ba |
94.15gydF4y2Ba |
95.11gydF4y2Ba |
96.74gydF4y2Ba |
| 肝gydF4y2Ba | 69.39gydF4y2Ba |
69.81gydF4y2Ba |
69.39gydF4y2Ba |
73.59gydF4y2Ba |
| 癌症gydF4y2Ba | 92.76gydF4y2Ba |
92.97gydF4y2Ba |
93.59gydF4y2Ba |
96.12gydF4y2Ba |
| 玻璃gydF4y2Ba | 91.04gydF4y2Ba |
93.33gydF4y2Ba |
85.48gydF4y2Ba |
94.42gydF4y2Ba |
| ACAgydF4y2Ba | 85.44gydF4y2Ba |
85.56gydF4y2Ba |
85.86gydF4y2Ba |
86.18gydF4y2Ba |
演示突触的弗里德曼的适应性测试。gydF4y2Ba
| 数据集gydF4y2Ba |
|
|
|
自适应gydF4y2Ba |
|---|---|---|---|---|
| 虹膜gydF4y2Ba | 4gydF4y2Ba | 2.33gydF4y2Ba | 2gydF4y2Ba | 1.67gydF4y2Ba |
| 肝gydF4y2Ba | 2.77gydF4y2Ba | 2.73gydF4y2Ba | 2.55gydF4y2Ba | 1.95gydF4y2Ba |
| 癌症gydF4y2Ba | 3.05gydF4y2Ba | 2.95gydF4y2Ba | 2.73gydF4y2Ba | 1.27gydF4y2Ba |
| 玻璃gydF4y2Ba | 2.55gydF4y2Ba | 1.98gydF4y2Ba | 3.93gydF4y2Ba | 1.53gydF4y2Ba |
| ACAgydF4y2Ba | 2.48gydF4y2Ba | 2.73gydF4y2Ba | 2.52gydF4y2Ba | 2.27gydF4y2Ba |
在本节中,我们将DE-DMAS与摘要的最受欢迎的模型。相对比较公平,调整后的权值和阈值的数量(gydF4y2Ba
然而,数量的权重越大,就越被占领的计算资源。在我们的研究中,证明性能优良的DE-DMAS五集,DE-DMAS的结构应设置小于摘要。因为每个数据集的输入和输出是固定的,他们有相同数量的权重调整数量的隐藏层。在前面的小节中,我们已经配置了该参数为DE-DMAS(隐藏层的数量)。我们配置摘要隐藏层的数量根据上述原则。摘要的结构和DE-DMAS五个数据集如表所示gydF4y2Ba
DE-DMAS和摘要结构五个数据集。gydF4y2Ba
| 数据集gydF4y2Ba | 方法gydF4y2Ba | 不。的输入gydF4y2Ba | 不。的分支gydF4y2Ba | 不。的输出gydF4y2Ba | 不。调整后的重量gydF4y2Ba |
|---|---|---|---|---|---|
| 虹膜gydF4y2Ba | DE-DMASgydF4y2Ba | 4gydF4y2Ba | 4gydF4y2Ba | 1gydF4y2Ba | 33gydF4y2Ba |
| 摘要利用gydF4y2Ba | 4gydF4y2Ba | 28gydF4y2Ba | 1gydF4y2Ba | 169年gydF4y2Ba | |
|
|
|||||
| 肝gydF4y2Ba | DE-DMASgydF4y2Ba | 6gydF4y2Ba | 12gydF4y2Ba | 1gydF4y2Ba | 145年gydF4y2Ba |
| 摘要利用gydF4y2Ba | 6gydF4y2Ba | 18gydF4y2Ba | 1gydF4y2Ba | 145年gydF4y2Ba | |
|
|
|||||
| 癌症gydF4y2Ba | DE-DMASgydF4y2Ba | 9gydF4y2Ba | 9gydF4y2Ba | 1gydF4y2Ba | 163年gydF4y2Ba |
| 摘要利用gydF4y2Ba | 9gydF4y2Ba | 18gydF4y2Ba | 1gydF4y2Ba | 199年gydF4y2Ba | |
|
|
|||||
| 玻璃gydF4y2Ba | DE-DMASgydF4y2Ba | 9gydF4y2Ba | 27gydF4y2Ba | 1gydF4y2Ba | 487年gydF4y2Ba |
| 摘要利用gydF4y2Ba | 27gydF4y2Ba | 45gydF4y2Ba | 1gydF4y2Ba | 496年gydF4y2Ba | |
|
|
|||||
| ACAgydF4y2Ba | DE-DMASgydF4y2Ba | 14gydF4y2Ba | 16gydF4y2Ba | 1gydF4y2Ba | 449年gydF4y2Ba |
| 摘要利用gydF4y2Ba | 14gydF4y2Ba | 30.gydF4y2Ba | 1gydF4y2Ba | 481年gydF4y2Ba | |
为了比较BP-DNM DE-DMAS相当,这三个常见的参数gydF4y2Ba
DE-DMAS vs摘要的对比实验和DE-DMAS vs BP-DNM设置如下:(1)实例测试的五个数据集分为30%和70%随机培训,(2)迭代的数量设置为1000,和(3)所有的实验都使用Matlab 2018运行。gydF4y2Ba
我们使用均方误差(MSE)的值来表示程度的收敛。值越小,收敛性就越好。我们计算的价值MSE DE-DMAS每次迭代后,BP-DNM和摘要培训过程和记录它。我们采用以下公式计算均方误差的值:gydF4y2Ba
我们执行30 DE-DMAS训练,BP-DNM和摘要。我们随机选择70%的为每个训练实例作为输入。我们画两个图分析DE-DMAS的收敛效果,BP-DNM,摘要五个训练数据集。在第一个图,纵坐标代表MSE的平均值30训练,和横坐标表示的迭代数。总共有1000 MSE初始化的值被记录从一开始DE-DMAS, BP-DNM和摘要。我们可以计算收敛的速度通过曲线的程度下降。在图gydF4y2Ba
收敛图的五个数据集:(一)虹膜;(b)肝脏;(c)癌症;(d)玻璃;ACA (e)。gydF4y2Ba
我们记录MSE的价值最终迭代训练的30倍。我们使用box-and-whisker情节gydF4y2Ba
最后的MSE Box-and-whisker情节:(一)虹膜;(b)肝脏;(c)癌症;(d)玻璃;ACA (e)。gydF4y2Ba
我们比较DE-DMAS BP-DNM,摘要的测试精度,灵敏度、特异性和接受者操作特征(ROC)曲线(gydF4y2Ba
如果一个实例是在正类和预计在积极的类,那么它是一个真正的分类(真阳性(TP))gydF4y2Ba
如果一个实例是在正类,但预计在负类,那么它就是一个假阴性分类(假阴性(FN))gydF4y2Ba
如果负类的实例,但预计在积极的类,那么它就是一个假阳性分类(假阳性(FP))gydF4y2Ba
如果是负类和实例预测负类,那么它就是一个真阴性分类(真阴性(TN))gydF4y2Ba
真阳性率(TPR),代表的比例实际积极积极类实例预测的分类器对所有积极的情况下,等于敏感度。假阳性率(玻璃钢)代表的比例实际负实例的正类分类器预测的所有消极的情况下,等于1-specificity。ROC曲线的玻璃钢(1−特异性)gydF4y2Ba
条款的描述。gydF4y2Ba
| 老师的信号gydF4y2Ba | 实际产出gydF4y2Ba | 行总gydF4y2Ba | |
|---|---|---|---|
| 积极的(1)gydF4y2Ba | 负(0)gydF4y2Ba | ||
| 积极的(1)gydF4y2Ba | TPgydF4y2Ba | FNgydF4y2Ba | TP + FNgydF4y2Ba |
| 负(0)gydF4y2Ba | 《外交政策》gydF4y2Ba | TNgydF4y2Ba | FP + TNgydF4y2Ba |
| 列总gydF4y2Ba | TP + FgydF4y2Ba | FN + TNgydF4y2Ba | N = TP + TN + FP + FNgydF4y2Ba |
我们绘制ROC曲线的五个数据集比较DE-DMAS BP-DNM和摘要,如图gydF4y2Ba
ROC分析五个数据集:(一)虹膜民国;(b)肝脏中华民国;(c)癌症中华民国;(d)玻璃中华民国;(e) ACA中华民国。gydF4y2Ba
五个数据集的结果。gydF4y2Ba
| 数据集gydF4y2Ba | 方法gydF4y2Ba | 测试的准确性gydF4y2Ba | 灵敏度gydF4y2Ba | 特异性gydF4y2Ba | AUCgydF4y2Ba |
|---|---|---|---|---|---|
| 虹膜gydF4y2Ba | DE-DMASgydF4y2Ba | 96.74gydF4y2Ba |
One hundred.gydF4y2Ba | 96.88gydF4y2Ba | 98.44gydF4y2Ba |
| BP-DNMgydF4y2Ba | 91.78gydF4y2Ba |
91.16gydF4y2Ba | 86.67gydF4y2Ba | 95.65gydF4y2Ba | |
| 摘要利用gydF4y2Ba | 85.93gydF4y2Ba |
90.00gydF4y2Ba | 91.43gydF4y2Ba | 90.71gydF4y2Ba | |
|
|
|||||
| 肝gydF4y2Ba | DE-DMASgydF4y2Ba | 73.59gydF4y2Ba |
66.67gydF4y2Ba | 83.87gydF4y2Ba | 75.27gydF4y2Ba |
| BP-DNMgydF4y2Ba | 68.62gydF4y2Ba |
52.50gydF4y2Ba | .79.69gydF4y2Ba | 66.09gydF4y2Ba | |
| 摘要利用gydF4y2Ba | 59.94gydF4y2Ba |
57.89gydF4y2Ba | 72.73gydF4y2Ba | 65.31gydF4y2Ba | |
|
|
|||||
| 癌症gydF4y2Ba | DE-DMASgydF4y2Ba | 96.12gydF4y2Ba |
96.45gydF4y2Ba | 98.55gydF4y2Ba | 97.50gydF4y2Ba |
| BP-DNMgydF4y2Ba | 96.33gydF4y2Ba |
97.04gydF4y2Ba | 94.67gydF4y2Ba | 95.85gydF4y2Ba | |
| 摘要利用gydF4y2Ba | 93.76gydF4y2Ba |
95.89gydF4y2Ba | 96.88gydF4y2Ba | 96.38gydF4y2Ba | |
|
|
|||||
| 玻璃gydF4y2Ba | DE-DMASgydF4y2Ba | 94.42gydF4y2Ba |
98.57gydF4y2Ba | 92.85gydF4y2Ba | 96 . . 67gydF4y2Ba |
| BP-DNMgydF4y2Ba | 91.87gydF4y2Ba |
84.62gydF4y2Ba | 96.08gydF4y2Ba | 90.35gydF4y2Ba | |
| 摘要利用gydF4y2Ba | 92.50gydF4y2Ba |
97.92gydF4y2Ba | 81.25gydF4y2Ba | 89.58gydF4y2Ba | |
|
|
|||||
| ACAgydF4y2Ba | DE-DMASgydF4y2Ba | 86.18gydF4y2Ba |
88.04gydF4y2Ba | 86.09gydF4y2Ba | 87.07gydF4y2Ba |
| BP-DNMgydF4y2Ba | 83.66gydF4y2Ba |
85.54gydF4y2Ba | 81.45gydF4y2Ba | 83.50gydF4y2Ba | |
| 摘要利用gydF4y2Ba | 85.57gydF4y2Ba |
87.10gydF4y2Ba | 78.07gydF4y2Ba | 82.58gydF4y2Ba | |
为了方便比较性能,采用四种不同的实验train-to-test比率和四个综合交叉验证(gydF4y2Ba
不。的模型。gydF4y2Ba
| 不。摘要利用的gydF4y2Ba | 学习速率gydF4y2Ba | 不。的分支gydF4y2Ba |
|---|---|---|
| BPNN1gydF4y2Ba | 0.1gydF4y2Ba | 30.gydF4y2Ba |
| BPNN2gydF4y2Ba | 0.08gydF4y2Ba | 60gydF4y2Ba |
| BPNN3gydF4y2Ba | 0.08gydF4y2Ba | 30.gydF4y2Ba |
| BPNN4gydF4y2Ba | 0.06gydF4y2Ba | 60gydF4y2Ba |
交叉验证的虹膜。gydF4y2Ba
| 模型gydF4y2Ba | CV10gydF4y2Ba | CV5gydF4y2Ba | CV4gydF4y2Ba | CV2gydF4y2Ba |
|---|---|---|---|---|
| DE-DMASgydF4y2Ba |
|
|
|
|
| BP-DNMgydF4y2Ba | 93.33gydF4y2Ba |
93.22gydF4y2Ba |
91.93gydF4y2Ba |
86.80gydF4y2Ba |
| BPNN1gydF4y2Ba | 90.67gydF4y2Ba |
91.42gydF4y2Ba |
89.06gydF4y2Ba |
91.29gydF4y2Ba |
| BPNN2gydF4y2Ba |
|
|
|
|
| BPNN3gydF4y2Ba | 91.10gydF4y2Ba |
88.77gydF4y2Ba |
90.27gydF4y2Ba |
86.71gydF4y2Ba |
| BPNN4gydF4y2Ba | 90.44gydF4y2Ba |
89.89gydF4y2Ba |
88.80gydF4y2Ba |
89.07gydF4y2Ba |
交叉验证的肝脏。gydF4y2Ba
| 模型gydF4y2Ba | CV10gydF4y2Ba | CV5gydF4y2Ba | CV4gydF4y2Ba | CV2gydF4y2Ba |
|---|---|---|---|---|
| DE-DMASgydF4y2Ba |
|
|
|
|
| BP-DNMgydF4y2Ba | 58.82gydF4y2Ba |
|
|
|
| BPNN1gydF4y2Ba | 58.76gydF4y2Ba |
59.18gydF4y2Ba |
59.43gydF4y2Ba |
60.44gydF4y2Ba |
| BPNN2gydF4y2Ba |
|
58.72gydF4y2Ba |
61.47gydF4y2Ba |
58.83gydF4y2Ba |
| BPNN3gydF4y2Ba | 58.00gydF4y2Ba |
58.55gydF4y2Ba |
61.47gydF4y2Ba |
59.37gydF4y2Ba |
| BPNN4gydF4y2Ba | 60.19gydF4y2Ba |
61.11gydF4y2Ba |
60.92gydF4y2Ba |
60.71gydF4y2Ba |
交叉验证对癌症。gydF4y2Ba
| 模型gydF4y2Ba | CV10gydF4y2Ba | CV5gydF4y2Ba | CV4gydF4y2Ba | CV2gydF4y2Ba |
|---|---|---|---|---|
| DE-DMASgydF4y2Ba |
|
96.05gydF4y2Ba |
|
|
| BP-DNMgydF4y2Ba | 95.71gydF4y2Ba |
96.02gydF4y2Ba |
95.75gydF4y2Ba |
95.70gydF4y2Ba |
| BPNN1gydF4y2Ba | 91.48gydF4y2Ba |
92.26gydF4y2Ba |
|
94.29gydF4y2Ba |
| BPNN2gydF4y2Ba |
|
|
94.33gydF4y2Ba |
93.71gydF4y2Ba |
| BPNN3gydF4y2Ba | 93.45gydF4y2Ba |
95.52gydF4y2Ba |
95.73gydF4y2Ba |
93.53gydF4y2Ba |
| BPNN4gydF4y2Ba | 94.05gydF4y2Ba |
|
96.10gydF4y2Ba |
|
交叉验证的玻璃。gydF4y2Ba
| 模型gydF4y2Ba | CV10gydF4y2Ba | CV5gydF4y2Ba | CV4gydF4y2Ba | CV2gydF4y2Ba |
|---|---|---|---|---|
| DE-DMASgydF4y2Ba |
|
|
|
|
| BP-DNM1gydF4y2Ba |
|
92.40gydF4y2Ba |
|
91.12gydF4y2Ba |
| BPNN1gydF4y2Ba | 91.59gydF4y2Ba |
90.39gydF4y2Ba |
91.05gydF4y2Ba |
91.53gydF4y2Ba |
| BPNN2gydF4y2Ba | 91.90gydF4y2Ba |
|
90.99gydF4y2Ba |
90.31gydF4y2Ba |
| BPNN3gydF4y2Ba | 91.75gydF4y2Ba |
89.61gydF4y2Ba |
91.42gydF4y2Ba |
89.50gydF4y2Ba |
| BPNN4gydF4y2Ba | 90.00gydF4y2Ba |
92.02gydF4y2Ba |
90.00gydF4y2Ba |
|
交叉验证ACA。gydF4y2Ba
| 模型gydF4y2Ba | CV10gydF4y2Ba | CV5gydF4y2Ba | CV4gydF4y2Ba | CV2gydF4y2Ba |
|---|---|---|---|---|
| DE-DMASgydF4y2Ba |
|
|
|
|
| BP-DNMgydF4y2Ba | 83.09gydF4y2Ba |
82.00gydF4y2Ba |
83.06gydF4y2Ba |
82.07gydF4y2Ba |
| BPNN1gydF4y2Ba |
|
85.20gydF4y2Ba |
|
85.39gydF4y2Ba |
| BPNN2gydF4y2Ba | 84.12gydF4y2Ba |
85.11gydF4y2Ba |
83.51gydF4y2Ba |
|
| BPNN3gydF4y2Ba | 83.51gydF4y2Ba |
85.48gydF4y2Ba |
84.00gydF4y2Ba |
85.35gydF4y2Ba |
| BPNN4gydF4y2Ba | 84.16gydF4y2Ba |
|
83.51gydF4y2Ba |
85.09gydF4y2Ba |
如前所述,我们删除无用的树突和突触修剪的功能。整个过程简化为虹膜数据集如图gydF4y2Ba
iris数据集结构简化过程。gydF4y2Ba
肝脏数据集有12层的树突和6输入,如图gydF4y2Ba
数据集对肝脏结构简化过程。gydF4y2Ba
癌症数据集有9层的树突和9输入,如图gydF4y2Ba
癌症数据集结构简化过程。gydF4y2Ba
玻璃数据集有二十七层树突和9输入,如图gydF4y2Ba
为玻璃数据集结构简化过程。gydF4y2Ba
ACA数据集16层的树突和14输入,如图gydF4y2Ba
为ACA数据集结构简化过程。gydF4y2Ba
这些数据所示,我们得到最终的简化模型五个数据集。简化后的模型,模型的结构已经减少了超过90%,这表明我们可以利用简单的逻辑来解决真正的问题。问题是解决了有超过数百个逻辑组件但现在可以解决只有几十个简单的逻辑组件,如比较器,和盖茨,或者盖茨,而不是盖茨。这一变化大大降低了人力成本和时间成本。逻辑电路的五个数据集在图gydF4y2Ba
逻辑电路通过该方法得到的五个数据集:(一)虹膜;(b)肝脏;(c)癌症;(d)玻璃;ACA (e)。gydF4y2Ba
提高计算能力的神经元树突模型(认为),神经元树突突触模型与自适应训练的微分进化算法(DE-DMAS)提出,显示了增强性能的仿真基于UCI数据集。比较经典的摘要和BP-DNM进行的测试精度,灵敏度、特异性、中华民国和交叉验证。DE-DMAS显示所有结果,其优越性和DE-DMAS单个神经元模型发现大大超越摘要和BP-DNM。gydF4y2Ba
对于进一步了解真正的生物神经元自清除的能力。这个函数可以消除分支从树突形态取决于连续值。它因此降低了进化和简化计算负载的树突状结构在不影响计算结果。简化的树突结构可以实现与比较器的逻辑电路,或门,与门和非门。它使人们有可能用更少的成本来解决实际的问题。gydF4y2Ba
强调这项工作的贡献,自适应神经突触是首次提出。其效用是证明弗里德曼测试部分的总结gydF4y2Ba
树突的计算过程中起着举足轻重的作用。一个DE-DMAS神经元模型只能处理(即二分类问题。、二元分类问题),这是它的主要限制。但是所有的当前神经网络是由多个单神经元模型只能处理二分类。本文旨在提出DE-DMAS模型的网络结构,所以只有一个。不过,值得指出的是,变异的DE-DMAS可以开发为解决多类分类问题。例如,通过使用softmax函数(连同交叉熵),可以大约多类分类问题转化为二分类问题,并基于几个DE-DMAS one-hot-encoding策略神经元模型可以用来计算信息熵。为什么我们选择多个数据集,可以分为两类实验是我们想更直观地反映单个神经元模型的能力,而不是网络的。对于进一步的研究将集中在程序的调整,使其适应深度学习结构。我们也相信这个模型在电子设计领域拥有巨大的潜力,如VLSI和生物医学科学。gydF4y2Ba
分类数据集可以自由下载gydF4y2Ba
作者宣称没有利益冲突。gydF4y2Ba
这项工作是支持的jsp KAKENHI(批准号JP19K12136)。gydF4y2Ba