文摘

星形胶质细胞的重要性,胶质的一部分系统,信息处理的大脑最近被证实。关于多层联结主义的信息处理系统,它已经表明,系统包括人工神经元和星形胶质细胞(人工Neuron-Glia网络)著名的优势完全相同的系统只包括人工神经元。以来的实际影响星形胶质细胞在神经网络函数是未知的,我们有调查,使用计算模型,不同的astrocyte-neuron交互信息处理;不同的neuron-glia算法实现了训练和验证多层人工neuron-glia网络面向分类问题的解决方案。测试执行的结果表明,所有的算法建模astrocyte-induced突触的改进人工神经网络的性能,但其有效性依赖于问题的复杂性。

1。介绍

神经系统(NS)的行为在许多方面仍是一个谜。大脑如何执行特定的细节信息处理任务,如分类、模式识别、和概念抽象,仍然未知。虽然长期以来一直认为神经元是唯一的细胞参与复杂的认知过程,这种想法已经改变了。最近的发现显示特定的神经胶质细胞的重要性,叫做星形胶质细胞,在大脑中信息处理(1- - - - - -8]。丰富的证据表明,星形胶质细胞和神经元之间的双向沟通的存在,一个重要的积极作用的星形胶质细胞在生理NS (1,3- - - - - -5]。这个证据导致了一个新概念的建议在突触生理学、三方突触,由三个功能要素:突触前和突触后元素,和周围星形胶质细胞(2]。这三个元素之间的通信有高度复杂的特点,这似乎反映出更可靠的信息处理的复杂性NS的元素之间。为了理解的动机这种互惠的信号,我们必须知道它们的属性之间存在的差异和相似之处。仅仅十年前,这将是荒谬的建议这两个细胞类型有非常相似的函数;现在,我们意识到,从化学的角度信号是惊人地相似。细胞类型接收化学输入ionotropic和metabotropic受体产生影响。这种集成后,两种细胞类型发送信号通过释放化学发射器。他们的邻居神经元信号和neuron-to-astrocyte信号显示塑料的属性取决于特定活动(1]。星形胶质细胞和神经元之间的主要区别是,许多神经元轴突大距离,把开展高速动作电位的时间短,而星形胶质细胞没有表现出任何电兴奋性但进行钙峰值的长时间(几十秒)在短距离和速度低。快速的信号和输入/输出函数在中央NS要求速度似乎属于神经域。慢但会发生什么事件,如感应记忆和其他抽象的过程,如思维过程?星形胶质细胞之间的信号有助于控制吗?只要没有这些问题的答案,研究必须继续;目前的工作提供了新的方法来推进通过使用人工智能(AI)技术。

这项工作试图添加一些新知识对于信息处理神经元和星形胶质细胞之间的相互作用,在大脑和计算机的人工智能系统。因此,这是一个多学科的研究。神经科学,它试图受益,帮助理解neuron-glia互动,和AI,创建新的计算方法来处理信息。包括人工元素,试图模仿星形胶质细胞的行为在人工神经网络(ann)已被证明在分类问题(目前优势9]。这包含了所谓的人工Neuron-Glia网络(ANGNs) [9,10]。在我们以前的工作我们有调查的后果包括人工星形胶质细胞,模拟生物属性定义参与astrocyte-neuron沟通,在人工神经网络的性能。使用联结主义系统和进化算法,比较了安和ANGN解决分类问题的性能。我们已经证明的成功程度ANGN优于安。安的性能分析与不同数量的神经元或不同架构的影响表明,ANGN不能占网络元素的数量增加,而是由于星形胶质细胞是专门。此外,ANGN与安的相对有效性增加随着网络复杂度的增加(9]。重要的是要注意,我们的人工智能计算模型不占星形胶质细胞的主要内在生理属性,细胞间钙波astroglial网络,如工作的Ikuta et al。11,12]。而不是与细胞间建立一个astroglial网络波并行神经网络,然后分析他们的联合操作,我们添加了单星形胶质细胞单一神经元,使星形胶质细胞增加神经元的连接的强度与下一个神经元层(参见2)。目前,我们还造型病患其他类型的影响。

ANGN neuron-astrocyte交互的实现在我们以前的工作构成了我们称为neuron-glia算法。第一个算法,我们命名减毒星形胶质细胞的影响(见部分3),试图模仿行为观察海马神经元和星形胶质细胞之间(6]。然而,一些机制和生理astrocyte-neuron通信发生在大脑的后果。在什么条件下一个特定的调节效应发生在一个特定的神经网络是未知的(8]。因此,在目前的工作我们研究其他形式的互动是否可能帮助我们理解大脑中发生了什么,这可能是同样高效的计算机信息处理中。我们有新的和不同的neuron-astrocyte交互建模,分析神经科学实验的结果进行生物神经系统(4- - - - - -8]。这导致了不同的实现neuron-glia算法训练和验证前馈多层ANGN用于解决分类问题。为简单起见,我们的工作集中在造型astrocyte-induced突触,在我们之前的研究(9]。使用这些新算法获得的结果可以比较它们之间的观察neuron-glia交互,到目前为止,获得最好的结果为每个问题。

本文由以下部分所组成。部分2介绍了ANGN并解释其整体行为,没有人工星形胶质细胞及其与多层网络的差异。部分3细节的实现neuron-glia算法为研究neuron-astrocyte创建交互。部分4解释了模拟执行创建的算法应用到两个问题,模拟多路复用器设备和虹膜花分类从这些模拟,显示了结果。最后,部分5总结了本研究的讨论和结论和解释工作,正在开发研究的一个延续。

2。人工Neuron-Glia网络

人工神经网络是相互连接的神经元模型,模拟生物神经网络的行为(13,14)(见图1)。神经元是这些网络的基本信息处理单元(见图2)。

人工智能的联结主义分支进行研究的安。在这一领域研究人员设计并建造了不同类型的安;这些系统是不同的拓扑结构,动力学,和行为分别构成要素和在一起(系统作为一个整体)。许多在这些方面取得了进步,但有很多限制领域的联结主义系统的处理速度和计算复杂度。

两个神经元之间的连接是一个方向。因此,一个神经元是连接的源和其他神经元是目的地。一个值与连接相关联。这个值被称为重量和它决定了影响连接的神经元激活的目的地。

一个神经元,特点是输入,信号来和权重来与输入有关。

信号可能来自其他神经元或网络的输入信号。神经元的输出是由传递函数的应用程序吗(15)输入调整相关的重量之和: 一个ANGN扩展了安架构包括一种新的处理元素,人工星形胶质细胞(9,10,16- - - - - -18)(见图3)。

人造星形胶质细胞与神经元和控制它的活动(见图4)。星形胶质细胞修改连接它的重量与(输入连接,输出连接,或者两者都有),这取决于神经元的活动。一系列的值也与体重有关,称为重量限制(wM)。星形胶质细胞控制的活动神经元通过使用一个计数器。计数器记录神经元的次火灾。

由于缺乏知识有关的特定特征的修改,星形胶质细胞在神经连接,我们实现了不同neuron-glia算法(见部分3)来模拟大脑的星形胶质细胞的行为假定,考虑到观察生物体的神经系统(1- - - - - -4]。谷氨酸在细胞外空间发布的星形胶质细胞和突触前神经元可以影响另一个星形胶质细胞,另一个突触前神经元或突触后神经元。如果到达的谷氨酸突触后神经元收益直接从突触前神经元,动作电位(AP)发生更快,迅速结束或多或少。如果有也一直是由一个激活的星形胶质细胞释放谷氨酸的谷氨酸突触前神经元,更多的美联社将1]。星形胶质细胞的激活是一个缓慢的过程,如果我们比较它与神经活动(4]。相同的结论可以从影响两个神经元之间的突触的神经递质激活星形胶质细胞,比传播慢一千倍的冲动的神经元。这种缓慢导致的ANGN表示每个训练模式在超过一个周期或迭代。如果它模仿这种缓慢,ANGN需要周期或迭代来处理每个输入模式(见图4)。

我们还必须考虑到的贡献权重的星形胶质细胞ANGN连接发生根据时间因素,考虑到他们行动缓慢,反应是非线性的。这将是有趣的知道星形胶质细胞影响联结主义系统,考虑他们的影响神经元的突触根据活动的时间。强烈的神经元的活动越多,影响越大的星形胶质细胞连接。

星形胶质细胞的行为是决定性的参数,和。每个实例或输入模式,用于培训、验证或测试人工处理*(迭代)。星形胶质细胞寄存器中神经元的活动迭代,应用一个函数神经元的输出,在那里表明如果神经元发射了或不:

因此,星形胶质细胞有一个注册的神经元的活动的时间窗口瞬间的时间(迭代持续一个即时的时间)。观察这个活动,星形胶质细胞将修改相关的神经元连接的重量当计数器的神经元的活动达到的价值。图4显示输入神经元连接修改。一个星形胶质细胞也可能修改输出神经元连接或两者兼而有之 在哪里 和是一个函数定义为

与的函数,它返回一个神经元的次数已经解雇了。如果神经元活跃次,权重的连接将增加一个百分比,而他们将减少百分比如果神经元期间仍不活跃迭代。

3所示。Neuron-Glia算法

六个算法实现不同在两个方面:具体的实现功能,是否尊重重量限制当神经元连接被修改。不同的实现每个算法的函数在其相应的分段解释道。不同的方法连接权重的修改也解释道。

3.1。连续激活、重量限制

星形胶质细胞方面的重量限制连接: 该算法只考虑连续神经元激活;如果神经元缺乏到达活动或活动水平,使得星形胶质细胞行为,活动柜台重新启动。神经元活动的水平,这些限制后,是由以下功能:

3.2。连续激活,体重无限

这个算法的行为是和上次一样,只是在这种情况下,星形胶质细胞不会尊重连接的限制重量;因此他们可以达到任何值:

3.3。Nonconsecutive激活、重量限制

星形胶质细胞方面的重量限制连接

在这个算法神经元激活不一定是连续的。如果神经元缺乏到达活动或活动水平,使得星形胶质细胞行为,活动柜台重新启动。神经元活动的水平,这些限制后,是由以下功能:

在神经元的活动不需要连续产生这个结果:如果一个星形胶质细胞增加的重量一个神经元的连接,它表明,神经元发射迭代超过仍不活跃。如果一个星形胶质细胞的精神性的重量与神经元的连接,它表明,神经元发射迭代不到仍不活跃。

3.4。Nonconsecutive激活,体重无限

这个算法的行为是和上次一样,只是在这种情况下,星形胶质细胞不会尊重连接的限制重量;因此他们可以达到任何值:

3.5。减毒星形胶质细胞的影响

在该算法中,星形胶质细胞不会尊重的限制重量的连接:

和神经元的活动不一定是连续的

的主要区别与以前的算法源于神经元的活动计数器的管理:当神经元到达活动水平使得星形胶质细胞修改它的神经元连接,活动计数器没有设置为0(它保留值)。这种行为有一个明显的结果修改的连接重量:当点一个星形胶质细胞修改连接的重量达到给定迭代和神经元火灾再次在下一次迭代中,神经元的星形胶质细胞会增加体重的连接。当神经元的行为仍不活跃是相似的,结果是体重却降低了。

在前面的算法,具有激活计数器被设置为零,柜台需要达到的价值再次为星形胶质细胞(因此至少采取行动迭代的神经元活动/活动是必需的)。这种行为意味着额外的钢筋在那些最火的神经元,它也使病患的效果持续时间更长,随着时间的推移只会逐渐消失。

3.6。全球处理效果

在前面的算法,每个实例处理一定数量的迭代来模拟延迟胶质系统功能(秒一个数量级)对神经功能(毫秒)的一个数量级(见图5)[19,20.]。

该算法命名为全球处理效果创建假设大脑的工作方式比被模拟的方式是不同的。不是在k迭代中处理每个实例,该算法考虑了实例作为一个整体,和净过程在整个组实例迭代(见图6)。例如,该算法考虑以下:当视觉信息(即。,a scene) is being processed by the brain, it obtains a sequence of images and this sequence is processed as a whole. Common characteristics are extracted from these images to give the scene meaning. The previous algorithms would consider each image independently and would try to extract characteristics from each one separately.

这个新算法修改连接的权重不同于前面的算法。用在哪里是实例的数量(培训/验证/测试),该算法评估实例中迭代。权重修改使用 在哪里

与神经元的次数是活动期间迭代。这种行为,修改连接神经元的重量成正比的神经元的活动。

4所示。结果

评价的功能neuron-glia算法,ANGN使用不同的算法与安(没有人工星形胶质细胞)训练只有使用遗传算法(气)。ANGN训练方法是混合的。它是由两个学习阶段:一个无监督学习阶段(选择neuron-glia算法)和一个监督学习阶段(气体应用使用MSE计算在无监督阶段)(9,10,16]。网络比较(7网络:ANGN 6不同的无监督算法和ANN-see表1)被训练来解决日益复杂的两分类问题。问题来自UCI机器学习库(21):模拟多路复用设备问题和虹膜花问题。

为每个选择的网络体系结构选择问题是基于良好的成果在以前工作Rabunal et al。22,23]。不管怎样,重要的是没有最好的架构。有相同的架构的重要的问题是所有的网络相比,为了测试影响只有通过人工星形胶质细胞。无论如何,我们有我们的以前的工作(所示9),通过增加神经元的数量和层,人工星形胶质细胞的影响变得更加有益。

关于ANGN neuron-glia算法的参数,四种不同的组合迭代(4、6、8)和激活(2或3)被认为是对于每一个算法,特别是(4 - 2、6 - 2、6 - 3 y 8 - 3);做初步测试后(16)的组合,获得最好的结果。相同的参数(,,,)是用于所有人工星形胶质细胞在每个模拟。每个模拟也用25%的体重增量(a)和50%重量递减(b)。这一决定是基于良好的结果在以前的工作16]。生物知识支持这种选择,因为增量低于递减,当没有持续的活动,加强了这些神经元的连接显示一个常数活动(24]。

关于遗传算法参数,他们也选择在沉思的以前的工作Rabunal et al。22,23]。这些参数都不是为了获得最好的结果在每一个问题,但在联结主义系统使用相同的参数比较。100人口的个人使用的遗传算法。个人选择算法选择是蒙特卡洛和代换法是达尔文的替换。关于个体繁殖,使用了一个交叉点。交叉率为90%,变异率10%。

模拟进行了通过一个工具我们有使用Borland DELPHI和Visual c++语言实现。测试是在一个AMD Athlon PC, 1 GB的RAM和Windows XP操作系统。

4.1。模拟多路复用器的设备(MUX)

我们决定进行第一次测试一个众所周知的多层体系结构,解决了一个简单的分类问题:电子设备的模拟多路复用器(MUX)有四个输入和一个输出(参见图7)。解决这个问题的一个三层网络使用:六个神经元在输入层,四个在隐藏层和一个输出层的神经元。激活函数用于所有的神经元网络是一个阈值函数和阈值。这个问题的输出值是布尔。所有神经元被设定的限制重量。这个问题可用的64个实例被分成两组:58实例培训和六个不同的类的实例被选为目的的检查泛化能力。所有模拟都超过4000代执行。

所有neuron-glia实现算法进行了MUX问题(见表1)。

每个算法执行使用十不同人群的连接权重。为每个人口和算法的最佳值(高验证准确性)从上述4中选择和组合使用。表2显示了每个算法的平均值。这些结果表明,在所有情况下,但两个ANGN达到训练误差较低,在所有情况下更高的精度验证是通过ANGN对安的结果。

每个算法的次数达到最好的结果为每个测量分析(代少,训练误差,验证精度更高,或者更少的时间)。表3更频繁地表明ANGN取得最好的结果,考虑到验证准确性,尽管花费更多的时间去完成它。

4.2。虹膜花分类(Iris)

我们想证明我们的算法与问题相关的更复杂的比MUX域,一个问题测试算法在ANGN处理多个分类任务。MUX问题相比,虹膜花问题使用连续输入值,不同人工神经元激活函数的不同层次,和两倍的训练模式。它包括确定植物的物种:虹膜setosa,虹膜杂色的,或虹膜virginica。本例中有150例有四个连续输入代表四个特性对花朵的形状。四个输入值代表测量的毫米花瓣宽度,花瓣长度,萼片宽,花萼长度。学习模式被发现有四个输入三输出。三个输出是布尔的,代表每个虹膜的物种。以这种方式来做(三个逻辑输出而不是多个),可以提供额外的信息关于系统的输出是否可靠。也就是说,由于输出的内在特性,只有其中一个必须具备的真正价值,代表花的类型分类,而其余有一个错误的值。因此,如果两个或两个以上的输出有真值,或者如果他们是错误的,我们可以得出这样的结论:价值分类系统是一个错误,系统不能进行分类。 The values corresponding to the four input variables have been normalized in the interval (0–1) so that they are dealt with by the ANGN.

解决这个问题的一个三层网络使用:四个神经元在输入层、隐藏层中的五,和三个输出层神经元(每个虹膜类一个神经元)。激活函数用于所有的神经元网络是一个双曲正切,除了输出层神经元,阈值函数和阈值是使用。限制重量的神经元被设置为1。这个问题可用的150个实例被分成两组:验证培训和1/3 2/3;训练集由1/3的每一个类的实例。所有模拟都超过2000代执行。

尽管如此,正如前面提到的,重要的是拥有相同的架构,我们建立了这个架构和这些参数,我们的研究小组得到的在以前的工作22,23]。通过使用ANN与这些特性,专门通过GA和培训,Rabunal et al。22,23)达成了比以前更好的调整最好的例子的工作解决虹膜花安,马丁内斯和戈达德[25BP)用于培训和一个隐藏的神经元比Rabunal等。这些好的结果表明GA的功效进行简化和解决这个问题。我们比较我们的新ANGN专门通过GA和安训练。

该算法命名为减毒星形胶质细胞的影响被选中,是因为它实现最好的结果MUX问题(意味着验证准确性好,最好的成果更多)。结果,目的是增加一些变化,该算法使用的两个配置:一个和和另一个和。后者被称为星形胶质细胞2的减毒效果表4。

选择另一个算法从剩余的测试其行为对一个更复杂的问题。限制较少的算法选择方面的(激活的神经元和限制修改权重的连接):“连续不激活,体重无限”。

与MUX问题一样,每一个算法执行使用十不同人群的权重。为每个人口和算法的最佳值(高验证准确性)在四个选择和组合使用。表5显示了每个算法的平均值。这些结果表明,在所有情况下,但两个ANGN达到训练误差较低,和在所有情况下更高的验证是通过ANGN对结果的准确性与安。

关于每个算法的次数获得最好的结果,表6表明ANGN实现最好的结果更多次,考虑到验证准确性,尽管花费更多的时间去完成它。

5。讨论和结论

所有的实现算法试图效仿,ANGN,突触连接的增强作用发生在大脑星形胶质细胞造成的,由于高突触活动。前五个算法模拟星形行为以类似的方式,只是改变了限制重量变化和连续连续与否突触活动的性质。与前五的算法不同,第六算法在一个相当不同的方式:它认为全球信息处理而不是一个单独的实例。

ANGN使用这六个算法实现(因此包括模拟人工星形胶质细胞连接和惩罚的势差现象缺乏活动)改善了安,不包括人工星形胶质细胞。值得注意的是前五之间的疗效差异算法和第六,取得了最糟糕的结果。

它也被观察到不是连续的,无限的重量算法没有达到最好的结果简单问题(MUX)但并达到最好的结果更复杂的问题(Iris)一个更复杂的网络体系结构。这表明净(问题)复杂性影响行为的一种算法,呈现一种算法更适合一个问题或其他根据问题的复杂性。这使得星形胶质细胞的结论,一个特定的行为更适合一些问题而不是其他人,这取决于问题的复杂性和特征。这种行为同意在大脑中星形胶质细胞的生物学行为。有时他们比其他人拥有更大的影响力。此外,它已被观察到,星形胶质细胞的数量更高更复杂的大脑区域,他们有更大的影响力。glia-to-neurons比率最高的是发现在系统发育树的顶部,在人类的大脑;这就产生了一个问题高级皮质星形胶质细胞是否关键监管元素功能(3]。

在任何情况下,证明了假设,更多的测试被执行与虹膜的问题和其他问题(从初步测试和算法开发工作)。因此,astrocyte-neuron交互模型的发展,结合丰富的生物相互作用,例如,astrocyte-induced突触抑郁,或抑郁和增强作用,正在进行测试他们是否提供类似的,或者更好的是,导致神经网络性能。

这项工作试图协助人工智能和神经科学。前者通过创建一种新的神经网络信息处理元素,后者通过贡献想法希望,不知何故,在神经科学指导调查对星形胶质细胞的行为理解生物体的神经系统。所有的算法可以尝试翻译在神经科学实验室。他们可能会模仿生理动态发生在大脑。

星形胶质细胞在脑功能的重要性,理解和学习神经网络和星形胶质细胞网络之间的通信发生在微观层面,对协同行为的理解是至关重要的脑区域。众所周知,星形胶质细胞在同一比例不存在在所有的大脑区域,这可能影响之间存在不同的交互模式和其他地区。星形胶质细胞的行为在一些地区刚刚开始进行分析,对信息处理的影响从未被研究过,如大脑皮层。计算模型来研究大脑回路连接在微观层面将允许在宏观层面的理解发生了什么。此外,鉴于ANGN的功效在处理信息,他们可以提供双倍的收益这一领域的研究。因为他们可以用来分类和识别模式,ANGN在不久的将来将被测试作为一种数据分析工具帮助发现任何特征或神经紊乱大脑信号在不同的形式,如脑电图和脑磁图描记术。

确认

作者感谢诉Aguiar-Pulido和p . Lopez-Perez有用的建议。支持的工作是由科技部创新西班牙和欧盟,菲德尔(tin2009 - 07707), Xunta德加利西亚,西班牙(REGICC 2009/58, 08年sin010105pr, 10 sin105004pr),和CYTED (Ibero-NBIC网络209 rt0366)。