同质混乱的网络作为率/人口代码时间代码转换器

文摘

目前,很明显,神经系统的不同部分使用不同的信息编码的方法。初级传入信号在大多数情况下是在形式的高峰列车使用人口率编码和编码的组合虽然有明确的证据,时间编码用于不同地区的皮层。在摘要中,表明这两个之间的转换编码方案可以执行由同质混沌神经网络在一定条件下。有趣的是,这种效果就能达到网络培训和突触可塑性。

1。介绍

神经系统编码信息形式的峰值序列或高峰列车。因此,分析大脑的信息处理是不可能不了解的信息编码原理和原则之间的转换不同的编码方案,因为众所周知,神经系统使用不同的编码方案对传输的信息刺激,模式,肌肉命令,等等。这些编码方案是基于两个主要方法。第类的编码方法,精确的相对位置不同的峰值时间轴上的不考虑,只有他们的频率或组神经元发射是很重要的。相反,其他编码方法利用精确的个别峰值之间的延迟。让我们把这两个类的代码异步和同步代码。

有几个异步编码的方案,他们往往是结合使用。率编码中使用许多传入和传出神经系统的一部分。在这种方法中,刺激强度或命令发送到肌肉表示为单位时间内的峰值。它是最探索编码方法。人口编码,另一个异步的编码方法是基于表象的刺激的活动增加一个特定的神经元合奏特定的刺激。它可用于代码的事实存在的刺激以及它的力量,作为一个活跃的神经元。例如,它是已知的(1],视觉图像移动方向编码作为各自的神经元的活动乐团在中间暂时灵长类动物的大脑视觉区域。率和人口编码可以被视为双方的编码方案时存在一些刺激和/或强度表达在某些人口的神经元通过提高燃烧率。我们将调用这个计划/人口编码。在一个特定的变体方案(有时称为位置编码),刺激的数值参数编码作为最活跃的神经元的位置。这是指出,这种类型的编码速率编码(相比有许多优点2]。

同步编码(通常称为颞编码(3])是基于个别峰值的想法,精确的相对时间内高峰列车发出不同的神经元可以包含的信息刺激。这表示可能有不同的形式。存在一些刺激的事实可以被表示成一个稳定的结合某些神经元发出的峰值与其他固定延迟的峰值对峰值(因此我们可以把这种时间编码时空编码)。连续值可以被编码为两个峰值之间的时间间隔,两个高峰列车之间的相移,或上升阶段相对于一些全球同步信号。例如,海马CA1锥体细胞的代码体空间位置的发射阶段相对θ节律(4]。这种编码方法可以称为相位编码。代码的时间分辨率的神经经常毫秒数量级(5)是一种广泛使用的证据的时间编码在大脑中。最常用的突触可塑性模型,spike-timing依赖性可塑性(STDP [6]),假定这些信息编码方案。工作记忆模型基于神经元polychronization效应(7,8基于这种编码方法)也自然。让我们注意到,在本文中,我们只考虑时间编码的时空变异。

目前,很明显,神经系统的不同部分使用不同的信息编码方案。初级传入信息编码使用利率——或者以人群为基础的方案处理传递给大脑皮层区域时间编码被广泛使用。但又命令肌肉应该表示为率编码信号。也非常可能激增,未来的智能系统和设备基于神经网络(SNNs),例如,在机器人中,将包括组件使用不同的编码方案。因此,SNNs执行功能之间的转换不同的信息编码形式应该是神经系统的必要组成部分,以及这些设备。然而,在与广大文学致力于信息编码在SNNs,考虑不同的编码方案之间的转换工作的数量非常少。例如,在[9它讨论了皮质破裂神经元如何精确定时的峰值序列中包含的相位信息转化为编码信号。率之间的关系和相位编码方案在合唱团的海马锥体神经元从前者,后者是探索和翻译10]。关于哪一种网络可能执行翻译率/人口时空编码编码似乎仍不够探讨直到现在。一般的方法来解决这个问题,提出了通过Izhikevich [11]相对于所谓polychronous神经组(png)。所需的想法是,转换是由polychronous神经组(数量的神经元被激活释放高峰列车之间的精确复制延迟个人峰值)现有的或自发地出现在混沌神经网络。然而,这项工作以及后续工作致力于polychronization既不考虑,我的知识的程度,具体实现这种转换的条件也没有公布其实现的实验证据。这些目标的成就动机的研究报道。目前的工作还使用polychronization效应为基础,喜欢11),但除此之外,我们会看到,它显示在网络执行转换速率/人口时空编码的编码(1)可能由漏integrate-and-fire(生活)神经元比使用的神经元模型(简单得多11),(2)可能不是塑料(STDP可塑性中使用时11),指出,突触可塑性是有害的,因为它使转换不稳定),(3)不需要参与全球有节奏的活动像[θ节律4]。

2。材料和方法

在本研究,我们使用一个最简单的和在同一时间使用最广泛的神经元模型,漏integrate-and-fire(生活)神经元的绝对不应期(见,例如,(6])。

有两种网络:神经元兴奋性和抑制性神经元。兴奋和抑制性神经元的轴突连接其他神经元的兴奋性或抑制性突触,分别。至关重要的是,突触后峰值发射是足够数量的集体活动的结果(我们让这个数字等于6)突触前神经元。为了使用无量纲单位,我们假设膜电位阈值总是等于1。满足上述条件,选择最大兴奋性突触权重值等于0.19。每个突触权重使用均匀分布随机选择的范围(0,0.19)。抑制性突触权重也分配中均匀分布与随机生成的值范围。最大抑制体重的价值作为监管机构保持平衡所必需的网络而兴奋和抑制的抑制和兴奋性神经元的数量是固定的。也就是说,我们使用了兴奋和300年抑制性神经元网络组成的700在所有的实验。的小甚至轻微的输入信号或罕见的自发发射引起雪崩飙升的排放导致网络的状态不断自我维持的活动和非常高的发射频率。伟大的值引起的直接抑制网络对任何外部信号的反应。为每个网络配置存在一个阈值上面的网络活动在任何情况下是不可能的。我们选择的价值略高于该阈值。在我们的例子中,它对应于。

高峰时间传播从一个神经元传到另一个神经元撒谎范围1 - 10 ms的兴奋抑制连接的连接和1 - 3女士,接近生理值。设置的传播延迟如下考虑。

为了通用性,网络应该没有任何先验结构考虑输入信号的属性。事实上,认为网络没有内在结构;它完全同质和混乱,所有相同的神经元和相同的神经元之间的连接(兴奋性→兴奋,兴奋→抑制性,等等)有相同的权重分布,延迟,连接概率,等等。此外,神经元的轴突无法连接到相同的神经元的突触。

外部来源的信号接收到的网络是一个数组输入节点。神经元通过兴奋性或抑制性突触连接。通过这些神经元(我们称之为传入连接)的连接组成的接收信号噪声(与恒定的平均频率随机峰值)和高频刺激表示为短片段飙升的某些输入节点组。输入节点的总数总是相同的,等于1000。兴奋和抑制性输入节点的比例是相同的神经元,700/300。

只要满足上述条件,选择组突触前神经元和每个神经元输入节点绝对是随机的。

许多SNN计算机模拟实验表明,突触分布延迟是一个同样重要的因素决定网络行为作为突触权重的分配。例如,它是至关重要的传播延迟抑制兴奋性连接的连接将实质上低于;有必要阻止发展强大的永久性全球振荡网络活动可以抑制网络对外界刺激反应(因为它,例如,从理论模型考虑12])。然而,如果满足这个需求,抑制连接延迟的确切分布没有显著影响网络性能。相反,选择兴奋性连接延迟被发现是非常重要的,以便我们考虑更详细。就像上面所提到的,在我们的方法实现的关键作用速率/人口时间编码转换是由png。在[8),它提出了使用SNNs人为丰富潜在png由于特殊的兴奋性传播延迟。即兴奋性神经元被视为位于随机点在球体表面或n维超球面和连接延迟是由神经元连接的球面距离成正比。自png的特点是大量的神经元之间同一双短路径,这样每条路径的总延迟(几乎)相同,这个延迟分配给更大数量的png比完全随机分布。类似于(8),在这项工作我们使用四维球体神经元位置。下一节实验结果考虑确认这个选择的重要性。

输入信号由一系列不同的刺激和噪音。每个刺激后30 ms长,提出了网络反应之前的刺激,完全消失了(这是由于正确的选择——前面所讨论的)。每一个刺激是随机生成的序列峰值从输入节点对应于这个刺激。刺激的特点是明显高于峰值频率相对背景噪音。

人生如果神经元模型的优势是,它是非常简单的。soma的模型只包含两个参数:不应期的长度和膜电位衰减常数。前者限制最大发射频率,通常选择等于几毫秒。我们设置ms。后者决定了突触前到达峰值时期的大小共同行动产生突触后飙升。这个参数变化在不同类型的神经元6),但是,很明显,它不能在神经元形成png是基于非常精确计时。因为这个原因我们将它设置为3。

总结了一般网络的结构属性表1。

这个表显示的另一个重要特性描述网络与抑制性神经元的作用。这些神经元不应该阻止网络响应外界刺激,但应该有效地阻止网络自我维持的活动结束后刺激。为了达到这个目标,抑制性神经元本身就是强烈抑制传入信号,这样他们几乎不火在刺激。但是他们的相互抑制作用远远弱于对兴奋性神经元的抑制作用(他们只有3 nonafferent抑制性突触,而兴奋性神经元10)。因此,刺激结束后抑制性神经元开始火广泛和抑制整个网络活动。兴奋和抑制的相对实力在网络示意图如图所示1。连接中间神经元的分布的影响是描绘在图2。它显示平均发射后兴奋和抑制性神经元的频率在不同时刻刺激演讲的开始。

现在让我们回到这个工作的最终目标。我们看到,编码的输入信号的发射频率的增加一定数量的网络输入节点。如果每个演示一些刺激激活一个PNG特定刺激它的意思是,在我们的方法中,这种刺激是记录时态形式,因为神经元属于活跃PNG火严格和准确的时间序列。因此,追求我们的目标我们应该解决这个问题找到png的网络,特别是png特定于给定的模式。

基本上,有两种不同的方法来测定png在神经网络(13]。第一种方法是基于分析网络的结构属性,如突触延误和权重。录音的第二种方法分析了神经元发射的时候为了确定稳定重复寿命及其序列峰值与活跃的png。我们使用第二种方法,但另一个PNG检测算法实现。

在我而言,PNG被定义为一个序列(神经元id、点火时间)。仅包括兴奋性神经元png。让我们考虑经济刺激。让是一组对(神经元id,时间开始后呈现的刺激)对应于峰值发射前的下一个刺激。所有这些设置对应的刺激将表示为。然后发现的算法一个PNG支持下如下:(1)创建一个矩阵,初始化1所有的元素,,0所有其他的元素。(2)迭代地为每一个,,找到的转变,因为它的价值是最伟大的,那么增加1,。(3)如果,然后,否则如果是最不,,然后。该算法可以如下简单的例子(图所示3)。上部排这个数字代表3射击的历史片段4神经元(设在代表时间),每个片段包含4次步骤。方块表示发射。下一行显示矩阵在算法的步骤1和2次迭代后第2步。灰色方块对应于最后的变体。

使用该算法png被发现。但我们感兴趣的不过是png专门对只有一个刺激。让我们定义PNG的活动历史上的片段作为,转移()是由通过添加在所有对第二个元素。然后反应的强度的刺激可以被定义为和选择性的措施作为。很明显,如果反应不同于任何刺激是弱于,然后。很容易看出算法确定png和选择性的复杂性,在那里是连续的刺激之间的时间,是所有刺激的演讲,是在整个发射峰值总数的协议进行了分析,然后呢是许多不同的刺激。

重新编码过程声明为成功如果每刺激PNG和选择性1被发现。对于每一个PNG我们记录相应的规模和实力的反应刺激(相对单位,除以这个PNG)的大小。后者参数有意义的最小的一部分PNG刺激呈现之后变得活跃。除此之外,重要的是要知道在多大程度上这些png是独立的;如何一个神经元,属于一个PNG变化概率找到它在其它PNG。如果png是独立的这意味着网络有足够的信息能力,能够将更多的不同的刺激而不损失精度。同时,在众多的刺激的情况下,独立的png不太相似,因此允许更可靠的识别编码的刺激。描述两个独立的程度我们使用png组神经元属于他们,和。如果png是独立的交集的大小和约等于,在那里兴奋性神经元的总数。作为衡量两个png之间的依赖我们的实际尺寸比他们的十字路口,这个值。距离计算的数字1是独立的象征。

在所有描述实验,测定png和测量的参数进行100报告的每一个刺激。这些实验的结果将在下一节中讨论。

3所示。结果与讨论

讨论了实验我们不同的三个基本参数的输入信号:许多不同的刺激,刺激强度(峰值速率和人口规模而言),和信号/噪声比。只有刺激持续时间总是等于30 ms。这是接近最短时间刺激被生活神经系统(14,15]。

这些实验的主要目的是证明所需的转换可以通过执行前一节中描述的网络,效果稳定,观察到在广泛的条件下,不仅对精心准备特定的信号。为此很充分使用星实验设计方案分别从某个点开始和不同的不同的参数;这里我们不感兴趣的依赖关系转换特征信号参数、耦合效应的参数,等等。刺激,起点与100输入节点每一个刺激,刺激峰值频率300赫兹,和3赫兹背景噪音(对应于信号/噪声比= 10)。影响不同参数的变化被认为是下面。

3.1。信息的能力

3.1.1。转换质量依赖许多不同的刺激

许多不同的刺激不同的实验从3到1000年(即大于网络中兴奋性神经元的数量!)。在所有的实验中转换成功;与选择性PNG等于1为每个刺激被发现。本系列实验的详细结果如图所示4。

最意想不到的结果是弱转换质量依赖刺激转换,即使有更多的刺激的兴奋性神经元网络。polychronous团体执行转换的平均规模约为130。至少有20 - 25%的各自的PNG被激活后的每一个演讲刺激转换。所有这些PNG几乎是独立的,尽管所有的点在底部图略高于1:这意味着如果一个神经元属于一些PNG它有更多的机会进入其它PNG。然而,近距离的平均相对PNG十字路口1在所有实验表明,网络可以把成功刺激的数量明显大于其神经元的数量(然而,为了实验证明它更长时间计算是必需的,因为上述PNG检测算法的计算时间成正比的许多不同的刺激,甚至1000年刺激计算时间约为1.5天)。

3.2。依赖刺激强度的转换质量

神经元的不相关的突触前活动,生活像一个单位与乙状结肠传递函数(对峰值速率)。沉默(在模型中没有自发发射)当突触前峰值与最大可能是罕见的和火灾频率决定于它的不应期非常频繁的突触前峰值。转移这些“无”和“所有”国家之间可能或多或少的尖锐:这取决于膜电位衰减时间和平均贡献的突触前膜电位上升。在我们的示例中,当小(3)女士和突触的贡献平均低于0.1(虽然膜电位阈值设置为1),乙状结肠是类似于阶跃函数。例如,通过减少刺激峰值频率100赫兹,我们观察到相当数量的刺激演讲没有造成任何网络的反应。同样的效果发生当我们减少每个刺激的输入节点数为30。自然地,在这些条件下的网络不能作为转换器运作。可能网络的转换能力较弱的刺激可以促进与阈值通过使用更复杂的神经元模型膜电位适应(16)或基于稳态突触可塑性(17]。

相反,增加刺激强度由于扩大的输入节点子集对应唯一刺激提高转换质量。与300输入节点实验刺激刺激所png绝对选择性,这些png和反应强度明显大于100输入节点/刺激,尽管一些png显示这种情况下倾向于粘在一起。相应的数据收集表2。

3.3。背景噪音的影响

在过去的一系列实验我们不同的背景噪音水平1 Hz-30赫兹范围。这是毫无意义的强化执行实验噪音超过30 Hz,因为在这种条件下抑制水平网络变得不足,网络演示不断强大的活动。这些实验的结果表明,该转换过程非常稳定对噪音。当然,虽然转换条件下强烈的噪音(30 Hz噪声对应于信号/噪声比等于1)有低质量的PNG响应强度和程度的PNG独立,但是,尽管如此,所有刺激PNG绝对选择性被发现在所有的实验。

相应的实验数据图表示5。

3.4。随机化的兴奋性连接延迟

这一研究获得的可能,最意想不到的结果是,突触可塑性被发现不必要的实现我们的目标。事实上,“polychronization”一词的发明者,Izhikevich,突触可塑性(事实上,两种:长期和短期)在他的实验([7]Szatmary一起[11),和其他人)。可塑性有助于突出相对罕见的神经元连接构成png海洋中其他混乱的连接。以来我们可以假设在我们的例子中兴奋性突触的特殊选择延迟上面讨论使png的相对量更大,这让可塑性不那么重要的积极影响。为了证实这一假设,我们进行实验类似于上面的考虑但兴奋性连接延迟的随机值。即网络被使用在前一节中描述的规则,创建所有其兴奋性突触的延迟随机排列,使得网络完全混乱。但他们发现了在这些条件下,png失去选择性。定量说明,我们测量部分的刺激选择性png被发现。这个参数的值对不同数量的刺激在图所示6。每个数量的刺激实验重复10次。我们看到有3种不同的刺激,只有最简单的实验是成功的从的角度来看我们的选择标准。这将是有趣的理解为什么观察依赖不是单调的,而是详细的勘探的属性完全混乱的网络没有直接关系这一研究的主要课题。

同时,应该注意的是,在这项研究中,我们使用了非常简单的模拟输入信号;未来的研究可能在我们计划工作提供更为真实的感官信号需要实现的某些形式的突触可塑性在我的模型。事实上,本研究的主要目的是演示一个简单的同质SNN可以将信号从时间代码/人口编码形式。但是,如果考虑这个工作环境的研究成果针对模拟多通道的集成和处理现实世界的感官信息流动,那么下一步应该建立足够丰富的信息环境的软件模型研究SNNs和繁殖的报道结果在这些更现实的条件。可能会使公司的工作记忆机制基于png (7,8)作为下一层的整体SNN-based信息处理系统,因为这些机制假设时间刺激记忆的编码。

4所示。结论

在这个工作,因此,它被发现在一定条件下混沌神经元和同质网络组成的简单的生活可以转换信号编码的使用速率/以人群为基础的方案基于时间编码一种形式。它是很重要的,因为这两种形式的信息编码是很常见的许多(但不同)中枢神经系统的一部分。有趣的是,突触可塑性和学习不需要成功的重新编码。全球同步信号的传播在整个网络也不是必要的。

在我的方法重新编码过程被认为是选择性激活polychronous神经组给定刺激特定的编码使用速率/人口编码方案。因此,至关重要的是,网络丰富了潜在的png是由于特殊的传播延迟选择兴奋性中间神经原连接;即这些延迟值正比于神经元之间的距离就像放置在随机点的假想球(见细节(8])。选择适当的兴奋和抑制性神经元的抑制性突触的数目,他们的重量,传播延迟(见表1和图1)也很重要,因为抑制性神经元发挥重要作用在这个建设;他们应该停止失控的增长激励导致永久的毫无意义的活动网络,同时允许明显网络对刺激的反应表示(图2)。

在我们的方法中,选择性png是由一个特别设计的新算法。它具有线性复杂度对问题的主要维度,除了许多不同的刺激(它的复杂性与该参数的平方)。

上面描述的计算实验证实,稳定和质量执行的转换是描述网络大范围的刺激参数。

利益冲突

作者宣称没有利益冲突有关的出版。

确认

作者要感谢尤金Izhikevich,罗斯Szatmary,奥列格•托诺夫和大脑的其他成员公司研究团队有用的评论和讨论研究。

引用

1. j·h·r·Maunsell和d·c·范·埃森”功能性质的神经元在中间暂时的视觉区域的猕猴。即选择性刺激方向、速度和方向,”神经生理学杂志卷,49号5,1127 - 1147年,1983页。视图:谷歌学术搜索
2. a·马修斯,a . v .赫兹和m . b . Stemmler”解决嵌套的神经表征可以在神经元的数量,指数”物理评论快报,卷109,不。1,文章ID 018103, 2012。视图:谷歌学术搜索
3. p·达扬l·f·阿伯特,理论神经科学:计算和数学建模的神经系统,麻省理工学院出版社,2001年。
4. o·j·艾哈迈德·m·r·梅塔,“海马利率代码:解剖学、生理学和理论,“神经科学的趋势,32卷,不。6,329 - 338年,2009页。视图:出版商的网站|谷歌学术搜索
5. d . a .屁股c .翁j·金et al .,“时间精度自然视觉的神经代码和时间表,”自然,卷449,不。7158年,第95 - 92页,2007年。视图:出版商的网站|谷歌学术搜索
6. w·郭士纳,和w·基斯特勒公司强化神经元模型:单神经元,数量,可塑性英国剑桥,剑桥大学出版社,2002年。
7. b . Szatmary和e . m . Izhikevich Spike-timing工作记忆理论,“PLoS计算生物学》第六卷,没有。8篇文章ID e1000879 2010。视图:出版商的网站|谷歌学术搜索
8. m . v . Kiselev“自组织过程神经网络在大型飙升导致工作记忆的形成机械零件我”第12届国际学报》工作会议对人工神经网络(IWANN 13)特内里费,页510 - 517年,西班牙,2013年。视图:谷歌学术搜索
9. 即Samengo和m . a . Montemurro相位信息转换成spike-count代码破裂神经元,”《公共科学图书馆•综合》,5卷,不。第三条ID e9669, 2010。视图:出版商的网站|谷歌学术搜索
10. m·r·梅塔,a·k·李和m·a·威尔逊”作用的经验和振荡速度代码转变为一种时间代码,”自然,卷417,不。6890年,第746 - 741页,2002年。视图:出版商的网站|谷歌学术搜索
11. e . m . Izhikevich“Polychronization:计算与峰值,”神经计算,18卷,不。2、245 - 282年,2006页。视图:出版商的网站|谷歌学术搜索
12. m . Zeitler a Daffertshofer, c . c . a . m . Gielen“不对称与延迟脉冲耦合振子,”物理评论E-Statistical、非线性和软物质物理学,卷79,不。6、文章ID 065203, 2009。视图:出版商的网站|谷歌学术搜索
13. r·马丁内斯和h . Paugam-Moisy算法结构和动力polychronous组织检测,”19学报》国际会议上人工神经网络(在校园里' 09)卷,5769在计算机科学的课堂讲稿利马索尔,页75 - 84年,2009年塞浦路斯。视图:谷歌学术搜索
14. f·里克,d . Warland r . de Ruyter van Steveninck和w·BialekSpikes-Exploring神经代码英国剑桥,麻省理工学院出版社,1996年。
15. c .大尺度d·k·肖p . Foldiak和d·佩雷特。“看到的速度,”认知神经科学杂志》,13卷,不。1,第101 - 90页,2001。视图:出版商的网站|谷歌学术搜索
16. r . Brette w·郭士纳,“自适应指数integrate-and-fire模型是一种有效的神经活动的描述,“神经生理学杂志,卷94,不。5,3637 - 3642年,2005页。视图:出版商的网站|谷歌学术搜索
17. g . g . Turrigiano和s . b . Nelson”稳态发展中神经系统的可塑性,”神经系统科学自然评论,5卷,不。2、97 - 107年,2004页。视图:谷歌学术搜索

版权

版权©2014米哈伊尔诉Kiselev。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。