文摘

作为神经技术的进步使我们能够同时访问多个神经元的整体活动,许多神经生理研究调查如何解码神经合奏活动。神经元合奏活动从不同的大脑区域表现出不同的特征,需要大大不同的解码方法。在各种模型,最大熵译码器是利用不仅个人射击活动而且神经元之间的相互作用,更准确地提取信息的情况下持续的神经活动和/或低频发射活动。然而,它并不考虑时间变化神经状态,因此会容易对非平稳的神经信息处理表现不佳。为了解决这个问题,我们开发一种新型的解码器,扩展了最大熵解码考虑时变神经信息。这种译码器混合动力系统的神经网络模型为非平稳的最大熵模型来更好的适应环境。从两个仿真研究中,我们表明,该动态最大熵译码器能解决好与时变信息,而传统的最大熵解码器无法实现。结果表明,该解码器可以推断出神经信息更有效,因为它利用潜在神经网络的动态特性。

1。介绍

整体数据来源于神经人口活动受到很多解码的尝试(1]。传统方法主要集中在神经信息的单个神经元平均在多个试验,因此遭受intertrial变化和忽视整体信息源于多个神经元之间的相互作用。因此,解码方法,直接解决神经合奏活动作为一个整体更可取的这些条款(2]。

为此,一个解码方法称为人口向量(PV)模型,提出了整体状态被表示成一个加权和的单个神经元的首选方向发射率(3]。初级运动皮层活动的最初目的是为分析,光伏模型也用于数据分析等不同地区的初级视觉皮层(1,4]。神经元的向量表示的想法合奏活动进一步扩展的形式的最优线性估计量(OLE) [5]。

PV和OLE,归类为整体数据的结构分析方法,可以应用当协变量事件等躺在一个空间的方向运动。但在许多实际情况下,在这样一个条件不满足,一个贝叶斯解码方法可能会提供一个更好的解码方案。而不是简单地合并集合数据结构,贝叶斯方法选择与最大后验概率的事件。这种递推贝叶斯解码方法已经提出了神经元合奏解码等各种形式的关键过程(6)、卡尔曼滤波、粒子滤波(7,8]。通过考虑到神经元整体数据包含重要信息关于多个神经元之间的相关性(9),不同的贝叶斯解码方法直接利用这种相关性概率分布估计(10通过统计动力学分析[]11- - - - - -13),基于最大熵原理。能够从数据中提取信息的时间分辨率毫秒(12),最大熵解码方法是健壮的甚至神经数据与低发射率(11,14]。

最大熵解码方法直接利用神经元状态在一定条件下的稳定性,并以其简单和一致的性能。特别代表集体行为的神经网络。但是,它不考虑时间的神经元合奏活动模式。因此,我们提出一个新颖的最大熵解码器,可以接受信息时序动态神经元合奏活动,从而增强解码性能。特别是,我们的新模型预计将发挥至关重要的作用在神经元合奏信号的解码大脑前额叶区域的持久性发射活动低发射率经常被观察到。

本文组织如下。首先阐述最大熵解码的基本概念为神经元整体数据和计算模型来实现这一概念。然后,我们描述一个扩展伊辛解码器,最近提出了一个有效的最大熵解码方法对各种神经表示。接下来,我们提出一个新的解码器,它整合了颞神经动力学合奏成最大熵解码模型。模拟研究说明使用该模型的优点。最后,我们讨论该模型的优缺点和未来可能的研究方向。

2。方法

2.1。最大熵解码

让多元神经元整体数据被观察到在回应刺激。我们的目标是确定哪些刺激被解码一个给定的应用神经数据。一个可能的方法是找到最大化的条件概率鉴于:

由于难以完全描述这样一个条件概率,应用贝叶斯规则代表条件概率的可能性之前,

在大多数情况下,的可能性描述一个特定的刺激之间的生成关系及其重要的响应可以确定。而且,由于无关紧要的推理可以减少上述方程如下: 当估算,不仅单个神经元活动在一个特定的刺激也神经元间的相关性,应该把重要的信息。利用最大化熵的测量,可应用的信息关于神经相关性,我们获得一个贝叶斯模型称为伊辛模型14)和一个方法基于这个模型的解码神经合奏活动叫做伊辛译码器(12]。伊辛解码器可以简述如下。

让我们假设的发射率th神经元在给定的时间即时在二进制形式表示:当发射和当沉默。与一个特定的刺激之间的相关性和放电频率(赫兹)th神经元,表示,加上拉格朗日乘子和约束,收益率最大熵的概率是由(12,14] 这里的哈密顿被定义为 分母(4)将从此称为配分函数表示。

为了解决(4与伊辛模型),配分函数关于对于给定必须提前计算。然而,一个直接的方法将需要计算神经元,使其难以与大量的神经元。相反,你可以使用一个近似的解决方案通过马尔可夫链蒙特卡罗(密度)方法(15,16)或平均场近似(17,18]。特别是,平均场近似对于给定可以表示为(12] 在这里,表示的意思是发射率的th神经元和。

下一个问题是发现最小化的哈密顿为了获得一个最大熵分布。Thouless-Anderson-Palmer方法可以用来近似计算11,12,18,19]。用这种方法我们可以找到满足 在哪里。然后,可以计算

2.2。扩展是译码器

使用伊辛译码器的一个最大的优势是它的1000秒的时间分辨率12]。但可能会有更大的场合使用本尺寸比1女士是必需的。在这种情况下,会有多次触发神经元在一个本,从而导致信息丢失的简单的二进制表示发射活动(例如,)。因此,我们应该考虑一个系统,一个神经元的状态表示在不同的类。自伊辛模型只需要二元状态考虑,一个模型需要一个扩展的灵活性;这样的模型可以发现之一Potts模型。

Potts模型是一个通用版本的伊辛模型,该模型包含的状态空间,一个整数。哈密顿对于一个任意被定义为 在这里,代表了克罗内克符号功能和是一个神经元的放电状态神经元的合奏。的子集,表示,表示一组神经元与他人。伊辛模型Potts模型的一个特例,,,(20.]。我们可以进一步推广了方程来反映不同层次的交互类的状态等 在哪里(21]。

表征的神经状态的变量Potts模型可以实现在多个方法:计算解雇的总数在本或测量电流的比值燃烧率对每个神经元的最大发射率。状态空间的大小等于解雇的最大数量在一本对于前者,而后者将产生一个任意大小取决于量化发射率的一种方式。

在伊辛模型的同一行,Potts模型需要配分函数的近似。不幸的是,它是不容易提供封闭的解Potts的配分函数模型。相反,我们利用密度方法如下(15,16,22]。

让代表一个参数对哈密顿,让是条件在;我们希望近似通过密度的方法。假设我们知道的信息为我们要估算从它。如果我们定义,,然后 积分项内一探究竟: 的意思是我们可以应用马尔可夫链的吉布斯采样器获得的期望值(12)。一个足够大,来近似积分梯形法则 因此,

扩展的伊辛解码器基于Potts模型将从此被称为传统的最大熵解码。

2.3。动力最大熵解码

的一个神经网络模型利用统计力学是Hopfield网络(23,24]。它显示了一个明显的不同感知器(相比25,26)模型。感知器是针对物理系统和不考虑抽象的人口特征,Hopfield模型。此外,当感知器集中在同步系统,Hopfield网络也可以适用于更一般的动力系统。

Hopfield网络,每个神经元都表示为状态,确定一个阈值和突触连接强度: 在哪里和指数的神经元,代表外部输入。突触强度更新在一个特定的时间范围吗如下: 在的情况下,。

最重要的特征是,如果我们假设对称等这个神经网络,李雅普诺夫函数存在。李雅普诺夫函数,也称为一个能量函数,给出了

李雅普诺夫函数的存在很重要,因为它分析提出了如何系统的状态可能会改变。在这种情况下,李雅普诺夫函数是相同的伊辛模型的哈密顿。

Hopfield网络已经推广基于Potts模型(21]。在这种情况下,伴随着不同程度的交互作用取决于不同的神经状态,变得的李雅普诺夫函数 在哪里。注意,Potts的哈密顿模型可以获得这个李雅普诺夫函数。

现在,我们描述了如何构建一个动态最大熵解码。首先,让我们考虑一个动力系统的一些基本方面。让一个动力系统接收外部输入被描述的 的所有可能的神经状态。然后我们做两个基本假设在这个动力系统如下。

假设1。动力系统是假定方法稳定状态随着时间的推移,没有输入。然后,对于每一个,和时间,

假设2。让是一个pseudo-periodic响应外部输入。然后,我们假设 在这里是一个整数,可以足够小。我们还假设外部刺激在其刺激期间是静态的。

接下来,我们考虑两种情况时,有足够的时间对系统稳定(例1),当没有(例2)。在这两种情况下,我们需要估计上面的假设,让我们猜想,任何和相互接近,如果为。在这里代表一个pseudo-periodic属于离散集。

2.3.1。案例1

在这种情况下,我们首先定义一个状态的概率属于特定的: 利用哈密顿基于李雅普诺夫函数,我们可以计算概率属于作为

下一步是定义一个统计状态转换函数。我们代表每一个可能的状态改变给定的输入对的来作为;也就是说,。然后,转换函数被定义为 解码一个输入的知识从神经元整体数据表示为以下问题: 这个问题可以解决使用上面描述的转换函数和概率:

注意,我们还可以使用这个公式给出了一个简化的版本

2.3.2。案例2

让是一组所有可能的神经合奏。假设有一个函数如 可以被视为限制函数的动力系统同时作为重建关于。这需要的是什么如果可以找到给出了所有。因为每一个可能的解决问题和是困难的,我们使用的技术限制了序列的长度。

而不是估计定义,我们估计特定的神经轨迹。足够小的,我们的替代品为,因此获得的概率从(23)。现在我们,暂时保留它的元素而不是进一步。这组,我们重新定义的函数作为 也是的作为 这样的条件是满意的。因此,现在我们的目标是找到一个动态功能随着时间的推移。的初始值可以认为按照均匀分布。

随着时间的流逝,和变成和。然后,我们更新的结果(26)如下: 上面的“val”方程可以被视为1或0。一次正确地规范化,我们接受和规范化和概率转换吗如果更新增强的性能(26)。和介绍这是时变和收敛于0时。

这种方法部分的模拟退火技术。因此,预计方法正确的解决方案,但另一方面,可以使用较长的计算时间。该方法的主要特点不限于稳定状态。如果没有足够的时间给每个外部输入后达到一个稳定状态,它可能是更好的考虑过程中生成的临时状态。该方法实现这样的临时状态。甚至的轨迹状态转换的结果可以在外部输入的变化。尽管每个不一定代表一个神经网络的稳定状态在这种情况下,它可以是有利的解码系统,涉及颞动力学因为它可以代表国家最可能的应对变化。

2.4。仿真过程

合成神经整体数据集是为了测试新生成的解码方法,这两种情况下,“1”和“2”上面所讨论的。

2.4.1。案例1

模型能够代表持久性的神经元活动通常是复杂的(27];因此,为了简单的实验,我们生成的神经元整体数据固定发射率的16个神经元为每个外部刺激,基于泊松过程。刺激仅限于两类,和,两个稳定状态存在。简而言之,对于每一个刺激,稳定的状态和存在(见图2(一个))。

虽然四16神经元代表的实际状态,其余的将随机意味着解雇率0 Hz之间10赫兹表示整体数据无关的活动。这四个state-representing神经元与神经元被分成两对,被分配相同的意思是发射率。因此,每个状态可以表示为以下双:赫兹,赫兹,赫兹,赫兹。

2.4.2。案例2

为了生成神经元整体数据案例2中,我们利用方向优化模型28),代表了生物神经网络模型对定向编码(29日,30.]。类似于一个excitatory-inhibitory神经网络模型,该模型包含一个合奏神经元响应角方向和传递兴奋性或抑制性神经元之间的信号根据定向相似。在我们的模拟中,我们定义了一个信号从一个种群的方向另一个人口作为 在这里,和作为平衡参数被设置为和我们的模拟。实际输入神经元的调谐从外部接收输入一个角度是由 在哪里和是代表输入焦点的程度和整体强度参数的输入,分别。的范围是给定的;表示,每个神经元收到一致的输入不管他们的固有的方向,和表示,减少输入了更远离。因此,一个条件左神经元不受影响。对于这个仿真,和使用(参见图吗1)。

时间改变的神经网络表示为一个基于神经网络模型的发射率。发射率的th神经元是 在这里,是一个时间常数代表神经元之间的突触延迟,之间的突触强度th和th神经元,是一个阈值函数(31日]。这部分的仿真利用的神经元和突触延迟常数,ms。燃烧率的阈值函数定义的规模赫兹: 神经元的数量为每个八方向是相等的和突触强度和外部输入是相同的设置方向优化案例1的模型。神经连接神经元之间存在的概率低于0.5。

3所示。结果与讨论

解码器的性能评估是通过“解码错误率”和“解码不确定性”给定的数据集。出错率计算的比例不正确分类样本的样本总数测试作为一个直接衡量解码器的性能。解码不确定性表示贝叶斯概率的归一化分布的熵为每个类生成的解码器。少量的熵解码性能的显示更少的不确定性,类似于较小的方差的估计模型。使用这些绩效指标,我们比较建议解码器(动力最大熵解码器)与传统译码器(extended伊辛解码器)。

3.1。案例1

动力最大熵估计解码器解码的第一步。我们examin ed解码器所代表的这种转变评估是否正确。图2 (b)表明估计结果也表示状态变化对于一个给定的外部事件(见图2(一个))。当有两个以上的稳定状态对于每一个事件,该方法优于传统的最大熵解码方面的出错率和不确定性(见图3)。拟议的解码器生成错误率大约0.25和0.12的熵是0.45错误率和0.78显著提高熵的一些传统的译码器。性能优越的动力最大熵译码器是基于其有能力缓解这些神经元的信号被认为是无关紧要的事件。

3.2。案例2

第二项研究被认为是外部刺激变化的情况之前系统收敛于一个稳定的状态。为每个8均匀分离方向,刺激了第一次200毫秒后然后又持续了200 ms。成功的方向可以是不同于或与前者相同。少量的神经元被随机选择的512总神经元和离散在本10 ms(参见图的大小4)。

这些数据与时间变化的刺激,该译码器相比显然比传统的译码器的错误率与0.07 - 0.07,0.01,和0.11分的优势为各自的场景(见图5(一个))。然而,解码也显著的不确定性(差异范围0.3 ~ 0.8比特;以及,在拟议的解码器)高于传统的一个场景(图5 (b))。下面将进一步讨论这个问题。

3.3。讨论

从大脑信号解码神经合奏活动记录将说明如何利用神经网络处理信息。解码模型基于生物神经网络计算模型可以提供这些见解,深化我们对神经网络机制的理解。然而,方法直接使用神经网络模型是不容易实现,因为它是具有挑战性的知道每一个神经元之间的突触强度和获取完整信息的神经元网络。因此,本研究提出了一种替代方法,利用动态和合奏的集体行为的神经元,以应对各种各样的刺激。从简单的假设上的模型,我们神经动力学混合成一个解码器,我们能够检查神经网络的功能和角色。

解码器的性能评估,解码结果的不确定性以及错误率是至关重要的。这种不确定性衡量健壮的决定由译码器是关于推断从神经元活动的信息。我们建议的解码器表现出显著低错误率和小第一个案例研究(参见图的不确定性3)。然而,它生成的不确定性明显高于传统的最大熵解码器在第二个案例研究尽管它降低错误率(图5)。我们推测,这样更大的不确定性可能是由于模型复杂性在我们的解码器。更复杂的解码过程在我们的模型中包括均匀分布过渡概率可能反过来平衡个人刺激的先验概率,从而增加解码刺激的不确定性。然而,它可能不是完全模型结构的结果,因为该译码器在第一种情况下也可以减少不确定性。因此,我们怀疑,增加了不确定性在第二种情况下是通过特定的数据可能表明一个特定的结果属性,在未来需要进一步调查。

然而,我们也认识到,有足够的空间来提高在我们的模型中。特别是,更严格的方法获取信息的神经动力学可能是必要的。例如,我们的方法来估计神经元合奏可能是次优的稳定状态不同的真实数据。同时,我们需要应用译码器整体数据从许多不同的大脑区域进一步推广它。最后,持续努力减少计算负荷的提议需要解码器。

4所示。结论

许多方法不断开发解码神经合奏活动。解码模型的设计利用目标区域的属性,录音技术,神经信号,解码的目标。其中,最大熵解码方法考虑神经元之间的相关性以及个体神经元的放电率。特别是,它产生良好的解码性能时存在边际但清晰的神经元之间的相互作用。然而,当前的最大熵解码不捕捉神经合奏活动的时变特性,通常提供基本信息潜在的大脑功能。因此,目前的研究解决了这个问题通过开发一种新颖的解码器,混合动力特性的神经元模型中的合奏而保持最大熵解码的关键功能。我们表明,更多的信息可以使用该译码器成功解码相比传统的最大熵解码。

利益冲突

作者宣称没有利益冲突有关的出版。

确认

这项工作在一定程度上支持的组件和材料技术发展计划(10043826)资助的韩国贸易、工业和能源(Sung-Phil金正日Jinsoo Kim)和科技创新研发项目(S2087577)由韩国中小企业管理局(Sung-Phil金)。同时,Jee Hyun崔被支持的全球前沿研发项目由韩国国家研究基金会授予(没有。2011 - 0031525)(Jee Hyun Choi)。