文摘

语义表示对象的神经网络模型是用来模拟从外语学习的新单词。网络由功能领域,致力于对对象属性的描述,和一个词法领域,致力于言语表示。神经元的功能领域实现Wilson-Cowan振荡器,通过gamma-band允许分割不同的同步对象的同步。兴奋性神经元之间的突触功能和词法领域学习,在训练阶段,通过Hebbian规则。在这项工作中,我们首先假设一些单词在第一语言(L1)和相应的对象表示最初学习初步训练阶段。随后,都(L2)词汇学习同时呈现新单词一起L1。这两个词之间的竞争机制也由使用抑制性中间神经元实现。模拟表明,疲软的训练后,L2词允许检索对象属性,但需要接触的第一语言。相反,经过长期训练,L2词就可以检索对象本身。在这种情况下,单词之间可能发生的冲突,需要高层次的决策机制。

1。介绍

语义记忆这个词通常用来表示一种陈述性记忆是独立于上下文以及文化共享和包括词汇和概念。语义记忆的几个理论已经发展在过去的几十年中,目的是了解词与对象表示,这个链接是如何改变病理学科和神经赤字。在大多数的这些理论,语义记忆被认为是一个分布式的过程,涉及许多不同的皮质和采用多通道(感觉)表示的对象(1- - - - - -4]。更具体地说,在这些理论通常表示为对象的集合特性不同的感觉和运动形式,蔓延,必须联系在一起,与相应的单词。因此,检索的对象从内存要求所有这些分布式表示,和相应的单词,全部被激活从感官或词汇线索,并综合形成一个连贯的认知。同步在伽玛乐队现在认为在高级认知过程起着关键作用。最近的研究结果表明,gamma节律参与高层对象记忆和检索(5),在连接词和感官(6]。

虽然之前的想法主要是讨论在目前的神经认知文学,几个数学模型已经提出了直到现在。最近,我们开发了一个数学模型对象表示的抽象对象的描述为特征的集合。模型中,功能相同的对象联系在一起,并通过同步分开不同的对象,神经振子的伽玛乐队。网络是能够识别对象和其他对象区分同时存在,甚至在部分或破坏信息的情况下,当对象分享一些共同的特征(7,8]。在最近的一个版本相同的模型中,这个对象表示,散布在不同的功能区域,是与一个词法领域致力于词表示,以便正确的对象检索可以唤起相应的词,反之亦然。一些简单的“语义”之间的关系的话,分享共同的特征也意识到这个网络(9]。

在目前的工作,同样的网络是用来说明“语义”,用一个简单的例证,该模型可以用来描述词学习第二语言的过程。为此,我们假设网络,以前训练的几句话在母语(L1)(这样的话与对象表示),学习都设有(L2)字。L2 L1前一个词的相关词是通过Hebbian学习过程。字代表同一个对象之间的竞争机制也是实现。经过长期训练,L2词就能够检索相同的对象表示原词。结果从现在的角度评论都假设在表示和控制。

2。方法

模型由两个不同的层次:第一(名为“功能网络”)致力于感觉器官的描述对象表示为一组特性。第二个(名为“词汇网络”)是致力于表示的话,从上游音素的过程。两个网络交流通过训练有素的突触。此外,词汇网络还收到一个信号从“决定网络”,它认识到正确的对象的信息是否存在于功能网络和避免误导表示可以唤起一个字。更完整的描述模型,方程和参数值,可以发现在以前的作品(8,9]。

为了模拟学习的第二语言,我们在目前的模型包括一个额外的机制不习惯:两个字,它代表了同一个对象(第一,名叫L1词,原语言和第二,名叫L2的词,在新语言),通过竞争机制进行交互。这种竞争意识到通过抑制性中间神经元。来自这些中间神经元的突触也受到Hebbian学习

给出了模型结构的示意图描述在图1

2.1。功能网络

每个区域特性的网络是致力于表示对象的特定属性或特性,根据拓扑组织。因此,一个对象的集合表示 功能(每一个特征区域)。在这个工作我们使用 。我们假设每个属性已经从先前的处理提取大脑皮层,它阐述了感官信息。每个单元的功能区域包括Wilson-Cowan振荡器(10,11]。振荡器在同一地区通过横向兴奋和抑制性突触连接,根据经典的“墨西哥帽子”性格,它实现了一个“相似原理”;这意味着元素信号相似属性位于近端网络中的位置;因此,他们往往是和激活相互地连接在一起。神经振荡器属于不同领域的训练后可以通过兴奋性突触连接。这些突触最初设置为0,但通过学习阶段会认为一个积极的价值,记住“先验知识”属性发生一起在陈述的对象。横向突触不接受一个培训阶段。所有方程都可以发现在7- - - - - -9]。

2.2。词法领域

每个单位代表一个特定的“单词”。它可以接收来自预处理阶段的输入检测单词的音素,但也可以刺激通过远程突触的功能网络;通过这种方式,一个“单词”与元素特性区域代表一个存储对象的特定属性。一起,一个“单词”和它的特定属性相结合,体现概念的语义和集成网络地可以激活语言或感觉对象的信息。

在目前的模型假设词汇网络可以被激活的元素特性区域只有一个“决定网络”状态。这是实现发送足够的抑制所有元素的词汇。这种抑制作用是决定撤回的网络,当一个对象被公认。

这个网络位于下游的功能网络。它接收输入的所有元素的功能区域和验证( )有一个“激活泡沫”在任何区域。( )任何区域产生一个激活泡沫在给定的时刻。( )的条件( )和( )验证所有在一定的时间间隔,以确保连续性的对象感知。如果所有这些条件验证,然后决定网络un-inhibit词法区域,允许其对象表示激活的功能网络。一个准确描述这一决定网络中可以找到的8]。

在接下来的每个元素的词汇区域将与下标表示 香港 的上标 。在目前的研究中我们采用 。每个元素展示一个s形的关系(较低的阈值和上饱和度)和一阶动态(与给定的时间常数)。这是通过以下微分方程描述:

在哪里 是时间常数,它确定的答案的速度刺激,然后呢 是一个s形函数。后者是由以下方程描述:

在哪里 定义了神经元活动的输入值是最大的(中心点)和的一半pl集中央一点的斜率。方程(2)传统集1(即最大神经元活动。所有神经元活动规范化,最大)。

根据前面的描述,整体输入, 词汇的神经元 位置可以计算如下:

在哪里 是输入外部产生的语言刺激。 代表输入由于突触连接的强度特性的网络;这个突触输入计算如下:

在哪里 代表神经元的活动 在功能领域和 突触的强度特性领域的词汇。这个词 抑制发送到词汇占面积,决定撤销的网络。特别是, 是一个二进制变量代表的输出决定网络(1正确检测,0的错误detection-see [8]);因此,抑制发送到词汇的力量区域 当决定网络断开状态时,变成了0决定网络变化的状态。值得注意的是,外部的语言输入 当礼物,设置足够高,克服抑制进入词汇。这个词 (不包括在以前的模型版本)代表了竞争性抑制的神经元的位置 词汇区域接收来自其他的词汇。这种竞争只触发的单词代表相同的对象(如双语)和计算如下:

在哪里 是抑制性中间神经元的输出位置 , 是抑制性突触的突触前抑制中间神经元的位置香港突触后神经元的位置 在词汇的地区。

最后,这个词 在(3)代表外部抑制性输入,来自高层的自上而下的影响,试图抑制不属预定目标的词。这个输入通常设置为零但可能假设一个高价值的问题如语言选择和语言转换(见讨论)。

抑制性中间神经元的输出计算方程类似于(1)和(2),一个类似的符号的意义,也就是说,

值得注意的是,(6)和(7),抑制性中间神经元接收来自兴奋性神经元激发只有词汇地区在同一位置

2.3。突触的培训

培训已经在三个不同的阶段:细分(i)学习的对象,(ii)学习L1词汇,和(3)学习外语单词。描述的前两个阶段已经在先前的论文;因此,这里只给出一些一般性的想法。阶段(iii)是新的和更详细地描述。

在第一阶段中,对象是单独的网络和他们所有的四个特性,和突触连接特性区域通过时变Hebbian训练机制。这是详细描述(8]。在这一阶段结束时,对象可以承认即使在不完整或适度的存在改变了输入(8]。

在第二阶段中,一个对象(已经学会了在阶段(我)一起给网络对应的词。突触连接词和对象特性(在两个方向上)然后用Hebbian学习机制。这是描述的9]。在这个阶段结束时,对象可以唤起相应的单词和单词可以唤起感觉运动功能地区的对象表示。此外,几个单词和他们的对象表示可以共存伽马振荡在时间划分的范围。

第三阶段包括在学习第二语言的话语。为此,我们认为一个词在第一语言(名为L1词),以前学到的阶段(ii),一起给这个问题一个新词(L2词)代表相同的对象在一个第二语言。当然L1词汇激活对象表示的功能区域,和突触连接的特性区域L2词(即。,突触 在(4)学习Hebbian机制(类似于在阶段(2))。此外,抑制性突触连接词汇区域(即抑制性中间神经元。,突触 在(5)也学会了Hebbian机制。事实上,在这一阶段,L1和L2是活跃的,所以,也相应的中间神经元是活跃的。突触学习方程

在哪里 , , 代表活动的兴奋性神经元的位置 在词汇方面,Wilson-Cowan振荡器在位置 功能区域,抑制性中间神经元的位置 分别为, 代表着学习。最后,我们认为,突触不能克服最大饱和度值。这是假设意识到学习率逐渐减少到零当突触接近饱和。

3所示。结果

模拟执行三个不同时刻的英语是第二语言的学习过程:(i)的训练,当第二语言词从未察觉之前,(ii)在一个中间学习的时刻,当突触连接对象和L2词仍然疲软,也就是说,远小于L1的突触连接相同的对象,和(3)经过长时间的训练时期,当突触连接的对象到L2词几乎是一样强的突触从同一个对象L1词。

三个典型案例提出了为每个训练阶段,表现为不同的输入到模型:L2词作为模型的输入,L1词作为模型的输入,和对象特征作为输入到模型中。

2显示了模型的反应特性区域(上部面板)和词法地区(底部面板)在某一特定时刻的模拟,当L2词作为输入。在每个仿真,外部输入激活相应的神经元的词汇。一开始训练(图2(一个))这个词不能唤起特性区域中的任何对象表示。在温和的训练(图2 (b))L2词可以唤起的表示特性区域中的对象(四个激活泡沫的出现,代表对象的四个特性)。然而,它也了不起,L1词表示在词法区域被激活。这意味着一个L2词能够唤起的正确表示相应的对象,但它仍然需要一些参与L1的词。换言之,在这个阶段的训练第二语言仍然利用第一语言,和这两个单词(L2词和L1)参与协同对象表示。相反,在一个强大的培训(图2 (c)L2的词可以唤起只是一个微不足道的激活的对象表示L1。这意味着L2几乎已经成为完全独立于任何L1的支持。

神经元活动的时间模式如图3,当网络与L2刺激词作为输入。弱的训练,L2词可以唤起对象表示(与振动的四个特征阶段伽玛乐队,大约40 Hz,人物3(一个))。然而,值得注意的是激活L1词的词汇,震荡阶段相同的对象表示,图3 (c)。经过长期训练,L2词能够几乎完全抑制活动L1的词,由于存在强大的竞争机制。这个主题可以使用没有唤起L1, L2数字3 (b)3 (d)

4显示的不同区域的神经元激活快照模型,当模型与L1刺激词作为输入。独立于训练长度、L1词可以唤起一个正确的对象表示的特性没有任何重大的地区参与L2。这意味着,在任何阶段的学习,L1是独立于新的语言,甚至都经过长时间的训练,它能够恢复一个对象通过完全抑制相应的L2词。

第三个案例(图5)显示模型行为在网络刺激(即整个对象表示。,所有四个特性是网络作为外部输入)。当然,一开始的培训对象唤起只有L1词。同样,适度的训练后,当第二语言只是鲜为人知,对象唤起L1词,L2词几乎完全抑制。然而,经过长期训练,对象表示唤起L1和L2词,这尽管存在相互竞争性抑制共存。

之前的模拟表明,如果一个主题有低熟练度L2,外部对象自动激活L1, L2受到抑制。相反,得心应手的L2,词生产造成的外部对象造成L1和L2单词之间的冲突。一些问题,因此,出现。如何低熟练度L2主题产生正确的L2词(例如,当他/她被迫使用外国上下文或教室里L2) ?和L1和L2之间的冲突如何解决得心应手L2学科?为了回答这些问题,模型必须假设的存在进一步输入(即自上而下的抑制。,这个术语 在(3)可能来自更高认知中心,这是针对不属预定目标的语言。作为一个例子,在图6我们重复相同的模拟图5(对象作为网络的输入,即。,the word production paradigm) assuming that all L1 words are receiving an inhibitory input from an external source. Results show that, in this condition, the presentation of the object engages activation of the L2 word, less active in the low-proficiency case (Figure6 (b))和更积极的在得心应手的情况下(图6 (c)从L1),但是没有任何干扰。

4所示。讨论

“双语”一词意味着可以使用两种语言的人在他们的生活中,第一个或母语通常表示L1和L2第二语言命名。双语,当然需要一些复杂的问题,在心理语言学文献仍争论不休。第一个问题是是否第二语言(或L2)利用L1一样的神经结构或不同结构和不同的机制是否构成L2的收购。双语的第二个基本方面是一些控制机制建立的必要性应该使用哪种语言在一个给定的时刻,在一个给定的上下文和语言应该抑制,对于关心生产和词的理解。

大多数研究近年来双语出现(由Abutalebi(其中的一些总结12)利用功能性神经成像技术(如宠物或fMRI)检测哪些脑区参与或激活特定的心理语言学测试期间。尽管这些研究提供重要的信息在双语大脑组织,他们不探索相关的神经机制。此外,语言是人类的一个典型特征;因此,不能使用动物实验问题的深化我们的知识。

在这种情况下,数学模型和计算机模拟,虽然大大简化与现实相比,提供了重要贡献明确可能的机制参与语言处理(至少对于关心基本词识别和生产方面)和当前假设转化为严格的定量理论。事实上,一些当前理论语言经常使用表情像“竞争”,“抑制”,“神经活动”和“控制”,可以视为“定性模型”,当然这可能更准确的定量形式化。

模型提出了呼呼的声音代表工作在这个方向上迈出的第一步。然而,它只渴望描述语言的文章方面,没有任何包含语法问题:特别是,注意力集中在词识别(即。,the process through which a word is converted into a coherent object representation) and词的生产(表示一个对象的过程转化为一个字)。

模型的主要假设是,神经元标记词,和神经元描述他们的语义对象表示在不同的地区,通过兴奋性突触联系在一起。值得注意的是,模型中,为了简单起见,不把这个处理流的“外部”两个方面,即音素是如何转化为前题(字)和感官信息来自感官的广义到达对象的抽象表示。

第二个模型的基本方面是突触之间的联系对象表示和词学在训练阶段,提出了对象和相应的单词在一起。这种特别的L2的模型允许学习单词相同的基本机制的L1,假设一个训练阶段的L2词一起提出了以前学到的L1。

后者假设,基本在我们的工作,收到了几个证实从最近的神经影像学研究(其中的一些总结Perani和Abutalebi [13]和Abutalebi [12])。的确,神经语言学文学的传统观点,这占据了超过一个世纪,是第一和第二语言取决于不同的脑结构和在不同的神经机制14]。按照这种思路,最近定性模型(命名为Ullman声明/过程模型(15L2)假定处理,获得对生活的后期,取决于不同的认知机制和不同的脑结构比L1。最近的一些结果,然而,使用功能神经影像数据(16,17),这个假说相矛盾问题的文章方面L2(尽管L1和L2之间结构上的差异可能有效地发生所涉及的语法方面)。在回顾总结论文Abutalebi [12]“新兴从研究调查文章域是L2本质上是通过相同的神经网络处理底层L1处理”。

假设L2的文章方面是通过相同的神经结构和相同的可塑性规则L1,目前的模型给出了一些可以检验的预测,在不同阶段的学习过程,可以与现在相比功能神经影像数据和理论双语。在以下,这些预测将分别讨论了L2的神经表征(即关心的。,词汇和概念的神经基质)和控制机制涉及双语。

L2的神经表征我们的模拟——有趣的结果是,在低要求熟练掌握,当L2只是不好学,L2对象从一个词的识别涉及L1的参与。这是明显的数字23L1的单词词汇激活的区域。这些仿真结果同意一些心理语言学理论。例如,Kroll和斯图尔特(18状态,在L2收购的早期阶段,L2取决于L1访问意义的词汇条目。这个想法的结果是,在低熟练度水平,L2词的使用会导致更大的神经激活词汇和抑制地区,而使用L1词汇。让我们考虑在图中描述的情况2 (b),在数据3(一个)3 (c):这一个可以观察到两个区域同时活跃的词汇区域;当然,抑制性中间神经元也活跃在同一区域(因为他们收到直接从词汇输入区域)。这意味着更大的激活时招募低熟练度的主题是L2试图使用一个词。这个结果是由神经影像数据,尽管它是非常困难迫使这并行性之外的一个定性水平。调查文章领域的研究显示,双语者与低熟练度L2带来额外的大脑活动与L1词或与单语主题:增加活动尤其在左额下回和前额叶区域(16,19]。

此外,模型预测,L2熟练程度的增加,L2单词进行神经活动减少,逐渐的对比与参与L1词汇。这个模型预测反映所谓的绿色的收敛假说(20.),根据更高水平的精通L2产生更像,文章表示由L1。的确,神经成像研究已经报告了类似的激活大脑的左额叶和tempo-parietal区域当一个主题执行生产任务,在L1和L2得心应手21,22]。这意味着高度熟练双语者不需要招募更多资源在使用L1 L2达到类似的结果。

控制机制——模型强调一些控制机制的需要,必须付诸行动来解决几个冲突参与双语:必须使用哪种语言在给定的时刻,在一个给定的上下文?如何低熟练度主题使用L2词语避免L1的干扰更强吗?一个共同的假设在神经语言学文献假定控制需要的这两种语言之间的竞争,这种竞争是解决通过抑制不属预定目标的语言(23]。当然,竞争可以发生在音素水平(例如,英语单词“狗”与英语单词“点”),并在语义层面上(英语单词“狗”竞争的法语单词“简”)。自从第一个方面,音素与话说,不被认为是在这个模型中,只有第二种竞争将在下面被认为是。

根据Rodriguez-Fornells前假设et al。24),模型显示存在两种不同的但相互关联的控制机制,通过抑制工作。

当地一个自下而上的抑制机制的参与,旨在抑制较弱的语言更高的控制中心。这种机制是直接在模型中实现通过抑制性中间神经元和Hebbian相同的训练规则用来连接词和对象。在目前的模拟,这个机制运作当L2熟练程度低于L1能力和主体感知客体必须产生相应的词。在这种情况下,词的生产在回应一个对象自发参与L1没有激活的L2词(L2抑制了内部竞争;参见图5中央列)。

结果在图56压力需要一个自上而下的控制系统,它可以被认为是一个外部的输入模型和抑制一种语言支持。这种情况可能涉及范式语言切换、语言翻译、语言选择。在我们这个外部模拟输入可能成为必要时两种语言也有类似的要求熟练掌握(比较数据5 (c)6 (c))或当主题是被迫使用低熟练度语言尽管得心应手的干扰(比较数据5 (b)6 (b))。经典的角度来看,这些冲突是解决一个动力抑制性输入不属预定目标的语言,这可能源自不同的大脑区域典型相关认知控制,如尾状核,前额皮质和前扣带皮层(25- - - - - -27]。一个有趣的问题是,这种自上而下的控制系统是专门致力于语言或代表一个更一般的结构,用于解决冲突独立明确的领域。包含这样一个外部机制可能是未来改进的模型的主题。

总之,目前的工作代表了第一次尝试学习语言的文章方面,如生产和词的理解,使用神经网络和计算机模拟。假设相同的神经结构和学习机制操作L1和L2,模型使得几个预测同意一些心理语言学理论和最近的神经影像数据。进一步需要模型扩展方面尤其关心语言控制通过自上而下的抑制机理。引入这种机制可能会允许模拟更复杂的模式,如语言选择、语言切换,或语言翻译。