1、1,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)的突觸連接的可塑性與學(xué)習(xí)記憶功能,目錄,一、生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)二、神經(jīng)突觸可塑性動力學(xué)研究三、神經(jīng)學(xué)習(xí)記憶功能研究四、一些思考,2,前言,生命體主要活動： 物質(zhì)運(yùn)動--- 機(jī)械、電磁、化學(xué)等作用 信息活動--- 生長信息、認(rèn)知信息、集群信息 這兩種活動 密切相關(guān)，為此需要深入研究它們的相互作用。生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)的動力學(xué)研究突出地反映這個問題。復(fù)雜網(wǎng)絡(luò)系統(tǒng)的理論已經(jīng)重要成果，當(dāng)前的一個發(fā)展趨

2、勢是在生物網(wǎng)絡(luò)系統(tǒng)中的應(yīng)用。,ian3,4,一、生物神經(jīng)網(wǎng)絡(luò)系統(tǒng),神經(jīng)元神經(jīng)元集群腦的特定區(qū)域皮層的大規(guī)模組織全腦,大腦,,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)概述（一）,生物神經(jīng)系統(tǒng)作為產(chǎn)生感覺、學(xué)習(xí)、記憶和思維等認(rèn)知功能的器官系統(tǒng)，是多層次的超大型信息網(wǎng)絡(luò)，也是目前發(fā)現(xiàn)的最復(fù)雜的非線性網(wǎng)絡(luò)系統(tǒng)。 神經(jīng)信息傳導(dǎo)和整合過程是通過神經(jīng)網(wǎng)絡(luò)系統(tǒng)實(shí)現(xiàn)的，因此神經(jīng)系統(tǒng)的網(wǎng)絡(luò)動力學(xué)行為與其信息活動和認(rèn)知功能密切相關(guān)。為了進(jìn)一步探討腦神經(jīng)

3、信息傳導(dǎo)過程和認(rèn)知、思維、控制等功能的需要，必須深入研究神經(jīng)網(wǎng)絡(luò)系統(tǒng)的豐富動力學(xué)問題。,6,7,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)概述（二）,生物神經(jīng)元的類型和連接形式的多樣性使得神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有復(fù)雜的拓?fù)浣Y(jié)構(gòu)和動態(tài)特性，表現(xiàn)出很強(qiáng)的非線性和復(fù)雜性。 在整個神經(jīng)系統(tǒng)中，神經(jīng)元對信息的反應(yīng)是由神經(jīng)元集群共同完成的，而不是單一神經(jīng)元的功能，因此我們需要從復(fù)雜網(wǎng)絡(luò)動力學(xué)的觀點(diǎn)去考察耦合神經(jīng)元系統(tǒng)放電的復(fù)雜活動和時空動力學(xué)行為，探索神經(jīng)系統(tǒng)如何對

4、外界的信號進(jìn)行加工、傳導(dǎo)和整合，進(jìn)而深入理解神經(jīng)高級認(rèn)知功能。,8,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)特點(diǎn),生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)首先將外界的各種刺激轉(zhuǎn)化為神經(jīng)電信號，通過 神經(jīng)信息傳導(dǎo)和整合過程，實(shí)現(xiàn)生物的認(rèn)知和運(yùn)動控制的功能。 其復(fù)雜性表現(xiàn)為以下方面：海量維數(shù)——神經(jīng)元和突觸的數(shù)目極其巨大（如人腦約有10^11個神經(jīng)元，每個神經(jīng)元有10^3-10^4個突觸）多種類型的神經(jīng)元多層次——從分子層次直到認(rèn)知和心理活動層次；每個層次都有

5、 十分復(fù)雜的動力學(xué)行為，且彼此緊密相關(guān)多時間尺度——從電脈沖的毫秒級，到一般感覺的秒級，到學(xué)習(xí)、記憶、辨識等的更長時間多功能——包括視、聽、嗅、味等感官和運(yùn)動系統(tǒng)的功能多影響因素——神經(jīng)元和突觸參數(shù)、網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)、時滯、噪聲等神經(jīng)信息編碼與解碼高度的魯棒性、自調(diào)節(jié)性、自學(xué)習(xí)能力,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)分類（一）,微觀　分子層次 ； 細(xì)胞層次；介觀 神經(jīng)元集群（耦合振子集合 ）層次； 宏觀

6、 器官和運(yùn)動控制系統(tǒng)層次,9,10,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)分類（二）,結(jié)構(gòu)性網(wǎng)絡(luò)(structural network )：從神經(jīng)元之間直到腦功能區(qū)之間的連接關(guān)系的大腦網(wǎng)絡(luò)生理解剖結(jié)果功能性網(wǎng)絡(luò)(functional network) ：描述神經(jīng)元集群（例如皮層區(qū)域）各節(jié)點(diǎn)之間的統(tǒng)計性連接關(guān)系所產(chǎn)生的信息結(jié)果效率性網(wǎng)絡(luò)(effective network) ：描述皮層神經(jīng)網(wǎng)絡(luò)各節(jié)點(diǎn)非線性動力學(xué)行為之間的相互影響或信息流向，比功能性網(wǎng)

7、絡(luò)更強(qiáng)調(diào)節(jié)點(diǎn)之間相互因果作用 結(jié)構(gòu)性或功能性網(wǎng)絡(luò)可以利用圖論方法, 同時采用各種技術(shù)手段（包括EEG，MEG，MRI，fMRI，CT，PET）和理論模型及其計算仿真一起去拼接出大腦網(wǎng)絡(luò)的圖景。但效率性網(wǎng)絡(luò)的研究尚少。,11,神經(jīng)動力學(xué)（計算神經(jīng)科學(xué)）,神經(jīng)動力學(xué)（計算神經(jīng)科學(xué)）研究生物神經(jīng)元網(wǎng)絡(luò)的放電和信息活動,以及神經(jīng)認(rèn)知行為的動力學(xué)問題是非線性動力學(xué)、網(wǎng)絡(luò)科學(xué)和神經(jīng)科學(xué)的跨學(xué)科交叉研究領(lǐng)域。建立神經(jīng)科學(xué)的“理論、

8、計算和實(shí)驗相結(jié)合”的新研究模式。向神經(jīng)系統(tǒng)的放電活動、信息編碼、網(wǎng)絡(luò)及認(rèn)知行為提出了一系列嶄新研究方向和問題。,12,,,,,神經(jīng)醫(yī)學(xué)與生物控制工程,生物神經(jīng)元放電和編碼活動,生物控制科學(xué),生物神經(jīng)復(fù)雜網(wǎng)絡(luò),智能機(jī)器人,神經(jīng)生理解剖結(jié)構(gòu),神經(jīng)認(rèn)知科學(xué),神經(jīng)計算機(jī),,,,,,神經(jīng)醫(yī)學(xué),13,二、神經(jīng)突觸可塑性動力學(xué)研究,突觸概述突觸可塑性樹突對突觸可塑性的影響時滯、噪聲對神經(jīng)網(wǎng)絡(luò)系統(tǒng)的放電同步和時空行為的影響,突觸概述,神經(jīng)元之間

9、的信號傳遞通過精細(xì)的突觸結(jié)構(gòu)。神經(jīng)元通過突觸連接進(jìn)行神經(jīng)信息傳遞和轉(zhuǎn)導(dǎo)，以實(shí)現(xiàn)細(xì)胞間的信息交流。根據(jù)神經(jīng)元的耦合機(jī)理，突觸傳遞分為電突觸和化學(xué)突觸兩類，再按響應(yīng)特性又可分為興奮型和抑制型。突觸動力學(xué)用以刻畫在突觸中電信號和化學(xué)信號的相互轉(zhuǎn)化，信號的接收和傳遞等動力學(xué)過程。,14,15,神經(jīng)元間的信號傳遞方式：突觸,突觸,16,電突觸與化學(xué)突觸,突觸耦合的數(shù)學(xué)模型,電耦合的數(shù)學(xué)模型為：Ie=ge(vpre(t – d) – vpost

10、(t))，這里 ge是耦合強(qiáng)度，vpre 和 vpost是突觸前和突觸后膜電位， d表示突觸延遲?；瘜W(xué)耦合有多種數(shù)學(xué)模型，如 Isyn = gsyn(v – vsyn) H(vpre(t - d) –vthresh) 這里 gsyn是耦合強(qiáng)度，vpre 和 vsyn是突觸前和突觸膜電位， vthresh是突觸閾值，d表示突觸延遲。,17,神經(jīng)突觸可塑性,真實(shí)神經(jīng)網(wǎng)絡(luò)系統(tǒng)通常是動態(tài)的。為此我們不僅要考慮神經(jīng)元

11、動力系統(tǒng)和神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的的高度非線性和復(fù)雜性，還要討論神經(jīng)網(wǎng)絡(luò)系統(tǒng)的時變性、魯棒性和易損性等問題，其中涉及的一個重要問題是學(xué)習(xí)和記憶功能，這與突觸可塑性研究密切相關(guān)。,18,突觸可塑性的實(shí)驗基礎(chǔ),Bliss（1973)在麻醉的家兔海馬上發(fā)現(xiàn)了長時程突觸增強(qiáng)效應(yīng)（long-term potentiation, LTP)，單個脈沖測試引起群體峰電位或群體興奮性突觸后電位增高。Nicoll et al（1988）通過實(shí)驗驗證了聯(lián)合型LT

12、P。后來還發(fā)現(xiàn)突觸后電位也能產(chǎn)生與長時程突觸增強(qiáng)的相反方式，使用的刺激方式是長時間的低頻刺激，持續(xù)幾百次即可引起興奮性突觸后電位的持續(xù)降低(long-term depression, LTD) 。這些都為突觸的變化提供了可靠的證據(jù)。神經(jīng)突觸的耦合系數(shù)受到突觸前后的神經(jīng)元活動的相互作用的影響而隨時間變化，稱為突觸的可塑性。,19,Hebb突觸可塑性假說,20世紀(jì)中葉，神經(jīng)心理學(xué)家D. O. Hebb根據(jù)長期實(shí)驗研究的結(jié)果，提出了學(xué)習(xí)過

13、程中突觸運(yùn)作的基本規(guī)律，即”當(dāng)某一突觸兩端的神經(jīng)元同步激活（同為興奮或同為抑制）時，該連接強(qiáng)度增強(qiáng)，反之應(yīng)減弱”的著名論斷，被稱為Hebb假說。,20,The Hebbian postulate for cellular learning,“When an axon of cell A is near enough to excite B and repeatedly or persistently takes part in fir

14、ing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency, as one of the cells firing B, is increased.”,21,Hebb突觸學(xué)習(xí)規(guī)則,令神經(jīng)細(xì)胞A和B的電發(fā)放為Va和Vb，它的突觸連接系數(shù)為Wab。由于細(xì)胞A和細(xì)胞B的發(fā)放，引起它們之間突觸聯(lián)

15、系有個增量△Wab，根據(jù)Hebb規(guī)則有數(shù)學(xué)表達(dá)式： △Wab = f（Va，Vb）， 其中f表示某種函數(shù)關(guān)系。 Hebb的突觸學(xué)習(xí)律并沒有直接告訴我們這個函數(shù)f的形式如何。把神經(jīng)元作為神經(jīng)系統(tǒng)的基本單元，神經(jīng)元之間的突觸系數(shù)作為一個變數(shù)?，F(xiàn)在借助數(shù)學(xué)，計算機(jī)科學(xué)和物理學(xué)理論，提出一些學(xué)習(xí)和記憶的數(shù)學(xué)理論，這些理論都是建立在突觸可塑性基礎(chǔ)之上。,22,Hebb的突觸可塑性假說的實(shí)驗

16、驗證,Hebb關(guān)于學(xué)習(xí)和記憶的突觸可塑性變化假說，在當(dāng)時僅僅是一種猜想。而后，形態(tài)學(xué)研究以及電生理實(shí)驗開始證實(shí)這一假說，如Bliss（1973）等的工作。半世紀(jì)以來的神經(jīng)生理學(xué)的實(shí)驗研究所取的證據(jù)都傾向于支持Hebb突觸修飾的假說。還有一些實(shí)驗表明，隨著某一神經(jīng)回路的多次應(yīng)用，該回路上的突觸數(shù)量增多，體積變大，甚至還長出新的突觸出來，學(xué)習(xí)和記憶功能得到顯著加強(qiáng)。,23,Hebb的突觸可塑性假說的實(shí)驗驗證（續(xù)）,近年來，特別是Markra

17、m、Bell、Amzica、Zhang及Bi 等人的實(shí)驗研究工作給出了較為完整的和準(zhǔn)確的關(guān)于Hebb突觸的實(shí)驗證明，并給出了突觸修飾對于時間的敏感性以及發(fā)現(xiàn)了Hebb猜想中并未明確的突觸抑制（depression）機(jī)制。這些工作顯示：突觸可塑性對時間信號具有敏感性；正相關(guān)的突觸后放電將引起突觸聯(lián)系的增強(qiáng)，而負(fù)相關(guān)的突觸后放電將引起突觸聯(lián)系減弱。,24,樹突對突觸可塑性的影響,目前的神經(jīng)元網(wǎng)絡(luò)建模中，大多數(shù)連接方式?jīng)]有考慮空間方面的影響。

18、實(shí)際上，突觸可塑性是由突觸前后的瞬時動作電位支配的，而突觸后電位又受到樹突棘結(jié)構(gòu)性質(zhì)的影響，因此樹突的可興奮性必然反映到突觸可塑性規(guī)律上面；同樣地，突觸在樹突上的位置也會間接地影響其可塑性規(guī)律。反之，突觸可塑性當(dāng)然影響樹突的工作特性。,25,樹突對突觸可塑性的影響（續(xù)）,結(jié)論：在生物神經(jīng)網(wǎng)絡(luò)模型時，必然存在突觸可塑性與樹突的可興奮性的相互作用回路特性。樹突的電性質(zhì)不是靜態(tài)的，要受到神經(jīng)調(diào)制機(jī)理和突觸活動的影響，因此突觸學(xué)習(xí)規(guī)律會隨著

19、樹突響應(yīng)特性函數(shù)的 形式發(fā)生動態(tài)的變化。,26,三、神經(jīng)學(xué)習(xí)記憶功能研究,學(xué)習(xí)和記憶是動物和人類的生存必需的重要腦基本功能，是兩個互相聯(lián)系的神經(jīng)過程。學(xué)習(xí)是指獲得外界信號的神經(jīng)過程，而記憶是將獲得的信息儲存和讀出的神經(jīng)過程。 學(xué)習(xí)和記憶本身也不是單一過程，可以包含不同的神經(jīng)過程： 學(xué)習(xí)可分為非聯(lián)合型學(xué)習(xí)和聯(lián)合型學(xué)習(xí)。 記憶可分為短時記憶和長時記憶；陳述性記憶和非陳述性記憶等。,27,H

20、ebb理論與學(xué)習(xí)記憶功能,突觸可塑性是學(xué)習(xí)和記憶的基礎(chǔ)。 Hebb提出的關(guān)于突觸傳遞變化的理論，設(shè)想在學(xué)習(xí)過程中突觸發(fā)生某些變化，導(dǎo)致突觸連接的增強(qiáng)和傳遞效能的提高。他提出重復(fù)持續(xù)的活動可以引起神經(jīng)元連接的長時程變化并固定起來，即學(xué)習(xí)能力的增強(qiáng)。 他后來又進(jìn)一步指出，記憶不是兩個神經(jīng)元之間連接的變化，而是同時被激活的神經(jīng)元集合的持續(xù)活動可以使細(xì)胞的相互聯(lián)系加強(qiáng)，從而實(shí)現(xiàn)對刺激的記憶。

21、 神經(jīng)電脈沖到達(dá)突觸的時間是離散的，空間分布也是復(fù)雜的，因此突觸可塑性是統(tǒng)計的結(jié)果。,28,Hebb學(xué)習(xí)理論的發(fā)展（一）,Hebb突觸修飾假設(shè)無論對于神經(jīng)科學(xué)還是計算神經(jīng)科學(xué)都是重要的。 根據(jù)Hebb突觸假說，發(fā)展了各種突觸變化的學(xué)習(xí)律，如經(jīng)典的Hebb學(xué)習(xí)律、加強(qiáng)學(xué)習(xí)律、相關(guān)學(xué)習(xí)律、協(xié)方差律、BCM律。這幾種學(xué)習(xí)律在具體執(zhí)行時往往會發(fā)生突觸系數(shù)無限增大，從而使系統(tǒng)不穩(wěn)定。限于神經(jīng)生理學(xué)的研究，Hebb學(xué)習(xí)律還存在諸多問題，如Hebb

22、突觸的聯(lián)系效率只能增長卻無上限等。這在神經(jīng)生理學(xué)上是沒有依據(jù)的。Hebb學(xué)習(xí)律的改進(jìn)和發(fā)展依然是今后突觸可塑性研究的重要問題之一。,29,Hebb學(xué)習(xí)理論的發(fā)展（二）,Oja（1982）為了避免不穩(wěn)定性，提出了一種非監(jiān)督學(xué)習(xí)律，稱之為“Oja學(xué)習(xí)律”。Oja 學(xué)習(xí)規(guī)則作為Hebb 學(xué)習(xí)規(guī)則的一種改進(jìn)算法, 它在單個神經(jīng)元的權(quán)值變化中具有很好的收斂性 , 但是在規(guī)模比較大的生物神經(jīng)網(wǎng)絡(luò)中, Oja 學(xué)習(xí)規(guī)則易使網(wǎng)絡(luò)的解產(chǎn)生發(fā)散。,30,H

23、ebb學(xué)習(xí)理論的發(fā)展（三）,鄭鴻宇等根據(jù)實(shí)際生物神經(jīng)元之間的連接強(qiáng)度隨時間變化的特點(diǎn)，首先構(gòu)造了一個Hodgkin-Huxley 方程為節(jié)點(diǎn)動力學(xué)模型的動態(tài)變權(quán)小世界生物神經(jīng)網(wǎng)絡(luò)模型，然后研究了該模型神經(jīng)元的興奮特性、權(quán)值變化特點(diǎn)和不同的學(xué)習(xí)系數(shù)對神經(jīng)元的興奮統(tǒng)計特性的影響。 最有意義的結(jié)果是,在同樣的網(wǎng)絡(luò)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)及外部刺激信號的條件下，學(xué)習(xí)系數(shù)b 存在一個最優(yōu)值bopt ，使生物神經(jīng)網(wǎng)絡(luò)的興奮度在bopt 處達(dá)到最大。,31,H

24、ebb學(xué)習(xí)理論的發(fā)展（四）,脈沖時間依賴的突觸可塑性（spike-timing dependent plasticity, STDP）現(xiàn)象的發(fā)現(xiàn)，使Hebb學(xué)習(xí)律更為精確定量，時間在數(shù)十毫秒之內(nèi)，為時間編碼理論（而不是長時程的平均發(fā)放）提供了直接證據(jù)。STDP的發(fā)現(xiàn)也是Hebb的細(xì)胞集群理論的一個實(shí)驗證據(jù)。STDP的突觸修正規(guī)律是一種快速的變化，可能對學(xué)習(xí)效果產(chǎn)生影響，同時表明不同類型的時間窗口可能對學(xué)習(xí)的結(jié)果有關(guān)鍵性的作用。 因此

25、STDP的發(fā)現(xiàn)以及其理論可能對現(xiàn)有的學(xué)習(xí)算法產(chǎn)生重大影響。,32,Hebb學(xué)習(xí)理論的發(fā)展（五）,Dayan & Abbott（2001）提出了一個STDP規(guī)則指導(dǎo)下的學(xué)習(xí)律。它僅是描述了STDP的可塑性，這種方式的可塑性對學(xué)習(xí)過程究竟有什么好處，及多種窗口函數(shù)情況下學(xué)習(xí)過程有何不同等問題還需要進(jìn)一步考慮。Johannes J. Letzkus 討論了局部突觸的時間依賴可塑性的學(xué)習(xí)規(guī)則，結(jié)果表明突觸是根據(jù)局部規(guī)則改變而不是全局的

26、，局部突觸是時間依賴可塑性的關(guān)鍵。,33,34,四、一些思考,,生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)的神經(jīng)元特性、耦合方式和網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)與網(wǎng)絡(luò)動態(tài)特性和功能密切相關(guān)。神經(jīng)突觸和樹突反映神經(jīng)元的耦合特性，對神經(jīng)信息的加工和傳導(dǎo)功能有十分重要影響，因此生物神經(jīng)系統(tǒng)的突觸和樹突動力學(xué)研究對于了解和分析大腦的學(xué)習(xí)和記憶功能具有十分重要的理論意義和應(yīng)用價值。 在研究中要注意針對真實(shí)的生物神經(jīng)系統(tǒng)特點(diǎn)建模和分析，根據(jù)生理解剖結(jié)構(gòu)和實(shí)驗數(shù)據(jù)

27、分析進(jìn)行網(wǎng)絡(luò)模型的構(gòu)建和動力學(xué)特性的預(yù)測。,一些思考（續(xù)一）,目前多數(shù)神經(jīng)網(wǎng)絡(luò)研究基本考慮的是不依賴于時間的、雙向、對稱、無權(quán)連接矩陣的耦合方式。實(shí)際上，大腦的學(xué)習(xí)和記憶功能是與腦皮層神經(jīng)元間連接強(qiáng)度的變化規(guī)律有關(guān)的，即通過突觸可塑性去實(shí)現(xiàn)，因此在生物神經(jīng)網(wǎng)絡(luò)動力學(xué)研究中采用時變、加權(quán)、非對稱連接矩陣更為合理。 我們需要根據(jù)實(shí)驗結(jié)果建立各種神經(jīng)突觸模型和進(jìn)行突觸可塑性的定性和定量分析，供研究在生物神經(jīng)網(wǎng)絡(luò)模型中時變連接方式之