1、神經(jīng)網(wǎng)絡(luò)最新發(fā)展綜述神經(jīng)網(wǎng)絡(luò)最新發(fā)展綜述學(xué)校：上海海事大學(xué)學(xué)校：上海海事大學(xué)專業(yè)：物流工程專業(yè)：物流工程姓名：周巧珍姓名：周巧珍學(xué)號：學(xué)號：2015302101552015302101552的實現(xiàn)離不開大腦神經(jīng)系統(tǒng)的研究。眾所周知，人腦是由幾十多億個高度互聯(lián)的神經(jīng)元組成的復(fù)雜生物網(wǎng)絡(luò)，也是人類分析、聯(lián)想、記憶和邏輯推理等能力的來源。神經(jīng)元之間通過突觸連接以相互傳遞信息，連接的方式和強度隨著學(xué)習(xí)發(fā)生改變，從而將學(xué)習(xí)到的知識進行存儲。模擬人

2、腦中信息存儲和處理的基本單元神經(jīng)元而組成的人工神經(jīng)網(wǎng)絡(luò)模型具有自學(xué)習(xí)與自組織等智能行為，能夠使機器具有一定程度上的智能水平。神經(jīng)網(wǎng)絡(luò)的計算結(jié)構(gòu)和學(xué)習(xí)規(guī)則遵照生物神經(jīng)網(wǎng)絡(luò)設(shè)計，在數(shù)字計算機中，神經(jīng)細(xì)胞接收周圍細(xì)胞的刺激并產(chǎn)生相應(yīng)輸出信號的過程可以用“線性加權(quán)和”及“函數(shù)映射”的方式來模擬，而網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值調(diào)整的過程用優(yōu)化學(xué)習(xí)算法實現(xiàn)。按照該方式建立的這種仿生智能計算模型雖然不能和生物神經(jīng)網(wǎng)絡(luò)完全等價和媲美，但已經(jīng)在某些方面取得了優(yōu)越的性能

3、。目前神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展了上百種模型，在諸如手寫體識別、顯著性檢測、語音識別和圖像識別、模式識別、人機交互、優(yōu)化算法、深度學(xué)習(xí)等技術(shù)領(lǐng)域取得了非常成功的應(yīng)用。2.2.各領(lǐng)域簡單介紹各領(lǐng)域簡單介紹2.12.1手寫體識別手寫體識別2009年，認(rèn)識到自由手寫文本是一個具有挑戰(zhàn)性的任務(wù)。草書分割或重疊的字符的困難，與需要利用周圍的環(huán)境相結(jié)合，導(dǎo)致了較低的識別率，即使是當(dāng)時最好的識別。GravesAlex等人[1]提出了一種基于一種新型的遞歸神經(jīng)網(wǎng)

4、絡(luò)，專門為序列標(biāo)注任務(wù)設(shè)計的，其中數(shù)據(jù)是很難段和含有遠(yuǎn)距離雙向的相互依存關(guān)系的一種方法。在兩個大型無約束手寫數(shù)據(jù)庫的實驗中，該方法實現(xiàn)了對在線數(shù)據(jù)79.7％，而上的脫機數(shù)據(jù)74.1％的單詞識別精度，顯著超越國家的最先進的基于HMM的系統(tǒng)。此外，證明了網(wǎng)絡(luò)的魯棒性詞匯的大小，測量其隱層的個人影響力。2010年，CiresanD.C.等人[2]使用整個未變形的訓(xùn)練集進行驗證，不浪費訓(xùn)練圖像。原始灰度圖像的像素強度的范圍從0（背景）到255（

5、最高前景強度）。每幅圖像的2828=784個像素被映射到真實值在[1.0，1.0]，和被饋送到對NN輸入層。使用2至9隱藏層和單位數(shù)目不等的隱藏單元來培養(yǎng)MLPs，。大多是每一層隱藏單元的數(shù)量向輸出層（表1）降低，但不都是這樣。結(jié)合AFNE（旋轉(zhuǎn)，縮放和水平剪切）和彈性變形，在每一個初劃時代整個MNIST訓(xùn)練集被變形。小型網(wǎng)絡(luò)初步實驗得到一些參數(shù)。表1的結(jié)果表明：極具競爭力的MNIST手寫基準(zhǔn)，單精度浮點基于GPU的神經(jīng)網(wǎng)絡(luò)超越所有先前