1、在過去的若干年中，卷積神經(jīng)網(wǎng)絡(luò)(CNN)在圖像分類和對象檢測領(lǐng)域表現(xiàn)出眾，并且具備良好的應(yīng)用價(jià)值，尤其在計(jì)算機(jī)視覺方面的應(yīng)用已經(jīng)取得了一系列顯著的成果。從生物識別系統(tǒng)到實(shí)時(shí)應(yīng)用程序，都受到深度神經(jīng)網(wǎng)絡(luò)(DNN)的深刻影響。而卷積神經(jīng)網(wǎng)絡(luò)作為使分類和學(xué)習(xí)更容易和更可行的關(guān)鍵技術(shù)工具之一，極大地提升了對象識別應(yīng)用程序中的識別率。在GPU技術(shù)的支持下，CNN被證明非常適用于基于視覺的應(yīng)用程序。然而CNN需要消耗大量內(nèi)存和計(jì)算資源，在傳統(tǒng)CPU

2、上運(yùn)行極慢，不適合進(jìn)行訓(xùn)練。因此，想要在存儲和計(jì)算能力有限的實(shí)時(shí)系統(tǒng)上實(shí)現(xiàn)非常高效的CNN幾乎不可能。在這種情況下，需要一些改進(jìn)的CNN解決方案，以提供更簡單的結(jié)構(gòu)，更好的性能和更高的準(zhǔn)確性。
　　本論文圍繞兩個(gè)核心課題展開研究:提出一種具有高精度的新型CNN架構(gòu);降低傳統(tǒng)CNN架構(gòu)的計(jì)算資源消耗。本文的研究內(nèi)容和貢獻(xiàn)如下:
　　1)針對當(dāng)前視覺應(yīng)用對架構(gòu)擴(kuò)展性的需求，提出了一種面向?qū)崟r(shí)系統(tǒng)的可擴(kuò)展神經(jīng)網(wǎng)絡(luò)架構(gòu)，該架構(gòu)使用卷

3、積神經(jīng)網(wǎng)絡(luò)來設(shè)計(jì)資源節(jié)約型視覺應(yīng)用系統(tǒng)，并介紹了該架構(gòu)的理論和設(shè)計(jì)方法。
　　2)針對輔助駕駛系統(tǒng)中道路場景理解缺少足夠帶標(biāo)注訓(xùn)練數(shù)據(jù)的問題，提出了解耦卷積神經(jīng)網(wǎng)絡(luò)DCNN(Decoupled CNN)，從而能夠用較少的或半標(biāo)注的數(shù)據(jù)來訓(xùn)練CNN。DCNN使用了不均勻標(biāo)注的方式，包含少量帶標(biāo)注數(shù)據(jù)以及大量弱標(biāo)注數(shù)據(jù)。
　　3)針對語義像素分割應(yīng)用中CNN模型過于復(fù)雜的問題，提出了一種簡化的全卷積神經(jīng)網(wǎng)絡(luò)模型。該模型與傳統(tǒng)CN

4、N流水線的不同之處在于，只使用了卷積層，而沒有池化層
　　4)針對CNN在實(shí)時(shí)語義分割應(yīng)用中過分參數(shù)化及網(wǎng)絡(luò)模型冗余問題，提出了一種用于像素級分割的資源節(jié)約型語義分割模型。該模型是一種編碼器-解碼器結(jié)構(gòu)，編碼器建立在VGG-16網(wǎng)絡(luò)基礎(chǔ)上，而解碼器則來自于SegNet。該模型能夠預(yù)測給定輸入圖像的像素級分類標(biāo)簽。該模型旨在用于道路場景理解，適用于基于視頻流的輔助駕駛系統(tǒng)。
　　5)針對CNN計(jì)算復(fù)雜性較高導(dǎo)致難以在便攜式設(shè)備

5、和實(shí)時(shí)系統(tǒng)上使用的問題，提出了一種壓縮CNN以降低存儲和處理需求的解決方案。論文中介紹了各種網(wǎng)絡(luò)架構(gòu)的實(shí)驗(yàn)。所提出的編碼器-解碼器架構(gòu)旨在減少可訓(xùn)練參數(shù)的數(shù)量。通過嘗試不同的層和網(wǎng)絡(luò)組件，利用減少的網(wǎng)絡(luò)結(jié)構(gòu)來分析最佳性能。關(guān)鍵思想是減少整體網(wǎng)絡(luò)存儲和計(jì)算需求。另一方面，二值化分割網(wǎng)絡(luò)可以大大減少處理和存儲要求，通過排除CNN訓(xùn)練中的關(guān)鍵乘法運(yùn)算，并用更多的計(jì)算友好運(yùn)算（加法，減法）代替，這種二值化過程將大大改進(jìn)模型的性能。
　　文