1、本文的第一部分考慮前向神經(jīng)網(wǎng)絡(luò)與一線性項相加的模型，對這一模型進行分層貝葉斯分析。針對前向神經(jīng)網(wǎng)絡(luò)隱含層結(jié)點個數(shù)未知的情形，我們用可逆跳躍Markov鏈Monte Carlo(RJMCMC)方法研究神經(jīng)網(wǎng)絡(luò)的模型選擇問題，即根據(jù)數(shù)據(jù)確定結(jié)點的個數(shù)以及它們之間的連接關(guān)系。 本文的第二部分給出了貝葉斯神經(jīng)網(wǎng)絡(luò)在時間序列分析中的應(yīng)用。我們采用的非線性回歸模型由一個線性自回歸項和一個未知隱含層結(jié)點個數(shù)的前向神經(jīng)網(wǎng)絡(luò)所組成。當(dāng)神經(jīng)網(wǎng)絡(luò)結(jié)點

2、出現(xiàn)相似或不相關(guān)時，模型可辨識性問題就變得較為突出。因此，我們提出了新的可逆跳躍移動，使模型選擇變得相對容易，有效地解決了模型可辨識性問題。 在本文的實驗中，第一部分首先用第二章中改進的RJMCMC算法對Robot arm數(shù)據(jù)進行了實驗，用前200個數(shù)據(jù)對隱含結(jié)點個數(shù)進行了選擇，并且得出了各個參數(shù)的值，對后200個數(shù)據(jù)進行了預(yù)測，畫出了預(yù)測誤差曲線圖和直方圖，可以看出預(yù)測效果比較好，而且我們的實驗所用時間較少。然后用我們的算法對

3、一個簡單神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)進行了預(yù)測，可以看到預(yù)測的結(jié)果還是比較準(zhǔn)確的。第二部分首先把第三章中的理論應(yīng)用到一個具體的時間序列的例子(Airline數(shù)據(jù))，通過圖像我們可以看出預(yù)測結(jié)果還是比較精確的．然后通過實驗說明了單獨地考慮我們模型中的兩項，也可進行模型選擇。 綜上所述，本文中用RJMCMC的理論解決了兩個方面的問題：一是用改進的RJMCMC算法來解決變結(jié)構(gòu)貝葉斯神經(jīng)網(wǎng)絡(luò)的問題，給出了解決這種問題的一個很好的算法，解決了神經(jīng)網(wǎng)絡(luò)過