1、在對神經(jīng)網(wǎng)絡進行訓練的過程中，梯度算法被應用的最為廣泛。但是，梯度算法也存在著收斂速度慢及過擬合的缺點。本文主要針對RidgePolynomial神經(jīng)網(wǎng)絡，通過采用動量項法和基于灰度理論的剪枝算法以解決上述缺點。主要研究內(nèi)容如下:
　　第一，由于傳統(tǒng)梯度訓練算法收斂速度慢，所以，文中提出了一種將動量項加到傳統(tǒng)梯度算法權值變化算法中以訓練Ridge Polynomial神經(jīng)網(wǎng)絡。此算法不僅提高了神經(jīng)網(wǎng)絡的穩(wěn)定性，而且其收斂速度也得到

2、了很大提高。理論分析證明了所提出算法具有收斂性，同時，實驗結果也說明了算法的有效性。
　　第二，由于傳統(tǒng)的Ridge Polynomial神經(jīng)網(wǎng)絡結構隨著隱節(jié)點數(shù)的增多，網(wǎng)絡規(guī)模也急劇增大，因此文中提出一種將灰色關聯(lián)分析應用到RidgePolynomial神經(jīng)網(wǎng)絡隱節(jié)點的確定中的算法以實現(xiàn)神經(jīng)網(wǎng)絡結構的優(yōu)化。根據(jù)神經(jīng)網(wǎng)絡縱向、橫向灰色關聯(lián)度的分析來反映出神經(jīng)網(wǎng)絡各節(jié)點輸出與網(wǎng)絡最終輸出的相關緊密程度。先用縱向關聯(lián)度確定出需要被減去