1、非參數(shù)模型進(jìn)一步放寬了傳統(tǒng)參數(shù)模型對(duì)參數(shù)的限制,擴(kuò)展了參數(shù)模型的應(yīng)用范圍,具有一定的適應(yīng)性和廣泛性。對(duì)模型中未知函數(shù)的的估計(jì),迄今已有多種方法,如加權(quán)最小二乘估計(jì)(weighted least-squares),核估計(jì)(kernel smoother),局部多項(xiàng)式估計(jì)(local polynomial fitting),小波估計(jì)(wavelets-based smoother)等等。這些方法各有所長(zhǎng),也都有各自的適用范圍,比如小波估計(jì)適

2、合對(duì)高震蕩函數(shù)(highly oscillatory functions)進(jìn)行建模分析,而局部多項(xiàng)式估計(jì)使用局部廣義最小二乘思想等。在眾多的估計(jì)方法中,樣條估計(jì)依然占據(jù)著重要的位置,如回歸樣條法(regression spline),光滑樣條法(smoothing spline),懲罰樣條法(penalized spline)等等。本文主要對(duì)樣條法這一重要的非參數(shù)建模方法進(jìn)行了研究。其中,回歸樣條采用多項(xiàng)式樣條基進(jìn)行建模,在建模的的過程

3、中,樣條節(jié)點(diǎn)(knot)的個(gè)數(shù)和位置對(duì)擬合效果起著至關(guān)重要的作用。并且在利用回歸樣條對(duì)目標(biāo)函數(shù)進(jìn)行擬合時(shí),要求函數(shù)定義在連續(xù)的區(qū)間上,該限制條件在數(shù)值模擬中可以很容易滿足,但在實(shí)際的抽樣中,樣本數(shù)據(jù)可能會(huì)有缺失,即函數(shù)的定義域是間斷的,這也限制了該方法的進(jìn)一步推廣。在基于光滑樣條法的建模中,基函數(shù)的個(gè)數(shù)與樣本量的大小幾乎等同,通過構(gòu)造更一般形式的基函數(shù)或懲罰函數(shù),可以逐步縮減光滑樣條的基函數(shù)個(gè)數(shù)。在懲罰樣條中,主要是使用B-spline

4、基進(jìn)行函數(shù)擬合,并且對(duì)基函數(shù)的個(gè)數(shù)沒有嚴(yán)格的限制,至少不用與樣本容量相當(dāng),并且被擬合的函數(shù)的定義域不需要是連續(xù)的。本文主要考察了如何利用懲罰樣條進(jìn)行函數(shù)逼近,而擬合效果則可通過對(duì)下述參數(shù)的控制進(jìn)行調(diào)節(jié),即k(節(jié)點(diǎn)位置),K(節(jié)點(diǎn)個(gè)數(shù)),q(樣條階數(shù)),?(光滑參數(shù))以及m(差分次數(shù))。當(dāng)然,我們不需要完全采用data-driven法優(yōu)化以上參數(shù),本文主要是建立光滑參數(shù)和差分次數(shù)的關(guān)系,并利用 EM算法優(yōu)化上述兩個(gè)參數(shù),至于其余參數(shù),主要