基于貝葉斯決策理論的局部分類方法研究及其應(yīng)用.pdf_第1頁
已閱讀1頁,還剩129頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

1、分類是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的一項(xiàng)重要研究內(nèi)容。在分類問題中,通常需要建立一個(gè)由已知類標(biāo)號的樣本組成的訓(xùn)練集,然后根據(jù)訓(xùn)練集中的樣本對新的未知類標(biāo)號的樣本進(jìn)行分類,即對每個(gè)未知樣本預(yù)測其類標(biāo)號。局部學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)重要方法,它通過對訓(xùn)練集中的部分樣本進(jìn)行學(xué)習(xí),建立某個(gè)局部區(qū)域的專有學(xué)習(xí)模型。局部分類就是利用局部學(xué)習(xí)來解決分類問題的方法,由于局部分類模型是根據(jù)與待測樣本點(diǎn)非常相關(guān)的一個(gè)局部區(qū)域的樣本點(diǎn)建立的,因此更能反映待測樣本的

2、信息,可以對其進(jìn)行準(zhǔn)確分類。k-最近鄰法(kNN)作為局部分類的一個(gè)具體化算法,由于其簡單、易理解、易實(shí)現(xiàn)等特點(diǎn),在機(jī)器學(xué)習(xí)、模式識別和數(shù)據(jù)挖掘等領(lǐng)域有著廣泛的研究和應(yīng)用。
  目前對局部分類的研究,主要是在kNN的基礎(chǔ)上進(jìn)行的,缺乏對局部分類進(jìn)行系統(tǒng)的研究。本文以貝葉斯決策理論為基礎(chǔ),以局部概率模型為核心思想,對局部分類進(jìn)行深入研究和探討,提出了局部分類方法的一般形式,并據(jù)此實(shí)現(xiàn)局部分類的概率輸出。此外,針對局部分類中的兩個(gè)關(guān)鍵

3、問題,即局部區(qū)域的選擇和局部模型的選擇問題,本文做了一系列深入的研究和嘗試,并從理論上分析了局部區(qū)域選擇和局部模型選擇之間的關(guān)系,為局部區(qū)域選擇和局部模型選擇提供了新的思路和指導(dǎo)方向。最后,本文將局部分類方法應(yīng)用于基于靜息腦電(EEG)的普適身份識別系統(tǒng),得到了較好的識別效果。本文的主要工作和創(chuàng)新點(diǎn)如下:
  1.局部分類中的局部模型選擇問題在kNN中表現(xiàn)為鄰域信息組織問題,針對kNN分類中鄰域信息組織問題,以貝葉斯理論為基礎(chǔ)提出

4、了一個(gè)基于局部分布的kNN分類算法(Local Distribution Based kNN,LD-kNN)。該算法為待測樣本構(gòu)建一個(gè)鄰域,并利用鄰域內(nèi)的樣本對該鄰域的局部分布進(jìn)行估計(jì),然后利用估計(jì)出來的局部分布信息通過貝葉斯定理計(jì)算待測樣本屬于每個(gè)類的隸屬概率,將待測樣本分到具有最大隸屬概率的類中。LD-kNN通過局部分布信息綜合考慮了鄰域中的樣本數(shù)量,位置,距離等信息,是對現(xiàn)有kNN方法的一種改進(jìn)和完善。通過大量的真實(shí)數(shù)據(jù)集和模擬數(shù)

5、據(jù)集上的實(shí)驗(yàn)研究了LD-kNN方法的性質(zhì),實(shí)驗(yàn)結(jié)果表明與很多先進(jìn)的分類算法相比,在分類效果、效率、維度魯棒性和問題魯棒性上,LD-kNN都有良好的性質(zhì)。
  2.在局部分布的估計(jì)方面,重新定義局部概率分布,提出了一種基于局部概率模型(Local Probabilistic Model,LPM)的概率密度估計(jì)方法(LPM-based Density Estimation,LPM-DE)。由于現(xiàn)實(shí)中真實(shí)概率分布的復(fù)雜性,一般

6、的參數(shù)概率模型經(jīng)常難以有效模擬出真實(shí)的分布,而非參數(shù)概率模型通常需要更多的樣本支持,從而導(dǎo)致建模效率較低。LPM-DE是對參數(shù)概率模型和非參數(shù)概率模型的一個(gè)折中,該方法在全局上估計(jì)一個(gè)非參數(shù)模型,而在局部估計(jì)一個(gè)參數(shù)模型,通過選擇不同大小的局部區(qū)域和該局部區(qū)域上的局部概率模型,能有效克服參數(shù)模型和非參數(shù)模型的缺陷,對全局概率密度進(jìn)行有效的估計(jì)。在模擬數(shù)據(jù)集上的一系列實(shí)驗(yàn)驗(yàn)證了LPM-DE的有效性。
  3.以貝葉斯決策理論為基礎(chǔ),

7、用局部概率模型解決貝葉斯分類中的概率估計(jì)問題,提出了基于概率模型的貝葉斯分類方法(LPM-based Bayesian Classification,LPM-BC)。LPM-BC是局部分類方法的一般形式,通過選擇不同的局部區(qū)域及其對應(yīng)的局部概率模型,LPM-BC可以具體化為各種局部分類算法,傳統(tǒng)的kNN算法和LD-kNN都可以看作是該局部分類方法的一個(gè)具體化形式。LPM-BC將局部分類概率化,可以輸出樣本對各個(gè)類的隸屬概率,便于進(jìn)行后續(xù)

8、概率推理,這是LPM-BC相對于只輸出類標(biāo)號的分類算法的一個(gè)顯著優(yōu)勢。另外,對LPM-BC的局部區(qū)域的選擇和局部概率模型的選擇進(jìn)行了一系列分析和探討,總結(jié)出了局部分類中局部區(qū)域選擇和局部概率模型選擇之間的關(guān)系。在一系列模擬和真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)驗(yàn)證了,當(dāng)選擇合適的局部區(qū)域及其對應(yīng)的局部概率模型時(shí),該局部分類方法LPM-BC具有良好的分類效果。
  4.將局部分類方法應(yīng)用于基于靜息腦電(Electroencephalography,E

9、EG)的生物識別領(lǐng)域。設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)基于EEG的普適身份識別系統(tǒng)。該系統(tǒng)實(shí)時(shí)接收并分析受試者的EEG信號,提取相關(guān)的特征,然后用局部分類方法根據(jù)所提取的特征建立合適的局部概率模型對受試者進(jìn)行分類識別。在實(shí)驗(yàn)中,實(shí)現(xiàn)局部分類的一個(gè)具體化算法局部概率中心(LocalProbability Centers,LPC),并利用LPC對受試者的EEG信號進(jìn)行分類識別,與其他很多先進(jìn)的全局分類算法相比局部分類算法LPC能達(dá)到好的識別效果。
 

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論