分類數(shù)據(jù)的并行聚類算法研究.pdf_第1頁
已閱讀1頁,還剩68頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

1、聚類算法作為一種非監(jiān)督學(xué)習(xí)的方法,在很多領(lǐng)域都有大量應(yīng)用。目前,針對數(shù)值數(shù)據(jù)的聚類分析已經(jīng)得到深入的研究,但針對數(shù)值數(shù)據(jù)的聚類分析方法并不適合處理現(xiàn)實中存在的大量分類數(shù)據(jù)。分類數(shù)據(jù)由非數(shù)值的屬性組成,其聚類模型與數(shù)值數(shù)據(jù)不同。大規(guī)模、高維度分類數(shù)據(jù)的聚類分析更具挑戰(zhàn)性。針對這一問題,本文對分類數(shù)據(jù)聚類算法特別是并行聚類算法進行深入研究,對已有的一個分類數(shù)據(jù)聚類算法進行改進并在Hadoop平臺上實現(xiàn)了這個改進算法的并行化。
  首先

2、,在分析研究聚類算法,特別是分類數(shù)據(jù)的并行聚類算法之后,深入分析了代表性的分類數(shù)據(jù)聚類算法CLOPE。CLOPE采用一種基于統(tǒng)計直方圖的全局評估函數(shù)作為評價聚類優(yōu)劣的標準,在大規(guī)模、稀疏、高維數(shù)據(jù)集的聚類上取得很好的聚類效果。然而該算法受輸入數(shù)據(jù)記錄的順序影響,難以獲得穩(wěn)定且全局最優(yōu)的聚類劃分結(jié)果。因此提出一種基于等分劃分再排列思想的MRCLOPE算法來克服這一不足。在MRCLOPE算法的每一次迭代過程中,對輸入數(shù)據(jù)進行等分劃分,對劃分

3、塊進行排列以形成不同順序的輸入數(shù)據(jù)集,然后對各種順序的輸入數(shù)據(jù)集分別聚類,并選取最優(yōu)的聚類結(jié)果作為下一次迭代的輸入。
  其次,針對MRCLOPE計算過程中出現(xiàn)的相同中間結(jié)果,我們提出一種結(jié)果復(fù)用策略,通過充分利用可重用的中間結(jié)果可以較大程度地提高聚類的速度。
  再次,為了進一步降低MRCLOPE算法的時間復(fù)雜度,給出了分布式的解決方案,在Hadoop平臺上用MapReduce并行編模型實現(xiàn)了一個包含 MRCLOPE相關(guān)算

4、法的聚類工具,并發(fā)布到開源社區(qū)(https://github.com/j2cms/mrclope)方便其他人使用。
  最后,使用蘑菇數(shù)據(jù)集等三個分類數(shù)據(jù)集測試了MRCLOPE算法。實驗表明,MRCLOPE算法能比CLOPE算法取得更優(yōu)的聚類結(jié)果。對蘑菇數(shù)據(jù)集在CLOPE算法取得最優(yōu)聚類結(jié)果時,MRCLOPE取得比CLOPE大35.7%的收益值。在處理大量數(shù)據(jù)時,并行MRCLOPE比串行 MRCLOPE極大地縮短了聚類時間,取得了

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論