基于鄰接表垂直劃分的NEu-BSP圖處理系統(tǒng)優(yōu)化技術的設計與實現(xiàn).pdf_第1頁
已閱讀1頁,還剩73頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

1、近年來互聯(lián)網(wǎng)技術的迅猛發(fā)展,使得Web網(wǎng)絡、社交網(wǎng)絡等大規(guī)模網(wǎng)絡圖數(shù)據(jù)的分析處理成為了研究熱點,例如社交網(wǎng)絡中的最短路徑、網(wǎng)頁搜索的PageRank等。云計算(Cloud Computing)提供強大的并行計算處理能力。其中,最有代表性的就是MapReduce分布式并行編程模型。然而大多圖算法具有多次迭代的性質,這并非MapReduce所擅長。隨著Google基于BSP模型實現(xiàn)的大規(guī)模圖處理系統(tǒng)Pregel的提出,在云環(huán)境中采用BSP模

2、型實現(xiàn)大規(guī)模圖處理系統(tǒng)成為了一個可選的解決途徑?!霸朴嬎闫脚_NEU-BSP大規(guī)模圖處理系統(tǒng)的研究與研發(fā)”項目提出了一種均衡劃分算法來保證子任務的頂點數(shù)量大致平衡,但是沒能夠有效降低任務間的通信量。因此,如何將一張大規(guī)模的圖劃分到各個計算結點上時,減少這些結點之間的通信量,是一個具有挑戰(zhàn)性的工作。
  為了解決上述問題,本文使用了一種新的分布式環(huán)境下圖數(shù)據(jù)存儲結構,在原有NEU-BSP系統(tǒng)的基礎上,開發(fā)了NEU-BSP+系統(tǒng),提升了

3、整體計算性能。本文的主要貢獻如下:第一,對原系統(tǒng)進行了一系列的基礎優(yōu)化:用并行的任務調度代替原系統(tǒng)中的串行執(zhí)行、改進消息通信中的序列化方法等,使系統(tǒng)性能提升1倍,為進一步工作提供了方便;第二,類似PageRank和單源最短路徑的算法應用在原系統(tǒng)中會產生大量重復的消息,針對這個問題,本文提出了一種基于鄰接表垂直劃分的數(shù)據(jù)結構,和在這種數(shù)據(jù)結構之上的數(shù)據(jù)放置算法,并為用戶提供了新的計算模型:頂點-邊計算模型;第三,本文研究并實現(xiàn)了在頂點-邊

4、計算模型下PageRank算法和單元最短路徑算法的實現(xiàn)。
  本文通過與原NEU-BSP系統(tǒng)對比實驗評價了NEU-BSP+系統(tǒng)的各方面性能:在數(shù)據(jù)加載時間增長不多的情況下,大大減少了任務間的通信量,使得應用在迭代計算中的平均超步時間加快25%-30%。同時與現(xiàn)有的可處理圖的系統(tǒng)Hadoop、Giraph、Hama多組數(shù)據(jù)上進行了整體性能對比,證明NEU-BSP+系統(tǒng)在各個系統(tǒng)中最快,其運行速度是Hadoop系統(tǒng)的3-7倍,Gira

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論