分布式平臺下多數(shù)據(jù)集連接優(yōu)化方法研究.pdf_第1頁
已閱讀1頁,還剩64頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領

文檔簡介

1、隨著信息技術的日益發(fā)展,如何處理海量數(shù)據(jù)成為目前的研究熱點。MapReduce分布式計算框架以其處理數(shù)據(jù)量大、簡單易用、可擴展性強等特點成為進行大數(shù)據(jù)處理時的主要選擇之一。但對于數(shù)據(jù)處理中十分重要且常見的連接操作,MapReduce框架的特點決定了它僅在處理單屬性等值連接時有著較好的表現(xiàn),由于涉及到連接方案選擇等問題,其在進行多數(shù)據(jù)集的任意連接時效率并不高。所以針對MapReduce下的多數(shù)據(jù)集任意連接優(yōu)化方法的研究,對于提高大數(shù)據(jù)處理

2、的效率具有重要的意義。
  完善了現(xiàn)有的開銷估算模型,細化了計算、排序、合并等操作以及內(nèi)存與磁盤間數(shù)據(jù)交換的開銷。并加入了分布擬合操作,能夠比較準確地獲取待連接數(shù)據(jù)集的分布形式,從而使得在對數(shù)據(jù)集的連接結果集規(guī)模估算得更加準確。利用該估算模型對數(shù)據(jù)集連接進行開銷估算時獲得的估算結果更加精確,進而能夠在此基礎上制定更加合理高效的連接方案,提升整體的連接效率。
  以開銷估算模型為基礎,制定了基于連接集合劃分與覆蓋的多數(shù)據(jù)集連接

3、方法。方法將一次連接操作看作一個連接集合,首先將整體的連接關系看作連接全集并劃分為若干個連接子集,劃分過程中運用剪枝策略,減少劃分得到的子集數(shù)量;之后運用蟻群算法,對劃分好的集合進行最優(yōu)集合覆蓋求解,能夠覆蓋全集的子集就代表著能夠?qū)⑺袛?shù)據(jù)集連接起來的連接操作;再對得到的集合覆蓋結果重復上述操作,直到得到最終的連接方案。集合劃分操作保證了連接方案的全面性,帶權集合覆蓋的求解保證了連接方案的高效性,最終提高了整體的連接效率。
  將

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論