![](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/6/23/cd61c43f-fb69-483f-b7c0-73e86b0883eb/cd61c43f-fb69-483f-b7c0-73e86b0883ebpic.jpg)
![分布式平臺下多數(shù)據(jù)集連接優(yōu)化方法研究.pdf_第1頁](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/6/23/cd61c43f-fb69-483f-b7c0-73e86b0883eb/cd61c43f-fb69-483f-b7c0-73e86b0883eb1.gif)
版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領
文檔簡介
1、隨著信息技術的日益發(fā)展,如何處理海量數(shù)據(jù)成為目前的研究熱點。MapReduce分布式計算框架以其處理數(shù)據(jù)量大、簡單易用、可擴展性強等特點成為進行大數(shù)據(jù)處理時的主要選擇之一。但對于數(shù)據(jù)處理中十分重要且常見的連接操作,MapReduce框架的特點決定了它僅在處理單屬性等值連接時有著較好的表現(xiàn),由于涉及到連接方案選擇等問題,其在進行多數(shù)據(jù)集的任意連接時效率并不高。所以針對MapReduce下的多數(shù)據(jù)集任意連接優(yōu)化方法的研究,對于提高大數(shù)據(jù)處理
2、的效率具有重要的意義。
完善了現(xiàn)有的開銷估算模型,細化了計算、排序、合并等操作以及內(nèi)存與磁盤間數(shù)據(jù)交換的開銷。并加入了分布擬合操作,能夠比較準確地獲取待連接數(shù)據(jù)集的分布形式,從而使得在對數(shù)據(jù)集的連接結果集規(guī)模估算得更加準確。利用該估算模型對數(shù)據(jù)集連接進行開銷估算時獲得的估算結果更加精確,進而能夠在此基礎上制定更加合理高效的連接方案,提升整體的連接效率。
以開銷估算模型為基礎,制定了基于連接集合劃分與覆蓋的多數(shù)據(jù)集連接
3、方法。方法將一次連接操作看作一個連接集合,首先將整體的連接關系看作連接全集并劃分為若干個連接子集,劃分過程中運用剪枝策略,減少劃分得到的子集數(shù)量;之后運用蟻群算法,對劃分好的集合進行最優(yōu)集合覆蓋求解,能夠覆蓋全集的子集就代表著能夠?qū)⑺袛?shù)據(jù)集連接起來的連接操作;再對得到的集合覆蓋結果重復上述操作,直到得到最終的連接方案。集合劃分操作保證了連接方案的全面性,帶權集合覆蓋的求解保證了連接方案的高效性,最終提高了整體的連接效率。
將
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 分布式平臺下基于開銷估算的多數(shù)據(jù)集連接方法.pdf
- 云計算平臺下分布式緩存系統(tǒng)的性能優(yōu)化研究.pdf
- 云計算環(huán)境下的多數(shù)據(jù)集連接優(yōu)化.pdf
- 云平臺下可擴展分布式協(xié)調(diào)服務研究.pdf
- 分布式數(shù)據(jù)存儲機制與優(yōu)化方法研究.pdf
- 點對點模式分布式多數(shù)據(jù)庫系統(tǒng)研究.pdf
- datasense分布式數(shù)據(jù)挖掘平臺
- datasense分布式數(shù)據(jù)挖掘平臺
- Hadoop平臺下的分布式SVM算法及其應用研究.pdf
- Hadoop平臺下的分布式聚類算法研究與實現(xiàn).pdf
- 面向多數(shù)據(jù)中心的分布式塊存儲技術研究.pdf
- 分布式數(shù)據(jù)庫多連接查詢優(yōu)化算法的研究.pdf
- 云平臺下分布式文件系統(tǒng)評測技術研究.pdf
- 分布式平臺下的配電網(wǎng)狀態(tài)估計研究.pdf
- 分布式多數(shù)據(jù)庫高校學籍管理系統(tǒng)研究與應用.pdf
- 分布式數(shù)據(jù)訪問方法性能的研究.pdf
- 分布式數(shù)據(jù)庫有關連接查詢優(yōu)化算法的研究.pdf
- CPU-GPU平臺下分布式集合求交算法的研究.pdf
- [教育]應用半連接的分布式數(shù)據(jù)庫查詢優(yōu)化算法
- 點對點模式分布式多數(shù)據(jù)庫系統(tǒng)消息機制研究與實現(xiàn).pdf
評論
0/150
提交評論