針對Hadoop集群的節(jié)能調(diào)度算法研究.pdf_第1頁
已閱讀1頁,還剩73頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

1、隨著云計算在企業(yè)中的廣泛使用,擁有HDFS分布式文件系統(tǒng)和分布式計算模型MapReduce的Hadoop成為了眾多 IT企業(yè)的首選。在大型企業(yè)中,Hadoop分布式集群通常由成百上千個節(jié)點組成,如此龐大規(guī)模的集群在長時間的運行過程中會產(chǎn)生大量的能耗,增加了企業(yè)的成本。因此,在大規(guī)模集群中減少能耗,不僅從經(jīng)濟角度可以減少企業(yè)開支,同時也更加節(jié)能環(huán)保。
  傳統(tǒng)的Hadoop集群在運行過程中并沒有考慮節(jié)能問題,當(dāng)Hadoop啟動一段時

2、間閑置時,所有節(jié)點長期處于工作狀態(tài),可能產(chǎn)生大量能耗。同時,Hadoop默認的調(diào)度算法效率較低,通常需要較長時間完成任務(wù),較低的效率產(chǎn)生了較多的額外能耗。
  在以往的集群節(jié)能研究中,主要是通過在集群上增加額外硬件的方法減少能耗,適用性較差。已有的集群調(diào)度算法優(yōu)化目標(biāo)也多是負載均衡,沒有考慮能耗問題,而且由于Hadoop架構(gòu)的特殊性,大部分的調(diào)度算法無法在Hadoop上直接使用。
  本論文正是針對上述問題,以Hadoop集

3、群的相關(guān)節(jié)能調(diào)度技術(shù)為主要的研究對象,深入分析了Hadoop集群特點和調(diào)度器的不足之處,對如何減少Hadoop集群能耗提出來解決方案。主要研究內(nèi)容包括:首先,分析了Hadoop平臺的結(jié)構(gòu)和框架特征、Hadoop核心組件、編程模型;其次,針對Hadoop平臺的整體架構(gòu),通過對集群進行能耗建模,提出了一種動態(tài)Hadoop節(jié)點節(jié)能管理方法,該方法在集群負載較低時,可以有效的動態(tài)休眠部分節(jié)點,減少集群整體能耗;接著,針對一批Hadoop任務(wù),通

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論