![](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/aeef3972-0569-4243-adf2-3f525d885220/aeef3972-0569-4243-adf2-3f525d885220pic.jpg)
![面向新聞大數(shù)據的節(jié)能存儲策略研究.pdf_第1頁](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/aeef3972-0569-4243-adf2-3f525d885220/aeef3972-0569-4243-adf2-3f525d8852201.gif)
版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、隨著大數(shù)據時代的到來,作為其基礎服務載體的數(shù)據中心也隨之迅猛發(fā)展。大數(shù)據產業(yè)繁榮的背后,帶來的卻是耗電量暴漲、環(huán)境污染增加、土地資源消耗等不可避免的問題。就能耗而言,耗電量的成倍增長直接導致運營和管理的成本上升,因此降低數(shù)據中心的能耗,特別是降低服務器集群的能耗,就成了學術界和工業(yè)界共同關心的重大問題。
本文以數(shù)據量日益增長的新聞類網站為對象,深入分析和研究了新聞網站的訪問日志數(shù)據,初步探尋出新聞類數(shù)據的訪問規(guī)律。本文將這些訪
2、問規(guī)律引入到目前廣泛使用的 Hadoop分布式文件系統(tǒng)(HDFS)中,對其進行有針對性的改進和優(yōu)化,使HDFS最終具備節(jié)能和數(shù)據分布自均衡的特點。
具體來說,本文提出了數(shù)據節(jié)點分區(qū)、最大剩余空間節(jié)點匹配、文件遷移和節(jié)點待機四條節(jié)能策略。數(shù)據節(jié)點分區(qū)策略將整個集群邏輯上分為“冷”、“熱”兩個區(qū)域,以便實施不同的管理方法,達到節(jié)能的目的;最大剩余空間節(jié)點匹配策略專門針對數(shù)據分布均衡的問題,又分為活動狀態(tài)節(jié)點優(yōu)先(Active St
3、ate Node Priority,簡記為 ASNP)匹配和低于平均使用率節(jié)點優(yōu)先(Lower than Average utilization rate Node Priority,簡記為LANP)匹配兩種方案,其中前者方案能達到更好的節(jié)能效果,后者方案能實現(xiàn)數(shù)據分布自均衡,從而在一定程度上平衡集群的負載;文件遷移策略則保證了新聞數(shù)據在其熱門期的高效訪問,同時又能為熱區(qū)的節(jié)點減輕負載,降低冷區(qū)節(jié)點的能耗;節(jié)點待機策略將冷區(qū)中沒有任務的
4、節(jié)點置為待機省電狀態(tài),避免了“空轉”現(xiàn)象的發(fā)生,減少了集群的整體能耗。
為了研究和驗證節(jié)能存儲策略在HDFS中應用的效果,本文還開發(fā)了面向節(jié)能存儲策略研究的 HDFS仿真實驗平臺,平臺通過模擬新聞文件被創(chuàng)建和訪問的調度過程,加入了可拔插的節(jié)能策略模塊,最終輸出仿真結果。
本文以維基英文新聞網站一個月的訪問日志作為實驗數(shù)據集,經過預處理后,在本文節(jié)能策略的作用下,實驗結果表明:使用本文節(jié)能策略的 HDFS比傳統(tǒng)HDFS
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 面向大數(shù)據的異構集群存儲系統(tǒng)副本放置與選擇策略研究.pdf
- 面向大數(shù)據分析的存儲優(yōu)化算法分析.pdf
- 面向大數(shù)據的高效存儲容量縮減技術研究.pdf
- 面向大數(shù)據的分布式存儲關鍵技術的研究.pdf
- 面向大數(shù)據的閃存三維堆疊存儲結構研究.pdf
- 面向工業(yè)大數(shù)據存儲虛擬化遷移方法研究.pdf
- 面向天文數(shù)據的節(jié)能存儲系統(tǒng)研究.pdf
- 面向大數(shù)據的發(fā)布-訂閱系統(tǒng)緩存策略研究.pdf
- 面向數(shù)據密集型應用的存儲策略研究.pdf
- 大數(shù)據的存儲和處理研究.pdf
- 大數(shù)據背景下電視數(shù)據新聞發(fā)展策略研究——以央視數(shù)據新聞為例.pdf
- 異構大數(shù)據存儲方法研究.pdf
- 大數(shù)據背景下電視數(shù)據新聞發(fā)展策略研究——以央視數(shù)據新聞為例
- 面向推薦的大數(shù)據計算與存儲平臺設計與實現(xiàn).pdf
- 大數(shù)據存儲技術研究
- 大數(shù)據時代的新聞變革研究.pdf
- 面向云存儲系統(tǒng)的綠色數(shù)據管理策略研究.pdf
- 基于大數(shù)據的數(shù)據存儲及數(shù)據篩選問題研究.pdf
- 大數(shù)據時代的新聞變革研究
- 大數(shù)據環(huán)境下數(shù)據存儲與查詢的研究.pdf
評論
0/150
提交評論