版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、大數(shù)據(jù)正成為一個熱點名詞被廣泛關注的同時,大規(guī)模的流數(shù)據(jù)處理也逐漸興起,涌現(xiàn)出一批分布式流計算系統(tǒng)。然而流計算的復雜性和其應用場景的廣泛性給該領域的基準測試帶來很大的挑戰(zhàn)。由于缺乏統(tǒng)一的基準測試標準,公正地衡量和比較這些系統(tǒng)困難重重。
這篇論文涉足這個相對空白的領域。首先,論文指出了在該領域進行基準測試所需應對的挑戰(zhàn)和所要滿足的必要條件。在此基礎上,該論文給出了自己的基準測試標準定義StreamBench。StreamBenc
2、h是一個概念層面的不依賴具體系統(tǒng)的大規(guī)模流計算系統(tǒng)的基準測試標準,定義包含了數(shù)據(jù)生成方式規(guī)約,程序集選擇,工作流集定義以及度量標準制定。在數(shù)據(jù)生成方式上,StreamBench提出在數(shù)據(jù)生成和數(shù)據(jù)消費中間利用一個消息系統(tǒng)作為中介的方式使得數(shù)據(jù)的生成和消費解耦。在程序集合的選擇上,它由流計算場景中提取的七個小程序組成,涵蓋了流計算中比較有代表性的操作。為了衡量除了性能外的諸如故障恢復能力和持續(xù)響應能力等其他指標,StreamBench構造
3、了四套工作流集針對系統(tǒng)這些不同的方面進行測量,并且根據(jù)不同的工作流集制定了相應的度量標準。
最后,筆者在不同大規(guī)模流計算框架上按照StreamBench的定義將其實現(xiàn)并進行實驗。首先筆者對比了Apache Spark Streaming和Apache Storm上的各項指標的差異,在筆者的實驗環(huán)境和配置下,Spark的吞吐量平均是Storm的5倍左右,但當平均每條記錄長度增大時,兩者吞吐量的差距會縮小。Spark的延遲一般在秒
4、級,而Storm的延遲一般在十幾毫秒以下,但也會隨著程序復雜度和輸入數(shù)量級迅速地提升甚至超過Spark。單節(jié)點故障對Spark沒有明顯的影響,但會導致Storm的吞吐量下降三分之一,延遲增加了四到五倍。兩個系統(tǒng)都表現(xiàn)出良好的持續(xù)響應能力。另外,筆者還利用StreamBench證實了Storm版本0.9.3和版本0.9.1相比帶來的性能提升,在筆者的實驗環(huán)境中,吞吐量平均提升了26%,延遲平均降低了40%。此外,筆者還利用StreamBe
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 大規(guī)模Ad Hoc網(wǎng)絡測試的研究.pdf
- 大規(guī)模圖計算系統(tǒng)關鍵技術研究.pdf
- 大規(guī)模網(wǎng)絡數(shù)據(jù)流異常檢測系統(tǒng)的研究與實現(xiàn).pdf
- 大規(guī)模圖的分割和計算平臺研究.pdf
- 基于物理的大規(guī)模流固耦合模擬.pdf
- 用進化計算實現(xiàn)大規(guī)模模糊系統(tǒng)自動生成的研究.pdf
- 大規(guī)模MIMO的信道估計算法研究.pdf
- 面向大規(guī)模定制的計算機輔助夾具設計系統(tǒng)的研究.pdf
- 過程系統(tǒng)的大規(guī)模優(yōu)化問題研究.pdf
- 大規(guī)模網(wǎng)吧審計系統(tǒng).pdf
- 基于云計算的大規(guī)模曲面重建系統(tǒng)設計與實現(xiàn).pdf
- 適用于大規(guī)模MIMO系統(tǒng)的DOA估計算法研究.pdf
- 云計算中大規(guī)模矩陣分解的計算外包.pdf
- 大規(guī)模MIMO系統(tǒng)信道估計研究.pdf
- 大規(guī)模電力系統(tǒng)暫態(tài)穩(wěn)定并行計算研究.pdf
- 大規(guī)模數(shù)據(jù)流的頻繁模式挖掘方法的研究.pdf
- 30111.大規(guī)模圖并行計算的研究
- 大規(guī)模任務式語言測試編制研究.pdf
- 大規(guī)模聯(lián)網(wǎng)多媒體信息發(fā)布系統(tǒng)優(yōu)化與測試.pdf
- 協(xié)同計算平臺下大規(guī)模資源監(jiān)控系統(tǒng)的設計與實現(xiàn).pdf
評論
0/150
提交評論