![](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/9ed728ad-e992-4a53-a0f6-4f5a1caa3bed/9ed728ad-e992-4a53-a0f6-4f5a1caa3bedpic.jpg)
![實時流計算框架的消息可靠處理保障機制研究.pdf_第1頁](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/9ed728ad-e992-4a53-a0f6-4f5a1caa3bed/9ed728ad-e992-4a53-a0f6-4f5a1caa3bed1.gif)
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領
文檔簡介
1、隨著大數(shù)據(jù)環(huán)境下實時數(shù)據(jù)流式計算的需求和規(guī)模的不斷增長,實時流計算領域的研究變得越發(fā)重要。流計算應用中蘊含在數(shù)據(jù)中的價值隨著時間的流逝逐漸降低,因此處理過程中需保證非常低的處理時延。不確定性的處理延遲和對計算節(jié)點的松散控制增大了錯誤產(chǎn)生的概率,如何在流計算框架實時輸出處理結(jié)果的同時保障容錯能力是一個關鍵性問題。現(xiàn)有的容錯方案或基于讀寫磁盤的檢查點技術(shù),資源消耗大且處理時延高;或基于雙機熱備技術(shù),需要昂貴的成本。Storm是現(xiàn)有極具研究價
2、值的開源實時流計算框架,針對該問題在Storm基礎上詳細設計并實現(xiàn)高效的容錯功能。
研究的實時流計算框架消息可靠處理保障機制能夠在容錯時滿足實時流計算處理低延時、數(shù)據(jù)流動和內(nèi)存計算的特點。鑒于Storm保障系統(tǒng)高可用時存在的重復處理問題,基于Storm的消息可靠處理保障系統(tǒng)(MPGS)設計了一種基于跟蹤元組處理過程、定位元組樹上消息失敗位置并從處理組件開始恢復計算的容錯機制。主要工作包括改進守護進程的消息確認機制,跟蹤機制記錄
3、元組樹上元組的處理過程,實現(xiàn)消息處理失敗時對丟失元組及其處理組件的捕獲,使用內(nèi)存緩存區(qū)存儲元組樹跟蹤信息,消息恢復時緩存區(qū)作為數(shù)據(jù)源,從處理元組失敗的組件處開始恢復計算。從而避免了Storm的消息源重發(fā)方式下,重復處理整個元組樹上數(shù)據(jù),恢復代價高的問題,同時在一定程度上解決了數(shù)據(jù)處理壓力從失敗組件轉(zhuǎn)移到發(fā)射組件潛在的背壓問題。大幅度提高了消息恢復的性能,保證了流處理的實時性。
相同實驗環(huán)境下在MPGS和Storm上運行測試用例
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 無線傳感器網(wǎng)絡的實時性和可靠性保障機制研究.pdf
- 軟件定義網(wǎng)絡可靠性保障機制研究.pdf
- WTO保障機制與我國保障機制的建立.pdf
- 我國農(nóng)民權(quán)益保障機制的理論分析框架
- 行政訴權(quán)保障機制研究.pdf
- 云計算資源管理中QoS保障機制研究.pdf
- 工資支付保障機制研究.pdf
- 我國行政問責制的保障機制研究.pdf
- 消息中間件消息可靠傳輸機制的實現(xiàn).pdf
- 探險旅游安全保障機制研究.pdf
- 環(huán)保NGO法律保障機制研究.pdf
- 檢察權(quán)運行保障機制研究.pdf
- 云計算環(huán)境下QoS保障機制技術(shù)的研究與實現(xiàn).pdf
- 司法公開的程序保障機制研究.pdf
- 電力市場中供電可靠性保障機制的理論與應用研究.pdf
- 湖南高校師資保障機制研究.pdf
- 國際商事調(diào)解保障機制研究.pdf
- 地鐵運營安全保障機制研究.pdf
- 農(nóng)村公共服務的財政保障機制研究.pdf
- 基于UDP的數(shù)據(jù)傳輸可靠性保障機制研究及應用.pdf
評論
0/150
提交評論