版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、近幾年來,互聯(lián)網迅猛發(fā)展,網絡中流通的Web信息量巨大,其中各國銀行網站發(fā)布的信息更是受到金融界的廣泛關注。對互聯(lián)網上各國銀行網站發(fā)布的匯率、利率等財政信息進行長期的統(tǒng)計,也就成為了解其他國家財政、經濟政策的一種主要手段。針對當前的實際需求,對網頁信息獲取及計算技術的研究成為當前和未來一段時期內學術研究的重點。做為我國央行的人民銀行,在此方面投入了大量的科研資金,各個地方人民銀行也積極地進行這方面的研究工作。針對這一情況,本文展開了基于
2、廣域網的分布式銀行網站網頁信息獲取系統(tǒng)的研究與實現(xiàn)。
網頁信息獲取系統(tǒng)(網絡爬蟲)研究中最重要的是設計構架和關鍵技術的解決。在吸取了他人技術和經驗的基礎上,本文設計描述了一個基于廣域網的分布式網絡爬蟲的結構設計,其中包括硬件的構架,和軟件的模塊劃分。硬件部分由一臺PC機做控制節(jié)點,N臺PC機做爬行節(jié)點,在廣域網中連接。軟件部分又分為控制節(jié)點軟件設計和爬行節(jié)點軟件設計。
然后本文分析了分布式網絡爬蟲的關鍵技術的解決方法
3、,比如分布式的各個結點如何協(xié)同工作,任務如何分配等等,進而提出了一些實用的算法,解決了這些分布式網絡爬蟲的關鍵技術,實現(xiàn)了一個具備健壯性,可擴展性,可配置性的分布式網絡爬蟲,并就該分布式網絡爬蟲進行了仔細的剖析。特別是對分布式系統(tǒng)的任務分配,采用了網絡性能指標指導預測效果法。最后在該網絡爬蟲上作了一些測試,包括了單機爬行測試和該網絡爬蟲的一個應用,即銀行網站網頁信息的抓取測試。以及對多種分布式系統(tǒng)任務分配的方法指導下實際運行的效果進行了
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 網站網頁畢業(yè)設計
- 分布式信息共享系統(tǒng).pdf
- 網頁檢索分布式通訊框架設計與實現(xiàn).pdf
- 機載分布式信息采集系統(tǒng)的設計與實現(xiàn).pdf
- 分布式氣象信息服務系統(tǒng)的設計與實現(xiàn).pdf
- 高??蒲行畔⒎植际较到y(tǒng)的設計與實現(xiàn).pdf
- 分布式區(qū)域供暖信息系統(tǒng)設計與實現(xiàn).pdf
- 分布式用電管理信息系統(tǒng)設計與實現(xiàn).pdf
- 分布式瞬態(tài)物理參數場信息獲取節(jié)點技術研究.pdf
- 基于Lucene網頁排名改進的分布式搜索系統(tǒng).pdf
- 高校分布式科研信息系統(tǒng)的設計與實現(xiàn).pdf
- 支持動態(tài)網頁解析的分布式網絡爬蟲系統(tǒng)的設計與實現(xiàn).pdf
- 畢業(yè)設計---汽車鑒賞網站網頁設計
- 銀行稅務聯(lián)網系統(tǒng)及其分布式計算.pdf
- 基于WCF的分布式購物網站研究與實現(xiàn).pdf
- 分布式溯源信息存儲系統(tǒng)的研究與實現(xiàn).pdf
- 分布式民航氣象信息服務系統(tǒng)的設計與實現(xiàn).pdf
- 分布式信息總線的研究與實現(xiàn).pdf
- 一種分布式信息獲取系統(tǒng)混合模式框架及其若干關鍵技術.pdf
- 分布式旅游管理信息系統(tǒng)的設計與實現(xiàn).pdf
評論
0/150
提交評論