分布式環(huán)境下ToP-K計算問題研究.pdf_第1頁
已閱讀1頁,還剩65頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

1、Top-k計算作為一種偏好查詢,是數(shù)據(jù)庫中一個最基本的操作,旨在從給定的數(shù)據(jù)集中查找出用戶可能感興趣的信息。作為一種數(shù)據(jù)分析的重要工具,top-k計算在網(wǎng)頁搜索、電子商務(wù)、數(shù)據(jù)挖掘、多標(biāo)準(zhǔn)決策支持等領(lǐng)域有著廣泛的應(yīng)用。隨著大數(shù)據(jù)時代的來臨,傳統(tǒng)的top-k處理技術(shù)遇到前所未有的挑戰(zhàn),已經(jīng)無法滿足大數(shù)據(jù)分析的需求。新環(huán)境下的top-k計算主要面臨著三個挑戰(zhàn):一是數(shù)據(jù)規(guī)模達(dá)到TB或者PB級,傳統(tǒng)的單機處理方式不再適用,應(yīng)該考慮分布式并行計算

2、框架;二是對于面對海量數(shù)據(jù)集,在分布式環(huán)境下,采取怎樣的數(shù)據(jù)劃分方法才能夠提升并行性能和查詢速度;三是傳統(tǒng)的top-k查詢需要用戶給定一個評分函數(shù),而選擇一個合適的評分函數(shù)卻不是件容易的事。
  因此,本文對分布式環(huán)境下top-k計算的數(shù)據(jù)劃分和并行算法設(shè)計的關(guān)鍵技術(shù)進(jìn)行了研究和探索,主要的研究內(nèi)容包括:
  (1)在分布式計算框架下,針對于加權(quán)top-k查詢問題,提出了類似網(wǎng)格數(shù)據(jù)劃分方式,將原始數(shù)據(jù)集劃分為不同的子數(shù)據(jù)集

3、,根據(jù)用戶偏好選取子數(shù)據(jù)集代替全部數(shù)據(jù)集進(jìn)行查詢,減少查詢數(shù)據(jù)。針對于高維度中的“空空間”現(xiàn)象,本文在網(wǎng)格劃分基礎(chǔ)上引入超平面劃分。與基于角度和超平面的數(shù)據(jù)劃分方式相比,該方法預(yù)處理簡單不用進(jìn)行復(fù)雜坐標(biāo)轉(zhuǎn)換,而且對于較高維度中出現(xiàn)的“空空間”現(xiàn)象依舊適用。實驗結(jié)果證明在大數(shù)據(jù)環(huán)境下類似網(wǎng)格和超平面數(shù)據(jù)劃分方法查詢速度比基于角度劃分方法快了接近15%,此外對于數(shù)據(jù)維度較高時候出現(xiàn)的“空空間”現(xiàn)象(實驗中即:d大于等于8),比基于角度劃分方

4、法,查詢結(jié)果更準(zhǔn)確,同時具有良好的可擴(kuò)展性。
  (2)針對于傳統(tǒng)的top-k查詢需要用戶給定一個評分函數(shù),而某些用戶難以給出一個合理的評分函數(shù)這一問題。在結(jié)合已有的單機算法基礎(chǔ)上提出了五種在分布式平臺下基于度量空間的并行top-k dominating查詢算法。算法1利用skyline集合中一定包含top-1 dominating結(jié)果這一結(jié)論,分區(qū)并行計算skyline,來加快處理速度;同時利用候選集的支配關(guān)系,避免k次重復(fù)計算

5、。算法2利用k-skyband集合中包含所有top-kdominating結(jié)果這一結(jié)論,每個分區(qū)并行計算k-skyband,避免k次循環(huán)。算法3在算法1基礎(chǔ)上,首先結(jié)合ANN對原始數(shù)據(jù)進(jìn)行篩選,加快對skyline的計算。算法4為一種基于集合ANN和k-skyband的剪枝算法,該算法利用集合ANN預(yù)先剪枝,再求k-skyband,最后獲取top-k dominating,加快計算k-skyband速度。算法5為一種基于排序剪枝的top

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論