![](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/05c5ec49-4922-4852-a65c-5ee9d4805868/05c5ec49-4922-4852-a65c-5ee9d4805868pic.jpg)
![大數(shù)據(jù)時(shí)效性關(guān)鍵技術(shù)的研究.pdf_第1頁(yè)](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/14/17/05c5ec49-4922-4852-a65c-5ee9d4805868/05c5ec49-4922-4852-a65c-5ee9d48058681.gif)
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、隨著大數(shù)據(jù)時(shí)代的到來,海量數(shù)據(jù)在企業(yè)以及人們的日常生活中都有廣泛的應(yīng)用。數(shù)據(jù)質(zhì)量對(duì)數(shù)據(jù)的應(yīng)用效果起著至關(guān)重要的作用,其中數(shù)據(jù)時(shí)效性問題是數(shù)據(jù)質(zhì)量的主要影響因素之一,由于在實(shí)際應(yīng)用中,時(shí)間戳往往不完全甚至不存在,當(dāng)前數(shù)據(jù)時(shí)效性問題的研究主要包括利用時(shí)序關(guān)系和時(shí)效約束及參照數(shù)據(jù)的方法推導(dǎo)實(shí)體時(shí)效性最高的屬性值;結(jié)合時(shí)效規(guī)則和條件函數(shù)依賴協(xié)同提高數(shù)據(jù)時(shí)效性和一致性;結(jié)合時(shí)效規(guī)則和統(tǒng)計(jì)技術(shù)提高數(shù)據(jù)時(shí)效性。本文根據(jù)大數(shù)據(jù)特點(diǎn):規(guī)模性,高速性,多樣
2、性,提出了大數(shù)據(jù)時(shí)效性問題的一些關(guān)鍵技術(shù)。本文的研究?jī)?nèi)容主要包括以下幾個(gè)方面:
根據(jù)大數(shù)據(jù)特點(diǎn)規(guī)模性,通過分布式處理框架MapReduce處理海量數(shù)據(jù),將海量數(shù)據(jù)時(shí)效性問題歸約到k-Partition問題(NP-完全問題)。然后擴(kuò)展2-Partition問題的近似算法,提出基于MapReduce的并行近似算法,優(yōu)化了reduce端負(fù)載平衡效果,算法近似比接近于1。通過實(shí)驗(yàn)驗(yàn)證了負(fù)載平衡的MapReduce過程執(zhí)行效率與準(zhǔn)確性。
3、
根據(jù)大數(shù)據(jù)特點(diǎn)高速性,提出動(dòng)態(tài)數(shù)據(jù)時(shí)效性模型,首先對(duì)原數(shù)據(jù)集進(jìn)行預(yù)處理,根據(jù)時(shí)效規(guī)則對(duì)描述同一實(shí)體的記錄進(jìn)行按照時(shí)效性排序。然后,動(dòng)態(tài)實(shí)時(shí)處理更新數(shù)據(jù)。同時(shí)我們從以下幾個(gè)方面提高算法執(zhí)行效率:建立實(shí)體查詢B樹,從而提高查找更新數(shù)據(jù)相應(yīng)實(shí)體的時(shí)間;引入實(shí)體存儲(chǔ)靜態(tài)鏈表結(jié)構(gòu)以減少更新數(shù)據(jù)集的時(shí)間;根據(jù)時(shí)效規(guī)則建立屬性執(zhí)行順序的拓?fù)鋱D和屬性值與元組號(hào)之前的倒排索引,優(yōu)化處理時(shí)效規(guī)則的過程。
根據(jù)大數(shù)據(jù)特點(diǎn)多樣性,將數(shù)據(jù)質(zhì)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 大數(shù)據(jù)關(guān)鍵技術(shù)
- 數(shù)據(jù)時(shí)效性的理論和算法研究.pdf
- 振動(dòng)時(shí)效性技術(shù)的理論研究.pdf
- 大數(shù)據(jù)架構(gòu)與關(guān)鍵技術(shù)
- 大數(shù)據(jù)處理的關(guān)鍵技術(shù)
- 大數(shù)據(jù)架構(gòu)與關(guān)鍵技術(shù)
- 大數(shù)據(jù)分析關(guān)鍵技術(shù)
- 基于用戶置信度的數(shù)據(jù)時(shí)效性判定研究.pdf
- 大數(shù)據(jù)關(guān)鍵技術(shù)_王秀磊.pdf
- 基于Hadoop的大數(shù)據(jù)存儲(chǔ)關(guān)鍵技術(shù)研究.pdf
- 大數(shù)據(jù)下重復(fù)數(shù)據(jù)刪除的關(guān)鍵技術(shù)研究.pdf
- 感性設(shè)計(jì)的時(shí)效性.pdf
- 基于大數(shù)據(jù)的信息系統(tǒng)關(guān)鍵技術(shù)
- 基于GPU的大數(shù)據(jù)OLAP分析關(guān)鍵技術(shù)的研究.pdf
- 天文大數(shù)據(jù)存儲(chǔ)管理關(guān)鍵技術(shù)研究.pdf
- 面向農(nóng)業(yè)領(lǐng)域的大數(shù)據(jù)關(guān)鍵技術(shù)研究.pdf
- 面向大數(shù)據(jù)的deep web數(shù)據(jù)系統(tǒng)關(guān)鍵技術(shù)研究
- 大數(shù)據(jù)移動(dòng)通信中OFDM系統(tǒng)關(guān)鍵技術(shù)的研究.pdf
- 基于大數(shù)據(jù)的高考志愿數(shù)據(jù)分析關(guān)鍵技術(shù)研究.pdf
- 基于Spark的大數(shù)據(jù)處理關(guān)鍵技術(shù)研究.pdf
評(píng)論
0/150
提交評(píng)論