![](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/16/17/54111973-5b07-4f6a-8b32-a454827e7f00/54111973-5b07-4f6a-8b32-a454827e7f00pic.jpg)
![基于web的網(wǎng)頁鏈接與正文抽取技術(shù)研究.pdf_第1頁](https://static.zsdocx.com/FlexPaper/FileRoot/2019-3/16/17/54111973-5b07-4f6a-8b32-a454827e7f00/54111973-5b07-4f6a-8b32-a454827e7f001.gif)
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、網(wǎng)頁鏈接的抽取是指將網(wǎng)頁源代碼中的標(biāo)簽的href屬性的取值按照用戶的需求提取出來。目前網(wǎng)頁鏈接的抽取主要是將網(wǎng)頁中全部鏈接抽取出來,并沒有對鏈接進(jìn)行分類,抽取的結(jié)果包含大量的無用鏈接,與用戶需求不符。本文按照新聞主題的不同,將網(wǎng)頁鏈接分成主題鏈接和噪聲鏈接兩類,而噪聲鏈接又分成外指噪聲和內(nèi)指噪聲。在此基礎(chǔ)上,本文采用了基于規(guī)則的機(jī)器學(xué)習(xí)技術(shù)獲取頁面的鏈接模式。首先利用在線算法與平攤分析對鏈接頁面分析,其次制定了樣本選擇規(guī)范對鏈接樣
2、本進(jìn)行選取,而后將學(xué)習(xí)到的鏈接模式表示為正則表達(dá)式,最終將鏈接模式與頁面所有鏈接進(jìn)行匹配,獲得主題鏈接。該方法的優(yōu)點是對更新頻繁的頁面進(jìn)行鏈接抽取時,抽取時間大大縮短,克服了每次對同類網(wǎng)站頁面進(jìn)行相同的頁面分析,適合周期性的對同一頁面進(jìn)行鏈接抽取。方法實現(xiàn)了快速、高效的鏈接抽取。
網(wǎng)頁正文的抽取是指將存在于網(wǎng)頁中的,與網(wǎng)頁主題相關(guān)的、結(jié)構(gòu)完整的文本提取出來。傳統(tǒng)的方法是將網(wǎng)頁結(jié)構(gòu)表示成樹,但建樹與查找樹的過程中,空間與時間復(fù)雜
3、度都過高。而且網(wǎng)頁標(biāo)簽嵌套現(xiàn)象普遍,在后續(xù)正文抽取中,理清各文本段落間的關(guān)系需要反復(fù)遍歷其祖先及后代,效率低下。本文提出了基于線性化的段落劃分聚類的網(wǎng)頁正文抽取方法。該方法將網(wǎng)頁源代碼進(jìn)行線性化重構(gòu),然后利用重構(gòu)后的代碼進(jìn)行網(wǎng)頁噪聲的初步去除,再經(jīng)過原始段落集的過濾劃分、段落聚類得到網(wǎng)頁正文的脈絡(luò)段落,最后通過吸收偽噪聲段落生成網(wǎng)頁正文。該方法克服了對網(wǎng)頁建樹的復(fù)雜過程,具有簡單、快速、準(zhǔn)確的特點,實驗表明該方法的抽取準(zhǔn)確率可以達(dá)99%
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于網(wǎng)頁分塊的Web信息抽取技術(shù)研究.pdf
- Web網(wǎng)頁正文抽取方法研究.pdf
- 基于Web的信息抽取技術(shù)研究.pdf
- 面向數(shù)字旅游網(wǎng)頁的Web信息抽取技術(shù)研究.pdf
- 基于網(wǎng)頁分塊的Web信息抽取的研究與應(yīng)用.pdf
- Web信息抽取技術(shù)研究與基于Web service的實現(xiàn).pdf
- 基于中文開放鏈接數(shù)據(jù)的實例抽取技術(shù)研究.pdf
- 基于DOM的智能網(wǎng)頁信息抽取技術(shù)研究.pdf
- 基于XML的藏文網(wǎng)頁的信息抽取與轉(zhuǎn)存技術(shù)研究.pdf
- 基于DOM樹的web新聞?wù)某槿〖夹g(shù)的研究與實現(xiàn).pdf
- Web頁面鏈接文本信息抽取與分類的研究.pdf
- 基于網(wǎng)頁結(jié)構(gòu)的Web數(shù)據(jù)抽取方法研究.pdf
- 基于語義的web信息抽取技術(shù)研究
- 基于語義的Web信息抽取技術(shù)研究.pdf
- 基于WEB的商品屬性抽取與分類技術(shù)研究.pdf
- 基于REIE的Web信息抽取技術(shù)研究.pdf
- 基于模板化網(wǎng)絡(luò)爬蟲技術(shù)的Web網(wǎng)頁信息抽取.pdf
- 基于信息熵的Web信息抽取技術(shù)研究.pdf
- 基于HTML的WEB就業(yè)信息抽取技術(shù)研究.pdf
- 基于XML面向Web的數(shù)據(jù)抽取技術(shù)研究.pdf
評論
0/150
提交評論