1、聚類分析是數(shù)據(jù)挖掘、模式識(shí)別等方向的重要研究?jī)?nèi)容之一,已被廣泛用于數(shù)據(jù)壓縮、信息檢索、語(yǔ)音識(shí)別、字符識(shí)別、圖像分割和文本聚類等。另外,在生物學(xué)、地質(zhì)學(xué)、地理學(xué)、市場(chǎng)營(yíng)銷和異常數(shù)據(jù)檢測(cè)等方面也受到越來(lái)越多的關(guān)注。目前,已有上千種聚類算法,然而沒(méi)有一種算法可以成功識(shí)別出具有不同大小、不同形狀、不同密度甚至可能包含噪聲的簇。文本數(shù)據(jù)具有高維、稀疏等特點(diǎn),這使得許多聚類算法并不適用于文本聚類;另外,文本集規(guī)模的海量性對(duì)聚類算法的運(yùn)行效率也提出了

2、很高的要求。作為傳統(tǒng)聚類算法的重要擴(kuò)展,聚類集成技術(shù)具備了傳統(tǒng)聚類算法所不具備的諸多優(yōu)點(diǎn)。目前,聚類集成已經(jīng)發(fā)展成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)之一。本文以文本聚類為應(yīng)用背景,針對(duì)文本聚類集成中的關(guān)鍵問(wèn)題進(jìn)行了研究,取得的創(chuàng)新性研究成果包括:
　　 (1)鑒于譜聚類方法的諸多優(yōu)點(diǎn),本文將基于矩陣擾動(dòng)理論和譜圖理論的譜聚類算法引入到文本聚類集成問(wèn)題中。針對(duì)譜聚類算法計(jì)算復(fù)雜度高的問(wèn)題,本文基于代數(shù)變換,首先將大規(guī)模矩陣的特征值分解問(wèn)題轉(zhuǎn)

3、化為等價(jià)的奇異值分解問(wèn)題,并進(jìn)一步轉(zhuǎn)化為小規(guī)模矩陣的特征值分解問(wèn)題。由此設(shè)計(jì)了兩個(gè)不同的文本聚類集成譜算法SMSA和TMSA。實(shí)驗(yàn)結(jié)果表明:本文的代數(shù)變換方法是切實(shí)可行的,代數(shù)變換前后算法的運(yùn)行時(shí)間大幅度減少,而且獲得的結(jié)果非常接近:SMSA和TMSA比基于圖劃分的聚類集成算法更優(yōu)越,是解決文本聚類集成問(wèn)題行之有效的方法。
　　 (2)本文研究了譜聚類算法的關(guān)鍵思想,從求解“最佳”子空間出發(fā),同時(shí)推導(dǎo)出文本和超邊的低維嵌入,由此

4、設(shè)計(jì)了兩個(gè)基于子空間相似度的聚類集成算法SSICA和SSDCA,實(shí)驗(yàn)結(jié)果表明:SSICA和SSDCA都獲得了比基于圖劃分的聚類集成算法更優(yōu)越的結(jié)果;SSICA的聚類質(zhì)量略高于SSDCA。本文進(jìn)一步泛化SSICA,設(shè)計(jì)出基于低維嵌入的文本聚類集成方法。該方法首先通過(guò)不同的譜聚類算法獲得了超邊的低維嵌入;隨后通過(guò)映射的復(fù)合間接獲得了文本的低維嵌入;最后根據(jù)文本在低維空間下的坐標(biāo)使用簡(jiǎn)單K均值算法聚類。實(shí)驗(yàn)結(jié)果表明,該方法比其它常見(jiàn)的基于圖劃

5、分的聚類集成方法優(yōu)越,可以有效解決文本聚類集成問(wèn)題。
　　 (3)本文將非負(fù)矩陣分解(NMF)引入到文本聚類集成問(wèn)題中,設(shè)計(jì)了BNMF算法;由于NMF算法收斂速度較慢、易于收斂到較差的局部最優(yōu)解,本文使用K均值初始化NMF,設(shè)計(jì)出NMFK算法;另外,針對(duì)K均值算法隨機(jī)初始化所帶來(lái)的聚類結(jié)果不穩(wěn)定問(wèn)題,本文使用最小最大原則確定K均值算法的初值,設(shè)計(jì)出NMFKMMP算法。實(shí)驗(yàn)結(jié)果表明:使用K均值算法初始化NMF是有效的,NMFK獲得

6、了比BNMF算法更加優(yōu)越、穩(wěn)定的結(jié)果,且運(yùn)行效率也比BNMF高出許多;NMFKMMP算法可以有效解決文本聚類集成問(wèn)題,NMFKMMP算法運(yùn)行高效,并且獲得了比其它常見(jiàn)的聚類集成算法更加優(yōu)越的結(jié)果。
　　 (4)超球K均值算法不能有效識(shí)別非超球狀的簇,因此易于產(chǎn)生精度較低的文本聚類集成成員。為了進(jìn)一步提高文本聚類集成算法的聚類質(zhì)量,本文在集成成員生成階段引入了CHAMELEON算法的關(guān)鍵思想--“分裂-合并”(DM)策略。首先在聚

7、類成員生成階段運(yùn)行使用DM策略的SKM算法r次,每次生成較多的文本子簇,并根據(jù)子簇的相似性使用Ward算法合并這些子簇,得到r個(gè)聚類成員,隨后在聚類集成階段采用本文設(shè)計(jì)的聚類集成算法進(jìn)行集成。實(shí)驗(yàn)結(jié)果顯示,除了基于圖劃分的聚類集成算法外,基于層次聚類方法的4個(gè)聚類集成算法以及本文設(shè)計(jì)的基于譜聚類方法、基于低維嵌入方法和基于非負(fù)矩陣分解方法的多個(gè)文本聚類集成算法在使用DM策略后獲得的平均規(guī)范化互信息(NMI)都有不同程度的提高,這表明DM