1、隨機(jī)森林是一種組合分類器，它的主要思想是基于兩個(gè)隨機(jī)過程（訓(xùn)練樣本隨機(jī)抽取、特征集隨機(jī)抽?。﹣順?gòu)建多棵相對(duì)獨(dú)立的決策樹分類器，然后通過所有決策樹參與投票的方式獲得最終的預(yù)測(cè)結(jié)果，這樣有效避免了過度擬合的問題，并且構(gòu)建決策樹的相對(duì)獨(dú)立性適合于并行計(jì)算提高模型的預(yù)測(cè)效率，方便處理高維數(shù)據(jù)。這些特點(diǎn)使隨機(jī)森林在各個(gè)工程應(yīng)用中得到了迅速、廣泛的使用，成為機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘研究中的熱門算法。
　　雖然隨機(jī)森林在模型構(gòu)建過程中的隨機(jī)抽樣解決了

2、過擬合的問題，但是也使得模型中不同決策樹的泛化能力存在一定的差異，在傳統(tǒng)隨機(jī)森林模型中這些具有不同泛化能力的決策樹擁有相同的投票權(quán)重，這影響了模型整體預(yù)測(cè)能力的穩(wěn)定性。因此，為了進(jìn)一步提高隨機(jī)森林模型整體的預(yù)測(cè)能力，本文提出了一種優(yōu)化的隨機(jī)森林投票方法，通過使用決策樹的分類性能與樣本的統(tǒng)計(jì)特征來確定決策樹的投票權(quán)重，使用加權(quán)決策樹投票的方式提高隨機(jī)森林整體模型的準(zhǔn)確率與效率。
　　本文通過研究傳統(tǒng)隨機(jī)森林算法，著重優(yōu)化了隨機(jī)森林的

3、投票過程，針對(duì)投票過程中存在的問題，提出改進(jìn)的方法，并通過在多個(gè)公共數(shù)據(jù)集上展開實(shí)驗(yàn)，驗(yàn)證優(yōu)化方法的合理性和優(yōu)越性。本研究的主要工作包括:
　　(1)從決策樹的分類能力、訓(xùn)練樣本的統(tǒng)計(jì)特性入手，提出了4種計(jì)算決策樹投票權(quán)重的方法，包括OOB評(píng)估、樣本數(shù)據(jù)相關(guān)系數(shù)評(píng)估、卡方評(píng)估和互信息評(píng)估，通過這4種評(píng)估方法為單棵決策樹計(jì)算投票權(quán)重。在8組數(shù)據(jù)集上進(jìn)行對(duì)比實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表明引入投票加權(quán)的方法可以有效的提高隨機(jī)森林模型整體的泛化能力，

4、其中以相關(guān)系數(shù)作為決策樹投票權(quán)重計(jì)算依據(jù)時(shí)，模型表現(xiàn)出更穩(wěn)定、更高的預(yù)測(cè)準(zhǔn)確率。
　　(2)在引入加權(quán)投票算法的基礎(chǔ)上，本文還提出了一種半投票量模式，對(duì)構(gòu)建好的加權(quán)隨機(jī)森林模型按照決策樹投票權(quán)重進(jìn)行降序排序，在隨機(jī)森林模型進(jìn)行串行投票的過程中，確定半投票量的預(yù)測(cè)終止條件，通過提前觸發(fā)預(yù)測(cè)終止條件來提高模型預(yù)測(cè)的速度。本文在4組數(shù)據(jù)集上進(jìn)行對(duì)比實(shí)驗(yàn)，驗(yàn)證了半投票量模式可以在不影響模型預(yù)測(cè)準(zhǔn)確率的前提下顯著提高隨機(jī)森林模型的預(yù)測(cè)速度。