1、隨著社會經濟與計算機技術的快速發(fā)展，研究一種能夠有效地提高分類學習算法性能和效率的Filter型特征選擇算法有著重要的理論價值與廣泛的應用前景。
　　 提出了一種基于最小聯合互信息虧損的最優(yōu)特征選擇算法。該算法將以聯合互信息作為評價準則的特征選擇問題分解為兩個子問題，采用最大條件互信息原則進行搜索直到獲得一個無差異特征子集，并采用一種最小聯合互信息虧損原則對所得無差異特征子集進行冗余特征的判斷與刪減。從條件互信息估計可靠性的角度

2、上來看，最小聯合互信息虧損原則減小了因樣本不足而引起的條件互信息估計的偏差。從而能夠獲得一個較好地表達原始數據集且規(guī)模較小的特征子集。
　　 為解決特征子集規(guī)模較大時條件互信息估計所面臨的維數瓶頸問題，提出了一種快速條件互信息估計方法，并將其用于所提算法的實現。首先引入局部互信息的概念，并揭示了局部互信息與條件互信息之間的關系，進而通過對局部互信息的逐一求解來實現對條件互信息的估計。
　　 選擇了10種常用的基準數據集與