1、子空間方法是模式識(shí)別領(lǐng)域一個(gè)重要的研究方向，很多年來(lái)一直受到該領(lǐng)域?qū)W者們的廣泛關(guān)注。Fisher線性判別分析方法(Fisher Linear Discriminant Analysis，F(xiàn)LD或LDA)及以其為代表的其他一些子空間分類方法，在分類問(wèn)題中有著突出的作用。然而，這些子空間算法也存在一定的缺陷。其中最主要的問(wèn)題是，大部分傳統(tǒng)子空間算法的特征提取準(zhǔn)則并不與訓(xùn)練誤差直接相關(guān)聯(lián)，而是根據(jù)某種準(zhǔn)則由樣本數(shù)據(jù)分布(通常假設(shè)為高斯分布)的

2、統(tǒng)計(jì)特征得出。所以當(dāng)統(tǒng)計(jì)準(zhǔn)則不能正確反映樣本分布情況時(shí)，算法往往會(huì)失效。這個(gè)問(wèn)題導(dǎo)致傳統(tǒng)子空間算法應(yīng)用于某些數(shù)據(jù)分布較為復(fù)雜的情形時(shí)，難以取得理想的效果。本文所提出的方法正是圍繞這個(gè)問(wèn)題而展開(kāi)的。 本文第3章首先指出，傳統(tǒng)的LDA方法由于其固有的缺陷，在處理多分類問(wèn)題時(shí)，即使各類數(shù)據(jù)都滿足高斯同方差分布，也可能無(wú)法找到最優(yōu)分類子空間。接著通過(guò)分析數(shù)據(jù)樣本分布與LDA算法得到的投影向量之間的關(guān)系，討論了LDA投影向量與類間散布矩陣

3、和類內(nèi)散布矩陣特征值之間存在的關(guān)聯(lián)，并以此提出一種基于遺傳算法的LDA算法。該算法以子空間上的訓(xùn)練誤差最小為目標(biāo)，通過(guò)遺傳算法調(diào)整LDA算法中類問(wèn)矩陣特征值的大小，達(dá)到搜索最佳特征子空間的效果。通過(guò)模擬數(shù)摒和真實(shí)數(shù)據(jù)的實(shí)驗(yàn)，表明這種方法的分類正確率比現(xiàn)有的線性子空間方法有所提高。 集成學(xué)習(xí)理論中的AdaBoost(Adaptive Boosting)算法是一類以最小訓(xùn)練誤差為準(zhǔn)則構(gòu)建分類器的學(xué)習(xí)算法。本文在第4章中通過(guò)結(jié)合Ada

4、Boost算法與LDA子空間方法提出了基于提升自舉LDA投影的特征提取算法，完成兩類問(wèn)題中的特征提取與組合。AdaBoost算法是一種將若干分類性能僅好于隨機(jī)猜測(cè)的弱分炎器提升為強(qiáng)分類器的算法框架，要求備弱分類器具有較大的分離度和不穩(wěn)定性。所以，本文提出的算法首先借助Bagging(Bootstrap Aggregating)算法中的自舉采樣(Bootstrap Sampling)原理對(duì)訓(xùn)練樣本進(jìn)行隨機(jī)抽樣形成若干訓(xùn)練樣本自舉子集，再通

5、過(guò)結(jié)合LDA算法和最近鄰分類器由這些自舉子集得出若干弱分類器，并由AdaBoost算法提升為強(qiáng)分類器。該算法克服了傳統(tǒng)子空間方法特征提取準(zhǔn)則不與訓(xùn)練誤差相關(guān)聯(lián)的弱點(diǎn)，生成的分類器有較好的泛化性能，能夠很好地解決數(shù)據(jù)分布復(fù)雜的分類問(wèn)題。文章通過(guò)復(fù)雜分布的兩類問(wèn)題實(shí)驗(yàn)證明了該算法的可行性和優(yōu)越性。 由于多類問(wèn)題的研究，特別是人臉識(shí)別問(wèn)題，具有更加廣泛的應(yīng)用價(jià)值，本文第5章在第4章的基礎(chǔ)上，借助AdaBoost．M2算法與LDA子空間