1、在機(jī)器學(xué)習(xí)領(lǐng)域中，間隔從距離角度對(duì)分類置信度進(jìn)行刻畫，用于估計(jì)分類學(xué)習(xí)算法的泛化錯(cuò)誤界和指導(dǎo)分類算法的設(shè)計(jì)，已廣泛的應(yīng)用于指導(dǎo)特征選擇、分類器訓(xùn)練和集成學(xué)習(xí)。然而傳統(tǒng)的大間隔分類學(xué)習(xí)方法抗噪性差，當(dāng)訓(xùn)練樣本中存在個(gè)別大噪聲數(shù)據(jù)時(shí)，分類邊界將會(huì)受其影響而偏離正確的位置。針對(duì)這一問題，本文從特征選擇和分類器構(gòu)建兩大角度出發(fā)，分別提出了基于間隔的魯棒的特征選擇方法和支持向量機(jī)訓(xùn)練算法以及多分類器集成學(xué)習(xí)方法，提高了KNN（K Nearest

2、Neighbor）和支持向量機(jī)分類的魯棒性，具體的研究工作如下：
　?。?）在傳統(tǒng)大間隔近鄰特征選擇中，包含異類噪聲點(diǎn)的目標(biāo)鄰域需要分類間隔來指導(dǎo)其鄰域的距離學(xué)習(xí)，但該分類間隔是通過最近鄰規(guī)則得到的；當(dāng)目標(biāo)鄰域中存在多個(gè)噪聲點(diǎn)時(shí)，分類間隔魯棒性差。針對(duì)上述問題，本文提出了一種基于魯棒的間隔統(tǒng)計(jì)量的特征選擇方法。該方法首先尋找包含異類噪聲點(diǎn)的目標(biāo)鄰域，然后計(jì)算目標(biāo)鄰域中心點(diǎn)到所有同類和異類樣本的距離，采用分類間隔中位數(shù)作為優(yōu)化目標(biāo)，

3、指導(dǎo)特征權(quán)學(xué)習(xí)，提高了近鄰分類的魯棒性。
　?。?）目前基于分類間隔損失的特征選擇方法在處理大噪聲樣本時(shí)，懲罰誤分樣本的分類損失函數(shù)值非常大，導(dǎo)致優(yōu)化模型的解隨噪聲產(chǎn)生較大的擾動(dòng)，降低了算法的魯棒性。針對(duì)上述問題，本文引入了一種魯棒的損失函數(shù)（Brownboost損失）來建立優(yōu)化目標(biāo)。由于Brownboost損失具有非凸性，因此將優(yōu)化目標(biāo)與正則化技術(shù)相結(jié)合提出了基于梯度下降的特征權(quán)學(xué)習(xí)算法，提高了支持向量機(jī)的抗噪能力。
　　

4、（3）由于現(xiàn)有魯棒的支持向量機(jī)訓(xùn)練算法中魯棒的損失函數(shù)（斜坡?lián)p失）存在非凸性，導(dǎo)致其訓(xùn)練時(shí)間復(fù)雜度較高且分類魯棒性需進(jìn)一步改善的問題，本文提出了一種基于光滑截?cái)鄵p失的魯棒的支持向量機(jī)訓(xùn)練方法。該方法首先對(duì)斜坡?lián)p失進(jìn)行光滑近似并將其轉(zhuǎn)化為一個(gè)光滑的凸函數(shù)與一個(gè)光滑的凹函數(shù)之和的形式，然后采用CCCP（Concave-Convex Procedure）來求解這一問題，最后利用牛頓梯度下降法來實(shí)現(xiàn)其快速的學(xué)習(xí)，增強(qiáng)了原有算法的分類魯棒性并提高

5、了其訓(xùn)練速度。
　?。?）由于故障診斷數(shù)據(jù)中特征維度較高、樣本數(shù)量較多、類別不平衡并普遍包含噪聲的特點(diǎn)，單一的分類學(xué)習(xí)方法無法滿足其抗噪性能的需求，本文提出了一種基于間隔的魯棒的分類集成學(xué)習(xí)模型。該模型將訓(xùn)練階段的集成學(xué)習(xí)任務(wù)分成了四個(gè)階段：隨機(jī)采樣階段、特征選擇階段、基分類器學(xué)習(xí)階段和加權(quán)投票階段。在集成學(xué)習(xí)的不同階段融合不同抗噪技術(shù)。在分類融合時(shí)采用平方損失和L1正則化技術(shù)來學(xué)習(xí)稀疏的基分類器的權(quán)值，用其來指導(dǎo)測(cè)試階段的分類預(yù)