1、支持向量機(jī)是基于統(tǒng)計(jì)學(xué)習(xí)理論,借助最優(yōu)化方法來(lái)解決機(jī)器學(xué)習(xí)問(wèn)題的新工具.它將機(jī)器學(xué)習(xí)問(wèn)題轉(zhuǎn)化為求解最優(yōu)化問(wèn)題,并應(yīng)用最優(yōu)化理論構(gòu)造算法來(lái)解決問(wèn)題.該文主要是從最優(yōu)化理論和算法的角度對(duì)支持向量機(jī)中的最優(yōu)化問(wèn)題進(jìn)行研究.在理論上,該文首先詳細(xì)地論述了支持向量機(jī)的基本思想和各種常用的支持向量機(jī)方法,然后通過(guò)深入分析,指出現(xiàn)有方法中存在的問(wèn)題.針對(duì)這些問(wèn)題,應(yīng)用最優(yōu)化理論進(jìn)行深入研究,主要工作如下:1.在作為支持向量機(jī)基礎(chǔ)的原始問(wèn)題解和對(duì)偶問(wèn)題

2、解的關(guān)系上,當(dāng)前研究存在邏輯缺陷,該文發(fā)現(xiàn)并彌補(bǔ)了這一缺陷,第一次在完整嚴(yán)密的邏輯基礎(chǔ)上完善了各種支持向量機(jī)中最優(yōu)化問(wèn)題的理論體系.2.在部分情況下,支持向量機(jī)無(wú)法利用現(xiàn)有的公式計(jì)算決策函數(shù)的閾值,該文給出了所有可能情況下,支持向量機(jī)中決策函數(shù)閾值的求解公式.3.Mangasarian提出了廣義支持向量機(jī),但不包含標(biāo)準(zhǔn)的支持向量機(jī):前者研究一般的嚴(yán)格凸規(guī)劃問(wèn)題,而后者針對(duì)的是特定的凸規(guī)劃問(wèn)題.該文推廣了Mangasarian提出的廣義支

3、持向量機(jī),使之適用于標(biāo)準(zhǔn)的支持向量機(jī),從而完善了廣義支持向量機(jī)的理論體系.4.支持向量機(jī)中有一類重要的變形方法,雖然很有效,但缺乏相應(yīng)的統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ).該文從統(tǒng)計(jì)學(xué)習(xí)理論出發(fā),對(duì)其進(jìn)行深入研究.在算法方面,該文在將支持向量機(jī)中的最優(yōu)化問(wèn)題轉(zhuǎn)化為無(wú)約束問(wèn)題的前提下,研究了Newton-PCG算法.Newton-PCG算法是解決無(wú)約束問(wèn)題的有效方法,在該算法中需要求解一個(gè)一繼整數(shù)最優(yōu)化問(wèn)題,并且算法的效率也依賴于它的最優(yōu)值.該文建立了簡(jiǎn)單