1、支持向量機是一種新的機器學習方法，近年來取得了長足的發(fā)展，并已廣泛應用于手寫數(shù)字識別、人臉識別、文本分類、回歸預測、時間序列分析等領域。設計實現(xiàn)該學習方法的有效優(yōu)化算法是該領域學者研究的重點。
　　本文首先分別對支持向量分類機和支持向量回歸機的模型參數(shù)選擇進行了研究，分析了高斯核函數(shù)和相關參數(shù)對支持向量機分類和回歸效果以及推廣能力的影響，引入了利用網(wǎng)格搜索法配合k-折交叉驗證的模型參數(shù)選擇搜索算法，在理論分析的基礎上進行了數(shù)值實驗

2、，取得了較好的效果。
　　增量學習一直是近年來研究的熱點之一，它的優(yōu)點在于，學習過程中能自動舍棄無用的樣本，減小訓練集，節(jié)約存儲成本。經(jīng)典或標準的SVM算法并不直接具有增量學習的能力，但其理論體系中的支持向量概念對于增量學習算法的構建具有十分重要的意義。基于改進的SOR-SVM算法求解SVM分類問題的快速有效性，本文提出了適合改進的SOR-SVM的在線增量學習算法和成批增量學習算法，通過對KKT條件的分析和利用改進的SOR-SVM

3、算法結構的特殊性，在算法的執(zhí)行過程中新增樣本后的求解過程利用了增量前原數(shù)據(jù)集已求得的結果進行更新，降低了計算量，提高了運行效率。數(shù)值實驗表明新的增量學習算法是有效的。
　　與分類問題類似，本文將改進的SOR-SVR算法推廣到了增量學習上，提出了基于改進的SOR-SVR的在線增量算法和成批增量算法，通過對KKT條件的分析和利用改進的SOR-SVR算法結構的特殊性，在算法的執(zhí)行過程中新增樣本后的求解過程利用了增量前原數(shù)據(jù)集已求得的結果