1、現(xiàn)代互聯(lián)網(wǎng)的高速發(fā)展產(chǎn)生了大量富有價值的互聯(lián)網(wǎng)信息，如何從海量的數(shù)據(jù)中挖掘出有用的信息是具有重大意義的課題。大數(shù)據(jù)平臺的研究與發(fā)展就是在這一背景下興起。Hadoop的誕生使人們關(guān)注Map Red uce這一計算模式的研究，而Spark通過引入RDD數(shù)據(jù)模型及基于內(nèi)存的運算模式，使其能很好地適應(yīng)大數(shù)據(jù)的數(shù)據(jù)挖掘這一場景，并且在迭代計算方面優(yōu)于Hadoop，迅速成為了廣大企業(yè)、學者的研究重點。推薦系統(tǒng)是一種從海量用戶行為數(shù)據(jù)中挖掘有用信息并

2、提供給用戶的應(yīng)用，推薦系統(tǒng)中推薦算法的實現(xiàn)是數(shù)據(jù)挖掘的重要部分?；趥鹘y(tǒng)計算機的推薦算法實現(xiàn)過程需要耗費大量的時間，不能滿足當今的商業(yè)需求，而結(jié)合分布式計算平臺的并行化實現(xiàn)能有效解決這一問題，并且推薦算法實現(xiàn)過程中存在多次迭代計算，Spark的出現(xiàn)正是迎合了推薦算法并行化實現(xiàn)這一需求。
　　鑒于目前國內(nèi)外基于Spark平臺的各類應(yīng)用的發(fā)展趨勢，本文將基于Spark平臺對推薦算法相關(guān)技術(shù)進行研究，主要包括以下兩個方面:
　　(

3、1)基于Spark平臺推薦算法并行化研究。在對Spark平臺及推薦系統(tǒng)相關(guān)技術(shù)研究基礎(chǔ)上，首先對基于Spark平臺推薦算法并行化實現(xiàn)過程進行了設(shè)計，詳細分析了算法在提交后集群節(jié)點的作用及任務(wù)的分配情況;其次對基于Spark平臺推薦算法并行化進行實現(xiàn)，主要實現(xiàn)了基于用戶的協(xié)同過濾、基于物品的協(xié)同過濾及基于ALS模型推薦算法，給出了詳細的并行化實現(xiàn)過程，并加以分析;最后以實例的形式詳細分析了Spark存算法實現(xiàn)過程中，如何進行數(shù)據(jù)及任務(wù)的并

4、行化。
　　(2)基于Spark平臺并行化實現(xiàn)的優(yōu)化。優(yōu)化主要包括兩個方面:平臺的優(yōu)化及推薦算法的優(yōu)化。在推薦算法并行化實現(xiàn)過程中，發(fā)現(xiàn)Spark集群節(jié)點異構(gòu)情況下，存在任務(wù)調(diào)度不合理問題，提出異構(gòu)Spark集群自適應(yīng)任務(wù)調(diào)度策略HSATS?；卩徲蛲扑]算法優(yōu)化方面，提出對用戶或物品的隱含標簽屬性進行向量化，并最終與相似度計算進行融合?；贏LS模型推薦算法方面，設(shè)計了一種新的損失函數(shù)，將模型訓練前的用戶及物品相似性信息融合進去。