Spark采用一個(gè)統(tǒng)一的技術(shù)堆棧解決了云計(jì)算大數(shù)據(jù)的如流處理、圖技術(shù)、機(jī)器學(xué)習(xí)、NoSQL查詢等方面的所有核心問(wèn)題，具有完善的生態(tài)系統(tǒng)，這直接奠定了其一統(tǒng)云計(jì)算大數(shù)據(jù)領(lǐng)域的霸主地位；
要想成為Spark高手，需要經(jīng)歷一下階段：
第一階段：熟練地掌握Scala語(yǔ)言
1， Spark框架是采用Scala語(yǔ)言編寫(xiě)的，精致而優(yōu)雅。要想成為Spark高手，你就必須閱讀Spark的源代碼，就必須掌握Scala,；
2， 雖然說(shuō)現(xiàn)在的Spark可以采用多語(yǔ)言Java、Python等進(jìn)行應(yīng)用程序開(kāi)發(fā)，但是最快速的和支持最好的開(kāi)發(fā)API依然并將永遠(yuǎn)是Scala方式的API，所以你必須掌握Scala來(lái)編寫(xiě)復(fù)雜的和高性能的Spark分布式程序；
3， 尤其要熟練掌握Scala的trait、apply、函數(shù)式編程、泛型、逆變與協(xié)變等；
第二階段：精通Spark平臺(tái)本身提供給開(kāi)發(fā)者API
1， 掌握Spark中面向RDD的開(kāi)發(fā)模式，掌握各種transformation和action函數(shù)的使用；
2， 掌握Spark中的寬依賴和窄依賴以及l(fā)ineage機(jī)制；
3， 掌握RDD的計(jì)算流程，例如Stage的劃分、Spark應(yīng)用程序提交給集群的基本過(guò)程和Worker節(jié)點(diǎn)基礎(chǔ)的工作原理等
第三階段：深入Spark內(nèi)核
此階段主要是通過(guò)Spark框架的源碼研讀來(lái)深入Spark內(nèi)核部分：
1， 通過(guò)源碼掌握Spark的任務(wù)提交過(guò)程；
2， 通過(guò)源碼掌握Spark集群的任務(wù)調(diào)度；
3， 尤其要精通DAGScheduler、TaskScheduler和Worker節(jié)點(diǎn)內(nèi)部的工作的每一步的細(xì)節(jié)；
第四階級(jí):掌握基于Spark上的核心框架的使用
Spark作為云計(jì)算大數(shù)據(jù)時(shí)代的集大成者，在實(shí)時(shí)流處理、圖技術(shù)、機(jī)器學(xué)習(xí)、NoSQL查詢等方面具有顯著的優(yōu)勢(shì)，我們使用Spark的時(shí)候大部分時(shí)間都是在使用其上的框架例如Shark、Spark Streaming等：
1， Spark Streaming是非常出色的實(shí)時(shí)流處理框架，要掌握其DStream、transformation和checkpoint等；
2， Spark的離線統(tǒng)計(jì)分析功能，Spark 1.0.0版本在Shark的基礎(chǔ)上推出了Spark SQL，離線統(tǒng)計(jì)分析的功能的效率有顯著的提升，需要重點(diǎn)掌握；
3， 對(duì)于Spark的機(jī)器學(xué)習(xí)和GraphX等要掌握其原理和用法；
第五階級(jí):做商業(yè)級(jí)別的Spark項(xiàng)目
通過(guò)一個(gè)完整的具有代表性的Spark項(xiàng)目來(lái)貫穿Spark的方方面面，包括項(xiàng)目的架構(gòu)設(shè)計(jì)、用到的技術(shù)的剖析、開(kāi)發(fā)實(shí)現(xiàn)、運(yùn)維等，完整掌握其中的每一個(gè)階段和細(xì)節(jié)，這樣就可以讓您以后可以從容面對(duì)絕大多數(shù)Spark項(xiàng)目。
第六階級(jí)：提供Spark解決方案
1， 徹底掌握Spark框架源碼的每一個(gè)細(xì)節(jié)；