1 回答

TA貢獻1946條經(jīng)驗 獲得超3個贊
Spark采用一個統(tǒng)一的技術堆棧解決了云計算大數(shù)據(jù)的如流處理、圖技術、機器學習、NoSQL查詢等方面的所有核心問題,具有完善的生態(tài)系統(tǒng),這直接奠定了其一統(tǒng)云計算大數(shù)據(jù)領域的霸主地位;
要想成為Spark高手,需要經(jīng)歷一下階段:
第一階段:熟練地掌握Scala語言
1, Spark框架是采用Scala語言編寫的,精致而優(yōu)雅。要想成為Spark高手,你就必須閱讀Spark的源代碼,就必須掌握Scala,;
2, 雖然說現(xiàn)在的Spark可以采用多語言Java、Python等進行應用程序開發(fā),但是最快速的和支持最好的開發(fā)API依然并將永遠是Scala方式的API,所以你必須掌握Scala來編寫復雜的和高性能的Spark分布式程序;
3, 尤其要熟練掌握Scala的trait、apply、函數(shù)式編程、泛型、逆變與協(xié)變等;
第二階段:精通Spark平臺本身提供給開發(fā)者API
1, 掌握Spark中面向RDD的開發(fā)模式,掌握各種transformation和action函數(shù)的使用;
2, 掌握Spark中的寬依賴和窄依賴以及l(fā)ineage機制;
3, 掌握RDD的計算流程,例如Stage的劃分、Spark應用程序提交給集群的基本過程和Worker節(jié)點基礎的工作原理等
第三階段:深入Spark內(nèi)核
此階段主要是通過Spark框架的源碼研讀來深入Spark內(nèi)核部分:
1, 通過源碼掌握Spark的任務提交過程;
2, 通過源碼掌握Spark集群的任務調(diào)度;
3, 尤其要精通DAGScheduler、TaskScheduler和Worker節(jié)點內(nèi)部的工作的每一步的細節(jié);
第四階級:掌握基于Spark上的核心框架的使用
Spark作為云計算大數(shù)據(jù)時代的集大成者,在實時流處理、圖技術、機器學習、NoSQL查詢等方面具有顯著的優(yōu)勢,我們使用Spark的時候大部分時間都是在使用其上的框架例如Shark、Spark Streaming等:
1, Spark Streaming是非常出色的實時流處理框架,要掌握其DStream、transformation和checkpoint等;
2, Spark的離線統(tǒng)計分析功能,Spark 1.0.0版本在Shark的基礎上推出了Spark SQL,離線統(tǒng)計分析的功能的效率有顯著的提升,需要重點掌握;
3, 對于Spark的機器學習和GraphX等要掌握其原理和用法;
第五階級:做商業(yè)級別的Spark項目
通過一個完整的具有代表性的Spark項目來貫穿Spark的方方面面,包括項目的架構設計、用到的技術的剖析、開發(fā)實現(xiàn)、運維等,完整掌握其中的每一個階段和細節(jié),這樣就可以讓您以后可以從容面對絕大多數(shù)Spark項目。
第六階級:提供Spark解決方案
1, 徹底掌握Spark框架源碼的每一個細節(jié);
- 1 回答
- 0 關注
- 763 瀏覽
添加回答
舉報