構建Spark Application的運行環(huán)境(啟動SparkContext),SparkContext向資源管理器(可以是Standalone、Mesos或YARN)注冊并申請運行Executor資源 查看全文>>
大數據技術文章2018-09-11 |傳智播客 |傳智播客,Spark運行架構
Spark 在生產環(huán)境下經常會面臨transformation的RDD非常多(例如一個Job中包含1萬個RDD)或者具體transformation的RDD本身計算特別復雜或者耗時(例如計算時長超過1個小時),這個時候就要考慮對計算結果數據持久化保存 查看全文>>
大數據技術文章2018-09-11 |傳智播客 |傳智播客,spark
這個安裝過程經歷曲折,遇到了許多坑。 環(huán)境:Windows 7 Vm 我用了三臺虛擬機 centos 192.168.188.128 hadoop1(作為主服務器) 192.168.188.129 hadoop2 192.168.188.130 hadoop3 查看全文>>
大數據技術文章2018-08-06 |傳智播客 |傳智播客,hadoop
目標1:熟練使用scala編寫Spark程序;目標2:動手編寫一個簡易版的Spark通信框架;目標3:為閱讀Spark內核源碼做準備 查看全文>>
大數據技術文章2018-08-02 |傳智播客 |云計算,Scala
傳智播客黑馬程序員作為一個IT學習平臺,歷經12年的成長,免費分享視頻教程長達10萬余小時,累計下載量超3000萬次,受益人數達千萬。免費公開課直播1000余次,聽課人數近百萬人!2018年我們不忘初心,繼續(xù)前行!新版學習路線圖上線,對云計算大數據感興趣的同學們,趕緊學起來吧! 查看全文>>
大數據技術文章2018-05-14 |傳智播客 |云計算大數據
大數據實時處理平臺市場上產品眾多,本文著重討論spark與storm的比對,最后結合適用場景進行選型。 查看全文>>
大數據技術文章2018-01-23 |傳智播客 |spark,storm
為了建立冗余較小、結構合理的數據庫,設計數據庫時必須遵循一定的規(guī)則。在關系型數據庫中這種規(guī)則就稱為范式。范式是符合某一種設計要求的總結。要想設計一個結構合理的關系型數據庫,必須滿足一定的范式。 查看全文>>
大數據技術文章2018-01-10 |傳智播客 |Java面試題