全部 大數(shù)據(jù)新聞動態(tài) 大數(shù)據(jù)技術(shù)文章 大數(shù)據(jù)常見問題 技術(shù)問答

• • 

    Schema怎樣實現(xiàn)反射機制推斷？

    在Windows系統(tǒng)下開發(fā)Scala代碼，可以使用本地環(huán)境測試，下載文件后計算機無法像人一樣直觀的感受字段的實際含義，通過反射機制可以推斷包含特定類型對象的Schema信息，因此我們需要先完成Schema的開發(fā)。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-23 |傳智教育 |Schema，RDD轉(zhuǎn)化之Schema的開發(fā)

  • 

    多種方法創(chuàng)建DataFrame【大數(shù)據(jù)技術(shù)文章】

    創(chuàng)建SparkSession對象可以通過“SparkSession.builder().getOrCreate()”方法獲取，但當我們使用Spark-Shell編寫程序時，Spark-Shell客戶端會默認提供了一個名為“sc”的SparkContext對象和一個名為“spark”的SparkSession對象，因此我們可以直接使用這兩個對象 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-23 |傳智教育 |創(chuàng)建DataFrame,

  • 

    DataFrame是什么意思?與RDD相比有哪些優(yōu)點？

    DataFrame是一種以RDD為基礎的分布式數(shù)據(jù)集，因此DataFrame可以完成RDD的絕大多數(shù)功能，在開發(fā)使用時，也可以調(diào)用方法將RDD和DataFrame進行相互轉(zhuǎn)換。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-23 |傳智教育 |DataFrame是什么,SchemaRDD,DataFrame與RDD區(qū)別

  • 

    Spark SQL架構(gòu)的工作原理和工作流程是什么？

    Spark作為開源項目，外部開發(fā)人員可以針對項目需求自行擴展Catalyst優(yōu)化器的功能。要想很好地支持SQL，就需要完成解析（Parser）、優(yōu)化（Optimizer）、執(zhí)行（Execution）三大過程。Catalyst優(yōu)化器在執(zhí)行計劃生成和優(yōu)化的工作時候，它離不開自己內(nèi)部的五大組件，具體介紹如下所示。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-23 |傳智播客 |Spark SQL,Spark SQL架構(gòu)的工作原理和工作流程，Catalyst優(yōu)化器

  • 

    YARN體系結(jié)構(gòu)工作流程介紹【大數(shù)據(jù)文章】

    掌握了YARN的體系結(jié)構(gòu)后，接下來看一下YARN的工作流程，具體如下： 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-12 |傳智教育 |YARN的體系結(jié)構(gòu)

  • 

    Spark的應用場景有哪些？

    在數(shù)據(jù)科學應用中，數(shù)據(jù)工程師可以利用Spark進行數(shù)據(jù)分析與建模，由于Spark具有良好的易用性，數(shù)據(jù)工程師只需要具備一定的SQL語言基礎、統(tǒng)計學、機器學習等方面的經(jīng)驗，以及使用Python、Matlab或者R語言的基礎編程能力，就可以使用Spark進行上述工作。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-12 |傳智教育 |Spark,大數(shù)據(jù),數(shù)據(jù)處理

  • 

    Watch機制的通知狀態(tài)與事件類型簡介

    同一個事件類型在不同的連接狀態(tài)中代表的含義有所不同，當客戶端斷開連接，這時客戶端和服務器的連接就是Disconnected狀態(tài)，說明連接失敗；當客戶端和服務器的某一個節(jié)點建立連接，并完成一次version、zxid的同步，這時客戶端和服務器的連接狀態(tài)就是SyncConnected，說明連接成功； 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-11 |傳智教育 |Watch機制的通知狀態(tài)與事件類型簡介

  • 

    Sequence File是什么？簡單介紹幾種文件儲存格式

    Hadoop可以存儲多種文件格式。在存儲結(jié)構(gòu)上，SequenceFile主要由一個Header后跟多條Record組成，Header主要包含了Key classname，value classname，存儲壓縮算法，用戶自定義元數(shù)據(jù)等信息。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2021-03-11 |傳智教育 |Sequence File

  << < 1 2 3 4 5 6 7 8 9 ... 38 > >>