全部 大數(shù)據(jù)新聞動(dòng)態(tài) 大數(shù)據(jù)技術(shù)文章 大數(shù)據(jù)常見問(wèn)題 技術(shù)問(wèn)答

• • 

    RDD有什么特征？

    RDD( Resilient Distributed Dataset，彈性分布式數(shù)據(jù)集)，是一個(gè)容錯(cuò)的、并行的數(shù)據(jù)結(jié)構(gòu)，可以讓用戶顯式地將數(shù)據(jù)存儲(chǔ)到磁盤和內(nèi)存中，并且還能控制數(shù)據(jù)的分區(qū)。對(duì)于迭代式計(jì)算和交互式數(shù)據(jù)挖掘，RDD可以將中間計(jì)算的數(shù)據(jù)結(jié)果保存在內(nèi)存中，若是后面需要中間結(jié)果參與計(jì)算時(shí)，則可以直接從內(nèi)存中讀取，從而可以極大地提高計(jì)算速度。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-22 |傳智教育 |RDD特征

  • 

    win10下載安裝Scala及環(huán)境變量配置教程【親測(cè)生效】

    Scala語(yǔ)言可以在Windows、Linux、Mac OS等系統(tǒng)上編譯運(yùn)行。由于Scala是運(yùn)JVM平臺(tái)上的，所以安裝Scala之前必須配置好JDK環(huán)境(JDK版本要求不低于1.5)。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-22 |黑馬程序員 |win10下載安裝Scala,Scala環(huán)境變量配置

  • 

    RDD為什么要進(jìn)行數(shù)據(jù)持久化？持久化操作步驟

    在Spark中，RDD是采用惰性求值，即每次調(diào)用行動(dòng)算子操作，都會(huì)從頭開始計(jì)算。然而，每次調(diào)用行動(dòng)算子操作，都會(huì)觸發(fā)一次從頭開始的計(jì)算，這對(duì)于迭代計(jì)算來(lái)說(shuō)，代價(jià)是很大的，因?yàn)榈?jì)算經(jīng)常需要多次重復(fù)的使用同一組數(shù)據(jù)集，所以，為了避免重復(fù)計(jì)算的開銷，可以讓Spark對(duì)數(shù)據(jù)集進(jìn)行持久化。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-22 |傳智教育 |RDD數(shù)據(jù)持久化操作,持久化機(jī)制,RDD,Spark

  • 

    如何遠(yuǎn)程登錄Hadoop虛擬機(jī)和開啟SSH服務(wù)？

    完成虛擬機(jī)的安裝和網(wǎng)絡(luò)配置，雖然可以正常使用，但是工作中還需要遠(yuǎn)程操縱服務(wù)器進(jìn)行各項(xiàng)操作，所以就需要對(duì)虛擬機(jī)實(shí)行配置遠(yuǎn)程登錄和SSH免密登錄，進(jìn)行相關(guān)操作。接下來(lái)，就分別對(duì)這兩種服務(wù)配置進(jìn)行說(shuō)明和詳細(xì)講解。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-22 |傳智教育 |Hadoop虛擬機(jī),SSH服務(wù),遠(yuǎn)程登錄虛擬機(jī)

  • 

    如何使用HBase分布式數(shù)據(jù)庫(kù)？常見的Java API類型有幾種？

    HBase是由Java語(yǔ)言開發(fā)的，它對(duì)外提供了Java API的接口。接下來(lái)，通過(guò)Java API來(lái)操作HBase分布式數(shù)據(jù)庫(kù)，包括增、刪、改以及查等對(duì)數(shù)據(jù)表的操作，具體操作步驟如下： 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-22 |傳智教育 |HBase的Java API操作步驟,常見的Java API

  • 

    RDD是如何操作數(shù)據(jù)轉(zhuǎn)換的？RDD轉(zhuǎn)換算子API示例

    RDD處理過(guò)程中的“轉(zhuǎn)換”操作主要用于根據(jù)已有RDD創(chuàng)建新的RDD，每一次通過(guò)Transformation算子計(jì)算后都會(huì)返回一個(gè)新RDD，供給下一個(gè)轉(zhuǎn)換算子使用。面，我們通過(guò)結(jié)合具體的示例對(duì)這些轉(zhuǎn)換算子API進(jìn)行詳細(xì)講解。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-21 |傳智教育 |RDD,轉(zhuǎn)換算子,RDD數(shù)據(jù)處理

  • 

    Scala語(yǔ)言是什么？有什么特點(diǎn)？如何安裝？

    Scala于2001年由瑞士洛桑聯(lián)邦理工學(xué)院(EPFL)編程方法實(shí)驗(yàn)室研發(fā)，它由Martin Odersky(馬丁·奧德斯基)創(chuàng)建。目前，許多公司依靠Java進(jìn)行的關(guān)鍵性業(yè)務(wù)應(yīng)用已轉(zhuǎn)向或正在轉(zhuǎn)向Scala，以提高應(yīng)用程序的可擴(kuò)展性和整體的可靠性，從而提高開發(fā)效率。Scala是Scalable Language的簡(jiǎn)稱，它是一門多范式的編程語(yǔ)言，其設(shè)計(jì)初衷是實(shí)現(xiàn)種可擴(kuò)展的語(yǔ)言，并集成面向?qū)ο缶幊毯秃瘮?shù)式編程的各種特性?；谶@個(gè)目標(biāo)與設(shè)計(jì)，Scala具有以下顯著的特性。 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-21 |傳智教育 |Scala語(yǔ)言是什么,Scala特點(diǎn)

  • 

    怎樣使用Spark Shell來(lái)讀取HDFS文件？

    使用Scala語(yǔ)言開發(fā)單詞計(jì)數(shù)Spark程序，現(xiàn)有文本文件words.txt(讀者需要在本地創(chuàng)建文件并上傳至指定目錄)在HDFS中的/spark/test路徑下如果使用Spark Shell來(lái)讀取HDFS中的/spark/test/ words.txt文件，具體步驟如下： 查看全文>>

    大數(shù)據(jù)技術(shù)文章2020-12-21 |傳智教育 |Shell讀取文件,運(yùn)行Spark

  << < 1 2 3 4 5 6 7 8 9 ... 38 > >>