第七色在线视频,2021少妇久久久久久久久久,亚洲欧洲精品成人久久av18,亚洲国产精品特色大片观看完整版,孙宇晨将参加特朗普的晚宴

為了賬號(hào)安全,請(qǐng)及時(shí)綁定郵箱和手機(jī)立即綁定
已解決430363個(gè)問題,去搜搜看,總會(huì)有你想問的

Spark中執(zhí)行transformation和action的區(qū)別

Spark中執(zhí)行transformation和action的區(qū)別

郎朗坤 2018-11-26 17:00:44
Spark中執(zhí)行transformation和action的區(qū)別
查看完整描述

1 回答

?
泛舟湖上清波郎朗

TA貢獻(xiàn)1818條經(jīng)驗(yàn) 獲得超3個(gè)贊

從運(yùn)行層面來看,Transformation實(shí)際上是一種鏈?zhǔn)降倪壿婣ction,記錄了RDD演變的過程。Action則是實(shí)質(zhì)觸發(fā)
Transformation開始計(jì)算的動(dòng)作,由于在每個(gè)Transformation的過程中都有記錄,所以每個(gè)RDD是知道上一個(gè)RDD是怎樣轉(zhuǎn)變?yōu)?br/>當(dāng)前狀態(tài)的,所以如果出錯(cuò)就可以很容易的重新演繹計(jì)算過程。
Transformation和Actions操作概況Transformation具體內(nèi)容
map(func) :返回一個(gè)新的分布式數(shù)據(jù)集,由每個(gè)原元素經(jīng)過func函數(shù)轉(zhuǎn)換后組成
filter(func) : 返回一個(gè)新的數(shù)據(jù)集,由經(jīng)過func函數(shù)后返回值為true的原元素組成
*flatMap(func) : 類似于map,但是每一個(gè)輸入元素,會(huì)被映射為0到多個(gè)輸出元素(因此,func函數(shù)的返回值是一個(gè)Seq,而不是單一元素)
flatMap(func) : 類似于map,但是每一個(gè)輸入元素,會(huì)被映射為0到多個(gè)輸出元素(因此,func函數(shù)的返回值是一個(gè)Seq,而不是單一元素)
sample(withReplacement, frac, seed) :
根據(jù)給定的隨機(jī)種子seed,隨機(jī)抽樣出數(shù)量為frac的數(shù)據(jù)
union(otherDataset) : 返回一個(gè)新的數(shù)據(jù)集,由原數(shù)據(jù)集和參數(shù)聯(lián)合而成
groupByKey([numTasks]) :
在一個(gè)由(K,V)對(duì)組成的數(shù)據(jù)集上調(diào)用,返回一個(gè)(K,Seq[V])對(duì)的數(shù)據(jù)集。注意:默認(rèn)情況下,使用8個(gè)并行任務(wù)進(jìn)行分組,你可以傳入numTask可選參數(shù),根據(jù)數(shù)據(jù)量設(shè)置不同數(shù)目的Task
reduceByKey(func,
[numTasks]) :
在一個(gè)(K,V)對(duì)的數(shù)據(jù)集上使用,返回一個(gè)(K,V)對(duì)的數(shù)據(jù)集,key相同的值,都被使用指定的reduce函數(shù)聚合到一起。和groupbykey



查看完整回答
反對(duì) 回復(fù) 2018-12-16
  • 1 回答
  • 0 關(guān)注
  • 826 瀏覽

添加回答

舉報(bào)

0/150
提交
取消
微信客服

購課補(bǔ)貼
聯(lián)系客服咨詢優(yōu)惠詳情

幫助反饋 APP下載

慕課網(wǎng)APP
您的移動(dòng)學(xué)習(xí)伙伴

公眾號(hào)

掃描二維碼
關(guān)注慕課網(wǎng)微信公眾號(hào)