0
我的問題是有多少默認映射器和減速器的工作,一個老闆問我,我說默認映射器4,和減速1,什麼是Sqoop默認映射器默認地圖減少工作?多少映射器和減壓器
我的問題是有多少默認映射器和減速器的工作,一個老闆問我,我說默認映射器4,和減速1,什麼是Sqoop默認映射器默認地圖減少工作?多少映射器和減壓器
Sqoop運行4名映射器在默認情況下並可以用-m
或--num-mappers
標誌覆蓋。
如果要導入的表不包含主鍵或在sqoop
命令中沒有設置--split-by
選項,那麼它必須是單個映射任務。顯式設置-m 1
或--autoreset-to-one-mapper
只運行一個地圖任務。
注意: Sqoop運行Map only作業(沒有reducer)。
在典型的MapReduce工作,映射器將取決於輸入(與他們的FileFormat)的數量和減速器默認爲1
數目對於Distcp
工作崗位,地圖任務的數量將等於文件的數量。
謝謝franklinsijo,但mapreduce.job.maps是2和mapreduce.job.reduces 1在下面的鏈接我看到,https://hadoop.apache.org/docs/r2.7.2/hadoop-mapreduce-client/hadoop -zoomreduce-client-core/mapred-default.xml –
reduce屬性將被使用(reducers的數量默認爲1),而maps屬性將被inputsplits的數量覆蓋。 – franklinsijo