映射器和地圖任務之間有什麼區別? 同樣,減速和減少任務? 另外,在執行mapreduce任務期間,mappers,maptasks,reducer,reducetasks的數量是多少? 給他們之間的相互關係,如果有的話。Hadoop基礎:地圖任務映射器的數量減少任務減速器
1
A
回答
1
簡單地圖任務是Mapper的一個實例。 Mapper和Reducer是mapreduce作業中的方法。
當我們運行mapreduce作業時,產生的地圖任務數量取決於輸入中的數字塊(塊的數量取決於輸入分割)。但是,reduce任務的數量可以在mapreduce驅動程序代碼中指定。它可以通過在作業配置對象中設置屬性mapred.reduce.tasks來指定,也可以使用org.apache.hadoop.mapreduce.Job#setNumReduceTasks(int reducerCount);
方法。
在舊的JobConf API setNumMapTasks()
方法在那裏。但是在新的API org.apache.hadoop.mapreduce.Job
中刪除了setNumMapTasks()
方法,映射器數量的內涵應根據輸入拆分進行計算。
相關問題
- 1. 分離Hadoop映射並減少任務
- 2. 完成減少任務後Hadoop - 映射任務繼續
- 3. 減少任務和減速器之間的區別
- 4. 在hadoop中,如何減少任務從地圖任務中拉數據
- 5. YARN - 可以在容器中運行的映射/減少任務的數量
- 6. hadoop如何減少任務處理地圖分組數據
- 7. Hadoop數量的減速器
- 8. 地圖和減少任務的排序
- 9. Hadoop減少任務停留在0%
- 10. Apache hadoop map減少任務凍結
- 11. Hadoop本地模式:映射器和縮減器的數量
- 12. XML文件輸入映射/減少Hadoop Windows服務器
- 13. Hadoop在地圖任務完成前減少
- 14. Hadoop Pipes:如何通過大數據記錄來映射/減少任務
- 15. 與簡單的hadoop映射苦苦掙扎減少代碼任務
- 16. Hadoop Streaming作業中並行映射器任務的數量
- 17. 可以將任務和減少任務映射到同一個節點嗎?
- 18. Hadoop將數據從映射器減少到組合器
- 19. 默認地圖減少工作?多少映射器和減壓器
- 20. Hadoop流式縮減器映射器
- 21. 當有更少的減少任務時,Hadoop減少會變得更慢
- 22. 運行映射從另一個java進程減少任務
- 23. Hadoop映射器和減速器值類型不匹配錯誤
- 24. Hadoop的 - 地圖-減少 - java.lang.NoClassDefFoundError
- 25. hadoop-streaming:在待處理狀態下減少任務說「沒有空間來減少任務」。
- 26. 將數據寫入Cassandra Hadoop映射器(不減少)
- 27. Hadoop的 - 增加XML映射任務不增加地圖的任務時運行
- 28. 儘量減少控制器責任
- 29. 使用Hadoop和HBase減少一個映射然後減少
- 30. Hadoop排序映射並減少鍵值
可以使用mapred.map.tasks和setNumMapTasks來指定mappers的數量嗎? – user3458106
我也修改了答案 – sachin
,我如何檢查爲特定工作運行的mappers/redurs任務的實際數量? – user3458106