1
我有一個基於C++的MapReduce作業,我正在使用Hadoop流。如何在Hadoop流中爲每個節點設置最大數量的reducer?
但是,即使在命令行配置中將它們設置爲18
爲mapred.tasktracker.reduce.tasks.maximum=18
,但每個節點的最大減速器數最多爲7
;
是否有其他方法阻止減速器發出更多減速任務?
我有一個基於C++的MapReduce作業,我正在使用Hadoop流。如何在Hadoop流中爲每個節點設置最大數量的reducer?
但是,即使在命令行配置中將它們設置爲18
爲mapred.tasktracker.reduce.tasks.maximum=18
,但每個節點的最大減速器數最多爲7
;
是否有其他方法阻止減速器發出更多減速任務?
修改mapred.tasktracker.reduce.tasks.maximum
屬性後,是否重新啓動羣集中的任務跟蹤器?您應該能夠進入Job Tracker web ui頁面並確認每個任務跟蹤器現在都配置了18個減速機插槽