在僞隨機節點上運行hadoop作業時,任務失敗並被終止。 錯誤:任務嘗試_無法報告601秒的狀態Hadoop作業:任務無法報告601秒的狀態
但是相同的程序正在運行Eclipse(本地作業)。
任務:有大約25K的關鍵字,輸出將是所有可能的組合(每次兩個)即entires
各地25K * 25K什麼可以是問題?
在僞隨機節點上運行hadoop作業時,任務失敗並被終止。 錯誤:任務嘗試_無法報告601秒的狀態Hadoop作業:任務無法報告601秒的狀態
但是相同的程序正在運行Eclipse(本地作業)。
任務:有大約25K的關鍵字,輸出將是所有可能的組合(每次兩個)即entires
各地25K * 25K什麼可以是問題?
由於某種原因,任務在您的僞節點上執行時沒有進展。您可以在mapred-site.xml中增加設置「mapred.task.timeout」。 在mapred-default.xml中相同的默認值是:
<property>
<name>mapred.task.timeout</name>
<value>600000</value>
<description>The number of milliseconds before a task will be
terminated if it neither reads an input, writes
an output, nor updates its status string.
</description>
</property>
出於測試目的/次工作或調試的超時值的增加可能是一個不錯的選擇,但實踐證明這對於生產來說不是一個好的解決方案,您應該查看並優化代碼。
Hadoop提供相同的報告API。如果您沒有向hadoop作業報告進度爲600分鐘的10分鐘,則認爲任務已停止,並且會終止任務。 API參考是Here