2012-02-02 48 views
5

在僞隨機節點上運行hadoop作業時,任務失敗並被終止。 錯誤:任務嘗試_無法報告601秒的狀態Hadoop作業:任務無法報告601秒的狀態

但是相同的程序正在運行Eclipse(本地作業)。

任務:有大約25K的關鍵字,輸出將是所有可能的組合(每次兩個)即entires

各地25K * 25K什麼可以是問題?

回答

7

由於某種原因,任務在您的僞節點上執行時沒有進展。您可以在mapred-site.xml中增加設置「mapred.task.timeout」。 在mapred-default.xml中相同的默認值是:

<property> 
    <name>mapred.task.timeout</name> 
    <value>600000</value> 
    <description>The number of milliseconds before a task will be 
       terminated if it neither reads an input, writes 
       an output, nor updates its status string. 
    </description> 
</property> 
2

出於測試目的/次工作或調試的超時值的增加可能是一個不錯的選擇,但實踐證明這對於生產來說不是一個好的解決方案,您應該查看並優化代碼。

2

Hadoop提供相同的報告API。如果您沒有向hadoop作業報告進度爲600分鐘的10分鐘,則認爲任務已停止,並且會終止任務。 API參考是Here

相關問題