更新的hadoop mapred-site.xml中的配置參數/更新下列參數如何無需重新啓動我想補充集羣
<property>
<name>mapred.map.tasks.speculative.execution</name>
<value>false</value>
</property>
在mapred-site.xml中
在Hadoop中。我如何在不重新啓動集羣的情況下執行此操作?
更新的hadoop mapred-site.xml中的配置參數/更新下列參數如何無需重新啓動我想補充集羣
<property>
<name>mapred.map.tasks.speculative.execution</name>
<value>false</value>
</property>
在mapred-site.xml中
在Hadoop中。我如何在不重新啓動集羣的情況下執行此操作?
您可以在作業配置中設置此每項作業。如果您想要全局更改此行爲,則必須重新啓動羣集。沒有重新啓動的情況下無法更改它。
按照Hadoop - The Definitive Guide
注意的是,在客戶端配置設置時,某些屬性沒有任何效果。例如,如果您在作業提交中設置了mapred.tasktracker.map.tasks.maximum,並期望它會更改執行作業的任務管理器的任務槽的數量,那麼您會感到失望,因爲此屬性只有在在tasktracker的mapred-site.xml文件中設置。一般情況下,您可以通過名稱來告訴組件的屬性,因此mapred.tasktracker.map.tasks.maximum以mapred.tasktracker開頭的事實爲您提供了一個線索,它只能爲tasktracker守護程序。然而,這不是一條硬性規定,所以在某些情況下,您可能需要嘗試進行反覆試驗,甚至是閱讀來源。
其中很榮幸在客戶端和特定的工作性質並不需要集羣重啓,但像mapred.tasktracker.map.tasks.maximum另一方面集羣特定的配置需要集羣重新啓動。
如果您使用MRv2(YARN for資源調度),每次提交作業時都會讀取在mapred-site.xml文件中所做的更改,並且所有配置都將保存爲作業配置xml文件(當作業被提交給羣集)。沒有必要重新啓動任何服務。
因此,推測執行屬性僅適用於JobTracker,因此羣集不應該重新啓動? – Julias
不確定 - 嘗試它的最佳方式。 –