我使用HDFS和紗線的火花,所以基本上火花在hadoop上運行。我使用yarn-client模式在集羣上運行任務。默認情況下,任務在集羣的數據節點上執行。不過,我也想讓namenode執行一些任務,因爲它一直處於閒置狀態。那麼,是否有可能讓namenode執行一些任務?如果是這樣,怎麼樣?是否可以在Namenode上執行任務?
1
A
回答
2
更具體地說,Spark任務不在Datanodes上運行。在Hadoop上運行Spark時,任務在Hadoop/Yarn集羣上每個從節點上的hadoop/yarn cluster runniong中的執行單元Nodemanagers上執行。但一般在Hadoop中/每個從節點上的紗線簇有兩個過程數據管理部和節點管理器
的Namenode(數據節點的主人)的當量與節點管理器是ResourceManager中(這是nodemanagers的主)
名稱節點/的ResourceManager本身無法執行任何任務,他們只是除非您已經運行的Namenode(或ResourceManager的)在同一臺主機上啓動節點管理器的過程,管理的奴隸(分別爲數據節點和nodemanagers)M的主流程
如果您的意思是NameNode是Namenode進程啓動的物理節點,那麼只要啓動節點,就可以管理器進程。
相關問題
- 1. 是否可以在執行SQL任務上指定超時值?
- 2. mapreduce任務只能在namenode上運行
- 3. 是否可以用一個reducer執行任何mapreduce任務?
- 4. 是否可以在Google App Engine任務隊列中執行任務?
- 5. 執行包任務是否可以執行存儲在TFS中的包?
- 6. ScheduledThreadPoolExecutor是否可以同時執行多個任務?
- 7. 當通過ExecutorCompletionService執行任務時,任務是否並行化?
- 8. 是否可以在AWS中使用lambda任務執行彈性轉儲?
- 9. 是否可以在JPQL中執行JOIN?
- 10. 是否可以在Linux上爲Mac創建可執行文件?
- 11. 是否有可能在C++類上執行任何GUI操作
- 12. 可以在服務器上運行Selenium以自動執行任務,還是需要瀏覽器才能運行
- 13. Python:是否可以逐行執行
- 14. 是否有可能在監視任務後運行任務?
- 15. Hibernate:是否可以在事務提交時自動執行sesssion?
- 16. 是否可以在C#2.0中使用任務並行庫(TPL)?
- 17. 是否可以繼承Luigi任務?
- 18. 是否可以輪詢任務完成?
- 19. C#中的單個任務是否可以在多核系統上並行執行?
- 20. CruiseControl.NET可執行任務
- 21. 是否有可能在遠程服務器上執行ruby-debug?
- 22. 用戶點擊推送通知時是否可以執行某個任務?
- 23. .dispose()方法是否可以執行任何操作?
- 24. Lua是否可以「停止」表中的任何代碼執行?
- 25. 在NAnt上執行並行任務
- 26. Can Capistrano可以連續執行主機上的任務嗎?
- 27. GPU設備上可以同時執行多少任務?
- 28. 是否可以在一張桌子上運行「symfony doctrine build --all」任務?
- 29. 是否有任何可以在所有服務器上運行的Hangfire作業?
- 30. 實習生是否真的可以在任何Selenium服務上運行?