我們的系統有5個主機的集羣(例如,數據節點或計算機從屬...)。現在,我想分配不同數量的這些主機的reducer,因爲1主機很慢。 。我們正在使用Hadoop紗線。資源管理器(MapReduce1中所謂的Job跟蹤器)始終將減少器的數量均勻分配給5臺主機。無論如何,我可以限制特定主機的減速器數量嗎?例如,我想要的是一個有40個減速器的工作,4個快速計算機有36個減速器(例如,每個主機有9個減速器),而慢速計算機只有4個減速器。我們如何分配不同數量的異構集羣減速器?
1
A
回答
1
在hadoop集羣中有異構系統是完全可能的和普遍的現象。通常,隨着集羣不斷變大並因此水平擴展,不同配置的新節點會被添加到集羣中。
在這種情況下,爲了使配置適用於特定節點或一組節點,我們需要在這些主機上相應地修改配置。
例如,在通過Ambari管理集羣的Hortonworks Data Platform的情況下,可以利用主機配置組的概念實現此目的。
請參閱下面的鏈接瞭解詳細信息:
另請參見下面的鏈接,其中討論的是在節點級增加紗線的集裝箱數量。它仍然是相同的,你的情況爲好,這是有討論的用例的反面:
How to increase the number of containers in nodemanager in YARN
另一個有用的鏈接:
http://hortonworks.com/blog/how-to-plan-and-configure-yarn-in-hdp-2-0/
相關問題
- 1. 如何根據集羣中處理節點的數量設置運行時減速器的數量
- 2. Hadoop數量的減速器
- 3. 爲什麼Redux不將我的動作分配給減速器?
- 4. 如何在pyspark中設置拆分和減速器的數量
- 5. 獲取集羣層次結構和嵌套集羣分配
- 6. ntfs集羣分配
- 7. 集羣3D分爲不同的部分
- 8. 如何分配標籤集羣MATLAB
- 9. HDFS集羣的一些數據節點而減速運行
- 10. 我可以將序號分配給減速器中的記錄
- 11. akka集羣感知路由器和akka集羣分片的不同用例?
- 12. 如何簡單分配不同結構的向量?
- 13. 同步Ambari羣集配置
- 14. 如何確保nodejs集羣將進程分配給不同的內核?
- 15. Kubernetes 1.2a:我們如何將不同類型的AWS實例添加到我們的集羣
- 16. 減:分配變量?
- 17. 用於異構Hadoop集羣的HDFS中的數據分佈和分佈
- 18. 如何將數據從CDH3羣集遷移到(不同的)CDH4羣集?
- 19. mysql集羣自動增量不同步
- 20. 如何在集羣中對不同的緩存進行分組
- 21. 如何設置自定義分配器中每個減速器的輸出文件數量
- 22. 使用集羣數據庫的NService總線分配器
- 23. 如何將減少分區放入hadoop集羣中設計的機器?
- 24. Hadoop減速器數量配置選項優先級
- 25. 使用不同大小的羣集羣
- 26. 在異構YARN羣集中配置NodeManager內存和v核心?
- 27. 在異構集羣上運行Riak
- 28. 在異構集羣上運行MongoDB
- 29. mysql羣集如何在速度上匹配redis?
- 30. 什麼決定減速器的數量以及如何避免減速器的瓶頸?