2014-12-26 58 views
7

由於YARN負責管理Hadoop應用程序的資源,如內核和進程,是否允許創建新線程的YARN應用程序?Spark/YARN允許多線程嗎?

我主要介紹運行在YARN資源管理器上的Spark應用程序。我知道,如果你創建一個新的線程沒有錯誤,但是,它是安全的嗎?

+0

你是什麼意思創建新主題?我相信Spark支持在YARN上運行,甚至有像num-workers這樣的選項。 – softwarenewbie7331

+0

我的意思是創建「新線程()」並在單個工作人員上運行自定義代碼。我不在乎這是否是最佳做法。 –

回答

5

我回覆我自己。 YARN控制內存和內核等資源,而不是線程。在創建容器時(處理親和性),通過更改操作系統特定參數來控制內核。然後,JVM正在使用指定數量的內核運行,並且可以根據需要創建任意數量的線程。