2016-12-26 90 views
1

可以設置spark.driver.memoryspark.executor.memory和被描述爲如下:什麼是內存?*。內存屬性控制 - 內存或磁盤?

spark.driver.memory 1g Amount of memory to use for the driver process 

spark.executor.memory 1g Amount of memory to use per executor process (e.g. 2g, 8g). 

上述配置存儲器說。那麼它是RAM內存還是磁盤?

+0

100%陽性當字存儲器任何編程相關的文獻中被提及,它總是指系統,這是RAM的主存儲器,並且如果長期存儲驅動器涉及使用詞語磁盤 – Dummy

回答

1

(我必須承認這是一個非常有趣的問題)

不久,它的RAM(和誠實星火不支持磁盤作爲一種資源來接受來自集羣管理器/請求)。

從官方文檔Application Properties

的內存量要用於驅動過程中,即,其中SparkContext被初始化。 (例如1g,2g)。

注意:在客戶端模式下,不能通過應用程序中的SparkConf直接設置此配置,因爲此時驅動程序JVM已經啓動。相反,請通過--driver-memory命令行選項或在您的默認屬性文件中進行設置。