2016-08-01 46 views
0

我以前緩存()堅持()數據幀 througout我的應用程序。我想知道是否需要在緩存的每個數據幀上調用unpersist()以釋放當程序結束時佔用的所有內存和磁盤?會引發自動清理這些職業?
謝謝清潔火花緩存數據

回答

2

一旦spark上下文停止,內存將自行釋放。 如果您想在停止上下文之前釋放內存,那麼您必須調用unpersist

+0

當火花上下文結束時,緩存在磁盤上的數據將像內存中的數據一樣被刪除。我對嗎? –

+0

是的,只要火花上下文停止,磁盤上的數據就會被擦除。 –