2
我打算在Spark中保存一些數據幀/表來緩存。我想知道有多少數據幀/表被緩存?如何檢查Spark中緩存數據幀/ rdds /表的列表?
我打算在Spark中保存一些數據幀/表來緩存。我想知道有多少數據幀/表被緩存?如何檢查Spark中緩存數據幀/ rdds /表的列表?
可以通過Spark UI的存儲選項卡或通過REST API查看緩存的RDD/Dataframe的詳細信息。
你可以按照Brian的說法。根據Pyspark,它沒有像Scala API這樣的'sc.getPersistentRDDs
'方法。
您可以跟蹤問題here