0
Spark爲兩種常見使用模式提供兩種有限類型的共享變量:廣播變量和累加器,它們是否在Spark Streaming中受支持?Spark Streaming支持共享變量嗎?
Spark爲兩種常見使用模式提供兩種有限類型的共享變量:廣播變量和累加器,它們是否在Spark Streaming中受支持?Spark Streaming支持共享變量嗎?
是的,您可以像平常一樣通過SparkContext
來使用它們。唯一的區別是,你需要從SparkStreamingContext
得到它:
val sparkConf = new SparkConf().setAppName("MyApp")
val ssc = new StreamingContext(sparkConf, Seconds(1))
ssc.sparkContext.broadcast(myValue)
火花流你可能想在某個時候更新該值,要做到這一點,你應該使用unpersist()(或阻塞版本),然後重新播放。