我一直在Scala中使用Spark。我現在正在研究pySpark和SparkR。我沒有看到爲PySpark和SparkR提到的流式傳輸。是否有人知道在使用Python和R時是否可以使用Spark流?sparkR流媒體?
1
A
回答
4
Spark現在支持1.3中的pySpark流媒體。並且可以在https://github.com/hlin09/spark/tree/SparkR-streaming中找到SparkR流的實現。
1
目前(自Spark 1.1起),Spark Streaming僅在Scala & Java中受支持。如果您想要使用特定的R程序或Python程序,則可以查看RDD上的管道接口以及DStream上的轉換函數。這有點尷尬,但它可能是目前在Spark Streaming中使用Python或R代碼最簡單的方法。
0
sparkR流不可用,直到最新版本的Apache 2.1.1火花
但我們可以用sparkR流從GitHub使用MVN
https://github.com/hlin09/spark/tree/SparkR-streaming
構建火花,那麼你就可能把做sparkR流媒體。
相關問題
- 1. 用nginx流媒體(流暢流媒體)
- 2. 在wowza媒體流安全流媒體
- 3. Youtube流媒體
- 4. 流媒體到Adobe媒體服務器
- 5. Android媒體播放器流媒體
- 6. 通過udp流媒體h264/aacplus媒體
- 7. 流媒體直播Icecast流
- 8. Twitter流媒體API
- 9. ReadTimeoutError:Twitter流媒體API
- 10. Android MediaRecorder流媒體
- 11. 流媒體元素
- 12. 流媒體長度
- 13. 流媒體視頻
- 14. 流媒體視頻達爾文流媒體服務器問題
- 15. Android上的PHP媒體流
- 16. 避免420流媒體API?
- 17. 保存媒體流過濾
- 18. PetitFS流媒體閱讀
- 19. twitter4j流媒體推文
- 20. iOS流媒體MP3文件
- 21. 流媒體音頻文件
- 22. 流媒體Tweet搜索TweetSharp
- 23. Gstreamer中的Adtive流媒體
- 24. HLS Nginx和流媒體
- 25. Android中的流媒體.asx
- 26. WCF流媒體文件
- 27. Android VideoView流媒體問題
- 28. 流媒體攝像頭rtmp
- 29. iPhone音頻流媒體
- 30. VLC麻煩流媒體
Spark Streaming的Python支持應該很快添加!有一個開放的拉請求:https://github.com/apache/spark/pull/2538 – 2014-10-01 00:50:19