spark-shell和scala CLI客戶端提供類似的功能;他們之間有什麼區別嗎?spark-shell和scala CLI客戶端是否有區別?
1
A
回答
1
我認爲可以公平地說,Spark REPL是Scala REPL的一個功能超集。幾乎所有你可以在Scala REPL中做的事情都可以在Spark REPL中完成(當然Scala REPL不能完成Spark REPL能做的所有事情)。
但是,在實施方面,兩者完全不同。 Spark需要能夠在一組分佈的驅動程序上運行,因此它與Scala REPL的操作非常不同(this post擴展了一些技術差異)。
3
Spark-shell重用了最新的Scala REPL來減少代碼維護; REPL對片段的包裝方式進行了一些更改以適應Spark。 (Cf -Yrepl-class-based
)
但是,仍然存在一些錯誤,尤其是與包裝或模板時使用導入歷史記錄有關的問題。
https://issues.scala-lang.org/browse/SI-9799
0
火花殼是一個命令行接口來分析火花簇交互支持Scala的數據。類似spark-shell,Spark有Python的pyspark外殼。它提供了一個特殊對象Sparkcontext(sc)與Spark集羣進行交互。
Scala cli是一個交互式命令行界面,用於嘗試Scala命令。它用於快速檢查Scala命令/ api。
如果要使用Scala分析Spark數據,請轉至Spark shell,並且如果您想嘗試一些Scala命令以用於Spark cli
相關問題
- 1. Django客戶端和Extranet用戶區別
- 2. Netbeans IDE中的CLI客戶端和Svnkit客戶端是什麼?
- 3. Keycloak中客戶端ID和客戶端ID之間的區別
- 4. Oracle lnstant客戶端和Oracle客戶端之間的區別
- 5. solr PHP客戶端有什麼區別?
- 6. 服務器和客戶端的區別
- 7. MDI客戶端,MDI容器和MDI父級之間是否有區別?
- 8. 客戶端和客戶端在Django TestCase中的區別究竟是什麼?
- 9. 服務器端和客戶端呈現有什麼區別?
- 10. UDP端點和UDP客戶端有什麼區別?
- 11. 客戶和用戶有什麼區別?
- 12. Socket.io Scala客戶端
- 13. $ @和$ $是否有區別?
- 14. //和m //是否有區別?
- 15. SVN客戶端和API之間的主要區別是什麼?
- 16. MySQL服務器和MySQL客戶端之間有什麼區別
- 17. 客戶端緩存和服務器緩存有什麼區別
- 18. socket.io客戶端中的'reconnection'和'forceNew'有什麼區別?
- 19. Scala:方法參數String *和Array [String]之間是否有區別
- 20. 應用程序客戶端和獨立客戶端之間的區別
- 21. ClearCase遠程客戶端CLI?
- 22. 是否有客戶端JavaScript mimetype庫?
- 23. 是否有Python ebXML客戶端?
- 24. 是否有Erlang BERT-RPC客戶端?
- 25. 客戶端和用戶代理之間的區別
- 26. Oauth2是否有任何Php客戶端?
- 27. 是否有Expression Blend的SVN客戶端?
- 28. 是否有Kafka Connect Python客戶端?
- 29. Mondrian是否有本地客戶端?
- 30. 是否有PouchDB的GUI客戶端?