2016-11-13 54 views
0

我想提交一個pyspark task。還有一些.py文件位於不同的文件夾中。特別是我想把配置文件和常用工具放在一個文件夾中。但是當我提交一個pyspark任務時,我只知道--py-files param,所以如何提交文件夾?我的代碼結構喜歡:pyspark:如何提交依賴文件和文件夾?

--conf folder 
| --origin.conf 
| --scenes.conf 
--tools folder 
| --utils.py 
| --vali.py 
-- other fodlsers... 
+0

你試圖做什麼?什麼失敗了? – Yaron

+0

你必須創建一個包含所有東西的zip – BlackBear

+0

@Yaron例如,文件夾data_analysis中的文件--plot_distribution.py--具有語句 - 來自工具import utils - ,哪些工具也是一個文件夾。其他py文件也依賴於utils.py,所以我想提交文件夾不僅僅是文件。 –

回答

3
  • 創建Python package來組織代碼
  • 壓縮包或創建egg file
  • 提交您的應用程序通過雞蛋或zip文件--py-files/sc.pyFiles
相關問題