2017-10-20 65 views
0

我是AWS新手。我正在嘗試使用批處理來分析一堆文件。如果我有一個Docker鏡像來安裝我的分析程序,那麼在批處理作業中使用I/O的建議方式是什麼?Amazon批處理 - 來自s3的輸入文件

  1. 有沒有辦法使用通用程序訪問S3文件?

    /bin/cd-hit -i <s3bucket/input> -o <s3bucket/output.txt>

  2. 或者做人流在作業定義使用Amazon的彈性文件系統掛載爲卷,然後訪問文件呀?

回答

1
  1. 是否有訪問與通用程序S3文件的方法嗎?

是的。

  • 或做的人使用亞馬遜彈性文件系統,在作業定義安裝體積,然後訪問文件的方式?
  • 這也是可能的,即使它是更好的考慮S3作爲一個鍵值存儲和編寫多線程代碼訪問S3在時尚。

    +1

    此外,EFS更昂貴。 –

    +0

    是的,但使用s3cmd,文件仍然需要存儲在某個地方,以便輸入到程序中。所以你必須把它複製到某個地方。人們是否只使用通用卷,在那裏複製輸入文件,然後用s3cmd將輸出寫入s3? – jwillis0720

    +0

    @ jwillis0720是的,通常會將其複製到本地臨時位置 – Istvan

    相關問題