2
使用AWS-CLI將數據同步到S3中的空目錄時,它幾乎是即時的。但是,在同步到大型目錄(數百萬個文件夾)時,即使開始上載/同步文件也需要很長時間。當複製到大型目錄時,AWS S3 Sync非常慢
有沒有其他方法?看起來它試圖在同步之前考慮到S3目錄中的所有文件 - 我不需要它,上傳數據時沒有事先檢查就沒問題。
使用AWS-CLI將數據同步到S3中的空目錄時,它幾乎是即時的。但是,在同步到大型目錄(數百萬個文件夾)時,即使開始上載/同步文件也需要很長時間。當複製到大型目錄時,AWS S3 Sync非常慢
有沒有其他方法?看起來它試圖在同步之前考慮到S3目錄中的所有文件 - 我不需要它,上傳數據時沒有事先檢查就沒問題。
sync
命令將需要枚舉存儲桶中的所有文件,以確定存儲桶中是否存在本地文件,以及它是否與本地文件相同。您擁有的文件越多,所需時間就越長。
如果您不需要這個sync
行爲只是使用遞歸複製命令,如:
aws s3 cp --recursive . s3://mybucket/
,這應該在當前目錄中複製所有的本地文件,以在S3桶。
優秀,解決了它 - 沒有更多的等待時間開始上傳! –
這聽起來像預期的行爲。 –
將100mb同步到一個新的目錄幾乎沒有時間,但同步到高度使用的目錄可能需要幾個小時 - 希望有一個替代方案! –