我有一長串我想從ftp站點下載的文件。我使用python執行下載,並使用多處理模塊同時下載4個左右的文件。我希望使用多個處理器的文件下載速度比使用一個線程更快。使用多重處理執行多個下載命令是否有好處?或者一個線程會填充下載帶寬?在多個處理器上下載文件是否有益(增加速度)?
0
A
回答
0
對於其他感興趣的人,我進行這個簡單的測試:
下載從FTP站點18文件,每個文件約114MB,使用(對於兩個獨立的下載嘗試顯示時間)Python的多處理模塊和ftp.retrbinary
下載時間1處理器:14分鐘7.2分鐘
下載時間2處理器:4.0分鐘3.8分鐘
3處理器下載時間:2.5分鐘4.0分鐘
4處理器下載時間:6.0分鐘2.3分鐘
下載速度受到其他幾個因素的影響,但在這個小樣本中,似乎添加了幾個處理器會減少下載多個文件所需的時間。可能是
1
一個線程可能會使您的帶寬飽和。無論如何,您可能想嘗試一下:它可能是FTP服務器通過連接限制其輸出,並使用多個連接來獲取更多資源。
相關問題
- 1. 增加下載速度?
- 2. 增加大文件的加載速度
- 3. 加快文件下載的處理速度從網絡
- 4. Android:加速多個小文件下載
- 5. 如何增加ClickOnce下載速度?
- 6. Cython在CPython + NumPy上沒有速度增益
- 7. 在Grails中是否有Django的上下文處理器?
- 8. Android上的JavaRx:觀察是否有多個文件已下載
- 9. 增加上傳速度(多部分POST)
- 10. 多個@ font-face格式是否會減慢下載速度?
- 11. sdk 11的硬件加速,是否有益於早期版本?
- 12. 下載經理提高下載速度
- 13. 使用多處理來處理圖像,但沒有性能增益與8 cpus
- 14. 增加速度
- 15. 速度增加
- 16. 有多少上下文類加載器有一個EAR?
- 17. Java下載器 - 下載多個文件
- 18. 如何告訴OpenGL上下文是否是硬件加速?
- 19. 下載管理器如何在沒有多個請求的情況下在HTTP上下載大文件?
- 20. show處理器速度
- 21. w3wp處理下載文件
- 22. 開銷是否包含在下載管理器的下載速率描述中?
- 23. 在批處理文件中加速ssh
- 24. 在IBM Worklight JSONStore中是否有處理加載增量同步的API?
- 25. AMD處理器上的幾個pthreads沒有收益?
- 26. 在多處理器上添加事件監聽器。管理器
- 27. 下載管理器 - 限制下載速度
- 28. 是否可以使用three.js .obj文件格式加載器加載多個紋理文件?
- 29. Django上下文處理器
- 30. 在iphone上下載多個文件
。效果會在速度上類似於分段下載...我認爲 – Nullman
它可能。另外:由於您只是在執行I/O綁定任務,因此您可以在這種情況下簡單地使用多線程。 – Bakuriu
當你嘗試時發生了什麼? – Goyo