一個頁面包含指向一組.zip文件的鏈接,這些文件都是我想要下載的。我知道這可以通過wget和curl完成。它是如何完成的?如何使用wget/curl下載指定網頁上的.zip文件的所有鏈接?
50
A
回答
83
的命令是:
wget -r -np -l 1 -A zip http://example.com/download/
選項的含義:
-r, --recursive specify recursive download.
-np, --no-parent don't ascend to the parent directory.
-l, --level=NUMBER maximum recursion depth (inf or 0 for infinite).
-A, --accept=LIST comma-separated list of accepted extensions.
47
以上解決方案並不爲我工作。 對我來說,只有這一個工程:
wget -r -l1 -H -t1 -nd -N -np -A.mp3 -erobots=off [url of website]
選項的含義:
-r recursive
-l1 maximum recursion depth (1=use only this directory)
-H span hosts (visit other hosts in the recursion)
-t1 Number of retries
-nd Don't make new directories, put downloaded files in this one
-N turn on timestamping
-A.mp3 download only mp3s
-erobots=off execute "robots.off" as if it were a part of .wgetrc
+1
來源:http://www.commandlinefu.com/commands/view/12498/download-all-music-files-off-of-a-website-using-wget –
+0
是的,謝謝!我不記得它來自哪裏,只是躺在我的腳本中。 –
+0
不知道對不起。提出新的問題! ;) –
1
對於其他方案有一些平行的魔法我用:
curl [url] | grep -i [filending] | sed -n 's/.*href="\([^"]*\).*/\1/p' | parallel -N5 wget -
相關問題
- 1. 使用Python下載網頁上的所有鏈接(相關文檔)
- 2. 鏈接下載JSF中的zip文件
- 3. 如何使用python從網頁下載.zip文件?
- 4. 使用wget在頁面上下載所有hulkshare/mediafire鏈接的文件
- 5. 我有一個網站的鏈接如何從網站下載所有文件?
- 6. 如何使網頁上的所有鏈接調用javascript函數?
- 7. 從網站上的鏈接下載網站上的jar文件
- 8. 該腳本將特定的attr應用於網站上的所有鏈接。如何排除PDF和ZIP文件?
- 9. 顯示網頁上的所有鏈接
- 10. jquery DomWindow網頁上的所有鏈接
- 11. 使用Python下載.json文件中的所有鏈接
- 12. ZIP的所有文件目錄和下載的.zip產生
- 13. 如何下載文件夾中列A中的所有鏈接?
- 14. 如何使用angularjs下載zip文件
- 15. 如何使用PHP下載.zip文件
- 16. 如何使用下載鏈接下載帶節點的文件?
- 17. 將所有文件下載爲zip
- 18. 使用R從網頁上刮取可下載文件的鏈接地址?
- 19. 下載鏈接從所有的PDF在網頁中
- 20. 如何列出指定目錄中的所有zip文件?
- 21. 點擊網頁鏈接下載應用程序內的文件。
- 22. Python在網頁上找到文件下載鏈接
- 23. 如何使用perl獲取網頁中的所有鏈接?
- 24. 將網頁中的所有文件加載到網頁上ASP.NET
- 25. 下載文件中使用的鏈接
- 26. 如何使用wget將大量zip文件下載到網址
- 27. 如何根據網頁上的鏈接從網頁下載圖片?
- 28. 如何從html鏈接抓取並下載所有pdf文件?
- 29. 如何使用R從下載鏈接下載文件
- 30. 如何查找網站上的所有鏈接/頁面
的'-nd'(無目錄)如果您不想創建任何額外的目錄(即,所有文件都將位於根文件夾中),則標誌很方便。 –
如何調整此解決方案以使其從給定頁面更深入?我嘗試了-l 20,但wget馬上停下來。 – Wrench