如何將文件從HDFS複製到本地文件系統。文件下沒有文件的物理位置,甚至沒有目錄。我如何將它們移到我的本地進行進一步的驗證。我通過winscp進行了嘗試。如何將文件從HDFS複製到本地文件系統
回答
bin/hadoop fs -get /hdfs/source/path /localfs/destination/path
bin/hadoop fs -copyToLocal /hdfs/source/path /localfs/destination/path
- 將Web瀏覽器來HDFS WEBUI(
namenode_machine:50070
),瀏覽到您要複製的文件,向下滾動頁面,然後點擊下載文件。
爲了從HDFS文件複製到本地文件系統以下命令可以運行:
hadoop dfs -copyToLocal <input> <output>
<input>
:你想要的HDFS目錄路徑(例如/ MYDATA)複製<output>
:目的地目錄路徑(例如〜/文檔)
這似乎不適用於我。它總是說文件未找到。我使用的是具有分區的cloudera的虛擬機實例6.4 – SutharMonil
@SutharMonil你確定該文件實際存在嗎?你可以通過「hadoop fs -ls」瀏覽嗎? –
其他方式的命令是什麼? – NIMISHAN
bin/hadoop fs -put /localfs/destination/path /hdfs/source/path
hdfs dfs -put是將文件從本地FS推送到HDFS的命令。 hdfs dfs -get是正確的選項 – broussea
在Hadoop的2.0,
hdfs dfs -copyToLocal <hdfs_input_file_path> <output_path>
其中,
從
http://<<name_node_ip>>:50070/explorer.html
output_path
也許得到hdfs_input_file_path
是文件,其中該文件將是的本地路徑複製到。你也可以用
get
來代替copyToLocal
。
你可以用這兩種方法來完成。
1.hadoop fs -get <HDFS file path> <Local system directory path>
2.hadoop fs -copyToLocal <HDFS file path> <Local system directory path>
例:
我的文件位於/sourcedata/mydata.txt 我想/用戶/拉維/ MYDATA複製文件到本地文件系統中的這條道路
hadoop fs -get /sourcedata/mydata.txt /user/ravi/mydata/
這在我的Ubuntu的VM實例上工作。
HDFS DFS -copyToLocal [Hadoop的目錄] [本地目錄]
- 1. 如何將文件從本地文件系統複製到HDFS文件系統?
- 2. 從HDFS複製文件到本地文件系統用JAVA
- 3. 如何從本地文件系統自動將zip文件複製到HDFS
- 4. 將內容從HDFS複製到本地文件系統
- 5. 將文件/塊從HDFS複製到從節點的本地文件系統
- 6. OSX - 無法將文件從本地文件系統複製到hdfs
- 7. 無法從本地文件系統複製到HDFS
- 8. 使用Flume將本地文件系統中的文件複製到HDFS
- 9. Hadoop將本地文件複製到HDFS?
- 10. 複製文件從本地到HDFS
- 11. 如何將文件從UNC共享複製到本地系統?
- 12. 將文件系統中的文件(圖像)複製到HDFS
- 13. 如何將文件從本地git複製到服務器文件系統?
- 14. 如何將文件從本地桌面複製到服務器文件系統
- 15. 將本地文件複製到hdfs需要在hdfs集羣上?
- 16. 如何將文件從當地流浪漢複製到本地系統?
- 17. 如何將文件複製到HDFS?
- 18. 將目錄從本地系統複製到hdfs java代碼
- 19. 將文件從HDFS複製到本地計算機
- 20. 將文件從S3增量複製到本地hdfs
- 21. 將文件從FTP複製到HDFS
- 22. 如何將qrc資源文件複製到文件系統中?
- 23. 如何將文件複製到android的文件系統?
- 24. 無法將文件從文件系統複製到IntelliJ IDEA 10.5
- 25. 將文件從本地複製到Hadoop
- 26. 文件系統API - 從本地驅動器上傳到本地文件系統
- 27. HDFS vs LFS - Hadoop Dist。文件系統建立在本地文件系統上?
- 28. 權限在從本地系統將文件從STS java程序複製到HDFS時發生Dennied
- 29. 如何將文件從SD卡複製到系統
- 30. 如何將文件從VirtualBox複製到主機操作系統?
完美塔裏克,我得到了它,**有該文件,甚至沒有目錄下的文件沒有物理位置。**斌/ Hadoop的dfs -ls/use/hadoop/myfolder我可以查看文件,從我得到的信息爲**要檢查文件,可以將它從HDFS複製到本地文件系統**,所以我儘管可以將它們從winscp – Surya
再一次我需要提到tariq,非常感謝您爲您貢獻時間和知識。非常感謝 。你確實支持了很多,這給了像我這樣的新人很多的信心。 – Surya
我明白了。如果您希望查看文件的內容或打開webui上的文件,您實際上可以使用hdfs cat命令。這將使您無法將文件下載到本地fs。不用謝。如果你對問題的答案100%滿意,你可以標記它們,以便其他人可以從中受益。不僅僅是這一個,而是一般。 – Tariq