嗨,我正在學習hadoop,我有一個簡單的愚蠢問題:在我關閉HDFS(通過調用hadoop_home/sbin/stop-dfs.sh)後,HDFS上的數據丟失了還是可以恢復?如果你停止HDFS關閉hadoop HDFS後數據丟失了?
1
A
回答
7
的數據不會丟失,只要你NameNode和DataNode會的數據存儲在持久位置使用的屬性所指定:
dfs.namenode.name.dir
- >確定,其中在本地文件系統的DFS名稱節點應該存儲名稱表(fsimage)。如果這是一個以逗號分隔的目錄列表,則名稱表將被複制到所有目錄中,以實現冗餘。默認值:file://${hadoop.tmp.dir}/dfs/name
dfs.datanode.data.dir
- >確定本地文件系統上DFS數據節點應該存儲其塊的位置。如果這是以逗號分隔的目錄列表,則數據將存儲在所有已命名的目錄中,通常位於不同的設備上。不存在的目錄被忽略。默認值:file://${hadoop.tmp.dir}/dfs/data
正如你可以看到,這兩個屬性的默認值指向${hadoop.tmp.dir}
默認爲/tmp
。您可能已經知道基於Unix的系統中的/tmp
中的數據在重新引導時被清除。
因此,如果您要指定除/tmp
之外的dir位置,則重啓時的Hadoop HDFS守護程序將能夠讀回數據,因此即使在羣集重新啓動時也不會丟失數據。
0
請確定你是不是刪除存儲在HDFS數據的元數據,這可以簡單地實現,如果你保持dfs.namenode.name.dir
和dfs.datanode.data.dir
untouced,是指不刪除路徑存在於目前在hdfs-site.xml
文件中的這些標籤。
相關問題
- 1. 關閉仿真器後數據庫丟失數據
- 2. 當Hadoop集羣關閉時,數據是否保留在HDFS中?
- 3. 數據版本(Hadoop,HDFS,Hbase後端)
- 4. 關閉wifi後關閉Tizen可穿戴傳感器數據丟失
- 5. Android listView滾動後丟失了數據
- 6. 應用程序關閉後丟失數據/文件Xamarin表單
- 7. Sql Server 2008在數據庫丟失後關閉連接
- 8. 關閉應用程序後SQL Server緊湊型數據丟失
- 9. 瀏覽器關閉後localStorage數據丟失
- 10. 關閉ssh終端後模板丟失
- 11. Hadoop - HDFS Namenode元數據 - FSImage
- 12. 寫AVRO數據到Hadoop hdfs
- 13. 從hadoop hdfs數據搜索
- 14. Hadoop HDFS依賴關係
- 15. POST後丟失ViewModel數據
- 16. 的mod_rewrite後數據丟失
- 17. 丟失後數據用jQuery
- 18. 做session.invalidate後丟失數據
- 19. 核心數據在退出應用後丟失關係數據
- 20. 瞭解更多的Hadoop/HDFS數據加載
- 21. 嵌入式文件系統中的數據丟失關閉系統後的UBIFS
- 22. Hadoop操作關閉節點
- 23. 連接關閉時可能會丟失數據
- 24. Cordova - 關閉通知會丟失它裏面的數據
- 25. 頁面刷新彈出關閉並丟失頁面數據
- 26. Akka流 - 關閉流與分組,而不會丟失數據
- 27. Phonegap jQueryMobile問題:在關閉時丟失數據
- 28. 關閉應用程序時數據丟失
- 29. 離開後.get數組丟失數據
- 30. 重新連接後TCP數據丟失。