我注意到有兩組Hadoop配置參數:一個使用mapred。*,另一個使用mapreduce。 。我猜這些可能是由於舊API與新API有關,但如果我沒有弄錯,這些似乎在新的API中共存。我對麼?如果是這樣,是否有一個廣義的語句是什麼用於mapred。什麼是mapreduce。*?Hadoop配置:mapred。* vs mapreduce。*
8
A
回答
3
檢查0.20.2的源代碼,只有幾個mapreduce.*
屬性,它們圍繞配置作業輸入/輸出格式,映射器/合併器/縮減器和分區器類(它們還向作業客戶端發送新的API被用於由用戶 - 看通過源o.a.h.mapreduce.Job
,setUseNewAPI()
方法)
mapreduce.inputformat.class
mapreduce.outputformat.class
mapreduce.partitioner.class
mapreduce.map.class
mapreduce.combine.class
mapreduce.reduce.class
有一些更多特性,但它們是次要結構
的輸入和輸出格式,無論是新的還是舊的API版本,通常使用mapred.*
屬性
例如,您的地圖信號減少了您使用的輸入路徑mapred.input.dir
(無論您是usi新的或舊的API)。同爲輸出特性mapred.output.dir
所以長和短的,如果是,如果沒有一個配置屬性(FileInputFormat.setInputPaths(Job, String)
)實用程序方法,那麼你就需要檢查源
0
hadoop.mapred
已被棄用。
使用0.20.1
之前的版本使用mapred
。 之後的版本使用mapreduce
。
我不認爲它們是共存的。
2
是mapred庫已被棄用。 mapreduce庫是hadoop 0.20.1中的新功能..
但是,仍然可以使用mapred提供的一些功能,這就是爲什麼您仍然可以在目錄中找到它的原因。
請看看這個鏈接就知道什麼功能,你仍然可以使用:http://hadoop.apache.org/common/docs/r0.20.0/api/org/apache/hadoop/mapred/package-summary.html
相關問題
- 1. Hadoop Mapreduce配置(新API)
- 2. 的Hadoop和MapReduce配置
- 3. 使用mapred或mapreduce包創建Hadoop作業會更好嗎?
- 4. Hadoop管道和新的mapred軟件包
- 5. 排序順序與Hadoop MapRed
- 6. Hadoop的mapred:附加源HOWTO
- 7. hadoop mapreduce
- 8. hadoop mapred job - 初始化嘗試mapred任務時出錯
- 9. Hadoop Mapreduce wordcount
- 10. Hadoop mapreduce編程
- 11. hadoop mapreduce model java
- 12. Hadoop和MapReduce
- 13. hadoop mapreduce teragen FAIL_CONTAINER_CLEANUP
- 14. hadoop mapreduce兩種
- 15. 在hadoop mapreduce
- 16. hadoop的Dumbo mapreduce
- 17. Hadoop Mapreduce ClassNotFoundException
- 18. Hadoop MapReduce思維
- 19. Hadoop中的MapReduce
- 20. 搭配chmod:無法訪問「/app/hadoop/tmp/mapred/staging/hduser896097807/.staging/job_local89609780chmod:
- 21. 的Hadoop MapReduce的基於Eclipse:清理臨時區域文件:/app/hadoop/tmp/mapred/staging/myname183880112/.staging/job_local183880112_0001
- 22. MapReduce的用Hadoop類型匹配:
- 23. 查找與Hadoop/MapReduce的匹配行
- 24. Hadoop MapReduce vs MPI(vs Spark vs Mahout vs Mesos) - 何時使用另一種?
- 25. MapReduce - 使用hadoop配置對象讀取文本文件
- 26. 是否可以配置運行mapreduce v1框架的hadoop 2.6.0? (classic)
- 27. 如何爲hadoop mapreduce配置java內存堆空間?
- 28. 在hadoop mapReduce項目下設置pom.xml
- 29. Hadoop:設置MapReduce資源權限
- 30. Hadoop配置getConf()返回null
我想我的問題是相當含糊。我不是在問圖書館。我在問兩個不同的hadoop配置參數namings。 – kee