問題在cygwin中運行簡單的map-reduce hadoop示例

Question

我只是試圖讓Hadoop在運行64位Windows 7的筆記本電腦上以獨立模式運行。我已經在默認文件夾（c：\ cygwin）中安裝了Cygwin 1.7。我在文件夾c：\ jdk1.7.0_03中擁有最新的JDK，並設置了JAVA_HOME環境變量。

，當我嘗試從一個cygwin提示符下鍵入以下命令：

$ bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+' 

這裏的錯誤，我得到：

12/03/17 19:08:43 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 
java.io.IOException: Failed to set permissions of path: \tmp\hadoop-ehtzrhf\mapred\staging\ehtzrhf837602798\.staging to 0700 
     at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:682) 
     at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:655) 
     at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:484) 
     at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:319) 
     at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189) 
     at org.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:116) 
     at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:848) 
     at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:842) 
     at java.security.AccessController.doPrivileged(Native Method) 
     at javax.security.auth.Subject.doAs(Subject.java:415) 
     at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059) 
     at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:842) 
     at org.apache.hadoop.mapred.JobClient.submitJob(JobClient.java:816) 
     at org.apache.hadoop.mapred.JobClient.runJob(JobClient.java:1253) 
     at org.apache.hadoop.examples.Grep.run(Grep.java:69) 
     at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65) 
     at org.apache.hadoop.examples.Grep.main(Grep.java:93) 
     at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
     at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) 
     at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 
     at java.lang.reflect.Method.invoke(Method.java:601) 
     at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:68) 
     at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:139) 
     at org.apache.hadoop.examples.ExampleDriver.main(ExampleDriver.java:64) 
     at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
     at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) 
     at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 
     at java.lang.reflect.Method.invoke(Method.java:601) 
     at org.apache.hadoop.util.RunJar.main(RunJar.java:156) 

我既Hadoop的1.0.1也Hadoop的嘗試-0.20.205.0並得到相同的問題。我已經更新了我的.bashrc與

export TMP=/cygdrive/c/temp 
export TEMP=/cygdrive/c/temp 

我還添加了Cygwin的bin文件夾的路徑：

export PATH=.:/cygdrive/c/cygwin/bin:$HADOOP_INSTALL/bin 

我也覺得很奇怪它顯示的路徑\ tmp中...而不是/ tmp/...

缺乏重新編譯或運行Linux VM的想法嗎？

Answer 1

固定（主要犛牛剃鬚）

https://issues.apache.org/jira/browse/HADOOP-7682?focusedCommentId=13236645#comment-13236645

Answer 2

我已經成功地得到這個工作，在那裏作業分派，任務執行，結果編制了點。

• [http://en.wikisource.org/wiki/User:Fkorning/Code/Haddoop-on-Cygwin]

但是我們仍然需要得到servlet來了解cygwin的符號鏈接。我不知道如何在Jetty中做到這一點。

這兩個鏈接顯示如何允許Tomcat和碼頭遵循符號鏈接，但我不知道這是否在cygwin中起作用。 * http://www.lamoree.com/machblog/index.cfm?event=showEntry&entryId=A2F0ED76-A500-41A6-A1DFDE0D1996F925 * Configure Symlinks for single directory in Tomcat

否則，我們將不得不開拓碼頭代碼，並與org.apache.hadoop.fs.LinkedFile取代的java.io.File。

Answer 3

下面是一個簡單易用的解決方法，不需要任何犛牛剃鬚：

https://github.com/congainc/patch-hadoop_7682-1.0.x-win