0
我有一個嵌入到Apache Tomcat Web容器中的Map Reduce程序。但是,在運行程序時,它將作爲本地作業運行器運行,而不是在具有jobClient的羣集上運行。 請幫我把作業提交到遠程集羣。什麼是提交作業和配置設置到Java程序的過程?如何從Web應用程序提交作業到hadoop羣集?
我有一個嵌入到Apache Tomcat Web容器中的Map Reduce程序。但是,在運行程序時,它將作爲本地作業運行器運行,而不是在具有jobClient的羣集上運行。 請幫我把作業提交到遠程集羣。什麼是提交作業和配置設置到Java程序的過程?如何從Web應用程序提交作業到hadoop羣集?
當Hadoop找不到配置時,將以本地模式運行。當它可以找到它時,它需要其中包括JobTracker的地址
您可以在/ etc/hadoop/conf /目錄下放置mapred-site xml
或在作業配置中明確設置JobTracker URL。
感謝您的答覆。我嘗試了將jobtracker配置放入程序中,但後來它找不到Mapper類。是否需要創建jar文件將作業提交給hadoop集羣? – 2013-02-19 12:18:53
是的,您必須創建jar並調用「setJarbyClass」讓hadoop知道要發送的jar文件。 – 2013-02-19 19:55:58