Oozie Java操作：傳遞Hbase類路徑

我正在通過oozie java操作運行測試hbase java程序。遇到以下錯誤：Oozie Java操作：傳遞Hbase類路徑

Failing Oozie Launcher, Main class [HbaseTest], main() threw exception, org/apache/hadoop/hbase/HBaseConfiguration 
java.lang.NoClassDefFoundError: org/apache/hadoop/hbase/HBaseConfiguration 
at HbaseTest.main(HbaseTest.java:28) 
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39) 
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25) 
at java.lang.reflect.Method.invoke(Method.java:597) 
at org.apache.oozie.action.hadoop.LauncherMapper.map(LauncherMapper.java:495) 
at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:50) 
at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:417) 
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:332) 
at org.apache.hadoop.mapred.Child$4.run(Child.java:268) 
at java.security.AccessController.doPrivileged(Native Method) 
at javax.security.auth.Subject.doAs(Subject.java:396) 
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1438) 
at org.apache.hadoop.mapred.Child.main(Child.java:262) 
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hbase.HBaseConfiguration 
at java.net.URLClassLoader$1.run(URLClassLoader.java:202) 
at java.security.AccessController.doPrivileged(Native Method) 
at java.net.URLClassLoader.findClass(URLClassLoader.java:190) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:306) 
at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301) 
at java.lang.ClassLoader.loadClass(ClassLoader.java:247) 
... 14 more

程序的命令行運行正常：

java -cp `hbase classpath` HbaseTest

有沒有一種方法，我可以通過「HBase的類路徑」到Oozie的Java的動作輸出。我不想將hbase jar複製到工作流的lib目錄，因爲這將成爲維護開銷。

以下是從workflow.xml java的動作：

<java> 
     <job-tracker>${jobTracker}</job-tracker> 
     <name-node>${nameNode}</name-node> 
     <configuration> 
      <property> 
       <name>mapred.job.queue.name</name> 
       <value>${queueName}</value> 
      </property> 
     </configuration> 
     <main-class>HbaseTest</main-class> 
     <java-opts></java-opts> 
     <arg>HELLO</arg> 
    </java>

來源

2014-10-01 NZ.

由於Oozie的2.3，你可以使用共享庫：

Oozie的支持工作和系統共享庫工作流程作業。

共享庫可以簡化跨工作流應用程序的通用組件的部署和管理。

例如，如果工作流作業使用共享庫與Streaming，Har JAR文件，則不必捆綁工作流應用程序庫/路徑中的那些JAR文件。

如果工作流作業使用共享庫，則Oozie會將所有JAR/SO文件包含在庫的classpath/libpath中以執行其所有操作。

工作流程作業可以使用作業屬性oozie.libpath指定共享庫路徑。

工作流作業可以通過將作業屬性oozie.use.system.libpath設置爲true來使用系統共享庫。

http://oozie.apache.org/docs/3.2.0-incubating/WorkflowFunctionalSpec.html#a17_HDFS_Share_Libraries_for_Workflow_Applications_since_Oozie_2.3

如何安裝： http://oozie.apache.org/docs/4.0.0/DG_QuickStart.html#OozieShareLib

來源

2014-10-27 20:09:35 pedromrnd

Oozie Java操作：傳遞Hbase類路徑

回答

相關問題