2017-09-25 91 views
1

我想在AWS lambda函數中使用Spark-sumit REST API來提交jobs.I已經查看了Spark-Jobserver,但看起來需要將它部署在\ n Ec2實例中,但我想使用Spark REST接口使用AWS Lambda函數提交作業。請提示。AWS lambda函數提交spark工作

回答

2

您可以將步驟從lambda添加到EMR羣集。該步驟可以是shell腳本,配置單元或火花作業。

,有助於做到這一點是

emr.addJobFlowSteps(params, function(err, data) 

我使用的獨立集羣添加可用的鏈接API調用電子病歷 http://docs.aws.amazon.com/AWSJavaScriptSDK/latest/AWS/EMR.html

+0

林不使用電子病歷的功能.. – shiv455

+0

你有集羣中的作業服務器? – Achyuth

+0

我沒有使用Spark jobserver,因爲我說我想使用AWS lambda和spark REST接口 – shiv455