部署使用消息代理的Spark应用程序的最佳实践

时间:2016-05-14 22:08:48

标签: java apache-spark emr messagebroker

我创建了一个Java应用程序,它使用消息代理消息根据消息中发送的参数启动Spark作业。我想在Spark集群(AWS EMR)上部署applocation。为此,我考虑将spark-submit与包含我的应用程序的超级jar一起使用。这种方法的问题是我在部署新版本时会遇到问题。我将不得不从Spark集群中删除该应用程序并提交新版本。有没有办法做到这一点?有没有更好的方法在Spark应用程序中使用消息代理?

0 个答案:

没有答案