如何在Spark应用程序

时间:2017-03-24 17:06:37

标签: google-cloud-dataproc

我希望在Cloud Dataproc作业完成后收到通知。不幸的是,Cloud Dataproc似乎没有提供钩子或某些方式来通知作业的生命周期,我想自己实现这个机制。

我计划在我的Spark应用程序完成作业时推送到Pub / Sub。但是,我如何知道在Spark应用程序中识别作业的信息?如果我可以从下面的应用程序获得User Labels作业,我通过在提交时给出一个唯一标签来利用它,然后在Pub / Sub消息中包含标签键和值。

0 个答案:

没有答案